异方差性、自相关以及广义最小二乘（GLS、FGLS）
                  蒋岳祥
                  （浙江大学经济学院）
一、古典模型中的b的非线性函数的分布及其检验
二、异方差性和自相关（非球形扰动）
1、问题的提出
2、广义最小二乘（GLS）
3、可行广义最小二乘（FGLS）
三、异方差不含自相关的检验（怀特检验）
一、古典模型中的b的非线性函数的分布及其检验
b的函数的渐近分布——得尔塔方法
  斯拉茨基定理  对一个不是n的函数的连续函数g(xn)，有
如果f(b)是一组关于最小二乘估计量J个连续的线性或非线性的函数并令
G是J×K矩阵，其中第j行是第j个函数关于b的导数。利用（4-21）的斯拉茨基（Slutsky）定理，
并且
，
于是
                    （0）
实际上，渐近协方差矩阵的估计量是
如果某个函数是非线性的，则b的无偏的性质不会传给f(b)。不过从（0）中可得f(b)是f(β)的一致估计量，而且渐近协方差矩阵很容易获得。对f(β)的检验也很容易。
二、异方差性和自相关（非球型扰动）
一）问题的提出
多元化回归模型扰动项违背古典假设的更一般的模型是广义回归模型，即假设
            （1）
其中Ω是一般的正定矩阵，而不是在古典假设的情况下的单位矩阵。古典假设条件情况只是这种模型的一个特例。
我们将仔细考察的两种情况是正则化协方差异方差性和自相关。
当扰动项有不同的方差时，它们就是异方差的，异方差性经常产生于横截面数据，其中因变量的尺度（scales）和模型解释能力在不同的观察值之间倾向于变动。我们仍然假设不同观测值之间扰动无关。因此σ2Ω是
自相关经常出现在时间序列数据中，经济时间序列经常表现出一种“记忆”，因为变化在不同时期之间不是独立的。时间序列数据通常是同方差的，因此σ2Ω可能是
非对角线上的值依赖于扰动项的模式。
普通最小二乘法的结果
具有球形干扰项
和
                                （2）
重申前面的内容，普通最小二乘估计量，
                  （3）
是最佳线性无偏的、一致的和渐近正态分布的（CAN=Consistent and asymptotically normally distributed），并且如果干扰项服从正态分布，在所有CAN估计量中它是渐近有效的。现在我们考察哪些特性在（1）模型中仍然成立。
有限样本特性
对（3）两边取期望，如果，则
                        （4）
如果回归量和扰动项是无关的，则最小二乘法的无偏性不受（2）假设变化的影响。
最小二乘法估计量的样本方差是
                 
                 
（5）
在（3）中，b是的线性函数。因此，如果服从正态分布，则
由于最小二乘估计量的方差不再是，任何基于的推断都可能导致错误。不仅使用的矩阵是错误的，而且s2也可能是的有偏估计量。通常无法知道是比b的真正方差大还是小，因此即使有的一个好的估计，Var[b]的传统估计量也不会有用。
最小二乘法的渐近特性
如果Var[b]收敛于0，则b是一致的。使用表现良好的回归量，将收敛到一个常数矩阵（可能是0），并且最前面的乘子将收敛于0。但不一定收敛，如果它收敛，则普通最小二乘是一致的和无偏的。因此
如果都是有限正定矩阵，则b是β的一致估计量。
上述结论成立的条件依赖于X和Ω。另一种分离这两个组成部分的办法是：如果
1、X′X最小的特征根当时无限制地增加，这意味着；
2、Ω最大的特征根对于所有n都是有限的。对于异方差模型，方差就是特征根。因此，要求它们是有限的。对于有自相关的模型，这要求Ω的元素有限并且非对角线元素与对角线元素相比不是特别大。那么，普通最小二乘法在广义回归模型中是一致的。
说明普通最小二乘法是不一致的模型
假定回归模型是，其中的均值为0，方差为常数并且在不同观测值之间具有相同的相关系数。于是
矩阵X是一列1。μ的普通最小二乘估计量是。把Ω代入（5），得

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。