第三章异方差与自相关广义线性模型 本章继续讨论线性模型 Y=X B+E, E(E= (3.0.1) 所不同在于以前的关于误差方差的假定是 Var(ε)= (3.02) 这一章逐次推广讨论。第一节讨论异方差的存在与检验,尤其是在经济模型资料中的存在与影 响,第二节讨论的是 lar(E)=dag(a2,…2)a2,i=1…,n已知 (3.0.3) raur(s)=dig(a2,a2,…G2…,a2,a2,…,a2),a2,a2未知(3.04) ar()=dlag(o2,…,o2),o2=exp(z;a),a未知 (3.0.5) 这些都是误差方差为对角阵的模型 第三节讨论自相关线性模型。首先讨论的是残差一阶自回归线性模型,它的残差满足 E= pei-+U (3.0.6) E(U)=0.E(U2)=a2,E(D)=0(≠ (3.0.7) 此时残差ε;的方差虽不为对角阵,但只含一个参数。接着我们介绍自回归条件异方差(ARCH) 模型,它的误差假设是 (3.0.8) E(U)=O,E(U=0E(UD)=0,(i+j) (3.0.9) 因为模型计算中用到了广义矩估计方法(GMM),我们在第四节又介绍了GMM 第五节讨论的是 ar(E)=a2M>0,a2未知,M已知 (3.0.10) 第六节讨论的是 Iar(E)=a2M≥0,a2未知,M已知 (3.0.11) 所讨论的内容还是各种回归模型、算法及性质
1 第三章 异方差与自相关广义线性模型 本章继续讨论线性模型 Y=Xβ+ε, E (ε)=0 (3.0.1) 所不同在于以前的关于误差方差的假定是 Var(ε)=σ2 In (3.0.2) 这一章逐次推广讨论。第一节讨论异方差的存在与检验,尤其是在经济模型资料中的存在与影 响,第二节讨论的是 Var( ) diag( , , n ), i ,i 1, ,n 2 2 2 = 1 = 已知 (3.0.3) 2 2 2 1 2 2 2 2 2 2 2 1 2 1 2 1 Var() = diag( , , , , , , , , ), , 未知 (3.0.4) ( ) ( , , ), exp( ) 2 2 2 Var = diag 1 n i = Zi , 未知 (3.0.5) 这些都是误差方差为对角阵的模型。 第三节讨论自相关线性模型。首先讨论的是残差一阶自回归线性模型,它的残差满足 i i i = −1 + (3.0.6) ( ) 0, ( ) , ( ) 0,( ) 2 2 E E E i j i = i = i j = (3.0.7) 此时残差εi 的方差虽不为对角阵,但只含一个参数。接着我们介绍自回归条件异方差(ARCH) 模型,它的误差假设是 i i p i p i = + − + + − + 2 2 0 1 1 2 (3.0.8) ( ) 0, ( ) , ( ) 0,( ) 2 2 E E E i j i = i = i j = (3.0.9) 因为模型计算中用到了广义矩估计方法(GMM),我们在第四节又介绍了 GMM。 第五节讨论的是 2 2 Var() = M 0, 未知,M 已知 (3.0.10) 第六节讨论的是 2 2 Var() = M 0, 未知,M 已知 (3.0.11) 所讨论的内容还是各种回归模型、算法及性质
第一节异方差的存在与检验 异方差的存在与影响 前面介绍的线性回归模型,都是假定随机误差项ε;独立同分布,有相同的方差 E(E1)=0,ar(E;) (3.1.1) 但是实际抽样很难保证这一点。经济对象千差万别,可以按不同标准划分成不同的群体。这些 群体间的差别导致样本方差不一致,于是就有所谓异方差( Heteroscedasticity) E(E1)=0,a (3.1.2) 反映在散点图上,如下图可以明显看出样本方差与点(X,Y)有关,随着样本数值增大而增大。 图3.1 由于样本方差的差异,原来最小二乘估计的一些优良性质不再存在。如在一元线性回归 Y=Bo+B,X+E, i 我们知道最小二乘估计 ∑(X1-X-Y) B (3.14) ∑(X1-X)2 A=F-Ax=∑ X(X, -X n S 于是
2 第一节 异方差的存在与检验 一、异方差的存在与影响 前面介绍的线性回归模型,都是假定随机误差项εi 独立同分布,有相同的方差 (Homoscedasticity) 2 E( i ) = 0, Var( i ) = (3.1.1) 但是实际抽样很难保证这一点。经济对象千差万别,可以按不同标准划分成不同的群体。这些 群体间的差别导致样本方差不一致,于是就有所谓异方差(Heteroscedasticity): 2 ( ) 0, ( ) E i Var i i = = (3.1.2) 反映在散点图上,如下图可以明显看出样本方差与点 (Xi, Yi)有关,随着样本数值增大而增大。 图 3.1.1.1 由于样本方差的差异,原来最小二乘估计的一些优良性质不再存在。如在一元线性回归 Yi = 0 + 1Xi + i , i =1, ,n (3.1.3) 我们知道最小二乘估计 = = = − = − − − = = n i i XX i n j i n i i i XX XY Y S X X X X X X Y Y S S 1 1 2 1 1 ( ) ( )( ) ˆ (3.1.4) = − = − = − n i i XX i Y S X X X n Y X 1 0 1 1 ( ) ˆ ˆ (3.1.5) 于是
Var(B) (X;-X) (3.16) 1 X(X-X a(B0) Var(Y) (3.1.7) n 现在(Y)不是常量,我们就无法证明B1,B0是最小方差线性无偏估计。显著性检验也成了 问题。原来构造的F统计量是分子分母都含有未知参数a2,可以分别提取公因式再约去,现 在是异方差,按原来方法构造的F统计量里的未知参数无法直接约去,预测精度也无法保证 差不多原来推导的各种统计方法、统计性质由于基础动摇而都需重新考虑 因此我们需要将一般线性回归模型推广。不过在推广之前,首先要解决异方差的检验问 、异方差的检验 异方差的检验一般需要比较大的样本,一般都是作所谓残差分析 ···° 图3.1.2.1 最简单直观的方法是将残差平方
3 ( ) ( ) ) ˆ ( 2 1 1 i n i XX i Var Y S X X Var − = = (3.1.6) ( ) 1 ( ) ) ˆ ( 2 1 0 i n i XX i Var Y S X X X n Var − = − = (3.1.7) 现在 Var(Yi)不是常量,我们就无法证明 1 0 ˆ , ˆ 是最小方差线性无偏估计。显著性检验也成了 问题。原来构造的 F 统计量是分子分母都含有未知参数σ2 , 可以分别提取公因式再约去,现 在是异方差,按原来方法构造的 F 统计量里的未知参数无法直接约去,预测精度也无法保证。 差不多原来推导的各种统计方法、统计性质由于基础动摇而都需重新考虑。 因此我们需要将一般线性回归模型推广。 不过在推广之前,首先要解决异方差的检验问 题。 二、异方差的检验 异方差的检验一般需要比较大的样本,一般都是作所谓残差分析。 图 3.1.2.1 最简单直观的方法是将残差平方 2 e ˆ Y ˆ Y ˆ 2 e ˆ 2 e ˆ 2 e ˆ Y Y ˆ ˆ
e2=(1-x1)2,i=1…n 与y,画在一张图上,大致可以看出残差是否发生改变。图3.1.2.1除了第1个图外,其余图像 都指示有异方差。 还有一些方法对异方差问题作统计检验。 1.Park检验 R. E. Park建议将o2看作解释变量X的函数,并使用函数形式为 (3.1.9) 或取对数 In o=In o+BIn X,+U 其中U是随机分布项。因为σ2未知,就用残差项的平方e2代替 In ei =In o+BIn Xi+u 对上式作回归,并作假设检验。若B=0成立,则认为异方差不成立:若B≠0成立,则认为 异方差成立 Park检验要作两次最小二乘,第一次是对原始资料对(X,Y),获得Y,e;第二次是对 (X,e2)。从某种意义上讲,是用第二次最小二乘去否定第一次最小二乘,用第二次假设去否 定第一次假设 类似的还有 Glejser检验,不过使用的回归方程不一样 2. Breusch Pagan Godfrey(BPG检验 这里考虑的是多元问题,基本思想差不多。设原始资料满足模型 Y=Bo+BIX, Bnx 先用普通最小二乘获得Y2e1,作 G2=∑2=(- (3.1.11) 注意这里不是G=nm=1201-).然后定义变量 P1=e2/G2 (3.1.12)
4 ei Yi Yi ) , i 1, ,n ˆ ˆ ( 2 = − 2 = (3.1.8) 与 Yi ˆ 画在一张图上,大致可以看出残差是否发生改变。图 3.1.2.1 除了第 1 个图外,其余图像 都指示有异方差。 还有一些方法对异方差问题作统计检验。 1. Park 检验 R. E. Park 建议将 2 i 看作解释变量 X 的函数,并使用函数形式为 i X e i i 2 2 = (3.1.9) 或取对数 i = + Xi + i ln ln ln 2 2 其中 i 是随机分布项。因为 2 i 未知,就用残差项的平方 2 ˆ i e 代替 i Xi i ln e ˆ = ln + ln + 2 2 对上式作回归,并作假设检验。若β=0 成立,则认为异方差不成立;若β≠0 成立,则认为 异方差成立。 Park 检验要作两次最小二乘,第一次是对原始资料对(Xi, Yi), 获得 i i Y ,e ˆ ˆ ;第二次是对 ( 2 , ˆ i i X e )。从某种意义上讲,是用第二次最小二乘去否定第一次最小二乘,用第二次假设去否 定第一次假设。 类似的还有 Glejser 检验,不过使用的回归方程不一样。 2. Breusch Pagan Godfrey (BPG)检验 这里考虑的是多元问题,基本思想差不多。设原始资料满足模型 Yi X i m X mi i = + ++ + 0 1 1 (3.1.10) 先用普通最小二乘获得 i i Y ,e ˆ ˆ ,作 = = = = − n i i i n i i Y Y n e n 1 2 1 2 2 ) ˆ ( 1 ˆ ~ 1 (3.1.11) 注意这里不是 = − − − = n i Yi Yi n m 1 2 2 ) ˆ ( 1 1 ˆ 。然后定义变量 2 ~2 pi = e ˆ i / (3.1.12)
用p与去作回归 P1=ao+a1X1+…+amXm+ (3.1.13) 而获得回归平方和SEs,定义统计量 (p-p)2 可以证明在正态假设下,当样本容量充分大时,有渐近分布: Q~xm-1,(n→∞) (3.1.15) 于是对给定显著性水平,当超过x2分布的临界值时,就拒绝同方差假设,接受异方差假设 算例32消费收入异方差资料的BPG检验 在文献[1]里,收有一组消费(Y)与收入(X)的资料,共60对,要求作异方差检验 表312消费(Y,收入(X资料 152 140 210. 108 145 245 113 150 l10 160 120 165 l15 140 270 125 137 205 105 80 210 85 145 145 115 80 175 120 260 185 191 270
5 用 pi 与 Xji 去作回归 pi =0 +1X1i ++ m X mi +i (3.1.13) 而获得回归平方和 SES, 定义统计量 = = = − n i S ES pi pi 1 2 ( ˆ ) 2 1 2 1 (3.1.14) 可以证明在正态假设下,当样本容量充分大时, 有渐近分布: ~ ,( ) 2 m−1 n → (3.1.15) 于是对给定显著性水平,当 超过 2 分布的临界值时,就拒绝同方差假设,接受异方差假设。 算例 3.1.2 消费-收入异方差资料的 BPG 检验 在文献[1]里,收有一组消费(Y)与收入(X)的资料,共 60 对,要求作异方差检验。 表 3.1.2 消费 (Y),收入 (X) 资料 Y X Y X Y X 55. 80. 152. 220. 95. 140. 65. 100. 144. 210. 108. 145. 70. 85. 175. 245. 113. 150. 80. 110. 180. 260. 110. 160. 79. 120. 135. 190. 125. 165. 84. 115. 140. 205. 115. 180. 98. 130. 178. 265. 130. 185. 95. 140. 191. 270. 135. 190. 90. 125. 137. 230. 120. 200. 75. 90. 189. 250. 140. 205. 74. 105. 55. 80. 140. 210. 110. 160. 70. 85. 152. 220. 113. 150. 75. 90. 140. 225. 125. 165. 65. 100. 137. 230. 108. 145. 74. 105. 145. 240. 115. 180. 80. 110. 175. 245. 140. 225. 84. 115. 189. 250. 120. 200. 79. 120. 180. 260. 145. 240. 90. 125. 178. 265. 130. 185. 98. 130. 191. 270
当然在计算机数据文件里它是排成2列,而不是6列。使用我们自编的异方差检验程序, 算得原始资料回归方程为 X1=92903+06378X (3.1.16) 再将p对X回归,得方程 =-0.7426+00101X (3.1.17) 程序算得统计量 Q=52140 (3.1.18) 从程序自带的电子数表上查得x09(1)=66349,因为5214066349,故在001的显著性水平 不认为异方差存在,于是有了进一步回归分析的可能。当取显著性水平为005时,xa29(1) 3.8414,于是认为异方差存在,就只打印一般最小二乘回归结果,不能作出基于正态同方差的 统计检验 实际计算执行过程如下,由于F统计量高达472,再看拟合效果图(图3.12.2),(,) 与(Y1,)确实拟合非常好。很难想象这里面还会有什么问题。下面是计算过程与结果 异方差资料BPG检验计算程序,例3.1.2 第一列为Y,以后各列为X 例312D数据文件中,n=60,M=1 要显示原始资料吗?0=不显示,1=显示(0) 原始资料回归方程:Y=b0+bl*Ⅺ1+….+bm*Xm 回归系数b0b1,b2,9.29036378 残差平方和:472231回归平方和:83773.38 误差方差的估计 0000标准差 8.8716 请输入卡方检验的置信水平(0.01) BPG检验结果:显著性水平:01统计量52140卡方临界值:66349 方差资料回归方程:Pi=a0+al*X1+…+am*Xm 回归系数a0,a,a2 74260101 0000 残差平方和 9782回归平方和 误差方差的估计:000标准差=1.2768 BPG检验通过,不认为有异方差,对原始资料进行一般回归分析并打印计算结果 现在作线性回归显著性检验,计算tF,R统计量 请输入显著性水平a,通常取a=0.01,0.05,0.10,a=?(0.01) 线性回归分析计算结果
6 当然在计算机数据文件里它是排成 2 列,而不是 6 列。使用我们自编的异方差检验程序, 算得原始资料回归方程为 Yi 6378Xi 9.2903 0. ˆ = + (3.1.16) 再将 pi 对 Xi 回归,得方程 pi 0101Xi ˆ = −0.7426 + 0. (3.1.17) 程序算得统计量 = 5.2140 (3.1.18) 从程序自带的电子数表上查得 (1) 2 0.99 =6.6349,因为 5.2140<6.6349,故在 0.01 的显著性水平, 不认为异方差存在,于是有了进一步回归分析的可能。当取显著性水平为 0.05 时, (1) 2 0.95 = 3.8414,于是认为异方差存在,就只打印一般最小二乘回归结果,不能作出基于正态同方差的 统计检验。 实际计算执行过程如下,由于 F 统计量高达 4722,再看拟合效果图 (图 3.1.2.2),( Y I i , ) 与( Y I i , ˆ )确实拟合非常好。很难想象这里面还会有什么问题。下面是计算过程与结果。 ------------------------------------------------------------------------------------------------------------------------- 异方差资料 BPG 检验计算程序, 例 3.1.2. 第一列为 Y, 以后各列为 X 例 312.D 数据文件中, n=60, M=1 要显示原始资料吗? 0=不显示, 1=显示 (0) 原始资料回归方程 : Y = b0 + b1*X1 + ... + bm*Xm 回归系数 b0,b1,b2, 9.2903 .6378 .0000 残差平方和: 4722.31 回归平方和: 83773.38 误差方差的估计 : .0000 标准差 = 8.8716 请输入卡方检验的置信水平 (0.01) BPG 检验结果: 显著性水平: .01 统计量 5.2140 卡方临界值: 6.6349 方差资料回归方程 : Pi = a0 + a1*X1 + ... + am*Xm 回归系数 a0,a1,a2, -.7426 .0101 .0000 残差平方和: 97.82 回归平方和: 20.86 误差方差的估计 : .0000 标准差 = 1.2768 BPG 检验通过, 不认为有异方差, 对原始资料进行一般回归分 析并打印计算结果 现在作线性回归显著性检验, 计算 t,F,R 统计量 请输入显著性水平 a, 通常取 a=0.01, 0.05, 0.10, a=? (0.01) ----------------------------------------------------- 线 性 回 归 分 析 计 算 结 果
样本总数60 自变量个数 回归方程Y=b0+bl*X1+.+bl*Xl 9.2903+ 6378X1 回归系数b0,bl,b2,,bl 9.2903 6378 残差平方和:472231回归平方和:83773.38 误差方差的估计 78.7051标准差=8.8716 线性回归显着性检验显著性水平:010 回归方程整体显著性F检验,H0bO=b1=.=bl F统计量:10289160F临界值F(1,58)7.093 全相关系数R 9730 回归系数逐一显著性t检验,H0bi=0,i=1,,1 t临界值t58)2.3924 回归系数bl-bl的t值:7.6158 要作回归预测吗?键入0=不预测,1=要预测(0) 要打印拟合数据吗?0=不打印,1=打印(0) 计算结束。 圖3.1.2.2 250 200 150 原始数据 100 拟合数据 39E883斯守界的后 再看原始资料的散点图(Y,X1)(图3.1.23),觉得资料似乎分为两段,前段方差较小,后
7 样本总数 60 自变量个数 1 ----------------------------------------------------- 回归方程 Y = b0+b1*X1+...+b1*X1 Y = 9.2903 + .6378 X1 回归系数 b0, b1, b2, ..., b1 9.2903 .6378 ----------------------------------------------------- 残差平方和: 4722.31 回归平方和: 83773.38 误差方差的估计 : 78.7051 标准差 = 8.8716 ----------------------------------------------------- 线 性 回 归 显 着 性 检 验 显著性水平 : .010 ----------------------------------------------------- 回归方程整体显著性 F 检验, H0:b0=b1=...=b1=0 F 统计量: 1028.9160 F 临界值 F(1, 58) 7.093 全相关系数 R : .9730 ----------------------------------------------------- 回归系数逐一显著性 t 检验, H0:bi=0, i=1,...,1 t 临界值 t( 58) 2.3924 回归系数 b1-b 1 的 t 值: 7.6158 ----------------------------------------------------- 要作回归预测吗? 键入 0=不预测, 1=要预测 (0) 要打印拟合数据吗? 0=不打印, 1=打印 (0) 计算结束。 ------------------------------------------------------------------------------------------------------------------------- 圖3.1.2.2 0 50 100 150 200 250 1 5 9 13 17 21 25 29 33 37 41 45 49 53 57 原始数据 拟合数据 再看原始资料的散点图 (Yi, Xi ) (图 3.1.2.3),觉得资料似乎分为两段,前段方差较小,后
段方差较大 279.50 237.60 195.71 153.82 111.92 70.03 TTT 47.86"7.85107.84137.82167.81197.80 再看残差图[e2,F](图3.24,确实存在明显的异方差,在y=140以前,方差较小 在Y=140以后,方差明显增大 这些图像都由本软件自动生成,很方便 431.14 340.6D 159.52 21.56 47.867.85107.84137.82167.81197.80 图3.1.24 第二节协方差为对角阵的广义线性模型 、协方差为已知对角阵与广义最小二乘 我们先考虑简单的情况,设模型为
8 段方差较大。 图 3.1.2.3 再看残差图[ i Yi e ˆ , 2 ](图 3.1.2.4), 确实存在明显的异方差,在 Y=140 以前,方差较小, 在 Y=140 以后,方差明显增大。 这些图像都由本软件自动生成,很方便。 图 3.1.2.4 第二节 协方差为对角阵的广义线性模型 一、协方差为已知对角阵与广义最小二乘 我们先考虑简单的情况,设模型为
Y=XB+a (3.2.1) E(E)=0,la(E)=Φ=diug(G12,O2,…,Gn) 如果σ2,i=1,…,n已知,也就是已知,则我们定义B的广义最小二乘估计为 X-Y 广义最小二乘估计( Generalized Least Square Estimate)简称为GLS估计,是A.C. Aitken(1934) 首先提出来的。 在中是对角阵的情形,容易找到 P=diag(o,- 使得 PP=Φ (3.24) 我们定义变换 X=PX,Y=PY.E′=PE (3.2.5) 则原模型成为 X B (3.26) LE(E)=0,var(e)=I B=(XX)XY (3.2.7) 这就转化成了普通的最小二乘估计 这种情况的估计也称为加权最小二乘估计( Weighted Least Square Estimate,wLS估计), 因为我们实际上是对观测值作了加权处理,权函数是;,i=1…,n。此时我们极小化的函数 =(Y-B)Φ(Y-HB) (3.2.8) 我们看到,较小的σ;将使该项变大,从而发挥较大的作用,而较大的σ;表示该项资料不可靠 就使其发挥较小的作用。这一点从 B=∑aXX∑a2x (3.2.9) 也容易看出 仅含两个未知方差量的模型
9 = = = = + ( ) 0, ( ) ( , , , ) 2 2 2 2 E Var diag 1 n Y X (3.2.1) 如果 i ,i 1, , n 2 = 已知,也就是Φ已知,则我们定义β的广义最小二乘估计为 X X X Y 1 1 1 ( ) ˆ − − − = (3.2.2) 广义最小二乘估计 (Generalized Least Square Estimate) 简称为 GLS 估计,是 A. C. Aitken(1934) 首先提出来的。 在Φ是对角阵的情形,容易找到 ( , , , ) 1 1 2 1 1 − − − P = diag n (3.2.3) 使得 −1 PP = (3.2.4) 我们定义变换 X = PX Y = PY = P * * * , , (3.2.5) 则原模型成为 = = = + n E Var I Y X ( ) 0, ( ) * * * * * (3.2.6) *' * 1 *' * ( ) ˆ X X X Y − = (3.2.7) 这就转化成了普通的最小二乘估计。 这种情况的估计也称为加权最小二乘估计 (Weighted Least Square Estimate, WLS 估计), 因为我们实际上是对观测值作了加权处理,权函数是 i ,i 1, ,n −1 = 。此时我们极小化的函数 是 = − = − − n i i i Y X Y X 1 1 2 ( ) ( ) (3.2.8) 我们看到,较小的σi 将使该项变大,从而发挥较大的作用,而较大的σi 表示该项资料不可靠, 就使其发挥较小的作用。这一点从 = − − = − = n i i i n i i Xi Xi X Y 1 2 1 1 ˆ 2 (3.2.9) 也容易看出。 二、仅含两个未知方差量的模型
下面考虑方差未知的情况,很明显这时未知方差不能太多。如果是Φ=dlag(a2,…,o2) 全部未知,我们就无从下手了。因为一共只有n组资料,如何去估计n个方差? 我们就假定只有两个方差量的情况,a2与G2未知,模型被划分为 B 82 这里Ynx1,Xmxm,B nI n。 (12),X=(x1X2)2E'=(si2 o 0 E2) 0 这样模型可以被划分成两个模型,它们必须要有相同的回归系数,但方差则不同 X,B+E,, ar(e (3.2.12) Y,=X2B+E,, ar(a)=o,I 我们当然不能想象这两个子模型完全分开,各算各的。 在G和2已知时,由前一段的广义最小二乘方法,有 B=Crwb-lxylxoly(XiXi+XiX(x'Y+xY (3.2.13) 现在情况是G与a2未知,必须先估计它们。这倒不难,方差是分开的,在各自的子模型中 估计就是了 (X-X1B)(1-XB,i=1 n (3.2.14) B=(X: X X 在有了各自的方差估计后,在(32.13中以G换a2就回到B的估计 B=(X-X-X(p-Y X1X2X2X'Y x2Y2 (3.2.15) 0. 0 可以证明B的渐近性质 (3.2.16)
10 下面考虑方差未知的情况,很明显这时未知方差不能太多。如果是 ( , , ) 2 2 = diag 1 n 全部未知,我们就无从下手了。因为一共只有 n 组资料,如何去估计 n 个方差? 我们就假定只有两个方差量的情况, 2 2 2 1与 未知,模型被划分为 + = 2 1 2 1 2 1 X X Y Y (3.2.10) 这里 Y X i n n n i i i in 1 , in m , m1 , in 1 , = 1,2; 1 + 2 = 。 ( ), ( ), ( ) 1 2 1 2 1 2 Y = YY X = XX = 。 = = 2 1 2 2 2 1 1 2 2 1 0 0 ( ) ( ) n n I I Var E (3.2.11) 这样模型可以被划分成两个模型,它们必须要有相同的回归系数,但方差则不同。 = + = = + = 2 2 2 2 2 2 2 1 2 1 1 1 1 1 , ( ) , ( ) n n Y X Var I Y X Var I (3.2.12) 我们当然不能想象这两个子模型完全分开,各算各的。 在 2 1 和 2 2 已知时,由前一段的广义最小二乘方法,有 + + = = − − − − 2 2 2 2 2 1 1 1 1 2 2 2 2 2 1 1 1 1 1 1 ( ) ˆ X X X X X Y X Y X X X Y (3.2.13) 现在情况是 2 1 与 2 2 未知,必须先估计它们。这倒不难,方差是分开的,在各自的子模型中 估计就是了: = = − − = − = − = − ( ) , 1,2 ˆ ), 1,2 ˆ ) ( ˆ ( 1 1 2 X X X Y i Y X Y X i n m n m S i i i i i i i i i i i i i RS i (3.2.14) 在有了各自的方差估计后,在 (3.2.13)中以 2 ˆ i 换 2 i 就回到β的估计 + + = = − − − − 2 2 2 2 2 1 1 1 1 2 2 2 2 2 1 1 1 1 1 1 ˆ ˆ ˆ ˆ ( ) ˆ ˆ X X X X X Y X Y X X X Y (3.2.15) 可以证明 ˆ ˆ 的渐近性质 ) ) ˆ ) (0,( ˆ ˆ ( −1 −1 n − ⎯→N X X d (3.2.16)