第九章相关公式证明过程 多元线性回归模型中的相关系数与回归系数 (一)偏相关系数与偏回归系数 除了简单相关系数之外，还可以定义偏相关系数。一般地说，在多个变量Y、X2,…,Xx 之间，如果纯粹考虑Y与某个解释变量X,之间的相关关系，而控制其它解释变量对它们的 影响，或者说控制其它解释变量不变，那么所得到的相关关系不同于简单相关关系，称为偏 相关关系。根据控制的其它解释变量的不同，可以有一阶偏相关、二阶偏相关、…，K-2 阶偏相关。 一阶偏相关系数，记为x,,表示控制变量X,不变的条件下，Y和X2之间的相关 系数。二阶偏相关系数，记为x,X,X,表示控制变量X,和X4不变的条件下，Y和X,之 间的相关系数。…。以此类推，K-2阶偏相关系数，记为，XX,表示控制变量X,、 X4…Xx等K-2个变量不变的条件下，Y和X,之间的相关系数。 根据偏相关的定义，偏相关系数的计算步骤如下： 第一步，Y对X3做一元线性回归，即估计Y=1+BX3+山1，得到估计值 S。Y的变化由两部分组成，一部分取决于X,一部分取决于样本残差项e,· B=nx,S 根据样本回归函数的性质，我们知道对应的样本残差项e1与回归元X;正交，因此e,与X;无 关，即不包含X,的影响。这样一来，残差项，就剔除了X,对Y的影响。 ew=y-=y,-7-位-7)=y,-=y,-月xi 第二步，X,对X,做一元线性回归，即估计X2=2+B2X,+42,得到估计值 S2。 B2=x:X,Sx 对应的样本残差项e,剔除了X,对X,的影响。 e2=x2-B2x3 第三步，计算e1和e2的简单相关系数，由于样本残差项e1(e2)中是除了X,(X,) 以外，其余因素对Y(X,)的影响，因此这个简单相关系即是控制了X,的影响以后得到 的Y和X,之间的偏相关系数如下式所示 2第九章相关公式证明过程 2 多元线性回归模型中的相关系数与回归系数 （一）偏相关系数与偏回归系数 除了简单相关系数之外，还可以定义偏相关系数。一般地说，在多个变量Y 、X X K , , 2 " 之间，如果纯粹考虑Y 与某个解释变量 X j 之间的相关关系，而控制其它解释变量对它们的 影响，或者说控制其它解释变量不变，那么所得到的相关关系不同于简单相关关系，称为偏 相关关系。根据控制的其它解释变量的不同，可以有一阶偏相关、二阶偏相关、……，K - 2 阶偏相关。 一阶偏相关系数，记为 2 3 YX ,X r ，表示控制变量 X3 不变的条件下，Y 和 X 2 之间的相关 系数。二阶偏相关系数，记为 2 3 4 YX ,X X r ，表示控制变量 X3 和 X 4 不变的条件下，Y 和 X 2 之 间的相关系数。……。以此类推，K - 2 阶偏相关系数，记为 YX X X X K r , , , 2 3 4 " ，表示控制变量 X3 、 X 4 …… X K 等 K - 2 个变量不变的条件下，Y 和 X 2 之间的相关系数。 根据偏相关的定义，偏相关系数的计算步骤如下： 第一步， Y 对 X3 做一元线性回归，即估计 Y = α1 + β1X3 + u1 ，得到估计值 3 1 3 ˆ X Y YX S S β = r 。Y 的变化由两部分组成，一部分取决于 X3 ，一部分取决于样本残差项 1 e 。 根据样本回归函数的性质，我们知道对应的样本残差项 1 e 与回归元 X3 正交，因此 1 e 与 X3 无 关，即不包含 X3 的影响。这样一来，残差项 1 e 就剔除了 X3 对Y 的影响。 ( ) i i i i i i i i e Y Y Y Y Y Y y y y x 1 1 3 ˆ ˆ = − ˆ = − − ˆ − = − = − β 第二步， X 2 对 X3 做一元线性回归，即估计 X 2 = α 2 + β 2 X3 + u2 ，得到估计值 3 2 2 2 3 ˆ X X X X S S β = r 。对应的样本残差项 2 e 剔除了 X3 对 X 2 的影响。 i i i e x x 2 2 2 3 β ˆ = − 第三步，计算 1 e 和 2 e 的简单相关系数，由于样本残差项 1 e （ 2 e ）中是除了 X3 （ X3 ） 以外，其余因素对Y （ X 2 ）的影响，因此这个简单相关系即是控制了 X3 的影响以后得到 的Y 和 X 2 之间的偏相关系数如下式所示