重庆工商大学：《计量经济学》课程教学资源（PPT课件）第四章 最小二乘法（二）

第四章最小二乘法 两个自变量的最小二乘法

1 第四章 最小二乘法（二） 两个自变量的最小二乘法

问题的提出 现实生活中引起因变量变化的因素并非 仅只一个自变量,可能有很多个自变量 为了简便先讨论只有两个自变量的线性 模型。 例如,产出往往受各种投入要素——资 本、劳动、技术等的影响;销售额往往 受价格和公司对广告费的投入的影响 所以在一元线性模型的基础上,提出了 元线性模型:Y=a+b1X1+b2X2+u

2 问题的提出 • 现实生活中引起因变量变化的因素并非 仅只一个自变量，可能有很多个自变量。 为了简便先讨论只有两个自变量的线性 模型。 • 例如，产出往往受各种投入要素——资 本、劳动、技术等的影响；销售额往往 受价格和公司对广告费的投入的影响。 • 所以在一元线性模型的基础上，提出了 二元线性模型：Yi=a+b1Xi1+b2Xi2+ui

解决问题的思路 在二元模型中要估计的乃是一个平面。 选取最好“平面”的准则,仍然是实际 点到拟合平面(通常仍称它为拟合直线) 的纵向距离最小—拟合值尽可能逼近 真值,即使残差(实际值减去拟合直线 上对应的Y^值)的平方和最小 于是将问题转化为一个求极值的数学问 题

3 解决问题的思路 • 在二元模型中要估计的乃是一个平面。 • 选取最好“平面”的准则，仍然是实际 点到拟合平面（通常仍称它为拟合直线） 的纵向距离最小——拟合值尽可能逼近 真值，即使残差（实际值减去拟合直线 上对应的Y^值）的平方和最小。 • 于是将问题转化为一个求极值的数学问 题

第一节含两个自变量的 最小二乘法 原始数据的矩阵表示 数学原理 正规方程 正规方程的解 正规方程解的行列式表示 最小二乘法的矩阵表示

4 第一节 含两个自变量的 最小二乘法 原始数据的矩阵表示 数学原理 正规方程 正规方程的解 正规方程解的行列式表示 最小二乘法的矩阵表示

元原始数据 模型:y=a+bx+L分Y=XB+分Y=Y+Y=XB xX1 ∑ Y B u2 Xy xX ∑ X XX X x2 ∑x,∑x xX1 Di xXC (XX XXi xXCn

一元原始数据 ( )  ( )         −         − −  =          =          =          =               =         =               =               = = + +  = +  = + = − x x x x x x x x x x x x y y u u u x x x y y y y x u i i i i i i i i n i i i n n n i i i n n X X n X X X u X Y b a Y X B a b Y XB u Y Y u Y XB 2 2 2 1 2 1 2 2 1 2 1 2 1 1 1 1 , , 1 1 1 , ˆ ˆ ˆ       模型：

原始数据的矩阵表示 模型:y=a+bxn+b2xC2+lY=MB+台Y=Y+Y=XB x11X1 ∑ 2LX 21 ,B=6 2 Xy Xily b Xi y XnI n2 ∑x1∑x X= XI x21 X nI xx=∑x∑x∑xx2 X1 22 X xXC1 ilx℃i2 XXi

原始数据的矩阵表示              =            =              =               =           =               =               = = + + +  = +  = + =            x x x x x x x x x x x x x x x x x y x y y u u u b b x x x x x x y y y y b x b x u i i i i i i i i i i n n i i i i i n n n n i i i i n X X X u X Y a Y X B a Y XB u Y Y u Y XB 2 2 1 2 2 1 2 2 1 1 1 2 1 2 2 2 2 1 1 2 1 1 2 1 2 1 2 1 1 2 2 1 2 2 1 1 1 2 2 1 1 1 2 2 1 1 1 , , 1 1 1 , ˆ ˆ ˆ         模型：

数学原理 模型:y=a+bx1+b2x2+L y =a++b,xi yy+ui Mm=∑∑(v-)=∑(y-(a+bx+63x) ①y-(a+6x+tbx=0m+(xb+xb=∑y aa 2[y-(a+6x1+bx) b 0Cxk+xb+xxb2=∑x oELy-a+b,x +b,x)i b2 Cx2k+②xxb+∑x2)b2=∑x

7 数学原理 ( ) ( ( ))  ( ) ( ) ( )  ( ) ( ) ( ) ( )  ( ) ( ) ( ) ( )   − + +      − + +     − + +   −  − + + =  + + =   =  + + =   =  + + =   = = = = + + = + = − = + + + x x x b x b x y b y a b x b x x x b x x b x y b y a b x b x x b x b y y a b x b x u y y y a b x b x y b x b x y y u u y y y b x b x u i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i a a na a i i Min a a 2 2 2 2 1 2 1 2 2 2 2 1 1 2 1 1 2 2 1 2 1 1 1 2 2 1 1 2 1 1 2 2 2 2 1 1 2 2 2 1 1 2 2 2 2 2 1 1 1 1 2 2 0 0 0 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ 模型：

正规方程 正规方程: na Cx)b+∑x2)b2=∑y △xk+xb+xxb2=∑xy2 (x)+(Ex,x, )b+2x,)b, - Ex,y (3) 由()式解得:a=y一b1x1b2x2 (4) 将(4)式代入(2)、(3)式,经整理得: ∑(x-x)6+∑x-xx2-x)6=∑(x=xXy-)() ∑(x-xx-=xb+∑(x-x)6=∑x2-xy-)(6) 简记为: Σx+∑xxb∑x()(∑x∑xx6∑ ∑元x6+∑61=∑x X1x2 2 x

正规方程 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )( ) ( ) ( )( )         =                     + = + = − − + = − − + − − = − − = − − + + = + + = + + =               −   −              y y y y y y a y a a na x x b b x x x x x x x x b x b x x b x x b x x x x x b x x b x x y x x b x x x x b x x y b x b x x x x b x b x y x x b x x b x y x b x b y i i i i i i i i i i i i i i i i i i i i i i i i i i i                     2 1 2 1 2 1 2 2 1 2 2 1 2 2 2 2 1 1 2 1 2 1 2 1 2 1 2 2 2 1 1 2 1 1 1 2 2 1 1 2 1 1 2 2 1 1 1 2 2 2 1 1 2 2 2 2 1 2 1 2 1 1 2 2 1 2 1 1 1 1 2 2 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ (8) (7) (6) (5) 4 2 3 1 ˆ (4) (3) (2) (1) 简记为： 将（ ）式代入（ ）、（ ）式，经整理得： 由（）式解得： 正规方程：

正规方程的矩阵表示 正规方程: na+ Cxb+∑x2b2=∑y Cx,+Ex, b,+(x,x)b,=Ex,y(2) △x知+△xb+xb2=∑x2y() 正规方程的矩阵表示为: ∑x1∑x ∑y X x∑x1x2|b=|∑x ∑x2∑xx2∑x2人b丿(∑x 即(XX)B=XY→B=(XX)X

9 正规方程的矩阵表示 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) (X X )B X Y B ( X X ) X Y n a a a na x y x y y b b x x x x x x x x x x x x x b x b x y x x b x x b x y x b x b y i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i  =   =               =                       + + = + + = + + = −                       1 2 1 2 1 2 2 1 2 2 1 2 2 1 1 1 2 2 2 2 2 1 2 1 2 1 1 2 2 1 2 1 1 1 1 2 2 (3) (2) (1) 即 正规方程的矩阵表示为： 正规方程：

正规方程的解 na Cxb+∑xb2=∑y Cxk+xb+∑x1xb2=∑xy(2) Cx知+(xxb+Cx2b2=∑x2y() 由()式解得:a=bxb2x2 (4) 将(4)式代入(2)、(3)式,经整理得 ∑(x2-x)∑x-xy-)∑(-xXx2-)(x2xy b ∑(x1-x)∑(x-x)-(x(x xn-xn八x2=x ∑(x-x)∑x2-xy-∑(xn=xXx2x(-xXy ∑(x1-x)∑(xn-x)-(x(x-x)x2-x

10 正规方程的解 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )( ) ( ) ( ) ( ( )( )) ( ) ( )( ) ( )( ) ( )( ) ( ) ( ) ( ( )( )) (6) (5) 4 2 3 1 ˆ (4) (3) (2) (1) 1 1 2 2 2 2 2 2 1 1 2 1 1 2 2 1 1 2 2 1 1 2 2 1 1 2 2 2 2 2 2 1 1 2 2 2 1 1 1 1 2 2 2 2 2 1 2 2 1 1 2 2 2 2 1 2 1 2 1 1 2 2 1 2 1 1 1 1 2 2 ˆ ˆ ˆ ˆ  −  − − −  −     −  − − −  −               −  − − − − − − − = −  − − − − − − − = = − − + + = + + = + + = x x x x x x x x x x x x y x x x x x x y b x x x x x x x x x x x x y x x x x x x y b b x b x x x x b x b x y x x b x x b x y x b x b y i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i i y y y y a y a a na 将（ ）式代入（ ）、（ ）式，经整理得： 由（）式解得： 正规方程：