最小二乘法的矩阵表示 模型:y=a+bxn+b2x2+L分Y=XB+Y=Y+i u=y-yB i=Y-BX ii= 2i(Y-XB)(Y-XB)=YY-YXB-B'XY+ B'XXB XI 1x11m3x130(yX)=BXx7是一个数 YY-2B'YY+BXXB =∑2=mm(y-2Bxy+x68x) ∑a)ayy-2XBY+BXAB 2XY+2XXB=0 aB aB XXB=XY (XX)XXB=(XX)XY B=(rX)XY 以一元模型y=a+bx+L为例 ∑x XX x (XX) x y=/∑ y x x xiy xX;∑x最小二乘法的矩阵表示 ( )( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )          =         − −  =          = = + +  =    =   =   = −  +  =    −   +   =   =  −   +   = =  −   +   =     = = − − =  −  −   +   = − = − = + + +  = + = +             − − − − x y y X Y n n X X n X X a b X XB X Y X X X XB X X X Y B X X X Y X Y X XB B Y Y X B Y B X XB B Y Y B X Y B X XB Min Y Y B X Y X B BX Y XB B X Y u u Y XB Y XB Y Y Y XB B X Y B X XB u Y XB u Y BX a Y XB u Y Y u i i i i i i i i i i i i i i i i i X X XnnX X X XnnX i i i i i x x x x x x x x x y x u u u u y b x b x u 2 2 1 2 1 1 1 2 2 1 1 1 1 1 3 3 1 1 3 3 1 2 1 1 2 2 2 2 0 ˆ ˆ ˆ 2 ˆ ˆ ˆ min 2 ˆ ˆ ˆ 2 ˆ ˆ ' ˆ ˆ ˆ ˆ ˆ ˆ ' ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ 以一元模型 为例： 是一个数 模型：