第十章多元回归和相关 "第一节多元回归 ·第二节多元相关和偏相关
第十章 多元回归和相关 ◼ 第一节 多元回归 ◼ 第二节 多元相关和偏相关
本章主要内容有: ①确定各个自变数对依变数的各自效应和综合效应, 即建立由各个自变数描述和预测依变数反应量的多 元回归方程; ■②对上述综合效应和各自效应的显著性进行测验, 并在大量自变数中选择仅对依变数有显著效应的自 变数,建立最优多元回归方程; ■③评定各个自变数对依变数的相对重要性,以便研 究者抓住关键,能动地调控依变数的响应量
本章主要内容有: ◼ ①确定各个自变数对依变数的各自效应和综合效应, 即建立由各个自变数描述和预测依变数反应量的多 元回归方程; ◼ ②对上述综合效应和各自效应的显著性进行测验, 并在大量自变数中选择仅对依变数有显著效应的自 变数,建立最优多元回归方程; ◼ ③评定各个自变数对依变数的相对重要性,以便研 究者抓住关键,能动地调控依变数的响应量
第一节多元回归 ■一、多元回归方程 ■二、多元回归的假设测验 ■三、最优多元线性回归方程的统计选择 ■四、自变数的相对重要性
第一节 多元回归 ◼ 一、多元回归方程 ◼ 二、多元回归的假设测验 ◼ 三、最优多元线性回归方程的统计选择 ◼ 四、自变数的相对重要性
一、多元回归方程 ■多元回归或复回归(multiple regression):依变数 依两个或两个以上自变数的回归。 (一)多元回归的线性模型和多元回归方程式 若依变数Y同时受到m个自变数、Xm 的影响,且这m个自变数皆与Y成线性关系,则这 m+1个变数的关系就形成m元线性回归
一、多元回归方程 ◼ 多元回归或复回归(multiple regression):依变数 依两个或两个以上自变数的回归。 ◼ (一) 多元回归的线性模型和多元回归方程式 ◼ 若依变数Y 同时受到m 个自变数X1、X2、.、Xm 的影响,且这m 个自变数皆与Y 成线性关系,则这 m+1个变数的关系就形成m 元线性回归
·一个元线性回归总体的线性模型为: Y)=FoX0+BX山+B2X2+.+BmXm+Ej (101) 其中,E,~M0,o2)。 一个元线性回归的样本观察值组成为: yj=bo+bxj+b2x2j+.+bmxmitej(102)
◼ 一个m元线性回归总体的线性模型为: 其中, ~N( 0, )。 ◼ 一个m元线性回归的样本观察值组成为: Yj = 0 X0 + 1 X1 j + 2 X2 j ++ m X m j + j j 2 y j = b0 +b1 x1 j +b2 x2 j ++bm x m j + ej (10·1) (10·2)
■一个元线性回归方程可给定为: =b0+b1x1+b2X2+.+bmxm(103) b是、为、Xm都为0时y的点估计值;b是 b123m的简写,它是在为,为,.,Xm皆保持- 定时,X每增加一个单位对的效应,称为?2, 为,.,m不变(取常量)时对y的偏回归系数 (partial regression coefficient)
◼ 一个m元线性回归方程可给定为: b0是x1、x2、.、xm 都为0时y 的点估计值;b1是 by1·23.m 的简写,它是在x2,x3,.,xm 皆保持一 定时,x1 每增加一个单位对y的效应,称为x2, x3,.,xm 不变(取常量)时x1 对y 的偏回归系数 (partial regression coefficient) 。 y = b0 + b1 x1 + b2 x2 ++ bm x m ˆ (10·3)
(二)多元回归统计数的计算 ■(102)用矩阵表示为: 1 X11 Xml (bo y2 1 X12 m2 bi e2 y 1 Xin .Xmn bm en ■即 Y=Xb+e (104)
(二) 多元回归统计数的计算 ◼ (10·2) 用矩阵表示为: ◼ 即 Y=Xb+e (10·4) + = m n m n m m n n e e e b b b x x x x x x y y y 2 1 1 0 2 1 1 1 2 1 1 2 1 1 1 1
■其中 b=(X'X)X'Y (105) (三)多元回归方程的估计标准误 ·Q12m称为多元离回归平方和或多元回归剩余平 方和,它反映了回归估计值和实测值之间的差异。 Q=∑(y-)2=最小 ■自由度:y=n-(m+1) Oy/12.m Sy2mn(m+1) (106)
◼ 其中 (三) 多元回归方程的估计标准误 ◼ Qy/12.m 称为多元离回归平方和或多元回归剩余平 方和,它反映了回归估计值和实测值y之间的差异。 最小 ◼ 自由度: = n-(m+1) b = X X X Y −1 ( ) = − = 2 Q ( y y ˆ) (10·5) sy/12.m ( 1) /12 − + = n m Qy m (10·6)
二、多元回归的假设测验 ■(一)多元回归关条的假设测验 ■测验m个自变数的综合对Y的效应是否显著。若令 回归方程中b1、b2、.、bm的总体回归系数 为RA.、B则这一测验所对应的假设为H6: B=B2=.=Bn=0对HAB不全为0
二、多元回归的假设测验 ◼ (一) 多元回归关系的假设测验 ◼ 测验 m 个自变数的综合对 Y 的效应是否显著。若令 回归方程中b1、b2、.、bm 的总体回归系数 为 、 、. 、 ,则这一测验所对应的假设为H0: 0 对HA: 不全为0。 1 2 m 1 = 2 == m = i
·由于多元回归下SSy可分解为Uw12.m和Qw12.m 两部分,U/12m由为、为、m的不同所引起, 具有v=m;Q12nm与为、为、m的不同无关, 具有=n-(m+1),由之构成的F值: Uy112.m/m (10·8) 2w12m/[n-(m+1)]
◼ 由于多元回归下 SSy 可分解为 Uy/12.m 和 Qy/12.m 两部分,Uy/12.m由 x1、x2、.、x m的不同所引起, 具有 = m;Qy/12.m与 x1、x2、.、xm的不同无关, 具有 =n-(m+1),由之构成的F 值: [ ( )] / / /12 / 1 12 − + = Q n m U m F y m y m (10·8)