§2.3一元线性回归模型的参数估计 (Estimation of Simple Linear Regression Model) 参数的普通最小二乘估计(0LS) 参数估计的最大或然法(ML) 三、参数估计的矩法(MM) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计
§2.3 一元线性回归模型的参数估计 (Estimation of Simple Linear Regression Model) 一、参数的普通最小二乘估计（OLS） 二、参数估计的最大或然法(ML) 三、参数估计的矩法(MM) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计
一、参数的普通最小二乘估计(OLS)
一、参数的普通最小二乘估计（OLS）
1、最小二乘原理 。 根据被解释变量的所有观测值与估计值之差的 平方和最小的原则求得参数估计量。 Mm0=∑化-P=∑(g-(a,+月x,》月 ·为什么取平方和？
1、最小二乘原理 • 根据被解释变量的所有观测值与估计值之差的 平方和最小的原则求得参数估计量。 2 2 0 1 1 1 ˆ ˆ ˆ ( ) ( ( )) n n MinQ Y Y Y X = − = − + i i i i • 为什么取平方和？
2、正规方程组 覆 =0 ∑g-月。-月，X,)=0 a四 ∑g,-B。-BX)X,=0 o那， ·该关于参数估计量的线性方程组称为正规方程 组(normal equations)
2、正规方程组 • 该关于参数估计量的线性方程组称为正规方程 组（normal equations）。 0 1 0 ˆ 0 ˆ Q Q = = − − = − − = ) 0 ˆ ˆ ( ) 0 ˆ ˆ ( 0 1 0 1 i i i i i Y X X Y X
3、参数估计量 ·求解正规方程组得到结构参数的普通最小二乘 估计量（ordinary least squares estimators) 及其离差形式： XΣY,-X,2Y,X, 月- Ex yi nX-(2X,)2 x B= Y,X,-∑Y,X, B。=Y-Bx n2X-(X,)2
3、参数估计量 • 求解正规方程组得到结构参数的普通最小二乘 估计量（ordinary least squares estimators） 及其离差形式： − − = − − = 1 2 2 2 2 2 0 ( ) ˆ ( ) ˆ i i i i i i i i i i i i i n X X n Y X Y X n X X X Y X Y X = − = Y X x x y i i i 0 1 1 2 ˆ ˆ ˆ
4、“估计量”（estimator)和“估计值” (estimate)的区别 如果给出的参数估计结果是由一个具体样本资料 计算出来的，它是一个“估计值”，或者“点估 计”，是参数估计量的一个具体数值； · 如果把上式看成参数估计的一个表达式，那么， 则是Y:的函数，而Y:是随机变量，所以参数估计 也是随机变量，在这个角度上，称之为“估计 量
4、 “估计量”（estimator）和“估计值” (estimate)的区别 • 如果给出的参数估计结果是由一个具体样本资料 计算出来的，它是一个“估计值”，或者“点估 计”，是参数估计量的一个具体数值； • 如果把上式看成参数估计的一个表达式，那么， 则是Yi的函数，而Yi是随机变量，所以参数估计 也是随机变量，在这个角度上，称之为“估计 量”
5、例题（采用Eviews进行OLS估计) ·数据 EViews [Group:UNTITLEI File Edit Object View Proc View Proc object Print Name Freeze De obs Y 1 638.0000 800.0000 2 935.0000 1100.000 3 1155.000 1400.000 4 1254.000 1700.000 5 1408.000 2000.000 6 1650.000 2300.000 7 1925.000 2600.000 8 2068.000 2900.000 9 2266.000 3200.000 10 2530.000 3500.000
5、例题（采用Eviews进行OLS估计） • 数据
。 OLS估计 Evievs [Equation:UNTITLED ■orkfile:HTIILED八U File Edit Object View Proc Quick Options Window Help View Proc Object Print Name Freeze Estimate Forecast Stats Resids Dependent Variable:Y Method:Least Squares Date:0g728715T1me:16:38 Sample:1 10 Included observations:10 √ariable Coefficient Std.Error t-Statistic Prob. 142.4000 44.44673 3.203835 0.0125 X 0.670000 0.019189 34.91562 0.0000 R-squared 0.993481 Mean dependent var 1582.900 Adjusted R-squared 0.992666 S.D.dependent var 610.5512 S.E.of regression 52.28814 Akaike info criterion 10.92827 Sum squared resid 21872.40 Schwarz criterion 10.98879 Log likelihood -52.64136 F-statistic 1219.101 Durbin-WVatson stat 1.677411 Prob(F-statistic) 0.000000
• OLS估计
二、参数估计的最大似然法(ML)
二、参数估计的最大似然法(ML)
1、最大似然法 最大以然法(Maximum Likelihood,ML),也称 最大或然法，是不同于最小二乘法的另一种参 数估计方法，是从最大或然原理出发发展起来 的其它估计方法的基础。 。 基本原理：当从模型总体随机抽取组样本观 测值后，最合理的参数估计量应该使得从模型 中抽取该n组样本观测值的概率最大。 ·ML必须已知随机项的分布
1、最大似然法 • 最大似然法(Maximum Likelihood,ML)，也称 最大或然法，是不同于最小二乘法的另一种参 数估计方法，是从最大或然原理出发发展起来 的其它估计方法的基础。 • 基本原理：当从模型总体随机抽取n组样本观 测值后，最合理的参数估计量应该使得从模型 中抽取该n组样本观测值的概率最大。 • ML必须已知随机项的分布