第三章最小二乘法(一) 元线性回归
第三章 最小二乘法（一） 一元线性回归
郝东林同学的来信 席老师 你好 ·我是97经济学班的学生。我在网上浏览了你的计量 经济学园地网址,觉得比看课本有趣易懂多了。可以 看出,您在上面一定花费了大量的心血 ·平时,我也比较喜欢玩电脑,如果在文字录入、编 辑排版等方面需要我帮忙的话,我很乐意为您和您精 心建立的网页尽自己的一份力量。当然,这对我也是 种锻炼和提高。课后和其他同学聊天,我们都由衷 的称赞您关心我们(是您使我们班同学切身体会到了 学好电脑的重要性),同时,我们有信心把计量经济 学这门课学好
2 郝东林同学的来信 • 席老师： • 你好。 • 我是97经济学班的学生。我在网上浏览了你的计量 经济学园地网址，觉得比看课本有趣易懂多了。可以 看出，您在上面一定花费了大量的心血。 • 平时，我也比较喜欢玩电脑，如果在文字录入、编 辑排版等方面需要我帮忙的话，我很乐意为您和您精 心建立的网页尽自己的一份力量。当然，这对我也是 一种锻炼和提高。课后和其他同学聊天，我们都由衷 的称赞您关心我们（是您使我们班同学切身体会到了 学好电脑的重要性），同时，我们有信心把计量经济 学这门课学好
不过,我还有一点疑问,到现在为止,我们在课堂上 学习的还都是数学方面的内容,根本看不出与经济方 面有多少密切的联系。不知道当我们学完这门功课后, 凭我们那一丁点儿计量经济学知识,能否在日常工作 生活中对自己有所帮助? 再次感谢席老师 学生:郝东林 2000年3月6日
3 • 不过，我还有一点疑问，到现在为止，我们在课堂上 学习的还都是数学方面的内容，根本看不出与经济方 面有多少密切的联系。不知道当我们学完这门功课后， 凭我们那一丁点儿计量经济学知识，能否在日常工作 生活中对自己有所帮助？ • 再次感谢席老师。 • 学生：郝东林 • 2000年3月6日
答郝东林同学问 首先,感谢小郝反馈了关于教学方面的意见。 ·现在作如下的回答 ·1、习惯于将经济理论转换为用方程或模型来表示。经济学 研究的,也就是这里要讨论的。只是表现形式不同 2、经济现象间的关系转换为变量间的关系,这种关系的具 体形式就是模型。比如,投入生产要素与产出间的关系 3、本课程教学目的:为同学们进行研究、探索属于你自己 亲自证实出来的经济规律,作最基本的准备—提供最基本 的方法和手段。这些方法是数学、统计学的,不可回避。但 应把注意力集中在这些方法的运用的条件、背景和所得结论 的解释上,而不是数学上的推证。并相信这些方法是学者们 已经证实了的。 ·4、同学们要真正看到计量经济学的经济学“味道”,只能 通过案例教学和作上机练习来解决
4 答郝东林同学问 • 首先，感谢小郝反馈了关于教学方面的意见。 • 现在作如下的回答： • 1、习惯于将经济理论转换为用方程或模型来表示。经济学 研究的，也就是这里要讨论的。只是表现形式不同。 • 2、经济现象间的关系转换为变量间的关系，这种关系的具 体形式就是模型。比如，投入生产要素与产出间的关系。 • 3、本课程教学目的：为同学们进行研究、探索属于你自己 亲自证实出来的经济规律，作最基本的准备——提供最基本 的方法和手段。这些方法是数学、统计学的，不可回避。但 应把注意力集中在这些方法的运用的条件、背景和所得结论 的解释上，而不是数学上的推证。并相信这些方法是学者们 已经证实了的。 • 4、同学们要真正看到计量经济学的经济学“味道”，只能 通过案例教学和作上机练习来解决
要女 问题的提出—必要性 通过协方差或相关系数证实变量之间存在关系,仅仅 是知道变量之间线性相关的性质—正(负)相关 和相关程度的大小。 既然它们之间存在线性关系,接下来必须探求它们之 间关系的表现形式是什么? 最好用数学表达式将这种关系尽可能准确、严谨的表 示出来—y=at+bx+u把它们之间的内在联系挖掘 出来。也就是直线中的截距a=?;直线的斜率b=? 消费=基本生存+边际消费倾向Ⅹ可支配收入+随机扰动 项
5 问题的提出——必要性 • 通过协方差或相关系数证实变量之间存在关系，仅仅 只是知道变量之间线性相关的性质——正（负）相关 和相关程度的大小。 • 既然它们之间存在线性关系，接下来必须探求它们之 间关系的表现形式是什么？ • 最好用数学表达式将这种关系尽可能准确、严谨的表 示出来——y=a+bx+u——把它们之间的内在联系挖掘 出来。也就是直线中的截距a=？；直线的斜率b=？ • 消费=基本生存+边际消费倾向X可支配收入+随机扰动 项
解决问题的思路——可能性 寻找变量之间直线关系的方法多多。于是,再接下 来则是从众多方法中,寻找一种优良的方法,运用 方法去求出线性模型—y=a+bx+u中的截距a-?; 直线的斜率b=?正是是本章介绍的最小二乘法 根据该方法所得,即表现变量之间线性关系的直线 有些什么特性? 所得直线可靠吗?怎样衡量所得直线的可靠性? 最后才是如何运用所得规律—变量的线性关系?
6 解决问题的思路——可能性 • 寻找变量之间直线关系的方法多多。于是，再接下 来则是从众多方法中，寻找一种优良的方法，运用 方法去求出线性模型——y=a+bx+u中的截距a=？； 直线的斜率b=？正是是本章介绍的最小二乘法。 • 根据该方法所得，即表现变量之间线性关系的直线 有些什么特性？ • 所得直线可靠吗？怎样衡量所得直线的可靠性？ • 最后才是如何运用所得规律——变量的线性关系？
最小二乘法产生的历史 最小二乘法最早称为回归分析法。由著 名的英国生物学家、统计学家道尔顿 ( F Galton)达尔文的表弟所创。 早年,道尔顿致力于化学和遗传学领域 的研究。 他研究父亲们的身高与儿子们的身高之 间的关系时,建立了回归分析法
7 最小二乘法产生的历史 • 最小二乘法最早称为回归分析法。由著 名的英国生物学家、统计学家道尔顿 （F.Gallton）——达尔文的表弟所创。 • 早年，道尔顿致力于化学和遗传学领域 的研究。 • 他研究父亲们的身高与儿子们的身高之 间的关系时，建立了回归分析法
最小二乘法的地位与作用 现在回归分析法已远非道尔顿的本意 已经成为探索变量之间关系最重要的方 法,用以找出变量之间关系的具体表现 形式 后来,回归分析法从其方法的数学原 理误差平方和最小(平方乃二乘也) 出发,改称为最小二乘法
8 最小二乘法的地位与作用 • 现在回归分析法已远非道尔顿的本意 • 已经成为探索变量之间关系最重要的方 法，用以找出变量之间关系的具体表现 形式。 • 后来，回归分析法从其方法的数学原 理——误差平方和最小（平方乃二乘也） 出发，改称为最小二乘法
父亲们的身高与儿子们的身高之间 关系的研究 1889年 E Galton和他的朋友 K. Pearson收 集了上千个家庭的身高、臂长和腿长的 记录 企图寻找出儿子们身高与父亲们身高之 间关系的具体表现形式 下图是根据1078个家庭的调查所作的散 点图(略图)
9 父亲们的身高与儿子们的身高之间 关系的研究 • 1889年F.Gallton和他的朋友K.Pearson收 集了上千个家庭的身高、臂长和腿长的 记录 • 企图寻找出儿子们身高与父亲们身高之 间关系的具体表现形式 • 下图是根据1078个家庭的调查所作的散 点图（略图）
子们身高向着平均身高“回归”,以保持种族的稳定 185 180 175 7 170 165 X 160 140150160170180190200
y x 160 165 170 175 180 185 140 150 160 170 180 190 200 Y X 儿子们身高向着平均身高“回归”，以保持种族的稳定