
第七节 最小二乘法 一、最小二乘法 二、小结 经济数学 微积分
一、最小二乘法 二、小结 第七节 最小二乘法

-、最小二乘法least square method) 在工程问题中,常常需要根据两个变量的 几组实验数值—实验数据,来找出这两个变 量的函数关系的近似表达式.通常把这样得到 的函数的近似表达式叫做经验公式. 问题:如何得到经验公式,常用的方法是什么? 经济数学—一微积分
在工程问题中,常常需要根据两个变量的 几组实验数值——实验数据,来找出这两个变 量的函数关系的近似表达式.通常把这样得到 的函数的近似表达式叫做经验公式. 一、最小二乘法(least square method) 问题:如何得到经验公式,常用的方法是什么?

实例一 为了弄清某企业利润和产值的函数关系, 我们把该企业从1992年到2001年间的利润y和产 值x的统计数据列表如下: 年份 1992199319941995199619971998199920002001 4.92 5.004.93 4.90 4.90 4.95 4.984.995.02 5.02 产值七:(万元) 利润y:(万元) 1.671.701.681.661.661.68 1.691.701.70 1.71 试根据上面的统计数据建立y和x之间的经验 公式y=f(x). 经济数学—一微积分
为了弄清某企业利润和产值的函数关系, 我们把该企业从1992年到2001年间的利润y和产 值x的统计数据列表如下: 年份 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 产值 xi (万元) 4.92 5.00 4.93 4.90 4.90 4.95 4.98 4.99 5.02 5.02 利润 i y (万元) 1.67 1.70 1.68 1.66 1.66 1.68 1.69 1.70 1.70 1.71 试根据上面的统计数据建立 y 和x 之间的经验 公式 y = f (x) . 实例一

解首先确定f(x)的类型, 如图,在坐标纸上画出 1.75 这些点,观察可以认 为y=f()是线性函数 1.69 并设f(x)=c+b,其中1.67 u和b是待定常数. 1.6904924.944964985005021 因为这些点本来不在一条直线上,我们只 能要求选取这样的M,b,使得f(x)=x+b在 x,七2…,七1处的函数值与实验数据1,2,0相 差都很小. 经济数学 微积分
观 察 可 以 认 为 y = f ( x) 是线性函数, 并 设 f (x) = ax + b, 其 中 a和b是待定常数. 如图,在坐标纸上画出 这些点, 解 首先确定 f ( x) 的类型. 因为这些点本来不在一条直线上,我们只 能要求选取这样的 ,使得 在 处的函数值与实验数据 相 差都很小. a,b f (x) = ax + b 1 2 10 x , x , , x 1 2 10 y , y , y t y 4.90 4.92 4.94 4.96 4.98 5.00 5.02 1.65 1.67 1.69 1.71 1.73 1.75

就是要使偏差 y:-f(x)(i=1,2,…,10)都很小. 因此可以考虑选取常数α,b,使得 10 M=∑,-(x,+b i=1 最小来保证每个偏差的绝对值都很小. 定义这种根据偏差的平方和为最小的条件来选 择常数,b的方法叫做最小二乘法。 这种确定常数的方法是通常所采用的, 经济数学—一微积分 ■
就是要使偏差 y − f (x ) (i = 1,2, ,10) i i 都很小. 因此可以考虑选取常数 a,b ,使得 = = − + 10 1 2 ( ) i M yi axi b 定义 这种根据偏差的平方和为最小的条件来选 择常数 a,b 的方法叫做最小二乘法. 这种确定常数的方法是通常所采用的. 最小来保证每个偏差的绝对值都很小.

把M看成自变量M和b的一个二元函数, 那么问题就可归结为求函数M=M(a,b)在那 些点处取得最小值. [M=-22,-(c+b=0, B 令 -2-a心+6=0 b=1 y-(a +0 即 2L,-低,+创-0 经济数学一微积分
把 M 看成自变量 a 和 b 的一个二元函数, 那么问题就可归结为求函数 在那 些点处取得最小值. M = M(a,b) = − − + = = − − + = = = 1 0 1 1 0 1 2 ( ) 0; 2 ( ) 0, i i i i i i i y ax b b M y ax b x a M 令 即 − + = − + = = = 1 0 1 1 0 1 ( ) 0. ( ) 0, i i i i i i i y ax b y ax b x

将括号内各项进行整理合并,并把未知数 和b分离出来,便得 10 +2 号 (1) >x+10b= 10 计算得 马=49.6① 2 =246.13, 2与=166 10 xy,=83.65 经济数学 微积分
将括号内各项进行整理合并,并把未知数 和 分离出来,便得 a b (1) 10 . , 1 0 1 1 0 1 1 0 1 1 0 1 1 0 1 2 + = + = = = = = = i i i i i i i i i i i a x b y a x b x x y 计算得 49.61, 10 1 = i= i x 246.13, 10 1 2 = i= xi 16.86, 10 1 = i= i y 83.65 10 1 = i= i i x y

代入方程组(1)得 [246.13a+49.61b=83.65, 49.61a+10b=16.86. 解此方程组,得到a=0.3389,b=0.0049. 这样便得到所求经验公式为 y=f(x)=0.3389x+0.0049. (2) 由(2)式算出的函数值fx)与实测的) 有一定的偏差现列表比较如下: 经济数学一微积分
代入方程组(1)得 + = + = 49.61 10 16.86. 246.13 49.61 83.65, a b a b 解此方程组,得到 a = 0.3389,b = 0.0049. 这样便得到所求经验公式为 y = f (x) = 0.3389x + 0.0049. (2) 由(2)式算出的函数值 与实测的 有一定的偏差.现列表比较如下: ( ) i f x i y

年份 1992 1993 1994 1995 1996 1997 1998 19992000 2001 实测y, 1.67 1.70 1.68 1.66 1.66 1.68 1.69 1.70 1.70 1.71 算得 1.6723 1.6994 1.6757 1.6655 1.6655 1.6825 1.6926 1.6960 1.7062 1.7062 f(x;) 偏差 -0.00230.00060.0043 -0.0055 -0.0055-0.0025 -0.00260.004 -0.0062 0.0038 偏差的平方和 M=1.6653×10 偏差的平方根√M=0.0129 我们把M称为均方误差,它的大小在一定 程度上反映了用经验公式来近似表达原来函数关 系的近似程度的好坏. 经济数学—一微积分
年份 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 实测 i y 1.67 1.70 1.68 1.66 1.66 1.68 1.69 1.70 1.70 1.71 算得 ( ) i f x 1.6723 1.6994 1.6757 1.6655 1.6655 1.6825 1.6926 1.6960 1.7062 1.7062 偏差 -0.0023 0.0006 0.0043 -0.0055 -0.0055 -0.0025 -0.0026 0.004 -0.0062 0.0038 偏差的平方和 偏差的平方根 4 1.6653 10− M = M = 0.0129 我们把 称为均方误差,它的大小在一定 程度上反映了用经验公式来近似表达原来函数关 系的近似程度的好坏. M

实例二 在研究单分子化学反应速度时,得到下列数据: 1 2 3 4 5 6 8 3 6 9 12 15 18 21 24 yi 57.6 41.9 31.0 22.7 16.6 12.2 8.9 6.5 其中?表示从实验开始算起的时间,y表示? 时刻反应物的量.试定出经验公式y=f(x), 解由化学反应速度的理论知道,y=f()应是 指数函数:y=kemr,其中k和n是待定常数. 经济数学一微积分 ⊙▣
在研究单分子化学反应速度时,得到下列数据: i i i y 其中 表示从实验开始算起的时间 , 表示 时刻反应物的量.试定出经验公式 y y = f ( ). 解 由化学反应速度的理论知道, y = f ( ) 应是 指数函数: , m y = ke 其中 k和 m 是待定常数. 实例二 1 2 3 4 5 6 7 8 3 6 9 12 15 18 21 24 57.6 41.9 31.0 22.7 16.6 12.2 8.9 6.5