第七节最小二乘法最小二乘法一、二、小结经济数学微积分
一、最小二乘法 二、小结 第七节 最小二乘法
一、最小二乘法(least square method)在工程问题中，常常需要根据两个变量的几组实验数值一一实验数据，来找出这两个变量的函数关系的近似表达式：通常把这样得到的函数的近似表达式叫做经验公式问题：如何得到经验公式，常用的方法是什么？经济数学微积分
在工程问题中，常常需要根据两个变量的 几组实验数值——实验数据，来找出这两个变 量的函数关系的近似表达式．通常把这样得到 的函数的近似表达式叫做经验公式. 一、最小二乘法(least square method) 问题：如何得到经验公式，常用的方法是什么？
实例一为了弄清某企业利润和产值的函数关系，我们把该企业从1992年到2001年间的利润y和产值x的统计数据列表如下：年份19921993199419951996199719981999200120004.924.904.904.955.025.025.004.934.984.99产值×;(万元)1.711.671.701.681.661.661.681.691.701.70利润y；(万元)试根据上面的统计数据建立y和x之间的经验公式 J=f(x).经济数学微积分
为了弄清某企业利润和产值的函数关系， 我们把该企业从1992年到2001年间的利润y和产 值x的统计数据列表如下： 年份 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 产值 xi (万元) 4.92 5.00 4.93 4.90 4.90 4.95 4.98 4.99 5.02 5.02 利润 i y (万元) 1.67 1.70 1.68 1.66 1.66 1.68 1.69 1.70 1.70 1.71 试根据上面的统计数据建立 y 和x 之间的经验 公式 y = f (x) . 实例一
解首先确定f(x)的类型y如图，在坐标纸上画出1.751.73这些点，观察可以认1.71为J=f(x)是线性函数1.691.67并设f(x)=ax+b,其中1.654.90 4.924.94 4.96 4.98 5.00 5.02ta和b是待定常数因为这些点本来不在一条直线上，我们只能要求选取这样的a,b，使得f(x)=ax+b在Xi,x2,Xio处的函数值与实验数据居Y,J2,10相差都很小。经济数学微积分
观 察 可 以 认 为 y = f ( x) 是线性函数, 并 设 f (x) = ax + b, 其 中 a和b是待定常数. 如图，在坐标纸上画出 这些点， 解 首先确定 f ( x) 的类型. 因为这些点本来不在一条直线上，我们只 能要求选取这样的 ，使得 在 处的函数值与实验数据 相 差都很小． a,b f (x) = ax + b 1 2 10 x , x , , x 1 2 10 y , y , y t y 4.90 4.92 4.94 4.96 4.98 5.00 5.02 1.65 1.67 1.69 1.71 1.73 1.75
就是要使偏差y;-f(x,)(i=1,2,,10)都很小因此可以考虑选取常数a,b，使得1.0M = [y; -(ax; + b)]最小来保证每个偏差的绝对值都很小定义这种根据偏差的平方和为最小的条件来选择常数a,b的方法叫做最小二乘法这种确定常数的方法是通常所采用的经济数学微积分
就是要使偏差 y − f (x ) (i = 1,2, ,10) i i 都很小. 因此可以考虑选取常数 a,b ，使得 = = − + 10 1 2 ( ) i M yi axi b 定义 这种根据偏差的平方和为最小的条件来选 择常数 a,b 的方法叫做最小二乘法． 这种确定常数的方法是通常所采用的. 最小来保证每个偏差的绝对值都很小．
把 M 看成自变量a和b的一个二元函数那么问题就可归结为求函数 M=M(a,b)在哪些点处取得最小值am-2[y; -(ax; +b)]x, = 0,dai=l10aM-2[y; -(ax, +b)]= 0;abi=110E[y; -(ax; + b)]x; = 0,i=1即10Z[y; -(ax; +b)]= 0.i=1经济数学微积分
把 M 看成自变量 a 和 b 的一个二元函数， 那么问题就可归结为求函数 在哪 些点处取得最小值. M = M(a,b) = − − + = = − − + = = = 1 0 1 1 0 1 2 ( ) 0; 2 ( ) 0, i i i i i i i y ax b b M y ax b x a M 令 即 − + = − + = = = 1 0 1 1 0 1 ( ) 0. ( ) 0, i i i i i i i y ax b y ax b x
将括号内各项进行整理合并，并把未知数和b分离出来，便得101010aZxi+bZx,=ZX,yii=1i=1i=1(1)10100a2ZX; +10b=Vi=1i=110102Z= 246.13.计算得Zx;= 49.61,xii=1i=110=ZX,J; = 83.65J; = 16.86,i1i=1微积分经济数学
将括号内各项进行整理合并，并把未知数 和 分离出来，便得 a b (1) 10 . , 1 0 1 1 0 1 1 0 1 1 0 1 1 0 1 2 + = + = = = = = = i i i i i i i i i i i a x b y a x b x x y 计算得 49.61, 10 1 = i= i x 246.13, 10 1 2 = i= xi 16.86, 10 1 = i= i y 83.65 10 1 = i= i i x y
代入方程组（1）得246.13a + 49.61b = 83.65.49.61a + 10b = 16.86解此方程组，得到a=0.3389,b=0.0049.这样便得到所求经验公式为(2)y = f(x) = 0.3389x + 0.0049.由（2）式算出的函数值(x）与实测的有一定的偏差,现列表比较如下：华经济数学微积分
代入方程组（1）得 + = + = 49.61 10 16.86. 246.13 49.61 83.65, a b a b 解此方程组，得到 a = 0.3389,b = 0.0049. 这样便得到所求经验公式为 y = f (x) = 0.3389x + 0.0049. (2) 由（2）式算出的函数值 与实测的 有一定的偏差.现列表比较如下： ( ) i f x i y
1992199319941995199619971998199920002001年份1.671.701.681.661.661.681.691.701.701.71实测y;算得1.67231.69941.67571.66551.66551.68251.69261.69601.70621.7062f(x,)-0.00230.00060.0043-0.0055-0.0055-0.0025-0.00260.0040.0038-0.0062偏差M=1.6653×10偏差的平方和偏差的平方根JM=0.0129我们把/M称为均方误差，它的大小在一定程度上反映了用经验公式来近似表达原来函数关系的近似程度的好坏。经济数学微积分
年份 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 实测 i y 1.67 1.70 1.68 1.66 1.66 1.68 1.69 1.70 1.70 1.71 算得 ( ) i f x 1.6723 1.6994 1.6757 1.6655 1.6655 1.6825 1.6926 1.6960 1.7062 1.7062 偏差 -0.0023 0.0006 0.0043 -0.0055 -0.0055 -0.0025 -0.0026 0.004 -0.0062 0.0038 偏差的平方和 偏差的平方根 4 1.6653 10− M = M = 0.0129 我们把 称为均方误差，它的大小在一定 程度上反映了用经验公式来近似表达原来函数关 系的近似程度的好坏． M
实例二在研究单分子化学反应速度时，得到下列数据：23578461i9361215182124T;Ji8.96.557.641.922.716.612.231.0其中 T表示从实验开始算起的时间，J表示T时刻反应物的量．试定出经验公式 J=f()解由化学反应速度的理论知道，J=f(t）应是指数函数：：y=kemt，其中k和m是待定常数经济数学微积分
在研究单分子化学反应速度时，得到下列数据： i i i y 其中 表示从实验开始算起的时间 ， 表示 时刻反应物的量．试定出经验公式 y y = f ( ). 解 由化学反应速度的理论知道， y = f ( ) 应是 指数函数： , m y = ke 其中 k和 m 是待定常数. 实例二 1 2 3 4 5 6 7 8 3 6 9 12 15 18 21 24 57.6 41.9 31.0 22.7 16.6 12.2 8.9 6.5