§5曲线拟合的最小 二乘法 一般的最小二乘逼近(曲线拟合 的最小二乘法)的一般提法是:对 给定的一组数据(x2y)(=0, 要求在函数类0={…,n中找 一个函数y=S(x),使误差平方和 6l2=∑62=∑S(x)-yF=min∑[S(x)-y )∈q 其 中 S(x)=ay0(x)+a11(x)+…+an,9n(x)(n<m) 带权的最小二乘法:
§5 曲线拟合的最小 二乘法 一般的最小二乘逼近(曲线拟合 的最小二乘法)的一般提法是:对 给定的一组数据 ( , ) ( 0,1, , ) i i x y i m = , 要求在函数类 0 1 { , , , } = n 中找 一个函数 * y S x = ( ) ,使误差平方和 2 2 * 2 2 2 ( ) 0 0 1 [ ( ) ] min [ ( ) ] m m m i i i i i S x i i i S x y S x y = = = = = − = − 其 中 0 0 1 1 ( ) ( ) ( ) ( ) ( ) n n S x a x a x a x n m = + + + 带权的最小二乘法：
|2=∑o(x)[S(x)-f(x,) i=0 其中0(x)20是Lab7上的权函数。 用最小二乘法求曲线拟合的问 题,就是在S(x)中求一函数 y=S(x),使|2取的最小。它转化 为求多元函数 (n,a;…an)=∑0(x)∑a9(x)-f(x) * 的极小点(a0,a1,…,n)问题。由求 多元函数极值的必要条件,有 2∑o(x∑a(x)-f(x)(x)
2 2 2 0 ( )[ ( ) ( )] m i i i i x S x f x = = − 其中 ( ) 0 x 是［a, b］上的权函数。 用最小二乘法求曲线拟合的问 题 ， 就 是 在 S x( ) 中 求 一 函 数 * y S x = ( ) ，使 2 2 取的最小。它转化 为求多元函数 2 0 1 0 0 ( , , , ) ( )[ ( ) ( )] m n n i j j i i i j I a a a x a x f x = = = − 的极小点 * * * 0 1 ( , , , ) a a an 问题。由求 多元函数极值的必要条件，有 0 0 2 ( )[ ( ) ( )] ( ) 0 m n i j j i i k i k i j I x a x f x x a = = = − =
(k=0, 若 (,k)=∑o(x)(x)k(x) (k=0,1 则上式可改写为 ∑(9,91)a1=dk (k=0,1,…,n) 这个方程称为法方程,矩阵形式
(k = 0, 1, , n) 若 记 0 ( , ) ( ) ( ) ( ) m j k i j i k i i x x x = = 0 ( , ) ( ) ( ) ( ) m k i i k i k i f x f x x d = = (k = 0, 1, , n) 则上式可改写为 0 ( , ) n k j j k j a d = = (k = 0, 1, , n) 这个方程称为法方程，矩阵形式 Ga d =
其 中 0:1n 0:01 (q0,90)(0,q1)…(0,9n) (q2)(,1) (q12n) 由于9卯,卯,线性无关,故 ≠0,方程组存在唯一解 (k=0,1 从而得到函数f(x)的最小二乘解为 S(x)=a0(x)+a91(x)+…+ann(x) 可 证 ∑o(x)S(x)-f(x)2≤∑o(x)S(x)-f(x
其 中 0 1 0 1 ( , , , ) , ( , , , ) T T n n a a a a d d d d = = ， 0 0 0 1 0 1 0 1 1 1 0 1 1 ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) n n n n n n G − = 由 于 0 1 , , , n 线 性 无 关 ， 故 G 0 ，方程组存在唯一解 * ( 0,1, , ), a a k n k k = = 从而得到函数 f x( ) 的最小二乘解为 * * * * 0 0 1 1 ( ) ( ) ( ) ( ) n n S x a x a x a x = + + + 可 证 * 2 2 0 0 ( )[ ( ) ( )] ( )[ ( ) ( )] m m i i i i i i i i x S x f x x S x f x = = − −
故S"(x)使所求最小二乘解。 例8已知一组实验数据,求它的拟 合曲线。 45 4 363 88.5 解:根据所给数据知,可选择线 性函数作拟合曲线 令S(x)=a+41x,这里 m=4,n=1,(x)=1,q(x)=x 故
故 * S x( ) 使所求最小二乘解。 例8 已知一组实验数据,求它的拟 合曲线。 xi 1 2 3 4 5 i f 4 4. 5 6 8 8.5 i 2 1 3 1 1 解：根据所给数据知，可选择线 性函数作拟合曲线。 令 1 0 1 S x a a x ( ) = + ， 这里 0 1 m n x x x = = = = 4, 1, ( ) 1, ( ) , 故
(929)=∑o(x)(x)=8,(2)=(,)=∑ o. i=0 (1,9)=∑x2=74,(,f)=∑0,f=47 (q,)=∑x,=145.5 由 方 程 组 8an+22a1=47 2.77 220+74a1=1455 a1=1.13 所求拟合曲线为 S1(x)=2.77+1.13x 例9在某化学反应里,根据实 验所得生成物的浓度与时间关系如
4 4 0 0 0 0 0 1 1 0 0 0 ( , ) ( ) ( ) 8, ( , ) ( , ) 22, i i i i i i i x x x = = = = = = = 4 4 2 1 1 0 0 0 ( , ) 74, ( , ) 47, i i i i i i x f f = = = = = = 4 1 0 ( , ) 145.5 i i i i f x f = = = 由 方 程 组 0 1 0 0 1 1 8 22 47 2.77 22 74 145.5 1.13 a a a a a a + = = + = = 所 求 拟 合 曲 线 为 * 1 S x x ( ) 2.77 1.13 = + 例 9 在某化学反应里，根据实 验所得生成物的浓度与时间关系如
下表,求浓度y与时间t的拟合曲线 y=F(1) 2345678910111213141516 时间浓度 4.6.8.8.9.9.9.9.10.10.10.10.10.10.10.10 00400080225070860020324250555860 × 103 解:将数据标在坐标纸上,可 发现数据符合双曲线函数或指数 函数。 1)双曲线函数拟合 b 双曲线型: =a+ 即 (at +6)
下表，求浓度 y 与时间 t 的拟合曲线 y F t = ( ). 时 间 t(分) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 浓 度 y × 10-3 4. 00 6. 40 8. 00 8. 80 9. 22 9. 50 9. 70 9. 86 10. 00 10. 20 10. 32 10. 42 10. 50 10. 55 10. 58 10. 60 解：将数据标在坐标纸上，可 发现数据符合双曲线函数或指数 函数。 1）双曲线函数拟合 双曲线型： 1 , b a y t = + 即 . ( ) t y at b = +
为了确定a,b,令 由数据表ty生成数据表x,y于 是可用x的线性函数 S(x)=y=a+bx拟合数据 (x,y)(=1…,16)。方法与上例一样 解方程组 ∫16a+38073b=1:32×10; 3.38073a+1.58435b=0.52886×10 得 a=80.6621.b=161.6822 从 而 有 80.662lt+161.6822) F(( 其 误 差 为
为了确定 a b, , 令 y x 1 1 , , y t = = 由数据表t, y生成数据表 x y , . 于 是可用 x 的 线 性 函 数 1 S x y a bx ( ) = = + 拟合数据 ( , ) ( 1, ,16) i i x y i = 。方法与上例一样 解方程组 3 3 16 3.38073 1.8372 10 ; 3.38073 1.58435 0.52886 10 , a b a b + = + = 得 a b = = 80.6621, 161.6822. 从而有 (1) ( ), (80.6621 161.6822) t y F t t = = + 其 误 差 为
y-F(t)(=1…,16) 2)指数函数拟合 拟合曲线形如y=ne·对其两 边取对数 In y=Ina+b 为了确定 b 今 由(,y)计算出(x,y),拟合数据 的曲线仍为 S,(x)=y=A+bx 用例8的方法计算出 A=-4.48072,b=-1.0567, 从而a=e1=11.3253×10 最 后 求 得
(1) (1) ( ) ( 1, ,16). i i i = − = y F t i 2）指数函数拟合 拟合曲线形如 . b t y ae = 对其两 边取对数 ln ln . y a b t = + 为了确定 a b, , 令 y y A a x ln , ln , , 1 t = = = 由 ( , ) i i t y 计算出 ( , ) x y i i ，拟合数据 的 曲 线 仍 为 1 S x y A bx ( ) . = = + 用 例 8 的 方 法 计 算 出 A b = − = − 4.48072, 1.0567, 从而 3 11.3253 10 , A a e − = = 最 后 求 得
y=113253×103e10=FP(2() 误 差 为 (2) 3)两个模型的比较 本例经计算可得 max s( =0.568×10 maX 0.277×10 均方误差为 2(a)2=19×103,∑(82)=034×103 由此可知18,及1叫都比较小,所 以用y=F()作拟合曲线较好 确定拟合曲线的数学模型需要 选择比较
3 1.0567 (2) 11.3253 10 ( ) t y e F t − − = = 误差为 (2) (2) ( ) ( 1, ,16). i i i = − = y F t i 3）两个模型的比较 本例经计算可得 (1) 3 (2) 3 max 0.568 10 , max 0.277 10 , i i i i − − = = 均方误差为 (1) 2 3 (2) 2 3 1 1 ( ) 1.19 10 , ( ) 0.34 10 . m m i i i i − − = = = = 由此可知 (2) 2 及 (2) 都比较小，所 以用 (2) y F t = ( ) 作拟合曲线较好。 确定拟合曲线的数学模型需要 选择比较