△开 第3章曲线拟合与函数逼近 s31曲线拟合的最小二乘法 s32最小二乘法的求法 §33最佳平方逼近 s34数值实验
第3章 曲线拟合与函数逼近 §3.1 曲线拟合的最小二乘法 §3.2 最小二乘法的求法 §3.3 最佳平方逼近 §3.4 数值实验
第3章曲线拟合与函数逼近 0引言 若∫(x)是由实验或观测得到的,则其函数通常由函数表 (x1∫(x1)(i=1,2,…m)给出插值法是找到一个简单且便于 计算的公式,利用它可计算给定区间上的函数值 但有问题一: (1)高次多项式会龙格现象; 数据 误差 (2)用插值糸件来确定函数关系不合理 解决办法:曲线拟合的最小二乘法 问题二: 设给定一个函数∫,∫的表达式非常复杂,计算f的值很不经济 解决办法:寻找另一个函数p,它既易于求值 且又是对f的一个合理的逼近
若f (x)是由实验或观测得到的，则其函数通常由函数表 (xi , f (xi )) (i=1,2,…,m)给出. 插值法是找到一个简单且便于 计算的公式，利用它可计算给定区间上的函数值. 但有问题一: (1)高次多项式会龙格现象； 第 3 章 曲线拟合与函数逼近 0 引言 数据 误差 (2)用插值条件来确定函数关系不合理. 解决办法：曲线拟合的最小二乘法. 设给定一个函数f，f 的表达式非常复杂，计算f的值很不经济. 问题二: 解决办法：寻找另一个函数p，它既易于求值 且又是对f 的一个合理的逼近
3.1曲线拟合的最小二乘法 引例考察某种纤维的强度与其拉伸倍数的关系, 下表是实际测定的24个纤维样品的强度与相应 的拉伸倍数的记录 编号拉伸倍数 强度编号拉伸倍数x强度V 1.9 1.4 13 5 5.5 12345 14 5.2 5 2.1 15 6 5.5 2.5 2.5 16 6.3 6.4 2.7 2.8176.56 62.72.5187.15.3 7 3.5 19 3.52.720 44 421 8 88.9 8.5 10 3.522 8 11 4.5 23 9.5 8.1 12 4.6 24 10 8.1
引例考察某种纤维的强度与其拉伸倍数的关系, 下表是实际测定的24个纤维样品的强度与相应 的拉伸倍数的记录: 编 号 拉伸倍数 强 度 编 号 拉伸倍数 强 度 1 1.9 1.4 13 5 5.5 2 2 1.3 14 5.2 5 3 2.1 1.8 15 6 5.5 4 2.5 2.5 16 6.3 6.4 5 2.7 2.8 17 6.5 6 6 2.7 2.5 18 7.1 5.3 7 3.5 3 19 8 6.5 8 3.5 2.7 20 8 7 9 4 4 21 8.9 8.5 10 4 3.5 22 9 8 11 4.5 4.2 23 9.5 8.1 12 4.6 3.5 24 10 8.1 xi yi xi yi 3.1 曲线拟合的最小二乘法
纤维强度随拉伸倍数 增加而增加; 并且24个点大致分布在 条直线附近 因此可以认为强度 与拉伸倍数x的主要 关系应是线性关系y(x)=B0+B1x其中,B为待定参数 我们希望y(x)=B+Bx与所有的数据点(样本点)x2y2) 越接近越好 必须找到一种度量标准来衡量什么曲线最接近所有数据点
1 2 3 4 5 6 7 8 9 10 1 2 3 4 5 6 7 8 9 1 2 3 4 5 6 7 8 9 10 1 2 3 4 5 6 7 8 9 纤维强度随拉伸倍数 增加而增加； 关系应是线性关系 与拉伸倍数 的主要 因此可以认为强度 x y 并且24个点大致分布在一 条直线附近. y x x 0 1 ( ) = + 其中0 ,1为待定参数 0 1 ( ) ( )( , ) i i 我们希望y x x x y = + 与所有的数 越 据点 样本点 接近越好 必须找到一种度量标准来衡量什么曲线最接近所有数据点
对所找出的曲线y=y(x) 令=y(x)-y2(=12 一般使用|2=∑82=∑(y(x)-y) 作为衡量y(x)与数据点(x1,y)偏离程度大小 称为平方误差 度量标准:min∑82.称在这个要求下的拟合 拟合 问题 为曲线拟合的最小二乘法
i i i 令 = y(x ) − y 一般使用 2 2 2 1 m i i = = 2 1 ( ( ) ) m i i i y x y = = − 拟合 问题 度量标准： = m i i 1 2 min . 称在这个要求下的拟合 为曲线拟合的最小二乘法. 作为衡量 y(x) 与数据点( , ) i i x y 偏离程度大小 称为平方误差. (i=1,2,…,m) 对所找出的曲线 y y x = ( ):
一般地求一条曲线使数据点均在离此曲线的上方或 下方不远处所求的曲线称为拟合曲线 它既能反映数据的总体分布又不至于出现局部较大的 波动,更能反映被逼近函数的特性使求得的逼近函数与已知 函数从总体上来说其偏差按某种方法度量达到最小 图1曲线拟合示意图
y • • • • • • • • o x • • • • • • • • 图1 曲线拟合示意图 一般地,求一条曲线,使数据点均在离此曲线的上方或 下方不远处,所求的曲线称为拟合曲线. 它既能反映数据的总体分布,又不至于出现局部较大的 波动,更能反映被逼近函数的特性,使求得的逼近函数与已知 函数从总体上来说其偏差按某种方法度量达到最小
注: 与函数插值问题不同曲线拟合不要求曲线通过所有已知点 而是要求得到的近似函数能反映数据的基本关系在某种意义上 曲线拟合更有实用价值 在对给出的实验(视测)数据作曲线拟合时怎样才算拟合得最好 呢?一般希望各实验(或观测)数据与拟合曲线的误差为最小,即距 离为最小不同的度量意义) 两种逼近概念 插值:在节点处函数值相同 拟合:在数据点处误差最小
与函数插值问题不同,曲线拟合不要求曲线通过所有已知点, 而是要求得到的近似函数能反映数据的基本关系.在某种意义上, 曲线拟合更有实用价值. 在对给出的实验(或观测)数据作曲线拟合时,怎样才算拟合得最好 呢？一般希望各实验(或观测)数据与拟合曲线的误差为最小，即距 离为最小(不同的度量意义). 两种逼近概念: 插值: 在节点处函数值相同 拟合: 在数据点处误差最小 注：
曲线拟合的最小二乘问题一般提法P48 根据给定的数据组(x,y)(=12,…,m),选取近似函数 0(x)∈d:(x)=a090(x)+a192(x)+…+an,9n(x)(31) 使得I(ao,a1 ∑P[(x,) ∑D∑a,0(x,)-y]2(32) 达到最小
曲线拟合的最小二乘问题一般提法 P.48 根据给定的数据组 ( , ) i i x y (i =1,2, ,m) ,选 取近似函数 ( ) x : ( ) ( ) ( ) ( ) 0 0 1 1 x a x a x a x = + ++ n n (3.1) 使得 = = − m i n i i i I a a a x y 1 2 0 1 ( , ,, ) [( ) ] = = = − m i i n j i j j i a x y 1 2 0 [ ( ) ] (3.2) 达到最小
由极值的必要条件可得 2∑mE∑a9(x)-y,(x)=0 (qq)=(q9 ∑aA∑P(x柳(x=∑Py9(x),j=01…,n(33) k=0=1 i=1 用矩阵表示法方程为 (02q0)(021)…(029n) (y,0o) (q1,90)(2)…(q1,n) (y,91) (3.5) (n,9)(qn,9)…(qn,9n)人an)(yqn,)
由极值的必要条件可得 = = = − = m i i j i n k i k k i j a x y x a I 1 0 2 [ ( ) ] ( ) 0 , j = 0,1, ,n = = = = m i j i i i j i n k k i m i k i a x x y x 0 1 1 [ ( ) ( )] ( ) , j = 0,1, ,n （3.3） 用矩阵表示法方程为 = ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) 1 0 1 0 0 1 1 0 1 1 1 0 0 0 1 0 n n n n n n n n y y y a a a （3.5） (φ𝑖 , 𝜑𝑗)=(φ𝑗 , 𝜑𝑖)
用最小二乘解决实际问题基本步骤如下: (1)确定近似函数类,即确定近似函数y=(x)的形式 这并非单纯的数学问题与其它各领域的专门知识有关 数学上,通常根据在坐标纸上所描点的情况来 选择(x)的形式 (2)求最小二乘解。 即求使残差的平方和最小的(x)中的待定参数
用最小二乘解决实际问题基本步骤如下： (2) 求最小二乘解。 (1) 确定近似函数类,即确定近似函数 y = (x) 的形式。 这并非单纯的数学问题,与其它各领域的专门知识有关. 数学上, 通常根据在坐标纸上所描点的情况来 选择 ( ) x 的形式. 即求使残差的平方和最小的 中的待定参数. (x) 2 2 2 1 m i i = =