第三章数基本逼近(二 最生逼近 copyright@湘潭大学数学与计算科学学院 上一真下一真
1 上一页 下一页 第三章 函数基本逼近(二) ------最佳逼近
仍然是已知x1…,xm;1 ·°Jm9 求一个简单易 算的近似函数P(x)≈f(x) 9②本身是测量值,不准确,即≠∫(x) ④m很大 这时没必要取P(x)=y,而要使P(x)-y总体上尽可能小 常见做法:不可导,求解困难太复杂⑧ >使 max P(x)-y 1使∑P(x)-刀最小 >使∑P(x)-n1最小 ast-Squares method copyright@湘潭大学数学与计算科学学院 上一真下一真
2 上一页 下一页 仍然是已知 x1 … xm ; y1 … ym, 求一个简单易 算的近似函数 P(x) f(x)。 但是 ① m 很大； ② yi 本身是测量值，不准确，即 yi f (xi ) 这时没必要取 P(xi ) = yi , 而要使 P(xi ) − yi 总体上尽可能小。 常见做法： ➢ 使 最小 /* minimax problem */ max | ( ) | 1 i i i m P x − y 太复杂 ➢ 使 最小 = − m i i i P x y 1 | ( ) | 不可导，求解困难 ➢ 使 最小 /* Least-Squares method */ = − m i i i P x y 1 2 | ( ) |
§1最小二乘拟合多项式/ L-S approximating polynomials 确定多项式P(x)=an+ax+…+axn,对手一组数 据(x,y)(=,2,…,m使得g=∑P(x)-y达到极小, i=1 这里n<<m 9实际上是a2 q(a0,1, 法方程组(或正规方程组) normal equations"/ 在P的极值点Nva2小刚 2∑|P(x1)-yl aP(i) da =2∑ i=1 k 21∑a∑x-∑ 0+0 0+n 0 记=∑x,C=∑x國 i=1 n+0 n+n n copyright@湘潭大学数学与计算科学学院 上一真下一真
3 上一页 下一页 §1 最小二乘拟合多项式 /* L-S approximating polynomials */ 确定多项式 ，对于一组数 据(xi , yi ) (i = 1, 2, …, m) 使得 达到极小， 这里 n << m。 n n P(x) = a + a x + ... + a x 0 1 = = − m i i i P x y 1 2 [ ( ) ] a0 a1 an 实际上是 a0 , a1 , …, an 的多元函数，即 [ ] = = + + + − m i i n a a an a a xi an xi y 1 2 0 1 0 1 ( , , ... , ) ... 在 的极值点应有 k n ak = 0 , = 0, ... , k i m i i i k a P x P x y a = − = = ( ) 0 2 [ ( ) ] 1 k i m i n j i j a j xi y x = = = − 1 0 2 [ ] = − = = = + n j m i k i i m i j k aj xi y x 0 1 1 2 记 = = = = m i k k i i m i k bk xi c y x 1 1 , = + + + + n n n n n n c c a a b b b b . . . . . . ... . . . . . . . . . ... 0 0 0 0 0 0 法方程组(或正规方程组) /* normal equations */
定理LS拟合多项式存在唯-(m<m 4 copyright@湘潭大学数学与计算科学学院 上一真下一真
4 上一页 下一页 定理 L-S 拟合多项式存在唯一 (n < m)
定理m-c的解确实是的极小点,即设为解,则任 b=(b0b1…bn)7对应的多项式F(x)=∑bx必有 q(a)=∑|P(x)-y2≤∑[F(x1)-y;2=q(b) 证明:9(b)-q(a=Σ|F(x)-yf2-Σ|P(x)-y2 i=1 ∑[F(x)-P(x1)+P(x)-y2-∑[P(x1)-y i=1 =∑(x)-P(x)+2F(x)-P(x(山x)-l i=1 注: L-s method首先要求设定P(x)的形式。若设 n=m-1,则可取P(x)为过m个点的m1阶插值多 项式,这时p=0 矿P(x)不一定是多项式,通常根据经验确定。 copyright@湘潭大学数学与计算科学学院 下一页
5 上一页 下一页 定理 Ba = c 的解确实是 的极小点。即设 a 为解，则任 意 b = (b0 b1 … bn ) T 对应的多项式 必有 = = n j j F x bj x 0 ( ) = = = − − = m i m i a P xi yi F xi yi b 1 1 2 2 ( ) [ ( ) ] [ ( ) ] ( ) 证明： = = − = − − − m i i i m i b a F xi yi P x y 1 2 1 2 ( ) ( ) [ ( ) ] [ ( ) ] = = = − + − − − m i i i m i F xi P xi P xi yi P x y 1 2 1 2 [ ( ) ( ) ( ) ] [ ( ) ] = = = − + − − m i i i i i m i F xi P xi F x P x P x y 1 1 2 [ ( ) ( )] 2 [ ( ) ( )][ ( ) ] 0 注： L-S method 首先要求设定 P(x) 的形式。若设 n=m−1，则可取 P(x) 为过 m 个点的m−1阶插值多 项式，这时 = 0。 P(x) 不一定是多项式，通常根据经验确定
例 J 方案一:设y≈P(x)=-x ax+b 求a和b使得p(a,b)=∑{x ax+by)最小。 线性化/ nearization*:令y=1,X Y≈a+bX就是个线性问题 将(x;,y)化为(X,1)后易解a和b copyright@湘潭大学数学与计算科学学院 上一真下一真
6 上一页 下一页 例： x y (xi , yi ) , i = 1, 2, …, m 方案一：设 ax b x y P x + ( ) = 求 a 和 b 使得 最小。 = − + = m i i i i y ax b x a b 1 2 ( , ) ( ) 线性化 /* linearization */：令 ，则 x X y Y 1 , 1 = = Y a + bX 就是个线性问题 将( xi , yi ) 化为(Xi ,Yi ) 后易解 a 和b
方案二:设y≈P(x)=ae(a>0,b>0) 线性化:由y≈na-2可做变换 Y=In J A=l B=-b Y≈A+BX就是个线性问题 将(x;,y)化为(X,1)后易解A和B a=e, b=-B, P(r=ae b/x copyright@湘潭大学数学与计算科学学院 上一真下一真
7 上一页 下一页 方案二：设 b x y P x a e / ( ) − = ( a > 0, b > 0 ) 线性化：由 可做变换 x b ln y ln a − A a B b x Y = y X = , = ln , = − 1 ln , Y A+ BX 就是个线性问题 将( xi , yi ) 化为(Xi ,Yi ) 后易解 A 和B A b x a e b B P x a e / , , ( ) − = = − =
§2正交多项式与最小二乘拟合 Orthogonal Polynomials Least-Squares Approximation * 已知x1…xm;y1 求一个简单易算的近 似函数P(x)≈jx)使得∑P(x)-y,P最小。 已知[a,b上定义的fx),求一个简单易算的 近似函数P(x)使得1Px)-)最小 定义线性无关/ linearly independent *函数族{9x) q(x),…,gp(x),…}满足条件:其中任意函数的线性组合 (x)+a9(x)+…,+%(x)=0对任意x∈|a,成立 值仅当 copyright@湘潭大学数学与计算科学学院 上一真下一真
8 上一页 下一页 §2 正交多项式与最小二乘拟合 /* Orthogonal Polynomials & Least-Squares Approximation */ 已知 x1 … xm ; y1 … ym, 求一个简单易算的近 似函数 P(x) f(x) 使得 最小。 = − m i i i P x y 1 2 | ( ) | 已知 [a, b]上定义的 f(x)，求一个简单易算的 近似函数 P(x) 使得 − 最小。 b a P x f x dx 2 [ ( ) ( )] 定义 线性 无 关/* linearly independent */ 函数 族 { 0 (x), 1 (x), … , n (x), … } 满足条件：其中任意函数的线性组合 a00 (x)+a11 (x)+…+ann (x)=0 对任意 x[a, b]成立 当且仅当 a0= a1=… =an =0
定义考虑一般的线性无关函数族o=(9(,.9(c,, gn(x),…,},其有限项的线性组合P(x)=∑a(x)称为广义 j=0 多项式/ generalized polynomial*l 能常见多项式: >{qx)=x}对应代数多项式/ algebraic polynomial >{q(x)= cos p}、{v(x)= Sin e}→{q(x),wx)对应三 角多项式/ trigonometric polynomial >{qx)=e,k1≠k}对应指数多项式/ exponential polynomial */ copyright@湘潭大学数学与计算科学学院 上一真下一真
9 上一页 下一页 定义 考虑一般的线性无关函数族={ 0 (x), 1 (x), … , n (x), … }，其有限项的线性组合 称为广义 多项式 /* generalized polynomial*/. = = n j P x j j x 0 ( ) ( ) 常见多项式： ➢ { j (x) = x j } 对应代数多项式 /* algebraic polynomial */ ➢ { j (x) = cos jx }、{ j (x) = sin jx } { j (x), j (x)}对应三 角多项式 /* trigonometric polynomial */ ➢ { j (x) = e kj x , ki kj } 对应指数多项式 /* exponential polynomial */
定义权函数: ①离散型/ discrete type 根据一系列离散点(x;,y)(=1,…,n)拟合时,在每一误 差前乘一正数w,即误差函数p=∑w[Px)-y,这个 就称作权 weight,反映该点的重要程度。 ②连续型/ continuous type 在a,b上用广义多项式Px)拟合连续函数f(x)时,定义权 函数()∈Cl,即误差函数p=p(xPx)-y(xd 权函数必须px)满足:非负、可积,且在a,b的任何子区间 上p(x)=0 copyright@湘潭大学数学与计算科学学院 上一真下一真
10 上一页 下一页 定义 权函数： ① 离散型 /*discrete type */ 根据一系列离散点 拟合时，在每一误 差前乘一正数wi ，即 误差函数 ，这个wi 就称作权/* weight*/，反映该点的重要程度。 (x , y ) (i 1, ... , n) i i = = = − n i wi P xi yi 1 2 [ ( ) ] ② 连续型 /*continuous type */ 在[a, b]上用广义多项式 P(x) 拟合连续函数 f(x) 时，定义权 函数 (x) C[a, b]，即误差函数 = 。 权函数必须(x)满足：非负、可积，且在[a, b]的任何子区间 上(x) 0。 x P x y x dx b a 2 ( )[ ( ) − ( )]