第三节一般最小二乘逼近问题的提法 一、广义多项式与权系数 二、一般最小二乘逼近问题的提法 三、正规方程组 四、小结
第三节 一般最小二乘逼近问题的提法 四、小结 一、广义多项式与权系数 二、一般最小二乘逼近问题的提法 三、正规方程组
一、广义多项式与权系数 (1)、广义多项式 设函数系{0(x)},k=01,2,,线性无关，则其有限项线性组合 B(∑()称为广义多项式。 例如4+a1cosx+b sinx+…+a,cosnx+b sinnx ae+ae.+ae (2)、“权系数”的概念 在例6中，如果要研究低温时电阻与温度的关系，显然低温 下测得的电阻值更重要一些，而另外一些电阻值的作用小 些。这在数学上表现为用和
一、广义多项式与权系数 （1）、广义多项式 设函数系 k ( x k ), 0,1, 2, , = 线性无关，则其有限项线性组合 ( ) ( ) 0 n n k k k P x a x = = 称为广义多项式。 例如 0 1 1 cos sin cos sin n n a a x b x a nx b nx + + + + + 0 1 0 1 n k x k x k x n a e a e a e + + + （2）、 “权系数”的概念 在例6中，如果要研究低温时电阻与温度的关系，显然低温 下测得的电阻值更重要一些，而另外一些电阻值的作用小 些。这在数学上表现为用和
2P.-r》 (3. 替代(2)右端的和式。此处P是任意的正数，通常称之 为权系数，而称(3)为加权和。 二、一般最小二乘逼近问题的提法 (1)、离散型设给定一组数据(x,y),k=1,2.,和一组权 系数AP,An（p>)要求广义多项式P((<m使得 8=A[-R(x门 (32) 最小。这时()称为数据{《x,)}关于权系数{P}的最小二 乘拟合多项式
替代 右端的和式。此处 是任意的正数，通常称之 为权系数，而称 为加权和。 ( ( )) ( ) 2 1 3.1 m k k n k k y P x = − (2.3) k (3.1) 二、一般最小二乘逼近问题的提法 （1）、离散型 设给定一组数据 和一组权 系数 ， ，要求广义多项式 ，使得 ( x y k m k k , , 1, 2 , , ) = 1 2 , , , m (k 0) P x n m n ( )( ) ( ) ( ) 2 1 3.2 n k k n k k y P x = = − 最小。这时 称为数据 关于权系数 的最小二 乘拟合多项式。P x n ( ) ( x y k k , ) k
2、连续型设已知y=f(x)∈C[a,b,权函数p(x)≥0并且 在[a,b]上只有有限个点上P(x)=0。要求广义多项式(x), 使得6=p(x)[P()-f(了 33 最小。这时P(x)称为函数y=f(x在区间[a,b]上关于 权函数P(x)的最小二乘逼近多项式。 注意，(33)可看成(32)中P=p()Ax且max△x4→0 的极限。通常，“最小”也可说成“最优”或“最佳” 可 p(x)≡1Pk≡1 说成“平方”或“均方”；当 或 时，“关于权还 或“关于权系数”的字样，常常略而不提
2、连续型 设已知 ，权函数 ，并且 在 上只有有限个点上 。要求广义多项式 ， 使得 y f x C a b = ( ) , ( x) 0 a b, ( x) = 0 P x n ( ) ( ) ( ) ( ) ( ) 2 3.3 b n a = − x P x f x dx 最小。这时 称为函数 在区间 上关于 权函数 的最小二乘逼近多项式。 P x n ( ) y f x = ( ) a b, ( x) 注意， (3.3) 可看成 (3.2) 中 k = (xk )xk 且 max xk →0 的极限。通常，“最小”也可说成“最优”或“最佳” ； “二乘” 可 说成“平方”或“均方”；当 或 时，“关于权函数 或“关于权系数”的字样，常常略而不提。1 ( x) 1 k
离散情形，定义f(x)与(x的内积为 f,8)=∑Pf(x)8(x) (3.4) 连续情形，定义f(x)与8(x)的内积为 (F.g)=["p(x)f(x)g(x)d (3.5) 则由此所引入的范数 V-sl-() V-gl=p()[(x)s()J 便给出了两个函数∫与8之间的“距离”或接近程度的度量。所谓 平方逼近正是按照这种度量方式来规定其逼近概念的。依这 种度量方式，我们可将两种情形下的最小二乘逼近问题统 说成是：
离散情形，定义 f x( ) 与 g x( ) 的内积为 ( ) ( ) ( ) ( ) 1 , 3.4 m k k k k f g f x g x = = ( , 3.5 ) ( ) ( ) ( ) ( ) b a f g x f x g x dx = 连续情形，定义 f x( ) 与 g x( ) 的内积为 则由此所引入的范数 ( ) ( ) 1 2 2 1 m k k k k f g f x g x = − = ( ) ( ) ( ) 1 2 2 b a f g x f x g x dx − = 便给出了两个函数 与 之间的“距离”或接近程度的度量。所谓 平方逼近正是按照这种度量方式来规定其逼近概念的。依这 种度量方式，我们可将两种情形下的最小二乘逼近问题统一 说成是： f g
求广义多项式P(x),使得 δ=(P-,P-y)=P-y (3.6 最小。其中P()=∑a( 依(3.6试。我们可求得P(x)的系数ao,4,,a所满足的线 性方程组，即所谓正规方程组
求广义多项式 ，使得 最小。其中 依 式。我们可求得 的系数 所满足的线 性方程组，即所谓正规方程组。 P x( ) ( ) ( ) 2 = − − = − P y P y P y , 3.6 ( ) ( ) 0 n k k k P x a x = = (3.6) P x( ) 0 1 , , , n a a a
三、正规方程组 据微分学可知，使δ取极小值的a,应满足条件 0=0,j=0,1…n 8 Ba 3.7） 由于 δ=(P-P-y)=(P,P-y)-(y,P-)=(P,P)-2(P)+) 名am三空am小0》 从而 ∑.Σa(o0)2空a.(o+以 -立a(ge)小+之a(a920=2空.(a.小2@
据微分学可知，使 取极小值的 aj 应满足条件 0, 0,1, , j j n a = = (3.7) 三、正规方程组 由于 = − − = − − − = − + (P y P y P P y y P y P P P y y y , , ) ( , , ) 2( , , ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 0 0 0 0 0 0 , 2 , , , 2 , , , n n n k k r r k k k r k n n n k r k r k k k r k a a a y y y a a a y y y = = = = = = = − + = − + 从而 ( ) ( ) ( ) ( ) ( ) 0 0 0 , , 2 , 2 , 2 , n n n r j r k k j j k k j j j r k k a a y a y a = = = = + − = −
故条件67废为工o8=小 j=0,1,…,n (3.8) 或者 〔o2a-小0 亦即 p,P-y)=0,j=01,,n (3.9 条件3.9)可以看做是每个(=0,1，n)都与P-y正交。 对于离散情形，若P=1,可引进m×(n+1)阶矩阵A 并令其第i行第j列元素为，=p,(x),则AA的 第j行第k列元素 立-e(c)m.()=om
故条件 变为 或者 亦即 条件 可以看做是每个 都与 正交。 (3.7) ( ) ( ) ( ) 0 , , , 0,1, , 3.8 n k j k j k a y j n = = = 0 , 0 n j k k k a y = − = ( j , 0, 0,1, , 3.9 P y j n − = = ) ( ) (3.9) j ( j n = 0,1, , ) P y − 对于离散情形，若 ，可引进 阶矩阵 ， 并令其第 行第 列元素为 ，则 的 第 行第 列元素 1 k m n + ( 1) A i x x ij j i = ( ) T A A j j k ( ) ( ) ( ) 1 1 , , m m ij ik j i k i j k i i x x x x = = = =
又令 x=(aa。…,ay=(0oy,yn 则可将(3.8)式写成AAx=Ay (3.10 从而4，a1,…,4n由下列方程组所决定 (0p)a+(0,g)a+…+(0,pn)a,=(y,0） (9,0)a。+(0,g)a+…+(0,p)an=(y,0) (3.1 (p,0)a+(0n,9)41+…+(0,pa)an=(yp), 可以证明，正规方程组(3山)的解存在而且唯一，且使为最小 δ=P- 事实上，由于p,,,?线性无关，从而对于任意非零向量 (a,4,…,a言a%≠0，于是二次型
又令 ( 0 1 0 1 , , , , , , , ) ( ) T T n m x a a a y y y y = = 则可将 (3.8) 式写成 T T A Ax A y = (3.10) 从而 a a a 0 1 , , , n 由下列方程组所决定 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 0 0 0 0 1 1 0 0 1 0 0 1 1 1 1 1 0 0 1 1 , , , , , , , , , , , , , , , n n n n n n n n n n a a a y a a a y a a a y + + + = + + + = + + + = (3.11) 2 = − P y 可以证明，正规方程组 (3.11) 的解存在而且唯一，且使为最小 事实上，由于 0 1 , , , n 线性无关，从而对于任意非零向量 ( 0 1 , , , ) T n a a a ，于是二次型 0 n k k k a = 0
含a9网-含立e0j22m小。 说明此二次型正定，故方程组(3的系数行列式大于零， 因此方程组3.1)的解存在而且唯一。现设P(x是任意广义多项 式，-P)-e,(，则 6=(P-y,B-y)=(P-P+P-x.B-P+P-x) =(P-P,P-P)+2(p-P,P-y+(P-y,P-y) 由条件69可知(P-PP--(oP-0 故 δ=(p-P,p-P)+8≥8 这说明P(x)确实是使0取极小值的广义多项式
( ) 0 0 0 0 0 0 , , , 0 n n n n n n i j i j i i j j j j j j i j i j j j a a a a a a = = = = = = = = 说明此二次型正定，故方程组 的系数行列式大于零， 因此方程组 的解存在而且唯一。现设 是任意广义多项 式， ，则 (3.11) P x( ) ( ) ( ) ( ) 0 n j j j P x P x x = − = = − − = − + − − + − (P y P y P P P y P P P y , , ) ( ) = − − + − − + − − (P P P P P P P y P y P y , 2 , , ) ( ) ( ) (3.11) 由条件 (3.9) 可知 ( ) ( ) 0 , , 0 n j j j P P P y P y = − − = − = 故 . 这说明 确实是使 取极小值的广义多项式。 = − − + (P P P P , ) P x( )