中国科学技术大学：《计算方法》课程教学资源（课件讲稿）数值计算方法课程扩充教程（第九章 函数逼近、第十章 最优化方法）

数值计算方法 扩充教程 童伟华编 中国科学技术大学

数值计算方法 扩充教程 童伟华 编 中国科学技术大学

目录 第九章函数逼近 9.1逼近问题的描述.. 9.2内积空间的最佳逼近 > 9.3最小二乘法.。.， 12 9.4最佳平方逼近与正交多项式 18 9.5周期函数的最佳平方逼近与快速傅立叶变换 25 9.6最佳一致逼近多项式 34 9.7切比雪夫多项式.... 。。。，。,，。。。。。 9.8函数逼近的若干重要定理 48 第十章最优化方法 59 10.1线性规划问题 60 10.2线性规划问题的几何意义 63 103单纯形法，，··。 71 10.4非线性优化问题 10.5一维搜索，. 89 10.6无约束非线性优化 95

目录 第九章 函数逼近 1 9.1 逼近问题的描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 9.2 内积空间的最佳逼近 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 9.3 最小二乘法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 9.4 最佳平方逼近与正交多项式 . . . . . . . . . . . . . . . . . . . . . . . . . 18 9.5 周期函数的最佳平方逼近与快速傅立叶变换 . . . . . . . . . . . . . . . . 25 9.6 最佳一致逼近多项式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 9.7 切比雪夫多项式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 9.8 函数逼近的若干重要定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 第十章 最优化方法 59 10.1 线性规划问题 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 10.2 线性规划问题的几何意义 . . . . . . . . . . . . . . . . . . . . . . . . . . . 63 10.3 单纯形法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 10.4 非线性优化问题 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 10.5 一维搜索 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 10.6 无约束非线性优化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95 iii

第九章函数逼近 在理论和工程领域，经常会遇到函数逼近问题，即如何寻找简单的函数(x)去近 似地代替一个复杂的函数∫(x),其中近似代替又称为逼近，函数f(x)和(x)分别称 为被逼近和逼近函数.利用简单函数去逼近复杂函数的一个常用目的：使得一些常用 的操作，譬如函数求值、微分甚至积分，可以变得更容易执行.另一个常用目的：利用 函数的部分信息，譬如函数值表，重建或恢复一个函数.常用于构造逼近函数的类包括 多项式，三角多项式，分片多项式等.下面是函数逼近的典型例子 (1)在区间[-1,1刂上，确定具有最低次数的多项式p(x)使得|p(x)-arccos(x川≤10-7 成立.更一般地，给定函数f(x)和正数e,确定多项式p(x),使在区间[a,上有 lp(x)-f(x川≤e (2)通过观察或测量函数∫(x)得到一组离散数据：{(x,)1i=1,2,,n,在函数 $=span{9(j=1,2,m}中选择p(y=∑S()回使得逼近 最小，即 9.1逼近问题的描述 在逼近问题中几乎都涉及到从一个集合中选择一个元素，使它在某种意义上接近 该集合外的一个预先给定的元素.因此，若要确切的描述逼近问题，需要明确两个元素 之间的距离是如何度量的.为了在统一的框架下描述逼近问题，下面引入赋范线性空 间

第九章 函数逼近 在理论和工程领域, 经常会遇到函数逼近问题, 即如何寻找简单的函数 φ(x) 去近 似地代替一个复杂的函数 f(x), 其中近似代替又称为逼近, 函数 f(x) 和 φ(x) 分别称 为被逼近和逼近函数. 利用简单函数去逼近复杂函数的一个常用目的: 使得一些常用 的操作, 譬如函数求值、微分甚至积分, 可以变得更容易执行. 另一个常用目的: 利用 函数的部分信息, 譬如函数值表, 重建或恢复一个函数. 常用于构造逼近函数的类包括: 多项式, 三角多项式, 分片多项式等. 下面是函数逼近的典型例子: (1) 在区间 [−1, 1] 上, 确定具有最低次数的多项式 p(x) 使得 |p(x)−arccos(x)| 6 10−7 成立. 更一般地, 给定函数 f(x) 和正数 ε, 确定多项式 p(x), 使在区间 [a, b] 上有 |p(x) − f(x)| 6 ε; (2) 通过观察或测量函数 f(x) 得到一组离散数据: {(xi , yi) | i = 1, 2, . . . , n}, 在函数 空间 Φ = span{φi(x) | j = 1, 2, . . . , m} 中选择 φ(x) = ∑m j=1 cjφj (x) 使得逼近误差 最小, 即 min φ∈Φ ∑n i=1   yi − φ(xi)    2 = min c1,c2,··· ,cm∈R ∑n i=1   yi − ∑m j=1 cjφj (xi)    2 . 9.1 逼近问题的描述 在逼近问题中几乎都涉及到从一个集合中选择一个元素, 使它在某种意义上接近 该集合外的一个预先给定的元素. 因此, 若要确切的描述逼近问题, 需要明确两个元素 之间的距离是如何度量的. 为了在统一的框架下描述逼近问题, 下面引入赋范线性空 间. 1

2 第九章函数逼近 定义9.1设集合V是实数域R上的线性空间，如果V中任意一个元素∫都按某 一法则对应一个实数，记作儿，并且它满足下列条件： (1)正定性：f川≥0，f∈V:f川=0当且仅当f=0成立： (2)齐次性：lcf川=lclf川，ceR,f∈V; (3)三角不等式：If+gl≤If川+lgl,f,g∈V 上述对应关系可视为V→R的映射，称为线性空间V的范数，并简记为"，‖.定义了 范数的线性空间称为赋范线性空间. 下面对常用的有限维线性空间R”和无穷维线性空间C[a,)分别引入范数 例9.1记R”为n维线性空间，在Rn中定义 x2=(+号++2)/，收=(e1,2,…,rn)T ER". 易验证‖·2满足条件(1)~(3).因此，R”按1,2构成一赋范线性空间.事实上，若n 维线性空间R”按常用的内积(，)构成欧氏空间，则范数k2可视为向量x自己与自 己内积的平方根，即x2=√G,x,称x2为向量的2范数或欧几里得范数.另外，不 难验证Rn还可按如下范数 lk1=z+z2+…+znl,次=(e1,x2,…,xn)T∈R”, lxle=maxz1l,z2l,…,znl,i=(x1,x2,·,xn)T∈R”, 分别构成不同的赋范线性空间.更一般地，在Rn中定义 xp=(0zP+lz2P+…+znP)p,次=(c1,x2,…,xn)T∈R", 构成向量x的p范数，前面的范数分别对应p=1,2,∞的情形. 例9.2记Ca,)为区间a,)上连续函数的全体，按通常的函数加法与数乘运算 构成线性空间.在C[a,)中定义 lfl()l v e Cla. 易验证‖·川x满足条件(1)~(3).因此，Ca,)按1·‖✉构成一赋范线性空间，范数 ‖·‖le称为一致范数或Chebyshev范数

2 第九章 函数逼近 定义 9.1 设集合 V 是实数域 R 上的线性空间, 如果 V 中任意一个元素 f 都按某 一法则对应一个实数, 记作 ∥f∥, 并且它满足下列条件: (1) 正定性: ∥f∥ > 0, ∀f ∈ V ; ∥f∥ = 0 当且仅当 f = 0 成立; (2) 齐次性: ∥cf∥ = |c|∥f∥, ∀c ∈ R, ∀f ∈ V ; (3) 三角不等式: ∥f + g∥ 6 ∥f∥ + ∥g∥, ∀f, g ∈ V . 上述对应关系可视为 V → R 的映射, 称为线性空间 V 的范数, 并简记为 ∥ · ∥. 定义了 范数的线性空间称为赋范线性空间. 下面对常用的有限维线性空间 R n 和无穷维线性空间 C[a, b] 分别引入范数. 例 9.1 记 R n 为 n 维线性空间, 在 R n 中定义 ∥x∥2 = ( x 2 1 + x 2 2 + · · · + x 2 n )1/2 , ∀x = (x1, x2, · · · , xn) T ∈ R n . 易验证 ∥ · ∥2 满足条件 (1) ∼ (3). 因此, R n 按 ∥ · ∥2 构成一赋范线性空间. 事实上, 若 n 维线性空间 R n 按常用的内积 (·, ·) 构成欧氏空间, 则范数 ∥x∥2 可视为向量 x 自己与自 己内积的平方根, 即 ∥x∥2 = √ (x, x), 称 ∥x∥2 为向量的2-范数或欧几里得范数. 另外, 不 难验证 R n 还可按如下范数 ∥x∥1 = |x1| + |x2| + · · · + |xn|, ∀x = (x1, x2, · · · , xn) T ∈ R n , ∥x∥∞ = max{|x1|, |x2|, · · · , |xn|}, ∀x = (x1, x2, · · · , xn) T ∈ R n , 分别构成不同的赋范线性空间. 更一般地, 在 R n 中定义 ∥x∥p = (|x1| p + |x2| p + · · · + |xn| p ) 1/p , ∀x = (x1, x2, · · · , xn) T ∈ R n , 构成向量 x 的p-范数, 前面的范数分别对应 p = 1, 2, ∞ 的情形. 例 9.2 记 C[a, b] 为区间 [a, b] 上连续函数的全体, 按通常的函数加法与数乘运算 构成线性空间. 在 C[a, b] 中定义 ∥f∥∞ = max a6x6b |f(x)|, ∀f ∈ C[a, b]. 易验证 ∥ · ∥∞ 满足条件 (1) ∼ (3). 因此, C[a, b] 按 ∥ · ∥∞ 构成一赋范线性空间, 范数 ∥ · ∥∞ 称为一致范数或 Chebyshev 范数

9.1逼近问题的描述 例9.3记Cr[a,)为区间[a,)上r次连续可微函数的全体.定义Cr[a,b的范数 fs=ma{f(lf'(…,lf川，feCa,. 显然，Ca,b是Cra,b的一个特殊情形. 例9.4记LP[a,b为区间[a,b上所有满足 [eard<te,p≥l 的Lebesgue可积函数f构成的函数类(Lebesgue积分是Riemann积分的推广)，.因区间 [a,b)上所有的连续函数都是Riemann可积的，故C[a,)cL[a,.在LP[a,)中定义 1/p -（I)Pd）,fera, (9.1) Ja 可以证明‖·p是P[a,的一个范数.注意，在[a,)中约定：将几乎处处相等的两 个可测函数∫，9视为同一函数。 在赋范线性空间中，可以按照下面的方式引入向量之间的距离 定义9.2在赋范线性空间V中，定义函数 df,g)=f-gll,f,9∈V, 称为∫与g之间的距离.不难验证d(∫，9)满足距离定义所要求的条件： (1)正定性：d(f,g)≥0，f∈V,d(,9)=0当且仅当∫=9成立， (2)对称性：d(f,g)=dg,f),f,9∈V, (3)三角不等式：df,g)≤d(f,h)+d(h,g,f,g,h∈V 有了距离的定义，便可讨论函数的连续性。 引理9.1在赋范线性空间V中，加法，数乘和范数都是距离d(∫，g)下的连续函 数 证明设V中有收敛的序列，ma=∫及m9m=9,则有 d(f*+g",fn +gn)=lf*+g"-(fn +gn)ll ≤lf'-fnll+lg°-gl =d(f',fn)+dg',9n)

9.1 逼近问题的描述 3 例 9.3 记 C r [a, b] 为区间 [a, b] 上 r 次连续可微函数的全体. 定义 C r [a, b] 的范数 ∥f∥∞ = max x∈[a,b] { |f(x)|, |f ′ (x)|, · · · , |f (r) (x)| } , ∀f ∈ C r [a, b]. 显然, C[a, b] 是 C r [a, b] 的一个特殊情形. 例 9.4 记 L p [a, b] 为区间 [a, b] 上所有满足 ∫ b a |f(x)| p dx 1, 的 Lebesgue 可积函数 f 构成的函数类 (Lebesgue 积分是 Riemann 积分的推广). 因区间 [a, b] 上所有的连续函数都是 Riemann 可积的, 故 C[a, b] ⊂ L[a, b]. 在 L p [a, b] 中定义 ∥f∥p = (∫ b a |f(x)| p dx )1/p , ∀f ∈ L p [a, b], (9.1) 可以证明 ∥ · ∥p 是 L p [a, b] 的一个范数. 注意, 在 L p [a, b] 中约定: 将几乎处处相等的两 个可测函数 f, g 视为同一函数. 在赋范线性空间中, 可以按照下面的方式引入向量之间的距离. 定义 9.2 在赋范线性空间 V 中, 定义函数 d(f, g) = ∥f − g∥, ∀f, g ∈ V, 称为 f 与 g 之间的距离. 不难验证 d(f, g) 满足距离定义所要求的条件: (1) 正定性: d(f, g) > 0, ∀f ∈ V ; d(f, g) = 0 当且仅当 f = g 成立; (2) 对称性: d(f, g) = d(g, f), ∀f, g ∈ V ; (3) 三角不等式: d(f, g) 6 d(f, h) + d(h, g), ∀f, g, h ∈ V . 有了距离的定义, 便可讨论函数的连续性. 引理 9.1 在赋范线性空间 V 中, 加法, 数乘和范数都是距离 d(f, g) 下的连续函 数. 证明 设 V 中有收敛的序列 lim n→∞ fn = f ∗ 及 lim n→∞ gn = g ∗ , 则有 d(f ∗ + g ∗ , fn + gn) = ∥f ∗ + g ∗ − (fn + gn)∥ 6 ∥f ∗ − fn∥ + ∥g ∗ − gn∥ = d(f ∗ , fn) + d(g ∗ , gn)

第九章函数逼近 故而，im(n+gn)=limf+im9n成立 类似地，可以证明1im从n=入ima和ma=‖，ml成立 下面设X是赋范线性空间，M是X的非空子集，我们希望从M中选取元素逼近 X中的元素，M称为X的一个逼近集合 定义9.3对于x∈X,如果有元素m∈M使得 ll -m'll=inf ll-mll d(t.M), 则称m'为子集M逼近x的最佳逼近元，记为m'∈B(x),其中 Bw(e)≌m∈M:lx-m=d(x,M) 表示由M逼近x的最佳逼近元构成的集合，用#B(z)表示最佳逼近元的个数 有了最佳逼近元的定义之后，自然地会产生以下问题： (1)存在性，即是否有#BM(x)≥1； (2)唯一性，即是否有#BM(x)≤1 (3)最佳逼近元应具有什么特征 (4)最佳逼近元的构造及其应用. 定义9.4X的一个子集M称为列紧的，如果M中的每个点列都有一个收敛于 M中一点的子序列. 定理9.2设M是X的列紧子集，则对于任意的x∈X,存在最佳逼近元m*∈M 证明若x∈M,显然x=m*∈Bw(x).下设x∈XM,由于 d(,M)inf lle -mll, 故存在mn∈M使得lim ll-mn‖=d(x,M).利用M的列紧性，存在{mn}的子序 列{m}使得 lim mnk=m'∈M 成立.又因范数的三角不等式，可知 lz-m*l≤z-mmk‖+lmns-m'l:

4 第九章 函数逼近 故而 lim n→∞ (fn + gn) = lim n→∞ fn + lim n→∞ gn 成立. 类似地, 可以证明 lim n→∞ λfn = λ lim n→∞ fn 和 lim n→∞ ∥fn∥ = ∥ lim n→∞ fn∥ 成立. 下面设 X 是赋范线性空间, M 是 X 的非空子集, 我们希望从 M 中选取元素逼近 X 中的元素, M 称为 X 的一个逼近集合. 定义 9.3 对于 x ∈ X, 如果有元素 m∗ ∈ M 使得 ∥x − m∗ ∥ = inf m∈M ∥x − m∥ , d(x, M), 则称 m∗ 为子集 M 逼近 x 的最佳逼近元, 记为 m∗ ∈ BM(x), 其中 BM(x) , { m ∈ M : ∥x − m∥ = d(x, M) } 表示由 M 逼近 x 的最佳逼近元构成的集合, 用 #BM(x) 表示最佳逼近元的个数. 有了最佳逼近元的定义之后, 自然地会产生以下问题: (1) 存在性, 即是否有 #BM(x) > 1; (2) 唯一性, 即是否有 #BM(x) 6 1; (3) 最佳逼近元应具有什么特征; (4) 最佳逼近元的构造及其应用. 定义 9.4 X 的一个子集 M 称为列紧的, 如果 M 中的每个点列都有一个收敛于 M 中一点的子序列. 定理 9.2 设 M 是 X 的列紧子集, 则对于任意的 x ∈ X, 存在最佳逼近元 m∗ ∈ M. 证明 若 x ∈ M, 显然 x = m∗ ∈ BM(x). 下设 x ∈ X\M, 由于 d(x, M) = inf m∈M ∥x − m∥, 故存在 mn ∈ M 使得 lim n→∞ ∥x − mn∥ = d(x, M). 利用 M 的列紧性, 存在 {mn} 的子序 列 {mnk } 使得 lim k→∞ mnk = m∗ ∈ M 成立. 又因范数的三角不等式, 可知 ∥x − m∗ ∥ 6 ∥x − mnk ∥ + ∥mnk − m∗ ∥.

9.1逼近问题的描述 上述不等式两边取极限，有x-m‖≤d(x,M).另一方面，m∈M有lz-m‖≥ d(x,M).因此，存在m°∈M使得川x-m‖=d(z,成立. 0 推论9.3若M是X的线性子空间，且dim()0.对 于任意的（≠0）∈N,则有 IT(A)川=T(/川AI✉)川·IAI。≥alIe 因川T(A)川在F上有界，故IA在N上有界. 综上，N是R”的有界闭集，故是一个紧集.又因为F是N在连续映射下的像，所 以F也是一个紧集 记集合K={m∈M:m-x≤‖z},显然0∈K,故集合K非空.容易看出 K是X的一个有限维的有界闭子集，利用前面的结论可知K是一个紧集.考虑函数 f:K→R f(m)=lm-xl,m∈K, 由引理9.1知f(m)是K上的连续函数.因此，f(m)在紧集K上可以取到最小值，即存 在m*∈M使得x-m*‖=d(x,M)成立. 上述定理及推论回答了一般赋泛线性空间最佳逼近元的存在性问题

9.1 逼近问题的描述 5 上述不等式两边取极限, 有 ∥x − m∗∥ 6 d(x, M). 另一方面, m∗ ∈ M 有 ∥x − m∗∥ > d(x, M). 因此, 存在 m∗ ∈ M 使得 ∥x − m∗∥ = d(x, M) 成立. 推论 9.3 若 M 是 X 的线性子空间, 且 dim(M) 0. 对 于任意的 λ(̸= 0) ∈ N, 则有 ∥T(λ)∥ = ∥T(λ/∥λ∥∞)∥ · ∥λ∥∞ > α∥λ∥∞. 因 ∥T(λ)∥ 在 F 上有界, 故 ∥λ∥∞ 在 N 上有界. 综上, N 是 R n 的有界闭集, 故是一个紧集. 又因为 F 是 N 在连续映射下的像, 所 以 F 也是一个紧集. 记集合 K = {m ∈ M : ∥m − x∥ 6 ∥x∥}, 显然 0 ∈ K, 故集合 K 非空. 容易看出, K 是 X 的一个有限维的有界闭子集, 利用前面的结论可知 K 是一个紧集. 考虑函数 f : K 7→ R, f(m) = ∥m − x∥, ∀m ∈ K, 由引理9.1知 f(m) 是 K 上的连续函数. 因此, f(m) 在紧集 K 上可以取到最小值, 即存 在 m∗ ∈ M 使得 ∥x − m∗∥ = d(x, M) 成立. 上述定理及推论回答了一般赋泛线性空间最佳逼近元的存在性问题.

6 第九章函数逼近 接下来，我们讨论唯一性问题.一般情况下，最佳逼近元是不唯一的.容易看出， Bw(x)=M∩B(x,d(x,M),其中B(z,d(x,M)表示以x为球心，半径为d(x,M)的 球.因此最佳逼近元的唯一性与M的性质及X中单位球的性质相关 定义9.5设M是赋范线性空间X的非空子集，称M是凸集，如果对任意的 m1,m2∈M,t∈(0,1)，均有t*m1+(1-t)*m2∈M成立.进一步，若m1≠m2,均 有t*m1+(1-t)*m2∈M°成立(M°表示集合M的内部)，则称M是严格凸集. 容易验证赋范线性空间的闭球B(x,r）是凸集.在Rm和LP[a,司中，当10,假若存在两个不同的元素m1,m2∈Bu(),则有 2m+m)-≤lm-+m-=d,M 因M是凸集，故m+m)∈M→m1+m)eBu().考虑集合 {Ae0,:5m1+m2)+-m1+m2】eM} 显然它存在上确界.又由M是列紧的，知入能取到最大值入.此时， 2m+mg)+邓-m+m-=1-刘az,M0. 因M是严格凸集，故(m1+m2)是M的内点，从而有入>0.利用上式，可知存在 m=m+m2)+e-m1+m】∈M, 使得m-xl<d(x,M),这与d(x,M)的最小性矛盾

6 第九章 函数逼近 接下来, 我们讨论唯一性问题. 一般情况下, 最佳逼近元是不唯一的. 容易看出, BM(x) = M ∩ B(x, d(x, M)), 其中 B(x, d(x, M)) 表示以 x 为球心, 半径为 d(x, M) 的 球. 因此最佳逼近元的唯一性与 M 的性质及 X 中单位球的性质相关. 定义 9.5 设 M 是赋范线性空间 X 的非空子集, 称 M 是凸集, 如果对任意的 m1, m2 ∈ M, t ∈ (0, 1), 均有 t ∗ m1 + (1 − t) ∗ m2 ∈ M 成立. 进一步, 若 m1 ̸= m2, 均 有 t ∗ m1 + (1 − t) ∗ m2 ∈ M◦ 成立 (M◦ 表示集合 M 的内部), 则称 M 是严格凸集. 容易验证赋范线性空间的闭球 B(x, r) 是凸集. 在 R n 和 L p [a, b] 中, 当 1 0, 假若存在两个不同的元素 m1, m2 ∈ BM(x), 则有 1 2 (m1 + m2) − x 6 1 2 m1 − x + 1 2 m2 − x = d(x, M). 因 M 是凸集, 故 1 2 (m1 + m2) ∈ M ⇒ 1 2 (m1 + m2) ∈ BM(x). 考虑集合 { λ ∈ [0, 1] : 1 2 (m1 + m2) + λ [ x − 1 2 (m1 + m2) ] ∈ M } , 显然它存在上确界. 又由 M 是列紧的, 知 λ 能取到最大值 λ¯. 此时, 1 2 (m1 + m2) + λ¯ [ x − 1 2 (m1 + m2) ] − x = (1 − λ¯)d(x, M). 因 M 是严格凸集, 故 1 2 (m1 + m2) 是 M 的内点, 从而有 λ >¯ 0. 利用上式, 可知存在 m¯ = 1 2 (m1 + m2) + λ¯ [ x − 1 2 (m1 + m2) ] ∈ M, 使得 ∥m¯ − x∥ < d(x, M), 这与 d(x, M) 的最小性矛盾.

92内积空间的最佳逼近 7 推论9.5若M是X的线性子空间，且dim(M)0.用反证法.假设存在两个不同的元素m1,m2∈Bw(x),即 m1,m2∈B(x,d(x,M).因X按范数‖是严格凸的，故(m1+m)是B(x,d(红，M) 的内点.因此，有 m +m)-<dz,a). 因M是X的线性子空间，故m1+m2)∈M,这与d(红，M)的最小性矛盾 本节仅讨论了一般赋范线性空间最佳逼近元的存在唯一问题.关于其他的几个问 题，以后各节会逐一讨论.接下来，针对一些具有重要理论意义和应用背景的赋范线性 空间研究相应的最佳逼近问题. 9.2内积空间的最佳逼近 在线性代数中，我们学习过维的欧几里德空间，即装配了内积的有限维线性空 间，可以描述向量的长度、正交等几何性质.对于无穷维的线性空间，可以按相同的方 式引入内积的定义 定义9.7设集合V是实数域R上的线性空间，如果V中任意一对元素∫，g都按 某一法则对应一个实数，记作(f,g),并且满足下列条件 (1)对称性：(f,9=(g,f),∫，9∈V, (2)线性性：（∫+g,h)=A(f,h)+(g,),入，4∈R,f,9,h∈V; (3)正定性：（任，f)≥0，f∈V;(,f)=0÷f=0, 则称二元实函数(，)是线性空间V上的一个内积.定义了内积的线性空间V称为内 积空间. 例9.5在Rn空间中，任取一组标准正交基e1,e2,·,cm,则 (K,y)=x1班+2+…+xnn,次，y∈R”, 其中x=x1e1十x2e2十…十xnen,y=he十2e2+…+nen

9.2 内积空间的最佳逼近 7 推论 9.5 若 M 是 X 的线性子空间, 且 dim(M) 0. 用反证法. 假设存在两个不同的元素 m1, m2 ∈ BM(x), 即 m1, m2 ∈ B(x, d(x, M)). 因 X 按范数 ∥·∥ 是严格凸的, 故 1 2 (m1+m2) 是 B(x, d(x, M)) 的内点. 因此, 有 1 2 (m1 + m2) − x 0, ∀f ∈ V ; (f, f) = 0 ⇔ f = 0, 则称二元实函数 (·, ·) 是线性空间 V 上的一个内积. 定义了内积的线性空间 V 称为内 积空间. 例 9.5 在 R n 空间中, 任取一组标准正交基 e1, e2, · · · , en, 则 (x, y) = x1y1 + x2y2 + · · · + xnyn, ∀x, y ∈ R n , 其中 x = x1e1 + x2e2 + · · · + xnen, y = y1e1 + y2e2 + · · · + ynen.

6 第九章函数逼近 例9.6在L2[a,6空间中，定义 ()f()g()dz,a, (9.2) 易验证(，)满足条件(1)~(3).因此，L2[a,)按(，)构成一内积空间 命题9.6(Cauchy-Schwarz不等式)设V是内积空间，则有 If,gl≤Vf,f)(g,g),f,9∈V. 证明设人，g∈V,因V是线性空间，故Af+g∈V(A∈R).利用内积的正定性，知 (J+9,λf+g)≥0→2(f,f)+2(f,9)+(g,9)≥0. 因上式对任意的入∈R成立，故由二次函数的性质知： 4(f,g2-4(f,f)·(g,9）≤0→1(f,9川≤Vf,f)·(g,9. 由于∫，9是任取的，故命题成立 若在内积空间V中定义 IfI=f,f),f∈V, 则有 If+g2=(f+9,f+g)=(,f)+2(f,9)+(g,g ≤(，f)+2Vf,f)·(99)+(g,9)=(lf川+lg)2 即f+g≤f川+Ig.易验证，‖·‖构成V的一个范数，称‖·‖是内积诱导的范数 与一般的赋范线性空间不同，内积空间具有很好的几何性质. 命题9.7（平行四边形等式）设V是内积空间，则有 f+g2+f-g2=2(f2+Ig2). 证明设f,g∈V,因V是线性空间，故∫+g,f-9∈V.经简单计算知 U+g2=(f+9,f+g)=(5,f)+2,9)+(g,9, If-gl2=(f-9,f-9)=(,f)-2(f,9)+(g,9):

8 第九章 函数逼近 例 9.6 在 L 2 [a, b] 空间中, 定义 (f, g) = ∫ b a f(x)g(x) dx, ∀f, g ∈ L 2 [a, b]. (9.2) 易验证 (·, ·) 满足条件 (1) ∼ (3). 因此, L 2 [a, b] 按 (·, ·) 构成一内积空间. 命题 9.6 (Cauchy-Schwarz 不等式) 设 V 是内积空间, 则有 |(f, g)| 6 √ (f, f) · (g, g), ∀f, g ∈ V. 证明 设 f, g ∈ V , 因 V 是线性空间, 故 λf + g ∈ V (λ ∈ R). 利用内积的正定性, 知 (λf + g, λf + g) > 0 ⇐⇒ λ 2 (f, f) + 2λ(f, g) + (g, g) > 0. 因上式对任意的 λ ∈ R 成立, 故由二次函数的性质知: 4(f, g) 2 − 4(f, f) · (g, g) 6 0 =⇒ |(f, g)| 6 √ (f, f) · (g, g). 由于 f, g 是任取的, 故命题成立. 若在内积空间 V 中定义 ∥f∥ = √ (f, f), ∀f ∈ V, 则有 ∥f + g∥ 2 = (f + g, f + g) = (f, f) + 2(f, g) + (g, g) 6 (f, f) + 2√ (f, f) · (g, g) + (g, g) = (∥f∥ + ∥g∥) 2 , 即 ∥f + g∥ 6 ∥f∥ + ∥g∥. 易验证, ∥ · ∥ 构成 V 的一个范数, 称 ∥ · ∥ 是内积诱导的范数. 与一般的赋范线性空间不同, 内积空间具有很好的几何性质. 命题 9.7 (平行四边形等式) 设 V 是内积空间, 则有 ∥f + g∥ 2 + ∥f − g∥ 2 = 2(∥f∥ 2 + ∥g∥ 2 ). 证明 设 f, g ∈ V , 因 V 是线性空间, 故 f + g, f − g ∈ V . 经简单计算知 ∥f + g∥ 2 = (f + g, f + g) = (f, f) + 2(f, g) + (g, g), ∥f − g∥ 2 = (f − g, f − g) = (f, f) − 2(f, g) + (g, g),