Page6:定理0.1 定理1.若R1(X),R2(X)是Rn上两种不同的范数定义，则必存在0< m<M<o,使X∈R”,有 mR2(X)≤R1(X)≤MR2(X) 证明.我们只需证R2(X)=X2的情形，即只需证任意R”上的范数均与 R”上的欧式范数等价。 引理1.若(X)是R”上的范数，则(X)关于X与‖·2是一致连续 的。 引理1的证明：设X-Y2<6,注意到X与Y在川·2下可被标准正 交基线性表示，则由范数定义（三角不等式） IRX)-RYI≤RX-Y)≤∑-lRe) =1 ≤（∑-）（∑Re,2) i- ≤X-YIl(n*(mac1 Sisn R(el2)为 =llX-Yl2max1≤isn R(e)l√元 因此引理得证。回到原定理的证明。令S={XX2=},S为关于欧式 范数的有界闭集，因此B在S上有最大、最小值。存在常数m,M,使得 X∈R” X m≤B(7x)≤M,mX≤X)≤MXIe, 因此任一R”上的范数均与欧式范数等价。 ◇ Page7:定义0.7 定理2.向量序列Xm=(cm,m,,xm)收敛的充分必要条件是， limk,个存在。 1
Page 6: 定理 0.1 定理 1. 若 R1(X), R2(X) 是 R n 上两种不同的范数定义，则必存在 0 < m < M < ∞, 使 ∀X ∈ R n , 有 mR2(X) ≤ R1(X) ≤ MR2(X). 证明. 我们只需证 R2(X) = ||X||2 的情形，即只需证任意 R n 上的范数均与 R n 上的欧式范数等价。 引理 1. 若 R(X) 是 R n 上的范数，则 R(X) 关于 X 与 || • ||2 是一致连续 的。 引理 1 的证明：设 ||X − Y ||2 < ϵ, 注意到 X 与 Y 在 || • ||2 下可被标准正 交基线性表示，则由范数定义（三角不等式） |R(X) − R(Y )| ≤ R(X − Y ) ≤ ∑n i=1 |xi − yi |R(ei) ≤ (∑n i=1 |xi − yi | 2 ) 1 2 (∑n i=1 R(ei) 2 ) 1 2 ≤ ||X − Y ||2(n ∗ (max1≤i≤n|R(ei)|) 2 ) 1 2 = ||X − Y ||2max1≤i≤n|R(ei)| √ n. 因此引理得证。回到原定理的证明。令 S = {X|||X||2 = 1}，S 为关于欧式 范数的有界闭集，因此 R1 在 S 上有最大、最小值。存在常数 m, M，使得 ∀X ∈ R n , m ≤ R1( X ||X||2 ) ≤ M, m||X||2 ≤ R1(X) ≤ M||X||2. 因此任一 R n 上的范数均与欧式范数等价。 Page 7: 定义 0.7 定理 2. 向量序列 X(m) = (x (m) 1 , x (m) 2 , . . . , x (m) n ) 收敛的充分必要条件是 ∀i, limk→∞ x (k) i 存在。 1
证明.若Xm)=(rm）,m）,.,m收敛，设imm→Xm)=X=(x1,2,,n), 由范数等价性，不妨设Xm)在欧式范数下收敛，则i, km-z≤（∑km)-,P=lxm-Xb→0， j=1 因此i,1im4ox存在。 若，imo存在，设imo因=，X=(1,2,,工n,则 Xm)-x2=(zm)-x)3→0， 因此Xm)=(rm,xm,,xm)收敛。 Page12-13:(0.9)式，(0.10)式，我们只需证(0.10)式，也即定理0.3 注：(010)式有误，应改为如下： 定理3.设A∈Rmn,b∈R”,Ax=b,A非奇异，6A和6b是A和b的扰 动， IIA-'I6AII<1, 则 115zll s -Cond(A) ✉(+) Cond(A) 证明 引理2.设A∈Rm*m,且川A‖<1，则I-A非奇异， I-A--∑A,-A-≤-A 引理2的证明：若【一A奇异，则它有特征值0，设对应特征值0的一个 特征向量为x,则 (【-A)x=0,Ax=x 2
证明. 若 X(m) = (x (m) 1 , x (m) 2 , . . . , x (m) n ) 收敛，设 limm→∞ X(m) = X = (x1, x2, . . . , xn), 由范数等价性，不妨设 X(m) 在欧式范数下收敛，则 ∀i， |x (m) i − xi | ≤ ( ∑n j=1 |x (m) j − xj | 2 ) 1 2 = ||X (m) − X||2 → 0, 因此 ∀i, limk→∞ x (k) i 存在。 若 ∀i, limk→∞ x (k) i 存在，设 limk→∞ x (k) i = xi，X = (x1, x2, . . . , xn)，则 ||X (m) − X||2 = (∑n i=1 |x (m) i − xi | 2 ) 1 2 → 0, 因此 X(m) = (x (m) 1 , x (m) 2 , . . . , x (m) n ) 收敛。 Page 12-13:(0.9) 式，(0.10) 式，我们只需证 (0.10) 式，也即定理 0.3 注：(0.10) 式有误，应改为如下： 定理 3. 设 A ∈ R n∗n , b ∈ R n , Ax = b, A 非奇异，δA 和 δb 是 A 和 b 的扰 动， ||A −1 ||||δA|| < 1, 则 ||δx|| ||x|| ≤ Cond(A) 1 − Cond(A) ||δA|| ||A|| ( ||δA|| ||A|| + ||δb|| ||b|| ) . 证明. 引理 2. 设 A ∈ R n∗n , 且 ||A|| < 1, 则 I − A 非奇异， (I − A) −1 = ∑∞ k=0 A k , ||(I − A) −1 || ≤ 1 1 − ||A||. 引理 2 的证明：若 I − A 奇异，则它有特征值 0，设对应特征值 0 的一个 特征向量为 x，则 (I − A)x = 0, Ax = x, 2
即A有特征值1，与4<1矛盾。 注意到， 空u-利-空4--交-立” k=0 k=0 k=0 =(4°+∑A+)-∑A+ 0 =1+∑A+1-∑A+1=1, 同样 I-A(∑A)=1, k=0 因此(I-A)-1=∑。A。由于4<1，有 I1-A-‖≤∑4≤∑A=1- 1 k=0 引理2得证。 回到原定理的证明，我们有 A6x +6Ax +6A6x =6b. 6x=(A+6A)-(-6Ax+b)=A-(I+A-16A)-1(-6Ax+b) ll6zll s ll-6Az+661l IlA-'ll II(I+A-16A)-'ll (引理2)≤川-6Ar+4-川1-A-6A ≤05A+600A-‖1-A-6A =6AA1-A-6A A-1‖1-A-6A
即 A 有特征值 1, 与 ||A|| < 1 矛盾。 注意到， ( ∑∞ k=0 A k )(I − A) = ∑∞ k=0 (A k − A k+1) = ∑∞ k=0 A k − ∑∞ k=0 A k+1 = (A 0 + ∑∞ k=0 A k+1) − ∑∞ k=0 A k+1 = I + ∑∞ k=0 A k+1 − ∑∞ k=0 A k+1 = I, 同样 (I − A)(∑∞ k=0 A k ) = I, 因此 (I − A) −1 = ∑∞ k=0 Ak。由于 ||A|| < 1，有 ||(I − A) −1 || ≤ ∑∞ k=0 ||A k || ≤ ∑∞ k=0 ||A||k = 1 1 − ||A||. 引理 2 得证。 回到原定理的证明，我们有 Aδx + δAx + δAδx = δb, δx = (A + δA) −1 (−δAx + δb) = A −1 (I + A −1 δA) −1 (−δAx + δb), ||δx|| ≤ || − δAx + δb|| ||A −1 || ||(I + A −1 δA) −1 || (引理 2) ≤ || − δAx + δb|| ||A −1 || 1 1 − ||A−1δA|| ≤ (||δAx|| + ||δb||) ||A −1 || 1 1 − ||A−1δA|| = ||δAx|| ||A −1 || 1 1 − ||A−1δA||+ ||δb|| ||A −1 || 1 1 − ||A−1δA||, 3
5A≤5AIrI-a54AI =an哥cau 1 1 1 一A≤-I网1-离 1 1-Cond(A)5 IAIl 因此 1 ,Cond(A) 1lAlI A-1A-5AII AIl 1-Cond(A)A 由于川Ax=Ib, 网A=rI≤1A BA- iCond(A). 因此 1 ,166l, l5A-儿1-A-A≤T1 Cond(A) -caa阁 整理即证。 Page11:定理0.2为证明此定理，需要一些引理： 引理3.若A是n阶方阵，特征值为X1,2,,入，则存在可逆矩阵P∈ R*n使得 P-AP=T
||δAx|| ||A −1 || ≤ ||x|| ||δA|| ||A −1 || = ||x||||δA|| ||A|| ||A|| ||A −1 || = ||x||||δA|| ||A|| Cond(A), 1 1 − ||A−1δA|| ≤ 1 1 − ||A−1 || ||δA|| = 1 1 − ||A|| ||A−1 ||||δA|| ||A|| = 1 1 − Cond(A) ||δA|| ||A|| , 因此 ||δAx|| ||A −1 || 1 1 − ||A−1δA|| ≤ ||x||||δA|| ||A|| Cond(A) 1 − Cond(A) ||δA|| ||A|| , 由于 ||Ax|| = ||b||， ||δb|| ||A −1 || = ||δb|| ||b|| ||Ax|| ||A −1 || ≤ ||δb|| ||b|| ||A|| ||x|| ||A −1 || = ||δb|| ||b|| ||x||Cond(A), 因此 ||δb|| ||A −1 || 1 1 − ||A−1δA|| ≤ ||δb|| ||b|| ||x|| Cond(A) 1 − Cond(A) ||δA|| ||A|| , 整理即证。 Page 11: 定理 0.2 为证明此定理，需要一些引理： 引理 3. 若 A 是 n 阶方阵，特征值为 λ1, λ2, . . . , λn，则存在可逆矩阵 P ∈ R n∗n 使得 P −1AP = T, 4
其中T为上三角矩阵， t12… tin 02 T 00.入m 证明.这是线性代数当中的结论，证明略。 引理4.对任意e>0,存在一个矩阵相容范数‖·，使得A∈Rmn有 A川0充分大，若我们取列和范数l,有DAD1<p(DAD,)+, 取‖。川为 lA‖=DPAP-1Dll1 即可，并且川=1。 引理5.Rnn上的矩阵范数等价。 证明.与定理1类似，视为n*n维向量范数。 现在证明定理0.2： 5
其中 T 为上三角矩阵， T = λ1 t12 . . . t1n 0 λ2 . . . t2n . . . . . . . . . . . . 0 0 . . . λn . 证明. 这是线性代数当中的结论，证明略。 引理 4. 对任意 ϵ > 0，存在一个矩阵相容范数 || • ||，使得 ∀A ∈ R n∗n 有 ||A|| 0 充分大，若我们取列和范数 ||•||1，有 ||DtΛD −1 t ||1 < ρ(DtΛD −1 t )+ϵ， 取 || • || 为 ||A|| = ||DtP AP −1D −1 t ||1 即可，并且 ||I|| = 1。 引理 5. R n∗n 上的矩阵范数等价。 证明. 与定理 1 类似，视为 n ∗ n 维向量范数。 现在证明定理 0.2： 5
定理4.limk心A=O的充分必要条件是p(A)<1. 证明.若imoA=O,设入为A的一个特征值，对应的一个特征向量 为x≠0，则Ax=x→0，因此→0，入<1，从而p(4)<1. 若p(A)<1,则取e<1-p(A),由引理4存在矩阵范数‖·‖使得 川4<p(A)+e<1.因此川4‖≤‖Ak→0，因此A在I·‖下收敛于 0.由引理5，A在川·l下收敛于O,因此A→0. ◇ [注：Page12定义0.13下，“当A为正交阵时，Cond(A)=1”有误，反 例可取‖·lr。 ppt ch5page33推论： 定理5.若存在相容的矩阵范数使得lA<1,则1imk∞Ak=O. 证明.（与定理4p(A)<1时的证明相同。） A‖≤A→0，因此A在川·‖下收敛于O.由引理5，A在‖· 下收敛于O,因此Ak→O. 6
定理 4. limk→∞ Ak = O 的充分必要条件是 ρ(A) < 1. 证明. 若 limk→∞ Ak = O，设 λ 为 A 的一个特征值，对应的一个特征向量 为 x ̸= 0，则 Akx = λ kx → 0，因此 λ k → 0，λ < 1，从而 ρ(A) < 1. 若 ρ(A) < 1，则取 ϵ < 1 − ρ(A)，由引理 4 存在矩阵范数 || • || 使得 ||A|| < ρ(A) + ϵ < 1. 因此 ||Ak || ≤ ||A||k → 0，因此 Ak 在 || • || 下收敛于 O. 由引理 5，Ak 在 || • ||1 下收敛于 O，因此 Ak → O. [注]：Page 12 定义 0.13 下，“当 A 为正交阵时，Cond(A) = 1”有误，反 例可取 || • ||F。 ppt ch5 page33 推论： 定理 5. 若存在相容的矩阵范数使得 ||A|| < 1，则 limk→∞ Ak = O. 证明.（与定理 4 ρ(A) < 1 时的证明相同。） ||Ak || ≤ ||A||k → 0，因此 Ak 在 || • || 下收敛于 O. 由引理 5，Ak 在 || • ||1 下收敛于 O，因此 Ak → O. 6