武汉大学信息与计算科学系：《数值分析》第一章（1-4）向量和矩阵范数

§1.4向量和矩阵范数 >向量范数( vector norms 定义1:R空间的向量范数Ⅱ,对任意x,∈满足下列条件 ()‖≥0;‖=0=0 (2)x=对任意eC (3)‖x+ 常用向量范数: ll =Z x;= |x. I'=max x; i=1 i= 1sisn

§1.4 向量和矩阵范数 ➢ 向量范数 ( vector norms ) n x y  R   , 对任意 定义1：Rn空间的向量范数 || · || ,对任意 满足下列条件 (1) || || 0 ; || || 0 0     x  x =  x = (2) || x || | | || x ||    =    C (3) || x y || || x || || y ||     +  + 常用向量范数：  = = n i i x x 1 1 || || | |   = = n i i x x 1 2 2 || || | |  || || max | | 1 i i n x x    = 

@主要性质 性质1:|-1|=|xl 性质2:||x-ly|s|xyll 性质3:向量范数}x是R上向量x的连续函数 范数等价设A和1l是R上任意两种范数,着存在 常数C、C>0使得C|214sC2|F |k和|||等价。 定理141R上一切范数都等价

主要性质 性质1:‖-x‖=‖x‖ 性质2:｜‖x‖-‖y‖｜≤‖x-y‖ 性质3: 向量范数‖x‖是Rn上向量x的连续函数. 范数等价:设‖·‖A 和‖·‖B是R上任意两种范数，若存在 常数 C1、C2 > 0 使得 ,则称 ‖·‖A 和‖·‖B等价。 定理1.4.1 Rn 上一切范数都等价

定义2设{xk}是R上的向量序列, 令x=(X1X12…,kkn)T,k=12,… 又设x=(x1,X2,…xn)「是R上的向量 如果imxx对所有的=1,2…n成立, 那么称向量x是向量序列{xk的极限 若一个向量序列有极限,称这个向量序列是收敛的 定理1.4.2任意一种向量范数而言,向量 序列{xk}收敛于向量x“的充分必要条件是 lim k

定义2:设｛xk｝是Rn上的向量序列， 令 xk=(xk1,xk2,…，xkn)Ｔ , k=1,2，…., 又设x *＝（x1 * ，x2 * ，…，xn * )Ｔ是Rn上的向量. 如果lim xki=xi对所有的i=1,2,…，n成立， 那么,称向量x *是向量序列｛xk｝的极限 ， 若一个向量序列有极限,称这个向量序列是收敛的. 对任意一种向量范数‖·‖而言，向量 序列｛xk｝收敛于向量x *的充分必要条件是 定理1.4.2 * lim || || 0 k k x x → − =

>矩阵范数( matrix norms) 定y3:对任意A,B∈酬·‖为Rmxn空间的矩阵范数, 指‖·满足(1)-(3): (1)‖A20;‖A=0分A=0 (2)‖A=121A对任意a∈C 3)‖A+B|s|A|+|B‖ 若还满足(4称为相容的矩阵范数 (4)‖AB‖s‖Al‖l·‖B‖

➢ 矩阵范数 ( matrix norms ) m n A B R  定义3:对任意 ,  ,称|| · || 为Rmn空间的矩阵范数, 指|| · ||满足(1)-(3)： (1) || A||  0 ; || A|| = 0  A = 0 (2) || || | | || ||   A A =  对任意  C (3) || A+ B ||  || A|| + || B || (4) || AB ||  || A || · || B || 若还满足(4),称为相容的矩阵范数

例5:设A=(a)∈M定义 A||= 7 证明:这样定义的非负实数不是相容的矩阵范数 证明:设A 11/,B=/1 22 AB Al|=1,B|-1,‖AB2 从而4B|AB

例5: 设A＝(aij)∈M. 定义 2 , 1 1 || || | | n ij i j A a n = =  证明：这样定义的非负实数不是相容的矩阵范数. 证明：设 1 1 1 1 , 1 1 1 1 A B     = =         2 2 2 2 AB   =     || || 1,|| || 1,|| || 2 A B AB = = = 从而 || || || || || || AB A B 

>相容性 (1)矩阵范数与矩阵范数的相容:|ABs| (2)矩阵范数与向量范数 设A∈M,‖A是矩阵范数,x∈R,|x是 向量范数如果满足不等式 AXs|AXl 则称矩阵范数A与向量范数l‖相容

➢相容性 （1）矩阵范数与矩阵范数的相容:‖AB‖≤‖A‖‖B‖ （2）矩阵范数与向量范数 设A∈M，‖A‖是矩阵范数,x∈Rn ，‖x‖是 向量范数.如果满足不等式: ‖Ax‖≤‖A‖‖x‖ 则称矩阵范数‖A‖与向量范数‖x‖相容

Frobenius范数A1+=∑量|的查接推门 i=1j=1 可以证明对方阵A∈R"和x∈R有:,‖AxsA‖xl2 算子范数( operator norm,又称为从属的矩阵范数: 由向量范数‖·导出关于短吃 利用 Cauchy不等式 Axl‖l max p= ma x≠0 ‖ x·y|s‖x|2:‖yl2 纔常用的算子范数 可证(例6) ‖A|=mx∑an|(行和范数) 1≤i≤n Al1=max∑|an|(列和范数) 1≤j≤ni=1 A|2=√am、(4r4)(谱范数( spectral norm))

常用的算子范数： 由向量范数 || · ||p 导出关于矩阵 A  Rnn 的 p 范数: p x p p p Ax x Ax A p x max || || || || || || || || max 0 | | | | 1        = = = 则 p p p p p p Ax A x AB A B || || || || || || || || || || || ||     =    = n j A aij i n 1 || || max | | 1 （行和范数） =   = n i A aij j n 1 1 || || max | | 1 （列和范数） || || max( ) A 2 A A T =  （谱范数 ( spectral norm ) ） 利用Cauchy 不等式 可证（例6）。 2 2 | | || || || || x y x y    可以证明,对方阵 AR nn 和 有: ， n x R  2 2 || || || || || || Ax A x   F = = = n i n j A F aij 1 1 2 || || | | (向量|| ·|| Frobenius范数: 2的直接推广) 算子范数 ( operator norm ),又称为从属的矩阵范数:

定理14对任意算子范数1有:p(4)A 证明:由算子范数的相容性,得到‖Axs‖A|·‖x‖ 将任意一个特征根所对应的特征向量代入 1|l‖=A‖l‖Al‖s‖A4‖·‖l‖ 命题P26,推论)若称,则少对称?(4 证明:‖Al2 max (A A)=V1 ax(A 若九是A的一个特征相则2必是4的特征根 →3m1(42)=x(4)/其个A的特征根成立 又:对称矩阵的 即a(4)为非负实数 所以2范数亦称为 故得证。 谱范数

定理1.4.6 对任意算子范数 || ·|| 有: (A)  || A|| 证明：由算子范数的相容性，得到 || Ax || || A|| || x ||     将任意一个特征根  所对应的特征向量 u 代入  || Au || || A|| || u ||   | |  || u || = || u || =       命题(P26，推论1） 若A对称，则有: || || ( ) A 2 =  A A对称 证明： || || ( ) ( ) 2 A 2 max A A max A T =  =  若 是 A 的一个特征根，则 2 必是 A2 的特征根。 又：对称矩阵的特征根为实数，即  2 (A) 为非负实数， 故得证。 ( ) ( ) 2 2  max A =  A 对某个 A 的特征根 成立 所以2-范数亦称为 谱范数

定理14若矩阵A对某个算子范数满足|<1)则必有 01±A可逆;②.±) 证明:①若不然,则(±Ax=0有非零解,即存在非零向 量x使得±Ax0=-X031x l Ax →(A‖≥1√ ②(±A)±A(I±A)=(±A±A)=I →(±4)=/干(±A) →‖(±A)‖≤1+‖A|-1(±A

定理1.4.4 若矩阵 A 对某个算子范数满足 ||A|| < 1，则必有 ①. I A  可逆； ②. ( ) 1 1 1 || || I A A −   − 证明：① 若不然，则 有非零解，即存在非零向 量 使得 ( ) 0 I A x  = 0 x   = − Ax x 0 0 0 0 || || 1 || || Ax x  =   || || 1 A ✓ ② 1 ( )( ) I A I A I −   = 1 1 ( ) ( ) I A A I A − −    = 1 1 ( ) ( ) I A I A I A   =  − − 1 1 || ( ) || 1 || || || ( ) || I A A I A    +   − −

§15线性方程组的性态(误差分析) Error Analysis for Linear system of Equations 思考求解Ax=b时,A和b的误差对解x有何影响? 设A精确,有误差δb,得到的解为x+δx,即 绝对误差放大因子 A(x+8x=6+8b →6x=Ab→‖δxs‖ 相对误差放大因子 又‖b=1‖4xs‖A|-:|x‖ T xb ‖x ‖A|-,A川 ‖b b

§1.5 线性方程组的性态（误差分析） ( Error Analysis for Linear system of Equations ) 思考:求解 A x b = 时, A 和 b 的误差对解 x 有何影响？ ➢ 设 A 精确， b 有误差  b ，得到的解为 x x + ，即 1   x A b  = − 1 || || || || || ||   x A b    − 绝对误差放大因子 又 || || || || || || || || b Ax A x =   1 || || || || || || A x b   1 || || || || || || || || || || || || x b A A x b   −    相对误差放大因子 A x x b b ( ) + = +  