《矩阵论》课程教学讲义：第十二讲 满秩分解与奇异值分解

第十二讲满秩分解与奇异值分解 矩阵的满秩分解 1.定义:设A∈Cr"(r>0),若存在矩阵F∈CmX及G∈Cr,使 得 A=FG,则称其为A的一个满秩分解。 说明:(1)F为列满秩矩阵,即列数等于秩;G为行满秩矩阵, 即行数等于秩。 (2)满秩分解不唯一。VD∈Cr(r阶可逆方阵),则 A=FG=F(DD )G=(FDDG)=FGI,H F1∈Cr,G1∈C1 rxn 2.存在性定理:任何非零矩阵均存在满秩分解 证:采用构造性证明方法。设A∈Cm,则存在初等变换矩阵 E ∈cmxm G 行 使EA=B= ,其中G∈Cr O(m-r)行 将A写成A=EB,并把E分块成E1=[F 其 r列(m-r)列 中F∈Cmx G ∴A=F.S….|=FG是满秩分解 3. Hermite标准形(行阶梯标准形)

第十二讲 满秩分解与奇异值分解 一、矩阵的满秩分解 1. 定义：设 m n A C (r 0) r    ，若存在矩阵 m r F Cr   及 r n G Cr   ，使 得 A FG = ，则称其为 A 的一个满秩分解。 说明：（1） F 为列满秩矩阵，即列数等于秩； G 为行满秩矩阵， 即行数等于秩。 （2）满秩分解不唯一。 r r D Cr    （ r 阶可逆方阵），则 1 1 A FG F(DD )G (FD)(D G) F G1 1 − − = = = = ， 且 m r r n F C ,G C 1 r 1 r     2. 存在性定理：任何非零矩阵均存在满秩分解 证：采用构造性证明方法。设 m n A Cr   ，则存在初等变换矩阵 m m E Cm   ， 使 G r EA B ....... O (m r)     = =       − 行 行 ， 其中 r n G Cr   将 A 写成 1 A E B− = ，并把 1 E − 分块成   1 r (m r) E F | S − − = 列 列 ，其 中 m r F Cr   . G A F . S .... FG . O          = =             是满秩分解。 3. Hermite 标准形（行阶梯标准形）

设B∈Cr"(r>0),且满足 (1)B的前r行中每一行至少含一个非零元素(称为非零行), 且第一个非零元素为1,而后(m-r)行的元素全为零(称 为零行); (2)若B中第i行的第一个非零元素(即1)在第j列 1,2,,r),则 J<J2<…<Jr; (3)矩阵B的第j列,第2列,…,第j列合起来恰为m阶单位 方阵Im的前r列(即j1,』2,…,列上除了前述的1外全为 0)则称B为 Hermite标准形。 1200-13 001022 例1B1=|0001-11∈C6为Hmt标 000000 000000 5×6 准形 00102 00013 4x5 也是 Hermite标准形 00000 00000 4.满秩分解的一种求法 设A∈Cr mXn (1)采用行初等变换将A化成 Hermite标准形,其矩阵形式为

设 m n B C (r 0) r    ，且满足 （1） B 的前 r 行中每一行至少含一个非零元素（称为非零行）， 且第一个非零元素为 1，而后 (m r) − 行的元素全为零（称 为零行）； （2）若 B 中第 i 行的第一个非零元素（即 1）在第 i j 列 (i 1,2,...,r) = ，则 1 2 r j j ... j    ; （3）矩阵 B 的第 1 j 列，第 2 j 列，…,第 r j 列合起来恰为 m 阶单位 方阵 Im 的前 r 列（即 1 2 r j , j ,..., j 列上除了前述的 1 外全为 0）则称 B 为 Hermite 标准形。 例 1 5 6 1 3 5 6 1 2 0 0 1 3 0 0 1 0 2 2 B C 0 0 0 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0     −     =    −         为 Hermite 标 准形 4 5 2 2 4 5 0 0 1 0 2 0 0 0 1 3 B C 0 0 0 0 0 0 0 0 0 0       =          也是 Hermite 标准形 4. 满秩分解的一种求法 设 m n A Cr   ， （1）采用行初等变换将 A 化成 Hermite 标准形，其矩阵形式为

EA=B,其中B为 Hermite标准形定义中给出的形状 (2)选取置换矩阵 P的第列为e;,即该列向量除第j个元素为1外,其 余元素全为零(i=1,2,…,r); 2其它(n-r)列只需确保P为置换矩阵即可(P的每 行,每一列均只有一个非零元素,且为1) 3用P右乘任何矩阵(可乘性得到满足时),即可得该矩 阵的第i列置换到新矩阵(即乘积矩阵)的第i列 令P=CP,即-[-]∈C (3)令G=B的前r行∈Cr,F=AP1∈Cm则A=FG G 证明:EA=B= 0 A=E-B=F I 0/FG 则F∈Cm,G∈C,G已知,但F=?,当然可以通过 求出E,E1再将E-1分块得到,但这样G就没必要采用 Hermite标准形形式,注意到B=/ 则 AP=E-BP=F =F证毕 例1A=021-1求其满秩分解 1021 解:(1)首先求出A的秩。显然,前两列互相独立,而第三行可由第 行减去第二行得到,故r=2。 (2进行初等变换将A化为 Hermite标准型

EA B= ，其中 B 为 Hermite 标准形定义中给出的形状； （2）选取置换矩阵  1 P 的第 i 列为 i j e ，即该列向量除第 i j 个元素为 1 外，其 余元素全为零 (i 1,2,...,r) = ；  2 其它 (n r) − 列只需确保 P 为置换矩阵即可（ P 的每一 行，每一列均只有一个非零元素，且为 1）；  3 用 P 右乘任何矩阵（可乘性得到满足时），即可得该矩 阵的第 i j 列置换到新矩阵（即乘积矩阵）的第 i 列  4 令 P | * 1 P r (n r)     = 列 − 列 ，即 1 2 r n r 1 j j j r n r P e e ...e C   =      （3）令 G B= 的前 r 行 r n C   r ， m r F AP C 1 r  =  则 A FG = 证明： G EA B O   = =     ，   1 G A E B F | S FG O −   = = =     则 m r F Cr   ， r n G Cr   ，G 已知，但 F ? = ，当然可以通过 求出 1 E,E− 再将 1 E − 分块得到，但这样 G 就没必要采用 Hermite 标 准 形 形 式 ， 注 意 到 r 1 I BP O   =     ， 则   1 r 1 1 I AP E BP F | S F O −   = = =     证毕 例 1 1 2 3 0 A 0 2 1 1 1 0 2 1     = −       求其满秩分解 解：（1）首先求出 A 的秩。显然，前两列互相独立，而第三行可由第 一行减去第二行得到，故 r 2 = 。 (2)进行初等变换将 A 化为 Hermite 标准型

100 [A|13=|021-1·010(3)-()+(2) 1021.00 1230 100 1021 021-1 010(1)-(2)021-1.010 0000 (2)/2 011/2-1/2.01/20 即 0000 E=01/20 B=011/2-1/2,G 011/2-1/2 000 0 3)求出P1及AP1 12 由B可见,i=12=2故P1=|01,F=AP=02 00 验证:FG=021021 021-1 011/2-1/2 10 「120 而E-=|020 101 二、酉对角分解与奇异值分解 1.厄米矩阵的谱分解 A为厄米矩阵,则存在酉矩阵U,使

3 1 2 3 0 . 1 0 0 A | I 0 2 1 1 . 0 1 0 1 0 2 1 . 0 0 1       = −         (3) (1) (2) → − + 1 2 3 0 . 1 0 0 0 2 1 1 . 0 1 0 0 0 0 0 . 1 1 1     −       − (1) (2) → − 1 0 2 1 . 1 1 0 0 2 1 1 . 0 1 0 0 0 0 0 . 1 1 1   −   −       − − (2) / 2 → 1 0 2 1 . 1 1 0 0 1 1/ 2 1/ 2 . 0 1/ 2 0 0 0 0 0 . 1 1 1   −   −       − ， 即 1 1 0 E 0 1/ 2 0 1 1 1   −   =       − , 1 0 2 1 B 0 1 1/ 2 1/ 2 0 0 0 0     = −       , 1 0 2 1 G 0 1 1/ 2 1/ 2   =     − (3)求出 P1 及 AP1 由 B 可见， 1 2 j 1, j 2 = = 故 1 1 0 P 0 1 0 0     =       ， 1 1 2 F AP 0 2 1 0     = =       验证： 1 2 1 2 3 0 1 0 2 1 FG 0 2 0 2 1 1 0 1 1/ 2 1/ 2 1 0 1 0 2 1           = = −         −         而 1 1 2 0 E 0 2 0 1 0 1 −     =       二、酉对角分解与奇异值分解 1. 厄米矩阵的谱分解 A 为厄米矩阵，则存在酉矩阵 U ，使

U AU= A 将U写成列向量形式,即U=[u1u2…un],则 ou A=UAU=u λ;u 2.非奇异矩阵的酉对角分解 定理:设A为n阶非奇异矩阵,则存在n阶酉矩阵U及v, 使得 U AV= ;>0(i=1,2,…,n (若将UV写成 ,则A=∑H 证:AHA也为n阶非奇异矩阵,而且是厄米,正定矩阵,故存在m阶

1 H 2 n O U AU . O         = =         将 U 写成列向量形式，即 U u u ... u = 1 2 n     ，则 H 1 1 H 2 2 n H H 1 2 n i i i i 1 H n n O u u A U U u u ... u . u u . . . O u =                =  = =                         2. 非奇异矩阵的酉对角分解 定理：设 A 为 n 阶非奇异矩阵，则存在 n 阶酉矩阵 U 及 V ， 使得 H 1 2 n O U AV , . . O         =            i   = 0(i 1,2,...,n) （若将 U,V 写成 U u u ... u ,V v v ... v = = 1 2 n 1 2 n         ，则 n H i i i i 1 A u v = =   ） 证： H A A 也为 n 阶非奇异矩阵，而且是厄米，正定矩阵，故存在 n 阶

酉矩阵v,使V(AHAV= G为AHA的特 征值。 令∑ ,则 VAAV= ∑ 令U=2vA",→U=A∑,则 UU ∑ (A"Av∑=ln 即U也是西矩阵,而且UAV=2VHA"AV=∑证毕 酉对角分解的求法正如证明中所给:先对AA对角化(酉对 角化,求出变换矩阵V,再令U=AV∑即可。 3.一般矩阵的奇异值分解 定理:设A∈(mⅫ,则存在m阶酉矩阵U及n阶酉矩阵V,使 行 UAV= (m-r)行 A=U v

酉矩阵 V ，使 2 1 2 2 H H 2 n O V (A A)V . . O           =            2 i 为 H A A 的特 征值。 令 1 2 n O . . O         =             ，则 H H 2 V A AV = 令 H H H 1 1 U V A , U AV − − = → =   ，则 H H H 1 1 U U (V A AV) In − − = =   即 U 也是酉矩阵，而且 H H H 1 U AV V A AV − = =   证毕 酉对角分解的求法正如证明中所给：先对 H A A 对角化（酉对 角化），求出变换矩阵 V ，再令 1 U AV − =  即可。 3. 一般矩阵的奇异值分解 定理：设 m n A Cr   ，则存在 m 阶酉矩阵 U 及 n 阶酉矩阵 V ，使 1 2 H r O r . U AV O O (m r) r (n r)           =          − − 行 行 列 列 即 1 2 H r O A U V . O O         =           

证:首先考虑AA。因为rank(AA)=rank(AA)= rankA,故 AA∈C 而且是厄米,半正定的,存在n阶酉矩阵V,使 (AA) nxn 令∑ 则 列(n-r冽列 A)V VI(AA)V2 V(A)V Ⅴ2(AHA)y1Ⅴ(AHA) w(A"Ay=∑2w(A"AN2=o D-I V2(AAV2=O(n+×(m-r) 令U1=AV∑则U"AV=∑,又(AV2(AV2)=0→AV2=0 在U1的基础上构造酉矩阵U=[U1|U2],即U"U=I 这由前面基扩充定理可知是可行的,从而有 01U1=Ir,01 U2=Orx(n-r),02U2=In-r 故 JHAV UIAV UIAV2 UAV UAV

证 ：首先考 虑 H A A 。因 为 H H rank(A A) rank(AA ) rankA = = ， 故 H n n A A Cr   ， 而且是厄米，半正定的，存在 n 阶酉矩阵 V ，使 2 1 2 2 H H 2 r n n O V (A A)V . O O            =            令 1 2 r O . . O         =             ， V | V 1 2 V r (n r)     = 列 − 列 则 H H H H 2 H H 1 1 1 2 H H H H 2 1 2 2 V (A A)V V (A A)V O V (A A)V V (A A)V V (A A)V O O     = =              H H 2 V (A A)V 1 1 = H H V (A A)V O 1 2 r (n r) =  − H H V (A A)V O 2 2 (n r) (n r) = −  − 令 1 U AV 1 1 − =  则 H U AV1 =  ，又 H 2 2 2 (AV ) (AV ) 0 AV 0 = → = 在 U1 的基础上构造酉矩阵 U U | U = 1 2     ，即 H U U I = 这由前面基扩充定理可知是可行的，从而有 H H H U U I ,U U O ,U U I 1 1 r 1 2 r (n r) 2 2 n r = = =  − − 故 H H H H 1 1 1 1 2 H H H 1 2 2 2 1 2 2 U U AV U AV U AV A V V U U AV U AV     = =                

其中已知 ∑而UHAV2=0,UAV2=0(:AV uAV=U(U2)=(UU1∑ 故定理得证 奇异值分解的求法可按证明步骤求之。 作业:P2251(2),2,5 P2331

其中已知 H U AV 1 1 = 而 H H U AV 0,U AV 0 1 2 2 2 = = 2 ( AV 0) = H H H U AV U (U ) (U U ) 0 2 1 2 1 2 1 = = =   故定理得证。 奇异值分解的求法可按证明步骤求之。 作业： P225 1(2), 2, 5 P233 1