·458· 智能系统学报 第14卷 L(Z,P,J,E,Y1,Y2,Y30= 4)固定Z、P、J,更新E lIPIl.+allDJll+BII-l+Ell:+ <Y,X-XZ-E>+<Y2,Z-P>+<Y3,Z-J>+ E=T(X-XZ+Yu) (18) 发K-X2-+2-P呢+z-J) 山 式(16)、(17)中的T为软阈值算子，算法1总 (10) 式中：Y、Y2、Y3为拉格朗日乘子；μ>0为惩罚参 结了式(10)的优化过程。通过算法1迭代更新得 数；<Y2,Z-P>=r(Y2T-(Z-P),本文利用含有自 到问题，即式(7)的最优解(Z,E)那么被恢复的 适应惩罚项的线性交替方向法(linearized alternat-. 图像和对应的误差则为AZ:和E。图1展示了 ing direction method with adaptive penalty,LADM 不同类的训练样本和对应的恢复结果。 AP)21-2四来优化式(10)，为描述方便，式(10)可以 进一步简化为 L(Z,P,J,E,Y,Y2,Y3,)= lPll.+allDoJl+BlIZ-Il+aIEll:+ (a)原始训练样本 qZ,PJE,YY四-2Y+,+Y (11) 式中q(ZP,J,E,Y1,Y2,Y3四= --8 k-itk- (b)恢复后的训练样本 可以交替优化变量Z、P、J、E,即优化其中一 图1 SWLRR算法得到的恢复结果 个时，固定另外3个变量。每次迭代时变量的更 Fig.1 Recovery results obtained using SWLRR method 新情况如下。 算法1用LADMAP求解问题（即式(8）) 1)固定Z、J、E,更新P 输入训练数据样本X=[XX2…Xc]ER, 式(11)可转化为 参数A>0,B>0; P argminelpll.+P-Af 输出(Z,E) (12) 初始化Zo=Po=J%=E0=Y.0=Y0=Y.0=0, :6=A=Z+名。式(2)的解可以通过式 u 4ma=103,po=1.1,6=10-6,maxiter=1000,k=0。 求，即 若不满足式（⑦）中的收敛条件，则循环下列更 P=USVT =UT.[S]VT (13) 新步骤： 式中：USVT是A的奇异值分解；T[S是软阈值 1)根据式(13)更新P: 算子四，它对向量或矩阵逐元素进行操作，其定义为 2)根据式(16)更新Z: Sij-E.Sij>E 3)根据式(17)更新； T[= Sii+E,Sii<-8 (14) 4)根据式(18)更新E: 0,其他 5)更新拉格朗日乘子： 2)固定J、E、P,更新Z YiI Yi+p(X-XZAI -E); 将J、E、P这3个变量看成常数后，式(11)可 Y2k+1=Y2k+4(Zk41-Pk+1): 以写成式(15)只关于变量Z的函数： Y3A+1 Y3x+p(Zk+-Jui); 2=2-+--+ 6)更新参数：k+1=min(p4,ma): k-p++-+ 7检查收敛条件： max(IIX-XZ+1-Etil:Z+-Pk+illo.lIZ+-Jeille)<6 (15) 8)更新k←k+1: 为了求出使式(15)最小的Z值，将对Z求 3.3低秩投影矩阵 导，使②=0，即可得到本次迭代z的最优值： 在对样本进行分类时，训练样本和测试样本 az Z=(2B+uXrX+2p)(2B0+μXTX-μXTE+ 中存在的遮挡都会对分类结果产生影响。所以将 XY1+μP+4J-Y2-Y3) (16) 训练样本恢复成干净样本后，接下来要考虑的问 3)固定Z、E、P,更新J 题就是如何移除测试样本中可能存在的遮挡。 受Bao等P两启发，可以通过学习一个低秩投影矩阵， Jt =T(ZI+ (17) 将受污染的测试样本投影到相应的低秩子空间。L(Z, P, J,E,Y1,Y2,Y3, µ) = ∥P∥∗ +α∥D⊙ J∥1 +β∥Z −Q∥ 2 F +λ∥E∥1+ < Y1,X− XZ − E > + < Y2, Z − P > + < Y3, Z − J > + µ 2 (∥X− XZ − E∥ 2 F +∥Z − P∥ 2 F +∥Z − J∥ 2 F ) (10) Y1 Y2 Y3 µ > 0 < Y2, Z − P >= tr(Y2 T −(Z − P)) 式中： 、 、 为拉格朗日乘子； 为惩罚参 数； ，本文利用含有自 适应惩罚项的线性交替方向法 (linearized alternat￾ing direction method with adaptive penalty, LADM AP)[21-22] 来优化式 (10)，为描述方便，式 (10) 可以 进一步简化为 L(Z, P, J,E,Y1,Y2,Y3, µ) = ∥P∥∗ +α∥D⊙ J∥1 +β∥Z −Q∥ 2 F +λ∥E∥1+ q(Z, P, J,E,Y1,Y2,Y3, µ)− 1 2µ (∥Y1∥ 2 F +∥Y2∥ 2 F +∥Y3∥ 2 F ) (11) q(Z, P, J,E,Y1 ,Y2 ,Y3 , µ) = µ 2 ( X− XZ − E+ Y1 µ 2 F + Z − P+ Y2 µ 2 F + Z − J + Y3 µ 2 F ) 式中 。 可以交替优化变量 Z、P、J、E，即优化其中一 个时，固定另外 3 个变量。每次迭代时变量的更 新情况如下。 1) 固定 Z、J、E，更新 P 式 (11) 可转化为 Pk+1 = argminε∥P∥∗ + 1 2 ∥P− A∥ 2 F (12) ε = 1 µ A = Z + Y2 µ 式中： ， 。式 (12) 的解可以通过式 (13) 求，即 P = USVT = UTε[S]V T (13) USVT 式中： 是 Ak 的奇异值分解； Tε[S] 是软阈值 算子[23] ，它对向量或矩阵逐元素进行操作，其定义为 Tε[S] =    Si, j −ε, S i, j > ε Si, j +ε, S i, j < −ε 0, 其他 (14) 2) 固定 J、E、P，更新 Z Z 将 J、E、P 这 3 个变量看成常数后，式 (11) 可 以写成式 (15) 只关于变量 的函数： L(Z) = min Z β∥Z −Q∥ 2 F + µ 2 ( X− XZ − E+ Y1 µ 2 F + Z − P+ Y2 µ 2 F + Z − J + Y3 µ 2 F ) (15) Z ∂L(Z) ∂Z = 0 Z 为了求出使式 (15) 最小的 Z 值，将对 求 导，使 ，即可得到本次迭代 的最优值： Z = (2β+µX TX+2µ) −1 (2βQ+µX TX−µX TE+ X TY1 +µP+µJ −Y2 −Y3) (16) 3) 固定 Z、E、P ，更新 J Jk+1 = T(Zk+1 + Y3,k µk ) (17) 4) 固定 Z、P、J ，更新 E Ek+1 = T(X− XZk+1 + Y1,k µk ) (18) T Z ∗ E ∗ AZ∗ E ∗ 式 (16)、(17) 中的 为软阈值算子，算法 1 总 结了式 (10) 的优化过程。通过算法 1 迭代更新得 到问题，即式 (7) 的最优解 ( , ) 那么被恢复的 图像和对应的误差则为 和 。图 1 展示了 不同类的训练样本和对应的恢复结果。 算法 1 用 LADMAP 求解问题 (即式 (8)) X = [X1 X2 ···XC]∈ R m×n λ > 0, β > 0 输入 训练数据样本 ， 参数 ； (Z ∗ ,E ∗ 输出 )。 Z0 = P0 = J0 = E0 = Y1,0 = Y2,0 = Y3,0 = 0 µmax = 108 ρ0 = 1.1 δ = 10−6 maxiter = 1 000 k = 0 初始化 ， ， , ， ， 。 若不满足式 (7) 中的收敛条件，则循环下列更 新步骤： 1) 根据式 (13) 更新 P ； 2) 根据式 (16) 更新 Z ； 3) 根据式 (17) 更新 J ； 4) 根据式 (18) 更新 E ； 5) 更新拉格朗日乘子： Y1,k+1 = Y1,k +µk(X− XZk+1 − Ek+1) ； Y2,k+1 = Y2,k +µk(Zk+1 − Pk+1) ； Y3,k+1 = Y3,k +µk(Zk+1 − Jk+1) ； µ µk+1 = min(ρµk 6) 更新参数 ： , µmax) ； 7) 检查收敛条件： max(∥X− XZk+1 − Ek+1∥∞,∥Zk+1 − Pk+1∥∞,∥Zk+1 − Jk+1∥∞) < δ 8) 更新 k ← k+1 ； 3.3 低秩投影矩阵 在对样本进行分类时，训练样本和测试样本 中存在的遮挡都会对分类结果产生影响。所以将 训练样本恢复成干净样本后，接下来要考虑的问 题就是如何移除测试样本中可能存在的遮挡。 受 Bao 等 [24] 启发，可以通过学习一个低秩投影矩阵， 将受污染的测试样本投影到相应的低秩子空间。 (a) 原始训练样本 (b) 恢复后的训练样本 图 1 SWLRR 算法得到的恢复结果 Fig. 1 Recovery results obtained using SWLRR method ·458· 智 能 系 统 学 报 第 14 卷