第2期 狄岚，等：稀疏综合字典学习的小样本人脸识别 ·221· Dw=arg minlM:-DZDD- 将训练数据A={41,A2,…,Ax}的特征向量初始 s.t.IDo (j)ll2 1,Vi,j 化为字典的原子，对字典D。归一化，使其2范数 其中A=A,A,Z=[B,B],同理，逐个更新 为1；分别对字典D的每一类归一化，使其2范数 D=[d,d6,…,d]中的原子，当更新d时，保证 为1。 其他原子不动，默认已更新完成。 2)保证字典D固定，更新稀疏编码X;保证 设Z,=[g…2ml,其中独为Z:的第 字典D。固定，更新稀疏编码C。 更新时，目标函数转化为 k行，令i:=A-∑，于是： (X,)=arg min 0 (A:,D.X)+2y (5) =arg min{g (d)=-dizl D (3) 其中， 令)=0，得到： 0(Xi)=A;-D.C;-Dxill+atr(S.(X)-S8(X)) d 更新C时，目标函数转化为 dh =((Du)(D)+)A.z (C)=argminA.-D.C,-D+2yICll (6) 将得到的d规范化：d=d/川d, 3)以章节2.1.2为例，固定稀疏编码X,更新 4)重复2)和3)，直到前后两次的函数Q的值 字典D;固定稀疏编码C,更新字典D。 满足判断条件为止。 4)重复2)和3)，直到前后两次的函数Q的值 扩充干扰字典算法总体实现步骤如下： 满足判断条件为止。 输入训练样本A',规范化参数y: 混合特色字典算法总体实现步骤如下： 输出字典D。和稀疏编码B及相应的标签。 输入训练样本A,规范化参数Y: 1)初始化字典D。 输出字典D和稀疏编码X,字典D。和稀 2)固定字典D。,更新稀疏编码B。初始化字 疏编码C及相应的标签。 典后，利用式(2)依次求解。 1)初始化字典D和D。 3)固定稀疏编码B,更新字典D。利用式(3) 2)固定字典D,更新稀疏编码X;固定字典 依次更新。 D,更新稀疏编码C;初始化字典后，利用式（⑤） 4)重复2)和3)，直到前后两次的函数的值满 (6)依次求解。 足判断条件为止。 3)固定稀疏编码X,更新字典D:固定稀疏编 2.2混合特色字典 码C,更新字典D。 2.2.1混合特色字典模型 4)重复2)和3)，直到前后两次的函数的值满 对于训练集A和测试集Y,习得类共享字典 足判断条件为止。 D和由K个子字典组成的类别特色字典D: 2.3低秩字典 D={D,D2,…,Dxl。根据Fisher判别准则，混合特 色字典模型如式(4)： 2.3.1低秩字典模型 在人脸识别中，假设扰动分量只占图像特征 J(De,D.C,X)=argmin A.-D.C-D.X+ 的一小部分，即图像的稀疏分量，使用矩阵低秩 D..D.C.X (4) 分解21方法从图像中提取干扰成分（如噪声、孤 (llCll +llXll)+(tr(S..(X)-S8(X))) 立点和遮挡)。 A-DC-DX可分为A:-D.C和 minrank(r)+rEs.t.G,=+E A:-DX两项理解，其中，C;是A:被D.重构 以如图2所示，取图片低秩分量E作为训 的稀疏编码，X,是A,被D重构的稀疏编码。 练集。其中，1>0为正则项参数，提出低秩字典 IA,-D.C提取数据之间的共性，A-DX 模型如下： 根据类标签信息，提取数据之间的特殊性，确保 J(D,P)=arg minE-DP+iPll (7) 每个样本可以由该类字典单独重构，以此提高子 2.3.2低秩字典优化 字典的判别力。其中，1>0为正则项参数，2>0 式(7)为非凸函数，其优化过程如下所示： 稀疏编码参数。 1)初始化字典Dp。 2.2.2混合特色字典优化 将字典原子初始化为训练数据E={E1,E2,…,EH 式(4)为非凸函数，其优化过程如下所示： 的特征向量，对字典D。的每一类归一化，使其2 1)初始化字典D和D。 范数为1。Dbi = argmin Dbi ∥Λi − DbiZi∥ 2 F + D T bi Dbi− 2 F s.t.∥Dbi(:, j)∥2 = 1,∀i, j Λi = [ Aˆ, A ′ i ] , Zi = [ Bi ,B i i ] Dbi = [ d 1 bi,d 2 bi,··· ,d K bi ] d k bi 其 中 ，同理，逐个更新 中的原子，当更新 时，保证 其他原子不动，默认已更新完成。 Zi = [ z(1) z(2) ··· z(m) ] z(k) Zi k Λˆ i = Λi − ∑ j,k d j biz(j) 设 ，其中 为 的第 行，令 ，于是： d k bi = argmin d k bi { g ( d k bi) = Λˆ i − d k biz(k) 2 F + d k T bi Dbi− 2 F } (3) ∂ g ( d k bi ) d k bi 令 = 0 ，得到： d k bi = ( (Dbi−) (Dbi−) T + z(k) 2 2 I )−1 Λˆ iz T (k) d k i d k bi = d k bi/ d k bi 将得到的 规范化： 2 4) 重复 2) 和 3)，直到前后两次的函数 Q 的值 满足判断条件为止。 扩充干扰字典算法总体实现步骤如下： A ′ 输入 训练样本 ，规范化参数 γ ； 输出 字典 Db 和稀疏编码 B 及相应的标签。 1) 初始化字典 Db。 2) 固定字典 Db，更新稀疏编码 B 。初始化字 典后，利用式 (2) 依次求解。 3) 固定稀疏编码 B ，更新字典 Db。利用式 (3) 依次更新。 4) 重复 2) 和 3)，直到前后两次的函数的值满 足判断条件为止。 2.2 混合特色字典 2.2.1 混合特色字典模型 A Y Dc K D D = {D1,D2,··· ,DK} 对于训练集 和测试集 ，习得类共享字典 和 由 个子字典组成的类别特色字典 ： 。根据 Fisher 判别准则，混合特 色字典模型如式 (4)： J(Dc , D,C,X) = argmin Dc ,D,C,X { Ai − DcCi − DiX i i 2 F + λ1 (∥C∥1 +∥X∥1 ) } +λ2 (tr(Sw (X)−SB (X))) (4) Ai − DcCi − DiX i i 2 F ∥Ai − DcCi∥ 2 F Ai − DiX i i 2 F Ci Ai Dc Xi i Ai Di 可分为 和 两项理解，其中， 是 被 重构 的稀疏编码， 是 被 重构的稀疏编码。 ∥Ai − DcCi∥ 2 F Ai − DiX i i 2 F λ1 > 0 λ2 > 0 提取数据之间的共性， 根据类标签信息，提取数据之间的特殊性，确保 每个样本可以由该类字典单独重构，以此提高子 字典的判别力。其中， 为正则项参数， 稀疏编码参数。 2.2.2 混合特色字典优化 式 (4) 为非凸函数，其优化过程如下所示： 1) 初始化字典 D 和 Dc。 A = {A1,A2,··· ,AK} Dc l2 D l2 将训练数据 的特征向量初始 化为字典的原子，对字典 归一化，使其 范数 为 1；分别对字典 的每一类归一化，使其 范数 为 1。 D X Dc C 2) 保证字典 固定，更新稀疏编码 ；保证 字典 固定，更新稀疏编码 。 更新 X 时，目标函数转化为 Q ( Xi i ) = argmin Xi { θ1 (Ai , Di ,Xi)+2γ Xi i 1 } (5) 其中， θ1 ( X i i ) = Ai − DcCi − DiX i i 2 F +λ2tr(Sw (X)−SB (X)) 更新 C 时，目标函数转化为 Q(Ci) = argmin Ci { Ai − DcCi − DiX i i 2 F +2γ∥Ci∥1 } (6) X D C Dc 3) 以章节 2.1.2 为例，固定稀疏编码 ，更新 字典 ；固定稀疏编码 ，更新字典 。 4) 重复 2) 和 3)，直到前后两次的函数 Q 的值 满足判断条件为止。 混合特色字典算法总体实现步骤如下： 输入 训练样本 A ，规范化参数 γ ； D X Dc C 输出 字典 和稀疏编码 ，字典 和稀 疏编码 及相应的标签。 1) 初始化字典 D 和 Dc。 D X Dc C 2) 固定字典 ，更新稀疏编码 ；固定字典 ，更新稀疏编码 ；初始化字典后，利用式 (5)、 (6) 依次求解。 X D C Dc 3) 固定稀疏编码 ，更新字典 ；固定稀疏编 码 ，更新字典 。 4) 重复 2) 和 3)，直到前后两次的函数的值满 足判断条件为止。 2.3 低秩字典 2.3.1 低秩字典模型 在人脸识别中，假设扰动分量只占图像特征 的一小部分，即图像的稀疏分量，使用矩阵低秩 分解[28] 方法从图像中提取干扰成分 (如噪声、孤 立点和遮挡)。 min Γj,Ej rank(Γj)+r Ej 0 s.t.Gj = Γj + Ej Ej λ1 > 0 以如图 2 所示，取图片低秩分量 作为训 练集。其中， 为正则项参数，提出低秩字典 模型如下： J(Dp,P) = argmin{ E− DpPi +λ1∥P∥1 } (7) 2.3.2 低秩字典优化 式 (7) 为非凸函数，其优化过程如下所示： 1) 初始化字典 Dp。 E = {E1,E2,··· ,EH} Dp l2 将字典原子初始化为训练数据 的特征向量，对字典 的每一类归一化，使其 范数为 1。 第 2 期 狄岚，等：稀疏综合字典学习的小样本人脸识别 ·221·