第6期 徐慧敏，等：图正则化稀疏判别非负矩阵分解 ·1221· 3.2参数选择 GSDNMF-.L21算法包含了图正则化约束参数 入、判别约束参数B和稀疏参数μ等3个关键参 数。为说明3个参数对识别率的影响，分别在两 个数据集上采取固定两个参数来确定另一个参数 的方法进行讨论，设参数的取值范围为[0,1]，取 (c)COL20数据集 数据集的类别数作为基图数(ORL取40，AR取120， 图2数据集示例 C0IL20取20)，最大迭代次数为300次，实验所得 Fig.2 The instances of datasets 的平均识别率与正则化参数的关系如图3所示。 1.0 1.0 1.0 0.9 0.9 -ORL 0.5 -ORL 0.8 98L20 C0L20 0.8 -ORL 0.7 -0AR 0.7 C0L20 0.6 LLd 0.6 10× 10-3 10-2 10 10 10 10-3 102 10-1 10o 10-4 10 102 10-1109 P (a)参数对识别率的影响 (b)参数B对识别率的影响 (c)参数u对识别率的影 图3参数对识别率的影响 Fig.3 The influence of parameters 3.3实验结果及分析 化的情况。在大多数情况下，GSDNMF-L21的识 由图3可知，图正则化参数1对识别率的影 别率要优于其他几种算法，且方差更小，说明在 响较大，在[0,0.01]的范围内，识别率随参数的增 NMF的目标函数中结合图正则化约束和判别约 大而增大，在[0.01,1]的范围内，识别率随参数的 束能够有效提高图像特征提取的准确率和稳定 增大而减少。判别约束参数和稀疏参数对识别率 性。图4比较了在ORL数据集上5种算法的训 的影响较小，在[0,1]范围内一直保持较高识别 练时间（取类别数40作为基图数目），可以发现 率。经过多次实验，最终确定算法的最优参数组 NMF和GNMF的训练时间较短，NDMF训练时 合为=0.005，=1,4=0.5。 间最长，GSDNMF-L2,1和GSDNMF-L,比ND 取基图数分别为3、4、5、6、7、8的平方，在 MF时间短。可知，利用稀疏编码的思想对系数 3种数据集上独立随机地进行20次实验，计算平 矩阵H添加稀疏性约束，在每一迭代更新的过程 均识别率及方差。表1~3给出了5种算法在3种 中能够尽可能少地选择基图像重构训练样本，提 数据集上的平均识别率随基图像个数的增加而变 高了运算速度。 表1ORL数据集上的平均识别率（方差） Table 1 Average recognition rate(variance)on ORL dataset 特征维数 NMF GNMF NDMF GSDNMF-LI GSDNMF-L2,1 9 79.30(2.36) 79.48(1.73) 79.702.83) 82.052.34) 82.25(1.51) 16 85.15(1.69) 85.96(1.35) 86.18(1.58) 90.831.58) 90.83(1.38) 25 86.33(1.52) 85.00(2.14) 85.90(1.67) 89.83(1.36) 92.13(1.25) 36 87.18(1.50) 87.30(1.30) 86.85(1.69) 92.50(1.06) 93.131.03) 49 90.141.04) 90.85(1.17 90.63(0.69 95.43(0.69) 95.430.56(c) COIL20数据集 图 2 数据集示例 Fig. 2 The instances of datasets 3.2 参数选择 β µ GSDNMF-L2,1 算法包含了图正则化约束参数 λ、判别约束参数 和稀疏参数 等 3 个关键参 数。为说明 3 个参数对识别率的影响，分别在两 个数据集上采取固定两个参数来确定另一个参数 的方法进行讨论，设参数的取值范围为 [0,1]，取 数据集的类别数作为基图数 (ORL 取 40，AR 取 120， COIL20 取 20)，最大迭代次数为 300 次，实验所得 的平均识别率与正则化参数的关系如图 3 所示。 1.0 0.5 0 识别率 10−4 10−3 10−2 10−1 100 λ 1.0 0.9 0.8 0.7 0.6 识别率 10−4 10−3 10−2 10−1 100 β 1.0 0.9 0.8 0.7 0.6 识别率 10−4 10−3 10−2 10−1 100 μ ORL AR COIL20 ORL AR COIL20 ORL AR COIL20 (a) 参数λ对识别率的影响 (b) 参数β对识别率的影响 (c) 参数 μ对识别率的影 图 3 参数对识别率的影响 Fig. 3 The influence of parameters 3.3 实验结果及分析 由图 3 可知，图正则化参数 λ 对识别率的影 响较大，在 [0,0.01] 的范围内，识别率随参数的增 大而增大，在 [0.01,1] 的范围内，识别率随参数的 增大而减少。判别约束参数和稀疏参数对识别率 的影响较小，在 [0,1] 范围内一直保持较高识别 率。经过多次实验，最终确定算法的最优参数组 合为 λ=0.005，β=1，μ=0.5。 取基图数分别为 3、4、5、6、7、8 的平方，在 3 种数据集上独立随机地进行 20 次实验，计算平 均识别率及方差。表 1~3 给出了 5 种算法在 3 种 数据集上的平均识别率随基图像个数的增加而变 化的情况。在大多数情况下，GSDNMF-L2,1 的识 别率要优于其他几种算法，且方差更小，说明在 NMF 的目标函数中结合图正则化约束和判别约 束能够有效提高图像特征提取的准确率和稳定 性。图 4 比较了在 ORL 数据集上 5 种算法的训 练时间 (取类别数 40 作为基图数目)，可以发现 NMF 和 GNMF 的训练时间较短，NDMF 训练时 间最长，GSDNMF-L2 , 1 和 GSDNMF-L1 比 ND￾MF 时间短。可知，利用稀疏编码的思想对系数 矩阵 H 添加稀疏性约束，在每一迭代更新的过程 中能够尽可能少地选择基图像重构训练样本，提 高了运算速度。 表 1 ORL 数据集上的平均识别率 (方差) Table 1 Average recognition rate (variance) on ORL dataset 特征维数r NMF GNMF NDMF GSDNMF-L1 GSDNMF-L2,1 9 79.30(2.36) 79.48(1.73) 79.70(2.83) 82.05(2.34) 82.25(1.51) 16 85.15(1.69) 85.96(1.35) 86.18(1.58) 90.83(1.58) 90.83(1.38) 25 86.33(1.52) 85.00(2.14) 85.90(1.67) 89.83(1.36) 92.13(1.25) 36 87.18(1.50) 87.30(1.30) 86.85(1.69) 92.50(1.06) 93.13(1.03) 49 90.14(1.04) 90.85(1.17) 90.63(0.69) 95.43(0.69) 95.43(0.56) 第 6 期 徐慧敏，等：图正则化稀疏判别非负矩阵分解 ·1221·