第4期 李顺勇，等：一种新的最大相关最小冗余特征选择算法 ·655· 率曲线高于MRMR、Chi-Square--Test的分类准确 New-MRMR-L-P的特征选择效果更好。 率曲线。所以，在waveform数据集上，本文新提 1.0 出的算法New-MRMR-K-NI、New-MRMR-K-P的 特征选择效果更好。 08 1.0 0.9 0.6 →Laplacian-Score -MRMR 0.8 New-MRMR-L-NI 0.4 New-MRMR-L-P 的07 -Fisher-Score 10 20 30 40 数据维度K -MRMR 0.6 New-MRMR-F-NI -New-MRMR-F-P 图gNew-MRMR-L-NI、New-MRMR-L-P、Laplacian- 0.5 Score、MRMR在数据集waveform上，分类准确率 0 10 20 30 40 的变化趋势 数据维度K Fig.8 Correct classification trend of New-MRMR-L-NI, 图6 New-MRMR-F-NI、New-MRMR-F-P、Fisher-Score、 New-MRMR-L-P,Laplacian-Score,MRMR on the MRMR在数据集waveform上，分类准确率的变 dataset waveform 化趋势 不同维度下，New-MRMR-IG-NI、New-MRMR- Fig.6 Correct classification trend of New-MRMR-F-NI New-MRMR-F-P,Fisher-Score,MRMR on the IG-P、传统算法MRMR、Information-Gain在数据 dataset waveform 集waveform上分类准确率变化趋势见图9。 1.0 0.9 0.8 0.8 0.6 0.7 Chi-square-Test -MRMR -Information-Gain 0.4 New-MRMR-K-NI 0.6 New-MRMR-K-P +·MRMR New-MRMR-IG-NI -New-MRMR-IG-P 0.2 0.5 0 10 20 30 40 0 10 20 30 40 数据维度K 数据维度K 图7 New-MRMR-K-NI、New-MRMR-K-P、Chi-Square- 图9 New-MRMR-IG-NI、New-MRMR-IG-P、Informa Test、MRMR在数据集waveform上，分类准确率 tion-Gain、MRMR在数据集waveform上，分类准 的变化趋势 确率的变化趋势 Fig.7 Correct classification trend of New-MRMR-K-NI Fig.9 Correct classification trend of New-MRMR-IG-NI, New-MRMR-K-P,Chi-Square-Test,MRMR on the New-MRMR-IG-P,Information-Gain,MRMR on dataset waveform the dataset waveform 不同维度下，算法New-MRMR-L-NI、New- 图9显示，在数据集waveform上，算法New MRMR-L-P,传统特征选择算法MRMR、Lapla- MRMR-IG-NI的分类准确率的曲线高于传统的算 cian-Score在数据集waveform上的分类准确率变 法MRMR、Information-Gain的分类准确率。且算 化趋势见图8。 法New-MRMR-IG-P的分类准确率在维度为 图8显示，New-MRMR-L-NI的分类准确率高 24时达到最大。维度为11时，New-MRMR-IG- 于传统算法MRMR、Laplacian--Score。在分类准确 P的分类准确率略低于MRMR、Information-Gain, 率达到最大时，New-MRMR-L-NI所选特征子集 但是，在其余维度上均大于MRMR、Information- 数仅为20，小于MRMR、Laplacian-Score的最优特 Gain。综上分析，在数据集waveform上，本文新 征子集数。另外，新提算法在多数维度上均大于 提出的特征选择算法效果明显。 传统算法MRMR、Laplacian-Score的分类准确 表5给出了以上各种算法在数据集clean上 率。由于分类准确率越高，特征选择效果越好， 的实验结果，即经支持向量机分类后，得到的分 所以，在数据集waveform上，New-MRMR-L-NI、 类准确率达到最大时所选择的特征数。率曲线高于 MRMR、Chi-Square-Test 的分类准确 率曲线。所以，在 waveform 数据集上，本文新提 出的算法 New-MRMR-K-NI、New-MRMR-K-P 的 特征选择效果更好。 0.8 0.7 0.9 1.0 0.6 0.5 分类准确率 0 10 20 30 40 数据维度 K MRMR Fisher-Score New-MRMR-F-NI New-MRMR-F-P 图 6 New-MRMR-F-NI、New-MRMR-F-P、Fisher-Score、 MRMR 在数据集 waveform 上，分类准确率的变 化趋势 Fig. 6 Correct classification trend of New-MRMR-F-NI New-MRMR-F-P, Fisher-Score, MRMR on the dataset waveform 0.8 1.0 0.6 0.4 0.2 分类准确率 0 10 20 30 40 数据维度 K MRMR Chi-square-Test New-MRMR-K-NI New-MRMR-K-P 图 7 New-MRMR-K-NI、New-MRMR-K-P、Chi-Square￾Test、MRMR 在数据集 waveform 上，分类准确率 的变化趋势 Fig. 7 Correct classification trend of New-MRMR-K-NI, New-MRMR-K-P, Chi-Square-Test, MRMR on the dataset waveform 不同维度下，算法 New-MRMR-L-NI、New￾MRMR-L-P，传统特征选择算法 MRMR、Lapla￾cian-Score 在数据集 waveform 上的分类准确率变 化趋势见图 8。 图 8 显示，New-MRMR-L-NI 的分类准确率高 于传统算法 MRMR、Laplacian-Score。在分类准确 率达到最大时，New-MRMR-L-NI 所选特征子集 数仅为 20，小于 MRMR、Laplacian-Score 的最优特 征子集数。另外，新提算法在多数维度上均大于 传统算法 MRMR、Laplacian-Score 的分类准确 率。由于分类准确率越高，特征选择效果越好， 所以，在数据集 waveform 上，New-MRMR-L-NI、 New-MRMR-L-P 的特征选择效果更好。 0.8 1.0 0.6 0.4 分类准确率 0 10 20 30 40 数据维度 K MRMR Laplacian-Score New-MRMR-L-NI New-MRMR-L-P 图 8 New-MRMR-L-NI、New-MRMR-L-P、Laplacian￾Score、MRMR 在数据集 waveform 上，分类准确率 的变化趋势 Fig. 8 Correct classification trend of New-MRMR-L-NI, New-MRMR-L-P, Laplacian-Score, MRMR on the dataset waveform 不同维度下，New-MRMR-IG-NI、New-MRMR￾IG-P、传统算法 MRMR、Information-Gain 在数据 集 waveform 上分类准确率变化趋势见图 9。 0.8 0.7 0.9 0.6 0.5 分类准确率 0 10 20 30 40 数据维度 K MRMR Information-Gain New-MRMR-IG-NI New-MRMR-IG-P 图 9 New-MRMR-IG-NI、New-MRMR-IG-P、Informa￾tion-Gain、MRMR 在数据集 waveform 上，分类准 确率的变化趋势 Fig. 9 Correct classification trend of New-MRMR-IG-NI, New-MRMR-IG-P, Information-Gain, MRMR on the dataset waveform 图 9 显示，在数据集 waveform 上，算法 New￾MRMR-IG-NI 的分类准确率的曲线高于传统的算 法 MRMR、Information-Gain 的分类准确率。且算 法 New-MRMR-IG-P 的分类准确率在维度为 24 时达到最大。维度为 11 时，New-MRMR-IG￾P 的分类准确率略低于 MRMR、Information-Gain， 但是，在其余维度上均大于 MRMR、Information￾Gain。综上分析，在数据集 waveform 上，本文新 提出的特征选择算法效果明显。 表 5 给出了以上各种算法在数据集 clean 上 的实验结果，即经支持向量机分类后，得到的分 类准确率达到最大时所选择的特征数。 第 4 期 李顺勇，等：一种新的最大相关最小冗余特征选择算法 ·655·