第4期 李顺勇，等：一种新的最大相关最小冗余特征选择算法 ·653· 新提出的特征选择算法在数据降维方面效果更佳。 且，在所选特征子集数为289时，其分类准确率达 图2是在数据集isolet上，本文新提出的特征 到了最高，既很好地去除了原始特征集中的冗余 选择算法New-MRMR-F-NI、New-MRMR-F-P,传 和不相关特征，又保证了分类准确率。此外，算 统特征选择算法MRMR、Fisher Score在不同维度 法New-MRMR-K-P除了在维度为195时的分类 下的分类准确率变化趋势。 准确率与传统算法MRMR相近之外，在其他维度 1.0 上的分类准确率均高于Chi-Square-Test、MRMR。 可见，本文新提出的特征选择算法效果更佳。 0.9 不同维度下，新提出的特征选择算法New- 0.8 MRMR-L-NI、New-MRMR-L-P,传统特征选择算 0.7 法MRMR、Laplacian-Score的分类准确率变化趋 0.6 -Fisher-Score 势见图4。 二Ne-MiRMR-F-N 1.0 0.5 +New-MRMR-F-P 0.4 0 200 400 600 数据维度K 0.8 图2 New-MRMR-F-NI、New-MRMR-F-P、Fisher-Score、 MRMR在数据集isolet上分类准确率的变化趋势 ◆Laplacian-Score Fig.2 Correct classification trend of New-MRMR-F-NI, -MRMR New-MRMR-F-P,Fisher-Score,MRMR on the New-MRMR-L-NI dataset isolet 0.4 -New-MRMR-L-P 从图2可以看出，对于在不同维度下的分类 200 400 600 准确率，新提出的特征选择算法New-MRMR-F 数据维度K NI、New-MRMR-F-P明显高于传统算法Fisher 图4 New-MRMR-L-NI、New-MRMR-L-P、Laplacian- Score、MRMR。所以，对于减少原始特征集中的 Score、MRMR在数据集isolet上，分类正确的变化 趋势 冗余和不相关特征，New-MRMR-F-NI、New- Fig.4 Correct classification trend of New-MRMR-L-NI, MRMR-F-P有更好的优势。 New-MRMR-L-P,Laplacian-Score,MRMR on the 不同维度下，本文新提算法New-MRMR-K- dataset isolet NI、New-MRMR-K-P,传统算法MRMR、Chi- 图4显示，在特征维度为342的时候，算法 Square-Test在数据集isolet上的分类准确率变化 New-MRMR-L-P的分类准确率就已经达到了最 趋势见图3。 高，并且大于传统算法Laplacian-Score、MRMR的 1.0 最大分类准确率。此外，在分类准确率达到最高 时，算法New-MRMR-L-NI所选的特征子集数仅 0.9 为288，远小于传统算法Laplacian-Score、 0.8 MRMR所选的特征子集数。因此，新提出的算法 0.7 New-MRMR-L-NI、New-MRMR-L-P对于特征选择 -Chi-square-Test 0.6 效果更好。 -MRMR .New-MRMR-K-NI 不同维度下，新提出的特征选择算法New- 0.5 -New-MRMR-K-P MRMR-IG-NI、New-MRMR-IG-P,传统特征选择 0.4 0 200 400 600 算法MRMR、Laplacian-Score的分类准确率变化 数据维度K 趋势见图5。 图3New-MRMR-K-NI、New-MRMR-K-P、Chi-Square- 由图5可以看出，在不同维度下，算法New: Test、MRMR在数据集isolet上分类准确率的变化 MRMR-IG-NI、New-MRMR-IG-P分类准确率的曲 趋势 Fig.3 Correct classification trend of New-MRMR-K-NI, 线，均高于传统的两种特征选择算法Information- New-MRMR-K-P、Chi-Square-.Test、MRMR on the Gain、MRMR所代表的曲线。分类准确率越高， dataset isolet 表明所选特征子集越好。可见，新出的算法New- 图3显示，不同维度下，New-MRMR-K-P的 MRMR-IG-NI以及New-MRMR-IG-P在特征选择 分类准确率曲线明显高于传统特征选择算法，并 方面更加有效。新提出的特征选择算法在数据降维方面效果更佳。 图 2 是在数据集 isolet 上，本文新提出的特征 选择算法 New-MRMR-F-NI、New-MRMR-F-P，传 统特征选择算法 MRMR、Fisher Score 在不同维度 下的分类准确率变化趋势。 0.9 1.0 0.8 0.7 0.6 0.5 0.4 分类准确率 0 400 600 200 数据维度 K MRMR Fisher-Score New-MRMR-F-NI New-MRMR-F-P 图 2 New-MRMR-F-NI、New-MRMR-F-P、Fisher-Score、 MRMR 在数据集 isolet 上分类准确率的变化趋势 Fig. 2 Correct classification trend of New-MRMR- F-NI, New-MRMR-F-P, Fisher-Score, MRMR on the dataset isolet 从图 2 可以看出，对于在不同维度下的分类 准确率，新提出的特征选择算法 New-MRMR-F￾NI、New-MRMR-F-P 明显高于传统算法 Fisher Score、MRMR。所以，对于减少原始特征集中的 冗余和不相关特征，New-MRMR-F-NI、New￾MRMR-F-P 有更好的优势。 不同维度下，本文新提算法 New-MRMR-K￾NI、New-MRMR-K-P，传统算法 MRMR、Chi￾Square-Test 在数据集 isolet 上的分类准确率变化 趋势见图 3。 MRMR Chi-square-Test New-MRMR-K-NI New-MRMR-K-P 0.9 1.0 0.8 0.7 0.6 0.5 0.4 分类准确率 0 400 600 200 数据维度 K 图 3 New-MRMR-K-NI、New-MRMR-K-P、Chi-Square￾Test、MRMR 在数据集 isolet 上分类准确率的变化 趋势 Fig. 3 Correct classification trend of New-MRMR-K-NI、 New-MRMR-K-P、Chi-Square-Test、MRMR on the dataset isolet 图 3 显示，不同维度下，New-MRMR-K-P 的 分类准确率曲线明显高于传统特征选择算法，并 且，在所选特征子集数为 289 时，其分类准确率达 到了最高，既很好地去除了原始特征集中的冗余 和不相关特征，又保证了分类准确率。此外，算 法 New-MRMR-K-P 除了在维度为 195 时的分类 准确率与传统算法 MRMR 相近之外，在其他维度 上的分类准确率均高于 Chi-Square-Test、MRMR。 可见，本文新提出的特征选择算法效果更佳。 不同维度下，新提出的特征选择算法 New￾MRMR-L-NI、New-MRMR-L-P，传统特征选择算 法 MRMR、Laplacian-Score 的分类准确率变化趋 势见图 4。 0.8 1.0 0.6 0.4 分类准确率 0 400 600 200 数据维度 K MRMR Laplacian-Score New-MRMR-L-NI New-MRMR-L-P 图 4 New-MRMR-L-NI、New-MRMR-L-P、Laplacian￾Score、MRMR 在数据集 isolet 上，分类正确的变化 趋势 Fig. 4 Correct classification trend of New-MRMR-L-NI、 New-MRMR-L-P, Laplacian-Score, MRMR on the dataset isolet 图 4 显示，在特征维度为 342 的时候，算法 New-MRMR-L-P 的分类准确率就已经达到了最 高，并且大于传统算法 Laplacian-Score、MRMR 的 最大分类准确率。此外，在分类准确率达到最高 时，算法 New-MRMR-L-NI 所选的特征子集数仅 为 288 ，远小于传统算 法 Laplacian-Score、 MRMR 所选的特征子集数。因此，新提出的算法 New-MRMR-L-NI、New-MRMR-L-P 对于特征选择 效果更好。 不同维度下，新提出的特征选择算法 New￾MRMR-IG-NI、New-MRMR-IG-P，传统特征选择 算法 MRMR、Laplacian-Score 的分类准确率变化 趋势见图 5。 由图 5 可以看出，在不同维度下，算法 New￾MRMR-IG-NI、New-MRMR-IG-P 分类准确率的曲 线，均高于传统的两种特征选择算法 Information￾Gain、MRMR 所代表的曲线。分类准确率越高， 表明所选特征子集越好。可见，新出的算法 New￾MRMR-IG-NI 以及 New-MRMR-IG-P 在特征选择 方面更加有效。 第 4 期 李顺勇，等：一种新的最大相关最小冗余特征选择算法 ·653·