第2期 胡小生，等：动态平衡采样的不平衡数据集成分类方法 ·261- 表25种方法的Fe值比较 Table 2 Comparison of Fbetween five methods 数据集 RF SMOTEBoost RUSBoost K-means+Bagging 本文算法 car 0.951 0.954 0.982 0.925 0.992 vehicle 0.932 0.955 0.973 0.738 0.987 vowel 0.845 0.992 0.896 0.705 0.998 sick 0.828 0.986 0.961 0.816 0.983 letter 0.964 0.959 0.884 0.863 0.994 page-blocks 0.68 0.904 0.744 0.622 0.988 平均值 0.867 0.958 0.907 0.778 0.990 表35种方法的Gm值比较 Table 3 Comparison of G between five methods 数据集 RF SMOTEBoost RUSBoost K-means+Bagging 本文算法 car 0.967 0.972 0.974 0.952 0.993 vehicle 0.963 0.977 0.979 0.826 0.987 vowel 0.868 0.974 0.892 0.742 0.995 sick 0.862 0.984 0.921 0.789 0.983 letter 0.965 0.988 0.981 0.825 0.999 page-blocks 0.767 0.952 0.905 0.713 0.992 平均值 0.899 0.975 0.942 0.808 0.992 从表2的Fmeasure 值可以看出，本文方法除了在 本文算法中经过动态平衡采样后参与基分类器 sick数据集稍微低于SMOTEBoost算法之外，在其他 训练的数据集样本规模与初始数据集一致，即集合 5个数据集上均有最佳表现，比较各种算法在6组 数据大小比例为100%，为考察参与训练的不同数据 UCI数据上的平均值，本文方法比随机森林RF算法 规模比例对算法分类性能的影响，选取本文算法、随 有14.2%的提升，与基于聚类欠采样的集成算法相 机森林和SMOTEBoost3种算法，同时选择以letter 比有27.3%的提升，说明本文所提方法在少数类分 数据集为例，在20%~100%范围内每次增加20%比 类性能方面有巨大的提升。 例的数据，参与集成学习，迭代10次，相关算法的 比较各个算法的整体分类性能Gm,从表3可 Fcrc、Gmn均值如图1所示。 以看出，本文方法也仅在sick数据集上稍逊于最优算 1.00 法SMOTEBoost,二者精度相差不超过1%a;在6个数 据集上的平均分类性能上，本文方法获得最优精度。 0.95 结合表1~3可以看出，随着数据不平衡度的提 飞0.90 RF 高，无论是随机欠采样还是基于聚类的欠采样，由于 -SMOTEBoost 本文方法 都会对原始数据集造成样本丢失，分类性能都有所 0.85 0 40 60 80 100 下降，特别是在letter和page-blocks数据集上，差距 数据规模比例 比较明显。与之对比，本文方法在数据采样过程中 (a)Fa均值 1.00r 也需要对某类样本进行欠采样，通过多次动态、随机 性采样调和，使得抽样数据能够较好地保持对原始 g0.95 数据的分布：与此同时，对另外一类样本进行 罕0.90 —RF SMOTE过采样，在没有增加数据规模条件下，保持 50.85 ---SMOTEBoost 一一本文方法 对各类样本的中立性，或者对正类过采样，或者对负 0.800 40 60 80 100 类过采样。从最终分类结果来看，本文方法在不降 数据规模比例 低数据集整体G值的基础上，提高了正类的 (b)G均值 F。值，对正类和负类都具有较高的识别率。 图1不同数据规模对分类性能影响 Fig.1 Performance measures of different ensemble size表 ２ ５ 种方法的 Ｆｍｅａｓｕｒｅ 值比较 Ｔａｂｌｅ ２ Ｃｏｍｐａｒｉｓｏｎ ｏｆ Ｆｍｅａｓｕｒｅｂｅｔｗｅｅｎ ｆｉｖｅ ｍｅｔｈｏｄｓ 数据集 ＲＦ ＳＭＯＴＥＢｏｏｓｔ ＲＵＳＢｏｏｓｔ Ｋ⁃ｍｅａｎｓ＋Ｂａｇｇｉｎｇ 本文算法 ｃａｒ ０．９５１ ０．９５４ ０．９８２ ０．９２５ ０．９９２ ｖｅｈｉｃｌｅ ０．９３２ ０．９５５ ０．９７３ ０．７３８ ０．９８７ ｖｏｗｅｌ ０．８４５ ０．９９２ ０．８９６ ０．７０５ ０．９９８ ｓｉｃｋ ０．８２８ ０．９８６ ０．９６１ ０．８１６ ０．９８３ ｌｅｔｔｅｒ ０．９６４ ０．９５９ ０．８８４ ０．８６３ ０．９９４ ｐａｇｅ⁃ｂｌｏｃｋｓ ０．６８ ０．９０４ ０．７４４ ０．６２２ ０．９８８ 平均值 ０．８６７ ０．９５８ ０．９０７ ０．７７８ ０．９９０ 表 ３ ５ 种方法的 Ｇｍｅａｎ 值比较 Ｔａｂｌｅ ３ Ｃｏｍｐａｒｉｓｏｎ ｏｆ Ｇｍｅａｎ ｂｅｔｗｅｅｎ ｆｉｖｅ ｍｅｔｈｏｄｓ 数据集 ＲＦ ＳＭＯＴＥＢｏｏｓｔ ＲＵＳＢｏｏｓｔ Ｋ⁃ｍｅａｎｓ＋ Ｂａｇｇｉｎｇ 本文算法 ｃａｒ ０．９６７ ０．９７２ ０．９７４ ０．９５２ ０．９９３ ｖｅｈｉｃｌｅ ０．９６３ ０．９７７ ０．９７９ ０．８２６ ０．９８７ ｖｏｗｅｌ ０．８６８ ０．９７４ ０．８９２ ０．７４２ ０．９９５ ｓｉｃｋ ０．８６２ ０．９８４ ０．９２１ ０．７８９ ０．９８３ ｌｅｔｔｅｒ ０．９６５ ０．９８８ ０．９８１ ０．８２５ ０．９９９ ｐａｇｅ⁃ｂｌｏｃｋｓ ０．７６７ ０．９５２ ０．９０５ ０．７１３ ０．９９２ 平均值 ０．８９９ ０．９７５ ０．９４２ ０．８０８ ０．９９２ 从表 ２ 的 Ｆｍｅａｓｕｒｅ 值可以看出，本文方法除了在 ｓｉｃｋ 数据集稍微低于 ＳＭＯＴＥＢｏｏｓｔ 算法之外，在其他 ５ 个数据集上均有最佳表现，比较各种算法在 ６ 组 ＵＣＩ 数据上的平均值，本文方法比随机森林 ＲＦ 算法 有 １４．２％的提升，与基于聚类欠采样的集成算法相 比有 ２７．３％的提升，说明本文所提方法在少数类分 类性能方面有巨大的提升。 比较各个算法的整体分类性能 Ｇｍｅａｎ ， 从表 ３ 可 以看出，本文方法也仅在 ｓｉｃｋ 数据集上稍逊于最优算 法 ＳＭＯＴＥＢｏｏｓｔ，二者精度相差不超过 １‰；在 ６ 个数 据集上的平均分类性能上，本文方法获得最优精度。 结合表 １ ～ ３ 可以看出，随着数据不平衡度的提 高，无论是随机欠采样还是基于聚类的欠采样，由于 都会对原始数据集造成样本丢失，分类性能都有所 下降，特别是在 ｌｅｔｔｅｒ 和 ｐａｇｅ⁃ｂｌｏｃｋｓ 数据集上，差距 比较明显。 与之对比，本文方法在数据采样过程中 也需要对某类样本进行欠采样，通过多次动态、随机 性采样调和，使得抽样数据能够较好地保持对原始 数据的 分 布； 与 此 同 时， 对 另 外 一 类 样 本 进 行 ＳＭＯＴＥ 过采样，在没有增加数据规模条件下，保持 对各类样本的中立性，或者对正类过采样，或者对负 类过采样。 从最终分类结果来看，本文方法在不降 低数据集整体 Ｇｍｅａｎ 值的基础上， 提高了正类的 Ｆｍｅａｓｕｒｅ 值，对正类和负类都具有较高的识别率。 本文算法中经过动态平衡采样后参与基分类器 训练的数据集样本规模与初始数据集一致，即集合 数据大小比例为 １００％，为考察参与训练的不同数据 规模比例对算法分类性能的影响，选取本文算法、随 机森林和 ＳＭＯＴＥＢｏｏｓｔ ３ 种算法，同时选择以 ｌｅｔｔｅｒ 数据集为例，在 ２０％ ～ １００％范围内每次增加 ２０％比 例的数据，参与集成学习，迭代 １０ 次，相关算法的 Ｆｍｅａｓｕｒｅ、Ｇｍｅａｎ 均值如图 １ 所示。 图 １ 不同数据规模对分类性能影响 Ｆｉｇ．１ Ｐｅｒｆｏｒｍａｎｃｅ ｍｅａｓｕｒｅｓ ｏｆ ｄｉｆｆｅｒｅｎｔ ｅｎｓｅｍｂｌｅ ｓｉｚｅ 第 ２ 期 胡小生，等： 动态平衡采样的不平衡数据集成分类方法 ·２６１·