第1期 李素,等:群智能算法优化支持向量机参数综述 。77· 果具有更高的准确率。杨大炼等提出了一种基于 SVM的空气质量预测方法。实验表明,该方法的预 自适应细菌觅食算法的SVM参数快速选取方法。 测性能较优,具有较高的稳定性和可信性。 研究结果表明,细菌觅食优化算法能够更加快速地 综上所述,群智能算法单独使用会存在各种各 选取到最优参数,并且应用于提高齿轮箱故障诊断 样的问题,所以许多学者为了提高SVM的预测精 的精度。 度,提出了群智能算法与其他算法相结合的SVM 花授粉算法(flower polination algorithm,FPA) 参数优化方法,并且在原来的基础上有效地选取最 的主要原理是模拟自然界花朵授粉过程而提出的一 优参数,提高SVM的预测精度。 种新型元启发式群智能优化算法。花授粉算法是 3.10混合群智能算法优化支持向量机参数 由YANG等0在2012年提出的。该算法拥有的参 单一的群智能算法自身存在很多局限性,因此 数少,具有计算简单、效率高以及易于实现等优点。 很多学者通过借鉴其他算法特性来对此进行改进, 但是传统的花授粉算法自身也存在搜索速度慢、易 并提出了混合群智能算法来优化SVM参数的方法。 陷入局部最优等缺点。针对传统花授粉算法存在的 冯哲等提出了一种改进的粒子群算法与人工鱼群 问题,N.D.Hoang等提出了一种差分花授粉算法 算法混合算法优化SVM参数。此算法是基于小生 优化SVM参数,并且用于水泥浆灌溉过程的估算。 境和交叉选择算子的粒子群算法引入变异算子和族 实验结果表明该方法可以提供更好的预测性能。 外竞争机制加以改进后与人工鱼群算法混合。实验 Zhang Wenyu等提出了一种具有混沌局部搜索的 结果表明,该算法稳健性更好,并且文中将此方法 花授粉算法用于SVM参数优化,同时应用于风速 应用于电镜及超声纹理图像分割中,能较好地提取 预测当中。实验结果表明该算法在高精度风速预测 出目标区域,图像边缘部分的分类也很清晰。刘俊 当中是有效的。 芳9提出了改进的粒子群算法和人工蜂群算法的混 3.9群智能算法与其他算法相结合优化支持向量 合优化算法,人工蜂群算法具有全局和局部寻优的 机参数 特点,将其与粒子群算法结合,能够有效弥补粒子 因为群智能算法自身存在很多局限性,所以许 群算法早熟收敛和极易陷入局部最优的不足,同时 多学者提出了群智能算法与其他算法相结合的方法 保留了粒子群的全局搜索和简单容易实现的特点。 来优化SVM参数。此种结合不但保留了群智能算 戴上平等提出了遗传算法和粒子群算法融合算法 法的优点,同时还具有其他算法的优点,并且取得 对SVM参数进行优化求解,结果表明这种组合是 了显著效果,使得算法的效率和性能方面都有了很 有效的。 大的提高。 综上所述,群智能算法之间的混合使用,可以 针对遗传算法存在的缺点,2013年王萍萍等9] 寻找到最优参数,并且很大程度地提高SVM的预 提出了一种将遗传算法与Powell算法结合用来优 测与分类精度,通过混合群智能算法对SVM参数 化SVM核参数的方法,该算法在保持了遗传算法 优化的实验结果中表明,改进的算法不但具备其中 的强全局搜索能力的同时还具有Powell算法的局 一种群智能算法的优点同时也具备另外一种群智能 部搜索优势,通过不断在迭代的过程中对全局最优 算法的优点,是一种可行且有效的方法。 值的调整来避免遗传算法的早熟收敛,由此得到更 3.11各种群智能算法优化支持向量机参数的优化 好的寻优性能。实验结果表明,该算法大大地提高 性能比较 了算法的效率和性能,并且准确率较高。 每种群智能算法在优化SVM参数的时候都存 针对蚁群算法容易陷入局部最优的问题,2013 在自身的不足。经过上面的综述之后,总结结果见 年耿俊豹等提出了一种基于蚁群算法和循环交叉 表1所示。 验证法的SVM参数优化方法。通过蚁群算法的函 对每种群智能算法优化SVM参数的优化性能 数优化功能,快速准确地确定SVM核函数参数。 比较之后发现,存在的较大问题是易于使实验结果 实验中得知全局核和局部核的组合比单核SVM具 陷入局部最优,例如遗传算法、人工蜂群算法以及 有更好的预测效果,但是最优的核函数并不是简单 花授粉算法。同时还存在后期收敛速度缓慢,例如 的相加组合,而是要通过对SVM参数的调整,最终 粒子群算法。还有寻优速度过慢,虽然有些算法寻 确定最优核函数。此实验的预测模型应用于飞机机 优速度快,但是存在寻优精度不高等问题。人工鱼 体研制费用预测当中,结果显示蚁群算法是一种比 群算法相较于其他几种群智能算法是优化SVM参 较高效的寻优方法,在蚁群算法寻找的最优参数下 数方法中性能最好的。蚁群算法主要存在的问题是 混合核函数的SVM的预测精度明显提高。 如何有效地解决连续优化问题。蝙蝠算法和人工鱼 倪志伟等9提出基于人工鱼和分形维数融合 群算法都存在寻优精度不高的问题。果具有更高的准确率。杨大炼等[89]提出了一种基于 自适应细菌觅食算法的 SVM 参数快速选取方法。 研究结果表明,细菌觅食优化算法能够更加快速地 选取到最优参数,并且应用于提高齿轮箱故障诊断 的精度。 花授粉算法 (flower polination algorithm,FPA) 的主要原理是模拟自然界花朵授粉过程而提出的一 种新型元启发式群智能优化算法。花授粉算法是 由 YANG 等 [90]在 2012 年提出的。该算法拥有的参 数少,具有计算简单、效率高以及易于实现等优点。 但是传统的花授粉算法自身也存在搜索速度慢、易 陷入局部最优等缺点。针对传统花授粉算法存在的 问题,N.D.Hoang 等 [91]提出了一种差分花授粉算法 优化 SVM 参数,并且用于水泥浆灌溉过程的估算。 实验结果表明该方法可以提供更好的预测性能。 Zhang Wenyu 等 [92]提出了一种具有混沌局部搜索的 花授粉算法用于 SVM 参数优化,同时应用于风速 预测当中。实验结果表明该算法在高精度风速预测 当中是有效的。 3.9 群智能算法与其他算法相结合优化支持向量 机参数 因为群智能算法自身存在很多局限性,所以许 多学者提出了群智能算法与其他算法相结合的方法 来优化 SVM 参数。此种结合不但保留了群智能算 法的优点,同时还具有其他算法的优点,并且取得 了显著效果,使得算法的效率和性能方面都有了很 大的提高。 针对遗传算法存在的缺点,2013 年王萍萍等[93] 提出了一种将遗传算法与 Powell 算法结合用来优 化 SVM 核参数的方法,该算法在保持了遗传算法 的强全局搜索能力的同时还具有 Powell 算法的局 部搜索优势,通过不断在迭代的过程中对全局最优 值的调整来避免遗传算法的早熟收敛,由此得到更 好的寻优性能。实验结果表明,该算法大大地提高 了算法的效率和性能,并且准确率较高。 针对蚁群算法容易陷入局部最优的问题,2013 年耿俊豹等[94]提出了一种基于蚁群算法和循环交叉 验证法的 SVM 参数优化方法。通过蚁群算法的函 数优化功能,快速准确地确定 SVM 核函数参数。 实验中得知全局核和局部核的组合比单核 SVM 具 有更好的预测效果,但是最优的核函数并不是简单 的相加组合,而是要通过对 SVM 参数的调整,最终 确定最优核函数。此实验的预测模型应用于飞机机 体研制费用预测当中,结果显示蚁群算法是一种比 较高效的寻优方法,在蚁群算法寻找的最优参数下 混合核函数的 SVM 的预测精度明显提高。 倪志伟等[95]提出基于人工鱼和分形维数融合 SVM 的空气质量预测方法。实验表明,该方法的预 测性能较优,具有较高的稳定性和可信性。 综上所述,群智能算法单独使用会存在各种各 样的问题,所以许多学者为了提高 SVM 的预测精 度,提出了群智能算法与其他算法相结合的 SVM 参数优化方法,并且在原来的基础上有效地选取最 优参数,提高 SVM 的预测精度。 3.10 混合群智能算法优化支持向量机参数 单一的群智能算法自身存在很多局限性,因此 很多学者通过借鉴其他算法特性来对此进行改进, 并提出了混合群智能算法来优化 SVM 参数的方法。 冯哲等[96]提出了一种改进的粒子群算法与人工鱼群 算法混合算法优化 SVM 参数。此算法是基于小生 境和交叉选择算子的粒子群算法引入变异算子和族 外竞争机制加以改进后与人工鱼群算法混合。实验 结果表明,该算法稳健性更好,并且文中将此方法 应用于电镜及超声纹理图像分割中,能较好地提取 出目标区域,图像边缘部分的分类也很清晰。刘俊 芳 [97]提出了改进的粒子群算法和人工蜂群算法的混 合优化算法,人工蜂群算法具有全局和局部寻优的 特点,将其与粒子群算法结合,能够有效弥补粒子 群算法早熟收敛和极易陷入局部最优的不足,同时 保留了粒子群的全局搜索和简单容易实现的特点。 戴上平等[98]提出了遗传算法和粒子群算法融合算法 对 SVM 参数进行优化求解,结果表明这种组合是 有效的。 综上所述,群智能算法之间的混合使用,可以 寻找到最优参数,并且很大程度地提高 SVM 的预 测与分类精度,通过混合群智能算法对 SVM 参数 优化的实验结果中表明,改进的算法不但具备其中 一种群智能算法的优点同时也具备另外一种群智能 算法的优点,是一种可行且有效的方法。 3.11 各种群智能算法优化支持向量机参数的优化 性能比较 每种群智能算法在优化 SVM 参数的时候都存 在自身的不足。经过上面的综述之后,总结结果见 表 1 所示。 对每种群智能算法优化 SVM 参数的优化性能 比较之后发现,存在的较大问题是易于使实验结果 陷入局部最优,例如遗传算法、人工蜂群算法以及 花授粉算法。同时还存在后期收敛速度缓慢,例如 粒子群算法。还有寻优速度过慢,虽然有些算法寻 优速度快,但是存在寻优精度不高等问题。人工鱼 群算法相较于其他几种群智能算法是优化 SVM 参 数方法中性能最好的。蚁群算法主要存在的问题是 如何有效地解决连续优化问题。蝙蝠算法和人工鱼 群算法都存在寻优精度不高的问题。 第 1 期 李素,等:群智能算法优化支持向量机参数综述 ·77·