第8卷第4期 智能系统学报 Vol.8 No.4 2013年8月 CAAI Transactions on Intelligent Systems Aug.2013 D0I:10.3969/i.issn.1673-4785.201211041 网络出版地址:http://www.cnki.net/kcms/detail/23.1538.TP.20130603.1601.006.html 自适应群体结构的粒子群优化算法 孙文新1,穆华平2 (1.鹅壁职业技术学院电子信息工程学院,河南鹅壁458030:2.鹅壁职业技术学院公共基础教研部,河南鹅壁 458030)】 摘要:粒子群优化算法中,群体结构的组织模式直接决定了粒子间信息的共享和交流方式.根据复杂网络形成过程 中的动力学原理,提出了一种自适应群体结构的粒子群优化算法.算法初期粒子空间分布分散,搜索过程中不断产生 新的连接,群体的搜索模式由L模型逐渐进化为G模型,群体结构的这种进化方式有利于算法早期的“勘探”和 后期的“开采”实验结果表明,新算法在收敛性能上获得了较大提高。 关键词:粒子群优化算法:自适应:群体结构:惯性权重 中图分类号:TP18文献标志码:A文章编号:1673-4785(2013)04-0372-05 中文引用格式:孙文新,穆华平.基于自适应群体结构的粒子群优化算法[J].智能系统学报,2013,8(4):372-376. 英文引用格式:SUN Wenxin,MU Huaping.Particle swarm optimization based on self-adaptive population structure[J】.CAAI Transactions on Intelligent Systems,2013,8(4):372-376. Particle swarm optimization based on self-adaptive population structure SUN Wenxin',MU Huaping? (1.School of Electronic Information Engineering,Hebi Occupation Technology College,Hebi 458030,China;2.Department of Public Infrastructure,Hebi Occupation Technology College,Hebi 458030,China) Abstract:In particle swarm optimization,the organization mode of population structure directly determines the in- formation sharing and exchange between the particles which produce great influence.Based on the principle of dy- namics in the formation process of the complex network,a new particle swarm optimization algorithm was proposed, which is a self-adaptive population structure.At the initial stages of the algorithm,particles are more dispersed with small amount of random connections and search mode is single.With the generation of new connections,the search mode of particles was gradually evolved from model to G model,which is beneficial to better optimization performance.The evolution of population structure is conducive to early "exploration"and late "exploitation"of the algorithm.The experimental results show that the convergence performance of the new algorithm has been greatly improved. Keywords:particle swarm optimization;self-adaptive;population structure;inertia weight 粒子群优化算法(particle swarm optimization, 优化算法概念简单、参数少,且能根据当前的搜索情 PSO)是一种启发式全局优化算法,由Kennedy和 况动态调整搜索策略,已经在电力、化工、通讯和医 Eberhart)于1995年首次提出,其基本思想源于他 学等24)众多领域成功应用.然而在处理复杂环境中 们早期对鸟类群体行为的规律性研究.由于粒子群 大规模的优化问题时,效果仍不能尽如人意。 研究证明),粒子群算法中粒子间的关联形式 收稿日期:2012-11-26.网络出版日期:2013-0603. 能够直接影响到算法的优化性能.杨雪榕等[6)提出 基金项目:河南省高等教育省级重点研究基金资助项目(2009SJGX30): 了一种多邻域的粒子群优化算法,粒子按照索引号 河南省教有厅自然科学研究计划资助项目(2011C520018). 通信作者:孙文新.E-mail:sunwxinl.26@126.com 划分成若干邻域,每个邻域的第1个粒子接受全局
第 8 卷第 4 期 智 能 系 统 学 报 Vol.8 №.4 2013 年 8 月 CAAI Transactions on Intelligent Systems Aug. 2013 DOI:10.3969 / j.issn.1673⁃4785.201211041 网络出版地址:http: / / www.cnki.net / kcms/ detail / 23.1538.TP.20130603.1601.006.html 自适应群体结构的粒子群优化算法 孙文新1 ,穆华平2 (1. 鹤壁职业技术学院 电子信息工程学院,河南 鹤壁 458030; 2. 鹤壁职业技术学院 公共基础教研部,河南 鹤壁 458030) 摘 要:粒子群优化算法中,群体结构的组织模式直接决定了粒子间信息的共享和交流方式.根据复杂网络形成过程 中的动力学原理,提出了一种自适应群体结构的粒子群优化算法.算法初期粒子空间分布分散,搜索过程中不断产生 新的连接,群体的搜索模式由 Lbest 模型逐渐进化为 Gbest 模型,群体结构的这种进化方式有利于算法早期的“勘探”和 后期的“开采”.实验结果表明,新算法在收敛性能上获得了较大提高. 关键词:粒子群优化算法;自适应;群体结构;惯性权重 中图分类号:TP18 文献标志码:A 文章编号:1673⁃4785(2013)04⁃0372⁃05 中文引用格式:孙文新,穆华平.基于自适应群体结构的粒子群优化算法[J]. 智能系统学报, 2013, 8(4): 372⁃376. 英文引用格式:SUN Wenxin,MU Huaping. Particle swarm optimization based on self⁃adaptive population structure[ J]. CAAI Transactions on Intelligent Systems, 2013, 8(4): 372⁃376. Particle swarm optimization based on self⁃adaptive population structure SUN Wenxin 1 , MU Huaping 2 (1.School of Electronic Information Engineering, Hebi Occupation Technology College, Hebi 458030, China; 2. Department of Public Infrastructure, Hebi Occupation Technology College, Hebi 458030, China) Abstract:In particle swarm optimization, the organization mode of population structure directly determines the in⁃ formation sharing and exchange between the particles which produce great influence. Based on the principle of dy⁃ namics in the formation process of the complex network, a new particle swarm optimization algorithm was proposed, which is a self⁃adaptive population structure. At the initial stages of the algorithm, particles are more dispersed with small amount of random connections and search mode is single. With the generation of new connections, the search mode of particles was gradually evolved from Lbest model to Gbest model, which is beneficial to better optimization performance. The evolution of population structure is conducive to early “exploration” and late “exploitation” of the algorithm. The experimental results show that the convergence performance of the new algorithm has been greatly improved. Keywords:particle swarm optimization; self⁃adaptive; population structure; inertia weight 收稿日期:2012⁃11⁃26. 网络出版日期:2013⁃06⁃03. 基金项目:河南省高等教育省级重点研究基金资助项目(2009SJGJX360); 河南省教育厅自然科学研究计划资助项目(2011C520018). 通信作者:孙文新.E⁃mail:sunwxin126@ 126.com. 粒子群优化算法( particle swarm optimization, PSO) 是一种启发式全局优化算法,由 Kennedy 和 Eberhart [1]于 1995 年首次提出,其基本思想源于他 们早期对鸟类群体行为的规律性研究.由于粒子群 优化算法概念简单、参数少,且能根据当前的搜索情 况动态调整搜索策略,已经在电力、化工、通讯和医 学等[2⁃4]众多领域成功应用.然而在处理复杂环境中 大规模的优化问题时,效果仍不能尽如人意. 研究证明[5] ,粒子群算法中粒子间的关联形式 能够直接影响到算法的优化性能.杨雪榕等[6] 提出 了一种多邻域的粒子群优化算法,粒子按照索引号 划分成若干邻域,每个邻域的第 1 个粒子接受全局
第4期 孙文新,等:自适应群体结构的粒子群优化算法 ·373. 信息,其他粒子只接受邻域内的信息,这样就增加了 位置时为全局最优模型(G模型) 邻域内粒子搜索的独立性;Matsushita等t]基于 WS、NW小世界网络模型和BA无标度模型,研究了 2 自适应群体结构的粒子群优化算法 静态群体结构与粒子群算法搜索性能之间的关系; 2.1自适应群体结构思想 穆华平等[]提出一种基于小世界模型动态演化邻 尽管粒子群优化算法在许多优化问题上都取得 域的微粒群算法,群体结构从环形规则网络逐步进 了很好的优化性能,但依然存在后期搜索速度慢和 化为小世界网络,前期保证了种群的多样性,后期加 “早熟收敛”的问题这是因为算法在搜索后期,众多 快了收敛速度:彭虎等)提出一种动态邻域混合粒 粒子都拥挤在历史最好位置周围,无法逃离局部最 子群优化算法,将随机拓扑和冯诺依曼拓扑相结合 优而不断进行重复性的无效搜索.为了提高算法的 形成动态邻域,使用粒子邻域全面学习搜索策略,提 空间搜索能力,同时又保留局部快速收敛的优良性 高算法的全局搜索能力.hang等[uo]根据微粒的度、 能,本文根据粒子群体在不同阶段搜索模式的要求, 适应值和微粒间的距离构建了一个动态的无标度结 采用自适应群体结构来调整算法的搜索能力, 构演化过程。 观察现实中的许多网络,发现大多数网络的形 从复杂网络的形成过程中受到启发,提出一种 成过程往往是从最初的孤立节点开始,由于某种称 基于自适应群体结构的粒子群优化算法,粒子群体 为“择优连接”的动力学原因而关联在一起,最终形 的结构模式以粒子的实际寻优过程和适应值为动力 成了复杂网络.结合粒子群优化算法的搜索特性,考 来引导形成。 虑将复杂网络形成过程中凸显的这种现象移植到粒 1粒子群优化算法概述 子群优化算法中.为避免早熟收敛,将多样性函数做 简单改进[8],用邻域内最优位置代替群体平均位 粒子群优化算法是一种基于迭代模式的优化方 置,具体定义如式(3): 法,算法中引入“群体”和“进化”的概念,粒子根据 适应值大小采用“速度-位置”模型进行搜索.群体 diversity(S)= 1 I SI-I L (P-Pe)2. 中的每个粒子代表解空间中的一个解,解的优劣程 度由适应函数决定.粒子群优化算法的数学描述如 (3) 下: 式中:IS1为邻域内粒子的个数,IL1为搜索空间的最 假设有N个没有体积和重量的粒子组成的群体在 长对角线的长度,N为问题的维数,P:为第i个粒子的 D维搜索空间中以一定的速度飞行,每个粒子在搜索 第j维分量,Pg为邻域内的最优位置的第j维分量 时,考虑到了自己搜索到的历史最好位置和群体内(或 算法首先将粒子群体初始化为具有少量连接的 邻域内)其他粒子的历史最好位置,在此基础上变化位 随机网络,每个粒子都带有一个搜索标志ag,并且 置,寻找最优解其中第i个粒子的当前位置X= 初始化状态ag=1.若当前搜索优于前一次搜索,表 [x,…];飞行速度V=[,,…];粒子i所经 明本次搜索成功,则lag=l,否则设置lag=0,此时 历的最好位置P:=[P,P,…P,小,个体的最好位置 检测该粒子邻域的群体多样性,如果粒子过于集中 Pw=[P,P,P,]代表邻域i内所有粒子经历过的 在p,附近,导致多样性过低,即diversity(S:)<d 最好位置粒子在找到个体最优位置和全局最优位置 时,在种群中随机选择该邻域以外的其他粒子建立 后,根据式(1)和(2)更新自己的速度和位置: 连接,否则原有连接保持不动. vi(t+1)=w0v;(t)+cr(t)(pi(t)-xi(t))+ 这样,在算法初期,群体结构松散,有利于保持 c2I2(t)(P(t)-x(t), (1) 群体的多样性,可以获取尽可能多的候选解:随着新 x(t+1)=x(t)+"(t+1). (2) 连接的不断加入,由于受到最优位置的引导,群体中 式中:0称为惯性权重,用来调整粒子的全局和局部 部分粒子以接近G模型的寻优方式进行搜索,多 搜索能力:C1、c2为学习系数,使粒子具有自我总结 数粒子以接近L模型的寻优方式进行搜索,在全 和向群体中优秀个体学习的能力,从而向自己的历 局搜索和局部搜索之间获得了很好的折衷:到了算 史最优位置以及群体内或领域内的全局最优靠拢: 法后期,算法基本围绕在全局最优附近搜索,此时群 12是(0,1)的随机数,使算法具有一定的随机性. 体连接更加密集,形成高连通度的群体结构,有利于 上述模型为粒子群优化算法的局部最优模型(L 粒子对最优解所在的空间内进行深度的细致搜索, 模型),若式(1)中第3部分的趋向位置是全局最优 进而保证算法以较快的速度搜索到全局最优位置
信息,其他粒子只接受邻域内的信息,这样就增加了 邻域内粒子搜索的独立 性; Matsushita 等[7] 基 于 WS、NW 小世界网络模型和 BA 无标度模型,研究了 静态群体结构与粒子群算法搜索性能之间的关系; 穆华平等[8] 提出一种基于小世界模型动态演化邻 域的微粒群算法,群体结构从环形规则网络逐步进 化为小世界网络,前期保证了种群的多样性,后期加 快了收敛速度;彭虎等[9] 提出一种动态邻域混合粒 子群优化算法,将随机拓扑和冯诺依曼拓扑相结合 形成动态邻域,使用粒子邻域全面学习搜索策略,提 高算法的全局搜索能力.zhang 等[10] 根据微粒的度、 适应值和微粒间的距离构建了一个动态的无标度结 构演化过程. 从复杂网络的形成过程中受到启发,提出一种 基于自适应群体结构的粒子群优化算法,粒子群体 的结构模式以粒子的实际寻优过程和适应值为动力 来引导形成. 1 粒子群优化算法概述 粒子群优化算法是一种基于迭代模式的优化方 法,算法中引入“群体”和“进化”的概念,粒子根据 适应值大小采用“速度-位置” 模型进行搜索.群体 中的每个粒子代表解空间中的一个解,解的优劣程 度由适应函数决定.粒子群优化算法的数学描述如 下[11] : 假设有 N 个没有体积和重量的粒子组成的群体在 D 维搜索空间中以一定的速度飞行,每个粒子在搜索 时,考虑到了自己搜索到的历史最好位置和群体内(或 邻域内)其他粒子的历史最好位置,在此基础上变化位 置,寻找最优解. 其中第 i 个粒子的当前位置Xi = [xi 1 xi 2 … xi d ];飞行速度Vi =[vi 1 vi2… vi d ];粒子 i 所经 历的最好位置 Pi = [ pi 1 pi 2 … pi d ],个体的最好位置 Pig = [pig 1 pig 2 … pig d ] 代表邻域 i 内所有粒子经历过的 最好位置.粒子在找到个体最优位置和全局最优位置 后,根据式(1)和(2)更新自己的速度和位置: vij(t + 1) = wvij(t) + c1 r1j(t)(pij(t) - xij(t)) + c2 r2j(t)(pij(t) - xij(t)), (1) xij(t + 1) = xij(t) + vij(t + 1) . (2) 式中:w 称为惯性权重,用来调整粒子的全局和局部 搜索能力;c1 、c2 为学习系数,使粒子具有自我总结 和向群体中优秀个体学习的能力,从而向自己的历 史最优位置以及群体内或领域内的全局最优靠拢; r1 、r2 是(0,1)的随机数,使算法具有一定的随机性. 上述模型为粒子群优化算法的局部最优模型( Lbest 模型),若式(1)中第 3 部分的趋向位置是全局最优 位置时为全局最优模型(Gbest模型). 2 自适应群体结构的粒子群优化算法 2.1 自适应群体结构思想 尽管粒子群优化算法在许多优化问题上都取得 了很好的优化性能,但依然存在后期搜索速度慢和 “早熟收敛”的问题.这是因为算法在搜索后期,众多 粒子都拥挤在历史最好位置周围,无法逃离局部最 优而不断进行重复性的无效搜索.为了提高算法的 空间搜索能力,同时又保留局部快速收敛的优良性 能,本文根据粒子群体在不同阶段搜索模式的要求, 采用自适应群体结构来调整算法的搜索能力. 观察现实中的许多网络,发现大多数网络的形 成过程往往是从最初的孤立节点开始,由于某种称 为“择优连接”的动力学原因而关联在一起,最终形 成了复杂网络.结合粒子群优化算法的搜索特性,考 虑将复杂网络形成过程中凸显的这种现象移植到粒 子群优化算法中.为避免早熟收敛,将多样性函数做 简单改进[8] ,用邻域内最优位置代替群体平均位 置,具体定义如式(3): diversity(S) = 1 | S |·| L | ∑ S i = 1 ∑ N j = 1 (pi j - pg j ) 2 . (3) 式中: | S |为邻域内粒子的个数, | L |为搜索空间的最 长对角线的长度,N 为问题的维数,pi j 为第 i 个粒子的 第 j 维分量,pg j 为邻域内的最优位置的第 j 维分量. 算法首先将粒子群体初始化为具有少量连接的 随机网络,每个粒子都带有一个搜索标志 flag,并且 初始化状态 flag = 1.若当前搜索优于前一次搜索,表 明本次搜索成功,则 flag = l,否则设置 flag = 0,此时 检测该粒子邻域的群体多样性,如果粒子过于集中 在 pg j 附近,导致多样性过低,即 diversity( Si ) <dLow 时,在种群中随机选择该邻域以外的其他粒子建立 连接,否则原有连接保持不动. 这样,在算法初期,群体结构松散,有利于保持 群体的多样性,可以获取尽可能多的候选解;随着新 连接的不断加入,由于受到最优位置的引导,群体中 部分粒子以接近 Gbest模型的寻优方式进行搜索,多 数粒子以接近 Lbest模型的寻优方式进行搜索,在全 局搜索和局部搜索之间获得了很好的折衷;到了算 法后期,算法基本围绕在全局最优附近搜索,此时群 体连接更加密集,形成高连通度的群体结构,有利于 粒子对最优解所在的空间内进行深度的细致搜索, 进而保证算法以较快的速度搜索到全局最优位置. 第 4 期 孙文新,等:自适应群体结构的粒子群优化算法 ·373·
·374. 智能系统学报 第8卷 2.2惯性权重的调整 开始 在粒子群优化算法中,搜索陷入局部极值,往往 初始化种群☐ 表现为算法重复进行无效的搜索,而粒子的位置几 初始化状态标志1ag=1 乎静止不变.为了充分发挥自适应群体结构的效能, 本文根据适应函数值的不同采用不同的惯性权重, 计算每个粒子的适应值 以求全局最小值为例,群体中的粒子按适应值f的 计算个体历史最好位置和全局最好位置 变化情况分为以下3种情况: 1)群体中满足f∫的粒子已经比较接近全局 flag=0Ediversity(S.)f时,借鉴吴 为了测试新算法对复杂问题寻优的有效性,本 浩扬等]提出的变异方法来调整惯性权重: 文选取了3个Benchmark测试函数进行仿真实验. 1 实验环境为Intel CPU2.1GB,Windows XP操作系 =1.5-1+kxexp( 统、1.0GB内存,Visual C++6.0环境下进行编程.为 当群体搜索到的最优位置长时间未发生变化 确保实验结果的可信度,每个算法运行20次实验, 时,群体根据粒子的分布特点来调整惯性权重.若粒 初始化种群个数为100,问题维数30维,最大进化 子分布较为分散,则△取较大的值来降低粒子的惯 代数为1000.算法中,加速因子c1、2均取1.5,w的 性权重,加强局部寻优,使群体趋于收敛:若粒子分 初始值取0.9,d取5×10-6. 布较为聚集,算法陷入局部最优,则△取较小的值 I)Sphere函数. 增加粒子的惯性权重,促使粒子有效地跳出局部最 Sphere函数为可分离的单峰函数,用于测试算 优.其中参数k主要用来调整惯性权重的上限,文中 法的收敛精度,函数在x,=0处到达全局极小值0 取k=1.5. 2.3算法流程 ()=2,-100≤≤10 根据以上分析,基于SPS-PSO(particle swarm 2)Rastrigrin函数. optimization based on self-adaptive population struc- Rastrigrin函数是不可分离的多峰函数,较难优 ture,SPS-PSO)的基本步骤为:先初始化种群:设置 化,全局最小值在变量为0时到达,该函数有10n个 初始化的状态标志lag=1:计算每个粒子的适应值, 局部极小点 并且评估个体的历史最好位置和全局最好位置:果 当前位置优于前一次搜索,则lag=l,否则设置lag= f5(x)=∑[x-10c0s(2mx:+10)], 0:若连续t次f1ag的值始终为0,此时检测该粒子邻 -5.12≤x:≤5.12. 域的群体多样性,与最优粒子建立新的连接,并依据 3)Griwank函数. 适应值重新计算ω的值,然后更新粒子的速度和位 Griwank函数也是不可分离的多峰优化函数, 置,进行下一步的搜索 函数在x:=0时到达全局最小值,该函数有2n个局 SPS-PS0算法的流程图如图1. 部极小值
2.2 惯性权重的调整 在粒子群优化算法中,搜索陷入局部极值,往往 表现为算法重复进行无效的搜索,而粒子的位置几 乎静止不变.为了充分发挥自适应群体结构的效能, 本文根据适应函数值的不同采用不同的惯性权重, 以求全局最小值为例,群体中的粒子按适应值 f i 的 变化情况分为以下 3 种情况: 1)群体中满足 f i<f′arg的粒子已经比较接近全局 最优,此时应赋予较小的惯性权重,以促进快速收敛 于全局最优.因此将此集合中的粒子的惯性权重调 整为 ω = ω - (ω - ωmin ) f i - f′arg f g - f′arg . (4) 取 ωmin = 0.5,由式(4) 可以看出,粒子的适应值越 好,其对应的惯性权重就越小,进而加强了局部寻优 的能力. 2)如果粒子满足 f′arg <f i <f arg,则说明这些粒子具 有较好的局部和全局的寻优能力,此时应保证在前期 粒子进行“开发”性搜索,获得较多候选解,后期进行 “勘探”性搜索,探索出全局最优.因此考虑这部分粒 子采用经典的惯性权重线性递减的调整方法. 3)对于群体中较差的粒子,即 f i >f arg时,借鉴吴 浩扬等[12]提出的变异方法来调整惯性权重: ω = 1.5 - 1 1 + k × exp( - Δ) ,Δ =| f g - f′arg | . 当群体搜索到的最优位置长时间未发生变化 时,群体根据粒子的分布特点来调整惯性权重.若粒 子分布较为分散,则 Δ 取较大的值来降低粒子的惯 性权重,加强局部寻优,使群体趋于收敛;若粒子分 布较为聚集,算法陷入局部最优,则 Δ 取较小的值 增加粒子的惯性权重,促使粒子有效地跳出局部最 优.其中参数 k 主要用来调整惯性权重的上限,文中 取 k = 1.5. 2.3 算法流程 根据以上分析,基于 SPS⁃PSO ( particle swarm optimization based on self⁃adaptive population struc⁃ ture, SPS⁃PSO)的基本步骤为:先初始化种群;设置 初始化的状态标志 flag = 1;计算每个粒子的适应值, 并且评估个体的历史最好位置和全局最好位置;果 当前位置优于前一次搜索,则 flag = l,否则设置flag = 0;若连续 t 次 flag 的值始终为 0,此时检测该粒子邻 域的群体多样性,与最优粒子建立新的连接,并依据 适应值重新计算 ω 的值,然后更新粒子的速度和位 置,进行下一步的搜索. SPS⁃PSO 算法的流程图如图 1. 图 1 SPS⁃PSO 算法流程 Fig.1 Flow chart of SPS⁃PSO algorithm 3 仿真实验 3.1 测试函数和参数设置 为了测试新算法对复杂问题寻优的有效性,本 文选取了 3 个 Benchmark 测试函数进行仿真实验. 实验环境为 Intel CPU 2.1 GB,Windows XP 操作系 统、1.0 GB 内存,Visual C++6.0 环境下进行编程.为 确保实验结果的可信度,每个算法运行 20 次实验, 初始化种群个数为 100,问题维数 30 维,最大进化 代数为1 000.算法中,加速因子 c1 、c2 均取 1.5,ω 的 初始值取 0.9,dLow取 5×10 -6 . 1)Sphere 函数. Sphere 函数为可分离的单峰函数,用于测试算 法的收敛精度,函数在 xi = 0 处到达全局极小值 0. f 1(x) = ∑ D i = 1 xi, - 100 ≤ xi ≤ 100. 2)Rastrigrin 函数. Rastrigrin 函数是不可分离的多峰函数,较难优 化,全局最小值在变量为 0 时到达,该函数有 10n 个 局部极小点. f 2(x) = ∑ D i = 1 [x 2 i - 10cos(2πxi + 10)], - 5.12 ≤ xi ≤ 5.12. 3)Griwank 函数. Griwank 函数也是不可分离的多峰优化函数, 函数在 xi = 0 时到达全局最小值,该函数有 2n 个局 部极小值. ·374· 智 能 系 统 学 报 第 8 卷
第4期 孙文新,等:自适应群体结构的粒子群优化算法 ·375· f=】 cos(x/)+1, 函数,极易陷入局部最优,从图4中可以看出,SPS =1 =1 PS0算法能以较快的速度收敛于全局最优,并且在 -600≤x,≤600 实验中发现其收敛成功率为100%.其原因在于新连 3.2实验结果与分析 接的加入能适应算法的收敛状态,使得算法具有较 为了测试新算法的优化性能,本文将标准PS0 强的抗早熟能力,能够突破中期短暂的停滞阶段,获 算法、DSWN-PSO(particle swarm optimization with 得正确的搜索方向. dynamic evolutionary neighbourhood of small-world model)[s DNH-PSO(dynamic neighborhood hybrid- PS0)[进行对比分析.图2显示了Sphere函数的优 化对比结果.通过比较可以看出,SPS-PS0算法始终 保持较快的收敛速度,并且最终获得了比DSWN- PSO算法和DNH-PSO算法更好的优化性能。 --PSO -----DSWN-PSO 12 --DNH-PSO SPS-PSO -1 ×10 0 4 8 10 迭代次数 =5 -PSO 图430维Griewank函数优化对比 ----DSWN-PSO -2 DNH-PSO Fig.4 Comparison of optimizing on 30-D Griewank SPS-PSO 10 从实验中发现,SPS-PSO算法的执行效率要高 4 6 P 10 迭代次数 于DSWN-PS0算法,这是因为SPS-PSO算法中,搜 索前期的粒子在空间中分布较为均匀,因此通过 图230维Sphere函数优化对比 fag参数作为阈值参数来检测粒子的搜索状态,避 Fig.2 Comparison of optimizing on 30-D Sphere 免了前期不必要的多样性检测,提高了算法的效率, 从图3中可以看出,对于Rastrgin函数来说, 中后期多样性函数的检测一定程度上避免了算法的 SPS-PSO算法能在较短的时间内获得明显的优化效 局部收敛,促使算法进一步向全局最优靠近 果,并且仍然呈向全局最优的趋势.算法在400~600 4结束语 代时,有一个相对平坦的优化过程,这说明算法在此 期间停留在局部最优位置上徘徊不前,但最终因为 本文将复杂网络形成过程中的动力学机制引入 网络形成过程中根据适应值择优连接的过程,使得 粒子群优化算法中,并根据搜索状态调整惯性权重 算法能及时从局部最优位置跳出来,突破了局部最 以适应搜索要求,提出了一种自适应群体结构的粒 优的束缚,继续向全局最优位置靠近: 子群优化算法.随着算法的搜索,利用多样性函数检 3.0 测邻域多样性,使群体结构从低连通度的分散结构 2.5 进化为连通度较高的复杂网络,由于其进化过程符 2.0H 合粒子群优化算法对信息共享模式的要求,因此极 大地提高了算法的性能.下一步工作将通过对最终 形成的群体结构的特性做详细研究,以探索更符合 1.0 -PSO ----DSWN-PSO 粒子间信息交流的群体结构. DNH-PSO SPS-PSO 参考文献: 0 4 6 10 迭代次数 [1]KENNEDY J,EBERHART R.Particle swarm optimization 图330维Rastrgin函数优化对比 [C]//Proc IEEE International Conference on Neural Net- Fig.3 Comparison of optimizing on 30-D Rastrgin works.Perth,Australia,1995:1942-1948. Griewank函数是一个多峰、存在许多局部极小 [2]POLI R.An analysis of publications on particle swarm opti- 值且自变量之间互相影响的、典型的非线性多模态 mization applications[R].London:Department of Computer Science,University of Essex,2007
f 3 = ∑ D i = 1 x 2 i / 4 000 - ∏ D i = 1 cos(xi / i ) + 1, - 600 ≤ xi ≤ 600. 3.2 实验结果与分析 为了测试新算法的优化性能,本文将标准 PSO 算法、 DSWN⁃PSO ( particle swarm optimization with dynamic evolutionary neighbourhood of small⁃world model) [8]和 DNH⁃PSO(dynamic neighborhood hybrid⁃ PSO) [9]进行对比分析.图 2 显示了 Sphere 函数的优 化对比结果.通过比较可以看出,SPS⁃PSO 算法始终 保持较快的收敛速度,并且最终获得了比 DSWN⁃ PSO 算法和 DNH⁃PSO 算法更好的优化性能. 图 2 30 维 Sphere 函数优化对比 Fig.2 Comparison of optimizing on 30⁃D Sphere 从图 3 中可以看出,对于 Rastrgin 函数来说, SPS⁃PSO 算法能在较短的时间内获得明显的优化效 果,并且仍然呈向全局最优的趋势.算法在 400 ~ 600 代时,有一个相对平坦的优化过程,这说明算法在此 期间停留在局部最优位置上徘徊不前,但最终因为 网络形成过程中根据适应值择优连接的过程,使得 算法能及时从局部最优位置跳出来,突破了局部最 优的束缚,继续向全局最优位置靠近. 图 3 30 维 Rastrgin 函数优化对比 Fig.3 Comparison of optimizing on 30⁃D Rastrgin Griewank 函数是一个多峰、存在许多局部极小 值且自变量之间互相影响的、典型的非线性多模态 函数,极易陷入局部最优,从图 4 中可以看出,SPS⁃ PSO 算法能以较快的速度收敛于全局最优,并且在 实验中发现其收敛成功率为 100%.其原因在于新连 接的加入能适应算法的收敛状态,使得算法具有较 强的抗早熟能力,能够突破中期短暂的停滞阶段,获 得正确的搜索方向. 图 4 30 维 Griewank 函数优化对比 Fig.4 Comparison of optimizing on 30⁃D Griewank 从实验中发现,SPS⁃PSO 算法的执行效率要高 于 DSWN⁃PSO 算法,这是因为 SPS⁃PSO 算法中,搜 索前期的粒子在空间中分布较为均匀,因此通过 flag 参数作为阈值参数来检测粒子的搜索状态,避 免了前期不必要的多样性检测,提高了算法的效率, 中后期多样性函数的检测一定程度上避免了算法的 局部收敛,促使算法进一步向全局最优靠近. 4 结束语 本文将复杂网络形成过程中的动力学机制引入 粒子群优化算法中,并根据搜索状态调整惯性权重 以适应搜索要求,提出了一种自适应群体结构的粒 子群优化算法.随着算法的搜索,利用多样性函数检 测邻域多样性,使群体结构从低连通度的分散结构 进化为连通度较高的复杂网络,由于其进化过程符 合粒子群优化算法对信息共享模式的要求,因此极 大地提高了算法的性能.下一步工作将通过对最终 形成的群体结构的特性做详细研究,以探索更符合 粒子间信息交流的群体结构. 参考文献: [1]KENNEDY J, EBERHART R. Particle swarm optimization [C] / / Proc IEEE International Conference on Neural Net⁃ works. Perth, Australia, 1995: 1942⁃1948. [2]POLI R. An analysis of publications on particle swarm opti⁃ mization applications[R]. London:Department of Computer Science, University of Essex, 2007. 第 4 期 孙文新,等:自适应群体结构的粒子群优化算法 ·375·
·376. 智能系统学报 第8卷 [3]POLI R,KENNEDY J,BLACKWELL T.Particle swarm PENG Hu,ZHANG Hai,DENG Changshou.Dynamic optimization:an overview[J].Swarm Intelligence,2007,1 neighborhood hybrid particle swarm optimization algorithm (1):33-57. [J].Computer Engineering,2011,37(14):211-213. [4]KENNEDY J,MENDES R.Population structure and parti- [10]ZHANG Chengong,YI Zhang.Scale-free fully informed cle swarm performance[C]//Proceedings of the IEEE Con- particle swarm optimization algorithm[J].Information Sci- gress on Computation Intelligence.Honolulu,USA,2002: ences,2011,181(20):4550-4568. 1671-1675. [11]曾建潮,介婧,崔志华.微粒群算法[M].北京:科学出版 [5]钱晓山.一种改进的混沌粒子群优化混合算法[J].应用 社,2004:5-10. 科技,2012,39(1):5-8. [12]吴浩扬,朱长纯,常炳国,等基于种群过早收敛程度定 QIAN Xiaoshan.A hybrid algorithm of the improved chaotic 量分析的改进自适应遗传算法[J]西安交通大学学报, particle swarm optimization[J].Applied Science and Tech- 1999,33(11):27-30. nolog,2012,39(1):5-8. WU Haoyang,ZHU Changchun,CHANG Bingguo,et al. [6]杨雪榕,梁加红,陈凌,等.多邻域改进粒子群算法[J]系 Adaptive genetic algorithm to improve group premature 统工程与电子技术,2010,32(11):2453-2458. convergence[J].Journal of Xi'an Jiaotong University, YANG Xuerong,LIANG Jiahong,CHEN Ling,et al.Multi- 1999,33(11):27-30. neighborhood improved particle swarm optimization algorithm 作者简介: [J].Systems Engineering and Electronics,2010,32(11): 孙文新,女,1966年生,副教授,主 2453-2458. 要研究方向为智能计算和计算机应用. [7]MATSUSHITA H,NISHIO Y.Network-structured particle 获“市级优秀教师”称号.参编高等教育 swarm optimizer with various topology and its behaviors[J]. 十二五规划计算机专业教材3部,获得 Lecture Notes in Computer Science,2009,5629:163-171. 国家发明2项,发表学术论文16篇. [8]穆华平,曾建潮基于小世界模型动态演化邻域的微粒群 算法[J].系统仿真学报,2008,20(15):3940-3943. MU Huaping,ZENG Jianchao.Particle swarm optimization 穆华平,女,1979年生,讲师,主要研 with dynamic evolutionary neighbourhood of small-world 究方向为智能计算,发表学术论文5篇。 model[J].Journal of System Simulation,2008,20(15): 3940-3943. [9]彭虎,张海,邓长寿.动态邻域混合粒子群优化算法[J] 计算机工程,2011,37(14):211-213
[3] POLI R, KENNEDY J, BLACKWELL T. Particle swarm optimization: an overview[J].Swarm Intelligence, 2007, 1 (1): 33⁃57. [4]KENNEDY J, MENDES R. Population structure and parti⁃ cle swarm performance[C] / / Proceedings of the IEEE Con⁃ gress on Computation Intelligence. Honolulu, USA, 2002: 1671⁃1675. [5]钱晓山.一种改进的混沌粒子群优化混合算法[ J]. 应用 科技, 2012, 39(1): 5⁃8. QIAN Xiaoshan. A hybrid algorithm of the improved chaotic particle swarm optimization[J]. Applied Science and Tech⁃ nology, 2012, 39(1): 5⁃8. [6]杨雪榕,梁加红,陈凌,等.多邻域改进粒子群算法[ J].系 统工程与电子技术, 2010, 32(11): 2453⁃2458. YANG Xuerong, LIANG Jiahong, CHEN Ling, et al. Multi⁃ neighborhood improved particle swarm optimization algorithm [J]. Systems Engineering and Electronics, 2010, 32(11): 2453⁃2458. [7] MATSUSHITA H, NISHIO Y. Network⁃structured particle swarm optimizer with various topology and its behaviors[J]. Lecture Notes in Computer Science, 2009, 5629: 163⁃171. [8]穆华平,曾建潮.基于小世界模型动态演化邻域的微粒群 算法[J].系统仿真学报, 2008, 20(15): 3940⁃3943. MU Huaping, ZENG Jianchao. Particle swarm optimization with dynamic evolutionary neighbourhood of small⁃world model[ J]. Journal of System Simulation, 2008, 20( 15): 3940⁃3943. [9]彭虎,张海,邓长寿.动态邻域混合粒子群优化算法[ J]. 计算机工程, 2011, 37(14): 211⁃213. PENG Hu, ZHANG Hai, DENG Changshou. Dynamic neighborhood hybrid particle swarm optimization algorithm [J]. Computer Engineering, 2011, 37(14): 211⁃213. [10] ZHANG Chengong, YI Zhang. Scale⁃free fully informed particle swarm optimization algorithm[J]. Information Sci⁃ ences, 2011, 181(20): 4550⁃4568. [11]曾建潮,介婧,崔志华.微粒群算法[M].北京: 科学出版 社, 2004: 5⁃10. [12]吴浩扬,朱长纯,常炳国,等.基于种群过早收敛程度定 量分析的改进自适应遗传算法[J].西安交通大学学报, 1999, 33(11): 27⁃30. WU Haoyang, ZHU Changchun, CHANG Bingguo, et al. Adaptive genetic algorithm to improve group premature convergence [ J]. Journal of Xi’ an Jiaotong University, 1999, 33(11): 27⁃30. 作者简介: 孙文新,女,1966 年生,副教授,主 要研究方向为智能计算和计算机应用. 获“市级优秀教师”称号.参编高等教育 十二五规划计算机专业教材 3 部,获得 国家发明 2 项,发表学术论文 16 篇. 穆华平,女,1979 年生,讲师,主要研 究方向为智能计算,发表学术论文 5 篇. ·376· 智 能 系 统 学 报 第 8 卷