正在加载图片...
第10期 王建国等：改进粒子群优化神经网络及其在产品质量建模中的应用 ,1189, 粒子趋向同一化，群体的多样性逐渐丧失，导致算法 速度慢，但是可以有效避免陷入局部最优，粒子的 后期收敛速度变慢，因而难以获得较好的优化结 速度和位置根据如下公式进行更新： 果[们.为了获得更好的优化效果，近年来出现了很 vi(t+1)=wvij(t)cirand()(pbj(t) 多改进的粒子群算法，文献[7]提出带惯性权重的 x(t)十czrand()(9一x(t)十 PS0算法，通过经验选择粒子群的参数，但算法末 c3rand()(h(t)一x(t)) (3) 期的全局搜索能力会有所下降.目前利用混合算 x(t+1)=x(t)十v防(t十1) (4) 法80的思想来改进PS0算法，可以提高PS0算 式中，c3为学习因子 法的收敛速度， 本文在综合已有粒子群优化算法优点的基础 2基于改进粒子群算法的神经网络 上，对粒子群速度与位置更新公式进行了改进，增强 2.1改进的粒子群算法 了粒子群优化算法的全局搜索能力，并将其与BP (1)对粒子速度与位置更新策略的改进，在全 算法相结合，提出了改进粒子群优化神经网络算法 局粒子群算法和局部粒子群算法融合的基础上，对 (BP based on improved particle swarm optimization, PS0算法进行了改进，在迭代过程中计算每一个粒 BP-IPSO)·将BP-IPSO算法用于产品质量建模， 子与群中其他粒子的距离，记录任何两个粒子间的 与传统方法相比，可以取得更好的预测精度， 最大距离为dist-max,dist[lab]是当前粒子a到粒 1标准的粒子群算法 子b的距离.如果粒子b满足dist[lb]/dist-max< η时，认为b属于当前粒子的邻域U;如果粒子b满 1.1全局粒子群优化算法 足dist[lb]/dist-max>n时，认为b不属于当前粒 标准PS0算法中的粒子是同时跟踪自己的历 子的邻域U.阈值系数？的选择根据迭代次数而变 史最优值与全局最优值来改变自己的位置和速度 化，1的表示如下： 的，所以又叫做全局粒子群优化算法.在全局粒 3t十0.6tmm 子群算法中，粒子个数称为种群规模m,第i个粒 = (5) tmax 子在d维空间的位置表示为x:=(x1,x2,…,x), 其中，t为当前迭代次数，tma为最大迭代次数 速度表示为V:=（vl,v2,…,va)(i=1,2,…, 当>0.9时，采用全局粒子群算法，用式(1) m)·计算每个粒子的适应度，适应度函数一般由实 和式(2)分别来更新粒子的速度和位置，当0.9 际问题中被优化的函数决定，根据每一个粒子的适 时，采用局部粒子群算法，用式(3)和式(4)分别来更 应度，更新每个粒子的个体最优值位置P,和全局最 新粒子的速度和位置，BP-IPS0算法中，种群的数 优值位置9，粒子通过动态跟踪p,和9来更新其 目为40个，惯性权重的最大值和最小值分别为0.9 速度和位置，粒子根据以下公式来更新其速度和位 和0.4，c1、c2和c3取标准值1.496]. 置： (2)对惯性权重的改进，标准PS0算法是在运 vi(t+1)=wvi(t)+cirand()(pbj(t)- 算中线性减少惯性权重心，容易使算法一旦进入局 xij(t))+czrand()(gbj-xj(t)) (1) 部极值点邻域内很难跳出，使全局寻优的难度增大， x(t十1)=x(t)十vg(t+1) (2) 为了克服上述的缺点，本文对惯性权重心采用以S 式中，i=1,2,,m,表示第i个粒子；j=1,2,…, 形函数递减策略，以保证种群在搜索的初期保持较 d,表示第j维空间；c1和c2为学习因子，t为迭代 高的飞行速度进行搜索，在搜索的中期让飞行速度 次数，rand()为均匀分布在(0~l)之间的随机数，w 快速下降，在搜索的后期粒子再保持一定的飞行速 为惯性权重 度进行最后的收敛，改进后的惯性权重按下式求 1.2局部粒子群优化算法 得： 每个粒子速度的更新主要与以下两个因素相 20=0max0min十Dmin 关一粒子自己的历史最优位置p和粒子邻域内 2 etlt一e 1十e (6) 最优位置，即在速度更新中用h代替9，其余保 式中，心m和0mim分别为最大、最小惯性权重，t和 持跟全局粒子群算法一样，这个算法称为局部粒子 tmar分别为当前迭代次数和最大迭代次数，e为控制 群算法)，经过实践证明：全局粒子群算法收敛速 系数，用于调节速度变化的快慢，一般e=10. 度快，但是容易陷入局部最优：局部粒子群算法收敛 通过对粒子速度与位置更新策略和对惯性权重粒子趋向同一化群体的多样性逐渐丧失导致算法 后期收敛速度变慢因而难以获得较好的优化结 果［6］．为了获得更好的优化效果近年来出现了很 多改进的粒子群算法．文献［7］提出带惯性权重的 PSO 算法通过经验选择粒子群的参数但算法末 期的全局搜索能力会有所下降．目前利用混合算 法［8—10］的思想来改进 PSO 算法可以提高 PSO 算 法的收敛速度． 本文在综合已有粒子群优化算法优点的基础 上对粒子群速度与位置更新公式进行了改进增强 了粒子群优化算法的全局搜索能力并将其与 BP 算法相结合提出了改进粒子群优化神经网络算法 （BP based on improved particle swarm optimization BP—IPSO）．将 BP—IPSO 算法用于产品质量建模 与传统方法相比可以取得更好的预测精度． 1 标准的粒子群算法 1∙1 全局粒子群优化算法 标准 PSO 算法中的粒子是同时跟踪自己的历 史最优值与全局最优值来改变自己的位置和速度 的所以又叫做全局粒子群优化算法［4］．在全局粒 子群算法中粒子个数称为种群规模 m第 i 个粒 子在 d 维空间的位置表示为 xi＝（ xi1xi2…xid） 速度表示为 Vi ＝（ vi1vi2…vid ） （ i ＝12… m）．计算每个粒子的适应度适应度函数一般由实 际问题中被优化的函数决定．根据每一个粒子的适 应度更新每个粒子的个体最优值位置 pb 和全局最 优值位置 gb粒子通过动态跟踪 pb 和 gb 来更新其 速度和位置．粒子根据以下公式来更新其速度和位 置： vij（ t＋1）＝ wvij（ t）＋c1rand（）（ pb j（ t）— xij（ t））＋c2rand（）（ gb j— xij（ t）） （1） xij（ t＋1）＝ xij（ t）＋vij（ t＋1） （2） 式中i＝12…m表示第 i 个粒子；j＝12… d表示第 j 维空间；c1 和 c2 为学习因子t 为迭代 次数rand（）为均匀分布在（0～1）之间的随机数w 为惯性权重． 1∙2 局部粒子群优化算法 每个粒子速度的更新主要与以下两个因素相 关———粒子自己的历史最优位置 pb 和粒子邻域内 最优位置 lb即在速度更新中用 lb 代替 gb其余保 持跟全局粒子群算法一样这个算法称为局部粒子 群算法［9］．经过实践证明：全局粒子群算法收敛速 度快但是容易陷入局部最优；局部粒子群算法收敛 速度慢但是可以有效避免陷入局部最优．粒子的 速度和位置根据如下公式进行更新： vij（ t＋1）＝ wvij（ t）＋c1rand（）（ pb j（ t）— xij（ t））＋c2rand（）（ gb j— xij（ t））＋ c3rand（）（ lb j（ t）— xij（ t）） （3） xij（ t＋1）＝ xij（ t）＋vij（ t＋1） （4） 式中c3 为学习因子． 2 基于改进粒子群算法的神经网络 2∙1 改进的粒子群算法 （1）对粒子速度与位置更新策略的改进．在全 局粒子群算法和局部粒子群算法融合的基础上对 PSO 算法进行了改进．在迭代过程中计算每一个粒 子与群中其他粒子的距离．记录任何两个粒子间的 最大距离为 dist—max．dist ［ lab ］是当前粒子 a 到粒 子 b 的距离．如果粒子 b 满足 dist ［ lab ］／dist—max＜ η时认为 b 属于当前粒子的邻域 U；如果粒子 b 满 足 dist ［ lab ］／dist—max＞η时认为 b 不属于当前粒 子的邻域 U．阈值系数 η的选择根据迭代次数而变 化［9］η的表示如下： η＝ 3t＋0∙6tmax tmax （5） 其中t 为当前迭代次数tmax为最大迭代次数． 当η＞0∙9时采用全局粒子群算法用式（1） 和式（2）分别来更新粒子的速度和位置．当 η＜0∙9 时采用局部粒子群算法用式（3）和式（4）分别来更 新粒子的速度和位置．BP—IPSO 算法中种群的数 目为40个惯性权重的最大值和最小值分别为0∙9 和0∙4［7］c1、c2 和 c3 取标准值1∙496［7］． （2） 对惯性权重的改进．标准 PSO 算法是在运 算中线性减少惯性权重 w容易使算法一旦进入局 部极值点邻域内很难跳出使全局寻优的难度增大． 为了克服上述的缺点本文对惯性权重 w 采用以 S 形函数递减策略以保证种群在搜索的初期保持较 高的飞行速度进行搜索在搜索的中期让飞行速度 快速下降在搜索的后期粒子再保持一定的飞行速 度进行最后的收敛．改进后的惯性权重按下式求 得： w＝ w max— w min 1＋e 2et／tmax—e ＋ w min （6） 式中w max和 w min分别为最大、最小惯性权重t 和 tmax分别为当前迭代次数和最大迭代次数e 为控制 系数用于调节速度变化的快慢一般 e＝10． 通过对粒子速度与位置更新策略和对惯性权重 第10期 王建国等： 改进粒子群优化神经网络及其在产品质量建模中的应用 ·1189·