第13卷第4期 智能系统学报 Vol.13 No.4 2018年8月 CAAI Transactions on Intelligent Systems Aug.2018 D0:10.11992/tis.201703003 网络出版地址：http:/kns.cnki.net/kcms/detail/23.1538.TP.20170704.1702.008.html 带扰动的变频正弦混沌神经网络研究 胡志强2，李文静2，乔俊飞2 （1.北京工业大学信息学部，北京100124；2.计算智能与智能系统北京市重点实验室，北京100124) 摘要：为了研究变频正弦混沌神经网络(FCSCNN)的抗扰动能力，在该混沌神经元的内部状态中分别引入三 角函数和小波函数扰动项，提出了带扰动的变频正弦混沌神经元模型。给出了该混沌神经元的倒分岔图及 Lyapunov指数的时间演化图，分析了其动力学特性。利用该模型构建了新型暂态混沌神经网络，通过选择不同 的扰动系数，将其应用于函数优化和组合优化问题上。仿真实验表明.在适当的扰动系数下，变频正弦混沌神 经网络能够有效地解决函数优化和组合优化问题，体现了该模型具有较强的鲁棒性和抗扰动能力。 关键词：扰动：三角函数：小波函数；混沌神经网络：变频正弦：组合优化 中图分类号：TP18文献标志码：A 文章编号：1673-4785(2018)04-0493-07 中文引用格式：胡志强，李文静，乔俊飞.带扰动的变频正弦混沌神经网络研究.智能系统学报，2018,13(4)：493-499. 英文引用格式：HU Zhiqiang,LI Wenjing,QIAO Junfei.Frequency--conversion sinusoidal chaotic neural network with disturbance feature[J.CAAI transactions on intelligent systems,2018,13(4):493-499. Frequency-conversion sinusoidal chaotic neural network with disturbance feature HU Zhiqiang,LI Wenjing,QIAO Junfei2 (1.Faculty of Information Technology,Beijing University of Technology,Beijing 100124,China;2.Beijing Key Laboratory of Com- putational Intelligence and Intelligent System,Beijing 100124,China) Abstract:In this paper,we propose a novel frequency-conversion sinusoidal chaotic neuron model with a disturbance feature to study the anti-disturbance ability of the frequency-conversion sinusoidal chaotic neural network (FCSCNN). To do so,we introduce trigonometric function and wavelet function disturbances into the internal state of the chaotic neuron model.We present a reversed bifurcation diagram of the chaotic neuron and a time evolution diagram of the Lya- punov exponent and then analyze the dynamic properties.We constructed a new transient chaotic neural network (TCNN)using the novel chaotic neuron model.By selecting different disturbance coefficients,we performed network function optimization and combinational optimization.Simulation results show that the FCSCNN can effectively solve function optimization and combinational optimization problems with appropriate disturbance coefficients,which demon- strate the strong robustness and anti-disturbance ability of the model. Keywords:disturbance;trigonometric function;wavelet function;chaotic neural network;frequency conversion sinus- oidal;combination optimization 自从Hopfiled和Tank用提出的Hopfiled网 旅行商(traveling salesman problem,TSP)问题以 络(Hopfiled neural network,HNN)开创性成功解决 来，神经网络在解决优化问题中开始得到广泛关 注和应用I。由于HNN的算法依然采用传统的 收稿日期：2017-03-02.网络出版日期：2017-07-04. 基金项目：国家自然科学基金重点项目(61533002)：国家自然 梯度下降算法，极易陷入局部极小点，导致无法 科学基金青年科学基金项目(61603009)：中国博士 后科学基金项目(2015M570910):朝阳区博士后研究 找到最优解。Chen等在Hopfield网络基础上 基金项目(2015ZZ-6):北京工业大学基础研究基金 引入自反馈，并加入模拟退火(simulated annealing. 项目(002000514315501). 通信作者：胡志强.E-mail:zacharyhu33@I63.com. SA)机制，提出暂态混沌神经网络(transient chaot-
DOI: 10.11992/tis.201703003 网络出版地址: http://kns.cnki.net/kcms/detail/23.1538.TP.20170704.1702.008.html 带扰动的变频正弦混沌神经网络研究 胡志强1,2，李文静1,2，乔俊飞1,2 （1. 北京工业大学 信息学部，北京 100124; 2. 计算智能与智能系统北京市重点实验室，北京 100124） 摘 要：为了研究变频正弦混沌神经网络 (FCSCNN) 的抗扰动能力，在该混沌神经元的内部状态中分别引入三 角函数和小波函数扰动项，提出了带扰动的变频正弦混沌神经元模型。给出了该混沌神经元的倒分岔图及 Lyapunov 指数的时间演化图，分析了其动力学特性。利用该模型构建了新型暂态混沌神经网络，通过选择不同 的扰动系数，将其应用于函数优化和组合优化问题上。仿真实验表明，在适当的扰动系数下，变频正弦混沌神 经网络能够有效地解决函数优化和组合优化问题，体现了该模型具有较强的鲁棒性和抗扰动能力。 关键词：扰动；三角函数；小波函数；混沌神经网络；变频正弦；组合优化 中图分类号：TP18 文献标志码：A 文章编号：1673−4785(2018)04−0493−07 中文引用格式：胡志强, 李文静, 乔俊飞. 带扰动的变频正弦混沌神经网络研究 [J]. 智能系统学报, 2018, 13(4): 493–499. 英文引用格式：HU Zhiqiang, LI Wenjing, QIAO Junfei. Frequency-conversion sinusoidal chaotic neural network with disturbance feature[J]. CAAI transactions on intelligent systems, 2018, 13(4): 493–499. Frequency-conversion sinusoidal chaotic neural network with disturbance feature HU Zhiqiang1,2 ，LI Wenjing1,2 ，QIAO Junfei1,2 (1. Faculty of Information Technology, Beijing University of Technology, Beijing 100124, China; 2. Beijing Key Laboratory of Computational Intelligence and Intelligent System, Beijing 100124, China) Abstract: In this paper, we propose a novel frequency-conversion sinusoidal chaotic neuron model with a disturbance feature to study the anti-disturbance ability of the frequency-conversion sinusoidal chaotic neural network (FCSCNN). To do so, we introduce trigonometric function and wavelet function disturbances into the internal state of the chaotic neuron model. We present a reversed bifurcation diagram of the chaotic neuron and a time evolution diagram of the Lyapunov exponent and then analyze the dynamic properties. We constructed a new transient chaotic neural network (TCNN) using the novel chaotic neuron model. By selecting different disturbance coefficients, we performed network function optimization and combinational optimization. Simulation results show that the FCSCNN can effectively solve function optimization and combinational optimization problems with appropriate disturbance coefficients, which demonstrate the strong robustness and anti-disturbance ability of the model. Keywords: disturbance; trigonometric function; wavelet function; chaotic neural network; frequency conversion sinusoidal; combination optimization 自从 Hopfiled 和 Tank 用提出的 Hopfiled 网 络 (Hopfiled neural network, HNN) 开创性成功解决 旅行商 (traveling salesman problem, TSP) 问题以 来，神经网络在解决优化问题中开始得到广泛关 注和应用[1]。由于 HNN 的算法依然采用传统的 梯度下降算法，极易陷入局部极小点，导致无法 找到最优解[2]。Chen 等 [3] 在 Hopfield 网络基础上 引入自反馈，并加入模拟退火 (simulated annealing, SA) 机制，提出暂态混沌神经网络 (transient chaot- 收稿日期：2017−03−02. 网络出版日期：2017−07−04. 基金项目：国家自然科学基金重点项目 (61533002)；国家自然 科学基金青年科学基金项目 (61603009)；中国博士 后科学基金项目 (2015M570910)；朝阳区博士后研究 基金项目 (2015ZZ-6)；北京工业大学基础研究基金 项目 (002000514315501). 通信作者：胡志强. E-mail：zacharyhu33@163.com.. 第 13 卷第 4 期 智 能 系 统 学 报 Vol.13 No.4 2018 年 8 月 CAAI Transactions on Intelligent Systems Aug. 2018
·494· 智能系统学报 第13卷 ic neural network,.TCNN),通过混沌的遍历性和伪 x()=f0() (1) 随机性克服了HNN局部极小问题。混沌神经网 y(t+1)=ky(t)+y.D(y(t))-z(t)(x(t)-) (2) 络(chaotic neural network,CNN)被证明是解决优 z(t+1)=(1-)z(t) (3) 化问题的有效工具B-刀。随后，Zhang等采用小波 f(u)=S1(u,s1)+cS2(u,82) (4) 函数作为激励函数，提出了WCNN模型，用来解 S1(u,e)=1/[1+exp(-u/e] (5) S2(u,82)=A·sin(u/s2) (6) 决函数优化问题；Lu等在混沌神经元模型中加 D(v,3)=cos(v/E3) (7) 入迟滞动力，提出了HCNN模型，并应用于TSP 问题中；Zha0等61引入高斯自反馈项，提出了 D2(w,83)=exp-(v/s)2/2cos(5v/83) (8) CNNW模型，成功应用于组合优化问题。以上学 式中：A=A(O)exp(-alu),B2=B2(O)exp(-blu,D为 者提出的CNN模型，虽然都在一定程度上提高了 内部扰动项，采用三角函数扰动D,或Morlet小波 全局寻优能力，但是大都缺乏一定的生物学机 函数扰动D2,y为扰动系数（当=0，c=0时，模型 为TCNN;当y=O,c≠0时，模型为FCSCNNI7), 制，无法表征神经元激励与响应的频幅关系，不 能充分体现出复杂多变脑部活动的非线性动力学 )为神经元内部状态，x()为神经元输出，几)为 特征和具有更加丰富的混沌全局搜索性能。因 神经元的激励函数，k为神经隔膜的阻尼因子(0≤ 此，H山等基于脑电波的生物机制，将变频正弦 k≤1)，e1和e2分别为Sigmoid函数S和变频正弦 函数(frequency conversion sinusoidal,FCS)与Sig 函数S2的陡度参数(e1,e2>0),6为扰动函数的陡 moid函数加权和组成非单调激励函数，提出了变 度参数(e>0),c为变频正弦函数的比例系数(0≤ 频正弦混沌神经网络(frequency conversion sinus- c≤1)，I。为正值参数，(1)为自反馈连接权重 oidal chaotic neural network,FCSCNN)模型，进一 (()>0),B为()的退火衰减因子(0≤β≤1)。 步提高了TCNN的混沌动力学特性和全局寻优性 神经元的倒分岔图和最大Lyapunov指数可 能，更准确地解决了函数优化及TSP问题，验证 以直观体现出神经元的动力学特性。Lyapunov 指数大于零（非正无穷），证明模型具有混沌行为， 了模型有效性和可行性。 并且值越大表明混沌程度越强。Lyapunov指数 而人们研究TCNN的优化计算方法，归根结 定义为 底是希望能够看到其在硬件上的实现，进而观察 dy(t+1) 和研究混沌神经元的状态和响应，最终制造出混 (9) dy(t) 沌计算机。但是，由于电子元器件或电路的不 稳定性，在一定情况下，不可避免地会出现不同 则对于带扰动的FCS混沌神经元模型有 程度的扰动，这会对FCSCNN性能产生影响，所 dy(t+1) dx(t)dD(y(t)) dy(r) =k-z() +y. dy(t) dy(t) 以对该模型的抗扰动能力进行实验、评估、比较 (10) dsiy(r))ds2(y(t)) dD(y(t)) 是很有必要的。因此，本文针对FCSCNN模型， k-z(t) dy(r) +c- dy(r) +y dy(t) 通过引入不同程度的周期和非周期扰动，将其应 式(10)中第2项表达式同文献[7，第3项如下： 用到函数优化和组合优化问题上，分析其抗扰动 dD(y(r))1 能力，仿真实验证明了FCSCNN具有较强的鲁棒 =--sin(y(t)/e3) (11) d山y(t) E3 性和抗扰动能力。 dD6》=-y@ exp-0.5(401cos0 ) d山y(t) E3 E3 1带扰动的变频正弦混沌神经元模型 (12) 5epl-0.5(0y1sin50, 5 TCNN多采用Sigmoid函数作为激励函数，而 由文献[可知，相同模型参数下，提出的FCS 非单调激励函数比单调(Sigmoid)激励函数更容 混沌神经元比标准的暂态混沌神经元具有更复杂 易产生混沌，在寻优过程中具有更好的全局搜索 和更丰富的混沌动力学行为，具有更多的正值Lya- 性能9。基于以上理论以及脑电波的生物机制， punov指数，并且混沌搜索的时间更长，这都为混 FCSCNN模型获得了较好的优化效果"。由于 沌全局寻优提供了良好的动力学基础。证实了提 来自外界的扰动有周期的和非周期的，因此本文 出的新的混沌神经元模型的有效性和可行性。 分别用代表周期扰动的三角函数和非周期扰动的 进而，为了验证FCS混沌神经元模型的鲁棒 小波函数来进行研究，在FCS神经元模型的基础 性和抗扰动能力，当设置扰动项为三角函数扰动 上加入扰动项，来分析模型的抗扰动能力。建立 时，当选取参数k=1,B=0.004,c1=0.02,10=0.65 如下带扰动的FCS混沌神经元模型： (0)=0.9,A(0)=0.6,c2(0)=0.02,a=6,b=1,c=0.25
ic neural network, TCNN)，通过混沌的遍历性和伪 随机性克服了 HNN 局部极小问题。混沌神经网 络 (chaotic neural network, CNN) 被证明是解决优 化问题的有效工具[3-7]。随后，Zhang等 [4] 采用小波 函数作为激励函数，提出了 WCNN 模型，用来解 决函数优化问题；Liu 等 [5] 在混沌神经元模型中加 入迟滞动力，提出了 HCNN 模型，并应用于 TSP 问题中；Zhao 等 [ 6 ] 引入高斯自反馈项，提出了 CNNW 模型，成功应用于组合优化问题。以上学 者提出的 CNN 模型，虽然都在一定程度上提高了 全局寻优能力，但是大都缺乏一定的生物学机 制，无法表征神经元激励与响应的频幅关系，不 能充分体现出复杂多变脑部活动的非线性动力学 特征和具有更加丰富的混沌全局搜索性能。因 此，Hu 等 [7] 基于脑电波的生物机制，将变频正弦 函数 (frequency conversion sinusoidal, FCS) 与 Sigmoid 函数加权和组成非单调激励函数，提出了变 频正弦混沌神经网络 (frequency conversion sinusoidal chaotic neural network, FCSCNN) 模型，进一 步提高了 TCNN 的混沌动力学特性和全局寻优性 能，更准确地解决了函数优化及 TSP 问题，验证 了模型有效性和可行性。 而人们研究 TCNN 的优化计算方法，归根结 底是希望能够看到其在硬件上的实现，进而观察 和研究混沌神经元的状态和响应，最终制造出混 沌计算机[8]。但是，由于电子元器件或电路的不 稳定性，在一定情况下，不可避免地会出现不同 程度的扰动，这会对 FCSCNN 性能产生影响，所 以对该模型的抗扰动能力进行实验、评估、比较 是很有必要的。因此，本文针对 FCSCNN 模型， 通过引入不同程度的周期和非周期扰动，将其应 用到函数优化和组合优化问题上，分析其抗扰动 能力，仿真实验证明了 FCSCNN 具有较强的鲁棒 性和抗扰动能力。 1 带扰动的变频正弦混沌神经元模型 TCNN 多采用 Sigmoid 函数作为激励函数，而 非单调激励函数比单调 (Sigmoid) 激励函数更容 易产生混沌，在寻优过程中具有更好的全局搜索 性能[9-10]。基于以上理论以及脑电波的生物机制， FCSCNN 模型获得了较好的优化效果[7, 11]。由于 来自外界的扰动有周期的和非周期的，因此本文 分别用代表周期扰动的三角函数和非周期扰动的 小波函数来进行研究，在 FCS 神经元模型的基础 上加入扰动项，来分析模型的抗扰动能力。建立 如下带扰动的 FCS 混沌神经元模型： x (t) = f (y (t)) (1) y (t+1) = ky (t)+γ · D(y (t))−z(t) (x (t)− I0) (2) z(t+1) = (1−β)z(t) (3) f (u) = S 1 (u,ε1)+c · S 2 (u,ε2) (4) S 1 (u,ε1) = 1/ [ 1+exp(−u/ε1) ] (5) S 2(u,ε2) = A·sin(u/ε2) (6) D1 (v,ε3) = cos(v/ε3) (7) D2 (v,ε3) = exp[ −(v/ε3) 2 /2 ] cos(5v/ε3) (8) 式中： A = A(0) exp(−a|u|) ，ε2 = ε2 (0) exp(−b|u|)， D 为 内部扰动项，采用三角函数扰动 D1 或 Morlet 小波 函数扰动 D2，γ 为扰动系数 (当 γ=0, c=0 时，模型 为 TCNN[3] ；当 γ=0, c≠0 时，模型为 FCSCNN[7] )， y(t) 为神经元内部状态，x(t) 为神经元输出，f(·) 为 神经元的激励函数，k 为神经隔膜的阻尼因子 (0≤ k≤1)，ε1 和 ε2 分别为 Sigmoid 函数 S1 和变频正弦 函数 S2 的陡度参数 (ε1，ε2>0)，ε3 为扰动函数的陡 度参数 (ε3>0)，c 为变频正弦函数的比例系数 (0≤ c≤1)， I 0 为正值参数， z(t) 为自反馈连接权重 (z(t)>0)，β 为 z(t) 的退火衰减因子 (0≤β≤1)。 神经元的倒分岔图和最大 Lyapunov 指数可 以直观体现出神经元的动力学特性。Lyapunov 指数大于零 (非正无穷)，证明模型具有混沌行为， 并且值越大表明混沌程度越强[5]。Lyapunov 指数 定义为 λ = lim n→∞ 1 n ∑n−1 i=0 log dy (t+1) dy (t) (9) 则对于带扰动的 FCS 混沌神经元模型有 dy (t+1) dy (t) = k−z(t) dx (t) dy (t) +γ · dD(y(t)) dy(t) = k−z(t) [ dS 1 (y (t)) dy (t) +c dS 2 (y (t)) dy (t) ] +γ · dD(y(t)) dy(t) (10) 式 (10) 中第 2 项表达式同文献 [7]，第 3 项如下： dD1(y(t)) dy(t) = − 1 ε3 sin(y(t)/ε3) (11) dD2(y(t)) dy(t) = − y(t) ε 2 3 exp[−0.5( y(t) ε3 ) 2 ] cos( 5y(t) ε3 )− 5 ε3 exp[−0.5( y(t) ε3 ) 2 ] sin(5y(t) ε3 ) (12) 由文献 [7] 可知，相同模型参数下，提出的 FCS 混沌神经元比标准的暂态混沌神经元具有更复杂 和更丰富的混沌动力学行为，具有更多的正值 Lyapunov 指数，并且混沌搜索的时间更长，这都为混 沌全局寻优提供了良好的动力学基础。证实了提 出的新的混沌神经元模型的有效性和可行性。 进而，为了验证 FCS 混沌神经元模型的鲁棒 性和抗扰动能力，当设置扰动项为三角函数扰动 时，当选取参数 k=1, β=0.004, ε1=0.02, I0=0.65, z(0)=0.9, A(0)= 0.6, ε2 (0)=0.02, a=6, b=1, c=0.25, ·494· 智 能 系 统 学 报 第 13 卷
第4期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·495· =0.1固定不变时，分别取y=0.002和=0.02时， 0.02,a=6,b=1,c=0.25,=2.5固定不变时，分别取 FCS神经元的倒分岔图和最大Lyapunov指数时 =0.002和=0.02时，FCS神经元的倒分岔图和最 间演化图分别如图1~2所示。 大Lyapunov指数时间演化图如图3、图4所示。 1.2 1.2 1.00 1.0 0.8 0.8 0.6. 0.6 0.4 0.4 。 0.2 0 0.2 0 012345678910×10 -0. -0.2 01 迭代次数 2345678910×10 迭代次数 (a)神经元倒分岔图 (a)神经元倒分岔图 -10 -12 012345678910x10 -1 10 0 迭代次数 23 45678910×10 迭代次数 (b)最大Lyapunov指数时间演化图 (b)最大Lyapunov指数时间演化图 图1带三角函数扰动(=0.002)的FCS神经元倒分岔图 图3带Morlet小波扰动(=O.002)的FCS神经元倒分岔 和最大Lyapunov指数图 图和最大Lyapunov指数图 Fig.1 The reversed bifurcation and the time evolution of Fig.3 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neur- the maximal Lyapunov exponent of the FCS neur- on within trigonometric function disturbance on within Morlet function disturbance(y=0.002) (=0.002) 1.2 1.2 1.0 1.0D% 0.8 0.8 0.6 0.6 0.4 0.4 0.2 0.2 0.2 -0.2 0123456 78910×10 0123 4567891010 迭代次数 迭代次数 (a)神经元倒分岔图 (a)神经元倒分岔图 0 -6 -6 -8 01234567891010 -8 -10 012345.6789i010 迭代次数 迭代次数 (b)最大Lyapunov指数时间演化图 (b)最大Lyapunov指数时间演化图 图2带三角函数扰动(=0.02)的FCS神经元倒分岔图 图4 带Morlet小波扰动(=0.02)的FCS神经元倒分岔 和最大Lyapunov指数图 图和最大Lyapunov指数图 Fig.2 The reversed bifurcation and the time evolution of Fig.4 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neur- the maximal Lyapunov exponent of the FCS neur- on within trigonometric function disturbance on within Morlet function disturbance(70.02) (0=0.02) 由图1~4可知，在神经元内部加入三角函数 当扰动为Morlet小波函数时，选取参数=l, 或小波函数扰动项，进行动力学特性对比分析。 =0.004,c=0.02,1。=0.65,(0=0.9,A(0)=0.6,62(0)= 在扰动系数y为0.002时，两类不同的扰动下，神
ε3=0.1 固定不变时，分别取 γ=0.002 和 γ=0.02 时， FCS 神经元的倒分岔图和最大 Lyapunov 指数时 间演化图分别如图 1～2 所示。 0 1 2 3 4 5 6 7 8 9 10 (a) ⺊㏻ٯԾܲᇀప −0.2 0 0.2 0.4 0.6 0.8 1.0 1.2 x ×102 0 1 2 3 4 5 6 7 8 9 10 −14 −12 −10 −8 −6 −4 −2 0 2 λ (b) ᰬ๓Lyapunovᠳᬢ䬠⑀ࡂప ×102 䔙Џ⁍ 䔙Џ⁍ 图 1 带三角函数扰动 (γ=0.002) 的 FCS 神经元倒分岔图 和最大 Lyapunov 指数图 Fig. 1 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neuron within trigonometric function disturbance (γ=0.002) 0 1 2 3 4 5 6 7 8 9 10 −10 −8 −6 −4 −2 0 2 λ (b) ᰬ๓Lyapunovᠳᬢ䬠⑀ࡂప ×102 0 1 2 3 4 5 6 7 8 9 10 ×102 (a) ⺊㏻ٯԾܲᇀప −0.2 0 0.2 0.4 0.6 0.8 1.0 1.2 x 䔙Џ⁍ 䔙Џ⁍ 图 2 带三角函数扰动 (γ=0.02) 的 FCS 神经元倒分岔图 和最大 Lyapunov 指数图 Fig. 2 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neuron within trigonometric function disturbance (γ=0.02) 当扰动为 Morlet 小波函数时，选取参数 k=1, β=0.004, ε1=0.02, I0=0.65, z(0)=0.9, A(0)=0.6, ε2 (0)= 0.02, a=6, b=1, c=0.25, ε3=2.5 固定不变时，分别取 γ=0.002 和 γ=0.02 时，FCS 神经元的倒分岔图和最 大 Lyapunov 指数时间演化图如图 3、图 4 所示。 0 1 2 3 4 5 6 7 8 9 10 −0.2 0 0.2 0.4 0.6 0.8 1.0 1.2 x (a) 神经元倒分岔图 ×102 迭代次数 0 1 2 3 4 5 6 7 8 9 10 −10 −8 −6 −4 −2 0 2 λ (b) 最大Lyapunov指数时间演化图 ×102 迭代次数 图 3 带 Morlet 小波扰动 (γ=0.002) 的 FCS 神经元倒分岔 图和最大 Lyapunov 指数图 Fig. 3 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neuron within Morlet function disturbance (γ=0.002) 0 1 2 3 4 5 6 7 8 9 10 −0.2 0 0.2 0.4 0.6 0.8 1.0 1.2 (a) 神经元倒分岔图 x ×102 迭代次数 0 1 2 3 4 5 6 7 8 9 10 −8 −6 −4 −2 0 2 λ (b) 最大Lyapunov指数时间演化图 ×102 迭代次数 图 4 带 Morlet 小波扰动 (γ=0.02) 的 FCS 神经元倒分岔 图和最大 Lyapunov 指数图 Fig. 4 The reversed bifurcation and the time evolution of the maximal Lyapunov exponent of the FCS neuron within Morlet function disturbance (γ=0.02) 由图 1~4 可知，在神经元内部加入三角函数 或小波函数扰动项，进行动力学特性对比分析。 在扰动系数 γ 为 0.002 时，两类不同的扰动下，神 第 4 期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·495·
·496· 智能系统学报 第13卷 经元的动力学特性都只是发生微小的变动，并没 大而增加，当扰动过大，会改变甚至会完全破坏 有发生明显的改变。在扰动系数y为0.02时，两 FCS神经元模型的混沌动力学特性。这将影响 类不同的扰动下，神经元的动力学特性都发生了 FCS模型混沌搜索遍历性和伪随机性的动力学特 较明显的变化，随着扰动系数的增大，动力学特 性，不能很好利用自身的自抑制进行全局搜索。 性变动更加剧烈，动力学演变过程开始受到影 因此，要保持良好的寻优能力，除了选择合适的 响，但是整体的倒分岔特点和混沌程度并没有受 网络参数外，还需要控制扰动在适当的范围内。 到本质改变，依旧保持原有形态。证明了在一定 对于在扰动条件下能否依然较好地解决优化问 程度扰动项作用下，FCS混沌神经元模型具有一 题，将在不同程度的扰动项作用下，采用FC 定鲁棒性和抗扰动能力。 SCNN模型解决函数优化和组合优化问题，进一 步验证模型的抗扰动能力。 2 带扰动的FCS混沌神经网络模型 3带扰动的FCSCNN模型在优化问 利用上述带扰动的FCS混沌神经元模型，构 题中的应用 建得到了如下带扰动的FCSCNN模型： x(t)=f(yi(t)) (13) 根据Hopfield的优化机制有如下规则： y:(t+1)=ky:(t)+y·Dy:()+ (14) dt 2乙-x,(0+L=一 (21) ,wx(0+-z()[x()-16 1, 在设置好模型参数后，将问题的目标函数映 z(t+1)=(1-)z(t) (15) 射为网络的能量函数，将网络的动力学演化过程 f(W0=S1(u,E1)+c·S2(u,82） (16) 视为目标函数的寻优过程，当网路收敛到稳定点 S,(u,E1)=1/1+exp(-u/s1) (17) S2(u,8）=Asin(ule) (18) 时，对应的神经元输出即为所要求得优化问题的解。 D(v,3)=cos(v/s3) (19) 31在函数优化中的应用 D2(v.s3)=exp-(v/ss)2/2cos(5v/E3) (20) 优化函数1： 式中：a为正比例参数，w,为神经元i和神经元 fx,2)=(x-0.7)2x2+0.6)2+0.1+ (22) j间的连接权值(w="加w=0),I,是第i个神经元 (x2-0.5)}2x1+0.4)2+0.15 阈值，其他参数定义同带扰动的FCS神经元模型。 函数f的最小值为0，最小值点为(0.7,0.5)；局 FCSCNN采用传统的Hopfield网络的优化机 部极小点为(0.6,0.4)，(0.6,0.5)和(0.7,0.4)。在FC 制。由于自反馈的存在，网络会表现出混沌特 SCNN模型中，选取参数如下：k=1,a=0.1,=0.2, 性。在演化初期，选择合适的网络参数，并且具 c1=0.08,10=0.56,51(0)=22(0)=0.1,A(0)=0.4,e2(0)= 有较大的自反馈连接权重初值(0)，利用混沌的 0.08,a=6,b=1,c=0.25。随机初始化神经元输出x1, 遍历性和伪随机性在相空间内按照一定“分形”结 x2的值，扰动系数y分别取0.002,0.02和0.2。对 构进行“自抑制”的不重复全局搜索，避免陷入局 比FCSCNN模型在不同扰动和不同扰动系数下 部极小11。根据式(15)，随着退火衰减因子B的 的函数优化能力，进行10次独立实验取均值，每 作用，：值不断进行减小，网络随之从混沌态经历 次网络演化50步，实验结果如表1所示。 倒分岔过程过渡到稳态，直至完全退化为Hop- 表1带扰动FCSCNN求解函数1优化问题结果 field网络，收敛到优化值。FCSCNN模型中动力 Table 1 The optimization results of the FCSCNN with dis- turbances for function 1 学特性和优化能力敏感的依赖于网络参数(k,α， B,c,62,)的选择。k表征记忆保留或遗忘内部状 扰动 态的能力：α表征能量函数对混沌动力学特性的 无 0.0000.69999 0.50000 3.0000x1022 影响，决定着网络演化和混沌动力的比例；B表征 0.002 0.70646 0.50724 1.2748×10 自反馈项的退火速度，决定着混沌特性的退化快 三角 0.020 0.7504 0.56507 8.8808×103 慢。参数之间相互影响，需要选择合理的搭配才 0.200 能获得好的优化效果。反之，则无法得到最优解 0.002 0.69472 0.50737 1.1101×10 甚至失去优化能力。 小波 0.020 当加入扰动后，从图1~4的神经元动力学特 0.66684 0.55859 6.0077x103 0.200 性仿真分析可知，扰动的影响会随着扰动系数增
经元的动力学特性都只是发生微小的变动，并没 有发生明显的改变。在扰动系数 γ 为 0.02 时，两 类不同的扰动下，神经元的动力学特性都发生了 较明显的变化，随着扰动系数的增大，动力学特 性变动更加剧烈，动力学演变过程开始受到影 响，但是整体的倒分岔特点和混沌程度并没有受 到本质改变，依旧保持原有形态。证明了在一定 程度扰动项作用下，FCS 混沌神经元模型具有一 定鲁棒性和抗扰动能力。 2 带扰动的 FCS 混沌神经网络模型 利用上述带扰动的 FCS 混沌神经元模型，构 建得到了如下带扰动的 FCSCNN 模型： xi(t) = f (yi(t)) (13) yi(t+1) = kyi(t)+γ · D(yi(t))+ α ∑N j=1, j,i wi jxj(t)+ Ii −zi(t)[xi(t)− I0] (14) zi(t+1) = (1−β)zi(t) (15) f (u) = S 1 (u,ε1)+c · S 2 (u,ε2) (16) S 1 (u,ε1) = 1/ [ 1+exp(−u/ε1) ] (17) S 2(u,ε2) = A·sin(u/ε2) (18) D1 (v,ε3) = cos(v/ε3) (19) D2 (v,ε3) = exp[ −(v/ε3) 2 /2 ] cos(5v/ε3) (20) 式中：α 为正比例参数，wij 为神经元 i 和神经元 j 间的连接权值 (wij=wji, wii=0)，Ii 是第 i 个神经元 阈值，其他参数定义同带扰动的 FCS 神经元模型。 FCSCNN 采用传统的 Hopfield 网络的优化机 制 [12]。由于自反馈的存在，网络会表现出混沌特 性。在演化初期，选择合适的网络参数，并且具 有较大的自反馈连接权重初值 z(0)，利用混沌的 遍历性和伪随机性在相空间内按照一定“分形”结 构进行“自抑制”的不重复全局搜索，避免陷入局 部极小[13]。根据式 (15)，随着退火衰减因子 β 的 作用，z 值不断进行减小，网络随之从混沌态经历 倒分岔过程过渡到稳态，直至完全退化为 Hopfield 网络，收敛到优化值。FCSCNN 模型中动力 学特性和优化能力敏感的依赖于网络参数 (k, α, z, β, ε1 , ε2 , I0 ) 的选择。k 表征记忆保留或遗忘内部状 态的能力；α 表征能量函数对混沌动力学特性的 影响，决定着网络演化和混沌动力的比例；β 表征 自反馈项的退火速度，决定着混沌特性的退化快 慢。参数之间相互影响，需要选择合理的搭配才 能获得好的优化效果。反之，则无法得到最优解 甚至失去优化能力。 当加入扰动后，从图 1~4 的神经元动力学特 性仿真分析可知，扰动的影响会随着扰动系数增 大而增加，当扰动过大，会改变甚至会完全破坏 FCS 神经元模型的混沌动力学特性。这将影响 FCS 模型混沌搜索遍历性和伪随机性的动力学特 性，不能很好利用自身的自抑制进行全局搜索。 因此，要保持良好的寻优能力，除了选择合适的 网络参数外，还需要控制扰动在适当的范围内。 对于在扰动条件下能否依然较好地解决优化问 题，将在不同程度的扰动项作用下，采用 FCSCNN 模型解决函数优化和组合优化问题，进一 步验证模型的抗扰动能力。 3 带扰动的 FCSCNN 模型在优化问 题中的应用 根据 Hopfield 的优化机制有如下规则[14] ： dyi dt = ∑N j=1, j,i wi jxj(t)+ Ii = − ∂E ∂xi (21) 在设置好模型参数后，将问题的目标函数映 射为网络的能量函数，将网络的动力学演化过程 视为目标函数的寻优过程，当网路收敛到稳定点 时，对应的神经元输出即为所要求得优化问题的解。 3.1 在函数优化中的应用 优化函数 1： f (x1 , x2) = (x1 −0.7) 2 [ (x2 +0.6) 2 +0.1 ] + (x2 −0.5) 2 [ (x1 +0.4) 2 +0.15] (22) 函数 f 的最小值为 0，最小值点为 (0.7,0.5)；局 部极小点为 (0.6,0.4), (0.6,0.5) 和 (0.7,0.4)。在 FCSCNN 模型中，选取参数如下： k=1, α=0.1, β=0.2, ε1=0.08, I0=0.56, z1 (0)=z2 (0)=0.1, A(0)=0.4, ε2 (0)= 0.08, a=6, b=1, c=0.25。随机初始化神经元输出 x1 , x2 的值，扰动系数 γ 分别取 0.002, 0.02 和 0.2。对 比 FCSCNN 模型在不同扰动和不同扰动系数下 的函数优化能力，进行 10 次独立实验取均值，每 次网络演化 50 步，实验结果如表 1 所示。 表 1 带扰动 FCSCNN 求解函数 1 优化问题结果 Table 1 The optimization results of the FCSCNN with disturbances for function 1 扰动 γ x1 x2 E 无 0.000 0.699 99 0.500 00 3.000 0×10–22 三角 0.002 0.706 46 0.507 24 1.274 8×10–4 0.020 0.750 4 0.565 07 8.880 8×10–3 0.200 — — — 小波 0.002 0.694 72 0.507 37 1.110 1×10–4 0.020 0.666 84 0.558 59 6.007 7×10–3 0.200 — — — ·496· 智 能 系 统 学 报 第 13 卷
第4期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·497· 优化函数2： 问题对应的目标函数为 f(x1,x)=100(x-x2)+(x1-1)月 (23) E= 函数∫的最小值为0，最小值点为(1,1)。最 [2-j22-j小 24 优解位于一个平滑、狭长的抛物线形山谷内，函 数为优化算法提供的信息比较有限。传统梯度下 2 1=1k=1 降法方向几乎与最小值的最佳方向垂直，很难辨 式中：x,为神经元的输出，它表示城市i于第j个 别搜索方向，查找最优解变得十分困难。在FC 被访问；W,和W2分别为与约束和关于路径长度 SCNN模型中，选取参数如下：k=1,a=1.0×10- 的代价函数对应的耦合系数；d,为城市i和城市 B=0.01,8=8.0×10-4,1o=0.65,z1(0)=z2(0)=0.8, j之间的距离。 A(0)=0.4,(0)=0.08,a=6,b=1,c=0.25。随机初始 选取10个城市归一化后的坐标，取值分别 化神经元输出x1、x2的值，扰动系数y分别取 为：(0.4000,0.4439)，(0.2439,0.1463)，(0.1707， 0.002、0.02和0.2。对比FCSCNN模型在不同扰 0.2293),(0.2293,0.7160).(0.5171,0.9414),(0.8732, 动和不同扰动系数下的函数优化能力，进行10次 0.6536,(0.6878,0.5219),(0.8488,0.3609),(0.6683 独立实验取均值，每次网络演化5000步，实验结 0.2536),(0.6195,0.2634)。该10个城市TSP问题 果如表2所示 满足条件最短路径长度为2.6776，最优路径如 表2带扰动FCSCNN求解函数2优化问题结果 图5所示。 Table 2 The optimization results of the FCSCNN with dis- 1.0 turbances for function 2 0.8 扰动 利 2 无 0.000 0.98829 0.97668 1.3727x10 0.002 1.0295 1.0289 9.6773×102 0.4 三角 0.020 1.0346 1.0264 1.9444×10 02 0.200 0.002 1.0315 1.0332 9.6471×102 0.2 0.40.60.81.0 小波0.020 1.0325 1.0327 1.1270x10 图510城市TSP问题的最短路径 0.200 Fig.5 The optimal distance of 10 city TSP 由表1、2仿真实验可知，当扰动系数y为 在FCSCNN模型中，选取参数如下：k=1, O(无扰动)时，FCSCNN模型均具有很好的全局寻 0=0.05,=0.05,e=0.05,1=0.65,(0)=0.8,A(0)=0.4, 优性能，找到了全局最优解；当扰动系数y为 2(0)=0.08,a=6,b=1,c=0.25,W=1,W2=1。随机初 0.002时，模型依然保持了较好的全局搜索能力， 始化神经元输出x的值，对比FCSCNN模型在不 能够比较接近全局最优解；当扰动系数y为0.02 同扰动和不同扰动系数下的组合优化能力，进行 时，模型的寻优能力均出现明显下降。由于扰动 500次独立实验，每次网络演化1000步，实验结 系数y的增大，扰动项对模型的动力学演化过程 果如表3所示： 和混沌全局性能的影响越大。适当(y≤0.002)的 由表3可知，带扰动的FCSCNN模型在解决 扰动系数下，网络可以保持全局寻优能力，当扰 10城市旅行商问题时：三角扰动系数y小于 动项过大（≥0.2），会影响甚至破坏模型的寻优水 0.005的情况下，合法路径比率均在95%以上，最 平。为了更好地验证实验结果，选择复杂的组合 优路径比率均在88%以上；小波扰动系数y小于 优化问题进一步实验分析。 0.01的情况下，合法比均在96%以上，最优比均 3.2在组合优化中的应用 在90%以上。可认为适当的扰动对网络模型的 旅行商(traveling salesman problem,TSP)问题 混沌全局寻优能力影响不大。但是随着扰动系数 描述如下： 的增大，合法比和最优比均呈下降趋势，扰动项 假定有N个城市，给出它们的位置和相互距 的影响过大时，甚至失去寻优能力。同时，当前 离，要求寻找一条闭合路径，每个城市仅且被访问 的扰动参数下，FCSCNN模型对Morlet小波扰动 一次，回到起始城市，要求这条路径的距离最短。 的鲁棒性比三角函数扰动要好
优化函数 2： f (x1 , x2) = 100( x 2 1 − x2 )2 +(x1 −1) 2 (23) 函数 f 的最小值为 0，最小值点为 (1, 1)。最 优解位于一个平滑、狭长的抛物线形山谷内，函 数为优化算法提供的信息比较有限。传统梯度下 降法方向几乎与最小值的最佳方向垂直，很难辨 别搜索方向，查找最优解变得十分困难。在 FCSCNN 模型中，选取参数如下：k=1, α=1.0×10– 5 , β=0.01, ε 1=8.0×10– 4 , I 0=0.65, z 1 (0)=z 2 (0)=0.8, A(0)=0.4, ε2 (0) =0.08, a=6, b=1, c=0.25。随机初始 化神经元输出 x 1、x 2 的值，扰动系数 γ 分别取 0.002、0.02 和 0.2。对比 FCSCNN 模型在不同扰 动和不同扰动系数下的函数优化能力，进行 10 次 独立实验取均值，每次网络演化 5 000 步，实验结 果如表 2 所示： 表 2 带扰动 FCSCNN 求解函数 2 优化问题结果 Table 2 The optimization results of the FCSCNN with disturbances for function 2 扰动 γ x1 x2 E 无 0.000 0.988 29 0.976 68 1.372 7×10–4 三角 0.002 1.029 5 1.028 9 9.677 3×10–2 0.020 1.034 6 1.026 4 1.944 4×10–1 0.200 — — — 小波 0.002 1.031 5 1.033 2 9.647 1×10–2 0.020 1.032 5 1.032 7 1.127 0×10–1 0.200 — — — 由表 1、2 仿真实验可知，当扰动系数 γ 为 0(无扰动) 时，FCSCNN 模型均具有很好的全局寻 优性能，找到了全局最优解；当扰动系数 γ 为 0.002 时，模型依然保持了较好的全局搜索能力， 能够比较接近全局最优解；当扰动系数 γ 为 0.02 时，模型的寻优能力均出现明显下降。由于扰动 系数 γ 的增大，扰动项对模型的动力学演化过程 和混沌全局性能的影响越大。适当 (γ≤0.002) 的 扰动系数下，网络可以保持全局寻优能力，当扰 动项过大 (γ≥0.2)，会影响甚至破坏模型的寻优水 平。为了更好地验证实验结果，选择复杂的组合 优化问题进一步实验分析。 3.2 在组合优化中的应用 旅行商 (traveling salesman problem, TSP) 问题 描述如下： 假定有 N 个城市，给出它们的位置和相互距 离，要求寻找一条闭合路径，每个城市仅且被访问 一次，回到起始城市，要求这条路径的距离最短。 问题对应的目标函数[14] 为 E = W1 2 ∑N i=1 ∑N j=1 xi j −1 2 + ∑N j=1 ∑N i=1 xi j −1 2 + W2 2 ∑N i=1 ∑N j=1 ∑N k=1 ( xk, j+1 + xk, j−1 ) xi jdik (24) 式中：xij 为神经元的输出，它表示城市 i 于第 j 个 被访问；W1 和 W2 分别为与约束和关于路径长度 的代价函数对应的耦合系数；dij 为城市 i 和城市 j 之间的距离。 选取 10 个城市归一化后的坐标，取值分别 为：(0.400 0, 0.443 9)，(0.243 9, 0.146 3)，(0.170 7, 0.229 3)，(0.229 3, 0.716 0)，(0.517 1, 0.941 4)，(0.873 2, 0.653 6)，(0.687 8, 0.521 9)，(0.848 8, 0.360 9)，(0.668 3, 0.253 6)，(0.619 5, 0.263 4)。该 10 个城市 TSP 问题 满足条件最短路径长度为 2.677 6[14] ，最优路径如 图 5 所示。 0 0.2 0.4 0.6 0.8 1.0 0.2 0.4 0.6 0.8 1.0 1 2 3 4 5 6 7 8 10 9 X Y 图 5 10 城市 TSP 问题的最短路径 Fig. 5 The optimal distance of 10 city TSP 在 FCSCNN 模型中，选取参数如下： k=1, α=0.05, β=0.05, ε1=0.05, I0=0.65, z(0)=0.8, A(0)=0.4, ε2 (0)=0.08, a=6, b=1, c=0.25, W1=1, W2=1。随机初 始化神经元输出 xij 的值，对比 FCSCNN 模型在不 同扰动和不同扰动系数下的组合优化能力，进行 500 次独立实验，每次网络演化 1 000 步，实验结 果如表 3 所示： 由表 3 可知，带扰动的 FCSCNN 模型在解决 1 0 城市旅行商问题时：三角扰动系 数 γ 小 于 0.005 的情况下，合法路径比率均在 95% 以上，最 优路径比率均在 88% 以上；小波扰动系数 γ 小于 0.01 的情况下，合法比均在 96% 以上，最优比均 在 90% 以上。可认为适当的扰动对网络模型的 混沌全局寻优能力影响不大。但是随着扰动系数 的增大，合法比和最优比均呈下降趋势，扰动项 的影响过大时，甚至失去寻优能力。同时，当前 的扰动参数下，FCSCNN 模型对 Morlet 小波扰动 的鲁棒性比三角函数扰动要好。 第 4 期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·497·
·498· 智能系统学报 第13卷 表3带扰动FCSCNN求解10城市TSP问题结果 化神经元输出xg的值，对比FCSCNN模型在不同 Table 3 The optimization results of the FCSCNN with dis- 扰动和不同扰动系数下的组合优化能力，进行 turbances for 10 city TSP 200次独立实验，每次网络演化10000步，实验结 扰动 NLP NOP RLP/%RGM/ 果如表4所示： 无 0.000 500 482 100 96.4 表4带扰动FCSCNN求解30城市TSP问题结果 0.002 480 466 96.0 93.2 Table 4 The optimization results of the FCSCNN with dis- 0.005 476 440 95.2 88.0 turbances for 30 city TSP 三角 0.010 453 412 90.6 82.4 扰动 NLP NOP RLP/ RGM/ 0.020 432 282 86.4 56.4 无 0.000 193 6 96.5 30.5 0.200 0.002 141 52 70.5 26.0 0.002 493 476 98.6 95.2 0.005 122 29 61.0 14.5 三角 0.005 484 467 96.8 93.4 0.010 114 14 57.0 7.00 小波 0.010 485 459 97.0 91.8 0.020 42 20.0 2.50 0.020 472 404 94.4 80.8 0.002 146 56 73.0 28.0 0.200 467 43 93.4 8.60 0.005 135 49 67.5 24.5 小波 注：合法路径数(number of legitimate path,NLP)、最优路径数 0.010 102 38 51.0 19.0 (number of optimal path,NOP)、合r法比率(rate of legitimate 0.020 78 31 39.0 15.5 path,RLP)、最优比率(rate of global minima,RGM)。 由表4可知，30城市的旅行商问题具有更高 选取30个城市归一化后的坐标，取值分别 的复杂度，需要更多的演化步数，这也是TCNN 为：(0.41,0.94)，(0.37,0.84)，(0.54,0.67)，(0.25， 类模型在解决不同问题时需要不同的参数搭配的 0.62),(0.07,0.64),(0.02,0.99),(0.68,0.58),(0.71, 原因。三角扰动系数y小于0.002的情况下，合法 0.44),(0.54,0.62),(0.83,0.69),(0.64,0.60),(0.18, 路径比率均在70%以上，最优路径比率均在25% 0.54),(0.22,0.60),(0.83,0.46),(0.91,0.38),(0.25, 以上；小波扰动系数y小于0.005的情况下，合法 0.38),(0.24,0.42),(0.58,0.69),(0.71,0.71),(0.74, 比均在65%以上，最优比均在20%以上。同样的 0.78),(0.87,0.76),(0.18,0.40),(0.13,0.40),(0.82, 可认为较小的扰动对网络模型的混沌全局寻优能 0.07),(0.62,0.32),(0.58,0.35),(0.45,0.21),(0.41, 力影响不大。在适当扰动强度内，网络表现出一 0.26),(0.44,0.35),(0.04,0.50)。该30个城市 定的抗扰动能力。 TSP问题满足条件最短路径长度为4.237406， 最优路径如图6所示。 4结束语 1.0 为了验证的具有非线性激励函数且比标准的 0.9 0.8 暂态混沌神经元模型具有更丰富混沌动力学特性 0.7 29 的新型混沌神经网络模型一FCSCNN的抗扰动 0.6 能力，在该模型内部状态中分别引入三角函数和 0.5 0.4 249 小波函数扰动项，分析带扰动的FC$混沌神经元 0.3 模型的动力学特性。通过神经元倒分岔图和最 0.2 0.1 大Lyapunov指数图可知，扰动的引入会影响网络 00.10.20.30.40.50.60.70.80.91.0 模型的动力学演化过程，进而会对全局寻优性能 产生影响。通过函数优化和组合优化问题的仿真 图630城市TSP归一化坐标的最短路径 实验，证实了这种影响会随着扰动系数的增大而 Fig.6 The optimal distance of 30 city TSP 增加，但一定范围内，FCSCNN模型对三角扰动 在FCSCNN模型中，选取参数如下：k=l,a= 和Morlet扰动均具有一定鲁棒性和抗扰动能力， 0.006,=0.001,e=0.04,1。=0.65,0)=0.8,A0)=0.4, 选取合适的模型参数，依然可以保持较好的全局 c(0)=-0.08,a=6,b=1,c-0.25,W=1,W=1。随机初始 搜索能力，获得最优解
表 3 带扰动 FCSCNN 求解 10 城市 TSP 问题结果 Table 3 The optimization results of the FCSCNN with disturbances for 10 city TSP 扰动 γ NLP NOP RLP/% RGM/% 无 0.000 500 482 100 96.4 三角 0.002 480 466 96.0 93.2 0.005 476 440 95.2 88.0 0.010 453 412 90.6 82.4 0.020 432 282 86.4 56.4 0.200 — — — — 小波 0.002 493 476 98.6 95.2 0.005 484 467 96.8 93.4 0.010 485 459 97.0 91.8 0.020 472 404 94.4 80.8 0.200 467 43 93.4 8.60 注：合法路径数(number of legitimate path, NLP)、最优路径数 (number of optimal path, NOP)、合法比率(rate of legitimate path, RLP)、最优比率(rate of global minima, RGM)。 选取 30 个城市归一化后的坐标，取值分别 为：(0.41, 0.94)，(0.37, 0.84)，(0.54, 0.67)，(0.25, 0.62)，(0.07, 0.64)，(0.02, 0.99)，(0.68, 0.58)，(0.71, 0.44)，(0.54, 0.62)，(0.83, 0.69)，(0.64, 0.60)，(0.18, 0.54)，(0.22, 0.60)，(0.83, 0.46)，(0.91, 0.38)，(0.25, 0.38)，(0.24, 0.42)，(0.58, 0.69)，(0.71, 0.71)，(0.74, 0.78)，(0.87, 0.76)，(0.18, 0.40)，(0.13, 0.40)，(0.82, 0.07)，(0.62, 0.32)，(0.58, 0.35)，(0.45, 0.21)，(0.41, 0.26)，(0.44, 0.35)，(0.04, 0.50)。该 30 个城市 TSP 问题满足条件最短路径长度为 4.237 406[6] ， 最优路径如图 6 所示。 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 29 28 30 X Y 图 6 30 城市 TSP 归一化坐标的最短路径 Fig. 6 The optimal distance of 30 city TSP 在 FCSCNN 模型中，选取参数如下: k=1, α= 0.006, β=0.001, ε1=0.04, I0=0.65, z(0)=0.8, A(0)=0.4, ε2 (0) =0.08, a=6, b=1, c=0.25,W1=1,W2=1。随机初始 化神经元输出 xij 的值，对比 FCSCNN 模型在不同 扰动和不同扰动系数下的组合优化能力，进行 200 次独立实验，每次网络演化 10 000 步，实验结 果如表 4 所示： 表 4 带扰动 FCSCNN 求解 30 城市 TSP 问题结果 Table 4 The optimization results of the FCSCNN with disturbances for 30 city TSP 扰动 γ NLP NOP RLP/% RGM/% 无 0.000 193 61 96.5 30.5 三角 0.002 141 52 70.5 26.0 0.005 122 29 61.0 14.5 0.010 114 14 57.0 7.00 0.020 42 5 20.0 2.50 小波 0.002 146 56 73.0 28.0 0.005 135 49 67.5 24.5 0.010 102 38 51.0 19.0 0.020 78 31 39.0 15.5 由表 4 可知，30 城市的旅行商问题具有更高 的复杂度，需要更多的演化步数，这也是 TCNN 类模型在解决不同问题时需要不同的参数搭配的 原因。三角扰动系数 γ 小于 0.002 的情况下，合法 路径比率均在 70% 以上，最优路径比率均在 25% 以上；小波扰动系数 γ 小于 0.005 的情况下，合法 比均在 65% 以上，最优比均在 20% 以上。同样的 可认为较小的扰动对网络模型的混沌全局寻优能 力影响不大。在适当扰动强度内，网络表现出一 定的抗扰动能力。 4 结束语 为了验证的具有非线性激励函数且比标准的 暂态混沌神经元模型具有更丰富混沌动力学特性 的新型混沌神经网络模型—FCSCNN 的抗扰动 能力，在该模型内部状态中分别引入三角函数和 小波函数扰动项，分析带扰动的 FCS 混沌神经元 模型的动力学特性。通过神经元倒分岔图和最 大 Lyapunov 指数图可知，扰动的引入会影响网络 模型的动力学演化过程，进而会对全局寻优性能 产生影响。通过函数优化和组合优化问题的仿真 实验，证实了这种影响会随着扰动系数的增大而 增加，但一定范围内，FCSCNN 模型对三角扰动 和 Morlet 扰动均具有一定鲁棒性和抗扰动能力， 选取合适的模型参数，依然可以保持较好的全局 搜索能力，获得最优解。 ·498· 智 能 系 统 学 报 第 13 卷
第4期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·499· 参考文献： mechanics,2012,61:21-32 [12]韩广，乔俊飞，韩红桂，等.基于Hopfield神经网络的污 [1]HOPFIELD JJ,TANK D W."Neural"computation of de- 水处理过程优化控制).控制与决策，2014,29(11)： cisions in optimization problems[J].Biological cybernetics, 2085-2088. 1985,52(3):141-152. HAN Guang,QIAO Junfei,HAN Honggui,et al.Optimal [2]WANG Jiahai,CAI Yigiao,YIN Jian.Multi-start stochast- control for waste-water treatment process based on Hop- ic competitive Hopfield neural network for frequency as- field neural network[J].Control and decision,2014, signment problem in satellite communications[J].Expert 29(11):2085-2088. systems with applications,2011,38(1):131-145 [13]CHEN SS.Chaotic simulated annealing by a neural net- [3]CHEN Luonan,AIHARA K.Chaotic simulated annealing work with a variable delay:design and application[J]. by a neural network model with transient chaos[J].Neural IEEE transactions on neural networks,2011,22(10): networks,1997,8(6):915-930. 1557-1565. [4]ZHANG Jiahai,XU Yaoqun.Wavelet chaotic neural net- [14]GARCIA L,TALAVAN P M,YANEZ J.Improving the works and their application to continuous function optimiz- Hopfield model performance when applied to the travel- ation[J].Natural science,2009,1(3):204-209. ing salesman problem[J].Soft computing,2017,21(14): [5]LIU Xiangdong,XIU Chunbo.A novel hysteretic chaotic 3891-3905 neural network and its applications[J].Neurocomputing, 作者简介： 2007,70(13/14/15):2561-2565. 胡志强，男，1988年生，博士研究 [6]ZHAO Lin,SUN Ming,CHENG Jianhua,et al.A novel 生，主要研究方向为混沌动力学、混沌 chaotic neural network with the ability to characterize loc- 神经网络、污水处理建模与仿真、智能 al features and its application[J].IEEE transactions on 优化算法。发表学术论文6篇，其中 neural networks,2009,20(4):735-742 被SCI收录2篇，EI收录2篇。 [7]胡志强，李文静，乔俊飞.变频正弦混沌神经网络及其应 用[.物理学报，2017,66(9)：090502. HU Zhiqiang,LI Wenjing,QIAO Junfei.Frequency con- 李文静，女，1985年生，讲师，博 version sinusoidal chaotic neural network and its applica- 士。主要研究方向为神经计算、人工 tion[J].Acta physica sinica,2017,66(9):090502. 神经网络、模式识别。申请美国发明 [8]HSU CC.GOBOVIC D.ZAGHLOUL M E.et al.Chaotic 专利1项。作为项目负责人先后获得 neuron models and their VLSI circuit implementations[J]. 国家自然科学基金青年项目、中国博 士后第57批面上资助、北京市博士后 IEEE transactions on neural networks,1996,7(6): 科研活动经费资助。近五年来，发表 1339-1350. 学术论文10余篇，其中SCI收录8篇。 [9]SHUAI Jianwei,CHEN Zhenxiang,LIU Riutang,et al. Self-evolution neural model[J].Physics letters A,1996. 乔俊飞，男，1968年生，教授，博士生 221(5):311-316. 导师。中国人工智能学会科普工作委 员会主任，中国自动化学会理事，主要 [10]POTAPOV A,ALI M K.Robust chaos in neural net- 研究方向为智能信息处理、智能控制 works[J].Physics letters A,2000,277(6):310-322 理论与应用。获教育部科技进步奖 [11]SIH G C.TANG KK.Sustainable reliability of brain 等奖和北京市科学技术奖三等奖各 rhythms modeled as sinusoidal waves with frequency- 1项。获得发明专利20余项。发表学 amplitude trade-off]].Theoretical and applied fracture 术论文100余篇，其中被SCI收录20余篇，EI收录60余篇
参考文献： HOPFIELD J J, TANK D W. “Neural” computation of decisions in optimization problems[J]. Biological cybernetics, 1985, 52(3): 141–152. [1] WANG Jiahai, CAI Yiqiao, YIN Jian. Multi-start stochastic competitive Hopfield neural network for frequency assignment problem in satellite communications[J]. Expert systems with applications, 2011, 38(1): 131–145. [2] CHEN Luonan, AIHARA K. Chaotic simulated annealing by a neural network model with transient chaos[J]. Neural networks, 1997, 8(6): 915–930. [3] ZHANG Jiahai, XU Yaoqun. Wavelet chaotic neural networks and their application to continuous function optimization[J]. Natural science, 2009, 1(3): 204–209. [4] LIU Xiangdong, XIU Chunbo. A novel hysteretic chaotic neural network and its applications[J]. Neurocomputing, 2007, 70(13/14/15): 2561–2565. [5] ZHAO Lin, SUN Ming, CHENG Jianhua, et al. A novel chaotic neural network with the ability to characterize local features and its application[J]. IEEE transactions on neural networks, 2009, 20(4): 735–742. [6] 胡志强, 李文静, 乔俊飞. 变频正弦混沌神经网络及其应 用 [J]. 物理学报, 2017, 66(9): 090502. HU Zhiqiang, LI Wenjing, QIAO Junfei. Frequency conversion sinusoidal chaotic neural network and its application[J]. Acta physica sinica, 2017, 66(9): 090502. [7] HSU C C, GOBOVIC D, ZAGHLOUL M E, et al. Chaotic neuron models and their VLSI circuit implementations[J]. IEEE transactions on neural networks, 1996, 7(6): 1339–1350. [8] SHUAI Jianwei, CHEN Zhenxiang, LIU Riutang, et al. Self-evolution neural model[J]. Physics letters A, 1996, 221(5): 311–316. [9] POTAPOV A, ALI M K. Robust chaos in neural networks[J]. Physics letters A, 2000, 277(6): 310–322. [10] SIH G C, TANG K K. Sustainable reliability of brain rhythms modeled as sinusoidal waves with frequency– amplitude trade-off[J]. Theoretical and applied fracture [11] mechanics, 2012, 61: 21–32. 韩广, 乔俊飞, 韩红桂, 等. 基于 Hopfield 神经网络的污 水处理过程优化控制 [J]. 控制与决策, 2014, 29(11): 2085–2088. HAN Guang, QIAO Junfei, HAN Honggui, et al. Optimal control for waste-water treatment process based on Hopfield neural network[J]. Control and decision, 2014, 29(11): 2085–2088. [12] CHEN S S. Chaotic simulated annealing by a neural network with a variable delay: design and application[J]. IEEE transactions on neural networks, 2011, 22(10): 1557–1565. [13] GARCÍA L, TALAVÁN P M, YÁÑEZ J. Improving the Hopfield model performance when applied to the traveling salesman problem[J]. Soft computing, 2017, 21(14): 3891–3905. [14] 作者简介： 胡志强，男，1988 年生，博士研究 生，主要研究方向为混沌动力学、混沌 神经网络、污水处理建模与仿真、智能 优化算法。发表学术论文 6 篇，其中 被 SCI 收录 2 篇，EI 收录 2 篇。 李文静，女，1985 年生，讲师，博 士。主要研究方向为神经计算、人工 神经网络、模式识别。申请美国发明 专利 1 项。作为项目负责人先后获得 国家自然科学基金青年项目、中国博 士后第 57 批面上资助、北京市博士后 科研活动经费资助。近五年来，发表 学术论文 10 余篇，其中 SCI 收录 8 篇。 乔俊飞,男,1968 年生,教授,博士生 导师。中国人工智能学会科普工作委 员会主任,中国自动化学会理事,主要 研究方向为智能信息处理、智能控制 理论与应用。获教育部科技进步奖一 等奖和北京市科学技术奖三等奖各 1 项。获得发明专利 20 余项。发表学 术论文 100 余篇,其中被 SCI 收录 20 余篇,EI 收录 60 余篇。 第 4 期 胡志强，等：带扰动的变频正弦混沌神经网络研究 ·499·