正在加载图片...
·216 智能系统学报 第9卷 记忆阶段的完成应该形成网络的连接权值矩阵。假 二值符号函数。 设基于NW小世界网络的联想记忆模型中有N个 当网络状态按照式(4)不断演化到达稳定状态 神经元,它的连接矩阵可以用C={c}来表示,如果 时,定义参数R为 神经元i到j之间存在一个连接,那么c=1,如果不 存在连接,c,=0,最终得到表示模型存在连接关系 ∑∑Eg i=1j=1 R= (5) 的矩阵C: 0,i,j存在连接 c= 1,i,j不存在连接 式(5)表示得到的输出模式'与已存储模式专 Ca=0,c=C片 (1) 的相似度,可以用来作为衡量模型联想记忆性能和 设网络待记忆的M个N维模式为:”= 抗干扰能力的指标。 […],u=1,2,…,M,∈{-1,1} 3 仿真与分析 假设模型为全互联Hopfield网络,使用Hebb学 为了验证引入NW小世界网络来代替WS小世 习规则来确定模型的权值矩阵W={w:},且w:=0, ",=0行,权值可以表示为 界网络后模型的性能得到了提高,给出如下2个实 验进行分析。分别讨论NWAM与WSAM关于不同 L支≠i 参数联想记忆性能的对比,以及2种模型同时用于 0= (2) 含噪交通标志图像识别时的效果对比。 0,j=i 为了表示理解,将原始交通图像作为以存储模 由式(1)、(2),通过重连概率p确定NW小世 式,最终识别图像为输出模式',因此参数R可 界网络的连接矩阵,进一步利用其对模型的权值矩 以表示图像的相似程度,定义为图像的重复度。 阵W={0,}进行化简,可得出基于NW小世界网络 实验1NWAM与WSAM联想记忆性能对比 的联想记忆模型的连接权值矩阵W°: 分析。 w=w·C=∑ (3) 1)考察模型在其他条件相同,重连概率p不同 N=1 的情况下模型的联想记忆性能。 2.2.2联想阶段 为了便于判断和分析,模型取神经元个数N= 联想阶段就是在已知权值矩阵的基础上构建网 2500,模式M=10,平均度K=50,全局连接度c= 络模型,然后将给定的模式输入到模型中进行处理, 0.02。比较NWAM和WSAM对随机加噪30%模 通过动力学演化最终达到稳定状态,回想起已存储 式的联想记忆能力。实验结果如图2所示。 的模式。 1.00r 当网络经过学习,得到了连接权值矩阵W·= 0.95 {0}后,模型的结构就确定了,由于模型是双向连 接,网络运行时,通过输入、输出间的反馈作用,实现 0.90 -0- 以 网络状态的演变,直至收敛到稳定状态为止。若给 0.85 定的输入为:,网络各神经元就处于特定的初始状 题0.80 态,经网络的作用,可以得到下一时刻网络的状态。 WSAM 然后通过反馈作用,可得下一时刻的输人信号,依次 0.75 -o NWAM 反复演变。网络的状态通过反馈作用不断地如此演 0.70 0 0.2 0.40.60.81.0 化,随着演化的不断进行,网络状态的变化将不断减 重连概率p 少,直至达到稳定状态。 图2不同重连概率下,2种模型记忆性能比较 假设有一组待记忆的N维模式列向量“,“= Fig.2 Simulation results of NWAM and {1,2,…,M,专”为任意输入模式,'为“的下一 WSAM with different probabilities 个状态,网络的动力学演化方程为 实验结果显示,在其他条件相同的情况下,当重 eu'=sgn(W'gu) (4) 连概率p不断增加时,2种模型的联想记忆性都能 式中:w=wC=名Σ行,这里w为基于小 得到极大的改善,但是NWAM的性能提高的程度要 N 明显高于WSAM,在任意相同概率p下,NWAM对 世界体系的联想记忆模型的连接权矩阵,sg(·)为 加噪模式联想记忆的性能都要优于WSAM,而且记忆阶段的完成应该形成网络的连接权值矩阵。 假 设基于 NW 小世界网络的联想记忆模型中有 N 个 神经元,它的连接矩阵可以用 C = {cij}来表示,如果 神经元 i 到 j 之间存在一个连接,那么 cij = 1,如果不 存在连接,cij = 0,最终得到表示模型存在连接关系 的矩阵 C: cij = 0,i,j 存在连接 {1,i,j 不存在连接 cii = 0,cij = cji (1) 设网 络 待 记 忆 的 M 个 N 维 模 式 为: ξ μ = ξ μ 1 ξ μ 2 … ξ μ N [ ] T , μ = 1,2,…,M, ξ μ ∈ { - 1,1} 假设模型为全互联 Hopfield 网络,使用 Hebb 学 习规则来确定模型的权值矩阵 W= {wij},且 wii = 0, wij = wji ,权值可以表示为 wij = 1 N∑ M μ = 1 ξ μ i ξ μ j , j ≠ i 0, j = i ì î í ï ï ïï (2) 由式(1)、(2),通过重连概率 p 确定 NW 小世 界网络的连接矩阵,进一步利用其对模型的权值矩 阵 W = {wij} 进行化简,可得出基于 NW 小世界网络 的联想记忆模型的连接权值矩阵 W ∗ : W ∗ = W·C = cij N∑ M μ = 1 ξ μ i ξ μ j (3) 2.2.2 联想阶段 联想阶段就是在已知权值矩阵的基础上构建网 络模型,然后将给定的模式输入到模型中进行处理, 通过动力学演化最终达到稳定状态,回想起已存储 的模式。 当网络经过学习,得到了连接权值矩阵 W ∗ = w ∗ ij { }后,模型的结构就确定了,由于模型是双向连 接,网络运行时,通过输入、输出间的反馈作用,实现 网络状态的演变,直至收敛到稳定状态为止。 若给 定的输入为 ξi, 网络各神经元就处于特定的初始状 态,经网络的作用,可以得到下一时刻网络的状态。 然后通过反馈作用,可得下一时刻的输入信号,依次 反复演变。 网络的状态通过反馈作用不断地如此演 化,随着演化的不断进行,网络状态的变化将不断减 少,直至达到稳定状态。 假设有一组待记忆的 N 维模式列向量 ξ μ ,μ = {1,2,…,M}, ξ u 为任意输入模式, ξ u ′ 为 ξ u 的下一 个状态,网络的动力学演化方程为 ξ μ ′ = sgn(W ∗ ξ μ ) (4) 式中: W ∗ = W·C = cij N∑ M μ = 1 ξ μ i ξ μ j , 这里 W ∗为基于小 世界体系的联想记忆模型的连接权矩阵, sgn(·) 为 二值符号函数。 当网络状态按照式(4)不断演化到达稳定状态 时,定义参数 R 为 R = ∑ N i = 1 ∑ N j = 1 ξ μ ij ξ u ′ij ∑ N i = 1 ∑ N j = 1 ξ μ ij (5) 式(5)表示得到的输出模式 ξ′ 与已存储模式 ξ 的相似度,可以用来作为衡量模型联想记忆性能和 抗干扰能力的指标。 3 仿真与分析 为了验证引入 NW 小世界网络来代替 WS 小世 界网络后模型的性能得到了提高,给出如下 2 个实 验进行分析。 分别讨论 NWAM 与 WSAM 关于不同 参数联想记忆性能的对比,以及 2 种模型同时用于 含噪交通标志图像识别时的效果对比。 为了表示理解,将原始交通图像作为以存储模 式 ξ, 最终识别图像为输出模式 ξ′, 因此参数 R 可 以表示图像的相似程度,定义为图像的重复度。 实验 1 NWAM 与 WSAM 联想记忆性能对比 分析。 1)考察模型在其他条件相同,重连概率 p 不同 的情况下模型的联想记忆性能。 为了便于判断和分析,模型取神经元个数 N = 2 500,模式 M = 10,平均度 K = 50,全局连接度 c = 0.02。 比较 NWAM 和 WSAM 对随机加噪 30% 模 式的联想记忆能力。 实验结果如图 2 所示。 图 2 不同重连概率下,2 种模型记忆性能比较 Fig. 2 Simulation results of NWAM and WSAM with different probabilities 实验结果显示,在其他条件相同的情况下,当重 连概率 p 不断增加时,2 种模型的联想记忆性都能 得到极大的改善,但是 NWAM 的性能提高的程度要 明显高于 WSAM,在任意相同概率 p 下,NWAM 对 加噪模式联想记忆的性能都要优于 WSAM,而且 ·216· 智 能 系 统 学 报 第 9 卷
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有