正在加载图片...
而联想回忆阶段则是网络的工作过程。此时,当给定网络某一输入模式,网络能够通过自身 的动力学状态演化过程最终达到稳定的平衡点,从而实现自联想或异联想回忆。 反馈网络有两种基本的工作方式:串行异步和并行同步方式。 1)串行异步方式:任意时刻随机地或确定性地选择网络中的一个神经元进行状态更新 而其余神经元的状态保持不变 2)并行同步方式:任意时刻网络中部分神经元(比如同一层的神经元的状态同时更新 如果任意时刻网络中全部神经元同时进行状态更新,那么称之为全并行同步方式 对于s个神经元的反馈网络DHNN有2个状态的可能性。其输出状态是一个包含-1或 1(0或1)的矢量,每一时刻网络将处于某一种状态下。当网络状态的更新变化采用随机异步 策略,即随机地选择下一个要更新的神经元,且允许所有神经元具有相同的平均变化概率 在状态更新过程中,包括三种情况:由-1变为1:由1变为1及状态保持不变。在任一时刻, 网络中只有一个神经元被选择进行状态更新或保持,所以异步状态更新的网络从某一初态开 始需经过多次更新状态后才可以达到某种稳态。这种更新方式的特点是:实现上容易,每个 神经元有自己的状态更新时刻,不需要同步机制;另外,功能上的串行状态更新可以限制网 络的输出状态,避免不同稳态等概率的出现;再者,异步状态更新更接近实际的生物神经系 统的表现。 7.3.3DHNN的海布(Hebb)学习规则 在DHNN的网络训练过程中,运用的是海布调节规则:当神经元输入与输出节点的状 态相同(即同时兴奋或抑制)时,从第j个到第i个神经元之间的连接强度则增强,否则则减 弱。海布法则是一种无指导的死记式学习算法。 离散型霍普菲尔德网络的学习目的,是对具有q个不同的输入样本组Pxq=[Pl, P,希望通过调节计算有限的权值矩阵W,使得当每一组输入样本P,k=1,2,…,q 作为系统的初始值,经过网络的工作运行后,系统能够收敛到各自输入样本矢量本身。当k 1时,对于第ⅰ个神经元,由海布学习规则可得网络权值对输入矢量的学习关系式为: Wii =a p pi 其中,a>0,i=1,2…,r;j=1,2…,r。在实际学习规则的运用中,一般取a=1 或1/r。(7.2)式表明了海布调节规则:神经元输入P与输出A的状态相同(即同时为正或为8 而联想回忆阶段则是网络的工作过程。此时,当给定网络某一输入模式,网络能够通过自身 的动力学状态演化过程最终达到稳定的平衡点,从而实现自联想或异联想回忆。 反馈网络有两种基本的工作方式:串行异步和并行同步方式。 1)串行异步方式:任意时刻随机地或确定性地选择网络中的一个神经元进行状态更新, 而其余神经元的状态保持不变; 2)并行同步方式:任意时刻网络中部分神经元(比如同一层的神经元)的状态同时更新。 如果任意时刻网络中全部神经元同时进行状态更新,那么称之为全并行同步方式。 对于 s 个神经元的反馈网络 DHNN 有 2 s 个状态的可能性。其输出状态是一个包含-1 或 1(0 或 1)的矢量,每一时刻网络将处于某一种状态下。当网络状态的更新变化采用随机异步 策略,即随机地选择下一个要更新的神经元,且允许所有神经元具有相同的平均变化概率。 在状态更新过程中,包括三种情况:由-1 变为 1;由 1 变为-1 及状态保持不变。在任一时刻, 网络中只有一个神经元被选择进行状态更新或保持,所以异步状态更新的网络从某一初态开 始需经过多次更新状态后才可以达到某种稳态。这种更新方式的特点是:实现上容易,每个 神经元有自己的状态更新时刻,不需要同步机制;另外,功能上的串行状态更新可以限制网 络的输出状态,避免不同稳态等概率的出现;再者,异步状态更新更接近实际的生物神经系 统的表现。 7.3.3 DHNN 的海布(Hebb)学习规则 在 DHNN 的网络训练过程中,运用的是海布调节规则:当神经元输入与输出节点的状 态相同(即同时兴奋或抑制)时,从第 j 个到第 i 个神经元之间的连接强度则增强,否则则减 弱。海布法则是一种无指导的死记式学习算法。 离散型霍普菲尔德网络的学习目的,是对具有 q 个不同的输入样本组 Pr×q=[P1 , P2 … P q ],希望通过调节计算有限的权值矩阵 W,使得当每一组输入样本 P k,k=1,2,…,q, 作为系统的初始值,经过网络的工作运行后,系统能够收敛到各自输入样本矢量本身。当 k =1 时,对于第 i 个神经元,由海布学习规则可得网络权值对输入矢量的学习关系式为: (7.2) 其中,α>0,i=1,2…,r;j=1,2…,r。在实际学习规则的运用中,一般取α=1 或 1/r。(7.2)式表明了海布调节规则:神经元输入 P 与输出 A 的状态相同(即同时为正或为
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有