θ(x)则是神经元x的激发门限值.在神经元只取0或1(抑制或激发)两种状态时,乘积 v(x,y)h(y)是神经元y对神经元x的作用力,g为门限函数,它是对自变量的总相互作用 超过门限的部分起的作用,其中的和号取遍一切对于神经元x有相互作用的神经元y的全 体. 3.3随机的人工神经网络 3.3.1一般概念 在随机的神经网络中,下一层神经元x被激发的概率取为 B-h(r) p(x) (15.14) 显见在h(x)越大处,p(x)也越大,即该处的神经元x被激发的概率越大.随机的神经网 络与相互作用粒子的随机系统非常类似,它的运转是一个 Markov链 随机因素的加入,在下面的递归网络中能起控制计算进行方向的稳定作用 3.3.2递归(或反馈)( recurrent)网络与 Boltzman机 递归( recurrent)网络也称为反馈网络,它实际上是以全体神经元所处的状态(称为一 个组态)为变元的一个动力系统,因而也具有反馈的连接.在数学上反馈提供了迭代的功能 所以,同样作为离散动力系统,递归网络比前传网络具有更大的非线性功能,因而有更强大 的应用潜力.递归网络也可以是决定性的,也可以是随机的.随机情形的网络,是按一个随 机的规则发展的,因此,全体神经元所处的状态的时间发展,就是一个 Markov链 1. Hopfield网络 Hopfield把网络与吸引子联系起来,由此给出了一种联想记忆的模型,并给出了一种 学习方法,通过学习训练确定网络连接参数,以能够使它达到所希望有的功能. Hopfield 网络是一种典型的递归网络.它源自人脑机制的研究. Hopfield提出这种网络是希望用数 学模型仿真人脑的功能.这种网络具有反馈的连接,相当于一个离散的动力系统.它不像前 传网络那样简单地对输入与输出的关系感兴趣.决定性的 Hopfield网络,一般地没有输入 与输出,在给定初值后,就可以通过网络的运转不断地自动更新,最后落到网络系统的某些 不变集上.在这意义下可以说并没有真正的输出,但是可以通过某些手段观测到它的自动更 新的进程 (1)决定性的 Hopfield网络 神经网络是一个由N个神经元彼此由相互作用而联结在一起的一个系统,整个系统在 协同工作下产生一个总体效应. Hopfield网络的总体效应,是提供记忆的数学模型,即联 想记忆模型.设每个神经元可以取-1与+1两个状态之一,其中-1代表该神经元处于抑制 态,+1代表该神经元处于激发态。把N个神经元处的整体所处的状态的全体记为X,即 X={(x1…,xx):x1=-1或+1,(i≤N)} 设神经网络对神经元x的总相互作用是(它是(15.13)的特殊情形) y=g∑x4-0,), (15.13) 其中与神经元i相连接的神经元k有一个连接系数wk,并且假定满足w= 427427 q( x) 则是神经元 x 的激发门限值. 在神经元只取０或１（抑制或激发）两种状态时, 乘积 w( x, y)h( y) 是神经元 y 对神经元 x 的作用力, g 为门限函数, 它是对自变量的总相互作用 超过门限的部分起的作用, 其中的和号取遍一切对于神经元 x 有相互作用的神经元 y 的全 体. ３．３ 随机的人工神经网络 3.3.1 一般概念 在随机的神经网络中, 下一层神经元 x 被激发的概率取为 å × × = x h x h x e e p x ( ) ( ) ( ) b b , b > 0 . (15. 14) 显见在h(x) 越大处, p( x) 也越大, 即该处的神经元 x 被激发的概率越大. 随机的神经网 络与相互作用粒子的随机系统非常类似, 它的运转是一个 Markov 链. 随机因素的加入, 在下面的递归网络中能起控制计算进行方向的稳定作用. 3.3.2 递归(或反馈)(recurrent)网络与 Boltzman 机 递归( recurrent )网络也称为反馈网络, 它实际上是以全体神经元所处的状态(称为一 个组态)为变元的一个动力系统, 因而也具有反馈的连接. 在数学上反馈提供了迭代的功能, 所以, 同样作为离散动力系统, 递归网络比前传网络具有更大的非线性功能, 因而有更强大 的应用潜力. 递归网络也可以是决定性的, 也可以是随机的. 随机情形的网络, 是按一个随 机的规则发展的, 因此, 全体神经元所处的状态的时间发展, 就是一个 Markov 链. １．Hopfield 网络 Hopfield 把网络与吸引子联系起来, 由此给出了一种联想记忆的模型, 并给出了一种 学习方法, 通过学习训练确定网络连接参数, 以能够使它达到所希望有的功能. Hopfield 网络是一种典型的递归网络. 它源自人脑机制的研究. Hopfield 提出这种网络是希望用数 学模型仿真人脑的功能. 这种网络具有反馈的连接, 相当于一个离散的动力系统. 它不像前 传网络那样简单地对输入与输出的关系感兴趣. 决定性的 Hopfield 网络, 一般地没有输入 与输出, 在给定初值后, 就可以通过网络的运转不断地自动更新, 最后落到网络系统的某些 不变集上. 在这意义下可以说并没有真正的输出, 但是可以通过某些手段观测到它的自动更 新的进程. (1) 决定性的 Hopfield 网络 神经网络是一个由 N 个神经元彼此由相互作用而联结在一起的一个系统，整个系统在 协同工作下产生一个总体效应. Hopfield 网络的总体效应, 是提供记忆的数学模型, 即联 想记忆模型. 设每个神经元可以取 - 1与+ 1两个状态之一，其中- 1代表该神经元处于抑制 态，+ 1代表该神经元处于激发态。把 N 个神经元处的整体所处的状态的全体记为 X , 即 {( , , ) : 1 1,( )} X = x1 L xN xi = - 或 + i £ N . 设神经网络对神经元 x 的总相互作用是(它是(15. 13) 的特殊情形) sgn( ) 1 ik k i N k yi = å w x - q = , (15. 13)’ 其中与神经元i 相连接的神经元k 有一个连接系数 wik , 并且假定满足wik = wki