△n(k)=n{d(k)-y(k)y,(k)=n·y,(k) 6=d(k)-y(k) 上式表明,两神经元之间的连接强度的变化量与教师信号d(k)和网络实际输出yi之差成正比。 3.有监督Hebb学习规则 将无监督Hebb学习规则和有监督学习规则两者结合起来,组成有监督Hebb学习规则,即 △wg(k)=n·{d(k)-y(k)y(k)·y(k)这种学习规则使神经元通过关联搜索对未知的 外界作出反应,即在教师信号d(k)-yi(k)的指导下,对环境信息进行相关学习和自组织,使相应的输出增 强或消弱。 52前向神经网络 521感知器网络 感知器是由美国计算机科学家罗森布拉特( F Roseblatt)于1957年提出的。感知器( Perceptron)是 个具有单层神经元的神经网络,并由线性阀值元件组成,是最简单的前向神经网络,它主要用于模式分类 感知器的输出值是通过测试加权输入和值落在阈值函数的左右来进行分类的,即有 ls.≥0 V,=f(S, ) 由感知器的网络结构,我们可以看出感知器的基本功能是将输入矢量转化成0或1的输出。 感知器利用其学习规则来调整网络的权值,以便使该网络对输人矢量的响应达到数值为0或1的目标 输出 感知器的学习是有指导的学习,其训练算法的基本原理来源于著名的Hebb学习规则。基本思想是:逐 步地将样本集中的样本输入到网络中,根据输出结果和理想输出之间的差别来调整网络中的权系数 感知器设计训练的步骤可总结如下 l)对于所要解决的问题,确定输入矢量Ⅹ,目标矢量D,并由此确定各矢量的维数以及确定网络结构大 小的神经元数目:r,s和q; 2)参数初始化: a赋给权矢量w在(-1,1)的随机非零初始值; b.给出最大训练循环次数max 3)网络表达式:根据输人矢量X以及最新权矢量W,计算网络输出矢量Y; 4)检査:检査输出矢量Y与目标矢量D是否相同,如果是,或已达最大循环次数,训练结束,否则转 5)学习:根据感知器的学习规则调整权矢量,并返回3) 5.22BP网络 反向传播网络( Back-Propagation Network,简称BP网络)是将W-H学习规则一般化,对非线性可微 分函数进行权值训练的多层网络。 BP网络是一种多层前向反馈神经网络,其神经元的变换函数是S型函数,因此输出量为0到1之间的 PDF文件使用" pdffactory Pro"试用版本创建ww, fineprint,com,cnw (k) [d (k) y (k)] y (k) y (k) ij i i j j D =h × - × = h ×d × d (k) y (k) = i - i d 上式表明，两神经元之间的连接强度的变化量与教师信号 di (k)和网络实际输出 yi 之差成正比。 3. 有监督 Hebb 学习规则 将无监督 Hebb 学习规则和有监督学习规则两者结合起来，组成有监督 Hebb 学习规则，即 w (k) [d (k) y (k)] y (k) y (k) ij i i i j D =h × - × × 这种学习规则使神经元通过关联搜索对未知的 外界作出反应，即在教师信号 di (k)－yi (k)的指导下，对环境信息进行相关学习和自组织，使相应的输出增 强或消弱。 5.2 前向神经网络 5.2.1 感知器网络 感知器是由美国计算机科学家罗森布拉特（F.Roseblatt）于 1957 年提出的。感知器（Perceptron）是一 个具有单层神经元的神经网络，并由线性阀值元件组成，是最简单的前向神经网络，它主要用于模式分类。 感知器的输出值是通过测试加权输入和值落在阈值函数的左右来进行分类的，即有： î í ì < ³ = = 0 0 1 0 ( ) j j j j s s y f s 由感知器的网络结构，我们可以看出感知器的基本功能是将输入矢量转化成 0 或 1 的输出。 感知器利用其学习规则来调整网络的权值，以便使该网络对输人矢量的响应达到数值为 0 或 1 的目标 输出。 感知器的学习是有指导的学习，其训练算法的基本原理来源于著名的 Hebb 学习规则。基本思想是：逐 步地将样本集中的样本输入到网络中，根据输出结果和理想输出之间的差别来调整网络中的权系数。 感知器设计训练的步骤可总结如下： 1)对于所要解决的问题，确定输入矢量 X，目标矢量 D，并由此确定各矢量的维数以及确定网络结构大 小的神经元数目：r，s 和 q； 2)参数初始化： a.赋给权矢量 w 在(—l，1)的随机非零初始值； b.给出最大训练循环次数 max； 3)网络表达式：根据输人矢量 X 以及最新权矢量 W，计算网络输出矢量 Y； 4)检查：检查输出矢量 Y 与目标矢量 D 是否相同，如果是，或已达最大循环次数，训练结束，否则转 入 5)； 5)学习：根据感知器的学习规则调整权矢量，并返回 3)。 5.2.2 BP 网络 反向传播网络(Back—Propagation Network，简称 BP 网络)是将 W—H 学习规则一般化，对非线性可微 分函数进行权值训练的多层网络。 BP 网络是一种多层前向反馈神经网络，其神经元的变换函数是 S 型函数，因此输出量为 0 到 1 之间的 PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn