k=1,2,…,s2;i=1,2,…,sl j=l,2,…,F 图6.4误差反向传播法的图形解释 BP算法要用到各层激活函数的一阶导数,所以要求其激活函数处处可微。对于对数S f(m)= 型激活函数 1+e 其导数为: f(n)= 0-eh(-1) (1 n2(+e (1+e +e (1 -)=f(n)[1-f(n) +e 1+e 对于线性函数的导数有 f′(m)=n′=l 所以对于具有一个S型函数的隐含层,输出层为线性函数的网络,有: 几2′=1,n′=a(1-a) 63BP网络的训练过程 为了训练一个BP网络,需要计算网络加权输入矢量以及网络输出和误差矢量,然后求 得误差平方和。当所训练矢量的误差平方和小于误差目标,训练则停止,否则在输出层计算 误差变化,且采用反向传播学习规则来调整权值,并重复此过程。当网络完成训练后,对网 络输入一个不是训练集合中的矢量,网络将以泛化方式给出输出结果 在动手编写网络的程序设计之前,必须首先根据具体的问题给出的输入矢量P与目标 矢量T,并选定所要设计的神经网络的结构,其中包括以下内容:7 图 6．4 误差反向传播法的图形解释 BP 算法要用到各层激活函数的一阶导数，所以要求其激活函数处处可微。对于对数 S 型激活函数 ，其导数为： 对于线性函数的导数有： 所以对于具有一个 S 型函数的隐含层，输出层为线性函数的网络，有： 6.3 BP 网络的训练过程 为了训练一个 BP 网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求 得误差平方和。当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算 误差变化，且采用反向传播学习规则来调整权值，并重复此过程。当网络完成训练后，对网 络输入一个不是训练集合中的矢量，网络将以泛化方式给出输出结果。 在动手编写网络的程序设计之前，必须首先根据具体的问题给出的输入矢量 P 与目标 矢量 T，并选定所要设计的神经网络的结构，其中包括以下内容：