图6.2BP网络S型激活函数 因为S型函数具有非线性放大系数功能,它可以把输入从负无穷大到正无穷大的信号, 变换成-1到1之间输出,对较大的输入信号,放大系数较小;而对较小的输入信号,放大系 数则较大,所以采用S型激活函数可以去处理和逼近非线性的输入输出关系。不过,如果 在输出层采用S型函数,输出则被限制到一个很小的范围了,若采用线性激活函数,则可 使网络输出任何值。所以只有当希望对网络的输出进行限制,如限制在0和1之间,那么在 输出层应当包含S型激活函数,在一般情况下,均是在隐含层采用S型激活函数,而输出 层采用线性激活函数 BP网络的特点 输入和输出是并行的模拟量 2、网络的输入输出关系是各层连接的权因子决定,没有固定的算法; 3、权因子是通过学习信号调节的,这样学习越多,网络越聪明 4、隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影 6.2BP学习规则 BP网络的产生归功于BP算法的获得。BP算法属于δ算法,是一种监督式的学习算法。 其主要思想为:对于q个输入学习样本:P,P2,P,已知与其对应的输出样本为:T T2,T。学习的目的是用网络的实际输出A,A2,…A,与目标矢量T,T2,T, 之间的误差来修改其权值,使A,(=l,2…,q)与期望的T尽可能地接近;即:使网络输 出层的误差平方和达到最小。它是通过连续不断地在相对于误差函数斜率下降的方向上计算 网络权值和偏差的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络误差的影响成3 图 6. 2 BP 网络 S 型激活函数 因为 S 型函数具有非线性放大系数功能，它可以把输入从负无穷大到正无穷大的信号， 变换成-1 到 l 之间输出，对较大的输入信号，放大系数较小；而对较小的输入信号，放大系 数则较大，所以采用 S 型激活函数可以去处理和逼近非线性的输入/输出关系。不过，如果 在输出层采用 S 型函数，输出则被限制到一个很小的范围了，若采用线性激活函数，则可 使网络输出任何值。所以只有当希望对网络的输出进行限制，如限制在 0 和 1 之间，那么在 输出层应当包含 S 型激活函数，在一般情况下，均是在隐含层采用 S 型激活函数，而输出 层采用线性激活函数。 BP 网络的特点： 1、 输入和输出是并行的模拟量； 2、 网络的输入输出关系是各层连接的权因子决定，没有固定的算法； 3、 权因子是通过学习信号调节的，这样学习越多，网络越聪明； 4、 隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影 响。 6．2 BP 学习规则 BP 网络的产生归功于 BP 算法的获得。BP 算法属于δ算法，是一种监督式的学习算法。 其主要思想为：对于 q 个输入学习样本：P 1，P 2，……P q，已知与其对应的输出样本为：T 1， T 2，……T q。学习的目的是用网络的实际输出 A1，A2，……Aq，与目标矢量 T 1，T 2，……T q， 之间的误差来修改其权值，使 Al，(l＝l，2…，q)与期望的 T l 尽可能地接近；即：使网络输 出层的误差平方和达到最小。它是通过连续不断地在相对于误差函数斜率下降的方向上计算 网络权值和偏差的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络误差的影响成