设每一样本P的输入输出模式对的二次型误差函数定义为 En=∑(dm-O成 系统的平均误差代价函数为 式中,P为样本模式对数,L为网络输出节点数。 下面介绍基于一阶梯度法的优化方法,即最速下降法。 为简便起见,略去下标p,有 ∑(d4-O) 权系数应按E函数梯度变化的反方向进行调整,使网络的输出接近期望的输出。 1).输出层权系数的调整 权系数的修正公式为 aE 式中,为学习速率,n>0 dEdE 'k aneto 定义反传误差信号δ4为 ae aE aO anet, a0, anet 式中 -(dk4-O4) Ok -f(net )=f(net) aneto aneto 64=(d4-O)f(netk)=O4(1-O4)dk-04) onet 由此可得输出层的任意神经元权系数的修正公式为 Aw k=ndk -Ok)f(net )O,=n0,o, Wk=no (1-Ond-O)O设每一样本 p 的输入输出模式对的二次型误差函数定义为 ∑− = − L k Ep d pk Opk 1 2 1 ( ) 系统的平均误差代价函数为 ∑∑ ∑ == = = − = P p L k P p pk Opk Ep E d 11 1 2 ( ) 2 1 式中，P 为样本模式对数，L 为网络输出节点数。 下面介绍基于一阶梯度法的优化方法，即最速下降法。 为简便起见，略去下标 p，有 2 1 ( ) 2 1 ∑= = − L k E dk Ok 权系数应按 E 函数梯度变化的反方向进行调整，使网络的输出接近期望的输出。 1). 输出层权系数的调整 权系数的修正公式为 jk jk w E w ∂ ∂ Δ = −η 式中，η 为学习速率，η > 0 ； jk k jk k w net net E w E ∂ ∂ ∂ ∂ = ∂ ∂ 定义反传误差信号δ k 为 k k k k k net O O E net E ∂ ∂ ∂ ∂ = ∂ ∂ δ = − 式中： ( ) k k k d O O E = − − ∂ ∂ ( ) '( ) k k k k k f net f net net net O = ∂ ∂ = ∂ ∂ ( ) '( ) (1 )( ) k k k netk Ok Ok dk Ok δ = d − O f = − − ∑= = ∂ ∂ = ∂ ∂ q j jk j j jk jk k w O O w w net 1 ( ) 由此可得输出层的任意神经元权系数的修正公式为 jk k k netk Oj kOj Δw =η(d − O ) f '( ) =ηδ 或 wjk Ok Ok dk Ok Oj Δ =η (1− )( − )