正在加载图片...
2).隐含层节点权系数的调整 计算权系数的变化量为 ae anet ae CO ao. anet )O=7(-x)f(met)0=m0 式中(一)不能直接计算,需通过其他间接量进行计算,即 ao, 2=anet O, el Onet, 00, jel 4O) k=l cnet 显然有 6=f(net,∑62k 将样本标记P记入公式后,有 对于输出节点k A,*=nf(net pk (dpk -Opk )Opi=nope d pk -Opk)O py 对于隐含节点j A W,=nf(net p( Wg )Op =no, (1-OP0OpWk)O 式中,OA是输出节点k的输出,O是隐含节点j的输出,Om是输入节点i的输出。 从上面推导的结果可得网络连接权值调整式 Wn(t+1)=v2(1)+050+aw(1)-n(-1) 式中,t+1表示第t+1步,c为平滑因子,0<a<1 3.BP学习算法的计算步骤 1).初始化:置所有权值为较小的随机数 2)提供训练集:给定输入向量X=(x1,x2,…,xM)和期望的目标输出向量D=(d0,d1…dl) 3).计算实际输出:计算隐含层、输出层各神经元输出; 4).计算目标值与实际输出的偏差E 5).计算△ 6).计算△,W 7).返回“2)”重复计算,直到误差E满足要求为止 BP学习算法流程图如图所示2). 隐含层节点权系数的调整 计算权系数的变化量为 i ij j j ij j ij O net E w net net E w E w ∂ ∂ = − ∂ ∂ ∂ ∂ = − ∂ ∂ Δ = −η η η j i j i j i j j j f net O O O E O net O O E η η =ηδ ∂ ∂ = − ∂ ∂ ∂ ∂ = (− ) ( ) '( ) 式中( ) Oj E ∂ ∂ 不能直接计算,需通过其他间接量进行计算,即 ∑∑ ∑ == = ∂ ∂ ∂ ∂ = − ∂ ∂ ∂ = − ∂ ∂ − L k L k q j jk j j k j j j k w O net O E O net net E O E 11 1 ( ) ( ) ∑ ∑ = = = ∂ ∂ = − L k k jk L k jk k w w net E 1 1 ( ) δ 显然有 ∑= = L k j net j kwjk f 1 δ '( ) δ 将样本标记 p 记入公式后,有 对于输出节点 k : p jk net pk d pk Opk Opj Opk d pk Opk Opj Δ w =ηf '( )( − ) =η ( − ) 对于隐含节点 j : pi L k pi pj pj pk jk L k pwij f '(net pj )( pkwjk )O O (1 O )( w )O 1 1 ∑ ∑ = = Δ =η δ =η − δ 式中,Opk 是输出节点k 的输出,Opj 是隐含节点 j 的输出,Opi 是输入节点i 的输出。 从上面推导的结果可得网络连接权值调整式: w (t +1) = w (t) + O + [w (t) − w (t −1)] ij ij ηδ i i α ij ij 式中,t +1表示第t +1步,α 为平滑因子,0 < α < 1。 3.BP 学习算法的计算步骤 1). 初始化:置所有权值为较小的随机数; 2). 提供训练集:给定输入向量 ( , , , ) 1 2 M X = x x ⋅⋅⋅ x 和期望的目标输出向量 ( , , , ) D d0 d1 d L = ⋅⋅⋅ ; 3). 计算实际输出:计算隐含层、输出层各神经元输出; 4). 计算目标值与实际输出的偏差 E; 5). 计算 Δ pwjk ; 6). 计算 Δ pwij 7). 返回“2)”重复计算,直到误差 Ep 满足要求为止。 BP 学习算法流程图如图所示
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有