正在加载图片...
Vol.17 No.6 杨尚宝等:铁水含硅量预报神经网络模型 525. 1层为输人层,第2层为隐含层,第3层为输出层.3层BP网络,其一般结构如图1所示, 输入层 误差反馈 隐含层 输出层 W值更新 教师信号 图1神经网络的结构 图2反向传播学习算法 1.2学习机理 本系统采用多层误差修正梯度法对BP网络模型进行离线学习四,其学习算法可参见图2 若在输入层加上模式对,则首先根据输入计算出各单元的输出.设第k层ⅰ单元输人的总 和为4,输出为v,由k-1层的第j个神经元到k层的第i个神经元的结合权值为wj神经元 的输出为巴,各神经元的输人与输出的关系函数为S型函数(x),则: v.=f(u,) (1) w,=∑wyD (2) 然后将误差逆传播,修正各层间各单元的权值.这里定义误差函数,为期望输出与实际 输出之差的平方和: r=(1/2)∑(e,-1,)2 (3) 式中:D,一输出单元i的实际输出;一输出单元i的期望输出,在这里作为教师信号· 利用非线性规划中的最快下降法,使权值沿着误差函数负梯度方向改变,其权值W,的 更新量△w,可用下式表示: △w,=-c(r/w) (4) 式中:ε为学习步长,取正参数(0~1)· 由式(1)、(2)和(4)可推得学习公式如下: △w,=-ed,y (5) 其中d,为单元i的输出误差值. 对于输出层C,d,为单元i的一般化误差: d,=c(1-c)(G-t) (6) 式中:c,一输出层1单元的实际输出;t,一输出层i单元的期望输出, 对于中间层B: d,=b.(1-b,)∑wndn (7 式中:b,一中间层i单元的实际输出;d。一输出层n单元的一般化误差;w,一中间层i单 元与输出层!单元的连接权值.V 61 . 1 7 N o . 6 杨尚宝等 : 铁水含硅量预报神经网 络模 型 1 层为 输人 层 , 第 2 层 为隐含层 , 第 3 层 为输 出层 . 3 层 B P 网络 , 其一般结构如图 1 所示 . 输人层 隐含 层 输 出层 误 差 反 馈 诀 众 衣 本 姜) 奋 洛城 、 尸七 ~ , ` 沪 刊油厂 教 师信号 图 1 神经 网络的结构 图 2 反向传播学习 算法 12 学 习 机理 本系 统采用 多层 误差 修正梯 度法 对 B P 网络模 型进行 离 线学 习 2[] , 其 学 习 算法 可参见 图 2 . 若 在输人 层加上 模 式对 , 则首先 根据输 人计 算 出各 单元 的输 出 . 设 第 k 层 i 单 元 输 入 的总 和为 u : , 输 出为 。 ` , 由 k 一 1 层 的第 j 个神 经元到 k 层 的第 i 个神 经元 的结合权值 为 w 。 J 神经元 的输 出为 vj , 各神 经元 的输人 与输 出的关 系 函数 为 S 型 函数厂(x) , 则 二 v : = f( u : ) ( l ) “ : = 艺 w o vj ( 2) 然后 将误 差逆 传播 , 修正各 层 间各单元 的权值 . 这 里定义 误差 函 数 ; 为期望 输 出 与实 际 输 出之差 的平 方 和 : ; = ( l / 2 正 ( v , 一 t , ) ’ ( 3) 式 中: 。 厂 输 出单 元 i 的实 际输 出; 衣一 输 出单 元 i 的期 望 输 出 , 在 这 里 作 为 教 师 信号 . 利用非 线性规划 中的最快下 降法 , 使权 值沿着 误差 函 数负 梯度 方 向改 变 , 其权 值 w 。 的 更新量 △ wtj 可用 下式 表示 : A w 。 - 一 。 (口r /。 w 。 ) (4 ) 式 中 : 。 为学 习 步 长 , 取 正参数 (O 一 1) . 由式 ( l) 、 ( 2) 和 ( 4) 可 推得 学 习 公式 如下 : △ w 。 二 一 “ 试vj (5 ) 其 中 d 为单元 i 的输 出误差值 . 对于 输 出层 C , d ; 为单元 i 的一般 化误 差: d : = ic ( l 一 q ) ( e ` 一 t , ) ( 6) 式 中: 。 i一 输 出层 i 单 元 的实 际输 出; 红一 输 出层 i 单 元 的期望 输 出 对于 中间层 :B d : = b , ( l 一 b , ) 艺 w ,” d 。 ( 7) 式中: b :一 中间层 i 单元 的 实际输 出 ; dn 一 输 出层 n 单 元 的 一 般 化 误 差 ; w “一 中间 层 i 单 元与输 出层 l 单 元的 连接权值
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有