基于对角递归神经网络的建模及应用

D0I:10.13374/i.issn1001-053x.2004.01.027 第26卷第1期 北京科技大学学报 Vol.26 No.1 2004年2月 Journal of University of Science and Technology Beijing Feb.2004 基于对角递归神经网络的建模及应用 段慧达郑德玲刘聪 北京科技大学信息工程学院，北京100083 摘要介绍了对角递归神经网络，针对BP算法收敛慢的缺点，将递推预报误差学习算法 应用到神经网络权值和域值的训练，通过对非线性系统辨识的仿真及在磷化温控系统建模 中的应用，验证了这种建模方法的有效性， 关键词对角递归神经网络；非线性系统辨识；磷化；递推预报误差 分类号TP183 近年来，递归神经网络四的研究有了很大发 展.与前馈神经网络相比，它是动态网络2.在利 用神经网络对动态系统进行辨识时，如采用前馈 神经网络，则存在一些不足：首先必须要假定系 xA) 统的模型类别和模型的阶次：其次随着系统阶次 的增加，网络结构迅速膨胀，使得学习收敛速度 下降回.动态神经网络利用网络的内部状态反馈 来描述系统的非线性动力学特性，克服了以上缺 图1对角递归神经网络结构 点，因此能更直接地反映系统的动态特性，更适 Fig.1 Structure of the diagonal recurrent neural network 合于工业过程建模、仿真和控制.但是，动态递归 网络由于结构复杂，存在训练算法收敛速度慢的 2递推预报误差算法 问题.对角递归神经网络s(Diagonal Recurrent 递推预报误差(Recursive Prediction Error,,简称 Neural Network,简称DRNN)作为一种动态神经 RPE)算法为一种通过极小化预报误差来获取参 网络具有结构简单的特点，正好满足了这一要 数估计的方法.定义性能指标为： 求.但DRNN还缺乏较为成熟的算法，因此本文 1 (2) 对此进行了探讨和研究， E()-e(k.)() 式中，(k,)为预报误差矢量，9为参数矢量，N是 1网络结构 数据长度. RPE算法的基本原理是沿着E(O)的Gauss- DRNN由输入层、隐层和输出层组成如图1 Newton搜索方向修正未知参数矢量，从而使E() 所示，x{k)为网络输入，=1,2，，m.)为网络 趋于最小，参数矢量的修正算式为 输出，S(),O)分别隐层输入和输出，j广1,2，，n. )=Ok-1)+a()[Ok-1)] (3) 聊为输入层至隐层的连接权，？为隐层至输出层 μ(O)=-[H⊙)]7E(O) (4) 连接权，网为递归神经元连接权，b,和b分别为隐 Eo=-含k,oko】 (5) 层和输出层的阙值， H)=[k,)Ψ(k,9)] (6) DRNN非线性状态空间表达式为： M S(k)=WGx(k)+WO(k-1)+bu(k) 式中，(k)为学习速率.本文引用BP算法四中对于 学习率的调整规则为，若总误差减小（即新误差 O(k)=f(S(k)) (1) 比老误差小)，则学习速率增加：若总误差增加 =Orb,因 (即新误差比老误差大)，则学习速率减小.（⊙） 收稿日期2002-09-24 段慧达女，30岁，讲师，硕士

第 2 6 卷 第 1期 2 00 4 年 2 月 北 京 科 技 大 学 学 报 JO u rn a l fo U . vie rs tiy o f s e i e n e e a n d l愁c h n o lo gy B e ji i n g V bl . 2 6 N o . 1 F e b . 2 0 0 4 基于对 角递归神 经 网络的建模及应用 段 慧达 郑德玲 刘 聪 北京 科技 大学信 息工 程学 院 , 北 京 10 0 0 83 摘 要 介 绍 了对角 递 归神经 网络 , 针对 B P 算法 收敛慢 的缺 点 , 将 递推 预报 误 差学 习 算法 应 用到 神经 网络 权值 和域 值 的训 练 . 通过 对 非线性 系 统辨 识 的仿真 及 在磷 化温 控系 统 建模 中的应 用 , 验 证 了这种 建 模方法 的有效 性 . 关键 词 对 角递 归神经 网络 ; 非 线性 系统 辨识 ; 磷 化 ; 递推 预报 误 差 分 类号 仰 1 83 近 年 来 , 递 归 神经 网络 `l] 的 研究 有 了很 大 发 展 . 与 前 馈神 经 网络 相 比 , 它是 动态 网络份 :l3 在 利 用 神经 网络对 动态 系 统进 行辨 识 时 , 如采 用前 馈 神 经 网络 , 则 存 在一 些 不足 : 首 先必 须 要假 定 系 统 的模型类 别 和模型 的阶 次 ; 其 次随着 系 统阶 次 的增 加 , 网络 结 构迅 速 膨胀 , 使 得学 习 收敛速度 下降 价〕 . 动 态 神 经 网络 利用 网络 的 内部 状态 反 馈 来描述 系 统 的非线性 动力 学特 性 , 克 服 了 以上 缺 点 , 因此 能更 直 接地 反映 系 统 的动 态特 性 , 更 适 合 于 工业 过程 建模 、 仿真和控 制 . 但 是 , 动 态递 归 网络 由于 结构 复 杂 , 存在 训 练算法 收 敛速 度慢 的 问题 `, . 对角 递 归 神经 网络 `调 (iD ag on al eR c u 汀 e n t N e ur al N e wt o kr , 简称 D R N N ) 作 为 一种 动 态神 经 网络 具 有 结 构 简单 的特 点 , 正 好 满 足 了 这一 要 求 . 但 D RN N 还 缺 乏较为 成 熟 的算 法 , 因此本 文 对此 进 行 了探 讨 和研 究 . 图 1 对 角递 归 神经 网络 结构 F 啥 . 1 s tr u cut er o f th e d i a g o n a l ecr u r er n t n e u r a l . ewt o r k 2 递推预 报误 差 算法 递 推 预报 误差 〔eR c哪ive P edr ic it on E n 刀 r, 简称 RP E ) 算法 为一 种 通 过极 小 化预 报 误 差 来获 取 参 数估 计 的方法 . 定 义性 能指 标为 : (E e) 一 森左 V · 艺〔砂(k, e ) · 试k, e ) ] ( 2) 1 网 络 结 构 D RN N 由输入 层 、 隐层 和 输出层 组 成如 图 1 所 示 .戈众 )为 网 络 输 入 , i = 1 , 2 , … , m . y k() 为 网络 输 出 , 冬(k) , q k() 分 别 隐层 输入和 输 出 , =j 1 , 2 , … , n . 畔 为输 入层 至 隐层 的连 接权 , K为 隐层 至输 出层 连接 权 , 叼 为 递归 神经 元连 接权 , b 。和 b Z分 别为 隐 层 和输 出层 的 闽值 . D RN N 非线 性 状 态空 间表 达 式 为 : 式 中 , e( k, 口 )为预 报 误差 矢 量 , 曰为 参 数矢 量 , N 是 数据 长 度 . 即E 算 法 的 基本 原 理 是 沿 着 (E e )的 G aus s一 N e讯 o n 搜索 方 向修 正未 知参 数 矢量 , 从 而使(E e ) 趋 于最 小 , 参 数矢 量 的修 正 算 式 为 、.J 声 ó尹、. , 、尹 J月t .ù1 了、`.了 e (k) = 口(k 一 l ) + a (k) · 产【口 ( k一 l ) ] p (口 ) 二 - 【州曰)] 一 ,甲(E e ) , (E 动 一李VI · 艺 [试 k, 口 ) · 试k, e) 〕 以 k) = 艺时 x,( k) + 畔 Q k( 一 l) +b lj k() Q (k) = f( 昌k() ) 只k) = 艺耳 oj (k) 十瓦 k() 收稿 日期 2 0 2-() 9 es 2 4 段 慧达 女 , 30 岁 , 讲师 , ( l ) 硕士 (H e) 一 昏[帆k, e ) · 柯 (k, 口 ) ] ( 6 ) 式 中 , a( k) 为学 习速 率 . 本 文 引用 B P 算法 l] 中对于 学 习率 的调 整 规 则 为 , 若 总误 差减 小 ( 即新 误 差 比老 误差 小 ) , 则 学 习速 率增 加 ; 若 总误 差 增加 ( 即新误 差 比老误 差 大 ) , 则 学 习速率 减 小 . 风动 DOI: 10. 13374 /j . issn1001 -053x. 2004. 01. 027

104 北京科技大学 学 报 2004年第1期 为Gauss--Newton搜索方向，e)=[dk,a)/de]'是 张-器2=-c 网络的一步预报值对日的一阶徽分.基于上述原 理的RPE算法是： ⑦y-1 (10) e()=y)-k) a0型=VP因 肠能 (11) P-1)) M=(k)(k)Pk-1丙 其中的间接变量如下： Pr-arMwTWrk-) (7) o)=O9=fS-x+2k-1】 ∂Ws (12) (k)=@(k-1)+a(k)P(k)y(k)e(k) 0A0)=0 a()=M(k-1+(1-) G附=a9-fS6)-[1+Gk-1】 oby (13) 式中，入)为遗忘因子，为常数.由式(3（⑤）可 P-92s-ok-4r-P-14 知，RPE算法是一种利用了高阶导数信息的学习 P(0)=0 算法，在计算H()的逆矩阵上利用了递推最小 ()求出后，代入式(T)就可以迭代计算了. 二乘的方法，与仅利用了一次导数信息的基本 BP算法相比，显然RPE算法的收敛速度更快. 3仿真及应用结果 从RPE算法的原理可以看出，将RPE算法引 入对角递归网络的关键就是推导出妙阵，本文中 (1)考虑采用如下非线性系统，参考文献[5]. 的算法将神经网络的权值、域值同时进行了修 +=rt因 (15) 正.设DRNN的结构为M-H-1,即输入层、隐层和 对该系统进行辨识，设其输入为： 输出层的神经元个数分别是M,H和1个，其期望 4()=0.41sin(2km/100)+0.1sin(2km/25)+0.5(16) 输出为y,取性能指标函数为： 共产生500组输入输出数据对，前200组数据作 e=2y-外 (8) 为训练样本，后300组作为测试数据.选择DRNN =(W V,bub2 W) 的结构为(3,4,1)，即3个输入，4个隐层神经元，1 相应的(e)[dk,8)/d8]r中的元素为： 个输出.输入为4)，k-1)和k-2).各个参数选 品影张器品别 取如下：a(k0.75,P0)=0.001,2(0=0.95,=0.9.训 练300步后，结果如图2所示，图中曲线为期望输 其中，i=1,2,,Mj=1,2,,H,待求值共有[Hx 42+个品器影分别是输出y对输入 出t和模型输出y的对比.图3中曲线为用BP算法 训练300步的期望输出t和模型输出y的对比.二 层至隐层的连接权，隐层至输出层连接权， 者相比较可见，在同样的训练次数下，用RPE算 递归神经元连接权听的偏导数器分别是 法建立的非线性系统模型比用BP算法建立的模 输出y对隐层的域值bn输出层的域值b2的偏导 型精度要高，说明RPE算法较BP算法收敛速度 数.叭)阵中各元素的具体表达式如下： 快 品-%9器-%0 (2)将上述建模辨识算法应用于汽车车身磷 (9) 化处理过程中磷化槽的加热系统，对其建立对 dy =0俐 角递归神经网络模型.所谓磷化，是指把金属工 件经过含有磷酸二氢盐的酸性溶液处理，发生化 1.0 1.2 0.8 1.0 0.8 0.6 0.6 0.4 0.4 0.2 0.2 0.0 0. -0. 200250300350400450 500 200250300350400450500 步 步 图2RPE算法仿真曲线 图3BP算法仿真结果 Fig.2 Simulation curve of RPE algorithm Fig.3 Simulation curve of BP algorithm

一 4 0 1 北 京 科 技 大 学 学 报 - 2 4 年 第 期 0 1 u G 为 a e s s s N e , tI o n 搜索方 向 , 试. 卜【献k, 动 /d e 1 T是 网络 的一 步预 报值 对 e 的一 阶微 分 . 基 于上 述 原 理 的 RP E 算法 是 : = 巧 碧 一 : 斋裔 武劝= y( k) .-讯k ) q (劝 ( 10 ) · 以劫 ( 11) (k)M 顶琦鼠黯 习 一 。 · 赘 一 环 其 中的 间接变量 如下 : 、少. 、少. 、户. 2 凡、ù 4 . 且. , ` . . 了J .、 ` 毛 “ 一 渝 · +(MI[ k) ` (k) “ · 玲 一 , ’ 例 k) = 口 (无一 1卜 a( k) 拭k) 诃 k) e( k) 双k) = 粼 k( 一 l) 代 1一而) ( 7 ) 碧 一 ’fs( .k() xf)[ 十阶 一 `’ 〕 以无一 l ) ] 式 中声(k) 为遗 忘 因子 ,石为常 数 . 由式 (3 曰6) 可 知 , RP E 算 法是 一种 利用 了高 阶 导数信 息 的 学 习 算 法 , 在 计 算(H e ) 的逆 矩 阵上 利用 了递推 最小 二 乘 的方 法 , 与仅 利 用 了一 次 导数 信 息 的基 本 B P 算法 相 比 , 显 然 RP E 算 法 的收 敛速 度 更快 . 从 RP E 算法 的原 理可 以看 出 , 将 RP E 算 法 引 入对 角 递 归 网络 的关键 就 是推 导 出尹阵 . 本 文 中 的算法 将 神经 网络 的权值 、 域 值 同时进 行 了修 正 . 设 D R N N 的 结构为材` 万一 1 , 即输 入层 、 隐层 和 输 出层 的神经元 个 数 分别 是城 H 和 1 个 , 其 期 望 输 出为y , 取性 能 指标 函数 为 : 一 1+) 叼 · 以无一 l刀 试e) 求 出后 , 代 入式( 7) 就 可 以迭 代计 算了 . 3 仿 真及 应 用 结 果 ( l) 考 虑采 用 如下 非 线性系统 , 参 考文献 5[ ] . 、 卜`卜 诺粉 十“ 3 `k) “ , , 。 一 如 -P] ( 8 ) e = (琳 耳 b 。 瓦 叼 ) T 相应 的拭曰 ) = 【咖仇曰 d)/ 创 T中 的元素 为 : . ` 曰 一互 立 立 互 生业 尸、 T , 、 刁巩 刁耳 刁b : ` 刁b Z 刁叼 , 其 中 , =1 1 , 2 , … , :M j = 1 , 2 , … , H , 待求值 共 有 【万* 刁v 刁v a v , 、 。 二 。 ~ … ~ 一 、 皿护 ` 夕J ` 价 百龙;面种 , 丽 方 别 足 韧 出 少刘 韧 八 层 至 隐层 的连 接 权 叫 , 隐层 至输 出层 连接权 巧 , 递 归 神经 元 连 接权 。 的偏 导 数 ;斋 , 斋 分 别 是 输 出y 对 隐层 的域 值 blj , 输 出 层 的域 值 瓦的 偏 导 数 . 试e) 阵中各 元 素 的具 体表 达式 如 下 : 一 。 · 碧 一 环 · 驯 ( 9 ) = Oj (k) 对 该系 统进 行 辨识 , 设其 输入 为 : u k() = o · 4 l s in ( 2蒯10 0 ) + o . l s in ( Zk耐 2 5网 . 5 ( 16 ) 共产 生 5 0 组输 入 输 出数 据对 , 前 2 0 组 数据 作 为 训练 样本 , 后 3 0 0 组 作 为测试 数据 . 选 择 D R N N 的结构 为 (3 ,4 , l) , 即 3 个 输入 , 4 个 隐层 神经 元 , 1 个输 出 . 输入 为 u( k) ,只k 一 l) 和 只无一 2) . 各 个参数选 取如 下 : a (k) =() . 7 5 , 烈0 ) = 0 . 00 1沐( 0 ) 二 0 . 9 5丙= 0 . 9 . 训 练 3 0 0 步 后 , 结果 如 图 2 所 示 , 图 中曲线 为期望 输 出t和模 型 输出少的对 比 . 图 3 中 曲线为用 B P 算法 训练 3 0 步 的期 望输 出r和 模型输 出y 的对 比 . 二 者相 比较可 见 , 在 同样 的 训练 次数 下 , 用 RP E 算 法建 立 的非 线性 系 统模 型 比用 B P 算法建立 的模 型精 度 要 高 , 说 明 lR, E算 法 较 B P算法 收敛速度 快 . (2 )将上 述 建模辨识 算法应 用 于汽 车车身磷 化 ` 7,处 理 过程 中磷 化槽 的加 热系 统 , 对 其建立对 角递 归 神经 网络 模型 . 所 谓磷 化 , 是指 把金属 工 件 经过 含有 磷 酸二 氢盐 的酸性溶液处理 , 发生化 裔斋 0 . 6 城 0 . 4 0 . 2 0 . 0 ` es 2 0 0 珑.2 2 5 0 3 0 0 3 5 0 4 00 4 5 0 500 刀步 图 2 RP E 算 法仿真 曲线 S 如u la Uo . c u vr e o f Rr E a lg o ir ht m 2 00 2 50 30 0 3 5 0 4 00 4 50 5 0 0 灯 步 图 3 B P 算 法仿 真结 果 F呛 . 3 5加u l a iot o e u vr e o f B P a馆o ir tb

VoL.26 No.1 段慧达等：基于对角递归神经网络的建模及应用 ·105 学反应而在其表面生成一层不溶性或难溶性磷 将单位阶跃信号作用于建模对象，实测数据 酸盐膜层的方法，所生成的膜称为磷化膜.目前 作为训练样本，共选取了350组数据.在本文中 随着磷化工艺向提高质量、降低污染、节省能源 将磷化槽温度作为输出y,将给定的控制电压“， 的发展，汽车车身磷化，大多采用工艺比较复杂 k-1),一2)作为网络的输入，确定对角递归神 的低温(35~5℃)金属全浸式磷化工艺.磷化过 经网络的结构为3-7-1.P的初值P0)定为0.0001， 程中受多种因素的影响，其中处理温度是磷化过 学习率的初始值设定为0.7，其他参数采用经验 程中最重要的一个参数，整个磷化过程中要求温 值ak0.6,(0)=0.95,=0.9.训练步数经过多次 度保持恒定值.磷化过程的加热原理是利用热交 实验最后定为300步.建模结果如图4所示，图5 换器来对磷化槽进行加热，通过调节控制电压来 为训练后的误差曲线.训练300步后，最小的相 调整热交换器的水流量，进而调整磷化液温度， 对误差.e,0.0043,可见模型具有较高的精度 22 2 20 实测 仿真 0 6 14 >/ -2 12 -3 10 -5 0 50 100150200250 300350 0 50100150200250300350 k/步 利步 图4建模结果 图5误差曲线 Fig.4 Modeling results of the temperature system Fig.5 Error curve 4结论 2史天运，贾利民，基于进化策略的动态递归神经网 络建模与辨识[).控制与决策，2000,15(4：439 (I)RPE算法是一种利用了高阶导数信息的 3宋轶民，余跃庆，张策，等，动态递归网络及其在机 学习算法，在计算H(®)的逆矩阵上利用了递推最 敏机构辨识中的应用[).机械科学与技术，2001,20 小二乘的方法，与仅利用了一次导数信息的基本 (4):515 BP算法相比，显然RPE算法的收敛速度更快，建 4 Gao FR,Wang F L.A simple nonlinear controller with di- 模精度更高. agonal recurrent neural network [J].Chem Eng Sci,2000, 55:1283 (2)在本文的RPE算法中，对网络的自反馈增 5 Rafael PH.Simple recurrent neural network:A neural net- 益、网络权值及域值同时进行了修正，由此训练 work structure for control systems [J].Neurocomputing. 出的DRNN完全可以应用于非线性系统得建模， 1998,23:277 并可以得到良好的效果.应该指出，这种算法存 6 Aussem A.Dynamical recurrent neural networks towards 在不足，训练时间较长，但收敛性较好， prediction and modeling of dynamical system [J].Neuroc- 参考文献 omputing,1999,28:207 1徐丽娜.神经网络控制M哈尔滨：哈尔滨工业大 7刘树文.磷化质量的影响因素及其控制[).客车技 学出版社，1999 术与研究，2000,22(3：39 Modeling and Application Based on Diagonal Recurrent Neural Network DUAN Huida,ZHENG Deling,LIU Cong Information Engineering School,University of Science and Technology Beijing,Beijing 100083,China ABSTRACT A simple recurrent neural network named as diagonal recurrent neural network was studied.To over- come the slow convergence of BP algorithm,the recursive prediction error(RPE)algorithm was proposed,which can train both the weight and the bias.A given model was identified by using diagonal recurrent neural network tra- ined with RPE algorithm,and the model of a phosphating temperature control system was established.Both simu- lation and experiment demonstrate the effectiveness of the proposed algorithm. KEY WORDS diagonal recurrent neural network;nonlinear system dentification;phosphating;recursive predic- tion error algorithm

M 】L Z` N 0 . 1 段 做达 等 : 基于 对 角递 归神 经 网络 的建模 及应 用 一 1 05 - 学 反应 而 在 其 表 面 生成 一层 不 溶 性 或难 溶 性 磷 酸盐 膜 层 的方 法 , 所 生 成 的膜 称 为磷 化 膜 . 目前 随着 磷化 工艺 向提 高 质量 、 降低 污染 、 节 省 能源 的发 展 , 汽 车 车 身磷 化 , 大 多采用 工 艺 比较 复杂 的低 温 ( 35 一5 ℃ ) 金 属全 浸 式磷 化 工 艺 . 磷 化 过 程 中受多 种 因素 的影 响 , 其中处理 温度 是 磷化 过 程 中最 重 要 的一个 参 数 , 整个 磷化 过程 中要求 温 度 保持 恒定值 . 磷 化过 程 的加 热 原理 是利 用热 交 换 器来 对磷 化槽 进 行 加热 , 通 过调 节控 制 电压 来 调 整 热交 换 器 的水流 量 , 进 而 调整 磷 化液 温 度 . 将 单位 阶跃 信 号作 用 于建 模对 象 , 实 测 数据 作 为训 练样 本 , 共 选取 了 3 50 组 数据 . 在 本 文 中 将 磷 化 槽温度 作 为输 出y , 将给 定 的控 制 电压 u , y k( 一 1) , 办 一 2) 作 为 网络 的输入 , 确 定对 角 递 归神 经 网络 的结构 为 3一7一 1 . 尸的初值(P 0) 定为 0 .0 0 1 , 学 习 率的初 始值 设 定为 .0 7 , 其 他 参数 采 用经 验 值 a( k) 二.0 6 , 双0) = .0 95 , 而= .0 9 . 训 练 步 数 经 过 多 次 实验 最后 定 为 3 0 步 . 建 模结果 如 图 4 所 示 , 图 5 为训 练后 的误 差 曲线 . 训 练 3 0 步 后 , 最 小 的相 对 误 差 . =er .0 0 04 3 ,可 见 模型具 有较 高 的精度 . 尸一一 一 — — , ù 0 八0厂 24 ē1 ù ,` 0 21 , .1 .1 帐入 0 5 0 1 0 0 15 0 2 0 0 2 50 3 00 3 50 k /步 图 4 建 模 结果 F i g . 4 M o d e枷9 er s u l st o f 伍e ct m P e ar tU er s ys et m 4 结 论 ( l) 即E 算 法是 一 种 利用 了高 阶导 数 信 息 的 学 习 算 法 , 在 计算 (H 动 的逆 矩 阵上利 用 了递推 最 小 二乘 的方法 , 与仅 利用 了一 次导 数信 息 的基 本 B P 算 法 相 比 , 显 然 RP E 算法 的收 敛速 度更 快 , 建 模精度 更 高 . (2 )在 本 文 的 R P E 算 法 中 , 对 网络 的 自反馈 增 益 、 网络 权值 及 域 值 同 时进行 了修 正 , 由此训 练 出的 D R N N 完 全可 以应 用 于非 线性 系 统 得 建模 , 并 可 以得 到 良好 的效 果 . 应 该指 出 , 这 种算 法 存 在 不足 , 训 练 时 间较 长 , 但 收敛 性较好 . 参 考 文 献 1 徐 丽娜 . 神经 网络控 制 【M」 . 哈 尔滨 : 哈 尔滨 工业 大 学 出版 社 , 199 0 5 0 100 150 20 0 2 5 0 3 00 3 5 0 对步 图 5 误差 曲线 F ig , 5 E or r e u ver 史天运 , 贾 利 民 . 基于 进化 策 略的 动态 递 归神经 网 络 建模 与辨 识 明 . 控制 与 决策 , 2 00 0 , 15 ( 4 ) : 4 3 9 宋 轶 民 , 余跃庆 , 张 策 , 等 . 动态 递 归网络 及 其在 机 敏机 构 辨识 中 的应用 闭 . 机 械 科学 与技 术 , 2 0 01 , 20 (4 ) : 5 15 G ao F 民 认厄n g F L . A s im Pl e n o in i n e ar e o n t r o ll er w iht di - ag o n a l er c erU nt n e ur a l ne wt okr [ J ] . C h e m E ng S e i , 2 0 00 , 5 5 : 12 8 3 aR afe l P H . S iln P l e er c u 汀 e in n e u r a l n e b刀 。 kr : A ne aur l net - w o kr s utr c t l l er for e o n tor l s y s t e m s [J] . N e u r o c om P u int g , 1 9 9 8 , 2 3 : 2 7 7 A u s s e m A . D y n a m i e a l er c u r e址 n e ur a l ne 。 万o r k s t o w ar d s P er d i e it o n an d m o d e li n g o f d y n am i e al sy s et m [月 . N e uor e - o m P ut in g , 19 9 9 , 28 : 2 0 7 刘 树文 . 磷化 质量 的影 响 因素 及其 控制 [J] . 客 车技 术与研 究 , 2 0 0 0 , 2 2 ( 3 ) : 39 M o d e lin g an d AP P li e at i o n B a s e d o n D i a g o n a l eR e ur e nt N e ur a l N e wt o kr D UA N 正l扮亡由 , Z 付E N G D el i ng, IL U oC gn nI of n刀 iat on E n g in e e n n g Shc o o l , U n ive sr iyt o f s c i e n e e an d eT e hn o l o gy B e ij in g , B e ij ing l 0 0 0 83 , C h in a A B S T R A C T A s imP l e er e 侧比 e n t n e ur a l n e wt o kr nam e d as id a g o n a l er c u r e in n e u T a l n e 七刀 o kr 丫v a名 s ut d i e d . oT o v e -r e o m e ht e s l ow c o vn e gr e nc e o f B P a l g o ir t知叮 , ht e er cur s iV e P r e d i ict on er or (R P E ) al g o ir t h m w as rP op o s e氏 w h i c h e an atr i n b o ht het we i g h t a n d ht e b ias . A g ive n m o de l was id e n tiif e d by u s i n g d iag oan l er c u 汀 e n t n e ur a 】n e wt o kr tr a . in e d w it h lR, E a lgo ir 知t 叮 , 叨d ht e m o de l o f a P h o s Ph at l n g ot m P e r a tL ir e e o n tr o l sy st em , v a s e s t a b li s h e d . B hot s l -un iat on an d e x P e ir m e in d e m o n s tr at e het e fe c t l v en s of het P r o Pos de al go ir t h m . K E Y W O RD S id ag on al er c理汀 e nt ne ur a l n e wt o r k ; n o n l ine ar sy s t e m d e n tiifc iat on ; hP o s Ph at i n g ; er c sur iv e erP id c - it on e r or al g o ir t h m