D0I:10.13374/i.issm1001053x.2003.01.022 第25卷第1期 北京科技大学学报 Vol.25 No.1 2003年2月 Journal of University of Science and Technology Beijing Feb.2003 用简单动态递归网构造固体散料流量模型 赵林惠) 郑德玲” 尹众四 1)北京科技大学信息工程学院，北京1000832)北京航空航天大学自动化与电气工程学院，北京100083 摘要提出了用简单动态递归网来建立固体散料流量模型.针对动态递归网结构复杂，训 练算法收敛速度慢的缺点，采用一种结构十分简单的递归网.对RPE算法进行了改进和补充， 使之适用于简单递归网，用来对网络的权值和阈值进行调整.建模结果表明此方法收敛速度 快，精度高. 关键词动态递归网；RPE算法；散料流量 分类号TP183:TP273,5 神经网络由于具有理论上能逼近任意非线 f(S) 性函数的能力，而被广泛用于非线性系统建模. 传统的前馈神经网络属于静态网络，在处理非线 D 性动态系统的应用中存在很多问题，特别是常用 y fS) 于训练前馈神经网络的梯度下降法由于收敛速 度慢，而使得前馈网不适于实时应用.近年来，递 D 归神经网络的研究有了很大发展，与前馈神经网 (S 络相比，它是动态网络，利用网络的内部状态反 馈来描述系统的非线性动力学特性，能更直接地 D 反映系统的动态特性，但动态递归网络由于结构 图1 SRNN拓扑结构 Fig.1 Topological Architecture of SRNN 复杂，同样存在训练算法收敛速度慢的问题，因 此适于实时应用的动态网络必须具有简单的结 认为是一个一步时延算子，其拓扑结构与DRNN 构和较快的收敛算法 非常相似，只不过隐层单元的自反馈权值为1. 基于以上要求，本文采用一种简单递归神经 设网络的第i个外部输入为x,(),S(k)为隐 网s络(SRNN-Simple Recurrent Neural Network)", 层第j个神经元的输人和，O()为隐层第广个神 网络权值和阈值的学习采用预报误差(RPE)算 经元的输出，网络的输出为(k),b和b2分别为 法，由于SRNN具有非常简单的结构，需要调 隐层和输出层的阈值，W和V分别表示输入层 整的参数比较少，因而大大减少了计算量，缩 到隐层和隐层到输出层的连接权矩阵.则： 短了训练时间，可以很快的得到准确的散料流量 S)=∑w,xk)+Ok-1)+bk) (1) 模型. 其中O,k)=fSk) k)-ΣyO(k+b.() (2) 1简单递归神经网络 其中，f·)为Sigmoid型函数.不难看出，若用w°表 目前在实际中应用较多的是对角递归神经 示DRNN隐层的权矩阵，则DRNN的数学模型与 网络(DRNN).在此基础上，将内部权值进一步 SRNN的区别仅仅是S(k)表达式有所不同： 简化，使得隐层单元的自反馈权值为1，这样就 S(kwx()+wO,(k-1)+b附 (3) 得到了SRNN,如图1.SRNN由输入层、隐层和输 若令W为单位阵，即不加权，则DRNN的数学模 出层组成，隐层的每个神经元都带有自反馈，可 型就与SRNN相同.所以可将SRN看成是 收稿日期20020106赵林惠女，29岁，硕士 DRNN的特例.只是SRNN的结构更加简单，所第 卷 第 期 年 月 北 京 科 技 大 学 学 报 、勺】 用 简单 动态 递 归 网构 造 固体 散料流 量模型 赵 林 惠 ” 郑德 玲 ” 尹 众 ， 北京科技 大学 信息 工 程 学 院 ， 北京 北 京航 空 航 天 大 学 自动化 与 电 气 工 程 学 院 ， 北 京 摘 要 提 出了用 简单动 态 递 归 网来 建立 固体散料流 量 模 型 针 对 动态 递 归 网结 构 复 杂 、 训 练算法 收敛速度 慢 的缺点 ， 采用一 种结构十分 简单的递归 网 对 算 法进行 了改进 和补 充 ， 使之适 用 于 简单递 归 网 ， 用来对 网络 的权值和 闭值进 行调 整 建模结果 表明此 方 法 收敛速 度 快 ， 精度 高 关 键 词 动态递 归 网 算法 散料流量 分类 号 神 经 网络 由于 具有 理 论 上 能 逼 近 任 意 非 线 性函 数 的能 力 ， 而被 广 泛 用 于 非线 性 系统 建模 传统 的前馈 神经 网络 属 于静态 网络 ， 在处 理 非线 性 动态 系统 的应 用 中存在很 多 问题 ， 特别是 常用 于 训 练前馈 神 经 网络 的梯 度 下 降法 由于 收 敛 速 度慢 ， 而使得前馈 网不 适 于实 时应用 近 年来 ， 递 归神经 网络 的研究有 了很 大发展 ， 与前馈 神经 网 络相 比 ， 它 是 动态 网络 ， 利用 网络 的 内部 状 态 反 馈来描述 系统 的非 线性 动力 学 特性 ， 能更 直接地 反 映 系统 的动态特性 但 动态递 归 网络 由于结构 复杂 ， 同样存在 训 练 算法 收敛 速 度 慢 的 问题 ， 因 此 适 于实 时应 用 的 动 态 网络 必 须 具 有 简 单 的结 构 和较快 的收敛 算法 基 于 以 上 要 求 ， 本 文采 用 一 种 简单递归 神经 网络 一 坎 ‘，，， 网络权值和 阑值 的学 习采 用 预 报误差 算 法 由于 具 有非 常简单 的结 构 ， 需 要 调 整 的参 数 比较 少 ， 因而 大 大 减 少 了计算 量 ， 缩 短 了训 练 时 间 ， 可 以 很快 的得 到 准确 的 散料流量 模 型 图 拓 扑结 构 认 为是 一 个一 步 时延 算 子 其拓 扑结 构 与 非 常相 似 ， 只不 过 隐层 单元 的 自反 馈 权 值为 设 网 络 的 第 个 外 部 输 入 为 ， ， 尽 为 隐 层 第 个 神 经 元 的输 入 和 ， 为 隐层 第 个 神 经 元 的输 出 ， 网络 的输 出为 只 ， 。 和 ， 分别 为 隐层 和 输 出层 的 阂值 ， 砰 和 分 别 表 示 输 入 层 到 隐层 和 隐层 到输 出层 的连 接权 矩 阵 则 况 一 丢毗 · ， 一 ’ 脚 其 中 凡 简单 递 归神 经 网 络 目前 在 实 际 中应 用 较 多 的是 对 角 递 归 神 经 网络 在 此基 础 上 ， 将 内部权值进 一 步 简化 ， 使得 隐层 单元 的 自反 馈 权值 为 ， 这样 就 得 到 了 ， 如 图 由输人层 、 隐层 和输 出层 组 成 ， 隐层 的每个神经 元都带有 自反 馈 ， 可 收稿 日期 刁 一 赵林 惠 女 ， 岁 ， 硕 士 艺 · 十瓦 翌 其 中 ， · 为 型 函数 不难看 出 ， 若用 肥表 示 隐层 的权矩 阵 ， 则 的数学 模 型 与 的 区 别 仅 仅 是冬 表 达 式 有 所 不 同 冬 一蓦玛 · 兀 衅 · ， 一 ‘ 仄 若令 肥 为单位阵 ， 即不 加权 ， 则 的数学模 型 就 与 相 同 所 以 可 将 刊 看 成 是 的特 例 只 是 的结 构 更 加 简 单 ， 所 DOI ：10．13374／j ．issn1001－053x．2003．01．022