·804 北京科技大学学报 2003年第1期 要调整的权值数较少，因而训练网络所需的计算 量的输人，输出值作为训练样本组；③输入一个 量较少，可节省训练时间 训练样本，按式(2)计算SRNN的隐层节点输出O 和输出层节点y;④按式(6(9)构成⊙)阵；⑤按 2SRNN的RPE学习算法 式(4)求()，P),Ok),对权值和阈值进行修改； RPE算法为一种通过极小化预报误差来获 ⑥输入另一个训练样本，返回③，直到训练样本 用完，至此完成一步训练；⑦调整学习率)，仍 取参数估计的方法，由于利用了高阶导数信息而 用原训练样本组返回③进行第二步训练，直到 使得该算法收敛速度较快，本文在文献[3]的基 收敛 础上，推导出SRNN的RPE算法，并进行了一些 本文的公式增加了对阈值的调整方法，可以 补充和改进.基本RPE算法如下： 同时训练网络的权值和阙值.另外，原算法虽然 1e()=y()-) 在参数的调整公式中增加了学习率(k),但没有 Pk-1)以k) M=+v(k)P(k-1g衣丙 指出a(k)在训练时应如何调整，而a(k)对于网络 (4) Pr-MwPAk-) 的收敛速度有很大的影响，因此本文在这方面做 了一些尝试.由于递归网是在前馈网的基础上增 ⊙(k)=⊙k-1)+a(k)-P(k)w)e(k) 加反馈单元构成的，而前馈网的经典算法是BP 参照图1，设SRNN的结构为(M,H,I)即输入 算法，因此本文考虑采用BP算法中对于学习率 层、隐层和输出层的神经元个数分别是M,H和1 的调整规则： 个，其期望输出为Y,取性能指标函数为 (1)若总误差E减小（即新误差比老误差小）， E=r-亦 (5) 则学习速率增加（例如将实际值乘以因子 然后就可以按RPE学习算法对网络的参数 =1.05）. 进行训练，求得最优权值W,V和阈值B,b,使 (2)若总误差E增加（即新误差比老误差大）， 得E取得最小值.[⊙]的元素由待求的权值和阈 则学习速率诚小.当新误差与老误差之比超过一 值组成： 定值（例如1.04），则学习速率快速下降（例如将实 [⊙]=[w,,B,b]T 际值乘以因子b=0.7). 相应的⊙)=[dk⊙)/d⊙]中的元素为： dydydydy [叫=[w而， 3应用结果 其中，i=1,2,,M;广=1,2，，H.待求值共有H 随着自动化水平的不断提高，实现对固体散 (M42)+1个. 料流量在线计量控制和配比，对于散料生产、运 下面由SRNN的数学模型推导出)阵中 输和储备工艺控制和管理越来越重要. 各元素的具体表达式 固体散料流量控制器的工作原理如图2.散 0图-ye) ⑦y=⑦w 料由变截面料斗流入，经流体调整槽调整物料流 dw (6) y=O(k) 量和流动状态后，冲击冲板，流动物料的质量由 Ov, 传感器检出并转换成电信号，该信号送入控制箱 O(K=vG,(k) -=v0bv oby 的计算机系统处理显示.根据用户设定的流量 (7) 器1 值，智能流量调节系统按本系统数学模型进行调 节，并驱动板阀执行系统调节料斗截面，使流量 式中， 达到设定值.为对其进行建模，共采集250组数 e(-aOA=fS-[x(+2,k-】 (8) 据，其中200组数据作为训练样本，另外50组 00)=0 作为测试数据.为作比较，分别用本文推导出的 G肉=98-e+Gk-】 (9) RPE算法和递归网常采用的动态BP算法进行建 综上所述SRNN的RPE学习算法步骤如下： 模.在RPE算法中，还从每步训练时调节和不调 ①初始化权值、阈值和所有的其他参数W, 节学习率对建模结果进行了比较. V,B,b,P0),1(0),,a(0)为适当的值；②取一定数 为直观方便，引入EI值进行对比：北 京 科 技 大 学 学 报 年 第 期 要 调 整的权值数较少 ， 因而训练 网络所需 的计算 量 较少 ， 可 节 省训 练时 间 的 学 习 算法 算 法 为 一 种 通 过 极 小 化 预 报 误 差 来 获 取参数估计 的方 法 ， 由于 利用 了高 阶导数信息而 使得该算法 收敛 速度较快 本文 在 文献 的基 础 上 ， 推导 出 的 算法 ， 并进行 了一些 补充 和 改 进 基本 算法 如下 六 斌 二 双 十旷 劝尸 一 试 的一 渝 · 、 〕 · 一 ， 酬 二 曰 一 · 试 参照 图 ，设 的结 构 为 从 ， 即输 人 层 、 隐层 和输 出层 的神经元个数分 别是 ， 和 个 ，其期 望输 出为 ， 取性 能指标 函数为 一 粤〔卜勿 乙 然后 就 可 以按 学 习算法 对 网络 的参数 进 行训 练 ， 求得 最优权值 甲 ， ’ 和 阂值斌 ， 从 ， 使 得 取 得 最 小 值 〔剑 的元 素 由待求 的权 值和 阑 值 组 成 〔日卜 【砚 ‘ ， 兀 ， ， 〕 相 应 的 蛾动 二 ， 动 创 中的元 素为 量 的输人 、 输 出值作 为训 练样 本组 ③输人 一 个 训 练样本 ， 按式 计算 的隐层 节 点输 出 和输 出层节 点 ④按 式 卜 构 成 叭曰 阵 ⑤按 式 求 ， 洲幻 ， 酬 ， 对权值 和 阂值 进行 修 改 ⑥输 人 另 一 个训 练样本 ， 返 回③ ， 直 到训 练样本 用 完 ， 至此完 成一 步训 练 ⑦ 调 整 学 习率 ， 仍 用 原 训 练样 本 组 返 回③进 行第 二 步 训 练 ， 直 到 收敛 本 文 的公式增 加 了对 阑值 的调 整 方法 ， 可以 同时 训 练 网络 的权值 和 阑值 另 外 ， 原算法 虽 然 在参数 的调 整公式 中增 加 了学 习率 ， 但没 有 指 出 在 训 练 时应 如何 调 整 ， 而 对 于 网络 的收敛速度有很 大 的影 响 ， 因此 本文 在这 方 面做 了一些 尝试 由于递 归 网是在前馈 网的基 础 上增 加 反馈单元 构成 的 ， 而前馈 网 的经 典算法 是 算法 ， 因此本 文考 虑 采 用 算 法 中对 于 学 习 率 的调 整规 则 侈， 若 总误差 减小 即新误差 比老误 差 小 ， 则 学 习 速 率 增 加 例 如 将 实 际 值 乘 以 因 子 若 总误差 增 加 即新误差 比老误差 大 ， 则学 习 速率减小 当新误差 与老误差 之 比超 过 一 定值 例 如 ， 则 学 习速率快 速 下 降 例 如将 实 际值乘 以 因子 、州 。 日 刁 己 己 ， ， 岁」 万亡丁 ， 万忿 一， 飞 ， 飞 片」 ’ 岭 “ 叮 目 其 中 ， ， ， … ， ’ 二 ， ， … ， 待 求 值 共 有 几介 个 下 面 由 的数学模 型 推导 出 蛾动 阵 中 各元 素的具体表达 式· 黔 一 ，， ‘ 、 · 黔 一 、 · 、 斋 加布 加布斋 、性‘， 式 中 ， “ 一 黔 一 厂低‘ ， · 〔·‘ ‘ ‘ ‘ 一 ‘’〕 浅 ， ‘“ 伏 一 德蓄 乙 一 况 ’ ’十 一 ‘ 综上 所述 的 即 学 习算法 步 骤 如 下 ① 初 始 化 权 值 、 阂 值 和 所 有 的 其 他 参 数 尸 ， 叱丑 ， ，尸 ， 几 ， 揭 ， 为适 当的值 ②取 一 定 数 应 用 结 果 随着 自动化水平 的不 断提 高 ， 实现 对 固体散 料 流 量在线计量 控制 和 配 比 ， 对 于散 料 生 产 、 运 输 和储备工 艺 控制 和 管理 越 来越 重 要 固体散 料流量 控 制器 的 工作 原 理如 图 散 料 由变截 面料 斗流 人 ， 经 流体调 整槽 调 整 物料 流 量 和 流 动状 态 后 ， 冲击 冲板 ， 流 动物 料 的质量 由 传感器检 出并转换成 电信号 ， 该信号送 人控 制箱 的计算机 系统 处 理 显 示 根 据 用 户设 定 的 流 量 值 ， 智能流量调 节 系统按本 系统数学 模 型进 行调 节 ， 并驱 动 板 阀执 行 系统调 节料 斗 截 面 ， 使 流量 达 到设定值 为对其进行 建模 ， 共采 集 组 数 据 ， 其 中 组 数据作 为训 练样 本 ， 另外 组 作 为测试数据 为作 比较 ， 分别用 本 文 推导 出的 即 算法 和递 归 网常采用 的动 态 算法 进 行建 模 在 算法 中 ， 还 从 每 步训 练 时 调 节 和不 调 节 学 习率对建模结果 进 行 了 比较 为直观方便 ， 引人 值进行对 比 ︸ 、少声、‘ 叹 ‘了