·174· 北京科技大学学报 1997年第2期 为误差信号E,根据这个误差值，自动调节学习系统权值W,使得误差最小，达到实际输出与 期望输出一致，学习过程结束， 1.2神经网络的BP算法 BP网络算法包含前馈计算阶段和反向调整权值阶段，运行是单向的，它是一个非线性映 射系统. (I)BP算法的前馈计算. BP网络输出值由于连接权值的不同而被放大，衰减或抑制.除了输人层外，每层神经元 的输人为前一层所有神经元输出值的加权和，设某层中第j个神经元的总输人为netj,即： netj=∑WO, (1) 式中O为前一层i神经元的输出；W为i神经元与神经元的连接权值， 0=f(netj)=T+e-nt 1 (2) 此时的O通过权值和公式(1)作为一层神经元的输出之一.如果神经元j是输出层，则O就是 网络的实际计算输出，它与所期望的输出y相比较而求其差值.此误差信号将从输出端反向 传播回去，并且在传播的过程中对权值不断修改. (2)误差反向传播修改权值. 如果任意设置网络初始权值，那么对每个输人训练样本P代P=1,2,,),训练集包含n 个样本模式，网络输出与期望输出一般总有误差.根据网络的最小二乘平方误差函数修改权 值.其误差E为： E=112)∑0-0) (3) =1 式中，y,为网络的输出期望值；O,为网络的输出计算值；为训练样本总数. 权值的修改应使误差E减少，即网络的权值应沿E函数梯度下降方向（负梯度方向）修 改.若权值W的变化量记为△W,则： E △Wn=-naW (4) 式中，”为学习速率. 对于学习精度较低的问题，可用较大的学习速率？值收敛；对于学习精度要求较高的问 题，学习速率不宜取得过大，一般在0.7以下，否则振荡较大， 偏微分项正可以用下式求出： ow aE-aE.dney、aE, (∑W,O) oW,Oncyow=Oney ∂w=-d,0, (5) 式中，δ为平方误差相对于单元j的变化率.所以有： △W=70,0 (6) 当O表示输出层单元的输出时，其误差为：北 京 科 技 大 学 学 报 年 第 期 为 误差 信 号 ， 根 据 这 个误 差 值 ， 自动 调 节 学 习 系 统权 值 琳 使得 误 差 最 小 ， 达 到 实 际输 出与 期望 输 出一致 ， 学 习过 程 结 束 神经 网络 的 算法 网络算法 包含 前馈 计算 阶段 和反 向调 整 权值 阶段 ， 运行 是 单 向的 ， 它是 一个 非线性 映 射 系 统 算法 的前馈 计算 网 络 输 出值 由于 连 接 权值 的 不 同而 被 放 大 、 衰 减 或 抑 制 除 了输 人 层 外 ， 每 层 神经元 的输人 为 前 一层所 有 神 经元 输出值的加 权 和 设某 层 中第 个神经元 的总输人 为 ， 即 ‘ 艺叱 式 中 为 前 一层 神经元 的输 出 叱为 神经元 与 神经元 的连接权值 · 一 二 一共 下不 一 十 此 时 的 通 过权值和公 式 作 为一 层 神经元 的输 出之 一 如果 神经元 是 输 出层 ， 则 就是 网络 的实 际 计算 输 出 ， 它 与 所 期 望 的输 出 乃相 比较 而 求 其 差 值 · 此 误 差 信号 将 从 输 出端 反 向 传播 回 去 ， 并 且 在传播 的过程 中对权值不 断修改 误差 反 向传播 修 改权值 如 果 任 意 设 置 网络 初 始 权值 ， 那 么 对每 个输 人 训 练 样 本 介 ， ， · … ， ， 训 练 集 包 含 。 个样 本模 式 ， 网络输 出 与期 望 输 出一 般总有 误差 根 据 网络 的最 小 二 乘平 方 误 差 函 数修改权 值 其误差 为 一 ，‘ ， 粤 ，仇一 ， 式 中 ， 乃为 网络 的输 出期望 值 件为 网络 的输 出计算值 为训 练样 本总 数 · 权值 的修 改 应 使 误 差 减 少 ， 即 网络 的权值 应 沿 函数梯 度 下 降方 向 负梯 度 方 向 修 改 · 若权值 叽的变 化量 记 为 △哄 ， 则 △附即 刁 一 粉百丽…夕 式 中 ， 刀 为学 习 速 率 对于 学 习精 度 较低 的 问题 ， 可 用 较 大 的学 习速 率 叮 值 收敛 对于 学 习精度要 求 较 高 的 问 题 ， 学 习速 率不宜 取 得 过 大 ， 一般在 以下 ， 否 则振 荡较大 ，。 ‘ ，、 裕 刁 。 ，、 ， 二 一 小书 ， ， 明田 屈戈刀 ， 代只不 丁 曰 贬夕 月」 丫工、 声抓 〔刀 二 邝产 夕 刁 刁 。 峨 一 。 梦 。 二代 ， 刁附 一 占 ， 口一气 ‘一不一朽， 一州︺八 口一，﹃ 一」一份 一︸口八 式 中 ， 氏为平 方误差 相 对于 单元 的变化率 · 所 以 有 △叱 。氏 当 表示 输 出层 单元 的输 出时 ， 其误差 为