D0I:10.13374/j.issn1001053x.1997.02.017 第19卷第2期 北京科技大学学报 Vol.19 No.2 1997年4月 Journal of University of Science and Technology Beijing Apr,1997 知识“溶化”技术及无搜索快速求解 智能系统的建立* 郑德玲 李擎 北京科技大学自动化信总工程学院,北京100083 摘要介绍了一个模糊神经网络专家系统研究了知识的“溶化技术,即导人算法,无搜索快速推 理、导出算法,并对用三分法确立输人变量隶属函数及模糊规则求精作了有益的研究.用以上理 论对连续推钢式加热炉进行控制,控制效果较为理想. 关键词专家控制,状态识别,神经树络,模糊逻辑 中图分类号TP18 过程控制中的某些系统具有时变性、非线性、模糊性,难以精确建模,为此专家控制开辟 了一条新途径.但由于传统的专家系统存在着知识获取的“瓶颈”,即知识“窄台阶”,推理能力 弱,智能水平低等缺点,使其应用大受限制.模糊系统善于描述和利用经验知识,而神经网络 善于直接从数据中进行学习~引.由于二者用不同的方法来模仿人的智能,突出了人的智能 的不同侧面,具有很强的互补性,因此构成一种新型的模糊神经网专家系统,对智能控制是十 分必要的. 1知识表示 1.1三分法确定隶属函数的基本思路 在过程控制中包含许多不确定性知识,本系统用隶属函数和模糊规则来表示系统的不确 定性知识,并提出用三分法来确定本系统输入变量的初始隶属函数.三分法是用随机区间的 思想来处理模糊性的试验模型.它的基本思路是:设论域为X,其上有3个模糊集AA,A· 设5是A和A,的分界点,7是A和4的分界点.将(化,)看作1个二维随机变量,通过抽样调 查,由所得的数据求出5,n的概率分布PmP,然后根据定理1,即可求出3个模糊集的求 属函数4,((i=1,2,3)· 定理1设(仁,)是满足P(化≤)=1的随机向量,对(G,)的每1次取点,都连着1个映射 e5:X-P={444. 4 X≤5 '(5,7)9 5n 1996-08-06收稿 第一作者女57岁教授 *国家自然科学基金资助项日
第 卷 第 期 年 月 北 京 科 技 大 学 学 报 。 知识 “ 溶化 ” 技术及 无搜索快速求解 智能系 统 的建立 郑德玲 李擎 北 京 科 技 大 学 自动 化 信息 工 程 学 院 , 北 京 摘要 介绍 了一 个模糊 神经 网络 专家 系统 研究 了知 识的 “ 溶 化 ” 技术 , 即 导人算法 、 无搜索快速 推 理 、 导 出算 法 , 并 对用 三 分 法 确 立 输人 变量 隶 属 函 数及 模糊规则求精作 了 有益 的研究 用 以 上 理 论 对连续推钢 式加热炉 进行控 制 , 控 制效果较 为理 想 关键词 专家控制 , 状态 识别 , 神经 网络 , 模糊逻 辑 中图分类号 过 程 控 制 中 的某 些 系 统具 有 时 变性 、 非 线 性 、 模 糊 性 , 难 以 精 确 建 模 , 为此 专家控 制 开辟 了一条新 途 径 但 由于 传 统 的 专家 系 统存在 着 知 识获取 的 “ 瓶 颈 ” , 即知识 “ 窄台 阶 ” , 推理 能力 弱 , 智 能 水 平 低 等 缺点 , 使 其 应 用 大 受 限 制 模 糊 系 统 善 于 描 述 和 利 用 经验 知 识 , 而 神 经 网络 善 于 直 接 从 数 据 中进 行 学 习 一 ’ 〕 由于 二 者 用 不 同的方 法 来模仿人 的智能 , 突 出 了人 的智 能 的不 同侧 面 , 具 有 很 强 的互 补性 因此 构 成 一 种新 型 的模糊 神经 网 专家 系统 , 对智能控 制是 十 分 必 要 的 知 识表示 三分法 确定 隶属 函数的基本思路 在过 程控 制 中包含 许 多 不 确 定性 知 识 , 本 系统 用隶 属 函数 和模 糊 规则来 表示 系统 的不 确 定 性 知 识 , 并 提 出用 三分 法 来 确 定 本 系 统 输人 变 量 的 初 始 隶属 函 数 三 分法是 用 随机 区 间 的 思 想 来 处理 模 糊 性 的 试验 模 型 · 它 的 基 本思 路 是 设论 域 为 , 其 上 有 个模 糊 集乙 , 生 , 卫 。 · 设 心是 乙和 丝的分 界 点 , 。 是 选和 乙的分 界 点 · 将 奋川看作 个二 维 随机 变量 · 通 过抽 样 调 查 , 由所 得 的数据求 出七 , 。 的概率 分 布 代 、 、 , 气 《 、。 · 然后 根 据定理 , 即可求 出 个模糊 集 的隶 属 函 物 , , , · 定 蓬 设 传 , 功 是 满足 尸 ‘ 二 帕 一 的随机 向量 , 对 ‘ , 功 的每 次取 点 , 都连 着 个 映射 七 , 。 神 尸 一 一 , 月 七 , 粉 习 ︸乙从 曰 一 一 收 稿 第一 作 者 女 岁 教授 国 家 自然科 学 基 金 资助 项 目 DOI :10.13374/j .issn1001-053x.1997.02.017
Vol.19 No.2 郑德玲等:知识“溶化技术及无搜索快速求解智能系统的建立 。197· 由此模糊统计试验所确定的A,A,A,的隶属函数为: +0 严g)=J.Pdr 4,(=」nP,9dv (2) 44(9=1-4,(9-4(9 其中:P(),P(分别为5,n的边缘分布密度,通常5,n具有正态分布.设5为N(a,a,),n为 N(a2,c),则上述隶属函数转化为: 4(=1-[x-a)1oJ 4=[(x-a,)/o]-[(r-a)1o,J (3) (9=[(r-a,)/o] 其中:N(u,o),N(a,o)表示5,n服从正态分布;a,a,分别为5,n2个正态分布函数的均值: σ0分别为5,n2个正态分布函数的标准差(9= (2。/2)d为正态分布密度函 数.用三分法确定的隶属函数为初始隶属函数,将其存入隶属函数库,不断地进行调整, 1.2规则表示 Rule l:If x is 4,and x,is 4,and x Then is B. 其中,x表示加热炉均段炉温,x表示加热1段炉温,x,表示加热Ⅱ段炉温,x4表示炉压; A,={“低”,“正常”,“高"};y,表示均热段的流量,少表示加热I段的流量,y表示加热Ⅱ段流 量,y:表示烟道闸门开度;B={“增大”,“保持不变”,“减小}.求属函数库和规则库总称为知 识库,此库不用于推理,只用来解释系统的推理过程. 2推理机制 2.1推理网络结构 如图1所示,它由输人层、前 均热段燃料加热I段燃料加热Ⅱ段燃料烟道闸门开 流量的改变量流量的改变量流量的改变量度的改变量 提隶属函数层、前提层、规则层、 结论层和清晰化层组成, (1)导人算法. 如何将初始隶属函数和模 糊规则转化到该网中,可通过导 人算法,具体实现如下: 1)建立前件隶属函数的子 神经网络. 2)根据1)建立的子网生成 每1条模糊规则的子神经网,如 均热段温度加热I段温度加热Ⅱ段温度 炉压 图1推理网络结构图
】 郑德玲等 知 识 “ 溶化 ” 技 术 及 无搜索快速求解智 能系统 的建立 由此模糊 统计 试验 所确 定 的 , , , 的隶 属 函 数 为 一 厂 ’ 。 叼、 一 工 。 。触 其 中 代 , 气 气 一 一 与 一 性 分 别 为 , 叮的边 缘分布密度 , 通 常参叮具有 正 态 分 布 · 设 为 , , 刀为 , , 母 , 则 上 述 隶属 函 数转 化 为 群乃 习 一 一 必 一 产 , , 一 价 一 一 沪 一 拜 」 沪 一 , , 其 中 , , 表示 参。 服 从 正 态分 布 “ , “ 分 别 为 参。 个 正 态分 布 函 数 的均值 ,沁 ““ “ , 。 个 正 态分 “ 函” 的标准” , 一 丁言一 ‘ 山 “ 正 态分“ 密度 函 数 用三分法 确定 的隶 属 函数 为初 始隶 属 函数 , 将其存人 隶 属 函数库 , 不 断地 进 行 调 整 规则表示 戈 , 凡 月 ” · 戈 , 夕, · 其 中 , , 表示 加 热 炉 均 段 炉 温 , 表 示 加 热 段 炉 温 , ,表 示 加 热 段 炉 温 , 表 示 炉 压 ‘ 二 “ 低 ” , “ 正 常 ” , “ 高 ” ,表示 均 热段 的流量 , 表示 加热 段 的流量 , 。表示 加 热 段 流 量 , 表示 烟 道 闸 门开 度 双一 “ 增 大 ’ , “ 保持 不 变 ’ , “ 减 小 ’ 隶 属 函 数库 和 规则 库 总称 为 知 识库 , 此 库不 用于 推理 , 只 用来解 释 系 统 的推理 过 程 推理机制 推理 网络 结构 如 图 所 示 , 它 由输人层 、 前 提 隶 属 函 数 层 、 前 提 层 、 规 则 层 、 结论层 和 清晰 化层 组 成 导人算 法 如 何 将 初 始 隶 属 函 数 和 模 糊 规则 转 化 到 该 网 中 , 可 通 过 导 人 算 法 , 具 体 实现 如下 建 立 前 件 隶 属 函 数 的 子 神 经 网络 根 据 建 立 的 子 网 生 成 每 条 模 糊 规 则 的 子 神 经 网 , 如 均 热段燃料 加 热 段燃 料 流 量 的 改 变量 流 量 的改 变量 加 热 段 燃 料 烟 道 闸 门开 流 量 的改 变量 度 的改 变 量 均 热段 温 度 加 热 工段 温 度 加 热 段 温 度 图 推理网络结构 图 葵 压
·198· 北京科技大学学报 1997年第2期 图2所示.x,x分别表示均热 段炉温、加热Ⅱ段炉温,y,表示 -882371.0 均热段流量,Increased表示“流 1.0 量增加”.这样使用导入算法, 2.91 一Increased(流量增加) 便将本系统解释知识库中的知 7.820 1.0 识,以分布式的方式存储于网 1.0 中,称为神经网知识库. 9.4601.0 6.20 3)优化及清晰化所有子 图2实况模糊规则的子神经系统 神经网络,形成结果神经网络, 各模糊规则子网络加上结论层和请晰化层,便生成了结果神经网.结论层的连接应完成 模糊“或”运算,但这样会给知识的获取和知识库的组织带来额外负担,为此,本文提出“信念 传播”观点,即具有相同结论的所有规则,都应对推理结果有影响,只是影响的强弱不同而已, 为了能最大限度地利用结论的模糊信息,构造了重心法来实现模糊量的清晰化过程. (2)隶属函数的修改和模糊规则的求精. 一旦将模糊规则和隶属函导入神经网络,就可用该网络解决实际问题.然而,一般情况下 用初始权值的结果是不能令人满意的,必须通过学习实现模糊规则结论可信度的修改,称为 模糊规则的求精.具体实现如下:1)令1(m为训练样本序号)(2)输入第m个训练样本;(3) 将网络输入转换成输出;(4)误差反传.下面计算各层. 层6:清晰化层.令h,和d,分别表示第i个输出变量各隶属函数的中心点(平均值)和宽度 (方差),a是第5层第广个神经元的输出,则: FS)=S1∑d.g (4) 其中,S,=∑Wa=∑(h,d)a;a是第5层第j个神经元的输出. 误差函数 。-11220-0 (5) 其中y,是第i个输出结点的期望值,0,是第i个输出结点的实际值,N为网络总的输出结点数, 根据BP学习公式和式(I),(2),经过计算(过程略),结论隶属函数的中心点和宽度的更新量 为: △hu a(s,-o)d,as (6) ∑d,a 和 h,a∑d,)-(∑hd4)a △d,=aG,-o) (7) (∑d, 向前传播的误差: e=,-0, (8) 其中,a为学习率. 层5:结论层.误差为:
北 京 科 技 大 学 学 报 年 第 期 图 所 示 , 戈 分 别 表 示 均 热 段 炉 温 、 加 热 段 炉 温 , 表 示 均 热 段 流 量 , 表 示 “ 流 量 增 加 ” 这 样 使 用 导 人 算 法 , 便将 本 系 统 解 释 知 识 库 中 的 知 识 , 以 分 布 式 的 方 式 存 储 于 网 中 , 称 为神 经 网知 识库 优 化 及 清 晰 化 所 有 子 神经 网络 , 形 成 结果 神 经 网络 流量增 加 图 实况模糊规则 的子神经系统 各模 糊 规则 子 网络 加 上 结 论层 和 清 晰 化 层 , 便 生 成 了结 果 神经 网 结 论层 的连 接应 完成 模糊 “ 或 ” 运 算 但 这 样 会 给 知 识的获 取 和 知 识库 的组 织 带来 额 外 负担 为 此 , 本 文 提 出 “ 信 念 传播 ” 观 点 , 即具 有 相 同结论 的所 有 规则 , 都应 对推理 结果 有影 响 , 只是 影 响的强 弱不 同而 已 为 了能 最 大 限度地利 用结 论 的模 糊 信息 , 构造 了 重心 法来 实现模 糊 量 的清晰化过 程 隶 属 函数 的修 改 和 模 糊规则 的求精 一旦 将模糊规则 和 隶属 函 导人 神经 网络 , 就 可 用 该 网络解 决实 际 问题 然 而 , 一般情 况下 用 初 始 权值 的结 果 是 不 能 令 人 满 意 的 , 必 须通 过 学 习 实现 模 糊规则 结 论 可 信 度 的修 改 , 称 为 模糊规则 的求 精 具体 实现 如 下 令 , 】 为训 练样 本序号 输人第 个训 练样 本 将 网络输人转换成 输 出 误 差 反 传 下 面 计 算 各层 层 清 晰化层 · 令 气和 试分 别表 示 第 个输 出变 量 各隶 属 函 数 的 中心 点 平均值 和 宽度 方差,可是 第 层 第 个神 经元 的输 出 , 则 习 一 尽 艺气可 其中 , , 一 艺叫可 一 艺 。气 “ 夕‘ “ 夕是 第 层鞠 个 神经元 的输 出 · 误差 函数 “ 一 ’ ‘ , 菩任 ‘ 一 , 其 中夕 ,是 第 个输 出结 点 的期望 值 , 。 , 是 第 根 据 学 习 公式 和 式 , , 经 过 计算 为 个 输 出结 点 的实 际值 , 为 网络总 的输 出结 点 数 过 程 略 , 结 论 隶 属 函数 的 中心 点 和 宽度 的更 新 量 △ 一 “ 了 试 ,刃 叉凡可 △ , 妙 ‘ 一 。 , ,, 夕工试 ,可 一 艺 ,试 , 夕夕 艺试 , 夕 向前 传播 的误 差 其 中 , 为学 习 率 层 结论层 误 差 为 砂一 夕 ‘ 一 代
Vol.19 No.2 郑德玲等:知识“溶化”技术及无搜索快速求解智能系统的建立 199· h,4,∑da9-(∑h,a)d e,=e (9) (Σda 权的更新量: △W=a.e.a (10) 阈值的更新量: △C=a.e (11) 层4:规则层及层3:前提层.没有要修改的参数,仅需计算要传递的误差量. 层2:前提隶属函数层.该层误差量为: e2=(∑e.W).Fx)-[I-Fx】 (12) 其中F(x)为该层第i个神经元功能函数. 权的更新量为:△W=a.e2.a 阈的更新量为:△C=a.e. 最后结论的权值和阈值修正为: W(I+I)=W()+△0 (13) C=C()-△C() (14) 这样便实现了模糊规则的求精. (3)导出算法. 主要用来解释本系统的推理过程,步骤如下: 1)从规则层中选择规则元; 2)从整个网中抽出实现该规则的子网; 3)根据子网翻成一条模糊规则,利用实现隶属函数的子网修改隶属函数库中相应的隶属 函数; 4)若神经网络不空,转(1),否则结束, 纵观以上可看出,该系统推理有别于传统专家系统,能实现不需要匹配规则的模糊推理 3推理网在加热炉控制中的应用 为了提高推理速度,本系统的工况分为5类,故推理网由5个推理网络块组成,5个推理网 络块具有相同的输入层,不同的规则层,共用前提隶数层、前提层,结论层和清晰化层.以“加 热炉温度低”为例,此时系统输人输出关系由13条模糊规则描述: Rulel:IF x is Low and x is Normal THEN is Increased. Rule13:IF is High THEN y is Decreased. 应用导人算法将上述全部规则导人神经网,形成推理网块,利用已知的训练样本,进行训 练.训练后抽取的模糊规则为: Rulel:IF x,is Low and x,is Normal, THEN y,is Inceased WITH 0937. 整个训练结束后,就可用来推理,方法如下:
郑德 玲 等 知 识 “ 溶化 ” 技 术 及 无搜索快速求解 智能 系统的 建立 。 试 , 艺城 , 夕 一 工 。 夕气 艺气 “ 尸 权 的更新 量 阂值 的更 新 量 层 规则层及 层 前提 层 没有要 修 改 的参数 , 仅需 计算 要 传 递 的误 差量 层 前 提 隶 属 函数层 该层 误差 量 为 尹一 工 户 · 城 , · · 一 戈 其 中 凡 , 为该层 第 个 神经 元 功能 函 数 权 的更新 量 为 △ 叱 一 好 · “ 六 阂 的更新 量 为 △ 拼 二 好 · 最后 结论 的权值 和 阂值修 正 为 叱 ‘ 一 叱 △ 啾 叮 拼 一 △ 这样便 实现 了模 糊 规则 的求精 导 出算 法 主要 用来 解 释 本 系 统 的 推理 过 程 , 步骤 如下 从规则层 中选 择规则元 从整 个 网 中抽 出实现 该规则 的子 网 根 据 子 网翻 成 一条模 糊 规则 , 利 用实 现 隶属 函 数 的子 网修 改 隶 属 函 数 库 中相 应 的隶 属 函数 若神 经 网络不 空 , 转 , 否 则结束 纵观 以 上 可 看 出 , 该系 统推理 有别 于 传 统 专家 系统 , 能实现不需 要 匹 配规则 的模糊 推理 推理 网在加热炉控制 中的应用 为 了提 高推理 速 度 , 本 系 统的 工 况分 为 类 , 故 推理 网 由 个 推理 网络块 组 成 个 推理 网 络块 具 有 相 同的 输 入 层 , 不 同 的规则 层 , 共 用 前提 隶 数层 、 前提 层 、 结 论 层 和 清 晰 化 层 以 “ 加 热炉 温度低 ” 为例 , 此 时 系 统输人 输 出关 系 由 条模糊规则描 述 一 · 少 氏 · 应 用 导入 算 法将 上 述 全 部规则 导人 神经 网 , 形 成 推理 网块 , 利 用 已 知 的训 练样 本 , 进 行 训 练 训 练后 抽 取 的模糊规则 为 凡 , 夕 · 整个 训 练结 束后 , 就 可 用来 推理 , 方 法 如下
·200· 北京科技大学学报 1997年第2期 (1)根据状态识别的结果,确定要 使用推理网络块;(2)将系统的检测量 1350 X~x输入到推理网中:(3)进行正向推 1300 理;(4)将推理网络块的输出y,~片,作 1250 为控制量加到加热炉生产过程中去, 1200 从图3可以看出,炉温的变化曲线 1150 1100 能较好地跟踪给定曲线,最大误差为 1/min 23℃,说明系统的抗干扰能力较强,具 图3均热段炉温抗干扰曲线 有较好的鲁棒性. 4结论 本系统推理网:(1)能实现无搜索快速推理;(2)通过导人算法能将初始隶属函数和模糊规 则转换到网中;(3)能自动修改初始隶属函数和求精模糊规则:(4)能进行优于模糊“或·的更有 效的信念传播;(⑤)能解释推理过程;(6)用于连续推钢式加热炉,控制效果较理想. 参考文献 1郑德玲,谭跃华.一种新型的无搜索求解策略.北京科技大学学报,1995,17(4):365 2杨行竣,郑君里.人工神经网络,北京:高等教育出版社,1994 3李安贵等.模糊数学及应用.北京:冶金工业出版社,1994 Technique of Knowledge Dissolved in Neural Network and Non-searching Fast Inference Zheng Deling Li Oing Information Engineering School,UST Beijing,Beijing 100083 Chian ABSTRACT A method of building expert systems with fuzzy-neural technique is proposed.The technique of the knowledge dissolved in a neural network non-searching infer -ence have been researched.The membership functions for the input virable have been generated by a triple separation.The simulation experiment results of expert system in the heating furnace show that the inference speed is fast and the result is satisfactory. KEY WORDS expert control,fuzzy logic,neural network
北 京 科 技 大 学 ’ 节 报 年 第 期 根 据 状 态 识别 的 结 果 , 确 定 要 使 用 推 理 网 络 块 将 系 统 的 检 测 量 人一 凡 输人 到 推理 网 中 进 行 正 向推 理 将 推 理 网 络 块 的 输 出 ,一 作 尸 为控 制 量 加 到 加 热 炉 生 产 过 程 中去 妞 从 图 可 以 看 出 , 炉温 的变 化 曲线 能 较 好 地 跟 踪 给 定 曲线 , 最 大 误 差 为 ℃ 说 明 系 统 的抗 干 扰 能 力 较 强 , 具 有 较 好 的鲁棒性 图 均热段炉温抗干扰 曲线 结 论 本 系 统 推理 网 能实 现 无搜 索快 速 推理 通 过 导人算 法能 将初始 隶属 函 数 和模 糊规 则转换 到 网 中 能 自动修改 初 始隶 属 函 数 和求精模糊规则 能进 行优于 模 糊 “ 或 ” 的更有 效 的信念 传播 能解 释 推理 过 程 用 于 连续推 钢式 加热 炉 , 控 制效果 较理 想 参 考 文 献 郑德玲 , 谭跃 华 一种新 型 的 无搜 索求解 策略 北京科技 大学学 报 , , 杨行竣 , 郑君 里 人 工 神经 网 络 北 京 高等教育 出版社 , 李安 贵等 模糊数学及 应 用 北 京 冶金 工 业 出版社 , 一 乃 ’ , , 口 , , , 一 一 一 釜一 ,