D0I:10.13374/i.issn1001-053x.2005.01.031 第27卷第1期 北京科技大学学报 Vol.27 No.I 2005年2月 Journal of University of Science and Technology Beijing Feb.2005 基于人工免疫的RBF神经网络 在钢筋性能预报中的应用 周颖12)郑德玲”王英》鞠磊” 1)北京科技大学信息工程学院,北京1000832)河北工业大学电气与自动化学院,天津300130 摘要提出了一种基于免疫识别原理的径向基函数神经网络学习算法.该算法利用人工 免疫系统的识别、记忆、学习等原理,将输入数据作为抗原,抗体为抗原的压缩映射作为径向 基函数神经网络模型的隐层中心,输出采用最小二乘法确定权值,通过预报热轧带肋钢筋力 学性能的仿真实验结果表明,与K-均值法选择中心点比较,该算法计算量较小,精度高 关键词人工免疫:免疫识别:径向基函数神经网络:钢筋:力学性能 分类号TP18 热轧带肋钢筋是一种成材率高的钢材,其力层、隐层、输出层三层结构,属于前向神经网 学性能是反映钢筋质量的主要指标之一.化学成 络,其隐层的激活函数为RBF.对于一个有p维 分和热轧生产的主要工艺参数是影响成品最终 输入矢量x=[x,a,,x∈x,N个输入向量 力学性能的主要因素.然而,由于轧机系统本身 x=xx,xw小的RBF网络,则网络的输出为 是一个非常复杂的非线性系统,生产过程受到各 =y,,…,y,0为输出节点的个数.其中: 种随机因素的干扰,生产工艺参数对产品力学性 y=肛G=wg,=l,2,,0 (1) 能的影响很难甚至不可能用准确的数学形式表 W,=[w,wa,,wm],i=1,2,,0为隐层到输出层 示出来,因而迅速、准确地预报产品力学性能并 的连接权,G=[g,g,,g]'为隐层径向基函数向 及时调整工艺对提高产品质量具有实际意义, 量,本文所选取的基函数为高斯核函数: 人工免疫系统(Artificial Immune System,简称 g=-=e,广1,2,“m AS)是近年来逐渐兴起的一个研究领域,它已经 0 (2) 在组合优化、机器学习、信息安全及故障诊断等 其中,G是第j个核函数中心点,0为核函数宽度: 方面显示出强大的信息处理和问题求解能力, 2M (3) 人工免疫系统与人工神经网络的混合应用也正 式中,M为中心数;d为所选中心之间的最大距 成为人们的研究热点,本文在研究免疫算法的 离,它决定了该基函数围绕中心点的宽度,k一c 基础上,利用人工免疫与人工神经网络的优点, 是向量x-c的欧几里德范数. 将它们结合形成一种新的径向基函数(adial Basis Function,简称RBF)神经网络模型,将该模 型用于预测热轧带肋钢筋的性能,以期达到提高 钢铁性能的目的. 1理论分析 1.1RBF神经网络 如图1所示,径向基函数神经网络(Radial Basis Function Neural Network,简称RBF)有输入 输入层 隐层 输出层 收稿日期:2004-03-31修回日期:200409-20 基金项目:高等学院博士学科点专项基金资助No.20020008004) 图1RBF神经网络结构模型 作者简介:周颗(1972一,女,博士研究生 Fig.1 Structure of RBF neural network
第 卷 第 期 年 月 北 京 科 技 大 学 学 报 一 基于人工 免疫的 神经 网络 在钢筋性能预报 中的应用 周 颖 ’, 郑德 玲 ‘, 王 英 ‘, 鞠 磊 ” 北 京科技 大 学 信 息工 程 学 院 , 北 京 河 北 工 业 大 学 电气 与 自动 化学 院 , 天 津 摘 要 提 出 了一种 基 于 免 疫 识 别 原 理 的径 向基 函 数神 经 网络 学 习 算法 该 算法 利用 人 工 免疫系统 的识 别 、 记 忆 、 学 习 等 原 理 , 将 输入 数 据 作 为抗 原 , 抗 体 为抗原 的压 缩 映射 作 为 径 向 基 函 数神经 网络 模型 的 隐层 中心 , 输 出采用最 小 二 乘 法 确 定权 值 通 过 预报 热 轧 带 肋 钢 筋力 学性 能 的仿真 实验结果 表 明 , 与 均 值法 选 择 中心 点 比较 , 该算 法 计 算 量 较 小 , 精 度 高 关键 词 人 工 免疫 免疫 识 别 径 向基 函 数 神 经 网 络 钢 筋 力学 性 能 分 类号 热 轧 带肋 钢 筋 是 一 种成 材 率 高 的钢 材 , 其 力 学性 能是 反 映钢 筋质 量 的主 要 指 标之 一 化 学成 分 和 热 轧 生 产 的主 要 工 艺 参 数 是 影 响成 品最 终 力学性 能 的主 要 因素 ‘ 然 而 , 由于 轧机 系 统本 身 是一个 非常 复 杂 的非线性 系 统 , 生 产过 程 受 到各 种 随机 因素 的干扰 , 生产 工 艺参 数对产 品力 学性 能 的影 响很 难 甚 至 不 可 能 用 准 确 的数 学 形 式 表 示 出来 , 因而 迅 速 、 准 确 地 预 报 产 品力 学 性 能 并 及 时调 整 工 艺对 提 高产 品质 量 具 有 实 际意 义 人 工 免疫 系 统 , 简称 是近 年 来 逐 渐 兴起 的一个 研 究领 域 , 它 己 经 在 组 合 优 化 、 机 器 学 习 、 信 息安 全 及 故 障诊 断等 方 面 显 示 出强 大 的信 息 处 理 和 问题 求 解 能 力 仪, 人 工 免 疫 系 统 与 人 工 神 经 网 络 的混 合 应 用 也 正 成 为人 们 的研 究热 点 ‘ , 本 文 在 研 究 免疫 算 法 的 基础 上 , 利用 人 工 免 疫 与人 工 神 经 网 络 的优 点 , 将 它 们 结 合 形 成 一 种 新 的 径 向基 函 数 , 简称 神经 网络 模 型 , 将 该模 型用 于 预 测热 轧带肋 钢 筋 的性 能 , 以期达 到提 高 钢 铁 性 能 的 目的 层 、 隐层 、 输 出层 三 层 结 构 ‘叼, 属 于 前 向神 经 网 络 , 其 隐层 的激 活 函数 为 对 于 一 个 有 维 输 入 矢 量戈 , 众 , … , 介 任 , 个 输 入 向 量 眯 为尸为 的 网 络 , 则 网 络 的 输 出 为 以 ,必 , … , , 口 为输 出节 点 的个 数 其 中 另 二 研 艺 古 , 拼 , , … , 职 钉 , , … , , 〕 , , , … , 。 为 隐 层 到 输 出 层 的连 接 权 , 嗜 ,, 承 , … ,肠卫为 隐层 径 向基 函 数 向 量 , 本 文所 选 取 的基 函 数 为高 斯 核 函 数 、 一 哟 卿卜旱 , , , … , 其 中 , 是 第 个 核 函 数 中心 点 , 为核 函 数 宽度 口 二 …不而 式 中 , 为 中心 数 疏 为所 选 中心 之 间 的最 大距 离 , 它 决 定 了该 基 函 数 围绕 中心 点 的宽度 , 卜一 酬 是 向量 一 的欧 几 里 德 范 数 理 论 分 析 神经 网络 如 图 所 示 , 径 向基 函数 神 经 网络 , 简称 有输 入 收稿 日期 一 修 回 日期 一 基金 项 目 高等学 院博 士 学 科 点专项 基金 资助 认 作者 简介 周 颖 一 , 女 , 博 士 研究生 输入层 隐层 输出层 图 神 经 网 络 结构 模型 DOI :10.13374/j .issn1001-053x.2005.01.031
,124 北京科技大学学报 2005年第1期 RBF网络中所用的非线性函数的形式对网 这样,当RBF网络再次识别类似的数据时,由于 络性能的影响并不是至关重要的,关键因素是基 记忆中心点的存在,收敛速度明显提高. 函数中心的选择,中心选取不当构造出来的RBF (2)中心点确定后,采用式(2)计算隐层输出. 网络的性能一般不能令人满意.目前,选择RBF (3)采用最小二乘法(RLS)估计网络输出层 中心的方法主要有聚类算法和随机选择中心点 的权值四,从而得出网络的输出。 方法,聚类算法如K-means算法需要预先指定聚 类的数量,而随机选择中心点方法在输入样本有 2应用实例 …定的冗余时,精度就会下降 影响热轧带肋钢筋性能(如屈服点、抗拉强 12免疫识别算法 度、延伸率等)的因素有钢材的直径及所包含的 免疫识别算法是借鉴生物免疫系统抗体识 成分(C,Si,Mn,P,S,V等),见表1.根据各个参量 别抗原的原理,将待识别数据作为抗原,抗体作 与钢筋性能的相关程度和数据获取的方便性,我 为抗原的一个内映像,通过竞争、选择增加了高 们对于同一种直径的钢材通过主成分分析,最后 亲合力抗体群体,产生尽可能多样的抗体对抗千 变万化的抗原,最终产生抗体记忆压缩集合,当 选取5个变量作归一化处理后作为网络的输入 再次遇到相似抗原时,快速启用记忆集合,消灭 参量,即抗原向量,网络的中心点作为抗体,选用 抗原.相关计算公式见文献[6],算法框图见图2. 钢筋的屈服强度作为网络的输出,建立免疫RBF 神经网络模型.选出某季度的100组数据学习, 抗原输入 50组数据测试,抑制阈值选取为0.15,经过15步 迭代,此时中心点为33个,预报命中率为89%,仿 <是否遇到此类抗原2是 调用 真结果如图3所示, 否 表1热轧带肋钢筋的样本特征 产生初始抗体群 Table 1 Pattern characters of steel bars 抗体记忆库 直径1 质量分数% 对每一个抗原计算亲和力 样号 o/MPa ov/MPa mm C Mn P 克隆选择和变异 20 0.221.500.026.530 647.5 将产生的抗体记忆 2200.201.530.018.515 640.0 群体更新 重新计算亲和力 群加入抗体记忆库 亲和力高的抗体抑制 图4为在误差e<0.1的条件下,采用K-均值 选择中心点与本文算法比较的结果.本文算法总 产生抗体记忆群 计时间为7.5s,而K-均值算法总计时间为40.3s. 否 否满足条件2 可见,采用本文算法是可行的.需要说明的是,本 文中抑制阅值的选取对预报命中率有一定的影 L是 响,还需进一步的研究和改进 图2免疫识别算法流程图 540 Fig.2 Flow chart of artificial immune recognition algor- ithm 500 13基于免疫原理的RBF网络学习算法 (I)利用基于免疫原理的RBF数据中心选择 480 算法确定RBF网络模型的数据中心.在该算法 460 0实际值x预测值 中,将输入数据作为抗原,网络的隐层中心点作 440 为抗体,运用上述的免疫算法,得到多样性的抗 0 10 2030 40 50 体记忆集合即为隐层网络的中心点.因抗体记忆 样本数 图3钢筋屈服点的实际值和预测值 集合是抗原的-·个压缩聚类映射,即RBF网络的 Fig.3 Comparison of yield strength between predicted and 隐层中心能够以较少的数量覆盖整个输入空间. real values
一 北 京 科 技 大 学 学 报 年 第 期 网 络 中所 用 的非 线 性 函 数 的形 式 对 网 络 性 能 的影 响并不 是至 关 重 要 的 , 关键 因素 是基 函数 中心 的选 择 , 中心 选 取 不 当构造 出来 的 网络 的性 能一 般 不 能令 人 满 意 目前 , 选 择 中心 的方 法 主 要 有 聚 类 算 法 和 随机 选 择 中心 点 力 法 , 聚 类 算法 如 一 算 法 需要 预 先 指 定 聚 类 的数量 , 而 随机选 择 中心 点方 法 在输 入 样 本有 一 定 的冗 余 时 , 精 度 就 会 下 降 ‘ , 免疫 识 别 算法 免 疫 识 别 算 法 是 借 鉴 生 物 免疫 系 统 抗 体 识 别 抗 原 的 原理 , 将 待 识 别 数 据 作 为抗 原 , 抗 体 作 为抗 原 的一 个 内映 像 , 通 过 竞 争 、 选 择 增 加 了高 亲合 力抗 体 群 体 , 产 生 尽 可 能 多样 的抗 体对 抗 千 变 万 化 的抗 原 , 最 终产 生 抗 体 记 忆 压 缩 集 合 , 当 再 次 遇 到 相 似 抗 原 时 , 快 速 启 用 记 忆 集 合 , 消 灭 抗 原 相 关 计 算 公 式 见 文 献 , 算 法 框 图见 图 这 样 , 当 网络 再 次 识 别类 似 的数据 时 , 由于 记 忆 中心 点 的存 在 , 收 敛速 度 明显 提 高 中心 点确 定后 , 采 用 式 计 算 隐 层输 出 采 用最 小 二 乘法 估 计 网 络 输 出层 的权 值 『 , 从 而 得 出 网 络 的输 出 …抗原输入 一 生一 是查遇到此类 应 用 实例 影 响热 轧 带 肋 钢 筋 性 能 如 屈 服 点 、 抗 拉 强 度 、 延 伸 率等 的 因 素 有 钢 材 的直 径 及 所 包 含 的 成 分 , , , , , 等 , 见 表 根 据 各 个 参 量 与钢 筋性 能 的相 关程度 和 数据 获取 的 方便 性 , 我 们 对 于 同一种 直径 的钢 材通 过 主 成 分 分析 , 最 后 选 取 个 变 量 作 归 一 化 处 理 后 作 为 网络 的输 入 参 量 , 即抗 原 向量 , 网 络 的 中心 点作 为抗 体 , 选 用 钢 筋 的屈 服 强 度 作 为 网络 的输 出 , 建立 免疫 神 经 网络 模 型 选 出某 季 度 的 组 数 据 学 习 , 组 数据 测试 , 抑 制 阐 值 选 取 为 , 经 过 巧 步 迭 代 , 此 时 中心 点为 个 , 预报 命 中率 为 , 仿 真 结 果 如 图 所 示 表 热轧带 肋 钢 筋 的样 本 特 征 盆 比 比 … 一不万… 匣 样 号 直 径 质量分数 抗原计算亲和 力 氏 选择和变异 二 将产生的抗体 记忆 群加入抗体记忆库 … 一 逼…薪百算薪丽 中产 … 生…鬓 抗体 鹦 记忆 墓 图 为在 误 差 的条件 下 , 采 用 均 值 选 择 中心 点 与本 文 算法 比较 的结 果 本 文 算法 总 计 时 间为 , 而 均值 算 法 总 计 时 间为 可 见 , 采 用 本 文 算法 是可 行 的 需要 说 明 的是 , 本 文 中抑 制 闭值 的选 取 对 预 报 命 中率 有 一 定 的影 响 , 还 需进 一 步 的研 究和 改进 ﹄︸、、﹄﹃产︸却 ,‘八曰 白芝曰、 匕 图 免疫 识 别 算法 流 程 图 论 认 代 基 于 免疫 原 理 的 网络 学 习 算法 利 用 基 于 免疫 原 理 的 数 据 中心 选 择 算 法 确 定 网 络 模型 的数 据 中心 在 该算法 中 , 将输 入 数据 作 为抗 原 , 网 络 的 隐层 中心 点作 为抗 体 , 运 用 上 述 的免 疫 算 法 , 得 到 多样性 的抗 体 记 忆集 合 即 为 隐层 网络 的 中心 点 因 抗 体 记忆 集 合 是抗 原 的 一 个 压缩 聚类 映射 , 即 网络 的 隐层 中心 能够 以较 少 的数量 覆盖 整 个输 入 空 间 实 际值 预侧值 匕 一 一 一一 , 一 一 一一一 ‘ 一 一」 样本数 图 钢 筋 屈 服 点 的实 际值和 预 测 值 扣 如即 代
VoL27 No.] 周颖等:基于人工免疫的RBF神经网络在钢筋性能预报中的应用 ·125· 1200 个压缩映射,并且具有记忆功能.利用此算法的 1000 K-均值选择中心点 优点与RBF神经网络结合建立一种免疫神经网 800 络模型并对热轧带肋钢筋的力学性能一屈服 强度作预测,结果表明,该算法具有较高的预报 600 免疫算法选择中心点 命中率,且计算量小,此算法对于数据较多的对 400 象效果更显著, 200 参考文献 0 [】王殿辉,刘振宇,王国栋,等.利用神经网络预测热轧板 10 2030405060 带力学性能.钢铁,1995,30(1):28 迭代步数/次 [2]de Castro,Von Zuben.Artificial immune systems:Part I Basic 图4两种算法收敛性比较 theory and applications.Technical Report-RT DCA,1999.89 Fig.4 Comparison of convergence between the proposed [3]Hoffimann G W.A Neural network model based on the analogy algorithm and the K-means algorithm with the immune system.J Theor Biol,1986,122:33 [4]孙增圻,张再兴,邓志东.智能控制理论与技术北京:清华 3结论 大学出版杜,1997 [5]Gomm J B,Ding L Y.Selecting radial basis function network 根据免疫系统能够识别多样性抗原、产生记 centers with recursive orthogonal least squares training.IEEE 忆抗体等原理提出一种人工免疫识别算法,该算 Trans Neural Network,2000,11(2):306 [6周颗,郑德玲,位耀光,等.一种基于生物免疫原理的识别 法中抗体作为抗原的内映像,实现了对抗原的一 算法.北京科技大学学报,2004,26(5:438 Application of RBF network based on artificial immune algorithm to predicting mechanical property of steel bars ZHOU Ying2,ZHENG Deling,WANG Ying",JU Lei 1)Information Engineering School,University of Science and Technology Beijing,Beijing 100083,China 2)School of Electrical Engineering and Automation,Hebei University of Technology,Tianjin 300130,China ABSTRACT A Radial Basis Function(RBF)neural network learning algorithm based on immune recognition principle is proposed.In the algorithm,the input data are regarded as antigens and the compression mappings of ant- igens as antibodies,i.e.,the hidden layer centers.This algorithm can choose the number and location of the hidden layer centers by applying the principles of recognition,memory and learning,and can determine the weights of the output layer by adopting the least square algorithm.The predicted results of the mechanical property of hot-rolled steel bars show that this algorithm has the advantages of less computation and high precision compared to the K- means algorithm. KEY WORDS artificial immune;immune recognition;RBF neural network;steel bar;mechanical property
】 刊 周 颖 等 基 于 人 工 免 疫 的 神 经 网络 在 钢 筋 性 能预 报 中的应 用 一 ‘ ’ 丫一 - ’ 卜 “ 值选择中 ‘ 。 “ 豁 ‘ ” 几 暮 址了 尸 免疫算法选” 中 ‘ 。 “ ‘ ” 卜 沪广 飞、 、 匕一一二之生一一一一‘ 一一一一副 迭代步数 次 图 两种 算法 收 敛 性 比较 】 结 论 根据 免疫 系 统 能够 识 别 多样 性 抗 原 、 产 生记 忆抗 体 等 原理提 出一种 人 工 免疫识 别 算法 , 该算 法 中抗 体作 为抗原 的 内映像 , 实现 了 对抗 原 的一 个压 缩 映射 , 并且 具有 记忆 功 能 利 用 此 算法 的 优 点与 神 经 网络 结合 建 立 一 种 免疫 神经 网 络 模 型 并 对 热 轧 带肋 钢 筋 的力 学 性 能- 屈 服 强度 作预 测 , 结果 表 明 , 该算法 具有 较 高 的预 报 命 中率 , 且 计 算量 小 此 算法 对 于数 据较 多 的对 象 效 果更 显 著 参 考 文 献 【 王 殿 辉 , 刘 振 宇 , 王 国栋 , 等 利 用神 经 网 络 预 测热轧板 带 力学 性 能 钢 铁 , , , 、 ” 比 叩 一 , ” 习 山 朋 入 肠 , 孙 增沂 , 张 再 兴 , 邓 志 东 智 能控 制理 论 与技术 北 京 清 华 大 学 出版社 , , 卜刀 川五 七 砚 、 戌 , 周 颖 , 郑德玲 , 位耀 光 , 等 一种基于 生物免疫原理 的识 别 算法 北 京科 技 大 学 学报 , , ,,, 付五 ,,恻 , ,, 飞 曲 , , , , , , 卜万 抑 。 们。 加 , 叩 , · , , 田刀 , 们。 了 七万 如