第17卷第3期 智能系统学报 Vol.17 No.3 2022年5月 CAAI Transactions on Intelligent Systems May 2022 D0:10.11992/tis.202101002 网络出版地址:https:/kns.cnki.net/kcms/detail/23.1538.TP.20220322.1652.004.html 支持向量机与神经网络相结合的板带凸度预测 刘明华,张强 (西安建筑科技大学治金工程学院,陕西西安710055) 摘要:为提高热轧生产过程中板带凸度的预测精度,提出了一种将粒子群优化算法(particle swarm optimiza- tion,PSO)、支持向量回归(support vector regression,.SVR)和BP神经网络(back propagation neural network, BPNN)相结合的板带凸度预测模型。采用PSO算法优化SVR模型的参数,建立了PSO-SVR板带凸度预测模 型.提出采用BPNN建立板带凸度偏差模型与PSO-SVR板带凸度模型相结合的方法对板带凸度进行预测。采 用现场数据对模型的预测精度进行验证,并采用统计指标评价模型的综合性能。仿真结果表明,与PSO-SV、 SVR、BPNN和GA-SVR模型进行比较,PSO-SVR+BPNN模型具有较高的学习能力和泛化能力,并且比GA- SVR模型运算时间短。 关键词:支持向量回归:神经网络;板带凸度:粒子群优化算法;热轧板带过程:机器学习;预测;大数据 中图分类号:TP16文献标志码:A文章编号:1673-4785(2022)03-0506-09 中文引用格式:刘明华,张强.支持向量机与神经网络相结合的板带凸度预测J.智能系统学报,2022,17(3):506-514 英文引用格式:LIU Minghua,,ZHANG Qiang.Prediction of strip crown based on support vector machine and neural networkJl, CAAI transactions on intelligent systems,2022,17(3):506-514. Prediction of strip crown based on support vector machine and neural network LIU Minghua,ZHANG Qiang (School of Metallurgical Engineering,Xi'an University of Architecture and Technology,Xi'an 710055,China) Abstract:To improve the prediction accuracy of strip crown in a hot-rolled production process,a modeling method combining particle swarm optimization(PSO)algorithm,support vector regression(SVR),and BP neural network (BPNN)is proposed.The PSO algorithm was employed to optimize the parameters of the SVR model,and the PSO-SVR strip crown prediction model was established.A method combining the BPNN strip crown deviation model with the PSO-SVR strip crown model is also proposed to predict the strip crown.The prediction accuracy of the model was validated with field experimental data,and the comprehensive performance of the model was evaluated using stat- istical indicators.The simulation results show that in contrast to the PSO-SVR,SVR,BPNN,and GA-SVR models,the PSO-SVR+BPNN model exhibits a greater learning capacity and generalization ability.The computing time of the PSO-SVR+BPNN model is also less than that of the GA-SVR model. Keywords:support vector regression;neural network;strip crown;particle swarm optimization algorithm;hot strip rolling process,machine learning:prediction;big data 随着社会经济的发展和科学技术的进步,板带轧制是一个多变量、强耦合、非线性和时变性 带材是工农业生产中重要的金属材料,人们对板 的过程,而按照传统理论方法建立的板带凸度预 带材的质量要求越来越高。板形是板带轧制的 测模型),在建模中假设和简化了轧制过程的诸 关键技术指标,主要包括板带凸度和平直度。目 多实际因素(将一个复杂非线性问题变成多个线 前,板带凸度一直存在严重的问题,其不良凸度 性问题等),导致模型精确度较差,不能满足高精 会直接造成巨大的资源浪费或其他潜在风险。板 度轧制技术的要求。因此,迫切需要一种新的 收稿日期:2021-01-02.网络出版日期:2022-03-23. 方法建立具有高精度预测能力的板带凸度模型。 通信作者:刘明华.E-mail:Imhxauat(@I63.com. 与传统理论方法不同,人工智能方法是模
DOI: 10.11992/tis.202101002 网络出版地址: https://kns.cnki.net/kcms/detail/23.1538.TP.20220322.1652.004.html 支持向量机与神经网络相结合的板带凸度预测 刘明华,张强 (西安建筑科技大学 冶金工程学院, 陕西 西安 710055) 摘 要:为提高热轧生产过程中板带凸度的预测精度,提出了一种将粒子群优化算法 (particle swarm optimization, PSO)、支持向量回归 (support vector regression, SVR) 和 BP 神经网络 (back propagation neural network, BPNN) 相结合的板带凸度预测模型。采用 PSO 算法优化 SVR 模型的参数,建立了 PSO-SVR 板带凸度预测模 型,提出采用 BPNN 建立板带凸度偏差模型与 PSO-SVR 板带凸度模型相结合的方法对板带凸度进行预测。采 用现场数据对模型的预测精度进行验证,并采用统计指标评价模型的综合性能。仿真结果表明,与 PSO-SVR、 SVR、BPNN 和 GA-SVR 模型进行比较,PSO-SVR+BPNN 模型具有较高的学习能力和泛化能力,并且比 GASVR 模型运算时间短。 关键词:支持向量回归;神经网络;板带凸度;粒子群优化算法;热轧板带过程;机器学习;预测;大数据 中图分类号:TP16 文献标志码:A 文章编号:1673−4785(2022)03−0506−09 中文引用格式:刘明华, 张强. 支持向量机与神经网络相结合的板带凸度预测 [J]. 智能系统学报, 2022, 17(3): 506–514. 英文引用格式:LIU Minghua, ZHANG Qiang. Prediction of strip crown based on support vector machine and neural network[J]. CAAI transactions on intelligent systems, 2022, 17(3): 506–514. Prediction of strip crown based on support vector machine and neural network LIU Minghua,ZHANG Qiang (School of Metallurgical Engineering, Xi’an University of Architecture and Technology, Xi’an 710055, China) Abstract: To improve the prediction accuracy of strip crown in a hot-rolled production process, a modeling method combining particle swarm optimization (PSO) algorithm, support vector regression (SVR), and BP neural network (BPNN) is proposed. The PSO algorithm was employed to optimize the parameters of the SVR model, and the PSO–SVR strip crown prediction model was established. A method combining the BPNN strip crown deviation model with the PSO–SVR strip crown model is also proposed to predict the strip crown. The prediction accuracy of the model was validated with field experimental data, and the comprehensive performance of the model was evaluated using statistical indicators. The simulation results show that in contrast to the PSO–SVR, SVR, BPNN, and GA-SVR models, the PSO –SVR+BPNN model exhibits a greater learning capacity and generalization ability. The computing time of the PSO–SVR+BPNN model is also less than that of the GA-SVR model. Keywords: support vector regression; neural network; strip crown; particle swarm optimization algorithm; hot strip rolling process; machine learning; prediction; big data 随着社会经济的发展和科学技术的进步,板 带材是工农业生产中重要的金属材料,人们对板 带材的质量要求越来越高[1]。板形是板带轧制的 关键技术指标,主要包括板带凸度和平直度。目 前,板带凸度一直存在严重的问题,其不良凸度 会直接造成巨大的资源浪费或其他潜在风险[2]。板 带轧制是一个多变量、强耦合、非线性和时变性 的过程,而按照传统理论方法建立的板带凸度预 测模型[3] ,在建模中假设和简化了轧制过程的诸 多实际因素(将一个复杂非线性问题变成多个线 性问题等),导致模型精确度较差,不能满足高精 度轧制技术的要求[4]。因此,迫切需要一种新的 方法建立具有高精度预测能力的板带凸度模型。 与传统理论方法不同,人工智能方法[5] 是模 收稿日期:2021−01−02. 网络出版日期:2022−03−23. 通信作者:刘明华. E-mail: lmhxauat@163.com. 第 17 卷第 3 期 智 能 系 统 学 报 Vol.17 No.3 2022 年 5 月 CAAI Transactions on Intelligent Systems May 2022
·507· 刘明华,等:支持向量机与神经网络相结合的板带凸度预 第3期 拟人脑处理真实发生的过程,基于实验数据对目 为提高PSO-SVR模型的预测精度,本文提出 标值预测,可防止假设脱离实际和简化过于粗糙 采用BPNN建立板带凸度偏差模型与PSO-SVR 而产生的误差。随着人工智能技术的发展,许多 板带凸度模型相结合的方法对板带凸度进行预 学者开始将人工神经网络(ANN)-刀和支持向量 测。采用现场数据验证模型的预测性能,结果表 机(SVM)8引入轧制领域。针对采用传统理论 明,与PSO-SVR、SVR、BPNN和GA-SVR模型比 方法建立板带凸度模型考虑影响参数较少导致传 较,PSO-SVR+BPNN模型具有较高的学习能力和 统数学模型预测误差大的问题,方敏提出一种 泛化能力。 BP神经网络(BPNN)与有限元(FEM)模型相结合 的方法对板带凸度进行预测,将FEM仿真结果用 1建立PSO-SVR板带凸度预测模型 于训练和测试BPNN模型。仿真结果表明,BPNN 1.1板凸度的基本概念 与FEM相结合的板带凸度预测模型的预测精度 板凸度是指板带材横向的断面厚度差,即板 远高于传统数学模型的预测精度。针对传统BPNN 带的中间与边部厚度之差,板凸度的计算公式为 预测模型存在易陷入局部极小值点和收敛速度慢 等问题,朱永波等山采用自适应变异粒子群算法 C=h-+ 2 优化BPNN模型的权值和阈值,将已优化的BPNN 式中:C为板带凸度;h为中心厚度;h和h为边部 模型用于预测板带凸度。仿真结果表明,该模型 代表点厚度。 预测效果与传统BPNN模型相比有所改善。在以 板带凸度示意图如图1所示,其中e表示板材边 上研究中,ANN已经广泛应用于轧制领域且该模 部代表点距板材边上之间的距离,通常取e=25mm 型的预测精度高于传统数学模型的预测精度,但 或e=40mm处,本文分析中均取e=40mm。 它也有一些不足之处。ANN以传统统计学为基 础,它的内容是样本无穷大时的渐进理论,但现 实中样本往往是有限的,采用ANN方法建立的 板带凸度预测模型往往会产生过拟合现象。因 此,急需一种在样本有限的情况下,也可以实现 较高泛化能力的板带凸度模型。 与ANN方法不同,SVM是一种基于结构风 图1板带凸度示意图 Fig.1 Schematic diagram of strip crown 险最小化原理的算法,保证了该模型具有良好的 泛化能力。SVM以统计学理论为基础,根据有 1.2实验数据的采集与处理 限的样本在模型的复杂性和学习能力之间寻求最 从某中厚板厂的热轧生产线上获取670组 佳折中,以期获得最好的泛化能力3。支持向 Q355B板带轧制数据,作为实验样本,如表1所 量回归(SVR)是SVM在回归条件下的应用。Fei 示。选择轧前板材厚度H、轧后板材厚度H、轧 等6提出在样本有限的条件下,采用ANN方法 前温度T。、轧后温度T、轧前板材宽度B、轧制力 不适合建立预测模型,而采用SVR方法建立的预 F、轧制力矩P、轧制速度v、摩擦系数μ和轧前板 测模型具有较高的泛化性能。Wu等)在实验数 材凸度C作为输入变量,并选择轧后板材凸度 据有限的情况下,为提高SVR轧制力模型的预测 C作为输出变量。 精度,采用粒子群优化算法(PSO)优化SVR模型 从工厂收集的样本包含异常和嘈杂的数据, 参数,结果表明,PSO-SVR模型相比SVR和BPNN 会降低模型的准确度,为获得真实的分析结果, 模型具有较高的预测精度,且SVR比BPNN模型 利用T检验准则处理样本,舍去34组异常数据, 预测精度高。综上可得,在样本数据有限的情况 最终选择636组数据作为实验数据,其中500组 下,采用SVR建立模型可以避免ANN建立模型 数据作为训练集,剩余数据作为测试集。不同的 所产生的过拟合现象,采用PSO算法1剧可以提 影响因素通常具有数量级差异,将会降低模型的 高SVR模型的预测精度,即PSO-SVR模型具有 预测精度和训练速度。在建模之前,实验数据进 较高的泛化能力,但另一方面PSO算法优化参数 行归一化为[-1,1,归一化公式为 虽可以有效保证模型参数的有效性,但板带轧制 x=2×&-min(x) -1 过程干扰因素较多、测量数据存在误差和数据处 max(x;)-min(x) 理不当等因素都会导致输入数据存在偏差,使PSO 式中max(x)和min(c)分别为序列的最大值和最小 SVR模型难以准确地预测板带凸度。 值,i=1,2,…,l
拟人脑处理真实发生的过程,基于实验数据对目 标值预测,可防止假设脱离实际和简化过于粗糙 而产生的误差。随着人工智能技术的发展,许多 学者开始将人工神经网络 (ANN)[6-7] 和支持向量 机 (SVM)[8-9] 引入轧制领域。针对采用传统理论 方法建立板带凸度模型考虑影响参数较少导致传 统数学模型预测误差大的问题,方敏[10] 提出一种 BP 神经网络 (BPNN) 与有限元 (FEM) 模型相结合 的方法对板带凸度进行预测,将 FEM 仿真结果用 于训练和测试 BPNN 模型。仿真结果表明,BPNN 与 FEM 相结合的板带凸度预测模型的预测精度 远高于传统数学模型的预测精度。针对传统 BPNN 预测模型存在易陷入局部极小值点和收敛速度慢 等问题,朱永波等[11] 采用自适应变异粒子群算法 优化 BPNN 模型的权值和阈值,将已优化的 BPNN 模型用于预测板带凸度。仿真结果表明,该模型 预测效果与传统 BPNN 模型相比有所改善。在以 上研究中,ANN 已经广泛应用于轧制领域且该模 型的预测精度高于传统数学模型的预测精度,但 它也有一些不足之处。ANN 以传统统计学为基 础,它的内容是样本无穷大时的渐进理论,但现 实中样本往往是有限的,采用 ANN 方法建立的 板带凸度预测模型往往会产生过拟合现象。因 此,急需一种在样本有限的情况下,也可以实现 较高泛化能力的板带凸度模型。 与 ANN 方法不同,SVM 是一种基于结构风 险最小化原理的算法,保证了该模型具有良好的 泛化能力[12]。SVM 以统计学理论为基础,根据有 限的样本在模型的复杂性和学习能力之间寻求最 佳折中,以期获得最好的泛化能力[13-14]。支持向 量回归(SVR)是 SVM 在回归条件下的应用[15]。Fei 等 [16] 提出在样本有限的条件下,采用 ANN 方法 不适合建立预测模型,而采用 SVR 方法建立的预 测模型具有较高的泛化性能。Wu 等 [17] 在实验数 据有限的情况下,为提高 SVR 轧制力模型的预测 精度,采用粒子群优化算法(PSO)优化 SVR 模型 参数,结果表明,PSO-SVR 模型相比 SVR 和 BPNN 模型具有较高的预测精度,且 SVR 比 BPNN 模型 预测精度高。综上可得,在样本数据有限的情况 下,采用 SVR 建立模型可以避免 ANN 建立模型 所产生的过拟合现象,采用 PSO 算法[18] 可以提 高 SVR 模型的预测精度,即 PSO-SVR 模型具有 较高的泛化能力,但另一方面 PSO 算法优化参数 虽可以有效保证模型参数的有效性,但板带轧制 过程干扰因素较多、测量数据存在误差和数据处 理不当等因素都会导致输入数据存在偏差,使 PSOSVR 模型难以准确地预测板带凸度。 为提高 PSO-SVR 模型的预测精度,本文提出 采用 BPNN 建立板带凸度偏差模型与 PSO-SVR 板带凸度模型相结合的方法对板带凸度进行预 测。采用现场数据验证模型的预测性能,结果表 明,与 PSO-SVR、SVR、BPNN 和 GA-SVR 模型比 较,PSO-SVR+BPNN 模型具有较高的学习能力和 泛化能力。 1 建立 PSO-SVR 板带凸度预测模型 1.1 板凸度的基本概念 板凸度是指板带材横向的断面厚度差,即板 带的中间与边部厚度之差,板凸度的计算公式为 C = hc − he +he ′ 2 C hc he he 式中: 为板带凸度; 为中心厚度; 和 ′为边部 代表点厚度。 e e = 25 e = 40 e = 40 板带凸度示意图如图 1 所示,其中 表示板材边 部代表点距板材边上之间的距离,通常取 mm 或 mm 处,本文分析中均取 mm。 he hc he ′ e e 图 1 板带凸度示意图 Fig. 1 Schematic diagram of strip crown 1.2 实验数据的采集与处理 H0 H1 T0 T1 B F P v µ C0 C1 从某中厚板厂的热轧生产线上获取 670 组 Q355B 板带轧制数据,作为实验样本,如表 1 所 示。选择轧前板材厚度 、轧后板材厚度 、轧 前温度 、轧后温度 、轧前板材宽度 、轧制力 、轧制力矩 、轧制速度 、摩擦系数 和轧前板 材凸度 作为输入变量,并选择轧后板材凸度 作为输出变量。 从工厂收集的样本包含异常和嘈杂的数据, 会降低模型的准确度,为获得真实的分析结果, 利用 T 检验准则处理样本,舍去 34 组异常数据, 最终选择 636 组数据作为实验数据,其中 500 组 数据作为训练集,剩余数据作为测试集。不同的 影响因素通常具有数量级差异,将会降低模型的 预测精度和训练速度。在建模之前,实验数据进 行归一化为 [−1,1],归一化公式为 x ′ i = 2× xi −min(xi) max(xi)−min(xi) −1 max(xi) min(xi) i = 1,2,··· ,l 式中 和 分别为序列的最大值和最小 值, 。 ·507· 刘明华,等:支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·508· 表1热轧实验数据 Table 1 Experimental data of hot rolling 序列Ho/mm H/mmT/℃ T/℃ B/mm F/kN P/kN.m v/rm Co/mm C/mm 1 72.66 65.01 980.2 964.5 2309.64 13532.6 801.1 20 1.293 0.0484 0.08929 48.12 43.12 917.0 906.8 2613.54 17322.3 828.9 25 1.335 0.10565 0.12629 3 53.25 47.83 839.6 829.2 2107.04 19770.7 984.5 30 1.337 0.29848 0.31889 669 38.4 35.67 868.3 851.52309.64 13536.3 478.3 35 1.3290.13191 0.09457 670 65.76 58.83 986.4865.72613.54 19546.4 1101.3 20 1.1650.46068 0.21446 1.3SVR理论 踪个体极值和种群极值不断更新自己的位置和速 SVR是一种机器学习方法,SVR的基本思 度,使其向全局最优粒子的位置靠近,并试图在 想是通过(x)将非线性的低维不可分割数据映射 空间中搜索最优参数(C,g)2四。 到高维特征空间,并在该特征空间中执行线性 SVR。 2建立PSO-SVR+BPNN板带凸度预 SVR函数可以表述为 测模型 fx)=(w·x)+b (1) 2.1BPNN板带凸度偏差预测模型 式中:fx)为预测值;w为惯性权值;wx为w和x的 ANN通过调整节点之间的关系来处理信息, 内积:b为阈值。 具有强大的自学习能力。本文ANN采用常用的 引入两个松弛变量和',优化问题可变成: BPNN模型,模型结构由一个输人层、单或多隐含 mw+c∑i+ 层和一个输出层组成。利用训练集检验SVR 模型的误差,并将误差数据集用于训练BPNN模 (wx)+b-y片≤E+5 型。因此,在本节选择轧后板带凸度的预测偏差 S.t. -(wx)-b≤E+5 5≥≥0,i=1,2,3,…,1 Xc作为BPNN模型的因变量,BPNN与SVR模型 式中:C为惩罚因子;和5为松弛变量;ε为不敏 的自变量保持一致,即BPNN模型输入层节点数 感损失参数。 为10,输出层节点数为1。在相同条件下,使用多 引入拉格朗日函数和基于强对偶关系,并将 隐含层所获得的预测结果并未比单隐含层网络拟 核函数K(x,x)=(x)·(x)代入化简,式(I)可以 合效果好,所以本文选择单隐含层进行建模,通 重写为 过经验公式和试凑法21确定单隐含层节点数为 6,输入层到隐含层的网络权值为ω,隐含层到输 fx)=∑(a-a)Kxr)+b 出层的网络权值为ωk,由以上参数绘制BPNN的 拓扑结构如图2。 式中a和a,是拉格朗日乘子向量。 输入层 选择核函数对于SVR至关重要,它将直接影 H 隐含层 响数据样本的非线性映射。为了获得更好的泛化 能力,选择RBF核函数用于SVR模型,公式为 输出层 K(xi,x)=exp(-glx;-xP) 式中g是RBF核函数的参数。 C和g是影响SVR模型预测精度的重要参数, 选择PSO算法优化二者的最佳组合,以确保模型 的最佳性能。 1.4PSO算法优化SVR模型参数 图2BPNN拓扑结构 PSO算法是一种基于群体智能原理的随机优 Fig.2 Topological structure of BPNN 化算法,由Kennedy和Eberhart在l995年提出。 2.2PSO-SVR+BPNN板带凸度预测模型 P$O算法受到鸟类觅食行为的启发并应用到解决 在实际应用中,板带轧制过程干扰因素较多, 优化问题20,粒子群在高维空间中随机分布并跟 测量数据存在误差和数据处理不当,这些问题都
表 1 热轧实验数据 Table 1 Experimental data of hot rolling 序列 H0 /mm H1 /mm T0 /℃ T1 /℃ B /mm F /kN P /kN·m v /r·m−1 µ C0 /mm C1 /mm 1 72.66 65.01 980.2 964.5 2309.64 13 532.6 801.1 20 1.293 0.0484 0.08929 2 48.12 43.12 917.0 906.8 2613.54 17 322.3 828.9 25 1.335 0.10565 0.12629 3 53.25 47.83 839.6 829.2 2107.04 19 770.7 984.5 30 1.337 0.29848 0.31889 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 669 38.4 35.67 868.3 851.5 2309.64 13 536.3 478.3 35 1.329 0.13191 0.09457 670 65.76 58.83 986.4 865.7 2613.54 19 546.4 1 101.3 20 1.165 0.46068 0.21446 1.3 SVR 理论 ϕ(x) SVR 是一种机器学习方法[15] ,SVR 的基本思 想是通过 将非线性的低维不可分割数据映射 到高维特征空间,并在该特征空间中执行线性 SVR。 SVR 函数可以表述为 f(x) = (w· x)+b (1) f(x) w w· x w x b 式中: 为预测值; 为惯性权值; 为 和 的 内积; 为阈值。 ξi ξi 引入两个松弛变量 和 ∗ ,优化问题可变成: min w,b, ξi,ξi ∗ 1 2 w 2 +C ∑l i=1 (ξi +ξi ∗ ) s.t. (w· xi)+b−yi ⩽ ε+ξi yi −(w· xi)−b ⩽ ε+ξi ∗ ξi ⩾ ξi ∗ ⩾ 0,i = 1,2,3,··· ,l C ξi ξi ∗ 式中: 为惩罚因子; 和 为松弛变量;ε为不敏 感损失参数。 K(xi , x) = φ(xi)·φ(x) 引入拉格朗日函数和基于强对偶关系,并将 核函数 代入化简,式 (1) 可以 重写为 f(x) = ∑l i=1 (αi ∗ −αi)K(xi , x)+b αi αi 式中 和 ∗是拉格朗日乘子向量。 选择核函数对于 SVR 至关重要,它将直接影 响数据样本的非线性映射。为了获得更好的泛化 能力,选择 RBF 核函数用于 SVR 模型,公式为 K(xi , x) = exp(−g|xi − x| 2 ) 式中 g 是 RBF 核函数的参数。 C 和 g 是影响 SVR 模型预测精度的重要参数, 选择 PSO 算法优化二者的最佳组合,以确保模型 的最佳性能。 1.4 PSO 算法优化 SVR 模型参数 PSO 算法是一种基于群体智能原理的随机优 化算法,由 Kennedy 和 Eberhart 在 1995 年提出[19]。 PSO 算法受到鸟类觅食行为的启发并应用到解决 优化问题[20] ,粒子群在高维空间中随机分布并跟 C,g 踪个体极值和种群极值不断更新自己的位置和速 度,使其向全局最优粒子的位置靠近,并试图在 空间中搜索最优参数( ) [21]。 2 建立 PSO-SVR+BPNN 板带凸度预 测模型 2.1 BPNN 板带凸度偏差预测模型 XC ωi j ωjk ANN 通过调整节点之间的关系来处理信息, 具有强大的自学习能力。本文 ANN 采用常用的 BPNN 模型,模型结构由一个输入层、单或多隐含 层和一个输出层组成[22]。利用训练集检验 SVR 模型的误差,并将误差数据集用于训练 BPNN 模 型。因此,在本节选择轧后板带凸度的预测偏差 作为 BPNN 模型的因变量,BPNN 与 SVR 模型 的自变量保持一致,即 BPNN 模型输入层节点数 为 10,输出层节点数为 1。在相同条件下,使用多 隐含层所获得的预测结果并未比单隐含层网络拟 合效果好,所以本文选择单隐含层进行建模,通 过经验公式和试凑法[23] 确定单隐含层节点数为 6,输入层到隐含层的网络权值为 ,隐含层到输 出层的网络权值为 ,由以上参数绘制 BPNN 的 拓扑结构如图 2。 H0 H1 T0 T1 B F P v μ C0 输入层 隐含层 输出层 XC ωij ωih ... 图 2 BPNN 拓扑结构 Fig. 2 Topological structure of BPNN 2.2 PSO-SVR+BPNN 板带凸度预测模型 在实际应用中,板带轧制过程干扰因素较多, 测量数据存在误差和数据处理不当,这些问题都 第 17 卷 智 能 系 统 学 报 ·508·
·509· 刘明华,等:支持向量机与神经网络相结合的板带凸度预 第3期 会导致输入数据存在偏差,使PSO-SVR模型难以 正板带凸度的偏差。BPNN修正PSO-SVR模型 准确地描述板带凸度变化趋势。为提高该模型的 的预测误差,从而使PSO-SVR模型预测误差弱化, 预测精度,提出了将PSO-SVR板带凸度预测模型 将两者的优势进行组合,可以得到最佳的预测效 和BPNN板带凸度偏差模型相结合的方法对板带 果,PSO-SVR+BPNN模型预测板带凸度公式为 凸度进行预测。该方法的主要思想是在无外界因 C2'=C1'+Xe 素干扰的情况下,经过PSO算法优化的SVR模型 式中:c2'为PSO-SVR+BPNN模型的预测值;c,为PSO- 具有良好的泛化能力,能够很好地反映板带凸度变 SVR模型的预测值;x为BPNN模型的预测偏差。 化的主要趋势,用它来预测板带凸度的主值;BPNN 本文所提出的PSO-SVR+BPNN模型的建模 模型反映扰动因素对板带凸度的影响,用它来纠 过程如图3所示。 检验 /c8 PSO 训绮 K(xx) 训练集 训练完成 e (PSO-SVR →偏差数据集 变 ↓训练 K(xx) SVR 输入层 隐含层 T检验准则, 输出层 归一一化方法 训练完成 变量 BPNN 十、训练完成 测试 测试集 (PSO-SVR BPNN 评估PSO-SVR+BPNN 模型的性能 图3PSO-SVR+BPNN模型的建模流程 Fig.3 Modeling process of PSO-SVR+BPNN model 从工厂获取实验数据,并利用T检验准则和 归一化方法预处理实验数据,使其消除异常数据 和数量级差异。其次,采用PSO算法优化SVR模 型参数,利用训练集检验建立PSO-SVR模型时所 ME=2乳xom 产生的误差,并将误差数据集用于训练BPNN模 式中:y为模型的预测数据集;y为模型的目标数 型,将PSO-SVR与BPNN模型相结合进行预测板 据集。 带凸度。最后,利用测试集测试PSO-SVR+BPNN 模型的预测精度,并采用决定系数(R)、根均方误 3实验结果与分析 差(RMSE)、平均绝对误差(MAE)和平均绝对百 3.1PSO-SVR+BPNN模型与PSO-SVR、SVR和 分比误差(MAPE)用于评估模型的综合性能,公 BPNN模型比较 式为 为了体现PSO-SVR+BPNN模型综合性能的 ②w-22 优越性,采用PSO-SVR、SVR和BPNN建立板带 凸度模型,利用R、RMSE、MAE和MAPE评估模 2-②2-② 型的综合性能。在训练集和测试集上,4种模型 预测值与目标值的回归结果,如图4所示。从图4 可得,采用SVR的3种模型的回归性能明显优于 BPNN模型。在训练集和测试集上,BPNN模型 的R不高于0.995,而基于VR的3种模型的所
会导致输入数据存在偏差,使 PSO-SVR 模型难以 准确地描述板带凸度变化趋势。为提高该模型的 预测精度,提出了将 PSO-SVR 板带凸度预测模型 和 BPNN 板带凸度偏差模型相结合的方法对板带 凸度进行预测。该方法的主要思想是在无外界因 素干扰的情况下,经过 PSO 算法优化的 SVR 模型 具有良好的泛化能力,能够很好地反映板带凸度变 化的主要趋势,用它来预测板带凸度的主值;BPNN 模型反映扰动因素对板带凸度的影响,用它来纠 正板带凸度的偏差。BPNN 修正 PSO-SVR 模型 的预测误差,从而使 PSO-SVR 模型预测误差弱化, 将两者的优势进行组合,可以得到最佳的预测效 果,PSO-SVR+BPNN 模型预测板带凸度公式为 c2 ′ = c1 ′ + xc c2 ′ c1 ′ xc 式中: 为 PSO-SVR+BPNN 模型的预测值; 为 PSOSVR 模型的预测值; 为 BPNN 模型的预测偏差。 本文所提出的 PSO-SVR+BPNN 模型的建模 过程如图 3 所示。 变量 1 变量 2 变量 3 变量 n... ... ... ... T 检验准则, 归一化方法 训练集 训练 训练 检验 PSO SVR + BPNN BPNN PSO-SVR PSO-SVR c, g f (x) K (x1 , x) K (x2 , x) K (xk , x) 训练完成 训练完成 训练完成 测试集 测试 偏差数据集 评估 PSO-SVR+BPNN 模型的性能 输出层 输入层 隐含层 图 3 PSO-SVR+BPNN 模型的建模流程 Fig. 3 Modeling process of PSO-SVR+BPNN model 从工厂获取实验数据,并利用 T 检验准则和 归一化方法预处理实验数据,使其消除异常数据 和数量级差异。其次,采用 PSO 算法优化 SVR 模 型参数,利用训练集检验建立 PSO-SVR 模型时所 产生的误差,并将误差数据集用于训练 BPNN 模 型,将 PSO-SVR 与 BPNN 模型相结合进行预测板 带凸度。最后,利用测试集测试 PSO-SVR+BPNN 模型的预测精度,并采用决定系数 (R 2 )、根均方误 差 (RMSE)、平均绝对误差 (MAE) 和平均绝对百 分比误差 (MAPE) 用于评估模型的综合性能,公 式为 R 2 = l ∑l i=1 yiy ′ i − ∑l i=1 yi ∑l i=1 y ′ i 2 l ∑l i=1 yi 2 − ∑l i=1 yi 2 l ∑l i=1 y ′ i 2 − ∑l i=1 y ′ i 2 RMSE = vt 1 l ∑l i=1 (yi −y ′ i ) 2 MAE = 1 l ∑l i=1 yi −y ′ i MAPE = 1 l ∑l i=1 yi −y ′ i yi ×100% y ′ 式中: 为模型的预测数据集; y 为模型的目标数 据集。 3 实验结果与分析 3.1 PSO-SVR+BPNN 模型与 PSO-SVR、SVR 和 BPNN 模型比较 为了体现 PSO-SVR+BPNN 模型综合性能的 优越性,采用 PSO-SVR、SVR 和 BPNN 建立板带 凸度模型,利用 R 2 、RMSE、MAE 和 MAPE 评估模 型的综合性能。在训练集和测试集上,4 种模型 预测值与目标值的回归结果,如图 4 所示。从图 4 可得,采用 SVR 的 3 种模型的回归性能明显优于 BPNN 模型。在训练集和测试集上,BPNN 模型 的 R 2 不高于 0.995,而基于 SVR 的 3 种模型的所 ·509· 刘明华,等:支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·510· 有R均高于0.997,这充分说明了基于SVR的3种 可以提高PSO-SVR模型的学习能力和泛化能力。 模型比BPNN模型的预测精度高。由此可见,基 图5描述了不同模型预测值与目标值的比 于SVR板带凸度预测模型具有较高的泛化能力。 较。从图5中可得,基于SVR的3种模型和BPNN 模型有较高预测精度,但无法直接地区别各模型 0.4 .PSO-SVR+BPNN.R2=0.998 2 的预测精度,因此分别从两个数据集上任意选取 ■PS0-SVRR2=0.9980 0.3 ◆SVR,R2-0.9978 五个连续的样本点测试模型的预测性能,如表2 ●BPNN.R2=0.9919 所示。表2清楚地显示PSO-SVR+BPNN模型与 0.2 PSO-SVR、SVR和BPNN模型之间的预测精度差 01 异。在训练集和测试集上,PSO-SVR+BPNN模型 预测值的相对误差在2%以内;PSO-SVR、SVR 和BPNN模型预测值中大部分数据,点的相对误差 分别在5%、8%和11%以内。以上结果表明,SVR 0 0.1 02 0.3 0.4 目标值/mm 与BPNN模型相比具有较高的预测性能,但低于 (a)训练集 PSO-SVR模型的预测性能;与PSO-SVR、SVR和 0.4 BPNN模型相比,PSO-SVR+BPNN模型的学习能 PSO-SVR+BPNN.R2-0.9998 ■PS0-SVRR2=0.9995 力和预测精度最高。 0.3 ◆SVR,R2=0.9982 BPNN.R2=0.9950 目标值 0.4 SVR BSVR+BPNN PSO-SVR 0.2 0.3 0, 0.2 0.1 -0.1 100 200300400500 -0.1 0 0.10.2 0.30.4 样本序号 目标值/mm (a)训练集 (b)测试集 图4PSO-SVR+BPNN、PSO-SVR、SVR和BPNN模型预 0.4 值SVR+BPNN·PSO-SVR SVR 测值与目标值的回归结果 0.3 Fig.4 Regression results of predicted values and target 0.2 values of PSO-SVR+BPNN、PSO-SVR、SVR and 0.1 BPNN models 0 图4描述了在训练集和测试集上,PSO-SVR -0.1 0 20 40 60 80 100120140 与SVR模型相比具有较大的R值,即PSO-SVR 样本序号 比SVR模型预测性能好。同理可得,与PSO-SVR (b)测试集 相比,PSO-SVR+BPNN模型具有较好的预测性 图5 PSO-SVR+BPNN、PSO-SVR、SVR和BPNN模型预 能。实验结果表明,采用PSO算法优化SVR模型 测值与目标值的比较 Fig.5 Comparison of predicted values and target values 参数,可以提高SVR模型的学习能力和泛化能力; for PSO-SVR+BPNN、PSO-SVR、SVR and BPNN 利用BPNN模型纠正PSO-SVR模型的预测偏差, models 表2部分样本数据下不同模型的相对误差 Table 2 Relative error of different models under partial sample data 目标值 PSO-SVR+BPNN PSO-SVR SVR BPNN 数据集序号 /mm 预测值/mm相对误差/% 预测值/mm相对误差% 预测值/mm相对误差/% 预测值/mm相对误差/% 1 0.24957 0.24974 -0.07 0.25164 -0.83 0.25200 -0.97 0.24694 1.05 2 0.09432 0.09396 0.38 0.09592 -1.70 0.09752 -3.39 0.09856 -4.50 训练集 3 -0.00472-0.00479 -1.48 -0.00494 -4.66 -0.00218 53.81 -0.01001 -112.08 4 -0.01173-0.01173 0.00 -0.00976 16.79 -0.00897 23.53 -0.01485 -26.60
有 R 2 均高于 0.997,这充分说明了基于 SVR 的 3 种 模型比 BPNN 模型的预测精度高。由此可见,基 于 SVR 板带凸度预测模型具有较高的泛化能力。 0 0.1 0.2 0.3 0.4 −0.1 0 0.1 0.2 0.3 0.4 预测值/mm 目标值/mm (a) 训练集 PSO-SVR+BPNN, R 2=0.998 2 PSO-SVR, R 2=0.998 0 SVR, R 2=0.997 8 BPNN, R 2=0.991 9 0 0.1 0.2 0.3 0.4 −0.1 0 0.1 0.2 0.3 0.4 预测值/mm 目标值/mm (b) 测试集 PSO-SVR+BPNN, R 2=0.999 8 PSO-SVR, R 2=0.999 5 SVR, R 2=0.998 2 BPNN, R 2=0.995 0 图 4 PSO-SVR+BPNN、PSO-SVR、SVR 和 BPNN 模型预 测值与目标值的回归结果 Fig. 4 Regression results of predicted values and target values of PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models 图 4 描述了在训练集和测试集上,PSO-SVR 与 SVR 模型相比具有较大的 R 2 值,即 PSO-SVR 比 SVR 模型预测性能好。同理可得,与 PSO-SVR 相比,PSO-SVR+BPNN 模型具有较好的预测性 能。实验结果表明,采用 PSO 算法优化 SVR 模型 参数,可以提高 SVR 模型的学习能力和泛化能力; 利用 BPNN 模型纠正 PSO-SVR 模型的预测偏差, 可以提高 PSO-SVR 模型的学习能力和泛化能力。 图 5 描述了不同模型预测值与目标值的比 较。从图 5 中可得,基于 SVR 的 3 种模型和 BPNN 模型有较高预测精度,但无法直接地区别各模型 的预测精度,因此分别从两个数据集上任意选取 五个连续的样本点测试模型的预测性能,如表 2 所示。表 2 清楚地显示 PSO-SVR+BPNN 模型与 PSO-SVR、SVR 和 BPNN 模型之间的预测精度差 异。在训练集和测试集上,PSO-SVR+BPNN 模型 预测值的相对误差在 2% 以内;PSO-SVR、SVR 和 BPNN 模型预测值中大部分数据点的相对误差 分别在 5%、8% 和 11% 以内。以上结果表明,SVR 与 BPNN 模型相比具有较高的预测性能,但低于 PSO-SVR 模型的预测性能;与 PSO-SVR、SVR 和 BPNN 模型相比,PSO-SVR+BPNN 模型的学习能 力和预测精度最高。 −0.1 0 0.1 0.2 0.3 0.4 0 100 200 300 400 500 板带凸度/mm 样本序号 (a) 训练集 PSO-SVR+BPNN PSO-SVR SVR 目标值 BPNN −0.1 0 0.1 0.2 0.3 0.4 0 20 40 60 100 80 140 120 板带凸度/mm 样本序号 (b) 测试集 PSO-SVR+BPNN PSO-SVR SVR 目标值 BPNN 图 5 PSO-SVR+BPNN、PSO-SVR、SVR 和 BPNN 模型预 测值与目标值的比较 Fig. 5 Comparison of predicted values and target values for PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models 表 2 部分样本数据下不同模型的相对误差 Table 2 Relative error of different models under partial sample data 数据集 序号 目标值 /mm PSO-SVR+BPNN PSO-SVR SVR BPNN 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 训练集 1 0.249 57 0.249 74 −0.07 0.251 64 −0.83 0.252 00 −0.97 0.246 94 1.05 2 0.094 32 0.093 96 0.38 0.095 92 −1.70 0.097 52 −3.39 0.098 56 −4.50 3 −0.004 72 −0.004 79 −1.48 −0.004 94 −4.66 −0.002 18 53.81 −0.010 01 −112.08 4 −0.011 73 −0.011 73 0.00 −0.009 76 16.79 −0.008 97 23.53 −0.014 85 −26.60 第 17 卷 智 能 系 统 学 报 ·510·
·511- 刘明华,等:支持向量机与神经网络相结合的板带凸度预测 第3期 续表2 目标值 PSO-SVR+BPNN PSO-SVR SVR BPNN 数据集序号 /mm 预测值/mm相对误差%预测值/mm相对误差%预测值/mm相对误差% 预测值/mm相对误差/% 5 0.139510.139312 0.14 0.13920 0.22 0.12878 7.69 0.12535 10.15 10.125220.12514 0.06 0.12511 0.09 0.12687 -1.32 0.12234 2.30 20.21981 0.21996 -0.07 0.22143 -0.74 0.21702 1.27 0.21255 3.30 测试集3 0.10620 0.10437 1.72 0.10314 2.88 0.10944 -3.05 0.10984 -3.43 40.065550.06514 0.63 0.06407 2.26 0.06337 3.33 0.06196 5.48 50.177970.17807 -0.06 0.17819 -0.12 0.17521 1.55 0.17355 2.48 通过RMSE、MAE和MAPE测试各模型的综 的影响最大,其次,隐含层节点数对模型性能的 合性能。表3列出了各模型在训练集和测试集 影响较小,而参数C和g对模型性能的影响最小。 上3种误差指标的计算值,图6是从计算结果中 0.20 得出误差分布的直方图。表3和图6清楚地表明, PSO-SVR+BPNN 0.16 PSO-SVR 在训练集和测试集上,PSO-SVR+BPNN模型的 ■SVR RMSE、MAE和MAPE指标最小,分别为0.0042 0.12 BPNN 和0.0012、0.0009和0.0008、2.3715%和2.6903%。 0.08 PSO-SVR+BPNN模型的MAPE在2.7%以内; 0.04 PSO-SVR、SVR和BPNN模型的MAPE分别在 0 7.1%、16.4%和18.4%以内。以上结果与表2结 RMSE MAE MAPE 果保持一致,PSO-SVR+BPNN模型与其他3种模 误差指标 (a)训练集 型相比具有最佳的学习能力和泛化能力,再次验 0.20 PSO-SVR+BPNN 证了PSO-SVR+BPNN板带凸度模型的优越性。 0.16 PSO-SVR 表3不同模型的性能统计分析 SVR 与0.12 BPNN Table 3 Performance statistical analysis of different mod- els 模型 数据集RMSE MAE MAPE/ 0.04 训练集 0.0042 0.0009 2.3715 PSO-SVR+BPNN RMSE MAE MAPE 测试集 0.0012 0.0008 2.6903 误差指标 训练集 0.0044 0.0018 6.7357 (b)测试集 PSO-SVR 测试集 0.0021 0.0016 7.0191 图6不同模型的误差直方图 训练集 Fig.6 Error histograms of different models 0.0047 0.0025 11.2095 SVR 测试集 0.0039 0.0028 16.3480 表4不同条件下模型性能的影响 Table 4 Impact of model performance based on different 训练集0.0073 0.005617.7347 conditions BPNN 测试集0.00640.0047 18.3607 模型 条件 R R22 此外,对影响PSO-SVR+BPNN板带凸度模型 模型1 未优化C和g 0.9980 0.9989 性能的主要因素进行定量分析,将未优化SVR模 模型2 未优化隐含层节点 0.9919 0.9878 型参数C和g,设定为模型1;未优化BPNN模型隐 模型3 未删除异常数据 0.9556 0.9341 含层节点数,设定为模型2:未删除异常数据,设 模型4 全部优化 0.9982 0.9998 定为模型3:以上因素全部考虑,设定为模型4,采 用R指标评价各模型的预测性能,实验结果如 3.2 PSO-SVR+BPNN模型与GA-SVR模型比较 表4所示。从表4可以看出,在训练集和测试集 遗传算法(GA)2是一种通过模拟自然进化 上,模型3的R最小,模型2的R相对较小,而模 过程搜索最优解的方法,具有较高的全局优化能 型1的R相对较大。因此,异常数据对模型性能 力、通用性强且适用于并行处理的优点,常常被
续表 2 数据集 序号 目标值 /mm PSO-SVR+BPNN PSO-SVR SVR BPNN 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 5 0.139 51 0.139 312 0.14 0.139 20 0.22 0.12878 7.69 0.12535 10.15 测试集 1 0.125 22 0.125 14 0.06 0.125 11 0.09 0.12687 −1.32 0.12234 2.30 2 0.219 81 0.219 96 −0.07 0.221 43 −0.74 0.21702 1.27 0.21255 3.30 3 0.106 20 0.104 37 1.72 0.103 14 2.88 0.10944 −3.05 0.10984 −3.43 4 0.065 55 0.065 14 0.63 0.064 07 2.26 0.06337 3.33 0.06196 5.48 5 0.177 97 0.178 07 −0.06 0.178 19 −0.12 0.17521 1.55 0.17355 2.48 通过 RMSE、MAE 和 MAPE 测试各模型的综 合性能。表 3 列出了各模型在训练集和测试集 上 3 种误差指标的计算值,图 6 是从计算结果中 得出误差分布的直方图。表 3 和图 6 清楚地表明, 在训练集和测试集上,PSO-SVR+BPNN 模型的 RMSE、MAE 和 MAPE 指标最小,分别为 0.004 2 和 0.0012、0.0009 和 0.0008、2.3715% 和 2.6903%。 PSO-SVR+BPNN 模型的 MAPE 在 2.7% 以内; PSO-SVR、SVR 和 BPNN 模型的 MAPE 分别在 7.1%、16.4% 和 18.4% 以内。以上结果与表 2 结 果保持一致,PSO-SVR+BPNN 模型与其他 3 种模 型相比具有最佳的学习能力和泛化能力,再次验 证了 PSO-SVR+BPNN 板带凸度模型的优越性。 表 3 不同模型的性能统计分析 Table 3 Performance statistical analysis of different models 模型 数据集 RMSE MAE MAPE/% PSO-SVR+BPNN 训练集 0.0042 0.000 9 2.3715 测试集 0.0012 0.000 8 2.6903 PSO-SVR 训练集 0.0044 0.001 8 6.7357 测试集 0.0021 0.001 6 7.0191 SVR 训练集 0.0047 0.002 5 11.2095 测试集 0.0039 0.002 8 16.3480 BPNN 训练集 0.0073 0.005 6 17.7347 测试集 0.0064 0.004 7 18.3607 C g 此外,对影响 PSO-SVR+BPNN 板带凸度模型 性能的主要因素进行定量分析,将未优化 SVR 模 型参数 和 ,设定为模型 1;未优化 BPNN 模型隐 含层节点数,设定为模型 2;未删除异常数据,设 定为模型 3;以上因素全部考虑,设定为模型 4,采 用 R 2 指标评价各模型的预测性能,实验结果如 表 4 所示。从表 4 可以看出,在训练集和测试集 上,模型 3 的 R 2 最小,模型 2 的 R 2 相对较小,而模 型 1 的 R 2 相对较大。因此,异常数据对模型性能 C g 的影响最大,其次,隐含层节点数对模型性能的 影响较小,而参数 和 对模型性能的影响最小。 0 0.04 0.08 0.12 0.16 0.20 RMSE MAE MAPE 误差值 误差指标 PSO-SVR+BPNN PSO-SVR SVR BPNN 0 0.04 0.08 0.12 0.16 0.20 RMSE MAE MAPE 误差值 误差指标 (b) 测试集 (a) 训练集 PSO-SVR+BPNN PSO-SVR SVR BPNN 图 6 不同模型的误差直方图 Fig. 6 Error histograms of different models 表 4 不同条件下模型性能的影响 Table 4 Impact of model performance based on different conditions 模型 条件 R1 2 R2 2 模型1 未优化 C 和 g 0.998 0 0.998 9 模型2 未优化隐含层节点 0.991 9 0.987 8 模型3 未删除异常数据 0.955 6 0.934 1 模型4 全部优化 0.998 2 0.999 8 3.2 PSO-SVR+BPNN 模型与 GA-SVR 模型比较 遗传算法(GA) [24] 是一种通过模拟自然进化 过程搜索最优解的方法,具有较高的全局优化能 力、通用性强且适用于并行处理的优点,常常被 ·511· 刘明华,等:支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·512· 使用在模型参数优化方面。本节采用GA算法优 此外,运算时间是判断模型是否能在线应用 化SVR参数,建立GA-SVR板带凸度预测模型, 的一个重要指标。图8描述PSO-SVR+BPNN和 并将PSO-SVR+BPNN与GA-SVR模型进行综合 GA-SVR模型在不同迭代条件下的运算时间。从 性能对比。 图8中可得,在相同迭代次数条件下,GA-SVR模 PSO与GA算法相同的参数设置:种群规模 型的运算时间明显高于PSO-SVR+BPNN模型。 20,终止迭代次数20,C和g取值(0.01,100)和 随着迭代次数的增加,GA-SVR模型比PSO- (0,1)。特有参数设置:对于PSO算法,惯性权值 SVR+BPNN模型运算时间的增长趋势更显著,因 为1/(2n2),加速因子为ln2+0.5;而GA算法,交叉 此PSO-SVR+BPNN模型更适合热轧生产过程中 概率为0.4和变异概率为0.1。在相同条件下,GA-SVR 板带凸度的在线预测。 与PSO-SVR+BPNN模型在训练集和测试集上预 250 ☐PSO-SVR+BPNN 245.68 测值的比较,如图7所示。图7中显示两个模型 GA-SVR 都具有较高的预测精度。为了直观地分析2个模 200 193.62 型之间的性能差异,采用RMSE、MAE和MAPE 150 135.25 评估模型的预测性能,如表5所示。在训练集和 113.63 100 测试集上,PSO-SVR+BPNN模型的3个误差指标 均明显低于GA-SVR模型的3个误差指标。以上 28.2735.67 结果充分证明,PSO-SVR+BPNN比GA-SVR模型 0 20 80 140 具有更高的学习能力和预测精度。 迭代次数 图8 PSO-SVR+BPNN模型与GA-SVR模型运算时间比较 041 ·目标值◆PSO-SVR+BPNNGA-SVR Fig.8 Comparison of computing time for PSO-SVR+ 0.3 BPNN and GA-SVR model 0.2 0. 4结束语 0 为了提高热轧生产过程中板带凸度的预测精 100 200300 400 500 样本序号 度,本文建立了PSO-SVR模型与BPNN模型相结 (a)训练集 合的混合模型PSO-SVR+BPNN对板带凸度进行 0.4 r·目标值+PSO-SVR+BPNN+GA-SVR 预测。实验结果表明:1)基于SVR板带凸度预测 0.3 模型具有很高的泛化能力:2)在实验数据有限的 0.2 情况下,基于SVR模型比BPNN模型更适合作为 0.1 板带凸度预测模型;3)采用BPNN模型与PSO- 0 SVR模型相结合的方法可以提高PSO-SVR模型 -01 0 20 40 60 0 100 120140 的学习能力和泛化能力;4)PSO-SVR+BPNN模型 样本序号 (b)测试集 比PSO-SVR、SVR、BPNN和GA-SVR模型具有较 高的学习能力和泛化能力,并且比GA-SVR模型 图7PSO-SVR+BPNN和GA-SVR模型预测值与目标值 更适合热轧生产过程中板带凸度的在线预测。 的比较 Fig.7 Comparison of predicted values and target values 参考文献: for PSO-SVR+BPNN and GA-SVR model 表5不同模型的性能统计分析 [1]薛涛,杜凤山,孙静娜,等.基于FEM-ANN的冷轧带钢 Table 5 Performance statistical analysis of different mod- 轧制力预报[】.中南大学学报:自然科学版,2013, els 44(11:4456-4460 模型 数据集 RMSE MAE MAPE/ XUE Tao,DU Fengshan,SUN Jingna,et al.Rolling force 训练集 0.0042 0.0009 2.3715 prediction of cold strip rolling based on FEM-ANN[J]. PSO-SVR+BPNN 测试集0.00120.0008 Journal of Central South University:(science and techno- 2.6903 1 ogy edition,2013,4411):4456-4460. 训练集 0.0045 0.0021 10.4214 GA-SVR [2] DENG Jifei,SUN Jie,PENG Wen,et al.Application of 测试集 0.00240.0019 12.5999 neural networks for predicting hot-rolled strip crown[J]
使用在模型参数优化方面。本节采用 GA 算法优 化 SVR 参数,建立 GA-SVR 板带凸度预测模型, 并将 PSO-SVR+BPNN 与 GA-SVR 模型进行综合 性能对比。 C g PSO 与 GA 算法相同的参数设置:种群规模 20,终止迭代次数 20, 和 取值 (0.01,100) 和 (0,1)。特有参数设置:对于 PSO 算法,惯性权值 为 1/(2ln2),加速因子为 ln2+0.5;而 GA 算法,交叉 概率为 0.4 和变异概率为 0.1。在相同条件下,GA-SVR 与 PSO-SVR+BPNN 模型在训练集和测试集上预 测值的比较,如图 7 所示。图 7 中显示两个模型 都具有较高的预测精度。为了直观地分析 2 个模 型之间的性能差异,采用 RMSE、MAE 和 MAPE 评估模型的预测性能,如表 5 所示。在训练集和 测试集上,PSO-SVR+BPNN 模型的 3 个误差指标 均明显低于 GA-SVR 模型的 3 个误差指标。以上 结果充分证明,PSO-SVR+BPNN 比 GA-SVR 模型 具有更高的学习能力和预测精度。 0 0.2 0.4 0 100 200 300 400 500 板带凸度/mm 样本序号 (a) 训练集 目标值 PSO-SVR+BPNN GA-SVR −0.1 0.1 0.3 −0.1 0 0.1 0.2 0.3 0.4 0 20 40 60 100 80 140 120 板带凸度/mm 样本序号 (b) 测试集 目标值 PSO-SVR+BPNN GA-SVR 图 7 PSO-SVR+BPNN 和 GA-SVR 模型预测值与目标值 的比较 Fig. 7 Comparison of predicted values and target values for PSO-SVR+BPNN and GA-SVR model 表 5 不同模型的性能统计分析 Table 5 Performance statistical analysis of different models 模型 数据集 RMSE MAE MAPE/% PSO-SVR+BPNN 训练集 0.0042 0.000 9 2.3715 测试集 0.0012 0.000 8 2.6903 GA-SVR 训练集 0.0045 0.002 1 10.4214 测试集 0.0024 0.001 9 12.5999 此外,运算时间是判断模型是否能在线应用 的一个重要指标。图 8 描述 PSO-SVR+BPNN 和 GA-SVR 模型在不同迭代条件下的运算时间。从 图 8 中可得,在相同迭代次数条件下,GA-SVR 模 型的运算时间明显高于 PSO-SVR+BPNN 模型。 随着迭代次数的增加, GA-SVR 模型比 PSOSVR+BPNN 模型运算时间的增长趋势更显著,因 此 PSO-SVR+BPNN 模型更适合热轧生产过程中 板带凸度的在线预测。 0 50 100 150 200 250 20 28.2735.67 113.63 135.25 193.62 245.68 80 140 时间/s 迭代次数 PSO-SVR+BPNN GA-SVR 图 8 PSO-SVR+BPNN 模型与 GA-SVR 模型运算时间比较 Fig. 8 Comparison of computing time for PSO-SVR+ BPNN and GA-SVR model 4 结束语 为了提高热轧生产过程中板带凸度的预测精 度,本文建立了 PSO-SVR 模型与 BPNN 模型相结 合的混合模型 PSO-SVR+BPNN 对板带凸度进行 预测。实验结果表明:1)基于 SVR 板带凸度预测 模型具有很高的泛化能力;2)在实验数据有限的 情况下,基于 SVR 模型比 BPNN 模型更适合作为 板带凸度预测模型;3)采用 BPNN 模型与 PSOSVR 模型相结合的方法可以提高 PSO-SVR 模型 的学习能力和泛化能力;4)PSO-SVR+BPNN 模型 比 PSO-SVR、SVR、BPNN 和 GA-SVR 模型具有较 高的学习能力和泛化能力,并且比 GA-SVR 模型 更适合热轧生产过程中板带凸度的在线预测。 参考文献: 薛涛, 杜凤山, 孙静娜, 等. 基于 FEM-ANN 的冷轧带钢 轧制力预报 [J]. 中南大学学报:自然科学版, 2013, 44(11): 4456–4460. XUE Tao, DU Fengshan, SUN Jingna, et al. Rolling force prediction of cold strip rolling based on FEM-ANN[J]. Journal of Central South University: (science and technology edition), 2013, 44(11): 4456–4460. [1] DENG Jifei, SUN Jie, PENG Wen, et al. Application of neural networks for predicting hot-rolled strip crown[J]. [2] 第 17 卷 智 能 系 统 学 报 ·512·
·513· 刘明华,等:支持向量机与神经网络相结合的板带凸度预 第3期 Applied soft computing,2019,78:119-131. [12]CHENG M Y.HOANG N D,WUY W.Hybrid intelli- [3]SAMAREH S P H.KHADEMHOSSEINI B H.ALIZA- gence approach based on LS-SVM and differential evol- DEH Y.et al.Calculation of work roll initial crown based ution for construction cost index estimation:A Taiwan on desired strip profile in hot rolling[J].Neural Comput- case study[J].Automation in construction,2013,35: ing and Applications,2013,24(5):1123-1133 306-313. [4]张强.基于支持向量机的热轧板带轧制力预测D].西 [13]VAPNIK V N.The nature of statistical learning 安:西安建筑科技大学,2021:2. theory[J].IEEE transactions on neural networks,1997, ZHANG Qiang.Prediction of rolling force of hot rolled 8(6):1564-1564 strip based on support vector machine[D].Xi'an:Xi'an [14]VAPNIK V N.An overview of statistical learning the- University of Architecture and Technology,2021:2. ory[J].IEEE transactions on neural networks,1999, [5]CHUN M S,BIGLOU J,Lenard J G,et al.Using neural 10(5):988-999. networks to predict parameters in the hot working of alu- [15]WANG Hu,LI Enying,LI Guangyao.The least square minum alloys[J].Journal of materials processing techno- support vector regression coupled with parallel sampling 10gy,1999,86:245-251. scheme metamodeling technique and application in sheet [6]冀秀梅,王龙,高克伟,等.极限学习机在中厚板轧制力 forming optimization[J].Materials and design,2009, 预报中的应用U.钢铁研究学报,2020,32(5):393-399 30(5):1468-1479. JI Xiumei,WANG Long,GAO Kewei,et al.Application [16]FEI Shengwei,HE Chuangxin.Prediction of dissolved of ELM to predict plate rolling force[J].Journal of iron gases content in power transformer oil using BASA- and steel research,2020,32(5):393-399 based mixed kernel RVR model[J].International journal [7]马威,李维刚,赵云涛,等.基于深度学习的热连轧轧制 of green energy,2019,16(8):652-656. 力预测[).钢铁研究学报,2019,31(9):805-815 [17]WU Dongsheng,YANG Qin,WANG Dazhi.Rolling MA Wei,LI Weigang,ZHAO Yuntao,et al.Prediction of force prediction based on PSO optimized support vector hot-rolled roll force based on deep learning[J].Journal of regression[C //Seventh International Conference on Nat- iron and steel research,2019,31(9):805-815. ural Computation.Shanghai:IEEE,2011:839-483. [8]WANG Liyong,LI Le,ZHANG Zhihua.Accurate de- [18]WANG Dongshu,TAN Dapei,LIU Lei.Particle swarm scriptions of hot flow behaviors across B Transus of Ti- optimization algorithm:an overview[J].Soft computing. 6Al-4V alloy by intelligence algorithm GA-SVR[J]. 2017.22(2:387-408. Journal of materials engineering and performance,2016, [19]Eberhart R,Kennedy J.A new optimizer using particle 25(9):3912-3923. swarm theory[C]//Proceedings of the 6th International [9]王前锋.基于改进型支持向量机算法的轧机轧制力预 Symposium on Micro Machine and Human Science. 测.锻压技术,2019,44(4):131-137 Nagoya:IEEE,1995:39-43. WANG Qianfeng.Rolling force prediction of rolling mill [20]刘明华,张强,刘英华,等.基于机器学习的热轧轧制 based on improved support vector machine algorithm[J]. 力预测).锻压技术,2021,46(10:233-241. Forging and stamping technology,2019,44(4):131-137. LIU Minghua,ZHANG Qiang,LIU Yinghua,et al. [10]方敏.轧制过程板形预测控制的研究D].杭州:杭州 Rolling force prediction of hot rolling based on machine 电子科技大学,2015:55. learning method[J].Forging and stamping technology, FANG Min.Research on flatness prediction control in 2021.46(10:233-241. rolling process[D].Hangzhou:Hangzhou Dianzi Uni- [21]杨轻,杨忠,许昌亮,等.改进PSO算法及其无人机电 versity,2015:55. 力巡线规划应用J.应用科技,2019,46(3:80-85. [11]朱永波,张飞,张勇军,等.基于粒子群优化的带钢凸 YANG Qing,YANG Zhong,XU Changliang,Improved 度神经网络预测模型研究[J].治金自动化,2019, particle swarm optimization algorithm and its applica- 43(2):11-15 tion in unmanned aerial vehicle power line patrol[J].Ap- ZHU Yongbo,ZHANG Fei,ZHANG Yongjun,et al. plied science and technology,2019,46(3):80-85. Particle swarm optimized neural network for strip crown [22]高喜峰,翟立宾,徐万海.应用BP神经网络的柔性圆 prediction model research[J].Metallurgical industry 柱涡激振动预报[].哈尔滨工程大学学报,2020, automation,2019,43(2:11-15. 41(8):1150-1155
Applied soft computing, 2019, 78: 119–131. SAMAREH S P H, KHADEMHOSSEINI B H, ALIZADEH Y, et al. Calculation of work roll initial crown based on desired strip profile in hot rolling[J]. Neural Computing and Applications, 2013, 24(5): 1123–1133. [3] 张强. 基于支持向量机的热轧板带轧制力预测 [D]. 西 安: 西安建筑科技大学, 2021: 2. ZHANG Qiang. Prediction of rolling force of hot rolled strip based on support vector machine[D]. Xi’an: Xi’an University of Architecture and Technology, 2021: 2. [4] CHUN M S, BIGLOU J, Lenard J G, et al. Using neural networks to predict parameters in the hot working of aluminum alloys[J]. Journal of materials processing technology, 1999, 86: 245–251. [5] 冀秀梅, 王龙, 高克伟, 等. 极限学习机在中厚板轧制力 预报中的应用 [J]. 钢铁研究学报, 2020, 32(5): 393–399. JI Xiumei, WANG Long, GAO Kewei, et al. Application of ELM to predict plate rolling force[J]. Journal of iron and steel research, 2020, 32(5): 393–399. [6] 马威, 李维刚, 赵云涛, 等. 基于深度学习的热连轧轧制 力预测 [J]. 钢铁研究学报, 2019, 31(9): 805–815. MA Wei, LI Weigang, ZHAO Yuntao, et al. Prediction of hot-rolled roll force based on deep learning[J]. Journal of iron and steel research, 2019, 31(9): 805–815. [7] WANG Liyong, LI Le, ZHANG Zhihua. Accurate descriptions of hot flow behaviors across β Transus of Ti- 6Al-4V alloy by intelligence algorithm GA-SVR[J]. Journal of materials engineering and performance, 2016, 25(9): 3912–3923. [8] 王前锋. 基于改进型支持向量机算法的轧机轧制力预 测 [J]. 锻压技术, 2019, 44(4): 131–137. WANG Qianfeng. Rolling force prediction of rolling mill based on improved support vector machine algorithm[J]. Forging and stamping technology, 2019, 44(4): 131–137. [9] 方敏. 轧制过程板形预测控制的研究 [D]. 杭州: 杭州 电子科技大学, 2015: 55. FANG Min. Research on flatness prediction control in rolling process[D]. Hangzhou: Hangzhou Dianzi University, 2015: 55. [10] 朱永波, 张飞, 张勇军, 等. 基于粒子群优化的带钢凸 度神经网络预测模型研究 [J]. 冶金自动化, 2019, 43(2): 11–15. ZHU Yongbo, ZHANG Fei, ZHANG Yongjun, et al. Particle swarm optimized neural network for strip crown prediction model research[J]. Metallurgical industry automation, 2019, 43(2): 11–15. [11] CHENG M Y, HOANG N D, WU Y W. Hybrid intelligence approach based on LS-SVM and differential evolution for construction cost index estimation: A Taiwan case study[J]. Automation in construction, 2013, 35: 306–313. [12] VAPNIK V N. The nature of statistical learning theory[J]. IEEE transactions on neural networks, 1997, 8(6): 1564–1564. [13] VAPNIK V N. An overview of statistical learning theory[J]. IEEE transactions on neural networks, 1999, 10(5): 988–999. [14] WANG Hu, LI Enying, LI Guangyao. The least square support vector regression coupled with parallel sampling scheme metamodeling technique and application in sheet forming optimization[J]. Materials and design, 2009, 30(5): 1468–1479. [15] FEI Shengwei, HE Chuangxin. Prediction of dissolved gases content in power transformer oil using BASAbased mixed kernel RVR model[J]. International journal of green energy, 2019, 16(8): 652–656. [16] WU Dongsheng, YANG Qin, WANG Dazhi. Rolling force prediction based on PSO optimized support vector regression[C]//Seventh International Conference on Natural Computation. Shanghai: IEEE, 2011: 839−483. [17] WANG Dongshu, TAN Dapei, LIU Lei. Particle swarm optimization algorithm: an overview[J]. Soft computing, 2017, 22(2): 387–408. [18] Eberhart R, Kennedy J. A new optimizer using particle swarm theory[C]// Proceedings of the 6th International Symposium on Micro Machine and Human Science. Nagoya: IEEE, 1995: 39−43. [19] 刘明华, 张强, 刘英华, 等. 基于机器学习的热轧轧制 力预测 [J]. 锻压技术, 2021, 46(10): 233–241. LIU Minghua, ZHANG Qiang, LIU Yinghua, et al. Rolling force prediction of hot rolling based on machine learning method[J]. Forging and stamping technology, 2021, 46(10): 233–241. [20] 杨轻, 杨忠, 许昌亮, 等. 改进 PSO 算法及其无人机电 力巡线规划应用 [J]. 应用科技, 2019, 46(3): 80−85. YANG Qing, YANG Zhong, XU Changliang, Improved particle swarm optimization algorithm and its application in unmanned aerial vehicle power line patrol[J]. Applied science and technology, 2019, 46(3): 80−85. [21] 高喜峰, 翟立宾, 徐万海. 应用 BP 神经网络的柔性圆 柱涡激振动预报 [J]. 哈尔滨工程大学学报, 2020, 41(8): 1150–1155. [22] ·513· 刘明华,等:支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·514· GAO Xifeng,ZHAI Libin,XU Wanhai.Predicton of 作者简介: vortex-induced vibration of flexible cylinder using BP 刘明华,副教授,博土,主要研究 neural network[J].Journal of Harbin Engineering Uni- 方向为轧制过程数模与控制。 versity,2020,41(8):1150-1155. [23]张旭,杜景林.改进PSO-GA-BP的PM2.5浓度预测 [).计算机工程与设计,2019,40(6):1718-1723 ZHANG Xu,DU Jinglin.PM2.5 concentration predic- tion based on improved PSO-GA-BP[J].Computer en- 张强,硕士研究生,主要研究方向 gineering and design,2019,40(6):1718-1723. 为基于支持向量机板材轧制过程建模。 [24]ZHOU Yuting,XIA Yufeng,JIANG Lai,et al.Model- ing of the hot flow behaviors for Ti-6Al-4V-0.IRu alloy by GA-BPNN model and its application[J].High Tem- perature materials and processes,2018,37(6):551-562 第一届自然语言处理技术与应用研讨会 在第六个全国科技工作者日来临之际,由中国人工智能学会、南京邮电大学主办,南京邮电大学计算机 学院、CAAI自然语言理解专委会承办,江苏省人工智能学会数据挖掘与应用专委会协办的第一届自然语言 处理技术与应用研讨会将于2022年5月28日,在江苏省南京市南京邮电大学仙林校区举行,线上会议和线 下会议将同时进行。 本次会议旨在为来自各界的研究人员提供一个开放的平台,分享各自想法、研究成果和经验,增进自然 语言处理领域的学者学术交流,凝聚学术界和产业界的力量,深入探讨自然语言处理研究中的前沿技术和 重要应用,推动中国自然语言处理领域的健康发展。本次会议邀请了来自复旦大学、同济大学、中兴通讯研 究院等知名高校和研究机构的专家担任嘉宾进行学术分享。 观看地址:https:/meeting.tencent..com/dw/iFPO2 fOjeRAJ
GAO Xifeng, ZHAI Libin, XU Wanhai. Predicton of vortex-induced vibration of flexible cylinder using BP neural network[J]. Journal of Harbin Engineering University, 2020, 41(8): 1150–1155. 张旭, 杜景林. 改进 PSO-GA-BP 的 PM2.5 浓度预测 [J]. 计算机工程与设计, 2019, 40(6): 1718–1723. ZHANG Xu, DU Jinglin. PM2.5 concentration prediction based on improved PSO-GA-BP[J]. Computer engineering and design, 2019, 40(6): 1718–1723. [23] ZHOU Yuting, XIA Yufeng, JIANG Lai, et al. Modeling of the hot flow behaviors for Ti-6Al-4V-0.1Ru alloy by GA-BPNN model and its application[J]. High Temperature materials and processes, 2018, 37(6): 551–562. [24] 作者简介: 刘明华,副教授,博士,主要研究 方向为轧制过程数模与控制。 张强,硕士研究生,主要研究方向 为基于支持向量机板材轧制过程建模。 第一届自然语言处理技术与应用研讨会 在第六个全国科技工作者日来临之际,由中国人工智能学会、南京邮电大学主办,南京邮电大学计算机 学院、CAAI 自然语言理解专委会承办,江苏省人工智能学会数据挖掘与应用专委会协办的第一届自然语言 处理技术与应用研讨会将于 2022 年 5 月 28 日,在江苏省南京市南京邮电大学仙林校区举行,线上会议和线 下会议将同时进行。 本次会议旨在为来自各界的研究人员提供一个开放的平台,分享各自想法、研究成果和经验,增进自然 语言处理领域的学者学术交流,凝聚学术界和产业界的力量,深入探讨自然语言处理研究中的前沿技术和 重要应用,推动中国自然语言处理领域的健康发展。本次会议邀请了来自复旦大学、同济大学、中兴通讯研 究院等知名高校和研究机构的专家担任嘉宾进行学术分享。 观看地址:https://meeting.tencent.com/dw/iFP02fOjeRAJ 第 17 卷 智 能 系 统 学 报 ·514·