第7卷第5期 智能系统学报 Vol.7 No.5 2012年10月 CAAI Transactions on Intelligent Systems 0ct.2012 D0I:10.3969/j.i8sn.1673-4785.201111002 网络出版t地址:htp://www.cnki.net/kcma/detail/23.1538.TP.20120907.1659.001.html 结合GM(1,1)和LSSVM的多效蒸发过程参数预测 徐丽莎1,钱晓山2,3,阳春华3 (1.中南林业科技大学涉外学院,湖南长沙410004;2.宜春学院物理科学与工程技术学院,江西宜春336000; 3.中南大学信息科学与工程学院,湖南长沙410083) 摘要:为了解决多效蒸发过程具有高噪声和非平稳等特性的参数时间序列预测问题,提出了一种基于小波变换结 合GM(1,1)和LSSVM的蒸发过程参数预测方法.该方法首先利用Mallat算法对参数时间序列进行分解和重构,分 离出序列中的低频信息和高颜信息;然后对低频信息构建GM(1,1)模型,对高频信息则用最小二乘支持向量机进行 拟合;最后将各模型的预测结果进行叠加,从而得到最终的预测结果.以氧化铝多效蒸发过程的生产数据进行了实 验验证,结果表明,该预测算法切实可行且优于单一的GM(1,1)和LSSVM方法,具有较好的泛化性能和较强的鲁棒 性,可用于氧化铝生产蒸发过程的优化控制. 关键词:小波变换;GM(1,1)模型;LSSVM模型;多效蒸发过程;参数预测 中图分类号:TP273文献标志码:A文章编号:16734785(2012)05046205 Parameter prediction of multi-effect evaporation process combining GM(1,1)with LSSVM XU Lisha',QIAN Xiaoshan2.3,YANG Chunhua3 (1.Shewai College,Central South University of Forestry and Technology,Changsha 410004,China:2.Physical Science and Tech- nology College,Yichun University,Yichun 336000,China;3.School of Information Science Engineering,Central South Universi- ty,Changsha 410083,China) Abstract:A parameter prediction method was proposed for solving the time-series prediction problem on the param- eters of the multi-effect evaporation process with high noise and non-stationary,combining GM(1,1)and least squares support vector machines (LSSVM)based on the wavelet transform model.Firstly,the Mallat algorithm was used to decompose and reconstruct the time series of parameters,in order to separate low frequency and high-frequency sequence.Next,the GM(1,1)model was designed by using a low frequency and high-frequency information sequence based on the LSSVM.Finally,a result of the prediction on all models was analyzed to determine the final prediction re- sults.Production data of a multi-effect evaporation process in alumina production were tested in the experiment;and the results show the prediction algorithm is feasible and superior to a single GM(1,1).The test demonstrated the LSSVM method had a good generalization performance and powerful robustness;and could be used for operation of an optimal e- vaporation process in the alumina production. Keywords:wavelet transform;GM(1,1)model;ISSVM model;multi-effect evaporation process;parameter prediction 氧化铝蒸发过程是一个典型的复杂化工过程,据,采用支持向量机建立预测模型成为当前的研究 具有高维、变量多、非线性、流程长等特点,其机理模热点[13).文献[1]运用小波变换结合最小二乘支持 型的建立困难且复杂.基于工业过程大量的现场数 向量机对短期风速进行预测,结果表明该方法具有 一定的可行性,且模型精度较高;文献[2]提出了结 收稿日期:2011-1102.网络出版日期:2012-09-07 合正交小波变换和GM(1,1)-AR非平稳时间序列 基金项目:国家自然科学基金资助项目(60874069) 的预测方法,且应用于人均GDP的数据验证了该模 通信作者:钱晓山.E-mail:qianxiaoshan(@126.com
第5期 徐丽莎,等:结合GM(1,1)和LSSVM的多效蒸发过程参数预测 ·463· 型的有效性.但工业中大量数据样本存在的孤立点 a=(BB)BQ. (2) 包含噪声,影响了支持向量机的泛化能力及其实际 4)由式(1)和(2)得到最终预测模型,并对数据 应用效果.为解决这一问题,本文基于以上研究,从 进行累减处理得到预测公式为 时频分析角度出发,提出了一种基于小波变换结合 yo(k+1)=y9(k+1)-y四(k)= GM(1,1)LSSVM(least squares support vector ma- (y0(1)-b)(1-e)e chines)的参数预测方法.首先基于Mallat算法的小 a 波变换将参数时间序列分解成2个子序列(低频特 1.3最小二乘支持向量机 征和高频特征),再独自利用GM(1,1)和LSSVM对 Vapni止从统计学角度研究经验建模问题,提出 各子序列进行建模,最后对各分量预测信号进行重 了统计学习理论,并根据此理论中的SRM原则提出 构合成得到最终的预测结果.应用某蒸发过程大量 了支持向量机,有效克服了神经网络的网络结构确 现场数据验证该模型,结果表明,该模型精度高、泛 定和全局最优点等问题?8」 化能力强,能满足实时优化控制 Suykens等9l2基于Vapnil认统计学习理论基础 提出的最小二乘支持向量机(LSSVM),是SVM的 1预测算法 扩展,它把SVM的二次规划问题转换为求解线性方 1.1基于Mallat的小波变换 程组的问题 设c为待分解离散信号,则小波分解可以通过 在支持向量机回归法中,通过非线性变换把原 始样本变换为高维的线性样本,再用线性函数 Mallat算法实现4: f八x)=w中(x)+b来拟合,目的是使结构风险最小 =He, (回归模型在模型推广能力和经验风险之间找到最 di=Ge. 佳平衡点).LSSVM算法的优化目标为: 式中:=0,1,…,J,J为最大分解层数;H为低通滤 波器,G为高通滤波器;℃和d,分别为原始信号在分 ®)安·翻 (3) 辨率2下的低频成分和高频成分. 8.t.y:=wp(x)+b+专,i=1,2,…,m 通过Mallat算法对分解后的d1,d2,…,d和cy 式中:w为权矢量,C为正则化参数,专为误差变量 信号分别进行重构1,有 为求解式(3)的优化问题,引入拉格朗日函数: X=D1+D2+…+D,+C 1.2GM(1,1)模型 (w,b.a)=2w+ +C∑- 设原始序列Yo=(yo(1),yo(2),…, ∑a,(w(x)+b+点:-y). yo)(n),对其做一次累加操作(1-AG0)和紧邻操 式中:a(i=1,2,…,m)是拉格朗日乘子. 作,得新序列: 根据KKT优化条件,且定义的核函数 W0=(wD(2),09(3),…,0(n). K(x:,y:)=中(x)·中(y),将优化问题转化为求解 式中:W0(k)=1/2[0D(k)+0D(k-1)],k=2, 线性方程组: 3,…, -0 b 0 1)求灰色微分方程,a=(a,b)T为参数列,且 1 1 K()+ Kxxn) ry0(2) y 「-w0(2)17 -w0(3) y0(3) B= 0= K(m) K(mm)+ 1 -o四(n) x(o(n) (4) 则GM(1,1)灰色微分方程为 求解式(4)得到a:和b,LSSVM的输出为 yo)(k)+a019(k)=b. =£aK,)+h 2)白化灰色微分方程并求解得到 0(k+1)=(yo(1)-b)e+ 1.4基于GM(1,1)和LSSVM的参数预测 a a, 考虑到蒸发过程中工业数据样本具有非平稳的 k=1,2,…,n (1) 特征,为了提取该非平稳信号中的低频成分(趋势 3)应用最小二乘法辨识参数a和b,得到 项)和高频成分(随机项),可以利用具有多分辨率
464 智能系统学报 第7卷 分析特性的小波变换.由于灰色模型具有削弱原始 D1:{d1,d2.2,…,…,D:{a1J,a2,…}为第1 数据中的随机性,增强规律性的优点,对得到的低频 层至第J层高频信号的重构,即 序列建立GM(1,1)模型,同时为了弥补灰色模型的 X=A.i+D,i+D2i+…+D 理论缺陷,利用最小二乘支持向量机具有强非线性 若已知{t:Ii≤W}时刻的X:值,预测k步以后的 能力和求解速度快的特点,对各高频序列采用最小 状态值,然后叠加求解得 二乘支持向量机方法建模,最后将2个模型叠加得 Xnek di.Nsk+d2++dywek+ay.nk 到过程参数的最终预测结果.预测模型框图如图1 2 所示 建模与验证分析 低频 GM,1) 氧化铝多效蒸发过程的目的是浓缩蒸发原液, 信息 预测 品终 分解 使出口铝酸钠溶液浓度达到规定的生产指标.工艺流 序列 与 程如图2所示,蒸发原液分别从T效和IV效进,V效 重构 高频 SSVM 结果 信息 预测 与Ⅲ闪混合出料.从V效进的原液依次经过V效、 图1预测模型 Ⅲ效、Ⅱ效I效、I闪、Ⅱ闪、Ⅲ闪浓缩后出料,而从Ⅵ Fig.1 Prediction model block diagram 效进的原液经过Ⅵ效和V效蒸发浓缩出料.新蒸汽通 设X为原始待预测信号序列,对该序列数据进 入I效蒸发器,产生的二次蒸汽通入Ⅱ效和强制效,每 行小波分解和重构,得到X=A+D1+D2+…+D, 效产生的二次蒸汽供给下一效蒸发器,V效产生的二 其中,A:{a.1,a.2,…}为第J层低频信号的重构, 次蒸汽通人水冷器,保证蒸发系统的真空度。 水冷器 热电厂新蒸汽 强制效I 1冷凝水罐 Ⅱ冷凝水罐 怜凝水罐 W冷凝水岫 V冷凝水罐 冷凝水罐 Ⅷ冷凝水罐 闪 Ⅱ闪 m闪 旅汽 冷凝水: 调配槽 冷凝水槽 图2蒸发过程工艺流程 Fig.2 Flow diagram of evaporation process 结合工艺流程和实际生产操作分析,影响蒸发 模型进行预测得到预测值4·对高频序列构建最小 出口料液浓度的主要因素有进料的温度、流量和浓 二乘支持向量机模型进行预测,得到相应的预测值 度、蒸汽的压力和流量、蒸发器的真空度、蒸发器的 h4、h3、h2、h,采用的核函数均为径向基函数.通过 料液位、不凝性气体及冷凝水的排除、各效的料液温 多次实验比较和分析,得到的4个高频子序列的重 度、压力等.通过机理研究和数据相关性分析,进料 构维数为8,而h4、h3、h2、h1模型中,正则化系数C 温度、进料流量、进料浓度、新蒸汽温度、新蒸汽流量 和径核函数宽度参数σ分别选取为(52,0.0048)、 为主要影响因素.取实际工业现场数据样本150组, (42,0.0032)、(30,0.0060)和(16,0.0059).用式 在模型训练之前对样本进行归一化等处理,随机选 (5)求得最终出口浓度的预测值f4: 取其中的100组作为训练,50组为验证样本,分别 厅=i+万4+万+万2+五. (5) 对单个GM(1,1)模型、LSSVM模型、两者混合模型 运用GM(1,1)模型、支持向量机模型和本文所 进行训练、预测和比较. 提出的预测建模方法分别对出口浓度进行预测,采 首先采用小波变换对原始序列进行4层分解和 用Matlab7.0进行仿真,得到的结果分别如图3~5 重构,得到低频信号序列L4和高频信号序列h4、h3、 所示 h2、h.然后在低频序列建模过程中,采用GM(1,1)
第5期 徐丽莎,等:结合GM(1,1)和LSSVM的多效蒸发过程参数预测 ·465 0.20 从图3~5中可以看出,3个模型精度都比较 0.15 高,其最大相对误差均在20%以内.同时通过比较 0.10 0.05 Wwwww 分析,GM(1,1)-LSSVM模型预测结果中相对误差 大于10%的样本2个,均方差为2.9746×10-5;而 5101520253035404550 样本数 LSSVM模型相对误差大于10%的样本9个,均方差 (a)相对误差 为5.0416×10-5,GM(1,1)模型预测结果中相对误 差大于10%的样本17个,均方差为6.7459×10-, 280 一实际分析值 一GM(1,1)的预测值 可见GM(1,1)-LSSVM模型的实验结果最好,说明 260 其跟踪性能更好 240 220 3 结束语 200 0 5 101520253035404550 样本数 针对有色冶炼工业过程的强非线性、滞后大、数 b)出口浓度 据样本非平稳的特点,本文将建立的一种基于小波 变换集成GM(1,1)和LSSVM模型的参数预测方 图3灰色模型仿真结果 Fig.3 Simulation results of the GM(1,1)model 法,应用于氧化铝蒸发过程料液出口浓度的预测.实 0.20 验结果表明,所提出的集成预测模型与单一灰色模 15 型和最小二乘支持向量机模型相比,其泛化能力更 10 强、模型精度更高、跟踪性能更好,为复杂工业过程 0.05 的优化控制提供了新的思路.但该方法对在不同工 0 101520253035404550 况下样本的预测精度有所下降,此问题还有待进一 样本数 步研究 (a)相对误差 。一实际分析值 参考文献: 280 +LSSVM的预测值 260 [1]王晓兰,王明伟.基于小波分解和最小二乘支持向量机 240 的短期风速预测[J].电网技术,2010,34(1):179-184. 220 WANG Xiaolan,WANG Mingwei.Short-term wind speed 200 5 101520253035404550 forecasting based on wavelet decomposition and least square 样本数 support vector machine[J].Power System Technology, b)出口浓度 2010,34(1):179-184. [2]张华,任若恩.基于小波分解和残差GM(1,1)-AR的非 图41 最小二乘支持向量机模型仿真结果 平稳时间序列预测[J].系统工程理论与实践,2010,30 Fig.4 Simulation results of the LSSVM model (6):1016-1020. 0.15 ZHANG Hua,REN Ruoen.Non-stationary time series pre- 0.10 diction based on wavelet decomposition and remanet GM(1, 0.05 1)-AR [J].Systems Engineering Theory and Practice, 0 5101520253035404550 2010,30(6):1016-1020. 样本数 [3]LI Derchiang,FANG Yaohwei.An algorithm to cluster data (a)相对误差 for efficient classification of support vector machines[J]. 。一实际分析值 280 +-GM(1.1)-LSSVM的预测值 Expert Systems with Applications,2008,34(3):2013- 260 2018. 240 [4]COMAK E,ARSLAN A.A new training method for support 220 vector machines:clustering k-NN support vector machines 200 0 101520253035404550 [J].Expert Systems with Applications,2008,35 (3): 样本数 564-568. b)出口浓度 [5]KULKARNI A,JAYARAMAN V K,KULKARNI B D. 图5灰色支持向量机模型仿真结果 Knowledge incorporated support vector machines to detect Fig.5 Simulation results of the GM(1,1)-LSSVM model faults in Tennessee Eastman process[J].Computers
466· 智能系统学报 第7卷 Chemical Engineering,2005,29(10):2128-2133. 作者简介 MALLATS C.A theory for multiresolution signal decompo- 徐丽莎,女,1984年生,讲师,主要研 sition:the wavelet representation[]IEEE Transactions on 究方向为复杂工业过程建模、优化与控 Pattern Analysis and Machine Intelligence,1989,11(7)): 制、嵌入式系统 674-693. [7]胡昌华,李国华,刘涛,等.基于MATLAB6.X的系统分 析与设计一小波分析[M].西安:西安电子科技大学 出版社,2004:.45-49. 图]刘思峰,党耀国,方志耕,等.灰色系统理论及其应用 钱晓山,男,1980年生,讲师,博士研 0.北京:科学出版社,2004::12-13. 究生,主要研究方向为复杂工业过程建 [9]VAPNIK VN.An overview of statistical learning theory 模、优化与控制 []IEEE Transactions on Neural Networks,1999,10) 月:988-999. [10]SUYKENS JA K,VANDEWALLE J.Least squares sup- port vector machine classifiers[J].Neural Processing Let-- ters,1999,9(3)1:293-300. 阳春华,女,1965年生,教授,博士生 [11]SUYKENS JA K.Optimal control by least squares support 导师,博士,中国有色金属学会计算机学 vector machines[].Neural Networks,2001,14(1)1)23-25.i. 术委员会秘书长,中国自动化学会理事、 [2]邓兴升.统计学习理论在大地测量中的应用[D].武汉: 应用专业委员会委员、技术过程故障诊断 武汉大学,2007:766-70.1. 与安全性专业委员会委员,中国人工智能 DENG Xingsheng.The application of statistical learningg 学会智能控制与智能管理专业委员会委 theory in geodesy [D]'.Wuhang::Wuhang University, 员,湖南省自动化学会常务理事.主要研究方向为复杂工业 2007:66-70. 过程建模、优化控制、智能信息处理完成或在研国家自然 [13]CRITINANINI N.SHAWE-TAYLOR J.An introduction to 科学基金、国家“863"与"973"计划、国家高技术产业化等 support vector machines and other kernel-based learning 科研项目36项.曾获国家科技进步二等奖2项,省部级科 methods[M].London,UK::Cambridge University Press, 技进步奖16项.申请国家发明专利19项、授权6项,申请 2000:25-27. 软件著作权8项,发表学术论文300余篇,其中被$CI、EI检 14]邓乃扬,田英杰.支持向量机一理论、算法与拓展 索110余篇. [M]1.北凉:科学出版社,2004:11517.7
钱晓山,男,1980年生,讲师,博士研 究生,主要研究方向为复杂工业过程建 模、优化与控制. 14] 邓乃扬,田英杰.支持向量机—理论、算法与拓展 [M] .北京: 科学出版社,2004: 15-17. 智 能 系 统 学 报 作者简介: 徐丽莎,女,1984年生,讲师,主要研 究方向为复杂工业过程建模、优化与控 制、嵌入式系统. [10] SUYKENS JA K,VANDEWALLE J. Least squares support vector machine classifiers[J] . Neural Processing Letters,1999,9(3) : 293-300. [12] 邓兴升.统计学习理论在大地测量中的应用[D] .武汉: 武汉大学,2007: 66-70. 466· Chemical Engineering,2005,29(10) : 2128-2133. [7] 胡昌华,李国华,刘涛,等.基于MATLAB6.X的系统分 析与设计—小波分析[M].西安: 西安电子科技大学 出版社,2004: 45-49. [8] 刘思峰,党耀国,方志耕,等.灰色系统理论及其应用 [M] .北京:科学出版社,2004: 12-13. [6] MALLAT S C. A theory for multiresolution signal decomposition: the wavelet representation[ J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,1989,11(7) : 674-693. [11]SUYKENS JA K. Optimal control by least squares support vector machines[J]. Neural Networks,2001,14(1) :23-25. DENG Xingsheng.The application of statistical learning theory in geodesy [D] . Wuhang: Wuhang University, 2007: 66-70. 第7卷 [13] CRITINANINI N, SHAWE-TAYLOR J. An introduction to support vector machines and other kernel-based learning methods[ M]. London, UK: Cambridge University Press, 2000: 25-27. [9] VAPNIK V N. An overview of statistical learning theory [J]. IEEE Transactions on Neural Networks,1999,10 (5) : 988-999. 学会智能控制与智能管理专业委员会委 员,湖南省自动化学会常务理事.主要研究方向为复杂工业 过程建模、优化控制、智能信息处理.完成或在研国家自然 科学基金、国家"863"与"973"计划、国家高技术产业化等 科研项目36项.曾获国家科技进步二等奖2项,省部级科 技进步奖16项.申请国家发明专利19项、授权6项,申请 软件著作权8项,发表学术论文300余篇,其中被SCI、EI检 阳春华,女,1965年生,教授,博士生 导师,博士,中国有色金属学会计算机学 术委员会秘书长,中国自动化学会理事、 应用专业委员会委员、技术过程故障诊断 与安全性专业委员会委员,中国人工智能 索110余篇