人工智能基础：基于GEP的最小二乘支持向量机模型参数选择

第7卷第3期 智能系统学报 Vol.7 No.3 2012年6月 CAAI Transactions on Intelligent Systems Jun.2012 D0I:10.3969/j.i8sn.1673-4785.201012007 网络出版t地址：htp://www.cnki.net/kcma/detail/23.1538.TP.20120425.1647.001.html 基于GEP的最小二乘支持向量机模型参数选择 钱晓山2，阳春华 (1.中南大学信息科学与工程学院，湖南长沙410083；2.宜春学院物理科学与工程技术学院，江西宜春336000) 摘要：针对最小二乘支持向量机的多参数寻优问题，提出了一种基于基因表达式编程的最小二乘支持向量机参数 优选方法.该算法将最小二乘支持向量机参数(C,σ)样本作为GEP的基因，按其变异算子随着进化代数和染色体所 含基因数目动态变化的机制执行，其收敛速度和精确度大大提高.并与基于粒子群算法和遗传算法参数优选方法比 较，通过标准测试函数验证了该算法的拟合误差最低.最后用其建立氧化铝生产蒸发过程参数预测模型，应用工业 生产数据进行验证，实验结果表明该方法有效且获得了满意的效果. 关键词：基因表达式编程：最小二乘支持向量机：参数选择：粒子群算法：遗传算法 中图分类号：TP181文献标志码：A文章编号：16734785(2012)03022505 A parameter selection method of a least squares support vector machine based on gene expression programming QIAN Xiaoshan'2,YANG Chunhua' (1.School of Information Science and Engineering,Central South University,Changsha 410083,China;2.Physical Science and Technology College,Yichun University,Yichun 336000,China) Abstract:To solve the multi-parameter optimization problem of least squares support vector machines (LSSVM),a parameter optimization method based on gene expression programming (GEP)was proposed.The parameter (C, o)samples of LSSVM were selected to be genes for GEP according to the mechanism of the dynamic change of the mutation operator with the gene number of the genome and the number of evolutionary generations.As a result,the convergence rate and accuracy were greatly increased.The new method was compared with other parameter optimi- zation methods based on particle swarm optimization(PSO)and a genetic algorithm(GA)by several standard test functions,and the results show that the proposed method obtains the minimum fitting error.Finally,a parameter prediction model of the evaporation process of alumina production was established;the verification results using the industrial production data show that the method is effective and the result is satisfactory. Keywords:gene expression programming(GEP);least squares support vector machine (LSSVM);parameter se- lection;particle swarm optimization (PSO);genetic algorithm (GA) 支持向量机(support vector machine,SVM)是用最小二乘线性系统作为损失函数，将求解二次规 Vapnik等12]于1995年首先提出，它在解决小样 划问题转化为求解一组线性方程；因而该方法求解 本、非线性和高维模式识别问题中表现出许多优越速度较快，并广泛应用于非线性函数估计和逼近中， 特性，已成为智能科学技术研究领域的热点34.最 取得了较好的效果 小二乘支持向量机(least squares support vector ma-- 实践证明，最小二乘支持向量机的精度和泛化 chine,LSSVM)s6是标准支持向量机的一种扩展， 性能受核函数的参数以及惩罚系数的影响较大，因 是支持向量机在二次损失下的一种特殊形式，它采 此，研究最小二乘支持向量机参数选择的方法对其 收稿日期：2010-12-13.网络出版日期：2012-04-25. 发展有重要的实际意义.目前已经有一些最小二乘 基金项目：国家自然科学基金资助项目(60874069)：国家“863”计划 支持向量机参数优选方法，文献[7]针对LSSVM用 资助项目(2009AA04Z124,2009AA04Z137). 通信作者：钱晓山.E-mail:qianxiaoshan@126.corm. 交叉验证的方法进行核参数选择后应用于PCA的

.226 智能系统学报 第7卷 软测量建模；文献[8]将遗传算法用于核参数选择 (1,y1),(x2,y2),…,(xmym）∈R×R 后对直流电机进行建模；文献[9]用粒子群算法进 首先通过非线性变换z=(x:)将m维向量映 行核参数优选后用于软测量建模.以上算法进行参 射到1（≥m)维这个高维特征空间中，之后采用线 数寻优时易陷入局部最优，从而影响了整个模型的 性函数f(x)=wo(x)+b来对其拟合，并容许出现 精度及泛化性能.文献[10]利用GEP和交叉验证法 拟合误差，目标是使回归模型在模型推广能力和经 优选支持向量机的核参数，算法性能得到了大大改 验风险之间找到最佳平衡点，即结构风险最小 善.基因表达式编程(gene expression programming, LSSVM回归算法的优化目标为 GEP)是由葡萄牙科学家C.Ferreira提出的一种基 1 于基因型组(genome)和表现型组(phenome)的新型 min/(wE)=ww+2i w.b (1) 遗传算法，它继承和发展了遗传算法GA和遗传编 8.t.y:=w(x)+b+专，i=1,2,…,m. 程GP,集成了它们的优点，因此该方法具有更强的 式中：ww为控制模型的复杂度，C为误差惩罚参 解决问题的能力，在函数参数优化、演化建模、神经 数，J为误差控制函数.利用拉格朗日法求解式(1) 网络、分类和TSP问题等领域得到了广泛应 的优化问题，定义拉格朗日函数： 用2].本文提出了基于基因表达式编程的最小二 乘支持向量机的参数寻优方法，在执行变异操作时， wa,6)=2w+号8金 变异算子按照进化代数和染色体所含基因数目的不 ∑a:(we(x)+b+专：-y). 同而动态变化，这样优化了算法的收敛速度和精度. 式中：a(i=1,2,…,m)是拉格朗日乘子. 同时通过与粒子群算法和遗传算法参数寻优方法比 根据KKT优化条件： 较，并用标准测试函数和实际工业过程生产数据进 行验证，结果表明了该模型的预测精度较高， =0=0=0=0， 'oa a5 1基于GEP的支持向量机参数选择 则有 1.1基因表达式编程方法 w6)=名w+ 2 GEP沿袭了GA和GP中的复制、变异、交叉等 w=】 ae(x),=0. 遗传算子以及“物竞天择，适者生存”的自然选择思 想，其解决问题的能力更强，比传统的GA和GP等 a:=c传，wp(r)+b+5-y=0.(2) 遗传算法要快100~60000倍[121 定义核函数K(x:,y:)=(x)·p(y:),根据式 在GEP中，个体采用固定长度的线性编码来表 (2),将求解优化问题转化为求解线性方程： 示.个体染色体由1个或多个基因组成，每个基因由 0 1 基因头h和基因尾：构成，h中可以出现运算符或终 K(x1,x1）+1/c… K(x1,xm） 结点，而t中只能出现终结点，并且h和t满足 L(t)=L(h)×(n-1)+1,其中，n为h中运算符、 K(m,x1) K(mm)+1/c- 函数的最大参数个数.GEP算法在对个体染色体进 b 0 行适应度评价时，需要先将染色体按照自顶向下、自 Yu 左至右的顺序将其编码为表达式树(expression tree, ET),再采用中根遍历ET的方法进行解码操作，计 算其适应度2]」 解上述线性方程组可得到拉格朗日乘子心：和参数 基因表达式编程的实现技术主要包括编码方 b,由此确定LSSVM的输出为 式、遗传算子、插串操作、重组算子、适应度函数选 择、数值变量等)，每个部分的具体实现可参考文 y(x)= a;K(x,;)+b. 献[13]，这里不作详细叙述，变异算子动态变化机 1,3基于GEP的最小二乘支持向量机模型参数选择 制可参考文献[14]. 由于最小二乘支持向量机的参数选择直接影响 1.2最小二乘支持向量机 整个模型的收敛性、稳定性和精度，而GEP与GA 在支持向量机回归法s]中，设样本为n维向 和GP相比，具有更强的全局搜索能力6：因此， 量，某区域的m个样本及其值表示为 将GEP算法引入到以径向基函数为核函数的LSS

第3期 钱晓山，等：基于GEP的最小二乘支持向量机模型参数选择 ·227 VM模型的参数优化中，形成基于GEP的LSSVM模 对惩罚系数C和径向基核函数参数σ进行优选，其 型.与PS0和GA优化算法比较，该算法可以得到更 中LSSVM采用专=0.15的一次不敏感损失函数. 高的精度，其泛化性能和稳定性也大大提高， GEP算法中选60组为初始染色体，最大迭代次数为 染色体编码和适应度函数选择是进行惩罚系数 500.为便于比较，采用同样大小的初始群体和最大 C和核函数宽度σ参数优化的2个重要方面.在 迭代次数的PS0和GA(交叉概率为0.5，变异概率 GEP中，多基因结构可以用来进行有效的搜索以解 为0.047)进行多次实验.图1显示了3种算法的寻 决函数优化的问题，且最佳参数是在不停变化的随 优过程对比结果，从中可以看出，GEP和PSO的下 机数值常数上的数学运算中发现的.为此，在染色体 降速度较快，而GA速度较慢，经过多次实验发现 编码中采用处理随机数值常数的染色体组织结构. GA和PSO寻优的成功率低于GEP,并且有时陷入 随机数值常数集的选取十分容易，通常可以选择由 局部最优，总的看来，GEP算法的寻优能力和收敛 10个随机常数构成的集合，如R={0,1,2,3,4,5, 速度都比PS0和GA算法好.由图2可见，使用3种 6,7,8,9},这对大部分问题就能够达到很好的效 算法各自寻优的参数对sinc函数进行测试，发现 果.适应度函数选择如式(3)： GEP算法的拟合效果最好，且偏离实际值的幅度较 c.o)=√-g 小.测试统计结果如表1所示，从中看出新方法的测 (3) 试误差最小 式中：y:为实际值，y:为支持向量机的输出，n为样 1.2×10 本数.利用GEP算法对惩罚系数C和核函数宽度σ ----GA-LSSVM -..·PSO-LSSVM 1.0 进行寻优，具体算法步骤如下： GEP-LSSVM 1)针对参数C、σ初始化种群，随机产生60组初 0.8 始染色体，每个染色体由5个基因构成，每个基因头 0.6 长度为15（或更多），初始化时采用KARVA编码； 0.4 2)读取样本数据，根据当前参数C、σ训练LSS VM,得到支持向量机的输出y; 3)按式(3)计算适应值，并将适应值排序，保存 达代次数 310 适应值最高的个体； 4)执行变异，按照染色体所含基因的多少决定 图1寻优过程比较 变异的基因位个数，本文选择每个基因变异1个基 Fig.1 Comparison of optimization process 因位的方法； 1.2m 5)执行IS插串、RIS插串和Gene插串； 一惊值 1.0 +GEP-LSSVM的拟合值 6)执行单点重组、两点重组和基因重组； 0.8 oPSO-LSSVM的拟合值 7)若运行到预先设定的最大代数或者适应度 *·GA-LSSVM的拟合值 0.6 函数值收敛到设定精度，则执行8)，否则执行2)； 0.4 8)选择出最优染色体并保存记录； 0.2 9)对染色体解码，构建LSSVM模型. 0牌 -0.2 2算法性能验证 -0.4 2.1仿真测试 图2模型仿真结果比较 为了验证上述方法的有效性，选用标准测试函 Fig.2 Comparison of model simulation results 数进行仿真.实验平台配置为2.8GHz主频率，1GB 内存，采用Matlab7.0进行仿真实验 表1Sinc函数测试结果比较 1)取一维sinc函数： Table 1 Comparison of sinc function test results fi(x)=sinc(x）+中. 寻优算法 测试误差/104 式中：中是均值为0、方差为0.1的高斯噪声，输入 GA 800.16 3.87 6.0108 变量取150个[-4,4]之间的数据构成LSSVM的 PSO 756.36 3.95 3.6960 训练样本，以最小均方误差为目标，利用GEP算法 GEP 735.29 4.12 0.9108

·228 智能系统学报 第7卷 2)取二维Rosenbrock函数： VM,最终的出料浓度预测结果如图3所示， N ·一实际分析值 f5(x)= ∑[100×(-x1)2+(1-x:)2], +GEP-LSSVM的预测值 x∈[-5.12,5.12]. 280r o-PSO-LSSVM的预测值 一GA-LSSVM的预测值 270 取1000组数据样本按4：1的比例随机分组，训练样 260 本数量为800，测试样本为200，其他设置如同sinc 250 函数测试实验，得到的测试结果如表2所示.在二维 240 函数的测试中，经过多次实验可以发现，与一维函数 230 相比，二维函数的测试结果更能体现GEP的优越 220 性，且相比于其他2个算法，基于GEP算法的LSS- 210 VM模型的拟合误差大大降低，进一步说明了该方 200 20 40 60 80 100 样本数 法的有效性。 表2 Rosenbrock函数测试结果比较 图3模型泛化比较结果 Table 2 Comparison of Rosenbrock function test results Fig.3 Comparison of model generalization results 寻优算法 测试误差/10-4 12 GA 903.16 4.035 8.6213 10 PSO 656.36 2.915 7.0264 GEP 451.08 0.893 2.5182 2.2工业生成过程验证 4 氧化铝蒸发过程是一类具有非线性、大滞后、多 2 变量等特征的能量交换的复杂工业过程，在蒸发器 本、 20 40 60 80 有00 内加热蒸汽，释放潜热，转移到料液中，使溶剂发生 样本数 相变，溶液浓度得以提高.出料浓度是衡量产品质量 图4GEP-LSSVM模型预测相对误差 的重要指标，由于技术、成本的限制难以实现在线检 Fig.4 Relative error of GEP-LSSVM model predict 测，目前质量检测多以人工现场采集和实验室化验 图3显示了GEP-LSSVM、PS0-LSSVM和GA- 为主，检测结果严重滞后，不利于该过程的稳定控 LSSVM预测模型的泛化能力，从图中可知，GEP- 制.出液浓度的影响因素主要包括蒸发器的真空度、 LSSVM模型的预侧效果最好.通过进一步的数据分 进料的流量、温度和浓度、加热蒸汽的流量和压力、 析，GEP-LSSVM模型预测结果中相对误差（如图4 蒸发器的料液位、不凝性气体和冷凝水的排除 所示)小于8%的样本达到92%，其最大相对误差小 等81，通过理论分析和生产经验选取影响较大的5 于12%，均方差MSE(mean square error)为 个变量：进料温度T1、进料流量F、进料浓度L。、新 6.0827×10-5,具有较高的精度；另外，该模型相比 蒸汽温度T2、新蒸汽流量F2.以某氧化铝厂带闪蒸 于PS0-LSSVM的预测能力(MSE为8.959×10-3) 和强制循环的七效逆流降膜蒸发的蒸发过程为例， 和GA-LSSVM的预测能力（MSE为1.6185× 该厂实际生产1个月的数据作为训练数据和测试数 10-4),有了较大的提高 据，建立基于GEP算法的LSSVM的蒸发过程出料 浓度预测模型为 3结束语 Lot GEP-LSSVM(TI,T2,F,F2,Lin). 最小二乘支持向量机的参数选择是支持向量机 式中：Lt为预测模型输出，即出口料液浓度；GEP 应用推广的一个重要方面，如何将各种算法应用于 LSSVM为模型标示；T1、F,La、T2、F2为已知样本的 其中，一直以来是一个既有实际价值又有理论意义 输入.选用经过纠错、剔除和归一化处理后的400组 的研究课题.本文将GEP算法用于最小二乘支持向 工业数据中的300组用于建模，100组用于模型验 量机的参数优化，其中变异算子按照进化代数和染 证，选取专=0.02的一次不敏感损失函数和径向基 色体所含基因数目动态变化的机制进行变异操作， 核函数，通过GEP算法对最小二乘支持向量机建模 通过多个实验验证了该方法的有效性，然后将其应 参数进行优化，得到最优参数集专=0.02、C= 用于氧化铝蒸发过程出料浓度的预测模型的建立， 428.56、σ=0.072.再用得到的最优参数训练LSS

第3期 钱晓山，等：：基于GEP的最小二乘支持向量机模型参数选择 229. 仿真结果表明了该预测模型预测精度高，完全满足 daptive algorithm for solving problems[J].Complex Sys- 实际工业生产的需要，同时也对其应用到其他生产 tems,2001,13(2).:87-129 过程有着一定的指导意义.另外，GEP算法本身的 13]MITCHEL M.An introduction to genetic algorithms[M]. 改进及其对支持向量机核参数的编码和解码方法也 Cambridge,UK:The MIT Press,1996:143-164. [几④钱晓山，阳春华.改进基因表达式编程在股票中的研究 有待进一步研究 与应用[01.智能系统学报，2010,5(4))：303-307. 参考文献： OIAN Xiaoshan,YANG Chunhua.Improved gene expres- sion programming algorithm-tested by predicting stock inde. [VAPNIK V N.The nature of statistical learning theory[M]. xes[J].CAAI Transactions on Intelligent Systems,2010, New York,USA::Springer-Verlag,1995. 5(4④1：303-307. 2]VAPNIK V,LEVIN E,CUN Y L.Measuring the VC-di- 张春晓，张涛.基于最小二乘支持向量机和粒子群算法 mension of a learing machine[J].Neural Computation, 的两相流含油率软测量方法[]】.中国电机工程学报，， 1994,6(5),:851-876. 2010,30(2)):8691 [3]SMOLA A J,SCHOLKOPF B.A tutorial on support vector ZHANG Chunxiao,ZHANG Tao.Soft measurement meth- egression[J].Statistic and Computing,2004,14(3)1: od for oil holdup of two phase flow based on least squares 199-222 support vector machine and particle swarm optimization 4 ]SANCHEZ A D.Advanced support vector machines and [I.Proceedings of the CSEE,2010,30(2):86-91. kernel methods[J].Neurocomputing,2003,55(1):5- [16]RIVERO D,DORADO J,RABUNAL J,et al.Using ge- 20. netic programming for artificial neural network development [5]SUYKENS J A K,VANDEWALL J.Least squares support and simplification[C]//Prceedings of the 5th WSEAS In- vector machine classifiers [J].Neural Processing Leters, ternational Conference on Computational Intelligence,Man- 1999,9(3):293-300. Machine Systems and Cybernetics.Venice,Italy,2006: 16]PELCKMANS K,SUYKENS JA K,DE MOOR B.Build- 65-71. ing sparse representations and structure determination on LS- [I7]XU Kaikuo,LIU Yintian,RONG Tang,et al.A novel SVM substrates[J]].Neurocomputing,2005,64::137-159. method for real parameter optimization based on gene ex- 门]郑小霞，钱锋.基于PCA和最小二乘支持向量机的软测 pression programming[J]].Applied Soft Computing, 量建模[刀].系统仿真学报，2006,18(3)1：739741. 2009,9(2):725-737. ZHENG Xiaoxia.QIAN Feng.Soft sensor modeling based 图]徐文熙，穆文俊.化工原理（上）)[北京：中国石化出 on PCA and support vector machines[J].Journal of System 版社，1992. Simulation,2006,18(3)）:739-741. 作者简介： [8]赵吉文，刘永斌，孔凡让，等.核参数遗传选优的SVM在 钱晓山，男，1980年生，讲师，博士 直线电机建模中的应用[J].系统仿真学报，2006,18 研究生，主要研究方向为复杂工业过程 02:3547-3549.. 建模、优化控制 ZHAO Jiwen,LIU Yongbin,KONG Fanrang,et al.Appli- cation of SVM with genetic algorithms optimizing kernel pa- rameters in linear motor model[J].Journal of System Simu- 1 ation,2006,18(12)）:3547-3549. 9]引刘瑞兰，牟盛静，苏宏业，等.基于支持向量机和粒子群 阳春华，女1965年生，教授，博士 算法的软测量建模[U]1.控制理论与应用，2006,23(6)： 生导师，博士，中国有色金属学会计算 895-899.906. 机学术委员会委员兼秘书长，中国自动 LU Ruilan,MOU Shenging,SU Hongye,et al.Modeling 化学会理事、应用专业委员会委员、技 soft sensor based on support vector machine and particle 术过程故障诊断与安全性专业委员会 swarm optimization algorithms[J].Control Theory and Ap- 委员，中国人工智能学会智能控制与智 plications,2006,23(6)):895-899,906. [10]]THADANI K JAYARAMANVK,SUNDARARAJAN V Evolutionary selection of kernels in support vector machines C]//International Conference on Advanced Computing and Communications.Mangalore,India,2006:19 24. [11]FERREIRA C.Gene expression programming in problem solving[C/OL].[2010-12-10].htp://w.gene-ex- pression-programming.com/webpapers/GEPtutorial.pdf. [12]FERREIRA C.Gene expression programming:a new a-

能管理专业委员会委员,湖南省自动化学会常务理事.主要 研究方向为复杂工业过程建模、优化控制、智能信息处 理.完成或在研国家自然科学基金、国家"863"与"973"计划 、国家高技术产业化等科研项目36 项.曾获国家科技进 步二等奖2项,省部级科技进步奖16 项,湖南省"十大杰出 女性".申请国家发明专利19项、授权6项,申请软件著作权 8项,发表学术论文300余篇,其中被SCI、EI检索110余篇 . 仿真结果表明了该预测模型预测精度高,完全满足 实际工业生产的需要,同时也对其应用到其他生产 过程有着一定的指导意义.另外,GEP算法本身的 改进及其对支持向量机核参数的编码和解码方法也 有待进一步研究. [18] 徐文熙,穆文俊.化工原理(上) [M] .北京: 中国石化出 版社,1992. [10] THADANI K,JAYARAMANVK,SUNDARARAJAN V. Evolutionary selection of kernels in support vector machines C ] //International Conference on Advanced Computing and Communications. Mangalore,India,2006: 19-24. [1] VAPNIK V N. The nature of statistical learning theory[ M] . New York,USA: Springer-Verlag,1995. 参考文献: [7] 郑小霞,钱锋.基于PCA 和最小二乘支持向量机的软测 量建模[J] .系统仿真学报,2006,18(3) :739-741. ZHENG Xiaoxia,QIAN Feng. Soft sensor modeling based on PCA and support vector machines[J].Journal of System Simulation,2006,18(3) : 739-741. 钱晓山,等: 基于GEP的最小二乘支持向量机模型参数选择 [8]赵吉文,刘永斌,孔凡让,等.核参数遗传选优的SVM在 直线电机建模中的应用[J].系统仿真学报,2006,18 (12) :3547-3549. 13] MITCHEL M. An introduction to genetic algorithms[ M]. Cambridge,UK: The MIT Press,1996: 143-164. 阳春华,女1965年生,教授,博士 生导师,博士,中国有色金属学会计算 机学术委员会委员兼秘书长,中国自动 6] 化学会理事、应用专业委员会委员、技 术过程故障诊断与安全性专业委员会 委员,中国人工智能学会智能控制与智 PELCKMANS K,SUYKENS J A K,DE MOOR B. Build￾ing sparse representations and structure determination on LS￾SVM substrates[J] . Neurocomputing,2005,64: 137-159. 第3期 [2] VAPNIK V,LEVIN E,CUN Y L. Measuring the VC-di￾mension of a learing machine[J]. Neural Computation, 1994,6(5) : 851-876. LU Ruilan,MOU Shenging,SU Hongye,et al. Modeling soft sensor based on support vector machine and particle swarm optimization algorithms[J]. Control Theory and Ap￾plications,2006,23(6) :895-899,906. 9] 刘瑞兰,牟盛静,苏宏业,等.基于支持向量机和粒子群 算法的软测量建模[J] .控制理论与应用,2006,23(6) : 895-899,906. [15] 张春晓,张涛.基于最小二乘支持向量机和粒子群算法 的两相流含油率软测量方法[J]】.中国电机工程学报, 2010,30(2) : 86-91. ZHANG Chunxiao,ZHANG Tao. Soft measurement meth￾od for oil holdup of two phase flow based on least squares support vector machine and particle swarm optimization [J]. Proceedings of the CSEE,2010,30(2) : 86-91. [12] FERREIRA C. Gene expression programming: a new a- 作者简介: daptive algorithm for solving problems[J] . Complex Sys￾tems,2001,13(2) : 87-129. ZHAO Jiwen,LIU Yongbin,KONG Fanrang,et al. Appli￾cation of SVM with genetic algorithms optimizing kernel pa￾rameters in linear motor model[ J] . Journal of System Simu￾lation,2006,18(12) :3547-3549. 229· 4 ] SANCHEZ A D. Advanced support vector machines and kernel methods[J]. Neurocomputing,2003,55(1) :5- 20. 钱晓山,男,1980年生,讲师,博士 研究生,主要研究方向为复杂工业过程 建模、优化控制. [5] SUYKENS J A K,VANDEWALL J. Least squares support vector machine classifiers [J]. Neural Processing Leters, 1999,9(3) : 293-300. [3] SMOLA A J, SCHOLKOPF B. A tutorial on support vector egression[J]. Statistic and Computing,2004,14(3) : 199-222. [11] FERREIRA C. Gene expression programming in problem solving[ C/OL] .[2010-12-10]. htp: //w.gene-ex￾pression-programming. com/webpapers/GEPtutorial.pdf. [14] 钱晓山,阳春华.改进基因表达式编程在股票中的研究 与应用[J] .智能系统学报,2010,5(4) :303-307. QIAN Xiaoshan,YANG Chunhua. Improved gene expres￾sion programming algorithm-tested by predicting stock inde￾xes[J]. CAAI Transactions on Intelligent Systems,2010, 5(4) : 303-307. [17] XU Kaikuo,LIU Yintian,RONG Tang,et al. A novel method for real parameter optimization based on gene ex￾pression programming[J] . Applied Soft Computing, 2009,9(2) : 725-737. [16] RIVERO D,DORADO J,RABUNAL J,et al. Using ge￾netic programming for artificial neural network development and simplification[ C] //Prceedings of the 5th WSEAS In￾ternational Conference on Computational Intelligence,Man￾Machine Systems and Cybernetics. Venice,Italy,2006: 65-71