第1卷第2期 智能系统学报 Vol.1 N2 2 2006年10月 CAAI Transactions on Intelligent Systems 0ct.2006 基于粒子群算法的神经网络短期降水预报建模研究 吴建生 (柳州师范高等专科学校数学与计算机科学系广西柳州545004) 摘要：用多样性粒子群算法优化神经网络的网络结构和连接权，获得神经网络集成个体；进一步用二次规划方法， 计算各集成个体的最优非负权系数进行组合集成，生成神经网络集成的输出结论，进行短期降水预报建模研究.以 广西全区的月降水量实例分析，结果表明该方法能有效提高系统的泛化能力 关键词：神经网络集成：粒子群优化，二次规划 中图分类号：TP183文献标识码：A文章编号：1673-4785(2006)02-0067-07 Study on the short-time rainfall prediction model of neural ensemble based on PSO algorithms WU Jiamsheng (Department of Mathematics and Computer Science,Liuzhou Teachers College,Liuzhou 545004,China) Abstract:This paper presents the evolving neural network architecture and connection weights based on Di- versity-guided Particle Swarm Optimization algorithms.The ensemble strategy is carried out by using the quadratic programming to calculate the best nomnegative weights.The weighted coefficient of each ensem- ble individual is obtained.This method can be used to establish the forecast model of the short-time rain- fall.The applied example is built with the monthly mean rainfall in the whole area of Guangxi.The result shows that this method can effectively increase the generalization ability of neural network. Key words:neural network ensemble;particle swarm optimization;quadratic program 旱涝灾害的气候预测问题是减灾防灾的重要研 成的各神经网络在该示例下的输出共同决定5刀 究课题，随着我国国民经济的高速发展.科技水平的 该方法可以显著地提高神经网络系统的泛化性能 日益提高，人们对灾害性气候的预测精度要求越来 是一种非常有效的工程化神经计算方法⑧.1o1 越高.在大气科学研究中，气候动力学方法虽然有了 粒子群优化(particle swarm optimization, 很大进展，但是天气系统的动力学模型难以客观描 PSO)是一种基于群体智能方法的进化计算技术，它 述和构造，目前天气预报业务中采用较多仍然是统 是通过个体之间的互动协作来搜寻全局最优解，其 计预报方法，从20世纪90年代以来，以神经网络方 概念简单、易于实现，既适合科学研究，又适合工程 法为代表的非线性人工智能预报建模方法，己经应 应用.利用粒子群优化算法提高神经网络的泛化 用在大气学科和气候分析等领域)，神经网络与 性能是一个十分活跃的研究领域2).文中利用粒 传统的统计方法相比具有自适应和非线性影射等优 子群算法优化神经网络的结构和连接权，生成集成 良的性能得到广泛的认同，但是神经的初始连接权 个体，再用二次规划最优组合方法计算各集成个体 和网络结构选择缺乏定量的客观方法，这成为神经 的最优非负权系数进行组合集成，生成的输出结论， 网络方法在旱涝灾害的天气业务应用中的重要技术 以此建立短期降水预测模型 障碍 1 粒子群神经网络集成的基本原理 神经网络集成是用有限个神经网络对同一个问 题进行学习，集成在某输入示例下的输出由构成集 和方法 1.1粒子群神经网络的基本原理 收稿日期：200604-28. BP算法是最普遍的神经网络训练算法，由于基 基金项目：广西省教育厅资助项目(200508234) 于梯度下降的BP算法依赖于初始权值的选择， 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved htp://www.cnki.net第 1 卷第 2 期 智 能 系 统 学 报 Vol. 1 №. 2 2006 年 10 月 CAAI Transactions on Intelligent Systems Oct. 2006 基于粒子群算法的神经网络短期降水预报建模研究 吴建生 (柳州师范高等专科学校 数学与计算机科学系 ,广西 柳州 545004) 摘 要 :用多样性粒子群算法优化神经网络的网络结构和连接权 ,获得神经网络集成个体 ;进一步用二次规划方法 , 计算各集成个体的最优非负权系数进行组合集成 ,生成神经网络集成的输出结论 ,进行短期降水预报建模研究. 以 广西全区的月降水量实例分析 ,结果表明该方法能有效提高系统的泛化能力. 关键词 :神经网络集成 ;粒子群优化 ;二次规划 中图分类号 : TP183 文献标识码 :A 文章编号 :167324785 (2006) 0220067207 Study on the short2time rainfall prediction model of neural ensemble based on PSO algorithms WU Jian2sheng (Department of Mathematics and Computer Science , Liuzhou Teachers College , Liuzhou 545004 ,China) Abstract :This paper presents t he evolving neural network architect ure and connection weights based on Di2 versity2guided Particle Swarm Optimization algorit hms. The ensemble strategy is carried out by using t he quadratic p rogramming to calculate the best non2negative weights. The weighted coefficient of each ensem2 ble individual is obtained. This met hod can be used to establish t he forecast model of t he short2time rain2 fall. The applied example is built with the monthly mean rainfall in the whole area of Guangxi. The result shows t hat this method can effectively increase the generalization ability of neural network. Keywords :neural network ensemble ; particle swarm optimization ; quadratic program 收稿日期 :2006204228. 基金项目 :广西省教育厅资助项目(200508234) . 旱涝灾害的气候预测问题是减灾防灾的重要研 究课题 ,随着我国国民经济的高速发展. 科技水平的 日益提高 ,人们对灾害性气候的预测精度要求越来 越高. 在大气科学研究中 ,气候动力学方法虽然有了 很大进展 ,但是天气系统的动力学模型难以客观描 述和构造 ,目前天气预报业务中采用较多仍然是统 计预报方法 ,从 20 世纪 90 年代以来 ,以神经网络方 法为代表的非线性人工智能预报建模方法 ,已经应 用在大气学科和气候分析等领域[1 - 4 ] ,神经网络与 传统的统计方法相比具有自适应和非线性影射等优 良的性能得到广泛的认同 ,但是神经的初始连接权 和网络结构选择缺乏定量的客观方法 ,这成为神经 网络方法在旱涝灾害的天气业务应用中的重要技术 障碍. 神经网络集成是用有限个神经网络对同一个问 题进行学习 ,集成在某输入示例下的输出由构成集 成的各神经网络在该示例下的输出共同决定[5 - 7 ] . 该方法可以显著地提高神经网络系统的泛化性能 , 是一种非常有效的工程化神经计算方法[8 - 10 ] . 粒 子 群 优 化 ( particle swarm optimization , PSO) 是一种基于群体智能方法的进化计算技术 ,它 是通过个体之间的互动协作来搜寻全局最优解 ,其 概念简单、易于实现 ,既适合科学研究 ,又适合工程 应用[11 ] . 利用粒子群优化算法提高神经网络的泛化 性能是一个十分活跃的研究领域[12 - 13 ] . 文中利用粒 子群算法优化神经网络的结构和连接权 ,生成集成 个体 ,再用二次规划最优组合方法计算各集成个体 的最优非负权系数进行组合集成 ,生成的输出结论 , 以此建立短期降水预测模型. 1 粒子群 —神经网络集成的基本原理 和方法 111 粒子群 —神经网络的基本原理 BP 算法是最普遍的神经网络训练算法 ,由于基 于梯度下降的 BP 算法依赖于初始权值的选择[14 ] , © 1994-2008 China Academic Journal Electronic Publishing House. All rights reserved. http://www.cnki.net