第3期 张平，等：基于人工蜂群算法的贝叶斯网络结构学习 ·329. for credit scoring analysis[J].Expert Systems with Applica- algorithm for neural network training[C]//2011 IEEE Con- tions,2010,37(1):534-545. gress on Evolutionary Computation.New Orleans,LA:IEEE [3]De CAMPOS L M.Independency relationships and learning Press,2011:84-88. algorithms for singly connected networks[J].Journal of Ex-[16]ABACHIZADEH M,YAZDI M,YOUSEFI-KOMA A.Opti- perimental Theoretical Artificial Intelligence,1998,10 mal tuning of PID controllers using artificial bee colony algo- (4):511-549. rithm[C]//2010 IEEE/ASME International Conference on [4]De CAMPOS L M HUETE J F.A new approach for learning Advanced Intelligent.Montreal:IEEE Press,2010:379- belief networks using independence criteria[J].Interational 384. Journal of Approximate Reasoning,2000,24(1):11-37.[17]LARRANAGA P,POZA M,YURRAMENDI Y.et al. [5]COOPER G F,HERSKOVITS E.A Bayesian method for the Structure learning of Bayesian networks by genetic algo- induction of probabilistic networks from data[J].Machine rithms:a performance analysis of control parameters[J]. Learning,1992,9(4):309-347. IEEE Transactions on Pattem Analysis and Machine Intelli- [6]HECKERMAN D,GEIGER D,CHICKERING D M.Learning gence,1996,18(9):912-926. Bayesian networks:The combination of knowledge and statis-[l8]许丽佳，黄建国，王厚军，等.混合优化的贝叶斯网络结 tical data[J].Machine Learning,1995,20(3):197-243. 构学习[J].计算机辅助设计与图形学报，2009,21(5)： [7]LAM W,BACCHUS F.Learning Bayesian belief networks: 633-639. an approach based on the MDL principle[J].Computational XU Lijia,HUANG Jianguo,WANG Houjun,et al.Hybrid Intelligence,1994,10(3):269-293. optimized algorithm for learning Bayesian network structure [8]COOPER G F,HERSKOVITS E.A Bayesian method for the []Journal of Computer-Aided Design Computer Graph- induction of probabilistic networks from data[J.Machine ics,2009,21(5):633-639. Learning,1992,9(4):309-347. [19]CHOW C,LIU C.Approximation discrete probability distri- [9 CHICKERING D M.Optimal structure identification with butions with dependence trees[J].IEEE Transactions on In- greedy search[J].The Journal of Machine Learning Re- formation Theory,1968,14(3):462-467. 8 earch,2003(3):507-554. 作者简介： [10]KARABOGA D.An idea based on honey bee swarm for nu- 张平，女，1988年生，硕士研究生，主 merical optimization[R].Erciyes university,engineering 要研究方向为优化算法、贝叶斯网络结 faculty,computer engineering department,2005. 构学习。 [11]KARABOGA D,BASTURK B.A powerful and efficient al- gorithm for numerical function optimization:artificial bee colony (ABC)algorithm[J].Journal of Global Optimiza- 刘三阳，男，1959年生，教授.博士生 tion,2007,39(3):459-471. [12]KARABOGA D,BASTURK B.On the performance of artifi- 导师，主要研究方向为优化理论及其应 cial bee colony (ABC)algorithm[J].Applied soft Compu- 用、网络算法。主持多项国家级项目，发 ting,2008,8(1):687-697. 表多篇学术论文。 [13]KARABOGA D.AKAY B.Artificial bee colony (abc)algo- rithm on training artificial neural networks[C]//2007 IEEE 朱明敏，女，1985年生，讲师，博士 15th Signal Processing and Communications Applications. Eskisehir:IEEE Press,2007:1-4. 后，主要研究方向为优化算法及其在贝 叶斯网络结构学习中的应用。 [14]KARABOGA D,OZTURK C.Neural networks training by artificial bee colony algorithm on pattern classification[J]. Neural Netw World,2009,19(3):279-292. [15]OZTURK C,KARABOGA D.Hybrid artificial bee colonyｆｏｒ ｃｒｅｄｉｔ ｓｃｏｒｉｎｇ ａｎａｌｙｓｉｓ［ Ｊ］． Ｅｘｐｅｒｔ Ｓｙｓｔｅｍｓ ｗｉｔｈ Ａｐｐｌｉｃａ⁃ ｔｉｏｎｓ， ２０１０， ３７（１）： ５３４⁃５４５． ［３］Ｄｅ ＣＡＭＰＯＳ Ｌ Ｍ ． Ｉｎｄｅｐｅｎｄｅｎｃｙ ｒｅｌａｔｉｏｎｓｈｉｐｓ ａｎｄ ｌｅａｒｎｉｎｇ ａｌｇｏｒｉｔｈｍｓ ｆｏｒ ｓｉｎｇｌｙ ｃｏｎｎｅｃｔｅｄ ｎｅｔｗｏｒｋｓ［ Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｅｘ⁃ ｐｅｒｉｍｅｎｔａｌ ＆ Ｔｈｅｏｒｅｔｉｃａｌ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ， １９９８， １０ （４）： ５１１⁃５４９． ［４］Ｄｅ ＣＡＭＰＯＳ Ｌ Ｍ ， ＨＵＥＴＥ Ｊ Ｆ． Ａ ｎｅｗ ａｐｐｒｏａｃｈ ｆｏｒ ｌｅａｒｎｉｎｇ ｂｅｌｉｅｆ ｎｅｔｗｏｒｋｓ ｕｓｉｎｇ ｉｎｄｅｐｅｎｄｅｎｃｅ ｃｒｉｔｅｒｉａ［ Ｊ］． Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒｎａｌ ｏｆ Ａｐｐｒｏｘｉｍａｔｅ Ｒｅａｓｏｎｉｎｇ， ２０００， ２４（１）： １１⁃３７． ［５］ＣＯＯＰＥＲ Ｇ Ｆ， ＨＥＲＳＫＯＶＩＴＳ Ｅ． Ａ Ｂａｙｅｓｉａｎ ｍｅｔｈｏｄ ｆｏｒ ｔｈｅ ｉｎｄｕｃｔｉｏｎ ｏｆ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｎｅｔｗｏｒｋｓ ｆｒｏｍ ｄａｔａ ［ Ｊ］． Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ， １９９２， ９（４）： ３０９⁃３４７． ［６］ＨＥＣＫＥＲＭＡＮ Ｄ， ＧＥＩＧＥＲ Ｄ， ＣＨＩＣＫＥＲＩＮＧ Ｄ Ｍ． Ｌｅａｒｎｉｎｇ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋｓ： Ｔｈｅ ｃｏｍｂｉｎａｔｉｏｎ ｏｆ ｋｎｏｗｌｅｄｇｅ ａｎｄ ｓｔａｔｉｓ⁃ ｔｉｃａｌ ｄａｔａ［Ｊ］． Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ， １９９５， ２０（３）： １９７⁃２４３． ［７］ ＬＡＭ Ｗ， ＢＡＣＣＨＵＳ Ｆ． Ｌｅａｒｎｉｎｇ Ｂａｙｅｓｉａｎ ｂｅｌｉｅｆ ｎｅｔｗｏｒｋｓ： ａｎ ａｐｐｒｏａｃｈ ｂａｓｅｄ ｏｎ ｔｈｅ ＭＤＬ ｐｒｉｎｃｉｐｌｅ［ Ｊ］． Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ， １９９４， １０（３）： ２６９⁃２９３． ［８］ＣＯＯＰＥＲ Ｇ Ｆ， ＨＥＲＳＫＯＶＩＴＳ Ｅ． Ａ Ｂａｙｅｓｉａｎ ｍｅｔｈｏｄ ｆｏｒ ｔｈｅ ｉｎｄｕｃｔｉｏｎ ｏｆ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｎｅｔｗｏｒｋｓ ｆｒｏｍ ｄａｔａ ［ Ｊ］． Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ， １９９２， ９（４）： ３０９⁃３４７． ［ ９ ］ ＣＨＩＣＫＥＲＩＮＧ Ｄ Ｍ． Ｏｐｔｉｍａｌ ｓｔｒｕｃｔｕｒｅ ｉｄｅｎｔｉｆｉｃａｔｉｏｎ ｗｉｔｈ ｇｒｅｅｄｙ ｓｅａｒｃｈ ［ Ｊ］． Ｔｈｅ Ｊｏｕｒｎａｌ ｏｆ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ Ｒｅ⁃ ｓｅａｒｃｈ， ２００３（３）： ５０７⁃５５４． ［１０］ＫＡＲＡＢＯＧＡ Ｄ． Ａｎ ｉｄｅａ ｂａｓｅｄ ｏｎ ｈｏｎｅｙ ｂｅｅ ｓｗａｒｍ ｆｏｒ ｎｕ⁃ ｍｅｒｉｃａｌ ｏｐｔｉｍｉｚａｔｉｏｎ ［ Ｒ］． Ｅｒｃｉｙｅｓ ｕｎｉｖｅｒｓｉｔｙ， ｅｎｇｉｎｅｅｒｉｎｇ ｆａｃｕｌｔｙ， ｃｏｍｐｕｔｅｒ ｅｎｇｉｎｅｅｒｉｎｇ ｄｅｐａｒｔｍｅｎｔ， ２００５． ［１１］ＫＡＲＡＢＯＧＡ Ｄ， ＢＡＳＴＵＲＫ Ｂ． Ａ ｐｏｗｅｒｆｕｌ ａｎｄ ｅｆｆｉｃｉｅｎｔ ａｌ⁃ ｇｏｒｉｔｈｍ ｆｏｒ ｎｕｍｅｒｉｃａｌ ｆｕｎｃｔｉｏｎ ｏｐｔｉｍｉｚａｔｉｏｎ： ａｒｔｉｆｉｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ （ ＡＢＣ） ａｌｇｏｒｉｔｈｍ ［ Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｇｌｏｂａｌ Ｏｐｔｉｍｉｚａ⁃ ｔｉｏｎ， ２００７， ３９（３）： ４５９⁃４７１． ［１２］ＫＡＲＡＢＯＧＡ Ｄ， ＢＡＳＴＵＲＫ Ｂ． Ｏｎ ｔｈｅ ｐｅｒｆｏｒｍａｎｃｅ ｏｆ ａｒｔｉｆｉ⁃ ｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ （ＡＢＣ） ａｌｇｏｒｉｔｈｍ［ Ｊ］． Ａｐｐｌｉｅｄ ｓｏｆｔ Ｃｏｍｐｕ⁃ ｔｉｎｇ， ２００８， ８（１）： ６８７⁃６９７． ［１３］ＫＡＲＡＢＯＧＡ Ｄ， ＡＫＡＹ Ｂ． Ａｒｔｉｆｉｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ （ａｂｃ） ａｌｇｏ⁃ ｒｉｔｈｍ ｏｎ ｔｒａｉｎｉｎｇ ａｒｔｉｆｉｃｉａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ［Ｃ］ ／ ／ ２００７ ＩＥＥＥ １５ｔｈ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ ａｎｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ａｐｐｌｉｃａｔｉｏｎｓ． Ｅｓｋｉｓｅｈｉｒ： ＩＥＥＥ Ｐｒｅｓｓ， ２００７： １⁃４． ［１４］ ＫＡＲＡＢＯＧＡ Ｄ， ＯＺＴＵＲＫ Ｃ． Ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｔｒａｉｎｉｎｇ ｂｙ ａｒｔｉｆｉｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ ａｌｇｏｒｉｔｈｍ ｏｎ ｐａｔｔｅｒｎ ｃｌａｓｓｉｆｉｃａｔｉｏｎ［ Ｊ］． Ｎｅｕｒａｌ Ｎｅｔｗ Ｗｏｒｌｄ， ２００９， １９（３）： ２７９⁃２９２． ［１５］ＯＺＴＵＲＫ Ｃ， ＫＡＲＡＢＯＧＡ Ｄ． Ｈｙｂｒｉｄ ａｒｔｉｆｉｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｔｒａｉｎｉｎｇ［Ｃ］ ／ ／ ２０１１ ＩＥＥＥ Ｃｏｎ⁃ ｇｒｅｓｓ ｏｎ Ｅｖｏｌｕｔｉｏｎａｒｙ Ｃｏｍｐｕｔａｔｉｏｎ． Ｎｅｗ Ｏｒｌｅａｎｓ， ＬＡ：ＩＥＥＥ Ｐｒｅｓｓ， ２０１１： ８４⁃８８． ［１６］ＡＢＡＣＨＩＺＡＤＥＨ Ｍ， ＹＡＺＤＩ Ｍ， ＹＯＵＳＥＦＩ⁃ＫＯＭＡ Ａ． Ｏｐｔｉ⁃ ｍａｌ ｔｕｎｉｎｇ ｏｆ ＰＩＤ ｃｏｎｔｒｏｌｌｅｒｓ ｕｓｉｎｇ ａｒｔｉｆｉｃｉａｌ ｂｅｅ ｃｏｌｏｎｙ ａｌｇｏ⁃ ｒｉｔｈｍ［ Ｃ］ ／ ／ ２０１０ ＩＥＥＥ／ ＡＳＭＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｄｖａｎｃｅｄ Ｉｎｔｅｌｌｉｇｅｎｔ． Ｍｏｎｔｒｅａｌ： ＩＥＥＥ Ｐｒｅｓｓ， ２０１０： ３７９⁃ ３８４． ［１７］ ＬＡＲＲＡＮＡＧＡ Ｐ， ＰＯＺＡ Ｍ， ＹＵＲＲＡＭＥＮＤＩ Ｙ． ｅｔ ａｌ． Ｓｔｒｕｃｔｕｒｅ ｌｅａｒｎｉｎｇ ｏｆ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋｓ ｂｙ ｇｅｎｅｔｉｃ ａｌｇｏ⁃ ｒｉｔｈｍｓ： ａ ｐｅｒｆｏｒｍａｎｃｅ ａｎａｌｙｓｉｓ ｏｆ ｃｏｎｔｒｏｌ ｐａｒａｍｅｔｅｒｓ［ Ｊ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｐａｔｔｅｒｎ Ａｎａｌｙｓｉｓ ａｎｄ Ｍａｃｈｉｎｅ Ｉｎｔｅｌｌｉ⁃ ｇｅｎｃｅ， １９９６， １８（９）： ９１２⁃９２６． ［１８］许丽佳， 黄建国， 王厚军， 等． 混合优化的贝叶斯网络结 构学习［Ｊ］． 计算机辅助设计与图形学报， ２００９， ２１（５）： ６３３⁃６３９． ＸＵ Ｌｉｊｉａ， ＨＵＡＮＧ Ｊｉａｎｇｕｏ， ＷＡＮＧ Ｈｏｕｊｕｎ， ｅｔ ａｌ． Ｈｙｂｒｉｄ ｏｐｔｉｍｉｚｅｄ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｌｅａｒｎｉｎｇ Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｓｔｒｕｃｔｕｒｅ ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔｅｒ⁃Ａｉｄｅｄ Ｄｅｓｉｇｎ ＆ Ｃｏｍｐｕｔｅｒ Ｇｒａｐｈ⁃ ｉｃｓ， ２００９， ２１（５）： ６３３⁃６３９． ［１９］ＣＨＯＷ Ｃ， ＬＩＵ Ｃ． Ａｐｐｒｏｘｉｍａｔｉｏｎ ｄｉｓｃｒｅｔｅ ｐｒｏｂａｂｉｌｉｔｙ ｄｉｓｔｒｉ⁃ ｂｕｔｉｏｎｓ ｗｉｔｈ ｄｅｐｅｎｄｅｎｃｅ ｔｒｅｅｓ［Ｊ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎ⁃ ｆｏｒｍａｔｉｏｎ Ｔｈｅｏｒｙ， １９６８， １４（３）： ４６２⁃４６７． 作者简介： 张平，女，１９８８ 年生，硕士研究生，主 要研究方向为优化算法、贝叶斯网络结 构学习。 刘三阳，男，１９５９ 年生，教授，博士生 导师，主要研究方向为优化理论及其应 用、网络算法。 主持多项国家级项目，发 表多篇学术论文。 朱明敏，女， １９８５ 年生，讲师，博士 后， 主要研究方向为优化算法及其在贝 叶斯网络结构学习中的应用。 第 ３ 期 张平，等：基于人工蜂群算法的贝叶斯网络结构学习 ·３２９·