第11卷第5期 智能系统学报 Vol.11 No.5 2016年10月 CAAI Transactions on Intelligent Systems 0ct.2016 D0I:10.11992/6is.201508015 网络出版地址：http://www.cnki.net/kcms/detail,/23.1538.TP.20160824.0928.002.html 堆叠隐空间模糊C回归算法及其在 发酵数据多模型建模中的应用 刘欢，王骏，邓赵红，王士同 (江南大学数字蝶体学院，江苏无锡214122)》 摘要：切换回归算法FCR的性能容易受到噪声点以及离群点的影响，同时该算法对于复杂数据的处理能力较差。 对此，文中提出一种基于堆叠隐空间的模糊C回归算法。该算法将基于LM特征映射技术，利用主成分分析进行特 征提取，再结合多层前馈神经网络学习结构对隐空间进行多次扩展和压缩。实验结果表明，该算法具有更好的抗噪 性能，对模糊指数的变化不敏感，同时在处理复杂数据以及在多模型建模中更加精确、高效、稳定。 关键词：隐空间映射：极限学习机；主成分分析；模糊C回归算法：多层神经网络：多模型建模 中图分类号：TP181文献标志码：A文章编号：1673-4785(2016)05-0670-10 中文引用格式：刘欢，王骏，邓赵红，等堆叠隐空间模糊C回归算法及其在发酵数据多模型建模中的应用[J].智能系统学报，2016， 11(5):670-679. 英文写引用格式：LIU Huan,WANGJun,DENG Zhaohong,etal.A cascaded hidden space fuz四yC-regression algorithm and its ap- plication in multi-model modeling for the fermentation process [J].CAAI transactions on intelligent systems,2016,11(5):670-679. A cascaded hidden space fuzzy C-regression algorithm and its application in multi-model modeling for the fermentation process LIU Huan,WANG Jun,DENG Zhaohong,WANG Shitong School of Digital Media,JiangNan University,WuXi 214122,China) Abstract:The switching regression algorithm FCR is sensitive to noise data and outliers.The algorithm also has low levels of capability for dealing with complex data.In order to handle these problems,an improved fuzzy C-regres- sion algorithm is proposed based on cascaded hidden space.In our method,principal component analysis is com- bined with extreme machine learning feature mapping and multilayer feedforward neural networks.The experimental results show that our proposed method is more stable as regards noise data and outliers,and thus more suitable for handling complex data and multi-model modeling problems for the fermentation process. Keywords:hidden space feature mapping;extreme learning machine;principal component analysis;fuzzy C-re- gression algorithm;multilayer neural network;multi-model modeling. 切换回归模型在经济、数据挖掘等领域中有着 gression algorithm,FCR)算法，从而实现了对多个模 广泛的应用。近年来，基于模糊聚类分析4]的切 型的切换回归：在此基础上，文献[6]结合牛顿万有 换回归技术得到了广泛的研究。如文献[5]在模糊 引力定律提出了关于切换回归的集成模糊聚类算法 C均值聚类算法(fuzzy C clustering algorithm,FCM) (gravity-based fuzzy clustering algorithm,GFC)算法， 的基础上提出了模糊C均值回归算法(fuzzy C re- 文中实验表明该算法与CR相比具有更快的收敛 速度；文献[7]通过向FCR中引入动态的样本权值， 收稿日期：2015-08-14.网络出版日期：2016-08-24. 提出了离群模糊切换回归模型，从而使模型具有更 基金项目：国家自然科学基金项目(61300151)：江苏省自然科学基金强的鲁棒性，并且能通过权值发现数据集中的离群 项目(BK20130155,BK20130160). 通信作者：刘欢.E-mail:771627297@qg.com. 点。虽然这些方法在一定条件下可以较好地解决切第 １１ 卷第 ５ 期 智 能 系 统 学 报 Ｖｏｌ．１１ №．５ ２０１６ 年 １０ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ｏｃｔ． ２０１６ ＤＯＩ：１０．１１９９２ ／ ｔｉｓ．２０１５０８０１５ 网络出版地址：ｈｔｔｐ： ／ ／ ｗｗｗ．ｃｎｋｉ．ｎｅｔ ／ ｋｃｍｓ／ ｄｅｔａｉｌ ／ ２３．１５３８．ＴＰ．２０１６０８２４．０９２８．００２．ｈｔｍｌ 堆叠隐空间模糊 Ｃ 回归算法及其在 发酵数据多模型建模中的应用 刘欢，王骏，邓赵红，王士同 （江南大学 数字媒体学院，江苏 无锡 ２１４１２２） 摘 要：切换回归算法 ＦＣＲ 的性能容易受到噪声点以及离群点的影响，同时该算法对于复杂数据的处理能力较差。 对此，文中提出一种基于堆叠隐空间的模糊 Ｃ 回归算法。 该算法将基于 ＥＬＭ 特征映射技术，利用主成分分析进行特 征提取，再结合多层前馈神经网络学习结构对隐空间进行多次扩展和压缩。 实验结果表明，该算法具有更好的抗噪 性能，对模糊指数的变化不敏感，同时在处理复杂数据以及在多模型建模中更加精确、高效、稳定。 关键词：隐空间映射；极限学习机；主成分分析；模糊 Ｃ 回归算法；多层神经网络；多模型建模 中图分类号：ＴＰ１８１ 文献标志码：Ａ 文章编号：１６７３⁃４７８５（２０１６）０５⁃０６７０⁃１０ 中文引用格式：刘欢，王骏，邓赵红，等．堆叠隐空间模糊 Ｃ 回归算法及其在发酵数据多模型建模中的应用［Ｊ］． 智能系统学报， ２０１６， １１（５）： ６７０⁃６７９． 英文引用格式：ＬＩＵ Ｈｕａｎ， ＷＡＮＧ Ｊｕｎ， ＤＥＮＧ Ｚｈａｏｈｏｎｇ， ｅｔ ａｌ． Ａ ｃａｓｃａｄｅｄ ｈｉｄｄｅｎ ｓｐａｃｅ ｆｕｚｚｙ Ｃ⁃ｒｅｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ ａｎｄ ｉｔｓ ａｐ⁃ ｐｌｉｃａｔｉｏｎ ｉｎ ｍｕｌｔｉ⁃ｍｏｄｅｌ ｍｏｄｅｌｉｎｇ ｆｏｒ ｔｈｅ ｆｅｒｍｅｎｔａｔｉｏｎ ｐｒｏｃｅｓｓ ［Ｊ］． ＣＡＡＩ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１６，１１（５）： ６７０⁃６７９． Ａ ｃａｓｃａｄｅｄ ｈｉｄｄｅｎ ｓｐａｃｅ ｆｕｚｚｙ Ｃ⁃ｒｅｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ ａｎｄ ｉｔｓ ａｐｐｌｉｃａｔｉｏｎ ｉｎ ｍｕｌｔｉ⁃ｍｏｄｅｌ ｍｏｄｅｌｉｎｇ ｆｏｒ ｔｈｅ ｆｅｒｍｅｎｔａｔｉｏｎ ｐｒｏｃｅｓｓ ＬＩＵ Ｈｕａｎ， ＷＡＮＧ Ｊｕｎ， ＤＥＮＧ Ｚｈａｏｈｏｎｇ， ＷＡＮＧ Ｓｈｉｔｏｎｇ （Ｓｃｈｏｏｌ ｏｆ Ｄｉｇｉｔａｌ Ｍｅｄｉａ， ＪｉａｎｇＮａｎ Ｕｎｉｖｅｒｓｉｔｙ， ＷｕＸｉ ２１４１２２， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｔｈｅ ｓｗｉｔｃｈｉｎｇ ｒｅｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ ＦＣＲ ｉｓ ｓｅｎｓｉｔｉｖｅ ｔｏ ｎｏｉｓｅ ｄａｔａ ａｎｄ ｏｕｔｌｉｅｒｓ． Ｔｈｅ ａｌｇｏｒｉｔｈｍ ａｌｓｏ ｈａｓ ｌｏｗ ｌｅｖｅｌｓ ｏｆ ｃａｐａｂｉｌｉｔｙ ｆｏｒ ｄｅａｌｉｎｇ ｗｉｔｈ ｃｏｍｐｌｅｘ ｄａｔａ． Ｉｎ ｏｒｄｅｒ ｔｏ ｈａｎｄｌｅ ｔｈｅｓｅ ｐｒｏｂｌｅｍｓ， ａｎ ｉｍｐｒｏｖｅｄ ｆｕｚｚｙ Ｃ⁃ｒｅｇｒｅｓ⁃ ｓｉｏｎ ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｏｐｏｓｅｄ ｂａｓｅｄ ｏｎ ｃａｓｃａｄｅｄ ｈｉｄｄｅｎ ｓｐａｃｅ． Ｉｎ ｏｕｒ ｍｅｔｈｏｄ， ｐｒｉｎｃｉｐａｌ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ ｉｓ ｃｏｍ⁃ ｂｉｎｅｄ ｗｉｔｈ ｅｘｔｒｅｍｅ ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ ｆｅａｔｕｒｅ ｍａｐｐｉｎｇ ａｎｄ ｍｕｌｔｉｌａｙｅｒ ｆｅｅｄｆｏｒｗａｒｄ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ． Ｔｈｅ ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｏｕｒ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ｉｓ ｍｏｒｅ ｓｔａｂｌｅ ａｓ ｒｅｇａｒｄｓ ｎｏｉｓｅ ｄａｔａ ａｎｄ ｏｕｔｌｉｅｒｓ， ａｎｄ ｔｈｕｓ ｍｏｒｅ ｓｕｉｔａｂｌｅ ｆｏｒ ｈａｎｄｌｉｎｇ ｃｏｍｐｌｅｘ ｄａｔａ ａｎｄ ｍｕｌｔｉ⁃ｍｏｄｅｌ ｍｏｄｅｌｉｎｇ ｐｒｏｂｌｅｍｓ ｆｏｒ ｔｈｅ ｆｅｒｍｅｎｔａｔｉｏｎ ｐｒｏｃｅｓｓ． Ｋｅｙｗｏｒｄｓ：ｈｉｄｄｅｎ ｓｐａｃｅ ｆｅａｔｕｒｅ ｍａｐｐｉｎｇ； ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ； ｐｒｉｎｃｉｐａｌ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ； ｆｕｚｚｙ Ｃ⁃ｒｅ⁃ ｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ； ｍｕｌｔｉｌａｙｅｒ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ； ｍｕｌｔｉ⁃ｍｏｄｅｌ ｍｏｄｅｌｉｎｇ． 收稿日期：２０１５⁃０８⁃１４． 网络出版日期：２０１６⁃０８⁃２４． 基金项目：国家自然科学基金项目（６１３００１５１）； 江苏省自然科学基金 项目（ＢＫ２０１３０１５５，ＢＫ２０１３０１６０）． 通信作者：刘欢．Ｅ⁃ｍａｉｌ：７７１６２７２９７＠ ｑｑ．ｃｏｍ． 切换回归模型在经济、数据挖掘等领域中有着 广泛的应用。 近年来，基于模糊聚类分析［１⁃４］ 的切 换回归技术得到了广泛的研究。 如文献［５］在模糊 Ｃ 均值聚类算法（ｆｕｚｚｙ Ｃ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ， ＦＣＭ） 的基础上提出了模糊 Ｃ 均值回归算法（ ｆｕｚｚｙ Ｃ ｒｅ⁃ ｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ， ＦＣＲ）算法，从而实现了对多个模 型的切换回归；在此基础上，文献［６］结合牛顿万有 引力定律提出了关于切换回归的集成模糊聚类算法 （ｇｒａｖｉｔｙ⁃ｂａｓｅｄ ｆｕｚｚｙ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ， ＧＦＣ）算法， 文中实验表明该算法与 ＦＣＲ 相比具有更快的收敛 速度；文献［７］通过向 ＦＣＲ 中引入动态的样本权值， 提出了离群模糊切换回归模型，从而使模型具有更 强的鲁棒性，并且能通过权值发现数据集中的离群 点。 虽然这些方法在一定条件下可以较好地解决切