第5期 刘欢，等：堆叠隐空间模糊C回归算法及其在发酵数据多模型建模中的应用 .673 WeR以及值在[0.5,1]之间的偏移量矩阵B∈R。 表1实验平台 ②根据式(1)以及图1将数据集D进行特征映 Table 1 Experimental platform 射，得到高维数据矩阵H)∈Rxr。 结构 配置 2)利用基于PCA的压缩隐空间方法对H)进 CPU Intel(R)Core(TM)i5-4590 3.30GHz 行压缩，得到维数为p的数据矩阵H2): 内存 8.00GB 操作系统 64bit Windows7 3)for j=1:f-1 软件平台 Matlab R2012a ①重复步骤1中1)、2)； 3.2鲁棒性实验 ②将H2)与H)合并存入矩阵H3)中， 本实验中，基于文献[5]的模拟回归数据集，通 H3)=[H2H)]。 过分别加入噪声点和离群点来比较FCR以及CHS, ③利用PCA对H3)进行特征提取，得到矩阵记 FCR算法的鲁棒性。实验中，FCR算法和CHS-FCR 为H2; 算法的模型个数c=2,模糊指数m=2,CHS-FCR隐 循环结束； 空间压缩次数f=5,PCA特征提取后的维数p=3。 4)构造全一矩阵1∈Rax1,将最终获取的数据 3.2.1离群点实验 H2=[1,2)]利用FCR框架进行切换回归。 在切换回归分析中，离群点主要是指不符合任 CHS-FCR算法将基于PCA的压缩ELM隐空间 一模型的数据，它主要是在收集数据的过程中出现 单隐层学习结构改造为多隐层学习结构。假设从第 误操作或异常情况而引入的。本实验中基于式 二层开始，每个隐含层中随机生成的ELM隐节点数 (15)和(16)生成2个回归数据集，并分别加入离群 都是T,由前一层PCA压缩后得到的隐节点数为 点(16,8)。实验数据集分布如图4所示。 T',易得隐节点总数为 L=(T+T)×(f-1)+T (11) y1=18-x+0.03125x2 A: (15) 其中随机生成的ELM隐节点总数为 0y2=-2+x-0.03125x2 LELM =Txf (12) y1=172-26x+x2 经过多次隐空间压缩，噪声信息被过滤，同时会 B: (16) y2=364-38x+x2 发生相应的信息损失：但是每个混合层中新生成的 图5和图6给出了加入离群点之前模糊C均值 ELM隐节点信息弥补了这些丢失的信息，因此本文 回归算法(fuzzy C regression algorithm,FCR)和堆叠 的堆叠隐空间结构能得到更好的学习效果。 隐空间模糊C回归算法(cascaded hidden space 3实验研究与分析 FCR,CHS-FCR)的回归结果，图7和图8给出了加 入离群点之后两算法的回归结果。从中可以看出， 3.1实验平台以及算法性能的评价指标 加入离群点之前，FCR和CHS-FCR这2个算法均可 本文在表1中实验平台上进行所有实验并且采 以得到理想的结果。加入离群点之后，CR的拟合 用式(13)和(14)所示的指标来评价各算法的性能。 效果明显受到离群点的影响：但是CHS-FCR仍然能 得到令人满意的拟合结果。可见，压缩隐空间方法 的引入使本文所提的CHS-FCR算法对离群点具有 (13) 更好的鲁棒性。 12 11 [(1r,-()] 9 (14) 式中：N表示测试样本数，y:表示测试样本第i次输 6 入的输出，y:'表示测试样本第i次输入的模糊系统 输出，y=∑y:。式(13)和(14)所示的指标数值 1012141618202224 分别越接近于0和1，则算法的性能越好。 (a)数据集AＷ∈Ｒ Ｔ×ｄ以及值在［０．５，１］之间的偏移量矩阵 Ｂ∈Ｒ Ｔ×１ 。 ②根据式（１）以及图 １ 将数据集 Ｄ 进行特征映 射，得到高维数据矩阵 Ｈ （１）∈Ｒ ｎ×Ｔ 。 ２）利用基于 ＰＣＡ 的压缩隐空间方法对 Ｈ （１） 进 行压缩，得到维数为 ｐ 的数据矩阵Ｈ （２） ； ３）ｆｏｒ ｊ ＝ １：ｆ－１ ①重复步骤 １ 中 １）、２）； ② 将 Ｈ （２） 与 Ｈ （１） 合 并 存 入 矩 阵 Ｈ （３） 中， Ｈ （３）＝ ［Ｈ （２） Ｈ （１） ］。 ③利用 ＰＣＡ 对 Ｈ （３）进行特征提取，得到矩阵记 为 Ｈ （２） ； 循环结束； ４）构造全一矩阵 １∈Ｒ ｎ×１ ，将最终获取的数据 Ｈ （２）＝ ［１，Ｈ （２） ］利用 ＦＣＲ 框架进行切换回归。 ＣＨＳ⁃ＦＣＲ 算法将基于 ＰＣＡ 的压缩 ＥＬＭ 隐空间 单隐层学习结构改造为多隐层学习结构。 假设从第 二层开始，每个隐含层中随机生成的 ＥＬＭ 隐节点数 都是 Ｔ，由前一层 ＰＣＡ 压缩后得到的隐节点数为 Ｔ′，易得隐节点总数为 Ｌ ＝ （Ｔ ＋ Ｔ′） × （ｆ － １） ＋ Ｔ （１１） 其中随机生成的 ＥＬＭ 隐节点总数为 ＬＥＬＭ ＝ Ｔ × ｆ （１２） 经过多次隐空间压缩，噪声信息被过滤，同时会 发生相应的信息损失；但是每个混合层中新生成的 ＥＬＭ 隐节点信息弥补了这些丢失的信息，因此本文 的堆叠隐空间结构能得到更好的学习效果。 ３ 实验研究与分析 ３．１ 实验平台以及算法性能的评价指标 本文在表 １ 中实验平台上进行所有实验并且采 用式（１３）和（１４）所示的指标来评价各算法的性能。 ＪＲＲＳＥ ＝ １ Ｎ∑ Ｎ ｉ ＝ １ （ｙｉ ′ － ｙｉ） ２ ／ １ Ｎ∑ Ｎ ｉ ＝ １ （ｙｉ － ｙ － ） ２ （１３） ＪＳＣＣ ＝ Ｎ∑ Ｎ ｉ ＝ １ ｙｉ ′·ｙ ( ｉ) ２ Ｎ∑ Ｎ ｉ ＝ １ （ｙｉ ′） ２－ （∑ Ｎ ｉ ＝ １ ｙｉ） ２ [ ]· Ｎ∑ Ｎ ｉ ＝ １ （ｙｉ） ２－（∑ Ｎ ｉ ＝ １ ｙｉ） ２ [ ] （１４） 式中：Ｎ 表示测试样本数，ｙｉ 表示测试样本第 ｉ 次输 入的输出，ｙｉ ′表示测试样本第 ｉ 次输入的模糊系统 输出， ｙ － ＝ １ Ｎ∑ Ｎ ｉ ＝ １ ｙｉ 。 式（１３）和（１４）所示的指标数值 分别越接近于 ０ 和 １，则算法的性能越好。 表 １ 实验平台 Ｔａｂｌｅ １ Ｅｘｐｅｒｉｍｅｎｔａｌ ｐｌａｔｆｏｒｍ 结构 配置 ＣＰＵ Ｉｎｔｅｌ（Ｒ）Ｃｏｒｅ（ＴＭ） ｉ５－４５９０ ３．３０ＧＨｚ 内存 ８．００ ＧＢ 操作系统 ６４ｂｉｔ Ｗｉｎｄｏｗｓ７ 软件平台 Ｍａｔｌａｂ Ｒ２０１２ａ ３．２ 鲁棒性实验 本实验中，基于文献［５］的模拟回归数据集，通 过分别加入噪声点和离群点来比较 ＦＣＲ 以及 ＣＨＳ⁃ ＦＣＲ 算法的鲁棒性。 实验中，ＦＣＲ 算法和 ＣＨＳ⁃ＦＣＲ 算法的模型个数 ｃ ＝ ２，模糊指数 ｍ ＝ ２，ＣＨＳ⁃ＦＣＲ 隐 空间压缩次数 ｆ ＝ ５，ＰＣＡ 特征提取后的维数 ｐ ＝ ３。 ３．２．１ 离群点实验 在切换回归分析中，离群点主要是指不符合任 一模型的数据，它主要是在收集数据的过程中出现 误操作或异常情况而引入的。 本实验中基于式 （１５）和（１６）生成 ２ 个回归数据集，并分别加入离群 点（１６，８）。 实验数据集分布如图 ４ 所示。 Ａ： ｙ１ ＝ １８ － ｘ ＋ ０．０３１ ２５ｘ ２ ｙ２ ＝ － ２ ＋ ｘ － ０．０３１ ２５ｘ { ２ （１５） Ｂ： ｙ１ ＝ １７２ － ２６ｘ ＋ ｘ ２ ｙ２ ＝ ３６４ － ３８ｘ ＋ ｘ { ２ （１６） 图 ５ 和图 ６ 给出了加入离群点之前模糊 Ｃ 均值 回归算法（ｆｕｚｚｙ Ｃ ｒｅｇｒｅｓｓｉｏｎ ａｌｇｏｒｉｔｈｍ， ＦＣＲ）和堆叠 隐空 间 模 糊 Ｃ 回 归 算 法 （ ｃａｓｃａｄｅｄ ｈｉｄｄｅｎ ｓｐａｃｅ ＦＣＲ， ＣＨＳ⁃ＦＣＲ）的回归结果，图 ７ 和图 ８ 给出了加 入离群点之后两算法的回归结果。 从中可以看出， 加入离群点之前，ＦＣＲ 和 ＣＨＳ⁃ＦＣＲ 这 ２ 个算法均可 以得到理想的结果。 加入离群点之后，ＦＣＲ 的拟合 效果明显受到离群点的影响；但是 ＣＨＳ⁃ＦＣＲ 仍然能 得到令人满意的拟合结果。 可见，压缩隐空间方法 的引入使本文所提的 ＣＨＳ⁃ＦＣＲ 算法对离群点具有 更好的鲁棒性。 （ａ）数据集 Ａ 第 ５ 期 刘欢，等：堆叠隐空间模糊 Ｃ 回归算法及其在发酵数据多模型建模中的应用 ·６７３·