第4期 卞则康，等：基于混合距离学习的鲁棒的模糊C均值聚类算法 ·453. 矩阵为U={u,l1≤i≤c,1≤j≤n}。对于每一个样 式中：ω：是通过距离学习得到的权值。 本x,通过构造一个新的隶属约束函数f(“)= 算法3HR-FCM算法 ∑“，(1-写)，同时为每一个样本增加一个惩 输入数据矩阵X∈RW,权值向量w,聚类数 罚项α，以提高算法的鲁棒性，那么得到新的目标函 目c,阈值e,模糊指数m,抗噪参数α，最大迭代次 数为 数T; 输出最终的隶属矩阵U。 步骤： 1)初始化：山，=，t=1; 三与=山，0≤4，≤1,1≤i≤c,1≤≤n 2)使用式(16)计算新的聚类中心； (12) 3)使用式(17)计算新的隶属矩阵售； 式中：a,=a×mind(x,y,),0≤a≤1，a为抗噪参数。 4)如果‖U+1-U‖<ε或者t>T,输出最终的隶 1多se 属矩阵，否则t=t+1返回2)。 使用拉格朗日乘数法对式(12)进行优化，得到 HR-FCM算法通过使用距离学习得到的新的混 新的聚类中心和隶属函数如式(13)和式(14)： 合距离代替传统FCM算法中的欧式距离，进一步增 ∑写 加了算法的抗噪性能。再者，通过数据集本身的辅 13) ∑写 助信息进行距离的学习的得到的混合距离，比原有 1 的欧式距离更加适合数据集，提高了算法的适用 性。HR-FCM算法与传统的FCM算法相比，具有更 d(x,y)-a×mind(,y,） 佳的聚类性能和鲁棒性。 d(x,y)-a×mind(x,y,) 3实验研究和分析 (14) 本章通过实验检测本文提出的HR-FCM算法 4,(,)=(-P)st1<p<2 的聚类性能和鲁棒性能。本章的实验主要分为两 (15) 个部分：1)将本文提出的HR-FCM算法与现有的基 式(15)是表示样本与类中心的距离度量公式，当p= 于欧氏距离的聚类算法作比较，如：FCM、K-means 2时，式(15)就是传统的欧氏距离。 和K-medoids,检测算法的聚类性能；2)主要是检测 本文提出的HR-FCM算法，加入了距离学习的 算法的鲁棒性能，通过对实验数据加入不同程度的随 过程，通过距离学习出来的距离度量比传统的欧式 机噪声，并与FCM算法和GIFP-FCM算法作比较。 距离更佳适合具有辅助信息的数据集，增加了算法 3.1实验设置和实验数据 的聚类性能和鲁棒性。因此，用新的混合距离D替 本文的实验参数设置如下：阈值ε=10，最大 换式(13)和式(14)中的距离度量dn,得到新的聚类 迭代次数T=300,模糊指数T=300,m∈{1.5,2,3， 中心公式(16)和隶属度计算公式(17)： 4},a∈{0.5,0.7,0.9,0.99}。为了实验结果的公平 重复每次聚类过程20，实验结果取均值。 实验中对于候选距离的选取，选择了基于欧式 了： (16) 距离的含有方差的距离分量d(x,y),非线性的距 1 离分量d(x,y),曼哈顿距离分量d2(x,y)。由这3 g= 种距离分量线性组合后的混合距离D(x,y)是一个 D'(x,)-a×minD(x,y ∑k=D2(x,y)-a×minD'(E.g 非线性的距离函数。本文预设的3个距离度量如式 (19)所示： (17) d (x,y)=(x-y)"(x-y) 式中距离度量D的定义如式(18)： D(x.y)= d(x,） 4(x.3)= (19) s.t. ∑0：=1,0≤0，≤1 (18) 4(xJ)=1-exp(--3‖r-y2)矩阵为 Ｕ ＝ ｛ｕｉｊ １≤ｉ≤ｃ，１≤ｊ≤ｎ｝。 对于每一个样 本 ｘｊ， 通过构造一个新的隶属约束函数 ｆ（ｕｉｊ） ＝ ∑ ｃ ｉ ＝ １ ｕｉｊ（１ － ｕ ｍ－１ ｉｊ ） ，同时为每一个样本增加一个惩 罚项 ａｊ 以提高算法的鲁棒性，那么得到新的目标函 数为 Ｊ＝∑ ｃ ｉ ＝ １ ∑ ｎ ｊ ＝ １ ｕ ｍ ｉｊ ｄ ２ ｐ（ｘｊ，ｖｉ） ＋∑ ｎ ｊ ＝ １ ａｊ∑ ｃ ｉ ＝ １ ｕｉｊ（１ － ｕ ｍ－１ ｉｊ ） ｓ．ｔ． ｍ＞１ ∑ ｃ ｉ ＝ １ ｕｉｊ ＝ １， ０ ≤ ｕｉｊ ≤ １， １ ≤ ｉ ≤ ｃ，１ ≤ ｊ ≤ ｎ （１２） 式中：ａｊ ＝α× ｍｉｎ １≤ｓ≤ｃ ｄ ２ ｐ（ｘｊ，ｖｓ），０≤α≤１，α 为抗噪参数。 使用拉格朗日乘数法对式（１２）进行优化，得到 新的聚类中心和隶属函数如式（１３）和式（１４）： ｖｉ ＝ ∑ ｎ ｊ ＝ １ ｕ ｍ ｉｊ ｘｊ ∑ ｎ ｊ ＝ １ ｕ ｍ ｉｊ （１３） ｕｉｊ ＝ １ ∑ ｃ ｋ ＝ １ ｄ ２ ｐ（ｘｊ，ｖｉ） － α × ｍｉｎ １≤ｓ≤ｃ ｄ ２ ｐ（ｘｊ，ｖｓ） ｄ ２ ｐ（ｘｊ，ｖｋ） － α × ｍｉｎ １≤ｓ≤ｃ ｄ ２ ｐ（ｘｊ，ｖｓ） æ è çç ö ø ÷÷ １ ｍ－１ （１４） ｄｐ（ｘｊ，ｖｉ） ＝ （∑ ｎ ｋ ＝ １ ｘｊ － ｖｉ ｐ ） １ ｐ ｓ．ｔ． １ ＜ ｐ ＜ ２ （１５） 式（１５）是表示样本与类中心的距离度量公式，当ｐ ＝ ２ 时，式（１５）就是传统的欧氏距离。 本文提出的 ＨＲ⁃ＦＣＭ 算法，加入了距离学习的 过程，通过距离学习出来的距离度量比传统的欧式 距离更佳适合具有辅助信息的数据集，增加了算法 的聚类性能和鲁棒性。 因此，用新的混合距离 Ｄ 替 换式（１３）和式（１４）中的距离度量 ｄｐ，得到新的聚类 中心公式（１６）和隶属度计算公式（１７）； ｖｉ ＝ ∑ ｎ ｊ ＝ １ ｕ ｍ ｉｊ ｘｊ ∑ ｎ ｊ ＝ １ ｕ ｍ ｉｊ （１６） ｕｉｊ ＝ １ ∑ ｃ ｋ ＝ １ Ｄ ２ （ｘｊ，ｖｉ） － α × ｍｉｎ １≤ｓ≤ｃ Ｄ ２ （ｘｊ，ｖｓ） Ｄ ２ （ｘｊ，ｖｋ） － α × ｍｉｎ １≤ｓ≤ｃ Ｄ ２ （ｘｊ，ｖｓ） æ è çç ö ø ÷÷ １ ｍ－１ （１７） 式中距离度量 Ｄ 的定义如式（１８）： Ｄ（ｘ，ｙ） ＝ ∑ ｐ ｉ ＝ １ ωｉｄｉ（ｘ，ｙ） ｓ．ｔ． ∑ ｐ ｉ ＝ １ ωｉ ＝ １，０ ≤ ωｉ ≤ １ （１８） 式中：ωｉ 是通过距离学习得到的权值。 算法 ３ ＨＲ⁃ＦＣＭ 算法 输入 数据矩阵 Ｘ∈Ｒ ｄ×Ｎ ，权值向量 ω，聚类数 目 ｃ，阈值 ε，模糊指数 ｍ，抗噪参数 α，最大迭代次 数 Ｔ； 输出 最终的隶属矩阵 Ｕ。 步骤： １）初始化：ｕｉｊ ＝ ｕ １ ｉｊ，ｔ ＝ １； ２）使用式（１６）计算新的聚类中心 ｖ ｔ＋１ ｉ ； ３）使用式（１７）计算新的隶属矩阵 ｕ ｔ＋１ ｉｊ ； ４）如果‖Ｕ ｔ＋１－Ｕ ｔ‖＜ε 或者 ｔ＞Ｔ，输出最终的隶 属矩阵，否则 ｔ ＝ ｔ＋１ 返回 ２）。 ＨＲ⁃ＦＣＭ 算法通过使用距离学习得到的新的混 合距离代替传统 ＦＣＭ 算法中的欧式距离，进一步增 加了算法的抗噪性能。 再者，通过数据集本身的辅 助信息进行距离的学习的得到的混合距离，比原有 的欧式距离更加适合数据集，提高了算法的适用 性。 ＨＲ⁃ＦＣＭ 算法与传统的 ＦＣＭ 算法相比，具有更 佳的聚类性能和鲁棒性。 ３ 实验研究和分析 本章通过实验检测本文提出的 ＨＲ⁃ＦＣＭ 算法 的聚类性能和鲁棒性能。 本章的实验主要分为两 个部分：１）将本文提出的 ＨＲ⁃ＦＣＭ 算法与现有的基 于欧氏距离的聚类算法作比较，如：ＦＣＭ、Ｋ⁃ｍｅａｎｓ 和 Ｋ⁃ｍｅｄｏｉｄｓ，检测算法的聚类性能；２）主要是检测 算法的鲁棒性能，通过对实验数据加入不同程度的随 机噪声，并与 ＦＣＭ 算法和 ＧＩＦＰ⁃ＦＣＭ 算法作比较。 ３．１ 实验设置和实验数据 本文的实验参数设置如下：阈值 ε ＝ １０ －５ ，最大 迭代次数 Ｔ ＝ ３００，模糊指数 Ｔ ＝ ３００，ｍ∈｛１．５，２，３， ４｝，α∈｛０．５，０．７，０．９，０．９９｝。 为了实验结果的公平， 重复每次聚类过程 ２０，实验结果取均值。 实验中对于候选距离的选取，选择了基于欧式 距离的含有方差的距离分量 ｄ１（ ｘ，ｙ），非线性的距 离分量 ｄ３（ｘ，ｙ），曼哈顿距离分量 ｄ２（ｘ，ｙ）。 由这 ３ 种距离分量线性组合后的混合距离 Ｄ（ｘ，ｙ）是一个 非线性的距离函数。 本文预设的 ３ 个距离度量如式 （１９）所示： ｄ１（ｘ，ｙ） ＝ （ｘ － ｙ） Ｔ １ σ ２ （ｘ － ｙ） ｄ２（ｘ，ｙ） ＝ ∑ ｄ ｉ ＝ １ ｘｉ － ｙｉ σ ２ ｄ３（ｘ，ｙ） ＝ １ － ｅｘｐ（ － － ３ ‖ｘ － ｙ‖２ σ ２ ） ì î í ï ï ï ï ï ï ï ï （１９） 第 ４ 期 卞则康，等：基于混合距离学习的鲁棒的模糊 Ｃ 均值聚类算法 ·４５３·