【机器学习】一种基于少量标签的改进迁移模糊聚类编辑部

第11卷第3期 智能系统学报 Vol.11 No.3 2016年6月 CAAI Transactions on Intelligent Systems Jun.2016 D0I:10.11992/is.201603046 网络出版地址：http://www.cnki.net/kcms/detail/23.1538.TP.20160513.0957.034.html 一种基于少量标签的改进迁移模糊聚类 王跃，杨燕，王红军 (西南交通大学信息科学与技术学院，四川成都610031) 摘要：传统聚类算法难以利用已有的历史信息，尤其是数据被污染的情况下聚类结果不理想：半监督聚类常用于 数据中有部分标签的情况。在源数据有少量标签的情况下，提出半监督混合C均值聚类算法(SS-FPCM):基于迁移 学习框架，针对负迁移问题对算法进行修正，提出了防止负迁移的半监督迁移算法(TSS-FPCM):最后，为了充分借 鉴源数据的信息，利用“代表点”来代替源数据类信息，融入算法中再次迁移得到改善的半监督迁移算法(TSS FPCM)。实验表明，3个算法能够有效的利用源数据提高聚类性能。SS-FPCM与TSS-FPCM可以利用源数据的少量 标签数据，而TSS-FPCM算法结合了标签数据与“代表点”两个有效信息，在数据信息匮乏、数据被污染的情况下得 到较好的聚类结果。 关键词：聚类：迁移学习：半监督：可能性C均值：模糊C均值 中图分类号：TP301文献标志码：A文章编号：1673-4785(2016)03-0310-08 中文引用格式：王跃，杨燕，王红军.一种基于少量标签的改进迁移模糊聚类[J].智能系统学报，2016,11(3)：310-317. 英文引用格式：VANG Yue,YANG Yan,WANG Hongjun.An improved transfer fuzzy clustering with few labels[J].CAAI trans- actions on intelligent systems,2016,11(3):310-317. An improved transfer fuzzy clustering with few labels WANG Yue,YANG Yan,WANG Hongjun (School of Information Science and Technology,Southwest Jiaotong University,Chengdu 610031,China) Abstract:In the traditional clustering algorithm,it is difficult to utilize existing historical information,which tends to be less effective in cases in which the data is contaminated.The semi-supervised clustering algorithm is often used in such circumstances,wherein the target data has some labeled examples.For situations in which the source data has partially labeled samples,in this paper,we propose a semi-supervised fuzzy possibilistic C-means algo- rithm (SS-FPCM).Based on the transfer learning framework,we use a transfer semi-supervised fuzzy possibilistic C-means algorithm (TSS-FPCM)to avoid the negative transfer learning problem.Finally,in order to make full use of source data information,we use representative points to replace the source data class.Thus,we have developed an improved transfer semi-supervised fuzzy possibilistic C-means algorithm (ITSS-FPCM).The experimental results demonstrate that these three algorithms may be used to improve the clustering performance by using source data ef- fectively,as compared with other clustering algorithms.Moreover,the SS-FPCM and TSS-FPCM algorithms exploit partially labeled data from the source,while the ITSS-FPCM algorithm combines the labeled data and "representa- tive points,"for cases having insufficient data information or contaminated data,and an excellent clustering result is attained. Keywords:clustering;transfer learning;semi-supervised;possibilistic C-means;fuzzy C-means 传统的聚类算法在拥有大量数据的情况下能够 污染的情况，传统的聚类算法存在着不足。 在不同的场景下发挥各自的作用，当数据匮乏、噪声 近年来，迁移学习的成果逐渐丰富，研究表明， 迁移学习能够有效地解决数据量不足、数据受污染 收稿日期：2016-03-19.网络出版日期：2016-05-13. 基金项目：国家自然科学基金项目(61170111,61572407,61134002)： 和信息丢失等问题。文献[1]根据迁移学习中源领 四川省料技支撑计划项目(2014SZ0207). 通信作者：杨燕.E-mail:yang@swjtu.ed血.cn 域和目标领域中是否含有标签，可以将迁移学习划

第 １１ 卷第 ３ 期 智 能 系 统 学 报 Ｖｏｌ．１１ №．３ ２０１６ 年 ６ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ｊｕｎ． ２０１６ ＤＯＩ：１０．１１９９２ ／ ｔｉｓ．２０１６０３０４６ 网络出版地址：ｈｔｔｐ： ／ ／ ｗｗｗ．ｃｎｋｉ．ｎｅｔ ／ ｋｃｍｓ／ ｄｅｔａｉｌ ／ ２３．１５３８．ＴＰ．２０１６０５１３．０９５７．０３４．ｈｔｍｌ 一种基于少量标签的改进迁移模糊聚类 王跃，杨燕，王红军 （西南交通大学 信息科学与技术学院，四川 成都 ６１００３１） 摘 要：传统聚类算法难以利用已有的历史信息，尤其是数据被污染的情况下聚类结果不理想；半监督聚类常用于 数据中有部分标签的情况。 在源数据有少量标签的情况下，提出半监督混合 Ｃ 均值聚类算法（ ＳＳ⁃ＦＰＣＭ）；基于迁移 学习框架，针对负迁移问题对算法进行修正，提出了防止负迁移的半监督迁移算法（ＴＳＳ⁃ＦＰＣＭ）；最后，为了充分借 鉴源数据的信息，利用“代表点” 来代替源数据类信息，融入算法中再次迁移得到改善的半监督迁移算法（ ＩＴＳＳ⁃ ＦＰＣＭ）。 实验表明，３ 个算法能够有效的利用源数据提高聚类性能。 ＳＳ⁃ＦＰＣＭ 与 ＴＳＳ⁃ＦＰＣＭ 可以利用源数据的少量 标签数据，而 ＩＴＳＳ⁃ＦＰＣＭ 算法结合了标签数据与“代表点”两个有效信息，在数据信息匮乏、数据被污染的情况下得 到较好的聚类结果。 关键词：聚类；迁移学习；半监督；可能性 Ｃ 均值；模糊 Ｃ 均值 中图分类号：ＴＰ３０１ 文献标志码：Ａ 文章编号：１６７３⁃４７８５（２０１６）０３⁃０３１０⁃０８ 中文引用格式：王跃，杨燕，王红军．一种基于少量标签的改进迁移模糊聚类［Ｊ］． 智能系统学报， ２０１６， １１（３）： ３１０⁃３１７． 英文引用格式：ＷＡＮＧ Ｙｕｅ， ＹＡＮＧ Ｙａｎ， ＷＡＮＧ Ｈｏｎｇｊｕｎ．Ａｎ ｉｍｐｒｏｖｅｄ ｔｒａｎｓｆｅｒ ｆｕｚｚｙ ｃｌｕｓｔｅｒｉｎｇ ｗｉｔｈ ｆｅｗ ｌａｂｅｌｓ［Ｊ］． ＣＡＡＩ ｔｒａｎｓ⁃ ａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１６，１１（３）： ３１０⁃３１７． Ａｎ ｉｍｐｒｏｖｅｄ ｔｒａｎｓｆｅｒ ｆｕｚｚｙ ｃｌｕｓｔｅｒｉｎｇ ｗｉｔｈ ｆｅｗ ｌａｂｅｌｓ ＷＡＮＧ Ｙｕｅ， ＹＡＮＧ Ｙａｎ， ＷＡＮＧ Ｈｏｎｇｊｕｎ （Ｓｃｈｏｏｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ， Ｓｏｕｔｈｗｅｓｔ Ｊｉａｏｔｏｎｇ Ｕｎｉｖｅｒｓｉｔｙ， Ｃｈｅｎｇｄｕ ６１００３１， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎ ｔｈｅ ｔｒａｄｉｔｉｏｎａｌ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ， ｉｔ ｉｓ ｄｉｆｆｉｃｕｌｔ ｔｏ ｕｔｉｌｉｚｅ ｅｘｉｓｔｉｎｇ ｈｉｓｔｏｒｉｃａｌ ｉｎｆｏｒｍａｔｉｏｎ， ｗｈｉｃｈ ｔｅｎｄｓ ｔｏ ｂｅ ｌｅｓｓ ｅｆｆｅｃｔｉｖｅ ｉｎ ｃａｓｅｓ ｉｎ ｗｈｉｃｈ ｔｈｅ ｄａｔａ ｉｓ ｃｏｎｔａｍｉｎａｔｅｄ． Ｔｈｅ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ ｉｓ ｏｆｔｅｎ ｕｓｅｄ ｉｎ ｓｕｃｈ ｃｉｒｃｕｍｓｔａｎｃｅｓ， ｗｈｅｒｅｉｎ ｔｈｅ ｔａｒｇｅｔ ｄａｔａ ｈａｓ ｓｏｍｅ ｌａｂｅｌｅｄ ｅｘａｍｐｌｅｓ． Ｆｏｒ ｓｉｔｕａｔｉｏｎｓ ｉｎ ｗｈｉｃｈ ｔｈｅ ｓｏｕｒｃｅ ｄａｔａ ｈａｓ ｐａｒｔｉａｌｌｙ ｌａｂｅｌｅｄ ｓａｍｐｌｅｓ， ｉｎ ｔｈｉｓ ｐａｐｅｒ， ｗｅ ｐｒｏｐｏｓｅ ａ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｆｕｚｚｙ ｐｏｓｓｉｂｉｌｉｓｔｉｃ Ｃ⁃ｍｅａｎｓ ａｌｇｏ⁃ ｒｉｔｈｍ （ＳＳ⁃ＦＰＣＭ）． Ｂａｓｅｄ ｏｎ ｔｈｅ ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｆｒａｍｅｗｏｒｋ， ｗｅ ｕｓｅ ａ ｔｒａｎｓｆｅｒ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｆｕｚｚｙ ｐｏｓｓｉｂｉｌｉｓｔｉｃ Ｃ⁃ｍｅａｎｓ ａｌｇｏｒｉｔｈｍ （ＴＳＳ⁃ＦＰＣＭ） ｔｏ ａｖｏｉｄ ｔｈｅ ｎｅｇａｔｉｖｅ ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｐｒｏｂｌｅｍ． Ｆｉｎａｌｌｙ， ｉｎ ｏｒｄｅｒ ｔｏ ｍａｋｅ ｆｕｌｌ ｕｓｅ ｏｆ ｓｏｕｒｃｅ ｄａｔａ ｉｎｆｏｒｍａｔｉｏｎ， ｗｅ ｕｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｖｅ ｐｏｉｎｔｓ ｔｏ ｒｅｐｌａｃｅ ｔｈｅ ｓｏｕｒｃｅ ｄａｔａ ｃｌａｓｓ． Ｔｈｕｓ， ｗｅ ｈａｖｅ ｄｅｖｅｌｏｐｅｄ ａｎ ｉｍｐｒｏｖｅｄ ｔｒａｎｓｆｅｒ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｆｕｚｚｙ ｐｏｓｓｉｂｉｌｉｓｔｉｃ Ｃ⁃ｍｅａｎｓ ａｌｇｏｒｉｔｈｍ （ＩＴＳＳ⁃ＦＰＣＭ）． Ｔｈｅ ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｄｅｍｏｎｓｔｒａｔｅ ｔｈａｔ ｔｈｅｓｅ ｔｈｒｅｅ ａｌｇｏｒｉｔｈｍｓ ｍａｙ ｂｅ ｕｓｅｄ ｔｏ ｉｍｐｒｏｖｅ ｔｈｅ ｃｌｕｓｔｅｒｉｎｇ ｐｅｒｆｏｒｍａｎｃｅ ｂｙ ｕｓｉｎｇ ｓｏｕｒｃｅ ｄａｔａ ｅｆ⁃ ｆｅｃｔｉｖｅｌｙ， ａｓ ｃｏｍｐａｒｅｄ ｗｉｔｈ ｏｔｈｅｒ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍｓ． Ｍｏｒｅｏｖｅｒ， ｔｈｅ ＳＳ⁃ＦＰＣＭ ａｎｄ ＴＳＳ⁃ＦＰＣＭ ａｌｇｏｒｉｔｈｍｓ ｅｘｐｌｏｉｔ ｐａｒｔｉａｌｌｙ ｌａｂｅｌｅｄ ｄａｔａ ｆｒｏｍ ｔｈｅ ｓｏｕｒｃｅ， ｗｈｉｌｅ ｔｈｅ ＩＴＳＳ⁃ＦＰＣＭ ａｌｇｏｒｉｔｈｍ ｃｏｍｂｉｎｅｓ ｔｈｅ ｌａｂｅｌｅｄ ｄａｔａ ａｎｄ ＂ ｒｅｐｒｅｓｅｎｔａ⁃ ｔｉｖｅ ｐｏｉｎｔｓ，＂ ｆｏｒ ｃａｓｅｓ ｈａｖｉｎｇ ｉｎｓｕｆｆｉｃｉｅｎｔ ｄａｔａ ｉｎｆｏｒｍａｔｉｏｎ ｏｒ ｃｏｎｔａｍｉｎａｔｅｄ ｄａｔａ， ａｎｄ ａｎ ｅｘｃｅｌｌｅｎｔ ｃｌｕｓｔｅｒｉｎｇ ｒｅｓｕｌｔ ｉｓ ａｔｔａｉｎｅｄ． Ｋｅｙｗｏｒｄｓ：ｃｌｕｓｔｅｒｉｎｇ； ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ； ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ； ｐｏｓｓｉｂｉｌｉｓｔｉｃ Ｃ⁃ｍｅａｎｓ； ｆｕｚｚｙ Ｃ⁃ｍｅａｎｓ 收稿日期：２０１６⁃０３⁃１９． 网络出版日期：２０１６⁃０５⁃１３． 基金项目：国家自然科学基金项目（ ６１１７０１１１， ６１５７２４０７， ６１１３４００２）； 四川省科技支撑计划项目（２０１４ＳＺ０２０７）． 通信作者：杨燕． Ｅ⁃ｍａｉｌ： ｙｙａｎｇ＠ ｓｗｊｔｕ．ｅｄｕ．ｃｎ． 传统的聚类算法在拥有大量数据的情况下能够 在不同的场景下发挥各自的作用，当数据匮乏、噪声 污染的情况，传统的聚类算法存在着不足。 近年来，迁移学习的成果逐渐丰富，研究表明， 迁移学习能够有效地解决数据量不足、数据受污染 和信息丢失等问题。 文献［１］根据迁移学习中源领 域和目标领域中是否含有标签，可以将迁移学习划

第3期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·311- 分为3类：归纳迁移学习、直推式迁移学习和无监督 N 迁移学习。现有的迁移学习在分类领域已有较多研 k=1 究成果20)，而在聚类领域迁移学习理论和方法相 —,i (5) 对则要少很多。文献[11-12]在聚类领域利用了迁 移学习的理论。 1.2PFCM聚类算法 半监督聚类是半监督学习与聚类分析相结合的 FPCM是建立在FCM和PCM基础上的算法， 研究领域，文献[13]提出了不同情况下的半监督聚 它将两者结合在一起，FPCM的目标函数定义为 类算法，并取得了不错的效果。 J= 文献[14]将经典的模糊C均值算法1s(FCM) 正d形 (6) 与可能性C均值[6](PCM)算法进行改进，提出了 式中：m>1,m>1,0≤，≤1，约束条件为 模糊可能性聚类算法(FPCM)。本文探讨在源领域 2a=1,i (7) 有少量标签的情况下，如何指导目标域进行聚类，提 出半监督模糊可能性C均值聚类算法(SS-FPCM), 2=1,k (8) 并针对负迁移问题对算法进行改进，提出了防止负 通过最小化目标函数，可以得到以下迭代优化 迁移的半监督迁移算法(TSS-FPCM),同时，用代表 公式： 点代替源领域的数据进行数据迁移，得到改善的半 监督迁移算法(TSS-FPCM),并进行了实验验证。 [周 (9) 1相关算法介绍 Vi,k (10) 1.1PCM聚类算法 PCM聚类算法放松了传统FCM聚类算法中对 于隶属度矩阵的约束，隶属度不再是对1的共享。 ∑(u候+) .Vi 对于给定数据集X={xIk=1,2,…,N},x4∈R,包 N (11) 含N个样本，分成C个类别，T= (+) {t4li=1,2,…,C;k=1,2,…,N}是可能划分矩阵，t 1.3半监督聚类算法 表示第k个样本x:属于第i类的可能性，聚类中心 对于一些有着一部分标签的数据集，在文献 为V={yIi=1,2,…,C},其中y:表示第i个聚类中 [17]中，Pedrycz提出了基于部分标签的模糊聚类 心。PCM目标函数定义为 算法(SS-F℃M),算法的核心思想是利用现有的分类 信息，并把它作为优化程序的一部分。 为了区分标记数据与未标记数据，引入向量矩 式中：t4∈[0,1]，00 (3) 含a (12) 最小化目标函数可以得到可能性矩阵和聚类中 2半监督迁移模糊聚类算法 心的迭代式(4)和式(5)： 2.1半监督模糊可能性C均值聚类算法 1 .Vi,k 4 对半监督FCM算法进行研究可以发现，上文中 的B和F的功能相似，保留下F并对FPCM的目标 函数做如下改进：

分为 ３ 类：归纳迁移学习、直推式迁移学习和无监督 迁移学习。 现有的迁移学习在分类领域已有较多研 究成果［２⁃１０］ ，而在聚类领域迁移学习理论和方法相 对则要少很多。 文献［１１⁃１２］在聚类领域利用了迁 移学习的理论。 半监督聚类是半监督学习与聚类分析相结合的 研究领域，文献［１３］提出了不同情况下的半监督聚 类算法，并取得了不错的效果。 文献［１４］将经典的模糊 Ｃ 均值算法［１５］ （ＦＣＭ） 与可能性 Ｃ 均值［１６］ （ ＰＣＭ） 算法进行改进，提出了 模糊可能性聚类算法（ＦＰＣＭ）。 本文探讨在源领域 有少量标签的情况下，如何指导目标域进行聚类，提 出半监督模糊可能性 Ｃ 均值聚类算法（ ＳＳ⁃ＦＰＣＭ）， 并针对负迁移问题对算法进行改进，提出了防止负 迁移的半监督迁移算法（ＴＳＳ⁃ＦＰＣＭ），同时，用代表 点代替源领域的数据进行数据迁移，得到改善的半 监督迁移算法（ＩＴＳＳ⁃ＦＰＣＭ），并进行了实验验证。 １ 相关算法介绍 １．１ ＰＣＭ 聚类算法 ＰＣＭ 聚类算法放松了传统 ＦＣＭ 聚类算法中对 于隶属度矩阵的约束，隶属度不再是对 １ 的共享。 对于给定数据集 Ｘ ＝ ｘｋ { ｜ ｋ ＝ １，２，…，Ｎ} ，ｘｋ∈Ｒ ｄ ，包 含 Ｎ 个 样 本， 分 成 Ｃ 个 类 别， Ｔ ＝ ｔ ｉｋ { ｜ ｉ ＝ １，２，…，Ｃ；ｋ ＝ １，２，…，Ｎ}是可能划分矩阵，ｔ ｉｋ 表示第 ｋ 个样本 ｘｋ 属于第 ｉ 类的可能性，聚类中心 为 Ｖ ＝ ｖｉ { ｜ ｉ ＝ １，２，…，Ｃ} ，其中 ｖｉ 表示第 ｉ 个聚类中 心。 ＰＣＭ 目标函数定义为 Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋｄ ２ ｉｋ ＋ ∑ Ｃ ｉ ＝ １ ηｉ∑ Ｎ ｋ ＝ １ １ － ｔ ｉｋ ( ) ｍ ｄ ２ ｉｋ （１） 式中： ｔ ｉｋ ∈ [０，１] ，０ ＜ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋ ≤Ｎ，ｍ为模糊指数，ｄ ２ ｉｋ 和 ηｉ 的取值分别为式（２） 和式（３），Ｋ 的取值一般取 Ｋ ＝ １。 ｄ ２ ｉｋ ＝ ‖ｘｋ － ｖｉ‖２ ＝ ｘｋ － ｖｉ ( ) Ｔ ｘｋ － ｖｉ ( ) （２） ηｉ ＝ Ｋ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋｄ ２ ｉｋ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋ ，Ｋ ＞ ０ （３） 最小化目标函数可以得到可能性矩阵和聚类中 心的迭代式（４）和式（５）： ｔ ｉｋ ＝ １ １ ＋ ｄ ２ ｉｋ ηｉ æ è ç ö ø ÷ １ ｍ－１ ，∀ｉ，ｋ （４） ｖｉ ＝ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋ ｘｋ ∑ Ｎ ｋ ＝ １ ｔ ｍ ｉｋ ，∀ｉ （５） １．２ ＰＦＣＭ 聚类算法 ＦＰＣＭ 是建立在 ＦＣＭ 和 ＰＣＭ 基础上的算法， 它将两者结合在一起 ，ＦＰＣＭ 的目标函数定义为 Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ ｕ ｍ ｉｋ ＋ ｔ η ｉｋ ( ) ｄ ２ ｉｋ （６） 式中：ｍ＞１，η＞１，０≤ｉｋ，ｔ ｉｋ≤１，约束条件为 ∑ Ｎ ｋ ＝ １ ｔ ｉｋ ＝ １，∀ｉ （７） ∑ Ｃ ｉ ＝ １ ｕｉｋ ＝ １，∀ｋ （８） 通过最小化目标函数，可以得到以下迭代优化 公式： ｕｉｋ ＝ ∑ Ｃ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｉｊ æ è ç ö ø ÷ １ ｍ－１ é ë ê ê ù û ú ú －１ ，∀ｉ，ｋ （９） ｔ ｉｋ ＝ ∑ Ｎ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｉｊ æ è ç ö ø ÷ １ η－１ é ë ê ê ù û ú ú －１ ，∀ｉ，ｋ （１０） ｖｉ ＝ ∑ Ｎ ｋ ＝ １ ｕ ｍ ｉｋ ＋ ｔ η ｉｋ ( ) ｘｋ ∑ Ｎ ｋ ＝ １ ｕ ｍ ｉｋ ＋ ｔ η ｉｋ ( ) ，∀ｉ （１１） １．３ 半监督聚类算法 对于一些有着一部分标签的数据集，在文献 ［１７］中，Ｐｅｄｒｙｃｚ 提出了基于部分标签的模糊聚类 算法（ＳＳ⁃ＦＣＭ），算法的核心思想是利用现有的分类 信息，并把它作为优化程序的一部分。 为了区分标记数据与未标记数据，引入向量矩 阵 Ｂ ＝ ｂｋ { ｜ ｋ ＝ １，２，…，Ｎ} ，如果 ｘｋ 是已知标签样本 ｂｋ ＝ １， 否 则 ｂｋ ＝ ０。 并 且 记 类 别 属 性 Ｆ ＝ ｆ ｉｋ { ｜ ｉ ＝ １，２，…，Ｃ；ｋ ＝ １，２，…，Ｎ} ，如果 ｘｋ 属于第 ｉ 类，那么 ｆ ｉｋ ＝ １；否则 ｆ ｉｋ ＝ ０。 在引入 Ｂ 和 Ｆ 后，Ｐｅ⁃ ｄｒｙｃｚ 将模糊参数 ｍ 取值为 ２，其目标函数为 Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ ｕ ２ ｉｋｄ ２ ｉｋ ＋ α∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ ｕｉｋ － ｆ ｉｋ ｂｋ ( ) ２ ｄ ２ ｉｋ （１２） ２ 半监督迁移模糊聚类算法 ２．１ 半监督模糊可能性 Ｃ 均值聚类算法 对半监督 ＦＣＭ 算法进行研究可以发现，上文中 的 Ｂ 和 Ｆ 的功能相似，保留下 Ｆ 并对 ＦＰＣＭ 的目标 函数做如下改进： 第 ３ 期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·３１１·

.312 智能系统学报 第11卷 N J= ∑∑(a+B)d+u (ua -fa)'di J= a+)+ (13) u4-f)] s.t.a≥0，B≥0，w>0,0≤ut,tk≤1 最小化目标函数，可以得到迭代表达式： s.t. a≥0，B≥0，ω>0,0≤4法，tt≤1 N+M Vi,k (14) -IVk.IVi (17) 不直接使用式(13)的目标函数而改用式(17)》 a+(1-∑f) 的目标函数，当参数ω趋于0的时候，前者相当于 证= +ωfk,i,k 将M个源数据当作未知标签加入到目标领域中进 a+w 行无监督混合C均值聚类，而后者则等于认为这些 数据没有用处而舍弃。可以发现前者无法控制加入 (15) 源数据后所可能造成的负迁移现象影响聚类结果， ∑【a匠+B+wua-f)]x 而后者则可以有效避免该情况。 ，Hi 最小化目标函数可以得到： N a暖+假+ua-fa)门 d d -1 k≤N (16) 通过不断迭代优化隶属度矩阵最终获得我们需 ωd，告d + N<k≤N+M 要的划分。改进的半监督模糊可能性C均值算法 (SS-FPCM)能够通过a、B控制FPCM中FCM和 (18) -1 PCM的权重，通过参数ω的变化控制已知标签在算 k≤N 法中所占的比重。 2.2历史标签数据的迁移 1 迁移学习可以将历史场景（也叫源数据）中获 1+a 1 一+ f,N<k≤N+M 取需要的数据或者信息，用于指导当前场景（又成 1+a 为目标数据)，当历史场景的信息与当前场景的相 关性足够大时，可以从中得到潜藏的信息。在当历 (19) 史场景没有任何指导信的数据（无任何标签信息） V+V 时，文献[11-12]针对这种情况分别做出了自己的 (时tB)tu】 (oaiBit (u-fa)) N+I -,i 研究。 N+M 当源数据有少量的标签时候，可以很直观地想 三(@Hu2a哈时ur)y k=N+1 到，将这些数据提取出来，加入到当前场景，一起进 (20) 行聚类，以期待能够指导当前场景。前面提到了半 2.3改进的半监督迁移算法 监督FPCM聚类算法能够有效利用标签进行聚类， 在历史场景中，除了少量的标签信息，还有大量 便可以直接引用式(13)的目标函数。但是，在迁移 的未标记数据，这些数据量远远大于已标记数据，同 学习中负迁移是难以避免的一个问题，如果历史场 样可以从中获取需要的信息来帮助当前场景。直接 景与当前场景相关性并不大。那么历史数据的标签 将大量未标记数据加入当前场景中进行聚类大大增 很可能对当前场景产生不良影响，造成负迁移现象。 加了计算量。 针对这个问题，对式(13)进行改造，提出避免负迁 在历史场景中，为了减少计算量，可以使用一个 移的半监督迁移聚类算法(TS-FPCM)。 “代表点”来表示一个类，而不仅仅是文献[11]中的 假设历史场景中有M个已知标签样本，将数据 聚类中心：这个点既可以是聚类中心，也可以是数据 提取放在目标数据的后面，构成新的目标数据集 中的真实样本点，将庞大的数据变为有限的几个点。 X'={xk=1,2,…,N,N+1,…,N+M},x∈R,其 为了能够有效地利用“代表点”，给定代表点集 中后M个数据为历史场景中的已知样本，根据数据 合Xr={xIi=1,2,…,C},C表示聚类个数，重新定 集提出新的目标函数为 义新的距离函数为

Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ２ ｉｋ ＋ ω∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ ｕｉｋ － ｆ ｉｋ ( ) ２ ｄ ２ ｉｋ （１３） ｓ．ｔ． α ≥ ０， β ≥ ０， ω ＞ ０， ０ ≤ ｕｉｋ， ｔ ｉｋ ≤ １ 最小化目标函数，可以得到迭代表达式： ｔ ｉｋ ＝ ∑ Ｎ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｉｊ æ è ç ö ø ÷ é ë ê ê ù û ú ú －１ ，∀ｉ，ｋ （１４） ｕｉｋ ＝ １ α ＋ ω α ＋ ω １ － ∑ Ｃ ｊ ＝ １ ｆ ( ｊｋ ) ∑ Ｃ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｊｋ ＋ ωｆ ｉｋ，∀ｉ，ｋ （１５） ｖｉ ＝ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ω ｕｉｋ － ｆ ｉｋ ( ) ２ [ ] ｘｋ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ω ｕｉｋ － ｆ ｉｋ ( ) ２ [ ] ，∀ｉ （１６） 通过不断迭代优化隶属度矩阵最终获得我们需 要的划分。 改进的半监督模糊可能性 Ｃ 均值算法 （ＳＳ⁃ＦＰＣＭ） 能够通过 α、 β 控制 ＦＰＣＭ 中 ＦＣＭ 和 ＰＣＭ 的权重，通过参数 ω 的变化控制已知标签在算 法中所占的比重。 ２．２ 历史标签数据的迁移 迁移学习可以将历史场景（也叫源数据） 中获 取需要的数据或者信息，用于指导当前场景（又成 为目标数据），当历史场景的信息与当前场景的相 关性足够大时，可以从中得到潜藏的信息。 在当历 史场景没有任何指导信的数据（无任何标签信息） 时，文献［１１⁃１２］ 针对这种情况分别做出了自己的 研究。 当源数据有少量的标签时候，可以很直观地想 到，将这些数据提取出来，加入到当前场景，一起进 行聚类，以期待能够指导当前场景。 前面提到了半 监督 ＦＰＣＭ 聚类算法能够有效利用标签进行聚类， 便可以直接引用式（１３）的目标函数。 但是，在迁移 学习中负迁移是难以避免的一个问题，如果历史场 景与当前场景相关性并不大。 那么历史数据的标签 很可能对当前场景产生不良影响，造成负迁移现象。 针对这个问题，对式（１３）进行改造，提出避免负迁 移的半监督迁移聚类算法（ＴＳＳ⁃ＦＰＣＭ）。 假设历史场景中有 Ｍ 个已知标签样本，将数据 提取放在目标数据的后面，构成新的目标数据集 Ｘ′＝ ｘｋ { ｋ ＝ １，２，…，Ｎ，Ｎ＋１，…，Ｎ＋Ｍ} ， ｘｋ ∈ Ｒ ｄ ， 其 中后 Ｍ 个数据为历史场景中的已知样本，根据数据 集提出新的目标函数为 Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ２ ｉｋ ＋ ω ∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝ Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ２ ｉｋ ＋ ∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝ Ｎ＋１ ｕｉｋ － ｆ ｉｋ ( ) ２ ｄ ２ [ ｉｋ ] ｓ．ｔ． α ≥ ０， β ≥ ０， ω ＞ ０， ０ ≤ ｕｉｋ， ｔ ｉｋ ≤ １ ∑ Ｃ ｉ ＝ １ ｕｉｋ ＝ １∀ｋ， ∑ Ｎ＋Ｍ ｋ ＝ １ ｔ ｉｋ ＝ １∀ｉ （１７） 不直接使用式（１３）的目标函数而改用式（１７） 的目标函数，当参数 ω 趋于 ０ 的时候，前者相当于 将 Ｍ 个源数据当作未知标签加入到目标领域中进 行无监督混合 Ｃ 均值聚类，而后者则等于认为这些 数据没有用处而舍弃。 可以发现前者无法控制加入 源数据后所可能造成的负迁移现象影响聚类结果， 而后者则可以有效避免该情况。 最小化目标函数可以得到： ｔ ｉｋ ＝ ∑ Ｎ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｉｊ ＋ ∑ Ｎ＋Ｍ ｊ ＝ Ｎ＋１ ｄ ２ ｉｋ ωｄ ２ ｉｊ æ è ç ö ø ÷ －１ ， ｋ ≤ Ｎ ∑ Ｎ ｊ ＝ １ ωｄ ２ ｉｋ ｄ ２ ｉｊ ＋ ∑ Ｎ＋Ｍ ｊ ＝ Ｎ＋１ ｄ ２ ｉｋ ｄ ２ ｉｊ æ è ç ö ø ÷ －１ ， Ｎ ＜ ｋ ≤ Ｎ ＋ Ｍ ì î í ï ï ï ï ïï （１８） ｕｉｋ ＝ ∑ Ｃ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｊｋ æ è ç ö ø ÷ －１ ， ｋ ≤ Ｎ １ － １ １ ＋ α∑ Ｃ ｊ ＝ １ ｆ ｊｋ ∑ Ｃ ｊ ＝ １ ｄ ２ ｉｋ ｄ ２ ｊｋ ＋ １ １ ＋ α ｆ ｉｋ， Ｎ ＜ ｋ ≤ Ｎ ＋ Ｍ ì î í ï ï ï ï ï ï ï ï （１９） ｖｉ ＝ ∑ Ｎ ｋ ＝１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｘｋ ＋ ω∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ｕｉｋ － ｆ ｉｋ ( ) ２ { } ｘｋ ∑ Ｎ ｋ ＝１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( )＋ ω∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ｕｉｋ － ｆ ｉｋ ( ) ２ { } ｘｋ ，∀ｉ （２０） ２．３ 改进的半监督迁移算法 在历史场景中，除了少量的标签信息，还有大量 的未标记数据，这些数据量远远大于已标记数据，同 样可以从中获取需要的信息来帮助当前场景。 直接 将大量未标记数据加入当前场景中进行聚类大大增 加了计算量。 在历史场景中，为了减少计算量，可以使用一个 “代表点”来表示一个类，而不仅仅是文献［１１］中的 聚类中心；这个点既可以是聚类中心，也可以是数据 中的真实样本点，将庞大的数据变为有限的几个点。 为了能够有效地利用“代表点”，给定代表点集 合 ＸＸ＾ ＝ ｛ ＾ｘｉ ｜ ｉ ＝ １，２，…，Ｃ｝，Ｃ 表示聚类个数，重新定 义新的距离函数为 ·３１２· 智 能 系 统 学 报 第 １１ 卷

第3期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·313. =川x-%2+y1x-x2+Yy-x2 V+1 为了获得其迭 (21) 式中y:和y2为权重因子，用于调节历史中心的重 代表达式，利用拉格朗日极值优化表达式，首先构造 要程度，将代表点作为有效信息迁移到当前场景中 Lagrange表达式： 来。新的目标函数如式(22)： Q=宫a+时)+ (au2+Ba)正+ 叫套三am+金2三0 i=1k=W+1 (22) 克芝，-密 三A-含)+2-宫)(2四) i=1k=N+1 式中入k与0：为Lagrange乘子。 式中：a≥0，B≥0，ω>0,0≤u,tk≤1， 令aQ/aV=0,解得： 列）+阳+m)叉1o N+M N+M 三+ k=N+l N+l I+W[E(am4+B的)+u三(a+B民+：-fW] =N-t (24) 令aQ/a入.=0，可以得到： 使用同样得方法，可以求得t的迭代表达式： 含=1 (25) V+U k≤N 令aQ/au4=0,对于0L跳到第6)，否则，跳到2)。 6)聚类中心，隶属度矩阵v和概率矩阵v法。 3 实验结果 (30) 为了验证算法的有效性，实验使用了人工数据

ｄ ?２ ｉｋ ＝ ‖ｘｋ － ｖｉ‖２ ＋ γ１ ‖ｘｋ － ｘ ＾ ｉ‖２ ＋ γ２ ‖ｖｉ － ｘ ＾ ｉ‖２ （２１） 式中 γ１ 和 γ２ 为权重因子，用于调节历史中心的重 要程度，将代表点作为有效信息迁移到当前场景中 来。 新的目标函数如式（２２）： Ｊ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ? ２ ｉｋ ＋ ω ∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝ Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ? ２ { ｉｋ ＋ ∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝ Ｎ＋１ ｕｉｋ － ｆ ｉｋ ( ) ２ ｄ ? ２ ｉｋ ] （２２） 式中： α ≥ ０， β ≥ ０， ω ＞ ０， ０ ≤ ｕｉｋ， ｔ ｉｋ ≤ １， ∑ Ｃ ｉ ＝ １ ｕｉｋ ＝ １，∀ｋ， ∑ Ｎ＋Ｍ ｋ ＝ １ ｔ ｉｋ ＝ １，∀ｉ。 为了获得其迭 代表达式，利用拉格朗日极值优化表达式，首先构造 Ｌａｇｒａｎｇｅ 表达式： Ｑ ＝ ∑ Ｃ ｉ ＝ １ ∑ Ｎ ｋ ＝ １ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ? ２ ｉｋ ＋ ω ∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｄ ? ２ [ ｉｋ ＋∑ Ｃ ｉ ＝ １ ∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ ｕｉｋ － ｆ ｉｋ ( ) ２ ｄ ? ２ ｉｋ ] ＋ ∑ Ｎ＋Ｍ ｋ ＝ １ λｋ １ － ∑ Ｃ ｉ ＝ １ ( ｕｉｋ ) ＋ ∑ Ｃ ｉ ＝ １ θｉ １ － ∑ Ｎ＋Ｍ ｋ ＝ １ ｔ ( ｉｋ ) （２３） 式中 λｋ 与 θｉ 为 Ｌａｇｒａｎｇｅ 乘子。 令∂Ｑ／ ∂Ｖｉ ＝ ０，解得： ｖｉ ＝ ∑ Ｎ ｋ ＝１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｘｋ ＋ γ２∑ Ｎ ｋ ＝１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ｘ＾ ｉ ＋ ω ∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ｕｉｋ － ｆ ｉｋ ( ) ２ ( ) ｘｋ ＋ γ２∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ｕｉｋ － ｆ ｉｋ ( ) ２ ( ) ｘ＾ [ ｉ] １ ＋ γ２ ( ) ∑ Ｎ ｋ ＝１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ( ) ＋ ω∑ Ｎ＋Ｍ ｋ ＝Ｎ＋１ αｕ ２ ｉｋ ＋ βｔ ２ ｉｋ ＋ ｕｉｋ － ｆ ｉｋ ( ) ２ [ ( ) ] （２４） 令∂Ｑ／ ∂λｋ ＝ ０，可以得到： ∑ Ｃ ｉ ＝ １ ｕｉｋ ＝ １ （２５） 令∂Ｑ／ ∂ｕｉｋ ＝ ０，对于 ０＜ｋ≤Ｎ 可以解得： ｕｉｋ ＝ λ ２αｄ ? ２ ｉｋ （２６） 将式（２６）代入式（２５），解得： λ ２α ＝ ∑ Ｃ ｉ ＝ １ １ ｄ ? ２ ｉｋ æ è çç ö ø ÷÷ －１ （２７） 再将 λ 代回式（２６），得到： ｕｉｋ ＝ ∑ Ｃ ｊ ＝ １ ｄ ? ２ ｉｋ ｄ ? ２ ｊｋ æ è ç ç ö ø ÷ ÷ －１ （２８） 同理，对于 Ｎ＜ｋ≤Ｎ＋Ｍ，可以求出： ｕｉｋ ＝ １ － １ １ ＋ α∑ Ｃ ｊ ＝ １ ｆ ｊｋ ∑ Ｃ ｊ ＝ １ ｄ ? ２ ｉｋ ｄ ? ２ ｊｋ ＋ １ １ ＋ α ｆ ｉｋ （２９） 合并式（２８）和（２９）可以得到最终表达式： ｕｉｋ ＝ ∑ Ｃ ｊ ＝ １ ｄ ? ２ ｉｋ ｄ ? ２ ｊｋ æ è ç ç ö ø ÷ ÷ －１ ， ｋ ≤ Ｎ １ － １ １ ＋ α∑ Ｃ ｊ ＝ １ ｆ ｊｋ ∑ Ｃ ｊ ＝ １ ｄ ? ２ ｉｋ ｄ ? ２ ｊｋ ＋ １ １ ＋ α ｆ ｉｋ， Ｎ ＜ ｋ ≤ Ｎ ＋ Ｍ ì î í ï ï ï ï ï ï ï ï ïï （３０） 使用同样得方法，可以求得 ｔ ｉｋ的迭代表达式： ｔ ｉｋ ＝ ∑ Ｎ ｊ ＝ １ ｄ ? ２ ｉｋ ｄ ? ２ ｉｊ ＋ ∑ Ｎ＋Ｍ ｊ ＝ Ｎ＋１ ｄ ? ２ ｉｋ ωｄ ? ２ ｉｊ æ è ç ç ö ø ÷ ÷ －１ ， ｋ ≤ Ｎ ∑ Ｎ ｊ ＝ １ ωｄ ? ２ ｉｋ ｄ ? ２ ｉｊ ＋ ∑ Ｎ＋Ｍ ｊ ＝ Ｎ＋１ ｄ ? ２ ｉｋ ｄ ? ２ ｉｊ æ è ç ç ö ø ÷ ÷ －１ ， Ｎ ＜ ｋ ≤ Ｎ ＋ Ｍ ì î í ï ï ï ï ï ï （３１） ２．４ 改进的半监督迁移算法描述 根据上一节的公式，ＩＴＳＳ⁃ＦＰＣＭ 的表述如下： 算法 １ ＩＴＳＳ⁃ＦＰＣＭ 算法 输入 前 Ｎ 个数据样本为目标数据，后 Ｍ 个为 已 知 标 签 的 历 史 数 据 的 数 据 样 本 Ｘ′ ＝ ｘｋ { ｜ ｋ ＝ １，２，…，Ｎ，Ｎ＋１，…，Ｎ＋Ｍ} ，聚类个数 Ｃ， 最 大迭代次数 Ｌ，当前迭代次数 ｌ ＝ １，源数据类代表点 Ｘ＾ ，相关参数 α、β、ω、γ１ 和 γ２ ，阈值 ε。 输出 聚类中心 ｖｉ，隶属度矩阵 ｕｉｋ 和概率矩 阵 ｔ ｉｋ。 １）初始化聚类中心 ｖｉ，根据已知标签构造矩阵 Ｆ，初始化目标函数 Ｊ （ｌ）＝ ０。 ２）根据表达式（３０）更新 ｖｉｋ。 ３）根据表达式（３１）更新 ｖｉｋ。 ４）根据表达式（２４）更新 ｖｉ。 ５）ｌ ＝ ｌ ＋ １，计算新的目标函数 Ｊ （ｌ） ，如果 Ｊ （ｌ） － Ｊ （ｌ－１） ＜ε，或者 ｌ＞Ｌ 跳到第 ６），否则，跳到 ２）。 ６）聚类中心 ｖｉ，隶属度矩阵 ｖｉｋ和概率矩阵 ｖｉｋ。 ３ 实验结果 为了验证算法的有效性，实验使用了人工数据 第 ３ 期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·３１３·

·314· 智能系统学报 第11卷 集、UCI真实数据集以及文本数据集进行相关的实 验验证。 35 在进行聚类结果评价时，选取了相关的4种聚 吃 类评价指标：正确率AC(Accuracy)u)、归一化互信 5 息NM(normalized mutual information),]、芮氏指 标RI(Rand Index),9和F-measure。4个指标 10 的值域均在0到1，值越大表示聚类质量越好。 实验中选取了LSSMTCU、Co-Clustering) 5 FPCM、TSC)]、T-GIP-FCM四算法进行对比实实 验：评价结果将进行10次计算取平均值。 -10 510 152025 3.1人工数据集 为了模拟源场景和当前目标场景，实验使用文 (a)数据集Setl 献[11]的方法：首先利用高斯函数生成相关的数据 40 集，随机生成类别数为3，每类250个样本点，每个 样本点为两微的源场景数据，如图1所示。 30 50 20 40 ·器 10 30 0 -10 -10 -5051015202530 0 24 0 (b)数据集Set2 class-1 .class-2 图2目标数据集 -10 *class-3 Fig.2 Target dataset -10-505 1015202530 k 两个数据集分别模拟当前的数据样本信息匮乏 (数据不足)、充足（数据足够）但是受污染（有噪 图1源数据 声)的不同情况下进行聚类。 Fig.1 Source Dataset 实验时，SS-FPCM,TSS-FPCM,ITSS-FPCM算法 如图2所示，同样利用高斯分布函数产生当前 需要已知部分源标签，随机从源数据中抽取3%的 数据集Set1和Set2两个数据集：其中Setl每类样 样本作为已知标签数据进行实验，实验结果如表1 本数目为20，如图2(a)所示：Set2每类样本数目为 所示，表格中“一”表示该数据集不满足算法运行的 100,再向其中加入高斯噪声构成，如图2(b)所示。 基本条件。 表18个算法在人工数据集的对比 Tablel Comparison of 8 algorithms on artificial data sets 算法 数据集 评价指标 LSSMTC Co-Clustering FPCM TSC T-GIFP-FCM SS-FPCM TSS-FPCM ITSS-FPCM F-measure 0.8981 0.8837 0.8658 0.8956 0.9017 0.9017 0.9159 RI 0.8729 0.8593 0.8435 0.8627 0.8842 0.8842 0.8955 Setl AC 0.9000 0.8833 0.8667 一 0.8933 0.9000 0.9000 0.9167 NMI 0.7067 0.7434 0.6561 一 0.7364 0.7322 0.7322 0.7698 F-measure 0.8771 0.9117 0.9010 一 0.9184 0.9107 0.9124 0.9538 RI 0.8615 0.8698 0.8847 0.8967 0.8920 0.8920 0.9410 Set2 AC 0.8467 0.9010 0.9000 0.9200 0.9100 0.9133 0.9542 NMI 0.7187 0.7705 0.7616 0.8016 0.7810 0.7880 0.8444

集、ＵＣＩ 真实数据集以及文本数据集进行相关的实 验验证。 在进行聚类结果评价时，选取了相关的 ４ 种聚 类评价指标：正确率 ＡＣ（Ａｃｃｕｒａｃｙ） ［１８］ 、归一化互信 息 ＮＭＩ（ｎｏｒｍａｌｉｚｅｄ ｍｕｔｕａｌ ｉｎｆｏｒｍａｔｉｏｎ） ［１１，１８］ 、芮氏指 标 ＲＩ（Ｒａｎｄ Ｉｎｄｅｘ） ［１１，１９］ 和 Ｆ⁃ｍｅａｓｕｒｅ ［１９］ 。 ４ 个指标 的值域均在 ０ 到 １，值越大表示聚类质量越好。 实验 中 选 取 了 ＬＳＳＭＴＣ ［１８］ 、 Ｃｏ⁃Ｃｌｕｓｔｅｒｉｎｇ ［２０］ 、 ＦＰＣＭ、ＴＳＣ ［１２］ 、Ｔ⁃ＧＩＦＰ⁃ＦＣＭ ［１１］ 算法进行对比实实 验；评价结果将进行 １０ 次计算取平均值。 ３．１ 人工数据集 为了模拟源场景和当前目标场景，实验使用文 献［１１］的方法：首先利用高斯函数生成相关的数据 集，随机生成类别数为 ３，每类 ２５０ 个样本点，每个 样本点为两微的源场景数据，如图 １ 所示。 图 １ 源数据 Ｆｉｇ．１ Ｓｏｕｒｃｅ Ｄａｔａｓｅｔ 如图 ２ 所示，同样利用高斯分布函数产生当前 数据集 Ｓｅｔ１ 和 Ｓｅｔ２ 两个数据集；其中 Ｓｅｔ１ 每类样 本数目为 ２０，如图 ２（ａ）所示；Ｓｅｔ２ 每类样本数目为 １００，再向其中加入高斯噪声构成，如图 ２（ｂ）所示。 （ａ）数据集 Ｓｅｔ１ （ｂ）数据集 Ｓｅｔ２ 图 ２ 目标数据集 Ｆｉｇ．２ Ｔａｒｇｅｔ ｄａｔａｓｅｔ 两个数据集分别模拟当前的数据样本信息匮乏 （数据不足）、充足（数据足够） 但是受污染（有噪 声）的不同情况下进行聚类。 实验时，ＳＳ⁃ＦＰＣＭ，ＴＳＳ⁃ＦＰＣＭ，ＩＴＳＳ⁃ＦＰＣＭ 算法 需要已知部分源标签，随机从源数据中抽取 ３％的 样本作为已知标签数据进行实验，实验结果如表 １ 所示，表格中“—”表示该数据集不满足算法运行的 基本条件。 表 １ ８ 个算法在人工数据集的对比 Ｔａｂｌｅ１ Ｃｏｍｐａｒｉｓｏｎ ｏｆ ８ ａｌｇｏｒｉｔｈｍｓ ｏｎ ａｒｔｉｆｉｃｉａｌ ｄａｔａ ｓｅｔｓ 数据集 评价指标 算法 ＬＳＳＭＴＣ Ｃｏ⁃Ｃｌｕｓｔｅｒｉｎｇ ＦＰＣＭ ＴＳＣ Ｔ⁃ＧＩＦＰ⁃ＦＣＭ ＳＳ⁃ＦＰＣＭ ＴＳＳ⁃ＦＰＣＭ ＩＴＳＳ⁃ＦＰＣＭ Ｓｅｔ１ Ｆ⁃ｍｅａｓｕｒｅ ０．８９８ １ ０．８８３ ７ ０．８６５ ８ — ０．８９５ ６ ０．９０１ ７ ０．９０１ ７ ０．９１５ ９ ＲＩ ０．８７２ ９ ０．８５９ ３ ０．８４３ ５ — ０．８６２ ７ ０．８８４ ２ ０．８８４ ２ ０．８９５ ５ ＡＣ ０．９００ ０ ０．８８３ ３ ０．８６６ ７ — ０．８９３ ３ ０．９００ ０ ０．９００ ０ ０．９１６ ７ ＮＭＩ ０．７０６ ７ ０．７４３ ４ ０．６５６ １ — ０．７３６ ４ ０．７３２ ２ ０．７３２ ２ ０．７６９ ８ Ｓｅｔ２ Ｆ⁃ｍｅａｓｕｒｅ ０．８７７ １ ０．９１１ ７ ０．９０１ ０ — ０．９１８ ４ ０．９１０ ７ ０．９１２ ４ ０．９５３ ８ ＲＩ ０．８６１ ５ ０．８６９ ８ ０．８８４ ７ — ０．８９６ ７ ０．８９２ ０ ０．８９２ ０ ０．９４１ ０ ＡＣ ０．８４６ ７ ０．９０１ ０ ０．９００ ０ — ０．９２０ ０ ０．９１０ ０ ０．９１３ ３ ０．９５４ ２ ＮＭＩ ０．７１８ ７ ０．７７０ ５ ０．７６１ ６ — ０．８０１ ６ ０．７８１ ０ ０．７８８ ０ ０．８４４ ４ ·３１４· 智 能 系 统 学 报 第 １１ 卷

第3期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·315. 从表1可以看出： 3.3文本真实数据集 1)在St1数据集中样本量很少，少量的源标签 20NG(20 Newsgroups)【21是一个真实的新闻文 数据样本和其他信息都能够对目标数据产生正向的 本数据集，数据集收集了大约2万条新闻组，均匀地 推动作用，从而达到较好的结果，SS-FPCM与TSS- 分布到20个不同的集合中，20个小集合又可以分 FPCM的结果验证了这一点；T-GITP-FCM算法也可 为4个大的类别，该数据集在大量迁移学习分类算 以得到很好的结果； 法中被使用。 2)在有噪声的数据集St2上，少量的标签不足 TDT2[2](NIST话题检测与跟踪的语料库)共收 以取得令人满意的效果，仍需要源数据的其他帮助， 集1998年上半年6个来源的数据，包含2个通讯社 SS-FPCM与TSS-FPCM算法的结果不如T-GIFP (APW,NYT),2个电台节目(VOA,PRI)和2个电 FCM算法：说明SS-FPCM与TSS-FPCM算法在抗干 视节目(CNN,ABC),共1万多个样本数据。 扰方面存在不足： Reuters-215782)语料库包含21578个文件，放 3)改进后的ITSS-FPCM算法则在Set1和Set2 在135个文件夹下。 上均取得了良好的聚类效果。说明当在数据信息不 实验时分别对3个文本数据集抽取其中一部分 足，数据样本有限，数据受污染的时候，在有大量历 类别，利用工具进行降维处理后构成新的数据集样 史数据的帮助下迁移算法可以取得不错的效果，改 本，数据具体构成如表3所示。 进的TSS-FPCM算法在抗噪声和干扰方面优于其 表3数据集构成情况 他算法。 Table3 Composition of data sets 3.2UCI真实数据集 数据来源 数据类型 样本数 维数 类别 UCI中的Image Segment Data Set是一个图片数 据集，它由7个室外图像数据库中随机抽取，组成7 源数据 1200 400 个不同的类别，共2100个样本数据，其中每个类别 comp vs sci(20NG) 含有300个样本点。实验从数据中抽取70%的数据 目标数据 400 400 作为源数据，剩下的构成目标数据进行实验，数据构 成如表2。 源数据 1200 40 表2 Image Segment数据集构成情况 rec vs talk(20NG) Table2 Composition of image segment data sets 目标数据 400 400 数据类型 样本数 维数 类别 源数据 1800 40 源数据 1470 19 7 TDT2 目标数据 630 19 目标数据 600 40 算法在数据集的聚类结果如图3所示，从图中 可以发现本文所提出的ITSS-FPCM算法在4个指 源数据 800 400 标均取得了不错的结果，在准确率与NMI指标上有 Reuters-21578 相对较大的优势，进一步验证了算法得有效性。 目标数据 400 400 ▣LSSMT℃ 聚类的结果如表4所示，结果中可以看到： Co-Clustering ▣PCM 1)利用迁移学习的TSC、T-GIFP-FCM、TSS TSC 1.0 T-GIFP-FCM FCM、TSS-FCM算法在效果上均优于非迁移学习型 SS-FPCM ■TSS-FPCM 算法，表明迁移学习能够有效地提升聚类的性能； ITSS-FPCM 2)仅对源数据少量标签数据直接使用的SS 0.6 FPCM算法和TSS-FPCM算法对当前场景的作用有 0.4 限，不及能够利用更多信息的TSC迁移聚类和T GIFP-FCM算法，但还是能够有效地提高聚类性能； 0.2 3)本论文的TSS-FPCM算法在大部分指标都 0 优于其他算法，但是当源数据与目标数据相关性不 F-measure RI NMI 指标 大时，基于标签与代表点的直接迁移对当前场景帮 图38个算法在Image Segment数据集上的对比 助有限，不及ST℃算法的聚类效果，存在着局限性 Fig.3 Comparison of 8 algorithms on image segment data set 和适用范围的问题

从表 １ 可以看出： １）在 Ｓｅｔ１ 数据集中样本量很少，少量的源标签 数据样本和其他信息都能够对目标数据产生正向的 推动作用，从而达到较好的结果，ＳＳ⁃ＦＰＣＭ 与 ＴＳＳ⁃ ＦＰＣＭ 的结果验证了这一点；Ｔ⁃ＧＩＴＰ⁃ＦＣＭ 算法也可 以得到很好的结果； ２）在有噪声的数据集 Ｓｅｔ２ 上，少量的标签不足 以取得令人满意的效果，仍需要源数据的其他帮助， ＳＳ⁃ＦＰＣＭ 与 ＴＳＳ⁃ＦＰＣＭ 算法的结果不如 Ｔ⁃ＧＩＦＰ⁃ ＦＣＭ 算法；说明 ＳＳ⁃ＦＰＣＭ 与 ＴＳＳ⁃ＦＰＣＭ 算法在抗干 扰方面存在不足； ３）改进后的 ＩＴＳＳ⁃ＦＰＣＭ 算法则在 Ｓｅｔ１ 和 Ｓｅｔ２ 上均取得了良好的聚类效果。 说明当在数据信息不 足，数据样本有限，数据受污染的时候，在有大量历 史数据的帮助下迁移算法可以取得不错的效果，改 进的 ＩＴＳＳ⁃ＦＰＣＭ 算法在抗噪声和干扰方面优于其 他算法。 ３．２ ＵＣＩ 真实数据集 ＵＣＩ 中的 Ｉｍａｇｅ Ｓｅｇｍｅｎｔ Ｄａｔａ Ｓｅｔ 是一个图片数 据集，它由 ７ 个室外图像数据库中随机抽取，组成 ７ 个不同的类别，共 ２ １００ 个样本数据，其中每个类别 含有 ３００ 个样本点。 实验从数据中抽取 ７０％的数据 作为源数据，剩下的构成目标数据进行实验，数据构 成如表 ２。 表 ２ Ｉｍａｇｅ Ｓｅｇｍｅｎｔ 数据集构成情况 Ｔａｂｌｅ２ Ｃｏｍｐｏｓｉｔｉｏｎ ｏｆ ｉｍａｇｅ ｓｅｇｍｅｎｔ ｄａｔａ ｓｅｔｓ 数据类型 样本数 维数 类别 源数据 １ ４７０ １９ ７ 目标数据 ６３０ １９ ７ 算法在数据集的聚类结果如图 ３ 所示，从图中 可以发现本文所提出的 ＩＴＳＳ⁃ＦＰＣＭ 算法在 ４ 个指 标均取得了不错的结果，在准确率与 ＮＭＩ 指标上有 相对较大的优势，进一步验证了算法得有效性。 图 ３ ８ 个算法在 Ｉｍａｇｅ Ｓｅｇｍｅｎｔ 数据集上的对比 Ｆｉｇ．３ Ｃｏｍｐａｒｉｓｏｎ ｏｆ ８ ａｌｇｏｒｉｔｈｍｓ ｏｎ ｉｍａｇｅ ｓｅｇｍｅｎｔ ｄａｔａ ｓｅｔ ３．３ 文本真实数据集 ２０ＮＧ（２０Ｎｅｗｓｇｒｏｕｐｓ） ［１２］ 是一个真实的新闻文 本数据集，数据集收集了大约 ２ 万条新闻组，均匀地 分布到 ２０ 个不同的集合中，２０ 个小集合又可以分 为 ４ 个大的类别，该数据集在大量迁移学习分类算 法中被使用。 ＴＤＴ２ ［２１］ （ＮＩＳＴ 话题检测与跟踪的语料库）共收 集 １９９８ 年上半年 ６ 个来源的数据，包含 ２ 个通讯社 （ＡＰＷ，ＮＹＴ），２ 个电台节目（ＶＯＡ，ＰＲＩ） 和 ２ 个电 视节目（ＣＮＮ，ＡＢＣ），共 １ 万多个样本数据。 Ｒｅｕｔｅｒｓ⁃２１５７８ ［２１］语料库包含 ２１ ５７８ 个文件，放 在 １３５ 个文件夹下。 实验时分别对 ３ 个文本数据集抽取其中一部分 类别，利用工具进行降维处理后构成新的数据集样 本，数据具体构成如表 ３ 所示。 表 ３ 数据集构成情况 Ｔａｂｌｅ３ Ｃｏｍｐｏｓｉｔｉｏｎ ｏｆ ｄａｔａ ｓｅｔｓ 数据来源 数据类型 样本数 维数 类别 ｃｏｍｐ ｖｓ ｓｃｉ（２０ＮＧ） 源数据 １ ２００ ４００ ２ 目标数据 ４００ ４００ ２ ｒｅｃ ｖｓ ｔａｌｋ（２０ＮＧ） 源数据 １ ２００ ４００ ２ 目标数据 ４００ ４００ ２ ＴＤＴ２ 源数据 １ ８００ ４００ ６ 目标数据 ６００ ４００ ６ Ｒｅｕｔｅｒｓ⁃２１５７８ 源数据 ８００ ４００ ４ 目标数据 ４００ ４００ ４ 聚类的结果如表 ４ 所示，结果中可以看到： １） 利用迁移学习的 ＴＳＣ、 Ｔ⁃ＧＩＦＰ⁃ＦＣＭ、 ＴＳＳ⁃ ＦＣＭ、ＩＴＳＳ⁃ＦＣＭ 算法在效果上均优于非迁移学习型 算法，表明迁移学习能够有效地提升聚类的性能； ２）仅对源数据少量标签数据直接使用的 ＳＳ⁃ ＦＰＣＭ 算法和 ＴＳＳ⁃ＦＰＣＭ 算法对当前场景的作用有 限，不及能够利用更多信息的 ＴＳＣ 迁移聚类和 Ｔ⁃ ＧＩＦＰ⁃ＦＣＭ 算法，但还是能够有效地提高聚类性能； ３） 本论文的 ＩＴＳＳ⁃ＦＰＣＭ 算法在大部分指标都 优于其他算法，但是当源数据与目标数据相关性不 大时，基于标签与代表点的直接迁移对当前场景帮 助有限，不及 ＳＴＣ 算法的聚类效果，存在着局限性 和适用范围的问题。 第 ３ 期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·３１５·

.316. 智能系统学报 第11卷 表48个算法在人工数据集的对比 Table4 Comparison of 8 algorithms on artificial data sets 算法 数据集 评价指标 LSSMTC Co-Clustering FPCM TSC T-GIFP-FCM SS-FPCM TSS-FPCM ITSS-FPCM F-measure 0.6834 0.6648 0.63310.7688 0.6956 0.6984 0.7187 0.7336 RI 0.5585 0.5550 0.52410.6450 0.5770 0.5750 0.5958 0.6095 sciSet1 AC 0.8165 0.6675 0.75000.7700 0.6975 0.6950 0.7200 0.7350 NMI 0.1341 0.1021 0.11890.2923 0.1483 0.1098 0.1342 0.1564 F-measure 0.6867 0.6394 0.69800.8827 0.8907 0.8311 0.8469 0.9158 RI 0.5803 0.5395 0.57690.7921 0.8037 0.7204 0.7409 0.8440 rec vs talk AC 0.7053 0.6425 0.6975 0.8825 0.8900 0.8325 0.8475 0.9150 NMI 0.1769 0.0871 0.09930.4637 0.4873 0.3492 0.3750 0.5748 F-measure 0.6427 0.6139 0.47870.8554 0.8897 0.8214 0.8253 0.8858 RI 0.7828 0.7473 0.6825 0.9070 0.9299 0.8845 0.8884 0.9300 TDT2 AC 0.6983 0.7133 0.60830.8633 0.8967 0.8333 0.8350 0.8883 NMI 0.5426 0.5750 0.39800.7535 0.8093 0.7199 0.7217 0.8298 F-measure 0.7101 0.6840 0.6361 0.8247 0.8533 0.8121 0.8178 0.8608 RI 0.8125 0.7153 0.66200.8419 0.8658 0.8323 0.8376 0.8709 Reuters-21578 AC 0.8200 0.7275 0.71910.8300 0.8550 0.8150 0.8200 0.8650 NMI 0.5662 0.5052 0.44850.6590 0.6430 0.6162 0.62420.7076 4 结束语 mathematics and information sciences,2014,8(4):2033- 2040 本文将半监督学习思想应用到FPCM算法上， [3]DAI Wenyuan,XUE Guirong,YANG Qiang,et al.Co- 提出半监督SS-FPCM算法：迁移学习方面对算法进 clustering based classification for out-of-domain documents 行非负迁移改进，得到TSS-FPCM算法，再利用“代 [C]//Proceedings of the 13th ACM SIGKDD Tinternational Conference on Knowledge Discovery and Data Mining.San 表点”代替原始数据提出了改进的半监督的迁移聚 Jose,California,USA,2007:210-219. 类算法TSS-FPCM。在多种数据集上的实验验证表 [4]DAI Wenyuan,YANG Qiang,XUE Guirong,et al.Self- 明，TSS-FPCM算法在性能上要好于SS-FPCM算法 taught clustering[C]//Proceedings of the 25th International 与TSS-FPCM算法。在数据量不足、数据被污染的 Conference on Machine Learning.Helsinki,Finland,, 情况下，TSS-FPCM算法能够提升聚类的性能：算法 2008:200-207. 在源数据与目标数据相关不大时效果一般，下一步 [5]SAMANTA S,SELVAN A T,DAS S.Cross-domain cluste- 研究将会提取其他相关信息改善聚类性能，同时考 ring performed by transfer of knowledge across domains 虑参数的优化问题。 [C]//Proceedings of the 4th National Conference on Pat- tern Recognition,Image Processing and Graphics 参考文献： (NCVPRIPG).Jodhpur,India,2013:1-4. [6]DAI Wenyuan,XUE Guirong,YANG Qiang,et al.Trans- [1]庄福振，罗平，何清，等.迁移学习研究进展[J].软件 ferring naive Bayes classifiers for text classification[C]/ 学报，2015,26(1)：26-39. Proceedings of the 22nd National Conference on Artificial ZHUANG Fuzhen,LUO Ping,HE Qing,et al.Survey on Intelligence.Vancourver,British Columbia,Canada,2007, transfer learning research[]].Journal of software,2015,26 1:540-545. (1):26-39. [7]LIAO Xuejun,XUE Ya,CARIN L.Logistic regression with [2]WEI Fengmei,ZHANG Jianpei,CHU Yan,et al.FSFP: an auxiliary data source[C]//Proceedings of the 22nd In- transfer learning from long texts to the short[J].Applied ternational Conference on Machine Leaming.New York

表 ４ ８ 个算法在人工数据集的对比 Ｔａｂｌｅ４ Ｃｏｍｐａｒｉｓｏｎ ｏｆ ８ ａｌｇｏｒｉｔｈｍｓ ｏｎ ａｒｔｉｆｉｃｉａｌ ｄａｔａ ｓｅｔｓ 数据集 评价指标 算法 ＬＳＳＭＴＣ Ｃｏ⁃Ｃｌｕｓｔｅｒｉｎｇ ＦＰＣＭ ＴＳＣ Ｔ⁃ＧＩＦＰ⁃ＦＣＭ ＳＳ⁃ＦＰＣＭ ＴＳＳ⁃ＦＰＣＭ ＩＴＳＳ⁃ＦＰＣＭ ｓｃｉＳｅｔ１ Ｆ⁃ｍｅａｓｕｒｅ ０．６８３ ４ ０．６６４ ８ ０．６３３ １ ０．７６８ ８ ０．６９５ ６ ０．６９８ ４ ０．７１８ ７ ０．７３３ ６ ＲＩ ０．５５８ ５ ０．５５５ ０ ０．５２４ １ ０．６４５ ０ ０．５７７ ０ ０．５７５ ０ ０．５９５ ８ ０．６０９ ５ ＡＣ ０．８１６ ５ ０．６６７ ５ ０．７５０ ０ ０．７７０ ０ ０．６９７ ５ ０．６９５ ０ ０．７２０ ０ ０．７３５ ０ ＮＭＩ ０．１３４ １ ０．１０２ １ ０．１１８ ９ ０．２９２ ３ ０．１４８ ３ ０．１０９ ８ ０．１３４ ２ ０．１５６ ４ ｒｅｃ ｖｓ ｔａｌｋ Ｆ⁃ｍｅａｓｕｒｅ ０．６８６ ７ ０．６３９ ４ ０．６９８ ０ ０．８８２ ７ ０．８９０ ７ ０．８３１ １ ０．８４６ ９ ０．９１５ ８ ＲＩ ０．５８０ ３ ０．５３９ ５ ０．５７６ ９ ０．７９２ １ ０．８０３ ７ ０．７２０ ４ ０．７４０ ９ ０．８４４ ０ ＡＣ ０．７０５ ３ ０．６４２ ５ ０．６９７ ５ ０．８８２ ５ ０．８９０ ０ ０．８３２ ５ ０．８４７ ５ ０．９１５ ０ ＮＭＩ ０．１７６ ９ ０．０８７ １ ０．０９９３ ０．４６３ ７ ０．４８７ ３ ０．３４９ ２ ０．３７５ ０ ０．５７４ ８ ＴＤＴ２ Ｆ⁃ｍｅａｓｕｒｅ ０．６４２７ ０．６１３ ９ ０．４７８ ７ ０．８５５ ４ ０．８８９７ ０．８２１ ４ ０．８２５ ３ ０．８８５ ８ ＲＩ ０．７８２ ８ ０．７４７ ３ ０．６８２ ５ ０．９０７ ０ ０．９２９９ ０．８８４ ５ ０．８８８ ４ ０．９３０ ０ ＡＣ ０．６９８ ３ ０．７１３ ３ ０．６０８ ３ ０．８６３ ３ ０．８９６７ ０．８３３ ３ ０．８３５ ０ ０．８８８ ３ ＮＭＩ ０．５４２ ６ ０．５７５ ０ ０．３９８ ０ ０．７５３ ５ ０．８０９３ ０．７１９ ９ ０．７２１ ７ ０．８２９ ８ Ｒｅｕｔｅｒｓ⁃２１５７８ Ｆ⁃ｍｅａｓｕｒｅ ０．７１０ １ ０．６８４ ０ ０．６３６１ ０．８２４ ７ ０．８５３３ ０．８１２ １ ０．８１７ ８ ０．８６０ ８ ＲＩ ０．８１２ ５ ０．７１５ ３ ０．６６２０ ０．８４１ ９ ０．８６５８ ０．８３２ ３ ０．８３７ ６ ０．８７０ ９ ＡＣ ０．８２０ ０ ０．７２７ ５ ０．７１９ １ ０．８３０ ０ ０．８５５０ ０．８１５ ０ ０．８２０ ０ ０．８６５ ０ ＮＭＩ ０．５６６ ２ ０．５０５ ２ ０．４４８ ５ ０．６５９ ０ ０．６４３０ ０．６１６ ２ ０．６２４ ２ ０．７０７ ６ ４ 结束语 本文将半监督学习思想应用到 ＦＰＣＭ 算法上， 提出半监督 ＳＳ⁃ＦＰＣＭ 算法；迁移学习方面对算法进 行非负迁移改进，得到 ＴＳＳ⁃ＦＰＣＭ 算法，再利用“代 表点”代替原始数据提出了改进的半监督的迁移聚 类算法 ＩＴＳＳ⁃ＦＰＣＭ。 在多种数据集上的实验验证表 明，ＩＴＳＳ⁃ＦＰＣＭ 算法在性能上要好于 ＳＳ⁃ＦＰＣＭ 算法 与 ＴＳＳ⁃ＦＰＣＭ 算法。 在数据量不足、数据被污染的 情况下，ＩＴＳＳ⁃ＦＰＣＭ 算法能够提升聚类的性能；算法 在源数据与目标数据相关不大时效果一般，下一步 研究将会提取其他相关信息改善聚类性能，同时考 虑参数的优化问题。 参考文献： ［１］庄福振， 罗平， 何清， 等． 迁移学习研究进展［ Ｊ］． 软件 学报， ２０１５， ２６（１）： ２６⁃３９． ＺＨＵＡＮＧ Ｆｕｚｈｅｎ， ＬＵＯ Ｐｉｎｇ， ＨＥ Ｑｉｎｇ， ｅｔ ａｌ． Ｓｕｒｖｅｙ ｏｎ ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｒｅｓｅａｒｃｈ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｓｏｆｔｗａｒｅ， ２０１５， ２６ （１）： ２６⁃３９． ［２］ ＷＥＩ Ｆｅｎｇｍｅｉ， ＺＨＡＮＧ Ｊｉａｎｐｅｉ， ＣＨＵ Ｙａｎ， ｅｔ ａｌ． ＦＳＦＰ： ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｆｒｏｍ ｌｏｎｇ ｔｅｘｔｓ ｔｏ ｔｈｅ ｓｈｏｒｔ ［ Ｊ］． Ａｐｐｌｉｅｄ ｍａｔｈｅｍａｔｉｃｓ ａｎｄ ｉｎｆｏｒｍａｔｉｏｎ ｓｃｉｅｎｃｅｓ， ２０１４， ８（４）： ２０３３⁃ ２０４０． ［３］ ＤＡＩ Ｗｅｎｙｕａｎ， ＸＵＥ Ｇｕｉｒｏｎｇ， ＹＡＮＧ Ｑｉａｎｇ， ｅｔ ａｌ． Ｃｏ⁃ ｃｌｕｓｔｅｒｉｎｇ ｂａｓｅｄ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｆｏｒ ｏｕｔ⁃ｏｆ⁃ｄｏｍａｉｎ ｄｏｃｕｍｅｎｔｓ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １３ｔｈ ＡＣＭ ＳＩＧＫＤＤ Ｔｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｋｎｏｗｌｅｄｇｅ Ｄｉｓｃｏｖｅｒｙ ａｎｄ Ｄａｔａ Ｍｉｎｉｎｇ． Ｓａｎ Ｊｏｓｅ， Ｃａｌｉｆｏｒｎｉａ， ＵＳＡ， ２００７： ２１０⁃２１９． ［４］ ＤＡＩ Ｗｅｎｙｕａｎ， ＹＡＮＧ Ｑｉａｎｇ， ＸＵＥ Ｇｕｉｒｏｎｇ， ｅｔ ａｌ． Ｓｅｌｆ⁃ ｔａｕｇｈｔ ｃｌｕｓｔｅｒｉｎｇ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２５ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ． Ｈｅｌｓｉｎｋｉ， Ｆｉｎｌａｎｄ，， ２００８： ２００⁃２０７． ［５］ＳＡＭＡＮＴＡ Ｓ， ＳＥＬＶＡＮ Ａ Ｔ， ＤＡＳ Ｓ． Ｃｒｏｓｓ⁃ｄｏｍａｉｎ ｃｌｕｓｔｅ⁃ ｒｉｎｇ ｐｅｒｆｏｒｍｅｄ ｂｙ ｔｒａｎｓｆｅｒ ｏｆ ｋｎｏｗｌｅｄｇｅ ａｃｒｏｓｓ ｄｏｍａｉｎｓ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ４ｔｈ Ｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｐａｔ⁃ ｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ， Ｉｍａｇｅ Ｐｒｏｃｅｓｓｉｎｇ ａｎｄ Ｇｒａｐｈｉｃｓ （ＮＣＶＰＲＩＰＧ）． Ｊｏｄｈｐｕｒ， Ｉｎｄｉａ， ２０１３： １⁃４． ［６］ＤＡＩ Ｗｅｎｙｕａｎ， ＸＵＥ Ｇｕｉｒｏｎｇ， ＹＡＮＧ Ｑｉａｎｇ， ｅｔ ａｌ． Ｔｒａｎｓ⁃ ｆｅｒｒｉｎｇ ｎａｉｖｅ Ｂａｙｅｓ ｃｌａｓｓｉｆｉｅｒｓ ｆｏｒ ｔｅｘｔ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２２ｎｄ Ｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ． Ｖａｎｃｏｕｒｖｅｒ， Ｂｒｉｔｉｓｈ Ｃｏｌｕｍｂｉａ， Ｃａｎａｄａ， ２００７， １： ５４０⁃５４５． ［７］ＬＩＡＯ Ｘｕｅｊｕｎ， ＸＵＥ Ｙａ， ＣＡＲＩＮ Ｌ． Ｌｏｇｉｓｔｉｃ ｒｅｇｒｅｓｓｉｏｎ ｗｉｔｈ ａｎ ａｕｘｉｌｉａｒｙ ｄａｔａ ｓｏｕｒｃｅ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２２ｎｄ Ｉｎ⁃ ｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ． Ｎｅｗ Ｙｏｒｋ， ·３１６· 智 能 系 统 学 报 第 １１ 卷

第3期 王跃，等：一种基于少量标签的改进迁移模糊聚类 .317. NY,USA,2005:505-512 17]PEDRYCZ W.Algorithms of fuzzy clustering with partial [8]DAI Wenyuan,YANG Qiang,XUE Guirong,et al.Boos- supervision[J].Pattern recognition letters,1985,3(1): ting for transfer learning[C]//Proceedings of the 24th In- 13-20. ternational Conference on Machine Learning.Corvallis,Ore- [18]GU Quanquan,ZHOU Jie.Learning the shared subspace g0n,USA,2007:193-200. for multi-task clustering and transductive transfer classif- [9]LUO Ping,ZHUANG Fuzhen,XIONG Hui,et al.Transfer cation[C]//Proceedings of the 2009 9th IEEE internation- learning from multiple source domains via consensus regular- al conference on data mining.Miami,Florida,USA, ization[C]//Proceedings of the 17th ACM Conference on 2009:159-168. Information and Knowledge Management.Napa Valley,Cali- [19]杨燕，靳蕃，KAME M.聚类有效性评价综述[J].计算 fornia,USA,2008:103-112. 机应用研究，2008,25(6)：1630-1632,1638. [10]DUAN Lixin,TSANG I W,XU Dong,et al.Domain adap- YANG Yan,JIN Fan,KAME M.Survey of clustering va- tation from multiple sources via auxiliary classifiers[C]/ lidity evaluation[J].Application research of computers, Proceedings of the 26th Annual International Conference on 2008,25(6):1630-1632,1638. Machine Learning.Montreal,Canada,,2009:289-296. [20 GU Quanquan,ZHOU Jie.Co-clustering on manifolds [11]蒋亦樟，邓赵红，王骏，等.基于知识利用的迁移学习 [C]//Proceedings of the 15th ACM SIGKDD Internation- 一般化增强模糊划分聚类算法[].模式识别与人工智 al Conference on Knowledge Discovery and Data Mining. 能，2013,26(10)：975-984. Paris,France,2009:359-368. JIANG Yizhang,DENG Zhaohong,WANG Jun,et al. [21]CAI Deng,HE Xiaofei,HAN Jiawei.Locally consistent Transfer generalized fuzzy c-means clustering algorithm concept factorization for document clustering[J].IEEE with improved fuzzy partitions by leveraging knowledge[]. transactions on knowledge and data engineering,2011,23 Pattern recognition and artificial intelligence,2013,26 (6):902-913. (10):975-984. 作者简介： [12]JIANG Wenhao,CHUNG F L.Transfer spectral clustering 王跃，男，1990年生，硕士研究生， M]//FLACH P A,DE BIE T,CRISTIANINI N.Ma- 主要研究方向为数据挖掘、计算智能。 chine learning and knowledge discovery in databases:lec- ture notes in computer science.Berlin Heidelberg:Spring- er,2012,7524:789-803. [13]李昆仑，曹铮，曹丽苹，等.半监督聚类的若干新进展 [J].模式识别与人工智能，2009,22(5)：735-742.I Kunlun,CAO Zheng,CAO Liping,et al.Some develop- 杨燕，女，1964年生，教授，博士生 ments on semi-supervised clustering[J].Pattern recogni- 导师，主要研究方向为计算智能、数据 tion and artificial intelligence,2009,22(5):735-742. 挖掘、集成学习。主持国家自然科学基 [14]PAL N R,PAL K,BEZDEK J C.A mixed c-means clus- 金项目3项，国家科技支撑计划项目1 tering model [C]//Proceedings of the 6th IEEE Interna- 项，发表学术论文130余篇。 tional Conference on Fuzzy Systems.Barcelona,Spain, 1997,1:11-21. [15]BEZDEK J C,EHRLICH R,FULL W.FCM:The fuzzy c- 王红军，男，1977年生，副研究员，主 means clustering algorithm [J].Computers and geosci- 要研究方向为机器学习、深度学习、半监 ences,1984,10(2-3):191-203. 督学习。主持完成国家自然科学青年基 [16]KRISHNAPURAM R,KELLER J M.The possibilistic C- 金项目1项，主持国家自然科学基金项目 means algorithm:insights and recommendations[J].IEEE 2项，发表学术论文30余篇。 transactions on fuzzy systems,1996,4(3):385-393

ＮＹ， ＵＳＡ， ２００５： ５０５⁃５１２． ［８］ＤＡＩ Ｗｅｎｙｕａｎ， ＹＡＮＧ Ｑｉａｎｇ， ＸＵＥ Ｇｕｉｒｏｎｇ， ｅｔ ａｌ． Ｂｏｏｓ⁃ ｔｉｎｇ ｆｏｒ ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２４ｔｈ Ｉｎ⁃ ｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ． Ｃｏｒｖａｌｌｉｓ， Ｏｒｅ⁃ ｇｏｎ， ＵＳＡ， ２００７： １９３⁃２００． ［９］ＬＵＯ Ｐｉｎｇ， ＺＨＵＡＮＧ Ｆｕｚｈｅｎ， ＸＩＯＮＧ Ｈｕｉ， ｅｔ ａｌ． Ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｆｒｏｍ ｍｕｌｔｉｐｌｅ ｓｏｕｒｃｅ ｄｏｍａｉｎｓ ｖｉａ ｃｏｎｓｅｎｓｕｓ ｒｅｇｕｌａｒ⁃ ｉｚａｔｉｏｎ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １７ｔｈ ＡＣＭ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｋｎｏｗｌｅｄｇｅ Ｍａｎａｇｅｍｅｎｔ． Ｎａｐａ Ｖａｌｌｅｙ， Ｃａｌｉ⁃ ｆｏｒｎｉａ， ＵＳＡ， ２００８： １０３⁃１１２． ［ １０］ＤＵＡＮ Ｌｉｘｉｎ， ＴＳＡＮＧ Ｉ Ｗ， ＸＵ Ｄｏｎｇ， ｅｔ ａｌ． Ｄｏｍａｉｎ ａｄａｐ⁃ ｔａｔｉｏｎ ｆｒｏｍ ｍｕｌｔｉｐｌｅ ｓｏｕｒｃｅｓ ｖｉａ ａｕｘｉｌｉａｒｙ ｃｌａｓｓｉｆｉｅｒｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２６ｔｈ Ａｎｎｕａｌ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ． Ｍｏｎｔｒｅａｌ， Ｃａｎａｄａ，， ２００９： ２８９⁃２９６． ［１１］蒋亦樟， 邓赵红， 王骏， 等． 基于知识利用的迁移学习 一般化增强模糊划分聚类算法［Ｊ］． 模式识别与人工智 能， ２０１３， ２６（１０）： ９７５⁃９８４． ＪＩＡＮＧ Ｙｉｚｈａｎｇ， ＤＥＮＧ Ｚｈａｏｈｏｎｇ， ＷＡＮＧ Ｊｕｎ， ｅｔ ａｌ． Ｔｒａｎｓｆｅｒ ｇｅｎｅｒａｌｉｚｅｄ ｆｕｚｚｙ ｃ⁃ｍｅａｎｓ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ ｗｉｔｈ ｉｍｐｒｏｖｅｄ ｆｕｚｚｙ ｐａｒｔｉｔｉｏｎｓ ｂｙ ｌｅｖｅｒａｇｉｎｇ ｋｎｏｗｌｅｄｇｅ［Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ ａｎｄ ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ， ２０１３， ２６ （１０）： ９７５⁃９８４． ［１２］ＪＩＡＮＧ Ｗｅｎｈａｏ， ＣＨＵＮＧ Ｆ Ｌ． Ｔｒａｎｓｆｅｒ ｓｐｅｃｔｒａｌ ｃｌｕｓｔｅｒｉｎｇ ［Ｍ］ ／ ／ ＦＬＡＣＨ Ｐ Ａ， ＤＥ ＢＩＥ Ｔ， ＣＲＩＳＴＩＡＮＩＮＩ Ｎ． Ｍａ⁃ ｃｈｉｎｅ ｌｅａｒｎｉｎｇ ａｎｄ ｋｎｏｗｌｅｄｇｅ ｄｉｓｃｏｖｅｒｙ ｉｎ ｄａｔａｂａｓｅｓ： ｌｅｃ⁃ ｔｕｒｅ ｎｏｔｅｓ ｉｎ ｃｏｍｐｕｔｅｒ ｓｃｉｅｎｃｅ． Ｂｅｒｌｉｎ Ｈｅｉｄｅｌｂｅｒｇ： Ｓｐｒｉｎｇ⁃ ｅｒ， ２０１２， ７５２４： ７８９⁃８０３． ［１３］李昆仑， 曹铮， 曹丽苹， 等． 半监督聚类的若干新进展 ［Ｊ］． 模式识别与人工智能， ２００９， ２２（５）： ７３５⁃７４２． ＬＩ Ｋｕｎｌｕｎ， ＣＡＯ Ｚｈｅｎｇ， ＣＡＯ Ｌｉｐｉｎｇ， ｅｔ ａｌ． Ｓｏｍｅ ｄｅｖｅｌｏｐ⁃ ｍｅｎｔｓ ｏｎ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｃｌｕｓｔｅｒｉｎｇ［ Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉ⁃ ｔｉｏｎ ａｎｄ ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ， ２００９， ２２（５）： ７３５⁃７４２． ［１４］ＰＡＬ Ｎ Ｒ， ＰＡＬ Ｋ， ＢＥＺＤＥＫ Ｊ Ｃ． Ａ ｍｉｘｅｄ ｃ⁃ｍｅａｎｓ ｃｌｕｓ⁃ ｔｅｒｉｎｇ ｍｏｄｅｌ ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ６ｔｈ ＩＥＥＥ Ｉｎｔｅｒｎａ⁃ ｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｆｕｚｚｙ Ｓｙｓｔｅｍｓ． Ｂａｒｃｅｌｏｎａ， Ｓｐａｉｎ， １９９７， １： １１⁃２１． ［１５］ＢＥＺＤＥＫ Ｊ Ｃ， ＥＨＲＬＩＣＨ Ｒ， ＦＵＬＬ Ｗ． ＦＣＭ： Ｔｈｅ ｆｕｚｚｙ ｃ⁃ ｍｅａｎｓ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ ［ Ｊ ］． Ｃｏｍｐｕｔｅｒｓ ａｎｄ ｇｅｏｓｃｉ⁃ ｅｎｃｅｓ， １９８４， １０（２⁃３）： １９１⁃２０３． ［１６］ＫＲＩＳＨＮＡＰＵＲＡＭ Ｒ， ＫＥＬＬＥＲ Ｊ Ｍ． Ｔｈｅ ｐｏｓｓｉｂｉｌｉｓｔｉｃ Ｃ⁃ ｍｅａｎｓ ａｌｇｏｒｉｔｈｍ： ｉｎｓｉｇｈｔｓ ａｎｄ ｒｅｃｏｍｍｅｎｄａｔｉｏｎｓ［Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｆｕｚｚｙ ｓｙｓｔｅｍｓ， １９９６， ４（３）： ３８５⁃３９３． ［１７］ ＰＥＤＲＹＣＺ Ｗ． Ａｌｇｏｒｉｔｈｍｓ ｏｆ ｆｕｚｚｙ ｃｌｕｓｔｅｒｉｎｇ ｗｉｔｈ ｐａｒｔｉａｌ ｓｕｐｅｒｖｉｓｉｏｎ［ Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ ｌｅｔｔｅｒｓ， １９８５， ３（１）： １３⁃２０． ［１８］ＧＵ Ｑｕａｎｑｕａｎ， ＺＨＯＵ Ｊｉｅ． Ｌｅａｒｎｉｎｇ ｔｈｅ ｓｈａｒｅｄ ｓｕｂｓｐａｃｅ ｆｏｒ ｍｕｌｔｉ⁃ｔａｓｋ ｃｌｕｓｔｅｒｉｎｇ ａｎｄ ｔｒａｎｓｄｕｃｔｉｖｅ ｔｒａｎｓｆｅｒ ｃｌａｓｓｉｆｉ⁃ ｃａｔｉｏｎ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２００９ ９ｔｈ ＩＥＥＥ ｉｎｔｅｒｎａｔｉｏｎ⁃ ａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ ｄａｔａ ｍｉｎｉｎｇ． Ｍｉａｍｉ， Ｆｌｏｒｉｄａ， ＵＳＡ， ２００９： １５９⁃１６８． ［１９］杨燕， 靳蕃， ＫＡＭＥ Ｍ． 聚类有效性评价综述［ Ｊ］． 计算 机应用研究， ２００８， ２５（６）： １６３０⁃１６３２， １６３８． ＹＡＮＧ Ｙａｎ， ＪＩＮ Ｆａｎ， ＫＡＭＥ Ｍ． Ｓｕｒｖｅｙ ｏｆ ｃｌｕｓｔｅｒｉｎｇ ｖａ⁃ ｌｉｄｉｔｙ ｅｖａｌｕａｔｉｏｎ ［ Ｊ］． Ａｐｐｌｉｃａｔｉｏｎ ｒｅｓｅａｒｃｈ ｏｆ ｃｏｍｐｕｔｅｒｓ， ２００８， ２５（６）： １６３０⁃１６３２， １６３８． ［ ２０ ］ ＧＵ Ｑｕａｎｑｕａｎ， ＺＨＯＵ Ｊｉｅ． Ｃｏ⁃ｃｌｕｓｔｅｒｉｎｇ ｏｎ ｍａｎｉｆｏｌｄｓ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １５ｔｈ ＡＣＭ ＳＩＧＫＤＤ Ｉｎｔｅｒｎａｔｉｏｎ⁃ ａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｋｎｏｗｌｅｄｇｅ Ｄｉｓｃｏｖｅｒｙ ａｎｄ Ｄａｔａ Ｍｉｎｉｎｇ． Ｐａｒｉｓ， Ｆｒａｎｃｅ， ２００９： ３５９⁃３６８． ［２１］ ＣＡＩ Ｄｅｎｇ， ＨＥ Ｘｉａｏｆｅｉ， ＨＡＮ Ｊｉａｗｅｉ． Ｌｏｃａｌｌｙ ｃｏｎｓｉｓｔｅｎｔ ｃｏｎｃｅｐｔ ｆａｃｔｏｒｉｚａｔｉｏｎ ｆｏｒ ｄｏｃｕｍｅｎｔ ｃｌｕｓｔｅｒｉｎｇ ［ Ｊ ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｋｎｏｗｌｅｄｇｅ ａｎｄ ｄａｔａ ｅｎｇｉｎｅｅｒｉｎｇ， ２０１１， ２３ （６）： ９０２⁃９１３． 作者简介： 王跃，男，１９９０ 年生，硕士研究生， 主要研究方向为数据挖掘、计算智能。 杨燕，女，１９６４ 年生，教授，博士生 导师，主要研究方向为计算智能、数据 挖掘、集成学习。 主持国家自然科学基 金项目 ３ 项，国家科技支撑计划项目 １ 项，发表学术论文 １３０ 余篇。 王红军，男，１９７７ 年生，副研究员，主 要研究方向为机器学习、深度学习、半监 督学习。 主持完成国家自然科学青年基 金项目 １ 项，主持国家自然科学基金项目 ２ 项，发表学术论文 ３０ 余篇。 第 ３ 期 王跃，等：一种基于少量标签的改进迁移模糊聚类 ·３１７·