第12卷第2期 智能系统学报 Vol.12 No.2 2017年4月 CAAI Transactions on Intelligent Systems Apr.2017 D0I:10.11992/6is.201603005 网络出版地址：http://www.cmki.net/kcms/detail,/23.1538.tp.20160824.0928.004.html 知识迁移的极大熵聚类算法及其 在纹理图像分割中的应用 程肠，蒋亦樟，钱鹏江，王士同 (江南大学数字媒体学院，江苏无锡214122) 摘要：本文研究了一种新型的基于知识迁移的极大嫡聚类技术。拟解决两大挑战性问题：1)如何从源域中选择合 适的知识对目标域进行迁移学习以最终强化目标域的聚类性能：2)若存在源域聚类数与目标域聚类数不一致的情 况时，该如何进行迁移聚类。为此提出一种全新的迁移聚类机制，即基于聚类中心的中心匹配迁移机制。进一步将 该机制与经典极大嫡聚类算法相融合提出了基于知识迁移的极大熵聚类算法(KT-MEC)。实验表明，在不同迁移场 景下的纹理图像分割应用中，KT-MEC算法较很多现有聚类算法具有更高的精确度和抗噪性。 关键词：迁移学习：中心迁移匹配：极大嫡聚类：纹理图像分割：抗噪性 中图分类号：TP181文献标志码：A文章编号：1673-4785(2017)02-0179-09 中文引用格式：程肠，蒋亦樟，钱鹏江，等.知识迁移的极大熵聚类算法及其在纹理图像分割中的应用[J].智能系统学报，2017,12 (2):179-187. 英文引用格式：CHENG Yang,JIANG Yizhang,QIAN Pengjiang,etal.A maximum entropy clustering algorithm based on knowl- edge transfer and its application to texture image segmentation[J].CAAI transactions on intelligent systems,2017,12(2):178- 187. A maximum entropy clustering algorithm based on knowledge transfer and its application to texture image segmentation CHENG Yang,JIANG Yizhang,QIAN Pengjiang,WANG Shitong School of Digital Media,Jiangnan University,Wuxi 214122,China) Abstract:In this paper,we propose a novel technique for maximum entropy clustering (MEC)based on knowledge transfer.More specifically,we aim to solve the following two challenging questions.First,how can knowledge be appropriately selected from a source domain to enhance clustering performance in the target domain via transfer learning?Second,how best do we conduct transfer clustering if the number of clusters in the source domain and the target domain are inconsistent?To address these questions,we designed a new transfer clustering mechanism called the central matching transfer mechanism,which we based on clustering centers.Further,we developed a knowl- edge-transfer-based maximum entropy clustering (KT-MEC)algorithm by incorporating our mechanism into the classic MEC approach.Our experimental results reveal that our proposed KT-MEC algorithm achieves a higher level of accuracy and better noise immunity than many existing methods when applied to texture image segmentation in different transfer scenarios. Keywords:transfer learning;center transfer matching;maximum entropy clustering;texture image segmentation; robustness 在实际生产中，大部分机器学习方法处理的对 收稿日期：2016-03-04.网络出版日期：2016-08-24 象均为含噪数据集且存在数据量不足的问题。如对 基金项目：国家自然科学基金项目(61572236)：江苏省自然科学基金项于图像分割)任务而言，图像数据往往含有很大的 目(BK20160187):江苏省产学研前瞻性联合研究项目 (BY2013015-02). 噪声。图像数据含噪程度越高，使用的机器学习方 通信作者：蒋亦樟.E-mail:jyz0512@163.com 法对其进行分割的性能就变得越弱。一般来说，无第 １２ 卷第 ２ 期 智 能 系 统 学 报 Ｖｏｌ．１２ №．２ ２０１７ 年 ４ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ａｐｒ． ２０１７ ＤＯＩ：１０．１１９９２ ／ ｔｉｓ．２０１６０３００５ 网络出版地址：ｈｔｔｐ： ／ ／ ｗｗｗ．ｃｎｋｉ．ｎｅｔ ／ ｋｃｍｓ／ ｄｅｔａｉｌ ／ ２３．１５３８．ｔｐ．２０１６０８２４．０９２８．００４．ｈｔｍｌ 知识迁移的极大熵聚类算法及其 在纹理图像分割中的应用 程旸，蒋亦樟，钱鹏江，王士同 （江南大学 数字媒体学院，江苏 无锡 ２１４１２２） 摘 要：本文研究了一种新型的基于知识迁移的极大熵聚类技术。 拟解决两大挑战性问题： １）如何从源域中选择合 适的知识对目标域进行迁移学习以最终强化目标域的聚类性能；２）若存在源域聚类数与目标域聚类数不一致的情 况时，该如何进行迁移聚类。 为此提出一种全新的迁移聚类机制，即基于聚类中心的中心匹配迁移机制。 进一步将 该机制与经典极大熵聚类算法相融合提出了基于知识迁移的极大熵聚类算法（ＫＴ⁃ＭＥＣ）。 实验表明，在不同迁移场 景下的纹理图像分割应用中，ＫＴ⁃ＭＥＣ 算法较很多现有聚类算法具有更高的精确度和抗噪性。 关键词：迁移学习；中心迁移匹配；极大熵聚类；纹理图像分割；抗噪性 中图分类号： ＴＰ１８１ 文献标志码：Ａ 文章编号：１６７３－４７８５（２０１７）０２－０１７９－０９ 中文引用格式：程旸，蒋亦樟，钱鹏江，等． 知识迁移的极大熵聚类算法及其在纹理图像分割中的应用［ Ｊ］． 智能系统学报， ２０１７， １２ （２）： １７９－１８７． 英文引用格式：ＣＨＥＮＧ Ｙａｎｇ， ＪＩＡＮＧ Ｙｉｚｈａｎｇ， ＱＩＡＮ Ｐｅｎｇｊｉａｎｇ， ｅｔ ａｌ． Ａ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ ｋｎｏｗｌ⁃ ｅｄｇｅ ｔｒａｎｓｆｅｒ ａｎｄ ｉｔｓ ａｐｐｌｉｃａｔｉｏｎ ｔｏ ｔｅｘｔｕｒｅ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ［ Ｊ］． ＣＡＡＩ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１７， １２（２）： １７８－ １８７． Ａ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ ｋｎｏｗｌｅｄｇｅ ｔｒａｎｓｆｅｒ ａｎｄ ｉｔｓ ａｐｐｌｉｃａｔｉｏｎ ｔｏ ｔｅｘｔｕｒｅ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ ＣＨＥＮＧ Ｙａｎｇ， ＪＩＡＮＧ Ｙｉｚｈａｎｇ， ＱＩＡＮ Ｐｅｎｇｊｉａｎｇ， ＷＡＮＧ Ｓｈｉｔｏｎｇ （Ｓｃｈｏｏｌ ｏｆ Ｄｉｇｉｔａｌ Ｍｅｄｉａ， Ｊｉａｎｇｎａｎ Ｕｎｉｖｅｒｓｉｔｙ， Ｗｕｘｉ ２１４１２２， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎ ｔｈｉｓ ｐａｐｅｒ， ｗｅ ｐｒｏｐｏｓｅ ａ ｎｏｖｅｌ ｔｅｃｈｎｉｑｕｅ ｆｏｒ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｃｌｕｓｔｅｒｉｎｇ （ＭＥＣ） ｂａｓｅｄ ｏｎ ｋｎｏｗｌｅｄｇｅ ｔｒａｎｓｆｅｒ． Ｍｏｒｅ ｓｐｅｃｉｆｉｃａｌｌｙ， ｗｅ ａｉｍ ｔｏ ｓｏｌｖｅ ｔｈｅ ｆｏｌｌｏｗｉｎｇ ｔｗｏ ｃｈａｌｌｅｎｇｉｎｇ ｑｕｅｓｔｉｏｎｓ． Ｆｉｒｓｔ， ｈｏｗ ｃａｎ ｋｎｏｗｌｅｄｇｅ ｂｅ ａｐｐｒｏｐｒｉａｔｅｌｙ ｓｅｌｅｃｔｅｄ ｆｒｏｍ ａ ｓｏｕｒｃｅ ｄｏｍａｉｎ ｔｏ ｅｎｈａｎｃｅ ｃｌｕｓｔｅｒｉｎｇ ｐｅｒｆｏｒｍａｎｃｅ ｉｎ ｔｈｅ ｔａｒｇｅｔ ｄｏｍａｉｎ ｖｉａ ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ？ Ｓｅｃｏｎｄ， ｈｏｗ ｂｅｓｔ ｄｏ ｗｅ ｃｏｎｄｕｃｔ ｔｒａｎｓｆｅｒ ｃｌｕｓｔｅｒｉｎｇ ｉｆ ｔｈｅ ｎｕｍｂｅｒ ｏｆ ｃｌｕｓｔｅｒｓ ｉｎ ｔｈｅ ｓｏｕｒｃｅ ｄｏｍａｉｎ ａｎｄ ｔｈｅ ｔａｒｇｅｔ ｄｏｍａｉｎ ａｒｅ ｉｎｃｏｎｓｉｓｔｅｎｔ？ Ｔｏ ａｄｄｒｅｓｓ ｔｈｅｓｅ ｑｕｅｓｔｉｏｎｓ， ｗｅ ｄｅｓｉｇｎｅｄ ａ ｎｅｗ ｔｒａｎｓｆｅｒ ｃｌｕｓｔｅｒｉｎｇ ｍｅｃｈａｎｉｓｍ ｃａｌｌｅｄ ｔｈｅ ｃｅｎｔｒａｌ ｍａｔｃｈｉｎｇ ｔｒａｎｓｆｅｒ ｍｅｃｈａｎｉｓｍ， ｗｈｉｃｈ ｗｅ ｂａｓｅｄ ｏｎ ｃｌｕｓｔｅｒｉｎｇ ｃｅｎｔｅｒｓ． Ｆｕｒｔｈｅｒ， ｗｅ ｄｅｖｅｌｏｐｅｄ ａ ｋｎｏｗｌ⁃ ｅｄｇｅ⁃ｔｒａｎｓｆｅｒ⁃ｂａｓｅｄ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｃｌｕｓｔｅｒｉｎｇ （ＫＴ⁃ＭＥＣ） ａｌｇｏｒｉｔｈｍ ｂｙ ｉｎｃｏｒｐｏｒａｔｉｎｇ ｏｕｒ ｍｅｃｈａｎｉｓｍ ｉｎｔｏ ｔｈｅ ｃｌａｓｓｉｃ ＭＥＣ ａｐｐｒｏａｃｈ． Ｏｕｒ ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｒｅｖｅａｌ ｔｈａｔ ｏｕｒ ｐｒｏｐｏｓｅｄ ＫＴ⁃ＭＥＣ ａｌｇｏｒｉｔｈｍ ａｃｈｉｅｖｅｓ ａ ｈｉｇｈｅｒ ｌｅｖｅｌ ｏｆ ａｃｃｕｒａｃｙ ａｎｄ ｂｅｔｔｅｒ ｎｏｉｓｅ ｉｍｍｕｎｉｔｙ ｔｈａｎ ｍａｎｙ ｅｘｉｓｔｉｎｇ ｍｅｔｈｏｄｓ ｗｈｅｎ ａｐｐｌｉｅｄ ｔｏ ｔｅｘｔｕｒｅ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ ｉｎ ｄｉｆｆｅｒｅｎｔ ｔｒａｎｓｆｅｒ ｓｃｅｎａｒｉｏｓ． Ｋｅｙｗｏｒｄｓ： ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ； ｃｅｎｔｅｒ ｔｒａｎｓｆｅｒ ｍａｔｃｈｉｎｇ； ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｃｌｕｓｔｅｒｉｎｇ； ｔｅｘｔｕｒｅ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ； ｒｏｂｕｓｔｎｅｓｓ 收稿日期：２０１６－０３－０４． 网络出版日期：２０１６－０８－２４． 基金项目：国家自然科学基金项目（６１５７２２３６）；江苏省自然科学基金项 目（ ＢＫ２０１６０１８７ ）； 江 苏 省 产 学 研 前 瞻 性 联 合 研 究 项 目 （ＢＹ２０１３０１５⁃０２）． 通信作者：蒋亦樟． Ｅ⁃ｍａｉｌ：ｊｙｚ０５１２＠ １６３．ｃｏｍ． 在实际生产中，大部分机器学习方法处理的对 象均为含噪数据集且存在数据量不足的问题。 如对 于图像分割［１］任务而言，图像数据往往含有很大的 噪声。 图像数据含噪程度越高，使用的机器学习方 法对其进行分割的性能就变得越弱。 一般来说，无