.334. 智能系统学报 第9卷 表1整体分类性能比较 层，由于这些层级中包含有大量稀有类别，这时 Table 1 Overall classification performance comparison GW-HSVM的分类性能接近甚至优于S-HSVM。结 模型 Macro-P Macro-R Macro-F 准确率 合表1和图4的实验结果可以发现，本文提出的无 GW-HSVM 0.5196 0.5367 0.5280 0.4775 标记数据分类方法取得了较好的分类效果，其性能 S-HSVM 0.5285 0.5379 0.5332 0.5482 接近于有标记训练样本的监督分类方法。 本文还比较了S-HSVM和GW-HSVM在类别树 4 结束语 中不同层级上的分类性能，包括Macro-P、Macro-R 和Macro-F,如图4所示。 本文针对主题分类目录缺少训练样本的问题， 0.8 提出了一种无标记数据的层次式文本分类方法，该 △GW-HSVM 0.7 ·o.S-HSVM 方法利用搜索引擎从Wb数据中获取训练样本，通 过有效的Wb查询和样本抽取方法降低了噪声数 0.6 据的影响，获得了较好的分类效果，其分类性能接近 0.5 于有标注训练样本的监督分类方法。 0.4 参考文献： 0.3 [1]CHEN Y,LI Z,NIE L,et al.A semi-supervised bayesian 0.2 4 6 network model for microblog topic classification [C]//Pro- 层级 ceedings of the 24th International Conference on Computa- (a)Macro-P tional Linguistics.Mumbai,India,2012:561-576 0.8 [2]HA-THUC V,RENDERS J M.Large-seale hierarchical text △GW-HSVM 0.Q classification without labelled data[C]//Proceedings of the ·O·S-HSVM fourth ACM International Conference on Web Search and 0.6 Data Mining.Hong Kong,China,2011:685-694. 0.5 ··· 0···⊙ [3]WETZKER R,ALPCAN T,BAUCKHAGE C,et al.An unsupervised hierarchical approach to document categoriza- 0.4 tion[C]//Proceedings of the IEEE/WIC/ACM Internation- 0.3 al Conference on Web Intelligence.Silicon Valley,USA, 0.2 2007:482-486. 2 3 4 5 6 层级 [4]ZHANG C,XUE G R,YU Y.Knowledge supervised text classification with no labeled documents[C]//Proceedings (b)Macro-R of the 10th Pacific Rim International Conference on Artifi- 0.8 cial Intelligence.Hanoi,Vietnam,2008:509-520. 0.8 GW-HSVM [5]HUANG CC.CHUANG S L.CHIEN L F.Liveclassifier: ·O·S-HSVM creating hierarchical text classifiers through Web corpora -0.6 0 [C]//Proceedings of the 13th International Conference on World Wide Web.New York,USA,2004:184-192. 0 [6]WANG P,DOMENICONI C.Towards a universal text clas- 0.4 Q sifier:transfer learning using encyclopedic knowledge[C]// 0.3 Proceedings of the Ninth IEEE International Conference on 0.2 Data Mining Workshops.Miami,USA,2009:435-440. 3 4 5 层级 [7]HUNG C M,CHIEN L F.Web-based text classification in (c)Macro-F the absence of manually labeled training documents [J]. Journal of the American Society for Information Science and 图4不同层级上的分类性能 Technology,2007,58(1):88-96. Fig.4 Performance on different level [8]HUNG C M,CHIEN L F.Text classification using Web cor- 可以看到，GW-HSVM在第1级和第4级上的 pora and em algorithms[C]//Proceedings of the Asia Infor- 性能差于S-HSVM,这是因为ODP中文目录中这两 mation Retrieval Symposium.Beijing,China,2005:12-23. 层上的类别包含较多的实例。对于目录中其他几 [9]刘丽珍，宋瀚涛，陆玉昌.无标记训练样本的Wb文本表 １ 整体分类性能比较 Ｔａｂｌｅ １ Ｏｖｅｒａｌｌ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ ｃｏｍｐａｒｉｓｏｎ 模型 Ｍａｃｒｏ⁃Ｐ Ｍａｃｒｏ⁃Ｒ Ｍａｃｒｏ⁃ Ｆ１ 准确率 ＧＷ⁃ＨＳＶＭ ０．５１９６ ０．５３６７ ０．５２８０ ０．４７７５ Ｓ⁃ＨＳＶＭ ０．５２８５ ０．５３７９ ０．５３３２ ０．５４８２ 本文还比较了 Ｓ⁃ＨＳＶＭ 和 ＧＷ⁃ＨＳＶＭ 在类别树 中不同层级上的分类性能，包括 Ｍａｃｒｏ⁃Ｐ、Ｍａｃｒｏ⁃Ｒ 和 Ｍａｃｒｏ⁃ Ｆ１ ，如图 ４ 所示。 （ａ） Ｍａｃｒｏ⁃Ｐ （ｂ） Ｍａｃｒｏ⁃Ｒ （ｃ） Ｍａｃｒｏ⁃ Ｆ１ 图 ４ 不同层级上的分类性能 Ｆｉｇ．４ Ｐｅｒｆｏｒｍａｎｃｅ ｏｎ ｄｉｆｆｅｒｅｎｔ ｌｅｖｅｌ 可以看到，ＧＷ⁃ＨＳＶＭ 在第 １ 级和第 ４ 级上的 性能差于 Ｓ⁃ＨＳＶＭ，这是因为 ＯＤＰ 中文目录中这两 层上的类别包含较多的实例。 对于目录中其他几 层，由于这些层级中包含有大量稀有类别， 这时 ＧＷ⁃ＨＳＶＭ 的分类性能接近甚至优于 Ｓ⁃ＨＳＶＭ。 结 合表 １ 和图 ４ 的实验结果可以发现，本文提出的无 标记数据分类方法取得了较好的分类效果，其性能 接近于有标记训练样本的监督分类方法。 ４ 结束语 本文针对主题分类目录缺少训练样本的问题， 提出了一种无标记数据的层次式文本分类方法，该 方法利用搜索引擎从 Ｗｅｂ 数据中获取训练样本，通 过有效的 Ｗｅｂ 查询和样本抽取方法降低了噪声数 据的影响，获得了较好的分类效果，其分类性能接近 于有标注训练样本的监督分类方法。 参考文献： ［１］ＣＨＥＮ Ｙ， ＬＩ Ｚ， ＮＩＥ Ｌ， ｅｔ ａｌ． Ａ ｓｅｍｉ⁃ｓｕｐｅｒｖｉｓｅｄ ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ ｍｏｄｅｌ ｆｏｒ ｍｉｃｒｏｂｌｏｇ ｔｏｐｉｃ ｃｌａｓｓｉｆｉｃａｔｉｏｎ［ Ｃ］ ／ ／ Ｐｒｏ⁃ ｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２４ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔａ⁃ ｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ． Ｍｕｍｂａｉ， Ｉｎｄｉａ， ２０１２： ５６１⁃５７６． ［２］ＨＡ⁃ＴＨＵＣ Ｖ， ＲＥＮＤＥＲＳ Ｊ Ｍ． Ｌａｒｇｅ⁃ｓｃａｌｅ ｈｉｅｒａｒｃｈｉｃａｌ ｔｅｘｔ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｗｉｔｈｏｕｔ ｌａｂｅｌｌｅｄ ｄａｔａ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ｆｏｕｒｔｈ ＡＣＭ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｅｂ Ｓｅａｒｃｈ ａｎｄ Ｄａｔａ Ｍｉｎｉｎｇ． Ｈｏｎｇ Ｋｏｎｇ， Ｃｈｉｎａ， ２０１１： ６８５⁃６９４． ［３］ ＷＥＴＺＫＥＲ Ｒ， ＡＬＰＣＡＮ Ｔ， ＢＡＵＣＫＨＡＧＥ Ｃ， ｅｔ ａｌ． Ａｎ ｕｎｓｕｐｅｒｖｉｓｅｄ ｈｉｅｒａｒｃｈｉｃａｌ ａｐｐｒｏａｃｈ ｔｏ ｄｏｃｕｍｅｎｔ ｃａｔｅｇｏｒｉｚａ⁃ ｔｉｏｎ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＩＥＥＥ／ ＷＩＣ／ ＡＣＭ Ｉｎｔｅｒｎａｔｉｏｎ⁃ ａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｅｂ Ｉｎｔｅｌｌｉｇｅｎｃｅ． Ｓｉｌｉｃｏｎ Ｖａｌｌｅｙ， ＵＳＡ， ２００７： ４８２⁃４８６． ［４］ ＺＨＡＮＧ Ｃ， ＸＵＥ Ｇ Ｒ， ＹＵ Ｙ． Ｋｎｏｗｌｅｄｇｅ ｓｕｐｅｒｖｉｓｅｄ ｔｅｘｔ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｗｉｔｈ ｎｏ ｌａｂｅｌｅｄ ｄｏｃｕｍｅｎｔｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １０ｔｈ Ｐａｃｉｆｉｃ Ｒｉｍ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｒｔｉｆｉ⁃ ｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ． Ｈａｎｏｉ， Ｖｉｅｔｎａｍ， ２００８： ５０９⁃５２０． ［５］ＨＵＡＮＧ Ｃ Ｃ， ＣＨＵＡＮＧ Ｓ Ｌ， ＣＨＩＥＮ Ｌ Ｆ． Ｌｉｖｅｃｌａｓｓｉｆｉｅｒ： ｃｒｅａｔｉｎｇ ｈｉｅｒａｒｃｈｉｃａｌ ｔｅｘｔ ｃｌａｓｓｉｆｉｅｒｓ ｔｈｒｏｕｇｈ Ｗｅｂ ｃｏｒｐｏｒａ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １３ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｏｒｌｄ Ｗｉｄｅ Ｗｅｂ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２００４： １８４⁃１９２． ［６］ＷＡＮＧ Ｐ， ＤＯＭＥＮＩＣＯＮＩ Ｃ． Ｔｏｗａｒｄｓ ａ ｕｎｉｖｅｒｓａｌ ｔｅｘｔ ｃｌａｓ⁃ ｓｉｆｉｅｒ： ｔｒａｎｓｆｅｒ ｌｅａｒｎｉｎｇ ｕｓｉｎｇ ｅｎｃｙｃｌｏｐｅｄｉｃ ｋｎｏｗｌｅｄｇｅ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｎｉｎｔｈ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｄａｔａ Ｍｉｎｉｎｇ Ｗｏｒｋｓｈｏｐｓ． Ｍｉａｍｉ， ＵＳＡ， ２００９： ４３５⁃４４０． ［７］ＨＵＮＧ Ｃ Ｍ， ＣＨＩＥＮ Ｌ Ｆ． Ｗｅｂ⁃ｂａｓｅｄ ｔｅｘｔ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｉｎ ｔｈｅ ａｂｓｅｎｃｅ ｏｆ ｍａｎｕａｌｌｙ ｌａｂｅｌｅｄ ｔｒａｉｎｉｎｇ ｄｏｃｕｍｅｎｔｓ ［ Ｊ ］． Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ａｍｅｒｉｃａｎ Ｓｏｃｉｅｔｙ ｆｏｒ Ｉｎｆｏｒｍａｔｉｏｎ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ， ２００７， ５８（１）： ８８⁃９６． ［８］ＨＵＮＧ Ｃ Ｍ， ＣＨＩＥＮ Ｌ Ｆ． Ｔｅｘｔ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｕｓｉｎｇ Ｗｅｂ ｃｏｒ⁃ ｐｏｒａ ａｎｄ ｅｍ ａｌｇｏｒｉｔｈｍｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ａｓｉａ Ｉｎｆｏｒ⁃ ｍａｔｉｏｎ Ｒｅｔｒｉｅｖａｌ Ｓｙｍｐｏｓｉｕｍ． Ｂｅｉｊｉｎｇ， Ｃｈｉｎａ， ２００５： １２⁃２３． ［９］刘丽珍， 宋瀚涛， 陆玉昌． 无标记训练样本的 Ｗｅｂ 文本 ·３３４· 智 能 系 统 学 报 第 ９ 卷