第12卷第4期 智能系统学报 Vol.12 No.4 2017年8月 CAAI Transactions on Intelligent Systems Aug.2017 D0I:10.11992/is.201608010 基于分类词典的文本相似性度量方法 李海林，邹金串2 (1.华侨大学信息管理系，福建泉州362021：2.华侨大学现代应用统计与大数据研究中心，福建厦门361021) 摘要：针对现有基于语义知识规则分析的文本相似性度量方法存在时间复杂度高的局限性，提出基于分类词典的 文本相似性度量方法。利用汉语词法分析系统ICTCLAS对文本分词，运用TF×DF方法提取文本关键词，遍历分类 词典获取关键词编码，通过计算文本关键词编码的近似性来衡量原始文本之间的相似度。选取基于语义知识规则 和基于统计两个类别的相似性度量方法作为对比方法，通过传统聚类与KNN分类分别对相似性度量方法进行效果 验证。数值实验结果表明，新方法在聚类与分类实验中均能取得较好的实验结果，相较于其他基于语义分析的相似 性度量方法还具有良好的时间效率。 关键词：文本挖掘；语义分析；分类词典；关键词提取；词语编码；相似性度量；聚类；分类 中图分类号：TP301文献标志码：A文章编号：1673-4785(2017)04-0556-07 中文引用格式：李海林，邹金串.基于分类词典的文本相似性度量方法[J].智能系统学报，2017,12(4)：556-562. 英文引用格式：LI Hailin,ZOU Jinchuan..Text similarity measure method based on classified dictionary[J].CAAI transactions on intelligent systems,2017,12(4):556-562. Text similarity measure method based on classified dictionary LI Hailin',ZOU Jinchuan2 (1.Department of Information Systems,Huaqiao University,Quanzhou 362021,China;2.Research Center of Applied Statistics and Big Data,Huaqiao University,Xiamen 361021,China) Abstract:Existing text-similarity measurement methods based on the semantic knowledge rules analysis have the limitation of high time complexity.In this paper,we propose a text-similarity measurement method based on the Classified Dictionary.First,we segmented texts using the Chinese Lexical Analysis System.Then,we extracted text keywords using the term frequency-inverse document frequency (tf idf)method and performed keywords coding by traversing the dictionary.By calculating the coding similarity of the text keywords,we can determine the similarity of the original texts.As our two comparison methods,we selected similarity measurement methods based on semantic knowledge rules and statistics.We verified our similarity measurement results using traditional clustering algorithms and the k-nearest neighbors classification method.Our numerical results show that our proposed method can obtain relatively good results in clustering and classification experiments.In addition, compared with other semantic analysis measurement methods,this method has better time efficiency. Keywords:data mining;semantic analysis;classified dictionary;keywords extraction;encoder;similarity measure; clustering;classification 大数据时代，相似性度量方法通常作为数据挖 挖掘技术与方法通常用于处理与分析非结构化文 掘任务的基础，使得相应的算法和技术能够在复杂 本数据，其中相似性度量质量的好坏将很大程度上 数据中发现具有潜在价值的信息与知识】，文本 影响文本挖掘质量和效率，与文本相关的数据挖掘 任务结合，也广泛存在于现实应用中，例如聚类与 收稿日期：2016-08-30. 分类、信息检索、机器学习、网络信息认定[到与人工 基金项目：国家自然科学基金项目(61300139)：福建省自然科学基金项 智能等文本信息处理。 目(2015J01581):华侨大学中青年教师科研提升计划项目 (ZQN-PY220):华侨大学研究生科研创新能力培育计划项 根据文献[4]中提到的概念层次理论，文本相 目(1511307006). 通信作者：邹金串.E-mail:Zou_jinchuan@163.com. 似性度量建立在句子相似性度量之上，句子相似性
第 １２ 卷第 ４ 期 智 能 系 统 学 报 Ｖｏｌ．１２ №．４ ２０１７ 年 ８ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ａｕｇ． ２０１７ ＤＯＩ：１０．１１９９２ ／ ｔｉｓ．２０１６０８０１０ 基于分类词典的文本相似性度量方法 李海林１ ，邹金串２ （１．华侨大学 信息管理系，福建 泉州 ３６２０２１； ２．华侨大学 现代应用统计与大数据研究中心，福建 厦门 ３６１０２１） 摘 要：针对现有基于语义知识规则分析的文本相似性度量方法存在时间复杂度高的局限性，提出基于分类词典的 文本相似性度量方法。 利用汉语词法分析系统 ＩＣＴＣＬＡＳ 对文本分词，运用 ＴＦ×ＩＤＦ 方法提取文本关键词，遍历分类 词典获取关键词编码，通过计算文本关键词编码的近似性来衡量原始文本之间的相似度。 选取基于语义知识规则 和基于统计两个类别的相似性度量方法作为对比方法，通过传统聚类与 ＫＮＮ 分类分别对相似性度量方法进行效果 验证。 数值实验结果表明，新方法在聚类与分类实验中均能取得较好的实验结果，相较于其他基于语义分析的相似 性度量方法还具有良好的时间效率。 关键词：文本挖掘；语义分析；分类词典；关键词提取；词语编码；相似性度量；聚类；分类 中图分类号：ＴＰ３０１ 文献标志码：Ａ 文章编号：１６７３－４７８５（２０１７）０４－０５５６－０７ 中文引用格式：李海林，邹金串．基于分类词典的文本相似性度量方法［Ｊ］． 智能系统学报， ２０１７， １２（４）： ５５６－５６２． 英文引用格式：ＬＩ Ｈａｉｌｉｎ， ＺＯＵ Ｊｉｎｃｈｕａｎ． Ｔｅｘｔ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｃｌａｓｓｉｆｉｅｄ ｄｉｃｔｉｏｎａｒｙ［Ｊ］． ＣＡＡＩ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１７， １２（４）： ５５６－５６２． Ｔｅｘｔ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｃｌａｓｓｉｆｉｅｄ ｄｉｃｔｉｏｎａｒｙ ＬＩ Ｈａｉｌｉｎ １ ， ＺＯＵ Ｊｉｎｃｈｕａｎ ２ （１． Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｓｙｓｔｅｍｓ， Ｈｕａｑｉａｏ Ｕｎｉｖｅｒｓｉｔｙ， Ｑｕａｎｚｈｏｕ ３６２０２１，Ｃｈｉｎａ； ２．Ｒｅｓｅａｒｃｈ Ｃｅｎｔｅｒ ｏｆ Ａｐｐｌｉｅｄ Ｓｔａｔｉｓｔｉｃｓ ａｎｄ Ｂｉｇ Ｄａｔａ， Ｈｕａｑｉａｏ Ｕｎｉｖｅｒｓｉｔｙ， Ｘｉａｍｅｎ ３６１０２１， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｅｘｉｓｔｉｎｇ ｔｅｘｔ⁃ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ ｍｅｔｈｏｄｓ ｂａｓｅｄ ｏｎ ｔｈｅ ｓｅｍａｎｔｉｃ ｋｎｏｗｌｅｄｇｅ ｒｕｌｅｓ ａｎａｌｙｓｉｓ ｈａｖｅ ｔｈｅ ｌｉｍｉｔａｔｉｏｎ ｏｆ ｈｉｇｈ ｔｉｍｅ ｃｏｍｐｌｅｘｉｔｙ． Ｉｎ ｔｈｉｓ ｐａｐｅｒ， ｗｅ ｐｒｏｐｏｓｅ ａ ｔｅｘｔ⁃ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｔｈｅ Ｃｌａｓｓｉｆｉｅｄ Ｄｉｃｔｉｏｎａｒｙ． Ｆｉｒｓｔ， ｗｅ ｓｅｇｍｅｎｔｅｄ ｔｅｘｔｓ ｕｓｉｎｇ ｔｈｅ Ｃｈｉｎｅｓｅ Ｌｅｘｉｃａｌ Ａｎａｌｙｓｉｓ Ｓｙｓｔｅｍ． Ｔｈｅｎ， ｗｅ ｅｘｔｒａｃｔｅｄ ｔｅｘｔ ｋｅｙｗｏｒｄｓ ｕｓｉｎｇ ｔｈｅ ｔｅｒｍ ｆｒｅｑｕｅｎｃｙ⁃ｉｎｖｅｒｓｅ ｄｏｃｕｍｅｎｔ ｆｒｅｑｕｅｎｃｙ （ｔｆ∗ｉｄｆ） ｍｅｔｈｏｄ ａｎｄ ｐｅｒｆｏｒｍｅｄ ｋｅｙｗｏｒｄｓ ｃｏｄｉｎｇ ｂｙ ｔｒａｖｅｒｓｉｎｇ ｔｈｅ ｄｉｃｔｉｏｎａｒｙ． Ｂｙ ｃａｌｃｕｌａｔｉｎｇ ｔｈｅ ｃｏｄｉｎｇ ｓｉｍｉｌａｒｉｔｙ ｏｆ ｔｈｅ ｔｅｘｔ ｋｅｙｗｏｒｄｓ， ｗｅ ｃａｎ ｄｅｔｅｒｍｉｎｅ ｔｈｅ ｓｉｍｉｌａｒｉｔｙ ｏｆ ｔｈｅ ｏｒｉｇｉｎａｌ ｔｅｘｔｓ． Ａｓ ｏｕｒ ｔｗｏ ｃｏｍｐａｒｉｓｏｎ ｍｅｔｈｏｄｓ， ｗｅ ｓｅｌｅｃｔｅｄ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ ｍｅｔｈｏｄｓ ｂａｓｅｄ ｏｎ ｓｅｍａｎｔｉｃ ｋｎｏｗｌｅｄｇｅ ｒｕｌｅｓ ａｎｄ ｓｔａｔｉｓｔｉｃｓ． Ｗｅ ｖｅｒｉｆｉｅｄ ｏｕｒ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ ｒｅｓｕｌｔｓ ｕｓｉｎｇ ｔｒａｄｉｔｉｏｎａｌ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍｓ ａｎｄ ｔｈｅ ｋ⁃ｎｅａｒｅｓｔ ｎｅｉｇｈｂｏｒｓ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｍｅｔｈｏｄ． Ｏｕｒ ｎｕｍｅｒｉｃａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｏｕｒ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ｃａｎ ｏｂｔａｉｎ ｒｅｌａｔｉｖｅｌｙ ｇｏｏｄ ｒｅｓｕｌｔｓ ｉｎ ｃｌｕｓｔｅｒｉｎｇ ａｎｄ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｅｘｐｅｒｉｍｅｎｔｓ． Ｉｎ ａｄｄｉｔｉｏｎ， ｃｏｍｐａｒｅｄ ｗｉｔｈ ｏｔｈｅｒ ｓｅｍａｎｔｉｃ ａｎａｌｙｓｉｓ ｍｅａｓｕｒｅｍｅｎｔ ｍｅｔｈｏｄｓ， ｔｈｉｓ ｍｅｔｈｏｄ ｈａｓ ｂｅｔｔｅｒ ｔｉｍｅ ｅｆｆｉｃｉｅｎｃｙ． Ｋｅｙｗｏｒｄｓ： ｄａｔａ ｍｉｎｉｎｇ； ｓｅｍａｎｔｉｃ ａｎａｌｙｓｉｓ； ｃｌａｓｓｉｆｉｅｄ ｄｉｃｔｉｏｎａｒｙ； ｋｅｙｗｏｒｄｓ ｅｘｔｒａｃｔｉｏｎ； ｅｎｃｏｄｅｒ； ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ； ｃｌｕｓｔｅｒｉｎｇ； ｃｌａｓｓｉｆｉｃａｔｉｏｎ 收稿日期：２０１６－０８－３０． 基金项目：国家自然科学基金项目（６１３００１３９）；福建省自然科学基金项 目（２０１５Ｊ０１５８１）；华侨大学中青年教师科研提升计划项目 （ＺＱＮ－ＰＹ２２０）；华侨大学研究生科研创新能力培育计划项 目（１５１１３０７００６）． 通信作者：邹金串．Ｅ⁃ｍａｉｌ：Ｚｏｕ＿ｊｉｎｃｈｕａｎ＠ １６３．ｃｏｍ． 大数据时代，相似性度量方法通常作为数据挖 掘任务的基础， 使得相应的算法和技术能够在复杂 数据中发现具有潜在价值的信息与知识［１－２］ ，文本 挖掘技术与方法通常用于处理与分析非结构化文 本数据，其中相似性度量质量的好坏将很大程度上 影响文本挖掘质量和效率，与文本相关的数据挖掘 任务结合，也广泛存在于现实应用中， 例如聚类与 分类、信息检索、机器学习、网络信息认定［３］ 与人工 智能等文本信息处理。 根据文献［４］ 中提到的概念层次理论，文本相 似性度量建立在句子相似性度量之上，句子相似性
第4期 李海林，等：基于分类词典的文本相似性度量方法 ·557. 度量进一步以词语的相似性为前提。因此，词语相 苏新春教授编写的《现代汉语分类词典》[1)与 似性度量结果的好坏直接影响文本相似性度量以 《同义词词林》在结构上具有相似性，但《现代汉语 及文本聚类、分类等后续文本挖掘任务与工作的 分类词典》对词语分类更细，词语间相似度只需通 质量。 过两个词语编码进行计算比较，相较于ZW_Sim方 词语相似度指在不同位置，词语可以互相替换 法，不需要对词语相似度进行分层计算，时间复杂 使用的程度，文本相似性度量通常分为基于语义知 度大大降低。基于距离的语义相似度计算主要包 识规则的相似性度量和基于统计的相似性度量。 括语义重合度（共同祖先节点数）、语义深度、语义 基于语义知识规则的文本相似度计算主要建立在 密度、语义距离等4个方面的度量。多级分类体系 基于Wordnets-)、MindNet)、FramNet[s劉等语义知 使得基于分类词典的相似性度量结果可以直接反 识库的基础上。20世纪90年代开始，涌现出大量 映两个词语在语义树中的重合度、深度与距离。在 基于Wordnet的语义相似度计算算法，主要针对外 此基础上，本文提出一种基于现代汉语分类词典的 文长文本的语义相似度计算。现有基于语义分 文本相似性度量方法(Similarity measure based on 析的中文文本相似性度量方法主要依托于同义词 Cidian,CD_Sim)。CD_Sim方法通过中科院研制出 词林o与知网山。刘群等以知网为依托，将词 的汉语词法分析系统对待分析文档进行分词等一 语相似性度量分为义原相似性度量、概念相似性度 系列基本处理，统计词语与文档间的词频矩阵，结 量和词语相似性度量3个步骤，并提出了基于知网 合T℉×DF算法构建词语文档的向量空间模型20， 的词语相似度计算方法(ZW_Sim)。由于该方法的 对向量空间模型进行标准化处理、排序等操作实现 适用性和有效性，部分学者在此基础上对该相似度 对文档的特征提取。通过AP聚类2)]、Kmeans聚 计算方法进行改进。林丽等1)在基于知网的词语 类[2]、谱聚类[2)3种聚类算法以及KNN分类(2]方 相似度计算中引入弱义原的概念，即通过计算除区 法对方法计算结果进行检验分析。方法理论简单 分能力弱的第一基本义原外的其他义原来计算词 易于应用，对降低同义词、同类词导致的误差有一 语相似度，以减少计算时间和提高计算精度：王小 定作用，在短文本相似度量应用中相较于基于统计 林[]在原始基于知网方法的基础上，改进不同类别 学的方法可以降低度量误差，相较于基于知识库的 义原在词语相似度计算中所占权重的计算方法提 方法简单易行。数值实验结果表明，CD_Sim方法 高计算精度，通过义项词性判断降低相似性计算复 在聚类与分类实验中均能取得较好的实验结果，证 杂度：张亮等[)利用知网，从义项的主类义原、主类 明了方法的可行性与度量效果。 义原框架和义项特性描述三方面综合分析词语相 1 相关理论基础 似度，并从语义特征相似度和句法特征相似度两方 面来描述词语相似度：田久乐等16]提出基于同义词 1.1现代汉语分类词典 词林的词语相似度计算方法(CL_Sim),并通过人工 我国现代汉语首部分类词典是《同义词词林》， 测试、非人工测试以及与ZW_Sim方法进行比较，证 按照词语的概义来对词语进行分类编排。但现在 明了方法的可行性；徐庆等)在此基础上对词语相 《同义词词林》一定程度上不能很好地反映当前语 似度计算公式进行改进，并将该方法应用于中文实 言现状。《现代汉语分类词典》在吸收前人成果的 体关系抽取，取得了较好的实验结果：郑红艳等[1劉 基础上，收录了8.3万条通用性词语，较《同义词词 将词林与TF×IDF方法相结合，过滤同义词并对词 林》新增常用词2.9万条，按五级语义层编排，包含 语权重赋值进行文本特征提取，新的方法具有更好 9个一级类，62个二级类，508个三级类，2057个四 的特征提取结果。各位学者将基于知网与词林的 级类，12659个五级类。 相似性度量方法在参数与时间复杂度方面不断完 《现代汉语分类词典》用5层编码代表分类词 善，使方法的准确性与时间效率都一定程度上有所 典的5层结构，例如“B03Cc04”是“灰浆”和“砂浆” 提高。基于语义知识库的相似性度量方法均需要 的编码，示例编码中各层编码意义如表1，表示“灰 对语义知识库多次遍历，各位学者虽不同程度提高 浆”和“砂浆”均是“具体物”类别下“材料”类别中 了方法的时间效率，但时间复杂度高的问题依然 “建筑材料”范畴内“水泥石灰沥青”小类中的“灰 存在。 浆”类别。若两个词语各级编码均相同，则二者是
度量进一步以词语的相似性为前提。 因此，词语相 似性度量结果的好坏直接影响文本相似性度量以 及文本聚类、分类等后续文本挖掘任务与工作的 质量。 词语相似度指在不同位置，词语可以互相替换 使用的程度，文本相似性度量通常分为基于语义知 识规则的相似性度量和基于统计的相似性度量。 基于语义知识规则的文本相似度计算主要建立在 基于 Ｗｏｒｄｎｅｔ ［５－６］ 、ＭｉｎｄＮｅｔ ［７］ 、 ＦｒａｍＮｅｔ ［８］ 等语义知 识库的基础上。 ２０ 世纪 ９０ 年代开始，涌现出大量 基于 Ｗｏｒｄｎｅｔ 的语义相似度计算算法，主要针对外 文长文本的语义相似度计算［９］ 。 现有基于语义分 析的中文文本相似性度量方法主要依托于同义词 词林［１０］与知网［１１］ 。 刘群等［１２］ 以知网为依托，将词 语相似性度量分为义原相似性度量、概念相似性度 量和词语相似性度量 ３ 个步骤，并提出了基于知网 的词语相似度计算方法（ＺＷ＿Ｓｉｍ）。 由于该方法的 适用性和有效性，部分学者在此基础上对该相似度 计算方法进行改进。 林丽等［１３］ 在基于知网的词语 相似度计算中引入弱义原的概念，即通过计算除区 分能力弱的第一基本义原外的其他义原来计算词 语相似度，以减少计算时间和提高计算精度；王小 林［１４］在原始基于知网方法的基础上，改进不同类别 义原在词语相似度计算中所占权重的计算方法提 高计算精度，通过义项词性判断降低相似性计算复 杂度；张亮等［１５］利用知网，从义项的主类义原、主类 义原框架和义项特性描述三方面综合分析词语相 似度，并从语义特征相似度和句法特征相似度两方 面来描述词语相似度；田久乐等［１６］ 提出基于同义词 词林的词语相似度计算方法（ＣＬ＿Ｓｉｍ），并通过人工 测试、非人工测试以及与 ＺＷ＿Ｓｉｍ 方法进行比较，证 明了方法的可行性；徐庆等［１７］在此基础上对词语相 似度计算公式进行改进，并将该方法应用于中文实 体关系抽取，取得了较好的实验结果；郑红艳等［１８］ 将词林与 ＴＦ×ＩＤＦ 方法相结合，过滤同义词并对词 语权重赋值进行文本特征提取，新的方法具有更好 的特征提取结果。 各位学者将基于知网与词林的 相似性度量方法在参数与时间复杂度方面不断完 善，使方法的准确性与时间效率都一定程度上有所 提高。 基于语义知识库的相似性度量方法均需要 对语义知识库多次遍历，各位学者虽不同程度提高 了方法的时间效率，但时间复杂度高的问题依然 存在。 苏新春教授编写的《现代汉语分类词典》 ［１９］ 与 《同义词词林》在结构上具有相似性，但《现代汉语 分类词典》对词语分类更细，词语间相似度只需通 过两个词语编码进行计算比较，相较于 ＺＷ＿Ｓｉｍ 方 法，不需要对词语相似度进行分层计算，时间复杂 度大大降低。 基于距离的语义相似度计算主要包 括语义重合度（共同祖先节点数）、语义深度、语义 密度、语义距离等 ４ 个方面的度量。 多级分类体系 使得基于分类词典的相似性度量结果可以直接反 映两个词语在语义树中的重合度、深度与距离。 在 此基础上，本文提出一种基于现代汉语分类词典的 文本相似性度量方法（ Ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｂａｓｅｄ ｏｎ Ｃｉｄｉａｎ， ＣＤ＿Ｓｉｍ）。 ＣＤ＿Ｓｉｍ 方法通过中科院研制出 的汉语词法分析系统对待分析文档进行分词等一 系列基本处理，统计词语与文档间的词频矩阵，结 合 ＴＦ×ＩＤＦ 算法构建词语文档的向量空间模型［２０］ ， 对向量空间模型进行标准化处理、排序等操作实现 对文档的特征提取。 通过 ＡＰ 聚类［２１］ 、Ｋｍｅａｎｓ 聚 类［２２］ 、谱聚类［２３］ ３ 种聚类算法以及 ＫＮＮ 分类［２４］ 方 法对方法计算结果进行检验分析。 方法理论简单、 易于应用，对降低同义词、同类词导致的误差有一 定作用，在短文本相似度量应用中相较于基于统计 学的方法可以降低度量误差，相较于基于知识库的 方法简单易行。 数值实验结果表明，ＣＤ＿Ｓｉｍ 方法 在聚类与分类实验中均能取得较好的实验结果，证 明了方法的可行性与度量效果。 １ 相关理论基础 １．１ 现代汉语分类词典 我国现代汉语首部分类词典是《同义词词林》， 按照词语的概义来对词语进行分类编排。 但现在 《同义词词林》一定程度上不能很好地反映当前语 言现状。 《现代汉语分类词典》在吸收前人成果的 基础上，收录了 ８．３ 万条通用性词语，较《同义词词 林》新增常用词 ２．９ 万条，按五级语义层编排，包含 ９ 个一级类，６２ 个二级类，５０８ 个三级类，２ ０５７ 个四 级类，１２ ６５９ 个五级类。 《现代汉语分类词典》 用 ５ 层编码代表分类词 典的 ５ 层结构，例如“Ｂ０３Ｃｃ０４”是“灰浆”和“砂浆” 的编码，示例编码中各层编码意义如表 １，表示“灰 浆”和“砂浆”均是“具体物” 类别下“材料” 类别中 “建筑材料” 范畴内“水泥石灰沥青” 小类中的“灰 浆”类别。 若两个词语各级编码均相同，则二者是 第 ４ 期 李海林，等：基于分类词典的文本相似性度量方法 ·５５７·
·558. 智能系统学报 第12卷 同义词，相似度为1。 based on Cidian,CD_Sim)。方法侧重于词语相似度 表1分类词典编码方式示例 量方法的改进，最终应用于文本相似度量，且度量 Table 1 Example of coding method of classified dictionary 方法较基于统计学的方法可以一定程度降低同义 编码位 符号举例 类别名 级别 词、同类词导致的误差，故方法效果通过文本相似 B 具体物 第一级 度量结果进行对比衡量。方法以《现代汉语分类词 材料 典》作为语义知识库，以基于TF×IDF方法的向量空 2 3 第二级 间模型作为文本关键词提取依据，文本相似性度量 建筑材料 第三级 过程包括词语编码获取、词语相似度计算和文本相 4 水泥石灰沥青 第四级 似度计算3个步骤。 5 4 灰浆 第五级 2.1词语相似度计算 1.2 向量空间模型 基于语义知识库的词语相似度通常通过计算 向量空间模型是当前使用较多的文本表示方 义原相似度(ZW_Sim方法)或者词语编码相似度 法，向量空间矩阵为待分析文本样本词语-文档权 (CL_Sim方法)来计算。CD_Sim方法通过遍历分 重矩阵。假设待分析样本D中有n个文档d,(G=1, 类词典，在分类词典中搜索关键词，用该关键词在 2,…,n),用m个词语t,(i=1,2,…,m)在文档中出 分类词典中对应的编码替换关键词进行关键词相 现的频数组成的向量对一篇文档进行向量表示，根 似度计算。样本D中各文档以关键词编码集的形 据词语在该文档中出现的概率及在整个样本中出 式表示。 分类词典中每一个大类均可以看做一棵语义 现的概率对该特征词的重要性赋值权重，则样本 树，同一个节点下的叶子节点为同义词，且同义词 D表示为 编码相同。通常词语相似性通过其在语义树中的 1011 1012 位置进行度量计算，包括语义密度、语义深度、语义 1022 D'= 1021 心 (1) 重合度、语义距离四方面衡量。分类词典对所有词 语均采用5级分类，即所有词语语义深度相同，语义 102 重合度与语义距离可通过公式计算互换（见式 式中：心，表示第i个词语在第j篇文档中重要程度的 (8)),故可仅取其中一种衡量方式进行计算（涉及 权值。 时间复杂度，语义密度暂不考虑)。 词语权重的计算方法有多种，经典权重计算方 定义关键词A的编码为“a1a,aaa”,关键 法如TF×IDF算法： 词B的编码为“b,b2b3b,bs”,两关键词语义重合度计 0g=TFg×IDF (2) 算公式： 式中：TF,指特征词t,在文档d,中出现的次数Pg占 k,=A☒B= a,⑧6 (5) =1 文档d中总词数p:的比重： i=1时， TEy =Pa (3) 1,a:=b: Pi a:☒b:= (6) 0,a:≠b: DF,为逆文档频率，计算公式为 i>1时， IDF,=log(N) (4) 1,，a:=b:anda:-1☒b:-1=1 a:☒b:= (7) 式中：N为样本中文档总数，n:为样本中出现过特征 0, a:≠b: 词t的文档数。 任意两个编码（假设两编码前三位相同，后两 位不同)的语义重合度与语义距离在编码中可表示 2文本相似度计算 为式(8)形式： 针对目前基于语义知识规则的文本相似性度 a2 as 量方法存在计算过程中多次遍历语义知识库导致 0 0 0 ↓ (8) 方法时间复杂度高的局限性，提出了基于现代汉语 b: 分类词典的文本相似性度量方法(Similarity measure
同义词，相似度为 １。 表 １ 分类词典编码方式示例 Ｔａｂｌｅ １ Ｅｘａｍｐｌｅ ｏｆ ｃｏｄｉｎｇ ｍｅｔｈｏｄ ｏｆ ｃｌａｓｓｉｆｉｅｄ ｄｉｃｔｉｏｎａｒｙ 编码位 符号举例 类别名 级别 １ Ｂ 具体物 第一级 ２ ３ 材料 第二级 ３ Ｃ 建筑材料 第三级 ４ ｃ 水泥石灰沥青 第四级 ５ ４ 灰浆 第五级 １．２ 向量空间模型 向量空间模型是当前使用较多的文本表示方 法，向量空间矩阵为待分析文本样本词语－文档权 重矩阵。 假设待分析样本 Ｄ 中有 ｎ 个文档 ｄｊ（ｊ ＝ １， ２，…，ｎ），用 ｍ 个词语 ｔ ｉ（ｉ ＝ １，２，…，ｍ）在文档中出 现的频数组成的向量对一篇文档进行向量表示，根 据词语在该文档中出现的概率及在整个样本中出 现的概率对该特征词的重要性赋值权重 ｗｉｊ，则样本 Ｄ 表示为 Ｄ′ ＝ ｗ１１ ｗ１２ … ｗ１ｊ ｗ２１ ｗ２２ … ｗ２ｊ ︙ ︙ ︙ ｗｉ１ ｗｉ２ … ｗｉｊ é ë ê ê ê ê êê ù û ú ú ú ú úú （１） 式中：ｗｉｊ表示第 ｉ 个词语在第 ｊ 篇文档中重要程度的 权值。 词语权重的计算方法有多种，经典权重计算方 法如 ＴＦ×ＩＤＦ 算法： ｗｉｊ ＝ ＴＦｉｊ × ＩＤＦｉ （２） 式中：ＴＦｉｊ指特征词 ｔ ｉ 在文档 ｄｊ 中出现的次数 ｐｉｊ占 文档 ｄｊ 中总词数 ｐｊ 的比重： ＴＦｉｊ ＝ ｐｉｊ ｐｊ （３） ＩＤＦｉ 为逆文档频率，计算公式为 ＩＤＦｉ ＝ ｌｏｇ（ Ｎ ｎｉ ） （４） 式中：Ｎ 为样本中文档总数，ｎｉ 为样本中出现过特征 词 ｔ ｉ 的文档数。 ２ 文本相似度计算 针对目前基于语义知识规则的文本相似性度 量方法存在计算过程中多次遍历语义知识库导致 方法时间复杂度高的局限性，提出了基于现代汉语 分类词典的文本相似性度量方法（Ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｂａｓｅｄ ｏｎ Ｃｉｄｉａｎ， ＣＤ＿Ｓｉｍ）。 方法侧重于词语相似度 量方法的改进，最终应用于文本相似度量，且度量 方法较基于统计学的方法可以一定程度降低同义 词、同类词导致的误差，故方法效果通过文本相似 度量结果进行对比衡量。 方法以《现代汉语分类词 典》作为语义知识库，以基于 ＴＦ×ＩＤＦ 方法的向量空 间模型作为文本关键词提取依据，文本相似性度量 过程包括词语编码获取、词语相似度计算和文本相 似度计算 ３ 个步骤。 ２．１ 词语相似度计算 基于语义知识库的词语相似度通常通过计算 义原相似度（ ＺＷ＿Ｓｉｍ 方法） 或者词语编码相似度 （ＣＬ＿Ｓｉｍ 方法） 来计算。 ＣＤ＿Ｓｉｍ 方法通过遍历分 类词典，在分类词典中搜索关键词，用该关键词在 分类词典中对应的编码替换关键词进行关键词相 似度计算。 样本 Ｄ 中各文档以关键词编码集的形 式表示。 分类词典中每一个大类均可以看做一棵语义 树，同一个节点下的叶子节点为同义词，且同义词 编码相同。 通常词语相似性通过其在语义树中的 位置进行度量计算，包括语义密度、语义深度、语义 重合度、语义距离四方面衡量。 分类词典对所有词 语均采用 ５ 级分类，即所有词语语义深度相同，语义 重合度与语义距离可通过公式计算互换 （ 见式 （８）），故可仅取其中一种衡量方式进行计算（涉及 时间复杂度，语义密度暂不考虑）。 定义 关键词 Ａ 的编码为“ ａ１ ａ２ ａ３ ａ４ ａ５ ”，关键 词 Ｂ 的编码为“ｂ１ ｂ２ ｂ３ ｂ４ ｂ５ ”，两关键词语义重合度计 算公式： ｋ１ ＝ Ａ Ｂ ＝ ∑ ５ ｉ ＝ １ ａｉ ｂｉ （５） ｉ ＝ １ 时， ａｉ ｂｉ ＝ １， ａｉ ＝ ｂｉ ０， ａｉ ≠ ｂｉ { （６） ｉ＞１ 时， ａｉ ｂｉ ＝ １， ａｉ ＝ ｂｉ ａｎｄ ａｉ－１ ｂｉ－１ ＝ １ ０， ａｉ ≠ ｂｉ { （７） 任意两个编码（假设两编码前三位相同，后两 位不同）的语义重合度与语义距离在编码中可表示 为式（８）形式： ａ１⇔ ｂ１ ａ２⇔ ｂ２ ａ３⇔ ｂ３ ａ４ ↓ ｂ４ ａ５ ｂ５ ← → （８） ·５５８· 智 能 系 统 学 报 第 １２ 卷
第4期 李海林，等：基于分类词典的文本相似性度量方法 ·559 则根据a,台b1,a2台b2,a3台b3前三对编码位相同， 中的第g个关键词的相似度。根据两文本关键词相 语义重合度（即相同父节点数）记为3，语义距离（即 似度矩阵可求文本相似度为 从末位编码开始向上遍历编码位，经过第一共同编 码位再到另一编码末位编码所经过的不同编码位 SM(d,42)= p=1 的路径数)表示为a,→a4→b4→b5,记为3。根据语 x+y 义重合度和语义距离的概念与计算规则，通过换 (12) 算，得到任意两编码语义距离公式为 关键词与比较文本关键词相似度取该关键词 (9-2×k1,k1<5 与比较文本所有关键词相似度最大值，即对关键词 k2= (9) (0,k1=5 相似度矩阵每行每列均取最大值，平均值即为两文 根据编码语义重合度和语义距离的计算公式， 本相似度。 列出3个编码，分别求两两编码的语义重合度和语 基于现代汉语分类词典的文本相似性度量算 义距离，验证计算公式的正确性与可行性。二者换 法Z=CD_Sim(D): 算示例如表2。 输入待分析样本D: 表2语义重合度与语义距离换算示例 输出样本D中所有文本间相似度集合Z。 Table 2 Example of conversion between coincidence and 1)对样本D中所有文档进行分词、过滤停用词 distance of semantic 处理； 2)对处理后的结果构建词语-文档频数矩阵， 重合度/距离 编码 深度 并结合TF×DF方法构建样本的向量空间模型D'; B03Cc04 B03Dc03 C02Cb01 3)根据向量空间模型D'对每篇文档按照一定 B03Cc04 5 5/0 2/5 0/9 的规则进行关键词提取； B03Dc03 2/5 5/0 0/9 4)for i=1:size(D,1)-1 C02Cbo1 5 0/9 0/9 5/0 ①forj=i+1:size(D,1) 考虑到语义重合度与语义距离可互相换算， a)根据式(10)计算文档i和文档j中所有关键 CD_Sim方法中词语相似度均采用语义重合度进行 词相似度，并按式(11)将计算结果存入相似度矩 计算，将语义重合度标准化公式： 阵Sim; b)将相似度矩阵Sim按式(12)进行计算，得到 Sim(A,B)= (10) 文档i和文档j的相似度SM(d:,d;): 将关键词转化为编码可以更加直观表示关键 ②End 词在词典中所属类别，在关键词相似度计算过程中 5)End 直接通过编码计算，不需要多次访问语义知识库， 6)得出样本D中所有文本间相似度集合Z。 提高了计算的时间效率。 根据方法介绍，CD_Sim方法与CL_Sim方法时 2.2相似度计算 间复杂度均为O(n2),ZW_Sim方法时间复杂度为 文本相似度计算建立在词语相似性度量之上， 03(n2)。 每个关键词与对比文档中关键词的距离取该关键 3仿真实验 词与对比文档中所有关键词相似度的最大值。设 为检验CD_Sim方法的结果在应用中的准确性 文档d1(1,2,…,lp)(p=1,2,…,x)有x个关键词， 与时间效率，从搜狗分类语料库2]中随机选择5类 文档d2(1,42,…,l)(9=1,2,…,y)有y个关键词， 数据作为实验样本，采用中科院分词软件对样本进 计算d,与d,中所有关键词的相似度矩阵 行预处理，通过T℉×DF方法对处理结果进行关键 S11 512.S1g 词提取，选择基于语义知识规则和基于统计两类词 S22 Sim= S21 52g (11) 语相似性度量方法作为对比方法，用聚类与分类两 种方法对相似性度量结果进行检验。文中文本相 似性度量方法仿真实验对每篇文档取词语权值排 式中：s表示文档d,中的第p个关键词与文档d 序前15位词语作为文本关键词进行数值实验
则根据 ａ１⇔ｂ１ ，ａ２⇔ｂ２ ，ａ３⇔ｂ３ 前三对编码位相同， 语义重合度（即相同父节点数）记为 ３，语义距离（即 从末位编码开始向上遍历编码位，经过第一共同编 码位再到另一编码末位编码所经过的不同编码位 的路径数）表示为 ａ５→ａ４→ｂ４→ｂ５ ，记为 ３。 根据语 义重合度和语义距离的概念与计算规则，通过换 算，得到任意两编码语义距离公式为 ｋ２ ＝ ９ － ２ × ｋ１ ， ｋ１ ＜ ５ ０， ｋ１ ＝ ５ { （９） 根据编码语义重合度和语义距离的计算公式， 列出 ３ 个编码，分别求两两编码的语义重合度和语 义距离，验证计算公式的正确性与可行性。 二者换 算示例如表 ２。 表 ２ 语义重合度与语义距离换算示例 Ｔａｂｌｅ ２ Ｅｘａｍｐｌｅ ｏｆ ｃｏｎｖｅｒｓｉｏｎ ｂｅｔｗｅｅｎ ｃｏｉｎｃｉｄｅｎｃｅ ａｎｄ ｄｉｓｔａｎｃｅ ｏｆ ｓｅｍａｎｔｉｃ 编码 深度 重合度／ 距离 Ｂ０３Ｃｃ０４ Ｂ０３Ｄｃ０３ Ｃ０２Ｃｂ０１ Ｂ０３Ｃｃ０４ ５ ５ ／ ０ ２ ／ ５ ０ ／ ９ Ｂ０３Ｄｃ０３ ５ ２ ／ ５ ５ ／ ０ ０ ／ ９ Ｃ０２Ｃｂ０１ ５ ０ ／ ９ ０ ／ ９ ５ ／ ０ 考虑到语义重合度与语义距离可互相换算， ＣＤ＿Ｓｉｍ 方法中词语相似度均采用语义重合度进行 计算，将语义重合度标准化公式： Ｓｉｍ（Ａ，Ｂ） ＝ ｋ１ ５ （１０） 将关键词转化为编码可以更加直观表示关键 词在词典中所属类别，在关键词相似度计算过程中 直接通过编码计算，不需要多次访问语义知识库， 提高了计算的时间效率。 ２．２ 相似度计算 文本相似度计算建立在词语相似性度量之上， 每个关键词与对比文档中关键词的距离取该关键 词与对比文档中所有关键词相似度的最大值。 设 文档 ｄ１（ｔ １ ，ｔ ２ ，…，ｔ ｐ）（ｐ ＝ １，２，…，ｘ）有 ｘ 个关键词， 文档 ｄ２（ｔ １ ，ｔ ２ ，…，ｔ ｑ）（ｑ ＝ １，２，…，ｙ）有 ｙ 个关键词， 计算 ｄ１ 与 ｄ２ 中所有关键词的相似度矩阵 Ｓｉｍ ＝ ｓ１１ ｓ１２ … ｓ１ｑ ｓ２１ ｓ２２ … ｓ２ｑ ︙ ︙ ︙ ｓｐ１ ｓｐ２ … ｓｐｑ é ë ê ê ê ê êê ù û ú ú ú ú úú （１１） 式中：ｓｐｑ表示文档 ｄ１ 中的第 ｐ 个关键词与文档 ｄ２ 中的第 ｑ 个关键词的相似度。 根据两文本关键词相 似度矩阵可求文本相似度为 ＳＩＭ（ｄ１，ｄ２）＝ ∑ ｘ ｐ ＝１ ｍａｘ（ｓｐ１，ｓｐ２，…，ｓｐｙ）＋∑ ｙ ｑ ＝１ ｍａｘ（ｓ１ｑ，ｓ２ｑ，…，ｓｘｑ） ｘ ＋ ｙ （１２） 关键词与比较文本关键词相似度取该关键词 与比较文本所有关键词相似度最大值，即对关键词 相似度矩阵每行每列均取最大值，平均值即为两文 本相似度。 基于现代汉语分类词典的文本相似性度量算 法 Ｚ ＝ＣＤ＿Ｓｉｍ（Ｄ）： 输入 待分析样本 Ｄ； 输出 样本 Ｄ 中所有文本间相似度集合 Ｚ。 １）对样本 Ｄ 中所有文档进行分词、过滤停用词 处理； ２）对处理后的结果构建词语－文档频数矩阵， 并结合 ＴＦ×ＩＤＦ 方法构建样本的向量空间模型 Ｄ′； ３）根据向量空间模型 Ｄ′对每篇文档按照一定 的规则进行关键词提取； ４）ｆｏｒ ｉ ＝ １：ｓｉｚｅ（Ｄ，１）－１ ①ｆｏｒ ｊ ＝ ｉ＋１：ｓｉｚｅ（Ｄ，１） ａ）根据式（１０）计算文档 ｉ 和文档 ｊ 中所有关键 词相似度，并按式（１１） 将计算结果存入相似度矩 阵 Ｓｉｍ； ｂ）将相似度矩阵 Ｓｉｍ 按式（１２）进行计算，得到 文档 ｉ 和文档 ｊ 的相似度 ＳＩＭ（ｄｉ，ｄｊ）； ②Ｅｎｄ ５）Ｅｎｄ ６）得出样本 Ｄ 中所有文本间相似度集合 Ｚ。 根据方法介绍，ＣＤ＿Ｓｉｍ 方法与 ＣＬ＿Ｓｉｍ 方法时 间复杂度均为 Ｏ（ ｎ ２ ），ＺＷ＿Ｓｉｍ 方法时间复杂度为 Ｏ ３ （ｎ ２ ）。 ３ 仿真实验 为检验 ＣＤ＿Ｓｉｍ 方法的结果在应用中的准确性 与时间效率，从搜狗分类语料库［２５］ 中随机选择 ５ 类 数据作为实验样本，采用中科院分词软件对样本进 行预处理，通过 ＴＦ×ＩＤＦ 方法对处理结果进行关键 词提取，选择基于语义知识规则和基于统计两类词 语相似性度量方法作为对比方法，用聚类与分类两 种方法对相似性度量结果进行检验。 文中文本相 似性度量方法仿真实验对每篇文档取词语权值排 序前 １５ 位词语作为文本关键词进行数值实验。 第 ４ 期 李海林，等：基于分类词典的文本相似性度量方法 ·５５９·
·560 智能系统学报 第12卷 3.1实验数据与实验设计 算法，K值取[10,20，…，100]这10组数据值进行实 实验语料数据选自搜狗实验室提供的搜狗分 验，每种聚类检验方法中均取熵值最小且纯净度最 类语料库，该语料库包含了环境、计算机、交通、教 高的实验结果作为基于LSA的相似性度量算法的 育、经济、军事、体育、医药、艺术和政治10个类别文 实验结果。 本文档。 根据聚类实验结果分析，对4种相似性度量方 数值实验选取了环境、交通、政治、教育、体育5 法进行比较。AP聚类中，CD_Sim方法聚类结果最 个类别，每个类别随机选取20个文本文档共100个 好，但数值实验样本仅包含5类文档，CD_Sim方法 文本文档进行实验。实验中通过TF_DF特征选择 聚类数目达18种，存在一定的不合理性。在谱聚类 方法在100个文本中分别选择15个关键词进行相 算法中，CD_Sim方法聚类检验结果明显优于其他 似性度量，其中，由于基于统计方法的特殊性，该类 相似性度量方法，在4种相似性度量方法中，嫡值最 方法采用整个词语-文档权重矩阵进行相似度 小，纯净度最高。Kmeans聚类算法中，CD_Sim方法 计算。 实验结果纯净度较低、嫡值较大，但结果仍优于其 实验选择基于LSA的文本相似性度量方法、基 他相似性度量方法。 于词林的文本相似性度量方法和基于知网的语义 根据实验结果，对3种基于语义知识规则的相 相似性度量方法作为对比方法，分别采用AP聚类、 似性度量方法聚类实验结果进行比较分析，CD_Sim Kmeans聚类、谱聚类以及KNN分类对相似性度量 方法实验结果优于CL_Sim方法和ZW_Sim方法，聚 结果进行检验。 类熵值最小、纯净度最高。 3.2聚类分析 3.3分类实验 相似性度量结果的好坏直接影响文本聚类算 分类检验采用KNN算法进行分析，算法从每个 法的精度，在已知文档类别的样本中，聚类精度可 类别样本中均选取一半作为已知类别样本，剩下一 以反过来检验文本相似性度量结果的好坏。比较 半作为实验集，检验结果以分类准确率进行度量， 经典的基于距离矩阵的聚类算法有Kmeans,AP聚 分类算法K值分别取[1,2，…，10]，得出10组不同 类及后来发展起来的谱聚类算法等。Kmeans与谱 K值下的KNN分类结果并取平均值mean。采用不 聚类算法均是给定聚类数目的聚类算法，时间复杂 的相似性度量方法作为文本之间近似性度量方法， 度低，聚类准确度高：在聚类数目未知的情况下，上 结合KNN方法进行数值实验，其实验结果如表4 述两种方法聚类结果会产生较大的偏差。AP聚类 所示。 没有事先给定聚类数目，根据数据自身的特性进行 表4基于分类检验方法的数据实验结果 聚类，聚类结果与聚类对象特征更加吻合。将相似 Table 4 Experiment results based on classified method 性度量方法实验结果做聚类分析，数值实验结果如 分类 表3。 方法 -mean 12345678910 表3基于聚类检验方法的数据实验结果 CL_Sim0.600.580.640.640.720.680.700.620.700.780.67 Table 3 Experiment results based on clustering method ZW Sim0.220.240.240.260.240.260.260.240.260.28025 Spectral Kmeans AP聚类 CD Sim0.800.840.840.900.900.840.880.900.860.840.86 方法 聚类 聚类 LSA Sim0.820.840.840.840.840.840.860.760.780.800.82 NUM 嫡值纯净度熵值纯净度嫡值纯净度 数值实验结果表明，4种相似性度量方法中」 CL Sim 14 0.960.741.76 0.47 1.84 0.41 CD_Sim方法分类实验结果最好，分类准确率最高， ZW Sim 9 2.130.28 1.84 0.41 2.22 0.24 LSA Sim方法实验结果次之，优于其他方法分类实 CD Sim 18 0.330.900.900.821.26 0.66 验结果。3种基于语义知识规则的相似性度量方法 LSA Sim180.600.851.600.501.680.51 分类检验结果进行比较，CD_Sim方法分类实验结 数值实验中，聚类结果通过熵值和纯净度来度 果优于CL_Sim方法和ZW_Sim方法，分类准确度 量。聚类结果嫡值越低、纯净度越高，则聚类结果 最高。 越好。NUM记录了将各相似性度量方法结果进行 3.4时间复杂度分析 AP聚类所得聚类类别数。基于LSA的相似性度量 实验中方法的时间复杂度是除准确性外方法
３．１ 实验数据与实验设计 实验语料数据选自搜狗实验室提供的搜狗分 类语料库，该语料库包含了环境、计算机、交通、教 育、经济、军事、体育、医药、艺术和政治 １０ 个类别文 本文档。 数值实验选取了环境、交通、政治、教育、体育 ５ 个类别，每个类别随机选取 ２０ 个文本文档共 １００ 个 文本文档进行实验。 实验中通过 ＴＦ＿ＩＤＦ 特征选择 方法在 １００ 个文本中分别选择 １５ 个关键词进行相 似性度量，其中，由于基于统计方法的特殊性，该类 方法采用整个词语 － 文档权重矩阵进行相似度 计算。 实验选择基于 ＬＳＡ 的文本相似性度量方法、基 于词林的文本相似性度量方法和基于知网的语义 相似性度量方法作为对比方法，分别采用 ＡＰ 聚类、 Ｋｍｅａｎｓ 聚类、谱聚类以及 ＫＮＮ 分类对相似性度量 结果进行检验。 ３．２ 聚类分析 相似性度量结果的好坏直接影响文本聚类算 法的精度，在已知文档类别的样本中，聚类精度可 以反过来检验文本相似性度量结果的好坏。 比较 经典的基于距离矩阵的聚类算法有 Ｋｍｅａｎｓ，ＡＰ 聚 类及后来发展起来的谱聚类算法等。 Ｋｍｅａｎｓ 与谱 聚类算法均是给定聚类数目的聚类算法，时间复杂 度低，聚类准确度高；在聚类数目未知的情况下，上 述两种方法聚类结果会产生较大的偏差。 ＡＰ 聚类 没有事先给定聚类数目，根据数据自身的特性进行 聚类，聚类结果与聚类对象特征更加吻合。 将相似 性度量方法实验结果做聚类分析，数值实验结果如 表 ３。 表 ３ 基于聚类检验方法的数据实验结果 Ｔａｂｌｅ ３ Ｅｘｐｅｒｉｍｅｎｔ ｒｅｓｕｌｔｓ ｂａｓｅｄ ｏｎ ｃｌｕｓｔｅｒｉｎｇ ｍｅｔｈｏｄ 方法 ＡＰ 聚类 Ｓｐｅｃｔｒａｌ 聚类 Ｋｍｅａｎｓ 聚类 ＮＵＭ 熵值 纯净度 熵值 纯净度 熵值 纯净度 ＣＬ＿Ｓｉｍ １４ ０．９６ ０．７４ １．７６ ０．４７ １．８４ ０．４１ ＺＷ＿Ｓｉｍ ９ ２．１３ ０．２８ １．８４ ０．４１ ２．２２ ０．２４ ＣＤ＿Ｓｉｍ １８ ０．３３ ０．９０ ０．９０ ０．８２ １．２６ ０．６６ ＬＳＡ＿Ｓｉｍ １８ ０．６０ ０．８５ １．６０ ０．５０ １．６８ ０．５１ 数值实验中，聚类结果通过熵值和纯净度来度 量。 聚类结果熵值越低、纯净度越高，则聚类结果 越好。 ＮＵＭ 记录了将各相似性度量方法结果进行 ＡＰ 聚类所得聚类类别数。 基于 ＬＳＡ 的相似性度量 算法，Ｋ 值取［１０，２０，…，１００］这 １０ 组数据值进行实 验，每种聚类检验方法中均取熵值最小且纯净度最 高的实验结果作为基于 ＬＳＡ 的相似性度量算法的 实验结果。 根据聚类实验结果分析，对 ４ 种相似性度量方 法进行比较。 ＡＰ 聚类中，ＣＤ＿Ｓｉｍ 方法聚类结果最 好，但数值实验样本仅包含 ５ 类文档，ＣＤ＿Ｓｉｍ 方法 聚类数目达 １８ 种，存在一定的不合理性。 在谱聚类 算法中，ＣＤ＿Ｓｉｍ 方法聚类检验结果明显优于其他 相似性度量方法，在 ４ 种相似性度量方法中，熵值最 小，纯净度最高。 Ｋｍｅａｎｓ 聚类算法中，ＣＤ＿Ｓｉｍ 方法 实验结果纯净度较低、熵值较大，但结果仍优于其 他相似性度量方法。 根据实验结果，对 ３ 种基于语义知识规则的相 似性度量方法聚类实验结果进行比较分析，ＣＤ＿Ｓｉｍ 方法实验结果优于 ＣＬ＿Ｓｉｍ 方法和 ＺＷ＿Ｓｉｍ 方法，聚 类熵值最小、纯净度最高。 ３．３ 分类实验 分类检验采用 ＫＮＮ 算法进行分析，算法从每个 类别样本中均选取一半作为已知类别样本，剩下一 半作为实验集，检验结果以分类准确率进行度量， 分类算法 Ｋ 值分别取［１，２，…，１０］，得出 １０ 组不同 Ｋ 值下的 ＫＮＮ 分类结果并取平均值 ｍｅａｎ。 采用不 的相似性度量方法作为文本之间近似性度量方法， 结合 ＫＮＮ 方法进行数值实验， 其实验结果如表 ４ 所示。 表 ４ 基于分类检验方法的数据实验结果 Ｔａｂｌｅ ４ Ｅｘｐｅｒｉｍｅｎｔ ｒｅｓｕｌｔｓ ｂａｓｅｄ ｏｎ ｃｌａｓｓｉｆｉｅｄ ｍｅｔｈｏｄ 方法 分类 １ ２ ３ ４ ５ ６ ７ ８ ９ １０ ｍｅａｎ ＣＬ＿Ｓｉｍ ０．６０ ０．５８ ０．６４ ０．６４ ０．７２ ０．６８ ０．７０ ０．６２ ０．７０ ０．７８ ０．６７ ＺＷ＿Ｓｉｍ ０．２２ ０．２４ ０．２４ ０．２６ ０．２４ ０．２６ ０．２６ ０．２４ ０．２６ ０．２８ ０．２５ ＣＤ＿Ｓｉｍ ０．８０ ０．８４ ０．８４ ０．９０ ０．９０ ０．８４ ０．８８ ０．９０ ０．８６ ０．８４ ０．８６ ＬＳＡ＿Ｓｉｍ ０．８２ ０．８４ ０．８４ ０．８４ ０．８４ ０．８４ ０．８６ ０．７６ ０．７８ ０．８０ ０．８２ 数值实验结果表明，４ 种相似性度量方法中， ＣＤ＿Ｓｉｍ 方法分类实验结果最好，分类准确率最高， ＬＳＡ＿Ｓｉｍ 方法实验结果次之，优于其他方法分类实 验结果。 ３ 种基于语义知识规则的相似性度量方法 分类检验结果进行比较，ＣＤ＿Ｓｉｍ 方法分类实验结 果优于 ＣＬ＿Ｓｉｍ 方法和 ＺＷ＿Ｓｉｍ 方法，分类准确度 最高。 ３．４ 时间复杂度分析 实验中方法的时间复杂度是除准确性外方法 ·５６０· 智 能 系 统 学 报 第 １２ 卷
第4期 李海林，等：基于分类词典的文本相似性度量方法 ·561. 可行性的重要指标，实验过程中对各方法100个文 于分类词典的文本相似性度量方法，对样本进行分 档的相似度矩阵计算时间计时，结果如表5。 词、计算词语权重、提取文本关键词等一系列基本 表5相似性度量方法时间复杂度 处理，定义基于关键词编码的词语相似度计算公 Table 5 Time complexity of similarity measure method 式，构建文档关键词相似度矩阵，根据关键词相似 方法 CL Sim ZW Sim CD Sim LSA Sim 度矩阵计算文档相似度。通过聚类与分类实验对 时间/s10266 10146825734 10.6 相似性度量结果进行验证，验证了该方法的合理 根据表5实验数据，4种文本相似性度量方法 性。方法采用分类词典作为知识库，分类词典相较 中，基于统计的文本相似性度量方法时间效率较 于词林和知网收录了更多的词语，词语编码匹配成 高，基于语义知识规则的文本相似性度量方法较基 功概率更高，对文本相似性度量影响较小：计算过 于统计的方法时间效率较低。在3种基于语义知识 程中仅在词语编码匹配一个阶段访问知识库，提高 规则的文本相似性度量方法中，CD_Sim方法时间 了基于语义知识库方法的时间效率：提出了新的词 效率最高，CL_Sim方法时间效率次之，ZW_Sim方 语相似度计算方法，计算结果优于其他基于语义知 法时间效率最低。CD_Sim方法遍历知识库的次数 识库的方法。由于各领域的发展都会不断产生新 为样本中所有文档关键词的个数m,CL_Sim方法遍 的词语，文本实验过程中出现部分分类词典中未收 历知识库次数为(m+0(n2)),ZW_Sim方法遍历知 录的词语，这部分词语不参加文本相似度计算，一 识库次数为m。综合文本相似性度量方法时间复杂 定程度上会导致实验结果的误差：相较于基于统计 度与遍历知识库的次数，CD_Sim方法在3种基于语 的相似度计算方法，方法的时间效率有待提高。在 义知识规则的文本相似性度量方法中时间效率 保证方法准确度的前提下提高时间效率是CD_Sim 最高。 方法未来的研究方向。 3.5方差分析 参考文献： 方法的稳定性也是方法可行性的重要指标。 通常方差用来检验数据的稳定性，方差值越小，数 [1]李海林，郭韧，万校基.基于特征矩阵的多元时间序列最 小距离度量方法[J].智能系统学报，2015,10(3)：442 据越稳定。分别对4种方法的4个实验结果准确率 447,2015 求方差，来验证4种相似性度量方法实验稳定性： LI Hailin,GUO Ren,WAN Xiaoji.A minimum distance 根据表6，ZW_Sim方法实验结果最稳定，CD measurement method for a multivariate time series based on Sim方法次之，LSA_Sim方法方差最大，实验结果稳 the feature matrixJ.CAAI transactions on intelligent 定性相对较差。 systems,2015,10(3):442-447. [2]XU R,WUNSCH D.Survey of clustering algorithms [J]. 表6相似性度量方法方差 IEEE transactions on neural networks,2005,16(3): Table 6 Variance of similarity measure method 645-678. 方法 CL Sim ZW Sim CD Sim LSA_Sim [3]CHEN Wei,HUO Junge.Judicial determination of malicious 方差 0.019 0.005 0.008 0.027 forwarding cyber false information[J].Journal of Chongqing university:social science edition,2017(5):103-113. 综合聚类实验、分类实验、时间复杂度和稳定 [4]苗传江.HNC(概念层次网络理论)引导[M].北京：清华 性，CD_Sim方法准确性优于对比方法，稳定性优于 大学出版社，2005. 大部分对比方法，时间效率优于其他基于语义知识 [5 PARK E K,RA D Y,JANG M G.Techniques for 规则的对比方法，对比基于统计的方法时间效率仍 improving web retrieval effectiveness[].Information 有差距。 processing and management,2005,41(5):1207-1223. [6]WordNet Documentation EB/OL].2010-10-27]. 4结束语 http://wordnet.princeton.edu/wordnet/documentation/. [7]RICHARDSON S D,DOLAN W B.VANDERWENDE L. 文本相似性计算的关键在于关键词相似度计 MindNet:Acquiring and structuring semantic information 算，文本可以看作词语的集合，关键词根据其提取 from text C ]//Proceeding of the 17th International Conference on Computer Linguistics Volume 2.Stroudsburg: 方法认为是不同筛选程度下文本中能够区别于其 Association for Computational Linguistics,1998:1098-1102. 他文本的词语，各位学者的语义方法均是在不同程 [8]BAKER C F,FILLMORE C J,LOWE J B.The Berkeley 度关键词筛选结果的基础上进行。文章提出了基 framenet project [C]//Proceeding of the 36th Annual
可行性的重要指标，实验过程中对各方法 １００ 个文 档的相似度矩阵计算时间计时，结果如表 ５。 表 ５ 相似性度量方法时间复杂度 Ｔａｂｌｅ ５ Ｔｉｍｅ ｃｏｍｐｌｅｘｉｔｙ ｏｆ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｍｅｔｈｏｄ 方法 ＣＬ＿Ｓｉｍ ＺＷ＿Ｓｉｍ ＣＤ＿Ｓｉｍ ＬＳＡ＿Ｓｉｍ 时间／ ｓ １０ ２６６ １ ０１４ ６８２ ５ ７３４ １０．６ 根据表 ５ 实验数据，４ 种文本相似性度量方法 中，基于统计的文本相似性度量方法时间效率较 高，基于语义知识规则的文本相似性度量方法较基 于统计的方法时间效率较低。 在 ３ 种基于语义知识 规则的文本相似性度量方法中，ＣＤ＿Ｓｉｍ 方法时间 效率最高，ＣＬ＿Ｓｉｍ 方法时间效率次之，ＺＷ＿Ｓｉｍ 方 法时间效率最低。 ＣＤ＿Ｓｉｍ 方法遍历知识库的次数 为样本中所有文档关键词的个数 ｍ，ＣＬ＿Ｓｉｍ 方法遍 历知识库次数为（ｍ＋Ｏ（ ｎ ２ ）），ＺＷ＿Ｓｉｍ 方法遍历知 识库次数为 ｍ。 综合文本相似性度量方法时间复杂 度与遍历知识库的次数，ＣＤ＿Ｓｉｍ 方法在 ３ 种基于语 义知识规则的文本相似性度量方法中时间效率 最高。 ３．５ 方差分析 方法的稳定性也是方法可行性的重要指标。 通常方差用来检验数据的稳定性，方差值越小，数 据越稳定。 分别对 ４ 种方法的 ４ 个实验结果准确率 求方差，来验证 ４ 种相似性度量方法实验稳定性： 根据表 ６，ＺＷ＿Ｓｉｍ 方法实验结果最稳定，ＣＤ＿ Ｓｉｍ 方法次之，ＬＳＡ＿Ｓｉｍ 方法方差最大，实验结果稳 定性相对较差。 表 ６ 相似性度量方法方差 Ｔａｂｌｅ ６ Ｖａｒｉａｎｃｅ ｏｆ ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅ ｍｅｔｈｏｄ 方法 ＣＬ＿Ｓｉｍ ＺＷ＿Ｓｉｍ ＣＤ＿Ｓｉｍ ＬＳＡ＿Ｓｉｍ 方差 ０．０１９ ０．００５ ０．００８ ０．０２７ 综合聚类实验、分类实验、时间复杂度和稳定 性，ＣＤ＿Ｓｉｍ 方法准确性优于对比方法，稳定性优于 大部分对比方法，时间效率优于其他基于语义知识 规则的对比方法，对比基于统计的方法时间效率仍 有差距。 ４ 结束语 文本相似性计算的关键在于关键词相似度计 算，文本可以看作词语的集合，关键词根据其提取 方法认为是不同筛选程度下文本中能够区别于其 他文本的词语，各位学者的语义方法均是在不同程 度关键词筛选结果的基础上进行。 文章提出了基 于分类词典的文本相似性度量方法，对样本进行分 词、计算词语权重、提取文本关键词等一系列基本 处理，定义基于关键词编码的词语相似度计算公 式，构建文档关键词相似度矩阵，根据关键词相似 度矩阵计算文档相似度。 通过聚类与分类实验对 相似性度量结果进行验证，验证了该方法的合理 性。 方法采用分类词典作为知识库，分类词典相较 于词林和知网收录了更多的词语，词语编码匹配成 功概率更高，对文本相似性度量影响较小；计算过 程中仅在词语编码匹配一个阶段访问知识库，提高 了基于语义知识库方法的时间效率；提出了新的词 语相似度计算方法，计算结果优于其他基于语义知 识库的方法。 由于各领域的发展都会不断产生新 的词语，文本实验过程中出现部分分类词典中未收 录的词语，这部分词语不参加文本相似度计算，一 定程度上会导致实验结果的误差；相较于基于统计 的相似度计算方法，方法的时间效率有待提高。 在 保证方法准确度的前提下提高时间效率是 ＣＤ＿Ｓｉｍ 方法未来的研究方向。 参考文献： ［１］李海林，郭韧，万校基．基于特征矩阵的多元时间序列最 小距离度量方法［Ｊ］．智能系统学报， ２０１５， １０（３）： ４４２－ ４４７， ２０１５． ＬＩ Ｈａｉｌｉｎ， ＧＵＯ Ｒｅｎ， ＷＡＮ Ｘｉａｏｊｉ． Ａ ｍｉｎｉｍｕｍ ｄｉｓｔａｎｃｅ ｍｅａｓｕｒｅｍｅｎｔ ｍｅｔｈｏｄ ｆｏｒ ａ ｍｕｌｔｉｖａｒｉａｔｅ ｔｉｍｅ ｓｅｒｉｅｓ ｂａｓｅｄ ｏｎ ｔｈｅ ｆｅａｔｕｒｅ ｍａｔｒｉｘ ［ Ｊ ］． ＣＡＡＩ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１５， １０（３）： ４４２－４４７． ［２］ ＸＵ Ｒ， ＷＵＮＳＣＨ Ｄ． Ｓｕｒｖｅｙ ｏｆ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔｈｍｓ ［ Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ， ２００５， １６ （ ３ ）： ６４５－６７８． ［３］ＣＨＥＮ Ｗｅｉ， ＨＵＯ Ｊｕｎｇｅ． Ｊｕｄｉｃｉａｌ ｄｅｔｅｒｍｉｎａｔｉｏｎ ｏｆ ｍａｌｉｃｉｏｕｓ ｆｏｒｗａｒｄｉｎｇ ｃｙｂｅｒ ｆａｌｓｅ ｉｎｆｏｒｍａｔｉｏｎ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｃｈｏｎｇｑｉｎｇ ｕｎｉｖｅｒｓｉｔｙ： ｓｏｃｉａｌ ｓｃｉｅｎｃｅ ｅｄｉｔｉｏｎ，２０１７（ ５） ： １０３－１１３． ［４］苗传江．ＨＮＣ（概念层次网络理论）引导［Ｍ］． 北京：清华 大学出版社，２００５． ［ ５ ］ ＰＡＲＫ Ｅ Ｋ， ＲＡ Ｄ Ｙ， ＪＡＮＧ Ｍ Ｇ． Ｔｅｃｈｎｉｑｕｅｓ ｆｏｒ ｉｍｐｒｏｖｉｎｇ ｗｅｂ ｒｅｔｒｉｅｖａｌ ｅｆｆｅｃｔｉｖｅｎｅｓｓ［Ｊ］． Ｉｎｆｏｒｍａｔｉｏｎ ｐｒｏｃｅｓｓｉｎｇ ａｎｄ ｍａｎａｇｅｍｅｎｔ， ２００５， ４１（５）： １２０７－１２２３． ［６ ］ ＷｏｒｄＮｅｔ Ｄｏｃｕｍｅｎｔａｔｉｏｎ ［ ＥＢ／ ＯＬ］． ［ ２０１０ － １０ － ２７ ］． ｈｔｔｐ： ／ ／ ｗｏｒｄｎｅｔ．ｐｒｉｎｃｅｔｏｎ．ｅｄｕ ／ ｗｏｒｄｎｅｔ ／ ｄｏｃｕｍｅｎｔａｔｉｏｎ ／ ． ［７］ ＲＩＣＨＡＲＤＳＯＮ Ｓ Ｄ， ＤＯＬＡＮ Ｗ Ｂ． ＶＡＮＤＥＲＷＥＮＤＥ Ｌ． ＭｉｎｄＮｅｔ： Ａｃｑｕｉｒｉｎｇ ａｎｄ ｓｔｒｕｃｔｕｒｉｎｇ ｓｅｍａｎｔｉｃ ｉｎｆｏｒｍａｔｉｏｎ ｆｒｏｍ ｔｅｘｔ ［ Ｃ ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇ ｏｆ ｔｈｅ １７ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｌｉｎｇｕｉｓｔｉｃｓ Ｖｏｌｕｍｅ ２． Ｓｔｒｏｕｄｓｂｕｒｇ： Ａｓｓｏｃｉａｔｉｏｎ ｆｏｒ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ， １９９８： １０９８－１１０２． ［８］ＢＡＫＥＲ Ｃ Ｆ， ＦＩＬＬＭＯＲＥ Ｃ Ｊ， ＬＯＷＥ Ｊ Ｂ． Ｔｈｅ Ｂｅｒｋｅｌｅｙ ｆｒａｍｅｎｅｔ ｐｒｏｊｅｃｔ ［ Ｃ ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇ ｏｆ ｔｈｅ ３６ｔｈ Ａｎｎｕａｌ 第 ４ 期 李海林，等：基于分类词典的文本相似性度量方法 ·５６１·
.562. 智能系统学报 第12卷 Meeting of the Association for Computational Linguistics and [18]郑红艳，张东站.基于同义词词林的文本特征选择方法 17th International Conference on Computer Linguistics [J].厦门大学学报：自然科学版，2012,5(2)：200 Volume 1.Stroudsburg:Association for Computational -203. Linguistics,1998:86-90. ZHENG Hongyan,ZHANG Dongzhan.A text feature [9]翟延东，王康平一种基于WordNet的短文本语义相似 selection method based on TongYiCi CiLin[J].Journal of 性算法[J].电子学报，2012,40(3)：617-620. Xiamen University:Natural Science,2012,5(2):200 ZHAI Yandong,WANG Kangping.An algorithm for -203. semantic similarity of short text based on WordNet[J].Acta [19]苏新春.现代汉语分类词典[M].上海：商务印书 electronica sinica,2012,40(3):617-620. 馆，2013. [10]梅家驹，竺一鸣，高蕴琦，等同义词词林[M].上海：上 [20]SALTON G.The transformation analysis and retrival of 海辞书出版社，1996. information by computer[M].Wesley Reading Massach- [I1]董振东，董强.知网简[EB/OL].htp:/www. uetts,1989. keenage.com. [21]FREY B J,DUECK D.Clustering by passing messages [12]刘群，李素建.基于“知网”的词汇语义相似度计算 between data points J].Science,2007,315(5814): [C]/第三届汉语词汇语义学研究会论文集.台北，中 972-976. 国，2002：59-76. [22 FORGY E W.Cluster analysis of multivariate data: [13]林丽，薛方，任仲晟.一种改进的基于知网的词语相似 efficiency versus interpretability of classifications[J]. 度计算方法[J].计算机应用，2009,29(1)：217-220. Biometric,1965,21:768-769. LIN Li,XUE Fang,REN Zhongsheng.Modified word [23]丁世飞，贾洪杰.基于自适应Nystrom采样的大数据谱 similarity computation approach based on Hownet[J]. 聚类算法[J].软件学报，2014,25(9)：2037-2049. Journal of computer applications,2009,29(1):217-220. DING Shifei,JIA Hongjie.Spectral clustering algorit-hm [14]王小林，杨林，王东.基于知网的新词语相似度算法研 based on adaptive nystrom sampling for big data analysis 究[J].情报科学，2015,33(2)：67-71. [J].Journal of software,2014,25(9):2037-2049. WANG Xiaolin,YANG Lin,WANG Dong.New word [24]WU Xindong,KUMAR V,QUINLAN J R,et al.Top 10 similarity algorithm research based on HowNet J]. algorit-hms in data mining[J].Knowledge and information Information science,2015,33(2):67-71. systems,2008,14(1):1-37. [15]张亮，尹存燕基于语义树的中文词语相似度计算与分 [25]搜狗实验室语料[EB/OL].htp:/ww.sogou..com/ 析[J刀.中文信息学报，2007,21(3)：99-105 labs/resource/list_yuliao.php. ZHANG Liang,YIN Cunyan.Chinese word similarity 作者简介： computing based on semantic tree[J].Journal of Chinese 李海林，男.1982年生，副教授，博 information processing,2007,21(3):99-105. 士，主要研究方向为数据挖掘与决策支 [16]田久乐，赵蔚.基于同义词词林的词语相似度计算方法 持，主持国家自然科学基金1项和省部 [J].吉林大学学报：信息科学版，2010,26(6)：602 级基金2项，发表学术论文40余篇，其 -608. 中被SCI检索11篇，EI检索20余篇。 TIAN Jiule,ZHAO Wei.Word similarity algorithm based on Yongyici Cilin in Semantic Web adaptive learning system[J].Journal of Jilin university:information science 邹金串，女，1993年生，硕士研究 edition,2010,26(6):602-608. 生，主要研究方向为文本挖掘。 [17]徐庆，段利国基于实体语义相似度的中文实体关系抽 取[J].山东大学学报：工学版，2015,45(6)：7-14. XU Qing,DUAN Liguo.Chinese entity relation extraction based on entity semantic similarity[]].Journal of Shandong university:engineering science,2015,45(6): 7-14
Ｍｅｅｔｉｎｇ ｏｆ ｔｈｅ Ａｓｓｏｃｉａｔｉｏｎ ｆｏｒ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ ａｎｄ １７ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｌｉｎｇｕｉｓｔｉｃｓ Ｖｏｌｕｍｅ １． Ｓｔｒｏｕｄｓｂｕｒｇ： Ａｓｓｏｃｉａｔｉｏｎ ｆｏｒ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ， １９９８： ８６－９０． ［９］翟延东，王康平． 一种基于 ＷｏｒｄＮｅｔ 的短文本语义相似 性算法［Ｊ］． 电子学报， ２０１２， ４０（３）： ６１７－６２０． ＺＨＡＩ Ｙａｎｄｏｎｇ， ＷＡＮＧ Ｋａｎｇｐｉｎｇ． Ａｎ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｓｅｍａｎｔｉｃ ｓｉｍｉｌａｒｉｔｙ ｏｆ ｓｈｏｒｔ ｔｅｘｔ ｂａｓｅｄ ｏｎ ＷｏｒｄＮｅｔ［Ｊ］． Ａｃｔａ ｅｌｅｃｔｒｏｎｉｃａ ｓｉｎｉｃａ， ２０１２， ４０（３）： ６１７－６２０． ［１０］梅家驹，竺一鸣，高蕴琦，等．同义词词林［Ｍ］．上海：上 海辞书出版社，１９９６． ［１１ ］ 董 振 东， 董 强． 知 网 简 ［ ＥＢ／ ＯＬ ］． ｈｔｔｐ： ／ ／ ｗｗｗ． ｋｅｅｎａｇｅ．ｃｏｍ． ［１２］刘群，李素建． 基于“知网” 的词汇语义相似度计算 ［Ｃ］ ／ ／ 第三届汉语词汇语义学研究会论文集．台北，中 国， ２００２： ５９－７６． ［１３］林丽，薛方，任仲晟． 一种改进的基于知网的词语相似 度计算方法［ Ｊ］．计算机应用，２００９， ２９（ １）： ２１７－ ２２０． ＬＩＮ Ｌｉ， ＸＵＥ Ｆａｎｇ， ＲＥＮ Ｚｈｏｎｇｓｈｅｎｇ． Ｍｏｄｉｆｉｅｄ ｗｏｒｄ ｓｉｍｉｌａｒｉｔｙ ｃｏｍｐｕｔａｔｉｏｎ ａｐｐｒｏａｃｈ ｂａｓｅｄ ｏｎ Ｈｏｗｎｅｔ ［ Ｊ ］． Ｊｏｕｒｎａｌ ｏｆ ｃｏｍｐｕｔｅｒ ａｐｐｌｉｃａｔｉｏｎｓ， ２００９， ２９（１）： ２１７－２２０． ［１４］王小林，杨林，王东． 基于知网的新词语相似度算法研 究［Ｊ］． 情报科学， ２０１５， ３３（２）： ６７－７１． ＷＡＮＧ Ｘｉａｏｌｉｎ， ＹＡＮＧ Ｌｉｎ， ＷＡＮＧ Ｄｏｎｇ． Ｎｅｗ ｗｏｒｄ ｓｉｍｉｌａｒｉｔｙ ａｌｇｏｒｉｔｈｍ ｒｅｓｅａｒｃｈ ｂａｓｅｄ ｏｎ ＨｏｗＮｅｔ ［ Ｊ ］． Ｉｎｆｏｒｍａｔｉｏｎ ｓｃｉｅｎｃｅ， ２０１５， ３３（２）： ６７－７１． ［１５］张亮，尹存燕．基于语义树的中文词语相似度计算与分 析［Ｊ］． 中文信息学报， ２００７， ２１（３）： ９９－１０５． ＺＨＡＮＧ Ｌｉａｎｇ， ＹＩＮ Ｃｕｎｙａｎ． Ｃｈｉｎｅｓｅ ｗｏｒｄ ｓｉｍｉｌａｒｉｔｙ ｃｏｍｐｕｔｉｎｇ ｂａｓｅｄ ｏｎ ｓｅｍａｎｔｉｃ ｔｒｅｅ［ Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｃｈｉｎｅｓｅ ｉｎｆｏｒｍａｔｉｏｎ ｐｒｏｃｅｓｓｉｎｇ， ２００７， ２１（３）： ９９－１０５． ［１６］田久乐，赵蔚． 基于同义词词林的词语相似度计算方法 ［Ｊ］． 吉林大学学报： 信息科学版，２０１０， ２６（ ６）： ６０２ －６０８． ＴＩＡＮ Ｊｉｕｌｅ， ＺＨＡＯ Ｗｅｉ． Ｗｏｒｄ ｓｉｍｉｌａｒｉｔｙ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ Ｙｏｎｇｙｉｃｉ Ｃｉｌｉｎ ｉｎ Ｓｅｍａｎｔｉｃ Ｗｅｂ ａｄａｐｔｉｖｅ ｌｅａｒｎｉｎｇ ｓｙｓｔｅｍ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｊｉｌｉｎ ｕｎｉｖｅｒｓｉｔｙ： ｉｎｆｏｒｍａｔｉｏｎ ｓｃｉｅｎｃｅ ｅｄｉｔｉｏｎ， ２０１０， ２６（６）： ６０２－６０８． ［１７］徐庆，段利国．基于实体语义相似度的中文实体关系抽 取［Ｊ］． 山东大学学报：工学版， ２０１５， ４５（６）： ７－１４． ＸＵ Ｑｉｎｇ， ＤＵＡＮ Ｌｉｇｕｏ． Ｃｈｉｎｅｓｅ ｅｎｔｉｔｙ ｒｅｌａｔｉｏｎ ｅｘｔｒａｃｔｉｏｎ ｂａｓｅｄ ｏｎ ｅｎｔｉｔｙ ｓｅｍａｎｔｉｃ ｓｉｍｉｌａｒｉｔｙ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｓｈａｎｄｏｎｇ ｕｎｉｖｅｒｓｉｔｙ： ｅｎｇｉｎｅｅｒｉｎｇ ｓｃｉｅｎｃｅ， ２０１５， ４５（６）： ７－１４． ［１８］郑红艳，张东站．基于同义词词林的文本特征选择方法 ［Ｊ］． 厦门大学学报：自然科学版， ２０１２， ５ （ ２）： ２００ －２０３． ＺＨＥＮＧ Ｈｏｎｇｙａｎ， ＺＨＡＮＧ Ｄｏｎｇｚｈａｎ． Ａ ｔｅｘｔ ｆｅａｔｕｒｅ ｓｅｌｅｃｔｉｏｎ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ＴｏｎｇＹｉＣｉ ＣｉＬｉｎ［ Ｊ］．Ｊｏｕｒｎａｌ ｏｆ Ｘｉａｍｅｎ Ｕｎｉｖｅｒｓｉｔｙ： Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ， ２０１２， ５ （ ２）： ２００ －２０３． ［１９］苏 新 春． 现 代 汉 语 分 类 词 典 ［ Ｍ］． 上 海： 商 务 印 书 馆， ２０１３． ［２０］ ＳＡＬＴＯＮ Ｇ． Ｔｈｅ ｔｒａｎｓｆｏｒｍａｔｉｏｎ ａｎａｌｙｓｉｓ ａｎｄ ｒｅｔｒｉｖａｌ ｏｆ ｉｎｆｏｒｍａｔｉｏｎ ｂｙ ｃｏｍｐｕｔｅｒ［Ｍ］． Ｗｅｓｌｅｙ Ｒｅａｄｉｎｇ Ｍａｓｓａｃｈ － ｕｅｔｔｓ， １９８９． ［２１］ ＦＲＥＹ Ｂ Ｊ， ＤＵＥＣＫ Ｄ． Ｃｌｕｓｔｅｒｉｎｇ ｂｙ ｐａｓｓｉｎｇ ｍｅｓｓａｇｅｓ ｂｅｔｗｅｅｎ ｄａｔａ ｐｏｉｎｔｓ ［ Ｊ ］． Ｓｃｉｅｎｃｅ， ２００７， ３１５ （ ５８１４ ）： ９７２－９７６． ［ ２２ ］ ＦＯＲＧＹ Ｅ Ｗ． Ｃｌｕｓｔｅｒ ａｎａｌｙｓｉｓ ｏｆ ｍｕｌｔｉｖａｒｉａｔｅ ｄａｔａ： ｅｆｆｉｃｉｅｎｃｙ ｖｅｒｓｕｓ ｉｎｔｅｒｐｒｅｔａｂｉｌｉｔｙ ｏｆ ｃｌａｓｓｉｆｉｃａｔｉｏｎｓ ［ Ｊ ］． Ｂｉｏｍｅｔｒｉｃ， １９６５， ２１： ７６８－７６９． ［２３］丁世飞，贾洪杰．基于自适应 Ｎｙｓｔｒｏｍ 采样的大数据谱 聚类算法［Ｊ］． 软件学报， ２０１４， ２５（９）： ２０３７－２０４９． ＤＩＮＧ Ｓｈｉｆｅｉ， ＪＩＡ Ｈｏｎｇｊｉｅ． Ｓｐｅｃｔｒａｌ ｃｌｕｓｔｅｒｉｎｇ ａｌｇｏｒｉｔ⁃ｈｍ ｂａｓｅｄ ｏｎ ａｄａｐｔｉｖｅ ｎｙｓｔｒｏｍ ｓａｍｐｌｉｎｇ ｆｏｒ ｂｉｇ ｄａｔａ ａｎａｌｙｓｉｓ ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｓｏｆｔｗａｒｅ， ２０１４， ２５（９）： ２０３７－２０４９． ［２４］ＷＵ Ｘｉｎｄｏｎｇ， ＫＵＭＡＲ Ｖ， ＱＵＩＮＬＡＮ Ｊ Ｒ， ｅｔ ａｌ． Ｔｏｐ １０ ａｌｇｏｒｉｔ⁃ｈｍｓ ｉｎ ｄａｔａ ｍｉｎｉｎｇ［Ｊ］． Ｋｎｏｗｌｅｄｇｅ ａｎｄ ｉｎｆｏｒｍａｔｉｏｎ ｓｙｓｔｅｍｓ， ２００８， １４（１）： １－３７． ［２５］ 搜 狗 实 验 室 语 料 ［ ＥＢ／ ＯＬ］． ｈｔｔｐ： ／ ／ ｗｗｗ． ｓｏｇｏｕ． ｃｏｍ／ ｌａｂｓ／ ｒｅｓｏｕｒｃｅ ／ ｌｉｓｔ＿ｙｕｌｉａｏ．ｐｈｐ． 作者简介： 李海林，男，１９８２ 年生，副教授，博 士，主要研究方向为数据挖掘与决策支 持，主持国家自然科学基金 １ 项和省部 级基金 ２ 项，发表学术论文 ４０ 余篇，其 中被 ＳＣＩ 检索 １１ 篇，ＥＩ 检索 ２０ 余篇。 邹金串，女，１９９３ 年生，硕士研究 生，主要研究方向为文本挖掘。 ·５６２· 智 能 系 统 学 报 第 １２ 卷