第10卷第3期 智能系统学报 Vol.10 No.3 2015年6月 CAAI Transactions on Intelligent Systems Jun.2015 D0:10.3969/j.issn.1673-4785.201403019 网络出版地址：http://www.cnki.net/kcms/detail/23.1538.tp.20150403.1732.001.html 社交网站中用户评论行为预测 孔庆超，毛文吉，张育浩 (中国科学院自动化研究所复杂系统管理与控制国家重点实验室，北京100190) 摘要：社交网站为用户相互交流、发表意见和观点提供了非常便利的平台。对社交网站的用户行为进行建模和预 测对于安全、商业等多个领域具有十分重要的社会意义和应用价值，近年来逐渐得到研究者的重视。面向社交网站 中用户评论行为，预测用户是否会参与讨论。采用基于特征的机器学习方法，其中特征包括讨论帖子及其内容、用 户行为特征和社交关系，并引入参数控制数据集的不平衡性。实验采用来自豆瓣小组的真实数据。实验结果表明， 新提出的用户行为和社交关系特征以及对不平衡数据集的处理方法能够有效提高用户评论行为的预测效果，进一 步说明用户的历史行为和所在的社交关系网络对当前的评论行为有较大影响。 关键词：社交网络：用户评论：机器学习：行为建模；行为预测：不平衡性数据集 中图分类号：TP391文献标志码：A文章编号：1673-4785(2015)03-0349-05 中文引用格式：孔庆超，毛文吉，张育浩.社交网站中用户评论行为预测[J].智能系统学报，2015,10(3)：349-353. 英文引用格式：KONG Qingchao,MAO Wenji,ZHANG Yuhao.User comment behavior prediction in social networking sites[J]. CAAI Transactions on Intelligent Systems,2015,10(3):349-353. User comment behavior prediction in social networking sites KONG Qingchao,MAO Wenji,ZHANG Yuhao (State Key Laboratory of Management and Control for Complex Systems,Institute of Automation,Chinese Academy of Science,Beijing 100190,China) Abstract:Social networking sites provide a convenient way for users to communicate with others and to present opin- ions.Related researches on modeling and predicting user behaviors in social networking sites are of vital importance for many applications in the domains of security and business.The aim of this paper is to predict user comment behav- ior based on postings in social networking sites.A feature-based machine learning approach is employed,which in- cludes features from the postings,content,user behaviors and social relations,and introduces a parameter to control the imbalanceness of the dataset.Real-world datasets from Douban Group were used in the experiments.The experi- mental results showed that the user behavior and social relation features and the imbalance processing technique effec- tively improved the prediction performance of user comment behaviors.This further demonstrates that the user com- ment behavior is largely affected by their behavior history and social network. Keywords:social network;user comments;machine learning;behavior modeling;behavior prediction;imbalance dataset 社交网站如Facebook、Twitter等对人们的生活 送广播，以此来展现自己的生活状态、发表感想或与 产生了巨大影响。人们在社交网站中更新状态或发 朋友们分享信息。社交网站已成为人们获取信息、 参与讨论和表达观点的重要平台。另一方面，用户 收稿日期：2014-03-05.网络出版日期：2015-04-03. 在社交网站中的行为则体现了用户的行为模式和兴 基金项目：国家自然科学基金资助项目(61175040,01435221). 趣。由于社交网站中用户众多，并且具有实时性的 通信作者：毛文吉.E-mail:wenji..mao@ia.ac.cn
第 １０ 卷第 ３ 期 智 能 系 统 学 报 Ｖｏｌ．１０ №．３ ２０１５ 年 ６ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ｊｕｎ． ２０１５ ＤＯＩ：１０．３９６９ ／ ｊ．ｉｓｓｎ．１６７３⁃４７８５．２０１４０３０１９ 网络出版地址：ｈｔｔｐ： ／ ／ ｗｗｗ．ｃｎｋｉ．ｎｅｔ ／ ｋｃｍｓ／ ｄｅｔａｉｌ ／ ２３．１５３８．ｔｐ．２０１５０４０３．１７３２．００１．ｈｔｍｌ 社交网站中用户评论行为预测 孔庆超，毛文吉，张育浩 （中国科学院自动化研究所 复杂系统管理与控制国家重点实验室，北京 １００１９０） 摘 要：社交网站为用户相互交流、发表意见和观点提供了非常便利的平台。 对社交网站的用户行为进行建模和预 测对于安全、商业等多个领域具有十分重要的社会意义和应用价值，近年来逐渐得到研究者的重视。 面向社交网站 中用户评论行为，预测用户是否会参与讨论。 采用基于特征的机器学习方法，其中特征包括讨论帖子及其内容、用 户行为特征和社交关系，并引入参数控制数据集的不平衡性。 实验采用来自豆瓣小组的真实数据。 实验结果表明， 新提出的用户行为和社交关系特征以及对不平衡数据集的处理方法能够有效提高用户评论行为的预测效果，进一 步说明用户的历史行为和所在的社交关系网络对当前的评论行为有较大影响。 关键词：社交网络；用户评论；机器学习；行为建模；行为预测；不平衡性数据集 中图分类号：ＴＰ３９１ 文献标志码：Ａ 文章编号：１６７３⁃４７８５（２０１５）０３⁃０３４９⁃０５ 中文引用格式：孔庆超，毛文吉，张育浩． 社交网站中用户评论行为预测［Ｊ］． 智能系统学报， ２０１５， １０（３）： ３４９⁃３５３． 英文引用格式：ＫＯＮＧ Ｑｉｎｇｃｈａｏ， ＭＡＯ Ｗｅｎｊｉ， ＺＨＡＮＧ Ｙｕｈａｏ． Ｕｓｅｒ ｃｏｍｍｅｎｔ ｂｅｈａｖｉｏｒ ｐｒｅｄｉｃｔｉｏｎ ｉｎ ｓｏｃｉａｌ ｎｅｔｗｏｒｋｉｎｇ ｓｉｔｅｓ［Ｊ］． ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ， ２０１５， １０（３）： ３４９⁃３５３． Ｕｓｅｒ ｃｏｍｍｅｎｔ ｂｅｈａｖｉｏｒ ｐｒｅｄｉｃｔｉｏｎ ｉｎ ｓｏｃｉａｌ ｎｅｔｗｏｒｋｉｎｇ ｓｉｔｅｓ ＫＯＮＧ Ｑｉｎｇｃｈａｏ， ＭＡＯ Ｗｅｎｊｉ， ＺＨＡＮＧ Ｙｕｈａｏ （ Ｓｔａｔｅ Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｏｆ Ｍａｎａｇｅｍｅｎｔ ａｎｄ Ｃｏｎｔｒｏｌ ｆｏｒ Ｃｏｍｐｌｅｘ Ｓｙｓｔｅｍｓ， Ｉｎｓｔｉｔｕｔｅ ｏｆ Ａｕｔｏｍａｔｉｏｎ， Ｃｈｉｎｅｓｅ Ａｃａｄｅｍｙ ｏｆ Ｓｃｉｅｎｃｅ， Ｂｅｉｊｉｎｇ １００１９０， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ： Ｓｏｃｉａｌ ｎｅｔｗｏｒｋｉｎｇ ｓｉｔｅｓ ｐｒｏｖｉｄｅ ａ ｃｏｎｖｅｎｉｅｎｔ ｗａｙ ｆｏｒ ｕｓｅｒｓ ｔｏ ｃｏｍｍｕｎｉｃａｔｅ ｗｉｔｈ ｏｔｈｅｒｓ ａｎｄ ｔｏ ｐｒｅｓｅｎｔ ｏｐｉｎ⁃ ｉｏｎｓ． Ｒｅｌａｔｅｄ ｒｅｓｅａｒｃｈｅｓ ｏｎ ｍｏｄｅｌｉｎｇ ａｎｄ ｐｒｅｄｉｃｔｉｎｇ ｕｓｅｒ ｂｅｈａｖｉｏｒｓ ｉｎ ｓｏｃｉａｌ ｎｅｔｗｏｒｋｉｎｇ ｓｉｔｅｓ ａｒｅ ｏｆ ｖｉｔａｌ ｉｍｐｏｒｔａｎｃｅ ｆｏｒ ｍａｎｙ ａｐｐｌｉｃａｔｉｏｎｓ ｉｎ ｔｈｅ ｄｏｍａｉｎｓ ｏｆ ｓｅｃｕｒｉｔｙ ａｎｄ ｂｕｓｉｎｅｓｓ． Ｔｈｅ ａｉｍ ｏｆ ｔｈｉｓ ｐａｐｅｒ ｉｓ ｔｏ ｐｒｅｄｉｃｔ ｕｓｅｒ ｃｏｍｍｅｎｔ ｂｅｈａｖ⁃ ｉｏｒ ｂａｓｅｄ ｏｎ ｐｏｓｔｉｎｇｓ ｉｎ ｓｏｃｉａｌ ｎｅｔｗｏｒｋｉｎｇ ｓｉｔｅｓ． Ａ ｆｅａｔｕｒｅ⁃ｂａｓｅｄ ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ ａｐｐｒｏａｃｈ ｉｓ ｅｍｐｌｏｙｅｄ， ｗｈｉｃｈ ｉｎ⁃ ｃｌｕｄｅｓ ｆｅａｔｕｒｅｓ ｆｒｏｍ ｔｈｅ ｐｏｓｔｉｎｇｓ， ｃｏｎｔｅｎｔ， ｕｓｅｒ ｂｅｈａｖｉｏｒｓ ａｎｄ ｓｏｃｉａｌ ｒｅｌａｔｉｏｎｓ， ａｎｄ ｉｎｔｒｏｄｕｃｅｓ ａ ｐａｒａｍｅｔｅｒ ｔｏ ｃｏｎｔｒｏｌ ｔｈｅ ｉｍｂａｌａｎｃｅｎｅｓｓ ｏｆ ｔｈｅ ｄａｔａｓｅｔ． Ｒｅａｌ⁃ｗｏｒｌｄ ｄａｔａｓｅｔｓ ｆｒｏｍ Ｄｏｕｂａｎ Ｇｒｏｕｐ ｗｅｒｅ ｕｓｅｄ ｉｎ ｔｈｅ ｅｘｐｅｒｉｍｅｎｔｓ． Ｔｈｅ ｅｘｐｅｒｉ⁃ ｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗｅｄ ｔｈａｔ ｔｈｅ ｕｓｅｒ ｂｅｈａｖｉｏｒ ａｎｄ ｓｏｃｉａｌ ｒｅｌａｔｉｏｎ ｆｅａｔｕｒｅｓ ａｎｄ ｔｈｅ ｉｍｂａｌａｎｃｅ ｐｒｏｃｅｓｓｉｎｇ ｔｅｃｈｎｉｑｕｅ ｅｆｆｅｃ⁃ ｔｉｖｅｌｙ ｉｍｐｒｏｖｅｄ ｔｈｅ ｐｒｅｄｉｃｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ ｏｆ ｕｓｅｒ ｃｏｍｍｅｎｔ ｂｅｈａｖｉｏｒｓ． Ｔｈｉｓ ｆｕｒｔｈｅｒ ｄｅｍｏｎｓｔｒａｔｅｓ ｔｈａｔ ｔｈｅ ｕｓｅｒ ｃｏｍ⁃ ｍｅｎｔ ｂｅｈａｖｉｏｒ ｉｓ ｌａｒｇｅｌｙ ａｆｆｅｃｔｅｄ ｂｙ ｔｈｅｉｒ ｂｅｈａｖｉｏｒ ｈｉｓｔｏｒｙ ａｎｄ ｓｏｃｉａｌ ｎｅｔｗｏｒｋ． Ｋｅｙｗｏｒｄｓ：ｓｏｃｉａｌ ｎｅｔｗｏｒｋ； ｕｓｅｒ ｃｏｍｍｅｎｔｓ； ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ； ｂｅｈａｖｉｏｒ ｍｏｄｅｌｉｎｇ； ｂｅｈａｖｉｏｒ ｐｒｅｄｉｃｔｉｏｎ； ｉｍｂａｌａｎｃｅ ｄａｔａｓｅｔ 收稿日期：２０１４⁃０３⁃０５． 网络出版日期：２０１５⁃０４⁃０３． 基金项目：国家自然科学基金资助项目（６１１７５０４０， Ｕ１４３５２２１）． 通信作者：毛文吉． Ｅ⁃ｍａｉｌ： ｗｅｎｊｉ．ｍａｏ＠ ｉａ．ａｃ．ｃｎ． 社交网站如 Ｆａｃｅｂｏｏｋ、Ｔｗｉｔｔｅｒ 等对人们的生活 产生了巨大影响。 人们在社交网站中更新状态或发 送广播，以此来展现自己的生活状态、发表感想或与 朋友们分享信息。 社交网站已成为人们获取信息、 参与讨论和表达观点的重要平台。 另一方面，用户 在社交网站中的行为则体现了用户的行为模式和兴 趣。 由于社交网站中用户众多，并且具有实时性的
·350· 智能系统学报 第10卷 特点，人们讨论的话题能够迅速在网络上传播和演 了帖子本身和话题相关的内容信息以外，社交网络 化，因此理解他们的行为，并对其进行建模和分析显 中还存在着多个与用户评论行为密切相关的社会关 得十分重要。例如，在信息检索领域，预测参与哪些 系、用户行为特征等因素，充分利用这些信息可以更 话题的讨论可以帮助服务提供者了解更多有关用户 好地预测用户行为。例如，用户之间的“粉丝”关系 兴趣和需求的信息：在情报安全领域，追踪和预测用 可能会影响用户对发帖人所发帖子的回复。 户参与的话题讨论可以帮助决策者更好地了解和掌 本文分析了影响用户评论行为的主要因素，并 握用户的行为特点。 构建了一个结合多个关键影响因素、基于特征的评 面向社交网站的讨论组用户，本文提出一种预 论行为预测模型。这些因素不仅包括话题内容特 测用户是否会参与讨论的计算方法。具体而言，采 征，也包括社会关系和行为特征。采用逻辑回归模 用基于特征的方法，考虑了影响用户评论行为的多 型进行分类，并通过采样方法解决类不平衡问题，最 种主要因素，并使用机器学习算法结合所有的特征， 终预测用户评论某个帖子的可能性。 最终得到用户对某个帖子进行回复的概率。此外， 2问题定义 由于一个帖子中的评论用户数量相对于讨论组中的 用户总数而言总是很少，往往造成了数据集中的类 用U表示讨论组中的用户集合，D表示帖子的 不平衡问题，本文还针对这一问题做了相应处理。 集合，每个帖子d(d∈D)包括标题、内容和发帖者 本文主要贡献在于：结合多类不同类型的特征，通过 u(u∈U)的信息，其中标题和内容都采用词袋 与评论行为相关联的社交关系特征，如用户活跃度、 (bag of words,BOW)模型表示。除了帖子本身的 用户间的关注关系等预测评论行为，并通过对类不 内容外，已知的信息还包括用户间的关注关系和用 平衡问题的处理提升预测的效果。 户的历史行为信息。将问题定义为：给定帖子d的 1相关研究工作 信息，预测目标用户u(u∈U)对帖子d进行评论的 概率。 在博客和论坛中，网站大多都会提供用户评论 3用户评论行为建模与预测 功能。用户评论能够促进用户之间的交流，发帖人 也能够通过用户评论得到反馈。目前已经有一些预 针对用户评论行为，详细介绍特征选取、如何计 测博客评论数量的相关工作。M.Tsagkias等)基 算内容相似度以及构建逻辑回归模型进行预测，并 于文本、语义和现实世界特征预测一篇博文是否会 讨论对类不平衡问题的处理。 有评论以及评论数量的多少。T.Yano和N.A. 3.1特征选取和内容相似度计算 Smith2]采用主题模型预测博客的评论数量。预测 考虑采用4类可能影响用户评论行为的因素作 微博的转发量[3-和博客中的评论数量这2项研究 为特征，包括帖子本身、内容相似度、用户行为和社 具有一定的相似性，如L.Hong等[4通过抽取Twti- 交关系等特征。 tr中评论内容、时序信息、评论及用户的元数据以 1)帖子特征：包括标题长度、正文长度、图片和 及用户社交网络的结构关系等，基于特征的模型预 外链的数量，共4个特征。 测微博的转发数量。其他的相关研究还包括视 2)内容相似度特征：包括帖子内容和目标用户 频-、图片9-0浏览数的预测等。 兴趣之间的相似度以及发帖者兴趣和目标用户兴趣 相对于预测用户的评论数量，预测用户评论 之间的相似度，共2个特征。 行为（即用户是否会对某个帖子进行回复）是一 3)用户行为特征：包括发帖者和目标用户各自 项更具挑战性的工作。T.Yano等[)构建了一个 发过的帖子数量以及评论回复数量，共4个特征。 能够同时生成评论和博文内容的概率模型预测 4)社交关系特征：包括发帖者和目标用户各自 用户会评论哪一篇博文。Tang等[]构建了一个 的关注和粉丝的数量，以及目标用户是否关注了发 用户兴趣和话题检测模型(UTD)。在给定已有 帖者，共5个特征。 部分用户对某个帖子进行回复的条件下，UTD模 在计算内容相似度特征时，应用LDA模型) 型通过获取话题内容和发展趋势预测哪些用户 得到用户关注内容在不同主题(topic)的分布情况 会对新的帖子产生兴趣。 来刻画用户兴趣。LDA模型是近年来非常受关注 上述工作中提出了一系列影响用户在博客和讨 的主题模型，其数学表达简洁，而且文本建模效果很 论组评论行为的因素，如帖子和内容信息。然而，除 好。具体来说，首先，在整个数据集上训练得到一个
特点，人们讨论的话题能够迅速在网络上传播和演 化，因此理解他们的行为，并对其进行建模和分析显 得十分重要。 例如，在信息检索领域，预测参与哪些 话题的讨论可以帮助服务提供者了解更多有关用户 兴趣和需求的信息；在情报安全领域，追踪和预测用 户参与的话题讨论可以帮助决策者更好地了解和掌 握用户的行为特点。 面向社交网站的讨论组用户，本文提出一种预 测用户是否会参与讨论的计算方法。 具体而言，采 用基于特征的方法，考虑了影响用户评论行为的多 种主要因素，并使用机器学习算法结合所有的特征， 最终得到用户对某个帖子进行回复的概率。 此外， 由于一个帖子中的评论用户数量相对于讨论组中的 用户总数而言总是很少，往往造成了数据集中的类 不平衡问题，本文还针对这一问题做了相应处理。 本文主要贡献在于：结合多类不同类型的特征，通过 与评论行为相关联的社交关系特征，如用户活跃度、 用户间的关注关系等预测评论行为，并通过对类不 平衡问题的处理提升预测的效果。 １ 相关研究工作 在博客和论坛中，网站大多都会提供用户评论 功能。 用户评论能够促进用户之间的交流，发帖人 也能够通过用户评论得到反馈。 目前已经有一些预 测博客评论数量的相关工作。 Ｍ． Ｔｓａｇｋｉａｓ 等［１］ 基 于文本、语义和现实世界特征预测一篇博文是否会 有评论以及评论数量的多少。 Ｔ． Ｙａｎｏ 和 Ｎ． Ａ． Ｓｍｉｔｈ ［２］采用主题模型预测博客的评论数量。 预测 微博的转发量［３－６］和博客中的评论数量这 ２ 项研究 具有一定的相似性，如 Ｌ． Ｈｏｎｇ 等［４］ 通过抽取 Ｔｗｔｉ⁃ ｔｅｒ 中评论内容、时序信息、评论及用户的元数据以 及用户社交网络的结构关系等，基于特征的模型预 测微博的转发数量。 其他的相关研究还包括视 频［７－８］ 、图片［９－１０］浏览数的预测等。 相对于预测用户的评论数量，预测用户评论 行为（即用户是否会对某个帖子进行回复） 是一 项更具挑战性的工作。 Ｔ． Ｙａｎｏ 等［ １１］ 构建了一个 能够同时生成评论和博文内容的概率模型预测 用户会评论哪一篇博文。 Ｔａｎｇ 等［ １２］ 构建了一个 用户兴趣和话题检测模型（ ＵＴＤ） 。 在给定已有 部分用户对某个帖子进行回复的条件下，ＵＴＤ 模 型通过获取话题内容和发展趋势预测哪些用户 会对新的帖子产生兴趣。 上述工作中提出了一系列影响用户在博客和讨 论组评论行为的因素，如帖子和内容信息。 然而，除 了帖子本身和话题相关的内容信息以外，社交网络 中还存在着多个与用户评论行为密切相关的社会关 系、用户行为特征等因素，充分利用这些信息可以更 好地预测用户行为。 例如，用户之间的“粉丝”关系 可能会影响用户对发帖人所发帖子的回复。 本文分析了影响用户评论行为的主要因素，并 构建了一个结合多个关键影响因素、基于特征的评 论行为预测模型。 这些因素不仅包括话题内容特 征，也包括社会关系和行为特征。 采用逻辑回归模 型进行分类，并通过采样方法解决类不平衡问题，最 终预测用户评论某个帖子的可能性。 ２ 问题定义 用 Ｕ 表示讨论组中的用户集合，Ｄ 表示帖子的 集合，每个帖子 ｄ（ ｄ∈Ｄ）包括标题、内容和发帖者 ｕｄ（ ｕｄ ∈Ｕ） 的信息，其中标题和内容都采用词袋 （ｂａｇ ｏｆ ｗｏｒｄｓ， ＢＯＷ） 模型表示。 除了帖子本身的 内容外，已知的信息还包括用户间的关注关系和用 户的历史行为信息。 将问题定义为：给定帖子 ｄ 的 信息，预测目标用户 ｕ（ｕ∈Ｕ）对帖子 ｄ 进行评论的 概率。 ３ 用户评论行为建模与预测 针对用户评论行为，详细介绍特征选取、如何计 算内容相似度以及构建逻辑回归模型进行预测，并 讨论对类不平衡问题的处理。 ３．１ 特征选取和内容相似度计算 考虑采用 ４ 类可能影响用户评论行为的因素作 为特征，包括帖子本身、内容相似度、用户行为和社 交关系等特征。 １）帖子特征：包括标题长度、正文长度、图片和 外链的数量，共 ４ 个特征。 ２）内容相似度特征：包括帖子内容和目标用户 兴趣之间的相似度以及发帖者兴趣和目标用户兴趣 之间的相似度，共 ２ 个特征。 ３）用户行为特征：包括发帖者和目标用户各自 发过的帖子数量以及评论回复数量，共 ４ 个特征。 ４）社交关系特征：包括发帖者和目标用户各自 的关注和粉丝的数量，以及目标用户是否关注了发 帖者，共 ５ 个特征。 在计算内容相似度特征时，应用 ＬＤＡ 模型［１３］ 得到用户关注内容在不同主题（ ｔｏｐｉｃ） 的分布情况 来刻画用户兴趣。 ＬＤＡ 模型是近年来非常受关注 的主题模型，其数学表达简洁，而且文本建模效果很 好。 具体来说，首先，在整个数据集上训练得到一个 ·３５０· 智 能 系 统 学 报 第 １０ 卷
第3期 孔庆超，等：社交网站中用户评论行为预测 ·351· LDA模型；然后，将每个用户曾经发布的所有帖子 时，我们将原文献中EasyEnsemble的基本分类器 和评论组成一个文档：最后，将该文档输入DA模 AdaBoost替换为LR模型。 型中得到用户感兴趣的主题分布，即一定长度的向 综上，构建分类预测框架的主要步骤是：首 量（长度为训练LDA模型时指定的主题个数）。通 先构建训练集与测试集并抽取和计算特征，然后 过应用LDA模型，所有的文档和用户兴趣可以表示 采用以上采样方法提高正样例在训练集中所占 为主题分布向量，而文本内容之间的相似度则定义 的比例，最后建立LR模型得到用户评论某个帖 为2个主题分布之间的欧氏距离。 子的预测结果。 将以上4类特征（共15个）组成15维向量作为 4实验结果与分析 特征向量。需要注意的是，特征向量中的特征具有 不同的数值类型，如“标题长度”为离散型特征，而 4.1数据集和预处理 内容相似度为连续型特征，取值范围也不尽相同，所 实验的数据集来自豆瓣小组。豆瓣是国内流行 以需要在模型训练前对特征进行归一化处理。本文 的社交网站，有超过七千万用户。作为豆瓣网站的 分别对于每个特征进行归一化： 一部分，豆瓣小组允许用户建立不同主题的小组。 f-fmin 小组成员可以发布帖子，其他人可以对帖子进行评 normaliaedf (1) 论，点击“喜欢”或者推荐给关注自己的用户。实验 式中：f为样本的特征取值，f为该特征在所有样本 抓取的是豆瓣“美剧fans”小组所有的帖子和评论。 (包括训练集和测试集)中的最小取值，∫为该特征 训练集包括从2012-8-1一2012-12-1期间发布 在所有样本中的最大取值。 的所有帖子及评论，测试集包括从2012-12-1一 3.2模型建立及类不平衡的处理 2013-1-1发布的所有帖子及评论。在测试集中，实 逻辑回归(LR)模型是一种线性分类模型，可以 验移除了一些用户和帖子，以保证测试集中每个用 得到样本属于每个类别的概率。对于每个目标用户 户至少发表过2次评论，每个帖子至少有5个用户 和帖子，抽取出上面列举的所有特征，组成一个特征 评论。 向量。令x表示特征向量，w表示特征的权重向量。 表1展示了预处理后训练集和测试集中帖子、 Y表示预测结果，为二值随机变量，当目标用户评论 评论和用户数量的统计数据。 时Y=1,目标用户不评论时Y=0。 表】训练集和测试集统计数据 Table 1 Statistics of training and test set 1 P.(Y=1Ix)= 1+eg) (2) 数据集 帖子数 评论数 用户数 式中：g(x)=w1x1+02x2+…+0nxn,P(Y=11x)表示 训练集 535 20473 3467 目标用户评论帖子的概率。根据式(1)，g(x)>0时 测试集 112 4226 708 模型预测y(x)=1,g(x)>0时模型预测y(x)=0。 在构建分类器的训练集和测试集时，对于一个 4.2目标用户集合 帖子来说，可以认为所有真正参与评论的用户为正 在进行模型训练和测试时，由于豆瓣小组中成 样本，而没有参与评论的用户为负样本。一般而言， 员众多（截止到目前，“美剧fans”小组共有178298 由于负样本的数量远大于正样本数量，这就造成数 个成员)，因此需要选择构建一个较小的且大小可 据集中存在类不平衡问题。在给定特征集合的条件 控的目标用户集。 下，如果数据集中类不平衡性较大，那么采用分类学 用T表示帖子d的目标用户集合。对于每 习算法最终将预测所有样本为负样例。这样的预测 个帖子d,通过如下方式构建Ts:首先将S中的 结果虽然准确率很高，但实质上完全忽略了正样本 所有用户加入T4,于是S4∈T,然后从不在S 的重要性，即人们真正关心的是哪些用户会参与评 中的其他小组成员中随机选择R×IS,I个用户放 论，而不是哪些用户不参与评论。 入T中，其中ISI代表集合S4中的用户数目，R 解决类不平衡问题的方法有多种，其中采样法 为实验中设定的正整数。于是，对数据集中的每 是最常采用的一种方法。具体来说，本文采用的采 个帖子d,都有IS:I个正样例（真正参与评论的用 样算法包括随机上采样和下采样，EasyEnsemble) 户)和1TsI-1SI个负样例（没有参与评论的用 和SMOTE算法[1)]，其中EasyEnsemble的性能相对 户)。显然，R越大，数据集不平衡问题就越严 较好[1a。需要说明的是，在使用EsayEnsemble算法 重，换句话说，R控制着数据集的不平衡性
ＬＤＡ 模型；然后，将每个用户曾经发布的所有帖子 和评论组成一个文档；最后，将该文档输入 ＬＤＡ 模 型中得到用户感兴趣的主题分布，即一定长度的向 量（长度为训练 ＬＤＡ 模型时指定的主题个数）。 通 过应用 ＬＤＡ 模型，所有的文档和用户兴趣可以表示 为主题分布向量，而文本内容之间的相似度则定义 为 ２ 个主题分布之间的欧氏距离。 将以上 ４ 类特征（共 １５ 个）组成 １５ 维向量作为 特征向量。 需要注意的是，特征向量中的特征具有 不同的数值类型，如“标题长度” 为离散型特征，而 内容相似度为连续型特征，取值范围也不尽相同，所 以需要在模型训练前对特征进行归一化处理。 本文 分别对于每个特征进行归一化： ｆ ｎｏｒｍａｌｉｚｅｄ ＝ ｆ － ｆｍｉｎ ｆｍａｘ － ｆｍｉｎ （１） 式中：ｆ 为样本的特征取值，ｆｍｉｎ为该特征在所有样本 （包括训练集和测试集）中的最小取值，ｆｍａｘ为该特征 在所有样本中的最大取值。 ３．２ 模型建立及类不平衡的处理 逻辑回归（ＬＲ）模型是一种线性分类模型，可以 得到样本属于每个类别的概率。 对于每个目标用户 和帖子，抽取出上面列举的所有特征，组成一个特征 向量。 令 ｘ 表示特征向量，ｗ 表示特征的权重向量。 Ｙ 表示预测结果，为二值随机变量，当目标用户评论 时 Ｙ ＝ １，目标用户不评论时 Ｙ ＝ ０。 Ｐｗ（Ｙ ＝ １ ｜ ｘ） ＝ １ １ ＋ ｅ －ｇ（ｘ） （２） 式中：ｇ（ｘ）＝ ｗ１ ｘ１ ＋ｗ２ ｘ２ ＋…＋ｗｎ ｘｎ ，Ｐ（Ｙ ＝ １ ｜ ｘ）表示 目标用户评论帖子的概率。 根据式（１），ｇ（ｘ） ＞０ 时 模型预测 ｙ（ｘ）＝ １，ｇ（ｘ）＞０ 时模型预测 ｙ（ｘ）＝ ０。 在构建分类器的训练集和测试集时，对于一个 帖子来说，可以认为所有真正参与评论的用户为正 样本，而没有参与评论的用户为负样本。 一般而言， 由于负样本的数量远大于正样本数量，这就造成数 据集中存在类不平衡问题。 在给定特征集合的条件 下，如果数据集中类不平衡性较大，那么采用分类学 习算法最终将预测所有样本为负样例。 这样的预测 结果虽然准确率很高，但实质上完全忽略了正样本 的重要性，即人们真正关心的是哪些用户会参与评 论，而不是哪些用户不参与评论。 解决类不平衡问题的方法有多种，其中采样法 是最常采用的一种方法。 具体来说，本文采用的采 样算法包括随机上采样和下采样、ＥａｓｙＥｎｓｅｍｂｌｅ ［１４］ 和 ＳＭＯＴＥ 算法［１５］ ，其中 ＥａｓｙＥｎｓｅｍｂｌｅ 的性能相对 较好［１４］ 。 需要说明的是，在使用 ＥｓａｙＥｎｓｅｍｂｌｅ 算法 时，我们将原文献中 ＥａｓｙＥｎｓｅｍｂｌｅ 的基本分类器 ＡｄａＢｏｏｓｔ 替换为 ＬＲ 模型。 综上，构建分类预测框架的主要步骤是：首 先构建训练集与测试集并抽取和计算特征，然后 采用以上采样方法提高正样例在训练集中所占 的比例，最后建立 ＬＲ 模型得到用户评论某个帖 子的预测结果。 ４ 实验结果与分析 ４．１ 数据集和预处理 实验的数据集来自豆瓣小组。 豆瓣是国内流行 的社交网站，有超过七千万用户。 作为豆瓣网站的 一部分，豆瓣小组允许用户建立不同主题的小组。 小组成员可以发布帖子，其他人可以对帖子进行评 论，点击“喜欢”或者推荐给关注自己的用户。 实验 抓取的是豆瓣“美剧 ｆａｎｓ”小组所有的帖子和评论。 训练集包括从 ２０１２⁃８⁃１—２０１２⁃１２⁃１ 期间发布 的所 有 帖 子 及 评 论， 测 试 集 包 括 从 ２０１２⁃１２⁃１— ２０１３⁃１⁃１ 发布的所有帖子及评论。 在测试集中，实 验移除了一些用户和帖子，以保证测试集中每个用 户至少发表过 ２ 次评论，每个帖子至少有 ５ 个用户 评论。 表 １ 展示了预处理后训练集和测试集中帖子、 评论和用户数量的统计数据。 表 １ 训练集和测试集统计数据 Ｔａｂｌｅ １ Ｓｔａｔｉｓｔｉｃｓ ｏｆ ｔｒａｉｎｉｎｇ ａｎｄ ｔｅｓｔ ｓｅｔ 数据集 帖子数 评论数 用户数 训练集 ５３５ ２０ ４７３ ３ ４６７ 测试集 １１２ ４ ２２６ ７０８ ４．２ 目标用户集合 在进行模型训练和测试时，由于豆瓣小组中成 员众多（截止到目前，“美剧 ｆａｎｓ”小组共有 １７８ ２９８ 个成员），因此需要选择构建一个较小的且大小可 控的目标用户集。 用 ＴＳｄ 表示帖子 ｄ 的目标用户集合。 对于每 个帖子 ｄ，通过如下方式构建 ＴＳｄ ：首先将 Ｓｄ中的 所有用户加入 ＴＳｄ ，于是 Ｓｄ∈ ＴＳｄ ，然后从不在 Ｓｄ 中的其他小组成员中随机选择 Ｒ× ｜ Ｓｄ ｜ 个用户放 入 ＴＳｄ 中，其中 ｜ Ｓｄ ｜ 代表集合 Ｓｄ中的用户数目，Ｒ 为实验中设定的正整数。 于是，对数据集中的每 个帖子 ｄ，都有 ｜ Ｓｄ ｜ 个正样例（真正参与评论的用 户）和 ｜ ＴＳｄ ｜ － ｜ Ｓｄ ｜ 个负样例（ 没有参与评论的用 户） 。 显然，Ｒ 越 大， 数 据 集 不 平 衡 问 题 就 越 严 重，换句话说，Ｒ 控制着数据集的不平衡性。 第 ３ 期 孔庆超，等：社交网站中用户评论行为预测 ·３５１·
.352· 智能系统学报 第10卷 4.3评价标准 +不包括用户行为和社交关系特征 ·所有特征 由于数据集中存在类不平衡问题，传统的评价 1.0r 标准，如准确率和召回率并不适合于评估文中的实 0.8 验结果。用户评论行为的预测可以看作一种信息检 索问题（本文是“用户检索”），即检索哪些用户会以 0.5 较高的概率对特定的帖子进行回复，所以选取信息 0.2 检索中的常用评价指标Precision@K。针对某一个 0.1 帖子d,预测框架会返回最有可能对帖子进行回复 010203040506070809010010 帖子序号 前K个用户，记为K。对于帖子d,其Precision@ (a)不包括用户行为和社交关系特征s.所有特征(R=5) K计算方式如下： +不包括用户行为和社交关系特征 IKg∩S4I ▲所有特征 Precision@K (3) 1.0r K 0.9 4.4实验结果 0.8 4.4.1用户行为和社交关系特征的作用 0.6 0.5 首先考察用户行为和社交关系这2类特征对 Precision@K的作用。图1(a)和(b)分别展示了 0.2 R=5和R=l0时，测试集中每个帖子的Precision 0.1 0102030405060708090100i0 @5分布情况，其中黑色线表示加入了用户行为 帖子序号 和社交关系特征的Precision@5分布，浅色线表 (b)不包括用户行为和社交关系特征vs.所有特征(R=10) 示没有考虑这2类特征的Precision@5分布。图 1.0 0.9 ·基准方法 中所有帖子按Precision@5值降序排列。 0.8 ·Easy Ensemble 从图1中可以看出，在不考虑用户行为和社交 0.6 关系这2类特征时，虽然对于一小部分帖子，其Pre 0.5 0.4 cision(@5比考虑这2类特征时要高，但整体而言后 0.2 者的效果更好。表2中的数据同样支持这个结论。 0.1 表2展示了当R取不同值时，包含和不包含用户行 01020304050607080901001i0 帖子序号 为和社交关系2类特征下的平均Precision(@5。 (c)基准方法vs.EasyEnsemble(R=5) 表2平均Precision@5对比 1.0r Table 2 Average Precision@5 0.9 +基准方法 0.8 EasyEnsemble 特征 R=5R=10R=15R=20 0.6 不含用户行为和 0.5 0.39 0.28 0.23 0.20 社交关系特征 0.3 0.2 包含所有特征0.47 0.360.310.27 0.1H 4.4.2类不平衡性的影响 0102030405060708090100110i20 这里考察类不平衡问题对预测结果的影响。图 帖子序号 1(c)和(d)分别展示了R=5和R=10时，测试集中 (d)基准方法s.EasyEnsemble(R=l0) 图1当R取5和10时不同方法的实验结果比较 每个帖子的Precision@5分布情况，其中黑色线表 Fig.1 Experimental results comparison of different 示采用了EasyEnsemble采样方法后的Precision@5 methods when R=5 and R=10 分布，浅色线表示没有对数据集进行采样处理的帖 表3平均Precision@5对比 子的Precision(@5分布。图中所有帖子按Precision Table 3 Average Precision@5 @5值降序排列。从图中可以看出，在对数据集进 行采样处理后，预测结果得到明显提升。从表3中 数据集 R=5 R=10R=15R=20 同样可以看出，在对数据集进行采样处理之后，当R 不采样处理 0.38 0.25 0.18 0.14 取不同值时，平均的Precision(@K都有显著提高。 EasyEnsemble 0.47 0.36 0.31 0.27
４．３ 评价标准 由于数据集中存在类不平衡问题，传统的评价 标准，如准确率和召回率并不适合于评估文中的实 验结果。 用户评论行为的预测可以看作一种信息检 索问题（本文是“用户检索”），即检索哪些用户会以 较高的概率对特定的帖子进行回复，所以选取信息 检索中的常用评价指标 Ｐｒｅｃｉｓｉｏｎ＠ Ｋ。 针对某一个 帖子 ｄ，预测框架会返回最有可能对帖子进行回复 前 Ｋ 个用户，记为 Ｋ ｔｏｐ ｄ 。 对于帖子 ｄ，其 Ｐｒｅｃｉｓｉｏｎ＠ Ｋ 计算方式如下： Ｐｒｅｃｉｓｉｏｎ＠ Ｋｄ ＝ ｜ Ｋ ｔｏｐ ｄ ∩ Ｓｄ ｜ Ｋ （３） ４．４ 实验结果 ４．４．１ 用户行为和社交关系特征的作用 首先考察用户行为和社交关系这 ２ 类特征对 Ｐｒｅｃｉｓｉｏｎ＠ Ｋ 的作用。 图 １（ ａ）和（ ｂ） 分别展示了 Ｒ ＝ ５ 和 Ｒ ＝ １０ 时，测试集中每个帖子的 Ｐｒｅｃｉｓｉｏｎ ＠ ５ 分布情况，其中黑色线表示加入了用户行为 和社交关系特征的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 分布，浅色线表 示没有考虑这 ２ 类特征的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 分布。 图 中所有帖子按 Ｐｒｅｃｉｓｉｏｎ＠ ５ 值降序排列。 从图 １ 中可以看出，在不考虑用户行为和社交 关系这 ２ 类特征时，虽然对于一小部分帖子，其 Ｐｒｅ⁃ ｃｉｓｉｏｎ＠ ５ 比考虑这 ２ 类特征时要高，但整体而言后 者的效果更好。 表 ２ 中的数据同样支持这个结论。 表 ２ 展示了当 Ｒ 取不同值时，包含和不包含用户行 为和社交关系 ２ 类特征下的平均 Ｐｒｅｃｉｓｉｏｎ＠ ５。 表 ２ 平均 Ｐｒｅｃｉｓｉｏｎ＠５ 对比 Ｔａｂｌｅ ２ Ａｖｅｒａｇｅ Ｐｒｅｃｉｓｉｏｎ＠５ 特 征 Ｒ＝ ５ Ｒ＝ １０ Ｒ＝ １５ Ｒ＝ ２０ 不含用户行为和 社交关系特征 ０．３９ ０．２８ ０．２３ ０．２０ 包含所有特征 ０．４７ ０．３６ ０．３１ ０．２７ ４．４．２ 类不平衡性的影响 这里考察类不平衡问题对预测结果的影响。 图 １（ｃ）和（ｄ）分别展示了 Ｒ ＝ ５ 和 Ｒ ＝ １０ 时，测试集中 每个帖子的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 分布情况，其中黑色线表 示采用了 ＥａｓｙＥｎｓｅｍｂｌｅ 采样方法后的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 分布，浅色线表示没有对数据集进行采样处理的帖 子的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 分布。 图中所有帖子按 Ｐｒｅｃｉｓｉｏｎ ＠ ５ 值降序排列。 从图中可以看出，在对数据集进 行采样处理后，预测结果得到明显提升。 从表 ３ 中 同样可以看出，在对数据集进行采样处理之后，当 Ｒ 取不同值时，平均的 Ｐｒｅｃｉｓｉｏｎ＠ Ｋ 都有显著提高。 （ａ）不包括用户行为和社交关系特征 ｖｓ． 所有特征（Ｒ＝ ５） （ｂ）不包括用户行为和社交关系特征 ｖｓ． 所有特征（Ｒ＝ １０） （ｃ）基准方法 ｖｓ． ＥａｓｙＥｎｓｅｍｂｌｅ（Ｒ＝ ５） （ｄ）基准方法 ｖｓ． ＥａｓｙＥｎｓｅｍｂｌｅ（Ｒ＝ １０） 图 １ 当 Ｒ 取 ５ 和 １０ 时不同方法的实验结果比较 Ｆｉｇ． １ Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｃｏｍｐａｒｉｓｏｎ ｏｆ ｄｉｆｆｅｒｅｎｔ ｍｅｔｈｏｄｓ ｗｈｅｎ Ｒ＝ ５ ａｎｄ Ｒ＝ １０ 表 ３ 平均 Ｐｒｅｃｉｓｉｏｎ＠５ 对比 Ｔａｂｌｅ ３ Ａｖｅｒａｇｅ Ｐｒｅｃｉｓｉｏｎ＠５ 数据集 Ｒ＝ ５ Ｒ＝ １０ Ｒ＝ １５ Ｒ＝ ２０ 不采样处理 ０．３８ ０．２５ ０．１８ ０．１４ ＥａｓｙＥｎｓｅｍｂｌｅ ０．４７ ０．３６ ０．３１ ０．２７ ·３５２· 智 能 系 统 学 报 第 １０ 卷
第3期 孔庆超，等：社交网站中用户评论行为预测 .353. 4.4.3 Precision@K分布 [8]PINTO H,ALMEIDA J M,GONCALVES M A.Using early 图2展示了当R取不同值时，预测结果Preci- view patterns to predict the popularity of Youtube videos sion@5的分布情况。从图中可以看出，本文的预测 [C]//Proceedings of the Sixth ACM International Confer- 框架的性能尚不够稳定，对于一些帖子的Precision ence on Web Search and Data Mining.New York,USA. 2013:365-374. @5接近1，而对于另一些帖子的Precision@5却 [9]KHOSLA A,DAS SARMA A,HAMID R.What makes an 较低。 image popular?[C]//Proceedings of the 23rd International 1.0万 Conference on World Wide Web.Seoul,Korea,2014:1- R= 0.8 10. =10 [10]CHENG J,ADAMIC L,DOW P A,et al.Can cascades be predicted?[C]//Proceedings of the 23rd International 30.4 Conference on World Wide Web.Seoul,Korea,2014: R=15 0.2 R=20 925-936. [11]YANO T,COHEN WW,SMITH N A.Predicting re- 20 406080100120 sponse to political blog posts with topic models[C]//Pro- 帖子序号 ceedings of Human Language Technologies:The 2009 An- 图2当R取不同值时的实验结果 nual Conference of the North American Chapter of the As- Fig.2 Experimental results with varying R sociation for Computational Linguistics.Stroudsburg, USA,2009:477-485. 5 结束语 [12]TANG X N,YANG C C,ZHANG M.Who will be partici- pating next?Predicting the participation of dark web com- 本文以用户评论行为为例，给出一种基于特征 munity[C]//Proceedings of the ACM SIGKDD Workshop 的行为预测方法。实验结果表明，新提出的2种新 on Intelligence and Security Informatics.New York,USA, 特征，即用户行为特征和社交关系特征，以及控制数 2012:1-7. 据集的不平衡性的参数能够有效提升行为预测准确 [13]BLEI D M,NG A Y,JORDAN M I.Latent dirichlet allo- cation[J].Journal of Machine Learning Research,2003, 度。同时，进一步说明用户在社交网站中的评论行 3:993-1022 为受到其历史行为和社交关系的影响。未来的研究 [14]LIU Xuying,WU Jianxin,ZHOU Zhihua.Exploratory un- 工作将尝试分析用户评论行为的生成过程，探讨其 dersampling for class-imbalance learning[J].IEEE Trans- 中起关键作用的因素并建立生成式模型，以提高预 actions on Systems,Man,and Cybernetics,Part B:Cy- 测结果的准确度和可解释性。 bernetics,2009,39(2):539-550. 参考文献： [15]CHAWLA N V,BOWYER K W,HALL L O,et al. SMOTE:Synthetic minority over-sampling technique[J]. [1]TSAGKIAS M,WEERKAMP W,De RIJKE M.Predicting Journal of Artificial Intelligence Research,2002,16: the volume of comments on online news stories[C]//Pro- 321-357. ceedings of the 18th ACM Conference on Information and 作者简介： Knowledge Management.New York,USA,2009:1765- 孔庆超，男，1987年生，博士研究 1768. 生，主要研究方向为社会媒体信息分析 [2]YANO T,SMITH N A.What's worthy of comment?Con- 与处理、数据挖掘。 tent and comment volume in political blogs[C]//Proceed- ings of the Fourth International Conference on Weblogs and Social Media.Washington,DC,USA,2010:359-362. [3]ZAMAN T,FOX E B,BRADLOW E T.A bayesian ap- proach for predicting the popularity of tweets[J].The An- nals of Applied Statistics,2014,8(3):1583-1611. 毛文吉，女，1968年生，研究员，博 [4]HONG L,DAN O,Davison B D.Predicting popular messa- 士生导师，主要研究方向为智能信息处 ges in Twitter[C]//Proceedings of the 20th International 理、人工智能、社会计算。曾获国家科 Conference Companion on World Wide Web.New York, 技进步二等奖，“吴文俊人工智能科学 USA,2011:57-58. 技术奖”创新二等奖，“中国自动化学会 [5]MA Haixin,QIAN Weining,XIA Fan,et al.Towards mod- 科学技术进步奖”一等奖，发表学术论 eling popularity of microblogs[J].Frontiers of Computer 文40余篇。 Science.2013,7(2):171-184. [6]JENDERS M,KASNECI G,NAUMANN F.Analyzing and 张育浩，男，1989年生，博士研究 predicting viral tweets[C]//Proceedings of the 22nd Inter- 生，主要研究方向为社会建模与计算。 national Conference on World Wide Web Companion.Gene- va,Switzerland,2013:657-664. [7]FIGUEIREDO F.On the prediction of popularity of trends and hits for user generated videos[C]//Proceedings of the Sixth ACM International Conference on Web Search and Da- ta Mining.New York,USA,2013:741-746
４．４．３ Ｐｒｅｃｉｓｉｏｎ＠ Ｋ 分布 图 ２ 展示了当 Ｒ 取不同值时，预测结果 Ｐｒｅｃｉ⁃ ｓｉｏｎ＠ ５ 的分布情况。 从图中可以看出，本文的预测 框架的性能尚不够稳定，对于一些帖子的 Ｐｒｅｃｉｓｉｏｎ ＠ ５ 接近 １，而对于另一些帖子的 Ｐｒｅｃｉｓｉｏｎ＠ ５ 却 较低。 图 ２ 当 Ｒ 取不同值时的实验结果 Ｆｉｇ． ２ Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｗｉｔｈ ｖａｒｙｉｎｇ Ｒ ５ 结束语 本文以用户评论行为为例，给出一种基于特征 的行为预测方法。 实验结果表明，新提出的 ２ 种新 特征，即用户行为特征和社交关系特征，以及控制数 据集的不平衡性的参数能够有效提升行为预测准确 度。 同时，进一步说明用户在社交网站中的评论行 为受到其历史行为和社交关系的影响。 未来的研究 工作将尝试分析用户评论行为的生成过程，探讨其 中起关键作用的因素并建立生成式模型，以提高预 测结果的准确度和可解释性。 参考文献： ［１］ＴＳＡＧＫＩＡＳ Ｍ， ＷＥＥＲＫＡＭＰ Ｗ， Ｄｅ ＲＩＪＫＥ Ｍ． Ｐｒｅｄｉｃｔｉｎｇ ｔｈｅ ｖｏｌｕｍｅ ｏｆ ｃｏｍｍｅｎｔｓ ｏｎ ｏｎｌｉｎｅ ｎｅｗｓ ｓｔｏｒｉｅｓ［ Ｃ］ ／ ／ Ｐｒｏ⁃ ｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １８ｔｈ ＡＣＭ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｋｎｏｗｌｅｄｇｅ Ｍａｎａｇｅｍｅｎｔ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２００９： １７６５⁃ １７６８． ［２］ＹＡＮＯ Ｔ， ＳＭＩＴＨ Ｎ Ａ． Ｗｈａｔ’ ｓ ｗｏｒｔｈｙ ｏｆ ｃｏｍｍｅｎｔ？ Ｃｏｎ⁃ ｔｅｎｔ ａｎｄ ｃｏｍｍｅｎｔ ｖｏｌｕｍｅ ｉｎ ｐｏｌｉｔｉｃａｌ ｂｌｏｇｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄ⁃ ｉｎｇｓ ｏｆ ｔｈｅ Ｆｏｕｒｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｅｂｌｏｇｓ ａｎｄ Ｓｏｃｉａｌ Ｍｅｄｉａ． Ｗａｓｈｉｎｇｔｏｎ， ＤＣ， ＵＳＡ， ２０１０： ３５９⁃３６２． ［３］ ＺＡＭＡＮ Ｔ， ＦＯＸ Ｅ Ｂ， ＢＲＡＤＬＯＷ Ｅ Ｔ． Ａ ｂａｙｅｓｉａｎ ａｐ⁃ ｐｒｏａｃｈ ｆｏｒ ｐｒｅｄｉｃｔｉｎｇ ｔｈｅ ｐｏｐｕｌａｒｉｔｙ ｏｆ ｔｗｅｅｔｓ［ Ｊ］． Ｔｈｅ Ａｎ⁃ ｎａｌｓ ｏｆ Ａｐｐｌｉｅｄ Ｓｔａｔｉｓｔｉｃｓ， ２０１４， ８（３）： １５８３⁃１６１１． ［４］ＨＯＮＧ Ｌ， ＤＡＮ Ｏ， Ｄａｖｉｓｏｎ Ｂ Ｄ． Ｐｒｅｄｉｃｔｉｎｇ ｐｏｐｕｌａｒ ｍｅｓｓａ⁃ ｇｅｓ ｉｎ Ｔｗｉｔｔｅｒ ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２０ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ Ｃｏｍｐａｎｉｏｎ ｏｎ Ｗｏｒｌｄ Ｗｉｄｅ Ｗｅｂ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２０１１： ５７⁃５８． ［５］ＭＡ Ｈａｉｘｉｎ， ＱＩＡＮ Ｗｅｉｎｉｎｇ， ＸＩＡ Ｆａｎ， ｅｔ ａｌ． Ｔｏｗａｒｄｓ ｍｏｄ⁃ ｅｌｉｎｇ ｐｏｐｕｌａｒｉｔｙ ｏｆ ｍｉｃｒｏｂｌｏｇｓ ［ Ｊ］． Ｆｒｏｎｔｉｅｒｓ ｏｆ Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ， ２０１３， ７（２）： １７１⁃１８４． ［６］ ＪＥＮＤＥＲＳ Ｍ， ＫＡＳＮＥＣＩ Ｇ， ＮＡＵＭＡＮＮ Ｆ． Ａｎａｌｙｚｉｎｇ ａｎｄ ｐｒｅｄｉｃｔｉｎｇ ｖｉｒａｌ ｔｗｅｅｔｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２２ｎｄ Ｉｎｔｅｒ⁃ ｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｏｒｌｄ Ｗｉｄｅ Ｗｅｂ Ｃｏｍｐａｎｉｏｎ． Ｇｅｎｅ⁃ ｖａ， Ｓｗｉｔｚｅｒｌａｎｄ， ２０１３： ６５７⁃６６４． ［７］ＦＩＧＵＥＩＲＥＤＯ Ｆ． Ｏｎ ｔｈｅ ｐｒｅｄｉｃｔｉｏｎ ｏｆ ｐｏｐｕｌａｒｉｔｙ ｏｆ ｔｒｅｎｄｓ ａｎｄ ｈｉｔｓ ｆｏｒ ｕｓｅｒ ｇｅｎｅｒａｔｅｄ ｖｉｄｅｏｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｓｉｘｔｈ ＡＣＭ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｅｂ Ｓｅａｒｃｈ ａｎｄ Ｄａ⁃ ｔａ Ｍｉｎｉｎｇ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２０１３： ７４１⁃７４６． ［８］ＰＩＮＴＯ Ｈ， ＡＬＭＥＩＤＡ Ｊ Ｍ， ＧＯＮＣＡＬＶＥＳ Ｍ Ａ． Ｕｓｉｎｇ ｅａｒｌｙ ｖｉｅｗ ｐａｔｔｅｒｎｓ ｔｏ ｐｒｅｄｉｃｔ ｔｈｅ ｐｏｐｕｌａｒｉｔｙ ｏｆ Ｙｏｕｔｕｂｅ ｖｉｄｅｏｓ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｓｉｘｔｈ ＡＣＭ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒ⁃ ｅｎｃｅ ｏｎ Ｗｅｂ Ｓｅａｒｃｈ ａｎｄ Ｄａｔａ Ｍｉｎｉｎｇ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２０１３： ３６５⁃３７４． ［９］ＫＨＯＳＬＡ Ａ， ＤＡＳ ＳＡＲＭＡ Ａ， ＨＡＭＩＤ Ｒ． Ｗｈａｔ ｍａｋｅｓ ａｎ ｉｍａｇｅ ｐｏｐｕｌａｒ？ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２３ｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｏｒｌｄ Ｗｉｄｅ Ｗｅｂ． Ｓｅｏｕｌ， Ｋｏｒｅａ， ２０１４： １⁃ １０． ［１０］ＣＨＥＮＧ Ｊ， ＡＤＡＭＩＣ Ｌ， ＤＯＷ Ｐ Ａ， ｅｔ ａｌ． Ｃａｎ ｃａｓｃａｄｅｓ ｂｅ ｐｒｅｄｉｃｔｅｄ？ ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２３ｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｏｒｌｄ Ｗｉｄｅ Ｗｅｂ． Ｓｅｏｕｌ， Ｋｏｒｅａ， ２０１４： ９２５⁃９３６． ［１１］ ＹＡＮＯ Ｔ， ＣＯＨＥＮ Ｗ Ｗ， ＳＭＩＴＨ Ｎ Ａ． Ｐｒｅｄｉｃｔｉｎｇ ｒｅ⁃ ｓｐｏｎｓｅ ｔｏ ｐｏｌｉｔｉｃａｌ ｂｌｏｇ ｐｏｓｔｓ ｗｉｔｈ ｔｏｐｉｃ ｍｏｄｅｌｓ［Ｃ］ ／ ／ Ｐｒｏ⁃ ｃｅｅｄｉｎｇｓ ｏｆ Ｈｕｍａｎ Ｌａｎｇｕａｇｅ Ｔｅｃｈｎｏｌｏｇｉｅｓ： Ｔｈｅ ２００９ Ａｎ⁃ ｎｕａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｆ ｔｈｅ Ｎｏｒｔｈ Ａｍｅｒｉｃａｎ Ｃｈａｐｔｅｒ ｏｆ ｔｈｅ Ａｓ⁃ ｓｏｃｉａｔｉｏｎ ｆｏｒ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ． Ｓｔｒｏｕｄｓｂｕｒｇ， ＵＳＡ， ２００９： ４７７⁃４８５． ［１２］ＴＡＮＧ Ｘ Ｎ， ＹＡＮＧ Ｃ Ｃ， ＺＨＡＮＧ Ｍ． Ｗｈｏ ｗｉｌｌ ｂｅ ｐａｒｔｉｃｉ⁃ ｐａｔｉｎｇ ｎｅｘｔ？ Ｐｒｅｄｉｃｔｉｎｇ ｔｈｅ ｐａｒｔｉｃｉｐａｔｉｏｎ ｏｆ ｄａｒｋ ｗｅｂ ｃｏｍ⁃ ｍｕｎｉｔｙ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＡＣＭ ＳＩＧＫＤＤ Ｗｏｒｋｓｈｏｐ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｃｅ ａｎｄ Ｓｅｃｕｒｉｔｙ Ｉｎｆｏｒｍａｔｉｃｓ． Ｎｅｗ Ｙｏｒｋ， ＵＳＡ， ２０１２： １⁃７． ［１３］ＢＬＥＩ Ｄ Ｍ， ＮＧ Ａ Ｙ， ＪＯＲＤＡＮ Ｍ Ｉ． Ｌａｔｅｎｔ ｄｉｒｉｃｈｌｅｔ ａｌｌｏ⁃ ｃａｔｉｏｎ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ Ｒｅｓｅａｒｃｈ， ２００３， ３： ９９３⁃１０２２． ［１４］ＬＩＵ Ｘｕｙｉｎｇ， ＷＵ Ｊｉａｎｘｉｎ， ＺＨＯＵ Ｚｈｉｈｕａ． Ｅｘｐｌｏｒａｔｏｒｙ ｕｎ⁃ ｄｅｒｓａｍｐｌｉｎｇ ｆｏｒ ｃｌａｓｓ⁃ｉｍｂａｌａｎｃｅ ｌｅａｒｎｉｎｇ［ Ｊ］． ＩＥＥＥ Ｔｒａｎｓ⁃ ａｃｔｉｏｎｓ ｏｎ Ｓｙｓｔｅｍｓ， Ｍａｎ， ａｎｄ Ｃｙｂｅｒｎｅｔｉｃｓ， Ｐａｒｔ Ｂ： Ｃｙ⁃ ｂｅｒｎｅｔｉｃｓ， ２００９， ３９（２）： ５３９⁃５５０． ［１５］ ＣＨＡＷＬＡ Ｎ Ｖ， ＢＯＷＹＥＲ Ｋ Ｗ， ＨＡＬＬ Ｌ Ｏ， ｅｔ ａｌ ． ＳＭＯＴＥ： Ｓｙｎｔｈｅｔｉｃ ｍｉｎｏｒｉｔｙ ｏｖｅｒ⁃ｓａｍｐｌｉｎｇ ｔｅｃｈｎｉｑｕｅ［ Ｊ］． Ｊｏｕｒｎａｌ ｏｆ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ Ｒｅｓｅａｒｃｈ， ２００２， １６： ３２１⁃３５７． 作者简介： 孔庆超，男，１９８７ 年生，博士研究 生，主要研究方向为社会媒体信息分析 与处理、数据挖掘。 毛文吉，女，１９６８ 年生，研究员，博 士生导师，主要研究方向为智能信息处 理、人工智能、社会计算。 曾获国家科 技进步二等奖，“吴文俊人工智能科学 技术奖”创新二等奖，“中国自动化学会 科学技术进步奖” 一等奖，发表学术论 文 ４０ 余篇。 张育浩，男，１９８９ 年生，博士研究 生，主要研究方向为社会建模与计算。 第 ３ 期 孔庆超，等：社交网站中用户评论行为预测 ·３５３·