·676 智能系统学报 第12卷 表4CS-SBM-TG发现的搜索主题分布情况 118-126 Table 4 CS-SBM-TG discovered search topics distribution [5]GUO F,LIU C,WANG Y M.Efficient multiple-click 主题3 电子产品 models in web search[C]//Proceedings of the Second ACM International Conference on Web Search and Data Mining. 主题4 欧洲杯 Barcelona,Spain,2009:124-131. 搜索词 概率 搜索词 概率 [6]张宇，宋巍，刘挺，等.基于URL主题的查询分类方法 诺基亚 0.03882 欧洲杯 0.03203 [J】.计算机研究与发展，2012,49(6)：1298-1305 手机 0.03912 ZHANG Yu,SONG Wei,LIU Ting,et al.Query 西班牙 0.03064 classification based on url topic[J].Journal of computer 内存 0.03641 德国 0.02991 research and development,2012,49(6):1298-1305. 相机 0.03379 冠军 0.02901 [7]MADSEN R E,KAUCHAK D,ELKAN C.Modeling word HTC 0.02311 瑞士 0.02506 burstiness using the dirichlet distribution[C]//Proceedings of the 22nd international conference on Machine iearning. 5 结束语 Bonn,Germany,2005:545-552. [8]BLEI D M,NG A Y,JORDAN M I.Latent dirichlet 本文提出了两个主题模型SBM和CS-SBM,从 allocation[J].Journal of machine learning research,2003, 全局和基于特定用户来建模网络搜索分析。SBM 3(1):993-1022. 主要是用于获取网络查询的突发现象。CS-SBM主 [9]WANG X,MCCALLUM A.Topics over time:a non-Markov 要添加了查询词和URL之间的关系，获取了主题突 continuous-time model of topical trends[Cl//Proceedings of 发性。为了使SBM和CS-SBM可以获取时间上的 the 12th ACM SIGKDD international conference on Knowledge discovery and data mining.Philadelphia,USA, 突发性，本文采用Beta分布拟合主题在时间上的变 2006:424-433. 化的策略。本文还设计了一系列的实验验证了提 「10]徐戈，王厚峰.自然语言处理中主题模型的发展[J] 出模型拥有较好的泛化能力、主题发现能力和反应 计算机学报，2011.34(8)：1423-1436. 主题时间上突发性的能力。本文的贡献主要有三 XU Ge,WANG Houfeng.The development of topic model 个方面：第一，研究了搜索引擎用户行为分析中突 in natural language processing [J].Chinese journal of 发性现象：第二，提出了两种新型的模型用来捕获 computers,2011,34(8):1423-1436. 网络搜索中各个方面的突发性：第三，通过大量的 [11]张晨逸，孙建伶，丁轶群.基于MB-LDA模型的微博 实验验证了模型的有效性。下一步工作中，将把这 主题挖掘[J].计算机研究与发展，2011,48(10)： 1795-1802 些模型运用到团购广告投放。通过发现用户的搜 ZHANG Chenyi,SUN Jianling,DING Yiqun.Topic 索主题，然后将同一主题下的用户按照社团发现的 mining for microblog based on mb-lda model[].Journal of 规则进行分类，并进行广告投放。 computer research and development,2011,48(10): 参考文献： 1795-1802. [12]刘少鹏，印鉴，欧阳佳，等.基于MB-HDP模型的微博 [1]SUNEHAG P.Using two-stage conditional word frequency 主题挖掘[J].计算机学报，2015,38(7)：1408-1419. models to model word burstiness and motivating TF-IDF[J]. LIU Shaopeng,YIN Jian,OUYANG Jia,et al.Topic Journal of machine learning reasearch,2017,2:8. mining from microblogs based on MB-HDP model[J]. [2]ELKAN C.Clustering documents with an exponential-family Chinese Journal of Computers,2015,38(7):1408-1419. approximation of the Dirichlet compound multinomial 13 JIANG D,TONG Y,SONG Y.Cross-lingual topic distribution [C]//Proceedings of the 23rd International discovery from multilingual search engine query log[J]. Conference on Machine Learning,Pittsburgh.Pennsylvania, ACM transactions on information systems(TOIS),2016, USA,2006:289-296. 35(2)：9. [3]DOYLE G,ELKAN C.Accounting for burstiness in topic [14]JIANG D,LEUNG K W T,NG W.Query intent mining models[C]//Proceedings of the 26th Annual International with multiple dimensions of web search data[J].World Conference on Machine Learning Montreal.QC,Canada, wide web,2016,19(3):475. 2009:281-288. [15]JIANG D,YANG L.Query intent inference via search [4]XUE G R,ZENG H J,CHEN Z,et al.Optimizing web engine log [J].Knowledge and information systems, search using web click-through data[C]//Proceedings of 2016.49(2):661-685. the thirteenth ACM international conference on Information [16]HUANG J,EFTHIMIADIS E N.Analyzing and evaluating and Knowledge Management.Washington,USA,2004: query reformulation strategies in web search logs [C]/表 ４ ＣＳ⁃ＳＢＭ⁃ＴＧ 发现的搜索主题分布情况 Ｔａｂｌｅ ４ ＣＳ⁃ＳＢＭ⁃ＴＧ ｄｉｓｃｏｖｅｒｅｄ ｓｅａｒｃｈ ｔｏｐｉｃｓ ｄｉｓｔｒｉｂｕｔｉｏｎ 主题 ３ 主题 ４ 电子产品 欧洲杯 搜索词 概率 搜索词 概率 诺基亚 ０．０３８ ８２ 欧洲杯 ０．０３２ ０３ 手机 ０．０３９ １２ 西班牙 ０．０３０ ６４ 内存 ０．０３６ ４１ 德国 ０．０２９ ９１ 相机 ０．０３３ ７９ 冠军 ０．０２９ ０１ ＨＴＣ ０．０２３ １１ 瑞士 ０．０２５ ０６ ５ 结束语 本文提出了两个主题模型 ＳＢＭ 和 ＣＳ⁃ＳＢＭ，从 全局和基于特定用户来建模网络搜索分析。 ＳＢＭ 主要是用于获取网络查询的突发现象。 ＣＳ⁃ＳＢＭ 主 要添加了查询词和 ＵＲＬ 之间的关系，获取了主题突 发性。 为了使 ＳＢＭ 和 ＣＳ⁃ＳＢＭ 可以获取时间上的 突发性，本文采用 Ｂｅｔａ 分布拟合主题在时间上的变 化的策略。 本文还设计了一系列的实验验证了提 出模型拥有较好的泛化能力、主题发现能力和反应 主题时间上突发性的能力。 本文的贡献主要有三 个方面：第一，研究了搜索引擎用户行为分析中突 发性现象；第二，提出了两种新型的模型用来捕获 网络搜索中各个方面的突发性；第三，通过大量的 实验验证了模型的有效性。 下一步工作中，将把这 些模型运用到团购广告投放。 通过发现用户的搜 索主题，然后将同一主题下的用户按照社团发现的 规则进行分类，并进行广告投放。 参考文献： ［１］ ＳＵＮＥＨＡＧ Ｐ． Ｕｓｉｎｇ ｔｗｏ⁃ｓｔａｇｅ ｃｏｎｄｉｔｉｏｎａｌ ｗｏｒｄ ｆｒｅｑｕｅｎｃｙ ｍｏｄｅｌｓ ｔｏ ｍｏｄｅｌ ｗｏｒｄ ｂｕｒｓｔｉｎｅｓｓ ａｎｄ ｍｏｔｉｖａｔｉｎｇ ＴＦ⁃ＩＤＦ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ ｒｅａｓｅａｒｃｈ， ２０１７， ２： ８． ［２］ＥＬＫＡＮ Ｃ． Ｃｌｕｓｔｅｒｉｎｇ ｄｏｃｕｍｅｎｔｓ ｗｉｔｈ ａｎ ｅｘｐｏｎｅｎｔｉａｌ⁃ｆａｍｉｌｙ ａｐｐｒｏｘｉｍａｔｉｏｎ ｏｆ ｔｈｅ Ｄｉｒｉｃｈｌｅｔ ｃｏｍｐｏｕｎｄ ｍｕｌｔｉｎｏｍｉａｌ ｄｉｓｔｒｉｂｕｔｉｏｎ ［ Ｃ ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２３ｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ， Ｐｉｔｔｓｂｕｒｇｈ． Ｐｅｎｎｓｙｌｖａｎｉａ， ＵＳＡ， ２００６： ２８９－２９６． ［３］ ＤＯＹＬＥ Ｇ， ＥＬＫＡＮ Ｃ． Ａｃｃｏｕｎｔｉｎｇ ｆｏｒ ｂｕｒｓｔｉｎｅｓｓ ｉｎ ｔｏｐｉｃ ｍｏｄｅｌｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２６ｔｈ Ａｎｎｕａｌ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ Ｍｏｎｔｒｅａｌ． ＱＣ， Ｃａｎａｄａ， ２００９： ２８１－２８８． ［４］ＸＵＥ Ｇ Ｒ， ＺＥＮＧ Ｈ Ｊ， ＣＨＥＮ Ｚ， ｅｔ ａｌ． Ｏｐｔｉｍｉｚｉｎｇ ｗｅｂ ｓｅａｒｃｈ ｕｓｉｎｇ ｗｅｂ ｃｌｉｃｋ⁃ｔｈｒｏｕｇｈ ｄａｔａ ［ Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ｔｈｉｒｔｅｅｎｔｈ ＡＣＭ ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｋｎｏｗｌｅｄｇｅ Ｍａｎａｇｅｍｅｎｔ． Ｗａｓｈｉｎｇｔｏｎ， ＵＳＡ， ２００４： １１８－１２６． ［５］ ＧＵＯ Ｆ， ＬＩＵ Ｃ， ＷＡＮＧ Ｙ Ｍ． Ｅｆｆｉｃｉｅｎｔ ｍｕｌｔｉｐｌｅ － ｃｌｉｃｋ ｍｏｄｅｌｓ ｉｎ ｗｅｂ ｓｅａｒｃｈ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｓｅｃｏｎｄ ＡＣＭ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｗｅｂ Ｓｅａｒｃｈ ａｎｄ Ｄａｔａ Ｍｉｎｉｎｇ． Ｂａｒｃｅｌｏｎａ， Ｓｐａｉｎ， ２００９： １２４－１３１． ［６］张宇， 宋巍， 刘挺， 等． 基于 ＵＲＬ 主题的查询分类方法 ［Ｊ］． 计算机研究与发展， ２０１２， ４９（６）： １２９８－１３０５． ＺＨＡＮＧ Ｙｕ， ＳＯＮＧ Ｗｅｉ， ＬＩＵ Ｔｉｎｇ， ｅｔ ａｌ． Ｑｕｅｒｙ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｂａｓｅｄ ｏｎ ｕｒｌ ｔｏｐｉｃ ［ Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｃｏｍｐｕｔｅｒ ｒｅｓｅａｒｃｈ ａｎｄ ｄｅｖｅｌｏｐｍｅｎｔ， ２０１２， ４９（６）： １２９８－１３０５． ［７］ＭＡＤＳＥＮ Ｒ Ｅ， ＫＡＵＣＨＡＫ Ｄ， ＥＬＫＡＮ Ｃ． Ｍｏｄｅｌｉｎｇ ｗｏｒｄ ｂｕｒｓｔｉｎｅｓｓ ｕｓｉｎｇ ｔｈｅ ｄｉｒｉｃｈｌｅｔ ｄｉｓｔｒｉｂｕｔｉｏｎ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２２ｎｄ ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ ｉｅａｒｎｉｎｇ． Ｂｏｎｎ， Ｇｅｒｍａｎｙ， ２００５： ５４５－５５２． ［８］ ＢＬＥＩ Ｄ Ｍ， ＮＧ Ａ Ｙ， ＪＯＲＤＡＮ Ｍ Ｉ． Ｌａｔｅｎｔ ｄｉｒｉｃｈｌｅｔ ａｌｌｏｃａｔｉｏｎ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ ｒｅｓｅａｒｃｈ， ２００３， ３（１）： ９９３－１０２２． ［９］ＷＡＮＧ Ｘ， ＭＣＣＡＬＬＵＭ Ａ． Ｔｏｐｉｃｓ ｏｖｅｒ ｔｉｍｅ： ａ ｎｏｎ⁃Ｍａｒｋｏｖ ｃｏｎｔｉｎｕｏｕｓ⁃ｔｉｍｅ ｍｏｄｅｌ ｏｆ ｔｏｐｉｃａｌ ｔｒｅｎｄｓ［Ｃ］ ／ ／ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １２ｔｈ ＡＣＭ ＳＩＧＫＤＤ ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｋｎｏｗｌｅｄｇｅ ｄｉｓｃｏｖｅｒｙ ａｎｄ ｄａｔａ ｍｉｎｉｎｇ． Ｐｈｉｌａｄｅｌｐｈｉａ， ＵＳＡ， ２００６： ４２４－４３３． ［１０］徐戈， 王厚峰． 自然语言处理中主题模型的发展［ Ｊ］． 计算机学报， ２０１１， ３４（８）： １４２３－１４３６． ＸＵ Ｇｅ， ＷＡＮＧ Ｈｏｕｆｅｎｇ． Ｔｈｅ ｄｅｖｅｌｏｐｍｅｎｔ ｏｆ ｔｏｐｉｃ ｍｏｄｅｌ ｉｎ ｎａｔｕｒａｌ ｌａｎｇｕａｇｅ ｐｒｏｃｅｓｓｉｎｇ ［ Ｊ ］． Ｃｈｉｎｅｓｅ ｊｏｕｒｎａｌ ｏｆ ｃｏｍｐｕｔｅｒｓ， ２０１１， ３４（８）： １４２３－１４３６． ［１１］张晨逸， 孙建伶， 丁轶群． 基于 ＭＢ－ＬＤＡ 模型的微博 主题挖掘［ Ｊ］． 计算机研究与发展， ２０１１， ４８ （ １０）： １７９５－１８０２． ＺＨＡＮＧ Ｃｈｅｎｙｉ， ＳＵＮ Ｊｉａｎｌｉｎｇ， ＤＩＮＧ Ｙｉｑｕｎ． Ｔｏｐｉｃ ｍｉｎｉｎｇ ｆｏｒ ｍｉｃｒｏｂｌｏｇ ｂａｓｅｄ ｏｎ ｍｂ⁃ｌｄａ ｍｏｄｅｌ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｃｏｍｐｕｔｅｒ ｒｅｓｅａｒｃｈ ａｎｄ ｄｅｖｅｌｏｐｍｅｎｔ， ２０１１， ４８ （ １０ ）： １７９５－１８０２． ［１２］刘少鹏， 印鉴， 欧阳佳， 等． 基于 ＭＢ⁃ＨＤＰ 模型的微博 主题挖掘［Ｊ］． 计算机学报， ２０１５， ３８（７）： １４０８－１４１９． ＬＩＵ Ｓｈａｏｐｅｎｇ， ＹＩＮ Ｊｉａｎ， ＯＵＹＡＮＧ Ｊｉａ， ｅｔ ａｌ． Ｔｏｐｉｃ ｍｉｎｉｎｇ ｆｒｏｍ ｍｉｃｒｏｂｌｏｇｓ ｂａｓｅｄ ｏｎ ＭＢ － ＨＤＰ ｍｏｄｅｌ ［ Ｊ］． Ｃｈｉｎｅｓｅ Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔｅｒｓ， ２０１５， ３８（７）： １４０８－１４１９． ［ １３ ］ ＪＩＡＮＧ Ｄ， ＴＯＮＧ Ｙ， ＳＯＮＧ Ｙ． Ｃｒｏｓｓ⁃ｌｉｎｇｕａｌ ｔｏｐｉｃ ｄｉｓｃｏｖｅｒｙ ｆｒｏｍ ｍｕｌｔｉｌｉｎｇｕａｌ ｓｅａｒｃｈ ｅｎｇｉｎｅ ｑｕｅｒｙ ｌｏｇ［ Ｊ］． ＡＣＭ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｆｏｒｍａｔｉｏｎ ｓｙｓｔｅｍｓ （ＴＯＩＳ）， ２０１６， ３５（２）： ９． ［１４］ ＪＩＡＮＧ Ｄ， ＬＥＵＮＧ Ｋ Ｗ Ｔ， ＮＧ Ｗ． Ｑｕｅｒｙ ｉｎｔｅｎｔ ｍｉｎｉｎｇ ｗｉｔｈ ｍｕｌｔｉｐｌｅ ｄｉｍｅｎｓｉｏｎｓ ｏｆ ｗｅｂ ｓｅａｒｃｈ ｄａｔａ［ Ｊ］． Ｗｏｒｌｄ ｗｉｄｅ ｗｅｂ， ２０１６， １９（３）： ４７５． ［１５］ ＪＩＡＮＧ Ｄ， ＹＡＮＧ Ｌ． Ｑｕｅｒｙ ｉｎｔｅｎｔ ｉｎｆｅｒｅｎｃｅ ｖｉａ ｓｅａｒｃｈ ｅｎｇｉｎｅ ｌｏｇ ［ Ｊ ］． Ｋｎｏｗｌｅｄｇｅ ａｎｄ ｉｎｆｏｒｍａｔｉｏｎ ｓｙｓｔｅｍｓ， ２０１６， ４９（２）： ６６１－６８５． ［１６］ＨＵＡＮＧ Ｊ， ＥＦＴＨＩＭＩＡＤＩＳ Ｅ Ｎ． Ａｎａｌｙｚｉｎｇ ａｎｄ ｅｖａｌｕａｔｉｎｇ ｑｕｅｒｙ ｒｅｆｏｒｍｕｌａｔｉｏｎ ｓｔｒａｔｅｇｉｅｓ ｉｎ ｗｅｂ ｓｅａｒｃｈ ｌｏｇｓ ［ Ｃ］ ／ ／ ·６７６· 智 能 系 统 学 报 第 １２ 卷