·1260 工程科学学报，第42卷，第10期 表1部分基于表示学习的知识推理模型 Table 1 Some knowledge reasoning models based on representation learning Method Scoring function The entity representations The relation representation TransE -h+1-2 h,1∈Rd reRd ManifoldE -h+t--)2 h,t∈Rd reRd SimplE ag+er.a》 he,te ERd ,∈Rd RotatE 肠or- h,tE Cd reCd QuatE ©片！ h1E Hd reHd RESCAL hM! h,tERd M,ERdxd DistMult hdiag(r)t h,tERd rERd ComplEx Re(hdiag(r)) htECd reCd ANALOGY hTMt h,1ERd M,ERdxd CrossE (tanh(croh+crohor+b)t h,tERd r∈Rd 循环卷积提出InteractE模型.InteractE模型通过使 (Text-enhanced knowledge graph embedding,TKGE) 用多种排列输入，更简单的特征变形方法以及循 的组合模型，通过实体、关系和文本来提升推理的 环卷积来取得比ConvE更显著的效果 表现.Guan等！基于一个常识图的常识概念信息 3.4混合推理 提出了一个常识伴随的知识图谱嵌入(Knowledge 对于上面的几类知识推理的方法，各有其优 graph embedding with concepts,.KEC)模型，将来自 势与缺点，于是考虑结合多种方法的优势来提升 于知识图谱的事实元组通过常识概念信息修正， 推理效果，进而提出了混合推理方法.Guo等7提 从而使得模型不仅仅关注实体间的关联性还有实 出学习规则增强关系来补全知识图谱的方法，使 体存在的常识概念.因此这个模型具有明确的语 用规则来进一步改善传统关系学习得到的推理结 义性 果，提升知识推理的准确性.L山等8网提出了基于 4类知识推理方法对比如表2所示 强化学习建模的逻辑概率的知识表示和推理模 3.5质量评估 型，同时在已知的知识和由强化学习整合的经验 通过质量评估技术来对新知识进行筛选，是 上进行推理来训练强化学习的Agent..Xie等Is提 构建知识图谱中必不可少的环节.Mendes等91提 出一种利用实体描述的知识表示学习的方法，使 出了Sieve,用于简化生成高质量数据的任务，并整 用了连续词袋模型和深度卷积模型来编码实体 合进了链接数据整合框架(Linked data integration 的描述语义.之后进一步学习通过三元组和三元 framework,LDIF)中，包括一个质量评估模型和一 组中实体的描述来学习表示知识.并利用学习到 个数据融合模型.质量评估主要利用用户选择的 的知识来完成知识推理任务，Wanglo提出规则 质量因子，通过用户配置的得分函数生成质量得 嵌入神经网络(The rule-embedded neural network, 分.数据融合使用质量得分来处理用户设置的冲 ReNN).ReNN基于局部的推理检测局部模式，由 突消解任务.Fader等时基于来自网络或Wikipedia 局部模式领域知识的规则来生成规则调制映射 的lO00个句子中人工标注的实例来训练ReVerb 针对规则引起的优化问题，采用两阶段优化策略 系统的置信函数，通过一个逻辑回归分类器来评 引入规则解决了传统神经网络必须受限于数据集 估每一个通过ReVerb系统抽取得到的实例的置 的问题，从而提升了推理的准确率 信度.Google的Knowledge vault项目，通过统计 Zhang等则提出了一个名为IterE的迭代学习 全球网络中抽取数据的频率作为评估信息可信度 嵌入和规则的框架，目标是同时学习实体嵌入表 的依据，并通过已有知识库中的知识来修正可信 示和规则，并利用它们各自的优势来弥补对方的 度，这一方法有效降低了评估数据结果的不确定 不足.Nie与Sun四组合了隐形特征和图特征的 性，从而提升了知识的质量水平.Tan等97提出了 优势提出了一个名为文本强化型知识图谱嵌入 一个名为CQUAL(Contribution quality predictor)的循环卷积提出 InteractE 模型. InteractE 模型通过使 用多种排列输入，更简单的特征变形方法以及循 环卷积来取得比 ConvE 更显著的效果. 3.4    混合推理 对于上面的几类知识推理的方法，各有其优 势与缺点，于是考虑结合多种方法的优势来提升 推理效果，进而提出了混合推理方法. Guo 等[87] 提 出学习规则增强关系来补全知识图谱的方法，使 用规则来进一步改善传统关系学习得到的推理结 果，提升知识推理的准确性. Lu 等[88] 提出了基于 强化学习建模的逻辑概率的知识表示和推理模 型，同时在已知的知识和由强化学习整合的经验 上进行推理来训练强化学习的 Agent. Xie 等[89] 提 出一种利用实体描述的知识表示学习的方法，使 用了连续词袋模型和深度卷积模型来编码实体 的描述语义. 之后进一步学习通过三元组和三元 组中实体的描述来学习表示知识. 并利用学习到 的知识来完成知识推理任务. Wang[90] 提出规则 嵌入神经网络 （ The rule-embedded neural network， ReNN）. ReNN 基于局部的推理检测局部模式，由 局部模式领域知识的规则来生成规则调制映射. 针对规则引起的优化问题，采用两阶段优化策略. 引入规则解决了传统神经网络必须受限于数据集 的问题，从而提升了推理的准确率. Zhang 等[91] 提出了一个名为 IterE 的迭代学习 嵌入和规则的框架，目标是同时学习实体嵌入表 示和规则，并利用它们各自的优势来弥补对方的 不足. Nie 与 Sun[92] 组合了隐形特征和图特征的 优势提出了一个名为文本强化型知识图谱嵌入 （Text-enhanced knowledge graph embedding，TKGE） 的组合模型，通过实体、关系和文本来提升推理的 表现. Guan 等[93] 基于一个常识图的常识概念信息 提出了一个常识伴随的知识图谱嵌入（Knowledge graph embedding with concepts，KEC）模型，将来自 于知识图谱的事实元组通过常识概念信息修正， 从而使得模型不仅仅关注实体间的关联性还有实 体存在的常识概念. 因此这个模型具有明确的语 义性. 4 类知识推理方法对比如表 2 所示. 3.5    质量评估 通过质量评估技术来对新知识进行筛选，是 构建知识图谱中必不可少的环节. Mendes 等[94] 提 出了 Sieve，用于简化生成高质量数据的任务，并整 合进了链接数据整合框架（Linked data integration framework，LDIF）中，包括一个质量评估模型和一 个数据融合模型. 质量评估主要利用用户选择的 质量因子，通过用户配置的得分函数生成质量得 分. 数据融合使用质量得分来处理用户设置的冲 突消解任务. Fader 等[95] 基于来自网络或 Wikipedia 的 1000 个句子中人工标注的实例来训练 ReVerb 系统的置信函数，通过一个逻辑回归分类器来评 估每一个通过 ReVerb 系统抽取得到的实例的置 信度. Google 的 Knowledge vault 项目[96] ，通过统计 全球网络中抽取数据的频率作为评估信息可信度 的依据，并通过已有知识库中的知识来修正可信 度，这一方法有效降低了评估数据结果的不确定 性，从而提升了知识的质量水平. Tan 等[97] 提出了 一个名为 CQUAL（Contribution quality predictor）的 表 1 部分基于表示学习的知识推理模型 Table 1 Some knowledge reasoning models based on representation learning Method Scoring function The entity representations The relation representation TransE −∥h+t−r∥1/2 h,t ∈ R d r ∈ R d ManifoldE − ( ∥h+t−r∥ 2 2 −θ 2 r )2 h,t ∈ R d r ∈ R d SimplE 1 2 (⟨hei , vr ,te j ⟩ + ⟨ he j , vr −1 ,tei ⟩) he,te ∈ R d vr ∈ R d RotatE ∥h ◦ r −t∥ h,t ∈ C d r ∈ C d QuatE h⊗ r |r| ·t h,t ∈ H d r ∈ H d RESCAL h TMr t h,t ∈ R d Mr ∈ R d×d DistMult h Tdiag(r)t h,t ∈ R d r ∈ R d ComplEx Re ( h Tdiag(r)t¯ ) h,t ∈ C d r ∈ C d ANALOGY h TMr t h,t ∈ R d Mr ∈ R d×d CrossE σ ( tanh(cr ◦ h+cr ◦ h ◦ r +b)t T ) h,t ∈ R d r ∈ R d · 1260 · 工程科学学报，第 42 卷，第 10 期