历些毛子代枚大兽 3知识表示学习 XIDIAN UNIVERSITY ◆基于图神经网络的知识表示学习：R-GCN ● 具体方法：定义了如下的传播模型以计算（有向、有标签）关系图中节点的表 示。 二五之+时9 r∈Rj∈Wr 问题：如果关系很多的话，就会造成神经网络参数W0的快速增长，导致稀有 关系上的过拟合及大规模数据上的过拟合。 ●解决方法：正则化(Regularization) B basis-decomposition: b=1 将w0eRa+1xa'分解成基变换y∈Ra+1xd的线性组合，只有a,%是依赖于关系 的参数，参数数量大幅减少。基分解可理解成不同关系类型的权共享：四对应第b 17 种关系类型的参数矩阵。3 知识表示学习 17 基于图神经网络的知识表示学习：R-GCN  具体方法：定义了如下的传播模型以计算（有向、有标签）关系图中节点的表 示。  问题：如果关系很多的话，就会造成神经网络参数𝑊𝑟 (𝑙)的快速增长，导致稀有 关系上的过拟合及大规模数据上的过拟合。  解决方法：正则化（Regularization ） basis-decomposition： 将𝑊𝑟 (𝑙) ∈ 𝑅 𝑑 𝑙+1×𝑑 𝑙分解成基变换𝑉𝑏 (𝑙) ∈ 𝑅 𝑑 𝑙+1×𝑑 𝑙的线性组合，只有𝑎𝑟𝑏 (𝑙)是依赖于关系 的参数，参数数量大幅减少。基分解可理解成不同关系类型的权共享：𝑉𝑏 (𝑙)对应第b 种关系类型的参数矩阵