第1期 吴国栋，等：图神经网络推荐研究进展 ·15· 间关系，传统的推荐方法主要关注用户与物品间 I)有向图GNN 的关系，很少关注用户相互间及物品相互间的关 实际上有向图比无向图可以反映更多的信 系。图神经网络GNN的发展，为人们进一步分 息，比如某种次序或者逻辑关系，在文献[17]中， 析推荐系统实体及其相互间的关系提供了更好的 Kampffmeyer等通过使用两个权值矩阵W,W。 表示方式，近年来，基于GNN推荐的相关研究越 来进行协同获得更加精确的处理结果，如式(6)： 来越受到广大学者关注，并取得了一定的成果。 H=(D Ap(D A.H-W)Wp) (6) 本文分析了GNN推荐的主要过程及其研究进 式中：p代表父节点（指向它的节点）：c代表子节 展，提出了GNN推荐当前存在的难点，并指出未 点（它指向的节点）；DA。、DA分别代表对父 来GNN推荐的主要研究方向。 节点和子节点邻接矩阵的标准化矩阵；σ是非线 性激活函数。 1 图神经网络 2)无向图GNN 图神经网络是利用一定的方法对节点进行描 没有次序关系的节点就构成无向图，图神经 述，并经过不断的节点状态更新，得到具有包含 网络GNN对于无向图的处理只需要将其视为两 邻居节点信息和图形拓扑结构特点的状态m,最 个有向图的叠加即可。实际上，无向图的计算相 终将这些节点通过特定方法进行输出，得到需要 比有向图更为简单，对其进行更新时，只需一个 的结果。式(1)表示节点状态的更新方式，式 权重矩阵W正常经过加权，通过激活函数更新 (2)表示对更新完的节点状态进行输出： 即可。 h =f(X,Xcoiv,hnevl,Xne) 本文将图神经网络GNN按照构成它的节点 (1) o=g(h,X) (2) 是否表示相同的实体，分为单元图GNN,二元图 式中：f是局部转换函数；g为局部输出函数；0表 GNN与多元图GNN。单元图GNN中节点仅表 示输出结果；h,表示节点当前的嵌入化结果： 示1种实体类型，即节点的类型唯一，在推荐系统 X,代表节点v的特征；Xco表示对应节点v的边 中常常体现在用户社交关系图，如根据用户的朋 的属性；h表示节点v更新前的状态；Xem表示 友关系构建对应的GNN模型；二元图GNN中的 节点v的邻居节点的特征。 节点所表示的实体类型为2种，诸如用户-物品购 式(1)、(2)均表示以一个节点为单位进行操 买关系图，用户一项目标签图等：图中节点所表示 作，当对所有的节点进行上述运算的时候，可以 实体类型超过2种的为多元图GNN,在实体种类 更加简洁的用式(3)、式(4)进行描述： 及其关系较复杂的时候可以使用这种类型的GNN H=F(H,X) (3) 模型。 O=G(H.XN) (4) 2推荐系统 式中：H表示所有节点的状态；O表示对所有的节 点进行输出之后的结果；X表示边的特征；Xv分 推荐系统就是通过分析用户的历史行为对用 别表示所有节点的特征；F)、G(分别表示全局 户的兴趣建模，从而主动给用户推荐能够满足其 转换函数与全局输出函数。由此可知，当对所有 兴趣和需求的物品（或信息）。常见的推荐模型有 节点的状态进行从1至什1轮更新时，可以表示为 基于用户行为的推荐，如协同过滤(collaborative 式(5)： filtering,CF)),隐语义模型(latent factor model, H+1=F(,X) (5) LFM0,基于内容的推荐，如标签推荐；混合推 GNN有多种变体，如根据训练方法的差异有 荐四，即通过多种不同的推荐模型相互协作，如在 GraphSAGEl、FastGCN!、ControlVariate、Co- 推荐系统的不同时期分别使用不同的模型或者使 training GCN和Self-training GCNI等；根据信 用多个模型的推荐结果再进行决策。协同过滤分 息传播计算方式的不同有Spectral Network!1 为基于用户的协同过滤和基于物品的协同过 MoNet!3、DCNN、Gate Graph Neural Networks! 滤21，基于用户行为的推荐算法往往存在着冷启 Sentence LSTM!61等。 动问题2和数据稀疏性问题凶。 图神经网络GNN按照其构成拓扑结构边的 随着深度学习的发展，基于深度学习的推荐 类型，分为有向图GNN和无向图GNN,对于不同 研究也很多，Elkahky等26提出了一种多视图深 的边类型，对应的局部转换函数∫的计算方法也 度神经网络模型(Multi-View deep neural network, 有所差异。 Multi-ViewDNN),通过用户和物品（项目）两种信间关系，传统的推荐方法主要关注用户与物品间 的关系，很少关注用户相互间及物品相互间的关 系。图神经网络 GNN 的发展，为人们进一步分 析推荐系统实体及其相互间的关系提供了更好的 表示方式，近年来，基于 GNN 推荐的相关研究越 来越受到广大学者关注，并取得了一定的成果。 本文分析了 GNN 推荐的主要过程及其研究进 展，提出了 GNN 推荐当前存在的难点，并指出未 来 GNN 推荐的主要研究方向。 1 图神经网络 图神经网络是利用一定的方法对节点进行描 述，并经过不断的节点状态更新，得到具有包含 邻居节点信息和图形拓扑结构特点的状态[7] ，最 终将这些节点通过特定方法进行输出，得到需要 的结果。式 (1) 表示节点状态的更新方式，式 (2) 表示对更新完的节点状态进行输出： hv = f ( Xv ,XCO[v] , hne[v] ,Xne[v] ) (1) ov = g(hv ,Xv) (2) 式中： f 是局部转换函数； g 为局部输出函数；o 表 示输出结果； hv 表示节点当前的嵌入化结果； Xv 代表节点 v 的特征；XCO[v] 表示对应节点 v 的边 的属性；hne[v] 表示节点 v 更新前的状态；Xne[v] 表示 节点 v 的邻居节点的特征。 式 (1)、(2) 均表示以一个节点为单位进行操 作，当对所有的节点进行上述运算的时候，可以 更加简洁的用式 (3)、式 (4) 进行描述： H = F(H,X) (3) O = G(H,XN) (4) XN F(·) G(·) 式中：H 表示所有节点的状态；O 表示对所有的节 点进行输出之后的结果；X 表示边的特征； 分 别表示所有节点的特征； 、 分别表示全局 转换函数与全局输出函数。由此可知，当对所有 节点的状态进行从 t 至 t+1 轮更新时，可以表示为 式 (5)： H t+1 = F ( H t ,X ) (5) GNN 有多种变体，如根据训练方法的差异有 GraphSAGE[8] 、FastGCN[9] 、ControlVariate[10] 、Co￾training GCN[11] 和 Self-training GCN[11] 等；根据信 息传播计算方式的不同有 Spectral Network[12] 、 MoNet[13] 、DCNN[14] 、Gate Graph Neural Networks[15] 、 Sentence LSTM[16] 等。 图神经网络 GNN 按照其构成拓扑结构边的 类型，分为有向图 GNN 和无向图 GNN，对于不同 的边类型，对应的局部转换函数 f 的计算方法也 有所差异。 1) 有向图 GNN 实际上有向图比无向图可以反映更多的信 息，比如某种次序或者逻辑关系，在文献 [17] 中， Kampffmeyer 等通过使用两个权值矩阵 Wp，Wc 来进行协同获得更加精确的处理结果，如式 (6)： H t = σ(D −1 p Ap ·σ(D −1 c AcH t−1Wc)Wp) (6) σ 式中：p 代表父节点 (指向它的节点)；c 代表子节 点 (它指向的节点)；D −1 pAp、D −1 cAc 分别代表对父 节点和子节点邻接矩阵的标准化矩阵； 是非线 性激活函数。 2) 无向图 GNN 没有次序关系的节点就构成无向图，图神经 网络 GNN 对于无向图的处理只需要将其视为两 个有向图的叠加即可。实际上，无向图的计算相 比有向图更为简单，对其进行更新时，只需一个 权重矩阵 W 正常经过加权，通过激活函数更新 即可。 本文将图神经网络 GNN 按照构成它的节点 是否表示相同的实体，分为单元图 GNN，二元图 GNN 与多元图 GNN。单元图 GNN 中节点仅表 示 1 种实体类型，即节点的类型唯一，在推荐系统 中常常体现在用户社交关系图，如根据用户的朋 友关系构建对应的 GNN 模型；二元图 GNN 中的 节点所表示的实体类型为 2 种，诸如用户−物品购 买关系图，用户−项目标签图等；图中节点所表示 实体类型超过 2 种的为多元图 GNN，在实体种类 及其关系较复杂的时候可以使用这种类型的 GNN 模型。 2 推荐系统 推荐系统就是通过分析用户的历史行为对用 户的兴趣建模，从而主动给用户推荐能够满足其 兴趣和需求的物品 (或信息)。常见的推荐模型有 基于用户行为的推荐，如协同过滤 (collaborative filtering, CF)[18] ，隐语义模型 (latent factor model, LFM)[19] ；基于内容的推荐，如标签推荐[20] ；混合推 荐 [21] ，即通过多种不同的推荐模型相互协作，如在 推荐系统的不同时期分别使用不同的模型或者使 用多个模型的推荐结果再进行决策。协同过滤分 为基于用户的协同过滤[22] 和基于物品的协同过 滤 [23] ，基于用户行为的推荐算法往往存在着冷启 动问题[24] 和数据稀疏性问题[25]。 随着深度学习的发展，基于深度学习的推荐 研究也很多，Elkahky 等 [26] 提出了一种多视图深 度神经网络模型 (Multi-View deep neural network, Multi-ViewDNN)，通过用户和物品 (项目) 两种信 第 1 期 吴国栋，等：图神经网络推荐研究进展 ·15·