·232· 智能系统学报 第16卷 为聚类结果中的第2类，以此类推；由于文本信息 将嵌入向量p和q输入乘法层，乘法层进行 中State为4类，所以后4维分别为AZ、PA、OH、 p和q的乘积，乘法层的输出用线性交互向量r BW;嵌入向量中间的五维为文本信息中的City。 表示： 嵌入向量的每一维度根据顺序分别代表聚类结果 r=p⑧q=(P1q1,P2q2,…,Pk9k) (5) 中的第1类、第2类、第3类、Ahwatukee、McM- r捕获了用户和兴趣点之间的线性交互。然 crray、Phoenix、Cuyahoga Falls、Stuttgart、AZ、PA、 后，将向量r输入到一个多层的全连接神经网络 OH、BW,所以嵌入向量为[1,0,0,1,0,0,0,0,1,0,0,0]。 模型学习更加抽象的用户和兴趣点之间的非线性 同理，用户信息的嵌入向量也按此方法进行转换。 交互，这里将多层的全连接神经网络模型的每一 城市 州 层的输出4表示为 a;=ReLU(wia1+b:) (6) 01…010…0001 式中：w和b分别表示每一层的权重矩阵和偏差， a,表示用ReLU函数激活的每一层的输出结果。 地理信息 文本信息 基于用户-兴趣点耦合关系的兴趣点推荐模 图1兴趣点信息嵌入方式 型结合了基于卷积神经网络的局部和全局显式关 Fig.1 Embedding method of POI 联关系以及用户-兴趣点隐式关联关系。如图2 对于嵌入向量ue和，构造一个函数fa(u,) 所示，将其输入到一个全连接层中进行处理，以 来计算二者之间的关联关系，代表了u.和v之间 生成最终的用户-兴趣点耦合向量。模型的总输 的交互，其中日为∫的参数，可以得到一个用户- 出结果值由激活函数Sigmoid压缩为[0,1]区间。 兴趣点关联矩阵，关联矩阵中的每一个元素都代 表了相应的用户-兴趣点之间的关联关系。将关联 Sigmoid 矩阵输入到一个卷积神经网络来学习局部的用户 全连接层 兴趣点显式关联关系，得到局部的显式关联向量。 连接 卷积神经网络的模型由卷积层和池化层组 成，卷积层和池化层可以提取更深层次的特征， 其执行方式为： 用户一兴趣点耦合向量 多层感知机 ap pooling(g(w*xc+b)) (2) 式中：*为卷积算子；e为滤波器；b为w的偏置； 全局向量 局部向量 g为非线性激活函数；pooling为池化函数（例如， 入 用户一兴趣点交 互向量（相乘） 最大池化或者平均池化)。 池化层 嵌入向 嵌人向 在此基础上，将用户-兴趣点的关联矩阵展平 量(p) 卷积层 量(q) 成一个向量，作为一个全局的显式关联向量，并 耦合层 p: 9192 将其与局部的显式关联向量连接起来，进而综合 表征用户-兴趣点的显式关联关系。 嵌入 嵌人 3.2.2用户-兴趣点的隐式关联关系评估 向量 向量 签到矩阵中推断出的潜在因素可以解释为隐 用户信息 兴趣点信息 用户 兴趣点y 式的关联关系，用户可能通过潜在的因素衡量自 图2基于用户-兴趣点耦合关系的兴趣点推荐模型 己对兴趣点的喜爱程度。与文献[4)中的NuMF类 Fig.2 A POI recommendation model based on user-POI 似，将用户和兴趣点的潜在因素连接到一个全连 coupling relationships 接的神经网络模型中学习隐式的用户-兴趣点交 33模型的训练 互。用户-兴趣点隐式关联模型将用户标签和兴 为了学习模型参数，首先根据训练数据训练 趣点标签分别表示为one-hot向量u和'。受文 模型。步骤1中的类标签通过3.1节根据兴趣点 献[26]的启发，采用全连接层作为嵌入层来学习 的位置信息得到。训练算法中输入了batch size 低维向量，分别表示为“和v的p和4，嵌入过程为 的大小，所以步骤3中将训练集分成n个batch, P=WTu (3) 每batch size个数据组成一个batch。用户和兴趣 q=Wv (4) 点的属性信息嵌人向量W。和'，中分别嵌入了用 权重矩阵Wn∈Rs心I和W,∈R完全连接在输 户的文本信息和兴趣点的位置信息、文本信息。 入层和嵌人层之间。 计算用户和兴趣点的嵌入向量q和p通过式为聚类结果中的第 2 类，以此类推；由于文本信息 中 State 为 4 类，所以后 4 维分别为 AZ、PA、OH、 BW；嵌入向量中间的五维为文本信息中的 City。 嵌入向量的每一维度根据顺序分别代表聚类结果 中的第 1 类、第 2 类、第 3 类、Ahwatukee、McM￾crray、Phoenix、Cuyahoga Falls、Stuttgart、AZ、PA、 OH、BW，所以嵌入向量为 [1,0,0,1,0,0,0,0,1,0,0,0]。 同理，用户信息的嵌入向量也按此方法进行转换。 0 1 ... 0 1 0 ... 0 0 0 ... 1 地理信息 文本信息 城市 州 图 1 兴趣点信息嵌入方式 Fig. 1 Embedding method of POI fΘ(uc , vc) Θ 对于嵌入向量 uc 和 vc，构造一个函数 来计算二者之间的关联关系，代表了 uc 和 vc 之间 的交互，其中 为 f 的参数，可以得到一个用户− 兴趣点关联矩阵，关联矩阵中的每一个元素都代 表了相应的用户−兴趣点之间的关联关系。将关联 矩阵输入到一个卷积神经网络来学习局部的用户 −兴趣点显式关联关系，得到局部的显式关联向量。 卷积神经网络的模型由卷积层和池化层组 成，卷积层和池化层可以提取更深层次的特征， 其执行方式为： ap = pooling(g(w∗ xc + b)) (2) 式中：∗ 为卷积算子; w 为滤波器;b 为 w 的偏置; g 为非线性激活函数;pooling 为池化函数 (例如， 最大池化或者平均池化)。 在此基础上，将用户−兴趣点的关联矩阵展平 成一个向量，作为一个全局的显式关联向量，并 将其与局部的显式关联向量连接起来，进而综合 表征用户−兴趣点的显式关联关系。 3.2.2 用户−兴趣点的隐式关联关系评估 签到矩阵中推断出的潜在因素可以解释为隐 式的关联关系，用户可能通过潜在的因素衡量自 己对兴趣点的喜爱程度。与文献 [4] 中的 NeuMF 类 似，将用户和兴趣点的潜在因素连接到一个全连 接的神经网络模型中学习隐式的用户−兴趣点交 互。用户−兴趣点隐式关联模型将用户标签和兴 趣点标签分别表示为 one-hot 向量 u 和 v。受文 献 [26] 的启发，采用全连接层作为嵌入层来学习 低维向量，分别表示为 u 和 v 的 p 和 q，嵌入过程为 p = WT u u (3) q = WT v v (4) Wu ∈ R k×|U | Wv ∈ R 权重矩阵 和 k×|V | 完全连接在输 入层和嵌入层之间。 将嵌入向量 p 和 q 输入乘法层，乘法层进行 p 和 q 的乘积，乘法层的输出用线性交互向量 r 表示： r = p⊗ q = (p1q1, p2q2,··· , pkqk) (5) r 捕获了用户和兴趣点之间的线性交互。然 后，将向量 r 输入到一个多层的全连接神经网络 模型学习更加抽象的用户和兴趣点之间的非线性 交互，这里将多层的全连接神经网络模型的每一 层的输出 ai 表示为 ai = ReLU(w T i ai−1 + bi) (6) 式中：w 和 b 分别表示每一层的权重矩阵和偏差， ai 表示用 ReLU 函数激活的每一层的输出结果。 基于用户−兴趣点耦合关系的兴趣点推荐模 型结合了基于卷积神经网络的局部和全局显式关 联关系以及用户−兴趣点隐式关联关系。如图 2 所示，将其输入到一个全连接层中进行处理，以 生成最终的用户−兴趣点耦合向量。模型的总输 出结果值由激活函数 Sigmoid 压缩为 [0,1] 区间。 Sigmoid 全连接层 连接 多层感知机 全局向量 局部向量 池化层 卷积层 耦合层 嵌入 向量 嵌入 向量 用户信息 兴趣点信息 p1 p2 ... pk q1 q2 qn ... 0 0 1 0 0 0 ... 0 0 0 1 0 0 ... 用户−兴趣点耦合向量 用户−兴趣点交 互向量(相乘) 嵌入向 量 (q) 嵌入向 量 (p) 用户 u 兴趣点 v 图 2 基于用户−兴趣点耦合关系的兴趣点推荐模型 Fig. 2 A POI recommendation model based on user-POI coupling relationships 3.3 模型的训练 为了学习模型参数，首先根据训练数据训练 模型。步骤 1 中的类标签通过 3.1 节根据兴趣点 的位置信息得到。训练算法中输入了 batch_size 的大小，所以步骤 3 中将训练集分成 n 个 batch， 每 batch_size 个数据组成一个 batch。用户和兴趣 点的属性信息嵌入向量 uc 和 vc 中分别嵌入了用 户的文本信息和兴趣点的位置信息、文本信息。 计算用户和兴趣点的嵌入向 量 q 和 p 通 过 式 ·232· 智 能 系 统 学 报 第 16 卷