CN112528165A - 一种基于动态路由图网络的会话社交推荐方法 - Google Patents

Abstract

本发明公开了一种基于动态路由图网络的会话社交推荐方法。该方法基于给定用户历史交互序列和社交网络关系，对用户的兴趣和社交影响进行建模，来推荐用户在下一步最可能感兴趣的物品。本方法主要由五个部分组成：第一部分是将所有用户序列分成会话序列，并采用长短期记忆网络生成会话向量表征，目标用户当前会话向量表征即当前兴趣向量表征。第二部分是采用注意力机制，得到和目标用户当前兴趣相关的那部分长期兴趣。第三部分是采用动态路由图网络从社交网络中得到朋友对目标用户的社交影响。第四部分是集合用户当前兴趣、长期兴趣和社交影响，预测用户下一个点击的物品。

Description

一种基于动态路由图网络的会话社交推荐方法

技术领域

本发明属于互联网服务技术领域，尤其是涉及一种基于动态路由图网络的会话社交推荐方法。

背景技术

很多在线平台，例如Yelp、Epinions等，允许用户在平台上分享自己的兴趣和经历，以及和其他用户进行互动。用户在平台上的行为信息非常丰富，通常来说用户的兴趣是多样和多变的。很多社交推荐方法在推荐物品的时候，同时考虑用户的短期兴趣、长期兴趣和社交影响，可以降低数据的稀疏度。将用户交互行为数据和用户的社交网络进行互补地结合，提高个性化推荐方法准确度是本发明的出发点。

大多数社交推荐方法采用矩阵分解模型，将用户的社交网络和用户的交互网络结合起来建模。近几年，随着图卷积网络(GCN)的发展，有些学者开始使用图卷积网络来学习朋友对目标用户的社交影响。如song等人采用GraphSAGE得到朋友对目标用户的社交影响，GraphSAGE是Hamilton等人提出的一种图卷积网络方法，它不需要输入所有用户的社交网络矩阵，是一种时间复杂度换空间复杂度的图方法。同时，song采用固定的用户向量矩阵来表示用户的长期兴趣，用户向量矩阵通过模型训练更新。

以上方法虽然取得不错的效果，但是采用用户向量矩阵这种静态表示方式来建模用户的长期兴趣，忽视了用户兴趣的动态变化，该方法的实验证明在用户兴趣动态变化场景中，用户的长期兴趣表征效果甚微。本方法改进用户的长期兴趣表征方法，采用注意力机制从用户历史会话序列中抽取和用户当前兴趣相关的那部分长期兴趣。另外，有些方法使用原始图网络对用户和用户的朋友之间的关系进行建模，忽略了不同朋友对用户影响的差异性。Song等人在图网络中加入注意力机制，使得不同的朋友对用户的社交影响不同。但是该方法忽视了一个重要事实，某个朋友对目标用户的影响不仅和该朋友和目标用户有关，还和目标用户的其他朋友有关。本方法改进图网络的信息传递模，借鉴动态路由中的信息传递方法，由目标用户和目标用户的所有朋友共同决定每个朋友对目标用户的影响程度。最后结合用户当前兴趣、长期兴趣和社交影响，预测用户下一个点击的物品。

发明内容

本发明所要解决的技术问题是给定用户历史交互序列和社交网络关系，对用户的兴趣和社交影响进行建模，来推荐用户在下一步最可能感兴趣的物品。本方法通过对用户当前兴趣、长期兴趣和社交影响进行建模，来预测用户下一个点击的物品。为此，本发明采用以下技术方案：

一种基于动态路由图网络的会话社交推荐方法，包括以下步骤：

构建目标用户u_i的社交网络G，令：

G＝{U,E}

其中，U表示社交网络中目标用户u_i的朋友集合，E是目标用户的社交连接。

使用长短期记忆网络生成会话向量表征，目标用户当前会话向量表征即是当前兴趣向量表征。构建用户会话向量表征，任一会话表示为s＝{v₁,v₂,…,v_n}。其中v_j是会话中第j个物品。构建用户会话向量表征采用长短期记忆网络(LSTM)：

z_s＝LSTM(Q(:,s))

其中，Q是物品的向量矩阵，Q(:,s)代表出现在会话s中所有的物品向量。LSTM具体公式为：

i_j＝σ(W_ix_j+U_ih_j-1+b_i)

f_j＝σ(W_fx_j+U_fh_j-1+b_f)

o_j＝σ(W_ox_j+U_oh_j-1+b_o)

c_j＝i_ktanh(W_cx_j+U_ch_j-1+b_c)+f_jc_j-1

h_j＝o_jc_j

其中，x_j是会话序列中第j个物品的向量表征。长短期记忆网络的最后一层的隐藏状态h_j的输出就是会话向量表征z_s。

和

分别是控制输入门i_j、遗忘门f_j和输出门o_j的参数，d代表物品向量的维度；σ为sigmoid函数；所有这些参数和输入：隐层状态h_j-1、当前输入x_j共同参与计算，来输出结果h_j。因此，目标用户的会话集合

的向量表征为

且当前兴趣向量表征

他的第l个朋友的表征为最近会话

的向量表征为

根据目标用户当前兴趣表征和历史会话序列，使用注意力机制生成目标用户长期兴趣向量表征。目标用户的历史会话集合为

也就是除了当前会话

以外的会话。使用注意力机制找出和当前会话最相似的历史会话，并得到目标用户的长期兴趣向量表征

其中，

为目标用户u_i的当前兴趣表征，

为目标用户的第k个会话

向量表征，参数

和参数W₁,

控制每个会话向量的权重。

根据社交网络G，采用动态路由图网络计算朋友对目标用户的社交影响。本方法只考虑朋友最近的兴趣对目标用户当前兴趣的影响，用户当前兴趣向量表征为

他的第l个朋友的表征为最近会话

的向量表征

事实上，不同朋友对目标用户的影响不同，且某朋友对目标用户的影响不仅取决于该朋友和目标用户，还取决于目标用户的其他朋友。本方法借鉴动态路由思路来改进原始图网络中邻居节点的聚合方式，如下：

其中，

是目标用户u_i的第l个朋友和目标用户u_i的连接系数，

初始化为

为向量

为向量

是

归一化后的连接系数。k代表社交网络G的搜索深度，N(i)是目标用户u_i的朋友集合。

是目标用户u_i的第l个朋友在图网络中第k-1层的向量表征，

代表目标用户u_i在k层的向量表征。

是图参数，σ为sigmoid函数，CONCAT函数是向量拼接操作。动态路由图网络的最后一层

的输出就是朋友对目标用户u_i的社交影响h_i。

结合目标用户当前兴趣、长期兴趣和社交影响，获得用户最终向量表征。用户的最终表示就由全连接层合并目标用户当前兴趣、长期兴趣和社交影响得到，令：

其中，

是线性转化矩阵，

和

为目标用户u_i行为表现出的当前兴趣向量表征和长期兴趣向量表征，h_i是用户u_i的社交影响，

为向量拼接操作。

根据用户最终向量表征和物品向量表征，推荐物品。将物品v_j的向量x_j乘以用户兴趣向量，再应用softmax函数计算出物品v_j的分数：

其中，g代表用户的兴趣向量，x_j是物品v_j的向量表征。

代表物品v_j成为下一个交互的可能性。同时根据

的对数似然函数值，计算损失函数：

其中，y_j代表v_j的one-hot编码，

函数用梯度下降法来最优化。

本发明的有益技术效果如下：

(1)本发明提出了一种基于动态路由图网络的会话社交推荐方法。改进原始图网络结构，采用动态路由图网络来得到朋友对目标用户的社交影响。

(2)本发明对用户动态变化的兴趣进行建模，并采用注意力从用户的历史会话(session)序列中，抽取和当前兴趣相关的历史兴趣特征，对用户兴趣特征进行信息补充。

附图说明

图1为本发明一种基于动态路由图网络的会话社交推荐方法的流程示意图；

图2为本发明一种基于动态路由图网络的会话社交推荐方法的模型框架图。

具体实施方式

为了进一步理解本发明，下面结合具体实施方式对本发明提供的一种基于动态路由图网络的会话社交推荐方法进行具体描述，但本发明并不限于此，该领域技术人员在本发明核心指导思想下做出的非本质改进和调整，仍然属于本发明的保护范围。

会话社交推荐任务是给定用户历史交互序列和社交网络关系，对用户的兴趣和社交影响进行建模，来推荐用户在下一步最可能感兴趣的物品。为了描述清楚，对用到的变量和公式给出相关定义。

定义1.U：用户的集合，且U＝{u₁,u₂,…,u_n}。

定义2.V：物品集合，且V＝{v₁,v₂,…,v_m}。

定义3.G：关于用户和用户关系的社交网络。

定义4.N(i)：社交网络G中用户u_i的邻居集合。

定义5.

用户u_i在时间t的会话，会话是一个时间段里的物品集合

表示用户u_i在时间t的会话中的第j个物品。

定义6.S(i)：用户u_i在所有时间的会话集合，

定义7.x_j：物品v_j的向量表征。

定义8.

和

从用户行为得到的用户u_i的当前兴趣向量表征和长期兴趣向量表征。

定义9.h_i：用户u_i的朋友们对用户u_i的社交影响。

定义10.g_i：用户u_i的总的兴趣向量表征，通过综合考虑

和h_i得到。

为了给用户推荐下一步最可能感兴趣的物品，本发明提出了一种基于动态路由图网络的会话社交推荐方法。用户的兴趣是动态变化的，因此本方法基于用户当前会话(session)得到用户当前兴趣。再根据用户社交网络，得到用户朋友对用户的社交影响。然后再用注意力机制，根据用户历史会话序列和当前兴趣得到用户的长期兴趣表征。本方法中的长期兴趣表征是和用户当前兴趣相关的那部分长期兴趣，这样更符合用户兴趣是动态变化的应用场景。用户的朋友往往和用户的兴趣具有相似的特征，通过社交图网络，可以将朋友的信息传递给目标用户，对目标用户的向量表征进行信息补充。但是原始的图网络结构认为朋友对目标用户的影响是一样的，这和事实不符。本方法改进原始图网络，使用动态路由图网络来得到朋友对目标用户的社交影响。最后结合用户当前兴趣、长期兴趣和社交影响，预测用户下一个点击的物品。

本方法主要由四个部分组成，如图2所示。第一部分是将所有用户序列分成会话序列，并采用长短期记忆网络生成会话向量表征，目标用户当前会话向量表征即当前兴趣向量表征。第二部分是采用注意力机制，得到和目标用户当前兴趣相关的那部分长期兴趣。第三部分是采用动态路由图网络从社交网络中得到朋友对目标用户的社交影响。第四部分是集合用户当前兴趣、长期兴趣和社交影响，预测用户下一个点击的物品。

如图1所示，按照本发明的一个实施例，本方法包括如下步骤：

S100，构建目标用户u_i的社交网络G，令：

G＝{U,E}

其中，U表示社交网络中目标用户u_i的朋友集合，E是目标用户的社交连接。

S200，使用长短期记忆网络生成会话向量表征，目标用户当前会话向量表征即是当前兴趣向量表征。构建用户会话向量表征，任一会话表示为s＝{v₁,v₂,…,v_n}。其中v_j是会话中第j个物品。构建用户会话向量表征采用长短期记忆网络(LSTM)：

z_s＝LSTM(Q(:,s))

其中，Q是物品的向量矩阵，Q(:,s)代表出现在会话s中所有的物品向量。LSTM具体公式为：

i_j＝σ(W_ix_j+U_ih_j-1+b_i)

f_j＝σ(W_fx_j+U_fh_j-1+b_f)

o_j＝σ(W_ox_j+u_oh_j-1+b_o)

c_j＝i_ktanh(W_cx_j+U_ch_j-1+b_c)+f_jc_j-1

h_j＝o_jc_j

其中，x_j是会话序列中第j个物品的向量表征。长短期记忆网络的最后一层的隐藏状态h_j的输出就是会话向量表征z_s。

和

分别是控制输入门i_j、遗忘门f_j和输出门o_j的参数，d代表物品向量的维度；σ为sigmoid函数；所有这些参数和输入：隐层状态h_j-1、当前输入x_j共同参与计算，来输出结果h_j。因此，目标用户的会话集合

的向量表征为

且当前兴趣向量表征

他的第l个朋友的表征为最近会话

的向量表征为

S300，根据目标用户当前兴趣表征和历史会话序列，使用注意力机制生成目标用户长期兴趣向量表征。目标用户的历史会话集合为

也就是除了当前会话

以外的会话。使用注意力机制找出和当前会话最相似的历史会话，并得到目标用户的长期兴趣向量表征

其中，

为目标用户u_i的当前兴趣表征，

为目标用户的第k个会话

向量表征，参数

和参数W₁,

控制每个会话向量的权重。

S400，根据社交网络G，采用动态路由图网络计算朋友对目标用户的社交影响。本方法只考虑朋友最近的兴趣对目标用户当前兴趣的影响，用户当前兴趣向量表征为

他的第l个朋友的表征为最近会话

的向量表征

原始的图网络将朋友的信息传递给目标用户时，采用相同的参数W，也就是所有朋友对目标用户的作用一样，如下：

其中，k代表社交网络G的搜索深度，N(i)是目标用户u_i的朋友集合，

代表目标用户u_i在k层的向量表征，

为向量

为向量

是图参数，σ为sigmoid函数，AGGREGATE函数表示将朋友节点信息聚合，一般采用最大池化(max-pooling)方法。CONCAT函数是向量拼接操作。

本方法认为不同朋友对目标用户的影响不同，且某朋友对目标用户的影响不仅取决于该朋友和目标用户，还取决于目标用户的其他朋友。因此本方法借鉴动态路由思路来改进原始图网络中邻居节点的聚合方式，如下：

其中，

是目标用户u_i的第l个朋友和目标用户u_i的连接系数，

初始化为

为向量

为向量

是

归一化后的连接系数。k代表社交网络G的搜索深度，N(i)是目标用户u_i的朋友集合。

是目标用户u_i的第l个朋友在图网络中第k-1层的向量表征，

代表目标用户u_i在k层的向量表征。

是图参数，σ为sigmoid函数，CONCAT函数是向量拼接操作。动态路由图网络的最后一层

的输出就是朋友对目标用户u_i的社交影响h_i。

S500，结合目标用户当前兴趣、长期兴趣和社交影响，获得用户最终向量表征。用户的最终表示就由全连接层合并目标用户当前兴趣、长期兴趣和社交影响得到，令：

其中，

是线性转化矩阵，

和

为目标用户u_i行为表现出的当前兴趣向量表征和长期兴趣向量表征，h_i是用户u_i的社交影响，

为向量拼接操作。

S600，根据用户最终向量表征和物品向量表征，推荐物品。将物品v_j的向量x_j乘以用户兴趣向量，再应用softmax函数计算出物品v_j的分数：

其中，g代表用户的兴趣向量，x_j是物品v_j的向量表征。

代表物品v_j成为下一个交互的可能性。同时根据

的对数似然函数值，计算损失函数：

其中，y_j代表v_j的one-hot编码，

函数用梯度下降法来最优化。

上述对实施例的描述是为方便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。

Claims (2)

1.一种基于动态路由图网络的会话社交推荐方法，其特征在于：

构建目标用户u_i的社交网络G，令：

G＝{U，E}

其中，U表示社交网络中目标用户u_i的朋友集合，E是目标用户的社交连接；

使用长短期记忆网络生成会话向量表征，目标用户当前会话向量表征即是当前兴趣向量表征；构建用户会话向量表征，任一会话表示为s＝{v₁，v₂，…，v_n}；其中v_j是会话中第j个物品；构建用户会话向量表征采用长短期记忆网络(LSTM)：

z_s＝LSTM(Q(：，s))

其中，Q是物品的向量矩阵，Q(：，s)代表出现在会话s中所有的物品向量；因此，目标用户的会话集合

的向量表征为

且当前兴趣向量表征

他的第l个朋友的表征为最近会话

的向量表征为

根据目标用户当前兴趣表征和历史会话序列，使用注意力机制生成目标用户长期兴趣向量表征；目标用户的历史会话集合为

也就是除了当前会话

以外的会话；使用注意力机制找出和当前会话最相似的历史会话，并得到目标用户的长期兴趣向量表征

其中，

为目标用户u_i的当前兴趣表征，

为目标用户的第k个会话

向量表征，参数

和参数W₁，

控制每个会话向量的权重；

根据社交网络G，采用动态路由图网络计算朋友对目标用户的社交影响；本方法只考虑朋友最近的兴趣对目标用户当前兴趣的影响，用户当前兴趣向量表征为

他的第l个朋友的表征为最近会话

的向量表征

事实上，不同朋友对目标用户的影响不同，且某朋友对目标用户的影响不仅取决于该朋友和目标用户，还取决于目标用户的其他朋友；本方法借鉴动态路由思路来改进原始图网络中邻居节点的聚合方式，如下：

其中，

是目标用户u_i的第l个朋友和目标用户u_i的连接系数，

初始化为

为向量

为向量

是

归一化后的连接系数；k代表社交网络G的搜索深度，N(i)是目标用户u_i的朋友集合；

是目标用户u_i的第l个朋友在图网络中第k-1层的向量表征，

代表目标用户u_i在k层的向量表征；

是图参数，σ为sigmoid函数，CONCAT函数是向量拼接操作；动态路由图网络的最后一层

的输出就是朋友对目标用户u_i的社交影响h_i；

结合目标用户当前兴趣、长期兴趣和社交影响，获得用户最终向量表征；用户的最终表示就由全连接层合并目标用户当前兴趣、长期兴趣和社交影响得到，令：

其中，

是线性转化矩阵，

和

为目标用户u_i行为表现出的当前兴趣向量表征和长期兴趣向量表征，h_i是用户u_i的社交影响，

为向量拼接操作；

根据用户最终向量表征和物品向量表征，推荐物品；将物品v_j的向量x_j乘以用户兴趣向量，再应用softmax函数计算出物品v_j的分数：

其中，g代表用户的兴趣向量，x_j是物品v_j的向量表征；

代表物品v_j成为下一个交互的可能性；同时根据

的对数似然函数值，计算损失函数：

其中，y_j代表v_j的one-hot编码，

函数用梯度下降法来最优化。

2.根据权利要求1所述的一种基于动态路由图网络的会话社交推荐方法，其特征在于：所述长短期记忆网络(LSTM)结构为：

i_j＝σ(W_ix_j+U_ih_j-1+b_i)

f_j＝σ(W_fx_j+U_fh_j-1+b_f)

o_j＝σ(W_ox_j+u_oh_j-1+b_o)

c_j＝i_ktanh(W_cx_j+u_ch_j-1+b_c)+f_jc_j-1

h_j＝o_jc_j

其中，x_j是会话序列中第j个物品的向量表征；长短期记忆网络的最后一层的隐藏状态h_j的输出就是会话向量表征z_s；

和

分别是控制输入门i_j、遗忘门f_j和输出门o_j的参数，d代表物品向量的维度；σ为sigmoid函数；所有这些参数和输入：隐层状态h_j-1、当前输入x_j共同参与计算，来输出结果h_j。

Images