CN116204729B - 一种基于超图神经网络的跨领域群组智能推荐方法 - Google Patents

Abstract

本发明属跨领域群组推荐领域，具体涉及一种基于超图神经网络的跨领域群组智能推荐方法，包括：构建数据集；构建单目标域超图和共享超图，并基于超图卷积网络提取出单目标域用户偏好特征和项目特征，以及共享用户偏好特征；采用了降噪自动编码方法提取跨领域用户相似偏好特征；采用门控网络计算不同用户特征的权重并进行加权融合；通过多通道注意力对群组成员进行特征交互并对成员偏好特征进行聚合得到群组偏好特征；采用两阶段训练的方法来联合学习用户偏好和群组偏好并选择推荐对象。本发明在为用户群组推荐物品时，能够利用跨领域信息准确获取用户兴趣偏好，并且在跨领域信息迁移的过程中能够有效缓解负迁移的问题。

Description

一种基于超图神经网络的跨领域群组智能推荐方法

技术领域

本发明属跨领域群组推荐领域，具体涉及一种基于超图神经网络的跨领域群组智能推荐方法。

背景技术

随着互联网的快速发展，人们可以在许多网络应用上分组参加各种活动，例如购物平台以折扣价组队购物，旅游平台上和朋友一起参加旅行活动，在这种场景下，购买的产品或服务(本发明用“项目”指代产品、服务等被推荐对象)针对的是一组用户，而不是单个个体。群组对个性化项目或服务的需求促使了群组推荐系统的发展及其在旅游、购物、娱乐等领域的应用。然而用户、群组交互面临数据稀疏的问题，降低了用户和群组偏好建模的准确性，跨领域推荐系统可以利用不同领域之间的关联信息和共性为目标群组推荐特定领域的项目，从而缓解了单领域推荐数据的稀疏性问题，提高用户群组偏好的准确性。

目前已有的跨领域方法大多仅是针对个体用户推荐的，直接应用在跨领域群组推荐中无法生成高质量的群组表示，已有的跨领域群组推荐方法只是简单的从交互相对密集的源域到稀疏目标域单向迁移，从稀疏域到密集域的迁移可能会面临负迁移的现象，因此需要设计出一种能够同时提高双目标域群组推荐准确性的方法。

发明内容

为解决上述技术问题，本发明提出一种基于超图神经网络的跨领域群组智能推荐方法，包括以下步骤：

S1、获取单目标域用户和商品、群组和商品的购买数据，根据单目标域用户和商品、群组和商品购买数据生成用户-商品交互二部图；根据用户商品交互二部图构建单目标域用户级别超图、项目级别超图以及双目标域的群组级别超图；

所述用户-商品交互二部图表示用户购买商品的行为；

所述用户级别超图表示所有用户购买同一商品的行为；

所述项目级别超图表示同一用户购买所有商品的行为；

所述群组级别超图表示群组购买所有商品的行为；

S2、采用一个共享超图卷积算子对双目标域的群组级别超图进行图表示学习，生成双目标域用户特征向量，每个单目标域采用一个私有的超图卷积算子对用户级超图以及项目级超图进行表示学习，生成单目标域用户和项目特征向量；

S3、采用降噪自动编码器提取不同目标域之间用户相似偏好特征向量；

S4、为每个目标域设置专门的门控网络，通过门控网络融合单目标域用户特征向量、不同目标域之间用户相似偏好特征向量、双目标域用户特征向量，得到融合后的用户特征向量；

S5、通过多通道自注意力机制对群组用户进行特征交互，并对群组偏好进行表示，得到群组整体偏好特征向量；

S6、采用Pair-wise方法联合学习群组整体偏好特征向量和融合后的用户特征向量与不同项目特征向量的预测评分，对评分进行排序并选取评分最高的群组作为被推荐对象。

本发明的有益效果：

1.借助跨领域学习、超图表示学习及联合学习多种方法提高群组偏好学习的准确性；跨领域学习利用不同领域之间的关联信息和共性为目标群组推荐特定领域的项目，从而缓解了单领域推荐数据的稀疏性问题，提高用户群组偏好的准确性。超图表示学习相比较于一般的简单图表示学习，在用户偏好建模上有利于协同过滤，在群体偏好建模上可以捕获到群组之间在共同群体成员上的相似性，有助于增强群体偏好建模。联合学习通过预训练方法，在单个用户跨领推荐学习到初始特征进行初始化，提升群组跨域推荐效果；

2.采用私有域超图卷积算子和共享超图卷积算子进行超图表示学习，既保证了能够学习到每个目标域差异化特征，又能隐式地学习到目标域之间共享特征。进一步借助两个降噪自动编码器提取单向迁移过程中源域需要保留的有用特征，有效缓解跨领域过程所面临的负迁移问题。

附图说明

图1为本发明的跨领域群组智能推荐方法流程图；

图2为本发明的用户偏好特征学习示意图；

图3为本发明的群组偏好特征学习示意图；

图4为本发明的用户和群组联合学习示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

一种基于超图神经网络的跨领域群组智能推荐方法，如图1所示，包括以下步骤：

S1、获取单目标域用户和商品、群组和商品的购买数据，根据单目标域用户和商品、群组和商品购买数据生成用户-商品交互二部图；根据用户商品交互二部图构建单目标域用户级别超图、项目级别超图以及双目标域的群组级别超图；

所述用户-商品交互二部图表示用户购买商品的行为；

所述用户级别超图表示所有用户购买同一商品的行为；

所述项目级别超图表示同一用户购买所有商品的行为；

所述群组级别超图表示群组购买所有商品的行为；

S2、采用一个共享超图卷积算子对双目标域的群组级别超图进行图表示学习，生成双目标域用户特征向量，每个单目标域采用一个私有的超图卷积算子对用户级超图以及项目级超图进行表示学习，生成单目标域用户和项目特征向量；

S3、采用降噪自动编码器提取不同目标域之间用户相似偏好特征向量；

S4、为每个目标域设置专门的门控网络，通过门控网络融合单目标域用户特征向量、不同目标域之间用户相似偏好特征向量、双目标域用户特征向量，得到融合后的用户特征向量；

S5、通过多通道自注意力机制对群组用户进行特征交互，并对群组偏好进行表示，得到群组整体偏好特征向量；

S6、采用Pair-wise方法联合学习群组整体偏好特征向量和融合后的用户特征向量与不同项目特征向量的预测评分，对评分进行排序并选取评分最高的群组作为被推荐对象。

构建用户个体购买电脑、用户个体购买手机、群组团购电脑及群组团购手机行为数据集，其中用户数量为n，电脑商品数量为m₀，手机商品数量为m₁，群组集合为G＝{g₁，...，g_|G|}(|G|为群组数量)；将电脑购买数据作为a目标域数据，手机购买数据作为b目标域数据集。分别对用户、手机、电脑ID进行编码，构建嵌入矩阵W_u、及/>嵌入矩阵维度为d，则W_u∈R^n×d，/>嵌入矩阵作为用户和商品的初始特征嵌入，用于训练优化。

基于用户和商品购买数据，构建用户商品交互二部图，将用户、电脑、手机视作为是节点，如果某个用户购买过某个商品，则连接用户和商品节点。设和/>分别为用户-电脑交互二部图、用户-手机交互二部图，/>代表a目标域用户的节点集合，/>代表b目标域用户的节点集合，n₀和n₁分别表示购买电脑、手机的用户数/>是代表a目标域项目的节点集合，m₀表示电脑商品数；/>是代表b目标域项目的节点集合，m₁表示手机商品数。

基于二部图和/>构建用户级别超图的超边，/>是代表电脑商品的超边集合，/>属于/>其中/>代表第i个电脑商品/>每个商品作为一条超边，项目连接的所有用户视作为这条超边所连接的节点，最后得到a目标域用户级超图/>采用同样的构图方法，可以得到b目标域用户级超图超图/>进一步，可以求出/>节点和超边的度矩阵/>和/>以及关联矩阵/>关联矩阵/>中h_ij表示第i个节点和第j个超边是否存在关联，若是则为1否则为0，节点的度是包含该节点的边数，其中/> 超边的度为超边包含的节点的个数，则为/>每条超边赋予权重并存储在对角阵/>和/>

基于二部图和/>构建项目级别超图的超边，/>是代表用户的超边集合，/>属于/>其中/>代表用户/>每个用户作为一条超边，超边所连接的节点为用户交互过的所有项目，代表用户的超边也存在重叠关系，代表不同用户对相同的商品感兴趣。采用相同的方法构建b目标域项目级超图，最后可以得到a和b目标域项目级超图/>和/>按照用户级别超图思路可以得到项目级别超图节点度矩阵/>和超边度矩阵/>以及关联矩阵/>并为每条超边赋予权重并存储在对角阵/>和/>

基于群组和用户之间的包含关系构建双目标域共享群组级超图已知G＝{g₁，...，g_|G|}，将每个群组视作为一条超边，其中ε_i＝{u_i|u_i∈g_i}(1≤i≤|G|)。按照之前的思路可以得到共享群组级超图节点度矩阵D_g和超边度矩阵B_g，以及关联矩阵H_g，并为每条超边赋予权重并存储在对角阵W_g。

每个单目标域采用了一个私有域超图卷积算子以及一个共享超图卷积算子，如图2中图表示学习层所示。为用户或商品嵌入，初始嵌入根据用户或商品ID与嵌入矩阵W_u、/>及/>映射得到，X^(l)表示第l+1层超图卷积网络输入。/>表示a或b目标域超图卷积网络第l和第l+1层之间的参数矩阵。非线性激活函数采用Relu，用户和项目的最终特征向量由K层超图卷积网络的输出及初始嵌入求平均计算得到：

采用一个共享超图卷积算子对双目标域的群组级别超图进行图表示学习，生成双目标域用户特征向量，包括：

其中，Z_u表示生成的双目标域用户特征向量，D_g表示群组级超图中结点度矩阵，B_g表示群组级超图中超边度矩阵，H_g代表群组级超图关联矩阵，W_g群组级超图中超边的权重,Z^(l)表示第l+1层共享超图卷积网络用户特征输入，当l＝0时表示的是初始的用户特征,P^(l)表示共享超图卷积网络第l和第l+1层之间的参数矩阵，σ表示非线性激活函数，K表示超图卷积网络的层数，Z^(l+1)表示第l+1层共享超图卷积网络用户特征输出，Z⁽⁰⁾表示的是初始的用户特征，Z⁽ⁱ⁾表示第i层共享超图卷积网络用户特征输出。

每个单目标域采用一个私有的超图卷积算子对用户级超图以及项目级超图进行表示学习，生成单目标域用户和项目特征向量，包括：

其中，和/>分别表示用户级超图和项目级超图中结点度矩阵，/>和/>分别表示用户级超图和项目级超图中超边度矩阵，/>和/>分别表示用户级超图和项目级超图关联矩阵，/>和/>分别表示用户级超图和项目级超图中超边的权重，/>和/>分别表示第l层超图卷积网络用户和项目特征输入，/>表示a/b目标域超图卷积网络第l和第l+1层之间的参数矩阵，σ表示非线性激活函数，K表示超图卷积网络的层数，表示第l+1层用户级超图卷积网络用户特征输出，/>表示第l+1层项目级超图卷积网络项目特征输出，/>表示单目标域用户特征向量,/>表示单目标域项目特征向量,/>表示第i层用户级超图卷积网络用户特征输出,/>表示第i层项目级超图卷积网络项目特征输出。

采用降噪自动编码器提取不同目标域之间用户相似偏好特征向量，降噪自动编码器由一对编码器(Encoder)和解码器(Decoder)组成；

提取不同目标域之间用户相似偏好特征向量，包括：

其中,Q_a/b表示不同目标域之间用户相似偏好特征向量，和b分别表示Encoder的参数及偏差项，σ表示非线性激活函数，/>表示b目标域特征向量/>经过加噪后的特征向量。

通过门控网络融合单目标域用户特征向量、不同目标域之间用户相似偏好特征向量、双目标域用户特征向量，得到融合后的用户特征向量，包括：

其中，表示a或b目标域门控网络，/>表示单目标域用户特征向量，Z_u表示双目标域用户公共特征向量，Q_a/b表示不同目标域之间用户相似偏好特征向量，α^a/b表示门控网络输出经过softmax后得到权重分布，/> 表示对这三个特征向量进行加权求和得到融合后的用户特征向量。如图3所示，采用多通道自注意力机制进行群组成员特征交互，self·attention(c)_i表示第i个自注意力，矩阵对应为第i个自注意力的查询、键值及值，对输入x(x为/>Z_u、/>)进行线性变换，d_k为W_i ^q或(W_i ^k)^Tx的维度,经过，self·attention(x)_i(i＝0，1，2)的输出向量经过拼接后输入到线性层进行线性变换，得到群组中每个用户特征向量最终输出，最后通过求和的方式进行聚合以表示群组g整体偏好/>

通过多通道自注意力机制对群组用户进行特征交互，并对群组偏好进行表示，得到群组整体偏好特征向量，包括：

其中，表示群组整体偏好特征向量，U^a/b表示多通道自注意力机制处理后输出群组用户特征向量，/>表示群组中第i个用户的特征，k表示群组中用户数量，W^a/b表示线性层。

如图4所示，采用Pair-wise方法联合学习用户偏好、群组偏好，基于学习到的偏好计算群组在不同项目的预测评分，包括：

通过向量内积计算用户对商品项目感兴趣程度的预测评分，并利用Pair-wise损失函数L_user优化用户对商品感兴趣程度的预测评分：

其中，r_u,v表示融合后的用户特征向量E_u和项目向量X_v之间的内积，作为匹配分数，表示用户和项目的匹配分数，u_t表示用户，u_i ⁺和u_j ^-分别表示正例和负例，正例是与用户发生交互的项目，而未观察到用户交互项目作为负例，r_u,v和分别表示的用户和正例、负例的匹配分数，/>θ^a/b表示a目标或b目标域模型参数，||θ^a/b||²为正则项，λ为正则项权重，ln表示对数函数，σ表示非线性激活函数，/>表示定义在重构特征向量/>和特征向量/>的损失函数，/>表示用户-项目交互数据，/>表示Encoder的参数，/>表示Decoder的参数，⊙表示内积；

通过向量内积计算群组和项目商品的匹配分数，并利用Pair-wise损失函数L_user优化群组和项目商品的匹配分数：

其中，r_g,v表示群组整体偏好特征向量E_g和项目向量X_v之间的内积，作为匹配分数，它表示群组和项目的匹配分数，g_t表示群组，u_i+和u_j ^-分别表示正例和负例，正例是与用户发生交互的项目，而未观察到用户交互项目作为负例，r_g,v和分别表示的群组和正例、负例的匹配分数，θ^a/b表示a目标或b目标域模型参数，||θ^a/b||²为正则项，λ为正则项权重，ln表示对数函数，σ表示非线性激活函数，/>表示定义在重构特征向量/>和特征向量的损失函数，/>表示群组-项目交互数据，/>表示Encoder的参数，表示Decoder的参数，⊙表示内积。

利用优化器优化上述损失函数，经过优化后的模型(指的是优化后的Θ^a/b，Θ^a/b不是一个值，它包含前面提到的所有除了输入值和输出值以外的所有参数，)，计算a或b领域候选商品特征向量与该目标域群组偏好特征向量内积得到匹配分数，对目标域候选商品C匹配分数进行排序并选取前K个商品作为输出结果result。

其中，表示群组g对项目v的预测评分，/>表示a或b目标域群组整体特征向量，/>表示a或b目标域项目特征向量，⊙表示内积(也可省略⊙，我前面也加上了保持一致)，reault表示输出结果，Top@K表示选取前K个商品，/>表示，v表示项目，C表示目标域候选商品。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (7)

1.一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，包括以下步骤：

S1、获取单目标域用户和商品、群组和商品的购买数据，根据单目标域用户和商品、群组和商品购买数据生成用户-商品交互二部图；根据用户商品交互二部图构建单目标域用户级别超图、项目级别超图以及双目标域的群组级别超图；

所述用户-商品交互二部图表示用户购买商品的行为；

所述用户级别超图表示所有用户购买同一商品的行为；

所述项目级别超图表示同一用户购买所有商品的行为；

所述群组级别超图表示群组购买所有商品的行为；

S2、采用一个共享超图卷积算子对双目标域的群组级别超图进行图表示学习，生成双目标域用户特征向量，每个单目标域采用一个私有的超图卷积算子对用户级超图以及项目级超图进行表示学习，生成单目标域用户和项目特征向量；

S3、采用降噪自动编码器提取不同目标域之间用户相似偏好特征向量；

S4、为每个目标域设置专门的门控网络，通过门控网络融合单目标域用户特征向量、不同目标域之间用户相似偏好特征向量、双目标域用户特征向量，得到融合后的用户特征向量；

S5、通过多通道自注意力机制对群组用户进行特征交互，并对群组偏好进行表示，得到群组整体偏好特征向量；

S6、采用Pair-wise方法联合学习群组整体偏好特征向量和融合后的用户特征向量与不同项目特征向量的预测评分，对评分进行排序并选取评分最高的群组作为被推荐对象。

2.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，采用一个共享超图卷积算子对双目标域的群组级别超图进行图表示学习，生成双目标域用户特征向量，包括：

其中，Z_u表示生成的双目标域用户特征向量，D_g表示群组级超图中结点度矩阵，B_g表示群组级超图中超边度矩阵，H_g代表群组级超图关联矩阵，W_g群组级超图中超边的权重,Z^(l)表示第l+1层共享超图卷积网络用户特征输入，当l＝0时表示的是初始的用户特征,P^(l)表示共享超图卷积网络第l和第l+1层之间的参数矩阵，σ表示非线性激活函数，K表示超图卷积网络的层数，Z^(l+1)表示第l+1层共享超图卷积网络用户特征输出，Z⁽⁰⁾表示的是初始的用户特征，Z⁽ⁱ⁾表示第i层共享超图卷积网络用户特征输出。

3.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，每个单目标域采用一个私有的超图卷积算子对用户级超图以及项目级超图进行表示学习，生成单目标域用户和项目特征向量，包括：

其中，和/>分别表示用户级超图和项目级超图中结点度矩阵，/>和/>分别表示用户级超图和项目级超图中超边度矩阵，/>和/>分别表示用户级超图和项目级超图关联矩阵，/>和/>分别表示用户级超图和项目级超图中超边的权重，/>和分别表示第l层超图卷积网络用户和项目特征输入，/>表示a/b目标域超图卷积网络第l和第l+1层之间的参数矩阵，σ表示非线性激活函数，K表示超图卷积网络的层数，表示第l+1层用户级超图卷积网络用户特征输出，/>表示第l+1层项目级超图卷积网络项目特征输出，/>表示单目标域用户特征向量,/>表示单目标域项目特征向量,/>表示第i层用户级超图卷积网络用户特征输出,/>表示第i层项目级超图卷积网络项目特征输出。

4.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，采用降噪自动编码器提取不同目标域之间用户相似偏好特征向量，包括：

其中,Q_a/b表示不同目标域之间用户相似偏好特征向量，和b分别表示Encoder的参数及偏差项，σ表示非线性激活函数，/>表示b目标域特征向量/>经过加噪后的特征向量。

5.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，通过门控网络融合单目标域用户特征向量、不同目标域之间用户相似偏好特征向量、双目标域用户特征向量，得到融合后的用户特征向量，包括：

其中，表示a或b目标域门控网络，/>表示单目标域用户特征向量，Z_u表示双目标域用户公共特征向量，Q_a/b表示不同目标域之间用户相似偏好特征向量，α^a/b表示门控网络输出经过softmax后得到权重分布，/> 表示对这三个特征向量进行加权求和得到融合后的用户特征向量。

6.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，通过多通道自注意力机制对群组用户进行特征交互，并对群组偏好进行表示，得到群组整体偏好特征向量，包括：

其中，表示群组整体偏好特征向量，U^a/b表示多通道自注意力机制处理后输出群组用户特征向量，/> 表示群组中第i个用户的特征，k表示群组中用户数量，W^a/b表示线性层。

7.根据权利要求1所述的一种基于超图神经网络的跨领域群组智能推荐方法，其特征在于，采用Pair-wise方法联合学习群组整体偏好特征向量和融合后的用户特征向量与不同项目特征向量的预测评分，包括：

通过向量内积计算融合后的用户对项目特征向量的预测评分，并利用Pair-wise损失函数L_user优化融合后的用户特征向量对项目特征向量的预测评分：

其中，r_u,v表示融合后的用户特征向量E_u和项目特征向量之间的内积，作为匹配分数，表示用户和项目的匹配分数，u_t表示用户，u_i ⁺和u_j ^-分别表示正例和负例，正例是与用户发生交互的项目，而未观察到用户交互项目作为负例，r_u,v和/>分别表示的用户和正例、负例的匹配分数，θ^a/b表示a目标或b目标域模型参数，||θ^a/b||²为正则项，λ为正则项权重，ln表示对数函数，σ表示非线性激活函数，/>表示定义在重构特征向量/>和特征向量的损失函数，/>表示用户-项目交互数据，/>表示Encoder的参数，表示Decoder的参数，⊙表示内积；

通过向量内积计算群组整体偏好特征向量和项目特征向量的预测分数，并利用Pair-wise损失函数L_user优化群组整体偏好特征向量和项目特征向量的预测分数：

其中，r_g,v表示群组整体偏好特征向量E_g和项目特征向量之间的内积，作为匹配分数，它表示群组和项目的匹配分数，g_t表示群组，u_i ⁺和u_j ^-分别表示正例和负例，正例是与用户发生交互的项目，而未观察到用户交互项目作为负例，r_g,v和/>分别表示的群组和正例、负例的匹配分数，θ^a/b表示a目标或b目标域模型参数，||θ^a/b||²为正则项，λ为正则项权重，ln表示对数函数，σ表示非线性激活函数，/>表示定义在重构特征向量/>和特征向量的损失函数，/>表示群组-项目交互数据，/>表示Encoder的参数，表示Decoder的参数，⊙表示内积。