CN116304362B - 一种基于相关性注意力的群组推荐方法 - Google Patents

Abstract

一种基于相关性注意力的群组推荐方法，属于群组推荐技术领域，设计了相关性注意力组件，该组件首先根据景点、群组以及群组成员的嵌入向量学习每个成员的贡献度，然后根据成员的贡献度为成员分配相应的权重，并分别对群组和成员的相关性以及景点和成员的相关性建模，最后采用加权求和的形式得到群组嵌入向量以进行推荐。两种相关性建模采用的皆是逐元素乘法的形式，嵌入项向量的每个维度代表了相应特征的强度，逐元素乘法可以高效的建模特征交互。逐元素乘积后得到的新的嵌入向量不仅包含了成员和群组（景点）二阶特征组合信息，而且还包含了所隐含的关联性，达到了关联性建模的目的，从而进一步增强了群组推荐的性能。

Description

一种基于相关性注意力的群组推荐方法

技术领域

本发明涉及群组推荐技术领域，具体涉及一种基于相关性注意力的群组推荐方法。

背景技术

随着社交活动的盛行，组团旅游成为人们钟爱的旅游方式，因而群组推荐也逐渐在旅游业发挥作用。旅游业中的群组推荐的目的是向一组用户而非单个用户推荐景点，因此它比个性化推荐复杂得多，其核心问题是如何获得群组的偏好来推断群组会选择哪些景点，这是一项非常具有挑战性的任务，因为群组偏好是其内部所有成员偏好的混合，而且群组做出选择的过程是动态变化的。

传统的群组推荐方法通常采用预定义的策略聚合成员偏好得到群组偏好，例如均值策略、最小痛苦策略，而最近的基于深度学习的方法探索如何识别成员的重要性，并动态的为成员分配不同权重，以更加准确的聚合得到群组的偏好。然而，这些方法没有充分利用群组和成员的关联性以及景点和成员的关联性。一方面，群组由单个成员组成，群组偏好与成员偏好息息相关，它们是高度互动并相互依赖的，之间存在包含和被包含的关系；另一方面，群组最终选择的景点是由成员共同决定的，因此成员的偏好可以间接的反映景点的特征。如何利用这两种相关性增强群组偏好建模是现有群组推荐方法中尚未考虑的问题。

发明内容

本发明为了克服以上技术的不足，提供了一种为旅游群组提供高效精准的景点推荐的方法。

本发明克服其技术问题所采用的技术方案是：

一种基于相关性注意力的群组推荐方法，包括如下步骤：

a)获取包含M个用户、N个群组、K个景点、群组和景点的历史交互记录以及用户和景点的历史交互记录的数据集；

b)根据数据集中的群组和景点的历史交互记录构建群组-景点交互矩阵，将群组-景点交互矩阵输入到MF模型中，得到初始化的第n个群组g_n的嵌入向量和第k个景点v_k在群组和景点的交互中的嵌入向量/>其中n∈{1,2,…,N}，k∈{1,2,…,K}，为实数，d为嵌入向量的维度；

c)根据数据集中的用户和景点的历史交互记录构建用户-景点交互矩阵，将用户-景点交互矩阵输入到MF模型中，得到初始化的群组g_n中所有成员的嵌入向量/>和第k个景点v_k在用户和景点的交互中的嵌入向量/>其中c_i为群组g_n中第i个成员，i∈{1,2,…,|g_n|}，|g_n|为群组g_n中用户的总数，/>为群组g_n中第i个成员c_i的嵌入向量，/>

d)将第k个景点v_k在群组和景点的交互中的嵌入向量和第k个景点v_k在用户和景点的交互中的嵌入向量/>求均值，得到初始化的第k个景点v_k的嵌入向量/>

e)计算得到第n个群组g_n对第k个景点v_k决策时第i个成员的贡献度大小o_ik；

f)对贡献度大小o_ik进行归一化处理，得到归一化后的贡献度大小a_ik；

g)通过公式计算第i个成员c_i影响下的第n个群组g_n的嵌入向量式中⊙为逐元素乘积，得到所有成员影响下的第n个群组g_n的嵌入向量h)采用加权求和的形式聚合得到第n个群组g_n最终的嵌入向量/>i)通过公式/>计算第i个成员c_i影响下的第k个景点v_k的嵌入向量得到所有成员影响下的第k个景点v_k的嵌入向量/>

j)采用加权求和的形式聚合得到第k个景点v_k最终的嵌入向量

k)将嵌入向量和嵌入向量/>输入到一个三层的多层感知机MLP中，输出得到预测得分/>完成基于相关性注意力群组推荐模型的建立，将预测得分最高的P个景点向第n个群组g_n推荐。

优选的，步骤a)中的数据集为MaFengWo数据集。

进一步的，步骤d)中通过公式计算得到初始化的第k个景点v_k的嵌入向量/>进一步的，步骤e)中通过公式/>计算得到第n个群组g_n对第k个景点v_k决策时第n个群组g_n中第i个成员的贡献度大小o_ik，式中W_g、W_c、W_v均为可学习的权重矩阵，/>b为偏置矩阵，/>h为投影到贡献度大小o_ik的权重矩阵，T为转置，σ(·)为非线性激活函数。

优选的，步骤f)中使用Softmax归一化函数对贡献度大小o_ik进行归一化处理。进一步的，步骤h)中通过公式计算得到最终的嵌入向量/>

进一步的，步骤j)中通过公式计算得到最终的嵌入向量

进一步的，步骤k)中通过公式计算得到多层感知机MLP的中间层的输出e₀，通过公式e₁＝ReLU(We₀+b₁)计算得到多层感知机MLP的中间层的输出e₁，式中ReLU(·)为ReLU激活函数，W为权重矩阵，b₁为偏置矩阵，通过公式/>计算得到预测得分/>式中b₂为偏置矩阵。

优选的，步骤k)中P＝5。

进一步的，还包括在步骤k)后执行如下步骤：

l-1)选取第p个景点v_p替代第k个景点v_k，重复执行步骤b)至步骤k)得到预测得分p∈{1,2,...,K}；

l-2)通过公式计算得到损失函数L，式中(n,k,p)为一个三元组，表示第n个群组g_n与第k个景点v_k存在交互且与第p个景点v_p不存在交互；

l-3)利用损失函数L对步骤k)中的基于相关性注意力群组推荐模型进行训练，训练过程中使用Adam优化器并采用小批量法对损失函数L进行优化。

本发明的有益效果是：通过设计相关性注意力组件，该组件首先根据景点、群组以及群组成员的嵌入向量学习每个成员的贡献度，然后根据成员的贡献度为成员分配相应的权重，并分别对群组和成员的相关性以及景点和成员的相关性建模，最后采用加权求和的形式得到群组嵌入向量以进行推荐。两种相关性建模采用的皆是逐元素乘法的形式，嵌入项向量的每个维度代表了相应特征的强度，逐元素乘法可以高效的建模特征交互。逐元素乘积后得到的新的嵌入向量不仅包含了成员和群组(景点)二阶特征组合信息，而且还包含了所隐含的关联性，达到了关联性建模的目的，从而进一步增强了群组推荐的性能。

附图说明

图1为本发明的方法流程图。

具体实施方式

下面结合附图1对本发明做进一步说明。

本研究探究了如何在群组偏好建模的过程中合理有效地利用群组和成员的相关性以及景点和成员的相关性，达到更加准确的群组偏好建模的目的，设计了一种相关性注意力组件，从而为旅游群组提供高效精准的景点推荐。具体的，一种基于相关性注意力的群组推荐方法，包括如下步骤：

a)获取包含M个用户、N个群组、K个景点、群组和景点的历史交互记录以及用户和景点的历史交互记录的数据集。

b)根据数据集中的群组和景点的历史交互记录构建群组-景点交互矩阵，将群组-景点交互矩阵输入到MF模型中，得到初始化的第n个群组g_n的嵌入向量和第k个景点v_k在群组和景点的交互中的嵌入向量/>其中n∈{1,2,...,N}，k∈{1,2,...,K}，为实数，d为嵌入向量的维度。

c)根据数据集中的用户和景点的历史交互记录构建用户-景点交互矩阵，将用户-景点交互矩阵输入到MF模型中，得到初始化的群组g_n中所有成员的嵌入向量/>和第k个景点v_k在用户和景点的交互中的嵌入向量/>其中c_i为群组g_n中第i个成员，i∈{1,2,...,|g_n|}，|g_n|为群组g_n中用户的总数，/>为群组g_n中第i个成员c_i的嵌入向量，/>

d)将第k个景点v_k在群组和景点的交互中的嵌入向量和第k个景点v_k在用户和景点的交互中的嵌入向量/>求均值，得到初始化的第k个景点v_k的嵌入向量/>

e)计算得到第n个群组g_n对第k个景点v_k决策时第i个成员的贡献度大小o_ik。

f)对贡献度大小o_ik进行归一化处理，得到归一化后的贡献度大小a_ik。

g)通过公式计算第i个成员c_i影响下的第n个群组g_n的嵌入向量式中⊙为逐元素乘积，得到所有成员影响下的第n个群组g_n的嵌入向量

h)采用加权求和的形式聚合得到第n个群组g_n最终的嵌入向量

i)通过公式计算第i个成员c_i影响下的第k个景点v_k的嵌入向量得到所有成员影响下的第k个景点v_k的嵌入向量/>

j)采用加权求和的形式聚合得到第k个景点v_k最终的嵌入向量

k)将嵌入向量和嵌入向量/>输入到一个三层的多层感知机MLP中，输出得到预测得分/>完成基于相关性注意力群组推荐模型的建立，将预测得分最高的P个景点向第n个群组g_n推荐。优选的，P＝5。

基于如何利用群组和成员的相关性以及景点和成员的相关性增强群组推荐性能这一问题，本发明提出了一种新颖的基于相关性注意力的群组推荐方法，在该方法中设计了相关性注意力组件，该组件首先根据景点、群组以及群组成员的嵌入向量学习每个成员的贡献度，然后根据成员的贡献度为成员分配相应的权重，并分别对群组和成员的相关性以及景点和成员的相关性建模，最后采用加权求和的形式得到群组嵌入向量以进行推荐。两种相关性建模采用的皆是逐元素乘法的形式，嵌入项向量的每个维度代表了相应特征的强度，逐元素乘法可以高效的建模特征交互，本发明中将成员的嵌入向量与群组(景点)的嵌入向量进行逐元素乘积，模拟了成员与群组(景点)的交互，逐元素乘积后得到的新的嵌入向量不仅包含了成员和群组(景点)二阶特征组合信息，而且还包含了所隐含的关联性，达到了关联性建模的目的，从而进一步增强了群组推荐的性能。

实施例1：

在本发明的一个实施例中，步骤a)中的数据集为MaFengWo数据集。该数据集来自于旅游网站Mafengwo.com，该数据集包含5275个用户，995个群组以及1513个景点，同时包含群组和景点、用户和景点的历史交互记录。

实施例2：

在本发明的一个实施例中，步骤d)中通过公式计算得到初始化的第k个景点v_k的嵌入向量/>

实施例3：

在本发明的一个实施例中，步骤e)中通过公式计算得到第n个群组g_n对第k个景点v_k决策时第n个群组g_n中第i个成员的贡献度大小o_ik，式中W_g、W_c、W_v均为可学习的权重矩阵，b为偏置矩阵，/>h为投影到贡献度大小o_ik的权重矩阵，T为转置，σ(·)为非线性激活函数。

实施例4：

在本发明的一个实施例中，步骤f)中使用Softmax归一化函数对贡献度大小o_xk进行归一化处理。

实施例5：

在本发明的一个实施例中，步骤h)中通过公式计算得到最终的嵌入向量/>

实施例6：

在本发明的一个实施例中，步骤j)中通过公式计算得到最终的嵌入向量/>

实施例7：

在本发明的一个实施例中，步骤k)中通过公式计算得到多层感知机MLP的中间层的输出e₀，通过公式e₁＝ReLU(We₀+b₁)计算得到多层感知机MLP的中间层的输出e₁，式中ReLU(·)为ReLU激活函数，W为权重矩阵，b₁为偏置矩阵，通过公式计算得到预测得分/>式中b₂为偏置矩阵。

实施例8：

在本发明的一个实施例中，还包括在步骤k)后执行如下步骤：

l-1)选取第p个景点v_p替代第k个景点v_k，重复执行步骤b)至步骤k)得到预测得分p∈{1,2,...,K}；

l-2)通过公式计算得到损失函数L，式中(n,k,p)为一个三元组，表示第n个群组g_n与第k个景点v_k存在交互且与第p个景点v_p不存在交互；

l-3)利用损失函数L对步骤k)中的基于相关性注意力群组推荐模型进行训练，训练过程中使用Adam优化器并采用小批量法对损失函数L进行优化。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于相关性注意力的群组推荐方法，其特征在于，包括如下步骤：

a)获取包含M个用户、N个群组、K个景点、群组和景点的历史交互记录以及用户和景点的历史交互记录的数据集；

b)根据数据集中的群组和景点的历史交互记录构建群组-景点交互矩阵，将群组-景点交互矩阵输入到MF模型中，得到初始化的第n个群组g_n的嵌入向量和第k个景点v_k在群组和景点的交互中的嵌入向量/>其中n∈{1,2,...,N}，k∈{1,2,...,K}， 为实数，d为嵌入向量的维度；

c)根据数据集中的用户和景点的历史交互记录构建用户-景点交互矩阵，将用户-景点交互矩阵输入到MF模型中，得到初始化的群组g_n中所有成员的嵌入向量和第k个景点v_k在用户和景点的交互中的嵌入向量/>其中c_i为群组g_n中第i个成员，i∈{1,2,...,|g_n|}，|g_n|为群组g_n中用户的总数，/>为群组g_n中第i个成员c_i的嵌入向量，/>

d)将第k个景点v_k在群组和景点的交互中的嵌入向量和第k个景点v_k在用户和景点的交互中的嵌入向量/>求均值，得到初始化的第k个景点v_k的嵌入向量/>

e)计算得到第n个群组g_n对第k个景点v_k决策时第i个成员的贡献度大小o_ik；

f)对贡献度大小o_ik进行归一化处理，得到归一化后的贡献度大小a_ik；

g)通过公式计算第i个成员c_i影响下的第n个群组g_n的嵌入向量/>式中⊙为逐元素乘积，得到所有成员影响下的第n个群组g_n的嵌入向量

h)采用加权求和的形式聚合得到第n个群组g_n最终的嵌入向量i)通过公式计算第i个成员c_i影响下的第k个景点v_k的嵌入向量/>得到所有成员影响下的第k个景点v_k的嵌入向量/>

j)采用加权求和的形式聚合得到第k个景点v_k最终的嵌入向量

k)将嵌入向量和嵌入向量/>输入到一个三层的多层感知机MLP中，输出得到预测得分/>完成基于相关性注意力群组推荐模型的建立，将预测得分最高的P个景点向第n个群组g_n推荐；

步骤e)中通过公式计算得到第n个群组g_n对第k个景点v_k决策时第n个群组g_n中第i个成员的贡献度大小o_ik，式中W_g、W_c、W_v均为可学习的权重矩阵，/> b为偏置矩阵，/>h为投影到贡献度大小o_ik的权重矩阵，T为转置，σ(·)为非线性激活函数。

2.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤a)中的数据集为MaFengWo数据集。

3.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤d)中通过公式计算得到初始化的第k个景点v_k的嵌入向量/>

4.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤f)中使用Softmax归一化函数对贡献度大小o_ik进行归一化处理。

5.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤h)中通过公式计算得到最终的嵌入向量

6.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤j)中通过公式计算得到最终的嵌入向量

7.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤k)中通过公式计算得到多层感知机MLP的中间层的输出e₀，通过公式e₁＝ReLU(We₀+b₁)计算得到多层感知机MLP的中间层的输出e₁，式中ReLU(·)为ReLU激活函数，W为权重矩阵，b₁为偏置矩阵，通过公式/>计算得到预测得分/>式中b₂为偏置矩阵。

8.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于：步骤k)中P＝5。

9.根据权利要求1所述的基于相关性注意力的群组推荐方法，其特征在于，还包括在步骤k)后执行如下步骤：

l-1)选取第p个景点v_p替代第k个景点v_k，重复执行步骤b)至步骤k)得到预测得分

l-2)通过公式计算得到损失函数L，式中(n,k,p)为一个三元组，表示第n个群组g_n与第k个景点v_k存在交互且与第p个景点v_p不存在交互；

l-3)利用损失函数L对步骤k)中的基于相关性注意力群组推荐模型进行训练，训练过程中使用Adam优化器并采用小批量法对损失函数L进行优化。