CN109670121A - 基于注意力机制的项目级和特征级深度协同过滤推荐算法 - Google Patents

Abstract

本发明公开了一种基于注意力机制的项目级和特征级深度协同过滤推荐算法，包括如下步骤：S1统计用户的历史项目评分；S2根据用户的历史项目评分计算用户对目标项目的特征级内容表示；S3根据用户的历史项目评分以及S2的技术结果计算用户对目标项目的项目级预测评分。本发明通过结合项目级和特征级上的注意力机制对提高推荐精度有一定的效果，并相比现有技术而言在对用户历史偏好的分析更具有可解释性。通过还为将考虑在其它协同过滤模型中扩展DACF，如最近提出的神经协同过滤和离散协同过滤；为将来的研究将探索更高阶的特征级注意力机制，进一步夯实了推荐系统的研究的理论基础。

Description

基于注意力机制的项目级和特征级深度协同过滤推荐算法

技术领域

本发明涉及信息技术领域，具体涉及一种基于注意力机制的项目级和特征级深度协同过滤推荐算法。

背景技术

随着互联网时代的到来，信息量成爆炸式增长，带来了“信息过载”问题，而个性化推荐是解决信息过载问题最有效的方法之一，与一般的搜索引擎不同，推荐系统通过学习用户偏好以及用户和项目之间的关系，为用户可能感兴趣的项目(例如，电影，产品，旅行和休闲活动)进行推荐，并且已经被亚马逊，谷歌，Netflix和其他网站采用。分析用户的反馈信息和项目描述信息，挖掘两者的隐性特征，是用户进行个性化推荐的重要组成部分。个性化推荐系统的关键在于根据用户过去的交互(例如，评分和点击等)对项目的偏好建模，称为协同过滤；协同过滤分析用户之间的关系和项目之间的相互依赖关系，以识别新的用户项目关联。

在对用户对项目的喜好进行分析时，首先对数据进行预处理，使用项目的标识作为输入的特征向量，将其转换为具有独热编码(One-Hot Encoding)的二值化稀疏向量。利用项目q的t个重要特征形成n维向量(q_j1，q_j2,…,q_jt),其中q_jt代表第j个项目的第t个特征的特征值,如电影的特征中，类型有五种分别是(喜剧片，爱情片，武打片，纪录片，动画片)，而输入的影片类型为武打片，于是将其特征值转化为(00100)的形式，按照此预处理的方法得到电影的特征向量。

而近年来，深度学习掀起了大数据和人工智能的热潮，由于其强大表征的能力，在图像处理、语音识别、自然语言处理等领域取得了巨大成就，同时为推荐系统的研究带来了新的机遇。深度学习通过学习一种深层次非线性的网络结构，表征与用户交互的历史项目相关的海量数据，具有十分强大的从样本中学习数据本质特征的能力，能够获取用户和项目的深层次特征表示.而且可以将不同数据映射到同一个隐藏空间，从而获得数据的统一表征。在此基础上融合传统推荐方法，采用基于项目的CF的机器学习视图，通过优化推荐感知目标函数从数据中学习项目相似性。虽然可以实现更好的准确性，但是直接学习整个项目的相似性矩阵使它更加复杂，从而不能处理数百万甚至数十亿的项目。

大多数协同过滤系统依赖于显式的用户兴趣作为输入，例如，提供明确反馈的产品星级评定等，而在研究中我们更加注重隐性反馈，由于隐性反馈具有更容易收集，数据稀疏性低，而且用户兴趣的表达更客观等优点。有研究发现，在交互式环境中的某些方面，隐性反馈更优于显性反馈。现有的隐性反馈协同过滤方法通常关注如何将缺失的用户评分转换为偏好建模。然而，很少有方法深入探究用户偏好的隐含性。

发明内容

针对现有技术中存在的缺陷，本发明的目的在于提供一种基于注意力机制的项目级和特征级深度协同过滤推荐算法，包括如下步骤：

本发明的技术方案如下：

基于注意力机制的项目级和特征级深度协同过滤推荐算法，包括如下步骤：

S1统计用户的历史项目评分；

S2根据用户的历史项目评分计算用户对目标项目的特征级内容表示；

S3根据用户的历史项目评分以及S2的技术结果计算用户对目标项目的项目级预测评分。

进一步地，所述S2包括

利用历史项目集q第j个项目的t个重要特征形成n维向量(q_j1,q_j2,…,q_jt),其中q_jt代表历史项目集q的第j个项目的第t个特征的特征值，其中p_it代表目标项目集p的第i个项目的第t个特征的特征值，；

使用两层的MLP模型来学习特征级的注意力权重：

θ_jt＝ω₂′ReLU(ω₁′(p_it⊙q_jt)+b₁′)+b₂′(11)

其中权重ω₁’，偏置向量b₁’是输入层到隐藏层的参数，ω₂’，b₂’隐藏层到输出层的参数，而ReLU为激活函数；

特征级注意力权重的一般形式为：

使用β作为平滑指数：

项目的内容特征加权为：

指定至少一个目标函数来进行优化。

进一步地，所述S3包括

根据公式(6)计算，其中为用户u对项目i的预测评分，r_uj表示用户u对历史项目j的评分，s_ij表示目标项目i和历史项目j的相似性，

其中将系数近似取1；

预测用户u对目标项目i的偏好时，其中a_ij为用户u的表示中历史项目j的注意力权重；

将a_ij参数化为p_i和q_j作为输入的函数：

a_ij＝f(p_i,q_j) (7)

使用多层感知器来模拟注意力机制并参数化注意力函数f：

f(p_i,q_j)＝ω₂ReLU(ω₁(p_i⊙q_j)+b₁)+b₂(8)

其中ω₁，b₁是输入层到隐藏层的参数，ω₂，b₂为隐藏层到输出层的参数；

将注意力权重转换为概率分布的形式。

进一步地，所述S3中注意力权重转换为概率分布的形式包括，

使用γ来减轻对活跃用户注意权重的惩罚；其中γ为取值范围是[0,1]的平滑指数；

当γ＝1时，使用Softmax函数通过公式(9)计算

当γ<1时，采用公式(10)替换公式(9)；

进一步地，所述S2中指定至少一个目标函数来进行优化包括

当处理的问题都是二进制值1或0的隐性反馈时，将学习推荐模型作为二分类任务，将R_(u) ⁺和R_(u) ^-分别表示样本正实例集和负实例集，使用正则化对数损失定义最小化的目标函数：

其中N表示训练集的大小，是sigmoid函数，表示用户u对项目i评分的可能性，λ是正则化参数。

本发明提出了一种结合深度学习和注意力机制的协同过滤算法来处理电影推荐中的隐性反馈问题。而本发明的反馈类型有两种，分别是项目级和特征级的反馈。通过引入了项目级和特征级的注意力权重来推断潜在用户隐性反馈的编码。

基于在MovieLens 1M和MovieLens 100K数据集上的实验表明，结合项目级和特征级上的注意力机制对提高推荐精度有一定的效果，并在一定程度上使对用户历史偏好的分析更具有可解释性。在未来的工作中，将考虑在其它协同过滤模型中扩展DACF，如最近提出的神经协同过滤和离散协同过滤，为将来的研究将探索更高阶的特征级注意力机制，进一步提高推荐系统的质量。

附图说明

图1为项目级的注意力机制框架；

图2为特征级的注意力机制框架；

图3为1M数据集Top-k命中率；

图4为1M数据集Top-k归一化折扣累积增益；

图5为100K数据集Top-k命中率；

图6为100K数据集Top-k归一化折扣累积增益。

具体实施方式

下面结合说明书附图与具体实施方式对本发明做进一步的详细说明。

早期基于项目的CF方法使用余弦相似度、Pearson相关性和修正的余弦相似性来计算项目的相似度。基本思想是预测用户u对目标项目i的评分取决于项目i与用户u的所有历史评分项目的相似性，预测模型如下：

其中r_uj表示用户u对历史项目j的评分，s_ij表示目标项目i和历史项目j的相似性，R_(u)是用户的历史交互项目集。然而这些传统的计算项目相似性的方法缺乏个性化。

而Kabbur提出了一个项目因子相似性模型(Factored Item Similarity Model，FISM)，根据用户的历史交互项目集R_(u)来模拟用户现在的偏好，它把项目当成低维嵌入向量，并模拟两个项目之间的相似性，然后将相似性得分s_ij参数化为项目i和j的嵌入向量之间的内积。预测模型为：

α是控制归一化效应的超参数，其中p_i和q_j分别表示目标项目i和历史项目j的嵌入向量。从基于用户的CF的角度来看，括号中的术语可以看作是用户u的表示，它是从u的历史项的嵌入中聚合而来的。在FISM中，每个项目都有两个嵌入向量p和q，以此区分其是预测目标或是历史交互项目，而且可以提高模型的表达能力。由于FISM涉及隐性反馈，因此对于j∈R_(u)，此时r_uj＝1，因此省略了评级项r_uj。

在不考虑历史项目潜在特征之间交互的简单矢量连接时，不能对协同过滤效果进行建模，为了解决这个问题，在连接的矢量上添加隐藏层，使用标准MLP来学习历史项目潜在特征之间的交互。将p_i⊙q_j作为输入有助于隐藏层学习多层感知函数。从这个意义上讲，可以赋予模型大量的灵活性和非线性，从而学习p_i和q_j之间的相互作用，而不是仅使用固定元素乘积的一般矩阵分解(GMF)方式。这里的MLP模型被定义为：

d₁＝φ₁(p_i，q_j)＝p_i⊙q_j (3)

φ₂(d₁)＝L₂(ω₂ ^Td₁+b₂) (4)

……

φ_M(d_M-1)＝L_M(ω_M ^Td_M-1+b_M) (5)

其中ω_x，b_x和L_x分别表示第x层感知器的权重矩阵，偏置向量和激活函数。对于MLP层的激活函数，可以自由选择sigmoid函数，双曲正切函数(tanh)和修正线性单元函数(ReLU)等。实验发现sigmoid函数将每个神经元限制在(0，1)中，这可能会限制模型的性能，当神经元的输出接近0或1时神经元停止学习。尽管tanh是更好的选择并且已被广泛采用，但它只能在一定程度上缓解sigmoid的信号问题。因此，本发明选择ReLU，它在生物学上更加可靠，并且被证明是非饱和的。此外，它鼓励稀疏激活，非常适合稀疏数据并使模型不太可能过度拟合。

研究发现在推荐中有两个层次的隐性反馈，分别是项目级的隐性反馈和特征级的隐性反馈。在项目级的隐性反馈中，每个用户的历史信息都与一组项目相关联，项目的反馈信息不一定真实反映了用户的喜好，例如用户喜欢观看爱情片，而最近却观看了一部恐怖片，由此不能直接确定用户喜欢这部影片，可能只是最近这部影片比较流行，所以将它们赋予相同的权重是不合理的。而在特征级的隐性反馈中，项目包含很多特征特征(如电影中的演员，题材，时长等)，用户更喜欢某一个项目可能是他比较看重某一特征。所以在项目级和特征级的隐性反馈中，注意力权重的取得是非常重要的，因为在每个级别上的隐含性是不可直接得到的。直接对项目级和特征级的隐性反馈进行建模推荐是非常有效的，它可以以一种远程监督的方式自动地将权重分配给两个级别的反馈，并根据用户的历史行为来描述用户的兴趣，最后以加权的方式将两层反馈结合起来。本发明在FISM的基础上提出了一个根据用户历史偏好分数并且结合项目级和特征级特征的注意力神经网络框架。

基于上述研究成果，本发明的主要思想是注意力机制的目的是模型的不同部分可以为最终预测做出不同的贡献。在基于项目的CF的场景中，可以通过为每个项目分配个性化权重，直观地允许历史项目对用户的表示做出不同的贡献：

在预测用户u对目标项目i的偏好时，a_ij为用户u的表示中历史项目j的注意力权重。虽然这个方案在技术上似乎是可行的，但问题是如果项目对(i，j)从未在训练数据中共同出现(即，没有用户与i和j进行过交互)，其注意力a_ij将不能被估计并且是一个很小的数字。

为了解决这个问题，需要将a_ij与嵌入向量p_i和q_j关联起来，基本原理是嵌入向量应该编码项目的信息，因此它们可以用于确定交互(i，j)的权重。具体来说，是将a_ij参数化为p_i和q_j作为输入的函数：

a_ij＝f(p_i,q_j) (7)

这种参数化的优点在于即使一对(i，j)从未共同发生过，只要从数据中可靠地学习了p_i和q_j，它们便可用于估计注意力权重a_ij。为了实现这一目标，需要确保函数f具有强大的表示能力。受近期成功使用神经网络的影响，使用多层感知器(MLP)来模拟注意力机制并参数化注意力函数f：

f(p_i,q_j)＝ω₂ReLU(ω₁(p_i⊙q_j)+b₁)+b₂(8)

其中ω₁，b₁是输入层到隐藏层的参数，ω₂，b₂是隐藏层到输出层的参数，把隐藏层的尺寸称为“attention factor”，值越大表示注意力网络的代表能力越强，ReLU是隐藏层的激活函数。最后使用Softmax函数将注意力权重转换为概率分布的形式：

为了简化方程，将这里的系数近似取1，不会影响注意力权重a_ij的表示能力。

而在实验中发现这种标准的解决方案效果不理想，问题正源于softmax函数，虽然这是神经注意网络中的标准选择，但是在常规使用场景中，注意力成分的数量变化不大，因此，使用softmax可以正确地标准化注意力，并且具有很好的概率解释性。然而在用户的历史长度(即，用户的历史评分项目的数量)变化很大时。softmax函数对注意力权重执行L1标准化，可能过度惩罚具有较长历史的活动用户的权重。注意力权重的这种大的变化将导致优化模型项目嵌入的问题。为此，使用γ来减轻对活跃用户注意权重的惩罚，同时减少注意权重的方差。

γ是平滑指数，取值范围是[0，1]，而当γ＝1时，就恢复为softmax函数，当γ<1时，分母的值将变小，因此注意权重不会因活跃用户而受到过度惩罚。

如图1所示，将目标项目嵌入向量p_i和历史项目嵌入向量q_j(2.2中具体叙述)作为项目级注意力机制的输入，使用两层感知器模型来学习每个历史项目的项目级注意力权重a_ij。然后，通过权重之和∑a_ijq_j获得用户u的表示，最后使用对数损失优化成对学习的目标方程。

在电影推荐过程中，用户喜欢某一部电影可能是因为他更看重电影的某一特征，项目的特征特征一般采用向量表示法，例如利用项目q的t个重要特征形成n维向量(q_j1，q_j2，…，q_jt)，其中q_jt代表第j个项目的第t个特征的特征值，这里学习项目特征的偏好权重不同于以往定义一个统一的权重，DACF算法将学习到的注意力权重与用户偏好的项目特征进行加权得到项目内容特征。与项目级的注意力机制相似，使用两层的MLP模型来学习特征级的注意力权重：

θ_jt＝ω₂′ReLU(ω₁′(p_it⊙q_jt)+b₁′)+b₂′(11)

其中权重ω₁’，偏置向量b₁’是输入层到隐藏层的参数，ω₂’，b₂’隐藏层到输出层的参数，ReLU是激活函数。最后的特征级注意力权重的一般形式为：

与项目级的注意力权重相似，使用β作为平滑指数：

项目的内容特征加权为：

为了学习推荐模型，指定一个目标函数来进行优化，当处理的问题都是二进制值1或0的隐性反馈时，可以把学习推荐模型当成是二分类任务，让R_(u) ⁺和R_(u) ^-分别表示样本正实例集和负实例集，使用正则化对数损失定义最小化的目标函数：

其中N表示训练集的大小，是sigmoid函数，它将预测分数转换成概率的形式，表示用户u对项目i评分的可能性，λ是正则化参数。采用一种用于优化神经网络模型的通用方法--随机梯度下降法(SGD)来优化目标函数，每次随机选择一个训练实例，将每个模型参数向其负梯度方向更新。

如附图2所示，从用户喜欢的历史项目q_j开始，首先对于每个q_j项都访问一组项目特征q_jt，这里的q_jt可以是电影的时长，演员，题材等。这个特征级的框架是一个子网络，需要预测项目的特征p_it作为输入，同样经过两层感知器模型学习，最终的输出结果是第t个特征的特征级的注意力权重η_jt。与项目级的注意力机制类似，最后第j个项目的内容特征向量q_j表示为∑η_jtq_jt的权重之和。

为验证算法的效果，进行了如下实验，本实验采用UCI公开的MovieLens100K和MovieLens 1M两个数据集进行实验，这个数据集被广泛应用在评估协同过滤算法中。MovieLens是由明尼苏达州大学的GroupLens项目组开发的，其中每个用户至少对20个电影进行评分，并还提供了用户职业、电影类别、电影时长等辅助信息。MovieLens 100K包含943名用户对1682部电影的评价。MovieLens 1M数据集包含6040名用户对3952部电影的评价。除此之外，还提供了用户职业、性别等辅助信息。虽然这些都是显性反馈数据，但是实验仿照的方法，将显性评级数据转换成隐性数据，每个项目都被标记成0或1，表示用户是否为项目评分。

为了验证项目推荐的性能，采用leave-one-out方法评估，已经被广泛应用于文献中，它将每个用户的最新评分作为测试数据，并使用历史评分进行训练，所以每个测试实例和随机样本都是成对存在的。由于在评估过程中对每个用户的所有项目进行排名非常耗时，所以实验随机抽取了100个没有被用户评分的项目，在100个项目中对测试项目进行排名。排名列表的性能由命中率(HR)和归一化折扣累积增益(NDCG)来衡量。若无特别说明，将这两个指标的排名列表截断K均为10。命中率HR是基于召回的度量，测量了推荐的准确性，能直观地衡量测试电影是否存在于列表的前10项中，而使用NDCG来衡量排序质量，对被推荐的电影进行效果评估，精度度量越大效果越好。HR与NDCG定义如下：

命中率(HR)

归一化折扣累积增益(NDCG)为

其中：GT表示项目的总数；Z_K是确保排名列表中存在一个值为1的规范化表示；r_i是第i个项目的预测相关性。使用简单的二进制相关表示：如果项目在测试集中r_i＝1，否则为0。

同时，采用了如下模型作为对比实验：

1)ItemKNN：标准的基于项目的协同过滤算法，采用余弦相似性衡量项目的相似程度；

2)FISM：基于项目的协同过滤算法如方程1所示，将α设置在0-1之间，步长取0.1，发现当α＝0时，效果最好；

3)MLP：用户和项目嵌入的多层感知器模型，实验取layer＝3；

4)NAIS：使用注意力机制的基于项目的多层感知器协同过滤推荐模型。

在DACF实验设计中，选取用户历史观影记录作为预测用户电影偏好的注意力机制分析列表，因为用户对电影的兴趣变化程度很大，随着环境、心情、流行度等变化，但他的喜好是较为固定的，所以以他的历史记录作为注意力分析列表是合理的。

对于基于矩阵分解的框架，使用高斯分布随机初始化参数(均值为0，标准差为0.01)，使用正则化对数损失对模型进行优化，正则化系数λ设为0。对于嵌入尺寸，将测试值设为8,16,32,64，将平滑指数γ和β设为0.5。并将注意力权重a设置为与每次的嵌入尺寸相同。首先，在MoiveLens1M数据集下对本发明提出的模型的推荐性能进行了测评，在embedding size＝16时，最终实验结果如表1所示。

表1MoiveLens1M数据集下，推荐准确率(％)的比较

表1显示了五种方法在MoiveLens1M数据集下推荐的准确率，两种基于注意力机制的方法NAIS和DACF实现了NDCG和HR的最高准确率，而DACF在两个指标下的准确率更高，这个优势得益于两层注意力机制的设计。基于用户的MLP方法比基于项目的FISM方法在MoiveLens1M数据集下的效果要好，FISM方法与标准的基于项目的ItemKNN方法都使用相同的预测模型，但在估算项目相似性的方法上有所不同，从而导致标准的ItemKNN方法的效果较差。

如附图3-6所示，两个数据集上Top-K推荐列表的性能，其中排名位置K在1到10之间，可以看到，五种方法随着K的增加，推荐性能指标HR及NDCG进一步增长。而在两个数据集上，标准的基于项目的ItemKNN方法推荐性能始终最差，基于神经网络的方法DACF、NAIS和MLP表现出了优于一般方法的性能。提出的DACF方法在两个数据集上都表现出了良好的性能。

在同等参数设置情况下，MovieLens 1M数据集上K为7时的HR相比于NAIS、MLP、FISM和ItemKNN分别提升3.2％、6.3％,、25.7％和74.9％。NDCG也提升6.5％、10.1％、27.4％和86.8％。对于在MovieLens 100K数据集上K为8时，HR相比于NAIS、MLP、FISM和ItemKNN分别提升7.7％、11.8％、20.9％和61.3％，NDCG也提升6.3％、10.1％、18.8％和84.8％。因此，提出的DACF比现有的方法表现出较为优越的推荐性能。由于K数量增大，DACF虽然表现出较强的学习能力，但总体上升率降低，说明样本K的取值对模型具有一定的影响。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其同等技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (5)

1.基于注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于，包括如下步骤：

S1统计用户的历史项目评分；

S2根据用户的历史项目评分计算用户对目标项目的特征级内容表示；

S3根据用户的历史项目评分以及S2的技术结果计算用户对目标项目的项目级预测评分。

2.根据权利要求1所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S2包括

利用历史项目集q第j个项目的t个重要特征形成n维向量(q_j1,q_j2,…,q_jt),其中q_jt代表历史项目集q的第j个项目的第t个特征的特征值，其中p_it代表目标项目集p的第i个项目的第t个特征的特征值；

使用两层的MLP模型来学习特征级的注意力权重：

θ_jt＝ω₂′ReLU(ω₁′(p_it⊙q_jt)+b₁′)+b₂′ (11)

其中权重ω₁’，偏置向量b₁’是输入层到隐藏层的参数，ω₂’，b₂’隐藏层到输出层的参数，而ReLU为激活函数；

特征级注意力权重的一般形式为：

使用β作为平滑指数：

项目的内容特征加权为：

指定至少一个目标函数来进行优化。

3.根据权利要求2所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S3包括

根据公式(6)计算，其中为用户u对项目i的预测评分，r_uj表示用户u对历史项目j的评分，s_ij表示目标项目i和历史项目j的相似性，

其中将系数近似取1；

预测用户u对目标项目i的偏好时，其中a_ij为用户u的表示中历史项目j的注意力权重；

将a_ij参数化为p_i和q_j作为输入的函数：

a_ij＝f(p_i，q_j) (7)

使用多层感知器来模拟注意力机制并参数化注意力函数f：

f(p_i，q_j)＝ω₂ReLU(ω₁(p_i⊙q_j)+b₁)+b₂ (8)

其中ω₁，b₁是输入层到隐藏层的参数，ω₂，b₂为隐藏层到输出层的参数；

将注意力权重转换为概率分布的形式。

4.根据权利要求3所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S3中注意力权重转换为概率分布的形式包括，

使用γ来减轻对活跃用户注意权重的惩罚；其中γ为取值范围是[0，1]的平滑指数；

当γ＝1时，使用Softmax函数通过公式(9)计算

当γ<1时，采用公式(10)替换公式(9)；

5.根据权利要求4所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S2中指定至少一个目标函数来进行优化包括

当处理的问题都是二进制值1或0的隐性反馈时，将学习推荐模型作为二分类任务，将R_(u) ⁺和R_(u) ^-分别表示样本正实例集和负实例集，使用正则化对数损失定义最小化的目标函数：

其中N表示训练集的大小，是sigmoid函数，表示用户u对项目i评分的可能性，λ是正则化参数。