CN111291274A

CN111291274A - 一种物品推荐方法、装置、设备及计算机可读存储介质

Info

Publication number: CN111291274A
Application number: CN202010134958.5A
Authority: CN
Inventors: 赵朋朋; 严浩冉; 凌晓峰
Original assignee: Suzhou University
Current assignee: Suzhou University
Priority date: 2020-03-02
Filing date: 2020-03-02
Publication date: 2020-06-16

Abstract

本发明公开了一种物品推荐方法，该方法包括以下步骤：接收请求端发送的物品访问请求；利用跨域推荐模型对物品访问请求进行解析，得到目标物品集；其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；将目标物品集输出推荐给请求端。应用本发明实施例所提供的技术方案，较大地提高了物品推荐的准确性。本发明还公开了一种物品推荐装置、设备及存储介质，具有相应技术效果。

Description

一种物品推荐方法、装置、设备及计算机可读存储介质

技术领域

本发明涉及数据处理技术领域，特别是涉及一种物品推荐方法、装置、设备及计算机可读存储介质。

背景技术

由于信息爆炸，推荐系统在当今世界起着至关重要的作用。在各种推荐技术中，协同过滤(CF)学习用户历史偏好来向用户提供个性化的推荐是最受欢迎和使用最广泛的方法。协同过滤方法被扩展到许多推荐技术中，例如矩阵分解(MF)和神经协作过滤(NCF)。但是，现有的协同过滤方法仍然会受到数据稀疏问题的影响。跨域推荐可以从相关领域迁移知识以缓解数据稀疏性的问题，从而提高模型推荐性能。例如，用户同时购买了一些书籍和看了一些电影，而用户对书籍和电影的偏好某些方面可能是一致的。利用用户对某些电影的偏好，我们可以更好的为用户推荐一些书籍。在跨域推荐的发展过程中，出现了许多推荐方法。联合矩阵分解(CMF)是一种典型的方法，它通过共享用户潜在因子来分解在两个域中的用户—物品交互矩阵。带有分解机(FM)的跨域协同过滤通过在合并域上应用分解来扩展分解机。协同跨域网络(Conet)在两个网络间添加交叉连接来实现域间的双向知识迁移。随着各种先进的方法出现，跨域推荐取得了很大的成功。

但是，现有的跨域物品推荐方法很少考虑跨域模型的鲁棒性，这对于模型的泛化性是充分必要的。尽管使用跨域技术可以缓解数据稀疏问题，跨域模型的鲁棒性却很差。在跨域模型的参数上添加了一些细微但有意的扰动，模型的性能下降了很多。鲁棒性差意味着模型的泛化中可能存在较大误差。有几个原因导致了跨域模型较差的鲁棒性。首先，跨域推荐技术通常用于缓解数据稀疏性问题，因此用于跨域推荐的数据集比常规推荐任务稀疏得多。从稀疏数据中学习鲁棒的参数表示更加困难。其次，与仅对一个数据域进行建模的单域模型相比，跨域模型更加复杂。复杂模型更容易受到噪声的影响。另外，当将知识从源域迁移到目标域时，可能会迁移无用的噪声而不是有用的知识。辅助域的噪声对知识的迁移提出了挑战，从而很可能会破坏跨域推荐模型的鲁棒性，降低物品推荐的准确性。

综上所述，如何有效地解决现有的物品推荐方式物品推荐的准确性低的问题，是目前本领域技术人员急需解决的问题。

发明内容

本发明的目的是提供一种物品推荐方法，该方法较大地提高了物品推荐的准确性；本发明的另一目的是提供一种物品推荐装置、设备及计算机可读存储介质。

为解决上述技术问题，本发明提供如下技术方案：

一种物品推荐方法，包括：

接收请求端发送的物品访问请求；

利用跨域推荐模型对所述物品访问请求进行解析，得到目标物品集；其中，所述跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；

将所述目标物品集输出推荐给所述请求端。

在本发明的一种具体实施方式中，利用跨域推荐模型对所述物品访问请求进行解析，包括：

利用隐藏层为塔式结构的跨域推荐模型对所述物品访问请求进行解析。

在本发明的一种具体实施方式中，利用跨域推荐模型对所述物品访问请求进行解析，得到目标物品集，包括：

利用跨域推荐模型对所述物品访问请求进行解析，得到候选物品集；其中，所述候选物品集中各候选物品均携带有对应的评分值；

按照所述候选物品集中各所述候选物品的评分值大小对各所述候选物品进行排序，得到排序结果；

从所述排序结果中评分高的一端选取前预设数量的候选物品作为所述目标物品集。

利用所述跨域推荐模型对所述物品访问请求进行解析；其中，所述跨域推荐模型为通过随机梯度下降法进行优化得到。

一种物品推荐装置，包括：

请求接收模块，用于接收请求端发送的物品访问请求；

物品集获得模块，用于利用跨域推荐模型对所述物品访问请求进行解析，得到目标物品集；其中，所述跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；

物品推荐模块，用于将所述目标物品集输出推荐给所述请求端。

在本发明的一种具体实施方式中，所述物品集获得模块包括请求解析子模块，

所述请求解析子模块具体为利用隐藏层为塔式结构的跨域推荐模型对所述物品访问请求进行解析的模块。

在本发明的一种具体实施方式中，所述物品集获得模块包括：

候选物品集获得子模块，用于利用跨域推荐模型对所述物品访问请求进行解析，得到候选物品集；其中，所述候选物品集中各候选物品均携带有对应的评分值；

排序结果获得子模块，用于按照所述候选物品集中各所述候选物品的评分值大小对各所述候选物品进行排序，得到排序结果；

目标物品集获得子模块，用于从所述排序结果中评分高的一端选取前预设数量的候选物品作为所述目标物品集。

所述请求解析子模块具体为利用所述跨域推荐模型对所述物品访问请求进行解析的模块；其中，所述跨域推荐模型为通过随机梯度下降法进行优化得到。

一种物品推荐设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如前所述物品推荐方法的步骤。

一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如前所述物品推荐方法的步骤。

应用本发明实施例所提供的方法，接收请求端发送的物品访问请求；利用跨域推荐模型对物品访问请求进行解析，得到目标物品集；其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；将目标物品集输出推荐给请求端。通过在跨域推荐模型的嵌入层加入对抗扰动进行对抗训练得到能够抵御对抗样本攻击的跨域推荐模型，较大地提高了跨域推荐模型的鲁棒性，利用对抗训练得到的跨域推荐模型对物品访问请求进行解析，从而得到请求端用户感兴趣的目标物品集，较大地提高了物品推荐的准确性。

相应的，本发明实施例还提供了与上述物品推荐方法相对应的物品推荐装置、设备和计算机可读存储介质，具有上述技术效果，在此不再赘述。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例中物品推荐方法的一种实施流程图；

图2为本发明实施例中物品推荐方法的另一种实施流程图；

图3为本发明实施例中一种物品推荐装置的结构框图；

图4为本发明实施例中一种物品推荐设备的结构框图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例一：

参见图1，图1为本发明实施例中物品推荐方法的一种实施流程图，该方法可以包括以下步骤：

S101：接收请求端发送的物品访问请求。

当请求端需要对物品进行访问时，可以向物品推荐系统发送物品访问请求，物品推荐系统接收请求端发送的物品访问请求。如物品访问请求可以为请求端用户需要购买书籍的请求、需要观看电影的请求等。

S102：利用跨域推荐模型对物品访问请求进行解析，得到目标物品集。

其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到。

可以通过在跨域推荐模型的嵌入层加入对抗扰动进行对抗训练，利用模型训练过程中生成的对抗样本不断攻击物品推荐系统，试图让物品推荐系统推荐给用户错误的物品，物品推荐系统学习抵御此攻击，得到训练后的跨域推荐模型。使得训练系统后续即使面临对抗样本的攻击，仍然能够给用户推荐正确的物品。因此，在物品推荐系统接收到请求端发送的物品访问请求之后，可以利用通过在嵌入层加入对抗扰动进行对抗训练得到的跨域推荐模型，对物品访问请求进行解析，得到目标物品集。

跨域推荐模型的建模及训练过程可以包括：给定一个源域S和一个目标域T，用户集U(数目为m＝|U|)被两个域共享。I_S(数目n_S＝|I_S|)表示源域中的物品集，I_T(数目n_T＝|I_T|)表示目标域中的物品集。

表示目标域中的用户—物品交互矩阵，其中如果用户u和物品i有交互，则交互矩阵中的元素r_ui为1，否则为0。相似地，

表示源域中的用户—物品交互矩阵，其中如果用户u和物品j有交互，则交互矩阵中的元素r_uj为1，否则为0。物品根据模型的预测得分来排序，公式如下：

其中，f表示交互函数，Θ表示模型的参数。对于矩阵分解技术，可表示为以下公式：

参数Θ＝{P,Q}是用户和物品的嵌入矩阵，其中P∈R^m*d，Q∈R^n*d，d表示维度的长度。对于神经协同过滤的方法，神经网络被用来参数化函数f，公式如下：

其中，输入v_ui＝[v_u,v_i]是用户和物品映射的拼接。v_u＝P^Tx_u表示用户的映射，v_i＝P^Tx_i表示物品的映射。x_u∈{0,1}^m表示用户的独热编码，x_i∈{0,1}ⁿ表示物品的独热编码。Φ₀表示多层前向传播神经网络中的输出层，Φ_l(l∈[1,L])表示多层前向传播神经网络中的隐藏层。Θ_f为权值矩阵和偏置。

使用MLP++作为基础模型，它通过共享目标域和源域的用户嵌入矩阵来结合两个神经网络进行跨域推荐。在跨域推荐使用的迁移/多任务学习方法中，每个域使用一个神经网络来建模。联合学习这些网络，可以促进知识的相互迁移，进而提高推荐性能。MLP++模型描述如下：

其中，P是用户嵌入矩阵，Q是物品嵌入矩阵，下标指定相应的域。Θ_f是多层前向传播神经网络中的权值矩阵和偏置。

其中，R⁺和R^-分别表示正样本和负样本。根据源域的损失L_s和目标域的损失L_t实例化上式中的L₀，可以得到联合损失函数为：

L_MLP++(Θ)＝L_t(Θ_t)+L_s(Θ_s)；

其中，模型参数Θ＝Θ_t∪Θ_s。

在跨域推荐模型建立完成后，将对抗性扰动应用于跨域推荐模型的参数层。对抗扰动定义为使整体损失函数最大化的模型参数扰动，定义如下：

其中，n是在模型的嵌入参数Θ_emb＝{P,Q_t,Q_s}上的扰动，ε控制扰动等级，||.||表示L₂正则化，

为多层前向传播神经网络中的参数。实质上，对抗扰动n_adv是一种梯度噪声。大多数神经网络模型，使用梯度下降算法来最小化训练损失函数。在高维空间中，随机扰动几乎与损失函数的梯度正交，这对损失函数影响很小。但如果输入样本沿梯度上升的方向移动，则模型的预测可能会发生很大变化。受到快速梯度符号法(FGSM)的启发，给出上式的解如下：

其中，Θ＝{Θ_emb,Θ_f}是模型的参数。对抗样本可以表示为Θ_emb+n_adv。

通过对抗样本优化模型，以最小化MLP++的目标函数。我们定义对抗跨域网络(ACDN)的目标函数如下：

L_ACDN(Θ)＝L_MLP++(Θ_emb,Θ_f)+λL_MLP++(Θ_emb+n_adv,Θ_f)；

其中，Θ_emb+n_adv是对抗样本的参数表示，n_adv是在模型的嵌入参数Θ_emb＝{P,Q_t,Q_s}上的扰动，ε控制扰动等级，L_MLP++(Θ_emb+n_adv,Θ_f)可以看作一个正则化项，λ用于控制其强度。

所提出的跨域推荐模型的体系由结构四个模块组成：输入层，嵌入层，隐藏层和输出层。首先，输入层采用独热编码来编码用户—物品交互索引。其次，在嵌入层中，将独热编码嵌入到连续表示中，并在其上添加对抗扰动以构造对抗样本。接着，我们将表示转换为隐藏层中的最终表示并输入输出层。

输入层使用独热编码来为用户-物品交互索引进行编码。其将用户u和物品i，j分别映射为独热编码x_u，x_i和x_j。

嵌入层将输入层的独热编码嵌入为连续的表示v_u＝P^Tx_u，

和

在这些连续的表示上添加对抗扰动，可以得到对抗样本的表示v_u′＝v_u+n_u，v_i′＝v_i+n和v_j′＝v_j+n_j。n_u，n_i和n_j是v_u，v_i和v_j对应的对抗扰动。可以将其合并为v_ui＝[v_u,v_i]，v_uj＝[v_u,v_j]，v_ui′＝[v_u′,v_i′]和v_uj′＝[v_u′,v_j′]，作为隐藏层的输入。

隐藏层从嵌入层获取表示并将其转换为最终表示。

输出层使用来自隐藏层的最终表示来进行物品推荐输出。如输出用户想要购买的书籍。

对跨域推荐模型的训练过程可以被看作最小化最坏情况下的误差。可以解释为一个极大极小的博弈：

其中，学习嵌入参数Θ_emb的过程可以视为最小化博弈者，获取针对模型的最坏情况的扰动作为最大化博弈者。

S103：将目标物品集输出推荐给请求端。

在得到目标物品集之后，将目标物品集输出推荐给请求端。经过对抗训练后的跨域推荐模型，可以缓解对抗样本的攻击，学习到健壮的参数表示，进而提供给请求端用户更加准确的物品推荐。

需要说明的是，基于上述实施例一，本发明实施例还提供了相应的改进方案。在后续实施例中涉及与上述实施例一中相同步骤或相应步骤之间可相互参考，相应的有益效果也可相互参照，在下文的改进实施例中不再一一赘述。

实施例二：

参见图2，图2为本发明实施例中物品推荐方法的另一种实施流程图，该方法可以包括以下步骤：

S201：接收请求端发送的物品访问请求。

S202：利用隐藏层为塔式结构的跨域推荐模型对所述物品访问请求进行解析，得到候选物品集。

其中，候选物品集中各候选物品均携带有对应的评分值；跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练，并通过随机梯度下降法进行优化得到。

跨域推荐模型的隐藏层可以采用塔式结构，将更高层的层大小减半，如将其配置为[64→32→16→8]。通过高层使用少量隐藏单元，可以获取数据的更多抽象特征。

具体而言，对跨域推荐模型进行对抗训练的流程包含两个步骤。第一步，在训练过程中动态生成对抗样本。构造对抗扰动并将其应用于嵌入参数以获得对抗样本。第二步，训练对抗跨域网络模型，可以通过随机梯度下降法(SGD)进行模型优化。更新参数的公式为：

Θ^new←Θ^old-η▽_ΘL_ACDN(Θ)；

其中，η是模型的学习率。

重复上述两个对抗训练步骤直到模型收敛。使得经过对抗训练后的跨域推荐模型，可以缓解对抗样本的攻击，学习到健壮的参数表示，进而提供给用户更加准确的物品推荐。

从而，在接收到物品访问请求之后，利用通过在嵌入层加入对抗扰动进行对抗训练，隐藏层为塔式结构，且通过随机梯度下降法进行优化得到的跨域推荐模型，对物品访问请求进行解析，得到候选物品集。通过跨域推荐模型的输出层给各候选物品打分，评分值表示用户对各候选物品感兴趣的概率(如购买的概率)。

S203：按照候选物品集中各候选物品的评分值大小对各候选物品进行排序，得到排序结果。

在得到由携带有对应评分值的各候选物品构成的候选物品集之后，可以按照候选物品集中各候选物品的评分值大小对各候选物品进行排序，得到排序结果。候选物品的评分值越高，表示请求端用户对该候选物品感兴趣的概率越大。

S204：从排序结果中评分高的一端选取前预设数量的候选物品作为目标物品集。

在按照候选物品集中各候选物品的评分值大小对各候选物品进行排序，得到排序结果之后，从排序结果中评分高的一端选取前预设数量的候选物品作为目标物品集，从而使得选取出请求端用户更加感兴趣的候选物品。

需要说明的是，预设数量可以根据实际情况进行设定和调整，本发明实施例对此不做限定。

S205：将目标物品集输出推荐给请求端。

相应于上面的方法实施例，本发明实施例还提供了一种物品推荐装置，下文描述的物品推荐装置与上文描述的物品推荐方法可相互对应参照。

参见图3，图3为本发明实施例中一种物品推荐装置的结构框图，该装置可以包括：

请求接收模块31，用于接收请求端发送的物品访问请求；

物品集获得模块32，用于利用跨域推荐模型对物品访问请求进行解析，得到目标物品集；其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；

物品推荐模块33，用于将目标物品集输出推荐给请求端。

应用本发明实施例所提供的装置，接收请求端发送的物品访问请求；利用跨域推荐模型对物品访问请求进行解析，得到目标物品集；其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；将目标物品集输出推荐给请求端。通过在跨域推荐模型的嵌入层加入对抗扰动进行对抗训练得到能够抵御对抗样本攻击的跨域推荐模型，较大地提高了跨域推荐模型的鲁棒性，利用对抗训练得到的跨域推荐模型对物品访问请求进行解析，从而得到请求端用户感兴趣的目标物品集，较大地提高了物品推荐的准确性。

在本发明的一种具体实施方式中，物品集获得模块32包括请求解析子模块，

请求解析子模块具体为利用隐藏层为塔式结构的跨域推荐模型对物品访问请求进行解析的模块。

在本发明的一种具体实施方式中，物品集获得模块32包括：

候选物品集获得子模块，用于利用跨域推荐模型对物品访问请求进行解析，得到候选物品集；其中，候选物品集中各候选物品均携带有对应的评分值；

排序结果获得子模块，用于按照候选物品集中各候选物品的评分值大小对各候选物品进行排序，得到排序结果；

目标物品集获得子模块，用于从排序结果中评分高的一端选取前预设数量的候选物品作为目标物品集。

请求解析子模块具体为利用跨域推荐模型对物品访问请求进行解析的模块；其中，跨域推荐模型为通过随机梯度下降法进行优化得到。

相应于上面的方法实施例，参见图4，图4为本发明所提供的物品推荐设备的示意图，该设备可以包括：

存储器41，用于存储计算机程序；

处理器42，用于执行上述存储器41存储的计算机程序时可实现如下步骤：

接收请求端发送的物品访问请求；利用跨域推荐模型对物品访问请求进行解析，得到目标物品集；其中，跨域推荐模型为通过在嵌入层加入对抗扰动进行对抗训练得到；将目标物品集输出推荐给请求端。

对于本发明提供的设备的介绍请参照上述方法实施例，本发明在此不做赘述。

相应于上面的方法实施例，本发明还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时可实现如下步骤：

该计算机可读存储介质可以包括：U盘、移动硬盘、只读存储器(Read-OnlyMemory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

对于本发明提供的计算机可读存储介质的介绍请参照上述方法实施例，本发明在此不做赘述。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置、设备及计算机可读存储介质而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的技术方案及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

Claims

1.一种物品推荐方法，其特征在于，包括：

接收请求端发送的物品访问请求；

将所述目标物品集输出推荐给所述请求端。

2.根据权利要求1所述的物品推荐方法，其特征在于，利用跨域推荐模型对所述物品访问请求进行解析，包括：

3.根据权利要求1所述的物品推荐方法，其特征在于，利用跨域推荐模型对所述物品访问请求进行解析，得到目标物品集，包括：

4.根据权利要求1至3任一项所述的物品推荐方法，其特征在于，利用跨域推荐模型对所述物品访问请求进行解析，包括：

5.一种物品推荐装置，其特征在于，包括：

请求接收模块，用于接收请求端发送的物品访问请求；

6.根据权利要求5所述的物品推荐装置，其特征在于，所述物品集获得模块包括请求解析子模块，

7.根据权利要求5所述的物品推荐装置，其特征在于，所述物品集获得模块包括：

8.根据权利要求5至7任一项所述的物品推荐方法，其特征在于，所述物品集获得模块包括请求解析子模块，

9.一种物品推荐设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至4任一项所述物品推荐方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述物品推荐方法的步骤。