CN114862514A - 一种基于元学习的用户偏好商品推荐方法 - Google Patents

Abstract

本发明公开了一种基于元学习的用户偏好商品推荐方法，本发明能够利用辅助信息进行融合来提高特征精度。本发明通过元学习建立用户通道来实现用户特征转化，解决由于单一业务过于针对性的个性化推荐导致的用户兴趣衰减问题，改善推荐系统的多样性和新奇性，同时还能够提高对目标域用户商品推荐的精确度，本发明通过元学习的再学习能力，若新任务到来也能够快速的建立映射关系，从而实现在获取已有的知识上能够快速的学习新的任务，来实现对目标域的推荐。

Description

一种基于元学习的用户偏好商品推荐方法

技术领域

本发明属于跨域推荐领域，具体涉及一种基于元学习的用户偏好商品推荐方法。

背景技术

21世纪以来，随着信息技术和计算机技术的迅速发展，商务活动也呈现出国际化、虚拟化、无纸化。传统的消费产业逐渐的走向电子商务化，同时随着国内电子商务环境不断地发展和完善，网络平台购物已经成为人们生活中的一部分，人们对于平台商品的个性化推荐要求越来越严格，电商平台的冷启动问题显得额外重要，而跨域推荐可以解决由于单一业务过于针对性的个性化推荐导致的用户兴趣衰减问题，改善推荐系统的多样性和新奇性。基于元学习的用户偏好方法作为跨域推荐的技术之一，不仅可以优化和学习源域到目标域的知识，还能够提高对目标域用户商品推荐的精确度。

目前有各种技术处理以下问题：

(1)基于共享实体表示的模型方法；

该模型方法主要利用不同领域之间的重叠实体来融合不同领域之间的信息，建立起两个不同领域间的关系，从而实现跨域推荐。一般可以分为三个步骤，首先获取不同领域用户和商品的embedding向量，其次通过两个领域的公共用户进行结合得到两个领域的信息共性，最后实现预测评分。但是该模型比较依赖于有大量公共用户才能有好的推荐效果，同时直接通过结合层得到的公共特征并不太准确，导致推荐性能并不是很好。

(2)基于域间映射的模型方法；

对于源域丰富的交互历史记录来为数据较为稀疏的目标域进行推荐，从而解决目标域的冷启动问题，主要也是通过不同领域之间的重叠实体，通过重叠的实体来学习一个映射函数，将源域用户映射为目标域用户特征，但是这种映射方式依赖重叠的实体，而这部分实体比例很少，可能导致映射函数学习不充分，不能达到令人满意的效果。

(3)基于异构图嵌入的模型方法；

适用于不同领域间有一定的重叠实体，并且除评分信息外一般要具有一些辅助内容信息，如用户评论，物品标签等等，使得用户之间的相似性以及商品之间的相似性可以很好地衡量。该模型利用不同领域的实体建立一个所有领域共享的异构图，通过将全部交互信息以及内容信息整合到一个共享图中，用户以及物品在不同领域的特征可以被全面地考量，使得对用户以及物品的建模更加准确，但是模型构建的代价太大，且依赖于大量辅助信息。

发明内容

本发明的目的在于克服上述不足，提供一种基于元学习的用户偏好商品推荐方法，提高了源域到目标域的推荐精度。

为了达到上述目的，本发明包括以下步骤：

S1，采用CNN算法对源域和目标域的用户评论集和商品评价集进行文本数据处理，得到用户特征和商品特征；

对用户评分矩阵进行分解，得到分解后的用户评分矩阵；

S2，将用户特征以及商品特征与分解后的用户评分矩阵进行融合；

S3，通过源域的商品内容提取源域到目标域转化中的用户偏好特征，同时赋予转化中源域商品对目标域商品的影响权重，使用注意力网络机制来体现源域商品的用户偏好转化特征向量；

S4，根据源域到目标域的用户偏好特征，通过元学习的方法建立用户偏好通道，使源域用户特性到目标域用户特性进行转化，通过转化后的目标域用户特性和目标域的商品特性进行评分预测。

S1的具体方法如下：

将源域和目标域的用户评论集和商品评价集进行word2vec映射得到词向量矩阵WU^s、WU^t、WI^s和WI^t，WU^s表示源域的用户词向量，WU^t表示目标域的用户词向量，WI^s表示源域的商品词向量，WI^t表示目标域的商品词向量；

将源域和目标域的用户评分矩阵通过矩阵分解为u^s、v^s、u^t和v^t，u^s表示源域的用户特征，v^s表示源域的商品特征，u^t表示目标域的用户特征，v^t表示目标域的商品特征。

词向量的计算过程如下：

WU＝word2vec(UI_n)

WV＝word2vec(VI_m)

其中WU为用户词向量，UI_n＝{UC,(UI₁,UI₂,…,UI_n)}，UC为用户评论集，n为用户评论集提取后的单词总数，WV为商品词向量，VI_m＝{VC,(VI₁,VI₂,…,VI_m)}，VC为商品评论集，m为商品评价集提取后的单词总数。

S2中，融合过程如下：

p^s＝αCNN_WU^s⊙(1-α)u^s

p^t＝αCNN_WU^t⊙(1-α)u^t

q^s＝αCNN_WV^s⊙(1-α)v^s

q^t＝αCNN_WV^t⊙(1-α)v^t

其中，p^s和p^t分别表示为源域和目标域的用户特性，来自于CNN模型和矩阵分解得到的用户特性间的融合；q^s和q^t分别表示源域和目标域的商品特性，来自于CNN模型和矩阵分解得到的商品特性间的融合；⊙代表两个k维向量间的相加，α表示两种特性之间的权重。

CNN模型提取用户特性和商品特征的特征向量，并行将源域和目标域的用户特征和商品特征进行融合，权重参数α在学习中更新，最终得到融合后的源域和目标域的用户与商品特征向量。

S3的具体方法如下：

将源域的商品特征输入到注意力网络中，训练学习商品的权重，训练结束后进行加权处理得到用户偏好转化特征向量。

用户偏好转化特征的计算方法如下：

其中，

表示用户偏好转化特征向量，

a'_j表示两层的前馈神经网络，

表示源域的商品特征向量，

表示用户在源域的商品特征列表。

S4的具体方法如下：

用户偏好转化特征向量作为元学习网络的输入来构建用户偏好通道，使输入到用户偏好通道的源域的用户特征向量转化为目标域的用户特征，将目标域的用户特征与目标域的商品特征进行点乘积，得到目标域的用户对商品的评分预测来推荐商品，们使用平均绝对值误差MAE和均方根误差RMSE作为评判指标。

评判指标的计算方法如下：

其中：

为目标域用户的预测评分，

为目标域用户的真实评分。

评判指标的损失函数为：

其中：m表示源域和目标的重叠人数，r_ij表示用户i对商品j的真实评分，

表示源域到目标域转化后的用户特征，

g表示元学习网络，β为学习参数，

作为用户偏好通道的学习参数，q_j表示商品特征。

与现有技术相比，本发明首先对源域和目标域的用户评论集和商品评价集进行文本数据处理，得到用户特征和商品特征，对用户评分矩阵进行分解，得到分解后的用户评分矩阵，再将用户特征以及商品特征与分解后的用户评分矩阵进行融合，本发明能够利用辅助信息进行融合来提高特征精度。本发明根据源域到目标域的用户偏好特征，通过元学习的方法建立用户偏好通道，使源域用户特性到目标域用户特性进行转化，通过转化后的目标域用户特性和目标域的商品特性进行评分预测。本发明通过元学习建立用户通道来实现用户特征转化，解决由于单一业务过于针对性的个性化推荐导致的用户兴趣衰减问题，改善推荐系统的多样性和新奇性，同时还能够提高对目标域用户商品推荐的精确度，本发明通过元学习的再学习能力，若新任务到来也能够快速的建立映射关系，从而实现在获取已有的知识上能够快速的学习新的任务，来实现对目标域的推荐。

附图说明

图1为本发明的架构图；

图2为本发明中文本特征提取流程图；

图3为本发明中信息特征融合示意图；

图4为本发明中元学习用户偏好示意图。

具体实施方式

下面结合附图对本发明做进一步说明。

首先引入相关的定义：

定义1，CNN算法提取用户和商品特征的计算过程如下：

CNN_WU＝f_CNN(w；p；WU)

CNN_WV＝f_CNN(w；p；WV)

其中：CNN_WU表示用户特征向量，w表示CNN的权重，p表示CNN的偏差值，WU表示用户词向量；CNN_WV表示商品特征向量，WV表示商品词向量，f_CNN表示CNN的激活函数。

定义2，用户偏好转化特征计算过程为：

其中

表示用户偏好转化特征向量，

a'_j表示两层的前馈神经网络，

表示源域的商品特征向量，

表示用户在源域的商品特征列表。

定义3，元学习网络评分训练模型的损失函数为：

其中：m表示源域和目标的重叠人数，r_ij表示用户i对商品j的真实评分，

表示源域到目标域转化后的用户特征，

g表示元学习网络，β为学习参数，

作为用户偏好通道的学习参数，q_j表示商品特征。

参见图1，本发明包括以下步骤：

S1，参见图2，采用CNN算法对源域和目标域的用户评论集和商品评价集进行文本数据处理，得到用户特征和商品特征；具体方法如下：

将源域和目标域的用户评论集和商品评价集进行word2vec映射得到词向量矩阵WU^s、WU^t、WI^s和WI^t，WU^s表示源域的用户词向量，WU^t表示目标域的用户词向量，WI^s表示源域的商品词向量，WI^t表示目标域的商品词向量；词向量的计算过程如下：

WU＝word2vec(UI_n)

WV＝word2vec(VI_m)

其中WU为用户词向量，UI_n＝{UC,(UI₁,UI₂,…,UI_n)}，UC为用户评论集，n为用户评论集提取后的单词总数，WV为商品词向量，VI_m＝{VC,(VI₁,VI₂,…,VI_m)}，VC为商品评论集，m为商品评价集提取后的单词总数。

对用户评分矩阵进行分解，得到分解后的用户评分矩阵；将源域和目标域的用户评分矩阵通过矩阵分解为u^s、v^s、u^t和v^t，u^s表示源域的用户特征，v^s表示源域的商品特征，u^t表示目标域的用户特征，v^t表示目标域的商品特征。

对提取得到的词向量进行文本分析，其中CNN模型的训练流程如图3所示，通过卷积层(CL)、池化层(PL)、全连接层(FCL)计算各层的误差，不断更新学习参数，最终得到用户和商品的特征向量。

最后将CNN算法提取到的源域和目标域的用户特征以及商品特征与从源域和目标域的评分矩阵分解得到的用户隐因子和商品隐因子进行融合，从而得到更精准放入源域和目标域的用户特征与商品特征。

S2，将用户特征以及商品特征与分解后的用户评分矩阵进行融合；融合过程如下：

p^s＝αCNN_WU^s⊙(1-α)u^s

p^t＝αCNN_WU^t⊙(1-α)u^t

q^s＝αCNN_WV^s⊙(1-α)v^s

q^t＝αCNN_WV^t⊙(1-α)v^t

其中，p^s和p^t分别表示为源域和目标域的用户特性，来自于CNN模型和矩阵分解得到的用户特性间的融合；q^s和q^t分别表示源域和目标域的商品特性，来自于CNN模型和矩阵分解得到的商品特性间的融合；⊙代表两个k维向量间的相加，α表示两种特性之间的权重。

CNN模型提取用户特性和商品特征的特征向量，并行将源域和目标域的用户特征和商品特征进行融合，权重参数α在学习中更新，最终得到融合后的源域和目标域的用户与商品特征向量。

S3，通过源域的商品内容提取源域到目标域转化中的用户偏好特征，同时赋予转化中源域商品对目标域商品的影响权重，使用注意力网络机制来体现源域商品的用户偏好转化特征向量，这里的a′_j表示该商品对于构建用户偏好通道的重要性；具体方法如下：

将源域的商品特征输入到注意力网络中，训练学习商品的权重，训练结束后进行加权处理得到用户偏好转化特征向量。

用户偏好转化特征的计算方法如下：

其中，

表示用户偏好转化特征向量，

a'_j表示两层的前馈神经网络，

表示源域的商品特征向量，

表示用户在源域的商品特征列表。

S4，根据源域到目标域的用户偏好特征，通过元学习的方法建立用户偏好通道，使源域用户特性到目标域用户特性进行转化，通过转化后的目标域用户特性和目标域的商品特性进行评分预测，具体方法如下：

用户偏好转化特征向量作为元学习网络的输入来构建用户偏好通道，使输入到用户偏好通道的源域的用户特征向量转化为目标域的用户特征，将目标域的用户特征与目标域的商品特征进行点乘积，得到目标域的用户对商品的评分预测来推荐商品，们使用平均绝对值误差MAE和均方根误差RMSE作为评判指标。

评判指标的计算方法如下：

其中：

为目标域用户的预测评分，

为目标域用户的真实评分。

评判指标的损失函数为：

其中：m表示源域和目标的重叠人数，r_ij表示用户i对商品j的真实评分，

表示源域到目标域转化后的用户特征，

g表示元学习网络，β为学习参数，

作为用户偏好通道的学习参数，q_j表示商品特征。

元学习使用了注意力机制得到的用户偏好特征作为输入，通过元网络来学习得到用户偏好通道。如图4主要展示整个运行流程。将得到的源域商品特征输入到注意力网络中来学习到商品对用户的影响权重，从而降低掉对于目标域不相关商品的影响力，然后将商品特征与注意力得分进行加权输出用户偏好转化特征，接下来元网络将用户偏好转化特征作为输入来构学习一个函数f来作为用户偏好的转化通道，传统的元学习采用梯度下降方法来作为损失函数，这里我们采用评分训练作为损失函数，原因是因为采用评分的方式可以直接利用较丰富的rating数据来改善元学习网络，而不是稀疏的用户特征数据，这里的评分任务的训练集和测试集来自源域和目标域的公共用户，

本发明中信息特征融合通过对数据进行预处理，将数据预处理为特征向量送入CNN模型训练以及MF进行矩阵分解。如图2所示，选取源域和目标域的用户评论集和商品评论集送入CNN模型中进行训练得到用户特征和商品特征，同时使用MF来分解源域和目标域的评分矩阵得到用户特征和商品特征，将文本提取的特征和评分矩阵得到的用户特征进行加权融合，融合的参数α和β通过学习不断更新，最终输出融合后的用户特征向量和商品特征向量。

基于元学习的理念，由于传统模型的训练只能够得到一种映射关系，而元学习字面含义是学会学习，能够通过很多训练任务T和训练数据D来找个一个函数F，函数F可以生成一个函数f用于新任务，可以迅速建立起映射，通过元学习可以快速建立起源域和目标域的知识转化，更好的解决目标域数据稀疏导致的推荐准度下降的问题，同时使用基于评分的方式作为元学习中的损失函数，使得元学习参数进一步得到优化。

采用基于评分任务的方式来作为元网络的损失函数，通过源域和目标域的公共用户的评分信息作为元学习任务的训练集和测试集，使得元学习网络得到优化，进一步的提高元学习利用获取到的知识来更快的学习新的任务，最终提高对目标域用户评分预测的准确度。

本发明基于模型融合的理念，由于传统解决跨域问题的方式并没有利用好很多的辅助域信息来对用户和商品特征进行优化，导致推荐精度效果并不好，这里采用融合的理念进一步提高推荐的精度。

Claims (10)

1.一种基于元学习的用户偏好商品推荐方法，其特征在于，包括以下步骤：

S1，采用CNN算法对源域和目标域的用户评论集和商品评价集进行文本数据处理，得到用户特征和商品特征；

对用户评分矩阵进行分解，得到分解后的用户评分矩阵；

S2，将用户特征以及商品特征与分解后的用户评分矩阵进行融合；

S3，通过源域的商品内容提取源域到目标域转化中的用户偏好特征，同时赋予转化中源域商品对目标域商品的影响权重，使用注意力网络机制来体现源域商品的用户偏好转化特征向量；

S4，根据源域到目标域的用户偏好特征，通过元学习的方法建立用户偏好通道，使源域用户特性到目标域用户特性进行转化，通过转化后的目标域用户特性和目标域的商品特性进行评分预测。

2.根据权利要求1所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，S1的具体方法如下：

将源域和目标域的用户评论集和商品评价集进行word2vec映射得到词向量矩阵WU^s、WU^t、WI^s和WI^t，WU^s表示源域的用户词向量，WU^t表示目标域的用户词向量，WI^s表示源域的商品词向量，WI^t表示目标域的商品词向量；

将源域和目标域的用户评分矩阵通过矩阵分解为u^s、v^s、u^t和v^t，u^s表示源域的用户特征，v^s表示源域的商品特征，u^t表示目标域的用户特征，v^t表示目标域的商品特征。

3.根据权利要求2所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，词向量的计算过程如下：

WU＝word2vec(UI_n)

WV＝word2vec(VI_m)

其中WU为用户词向量，UI_n＝{UC，(UI₁，UI₂，…，UI_n)}，UC为用户评论集，n为用户评论集提取后的单词总数，WV为商品词向量，VI_m＝{VC，(VI₁，VI₂，…，VI_m)}，VC为商品评论集，m为商品评价集提取后的单词总数。

4.根据权利要求1所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，S2中，融合过程如下：

p^s＝αCNW_WU^s⊙(1-α)u^s

p^t＝αCNN_WU^t⊙(1-α)u^t

q^s＝αCNN_WV^s⊙(1-α)v^s

q^t＝αCNN_WV^t⊙(1-α)v^t

其中，p^s和p^t分别表示为源域和目标域的用户特性，来自于CNN模型和矩阵分解得到的用户特性间的融合；q^s和q^t分别表示源域和目标域的商品特性，来自于CNN模型和矩阵分解得到的商品特性间的融合；⊙代表两个k维向量间的相加，α表示两种特性之间的权重。

5.根据权利要求4所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，CNN模型提取用户特性和商品特征的特征向量，并行将源域和目标域的用户特征和商品特征进行融合，权重参数α在学习中更新，最终得到融合后的源域和目标域的用户与商品特征向量。

6.根据权利要求1所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，S3的具体方法如下：

将源域的商品特征输入到注意力网络中，训练学习商品的权重，训练结束后进行加权处理得到用户偏好转化特征向量。

7.根据权利要求6所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，用户偏好转化特征的计算方法如下：

其中，

表示用户偏好转化特征向量，

a'_j表示两层的前馈神经网络，

表示源域的商品特征向量，

表示用户在源域的商品特征列表。

8.根据权利要求1所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，S4的具体方法如下：

用户偏好转化特征向量作为元学习网络的输入来构建用户偏好通道，使输入到用户偏好通道的源域的用户特征向量转化为目标域的用户特征，将目标域的用户特征与目标域的商品特征进行点乘积，得到目标域的用户对商品的评分预测来推荐商品，们使用平均绝对值误差MAE和均方根误差RMSE作为评判指标。

9.根据权利要求8所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，评判指标的计算方法如下：

其中：

为目标域用户的预测评分，

为目标域用户的真实评分。

10.根据权利要求9所述的一种基于元学习的用户偏好商品推荐方法，其特征在于，评判指标的损失函数为：

其中：m表示源域和目标的重叠人数，r_ij表示用户i对商品j的真实评分，

表示源域到目标域转化后的用户特征，

g表示元学习网络，β为学习参数，

作为用户偏好通道的学习参数，q_j表示商品特征。

Images