CN110827115B - 基于注意力机制的产品推荐方法和系统 - Google Patents

基于注意力机制的产品推荐方法和系统 Download PDF

Info

Publication number
CN110827115B
CN110827115B CN201910948090.XA CN201910948090A CN110827115B CN 110827115 B CN110827115 B CN 110827115B CN 201910948090 A CN201910948090 A CN 201910948090A CN 110827115 B CN110827115 B CN 110827115B
Authority
CN
China
Prior art keywords
user
target product
product
interaction
predicted value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910948090.XA
Other languages
English (en)
Other versions
CN110827115A (zh
Inventor
刘业政
井二康
田志强
张雪
李哲
陶守正
姜元春
孙见山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei University of Technology
Original Assignee
Hefei University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei University of Technology filed Critical Hefei University of Technology
Priority to CN201910948090.XA priority Critical patent/CN110827115B/zh
Publication of CN110827115A publication Critical patent/CN110827115A/zh
Application granted granted Critical
Publication of CN110827115B publication Critical patent/CN110827115B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations

Landscapes

  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种基于注意力机制的产品推荐方法和系统,涉及推荐技术领域。本发明通过计算目标产品与用户历史交互的产品的相似度,并与注意力机制相结合,避免了用户所有的历史交互产品对目标产品产生的影响相同的结果,同时结合了目标产品的评论文本数据,考虑到用户是否与某一产品进行交互不仅受到该用户的历史行为影响,即受到该用户的兴趣影响,还受到其他用户对目标产品的评价的影响,在产品推荐过程中,考虑目标产品的评论文本数据,更加贴近现实情况,从而提高了产品的推荐精度。

Description

基于注意力机制的产品推荐方法和系统
技术领域
本发明涉及推荐技术领域,具体涉及一种基于注意力机制的产品推荐方法和系统。
背景技术
电子商务与互联网技术的飞速发展,以及智能手机使用的普及,将人类带入了生活在海量信息环境中的互联网时代。巨大数量的用户和产生的海量数据,使得人们的生活处于数字化状态。在如此庞大的数据中,如何给互联网用户推荐个性化的服务,如音乐APP或音乐网站的音乐推荐、网购平台的产品推荐、视频网站的视频推荐等,如何做到根据不同用户进行个性化推荐,提高用户的购买率、浏览量等成为商界、学界普遍研究的热点。
目前运用最广泛的网络产品推荐系统主要采用两种方法:基于用户的协同过滤推荐技术和基于产品的协同过滤推荐技术。基于用户的协同过滤推荐技术的思想为与该用户兴趣相似的其他用户所喜欢的产品,该用户应该也喜欢。所以,基于用户的协同过滤推荐技术根据与该用户兴趣相似的用户所交互的产品,但该用户未交互过的产品作为推荐。基于产品的协同过滤推荐技术的思想为与用户喜欢的产品相似的产品有很大可能被该用户喜欢。基于该思想,只需要计算目标产品与用户交互过的产品的相似度,将相似度的top-N产品推荐给用户即可。
然而,现有的基于产品的协同过滤推荐技术多从用户历史行为角度着手,通过计算目标产品与用户历史交互产品的相似度,进而预测该用户喜好目标产品的可能性。这样的做法一方面在一定程度上没有考虑到目标产品侧的信息,造成了信息资源的浪费;另一方面侧重于用户的历史行为,忽略了目标产品的特性和数据,从而造成推荐的产品不贴近现实情况,即精度低的技术问题。
发明内容
(一)解决的技术问题
针对现有技术的不足,本发明提供了一种基于注意力机制的产品推荐方法和系统,解决了现有推荐系统中推荐精度低的技术问题。
(二)技术方案
为实现以上目的,本发明通过以下技术方案予以实现:
本发明提供一种基于注意力机制的产品推荐方法,所述方法由计算机执行,包括以下步骤:
S1、获取用户历史行为数据、目标产品数据和目标产品的评论文本,所述用户历史行为数据包括用户与产品产生的交互行为数据;
S2、获取所述用户历史行为数据的隐向量、所述目标产品数据的隐向量和所述目标产品的评论文本的隐向量;
S3、基于所述用户历史行为数据的隐向量、所述目标产品的隐向量和所述目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于所述相似度、所述用户历史行为数据的注意力权重和所述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;
S5、基于所述用户与目标产品发生交互的预测值对用户进行产品推荐。
优选的,获取目标产品与用户历史交互产品的相似度的方法包括:
通过余弦相似度来表示目标产品与用户交互产品之间的相似度:
Figure BDA0002224857450000031
其中:
skj表示用户交互产品与目标产品的相似度;
Hk表示用户交互的第k个产品itemk的隐向量表示;
Ij表示第j个目标产品i的隐向量表示;
|| ||表示向量的模。
优选的,获取用户历史行为数据的注意力权重的方法包括:
akj=softmax(f(Hk,Ij))
其中:
akj表示用户历史交互的第k个产品Hk对目标产品Ij的注意力权重;
Hk表示用户交互的第k个产品itemk的隐向量表示;
Ij表示第j个目标产品i的隐向量表示;
f表示确定Hk与Ij关系的函数;
式中f(Hk,Ij)的计算公式如下:
Figure BDA0002224857450000041
式中:
hT表示一个可以训练的参数向量;
ReLU表示线性整流激活函数;
Figure BDA0002224857450000042
表示两个向量对应位置元素相乘;
W为可训练的参数;
b为偏置;
得出:
Figure BDA0002224857450000043
优选的,获取目标产品评论文本的注意力权重的方法包括:
blk=softmax(g(cl,Ij))
其中:
blk表示目标产品评论文本的隐向量cl对目标产品Ij的注意力权重,l=1,2,3分别对应于好评c1、中评c2和差评c3的隐向量;
Ij表示第j个目标产品i的隐向量表示;
g表示确定cl与Ij关系的函数,式中g(cl,Ij)的计算公式如下:
Figure BDA0002224857450000044
式中:
W为可训练的参数;
b为偏置;
得出:
Figure BDA0002224857450000051
式中,g(cl,Ij)t
Figure BDA0002224857450000052
中得到的向量的第t个元素,Y表示向量的维度。
优选的,获取用户与目标产品发生交互的预测值方法包括:
S401、根据所述相似度和所述用户历史行为数据的注意力权重获取基于用户历史行为的用户与目标产品发生交互的预测值;
S402、根据所述目标产品评论文本的注意力权重和所述目标产品的隐向量获取基于目标产品评论内容的用户与目标产品发生交互的预测值;
S403、根据所述基于用户历史行为的用户与目标产品发生交互的预测值和所述基于目标产品评论内容的用户与目标产品发生交互的预测值获取用户与目标产品发生交互的预测值。
优选的,所述获取基于用户历史行为的用户与目标产品发生交互的预测值的方法包括:
Figure BDA0002224857450000053
其中:
skj表示用户的交互产品和目标产品的相似度skj
akj表示用户历史行为数据的注意力权重;
R+表示和用户有交互的所有产品;
Figure BDA0002224857450000054
表示基于用户历史行为的用户与目标产品发生交互的预测值。
优选的,所述获取基于目标产品评论内容的用户与目标产品发生交互的预测值的方法包括:
Figure BDA0002224857450000061
其中:
Figure BDA0002224857450000062
表示基于目标产品评论内容的用户与目标产品发生交互的预测值;
blk表示基于目标产品评论文本的注意力权重。
优选的,所述获取用户与目标产品发生交互的预测值的方法包括:
Figure BDA0002224857450000063
其中:
Figure BDA0002224857450000064
表示用户u与目标产品Ij发生交互的预测值。
Figure BDA0002224857450000065
表示
Figure BDA0002224857450000066
Figure BDA0002224857450000067
拼接成的向量;
W为可训练的参数;
b为偏置;
σ为sigmoid激活函数,将输出结果映射为一个概率值,表示用户u与目标产品i发生交互的可能性。
优选的,基于所述用户与目标产品发生交互的预测值对用户进行产品推荐的方法包括:计算用户u与目标产品发生交互的预测值,向用户u推荐预测值为前N的目标产品。
本发明还提供一种基于注意力机制的产品推荐系统,所述系统包括计算机,所述计算机包括:
至少一个存储单元;
至少一个处理单元;
其中,所述至少一个存储单元中存储有至少一条指令,所述至少一条指令由所述至少一个处理单元加载并执行以实现以下步骤:
S1、获取用户历史行为数据、目标产品数据和目标产品的评论文本,所述用户历史行为数据包括用户与产品产生的交互行为数据;
S2、获取所述用户历史行为数据的隐向量、所述目标产品数据的隐向量和所述目标产品的评论文本的隐向量;
S3、基于所述用户历史行为数据的隐向量、所述目标产品的隐向量和所述目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于所述相似度、所述用户历史行为数据的注意力权重和所述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;
S5、基于所述用户与目标产品发生交互的预测值对用户进行产品推荐。
(三)有益效果
本发明提供了一种基于注意力机制的产品推荐方法和系统。与现有技术相比,具备以下有益效果:
本发明首先获取用户历史行为数据、目标产品数据和目标产品的评论文本,获取用户历史行为数据、目标产品数据和目标产品的评论文本的隐向量;基于用户历史行为数据、目标产品数据和目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;基于相似度、用户历史行为数据的注意力权重和目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;最后基于用户与目标产品发生交互的预测值对用户进行推荐。本发明通过计算目标产品与用户历史交互的产品的相似度,并与注意力机制相结合,避免了用户所有的历史交互产品对目标产品产生的影响相同的结果,同时结合了目标产品的评论文本数据,考虑到用户是否与某一产品进行交互不仅受到该用户的历史行为影响,即受到该用户的兴趣影响,还受到其他用户对目标产品的评价的影响,在产品推荐过程中,考虑目标产品的评论文本数据,更加贴近现实情况,从而提高了产品的推荐精度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的一种基于注意力机制的产品推荐方法的框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请实施例通过提供一种基于注意力机制的产品推荐方法和系统,解决了现有推荐系统推荐精度低的问题,实现贴近现实情况的推荐产品,提高产品推荐精度。
本申请实施例中的技术方案为解决上述技术问题,总体思路如下:
本发明首先获取用户历史行为数据、目标产品数据和目标产品的评论文本,获取用户历史行为数据、目标产品数据和目标产品的评论文本的隐向量;基于用户历史行为数据、目标产品数据和目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;基于相似度、用户历史行为数据的注意力权重和目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;最后基于用户与目标产品发生交互的预测值对用户进行推荐。本发明通过计算目标产品与用户历史交互的产品的相似度,并与注意力机制相结合,避免了用户所有的历史交互产品对目标产品产生的影响相同的结果,同时结合了目标产品的评论文本数据,考虑到用户是否与某一产品进行交互不仅受到该用户的历史行为影响,即受到该用户的兴趣影响,还受到其他用户对目标产品的评价的影响,在产品推荐过程中,考虑目标产品的评论文本数据,更加贴近现实情况,从而提高了产品的推荐精度。
为了更好的理解上述技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
本发明实施例提供一种基于注意力机制的产品推荐方法,该方法由计算机执行,如图1所示,包括步骤S1~S5:
S1、获取用户历史行为数据、目标产品数据和目标产品的评论文本,上述用户历史行为数据包括用户与产品产生的交互行为数据;
S2、获取上述用户历史行为数据的隐向量、上述目标产品数据的隐向量和上述目标产品的评论文本的隐向量;
S3、基于上述用户行为数据的隐向量、上述目标产品隐向量和目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于上述相似度、上述用户历史行为数据的注意力权重和上述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;
S5、基于上述用户与目标产品发生交互的预测值对用户进行产品推荐。
本发明实施例通过计算目标产品与用户历史交互的产品的相似度,并与注意力机制相结合,避免了用户所有的历史交互产品对目标产品产生的影响相同的结果,同时结合了目标产品的评论文本数据,考虑到用户是否与某一产品进行交互不仅受到该用户的历史行为影响,即受到该用户的兴趣影响,还受到其他用户对目标产品的评价的影响,在产品推荐过程中,考虑目标产品的评论文本数据,更加贴近现实情况,从而提高了产品的推荐精度。
下面对各步骤进行详细描述:
需要说明的是,在本发明实例中,用户是否与目标产品发生交互行为,不仅与用户的历史行为有关,还与目标产品所收到的评论内容有关。用户的历史行为对目标产品的影响程度不同;目标产品所收到的不同等级的评价对用户的影响程度不同。
在步骤S1中,获取用户历史行为数据、目标产品数据和目标产品的评论文本。在本发明实施例中,从购物平台上获取用户历史行为数据、目标产品数据和目标产品的评论文本。
其中:用户历史行为数据包括用户与产品产生的交互行为数据。
在具体实施过程中,记u表示具体某个用户,item表示具体某个产品;U表示用户数据集合,且U={u1,u2,···,um},I表示目标产品数据集合,且I={item1,item2,···,itemn}。用户历史行为数据指用户u与产品item产生的交互行为,即用户u与产品item有交互行为则记为1;用户u与产品item无交互行为则记为0。从而可以得到用户与产品的交互矩阵:
Figure BDA0002224857450000111
矩阵Rm×n表示m个用户与n个产品的交互情况,例如Rm×n的第一行表示用户u1与产品item2、item3具有交互行为,与其他产品均无交互行为。矩阵Rm×n的每一行表示一个用户的历史行为。
产品的数据表示为0-1编码的稀疏向量,例如item1表示为item1=[1 0 0 0 … 0…],向量的维度为n。
目标产品的评论文本数据集合记为D,且D={D1,D2,D3}。其中D1、D2、D3分别对应于好评、中评、差评的评论文本。需要说明的是,在本发明实施例中,每类评论文本中包含对应类的前20条评论内容(不足20条的,使用其所有评论)。
在步骤S2中,获取用户历史行为数据、目标产品数据和目标产品的评论文本的隐向量。
在具体实施过程中,将步骤S1获取的数据作为输入,利用FISM模型获取目标产品的隐向量表示,用户的隐向量表示为其所交互产品的产品向量组成的矩阵。例如用户u的历史行为包含item3,item5,item7三个产品,则其表示为H=[H3,H5,H7],其中H3,H5,H7为产品item3,item5,item7对应的隐向量表示。目标产品的评论文本的隐向量表示通过长短期记忆网络(LSTM)得到,其表示为:c=LSTM(D)=LSTM(D1,D2,D3)=[c1,c2,c3]其中,c1,c2,c3分别表示好评、中评、差评的评论文本的隐向量表示。
在步骤S3中,基于用户历史行为数据、目标产品和目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重。具体实施过程如下:
S301、获取目标产品与用户历史交互产品的相似度。通过余弦相似度来表示目标产品与用户交互产品之间的相似度,计算公式如下:
Figure BDA0002224857450000131
其中:
skj表示用户交互产品与目标产品的相似度;Hk表示用户交互的第k个产品itemk的隐向量表示;Ij表示第j个目标产品i的隐向量表示;|| ||表示向量的模。
S302、获取用户历史行为数据的注意力权重。具体为,将用户历史行为数据(即用户与产品产生的交互行为数据)的隐向量作为注意力网络的输入,获取用户历史行为数据的注意力权重,计算公式如下:
akj=softmax(f(Hk,Ij))
其中:akj表示用户历史交互的第k个产品Hk对第j个目标产品Ij的注意力权重;f表示确定Hk与Ij关系的函数;softmax表示归一化指数函数,用于将注意力权重进行归一化。式中f(Hk,Ij)的计算公式如下:
Figure BDA0002224857450000132
式中:hT表示一个可以训练的参数向量;ReLU表示线性整流激活函数(RectifiedLinear Unit);
Figure BDA0002224857450000133
表示乘积运算,
Figure BDA0002224857450000134
表示两个向量对应位置元素相乘;W为可训练的参数;b为偏置,最后得到如下计算公式:
Figure BDA0002224857450000135
S303、获取目标产品评论文本的注意力权重。具体为:将目标产品和产品评论文本的隐向量作为注意力网络的输入,获取目标产品评论文本的注意力权重,计算公式如下:
blk=softmax(g(cl,Ij))
其中:blk表示目标产品评论文本的隐向量cl对目标产品Ij的注意力权重(l=1,2,3分别对应于好评c1、中评c2和差评c3的隐向量);g表示确定cl与Ij关系的函数。式中g(cl,Ij)的计算公式如下:
Figure BDA0002224857450000141
式中:W为可训练的参数;b为偏置。最后得到如下计算公式:
Figure BDA0002224857450000142
式中,g(cl,Ij)t
Figure BDA0002224857450000143
中得到的向量的第t个元素,Y表示向量的维度。
在步骤S4中,基于相似度、用户历史行为数据的注意力权重和目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值。具体实施过程如下:
S401、根据用户的交互产品和目标产品的相似度skj和用户历史行为数据的注意力权重akj,计算基于用户历史行为的用户与目标产品发生交互的预测值,计算公式如下:
Figure BDA0002224857450000144
其中:
Figure BDA0002224857450000145
表示基于用户历史行为的用户与目标产品发生交互的预测值。
S402、根据目标产品评论的注意力权重blk和目标产品的隐向量Ij,计算基于目标产品评论内容的用户与目标产品发生交互的预测值,计算公式如下:
Figure BDA0002224857450000151
其中,
Figure BDA0002224857450000152
表示基于目标产品评论内容的用户与目标产品发生交互的预测值;
Figure BDA0002224857450000153
表示把列向量的目标产品的隐向量Ij转置成行向量。
S403、计算用户u与目标产品Ij发生交互的预测值
Figure BDA0002224857450000154
计算公式如下:
Figure BDA0002224857450000155
其中:
Figure BDA0002224857450000156
表示
Figure BDA0002224857450000157
Figure BDA0002224857450000158
拼接成的向量;W为可训练的参数;b为偏置;σ为sigmoid激活函数,将输出结果映射为0~1之间的概率值,表示用户u与目标产品i发生交互的可能性。
在步骤S5中,基于用户与目标产品发生交互的预测值对用户进行推荐。具体实施过程如下:
计算用户u与目标产品发生交互的预测值,向用户u推荐预测值为前N的目标产品,在本发明实施例,选取预测值为top-10的目标产品推荐给用户。
需要说明的是,在本发明实施例中,将步骤S2~S4视为一个推荐模型,根据推荐模型计算用户与目标产品发生交互的预测值,向用户推荐预测值为top-10的产品。通过反向传播和梯度下降对模型进行优化。目标函数如下所示:
Figure BDA0002224857450000161
需要说明的是,推荐模型调用步骤S1中的数据作为输入。推荐模型将一个用户的数据记录作为一个batch输入模型进行训练。一个batch中包含有正样例和负样例,正样例为用户历史交互过的产品,正样例集合记为R+;负样例为随机抽取的用户未交互过的产品,且每1个正样例对应随机抽取4个负样例,负样例集合记为R-。训练数据一条记录的形式为(用户,目标产品,标签),即(u,item,label)。label取0或1,0表示用户u与产品item无交互行为;1表示用户u与产品item有交互行为。
本发明实施例还提供一种基于注意力机制的产品推荐系统,上述系统包括计算机,上述计算机包括:
至少一个存储单元;
至少一个处理单元;
其中,上述至少一个存储单元中存储有至少一条指令,上述至少一条指令由上述至少一个处理单元加载并执行以实现以下步骤:
S2、获取上述用户历史行为数据的隐向量、上述目标产品数据的隐向量和上述目标产品的评论文本的隐向量;
S3、基于上述用户行为数据的隐向量、上述目标产品隐向量和目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于上述相似度、上述用户历史行为数据的注意力权重和上述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值;
S5、基于上述用户与目标产品发生交互的预测值对用户进行产品推荐。
可理解的是,本发明实施例提供的上述基于注意力机制的产品推荐系统与上述基于注意力机制的产品推荐方法相对应,其有关内容的解释、举例、有益效果等部分可以参考基于注意力机制的产品推荐方法中的相应内容,此处不再赘述。
综上所述,与现有技术相比,具备以下有益效果:
1、本发明实施例通过计算目标产品与用户历史交互的产品的相似度,并与注意力机制相结合,避免了用户所有的历史交互产品对目标产品产生的影响相同的结果,同时结合了目标产品的评论文本数据,考虑到用户是否与某一产品进行交互不仅受到该用户的历史行为影响,即受到该用户的兴趣影响,还受到其他用户对目标产品的评价的影响,在产品推荐过程中,考虑目标产品的评论文本数据,更加贴近现实情况,从而提高了产品的推荐精度。
2、本发明实施例在考虑目标产品的评论数据时,同样引入了注意力机制。考虑到目标产品的好评、中评、差评对用户的影响不同,通过引入注意力机制,给不同等级的评价赋予不同的注意力权重,更加贴近现实情况,从而提高了产品的推荐精度。
需要说明的是,通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (6)

1.一种基于注意力机制的产品推荐方法,其特征在于,所述方法由计算机执行,包括以下步骤:
S1、获取用户历史行为数据、目标产品数据和目标产品的评论文本,所述用户历史行为数据包括用户与产品产生的交互行为数据;
S2、获取所述用户历史行为数据的隐向量、所述目标产品数据的隐向量和所述目标产品的评论文本的隐向量;
S3、基于所述用户历史行为数据的隐向量、所述目标产品的隐向量和所述目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于所述相似度、所述用户历史行为数据的注意力权重和所述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值,包括:
S401、根据所述相似度和所述用户历史行为数据的注意力权重获取基于用户历史行为的用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000011
其中:
skj表示用户的交互产品和目标产品的相似度skj
akj表示用户历史行为数据的注意力权重;
R+表示和用户有交互的所有产品;
Figure FDA0003856290510000021
表示基于用户历史行为的用户与目标产品发生交互的预测;
S402、根据所述目标产品评论文本的注意力权重和所述目标产品的隐向量获取基于目标产品评论内容的用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000022
其中:
Figure FDA0003856290510000023
表示基于目标产品评论内容的用户与目标产品发生交互的预测值;
blk表示基于目标产品评论文本的注意力权重;
S403、根据所述基于用户历史行为的用户与目标产品发生交互的预测值和所述基于目标产品评论内容的用户与目标产品发生交互的预测值获取用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000024
其中:
Figure FDA0003856290510000025
表示用户u与目标产品Ij发生交互的预测值;
Figure FDA0003856290510000026
表示
Figure FDA0003856290510000027
Figure FDA0003856290510000028
拼接成的向量;
W为可训练的参数;
b为偏置;
σ为sigmoid激活函数,将输出结果映射为一个概率值,表示用户u与目标产品i发生交互的可能性;
S5、基于所述用户与目标产品发生交互的预测值对用户进行产品推荐。
2.如权利要求1所述的基于注意力机制的产品推荐方法,其特征在于,获取目标产品与用户历史交互产品的相似度的方法包括:
通过余弦相似度来表示目标产品与用户交互产品之间的相似度:
Figure FDA0003856290510000031
其中:
skj表示用户交互产品与目标产品的相似度;
Hk表示用户交互的第k个产品itemk的隐向量表示;
Ij表示第j个目标产品i的隐向量表示;
|| ||表示向量的模。
3.如权利要求1所述的基于注意力机制的产品推荐方法,其特征在于,获取用户历史行为数据的注意力权重的方法包括:
akj=softmax(f(Hk,Ij))
其中:
akj表示用户历史交互的第k个产品Hk对目标产品Ij的注意力权重;
Hk表示用户交互的第k个产品itemk的隐向量表示;
Ij表示第j个目标产品i的隐向量表示;
f表示确定Hk与Ij关系的函数;
式中f(Hk,Ij)的计算公式如下:
Figure FDA0003856290510000032
式中:
hT表示一个可以训练的参数向量;
ReLU表示线性整流激活函数;
Figure FDA0003856290510000041
表示两个向量对应位置元素相乘;
W为可训练的参数;
b为偏置;
得出:
Figure FDA0003856290510000042
4.如权利要求1所述的基于注意力机制的产品推荐方法,其特征在于,获取目标产品评论文本的注意力权重的方法包括:
blk=softmax(g(cl,Ij))
其中:
blk表示目标产品评论文本的隐向量cl对目标产品Ij的注意力权重,l=1,2,3分别对应于好评c1、中评c2和差评c3的隐向量;
Ij表示第j个目标产品i的隐向量表示;
g表示确定cl与Ij关系的函数,式中g(cl,Ij)的计算公式如下:
Figure FDA0003856290510000043
式中:
W为可训练的参数;
b为偏置;
得出:
Figure FDA0003856290510000051
式中,g(cl,Ij)t
Figure FDA0003856290510000052
中得到的向量的第t个元素,Y表示向量的维度。
5.如权利要求1所述的基于注意力机制的产品推荐方法,其特征在于,基于所述用户与目标产品发生交互的预测值对用户进行产品推荐的方法包括:计算用户u与目标产品发生交互的预测值,向用户u推荐预测值为前N的目标产品。
6.一种基于注意力机制的产品推荐系统,其特征在于,所述系统包括计算机,所述计算机包括:
至少一个存储单元;
至少一个处理单元;
其中,所述至少一个存储单元中存储有至少一条指令,所述至少一条指令由所述至少一个处理单元加载并执行以实现以下步骤:
S1、获取用户历史行为数据、目标产品数据和目标产品的评论文本,所述用户历史行为数据包括用户与产品产生的交互行为数据;
S2、获取所述用户历史行为数据的隐向量、所述目标产品数据的隐向量和所述目标产品的评论文本的隐向量;
S3、基于所述用户历史行为数据的隐向量、所述目标产品的隐向量和所述目标产品评论文本的隐向量,获取目标产品与用户历史交互产品的相似度;基于注意力机制获取用户历史行为数据的注意力权重和目标产品评论文本的注意力权重;
S4、基于所述相似度、所述用户历史行为数据的注意力权重和所述目标产品评论文本的注意力权重获取用户与目标产品发生交互的预测值,包括:
S401、根据所述相似度和所述用户历史行为数据的注意力权重获取基于用户历史行为的用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000061
其中:
skj表示用户的交互产品和目标产品的相似度skj
akj表示用户历史行为数据的注意力权重;
R+表示和用户有交互的所有产品;
Figure FDA0003856290510000062
表示基于用户历史行为的用户与目标产品发生交互的预测;
S402、根据所述目标产品评论文本的注意力权重和所述目标产品的隐向量获取基于目标产品评论内容的用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000063
其中:
Figure FDA0003856290510000064
表示基于目标产品评论内容的用户与目标产品发生交互的预测值;
blk表示基于目标产品评论文本的注意力权重;
S403、根据所述基于用户历史行为的用户与目标产品发生交互的预测值和所述基于目标产品评论内容的用户与目标产品发生交互的预测值获取用户与目标产品发生交互的预测值,计算公式包括:
Figure FDA0003856290510000071
其中:
Figure FDA0003856290510000072
表示用户u与目标产品Ij发生交互的预测值;
Figure FDA0003856290510000073
表示
Figure FDA0003856290510000074
Figure FDA0003856290510000075
拼接成的向量;
W为可训练的参数;
b为偏置;
σ为sigmoid激活函数,将输出结果映射为一个概率值,表示用户u与目标产品i发生交互的可能性;
S5、基于所述用户与目标产品发生交互的预测值对用户进行产品推荐。
CN201910948090.XA 2019-10-08 2019-10-08 基于注意力机制的产品推荐方法和系统 Active CN110827115B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910948090.XA CN110827115B (zh) 2019-10-08 2019-10-08 基于注意力机制的产品推荐方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910948090.XA CN110827115B (zh) 2019-10-08 2019-10-08 基于注意力机制的产品推荐方法和系统

Publications (2)

Publication Number Publication Date
CN110827115A CN110827115A (zh) 2020-02-21
CN110827115B true CN110827115B (zh) 2022-11-04

Family

ID=69548667

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910948090.XA Active CN110827115B (zh) 2019-10-08 2019-10-08 基于注意力机制的产品推荐方法和系统

Country Status (1)

Country Link
CN (1) CN110827115B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111415222B (zh) * 2020-03-19 2023-05-02 苏州大学 一种物品推荐方法、装置、设备及计算机可读存储介质
CN111798262B (zh) * 2020-05-20 2022-09-06 合肥工业大学 用户关注点识别方法、系统和存储介质
CN111815405B (zh) * 2020-06-28 2021-04-16 省广营销集团有限公司 一种基于人工智能的商品购买方法
CN112613708A (zh) * 2020-12-15 2021-04-06 航天信息股份有限公司 一种用于管理税务Ukey设备多级流转的方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241424A (zh) * 2018-08-29 2019-01-18 陕西师范大学 一种推荐方法
CN109299396A (zh) * 2018-11-28 2019-02-01 东北师范大学 融合注意力模型的卷积神经网络协同过滤推荐方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11287894B2 (en) * 2018-03-09 2022-03-29 Adobe Inc. Utilizing a touchpoint attribution attention neural network to identify significant touchpoints and measure touchpoint contribution in multichannel, multi-touch digital content campaigns

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241424A (zh) * 2018-08-29 2019-01-18 陕西师范大学 一种推荐方法
CN109299396A (zh) * 2018-11-28 2019-02-01 东北师范大学 融合注意力模型的卷积神经网络协同过滤推荐方法及系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
"Multi-perspective neural architecture for recommendation system";HanXiao等;《Neural Networks》;20190627;第118卷;第282-288页 *
"基于多维相似度的利基产品推荐方法";刘业政;《计算机工程》;20180331;第44卷(第3期);第195-200页 *
"融合注意力机制的深度协同过滤推荐算法";王永贵等;《计算机工程与应用》;20190701;第55卷(第13期);第8-14页 *
契合用户兴趣变化的评论文本深度建模;黄文明等;《计算机工程与设计》;20190531;第40卷(第05期);第272-279页 *

Also Published As

Publication number Publication date
CN110827115A (zh) 2020-02-21

Similar Documents

Publication Publication Date Title
US11893071B2 (en) Content recommendation method and apparatus, electronic device, and storage medium
CN110827115B (zh) 基于注意力机制的产品推荐方法和系统
Bansal et al. Ask the gru: Multi-task learning for deep text recommendations
CN112231569B (zh) 新闻推荐方法、装置、计算机设备及存储介质
Guo et al. Collaborative filtering recommendation based on trust and emotion
Mitra et al. Helpfulness of online consumer reviews: A multi-perspective approach
CN103164463B (zh) 推荐标签的方法和装置
Chung et al. A general consumer preference model for experience products: application to internet recommendation services
CN112163165A (zh) 信息推荐方法、装置、设备及计算机可读存储介质
CN111553754A (zh) 行为预测系统的更新方法及装置
JP2013517563A (ja) ユーザ通信の解析システムおよび方法
Shen et al. A voice of the customer real-time strategy: An integrated quality function deployment approach
Capuano et al. Attention-based hierarchical recurrent neural networks for MOOC forum posts analysis
Choi et al. Residual-based graph convolutional network for emotion recognition in conversation for smart Internet of Things
CN112256866A (zh) 一种基于深度学习的文本细粒度情感分析方法
WO2019242453A1 (zh) 信息处理方法及装置、存储介质、电子装置
CN116010696A (zh) 融合知识图谱和用户长短期兴趣的新闻推荐方法、系统及介质
Meddeb et al. Personalized smart learning recommendation system for arabic users in smart campus
Kim et al. The method for generating recommended candidates through prediction of multi-criteria ratings using cnn-bilstm
Fouladfar et al. Predicting the helpfulness score of product reviews using an evidential score fusion method
Latha et al. Product recommendation using enhanced convolutional neural network for e-commerce platform
Chou et al. Rating prediction based on merge-CNN and concise attention review mining
Berkani et al. S-SNHF: sentiment based social neural hybrid filtering
Elzeheiry et al. Sentiment analysis for e-commerce product reviews: Current trends and future directions
Abu-Salih et al. Natural language inference model for customer advocacy detection in online customer engagement

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant