CN111737573A - 资源推荐方法、装置、设备及存储介质 - Google Patents
资源推荐方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111737573A CN111737573A CN202010554008.8A CN202010554008A CN111737573A CN 111737573 A CN111737573 A CN 111737573A CN 202010554008 A CN202010554008 A CN 202010554008A CN 111737573 A CN111737573 A CN 111737573A
- Authority
- CN
- China
- Prior art keywords
- resource
- self
- attention
- network
- behavior
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012549 training Methods 0.000 claims abstract description 52
- 230000007246 mechanism Effects 0.000 claims abstract description 30
- 230000006399 behavior Effects 0.000 claims description 255
- 238000012545 processing Methods 0.000 claims description 127
- 239000013598 vector Substances 0.000 claims description 117
- 230000015654 memory Effects 0.000 claims description 16
- 230000006870 function Effects 0.000 description 18
- 230000008569 process Effects 0.000 description 16
- 230000000694 effects Effects 0.000 description 15
- 239000011159 matrix material Substances 0.000 description 12
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005065 mining Methods 0.000 description 2
- 241000820057 Ithone Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000009849 deactivation Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4038—Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
Abstract
本申请实施例公开了一种资源推荐方法、推荐模型的训练方法、装置及存储介质,属于推荐技术领域。所述方法包括:获取目标资源的资源相关特征,资源相关特征包括资源标识、资源属性信息和资源环境信息;基于资源相关特征,通过资源推荐模型,确定目标资源的资源推荐概率,资源推荐概率用于指示用户接受资源推荐的可能性,资源推荐模型为采用自注意力机制的网络模型;基于资源推荐概率进行资源推荐。本申请实施例在进行资源推荐时,融合了资源属性信息和资源环境信息,使得资源推荐模型结合这些信息基于自注意力机制能够更加完整地提取出资源信息,进而提高了预测准确度以及资源推荐的有效性。
Description
技术领域
本申请涉及推荐技术领域,特别涉及一种资源推荐方法、装置、设备及存储介质。
背景技术
随着互联网技术的发展,目前的视频播放平台、电商平台或新闻平台等网络资源平台都承载有海量的网络资源,而为了满足用户的快速浏览需求,网络资源平台需要从海量数据中选择合适的网络资源推荐给用户,网络资源的推荐算法是各个网络资源平台的核心技术能力。
发明内容
本申请实施例提供了一种资源推荐方法、装置、设备及存储介质,可以用于解决相关技术中存在的资源推荐的有效性较低的问题。所述技术方案如下:
一方面,提供了一种资源推荐方法,所述方法包括:
获取目标资源的资源相关特征,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述目标资源为任一网络资源;
基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,所述资源推荐概率用于指示用户接受资源推荐的可能性,所述资源推荐模型用于预测任一资源的资源推荐概率,所述资源推荐模型为采用自注意力机制的网络模型;
基于所述资源推荐概率进行资源推荐。
可选地,所述资源推荐模型包括嵌入层和网络层,所述网络层包括自注意力网络;
所述基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,包括:
通过所述嵌入层,对所述资源相关特征进行词嵌入处理,得到所述资源相关特征对应的特征向量;
将所述特征向量作为所述网络层的输入,通过所述网络层对所述特征向量进行处理,得到所述目标资源的资源推荐概率。
可选地,所述对所述资源相关特征进行特征处理,得到所述资源相关特征对应的特征向量,包括:
对于所述资源相关特征中的类别特征,对所述类别特征进行词嵌入处理,得到所述类别特征的词嵌入向量;
对于所述资源相关特征中的数值特征,对所述数值特征进行离散化处理,对离散化处理后的数值特征进行词嵌入处理,得到所述数值特征的词嵌入向量;
基于所述类别特征的词嵌入向量和所述数值特征的词嵌入向量,确定所述特征向量。
可选地,所述网络层包括m个自注意力层、全连接层和预测层,所述m为正整数;
所述通过所述网络层对所述特征向量进行处理,包括:
通过所述m个自注意力层,对所述特征向量进行处理,得到第一输出数据;
将所述第一输出数据作为所述全连接层的输入,通过所述全连接层对所述第一输出数据进行处理,得到第二输出数据;
将所述第二输出数据作为所述预测层的输入,通过所述预测层对所述第二输出数据进行处理,得到所述目标资源的资源推荐概率。
可选地,所述m个自注意力层串行连接,且每个自注意力层包括自注意力网络和前馈网络;
所述通过所述m个自注意力层,对所述特征向量进行处理,包括:
对于所述m个自注意力层中的第一自注意力层,通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,得到第三输出数据;
其中,所述第一自注意力层为所述m个自注意力层中的任一个;若所述第一自注意力层为所述m个自注意力层中的第一个自注意力层,则所述输入数据为所述特征向量;若所述第一自注意力层为所述第一个自注意力层之后的任一自注意力层,则所述输入数据为所述第一自注意力层的前一个自注意力层的输出数据;
将所述第三输出数据作为所述第一自注意力层中的第一前馈网络的输入,通过所述第一前馈网络对所述第三输出数据进行处理,得到所述第一自注意力层的输出数据。
可选地,所述第一自注意力网络为多头自注意力网络,所述多头自注意力网络包括多个单头自注意力网络和拼接层,且所述多个单头自注意力网络的权重系数不同;
所述通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,包括:
通过所述多个单头自注意力网络分别对所述输入数据进行处理,得到与所述多个单头自注意力网络一一对应的多个自注意力向量;
通过所述拼接层,对所述多个自注意力向量进行拼接,基于拼接结果,确定所述第三输出数据。
可选地,所述基于所述资源推荐概率进行资源推荐,包括:
获取多个网络资源的资源推荐概率,所述多个网络资源包括所述目标资源;
按照资源推荐概率从大到小的顺序,从所述多个网络资源中选择排序在前的N个网络资源,将选择的网络资源作为待推荐的网络资源。
一方面,提供了一种推荐模型的序列方法,所述方法包括:
获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,所述多个用户行为包括至少一个资源行为;
其中,所述资源行为是指在网络资源上产生的用户行为,所述资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及所述当前资源行为的行为标签,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述行为标签用于指示通过所述当前资源行为是否接受了资源推荐;
基于所述多个用户行为序列,对资源推荐模型进行训练,所述资源推荐模型为采用自注意力机制的网络模型;
在满足训练结束条件时,结束所述资源推荐模型的训练。
可选地,所述资源行为的行为信息还包括序列位置信息,所述序列位置信息用于指示当前资源行为在所处用户行为序列中的序列位置。
一方面,提供了一种资源推荐装置,所述装置包括:
获取模块,用于获取目标资源的资源相关特征,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述目标资源为任一网络资源;
确定模块,用于基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,所述资源推荐概率用于指示用户接受资源推荐的可能性,所述资源推荐模型用于预测任一资源的资源推荐概率,所述资源推荐模型为采用自注意力机制的网络模型;
推荐模块,用于基于所述资源推荐概率进行资源推荐。
可选地,所述资源推荐模型包括嵌入层和网络层,所述网络层包括自注意力网络;
所述确定模块包括:
第一处理单元,用于通过所述嵌入层,对所述资源相关特征进行词嵌入处理,得到所述资源相关特征对应的特征向量;
第二处理单元,用于将所述特征向量作为所述网络层的输入,通过所述网络层对所述特征向量进行处理,得到所述目标资源的资源推荐概率。
可选地,所述第一处理单元用于:
对于所述资源相关特征中的类别特征,对所述类别特征进行词嵌入处理,得到所述类别特征的词嵌入向量;
对于所述资源相关特征中的数值特征,对所述数值特征进行离散化处理,对离散化处理后的数值特征进行词嵌入处理,得到所述数值特征的词嵌入向量;
基于所述类别特征的词嵌入向量和所述数值特征的词嵌入向量,确定所述特征向量。
可选地,所述网络层包括m个自注意力层、全连接层和预测层,所述m为正整数;
所述第二处理单元用于:
通过所述m个自注意力层,对所述特征向量进行处理,得到第一输出数据;
将所述第一输出数据作为所述全连接层的输入,通过所述全连接层对所述第一输出数据进行处理,得到第二输出数据;
将所述第二输出数据作为所述预测层的输入,通过所述预测层对所述第二输出数据进行处理,得到所述目标资源的资源推荐概率。
可选地,所述m个自注意力层串行连接,且每个自注意力层包括自注意力网络和前馈网络;
所述所述第二处理单元用于:
对于所述m个自注意力层中的第一自注意力层,通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,得到第三输出数据;
其中,所述第一自注意力层为所述m个自注意力层中的任一个;若所述第一自注意力层为所述m个自注意力层中的第一个自注意力层,则所述输入数据为所述特征向量;若所述第一自注意力层为所述第一个自注意力层之后的任一自注意力层,则所述输入数据为所述第一自注意力层的前一个自注意力层的输出数据;
将所述第三输出数据作为所述第一自注意力层中的第一前馈网络的输入,通过所述第一前馈网络对所述第三输出数据进行处理,得到所述第一自注意力层的输出数据。
可选地,所述第一自注意力网络为多头自注意力网络,所述多头自注意力网络包括多个单头自注意力网络和拼接层,且所述多个单头自注意力网络的权重系数不同;
所述所述第二处理单元用于:
通过所述多个单头自注意力网络分别对所述输入数据进行处理,得到与所述多个单头自注意力网络一一对应的多个自注意力向量;
通过所述拼接层,对所述多个自注意力向量进行拼接,基于拼接结果,确定所述第三输出数据。
可选地,所述推荐模型用于:
获取多个网络资源的资源推荐概率,所述多个网络资源包括所述目标资源;
按照资源推荐概率从大到小的顺序,从所述多个网络资源中选择排序在前的N个网络资源,将选择的网络资源作为待推荐的网络资源。
一方面,提供了一种推荐模型的训练装置,所述装置包括:
获取模块,用于获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,所述多个用户行为包括至少一个资源行为;
其中,所述资源行为是指在网络资源上产生的用户行为,所述资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及所述当前资源行为的行为标签,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述行为标签用于指示通过所述当前资源行为是否接受了资源推荐;
训练模型,用于基于所述多个用户行为序列,对资源推荐模型进行训练,所述资源推荐模型为采用自注意力机制的网络模型;
结束模块,用于在满足训练结束条件时,结束所述资源推荐模型的训练。
可选地,所述资源行为的行为信息还包括序列位置信息,所述序列位置信息用于指示当前资源行为在所处用户行为序列中的序列位置。
一方面,提供了一种电子设备,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行上述任一种资源推荐方法。
一方面,提供了一种电子设备,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行上述任一种推荐模型的训练方法。
一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,所述指令被处理器执行时实现上述任一种资源推荐方法或推荐模型的训练方法。
一方面,还提供了一种计算机程序产品,当所述计算机程序产品被执行时,用于实现上述任一种资源推荐方法或推荐模型的训练方法。
本申请实施例提供的技术方案带来的有益效果是:
本申请实施例中,在进行资源推荐时,不仅考虑了资源的资源标识,还融合了资源属性信息以及所处资源环境的环境信息,使得资源推荐模型结合这些信息基于自注意力机制能够更加完整地提取出资源信息,进而提高预测资源推荐概率的准确性。而且,在基于这种方式预测出的资源推荐概率进行资源推荐时,所推荐的资源被用户接受的可能性更高,提高了资源推荐的有效性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种资源推荐模型的训练方法流程图;
图2是本申请实施例提供的一种资源推荐模型的结构示意图;
图3是本申请实施例提供的一种资源推荐方法的流程图;
图4是本申请实施例提供的一种资源推荐装置的框图;
图5是申请实施例提供的一种推荐模型的训练装置框图;
图6是本申请实施例提供的一种终端的结构框图;
图7是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
在对本申请实施例进行详细地解释说明之前,先对本申请实施例的应用场景予以说明。
本申请实施例应用于资源推荐场景中,所推荐的网络资源可以为多媒体资源、新闻或商品等,多媒体资源可以为视频或音频等,本申请实施例对待推荐的网络资源不作限定。
本申请实施例提供的资源推荐方法应用于电子设备中,该电子设备可以为终端或服务器等。其中,终端可以为手机、平板电脑或计算机等。服务器可以为网络资源平台的后台服务器或其他服务器。
另外,在进行资源推荐之前,还可以先基于用户行为序列进行模型训练,来构建资源推荐模型。随着互联网的技术的快速发展,互联网用户的增加及用户在互联网上行为数据的积累,基于海量的用户历史行为的挖掘是一个热门课题。用户行为序列可以看做是一条按时间排序的行为序列,并且用户的当前行为是受到之前历史行为的影响的。因此在推荐场景中,可以对用户行为序列进行挖掘,通过建模来刻画用户和网络资源之间的复杂的交互序列。
本申请实施例提供的资源推荐模型的训练方法应用于电子设备中,该电子设备可以为终端或服务器等。其中,终端可以为手机、平板电脑或计算机等。服务器可以为用于进行模型训练的服务器或其他服务器。
为了便于理解,先对资源推荐模型的模型训练过程进行详细介绍。
图1是本申请实施例提供的一种资源推荐模型的训练方法流程图,如图1所示,该方法包括如下步骤:
步骤101:获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,多个用户行为包括至少一个资源行为,资源行为是指在网络资源上产生的用户行为,资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及当前资源行为的行为标签,资源相关特征包括资源标识、资源属性信息和资源环境信息。
需要说明的是,用户行为序列为用户在网络资源平台上进行用户操作所产生的行为序列,可以为用户的历史行为序列。这多个用户行为序列可以为同一用户的用户行为序列,也可以为不同用户的用户行为序列。
其中,每个用户行为序列包括多个用户行为的行为信息,这多个用户行为按照时间从早到晚的顺序进行排序。也即是,每个用户行为序列可以看作是一条按照时间排序的行为序列。用户行为序列中的用户行为可以为用户在网络资源平台上进行的用户行为。
其中,每个用户行为序列中的多个用户行为可以包括至少一个资源行为,资源行为是指在网络资源上产生的用户行为,如对网络资源的点击行为、浏览行为、收藏行为或购买行为等。资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及当前资源行为的行为标签,资源相关特征包括资源标识、资源属性信息和资源环境信息,行为标签用于指示通过当前资源行为是否接受了资源推荐。
其中,网络资源的资源标识可以为网络资源的名称或ID等。比如,若网络资源为商品,则网络资源的资源标识可以为商品ID。
其中,网络资源的资源属性信息用于指示网络资源的属性,可以包括资源类别、资源所属机构、资源发布时间、资源标签和资源描述信息中的至少一种,当然,也可以包括其他资源属性信息,本申请实施例对此不作限定。资源描述信息用于描述对应资源,可以包括资源的形状、大小或颜色等。比如,若网络资源为商品,则网络资源的资源数据信息可以包括商品的所属类别的类别ID和商品所属商家的商家ID等。
其中,网络资源的资源环境信息用于指示网络资源所处的资源环境,可以包括网络资源的推荐位置和激励活动信息中的至少一种,当然也可以包括其他资源环境。激励活动信息可以用于指示当前网络资源是否具有激励活动,当具有激励活动时,也可以包括具体的激励活动内容信息等。其中,激励活动用于激励用户浏览对应网络资源,可以为满减或赠送礼品等优惠活动。比如,若网络资源为商品,则网络资源的资源环境信息可以包括商品的推荐位置和商品是否具有优惠活动等信息。
需要说明的是,为了便于进行模型训练,资源行为的行为信息还包括当前资源行为对应的行为标签,该行为标签用于指示用户通过当前资源行为是否接受了当前网络资源的资源推荐。比如,若行为标签为1,则表示用户接受了资源推荐;若行为标签为0,则表示用户未接受资源推荐。
示例的,若资源行为是对所涉及网络资源的点击行为、浏览行为、收藏行为、购买行为或好评行为等,则该资源行为的行为标签用于指示用户通过当前资源行为接受了资源推荐,比如,该资源行为的行为标签为1。若资源行为是对所涉及网络资源的删除行为、拉黑行为或差评行为等,则该资源行为的行为标签用于指示用户通过当前资源行为未接受资源推荐,比如,该资源行为的行为标签为0。
另外,资源行为的行为信息还可以包括当前资源行为的行为标识,该行为标识用于唯一标识当前资源行为。比如,行为标识可以为行为名称或行为ID等,本申请实施例对此不作限定。
作为一个示例,资源行为的行为信息还可以包括序列位置信息,序列位置信息用于指示当前资源行为在所处用户行为序列中的序列位置。示例的,序列位置信息可以为当前资源行为在所处用户行为序列中的排序序号。
本申请实施例中,通过挖掘用户行为序列中用户行为涉及的网络资源的资源属性信息、资源环境信息和序列位置信息,便于后续基于挖掘出的序列信息,在构建资源推荐模型时,深度刻画用户行为与网络资源之间的复杂交互关系,为构建能够准确预测资源推荐概率的资源推荐模型提供基础。
作为一个示例,可以获取多个样本用户的历史行为序列,对多个样本用户的历史行为序列进行处理,得到多个用户行为序列。其中,该多个用户行为序列的序列长度相同,比如,均为预设长度N,N为正整数。
由于不同样本用户的历史行为序列可能长短不一,为了方便建模,可以对多个样本用户的历史行为序列进行处理,得到序列长度相同的多个用户行为序列。比如,对于多个样本用户的历史行为序列中的每个样本用户的历史行为序列,若该历史行为序列的序列长度大于N,则从该历史行为序列中提取最近的N个行为序列,得到一个用户行为序列;若该历史行为序列的序列长度小于N,则基于N对该历史行为序列进行补零处理,得到序列长度为N的用户行为序列。
需要说明的是,在对历史行为序列进行补零处理时,可以对历史行为序列的左侧进行补零处理,也可以对历史行为序列的右侧进行补零处理,本申请实施例对此不作限定。
步骤102:基于多个用户行为序列,对资源推荐模型进行训练,该资源推荐模型为采用自注意力机制的网络模型。
也即是,本申请实施例中,可以将多个用户行为序列作为模型训练样本,来对资源推荐模型进行训练,使得模型在训练过程中,可以采用自注意力机制,充分挖掘用户行为序列中的用户行为与网络资源之间的交互关系,学习到用户行为与涉及的网络资源的资源属性信息和资源环境信息之间的关系,便于后续对资源推荐概率进行准确预测。
在进行模型训练时,可以将多个用户行为序列作为资源推荐模型的输入,通过资源推荐模型确定多个用户行为序列中所涉及的各个网络资源的资源推荐概率,基于所涉及的各个网络资源的资源推荐概率和对应的行为标签确定预测误差,基于预测误差,对资源推荐模型的模型参数进行调整。
其中,资源推荐概率用于指示用户接受对应网络资源的资源推荐的可能性。
作为一个示例,在进行模型训练时,可以基于所涉及的各个网络资源的资源推荐概率和对应的行为标签,通过损失函数确定损失值,基于损失值对资源推荐模型的模型参数进行调整。
其中,该损失函数可以为交叉熵损失函数或其他损失函数。比如,该损失函数可以如以下公式(1)所示:
其中,L为损失函数的损失值;N为预设参数;D为训练样本个数;y为行为标签,且y∈(0,1);x为涉及的网络资源,P(x)为涉及到网络资源的资源推荐概率。
作为一个示例,如图2所示,该资源推荐模型可以包括嵌入层和网络层,且网络层包括自注意力网络。对于多个用户行为序列中的任一用户行为的行为信息,嵌入层用于对该行为信息中的网络资源的资源相关特征进行词嵌入处理,得到资源相关特征对应的特征向量。网络层用于对嵌入层输出的特征向量进行处理,得到该网络资源的资源推荐概率。
作为一个示例,在通过网络层得到网络资源的资源推荐概率之后,可以通过损失函数来确定资源推荐模型的损失值,基于损失值来对资源推荐模型的模型参数进行调整。
嵌入层
由于网络资源的资源相关特征一般包括类别特征和数值特征这两大类特征,因此,作为一个示例,通过嵌入层对网络资源的资源相关特征进行词嵌入处理的操作可以包括如下步骤:
1)对于资源相关特征中的类别特征,对该类别特征进行词嵌入处理,得到类别特征的词嵌入向量。
其中,该类别特征可以为资源标识,以及资源属性信息中的资源类别、资源标签、资源所属机构等。对于类别特征,可以通过类别特征对应的类别嵌入矩阵,对该类别特征进行词嵌入处理,得到类别特征的词嵌入向量。
比如,若网络资源为商品,则对于商品ID,可以预先为商品ID创建对应的类别嵌入矩阵,通过对应的类别嵌入矩阵,确定商品ID的词嵌入向量。比如,商品ID对应的类别嵌入矩阵为M∈Rl×d,其中,d为嵌入层隐向量的长度,l为商品总数目。则商品i的词嵌入向量为mi∈Rd。
2)对于资源相关特征中的数值特征,先对该数值特征进行离散化处理,再对离散化处理后的数值特征进行词嵌入处理,得到数值特征的词嵌入向量。
通过对数值特征进行离散化处理,可以将数值特征变换为类别特征。也即是,对于数值特征,先通过对数值特征进行离散化处理,将数值特征变换为类别特征,再对类别特征进行词嵌入处理。
3)基于类别特征的词嵌入向量和数值特征的词嵌入向量,确定特征向量。
作为一个示例,可以将类别特征的词嵌入向量和数值特征的词嵌入向量进行拼接,得到资源相关特征对应的特征向量。
作为另一个示例,若资源相关特征还包括序列位置信息,还可以对序列位置信息进行词嵌入处理,得到序列位置信息对应的词嵌入向量,然后将类别特征的词嵌入向量、数值特征的词嵌入向量以及序列位置信息对应的词嵌入向量进行拼接,得到资源相关特征对应的特征向量。
对于位置序列信息,可以预先为序列位置信息创建对应的位置嵌入矩阵,通过类别嵌入矩阵,对序列位置信息进行词嵌入处理,得到序列位置信息对应的词嵌入向量。
比如,资源相关特征对应的特征向量可以为M+P,其中,M为资源相关特征中的特征(包括类别特征和数值特征)对应的词嵌入向量,P为资源相关特征中的位置序列信息对应的词嵌入向量。
作为一个示例,通过嵌入层对某个用户行为序列进行词嵌入处理后,嵌入层的输出数据可以为如下特征向量矩阵:
其中,为用户行为序列对应的特征向量矩阵,M为用户行为序列包括的各个用户行为的行为信息中的特征(包括类别特征和数值特征)对应的词嵌入向量,P为用户行为序列包括的各个用户行为的行为信息中的位置序列信息对应的词嵌入向量。
网络层
其中,资源推荐模型为采用自注意力机制的网络模型。如图2所示,资源推荐模型的网络层可以包括m个自注意力层、全连接层和预测层,m为正整数。通过使用m个自注意力层,可以学习到更深层次的序列关系。
作为一个示例,通过网络层对特征向量进行处理的操作可以包括如下步骤:
1)通过m个自注意力层,对特征向量进行处理,得到第一输出数据。
其中,m个自注意力层可以串行连接,每个自注意力层包括一个自注意力网络,这m个自注意力层可以对第一输出数据串行处理,得到第一输出数据。
作为一个示例,每个自注意力层包括自注意力网络和前馈网络,通过m个自注意力层,对所述特征向量进行处理的操作可以包括如下步骤a)-b):
a)对于m个自注意力层中的第一自注意力层,通过第一自注意力网络对第一自注意力层的输入数据进行处理,得到第三输出数据。
其中,第一自注意力层为m个自注意力层中的任一个,第一自注意力网络为第一自注意力层中的自注意力网络。而且,若第一自注意力层为m个自注意力层中的第一个自注意力层,则该输入数据为嵌入层输出的特征向量;若第一自注意力层为第一个自注意力层之后的任一自注意力层,则该输入数据为所述第一自注意力层的前一个自注意力层的输出数据。
需要说明的是,第一自注意力网络可以为单头自注意力网络,也可以为多头自注意力网络,本申请实施例对此不作限定。
作为一个示例,第一自注意力网络为多头自注意力网络,多头自注意力网络包括多个单头自注意力网络和拼接层,且多个单头自注意力网络的权重系数不同。通过第一自注意力层中的第一自注意力网络对第一自注意力层的输入数据进行处理的操作可以包括:通过多个单头自注意力网络分别对输入数据进行处理,得到与多个单头自注意力网络一一对应的多个自注意力向量;通过拼接层,对多个自注意力向量进行拼接,基于拼接结果,确定第三输出数据。
示例的,可以将拼接结果确定为第三输出数据,也可以对拼接结果进行变换,得到第三输出数据,本申请实施例对此不作限定。
需要说明的是,通过使用多头自注意力网络进行处理,可以使得资源推荐模型能够共同关注来自不同位置的不同表示子空间的信息。
比如,第一自注意力网络可以采用以下公式(3)和(4)对输入数据进行处理,得到第三输出数据:
S=SA(E)=Concat(head1,head2,...,headh)WH (3)
headi=Attention(EWQ,EWK,EWV) (4)
其中,S为第三输出数据,E为输入数据,h为多个单头自注意力网络的数目,headi为多个单头自注意力网络中第i个单头自注意力网络对应的自注意力向量,Concat(head1,head2,...,headh)为多个单头自注意力网络分别对应的多个自注意力向量的拼接结果,WH为变换系数为拼接结果的变换系数,Attention()为自注意力函数,比如可以为缩放点积注意力函数等,WQ、WK、WV分别为自注意力网络中查询(Queries)、键(Keys)和值(Values)对应的权重系数。
需要说明的是,自注意力网络的输入由查询、键和值组成,输出是基于查询与键的相似性的值的加权和得到。本申请实施例中,查询、键和值可以相同。
b)将第三输出数据作为第一自注意力层中的第一前馈网络的输入,通过第一前馈网络对第三输出数据进行处理,得到第一自注意力层的输出数据。
前馈网络也称前馈神经网络,在自注意力层中增加前馈网络,使用前馈对自注意力网络的输出数据进行处理,可以增强模型的非线性性,并考虑到不同隐含维度的交叉学习。
比如,第一前馈网络可以采用以下公式(5)对第三输出数据进行处理,得到第一自注意力层的输出数据:
F=FFN(S) (5)
其中,F为第一自注意力层的输出数据,S为第三输出数据,FFN为前馈神经网络算法。
另外,为了避免过拟合和多层交叉学习,第一自注意力层还可以采用Dropout(随机失活)、Leaky ReLU(Leaky Rectified Linear Unit,泄露的修正线性单元)、Layer Norm(层范数)等技术。
作为一个示例,对于m个自注意力层中的第b个自注意力层,第b个自注意力层中的自注意力网络和前馈网络可以采用如下公式进行处理:
其中,F(b-1)为第b-1个自注意力层中的前馈网络的输出数据,也为第b个自注意力层中的自注意力网络的输入数据;Sb为第b个自注意力层中的自注意力网络的输出数据,也为第b个自注意力层中的前馈网络的输入数据;Fb为第b个自注意力层中的前馈网络的输出数据。
2)将第一输出数据作为全连接层的输入,通过全连接层对第一输出数据进行处理,得到第二输出数据。
通过全连接层对第一输出数据进行处理,可以进一步进行交叉学习。
需要说明的是,本申请实施例所述的全连接层可以为1个或多个全连接层,比如,请参考图2,图2包括2个全连接层。另外,每个全连接层采用的激活函数可以为ReLU或LeakyReLU等。
3)将第二输出数据作为预测层的输入,通过预测层对第二输出数据进行处理,得到网络资源的资源推荐概率。
预测层用于基于第二输出数据,预测网络资源的资源推荐概率。网络资源的资源推荐概率用于指示用户接受该网络资源的资源推荐的可能性。比如,网络资源的资源推荐概率可以为用户点击网络资源的概率、浏览网络资源的概率、收藏网络资源的概率或购买网络资源的概率等。
步骤103:在满足训练结束条件时,结束该资源推荐模型的训练。
本申请实施例中,通过对用户行为序列进行充分挖掘,挖掘出用户行为序列中的用户行为涉及的网络资源的资源属性信息和资源环境信息等序列信息,基于这些序列信息来训练采用自注意力机制的资源推荐模型,可以在训练过程中基于自注意力机制对用户行为序列进行建模,且在建模时除了考虑资源标识,还融合了资源属性信息和资源环境信息,这些信息可以让自注意力机制提取更加完整的序列模式,提高了资源推荐模型的预测准确性,进而提高了资源推荐的准确性。另外,由于考虑了资源环境信息,因此能够使得资源推荐模型的时效性更强。
接下来,对本申请实施例提供的资源推荐方法进行详细介绍。
图3是本申请实施例提供的一种资源推荐方法的流程图,如图3所示,该方法包括如下步骤:
步骤301:获取目标资源的资源相关特征,资源相关特征包括资源标识、资源属性信息和资源环境信息,目标资源为任一网络资源。
需要说明的是,目标资源可以为多媒体资源、新闻或商品等,多媒体资源可以为视频或音频等,本申请实施例对目标资源的资源形式不作限定。另外,目标资源可以为当前展示的任一网络资源,也可以为资源数据库中的任一网络资源,本申请实施例对此也不作限定。
其中,目标资源的资源标识可以为网络资源的名称或ID等。比如,若目标资源为商品,则目标资源的资源标识可以为商品ID。
其中,目标资源的资源属性信息用于指示目标资源的属性,可以包括资源类别、资源所属机构、资源发布时间、资源标签和资源描述信息中的至少一种,当然,也可以包括其他资源属性信息,本申请实施例对此不作限定。资源描述信息用于描述目标资源,可以包括目标资源的形状、大小或颜色等。比如,若目标资源为商品,则目标资源的资源数据信息可以包括商品的所属类别的类别ID和商品所属商家的商家ID等。
其中,目标资源的资源环境信息用于指示目标资源所处的资源环境,可以包括目标资源的资源位置和激励活动信息中的至少一种,当然也可以包括其他资源环境。激励活动信息可以用于指示目标资源是否具有激励活动,当具有激励活动时,也可以包括具体的激励活动内容信息等。其中,激励活动用于激励用户浏览目标资源,可以为满减或赠送礼品等优惠活动。比如,若目标资源为商品,则目标资源的资源环境信息可以包括商品的显示位置和商品是否具有优惠活动等信息。
作为另一个示例,目标资源的资源相关特征还可以包括序列位置信息。为了便于区分,可以将模型训练过程中的序列位置信息称为第一序列位置信息,将资源推荐过程中目标资源的资源相关特征中的序列位置信息称为第二序列位置信息。
其中,第二序列位置信息用于指示当前用户的用户行为序列中最近一次产生的用户行为在用户行为序列中的序列位置,也可以为最近一次产生的用户行为的下一个用户行为在用户行为序列中的序列位置。其中,最近一次产生的用户行为的下一个用户行为在用户行为序列中的序列位置用于预估当前用户对目标资源产生的用户行为在用户行为序列中的序列位置。
步骤302:基于资源相关特征,通过资源推荐模型,确定目标资源的资源推荐概率,资源推荐概率用于指示用户接受资源推荐的可能性,资源推荐模型用于预测任一资源的资源推荐概率,且资源推荐模型为采用自注意力机制的网络模型。
作为一个示例,资源推荐模型包括嵌入层和网络层,且网络层包括自注意力网络。相应地,基于资源相关特征,通过资源推荐模型,确定目标资源的资源推荐概率的操作可以包括:通过嵌入层,对资源相关特征进行词嵌入处理,得到资源相关特征对应的特征向量;将特征向量作为网络层的输入,通过网络层对特征向量进行处理,得到目标资源的资源推荐概率。
嵌入层
由于目标资源的资源相关特征一般包括类别特征和数值特征这两大类特征,因此,作为一个示例,通过嵌入层对目标资源的资源相关特征进行词嵌入处理的操作可以包括如下步骤:
1)对于资源相关特征中的类别特征,对该类别特征进行词嵌入处理,得到类别特征的词嵌入向量。
其中,该类别特征可以为资源标识,以及资源属性信息中的资源类别、资源标签、资源所属机构等。对于类别特征,可以通过类别特征对应的类别嵌入矩阵,对该类别特征进行词嵌入处理,得到类别特征的词嵌入向量。
比如,若目标资源为商品,则对于商品ID,可以预先为商品ID创建对应的类别嵌入矩阵,通过对应的类别嵌入矩阵,确定商品ID的词嵌入向量。
2)对于资源相关特征中的数值特征,先对该数值特征进行离散化处理,再对离散化处理后的数值特征进行词嵌入处理,得到数值特征的词嵌入向量。
通过对数值特征进行离散化处理,可以将数值特征变换为类别特征。也即是,对于数值特征,先通过对数值特征进行离散化处理,将数值特征变换为类别特征,再对类别特征进行词嵌入处理。
3)基于类别特征的词嵌入向量和数值特征的词嵌入向量,确定特征向量。
作为一个示例,可以将类别特征的词嵌入向量和数值特征的词嵌入向量进行拼接,得到资源相关特征对应的特征向量。
作为另一个示例,若资源相关特征还包括序列位置信息,还可以对序列位置信息进行词嵌入处理,得到序列位置信息对应的词嵌入向量,然后将类别特征的词嵌入向量、数值特征的词嵌入向量以及序列位置信息对应的词嵌入向量进行拼接,得到资源相关特征对应的特征向量。
对于位置序列信息,可以预先为序列位置信息创建对应的位置嵌入矩阵,通过类别嵌入矩阵,对序列位置信息进行词嵌入处理,得到序列位置信息对应的词嵌入向量。
比如,资源相关特征对应的特征向量可以为M+P,其中,M为资源相关特征中的特征(包括类别特征和数值特征)对应的词嵌入向量,P为资源相关特征中的位置序列信息对应的词嵌入向量。
网络层
其中,资源推荐模型为采用自注意力机制的网络模型。该资源推荐模型的网络层可以包括m个自注意力层、全连接层和预测层,m为正整数。相应地,通过网络层对特征向量进行处理的操作可以包括如下步骤:
1)通过m个自注意力层,对特征向量进行处理,得到第一输出数据。
其中,m个自注意力层可以串行连接,每个自注意力层包括一个自注意力网络,这m个自注意力层可以对第一输出数据串行处理,得到第一输出数据。
作为一个示例,每个自注意力层包括自注意力网络和前馈网络,通过m个自注意力层,对所述特征向量进行处理的操作可以包括如下步骤a)-b):
a)对于m个自注意力层中的第一自注意力层,通过第一自注意力网络对第一自注意力层的输入数据进行处理,得到第三输出数据。
其中,第一自注意力层为m个自注意力层中的任一个,第一自注意力网络为第一自注意力层中的自注意力网络。而且,若第一自注意力层为m个自注意力层中的第一个自注意力层,则该输入数据为嵌入层输出的特征向量;若第一自注意力层为第一个自注意力层之后的任一自注意力层,则该输入数据为所述第一自注意力层的前一个自注意力层的输出数据。
需要说明的是,第一自注意力网络可以为单头自注意力网络,也可以为多头自注意力网络,本申请实施例对此不作限定。
作为一个示例,第一自注意力网络为多头自注意力网络,多头自注意力网络包括多个单头自注意力网络和拼接层,且多个单头自注意力网络的权重系数不同。通过第一自注意力层中的第一自注意力网络对第一自注意力层的输入数据进行处理的操作可以包括:通过多个单头自注意力网络分别对输入数据进行处理,得到与多个单头自注意力网络一一对应的多个自注意力向量;通过拼接层,对多个自注意力向量进行拼接,基于拼接结果,确定第三输出数据。
示例的,可以将拼接结果确定为第三输出数据,也可以对拼接结果进行变换,得到第三输出数据,本申请实施例对此不作限定。
其中,自注意力网络的输入由查询、键和值组成,输出是基于查询与键的相似性的值的加权和得到。本申请实施例中,查询、键和值可以相同。
作为一个示例,第一自注意力网络可以采用上述公式(3)和(4)对输入数据进行处理,得到第三输出数据。
需要说明的是,通过使用多头自注意力网络进行处理,可以使得资源推荐模型能够共同关注来自不同位置的不同表示子空间的信息。
b)将第三输出数据作为第一自注意力层中的第一前馈网络的输入,通过第一前馈网络对第三输出数据进行处理,得到第一自注意力层的输出数据。
前馈网络也称前馈神经网络,在自注意力层中增加前馈网络,使用前馈对自注意力网络的输出数据进行处理,可以增强模型的非线性性,并考虑到不同隐含维度的交叉学习。
比如,第一前馈网络可以采用上述公式(5)对第三输出数据进行处理,得到第一自注意力层的输出数据。
另外,第一自注意力层还可以采用Dropout、Leaky ReLU或Layer Norm等技术,来避免过拟合和多层交叉学习。
2)将第一输出数据作为全连接层的输入,通过全连接层对第一输出数据进行处理,得到第二输出数据。
通过全连接层对第一输出数据进行处理,可以进一步进行交叉学习。
需要说明的是,本申请实施例所述的全连接层可以为1个或多个全连接层,每个全连接层采用的激活函数可以为ReLU或Leaky ReLU等。
3)将第二输出数据作为预测层的输入,通过预测层对第二输出数据进行处理,得到网络资源的资源推荐概率。
预测层用于基于第二输出数据,预测网络资源的资源推荐概率。网络资源的资源推荐概率用于指示用户接受该网络资源的资源推荐的可能性。比如,网络资源的资源推荐概率可以为用户点击网络资源的概率、浏览网络资源的概率、收藏网络资源的概率或购买网络资源的概率等。
步骤303:基于该资源推荐概率进行资源推荐。
作为一个示例,基于该资源推荐概率,可以确定是否推荐目标资源。比如,若该资源推荐概率大于或等于概率阈值,则推荐目标资源,若该资源推荐概率小于概率阈值,则不推荐目标资源。
作为另一个示例,还可以采用获取目标资源的资源推荐概率的方式,获取多个网络资源的资源推荐概率,然后按照资源推荐概率从大到小的顺序,从多个网络资源中选择排序在前的N个网络资源,将选择的网络资源作为待推荐的网络资源。其中,这多个网络资源包括目标资源。
其中,N为正整数,且N可以根据需要预先进行设置,也可以根据大于概率阈值的网络资源的数目确定。比如,可以将多个网络资源中资源推荐概率大于概率阈值的网络资源确定选择的N个网络资源。可选地,该多个网络资源可以为资源数据库中的备选网络资源。
当然,也可以将目标资源的资源推荐概率应用到其他资源推荐场景中,本申请实施例对此不作限定。
本申请实施例中,在进行资源推荐时,不仅考虑了资源的资源标识,还融合了资源属性信息以及所处资源环境的环境信息,使得资源推荐模型结合这些信息基于自注意力机制能够更加完整地提取出资源信息,进而提高预测资源推荐概率的准确性。而且,在基于这种方式预测出的资源推荐概率进行资源推荐时,所推荐的资源被用户接受的可能性更高,提高了资源推荐的有效性。另外,由于还考虑了资源环境信息,因此能够使得资源推荐的时效性更强。
图4是本申请实施例提供的一种资源推荐装置的框图,该装置集成于电子设备中,如图4所示,该装置包括:
获取模块401,用于获取目标资源的资源相关特征,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述目标资源为任一网络资源;
确定模块402,用于基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,所述资源推荐概率用于指示用户接受资源推荐的可能性,所述资源推荐模型用于预测任一资源的资源推荐概率,所述资源推荐模型为采用自注意力机制的网络模型;
推荐模块403,用于基于所述资源推荐概率进行资源推荐。
可选地,所述资源推荐模型包括嵌入层和网络层,所述网络层包括自注意力网络;
所述确定模块402包括:
第一处理单元,用于通过所述嵌入层,对所述资源相关特征进行词嵌入处理,得到所述资源相关特征对应的特征向量;
第二处理单元,用于将所述特征向量作为所述网络层的输入,通过所述网络层对所述特征向量进行处理,得到所述目标资源的资源推荐概率。
可选地,所述第一处理单元用于:
对于所述资源相关特征中的类别特征,对所述类别特征进行词嵌入处理,得到所述类别特征的词嵌入向量;
对于所述资源相关特征中的数值特征,对所述数值特征进行离散化处理,对离散化处理后的数值特征进行词嵌入处理,得到所述数值特征的词嵌入向量;
基于所述类别特征的词嵌入向量和所述数值特征的词嵌入向量,确定所述特征向量。
可选地,所述网络层包括m个自注意力层和全连接层,所述m为正整数;
所述第二处理单元用于:
通过所述m个自注意力层,对所述特征向量进行处理,得到第一输出数据;
将所述第一输出数据作为所述全连接层的输入,通过所述全连接层对所述第一输出数据进行处理,得到第二输出数据;
将所述第二输出数据作为所述预测层的输入,通过所述预测层对所述第二输出数据进行处理,得到所述目标资源的资源推荐概率。
可选地,所述m个自注意力层串行连接,且每个自注意力层包括自注意力网络和前馈网络;所述所述第二处理单元用于:
对于所述m个自注意力层中的第一自注意力层,通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,得到第三输出数据;
其中,所述第一自注意力层为所述m个自注意力层中的任一个;若所述第一自注意力层为所述m个自注意力层中的第一个自注意力层,则所述输入数据为所述特征向量;若所述第一自注意力层为所述第一个自注意力层之后的任一自注意力层,则所述输入数据为所述第一自注意力层的前一个自注意力层的输出数据;
将所述第三输出数据作为所述第一自注意力层中的第一前馈网络的输入,通过所述第一前馈网络对所述第三输出数据进行处理,得到所述第一自注意力层的输出数据。
可选地,所述第一自注意力网络为多头自注意力网络,所述多头自注意力网络包括多个单头自注意力网络和拼接层,且所述多个单头自注意力网络的权重系数不同;所述所述第二处理单元用于:
通过所述多个单头自注意力网络分别对所述输入数据进行处理,得到与所述多个单头自注意力网络一一对应的多个自注意力向量;
通过所述拼接层,对所述多个自注意力向量进行拼接,基于拼接结果,确定所述第三输出数据。
可选地,所述推荐模型403用于:
获取多个网络资源的资源推荐概率,所述多个网络资源包括所述目标资源;
按照资源推荐概率从大到小的顺序,从所述多个网络资源中选择排序在前的N个网络资源,将选择的网络资源作为待推荐的网络资源。
本申请实施例中,在进行资源推荐时,不仅考虑了资源的资源标识,还融合了资源属性信息以及所处资源环境的环境信息,使得资源推荐模型结合这些信息基于自注意力机制能够更加完整地提取出资源信息,进而提高预测资源推荐概率的准确性。而且,在基于这种方式预测出的资源推荐概率进行资源推荐时,所推荐的资源被用户接受的可能性更高,提高了资源推荐的有效性。另外,由于还考虑了资源环境信息,因此能够使得资源推荐的时效性更强。
图5是申请实施例提供的一种推荐模型的训练装置框图,该装置集成于电子设备中,如图5所示,该装置包括:
获取模块501,用于获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,所述多个用户行为包括至少一个资源行为;
其中,所述资源行为是指在网络资源上产生的用户行为,所述资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及所述当前资源行为的行为标签,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述行为标签用于指示通过所述当前资源行为是否接受了资源推荐;
训练模型502,用于基于所述多个用户行为序列,对资源推荐模型进行训练,所述资源推荐模型为采用自注意力机制的网络模型;
结束模块503,用于在满足训练结束条件时,结束所述资源推荐模型的训练。
可选地,所述资源行为的行为信息还包括序列位置信息,所述序列位置信息用于指示当前资源行为在所处用户行为序列中的序列位置。
本申请实施例中,通过对用户行为序列进行充分挖掘,挖掘出用户行为序列中的用户行为涉及的网络资源的资源属性信息和资源环境信息等序列信息,基于这些序列信息来训练采用自注意力机制的资源推荐模型,可以在训练过程中基于自注意力机制对用户行为序列进行建模,且在建模时除了考虑资源标识,还融合了资源属性信息和资源环境信息,这些信息可以让自注意力机制提取更加完整的序列模式,提高了资源推荐模型的预测准确性,进而提高了资源推荐的准确性。另外,由于考虑了资源环境信息,因此能够使得资源推荐模型的时效性更强。
需要说明的是:上述实施例提供的资源推荐装置在进行资源推荐时,仅以上述各功能模块的划分进行举例说明,上述实施例提供的推荐模型的训练装置在进行模型训练时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的资源推荐装置与资源推荐方法实施例属于同一构思,上述实施例提供的推荐模型的训练装置与推荐模型的训练方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图6是本申请实施例提供的一种终端600的结构框图。该终端600可以是:智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端600还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。通常,终端600包括有:处理器601和存储器602。
处理器601可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器601可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器601还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器602中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器601所执行以实现本申请中方法实施例提供的资源推荐方法或推荐模型的训练方法。
在一些实施例中,终端600还可选包括有:外围设备接口603和至少一个外围设备。处理器601、存储器602和外围设备接口603之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口603相连。具体地,外围设备包括:射频电路604、触摸显示屏605、摄像头606、音频电路607、定位组件608和电源609中的至少一种。
外围设备接口603可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器601和存储器602。在一些实施例中,处理器601、存储器602和外围设备接口603被集成在同一芯片或电路板上;在一些其他实施例中,处理器601、存储器602和外围设备接口603中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路604用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路604通过电磁信号与通信网络以及其他通信设备进行通信。射频电路604将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路604包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路604可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路604还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏605用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏605是触摸显示屏时,显示屏605还具有采集在显示屏605的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器601进行处理。此时,显示屏605还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏605可以为一个,设置终端600的前面板;在另一些实施例中,显示屏605可以为至少两个,分别设置在终端600的不同表面或呈折叠设计;在再一些实施例中,显示屏605可以是柔性显示屏,设置在终端600的弯曲表面上或折叠面上。甚至,显示屏605还可以设置成非矩形的不规则图形,也即异形屏。显示屏605可以采用LCD(LiquidCrystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件606用于采集图像或视频。可选地,摄像头组件606包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件606还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路607可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器601进行处理,或者输入至射频电路604以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端600的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器601或射频电路604的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路607还可以包括耳机插孔。
定位组件608用于定位终端600的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件608可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源609用于为终端600中的各个组件进行供电。电源609可以是交流电、直流电、一次性电池或可充电电池。当电源609包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端600还包括有一个或多个传感器610。该一个或多个传感器610包括但不限于:加速度传感器611、陀螺仪传感器612、压力传感器613、指纹传感器614、光学传感器615以及接近传感器616。
加速度传感器611可以检测以终端600建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器611可以用于检测重力加速度在三个坐标轴上的分量。处理器601可以根据加速度传感器611采集的重力加速度信号,控制触摸显示屏605以横向视图或纵向视图进行用户界面的显示。加速度传感器611还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器612可以检测终端600的机体方向及转动角度,陀螺仪传感器612可以与加速度传感器611协同采集用户对终端600的3D动作。处理器601根据陀螺仪传感器612采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器613可以设置在终端600的侧边框和/或触摸显示屏605的下层。当压力传感器613设置在终端600的侧边框时,可以检测用户对终端600的握持信号,由处理器601根据压力传感器613采集的握持信号进行左右手识别或快捷操作。当压力传感器613设置在触摸显示屏605的下层时,由处理器601根据用户对触摸显示屏605的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器614用于采集用户的指纹,由处理器601根据指纹传感器614采集到的指纹识别用户的身份,或者,由指纹传感器614根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器601授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器614可以被设置终端600的正面、背面或侧面。当终端600上设置有物理按键或厂商Logo时,指纹传感器614可以与物理按键或厂商Logo集成在一起。
光学传感器615用于采集环境光强度。在一个实施例中,处理器601可以根据光学传感器615采集的环境光强度,控制触摸显示屏605的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏605的显示亮度;当环境光强度较低时,调低触摸显示屏605的显示亮度。在另一个实施例中,处理器601还可以根据光学传感器615采集的环境光强度,动态调整摄像头组件606的拍摄参数。
接近传感器616,也称距离传感器,通常设置在终端600的前面板。接近传感器616用于采集用户与终端600的正面之间的距离。在一个实施例中,当接近传感器616检测到用户与终端600的正面之间的距离逐渐变小时,由处理器601控制触摸显示屏605从亮屏状态切换为息屏状态;当接近传感器616检测到用户与终端600的正面之间的距离逐渐变大时,由处理器601控制触摸显示屏605从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图6中示出的结构并不构成对终端600的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图7是本申请实施例提供的一种服务器700的结构示意图,该服务器700可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(Central ProcessingUnits,CPU)701和一个或一个以上的存储器702,其中,所述存储器702中存储有至少一条指令,所述至少一条指令由所述处理器701加载并执行以实现上述各个方法实施例提供的资源推荐方法或推荐模型的训练方法。当然,该服务器700还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器700还可以包括其他用于实现设备功能的部件,在此不做赘述。
在示例性的实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,所述指令被处理器执行时实现上述资源推荐方法或推荐模型的训练方法。
在示例性实施例中,还提供了一种计算机程序产品,当该计算机程序产品被执行时,其用于实现上述资源推荐方法或推荐模型的训练方法。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (14)
1.一种资源推荐方法,其特征在于,所述方法包括:
获取目标资源的资源相关特征,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述目标资源为任一网络资源;
基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,所述资源推荐概率用于指示用户接受资源推荐的可能性,所述资源推荐模型用于预测任一资源的资源推荐概率,所述资源推荐模型为采用自注意力机制的网络模型;
基于所述资源推荐概率进行资源推荐。
2.如权利要求1所述的方法,其特征在于,所述资源推荐模型包括嵌入层和网络层,所述网络层包括自注意力网络;
所述基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,包括:
通过所述嵌入层,对所述资源相关特征进行词嵌入处理,得到所述资源相关特征对应的特征向量;
将所述特征向量作为所述网络层的输入,通过所述网络层对所述特征向量进行处理,得到所述目标资源的资源推荐概率。
3.如权利要求2所述的方法,其特征在于,所述对所述资源相关特征进行特征处理,得到所述资源相关特征对应的特征向量,包括:
对于所述资源相关特征中的类别特征,对所述类别特征进行词嵌入处理,得到所述类别特征的词嵌入向量;
对于所述资源相关特征中的数值特征,对所述数值特征进行离散化处理,对离散化处理后的数值特征进行词嵌入处理,得到所述数值特征的词嵌入向量;
基于所述类别特征的词嵌入向量和所述数值特征的词嵌入向量,确定所述特征向量。
4.如权利要求2所述的方法,其特征在于,所述网络层包括m个自注意力层、全连接层和预测层,所述m为正整数;
所述通过所述网络层对所述特征向量进行处理,包括:
通过所述m个自注意力层,对所述特征向量进行处理,得到第一输出数据;
将所述第一输出数据作为所述全连接层的输入,通过所述全连接层对所述第一输出数据进行处理,得到第二输出数据;
将所述第二输出数据作为所述预测层的输入,通过所述预测层对所述第二输出数据进行处理,得到所述目标资源的资源推荐概率。
5.如权利要求4所述的方法,其特征在于,所述m个自注意力层串行连接,且每个自注意力层包括自注意力网络和前馈网络;
所述通过所述m个自注意力层,对所述特征向量进行处理,包括:
对于所述m个自注意力层中的第一自注意力层,通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,得到第三输出数据;
其中,所述第一自注意力层为所述m个自注意力层中的任一个;若所述第一自注意力层为所述m个自注意力层中的第一个自注意力层,则所述输入数据为所述特征向量;若所述第一自注意力层为所述第一个自注意力层之后的任一自注意力层,则所述输入数据为所述第一自注意力层的前一个自注意力层的输出数据;
将所述第三输出数据作为所述第一自注意力层中的第一前馈网络的输入,通过所述第一前馈网络对所述第三输出数据进行处理,得到所述第一自注意力层的输出数据。
6.如权利要求5所述的方法,其特征在于,所述第一自注意力网络为多头自注意力网络,所述多头自注意力网络包括多个单头自注意力网络和拼接层,且所述多个单头自注意力网络的权重系数不同;
所述通过所述第一自注意力层中的第一自注意力网络对所述第一自注意力层的输入数据进行处理,包括:
通过所述多个单头自注意力网络分别对所述输入数据进行处理,得到与所述多个单头自注意力网络一一对应的多个自注意力向量;
通过所述拼接层,对所述多个自注意力向量进行拼接,基于拼接结果,确定所述第三输出数据。
7.如权利要求1-6任一所述的方法,其特征在于,所述基于所述资源推荐概率进行资源推荐,包括:
获取多个网络资源的资源推荐概率,所述多个网络资源包括所述目标资源;
按照资源推荐概率从大到小的顺序,从所述多个网络资源中选择排序在前的N个网络资源,将选择的网络资源作为待推荐的网络资源。
8.一种推荐模型的训练方法,其特征在于,所述方法包括:
获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,所述多个用户行为包括至少一个资源行为;
其中,所述资源行为是指在网络资源上产生的用户行为,所述资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及所述当前资源行为的行为标签,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述行为标签用于指示通过所述当前资源行为是否接受了资源推荐;
基于所述多个用户行为序列,对资源推荐模型进行训练,所述资源推荐模型为采用自注意力机制的网络模型;
在满足训练结束条件时,结束所述资源推荐模型的训练。
9.如权利要求8所述的方法,其特征在于,所述资源行为的行为信息还包括序列位置信息,所述序列位置信息用于指示当前资源行为在所处用户行为序列中的序列位置。
10.一种资源推荐装置,其特征在于,所述装置包括:
获取模块,用于获取目标资源的资源相关特征,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述目标资源为任一网络资源;
确定模块,用于基于所述资源相关特征,通过资源推荐模型,确定所述目标资源的资源推荐概率,所述资源推荐概率用于指示用户接受资源推荐的可能性,所述资源推荐模型用于预测任一资源的资源推荐概率,所述资源推荐模型为采用自注意力机制的网络模型;
推荐模块,用于基于所述资源推荐概率进行资源推荐。
11.一种推荐模型的训练装置,其特征在于,所述装置包括:
获取模块,用于获取多个用户行为序列,每个用户行为序列包括多个用户行为的行为信息,所述多个用户行为包括至少一个资源行为;
其中,所述资源行为是指在网络资源上产生的用户行为,所述资源行为的行为信息包括当前资源行为所涉及的网络资源的资源相关特征以及所述当前资源行为的行为标签,所述资源相关特征包括资源标识、资源属性信息和资源环境信息,所述行为标签用于指示通过所述当前资源行为是否接受了资源推荐;
训练模型,用于基于所述多个用户行为序列,对资源推荐模型进行训练,所述资源推荐模型为采用自注意力机制的网络模型;
结束模块,用于在满足训练结束条件时,结束所述资源推荐模型的训练。
12.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-7所述的任一项方法的步骤。
13.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求8或9所述的方法的步骤。
14.一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,其特征在于,所述指令被处理器执行时实现权利要求1-7或8-9所述的任一项方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010554008.8A CN111737573A (zh) | 2020-06-17 | 2020-06-17 | 资源推荐方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010554008.8A CN111737573A (zh) | 2020-06-17 | 2020-06-17 | 资源推荐方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111737573A true CN111737573A (zh) | 2020-10-02 |
Family
ID=72649569
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010554008.8A Withdrawn CN111737573A (zh) | 2020-06-17 | 2020-06-17 | 资源推荐方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111737573A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112347276A (zh) * | 2020-11-06 | 2021-02-09 | 北京达佳互联信息技术有限公司 | 信息提示方法、装置及系统、客户端、服务器及存储介质 |
CN112699940A (zh) * | 2020-12-30 | 2021-04-23 | 腾讯科技(深圳)有限公司 | 一种车辆清洁关联资源推荐方法、装置及存储介质 |
CN112765373A (zh) * | 2021-01-29 | 2021-05-07 | 北京达佳互联信息技术有限公司 | 资源推荐方法、装置、电子设备和存储介质 |
CN112820412A (zh) * | 2021-02-03 | 2021-05-18 | 东软集团股份有限公司 | 用户信息的处理方法、装置、存储介质和电子设备 |
CN112990964A (zh) * | 2021-03-01 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 推荐内容资源的获取方法、装置、设备及介质 |
CN113609266A (zh) * | 2021-07-09 | 2021-11-05 | 阿里巴巴新加坡控股有限公司 | 资源处理方法以及装置 |
CN113704511A (zh) * | 2021-07-30 | 2021-11-26 | 北京达佳互联信息技术有限公司 | 多媒体资源的推荐方法、装置、电子设备及存储介质 |
CN116910372A (zh) * | 2023-09-11 | 2023-10-20 | 腾讯科技(深圳)有限公司 | 信息推送模型处理方法和装置、信息推送方法和装置 |
WO2023221545A1 (zh) * | 2022-05-16 | 2023-11-23 | 中兴通讯股份有限公司 | 资源列表的推荐方法、终端设备及服务器 |
WO2023246735A1 (zh) * | 2022-06-21 | 2023-12-28 | 华为技术有限公司 | 一种项目推荐方法及其相关设备 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108304441A (zh) * | 2017-11-14 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 网络资源推荐方法、装置、电子设备、服务器及存储介质 |
CN109874053A (zh) * | 2019-02-21 | 2019-06-11 | 南京航空航天大学 | 基于视频内容理解和用户动态兴趣的短视频推荐方法 |
CN110008409A (zh) * | 2019-04-12 | 2019-07-12 | 苏州市职业大学 | 基于自注意力机制的序列推荐方法、装置及设备 |
US20190362220A1 (en) * | 2018-05-25 | 2019-11-28 | Sap Se | Attentive neural collaborative filtering for modeling implicit feedback |
CN110781409A (zh) * | 2019-10-25 | 2020-02-11 | 东北大学秦皇岛分校 | 一种基于协同过滤的物品推荐方法 |
CN111062775A (zh) * | 2019-12-03 | 2020-04-24 | 中山大学 | 一种基于注意力机制的推荐系统召回方法 |
CN111127165A (zh) * | 2019-12-26 | 2020-05-08 | 纪信智达(广州)信息技术有限公司 | 基于自注意力自编码器的序列推荐方法 |
WO2020093781A1 (zh) * | 2018-11-06 | 2020-05-14 | 北京达佳互联信息技术有限公司 | 一种多媒体资源预估点击率的确定方法、装置及服务器 |
-
2020
- 2020-06-17 CN CN202010554008.8A patent/CN111737573A/zh not_active Withdrawn
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108304441A (zh) * | 2017-11-14 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 网络资源推荐方法、装置、电子设备、服务器及存储介质 |
US20190362220A1 (en) * | 2018-05-25 | 2019-11-28 | Sap Se | Attentive neural collaborative filtering for modeling implicit feedback |
WO2020093781A1 (zh) * | 2018-11-06 | 2020-05-14 | 北京达佳互联信息技术有限公司 | 一种多媒体资源预估点击率的确定方法、装置及服务器 |
CN109874053A (zh) * | 2019-02-21 | 2019-06-11 | 南京航空航天大学 | 基于视频内容理解和用户动态兴趣的短视频推荐方法 |
CN110008409A (zh) * | 2019-04-12 | 2019-07-12 | 苏州市职业大学 | 基于自注意力机制的序列推荐方法、装置及设备 |
CN110781409A (zh) * | 2019-10-25 | 2020-02-11 | 东北大学秦皇岛分校 | 一种基于协同过滤的物品推荐方法 |
CN111062775A (zh) * | 2019-12-03 | 2020-04-24 | 中山大学 | 一种基于注意力机制的推荐系统召回方法 |
CN111127165A (zh) * | 2019-12-26 | 2020-05-08 | 纪信智达(广州)信息技术有限公司 | 基于自注意力自编码器的序列推荐方法 |
Non-Patent Citations (2)
Title |
---|
SHALINI PANDEY: "A Self-Attentive model for Knowledge Tracing", Retrieved from the Internet <URL:arXiv.org> * |
陈锦霞: "基于自注意力机制的混合推荐模型的研究与应用", 《中国优秀硕士学位论文全文数据库信息科技辑》, pages 2 * |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112347276A (zh) * | 2020-11-06 | 2021-02-09 | 北京达佳互联信息技术有限公司 | 信息提示方法、装置及系统、客户端、服务器及存储介质 |
CN112699940A (zh) * | 2020-12-30 | 2021-04-23 | 腾讯科技(深圳)有限公司 | 一种车辆清洁关联资源推荐方法、装置及存储介质 |
CN112765373A (zh) * | 2021-01-29 | 2021-05-07 | 北京达佳互联信息技术有限公司 | 资源推荐方法、装置、电子设备和存储介质 |
CN112765373B (zh) * | 2021-01-29 | 2023-03-21 | 北京达佳互联信息技术有限公司 | 资源推荐方法、装置、电子设备和存储介质 |
CN112820412B (zh) * | 2021-02-03 | 2024-03-08 | 东软集团股份有限公司 | 用户信息的处理方法、装置、存储介质和电子设备 |
CN112820412A (zh) * | 2021-02-03 | 2021-05-18 | 东软集团股份有限公司 | 用户信息的处理方法、装置、存储介质和电子设备 |
CN112990964A (zh) * | 2021-03-01 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 推荐内容资源的获取方法、装置、设备及介质 |
CN112990964B (zh) * | 2021-03-01 | 2024-04-05 | 深圳市腾讯计算机系统有限公司 | 推荐内容资源的获取方法、装置、设备及介质 |
CN113609266A (zh) * | 2021-07-09 | 2021-11-05 | 阿里巴巴新加坡控股有限公司 | 资源处理方法以及装置 |
CN113704511A (zh) * | 2021-07-30 | 2021-11-26 | 北京达佳互联信息技术有限公司 | 多媒体资源的推荐方法、装置、电子设备及存储介质 |
WO2023221545A1 (zh) * | 2022-05-16 | 2023-11-23 | 中兴通讯股份有限公司 | 资源列表的推荐方法、终端设备及服务器 |
WO2023246735A1 (zh) * | 2022-06-21 | 2023-12-28 | 华为技术有限公司 | 一种项目推荐方法及其相关设备 |
CN116910372B (zh) * | 2023-09-11 | 2024-01-26 | 腾讯科技(深圳)有限公司 | 信息推送模型处理方法和装置、信息推送方法和装置 |
CN116910372A (zh) * | 2023-09-11 | 2023-10-20 | 腾讯科技(深圳)有限公司 | 信息推送模型处理方法和装置、信息推送方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110149541B (zh) | 视频推荐方法、装置、计算机设备及存储介质 | |
CN111652678B (zh) | 物品信息显示方法、装置、终端、服务器及可读存储介质 | |
CN109740068B (zh) | 媒体数据推荐方法、装置及存储介质 | |
CN111737573A (zh) | 资源推荐方法、装置、设备及存储介质 | |
CN110413837B (zh) | 视频推荐方法和装置 | |
CN111897996B (zh) | 话题标签推荐方法、装置、设备及存储介质 | |
CN111611490A (zh) | 资源搜索方法、装置、设备及存储介质 | |
CN111506758A (zh) | 物品名称确定方法、装置、计算机设备及存储介质 | |
CN111581958A (zh) | 对话状态确定方法、装置、计算机设备及存储介质 | |
CN111104980A (zh) | 确定分类结果的方法、装置、设备及存储介质 | |
CN110555102A (zh) | 媒体标题识别方法、装置及存储介质 | |
CN110503160B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN113918767A (zh) | 视频片段定位方法、装置、设备及存储介质 | |
CN114547428A (zh) | 推荐模型处理方法、装置、电子设备及存储介质 | |
CN114117206B (zh) | 推荐模型处理方法、装置、电子设备及存储介质 | |
CN113886609A (zh) | 多媒体资源推荐方法、装置、电子设备及存储介质 | |
CN114281936A (zh) | 分类方法、装置、计算机设备及存储介质 | |
CN113269612A (zh) | 物品推荐方法、装置、电子设备及存储介质 | |
CN112766406A (zh) | 物品图像的处理方法、装置、计算机设备及存储介质 | |
CN113377976B (zh) | 资源搜索方法、装置、计算机设备及存储介质 | |
CN113987326B (zh) | 资源推荐方法、装置、计算机设备及介质 | |
CN115861874A (zh) | 视频标注模型的训练方法、装置、设备及存储介质 | |
CN112001442B (zh) | 特征检测方法、装置、计算机设备及存储介质 | |
CN113032560B (zh) | 语句分类模型训练方法、语句处理方法及设备 | |
CN114817709A (zh) | 排序方法、装置、设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20201002 |