CN112288042B - 行为预测系统的更新方法及装置、存储介质和计算设备 - Google Patents

行为预测系统的更新方法及装置、存储介质和计算设备 Download PDF

Info

Publication number
CN112288042B
CN112288042B CN202011503790.7A CN202011503790A CN112288042B CN 112288042 B CN112288042 B CN 112288042B CN 202011503790 A CN202011503790 A CN 202011503790A CN 112288042 B CN112288042 B CN 112288042B
Authority
CN
China
Prior art keywords
domain
target domain
source domain
source
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011503790.7A
Other languages
English (en)
Other versions
CN112288042A (zh
Inventor
董鑫
高喆
莫林剑
李宁
李海
程磊
何勇
严坦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ant Zhixin Hangzhou Information Technology Co ltd
Original Assignee
Ant Zhixin Hangzhou Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ant Zhixin Hangzhou Information Technology Co ltd filed Critical Ant Zhixin Hangzhou Information Technology Co ltd
Priority to CN202011503790.7A priority Critical patent/CN112288042B/zh
Publication of CN112288042A publication Critical patent/CN112288042A/zh
Application granted granted Critical
Publication of CN112288042B publication Critical patent/CN112288042B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本说明书实施例提供一种行为预测系统的更新方法，该方法包括：获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；将训练样本对输入行为预测系统，在其中的源域编码层和目标域编码层采用联合注意力机制，编码得到源域当前对象向量和M个源域历史对象向量，以及目标域当前对象向量和M个目标域历史对象向量；基于2M个历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；基于各域用户向量和各域当前对象向量，确定各域行为预测结果，进而结合各域行为标签，更新行为预测系统。

Description

行为预测系统的更新方法及装置、存储介质和计算设备
技术领域
本说明书实施例涉及计算机技术领域，尤其涉及一种行为预测系统的更新方法及装置。
背景技术
当今，人们越来越频繁地使用服务平台向用户提供的多种多样的服务，相应地，为了提高用户的服务体验，服务平台可以利用机器学习模型对用户在使用服务时的相关行为进行预测，进而根据预测结果为用户定制服务方案。例如，新闻资讯网站可以通过预测某用户针对各类新闻板块的点击概率，确定向该用户推送的新闻资讯页面中所包括新闻板块的类别和排序。又例如，购物网站可以通过预测某用户针对某一商品的喜好程度，确定是否向该用户推荐该商品。
显然，希望针对用户行为的预测结果越准确越好。然而，目前预测用户行为的方式较为单一，得到的预测结果准确度也十分有限。因此，需要提出一种合理的方案，可以有效提高用户行为预测结果的准确性。
发明内容
在本说明书描述的行为预测系统的更新方法及装置中，充分利用用户在源域和目标域的数据，采用联合注意力机制对用户行为进行建模，从而利用学习到的细粒度用户偏好表达，提升用户在两个域，尤其是目标域内行为预测结果的准确性。
根据第一方面，提供一种行为预测系统的更新方法，包括：
获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签。将所述训练样本对输入所述行为预测系统，该行为预测系统包括源域编码层和目标域编码层；其中，所述源域编码层针对源域样本中的M+1个源域对象，基于目标域样本中M+1个目标域对象确定源域注意力，从而编码得到源域当前对象向量和M个源域历史对象向量；所述目标域编码层针对所述M+1个目标域对象，基于所述M+1个源域对象确定目标域注意力，从而编码得到目标域当前对象向量和M个目标域历史对象向量。基于所述M个源域历史对象向量以及M个目标域历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量。基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果。基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
在一个实施例中，所述源域编码层包括N个源域编码子层，其中第i个源域编码子层获取所述M+1个源域对象的上一层表征向量和所述M+1个目标域对象的上一层表征向量，至少基于对所述M+1个目标域对象的上一层表征向量的第一线性变换结果确定所述源域注意力，基于所述源域注意力编码得到所述M+1个源域对象的本层表征向量。所述目标域编码层包括N个目标域编码子层，其中第i个目标域编码子层获取所述M+1个源域对象的上一层表征向量和所述M+1个目标域对象的上一层表征向量，至少基于对所述M+1个源域对象的上一层表征向量的第二线性变换结果确定所述目标域注意力，基于所述目标域注意力编码得到所述M+1个目标域对象的本层表征向量。
根据第二方面，提供一种行为预测系统的更新装置，包括：
样本对获取单元，配置为获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签。对象编码单元，配置为将所述训练样本对输入所述行为预测系统，该行为预测系统包括源域编码层和目标域编码层；其中，所述源域编码层针对源域样本中的M+1个源域对象，基于目标域样本中M+1个目标域对象确定源域注意力，从而编码得到源域当前对象向量和M个源域历史对象向量；所述目标域编码层针对所述M+1个目标域对象，基于所述M+1个源域对象确定目标域注意力，从而编码得到目标域当前对象向量和M个目标域历史对象向量。用户表征单元，配置为基于所述M个源域历史对象向量以及M个目标域历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量。行为预测单元，配置为基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果。系统更新单元，配置为基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
根据第三方面，提供了一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面所描述的方法。
根据第四方面，提供了一种计算设备，包括存储器和处理器，其特征在于，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面所描述的方法。
在本说明书实施例披露的行为预测系统的更新方法及装置中，充分利用用户在源域和目标域的数据，采用联合注意力机制对用户行为进行建模，从而利用学习到的细粒度用户偏好表达，提升用户在两个域，尤其是目标域内行为预测结果的准确性，进而实现对用户的精准推荐，有效提高用户体验。
附图说明
为了更清楚地说明本说明书披露的多个实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书披露的多个实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1示出根据一个实施例的行为预测系统的系统架构示意图；
图2示出根据一个实施例的行为预测系统的更新方法流程图；
图3示出Transformer机制中编码器的结构示意图；
图4示出根据一个实施例的两个域的第i个编码子层间的数据流示意图；
图5示出根据一个实施例的行为预测系统的更新装置结构图。
具体实施方式
下面结合附图，对本说明书披露的多个实施例进行描述。
本说明书实施例披露一种行为预测系统的更新方法，基于此方法进行多次迭代更新后得到的行为预测系统，可以用于预测某一用户是否会对某一业务对象（如广告图片或商品）做出特定行为（如点击行为或购买行为）。
下面先对上述更新方法的发明构思进行介绍。具体地，为了提高用户体验，服务平台需要尽可能向用户推荐符合其需求的业务对象。在一种实施方式中，可以采集用户在单个业务领域中的历史行为数据，然后训练针对该领域的行为预测模型。然而，一方面，用户在单个业务领域中产生行为数据的业务对象数量有限，因此，基于单个域的用户数据建模会存在数据稀疏的问题；另一方面，针对一些新的用户，其在某个域中没有历史行为，因而基于单个域的建模会存在冷启动的问题。
此外，发明人观察到，用户通常在不同域内有行为数据，并且，不同域的行为数据之间往往存在一定、乃至较大的关联性。例如，用户在电商平台上有一些小孩衣物的购买行为，其同时会在音频播放平台中有一些儿童读物音频的播放行为；又例如，某些用户在电子书阅读平台看了一本小说，若向这些用户推送根据该小说改编的电影，大部分用户都选择了点击观看。由此，发明人提出，可以利用用户在某个域的行为数据，来提升用户在另一个域的预估效果。
基于以上观察和分析，本说明书实施例披露一种行为预测系统的更新方法，在此方法中，引入联合注意力机制，设计一种新的行为预测系统，基于该行为预测系统，可以实现对用户在源域和目标域中行为数据的充分利用，以及深层次交互、细粒度地表征，从而有效提升用户在两个域中行为预测结果的准确性。需说明，其中源域是指用户行为数据比较丰富的数据域或业务领域，目标域是指相对而言，用户行为数据比较少的数据域或业务领域。实际上，本说明书实施例披露的方法应用于跨域场景，不同域之间数据量的差距既可以较大，如源域和目标域的场景；或者较小或相当，如泛称为第一数据域和第二数据域、或第一业务域和第二业务域的场景，此时两个域的行为预测结果均可以得到有效提升，只是通常在源域和目标域的场景下，源域的丰富数据可以使得目标域的行为预测结果得到较为显著的提高。
为便于理解，图1示出根据一个实施例的行为预测系统的系统架构示意图。如图1所示，行为预测系统中可以包括对应源域和目标域的输入层、嵌入层、N个编码子层、用户表征层和输出层。其中，源域输入层用于获取源域当前对象s0，以及用户已经在源域做出特定行为的M（为正整数）个源域历史对象，s1至sM；目标域输入层用于获取目标域当前对象t0，以及该用户已经在目标域做出特定行为的M个目标域历史对象，t1至tM。源域嵌入层用于确定M+1个源域对象对应的M+1个源域嵌入向量；目标域嵌入层用于确定M+1个目标域对象对应的M+1个目标域嵌入向量。N（为正整数）个源域编码子层和N个目标域编码子层中采用联合注意力机制，基于M+1个源域嵌入向量和M+1个目标域嵌入向量进行编码，得到源域当前对象向量和M个源域历史对象向量，以及目标域当前对象向量和M个目标域历史对象向量。源域用户表征层用于根据源域当前对象向量、M个源域历史对象向量和M个目标域历史对象向量，确定源域用户向量；目标域用户表征层用于根据目标域当前对象向量、M个源域历史对象向量和M个目标域历史对象向量，确定目标域用户向量。源域输出层用于根据源域当前对象向量和源域用户向量，确定源域行为预测结果；目标域输出层用于根据目标域当前对象向量和目标域用户向量，确定目标域行为预测结果。
如此，采用联合注意力机制，对M+1个源域对象和M+1个目标对象进行表征，实现了两个域内的行为对象被映射到同一向量空间内，使得后续在确定用户表征向量时，可以对两个域内的对象向量进行融合，得到充分反映用户细粒度偏好特征的用户向量，进而提升最终行为预测结果的准确性。
需要说明，上述行为预测系统的更新方法和使用方法类似，主要区别在于更新方法中需要将样本标签与预测结果进行比对，进而调整系统中的模型参数，而使用方法中使用的模型参数是调整后的，可以直接输出指导实际应用的预测结果。因此，本说明书实施例择一进行主要说明，具体地，以下主要对更新方法进行说明，使用方法可参照执行。
具体地，图2示出根据一个实施例的行为预测系统的更新方法流程图，所述更新方法的执行主体可以为任何具有计算、处理能力的计算平台、服务器或设备集群。如图2所示，所述方法包括以下步骤：
步骤S210，获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；步骤S220，将所述训练样本对输入所述行为预测系统，该行为预测系统包括源域编码层和目标域编码层；其中，所述源域编码层针对源域样本中的M+1个源域对象，基于目标域样本中M+1个目标域对象确定源域注意力，从而编码得到源域当前对象向量和M个源域历史对象向量；所述目标域编码层针对所述M+1个目标域对象，基于所述M+1个源域对象确定目标域注意力，从而编码得到目标域当前对象向量和M个目标域历史对象向量；步骤S230，基于所述M个源域历史对象向量以及M个目标域历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；步骤S240，基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果；步骤S250，基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
针对以上步骤，首先需要说明的是，上述“第一融合”中的“第一”、“第二融合”中的“第二”，以及文中他处的类似用语，均是为了描述的清楚简洁，用于区分同类事物，不具有排序等其他限定作用。
以上步骤如下：
首先，在步骤S210，获取训练样本对。获取的训练样本对可以是一个样本对或多个样本对，为便于描述的清楚简洁，以下主要以一个训练样本对为主进行说明。训练样本对中包括对应同一用户的源域样本和目标域样本。源域样本是指来自源域的样本，目标域样本是指来自目标域的样本。源域和目标域是不同的数据域，其中生成的数据通常源自不同的业务领域。在一个实施例中，源域数据为图书业务产生的数据，目标域数据为电影业务产生的数据。在一个是实施例中，源域数据为电商平台中的商品交易数据，目标域数据为广告点击数据。
上述源域样本包括源域当前对象，用户已做出源域特定行为的M个源域历史对象，共计M+1个源域对象，以及指示该用户是否对该源域当前对象做出该源域特定行为的源域行为标签。相对应地，目标域样本包括目标域当前对象，用户已做出目标域特定行为的M个目标域历史对象，共计M+1个目标域对象，以及指示该用户是否对该目标域当前对象做出该目标域特定行为的目标域行为标签。
上述当前对象、历史对象均为对应域中的业务对象，业务对象可以属于以下中的任一种：商品、服务、用户、内容信息、业务登录界面、业务注册界面。在一些具体的例子中，业务对象可以是超链接文本（如链接到目标页面的广告文本）、超链接图片（如连接到目标页面的广告图片）、公众号的文章、支付宝登录和注册界面、服装、书籍（电子书或纸质书）、线上生活缴费服务、平台推荐关注的个人用户、公众号或内容领域。需说明，一方面，各域样本中的当前对象通常和历史对象是不同对象，在一个示例中，源域或目标域样本中的M个历史对象包括书籍甲、书籍乙和书籍丙，当前对象为书籍丁；另一方面，各域样本中包括对象，具体可以包括对象的标识信息，如对象名称或系统分配的对象标识（例如，由数字或字母组成的字符串）。
上述源域特定行为和目标域特定行为可能相同，也可能不相同，具体由工作人员根据不同域的业务对象和实际经验进行设定。例如，若业务对象为广告图片，则特定行为可以被设定为点击行为。又例如，若业务对象为商品，则特定行为可以被设定为购买行为。再例如，若业务对象为新闻资讯，则特定行为可以被设定为浏览时长达到预设时长（如5min）或评价行为。还例如，若业务对象为公众号，则特定行为可以被设定为关注行为。再又例如，若业务对象为应用APP，则特定行为可以被设定为登录行为或下载行为或注册行为。
对于上述行为标签，需理解，通常情况下，行为标签指示用户在对M个源域历史对象做出特定行为后，是否对当前对象做出该特定行为。在一个实施例中，行为标签为是或否。在另一个实施例中，行为标签为1（指示是）或0（指示否）。
此外需说明，上述M是正整数，具体数值可以由工作人员设定，例如，设定为5或10。在一个实施例中，其中M个源域历史对象在源域样本中按时间的先后顺序排列，M个目标域历史对象同样按时间的先后顺序排列。如此，考虑到历史对象的行为时序性，有助提高行为预测结果的准确性。在一个实施例中，考虑到源域的数据相较于目标域更加丰富，可能存在某个用户在源域的历史对象超过M个，而其在目标域的历史对象不足M个的情况，此时，可以对其在目标域的历史对象进行填充（padding）处理，例如，补充表示对象为空的字符。
根据一个具体的例子，源域数据为书籍交易数据，目标域数据为观影数据，训练样本对中的源域样本，包括当前书籍《沧海》，以及用户小红在最近半年内由远及近购买的3本书《月牙泉》、《葫芦岛》和《江流》，以及源域行为标签，此标签为1，指示用户在购买这3本书后，购买了当前书籍《沧海》；训练样本对中的目标域样本，包括当前电影《战警》，以及小红在最近半年内由远及近观看的3部电影《田野》、《发明人的幸福生活》和《飞天》，以及目标域行为标签，此标签为0，指示用户没有观看当前电影《战警》。
以上，对获取的训练样本对进行介绍。
接着，在步骤S220，将上述训练样本对输入行为预测系统，该行为预测系统中至少包括源域编码层和目标域编码层。其中，源域编码层针对源域样本中的M+1个源域对象，基于目标域样本中M+1个目标域对象确定源域注意力，从而编码得到M+1个源域对象向量，包括对应源域当前对象的源域当前对象向量和对应M个源域历史对象的M个源域历史对象向量；目标域编码层针对目标域样本中的M+1个目标域对象，基于源域样本中M+1个源域对象确定目标域注意力，从而编码得到M+1个目标域对象向量，包括对应目标域当前对象的目标域当前对象向量和对应M个目标域历史对象的M个目标域历史对象向量。如此，源域编码层和目标域编码层中通过采用联合注意力机制，实现了源域数据和目标域数据深层次的交互、细粒度特征的学习，并且，使得M+1个源域对象和M+1个目标对象被投射到相同的向量空间，具体得到位于相同向量空间的源域当前对象向量、M个源域历史对象向量、目标域当前对象向量和M个目标域历史对象向量。
上述源域编码层包括N个源域编码子层，目标域编码层包括N个目标域编码子层，其中N为正整数，也就是N个可以是1个或多个。对于N个源域编码子层和N个目标域编码子层中，可以在其中每个编码子层中引入联合注意力机制，也可以在部分编码子层中引入联合注意力机制。需理解，不论是在每个子层中引入还是在部分子层中引入，最终得到的编码结果均能体现联合注意力机制的引入，并且，引入联合注意力机制的子层数量越多，两个域之间的特征交互越充分。
以下以在第i个源域编码子层和第i个目标域编码子层中引入联合注意力机制为例，进行示例性说明，i为不大于N的正整数。
在一种实施方式中，第i个源域编码子层获取上述M+1个源域对象的上一层表征向量和M+1个目标域对象的上一层表征向量，针对其中任一的源域对象，分别计算其上一层表征向量和M+1个目标域对象的上一层表征向量之间的点积，得到M+1个源域注意力分数，对该M+1个源域注意力分数进行归一化处理，得到M+1个源域注意权重，再利用该M+1个源域注意力权重，对上述M+1个源域对象的上一层表征向量进行加权求和，得到该任一的源域对象的本层表征向量，由此类推，可以得到M+1个源域对象的本层表征向量。
相应地，第i个目标域编码子层获取上述M+1个源域对象的上一层表征向量和M+1个目标域对象的上一层表征向量，针对其中任一的目标域对象，分别计算其上一层表征向量和M+1个源域对象的上一层表征向量之间的点积，得到M+1个目标域注意力分数，对该M+1个目标域注意力分数进行归一化处理，得到M+1个目标域注意权重，再利用该M+1个目标域注意力权重，对上述M+1个目标域对象的上一层表征向量进行加权求和，得到该任一的目标域对象的本层表征向量，由此类推，可得到M+1个目标域对象的本层表征向量。
在一个实施例中，上述归一化处理可以利用softmax函数实现，或者其他可以将数值映射到区间[0,1]，并且使得映射结果和值为1的归一化手段。
对于上述上一层表征向量的获取，在一个实施例中，上述行为预测系统还包括源域嵌入层和目标域嵌入层，其中源域嵌入层确定上述M+1个源域对象对应的M+1个源域对象嵌入向量，目标域嵌入层确定上述M+1个目标域对象对应的M+1个目标域对象嵌入向量。其中嵌入可以通过已有的查找嵌入表的方式实现，不作赘述，需理解，嵌入表中的元素是学习参数，会在训练过程中不断被更新。
进一步，在一个具体的实施例中，上述第i个为第1个，上述M+1个源域对象的上一层表征向量为源域嵌入层确定的M+1个源域对象嵌入向量，上述M+1个目标域对象的上一层表征向量为目标域嵌入层确定的M+1个目标域对象嵌入向量；在另一个具体的实施例中，上述第i个不是第1个，上述M+1个源域对象的上一层表征向量为第i-1个源域编码层输出的M+1个源域对象表征向量；上述M+1个目标域对象的上一层表征向量为第i-1个目标域编码层输出的M+1个目标域对象表征向量。
在另一种实施方式中，第i个源域编码子层获取上述M+1个源域对象的上一层表征向量和M+1个目标域对象的上一层表征向量，至少基于对M+1个目标域对象的上一层表征向量的第一线性变换结果确定上述源域注意力，基于该源域注意力编码得到M+1个源域对象的本层表征向量；相应地，第i个目标域编码子层获取M+1个源域对象的上一层表征向量和M+1个目标域对象的上一层表征向量，至少基于对M+1个源域对象的上一层表征向量的第二线性变换结果确定上述目标域注意力，基于目标域注意力编码得到M+1个目标域对象的本层表征向量。
在一个实施例中，第i个源域编码子层利用源域变换矩阵，对M+1个目标域对象的上一层表征向量进行第一线性变换，得到第一线性变换结果，其中包括M+1个源域线性变换向量；然后，针对其中任一的源域对象，分别计算其在上一层的表征向量和M+1个源域线性变换向量之间的点积，得到M+1个源域注意力分数，利用该M+1个源域注意力分数，对上述M+1个源域对象的上一层表征向量进行加权求和，得到该任一的源域对象的本层表征向量，由此类推，可以得到M+1个源域对象的本层表征向量。
相应地，第i个目标域编码子层利用目标域变换矩阵，对M+1个源域对象的上一层表征向量进行第二线性变换，得到第二线性变换结果，其中包括M+1个目标域线性变换向量；然后，针对其中任一的目标域对象，分别计算其在上一层的表征向量和M+1个目标域线性变换向量之间的点积，得到M+1个目标域注意力分数，利用该M+1个目标域注意力分数，对上述M+1个目标域对象的上一层表征向量进行加权求和，得到该任一的目标域对象的本层表征向量，由此类推，可以得到M+1个目标域对象的本层表征向量。
在另一个实施例中，上述源域编码层和目标域编码层均基于Transformer机制。为便于理解，图3示出Transformer机制中编码器的结构示意图。如图3所示，编码器中包括顺序连接的注意力层、残差模块、前馈层和另一残差模块，其中注意力层先将输入当前编码器的矩阵Z(j)分别投射到查询（query）空间、键（key）空间和值（value）空间，得到查询矩阵Q、键矩阵K和值矩阵V，然后，基于注意力机制，利用查询矩阵Q和键矩阵K确定注意力，再利用该注意力对值矩阵V进行变换，并将变换结果作为注意力层的输出，残差模块1对该输出和矩阵Z(j)进行加和处理，再进行标准化（Normalization）处理，前馈层对残差模块1的输出进行线性变换和非线性变换，其输出交由残差模块2继续进行处理，并得到当前编码器的输出矩阵Z(j+1)。
在本说明书实施例中，第i个源域编码子层和第i个目标域编码子层的结构可以采用Transformer中编码器的结构，各域的第i个编码子层在计算本层查询矩阵、键矩阵，进而计算本层注意力时，不仅用到本域上一层的输出，还用到另一域在上一层的输出，如此实现两个域的编码数据流的交叉流动，对此可参见图4。
在一个具体的实施例中，上述第i个源域编码子层，利用源域查询变换矩阵对上述M+1个目标域对象的上一层表征向量进行上述第一线性变换，得到源域查询结果矩阵；分别利用源域键变换矩阵和源域值变换矩阵对上述M+1个源域对象的上一层表征向量进行变换，得到对应的源域键结果矩阵和源域值结果矩阵；基于上述源域查询结果矩阵和源域键结果矩阵的乘积确定上述源域注意力。
在一个更具体的实施例中，上述M+1个源域对象的上一层表征向量构成源域表征矩阵
Figure 252911DEST_PATH_IMAGE001
，且
Figure 966789DEST_PATH_IMAGE002
，其中d表示各个源域对象所对应表征向量的维数；上述M+1个目标域对象的上一层表征向量构成目标域表征矩阵
Figure 12105DEST_PATH_IMAGE003
，且
Figure 938473DEST_PATH_IMAGE004
，也就是
Figure 18424DEST_PATH_IMAGE003
与
Figure 854269DEST_PATH_IMAGE001
具有相同的行列数。基于此，上述第一线性变换可以采用下式实现：
Figure 652461DEST_PATH_IMAGE005
（1）
上式中，
Figure 116940DEST_PATH_IMAGE006
表示上述源域查询变换矩阵；
Figure 51398DEST_PATH_IMAGE007
表示上述源域查询结果矩阵。
此外，上述利用源域键变换矩阵和源域值变换矩阵对上述M+1个源域对象的上一层表征向量进行变换，得到对应的源域键结果矩阵和源域值结果矩阵，可以采用下式实现：
Figure 310341DEST_PATH_IMAGE008
（2）
Figure 330250DEST_PATH_IMAGE009
（3）
在上式（2）和（3）中，
Figure 332841DEST_PATH_IMAGE010
表示上述源域键变换矩阵；
Figure 138117DEST_PATH_IMAGE011
表示上述源域键结果矩阵；
Figure 99120DEST_PATH_IMAGE012
表示上述源域值变换矩阵；
Figure 137483DEST_PATH_IMAGE013
表示上述源域值结果矩阵。
进一步，上述基于源域查询结果矩阵和源域键结果矩阵的乘积确定上述源域注意力，可以通过下式实现：
Figure 694497DEST_PATH_IMAGE014
（4）
其中，
Figure 869126DEST_PATH_IMAGE015
表示上述源域注意力所对应的源域注意力分数矩阵；
Figure 735451DEST_PATH_IMAGE016
表示矩阵的转置。如此，可以得到上述源域注意力。更进一步，基于该源域注意力和上述源域值结果矩阵，得到上述M+1个源域对象的本层表征向量。在一个具体的实施例中，先对上述源域注意力分数矩阵进行进一步处理，得到源域注意力权重矩阵，再利用源域注意力权重和源域值结果矩阵，得到上述M+1个源域对象的本层表征向量。
在一个例子中，其中对上述源域注意力分数矩阵进行进一步处理可以包括，先将源域注意力分数矩阵中各个分数除以预定数值，然后将各行商值进行归一化处理。在一个具体的例子中，其中预定数值可以由工作人员根据实际情况设定，例如，可以设定为上述维数d的算术平方根等，或者该算术平方根的预定倍数，等等。此外，归一化处理的目的是将数据映射到0-1的范围内，同时使映射后数据的和为1，以使后续的数据处理更加便捷快速。比如，可以利用softmax函数实现归一化。又比如，可以直接对上述源域注意力分数矩阵中各行的分数进行归一化处理。在一个示例中，可以通过下式得到源域注意力权重矩阵：
Figure 729952DEST_PATH_IMAGE017
（5）
如此，可以得到源域注意力权重矩阵。进一步，利用源域注意力权重和源域值结果矩阵，得到上述M+1个源域对象的本层表征向量，可以利用以下公式实现：
Figure 369619DEST_PATH_IMAGE018
（6）
其中，
Figure 133175DEST_PATH_IMAGE019
表示源域本层表征矩阵，其中包括上述M+1个源域对象的本层表征向量。在另一个具体的实施例中，在计算出矩阵
Figure 170401DEST_PATH_IMAGE019
之后，还可以进一步对其进行线性变换和非线性变换，再将得到的结果作为第i个源域编码层输出的M+1个源域对象的本层表征向量。
与上述第i个源域编码子层的处理相对应地，上述第i个目标域编码子层，利用目标域查询变换矩阵对上述M+1个源域对象的上一层表征向量进行上述第二线性变换，得到目标域查询结果矩阵；分别利用目标域键变换矩阵和目标域值变换矩阵对上述M+1个目标域对象的上一层表征向量进行变换，得到对应的目标域键结果矩阵和目标域值结果矩阵；基于上述目标域查询结果矩阵和上述目标域键结果矩阵的乘积确定上述目标域注意力，基于上述目标域注意力和上述目标域值结果矩阵，得到上述M+1个目标域对象的本层表征向量。在一个示例中，可以通过以下公式实现：
Figure 652198DEST_PATH_IMAGE020
（7）
Figure 800283DEST_PATH_IMAGE021
（8）
Figure 434658DEST_PATH_IMAGE022
（9）
Figure 642785DEST_PATH_IMAGE023
（10）
Figure 408616DEST_PATH_IMAGE024
（11）
Figure 111124DEST_PATH_IMAGE025
（12）
在上式（7）至（12）中，
Figure 911590DEST_PATH_IMAGE026
、
Figure 290618DEST_PATH_IMAGE027
和
Figure 481428DEST_PATH_IMAGE028
分别表示目标域查询结果矩阵、目标域键结果矩阵和目标域值结果矩阵；
Figure 8135DEST_PATH_IMAGE029
、
Figure 335211DEST_PATH_IMAGE030
和
Figure 885141DEST_PATH_IMAGE031
分别表示目标域查询变换矩阵、目标域键变换矩阵和目标域值变换矩阵；
Figure 828826DEST_PATH_IMAGE001
表示上述M+1个源域对象的上一层表征向量；
Figure 122404DEST_PATH_IMAGE003
表示上述M+1个目标域对象的上一层表征向量；
Figure 569566DEST_PATH_IMAGE032
和
Figure 775551DEST_PATH_IMAGE033
分别表示目标域注意力分数矩阵和目标域注意力权重矩阵；
Figure 940953DEST_PATH_IMAGE034
表示目标域本层表征矩阵，其中包括上述M+1个目标域对象的本层表征向量。
对于注意力以及本层表征向量的确定，在另一个具体的实施例中，在第i个源域编码子层，分别利用源域键变换矩阵和源域值变换矩阵对上述M+1个目标域对象的上一层表征向量进行上述第一线性变换，得到源域键结果矩阵和源域值结果矩阵；利用源域查询变换矩阵对上述M+1个源域对象的上一层表征向量进行变换，得到源域查询结果；基于上述源域查询结果矩阵和上述源域键结果矩阵的乘积确定上述源域注意力，基于上述源域注意力和上述源域值结果矩阵，得到上述M+1个源域对象的本层表征向量。在一个示例中，可以通过以下公式实现：
Figure 772643DEST_PATH_IMAGE035
（13）
Figure 339890DEST_PATH_IMAGE036
（14）
Figure 966044DEST_PATH_IMAGE037
（15）
Figure 884321DEST_PATH_IMAGE038
（16）
Figure 519702DEST_PATH_IMAGE039
（17）
Figure 285664DEST_PATH_IMAGE018
（18）
在上式（13）至（18）中，
Figure 364609DEST_PATH_IMAGE007
、
Figure 504603DEST_PATH_IMAGE011
和
Figure 209254DEST_PATH_IMAGE013
分别表示源域查询结果矩阵、源域键结果矩阵和源域值结果矩阵；
Figure 436580DEST_PATH_IMAGE040
、
Figure 466853DEST_PATH_IMAGE010
和
Figure 376034DEST_PATH_IMAGE012
分别表示源域查询变换矩阵、源域键变换矩阵和源域值变换矩阵；
Figure 618797DEST_PATH_IMAGE001
表示上述M+1个源域对象的上一层表征向量；
Figure 749564DEST_PATH_IMAGE003
表示上述M+1个目标域对象的上一层表征向量；
Figure 154000DEST_PATH_IMAGE015
和
Figure 753740DEST_PATH_IMAGE041
分别表示源域注意力分数矩阵和源域注意力权重矩阵；
Figure 269035DEST_PATH_IMAGE019
表示源域本层表征矩阵，其中包括上述M+1个源域对象的本层表征向量。
与第i个源域编码子层中的处理相对应的，在第i个目标域编码子层，分别利用目标域键变换矩阵和目标域值变换矩阵对所述M+1个源域对象的上一层表征向量进行所述第二线性变换，得到目标域键结果矩阵和目标域值结果矩阵；利用目标域查询变换矩阵对所述M+1个目标域对象的上一层表征向量进行变换，得到目标域查询结果；基于所述目标域查询结果矩阵和所述目标域键结果矩阵的乘积确定所述目标域注意力，基于所述目标域注意力和所述目标域值结果矩阵，得到所述M+1个目标域对象的本层表征向量。在一个示例中，可以通过以下公式实现：
Figure 519888DEST_PATH_IMAGE042
（19）
Figure 95225DEST_PATH_IMAGE043
（20）
Figure 431529DEST_PATH_IMAGE044
（21）
Figure 750515DEST_PATH_IMAGE023
（22）
Figure 855874DEST_PATH_IMAGE024
（23）
Figure 602113DEST_PATH_IMAGE025
（24）
在上式（19）至（24）中，
Figure 173515DEST_PATH_IMAGE026
、
Figure 561771DEST_PATH_IMAGE027
和
Figure 787216DEST_PATH_IMAGE028
分别表示目标域查询结果矩阵、目标域键结果矩阵和目标域值结果矩阵；
Figure 969936DEST_PATH_IMAGE029
、
Figure 562723DEST_PATH_IMAGE030
和
Figure 489090DEST_PATH_IMAGE031
分别表示目标域查询变换矩阵、目标域键变换矩阵和目标域值变换矩阵；
Figure 303462DEST_PATH_IMAGE003
表示上述M+1个目标域对象的上一层表征向量；
Figure 735712DEST_PATH_IMAGE001
表示上述M+1个源域对象的上一层表征向量；
Figure 799483DEST_PATH_IMAGE032
和
Figure 418290DEST_PATH_IMAGE033
分别表示目标域注意力分数矩阵和目标域注意力权重矩阵；
Figure 87168DEST_PATH_IMAGE034
表示目标域本层表征矩阵，其中包括上述M+1个目标域对象的本层表征向量。
由上，第i个源域编码子层和第i个目标域编码子层采用联合注意力机制，可以确定M+1个源域对象的本层表征向量和M+1个目标域对象的本层表征向量。进一步，将第N个源域编码子层输出的M+1个本层表征向量，对应作为源域当前对象向量和M个源域历史对象向量，并且，将第N个目标域编码子层输出的M+1个本层表征向量，对应作为目标域当前对象向量和M个目标域历史对象向量。
然后，在步骤S230，基于所述M个源域历史对象向量以及M个目标域历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量。
在一个实施例中，上述第一融合包括：利用第一组合权重，其中包括第一源域权重和第一目标域权重，对M个源域历史对象向量的源域平均向量，以及M个目标域历史对象向量的目标域平均向量进行加权求和，得到所述源域用户向量。上述第二融合包括：利用第二组合权重，其中包括第二源域权重和第二目标域权重，对M个源域历史对象向量的源域平均向量，以及M个目标域历史对象向量的目标域平均向量进行加权求和，得到目标域用户向量。进一步，在一个具体的实施例中，上述第一组合权重和第二组合权重可以是人工设定的，通常，设定的第一源域权重大于第二源域权重，第一目标域权重小于第二目标域权重。在另一个具体的实施例中，上述第一组合权重和第二组合权重也可以属于模型参数，是经过训练得到的。
在另一个实施例中，首先，为便于简洁描述，将上述M个源域历史对象向量和M个目标域历史对象向量共同称为2M个历史对象向量。上述第一融合包括：确定上述源域当前对象向量，对该2M个历史对象向量中各个向量分配的第一注意力权重；利用该第一注意力权重，对该2M个历史对象向量进行加权求和，得到上述源域用户向量；上述第二融合包括：确定上述目标域当前对象向量，对该2M个历史对象向量中各个向量分配的第二注意力权重；利用该第二注意力权重，对该2M个历史对象向量进行加权求和，得到上述目标域用户向量。
在一个具体的实施例中，行为预测系统还包括源域注意力打分网络和目标域注意力打分网络，上述第一注意力权重的确定包括：将上述源域当前对象向量分别与2M个历史对象向量中的各个历史向量进行拼接，得到2M个源域拼接向量；将2M个源域拼接向量分别输入该源域注意力打分网络，得到2M个源域注意力分数；对该2M个源域注意力分数进行归一化处理，得到各个历史向量对应的第一注意力权重；上述第二注意力权重的确定包括：将上述目标域当前对象向量分别与2M个历史对象向量中的各个历史向量进行拼接，得到2M个目标域拼接向量；将2M个目标域拼接向量分别输入该目标域注意力打分网络，得到2M个目标域注意力分数；对该2M个目标域注意力分数进行归一化处理，得到各个历史向量对应的第二注意力权重。在一个更具体的实施例中，上述源域注意力打分网络和目标域注意力打分网络可以具有相同的网络结构，具体可以实现为单层感知机或多层感知机。在一个更具体的实施例中，上述归一化处理可以采用softmax函数实现。
在另一个具体的实施例中，上述第一注意力权重的确定可以包括：分别计算上述源域当前对象向量与2M个历史对象向量中各个向量的点积，得到2M个源域点积结果，对该2M个源域点积结果进行归一化，得到2M个第一注意力权重。上述第二注意力权重的确定可以包括：分别计算上述目标域当前对象向量与2M个历史对象向量中各个向量的点积，得到2M个目标域点积结果，对该2M个目标域点积结果进行归一化，得到2M个第二注意力权重。
如此，通过对源域历史对象向量和目标域历史对象向量，分别进行针对源域和目标域的融合，可以得到同一用户在源域的源域用户向量，以及在目标域的目标域用户向量。需要理解，在前述源域编码层和目标域编码层，通过采用联合注意力机制，使得编码得到的源域对象向量和目标域对象向量被投射到相同的向量空间，从而保证本步骤中源域历史对象向量和目标域历史对象向量之间融合的可用性、可靠性和有效性，进而使得确定出的源域用户向量和目标域用户向量实现对用户细粒度偏好的准确表征。
以上，在步骤S220中确定出源域当前对象向量和目标域当前对象向量，并在步骤S230中，确定出源域用户向量和目标域用户向量。基于此，在步骤S240，基于该源域用户向量和源域当前对象向量，确定源域行为预测结果；基于该目标域用户向量和目标域当前对象向量，确定目标域行为预测结果。
在一个实施例中，上述行为预测系统还包括源域分类网络和目标域分类网络；上述源域行为预测结果的确定可以包括：对上述源域用户向量和源域当前对象向量进行拼接，得到源域拼接向量；将该源域拼接向量输入源域分类网络，得到源域行为预测结果；上述目标域行为预测结果的确定可以包括：对上述目标域用户向量和目标域当前对象向量进行拼接，得到目标域拼接向量；将该目标域拼接向量输入目标域分类网络，得到目标域行为预测结果。
在一个具体的实施例中，上述得到源域拼接向量可以进一步实施为：对上述源域当前对象向量、源域用户向量和目标域用户向量进行拼接，得到该源域拼接向量。在另一个具体的实施例中，上述得到目标域拼接向量可以进一步实施为：对上述目标域当前对象向量、目标域用户向量和源域用户向量进行拼接，得到该目标域拼接向量。如此，可以使得各域的拼接向量对用户进行更加全面的表征，从而提高分类结果的准确性。
在一个具体的实施例中，在步骤S210获取的各域样本中还包括用户的画像特征、当前对象对应的行为环境特征。其中画像特征可以包括用户信用，所属人群，例如青年、中年或老年，又例如，低消费人群或高消费人群，再例如，学生党、上班族或全职太太，等等。其中行为环境特征可以包括网络特征（如网络信号质量、IP地址）、终端设备的型号、地理位置、时间段等。
相应地，上述将源域拼接向量输入源域分类网络，得到源域行为预测结果，可以实施为：将源域样本中的源域画像特征和源域行为环境特征，以及该源域拼接向量共同输入源域分类网络，得到源域行为预测结果；上述将目标域拼接向量输入目标域分类网络，得到目标域行为预测结果，包括：将目标域样本中的目标域画像特征和目标域行为环境特征，以及该目标域拼接向量共同输入目标域分类网络，得到目标域行为预测结果。
在一个具体的实施例中，上述源域分类网络和目标域分类网络可以基于深度神经网络DNN或卷积神经网络CNN等实现。
以上，介绍通过分类网络确定行为预测结果。在另一个实施例中，上述源域行为预测结果的确定可以包括：计算源域用户向量和源域当前对象向量的相似度，作为源域行为预测结果，表示用户对源域当前对象做出源域特定行为的概率；上述目标域行为预测结果的确定可以包括：计算目标域用户向量和目标域当前对象向量的相似度，作为目标域行为预测结果，表示用户对目标域当前对象做出目标域特定行为的概率。在一个具体的实施例中，其中向量间相似度的计算可以采用计算余弦相似度的方式，或者，先计算两个向量之间的点乘结果，再利用sigmoid函数对该点乘结果进行归一化处理，得到取值范围在0到1之间的相似度。
以上，可以得到源域行为预测结果和目标域行为预测结果。然后，在步骤S250，基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。在一个实施例中，本步骤可以包括：基于所述源域行为预测结果和源域行为标签，确定源域预测损失；基于所述目标域行为预测结果和目标域行为标签，确定目标域预测损失；利用综合损失，更新所述行为预测系统，所述综合损失与源域预测损失和所述目标域预测损失均正相关。在一个具体的实施例中，上述源域预测损失和目标域预测损失的计算，可以采用交叉熵损失函数，或铰链损失函数等。在一个具体的实施例中，综合损失的确定可以采用以下公式：
Figure 877270DEST_PATH_IMAGE045
（25）
上式中，L表示综合损失；
Figure 897178DEST_PATH_IMAGE046
为超参数，例如，可以设定为0.5或0.7等；
Figure 899770DEST_PATH_IMAGE047
表示源域预测损失；
Figure 688734DEST_PATH_IMAGE048
表示目标域预测损失。
在确定出综合损失后，可以利用反向传播法，更新行为预测系统中的模型参数。需要理解，每次更新，可以基于利用一个训练样本对确定的综合损失进行，也可以基于利用多个训练样本对确定的综合损失进行，取决于训练过程中人为确定的批次样本对数量（batch size）。
基于训练样本对数据集，通过多次执行上述步骤S210至步骤S250，可以实现对行为预测系统的多次迭代更新，直到迭代至预定次数，或者，迭代至模型参数收敛。
综上，采用本说明书实施例披露的行为预测系统的更新方法，充分利用用户在源域和目标域的数据，采用联合注意力机制对用户行为进行建模，从而利用学习到的细粒度用户偏好表达，提升用户在两个域，尤其是目标域内行为预测结果的准确性，进而实现对用户的精准推荐，有效提高用户体验。
与上述更新方法相对应的，本说明书实施例还披露一种更新装置。具体如下：
图5示出根据一个实施例的行为预测系统的更新装置结构图，如图5所示，所述装置500包括：
样本对获取单元510，配置为获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签。对象编码单元520，配置为将所述训练样本对输入所述行为预测系统，该行为预测系统包括源域编码层和目标域编码层；其中，所述源域编码层针对源域样本中的M+1个源域对象，基于目标域样本中M+1个目标域对象确定源域注意力，从而编码得到源域当前对象向量和M个源域历史对象向量；所述目标域编码层针对所述M+1个目标域对象，基于所述M+1个源域对象确定目标域注意力，从而编码得到目标域当前对象向量和M个目标域历史对象向量。用户表征单元530，配置为基于所述M个源域历史对象向量以及M个目标域历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量。行为预测单元540，配置为基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果。系统更新单元550，配置为基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
在一个实施例中，上述源域编码层包括N个源域编码子层，其中第i个源域编码子层获取上述M+1个源域对象的上一层表征向量和上述M+1个目标域对象的上一层表征向量，至少基于对上述M+1个目标域对象的上一层表征向量的第一线性变换结果确定上述源域注意力，基于上述源域注意力编码得到上述M+1个源域对象的本层表征向量。上述目标域编码层包括N个目标域编码子层，其中第i个目标域编码子层获取上述M+1个源域对象的上一层表征向量和上述M+1个目标域对象的上一层表征向量，至少基于对上述M+1个源域对象的上一层表征向量的第二线性变换结果确定上述目标域注意力，基于上述目标域注意力编码得到上述M+1个目标域对象的本层表征向量。
在一个具体的实施例中，上述行为预测系统还包括，源域嵌入层和目标域嵌入层，上述源域嵌入层确定上述M+1个源域对象对应的M+1个源域对象嵌入向量；上述目标域嵌入层确定上述M+1个目标域对象对应的M+1个目标域对象嵌入向量。上述第i个为第1个；上述M+1个目标域对象的上一层表征向量为上述M+1个目标域对象嵌入向量；上述M+1个源域对象的上一层表征向量为上述M+1个源域对象嵌入向量。
在另一个具体的实施例中，上述第i个不是第1个；上述M+1个目标域对象的上一层表征向量为，第i-1个目标域编码层输出的M+1个目标域对象表征向量；上述M+1个源域对象的上一层表征向量为，第i-1个源域编码层输出的M+1个源域对象表征向量。
另一方面，在一个具体的实施例中，上述源域编码层和目标域编码层均基于Transformer机制。上述第i个源域编码子层，利用源域查询变换矩阵对上述M+1个目标域对象的上一层表征向量进行上述第一线性变换，得到源域查询结果矩阵；分别利用源域键变换矩阵和源域值变换矩阵对上述M+1个源域对象的上一层表征向量进行变换，得到对应的源域键结果矩阵和源域值结果矩阵；基于上述源域查询结果矩阵和上述源域键结果矩阵的乘积确定上述源域注意力，基于上述源域注意力和上述源域值结果矩阵，得到上述M+1个源域对象的本层表征向量。上述第i个目标域编码子层，利用目标域查询变换矩阵对上述M+1个源域对象的上一层表征向量进行上述第二线性变换，得到目标域查询结果矩阵；分别利用目标域键变换矩阵和目标域值变换矩阵对上述M+1个目标域对象的上一层表征向量进行变换，得到对应的目标域键结果矩阵和目标域值结果矩阵；基于上述目标域查询结果矩阵和上述目标域键结果矩阵的乘积确定上述目标域注意力，基于上述目标域注意力和上述目标域值结果矩阵，得到上述M+1个目标域对象的本层表征向量。
在另一个具体的实施例中，上述源域编码层和目标域编码层均基于Transformer机制。上述第i个源域编码子层，分别利用源域键变换矩阵和源域值变换矩阵对上述M+1个目标域对象的上一层表征向量进行上述第一线性变换，得到源域键结果矩阵和源域值结果矩阵；利用源域查询变换矩阵对上述M+1个源域对象的上一层表征向量进行变换，得到源域查询结果；基于上述源域查询结果矩阵和上述源域键结果矩阵的乘积确定上述源域注意力，基于上述源域注意力和上述源域值结果矩阵，得到上述M+1个源域对象的本层表征向量。上述第i个目标域编码子层，分别利用目标域键变换矩阵和目标域值变换矩阵对上述M+1个源域对象的上一层表征向量进行上述第二线性变换，得到目标域键结果矩阵和目标域值结果矩阵；利用目标域查询变换矩阵对上述M+1个目标域对象的上一层表征向量进行变换，得到目标域查询结果；基于上述目标域查询结果矩阵和上述目标域键结果矩阵的乘积确定上述目标域注意力，基于上述目标域注意力和上述目标域值结果矩阵，得到上述M+1个目标域对象的本层表征向量。
在一个实施例中，上述用户表征单元530具体配置为：利用第一组合权重，对上述M个源域历史对象向量的源域平均向量，以及上述M个目标域历史对象向量的目标域平均向量进行加权求和，得到上述源域用户向量；利用第二组合权重，对上述源域平均向量和目标域平均向量进行加权求和，得到上述目标域用户向量。
在一个实施例中，上述M个源域历史对象向量和M个目标域历史对象向量共计2M个历史对象向量；上述用户表征单元530包括：源域注意力确定模块，配置为确定上述源域当前对象向量，针对上述2M个历史对象向量中各个向量分配的第一注意力权重；源域向量确定模块，配置为利用该第一注意力权重，对上述2M个历史对象向量进行加权求和，得到上述源域用户向量；目标域注意力确定模块，确定上述目标域当前对象向量，针对上述2M个历史对象向量中各个向量分配的第二注意力权重；目标域向量确定模块，利用该第二注意力权重，对上述2M个历史对象向量进行加权求和，得到上述目标域用户向量。
在一个具体的实施例中，上述行为预测系统还包括源域注意力打分网络和目标域注意力打分网络；上述源域注意力确定模块具体配置为：将上述源域当前对象向量分别与上述各个向量进行拼接，得到2M个源域拼接向量；将上述2M个源域拼接向量分别输入上述源域注意力打分网络，得到2M个源域注意力分数，对其进行归一化处理，得到上述第一注意力权重；上述目标域注意力确定模块具体配置为：将上述目标域当前对象向量分别与上述各个向量进行拼接，得到2M个目标域拼接向量；将上述2M个目标域拼接向量分别输入上述目标域注意力打分网络，得到2M个目标域注意力分数，对其进行归一化处理，得到上述第二注意力权重。
在一个实施例中，上述行为预测系统还包括源域分类网络和目标域分类网络；上述行为预测单元540包括：源域预测模块，配置为对该源域用户向量和源域当前对象向量进行拼接，得到源域拼接向量；将该源域拼接向量输入上述源域分类网络，得到上述源域行为预测结果；目标域预测模块，配置为对该目标域用户向量和目标域当前对象向量进行拼接，得到目标域拼接向量；将该目标域拼接向量输入上述目标域分类网络，得到上述目标域行为预测结果。
在一个具体的实施例中，上述源域预测模块进一步配置为：对该源域用户向量、源域当前向量和目标域用户向量进行拼接，得到上述源域拼接向量；上述目标域预测模块进一步配置为：对该目标域用户向量、目标域当前向量和源域用户向量进行拼接，得到上述目标域拼接向量。
在一个具体的实施例中，上述各域样本还包括上述用户的画像特征、上述当前对象对应的行为环境特征；上述源域预测模块进一步配置为：将上述源域样本中的源域画像特征和源域行为环境特征，以及该源域拼接向量共同输入上述源域分类网络，得到上述源域行为预测结果；上述目标域预测模块进一步配置为：将上述目标域样本中的目标域画像特征和目标域行为环境特征，以及该目标域拼接向量共同输入上述目标域分类网络，得到上述目标域行为预测结果。
在一个实施例中，上述系统更新单元550具体配置为：基于上述源域行为预测结果和源域行为标签，确定源域预测损失；基于上述目标域行为预测结果和目标域行为标签，确定目标域预测损失；利用综合损失，更新上述行为预测系统，上述综合损失与源域预测损失和上述目标域预测损失正相关。
如上，根据又一方面的实施例，还提供一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行结合图2所描述的方法。
根据又一方面的实施例，还提供一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现结合图2所描述的方法。
本领域技术人员应该可以意识到，在上述一个或多个示例中，本说明书披露的多个实施例所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。
以上所述的具体实施方式，对本说明书披露的多个实施例的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本说明书披露的多个实施例的具体实施方式而已，并不用于限定本说明书披露的多个实施例的保护范围，凡在本说明书披露的多个实施例的技术方案的基础之上，所做的任何修改、等同替换、改进等，均应包括在本说明书披露的多个实施例的保护范围之内。

Claims (15)

1.一种行为预测系统的更新方法，包括：
获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；
将所述训练样本对输入所述行为预测系统，该行为预测系统包括基于Transformer机制的源域编码层和目标域编码层；
其中，所述源域编码层包括N个源域编码子层，第i个源域编码子层，利用源域查询变换矩阵对M+1个目标域对象的上一层表征向量进行第一线性变换，得到源域查询结果矩阵；分别利用源域键变换矩阵和源域值变换矩阵对M+1个源域对象的上一层表征向量进行变换，得到对应的源域键结果矩阵和源域值结果矩阵；基于所述源域查询结果矩阵和所述源域键结果矩阵的乘积确定源域注意力，基于源域注意力和源域值结果矩阵，得到所述M+1个源域对象的本层表征向量，从而源域编码层编码得到源域当前对象向量和M个源域历史对象向量；
所述目标域编码层包括N个目标域编码子层，第i个目标域编码子层，利用目标域查询变换矩阵对M+1个源域对象的上一层表征向量进行第二线性变换，得到目标域查询结果矩阵；分别利用目标域键变换矩阵和目标域值变换矩阵对M+1个目标域对象的上一层表征向量进行变换，得到对应的目标域键结果矩阵和目标域值结果矩阵；基于目标域查询结果矩阵和目标域键结果矩阵的乘积确定目标域注意力，基于目标域注意力和所述目标域值结果矩阵，得到所述M+1个目标域对象的本层表征向量，从而目标域编码层编码得到目标域当前对象向量和M个目标域历史对象向量；
基于包括所述M个源域历史对象向量以及M个目标域历史对象向量的2M个历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；
基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果；
基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
2.根据权利要求1所述的方法，其中，所述行为预测系统还包括，源域嵌入层和目标域嵌入层，所述源域嵌入层确定所述M+1个源域对象对应的M+1个源域对象嵌入向量；所述目标域嵌入层确定所述M+1个目标域对象对应的M+1个目标域对象嵌入向量；
所述第i个为第1个；所述M+1个目标域对象的上一层表征向量为所述M+1个目标域对象嵌入向量；所述M+1个源域对象的上一层表征向量为所述M+1个源域对象嵌入向量。
3.根据权利要求1所述的方法，其中，所述第i个不是第1个；
所述M+1个目标域对象的上一层表征向量为，第i-1个目标域编码层输出的M+1个目标域对象表征向量；
所述M+1个源域对象的上一层表征向量为，第i-1个源域编码层输出的M+1个源域对象表征向量。
4.根据权利要求1所述的方法，其中，
所述第一融合包括：利用第一组合权重，对所述M个源域历史对象向量的源域平均向量，以及所述M个目标域历史对象向量的目标域平均向量进行加权求和，得到所述源域用户向量；
所述第二融合包括：利用第二组合权重，对所述源域平均向量和目标域平均向量进行加权求和，得到所述目标域用户向量。
5.根据权利要求1所述的方法，其中，
所述第一融合包括：确定所述源域当前对象向量，针对所述2M个历史对象向量中各个向量分配的第一注意力权重；利用该第一注意力权重，对所述2M个历史对象向量进行加权求和，得到所述源域用户向量；
所述第二融合包括：确定所述目标域当前对象向量，针对所述2M个历史对象向量中各个向量分配的第二注意力权重；利用该第二注意力权重，对所述2M个历史对象向量进行加权求和，得到所述目标域用户向量。
6.根据权利要求5所述的方法，其中，所述行为预测系统还包括源域注意力打分网络和目标域注意力打分网络；
确定所述源域当前对象向量，针对所述2M个历史对象向量中各个向量分配的第一注意力权重，包括：将所述源域当前对象向量分别与所述各个向量进行拼接，得到2M个源域拼接向量；将所述2M个源域拼接向量分别输入所述源域注意力打分网络，得到2M个源域注意力分数；对该2M个源域注意力分数进行归一化处理，得到所述第一注意力权重；
确定所述目标域当前对象向量，针对所述2M个历史对象向量中各个向量分配的第二注意力权重，包括：将所述目标域当前对象向量分别与所述各个向量进行拼接，得到2M个目标域拼接向量；将所述2M个目标域拼接向量分别输入所述目标域注意力打分网络，得到2M个目标域注意力分数；对该2M个目标域注意力分数进行归一化处理，得到所述第二注意力权重。
7.根据权利要求1所述的方法，其中，所述行为预测系统还包括源域分类网络和目标域分类网络；
其中，基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果，包括：对该源域用户向量和源域当前对象向量进行拼接，得到源域拼接向量；将该源域拼接向量输入所述源域分类网络，得到所述源域行为预测结果；
其中，基于所述目标域用户向量和所述目标域当前对象向量，确定目标域行为预测结果，包括：对该目标域用户向量和目标域当前对象向量进行拼接，得到目标域拼接向量；将该目标域拼接向量输入所述目标域分类网络，得到所述目标域行为预测结果。
8.根据权利要求7所述的方法，
其中，对该源域用户向量和源域当前对象向量进行拼接，得到源域拼接向量，包括：对该源域用户向量、源域当前向量和目标域用户向量进行拼接，得到所述源域拼接向量；
其中，对该目标域用户向量和目标域当前对象向量进行拼接，得到目标域拼接向量,包括：对该目标域用户向量、目标域当前向量和源域用户向量进行拼接，得到所述目标域拼接向量。
9.根据权利要求7或8所述的方法，其中，所述各域样本还包括所述用户的画像特征、所述当前对象对应的行为环境特征；
其中，将该源域拼接向量输入所述源域分类网络，得到所述源域行为预测结果，包括：将所述源域样本中的源域画像特征和源域行为环境特征，以及该源域拼接向量共同输入所述源域分类网络，得到所述源域行为预测结果；
其中，将该目标域拼接向量输入所述目标域分类网络，得到所述目标域行为预测结果，包括：将所述目标域样本中的目标域画像特征和目标域行为环境特征，以及该目标域拼接向量共同输入所述目标域分类网络，得到所述目标域行为预测结果。
10.根据权利要求1所述的方法，其中，基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统，包括：
基于所述源域行为预测结果和源域行为标签，确定源域预测损失；
基于所述目标域行为预测结果和目标域行为标签，确定目标域预测损失；
利用综合损失，更新所述行为预测系统，所述综合损失与源域预测损失和所述目标域预测损失正相关。
11.一种行为预测系统的更新装置，包括：
样本对获取单元，配置为获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；
对象编码单元，配置为将所述训练样本对输入所述行为预测系统，该行为预测系统包括基于Transformer机制的源域编码层和目标域编码层；
其中，所述源域编码层包括N个源域编码子层，第i个源域编码子层，利用源域查询变换矩阵对M+1个目标域对象的上一层表征向量进行第一线性变换，得到源域查询结果矩阵；分别利用源域键变换矩阵和源域值变换矩阵对M+1个源域对象的上一层表征向量进行变换，得到对应的源域键结果矩阵和源域值结果矩阵；基于所述源域查询结果矩阵和所述源域键结果矩阵的乘积确定源域注意力，基于源域注意力和源域值结果矩阵，得到所述M+1个源域对象的本层表征向量，从而源域编码层编码得到源域当前对象向量和M个源域历史对象向量；
所述目标域编码层包括N个目标域编码子层，第i个目标域编码子层，利用目标域查询变换矩阵对M+1个源域对象的上一层表征向量进行第二线性变换，得到目标域查询结果矩阵；分别利用目标域键变换矩阵和目标域值变换矩阵对M+1个目标域对象的上一层表征向量进行变换，得到对应的目标域键结果矩阵和目标域值结果矩阵；基于目标域查询结果矩阵和目标域键结果矩阵的乘积确定目标域注意力，基于目标域注意力和所述目标域值结果矩阵，得到所述M+1个目标域对象的本层表征向量从而目标域编码层编码得到目标域当前对象向量和M个目标域历史对象向量；
用户表征单元，配置为基于包括所述M个源域历史对象向量以及M个目标域历史对象向量的2M个历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；
行为预测单元，配置为基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果；
系统更新单元，配置为基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
12.一种行为预测系统的更新方法，包括：
获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；
将所述训练样本对输入所述行为预测系统，该行为预测系统包括基于Transformer机制的源域编码层和目标域编码层；
其中，所述源域编码层包括N个源域编码子层，第i个源域编码子层，分别利用源域键变换矩阵和源域值变换矩阵对M+1个目标域对象的上一层表征向量进行第一线性变换，得到源域键结果矩阵和源域值结果矩阵；利用源域查询变换矩阵对M+1个源域对象的上一层表征向量进行变换，得到源域查询结果矩阵；基于所述源域查询结果矩阵和所述源域键结果矩阵的乘积确定所述源域注意力，基于所述源域注意力和所述源域值结果矩阵，得到所述M+1个源域对象的本层表征向量，从而源域编码层编码得到源域当前对象向量和M个源域历史对象向量；
所述目标域编码层包括N个目标域编码子层，第i个目标域编码子层，分别利用目标域键变换矩阵和目标域值变换矩阵对所述M+1个源域对象的上一层表征向量进行第二线性变换，得到目标域键结果矩阵和目标域值结果矩阵；利用目标域查询变换矩阵对所述M+1个目标域对象的上一层表征向量进行变换，得到目标域查询结果矩阵；基于所述目标域查询结果矩阵和所述目标域键结果矩阵的乘积确定所述目标域注意力，基于所述目标域注意力和所述目标域值结果矩阵，得到所述M+1个目标域对象的本层表征向量，从而目标域编码层编码得到目标域当前对象向量和M个目标域历史对象向量；
基于包括所述M个源域历史对象向量以及M个目标域历史对象向量的2M个历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；
基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果；
基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
13.一种行为预测系统的更新装置，包括：
样本对获取单元，配置为获取训练样本对，其中包括对应同一用户的源域样本和目标域样本，各域样本包括对应域的当前对象，用户已做出特定行为的M个历史对象，以及指示该用户是否对该当前对象做出特定行为的行为标签；
对象编码单元，配置为将所述训练样本对输入所述行为预测系统，该行为预测系统包括基于Transformer机制的源域编码层和目标域编码层；
其中，所述源域编码层包括N个源域编码子层，第i个源域编码子层，分别利用源域键变换矩阵和源域值变换矩阵对M+1个目标域对象的上一层表征向量进行第一线性变换，得到源域键结果矩阵和源域值结果矩阵；利用源域查询变换矩阵对M+1个源域对象的上一层表征向量进行变换，得到源域查询结果矩阵；基于所述源域查询结果矩阵和所述源域键结果矩阵的乘积确定所述源域注意力，基于所述源域注意力和所述源域值结果矩阵，得到所述M+1个源域对象的本层表征向量，从而源域编码层编码得到源域当前对象向量和M个源域历史对象向量；
所述目标域编码层包括N个目标域编码子层，第i个目标域编码子层，分别利用目标域键变换矩阵和目标域值变换矩阵对所述M+1个源域对象的上一层表征向量进行第二线性变换，得到目标域键结果矩阵和目标域值结果矩阵；利用目标域查询变换矩阵对所述M+1个目标域对象的上一层表征向量进行变换，得到目标域查询结果矩阵；基于所述目标域查询结果矩阵和所述目标域键结果矩阵的乘积确定所述目标域注意力，基于所述目标域注意力和所述目标域值结果矩阵，得到所述M+1个目标域对象的本层表征向量，从而目标域编码层编码得到目标域当前对象向量和M个目标域历史对象向量；
用户表征单元，配置为基于包括所述M个源域历史对象向量以及M个目标域历史对象向量的2M个历史对象向量，分别进行第一融合和第二融合，对应得到源域用户向量和目标域用户向量；
行为预测单元，基于所述源域用户向量和所述源域当前对象向量，确定源域行为预测结果；基于所述目标域用户向量和目标域当前对象向量，确定目标域行为预测结果；
系统更新单元，基于所述源域行为预测结果和源域行为标签，以及所述目标域行为预测结果和目标域行为标签，更新所述行为预测系统。
14.一种计算机可读存储介质，其上存储有计算机程序，其中，当所述计算机程序在计算机中执行时，令计算机执行权利要求1-10、12中任一项的所述的方法。
15.一种计算设备，包括存储器和处理器，其中，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现权利要求1-10、12中任一项所述的方法。
CN202011503790.7A 2020-12-18 2020-12-18 行为预测系统的更新方法及装置、存储介质和计算设备 Active CN112288042B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011503790.7A CN112288042B (zh) 2020-12-18 2020-12-18 行为预测系统的更新方法及装置、存储介质和计算设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011503790.7A CN112288042B (zh) 2020-12-18 2020-12-18 行为预测系统的更新方法及装置、存储介质和计算设备

Publications (2)

Publication Number Publication Date
CN112288042A CN112288042A (zh) 2021-01-29
CN112288042B true CN112288042B (zh) 2021-04-02

Family

ID=74426933

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011503790.7A Active CN112288042B (zh) 2020-12-18 2020-12-18 行为预测系统的更新方法及装置、存储介质和计算设备

Country Status (1)

Country Link
CN (1) CN112288042B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112801718B (zh) * 2021-02-22 2021-10-01 平安科技（深圳）有限公司 用户行为预测方法、装置、设备及介质
CN113011966A (zh) * 2021-03-18 2021-06-22 中国光大银行股份有限公司 基于深度学习的信用评分方法及装置
CN113095883B (zh) * 2021-04-21 2023-04-07 山东大学 基于深度交叉注意力网络的视频付费用户预测方法及系统
CN113435594B (zh) * 2021-06-30 2022-08-02 平安科技（深圳）有限公司 安防检测模型训练方法、装置、设备及存储介质
CN113806630B (zh) * 2021-08-05 2024-06-14 中国科学院信息工程研究所 基于注意力的多视角特征融合跨域推荐方法及装置
CN114692972A (zh) * 2022-03-31 2022-07-01 支付宝(杭州)信息技术有限公司 行为预测系统的训练方法及装置
CN115830548B (zh) * 2023-02-17 2023-05-05 天津大学 一种无监督多领域融合的自适应行人重识别方法
CN117743694B (zh) * 2024-02-06 2024-05-14 中国海洋大学 基于图节点特征增强的多层迁移学习跨域推荐方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110659744A (zh) * 2019-09-26 2020-01-07 支付宝(杭州)信息技术有限公司 训练事件预测模型、评估操作事件的方法及装置
CN112035747A (zh) * 2020-09-03 2020-12-04 腾讯科技（深圳）有限公司 信息推荐方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111553754B (zh) * 2020-07-10 2020-12-01 支付宝(杭州)信息技术有限公司 行为预测系统的更新方法及装置
CN111814977B (zh) * 2020-08-28 2020-12-18 支付宝(杭州)信息技术有限公司 训练事件预测模型的方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110659744A (zh) * 2019-09-26 2020-01-07 支付宝(杭州)信息技术有限公司 训练事件预测模型、评估操作事件的方法及装置
CN112035747A (zh) * 2020-09-03 2020-12-04 腾讯科技（深圳）有限公司 信息推荐方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Transferable Attention for Domain Adaptation";Ximei Wang等;《ResearchGate》;20190731;全文 *

Also Published As

Publication number Publication date
CN112288042A (zh) 2021-01-29

Similar Documents

Publication Publication Date Title
CN112288042B (zh) 行为预测系统的更新方法及装置、存储介质和计算设备
CN110909176B (zh) 数据推荐方法、装置、计算机设备以及存储介质
CN111538912B (zh) 内容推荐方法、装置、设备及可读存储介质
CN111553754B (zh) 行为预测系统的更新方法及装置
WO2019242331A1 (zh) 用户行为预测方法及装置、行为预测模型训练方法及装置
CN111898031B (zh) 一种获得用户画像的方法及装置
JP7160980B2 (ja) 情報提供装置、情報提供方法、およびプログラム
CN111061945B (zh) 推荐方法、装置、电子设备，存储介质
CN115917535A (zh) 推荐模型的训练方法、推荐方法、装置及计算机可读介质
CN110019943A (zh) 视频推荐方法、装置、电子设备和存储介质
CN111626832A (zh) 产品推荐方法、装置及计算机设备
CN111008335B (zh) 一种信息处理方法、装置、设备及存储介质
CN111274501A (zh) 推送信息的方法、系统和非暂时性存储介质
CN111738780A (zh) 一种推荐对象的方法及系统
CN109189922B (zh) 评论评估模型的训练方法和装置
CN112765482A (zh) 产品投放方法、装置、设备及计算机可读介质
CN114386513A (zh) 一种集成评论与评分的交互式评分预测方法及系统
CN115964560A (zh) 基于多模态预训练模型的资讯推荐方法及设备
CN112785390B (zh) 推荐处理方法、装置、终端设备以及存储介质
CN113836390B (zh) 资源推荐方法、装置、计算机设备及存储介质
US20230316106A1 (en) Method and apparatus for training content recommendation model, device, and storage medium
CN113327132A (zh) 多媒体推荐方法、装置、设备及存储介质
CN115238188A (zh) 一种对象推荐方法和系统及对象推荐模型系统
CN114579867A (zh) 资源推荐的方法和装置、电子设备和存储介质
CN116628236B (zh) 多媒体信息的投放方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant