CN116578774A - 一种预估排序方法、装置、计算机设备及存储介质 - Google Patents

一种预估排序方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN116578774A
CN116578774A CN202310420435.0A CN202310420435A CN116578774A CN 116578774 A CN116578774 A CN 116578774A CN 202310420435 A CN202310420435 A CN 202310420435A CN 116578774 A CN116578774 A CN 116578774A
Authority
CN
China
Prior art keywords
behavior
carrying
sample
model
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310420435.0A
Other languages
English (en)
Inventor
康莉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Property and Casualty Insurance Company of China Ltd
Original Assignee
Ping An Property and Casualty Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Property and Casualty Insurance Company of China Ltd filed Critical Ping An Property and Casualty Insurance Company of China Ltd
Priority to CN202310420435.0A priority Critical patent/CN116578774A/zh
Publication of CN116578774A publication Critical patent/CN116578774A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9538—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Economics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Game Theory and Decision Science (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Development Economics (AREA)
  • Biophysics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)

Abstract

本申请公开一种预估排序方法、装置、计算机设备及存储介质，属于人工智能技术领域。本申请通过基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集和基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对多任务学习模型进行拟合训练，得到预估排序模型，将用户数据导入预估排序模型得到信息预估排序结果，基于信息预估排序结果完成信息推送。此外，本申请还涉及区块链技术，用户数据可存储于区块链中。本申请通过在多任务学习模型中将第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。

Description

一种预估排序方法、装置、计算机设备及存储介质
技术领域
本申请属于人工智能技术领域，具体涉及一种预估排序方法、装置、计算机设备及存储介质。
背景技术
在搜索和推荐等信息检索场景下，最基础的一个目标就是用户的CTR(Click-Through-Rate，点击通过率)，表征用户看见了一篇内容之后是否会去点击阅读。但CTR仅能表征点击阅读行为，而用户在产品上的行为可以是多种多样的，比如点赞、收藏、分享、评论、转化(购买)等，此类行为需要模型通过统一的范式标准进行衡量。
虽然可以对用户的CTR进行单个目标的优化，但是这样的做法具有一定的片面性，容易推出来标题党，带来负面影响，即靠用户点击这个行为推荐出来的内容并不一定是用户非常满意的内容，用户的阅读量虽然上去了，但是其他的各种行为(收藏、点赞、分享等等)是下降的，这些数据下降代表着用户接收到太多不实用的信息，因此，需要将阅读、点赞、收藏、分享、转化(购买)等等一系列的行为归纳到一个模型里面进行学习，即多目标学习的推荐系统，多目标排序就是利用多个目标函数找到一种综合排序方法，使得多个目标都达到整体最优。
目前，最新的多目标学习的推荐系统基于多任务学习框架MMOE实现，该框架由OMOE(One-gate Mixture of Experts)演化而来，MMOE其实是MOE针对多任务学习的变种和优化，相对于OMOE的结构中所有任务共享一个门控网络，MMOE的结构优化为每个任务都单独使用一个门控网络，这样的改进可以针对不同任务得到不同的Experts权重，从而实现对Experts的选择性利用，不同任务对应的门控网络可以学习到不同的Experts组合模式，因此模型更容易捕捉到子任务间的相关性和差异性。
然而上述多目标学习的推荐模型在CVR(Conversion Rate，转化率)预估上仍然存在一些不足。首先，MMOE这样的多任务推荐模型仅用具有点击行为的样本来训练CVR预估模型，但训练好的模型确用在整个样本空间去做推断和预测的。由于点击事件相对于曝光事件来说要少很多，因此只是样本空间的一个很小的子集，这种训练样本从整体样本空间的一个较小子集中提取，而训练得到的模型却需要对整个样本空间中的样本做推断预测的现象称之为样本选择偏差，样本选择偏差会伤害学到的模型的泛化性能。
发明内容
本申请实施例的目的在于提出一种预估排序方法、装置、计算机设备及存储介质，以解决现有方案在训练多目标学习的推荐模型时存在样本选择偏差，存在样本选择偏差问题，导致训练得到的推荐模型泛化性能力，预测准确度低，影响用户使用体验。
为了解决上述技术问题，本申请实施例提供一种预估排序方法，采用了如下所述的技术方案：
一种预估排序方法，所述预估排序方法应用于多任务学习的预估排序模型，所述方法包括：
获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集；
获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集；
基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型；
接收信息推荐指令，获取推荐目标用户的用户数据，将所述用户数据导入所述预估排序模型，得到信息预估排序结果，基于所述信息预估排序结果完成信息推送。
进一步地，所述第一行为为用户点击行为，所述获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，具体包括：
获取带有用户点击行为的曝光事件作为第一正样本，以及获取没有用户点击行为的曝光事件作为第一负样本；
组合所述第一正样本和所述第一负样本，构建所述第一样本集。
进一步地，所述第二行为为用户购买行为，所述获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，具体包括：
获取带有用户购买行为的曝光事件作为第二正样本，以及获取没有用户购买行为的曝光事件作为第二负样本；
组合所述第二正样本和所述第二负样本，构建所述第二样本集。
进一步地，所述预估排序模型还包括多头注意力网络，所述基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，具体包括：
基于所述多头注意力网络对所述第一正样本进行特征提取，得到第一样本特征；
基于所述多头注意力网络对所述第二正样本进行特征提取，得到第二样本特征；
利用所述初始多任务学习模型基于第一样本特征对所述第一行为进行预测，得到第一行为预测结果；
利用所述初始多任务学习模型基于第二样本特征对所述第二行为进行预测，得到第二行为预测结果；
对所述第一行为预测结果和所述第二行为预测结果进行拟合，得到多任务预测拟合结果；
基于所述初始多任务学习模型的损失函数计算所述多任务预测拟合结果与预设的标准结果之间的预测误差；
基于所述预测误差对所述初始多任务学习模型进行迭代更新，得到所述预估排序模型。
进一步地，基于以下公式对所述第一行为预测结果和所述第二行为预测结果进行拟合：
p(y＝1,z＝1|x)＝p(y＝1|x1)*p(z＝1|y＝1,x2)
式中，p(y＝1,z＝1|x)为多任务预测拟合结果，p(y＝1|x1)为第一行为预测结果，p(z＝1|y＝1,x2)为第二行为预测结果，x表示样本特征，x包括第一样本特征x1和第二样本特征x2，y表示第一行为，z表示第二行为。
进一步地，所述初始多任务学习模型包括第一学习网络和第二学习网络，所述第一学习网络用于对所述第一行为进行预测，所述第二学习网络用于对所述第二行为进行预测，所述初始多任务学习模型的损失函数表示如下：
式中，L是初始多任务学习模型的交叉熵损失函数，θ1表示第一学习网络的网络参数，θ2表示第二学习网络的网络参数，N为样本总数，f(xi,θ1)＝p(y＝1|xi)，f(xi,θ1)*f(xi,θ2)＝p(z＝1|y＝1,xi)。
进一步地，所述基于所述预测误差对所述初始多任务学习模型进行迭代更新，得到所述预估排序模型，具体包括：
在所述初始多任务学习模型的各个网络层中传递所述预测误差；
获取各个网络层的预测误差；
将各个网络层的预测误差分别与预设的误差阈值进行比对，当存在任意网络层的预测误差大于所述误差阈值时，对所述初始多任务学习模型进行迭代更新，直至所述初始多任务学习模型所有网络层的预测误差均小于或等于所述误差阈值为止，输出所述预估排序模型。
为了解决上述技术问题，本申请实施例还提供一种预估排序装置，采用了如下所述的技术方案：
一种预估排序装置，包括：
第一样本构建模块，用于获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集；
第二样本构建模块，用于获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集；
多任务模型训练模块，用于基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型；
信息预估排序模块，用于接收信息推荐指令，获取推荐目标用户的用户数据，将所述用户数据导入所述预估排序模型，得到信息预估排序结果，基于所述信息预估排序结果完成信息推送。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上述任一项所述的预估排序方法的步骤。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上述中任一项所述的预估排序方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请公开一种预估排序方法、装置、计算机设备及存储介质，属于人工智能技术领域。本申请通过获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。本申请通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出了本申请可以应用于其中的示例性系统架构图；
图2示出了本申请实施例中的OMOE网络的结构图；
图3示出了本申请实施例中的MMOE网络的结构图；
图4示出了根据本申请的预估排序方法的多任务预估排序模型的结构图；
图5示出了根据本申请的预估排序方法的一个实施例的流程图；
图6示出了根据本申请的预估排序装置的一个实施例的结构示意图；
图7示出了根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器，服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
需要说明的是，本申请实施例所提供的预估排序方法一般由服务器执行，相应地，预估排序装置一般设置于服务器中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
目前，最新的多目标学习的推荐系统基于多任务学习框架MMOE实现，例如，论文《Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts》提出了一种新颖的多任务学习框架MMOE，该框架由OMOE演化而来。
OMOE(One-gate Mixture of Experts)由许多“专家”网络组成，如图2所示，每个“专家”网络都有一个简单的前馈神经网络和一个可训练的门控网络(gating network)，该门控网络选择“专家”网络的一个稀疏组合来处理每个输入，它可以实现自动分配参数以捕获多个任务可共享的信息或是特定于某个任务的信息，而无需为每个任务添加很多新参数，而且网络的所有部分都可以通过反向传播一起训练。因为只有一个Gate网络，为了与MMOE对应，也称这种结构为OMOE(One-gate Mixture-of-Experts),MOE模型可以形式化表示为：
其中，fi(i＝1,…,n)是n个expert network(expert network可认为是一个神经网络)，g是组合experts结果的门控网络(gating network)，具体来说g产生n个experts上的概率分布，最终的输出是所有experts的带权加和。显然，MOE可看做基于多个独立模型的集成方法。这里注意MOE只对应上图中的一部分，可以把得到的带权结果输入到子任务分别对应的tower network中进行学习。
MMOE其实是MOE针对多任务学习的变种和优化，MMOE结构图如图3所示，相对于OMOE的结构中所有任务共享一个门控网络，MMOE的结构优化为每个任务都单独使用一个门控网络。这样的改进可以针对不同任务得到不同的Experts权重，从而实现对Experts的选择性利用，不同任务对应的门控网络可以学习到不同的Experts组合模式，因此模型更容易捕捉到子任务间的相关性和差异性。
MMOE这样的多任务推荐模型仅用具有点击行为的样本来训练CVR预估模型，但训练好的模型确用在整个样本空间去做推断和预测的，这样的推荐模型存在样本选择偏差问题，导致训练得到的推荐模型泛化性能力，预测准确度低，影响用户使用体验。此外，MMOE中的每个“专家”网络都是一个简单的前馈神经网络，仅能提取简单的特征，无法捕获用户行为序列中的依赖关系。
针对上述技术问题，本申请公开一种基于上述MMOE结构的多任务学习的预估排序模型，本申请的多任务学习的预估排序模型结构如图4所示，在传统多任务学习排序模型的基础上，增加结果拟合层，当完成CTR预测和CVR预测后，对CTR结果和CVR结果进行拟合，使得模型学习多种用户行为的拟合特征，解决样本选择偏差问题，以提高模型泛化性能力和提升预测准确度。其中，左边的子网络用来拟合pCTR，右边的子网络用来拟合pCVR，同时，两个子网络的输出相乘之后可以得到拟合的pCTCVR。
本申请还公开了应用于上述多任务学习的预估排序模型的预估排序方法，通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。
此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
继续参考图5，示出了根据本申请的预估排序方法的一个实施例的流程图。本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(ArtificialIntelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。所述的预估排序方法，包括以下步骤：
S501，获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集。
其中，服务器的数据库中存储有大量预先收集的曝光事件，曝光事件是在网页加载时一种用户虚拟点击的交互行为，如商品、活动推荐等时采集的内容，通俗的讲，曝光事件就是页面中的某个元素、某个区域发生了曝光(即展现在页面前端)的事件。数据库中的曝光事件根据用户的不同行为会被预先采用不同的标签label标注，使得曝光事件携带不同的行为标签label。
在本实施例中，服务器从数据库中获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集。
进一步地，第一行为为用户点击行为，获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，具体包括：
获取带有用户点击行为的曝光事件作为第一正样本，以及获取没有用户点击行为的曝光事件作为第一负样本；
组合第一正样本和第一负样本，构建第一样本集。
在本申请一种实施例中，第一行为为用户点击行为，即用户在曝光页面进行了点击操作，点击操作包括点赞、收藏、分享、评论、转化(购买)等。服务器获取带有用户点击行为的曝光事件作为第一正样本，以及获取没有用户点击行为的曝光事件作为第一负样本，组合第一正样本和第一负样本，构建第一样本集。
在上述实施例中，本申请通过带有用户点击行为的曝光事件和没有用户点击行为的曝光事件构建第一样本集，通过第一样本集来实现用户CTR预测。
S502，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集。
在本实施例中，服务器从数据库中获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集。
进一步地，第二行为为用户购买行为，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，具体包括：
获取带有用户购买行为的曝光事件作为第二正样本，以及获取没有用户购买行为的曝光事件作为第二负样本；
组合第二正样本和第二负样本，构建第二样本集。
在本申请一种实施例中，第二行为为用户购买行为，即用户在曝光页面进行了购买操作。服务器获取带有用户购买行为的曝光事件作为第二正样本，以及获取没有用户购买行为的曝光事件作为第二负样本，组合第二正样本和第二负样本，构建第二样本集。
在上述实施例中，本申请通过带有用户购买行为的曝光事件和没有用户购买行为的曝光事件作为第二负样本构建第二样本集，通过第二样本集来实现用户CVR预测。
S503，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型。
在本实施例中，服务器基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型。本申请通过在传统多任务学习排序模型的基础上，增加结果拟合层，当完成CTR预测和CVR预测后，对CTR结果和CVR结果进行拟合，使得模型学习多种用户行为的拟合特征，解决样本选择偏差问题，以提高模型泛化性能力和提升预测准确度。
进一步地，预估排序模型还包括多头注意力网络，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，具体包括：
基于多头注意力网络对第一正样本进行特征提取，得到第一样本特征；
基于多头注意力网络对第二正样本进行特征提取，得到第二样本特征；
利用初始多任务学习模型基于第一样本特征对第一行为进行预测，得到第一行为预测结果；
利用初始多任务学习模型基于第二样本特征对第二行为进行预测，得到第二行为预测结果；
对第一行为预测结果和第二行为预测结果进行拟合，得到多任务预测拟合结果；
基于初始多任务学习模型的损失函数计算多任务预测拟合结果与预设的标准结果之间的预测误差；
基于预测误差对初始多任务学习模型进行迭代更新，得到预估排序模型。
在本实施例中，基于多头注意力网络对第一正样本进行特征提取，得到第一样本特征；基于多头注意力网络对第二正样本进行特征提取，得到第二样本特征，利用初始多任务学习模型基于第一样本特征对第一行为进行预测，得到第一行为预测结果，利用初始多任务学习模型基于第二样本特征对第二行为进行预测，得到第二行为预测结果，对第一行为预测结果和第二行为预测结果进行拟合，得到多任务预测拟合结果，基于初始多任务学习模型的损失函数计算多任务预测拟合结果与预设的标准结果之间的预测误差，预设的标准结果为曝光事件对应的行为标签label，基于预测误差对初始多任务学习模型进行迭代更新，得到预估排序模型。
在上述实施例中，本申请通过初始多任务学习模型的一个子网络来学习第一行为特征，并输出第一行为预测结果CTR，通过初始多任务学习模型的另一个子网络来学习第二行为特征，并输出第二行为预测结果CVR，并对CTR结果和CVR结果进行拟合，使得模型可以学习到多种用户行为的拟合特征。
进一步地，基于以下公式对第一行为预测结果和第二行为预测结果进行拟合：
p(y＝1,z＝1|x)＝p(y＝1|x1)*p(z＝1|y＝1,x2)
式中，p(y＝1,z＝1|x)为多任务预测拟合结果，p(y＝1|x1)为第一行为预测结果，p(z＝1|y＝1,x2)为第二行为预测结果，x表示样本特征feature(即impression)，x包括第一样本特征x1和第二样本特征x2，y表示第一行为，z表示第二行为。
在本实施例中，将(x,y)输入到CTR任务中，得到CTR的预估值，将(x,z)输入到CVR任务中，得到CVR的预估值，将CTR和CVR的预估值相乘，得到了拟合的CTCVR的预估值。
进一步地，初始多任务学习模型包括第一学习网络和第二学习网络，第一学习网络用于对第一行为进行预测，第二学习网络用于对第二行为进行预测，初始多任务学习模型的损失函数表示如下：
式中，L是初始多任务学习模型的交叉熵损失函数，θ1表示第一学习网络的网络参数，θ2表示第二学习网络的网络参数，N为样本总数，f(xi,θ1)＝p(y＝1|xi)，f(xi,θ1)*f(xi,θ2)＝p(z＝1|y＝1,xi)。
在本申请一种具体的实施例中，将有点击行为的曝光事件作为正样本，没有点击行为的曝光事件作为负样本，以构建第一样本集，用来训练CTR预估任务，将有购买行为的曝光事件作为正样本，将没有购买行为的曝光事件作为负样本来训练CVR预估任务，两个任务的输入其实是相同的，但是标签label是不同的，因此提取的特征也不同，CTR任务预估的是点击率，CVR预估的是转化率，将CTR和CVR的预估值相乘，得到了拟合结果CTCVR。通过模型损失函数计算拟合结果CTCVR与曝光事件的行为标签label之间的误差，并利用计算得到的预测误差对模型进行迭代更新，直至模型拟合。模型损失函数表示为：
式中，θctr和θcvr分别是CTR网络和CVR网络的参数。
进一步地，基于预测误差对初始多任务学习模型进行迭代更新，得到预估排序模型，具体包括：
在初始多任务学习模型的各个网络层中传递预测误差；
获取各个网络层的预测误差；
将各个网络层的预测误差分别与预设的误差阈值进行比对，当存在任意网络层的预测误差大于误差阈值时，对初始多任务学习模型进行迭代更新，直至初始多任务学习模型所有网络层的预测误差均小于或等于误差阈值为止，输出预估排序模型。
在本申请一种具体的实施例中，基于预设的反向传播算法在初始多任务学习模型的各个网络层中传递预测误差，获取各个网络层的预测误差，将各个网络层的预测误差分别与预设的误差阈值进行比对，当存在任意网络层的预测误差大于误差阈值时，对初始多任务学习模型进行迭代更新，直至初始多任务学习模型所有网络层的预测误差均小于或等于误差阈值为止，输出预估排序模型。
在上述实施例中，本申请通过反向传播算法实现多任务学习模型迭代训练，提升模型训练效率和模型的预测准确度。
S504，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。
在本实施例中，服务器接收信息推荐指令，获取推荐目标用户的用户数据，用户数据包括推荐目标用户的历史曝光事件，通过对推荐目标用户的历史曝光事件进行标注，并将标注后的用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。
在本实施例中，预估排序方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式接收信息推荐指令。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
本申请公开一种预估排序方法，属于人工智能技术领域。本申请通过获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。本申请通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
需要强调的是，为进一步保证上述用户数据的私密和安全性，上述用户数据还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该计算机可读指令在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图6，作为对上述图5所示方法的实现，本申请提供了一种预估排序装置的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，本实施例所述的预估排序装置600包括：
第一样本构建模块601，用于获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集；
第二样本构建模块602，用于获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集；
多任务模型训练模块603，用于基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型；
信息预估排序模块604，用于接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。
进一步地，第一行为为用户点击行为，第一样本构建模块601具体包括：
第一事件获取单元，用于获取带有用户点击行为的曝光事件作为第一正样本，以及获取没有用户点击行为的曝光事件作为第一负样本；
第一样本构建单元，用于组合第一正样本和第一负样本，构建第一样本集。
进一步地，第二行为为用户购买行为，第二样本构建模块602，具体包括：
第二事件获取单元，用于获取带有用户购买行为的曝光事件作为第二正样本，以及获取没有用户购买行为的曝光事件作为第二负样本；
第二样本构建单元，用于组合第二正样本和第二负样本，构建第二样本集。
进一步地，预估排序模型还包括多头注意力网络，多任务模型训练模块603具体包括：
第一特征提取单元，用于基于多头注意力网络对第一正样本进行特征提取，得到第一样本特征；
第二特征提取单元，用于基于多头注意力网络对第二正样本进行特征提取，得到第二样本特征；
第一行为预测单元，用于利用初始多任务学习模型基于第一样本特征对第一行为进行预测，得到第一行为预测结果；
第二行为预测单元，用于利用初始多任务学习模型基于第二样本特征对第二行为进行预测，得到第二行为预测结果；
行为预测拟合单元，用于对第一行为预测结果和第二行为预测结果进行拟合，得到多任务预测拟合结果；
预测误差计算单元，用于基于初始多任务学习模型的损失函数计算多任务预测拟合结果与预设的标准结果之间的预测误差；
模型迭代更新单元，用于基于预测误差对初始多任务学习模型进行迭代更新，得到预估排序模型。
进一步地，基于以下公式对第一行为预测结果和第二行为预测结果进行拟合：
p(y＝1,z＝1|x)＝p(y＝1|x1)*p(z＝1|y＝1,x2)
式中，p(y＝1,z＝1|x)为多任务预测拟合结果，p(y＝1|x1)为第一行为预测结果，p(z＝1|y＝1,x2)为第二行为预测结果，x表示样本特征，x包括第一样本特征x1和第二样本特征x2，y表示第一行为，z表示第二行为。
进一步地，初始多任务学习模型包括第一学习网络和第二学习网络，第一学习网络用于对第一行为进行预测，第二学习网络用于对第二行为进行预测，初始多任务学习模型的损失函数表示如下：
式中，L是初始多任务学习模型的交叉熵损失函数，θ1表示第一学习网络的网络参数，θ2表示第二学习网络的网络参数，N为样本总数，f(xi,θ1)＝p(y＝1|xi)，f(xi,θ1)*f(xi,θ2)＝p(z＝1|y＝1,xi)。
进一步地，模型迭代更新单元具体包括：
预测误差传递子单元，用于在初始多任务学习模型的各个网络层中传递预测误差；
网络层误差获取子单元，用于获取各个网络层的预测误差；
模型迭代更新子单元，用于将各个网络层的预测误差分别与预设的误差阈值进行比对，当存在任意网络层的预测误差大于误差阈值时，对初始多任务学习模型进行迭代更新，直至初始多任务学习模型所有网络层的预测误差均小于或等于误差阈值为止，输出预估排序模型。
本申请公开一种预估排序装置，属于人工智能技术领域。本申请通过获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。本申请通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图7，图7为本实施例计算机设备基本结构框图。
所述计算机设备7包括通过系统总线相互通信连接存储器71、处理器72、网络接口73。需要指出的是，图中仅示出了具有组件71-73的计算机设备7，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器71至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器71可以是所述计算机设备7的内部存储单元，例如该计算机设备7的硬盘或内存。在另一些实施例中，所述存储器71也可以是所述计算机设备7的外部存储设备，例如该计算机设备7上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器71还可以既包括所述计算机设备7的内部存储单元也包括其外部存储设备。本实施例中，所述存储器71通常用于存储安装于所述计算机设备7的操作系统和各类应用软件，例如预估排序方法的计算机可读指令等。此外，所述存储器71还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器72在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器72通常用于控制所述计算机设备7的总体操作。本实施例中，所述处理器72用于运行所述存储器71中存储的计算机可读指令或者处理数据，例如运行所述预估排序方法的计算机可读指令。
所述网络接口73可包括无线网络接口或有线网络接口，该网络接口73通常用于在所述计算机设备7与其他电子设备之间建立通信连接。
本申请公开一种计算机设备，属于人工智能技术领域。本申请通过获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。本申请通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的预估排序方法的步骤。
本申请公开一种存储介质，属于人工智能技术领域。本申请通过获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，基于第一样本集和第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，接收信息推荐指令，获取推荐目标用户的用户数据，将用户数据导入预估排序模型，得到信息预估排序结果，基于信息预估排序结果完成信息推送。本申请通过分别构建第一行为事件的样本集和第二行为事件的样本集，并通过构建的样本集进行多任务学习模型的拟合训练，使得第一行为特征和第二行为特征实现拟合，解决样本选择偏差问题，提高模型泛化性能力，提升预测准确度和用户使用体验。此外，本申请还在多任务学习模型中引入多头注意力网络，以获取行为特征之间的依赖关系，形成用户行为序列信息，进一步提升模型的预测准确度。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种预估排序方法，其特征在于，所述预估排序方法应用于多任务学习的预估排序模型，所述方法包括：
获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集；
获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集；
基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型；
接收信息推荐指令，获取推荐目标用户的用户数据，将所述用户数据导入所述预估排序模型，得到信息预估排序结果，基于所述信息预估排序结果完成信息推送。
2.如权利要求1所述的预估排序方法，其特征在于，所述第一行为为用户点击行为，所述获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集，具体包括：
获取带有用户点击行为的曝光事件作为第一正样本，以及获取没有用户点击行为的曝光事件作为第一负样本；
组合所述第一正样本和所述第一负样本，构建所述第一样本集。
3.如权利要求1所述的预估排序方法，其特征在于，所述第二行为为用户购买行为，所述获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集，具体包括：
获取带有用户购买行为的曝光事件作为第二正样本，以及获取没有用户购买行为的曝光事件作为第二负样本；
组合所述第二正样本和所述第二负样本，构建所述第二样本集。
4.如权利要求1至3任意一项所述的预估排序方法，其特征在于，所述预估排序模型还包括多头注意力网络，所述基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型，具体包括：
基于所述多头注意力网络对所述第一正样本进行特征提取，得到第一样本特征；
基于所述多头注意力网络对所述第二正样本进行特征提取，得到第二样本特征；
利用所述初始多任务学习模型基于第一样本特征对所述第一行为进行预测，得到第一行为预测结果；
利用所述初始多任务学习模型基于第二样本特征对所述第二行为进行预测，得到第二行为预测结果；
对所述第一行为预测结果和所述第二行为预测结果进行拟合，得到多任务预测拟合结果；
基于所述初始多任务学习模型的损失函数计算所述多任务预测拟合结果与预设的标准结果之间的预测误差；
基于所述预测误差对所述初始多任务学习模型进行迭代更新，得到所述预估排序模型。
5.如权利要求4所述的预估排序方法，其特征在于，基于以下公式对所述第一行为预测结果和所述第二行为预测结果进行拟合：
p(y＝1,z＝1|x)＝p(y＝1|x1)*p(z＝1|y＝1,x2)
式中，p(y＝1,z＝1|x)为多任务预测拟合结果，p(y＝1|x1)为第一行为预测结果，p(z＝1|y＝1,x2)为第二行为预测结果，x表示样本特征，x包括第一样本特征x1和第二样本特征x2，y表示第一行为，z表示第二行为。
6.如权利要求5所述的预估排序方法，其特征在于，所述初始多任务学习模型包括第一学习网络和第二学习网络，所述第一学习网络用于对所述第一行为进行预测，所述第二学习网络用于对所述第二行为进行预测，所述初始多任务学习模型的损失函数表示如下：
式中，L是初始多任务学习模型的交叉熵损失函数，θ1表示第一学习网络的网络参数，θ2表示第二学习网络的网络参数，N为样本总数，f(xi,θ1)＝p(y＝1|xi)，f(xi,θ1)*f(xi,θ2)＝p(z＝1|y＝1,xi)。
7.如权利要求4所述的预估排序方法，其特征在于，所述基于所述预测误差对所述初始多任务学习模型进行迭代更新，得到所述预估排序模型，具体包括：
在所述初始多任务学习模型的各个网络层中传递所述预测误差；
获取各个网络层的预测误差；
将各个网络层的预测误差分别与预设的误差阈值进行比对，当存在任意网络层的预测误差大于所述误差阈值时，对所述初始多任务学习模型进行迭代更新，直至所述初始多任务学习模型所有网络层的预测误差均小于或等于所述误差阈值为止，输出所述预估排序模型。
8.一种预估排序装置，其特征在于，包括：
第一样本构建模块，用于获取携带第一行为的曝光事件和未携带第一行为的曝光事件，并基于携带第一行为的曝光事件和未携带第一行为的曝光事件构建第一样本集；
第二样本构建模块，用于获取携带第二行为的曝光事件和未携带第二行为的曝光事件，并基于携带第二行为的曝光事件和未携带第二行为的曝光事件构建第二样本集；
多任务模型训练模块，用于基于所述第一样本集和所述第二样本集对预设的初始多任务学习模型进行拟合训练，得到预估排序模型；
信息预估排序模块，用于接收信息推荐指令，获取推荐目标用户的用户数据，将所述用户数据导入所述预估排序模型，得到信息预估排序结果，基于所述信息预估排序结果完成信息推送。
9.一种计算机设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的预估排序方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的预估排序方法的步骤。
CN202310420435.0A 2023-04-11 2023-04-11 一种预估排序方法、装置、计算机设备及存储介质 Pending CN116578774A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310420435.0A CN116578774A (zh) 2023-04-11 2023-04-11 一种预估排序方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310420435.0A CN116578774A (zh) 2023-04-11 2023-04-11 一种预估排序方法、装置、计算机设备及存储介质

Publications (1)

Publication Number Publication Date
CN116578774A true CN116578774A (zh) 2023-08-11

Family

ID=87533136

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310420435.0A Pending CN116578774A (zh) 2023-04-11 2023-04-11 一种预估排序方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN116578774A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556150A (zh) * 2024-01-11 2024-02-13 腾讯科技（深圳）有限公司 多目标预测方法、装置、设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556150A (zh) * 2024-01-11 2024-02-13 腾讯科技（深圳）有限公司 多目标预测方法、装置、设备及存储介质
CN117556150B (zh) * 2024-01-11 2024-03-15 腾讯科技（深圳）有限公司 多目标预测方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
CN112256886B (zh) 图谱中的概率计算方法、装置、计算机设备及存储介质
CN113220734A (zh) 课程推荐方法、装置、计算机设备及存储介质
CN112925911A (zh) 基于多模态数据的投诉分类方法及其相关设备
CN116684330A (zh) 基于人工智能的流量预测方法、装置、设备及存储介质
CN116578774A (zh) 一种预估排序方法、装置、计算机设备及存储介质
WO2023050143A1 (zh) 一种推荐模型训练方法及装置
CN116186295B (zh) 基于注意力的知识图谱链接预测方法、装置、设备及介质
CN112269943A (zh) 一种信息推荐系统及方法
CN116993185A (zh) 时间序列预测方法、装置、设备及存储介质
CN117057855A (zh) 一种数据处理方法及相关装置
CN116910357A (zh) 一种数据处理方法及相关装置
CN116308640A (zh) 一种推荐方法及相关装置
Wang Artificial Intelligence‐Driven Model for Production Innovation of Sports News Dissemination
CN116204709A (zh) 一种数据处理方法及相关装置
CN115631008B (zh) 商品推荐方法、装置、设备及介质
CN113094602B (zh) 酒店推荐方法、系统、设备及介质
CN115329183A (zh) 数据处理方法、装置、存储介质及设备
CN113792342B (zh) 一种脱敏数据还原的方法、装置、计算机设备及存储介质
CN116756404A (zh) 一种搜索场景的滚动词推荐方法、装置、设备及存储介质
CN116775995A (zh) 基于多任务处理的搜索推荐方法、装置、设备及存储介质
CN115310940A (zh) 一种任务项目管理方法、装置、计算机设备及存储介质
CN116757771A (zh) 基于人工智能的方案推荐方法、装置、设备及存储介质
CN116861079A (zh) 一种基于用户长期偏好的排序推荐方法及其相关设备
CN117009649A (zh) 一种数据处理方法及相关装置
CN117709801A (zh) 客户数据处理方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination