CN116306976A - 一种模型的训练方法、数据召回方法、装置、介质及设备 - Google Patents

Abstract

本公开实施例提供了一种模型的训练方法、数据召回方法、装置、介质及设备，其中训练方法包括：获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。通过引入第二负样本数据，加深了模型训练程度，提供了模型的训练精度和模型泛化能力。

Description

一种模型的训练方法、数据召回方法、装置、介质及设备

技术领域

本公开实施例涉及深度学习技术，尤其涉及一种模型的训练方法、数据召回方法、装置、介质及设备。

背景技术

随着应用程序的不断发展，通过应用程序向客户端进行高精度的数据推送成为一个研究方向。

在海量数据中，可通过数据召回模型进行针对性的数据召回。但是，在数据召回模型在目前的训练过程中存在训练难度大，对样本的使用效率差。

发明内容

本公开提供一种模型的训练方法、数据召回方法、装置、介质及设备，以实现训练得到高精度的数据召回模型。

第一方面，本公开实施例提供了一种数据召回模型的训练方法，包括：

获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；

基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；

基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

第二方面，本公开实施例还提供了一种数据召回方法，包括：

获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

第三方面，本公开实施例还提供了一种数据召回模型的训练装置，包括：

数据获取模块，用于获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；

样本组采样模块，用于基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；

模型训练模块，用于基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

第四方面，本公开实施例还提供了一种数据召回装置，包括：

数据处理模块，用于获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

目标数据确定模块，用于分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

第五方面，本公开实施例还提供了一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如任意实施例提供的数据召回模型的训练方法和/或任意实施例提供的数据召回方法。

第六方面，本公开实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如任意实施例提供的数据召回模型的训练方法和/或任意实施例提供的数据召回方法。

本公开实施例提供的技术方案，通过对样本对象进行样本采样，形成包含样本对象的特征数据、正样本数据、第二负样本数据和第一负样本数据的样本组，通过上述样本组对数据召回模型进行训练，可避免模型训练过程中对正负样本识别导致的无法继续优化的情况，引入第二负样本数据，避免在模型训练过程中损失趋于零导致的无法继续优化的情况，加深了模型训练程度，提高样本利用率，进一步提供了模型的训练精度和模型泛化能力。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本公开实施例所提供的一种数据召回模型的训练方法的流程示意图；

图2为本公开实施例提供的一种数据展示的示意图；

图3为本公开实施例提供的数据召回模型在训练前后与样本数据之间距离的示意图；

图4是一种媒体数据的数据召回模型的训练方法的流程图；

图5是本公开实施例所提供的一种数据召回方法的流程示意图；

图6为本公开实施例所提供的一种数据召回模型的训练装置的结构示意图；

图7是公开实施例提供的一种数据召回装置的结构示意图；

图8是本公开实施例所提供的一种电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

可以理解的是，在使用本公开各实施例公开的技术方案之前，均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。

例如，在响应于接收到用户的主动请求时，向用户发送提示信息，以明确地提示用户，其请求执行的操作将需要获取和使用到用户的个人信息。从而，使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。

作为一种可选的但非限定性的实现方式，响应于接收到用户的主动请求，向用户发送提示信息的方式例如可以是弹窗的方式，弹窗中可以以文字的方式呈现提示信息。此外，弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。

可以理解的是，上述通知和获取用户授权过程仅是示意性的，不对本公开的实现方式构成限定，其它满足相关法律法规的方式也可应用于本公开的实现方式中。

可以理解的是，本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。

本公开实施例中，数据召回模型可以是viking模型，可以理解的是，数据召回模型还可以是其他类型的模型，此处对数据召回模型的结构不作限定。

针对于数据召回模型的训练过程，可根据进行业务场景获取对应的样本数据，以训练得到适用于上述业务场景适应的数据召回模型。以媒体数据的召回场景为例，通过获取样本媒体数据，训练得到媒体数据的召回模型。此处的媒体数据包括但不限于视频、图像、音频、文本等。

目前在数据召回模型的训练过程，一般是将样本数据划分为正样本和负样本进行模型训练，训练得到的二分类的数据召回模型。上述训练方式中，对样本数据的使用率低下，且训练得到的数据召回模型的泛化能力较差。针对上述技术问题，本公开实施例提供了一种数据召回模型的训练方法，参见图1，图1为本公开实施例所提供的一种数据召回模型的训练方法的流程示意图，本公开实施例适用于训练数据召回模型的情形，该方法可以由数据召回模型的训练装置来执行，该装置可以通过软件和/或硬件的形式实现，可选的，通过电子设备来实现，该电子设备可以是移动终端、PC端或服务器等。

如图1所示，所述方法包括：

S110、获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离。

S120、基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组。

S130、基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

本实施例中，样本对象为样本数据的获取对象，此处的样本对象可以是根据数据召回的业务场景确定。示例性的，以用户维度进行数据召回的场景下，样本对象可以是数据的展示用户；示例性的，以客户端维度进行数据召回的场景下，样本对象可以是数据展示客户端。样本对象的特征数据可以包括但不限于样本对象的基础特征信息和样本对象对数据的兴趣点特征。以样本对象为展示用户为例，特征数据可包括用户基础信息和展示用户对数据的兴趣点特征；以样本对象为客户端为例，特征信息可以包括客户端的设备基础信息和客户端在数据展示以及与用户交互过程中的兴趣点特征。

需要说明的是，此处样本对象的特征数据以及样本对象的样本数据可以是在样本对象的授权前提下获取的，同时样本对象的特征数据以及样本对象的样本数据用于进行数据召回模型的训练，并在训练完成后删除，避免数据泄露。

每一样本对象的样本数据可包括正样本数据和负样本数据，将基于多个样本对象的正样本数据和负样本数据可形成样本数据集。以P个样本对象为例，每一样本对象获取K个样本数据，分别包括K/2个负样本数据和K/2个正样本数据。将P个样本对象的样本数据形成样本数据集，即得到包括PK个样本数据的样本数据集。

其中，样本数据的获取过程中：样本对象对数据的使用情况包括使用和未使用，其中，被使用的数据可被采样为正样本数据，未被使用的数据可被采样为负样本数据，此处的数据的使用方式可根据业务场景不同存在不同的使用方式，以媒体数据为例，对媒体数据的使用为通过点击等方式展示该媒体数据。可选的，样本对象为媒体数据的展示用户，基于所述样本对象获取的正样本数据为向所述展示用户展示并被点击的媒体数据，所述基于所述样本对象获取的负样本数据为向所述展示用户展示并未被点击的媒体数据。可以理解的是，上述将媒体数据向展示用户展示，可以是通过将媒体数据的描述信息进行展示，或者通过图片等形式进行展示。参见图2，图2为本公开实施例提供的一种数据展示的示意图。图2通过图片列表方式将热搜新闻或视频等媒体数据进行展示。在图2中被展示数据被点击的情况下，进入媒体数据的展示详情界面。其中，图2中媒体数据B进行展示且被点击，可被采样为正样本数据，媒体数据A进行展示但未被点击，可被采样为负样本数据。

可以理解的是，对于当前样本对象，基于其他对象获取的正样本数据和负样本数据，均属于当前样本对象的负样本数据。为了提高对样本数据的利用效率，在上述样本数据集中分别确定每一样本对象对应的正样本数据集和负样本数据集，其中，样本对象对应的正样本数据集为基于样本对象获取到的正样本数据组成，样本对象对应的负样本数据集中包括基于所述样本对象获取的负样本数据，和其他样本对象的正样本数据和负样本数据。对于包括PK个样本数据的样本数据集，对于任一样本对象，正样本数据集中包括K/2个正样本数据，负样本数据集中包括K(2P-1)/2个负样本数据。

为了避免单纯使用正样本数据和负样本数据导致数据召回模型趋向于二分类模型的情况，本公开实施例采用样本组的形式，其中每一个样本组中包括样本对象的特征数据、一个正样本数据、第一负样本数据和一个第二负样本数据。其中，第一负样本数据和第二负样本数据同属于样本对象对应的负样本数据集，且二者不重叠。第一负样本数据与样本对象的特征数据的距离，小于第二负样本数据与样本对象的特征数据的距离。

第一负样本数据和第二负样本数据的确定方式可以是：分别确定所述负样本数据集中各负样本数据分别与所述样本对象的特征数据之间的距离，将所述距离对各所述负样本数据进行排序；根据第一负样本数据的数量条件和所述负样本数据的排序确定第一负样本数据，并将所述第一负样本数据之外的其他负样本数据确定为第二负样本数据。此处第一负样本数据的数量条件可以是一个或多个。

可选的，负样本数据集中可包括多个第一负样本数据和多个第二负样本数据，任一第一负样本数据与样本对象的特征数据的距离均小于任一第二负样本数据与样本对象的特征数据的距离。具体的，可以是在样本对象对应的负样本数据集中，分别确定每一负样本数据与样本对象的特征数据之间的距离，基于距离对负样本数据进行排序。第一负样本数据的数量条件中包括第一负样本数据的数量或占比。相应的，根据第一负样本数据的数量，或者第一负样本数据的占比，在上述排序的负样本数据中确定第一负样本数据，以及其他的负样本数据确定为第二负样本数据。

可选的，负样本数据集中可包括一个第一负样本数据和多个第二负样本数据，即第一负样本数据的数量为1，该第一负样本数据为与样本对象的特征数据相似度最高的负样本数据。具体的，在样本对象对应的负样本数据集中，分别确定每一负样本数据与样本对象的特征数据之间的距离，将各个负样本数据的距离进行比对，确定最小距离对应的负样本数据为第一负样本数据，相应的，第二负样本数据为样本对象对应的负样本数据集中，除第一负样本数据之外的其他负样本数据。

在数据召回模型的训练过程中，将样本对象的特征数据与正样本数据的距离不断缩小，将样本对象的特征数据与负样本数据的距离不断增大，在样本对象的特征数据与正样本数据的距离小于样本对象的特征数据与负样本数据的距离的情况下，模型训练过程的损失趋于零，无法对数据召回模型继续优化。通过引入第一负样本数据，在样本对象的特征数据与正样本数据的距离小于样本对象的特征数据与负样本数据的距离的情况下，可进一步缩小样本对象的特征数据与正样本数据的距离，进一步对数据召回模型进行优化，以提升数据召回模型的召回精度。示例性的，参见图3，图3是数据召回模型在训练前后与样本数据之间距离的示意图。

相应的，在获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集之后，分别确定所述负样本数据集中各负样本数据分别与所述样本对象的特征数据之间的距离，将距离最小的负样本数据确定为所述第一负样本数据，将所述第一负样本数据之外的其他负样本数据确定为第二负样本数据。

对于样本对象的特征数据和负样本数据分别转换为特征向量，此处的特征向量可以是embedding向量，通过embedding向量表征对应的数据可从更高维度挖掘特征信息。示例性的，可通过特征转换模型对特征数据和负样本数据处理，得到特征向量；或者，还可以是通过Word2vec方式对特征数据和负样本数据处理，得到特征向量。

遍历任一负样本数据，基于负样本数据的特征向量与特征数据的特征向量计算距离，该距离计算方式包括但不限于欧式距离等，可根据计算需求选择距离计算方式。

通过距离表征负样本数据和特征数据的相似度，距离越小，保证负样本数据和特征数据的相似度越高，根据距离将负样本数据分类为第一负样本数据和第二负样本数据，以确定与特征数据高相近的负样本数据(即第一负样本数据)和其他负样本数据(即第二负样本数据)。

在正样本数据集中进行采样，得到一个正样本数据，在多个第二负样本数据中进行采样，得到一个第二负样本数据，在一个或多个第一负样本数据中进行采样，得到一个第一负样本数据，基于样本对象的特征数据以及上述采样得到的一个正样本数据、一个第二负样本数据、一个第一负样本数据可组成一个样本组。针对同一样本对象，可通过上述采样方式采样得到多个样本组。可选的，正样本数据、第一负样本数据和第二负样本数据可以是随机采样得到的；可选的，正样本数据、第一负样本数据和第二负样本数据可根据预设的采样规则采样得到的，其中，采样规则中包括正样本数据和第二负样本数据的采样权重。在第一负样本数据的数量为1时，无需对第一负样本数据进行采样，将第一负样本数据和样本对象的特征数据，采样得到的一个正样本数据、一个第二负样本数据可组成一个样本组、

可选的，基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组，包括：基于所述正样本数据与所述样本对象的特征数据之间的距离确定所述正样本数据的采样权重，以及，基于所述第二负样本数据与所述样本对象的特征数据之间的距离确定所述第二负样本数据的采样权重；在所述正样本数据集中进行采样，得到一个正样本数据，其中，各所述正样本的采样概率与所述正样本数据的采样权重正相关；在多个所述第二负样本数据中进行采样，得到一个第二负样本数据，其中，所述第二负样本数据的采样概率与所述第二负样本数据的采样权重负相关。同理，在第一负样本数据为多个的情况下，第一负样本数据的采样概率与第一负样本数据的权重负相关，第一负样本数据的权重可以是基于第一负样本数据与样本对象的特征数据之间的距离确定。

此处正样本数据的权重与基于正样本数据与样本对象的特征数据之间的距离确定，可选的，正样本数据的权重与对应的距离正相关，同理，第二负样本数据的采样权重基于第二负样本数据与样本对象的特征数据之间的距离确定，可选的，第二负样本数据的权重与对应的距离正相关。在一些实施例中，可将正样本数据与样本对象的特征数据之间的距离确定为正样本数据的权重，将第二负样本数据与样本对象的特征数据之间的距离确定为第二负样本数据的采样权重。

正样本数据的权重决定正样本数据的采样概率，正样本数据的权重与正样本数据的采样概率正相关，第二负样本数据的权重决定第二负样本数据的采样概率，第二负样本数据的权重与第二负样本数据的采样概率负相关。据此可知，正样本数据与样本对象的特征数据之间的距离与正样本数据的采样概率正相关，第二负样本数据与样本对象的特征数据之间的距离与第二负样本数据的采样概率负相关。

通过正样本数据集中，各个正样本数据的采样概率进行采样，以采样得到正样本数据；以及在多个第二负样本数据中，基于第二负样本数据的采样概率进行采样，以采样得到第二负样本数据。进一步得到样本对象对应的多个样本组。

示例性的，样本组正样本数据、第一负样本数据、第二负样本数据通过以下方式采样得到：

第一负样本数据：high_similar_item＝argmin_x∈N(a)D_ax

正样本数据：positive_item＝multinormial_x∈P(a){D_ax}

第二负样本数据：

其中，N(a)为样本对象对应的负样本数据集，P(a)为样本对象对应的正样本数据集，D_ax为样本数据与特征数据之间的距离，multinormial表示加权采样函数，优先采样权重大的样本数据。

创建初始的数据召回模型，初始的数据召回模型中包括待优化的模型参数，基于多个样本对象分别对应的多个样本组对初始的数据召回模型进行训练，以迭代更新初始的数据召回模型的模型参数，得到训练好的数据召回模型。在每一次迭代训练过程中，通过生成损失函数对训练过程中的数据召回模型进行模型参数的调节。

可选的，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，包括：将多个样本组输入至所述训练过程中的数据召回模型，得到各所述样本组对应的特征向量，所述任一所述样本组对应的特征向量包括所述特征数据对应的第一特征向量、所述正样本数据对应的第二特征向量、所述第二负样本数据对应的第三特征向量和所述第一负样本数据对应的第四特征向量；基于各所述样本组中，所述第二特征向量、所述第三特征向量和所述第四特征向量分别与所述第一特征向量之间的距离确定一个或多个损失项，基于所述一个或多个损失项形成损失函数。

针对每一样本组，分别计算第二特征向量与第一特征向量之间的第一距离、第三特征向量与第一特征向量之间的第二距离、第四特征向量与第一特征向量之间的第三距离，基于各样本组中第一距离、第二距离和第三距离生成至少一个损失项，将至少一个损失项进行整合，得到损失函数。示例性的，可以是将至少一个损失项加权处理，得到损失函数。

可选的，损失项包括如下的一项或多项：基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第三特征向量与所述第一特征向量之间的第二距离确定的第一损失项；基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项；基于所述第三特征向量与所述第一特征向量之间的第二距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项。

示例性的，可以是将第一距离、第二距离和第三距离分别表示为D_ap、D_an和D_ah，以基于第一距离和第二距离生成第一损失项为例，可以确定第一距离与第二距离的差值，基于该差值与预设常数项的和确定一个样本组对应的损失部分，将各样本组对应的损失部分之和确定为第一损失项。预设常数项为用于表征第二特征向量与第一特征向量之间满足远小于的程度。同理，第二损失项、第三损失项的生成原理相同。

在一些实施例中，损失函数可以是以下形式：

其中，θ为数据召回模型中的模型参数，N为样本组的数量，w_pn、w_ph、w_hn分别为第一损失项、第二损失项和第三损失项的权重。m_pn、m_ph和m_hn分别为衡量D_ap和D_an、D_ap和D_ah、D_an和D_ah之间远小于程度。

在每一迭代过程中，通过上述损失函数对数据召回函数的模型参数进行调节，以使得迭代后的数据召回模型能够使得样本对象的特征数据趋近于正样本数据，并远离与负样本数据。

本公开实施例的技术方案，通过对样本对象进行样本采样，形成包含样本对象的特征数据、正样本数据、第二负样本数据和第一负样本数据的样本组，通过上述样本组对数据召回模型进行训练，可避免模型训练过程中对正负样本识别导致的无法继续优化的情况，引入第二负样本数据，避免在模型训练过程中损失趋于零导致的无法继续优化的情况，加深了模型训练程度，提高样本利用率，进一步提供了模型的训练精度和模型泛化能力。

在上述实施例的基础上，本公开实施例提供了一种媒体数据的数据召回模型的训练方法的优选实例，参见图4，图4是一种媒体数据的数据召回模型的训练方法的流程图。

在每次训练过程中，随机选定P个展示用户(即样本对象)，针对每个展示用户随机采样K个媒体数据，其中，包括K/2个被该展示用户点击的媒体数据(即正样本数据)，和K/2个向该展示用户展示，但未被展示用户点击的媒体数据(即负样本数据)。有P个展示用户和PK个样本形成样本数据集合(训练Batch)，在样本数据集合中展示用户有P种选择方式，在选定展示用户后，正样本数据有K/2种选择方式，将正样本数据记为P(a)，负样本数据有K(2P-1)/2种选择方式，将负样本数据记为N(a)。

在进行样本组采样是，因此将样本数据集合中的各个用户作为样本对象。针对每一样本对象，分别计算P(a)中样本数据的embedding向量与N(a)中样本数据embedding向量分别与样本对象的特征数据embedding向量的距离，将其作为权重，根据权重依次重采样得到样本组中的正样本数据和负样本数据。正样本数据时，权重越大的媒体数据被采样到的概率越高，负样本采样时，权重越小的媒体数据被采样到的概率越高。此外选择N(a)中embedding向量与样本对象的特征数据embedding向量的距离最小的媒体数据作为高相似负样本数据(即第一负样本数据)，高相似负样本数据与上述被采样的负样本数据附属于同于数据。

通过各样本对象分别对应的多个样本组进行媒体数据召回模型的训练，在每一次迭代过程中，通过如下损失函数进行模型参数的调节，直到得到训练好的媒体数据召回模型。

在上述训练过程中，可使用Adam优化器，优化器参数设置为alpha＝5e-2,beta＝1.0,weight_decay＝1e-3，迭代次数Epochs可以是2000。上述示例中，展示用户数量可以是16，媒体数据的数量K可以是32,。损失函数中，w_pn、w_ph、w_hn可以分别为1,1,0.5。m_pn、m_ph和m_hn可以分别为0.4,0.4,0.2。

图5是本公开实施例所提供的一种数据召回方法的流程示意图。该方法具体包括：

S210、获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

S220、分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

在一些实施例中，目标对象可以是发送媒体数据请求的对象，该目标对象可以通过媒体数据请求解析得到，该目标对象可以是发送请求的客户端上的登录用户。候选数据可以为应用程序可为用户提供的待选媒体数据，该媒体数据包括但不限于视频、图片、文本等，示例性的，媒体数据可以是新闻等。

媒体数据请求中还可以包括目标对象的特征数据，该目标对象的特征数据可以是该目标对象在预设历史时间段内形成的特征数据，包括但不限于目标对象的基础信息和对媒体数据的兴趣点信息。

通过预先训练的数据召回模型对目标对象的特征数据进行处理，针对性的以目标对象为基准进行数据召回。具体的，通过数据召回模型得到标对象的特征数据以及各个候选数据的特征向量，基于候选数据的数据特征向量与所述对象特征向量的距离，确定被召回的媒体数据。例如，可以是基于候选数据的数据特征向量与所述对象特征向量的距离，对候选数据进行排序，基于排序和召回数量确定被召回的媒体数据。

在上述实施例的基础上，可进一步的对被召回的媒体数据，即目标数据进行推流排序，根据推流排序向目标对象进行数据推流。

图6为本公开实施例所提供的一种数据召回模型的训练装置的结构示意图，该装置包括：数据获取模块310、样本组采样模块320以及模型训练模块330。

数据获取模块310，用于获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；

样本组采样模块320，用于基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；

模型训练模块330，用于基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

本公开实施例所提供的技术方案，通过对样本对象进行样本采样，形成包含样本对象的特征数据、正样本数据、第二负样本数据和第一负样本数据的样本组，通过上述样本组对数据召回模型进行训练，可避免模型训练过程中对正负样本识别导致的无法继续优化的情况，引入第二负样本数据，避免在模型训练过程中损失趋于零导致的无法继续优化的情况，加深了模型训练程度，提高样本利用率，进一步提供了模型的训练精度和模型泛化能力。

在上述实施例的基础上，可选的，所述样本对象对应的负样本数据集中包括基于所述样本对象获取的负样本数据，和其他样本对象的正样本数据和负样本数据。

可选的，所述样本对象为媒体数据的展示用户，所述正样本数据为向所述展示用户展示并被点击的媒体数据，所述基于所述样本对象获取的负样本数据为向所述展示用户展示并未被点击的媒体数据。

在上述实施例的基础上，可选的，该装置还包括：

负样本数据处理模块，用于分别确定所述负样本数据集中各负样本数据分别与所述样本对象的特征数据之间的距离，将距离最小的负样本数据确定为所述第一负样本数据，将所述第一负样本数据之外的其他负样本数据确定为第二负样本数据。

在上述实施例的基础上，可选的，样本组采样模块320用于：

基于所述正样本数据与所述样本对象的特征数据之间的距离确定所述正样本数据的采样权重，以及，基于所述第二负样本数据与所述样本对象的特征数据之间的距离确定所述第二负样本数据的采样权重；

在所述正样本数据集中进行采样，得到一个正样本数据，其中，各所述正样本的采样概率与所述正样本数据的采样权重正相关；

在多个所述第二负样本数据中进行采样，得到一个第二负样本数据，其中，所述第二负样本数据的采样概率与所述第二负样本数据的采样权重负相关。

在上述实施例的基础上，可选的，模型训练模块330用于：

将多个样本组输入至所述训练过程中的数据召回模型，得到各所述样本组对应的特征向量，所述任一所述样本组对应的特征向量包括所述特征数据对应的第一特征向量、所述正样本数据对应的第二特征向量、所述第二负样本数据对应的第三特征向量和所述第一负样本数据对应的第四特征向量；

基于各所述样本组中，所述第二特征向量、所述第三特征向量和所述第四特征向量分别与所述第一特征向量之间的距离确定一个或多个损失项，基于所述一个或多个损失项形成损失函数。

可选的，所述损失项包括如下的一项或多项：基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第三特征向量与所述第一特征向量之间的第二距离确定的第一损失项；

基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项；

基于所述第三特征向量与所述第一特征向量之间的第二距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项。

本公开实施例所提供的数据召回模型的训练装置可执行本公开任意实施例所提供的数据召回模型的训练方法，具备执行方法相应的功能模块和有益效果。

值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的保护范围。

图7是公开实施例提供的一种数据召回装置的结构示意图，该装置包括：

数据处理模块410，用于获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

目标数据确定模块420，用于分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

本公开实施例所提供的数据召回装置可执行本公开任意实施例所提供的数据召回方法，具备执行方法相应的功能模块和有益效果。

值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的保护范围。

图8为本公开实施例所提供的一种电子设备的结构示意图。下面参考图8，其示出了适于用来实现本公开实施例的电子设备(例如图8中的终端设备或服务器)500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图8所示，电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。编辑/输出(I/O)接口505也连接至总线504。

通常，以下装置可以连接至I/O接口505：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507；包括例如磁带、硬盘等的存储装置508；以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备500，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置509从网络上被下载和安装，或者从存储装置508被安装，或者从ROM 502被安装。在该计算机程序被处理装置501执行时，执行本公开实施例的方法中限定的上述功能。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

本公开实施例提供的电子设备与上述实施例提供的数据召回模型的训练方法，和/或，数据召回方法属于同一发明构思，未在本实施例中详尽描述的技术细节可参见上述实施例，并且本实施例与上述实施例具有相同的有益效果。

本公开实施例提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述实施例所提供的数据召回模型的训练方法，和/或，数据召回方法。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (12)

1.一种数据召回模型的训练方法，其特征在于，包括：

获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；

基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；

基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

2.根据权利要求1所述的方法，其特征在于，所述样本对象对应的负样本数据集中包括基于所述样本对象获取的负样本数据，和其他样本对象的正样本数据和负样本数据。

3.根据权利要求2所述的方法，其特征在于，所述样本对象为媒体数据的展示用户，所述正样本数据为向所述展示用户展示并被点击的媒体数据，所述基于所述样本对象获取的负样本数据为向所述展示用户展示并未被点击的媒体数据。

4.根据权利要求1所述的方法，其特征在于，在获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集之后，所述方法还包括：

分别确定所述负样本数据集中各负样本数据分别与所述样本对象的特征数据之间的距离，将所述距离对各所述负样本数据进行排序；

根据第一负样本数据的数量条件和所述负样本数据的排序确定第一负样本数据，并将所述第一负样本数据之外的其他负样本数据确定为第二负样本数据。

5.根据权利要求1所述的方法，其特征在于，所述基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组，包括：

基于所述正样本数据与所述样本对象的特征数据之间的距离确定所述正样本数据的采样权重，以及，基于所述第二负样本数据与所述样本对象的特征数据之间的距离确定所述第二负样本数据的采样权重；

在所述正样本数据集中进行采样，得到一个正样本数据，其中，各所述正样本的采样概率与所述正样本数据的采样权重正相关；

在多个所述第二负样本数据中进行采样，得到一个第二负样本数据，其中，所述第二负样本数据的采样概率与所述第二负样本数据的采样权重负相关。

6.根据权利要求1所述的方法，其特征在于，所述基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，包括：

将多个样本组输入至所述训练过程中的数据召回模型，得到各所述样本组对应的特征向量，所述任一所述样本组对应的特征向量包括所述特征数据对应的第一特征向量、所述正样本数据对应的第二特征向量、所述第二负样本数据对应的第三特征向量和所述第一负样本数据对应的第四特征向量；

基于各所述样本组中，所述第二特征向量、所述第三特征向量和所述第四特征向量分别与所述第一特征向量之间的距离确定一个或多个损失项，基于所述一个或多个损失项形成损失函数。

7.根据权利要求6所述的方法，其特征在于，所述损失项包括如下的一项或多项：基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第三特征向量与所述第一特征向量之间的第二距离确定的第一损失项；

基于所述第二特征向量与所述第一特征向量之间的第一距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项；

基于所述第三特征向量与所述第一特征向量之间的第二距离、所述第四特征向量与所述第一特征向量之间的第三距离确定的第二损失项。

8.一种数据召回方法，其特征在于，包括：

获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

9.一种数据召回模型的训练装置，其特征在于，包括：

数据获取模块，用于获取样本对象的特征数据和所述样本对象对应的正样本数据集和负样本数据集，其中，所述负样本数据集中包括第一负样本数据和第二负样本数据，所述第一负样本数据与所述样本对象的特征数据的距离，小于所述第二负样本数据与所述样本对象的特征数据的距离；

样本组采样模块，用于基于所述样本对象的特征数据、任一所述正样本数据、任一所述第二负样本数据和所述第一负样本数据形成样本组；

模型训练模块，用于基于任一所述样本对象的多个样本组训练得到数据召回模型：在训练过程中，基于训练过程中的数据召回模型输出的所述样本组中数据分别对应的特征向量，基于各所述特征向量之间的距离生成损失函数，基于所述损失函数对训练过程中的数据召回模型进行参数调节。

10.一种数据召回装置，其特征在于，包括：

数据处理模块，用于获取目标对象的特征数据和候选数据，将所述特征数据和候选数据输入至预先训练的数据召回模型中，得到所述特征数据对应的对象特征向量和所述候选数据对应的数据特征向量；

目标数据确定模块，用于分别确定各所述候选数据的数据特征向量与所述对象特征向量的距离，并基于所述距离在所述候选数据中确定所述目标对象对应的目标数据。

11.一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的数据召回模型的训练方法和/或权利要求8所述的数据召回方法。

12.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的数据召回模型的训练方法和/或权利要求8所述的数据召回方法。

Images