CN117648488A - 一种模型训练方法、内容排序方法、装置及电子设备 - Google Patents

Abstract

本发明实施例提供了一种模型训练方法、内容排序方法、装置及电子设备，所述模型训练方法包括：获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户的用户特征；获取第一待排序内容对应的真值标签，真值标签包括第一待排序内容的感兴趣程度值；将第一属性特征、负反馈特征以及用户特征输入排序模型中进行预测排序，得到第一待排序内容对应的排序结果；计算排序结果与真值标签之间的损失，并根据损失对排序模型的参数进行调整。应用本发明实施例模型训练方法所训练的排序模型，能够快速、准确地为用户推荐想要观看的内容。

Description

一种模型训练方法、内容排序方法、装置及电子设备

技术领域

本发明涉及计算机应用技术领域，具体涉及数据处理、人工智能等领域，特别是涉及一种模型训练方法、内容排序方法、装置及电子设备。

背景技术

随着数字化娱乐媒体的快速发展，越来越多的用户倾向于在线观看电影或视频等内容。而在在线观看电影或视频等内容时，因用户面对的可观看内容数量较大，进而需要用户选择想要观看的内容，然后才能进行观看。

相关技术中，在向用户推荐内容的场景中，主要是将当前的热点内容推荐给用户，或是通过传统的推荐算法向用户推荐内容，而当前的热点内容用户不一定感兴趣，传统的推荐算法主要依赖于用户的兴趣偏好，该兴趣偏好是针对大众的。故而，相关技术针对不同的用户无法准确定位该用户的兴趣点，使得推荐的前端页面会频繁展示用户不感兴趣的内容，进而难以实现内容的准确推荐。

发明内容

本发明实施例的目的在于提供一种模型训练方法、内容排序方法、装置及电子设备，以快速、准确地为用户推荐想要观看的内容。具体技术方案如下：

在本发明实施的第一方面，首先提供了一种模型训练方法，所述方法应用于执行模型训练的电子设备，所述方法包括：

获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及所述用户的用户特征；

获取所述第一待排序内容对应的真值标签，所述真值标签包括所述第一待排序内容的感兴趣程度值；

将所述第一属性特征、所述负反馈特征以及所述用户特征输入排序模型中进行预测排序，得到所述第一待排序内容对应的排序结果；

计算所述排序结果与所述真值标签之间的损失，并根据所述损失对所述排序模型的参数进行调整。

在一种可能的实施方式中，所述负反馈特征包括内容类型、内容名称、内容制作者中的至少一项。

在本发明实施的第二方面，提供了一种内容排序方法，所述方法应用于执行排序业务的服务器，所述方法包括：

获取排序请求，所述排序请求中包含目标用户标识以及目标负向标记内容的标识；所述目标负向标记内容为所述目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的；

根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征；

将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果；其中，所述排序模型为利用上述模型训练方法训练得到的；

基于各所述第二待排序内容的预测排序结果，对各所述第二待排序内容排序，得到目标推荐内容；

将所述目标推荐内容发送给客户端，以使所述客户端对所述目标推荐内容进行展示。

在一种可能的实施方式中，所述方法还包括：

获取客户端发送的针对目标推荐内容的获取请求，所述获取请求为所述客户端根据已推荐内容确定的；

响应于所述获取请求，执行根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征，针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，并将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果的步骤。

在一种可能的实施方式中，所述针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，包括：

将未发送至客户端的待推荐内容确定为第二待排序内容；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征。

在一种可能的实施方式中，所述针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，包括：

将每一召回内容确定为第二待排序内容；所述召回内容为所述服务器响应于客户端发送的内容获取请求，从内容数据库中获取的待推荐内容；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征。

在一种可能的实施方式中，所述目标负向标记内容包括：所述目标用户标识对应的客户端的历史推荐内容中的负向标记内容，或者，所述目标用户标识对应的客户端实时根据接收到的针对已推荐内容中目标内容的选择指令确定的内容。

在本发明实施的第三方面，还提供了一种模型训练装置，所述装置应用于执行模型训练的电子设备，所述装置包括：

第一获取模块，用于获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及所述用户的用户特征；

第二获取模块，用于获取所述第一待排序内容对应的真值标签，所述真值标签包括所述第一待排序内容的感兴趣程度值；

预测模块，用于将所述第一属性特征、所述负反馈特征以及所述用户特征输入排序模型中进行预测排序，得到所述第一待排序内容对应的排序结果；

训练模块，用于计算所述排序结果与所述真值标签之间的损失，并根据所述损失对所述排序模型的参数进行调整。

在本发明实施的第四方面，还提供了一种内容排序装置，所述装置应用于执行排序业务的服务器，所述装置包括：

第三获取模块，用于获取排序请求，所述排序请求中包含目标用户标识以及目标负向标记内容的标识；所述目标负向标记内容为所述目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的；

第四获取模块，用于根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征；

特征提取模块，用于针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征；

预测排序模块，用于将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果；其中，所述排序模型为利用上述模型训练方法训练得到的；

内容排序模块，用于基于各所述第二待排序内容的预测排序结果，对各所述第二待排序内容排序，得到目标推荐内容；

内容发送模块，用于将所述目标推荐内容发送给客户端，以使所述客户端对所述目标推荐内容进行展示。

在本发明实施的又一方面，还提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现上述任一所述的方法。

在本发明实施的又一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的方法。

在本发明实施的又一方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一所述的方法。

本发明实施例提供的一种模型训练方法、内容排序方法、装置及电子设备，通过将第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户特征作为输入，将包括第一待排序内容的感兴趣程度值的真值标签作为输出，训练排序模型。本发明实施例中训练的排序模型融合了第一待排序内容的属性特征、用户对应的负向标记内容的负反馈特征以及用户特征，使得利用该训练的排序模型在对各第一待排序内容进行排序时排序在前的能够更倾向于用户感兴趣的内容，改变了用户不感兴趣内容的顺序，提高了用户感兴趣内容优先显示的概率，提升了前端内容展示页面的展示效率和展示内容与用户兴趣点匹配的准确度，实现了快速、准确地为用户推荐想要观看的内容。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例中模型训练方法的一种流程示意图；

图2为本发明实施例中内容排序方法的一种流程示意图；

图3为本发明实施例中内容排序方法的一种示意图；

图4为本发明实施例中内容排序实现过程的一种示意图；

图5为本发明实施例中模型训练装置的一种结构示意图；

图6为本发明实施例中内容排序装置的一种结构示意图；

图7为本发明实施例中一种电子设备的示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行描述。

相关技术中，通过搜索引擎对用户想要观看内容进行搜索，需要用户提供明确的目标或兴趣，而对于用户没有明确的目标或兴趣的情况，往往需要用户花费大量的时间和精力从海量内容中搜索和筛选想要观看的内容，用户推荐准确率低。

为了实现快速、准确地为用户推荐想要观看的内容，本发明实施例提供了一种模型训练方法、内容排序方法、装置及电子设备。本发明实施例提供的模型训练方法和内容排序方法，适用于内容推荐场景，尤其适用于所有用户没有明确的目标或兴趣的内容推荐场景。本发明实施例提供的内容排序方法针对的内容可以是视频、电影、小说、游戏、商品等。

下面首先对本发明实施例提供的模型训练方法进行详细介绍：

如图1所示，图1为本发明实施例中模型训练方法的一种流程示意图，该方法应用于执行模型训练的电子设备，包括以下步骤：

S101，获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及该用户的用户特征。

S102，获取第一待排序内容对应的真值标签。

其中，真值标签包括第一待排序内容的感兴趣程度值。

S103，将第一属性特征、负反馈特征以及用户特征输入排序模型中进行预测排序，得到第一待排序内容对应的排序结果。

S104，计算排序结果与真值标签之间的损失，并根据损失对排序模型的参数进行调整。

应用本发明实施例提供的模型训练方法，通过将第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户特征作为输入，将包括第一待排序内容的感兴趣程度值的真值标签作为输出，训练排序模型。因训练的排序模型融合了第一待排序内容的属性特征、用户对应的负向标记内容的负反馈特征以及用户特征，使得利用该训练的排序模型在对各第一待排序内容进行排序时排序在前的能够更倾向于用户感兴趣的内容，改变了用户不感兴趣内容的顺序，提高了用户感兴趣内容优先显示的概率，提升了前端内容展示页面的展示效率和展示内容与用户兴趣点匹配的准确度，实现了快速、准确地为用户推荐想要观看的内容。

上述排序模型的训练过程可以是离线状态下完成的，也可以是线上实时进行的。相应于线上实时进行排序模型的训练，所获取的用户所对应的负向标记内容的负反馈特征可以为：对用户对应的客户端实时反馈的负向标记内容进行负反馈特征提取得到的，或者服务器根据用户对应的客户端实时反馈的负向标记内容进行负反馈特征提取之后发送的。

上述第一待排序内容可以是任意需要排序的内容，比如可以是内容数据库中已召回未经过排序的内容，也可以是内容推荐池中已经经过排序未发送至客户端展示的内容。用户所对应的负向标记内容表示用户不感兴趣或不喜欢的内容。

在用户所对应的负向标记内容有多个时，用户所对应的负向标记内容的负反馈特征为多个负向标记内容特征的并集。

一个例子中，步骤S101中所获取的第一待排序内容的第一属性特征可以包括：内容ID(标识)、内容类型等。其中，内容ID可以使用数字表示，也可以使用编码表示，还可以是内容的名称等。内容类型比如可以是电视剧、电影、少儿、综艺、搞笑电影、恐怖电影、古装剧或者现代剧等。用户的用户特征可以包括：用户的用户ID、年龄、性别、以及VIP(VeryImportant Person，贵宾)属性等。

在一种可能的实施方式中，负向标记内容的负反馈特征可以包括内容类型、内容名称、内容制作者中的至少一项。示例性的，内容制作者可以是内容上传者、内容编剧等。负向标记内容的负反馈特征所对应的用户与用户特征所对应的用户属于同一用户。

示例性的，步骤S102中真值标签除第一待排序内容的感兴趣程度值之外，还可以是第一待排序内容的点击率、点赞率、观看率等等。

针对每一个第一待排序内容，将该第一待排序内容的第一属性特征、用户对应的负反馈特征以及用户特征作为排序模型的输入，对该第一待排序内容的排序结果进行预测，得到该第一待排序内容对应的排序结果，再计算排序结果与真值标签之间的损失，根据损失对排序模型的参数进行调整，直至满足预设结束条件，得到训练好的排序模型。

其中，预设结束条件可以是预先设定的迭代次数，或是损失达到预先设定的损失阈值等。

参见图2，图2为本发明实施例中内容排序方法的一种流程示意图，该方法应用于执行排序业务的服务器，包括以下步骤：

S201，获取排序请求。

执行排序业务的服务器获取客户端的排序请求，该排序请求中包含目标用户标识以及目标负向标记内容的标识，目标用户标识为对应于客户端的目标用户的标识。该目标负向标记内容为目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的，具体的，客户端向目标用户展示推荐内容，即已推荐内容，并提示目标用户选择不感兴趣或不喜欢的内容，在目标用户点选已推荐内容中不感兴趣或不喜欢的目标内容时，客户端根据接收到的目标用户针对已推荐内容中目标内容的选择指令确定目标负向标记内容，进而在向服务器发送排序请求时，该排序请求中携带目标负向标记内容的标识。

在一种应用场景中，客户端首次向目标用户推荐内容，启动搜索引擎，触发向服务器发送排序请求，该排序请求中包含了目标用户标识以及目标负向标记内容的标识，该目标负向标记内容包括：目标用户标识对应的客户端的历史推荐内容中的负向标记内容。其中，客户端的历史推荐内容中的负向标记内容，具体为客户端的历史推荐内容中目标用户不感兴趣或不喜欢的内容。

在另一种应用场景中，客户端实时向目标用户推荐内容，目标用户针对客户端当前推荐的内容选择不感兴趣或不喜欢的内容并实时反馈给服务器，触发向服务器发送排序请求，该排序请求中包含的目标负向标记内容的标识所对应的目标负向标记内容包括：目标用户标识对应的客户端实时根据接收到的针对已推荐内容中目标内容的选择指令确定的内容。

S202，根据目标负向标记内容的标识，获取目标负向标记内容对应的目标负反馈特征。

提取目标负向标记内容的标识对应的目标负向标记内容的特征，得到目标负反馈特征，目标负反馈特征可以包括内容类型、内容名称、内容制作者中的至少一项。在目标负向标记内容有多个时，目标负反馈特征为多个目标负向标记内容特征的并集。

目标负向标记内容通常为用户不感兴趣或不喜欢的内容，提取目标负向标记内容的标识对应的目标负向标记内容的特征，能够收集用户的负反馈特征，克服了现有技术中无法收集用户负反馈特征的技术缺陷。

S203，针对每一第二待排序内容，提取第二待排序内容的第二属性特征。

第二待排序内容为当前需要进行排序的内容，可以是内容数据库中已召回未经过排序的内容，也可以是内容推荐池中已经经过排序未发送至客户端展示的内容。

第二待排序内容的第二属性特征可以包括：内容ID、内容类型等。其中，内容ID可以使用数字表示，也可以使用编码表示，还可以是内容的名称等。内容类型比如可以是电视剧、电影、少儿、综艺、搞笑电影、恐怖电影、古装剧或者现代剧等。

S204，将第二属性特征、目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到第二待排序内容的预测排序结果。

排序请求中包含目标用户标识，根据目标用户标识可以获取到目标用户对应的目标用户特征，目标用户特征可以包括：目标用户的用户ID、年龄、性别、以及VIP属性等。示例性的，服务器中预先存储有用户标识与用户特征的对应关系表，进而在获取到排序请求的情况下，直接读取用户标识与用户特征的对应关系表，即可获取目标用户对应的目标用户特征，用户标识与用户特征的对应关系表还可以存储于特征数据库中，服务器在获取到排序请求的情况下，读取特征数据库中存储的用户标识与用户特征的对应关系表，即可获取目标用户对应的目标用户特征。

针对每一第二待排序内容，将该第二待排序内容的第二属性特征、目标用户对应的目标负反馈特征以及目标用户特征进行拼接，输入排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，该排序模型为通过上述图1所示实施例的方法训练得到的，预测排序结果包括第二待排序内容的感兴趣程度值。

S205，基于各第二待排序内容的预测排序结果，对各第二待排序内容排序，得到目标推荐内容。

按照各第二待排序内容的预测排序结果进行升序或降序排列，得到目标推荐内容。

S206，将目标推荐内容发送给客户端，以使客户端对目标推荐内容进行展示。

一个例子中，可以将所有的目标推荐内容发送给客户端，也可以根据客户端的展示能力确定发送给客户端的目标推荐内容的数量。

应用本发明实施例提供的内容排序方法，通过将第二待排序内容的第二属性特征，与目标用户所对应的目标负向标记内容的目标负反馈特征以及目标用户特征进行融合，输入利用融合了内容的属性特征、用户对应的负向标记内容的负反馈特征以及用户特征训练的排序模型中进行预测排序，使得对各第二待排序内容进行排序时排序在前的能够更倾向于目标用户感兴趣的内容，改变了目标用户不感兴趣内容的顺序，提高了目标用户感兴趣内容优先显示的概率，提升了前端内容展示页面的展示效率和展示内容与目标用户兴趣点匹配的准确度，实现了快速、准确地为用户推荐想要观看的内容。

在一种可能的实施方式中，上述图2所示的内容排序方法还可以包括：

获取客户端发送的针对目标推荐内容的获取请求，获取请求为客户端根据已推荐内容确定的；

响应于获取请求，执行根据目标负向标记内容的标识，获取目标负向标记内容对应的目标负反馈特征，针对每一第二待排序内容，提取第二待排序内容的第二属性特征，并将第二属性特征、目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到第二待排序内容的预测排序结果的步骤。

一个例子中，客户端在向目标用户展示首屏或一批推荐内容后，目标用户点选客户端已推荐内容中不感兴趣或不喜欢的内容达到一定数量的情况下，向服务器发送针对目标推荐内容的获取请求，该获取请求中可以包括目标用户标识以及目标负向标记内容的标识。服务器响应于该获取请求，触发重新对各第二待排序内容进行排序的程序，执行上述步骤S202-步骤S206。示例性的，一定数量可以根据实际需求进行设置，比如可以是客户端已推荐内容的三分之一、二分之一或三分之二等等。

服务器响应于客户端发送的针对目标推荐内容的获取请求，融合目标用户对应的目标负向标记内容的目标负反馈特征以及目标用户特征，重新对各第二待排序内容进行排序，使得再次向客户端发送的目标推荐内容改变了用户不感兴趣内容的顺序，提高了用户感兴趣内容优先显示的概率，进而实现了快速、准确地为用户推荐想要观看的内容。

在一种可能的实施方式中，上述步骤S203针对每一第二待排序内容，提取第二待排序内容的第二属性特征，包括：将未发送至客户端的待推荐内容确定为第二待排序内容；针对每一第二待排序内容，提取第二待排序内容的第二属性特征。

本发明实施例中，服务器可以在客户端向目标用户推荐内容，并实时向服务器反馈目标负向标记内容的标识的情况下，将未发送至客户端的待推荐内容确定为第二待排序内容，该未发送至客户端的待推荐内容可以是新召回未排序的待推荐内容，也可以是已召回且已排序但未发送至客户端的待推荐内容。提取各第二待排序内容的第二属性特征，融合目标用户对应的目标负向标记内容的目标负反馈特征以及目标用户特征，重新对各第二待排序内容进行排序，而无需对所召回的所有待排序内容重新进行排序，减小了内容排序的工作量，节省了服务器的计算资源。

在另一种可能的实施方式中，上述步骤S203针对每一第二待排序内容，提取第二待排序内容的第二属性特征，包括：将每一召回内容确定为第二待排序内容；该召回内容为服务器响应于客户端发送的内容获取请求，从内容数据库中获取的待推荐内容；针对每一第二待排序内容，提取第二待排序内容的第二属性特征。

在内容推荐应用程序、系统启动后的首屏推荐，断电、故障等重启后的刷新操作，以及接收到搜索指令需要搜索推荐内容等场景中，客户端需要获取推荐内容，此时客户端可以向服务器发送内容获取请求。服务器响应于该内容获取请求，从海量内容中召回相关内容存储于内容数据库中，存储于内容数据库中的全量内容即为召回内容，服务器将每一召回内容确定为第二待排序内容，提取各第二待排序内容的第二属性特征，进一步融合目标用户对应的目标负向标记内容的目标负反馈特征以及目标用户特征，对各第二待排序内容进行排序，以得到向客户端推荐的目标推荐内容。

服务器将每一召回内容确定为第二待排序内容，融合目标用户对应的目标负向标记内容的目标负反馈特征以及目标用户特征，重新对各第二待排序内容进行排序，能够向客户端推荐更倾向于感兴趣的目标推荐内容。

示例性的，以上述模型训练方法为离线训练为例，如图3所示，本发明实施例中内容排序方法的实现过程可以包括以下步骤：

步骤一、客户端向服务器发送排序请求；

其中，该排序请求中包含目标用户标识以及第一目标负向标记内容的标识，第一目标负向标记内容为目标用户标识对应的客户端的历史推荐内容中的负向标记内容。

步骤二、服务器响应于客户端发送的排序请求，根据第一目标负向标记内容的标识，获取第一目标负向标记内容对应的第一目标负反馈特征；以及，将每一召回内容确定为第二待排序内容，针对每一第二待排序内容，提取该第二待排序内容的第二属性特征，将该第二待排序内容的第二属性特征、第一目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，基于各第二待排序内容的预测排序结果，对各第二待排序内容排序，得到目标推荐内容，将目标推荐内容发送给客户端；

其中，排序模型为离线情况下利用第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户特征，和第一待排序内容对应的真值标签训练得到的。

步骤三、客户端对目标推荐内容进行展示，接收目标用户针对展示的各目标推荐内容中目标内容的选择指令，将目标内容从展示的各目标推荐内容中移除，并向服务器发送针对目标推荐内容的获取请求；

其中，该获取请求中包含目标用户标识以及第二目标负向标记内容的标识，第二目标负向标记内容即目标内容。

实际应用场景中，客户端向用户展示的当前视图内能够显示的内容个数有限，进而可以通过视图滚动的方式展示各目标推荐内容。示例性的，客户端在获取到服务器发送的目标推荐内容后，可以对目标推荐内容中目标数量个内容进行展示，输出用于提示目标用户选择不感兴趣或不喜欢的内容并删除的提示信息，将展示的各目标推荐内容转换为可编辑状态，接收目标用户针对展示的各目标推荐内容中目标内容的选择指令，将目标内容从展示的各目标推荐内容中移除。其中，目标数量可以根据实际需求进行设置，比如可以是6个、9个或12个等等，当然，目标数量的个数也可以大于当前视图内能够展示内容的个数。

本发明实施例中，将用户从海量内容中挑选感兴趣的内容的方式，转换为剔除用户不感兴趣的内容的方式，能够提升用户选择的自由度。

一个例子中，为了减少服务器对各第二待排序内容进行重排序时的数据处理工作量，客户端可以将目标用户选择的目标内容存储至负反馈队列中，在负反馈队列中的目标内容的个数达到一定数量时向服务器发送针对目标推荐内容的获取请求。

步骤四、服务器响应于客户端发送的获取请求，根据第二目标负向标记内容的标识，获取第二目标负向标记内容对应的第二目标负反馈特征，将未发送至客户端的待推荐内容确定为第二待排序内容，针对每一第二待排序内容，提取该第二待排序内容的第二属性特征，并将该第二待排序内容的第二属性特征、第二目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，基于各第二待排序内容的预测排序结果，对各第二待排序内容排序，得到目标推荐内容，将目标推荐内容发送给客户端；

步骤五、客户端对目标推荐内容进行展示。

示例性的，以上述模型训练方法为线上训练为例，本发明实施例中内容排序方法的实现过程可以包括以下步骤：

步骤A：客户端向服务器发送排序请求，该排序请求中包含目标用户标识以及第一目标负向标记内容的标识，第一目标负向标记内容为目标用户标识对应的客户端的历史推荐内容中的负向标记内容；

步骤B、服务器响应于客户端发送的排序请求，根据第一目标负向标记内容的标识，获取第一目标负向标记内容对应的第一目标负反馈特征，将第一目标负反馈特征以及目标用户标识发送给执行模型训练的电子设备；

步骤C、执行模型训练的电子设备获取第一待排序内容的第一属性特征，第一目标负反馈特征以及目标用户标识对应的目标用户特征，并获取第一待排序内容对应的真值标签，真值标签包括第一待排序内容的感兴趣程度值；将第一属性特征、第一目标负反馈特征以及目标用户特征输入排序模型中进行预测排序，得到第一待排序内容对应的排序结果，计算排序结果与真值标签之间的损失，并根据损失对排序模型的参数进行调整，得到训练好的排序模型；

步骤D、服务器将每一召回内容确定为第二待排序内容，针对每一第二待排序内容，提取该第二待排序内容的第二属性特征，将该第二待排序内容的第二属性特征、第一目标负反馈特征以及目标用户对应的目标用户特征输入训练好的排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，基于各第二待排序内容的预测排序结果，对各第二待排序内容排序，得到目标推荐内容，将目标推荐内容发送给客户端；

步骤E、客户端对目标推荐内容进行展示，接收目标用户针对展示的各目标推荐内容中目标内容的选择指令，将目标内容从展示的各目标推荐内容中移除，并向服务器发送针对目标推荐内容的获取请求，该获取请求中包含目标用户标识以及第二目标负向标记内容的标识；其中，第二目标负向标记内容即目标内容；

步骤F、服务器响应于客户端发送的获取请求，根据第二目标负向标记内容的标识，获取第二目标负向标记内容对应的第二目标负反馈特征，将第二目标负反馈特征以及目标用户标识发送给执行模型训练的电子设备；

步骤G、执行模型训练的电子设备获取第二目标负反馈特征，结合第一待排序内容的第一属性特征、目标用户标识对应的目标用户特征以及第一待排序内容对应的真值标签，更新训练排序模型；该步骤G的实现可参照步骤C，不同之处在于负反馈特征的内容；

步骤H、服务器将未发送至客户端的待推荐内容确定为第二待排序内容，针对每一第二待排序内容，提取该第二待排序内容的第二属性特征，并将该第二待排序内容的第二属性特征、第二目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，对各第二待排序内容重新排序，得到目标推荐内容，将目标推荐内容发送给客户端；

步骤I、客户端对目标推荐内容进行展示。

示例性的，参见图4，图4为本发明实施例中内容排序实现过程的一种示意图。示例性的，服务器中包含100个目标推荐内容，100个目标推荐内容按次序1-100排列存储于候选列表LC中。服务器向客户端发送向目标用户展示的目标推荐内容中前9个目标推荐内容，客户端所展示的9个目标推荐内容使用推荐内容列表L表示，L＝[V1，V2，V3，V4，V5，V6，V7，V8，V9]。

客户端输出提示信息以提示目标用户选择不感兴趣或不喜欢的内容并删除，将展示的目标推荐内容(即推荐内容列表L)中各目标推荐内容转换为可编辑状态，接收目标用户针对展示的各目标推荐内容中目标内容的选择指令，将目标内容从目标推荐内容中移除(图4中移除内容)，比如移除的目标内容为V9，V2，V5和V6，相应的，推荐内容列表L＝[V1，V3，V4，V7，V8]。将目标内容添加至负反馈队列NL中，NL＝[V9，V2，V5，V6]。客户端在负反馈队列中目标内容的个数达到一定数量时，向服务器发送针对目标推荐内容的获取请求，该获取请求中包含目标用户标识以及目标内容的标识。

服务器响应于客户端发送的获取请求，根据目标内容的标识，提取负反馈队列中各目标内容的目标负反馈特征(图4中实时分析)，得到负反馈特征NF，将负反馈特征NF以及目标用户标识发送给执行模型训练的电子设备。示例性的，服务器在接收到客户端发送的包含目标用户标识以及目标内容的标识的获取请求时，可以直接根据目标内容的标识，提取负反馈队列中各目标内容的目标负反馈特征，还可以根据目标用户标识查询目标用户在不同的客户端中标记的负向标记内容对应的历史负反馈特征。比如，当前目标用户在A国登录客户端，通过与客户端的交互，客户端将目标用户在A国登录时点选的目标内容的标识反馈给服务器，服务器提取各目标内容的目标负反馈特征，并同步获取目标用户历史在B国登录客户端时点选的历史负向标记内容的标识对应的历史负反馈特征。服务器将所获取的客户端当前实时反馈的目标负反馈特征以及同步获取的历史负反馈特征一起发送给执行模型训练的电子设备进行排序模型的训练。以及，后续在对第二待排序内容进行重新排序时，不仅融合目标用户当前实时反馈的目标负反馈特征，还融合了目标用户的历史负反馈特征，使得向目标用户推荐的内容更为契合目标用户的兴趣点。

执行模型训练的电子设备获取负反馈特征NF，结合第一待排序内容的第一属性特征、目标用户标识对应的目标用户特征以及第一待排序内容对应的真值标签，训练排序模型(图4中内容推荐策略)。

服务器针对每一第二待排序内容(图4中候选列表LC，LC＝[V10，V11，V12，……，V100])，提取该第二待排序内容的第二属性特征，并将该第二待排序内容的第二属性特征、负反馈特征NF以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到该第二待排序内容的预测排序结果，基于各第二待排序内容的预测排序结果，对各第二待排序内容排序(图4中实时重排序)，得到目标推荐内容，目标推荐内容可以表示为LC＝[V55，V78，V13，……，V38，V77，V69，……，V32]，进而将目标推荐内容中前9个发送给客户端进行展示(图4中推出内容)。客户端展示的目标推荐内容表示为：推荐内容列表L＝[V1，V3，V4，V7，V8，V55，V78，V13，V66，V31，V28，V99，V11，V42]，相应的，候选列表LC＝[V38，V77，V69，……，V32]。

重复上述内容直至候选列表LC为空或者用户选出想看的内容。

相应于上述方法实施例，本发明实施例还提供了相应的装置实施例。

如图5所示，图5为本发明实施例中模型训练装置的一种结构示意图，该装置应用于执行模型训练的电子设备，包括：

第一获取模块501，用于获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户的用户特征；

第二获取模块502，用于获取第一待排序内容对应的真值标签，真值标签包括第一待排序内容的感兴趣程度值；

预测模块503，用于将第一属性特征、负反馈特征以及用户特征输入排序模型中进行预测排序，得到第一待排序内容对应的排序结果；

训练模块504，用于计算排序结果与真值标签之间的损失，并根据损失对排序模型的参数进行调整。

应用本发明实施例提供的模型训练装置，通过将第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及用户特征作为输入，将包括第一待排序内容的感兴趣程度值的真值标签作为输出，训练排序模型。因训练的排序模型融合了第一待排序内容的属性特征、用户对应的负向标记内容的负反馈特征以及用户特征，使得利用该训练的排序模型在对各第一待排序内容进行排序时排序在前的能够更倾向于用户感兴趣的内容，改变了用户不感兴趣内容的顺序，提高了用户感兴趣内容优先显示的概率，提升了前端内容展示页面的展示效率和展示内容与用户兴趣点匹配的准确度，实现了快速、准确地为用户推荐想要观看的内容。

在一种可能的实施方式中，上述负反馈特征包括内容类型、内容名称、内容制作者中的至少一项。

如图6所示，图6为本发明实施例中内容排序装置的一种结构示意图，该装置应用于执行排序业务的服务器，包括：

第三获取模块601，用于获取排序请求，排序请求中包含目标用户标识以及目标负向标记内容的标识；目标负向标记内容为目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的；

第四获取模块602，用于根据目标负向标记内容的标识，获取目标负向标记内容对应的目标负反馈特征；

特征提取模块603，用于针对每一第二待排序内容，提取第二待排序内容的第二属性特征；

预测排序模块604，用于将第二属性特征、目标负反馈特征以及目标用户对应的目标用户特征输入排序模型中进行预测排序，得到第二待排序内容的预测排序结果；其中，排序模型为利用上述模型训练方法训练得到的；

内容排序模块605，用于基于各第二待排序内容的预测排序结果，对各第二待排序内容排序，得到目标推荐内容；

内容发送模块606，用于将目标推荐内容发送给客户端，以使客户端对目标推荐内容进行展示。

应用本发明实施例提供的内容排序装置，通过将第二待排序内容的第二属性特征，与目标用户所对应的目标负向标记内容的目标负反馈特征以及目标用户特征进行融合，输入利用融合了内容的属性特征、用户对应的负向标记内容的负反馈特征以及用户特征训练的排序模型中进行预测排序，使得对各第二待排序内容进行排序时排序在前的能够更倾向于目标用户感兴趣的内容，改变了目标用户不感兴趣内容的顺序，提高了目标用户感兴趣内容优先显示的概率，提升了前端内容展示页面的展示效率和展示内容与目标用户兴趣点匹配的准确度，实现了快速、准确地为用户推荐想要观看的内容。

在一种可能的实施方式中，上述装置还包括：

第五获取模块，用于获取客户端发送的针对目标推荐内容的获取请求，获取请求为客户端根据已推荐内容确定的；

重排序模块，用于响应于上述获取请求，触发上述第四获取模块602、特征提取模块603、预测排序模块604、内容排序模块605以及内容发送模块606执行重排序。

在一种可能的实施方式中，上述特征提取模块603，具体用于将未发送至客户端的待推荐内容确定为第二待排序内容；针对每一第二待排序内容，提取第二待排序内容的第二属性特征。

在一种可能的实施方式中，上述特征提取模块603，具体用于将每一召回内容确定为第二待排序内容；召回内容为服务器响应于客户端发送的内容获取请求，从内容数据库中获取的待推荐内容；针对每一第二待排序内容，提取第二待排序内容的第二属性特征。

在一种可能的实施方式中，上述目标负向标记内容包括：目标用户标识对应的客户端的历史推荐内容中的负向标记内容，或者，目标用户标识对应的客户端实时根据接收到的针对已推荐内容中目标内容的选择指令确定的内容。

本发明实施例还提供了一种电子设备，如图7所示，包括处理器701、通信接口702、存储器703和通信总线704，其中，处理器701，通信接口702，存储器703通过通信总线704完成相互间的通信，

存储器703，用于存放计算机程序；

处理器701，用于执行存储器703上所存放的程序时，实现上述任一方法实施例，以达到相同的技术效果。

上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述终端与其他设备之间的通信。

存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一方法实施例，以达到相同的技术效果。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一方法实施例，以达到相同的技术效果。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置/电子设备实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (11)

1.一种模型训练方法，其特征在于，所述方法应用于执行模型训练的电子设备，所述方法包括：

获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及所述用户的用户特征；

获取所述第一待排序内容对应的真值标签，所述真值标签包括所述第一待排序内容的感兴趣程度值；

将所述第一属性特征、所述负反馈特征以及所述用户特征输入排序模型中进行预测排序，得到所述第一待排序内容对应的排序结果；

计算所述排序结果与所述真值标签之间的损失，并根据所述损失对所述排序模型的参数进行调整。

2.根据权利要求1所述的方法，其特征在于，所述负反馈特征包括内容类型、内容名称、内容制作者中的至少一项。

3.一种内容排序方法，其特征在于，所述方法应用于执行排序业务的服务器，所述方法包括：

获取排序请求，所述排序请求中包含目标用户标识以及目标负向标记内容的标识；所述目标负向标记内容为所述目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的；

根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征；

将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果；其中，所述排序模型为利用权利要求1或2所述的方法训练得到的；

基于各所述第二待排序内容的预测排序结果，对各所述第二待排序内容排序，得到目标推荐内容；

将所述目标推荐内容发送给客户端，以使所述客户端对所述目标推荐内容进行展示。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

获取客户端发送的针对目标推荐内容的获取请求，所述获取请求为所述客户端根据已推荐内容确定的；

响应于所述获取请求，执行根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征，针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，并将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果的步骤。

5.根据权利要求3所述的方法，其特征在于，所述针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，包括：

将未发送至客户端的待推荐内容确定为第二待排序内容；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征。

6.根据权利要求3所述的方法，其特征在于，所述针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征，包括：

将每一召回内容确定为第二待排序内容；所述召回内容为所述服务器响应于客户端发送的内容获取请求，从内容数据库中获取的待推荐内容；

针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征。

7.根据权利要求3所述的方法，其特征在于，所述目标负向标记内容包括：所述目标用户标识对应的客户端的历史推荐内容中的负向标记内容，或者，所述目标用户标识对应的客户端实时根据接收到的针对已推荐内容中目标内容的选择指令确定的内容。

8.一种模型训练装置，其特征在于，所述装置应用于执行模型训练的电子设备，所述装置包括：

第一获取模块，用于获取第一待排序内容的第一属性特征，用户所对应的负向标记内容的负反馈特征以及所述用户的用户特征；

第二获取模块，用于获取所述第一待排序内容对应的真值标签，所述真值标签包括所述第一待排序内容的感兴趣程度值；

预测模块，用于将所述第一属性特征、所述负反馈特征以及所述用户特征输入排序模型中进行预测排序，得到所述第一待排序内容对应的排序结果；

训练模块，用于计算所述排序结果与所述真值标签之间的损失，并根据所述损失对所述排序模型的参数进行调整。

9.一种内容排序装置，其特征在于，所述装置应用于执行排序业务的服务器，所述装置包括：

第三获取模块，用于获取排序请求，所述排序请求中包含目标用户标识以及目标负向标记内容的标识；所述目标负向标记内容为所述目标用户标识对应的客户端根据接收到的针对已推荐内容中目标内容的选择指令确定的；

第四获取模块，用于根据所述目标负向标记内容的标识，获取所述目标负向标记内容对应的目标负反馈特征；

特征提取模块，用于针对每一第二待排序内容，提取所述第二待排序内容的第二属性特征；

预测排序模块，用于将所述第二属性特征、所述目标负反馈特征以及所述目标用户对应的目标用户特征输入排序模型中进行预测排序，得到所述第二待排序内容的预测排序结果；其中，所述排序模型为利用权利要求1或2所述的方法训练得到的；

内容排序模块，用于基于各所述第二待排序内容的预测排序结果，对各所述第二待排序内容排序，得到目标推荐内容；

内容发送模块，用于将所述目标推荐内容发送给客户端，以使所述客户端对所述目标推荐内容进行展示。

10.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现权利要求1-7任一所述的方法。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法。