CN114896291A - 多智能体模型的训练方法和排序方法 - Google Patents

Abstract

本公开提供了一种多智能体模型的训练方法、排序方法、装置、设备、存储介质以及计算机程序产品，涉及人工智能技术领域，具体为深度学习和智能推荐技术领域，可应用于数据排序等场景。具体实现方案为：获取训练样本集；执行以下训练步骤：从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将打分结果进行拼接，得到联合得分；将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值；基于打分结果和奖励值对多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。提高了排序的准确性。

Description

多智能体模型的训练方法和排序方法

技术领域

本公开涉及人工智能技术领域，具体为深度学习和智能推荐技术领域，可应用于数据排序等场景，尤其涉及一种多智能体模型的训练方法、排序方法、装置、设备、存储介质以及计算机程序产品。

背景技术

在对多智能体模型进行训练时，通常采用参数共享的方法，相当于先学习多智能体模型中的多个智能体间的通用策略，再学习每个智能体的特定策略，但这种训练方式对智能体间的相关性要求较高，当智能体间不相关时无法进行训练。

发明内容

本公开提供了一种多智能体模型的训练方法、排序方法、装置、设备、存储介质以及计算机程序产品，提高了排序的准确性。

根据本公开的一方面，提供了一种多智能体模型的训练方法，包括：获取训练样本集；执行以下训练步骤：从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将打分结果进行拼接，得到联合得分；将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值；基于打分结果和奖励值对多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

根据本公开的另一方面，提供了一种排序方法，包括：获取多个待处理数据；将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；基于打分结果，对多个待处理数据进行排序。

根据本公开的又一方面，提供了一种多智能体模型的训练装置，包括：第一获取模块，被配置为获取训练样本集；训练模块，被配置为执行以下训练步骤：从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将打分结果进行拼接，得到联合得分；将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值；基于打分结果和奖励值对多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

根据本公开的又一方面，提供了一种排序装置，包括：第二获取模块，被配置为获取多个待处理数据；打分模块，被配置为将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；排序模块，被配置为基于打分结果，对多个待处理数据进行排序。

根据本公开的又一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行上述多智能体模型的训练方法及排序方法。

根据本公开的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，上述计算机指令用于使上述计算机执行上述多智能体模型的训练方法及排序方法。

根据本公开的再一方面，提供了一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现上述多智能体模型的训练方法及排序方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是本公开可以应用于其中的示例性系统架构图；

图2是根据本公开的多智能体模型的训练方法的一个实施例的流程图；

图3是根据本公开的多智能体模型的训练方法的另一个实施例的流程图；

图4是根据本公开的多智能体模型的训练方法的一个示意图；

图5是根据本公开的排序方法的一个实施例的流程图；

图6是根据本公开的多智能体模型的训练装置的一个实施例的结构示意图；

图7是根据本公开的排序装置的一个实施例的结构示意图；

图8是用来实现本公开实施例的多智能体模型的训练方法或排序方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1示出了可以应用本公开的多智能体模型的训练方法或排序方法或多智能体模型的训练装置或排序装置的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以获取多智能体模型或数据排序等。终端设备101、102、103上可以安装有各种客户端应用，例如文本数据处理应用等等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以提供各种基于确定多智能体模型或数据排序的服务。例如，服务器105可以对从终端设备101、102、103获取到的待推荐数据及用户数据进行分析和处理，并生成处理结果(例如确定出多智能体模型或确定出待推荐数据的排序等)。

需要说明的是，服务器105可以是硬件，也可以是软件。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器105为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开实施例所提供的多智能体模型的训练方法或排序方法一般由服务器105执行，相应地，多智能体模型的训练装置或排序装置一般设置于服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，其示出了根据本公开的多智能体模型的训练方法的一个实施例的流程200。该多智能体模型的训练方法包括以下步骤：

步骤201、获取训练样本集。

在本实施例中，多智能体模型的训练方法的执行主体(例如图1所示的服务器105)可以获取训练样本集。其中，执行主体可以从公开的数据库中获取存储于其中的现有的样本集，也可以通过终端设备(例如图1所示的终端设备101、102、103)来收集样本，这样，执行主体可以接收终端设备所收集的样本，并将这些样本存储在本地，从而生成训练样本集。

训练样本集中可以包括至少一个样本。其中，样本可以包括待推荐数据样本。待推荐数据样本可以是文本样本、可以是图像样本、也可以是视频样本，也可以是文本、图像的组合样本，本公开对此不做限定。具体地，待推荐数据样本可以是包括任意待推荐内容的样本数据，示例性，待推荐数据样本可以是一个文本、图像相结合的形式的广告数据。

步骤202、从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果。

在本实施例中，上述执行主体在获取训练样本集后，可以从训练样本集中选取多个训练样本输入到多智能体模型中进行打分。具体地，多智能体模型包括多个智能体，每个智能体都可以独立进行打分。可以从训练样本集中随机选取多个训练样本作为输入数据，也可以基于固定间隔从训练样本集中选取多个训练样本作为输入数据，也可以基于一个样本抽取算法从训练样本集中抽取多个训练样本作为输入数据，本公开对此不做限定。选取的样本数量可以灵活设置，本公开对此不做限定。

在获取多个训练样本后，可以将多个训练样本作为输入数据，分别输入到多智能体模型的每一个智能体中进行打分，从每一个智能体的输出端，输出与多个训练样本对应的多个打分结果，以此获取多个智能体各自对应的打分结果。

步骤203、将打分结果进行拼接，得到联合得分。

在本实施例中，上述执行主体在得到打分结果后，可以将打分结果进行拼接，得到联合得分。具体地，可以先将每一个智能体对应的多个打分结果进行拼接，得到每一个智能体对应的一个联合得分，其中，可以基于任意顺序对一个智能体的多个打分结果进行拼接，也可以基于打分结果的生成先后顺序对一个智能体的多个打分结果进行拼接，也可以按照打分结果从大到小的顺序对一个智能体的多个打分结果进行拼接，本公开对此不做限定。在得到每一个智能体对应的一个联合得分后，可以再将多个智能体对应的多个联合得分进行拼接，得到多智能体模型对应的一个联合得分，其中，可以基于任意顺序对多个智能体对应的多个联合得分进行拼接，也可以按照每一个智能体对应的联合得分从大到小的顺序对多个智能体对应的多个联合得分进行拼接，本公开对此不做限定。

在本实施例的一些可选实现方式中，可以对多个智能体对应的所有打分结果按照从大到小进行排序，然后按照排序对所有打分结果进行拼接，得到多智能体模型对应的一个联合得分。

步骤204、将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值。

在本实施例中，上述执行主体在得到联合得分后，可以将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值。其中，分数评估环境独立于多智能体模型，可以与多智能体模型进行交互，具体地，可以将基于多智能体模型得到的联合得分作为输入数据，输入到分数评估环境中，从分数评估环境的输出端，输出多个奖励值，其中，每一个奖励值对应多智能体模型中的一个智能体，表示对该智能体做出的打分结果的一个反馈，奖励值可以是一个正数，代表正向反馈，也可以是一个负数，代表负向反馈。

步骤205、基于打分结果和奖励值对多智能体模型进行训练。

在本实施例中，上述执行主体在得到多个智能体各自对应的打分结果和奖励值后，可以基于打分结果和奖励值对多智能体模型进行训练。具体地，可以基于每一个智能体对应的打分结果和奖励值对各个智能体单独训练，示例性的，可以预先设置一个奖励阈值，对于一个智能体，将该智能体对应的奖励值与奖励阈值进行比较，若该智能体对应的奖励值不满足奖励阈值，则调整该智能体的参数，使对调整后的智能体输出的打分结果的奖励值与奖励阈值更接近。调整后的各个智能体组成训练一次之后的多智能体模型。

步骤206、响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

在本实施例中，上述执行主体在对多智能体模型完成一次训练后，可以将训练次数与预设次数阈值进行比较。具体地，在对多智能体模型完成一次训练后，将训练次数累加一次，将更新后的训练次数与预设次数阈值进行比较，示例性的，预设次数阈值可以设置为五万次。若更新后的训练次数等于预设次数阈值，将最后一次更新得到的多智能体模型确定为训练完成后的多智能体模型，并输出训练完成的多智能体模型。

步骤207、响应于训练次数小于预设次数阈值，继续训练。

在本实施例中，上述执行主体在对多智能体模型完成一次训练后，将训练次数累加一次，将更新后的训练次数与预设次数阈值进行比较，若更新后的训练次数小于预设次数阈值，则确定多智能体模型未训练完成，可以重复步骤202-205继续训练，直到更新后的训练次数等于预设次数阈值。

本公开实施例提供的多智能体模型的训练方法，首先获取训练样本集，然后执行以下训练步骤：从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将打分结果进行拼接，得到联合得分；将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值；基于打分结果和奖励值对多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。基于上述训练方法得到的多智能体模型可以得到综合多个智能体的打分结果，使打分结果能综合多个因素，从而使基于打分结果得到的排序更准确。

进一步继续参考图3，其示出了根据本公开的多智能体模型的训练方法的另一个实施例的流程300。该多智能体模型的训练方法包括以下步骤：

步骤301、获取训练样本集。

在本实施例中，步骤301具体操作已在图2所示的实施例中步骤201进行了详细的介绍，在此不再赘述。

需要说明的是，训练样本集中可以包括至少一个训练样本。其中，一个训练样本可以包括一条待推荐数据及对应的用户数据，待推荐数据包括标识数据及文本数据。

具体地，待推荐数据可以是任意标识数据及文本数据的组合，示例性的，待推荐数据是包括标识数据及文本数据的一个广告内容，用户数据可以包括用户行业、用户访问频率、广告单元下的最高出价、广告单元下的最低出价等数据，其中，每一条待推荐数据都对应一组用户数据，一条待推荐数据及对应的一组用户数据构成一个训练样本。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

步骤302、对训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征。

在本实施例中，上述执行主体在获取训练样本集后，可以对训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征。具体地，可以将训练样本集中的每一个训练样本作为输入数据，输入到一个特征提取模型中，从特征提取模型的输出端，输出训练样本对应的样本特征。其中，一个样本特征包括一个标识特征、一个文本特征和至少一个用户特征。

在本实施例的一些可选实现方式中，可以对训练样本集中的标识数据进行哈希处理，得到标识特征；基于预先训练的语言模型对训练样本集中的文本数据进行处理，得到文本特征；基于预先确定的运算规则对训练样本集中的用户数据进行处理，得到用户特征。

具体地，可以对训练样本集中每一个训练样本的标识数据进行哈希处理，得到标识特征集；将训练样本集中每一个训练样本的文本数据输入到预先训练的语言模型中，从语言模型的输出端输出文本数据对应的文本特征，以此得到文本特征集，其中，预先训练的语言模型是一个可以提取文本数据的文本特征的模型；用户数据可以包括用户行业、用户访问频率、广告单元下的最高出价、广告单元下的最低出价等多种数据，因此，可以分别针对每一类用户数据预先设定不同的运算规则，对训练样本集中每一个训练样本的不同的用户数据，分别基于对应的运算规则进行计算，将计算结果确定为进行计算的用户数据的用户特征，所有用户数据的用户特征构成用户特征集，示例性的，运算规则可以是取平均值、归一化、取最大值、取最小值。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

步骤303、将每一个训练样本对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，并将得到的多个特征矩阵确定为样本特征集。

在本实施例中，上述执行主体在得到标识特征集、文本特征集、用户特征集后，可以将每一个训练样本对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，并将得到的多个特征矩阵确定为样本特征集。具体地，对于每一个训练样本，可以从标识特征集中找到对应的一个标识特征，从文本特征集中找到对应的一个文本特征，从用户特征集中找到对应的至少一个用户特征，将一个标识特征、一个文本特征、至少一个用户特征拼接在一起，形成一个特征矩阵，所有训练样本形成的多个特征矩阵构成样本特征集。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

在本实施例的一些可选实现方式中，在得到样本特征集后，可以对训练次数和打分次数进行初始化，可以将训练次数和打分次数初始化为0，也可以初始化为任意正整数，本公开对此不做限定。

在本实施例的一些可选实现方式中，多智能体模型可以包括偏好智能体和收益智能体，偏好智能体和收益智能体分别包括一个打分网络。

具体地，在得到样本特征集后，可以基于ddpg(Deep Deterministic PolicyGradient)方法创建一个初始化的多智能体模型，其中，初始化的多智能体模型包括一个初始化的偏好智能体和一个初始化的收益智能体，初始化的偏好智能体和初始化的收益智能体分别包括一个打分网络。

步骤304、从样本特征集中选取多个样本特征，作为初始状态。

在本实施例中，上述执行主体在得到样本特征集后，可以从样本特征集中选取多个样本特征，作为初始状态。具体地，可以从样本特征集中随机选取多个样本特征；也可以按照用户访问频率对样本特征集中的样本特征进行排序，选取排序靠前的多个样本特征；也可以基于用户属性对样本特征集中的样本特征进行分类，将属于同一个用户的样本特征分为一类，从每一类中随机选取至少一个样本特征，或者在每一类中再对样本特征按照用户访问频率进行排序，从每一类中选取排序靠前的至少一个样本特征，本公开对此不做限定。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

将选取的多个样本特征作为初始状态，用于进一步输入到偏好智能体和收益智能体的打分网络中进行打分。

步骤305、将初始状态输入到偏好智能体的打分网络中进行打分，得到多个偏好得分。

在本实施例中，上述执行主体在得到初始状态之后，可以将初始状态输入到偏好智能体的打分网络中进行打分，得到多个偏好得分。具体地，可以将初始状态作为输入数据，输入到偏好智能体的打分网络中，偏好智能体的打分网络读取初始状态中的每一个样本特征，基于每一个样本特征进行打分，从偏好智能体的打分网络的输出端，输出与初始状态中的多个样本特征对应的多个偏好得分。其中，偏好得分代表用户对待推荐数据的感兴趣程度，偏好得分越高，用户选取待推荐数据的概率越大。

在本实施例的一些可选实现方式中，偏好智能体的打分网络在进行打分时，可以添加打分动作噪声，通过引入噪声来添加随机性，避免模型收敛到局部最优策略。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

步骤306、将初始状态输入到收益智能体的打分网络中进行打分，得到多个收益得分。

在本实施例中，上述执行主体在得到初始状态后，可以将初始状态输入到收益智能体的打分网络中进行打分，得到多个收益得分。具体地，可以将初始状态作为输入数据，输入到收益智能体的打分网络中，收益智能体的打分网络读取初始状态中的每一个样本特征，基于每一个样本特征进行打分，从收益智能体的打分网络的输出端，输出与初始状态中的多个样本特征对应的多个收益得分。其中，收益得分代表待推荐数据可以带来的收益高低，收益得分越高，待推荐数据的收益越高。

在本实施例的一些可选实现方式中，收益智能体的打分网络在进行打分时，可以添加打分动作噪声，通过引入噪声来添加随机性，避免模型收敛到局部最优策略。

步骤307、将打分结果进行拼接，得到联合得分。

在本实施例中，步骤307具体操作已在图2所示的实施例中步骤203进行了详细的介绍，在此不再赘述。

步骤308、将联合得分输入到分数评估环境中，基于离线仿真处理得到偏好智能体对应的偏好奖励值和收益智能体对应的收益奖励值。

在本实施例中，上述执行主体在得到联合得分后，可以将联合得分输入到分数评估环境中，基于离线仿真处理得到偏好智能体对应的偏好奖励值和收益智能体对应的收益奖励值。具体地，可以将联合得分输入到分数评估环境中，分数评估环境基于偏好参数和收益参数对联合得分进行计算，得到偏好智能体对应的偏好奖励值和收益智能体对应的收益奖励值。

步骤309、将初始状态、多个偏好得分、多个收益得分、偏好奖励值和收益奖励值，作为一条存储数据存储到训练数据库中。

在本实施例中，上述执行主体在得到偏好奖励值和收益奖励值后，可以进行数据存储。具体地，可以将一次打分过程中产生的初始状态、多个偏好得分、多个收益得分、偏好奖励值和收益奖励值，作为一条存储数据存储到训练数据库中。其中，训练数据库用来存储打分过程产生的数据，训练数据库中的数据可以作为训练数据对多智能体模型进行训练。

步骤310、判断多智能体模型的打分次数是否满足预设打分次数阈值。

在本实施例中，上述执行主体在将一次打分过程中产生的数据存储到训练数据库中后，可以判断多智能体模型的打分次数是否满足预设打分次数阈值。具体地，在将一次打分过程中产生的数据存储到训练数据库中后，可以将打分次数累加一次，将更新后的累计打分次数与预设打分次数阈值进行比较，判断多智能体模型的打分次数是否满足预设打分次数阈值。其中，预设打分次数阈值是预先设定的一个数值，示例性的，预设打分次数阈值为5次。

步骤311、响应于打分次数小于预设打分次数阈值，从样本特征集中重新选取多个样本特征作为初始状态，分别输入到偏好智能体的打分网络和收益智能体的打分网络中进行打分，即返回步骤304，再次进行打分。

在本实施例中，上述执行主体在判断打分次数小于预设打分次数阈值时，可以从样本特征集中重新选取多个样本特征作为初始状态，再次执行打分过程。具体地，可以从样本特征集中未被选择过的样本特征中随机选取多个样本特征作为初始状态，也可以先获取样本特征集中被选择过的样本特征中，偏好奖励值和收益奖励值之和最大的样本特征，作为目标样本特征，然后将样本特征集中未被选择过的样本特征分别与目标样本特征进行相似度计算，按照相似度从大到小从样本特征集中未被选择过的样本特征中选取多个样本特征，作为初始状态，然后将初始状态分别输入到偏好智能体的打分网络和收益智能体的打分网络中进行打分，相当于再次执行步骤304-309。

步骤312、响应于所述打分次数等于所述预设打分次数阈值，从训练数据库中选取多条存储数据。

在本实施例中，上述执行主体在判断打分次数等于预设打分次数阈值时，可以从训练数据库中选取多条存储数据。具体地，若更新后的累计打分次数等于预设打分次数阈值，则基于当前训练步骤中多次打分过程产生的数据作为训练数据，对多智能体模型训练一次，可以执行步骤312-316。在步骤312中，可以从训练数据库中随机选取多条存储数据。

在本实施例的一些可选实现方式中，偏好智能体和收益智能体分别包括一个评估网络。

选取的多条存储数据用于进一步对偏好智能体和收益智能体的打分网络和评估网络进行训练。

步骤313、基于多条存储数据中的多个偏好奖励值和多个偏好得分，对偏好智能体的评估网络进行训练。

在本实施例中，上述执行主体在选取到多条存储数据后，可以基于多条存储数据中的多个偏好奖励值和多个偏好得分，对偏好智能体的评估网络进行训练。其中，偏好智能体的评估网络可以基于输入的至少一个偏好得分，输出一个偏好评估值，偏好评估值表示对输入的偏好得分的一个反馈，偏好评估值可以是一个正数，代表正向反馈，也可以是一个负数，代表负向反馈。具体地，对于选取的每一条存储数据，可以获取该条存储数据中的多个偏好得分和一个偏好奖励值，将获取的多个偏好得分输入到偏好智能体的评估网络中，得到一个偏好评估值，基于得到的偏好评估值与偏好奖励值计算损失值，响应于损失值大于预设损失阈值，调整偏好智能体的评估网络的参数。基于选取的每一条存储数据重复上述训练过程。

步骤314、基于多条存储数据中的多个收益奖励值和多个收益得分，对收益智能体的评估网络进行训练。

在本实施例中，上述执行主体在选取到多条存储数据后，可以基于多条存储数据中的多个收益奖励值和多个收益得分，对收益智能体的评估网络进行训练。其中，收益智能体的评估网络可以基于输入的至少一个收益得分，输出一个收益评估值，收益评估值表示对输入的收益得分的一个反馈，收益评估值可以是一个正数，代表正向反馈，也可以是一个负数，代表负向反馈。具体地，对于选取的每一条存储数据，可以获取该条存储数据中的多个收益得分和一个收益奖励值，将获取的多个收益得分输入到收益智能体的评估网络中，得到一个收益评估值，基于得到的收益评估值与收益奖励值计算损失值，响应于损失值大于预设损失阈值，调整收益智能体的评估网络的参数。基于选取的每一条存储数据重复上述训练过程。

步骤315、基于多条存储数据中的多个初始状态及训练后的偏好智能体的评估网络，对偏好智能体的打分网络进行训练。

在本实施例中，上述执行主体在得到训练后的偏好智能体的评估网络后，可以基于多条存储数据中的多个初始状态及训练后的偏好智能体的评估网络，对偏好智能体的打分网络进行训练。其中，偏好智能体的打分网络可以基于输入的一个样本特征，输出一个偏好得分。具体地，对于选取的每一条存储数据，可以获取该条存储数据中的一个初始状态，将获取的初始状态输入到偏好智能体的打分网络中，得到与初始状态中的多个样本特征对应的多个偏好得分，将得到的多个偏好得分输入到训练后的偏好智能体的评估网络中，得到一个偏好评估值，调整偏好智能体的打分网络的参数，使调整后的偏好智能体的打分网络输出的偏好得分，能得到一个更高的偏好评估值。

步骤316、基于多条存储数据中的多个初始状态及训练后的收益智能体的评估网络，对收益智能体的打分网络进行训练。

在本实施例中，上述执行主体在得到训练后的收益智能体的评估网络后，可以基于多条存储数据中的多个初始状态及训练后的收益智能体的评估网络，对收益智能体的打分网络进行训练。其中，收益智能体的打分网络可以基于输入的一个样本特征，输出一个收益得分。具体地，对于选取的每一条存储数据，可以获取该条存储数据中的一个初始状态，将获取的初始状态输入到收益智能体的打分网络中，得到与初始状态中的多个样本特征对应的多个收益得分，将得到的多个收益得分输入到训练后的收益智能体的评估网络中，得到一个收益评估值，调整收益智能体的打分网络的参数，使调整后的收益智能体的打分网络输出的收益得分，能得到一个更高的收益评估值。

步骤317、响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

在本实施例中，步骤317具体操作已在图2所示的实施例中步骤206进行了详细的介绍，在此不再赘述。

步骤318、响应于训练次数小于预设次数阈值，将训练数据库中的数据清除，重置打分次数，并再次执行训练步骤。

在本实施例中，上述执行主体在判断训练次数小于预设次数阈值后，可以再次执行上述训练步骤。具体地，可以将训练数据库中的数据清除，重置打分次数，基于最后一次更新的多智能体模型再次执行上述训练步骤304-316，以此，可以在一个新的训练步骤中，重新计算打分次数，并基于该训练步骤中的多智能体模型产出的打分数据再次训练。

需要说明的是，在步骤305和306、步骤313和314、步骤315和316三对步骤中，不区分执行的先后顺序，在一对步骤中可以先执行任一个步骤，也可以两个步骤同时执行。

从图3中可以看出，与图2对应的实施例相比，本实施例中的多智能体模型的训练方法，多智能体模型包括偏好智能体和收益智能体，基于偏好智能体和收益智能体得到联合得分，将联合得分输入到分数评估环境中，基于离线仿真处理得到偏好奖励值和收益奖励值，基于初始状态、偏好奖励值、偏好得分，先对偏好智能体的评估网络进行训练，再对偏好智能体的打分网络进行训练，得到训练好的偏好智能体，基于初始状态、收益奖励值、收益得分，先对收益智能体的评估网络进行训练，再对收益智能体的打分网络进行训练，得到训练好的收益智能体，可以在偏好智能体和收益智能体不相关的情况下同时进行优化，并使训练好的多智能体模型能综合考虑用户偏好及待推荐数据的收益，对待推荐数据做出综合打分，从而使基于综合打分得到的待推荐数据的排序结果更准确、更合理。

进一步继续参考图4，其示出了根据本公开的多智能体模型的训练方法的一个示意图400，从图4中可以看出，多智能体模型可以包括偏好智能体和收益智能体，偏好智能体和收益智能体分别包括一个打分网络和一个评估网络，在对多智能体模型进行训练时，可以先从样本特征集中选取多个样本特征作为初始状态，将初始状态分别输入到偏好智能体的打分网络和收益智能体的打分网络中，分别得到多个偏好得分和多个收益得分，将多个偏好得分和多个收益得分进行拼接，得到一个联合得分，将联合得分输入到分数评估环境中，得到一个偏好奖励值和一个收益奖励值，基于偏好奖励值和偏好得分先对偏好智能体的评估网络进行训练，再基于初始状态及训练后的偏好智能体的评估网络，对偏好智能体的打分网络进行训练，得到训练后的偏好智能体；基于收益奖励值和收益得分先对收益智能体的评估网络进行训练，再基于初始状态及训练后的收益智能体的评估网络，对收益智能体的打分网络进行训练，得到训练后的收益智能体，训练后的偏好智能体和训练后的收益智能体形成训练后的多智能体模型。使基于训练后的多智能体模型得到的待推荐数据的排序更准确、更合理。

进一步继续参考图5，其示出了根据本公开的排序方法的一个实施例的流程500。该排序方法包括以下步骤：

步骤501、获取多个待处理数据。

在本实施例中，上述执行主体可以获取多个待处理数据。其中，执行主体可以从公开的数据库中获取存储于其中的现有的多个待处理数据，也可以通过终端设备(例如图1所示的终端设备101、102、103)来收集多个待处理数据。

一个待处理数据可以包括一条待推荐数据，待推荐数据可以是文本、可以是图像、也可以是视频，也可以是文本、图像的组合，本公开对此不做限定。具体地，待推荐数据可以是包括任意待推荐内容的数据，示例性，待推荐数据可以是一个文本、图像相结合的形式的广告数据。

在本实施例的一些可选实现方式中，一个待处理数据可以包括一条待推荐数据及对应的用户数据，待推荐数据包括标识数据及文本数据。具体地，待推荐数据可以是任意标识数据及文本数据的组合，示例性的，待推荐数据是包括标识数据及文本数据的一个广告内容，用户数据可以包括用户行业、用户访问频率、广告单元下的最高出价、广告单元下的最低出价等数据，其中，每一条待推荐数据都对应一组用户数据，一条待推荐数据及对应的一组用户数据构成一个待处理数据。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

步骤502、将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果。

在本实施例中，上述执行主体在得到多个待处理数据后，可以将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果。具体地，多智能体模型包括多个智能体，每个智能体都可以独立进行打分。可以将多个待处理数据作为输入数据，分别输入到多智能体模型的每一个智能体中进行打分，从每一个智能体的输出端，输出与多个待处理数据对应的多个打分结果，以此获取多个智能体各自对应的打分结果。

在本实施例的一些可选实现方式中，多智能体模型可以包括偏好智能体和收益智能体，偏好智能体和收益智能体分别包括一个打分网络。

在本实施例的一些可选实现方式中，可以通过以下方式将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果：对多个待处理数据进行特征提取，得到标识特征、文本特征和用户特征；将每一个待处理数据对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，得到多个特征矩阵；将多个特征矩阵输入到偏好智能体的打分网络中进行打分，得到多个偏好得分；将多个特征矩阵输入到收益智能体的打分网络中进行打分，得到多个收益得分。

步骤503、基于打分结果，对多个待处理数据进行排序。

在本实施例中，上述执行主体在得到打分结果后，可以基于打分结果，对多个待处理数据进行排序。具体地，每一个待处理数据都对应多个智能体输出的多个打分结果，可以将每一个待处理数据对应的多个打分结果进行相加，得到一个综合得分，基于多个综合得分对多个待处理数据进行排序。

在本实施例的一些可选实现方式中，可以基于多个偏好得分及多个收益得分，对多个待处理数据中的多条待推荐数据进行排序。

具体地，每一个待处理数据都对应一个偏好得分和一个收益得分，可以将多个待处理数据对应的偏好得分和收益得分分别进行加权求和，得到多个待处理数据对应的多个综合得分，基于多个综合得分对多个待处理数据中的多条待推荐数据进行排序。

从图5中可以看出，本实施例中的排序方法可以基于偏好得分和收益得分对多条待推荐数据进行排序，既考虑了用户偏好，又考虑了待推荐数据的收益，使排序结果更合理，提高了用户对待推荐数据的使用意愿，提高了待推荐数据的收益。

进一步参考图6，作为对上述多智能体模型的训练方法的实现，本公开提供了一种多智能体模型的训练装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的多智能体模型的训练装置600可以包括第一获取模块601，训练模块602。其中，第一获取模块601，被配置为获取训练样本集；训练模块602，被配置为执行以下训练步骤：从训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将打分结果进行拼接，得到联合得分；将联合得分输入到分数评估环境中，得到多个智能体各自对应的奖励值；基于打分结果和奖励值对多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

在本实施例中，多智能体模型的训练装置600：第一获取模块601，训练模块602的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-207的相关说明，在此不再赘述。

在本实施例的一些可选实现方式中，训练样本集中的一个训练样本包括一条待推荐数据及对应的用户数据，待推荐数据包括标识数据及文本数据；在对多智能体模型进行训练之前，多智能体模型的训练装置600还包括：特征提取模块，被配置为对训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征；特征拼接模块，被配置为将每一个训练样本对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，并将得到的多个特征矩阵确定为样本特征集。

在本实施例的一些可选实现方式中，特征提取模块包括：第一提取子模块，被配置为对训练样本集中的标识数据进行哈希处理，得到标识特征；第二提取子模块，被配置为基于预先训练的语言模型对训练样本集中的文本数据进行处理，得到文本特征；第三提取子模块，被配置为基于预先确定的运算规则对训练样本集中的用户数据进行处理，得到用户特征。

在本实施例的一些可选实现方式中，多智能体模型包括偏好智能体和收益智能体，偏好智能体和收益智能体分别包括一个打分网络；训练模块602包括：第一选取子模块，被配置为从样本特征集中选取多个样本特征，作为初始状态；第一打分子模块，被配置为将初始状态输入到偏好智能体的打分网络中进行打分，得到多个偏好得分；第二打分子模块，被配置为将初始状态输入到收益智能体的打分网络中进行打分，得到多个收益得分。

在本实施例的一些可选实现方式中，训练模块602还包括：计算子模块，被配置为将联合得分输入到分数评估环境中，基于离线仿真处理得到偏好智能体对应的偏好奖励值和收益智能体对应的收益奖励值。

在本实施例的一些可选实现方式中，训练模块602还包括：存储子模块，被配置为将初始状态、多个偏好得分、多个收益得分、偏好奖励值和收益奖励值，作为一条存储数据存储到训练数据库中；第一判断子模块，被配置为判断多智能体模型的打分次数是否满足预设打分次数阈值；第二判断子模块，被配置为响应于打分次数等于预设打分次数阈值，执行基于打分结果和奖励值对多智能体模型进行训练；第三判断子模块，被配置为响应于打分次数小于预设打分次数阈值，从样本特征集中重新选取多个样本特征作为初始状态，分别输入到偏好智能体的打分网络和收益智能体的打分网络中进行打分。

在本实施例的一些可选实现方式中，偏好智能体和收益智能体分别包括一个评估网络；训练模块602还包括：第二选取子模块，被配置为从训练数据库中选取多条存储数据；第一训练子模块，被配置为基于多条存储数据中的多个偏好奖励值和多个偏好得分，对偏好智能体的评估网络进行训练；第二训练子模块，被配置为基于多条存储数据中的多个收益奖励值和多个收益得分，对收益智能体的评估网络进行训练；第三训练子模块，被配置为基于多条存储数据中的多个初始状态及训练后的偏好智能体的评估网络，对偏好智能体的打分网络进行训练；第四训练子模块，被配置为基于多条存储数据中的多个初始状态及训练后的收益智能体的评估网络，对收益智能体的打分网络进行训练。

在本实施例的一些可选实现方式中，多智能体模型的训练装置600还包括：重复训练模块，被配置为响应于训练次数小于预设次数阈值，将训练数据库中的数据清除，重置打分次数，并再次执行训练步骤。

进一步参考图7，作为对上述排序方法的实现，本公开提供了一种排序装置的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图7所示，本实施例的排序装置700可以包括第二获取模块701，打分模块702，排序模块703。其中，第二获取模块701，被配置为获取多个待处理数据；打分模块702，被配置为将多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；排序模块703，被配置为基于打分结果，对多个待处理数据进行排序。

在本实施例中，排序装置700：第二获取模块701，打分模块702，排序模块703的具体处理及其所带来的技术效果可分别参考图5对应实施例中的步骤501-503的相关说明，在此不再赘述。

在本实施例的一些可选实现方式中，一个待处理数据包括一条待推荐数据及对应的用户数据，待推荐数据包括标识数据及文本数据，多智能体模型包括偏好智能体和收益智能体，偏好智能体和收益智能体分别包括一个打分网络；打分模块702包括：第四提取子模块，被配置为对多个待处理数据进行特征提取，得到标识特征、文本特征和用户特征；拼接子模块，被配置为将每一个待处理数据对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，得到多个特征矩阵；第三打分子模块，被配置为将多个特征矩阵输入到偏好智能体的打分网络中进行打分，得到多个偏好得分；第四打分子模块，被配置为将多个特征矩阵输入到收益智能体的打分网络中进行打分，得到多个收益得分。

在本实施例的一些可选实现方式中，排序模块703包括：排序子模块，被配置为基于多个偏好得分及多个收益得分，对多个待处理数据中的多条待推荐数据进行排序。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如多智能体模型的训练方法或排序生成方法。例如，在一些实施例中，多智能体模型的训练方法或排序生成方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的多智能体模型的训练方法或排序生成方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行多智能体模型的训练方法或排序生成方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (25)

1.一种多智能体模型的训练方法，包括：

获取训练样本集；

执行以下训练步骤：从所述训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将所述打分结果进行拼接，得到联合得分；将所述联合得分输入到分数评估环境中，得到所述多个智能体各自对应的奖励值；基于所述打分结果和所述奖励值对所述多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

2.根据权利要求1所述的方法，其中，所述训练样本集中的一个训练样本包括一条待推荐数据及对应的用户数据，所述待推荐数据包括标识数据及文本数据；

在对所述多智能体模型进行训练之前，所述方法还包括：

对所述训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征；

将每一个训练样本对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，并将得到的多个特征矩阵确定为样本特征集。

3.根据权利要求2所述的方法，其中，所述对所述训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征包括：

对所述训练样本集中的标识数据进行哈希处理，得到所述标识特征；

基于预先训练的语言模型对所述训练样本集中的文本数据进行处理，得到所述文本特征；

基于预先确定的运算规则对所述训练样本集中的用户数据进行处理，得到所述用户特征。

4.根据权利要求2或3所述的方法，其中，所述多智能体模型包括偏好智能体和收益智能体，所述偏好智能体和收益智能体分别包括一个打分网络；

所述从所述训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果包括：

从所述样本特征集中选取多个样本特征，作为初始状态；

将所述初始状态输入到所述偏好智能体的打分网络中进行打分，得到多个偏好得分；

将所述初始状态输入到所述收益智能体的打分网络中进行打分，得到多个收益得分。

5.根据权利要求4所述的方法，其中，所述将所述联合得分输入到分数评估环境中，得到所述多个智能体各自对应的奖励值包括：

将所述联合得分输入到所述分数评估环境中，基于离线仿真处理得到所述偏好智能体对应的偏好奖励值和所述收益智能体对应的收益奖励值。

6.根据权利要求5所述的方法，其中，所述将所述联合得分输入到分数评估环境中，得到所述多个智能体各自对应的奖励值还包括：

将所述初始状态、所述多个偏好得分、所述多个收益得分、所述偏好奖励值和所述收益奖励值，作为一条存储数据存储到训练数据库中；

判断所述多智能体模型的打分次数是否满足预设打分次数阈值；

响应于所述打分次数等于所述预设打分次数阈值，执行所述基于所述打分结果和所述奖励值对所述多智能体模型进行训练；

响应于所述打分次数小于所述预设打分次数阈值，从所述样本特征集中重新选取多个样本特征作为初始状态，分别输入到所述偏好智能体的打分网络和所述收益智能体的打分网络中进行打分。

7.根据权利要求6所述的方法，其中，所述偏好智能体和收益智能体分别包括一个评估网络；

所述基于所述打分结果和所述奖励值对所述多智能体模型进行训练包括：

从所述训练数据库中选取多条存储数据；

基于所述多条存储数据中的多个偏好奖励值和多个偏好得分，对所述偏好智能体的评估网络进行训练；

基于所述多条存储数据中的多个收益奖励值和多个收益得分，对所述收益智能体的评估网络进行训练；

基于所述多条存储数据中的多个初始状态及训练后的偏好智能体的评估网络，对所述偏好智能体的打分网络进行训练；

基于所述多条存储数据中的多个初始状态及训练后的收益智能体的评估网络，对所述收益智能体的打分网络进行训练。

8.根据权利要求7所述的方法，所述方法还包括：

响应于所述训练次数小于所述预设次数阈值，将所述训练数据库中的数据清除，重置所述打分次数，并再次执行所述训练步骤。

9.一种排序方法，包括：

获取多个待处理数据；

将所述多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果，其中，所述多智能体模型基于权利要求1-8任一项训练得到；

基于所述打分结果，对所述多个待处理数据进行排序。

10.根据权利要求9所述的方法，其中，一个待处理数据包括一条待推荐数据及对应的用户数据，所述待推荐数据包括标识数据及文本数据，所述多智能体模型包括偏好智能体和收益智能体，所述偏好智能体和收益智能体分别包括一个打分网络；

所述将所述多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果包括：

对所述多个待处理数据进行特征提取，得到标识特征、文本特征和用户特征；

将每一个待处理数据对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，得到多个特征矩阵；

将所述多个特征矩阵输入到所述偏好智能体的打分网络中进行打分，得到多个偏好得分；

将所述多个特征矩阵输入到所述收益智能体的打分网络中进行打分，得到多个收益得分。

11.根据权利要求10所述的方法，其中，所述基于所述打分结果，对所述多个待处理数据进行排序包括：

基于所述多个偏好得分及所述多个收益得分，对所述多个待处理数据中的多条待推荐数据进行排序。

12.一种多智能体模型的训练装置，所述装置包括：

第一获取模块，被配置为获取训练样本集；

训练模块，被配置为执行以下训练步骤：从所述训练样本集中选取多个训练样本输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果；将所述打分结果进行拼接，得到联合得分；将所述联合得分输入到分数评估环境中，得到所述多个智能体各自对应的奖励值；基于所述打分结果和所述奖励值对所述多智能体模型进行训练；响应于训练次数等于预设次数阈值，输出训练完成的多智能体模型。

13.根据权利要求12所述的装置，其中，所述训练样本集中的一个训练样本包括一条待推荐数据及对应的用户数据，所述待推荐数据包括标识数据及文本数据；

在对所述多智能体模型进行训练之前，所述装置还包括：

特征提取模块，被配置为对所述训练样本集中的训练样本进行特征提取，得到标识特征、文本特征和用户特征；

特征拼接模块，被配置为将每一个训练样本对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，并将得到的多个特征矩阵确定为样本特征集。

14.根据权利要求13所述的装置，其中，所述特征提取模块包括：

第一提取子模块，被配置为对所述训练样本集中的标识数据进行哈希处理，得到所述标识特征；

第二提取子模块，被配置为基于预先训练的语言模型对所述训练样本集中的文本数据进行处理，得到所述文本特征；

第三提取子模块，被配置为基于预先确定的运算规则对所述训练样本集中的用户数据进行处理，得到所述用户特征。

15.根据权利要求13或14所述的装置，其中，所述多智能体模型包括偏好智能体和收益智能体，所述偏好智能体和收益智能体分别包括一个打分网络；

所述训练模块包括：

第一选取子模块，被配置为从所述样本特征集中选取多个样本特征，作为初始状态；

第一打分子模块，被配置为将所述初始状态输入到所述偏好智能体的打分网络中进行打分，得到多个偏好得分；

第二打分子模块，被配置为将所述初始状态输入到所述收益智能体的打分网络中进行打分，得到多个收益得分。

16.根据权利要求15所述的装置，其中，所述训练模块还包括：

计算子模块，被配置为将所述联合得分输入到所述分数评估环境中，基于离线仿真处理得到所述偏好智能体对应的偏好奖励值和所述收益智能体对应的收益奖励值。

17.根据权利要求16所述的装置，其中，所述训练模块还包括：

存储子模块，被配置为将所述初始状态、所述多个偏好得分、所述多个收益得分、所述偏好奖励值和所述收益奖励值，作为一条存储数据存储到训练数据库中；

第一判断子模块，被配置为判断所述多智能体模型的打分次数是否满足预设打分次数阈值；

第二判断子模块，被配置为响应于所述打分次数等于所述预设打分次数阈值，执行所述基于所述打分结果和所述奖励值对所述多智能体模型进行训练；

第三判断子模块，被配置为响应于所述打分次数小于所述预设打分次数阈值，从所述样本特征集中重新选取多个样本特征作为初始状态，分别输入到所述偏好智能体的打分网络和所述收益智能体的打分网络中进行打分。

18.根据权利要求17所述的装置，其中，所述偏好智能体和收益智能体分别包括一个评估网络；

所述训练模块还包括：

第二选取子模块，被配置为从所述训练数据库中选取多条存储数据；

第一训练子模块，被配置为基于所述多条存储数据中的多个偏好奖励值和多个偏好得分，对所述偏好智能体的评估网络进行训练；

第二训练子模块，被配置为基于所述多条存储数据中的多个收益奖励值和多个收益得分，对所述收益智能体的评估网络进行训练；

第三训练子模块，被配置为基于所述多条存储数据中的多个初始状态及训练后的偏好智能体的评估网络，对所述偏好智能体的打分网络进行训练；

第四训练子模块，被配置为基于所述多条存储数据中的多个初始状态及训练后的收益智能体的评估网络，对所述收益智能体的打分网络进行训练。

19.根据权利要求18所述的装置，其中，所述装置还包括：

重复训练模块，被配置为响应于所述训练次数小于所述预设次数阈值，将所述训练数据库中的数据清除，重置所述打分次数，并再次执行所述训练步骤。

20.一种排序装置，所述装置包括：

第二获取模块，被配置为获取多个待处理数据；

打分模块，被配置为将所述多个待处理数据输入到多智能体模型中进行打分，得到多个智能体各自对应的打分结果，其中，所述多智能体模型基于权利要求12-19任一项训练得到；

排序模块，被配置为基于所述打分结果，对所述多个待处理数据进行排序。

21.根据权利要求20所述的装置，其中，一个待处理数据包括一条待推荐数据及对应的用户数据，所述待推荐数据包括标识数据及文本数据，所述多智能体模型包括偏好智能体和收益智能体，所述偏好智能体和收益智能体分别包括一个打分网络；

所述打分模块包括：

第四提取子模块，被配置为对所述多个待处理数据进行特征提取，得到标识特征、文本特征和用户特征；

拼接子模块，被配置为将每一个待处理数据对应的标识特征、文本特征和用户特征拼接为一个特征矩阵，得到多个特征矩阵；

第三打分子模块，被配置为将所述多个特征矩阵输入到所述偏好智能体的打分网络中进行打分，得到多个偏好得分；

第四打分子模块，被配置为将所述多个特征矩阵输入到所述收益智能体的打分网络中进行打分，得到多个收益得分。

22.根据权利要求21所述的装置，其中，所述排序模块包括：

排序子模块，被配置为基于所述多个偏好得分及所述多个收益得分，对所述多个待处理数据中的多条待推荐数据进行排序。

23.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-11中任一项所述的方法。

24.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-11中任一项所述的方法。

25.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-11中任一项所述的方法。

Images