CN115080789A - 一种模型训练和推荐方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明实施例提供了一种模型训练和推荐方法、装置、电子设备及存储介质。具体实现方案为：获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，第一业务场景和第二业务场景的业务目标一致；针对第一特征数据和第二特征数据进行拼接，得到拼接数据，基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔；第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。本发明实施例中，将不同业务场景对应的特征数据进行拼接，丰富了模型训练的特征，能够提升模型训练的效果，提升模型的排序效果以及推荐的准确性。

Description

一种模型训练和推荐方法、装置、电子设备及存储介质

技术领域

本发明涉及智能分析技术领域，特别是涉及一种模型训练和推荐方法、装置、电子设备及存储介质。

背景技术

目前，在工业界基于神经网络的多任务学习应用广泛，神经网络模型训练的特征数据决定了模型训练的效果，模型训练的特征数据越丰富，模型训练的效果就越好，现有的模型训练过程中针对一业务场景，是利用此业务场景对应的特征数据进行模型训练，这种方式可能会存在模型训练所需的特征数据单一的问题，导致训练的模型的效果不佳，例如，模型是用于向用户推荐内容如推荐视频的，训练的该模型推荐的准确度较低等。

发明内容

本发明实施例的目的在于提供一种模型训练和推荐方法、装置、电子设备及存储介质，以提升模型训练的效果。具体技术方案如下：

在本发明实施例的第一方面，首先提供了一种模型训练方法，所述方法包括：

获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，所述第一业务场景和所述第二业务场景的业务目标一致；

针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据；

基于所述拼接数据训练所述第一业务场景对应的第一模型塔，和/或，基于所述拼接数据训练所述第二业务场景对应的第二模型塔；所述第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，所述第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。

可选的，所述针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据，包括：

将所述第一特征数据和所述第二特征数据嵌入表示；

对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据。

可选的，所述第一业务场景为意图识别场景；所述第二业务场景为片库推荐场景；

所述获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，包括：

获取所述意图识别场景下的查询数据以及所述查询数据对应的推荐数据；

获取所述片库推荐场景下的用户行为数据；

所述将所述第一特征数据和所述第二特征数据嵌入表示，包括：

将所述查询数据和所述推荐数据分别进行嵌入表示，并将嵌入表示后的查询数据和嵌入表示后的推荐数据进行特征交叉，得到交叉特征；

将所述用户行为数据进行嵌入表示，得到嵌入表示后的用户行为数据；

所述对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据，包括：

将所述嵌入表示后的用户行为数据、嵌入表示后的查询数据以及所述交叉特征进行拼接，得到所述拼接数据；

所述基于所述拼接数据训练所述第一业务场景对应的第一模型塔，包括：

基于所述拼接数据训练所述意图识别场景对应的意图塔，所述意图识别场景对应的意图塔为所述第一模型塔；

所述基于所述拼接数据训练所述第二业务场景对应的第二模型塔，包括：

基于所述拼接数据训练所述片库推荐场景对应的片库塔，所述片库推荐场景对应的片库塔为所述第二模型塔。

可选的，所述方法还包括：获取第三业务场景的第三特征数据；

将第一特征数据、第二特征数据和第三特征数据进行拼接；

基于所述第一特征数据、所述第二特征数据和所述第三特征数据拼接得到的数据，训练第三业务场景对应的第三模型塔。

可选的，所述基于所述拼接数据训练所述第一业务场景对应的第一模型塔，包括：

将所述拼接数据输入第一初始模型，对所述第一初始模型进行调参，直至满足第一预设训练结束条件，得到训练好的第一模型塔；

所述基于所述拼接数据训练所述第二业务场景对应的第二模型塔，包括：

将所述拼接数据输入第二初始模型，对所述第二初始模型进行调参，直至满足第二预设训练结束条件，得到训练好的第二模型塔。

可选的，所述意图塔包括第一特征输入层、第一卷积层和第一输出层；所述片库塔包括第二特征数据层、第二卷积层和第二输出层，其中，所述第一特征输入层和第二特征数据层分别与所述第一卷积层连接。

在本发明实施的第二方面，还提供了一种推荐方法，所述方法包括：

获取推荐请求；

将所述推荐请求输入相应业务场景对应的业务模型中，通过所述业务模型得到针对所述推荐请求的推荐结果，所述相应业务场景表示所述推荐请求对应的业务场景；所述业务模型是通过上述第一方面所述的模型训练方法得到的；

将所述推荐结果推送给终端。

在本发明实施的第三方面，还提供了一种模型训练装置，所述装置包括：

第一获取模块，用于获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，所述第一业务场景和所述第二业务场景的业务目标一致；

第一拼接模块，用于针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据；

第一训练模块，用于基于所述拼接数据训练所述第一业务场景对应的第一模型塔，和/或，基于所述拼接数据训练所述第二业务场景对应的第二模型塔；所述第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，所述第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。

可选的，所述拼接模块，具体用于，将所述第一特征数据和所述第二特征数据嵌入表示；对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据。

可选的，所述第一业务场景为意图识别场景；所述第二业务场景为片库推荐场景；其中，

所述第一获取模块，具体用于，获取所述意图识别场景下的查询数据以及所述查询数据对应的推荐数据；获取所述片库推荐场景下的用户行为数据；

所述第一拼接模块，具体用于，将所述查询数据和所述推荐数据分别进行嵌入表示，并将嵌入表示后的查询数据和嵌入表示后的推荐数据进行特征交叉，得到交叉特征；将所述用户行为数据进行嵌入表示，得到嵌入表示后的用户行为数据；将所述嵌入表示后的用户行为数据、嵌入表示后的查询数据以及所述交叉特征进行拼接，得到所述拼接数据；

所述第一训练模块，具体用于，基于所述拼接数据训练所述意图识别场景对应的意图塔，和/或，基于所述拼接数据训练所述片库推荐场景对应的片库塔；所述意图识别场景对应的意图塔为所述第一模型塔，所述片库推荐场景对应的片库塔为所述第二模型塔。

可选的，所述装置还包括：第二获取模块，用于获取第三业务场景的第三特征数据；

第二拼接模块，用于将所述第一特征数据、所述第二特征数据和所述第三特征数据进行拼接；

第二训练模块，用于基于所述第一特征数据、所述第二特征数据和所述第三特征数据拼接得到的数据，训练所述第三业务场景对应的第三模型塔。

可选的，所述第一训练模块，具体用于，将所述拼接数据输入第一初始模型，对所述第一初始模型进行调参，直至满足第一预设训练结束条件，得到训练好的第一模型塔，和/或，将所述拼接数据输入第二初始模型，对所述第二初始模型进行调参，直至满足第二预设训练结束条件，得到训练好的第二模型塔。

在本发明实施的第四方面，还提供了一种推荐装置，所述装置包括：

请求获取模块，用于获取推荐请求；

推荐结果得到模块，用于将推荐请求输入相应业务场景对应的业务模型中，通过所述业务模型得到针对所述推荐请求的推荐结果，所述相应业务场景表示所述推荐请求对应的业务场景；所述业务模型是通过上述第三方面所述的模型训练装置得到的；

推送模块，用于将所述推荐结果推送给终端。

根据本发明实施的第五方面，还提供了一种电子设备，包括：处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信，

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现第一方面或第二方面中任意所述的方法步骤。

在本发明实施的又一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的模型训练方法或第二方面所述的推荐方法。

在本发明实施的又一方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述第一方面所述的模型训练方法或第二方面所述的推荐方法。

本发明实施例提供的一种模型训练方法，通过获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，第一业务场景和第二业务场景的业务目标一致，针对第一特征数据和第二特征数据进行拼接，得到拼接数据，基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔；第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。将不同业务场景对应的特征数据进行拼接，基于拼接数据进行模型训练，由于模型塔在模型训练的过程中不仅使用了本业务场景对应的特征数据，而且还使用了其他业务场景对应的特征数据，这样就丰富了模型训练所需的特征数据，模型训练所使用的特征数据越丰富，模型训练的效果就越好，进而能够提升模型训练的效果，能够提升模型的排序效果以及推荐的准确性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明实施例中模型训练方法的一种流程图。

图2a为本发明实施例中模型训练方法的另一种流程图。

图2b为本发明实施例中意图识别场景对应的应用界面的一个示例图。

图2c为本发明实施例中片库推荐场景对应的应用界面的一个示例图。

图2d为本发明实施例中模型训练方法训练过程的示意图。

图3为本发明实施例中模型训练方法的又一种流程图。

图4为本发明实施例中推荐方法的一种流程图。

图5为本发明实施例中模型训练装置的一种结构示意图。

图6为本发明实施例中模型训练装置的另一种结构示意图。

图7为本发明实施例中推荐装置的一种结构示意图。

图8为本发明实施例中一种电子设备结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行描述。

为了解决模型训练数据稀疏，如数据单一问题，在工业界基于神经网络的多任务学习在推荐等业务场景应用广泛，例如同时基于点击率和转化率进行建模的全空间多任务模型(Entire Space Multi-task Model，ESMM)、多任务学习结构(Multi-gate Mixture-of-Experts，MMOE)，这种多任务学习共享结构的一大特点是针对同一业务场景下多个任务进行多任务学习，例如，点击(Click-Through Rate，CTR)、转化(Conversion Rate，CVR)、点击然后转化(Click-Through&ConVersion Rate，CTCVR)是三个不同的任务，多个任务之间存在“线性”关系，即转化必然需要先点击。而针对相互独立的业务场景也即不同的业务场景，这种方式则不适用，会由于底层差异很大，在进行模型训练时存在互相冲突或噪声，导致学习模型的效果不佳，不能够带来业务指标的提升及用户体验的改善。

本发明实施例基于不同业务需求的共性和特性，能够实现特征在embedding(嵌入)层的共享，构建不同业务逻辑的独立深度学习网络，可以实现更好的数据特征学习，提升模型训练的效果。

下面对本发明实施例提供的模型训练方法进行详细说明。本发明实施例提供的模型训练方法可以应用于电子设备。其中，电子设备可以包括服务器、终端等，例如，终端可以包括手机、电脑等。

图1为本发明实施例中模型训练方法的一种流程图。如图1所示，包括以下步骤：

步骤S101，获取第一业务场景的第一特征数据和第二业务场景的第二特征数据。

其中，业务场景为企业和商家需要在用户某个特定的环节中，适时提供给消费者可能需要的以及关联的产品或服务，例如，视频推荐场景中的意图识别场景和片库推荐场景等。

特征数据为某一业务场景所特有的数据，例如在意图识别场景中，用户在搜索框内搜索的内容数据。第一业务场景和第二业务场景之间存在关联，业务目标具有一致性，例如，意图识别场景和片库推荐场景的业务目标都包含为用户推荐视频。用户在电子设备上进行请求操作时，由电子设备获取用户请求数据，这个用户请求数据就为相应业务场景下的特征数据。

第一业务场景和第二业务场景为有关联的业务场景，具体地，第一业务场景和第二业务场景的业务目标一致，例如，第一业务场景和第二业务场景均为向用户推荐内容的场景，等等。

步骤S102，针对第一特征数据和第二特征数据进行拼接，得到拼接数据。

将第一特征数据和第二特征数据进行拼接，也可以理解为将第一特征数据和第二特征数据进行组合。一种可实现方式中，可以将第一特征数据和第二特征数据进行嵌入表示；对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据。

其中，嵌入表示为密集向量表示，可以简单理解为对第一特征数据和第二特征数据分别进行编码。一种可实现方式中，可以通过embedding(嵌入)层对第一特征数据和第二特征数据进行嵌入表示。

步骤S103，基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔。

其中，第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。第一待推荐内容和第二待推荐内容可以相同，也可以不同。例如，第一待推荐内容包括视频1、视频2和视频3；第二待推荐内容也可以包括视频1、视频2和视频3，或者，第二待推荐内容包括视频4、视频5、视频6和视频7等。

本发明实施例中可以仅基于拼接数据训练第一业务场景对应的第一模型塔，或者，也可以基于拼接数据训练第二业务场景对应的第二模型塔，或者，既基于拼接数据训练第一业务场景对应的第一模型塔，又基于拼接数据训练第二业务场景对应的第二模型塔。

步骤S103中，基于拼接数据训练第一业务场景对应的第一模型塔，可以包括：将拼接数据输入第一初始模型，对第一初始模型进行调参，直至满足第一预设训练结束条件，得到训练好的第一模型塔。基于拼接数据训练第二业务场景对应的第二模型塔，可以包括：将拼接数据输入第二初始模型，对第二初始模型进行调参，直至满足第二预设训练结束条件，得到训练好的第二模型塔。

上述第一初始模型可以是未将不同业务场景对应的特征数据进行拼接，模型的特征层只包含本业务场景对应的特征数据时的模型，第一初始模型的类型可以是深度神经网络模型(Deep Neural Networks，DNN)、卷积神经网络模型(Convolutional NeuralNetworks，CNN)等。第二初始模型与第一初始模型类似。

将拼接数据输入初始模型后，对初始模型进行调参，可以是先从对模型训练影响比较大的参数开始，同时固定其他参数，得到一个结果以后，在这个结果的基础上，再调其他参数，直到模型训练满足预设的结束条件。其中，预设的结束条件可以是预设的模型训练的准确度，当模型训练的结果达到该准确度时，模型训练结束，例如，预设的准确度可以是99.9％，或者，也可以是训练迭代次数达到预设次数，预设次数可以根据实际需求或者经验等确定。

本发明实施例中，通过获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，第一业务场景和第二业务场景的业务目标一致，针对第一特征数据和第二特征数据进行拼接，得到拼接数据，基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔；第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。将不同业务场景对应的特征数据进行拼接，基于拼接数据进行模型训练，由于模型塔在模型训练的过程中不仅使用了本业务场景对应的特征数据，而且还使用了其他业务场景对应的特征数据，这样就丰富了模型训练所需的特征数据，模型训练所使用的特征数据越丰富，模型训练的效果就越好，进而能够提升模型训练的效果，能够提升模型的排序效果以及推荐的准确性。

一种可选地实施例中，第一业务场景可以是意图识别场景，第二业务场景可以是片库推荐场景。

意图识别场景和片库推荐场景是相互独立的。而现有的任务学习共享结构的一大特点是在任务之间都比较相似或者相关性比较大的场景下能带来很好的效果，例如，同时基于点击率和转化率进行建模的全空间多任务模型(Entire Space Multi-task Mode，ESMM)、一种多任务学习结构：多门控制的混合专家网络(Multi-gate Mixture-of-Experts，MMOE),上述ESMM，是同一业务场景下，业务目标点击率和转化率是具有相关性的，用户点击后如果感兴趣会下单购买。而对于不同业务场景，这种多任务学习共享的结构就不能够实现复用，例如，意图识别是针对用户泛需求query(查询)提供多视频组合card(卡片)备选的业务，涉及长视频与短视频，采用梯度提升决策树(Gradient BoostingDecision Tree，GBDT)排序。片库推荐是在指定频道内为用户提供个性化长视频推荐的场景，并可以通过筛选标签引导用户消费，采用深度兴趣网络(Deep Interest Network，DIN)排序。

目前意图识别排序使用传统树模型，未考虑用户的历史行为及兴趣，个性化能力不足，排序偏向于热门结果，而片库场景已使用深度DIN模型，经过多次优化迭代，较好的对用户行为及兴趣建模，有很好的个性化效果。本发明实施例基于意图识别和片库个性化推荐在业务上的共性和各自的特性，提出一种能够支持多业务场景的多塔模型，模型训练时使用多塔，每个业务对应一个塔，片库业务场景对应片库塔，意图识别业务场景对应意图塔，使得意图场景对应的模型在训练时也可以使用片库推荐场景的特征数据，以实现更好的数据学习，提升模型训练的效果。

图2a为本发明实施例中模型训练方法的另一种流程图。如图2a所示，包括以下步骤：

步骤S201，获取意图识别场景下的查询数据以及查询数据对应的推荐数据；获取片库推荐场景下的用户行为数据。

步骤S202，将查询数据和推荐数据分别进行嵌入表示，并将嵌入表示后的查询数据和嵌入表示后的推荐数据进行特征交叉，得到交叉特征；将用户行为数据进行嵌入表示，得到嵌入表示后的用户行为数据。

步骤S203，将嵌入表示后的用户行为数据、嵌入表示后的查询数据以及交叉特征进行拼接，得到拼接数据。

步骤S204，基于拼接数据训练意图识别场景对应的意图塔，和/或，基于拼接数据训练片库推荐场景对应的片库塔。

意图识别场景对应的意图塔为第一模型塔，片库推荐场景对应的片库塔为第二模型塔。

其中，步骤S201中，意图识别场景下的查询数据可以是用户在意图识别场景对应的搜索框内搜索的内容，推荐数据可以是意图塔根据用户搜索的内容所推荐的结果。具体地，如图2b所示，为意图识别场景下用户终端界面的示意图，用户在搜索框内输入“美剧”，意图塔根据用户搜索的“美剧”对待推荐视频进行打分，将打分高的N个推荐视频显示在终端界面上，供用户进行选择，N为大于1的正整数，N的取值可以根据实际需求进行自定义设置。如图2b中，终端界面上显示了推荐视频1、推荐视频2、推荐视频3、推荐视频4，用户可以进一步点击界面下方“点击查看更多推荐视频”的按钮，查看更多推荐视频。

片库推荐场景下的用户行为数据，可以是用户历史播放和搜索行为数据，如用户的历史播放/搜索行为序列，用户历史播放次数，播放时长，点击率等，也可以是用户在指定频道内按照标签进行筛选的行为数据。具体地，如图2c所示，为片库推荐场景下用户终端界面的示意图，用户在电视剧频道内按照“综合排序”、“全部地区”、“全部类型”、“全部年份”、“是否付费”等标签进行筛选，片库塔根据用户筛选的标签对待推荐视频进行打分，将推荐视频按照打分由高到低的顺序显示在终端界面上，供用户进行选择。如图2c中，在终端界面上显示了推荐视频1、推荐视频2、推荐视频3、推荐视频4，用户可滑动界面，查看全部推荐视频。也可点击“返回”按钮，在其他频道内进行筛选，如电影、综艺频道等。

步骤S202中，特征交叉可以是将两个或多个特征相乘，例如，将用户在意图识别场景下搜索的具体内容数据与根据搜索的具体内容而推荐的推荐数据相乘进行特征交叉，得到交叉特征。

步骤S204中，可以将拼接数据输入一初始模型，对该初始模型进行调参，训练意图塔。同理，可以将拼接数据输入另一初始模型，对该另一初始模型进行调参，训练片库塔。具体地训练过程在上述图1所示实施例中已经进行了详述，这里不再赘述。

一种可实现方式中，意图塔可以包括第一特征输入层、第一卷积层和第一输出层；片库塔可以包括第二特征数据层、第二卷积层和第二输出层，其中，第一特征输入层和第二特征数据层分别与第一卷积层连接。将拼接数据输入特征层，将特征层的拼接数据输入卷积层进行模型训练，如图2d所示，将片库塔的特征层中的特征数据输入三层卷积层训练片库塔，将片库塔的特征层中的特征数据和意图塔的特征层中的特征数据输入三层卷积层训练意图塔。其中，将特征数据输入特征层，在图2d中体现为将片库推荐场景对应的特征数据输入片库塔的特征层，如图2d中所示“碎片特征&嵌入层”(Shard feature&embeddinglayer),将意图识别场景下的查询数据、交叉特征数据输入意图塔的特征层中，如将查询数据输入图中“查询嵌入”(Query embed)中，将交叉特征数据输入图中“查询&目标交叉”(Query&target Cross)中。

本发明实施例中，在指定频道的长视频个性化推荐场景下，意图识别和片库推荐存在业务上的关联性，用户泛意图query(查询)，如“刘德华电影”，“穿越剧”，均可转换为筛选标签+频道形式，因此，在训练意图塔时可以直接复用片库推荐场景对应的特征数据，即在训练意图塔时除了使用意图识别场景下对应的特征数据，还可以使用片库推荐场景对应的特征数据。使意图识别场景下的特征变得丰富，进而能够提升意图塔训练的效果。此外，意图识别和片库推荐是两个不同的业务，在本发明实施例中，由于训练意图塔时可以直接复用片库推荐场景对应的特征数据，因此基于这两个业务场景进行模型训练时，可以共用一套模型训练的接口，从而也可以减少人力成本。

由于意图识别场景和片库推荐场景的业务目标的一致性，本发明实施例在构建双塔模型时可以实现特征共享，一方面可以节省数据计算资源；另一方面提升了针对不同业务场景的训练的模型的准确性，利用训练好的模型进行排序并基于排序结果进行推荐时，可以提升不同业务场景的推荐效果。例如意图塔在对推荐视频进行排序时，会对推荐的视频进行打分，打分高的视频结果展示给用户，这样既可以推荐出用户更加喜欢的视频，提升了用户体验，也可以增加用户在使用此模型的应用软件中的停留时长。

图3为本发明实施例中模型训练方法的又一种流程图。如图3所示，包括以下步骤：

步骤S301，获取第一业务场景的第一特征数据和第二业务场景的第二特征数据。

步骤S302，获取第三业务场景的第三特征数据。

步骤S303，将第一特征数据、第二特征数据和第三特征数据进行拼接，得到拼接数据。

这里所说的拼接数据即第一特征数据、第二特征数据和第三特征数据拼接得到的数据。

步骤S304，基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔。

步骤S305，基于拼接数据训练第三业务场景对应的第三模型塔。

其中，步骤S302中，当增加新的业务场景时，获取第三业务场景的第三特征数据。第三业务场景可以与第一业务场景、第二业务场景均具有关联性，也可以与第一业务场景或第二业务场景具有关联性，具有关联性可以是业务目标一致。

步骤S303中，可以将第一特征数据、第二特征数据和第三特征数据嵌入表示，对嵌入表示后的第一特征数据、嵌入表示后的第二特征数据和嵌入表示后的第三特征数据进行拼接，得到拼接数据。

其中，将三个业务场景的特征数据进行拼接可以是将第一特征数据与第二特征数据先进行拼接，再与第三特征数据进行拼接，或者可以是第二特征数据与第三特征数据进行拼接，再与第一特征数据进行拼接等。

步骤S304中，训练第一模型塔、第二模型塔所需的特征数据可以包含第三特征数据，第一模型塔、第二模型塔的训练过程在上述图1所示实施例中已经进行了详述，这里不再赘述。

步骤S305中，训练第三业务场景对应的第三模型塔所需的特征数据可以包含第一特征数据和/或第二特征数据。可以将拼接数据输入第三初始模型，对第三初始模型进行调参，直至满足第三预设训练结束条件，得到训练好的第三模型塔。对第三模型塔具体训练过程与图1所示实施例中对第一模型塔和第二模型塔的训练过程相似，这里不再赘述。

本发明实施例中，增加了新的第三业务场景，获取第三业务场景的第三特征数据，将第一特征数据、第二特征数据和第三特征数据进行拼接，得到拼接数据，基于拼接数据训练第三业务场景对应的第三模型塔，而不需要重新设计一套模型架构，在构建模型塔时可以实现特征共享，在节省数据计算资源的同时，还提升了不同业务场景对应的模型训练的效果。

图4为本发明实施例中推荐方法的一种流程图。如图4所示，包括以下步骤：

步骤S401，获取推荐请求。

步骤S402，将推荐请求输入相应业务场景对应的业务模型中，通过业务模型得到针对推荐请求的推荐结果，相应业务场景表示推荐请求对应的业务场景；业务模型是通过上述任一所述的模型训练方法得到的。

步骤S403，将推荐结果推送给终端。

本发明实施例的执行主体可以是电子设备，具体可以是部署有已经训练好的业务模型的服务器。

其中，步骤S401中，推荐请求可以是用户在终端上触发的请求，当用户在终端触发该推荐请求，则服务器可以接收该推荐请求。

推荐请求可以是用户在终端的搜索框内搜索的具体内容，也可以是用户的历史播放/搜索行为序列，用户历史播放次数，播放时长，点击率等，或者可以是用户在指定频道内按照标签进行筛选的行为数据。

步骤S402中，一种方式中，业务场景对应的业务模型可以是以模型塔的方式部署，即类似于模型训练过程，不同业务场景对应不同的模型塔，多个模型塔共享底层，具体地部署参照模型训练过程中模型塔的结构，这里不再赘述。

另一种方式中，业务场景对应的业务模型也可以是单独部署，即以单任务部署，不同业务场景分别对应不同的业务模型。

相应业务场景可以是意图识别场景和片库推荐场景，例如，用户在意图识别场景下的搜索框内搜索“美剧”，业务模型会根据用户搜索的“美剧”而推荐出相应的视频。其中，业务模型在模型训练的中不仅使用了此业务场景对应的特征数据，而且还使用了片库推荐场景对应的特征数据。

步骤S403中，将推荐结果推送给终端，具体可以是将推荐结果推送给客户端，客户端可以是用户所使用的终端。

可以将推荐结果显示在用户所使用的终端的窗口中，供用户进行进一步选择。

本发明实施例中，不同业务场景对应的业务模型在模型训练时可以实现特征数据共享，丰富了模型训练所需的特征数据，可以提升模型训练的效果，针对推荐请求，业务模型会对推荐视频进行打分排序，打分高的视频结果展示给终端，这样用户可以通过终端得到更准确、更个性化的结果，实现了提升用户体验的目的。由于特征数据可以共享，在节省数据计算资源的同时，还可以提升不同业务场景的推荐效果。

本发明实施例提供的推荐方法中，由于业务模型在模型训练的过程中不仅使用了本业务场景对应的特征数据，而且还使用了其他业务场景对应的特征数据，这样就丰富了模型训练所需的特征数据，模型训练所使用的特征数据越丰富，模型训练的效果就越好，因此针对推荐请求，相应业务场景对应的业务模型可以得到更准确、更个性化的结果，提升了用户体验。

图5为本发明实施例中模型训练装置的一种结构示意图。参照图5，该装置包括：第一获取模块501、第一拼接模块502及第一训练模块503，其中，

第一获取模块501，用于获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，第一业务场景和第二业务场景的业务目标一致。

第一拼接模块502，用于针对第一特征数据和第二特征数据进行拼接，得到拼接数据。

第一训练模块503，用于基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔；第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。

在本发明实施例中，通过第一获取模块501获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，第一拼接模块502针对第一特征数据和第二特征数据进行拼接，得到拼接数据，第一训练模块503基于拼接数据训练第一业务场景对应的第一模型塔，和/或，基于拼接数据训练第二业务场景对应的第二模型塔，将不同业务场景对应的特征数据进行拼接，丰富了模型训练的特征，进而能够提升模型训练的效果。

可选地，第一拼接模块502，具体用于，将第一特征数据和第二特征数据嵌入表示；对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据。

可选地，第一业务场景为意图识别场景；第二业务场景为片库推荐场景；

第一获取模块501，具体用于，获取意图识别场景下的查询数据以及查询数据对应的推荐数据；获取片库推荐场景下的用户行为数据；

第一拼接模块502，具体用于，将查询数据和推荐数据分别进行嵌入表示，并将嵌入表示后的查询数据和嵌入表示后的推荐数据进行特征交叉，得到交叉特征；将用户行为数据进行嵌入表示，得到嵌入表示后的用户行为数据；将嵌入表示后的用户行为数据、嵌入表示后的查询数据以及交叉特征进行拼接，得到拼接数据；

第一训练模块503，具体用于，基于拼接数据训练意图识别场景对应的意图塔，和/或，基于拼接数据训练片库推荐场景对应的片库塔；意图识别场景对应的意图塔为第一模型塔，片库推荐场景对应的片库塔为第二模型塔。

可选地，如图6所示，模型训练装置还包括：第二获取模块601、第二拼接模块602和第二训练模块603，其中，

第二获取模块601，用于获取第三业务场景的第三特征数据；

第二拼接模块602，用于将第一特征数据、第二特征数据和第三特征数据进行拼接；

第二训练模块603，用于基于第一特征数据、第二特征数据和第三特征数据拼接得到的数据，训练第三业务场景对应的第三模型塔。

可选地，第一训练模块501，具体用于，将拼接数据输入第一初始模型，对第一初始模型进行调参，直至满足第一预设训练结束条件，得到训练好的第一模型塔，和/或，将拼接数据输入第二初始模型，对第二初始模型进行调参，直至满足第二预设训练结束条件，得到训练好的第二模型塔。

图7为本发明实施例中推荐装置的一种结构示意图。参照图7，该装置包括：请求获取模块701、推荐结果得到模块702及推送模块703。其中，

请求获取模块701，用于获取推荐请求。

推荐结果得到模块702，用于将推荐请求输入相应业务场景对应的业务模型中，通过业务模型得到针对推荐请求的推荐结果，相应业务场景表示推荐请求对应的业务场景；业务模型是通过上述任一的模型训练方法得到的。

推送模块703，用于将推荐结果推送给终端。

本发明实施例中，由于业务模型在模型训练的过程中不仅使用了本业务场景对应的特征数据，而且还使用了其他业务场景对应的特征数据，这样就丰富了模型训练所需的特征数据，模型训练所使用的特征数据越丰富，模型训练的效果就越好，因此针对推荐请求，相应业务场景对应的业务模型可以推送给终端更准确、更个性化的结果，进而可以提升用户体验。

本发明实施例还提供了一种电子设备，如图8所示，包括处理器801、通信接口802、存储器803和通信总线804，其中，处理器801，通信接口802，存储器803通过通信总线804完成相互间的通信，

存储器803，用于存放计算机程序；

处理器801，用于执行存储器803上所存放的程序时，实现上述模型训练方法或推荐方法的方法步骤。

上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述终端与其他设备之间的通信。

存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述实施例中任一所述的模型训练方法。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的模型训练方法。

在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述实施例中任一所述的推荐方法。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的推荐方法。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备及存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (11)

1.一种模型训练方法，其特征在于，所述方法包括：

获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，所述第一业务场景和所述第二业务场景的业务目标一致；

针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据；

基于所述拼接数据训练所述第一业务场景对应的第一模型塔，和/或，基于所述拼接数据训练所述第二业务场景对应的第二模型塔；所述第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，所述第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。

2.根据权利要求1所述的方法，其特征在于，所述针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据，包括：

将所述第一特征数据和所述第二特征数据嵌入表示；

对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据。

3.根据权利要求2所述的方法，其特征在于，所述第一业务场景为意图识别场景；所述第二业务场景为片库推荐场景；

所述获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，包括：

获取所述意图识别场景下的查询数据以及所述查询数据对应的推荐数据；

获取所述片库推荐场景下的用户行为数据；

所述将所述第一特征数据和所述第二特征数据嵌入表示，包括：

将所述查询数据和所述推荐数据分别进行嵌入表示，并将嵌入表示后的查询数据和嵌入表示后的推荐数据进行特征交叉，得到交叉特征；

将所述用户行为数据进行嵌入表示，得到嵌入表示后的用户行为数据；

所述对嵌入表示后的第一特征数据和嵌入表示后的第二特征数据进行拼接，得到拼接数据，包括：

将所述嵌入表示后的用户行为数据、嵌入表示后的查询数据以及所述交叉特征进行拼接，得到所述拼接数据；

所述基于所述拼接数据训练所述第一业务场景对应的第一模型塔，包括：

基于所述拼接数据训练所述意图识别场景对应的意图塔，所述意图识别场景对应的意图塔为所述第一模型塔；

所述基于所述拼接数据训练所述第二业务场景对应的第二模型塔，包括：

基于所述拼接数据训练所述片库推荐场景对应的片库塔，所述片库推荐场景对应的片库塔为所述第二模型塔。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：获取第三业务场景的第三特征数据；

将所述第一特征数据、所述第二特征数据和所述第三特征数据进行拼接；

基于所述第一特征数据、所述第二特征数据和所述第三特征数据拼接得到的数据，训练所述第三业务场景对应的第三模型塔。

5.根据权利要求1所述的方法，其特征在于，所述基于所述拼接数据训练所述第一业务场景对应的第一模型塔，包括：

将所述拼接数据输入第一初始模型，对所述第一初始模型进行调参，直至满足第一预设训练结束条件，得到训练好的第一模型塔；

所述基于所述拼接数据训练所述第二业务场景对应的第二模型塔，包括：

将所述拼接数据输入第二初始模型，对所述第二初始模型进行调参，直至满足第二预设训练结束条件，得到训练好的第二模型塔。

6.根据权利要求3所述的方法，其特征在于，所述意图塔包括第一特征输入层、第一卷积层和第一输出层；所述片库塔包括第二特征数据层、第二卷积层和第二输出层，其中，所述第一特征输入层和第二特征数据层分别与所述第一卷积层连接。

7.一种推荐方法，其特征在于，所述方法包括：

获取推荐请求；

将所述推荐请求输入相应业务场景对应的业务模型中，通过所述业务模型得到针对所述推荐请求的推荐结果，所述相应业务场景表示所述推荐请求对应的业务场景；所述业务模型是通过上述权利要求1至6任一项所述的模型训练方法得到的；

将所述推荐结果推送给终端。

8.一种模型训练装置，其特征在于，所述装置包括：

第一获取模块，用于获取第一业务场景的第一特征数据和第二业务场景的第二特征数据，其中，所述第一业务场景和所述第二业务场景的业务目标一致；

第一拼接模块，用于针对所述第一特征数据和所述第二特征数据进行拼接，得到拼接数据；

第一训练模块，用于基于所述拼接数据训练所述第一业务场景对应的第一模型塔，和/或，基于所述拼接数据训练所述第二业务场景对应的第二模型塔；所述第一模型塔用于对第一待推荐内容进行排序并依据排序结果进行推荐，所述第二模型塔用于对第二待推荐内容进行排序并依据排序结果进行推荐。

9.一种推荐装置，其特征在于，所述装置包括：

请求获取模块，用于获取推荐请求；

推荐结果得到模块，用于将所述推荐请求输入相应业务场景对应的业务模型中，通过所述业务模型得到针对所述推荐请求的推荐结果，所述相应业务场景表示所述推荐请求对应的业务场景；所述业务模型是通过上述权利要求8所述的模型训练装置得到的；

推送模块，用于将所述推荐结果推送给终端。

10.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；

存储器，用于存放计算机程序；

处理器，用于执行存储器上所存放的程序时，实现权利要求1-6任一或7所述的方法步骤。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-6任一或7所述的方法步骤。

Images