CN114741583A - 基于人工智能的信息推荐方法、装置及电子设备 - Google Patents

Abstract

本申请提供了一种基于人工智能的信息推荐方法、装置、电子设备及计算机可读存储介质；涉及人工智能技术，方法包括：获取待推荐信息的排序特征；对排序特征进行基于多个推荐任务的映射处理，得到对应每个推荐任务的第一特征映射结果；对排序特征进行基于多个特征维度的映射处理，得到对应每个特征维度的第二特征映射结果；以任意一个推荐任务为目标推荐任务，基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到待推荐信息对应目标推荐任务的推荐指标；基于待推荐信息对应每个推荐任务的推荐指标，执行推荐操作。通过本申请能够高效实现多推荐任务。

Description

基于人工智能的信息推荐方法、装置及电子设备

技术领域

本申请涉及人工智能技术，尤其涉及一种基于人工智能的信息推荐方法、装置、电子设备及计算机可读存储介质。

背景技术

人工智能(AI，Artificial Intelligence)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法和技术及应用系统。

随着信息技术和互联网行业的发展，信息过载已经成为人们处理信息的挑战，个性化推荐系统通过更加精准的理解用户意图有效缓解了这类问题，但是，相关技术中的通过线性排序模型或者深度排序模型进行点击率预估的方式，仍然会推荐给用户排序靠前但是并不是用户真正喜欢的信息。

发明内容

本申请实施例提供一种基于人工智能的信息推荐方法、装置、电子设备及计算机可读存储介质，能够提高推荐效率。

本申请实施例的技术方案是这样实现的：

本申请实施例提供一种基于人工智能的信息推荐方法，包括：

获取待推荐信息的排序特征；

对所述排序特征进行基于多个推荐任务的映射处理，得到对应每个所述推荐任务的第一特征映射结果；

对所述排序特征进行基于多个特征维度的映射处理，得到对应每个所述特征维度的第二特征映射结果；

以任意一个所述推荐任务为目标推荐任务，基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标；

基于所述待推荐信息对应每个所述推荐任务的推荐指标，执行推荐操作。

本申请实施例提供一种基于人工智能的信息推荐装置，包括：。

获取模块，用于获取待推荐信息的排序特征；

映射模块，用于对所述排序特征进行基于多个推荐任务的映射处理，得到对应每个所述推荐任务的第一特征映射结果；

所述映射模块，还用于对所述排序特征进行基于多个特征维度的映射处理，得到对应每个所述特征维度的第二特征映射结果；

注意力模块，用于以任意一个所述推荐任务为目标推荐任务，基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标；

推荐模块，用于基于所述待推荐信息对应每个所述推荐任务的推荐指标，执行推荐操作。

在上述方案中，所述获取模块，还用于：获取所述推荐信息与多个特征类型分别对应的离散特征；其中，所述多个特征类型包括：用户特征、信息特征、环境特征；针对任意一个所述特征类型的离散特征执行以下处理：以所述离散特征中的多个离散值分别对应的隐向量为权重，对所述离散特征中的多个离散值进行加权处理，得到所述离散特征对应一个嵌入维度的嵌入维度值，将所述离散特征对应多个所述嵌入维度的嵌入纬度值组合为所述特征类型的稠密特征；对多个所述特征类型的稠密特征进行拼接处理，得到对应所述待推荐信息的排序特征。

在上述方案中，所述获取模块，还用于：所述获取待推荐信息的排序特征之前，通过以下方式至少之一获取所述推荐信息：获取与待推荐对象的历史浏览信息的内容相似，且内容相似度不小于内容相似度阈值的信息以作为所述待推荐信息；获取与所述待推荐对象的用户画像相似，画像相似度不小于画像相似度阈值的多个参考待推荐对象，获取对应每个所述参考待推荐对象的历史浏览信息以作为所述待推荐信息。

在上述方案中，所述映射模块，还用于：通过与每个所述推荐任务对应的指标预测网络中的特征全连接层，对所述排序特征进行映射处理，得到对应每个所述推荐任务的第一特征映射结果；通过多个专家网络，将所述排序特征分别映射到对应每个所述专家网络的特征空间，得到每个所述专家网络所关联的特征维度的第二特征映射结果。

在上述方案中，所述注意力模块，还用于：基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到对应所述目标推荐任务的注意力处理结果；通过多推荐任务模型中与所述目标推荐任务对应的指标预测网络的预测全连接层，并结合对应所述目标推荐任务的注意力处理结果对所述待推荐信息进行推荐指标预测处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标。

在上述方案中，所述注意力模块，还用于：将所述第一特征映射结果与对应每个所述特征维度的第二特征映射结果的转置进行相乘处理，对得到的对应每个所述特征维度的相乘结果进行线性处理；对得到的对应每个所述特征维度的线性处理结果进行最大似然处理，将得到的最大似然处理结果与对应每个所述特征维度的第二特征映射结果进行相乘处理，得到对应每个所述特征维度的注意力处理结果；将对应每个所述特征维度的注意力处理结果进行拼接处理，得到对应所述目标推荐任务的注意力处理结果。

在上述方案中，所述注意力模块，还用于：所述将对应每个所述特征维度的注意力处理结果进行拼接处理，得到对应所述目标推荐任务的注意力处理结果之后，对多个所述推荐任务的注意力处理结果进行线性变换处理，得到对应多个所述推荐任务的查询向量、键向量以及值向量；基于对应多个所述推荐任务的查询向量、键向量以及值向量，确定对应所述目标推荐任务的协注意力处理结果；基于对应所述目标推荐任务的协注意力处理结果，更新对应所述目标推荐任务的注意力处理结果。

在上述方案中，所述注意力模块，还用于：对所述目标推荐任务的注意力处理结果进行线性变换处理，得到对应所述目标推荐任务的注意力处理结果的查询向量、键向量以及值向量；对至少一个其他推荐任务的注意力处理结果进行线性变换处理，得到对应每个所述其他推荐任务的注意力处理结果的查询向量、键向量以及值向量；其中，所述其他推荐任务为多个所述推荐任务中区别于所述目标推荐任务之外的推荐任务。

在上述方案中，所述注意力模块，还用于：针对每个所述其他推荐任务执行以下处理：将所述目标推荐任务的注意力处理结果的查询向量与所述其他推荐任务的注意力处理结果的键向量进行点积处理，得到所述目标推荐任务与所述其他推荐任务的相关度；将所述相关度与所述其他推荐任务的注意力处理结果的值向量进行相乘处理，得到所述其他推荐任务对应所述目标推荐任务的协注意力处理结果。

在上述方案中，所述注意力模块，还用于：当所述其他推荐任务的数目为一个时，将所述其他推荐任务针对所述目标推荐任务的协注意力处理结果与所述目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新所述对应所述目标推荐任务的注意力处理结果；当其他推荐任务的数目为多个时，将每个所述其他推荐任务对应所述目标推荐任务的协注意力处理结果与所述目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新所述对应所述目标推荐任务的注意力处理结果。

在上述方案中，所述推荐模块，还用于：获取对应所述多个推荐任务的聚合规则；基于所述聚合规则所包括的算子，对分别对应所述多个推荐任务的推荐指标进行计算处理，得到多个待推荐信息分别对应所述多个推荐任务的综合推荐指标；根据多个所述待推荐信息分别对应所述多个推荐任务的综合推荐指标，确定多个所述待推荐信息的推荐顺序，并基于多个所述待推荐信息的推荐顺序执行对应待推荐对象的推荐操作。

在上述方案中，所述装置还包括：训练模块，用于：所述获取待推荐信息的排序特征之前，在所述多推荐任务模型的每次迭代训练过程中执行以下处理：将待推荐信息样本在多推荐任务模型的特征提取网络、多个专家网络、以及与多个所述推荐任务一一对应的指标预测网络中进行正向传播，以对所述待推荐信息样本进行推荐指标预测，得到所述待推荐信息样本对应各个所述推荐任务的预测推荐指标；其中，所述指标预测网络包括与多个所述推荐任务一一对应的特征全连接层、注意力网络以及预测全连接层；确定所述待推荐信息样本对应各个所述推荐任务的预测推荐指标和对应各个所述推荐任务的预标记推荐指标之间的误差；根据所述损失函数聚合对应各个所述推荐任务的误差以得到聚合误差，并在所述多推荐任务模型中反向传播所述聚合误差，以确定所述损失函数取得最小值时所述多推荐任务模型的参数变化值，并基于所述参数变化值更新所述多推荐任务模型的参数。

本申请实施例提供一种电子设备，包括：

存储器，用于存储可执行指令；

处理器，用于执行所述存储器中存储的可执行指令时，实现本申请实施例提供的基于人工智能的信息推荐方法。

本申请实施例提供一种计算机可读存储介质，存储有可执行指令，用于被处理器执行时，实现本申请实施例提供的基于人工智能的信息推荐方法。

本申请实施例具有以下有益效果：

通过对排序特征的基于特征维度以及基于任务的映射处理，并对各自的映射结果进行注意力处理，以使得推荐任务与不同的特征维度产生直接关联，更准确地预测对应多个推荐任务的推荐指标，从而针对多个推荐任务都实现了精准地个性化推荐。

附图说明

图1是相关技术中多推荐任务模型的结构示意图；

图2是本申请实施例提供的基于人工智能的信息推荐系统的结构示意图；

图3是本申请实施例提供的电子设备的结构示意图；

图4A-4D是本申请实施例提供的基于人工智能的信息推荐方法的流程示意图；

图5是本申请实施例提供的基于人工智能的信息推荐方法的框架示意图；

图6A-6B是本申请实施例提供的多推荐任务模型的结构示意图；

图7是本申请实施例提供的基于人工智能的信息推荐方法的特征提取网络的示意图。

具体实施方式

为了使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请作进一步地详细描述，所描述的实施例不应视为对本申请的限制，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本申请保护的范围。

在以下的描述中，涉及到“一些实施例”，其描述了所有可能实施例的子集，但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集，并且可以在不冲突的情况下相互结合。

在以下的描述中，所涉及的术语“第一\第二”仅仅是是区别类似的对象，不代表针对对象的特定排序，可以理解地，“第一\第二”在允许的情况下可以互换特定的顺序或先后次序，以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，不是旨在限制本申请。

对本申请实施例进行进一步详细说明之前，对本申请实施例中涉及的名词和术语进行说明，本申请实施例中涉及的名词和术语适用于如下的解释。

1)推荐系统：推荐系统是自动联系用户和信息的一种工具，它能够在信息过载的环境中帮助用户发现令他们感兴趣的信息，也能将信息推送给对它们感兴趣的用户。

2)新闻个性化推荐：根据用户的兴趣特点和阅读行为，向用户推荐他们感兴趣的新闻。

3)点击率预估模块：根据物品的特征列表和排序模型对物品候选集中的物品进行点击率预估计算。

4)多任务学习(MTL，Multi-task Learning)，把多个相关的任务放在一起进行同时学习，利用多个学习任务中所包含的有用信息，来帮助为每个任务学习得到更为准确的学习器的过程。

5)注意力机制：本质来自于人类视觉注意力机制，通常人们通过视觉感知事物时不会是每次从头看到尾全部观看，而往往是根据需求观察注意特定的一部分，而且当人们发现经常在一个场景的某部分出现自己想观察的事物时，人们会进行学习在将来再出现类似场景时把注意力放到该部分上，从而将更多的注意力聚焦到有用的部分。

6)待推荐对象，即进行信息推荐的目标，由于信息呈现的媒介是终端，信息推荐的目标是操作相应终端的用户，因此下文中将“对象”与“用户”进行了等同的描述。可以理解地，这里的用户可以是能够操作终端的自然人，也可以是终端中运行的能够模拟人类行为的机器人程序。

7)推荐信息：即能够发送到终端中进行呈现以向相应终端的用户(待推荐对象)进行推荐的信息。

8)受试者工作特征曲线下的面积(AUC，Area Under Curve)，作为模型的评价标准，通过对受试者工作特征曲线下各部分的面积求和而得。

相关技术中排序模型采用的是多推荐任务模型，参见图1，图1是相关技术中多推荐任务模型的结构示意图，多推荐任务模型包括共享底层结构以及单门多专家网络混合结构，单门多专家网络混合结构包括对应各个推荐任务的门控网络(例如，对应推荐任务A的门控网络A以及对应推荐任务B的门控网络B)、各自对应的塔网络(例如，对应推荐任务A的塔网络A以及对应推荐任务B的塔网络B)以及各自对应的输出层(例如，对应推荐任务A的输出层A以及对应推荐任务B的输出层B)，两个推荐任务共享多个专家网络(专家网络0-2)以及特征共享层，通过共享底层结构以及单门多专家网络混合结构的门控方式来学习多推荐任务之间的关联关系，每个推荐任务的门控网络通过所输出的不同权重实现对多个专家网络的选择性利用，不同推荐任务的门控网络可以学习到不同的组合多个专家网络的模式，但是仍然存在以下问题：

一、虽然多推荐任务模型的门控网络的结构对于推荐任务差异带来的冲突有一定的缓解作用，但实际应用中还是会存在类似跷跷板的情况，即一个推荐任务效果提升，另一个推荐任务效果下降，依旧存在某个推荐任务对另一个推荐任务造成了负向影响，很难达到理想状态，申请人在实施本申请实施例的过程中发现原因在于针对多推荐任务之间的关联关系学习得不够充分，对于各个推荐任务的特征子集的专注和聚焦不够敏锐，且针对多推荐任务之间的分享粒度把控不够精细。

二、多推荐任务模型中的门控网络实质上是输出不同权重实现对多个专家网络的选择性利用，但是门控网络的输出是基于原始特征输入进行学习得到的，门控网络的输出并没有和专家网络形成直接的关联，申请人在实施本申请实施例时发现可以基于专家网络本身和推荐任务本身会更直接有效地学习不同推荐任务对于专家网络的注意力分布。

本申请实施例提供一种基于人工智能的信息推荐方法、装置、电子设备和计算机可读存储介质，能够将多个推荐任务与不同的特征维度更准确地直接关联，以更准确地预测对应多个推荐任务的指标，从而实现了精准的个性化推荐并提高信息推荐效率，下面说明本申请实施例提供的电子设备的示例性应用，本申请实施例提供的电子设备可以为服务器。下面，将说明电子设备实施为服务器时的示例性应用。

参见图2，图2是本申请实施例提供的基于人工智能的信息推荐系统的结构示意图，为实现支撑一个新闻应用，终端400通过网络300连接应用服务器200-2，网络300可以是广域网或者局域网，又或者是二者的组合。训练服务器200-1推送训练好的多推荐任务模型至应用服务器200-2，终端400向应用服务器200-2发送用户请求，应用服务器200-2通过获取模块2551从召回系统500获取待推荐信息以及对应的排序特征，并通过映射模块2552将排序特征进行映射处理，并通过注意力模块2553对映射结果进行注意力处理得到各推荐任务的推荐指标，以使得推荐模块2554根据推荐指标确定排序靠前的待推荐信息返回至终端400进行呈现。

在一些实施例中，训练服务器200-1和应用服务器200-2可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端400可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等，但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接，本发明实施例中不做限制。

参见图3，图3是本申请实施例提供的电子设备的结构示意图，以电子设备是应用服务器200-2为例，图2所示的应用服务器200-2包括：至少一个处理器210、存储器250、至少一个网络接口220和用户接口230。终端200中的各个组件通过总线系统220耦合在一起。可理解，总线系统220用于实现这些组件之间的连接通信。总线系统220除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见，在图3中将各种总线都标为总线系统240。

处理器210可以是一种集成电路芯片，具有信号的处理能力，例如通用处理器、数字信号处理器(DSP，Digital Signal Processor)，或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，其中，通用处理器可以是微处理器或者任何常规的处理器等。

存储器250可以是可移除的，不可移除的或其组合。示例性的硬件设备包括固态存储器，硬盘驱动器，光盘驱动器等。存储器250可选地包括在物理位置上远离处理器210的一个或多个存储设备。

存储器250包括易失性存储器或非易失性存储器，也可包括易失性和非易失性存储器两者。非易失性存储器可以是只读存储器(ROM，Read Only Memory)，易失性存储器可以是随机存取存储器(RAM，Random Access Memory)。本发明实施例描述的存储器250旨在包括任意适合类型的存储器。

在一些实施例中，存储器250能够存储数据以支持各种操作，这些数据的示例包括程序、模块和数据结构或者其子集或超集，下面示例性说明。

操作系统251，包括用于处理各种基本系统服务和执行硬件相关任务的系统程序，例如框架层、核心库层、驱动层等，用于实现各种基础业务以及处理基于硬件的任务；

网络通信模块252，用于经由一个或多个(有线或无线)网络接口220到达其他计算设备，示例性的网络接口220包括：蓝牙、无线相容性认证(WiFi)、和通用串行总线(USB，Universal Serial Bus)等。

在一些实施例中，本发明实施例提供的基于人工智能的信息推荐装置可以采用软件方式实现，图3示出了存储在存储器250中的基于人工智能的信息推荐装置255，其可以是程序和插件等形式的软件，包括以下软件模块：获取模块2551、映射模块2552、注意力模块2553、推荐模块2554以及训练模块2555，这些模块是逻辑上的，因此根据所实现的功能可以进行任意的组合或进一步拆分，将在下文中说明各个模块的功能。

将结合本申请实施例提供的应用服务器200-2的示例性应用和实施，说明本申请实施例提供的基于人工智能的信息推荐方法。

参见图6A，图6A是本申请实施例提供的多推荐任务模型的结构示意图，若是应用于新闻推荐系统，假设存在两个推荐任务，可以存在多个推荐任务，推荐任务A和推荐任务B(推荐任务在图6A中简称为任务)，推荐任务A是点击率预测任务，推荐任务B是阅读时长预测任务，推荐任务A对应有指标预测网络A，推荐任务B对应有指标预测网络B，每个推荐任务均有对应的指标预测网络，指标预测网络A中包括注意力网络A(Attention A)、特征全连接层A(可以被替换为完整的深度神经网络)、预测全连接层A(可以被替换为完整的深度神经网络，例如塔网络A)，预测全连接层A输出推荐任务A的推荐指标，指标预测网络B中包括注意力网络B(Attention B)、特征全连接层B(可以被替换为完整的深度神经网络)、预测全连接层B(可以被替换为完整的深度神经网络，例如塔网络B),预测全连接层B输出推荐任务B的推荐指标，指标预测网络A和指标预测网络B共享有多个专家网络(例如，专家网络0、专家网络1和专家网络2)，每个专家网络对应不同的特征维度，指标预测网络A和指标预测网络B还共享有特征输入层(可以替换为特征提取网络)，每个专家网络对应不同的特征维度。

在一些实施例中，注意力网络(注意力网络A和注意力网络B)包括以下算子：矩阵相乘、线性变换、最大似然函数，推荐任务的特征表达(第一映射结果)和某一专家网络的输出(第二映射结果)做矩阵相乘，再对矩阵相乘结果进行线性变换处理后通过最大似然函数进行处理，最大似然函数算子输出的结果与某一专家网络的输出做矩阵相乘处理，将对应多个专家网络进行相同处理后进行拼接处理，得到对应推荐任务的注意力处理结果Attention。

参见图6B，图6B是本申请实施例提供的多推荐任务模型的结构示意图，若是应用于新闻推荐系统，假设存在两个推荐任务，可以存在多个推荐任务，推荐任务A和推荐任务B(推荐任务在图6A中简称为任务)，推荐任务A是点击率预测任务，推荐任务B是阅读时长预测任务，图6B中的多推荐任务模型的模型结构是在图6A中的多推荐任务模型的模型结构的基础上增加了协注意力网络A和协注意力网络B，协注意力网络A属于指标预测网络A，协注意力网络B属于指标预测网络B。

在一些实施例中，协注意力网络(协注意力网络A和协注意力网络B)包括：注意力处理算子以及残差归一化层(Add&Norm)，以协注意力网络A为例进行说明，注意力网络A的注意力处理结果A(Q_A)和注意力网络B的注意力处理结果B(K_B和V_B)输入至协注意力网络A得到对应的协注意力处理结果A，注意力网络B的注意力处理结果B(Q_B)和注意力网络A的注意力处理结果A(K_A和Q_A)输入至协注意力网络B得到对应的协注意力处理结果B。

参见图4A，图4A是本申请实施例提供的基于人工智能的信息推荐方法的流程示意图，将结合图4A示出的步骤进行说明。

在步骤101中，获取待推荐信息的排序特征。

在一些实施例中，步骤101中获取待推荐信息的排序特征，可以通过以下技术方案实现：获取推荐信息与多个特征类型分别对应的离散特征；其中，多个特征类型包括：用户特征、信息特征、环境特征；针对任意一个特征类型的离散特征执行以下处理：以离散特征中的多个离散值分别对应的隐向量为权重，对离散特征中的多个离散值进行加权处理，得到离散特征对应一个嵌入维度的嵌入维度值，将离散特征对应多个嵌入维度的嵌入纬度值组合为特征类型的稠密特征；对多个特征类型的稠密特征进行拼接处理，得到对应待推荐信息的排序特征。

作为示例，可以获取对应待推荐对象的以下至少之一的用户特征：用于表征待推荐对象的基本信息的基础属性特征；用于表征用户社会关系的社会关系特征；用于表征用户互动行为的互动行为特征；用于表征用户阅读偏好的阅读心理特征；可以获取对应待推荐信息的以下至少之一的待推荐信息的信息特征：用于表征待推荐信息类别的类别特征；用于表征待推荐信息内容的标签特征；用于表征待推荐信息发布时间的时间特征；用于表征待推荐信息来源的发布特征；用于表征待推荐信息长度的长度特征。

在一些实施例中，基本信息可以是用户的性别、年龄、长期居住地等基本属性，社会关系可以是是否婚配或者工作岗位等等具有社会属性，用户互动行为可以是点赞、转发或者收藏等等行为，阅读偏好可以是阅读兴趣，兴趣点可以是娱乐八卦或是国际新闻等等，待推荐信息类别可以是信息展示载体类别，例如，视频信息、图像信息或者文本信息，待推荐信息内容可以是内容主题，例如教育话题或者娱乐话题等等。

在一些实施例中，可以将用户特征分别与每个待推荐信息的信息特征进行组合，以形成对应每个待推荐信息的融合特征，还可以获取对应待推荐对象的以下至少之一的环境特征：向待推荐对象进行推送的时间特征；待推荐对象的用户位置特征；待推荐对象的设备特征；待推荐对象所使用的设备所处的网络特征；将对应待推荐对象的环境特征、用户特征以及待推荐信息特征，组合成对应每个待推荐信息的融合特征。

在一些实施例中，环境特征对于推荐指标的预测也有影响，向待推荐对象进行推送的时间会影响到待推荐对象是否有空闲观看待推荐信息，待推荐对象的位置表征待推荐对象当前所处的生活场景，不同的生活场景对于指标的预测是有影响的，例如，当位置特征表征待推荐对象处在电影院，对于时长和点击率这两个推荐指标的预测结果和位置特征表征待推荐对象处在自习室的对于时长和点击率这两个推荐指标的预测结果会有较大差异，待推荐对象所使用的设备所处的网络会影响待推荐对象是否希望接收到视频等需要耗费较大网络资源的待推荐信息。

在一些实施例中，参见图7，图7是本申请实施例提供的基于人工智能的信息推荐方法的特征提取网络的示意图，稠密表示层601的结构图7所示，虽然输入到稀疏特征层602的多个离散特征的长度不一样(例如字段1的离散特征以及字段m的离散特征)，但是基于多个离散特征得到的稠密特征的长度是固定的，假设稠密特征的嵌入维度为5，对于输入的一条信息，一个离散特征中(同一个字段)可以只有一个位置的离散值为1，对于离散特征的该位置而言，映射到稠密特征的多个嵌入维度值均为1，那么在由输入的离散特征得到稠密特征的过程中，稀疏特征层中只有一个神经元起作用，与该起作用的神经元相连的五条线对应的值为v_m1、v_m2、v_m3、v_m4、v_m5，这五个值组合起来就是对应字段m的稠密特征e_m，而针对于稠密特征的任意一个嵌入维度而言，该嵌入维度的值是基于离散特征的多个位置的离散值得到的，每个离散值对该嵌入维度均有贡献，以对应离散特征的多个离散值的隐向量为权重，假设离散特征的字段长度为3，则有三个离散值，对应的隐向量例如为v_1n、v_2n、v_3n，则对应第n嵌入维度的嵌入维度值是第一个位置的离散值、第二个位置的离散值以及第三个位置的离散值的加权处理结果，针对5个嵌入维度执行加权处理后得到稠密特征e_m，再对稠密特征进行拼接得到对应待推荐信息的排序特征。

在一些实施例中，步骤101中获取待推荐信息的排序特征之前，还可以执行以下技术方案：通过以下方式至少之一获取推荐信息：获取与待推荐对象的历史浏览信息的内容相似，且内容相似度不小于内容相似度阈值的信息以作为待推荐信息；获取与待推荐对象的用户画像相似，画像相似度不小于画像相似度阈值的多个参考待推荐对象，获取对应每个参考待推荐对象的历史浏览信息以作为待推荐信息。

作为示例，可以通过推荐系统中的召回模块获取多个待推荐信息，获取多个待推荐信息是响应于待推荐对象的用户请求，这里的用户请求可以是携带有特定目标的查询请求，还可以是初始化应用的请求，内容相似度指的是用户历史浏览信息与待推荐信息之间的相似度，还可以获取与待推荐对象具有类似用户画像的多个参考待推荐对象，将参考待推荐对象的历史浏览信息作为待推荐信息。

在步骤102中，对排序特征进行基于多个推荐任务的映射处理，得到对应每个推荐任务的第一特征映射结果。

在一些实施例中，步骤102中对排序特征进行基于多个推荐任务的映射处理，得到对应每个推荐任务的第一特征映射结果，可以通过以下技术方案实现：通过多推荐任务模型中与每个推荐任务对应的指标预测网络中的特征全连接层，对排序特征进行映射处理，得到对应每个推荐任务的第一特征映射结果。

作为示例，参见图6A或者图6B，通过指标预测网络A中的特征全连接层A对排序特征进行映射处理，得到对应推荐任务A的第一特征映射结果，通过指标预测网络B中的特征全连接层B对排序特征进行映射处理，得到对应推荐任务B的第一特征映射结果，推荐任务的数目不限于两个，指标预测网络与推荐任务是一一对应的，并且特征全连接层可以替换为其他深度神经网络。

在步骤103中，对排序特征进行基于多个特征维度的映射处理，得到对应每个特征维度的第二特征映射结果。

在一些实施例中，步骤103中对排序特征进行基于多个特征维度的映射处理，得到对应每个特征维度的第二特征映射结果，可以通过以下技术方案实现：通过多推荐任务模型中的多个专家网络，将排序特征分别映射到对应每个专家网络的特征空间，得到每个专家网络所关联的特征维度的第二特征映射结果。

作为示例，参见图6A或者图6B，通过指标预测网络A与指标预测网络B共享的多个专家网络对排序特征进行对应每个特征维度的映射处理，得到对应每个专家网络的特征维度的第二特征映射结果，推荐任务的数目不限于两个，专家网络的数目与推荐任务的数目之间没有对应关系，多个专家网络之间不存在参数共享，每个专家网络通常是数层规模比较小的全连接层，假设存在三个专家网络，则存在三个对应不同特征维度的第二特征映射结果。

在步骤104中，以任意一个推荐任务为目标推荐任务，基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到待推荐信息对应目标推荐任务的推荐指标。

在一些实施例中，参见图4B，图4B是本申请实施例提供的基于人工智能的信息推荐方法的流程示意图，步骤104中基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到待推荐信息对应目标推荐任务的推荐指标，可以通过步骤1041-1042实现。

在步骤1041中，基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到对应目标推荐任务的注意力处理结果。

在一些实施例中，参见图4C，图4C是本申请实施例提供的基于人工智能的信息推荐方法的流程示意图，步骤1041中基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到对应目标推荐任务的注意力处理结果，可以通过步骤10411-10413实现。

在步骤10411中，将第一特征映射结果与对应每个特征维度的第二特征映射结果的转置进行相乘处理，对得到的对应每个特征维度的相乘结果进行线性处理。

在步骤10412中，对得到的对应每个特征维度的线性处理结果进行最大似然处理，将得到的最大似然处理结果与对应每个特征维度的第二特征映射结果进行相乘处理，得到对应每个特征维度的注意力处理结果。

在步骤10413中，将对应每个特征维度的注意力处理结果进行拼接处理，得到对应目标推荐任务的注意力处理结果。

作为示例，承接上述实施例，以推荐任务A作为目标推荐任务，将第一映射结果与对应多个专家网络的第二映射结果做注意力处理，若是存在三个专家网络，每个专家网络对应一个特征维度，则每个专家网络输出对应各自特征维度的第二映射结果，参见公式(1)：

其中，softmax是最大似然函数，E矩阵是某个专家网络输出的第二映射结果，t^k是第k推荐任务的第一映射结果，例如，推荐任务A的第一映射结果，d是E矩阵的维度，Attention^k(t^k,E)是针对某个专家网络(特征维度)的对应第k推荐任务的注意力处理结果。

作为示例，将推荐任务A在多个专家网络上的多个注意力处理结果Attention^k进行拼接后，得到对应推荐任务A的指标预测网络A的注意力处理结果A，每个推荐任务对于专家网络的注意力分布，都起到了针对专家网络输出信息进行选择性聚焦的作用，以将注意力放到需要关注的信息上。

在一些实施例中，上述将对应每个特征维度的注意力处理结果进行拼接处理，得到对应目标推荐任务的注意力处理结果之后，还可以执行以下技术方案：对多个推荐任务的注意力处理结果进行线性变换处理，得到对应多个推荐任务的查询向量、键向量以及值向量；基于对应多个推荐任务的查询向量、键向量以及值向量，确定针对目标推荐任务的协注意力处理结果；基于针对目标推荐任务的协注意力处理结果，更新对应目标推荐任务的注意力处理结果。

在一些实施例中，上述对多个推荐任务的注意力处理结果进行线性变换处理，得到对应多个推荐任务的查询向量、键向量以及值向量，可以通过以下技术方案实现：对目标推荐任务的注意力处理结果进行线性变换处理，得到对应目标推荐任务的注意力处理结果的查询向量、键向量以及值向量；对至少一个其他推荐任务的注意力处理结果进行线性变换处理，得到对应每个其他推荐任务的注意力处理结果的查询向量、键向量以及值向量；其中，其他推荐任务为多个推荐任务中区别于目标推荐任务之外的推荐任务。

作为示例，所进行的线性变换处理，实际上是将注意力处理结果分别与三个参数矩阵相乘，得到对应注意力处理结果的查询向量Q、键向量K以及值向量V，承接上述实施例，例如，以推荐任务A作为目标推荐任务，得到对应推荐任务A的注意力处理结果A的查询向量Q_A、键向量K_A以及值向量V_A，若是以推荐任务A为目标任务，则将多个推荐任务中除了推荐任务A之外的推荐任务B作为其他推荐任务，例如，对推荐任务B的注意力处理结果B进行线性变换处理，得到推荐任务B的注意力处理结果B的查询向量Q_B、键向量K_B以及值向量V_B，若是除了推荐任务B之外，还存在推荐任务C，推荐任务C相对于推荐任务A而言，也属于其他推荐任务，则对推荐任务C的注意力处理结果C进行线性变换处理，得到推荐任务C的注意力处理结果C的查询向量Q_C、键向量K_C以及值向量V_C。

在一些实施例中，上述基于对应多个推荐任务的查询向量、键向量以及值向量，确定针对目标推荐任务的协注意力处理结果，可以通过以下技术方案实现：针对每个其他推荐任务执行以下处理：将目标推荐任务的注意力处理结果的查询向量与其他推荐任务的注意力处理结果的键向量进行点积处理，得到目标推荐任务与其他推荐任务的相关度；将相关度与其他推荐任务的注意力处理结果的值向量进行相乘处理，得到其他推荐任务针对目标推荐任务的协注意力处理结果。

作为示例，承接上述实施例，以推荐任务A作为目标推荐任务，可以采用点积的方式来衡量推荐任务A的注意力处理结果A(Attention^A(t^A,E))与推荐任务B的注意力处理结果B(Attention^B(t^B,E))的相关性，参见公式(2)：

simScore＝sigmoid(dot(Attention A,Attention B)) (2)；

其中，simScore是推荐任务A的注意力处理结果Attention A与推荐任务B的注意力处理结果Attention B的相关度，dot是点积算子，Attention A是推荐任务A的注意力处理结果A，Attention B是推荐任务B的注意力处理结果B，sigmoid是激活函数。

作为示例，推荐任务A的指标预测网络A的预测全连接层A的计算如下，参见公式(3)：

y_A＝h_A(AttentionA+simScore*AttentionB) (3)；

其中，y_A是推荐任务A的推荐指标，h_A是推荐任务A的指标预测网络的预测全连接层，simScore*AttentionB实质是将相关度simScore与其他推荐任务(推荐任务B)的注意力处理结果的值向量V_B进行相乘处理，相乘处理结果即为推荐任务A与推荐任务B的协注意力处理结果。

作为示例，若是除了推荐任务B之外，还存在推荐任务C，推荐任务C相对于推荐任务A而言，也属于其他推荐任务，则确定出推荐任务A的注意力处理结果Attention A与推荐任务C的注意力处理结果Attention C的相关度，将相关度与其他推荐任务(推荐任务C)的注意力处理结果的值向量V_C进行相乘处理，相乘处理结果即为推荐任务A与推荐任务C的协注意力处理结果。

作为示例，目标推荐任务A和其他推荐任务B之间存在相关性，目标推荐任务A的上层表达信息可以用来引导其他推荐任务B的注意力分布，反之当推荐任务B作为目标推荐任务时，目标推荐任务B的上层表征信息可以用来引导其他推荐任务A的注意力分布。

在一些实施例中，上述基于针对目标推荐任务的协注意力处理结果，更新对应目标推荐任务的注意力处理结果，可以通过以下技术方案实现：当其他推荐任务的数目为一个时，将其他推荐任务针对目标推荐任务的协注意力处理结果与目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果；当其他推荐任务的数目为多个时，将每个其他推荐任务针对目标推荐任务的协注意力处理结果与目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果。

作为示例，当其他推荐任务的数目为一个时，即除了目标推荐任务A之外，仅存在其他推荐任务B，则将其他推荐任务B针对目标推荐任务A的协注意力处理结果与目标推荐任务A的注意力处理结果A进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果。

作为示例，当其他推荐任务的数目为多个时，即除了目标推荐任务A之外，还存在其他推荐任务B和其他推荐任务C，将每个其他推荐任务针对目标推荐任务的协注意力处理结果与目标推荐任务的注意力处理结果进行相加处理，即将其他推荐任务B针对目标推荐任务A的协注意力处理结果、其他推荐任务C针对目标推荐任务A的协注意力处理结果与目标推荐任务A的注意力处理结果A进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果。

在步骤1042中，通过多推荐任务模型中与目标推荐任务对应的指标预测网络的预测全连接层，并结合对应目标推荐任务的注意力处理结果对待推荐信息进行推荐指标预测处理，得到待推荐信息对应目标推荐任务的推荐指标。

作为示例，参见图6A或者图6B，目标推荐任务的注意力处理结果可以是目标推荐任务的注意力网络或者目标推荐任务的协注意力网络的输出结果，通过指标预测网络A中的预测全连接层A对注意力网络A或者协注意力网络A的输出结果进行推荐指标预测，得到对应推荐任务A的推荐指标，通过指标预测网络B中的预测全连接层B对注意力网络B或者协注意力网络B的输出结果进行推荐指标预测，得到对应推荐任务B的推荐指标，推荐任务的数目不限于两个，指标预测网络与推荐任务是一一对应的，并且预测全连接层可以替换为其他深度神经网络。

在步骤105中，基于待推荐信息对应每个推荐任务的推荐指标，执行推荐操作。

在一些实施例中，步骤105中基于待推荐信息对应每个推荐任务的推荐指标，执行推荐操作，可以通过以下技术方案实现：获取对应多个推荐任务的聚合规则；基于聚合规则所包括的算子，对分别对应多个推荐任务的推荐指标进行计算处理，得到多个待推荐信息分别对应多个推荐任务的综合推荐指标；根据多个待推荐信息分别对应多个推荐任务的综合推荐指标，确定多个待推荐信息的推荐顺序，并基于多个待推荐信息的推荐顺序执行对应待推荐对象的推荐操作。

作为示例，将每个推荐任务作为目标推荐任务执行步骤104，以得到对应每个推荐任务的推荐指标。

作为示例，多个推荐任务的聚合规则可以对应不同多推荐指标聚合处理的方式，这里的多推荐任务可以是针对待推荐信息预测阅读时长、预测点击率、预测收藏数、预测转发数等等推荐任务中的至少两个，聚合规则可以是带参数的相加、相乘或者其他运算规则，这里可以将预测阅读时长以及预测点击率这两个推荐指标进行相乘作为多推荐任务的聚合处理方式。

作为示例，根据待推荐信息的综合推荐指标确定多个待推荐信息的推荐顺序，并基于多个待推荐信息的推荐顺序执行对应待推荐对象的推荐操作，即根据待推荐信息的综合推荐指标对待推荐信息进行降序排序，从降序排序结果中选择排序靠前的至少一个待推荐信息，并基于所选择的待推荐信息执行对应待推荐对象的推荐操作。

作为示例，在降序排序的结果中选择排序靠前的N个待推荐信息作为即将要推荐给待推荐对象的待推荐信息，并基于所选择的待推荐信息执行对应待推荐对象的推荐操作，这里的推荐操作可以是直接推送至待推荐对象，还可以基于所选择的待推荐信息进行重排序，这里的重排序指的是按照不同的多推荐任务的聚合处理的方式对所选择的待推荐信息进行重新排序，以从更加全面的角度获取受待推荐对象喜欢的推荐信息。

作为示例，基于所选择的待推荐信息执行对应待推荐对象的推荐操作，这里所产生的作为推荐结果的待推荐信息，是基于多推荐任务的预测所得到的结果，而不是单独某一项推荐任务的预测所产生的结果，因此推荐准确率较高，容易引起待推荐对象的兴趣，待推荐对象会阅读、点击、收藏以及转发作为推荐结果的待推荐信息，从而提升了互动行为比例，待推荐对象会阅读、点击、收藏以及转发的操作会作为用户画像的原始信息进行存档保留，并用于按时间间隔对模型进行训练，以持续性提升模型预测性能。

在一些实施例中，参见图4D，图4D是本申请实施例提供的基于人工智能的信息推荐方法的流程示意图，在执行步骤101获取待推荐信息的排序特征之前，还可以在多推荐任务模型的每次迭代训练过程中执行以下步骤106-108。

在步骤106中，将待推荐信息样本在多推荐任务模型的特征提取网络、多个专家网络、以及与多个推荐任务一一对应的指标预测网络中进行正向传播，以对待推荐信息样本进行推荐任务预测，得到待推荐信息样本对应各个推荐任务的预测推荐指标。

作为示例，指标预测网络包括与多个推荐任务一一对应的特征全连接层、注意力网络以及预测全连接层，注意力网络可以被替换为注意力网络与协注意力网络的组合。

作为示例，训练服务器对推荐系统的日志进行预处理，以构建包括待推荐信息样本的训练样本集合，训练服务器是用于训练上述多推荐任务模型的服务器，日志是推荐系统中用户行为数据，用户行为事件三要素包括：操作，定义一个操作动作(如点击、拖拽)；参数/属性，参数可以是任何和这个事件相关的属性，包括触发这个事件的(人、时间、地点、设备、操作的业务信息)；属性值，参数/属性的值。

作为示例，首先通过多推荐任务模型的特征提取网络将待推荐信息样本的离散特征变换为排序特征(稠密特征)，通过推荐任务A的指标预测网络A的特征全连接层A对排序特征进行映射，得到第一映射结果，通过推荐任务B的指标预测网络B的特征全连接层B对排序特征进行映射，得到第一映射结果，通过多个专家网络对排序特征进行映射，得到多个第二映射结果，通过推荐任务A的指标预测网络A的注意力网络对对应推荐任务A的第一映射结果和多个第二映射结果进行注意力处理(或者在注意力处理的基础上进行协注意力处理)，得到注意力处理结果A，通过推荐任务B的指标预测网络B的注意力网络对对应推荐任务B的第一映射结果和多个第二映射结果进行注意力处理(或者在注意力处理的基础上进行协注意力处理)，得到注意力处理结果B，通过推荐任务A的指标预测网络A的预测全连接层对注意力处理结果A进行推荐指标预测，得到推荐任务A的预测推荐指标，通过推荐任务B的指标预测网络B的预测全连接层对注意力处理结果B进行推荐指标预测，得到推荐任务B的预测推荐指标。

在步骤107中，确定待推荐信息样本对应各个推荐任务的预测推荐指标和对应各个推荐任务的预标记推荐指标之间的误差。

在步骤108中，根据损失函数聚合对应各个推荐任务的误差以得到聚合误差，并在多推荐任务模型中反向传播聚合误差，以确定损失函数取得最小值时多推荐任务模型的参数变化值，并基于参数变化值更新多推荐任务模型的参数。

在一些实施例中，初始化多推荐任务模型，并初始化对应多个推荐任务的子损失函数，子损失函数包括待推荐信息样本的离散特征以及对应的预标记推荐指标，将对应待推荐信息样本的离散特征的预测推荐指标和预标记推荐指标代入对应推荐任务的子损失函数，根据损失函数聚合对应各个推荐任务的误差(基于子损失函数得到的误差)以得到聚合误差，具体是结合对应各个子损失函数的损失权重，对各个子损失函数进行加权求和处理，得到对应多推荐任务模型的损失函数；对损失函数进行最小化处理，得到损失函数取得最小值时对应的多推荐任务模型的参数；其中，多推荐任务模型的参数包括对应多推荐任务模型的结构参数、以及对应损失函数的损失权重。

在一些实施例中，训练服务器将多推荐任务模型的参数转换为常量，并固化在多推荐任务模型中，以生成固化后的二进制模型文件，训练服务器将二进制模型文件推送至推荐系统，以使推荐系统中所使用的多推荐任务模型与经过训练得到的多推荐任务模型结构一致。

在一些实施例中，通过将模型训练参数数据与网络结构相融合的方式，通过将模型参数转换为常量的方式将参数固化在模型网络结构当中，以保证离线训练模型与在线预测模型的网络结构的一致性，在线推荐系统通过加载固化后的模型文件，即可同时获取网络结构以及模型训练参数，进而保证一致性，将最终得到的二进制模型文件通过定时任务按照预设的频次，按天或者按小时推送至在线推荐系统，同时将文件内容生成信息摘要算法进行编码，以用于后续模型校验，至此完成整个离线训练过程。

下面，将说明本申请实施例提供的基于人工智能的信息推荐方法在一个实际的应用场景中的示例性应用。

相关技术中基于深度神经网络的多推荐任务模型在新闻推荐、视频推荐等场景的业务应用广泛，比如在新闻推荐系统中对用户推荐信息资讯时，不仅要推荐用户感兴趣的资讯，还要尽可能地促进阅读完成度的转化，因此需要对点击率和阅读时长两种目标同时建模，对于多推荐任务模型而言，聚焦到和推荐任务本身相关的特征子集、以及共享得到其他推荐任务学习到的有用信息是决定多推荐任务模型预测准确性的关键。

为了提升不同推荐任务对于特征子集的专注聚焦能力，并且更精细的把控多推荐任务之间的分享粒度，本申请实施例提供一种基于人工智能的信息推荐方法，是基于多推荐任务模型实施的，多推荐任务模型是一种基于注意力机制的学习多推荐任务关联关系的模型。在多推荐任务模型中，首先从输入的特征信息(排序特征)中学习到与每个推荐任务相关的表达向量(对应各个推荐任务的第一映射结果)，然后将不同推荐任务的表达向量(第一映射结果)分别与各个专家网络的表达向量(第二映射结果)做注意力处理，得到不同推荐任务对于专家网络的注意力分布情况，将注意力处理的聚焦结果(对应推荐任务的注意力处理结果)作为各自推荐任务的塔网络(对应推荐任务的预测全连接层)的输入，以替换多推荐任务模型中门控网络的门控方式，从而实现对各自推荐任务的特征子集的聚焦，即聚焦对应推荐任务的特征维度的特征子集，最后针对不同推荐任务，进行协同注意力处理，以实现多推荐任务模型上层表达的共享，从而来捕捉推荐任务之间的关联关系。

对比多推荐任务模型中的门控网络，注意力处理的方式对于特征子集的聚焦更直接，更精细，更具可解释性，实验证明本申请实施例提供的多推荐任务模型，相较于多推荐任务模型的门控方式能更准确地区分出特征子集中与各自推荐任务相关以及不相关的特征，将多推荐任务模型的注意力集中在那些确实对推荐任务有影响的特征上，对于特征子集的专注聚焦更精准，同时对于多推荐任务之间的分享粒度把控的更好。

本申请实施例提供的基于人工智能的信息推荐方法可以应用于新闻推荐系统中，参见图5，图5是本申请实施例提供的基于人工智能的信息推荐方法的框架示意图，新闻推荐系统通常包括四个模块：用户画像模块，召回模块，点击率预估模块，重排模块，召回模块对内容池的信息进行粗选，召回模块输出经过粗选的信息至点击率预估模块，点击率预估模块对这些召回的信息进行精排序，再经过重排模块对经排序结果进行重排序(多样性以及样式混排)，最终推荐给用户，其中，召回模块、点击率预估模块以及重排模块均是基于用户画像模块输出的用户画像数据运行的，在整个推荐过程中，点击率预估模块起到了举足轻重的作用，点击率预估模块依赖于排序模型，排序模型的优劣决定了推荐结果的准确性。

申请人在实施本申请实施例时发现将多推荐任务模型作为排序模型时可以聚焦到和推荐任务本身相关的特征子集，还可以共享到其他推荐任务学习到的有用信息，注意力机制可以决定需要关注的特征子集，分配有限的处理资源给重要的信息，对于多推荐任务的学习过程而言，针对特征子集的聚焦学习是有效技术手段。

参见图6A，图6A是本申请实施例提供的多推荐任务模型的结构示意图，首先通过对应各自推荐任务的指标预测网络的特征全连接层对输入特征(排序特征)进行学习，得到排序特征针对不同推荐任务的向量表达t^k(x)(对应第k推荐任务的第一映射结果)，参见公式(4)：

t^k(x)＝W_tk*x (4)；

其中，x输入特征，W_tk是对应第k推荐任务的指标预测网络的特征全连接层，t^k(x)是第k推荐任务的指标预测网络的特征全连接层的输出(即不同推荐任务的向量表达)。

在一些实施例中，将不同推荐任务的向量表达分别与专家网络的向量表达做注意力处理，得到不同推荐任务对于专家网络的注意力分布情况，将注意力处理的聚焦结果作为各自推荐任务对应的预测全连接层的输入，来替换多推荐任务模型中的门控方式，参见公式(5)：

其中，softmax是最大似然函数，E是专家网络的向量表达，t^k是第k推荐任务的向量表达，d是E的维度，Attention^k(t^k,E)是对应第k推荐任务的指标预测网络的注意力网络的输出。

最后，将第k推荐任务在多个专家网络上的注意力聚焦结果Attention^k进行拼接后输入到对应第k推荐任务的指标预测网络的预测全连接层(对应的塔网络)中进行学习，以拟合出各自推荐任务的推荐指标，参见公式(6)：

y_k＝h_k(concat(Attention^k(t^k,E)) (6)；

其中，y_k是对应第k推荐任务的指标预测网络的预测全连接层的输出，h_k是对应第k推荐任务的指标预测网络的预测全连接层(对应的塔网络)，concat是拼接操作，Attention^k(t^k,E)是对应第k个推荐任务的指标预测网络的注意力网络的输出。

每个推荐任务对于专家网络的注意力分布，都起到了对于专家网络的输出信息进行选择性聚焦的作用，以将注意力聚焦到需要关注的重要信息上，为了更好地把控不同推荐任务之间的共享粒度，可以针对不同推荐任务的指标预测网络之间，实施协同注意力处理，以实现了模型上层表达的共享。

参见图6B，图6B是本申请实施例提供的多推荐任务模型的结构示意图，将推荐任务在专家网络上的注意力处理的聚焦结果Attention^k拼接后输入到对应推荐任务的指标预测网络的预测全连接层之前，进行协同注意力处理计算，以实现在上层表达之间共享有用信息的目的，协同注意力处理计算的过程中，采用点积的方式来衡量对应推荐任务A的注意力处理结果Attention A与对应推荐任务B的注意力处理结果Attention B的相关性，参见公式(7)：

simScore＝sigmoid(dot(Attention A,Attention B)) (7)；

其中，simScore是对应推荐任务A的注意力处理结果Attention A与对应推荐任务B的注意力处理结果Attention B的相关性，dot是点积算子，Attention A是对应推荐任务A的注意力处理结果，Attention B是对应推荐任务B的注意力处理结果，sigmoid是激活函数。

在一些实施例中，对应推荐任务的指标预测网络的预测全连接层的计算如下，基于公式(8)和(9)可以得到对应推荐任务A和推荐任务B的推荐指标：

y_A＝h_A(AttentionA+simScore*AttentionB) (8)；

y_B＝h_B(AttentionB+simScore*AttentionA) (9)；

其中，y_A是对应推荐任务A的推荐指标，y_B是对应推荐任务B的推荐指标，h_A是对应推荐任务A的指标预测网络的预测全连接层，h_B是对应推荐任务B的指标预测网络的预测全连接层。

在一些实施例中，推荐任务A和推荐任务B之间存在相关性，推荐任务A的上层表达信息可以用来引导推荐任务B的注意力分布，反之推荐任务B的上层表征信息可以用来引导推荐任务A的注意力分布，从而实现信息利用之间的相辅相成。

对比多推荐任务模型中的门控网络，注意力处理的方式对于特征子集的聚焦更直接，更精细，更具可解释性，基于人工智能的信息推荐方法是基于多推荐任务模型实施的，多推荐任务模型是一种基于注意力机制的学习多推荐任务的关联关系的模型，对比多推荐任务模型中的门控网络，能更准确地区分出特征子集中与对应推荐任务相关与不相关的特征，将注意力集中在那些确实对对应推荐任务有影响的特征上，对于特征子集的专注聚焦更精准，对于多推荐任务之间的分享粒度把控得更好，离线评测指标AUC和在线指标均有所提升。

下面继续说明本申请实施例提供的基于人工智能的信息推荐装置255的实施为软件模块的示例性结构，在一些实施例中，如图3所示，存储在存储器250的基于人工智能的信息推荐装置255中的软件模块可以包括：获取模块2551，用于获取待推荐信息的排序特征；映射模块2552，用于对排序特征进行基于多个推荐任务的映射处理，得到对应每个推荐任务的第一特征映射结果；映射模块2552，还用于对排序特征进行基于多个特征维度的映射处理，得到对应每个特征维度的第二特征映射结果；注意力模块2553，用于以任意一个推荐任务为目标推荐任务，基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到待推荐信息对应目标推荐任务的推荐指标；推荐模块2554，用于基于待推荐信息对应每个推荐任务的推荐指标，执行推荐操作。

在一些实施例中，获取模块2551，还用于：获取推荐信息与多个特征类型分别对应的离散特征；其中，多个特征类型包括：用户特征、信息特征、环境特征；针对任意一个所述特征类型的离散特征执行以下处理：以所述离散特征中的多个离散值分别对应的隐向量为权重，对所述离散特征中的多个离散值进行加权处理，得到所述离散特征对应一个嵌入维度的嵌入维度值，将所述离散特征对应多个所述嵌入维度的嵌入纬度值组合为所述特征类型的稠密特征；对多个所述特征类型的稠密特征进行拼接处理，得到对应所述待推荐信息的排序特征。

在一些实施例中，获取模块2551，还用于：获取待推荐信息的排序特征之前，通过以下方式至少之一获取推荐信息：获取与待推荐对象的历史浏览信息的内容相似，且内容相似度不小于内容相似度阈值的信息以作为待推荐信息；获取与待推荐对象的用户画像相似，画像相似度不小于画像相似度阈值的多个参考待推荐对象，获取对应每个参考待推荐对象的历史浏览信息以作为待推荐信息。

在一些实施例中，映射模块2552，还用于：通过与每个推荐任务对应的指标预测网络中的特征全连接层，对排序特征进行映射处理，得到对应每个推荐任务的第一特征映射结果；通过多个专家网络，将排序特征分别映射到对应每个专家网络的特征空间，得到每个专家网络所关联的特征维度的第二特征映射结果。

在一些实施例中，注意力模块2553，还用于：基于第一特征映射结果以及对应每个特征维度的第二特征映射结果进行注意力处理，得到对应目标推荐任务的注意力处理结果；通过多推荐任务模型中与目标推荐任务对应的指标预测网络的预测全连接层，并结合对应目标推荐任务的注意力处理结果对待推荐信息进行推荐任务预测处理，得到待推荐信息对应目标推荐任务的推荐指标。

在一些实施例中，注意力模块2553，还用于：将第一特征映射结果与对应每个特征维度的第二特征映射结果的转置进行相乘处理，对得到的对应每个特征维度的相乘结果进行线性处理；对得到的对应每个特征维度的线性处理结果进行最大似然处理，将得到的最大似然处理结果与对应每个特征维度的第二特征映射结果进行相乘处理，得到对应每个特征维度的注意力处理结果；将对应每个特征维度的注意力处理结果进行拼接处理，得到对应目标推荐任务的注意力处理结果。

在一些实施例中，注意力模块2553，还用于：将对应每个特征维度的注意力处理结果进行拼接处理，得到对应目标推荐任务的注意力处理结果之后，对多个推荐任务的注意力处理结果进行线性变换处理，得到对应多个推荐任务的查询向量、键向量以及值向量；基于对应多个推荐任务的查询向量、键向量以及值向量，确定针对目标推荐任务的协注意力处理结果；基于针对目标推荐任务的协注意力处理结果，更新对应目标推荐任务的注意力处理结果。

在一些实施例中，注意力模块2553，还用于：对目标推荐任务的注意力处理结果进行线性变换处理，得到对应目标推荐任务的注意力处理结果的查询向量、键向量以及值向量；对至少一个其他推荐任务的注意力处理结果进行线性变换处理，得到对应每个其他推荐任务的注意力处理结果的查询向量、键向量以及值向量；其中，其他推荐任务为多个推荐任务中区别于目标推荐任务之外的推荐任务。

在一些实施例中，注意力模块2553，还用于：针对每个其他推荐任务执行以下处理：将目标推荐任务的注意力处理结果的查询向量与其他推荐任务的注意力处理结果的键向量进行点积处理，得到目标推荐任务与其他推荐任务的相关度；将相关度与其他推荐任务的注意力处理结果的值向量进行相乘处理，得到其他推荐任务针对目标推荐任务的协注意力处理结果。

在一些实施例中，注意力模块2553，还用于：当其他推荐任务的数目为一个时，将其他推荐任务针对目标推荐任务的协注意力处理结果与目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果；当其他推荐任务的数目为多个时，将每个其他推荐任务针对目标推荐任务的协注意力处理结果与目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新对应目标推荐任务的注意力处理结果。

在一些实施例中，推荐模块2554，还用于：获取对应多个推荐任务的聚合规则；基于聚合规则所包括的算子，对分别对应多个推荐任务的推荐指标进行计算处理，得到多个待推荐信息分别对应多个推荐任务的综合推荐指标；根据多个待推荐信息分别对应多个推荐任务的综合推荐指标，确定多个待推荐信息的推荐顺序，并基于多个待推荐信息的推荐顺序执行对应待推荐对象的推荐操作。

在一些实施例中，基于人工智能的信息推荐装置255还包括：训练模块2555，用于：获取待推荐信息的排序特征之前，在多推荐任务模型的每次迭代训练过程中执行以下处理：将待推荐信息样本在多推荐任务模型的特征提取网络、多个专家网络、以及与多个推荐任务一一对应的指标预测网络中进行正向传播，以对待推荐信息样本进行推荐任务预测，得到待推荐信息样本对应各个推荐任务的预测推荐指标；其中，指标预测网络包括与多个推荐任务一一对应的特征全连接层、注意力网络以及预测全连接层；确定待推荐信息样本对应各个推荐任务的预测推荐指标和对应各个推荐任务的预标记推荐指标之间的误差；根据损失函数聚合对应各个推荐任务的误差以得到聚合误差，并在多推荐任务模型中反向传播聚合误差，以确定损失函数取得最小值时多推荐任务模型的参数变化值，并基于参数变化值更新多推荐任务模型的参数。

本申请实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行本申请实施例上述的基于人工智能的信息推荐方法。

本申请实施例提供一种存储有可执行指令的计算机可读存储介质，其中存储有可执行指令，当可执行指令被处理器执行时，将引起处理器执行本申请实施例提供的基于人工智能的信息推荐方法，例如，如图4A-4D示出的基于人工智能的信息推荐方法。

在一些实施例中，计算机可读存储介质可以是FRAM、ROM、PROM、EPROM、EEPROM、闪存、磁表面存储器、光盘、或CD-ROM等存储器；也可以是包括上述存储器之一或任意组合的各种设备。

在一些实施例中，可执行指令可以采用程序、软件、软件模块、脚本或代码的形式，按任意形式的编程语言(包括编译或解释语言，或者声明性或过程性语言)来编写，并且其可按任意形式部署，包括被部署为独立的程序或者被部署为模块、组件、子例程或者适合在计算环境中使用的其它单元。

作为示例，可执行指令可以但不一定对应于文件系统中的文件，可以可被存储在保存其它程序或数据的文件的一部分，例如，存储在超文本标记语言(HTML，Hyper TextMarkup Language)文档中的一个或多个脚本中，存储在专用于所讨论的程序的单个文件中，或者，存储在多个协同文件(例如，存储一个或多个模块、子程序或代码部分的文件)中。

作为示例，可执行指令可被部署为在一个计算设备上执行，或者在位于一个地点的多个计算设备上执行，又或者，在分布在多个地点且通过通信网络互连的多个计算设备上执行。

综上所述，通过本申请实施例通过对排序特征的基于特征维度以及基于任务的映射处理，并对各自的映射结果进行注意力处理，以使得推荐任务与不同的特征维度产生直接关联，更准确地预测对应多个推荐任务的指标，从而实现了精准的个性化推荐。

以上所述，仅为本申请的实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和范围之内所作的任何修改、等同替换和改进等，均包含在本申请的保护范围之内。

Claims (15)

1.一种基于人工智能的信息推荐方法，其特征在于，包括：

获取待推荐信息的排序特征；

对所述排序特征进行基于多个推荐任务的映射处理，得到对应每个所述推荐任务的第一特征映射结果；

对所述排序特征进行基于多个特征维度的映射处理，得到对应每个所述特征维度的第二特征映射结果；

以任意一个所述推荐任务为目标推荐任务，基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标；

基于所述待推荐信息对应每个所述推荐任务的推荐指标，执行推荐操作。

2.根据权利要求1所述的方法，其特征在于，所述获取待推荐信息的排序特征，包括：

获取所述推荐信息的多个特征类型的离散特征；

其中，所述多个特征类型包括：用户特征、信息特征、环境特征；

针对任意一个所述特征类型的离散特征执行以下处理：以所述离散特征中的多个离散值分别对应的隐向量为权重，对所述离散特征中的多个离散值进行加权处理，得到所述离散特征对应一个嵌入维度的嵌入维度值，将所述离散特征对应多个所述嵌入维度的嵌入纬度值组合为所述特征类型的稠密特征；

对多个所述特征类型的稠密特征进行拼接处理，得到对应所述待推荐信息的排序特征。

3.根据权利要求1所述的方法，其特征在于，所述获取待推荐信息的排序特征之前，所述方法还包括：

通过以下方式至少之一获取所述推荐信息：

获取与待推荐对象的历史浏览信息的内容相似度不小于内容相似度阈值的信息，以作为所述待推荐信息；

获取与所述待推荐对象的用户画像的画像相似度不小于画像相似度阈值的多个参考待推荐对象，获取对应每个所述参考待推荐对象的历史浏览信息，以作为所述待推荐信息。

4.根据权利要求1所述的方法，其特征在于，

所述对所述排序特征进行基于多个推荐任务的映射处理，得到对应每个所述推荐任务的第一特征映射结果，包括：

通过与每个所述推荐任务对应的指标预测网络中的特征全连接层，对所述排序特征进行映射处理，得到对应每个所述推荐任务的第一特征映射结果；

所述对所述排序特征进行基于多个特征维度的映射处理，得到对应每个所述特征维度的第二特征映射结果，包括：

通过多个专家网络，将所述排序特征分别映射到对应每个所述专家网络的特征空间，得到每个所述专家网络所关联的特征维度的第二特征映射结果。

5.根据权利要求1所述的方法，其特征在于，所述基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标，包括：

基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到对应所述目标推荐任务的注意力处理结果；

通过与所述目标推荐任务对应的指标预测网络中的预测全连接层，并结合对应所述目标推荐任务的注意力处理结果对所述待推荐信息进行推荐指标预测处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标。

6.根据权利要求5所述的方法，其特征在于，所述基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到对应所述目标推荐任务的注意力处理结果，包括：

将所述第一特征映射结果与对应每个所述特征维度的第二特征映射结果的转置进行相乘处理，对得到的对应每个所述特征维度的相乘结果进行线性处理；

对得到的对应每个所述特征维度的线性处理结果进行最大似然处理，将得到的最大似然处理结果与对应每个所述特征维度的第二特征映射结果进行相乘处理，得到对应每个所述特征维度的注意力处理结果；

将对应每个所述特征维度的注意力处理结果进行拼接处理，得到对应所述目标推荐任务的注意力处理结果。

7.根据权利要求6所述的方法，其特征在于，所述将对应每个所述特征维度的注意力处理结果进行拼接处理，得到对应所述目标推荐任务的注意力处理结果之后，所述方法还包括：

对多个所述推荐任务的注意力处理结果进行线性变换处理，得到对应多个所述推荐任务的查询向量、键向量以及值向量；

基于对应多个所述推荐任务的查询向量、键向量以及值向量，确定对应所述目标推荐任务的协注意力处理结果；

基于对应所述目标推荐任务的协注意力处理结果，更新对应所述目标推荐任务的注意力处理结果。

8.根据权利要求7所述的方法，其特征在于，所述对多个所述推荐任务的注意力处理结果进行线性变换处理，得到对应多个所述推荐任务的查询向量、键向量以及值向量，包括：

对所述目标推荐任务的注意力处理结果进行线性变换处理，得到对应所述目标推荐任务的注意力处理结果的查询向量、键向量以及值向量；

对至少一个其他推荐任务的注意力处理结果进行线性变换处理，得到对应每个所述其他推荐任务的注意力处理结果的查询向量、键向量以及值向量；

其中，所述其他推荐任务为多个所述推荐任务中区别于所述目标推荐任务的推荐任务。

9.根据权利要求8所述的方法，其特征在于，所述基于对应多个所述推荐任务的查询向量、键向量以及值向量，确定对应所述目标推荐任务的协注意力处理结果，包括：

针对每个所述其他推荐任务执行以下处理：

将所述目标推荐任务的注意力处理结果的查询向量，与所述其他推荐任务的注意力处理结果的键向量进行点积处理，得到所述目标推荐任务与所述其他推荐任务的相关度；

将所述相关度与所述其他推荐任务的注意力处理结果的值向量进行相乘处理，得到所述其他推荐任务针对所述目标推荐任务的协注意力处理结果。

10.根据权利要求8所述的方法，其特征在于，所述基于对应所述目标推荐任务的协注意力处理结果，更新对应所述目标推荐任务的注意力处理结果，包括：

当所述其他推荐任务的数目为一个时，将所述其他推荐任务对应所述目标推荐任务的协注意力处理结果与所述目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新所述对应所述目标推荐任务的注意力处理结果；

当其他推荐任务的数目为多个时，将每个所述其他推荐任务对应所述目标推荐任务的协注意力处理结果与所述目标推荐任务的注意力处理结果进行相加处理，并基于得到的相加处理结果更新所述对应所述目标推荐任务的注意力处理结果。

11.根据权利要求1所述的方法，其特征在于，所述基于所述待推荐信息对应每个所述推荐任务的推荐指标，执行推荐操作，包括：

获取对应所述多个推荐任务的聚合规则；

基于所述聚合规则所包括的算子，对分别对应所述多个推荐任务的推荐指标进行计算处理，得到多个待推荐信息分别对应所述多个推荐任务的综合推荐指标；

根据多个所述待推荐信息分别对应所述多个推荐任务的综合推荐指标，确定多个所述待推荐信息的推荐顺序，并基于多个所述待推荐信息的推荐顺序执行对应待推荐对象的推荐操作。

12.根据权利要求1-11任一项所述的方法，其特征在于，

所述获取待推荐信息的排序特征之前，所述方法还包括：

在所述多推荐任务模型的每次迭代训练过程中执行以下处理：

将待推荐信息样本在多推荐任务模型的特征提取网络、多个专家网络、以及与多个所述推荐任务一一对应的指标预测网络中进行正向传播，以对所述待推荐信息样本进行推荐指标预测，得到所述待推荐信息样本对应各个所述推荐任务的预测推荐指标；

其中，所述指标预测网络包括与多个所述推荐任务一一对应的特征全连接层、注意力网络以及预测全连接层；

确定所述待推荐信息样本对应各个所述推荐任务的预测推荐指标和对应各个所述推荐任务的预标记推荐指标之间的误差；

根据损失函数聚合对应各个所述推荐任务的误差以得到聚合误差，并在所述多推荐任务模型中反向传播所述聚合误差，以

确定所述损失函数取得最小值时所述多推荐任务模型的参数变化值，并基于所述参数变化值更新所述多推荐任务模型的参数。

13.一种基于人工智能的信息推荐装置，其特征在于，包括：

获取模块，用于获取待推荐信息的排序特征；

映射模块，用于对所述排序特征进行基于多个推荐任务的映射处理，得到对应每个所述推荐任务的第一特征映射结果；

所述映射模块，还用于对所述排序特征进行基于多个特征维度的映射处理，得到对应每个所述特征维度的第二特征映射结果；

注意力模块，用于以任意一个所述推荐任务为目标推荐任务，基于所述第一特征映射结果以及对应每个所述特征维度的第二特征映射结果进行注意力处理，得到所述待推荐信息对应所述目标推荐任务的推荐指标；

推荐模块，用于基于所述待推荐信息对应每个所述推荐任务的推荐指标，执行推荐操作。

14.一种电子设备，其特征在于，包括：

存储器，用于存储可执行指令；

处理器，用于执行所述存储器中存储的可执行指令时，实现权利要求1至12任一项所述的基于人工智能的信息推荐方法。

15.一种计算机可读存储介质，其特征在于，存储有可执行指令，用于被处理器执行时，实现权利要求1至12任一项所述的基于人工智能的信息推荐方法。

Images