CN109408731A - 一种多目标推荐方法、多目标推荐模型生成方法以及装置 - Google Patents

Abstract

本发明实施例提供了一种多目标推荐方法、多目标推荐模型生成方法以及装置，其中，所述多目标推荐方法，包括：获取待推荐对象信息和用户信息；将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；获取所述多目标推荐模型的多个输出节点输出的多个预测值；根据所述多个预测值将所述待推荐对象推荐至用户。在通过预设的多目标推荐模型对待推荐对象进行预测的过程中，并不需要对多个预测目标进行加权处理，因此，调整多个预测目标的权重后不需要重新进行模型训练，避免每次使用多目标推荐模型进行预测时，由于对各个预测目标的权重参数进行调整，需要重新训练多目标推荐模型再进行预测。

Description

一种多目标推荐方法、多目标推荐模型生成方法以及装置

技术领域

本发明涉及人工智能技术领域，特别是涉及一种多目标推荐方法、一种多目标推荐模型生成方法和一种多目标推荐装置、一种多目标推荐模型生成装置。

背景技术

推荐作为解决信息过载和挖掘用户潜在需求的技术手段，在诸多领域发挥着重要的作用，例如：电子商务，新闻资讯，电影推荐等。推荐场景中的优化目标需要综合考虑用户的点击率和消费时长。

目前，大部分技术使用LR(Logistic Regression，逻辑回归算法),GBDT(GradientBoosting Decison Tree，梯度提升树),XGBoost(Extreme Gradient Boosting，梯度提升算法)等传统方法进行单目标的训练，通过将点击的样本作为正样本，对于浏览时长进行上采样或者加权，来平衡点击率和浏览时长。

然而，这种的样本加权方式会存在一些缺点，例如，调整浏览时长的权重或者点击率的权重的成本较高，每次调整都要重新进行模型训练，并且对于模型来说，同一套参数难以表达这两种混合样本的分布。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种多目标推荐方法、一种多目标推荐模型生成方法和相应的一种多目标推荐装置、一种多目标推荐模型生成装置。

为了解决上述问题，本发明实施例公开了一种多目标推荐方法，包括：

获取待推荐对象信息和用户信息；

将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；

获取所述多目标推荐模型的多个输出节点输出的多个预测值；

根据所述多个预测值将所述待推荐对象推荐至用户。

优选的，所述多目标推荐模型还具有预设数目的隐藏层，以及与最后一层隐藏层连接的全连接层，所述全连接层分别与所述多个输出节点连接；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点。

优选的，所述将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型，包括：

对所述待推荐对象信息和所述用户信息进行向量化处理，生成待推荐特征向量信息；

将所述待推荐特征向量信息输入所述预设的多目标推荐模型。

优选的，所述根据所述多个预测值将待推荐对象推荐至用户，包括：

根据所述多个预测值从待推荐对象中，确定目标待推荐对象；

获取分别针对所述多个预测值的权重参数；

根据所述权重参数，对所述目标待推荐对象进行排序；

按照排序结果，将所述目标待推荐对象推荐至用户。

优选的，每个所述预测值包含用户针对各个待推荐对象的期望概率值；所述根据所述多个预测值从所述待推荐对象中，确定目标待推荐对象，包括：

将所述多个预测值中针对相同待推荐对象的期望概率值相加，得到目标概率值；

根据针对各个所述待推荐对象的目标概率值，从所述待推荐对象中确定目标待推荐对象。

优选的，所述多目标推荐模型通过如下方式生成：

获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息；所述用户信息包含点击率特征信息和浏览时长特征信息；

采用所述样本数据生成特征向量；

采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

本发明实施例还公开了一种多目标推荐模型生成方法，包括：

获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息，所述用户信息包含点击率特征信息和浏览时长特征信息；

采用所述样本数据生成特征向量信息；

采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

优选的，在所述采用所述样本数据生成特征向量信息之后，还包括：

对所述特征向量信息进行预处理；其中，所述预处理包括：等频归一化处理和低频过滤。

优选的，所述多目标推荐模型具有预设数目的隐藏层、与最后一层隐藏层连接的全连接层，以及分别与所述全连接层连接的多个输出节点；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点；每一隐藏层的神经元具有一相应的激活函数。

优选的，所述采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数，包括：

通过所述预设数目的隐藏层每一神经元的激活函数对所述特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至所述全连接层；

通过所述全连接层根据所述输出结果和所述多个损失函数进行误差计算，生成多个梯度值；

通过所述输出节点判断所述多个梯度值是否满足预设阈值条件；

若否，则根据所述多个梯度值更新所述每一神经元的激活函数的参数以及更新所述多个损失函数的参数，得到训练之后的多目标推荐模型；

若是，则根据所述多个梯度值更新所述多个损失函数的参数，得到训练之后的多目标推荐模型。

本发明实施例还公开了一种多目标推荐装置，包括：

信息获取模块，用于获取待推荐对象信息和用户信息；

信息输入模块，用于将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；

预测值获取模块，用于获取所述多目标推荐模型的多个输出节点输出的多个预测值；

推荐模块，用于根据所述多个预测值将所述待推荐对象推荐至用户。

优选的，所述多目标推荐模型还具有预设数目的隐藏层，以及与最后一层隐藏层连接的全连接层，所述全连接层分别与所述多个输出节点连接；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点。

优选的，所述信息输入模块包括：

推荐特征向量信息生成子模块，用于对所述待推荐对象信息和所述用户信息进行向量化处理，生成待推荐特征向量信息；

推荐特征向量信息输入子模块，用于将所述待推荐特征向量信息输入所述预设的多目标推荐模型。

优选的，所述推荐模块包括：

目标待推荐对象确定子模块，用于根据所述多个预测值从待推荐对象中，确定目标待推荐对象；

权重参数获取子模块，用于获取分别针对所述多个预测值的权重参数；

排序子模块，用于根据所述权重参数，对所述目标待推荐对象进行排序；

推荐子模块，用于按照排序结果，将所述目标待推荐对象推荐至用户。

优选的，每个所述预测值包含用户针对各个待推荐对象的期望概率值；所述目标待推荐对象确定子模块包括：

目标概率值生成单元，用于将所述多个预测值中针对相同待推荐对象的期望概率值相加，得到目标概率值；

目标待推荐对象确定单元，用于根据针对各个所述待推荐对象的目标概率值，从所述待推荐对象中确定目标待推荐对象。

优选的，所述多目标推荐模型通过如下模块生成：

训练样本获取模块，用于获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息；所述用户信息包含点击率特征信息和浏览时长特征信息；

特征向量信息生成模块，用于采用所述样本数据生成特征向量；

训练模块，用于采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

停止训练模块，用于当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

本发明实施例还公开了一种多目标推荐模型生成装置，包括：

训练样本获取模块，用于获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息，所述用户信息包含点击率特征信息和浏览时长特征信息；

特征向量信息生成模块，用于采用所述样本数据生成特征向量信息；

训练模块，用于采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

停止训练模块，用于当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

优选的，所述装置还可以：

预处理模块，用于对所述特征向量信息进行预处理；其中，所述预处理包括：等频归一化处理和低频过滤。

优选的，所述多目标推荐模型具有预设数目的隐藏层、与最后一层隐藏层连接的全连接层，以及分别与所述全连接层连接的多个输出节点；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点；每一隐藏层的神经元具有一相应的激活函数。

优选的，所述训练模块包括：

映射子模块，用于通过所述预设数目的隐藏层每一神经元的激活函数对所述特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至所述全连接层；

梯度值生成子模块，用于通过所述全连接层根据所述输出结果和所述多个损失函数进行误差计算，生成多个梯度值；

判断子模块，用于通过所述输出节点判断所述多个梯度值是否满足预设阈值条件；

参数更新子模块，用于若否，则根据所述多个梯度值更新所述每一神经元的激活函数的参数以及更新所述多个损失函数的参数，得到训练之后的多目标推荐模型；若是，则根据所述多个梯度值更新所述多个损失函数的参数，得到训练之后的多目标推荐模型。

本发明实施例还公开了一种装置，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述装置执行如本发明实施例所述的一个或多个的多目标推荐方法和多目标推荐模型生成方法。

本发明实施例还公开了一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行如本发明实施例所述的一个或多个的多目标推荐方法和多目标推荐模型生成方法。

本发明实施例包括以下优点：

在本发明实施例中，通过获取待推荐对象信息和用户信息，将该待推荐对象信息和用户信息输入预设的多目标推荐模型，其中，多目标推荐模型具有多个输出节点，获取多目标推荐模型的多个输出节点输出的多个预测值；根据多个预测值将所述待推荐对象推荐至用户。通过预设的多目标推荐模型对待推荐对象进行预测的过程中，并不需要对多个预测目标进行加权处理，因此，调整多个预测目标的权重后不需要重新进行模型训练，避免每次使用多目标推荐模型进行预测时，由于对各个预测目标的权重参数进行调整，需要重新训练多目标推荐模型再进行预测。

同时，在进行多目标推荐模型训练时，分别针对多目标建立各自的损失函数，分别学习各个损失函数的参数，避免当模型需要满足多个目标时，使用同一套参数难以表达多种混合样本的分布的问题。

附图说明

图1是本发明的一种多目标推荐方法实施例的步骤流程图；

图2是本发明的一种多目标推荐模型生成方法实施例的步骤流程图；

图3是本发明的一种多目标推荐装置实施例的结构框图；

图4是本发明的一种多目标推荐模型生成装置实施例的结构框图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

目前，深度学习模型凭借其强大的表达能力和灵活的网络结构在诸多领域取得了重大突破，比如，使用深度学习模型进行模式识别，自动驾驶，图像分类等。在本发明实施例中，运用深度学习技术来解决传统推荐技术遇到的难题。

参照图1，示出了本发明的一种多目标推荐方法实施例的步骤流程图，具体可以包括如下步骤：

步骤S101，获取待推荐对象信息和用户信息；

为了方便描述和理解，本申请实施例以新闻资讯推荐场景为例进行说明。在新闻资讯推荐场景中，每天都有更新的文章入库，然后从当天入库的文章中，选择出用户可能会感兴趣的文章，然后利用深度学习模型对文章进行打分，根据分数去获得用户可能感兴趣的文章，并将该可能感兴趣的文章推送给用户。当然，本发明实施例的推荐技术还可以应用于其他的推荐场景中，本发明实施例对此并不限制。

在新闻资讯推荐场景中，待推荐对象信息可以包括：文章的关键字，类别，文章字数，文章作者等。

用户信息可以包括：用户年龄，性别，职业，文化水平，手机配置，收入区间等，还可以包括：用户所在城市，季节，特定节日等关联信息。

步骤S102，将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；

其中，所述多目标推荐模型可以具有多个输出节点。

在本发明实施例的一种优选实施例中，所述多目标推荐模型还可以具有预设数目的隐藏层，以及与最后一层隐藏层连接的全连接层，所述全连接层分别与所述多个输出节点连接；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点。

在本发明实施例中，可以将待推荐对象信息和所述用户信息输入预设的多目标推荐模型，以运用预设的多目标推荐模型对待推荐对象信息和用户信息进行预测。

在本发明实施例的一种优选实施例中，所述步骤S102可以包括如下子步骤：

对所述待推荐对象信息和所述用户信息进行向量化处理，生成待推荐特征向量信息；

将所述待推荐特征向量信息输入所述预设的多目标推荐模型。

在具体实现中，在获取待推荐对象信息和用户信息之后，可以将推荐对象信息和用户信息按照唯一ID拼接到一起，生成待推荐特征信息，并对该推荐特征信息进行向量化处理，以生成待推荐特征向量信息，从而将待推荐特征向量信息输入预设的多目标推荐模型。

步骤S103，获取所述多目标推荐模型的多个输出节点输出的多个预测值；

在将待推荐特征向量信息输入预设的多目标推荐模型之后，隐藏层的神经元中的激活函数逐层对特征向量信息进行映射，由最后一层隐藏层将结果数据传输至连接层，连接层对接收的结果数据进行拆分获得多个输出结果，并将拆分的多个输出结果分别输入到多个输出节点，由多个输出节点的神经元对输出结果进行处理，输出多个预测值。

在本发明实施例中，输出节点可以包括两个，两个输出节点可以输出两个预测值，每个预测值可以是针对不同的预测目标的期望值。例如，预测目标可以包括：点击率目标和浏览时长目标，则预测值可以是针对点击率目标的期望值，和针对浏览时长目标的期望值。

其中，所述预测值的取值范围可以是(0，1)。

步骤S104，根据所述多个预测值将所述待推荐对象推荐至用户。

在本发明实施例中，可以以多目标推荐模型输出的多个预测值作为筛选条件，将符合筛选条件的待推荐对象推荐至用户。

在本发明实施例的一种优选实施例中，所述步骤S104可以包括如下子步骤：

子步骤S11，根据所述多个预测值从待推荐对象中，确定目标待推荐对象；

在具体实现中，可以设置预设条件，当输出的多个预测值满足预设条件时，将该待推荐对象确定为目标推荐对象，推荐至用户。

例如，预设条件可以是一指定阈值，当多个预测值达到指定阈值时，则将待推荐对象推荐至用户，当多个预测值未达到指定阈值时，则不将待推荐对象推荐至用户。

预设条件也可以是一指定数量，可以对多个预测值按照一预设的规则进行排序，从排序的开始向后提取指定数量的预测值，将该指定数量的预测值对应的待推荐对象推荐至用户。例如，指定数量为10，将排列在前面的10个预测值所对应的待推荐对象推荐至用户。

需要说明的是，本领域技术人员也可以根据需要设置其他的预设条件，本发明实施例对此并不限制。

在本发明实施例的一种优选实施例中，每个所述预测值包含用户针对各个待推荐对象的期望概率值；所述子步骤S11可以包括如下步骤：

将所述多个预测值中针对相同待推荐对象的期望概率值相加，得到目标概率值；

根据针对各个所述待推荐对象的目标概率值，从所述待推荐对象中确定目标待推荐对象。

在本发明实施例中，由于针对的预测目标有多个，输出的预测值也有多个，因此，在确定目标推荐对象时，可以将针对同一个待推荐对象的期望概率值(即，预测值)相加，再根据获得的针对各个待推荐对象的目标概率值，从待推荐对象中筛选符合预设条件的待推荐对象，从而确定目标待推荐对象。

子步骤S12，获取分别针对所述多个预测值的权重参数；

子步骤S13，根据所述权重参数，对所述目标待推荐对象进行排序；

在本发明实施例中，可以动态接收用户设置的针对各个预测目标的权重参数，即针对多个预测值的权重参数，从而进一步根据该权重参数对目标待推荐对象进行排序。

作为一种示例，针对目标待推荐对象A的预测值为30％，50％，针对目标待推荐对象B的预测值为50％，30％，针对目标待推荐对象C的预测值为35％，45％。设置的权重参数为20％，80％。则针对目标待推荐对象A的总期望值为30％*20％+50％*80％＝46％，则针对目标待推荐对象B的总期望值为50％*20％+30％*80％＝34％，则针对目标待推荐对象C的总期望值为35％*20％+45％*80％＝43％。因此，按总期望值从大到小排序是：目标待推荐对象A，目标待推荐对象C，目标待推荐对象B。

由于，设置针对多个预测值的权重参数，并进一步对目标待推荐对象进行排序的过程是在通过多目标推荐模型对待推荐对象进行预测之后进行的，因此，在本发明实施例中，如果需要调整各个预测目标的权重参数，例如，调整浏览时长的权重参数，和/或，点击率的权重参数，对多目标推荐模型的输出结果没有影响，并不需要重新训练多目标推荐模型，可以避免每次使用多目标推荐模型进行预测时，由于对各个预测目标的权重参数进行调整，需要重新训练多目标推荐模型再进行预测。

子步骤S14，按照排序结果，将所述目标待推荐对象推荐至用户。

在本发明实施例中，可以按照排序结果，在一应用程序的用户界面上，展示目标推荐对象，从而将目标待推荐对象推荐至用户。其中，应用程序可以为用于进行新闻资讯查看的应用程序，也可以为浏览器。

在具体实现中，在向用户展示目标待推荐对象时，可以在针对一展示目标待推荐对象的预设大小区域内，显示针对该目标待推荐对象的概览内容，用户可以通过点击该预设大小区域，触发展开该目标待推荐对象的全部内容。

在本发明实施例的一种优选实施例中，所述多目标推荐模型通过如下步骤生成：

获取样本数据以及初始多目标推荐模型；

其中，所述样本数据包括推荐对象信息和用户信息；所述用户信息包含点击率特征信息和浏览时长特征信息。

在具体实现中，样本数据可以是从一应用程序的推荐日志文件和用户行为反馈日志文件中提取的推荐对象信息和用户信息。

在本发明实施例中，在模型训练的准备阶段，还可以获取一初始多目标推荐模型，以使用样本数据对初始多目标推荐模型进行训练，生成需要的多目标推荐模型。

采用所述样本数据生成特征向量；

在具体实现中，在获取样本数据之后，可以将样本数据的针对同一推荐对象的特征信息按照唯一ID拼接到一起，生成推荐特征信息，并对推荐特征信息进行向量化处理，以生成样本数据的特征向量信息。

采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；

其中，所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数。

由于针对的多目标推荐场景中，模型需要预测多个目标，因此，初始多目标推荐模型的损失函数也有多个。在本发明实施例中，在针对新闻资讯推荐场景中，初始多目标推荐模型的损失函数可以包括：基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数。在进行模型训练时，将基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数，作为多目标模型训练的监督和指导。

当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

在本发明实施例中，可以设置模型训练的停止条件是：多目标推荐模型的多个损失函数都最小化，当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练多目标推荐模型。

在本发明实施例中，通过获取待推荐对象信息和用户信息，将该待推荐对象信息和用户信息输入预设的多目标推荐模型，其中，多目标推荐模型具有多个输出节点，获取多目标推荐模型的多个输出节点输出的多个预测值；根据多个预测值将所述待推荐对象推荐至用户。通过预设的多目标推荐模型对待推荐对象进行预测的过程中，并不需要对多个预测目标进行加权处理，因此，调整多个预测目标的权重后不需要重新进行模型训练，避免每次使用多目标推荐模型进行预测时，由于对各个预测目标的权重参数进行调整，需要重新训练多目标推荐模型再进行预测。

参照图2，示出了本发明的一种多目标推荐模型生成方法实施例的步骤流程图，具体可以包括如下步骤：

步骤S201，获取样本数据以及初始多目标推荐模型；

其中，所述样本数据可以包括推荐对象信息和用户信息，所述用户信息可以包含点击率特征信息和浏览时长特征信息。

在具体实现中，样本数据可以是从一推荐应用程序的推荐日志文件和用户行为反馈日志文件中提取的推荐对象信息和用户信息。

推荐对象信息可以包括：文章的关键字，类别，文章字数，文章作者等信息。

用户信息可以包括：点击率特征和浏览时长特征等信息，还可以包括：用户年龄，性别，职业，文化水平，手机配置，收入区间等信息，还可以包括：用户所在城市，季节，特定节日等关联信息。其中，点击率特征和浏览时长特征等信息从用户行为反馈日志文件中提取。

在本发明实施例中，在模型训练的准备阶段，可以获取一初始多目标推荐模型，以使用样本数据对初始多目标推荐模型进行训练，生成需要的多目标推荐模型。

步骤S202，采用所述样本数据生成特征向量信息；

在具体实现中，在获取样本数据之后，可以将样本数据的针对同一推荐对象的特征信息按照唯一ID拼接到一起，生成推荐特征信息，并对推荐特征信息进行向量化处理，以生成样本数据的特征向量信息。

在本发明实施例的一种优选实施例中，在所述步骤S202之后还可以包括如下步骤：

对所述特征向量信息进行预处理；其中，所述预处理包括：等频归一化处理和低频过滤。

其中，针对等频归一化处理：

由于不同维度时特征向量信息的取值分布、以及相同维度时特征向量信息的取值分布的差异都很大。例如，距离、价格等特征的特征向量信息服从长尾分布，体现为大部分样本的特征向量信息都比较小，存在少量样本的特征向量信息非常大。

常规的归一化方法，例如，min-max(极大极小值)，z-score(standard score，标准分数)都只是对特征向量信息的取值分布进行平移和拉伸，最后特征向量信息的取值分布仍然是长尾分布，这就导致大部分样本的特征向量信息的取值都集中在非常小的取值范围内，使得样本特征的特征向量信息的区分度减小。与此同时，少量的大值特征向量信息可能造成训练时的波动，减缓模型训练时的收敛速度。此外也可以对特征向量信息的取值做对数转化，然而，由于不同维度时特征向量信息的取值分布不同，这种特征值处理的方式并不一定适用于其他维度的特征向量信息的处理。

在本发明实施例中，可以根据特征向量信息的取值在累计分布函数(CumulativeDistribution Functio)中的位置进行等频归一化处理。即，将特征向量信息进行等频分桶，保证每个桶里的样本量基本相等，假设总共分了n个桶，而特征Xi属于其中的第bi(bi∈{0,…,n-1})个桶，则特征Xi最终会归一化成bi/n。

本发明实施例的等频归一化处理方法可以保证对于不同分布的特征向量信息都可以映射到近似均匀分布，从而保证样本间特征向量信息的取值的区分度和特征向量信息的数值的稳定性。

针对低频过滤处理：

由于过多的极为稀疏的离散特征向量信息会在训练过程中造成过拟合问题，同时，也容易造成增加参数的储存数量的问题。因此，为避免这些问题，可以对离散特征进行低频过滤处理，丢弃出现频次小于预设阈值的特征向量信息。

在本发明实施例中，经过上述的特征处理后，还可以给特征向量信息分配对应的域，并对离散的特征向量信息进行散列Hash处理，最终生成LIBFFM格式的数据，作为Multi-target DNN模型(多目标深度神经网络)的训练样本。

步骤S203，采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；

其中，所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数。

由于针对的多目标推荐场景中，模型需要预测多个目标，因此，初始多目标推荐模型的损失函数也有多个。

在本发明实施例中，在针对新闻资讯推荐场景中，初始多目标推荐模型的损失函数可以包括：基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数。在进行模型训练时，可以将基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数，作为多目标模型训练的监督和指导。

在本发明实施例的一种优选实施例中，所述多目标推荐模型具有预设数目的隐藏层、与最后一层隐藏层连接的全连接层，以及分别与所述全连接层连接的多个输出节点；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点；每一隐藏层的神经元具有一相应的激活函数。

其中，多目标推荐模型中可以包括3层隐藏层。当然，本领域技术人员还可以根据需要设置其他数目的隐藏层，本发明实施例对此并不限制。

在本发明实施例的一种优选实施例中，所述步骤S203可以包括如下子步骤：

子步骤S31，通过所述预设数目的隐藏层每一神经元的激活函数对所述特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至所述全连接层；

子步骤S32，通过所述全连接层根据所述输出结果和所述多个损失函数进行误差计算，生成多个梯度值；

子步骤S33，通过所述输出节点判断所述多个梯度值是否满足预设阈值条件；

子步骤S34，若否，则根据所述多个梯度值更新所述每一神经元的激活函数的参数以及更新所述多个损失函数的参数，得到训练之后的多目标推荐模型；

子步骤S35，若是，则根据所述多个梯度值更新所述多个损失函数的参数，得到训练之后的多目标推荐模型。

在卷积神经网络模型中，隐藏层、连接层和输出层的神经元都是拥有激活函数的功能神经元，功能神经元可以对接收的信号进行处理。

在本发明实施例中，对每一训练样本数据的训练过程都可以包括如下操作流程：将特征向量信息输入初始多目标推荐模型的输入层，通过输入层将特征向量信息传递至隐藏层；然后通过隐藏层每一神经元的激活函数对特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至全连接层；通过全连接层根据输出结果和多个损失函数进行误差计算，生成多个梯度值；通过输出节点判断多个梯度值是否满足预设阈值条件；若否，则根据多个梯度值更新每一神经元的激活函数的参数以及更新多个损失函数的参数，得到训练之后的多目标推荐模型；若是，则根据多个梯度值更新多个损失函数的参数，得到训练之后的多目标推荐模型。

在进行模型训练时，循环执行以上的操作流程，直到达到预设的停止条件为止。

其中，对激活函数的参数更新以及对多个损失函数的参数更新，可以是基于梯度下降策略，以目标的负梯度方向对参数进行更新。在具体实现中，可以预设一学习率，控制每一轮训练中参数的更新步长。

步骤S204，当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

在本发明实施例中，可以设置训练的停止条件是：多目标推荐模型的多个损失函数都最小化。当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

在本发明实施例中，通过获取样本数据以及初始多目标推荐模型，采用样本数据生成特征向量信息，采用特征向量以及初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数，当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练多目标推荐模型。在进行多目标推荐模型训练时，分别针对多目标建立各自的损失函数，分别学习各个损失函数的参数，避免当模型需要满足多个目标时，使用同一套参数难以表达多种混合样本的分布的问题。

需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。

参照图3，示出了本发明的一种多目标推荐装置实施例的结构框图，具体可以包括如下模块：

信息获取模块301，用于获取待推荐对象信息和用户信息；

信息输入模块302，用于将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；

预测值获取模块303，用于获取所述多目标推荐模型的多个输出节点输出的多个预测值；

推荐模块304，用于根据所述多个预测值将所述待推荐对象推荐至用户。

在本发明实施例的一种优选实施例中，所述多目标推荐模型还具有预设数目的隐藏层，以及与最后一层隐藏层连接的全连接层，所述全连接层分别与所述多个输出节点连接；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点。

在本发明实施例的一种优选实施例中，所述信息输入模块302可以包括如下子模块：

推荐特征向量信息生成子模块，用于对所述待推荐对象信息和所述用户信息进行向量化处理，生成待推荐特征向量信息；

推荐特征向量信息输入子模块，用于将所述待推荐特征向量信息输入所述预设的多目标推荐模型。

在本发明实施例的一种优选实施例中，所述推荐模块304可以包括如下子模块：

目标待推荐对象确定子模块，用于根据所述多个预测值从待推荐对象中，确定目标待推荐对象；

权重参数获取子模块，用于获取分别针对所述多个预测值的权重参数；

排序子模块，用于根据所述权重参数，对所述目标待推荐对象进行排序；

推荐子模块，用于按照排序结果，将所述目标待推荐对象推荐至用户。

在本发明实施例的一种优选实施例中，每个所述预测值包含用户针对各个待推荐对象的期望概率值；所述目标待推荐对象确定子模块可以包括如下单元：

目标概率值生成单元，用于将所述多个预测值中针对相同待推荐对象的期望概率值相加，得到目标概率值；

目标待推荐对象确定单元，用于根据针对各个所述待推荐对象的目标概率值，从所述待推荐对象中确定目标待推荐对象。

在本发明实施例的一种优选实施例中，所述多目标推荐模型可以通过如下模块生成：

训练样本获取模块，用于获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息；所述用户信息包含点击率特征信息和浏览时长特征信息；

特征向量信息生成模块，用于采用所述样本数据生成特征向量；

训练模块，用于采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

停止训练模块，用于当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

参照图4，示出了本发明的一种多目标推荐模型生成装置实施例的结构框图，具体可以包括如下模块：

训练样本获取模块401，用于获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息，所述用户信息包含点击率特征信息和浏览时长特征信息；

特征向量信息生成模块402，用于采用所述样本数据生成特征向量信息；

训练模块403，用于采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

停止训练模块404，用于当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

在本发明实施例的一种优选实施例中，所述装置还可以包括如下模块：

预处理模块，用于对所述特征向量信息进行预处理；其中，所述预处理包括：等频归一化处理和低频过滤。

在本发明实施例的一种优选实施例中，所述多目标推荐模型具有预设数目的隐藏层、与最后一层隐藏层连接的全连接层，以及分别与所述全连接层连接的多个输出节点；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点；每一隐藏层的神经元具有一相应的激活函数。

在本发明实施例的一种优选实施例中，所述训练模块403可以包括如下子模块：

映射子模块，用于通过所述预设数目的隐藏层每一神经元的激活函数对所述特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至所述全连接层；

梯度值生成子模块，用于通过所述全连接层根据所述输出结果和所述多个损失函数进行误差计算，生成多个梯度值；

判断子模块，用于通过所述输出节点判断所述多个梯度值是否满足预设阈值条件；

参数更新子模块，用于若否，则根据所述多个梯度值更新所述每一神经元的激活函数的参数以及更新所述多个损失函数的参数，得到训练之后的多目标推荐模型；若是，则根据所述多个梯度值更新所述多个损失函数的参数，得到训练之后的多目标推荐模型。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本发明实施例还提供了一种装置，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述装置执行本发明实施例所述的多目标推荐方法和多目标推荐模型生成方法。

本发明实施例还提供了一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行本发明实施例所述的多目标推荐方法和多目标推荐模型生成方法。

本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本发明所提供的一种多目标推荐方法、一种多目标推荐模型生成方法和一种多目标推荐装置、一种多目标推荐模型生成装置，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (14)

1.一种多目标推荐方法，其特征在于，包括：

获取待推荐对象信息和用户信息；

将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；

获取所述多目标推荐模型的多个输出节点输出的多个预测值；

根据所述多个预测值将所述待推荐对象推荐至用户。

2.根据权利要求1所述的方法，其特征在于，所述多目标推荐模型还具有预设数目的隐藏层，以及与最后一层隐藏层连接的全连接层，所述全连接层分别与所述多个输出节点连接；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点。

3.根据权利要求1所述的方法，其特征在于，所述将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型，包括：

对所述待推荐对象信息和所述用户信息进行向量化处理，生成待推荐特征向量信息；

将所述待推荐特征向量信息输入所述预设的多目标推荐模型。

4.根据权利要求1所述的方法，其特征在于，所述根据所述多个预测值将待推荐对象推荐至用户，包括：

根据所述多个预测值从待推荐对象中，确定目标待推荐对象；

获取分别针对所述多个预测值的权重参数；

根据所述权重参数，对所述目标待推荐对象进行排序；

按照排序结果，将所述目标待推荐对象推荐至用户。

5.根据权利要求4所述的方法，其特征在于，每个所述预测值包含用户针对各个待推荐对象的期望概率值；所述根据所述多个预测值从所述待推荐对象中，确定目标待推荐对象，包括：

将所述多个预测值中针对相同待推荐对象的期望概率值相加，得到目标概率值；

根据针对各个所述待推荐对象的目标概率值，从所述待推荐对象中确定目标待推荐对象。

6.根据权利要求1所述的方法，其特征在于，所述多目标推荐模型通过如下方式生成：

获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息；所述用户信息包含点击率特征信息和浏览时长特征信息；

采用所述样本数据生成特征向量；

采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

7.一种多目标推荐模型生成方法，其特征在于，包括：

获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息，所述用户信息包含点击率特征信息和浏览时长特征信息；

采用所述样本数据生成特征向量信息；

采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

8.根据权利要求7所述的方法，其特征在于，在所述采用所述样本数据生成特征向量信息之后，还包括：

对所述特征向量信息进行预处理；其中，所述预处理包括：等频归一化处理和低频过滤。

9.根据权利要求7所述的方法，其特征在于，所述多目标推荐模型具有预设数目的隐藏层、与最后一层隐藏层连接的全连接层，以及分别与所述全连接层连接的多个输出节点；所述全连接层用于将所述最后一层隐藏层的输出结果拆分，并将拆分的输出结果分别输入到所述多个输出节点；每一隐藏层的神经元具有一相应的激活函数。

10.根据权利要求9所述的方法，其特征在于，所述采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数，包括：

通过所述预设数目的隐藏层每一神经元的激活函数对所述特征向量逐层进行映射，并将最后一层隐藏层生成的输出结果传输至所述全连接层；

通过所述全连接层根据所述输出结果和所述多个损失函数进行误差计算，生成多个梯度值；

通过所述输出节点判断所述多个梯度值是否满足预设阈值条件；

若否，则根据所述多个梯度值更新所述每一神经元的激活函数的参数以及更新所述多个损失函数的参数，得到训练之后的多目标推荐模型；

若是，则根据所述多个梯度值更新所述多个损失函数的参数，得到训练之后的多目标推荐模型。

11.一种多目标推荐装置，其特征在于，包括：

信息获取模块，用于获取待推荐对象信息和用户信息；

信息输入模块，用于将所述待推荐对象信息和所述用户信息输入预设的多目标推荐模型；其中，所述多目标推荐模型具有多个输出节点；

预测值获取模块，用于获取所述多目标推荐模型的多个输出节点输出的多个预测值；

推荐模块，用于根据所述多个预测值将所述待推荐对象推荐至用户。

12.一种多目标推荐模型生成装置，其特征在于，包括：

训练样本获取模块，用于获取样本数据以及初始多目标推荐模型；其中，所述样本数据包括推荐对象信息和用户信息，所述用户信息包含点击率特征信息和浏览时长特征信息；

特征向量信息生成模块，用于采用所述样本数据生成特征向量信息；

训练模块，用于采用所述特征向量以及所述初始多目标推荐模型进行训练，并计算训练之后的多目标推荐模型的多个损失函数；所述多个损失函数包括基于点击率特征信息的损失函数以及基于浏览时长特征信息的损失函数；

停止训练模块，用于当训练之后的多目标推荐模型的多个损失函数都最小化时，停止训练所述多目标推荐模型。

13.一种装置，其特征在于，包括：

一个或多个处理器；和

其上存储有指令的一个或多个机器可读介质，当由所述一个或多个处理器执行时，使得所述装置执行如权利要求1-6或7-10所述的一个或多个的方法。

14.一个或多个机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得所述处理器执行如权利要求1-6或7-10所述的一个或多个的方法。