CN109816438B - 信息推送方法及装置 - Google Patents

Abstract

本申请实施例公开了一种信息推送方法及装置。所述方法包括：获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件的样本语料；根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型；针对目标用户对应的多个待推送信息，利用排序模型及预设的不确定性预测方式，确定各待推送信息对应的排序信息；根据排序信息，从待推送信息中筛选出不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的目标信息推送给目标用户。该技术方案增加了低频语料对应的信息的展示机会，提高了信息推送的多样性。

Description

信息推送方法及装置

技术领域

本发明涉及信息处理技术领域，尤其涉及一种信息推送方法及装置。

背景技术

在个性化推荐及在线广告系统中，需要利用用户行为数据训练点击率或排序模型，如果训练集中某部分样本不足，将影响模型对该类输入的预估结果的准确度。如果低估其点击率或排序结果，将会降低相应内容或广告的展示机会，如果高估其点击率或排序结果，也会降低其他内容或广告的展示机会，这会使模型永远不能充分学习某一部分(即样本不足的这部分数据)输入，同时降低推荐结果的多样性，影响用户体验。

为解决上述问题，传统的LinUCB等算法基于线性模型训练点击率或排序模型，但线性模型的表现能力有限，对于表现能力更强、效果更高的深度学习等神经网络模型无法应用，因此只能通过切分出部分流量来增加新内容的展示机会，且对于流量切分的探索程度依赖于人工判断，容易导致探索不足或流量浪费。

发明内容

本申请实施例的目的是提供一种信息推送方法及装置，用以均衡信息中低频语料的分布，从而增加信息推荐的多样性及提高信息推荐的准确度。

为解决上述技术问题，本申请实施例是这样实现的：

一方面，本申请实施例提供一种信息推送方法，包括：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

在一个实施例中，所述神经网络模型为包括多个全连接层的多层模型；

所述根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型，包括：

按照预设的向量转换方式，对各所述样本用户特征及其对应的各所述样本语料进行向量转换，得到样本向量；

将各所述样本向量作为所述神经网络模型的输入数据，按照所述神经网络模型对应的叠加方式依次叠加所述输入数据，得到各所述样本数据分别对应的样本排序结果；其中，所述叠加方式包括各所述全连接层的模型参数信息；

确定各所述样本排序结果及各所述排序特征之间的误差，并根据所述误差调整各所述全连接层的模型参数信息，直至所述误差满足预设的模型损失函数时，获得所述排序模型。

在一个实施例中，所述利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息，包括：

提取所述目标用户的目标用户特征及各所述待推送信息的第一语料；

根据所述不确定性预测方式对所述排序模型的各层级的目标模型参数进行多次选择；及，按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息分别对应的多个排序结果；其中，各次所选择的所述目标模型参数不同；

对所述多个排序结果进行综合计算，以计算出各所述待推送信息对应的所述不确定性评估值。

在一个实施例中，所述根据所述不确定性预测方式选择多次所述排序模型的各层级的目标模型参数，包括：

确定对所述模型参数的选择概率，所述选择概率低于预设概率值；

按照所述选择概率，将所述各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为所述目标模型参数。

在一个实施例中，所述对所述多个排序结果进行综合计算，以计算出各所述待推送信息对应的所述不确定性评估值，包括：

计算所述多个排序结果的均值及标准差；

根据所述均值及标准差，确定所述多个排序结果对应的置信区间上限；

根据所述多个排序结果对应的所述置信区间上限，确定所述多个排序结果对应的所述待推送信息所对应的不确定性评估值；其中，所述置信区间上限与所述不确定性评估值正相关。

在一个实施例中，所述按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息对应的多个排序结果，包括：

若各所述样本语料中不包括所述第一语料，则利用所述样本语料中符合第二预设低频条件的第二语料替代所述第一语料；其中，所述第二预设低频条件指所述第二语料在所述样本语料中的频次低于第二预设阈值；

按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第二语料作为所述排序模型的输入数据，以得到各所述待推送信息对应的多个排序结果。

在一个实施例中，所述预设不确定条件包括所述不确定性评估值高于预设阈值；

相应的，所述根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，包括：

从所述待推送信息中筛选出所述不确定性评估值高于所述预设阈值的至少一个所述目标信息，以增加具有不确定性的所述排序结果对应的所述待推送信息的推送概率。

另一方面，本申请实施例提供一种信息推送装置，包括：

获取模块，用于获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

训练模块，用于根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

确定模块，用于针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

筛选及推送模块，用于根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

在一个实施例中，所述神经网络模型为包括多个全连接层的多层模型；

所述训练模块包括：

转换单元，用于按照预设的向量转换方式，对各所述样本用户特征及其对应的各所述样本语料进行向量转换，得到样本向量；

叠加单元，用于将各所述样本向量作为所述神经网络模型的输入数据，按照所述神经网络模型对应的叠加方式依次叠加所述输入数据，得到各所述样本数据分别对应的样本排序结果；其中，所述叠加方式包括各所述全连接层的模型参数信息；

确定及调整单元，用于确定各所述样本排序结果及各所述排序特征之间的误差，并根据所述误差调整各所述全连接层的模型参数信息，直至所述误差满足预设的模型损失函数时，获得所述排序模型。

在一个实施例中，所述确定模块包括：

提取单元，用于提取所述目标用户的目标用户特征及各所述待推送信息的第一语料；

选择单元，用于根据所述不确定性预测方式对所述排序模型的各层级的目标模型参数进行多次选择；及，按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息分别对应的多个排序结果；其中，各次所选择的所述目标模型参数不同；

计算单元，用于对所述多个排序结果进行综合计算，以计算出各所述待推送信息对应的所述不确定性评估值。

在一个实施例中，所述选择单元还用于：

确定对所述模型参数的选择概率，所述选择概率低于预设概率值；

按照所述选择概率，将所述各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为所述目标模型参数。

在一个实施例中，所述计算单元还用于：

计算所述多个排序结果的均值及标准差；

根据所述均值及标准差，确定所述多个排序结果对应的置信区间上限；

根据所述多个排序结果对应的所述置信区间上限，确定所述多个排序结果对应的所述待推送信息所对应的不确定性评估值；其中，所述置信区间上限与所述不确定性评估值正相关。

在一个实施例中，所述选择单元还用于：

若各所述样本语料中不包括所述第一语料，则利用所述样本语料中符合第二预设低频条件的第二语料替代所述第一语料；其中，所述第二预设低频条件指所述第二语料在所述样本语料中的频次低于第二预设阈值；

按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第二语料作为所述排序模型的输入数据，以得到各所述待推送信息对应的多个排序结果。

在一个实施例中，所述预设不确定条件包括所述不确定性评估值高于预设阈值；

相应的，所述筛选及推送模块包括：

筛选单元，用于从所述待推送信息中筛选出所述不确定性评估值高于所述预设阈值的至少一个所述目标信息，以增加具有不确定性的所述排序结果对应的所述待推送信息的推送概率。

再一方面，本申请实施例提供一种信息推送设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

再一方面，本申请实施例提供一种存储介质，用于存储计算机可执行指令，所述可执行指令在被执行时实现以下流程：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

采用本发明实施例的技术方案，通过提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件(包括样本语料在各推送信息的属性信息中的出现频次低于第一预设阈值)的样本语料，并根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型，使得排序模型可充分学习低频语料的输入，从而增加了低频语料在样本数据中的分布均衡度，确保了排序模型的训练的准确度。并且，针对目标用户对应的多个待推送信息，该技术方案能够利用排序模型及预设的不确定性预测方式确定各待推送信息对应的排序信息(该排序信息包括各待推送信息的排序结果的不确定性评估值)，进而根据排序信息从待推送信息中筛选出不确定性评估值满足预设不确定条件的目标信息进行推送。可见，该技术方案在利用排序模型确定推送信息时，能够依据排序结果的不确定性进行信息推送，从而增加了具有不确定性的语料(如低频语料)对应的信息的展示机会，提高了信息推送的多样性，进而提高用户对信息推送的体验度。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明一实施例的一种信息推送方法的示意性流程图；

图2是根据本发明一实施例的一种信息推送装置的示意性框图；

图3是根据本发明一实施例的一种信息推送设备的示意性框图。

具体实施方式

本申请实施例提供一种信息推送方法及装置，用以均衡信息中低频语料的分布，从而增加信息推荐的多样性及提高信息推荐的准确度。

为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

图1是根据本发明一实施例的一种信息推送方法的示意性流程图，如图 1所示，该方法包括：

S102，获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件的样本语料。

其中，第一预设低频条件包括样本语料在各推送信息的属性信息中的出现频次低于第一预设阈值。

样本用户特征包括用户所属国家、用户所用语言、用户所在城市、用户年龄、性别等信息；推送信息的属性信息包括推送信息的信息源、信息类别 (如新闻类信息、体育类信息、游戏类信息等)、信息标题长度、信息中的图片数量等信息。

例如，对于新闻类信息的样本数据中，样本用户特征包括：国家-印度、语言-英语、城市-新德里等；样本语料包括新闻类别-财经类、新闻源-The Times of India、新闻标题长度-12、新闻中图片数量-1等。

各推送信息对应的符合第一预设低频条件的样本语料，即各推送信息的属性信息中出现频次低于第一预设阈值的语料。例如，各推送信息的信息类别包括A、B、C、D、E、F六种类别，其中，类别A在这六种类别中的出现频次低于第一预设阈值，那么类别A即属于所要提取的样本语料。

S104，根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型。

其中，排序模型是利用预设的神经网络模型训练得到的。

S106，针对目标用户对应的多个待推送信息，利用排序模型及预设的不确定性预测方式，确定各待推送信息对应的排序信息。

其中，排序信息包括各待推送信息的排序结果的不确定性评估值。

S108，根据排序信息，从待推送信息中筛选出不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的目标信息推送给目标用户。

采用本发明实施例的技术方案，通过提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件(包括样本语料在各推送信息的属性信息中的出现频次低于第一预设阈值)的样本语料，并根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型，使得排序模型可充分学习低频语料的输入，从而增加了低频语料在样本数据中的分布均衡度，确保了排序模型的训练的准确度。并且，针对目标用户对应的多个待推送信息，该技术方案能够利用排序模型及预设的不确定性预测方式确定各待推送信息对应的排序信息(该排序信息包括各待推送信息的排序结果的不确定性评估值)，进而根据排序信息从待推送信息中筛选出不确定性评估值满足预设不确定条件的目标信息进行推送。可见，该技术方案在利用排序模型确定推送信息时，能够依据排序结果的不确定性进行信息推送，从而增加了具有不确定性的语料(如低频语料)对应的信息的展示机会，提高了信息推送的多样性，进而提高用户对信息推送的体验度。

在一个实施例中，为减少排序模型中的样本数量，可将样本语料中出现频次低于预设频次的语料用指定语料代替，例如，样本语料中包括有1000 个信息源，其中有100个信息源出现次数很低，假设该100个信息源在所有样本语料中的出现次数少于10(即预设频次)，则可利用指定语料(如“其他语料”)代替该100个信息源，指定语料与样本语料中出现频次不低于预设频次的其他语料不冲突。这样，在训练排序模型时，神经网络模型无需去学习分散的100个信息源，而只需学习如“其他语料”这类的指定语料，大大减少了模型训练时的样本数量，从而减少了模型大小，提高模型训练的效率。

在一个实施例中，神经网络模型为包括多个全连接层的多层模型。因此，可通过以下步骤A1-A3来训练与用户特征及语料相关的排序模型：

步骤A1，按照预设的向量转换方式，对各样本用户特征及其对应的各样本语料进行向量转换，得到样本向量。

其中，预设的向量转换方式包括：将样本用户特征及其对应的样本语料所对应的特征值拼接在一起，得到样本向量。

具体的，对于样本用户特征或其对应的样本语料，若属于离散特征，则该离散特征对应的特征值即为将该离散特征进行编码后得到的值；其中，对于取单一值的离散特征(如新闻类别、新闻来源)，可采用one-hot编码的方式进行编码，对于取多个值的特征(如新闻关键词)，则可采用multi-hot 编码的方式进行编码。

若样本用户特征或其对应的样本语料属于连续特征(如新闻标题长度、新闻图片数量等)，则该连续特征对应的特征值即为该连续特征的取值。可选的，可统计所有连续特征的取值的均值μ_x和标准差σ_x，然后按照 x_i′＝(x_i-μ_x)/σ_x将各连续特征的取值进行平移和缩放，使各连续特征的取值符合高斯分布。

执行步骤A1之后，通过拼接样本用户特征及其对应的样本语料分别对应的特征值，即可得到样本向量x₀。

步骤A2，将各样本向量作为神经网络模型的输入数据，按照神经网络模型对应的叠加方式依次叠加输入数据，得到各样本数据分别对应的样本排序结果。

其中，叠加方式包括各全连接层的模型参数信息。

可选的，对于其中任一样本向量x₀，叠加方式为

其中，0＜k≤h，x_k-1和x_k分别为第k-1层和第k层的样本向量，

和b_k为第k层的参数，a为激活函数。这些隐含层可以学习特征之间的交叉关系，最后连接到输出层，输出样本排序结果

本实施例中，对激活函数的选用不作限定，可采用常用的任一种激活函数，如sigmod函数、tanh函数等。

步骤A3，确定各样本排序结果及各排序特征之间的误差，并根据误差调整各全连接层的模型参数信息，直至误差满足预设的模型损失函数时，获得排序模型。

该步骤中，可通过随机梯度下降法最小化WARP损失函数来调整模型参数信息，进而得到排序模型y＝M(u,v)，其中y为排序结果(可表征为排序分数)，u为用户特征，v为语料。此外，对模型参数信息的调整方法属于神经网络学习过程中的现有技术，因此不再赘述。

在一个实施例中，利用排序模型及预设的不确定性预测方式确定各待推送信息对应的排序信息时，可通过以下步骤B1-B3的方式来确定排序信息：

步骤B1，提取目标用户的目标用户特征及各待推送信息的第一语料。

其中，目标用户特征包括目标用户的所属国家、所用语言、所在城市、年龄、性别等信息；第一语料包括待推送信息的属性信息，如信息源、信息类别、信息标题长度、信息中的图片数量等信息。

步骤B2，根据预设的不确定性预测方式对排序模型的各层级的目标模型参数进行多次选择，并按照各次所选择的目标模型参数，将目标用户特征及第一语料作为排序模型的输入数据，得到各待推送信息分别对应的多个排序结果。其中，各次所选择的目标模型参数不同。

该步骤中，预设的不确定性预测方式可以是：首先，确定对模型参数的选择概率，该选择概率低于预设概率值；其次，按照所确定的选择概率将各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为目标模型参数。为确保各次所选择的目标模型参数不同，对模型参数的选择概率可以是一个较小的概率值，如0.01。

例如，对于第i层的各神经元所对应的模型参数，按照上述确定的选择概率将各神经元所对应的模型参数中的一个模型参数的值置0，从而确定除该置0的模型参数之外的其他模型参数为第i层的目标模型参数。

由于各次所选择的目标模型参数不同，因此在每次选择目标模型参数之后，将目标用户特征及第一语料作为排序模型的输入数据所得到的各排序结果均不同。

步骤B3，对多个排序结果进行综合计算，以计算出各待推送信息对应的不确定性评估值。

该步骤中，可首先计算多个排序结果的均值及标准差，然后根据计算出的均值及标准差，确定多个排序结果对应的置信区间上限，进而根据多个排序结果对应的置信区间上限，确定多个排序结果对应的待推送信息所对应的不确定性评估值。其中，置信区间上限与不确定性评估值正相关。

在一个实施例中，不确定性评估值即为置信区间上限。不确定性评估值越大，说明排序结果的不确定性越高。

例如，对于计算出的c个排序结果y₁、y₂、……y_c，首先计算均值

和标准差

然后按照方式y′＝μ+λσ来确定c 个排序结果对应的置信区间上限，其中，λ为预设评估参数，λ越大，表示对排序结果的评估力度越大，且0＜λ＜1。得到置信区间上限之后，即可确定出不确定性评估值。

在一个实施例中，执行步骤B2时，若训练排序模型时所采集的样本语料中不包含待推送信息的第一语料，则可利用样本语料中符合第二预设低频条件的第二语料替代第一语料，其中，第二预设低频条件指第二语料在各推送信息中的频次低于第二预设阈值。例如，样本语料中包含财经类信息、娱乐类信息、游戏类信息、图片数量-2、信息标题长度-12、其他语料等，其中，样本语料“其他语料”在所有样本语料中的出现频次低于第二预设阈值(如少于5次)，则可利用“其他语料”来替代第一语料。进而按照各次所选择的目标模型参数，将目标用户特征及替代后的第二语料作为排序模型的输入数据，以得到各待推送信息对应的多个排序结果。

本实施例中，如果待推送信息的第一语料未出现在样本语料中，那么使用排序模型预测待推送信息的排序结果时，就会导致排序模型对于新的语料的排序预测不准确，而如果利用样本语料中符合第二预设低频条件的第二语料替代第一语料，则能够避免排序模型对新的语料的排序预测不准确的问题，从而提高排序结果的预测的准确度。

在一个实施例中，预设不确定条件包括不确定性评估值高于预设阈值。因此，可从待推送信息中筛选出不确定性评估值高于预设阈值的至少一个目标信息，以增加具有不确定性的排序结果对应的待推送信息的推送概率。

本实施例中，通过筛选出不确定性评估值高于预设阈值的目标信息进行展示，使得不确定性较高的信息的展示机会得到提高，从而解决现有技术中不确定性较高的信息通常无法得到展示的问题，很大程度上提高了信息推送的多样性，改善了用户体验。

综上，已经对本主题的特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序，以实现期望的结果。在某些实施方式中，多任务处理和并行处理可以是有利的。

以上为本申请实施例提供的信息推送方法，基于同样的思路，本申请实施例还提供一种信息推送装置。

图2是根据本发明一实施例的一种信息推送装置的示意性框图，如图2 所示，信息推送装置200包括：

获取模块210，用于获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件的样本语料；其中，第一预设低频条件包括样本语料在各推送信息的属性信息中的出现频次低于第一预设阈值；

训练模块220，用于根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，排序模型是利用预设的神经网络模型训练得到的；

确定模块230，用于针对目标用户对应的多个待推送信息，利用排序模型及预设的不确定性预测方式，确定各待推送信息对应的排序信息；其中，排序信息包括各待推送信息的排序结果的不确定性评估值；

筛选及推送模块240，用于根据排序信息，从待推送信息中筛选出不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的目标信息推送给目标用户。

在一个实施例中，神经网络模型为包括多个全连接层的多层模型；

训练模块220包括：

转换单元，用于按照预设的向量转换方式，对各样本用户特征及其对应的各样本语料进行向量转换，得到样本向量；

叠加单元，用于将各样本向量作为神经网络模型的输入数据，按照神经网络模型对应的叠加方式依次叠加输入数据，得到各样本数据分别对应的样本排序结果；其中，叠加方式包括各全连接层的模型参数信息；

确定及调整单元，用于确定各样本排序结果及各排序特征之间的误差，并根据误差调整各全连接层的模型参数信息，直至误差满足预设的模型损失函数时，获得排序模型。

在一个实施例中，确定模块230包括：

提取单元，用于提取目标用户的目标用户特征及各待推送信息的第一语料；

选择单元，用于根据不确定性预测方式对排序模型的各层级的目标模型参数进行多次选择；及，按照各次所选择的目标模型参数，将目标用户特征及第一语料作为排序模型的输入数据，得到各待推送信息分别对应的多个排序结果；其中，各次所选择的目标模型参数不同；

计算单元，用于对多个排序结果进行综合计算，以计算出各待推送信息对应的不确定性评估值。

在一个实施例中，选择单元还用于：

确定对模型参数的选择概率，选择概率低于预设概率值；

按照选择概率，将各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为目标模型参数。

在一个实施例中，计算单元还用于：

计算多个排序结果的均值及标准差；

根据均值及标准差，确定多个排序结果对应的置信区间上限；

根据多个排序结果对应的置信区间上限，确定多个排序结果对应的待推送信息所对应的不确定性评估值；其中，置信区间上限与不确定性评估值正相关。

在一个实施例中，选择单元还用于：

若各样本语料中不包括第一语料，则利用样本语料中符合第二预设低频条件的第二语料替代第一语料；其中，第二预设低频条件指第二语料在样本语料中的频次低于第二预设阈值；

按照各次所选择的目标模型参数，将目标用户特征及第二语料作为排序模型的输入数据，以得到各待推送信息对应的多个排序结果。

在一个实施例中，预设不确定条件包括不确定性评估值高于预设阈值；

相应的，筛选及推送模块240包括：

筛选单元，用于从待推送信息中筛选出不确定性评估值高于预设阈值的至少一个目标信息，以增加具有不确定性的排序结果对应的待推送信息的推送概率。

采用本发明实施例的装置，通过提取各样本数据中的样本用户特征及各推送信息对应的符合第一预设低频条件(包括样本语料在各推送信息的属性信息中的出现频次低于第一预设阈值)的样本语料，并根据各样本用户特征、各样本语料及各推送信息的排序特征，训练与用户特征及语料相关的排序模型，使得排序模型可充分学习低频语料的输入，从而增加了低频语料在样本数据中的分布均衡度，确保了排序模型的训练的准确度。并且，针对目标用户对应的多个待推送信息，该技术方案能够利用排序模型及预设的不确定性预测方式确定各待推送信息对应的排序信息(该排序信息包括各待推送信息的排序结果的不确定性评估值)，进而根据排序信息从待推送信息中筛选出不确定性评估值满足预设不确定条件的目标信息进行推送。可见，该技术方案在利用排序模型确定推送信息时，能够依据排序结果的不确定性进行信息推送，从而增加了具有不确定性的语料(如低频语料)对应的信息的展示机会，提高了信息推送的多样性，进而提高用户对信息推送的体验度。

本领域的技术人员应可理解，上述信息推送装置能够用来实现前文所述的信息推送方法，其中的细节描述应与前文方法部分描述类似，为避免繁琐，此处不另赘述。

基于同样的思路，本申请实施例还提供一种信息推送设备，如图3所示。信息推送设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器301和存储器302，存储器302中可以存储有一个或一个以上存储应用程序或数据。其中，存储器302可以是短暂存储或持久存储。存储在存储器302的应用程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括对信息推送设备中的一系列计算机可执行指令。更进一步地，处理器301可以设置为与存储器302通信，在信息推送设备上执行存储器302中的一系列计算机可执行指令。信息推送设备还可以包括一个或一个以上电源303，一个或一个以上有线或无线网络接口304，一个或一个以上输入输出接口305，一个或一个以上键盘306。

具体在本实施例中，信息推送设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对信息推送设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

可选地，所述神经网络模型为包括多个全连接层的多层模型；

计算机可执行指令在被执行时，还可以使所述处理器：所述根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型，包括：

按照预设的向量转换方式，对各所述样本用户特征及其对应的各所述样本语料进行向量转换，得到样本向量；

将各所述样本向量作为所述神经网络模型的输入数据，按照所述神经网络模型对应的叠加方式依次叠加所述输入数据，得到各所述样本数据分别对应的样本排序结果；其中，所述叠加方式包括各所述全连接层的模型参数信息；

确定各所述样本排序结果及各所述排序特征之间的误差，并根据所述误差调整各所述全连接层的模型参数信息，直至所述误差满足预设的模型损失函数时，获得所述排序模型。

可选地，计算机可执行指令在被执行时，还可以使所述处理器：

提取所述目标用户的目标用户特征及各所述待推送信息的第一语料；

根据所述不确定性预测方式对所述排序模型的各层级的目标模型参数进行多次选择；及，按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息分别对应的多个排序结果；其中，各次所选择的所述目标模型参数不同；

对所述多个排序结果进行综合计算，以计算出各所述待推送信息对应的所述不确定性评估值。

可选地，计算机可执行指令在被执行时，还可以使所述处理器：

确定对所述模型参数的选择概率，所述选择概率低于预设概率值；

按照所述选择概率，将所述各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为所述目标模型参数。

可选地，计算机可执行指令在被执行时，还可以使所述处理器：

计算所述多个排序结果的均值及标准差；

根据所述均值及标准差，确定所述多个排序结果对应的置信区间上限；

根据所述多个排序结果对应的所述置信区间上限，确定所述多个排序结果对应的所述待推送信息所对应的不确定性评估值；其中，所述置信区间上限与所述不确定性评估值正相关。

可选地，计算机可执行指令在被执行时，还可以使所述处理器：

若各所述样本语料中不包括所述第一语料，则利用所述样本语料中符合第二预设低频条件的第二语料替代所述第一语料；其中，所述第二预设低频条件指所述第二语料在所述样本语料中的频次低于第二预设阈值；

按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第二语料作为所述排序模型的输入数据，以得到各所述待推送信息对应的多个排序结果。

可选地，所述预设不确定条件包括所述不确定性评估值高于预设阈值；

计算机可执行指令在被执行时，还可以使所述处理器：

相应的，所述根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，包括：

从所述待推送信息中筛选出所述不确定性评估值高于所述预设阈值的至少一个所述目标信息，以增加具有不确定性的所述排序结果对应的所述待推送信息的推送概率。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行上述信息推送方法，并具体用于执行：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种信息推送方法，其特征在于，包括：

获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户；所述预设不确定条件包括：所述不确定性评估值高于预设阈值；

所述利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息，包括：提取所述目标用户的目标用户特征及各所述待推送信息的第一语料；根据所述不确定性预测方式对所述排序模型的各层级的目标模型参数进行多次选择，并按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息分别对应的多个排序结果；其中，各次所选择的所述目标模型参数不同；计算所述多个排序结果的均值及标准差；根据所述均值及标准差，确定所述多个排序结果对应的置信区间上限；根据所述多个排序结果对应的所述置信区间上限，确定所述多个排序结果对应的所述待推送信息所对应的不确定性评估值；其中，所述置信区间上限与所述不确定性评估值正相关。

2.根据权利要求1所述的方法，其特征在于，所述神经网络模型为包括多个全连接层的多层模型；

所述根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型，包括：

按照预设的向量转换方式，对各所述样本用户特征及其对应的各所述样本语料进行向量转换，得到样本向量；

将各所述样本向量作为所述神经网络模型的输入数据，按照所述神经网络模型对应的叠加方式依次叠加所述输入数据，得到各所述样本数据分别对应的样本排序结果；其中，所述叠加方式包括各所述全连接层的模型参数信息；

确定各所述样本排序结果及各所述排序特征之间的误差，并根据所述误差调整各所述全连接层的模型参数信息，直至所述误差满足预设的模型损失函数时，获得所述排序模型。

3.根据权利要求1所述的方法，其特征在于，所述根据所述不确定性预测方式选择多次所述排序模型的各层级的目标模型参数，包括：

确定对所述模型参数的选择概率，所述选择概率低于预设概率值；

按照所述选择概率，将所述各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为所述目标模型参数。

4.根据权利要求3所述的方法，其特征在于，所述按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息对应的多个排序结果，包括：

若各所述样本语料中不包括所述第一语料，则利用所述样本语料中符合第二预设低频条件的第二语料替代所述第一语料；其中，所述第二预设低频条件指所述第二语料在所述样本语料中的频次低于第二预设阈值；

按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第二语料作为所述排序模型的输入数据，以得到各所述待推送信息对应的多个排序结果。

5.根据权利要求1所述的方法，其特征在于，所述预设不确定条件包括所述不确定性评估值高于预设阈值；

相应的，所述根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，包括：

从所述待推送信息中筛选出所述不确定性评估值高于所述预设阈值的至少一个所述目标信息，以增加具有不确定性的所述排序结果对应的所述待推送信息的推送概率。

6.一种信息推送装置，其特征在于，包括：

获取模块，用于获取与针对各推送信息的用户行为相关的多个样本数据；及，提取各所述样本数据中的样本用户特征及各所述推送信息对应的符合第一预设低频条件的样本语料；其中，所述第一预设低频条件包括所述样本语料在各所述推送信息的属性信息中的出现频次低于第一预设阈值；

训练模块，用于根据各所述样本用户特征、各所述样本语料及各所述推送信息的排序特征，训练与用户特征及语料相关的排序模型；其中，所述排序模型是利用预设的神经网络模型训练得到的；

确定模块，用于针对目标用户对应的多个待推送信息，利用所述排序模型及预设的不确定性预测方式，确定各所述待推送信息对应的排序信息；其中，所述排序信息包括各所述待推送信息的排序结果的不确定性评估值；

筛选及推送模块，用于根据所述排序信息，从所述待推送信息中筛选出所述不确定性评估值满足预设不确定条件的至少一个目标信息，并将筛选出的所述目标信息推送给所述目标用户；所述预设不确定条件包括：所述不确定性评估值高于预设阈值；

所述确定模块包括：

提取单元，用于提取所述目标用户的目标用户特征及各所述待推送信息的第一语料；

选择单元，用于根据所述不确定性预测方式对所述排序模型的各层级的目标模型参数进行多次选择，并按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第一语料作为所述排序模型的输入数据，得到各所述待推送信息分别对应的多个排序结果；其中，各次所选择的所述目标模型参数不同；

计算单元，用于计算所述多个排序结果的均值及标准差；根据所述均值及标准差，确定所述多个排序结果对应的置信区间上限；根据所述多个排序结果对应的所述置信区间上限，确定所述多个排序结果对应的所述待推送信息所对应的不确定性评估值；其中，所述置信区间上限与所述不确定性评估值正相关。

7.根据权利要求6所述的装置，其特征在于，所述神经网络模型为包括多个全连接层的多层模型；

所述训练模块包括：

转换单元，用于按照预设的向量转换方式，对各所述样本用户特征及其对应的各所述样本语料进行向量转换，得到样本向量；

叠加单元，用于将各所述样本向量作为所述神经网络模型的输入数据，按照所述神经网络模型对应的叠加方式依次叠加所述输入数据，得到各所述样本数据分别对应的样本排序结果；其中，所述叠加方式包括各所述全连接层的模型参数信息；

确定及调整单元，用于确定各所述样本排序结果及各所述排序特征之间的误差，并根据所述误差调整各所述全连接层的模型参数信息，直至所述误差满足预设的模型损失函数时，获得所述排序模型。

8.根据权利要求6所述的装置，其特征在于，所述选择单元还用于：

确定对所述模型参数的选择概率，所述选择概率低于预设概率值；

按照所述选择概率，将所述各层级的至少一个模型参数的值置零，并将未置零的其他模型参数确定为所述目标模型参数。

9.根据权利要求8所述的装置，其特征在于，所述选择单元还用于：

若各所述样本语料中不包括所述第一语料，则利用所述样本语料中符合第二预设低频条件的第二语料替代所述第一语料；其中，所述第二预设低频条件指所述第二语料在所述样本语料中的频次低于第二预设阈值；

按照各次所选择的所述目标模型参数，将所述目标用户特征及所述第二语料作为所述排序模型的输入数据，以得到各所述待推送信息对应的多个排序结果。

10.根据权利要求6所述的装置，其特征在于，所述预设不确定条件包括所述不确定性评估值高于预设阈值；

相应的，所述筛选及推送模块包括：

筛选单元，用于从所述待推送信息中筛选出所述不确定性评估值高于所述预设阈值的至少一个所述目标信息，以增加具有不确定性的所述排序结果对应的所述待推送信息的推送概率。

Images