CN115495654A - 基于子空间投影神经网络的点击率预估方法和装置 - Google Patents

Abstract

本申请提出了一种基于子空间投影神经网络的点击率预估方法，涉及人工智能技术领域，其中，该方法包括：采集用户数据；对用户数据进行特征处理，得到用户特征，其中，特征处理包括归一化处理、离散化处理、未知值处理；将用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，深度神经网络模型由logloss损失函数进行训练生成；根据预测结果对物品候选集进行筛选，得到最终推荐结果。采用上述方案的本发明实现了端到端为用户提供个性化精确推荐。

Description

基于子空间投影神经网络的点击率预估方法和装置

技术领域

本申请涉及人工智能技术领域，尤其涉及基于子空间投影神经网络的点击率预估方法和装置。

背景技术

随着互联网的不断发展与进步，网络中物品和广告数量快速增加，用户在浏览各式各样的网站时面临信息过载的问题，如无法通过浏览电子商务网站中的所有候选物品找到自己感兴趣的物品。对于服务提供商来说，为用户提供更符合用户兴趣爱好的物品可提高用户的在线时长和用户营收。在此背景下，推荐系统应运而生。推荐系统的主要任务是联系用户和信息，一方面帮助用户发现对自己有价值的信息，另一方面让信息能够展现在对它感兴趣的用户面前，从而实现信息生产者和信息消费者的双赢。

在推荐系统中，点击率(Click-Through Rate，CTR)预估，也称CTR预估，是非常重要的组成部分。给定一些物品，称为候选集，点击率预估可以估计出用户点击各个物品的概率，将用户最可能点击的物品排在前面，提高命中率。在点击率预估任务中，含有大量的离散化特征和连续性特征，该任务的主要工作都聚焦于如何对特征进行高效快速交叉并从中提取有效信息。目前点击率预估方法主要有两种方案：(1)基于因子分解机(FM，Factorization Machine)及其变种的特征交叉方案；(2)基于注意力机制的特征交叉方案。

基于FM及其变种的特征交叉方案：利用FM技术，通过将每个域中的离散特征转换为连续特征向量，并利用不同特征向量的内积作为相应两个特征间的权重，可解决特征过多导致的特征组合数量指数爆炸的问题。后续很多相关工作在FM的基础上提出并对FM进行改进，如FFM为不同域分配不同的嵌入向量矩阵，FwFM通过考虑域间特征交互强度进行优化改进，FmFM扩展了交互矩阵并使用可变嵌入维数减少参数量。

基于注意力机制的特征交叉方案：该方法利用自然语言处理和计算机视觉中的注意力机制对大量特征进行处理，如FiBiNET模型使用了计算机视觉中的SENET模型建模不同特征向量的重要度，AutoInt模型和FRNet模型使用自然语言处理中的多头注意力机制对特征间的交叉进行了建模。

方案1采用特征的二阶交叉信息来提取用户信息，给用户进行推荐。该方法在点击率预估任务上忽略了用户和物品特征中的高阶特征交叉信息的重要程度，导致高阶信息无法有效整合和提取，具有一定的局限性。

方案2采用了深度学习领域中基于注意力机制的方法，能更好捕捉特征交叉信息，并且不同特征交叉之间独立建模，可捕捉高阶特征交叉信息。但该方案对高阶特征交叉信息的捕捉不全面，存在信息提取不准确的问题。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种基于子空间投影神经网络的点击率预估方法，解决了现有方法对高阶信息无法有效整合和提取，具有一定局限性，进而导致存在信息提取不准确的技术问题，实现了端到端为用户提供个性化精确推荐。

本申请的第二个目的在于提出一种基于子空间投影神经网络的点击率预估装置。

本申请的第三个目的在于提出一种计算机设备。

为达上述目的，本申请第一方面实施例提出了一种基于子空间投影神经网络的点击率预估方法，包括：采集用户数据；对用户数据进行特征处理，得到用户特征，其中，特征处理包括归一化处理、离散化处理、未知值处理；将用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，深度神经网络模型由logloss损失函数进行训练生成；根据预测结果对物品候选集进行筛选，得到最终推荐结果。

本申请实施例的基于子空间投影神经网络的点击率预估方法，通过信息采集部分获取各类特征，并通过特征处理部分对原始特征进行处理以适配神经网络的输入，再通过概率预测部分对输入的特征进行点击率预估，最后通过个性化推荐部分对结果进行进一步优化，为用户提供个性化精确推荐。

可选地，在本申请的一个实施例中，用户数据包括痕迹数据、特征数据，痕迹数据为用户在当前平台浏览信息时产生的历史行为记录，特征数据为用户填写的用户自身信息，对用户数据进行特征处理，包括：

对连续特征的异常值进行归一化；

对稀疏的类别型特征进行离散化并转换成相应的ID；

采集缺失的特征，并为缺失值赋予特定ID，其中，特定ID与普通ID不同。

可选地，在本申请的一个实施例中，深度神经网络模型包括嵌入层、子空间投影层、深度层，logloss损失函数表示为：

其中，N表示样本数，y_i表示真实标签，

表示模型预测结果。

可选地，在本申请的一个实施例中，将用户特征输入嵌入层进行特征嵌入，包括：

将用户特征中的稀疏特征、数值特征转换为稠密向量；

将不同域的稠密特征向量进行拼接，得到特征拼接向量作为嵌入层的输出；

其中，稀疏特征转换生成的稠密向量表示为：

e_i＝W_ix_i

其中，W_i表示特征域权重矩阵，x_i表示特征域的one-hot向量；

数值特征转换生成的稠密向量表示为：

e_j＝V_jx_j

其中，V_j表示数值特征域对应的特征向量，x_j表示特征域的具体数值；

所述特征拼接向量表示为：

E＝[e₁,e₂,…,e_f]

其中，E表示拼接后的向量，e表示各个域的特征向量，e_f表示第f个域的特征向量。

可选地，在本申请的一个实施例中，每个子空间投影层中并行堆叠多个不同的子空间，将特征拼接向量输入子空间投影层进行特征交互，包括：

将正交投影矩阵进行分解，得到分解向量；

对分解向量增加偏置并使用激活函数，得到投影后的向量；

将所有不同的子空间投影向量进行拼接，得到子空间投影层的输出，

其中，所述将正交投影矩阵进行分解，表示为：

P＝P_dP_c

P_d＝W(W^TW)^-1/2

P_c＝(W^TW)^-1/2W^T

其中，P_d表示将投影向量映射回原始的d维空间中，P_c表示将x映射到c维的子空间中，W(W^TW)^-1W^T表示正交投影矩阵，W表示子空间基向量权重矩阵，W^TW的根的计算方式为：

Y_k+1＝0.5*Y_k(3I-Z_kY_K)

Z_k+1＝0.5*(3I-Z_kY_K)Z_k

其中，k代表迭代轮数，I表示单位矩阵，Y_k表示上轮迭代产生的第一临时计算结果，Y_K表示本轮迭代产生的第一临时计算结果，Y₀＝A，A表示初始矩阵，Z_k表示上轮迭代产生的第二临时结果，Z_K表示本轮迭代产生的第二临时计算结果，Z₀＝I，

所述投影后的向量表示为：

t＝P_cx

其中，x表示嵌入层向量或上一层子空间投影层的结果向量；

所述投影后的向量表示为：

u＝φ(t+b)

其中，φ表示激活函数，b表示偏置；

所述子空间投影层的输出表示为：

其中，u_i表示第i个子空间的投影向量。

可选地，在本申请的一个实施例中，深度层包括多层全连接层，将子空间投影层的输出输入深度层中进行特征捕捉，包括：

将子空间投影层的输出输入全连接层，得到中间结果；

使用激活函数对中间结果进行处理，得到用户点击当前物品的概率。

可选地，在本申请的一个实施例中，根据预测结果对物品候选集进行筛选，得到最终推荐结果，包括：

去除物品候选集中用户已经点击或浏览过的物品；

根据预测结果，使用桶排序算法在线性时间内对物品进行排序，得到物品顺序；

按照物品顺序将多个相邻的同一类别的物品分散，得到最终物品顺序；

按照最终物品顺序在浏览页面上展示物品，得到最终推荐结果。

为达上述目的，本发明第二方面实施例提出了一种基于子空间投影神经网络的点击率预估装置，包括信息采集模块、特征处理模块、概率预测模块、个性化推荐模块，其中，

信息采集模块，用于采集用户数据；

特征处理模块，用于对用户数据进行特征处理，得到用户特征，其中，特征处理包括归一化处理、离散化处理、未知值处理；

概率预测模块，用于将用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，深度神经网络模型由logloss损失函数进行训练生成；

个性化推荐模块，用于根据预测结果对物品候选集进行筛选，得到最终推荐结果。

可选地，在本申请的一个实施例中，根据预测结果对物品候选集进行筛选，得到最终推荐结果，包括：

去除物品候选集中用户已经点击或浏览过的物品；

根据预测结果，使用桶排序算法在线性时间内对物品进行排序，得到物品顺序；

按照物品顺序将多个相邻的同一类别的物品分散，得到最终物品顺序；

按照最终物品顺序在浏览页面上展示物品，得到最终推荐结果。

为达上述目的，本发明第三方面实施例提出了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时，实现上述基于子空间投影神经网络的点击率预估方法。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本申请实施例一所提供的一种基于子空间投影神经网络的点击率预估方法的流程示意图；

图2为本申请实施例的总体方案架构图；

图3为本申请实施例的基于子空间投影的深度神经网络结构图；

图4为本申请实施例的子空间投影示例图；

图5为本申请实施例提供的一种基于子空间投影神经网络的点击率预估装置的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的基于子空间投影神经网络的点击率预估方法和装置。

图1为本申请实施例一所提供的一种基于子空间投影神经网络的点击率预估方法的流程示意图。

如图1所示，该基于子空间投影神经网络的点击率预估方法包括以下步骤：

步骤101，采集用户数据；

步骤102，对用户数据进行特征处理，得到用户特征，其中，特征处理包括归一化处理、离散化处理、未知值处理；

步骤103，将用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，深度神经网络模型由logloss损失函数进行训练生成；

步骤104，根据预测结果对物品候选集进行筛选，得到最终推荐结果。

本申请实施例的基于子空间投影神经网络的点击率预估方法，如图2所示，首先通过信息采集部分获取各类特征，并通过特征处理部分对原始特征进行处理以适配神经网络的输入，再通过概率预测部分对输入的特征进行点击率预估，最后通过个性化推荐部分对结果进行进一步优化，为用户提供个性化精确推荐。

可选地，在本申请的一个实施例中，信息采集部分是推荐领域中点击率预估最基础的阶段，是保证推荐效果的重要组成部分。点击率预估依赖用户物品的各种特征，这些特征对于建模用户点击某个物品的概率不可或缺。不同于普通推荐系统的简单特征采集，本方案在简单特征的基础上，给用户标注兴趣标签、用户画像等信息，同时给物品进行不同层级类别的分类，为用户和物品捕捉尽可能多的特征。

信息采集部分主要包括两方面：痕迹数据、特征数据。

痕迹数据主要指用户在当前平台浏览信息时留下的历史行为记录，这些数据在用户浏览各种物品时产生，包括用户的浏览记录、评论留言、时间戳、浏览时长等。这些历史行为痕迹数据记录了用户过去一段时间内的各种信息，同时隐含了用户的短期和长期历史兴趣，对于向用户提供精确的推荐结果具有重要意义。

特征数据不仅包括用户的统计信息(性别、地理位置、年龄、注册时间等)，也包括物品的统计信息(价格、日点击量、用户平均浏览时长、上线时间等)。这些信息来源于用户自己填写或者物品提供者填写的信息，对于点击率预估任务非常关键。同时为了更好捕捉用户群体性特征，会对用户进行聚类并打上相关的标签作为用户画像，同样会给物品打上多级标签，这些特征可以提高点击率预估的准确性。

特征处理部分主要是为了处理信息采集部分中复杂多样的特征，便于神经网络模型输入和计算。特征处理部分主要包含三个部分：归一化处理模块、离散化处理模块、缺失值处理模块。归一化处理模块处理连续特征中的异常值，部分特征如用户浏览时长的最大值和最小值间存在巨大差距，不进行有效处理会影响模型的预测效果。离散化模块主要处理稀疏的类别型特征，这类特征不能直接输入至深度神经网络中进行计算，需要进行离散化并转换成相应的ID。缺失值处理模块处理上游信息采集部分中可能缺失的特征，并为缺失值赋予特殊ID以便与普通ID进行区分。

可选地，在本申请的一个实施例中，概率预测部分由基于子空间投影的深度神经网络组成，将经过特征处理部分的特征输入模型中，并利用自定义算子和TensorRT等技术加快推理速度，完成用户对某个物品点击概率的计算。基于子空间投影的深度神经网络模型结构如图3所示，主要由三部分组成：嵌入层、子空间投影层和深度层，logloss损失函数表示为：

其中，N表示样本数，y_i表示真实label，

表示模型预测结果。

可选地，在本申请的一个实施例中，将用户特征输入嵌入层进行特征嵌入，包括：

在深度神经网络模型中，模型无法直接对稀疏特征进行处理，需要将稀疏特征转换为稠密向量，稀疏特征转换成稠密向量的公式如下所示：

e_i＝W_ix_i

其中，W_i表示特征域权重矩阵，x_i表示特征域的one-hot向量；；

对于数值特征，为每个域赋予一个特征向量比直接使用数值特征能获得更好的性能表现，所以在概率预测部分，同样将特征转换为稠密向量。数值特征转换公式如下所示：

e_j＝V_jx_j

其中，V_j表示数值特征域对应的特征向量，x_j表示特征域的具体数值。

最后通过将不同域的稠密特征向量进行拼接，得到嵌入层输出，即所有特征拼接向量。

E＝[e₁,e₂,…,e_f]

其中，E表示拼接后的向量，e表示各个域的特征向量，下标表示第几个域，例如e₂表示第二个域的特征向量。

可选地，在本申请的一个实施例中，用户和物品特征中包含丰富的信息，该模型使用子空间投影层对特征进行低阶和高阶交互。

对于第k层来说，定义第k-1层的输出为x，

其中n_k-1表示当前子空间投影层的前一层的子空间投影个数，c_k-1表示当前子空间投影层的前一层的子空间投影向量的维度。首先将x展开铺平，此时x∈R^d，其中d＝n_k-1×c_k-1。

对于每一层子空间投影层，本方案希望将x投影到子空间S中。其中S的基向量为权重矩阵W∈R^d×c的列向量，其中c表示子空间的投影维度，并且d＞＞c。一种简捷的方法是根据数学公式直接计算x在S上的投影，具体计算公式如下所示：

y＝W(W^TW)^-1W^Tx

其中，y∈R^d表示x在子空间S上的投影，W(W^TW)^-1W^T表示正交投影矩阵，用符号P表示。

上述计算方法存在两个问题：一是计算耗时计算消耗大，二是投影后投影向量的维度依旧为d，维度并没有变小，不利于子空间投影层的不断堆叠，会导致计算成本大幅增加。

因此，本方案使用一种新的计算方法，首先将正交投影矩阵P进行如下的分解：

P＝P_dP_c

P_d＝W(W^TW)^-1/2

P_c＝(W^TW)^-1/2W^T

其中，P_c将投影向量映射回原始的d维空间中，P_d表示将x映射到c维的子空间中，

直接计算W^TW的根非常耗时，所以本方案采用如下的计算方法。

首先使Y₀＝A，Z₀＝I，对于k从0开始，进行如下的运算：

Y_k+1＝0.5*Y_k(3I-Z_kY_K)

Z_k+1＝0.5*(3I-Z_kY_K)Z_k

其中，k代表迭代轮数，最终Y_k会收敛至

Z_k会收敛至

A表示需要开方的初始矩阵，

在利用上述方法计算出W^TW的根后，使

t＝P_cx

因为P_d为y所处的R^d维空间和t所处R^c维空间之间的同构变换，所以可以使用t替代子空间向量y，并且P_d不会改变向量的长度和角度等性质。

为了增强特征的非线性特征，本方案在t上增加偏置并使用激活函数，具体计算如下：

u＝φ(t+b)

其中，φ表示激活函数，本方案中采用Relu激活函数，b表示偏置。

为了从不同角度进行用户特征间的交叉，本方案在每个子空间投影层中并行堆叠多个不同的子空间，对于第i个子空间，得到投影后的向量u_i，将所有不同的子空间投影向量进行拼接，得到这一层的最终输出U：

图4为一个高维向量向低维平面投影的示例。

可选地，在本申请的一个实施例中，为了捕捉更进一步的特征高阶交叉的有关信息，本方案在子空间投影层上继续堆叠了深度层，深度层采用多层全连接层方案，使用3层每层400个隐藏单元的全连接层，并在最后使用sigmoid激活函数输出一个0至1之间的概率值，表示用户点击当前此物品的概率。

可选地，在本申请的一个实施例中，在通过第三部分概率预测部分后，根据预测概率值对候选集进行一定的处理并最终为用户实现个性化精准推荐。其主要由四个模块组成，分别是去重模块、排序模块、打散模块和策略模块。

去重模块对候选集中的商品进行去重操作，去除用户已经点击或浏览过的物品；排序模块根据上一部分概率预测部分所得到的点击预测概率值，使用桶排序算法在线性时间内对物品进行排序，将用户最有可能点击的物品排在前面，为用户提供个性化精准排序；打散模块主要对排序模块的物品顺序进行优化，将同一页推荐中多个相邻的同一类别的物品分散，同时避免不同页衔接处可能产生的同一类别物品聚集的问题，为用户带来更好的浏览体验；策略模块主要提供人为修正推荐结果和利用人为定义的先验规则优化排序结果的功能，例如活动期间对某些物品赋予更多的权重并将其排在靠前的位置，去除不符合法律法规的物品，根据不同用户的特征人为设置某些规则提高特定物品的权重等。

为了实现上述实施例，本申请还提出一种基于子空间投影神经网络的点击率预估装置。

图5为本申请实施例提供的一种基于子空间投影神经网络的点击率预估装置的结构示意图。

如图5所示，该基于子空间投影神经网络的点击率预估装置包括信息采集模块、特征处理模块、概率预测模块、个性化推荐模块，其中，

信息采集模块，用于采集用户数据；

特征处理模块，用于对用户数据进行特征处理，得到用户特征，其中，特征处理包括归一化处理、离散化处理、未知值处理；

概率预测模块，用于将用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，深度神经网络模型由logloss损失函数进行训练生成；

个性化推荐模块，用于根据预测结果对物品候选集进行筛选，得到最终推荐结果。

可选地，在本申请的一个实施例中，根据预测结果对物品候选集进行筛选，得到最终推荐结果，包括：

去除物品候选集中用户已经点击或浏览过的物品；

根据预测结果，使用桶排序算法在线性时间内对物品进行排序，得到物品顺序；

按照物品顺序将多个相邻的同一类别的物品分散，得到最终物品顺序；

按照最终物品顺序在浏览页面上展示物品，得到最终推荐结果。

需要说明的是，前述对基于子空间投影神经网络的点击率预估方法实施例的解释说明也适用于该实施例的基于子空间投影神经网络的点击率预估装置，此处不再赘述。

为了实现上述实施例，本发明还提出了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时，实现上述施例所述的方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于子空间投影神经网络的点击率预估方法，其特征在于，包括以下步骤：

采集用户数据；

对所述用户数据进行特征处理，得到用户特征，其中，所述特征处理包括归一化处理、离散化处理、未知值处理；

将所述用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，所述深度神经网络模型由logloss损失函数进行训练生成；

根据所述预测结果对物品候选集进行筛选，得到最终推荐结果。

2.如权利要求1所述的方法，其特征在于，所述用户数据包括痕迹数据、特征数据，所述痕迹数据为用户在当前平台浏览信息时产生的历史行为记录，所述特征数据为用户填写的用户自身信息，所述对所述用户数据进行特征处理，包括：

对连续特征的异常值进行归一化；

对稀疏的类别型特征进行离散化并转换成相应的ID；

采集缺失的特征，并为缺失值赋予特定ID，其中，所述特定ID与普通ID不同。

3.如权利要求1所述的方法，其特征在于，所述深度神经网络模型包括嵌入层、子空间投影层、深度层，所述logloss损失函数表示为：

其中，N表示样本数，y_i表示真实标签，

表示模型预测结果。

4.如权利要求3所述的方法，其特征在于，将所述用户特征输入所述嵌入层进行特征嵌入，包括：

将所述用户特征中的稀疏特征、数值特征转换为稠密向量；

将不同域的稠密特征向量进行拼接，得到特征拼接向量作为所述嵌入层的输出；

其中，所述稀疏特征转换生成的稠密向量表示为：

e_i＝W_ix_i

其中，W_i表示特征域权重矩阵，x_i表示特征域的one-hot向量；

所述数值特征转换生成的稠密向量表示为：

e_j＝V_jx_j

其中，V_j表示数值特征域对应的特征向量，x_j表示特征域的具体数值；

所述特征拼接向量表示为：

E＝[e₁，e₂，…，e_f]

其中，E表示拼接后的向量，e表示各个域的特征向量，e_f表示第f个域的特征向量。

5.如权利要求4所述的方法，其特征在于，每个子空间投影层中并行堆叠多个不同的子空间，将所述特征拼接向量输入所述子空间投影层进行特征交互，包括：

将正交投影矩阵进行分解，得到分解向量；

对所述分解向量增加偏置并使用激活函数，得到投影后的向量；

将所有不同的子空间投影向量进行拼接，得到所述子空间投影层的输出，

其中，所述将正交投影矩阵进行分解，表示为：

P＝P_dP_c

P_d＝W(W^TW)^-1/2

P_c＝(W^TW)^-1/2W^T

其中，P_d表示将投影向量映射回原始的d维空间中，P_c表示将x映射到c维的子空间中，W(W^TW)^-1W^T表示正交投影矩阵，W表示子空间基向量权重矩阵，W^TW的根的计算方式为：

Y_k+1＝0.5*Y_k(3I-Z_kY_K)

Z_k+1＝0.5*(3I-Z_kY_K)Z_k

其中，k代表迭代轮数，I表示单位矩阵，Y_k表示上轮迭代产生的第一临时计算结果，Y_K表示本轮迭代产生的第一临时计算结果，Y₀＝A，A表示初始矩阵，Z_k表示上轮迭代产生的第二临时结果，Z_K表示本轮迭代产生的第二临时计算结果，Z₀＝I，

所述投影后的向量表示为：

t＝P_cx

其中，x表示嵌入层向量或上一层子空间投影层的结果向量；

所述投影后的向量表示为：

u＝φ(t+b)

其中，φ表示激活函数，b表示偏置；

所述子空间投影层的输出表示为：

其中，u_i表示第i个子空间的投影向量。

6.如权利要求5所述的方法，其特征在于，所述深度层包括多层全连接层，将所述子空间投影层的输出输入所述深度层中进行特征捕捉，包括：

将所述子空间投影层的输出输入全连接层，得到中间结果；

使用激活函数对所述中间结果进行处理，得到用户点击当前物品的概率。

7.如权利要求1所述的方法，其特征在于，所述根据所述预测结果对物品候选集进行筛选，得到最终推荐结果，包括：

去除所述物品候选集中用户已经点击或浏览过的物品；

根据所述预测结果，使用桶排序算法在线性时间内对物品进行排序，得到物品顺序；

按照所述物品顺序将多个相邻的同一类别的物品分散，得到最终物品顺序；

按照所述最终物品顺序在浏览页面上展示物品，得到最终推荐结果。

8.一种基于子空间投影神经网络的点击率预估装置，其特征在于，包括信息采集模块、特征处理模块、概率预测模块、个性化推荐模块，其中，

所述信息采集模块，用于采集用户数据；

所述特征处理模块，用于对所述用户数据进行特征处理，得到用户特征，其中，所述特征处理包括归一化处理、离散化处理、未知值处理；

所述概率预测模块，用于将所述用户特征输入训练好的深度神经网络模型中，输出用户点击物品概率的预测结果，其中，所述深度神经网络模型由logloss损失函数进行训练生成；

所述个性化推荐模块，用于根据所述预测结果对物品候选集进行筛选，得到最终推荐结果。

9.如权利要求8所述的装置，其特征在于，所述根据所述预测结果对物品候选集进行筛选，得到最终推荐结果，包括：

去除所述物品候选集中用户已经点击或浏览过的物品；

根据所述预测结果，使用桶排序算法在线性时间内对物品进行排序，得到物品顺序；

按照所述物品顺序将多个相邻的同一类别的物品分散，得到最终物品顺序；

按照所述最终物品顺序在浏览页面上展示物品，得到最终推荐结果。

10.一种计算机设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如权利要求1-7中任一所述的方法。

Images