CN110362774B - 点击率预估模型的建立方法及系统 - Google Patents

Abstract

本发明提供了一种点击率预估模型的建立方法及系统，包括：历史数据提取步骤：从历史点击数据中提取基础特征；特征向量构建步骤：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；模型建立步骤：建立基于对数变换层和多层全连接神经网络的点击率预估模型；模型优化步骤：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。本发明能够通过模型训练得到自动学习到有效的显式交叉特征，相比现有方法具有较好的可解释性，较少的模型参数和较高的模型预测性能。

Description

点击率预估模型的建立方法及系统

技术领域

本发明涉及网络技术领域，具体地，涉及点击率预估模型的建立方法及系统。

背景技术

随着互联网的快速发展，越来越多的用户通过互联网获取所需的信息。例如，通过搜索引擎搜索解决方案，通过电子商务网站购买所需用品，通过新闻媒体网站获取所需的资讯等。由于大数据时代下的信息过载，无论哪种应用，都需要根据用户的查询或用户的行为日志为其推荐所需的信息或投放广告。由于展示给用户的页面空间有限，通常后台服务器需要根据用户信息对候选信息进行点击率预估，并将预估点击率最高的若干项候选信息返回给对应用户。

公开号CN105678335B的专利公开了一种预估点击率的方法、装置及计算设备。其中预估点击率的方法包括如下步骤。获取推荐模型中多个特征项的参数。其中，多个特征项中每一个用于标识用户特征、页面特征和推荐信息特征中一个。推荐信息适于呈现在页面中。用户特征为用户对推荐信息的兴趣度排序值。在用户请求页面时，获取该用户对多个备选推荐信息的兴趣度排序值以及页面特征。根据所获取的兴趣度排序值对应的特征项和页面特征对应的特征项，利用推荐模型对每个备选的推荐信息的点击率进行预估。

传统的点击率预估模型通常基于人工分析并提取的特征进行建模，近年来也有多种基于深度神经网络的点击率预估模型被提出，以减轻对人工特征建模的依赖。然而，现有方法使用深度神经网络时只能对输入原始特征进行隐式的交互建模，而无法建立显式的交叉特征，其主要缺陷在于得到的模型往往参数量很大且难以解释。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种点击率预估模型的建立方法及系统。

根据本发明提供的一种点击率预估模型的建立方法，包括：

历史数据提取步骤：从历史点击数据中提取基础特征；

特征向量构建步骤：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立步骤：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化步骤：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。

优选地，所述历史数据提取步骤包括：

从历史点击数据中提取基础特征，对基础特征进行预处理，所述预处理包括提取用户和展示信息的基础特征以及记录用户是否点击的信息，对基础特征中的缺失值进行填充，并对数值型特征做归一化处理。

优选地，所述特征向量构建步骤包括：

对基础特征中的每项类别型特征分别构建一个预定义维度的第一特征向量表示，第一特征向量的值随机初始化；

对基础特征中的每项数值型特征分别构建一个同一维度的第二特征向量表示，第二特征向量的值随机初始化后乘以归一化的特征数值作为最终向量值。

优选地，所述模型建立步骤包括：

对输入的所有特征向量进行对数变换，得到变换后的特征向量；

对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和；

对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，所述的指数变换后的多种加权组合向量值视为基础特征的多种交叉特征向量；

通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值。

优选地，对输入的所有特征向量进行对数变换，得到变换后的特征向量，具体包括：

对输入的特征向量通过包括取绝对值的方式保证非负性，并过滤极小值，以防止造成对数变换时的数值溢出；

对数变换的底数的取值包括自然底数。

优选地，对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和，具体包括：

进行加权求和时，每个特征向量内部共享权值，不同的特征向量之间依据权值矩阵取用不同的权值进行按位加和；

权值矩阵的行数为特征向量的个数，矩阵的列数为模型超参数，权值矩阵随机初始化并由后续模型训练得到最终值。

优选地，对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，具体包括：

指数变换的底数与对数变换时的底数保持一致。

优选地，通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值，具体包括：

对得到的多种交叉特征向量进行串联以作为神经网络输入；

通过单隐层或多隐层的神经网络对输入进行建模，以得到点击率的预估值。

优选地，所述模型优化步骤包括：

对所有待训练的模型参数，包括特征向量、权值矩阵和神经网络参数进行随机初始化；

对对数变换和指数变换后的特征向量值均进行批归一化处理；

使用基于梯度下降法的优化器对模型参数进行优化。

根据本发明提供的一种点击率预估模型的建立系统，包括：

历史数据提取模块：从历史点击数据中提取基础特征；

特征向量构建模块：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立模块：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化模块：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。

与现有技术相比，本发明具有如下的有益效果：

本发明能够通过模型训练得到自动学习到有效的显式交叉特征，相比现有方法具有较好的可解释性，较少的模型参数和较高的模型预测性能。

附图说明

通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：

图1为本发明的模型架构图。

具体实施方式

下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明，但不以任何形式限制本发明。应当指出的是，对本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变化和改进。这些都属于本发明的保护范围。

本发明提供的一种点击率预估模型的建立方法，包括：

历史数据提取步骤：从历史点击数据中提取基础特征；

特征向量构建步骤：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立步骤：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化步骤：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。

所述历史数据提取步骤包括：

从历史点击数据中提取基础特征，对基础特征进行预处理，所述预处理包括提取用户和展示信息的基础特征以及记录用户是否点击的信息，对基础特征中的缺失值进行填充，并对数值型特征做归一化处理。

所述特征向量构建步骤包括：

对基础特征中的每项类别型特征分别构建一个预定义维度的第一特征向量表示，第一特征向量的值随机初始化；

对基础特征中的每项数值型特征分别构建一个同一维度的第二特征向量表示，第二特征向量的值随机初始化后乘以归一化的特征数值作为最终向量值。

所述模型建立步骤包括：

对输入的所有特征向量进行对数变换，得到变换后的特征向量；

对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和；

对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，所述的指数变换后的多种加权组合向量值视为基础特征的多种交叉特征向量；

通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值。

对输入的所有特征向量进行对数变换，得到变换后的特征向量，具体包括：

对输入的特征向量通过包括取绝对值的方式保证非负性，并过滤极小值，以防止造成对数变换时的数值溢出；

对数变换的底数的取值包括自然底数。

对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和，具体包括：

进行加权求和时，每个特征向量内部共享权值，不同的特征向量之间依据权值矩阵取用不同的权值进行按位加和；

权值矩阵的行数为特征向量的个数，矩阵的列数为模型超参数，权值矩阵随机初始化并由后续模型训练得到最终值。

对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，具体包括：

指数变换的底数与对数变换时的底数保持一致。

通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值，具体包括：

对得到的多种交叉特征向量进行串联以作为神经网络输入；

通过单隐层或多隐层的神经网络对输入进行建模，以得到点击率的预估值。

所述模型优化步骤包括：

对所有待训练的模型参数，包括特征向量、权值矩阵和神经网络参数进行随机初始化；

对对数变换和指数变换后的特征向量值均进行批归一化处理；

使用基于梯度下降法的优化器对模型参数进行优化。

在上述一种点击率预估模型的建立方法的基础上，本发明还提供一种点击率预估模型的建立系统，包括：

历史数据提取模块：从历史点击数据中提取基础特征；

特征向量构建模块：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立模块：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化模块：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。

实施例：

本实施例提出了一种点击率预估模型的建立方法和信息提供方法，具体包括以下步骤：

数据收集及预处理步骤：

从用户历史点击数据中可提取各类对点击率预估可能有益的基础特征，包括但不限于用户的基本信息(如职业、年龄、性别、爱好等)，展示信息的基本信息(如信息的提供者，信息的文本，信息所属类别等)，其他记录的基本信息(如展示的时间、日期、是否节假日、展示时长等)，并对数值型特征做归一化处理，使其归一化后数值集中在0到1之间。

特征向量建模步骤：

经过预处理的特征分为类别型特征和数值型特征。其中，类别型特征通常表示为独热(one-hot)向量形式，此处设其为x_i，则该类别型特征对应的特征向量e_i为：

e_i＝Vx_i

其中，V表示存储所有特征向量的矩阵。而对于数值型向量x_j，其对应的特征向量e_j为：

e_j＝v_jx_j

此处，v_j为该数值型特征对应的原始向量，x_j为该特征的原始值，即其特征向量表示为其原始向量乘以其数值。

经过特征向量建模，原始的类别型特征和数值型特征均被映射到同一维度的特征向量空间中。

点击率预估模型建模步骤：

点击率预估模型结构是本发明的核心内容。该模型结构主要分为两个部分：对数变换层和神经网络层，如图1所示。对于上述得到的所有特征的特征向量集合{e₁，e₂，...，e_m}，对数变换层首先对特征向量做对数特征变换，然后对变换后的向量做多组加权和，最终做指数变换并输出向量；对数变换层的输出向量通过串联得到一个联结的向量，输入到单层或多层神经网络中，最终输出预测值。

对数变换层的形式化表达为：

其中，y_j表示对数变换层输出的第j个向量，w_ij从对数变换层的权值矩阵中取出。需要注意的是，上式以自然底数为例，但实际应用中可设置为其他合理底数值。通过简单的推导，可得出上式等效于：

从上式可以看出，对数变换层输出的y_j可视为特征向量的一种乘积表示，而每一项乘积项的指数由权值矩阵所确定。由于权值矩阵可由训练数据优化得到，因此该模型得以自适应地学习到有效的交叉特征。

神经网络层首先将上述对数变换层输出的向量进行串联(concatenation)，得到一个联结的向量z₀：

z₀＝[y₁，y₂，...，y_N]

上式中[]表示串联操作，N为对数变换层输出的向量个数。

之后将z₀通过单层或多层全连接神经网络：

z₁＝σ(W₁z₀+b₁)

…

z_L＝σ(W_Lz_L-1+b_L)

上式中W和b分别表示网络权值和偏移量，L表示网络的隐层数量，σ为网络层的激活函数，可选用Relu或其他合理激活函数。神经网络层可最终得到点击率预估值

其中sigmoid为sigmoid激活函数，用于将其预测值归一化到0到1之间

模型训练步骤：

模型可使用交叉熵作为目标函数进行训练，训练前对特征向量、对数变换层权值矩阵和神经网络参数使用正态分布进行随机初始化。

训练过程中，对所述的对数变换和指数变换后的特征向量值均进行批归一化(Batch Normalization)处理。使用基于梯度下降法的优化器如Adam对模型参数进行优化至收敛。

展示步骤：

根据用户信息，初步筛选可能用户相关的候选展示信息。调用上述的点击率预估模型，根据用户信息及候选展示信息，预估所述用户对每项候选展示信息的点击率。依据预估的用户点击率对候选展示信息进行排序，将设定排位之前(top-k个)的候选展示信息提供给所述用户。

本领域技术人员知道，除了以纯计算机可读程序代码方式实现本发明提供的系统及其各个装置、模块、单元以外，完全可以通过将方法步骤进行逻辑编程来使得本发明提供的系统及其各个装置、模块、单元以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同功能。所以，本发明提供的系统及其各项装置、模块、单元可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置、模块、单元也可以视为硬件部件内的结构；也可以将用于实现各种功能的装置、模块、单元视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

在本申请的描述中，需要理解的是，术语“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。

以上对本发明的具体实施例进行了描述。需要理解的是，本发明并不局限于上述特定实施方式，本领域技术人员可以在权利要求的范围内做出各种变化或修改，这并不影响本发明的实质内容。在不冲突的情况下，本申请的实施例和实施例中的特征可以任意相互组合。

Claims (6)

1.一种点击率预估模型的建立方法，其特征在于，包括：

历史数据提取步骤：从历史点击数据中提取基础特征；

特征向量构建步骤：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立步骤：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化步骤：通过训练数据对点击率预估模型进行优化，得到最优的模型参数；

所述特征向量构建步骤包括：

对基础特征中的每项类别型特征分别构建一个预定义维度的第一特征向量表示，第一特征向量的值随机初始化；

对基础特征中的每项数值型特征分别构建一个同一维度的第二特征向量表示，第二特征向量的值随机初始化后乘以归一化的特征数值作为最终向量值；

所述模型建立步骤包括：

对输入的所有特征向量进行对数变换，得到变换后的特征向量；

对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和；

对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，所述的指数变换后的多种加权组合向量值视为基础特征的多种交叉特征向量；

通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值；

对输入的所有特征向量进行对数变换，得到变换后的特征向量，具体包括：

对输入的特征向量通过包括取绝对值的方式保证非负性，并过滤极小值，以防止造成对数变换时的数值溢出；

对数变换的底数的取值包括自然底数；

对于对数变换后的特征向量通过权值矩阵进行多组的向量加权求和，具体包括：

进行加权求和时，每个特征向量内部共享权值，不同的特征向量之间依据权值矩阵取用不同的权值进行按位加和；

权值矩阵的行数为特征向量的个数，矩阵的列数为模型超参数，权值矩阵随机初始化并由后续模型训练得到最终值。

2.根据权利要求1所述的点击率预估模型的建立方法，其特征在于，所述历史数据提取步骤包括：

从历史点击数据中提取基础特征，对基础特征进行预处理，所述预处理包括提取用户和展示信息的基础特征以及记录用户是否点击的信息，对基础特征中的缺失值进行填充，并对数值型特征做归一化处理。

3.根据权利要求1所述的点击率预估模型的建立方法，其特征在于，对得到的多种加权组合向量值进行指数变换，得到指数变换后的多种加权组合向量值，具体包括：

指数变换的底数与对数变换时的底数保持一致。

4.根据权利要求1所述的点击率预估模型的建立方法，其特征在于，通过单层或多层全连接的神经网络对上述得到的多种交叉特征向量进行特征交互建模，并最终输出得到点击率的预估值，具体包括：

对得到的多种交叉特征向量进行串联以作为神经网络输入；

通过单隐层或多隐层的神经网络对输入进行建模，以得到点击率的预估值。

5.根据权利要求3所述的点击率预估模型的建立方法，其特征在于，所述模型优化步骤包括：

对所有待训练的模型参数，包括特征向量、权值矩阵和神经网络参数进行随机初始化；

对对数变换和指数变换后的特征向量值均进行批归一化处理；

使用基于梯度下降法的优化器对模型参数进行优化。

6.一种点击率预估模型的建立方法实现的系统，其特征在于，包括：执行权利要求1所述的方法；

历史数据提取模块：从历史点击数据中提取基础特征；

特征向量构建模块：将基础特征中的类别型特征和数值型特征分别构建同一维度的特征向量表示，作为模型训练输入；

模型建立模块：建立基于对数变换层和多层全连接神经网络的点击率预估模型；

模型优化模块：通过训练数据对点击率预估模型进行优化，得到最优的模型参数。

Images