CN108109008A - 用于预估广告的点击率的方法、装置、设备和存储介质 - Google Patents

Abstract

本发明公开了一种用于预估广告的点击率的方法、装置、设备和存储介质，其中的方法主要包括：获取待推送广告的目标用户的用户特征以及所述目标用户当前接入互联网的上下文特征；将所述用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；根据所述因子分解机模型输出的信息，获得所述目标用户针对待预估广告执行点击操作的点击率。

Description

用于预估广告的点击率的方法、装置、设备和存储介质

技术领域

本发明涉及互联网技术，尤其是一种用于预估广告的点击率的方法、装置、电子设备以及计算机可读存储介质。

背景技术

目前，互联网已经成为很多用户工作和娱乐生活中的一个重要组成部分。用户可以利用其智能移动电话、平板电脑以及笔记型计算机等移动智能终端随时随地的访问互联网。

在一些互联网应用(如APP或者客户端等)中，往往需要向用户推送互联网广告。如何向用户推送其感兴趣的广告，以提高推送广告的CTR(Click ThroughRate，点击率)，是一个值得关注的技术问题。

发明内容

本发明实施例所要解决的一个技术问题是：提供一种用于预估广告的点击率的技术方案。

根据本发明实施例的一个方面，提供的一种用于预估广告的点击率的方法，该方法主要包括：获取待推送广告的目标用户的用户特征以及所述目标用户当前接入互联网的上下文特征；将所述用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；根据所述因子分解机模型输出的信息，获得所述目标用户针对待预估广告执行点击操作的点击率。

可选地，在基于本发明上述方法的另一个实施例中，所述目标用户包括：冷启动用户；且在目标用户为冷启动用户的情况下，所述目标用户的用户特征包括：与所述冷启动用户属于同一类别的至少一个非冷启动用户的用户特征。

可选地，在基于本发明上述方法的另一个实施例中，所述方法还包括：离线获取预定时间范围内的多个非冷启动用户的样本数据；根据预设聚类数量以及所述样本数据中的用户接入互联网的上下文特征，对所述非冷启动用户的样本数据进行聚类处理，并确定每一类别的中心点上下文特征；在所述目标用户处于在线状态下，计算所述目标用户的上下文特征与各类别的中心点上下文特征的相似度，以确定所述目标用户所属的类别。

可选地，在基于本发明上述方法的另一个实施例中，所述方法具体包括：获取与待推送广告的目标用户属于同一类别的多个非冷启动用户的用户特征以及所述多个非冷启动用户接入互联网的上下文特征；针对每一个非冷启动用户，将非冷启动用户的用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；经由所述因子分解机模型输出的各个非冷启动用户分别针对待预估广告执行点击操作的点击率；根据各非冷启动用户的权值对所述因子分解机模型输出的各点击率进行加权平均计算，并将加权平均计算结果作为所述目标用户针对待预估广告执行点击操作的点击率。

可选地，在基于本发明上述方法的另一个实施例中，所述接入互联网的上下文特征包括：广告的投放位置、接入互联网的地域位置信息、接入互联网的用户设备类型信息、用户设备接入互联网所采用的网络信息、用户设备接入互联网的时间所属的时间段信息以及用户设备接入互联网时的天气信息中的至少两个。

可选地，在基于本发明上述方法的另一个实施例中，所述用户特征包括：年龄信息、收入信息、性别信息、教育程度、在线时长、长期偏好信息以及短期偏好信息中的至少两个。

可选地，在基于本发明上述方法的另一个实施例中，所述长期偏好信息包括：长期偏好类别；或者，所述长期偏好信息包括：长期偏好类别以及偏好程度；所述短期偏好信息包括：短期偏好类别；或者，所述短期偏好信息包括：短期偏好类别以及偏好程度。

可选地，在基于本发明上述方法的另一个实施例中，所述用户特征包括：离散型用户特征；且所述方法还包括：利用XGBoost将连续型用户特征转换为离散型用户特征。

可选地，在基于本发明上述方法的另一个实施例中，所述广告特征包括：广告所属行业类别、广告所属广告主、广告所属行业类别历史曝光量和点击率、广告所属广告主历史曝光量和点击率、广告的展现方式、广告所对应的用户群体中的至少两个。

可选地，在基于本发明上述方法的另一个实施例中，所述方法还包括：对待训练的因子分解机模型进行离线和/或在线训练；所述离线训练过程包括：获取至少一离线样本数据；将离线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型；利用损失函数定义离线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛；所述在线训练过程包括：通过实时流数据获取至少一在线样本数据；将在线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型；利用损失函数定义在线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛。

根据本发明实施例的另一个方面，提供的一种用于预估广告的点击率的装置，该装置主要包括：获取模块，用于获取待推送广告的目标用户的用户特征以及所述目标用户当前接入互联网的上下文特征；输入模块，用于将所述用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；确定模块，用于根据所述因子分解机模型输出的信息，获得所述目标用户针对待预估广告执行点击操作的点击率。

可选地，在基于本发明上述装置的另一个实施例中，所述装置还包括：聚类模块，用于离线获取预定时间范围内的多个非冷启动用户的样本数据，并根据预设聚类数量以及所述样本数据中的用户接入互联网的上下文特征，对所述非冷启动用户的样本数据进行聚类处理，并确定每一类别的中心点上下文特征；确定类别模块，用于在所述目标用户处于在线状态下，计算所述目标用户的上下文特征与各类别的中心点上下文特征的相似度，以确定所述目标用户所属的类别。

可选地，在基于本发明上述装置的另一个实施例中，所述用户特征包括：离散型用户特征；且所述装置还包括：特征转换模块，用于利用XGBoost将连续型用户特征转换为离散型用户特征。

可选地，在基于本发明上述装置的另一个实施例中，所述装置还包括：离线训练模块和/或在线训练模块；其中的离线训练模块用于：获取至少一离线样本数据，将离线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义离线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛；所述在线训练模块用于：通过实时流数据获取至少一在线样本数据，将在线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义在线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛；

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

构成说明书的一部分的附图描述了本发明的实施例，并且连同描述一起用于解释本发明的原理。

参照附图，根据下面的详细描述，可以更加清楚地理解本发明，其中：

图1为本发明用于预估广告的点击率的方法的一个实施例的流程图。

图2为本发明用于预估广告的点击率的方法的一应用实施例的流程图。

图3为本发明用于预估广告的点击率的装置一个实施例的结构示意图。

图4为本发明电子设备的一个实施例的结构示意图。

具体实施方式

现在将参照附图来详细描述本发明的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本发明实施例可以应用于终端设备、计算机系统以及服务器等电子设备，其可与众多其它通用或专用计算系统环境或者配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括，但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统以及包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如，程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，在分布式云计算环境中，任务通常是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

下面结合图1至图4对本申请提供的预估广告的点击率的技术方案进行说明。

图1为本申请提供的用于预估广告的点击率的方法的一个实施方式的流程图。如图1所示，该实施方式中的方法主要包括：步骤S100、步骤S110以及步骤S120。

下面对图1中的各步骤分别进行说明。

S100、获取待推送广告的目标用户的用户特征以及目标用户当前接入互联网的上下文特征。

在一个可选示例中，本申请中的待推送广告的目标用户也可以称为待预估的目标用户，具体而言，在需要预估一个用户点击一个或者多个广告的点击率的应用场景中，该用户即为待预估的目标用户。

在一个可选示例中，本申请中的目标用户可以为热启动用户。热启动用户通常是指能够根据待推送广告的目标用户的注册、登录、历史点击等历史操作和/或通过数据挖掘等方式，而获得该目标用户所具有的用户特征的用户；例如，在一用户下载安装了一款APP，并在该APP中执行了注册操作后，以注册用户的身份多次登录该APP，并使用该APP，从而该APP的网络侧可以基于该用户的注册操作、登录操作以及使用操作等历史操作或者数据挖掘方式等，而获得该用户的用户特征，该用户可以被认为是热启动用户。

在一个可选示例中，本申请中的目标用户也可以为冷启动用户。冷启动用户通常是指当前还不能够获知用户所具有的用户特征的用户；例如，对于之前未曾下载安装并使用过一款APP的一新用户而言，该用户在以非注册用户的身份打开该APP的情况下，该APP的网络侧由于当前无法获知该用户的注册信息、登录信息以及历史使用信息等，也无法执行数据挖掘操作，而无法获知该用户所具有的用户特征，该用户可以被认为是冷启动用户。

在一个可选示例中，在待推送广告的目标用户为热启动用户的情况下，本申请可以根据当前存储的该用户的历史信息而获得该目标用户的用户特征。在待推送广告的目标用户为冷启动用户的情况下，本申请可以将与该冷启动用户属于同一类别的非冷启动用户的样本数据中的用户特征看作是该冷启动用户的用户特征。另外，在将与该冷启动用户属于同一类别的非冷启动用户的用户特征看作是该冷启动用户的用户特征的情况下，还可以将非冷启动用户接入互联网的上下文特征看作是该目标用户当前接入互联网的上下文特征，也就是说，本申请可以将该非冷启动用户看作是待推送广告的目标用户。

在待推送广告的目标用户为冷启动用户的情况下，本申请获取目标用户的用户特征的一个具体例子为：离线获取预定时间范围内的多个非冷启动用户的样本数据，并根据预设聚类数量(如8或9或10等)以及样本数据中的用户接入互联网的上下文特征，对多个非冷启动用户的样本数据进行聚类处理，在聚类处理后，本申请可以确定每一个类别的中心点上下文特征(如将一个类别中的所有用户的上下文特征的加权平均值作为该类别的中心点上下文特征)；之后，在目标用户处于在线状态的情况下，本申请可以在线计算目标用户当前接入互联网的上下文特征与各类别的中心点上下文特征之间的相似度，将相似度最高的类别中的多个非冷启动用户看作是该目标用户的相似用户，从而被看作是目标用户的相似用户的非冷启动用户的用户特征可以被认为是该目标用户的用户特征。本申请可以采用多种方式进行聚类处理以及计算目标用户与各类别的中心点的相似度处理，在此不再详细说明。计算目标用户当前接入互联网的上下文特征与一类别的中心点上下文特征的相似度的一个例子可以为：本申请可以计算目标用户当前接入互联网的上下文特征与该类别中心点上下文特征之间的距离(如两者之间的欧氏距离)。

在一个可选示例中，在待推送广告的目标用户为冷启动用户的情况下，本申请可以借助与该冷启动用户属于同一类别的多个非冷启动用户，来近似预估该冷启动用户针对待预估广告的点击率，具体的实现过程可以参见下述针对图2的描述。

在一个可选示例中，本申请中的用户特征主要用于表征用户自身所具有的特点，例如，用户特征可以包括：年龄信息、收入信息、性别信息、教育程度、在线时长、长期偏好信息以及短期偏好信息中的至少两个。用户特征中的长期偏好信息可以包括：长期偏好类别；也可以包括：长期偏好类别以及偏好程度。长期偏好信息通常是基于用户的长期历史数据(如长期历史行为记录等)统计出的用户对广告行业的偏好信息，例如，长期偏好信息可以是根据最近几个月或者最近几年的历史数据而统计出的偏好信息。用户特征中的短期偏好信息可以包括：短期偏好类别；也可以包括：短期偏好类别以及偏好程度。短期偏好信息通常是基于用户的短期历史数据(如短期历史行为记录)统计出的用户对广告行业的偏好信息，例如，短期偏好信息可以是根据最近几分钟或几小时或最近几天的历史数据而统计出的偏好信息。长期偏好类别或者短期偏好类别可以具体为广告行业分类中的体育类或者化妆品类或者金融类或者游戏类等离散型数值。偏好程度可以具体体现为用户在各种行业分类上的点击次数或者点击率等连续型数值，本申请应将该连续性数值转换为离散型数值，如一般偏好程度、中度偏好程度或者中度偏好程度等。本申请不限制长期偏好类别、短期偏好类别以及偏好程度的具体表现形式。

在一个可选示例中，本申请中的用户特征通常为离散型用户特征，而不是非离散型用户特征。离散型用户特征通常是指具有固定取值的用户特征，而非离散型用户特征也可以称为连续型用户特征，连续型用户特征通常是指具有不固定取值的用户特征。一个具体的例子，如果使用7500等这样的具体数字来表示收入信息的具体取值的话，则该收入信息为非离散型用户特征。另一个具体例子，由于性别具有男女这两个固定的取值，因此，性别为离散型用户特征。再一个具体例子，在设定收入信息可以为低收入档次、中等收入档次以及高收入档次这三个固定取值的情况下，该收入信息为离散型用户特征。

在一个可选示例中，本申请可以采用多种方式将非离散型用户特征转换为离散型用户特征，例如，本申请可以利用XGBoost将连续型用户特征转换为离散型用户特征。一个具体的例子，本申请可以利用XGBoost对用户的样本数据中所有连续型特征和标签数据进行学习，最后对树的叶子节点进行特征编码，该特征编码被作为连续型特征的离散化结果。本申请不限制将非离散型用户特征转换为离散型用户特征的具体实现方式。

在一个可选示例中，本申请中的接入互联网的上下文特征可以用于表征与用户接入互联网相关的信息，例如，接入互联网的上下文特征可以包括：接入互联网的地域位置信息、广告投放的位置、接入互联网的用户设备类型信息、用户设备接入互联网所采用的网络信息、用户设备接入互联网的时间所属的时间段信息以及用户设备接入互联网时的天气信息中的至少一个。上述接入互联网的地域位置信息可以具体为省、市、乡镇以及区县等。上述接入互联网的用户设备类型信息可以具体为用户设备内置的设备型号等信息。上述用户设备接入互联网所采用的网络信息可以具体为2G、3G、5G或者WIFI等。上述用户设备接入互联网的时间所属的时间段信息可以具体为时间点或者早上、上午、中午、下午、晚上或者凌晨等。上述用户设备接入互联网时的天气信息可以具体为用户设备所在地的室外温度、雾霾程度、风力以及是否雨雪等。本申请不限制接入互联网的上下文特征具体包括的内容以及具体包括的各内容的具体表现形式。

S110、将用户特征、上下文特征和待预估广告的广告特征，提供给因子分解机(Factorization Machine，FM)模型。

在一个可选示例中，本申请中的每一个待预估广告均预先设置有相应的广告特征。广告特征主要用于表征广告自身所具有的特点，例如，本申请中的广告特征通常包括：广告所属行业类别、广告所属广告主、该行业分类和广告主下的曝光次数和点击率、广告的展现方式以及广告所对应的用户群体等中的至少两个。

广告所属类别可以包括：户外产品类别、游戏类别、化妆品类别、休闲食品类别、婴儿食品类别以及玩具类别等等。本申请不限制广告所属类别具体包括的内容。另外，一个广告可以属于一个或者多个类别，例如，一个广告可以同时属于休闲食品类别和婴儿食品类别。

广告所对应的用户群体可以包括：低收入用户群体、中等收入用户群体、高收入用户群体、婴儿、幼儿、青少年、青年、中年、老年、女性以及男性等。本申请不限制广告所对应的用户群体所具体包括的内容。另外，一个广告可以对应一种用户群体，也可以同时对应多种用户群体，例如，一个广告可以同时对应青少年、青年、中年、老年、女性、男性以及低收入用户群体等。

在一个可选示例中，本申请中的FM模型通常为预先训练好的模型。本申请可以采用离线训练方式和/或在线训练方式对待训练的FM模型进行训练。一个具体的例子，本申请可以先利用离线样本数据集合中的离线样本数据，对待训练的FM模型进行离线训练，在成功离线训练后，再利用在线样本数据，对成功离线训练的FM模型进行实时在线训练。另外，本申请可以定期的利用离线样本数据对实时在线训练的FM模型中的参数进行校正，从而避免一味地使用在线学习会给FM模型引入严重偏差的现象，例如，由于某些点击可能是非理性的点击，这样的在线样本数据会给FM模型引入一定的偏差。

在一个可选示例中，本申请对FM模型进行训练的一个具体过程可以为：首先，定期的从离线样本数据集合中获取一部分样本数据并提供给FM模型，该FM模型会针对输入的样本数据输出预估的点击率，基于损失函数针对相应的样本数据中的点击操作标注信息(如0表示没有执行点击操作的标注信息，1表示执行了点击操作的标注信息)与FM输出的其预估的点击率之间的误差，利用FTRM(Follow The Regularized Leader，跟随正则化领导)优化算法对FM模型中的参数进行调整。之后，通过实时流数据实时在线获取用户的点击信息，并将用户特征、上下文特征和广告特征进行拼接，生成一条或多条在线样本数据提供给FM模型，基于损失函数针对相应的在线样本数据中的点击信息与FM输出的其预估的点击率之间的误差，利用FTRM优化算法对FM模型中的参数进行调整。在FM模型满足预定收敛条件的情况下，完成FM模型的训练。

S120、根据因子分解机模型输出的信息，获得目标用户针对待预估广告执行点击操作的点击率。

在一个可选示例中，FM模型针对输入的用户特征、上下文特征和待预估广告的广告特征输出其预估的CTR，以表示该用户点击该待预估广告的概率。FM模型输出的CTR通常为0-1之间的数值。

在本申请的一应用场景中，本申请可以利用上述图1所示的方法，针对同一待推送广告的目标用户，对多个不同的待预估广告，进行点击率的预估，从而本申请可以获得每一个待预估广告各自对应的点击率，本申请可以从获得的多个点击率中选取最高点击率，并将选取的最高点击率所对应的待预估广告作为推送广告，向该目标用户推送。由上述描述可知，本申请提供的技术方案有利于提高推送广告的点击率。

图2为本申请提供的用于预估广告的点击率的方法的一个实施方式的流程图。如图2所示的流程主要适用于针对冷启动用户进行点积通过率预估的应用场景。

该实施方式中的方法主要包括：步骤S200、步骤S210、步骤S220以及步骤S230。下面对图2中的各步骤分别进行说明。

S200、获取与待推送广告的目标用户属于同一类别的多个非冷启动用户的用户特征以及各非冷启动用户接入互联网的上下文特征。

在一个可选示例中，本申请中的待推送广告的目标用户为冷启动用户。本申请可以离线对多个非冷启动用户(如历史一段时间内用户)样本数据进行聚类处理，在聚类处理后，通过类别中的所有非冷启动用户的上下文特征计算类别的中心点上下文特征，之后，可以计算目标用户接入互联网的上下文特征与每个类别的中心点上下文特征之间的相似度，并根据计算出的相似度确定该目标用户所在的类别(如将相似度最大的类别作为目标用户所在的类别)，之后，本申请获取该目标用户所在的类别中的多个非冷启动用户的样本特征。由于本申请通常预先存储有每个类别的中心点上下文特征以及每个类别中的所有用户的样本数据，因此，本申请可以根据预先存储的信息快速的确定出目标用户所属的类别，并方便快捷的从预先存储的信息中获得多个非冷启动用户的样本数据，从而可以从样本数据中获取到用户特征以及接入互联网的上下文特征特征。

S210、针对每一个非冷启动用户，将非冷启动用户的用户特征、上下文特征和待预估广告的广告特征分别提供给因子分解机模型。

在一个可选示例中，本申请可以将上述获得的多个非冷启动用户的用户特征及其接入互联网的上下文特征分别与待预估广告的广告特征结合在一起，从而形成多条输入记录，分别提供给FM模型。也就是说，提供给FM模型的每一条输入记录通常均包括一非冷启动用户的用户特征、该非冷启动用户接入互联网的上下文特征以及一待预估广告的广告特征。

S220、经由因子分解机模型输出的各个非冷启动用户分别针对待预估广告执行点击操作的点击率。

在一个可选示例中，本申请的FM模型会针对每一条输入记录均进行点击率的预估处理，从而针对每一条输入记录输出一个其预估出的点击率，该点击率通常为0-1之间的数值。

S230、根据各非冷启动用户的样本数据的权值对因子分解机模型输出的各点击率进行加权平均计算，并将加权平均计算结果作为该目标用户针对待预估广告执行点击操作的点击率。

在一个可选示例中，本申请可以将每一个非冷启动用户的样本数据的权值与FM模型输出的相应的点击率进行相乘运算，并将获得的多个乘积相加，从而得到由每一个非冷启动用户的样本数据所形成的点击率预估值，最后将相加的和除以非冷启动用户的数量，从而获得点击率的加权平均值(即权重为1)。本申请可以将该加权平均值作为该目标用户针对待预估广告执行点击操作的点击率。

在一个可选示例中，本申请可以根据每一个非冷启动用户的上下文特征与目标用户的上下文特征的相似程度来确定每一个非冷启动用户的样本数据的权值，从而可以使相似程度越高的非冷启动用户的样本数据的权值越大，而使相似程度越低的非冷启动用户的样本数据的权值越小。本申请不限制设置非冷启动用户的权值的具体实现方式。

在本申请的一应用场景中，本申请可以利用上述图2所示的方法，针对同一待推送广告的目标用户，对多个不同的待预估广告，进行点击率的预估，从而本申请可以获得每一个待预估广告各自对应的点击率，本申请可以从获得的多个点击率中选取最高点击率，并将选取的最高点击率所对应的待预估广告作为推送广告，向该目标用户推送。由上述描述可知，本申请提供的技术方案有利于提高推送广告的点击率。

图3为本申请装置一个实施例的结构示意图。如图3所示，该实施例的装置主要包括：获取模块300、输入模块310以及确定模块320。可选的，该实施例的装置还可以包括：聚类模块330、确定类别模块340、特征转换模块350、离线训练模块360以及在线训练模块370。

获取模块300主要用于获取待推送广告的目标用户的用户特征以及目标用户当前接入互联网的上下文特征。获取模块300具体执行的操作可以参见上述方法实施方式中针对S100以及S200中的相关描述，在此不再重复说明。

输入模块310主要用于将用户特征、上下文特征和待预估广告的广告特征提供给因子分解机模型。输入模块310具体执行的操作可以参见上述方法实施方式中针对S110以及S210中的相关描述，在此不再重复说明。

确定模块320主要用于根据因子分解机模型输出的信息，获得目标用户针对待预估广告执行点击操作的点击率。确定模块320具体执行的操作可以参见上述方法实施方式中针对S120、S220以及S230中的相关描述，在此不再重复说明。

聚类模块330主要用于离线获取预定时间范围内的多个非冷启动用户的样本数据，并根据预设聚类数量以及所述样本数据中的用户接入互联网的上下文特征，对非冷启动用户的样本数据进行聚类处理，并确定每一类别的中心点上下文特征。聚类模块330具体执行的操作可以参见上述方法实施方式中针对S100中的聚类处理的描述，在此不再重复说明。

确定类别模块340主要用于在目标用户处于在线状态下，计算目标用户的上下文特征与各类别的中心点上下文特征的相似度，以确定目标用户所属的类别。确定类别模块340计算目标用户当前接入互联网的上下文特征与一类别的中心点上下文特征的相似度的一个例子可以为：确定类别模块340计算目标用户当前接入互联网的上下文特征与该类别中心点上下文特征之间的距离(如两者之间的欧氏距离)。

特征转换模块350主要用于利用XGBoost将连续型用户特征转换为离散型用户特征。特征转换模块350可以利用XGBoost对用户的样本数据中所有连续型特征和标签数据进行学习，最后对树的叶子节点进行特征编码，该特征编码被作为连续型特征的离散化结果。

离线训练模块360主要用于获取至少一离线样本数据，将离线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义离线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据该误差利用FTRL优化算法对因子分解机模型中的参数进行调整，以使因子分解机模型收敛。

线训练模块370主要用于通过实时流数据获取至少一在线样本数据，将在线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义在线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据误差利用FTRL优化算法对因子分解机模型中的参数进行调整，以使因子分解机模型收敛。

一个具体的例子，离线训练模块360先利用离线样本数据集合中的离线样本数据，对待训练的FM模型进行离线训练，在成功离线训练后，线训练模块370再利用在线样本数据，对成功离线训练的FM模型进行实时在线训练。另外，离线训练模块360可以定期的利用离线样本数据对实时在线训练的FM模型中的参数进行校正，从而避免一味地使用在线学习会给FM模型引入偏差的现象。

在一个可选示例中，离线训练模块360和在线训练模块370对FM模型进行训练的一个具体过程可以为：首先，离线训练模块360定期的从离线样本数据集合中获取一部分样本数据并提供给FM模型，该FM模型会针对输入的样本数据输出预估的点击率，离线训练模块360基于损失函数针对相应的样本数据中的点击操作标注信息(如0表示没有执行点击操作的标注信息，1表示执行了点击操作的标注信息)与FM输出的其预估的点击率之间的误差，离线训练模块360利用FTRM优化算法对FM模型中的参数进行调整。之后，在线训练模块370通过实时流数据实时在线获取用户的点击信息，并将用户特征、上下文特征和广告特征进行拼接，生成一条或多条在线样本数据提供给FM模型，在线训练模块370基于损失函数针对相应的在线样本数据中的点击信息与FM输出的其预估的点击率之间的误差，在线训练模块370利用FTRM优化算法对FM模型中的参数进行调整。在FM模型满足预定收敛条件的情况下，完成FM模型的训练。

图4示出了适于实现本申请的示例性设备400，设备400可以是汽车中配置的控制系统/电子系统、移动终端(例如，智能移动电话等)、个人计算机(PC，例如，台式计算机或者笔记型计算机等)、平板电脑以及服务器等。图4中，设备400包括一个或者多个处理器、通信部等，所述一个或者多个处理器可以为：一个或者多个中央处理单元(CPU)401，和/或，一个或者多个身体关键点检测器(GPU)413等，处理器可以根据存储在只读存储器(ROM)402中的可执行指令或者从存储部分408加载到随机访问存储器(RAM)403中的可执行指令而执行各种适当的动作和处理。通信部412可以包括但不限于网卡，所述网卡可以包括但不限于IB(Infiniband)网卡。处理器可与只读存储器402和/或随机访问存储器430中通信以执行可执行指令，通过总线404与通信部412相连、并经通信部412与其他目标设备通信，从而完成本申请中的相应步骤。

在一个可选的示例中，处理器所执行的指令包括：。

上述各指令所执行的操作可以参见上述方法实施例中的相关描述，在此不再详细说明。

此外，在RAM 403中，还可以存储有装置操作所需的各种程序以及数据。CPU401、ROM402以及RAM403通过总线404彼此相连。在有RAM403的情况下，ROM402为可选模块。RAM403存储可执行指令，或在运行时向ROM402中写入可执行指令，可执行指令使中央处理单元401执行上述物体分割方法所包括的步骤。输入/输出(I/O)接口405也连接至总线404。通信部412可以集成设置，也可以设置为具有多个子模块(例如，多个IB网卡)，并分别与总线连接。

以下部件连接至I/O接口405：包括键盘、鼠标等的输入部分406；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407；包括硬盘等的存储部分408；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器410上，以便于从其上读出的计算机程序根据需要被安装在存储部分408中。

需要特别说明的是，如图4所示的架构仅为一种可选实现方式，在具体实践过程中，可根据实际需要对上述图4的部件数量和类型进行选择、删减、增加或替换；在不同功能部件设置上，也可采用分离设置或集成设置等实现方式，例如，GPU和CPU可分离设置，再如理，可将GPU集成在CPU上，通信部可分离设置，也可集成设置在CPU或GPU上等。这些可替换的实施方式均落入本申请的保护范围。

特别地，根据本申请的实施方式，下文参考流程图描述的过程可以被实现为计算机软件程序，例如，本申请实施方式包括一种计算机程序产品，其包括有形地包含在机器可读介质上的计算机程序，计算机程序包含用于执行流程图所示的步骤的程序代码，程序代码可包括对应执行本申请提供的步骤对应的指令，例如，。

在这样的实施方式中，该计算机程序可以通过通信部分409从网络上被下载及安装，和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时，执行本申请中记载的上述指令。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

可能以许多方式来实现本发明的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本发明的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本发明的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本发明实施为记录在记录介质中的程序，这些程序包括用于实现根据本发明的方法的机器可读指令。因而，本发明还覆盖存储用于执行根据本发明的方法的程序的记录介质。

本发明的描述是为了示例和描述起见而给出的，而并不是无遗漏的或者将本发明限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本发明的原理和实际应用，并且使本领域的普通技术人员能够理解本发明从而设计适于特定用途的带有各种修改的各种实施例。

Claims (16)

1.一种用于预估广告的点击率的方法，其特征在于，所述方法包括：

获取待推送广告的目标用户的用户特征以及所述目标用户当前接入互联网的上下文特征；

将所述用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；

根据所述因子分解机模型输出的信息，获得所述目标用户针对待预估广告执行点击操作的点击率。

2.根据权利要求1所述的方法，其特征在于，所述目标用户包括：冷启动用户；

且在目标用户为冷启动用户的情况下，所述目标用户的用户特征包括：与所述冷启动用户属于同一类别的至少一个非冷启动用户的用户特征。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

离线获取预定时间范围内的多个非冷启动用户的样本数据；

根据预设聚类数量以及所述样本数据中的用户接入互联网的上下文特征，对所述非冷启动用户的样本数据进行聚类处理，并确定每一类别的中心点上下文特征；

在所述目标用户处于在线状态下，计算所述目标用户的上下文特征与各类别的中心点上下文特征的相似度，以确定所述目标用户所属的类别。

4.根据权利要求2所述的方法，其特征在于，所述方法具体包括：

获取与待推送广告的目标用户属于同一类别的多个非冷启动用户的用户特征以及所述多个非冷启动用户接入互联网的上下文特征；

针对每一个非冷启动用户，将非冷启动用户的用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；

经由所述因子分解机模型输出的各个非冷启动用户分别针对待预估广告执行点击操作的点击率；

根据各非冷启动用户的权值对所述因子分解机模型输出的各点击率进行加权平均计算，并将加权平均计算结果作为所述目标用户针对待预估广告执行点击操作的点击率。

5.根据权利要求1至4中任一项所述的方法，其特征在于，所述接入互联网的上下文特征包括：广告的投放位置、接入互联网的地域位置信息、接入互联网的用户设备类型信息、用户设备接入互联网所采用的网络信息、用户设备接入互联网的时间所属的时间段信息以及用户设备接入互联网时的天气信息中的至少两个。

6.根据权利要求1至4中任一项所述的方法，其特征在于，所述用户特征包括：年龄信息、收入信息、性别信息、教育程度、在线时长、长期偏好信息以及短期偏好信息中的至少两个。

7.根据权利要求6所述的方法，其特征在于：

所述长期偏好信息包括：长期偏好类别；或者，所述长期偏好信息包括：长期偏好类别以及偏好程度；

所述短期偏好信息包括：短期偏好类别；或者，所述短期偏好信息包括：短期偏好类别以及偏好程度。

8.根据权利要求1至4中任一项所述的方法，其特征在于，所述用户特征包括：离散型用户特征；

且所述方法还包括：

利用XGBoost将连续型用户特征转换为离散型用户特征。

9.根据权利要求1至4中任一项所述的方法，其特征在于，所述广告特征包括：广告所属行业类别、广告所属广告主、广告所属行业类别历史曝光量和点击率、广告所属广告主历史曝光量和点击率、广告的展现方式、广告所对应的用户群体中的至少两个。

10.根据权利要求1至4中任一项所述的方法，其特征在于，所述方法还包括：对待训练的因子分解机模型进行离线和/或在线训练；

所述离线训练过程包括：

获取至少一离线样本数据；

将离线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型；

利用损失函数定义离线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用跟随正则化领导FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛；

所述在线训练过程包括：

通过实时流数据获取至少一在线样本数据；

将在线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型；

利用损失函数定义在线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛。

11.一种用于预估广告的点击率的装置，其特征在于，所述装置包括：

获取模块，用于获取待推送广告的目标用户的用户特征以及所述目标用户当前接入互联网的上下文特征；

输入模块，用于将所述用户特征、所述上下文特征和待预估广告的广告特征提供给因子分解机模型；

确定模块，用于根据所述因子分解机模型输出的信息，获得所述目标用户针对待预估广告执行点击操作的点击率。

12.根据权利要求11所述的装置，其特征在于，所述装置还包括：

聚类模块，用于离线获取预定时间范围内的多个非冷启动用户的样本数据，并根据预设聚类数量以及所述样本数据中的用户接入互联网的上下文特征，对所述非冷启动用户的样本数据进行聚类处理，并确定每一类别的中心点上下文特征；

确定类别模块，用于在所述目标用户处于在线状态下，计算所述目标用户的上下文特征与各类别的中心点上下文特征的相似度，以确定所述目标用户所属的类别。

13.根据权利要求11至12中任一项所述的装置，其特征在于，所述用户特征包括：离散型用户特征；

且所述装置还包括：

特征转换模块，用于利用XGBoost将连续型用户特征转换为离散型用户特征。

14.根据权利要求11至12中任一项所述的装置，其特征在于，所述装置还包括：离线训练模块和/或在线训练模块；

所述离线训练模块用于：获取至少一离线样本数据，将离线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义离线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛；

所述在线训练模块用于：通过实时流数据获取至少一在线样本数据，将在线样本数据中的用户特征、接入互联网的上下文特征和广告特征提供给因子分解机模型，并利用损失函数定义在线样本数据中的点击操作标注信息与因子分解机模型输出的信息之间的误差，并根据所述误差利用FTRL优化算法对所述因子分解机模型中的参数进行调整，以使所述因子分解机模型收敛。

15.一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述存储器中存储的计算机程序，且所述计算机程序被执行时，实现上述权利要求1-10中任一项所述的用于预估广告的点击率的方法中的步骤。

16.一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时，实现上述权利要求1-10中任一项所述的用于预估广告的点击率的方法中的步骤。