CN106651057A - 一种基于安装包序列表的移动端用户年龄预测方法 - Google Patents

Abstract

本发明公开的一种基于安装包序列表的移动端用户年龄预测方法，包含以下步骤：获取设备用户的真实年龄标签及其APP安装列表，以及无真实年龄标签的设备用户及其APP安装列表；获取所有APP的描述信息；提取特征关键词；剔除没有上述特征关键词的用户；对于每个训练集用户，计算其拥有的所有特征关键词的平均条件概率分布作为特征；训练一个逻辑回归模型；对于每个预测集中的用户，同样计算其所有特征关键词的平均条件概率分布作为特征，输入到逻辑回归模型进行预测，得到用户的年龄段。本发明的方法，在只能获得用户安装包列表的情况下，通过移动终端用户的安装列表信息能够准确预测用户的年龄段属性。

Description

一种基于安装包序列表的移动端用户年龄预测方法

技术领域

本发明涉及移动互联网领域，特别涉及一种基于安装包序列表的移动端用户年龄预测方法。

背景技术

现有技术中，对移动终端用户的分析主要是通过以下方法：(1)通过提取安装包数量和付费的数值特征、安装包类别特征、安装包性别概率特征和安装包内容描述特征来独自或组合作为每个用户的特征，然后利用机器学习中的朴素贝叶斯和支持向量机方法来判断用户的性别。(2)通过one-of-bag方法将安装包列表映射成0-1向量，分别用逻辑回归和支持向量机的分类方法分别对多种人口属性分类预测，如年龄，性别，收入，婚否等，将其中的每个属性都二分预测。

在该方法中，无论是onehot特征还是类别特征，在对性别的预测方面都有较为显著的划分，但是通过统计分析，这些特征对年龄的划分显著性较低，区分度不明显，尤其是对于多年龄段分类的任务，而非简单的二分类问题。

当需要对用户的年龄段有一个较为准确的预测时，该方法并不能很好地满足需求；而且该方法要求获取的参数较多，包括安装包数量和付费的数值特征、安装包类别特征、安装包性别概率特征和安装包内容，这样至少有两个缺点：第一是参数较多会增大计算量，占用处理器的内存资源，增加了计算时间；第二是较多的参数并不一定能同时获取到，当缺少某个或某几个参数时，该方法就不能实用，适用范围相对较窄，具有局限性。

因此，有必要提供一种新的移动端用户年龄预测方法来满足需求。

发明内容

本发明的目的在于克服现有技术的缺点与不足，提供一种基于安装包序列表的移动端用户年龄预测方法，该方法通过移动终端用户的安装列表信息，通过训练建立一个基于APP描述信息的分类模型，来判断一个用户所处的年龄段，在只能获得用户安装包列表的情况下，准确预测用户的年龄段属性。

本发明的目的通过以下的技术方案实现：

一种基于安装包序列表的移动端用户年龄预测方法，包含以下步骤：

S1、标签用户准备：获取设备用户的真实年龄标签及其APP安装列表，称之为训练集；获取无真实年龄标签的设备用户及其APP安装列表，称之为预测集；

S2、APP描述准备：获取所有APP的描述信息；

S3、特征关键词提取：将每条APP描述信息做分词处理，计算每个分词token在不同年龄段的条件概率分布，分别对每个年龄段取熵值并由小到大进行排序，取前K个分词token作为特征关键词(keywords)；若有T个年龄段，则共有T*K个特征关键词；

S4、用户过滤：剔除没有上述特征关键词的用户；

S5、特征提取：对于每个训练集用户，计算其拥有的所有特征关键词的平均条件概率分布作为特征；

S6、建立模型：根据用户特征和获取的设备用户的真实年龄标签，训练一个逻辑回归模型；

S7、模型预测：对于每个预测集中的用户，同样计算其所有特征关键词的平均条件概率分布作为特征，输入到逻辑回归模型进行预测，得到用户的年龄段。

步骤S2中，所述APP的描述信息，是通过爬虫各大APP应用市场获取。

所述步骤S3，在进行特征关键词提取之前，先进行APP过滤：剔除无法获取描述信息或者覆盖设备数少于设定值的APP。

步骤S3中，所述每个分词token在不同年龄段的条件概率分布的计算公式为：

其中P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率；例如当token为“邮件”时，age取值为[18,23]岁的概率，即用“邮件”筛选人群后，age为[18,23]岁的概率。P(age＝j,token＝i)为联合概率，即token取值为i并且age取值为j的概率，即在整体人群中两者同时出现的概率；P(token＝i)为token取值为i的概率。

步骤S3中，所述对每个年龄段取熵值，其中对于某个确定的分词token，当token给定为i时，其分布的熵值为：

其中H为信息熵，H(age丨token＝i)为条件熵，即当token给定为i时，age的信息熵大小；P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率。

步骤S6中，所述逻辑回归模型是一种线性分类模型，它是在线性回归的基础上，套用了一个逻辑函数来得到最后的概率描述，是通过优化方法极小化以下损失函数：

其中J为损失函数，θ为逻辑回归的参数，m为训练的样例数，x_i为样本，y_i为样本的标签，h是逻辑斯蒂模型，h_θ(x_i)是逻辑回归的参数为θ时模型对于样本x_i的预测，Cost定义为交叉熵。

所述优化方法包括牛顿方法、梯度下降。

本发明与现有技术相比，具有如下优点和有益效果：

本发明的模型在多年龄段和样本极不均衡的数据集上表现出良好的分类效果：在4个年龄段比例约为14：28：4：1的训练样本下，模型的总体准确率达到70％，各年龄段的recall较为均匀地围绕准确率浮动(53％到78％)。模型基于百万级别的训练数据和测试数据的验证，相比于现有的几万级别的训练和测试，模型对未知新数据的预测更为置信，实用价值颇高。

本发明通过移动终端用户的安装列表信息，通过训练建立一个基于APP描述信息的分类模型，来判断一个用户所处的年龄段，在只能获得用户安装包列表的情况下，准确预测用户的年龄段属性。

附图说明

图1为本发明所述一种基于安装包序列表的移动端用户年龄预测方法的流程图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

实施例一

如图1，一种基于安装包序列表的移动端用户年龄预测方法，包含以下步骤：

S1、标签用户准备：获取设备用户的真实年龄标签及其APP安装列表，称之为训练集；获取无真实年龄标签的设备用户及其APP安装列表，称之为预测集；

S2、APP描述准备：获取所有APP的描述信息；所述APP的描述信息，是通过爬虫各大APP应用市场获取。

S3、特征关键词提取：将每条APP描述信息做分词处理，计算每个分词token在不同年龄段的条件概率分布，分别对每个年龄段取熵值并由小到大进行排序，取前K个分词token作为特征关键词(keywords)；若有T个年龄段，则共有T*K个特征关键词；

在进行特征关键词提取之前，先进行APP过滤：剔除无法获取描述信息或者覆盖设备数少于设定值的APP。

所述每个分词token在不同年龄段的条件概率分布的计算公式为：

其中P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率；例如当token为“邮件”时，age取值为[18,23]岁的概率，即用“邮件”筛选人群后，age为[18,23]岁的概率。P(age＝j,token＝i)为联合概率，即token取值为i并且age取值为j的概率，即在整体人群中两者同时出现的概率；P(token＝i)为token取值为i的概率。

所述对每个年龄段取熵值，其中对于某个确定的分词token，当token给定为i时，其分布的熵值为：

其中H为信息熵，H(age丨token＝i)为条件熵，即当token给定为i时，age的信息熵大小；P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率。

S4、用户过滤：剔除没有上述特征关键词的用户；

S5、特征提取：对于每个训练集用户，计算其拥有的所有特征关键词的平均条件概率分布作为特征；

S6、建立模型：根据用户特征和获取的设备用户的真实年龄标签，训练一个逻辑回归模型；

所述逻辑回归模型是一种线性分类模型，它是在线性回归的基础上，套用了一个逻辑函数来得到最后的概率描述，是通过优化方法极小化以下损失函数：

其中J为损失函数，θ为逻辑回归的参数，m为训练的样例数，x_i为样本，y_i为样本的标签，h是逻辑斯蒂模型，h_θ(x_i)是逻辑回归的参数为θ时模型对于样本x_i的预测，Cost定义为交叉熵。

所述优化方法包括牛顿方法、梯度下降；

S7、模型预测：对于每个预测集中的用户，同样计算其所有特征关键词的平均条件概率分布作为特征，输入到逻辑回归模型进行预测，得到用户的年龄段。

实施例二

对拥有400万标签，4个年龄段的训练集，首先计算每个分词的条件概率分布，根据熵值选取每个年龄段的特征词，本例中各选取2000个，但由于第三个年龄段的特征词相对不明显，改增为2500，即(2000，2000，2500，2000)，再将用户安装的APP转换成特征词，计算其拥有的特征词的平均条件概率分布，如用户A拥有特征词a,b,c，其条件概率分布分别为(0.1,0.2,0.3,0.4)、(0.7,0.1,0.1,0.1)和(0.4,0.4,0.2,0)，则用户A的平均条件概率分布为三个向量的平均(0.4,0.23,0.2,0.17)。将其作为特征输入逻辑回归模型。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (7)

1.一种基于安装包序列表的移动端用户年龄预测方法，其特征在于，包含以下步骤：

S1、标签用户准备：获取设备用户的真实年龄标签及其APP安装列表，称之为训练集；获取无真实年龄标签的设备用户及其APP安装列表，称之为预测集；

S2、APP描述准备：获取所有APP的描述信息；

S3、特征关键词提取：将每条APP描述信息做分词处理，计算每个分词token在不同年龄段的条件概率分布，分别对每个年龄段取熵值并由小到大进行排序，取前K个分词token作为特征关键词；若有T个年龄段，则共有T*K个特征关键词；

S4、用户过滤：剔除没有上述特征关键词的用户；

S5、特征提取：对于每个训练集用户，计算其拥有的所有特征关键词的平均条件概率分布作为特征；

S6、建立模型：根据用户特征和获取的设备用户的真实年龄标签，训练一个逻辑回归模型；

S7、模型预测：对于每个预测集中的用户，同样计算其所有特征关键词的平均条件概率分布作为特征，输入到逻辑回归模型进行预测，得到用户的年龄段。

2.根据权利要求1所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，步骤S2中，所述APP的描述信息，是通过爬虫各大APP应用市场获取。

3.根据权利要求1所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，所述步骤S3，在进行特征关键词提取之前，先进行APP过滤：剔除无法获取描述信息或者覆盖设备数少于设定值的APP。

4.根据权利要求1所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，步骤S3中，所述每个分词token在不同年龄段的条件概率分布的计算公式为：

$P(age=j|token=i)=\frac{P(age=j,token=i)}{P(token=i)};$

其中P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率；P(age＝j,token＝i)为联合概率，即token取值为i并且age取值为j的概率；P(token＝i)为token取值为i的概率。

5.根据权利要求1至4任一权利要求所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，步骤S3中，所述对每个年龄段取熵值，其中对于某个确定的分词token，当token给定为i时，其分布的熵值为：

$H\left(age\right|token=i)=\underset{j}{\Σ}-P(age=j|token=i)\log P(age=j|token=i);$

其中H为信息熵，H(age丨token＝i)为条件熵，即当token给定为i时，age的信息熵大小；P(age＝j丨token＝i)为条件概率，即当token给定为i时，age取值为j的概率。

6.根据权利要求1所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，步骤S6中，所述逻辑回归模型是一种线性分类模型，它是在线性回归的基础上，套用了一个逻辑函数来得到最后的概率描述，是通过优化方法极小化以下损失函数：

$J\left(\mathrm{\θ}\right)=\frac{1}{m}\underset{i=1}{\overset{n}{\Σ}}Cost\left(h_{\mathrm{\θ}}\right(x_i),y_i)=-\frac{1}{m}\[\underset{i=1}{\overset{n}{\Σ}}{y}_i{\mathrm{logh}}_{\mathrm{\θ}}\left(x_i\right)+(1-y_i)\log (1-h_{\mathrm{\θ}}(x_i\left)\right)\];$

其中J为损失函数，θ为逻辑回归的参数，m为训练的样例数，x_i为样本，y_i为样本的标签，h是逻辑斯蒂模型，h_θ(x_i)是逻辑回归的参数为θ时模型对于样本x_i的预测，Cost定义为交叉熵。

7.根据权利要求6所述基于安装包序列表的移动端用户年龄预测方法，其特征在于，所述优化方法包括牛顿方法、梯度下降。