CN112825178A - 一种预测用户性别画像的方法和装置 - Google Patents

一种预测用户性别画像的方法和装置 Download PDF

Info

Publication number
CN112825178A
CN112825178A CN201911148680.0A CN201911148680A CN112825178A CN 112825178 A CN112825178 A CN 112825178A CN 201911148680 A CN201911148680 A CN 201911148680A CN 112825178 A CN112825178 A CN 112825178A
Authority
CN
China
Prior art keywords
real
user
training samples
training
gender
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911148680.0A
Other languages
English (en)
Inventor
李越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201911148680.0A priority Critical patent/CN112825178A/zh
Publication of CN112825178A publication Critical patent/CN112825178A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201Market modelling; Market analysis; Collecting market data
    • G06Q30/0202Market predictions or forecasting for commercial activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Abstract

本发明公开了一种预测用户性别画像的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:从线上产生的实时数据流中提取实时行为特征;使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;通过对训练样本进行训练以确定预测模型的模型参数,并根据模型参数更新预测模型;使用预测模型来预测用户的性别画像。该实施方式能够根据线上的反馈数据,实时快速地进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率,提高用户体验。

Description

一种预测用户性别画像的方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种预测用户性别画像的方法和装置。
背景技术
近年来,随着互联网的不断发展和快速完善,流量成本越来越贵,拉新成本越来越高,老顾客忠诚度也越来越低,在这种形势下,只有精细化运营每一个客户,才能使品牌保持持续性增长。电商领域的精细化运营,指的是通过用户分群,对不同需求的用户匹配不同的服务和内容,从而满足其个性化的需求。用户画像可以从多个维度来描绘用户特征,不同的产品类型,用户画像的维度也有不同,更快速更准确的画像信息,可以帮助电商精准的定位实际用户群体。性别作为人类差异最大的特征之一,其重要性和价值性不言而喻,每个用户画像产品的构建,基本都会遇到性别标签的识别需求。
用户画像的数据来源主要来自两个方面:用户的个人资料及日常行为标签的累加。对于后者,往往根据规则进行数据算法的计算从而获得用户的画像标签。在电商领域,一般将画像标签的获取分为离线画像和实时画像两部分,离线画像一般基于hadoop及hive环境,通过分析海量的用户历史行为,得到用户的画像数据。例如一个人历史的购买记录中女性用品的占比高,那其为女性的概率就很大。离线画像由于是离线进行计算,其结果往往是T+1或T+n的,因此可以采用复杂的数据挖掘算法模型来进行计算,相对而言更加准确,但由于其时间上的滞后性,往往很难应对实时的画像需求,例如一位男性想给女性朋友购买礼物,他的性别画像很难在短时间内切换为女性,影响到系统为他推荐更符合他当下购买需求的女性商品。实时画像一般基于storm或者flink等流处理框架,具有对不断变化的数据的实时处理能力,由于数据挖掘模型的计算复杂,在具有高速响应的实时画像中多采用规则算法,这对画像开发者和使用者都带来了难题。对开发者而言,采用规则算法要求开发者本身对数据充分了解,否则开发的算法阈值很难界定,算法在保证准确率的前提下,召回率往往较低。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
现有的预测用户性别画像的技术主要分为两类:离线画像和实时画像。离线画像技术主要是基于海量历史大数据并通过模型计算进行,模型复杂精度高,计算资源要求高,计算时间较长,很难适应实时画像的响应需求,并不能有效的诠释用户的实时行为,故模型的预测效果有限;实时画像技术多是采用基于实时计算框架的规则算法进行,模型简单,可用特征少,精度低,画像预测结果不理想。
发明内容
有鉴于此,本发明实施例提供一种预测用户性别画像的方法和装置,能够根据线上的反馈数据,实时快速地进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率,提高用户体验。
为实现上述目的,根据本发明实施例的一个方面,提供了一种预测用户性别画像的方法。
一种预测用户性别画像的方法,包括:从线上产生的实时数据流中提取实时行为特征;使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;使用所述预测模型来预测用户的性别画像。
可选地,使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本包括:获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对所述历史行为特征进行打标以进行特征处理,从而生成训练样本。
可选地,通过对所述训练样本进行训练以确定预测模型的模型参数包括:采用基于梯度的分布式批处理的方案来对所述训练样本进行训练以确定预测模型的模型参数。
可选地,所述基于梯度的分布式批处理的方案包括:将所述训练样本分发到多个线程中;每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
根据本发明实施例的另一方面,提供了一种预测用户性别画像的装置。
一种预测用户性别画像的装置,包括:特征提取模块,用于从线上产生的实时数据流中提取实时行为特征;特征处理模块,用于使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;参数更新模块,用于通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;画像预测模块,用于使用所述预测模型来预测用户的性别画像。
可选地,所述特征处理模块还用于:获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对所述历史行为特征进行打标以进行特征处理,从而生成训练样本。
可选地,所述参数更新模块还用于:采用基于梯度的分布式批处理的方案来对所述训练样本进行训练以确定预测模型的模型参数。
可选地,所述基于梯度的分布式批处理的方案包括:将所述训练样本分发到多个线程中;每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
根据本发明实施例的又一方面,提供了一种预测用户性别画像的电子设备。
一种预测用户性别画像的电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例所提供的预测用户性别画像的方法。
根据本发明实施例的再一方面,提供了一种计算机可读介质。
一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例所提供的预测用户性别画像的方法。
上述发明中的一个实施例具有如下优点或有益效果:通过从线上产生的实时数据流中提取实时行为特征,并使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本,然后通过对训练样本进行训练以确定预测模型的模型参数,并更新预测模型,最后使用预测模型来预测用户的性别画像,实现了将线上的反馈数据引入模型训练中,能够根据线上的反馈数据,实时快速地进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率,提高用户体验。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的预测用户性别画像的方法的主要步骤示意图;
图2是本发明一个实施例的预测框架与训练框架进行数据交互的流程示意图;
图3是本发明一个实施例的采用FTRL算法进行特征权重更新的伪代码示意图;
图4是根据本发明实施例的预测用户性别画像的装置的主要模块示意图;
图5是本发明实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
针对当前电商框架下,性别画像预测中离线画像无法满足实时画像需求、基于实时计算框架的实时画像多采用规则算法,特征少,准确率低等现状,本发明在实时计算框架中引入模型迭代,提出了以改进FTRL(Follow The Regularized Leader,一种适用于处理超大规模数据的,含大量稀疏特征的在线学习的常见优化算法,方便实用,而且效果很好,常用于更新在线的CTR预估模型)算法为主,引入商品离线性别画像预测模型,基于storm框架进行实时电商性别画像的技术方案。并且为了更贴近当下电商应用场景,针对大规模电商实时数据提出了多处工程上的改进方案,使本发明的技术方案在实际应用中具有更高的价值。
在线学习作为近年来兴起的一种面向流处理和分布式的新型机器学习方案,具备对动态模型进行实时分析和处理的能力。FTRL算法作为在线学习算法的一种,其本身可以对广告点击率进行预测,能够有效地识别网络用户的喜好,从而使网络广告的推荐更加精准。通过对在线学习模型的分析,FTRL算法本质上是一种类似LR(Logistic Regression,逻辑回归)的算法模型,而LR模型被广泛应用到离线画像的开发中,因此,可以认为,FTRL算法在storm框架下具备很好的实时画像应用前景。
本发明的预测用户性别画像的方法可以实时进行电商性别画像的预测,是一种在线更新的模型训练方法,能根据线上的反馈数据,实时快速的进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率。其线上系统闭环实现流程为:将模型的性别预测结果返回给用户,然后收集用户的实时反馈数据,并根据用户的实时反馈数据重新进行模型训练;然后,再次使用重新训练好的模型进行性别预测,并将模型的预测结果返回给用户,……,循环执行前述的流程步骤。通过本发明的预测用户性别画像的方法即可将用户的反馈引入模型训练过程中,并用于调整模型参数,实现了实时进行电商性别画像的预测。
图1是根据本发明实施例的预测用户性别画像的方法的主要步骤示意图。如图1所示,本发明实施例的预测用户性别画像的方法主要包括如下的步骤S101至步骤S104。
步骤S101:从线上产生的实时数据流中提取实时行为特征;
步骤S102:使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;
步骤S103:通过对训练样本进行训练以确定预测模型的模型参数,并根据模型参数更新预测模型;
步骤S104:使用预测模型来预测用户的性别画像。
根据本发明的一个实施例,在使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本时,例如可以包括:
获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对历史行为特征进行打标以进行特征处理,从而生成训练样本。
根据本发明的另一个实施例,在通过对训练样本进行训练以确定预测模型的模型参数时,例如可以包括:
采用基于梯度的分布式批处理的方案来对训练样本进行训练以确定预测模型的模型参数。
根据本发明实施例的技术方案,基于梯度的分布式批处理的方案例如是:
将训练样本分发到多个线程中;
每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;
对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
下面结合具体实施例及附图介绍本发明的具体实现过程。
图2是本发明一个实施例的预测框架与训练框架进行数据交互的流程示意图。如图2所示,本发明的预测用户性别画像的方法由预测框架和训练框架两部分组成。预测框架用于接收线上产生的实时数据,并通过对实时数据流进行特征提取以得到实时行为特征,然后获取历史行为特征,并使用实时行为特征对历史行为特征进行特征处理以得到最新特征,并将最新特征作为训练样本(例如是libsvm数据格式的训练样本)发送至训练框架;训练框架获取训练样本,采用分布式批处理的方案将训练样本分发给多个线程,每个线程分别获取分配给其的训练样本的特征的梯度变化,并由后续单独的线程根据特征的梯度变化进行计算整合并确定特征权重,从而确定最新的模型参数,然后将最新的模型参数发送给预测框架;预测框架根据最新的模型参数即可更新用户画像预测模型,并使用该预测模型来预测用户的实时性别画像。
根据本发明的实施例,以面向电商应用场景为例,除用户的行为序列外,还引入了品牌、店铺、品类等特征信息,为了避免程序运行过程中的海量电商数据带来的线程存储资源消耗过大等问题,品牌、店铺、品类可选取最近7天有点击的情况,并将数据预先以文本的形式存在代码的源文件中。在程序启动时,每个线程预先存储一组独立的特征编码信息。特征采取类似one-hot的编码方式,以店铺为例,每种店铺在总特征序列中独有一位。
本发明的预测框架启动后,通过解析多条线上生产的实时数据(例如是通过kafka系统生产的实时数据),可以获取用户的通用唯一识别码uuid(Universally UniqueIdentifier)、商品唯一编号sku和行为特征(点击、加购、关注、订单等用户行为对应的特征数据)等。以用户A为例,用户A点击了编号为skuA的商品,该编号skuA的商品性别对应为女性,则程序通过查询数据库redis的方式获取用户A在数据库中存储的历史行为序列,由历史行为序列(一般最近200条或者最近一周内的行为序列作为历史行为序列)生成高维稀疏训练样本(只存储涉及到的品牌、店铺和品类等信息),这样可以在保障数据的前提下大幅度减少reids对中间数据的存储空间,skuA对应的商品性别则打标为该组样本的实时性别。然后,将libsvm格式的训练样本通过kafka系统发送给训练框架。在如上采集的特征中,店铺相关的特征记录了某个店铺在历史行为序列中的点击次数,为了避免该特征对结果产生过大的影响,这里可以做特征截断,例如:可将点击次数中超过五次的一律按五次来处理。
如果对应skuA暂无商品性别画像,则不产生训练样本,直接获取用户A在数据库中存储的历史行为序列,并根据用户最新点击的sku字段,补齐该sku对应的类目名称、店铺名称、品牌等特征信息,并合并进历史行为序列,然后将该历史行为序列反存至数据库redis中,并生成预测样本,之后,结合线程内的FTRL参数估算阈值,通过一定的阈值进行区分,预测出该用户A的实时性别画像,并将用户A的实时性别画像更新至保存用户性别画像的数据库Redis中。具体地,通过FTRL算法即可对预测样本进行计算,参数估算阈值例如是0.5,可将计算值大于0.5的判定为男性,小于等于0.5的判定为女性,从而给出用户的性别画像。
训练框架在接收到预测框架发送过来的训练样本后,将采用基于梯度的分布式批处理的方案来对训练样本进行训练以确定预测模型的模型参数,即:训练框架将采用一种基于梯度的分布式更新方法来确定预测模型的模型参数。具体地,对于单个线程,仅计算一批训练样本后得到的梯度,再由后续的单个线程对梯度进行计算整合。训练框架启动后,只接受预测框架下发的包含训练样本的数据流,并在对数据流进行解析获取训练样本后,采用分布式参数更新的方式,将训练样本随机分发到不同的训练线程中。这里单个线程的参数更新方案严格遵照FTRL权重更新算法来执行。
图3是本发明一个实施例的采用FTRL算法进行特征权重更新的伪代码示意图。如图3所示,其中示出了本发明实施例在采用FTRL算法进行特征权重更新时所使用的伪代码。在本发明的实施例中,各个特征之间是相互独立的,每次更新特征的权重时,会从数据库redis中获取特征对应的学习率n和中间参数g。结合与学习率相关的预设参数α、β(用于控制特征梯度变化率,避免过早收敛或无法收敛)及训练样本,计算新的学习率n和中间参数g,并重新更新至redis中,同时计算特征梯度更新的中间变量z(计算公式如图中所示,需要涉及该特征上轮迭代的z和w历史值以及本次预测情况g)并通过伪代码中的公式更新权重w,w即为更新后的权重。
考虑到工程上的实现效果,定义α、β、L1、L2分别采用0.1,1,0,0。每个线程采用批处理的方式进行更新,接收到具体长度的数据后,先从保存特征数据的数据库featureRedis中获取最新版的特征数据及版本号,由于大规模特征下载中会占用过量带宽,为了避免造成数据拥堵及下载缓慢的情况,可以提前对训练样本的数据进行过滤,标记所涉及到的特征,仅下载这部分相关特征即可。按照如图3所示的伪代码的逻辑对每个维度的特征进行更新后,对照之前下载的特征,即可计算特征的变化率,并将特征变化率与版本号一起下发到下一个线程。其中,特征变化率在计算时,例如是:对某一维特征来说,如果历史存储值为100,版本号为10,批处理更新后的值为140,则特征变化率即为0.4,之后,即可将0.4和10发送到下一个线程以进行参数整合。
在下一个线程中,定义分布式参数的整合方案,依然采用批处理的方式进行更新,在积攒到一定数量的特征变化率与版本号后,进行整合,从保存特征数据的数据库featureRedis中获取最新版的特征数据及版本号,批处理后的特征变化率按版本号做一定的衰减,以确保更新越晚的数据的特征变化率的影响权重越高,更新完一组批处理的数据后将版本号递增1,并存储最新的特征至保存特征数据的数据库featureRedis中。
在通过训练框架对训练样本进行训练确定了预测模型的模型参数后,即可将模型参数反馈给预测框架,以便预测框架可以实时地预测用户的性别画像。
在预测框架进行模型参数更新时,考虑到保存特征数据的数据库featureRedis的特征更新对单个线程来说负荷太大,这里定义了一种单线程预下载+批处理延迟更新的方案来解决。程序在开启的过程中每个线程访问featureRedis,只存储使用到的行为序列的特征(例如:百级别的维度),在后续的更新中,采用批处理延迟的方案,积攒一定的数据,这部分数据先按流处理的方案执行用户性别画像预测和产出训练样本,在达到一定的批处理长度后,过滤这部分批处理数据,对其中涉及到的特征进行二次更新。采用这样的方案,批处理内的数据无法调用涉及到的最新的特征数据,但是实验证明,在程序运行一段时间后,特征的变动趋于稳定,采用这种方案可以达到很好的预测效果。同时由于线程数据是按通用唯一识别码uuid进行分发的,对一些冷门的品类、店铺等,同一组uuid的访问可能性更高。
预测框架进行模型参数更新后,即可使用最新的预测模型进行用户性别画像的预测,从而实现了将用户的反馈引入实时预测中,更准确、快速地根据用户的实时行为序列预测用户的性别画像,从而为用户推荐更适合的商品,提高推荐系统的准确性和用户体验度。
根据本发明实施例的技术方案,下面举一个具体的实验案例来揭示本发明的技术方案的实施效果。假设对单个用户,选择其前五十次的点击、关注、加购、购买的商品性别,以及对应sku的三级品类,品牌及店铺信息(均可缺省)。其中0~99对应为点击,100~199对应关注,200~299对应加购,300~399对应订单,400~15236对应三级品类,15237~159574对应品牌。
假设单条训练样本的样例为:“0/t 1:1 10344:1 63884:1 345982:1”,其中,开头的“0”对应标签label为男性,中间采用“/t”分割;“1:1”为one-hot编码下的最近一次点击的商品信息(0:1、1:1分别对应男性商品和女性商品);“10344:1”为前200次行为中的sku对应的该三级品类出现过1次(这里10344为某三级品类编码后的结果,下面品牌和店铺也采取这样的编码形式);样本中男女标签的分布比例为男性标签占比48%,女性标签占比52%(数据来源某2000W左右的训练样本),正负样本分布比较均匀。
采用从0开始训练1小时左右的实时在线学习参数对样本外的测试数据进行测试,准确率在93%左右。后续每隔20分钟左右更新参数,并重新对同一组测试集进行测试,连续3次的结果为准确率以0.1%左右的速度提升,越靠后提升速度越低。故判断已接近收敛,线上收敛速度极快。
为了更好的对比FTRL算法的训练效果,不同训练时间的实时参数对测试集的准确率,以及采用离线GBDT模型对同组训练样本1000W左右(约2小时)数据的训练后的参数对同一组测试集的准确率,得到的结果进行比较,准确率结果如下表1所示:
表1
Figure BDA0002282938510000121
Figure BDA0002282938510000131
进一步的,与线上规则版性别预测程序进行对比,本发明的在线学习性别预测程序在覆盖率和准确率上均有极大的提升,如表2所示:
表2
Figure BDA0002282938510000132
由以上的表1和表2可以看出,本发明的预测用户性别画像的方法大幅度提高了预测的精度和覆盖范围。
图4是根据本发明实施例的预测用户性别画像的装置的主要模块示意图。如图4所示,本发明实施例的预测用户性别画像的装置400主要包括特征提取模块401、特征处理模块402、参数更新模块403和画像预测模块404。
特征提取模块401,用于从线上产生的实时数据流中提取实时行为特征;
特征处理模块402,用于使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;
参数更新模块403,用于通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;
画像预测模块404,用于使用所述预测模型来预测用户的性别画像。
根据本发明的一个实施例,特征处理模块402还可以用于:
获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对所述历史行为特征进行打标以进行特征处理,从而生成训练样本。
根据本发明的另一个实施例,参数更新模块403还可以用于:
采用基于梯度的分布式批处理的方案来对所述训练样本进行训练以确定预测模型的模型参数。
根据本发明的又一个实施例,基于梯度的分布式批处理的方案例如可以包括:
将所述训练样本分发到多个线程中;
每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;
对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
根据本发明实施例的技术方案,通过从线上产生的实时数据流中提取实时行为特征,并使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本,然后通过对训练样本进行训练以确定预测模型的模型参数,并更新预测模型,最后使用预测模型来预测用户的性别画像,实现了将线上的反馈数据引入模型训练中,能够根据线上的反馈数据,实时快速地进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率,提高用户体验。
本发明通过将应用于广告点击率预估领域的FTRL算法应用在了电商实时画像的性别预测中,除点击序列之外,引入了极具电商特点的店铺、品牌及品类等新的特征,大幅度提高了预测的精度和覆盖范围。同时充分考虑了海量电商数据在存储、Redis交互等过程中的现实问题,提出了工程上的高效解决方案。另外,FTRL算法基于其他特征(例如:产品词、标题等文本特征或商品的扩展属性等属性特征等)也可以达到类似的效果,不同特征的引入对结果有一定的影响,但同样需要考虑到电商海量大数据的应用问题及解决方案。同时,除了FTRL算法外还有其他的一些在线学习算法(例如:FOBOS(Forward-BackwardSplitting,前向后向切分)算法、RDA(Regularized Dual Averaging,正则化双平均)算法、SGD(Stochastic Gradient Descent,随机梯度下降)算法,等等)也可以达到类似的效果。
图5示出了可以应用本发明实施例的预测用户性别画像的方法或预测用户性别画像的装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的预测用户性别画像的方法一般由服务器505执行,相应地,预测用户性别画像的装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机系统600的结构示意图。图6示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,例如,可以描述为:一种处理器包括特征提取模块、特征处理模块、参数更新模块和画像预测模块。其中,这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定,例如,特征提取模块还可以被描述为“用于从线上产生的实时数据流中提取实时行为特征的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:从线上产生的实时数据流中提取实时行为特征;使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;使用所述预测模型来预测用户的性别画像。
根据本发明实施例的技术方案,通过从线上产生的实时数据流中提取实时行为特征,并使用实时行为特征对获取的历史行为特征进行特征处理以生成训练样本,然后通过对训练样本进行训练以确定预测模型的模型参数,并更新预测模型,最后使用预测模型来预测用户的性别画像,实现了将线上的反馈数据引入模型训练中,能够根据线上的反馈数据,实时快速地进行模型调整,使得模型可以及时反映线上的变化,提高线上预测的准确率,提高用户体验。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (10)

1.一种预测用户性别画像的方法,其特征在于,包括:
从线上产生的实时数据流中提取实时行为特征;
使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;
通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;
使用所述预测模型来预测用户的性别画像。
2.根据权利要求1所述的方法,其特征在于,使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本包括:
获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对所述历史行为特征进行打标以进行特征处理,从而生成训练样本。
3.根据权利要求1所述的方法,其特征在于,通过对所述训练样本进行训练以确定预测模型的模型参数包括:
采用基于梯度的分布式批处理的方案来对所述训练样本进行训练以确定预测模型的模型参数。
4.根据权利要求3所述的方法,其特征在于,所述基于梯度的分布式批处理的方案包括:
将所述训练样本分发到多个线程中;
每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;
对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
5.一种预测用户性别画像的装置,其特征在于,包括:
特征提取模块,用于从线上产生的实时数据流中提取实时行为特征;
特征处理模块,用于使用所述实时行为特征对获取的历史行为特征进行特征处理以生成训练样本;
参数更新模块,用于通过对所述训练样本进行训练以确定预测模型的模型参数,并根据所述模型参数更新所述预测模型;
画像预测模块,用于使用所述预测模型来预测用户的性别画像。
6.根据权利要求5所述的装置,其特征在于,所述特征处理模块还用于:
获取预定数量或预定时间段内的历史行为特征,并使用用户的实时行为特征中包括的物品性别对所述历史行为特征进行打标以进行特征处理,从而生成训练样本。
7.根据权利要求5所述的装置,其特征在于,所述参数更新模块还用于:
采用基于梯度的分布式批处理的方案来对所述训练样本进行训练以确定预测模型的模型参数。
8.根据权利要求7所述的装置,其特征在于,所述基于梯度的分布式批处理的方案包括:
将所述训练样本分发到多个线程中;
每个线程对所分发的训练样本进行处理以得到所分发的训练样本的梯度,其中,每个线程采用FTRL权重更新算法来计算所分发的训练样本的梯度;
对每个线程所分发的训练样本的梯度进行计算整合以实现分布式批处理。
9.一种预测用户性别画像的电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
CN201911148680.0A 2019-11-21 2019-11-21 一种预测用户性别画像的方法和装置 Pending CN112825178A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911148680.0A CN112825178A (zh) 2019-11-21 2019-11-21 一种预测用户性别画像的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911148680.0A CN112825178A (zh) 2019-11-21 2019-11-21 一种预测用户性别画像的方法和装置

Publications (1)

Publication Number Publication Date
CN112825178A true CN112825178A (zh) 2021-05-21

Family

ID=75907415

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911148680.0A Pending CN112825178A (zh) 2019-11-21 2019-11-21 一种预测用户性别画像的方法和装置

Country Status (1)

Country Link
CN (1) CN112825178A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113392113A (zh) * 2021-06-20 2021-09-14 杭州登虹科技有限公司 一种云视频开放平台精细化用户画像实时推荐方法
CN113535700A (zh) * 2021-07-19 2021-10-22 福建凯米网络科技有限公司 一种数字视听场所用户信息更新方法及计算机可读存储介质
CN115083337A (zh) * 2022-07-08 2022-09-20 深圳市安信泰科技有限公司 一种led显示驱动系统及方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110131166A1 (en) * 2009-12-01 2011-06-02 Hulu Llc Fuzzy users' attributes prediction based on users' behaviors
CN107730038A (zh) * 2017-10-09 2018-02-23 小草数语(北京)科技有限公司 用户偏好性别的预测方法、装置及其设备
CN108182605A (zh) * 2018-01-11 2018-06-19 厦门快商通信息技术有限公司 一种基于用户画像的用户行为预测方法及系统
CN109145932A (zh) * 2017-06-28 2019-01-04 中兴通讯股份有限公司 用户性别预测方法、装置及设备
CN109934619A (zh) * 2019-02-13 2019-06-25 北京三快在线科技有限公司 用户画像标签建模方法、装置、电子设备及可读存储介质
CN109948633A (zh) * 2017-12-20 2019-06-28 广东欧珀移动通信有限公司 用户性别预测方法、装置、存储介质及电子设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110131166A1 (en) * 2009-12-01 2011-06-02 Hulu Llc Fuzzy users' attributes prediction based on users' behaviors
CN109145932A (zh) * 2017-06-28 2019-01-04 中兴通讯股份有限公司 用户性别预测方法、装置及设备
CN107730038A (zh) * 2017-10-09 2018-02-23 小草数语(北京)科技有限公司 用户偏好性别的预测方法、装置及其设备
CN109948633A (zh) * 2017-12-20 2019-06-28 广东欧珀移动通信有限公司 用户性别预测方法、装置、存储介质及电子设备
CN108182605A (zh) * 2018-01-11 2018-06-19 厦门快商通信息技术有限公司 一种基于用户画像的用户行为预测方法及系统
CN109934619A (zh) * 2019-02-13 2019-06-25 北京三快在线科技有限公司 用户画像标签建模方法、装置、电子设备及可读存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113392113A (zh) * 2021-06-20 2021-09-14 杭州登虹科技有限公司 一种云视频开放平台精细化用户画像实时推荐方法
CN113535700A (zh) * 2021-07-19 2021-10-22 福建凯米网络科技有限公司 一种数字视听场所用户信息更新方法及计算机可读存储介质
CN115083337A (zh) * 2022-07-08 2022-09-20 深圳市安信泰科技有限公司 一种led显示驱动系统及方法
CN115083337B (zh) * 2022-07-08 2023-05-16 深圳市安信泰科技有限公司 一种led显示驱动系统及方法

Similar Documents

Publication Publication Date Title
CN109460513B (zh) 用于生成点击率预测模型的方法和装置
WO2017071251A1 (zh) 信息推送方法和装置
CN107679217B (zh) 基于数据挖掘的关联内容提取方法和装置
WO2017035970A1 (zh) 信息推送的方法和装置
CN112825178A (zh) 一种预测用户性别画像的方法和装置
CN108810047B (zh) 用于确定信息推送准确率的方法、装置及服务器
CN110020162B (zh) 用户识别方法和装置
JP2024503774A (ja) 融合パラメータの特定方法及び装置、情報推奨方法及び装置、パラメータ測定モデルのトレーニング方法及び装置、電子機器、記憶媒体、並びにコンピュータプログラム
CN108595448B (zh) 信息推送方法和装置
CN110866040A (zh) 用户画像生成方法、装置和系统
CN110866625A (zh) 促销指标信息生成方法和装置
CN112182370A (zh) 物品类目信息推送方法、装置、电子设备和介质
CN112330059B (zh) 用于生成预测分数的方法、装置、电子设备和介质
CN113495991A (zh) 一种推荐方法和装置
CN116955817A (zh) 内容推荐方法、装置、电子设备以及存储介质
CN110992127A (zh) 一种物品推荐方法及装置
CN113743971A (zh) 一种数据处理方法和装置
CN113360816A (zh) 点击率预测的方法和装置
CN112825182A (zh) 一种确定推荐商品的方法和装置
WO2022156589A1 (zh) 一种直播点击率的确定方法和装置
CN110826949A (zh) 产能控制实现方法和装置
CN112418898A (zh) 基于多时间窗口融合的物品需求数据分析方法和装置
CN112990311A (zh) 一种准入客户的识别方法和装置
CN110766488A (zh) 一种自动确定主题场景的方法和装置
CN113066479A (zh) 一种评测模型的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination