CN110674188A - 一种特征提取方法、装置及设备 - Google Patents

一种特征提取方法、装置及设备 Download PDF

Info

Publication number
CN110674188A
CN110674188A CN201910923423.3A CN201910923423A CN110674188A CN 110674188 A CN110674188 A CN 110674188A CN 201910923423 A CN201910923423 A CN 201910923423A CN 110674188 A CN110674188 A CN 110674188A
Authority
CN
China
Prior art keywords
data
user
feature extraction
model
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910923423.3A
Other languages
English (en)
Inventor
郭龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN201910923423.3A priority Critical patent/CN110674188A/zh
Publication of CN110674188A publication Critical patent/CN110674188A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2462Approximate or statistical queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0635Risk analysis of enterprise or organisation activities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/067Enterprise or organisation modelling

Abstract

本说明书实施例公开了一种特征提取方法、装置及设备。方案包括:对于包含多种表征类型的数据的待处理用户数据,将该待处理用户数据中的用户行为数据、用户行为统计数据及用户静态数据,分别输入至采用对应表征类型的数据样本训练得到的第一特征提取模型、第二特征提取模型及第三特征提取模型中,将第一特征提取模型的隐藏层输出特征、第二特征提取模型的隐藏层输出特征及第三特征提取模型的隐藏层输出特征共同确定为该待处理用户数据的提取特征。

Description

一种特征提取方法、装置及设备
本申请涉及计算机数据处理技术领域,尤其涉及一种特征提取方法、装置及设备。
背景技术
为保障用户及企业的利益,应用服务提供商通常会基于行业经验积累制定风险控制模型(简称“风控模型”),以减少风险事件发生时对用户及企业造成的损失。在搭建风控模型时,建模人员会根据个人经验及用户原始数据去设计训练风控模型所使用的训练特征。由于用户原始数据中包含多种表征类型的数据,而不同表征类型的数据之间千差万别,例如,不同表征类型的数据在数据含义、数据维度、数据格式及数据属性等方面可能均存在较大差异,因此,模型设计者通常无法根据全部的用户数据去生成训练特征,对用户数据的利用率较低。
基于此,需要提供对用户数据利用率较高的特征提取方案。
发明内容
有鉴于此,本申请实施例提供了一种特征提取方法、装置及设备,用于解决需要提供数据利用率较高的特征提取方案的问题。
为解决上述技术问题,本说明书实施例是这样实现的:
本说明书实施例提供的一种特征提取方法,包括:
获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
本说明书实施例提供的一种风控模型训练方法,包括:
获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用上述的特征提取方法得到的;
使用所述提取特征集合训练初始模型,得到风控模型。
本说明书实施例提供的一种用户行为风险分析方法,包括:
获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用上述的特征提取方法得到的;
将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于上述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
本说明书实施例提供的一种特征提取装置,包括:
获取模块,用于获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
第一特征提取模块,用于将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
第二特征提取模块,用于将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
第三特征提取模块,用于将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定模块,用于确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
本说明书实施例提供的一种风控模型训练装置,包括:
获取模块,用于获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
特征提取模块,用于对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用上述的特征提取方法得到的;
训练模块,用于使用所述提取特征集合训练初始模型,得到风控模型。
本说明书实施例提供的一种用户行为风险分析装置,包括:
获取模块,用于获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
特征提取模块,用于对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用上述的特征提取方法得到的;
风险分析结果生成模块,用于将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于上述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
本说明书实施例提供的一种特征提取设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
本说明书实施例提供的一种风控模型训练设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用上述的特征提取方法得到的;
使用所述提取特征集合训练初始模型,得到风控模型。
本说明书实施例提供的一种用户行为风险分析设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用上述的特征提取方法得到的;
将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于上述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
对于包含多种表征类型的数据的待处理用户数据,将该待处理用户数据中的用户行为数据、用户行为统计数据及用户静态数据,分别输入至采用对应表征类型的数据样本训练得到的第一特征提取模型、第二特征提取模型及第三特征提取模型中,将第一特征提取模型的隐藏层输出特征、第二特征提取模型的隐藏层输出特征及第三特征提取模型的隐藏层输出特征共同确定为该待处理用户数据的提取特征。由于采用了待处理用户数据中包含的各种表征类型的数据去生成提取特征,因此,可以提高对用户数据的利用率,并降低因遗漏关键特征而导致的特征准确性差的风险,且无需建模人员基于经验去人工设计提取特征,既节省人力,又可以提高得到的提取特征的特征效果及可解释性。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本说明书实施例提供的一种特征提取方法的流程示意图;
图2为本说明书实施例提供的一种风控模型训练方法的流程示意图;
图3为本说明书实施例提供的一种用户行为风险分析方法的流程示意图;
图4为本说明书实施例提供的对应于图1中方法的一种特征提取装置的结构示意图;
图5为本说明书实施例提供的对应于图2中方法的一种风控模型训练装置的结构示意图;
图6为本说明书实施例提供的对应于图3中方法的一种用户行为风险分析装置的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本申请各实施例提供的技术方案。
随着科技的进步与发展,风控模型的应用场景已经变的非常广泛。风控模型在应用服务提供商提供的各种业务中体现的方式和功能是不一样的。例如,从应用场景的角度来看,风控模型可应用于设备盗用监控、舆情监控、消费金融、供应链金融、信用借贷、P2P及大数据征信等方面。从资金的角度来看,风控模型可用于实现评估用户还款能力和还款意愿、保证平台安全、反欺诈反作弊及反赌博等功能。
目前,应用服务提供商为保障用户及企业的利益,通常会请建模专家基于个人经验设计与初始算法模型相匹配的训练特征,并使用人工设计出的特征去训练初始算法模型,得到风控模型。由于用户原始数据中不同表征类型的数据之间的差异性较大,因此,建模专家通常无法使用全部用户原始数据去生成训练特征,导致了对用户原始数据的利用率较低的问题,且人工设计的训练特征,还容易因遗漏重要特征而影响最终生成的风控模型的准确性。因此,急需一种对用户数据利用率高且生成的特征的有效性好的特征提取的方法。
图1为本说明书实施例提供的一种特征提取方法。从程序角度而言,该方法的执行主体可以为搭载于指定应用程序的服务端中的程序。
如图1所示,该方法可以包括以下步骤:
步骤101:获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据。
在本说明书实施例中,用户的终端设备上搭载有指定应用,用户可以使用该终端设备上处于登录状态的指定应用处的应用账户(后续简称为“指定应用账户”)执行操作,以请求指定应用提供的各项服务。相应的,该终端设备及指定应用的服务端中会生成与用户对该指定应用账户执行的操作相关的数据(即待处理用户数据)。该待处理用户数据可以包含多种表征类型的数据,例如,用户行为数据、用户行为统计数据及用户静态数据等。其中,表征类型是指信息记载或表达的方式。
在本说明书实施例中,用户行为数据是记录用户对终端设备上的指定应用执行的操作的数据,所述用户行为数据可用于描述用户在什么时间、什么地点、以何种交互方式对终端设备及其搭载的指定应用程序完成了何种内容的操作。所述用户行为数据可以包括:登录行为数据、功能设置行为数据、通讯行为数据、浏览行为数据、交易数据及身份验证行为数据。在一条用户行为数据中可以包括:终端设备唯一标识、终端设备的位置信息、指定应用账户标识、用户触发的操作的标识及操作发生时间等信息。例如,一条用户行为数据可以为{移动设备国际识别码123(即International Mobile Equipment Identity),a省b市c区,支付应用程序处的已注册账户标识ddd,话费充值,100元,2019-6-1-14:30}。
在本说明书实施例中,所述用户行为统计数据是对第一预设时间段内的用户行为数据进行字段分类汇总得到的数据。例如,假定,用户使用的指定应用账户A在一个月内生成的用户行为数据中包含“交易场景a1”、“交易场景a2”、“操作标识b1”、“操作标识b2”、“验证方式c1”、“验证方式c2”、“登录类型d1”及“登录类型d2”等字段,按时间维度(每天)及各个字段出现频次维度,对指定应用账户A对应的用户行为数据进行聚合统计汇总,得到用户行为统计数据,该用户行为统计数据是由统计数据0至统计数据N组成的,即该用户行为统计数据中包含N+1个统计数据;其中,统计数据N可以用于表示对当天(包含指定应用账户A的行为数据的最晚生成时刻之前的24小时)往前的第N天生成的用户行为数据进行统计生成的统计数据,当N等于0时,意为对当天生成的用户行为数据进行统计得到的统计数据。具体的,对于一条统计数据N可以表示为:{交易场景a1出现次数x1”,交易场景a2出现次数x2,操作标识b1出现次数x3,操作标识b2出现次数x4,验证方式c1出现次数x5,验证方式c2出现次数x6,登录类型d1出现次数x7,登录类型d2出现次数x8},x1-x8中任意一个数值可以等于零。
在本说明书实施例中,用户静态数据是用户在指定应用处的应用账户的静态数据,所谓静态数据是指在指定应用程序运行过程中主要作为控制或参考用的数据,它们一般不随指定应用的运行而变,例如,账户注册信息及账户名等信息。在实际应用中,所述应用账户静态数据集合中的数据还可以是用户执行的操作所请求的业务的静态数据,例如,业务属性、业务参数等信息。
步骤102:将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的。
在本说明书实施例中,可以预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练,以生成第一特征提取模型。在实际应用中,所述用户行为数据样本的风险分析结果已经确定,因此,可以将用户行为数据样本作为用于处理时序数据的算法模型的输入,将该用户行为数据样本的风险分析结果作为用于处理时序数据的算法模型的输出,对用于处理时序数据的算法模型进行训练,得到第一特征提取模型。
在本说明书实施例中,对于第一特征提取模型而言,可以认为第一特征提取模型中包含输入层、隐藏层及输出层等三种数据处理层,其中,输入层的输出特征是隐藏层的输入特征,隐藏层的输出特征(即隐藏层包含的各个节点的输出值与对应权重的乘积)是输出层的输入特征。
在实际应用中,当第一特征提取模型仅包含一个隐藏层时,可以将第一特征提取模型中包含的这一隐藏层的输出特征作为该第一特征提取模型的隐藏层输出特征。当第一特征提取模型中包含多个隐藏层时,由于特征提取模型中不同隐藏层的节点数量不同,因此,可以根据实际需求从该第一特征提取模型中选取一个合适的隐藏层的输出特征作为该第一特征提取模型的隐藏层输出特征,以避免该第一特征提取模型的隐藏层输出特征存在过拟合或收敛性差的问题。例如,可以将第一特征提取模型中与输出层相邻的隐藏层的输出特征作为该第一特征提取模型的隐藏层输出特征。
步骤103:将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的。
在本说明书实施例中,生成第二特征提取模型的方法与生成第一特征提取模型的原理可以是相同的,确定第二特征提取模型的隐藏层输出特征与确定第一特征提取模型的隐藏层输出特征时采用的原理也可以是相同的,对此不再赘述。
步骤104:将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的。
在本说明书实施例中,生成第三特征提取模型的方法与生成第一特征提取模型的原理可以是相同的,确定第三特征提取模型的隐藏层输出特征与确定第一特征提取模型的隐藏层输出特征时采用的原理也可以是相同的,对此不再赘述。
步骤105:确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
在本说明书实施例中,将该待处理用户数据中的用户行为数据、用户行为统计数据及用户静态数据,分别输入至采用对应表征类型的数据样本训练得到的第一特征提取模型、第二特征提取模型及第三特征提取模型中,将第一特征提取模型的隐藏层输出特征、第二特征提取模型的隐藏层输出特征及第三特征提取模型的隐藏层输出特征共同确定为该待处理用户数据的提取特征。由于采用了待处理用户数据中包含的各种表征类型的数据去生成提取特征,因此,可以提高对用户数据的利用率,并降低因遗漏关键特征而导致的特征准确性差的风险,且无需建模人员基于经验去人工设计提取特征,既节省人力,又可以提高得到的提取特征的特征效果及可解释性。
基于图1中的方法,本说明书实施例还提供了该方法的一些具体实施方式,下面进行说明。
实施例一
在本实施例中,待处理用户数据还可以包括:用户图数据,所述用户图数据可以用于确定与所述用户具有关联关系的业务主体。其中,所述业务主体可以包括指定应用账户、终端设备唯一标识及互联网协议地址等。
在本实施例中,图1中的方法在步骤105之前,还可以包括:
将所述用户图数据输入第四特征提取模型,得到所述第四特征提取模型的隐藏层输出特征;所述第四特征提取模型是预先使用用户图数据样本对用于处理图数据的算法模型进行训练得到的。
对应的,步骤105:确定所述待处理用户数据的提取特征,具体可以包括:
将所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征、所述第三特征提取模型的隐藏层输出特征及所述第四特征提取模型的隐藏层输出特征共同确定为所述待处理用户数据的提取特征。
在本实施例中,生成第四特征提取模型的方法与生成第一特征提取模型的原理可以是相同的,确定第四特征提取模型的隐藏层输出特征与确定第一特征提取模型的隐藏层输出特征时采用的原理也可以是相同的,对此不再赘述。
在本说明书实施例中,第一特征提取模型对应的用于处理时序数据的算法模型可以包括:循环神经网络模型、卷积神经网络模型或长短期记忆网络模型。第二特征提取模型对应的用于处理文本型序列数据的算法模型可以包括:文本卷积神经网络模型、循环神经网络模型、卷积神经网络模型或长短期记忆网络模型。第三特征提取模型对应的用于处理非序列数据的算法模型包括:深度神经网络模型、逻辑回归模型、因子分解机模型或压缩交互式网络模型。第四特征提取模型对应的用于处理图数据的算法模型包括图卷积神经网络模型。
在本说明书实施例中,给出了提取特征时所使用的各个特征提取模型可以采用的预设算法模型。其中,使用文本卷积神经网络模型提取用户行为统计数据对应的特征时,具有较好的特征识别效果。使用压缩交互式网络模型提取用户静态数据对应的特征时,不仅可以实现高阶的特征交叉,还可以提高提取的特征的效果及可解释性。
在本说明书实施例中,由于不同的特征提取模型可以对不同表征类型的数据实现较好的特征提取效果,因此,使用多个特征提取模型从包含不同表征类型数据的待处理用户数据中提取特征,不仅提高了对用户数据的使用率,还可以提升得到的提取特征的表达效果。
图2为本说明书实施例提供的一种风控模型训练方法。从程序角度而言,该方法的执行主体可以为指定应用的服务端搭载的程序。如图2所示,该流程可以包括以下步骤:
步骤201:获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据。
在本说明书实施例中,训练样本集合中的训练样本所包含的数据与图1中的步骤101获取的待处理用户数据可以是相同的,对此不再赘述。
步骤202:对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征可以是采用图1中的特征提取方法得到的。
在本说明书实施例中,提取特征集合中一个提取特征对应于训练样本集合中的一个训练样本,该提取特征可以包括:将该训练样本中的用户行为数据输入第一特征提取模型后得到的该第一特征提取模型的隐藏层输出特征,将该训练样本中的用户行为统计数据输入第二特征提取模型后得到的该第二特征提取模型的隐藏层输出特征,以及将该训练样本中的用户静态数据输入第三特征提取模型后得到的该第三特征提取模型的隐藏层输出特征。其中,步骤202中使用的第一特征提取模型、第二特征提取模型及第三特征提取模型对应于图1中方法所采用的第一特征提取模型、第二特征提取模型及第三特征提取模型,对此不再赘述。
步骤203:使用所述提取特征集合训练初始模型,得到风控模型。
在本说明书实施例中,所述初始模型可以基于各种机器学习算法或模型实现,例如,决策树算法、随机森林算法、遗传算法、神经网络算法、深度学习算法、长短期记忆网络模型、门控循环单元模型或Transformer模型等。
在本说明书实施例中,对于步骤203:具体可以包括:以提取特征集合中的提取特征作为初始模型的输入,以基于所述提取特征对应的训练样本的历史风险分析结果确定出的输出标签作为初始模型的输出,对初始模型进行训练,生成风控模型。
在实际应用中,所述风控模型可以是二分类模型,也可以是多分类模型。当所述风控模型为二分类模型时,所述风控模型可用于判断用户行为是否为风险行为。此时,训练样本的输出标签可以为表示用户行为是否是风险行为的标签。例如,当所述风控模型为用于分析用户行为是否为欺诈行为的二分类模型时,训练样本的输出标签可以为表示用户行为是欺诈行为的标签,或者,训练样本的输出标签可以为表示用户行为是正常行为的标签。
当所述风控模型为多分类模型时,所述风控模型可用于确定用户行为属于各类风险行为及正常行为的概率。此时,训练样本的输出标签可以用于表示用户行为所属的行为类型。例如,当所述风控模型为用于分析用户行为是否为欺诈行为、赌博行为或正常行为的三分类模型时,训练样本的输出标签可以为表示用户行为是欺诈行为的标签,或者,训练样本的输出标签可以为表示用户行为是赌博行为的标签,或者,训练样本的输出标签可以为表示用户行为既属于赌博行为又属于欺诈行为的标签,当然,训练样本的输出标签还可以为表示用户行为是正常行为的标签。
在本说明书实施例中,采用图1中的特征提取方法对训练样本集合进行特征提取,得到提取特征集合。由于图1中的特征提取方法可以根据训练样本中的全部表征类型的数据去生成提取特征,因此,可以降低因遗漏关键特征而导致的特征准确性差的风险,提高得到的提取特征的特征效果及可解释性,从而提高基于该提取特征训练得到的风控模型的准确性。
基于图2中的方法,本说明书实施例还提供了该方法的一些具体实施方式,下面进行说明。
实施例一
在本实施例中,训练样本还可以包括用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体;所述提取特征集合中的提取特征可以是采用图1中方法的实施例一中的特征提取方式进行提取的。
具体的,当训练样本还包括用户图数据时,根据该训练样本得到的提取特征包括:将该训练样本中的用户行为数据输入第一特征提取模型后得到的该第一特征提取模型的隐藏层输出特征,将该训练样本中的用户行为统计数据输入第二特征提取模型后得到的该第二特征提取模型的隐藏层输出特征,将该训练样本中的用户静态数据输入第三特征提取模型后得到的该第三特征提取模型的隐藏层输出特征,以及将该训练样本中的用户图数据输入第四特征提取模型后得到的该第四特征提取模型的隐藏层输出特征。
在本实施例中,当训练样本还包括用户图数据时,通过采用图1中方法的实施例一中的特征提取方式提取训练样本的提取特征,从而可以根据训练样本中的全部表征类型的数据去生成提取特征,因此,可以降低因遗漏关键特征而导致的特征准确性差的风险,提高得到的提取特征的特征效果及可解释性,从而提高基于该提取特征训练得到的风控模型的准确性。
在本说明书实施例中,对于步骤203可以有多种实现方式。
方式一:将提取特征集合中的提取特征输入初始模型的输入层,以对该初始模型进行训练,得到风控模型。
在本实现方式中,初始模型可以包含输入层、隐藏层、全连接层及输出层等四种数据处理层。其中,输入层为初始模型中的第一个数据处理层,该输入层是初始模型中距离输出层最远的一层。在将提取特征集合中的提取特征输入初始模型后,初始模型可以基于其自身的隐藏层对提取特征进行处理,并将处理得到的各个子特征输入至全连接层进行特征合并,全连接层将合并后的特征传送给输出层,以便于输出层生成风险评估结果。
在本实现方式中,通过利用初始模型自身的隐藏层对提取特征集合中的提取特征进行进一步的分析处理,有利于提升得到的风控模型的精确性。
方式二:将提取特征集合中的提取特征输入初始模型的全连接层,以对该初始模型进行训练,得到风控模型。
在本实现方式中,初始模型可以包含输入层、隐藏层、全连接层及输出层等四种数据处理层。其中,全连接层为初始模型中的倒数第二个数据处理层,该全连接层是初始模型中距离输出层最近的一层。在将提取特征集合中的提取特征输入初始模型后,初始模型不会利用自身的隐藏层对提取特征进行处理,而是直接将全连接层接收到的提取特征进行特征合并,并将合并后的特征直接传送给输出层,以便于输出层生成风险评估结果。
在本实现方式中,并未利用初始模型自身的隐藏层对提取特征集合中的提取特征进行进一步的分析处理,既可以避免初始模型对提取特征的过拟合问题,也有利于提升风控模型生成风险分析结果时的运行效率。
图3为本说明书实施例提供的一种用户行为风险分析方法。从程序角度而言,该方法的执行主体可以为指定应用的服务端或用户的终端设备上所搭载的程序。如图3所示,该流程可以包括以下步骤:
步骤301:获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种。
在本说明书实施例中,步骤301中获取的待分析用户数据与图1中的步骤101所获取的待处理用户数据可以是相同的,对此不再赘述。
步骤302:对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用图1中的特征提取方法得到的。
步骤303:将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于图1中的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。具体的,该风控模型可以是基于图2中的风控模型训练方法而生成的。
在本说明书实施例中,通过采用图1中的特征提取方法生成待分析用户数据的提取特征,可以得到表达效果较好的提取特征,并使用基于图2中的风控模型训练方法生成的准确性较高的风控模型对该提取特征进行分析,从而可以提高生成的用户行为风险分析结果的准确性。
基于图3中的方法,本说明书实施例还提供了该方法的一些具体实施方式,下面进行说明。
在本说明书实施例中,待分析用户数据还可以包括用户图数据,所述用户图数据可以用于确定与所述用户具有关联关系的业务主体。此时,对于步骤302得到的提取特征,可以是采用图1中方法的实施例一中的特征提取方式得到的。对于步骤303中的风控模型而言,该风控模型可以是使用基于图1中方法的实施例一中的特征提取式对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,则所述样本用户数据集合中的样本用户数据还包括:样本用户图数据。具体的,步骤303中的风控模型以是使用基于图2中方法的实施例一中的风控模型训练方法而生成的。
在本说明书实施例中,在待分析用户数据还包括用户图数据时,通过采用图1中方法的实施例一的特征提取方式生成待分析用户数据的提取特征,可以得到表达效果较好的提取特征,并使用基于图2中方法的实施例一中的风控模型训练方式生成的准确性较高的风控模型,对该提取特征进行分析,从而可以提高生成的用户行为风险分析结果的准确性。
基于同样的思路,本说明书实施例还提供了与图1中方法对应的装置。图4为本说明书实施例提供的对应于图1中方法的一种特征提取装置的结构示意图。如图4所示,该装置可以包括:
获取模块401,用于获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据。
第一特征提取模块402,用于将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的。
第二特征提取模块403,用于将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的。
第三特征提取模块404,用于将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的。
确定模块405,用于确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
在本说明书实施例中,所述待处理用户数据还可以包括:用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体。对应的,图4中的装置还可以包括:
第四特征提取模块,用于将所述用户图数据输入第四特征提取模型,得到所述第四特征提取模型的隐藏层输出特征;所述第四特征提取模型是预先使用用户图数据样本对用于处理图数据的算法模型进行训练得到的。
对应的,所述确定模块405,具体可以用于:
将所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征、所述第三特征提取模型的隐藏层输出特征及所述第四特征提取模型的隐藏层输出特征共同确定为所述待处理用户数据的提取特征。
其中,所述隐藏层输出特征可以为与模型输出层相邻的隐藏层的输出特征。所述用于处理时序数据的算法模型可以包括:循环神经网络模型、卷积神经网络模型或长短期记忆网络模型。所述用于处理文本型序列数据的算法模型可以包括:文本卷积神经网络模型、循环神经网络模型、卷积神经网络模型或长短期记忆网络模型。所述用于处理非序列数据的算法模型可以包括:深度神经网络模型、逻辑回归模型、因子分解机模型或压缩交互式网络模型。所述用于处理图数据的算法模型可以包括图卷积神经网络模型
基于同样的思路,本说明书实施例还提供了与图2中方法对应的装置。图5为本说明书实施例提供的对应于图2中方法的一种风控模型训练装置的结构示意图。如图5所示,该装置可以包括:
获取模块501,用于获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据。
特征提取模块502,用于对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用图1中的特征提取方法得到的。
训练模块503,用于使用所述提取特征集合训练初始模型,得到风控模型。
在本说明书实施例中,所述训练模块503,具体可以用于:将所述提取特征集合中的提取特征输入初始模型的全连接层,对所述初始模型进行训练,得到风控模型。
在本说明书实施例中,所述训练模块503,具体可以用于:将所述提取特征集合中的提取特征输入初始模型的输入层,对所述初始模型进行训练,得到风控模型。
在本说明书实施例中,训练样本还可以包括用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体。特征提取模块502中得到提取特征集合中的提取特征可以是采用图1中方法的实施例一中的特征提取方式得到的。
基于同样的思路,本说明书实施例还提供了与图3中方法对应的装置。图6为本说明书实施例提供的对应于图3中方法的一种用户行为风险分析装置的结构示意图。如图6所示,该装置可以包括:
获取模块601,用于获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种。
特征提取模块602,用于对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用图1中的特征提取方法得到的。
风险分析结果生成模块603,用于将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于图1中的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
在本说明书实施例中,待分析用户数据还可以包括用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体。
对应的,特征提取模块602得到的提取特征可以是采用图1中方法的实施例一中的特征提取方式得到的。风险分析结果生成模块603使用的风控模型,可以是使用基于图1中方法的实施例一中的特征提取方式,对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据还包括:样本用户图数据。
基于同样的思路,本说明书实施例还提供了图1中方法对应的特征提取设备。该设备可以包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据。
将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的。
将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的。
将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的。
确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
基于同样的思路,本说明书实施例还提供了图2中方法对应的风控模型训练设备。该设备可以包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据。
对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用图1中的特征提取方法得到的。
使用所述提取特征集合训练初始模型,得到风控模型。
基于同样的思路,本说明书实施例还提供了图3中方法对应的用户行为风险分析设备。该设备可以包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种。
对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用图1中的特征提取方法得到的。
将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于图1中的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,应包含在本申请的权利要求范围之内。

Claims (18)

1.一种特征提取方法,包括:
获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
2.如权利要求1所述的方法,所述待处理用户数据还包括:用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体;
所述确定所述待处理用户数据的提取特征之前,还包括:
将所述用户图数据输入第四特征提取模型,得到所述第四特征提取模型的隐藏层输出特征;所述第四特征提取模型是预先使用用户图数据样本对用于处理图数据的算法模型进行训练得到的。
所述确定所述待处理用户数据的提取特征,具体包括:
将所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征、所述第三特征提取模型的隐藏层输出特征及所述第四特征提取模型的隐藏层输出特征共同确定为所述待处理用户数据的提取特征。
3.如权利要求1或2所述的方法,所述隐藏层输出特征为与模型输出层相邻的隐藏层的输出特征。
4.如权利要求2所述的方法,所述用于处理时序数据的算法模型包括:循环神经网络模型、卷积神经网络模型或长短期记忆网络模型;
所述用于处理文本型序列数据的算法模型包括:文本卷积神经网络模型、循环神经网络模型、卷积神经网络模型或长短期记忆网络模型;
所述用于处理非序列数据的算法模型包括:深度神经网络模型、逻辑回归模型、因子分解机模型或压缩交互式网络模型;
所述用于处理图数据的算法模型包括图卷积神经网络模型。
5.一种风控模型训练方法,包括:
获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用权利要求1中所述的特征提取方法得到的;
使用所述提取特征集合训练初始模型,得到风控模型。
6.如权利要求5所述的方法,所述训练样本还包括用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体;所述提取特征集合中的提取特征是采用权利要求2中所述的特征提取方法得到的。
7.如权利要求5或6所述的方法,所述使用所述提取特征集合训练初始模型,具体包括:
将所述提取特征集合中的提取特征输入初始模型的输入层。
8.如权利要求5或6所述的方法,所述使用所述提取特征集合训练初始模型,具体包括:
将所述提取特征集合中的提取特征输入初始模型的全连接层。
9.一种用户行为风险分析方法,包括:
获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用权利要求1中所述的特征提取方法得到的;
将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于权利要求1中所述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
10.如权利要求9所述的方法,所述待分析用户数据还包括用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体;
所述提取特征是采用权利要求2中所述的特征提取方法得到的;
所述风控模型是使用基于权利要求2中所述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据还包括:样本用户图数据。
11.一种特征提取装置,包括:
获取模块,用于获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
第一特征提取模块,用于将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
第二特征提取模块,用于将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
第三特征提取模块,用于将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定模块,用于确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
12.如权利要求11所述的装置,所述待处理用户数据还包括:用户图数据,所述用户图数据用于确定与所述用户具有关联关系的业务主体;所述装置还包括:
第四特征提取模块,用于将所述用户图数据输入第四特征提取模型,得到所述第四特征提取模型的隐藏层输出特征;所述第四特征提取模型是预先使用用户图数据样本对用于处理图数据的算法模型进行训练得到的。
所述确定模块,具体用于:
将所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征、所述第三特征提取模型的隐藏层输出特征及所述第四特征提取模型的隐藏层输出特征共同确定为所述待处理用户数据的提取特征。
13.一种风控模型训练装置,包括:
获取模块,用于获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
特征提取模块,用于对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用权利要求1中所述的特征提取方法得到的;
训练模块,用于使用所述提取特征集合训练初始模型,得到风控模型。
14.如权利要求13所述的装置,所述训练模块,具体用于:
将所述提取特征集合中的提取特征输入初始模型的全连接层,对所述初始模型进行训练,得到风控模型。
15.一种用户行为风险分析装置,包括:
获取模块,用于获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
特征提取模块,用于对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用权利要求1中所述的特征提取方法得到的;
风险分析结果生成模块,用于将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于权利要求1中所述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
16.一种特征提取设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待处理用户数据,所述待处理用户数据是基于用户对终端设备上的指定应用执行的操作而得到的,所述待处理用户数据包括:用户行为数据、用户行为统计数据及用户静态数据;
将所述用户行为数据输入第一特征提取模型,得到所述第一特征提取模型的隐藏层输出特征;所述第一特征提取模型是预先使用用户行为数据样本对用于处理时序数据的算法模型进行训练得到的;
将所述用户行为统计数据输入第二特征提取模型,得到所述第二特征提取模型的隐藏层输出特征;所述第二特征提取模型是预先使用用户行为统计数据样本对用于处理文本型序列数据的算法模型进行训练得到的;
将所述用户静态数据输入第三特征提取模型,得到所述第三特征提取模型的隐藏层输出特征;所述第三特征提取模型是预先使用用户静态数据样本对用于处理非序列数据的算法模型进行训练得到的;
确定所述待处理用户数据的提取特征,所述提取特征包括所述第一特征提取模型的隐藏层输出特征、所述第二特征提取模型的隐藏层输出特征及所述第三特征提取模型的隐藏层输出特征。
17.一种风控模型训练设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取训练样本集合;所述训练样本集合中的训练样本是基于用户对终端设备上的指定应用执行的操作而得到的用户数据,所述训练样本包括:用户行为数据、用户行为统计数据及用户静态数据;
对所述训练样本集合进行特征提取,得到提取特征集合,所述提取特征集合中的提取特征是采用权利要求1中所述的特征提取方法得到的;
使用所述提取特征集合训练初始模型,得到风控模型。
18.一种用户行为风险分析设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待分析用户数据,所述待分析用户数据是基于用户对终端设备上的指定应用执行的操作而得到的数据,所述待分析用户数据包括:用户行为数据、用户行为统计数据及用户静态数据中的至少一种;
对所述待分析用户数据进行特征提取,得到提取特征,所述提取特征是采用权利要求1中所述的特征提取方法得到的;
将所述提取特征输入风控模型,得到用户行为风险分析结果,所述风控模型是使用基于权利要求1中所述的特征提取方法对样本用户数据集合进行特征提取得到的提取特征集合训练初始模型而生成的,所述样本用户数据集合中的样本用户数据包括:样本用户行为数据、样本用户行为统计数据及样本用户静态数据。
CN201910923423.3A 2019-09-27 2019-09-27 一种特征提取方法、装置及设备 Pending CN110674188A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910923423.3A CN110674188A (zh) 2019-09-27 2019-09-27 一种特征提取方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910923423.3A CN110674188A (zh) 2019-09-27 2019-09-27 一种特征提取方法、装置及设备

Publications (1)

Publication Number Publication Date
CN110674188A true CN110674188A (zh) 2020-01-10

Family

ID=69080246

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910923423.3A Pending CN110674188A (zh) 2019-09-27 2019-09-27 一种特征提取方法、装置及设备

Country Status (1)

Country Link
CN (1) CN110674188A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111400293A (zh) * 2020-03-10 2020-07-10 北京意锐新创科技有限公司 一种收款数据的多维度参数统计方法和装置
CN111429215A (zh) * 2020-03-18 2020-07-17 北京互金新融科技有限公司 数据的处理方法和装置
CN111898026A (zh) * 2020-08-04 2020-11-06 广州视源电子科技股份有限公司 用户标签生成方法、装置、电子设备及可读存储介质
CN112200308A (zh) * 2020-11-17 2021-01-08 上海优扬新媒信息技术有限公司 一种时序数据的处理方法、装置及电子设备
CN112508609A (zh) * 2020-12-07 2021-03-16 深圳市欢太科技有限公司 人群扩量的预测方法、装置、设备及存储介质
CN113159877A (zh) * 2020-01-22 2021-07-23 北京沃东天骏信息技术有限公司 数据处理方法、装置、系统、计算机可读存储介质
CN113934870A (zh) * 2020-07-14 2022-01-14 北京达佳互联信息技术有限公司 多媒体推荐模型的训练方法、装置及服务器
CN116525121A (zh) * 2023-07-05 2023-08-01 昆明同心医联科技有限公司 栓塞动脉瘤的首发弹簧圈推荐模型建立方法及其应用

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107993085A (zh) * 2017-10-19 2018-05-04 阿里巴巴集团控股有限公司 模型训练方法、基于模型的用户行为预测方法及装置
CN108090607A (zh) * 2017-12-13 2018-05-29 中山大学 一种基于多模型堆栈融合的社交媒体用户人口属性预测方法
CN108280160A (zh) * 2018-01-17 2018-07-13 北京小度信息科技有限公司 一种消息推送方法、装置、服务器和计算机可读存储介质
CN108596434A (zh) * 2018-03-23 2018-09-28 卫盈联信息技术(深圳)有限公司 欺诈检测和风险评估方法、系统、设备及存储介质
CN109242499A (zh) * 2018-09-19 2019-01-18 中国银行股份有限公司 一种交易风险预测的处理方法、装置及系统
CN109272165A (zh) * 2018-09-30 2019-01-25 江苏满运软件科技有限公司 注册概率预估方法、装置、存储介质及电子设备
CN109410036A (zh) * 2018-10-09 2019-03-01 北京芯盾时代科技有限公司 一种欺诈检测模型训练方法和装置及欺诈检测方法和装置
KR20190024148A (ko) * 2017-08-31 2019-03-08 경북대학교 산학협력단 음성 인식 장치 및 음성 인식 방법
CN109635990A (zh) * 2018-10-12 2019-04-16 阿里巴巴集团控股有限公司 一种训练方法、预测方法、装置及电子设备
US20190147366A1 (en) * 2017-11-13 2019-05-16 International Business Machines Corporation Intelligent Recommendations Implemented by Modelling User Profile Through Deep Learning of Multimodal User Data
CN109840660A (zh) * 2017-11-29 2019-06-04 北京四维图新科技股份有限公司 一种车辆特征数据处理方法及车辆风险预测模型训练方法
KR20190085604A (ko) * 2018-01-11 2019-07-19 경희대학교 산학협력단 사용자 행위를 인지하는 방법, 장치 및 컴퓨터 프로그램

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190024148A (ko) * 2017-08-31 2019-03-08 경북대학교 산학협력단 음성 인식 장치 및 음성 인식 방법
CN107993085A (zh) * 2017-10-19 2018-05-04 阿里巴巴集团控股有限公司 模型训练方法、基于模型的用户行为预测方法及装置
US20190147366A1 (en) * 2017-11-13 2019-05-16 International Business Machines Corporation Intelligent Recommendations Implemented by Modelling User Profile Through Deep Learning of Multimodal User Data
CN109840660A (zh) * 2017-11-29 2019-06-04 北京四维图新科技股份有限公司 一种车辆特征数据处理方法及车辆风险预测模型训练方法
CN108090607A (zh) * 2017-12-13 2018-05-29 中山大学 一种基于多模型堆栈融合的社交媒体用户人口属性预测方法
KR20190085604A (ko) * 2018-01-11 2019-07-19 경희대학교 산학협력단 사용자 행위를 인지하는 방법, 장치 및 컴퓨터 프로그램
CN108280160A (zh) * 2018-01-17 2018-07-13 北京小度信息科技有限公司 一种消息推送方法、装置、服务器和计算机可读存储介质
CN108596434A (zh) * 2018-03-23 2018-09-28 卫盈联信息技术(深圳)有限公司 欺诈检测和风险评估方法、系统、设备及存储介质
CN109242499A (zh) * 2018-09-19 2019-01-18 中国银行股份有限公司 一种交易风险预测的处理方法、装置及系统
CN109272165A (zh) * 2018-09-30 2019-01-25 江苏满运软件科技有限公司 注册概率预估方法、装置、存储介质及电子设备
CN109410036A (zh) * 2018-10-09 2019-03-01 北京芯盾时代科技有限公司 一种欺诈检测模型训练方法和装置及欺诈检测方法和装置
CN109635990A (zh) * 2018-10-12 2019-04-16 阿里巴巴集团控股有限公司 一种训练方法、预测方法、装置及电子设备

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113159877A (zh) * 2020-01-22 2021-07-23 北京沃东天骏信息技术有限公司 数据处理方法、装置、系统、计算机可读存储介质
CN111400293A (zh) * 2020-03-10 2020-07-10 北京意锐新创科技有限公司 一种收款数据的多维度参数统计方法和装置
CN111429215A (zh) * 2020-03-18 2020-07-17 北京互金新融科技有限公司 数据的处理方法和装置
CN111429215B (zh) * 2020-03-18 2023-10-31 北京互金新融科技有限公司 数据的处理方法和装置
CN113934870A (zh) * 2020-07-14 2022-01-14 北京达佳互联信息技术有限公司 多媒体推荐模型的训练方法、装置及服务器
CN111898026A (zh) * 2020-08-04 2020-11-06 广州视源电子科技股份有限公司 用户标签生成方法、装置、电子设备及可读存储介质
CN112200308A (zh) * 2020-11-17 2021-01-08 上海优扬新媒信息技术有限公司 一种时序数据的处理方法、装置及电子设备
CN112508609A (zh) * 2020-12-07 2021-03-16 深圳市欢太科技有限公司 人群扩量的预测方法、装置、设备及存储介质
CN112508609B (zh) * 2020-12-07 2024-04-30 深圳市欢太科技有限公司 人群扩量的预测方法、装置、设备及存储介质
CN116525121A (zh) * 2023-07-05 2023-08-01 昆明同心医联科技有限公司 栓塞动脉瘤的首发弹簧圈推荐模型建立方法及其应用
CN116525121B (zh) * 2023-07-05 2023-09-26 昆明同心医联科技有限公司 栓塞动脉瘤的首发弹簧圈推荐模型建立方法及其应用

Similar Documents

Publication Publication Date Title
CN110674188A (zh) 一种特征提取方法、装置及设备
CN108460523B (zh) 一种风控规则生成方法和装置
CN110020938B (zh) 交易信息处理方法、装置、设备及存储介质
CN107391545B (zh) 一种对用户进行分类的方法、输入方法及装置
CN110569428B (zh) 一种推荐模型的构建方法、装置及设备
CN110020427B (zh) 策略确定方法和装置
CN111080304A (zh) 一种可信关系识别方法、装置及设备
CN110633989A (zh) 一种风险行为生成模型的确定方法及装置
EP3640814A1 (en) User-friendly explanation production using generative adversarial networks
US20200074052A1 (en) Intelligent user identification
CN111143578A (zh) 基于神经网络抽取事件关系的方法、装置和处理器
CN113837638A (zh) 话术确定方法、装置及设备
CN112966113A (zh) 一种数据的风险防控方法、装置及设备
CN110263817B (zh) 一种基于用户账号的风险等级划分方法及装置
CN110033092B (zh) 数据标签生成、模型训练、事件识别方法和装置
CN113837635A (zh) 风险检测处理方法、装置及设备
CN111259975B (zh) 分类器的生成方法及装置、文本的分类方法及装置
CN113408254A (zh) 一种页面表单信息填写方法、装置、设备和可读介质
CN113221717A (zh) 一种基于隐私保护的模型构建方法、装置及设备
CN115660105A (zh) 一种模型训练的方法、业务风控的方法及装置
CN111738358B (zh) 一种数据识别方法、装置、设备和可读介质
CN115455957A (zh) 触达用户方法、装置、电子设备及计算机可读存储介质
CN111159397B (zh) 文本分类方法和装置、服务器
CN111242195A (zh) 模型、保险风控模型训练方法、装置及电子设备
CN113220801B (zh) 一种结构化数据分类方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200110