CN112035549A - 数据挖掘方法、装置、计算机设备及存储介质 - Google Patents
数据挖掘方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN112035549A CN112035549A CN202010899986.6A CN202010899986A CN112035549A CN 112035549 A CN112035549 A CN 112035549A CN 202010899986 A CN202010899986 A CN 202010899986A CN 112035549 A CN112035549 A CN 112035549A
- Authority
- CN
- China
- Prior art keywords
- sample
- evaluation parameter
- model
- feature
- new
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007418 data mining Methods 0.000 title claims abstract description 64
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000003860 storage Methods 0.000 title claims abstract description 20
- 238000011156 evaluation Methods 0.000 claims abstract description 123
- 238000005192 partition Methods 0.000 claims abstract description 94
- 238000004364 calculation method Methods 0.000 claims description 19
- 238000012805 post-processing Methods 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 12
- 230000000694 effects Effects 0.000 abstract description 12
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 230000014759 maintenance of location Effects 0.000 description 25
- 230000008569 process Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000013138 pruning Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000013145 classification model Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000012163 sequencing technique Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012216 screening Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000007477 logistic regression Methods 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2465—Query processing support for facilitating data mining operations in structured databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/08—Insurance
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Business, Economics & Management (AREA)
- Technology Law (AREA)
- Fuzzy Systems (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Probability & Statistics with Applications (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请属于人工智能领域,涉及一种数据挖掘方法,包括:根据样本集的更新数据提取新特征;将原始入模特征输入目标模型得到第一模型输出,根据第一模型输出对样本集进行划分得到多个样本分区,计算各样本分区的第一评价参数值;将第一模型输出和新特征输入预设的中间模型获得第二模型输出,计算各样本分区的第二评价参数值;根据第一评价参数值和第二评价参数值计算新特征的评价参数值,根据评价参数值确定是否将新特征作为目标模型的入模特征。本申请还提供一种数据挖掘装置、计算机设备及存储介质。本申请还涉及区块链技术,被确定为入模特征的新特征的特征值可存储于区块链中。本申请能快速甄选提升目标模型的效果的新特征,数据挖掘效率更高。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及数据挖掘方法、装置、计算机设备及存储介质。
背景技术
在数据挖掘中,特征分析方面常以IV(Information Value,信息价值或信息量)、相关系数来判断新特征的优劣,IV值能判断一个特征与目标变量的相关性,即其对目标变量的预测能力,但从模型效果方面考虑,由于数据信息存在一定冗余,高IV的特征不一定能带来模型效果的提升。
目前为分析新特征对模型效果的提升,将挖掘的新特征逐个加入模型来看模型效果以判断特征优劣,此操作的问题是新特征评估耗时长,效率低下。
发明内容
本申请实施例的目的在于提出一种数据挖掘方法、装置、计算机设备及存储介质,以解决现有技术中在对挖掘的新特征进行评估时耗时较长、效率低下的问题。
为了解决上述技术问题,本申请实施例提供一种数据挖掘方法,采用了如下所述的技术方案:
一种数据挖掘方法,包括下述步骤:
接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;
将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;
将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;
根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
为了解决上述技术问题,本申请实施例还提供一种数据挖掘装置,采用了如下所述的技术方案:
一种数据挖掘装置,包括:
特征提取模块,用于接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;
第一计算模块,用于将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;
第二计算模块,用于将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;
特征确定模块,用于根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,采用了如下所述的技术方案:
一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如上所述的数据挖掘方法的步骤。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如上所述的数据挖掘方法的步骤。
与现有技术相比,本申请实施例提供的数据挖掘方法、装置、计算机设备及存储介质主要有以下有益效果:
基于多个样本区间的求取更新数据的新特征的评价参数值,无需将样本的新特征和原始入模特征输入至目标模型进行长时间的训练来确认新特征对目标模型的影响,能够快速甄选提升目标模型的效果的新特征,一方面提高了新特征的评估分析效率,另一方面也提高了目标模型的入模特征的多样性,有利于提高目标模型的输出的准确性。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,下面描述中的附图对应于本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的数据挖掘方法的一个实施例的流程图;
图3是根据本申请的数据挖掘装置的一个实施例的结构示意图;
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的数据挖掘方法一般由服务器执行,相应地,数据挖掘装置一般设置于服务器中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,其示出了根据本申请的数据挖掘方法的一个实施例的流程图。所述的数据挖掘方法包括以下步骤:
S201,接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;
S202,将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;
S203,将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;
S204,根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
下面对上述步骤进行展开说明。
对于步骤S201,数据挖掘指令可以是由客户端的使用者通过给定接口发起,也可以是后台根据预设时间间隔自动发起,或者在检测到数据库的样本存在更新数据时自动发起。对于样本而言,在实际应用场景下,可能产生新的业务场景或者接入新的稳定的数据源,此时需要进行数据挖掘,由此带来的数据加工形成新特征。具体的,新数据产生主要是来自新的业务流程的增加或者线上新数据获取渠道增加,新的业务流程的增加例如APP(Application,应用程序)改版后增加了埋点(如在保险APP中“保险”点击模块埋点),此类数据的获取会随APP的改版增加相应的数据,而新数据获取渠道增加可包括交叉业务产生的数据源或者原本因某些原因(保密等)未接入的数据源,例如当前APP接入了另一APP的数据,此时相应的会产生新的数据,这些新增的数据可被存储至指定的数据库中,以在进行数据挖掘时被读取。
新特征的提取是指基于新的数据加工得到样本粒度的机构化数据。如新数据的增加可能是日志类型的点击日志,那么对点击日志进行文本识别,基于点击日志的文本识别结果提取特征字段,生成统计类的新特征,如在保险APP中近期1个月内点击“保险”模块的次数、近7天内是否点击过“保险”模块等,其中的文本识别可采用现有相关技术,此处不作展开。
在本实施例中,提取新特征的过程中,可预先对新的数据进行清洗对新的数据进行清洗包括无效数据筛选,敏感数据清除等。
在一些实施例中,所述从所述更新数据中提取新特征的步骤包括:从所述更新数据中提取多个新特征形成特征集。在提取到多个新特征时,可对提取后的新特征进行预筛选。
具体的,在所述将所述样本集中各样本的原始入模特征输入目标模型的步骤之前,所述方法还包括:依次判断所述特征集中各新特征是否属于所述目标模型的入模特征集中的特征,若是则从所述特征集中剔除,否则保留,得到不属于所述目标模型的入模特征的特征子集,再对所述特征子集中的各新特征依次执行求取所述评价参数值的步骤,即执行步骤S203和S204,以获得一个或多个目标模型的入模特征,由此提升目标模型的入模特征的多样性。
对于步骤S202,在本实施例中,样本集中各样本的原始入模特征有多个,这些原始入模特征可组成为目标模型的入模特征集。
在一些实施例中,所述目标模型可为用户留存预测模型,相应地,所述第一模型输出为将各样本的原始入模特征集输入所述用户留存预测模型得到的预测评分,所述第一评价参数值为根据所述预测评分得到的AUC(Area Under Curve)值,此处的AUC是基于各样本的所述预测评分得到的ROC(Receiver Operating Characteristic,接受者操作特性)曲线来获得,具体为ROC曲线下与坐标轴围成的面积。
进一步地,所述根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区为:根据用户留存预测模型输出的各样本的预测评分进行排序,根据排序结果将样本集中的样本进行划分,得到多个样本分区。此时可计算得到每个分区的AUC值。具体的,在获得排序结果后,可以结合各样本的预测评分和各样本的目标变量(各样本的预测评分为目标变量的预测值)生成ROC曲线,对ROC曲线进行分区,每个分区对应所述样本集中的部分样本,即得到多个样本分区,然后基于每个所述样本分区对应的样本的预测评分和目标变量可以计算相应的AUC值,即获得各所述样本分区的第一评价参数值。
在本实施例中,所述用户留存预测模型具体可采用LightGBM+Xgboost+剪枝策略+DNN的多模型融合方案,所述样本集中的各样本的原始入模特征输入所述用户留存预测模型后,输出结果可以以样本预测评分向量的形式呈现,具体的,将原始入模特征集输入到LightGBM/Xgboost模型中训练后生成组合特征集合(叶子节点),利用剪枝规则(如各月样本在每个叶子节点的分布占比、正样本比例的稳定性)对叶子节点组成的树进行剪枝,剔除跨时间不稳定的组合特征,再将剪枝后得到的组合特征拼接输入给DNN模型,得到以样本预测评分向量的形式呈现的输出结果,其中的LightGBM/Xgboost模型训练、剪枝规则及DNN模型可采用现有的技术方案实现,在此不作展开。
在一些实施例中,在所述根据所述第一模型输出对所述样本集中的样本进行划分时,所述数据挖掘方法包括:根据所述样本集的样本容量和所述样本集中的样本分类确定所述样本分区的数量。
具体的,在依据样本评分排序结果将样本分成若干样本分区时,划分依据包括样本容量和业务应用需求,其中业务应用需求包括根据业务应用场景对样本进行分类,如在用户留存预测模型场景下,样本集中样本为待预测的指定人群,假定样本集中样本为100000左右,为保证每个样本分区有足够的样本量,分区数不能超过10个;而实际应用中将样本分为多个等级(比如7个等级),为使得新特征能实现跨等级的排序优化,需优选分成一定数量的样本分区,比如优选分成3至5个样本分区,综合样本容量和样本分类两者考量可以确定最终的样本分区的数量,比如在前述举例中,最终分成3至10个样本分区。
对于步骤S203,在本实施例中,在步骤S202目标模型为用户留存预测模型,第一评价参数值为AUC值的前提下,所述中间模型为基于新特征和各样本在目标模型中的第一模型输出两个维度生成的评分模型。相应的,所述第二模型输出为各样本在增加了新特征后输入所述评分模型得到的新的评分,所述第二评价参数值为各样本分区在样本增加了新特征之后的AUC值,即将新特征与各样本的首次评分(由目标模型输出的评分)输入所述评分模型,得到各样本新的评分和基于新的评分的各样本分区的新的AUC值。
在一些实施例中,所述评分模型采用包括预设棵树的LightGBM树模型。具体的,评分模型可采用10棵树左右的LightGBM树模型,采用此数量的LightGBM树模型,可以在获得准确的评分结果的同时不会占用过多系统处理资源。在另一些实施例中,所述评分模型也可选择逻辑回归模型或根据实际要求确定的模型。
在另一些实施例,当所述目标模型为其他分类模型时,步骤S202和S203中的第一评价参数值和第二评价参数值也可以是其他分类模型评估特征的值,这些评估特征如准确率、覆盖率、交叉熵、logloss等,在此不作展开。
对于步骤S204,在本实施例中,所述根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征的步骤具体为:根据所述评价参数值判断所述新特征对所述目标模型的是否存在正相关影响,并在判定存在正相关影响时将所述新特征作为所述目标模型的入模特征。其中,正相关影响是指新特征对目标模型的效果起到提升作用,最终可体现在模型预测准确度的提高。
在步骤S202和S203中的样本分区是一致的,在一些实施例中,所述根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值包括:根据同一个所述样本分区的所述第一评价参数值和所述第二评价参数值获取所述新特征的子评价参数值,根据多个所述样本分区得到所述新特征的多个子评价参数值,根据所述多个子评价参数值得到所述评价参数值。通过计算多个子评价参数值,可以对整体样本进行评价的同时,也可精确地评价新特征对样本分区的影响。
具体的,可通过对多个所述子评价参数值进行加权求和得到新特征的评价参数值,各样本分区的加权系数是根据对业务的重要性决定的,可通过每个样本分区排序准确性对业务贡献大小设定不同的权重,例如在留存预测模型场景下,更为关注头部和尾部人群的精度(头部人群有资源倾斜、尾部人群淘汰),因为头部人群认定是优秀人群,能获得更多的资源(比如佣金)支持,而尾部人群认为是较差的人群,会实施淘汰措施,中间分区则相比无较大差异,若头部分区人群和尾部分区人群的准确度低,则会存在把更好的资源给了差的人或者淘汰了本应该会留存的人而没有达到期望留存水平,因此在留存预测模型应用场景下,对头部和尾部人群所在的样本分区的加权系数的设定相对其他样本分区更高。
在本实施例中,在所述第一评价参数值和所述第二评价参数值为AUC值的前提下,根据各样本分区前后两次得到的AUC值计算新特征的子评价参数值。此处以划分有3个样本分区为例说明一种可能的计算过程,三个样本分区分别为样本分区A、样本分区B和样本分区C,通过下式获取新特征的子评价参数值:
PA=AUC1A–AUC0A;
PB=AUC1B–AUC0B;
PC=AUC1C–AUC0C;
其中,PA、PB、PC为新特征在三个样本分区上对应的子评价参数值,AUC0A、AUC0B、AUC0C为三个样本分区第一次得到的AUC值,AUC1A、AUC1B、AUC1C为增加新特征后的三个样本分区第二次得到的AUC值,进一步可通过下式获取新特征的评价参数值P:
P=a*PA+b*PB+c*PC;
其中a、b、c为各个样本分区的加权系数,若评价参数值P大于0,说明新特征输入给模型的收益为正,即判定新特征对目标模型的效果具有正相关影响,该新特征可直接作为入模特征输入给目标模型。
在一些实施例中,所述数据挖掘方法还包括:
若根据所述评价参数值判定所述新特征对所述目标模型不存在正相关影响,则根据所述新特征的各所述子评价参数值判断所述新特征对各所述样本区间是否有正相关影响,若判定存在正相关影响则将所述新特征作为所述目标模型结果后处理的选择特征。
在本实施例中,将新特征作为目标模型结果后处理的选择特征是指:在目标模型输出结果后,对模型输出进行后处理时,可通过对部分样本区间具有正相关影响的新特征作为后处理的选择特征,结合预设的规则对模型输出进行微调。通过此种方式可以提高目标模型进行预测时的输出的准确度。
以用户留存预测模型为例,在所述第一评价参数值和所述第二评价参数值为AUC值时,基于上述等式获得PA、PB、PC以及P后,若若P小于0,但PA、PB、PC中存在一个大于0且跨时间验证稳定,则该新特征对整体样本排序的收益为负,即判定新特征对用户留存预测模型的效果不具有正相关影响,但对某一样本区间的持续收益为正,虽然该新特征不能作为用户留存预测模型的入模特征,但可以做为用户留存预测模型结果后处理选择特征,即通过规则对用户留存预测模型输出的评分进行微调,如某新特征对所有分区样本的AUC提升收益为负,但对末端人群分区的AUC提升明显,可用作生成后处理规则,此时后处理即指模型输出评分后通过规则对评分排序调整,在用户留存预测场景下,假如新特征X取值为1的样本留存明显优于特征取值为0的样本,且在该分区将新特征X取值为1的样本全部排列在取值为0的样本前,此种排列顺序分区AUC高于原排序分区AUC,则规则“在该分区将新特征X取值为1的样本全部排列在取值为0的样本前”即为一条有效的后处理规则。
本申请提供的数据挖掘方法基于多个样本区间的求取更新数据的新特征的评价参数值,无需将样本的新特征和原始入模特征输入至目标模型进行长时间的训练来确认新特征对目标模型的影响,能够快速甄选提升目标模型的效果的新特征,一方面提高了新特征的评估分析效率,另一方面也提高了目标模型的入模特征的多样性,有利于提高目标模型的输出的准确性。在进行保险场景下代理人留存预测模型中的新特征挖掘时,采用本申请方法对挖掘的新特征进行评价可从2小时缩短至1分钟内,大大提升了新特征信息多样性评估效率。
需要强调的是,为进一步保证信息的私密和安全性,在得到作为入模特征的新特征后,所述新特征的特征值还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3,作为对上述图2所示方法的实现,本申请提供了一种数据挖掘装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,本实施例所述的数据挖掘装置包括:特征提取模块301、第一计算模块302、第二计算模块303以及特征确定模块304。
其中,特征提取模块301用于接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;第一计算模块302用于将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;第二计算模块303用于将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;特征确定模块304用于根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
在本实施例中,特征提取模块301接收数据挖掘指令进行挖掘的数据新特征来源于新的业务场景或者新的稳定的数据源,其中新特征的提取是指基于新的数据加工得到样本粒度的机构化数据。关于数据挖掘指令、新的数据的产生和新特征的提取相关内容具体可参考上述方法实施例,在此不作展开。
在本实施例中,特征提取模块301在提取新特征的过程中,可预先对新的数据进行清洗对新的数据进行清洗包括无效数据筛选,敏感数据清除等。
在一些实施例中,特征提取模块301所述从所述更新数据中提取新特征时具体用于从所述更新数据中提取多个新特征形成特征集。在提取到多个新特征时,特征提取模块301可对提取后的新特征进行预筛选,具体的,在所述第一计算模块302将所述样本集中各样本的原始入模特征输入目标模型之前,所述特征提取模块301还用于依次判断所述特征集中各新特征是否属于所述目标模型的入模特征集中的特征,若是则从所述特征集中剔除,否则保留,得到不属于所述目标模型的入模特征的特征子集。所述第一计算模块302、第二计算模块303和特征确定模块304基于所述特征子集中的各新特征依次执行相关操作,以获得一个或多个目标模型的入模特征,由此提升目标模型的入模特征的多样性。
在本实施例中,样本集中各样本的原始入模特征有多个,这些原始入模特征可组成为目标模型的入模特征集。
在一些实施例中,所述第一计算模块302采用的目标模型可为用户留存预测模型,相应地,所述第一模型输出为将各样本的原始入模特征集输入所述用户留存预测模型得到的预测评分,所述第一评价参数值为根据所述预测评分得到的AUC值。进一步地,所述第一计算模块302根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区时,具体用于根据用户留存预测模型输出的各样本的预测评分进行排序,根据排序结果将样本集中的样本进行划分,得到多个样本分区。此时可计算得到每个分区的AUC值,具体可参考上述方法实施例的相关内容,在此不作展开。
在本实施例中,所述用户留存预测模型具体可采用LightGBM+Xgboost+剪枝策略+DNN的多模型融合方案,所述样本集中的各样本的原始入模特征输入所述用户留存预测模型后,输出结果可以以样本预测评分向量的形式呈现,具体可参考上述方法实施例的相关内容,在此不作展开。
在一些实施例中,在所述第一计算模块302根据所述第一模型输出对所述样本集中的样本进行划分时,还用于根据所述样本集的样本容量和所述样本集中的样本分类确定所述样本分区的数量,具体可参考上述方法实施例的相关内容,在此不作展开。
在本实施例中,在目标模型为用户留存预测模型,第一评价参数值为AUC值的前提下,所述第二计算模块303采用的中间模型为基于新特征和各样本在目标模型中的第一模型输出两个维度生成的评分模型。相应的,所述第二模型输出为各样本在增加了新特征后输入所述评分模型得到的新的评分,所述第二评价参数值为各样本分区在样本增加了新特征之后的AUC值,即将新特征与各样本的首次评分(由目标模型输出的评分)输入所述评分模型,得到各样本新的评分和基于新的评分的各样本分区的新的AUC值。在一些实施例中,所述评分模型采用包括预设棵树的LightGBM树模型。具体的,评分模型可采用10棵树左右的LightGBM树模型,采用此数量的LightGBM树模型,可以在获得准确的评分结果的同时不会占用过多系统处理资源。在另一些实施例中,所述评分模型也可选择逻辑回归模型或根据实际要求确定的模型。
在另一些实施例,当所述目标模型为其他分类模型时,第一计算模块302、第二计算模块303获取的第一评价参数值和第二评价参数值也可以是其他分类模型评估特征的值,这些评估特征如准确率、覆盖率、交叉熵、logloss等,在此不作展开。
在本实施例中,所述特征确定模块304根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征时,具体用于根据所述评价参数值判断所述新特征对所述目标模型的是否存在正相关影响,并在判定存在正相关影响时将所述新特征作为所述目标模型的入模特征。其中,正相关影响是指新特征对目标模型的效果起到提升作用,最终可体现在模型预测准确度的提高。
本实施例中第一计算模块302、第二计算模块303计算时的样本分区是一致的,在一些实施例中,所述特征确定模块304根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值时,具体用于根据同一个所述样本分区的所述第一评价参数值和所述第二评价参数值获取所述新特征的子评价参数值,根据多个所述样本分区得到所述新特征的多个子评价参数值,根据所述多个子评价参数值得到所述评价参数值。通过计算多个子评价参数值,可以对整体样本进行评价的同时,也可精确地评价新特征对样本分区的影响。
具体的,可通过对多个所述子评价参数值进行加权求和得到新特征的评价参数值,各样本分区的加权系数是根据对业务的重要性决定的,可通过每个样本分区排序准确性对业务贡献大小设定不同的权重,例如在留存预测模型场景下,更为关注头部和尾部人群的精度(头部人群有资源倾斜、尾部人群淘汰),因为头部人群认定是优秀人群,能获得更多的资源(比如佣金)支持,而尾部人群认为是较差的人群,会实施淘汰措施,中间分区则相比无较大差异,若头部分区人群和尾部分区人群的准确度低,则会存在把更好的资源给了差的人或者淘汰了本应该会留存的人而没有达到期望留存水平,因此在留存预测模型应用场景下,对头部和尾部人群所在的样本分区的加权系数的设定相对其他样本分区更高。
在本实施例中,在所述第一评价参数值和所述第二评价参数值为AUC值的前提下,根据各样本分区前后两次得到的AUC值计算新特征的子评价参数值,具体计算过程可参考上述方法实施例相关内容,在此不作展开。
在一些实施例中,所述特征确定模块304还用于在根据所述评价参数值判定所述新特征对所述目标模型不存在正相关影响时,根据所述新特征的各所述子评价参数值判断所述新特征对各所述样本区间是否有正相关影响,若判定存在正相关影响则将所述新特征作为所述目标模型结果后处理的选择特征。在本实施例中,将新特征作为目标模型结果后处理的选择特征是指:在目标模型输出结果后,对模型输出进行后处理时,可通过对部分样本区间具有正相关影响的新特征作为后处理的选择特征,结合预设的规则对模型输出进行微调。通过此种方式可以提高目标模型进行预测时的输出的准确度。具体的实例说明可参考上述方法实施例,在此不作展开。
本申请提供的数据挖掘装置基于多个样本区间的求取更新数据的新特征的评价参数值,无需将样本的新特征和原始入模特征输入至目标模型进行长时间的训练来确认新特征对目标模型的影响,能够快速甄选提升目标模型的效果的新特征,一方面提高了新特征的评估分析效率,另一方面也提高了目标模型的入模特征的多样性,有利于提高目标模型的输出的准确性。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43,所述存储器41中存储有计算机可读指令,所述处理器42执行所述计算机可读指令时实现上述方法实施例中所述的数据挖掘方法的步骤,并具有与上述数据挖掘方法相对应的有益效果,在此不作展开。
需要指出的是,图中仅示出了具有存储器41、处理器42、网络接口43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
在本实施例中,所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(SecureDigital,SD)卡,闪存卡(Flash Card)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如对应于上述数据挖掘方法的计算机可读指令等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据,例如运行对应于所述数据挖掘方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的数据挖掘方法的步骤,并具有与上述数据挖掘方法相对应的有益效果,在此不作展开。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (10)
1.一种数据挖掘方法,其特征在于,包括下述步骤:
接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;
将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;
将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;
根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
2.根据权利要求1所述的数据挖掘方法,其特征在于,所述根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值包括:
根据同一个所述样本分区的所述第一评价参数值和所述第二评价参数值获取所述新特征的子评价参数值,根据多个所述样本分区得到所述新特征的多个子评价参数值,根据所述多个子评价参数值得到所述评价参数值。
3.根据权利要求2所述的数据挖掘方法,其特征在于,所述根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征的步骤具体为:
根据所述评价参数值判断所述新特征对所述目标模型的是否存在正相关影响,并在判定存在正相关影响时将所述新特征作为所述目标模型的入模特征;
所述数据挖掘方法还包括:
若根据所述评价参数值判定所述新特征对所述目标模型不存在正相关影响,则根据所述新特征的各所述子评价参数值判断所述新特征对各所述样本区间是否有正相关影响,若判定存在正相关影响则将所述新特征作为所述目标模型结果后处理的选择特征。
4.根据权利要求1至3任一项所述的数据挖掘方法,其特征在于,所述从所述更新数据中提取新特征的步骤包括:从所述更新数据中提取多个新特征形成特征集;
在所述将所述样本集中各样本的原始入模特征输入目标模型的步骤之前,所述方法还包括:
依次判断所述特征集中各新特征是否属于所述目标模型的入模特征集中的特征,若是则从所述特征集中剔除,否则保留,得到不属于所述目标模型的入模特征的特征子集,再对所述特征子集中的各新特征依次执行求取所述评价参数值的步骤。
5.根据权利要求1至3任一项所述的数据挖掘方法,其特征在于,在所述根据所述第一模型输出对所述样本集中的样本进行划分时,所述数据挖掘方法包括:根据所述样本集的样本容量和所述样本集中的样本分类确定所述样本分区的数量。
6.根据权利要求1至3任一项所述的数据挖掘方法,其特征在于,所述目标模型为用户留存预测模型,所述第一模型输出为将各样本的原始入模特征输入所述用户留存预测模型得到的预测评分,所述第一评价参数值为根据所述预测评分得到的AUC值。
7.根据权利要求6所述的数据挖掘方法,其特征在于,所述中间模型为评分模型,所述评分模型采用包括预设棵树的LightGBM树模型。
8.一种数据挖掘装置,其特征在于,包括:
特征提取模块,用于接收数据挖掘指令,根据所述数据挖掘指令从数据库中读取样本集中各样本的更新数据,并从所述更新数据中提取新特征;
第一计算模块,用于将所述样本集中各样本的原始入模特征输入目标模型,得到各所述样本的第一模型输出,根据所述第一模型输出对所述样本集中的样本进行划分,得到多个样本分区,并基于所述第一模型输出计算各所述样本分区的第一评价参数值;
第二计算模块,用于将各所述样本的所述第一模型输出和所述新特征输入预设的中间模型,获得各所述样本的第二模型输出,基于所述第二模型输出计算各所述样本分区的第二评价参数值;
特征确定模块,用于根据各所述样本分区的所述第一评价参数值和所述第二评价参数值计算所述新特征的评价参数值,以根据所述评价参数值确定是否将所述新特征作为所述目标模型的入模特征。
9.一种计算机设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的数据挖掘方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的数据挖掘方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010899986.6A CN112035549B (zh) | 2020-08-31 | 2020-08-31 | 数据挖掘方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010899986.6A CN112035549B (zh) | 2020-08-31 | 2020-08-31 | 数据挖掘方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112035549A true CN112035549A (zh) | 2020-12-04 |
CN112035549B CN112035549B (zh) | 2023-12-08 |
Family
ID=73586631
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010899986.6A Active CN112035549B (zh) | 2020-08-31 | 2020-08-31 | 数据挖掘方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112035549B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112685674A (zh) * | 2020-12-30 | 2021-04-20 | 百果园技术(新加坡)有限公司 | 一种影响用户留存的特征评估方法及装置 |
CN112711580A (zh) * | 2020-12-30 | 2021-04-27 | 陈静 | 用于云计算业务的大数据挖掘方法及云计算金融服务器 |
CN112766649A (zh) * | 2020-12-31 | 2021-05-07 | 平安科技(深圳)有限公司 | 基于多评分卡融合的目标对象评价方法及其相关设备 |
CN115292339A (zh) * | 2022-08-31 | 2022-11-04 | 北京百度网讯科技有限公司 | 数据库更新方法、装置、电子设备和存储介质 |
CN117271980A (zh) * | 2023-11-17 | 2023-12-22 | 中国水利水电科学研究院 | 钻进数据处理方法、装置、电子设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101000624A (zh) * | 2007-01-10 | 2007-07-18 | 华为技术有限公司 | 实现数据挖掘模型转换和应用的方法、系统及装置 |
CN109783619A (zh) * | 2018-12-14 | 2019-05-21 | 广东创我科技发展有限公司 | 一种数据过滤挖掘方法 |
CN110704509A (zh) * | 2019-10-09 | 2020-01-17 | 北京百度网讯科技有限公司 | 数据分类方法、装置、设备及存储介质 |
CN111538767A (zh) * | 2020-05-28 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置、设备及存储介质 |
-
2020
- 2020-08-31 CN CN202010899986.6A patent/CN112035549B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101000624A (zh) * | 2007-01-10 | 2007-07-18 | 华为技术有限公司 | 实现数据挖掘模型转换和应用的方法、系统及装置 |
CN109783619A (zh) * | 2018-12-14 | 2019-05-21 | 广东创我科技发展有限公司 | 一种数据过滤挖掘方法 |
CN110704509A (zh) * | 2019-10-09 | 2020-01-17 | 北京百度网讯科技有限公司 | 数据分类方法、装置、设备及存储介质 |
CN111538767A (zh) * | 2020-05-28 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置、设备及存储介质 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112685674A (zh) * | 2020-12-30 | 2021-04-20 | 百果园技术(新加坡)有限公司 | 一种影响用户留存的特征评估方法及装置 |
CN112711580A (zh) * | 2020-12-30 | 2021-04-27 | 陈静 | 用于云计算业务的大数据挖掘方法及云计算金融服务器 |
CN112766649A (zh) * | 2020-12-31 | 2021-05-07 | 平安科技(深圳)有限公司 | 基于多评分卡融合的目标对象评价方法及其相关设备 |
CN115292339A (zh) * | 2022-08-31 | 2022-11-04 | 北京百度网讯科技有限公司 | 数据库更新方法、装置、电子设备和存储介质 |
CN117271980A (zh) * | 2023-11-17 | 2023-12-22 | 中国水利水电科学研究院 | 钻进数据处理方法、装置、电子设备及存储介质 |
CN117271980B (zh) * | 2023-11-17 | 2024-02-02 | 中国水利水电科学研究院 | 钻进数据处理方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112035549B (zh) | 2023-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112148987B (zh) | 基于目标对象活跃度的消息推送方法及相关设备 | |
CN112035549B (zh) | 数据挖掘方法、装置、计算机设备及存储介质 | |
CN112101172B (zh) | 基于权重嫁接的模型融合的人脸识别方法及相关设备 | |
CN111914569B (zh) | 基于融合图谱的预测方法、装置、电子设备及存储介质 | |
CN112766649B (zh) | 基于多评分卡融合的目标对象评价方法及其相关设备 | |
CN112328909B (zh) | 信息推荐方法、装置、计算机设备及介质 | |
CN112508118B (zh) | 针对数据偏移的目标对象行为预测方法及其相关设备 | |
CN111199474A (zh) | 一种基于双方网络图数据的风险预测方法、装置和电子设备 | |
CN111222976A (zh) | 一种基于双方网络图数据的风险预测方法、装置和电子设备 | |
CN112308173B (zh) | 基于多评价因子融合的多目标对象评价方法及其相关设备 | |
CN112861662B (zh) | 基于人脸和交互文本的目标对象行为预测方法及相关设备 | |
CN107368499B (zh) | 一种客户标签建模及推荐方法及装置 | |
CN112529477A (zh) | 信用评估变量筛选方法、装置、计算机设备及存储介质 | |
CN112785005A (zh) | 多目标任务的辅助决策方法、装置、计算机设备及介质 | |
CN109359180A (zh) | 用户画像生成方法、装置、电子设备及计算机可读介质 | |
CN112288163A (zh) | 目标对象的目标因子预测方法及相关设备 | |
CN112085087A (zh) | 业务规则生成的方法、装置、计算机设备及存储介质 | |
CN111931848A (zh) | 数据的特征提取方法、装置、计算机设备及存储介质 | |
CN112036483A (zh) | 基于AutoML的对象预测分类方法、装置、计算机设备及存储介质 | |
CN113420212A (zh) | 基于深度特征学习的推荐方法、装置、设备及存储介质 | |
CN113934983A (zh) | 一种特征变量的分析方法、装置、计算机设备及存储介质 | |
CN114861746A (zh) | 基于大数据的反欺诈识别方法、装置及相关设备 | |
CN113781246B (zh) | 基于预设标签的策略生成方法、装置及存储介质 | |
CN112990583B (zh) | 一种数据预测模型的入模特征确定方法及设备 | |
CN110197078B (zh) | 数据处理方法、装置、计算机可读介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |