CN116228382A - 数据处理方法、装置、电子设备以及存储介质 - Google Patents
数据处理方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN116228382A CN116228382A CN202310077132.3A CN202310077132A CN116228382A CN 116228382 A CN116228382 A CN 116228382A CN 202310077132 A CN202310077132 A CN 202310077132A CN 116228382 A CN116228382 A CN 116228382A
- Authority
- CN
- China
- Prior art keywords
- control data
- wind control
- financial
- financial wind
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 42
- 238000009826 distribution Methods 0.000 claims abstract description 201
- 238000012545 processing Methods 0.000 claims abstract description 38
- 238000011156 evaluation Methods 0.000 claims description 106
- 238000000034 method Methods 0.000 claims description 41
- 238000012549 training Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 5
- 238000010801 machine learning Methods 0.000 abstract description 5
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000009434 installation Methods 0.000 description 8
- 238000003066 decision tree Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000006399 behavior Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000007637 random forest analysis Methods 0.000 description 3
- 238000013475 authorization Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000010006 flight Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Technology Law (AREA)
- Data Mining & Analysis (AREA)
- Development Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Economics (AREA)
- Selective Calling Equipment (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Accounting & Taxation (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
- Artificial Intelligence (AREA)
Abstract
本公开提供了一种数据处理方法、装置、电子设备以及存储介质,涉及人工智能技术领域,尤其涉及机器学习和深度学习技术领域,具体可应用于金融风控场景。具体实现方案为:根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集;在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集,得到与第一金融风控数据集对应的第二指标值集和与第二金融风控数据集对应的第三指标值集;根据第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及机器学习和深度学习技术领域,具体可应用于金融风控场景。具体地,涉及一种数据处理方法、装置、电子设备以及存储介质。
背景技术
随着计算机技术的发展,人工智能技术也得到了发展。例如,可以将人工智能技术应用于金融风控领域。例如,可以利用金融风控数据来训练机器学习模型得到金融风控模型。
发明内容
本公开提供了一数据处理方法、装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种数据处理方法,包括:根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集,其中,上述第一指标值集包括至少一个第一指标值,上述第一指标值用于评估上述第一金融风控数据集和上述第二金融风控数据集之间的特征分布一致性程度;在根据上述第一指标值确定上述第一金融风控数据集和上述第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据上述第一金融风控数据集和上述第二金融风控数据集,得到与上述第一金融风控数据集对应的第二指标值集和与上述第二金融风控数据集对应的第三指标值集,其中,上述决策路径集包括至少一个决策路径,上述决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径;以及,根据上述第二指标值集和上述第三指标值集,确定上述第一金融风控数据集和上述第二金融风控数据集之间的决策分布一致性程度。
根据本公开的另一方面,提供了一种数据处理装置,包括:第一确定模块,用于根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集,其中,上述第一指标值集包括至少一个第一指标值,上述第一指标值用于评估上述第一金融风控数据集和上述第二金融风控数据集之间的特征分布一致性程度;第一获得模块,用于在根据上述第一指标值确定上述第一金融风控数据集和上述第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据上述第一金融风控数据集和上述第二金融风控数据集,得到与上述第一金融风控数据集对应的第二指标值集和与上述第二金融风控数据集对应的第三指标值集,其中,上述决策路径集包括至少一个决策路径,上述决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径;以及,第二确定模块,用于根据上述第二指标值集和上述第三指标值集,确定上述第一金融风控数据集和上述第二金融风控数据集之间的决策分布一致性程度。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如本公开上述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如本公开上述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如本公开上述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用数据处理方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开实施例的数据处理方法的原理示意图;
图4示意性示出了根据本公开实施例的决策路径集的示例示意图;
图5示意性示出了根据本公开实施例的数据处理装置的框图;以及
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
可以利用金融风控数据来训练机器学习模型得到金融风控模型。为了保证金融风控模型的预测准确性,需要保证训练集和测试集的数据分布一致性。
为此,本公开实施例提出了一种数据处理方案。例如,可以根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集。第一指标值集包括至少一个第一指标值。第一指标值用于评估第一金融风控数据集和第二金融风控数据集之间的特征分布一致性程度。在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集,得到与第一金融风控数据集对应的第二指标值集和与第二金融风控数据集对应的第三指标值集。决策路径集包括至少一个决策路径。决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径。根据第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。
根据本公开的实施例,在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,实现了决策分布的一致性校验,由此保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性。
图1示意性示出了根据本公开实施例的可以应用数据处理方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用数据处理方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的数据处理方法及装置。
如图1所示,根据该实施例的系统架构100可以包括第一终端设备101、第二终端设备102、第三终端设备103、网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型。例如,有线和无线通信链路等中的至少之一。终端设备可以包括第一终端设备101、第二终端设备102和第三终端设备103中的至少之一。
用户可以使用第一终端设备101、第二终端设备102和第三终端设备103中的至少之一通过网络104与服务器105交互,以接收或发送消息等。第一终端设备101、第二终端设备102和第三终端设备103中的至少之一可以安装有各种通讯客户端应用。例如,知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和社交平台软件等中的至少之一。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备。例如,电子设备可以包括智能手机、平板电脑、膝上型便携计算机和台式计算机等中的至少之一。
服务器105可以是提供各种服务的服务器。例如,服务器105可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。
需要说明的是,本发明实施例所提供的数据处理方法一般可以由第一终端设备101、第二终端设备102和第三终端设备103中的之一执行。相应地,本发明实施例所提供的数据处理装置也可以设置于第一终端设备101、第二终端设备102和第三终端设备103中的之一。
备选地,本发明实施例所提供的数据处理方法一般也可以由服务器105执行。相应地,本发明实施例所提供的数据处理装置一般可以设置于服务器105中。本发明实施例所提供的数据处理方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和服务器105中的至少之一通信的服务器或服务器集群执行。相应地,本发明实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和服务器105中的至少之一通信的服务器或服务器集群中。
应该理解,图1中的第一终端设备、第二终端设备、第三终端设备网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的第一终端设备、第二终端设备、第三终端设备、网络和服务器。
应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该方法200包括操作S210~S230。
在操作S210,根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集。
在操作S220,在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集,得到与第一金融风控数据集对应的第二指标值集和与第二金融风控数据集对应的第三指标值集。
在操作S230,根据第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。
根据本公开的实施例,第一指标值集可以包括至少一个第一指标值。第一指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的特征分布一致性程度。决策路径集可以包括至少一个决策路径。决策路径可以用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径。
根据本公开的实施例,金融风控数据可以指与金融风控场景对应的数据。金融风控场景可以包括以下至少之一:信用评估场景、反欺诈场景、授信场景和违约场景。第一金融风控数据集和第二金融风控数据集可以为以下之一场景的数据集:信用评估场景、反欺诈场景、授信场景和违约场景。
根据本公开的实施例,金融风控数据可以包括至少一个特征的金融风控特征数据。第一金融风控数据集可以包括至少一个第一金融风控数据。第一金融风控数据可以包括至少一个第一特征的第一金融风控特征数据。第二金融风控数据集可以包括至少一个第二金融风控数据。第二金融风控数据可以包括至少一个第二特征的第二金融风控特征数据。第一金融风控数据集可以是用于训练第一金融风控模型的数据集。第二金融风控数据集可以是应用第一金融风控模型的数据集。
根据本公开的实施例,第一指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的特征分布一致性程度。特征分布可以包括以下至少之一:全局特征分布和局部特征分布。全局特征分布可以指整体上特征的分布。局部特征分布可以指预定特征的分布。预定特征可以是每个特征。第一指标值可以包括以下至少之一:全局指标值和局部指标值。
根据本公开的实施例,在特征分布是全局特征分布的情况下,全局指标值可以包括以下之一:PSI(Population Stability Index,群体稳定性指数)和相对熵(RelativeEntropy,RE)等。PSI可以用于评估第二金融风控数据集在各个分数段的分布与第一金融风控数据集分布的稳定性。相对熵可以在第一指标值是PSI的情况下,实际分布可以指第二金融风控数据集的分布。预期分布可以指第一金融风控数据集的分布。相对熵还可以被称为KL(即Kullback Leibler)散度或信息散度。相对熵可以是两个概率分布之间差异的非对称性度量。在第一指标值是相对熵的情况下,两个概率分布可以包括与第一金融风控数据集对应的分布和与第二金融风控数据集对应的分布。
根据本公开的实施例,在特征分布是局部特征分布的情况下,局部指标值可以包括以下至少之一:N分位数和特征的PSI。特征的PSI可以用于评估特征在第一金融风控数据集和第二金融风控数据集之间的分布一致性。N可以是大于1的整数。例如,可以将特征进行N等分,确定N分位数和特征的分段的PSI。可以将特征的分段的PSI确定为特征的PSI。
根据本公开的实施例,决策路径集可以包括至少一个决策路径。决策路径可以用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径。根节点和叶节点可以是树模型中的节点。决策路径集可以是根据决策一致性模型确定的。决策一致性模型可以是利用第一金融风控数据集训练树模型得到的。决策一致性模型可以包括决策路径集。
例如,第一金融风控数据包括多个第一特征的第一金融风控特征数据。多个第一特征可以包括对象性别、对象年龄和对象在职时长。决策路径集可以包括第一决策路径、第二决策路径、第三决策路径、第四决策路径、第五决策路径、第六决策路径、第七决策路径和第八决策路径。第一决策路径可以是对象性别为男性→对象年龄大于35岁→对象在职时长大于3年。第二决策路径可以是对象性别为男性→对象年龄大于35岁→对象在职时长小于或等于3年。第三决策路径可以是对象性别为男性→对象年龄小于或等于35岁→对象在职时长大于3年。第四决策路径可以是对象性别为男性→对象年龄小于或等于35岁→对象在职时长小于或等于3年。第五决策路径可以是对象性别为女性→对象年龄大于35岁→对象在职时长大于3年。第六决策路径可以是对象性别为女性→对象年龄大于35岁→对象在职时长小于或等于3年。第七决策路径可以是对象性别为女性→对象年龄小于或等于35岁→对象在职时长大于3年。第八决策路径可以是对象性别为女性→对象年龄小于或等于35岁→对象在职时长小于或等于3年。
根据本公开的实施例,决策路径集可以是根据第一金融风控数据集包括的第一特征的第一金融风控特征数据,将至少一个决策条件进行随机组合得到的。决策条件可以是根据第一金融风控特征数据确定的。
例如,第一金融风控数据包括多个第一特征的第一金融风控特征数据。多个第一特征可以包括对象性别和对象在职时长。多个决策条件可以包括对象性别是否为男性和对象在职时长是否大于3年。决策路径集包括第九决策路径、第十决策路径、第十一决策路径、第十二决策路径、第十三决策路径、第十四决策路径、第十五决策路径、第十六决策路径、第十七决策路径、第十八决策路径、第十九决策路径和第二十决策路径。第九决策路径可以是对象性别为男性。第十决策路径可以是对象性别为女性。第十一决策路径可以是对象在职时长大于3年。第十二决策路径可以是对象在职时长小于或等于3年。第十三决策路径可以是对象性别为男性→对象在职时长大于3年。第十四决策路径可以是对象性别为男性→对象在职时长小于或等于3年。第十五决策路径可以是对象性别为女性→对象在职时长大于3年。第十六决策路径可以是对象性别为女性→对象在职时长小于或等于3年。第十七决策路径可以是对象在职时长大于3年→对象性别为男性。第十八决策路径可以是对象在职时长大于3年→对象性别为女性。第十九决策路径可以是对象在职时长小于或等于3年→对象性别为男性。第二十决策路径可以是对象在职时长小于或等于3年→对象性别为女性。
根据本公开的实施例,第二指标值集可以包括至少一个第二指标值。第三指标值集可以包括至少一个第三指标值。第二指标值集和第三指标值集可以用于评估第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。决策路径可以具有与该决策路径对应的至少一个第二指标值和与该决策路径对应的至少一个第三指标值。
根据本公开的实施例,与该决策路径对应的至少一个第二指标值可以包括第一比值和至少一个第二比值中的至少之一。与该决策路径对应的至少一个第三指标值可以包括第三比值和至少一个第四比值中的至少之一。
根据本公开的实施例,与该决策路径对应的第一比值可以用于表征第一覆盖数目与第一总数目的比值。与该决策路径对应的第二比值可以用于表征第一标签数目与第一覆盖数目之间的比值。第一覆盖数目可以表征第一目标第一金融风控数据的数目。第一标签数目可以指预定标签的第一目标第一金融风控数据的数目。预定标签的数目可以包括至少一个。预定标签可以与第二比值一一对应。第一目标第一金融风控数据可以指该决策路径覆盖的第一金融风控数据。第一总数目可以指第一金融风控数据集包括的第一金融风控数据的数目。
根据本公开的实施例,与该决策路径对应的第三比值可以用于表征第二覆盖数目与第二总数目的比值。与该决策路径对应的第四比值可以用于表征第二标签数目与第二覆盖数目之间的比值。第二覆盖数目可以表征目标第二金融风控数据的数目。第二标签数目可以指预定标签的目标第二金融风控数据的数目。预定标签的数目可以包括至少一个。预定标签可以与第四比值一一对应。目标第二金融风控数据可以指该决策路径覆盖的第二金融风控数据。第二总数目可以指第二金融风控数据集包括的第二金融风控数据的数目。
根据本公开的实施例,可以响应于检测到数据获取指令,调用数据接口。利用数据接口从数据源获取第一金融风控数据集和第二金融风控数据集。数据源可以包括以下至少之一:本地数据库、云数据库和互联网。
根据本公开的实施例,可以根据第一金融风控数据集和第二金融风控数据集,确定至少一个第一指标值。根据至少一个第一指标值,确定第一金融风控数据集和第二金融风控数据集之间的特征分布一致性程度。例如,在确定至少一个第一指标值中的至少部分第一指标值满足预定特征分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。在确定至少一个第一指标值均不满足预定特征分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。备选地,在确定至少一个第一指标值均满足预定特征分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。在确定存在至少一个第一指标值不满足预定特征分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足特征分布一致性。
根据本公开的实施例,在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,可以根据决策路径集和第一金融风控数据集,得到第二指标值集。例如,可以利用第一金融风控数据集评估决策路径集,得到第二指标值集。根据决策路径集和第二金融风控数据集,得到第三指标值集。例如,可以利用第二金融风控数据集评估决策路径集,得到第三指标值集。与第一金融风控数据集对应的第二指标值集可以包括与至少一个决策路径对应的至少一个第二指标值。与第二金融风控数据集对应的第三指标值集可以包括与至少一个决策路径对应的至少一个第三指标值。
根据本公开的实施例,在获得第二指标值集和第三指标值集之后,可以确定至少一个第二指标值和与至少一个第二指标值对应的第三指标值之间的差值的第一绝对值。在确定存在至少一个第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。在确定至少一个第一绝对值均不满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。备选地,在确定至少一个第一绝对值均满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。在确定存在至少一个第一绝对值不满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
例如,在金融风控场景是信用评估场景的情况下,第一金融风控数据可以包括以下至少之一:第一对象基本信息、第一贷款信息和第一行为信息等。第一对象基本信息可以用于描述第一对象的基本情况。第一贷款信息可以包括以下至少之一:第一借款成交时刻、第一操作代码、第一操作类别、第一登录时刻和第一借款人修改信息等。第一行为信息可以包括第一应用程序操作信息等。第二金融风控数据可以包括以下至少之一:第二对象基本信息、第二贷款信息和第二行为信息等。第二对象基本信息可以用于描述第二对象的基本情况。第二贷款信息可以包括以下至少之一:第二借款成交时刻、第二操作代码、第二操作类别、第二登录时刻和第二借款人修改信息等。第二行为信息可以包括第二应用程序操作信息等。本公开实施例提供的数据处理方法通过在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性,在此基础上,可以用于提高信用评估的准确性。
例如,在金融风控场景是反欺诈场景的情况下,第一金融风控数据可以包括以下至少之一:第三对象基本信息、第一交易信息、第一征信信息、第一消费信息和第一社交信息等。第一交易信息可以包括以下至少之一:第一交易时刻、第一交易额度、第一交易方式、第一交易地点和第一支付账户等。第一消费信息可以包括以下至少之一:第一消费额度、第一消费场景、第一消费内容和第一消费日期等。第一社交信息可以包括以下至少之一:第一社交方式、第一社交热度和第一关注对象数目等。第二金融风控数据可以包括以下至少之一:第四对象基本信息、第二交易信息、第二征信信息、第二消费信息和第二社交信息等。第二交易信息可以包括以下至少之一:第二交易时刻、第二交易额度、第二交易方式、第二交易地点和第二支付账户等。第二消费信息可以包括以下至少之一:第二消费额度、第二消费场景、第二消费内容和第二消费日期等。第二社交信息可以包括以下至少之一:第二社交方式、第二社交热度和第二关注对象数目等。本公开实施例提供的数据处理方法通过在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性,在此基础上,可以用于提高反欺诈评估的准确性。
例如,在金融风控场景是授信场景的情况下,第一金融风控数据可以包括以下至少之一:第五对象基本信息、第一信用卡信息、第三征信信息、第一旅行信息、第三社交信息和第一运营商信息等。第一信用卡信息可以包括第一逾期信息等。第一旅行信息可以包括以下至少之一:第一航班数目和第一座位层次等。第一运营商信息可以包括以下至少之一:第一网络状态和第一消费水平。第二金融风控数据可以包括以下至少之一:第六对象基本信息、第二信用卡信息、第四征信信息、第二旅行信息、第四社交信息和第二运营商信息等。第二信用卡信息可以包括第二逾期信息等。第二旅行信息可以包括以下至少之一:第二航班数目和第二座位层次等。第二运营商信息可以包括以下至少之一:第二网络状态和第二消费水平。本公开实施例提供的数据处理方法通过在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性,在此基础上,可以用于提高授信评估的准确性。
例如,在金融风控场景是违约场景的情况下,第一金融风控数据可以包括以下至少之一:第七对象基本信息、第一资产信息、第三消费信息和第五征信信息等。第一资产信息可以包括以下至少之一:第一年收入、第一月收入和第一资产余额等。第五征信信息可以包括以下至少之一:第一逾期时长和第一逾期资产数值等。第二金融风控数据可以包括以下至少之一:第八对象基本信息、第二资产信息、第四消费信息和第六征信信息等。第二资产信息可以包括以下至少之一:第二年收入、第二月收入和第二资产余额等。第六征信信息可以包括以下至少之一:第二逾期时长和第二逾期资产数值等。本公开实施例提供的数据处理方法通过在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性,在此基础上,可以用于提高违约评估的准确性。
根据本公开的实施例,可以由电子设备执行本公开实施例的数据处理方法。例如,电子设备可以是服务器或终端设备。电子设备可以包括至少一个处理器。处理器可以用于执行本公开实施例提供的数据处理方法。例如,可以利用单个处理器执行本公开实施例提供的数据处理方法,也可以利用多个处理器并行执行本公开实施例提供的数据处理方法。
需要说明的是,本公开实施例中的第一金融风控数据和第二金融风控数据是在获得对象许可的情况下采集的,并且并不是针对某一特定对象的金融风控数据,并不能反映出某一特定对象的个人信息。
本公开实施例中,数据处理方法的执行主体可以通过各种公开、合法合规的方式获取第一金融风控数据集和第二金融风控数据集,例如可以是从公开数据集处获取的,或者是经过了与第一金融风控数据和第二金融风控数据对应的对象的授权,从授权对象处获取的。
根据本公开的实施例,在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集确定的第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,实现了决策分布的一致性校验,由此保证了第一金融风控数据集和第二金融风控数据集的特征分布一致性和决策分布一致性。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定至少一个第一指标值小于或等于与至少一个第一指标值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。
根据本公开的实施例,第四预定阈值可以根据实际业务需求进行配置,在此不作限定。至少一个第一指标值可以具有各自对应的第四预定闽值。至少一个第一指标值各自对应的第四预定阈值可以部分相同、完全相同和完全不同中的之一。例如,第四预定阈值均可以是0.1。
根据本公开的实施例,如果确定至少一个第一指标值中的部分第一指标值小于或等于与至少部分第一指标值对应的第四预定阈值,则可以确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。如果确定至少一个第一指标值均大于与至少一个第一指标值各自对应的第四预定阈值,则可以确定第一金融风控数据集和第二金融风控数据集不满足特征分布一致性。备选地,如果确定至少一个第一指标值中的每个第一指标值小于或等于与该第一指标值对应的第四预定阈值,则可以确定第一风控数据集和第二金融风控数据集满足特征分布一致性。如果确定至少一个第一指标值中存在至少一个第一指标值大于与第一指标值对应的第四预定阈值,则可以确定第一金融风控数据集和第二金融风控数据集不满足特征分布一致性。
根据本公开的实施例,至少一个第一指标值可以包括全局指标值和局部指标值。全局指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的全局特征分布一致性程度。局部指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的局部特征分布一致性程度。
根据本公开的实施例,在确定至少一个第一指标值小于或等于与至少一个第一指标值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性,可以包括如下操作。
在确定全局指标值小于或等于与全局指标值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足全局特征分布一致性。在确定局部指标值小于或等于与局部指针值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足局部特征分布一致性。
根据本公开的实施例,全局指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的全局特征分布一致性程度。例如,全局指标值可以是PSI。在确定全局指标值大于与全局指标值对应的第四预定阈值的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足全局特征分布一致性。
根据本公开的实施例,局部指标值可以包括第一局部指标值。第一局部指标值可以用于评估第一金融风控数据集和第二金融风控数据集之间的局部特征分布一致性程度。例如,第一局部指标值可以是特征的PSI。在确定第一局部指标值小于或等于与第一局部指标值对应的第四预定阈值的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足局部特征分布一致性。在确定第一局部指标值大于与第一局部指标值对应的第四预定阈值的情况下,可以确定第一金融风控数据集和第二金融风控数据集之间不满足局部特征分布一致性。
根据本公开的实施例,局部指标值还可以包括与第一金融风控数据集对应的第二局部指标值和与第二金融风控数据集对应的第三局部指标值。例如,第二局部指标值可以指第一金融风控数据集中变量的N分位数。第三局部指标值可以指第二金融风控数据集中变量的N分位数。N可以是大于1的整数。可以确定第二局部指标值和与第二局部指标值对应的第三局部指标值之间的差值的第四绝对值。在确定第四绝对值小于或等于第五预定阈值且第一局部指标值小于或等于与第一局部指标值对应的第四预定阈值的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足局部特征分布一致性。在确定第四绝对值大于第五预定阈值和第一局部指标值大于与第一局部指标值对应的第四预定阈值中的至少之一的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足局部特征分布一致性。第五预定阈值可以根据实际业务需求进行配置,在此不作限定。例如,第五预定阈值可以是0.1。
根据本公开的实施例,在确定存在如下至少之一的情况下,确定第一金融风控数据集和第二金融风控数据集不满足特征分布一致性。如下至少之一情况包括:第一金融风控数据集和第二金融风控数据集不满足全局特征分布一致性,以及第一金融风控数据集和第二金融风控数据集不满足局部特征分布一致性。
根据本公开的实施例,决策路径集可以是根据决策一致性模型确定的。决策一致性模型可以是利用第一金融风控数据集训练树模型得到的。决策一致性模型可以包括决策路径集。
根据本公开的实施例,树模型可以根据实际业务需求进行配置,在此不作限定。例如,树模型可以包括以下至少之一:决策树、随机森林、AdaBoost(即自适应增强)、BoostingTree(即提升树)、GBDT(Gradient Boosting Decision Tree,梯度提升决策树)、XGBoost(即eXtreme Gradient Boosting)、LightGBM(即Light Gradient Boosting Machine)和CatBoost(即Categorical Boosting)等。
根据本公开的实施例,可以利用第一金融风控数据集训练树模型,得到决策一致性模型。决策一致性模型的模型性能可以满足预定性能评估条件。预定性能评估条件可以根据第五性能评估信息来确定。可以利用第四金融风控数据集对决策一致性模型进行模型性能评估,得到第五性能评估信息。第五性能评估信息可以包括以下至少之一:AUC(即AreaUnder Curve)、KS(即Kolmogorov Smirnov)和Gini系数。
根据本公开的实施例,决策一致性模型可以包括原始决策路径集。决策路径集可以是根据第四指标值集,从原始决策路径集确定的。原始决策路径集可以包括至少一个原始决策路径。第四指标值集可以包括至少一个第四指标值。第四指标值可以表征原始决策路径覆盖第一金融风控数据集的程度。
根据本公开的实施例,原始决策路径集可以是利用第一金融风控数据集训练树模型得到的。原始决策路径可以具有与该原始决策路径对应的第四指标值。第四指标值可以用于表征与该第四指标值对应的原始决策路径覆盖第一金融风控数据集的程度。例如,第四指标值可以包括以下至少之一:IV(Information Value,信息价值)、信息增益、基尼系数、误判率和覆盖率等。IV可以用来评估入模特征的预测能力。覆盖率可以用于评估原始决策路径在第一金融风控数据集中的普及程度。误判率可以用于评估原始决策路径的预测精确度。覆盖率可以是根据第三覆盖数目和第一总数目之间的比值确定的。第三覆盖数目可以表征第二目标第一金融风控数据的数目。第二目标第一金融风控数据可以指原始决策路径覆盖的第一金融风控数据。第一总数目可以指第一金融风控数据集包括的第一金融风控数据的数目。
根据本公开的实施例,可以利用第一金融风控数据集来评估至少一个原始决策路径,得到与至少一个原始决策路径各自对应的第四指标值。根据与至少一个原始决策路径各自对应的第四指标值,从至少一个原始决策路径中确定至少一个决策路径。例如,可以根据与至少一个原始决策路径各自对应的第四指标值,对至少一个原始决策路径进行排序,得到排序信息。根据排序信息,从至少一个原始决策路径中确定至少一个决策路径。备选地,根据第七预定阈值和与至少一个原始决策路径各自对应的第四指标值,从至少一个原始决策路径中确定至少一个决策路径。针对至少一个原始决策路径中的原始决策路径,将与该原始决策路径对应的第四指标值和第七预定阈值进行比较,得到比较信息。根据比较信息,确定该原始决策路径是否是决策路径。
例如,第四指标值可以是IV。可以按照IV由大到小的顺序,将与至少一个IV各自对应的原始决策路径进行排序,从至少一个原始决策路径中确定排序靠前的第一预定数目的原始决策路径作为至少一个决策路径。备选地,针对至少一个原始决策路径中的原始决策路径,在确定与该原始决策路径对应的IV大于或等于第七预定阈值的情况下,将该原始决策路径确定为决策路径。
根据本公开的实施例,决策一致性模型可以是利用第一金融风控数据集训练树模型得到的,可以包括:决策一致性模型可以是利用第三金融风控数据集训练树模型得到的。第三金融风控数据集可以包括至少一个第三金融风控数据。第三金融风控数据可以包括至少一个第一目标特征的第一金融风控特征数据。第一金融风控数据集可以包括至少一个第一金融风控数据。第一金融风控数据可以包括至少一个第一特征的第一金融风控特征数据。第一目标特征可以是至少一个第一特征中满足预定重要性条件的第一特征。
根据本公开的实施例,预定重要性条件可以用于作为确定第一目标特征的条件。例如,满足预定重要性条件可以是第一特征的重要程度评估值大于或等于预定重要程度阈值。备选地,满足预定重要性条件可以是按照第一特征的重要程度评估值由大到小进行排序确定的属于排序靠前的第二预定数目的第一特征。
根据本公开的实施例,可以从至少一个第一特征中确定满足预定重要性条件的至少一个第一目标特征。根据至少一个第一金融风控数据和至少一个第一目标特征,得到至少一个第三金融风控数据。第三金融风控数据中的特征是第一目标特征。可以利用至少一个第三金融风控数据训练树模型,得到决策一致性模型。
根据本公开的实施例,由于第一目标特征可以是至少一个第一特征中满足预定重要性条件的第一特征,因此,降低了第三金融风控数据的维度和冗余性。在此基础上,利用第三金融风控数据训练树模型来得到决策一致性模型,提高了决策一致性模型的泛化能力和输出信息的准确性。
根据本公开的实施例,第一目标特征可以是至少一个第一特征中满足预定重要性条件的第一特征,可以包括:第一目标特征可以是根据处理信息从至少一个第一特征中确定的满足预定重要性条件的第一特征。处理信息可以是根据特征选择策略处理第一金融风控数据集得到的。
根据本公开的实施例,处理信息可以用于评估第一特征的重要程度。处理信息可以指重要程度评估值。重要程度评估值的数值和重要程度的关系可以根据实际业务需求进行配置,在此不作限定。例如,重要程度评估值的数值越大,可以表征第一特征的重要程度越大。反之,重要程度越小。备选地,重要程度评估值的数值越小,可以表征第一特征的重要程度越大。反之,重要程度越小。
根据本公开的实施例,特征选择策略可以指用于从至少一个第一特征中确定至少一个第一目标特征的策略。特征选择策略可以包括以下至少之一:方差选择策略、相关系数策略、卡方检验策略和互信息策略。重要程度评估值的类型可以根据实际业务需求进行配置,在此不作限定。例如,重要程度评估值可以包括方差和相关系数中的至少之一。
例如,重要程度评估值是方差。在确定与第一特征对应的重要程度评估是0的情况下,可以说明多个第一金融风控数据在该第一特征上基本无差异,由此与该第一特征对应的第一金融风控数据对数据的区分无用。
根据本公开的实施例,由于第一目标特征是根据处理信息从至少一个第一特征中确定的满足预定重要性条件的第一特征,因此,降低了第三金融风控数据的维度和冗余性。在此基础上,利用第三金融风控数据训练树模型来得到决策一致性模型,提高了决策一致性模型的泛化能力和输出信息的准确性。
根据本公开的实施例,第二指标值集可以包括至少一个第二指标值。第三指标值集可以包括至少一个第三指标值。
根据本公开的实施例,操作S230可以包括如下操作。
确定至少一个第二指标值和与至少一个第二指标值对应的第三指标值之间的差值的第一绝对值。在确定存在至少一个第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件的情况下,确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。
根据本公开的实施例,预定决策分布一致性条件可以指用于作为确定第一金融风控数据集和第二金融风控数据集是否满足决策分布一致性的条件。例如,满足预定决策分布一致性条件可以包括小于或等于与第一绝对值对应的第一预定阈值。
根据本公开的实施例,针对至少一个第二指标值中的第二指标值,可以确定该第二指标值和与该第二指标值对应的第三指标值之间的差值的第一绝对值。在确定存在至少一个第一绝对值中的部分第一绝对值满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。在确定至少一个第一绝对值中的全部第一绝对值均不满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。备选地,在确定至少一个第一绝对值中的全部第一绝对值满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。在确定存在至少一个第一绝对值不满足预定决策分布一致性条件的情况下,可以确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
根据本公开的实施例,决策路径集可以包括至少一个决策路径。决策路径可以具有与该决策路径对应的至少一个第二指标值和与该决策路径对应的至少一个第三指标值。与该决策路径对应的至少一个第二指标值可以包括第一比值和至少一个第二比值中的至少之一。与该决策路径对应的至少一个第三指标值可以包括第三比值和至少一个第四比值中的至少之一。
根据本公开的实施例,针对至少一个决策路径中的决策路径,确定该第二指标值和与该第二指标值对应的第三指标值之间的差值的第一绝对值,可以包括:确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值。针对至少一个预定标签中的预定标签,确定与该决策路径对应的预定标签的第二比值和第四比值之间的差值的第一绝对值。
根据本公开的实施例,在确定该第二指标值和与该第二指标值对应的第三指标值之间的差值的第一绝对值之后,可以根据与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值,以及与该决策路径对应的预定标签的第二比值和第四比值之间的差值的第一绝对值,确定第一金融风控数据集和第二金融风控数据集在该决策路径上的决策分布一致性程度。根据至少一个决策路径的决策分布一致性程度,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。
根据本公开的实施例,根据与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值,以及与该决策路径对应的预定标签的第二比值和第四比值之间的差值的第一绝对值,确定第一金融风控数据集和第二金融风控数据集在该决策路径上的决策分布一致性程度,可以包括:在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值满足预定决策分布一致性条件以及与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值满足预定决策分布一致性条件中的至少之一的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上满足决策分布一致性。例如,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值满足预定决策分布一致性条件且与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值满足预定决策分布一致性的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上满足决策分布一致性。
根据本公开的实施例,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值不满足预定决策分布一致性条件以及与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值不满足预定决策分布一致性条件的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上不满足决策分布一致性。例如,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值不满足预定决策分布一致性条件且与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值不满足预定决策分布一致性中的至少之一的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上不满足决策分布一致性。
根据本公开的实施例,根据至少一个决策路径的决策分布一致性程度,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度,可以包括:在确定存在至少一个决策路径中的至少部分决策路径的决策分布一致性程度是满足决策分布一致性的情况下,确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。在确定至少一个决策路径中的全部决策路径的决策分布一致性程度是不满足决策分布一致性的情况下,确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。例如,在确定至少一个决策路径各自的决策分布一致性程度是满足决策分布一致性的情况下,确定第一金融风控数据集和第二金融风控数据集满足决策风控一致性。在确定存在至少一个决策路径的决策分布一致性程度是不满足决策分布一致性的情况下,确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定存在至少一个第一绝对值小于或等于与至少一个第一绝对值对应的第一预定阈值的情况下,确定存在至少一个第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件。
根据本公开的实施例,第一预定阈值可以根据实际业务需求进行配置,在此不作限定。
根据本公开的实施例,针对至少一个第一绝对值中的第一绝对值,在确定该第一绝对值小于或等于与该第一绝对值对应的第一预定阈值的情况下,确定该第一绝对值满足预定决策分布一致性条件。
根据本公开的实施例,针对至少一个决策路径中的决策路径,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值小于或等于与该第一绝对值对应的第一预定阈值以及与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值小于或等于与该第一绝对值对应的第一预定阈值中的至少之一的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上满足决策分布一致性。例如,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值小于或等于与该第一绝对值对应的第一预定阈值以及与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值小于或等于与该第一绝对值对应的第一预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上满足决策分布一致性。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定至少一个第一绝对值不满足预定决策分布一致性条件的情况下,确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
根据本公开的实施例,在确定至少一个第一绝对值大于与至少一个第一绝对值对应的第一预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
根据本公开的实施例,针对至少一个决策路径中的决策路径,在确定与该决策路径对应的第一比值和第三比值之间的差值的第一绝对值大于与该第一绝对值对应的第一预定阈值且与该决策路径对应的第二比值和第四比值之间的差值的第一绝对值大于与该第一绝对值对应的第一预定阈值中的至少之一的情况下,确定第一金融风控数据集和第二金融风控数据集在该决策路径上不满足决策分布一致性。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性的情况下,确定第一金融风控模型具有可用性。
根据本公开的实施例,第一金融风控模型可以是利用第一金融风控数据集训练得到的。第一金融风控模型具有可用性可以表征第一金融风控模型可应用于处理第二金融风控数据集。
根据本公开的实施例,可以利用第一金融风控数据集训练第一预定模型,得到第一金融风控模型。第一预定模型可以根据实际业务需求进行配置,在此不作限定。例如,第一预定模型可以包括树模型。树模型可以包括以下至少之一:决策树、随机森林、AdaBoost、Boosting Tree、GBDT、XGBoost、LightGBM和CatBoost等。
根据本公开的实施例,第一金融风控模型可以用于进行信用评估、反欺诈评估、授信评估和违约评估等中的至少之一。
根据本公开的实施例,在确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性且第一金融风控数据集和第二金融风控数据集满足决策分布一致性的情况下,可以确定第一金融风控模型具有可用性。在确定第一金融风控模型具有可用性的情况下,确定可以利用第一金融风控模型处理第二金融风控数据集。
根据本公开的实施例,由于第一金融风控数据集是用于训练第一金融风控模型的数据集,第二金融风控数据集是应用第一金融风控模型的数据集,因此,在第一金融风控数据集和第二金融风控数据集满足特征分布一致性和决策分布一致性的情况下,能够保证利用第一金融风控模型处理第二金融风控数据得到的输出信息的准确性。
根据本公开的实施例,第一金融风控数据集可以包括至少一个第一金融风控数据。第一金融风控数据可以包括至少一个第一特征的第一金融风控特征数据。第二金融风控数据集可以包括至少一个第二金融风控数据。第二金融风控数据可以包括至少一个第二特征的第二金融风控特征数据。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性的情况下,从至少一个第一特征中确定至少一个第一目标特征以及从至少一个第二特征中确定至少一个第二目标特征。根据至少一个第一目标特征和至少一个第二目标特征,确定第五指标值。在确定第五指标值不满足预定重合程度条件的情况下,确定第一金融风控模型不具有可用性。
根据本公开的实施例,第一目标特征可以是满足预定重要性条件的第一特征。第二目标特征可以是满足预定重要性条件的第二特征。第五指标值可以表征第一金融风控数据集和第二金融风控数据集之间的目标特征的重合程度。
根据本公开的实施例,第一金融风控数据可以包括至少一个第一特征的第一金融风控特征数据。第二金融风控数据可以包括至少一个第二特征的第二金融风控特征数据。例如,第一金融风控数据和第二金融风控数据可以是违约评估数据。第一特征和第二特征可以包括以下至少之一:社交应用安装数目、购物应用安装数目、金融应用安装数目、金融机构应用安装数目、商务应用安装数目、教育应用安装数目、健康应用安装数目、娱乐应用安装数目和工具应用安装数目等。
根据本公开的实施例,预定重要性条件可以用于作为确定目标特征的条件。例如,预定重要性条件。第五指标值可以表征第一金融风控数据集和第二金融风控数据集之间的目标特征的重合程度。
根据本公开的实施例,在确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性的情况下,可以基于特征选择策略从至少一个第一特征中确定至少一个第一目标特征以及从至少一个第二特征中确定至少一个第二目标特征。可以确定至少一个第一目标特征和至少一个第二目标特征之间的交集。确定至少一个第一目标特征和至少一个第二目标特征之间的并集。确定交集和并集之间的第五比值,得到第五指标值。在确定第五指标值小于或等于第六预定阈值的情况下,可以确定第五指标值不满足预定重合程度条件。在确定第五指标值不满足预定重合程度条件的情况下,确定第一金融风控模型不具有可用性。第一金融风控模型不具有可用性可以表征第一金融风控模型不能够应用于处理其他金融风控数据集。例如,其他金融风控数据集可以包括第二金融风控数据集。在确定第五指标值大于第六预定阈值的情况下,可以确定第五指标值满足预定重合程度条件。第六预定阈值可以根据实际业务需求进行配置,在此不作限定。例如,第六预定阈值可以是0.9。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定第五指标值满足预定重合程度条件的情况下,分别利用第一金融风控数据集和第二金融风控数据集对第一金融风控模型的模型性能进行评估,得到与第一金融风控数据集对应的第一性能评估信息和与第二金融风控数据集对应的第二性能评估信息。分别利用第一金融风控数据集和第二金融风控数据集对第二金融风控模型的模型性能进行评估,得到与第一金融风控数据集对应的第三性能评估信息和与第二金融风控数据集对应的第四性能评估信息。根据第一性能评估信息、第二性能评估信息、第三性能评估信息和第四性能评估信息,确定第一金融风控模型的可用性。
根据本公开的实施例,第二金融风控模型可以是利用第二金融风控数据集训练得到的。
根据本公开的实施例,可以利用第二金融风控数据集训练第二预定模型,得到第二金融风控模型。第二预定模型的模型结构可以根据实际业务进行配置,在此不作限定。例如,第二预定模型可以包括树模型。树模型可以包括以下至少之一:决策树、随机森林、AdaBoost、Boosting Tree、GBDT、XGBoost、LightGBM和CatBoost等。第二金融风控模型可以用于进行信用评估、反欺诈评估、授信评估和违约评估等中的至少之一。
根据本公开的实施例,性能评估信息可以用于评估金融风控模型的模型性能。性能评估信息可以包括至少一个性能评估值。例如,性能评估信息可以包括以下至少之一:AUC、KS和Gini系数。
根据本公开的实施例,在确定第五指标值大于第六预定阈值的情况下,可以利用第一金融风控数据集对第一金融风控模型进行模型性能评估,得到与第一金融风控数据集对应的第一性能评估信息。利用第一金融风控数据集对第二金融风控模型进行模型性能评估,得到与第一金融风控数据集对应的第二性能评估信息。利用第二金融风控数据集对第一金融风控模型进行模型性能评估,得到与第二金融风控数据集对应的第三性能评估信息。利用第二金融风控数据集对第二金融风控模型进行模型性能评估,得到与第二金融风控数据集对应的第四性能评估信息。
根据本公开的实施例,可以根据第一性能评估信息和第二性能评估信息,确定第一可用性信息。根据第三性能评估信息和第四性能评估信息,确定第二可用性信息。根据第一可用性信息和第二可用性信息,确定第一金融风控模型的可用性。
根据本公开的实施例,第一性能评估信息可以包括至少一个第一性能评估值。第二性能评估信息可以包括至少一个第二性能评估值。第三性能评估信息可以包括至少一个第三性能评估值。第四性能评估信息可以包括至少一个第四性能评估值。
根据本公开的实施例,根据第一性能评估值、第二性能评估值、第三性能评估值和第四性能评估值,确定第一金融风控模型的可用性,可以包括如下操作。
确定至少一个第一性能评估值和与至少一个第一性能评估值对应的第二性能评估值之间的差值的第二绝对值。确定至少一个第三性能评估值和与至少一个第三性能评估值对应的第四性能评估值之间的差值的第三绝对值。在确定至少一个第二绝对值小于或等于第二预定阈值且至少一个第三绝对值小于或等于第三预定阈值的情况下,确定第一金融风控模型具有可用性。
根据本公开的实施例,第二预定阈值和第三预定阈值可以根据实际业务需求进行配置,在此不作限定。例如,第二预定阈值和第三预定阈值可以是0.03。
根据本公开的实施例,确定至少一个第一性能评估值和与至少一个第一性能评估值各自对应的第二性能评估值之间的差值的第二绝对值,得到至少一个第二绝对值。确定至少一个第三性能评估值和与至少一个第三性能评估值各自对应的第四性能评估值之间的差值的第三绝对值,得到至少一个第三绝对值。在确定至少一个第二绝对值均小于或等于第二预定阈值且至少一个第三绝对值均小于或等于第三预定阈值的情况下,可以确定第一金融风控模型具有可用性。在确定存在至少一个第二绝对值大于第二预定阈值和至少一个第三绝对值大于第三预定阈值中的至少之一的情况下,可以确定第一金融风控模型不具有可用性。
根据本公开的实施例,上述数据处理方法还可以包括如下操作。
在确定至少一个第二绝对值大于第二预定阈值和至少一个第三绝对值大于第三预定阈值中的至少之一的情况下,确定第一金融风控模型不具有可用性。
根据本公开的实施例,可以在确定存在至少一个第二绝对值大于第二预定阈值和至少一个第三绝对值大于第三预定阈值中的至少之一的情况下,可以确定第一金融风控模型不具有可用性。
例如,至少一个第一性能评估值可以包括第一AUC和第一KS。至少一个第二性能评估值可以包括第二AUC和第二KS。至少一个第三性能评估值可以包括第三AUC和第三KS。至少一个第四性能评估值可以包括第四AUS和第四KS。
确定第一AUS和第二AUS之间的差值的第二绝对值。确定第一KS和第二KS之间的差值的第二绝对值。确定第三AUS和第四AUS之间的差值的第三绝对值。确定第三KS和第四KS之间的差值的第三绝对值。
在确定第一AUS和第二AUS之间的差值的第二绝对值小于或等于第二预定阈值、第一KS和第二KS之间的差值的第二绝对值小于或等于第二预定阈值、第三AUS和第四AUS之间的差值的第三绝对值小于或等于第三预定阈值和第三KS和第四KS之间的差值的第三绝对值小于或等于第三预定阈值的情况下,可以确定第一金融风控模型具有可用性。在确定第一AUS和第二AUS之间的差值的第二绝对值大于第二预定阈值、第一KS和第二KS之间的差值的第二绝对值大于第二预定阈值、第三AUS和第四AUS之间的差值的第三绝对值大于第三预定阈值和第三KS和第四KS之间的差值的第三绝对值大于第四预定阈值中的至少之一的情况下,可以确定第一金融风控模型不具有可用性。
根据本公开的实施例,
下面参考图3~图4,结合具体实施例对根据本公开实施例所述的数据处理方法做进一步说明。
图3示意性示出了根据本公开实施例的数据处理方法的原理示意图。
如图3所示,在300中,根据第一金融风控数据集301和第二金融风控数据集302,确定全局指标值集303。根据全局指标值集303,确定第一金融风控数据集301和第二金融风控数据集302之间的全局特征分布一致性程度304。根据第一金融风控数据集301和第二金融风控数据集302,确定局部指标值集305。根据局部指标值集305,确定第一金融风控数据集301和第二金融风控数据集302之间的局部特征分布一致性程度306。
在全局特征分布一致性程度304是全局特征分布一致性和局部特征分布一致性程度306是局部特征分布一致性的情况下,根据决策路径集308和第一金融风控数据集301,确定第二指标值集309。根据决策路径集308和第二金融风控数据集302,确定第三指标值集310。根据第二指标值集309和第三指标值集310,确定第一金融风控数据集301和第二金融风控数据集302之间的决策分布一致性程度311。决策一致性模型307可以包括决策路径集308。决策一致性模型307可以是利用第一金融风控数据集301训练树模型得到的。
图4示意性示出了根据本公开实施例的决策路径集的示例示意图。
第一金融风控数据包括多个第一特征的第一金融风控特征数据。多个第一特征可以包括对象性别、对象年龄和对象在职时长。决策路径集可以包括第一决策路径、第二决策路径、第三决策路径、第四决策路径、第五决策路径、第六决策路径、第七决策路径和第八决策路径。
第一决策路径可以是性别为男性→年龄>35岁→在职。第二决策路径可以是性别为男性→年龄>35岁→离职。第三决策路径可以是性别为男性→年龄≤35岁→在职。第四决策路径可以是性别为男性→年龄≤35岁→离职。
第五决策路径可以是性别为女性→年龄>35岁→在职。第六决策路径可以是性别为女性→年龄>35岁→离职。第七决策路径可以是性别为女性→年龄≤35岁→在职。第八决策路径可以是性别为女性→年龄≤35岁→离职。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
以上仅是示例性实施例,但不限于此,还可以包括本领域已知的其他数据处理方法,只要能够实现决策分布一致性校验即可。
图5示意性示出了根据本公开实施例的数据处理装置的框图。
如图5所示,数据处理装置500可以包括第一确定模块510、第一获得模块520和第二确定模块530。
第一确定模块510,用于根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集。第一指标值集包括至少一个第一指标值。第一指标值用于评估第一金融风控数据集和第二金融风控数据集之间的特征分布一致性程度。
第一获得模块520,在根据第一指标值确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据第一金融风控数据集和第二金融风控数据集,得到与第一金融风控数据集对应的第二指标值集和与第二金融风控数据集对应的第三指标值集。决策路径集包括至少一个决策路径。决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径。
第二确定模块530,用于根据第二指标值集和第三指标值集,确定第一金融风控数据集和第二金融风控数据集之间的决策分布一致性程度。
根据本公开的实施例,决策路径集是根据决策一致性模型确定的。决策一致性模型是利用第一金融风控数据集训练树模型得到的。决策一致性模型包括决策路径集。
根据本公开的实施例,决策一致性模型包括原始决策路径集。决策路径集是根据第四指标值集,从原始决策路径集确定的。
根据本公开的实施例,原始决策路径集包括至少一个原始决策路径。第四指标值集包括至少一个第四指标值。
根据本公开的实施例,第四指标值表征原始决策路径覆盖第一金融风控数据集的程度。
根据本公开的实施例,决策一致性模型是利用第一金融风控数据集训练树模型得到的,可以包括:
决策一致性模型是利用第三金融风控数据集训练树模型得到的。
根据本公开的实施例,第三金融风控数据集包括至少一个第三金融风控数据。第三金融风控数据包括至少一个第一目标特征的第一金融风控特征数据。第一金融风控数据集包括至少一个第一金融风控数据。第一金融风控数据包括至少一个第一特征的第一金融风控特征数据。
根据本公开的实施例,第一目标特征是至少一个第一特征中满足预定重要性条件的第一特征。
根据本公开的实施例,第一目标特征是至少一个第一特征中满足预定重要性条件的第一特征,可以包括:
第一目标特征是根据处理信息从至少一个第一特征中确定的满足预定重要性条件的第一特征。处理信息是根据特征选择策略处理第一金融风控数据集得到的。
根据本公开的实施例,第二指标值集包括至少一个第二指标值。第三指标值集包括至少一个第三指标值。
根据本公开的实施例,第二确定模块530可以包括第一确定子模块和第二确定子模块。
第一确定子模块,用于确定至少一个第二指标值和与至少一个第二指标值对应的第三指标值之间的差值的第一绝对值。
第二确定子模块,用于在确定存在至少一个第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件的情况下,确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性。
根据本公开的实施例,上述数据处理装置500还可以包括第三确定模块。
第三确定模块,用于在确定存在至少一个第一绝对值小于或等于与至少一个第一绝对值对应的第一预定阈值的情况下,确定存在至少一个第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件。
根据本公开的实施例,上述数据处理装置500还可以包括第四确定模块。
第四确定模块,用于在确定至少一个第一绝对值不满足预定决策分布一致性条件的情况下,确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性。
根据本公开的实施例,上述数据处理装置500还可以包括第五确定模块。
第五确定模块,用于在确定第一金融风控数据集和第二金融风控数据集满足决策分布一致性的情况下,确定第一金融风控模型具有可用性。第一金融风控模型是利用第一金融风控数据集训练得到的。第一金融风控模型具有可用性表征第一金融风控模型可应用于处理第二金融风控数据集。
根据本公开的实施例,第一金融风控数据集包括至少一个第一金融风控数据。第一金融风控数据包括至少一个第一特征的第一金融风控特征数据。第二金融风控数据集包括至少一个第二金融风控数据。第二金融风控数据包括至少一个第二特征的第二金融风控特征数据。
根据本公开的实施例,上述数据处理装置500还可以包括第六确定模块、第七确定模块和第八确定模块。
第六确定模块,用于在确定第一金融风控数据集和第二金融风控数据集不满足决策分布一致性的情况下,从至少一个第一特征中确定至少一个第一目标特征以及从至少一个第二特征中确定至少一个第二目标特征。第一目标特征是满足预定重要性条件的第一特征,第二目标特征是满足预定重要性条件的第二特征。
第七确定模块,用于根据至少一个第一目标特征和至少一个第二目标特征,确定第五指标值。第五指标值表征第一金融风控数据集和第二金融风控数据集之间的目标特征的重合程度。
第八确定模块,用于在确定第五指标值不满足预定重合程度条件的情况下,确定第一金融风控模型不具有可用性。
根据本公开的实施例,上述数据处理装置500还可以包括第二获得模块、第三获得模块和第九确定模块。
第二获得模块,用于在确定第五指标值满足预定重合程度条件的情况下,分别利用第一金融风控数据集和第二金融风控数据集对第一金融风控模型的模型性能进行评估,得到与第一金融风控数据集对应的第一性能评估信息和与第二金融风控数据集对应的第二性能评估信息。
第三获得模块,用于分别利用第一金融风控数据集和第二金融风控数据集对第二金融风控模型的模型性能进行评估,得到与第一金融风控数据集对应的第三性能评估信息和与第二金融风控数据集对应的第四性能评估信息。第二金融风控模型是利用第二金融风控数据集训练得到的。
第九确定模块,用于根据第一性能评估信息、第二性能评估信息、第三性能评估信息和第四性能评估信息,确定第一金融风控模型的可用性。
根据本公开的实施例,第一性能评估信息包括至少一个第一性能评估值。第二性能评估信息包括至少一个第二性能评估值。第三性能评估信息包括至少一个第三性能评估值。第四性能评估信息包括至少一个第四性能评估值。
根据本公开的实施例,第九确定模块可以包括第三确定子模块、第四确定子模块和第五确定子模块。
第三确定子模块,用于确定至少一个第一性能评估值和与至少一个第一性能评估值对应的第二性能评估值之间的差值的第二绝对值。
第四确定子模块,用于确定至少一个第三性能评估值和与至少一个第三性能评估值对应的第四性能评估值之间的差值的第三绝对值。
第五确定子模块,用于在确定至少一个第二绝对值小于或等于第二预定阈值且至少一个第三绝对值小于或等于第三预定阈值的情况下,确定第一金融风控模型具有可用性。
根据本公开的实施例,上述数据处理装置500还可以包括第十确定模块。
第十确定模块,用于在确定至少一个第二绝对值大于第二预定阈值和至少一个第三绝对值大于第三预定阈值中的至少之一的情况下,确定第一金融风控模型不具有可用性。
根据本公开的实施例,上述数据处理装置500还可以包括第十一确定模块。
第十一确定模块,用于在确定至少一个第一指标值小于或等于与至少一个第一指标值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足特征分布一致性。
根据本公开的实施例,至少一个第一指标值包括全局指标值和局部指标值。全局指标值用于评估第一金融风控数据集和第二金融风控数据集之间的全局特征分布一致性程度。局部指标值用于评估第一金融风控数据集和第二金融风控数据集之间的局部特征分布一致性程度。
根据本公开的实施例,第十一确定模块可以包括第六确定子模块和第七确定子模块。
第六确定子模块,用于在确定全局指标值小于或等于与全局指标值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足全局特征分布一致性。
第七确定子模块,用于在确定局部指标值小于或等于与局部指针值对应的第四预定阈值的情况下,确定第一金融风控数据集和第二金融风控数据集满足局部特征分布一致性。
根据本公开的实施例,第一金融风控数据集和第二金融风控数据集为以下之一场景的数据集:信用评估场景、反欺诈场景、授信场景和违约场景。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上所述的方法。
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,电子设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储电子设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
电子设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许电子设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如,数据处理方法。例如,在一些实施例中,数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到电子设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (20)
1.一种数据处理方法,包括:
根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集,其中,所述第一指标值集包括至少一个第一指标值,所述第一指标值用于评估所述第一金融风控数据集和所述第二金融风控数据集之间的特征分布一致性程度;
在根据所述第一指标值确定所述第一金融风控数据集和所述第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据所述第一金融风控数据集和所述第二金融风控数据集,得到与所述第一金融风控数据集对应的第二指标值集和与所述第二金融风控数据集对应的第三指标值集,其中,所述决策路径集包括至少一个决策路径,所述决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径;以及
根据所述第二指标值集和所述第三指标值集,确定所述第一金融风控数据集和所述第二金融风控数据集之间的决策分布一致性程度。
2.根据权利要求1所述的方法,其中,所述决策路径集是根据决策一致性模型确定的,所述决策一致性模型是利用所述第一金融风控数据集训练树模型得到的,所述决策一致性模型包括所述决策路径集。
3.根据权利要求2所述的方法,其中,所述决策一致性模型包括原始决策路径集,所述决策路径集是根据第四指标值集,从所述原始决策路径集确定的;
其中,所述原始决策路径集包括至少一个原始决策路径,所述第四指标值集包括至少一个第四指标值;
其中,所述第四指标值表征原始决策路径覆盖所述第一金融风控数据集的程度。
4.根据权利要求2或3所述的方法,其中,所述决策一致性模型是利用所述第一金融风控数据集训练树模型得到的,包括:
所述决策一致性模型是利用第三金融风控数据集训练所述树模型得到的;
其中,所述第三金融风控数据集包括至少一个第三金融风控数据,所述第三金融风控数据包括至少一个第一目标特征的第一金融风控特征数据,所述第一金融风控数据集包括至少一个第一金融风控数据,所述第一金融风控数据包括至少一个第一特征的第一金融风控特征数据;
其中,所述第一目标特征是所述至少一个第一特征中满足预定重要性条件的第一特征。
5.根据权利要求4所述的方法,其中,所述第一目标特征是所述至少一个第一特征中满足预定重要性条件的第一特征,包括:
所述第一目标特征是根据处理信息从所述至少一个第一特征中确定的满足所述预定重要性条件的第一特征,所述处理信息是根据特征选择策略处理所述第一金融风控数据集得到的。
6.根据权利要求1~5中任一项所述的方法,其中,所述第二指标值集包括至少一个第二指标值,所述第三指标值集包括至少一个第三指标值;
其中,所述根据所述第二指标值集和所述第三指标值集,确定所述第一金融风控数据集和所述第二金融风控数据集的决策分布一致性程度,包括:
确定所述至少一个第二指标值和与所述至少一个第二指标值对应的第三指标值之间的差值的第一绝对值;以及
在确定存在至少一个所述第一绝对值中的至少部分第一绝对值满足预定决策分布一致性条件的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集满足决策分布一致性。
7.根据权利要求6所述的方法,还包括:
在确定存在至少一个所述第一绝对值小于或等于与至少一个所述第一绝对值对应的第一预定阈值的情况下,确定存在至少一个所述第一绝对值中的至少部分第一绝对值满足所述预定决策分布一致性条件。
8.根据权利要求6或7所述的方法,还包括:
在确定至少一个所述第一绝对值不满足所述预定决策分布一致性条件的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集不满足决策分布一致性。
9.根据权利要求6~8中任一项所述的方法,还包括:
在确定所述第一金融风控数据集和所述第二金融风控数据集满足所述决策分布一致性的情况下,确定第一金融风控模型具有可用性,其中,所述第一金融风控模型是利用所述第一金融风控数据集训练得到的,所述第一金融风控模型具有可用性表征所述第一金融风控模型可应用于处理所述第二金融风控数据集。
10.根据权利要求9所述的方法,其中,所述第一金融风控数据集包括至少一个第一金融风控数据,所述第一金融风控数据包括至少一个第一特征的第一金融风控特征数据,所述第二金融风控数据集包括至少一个第二金融风控数据,所述第二金融风控数据包括至少一个第二特征的第二金融风控特征数据;
所述方法还包括:
在确定所述第一金融风控数据集和所述第二金融风控数据集不满足所述决策分布一致性的情况下,从所述至少一个第一特征中确定至少一个第一目标特征以及从所述至少一个第二特征中确定至少一个第二目标特征,其中,所述第一目标特征是满足预定重要性条件的第一特征,所述第二目标特征是满足所述预定重要性条件的第二特征;
根据所述至少一个第一目标特征和所述至少一个第二目标特征,确定第五指标值,其中,所述第五指标值表征所述第一金融风控数据集和所述第二金融风控数据集之间的目标特征的重合程度;以及
在确定所述第五指标值不满足预定重合程度条件的情况下,确定所述第一金融风控模型不具有可用性。
11.根据权利要求10所述的方法,还包括:
在确定所述第五指标值满足所述预定重合程度条件的情况下,分别利用所述第一金融风控数据集和所述第二金融风控数据集对所述第一金融风控模型的模型性能进行评估,得到与所述第一金融风控数据集对应的第一性能评估信息和与所述第二金融风控数据集对应的第二性能评估信息;
分别利用所述第一金融风控数据集和所述第二金融风控数据集对第二金融风控模型的模型性能进行评估,得到与所述第一金融风控数据集对应的第三性能评估信息和与所述第二金融风控数据集对应的第四性能评估信息,其中,所述第二金融风控模型是利用所述第二金融风控数据集训练得到的;以及
根据所述第一性能评估信息、所述第二性能评估信息、所述第三性能评估信息和所述第四性能评估信息,确定所述第一金融风控模型的可用性。
12.根据权利要求11所述的方法,其中,所述第一性能评估信息包括至少一个第一性能评估值,所述第二性能评估信息包括至少一个第二性能评估值,所述第三性能评估信息包括至少一个第三性能评估值,所述第四性能评估信息包括至少一个第四性能评估值;
其中,所述根据所述第一性能评估值、所述第二性能评估值、所述第三性能评估值和所述第四性能评估值,确定所述第一金融风控模型的可用性,包括:
确定所述至少一个第一性能评估值和与所述至少一个第一性能评估值对应的第二性能评估值之间的差值的第二绝对值;
确定所述至少一个第三性能评估值和与所述至少一个第三性能评估值对应的第四性能评估值之间的差值的第三绝对值;以及
在确定至少一个所述第二绝对值小于或等于第二预定阈值且至少一个所述第三绝对值小于或等于第三预定阈值的情况下,确定所述第一金融风控模型具有可用性。
13.根据权利要求12所述的方法,还包括:
在确定至少一个所述第二绝对值大于所述第二预定阈值和至少一个所述第三绝对值大于所述第三预定阈值中的至少之一的情况下,确定所述第一金融风控模型不具有可用性。
14.根据权利要求1~13中任一项所述的方法,还包括:
在确定所述至少一个第一指标值小于或等于与所述至少一个第一指标值对应的第四预定阈值的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集满足特征分布一致性。
15.根据权利要求14所述的方法,其中,所述至少一个第一指标值包括全局指标值和局部指标值,所述全局指标值用于评估所述第一金融风控数据集和所述第二金融风控数据集之间的全局特征分布一致性程度,所述局部指标值用于评估所述第一金融风控数据集和所述第二金融风控数据集之间的局部特征分布一致性程度;
其中,所述在确定所述至少一个第一指标值小于或等于与所述至少一个第一指标值对应的第四预定阈值的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集满足特征分布一致性,包括:
在确定所述全局指标值小于或等于与所述全局指标值对应的第四预定阈值的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集满足全局特征分布一致性;以及
在确定所述局部指标值小于或等于与所述局部指针值对应的第四预定阈值的情况下,确定所述第一金融风控数据集和所述第二金融风控数据集满足局部特征分布一致性。
16.根据权利要求1~15中任一项所述的方法,其中,所述第一金融风控数据集和所述第二金融风控数据集为以下之一场景的数据集:信用评估场景、反欺诈场景、授信场景和违约场景。
17.一种数据处理方法,包括:
第一确定模块,用于根据第一金融风控数据集和第二金融风控数据集,确定第一指标值集,其中,所述第一指标值集包括至少一个第一指标值,所述第一指标值用于评估所述第一金融风控数据集和所述第二金融风控数据集之间的特征分布一致性程度;
第一获得模块,用于在根据所述第一指标值确定所述第一金融风控数据集和所述第二金融风控数据集满足特征分布一致性的情况下,基于决策路径集,根据所述第一金融风控数据集和所述第二金融风控数据集,得到与所述第一金融风控数据集对应的第二指标值集和与所述第二金融风控数据集对应的第三指标值集,其中,所述决策路径集包括至少一个决策路径,所述决策路径用于表征从与根节点对应的特征到与叶节点对应的特征所形成的路径;以及
第二确定模块,用于根据所述第二指标值集和所述第三指标值集,确定所述第一金融风控数据集和所述第二金融风控数据集之间的决策分布一致性程度。
18.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1~16中任一项所述的方法。
19.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1~16中任一项所述的方法。
20.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1~16中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310077132.3A CN116228382A (zh) | 2023-01-16 | 2023-01-16 | 数据处理方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310077132.3A CN116228382A (zh) | 2023-01-16 | 2023-01-16 | 数据处理方法、装置、电子设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116228382A true CN116228382A (zh) | 2023-06-06 |
Family
ID=86581851
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310077132.3A Pending CN116228382A (zh) | 2023-01-16 | 2023-01-16 | 数据处理方法、装置、电子设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116228382A (zh) |
-
2023
- 2023-01-16 CN CN202310077132.3A patent/CN116228382A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020177670A (ja) | 情報推奨方法、情報推奨装置、機器および媒体 | |
CN110135978B (zh) | 用户金融风险评估方法、装置、电子设备和可读介质 | |
CN104809132A (zh) | 一种获取网络主体社交关系类型的方法及装置 | |
CN110148053B (zh) | 用户信贷额度评估方法、装置、电子设备和可读介质 | |
CN112231592A (zh) | 基于图的网络社团发现方法、装置、设备以及存储介质 | |
CN115409419A (zh) | 业务数据的价值评估方法、装置、电子设备及存储介质 | |
CN117593115A (zh) | 信贷风险评估模型的特征值确定方法、装置、设备和介质 | |
CN111275071B (zh) | 预测模型训练、预测方法、装置及电子设备 | |
CN112287208A (zh) | 用户画像生成方法、装置、电子设备及存储介质 | |
CN115827994A (zh) | 一种数据处理方法、装置、设备、存储介质 | |
CN116228382A (zh) | 数据处理方法、装置、电子设备以及存储介质 | |
CN114881761A (zh) | 相似样本的确定方法与授信额度的确定方法 | |
CN114021642A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN114170000A (zh) | 信用卡用户风险类别识别方法、装置、计算机设备和介质 | |
CN110570301B (zh) | 风险识别方法、装置、设备及介质 | |
CN114547448B (zh) | 数据处理、模型训练方法、装置、设备、存储介质及程序 | |
CN111429257A (zh) | 一种交易监控方法和装置 | |
CN111325350A (zh) | 可疑组织发现系统和方法 | |
CN114565030B (zh) | 特征筛选方法、装置、电子设备和存储介质 | |
CN115034893A (zh) | 深度学习模型的训练方法、风险评估方法和装置 | |
CN115146725B (zh) | 对象分类模式的确定方法、对象分类方法、装置和设备 | |
US11989243B2 (en) | Ranking similar users based on values and personal journeys | |
CN112966210A (zh) | 一种存储用户数据的方法和装置 | |
CN117635317A (zh) | 物品迁移信息的确定方法、装置、电子设备及存储介质 | |
CN116167635A (zh) | 一种提升评价准确性的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |