CN113344700A - 一种基于多目标优化的风控模型构建方法、装置和电子设备 - Google Patents
一种基于多目标优化的风控模型构建方法、装置和电子设备 Download PDFInfo
- Publication number
- CN113344700A CN113344700A CN202110855272.XA CN202110855272A CN113344700A CN 113344700 A CN113344700 A CN 113344700A CN 202110855272 A CN202110855272 A CN 202110855272A CN 113344700 A CN113344700 A CN 113344700A
- Authority
- CN
- China
- Prior art keywords
- wind control
- control model
- sample data
- data set
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 35
- 238000010276 construction Methods 0.000 title claims abstract description 9
- 238000012549 training Methods 0.000 claims abstract description 54
- 238000000034 method Methods 0.000 claims abstract description 36
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 35
- 238000007477 logistic regression Methods 0.000 claims abstract description 23
- 238000007781 pre-processing Methods 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims description 27
- 238000003860 storage Methods 0.000 claims description 20
- 238000012795 verification Methods 0.000 claims description 16
- 230000006870 function Effects 0.000 claims description 13
- 238000013507 mapping Methods 0.000 claims description 7
- 238000012216 screening Methods 0.000 claims description 6
- 238000009795 derivation Methods 0.000 claims description 4
- 238000004140 cleaning Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 19
- 238000010586 diagram Methods 0.000 description 12
- 238000003066 decision tree Methods 0.000 description 8
- 238000013135 deep learning Methods 0.000 description 7
- 230000006399 behavior Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000001105 regulatory effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000012550 audit Methods 0.000 description 2
- 238000011217 control strategy Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000012502 risk assessment Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
Landscapes
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Engineering & Computer Science (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及计算机技术领域，具体涉及一种基于多目标优化的风控模型构建方法、装置和电子设备，包括：获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。本发明在保障了模型可解释性的情况下，仍可以获得优秀的模型指标和业务效果，由于使用了多目标优化联合训练，大幅缓解了样本偏差问题，使得构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种基于多目标优化的风控模型构建方法、装置和电子设备。
背景技术
对于互联网线上消费贷的风控系统，目前业界的一般主流做法是使用人工策略和机器学习模型的相结合的方式构建而成。对于人工策略来说，由于策略规则一般相对简单，容易被黑色产业链和反欺诈团队通过多次试错和碰撞来攻破。对于机器学习风控模型来说，业界目前主流的采用基于逻辑回归算法(Logistic Regression)、基于决策树类算法、基于深度学习三类算法来构建模型。
基于逻辑回归算法构建出来的风控模型，其优点主要是模型可解释性强，归因分析方便。鉴于传统金融机构内审内控部门和国家监管机构对风控模型的可解释性有一定要求，所以逻辑回归算法依然是构建风控模型的首选。但此类模型的缺点也很明显，它的模型指标在所有机器学习算法中往往是最低的，业务效果一般。
基于决策树类的模型算法目前广泛应用于互联网线上消费贷款的风控模型之中。其中比较有代表性的算法有：随机森林，GBDT，xgBoost，lightGBM等。此类算法的模型指标要比传统的逻辑回归高很多，业务效果较好。但是决策树类算法的模型结构非常复杂，很难理出一个清晰又符合业务逻辑的模型解释。对模型未来在线上的表现，缺乏有效性和稳定性的背书。模型可解释性差。这一点往往成为国家监管机构问询的主要问题。
基于深度学习的风控模型往往使用在行为风险评估的B卡模型里，使用时序行为特征序列和基于循环神经网络的深度学习模型来构建。这种模型的指标和业务效果都比较优秀，但是模型的可解释性比决策树类算法更差。由于循环神经网络的高度复杂性，导致此类算法根本无法解释，也几乎不可能做业务逻辑的归因分析，一旦模型的预测概率分布和实际分布之间发生较大的偏差，模型的调优和迭代将变的非常困难。
目前无论是传统的人工风控策略流，还是三大类机器学习算法构建出来的风控模型，都或多或少存在一些问题。人工策略容易被攻破，逻辑回归算法虽然模型可解释性强，但是业务指标差，决策数类算法和深度学习算法等复杂模型虽然效果好，但是模型的可解释性却很差，甚至完全不可解释，这导致在面对内控内审和国家监管机构问讯方面非常麻烦。
发明内容
本发明提供了一种基于多目标优化的风控模型构建方法、装置和电子设备，用以在保障了模型可解释性的情况下，获得优秀的模型指标和业务效果，构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
本说明书实施例提供一种基于多目标优化的风控模型构建方法，包括：
获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
优选的，所述获取业务样本数据集，包括：
基于原始的用户画像数据提取业务样本数据集。
优选的，所述对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签，包括：
根据业务逻辑确定用户的区分标准；
根据所述用户的区分标准制定所述业务样本数据集中的标签设定规则；
基于标签设定规则对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签。
优选的，所述根据所述标签对所述业务样本数据集进行预处理，包括：
根据所述业务样本数据集与所述标签的相关联对所述业务样本数据集进行筛选；
对筛选后的所述业务样本数据集进行特征清洗；
对清洗后的所述业务样本数据集进行特征加工、特征编码。
优选的，所述对清洗后的所述业务样本数据集进行特征加工、特征编码，包括：
对所述业务样本数据集进行缺失值填充；
对所述业务样本数据集进行特征衍生和特征组合；
对所述业务样本数据集中离散特征进行转化；
对所述业务样本数据集进行离散化处理。
优选的，所述根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，包括：
通过内嵌向量映射层将所述业务样本训练集中的特征字段集合转化为业务向量；
通过多个级联的逻辑回归算法对所述业务向量进行概率预估，得到多个概率预估结果；
将多个概率预估结果输入至优化目标函数进行多目标联合训练，迭代更新所述初始风控模型的参数，得到训练后的风控模型。
优选的，所述得到最终风控模型，包括：
根据所述标签对所述业务样本数据集进行预处理，得到业务样本验证集；
通过所述业务样本验证集对所述训练后的风控模型进行验证，验证通过的风控模型为最终的风控模型。
本说明书实施例还提供一种基于多目标优化的风控模型构建装置，包括：
数据获取模块，获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
数据处理模块，根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
模型构建模块，构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
模型训练模块，根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
一种电子设备，其中，该电子设备包括：
处理器以及存储计算机可执行程序的存储器，所述可执行程序在被执行时使所述处理器执行上述任一项所述的方法。
一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现上述任一项所述的方法。
本发明采用的方法在保障了模型可解释性的情况下，模型指标依然可以和“复杂的决策树类算法/深度学习算法”相媲美。在满足金融机构内审内控和监管机构对风控模型“可解释”的规定下，本发明的风控模型仍旧可以获得优秀的模型指标和业务效果。本发明的风控模型由于使用了多目标优化联合训练，大幅缓解了样本偏差问题，使得构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本说明书实施例提供的一种基于多目标优化的风控模型构建方法的原理示意图；
图2为本说明书实施例提供的一种基于多目标优化的风控模型构建装置的结构示意图；
图3为本说明书实施例提供的一种基于多目标优化的风控模型结构图；
图4为本说明书实施例提供的一种基于多目标优化的风控模型的趋势拐点图；
图5为本说明书实施例提供的一种电子设备的结构示意图；
图6为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
附图中所示的图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
参照图1为本说明书实施例提供的一种基于多目标优化的风控模型构建方法的原理示意图，包括：
S101：获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
在本发明较佳的实施例中，业务样本数据集主要来源于用户基础画像、用户行为信息、第三方提供的用户信息以及其他金融公司一起联合建模的模型打分等，其中用户基础画像主要包括年龄，性别，学历，婚姻状况，地域等。
抓取过去一段时间的用户信贷交易流水、用户基础画像等特征，构造出业务样本数据集，业务样本数据集里的每个样本是基于借据粒度的，而不是基于用户粒度。
定义业务样本数据集为D：
D＝{(F1,B1),(F2,B2),...(Fi,Bi),...(FM,BM)}
其中，i是一个从1到M的整数，M为业务样本数据集D中的样本个数，Fi为第i个样本里，某位客户在申请某笔借据的时候的用户画像特征，Bi为第i个样本里，对应这笔借据的贷后表现。
根据业务逻辑，确定好坏用户的区分标准，设定业务样本数据集中的标签Y值的设定规则，基于标签设定规则对业务样本数据集中的每一个样本对应的特征组设定多个相应的标签，定义业务样本数据集为向量X。采用上述多种渠道获取业务样本数据集，增加业务样本数据集多样化，同时通过多标签的设计方式实现后续的多目标优化过程。
S102：根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
在本发明较佳的实施例中，对用户画像，用户行为信息，消费信息等输入特征进行与标签相关联的特征筛选，将和标签关联性或者区分度高的特征筛选出来，然后对筛选出来的业务样本数据进行清洗，删除数据有瑕疵或者有误的噪声样本，最后对清洗后的业务样本数据进行特征加工和特征编码。采用上述方式能够获得更稳定和更具备代表性的数据，从而减少业务样本数据在应用到模型中进行训练时产生的误差、数据混乱等。
S103：构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
在本发明较佳的实施例中，根据确定输入到模型的业务样本数据集、标签、多个级联的逻辑回归分类器构建一个模型框架，并确定风控模型目标，从而得到一个初始风控模型。通过上述方式实现对模型框架的搭建，同时采用多个级联的逻辑回归分类器便于后续实现对多个目标的优化。
S104：根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
在本发明较佳的实施例中，在进行风控模型训练前，先使用10折交叉验证方法，结合网格搜索的方式，确定风控模型中的超参数，以期望在获得最佳模型指标的同时，也能获得最稳定的模型效果。然后将业务样本训练集中的向量X输入至初始风控模型中，向量X会先通过内嵌(Embedding)向量映射层从而转化成向量E，然后向量E分别进入多个逻辑回归分类器分别进行计算并输出各个概率预估结果，并基于级联的多个逻辑回归分类器连接方式得到总的概率预估结果，同时根据这些概率预估结果并结合优化目标函数计算多优化目标的最小值，最终得到收敛的风控模型，通过从业务样本数据集中提取业务样本验证集对收敛的风控模型进行验证，以确认最终风控模型。采用上述方法在保障了模型可解释性的情况下，模型指标依然可以和“复杂的决策树类算法/深度学习算法”相媲美。在满足金融机构内审内控和监管机构对风控模型“可解释”的规定下，仍旧可以获得优秀的模型指标和业务效果；本发明的风控模型由于使用了多目标优化联合训练，大幅缓解了样本偏差问题，使得构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
进一步地，所述获取业务样本数据集，包括：
基于原始的用户画像数据提取业务样本数据集。
在本发明较佳的实施例中，业务样本数据集主要不仅来源于用户基础画像，还来源于用户行为信息、第三方提供的用户信息以及其他金融公司一起联合建模的模型打分等，其中用户基础画像主要包括年龄，性别，学历，婚姻状况，地域等。采用上述多种渠道获取业务样本数据集，增加业务样本数据集多样化，
进一步地，所述对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签，包括：
根据业务逻辑确定用户的区分标准；
根据所述用户的区分标准制定所述业务样本数据集中的标签设定规则；
基于标签设定规则对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签。
在本发明较佳的实施例中，根据业务属性、类型等，确定好用户、坏用户的区分标准，设定业务样本数据集中的标签的设定规则，基于标签设定规则对业务样本数据集中的每一个样本对应的特征组设定多个相应的标签的Y值，例如，标签的Y值的设计可以参考以下方式：
(1)定义Y0为：
线上消费贷发放后，对于首次还款逾期超过A天的客户，Y0＝1(坏用户)；否则Y0＝0(好用户)；
(2)定义Y1为：
线上消费贷发放后，对于首次还款逾期超过B天的客户，Y1＝1(坏用户)；否则Y1＝0(好用户)；
(3)定义Y2为：
线上消费贷发放后，对于首次还款逾期超过C天的客户，Y2＝1(坏用户)；否则Y2＝0(好用户)。
其中：Y0为风控模型的第一个标签值，Y1为模型的第二个标签值，Y2为模型的第三个标签值，A、B、C都是整数，且A<B<C。
统计历史业务数据，根据坏用户发生概率的下降趋势，寻找趋势线的拐点所在位置，图4中，定义函数Pfpd(x)为：在全体样本上，首次还款逾期超过x天的坏用户的出现概率。
其中：x是一个大于0的整数；函数Pfpd()的输出是一个实数，函数Pfpd()的值域区间为[0.0,1.0]，0.0说明发生概率是0％，1.0说明发生概率是100％。
然后根据业务样本数据集，计算Pfpd(x)在各个x取值下的大小，以x为横轴，Pfpd(x)的数值为纵轴，在直角坐标系上画出一条“下降趋势线”。以趋势线的拐点所在位置，从左向右依次确定A，B，C的大小：A为第一个趋势拐点的坐标所对应的x值、B为第二个趋势拐点的坐标所对应的x值、C为第三个趋势拐点的坐标所对应的x值，例如：根据图4所示最终确定的值是：A＝2，B＝4，C＝15，最后根据A、B、C的大小和上述Y值定义，计算业务样本数据集D中每个样本的标签Y0，Y1和Y2，生成带标签的数据集DLabel，带标签的业务样本数据集DLabel的定义如下：
DLabel＝{(F1,Y01,Y11,Y21),(F2,Y02,Y12,Y22),...(Fi,Y0i,Y1i,Y2i),...(FM0,Y0M0,Y1M0,Y2M0)}
其中，i为一个从1到M0的整数，M0为带标签的业务样本数据集DLabel中的样本个数，Fi为第i个样本里，某位客户在申请某笔借据的时候的用户画像特征；Y0i为第i个样本里，使用“对应借据的贷后表现”计算出来的Y0标签值；Y1i为第i个样本里，使用“对应借据的贷后表现”计算出来的Y1标签值；Y2i为第i个样本里，使用“对应借据的贷后表现”计算出来的Y2标签值。
业务样本数据集中的每一个样本代表的是某个向量R和标签值(Y0，Y1和Y2)之间的一一对应关系，最后将业务样本数据集分成训练集、测试集。
通过上述设定多个标签的方式，用以实现后期对模型进行的多目标联合训练，从而达到大幅缓解了样本偏差问题，使得构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
进一步地，所述根据所述标签对所述业务样本数据集进行预处理，包括：
根据所述业务样本数据集与所述标签的相关联对所述业务样本数据集进行筛选；
对筛选后的所述业务样本数据集进行特征清洗；
对清洗后的所述业务样本数据集进行特征加工、特征编码。
在本发明较佳的实施例中，对用户画像，用户行为信息，消费信息等输入特征进行与标签相关联的特征筛选，将和标签关联性或者区分度高的特征筛选出来，然后对筛选出来的业务样本数据进行清洗，删除数据有瑕疵或者有误的噪声样本，最后对清洗后的业务样本数据进行特征加工和特征编码。采用上述方式能够获得更稳定和更具备代表性的数据，从而减少业务样本数据在应用到模型中进行训练时产生的误差、数据混乱等。
例如，对业务样本数据集DLabel中的用户画像特征Fm进行筛选，留下那些和Y值标签相关性高且表现稳定的原始特征字段。对筛选出来的原始特征字段进行必要的加工，生成最终输入风控模型的特征字段集合，将此特征字段集合和对应的Y值标签相结合，生成可以用来训练和验证模型的数据集DXL，DXL定义如下：
DXL＝{(X1,Y01,Y11,Y21),(X2,Y02,Y12,Y22),...(Xi,Y0i,Y1i,Y2i),...(XM,Y0M1,Y1M1,Y2M1)}
其中，i为一个从1到M1的整数，M1为数据集DXL的样本个数，Xi为第i个样本里，输入机器学习风控模型的特征字段集合；Y0为第i个样本里，使用“对应借据的贷后表现”计算出来的Y0标签值；Y1i为第i个样本里，使用“对应借据的贷后表现”计算出来的Y1标签值；Y2i为第i个样本里，使用“对应借据的贷后表现”计算出来的Y2标签值。
然后使用随机抽样的方法，将数据集DXL分割成2个子集。一个子集用来做模型训练，另一个子集用来做模型验证，定义模型训练集为DXL_train，模型验证集为DXL_test。进一步地，所述对清洗后的所述业务样本数据集进行特征加工、特征编码，包括：
对所述业务样本数据集进行缺失值填充；
对所述业务样本数据集进行特征衍生和特征组合；
对所述业务样本数据集中离散特征进行转化；
对所述业务样本数据集进行离散化处理。
在本发明较佳的实施例中，对清洗后的所述业务样本数据集进行特征加工、特征编码，具体表现为对所述业务样本数据集中的字段进行缺失值填充、进行特征衍生和特征组合产生一些新的效果更好的特征、对部分离散特征做字符串向ID值的转化。对所有特征做分箱处理。其中离散特征可以为学历，性别等，分箱处理为离散化处理。采用上述方式能够获得更稳定和更具备代表性的数据，从而减少业务样本数据在应用到模型中进行训练时产生的误差、数据混乱等。
进一步地，所述根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，包括：
通过内嵌向量映射层将所述业务样本训练集中的特征字段集合转化为业务向量；
通过多个级联的逻辑回归算法对所述业务向量进行概率预估，得到多个概率预估结果；
将多个概率预估结果输入至优化目标函数进行多目标联合训练，迭代更新所述初始风控模型的参数，得到训练后的风控模型。
在本发明较佳的实施例中，如图3所示，将DXL_train中每个样本包含的向量X带入内嵌(Embedding)向量映射层，输出为向量E。Embedding映射表的宽度为1；深度则等同于向量X；将向量E带入第一个逻辑回归分类器，输出为P0。P0是概率“p{Y0＝1|X}”的预估；将向量E带入第二个逻辑回归分类器，输出为P1。P0*P1是概率“p{Y0＝1|X}*p{Y1＝1|Y0＝1，X}”的预估；将向量E带入第三个逻辑回归分类器，输出为P2。P0*P1*P2是概率“p{Y0＝1|X}*p{Y1＝1|Y0＝1,X}*p{Y2＝1|Y1＝1，Y0＝1，X}”的预估。最后定义P＝P0*P1*P2。P是整个风控模型的输出。P代表的含义是对某个用户“首次还款逾期超过C天的可能性”的一个概率预估。P为一个实数，取值范围是[0.0,1.0]。0.0说明发生的可能性是0％；1.0说明发生的可能性是100％。其中，向量X为风控模型的输入特征，向量E为内嵌(Embedding)向量映射层的输出，P0为风控模型输出的条件概率预估，P1为风控模型输出的条件概率预估，P2为风控模型输出的条件概率预估，P为风控模型最终输出的概率预估，*为标量的实数乘法运算
进一步地，通过通用的凸优化迭代方法来训练初始风控模型。常用的凸优化迭代方法包括：梯度下降，随机梯度下降等，为了训练和收敛初始风控模型，定义初始风控模型的优化目标如(1)式所示：
其中，argmin()的含义是找到一组模型的权重参数使得该函数输入的表达式计算出来的数值最小，Y0i、Y1i和Y2i分别对应业务样本训练集中第i个样本的标签Y0、Y1和Y2，P0i、P1i、P2i为风控模型的输出结果，N是风控模型业务样本训练集里总体样本的个数，l()函数是损失函数，这里可以选择最小二乘法，log loss或者hinge loss作为损失函数，W1和W2是两个超参数，负责用来调节三个不同的优化目标之间的权重关系，从而获得更加优秀的模型效果，i≤M1≤M0≤M。采用上述方法在保障了模型可解释性的情况下，模型指标依然可以和“复杂的决策树类算法/深度学习算法”相媲美。在满足金融机构内审内控和监管机构对风控模型“可解释”的规定下，仍旧可以获得优秀的模型指标和业务效果；本发明的风控模型由于使用了多目标优化联合训练，大幅缓解了样本偏差问题，使得构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
进一步地，所述得到最终风控模型，包括：
根据所述标签对所述业务样本数据集进行预处理，得到业务样本验证集；
通过所述业务样本验证集对所述训练后的风控模型进行验证，验证通过的风控模型为最终的风控模型。
在本发明较佳的实施例中，根据标签对业务样本数据集进行预处理，得到业务样本验证集，使用业务样本验证集对训练后的风控模型进行验证，看模型的指标是否符合业务需求，模型的稳定性和泛化能力是否好，模型是否出现过拟合现象，进行模型验证的步骤大致如下：计算训练数据集DXL_train下的模型指标；计算验证数据集DXL_test下的模型指标；查看模型在DXL_test下的指标是否符合要求；比较DXL_train和DXL_test下模型指标的差异，判断模型是否有“过拟合现象”，模型验证所观察的主要指标包括：KS指标、模型排序性、lift指标、模型输出的预估概率与观察概率的对比。通过上述方式确定最佳的模型，降低模型在实际应用中产生的误差。进一步地，可以对上述得到的最终风控模型进行线上陪跑，线上陪跑的风控模型本身不参与真正的线上决策，不会对最终的业务链路和客户审批结果产生任何影响，观察陪跑的风控模型的稳定性，查看线上模型的打分分布是否和业务样本训练集的分布一致，风控模型通过率的波动大小是否符合业务需求等。在线上陪跑充分验证了风控模型的稳定性后，切一部分真实的线上流量给该风控模型，这里记作B链路。原来的风控策略流记作A链路，这次经过B链路的流量会对客户审批结果产生实质的影响，不再是陪跑。一段时间后，统计A链路和B链路的业务表现，并做业务指标对比。如果链路B的业务表现更加优秀，模型有效，则将100％的流量全部切给链路B。链路A下线，链路B最终完全取代链路A，上线完成；如果链路B的业务表现不好，链路B相对应的风控模型将被退回算法研发团队，重新研发迭代。通过上述方式，能够确认最适合线上使用的风控模型，在保障了模型可解释性的情况下，模型指标依然可以和“复杂的决策树类算法/深度学习算法”相媲美。在满足金融机构内审内控和监管机构对风控模型“可解释”的规定下，仍旧可以获得优秀的模型指标和业务效果，构建出来的风控模型在实际上线后，效果优良，表现稳定，泛化能力强。
图2为本说明书实施例提供的一种基于多目标优化的风控模型构建装置的结构示意图，包括：
数据获取模块201，用于获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
数据处理模块202，用于根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
模型构建模块203，用于构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
模型训练模块204，用于根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
本发明实施例的装置的功能已经在上述的方法实施例中进行了描述，故本实施例的描述中未详尽之处，可以参见前述实施例中的相关说明，在此不做赘述。
基于同一发明构思，本说明书实施例还提供一种电子设备。
下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
参照图5为本说明书实施例提供的一种电子设备的结构示意图。下面参照图5来描述根据本发明该实施例的电子设备300。图5显示的电子设备300仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于：至少一个处理单元310、至少一个存储单元320、连接不同装置组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元310执行，使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元310可以执行如图1所示的步骤。
所述存储单元320可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)3201和/或高速缓存存储单元3202，还可以进一步包括只读存储单元(ROM)3203。
所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204，这样的程序模块3205包括但不限于：操作装置、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线330可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备300交互的设备通信，和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口350进行。并且，电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白，尽管图5中未示出，可以结合电子设备300使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID装置、磁带驱动器以及数据备份存储装置等。
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：如图1所示的方法。
参照图6为本说明书实施例提供的一种计算机可读介质的原理示意图。
实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的装置、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种基于多目标优化的风控模型构建方法，其特征在于，包括：
获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
2.如权利要求1所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述获取业务样本数据集，包括：
基于原始的用户画像数据提取业务样本数据集。
3.如权利要求1所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签，包括：
根据业务逻辑确定用户的区分标准；
根据所述用户的区分标准制定所述业务样本数据集中的标签设定规则；
基于标签设定规则对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签。
4.如权利要求1所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述根据所述标签对所述业务样本数据集进行预处理，包括：
根据所述业务样本数据集与所述标签的相关联对所述业务样本数据集进行筛选；
对筛选后的所述业务样本数据集进行特征清洗；
对清洗后的所述业务样本数据集进行特征加工、特征编码。
5.如权利要求4所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述对清洗后的所述业务样本数据集进行特征加工、特征编码，包括：
对所述业务样本数据集进行缺失值填充；
对所述业务样本数据集进行特征衍生和特征组合；
对所述业务样本数据集中离散特征进行转化；
对所述业务样本数据集进行离散化处理。
6.如权利要求1所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，包括：
通过内嵌向量映射层将所述业务样本训练集中的特征字段集合转化为业务向量；
通过多个级联的逻辑回归算法对所述业务向量进行概率预估，得到多个概率预估结果；
将多个概率预估结果输入至优化目标函数进行多目标联合训练，迭代更新所述初始风控模型的参数，得到训练后的风控模型。
7.如权利要求1所述的一种基于多目标优化的风控模型构建方法，其特征在于，所述得到最终风控模型，包括：
根据所述标签对所述业务样本数据集进行预处理，得到业务样本验证集；
通过所述业务样本验证集对所述训练后的风控模型进行验证，验证通过的风控模型为最终的风控模型。
8.一种基于多目标优化的风控模型构建装置，其特征在于，包括：
数据获取模块，用于获取业务样本数据集，对所述业务样本数据集中的每一个样本对应的特征组设定多个相应的标签；
数据处理模块，用于根据所述标签对所述业务样本数据集进行预处理，得到业务样本训练集；
模型构建模块，用于构建初始风控模型，所述初始风控模型内部包含多个级联的逻辑回归算法；
模型训练模块，用于根据所述业务样本训练集对所述初始风控模型进行多目标联合训练，得到最终风控模型。
9.一种电子设备，其中，该电子设备包括：
处理器以及存储计算机可执行程序的存储器，所述可执行程序在被执行时使所述处理器执行根据权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110855272.XA CN113344700B (zh) | 2021-07-27 | 2021-07-27 | 一种基于多目标优化的风控模型构建方法、装置和电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110855272.XA CN113344700B (zh) | 2021-07-27 | 2021-07-27 | 一种基于多目标优化的风控模型构建方法、装置和电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113344700A true CN113344700A (zh) | 2021-09-03 |
| CN113344700B CN113344700B (zh) | 2024-04-09 |
Family
ID=77480410
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110855272.XA Active CN113344700B (zh) | 2021-07-27 | 2021-07-27 | 一种基于多目标优化的风控模型构建方法、装置和电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113344700B (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114943307A (zh) * | 2022-06-28 | 2022-08-26 | 支付宝(杭州)信息技术有限公司 | 一种模型训练的方法、装置、存储介质以及电子设备 |
| CN115712866A (zh) * | 2022-10-28 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN116128072A (zh) * | 2023-01-20 | 2023-05-16 | 支付宝(杭州)信息技术有限公司 | 一种风险控制模型的训练方法、装置、设备及存储介质 |
| CN116542511A (zh) * | 2022-02-08 | 2023-08-04 | 百融云创科技股份有限公司 | 风控模型创建方法、装置、电子设备及存储介质 |
| CN117132001A (zh) * | 2023-10-24 | 2023-11-28 | 杭银消费金融股份有限公司 | 一种多目标风控策略优化方法及系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180349986A1 (en) * | 2017-06-05 | 2018-12-06 | Mo Tecnologias, Llc | System and method for issuing a loan to a consumer determined to be creditworthy and with bad debt forecast |
| CN111311400A (zh) * | 2020-03-30 | 2020-06-19 | 百维金科(上海)信息科技有限公司 | 基于gbdt算法的评分卡模型的建模方法及其系统 |
| CN112785005A (zh) * | 2021-01-22 | 2021-05-11 | 中国平安人寿保险股份有限公司 | 多目标任务的辅助决策方法、装置、计算机设备及介质 |
| CN112817939A (zh) * | 2021-01-29 | 2021-05-18 | 深圳市元智汇科技有限公司 | 一种数据风控模型的构建方法及数据风控模型 |
-
2021
- 2021-07-27 CN CN202110855272.XA patent/CN113344700B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180349986A1 (en) * | 2017-06-05 | 2018-12-06 | Mo Tecnologias, Llc | System and method for issuing a loan to a consumer determined to be creditworthy and with bad debt forecast |
| CN111311400A (zh) * | 2020-03-30 | 2020-06-19 | 百维金科(上海)信息科技有限公司 | 基于gbdt算法的评分卡模型的建模方法及其系统 |
| CN112785005A (zh) * | 2021-01-22 | 2021-05-11 | 中国平安人寿保险股份有限公司 | 多目标任务的辅助决策方法、装置、计算机设备及介质 |
| CN112817939A (zh) * | 2021-01-29 | 2021-05-18 | 深圳市元智汇科技有限公司 | 一种数据风控模型的构建方法及数据风控模型 |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116542511A (zh) * | 2022-02-08 | 2023-08-04 | 百融云创科技股份有限公司 | 风控模型创建方法、装置、电子设备及存储介质 |
| CN114943307A (zh) * | 2022-06-28 | 2022-08-26 | 支付宝(杭州)信息技术有限公司 | 一种模型训练的方法、装置、存储介质以及电子设备 |
| CN115712866A (zh) * | 2022-10-28 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN115712866B (zh) * | 2022-10-28 | 2023-05-02 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置及设备 |
| CN116128072A (zh) * | 2023-01-20 | 2023-05-16 | 支付宝(杭州)信息技术有限公司 | 一种风险控制模型的训练方法、装置、设备及存储介质 |
| CN116128072B (zh) * | 2023-01-20 | 2023-08-25 | 支付宝(杭州)信息技术有限公司 | 一种风险控制模型的训练方法、装置、设备及存储介质 |
| CN117132001A (zh) * | 2023-10-24 | 2023-11-28 | 杭银消费金融股份有限公司 | 一种多目标风控策略优化方法及系统 |
| CN117132001B (zh) * | 2023-10-24 | 2024-01-23 | 杭银消费金融股份有限公司 | 一种多目标风控策略优化方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113344700B (zh) | 2024-04-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Souma et al. | Enhanced news sentiment analysis using deep learning methods | |
| CN113344700A (zh) | 一种基于多目标优化的风控模型构建方法、装置和电子设备 | |
| CN112270547A (zh) | 基于特征构造的金融风险评估方法、装置和电子设备 | |
| Gao | The use of machine learning combined with data mining technology in financial risk prevention | |
| JP7017149B2 (ja) | ディープラーニングを用いる情報処理装置、情報処理方法及び情報処理プログラム | |
| CN111222976A (zh) | 一种基于双方网络图数据的风险预测方法、装置和电子设备 | |
| CN111199469A (zh) | 用户还款模型生成方法、装置及电子设备 | |
| Chen | Cryptocurrency financial risk analysis based on deep machine learning | |
| Abakarim et al. | Towards an efficient real-time approach to loan credit approval using deep learning | |
| Tian et al. | Data-driven approaches in FinTech: a survey | |
| Vorobyev et al. | Reducing false positives in bank anti-fraud systems based on rule induction in distributed tree-based models | |
| CN116402512A (zh) | 一种基于人工智能的账户安全排查管理方法 | |
| CN111563187A (zh) | 关系确定方法、装置、系统和电子设备 | |
| Liu et al. | Enhancing input parameter estimation by machine learning for the simulation of large-scale logistics networks | |
| Kang et al. | A CWGAN-GP-based multi-task learning model for consumer credit scoring | |
| Ding | Enterprise intelligent audit model by using deep learning approach | |
| Wang et al. | Multiview Graph Learning for Small‐and Medium‐Sized Enterprises’ Credit Risk Assessment in Supply Chain Finance | |
| CN112508690A (zh) | 一种基于联合分布适配的风险评估方法、装置和电子设备 | |
| Pattewar et al. | Stock prediction analysis by customers opinion in Twitter data using an optimized intelligent model | |
| Kasztelnik | Innovative bank market risk measurement strategies using a modern machine learning approach: A novel aglomerative clustering model analysis | |
| CN111582313A (zh) | 样本数据生成方法、装置及电子设备 | |
| Manikonda et al. | Explainable machine learning for credit lending | |
| Szwabe et al. | Decision trees as interpretable bank credit scoring models | |
| Rajesh et al. | An Efficient Machine Learning Classification model for Credit Approval | |
| Yang et al. | An evidential reasoning rule-based ensemble learning approach for evaluating credit risks with customer heterogeneity |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |