CN116703539A - 基于增量学习的金融风险识别方法、装置、设备及介质 - Google Patents
基于增量学习的金融风险识别方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN116703539A CN116703539A CN202310691962.5A CN202310691962A CN116703539A CN 116703539 A CN116703539 A CN 116703539A CN 202310691962 A CN202310691962 A CN 202310691962A CN 116703539 A CN116703539 A CN 116703539A
- Authority
- CN
- China
- Prior art keywords
- data
- risk identification
- historical
- user data
- identification model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000012549 training Methods 0.000 claims abstract description 48
- 230000006399 behavior Effects 0.000 claims abstract description 21
- 238000004140 cleaning Methods 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims abstract description 18
- 230000008569 process Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 10
- 238000012795 verification Methods 0.000 claims description 6
- 230000002159 abnormal effect Effects 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 4
- 238000011157 data evaluation Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000012550 audit Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 238000012384 transportation and delivery Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000009193 crawling Effects 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012954 risk control Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0499—Feedforward networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Business, Economics & Management (AREA)
- Quality & Reliability (AREA)
- General Business, Economics & Management (AREA)
- Technology Law (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Finance (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Probability & Statistics with Applications (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
Abstract
本发明涉及金融技术领域,揭露一种基于增量学习的金融风险识别方法,包括:对历史用户数据进行数据清洗和特征提取,得到标准用户数据;将标准用户数据划分为数据集D1、D2、D3…Dn;通过数据集D1训练初始模型,得到模型M1;通过数据集D2训练模型M1,得到模型M2,重复训练直至通过数据集Dn训练模型Mn‑1,得到型Mn,并将模型Mn作为目标风险识别模型;基于客户提供的行为数据通过目标风险识别模型预测客户的违约概率,并在违约概率大于或等于预设的违约概率阈值时对客户的金融申请进行拦截。本发明还提出一种基于增量学习的金融风险识别装置、设备及存储介质。本发明可以提升金融风险识别的准确度。
Description
技术领域
本发明涉及智能决策技术领域,尤其涉及一种基于增量学习的金融风险识别方法、装置、设备及介质。
背景技术
风险是金融业务的固有属性,金融机构需要向客户提供产品和服务,分担客户风险的同时管理自身风险,并通过风险溢价来获取收益,因此风险控制是金融业务中至关重要的一环。
随着大数据和人工智能技术的飞速发展,越来越多的金融机构通过客户的历史信息构建机器学习模型,再通过机器学习模型来预测客户的违约风险概率,以降低坏账成本。现有的基于客户的历史信息构建机器学习模型的方法需要大量的有标注信息,而在实际场景中,由于客户违约行为的时间观察窗口较短,因此现在亟需一种增量学习的金融风险识别方法来预测客户的违约概率,通过该违约概率为金融机构的服务提供参考。
发明内容
本发明提供一种基于增量学习的金融风险识别方法、装置、设备及介质,其主要目的在于提升金融风险识别的准确度。
为实现上述目的,本发明提供的一种基于增量学习的金融风险识别方法,包括:
对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;
通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
可选地,所述通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1,包括:
步骤A、从所述数据集D1中获取历史数据,并基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据;
步骤B、为所述正样本数据和所述负样本数据设置不同的权重,并利用所述初始风险识别模型对所述正样本数据或所述负样本数据进行正向传播计算,得到违约风险;
步骤C、利用交叉熵计算所述历史数据中的真实违约数据和所述违约风险的损失值;
步骤D、利用前反馈神经网络最小化所述损失值,得到所述损失值最小时的模型参数,并将所述模型参数进行网络逆向更新,得到优化的风险识别模型;
步骤E、判断所述数据集D1中的历史数据是否全部参与训练过程;
当所述数据集D1中的历史数据没有全部参与训练过程,则返回步骤A的步骤;
当所述数据集D1中的历史数据全部参与训练过程后,步骤F、得到所述风险识别模型M1。
可选地,所述基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据,包括:
查询所述历史数据对应的用户是否存在违约行为;
若存在,则将所述历史数据划分为负样本数据;
若不存在,则将所述历史数据划分为正样本数据。
可选地,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据,包括:
对所述历史用户数据进行去重,得到去重数据;
将所述去重数据和所述历史用户数据进行比对,验证所述去重数据的准确性,并对所述去重数据中的异常值进行剔除,得到验证数据;
提取所述验证数据中的数据特征,并进行归纳,得到标准用户数据。
可选地,所述利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,包括:
根据所述历史用户数据中的时间记录获取所述标准用户数据中统计的时间段,并将所述时间段划分为预设数量的等距时间节点,对所述标准用户数据进行等间距划分;
将每两个时间节点之间的标准用户数据作为一个数据集,并汇总所有数据集,得到多个数据集。
可选地,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据之前,所述方法还包括:
通过预设的数据评估工具评估所述历史用户数据的质量和完整性;
若所述历史用户数据的质量和完整性达到预设阈值,则执行所述对获取的历史用户数据进行数据清洗和特征加工,得到标准用户数据的步骤;
若所述历史用户数据的质量和完整性未达到所述预设阈值,则查询所述历史用户数据的数据获取渠道,并重新获取所述历史用户数据。
为了解决上述问题,本发明还提供一种基于增量学习的金融风险识别装置,所述装置包括:
数据预处理模块,用于对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
数据划分模块,用于利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
模型训练模块,用于通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
风险预测模块,用于基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
可选地,所述利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,包括:
根据所述历史用户数据中的时间记录获取所述标准用户数据中统计的时间段,并将所述时间段划分为预设数量的等距时间节点,对所述标准用户数据进行等间距划分;
将每两个时间节点之间的标准用户数据作为一个数据集,并汇总所有数据集,得到多个数据集。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的基于增量学习的金融风险识别方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,包括存储数据区和存储程序区,存储数据区存储创建的数据,存储程序区存储有计算机程序;其中,所述计算机程序被处理器执行时实现如上所述的基于增量学习的金融风险识别方法。
本发明实施例中,首先对历史用户数据进行数据清洗和特征提取,得到标准用户数据,并将其划分为多个数据集,之后通过多个数据集依次对预构建的风险识别模型进行训练,实现模型的增量学习,最后根据用户的行为数据,利用训练好的风险识别模型预测客户的违约概率,识别金融风险,本发明通过增量学习的方法对风险识别模型进行训练,并根据客户提供的数据预测客户违约的概率,实现提升金融风险识别的准确度的目的。
附图说明
图1为本发明一实施例提供的一种基于增量学习的金融风险识别方法的流程示意图;
图2为本发明一实施例提供一种基于增量学习的金融风险识别方法中一个步骤的详细流程示意图;
图3为本发明一实施例提供一种基于增量学习的金融风险识别方法中一个步骤的详细流程示意图;
图4为本发明一实施例提供的基于增量学习的金融风险识别装置的模块示意图;
图5为本发明一实施例提供的实现基于增量学习的金融风险识别方法的电子设备的内部结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种基于增量学习的金融风险识别方法。所述基于增量学习的金融风险识别方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。其中,服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。换言之,所述基于增量学习的金融风险识别方法可以由安装在远端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的一种基于增量学习的金融风险识别方法的流程示意图。在本实施例中,所述基于增量学习的金融风险识别方法包括以下步骤S1-S5:
S1、对历史用户数据进行数据清洗和特征提取,得到标准用户数据。
本发明实施例中,所述历史用户数据为根据实际业务确定的数据,以金融业务为例,所述历史用户数据为参与金融借贷的用户的历史数据,记录有用户的借贷金额、借贷时间、身份证明等信息。
进一步地,所述历史用户数据可以通过通用数据库终端或者爬虫爬取已公开的金融数据库获取。
本发明实施例中,所述数据清洗属于数据预处理阶段的步骤,一般可分为选择子集、列名重命名、删除重复值、缺失值处理、一致化处理、数据排序处理、异常值处理等多个步骤;以及所述特征提取是指提取用户的特征信息,包括用户属性、用户征信信息和用户资产信息。其中,所述用户属性包括年龄、婚姻状态、学历等信息,所述用户征信信息包括贷款记录、逾期天数等,所述用户资产信息包括是否有房、是否有车等。
参阅图2所示,具体的,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据,包括:
S101、对所述历史用户数据进行去重,得到去重数据;
S102、将所述去重数据和所述历史用户数据进行比对,验证所述去重数据的准确性,并对所述去重数据中的异常值进行剔除,得到验证数据;
S103、提取所述验证数据中的数据特征,并进行归纳,得到标准用户数据。
本发明实施例中,所述去重数据为将历史用户数据这一数据集中重复的数据进行去除后得到的数据,所述异常值为去重数据中出现的明显与其他数据不同的极端值,常因为数据采集或者记录事的错误而产生。
其中,除了本实施例中描述的将异常值剔除的方法处理异常值,还可通过平均值填补的方式对所述异常值进行处理。
进一步的,本方案除了可用重复检测法对所述去重数据的准确性进行验证,还可通过统计分析法、人工抽检法以及交叉验证法等诸多方法对所述去重数据的准确性进行验证。
本发明实施例中,数据清洗可以提升所述历史用户信息的质量,使数据更加规范、一致,减少数据分析的时间和工作量。
进一步地,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据之前,所述方法还包括:
通过预设的数据评估工具评估所述历史用户数据的质量和完整性;
若所述历史用户数据的质量和完整性达到预设阈值,则执行S1步骤;
若所述历史用户数据的质量和完整性未达到所述预设阈值,则查询所述历史用户数据的数据获取渠道,并重新获取所述历史用户数据。
具体的,所述数据评估工具为评估所述历史用户数据是否具备使用价值的工具,避免将不具备使用价值的数据添加至模型中,进而影响模型的准确性。
S2、利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn。
其中,标记的所述数据集包括D1、D2…Dn,n为正整数。
本发明实施例中,所述时间记录为用户在金融系统中进行各项金融交易的时间记录,可以从所述历史用户数据中获取,所述交易时间可以通过t0、t1、t2…tn进行各个时间段的划分,其中,t0至t1时间段内的数据为数据集D1,t1至t2时间段内的数据为数据集D2,以此类推。
具体的,所述时间节点t0、t1、t2…tn为等间距时间节点。
进一步地,所述利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,包括:
根据所述历史用户数据中的时间记录获取所述标准用户数据中统计的时间段,并将所述时间段划分为预设数量的等距时间节点,对所述标准用户数据进行等间距划分;
将每两个时间节点之间的标准用户数据作为一个数据集,并汇总所有数据集,得到多个数据集。
本发明实施例中,将所述标准用户数据根据交易时间进行划分可以得到多个数据集,便于对模型进行增量学习。
本发明另一实施例中,所述时间节点t0、t1、t2…tn之间时间间隔还可以为逐渐减少得等差分布,从而提升数据的时效性。
S3、通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1。
本发明实施例中,所述初始风险识别模型(Light Gradient Boosting Machine,LightGBM)为基于决策树算法的高性能梯度提升模型,具有良好的准确性和可扩展性,被广泛应用于多分类,点击率预测,搜索排序等任务中。
参阅图3所示,本发明实施例中,所述通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1,包括:
S301、从所述数据集D1中获取历史数据,并基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据;
S302、为所述正样本数据和所述负样本数据设置不同的权重,并利用所述初始风险识别模型对所述正样本数据或所述负样本数据进行正向传播计算,得到违约风险;
S303、利用交叉熵计算所述历史数据中的真实违约数据和所述违约风险的损失值;
S304、利用前反馈神经网络最小化所述损失值,得到所述损失值最小时的模型参数,并将所述模型参数进行网络逆向更新,得到优化的风险识别模型;
S305、判断所述数据集D1中的历史数据是否全部参与训练过程;
当所述数据集D1中的历史数据没有全部参与训练过程,则返回S301的步骤;
当所述数据集D1中的历史数据全部参与训练过程后,S306、得到所述风险识别模型M1。
本发明实施例通过交叉熵算法与前反馈神经网络对所述风险识别进行更新优化,当所述数据集D1中的所有历史数据全部参与训练过程时,即可完成一次训练过程,得到所述风险识别模型M1。
进一步地,所述基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据,包括:
查询所述历史数据对应的用户是否存在违约行为;
若存在,则将所述历史数据划分为负样本数据;
若不存在,则将所述历史数据划分为正样本数据。
本发明实施例中,由于在金融风控场景中,存在违约行为的负样本数据往往远多于不存在违约行为的正样本数据,因此,需要为正样本数据和负样本数据设置不同的权重,从而减弱样本数据不平衡对模型的影响。
具体的,所述为所述正样本数据和所述负样本数据设置不同的权重可以通过将所述风险识别模型的is_unbalance参数设置为True完成。
S4、通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn中的数据训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型。
本发明实施例中,所述通过所述数据集D2中的数据训练所述风险识别模型M1,得到风险识别模型M2的步骤和S3中模型训练步骤相同,在此不做赘述。
具体的,所述风险识别模型Mn为最终训练完成的风险识别模型,也可称之为标准风险识别模型。
其中,利用所述多个数据集中的每个数据集对预构建的初始风险识别模型进行训练的方法为增量学习法,与传统的批量学习相比,增量学习可以有效地降低训练成本,提高模型的准确率和效率。
S5、基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
本发明实施例中,所述行为数据为所述用户从事金融活动时的行为数据,所述违约概率阈值可以基于金融机构的数据验证集进行设置,具体设置时还可根据不同的客户群体设置不同的阈值,例如,对于存在违约记录的客户群体设置的违约概率阈值低于不存在违约记录的客户群体设置的违约概率阈值。
进一步地,若所述违约概率小于所述违约概率阈值,则不对所述客户的金融申请进行拦截。
具体的,所述金融申请可以为有抵押金融贷款、无抵押金融贷款、外汇转账交易等。
本发明实施例中,在对所述客户的金融申请进行拦截后,还可通过增加数据补充环节和人工审核环节对所述客户进行二次审核,以避免错误拦截客户。
本发明实施例中,首先对历史用户数据进行数据清洗和特征提取,得到标准用户数据,并将其划分为多个数据集,之后通过多个数据集依次对预构建的风险识别模型进行训练,实现模型的增量学习,最后根据用户的行为数据,利用训练好的风险识别模型预测客户的违约概率,识别金融风险,本发明通过增量学习的方法对风险识别模型进行训练,并根据客户提供的数据预测客户违约的概率,实现提升金融风险识别的准确度的目的。
如图4所示,是本发明基于增量学习的金融风险识别装置的模块示意图。
本发明所述基于增量学习的金融风险识别装置100可以安装于电子设备中。根据实现的功能,所述基于增量学习的金融风险识别装置可以包括数据预处理模块101、数据划分模块102、模型训练模块103和风险预测模块104。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述数据预处理模块101,用于对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
数据划分模块102,用于利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
模型训练模块103,用于通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
风险预测模块104,用于基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
详细地,本发明实施例中所述基于增量学习的金融风险识别装置100中所述的各模块在使用时采用与上述图1至图3所述的基于增量学习的金融风险识别方法一样的技术手段,并能够产生相同的技术效果,这里不再赘述。
如图5所示,是本发明实现基于增量学习的金融风险识别方法的电子设备的结构示意图。
所述电子设备可以包括处理器10、存储器11、通信总线12以及通信接口13,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如基于增量学习的金融风险识别程序。
其中,所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing Unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(ControlUnit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行基于增量学习的金融风险识别程序等),以及调用存储在所述存储器11内的数据,以执行电子设备的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元,例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备,例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据,例如基于增量学习的金融风险识别程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(Peripheral ComponentInterconnect,简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备与其他设备之间的通信,包括网络接口和用户接口。可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图5仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图5示出的结构并不构成对所述电子设备的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备中的所述存储器11存储的基于增量学习的金融风险识别程序是多个计算机程序的组合,在所述处理器10中运行时,可以实现:
对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;
通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
具体地,所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;
通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种基于增量学习的金融风险识别方法,其特征在于,所述方法包括:
对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;
通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
2.如权利要求1所述的基于增量学习的金融风险识别方法,其特征在于,所述通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1,包括:
步骤A、从所述数据集D1中获取历史数据,并基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据;
步骤B、为所述正样本数据和所述负样本数据设置不同的权重,并利用所述初始风险识别模型对所述正样本数据或所述负样本数据进行正向传播计算,得到违约风险;
步骤C、利用交叉熵计算所述历史数据中的真实违约数据和所述违约风险的损失值;
步骤D、利用前反馈神经网络最小化所述损失值,得到所述损失值最小时的模型参数,并将所述模型参数进行网络逆向更新,得到优化的风险识别模型;
步骤E、判断所述数据集D1中的历史数据是否全部参与训练过程;
当所述数据集D1中的历史数据没有全部参与训练过程,则返回步骤A的步骤;
当所述数据集D1中的历史数据全部参与训练过程后,步骤F、得到所述风险识别模型M1。
3.如权利要求2所述的基于增量学习的金融风险识别方法,其特征在于,所述基于所述历史数据对应的用户违约行为将所述历史数据划分为正样本数据或负样本数据,包括:
查询所述历史数据对应的用户是否存在违约行为;
若存在,则将所述历史数据划分为负样本数据;
若不存在,则将所述历史数据划分为正样本数据。
4.如权利要求1所述的基于增量学习的金融风险识别方法,其特征在于,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据,包括:
对所述历史用户数据进行去重,得到去重数据;
将所述去重数据和所述历史用户数据进行比对,验证所述去重数据的准确性,并对所述去重数据中的异常值进行剔除,得到验证数据;
提取所述验证数据中的数据特征,并进行归纳,得到标准用户数据。
5.如权利要求1所述的基于增量学习的金融风险识别方法,其特征在于,所述利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,包括:
根据所述历史用户数据中的时间记录获取所述标准用户数据中统计的时间段,并将所述时间段划分为预设数量的等距时间节点,对所述标准用户数据进行等间距划分;
将每两个时间节点之间的标准用户数据作为一个数据集,并汇总所有数据集,得到多个数据集。
6.如权利要求1所述的基于增量学习的金融风险识别方法,其特征在于,所述对历史用户数据进行数据清洗和特征提取,得到标准用户数据之前,所述方法还包括:
通过预设的数据评估工具评估所述历史用户数据的质量和完整性;
若所述历史用户数据的质量和完整性达到预设阈值,则执行所述对获取的历史用户数据进行数据清洗和特征加工,得到标准用户数据的步骤;
若所述历史用户数据的质量和完整性未达到所述预设阈值,则查询所述历史用户数据的数据获取渠道,并重新获取所述历史用户数据。
7.一种基于增量学习的金融风险识别装置,其特征在于,所述装置包括:
数据预处理模块,用于对历史用户数据进行数据清洗和特征提取,得到标准用户数据;
数据划分模块,用于利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,并将所述多个数据集标记为数据集D1、D2、D3…Dn;
模型训练模块,用于通过所述数据集D1训练预构建的初始风险识别模型,得到风险识别模型M1;通过所述数据集D2训练所述风险识别模型M1,得到风险识别模型M2,重复训练直至通过所述数据集Dn训练风险识别模型Mn-1,得到风险识别模型Mn,并将所述风险识别模型Mn作为所述目标风险识别模型;
风险预测模块,用于基于客户提供的行为数据通过所述目标风险识别模型预测所述客户的违约概率,并在所述违约概率大于或等于预设的违约概率阈值时对所述客户的金融申请进行拦截。
8.如权利要求7所述的基于增量学习的金融风险识别装置,其特征在于,所述利用所述历史用户数据中的时间记录将所述标准用户数据划分为多个数据集,包括:
根据所述历史用户数据中的时间记录获取所述标准用户数据中统计的时间段,并将所述时间段划分为预设数量的等距时间节点,对所述标准用户数据进行等间距划分;
将每两个时间节点之间的标准用户数据作为一个数据集,并汇总所有数据集,得到多个数据集。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至6中任一项所述的基于增量学习的金融风险识别方法。
10.一种计算机可读存储介质,包括存储数据区和存储程序区,存储数据区存储创建的数据,存储程序区存储有计算机程序;其中,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的基于增量学习的金融风险识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310691962.5A CN116703539A (zh) | 2023-06-12 | 2023-06-12 | 基于增量学习的金融风险识别方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310691962.5A CN116703539A (zh) | 2023-06-12 | 2023-06-12 | 基于增量学习的金融风险识别方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116703539A true CN116703539A (zh) | 2023-09-05 |
Family
ID=87833546
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310691962.5A Pending CN116703539A (zh) | 2023-06-12 | 2023-06-12 | 基于增量学习的金融风险识别方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116703539A (zh) |
-
2023
- 2023-06-12 CN CN202310691962.5A patent/CN116703539A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112446025A (zh) | 联邦学习防御方法、装置、电子设备及存储介质 | |
CN112801718B (zh) | 用户行为预测方法、装置、设备及介质 | |
CN115002200B (zh) | 基于用户画像的消息推送方法、装置、设备及存储介质 | |
CN113032403B (zh) | 数据洞察方法、装置、电子设备及存储介质 | |
CN114663198A (zh) | 基于用户画像的产品推荐方法、装置、设备及存储介质 | |
CN111950625A (zh) | 基于人工智能的风险识别方法、装置、计算机设备及介质 | |
CN114997263B (zh) | 基于机器学习的结训率分析方法、装置、设备及存储介质 | |
CN114612194A (zh) | 产品推荐方法、装置、电子设备及存储介质 | |
CN113627160B (zh) | 文本纠错方法、装置、电子设备及存储介质 | |
CN113658002B (zh) | 基于决策树的交易结果生成方法、装置、电子设备及介质 | |
CN112395401B (zh) | 自适应负样本对采样方法、装置、电子设备及存储介质 | |
CN112330432B (zh) | 风险等级识别模型训练方法、识别方法、终端及存储介质 | |
CN109636627B (zh) | 基于区块链的保险产品管理方法、装置、介质及电子设备 | |
CN116843481A (zh) | 知识图谱分析方法、装置、设备及存储介质 | |
CN116150185A (zh) | 基于人工智能的数据标准提取方法、装置、设备及介质 | |
CN113657546B (zh) | 信息分类方法、装置、电子设备及可读存储介质 | |
CN116703539A (zh) | 基于增量学习的金融风险识别方法、装置、设备及介质 | |
CN114912538A (zh) | 信息推送模型训练方法和信息推送方法、装置及设备 | |
CN113723611B (zh) | 基于因果推断的业务因子生成方法、装置、设备及介质 | |
CN111882415A (zh) | 一种质量检测模型的训练方法和相关装置 | |
CN114723488B (zh) | 课程推荐方法、装置、电子设备及存储介质 | |
CN113688924B (zh) | 异常订单检测方法、装置、设备及介质 | |
CN114969651B (zh) | 基于大数据ai技术的智能风控体系构建方法及装置 | |
CN116580219A (zh) | 基于结果聚类的目标检测方法、装置、设备及存储介质 | |
CN118313918A (zh) | 客群数据评分方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |