CN113538125A - 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 - Google Patents
一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 Download PDFInfo
- Publication number
- CN113538125A CN113538125A CN202110730393.1A CN202110730393A CN113538125A CN 113538125 A CN113538125 A CN 113538125A CN 202110730393 A CN202110730393 A CN 202110730393A CN 113538125 A CN113538125 A CN 113538125A
- Authority
- CN
- China
- Prior art keywords
- firefly
- neural network
- value
- network
- hopfield neural
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 241000254158 Lampyridae Species 0.000 title claims abstract description 266
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 148
- 238000000034 method Methods 0.000 title claims abstract description 88
- 238000012549 training Methods 0.000 claims abstract description 53
- 238000012360 testing method Methods 0.000 claims abstract description 27
- 238000013507 mapping Methods 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims abstract description 6
- 210000002569 neuron Anatomy 0.000 claims description 95
- 230000006870 function Effects 0.000 claims description 75
- 230000008569 process Effects 0.000 claims description 48
- 238000003062 neural network model Methods 0.000 claims description 45
- GNBHRKFJIUUOQI-UHFFFAOYSA-N fluorescein Chemical compound O1C(=O)C2=CC=CC=C2C21C1=CC=C(O)C=C1OC1=CC(O)=CC=C21 GNBHRKFJIUUOQI-UHFFFAOYSA-N 0.000 claims description 42
- 239000010410 layer Substances 0.000 claims description 42
- 238000005457 optimization Methods 0.000 claims description 39
- 238000012545 processing Methods 0.000 claims description 24
- 230000006399 behavior Effects 0.000 claims description 21
- 238000011156 evaluation Methods 0.000 claims description 18
- 230000014509 gene expression Effects 0.000 claims description 18
- 230000002068 genetic effect Effects 0.000 claims description 18
- 239000002245 particle Substances 0.000 claims description 18
- 238000004364 calculation method Methods 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000005284 excitation Effects 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 11
- 230000008859 change Effects 0.000 claims description 9
- 230000006386 memory function Effects 0.000 claims description 9
- 230000000007 visual effect Effects 0.000 claims description 9
- 230000002159 abnormal effect Effects 0.000 claims description 7
- 230000009471 action Effects 0.000 claims description 6
- 210000004205 output neuron Anatomy 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 5
- 125000004122 cyclic group Chemical group 0.000 claims description 4
- 238000010845 search algorithm Methods 0.000 claims description 4
- 239000002356 single layer Substances 0.000 claims description 4
- IGXWBGJHJZYPQS-SSDOTTSWSA-N D-Luciferin Chemical compound OC(=O)[C@H]1CSC(C=2SC3=CC=C(O)C=C3N=2)=N1 IGXWBGJHJZYPQS-SSDOTTSWSA-N 0.000 claims description 3
- CYCGRDQQIOGCKX-UHFFFAOYSA-N Dehydro-luciferin Natural products OC(=O)C1=CSC(C=2SC3=CC(O)=CC=C3N=2)=N1 CYCGRDQQIOGCKX-UHFFFAOYSA-N 0.000 claims description 3
- BJGNCJDXODQBOB-UHFFFAOYSA-N Fivefly Luciferin Natural products OC(=O)C1CSC(C=2SC3=CC(O)=CC=C3N=2)=N1 BJGNCJDXODQBOB-UHFFFAOYSA-N 0.000 claims description 3
- 241000131894 Lampyris noctiluca Species 0.000 claims description 3
- DDWFXDSYGUXRAY-UHFFFAOYSA-N Luciferin Natural products CCc1c(C)c(CC2NC(=O)C(=C2C=C)C)[nH]c1Cc3[nH]c4C(=C5/NC(CC(=O)O)C(C)C5CC(=O)O)CC(=O)c4c3C DDWFXDSYGUXRAY-UHFFFAOYSA-N 0.000 claims description 3
- 102100029469 WD repeat and HMG-box DNA-binding protein 1 Human genes 0.000 claims description 3
- 101710097421 WD repeat and HMG-box DNA-binding protein 1 Proteins 0.000 claims description 3
- 230000001133 acceleration Effects 0.000 claims description 3
- 238000013459 approach Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 3
- 230000007812 deficiency Effects 0.000 claims description 3
- 230000008034 disappearance Effects 0.000 claims description 3
- 230000008030 elimination Effects 0.000 claims description 3
- 238000003379 elimination reaction Methods 0.000 claims description 3
- 238000013210 evaluation model Methods 0.000 claims description 3
- 239000004459 forage Substances 0.000 claims description 3
- 238000011835 investigation Methods 0.000 claims description 3
- 230000007786 learning performance Effects 0.000 claims description 3
- 230000031700 light absorption Effects 0.000 claims description 3
- 238000004020 luminiscence type Methods 0.000 claims description 3
- 230000035772 mutation Effects 0.000 claims description 3
- 239000011664 nicotinic acid Substances 0.000 claims description 3
- 230000001629 suppression Effects 0.000 claims description 3
- 238000012546 transfer Methods 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- FQJZPYXGPYJJIH-UHFFFAOYSA-N 1-bromonaphthalen-2-ol Chemical compound C1=CC=CC2=C(Br)C(O)=CC=C21 FQJZPYXGPYJJIH-UHFFFAOYSA-N 0.000 claims 1
- 238000010606 normalization Methods 0.000 description 3
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000005764 inhibitory process Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012502 risk assessment Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Business, Economics & Management (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,包括以下的步骤:首先,确定表现期和风险等级,抽取建模样本客户,获取客户数据作为建模指标体系,所述客户数据包括风险等级和影响还款表现得信用数据;对信用数据进行预处理,随机切分训练集和测试集;根据建模样本的数据特征构建Hopfield神经网络拓扑结构,确定网络的参数,初始化Hopfield神经网络的权值和阈值;构建Hopfield神经网络的权值和阈值与萤火虫算法的映射关系,通过萤火虫算法得到最优权值和阈值,并使用训练集对Hopfield神经网络进行训练;本发明利用萤火虫算法确定了Hopfield神经网络最优的权值和阈值,加快了神经网络的收敛速度,并提高了预测模型的准度,可满足互联网金融信用实时评估的需求。
Description
技术领域
本发明涉及互联网金融行业的风控技术领域,具体为一种基于萤火虫算法优化Hopfield神经网络的风险评级方法。
背景技术
随着互联网金融的发展,消费信贷业务不断扩展,对贷款申请人的风险评估的重要性日益加强。现有技术中用于风险评估的算法主要为逻辑回归、决策树、支持向量机和贝叶斯网络等,但这些算法只能处理客户静态信息数据,例如个人特征、职业信息、家庭信息、受教育程度等均不会在短期得到改变,并不能反映个人的收入波动和信用波动情况,无法实现对客户地信用动态评估。
具有联想记忆功能的神经网络模型能够动态评估客户风险,如灰色神经网络、反馈性神经网络、RBF神经网络和小波神经网络等预测模型,采用这些模型进行预测,可以从不同方面反映数据间的复杂关系,但是预测结果还不够理想。
Hopfield神经网络(Hopfield Neural Network,HNN)是一种单层对称全反馈循环神经网络,从输出到输入均有反馈连接,从输出到输入有反馈连接,所有神经元单元都是一样的,之间相互连接,每个神经元都通过连接权重接受所有其他神经元输出反馈来的信息,其目是为了让每个神经元的输出能够接受所有其他神经元输出的控制,从而使各神经元能够相互制约,是一种拥有联想记忆功能的神经网络模型,具有联想记忆功能、简单、局部搜索能力强的优点。
传统的Hopfield神经网络基于梯度下降法,初始参数的随机选择而易陷入局部最优的问题,网络学习速度和性能效果不佳。目前主要使用遗传算法和粒子群算法来优化Hopfield神经网络初始值,但遗传算法存在编码、解码、交叉、变异等复杂操作,并且种群规模数要求较大、训练时间较长;粒子群算法在寻优过程的后期易陷入局部极值区域,出现收敛速度慢等问题。因此,针对上述问题提出一种基于萤火虫算法优化Hopfield神经网络的风险评级方法。
发明内容
本发明的目的在于提供一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,以解决上述背景技术中提出的问题。
为实现上述目的,本发明提供如下技术方案:
一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,包括以下六个步骤:
S1、确定表现期和风险等级,抽取建模样本客户,获取客户数据作为建模指标体系,所述客户数据包括风险等级和影响还款表现得信用数据;
S2、对采集到的信用数据预处理,包括缺失值处理、异常值剔除和数据标准化,按时间顺序划分训练集数据和测试集数据;
S3、由步骤S2中的样本数据中提取信用数据特征及对应的风险等级,根据样本特征确定Hopfield神经网络的输入量与输出量,搭建Hopfield神经网络模型;
S4、构建Hopfield神经网络的权值阈值与萤火虫算法的映射关系,利用萤火虫算法优化好的Hopfield神经网络的初始权值与阈值,并用训练样本进行训练;
S5、将测试集作为参数寻优过程中的验证集输入训练好的Hopfield神经网络模型进行测试,验证模型的准确性,并以模型精度评价指标与遗传算法、粒子群算法优化的模型进行对比与评价;
S6、将Hopfield神经网络模型部署至贷款平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级结果,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
优选的,在S1中,信用数据包括:个人信息、贷款信息和操作埋点数据,采集的个人信息数据包括客户号、性别、出生日期、联系方式、居住地、家庭信息、学历、收入情况、负债情况、风险偏好、房屋和车辆的情况、工作所处行业、征信情况等;贷款信息数据分为已有贷款及申请贷款信息,主要包括贷款额度、贷款类型、贷款利率、贷款期限、每月归还额度;所述埋点数据包括埋点时采集的设备行为数据和日志数据,其中设备行为数据包括:登录本平台的次数、点击次数、点击频率、输入总耗时及平均耗时、手机号数据、GPS位置、MAC地址、IP地址数据、地理信息申请频次、IP的申请频次、设备电量占比、陀螺仪的平均加速度,另外日志数据包括:7天内登录次数、首次点击到申请授信时长、一天内最多的session数、申请授信前一周的行为统计等。另外在合规要求下,不限于获取移动互联网行为数据、贷款APP内行为数据、信贷历史、运营商数据在内的全域多维度大数据。
优选的,在步骤S1中,设置贷款表现窗口为6个月,5个信用风等级为:良好、安全、一般、危险、损失,分别定义为:未出现逾期为良好,历史最大逾期天数在(0,3]为安全,历史最大逾期天数在(3,15]为一般,历史最大逾期天数在(15,30]为危险,历史最大逾期天数大于30为损失。控制各信用风等级样本的比例,从全部样本中随机抽取样本数据集。
优选的,在S2中,在步骤S1获取建模数据后,结合常识和统计学规律对于原始数据进行预处理,首先对数据质量进行检验,包括:用户编号的唯一性、样本完整性、变量的范围和取值、缺失值、异常值等;其次是构建衍生变量,即对原始数据进行处理和加工,以获取更有预测力和解释性的变量。比如累计逾期次数、资产负债比、负债月还资产占比等。
优选的,在S2中,由于神经网络复杂,网络对于输入数据比较敏感以及输入数据有着不同的单位和取值范围,各神经网络的激活函数、学习规则不同,为提高神经网络训练收敛速度和预测精度,需先对数据进行归一化处理,计算公式如下:
优选的,在S3中,Hopfield神经网络(Hopfield Neural Network,HNN)是一种单层对称全反馈循环神经网络,从输出到输入均有反馈连接,从输出到输入有反馈连接,所有神经元单元都是一样的,它们之间相互连接。每个神经元都通过连接权重接受所有其他神经元输出反馈来的信息,其目是为了让每个神经元的输出能够接受所有其他神经元输出的控制,从而使各神经元能够相互制约,是一种拥有联想记忆功能的神经网络模型。Hopfield神经网络根据激励函数的不同分维离散和连续两种模式,离散Hopfield网络(DHNN)的激励函数是1和0的阶跃函数,分别表示神经元处于激活和抑制状态;连续Hopfield激励函数是S形的连续函数。本专利构建基于离散Hopfield神经网络的信用风险评价模型,输入为信用特征样本集,输出信用风险评级样本集。具体构建步骤如下:
设网络的初始输入向量x=[x1,x2,…,xn]T;xj(j=1,2,…,n)为神经元j的输入量;yj为神经元j的输出量,yj∈{-1,+1};yj(t)通常指神经元j在t时刻的输出量。
离散Hopfield神经网络模型,依靠集体协作能力,能完成高强度连接下自身产生出计算的行为,是一种拥有联想记忆功能的神经网络模型,所采用的神经元是二值神经元,输出的离散值1和-1分别表示神经元处于激活和抑制状态。
离散Hopfield神经网络中的每一神经元,对于i=1,2,…,n,每一线性组合器输出传给对称硬限幅激活函数与单元延迟元素,任意神经元的单元延迟输出xi作为反馈给其他神经元的输入,但并不反馈给自己,即,当i=j时,wij=0,而其他神经元的状态可表示为:
其中:xj为外部输入,θj为阈值,wij为数据编号,且有
一个网络状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其中t时刻的状态为一个n维向量:
Y(t)=[y1(t),y2(t),…,yn(t)]T
yi(t)(i=1,2,3,…,n)可以取值为1或-1,故n维向量Y(t)有2n种状态,即网络有2n种状态,考虑一般节点状态,用yj(t)表示第j个神经元,即节点j在时刻t的状态,则节点的下一个时刻(t+1)的状态可以求得。
一个离散Hopfield网络的状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其t时刻的状态为一个n维变量,考虑离散Hopfield网络的一般节点状态利用节点后时刻t+1的状态,网络在外界激发作用下从初始状态进入动态演变的过程,第一层是神经元故而执行对输入信息与权系数的乘积求累加和,并经非线性函数f处理后产生输出信息:
其中,f为转移函数,一个简单的阀值函数;μ j(t)为神经元j的净输入,计算规则如下:
其中,uj(t)为神经元处理函数;wij为神经元j与神经元i之间的连接权值;xj为神经元处理函数截距;θj为神经元处理函数阈值,yi(t)为时刻t的离散Hopfield神经网络模型处理函数输入值,yj(t+1)为时刻t+1的离散Hopfield神经网络模型处理函数输出值,f[uj(t)]为神经元处理函数映射结果,Y(t)表示为整个离散Hopfield神经网络模型的完整输出值,[y1(t),y2(t),y3(t),…,yn(t)]T表示整个离散Hopfield神经网络模型的n个输出层神经元的输出状态,i和n均为自然数。
当网络经过适当的训练后,即连接权矩阵w=(wij)已经确定时,可以认为网络处于等待状态。若给定网络的初始输入为x,则网络各神经元就处于特定的初始状态,由x可得到当前时刻网络的输出量。通过网络的反馈作用,可得到下一时刻的网络输出量,再将这个输出反馈到输入端,如此不断循环下去。
如果网络是稳定的,那么经过多次反馈运行后,网络可达到稳定状态,即由输出端可得到网络的稳态输出。若到达t时刻后,网络状态不再改变,已收敛至稳定点,即:
y(t+1)=y(t)
此时输出端可得到网络的稳定输出。
离散Hopfield网络工作的过程实质上是神经元权值W调整的过程。一般来说,在进行Hopfield联想记忆时,要求:
(1)权值矩阵W为对称矩阵,
wij=wji,i≠j
主要保证网络在输入有误差的情况下仍能正确回忆所记模式。
(2)能够记忆预先给定的m个模式X1,X2,…,Xm,即:
为了使预先给定的模式,成为网络不动点,这些网络不动点可看作是网络的稳定吸引子,存在着一定的吸引域。但是网络中还存在着大量的伪吸引子,同样有着相当大的吸引域。当待联想的模式落入伪吸引域时,网络就会稳定在该吸引子上即陷入局部最优,从而导致联想过程失败。
Hopfield神经网络训练学习过程为评价等级的评价指标逐渐趋于Hopfield神经网络的平衡点的过程,学习完成后,Hopfield神经网络储存的平衡点即为各个评价等级所对应的评价指标。
但Hopfield神经网络的初始权值和阈值存在很大的随机化,网络在训练时容易陷入局部最优,无法进一步进行调整相关参数,导致模型收敛速度慢、预测精度不高和稳定性差等问题。目前对Hopfield神经网络初始参数的选择较为广泛的智能优化算法主要有遗传算法和粒子群算法,遗传算法存在编码、解码、交叉、变异等复杂操作,并且种群规模数要求较大、训练时间较长;粒子群算法在寻优过程的后期易陷入局部极值区域,出现收敛速度慢等问题。但都有其各自的局限性和不足。如何确定Hopfield神经网络的最佳初始权值和阀值,是提高Hopfield神经网络性能的关键。
优选的,在S4中,萤火虫算法(Glowworm Swarm Optimization,GSO)是一种模拟萤火虫通过发光吸引同伴求偶或觅食的行为的新型群智能仿生优化算法。自然界中的萤火虫可以通过感知有效范围内其他萤火虫的发光强度和频率来确定其他个体的存在和吸引力,将搜索和优化过程模拟成萤火虫吸引和移动的过程,实现了群优化问题的求解。
萤火虫算法优化过程包括四个步骤:荧光素更新、移动概率计算、萤火虫位置更新及动态决策域更新。利用萤火虫算法优化Hopfield神经网络初始参数步骤包括:随机生成Hopfield神经网络各个结点连接的权值和节点阈值,并对生成的各个Hopfield神经网络进行编码,使之对应于萤火虫算法中的个体,初始萤火虫算法参数,形成算法的初始群体,初始群体形成之后对群体中每个个体进行寻优处理,最终输出当前最优个体。具体步骤如下:
S41、神经网络与萤火虫算法编码
确定Hopfield神经网络的拓扑结构,初始化各层之间的权值和阈值,利用萤火虫算法对神经网络各层间的权值和阈值进行编码,按照萤火虫算法的编码要求,对Hopfield神经网络的初始阈值和权值进行编码,编码完成后输入萤火虫算法进行优化。
对个体实行实数编码,即用一个实数串表示一个个体,该实数串由4部分组成:输出层阈值、隐含层阈值、输出层与隐含层间的连接权值和隐含层与输入层间的连接权值,将Hopfield网络的连接权值和阈值采用实数矢量形式编码,每个个体代表问题的一个候选解,候选解组成种群存储了Hopfield神经网络的初始权值和阈值。
S42、初始化萤火虫算法的相关参数
Hopfield神经网络与萤火虫算法编码构成萤火虫初始种群,初始化萤火虫算法的参数,萤火虫种群的个数为M,初始化萤火虫随机初始位置,并设每个萤火虫的荧光素为L0,动态决策域为r0,nt为控制萤火虫邻居数的阈值,初始化步长s,领域阈值ρ,荧光素更新率γ,动态决策域更新率β,萤火虫感知域rs,搜索精度ε,迭代控制变量t,最大迭代次数为Tmax,随机性系数α0,其中,吸引力系数β0=1,光吸收系数γ为[0,1]分布的随机数,随机性系数α0∈[0,1]。
S43、荧光素更新
荧光素的更新与当前萤火虫所处的位置、前一时刻荧光素的残留量有关,其更新方程为:
li(t)=(1-ρ)li(t-1)+γf(xi(t))
其中,li(t)表示第t次迭代时的亮度值;ρ∈[0,1]为荧光素挥发因子;γ∈[0,1]为荧光素更新率,是萤火虫位置对适应度函数的影响因子;f(xi(t))当前萤火虫位置的适应度函数值,第i只萤火虫在第t次迭代的适应度值。
萤火虫的荧光素值越大,其亮度也越大,对其它萤火虫的吸引力也越强。其中f是萤火虫个体适应度函数值,表达式如下:
其中,f为萤火虫个体适应度值,Z为训练样本的个数,yk为实际的输出值,tk为期望的输出值;
S44、计算移动概率
萤火虫的亮度越大,对周围萤火虫的吸引力越大,周围萤火虫被吸引移动的概率就越高,,确定萤火虫i作为移动方向,根据轮盘概率公式选择出要移向的萤火虫,以轮盘赌的方式选择领域集内的个体j进行移动,计算萤火虫个体Xi向领域集Ni(t)内萤火虫个体xj移动概率,计算公式为:
其中,pij表示萤火虫i向萤火虫j移动的概率,相对来说亮度越高的萤火虫,被选择到的概率越大;Ni(t)为比当前萤火虫i荧光素高的萤火虫邻域集,k表示Ni(t)中的萤火虫。
S45、更新萤火虫位置和更新决策半径
寻找萤火虫xi的邻居,在此阶段中,萤火虫首先在其视野范围中选择出亮度比自己高的萤火虫组成邻居集合,邻居集合Ni(t)表达式如下:
其中,Ni(t)表示萤火虫i在t时刻邻居集合,自身决策范围内选择荧光素值高于自己的个体组成领域集;‖xj(t)-xi(t)‖表示两只萤火虫间的欧式距离,j表示邻居中的一员;表示萤火虫i在t时刻动态决策域。
在组成邻居集合,选择好所需的同伴后,更新萤火虫i的位置,确定萤火虫i的移动方向和移动距离。
S46、确定移动方向和移动距离
在萤火虫算法中,当萤火虫i寻找到具有更高萤光素值的萤火虫j时,且若此时萤火虫i和萤火虫j的距离小于感知半径,则萤火虫i以概率pij(t)选择萤火虫j,并向此方向动,表达式如下:
其中,xi(t)与xi(t+1)分别为当前时刻与下一时刻萤火虫i所处的位置;xj(t)为当前时刻与萤火虫j所处的位置;s为移动步长,j为萤火虫i的决策域内对萤火虫i吸引力最大的萤火虫编号。
确定移动方向和移动距离,更新位置,计算更新后位置的目标函数值,进而更新全局最优值。
S46、更新动态决策域
执行位置更新操作后,萤火虫i根据邻居密度动态更新其决策半径,若邻居密度太大,将减小决策半径,从而缩小搜索邻居萤火虫的范围,反之则增大决策半径,从而有利于搜索更多的邻居萤火虫,达到更新动态决策域目的,表达式如下:
其中,与分别表示当前时刻与下一时刻萤火虫i的动态决策半径;rs为决策半径阈值,即初始的视野最大值;β为邻域变化率,表示邻域的变化程度;nt为邻域阀值,为了控制萤火虫邻域集内包含萤火虫数目;Ni(t)为萤火虫i在时刻t的领域集内萤火虫数目。
S47、确定适应度函数
把Hopfield神经网络的预测输出和期望输出之间误差绝对值之和作为适应度函数值,适应度函数如下:
其中,k为常数;m为输出层节点数;yj为网络输出值;oj为网络预输出值。
计算各成员的适应度函数值,再根据适应度函数值更新荧光素值。
S48、迭代搜索最优值
重复以上步骤S42至S47,达到既定的精度或者迭代次数,则停止运算,否则,t=t+1,转S42,将萤火虫种群矩阵及各参数设置为全局变量,利用全局最优值(或接近最优值)拟合目标值。
通过以上寻优过程,萤火虫群最终聚集到荧光素值最大的萤火虫处,通过解码可以得到Hopfield网络初始最优权值和阈值。
S49、训练Hopfield神经网络,输出最优结果
萤火虫算法优化后的初始阈值和权值构造GSO-Hopfield神经网络,利用训练集训练网络并计算训练误差,直到误差收敛到精度要求,网络训练完毕。将测试集输入训练好的GSO-Hopfield神经网络,输出模型的预测精度。
优选的,在S5中,将测试集输入训练好的Hopfield神经网络模型进行测试,验证模型的预测精度,若未达到设定预测精度则重新计算Hopfield神经网络的初始连接权值和初始隐藏层阈值,并再次进行预测,如此反复迭代,直至达到精度要求,输出最优的Hopfield神经网络风险等级预测模型。
优选的,比较分类结果和实际测得值,可以把分类结果的精度显示在一个如下的混淆矩阵里面,
根据风险等级对应评分为1-5,采用评价模型预测能力及模型的稳定性,采用均方误差(MSE)、平均绝对百分比误差(MAPE)、平均绝对误差(MAE)和拟合度系数(EC)作为评价指标,计算公式分别如下:
其中,n为预测样本的个数,y′i为相应模型的预测等级,yi为样本实际风险等级。
本专利为了比较萤火虫算法的优化效果,采用遗传算法优化的Hopfield神经网络模型(GA-HNN)、粒子群算法优化的Hopfield神经网络模型(PSO-HNN)和萤火虫搜索算法优化的Hopfield神经网络模型(GSO-HNN)模型结果,其中GA-HNN模型参数设置为:种群个数N=20,交叉率为pc=0.8,变异率为pm=0.15,迭代次数为100;PSO-HNN模型参数设置为:学习因子c1=c2=2.05,种群规模为N=60,惯性因子k∈[0,0.9];GS0-HNN模型参数设置:萤火虫个数n为60,最大迭代次数200,荧光素消失率ρ=0.4,适合度影响参数γ=0.6,荧光素初值l0=10,动态决策域初值r0=3,步长初值s=0.05,决策域大小控制参数β=0.08,初始视野最大值rs=5,邻居数阈值nt=5。
利用测试样本对模型的预测精度进行测试,对比遗传算法和粒子群算法优化的模型结果如下:
GS0-HNN模型的MSE、MAPE和MAE值均低于参比模型,其拟合度系数EC值均高于其他模型,表明该模型具有较小的预测误差,且拟合程度较高。GSO-Hopfield神经网络预测模型可以避免Hopfield网络因初始参数的随机选择而易陷入局部最优的问题,学习速度和网络学习性能也得到了提高。
优选的,在S6中,将Hopfield神经网络模型部署至申请平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
与现有技术相比,本发明的有益效果是:
1、Hopfield神经网络具有强大的非线性映射和并行计算能力,大规模协同作用和集群效应、并行性、容错性和鲁棒性,其计算量不随维数的增加而发生指数性质的“爆炸”,无需数据归一化处理等优良特性,适用于风险评级;
2、和遗传算法和粒子群算法不同,萤火虫优化算法依赖于局部信息搜索的机制使得萤火虫算法整体上不易陷于局部极值点并且因为动态决策域的存在,鲁棒性都得到保证,同时萤火虫个体倾向于向最优位置、荧光最亮个体移动,最优个体随机移动,寻找更优位置,从而使整个群体形成正反馈,全局寻优能力大大增强;
3、利用萤火虫算法优化Hopfield神经网络的初始权值和阈值,不需要目标函数的梯度信息,比较容易实现,且具有其极强的局部与全局优化性能、较高的鲁棒性等天然优势,从而提高优化性能和时间性能。
附图说明
图1为本发明流程图;
图2为本发明对比实验图。
具体实施方式
请参阅图1,本发明提供一种技术方案:
一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,包括以下六个步骤:
S1、确定表现期和风险等级,抽取建模样本客户,获取客户数据作为建模指标体系,所述客户数据包括风险等级和影响还款表现得信用数据;
S2、对采集到的信用数据预处理,包括缺失值处理、异常值剔除和数据标准化,按时间顺序划分训练集数据和测试集数据;
S3、由步骤S2中的样本数据中提取信用数据特征及对应的风险等级,根据样本特征确定Hopfield神经网络的输入量与输出量,搭建Hopfield神经网络模型;
S4、构建Hopfield神经网络的权值阈值与萤火虫算法的映射关系,利用萤火虫算法优化好的Hopfield神经网络的初始权值与阈值,并用训练样本进行训练;
S5、将测试集作为参数寻优过程中的验证集输入训练好的Hopfield神经网络模型进行测试,验证模型的准确性,并以模型精度评价指标与遗传算法、粒子群算法优化的模型进行对比与评价;
S6、将Hopfield神经网络模型部署至贷款平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级结果,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
优选的,在S1中,信用数据包括:个人信息、贷款信息和操作埋点数据,采集的个人信息数据包括客户号、性别、出生日期、联系方式、居住地、家庭信息、学历、收入情况、负债情况、风险偏好、房屋和车辆的情况、工作所处行业、征信情况等;贷款信息数据分为已有贷款及申请贷款信息,主要包括贷款额度、贷款类型、贷款利率、贷款期限、每月归还额度;所述埋点数据包括埋点时采集的设备行为数据和日志数据,其中设备行为数据包括:登录本平台的次数、点击次数、点击频率、输入总耗时及平均耗时、手机号数据、GPS位置、MAC地址、IP地址数据、地理信息申请频次、IP的申请频次、设备电量占比、陀螺仪的平均加速度,另外日志数据包括:7天内登录次数、首次点击到申请授信时长、一天内最多的session数、申请授信前一周的行为统计等。另外在合规要求下,不限于获取移动互联网行为数据、贷款APP内行为数据、信贷历史、运营商数据在内的全域多维度大数据。
优选的,在S1中,设置贷款表现窗口为6个月,5个信用风等级为:良好、安全、一般、危险、损失,分别定义为:未出现逾期为良好,历史最大逾期天数在(0,3]为安全,历史最大逾期天数在(3,15]为一般,历史最大逾期天数在(15,30]为危险,历史最大逾期天数大于30为损失。控制各信用风等级样本的比例,从全部样本中随机抽取样本数据集。
优选的,在S2中,在步骤S1获取建模数据后,结合常识和统计学规律对于原始数据进行预处理,首先对数据质量进行检验,包括:用户编号的唯一性、样本完整性、变量的范围和取值、缺失值、异常值等;其次是构建衍生变量,即对原始数据进行处理和加工,以获取更有预测力和解释性的变量。比如累计逾期次数、资产负债比、负债月还资产占比等。
优选的,在S2中,由于神经网络复杂,网络对于输入数据比较敏感以及输入数据有着不同的单位和取值范围,各神经网络的激活函数、学习规则不同,为提高神经网络训练收敛速度和预测精度,需先对数据进行归一化处理,计算公式如下:
优选的,在S3中,Hopfield神经网络(HopfieldNeural Network,HNN)是一种单层对称全反馈循环神经网络,从输出到输入均有反馈连接,从输出到输入有反馈连接,所有神经元单元都是一样的,它们之间相互连接。每个神经元都通过连接权重接受所有其他神经元输出反馈来的信息,其目是为了让每个神经元的输出能够接受所有其他神经元输出的控制,从而使各神经元能够相互制约,是一种拥有联想记忆功能的神经网络模型。Hopfield神经网络根据激励函数的不同分维离散和连续两种模式,离散Hopfield网络(DHNN)的激励函数是1和0的阶跃函数,分别表示神经元处于激活和抑制状态;连续Hopfield激励函数是S形的连续函数。本专利构建基于离散Hopfield神经网络的信用风险评价模型,输入为信用特征样本集,输出信用风险评级样本集。具体构建步骤如下:
设网络的初始输入向量x=[x1,x2,…,xn]T;xj(j=1,2,…,n)为神经元j的输入量;yj为神经元j的输出量,yj∈{-1,+1};yj(t)通常指神经元j在t时刻的输出量。
离散Hopfield神经网络模型,依靠集体协作能力,能完成高强度连接下自身产生出计算的行为,是一种拥有联想记忆功能的神经网络模型,所采用的神经元是二值神经元,输出的离散值1和-1分别表示神经元处于激活和抑制状态。
离散Hopfield神经网络中的每一神经元,线性组合器的输出可表示为:对于i=1,2,…,n,每一线性组合器输出传给对称硬限幅激活函数与单元延迟元素;任意神经元的单元延迟输出xi作为反馈给其他神经元的输入,但并不反馈给自己,即,当i=j时,wij=0,而其他神经元的状态可表示为:
其中:xj为外部输入,θj为阈值,wij为数据编号,且有
一个网络状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其中t时刻的状态为一个n维向量:
Y(t)=[y1(t),y2(t),…,yn(t)]T
yi(t)(i=1,2,3,…,n)可以取值为1或-1,故n维向量Y(t)有2n种状态,即网络有2n种状态;考虑一般节点状态,用yj(t)表示第j个神经元,即节点j在时刻t的状态,则节点的下一个时刻(t+1)的状态可以求得。
一个离散Hopfield网络的状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其t时刻的状态为一个n维变量,考虑离散Hopfield网络的一般节点状态利用节点后时刻t+1的状态,网络在外界激发作用下从初始状态进入动态演变的过程,第一层是神经元故而执行对输入信息与权系数的乘积求累加和,并经非线性函数f处理后产生输出信息:
其中,f为转移函数,一个简单的阀值函数;μ j(t)为神经元j的净输入,计算规则如下:
其中,uj(t)为神经元处理函数;wij为神经元j与神经元i之间的连接权值;xj为神经元处理函数截距;θj为神经元处理函数阈值,yi(t)为时刻t的离散Hopfield神经网络模型处理函数输入值,yj(t+1)为时刻t+1的离散Hopfield神经网络模型处理函数输出值,f[uj(t)]为神经元处理函数映射结果,Y(t)表示为整个离散Hopfield神经网络模型的完整输出值,[y1(t),y2(t),y3(t),…,yn(t)]T表示整个离散Hopfield神经网络模型的n个输出层神经元的输出状态,i和n均为自然数。
当网络经过适当的训练后,即连接权矩阵w=(wij)已经确定时,可以认为网络处于等待状态。若给定网络的初始输入为x,则网络各神经元就处于特定的初始状态,由x可得到当前时刻网络的输出量。通过网络的反馈作用,可得到下一时刻的网络输出量,再将这个输出反馈到输入端,如此不断循环下去。
如果网络是稳定的,那么经过多次反馈运行后,网络可达到稳定状态,即由输出端可得到网络的稳态输出。若到达t时刻后,网络状态不再改变,已收敛至稳定点,即:
y(t+1)=y(t)
此时输出端可得到网络的稳定输出。
离散Hopfield网络工作的过程实质上是神经元权值W调整的过程。一般来说,在进行Hopfield联想记忆时,要求:
(1)权值矩阵W为对称矩阵,
wij=wji,i≠j
主要保证网络在输入有误差的情况下仍能正确回忆所记模式。
(2)能够记忆预先给定的m个模式X1,X2,…,Xm,即:
为了使预先给定的模式,成为网络不动点。这些网络不动点可看作是网络的稳定吸引子,存在着一定的吸引域。但是网络中还存在着大量的伪吸引子,同样有着相当大的吸引域。当待联想的模式落入伪吸引域时,网络就会稳定在该吸引子上即陷入局部最优,从而导致联想过程失败。
Hopfield神经网络训练学习过程为评价等级的评价指标逐渐趋于Hopfield神经网络的平衡点的过程,学习完成后,Hopfield神经网络储存的平衡点即为各个评价等级所对应的评价指标。
但Hopfield神经网络的初始权值和阈值存在很大的随机化,网络在训练时容易陷入局部最优,无法进一步进行调整相关参数,导致模型收敛速度慢、预测精度不高和稳定性差等问题。目前对Hopfield神经网络初始参数的选择较为广泛的智能优化算法主要有遗传算法和粒子群算法,遗传算法存在编码、解码、交叉、变异等复杂操作,并且种群规模数要求较大、训练时间较长;粒子群算法在寻优过程的后期易陷入局部极值区域,出现收敛速度慢等问题。但都有其各自的局限性和不足。如何确定Hopfield神经网络的最佳初始权值和阀值,是提高Hopfield神经网络性能的关键。
优选的,在S4中,萤火虫算法(Glowworm Swarm Optimization,GSO)是一种模拟萤火虫通过发光吸引同伴求偶或觅食的行为的新型群智能仿生优化算法。自然界中的萤火虫可以通过感知有效范围内其他萤火虫的发光强度和频率来确定其他个体的存在和吸引力,将搜索和优化过程模拟成萤火虫吸引和移动的过程,实现了群优化问题的求解。
萤火虫算法优化过程包括四个步骤:荧光素更新、移动概率计算、萤火虫位置更新及动态决策域更新。利用萤火虫算法优化Hopfield神经网络初始参数步骤包括:随机生成Hopfield神经网络各个结点连接的权值和节点阈值,并对生成的各个Hopfield神经网络进行编码,使之对应于萤火虫算法中的个体,初始萤火虫算法参数,形成算法的初始群体,初始群体形成之后对群体中每个个体进行寻优处理,最终输出当前最优个体。具体步骤如下:
S41、神经网络与萤火虫算法编码
确定Hopfield神经网络的拓扑结构,初始化各层之间的权值和阈值,利用萤火虫算法对神经网络各层间的权值和阈值进行编码,按照萤火虫算法的编码要求,对Hopfield神经网络的初始阈值和权值进行编码,编码完成后输入萤火虫算法进行优化。
对个体实行实数编码,即用一个实数串表示一个个体,该实数串由4部分组成:输出层阈值、隐含层阈值、输出层与隐含层间的连接权值和隐含层与输入层间的连接权值,将Hopfield网络的连接权值和阈值采用实数矢量形式编码,每个个体代表问题的一个候选解,候选解组成种群存储了Hopfield神经网络的初始权值和阈值。
S42、初始化萤火虫算法的相关参数
Hopfield神经网络与萤火虫算法编码构成萤火虫初始种群,初始化萤火虫算法的参数,萤火虫种群的个数为M,初始化萤火虫随机初始位置,并设每个萤火虫的荧光素为L0,动态决策域为r0,nt为控制萤火虫邻居数的阈值,初始化步长s,领域阈值ρ,荧光素更新率γ,动态决策域更新率β,萤火虫感知域rs,搜索精度ε,迭代控制变量t,最大迭代次数为Tmax,随机性系数α0,其中,吸引力系数β0=1,光吸收系数γ为[0,1]分布的随机数,随机性系数α0∈[0,1]。
S43、荧光素更新
荧光素的更新与当前萤火虫所处的位置、前一时刻荧光素的残留量有关,其更新方程为:
li(t)=(1-ρ)li(t-1)+γf(xi(t))
其中,li(t)表示第t次迭代时的亮度值;ρ∈[0,1]为荧光素挥发因子;γ∈[0,1]为荧光素更新率,是萤火虫位置对适应度函数的影响因子;f(xi(t))当前萤火虫位置的适应度函数值,第i只萤火虫在第t次迭代的适应度值。
萤火虫的荧光素值越大,其亮度也越大,对其它萤火虫的吸引力也越强。其中f是萤火虫个体适应度函数值,表达式如下:
其中,f为萤火虫个体适应度值;Z为训练样本的个数;yk为实际的输出值;tk为期望的输出值;
S44、计算移动概率
萤火虫的亮度越大,对周围萤火虫的吸引力越大,周围萤火虫被吸引移动的概率就越高,,确定萤火虫i作为移动方向,根据轮盘概率公式选择出要移向的萤火虫,以轮盘赌的方式选择领域集内的个体j进行移动,计算萤火虫个体Xi向领域集Ni(t)内萤火虫个体xj移动概率,计算公式为:
其中,pij表示萤火虫i向萤火虫j移动的概率,相对来说亮度越高的萤火虫,被选择到的概率越大;Ni(t)为比当前萤火虫i荧光素高的萤火虫邻域集,k表示Ni(t)中的萤火虫。
S45、更新萤火虫位置和更新决策半径
寻找萤火虫xi的邻居,在此阶段中,萤火虫首先在其视野范围中选择出亮度比自己高的萤火虫组成邻居集合,邻居集合Ni(t)表达式如下:
其中,Ni(t)表示萤火虫i在t时刻邻居集合,自身决策范围内选择荧光素值高于自己的个体组成领域集;‖xj(t)-xi(t)‖表示两只萤火虫间的欧式距离,j表示邻居中的一员;表示萤火虫i在t时刻动态决策域。
在组成邻居集合,选择好所需的同伴后,更新萤火虫i的位置,确定萤火虫i的移动方向和移动距离。
S46、确定移动方向和移动距离
在萤火虫算法中,当萤火虫i寻找到具有更高萤光素值的萤火虫j时,且若此时萤火虫i和萤火虫j的距离小于感知半径,则萤火虫i以概率pij(t)选择萤火虫j,并向此方向动,表达式如下:
其中,xi(t)与xi(t+1)分别为当前时刻与下一时刻萤火虫i所处的位置,xj(t)为当前时刻与萤火虫j所处的位置;s为移动步长,j为萤火虫i的决策域内对萤火虫i吸引力最大的萤火虫编号。
确定移动方向和移动距离,更新位置,计算更新后位置的目标函数值,进而更新全局最优值。
S46、更新动态决策域
执行位置更新操作后,萤火虫i根据邻居密度动态更新其决策半径,若邻居密度太大,将减小决策半径,从而缩小搜索邻居萤火虫的范围,反之则增大决策半径,从而有利于搜索更多的邻居萤火虫,达到更新动态决策域目的,表达式如下:
其中,与分别表示当前时刻与下一时刻萤火虫i的动态决策半径;rs为决策半径阈值,即初始的视野最大值;β为邻域变化率,表示邻域的变化程度;nt为邻域阀值,为了控制萤火虫邻域集内包含萤火虫数目;Ni(t)为萤火虫i在时刻t的领域集内萤火虫数目。
S47、确定适应度函数
把Hopfield神经网络的预测输出和期望输出之间误差绝对值之和作为适应度函数值,适应度函数如下:
其中,k为常数;m为输出层节点数;yj为网络输出值;oj为网络预输出值。
计算各成员的适应度函数值,再根据适应度函数值更新荧光素值。
S48、迭代搜索最优值
重复以上步骤S42至S47,达到既定的精度或者迭代次数,则停止运算,否则,t=t+1,转S42,将萤火虫种群矩阵及各参数设置为全局变量,利用全局最优值(或接近最优值)拟合目标值。
通过以上寻优过程,萤火虫群最终聚集到荧光素值最大的萤火虫处,通过解码可以得到Hopfield网络初始最优权值和阈值。
S49、训练Hopfield神经网络,输出最优结果
萤火虫算法优化后的初始阈值和权值构造GSO-Hopfield神经网络,利用训练集训练网络并计算训练误差,直到误差收敛到精度要求,网络训练完毕。将测试集输入训练好的GSO-Hopfield神经网络,输出模型的预测精度。
优选的,在S5中,将测试集输入训练好的Hopfield神经网络模型进行测试,验证模型的预测精度,若未达到设定预测精度则重新计算Hopfield神经网络的初始连接权值和初始隐藏层阈值,并再次进行预测,如此反复迭代,直至达到精度要求,输出最优的Hopfield神经网络风险等级预测模型。
优选的,比较分类结果和实际测得值,可以把分类结果的精度显示在一个如下的混淆矩阵里面:
根据风险等级对应评分为1-5,采用评价模型预测能力及模型的稳定性,采用均方误差(MSE)、平均绝对百分比误差(MAPE)、平均绝对误差(MAE)和拟合度系数(EC)作为评价指标,计算公式分别如下:
其中,n为预测样本的个数,y′i为相应模型的预测等级,yi为样本实际风险等级。
本专利为了比较萤火虫算法的优化效果,采用遗传算法优化的Hopfield神经网络模型(GA-HNN)、粒子群算法优化的Hopfield神经网络模型(PSO-HNN)和萤火虫搜索算法优化的Hopfield神经网络模型(GSO-HNN)模型结果,其中GA-HNN模型参数设置为:种群个数N=20,交叉率为pc=0.8,变异率为pm=0.15,迭代次数为100;PSO-HNN模型参数设置为:学习因子c1=c2=2.05,种群规模为N=60,惯性因子k∈[0,0.9];GS0-HNN模型参数设置:萤火虫个数n为60,最大迭代次数200,荧光素消失率ρ=0.4,适合度影响参数γ=0.6,荧光素初值l0=10,动态决策域初值r0=3,步长初值s=0.05,决策域大小控制参数β=0.08,初始视野最大值rs=5,邻居数阈值nt=5。
利用测试样本对模型的预测精度进行测试,对比遗传算法和粒子群算法优化的模型结果如下:
GS0-HNN模型的MSE、MAPE和MAE值均低于参比模型,其拟合度系数EC值均高于其他模型,表明该模型具有较小的预测误差,且拟合程度较高。GSO-Hopfield神经网络预测模型可以避免Hopfield网络因初始参数的随机选择而易陷入局部最优的问题,学习速度和网络学习性能也得到了提高。
优选的,在S6中,将Hopfield神经网络模型部署至申请平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
本专利还提供一种基于萤火虫算法优化Hopfield神经网络的风险评级系统,包括以下模块:
数据获取模块,抽取建模样本客户,获取客户数据作为建模指标体系,所述客户数据包括风险等级和影响还款表现得信用数据;
数据预处理模块,对采集到的信用数据预处理,包括缺失值处理、异常值剔除和数据标准化,按时间顺序划分训练集数据和测试集数据;
模型创建模块,用于根据样本特征确定Hopfield神经网络的输入量与输出量,搭建Hopfield神经网络模型;
模型优化模块,用于采用引力搜索算法对Hopfield神经网络的初始参数进行优化,得到优化后的Hopfield神经网络,将所述训练集样本数据输入进行训练,并用测试集样本进行验证;
模型预测模块,用于模型对实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级结果。
模型更新模块,用于模型的在线更新,定期将离线化验数据输入到训练集中,更新Hopfield神经网络风险等级预测模型。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实例的说明只是用于帮助理解本发明的方法及其核心思想。以上所述仅是本发明的优选实施方式,应当指出,由于文字表达的有限性,而客观上存在无限的具体结构,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进、润饰或变化,也可以将上述技术特征以适当的方式进行组合;这些改进润饰、变化或组合,或未经改进将发明的构思和技术方案直接应用于其它场合的,均应视为本发明的保护范围。
Claims (10)
1.一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,包括以下六个步骤:
S1、确定表现期和风险等级,抽取建模样本客户,获取客户数据作为建模指标体系,所述客户数据包括风险等级和影响还款表现得信用数据;
S2、对采集到的信用数据预处理,包括缺失值处理、异常值剔除和数据标准化,按时间顺序划分训练集数据和测试集数据;
S3、由步骤S2中的样本数据中提取信用数据特征及对应的风险等级,根据样本特征确定Hopfield神经网络的输入量与输出量,搭建Hopfield神经网络模型;
S4、构建Hopfield神经网络的权值阈值与萤火虫算法的映射关系,利用萤火虫算法优化好的Hopfield神经网络的初始权值与阈值,并用训练样本进行训练;
S5、将测试集作为参数寻优过程中的验证集输入训练好的Hopfield神经网络模型进行测试,验证模型的准确性,并以模型精度评价指标与遗传算法、粒子群算法优化的模型进行对比与评价;
S6、将Hopfield神经网络模型部署至贷款平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级结果,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
2.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S1中,信用数据包括:个人信息、贷款信息和操作埋点数据,采集的个人信息数据包括客户号、性别、出生日期、联系方式、居住地、家庭信息、学历、收入情况、负债情况、风险偏好、房屋和车辆的情况、工作所处行业、征信情况等;贷款信息数据分为已有贷款及申请贷款信息,主要包括贷款额度、贷款类型、贷款利率、贷款期限、每月归还额度;所述埋点数据包括埋点时采集的设备行为数据和日志数据,其中设备行为数据包括:登录本平台的次数、点击次数、点击频率、输入总耗时及平均耗时、手机号数据、GPS位置、MAC地址、IP地址数据、地理信息申请频次、IP的申请频次、设备电量占比、陀螺仪的平均加速度,另外日志数据包括:7天内登录次数、首次点击到申请授信时长、一天内最多的session数、申请授信前一周的行为统计等。另外在合规要求下,不限于获取移动互联网行为数据、贷款APP内行为数据、信贷历史、运营商数据在内的全域多维度大数据。
3.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S1中,设置贷款表现窗口为6个月,5个信用风等级为:良好、安全、一般、危险、损失,分别定义为:未出现逾期为良好,历史最大逾期天数在(0,3]为安全,历史最大逾期天数在(3,15]为一般,历史最大逾期天数在(15,30]为危险,历史最大逾期天数大于30为损失。控制各信用风等级样本的比例,从全部样本中随机抽取样本数据集。
4.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S2中,在步骤S1获取建模数据后,结合常识和统计学规律对于原始数据进行预处理,首先对数据质量进行检验。包括:用户编号的唯一性、样本完整性、变量的范围和取值、缺失值、异常值等;其次是构建衍生变量,即对原始数据进行处理和加工,以获取更有预测力和解释性的变量,比如累计逾期次数、资产负债比、负债月还资产占比等。
6.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S3中,Hopfield神经网络(Hopfield Neural Network,HNN)是一种单层对称全反馈循环神经网络,从输出到输入均有反馈连接,从输出到输入有反馈连接,所有神经元单元都是一样的,它们之间相互连接,每个神经元都通过连接权重接受所有其他神经元输出反馈来的信息,其目是为了让每个神经元的输出能够接受所有其他神经元输出的控制,从而使各神经元能够相互制约,是一种拥有联想记忆功能的神经网络模型。Hopfield神经网络根据激励函数的不同分维离散和连续两种模式,离散Hopfield网络(DHNN)的激励函数是1和0的阶跃函数,分别表示神经元处于激活和抑制状态;连续Hopfield激励函数是S形的连续函数。本专利构建基于离散Hopfield神经网络的信用风险评价模型,输入为信用特征样本集,输出信用风险评级样本集。具体构建步骤如下:
设网络的初始输入向量x=[x1,x2,…,xn]T,xj(j=1,2,…,n)为神经元j的输入量;yj为神经元j的输出量,yj∈{-1,+1};yj(t)通常指神经元j在t时刻的输出量。
离散Hopfield神经网络依靠集体协作能力,能完成高强度连接下自身产生出计算的行为,是一种拥有联想记忆功能的神经网络模型,所采用的神经元是二值神经元,输出的离散值1和-1分别表示神经元处于激活和抑制状态。
离散Hopfield神经网络中的每一神经元,对于i=1,2,…,n,每一线性组合器输出传给对称硬限幅激活函数与单元延迟元素;任意神经元的单元延迟输出xi作为反馈给其他神经元的输入,但并不反馈给自己,即,当i=j时,wij=0,而其他神经元的状态可表示为:
其中,xj为外部输入,θj为阈值,wij为数据编号,且有
一个网络状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其中t时刻的状态为一个n维向量:
Y(t)=[y1(t),y2(t),…,yn(t)]T
yi(t)(i=1,2,3,…,n)可以取值为1或-1,故n维向量Y(t)有2n种状态,即网络有2n种状态;考虑一般节点状态,用yj(t)表示第j个神经元,即节点j在时刻t的状态,则节点的下一个时刻(t+1)的状态可以求得。
一个离散Hopfield网络的状态是输出神经元信息的集合,对于一个输出层是n个神经元的网络,其t时刻的状态为一个n维变量,考虑离散Hopfield网络的一般节点状态利用节点后时刻t+1的状态,网络在外界激发作用下从初始状态进入动态演变的过程,第一层是神经元故而执行对输入信息与权系数的乘积求累加和,并经非线性函数f处理后产生输出信息:
其中,f为转移函数,一个简单的阀值函数;μj(t)为神经元j的净输入,计算规则如下:
其中,uj(t)为神经元处理函数;wij为神经元j与神经元i之间的连接权值;xj为神经元处理函数截距;θj为神经元处理函数阈值,yi(t)为时刻t的离散Hopfield神经网络模型处理函数输入值,yj(t+1)为时刻t+1的离散Hopfield神经网络模型处理函数输出值,f[uj(t)]为神经元处理函数映射结果,Y(t)表示为整个离散Hopfield神经网络模型的完整输出值,[y1(t),y2(t),y3(t),…,yn(t)]T表示整个离散Hopfield神经网络模型的n个输出层神经元的输出状态,i和n均为自然数。
当网络经过适当的训练后,即连接权矩阵w=(wij)已经确定时,可以认为网络处于等待状态。若给定网络的初始输入为x,则网络各神经元就处于特定的初始状态,由x可得到当前时刻网络的输出量。通过网络的反馈作用,可得到下一时刻的网络输出量,再将这个输出反馈到输入端,如此不断循环下去。
如果网络是稳定的,那么经过多次反馈运行后,网络可达到稳定状态,即由输出端可得到网络的稳态输出。若到达t时刻后,网络状态不再改变,已收敛至稳定点,即:
y(t+1)=y(t)
此时输出端可得到网络的稳定输出。
离散Hopfield网络工作的过程实质上是神经元权值W调整的过程。一般来说,在进行Hopfield联想记忆时,要求:
(1)权值矩阵W为对称矩阵,
wij=wji,i≠j
主要保证网络在输入有误差的情况下仍能正确回忆所记模式。
(2)能够记忆预先给定的m个模式X1,X2,…,Xm,即:
为了使预先给定的模式,成为网络不动点,这些网络不动点可看作是网络的稳定吸引子,存在着一定的吸引域。但是网络中还存在着大量的伪吸引子,同样有着相当大的吸引域。当待联想的模式落入伪吸引域时,网络就会稳定在该吸引子上即陷入局部最优,从而导致联想过程失败。
Hopfield神经网络训练学习过程为评价等级的评价指标逐渐趋于Hopfield神经网络的平衡点的过程,学习完成后,Hopfield神经网络储存的平衡点即为各个评价等级所对应的评价指标。
但Hopfield神经网络的初始权值和阈值存在很大的随机化,网络在训练时容易陷入局部最优,无法进一步进行调整相关参数,导致模型收敛速度慢、预测精度不高和稳定性差等问题。目前对Hopfield神经网络初始参数的选择较为广泛的智能优化算法主要有遗传算法和粒子群算法等,其中遗传算法存在编码、解码、交叉、变异等复杂操作,并且种群规模数要求较大、训练时间较长;粒子群算法在寻优过程的后期易陷入局部极值区域,出现收敛速度慢等问题。目前的优化算法均有其各自的局限性和不足。如何优化Hopfield神经网络的最佳初始权值和阀值,是提高Hopfield神经网络性能的关键。
7.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S4中,萤火虫算法(Glowworm Swarm Optimization,GSO)是一种模拟萤火虫通过发光吸引同伴求偶或觅食的行为的新型群智能仿生优化算法。自然界中的萤火虫可以通过感知有效范围内其他萤火虫的发光强度和频率来确定其他个体的存在和吸引力,将搜索和优化过程模拟成萤火虫吸引和移动的过程,实现了群优化问题的求解。
萤火虫算法优化过程包括四个步骤:荧光素更新、移动概率计算、萤火虫位置更新及动态决策域更新。利用萤火虫算法优化Hopfield神经网络初始参数步骤包括:随机生成Hopfield神经网络各个结点连接的权值和节点阈值,并对生成的各个Hopfield神经网络进行编码,使之对应于萤火虫算法中的个体,初始萤火虫算法参数,形成算法的初始群体,初始群体形成之后对群体中每个个体进行寻优处理,最终输出当前最优个体。具体步骤如下:
S41、神经网络与萤火虫算法编码
确定Hopfield神经网络的拓扑结构,初始化各层之间的权值和阈值,利用萤火虫算法对神经网络各层间的权值和阈值进行编码,按照萤火虫算法的编码要求,对Hopfield神经网络的初始阈值和权值进行编码,编码完成后输入萤火虫算法进行优化。
对个体实行实数编码,即用一个实数串表示一个个体,该实数串由4部分组成:输出层阈值、隐含层阈值、输出层与隐含层间的连接权值和隐含层与输入层间的连接权值,将Hopfield网络的连接权值和阈值采用实数矢量形式编码,每个个体代表问题的一个候选解,候选解组成种群存储了Hopfield神经网络的初始权值和阈值。
S42、初始化萤火虫算法的相关参数
Hopfield神经网络与萤火虫算法编码构成萤火虫初始种群,初始化萤火虫算法的参数,萤火虫种群的个数为M,初始化萤火虫随机初始位置,并设每个萤火虫的荧光素为L0,动态决策域为r0,nt为控制萤火虫邻居数的阈值,初始化步长s,领域阈值ρ,荧光素更新率γ,动态决策域更新率β,萤火虫感知域rs,搜索精度ε,迭代控制变量t,最大迭代次数为Tmax,随机性系数α0,其中,吸引力系数β0=1,光吸收系数γ为[0,1]分布的随机数,随机性系数α0∈[0,1]。
S43、荧光素更新
荧光素的更新与当前萤火虫所处的位置、前一时刻荧光素的残留量有关,其更新方程为:
li(t)=(1-ρ)li(t-1)+γf(xi(t))
其中,li(t)表示第t次迭代时的亮度值;ρ∈[0,1]为荧光素挥发因子;γ∈[0,1]为荧光素更新率,是萤火虫位置对适应度函数的影响因子;f(xi(t))当前萤火虫位置的适应度函数值,第i只萤火虫在第t次迭代的适应度值。
萤火虫的荧光素值越大,其亮度也越大,对其它萤火虫的吸引力也越强。其中f是萤火虫个体适应度函数值,表达式如下:
其中,f为萤火虫个体适应度值,Z为训练样本的个数,yk为实际的输出值,tk为期望的输出值;
S44、计算移动概率
萤火虫的亮度越大,对周围萤火虫的吸引力越大,周围萤火虫被吸引移动的概率就越高,,确定萤火虫i作为移动方向,根据轮盘概率公式选择出要移向的萤火虫,以轮盘赌的方式选择领域集内的个体j进行移动,计算萤火虫个体Xi向领域集Ni(t)内萤火虫个体xj移动概率,计算公式为:
其中,pij表示萤火虫i向萤火虫j移动的概率,相对来说亮度越高的萤火虫,被选择到的概率越大;Ni(t)为比当前萤火虫i荧光素高的萤火虫邻域集,k表示Ni(t)中的萤火虫。
S45、更新萤火虫位置和更新决策半径
寻找萤火虫xi的邻居,在此阶段中,萤火虫首先在其视野范围中选择出亮度比自己高的萤火虫组成邻居集合,邻居集合Ni(t)表达式如下:
其中,Ni(t)表示萤火虫i在t时刻邻居集合,自身决策范围内选择荧光素值高于自己的个体组成领域集;‖xj(t)-xi(t)‖表示两只萤火虫间的欧式距离,j表示邻居中的一员;表示萤火虫i在t时刻动态决策域。
在组成邻居集合,选择好所需的同伴后,更新萤火虫i的位置,确定萤火虫i的移动方向和移动距离。
S46、确定移动方向和移动距离
在萤火虫算法中,当萤火虫i寻找到具有更高萤光素值的萤火虫j时,且若此时萤火虫i和萤火虫j的距离小于感知半径,则萤火虫i以概率pij(t)选择萤火虫j,并向此方向动,表达式如下:
其中,xi(t)与xi(t+1)分别为当前时刻与下一时刻萤火虫i所处的位置,xj(t)为当前时刻与萤火虫j所处的位置;s为移动步长,j为萤火虫i的决策域内对萤火虫i吸引力最大的萤火虫编号。
确定移动方向和移动距离,更新位置,计算更新后位置的目标函数值,进而更新全局最优值。
S46、更新动态决策域
执行位置更新操作后,萤火虫i根据邻居密度动态更新其决策半径,若邻居密度太大,将减小决策半径,从而缩小搜索邻居萤火虫的范围,反之,则增大决策半径,从而有利于搜索更多的邻居萤火虫,达到更新动态决策域目的,表达式如下:
其中,与分别表示当前时刻与下一时刻萤火虫i的动态决策半径;rs为决策半径阈值,即初始的视野最大值;β为邻域变化率,表示邻域的变化程度;nt为邻域阀值,为了控制萤火虫邻域集内包含萤火虫数目;Ni(t)为萤火虫i在时刻t的领域集内萤火虫数目。
S47、确定适应度函数
把Hopfield神经网络的预测输出和期望输出之间误差绝对值之和作为适应度函数值,适应度函数如下:
其中,k为常数;m为输出层节点数;yj为网络输出值;oj为网络预输出值。
计算各成员的适应度函数值,再根据适应度更新荧光素值。
S48、迭代搜索最优值
重复以上步骤S42至S47,达到既定的精度或者迭代次数,则停止运算,否则,t=t+1,转S42,将萤火虫种群矩阵及各参数设置为全局变量,利用全局最优值(或接近最优值)拟合目标值。
通过以上寻优过程,萤火虫群最终聚集到荧光素值最大的萤火虫处,通过解码可以得到Hopfield网络初始最优权值和阈值。
S49、训练Hopfield神经网络,输出最优结果
萤火虫算法优化后的初始阈值和权值构造GSO-Hopfield神经网络,利用训练集训练网络并计算训练误差,直到误差收敛到精度要求,网络训练完毕。将测试集输入训练好的GSO-Hopfield神经网络,输出模型的预测精度。
8.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S5中,将测试集输入训练好的Hopfield神经网络模型进行测试,验证模型的预测精度,若未达到设定预测精度则重新计算Hopfield神经网络的初始连接权值和初始隐藏层阈值,并再次进行预测,如此反复迭代,直至达到精度要求,输出最优的Hopfield神经网络风险等级预测模型。
9.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S5中,比较分类结果和实际测得值,可以把分类结果的精度显示在一个如下的混淆矩阵里面,
根据风险等级对应评分为1-5,采用评价模型预测能力及模型的稳定性,采用均方误差(MSE)、平均绝对百分比误差(MAPE)、平均绝对误差(MAE)和拟合度系数(EC)作为评价指标,计算公式分别如下:
本专利为了比较萤火虫算法的优化效果,采用遗传算法优化的Hopfield神经网络模型(GA-HNN)、粒子群算法优化的Hopfield神经网络模型(PSO-HNN)和萤火虫搜索算法优化的Hopfield神经网络模型(GSO-HNN)模型结果,其中GA-HNN模型参数设置为:种群个数N=20,交叉率为pc=0.8,变异率为pm=0.15,迭代次数为100;PSO-HNN模型参数设置为:学习因子c1=c2=2.05,种群规模为N=60,惯性因子k∈[0,0.9];GS0-HNN模型参数设置:萤火虫个数n=60,最大迭代次数200,荧光素消失率ρ=0.4,适合度影响参数γ=0.6,荧光素初值l0=10,动态决策域初值r0=3,步长初值s=0.05,决策域大小控制参数β=0.08,初始视野最大值rs=5,邻居数阈值nt=5。
利用测试样本对模型的预测精度进行测试,对比遗传算法和粒子群算法优化的模型结果如下:
GS0-HNN模型的MSE、MAPE和MAE值均低于参比模型,其拟合度系数EC值均高于其他模型,表明该模型具有较小的预测误差,且拟合程度较高。GSO-Hopfield神经网络预测模型可以避免Hopfield网络因初始参数的随机选择而易陷入局部最优的问题,学习速度和网络学习性能也得到了提高。
10.根据权利要求1所述的一种基于萤火虫算法优化Hopfield神经网络的风险评级方法,其特征在于,在S6中,将Hopfield神经网络模型部署至申请平台,获取实时申请客户的数据并将作为待测样本导入预测模型中输出风险评级,实现申请客户的实时审批,并定期将有表现数据输入到模型训练,实现模型的在线更新。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110730393.1A CN113538125A (zh) | 2021-06-29 | 2021-06-29 | 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110730393.1A CN113538125A (zh) | 2021-06-29 | 2021-06-29 | 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113538125A true CN113538125A (zh) | 2021-10-22 |
Family
ID=78097216
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110730393.1A Pending CN113538125A (zh) | 2021-06-29 | 2021-06-29 | 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113538125A (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114339857A (zh) * | 2021-12-07 | 2022-04-12 | 重庆邮电大学 | 超密集异构无线网络中基于网络相似性的垂直切换方法 |
CN114374561A (zh) * | 2022-01-13 | 2022-04-19 | 潍坊学院 | 一种网络安全状态评估方法、装置及可存储介质 |
CN114548482A (zh) * | 2021-12-24 | 2022-05-27 | 中铁西北科学研究院有限公司 | 一种基于蠕变型滑坡动能变化率临滑预警方法 |
CN115563593A (zh) * | 2022-10-08 | 2023-01-03 | 邯郸学院 | 基于大数据的护眼数据管理平台 |
CN116202575A (zh) * | 2023-05-04 | 2023-06-02 | 山东汇杰地理信息科技有限公司 | 一种水土保持土壤流失率监测系统及方法 |
CN116205473A (zh) * | 2023-05-06 | 2023-06-02 | 绿城乐居建设管理集团有限公司 | 一种建筑施工调度方案优化方法与存储介质 |
CN116843456A (zh) * | 2023-08-29 | 2023-10-03 | 北京燕知信科技服务有限公司 | 基于人工智能的金融大数据处理方法及系统 |
CN117039894A (zh) * | 2023-10-09 | 2023-11-10 | 国家电投集团江西电力工程有限公司 | 基于改进蜣螂优化算法的光伏功率短期预测方法及系统 |
CN117234957A (zh) * | 2023-11-16 | 2023-12-15 | 山东科技大学 | 一种基于改进萤火虫算法的测试用例优先级排序方法 |
CN117422306A (zh) * | 2023-10-30 | 2024-01-19 | 广州金财智链数字科技有限公司 | 基于动态神经网络的跨境电商风险控制方法及系统 |
CN118035944A (zh) * | 2024-04-12 | 2024-05-14 | 天云融创数据科技(北京)有限公司 | 一种基于大数据的数据融合方法及系统 |
CN118469257A (zh) * | 2024-07-10 | 2024-08-09 | 杭州和利时自动化有限公司 | 基于机器学习模型的电厂优化调度方法及虚拟控制系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109255506A (zh) * | 2018-11-22 | 2019-01-22 | 重庆邮电大学 | 一种基于大数据的互联网金融用户贷款逾期预测方法 |
CN110298574A (zh) * | 2019-06-21 | 2019-10-01 | 国网辽宁省电力有限公司鞍山供电公司 | 一种基于卷积神经网络的用电用户缴费风险评级方法 |
CN110533520A (zh) * | 2019-06-06 | 2019-12-03 | 上海凯京信达科技集团有限公司 | 一种基于多模型的个体客户贷款逾期等级的评级方法 |
CN110909984A (zh) * | 2019-10-28 | 2020-03-24 | 苏宁金融科技(南京)有限公司 | 业务数据处理模型训练方法、业务数据处理方法及装置 |
CN111311402A (zh) * | 2020-03-30 | 2020-06-19 | 百维金科(上海)信息科技有限公司 | 一种基于XGBoost的互联网金融风控模型 |
CN111582541A (zh) * | 2020-03-27 | 2020-08-25 | 合肥学院 | 一种基于萤火虫算法的内涝模型预测方法 |
CN112634019A (zh) * | 2020-12-23 | 2021-04-09 | 百维金科(上海)信息科技有限公司 | 基于细菌觅食算法优化灰色神经网络的违约概率预测方法 |
CN112634018A (zh) * | 2020-12-23 | 2021-04-09 | 百维金科(上海)信息科技有限公司 | 一种基于蚁群算法优化循环神经网络的逾期监控方法 |
-
2021
- 2021-06-29 CN CN202110730393.1A patent/CN113538125A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109255506A (zh) * | 2018-11-22 | 2019-01-22 | 重庆邮电大学 | 一种基于大数据的互联网金融用户贷款逾期预测方法 |
CN110533520A (zh) * | 2019-06-06 | 2019-12-03 | 上海凯京信达科技集团有限公司 | 一种基于多模型的个体客户贷款逾期等级的评级方法 |
CN110298574A (zh) * | 2019-06-21 | 2019-10-01 | 国网辽宁省电力有限公司鞍山供电公司 | 一种基于卷积神经网络的用电用户缴费风险评级方法 |
CN110909984A (zh) * | 2019-10-28 | 2020-03-24 | 苏宁金融科技(南京)有限公司 | 业务数据处理模型训练方法、业务数据处理方法及装置 |
CN111582541A (zh) * | 2020-03-27 | 2020-08-25 | 合肥学院 | 一种基于萤火虫算法的内涝模型预测方法 |
CN111311402A (zh) * | 2020-03-30 | 2020-06-19 | 百维金科(上海)信息科技有限公司 | 一种基于XGBoost的互联网金融风控模型 |
CN112634019A (zh) * | 2020-12-23 | 2021-04-09 | 百维金科(上海)信息科技有限公司 | 基于细菌觅食算法优化灰色神经网络的违约概率预测方法 |
CN112634018A (zh) * | 2020-12-23 | 2021-04-09 | 百维金科(上海)信息科技有限公司 | 一种基于蚁群算法优化循环神经网络的逾期监控方法 |
Non-Patent Citations (2)
Title |
---|
胡贤德: ""小微企业信用风险评估的IDGSO-BP集成模型构建研究"", 《运筹与管理》 * |
陈仕鸿: ""基于离散型Hopfield 神经网络的台风灾情评估模型"", 《自然灾害学报》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114339857B (zh) * | 2021-12-07 | 2023-07-25 | 重庆邮电大学 | 超密集异构无线网络中基于网络相似性的垂直切换方法 |
CN114339857A (zh) * | 2021-12-07 | 2022-04-12 | 重庆邮电大学 | 超密集异构无线网络中基于网络相似性的垂直切换方法 |
CN114548482A (zh) * | 2021-12-24 | 2022-05-27 | 中铁西北科学研究院有限公司 | 一种基于蠕变型滑坡动能变化率临滑预警方法 |
CN114374561A (zh) * | 2022-01-13 | 2022-04-19 | 潍坊学院 | 一种网络安全状态评估方法、装置及可存储介质 |
CN114374561B (zh) * | 2022-01-13 | 2023-10-24 | 潍坊学院 | 一种网络安全状态评估方法、装置及可存储介质 |
CN115563593A (zh) * | 2022-10-08 | 2023-01-03 | 邯郸学院 | 基于大数据的护眼数据管理平台 |
CN115563593B (zh) * | 2022-10-08 | 2023-05-12 | 邯郸学院 | 基于大数据的护眼数据管理平台 |
CN116202575B (zh) * | 2023-05-04 | 2023-07-28 | 山东汇杰地理信息科技有限公司 | 一种水土保持土壤流失率监测系统及方法 |
CN116202575A (zh) * | 2023-05-04 | 2023-06-02 | 山东汇杰地理信息科技有限公司 | 一种水土保持土壤流失率监测系统及方法 |
CN116205473A (zh) * | 2023-05-06 | 2023-06-02 | 绿城乐居建设管理集团有限公司 | 一种建筑施工调度方案优化方法与存储介质 |
CN116843456A (zh) * | 2023-08-29 | 2023-10-03 | 北京燕知信科技服务有限公司 | 基于人工智能的金融大数据处理方法及系统 |
CN116843456B (zh) * | 2023-08-29 | 2023-11-07 | 北京燕知信科技服务有限公司 | 基于人工智能的金融大数据处理方法及系统 |
CN117039894A (zh) * | 2023-10-09 | 2023-11-10 | 国家电投集团江西电力工程有限公司 | 基于改进蜣螂优化算法的光伏功率短期预测方法及系统 |
CN117039894B (zh) * | 2023-10-09 | 2024-04-05 | 国家电投集团江西电力工程有限公司 | 基于改进蜣螂优化算法的光伏功率短期预测方法及系统 |
CN117422306A (zh) * | 2023-10-30 | 2024-01-19 | 广州金财智链数字科技有限公司 | 基于动态神经网络的跨境电商风险控制方法及系统 |
CN117234957A (zh) * | 2023-11-16 | 2023-12-15 | 山东科技大学 | 一种基于改进萤火虫算法的测试用例优先级排序方法 |
CN117234957B (zh) * | 2023-11-16 | 2024-02-06 | 山东科技大学 | 一种基于改进萤火虫算法的测试用例优先级排序方法 |
CN118035944A (zh) * | 2024-04-12 | 2024-05-14 | 天云融创数据科技(北京)有限公司 | 一种基于大数据的数据融合方法及系统 |
CN118469257A (zh) * | 2024-07-10 | 2024-08-09 | 杭州和利时自动化有限公司 | 基于机器学习模型的电厂优化调度方法及虚拟控制系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113538125A (zh) | 一种基于萤火虫算法优化Hopfield神经网络的风险评级方法 | |
CN111310814A (zh) | 利用不平衡正负样本对业务预测模型训练的方法及装置 | |
CN107506590A (zh) | 一种基于改进深度信念网络的心血管疾病预测模型 | |
CN110490320B (zh) | 基于预测机制和遗传算法融合的深度神经网络结构优化方法 | |
CN112634018A (zh) | 一种基于蚁群算法优化循环神经网络的逾期监控方法 | |
Navgaran et al. | Evolutionary based matrix factorization method for collaborative filtering systems | |
CN113379536A (zh) | 一种基于引力搜索算法优化递归神经网络的违约概率预测方法 | |
CN112634019A (zh) | 基于细菌觅食算法优化灰色神经网络的违约概率预测方法 | |
CN115510963A (zh) | 一种增量式设备故障诊断方法 | |
CN112581264A (zh) | 一种基于蝗虫算法优化mlp神经网络的信用风险预测方法 | |
Ramachandra | Deep learning for causal inference | |
CN113239638A (zh) | 一种基于蜻蜓算法优化多核支持向量机的逾期风险预测方法 | |
Karlov et al. | Application of high-speed algorithms for training neural networks for forecasting financial markets | |
Sebastian | Performance evaluation by artificial neural network using WEKA | |
CN116993548A (zh) | 基于增量学习的LightGBM-SVM的教育培训机构信用评估方法及系统 | |
US11468352B2 (en) | Method and system for predictive modeling of geographic income distribution | |
Sermpinis et al. | Adaptive evolutionary neural networks for forecasting and trading without a data‐snooping Bias | |
Borysenko et al. | Intelligent forecasting in multi-criteria decision-making. | |
CN113449182A (zh) | 一种知识信息个性化推荐方法及系统 | |
CN112348656A (zh) | 一种基于ba-wnn的个人贷款信用评分方法 | |
CN115588487B (zh) | 一种基于联邦学习和生成对抗网络的医学图像数据集制作方法 | |
Panchal et al. | Efficient attribute evaluation, extraction and selection techniques for data classification | |
CN113392958B (zh) | 一种模糊神经网络fnn的参数优化及应用方法与系统 | |
CN116128339A (zh) | 客户信用评估方法及装置、存储介质及电子设备 | |
Ly et al. | Applying deep learning to better predict cryptocurrency trends |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211022 |