CN110544168A

CN110544168A - 一种基于生成对抗网络的弱监督互联网金融反欺诈方法

Info

Publication number: CN110544168A
Application number: CN201910761996.0A
Authority: CN
Inventors: 王成; 胡腾
Original assignee: Tongji University
Current assignee: Tongji University
Priority date: 2019-08-19
Filing date: 2019-08-19
Publication date: 2019-12-06

Abstract

本发明公开了一种基于生成对抗网络的弱监督互联网金融反欺诈方法，涉及互联网金融网络支付的反欺诈检测领域，解决了目前反欺诈对于欺诈数据的使用不完全，模型准确率低的弊端，其技术方案要点是对互联网金融产生的交易数据进行预处理以能进行模型的计算；建立生成对抗网络的生成模型和判别模型，根据真实数据和随机生成的数据交替训练判别模型和生成模型直至模型收敛；将收敛的生成对抗网络中的生成模型作为样本生成器，通过神经网络的预测模型对交易数据评估，本发明的一种基于生成对抗网络的弱监督互联网金融反欺诈方法，在不丢失信息量的情况下还能引入新的信息量，提高了模型的泛化能力，从而提高了拦截欺诈交易的准确性和模型的鲁棒性。

Description

一种基于生成对抗网络的弱监督互联网金融反欺诈方法

技术领域

本发明涉及互联网金融网络支付的反欺诈检测，特别涉及一种基于生成对抗网络的弱监督互联网金融反欺诈方法。

背景技术

在互联网金融领域，数据标签的获得是依赖于风险的实际发生，即只有真正当欺诈发生时，金融公司才能得到欺诈的标签数据，因此该标签数据的获得具有滞后性，所以欺诈标签的获得是以用户实际发生欺诈为代价的，这会给用户带来极大的损失，同时也会给金融公司的安全防护带来极大的威胁，因此互联网金融的反欺诈过程就是一个和犯罪者赛跑的过程，如果能及时的超越对手跑在犯罪者的前面，就能防患于未然，及时给用户以反馈，并挽救用户的损失。

目前已经针对这种欺诈与非欺诈数据的比率极度不均衡的样本，常规的机器学习的思路是从数据中抽出特定的数据比率，即只从非欺诈数据中抽出部分数据，然后将欺诈数据和抽样得到的非欺诈数据作为训练集来训练一个合适的判别模型。但是这种方式存在一个弊端，即通常只用到了部分的非欺诈数据，信息的使用不完全，很可能会造成信息丢失的情况，从信息量的角度来判断，这种构建学习模型的方式对信息量的使用是不完全的。对信息量的使用不完全必定会造成模型的准确率不高。

发明内容

本发明的目的是提供一种基于生成对抗网络的弱监督互联网金融反欺诈方法，在不丢失信息量的情况下还能引入新的信息量，提高了模型的泛化能力，从而提高了拦截欺诈交易的准确性和模型的鲁棒性。

本发明的上述技术目的是通过以下技术方案得以实现的：

一种基于生成对抗网络的弱监督互联网金融反欺诈方法，包括有以下步骤：

对互联网金融产生的交易数据进行预处理以能进行模型的计算；

建立生成对抗网络的生成模型和判别模型，根据真实数据和随机生成的数据交替训练判别模型和生成模型直至模型收敛；

将收敛的生成对抗网络中的生成模型作为样本生成器，用来生成欺诈的标签数据；

通过生成的标签数据训练预测模型，以通过预测模型进行交易数据评估。

作为优选，具体步骤如下：

预处理：对原始的数据通过数据清理、数据集成及数据变化将数据转换成可参与模型计算的形式；

建模：建立不断学习训练集中的真实数据的概率分布，将输入的随机噪声转换成伪数据的生成模型；建立判断一条记录是否是真实的数据，且将生成模型产生的伪数据与数据中的真数据区分的判别模型；

训练：通过真实数据和随机生成的数据同时输入判别模型进行训练，并且更新判别模型的参数；将损失函数中的损失反馈给生成模型以调整生成模型的参数，并训练生成模型；交替训练判别模型和生成模型直至模型收敛；

评估：将收敛的生成模型作为交易数据评估中欺诈数据的样本生成器，生成欺诈的标签数据并训练神经网络中的预测模型，以对交易数据进行预测评估。

作为优选，预处理中具体步骤包括有：

数据清理：通过填写缺失值，光滑噪声数据，识别/解决不一致来清理数据，实现数据的格式化标准、异常数据的清除、错误纠正及重复数据的清除；

数据集成：将多个数据源中的数据结合起来并统一存储，建立数据仓库；

数据变换：通过平滑聚集、数据概化、规范化将数据转换成学习模型需要的数值型数据。

作为优选，判别模型及判别模型的参数的更新具体如下：

从生成模型生成的数据及真实欺诈数据中均选取等量若干样本，计算下式采用随机梯度下降更新判别模型参数，计算公式为：

从生成模型生成的数据中选取若干样本，计算下式通过随机梯度下降更新生成模型参数，计算公式如下：

更新直至模型收敛，若模型未收敛则增加选取的样本再次计算更新；

其中，z⁽ⁱ⁾为生成模型生成的数据中选取的样本，x⁽ⁱ⁾为正式欺诈数据中选取的样本，m为样本数量。

作为优选，生成模型及判别模型均为长短期记忆网络。

综上所述，本发明具有以下有益效果：

在保证没有信息量丢失的情况下，还能顺利的建模，甚至在使用了GAN之后对预测的结果还有一定提升；在互联网金融中，由于欺诈交易的少量特性，基于本方法可以利用这些少量的珍贵的欺诈样本作为“种子数据”来生成更多的欺诈数据，由于生成模型可以较好的学习到欺诈数据的分布，则利用生成模型生成的欺诈数据可以用来训练后续的预测模型，弥补了欺诈标签数据不足的情况，可以促进预测模型的训练结果，从而使得预测的结构有一定的提升。

附图说明

图1为本发明的系统结构图；

图2为本发明的评估模型。

具体实施方式

以下结合附图对本发明作进一步详细说明。

本实施例公开的一种基于生成对抗网络的弱监督互联网金融反欺诈方法，当前互联网金融产生丰富交易信息数据，以这些数据作为基础分析，设计反欺诈检测系统，保护用户和企业的安全。如图1所示，生成对抗网络的线上交易欺诈实时检测包括有四个模块，它们分别是：1.预处理；2.建模；3.训练；4.生成。

1、预处理

目前的互联网金融已经产生了许多丰富的交易数据，数据大体上都是不完整的不一致的脏数据，无法直接参与模型的计算，因此我们必须对原始的数据进行预处理。预处理包括：

(1)数据清理：通过填写缺失值，光滑噪声数据，识别或解决不一致来清理数据。主要为达到以下的目标：数据的格式化标准，如时间，异常数据的清除，错误纠正，重复数据的清除；

(2)数据集成：数据集成主要是将多个数据源中的数据结合起来并统一存储，建立数据仓库；

(3)数据变换：通过平滑聚集，数据概化，规范化等方式将数据转换成学习模型需要的形式。

预处理的过程就是将原始的数据转化成模型可以用来计算的数值型数据，并对缺失值进行填充。例如数据的原始字段如表1所示：

表1原始字段以及处理后的字段

如表1所示，可用的原始字段大部分为字符串类型，而作为概率图模型本身则只能对离散型的变量做处理，因此预处理不仅包含前面提到的数据清理和数据集成，并且在数据变换过程中，还将连续型浮点数转换成概率图模型可计算的离散型变量。

2、建模

生成对抗网络-Generative Adversarial Networks，简称GAN,其中包含两个重要的模型一个是生成模型G，另一个是判别模型D：

(1)生成模型G：不断学习训练集中的真实数据的概率分布，将输入的随机噪声转换成与真实数据相似的伪数据。

(2)判别模型D：判断一条记录是否是真实的数据，区分生成模型G产生的伪数据与数据中的真数据。

GAN的实现方法是让判别模型D和生成模型G进行博弈，训练过程通过相互竞争让这两个模型同时得到增强。由于判别模型D的存在，使得生成模型G在没有大量先验知识以及先验分布的前提下也能很好的去学习逼近真实数据，并最终让模型生成的数据达到判别模型D无法区分生成模型G生成的数据与真实数据的效果，从而生成模型G和判别模型D达到纳什均衡。

由于需要让生成模型学习到真实数据的分布，考虑到互联网欺诈交易的时序性，即随着时间的交易序列是对一个人的行为的刻画，需要捕捉到这种行为特性，因此生成模型G和判别模型D均是一个多层的长短期记忆网络-long short term memory，简称LSTM，LSTM是一种时间递归网络，适合处理和预测时间序列中间隔阂延迟相对较长的重要事件。

建模算法，其过程如下：

算法环境：

Python,numpy，Keras

输入：

1、m是一个超参数，表示的是模型的抽样数量，一般不会事先给出，得根据特定的实验环境而定，一般机器配置较好的情况下可以适当的将该数值给大一些。

2、k也是一个超参数，通常是来控制判别模型的训练次数，在这里我们给定k＝1。

输出：

1.生成模型G

2.判别模型D

算法伪代码：

(1)while模型未收敛do：

(2)m＝m+1；

(3)for k steps do:

(4)从生成模型生成的数据中抽出m个样本{z⁽¹⁾,…,z^(m)}。

(5)从真实的欺诈数据中抽出m个样本{x⁽¹⁾,…,x^(m)}。

(6)计算下面的公式用随机梯度下降来更新判别模型D：

(7)end for

(8)从生成模型生成的数据中抽出m个样本{z⁽¹⁾,…,z^(m)}。

(9)计算下面的公式用随机梯度下降来更新生成模型G：

(10)end do

在上述算法的(3)-(7)步中主要是来更新判别模型的参数，判别模型的目标是要尽量的将真实数据和生成模型生成的数据区分开来，因此判别模型更新参数的状态是要朝着犯错的反方向来更新参数，即梯度提升的方向；而判别模型犯错的方式有两种情况1.无法区分真实样本；2.无法区分生成模型生成的样本，因此公式(1)中即是两种错误的损失函数之和。

算法的(8)-(10)步主要是来更新生成模型的参数，而生成模型则要让判别模型犯错，即如果生成模型生成的数据越来越接近真实数据的分布，那么判别模型犯错的可能性就会越大，所以生成模型更新参数的方向是沿着判别模型犯错的梯度下来更新的，因此判别模型需要沿着公式(2)中计算的梯度下来更新参数。

3、训练

训练的过程首先是将真实数据标记为1，随机生成的数据标记为0，同时放到判别模型D中去训练，更新D中的参数，然后将损失函数中的损失反馈给生成模型G，调整G中的参数，然后开始训练G，两个模型的训练交替进行，直到最后的模型收敛。训练的过程主要是控制模型的收敛，而纳什均衡所达到的均衡状态通常是理想状态下的，即判别模型已经无法分辨真实数据和生成模型生成的数据，即判别模型犯错的概率为50％，在此次实验中我们设定的阈值为30％左右，即当判别模型犯错的概率达到30％即可认为模型收敛了。

4、评估

将已经收敛的生成对抗网络中的生成模型G作为样本生成器，在这个过程中由于需要解决的是样本中欺诈数据和非欺诈数据的极度不均衡的局面，因此在训练过程中引入的数据仅为真实的欺诈数据，为了验证生成模型G生成的数据的效果，采用详细的实验结果来对比。

模型评估，其过程如下：

模型环境：

Python，Keras，Pandas，Numpy

输入：

数据集1：欺诈数据与非欺诈数据的比率为1：400

数据集2：欺诈数据与非欺诈数据的比率为1：500

数据集3：欺诈数据与非欺诈数据的比率为1：800

注：由于真实的数据欺诈数据与非欺诈数据的比率为1：800,所以数据集1和数据集2中的欺诈数据组成为真实的欺诈数据和生成器生成的欺诈数据，区别是使用到的生成器生成的欺诈数据的量不同，而数据集3中全部为真实的数据。

输出：

测试集中每条记录的标签，以及一系列的度量指标。

(1)我们采用了常规的神经网络中LSTM来作为我们的预测模型(我们利用三个不同的数据集来训练三个LSTM模型，使得三个模型成为对照组，然后分别利用训练好的三个模型对真实的数据做预测，来对比三个模型的训练效果，借此来验证生成模型生成的数据的质量)，实验的过程是分别对以上的三个数据集，使用GAN和不使用GAN来对模型的预测做评估。

(2)针对预测的评估结果我们引入了以下的三个指标：准确率precision，召回率recall，以及打扰率disturb。同时我们还将引入以下的几个概念TP：模型将正类判定为正类的数量；FP：模型将负类判定为正类的数量；FN：模型将正类判定为负类的数量；TN：模型将负类判定为负类的数量。精确率的定义如下：

召回率的定义如下：

打扰率的定义如下：

当模型对所有的测试集预测完之后，分别根据公式(3)，(4)和(5)统计输出精确率，召回率以及打扰率。

本发明通过在真实互联网金融线上交易数据集上进行检测证明，通过在具体的实验比较中我们可以发现，在保证打扰率相同的情况下，如表2的实验结果所示(其中样本比率指的是欺诈数据与非欺诈数据的比率)，在保证打扰率相同的情况下，使用了GAN的实验效果(精确率和召回率)均要优于单纯只使用LSTM的情况，而且效果的提升相对比较明显，其中在数据比率为1:800时，LSTM模型已经无法训练出正确的预测模型，而使用了GAN的模型还可以起到欺诈检测的作用，并且效果明显。

表2实验结果对比

本具体实施例仅仅是对本发明的解释，其并不是对本发明的限制，本领域技术人员在阅读完本说明书后可以根据需要对本实施例做出没有创造性贡献的修改，但只要在本发明的权利要求范围内都受到专利法的保护。

Claims

1.一种基于生成对抗网络的弱监督互联网金融反欺诈方法，其特征是，包括有以下步骤：

2.根据权利要求1所述的基于生成对抗网络的弱监督互联网金融反欺诈方法，其特征是，具体步骤如下：

3.根据权利要求2所述的基于生成对抗网络的弱监督互联网金融反欺诈方法，其特征是，所述预处理中具体步骤包括有：

4.根据权利要求2所述的基于生成对抗网络的弱监督互联网金融反欺诈方法，其特征是：判别模型及判别模型的参数的更新具体如下：

5.根据权利要求1所述的基于生成对抗网络的弱监督互联网金融反欺诈方法，其特征是：生成模型及判别模型均为长短期记忆网络。