CN108960304A - 一种网络交易欺诈行为的深度学习检测方法 - Google Patents

Abstract

本发明涉及一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤包括：第一步、利用历史交易特征数据对模型进行训练；第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。本发明：(1)发明了适用于网络交易欺诈的基于特征重排的深度学习检测系统；(2)发明了特征排列构造层及排列方法。特征排列层可增加在每组卷积层与池化层之前。(3)发明了环式卷积方法，对于一条交易数据来说，通过环式结构的卷积，使得卷积后的信息不失真。

Description

一种网络交易欺诈行为的深度学习检测方法

技术领域

本发明涉及一种网络交易欺诈检测方法。

背景技术

银行以及各大金融机构有着种类繁多的业务，欺诈现象广泛存在于多种业务交易中。交易欺诈不仅给金融机构带来了极大的挑战，过多的欺诈现象也会给社会的稳定和社会的公信力带来严重的影响。如何高准确率并且快速地检测出欺诈交易成为了包括各大银行在内的所有金融机构所面临的亟待解决的问题。

现有的神经网络的训练往往需要多维度特征变量的输入，获得满足高纬度并且高可用性的交易数据十分困难，所以现有的做法大多是基于行业经验为消费者行为模式等做出衍生特征。正常消费者行为模式和欺诈者行为模式的探索在欺诈检测中也是一个很重要的方面，用这些基于行业经验衍生出来的特征反应用户的行为习惯。A.I.Kokkinaki等人用决策树和布尔逻辑方法来刻画正常消费者的交易行为习惯，用聚类方法分析正常交易行为和欺诈交易行为的差别以此来区分正常和欺诈交易。Kang Fu等人提出了用交易熵和其他一些基于行业经验的衍生特征来刻画用户交易行为，并用交易熵作为衍生变量输入网络进行学习。其采用了固定时间窗口内的平均交易金额、交易总金额、当前交易金额和平均交易金额的差值、交易熵等衍生特征作为模型的输入数据。这些衍生变量在某些条件下可以较好地反映用户的交易行为特征。

除了神经网络算法，逻辑回归、支持向量机、随机森林算法，隐马尔可夫模型、对抗学习方法也大量应用于信用卡欺诈检测模型的构建中。这些现有的模型算法大多都是基于信用卡交易数据所构建的。信用卡交易与网络交易在交易方式、交易特点、交易者行为等方面有着很大的不同。网络交易存在交易形式的特殊性、欺诈者的目的性、行为的蓄意性等特点，所以基于信用卡交易数据构建的模型并不能完全适用于网络交易数据中。

现有的欺诈模型大多是针对信用卡交易而构建的，这些模型不可以完全适用于网络交易欺诈检测中。现有的大多神经网络模型在特征工程中会做出大量的衍生变量，使输入维度变得较多，这些模型也不能完全适用于低维交易数据中。

发明内容

本发明的目的是：检测网络交易中的欺诈交易。

为了达到上述目的，本发明的一个技术方案是提供了一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤包括：

第一步、利用历史交易特征数据对模型进行训练，包括以下步骤：

步骤1、构建模型，模型包括特征排列层、N层卷积层、N层池化层及分类部分，将特征排列层的当前特征次序设定为初始特征次序，设定循环次数，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层及池化层后，判断是否达到循环次数，若到达循环次数则进入步骤4，未达到循环次数则进入步骤3，其中，卷积层采用环形卷积方式，让当前特征与相邻的n个特征做卷积，抽取相邻属性之间的关联特征；

步骤3、将当前特征次序设定为新的特征次序，并将池化层的池化结果作为当前输入数据后返回步骤2；

步骤4、将使得池化层的池化结果最优的特征次序定义为最优排列次序，将最优排列次序作为特征排列层的当前特征次序，并将经过池化层的数据送入分类部分，将经过分类部分产生的结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则保存模型，若分类精度未达到预期，则返回步骤2；

第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。

优选地，步骤3中所述新的特征次序为将当前输入数据中的M行数据与N行数据相交换，M、N均小于当前输入数据的总行数。

优选地，所述环形卷积方式包括以下步骤：

a)构建由当前特征与相邻的n个特征组成的环形卷积结构，当前特征及相邻的n个特征为环形卷积结构中的一个节点；

b)选取合适的卷积核，相邻两个节点之间通过卷积核相连；

c)利用卷积核对环形卷积结构进行卷积。

本发明的另一个技术方案是提供了一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤包括：

第一步、利用历史交易特征数据对模型进行训练，包括以下步骤：

步骤1、构建模型，模型包括特征排列层、N层卷积层、N层池化层及分类部分，将当前历史交易特征数据的特征次序设定为当前特征次序，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层、池化层及分类部分后产生分类结果，其中，卷积层采用环形卷积方式，让当前特征与相邻的n个特征做卷积，抽取相邻属性之间的关联特征；

步骤3、将步骤2得到的分类结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则将当前特征次序存入特征次序数据集中，进入步骤4，若分类精度未达到预期，则判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤4、判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤5、从特征次序数据集中选出对应的分类精度最优的特征次序作为模型的特征排列层的当前特征次序，保存模型；

第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。

优选地，步骤3及步骤4中所述新的特征次序为将当前输入数据中的相邻两行两两交换。

优选地，所述环形卷积方式包括以下步骤：

a)构建由当前特征与相邻的n个特征组成的环形卷积结构，当前特征及相邻的n个特征为环形卷积结构中的一个节点；

b)选取合适的卷积核，相邻两个节点之间通过卷积核相连；

c)利用卷积核对环形卷积结构进行卷积。

本发明与一般卷积神经网络不同之处，主要有三点：(1)发明了适用于网络交易欺诈的基于特征重排的深度学习检测系统；(2)输入系统的交易的属性之间没有位置关系(而像图像输入的像素点之间是有位置关系的，即像素点的位置交换会改变图像，而交易属性的位置交换不会改变该交易)，因此，发明了特征排列构造层及排列方法。特征排列层可增加在每组卷积层与池化层之前。(3)发明了环式卷积方法(对于图像学习网络的卷积，为了能对每个像素点进行卷积，需要对图像周边进行扩充，否则卷积后的图像比原始图像小)，对于一条交易数据来说，通过环式结构的卷积，使得卷积后的信息不失真。

本发明所构建基于特征重排的深度学习网络交易欺诈方法有着很好的实验效果，该方法无需高维的输入特征，也不需要衍生变量，并且可以寻找出特定次数内的相对较好的输入特征排列次序。相较于已有深度学习交易欺诈检测方法，本发明提供的方法节省了大量的衍生变量的计算时间，使该方法的设计与调优过程快捷并且简便，在网络交易这种要求快速反应并且精准识别的环境中可以有更高的可用性。

附图说明

图1为本发明的整体结构图；

图2为本发明训练部分结构图；

图3为本发明测试部分结构图；

图4为特征排列部分在整个系统中的作用示意图；

图5为特征排列层结构；

图6为特征变换第一种算法的流程图；

图7为特征变换第二种算法的流程图；

图8为环形卷积方式；

图9为单个卷积变换过程；

图10为卷积部分流程图；

图11为特征不同排列次序对应的模型效果；

图12(A)至图12(F)为不同测试集中三种模型结果对比；

图13为不同模型F1_Score对比。

具体实施方式

下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。

结合图1、2、3，本发明提供的一种网络交易欺诈行为的深度学习检测方法，包括：

第一步、利用历史交易特征数据对模型进行训练；

第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。

在本发明中，模型包括特征排列层、四层卷积层、四层池化层及分类部分。增加的特征排列层用于对交易特征的排列寻优。在训练时，首先对历史交易特征数据进行清洗等预处理，然后交易特征数据进入特征排列层，通过训练神经网络模型并测试该排序下的模型效果，通过模型效果反馈来修改特征排列次序。在检测模型更新时间内通过固定特征排列迭代次数来寻找特定次数下的特征最优排列方式，当实时数据进入模型时就可以用该特征排列次序对数据特征进行排序，并进入该次序下训练好的模型进行判别。

在本实施例中，特征排列层的具体实现方式如下：

交易数据由多维属性构成，多维属性之间并无直接的联系，所以多维属性可以随意排列组合。若将交易数据以一维变量的形式输入各种模型算法，其各属性不同的排列组合方式并不会影响该条记录的本身的物理意义，但是不同的排列组合方式会影响模型的结果。这一点同图像、语音、文本等数据有着本质性的区别。以图像数据为例：图像虽可以平移、旋转、翻转等变换过程中保持不变性，但是图像的本质是由有序排列的像素点组成，这些像素点的位置是不被允许改变的，否则该图像所携带的固有信息会发生改变。

本发明用一个5元组来表述交易特征数据。一条交易数据M是一个由交易属性、特征排列状态、位置交换运算、特征初始排列状态和特征最终排列状态构成的五元组，记M＝(Q，∑，δ，q₀，F)，式中：

Q：一个有穷集合，表示交易特征；

∑：一个有穷集合，表示交易特征不同的排列状态；

δ：交易特征之间的位置交换运算；

q₀：q₀∈Q，交易数据特征初始排列状态；

F：q₀×δ→F，交易数据特征最终排列状态。

对于多变量组成的特征向量，特征的排列顺序不同，自然会直接影响单层卷积的结果，而本发明又包含多个卷积部分，该影响经过层层卷积变换后会导致整个模型的识别效果不同。所以本发明可以在不同的输入特征排列中选取可以提升模型效果排列次序，以此作为测试过程中模型的输入特征顺序。

本发明构建基于特征重排的深度学习方法在输入层之前增加特征排列层，首先通过特征数据确定卷积层、池化层和全连接层的网络结构，通过模型结果的反馈来确定所有排列中最优的排列次序，然后用固定该次序的输入来训练模型参数。

图5是特征排列层的网络结构，设模型所选变量数为n，所有变量排列数为m。变量排列Input_initial是原始的输入，Input_final是次序变换后的输入特征变量。通过Input_initial和Input_final连接权值矩阵的变换来改变输入特征的次序。设连接权值矩阵为A，初始化连接矩阵为A₀，每次经过矩阵行变换产生下一次迭代的连接权值矩阵。

将数据特征排列初始状态∑表示为一维向量∑₀＝[x₁，x₂x₃，…，x_n]，其位置变换运算可以表示为∑与连接矩阵A的乘积：∑_i＝∑_i-1×A_i。

若特征排列层连接矩阵如公式(1)所示，则变换过程如下：

本发明需要在变换过程中所使用的所有排列方式中找到最优的排列方式，其方式有两种实现方式：

第一种算法如图6所示，包括以下步骤：

1)始化原始输入层和最终输入层之间的连接矩阵A。

2)连接矩阵A中所有行两两依次交换。

3)生变换后的接矩阵A’。

4)阵每初等变换一次，就以此连接矩阵产生的最终输入层数据输入模型并求出该模型判别效果。

5)模型结果集合中选取最优解，并求出所对应的特征最优排列次序。

对应该算法的模型训练过程为：

步骤1、构建模型，模型包括特征排列层、四层卷积层、四层池化层及分类部分，将当前历史交易特征数据的特征次序设定为当前特征次序，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层、池化层及分类部分后产生分类结果；

步骤3、将步骤2得到的分类结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则将当前特征次序存入特征次序数据集中，进入步骤4，若分类精度未达到预期，则判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤4、判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤5、从特征次序数据集中选出对应的分类精度最优的特征次序作为模型的特征排列层的当前特征次序，保存模型。

对于上述方法而言，若交易数据的特征维度较多，那么该算法的时间复杂度将会十分高，不利于模型的构建与调优。所以，本发明提出了如图7所示的第二种算法：即同时构造了在固定迭代次数内，让特征排列形式随机变换并找出指定次数内的最优排列方式。该算法可以主观地设定模型迭代次数，并可以在较短时间内寻找出相对较好的特征排列次序，包括以下步骤：

1)初始化原始输入层和最终输入层之间的连接矩阵A。

2)设定随机数M、N，M、N均小于矩阵A总行数，每次连接矩阵变换让M、N行进行交换。

3)矩阵每初等变换一次，就以此连接矩阵产生的最终输入层数据输入模型并求出该模型判别效果。

4)设定矩阵变换次数x，来控制特征排列的迭代次数，在固定的特征变换次数中，找在该次数中出使模型最优的特征次序。

对应该算法的模型训练过程为：

步骤1、构建模型，模型包括特征排列层、四层卷积层、四层池化层及分类部分，将特征排列层的当前特征次序设定为初始特征次序，设定循环次数，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层及池化层后，判断是否达到循环次数，若到达循环次数则进入步骤4，未达到循环次数则进入步骤3；

步骤3、将当前特征次序设定为新的特征次序，并将池化层的池化结果作为当前输入数据后返回步骤2；

步骤4、将使得池化层的池化结果最优的特征次序定义为最优排列次序，将最优排列次序作为特征排列层的当前特征次序，并将经过池化层的数据送入分类部分，将经过分类部分产生的结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则保存模型，若分类精度未达到预期，则返回步骤2。

本发明的卷积层采用环形卷积方式，使所有特征构成一个环形结构。卷积过程是让其相邻的n个特征做卷积，相当于抽取相邻属性之间的关联特征，图10以卷积核为1*2例描述卷积过程。此卷积方式为了保证数据信息不在卷积过程中丢失，并使其尽可能地衍生出多种特征，更加全面地刻画数据。

本发明的卷积过程包括以下步骤：

1)构建如图8的环形卷积结构。

2)根据需要选择合适的卷积核。例如图8所示，选取的为1*2卷积核(如图8所示)。

3)根据卷积核大小，对相邻的特征进行卷积。可以是相邻2个、3个直至n个特征进行卷积。

4)卷积后的特征输入池化部分。

在本发明构建的方法中，采用一维特征向量作为输入，卷积层采用一维卷积核对特征向量进行处理。在卷积的过程中，其原理是和图像处理过程一样，都是对数据特征进行信息提取。

本发明构建了以特征排列、卷积部分、池化部分和分类部分组成的网络欺诈交易检测系统，直接用数据中的低纬度原生变量作为模型的输入特征，并增加了特征排列层使其自动优化输入特征的排列方式。这种方式可以节省大量变量衍生的时间，同时也可以充分发挥卷积部分的优点，让其学习出对分类结果有益的衍生特征，减少了人为经验对模型的干扰。金融业是一个有大量行业经验的传统行业，传统的欺诈检测系统大多是依靠大量的业务经验建立的规则专家系统，通过一系列的规则来判断交易是正常交易还是异常交易。欺诈交易中隐含了大量没有被发现的交易特征和交易模式，减少人为经验干扰的目的就是让系统尽可能自主学习到这些交易特征和交易模式。

本发明所述的基于特征重排的深度学习方法可以应用到网络交易欺诈检测中，本发明应用到国内某商业银行真实B2C交易数据中进行实验验证。用Accuracy，Precision，Recall，F_1 Score四个指标来评价方法的效果。本实施例中，系统结构采用四层卷积部分和池化部分相间分布结构，并在每次进入卷积部分前加入特征排列层，对每次进入卷积部分的数据进行特征排列，最后再进入分类部分。该系统效果与现有的卷积神经网络、BP神经网络模型的检测效果做了对比。其结果如下图所示(Model为本发明中方法测试结果)。图11、12(A)至12(F)、13中结果可以说明，该方法在网络交易应用场景中有着良好的检测效果。

Claims (6)

1.一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤包括：

第一步、利用历史交易特征数据对模型进行训练，包括以下步骤：

步骤1、构建模型，模型包括特征排列层、N层卷积层、N层池化层及分类部分，将特征排列层的当前特征次序设定为初始特征次序，设定循环次数，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层及池化层后，判断是否达到循环次数，若到达循环次数则进入步骤4，未达到循环次数则进入步骤3，其中，卷积层采用环形卷积方式，让当前特征与相邻的n个特征做卷积，抽取相邻属性之间的关联特征；

步骤3、将当前特征次序设定为新的特征次序，并将池化层的池化结果作为当前输入数据后返回步骤2；

步骤4、将使得池化层的池化结果最优的特征次序定义为最优排列次序，将最优排列次序作为特征排列层的当前特征次序，并将经过池化层的数据送入分类部分，将经过分类部分产生的结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则保存模型，若分类精度未达到预期，则返回步骤2；

第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。

2.如权利要求1所述的一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤3中所述新的特征次序为将当前输入数据中的M行数据与N行数据相交换，M、N均小于当前输入数据的总行数。

3.如权利要求1所述的一种网络交易欺诈行为的深度学习检测方法，其特征在于，所述环形卷积方式包括以下步骤：

a)构建由当前特征与相邻的n个特征组成的环形卷积结构，当前特征及相邻的n个特征为环形卷积结构中的一个节点；

b)选取合适的卷积核，相邻两个节点之间通过卷积核相连；

c)利用卷积核对环形卷积结构进行卷积。

4.一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤包括：

第一步、利用历史交易特征数据对模型进行训练，包括以下步骤：

步骤1、构建模型，模型包括特征排列层、N层卷积层、N层池化层及分类部分，将当前历史交易特征数据的特征次序设定为当前特征次序，将历史交易特征数据作为当前输入数据输入模型的特征排列层；

步骤2、由特征排列层依照当前特征次序对当前输入数据进行排序，排序后的当前输入数据依次经过卷积层、池化层及分类部分后产生分类结果，其中，卷积层采用环形卷积方式，让当前特征与相邻的n个特征做卷积，抽取相邻属性之间的关联特征；

步骤3、将步骤2得到的分类结果与历史交易特征数据对应的真实结果对比，若分类精度达到预期，则将当前特征次序存入特征次序数据集中，进入步骤4，若分类精度未达到预期，则判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤4、判断是否遍历了所有的特征排列次序，若是，则进入步骤5，若否，则将当前特征次序设置为新的特征次序后返回步骤2；

步骤5、从特征次序数据集中选出对应的分类精度最优的特征次序作为模型的特征排列层的当前特征次序，保存模型；

第二步、将实时交易特征数据输入训练好的模型，判断当前交易是否为欺诈交易。

5.如权利要求4所述的一种网络交易欺诈行为的深度学习检测方法，其特征在于，步骤3及步骤4中所述新的特征次序为将当前输入数据中的相邻两行两两交换。

6.如权利要求4所述的一种网络交易欺诈行为的深度学习检测方法，其特征在于，所述环形卷积方式包括以下步骤：

a)构建由当前特征与相邻的n个特征组成的环形卷积结构，当前特征及相邻的n个特征为环形卷积结构中的一个节点；

b)选取合适的卷积核，相邻两个节点之间通过卷积核相连；

c)利用卷积核对环形卷积结构进行卷积。