CN108388913A - 一种基于约束投影的多决策树信用卡欺诈检测方法及系统 - Google Patents

Abstract

本发明提供一种基于约束投影的多决策树信用卡欺诈检测方法，该方法包括：建立样本属性集A；获取训练样本集D，将训练样本集D分离为欺诈交易样本集D_min和正常交易样本集D_maj，迭代生成must‑link集集合M＝{M_k|k＝1，2，...，K}和cannot‑link集集合C＝{C_k|k＝1，2，...，K}，迭代学习投影矩阵集，迭代生成投影后的训练集集合，迭代学习决策树集合，处理待分类样本x，分别对x进行投影，对x的类别进行预测，终判定x属于正常样本还是欺诈样本。与相关技术相比，本发明提供的一种基于约束投影的多决策树信用卡欺诈检测方法能够有效地分析交易样本是否属于欺诈样本，并且能在预测正常和欺诈样本上保持高准确率，从而具有更广泛的工程应用价值。本发明还提供一种基于约束投影的多决策树信用卡欺诈检测系统。

Description

一种基于约束投影的多决策树信用卡欺诈检测方法及系统

技术领域

本发明涉及数据分析技术领域，尤其涉及一种基于约束投影的多决策树信用卡欺诈检测方法及系统。

背景技术

随着我国经济和信息技术的迅速发展，信用卡的使用量持续上升，且已成为支付领域的重要媒介。信用卡的广泛应用，给人们的生活和工作带来了便捷，然而，随之而来的信用卡欺诈问题也带来越来越大的经济损失。信用卡欺诈风险控制问题已成为影响我国信用卡业务进一步发展的一大因素。如何加强对信用卡欺诈的识别和防范，也已成为银行风险控制的一个重要问题。

面对信用卡欺诈问题的现状，目前主要采取的识别与防范措施包括利用经验知识进行人工手动识别、利用统计方法或专家系统对资料进行分析识别，以及采用机器学习方法进行识别等。其中机器学习方法通过利用各种科学手段来对用户进行信用评分、对某些客户的交易行为进行欺诈预测，为信用卡欺诈检测提供了智能的检测方法，已成为当前研究与应用的热点。

机器学习方法用计算机模拟人类的学习活动，研究如何通过计算机学习现有的知识，发现新的知识，并通过不断完善，提升学习的效果。机器学习中包含大量的数据预处理和分类方法，与统计学、人工智能、信息论等学科密切相关。其基本过程是从已有的经验中学习并构建分类器，进而对未知样本进行分类或预测。

信用卡欺诈案例属于少数类情况，其发生比率大概为万分之0.185，绝大多的交易样本均属于正常交易样本。如果采用传统的分类方法，即使将任意一个交易样本判定为正常交易样本，其预测的准确率也是十分可观的。然而这一高准确率对于识别属于少数类情况的欺诈样本并不具备实际意义，只有正确识别欺诈样本才是想要达到的目的。传统的机器学习方法倾向于构建具有高准确率的模型，往往忽视对少数类样本的识别。因此，有必要设计一种针对信用卡欺诈检测的分类方法及使用该方法的系统。

发明内容

本发明的目的在于提供一种基于约束投影的多决策树信用卡欺诈检测方法及系统。能够有效地分析样本是否属于欺诈样本，并且能在预测正常样本和欺诈样本上保持高准确率。

本发明提供一种基于约束投影的多决策树信用卡欺诈检测方法，包括：

步骤1，建立样本属性集A；获取训练样本集D，根据所述的属性集对训练样本集进行处理；

步骤2，将训练样本集D分离为欺诈交易样本集(少数类样本集)D_min和正常交易样本集(多数类样本集)D_maj，从D_min和D_maj中选取样本迭代生成must-link集集合M＝{M_k|k＝1，2，...，K}和cannot-link集集合C＝{C_k|k＝1，2，...，K}，

其中

M_k＝{(x_i，x_j)|x_i，x_j∈D_min||x_i，x_j∈D_maj}，C_k＝{(x_i，x_j)|x_i∈D_min，x_j∈D_maj}；

步骤3，迭代学习投影矩阵集W＝{W_k|k＝1，2，...，K}，其中，使用如下步骤学习投影矩阵W_k：基于步骤2所得的M_k和C_k，学习一个投影矩阵W_k＝[w₁，w₂，...，w_d]，使得在投影后的空间内，M_k中的must-link约束条件和C_k中的cannot-link约束条件得以最大程度保留，形式化地，最大化目标函数

其中，|C_k|和|M_k|分别为C_k和M_k的大小，考虑到类内样本的距离通常小于类间样本的距离，使用γ来调节式(1)中两项的权重，定义为

通过计算，式(1)可简化为如下形式

其中，

式(3)的求解可转化为计算的d个非负特征值对应的特征向量w₁，w₂，...，w_d，则所求的投影矩阵W_k＝[w₁，w₂，...，w_d]；

步骤4，迭代生成投影后的训练集集合{D_k|k＝1，2，...，K}，其中，

步骤5，迭代学习决策树集合DT＝{DT_k|k＝1，2，...，K}，其中，使用如下步骤学习一棵决策树DT_k，学习的输入条件为步骤4所得的训练集D_k和步骤1所得的样本属性集A；

步骤6，利用步骤1的属性表A处理待分类样本x，利用步骤3所得的投影矩阵集W分别对x进行投影，并利用步骤5中所得的相应的决策树对x的类别进行预测，进而将各个决策树的预测结果进行投票，最终判定x属于正常样本还是欺诈样本。

优选的，所述步骤2包括：

步骤2.1，对于M_k，其must-link样本对(x_i，x_j)由两部分子集组成，

即M_k＝M_k，min∪M_k，maj，

其中M_k，min＝{(x_i，x_j)|(x_i，x_j)为D_min中任意两个样本的全部组合}，其大小|D_min|为D_min中样本的数目，M_k，maj＝{(x_i，x_j)|x_i，x_j∈D_maj}，令其大小等于M_k，min的大小，即|M_k，maj|＝|M_k，min；

步骤2.2，对于C_k，其cannot-link样本对(x_i，x_j)生成方式如下：对于D_min中的每一个样本x_i，在D_maj中任取一个样本x_j与之配对构成样本对(x_i，x_j)，将其作为C_k的一个元素，则有C_k的大小等于D_min的大小，即|C_k|＝|D_min|。

优选的，所述步骤5包括：

步骤5.1，生成结点node；

步骤5.2，若D_k中样本同属一个类别，则将node标记为该类的叶子结点，返回；若或D_k中样本在A上取值相同，则将node标记为叶子结点，其类别取D_k中样本数最多的类，返回；

步骤5.3，从A中选择划分属性a_*，对于a_*的每一个取值为node结点生成一个分支；令为D_k中在a_*上取值为的样本子集；若则将分支结点标记为叶子结点，其类别为D_k中样本数最多的类，返回；否则，以和A\{a_*}为学习输入条件，递归执行步骤5。

优选的，所述的样本属性集将交易样本属性的类型分为数值、离散。

优选的，包含类别约束信息的样本对中的样本覆盖所有欺诈交易样本以及部分正常交易样本。

优选的，以最大程度保留样本对所包含的约束信息为原则，对样本空间进行投影。

优选的，在使用决策树对待分类样本进行预测前，先将样本投影到新的样本空间中。

优选的，待分类样本投影到新的样本空间后采用决策树集合DT＝{DT_k|k＝1，2，...，K}分别对x的类别进行预测，各个决策树的预测结果进行投票所用的公式为：

其中，y是类标号，I(True)＝1，I(False)＝0，DT_k表示学习到的决策树。

优选的，所述样本的属性集包括持卡人编码、卡号、性别、年龄、婚姻状况、学历、职业、月收入、账户标识、交易日期、交易类型、交易金额和商户代码。

本发明还提供一种基于约束投影的多决策树信用卡欺诈检测系统，包括：所述数据采集模块：输入信用卡交易数据样本集作为学习基于约束投影的多决策树检测模型的原始训练数据集；

所述学习模块：从原始训练集的欺诈样本集(少数类)和正常样本集(多数类)中选取样本分别生成must-link集集合和cannot-link集集合，基于每一对must-link集和cannot-link集，在其上训练一个投影矩阵，因此将得到投影矩阵集合。使用每一个投影矩阵将原始训练集投影到新的空间，生成新的训练集，因此将得到新的训练集集合。基于每一个新的训练集，训练一棵决策树，最终将得到一个包含多棵决策树的决策树集合；

所述预测模块：给定待分类交易样本x，分别使用投影矩阵集中的每一个矩阵将其投影到新的样本空间，进而采用相应的决策树对其进行预测，最终将各棵决策树的预测结果进行简单投票决定样本x的类别。

与现有技术相比，本发明的有益效果：

本发明能够有效地分析交易样本是否属于欺诈样本，并且能在预测正常样本和欺诈样本上保持高准确率。

附图说明

图1为本发明提供的基于约束投影的多决策树信用卡欺诈检测方法的流程示意图；

图2是包含约束信息的投影前的样本空间示意图；

图3是包含约束信息的投影后的样本空间示意图。

具体实施方式

以下将结合附图和具体实施方案对本发明的技术方案作进一步详细地说明。

如图1、图2、图3所示，本发明提供的基于约束投影的多决策树信用卡欺诈检测方法包括：

步骤1，建立样本属性集A；获取训练样本集D，根据所述的属性集对训练样本集进行处理。所述的样本属性集将交易样本属性的类型分为数值、离散。

步骤2，将训练样本集D分离为欺诈交易样本集(少数类样本集)D_min和正常交易样本集(多数类样本集)D_maj，从D_min和D_maj中选取样本迭代生成must-link集集合M＝{M_k|k＝1，2，...，K}和cannot-link集集合C＝{C_k|k＝1，2，...，K}，

其中

M_k＝{(x_i，x_j)|x_i，x_j∈D_min||x_i，x_j∈D_maj}，C_k＝{(x_i，x_j)|x_i∈D_min，x_j∈D_maj}。

步骤2.1，对于M_k，其must-link样本对(x_i，x_j)由两部分子集组成，

即M_k＝M_k，min∪M_k，maj，

其中M_k，min＝{(x_i，x_j)|(x_i，x_j)为D_min中任意两个样本的全部组合}，其大小|D_min|为D_min中样本的数目，M_k，maj＝{(x_i，x_j)|x_i，x_j∈D_maj}，令其大小等于M_k，min的大小，即|M_k，maj|＝|M_k，min|；

步骤2.2，对于C_k，其cannot-link样本对(x_i，x_j)生成方式如下：对于D_min中的每一个样本x_i，在D_maj中任取一个样本x_j与之配对构成样本对(x_i，x_j)，将其作为C_k的一个元素，则有C_k的大小等于D_min的大小，即|C_k|＝|D_min|。

步骤3，迭代学习投影矩阵集W＝{W_k|k＝1，2，...，K}，其中，使用如下步骤学习投影矩阵W_k：基于步骤2所得的M_k和C_k，学习一个投影矩阵W_k＝[w₁，w₂，...，w_d]，使得在投影后的空间内，M_k中的must-link约束条件和C_k中的cannot-link约束条件得以最大程度保留，形式化地，最大化目标函数

其中，|C_k|和|M_k|分别为C_k和M_k的大小，考虑到类内样本的距离通常小于类间样本的距离，使用γ来调节式(1)中两项的权重，定义为

通过计算，式(1)可简化为如下形式

其中，

公式(3)的求解可转化为计算的d个非负特征值对应的特征向量w₁，w₂，...，w_d，则所求的投影矩阵W_k＝[w₁，w₂，...，w_d]；

步骤4，迭代生成投影后的训练集集合{D_k|k＝1，2，...，K}，其中，

步骤5，迭代学习决策树集合DT＝{DT_k|k＝1，2，...，K}，其中，使用如下步骤学习一棵决策树DT_k，学习的输入条件为步骤4所得的训练集D_k和步骤1所得的样本属性集A；

具体过程如下：

步骤5.1，生成结点node；

步骤5.2，若D_k中样本同属一个类别，则将node标记为该类的叶子结点，返回；若或D_k中样本在A上取值相同，则将node标记为叶子结点，其类别取D_k中样本数最多的类，返回；

步骤5.3，从A中选择划分属性a_*，对于a_*的每一个取值为node结点生成一个分支；令为D_k中在a_*上取值为的样本子集；若则将分支结点标记为叶子结点，其类别为D_k中样本数最多的类，返回；否则，以和A\{a_*}为学习输入条件，递归执行步骤5。

步骤6，利用步骤1的属性表A处理待分类样本x，利用步骤3所得的投影矩阵集W分别对x进行投影，并利用步骤5中所得的相应的决策树对x的类别进行预测，进而将各个决策树的预测结果进行投票，最终判定x属于正常样本还是欺诈样本。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其它相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，包括：

步骤1，建立样本属性集A；获取训练样本集D，根据所述的属性集对训练样本集进行处理；

步骤2，将训练样本集D分离为欺诈交易样本集D_min和正常交易样本集D_maj，从D_min和D_maj中选取样本迭代生成must-link集集合M＝{M_k|k＝1，2，...，K}和cannot-link集集合C＝{C_k|k＝1，2，...，K}，

其中M_k＝{(x_i，x_j)|x_i，x_j∈D_min||x_i，x_j∈D_maj}，C_k＝{(x_i，x_j)|x_i∈D_min，x_j∈D_maj}；

步骤3，迭代学习投影矩阵集W＝{W_k|k＝1，2，...，K}，其中，使用如下步骤学习投影矩阵W_k：基于步骤2所得的M_k和C_k，学习一个投影矩阵W_k＝[w₁，w₂，...，w_d]，使得在投影后的空间内，M_k中的must-link约束条件和C_k中的cannot-link约束条件得以最大程度保留，形式化地，最大化目标函数

其中，|C_k|和|M_k|分别为C_k和M_k的大小，考虑到类内样本的距离通常小于类间样本的距离，使用γ来调节式(1)中两项的权重，定义为

通过计算，式(1)可简化为如下形式

其中，

式(3)的求解可转化为计算的d个非负特征值对应的特征向量w₁，w₂，...，w_d，则所求的投影矩阵W_k＝[w₁，w₂，...，w_d]；

步骤4，迭代生成投影后的训练集集合{D_k|k＝1，2，...，K}，其中，

步骤5，迭代学习决策树集合DT＝{DT_k|k＝1，2，...，K}，其中，使用如下步骤学习一棵决策树DT_k，学习的输入条件为步骤4所得的训练集D_k和步骤1所得的样本属性集A；

步骤6，利用步骤1的属性表A处理待分类样本x，利用步骤3所得的投影矩阵集W分别对x进行投影，并利用步骤5中所得的相应的决策树对x的类别进行预测，进而将各个决策树的预测结果进行投票，最终判定x属于正常样本还是欺诈样本。

2.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，所述步骤2包括：

步骤2.1，对于M_k，其must-link样本对(x_i，x_j)由两部分子集组成，

即M_k＝M_k，min∪M_k，maj，

其中M_k，min＝{(x_i，x_j)|(x_i，x_j)为D_min中任意两个样本的全部组合}，其大小|D_min|为D_min中样本的数目，M_k，maj＝{(x_i，x_j)|x_i，x_j∈D_maj}，令其大小等于M_k，min的大小，即|M_k，maj|＝|M_k，min|；

步骤2.2，对于C_k，其cannot-link样本对(x_i，x_j)生成方式如下：对于D_min中的每一个样本x_i，在D_maj中任取一个样本x_j与之配对构成样本对(x_i，x_j)，将其作为C_k的一个元素，则有C_k的大小等于D_min的大小，即|C_k|＝|D_min|。

3.根据权利要求2所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，所述步骤5包括：

步骤5.1，生成结点node；

步骤5.2，若D_k中样本同属一个类别，则将node标记为该类的叶子结点，返回；若或D_k中样本在A上取值相同，则将node标记为叶子结点，其类别取D_k中样本数最多的类，返回；

步骤5.3，从A中选择划分属性a_*，对于a_*的每一个取值为node结点生成一个分支；令为D_k中在a_*上取值为的样本子集；若则将分支结点标记为叶子结点，其类别为D_k中样本数最多的类，返回；否则，以和A\{a_*}为学习输入条件，递归执行步骤5。

4.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，所述的样本属性集将交易样本属性的类型分为数值、离散。

5.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，包含类别约束信息的样本对中的样本覆盖所有欺诈交易样本以及部分正常交易样本。

6.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，以最大程度保留样本对所包含的约束信息为原则，对样本空间进行投影。

7.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，在使用决策树对待分类样本进行预测前，先将样本投影到新的样本空间中。

8.根据权利要求7所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，待分类样本投影到新的样本空间后采用决策树集合分别对x的类别进行预测，各个决策树的预测结果进行投票所用的公式为：

其中，y是类标号，I(True)＝1，I(False)＝0，DT_k表示学习到的决策树。

9.根据权利要求1所述的基于约束投影的多决策树信用卡欺诈检测方法，其特征在于，所述样本的属性集包括持卡人编码、卡号、性别、年龄、婚姻状况、学历、职业、月收入、账户标识、交易日期、交易类型、交易金额和商户代码。

10.一种基于约束投影的多决策树信用卡欺诈检测系统，其特征在于，包括：

数据采集模块：输入信用卡交易数据样本集作为学习基于约束投影的多决策树检测模型的原始训练数据集；

学习模块：从原始训练集的欺诈样本集和正常样本集中选取样本分别生成must-link集集合和cannot-link集集合，基于每一对must-link集和cannot-link集，在其上训练一个投影矩阵，因此将得到投影矩阵集合；使用每一个投影矩阵将原始训练集投影到新的空间，生成新的训练集，因此将得到新的训练集集合；基于每一个新的训练集，训练一棵决策树，最终将得到一个包含多棵决策树的决策树集合；

预测模块：给定待分类交易样本x，分别使用投影矩阵集中的每一个矩阵将其投影到新的样本空间，进而采用相应的决策树对其进行预测，最终将各棵决策树的预测结果进行简单投票决定样本x的类别。