CN113177609A - 数据类别不均衡的处理方法及设备、系统、存储介质 - Google Patents

Abstract

本公开提供了一种数据类别不均衡的处理方法，应用于数据处理技术领域，该方法包括将少数类样本进行聚类，得到多个簇。计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本。本公开提供了一种数据类别不均衡的处理设备、半监督生成对抗网络的训练方法及设备、异常交易检测方法及设备、系统、存储介质。

Description

数据类别不均衡的处理方法及设备、系统、存储介质

技术领域

本公开涉及数据处理技术领域，更具体地，涉及一种数据类别不均衡的处理方法及设备、半监督生成对抗网络的训练方法及设备、异常交易检测方法及设备、系统、存储介质。

背景技术

数据集中某一类样本的数量和其余样本的数量相差较大。例如，在判断信用卡诈骗采集的数据集中，绝大多数用户的数据都是正常的，只有极少一部分是被诈骗用户的数据。

随着机器学习的发展，一些机器学习方法开始逐步用于异常消费行为的识别中，并且取得了一定的效果，但是这些方法在处理分布不均衡样本时，仍然在少数类分类上效果不佳。

发明内容

有鉴于此，本公开提供了一种数据类别不均衡的处理方法及设备、半监督生成对抗网络的训练方法及设备、异常交易检测方法及设备、系统、存储介质。

本公开的第一个方面提供了一种数据类别不均衡的处理方法，包括：

将少数类样本进行聚类，得到多个簇；

计算每个簇中少数类样本的k近邻样本；

获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量；

计算所述簇中多数样本的数量占所述k近邻样本的数量的比值；

根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本。

在本公开其中一个实施例中，当所述簇中多数样本的数量占所述k近邻样本的数量的比值不大于第一预设阈值时，所述根据所述簇中多数样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本包括：

获取所述簇中的任意一个少数类样本；

选取与所述少数类样本k近邻的任意一个样本；

基于所述少数类样本和与所述少数类样本k近邻的任意一个样本进行插值。

在本公开其中一个实施例中，当所述簇中多数样本的数量占所述k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，所述根据所述簇中多数样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本包括：

计算所述簇中少数类样本的中心点；

选取与所述中心点k近邻的任意一个样本；

基于所述中心点和所述与所述中心点相邻的任意一个样本，对所述簇中的少数类样本进行插值。

在本公开其中一个实施例中，所述将少数类样本进行聚类，得到多个簇之前，包括：

获取真实数据集，所述真实数据集中包括多数类样本和所述少数类样本。

在本公开其中一个实施例中，将所述少数类样本进行聚类，得到多个簇之后，还包括：

对每个簇中的所有样本均进行数值范围为(0，1)的标准化处理。

本公开的第二个方面提供了一种半监督生成对抗网络的训练方法，包括：

获取训练集，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到；

将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本；

基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

在本公开其中一个实施例中，所述半监督生成对抗网络中生成器的损失函数：

max(E_z～p(z)(log G(D(Z))))；

其中，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

在本公开其中一个实施例中，所述基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络包括：

将所述生成的伪样本加入所述训练集中，得到新的训练集；

利用所述训练集和所述损失函数，采用梯度下降算法训练所述半监督生成对抗网络。

本公开的第三个方面提供了一种异常交易检测方法，包括：

获取用户的交易数据；

将所述用户的交易数据输入训练好的半监督生成对抗网络，得到所述交易数据是否属于异常数据的结果。

其中，所述训练好的半监督生成对抗网络通过获取训练集，将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练而得到，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到。

本公开的第四个方面提供了一种数据类别不均衡的处理装置，包括：

聚类模块，用于将少数类样本进行聚类，得到多个簇；

第一计算模块，用于计算每个簇中少数类样本的k近邻样本；

第一获取模块，用于获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量；

第二计算模块，用于计算所述簇中多数样本的数量占所述k近邻样本的数量的比值；

处理模块，用于根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本。

在本公开其中一个实施例中，当所述簇中多数样本的数量占所述k近邻样本的数量的比值不大于第一预设阈值时，所述处理模块包括：

获取子模块，用于获取所述簇中的任意一个少数类样本；

第一选取子模块，用于选取与所述少数类样本k近邻的任意一个样本；

第一插值模块，用于基于所述少数类样本和与所述少数类样本k近邻的任意一个样本进行插值。

在本公开其中一个实施例中，所述簇中多数样本的数量占所述k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，所述处理模块包括：

计算子模块，用于计算所述簇中少数类样本的中心点；

第二选取子模块，用于选取与所述中心点k近邻的任意一个样本；

第二插值模块，用于基于所述中心点和所述与所述中心点k近邻的任意一个样本，对所述簇中的少数类样本进行插值。

在本公开其中一个实施例中，数据类别不均衡的处理装置还包括：

数据集获取模块，用于获取真实数据集，该真实数据集中包括多数类样本和该少数类样本。

在本公开其中一个实施例中，数据类别不均衡的处理装置还包括：

标准化处理模块，用于对每个簇中的所有样本均进行数值范围为(0，1)的标准化处理。

本公开的第五个方面提供了一种半监督生成对抗网络的训练装置，包括：

第二获取模块，用于获取训练集，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到；

第一输入模块，用于将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本；

训练模块，用于基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

在本公开其中一个实施例中，所述半监督生成对抗网络中生成器的损失函数：

max(E_z～p(z)(log G(D(Z))))；

其中，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

在本公开其中一个实施例中，该训练模块包括：

加入子模块，用于该生成的伪样本加入该训练集中，得到新的训练集；

训练子模块，用于利用该训练集和该损失函数，采用梯度下降算法训练该半监督生成对抗网络。

本公开的第六个方面提供了一种异常交易检测装置，包括：

第三获取模块，用于获取用户的交易数据；

第二输入模块，用于将所述用户的交易数据输入训练好的半监督生成对抗网络，得到所述交易数据是否属于异常数据的结果。

其中，所述训练好的半监督生成对抗网络通过获取训练集，将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练而得到，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到。

本公开的第七方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

本公开的第八方面提供了一种计算机程序，所述计算机程序包括计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

根据本公开实施例，对于少数类样本，将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本。针对簇中多数类样本数量的情况，采用不同的方式处理簇中样本，减小新生成的少数类样本的误差。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的示例性系统架构；

图2示意性示出了根据本公开实施例的数据类别不均衡的处理方法的流程图；

图3示意性示出了根据本公开实施例的半监督生成对抗网络的训练方法的流程示意图；

图4示意性示出了根据本公开实施例的异常交易检测方法的流程示意图；

图5示意性示出了根据本公开的实施例的数据类别不均衡的处理装置的框图；

图6示意性示出了根据本公开的实施例的半监督生成对抗网络的训练装置的框图；

图7示意性示出了根据本公开的实施例的半监督生成对抗网络的训练装置的框图；

图8示意性示出了根据本公开实施例的计算机系统的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开的实施例提供了一种数据类别不均衡的处理方法，包括：将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本。

本公开的实施例提供了一种半监督生成对抗网络的训练方法，包括：获取训练集，该训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到，将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

本公开的实施例提供了一种异常交易检测方法，包括获取用户的交易数据，将该用户的交易数据输入训练好的半监督生成对抗网络，得到该交易数据是否属于异常数据的结果。其中，该训练好的半监督生成对抗网络通过获取训练集，将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练而得到，该训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到。

图1示意性示出了根据本公开实施例的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如用户交易数据是否属于异常数据的结果)反馈给终端设备。

需要说明的是，本公开实施例所提供的方法一般可以由服务器105执行。相应地，本公开实施例所提供的方法对应的装置一般可以设置于服务器105中。本公开实施例所提供的方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的方法对应的装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者，本公开实施例所提供的方法也可以由终端设备101、102、或103执行，或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地，本公开实施例所提供的方法对应的装置也可以设置于终端设备101、102、或103中，或设置于不同于终端设备101、102、或103的其他终端设备中。

例如，少数类样本、训练集、用户的交易数据可以原本存储在终端设备101、102、或103中的任意一个(例如，终端设备101，但不限于此)之中，或者存储在外部存储设备上并可以导入到终端设备101中。然后，终端设备101可以在本地执行本公开实施例所提供的数据类别不均衡的处理方法、半监督生成对抗网络的训练方法、异常交易检测方法，或者将少数类样本、训练集、用户的交易数据发送到其他终端设备、服务器、或服务器集群，并由接收少数类样本、训练集、用户的交易数据的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的方法。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图2示意性示出了根据本公开实施例的数据类别不均衡的处理方法的流程图。

如图2所示，该方法包括操作S201～S205。

在操作S201，将少数类样本进行聚类，得到多个簇。

在操作S202，计算每个簇中少数类样本的k近邻样本。

在操作S203，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量。

在操作S204，计算该簇中多数样本的数量占k近邻样本的数量的比值。

在操作S205，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本。

在本公开实施例中，少数类样本的数量远小于多数类样本的数量，该少数类样本和多数类样本来自于真实数据集，也即该真实数据集包括多数类样本和该少数类样本。该真实数据集可以是处于各种实际异常情景下产生的数据，例如在金融领域内的信用卡诈骗、未成年人非理性消费等。此外，本公开还可适用于其它领域，上述示例不得理解为对本公开的限制。

在本公开实施例中，在操作S201后，还可以对每个簇中的所有样本均进行数值范围为(0，1)的标准化处理，以便进行插值，扩充少数类样本的数量。

在本公开实施例中，在真实数据集中，处理后的少数类样本的数量与多数类样本的数量可以达到均衡，该均衡的真实数据集可以用于训练生成对抗网络，或者，由生成对抗网络演变出来的其它网络，例如半监督生成对抗网络、周期一致性生成对抗网络等等。

根据本公开实施例，对于少数类样本，将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本。针对簇中多数类样本数量的情况，采用不同的方式处理簇中样本，减小新生成的少数类样本的误差。

在本公开实施例中，将簇中多数类样本的数量占k近邻样本的数量的比值分为三种情况。第一种情况，簇中多数样本的数量占k近邻样本的数量不大于第一预设阈值，第二种情况，簇中多数样本的数量占k近邻样本的数量大于第一预设阈值小于第二预设阈值，第三种情况，簇中多数样本的数量占k近邻样本的数量等于第二预设阈值。

在本公开其中一个实施例中，对于第一种情况，操作S205，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体为：获取该簇中的任意一个少数类样本，选取与该少数类样本相邻的任意一个少数类样本，基于该少数类样本和与该少数类样本相邻的少数类样本进行插值。

在本公开其中一个实施例中，对于第二种情况，操作S205，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体为：计算该簇中少数类样本的中心点，选取与该中心点相邻的任意一个样本，基于该中心点和该与该中心点相邻的样本，对该簇中的少数类样本进行插值。

其中，对于第三种情况，说明在这个簇中所有样本是多数类样本，则该簇为噪声簇，不进行处理。

在本公开中，本领域技术人员可以根据实际情况对第一预设阈值、第二预设阈值的具体值进行设置，本公开对此不做限制，以下以簇中多数类样本的数量占总样本的数量的比值为B，第一预设阈值为1/2，第一预设阈值为1，进行示意性说明。

在一个示例中，当B＝1时，说明在这个簇中所有样本是多数类样本，则该簇为噪声簇，无需进行扩充。当B不等于1时，说明在这个簇中存在样本是少数类样本，则该簇为安全簇或边界簇，需要进行少数类样本扩充。

具体的，当B≤1/2时，说明在这个簇中多数类样本的数量不大于少数类样本的数量，该簇为不处于正负样本边界的安全簇，则若生成新样本，新样本处于两个类别边界附近的概率较小。选取该簇中少数类样本周围k近邻(实验中取k为11)的任意一个样本进行插值，一定程度上缓解边界模糊的情况发生。1＞B＞1/2时，说明在这个簇中多数类样本的数量大于少数类样本的数量，该簇为边界簇，则若生成新样本，新样本处于两个类别边界附近的概率较大，首先对少数类样本所有样本进行均值计算之后，得到少数类样本集的中心，随后选取该簇中的少数类样本中心周围k近邻的样本进行插值，使得新产生的少数类样本在保持与已存在的少数类样本相似的基础上，远离多数类样本和少数类样本的边界。

图3示意性示出了根据本公开实施例的半监督生成对抗网络的训练方法的流程示意图。

如图3所示，该方法包括操作S301至S303。

在操作S301中，获取训练集，该训练集中的训练样本通过将少数类样本进行聚类，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到。

在操作S302中，将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本。

在操作S303中，基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

在本公开实施例中，生成对抗网络(GAN，Generative Adversarial Networks)是一种基于零和博弈思想的算法模型，它包含生成器G(Generator)和判别器D(Discriminator)。生成器从潜在空间中进行随机采样作为输入，生成接近真实样本的伪样本作为输出。判别器的输入为真实样本或者生成器输出的伪样本，判别器需要尽可能的识别出生成器输出的伪样本。生成器通过生成接近真实样本的伪样本来干扰判别器，同时也提升判别器对真实样本的识别能力。两者通过竞争和学习的方式，最终达到纳什均衡。

在本公开实施例中，半监督生成对抗网络(SSGAN，Semi-supervised GAN)可以利用GAN中生成器生成的样本来改进和提高样本分类任务，判别器在能区分真实样本和生成器生成的伪样本的同时，还能执行分类器所需执行的的样本分类任务，可提升判别器的判别能力。

在本公开实施例中，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体可以是：当该簇中多数样本的数量占k近邻样本的数量的比值不大于第一预设阈值时，获取该簇中的任意一个少数类样本，选取与该少数类样本k近邻的任意一个样本，基于该少数类样本和与该少数类样本k近邻的任意一个样本进行插值；当该簇中多数样本的数量占k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，计算该簇中少数类样本的中心点，选取与该中心点k近邻的任意一个样本，基于该中心点和该与该中心点k近邻的任意一个样本，对该簇中的少数类样本进行插值。

在本公开实施例中，输入生成器的训练集中的训练样本伪经过插值扩充后的少数类样本，也即为原少数类样本和插值扩充的少数类样本的集合。生成器在训练过程中生成的伪样本是不确定的，既可能产生少类样本，也可能产生多类样本，生成器的训练目的只是为了生成让判决为真的伪样本。但是训练集中插值扩充的少数类样本与原少数类样本之间关系紧密，相似度高，容易导致在训练分类器时过拟合，影响分类器的分类效果。在本公开其中一个实施例中，设置该半监督生成对抗网络中生成器的损失函数：max(E_z～p(z)(log G(D(Z))))，其中，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。可以使得产生的伪样本更接近于少数类样本。

在本公开其中一个实施例中，操作S303具体为将该生成的伪样本加入该训练集中，得到新的训练集，利用该训练集和该损失函数，采用梯度下降算法训练该半监督生成对抗网络。在一个示例中，设置判决器为一个全连接的深度神经网络，总共分为一个输入层、五个隐藏层和一个输出层。使用梯度下降算法进行训练，设置半监督生成对抗网络学习率为0.001，判决器的学习率为0.01。

图4示意性示出了根据本公开实施例的异常交易检测方法的流程示意图。

如图4所示，该方法包括操作S401至S403。

在操作S401中，获取用户的交易数据；

在操作S402中，将该用户的交易数据输入训练好的半监督生成对抗网络，得到该交易数据是否属于异常数据的结果。

其中，该训练好的半监督生成对抗网络通过获取训练集，将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练而得到，该训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到。

在本公开实施例中，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体可以是：当该簇中多数样本的数量占k近邻样本的数量的比值不大于第一预设阈值时，获取该簇中的任意一个少数类样本，选取与该少数类样本k近邻的任意一个样本，基于该少数类样本和与该少数类样本k近邻的任意一个样本进行插值；当该簇中多数样本的数量的比值占k近邻样本的数量大于第一预设阈值小于第二预设阈值时，计算该簇中少数类样本的中心点，选取与该中心点k近邻的任意一个样本，基于该中心点和该与该中心点k近邻的任意一个样本，对该簇中的少数类样本进行插值。

在本公开实施例中，半监督生成对抗网络中生成器的损失函数：max(E_z～p(z)(log G(D(Z))))，其中，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。可以使得产生的伪样本更接近于少数类样本。

在本公开实施例中，半监督生成对抗网络输出的交易数据是否属于异常数据的结果可以是一个概率值，也可以是一个确定的结果，本公开对此不做限制。

图5示意性示出了根据本公开的实施例的数据类别不均衡的处理装置的框图。

如图5所示，数据类别不均衡的处理装置500包括聚类模块510、第一计算模块520，第一获取模块530、第二计算模块540和处理模块550。

聚类模块510，用于将少数类样本进行聚类，得到多个簇。

第一计算模块520，用于计算每个簇中少数类样本的k近邻样本。

第一获取模块530，用于获取每个该簇中少数类样本的k近邻样本中多数类样本的数量。

第二计算模块540，用于计算该簇中多数样本的数量占该k近邻样本的数量的比值。

处理模块550，用于根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本。

在本公开其中一个实施例中，当该簇中多数样本的数量占k近邻样本的数量的比值不大于第一预设阈值时，该处理模块540包括：

获取子模块，用于获取该簇中的任意一个少数类样本；

第一选取子模块，用于选取与该少数类样本k近邻的任意一个样本；

第一插值模块，用于基于该少数类样本和与该少数类样本k近邻的任意一个样本进行插值。

在本公开其中一个实施例中，当该簇中多数样本的数量占k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，该处理模块540包括：

计算子模块，用于计算该簇中少数类样本的中心点；

第二选取子模块，用于选取与该中心点k近邻的任意一个样本；

第二插值模块，用于基于该中心点和该与该中心点k近邻的任意一个样本，对该簇中的少数类样本进行插值。

在本公开其中一个实施例中，数据类别不均衡的处理装置500还包括：

数据集获取模块，用于获取真实数据集，该真实数据集中包括多数类样本和该少数类样本。

在本公开其中一个实施例中，数据类别不均衡的处理装置500还包括：

标准化处理模块，用于对每个簇中的所有样本均进行数值范围为(0，1)的标准化处理。

图6示意性示出了根据本公开的实施例的半监督生成对抗网络的训练装置的框图。

如图6所示，半监督生成对抗网络的训练装置600包括第二获取模块601、第一输入模块602、训练模块603。

第二获取模块601，用于获取训练集，该训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到；

第一输入模块602，用于将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本；

训练模块603，用于基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

其中，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体可以是：当该簇中多数样本的数量占k近邻样本的数量的比值不大于第一预设阈值时，获取该簇中的任意一个少数类样本，选取与该少数类样本k近邻的任意一个样本，基于该少数类样本和与该少数类样本k近邻的少数类样本进行插值；当该簇中多数样本的数量占k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，计算该簇中少数类样本的中心点，选取与该中心点k近邻的任意一个样本，基于该中心点和该与该中心点k近邻的任意一个样本，对该簇中的少数类样本进行插值。

在本公开其中一个实施例中，该半监督生成对抗网络中生成器的损失函数：

max(E_z～p(z)(log G(D(Z))))；

其中，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

在本公开其中一个实施例中，该训练模块603包括：

加入子模块，用于该生成的伪样本加入该训练集中，得到新的训练集；

训练子模块，用于利用该训练集和该损失函数，采用梯度下降算法训练该半监督生成对抗网络。

图7示意性示出了根据本公开的实施例的半监督生成对抗网络的训练装置的框图。

如图7所示，异常交易检测装置包括第三获取模块701、第二输入模块702。

第三获取模块701，用于获取用户的交易数据。

第二输入模块702，用于将该用户的交易数据输入训练好的半监督生成对抗网络，得到该交易数据是否属于异常数据的结果。

其中，该训练好的半监督生成对抗网络通过获取训练集，将该训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于该伪样本、该训练集和损失函数对该半监督生成对抗网络进行训练而得到，该训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个该簇中少数类样本的k近邻样本中多数类样本的数量，计算该簇中多数样本的数量占该k近邻样本的数量的比值，根据该簇中多数类样本的数量占该k近邻样本的数量的比值，处理该簇中的样本而得到。

其中，根据该簇中多数类样本的数量占k近邻样本的数量的比值，处理该簇中的样本具体可以是：当该簇中多数样本的数量占k近邻样本的数量的比值不大于第一预设阈值时，获取该簇中的任意一个少数类样本，选取与该少数类样本k近邻的任意一个样本，基于该少数类样本和与该少数类样本k近邻的任意一个样本进行插值；当该簇中多数样本的数量占k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，计算该簇中少数类样本的中心点，选取与该中心点k近邻的任意一个样本，基于该中心点和该与该中心点k近邻的任意一个样本，对该簇中的少数类样本进行插值。

其中，该半监督生成对抗网络中生成器的损失函数：max(E_z～p(z)(log G(D(Z))))，Z表示伪样本，E_z～p(z)(log G(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，聚类模块510、第一计算模块520，第一获取模块530、第二计算模块540和处理模块550中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，聚类模块510、第一计算模块520，第一获取模块530、第二计算模块540和处理模块550中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，聚类模块510、第一计算模块520，第一获取模块530、第二计算模块540和处理模块550中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。

图8示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。图8示出的计算机系统仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图8所示，根据本公开实施例的计算机系统800包括处理器801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM803中，存储有系统800操作所需的各种程序和数据。处理器801、ROM 802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，该程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，系统800还可以包括输入/输出(I/O)接口805，输入/输出(I/O)接口805也连接至总线804。系统800还可以包括连接至I/O接口805的以下部件中的一项或多项：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (17)

1.一种数据类别不均衡的处理方法，包括：

将少数类样本进行聚类，得到多个簇；

计算每个簇中少数类样本的k近邻样本；

获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量；

计算所述簇中多数样本的数量占所述k近邻样本的数量的比值；

根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本。

2.根据权利要求1所述的方法，当所述簇中多数样本的数量占所述k近邻样本的数量的比值不大于第一预设阈值时，所述根据所述簇中多数样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本包括：

获取所述簇中的任意一个少数类样本；

选取与所述少数类样本k近邻的任意一个样本；

基于所述少数类样本和与所述少数类样本k近邻的任意一个样本进行插值。

3.根据权利要求1所述的方法，当所述簇中多数样本的数量占总所述k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，所述根据所述簇中多数样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本包括：

计算所述簇中少数类样本的中心点；

选取与所述中心点k近邻的任意一个样本；

基于所述中心点和所述与所述中心点k近邻的任意一个样本，对所述簇中的少数类样本进行插值。

4.根据权利要求1所述的方法，所述将少数类样本进行聚类，得到多个簇之前，包括：

获取真实数据集，所述真实数据集中包括多数类样本和所述少数类样本。

5.根据权利要求1所述的方法，将所述少数类样本进行聚类，得到多个簇之后，还包括：

对每个簇中的所有样本均进行数值范围为(0，1)的标准化处理。

6.一种半监督生成对抗网络的训练方法，包括：

获取训练集，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到；

将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本；

基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

7.根据权利要求6所述的方法，所述半监督生成对抗网络中生成器的损失函数：

max(E_z～p(z)(logG(D(Z))))；

其中，Z表示伪样本，E_z～p(z)(logG(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

8.根据权利要求6或7所述的方法，所述基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络包括：

将所述生成的伪样本加入所述训练集中，得到新的训练集；

利用所述训练集和所述损失函数，采用梯度下降算法训练所述半监督生成对抗网络。

9.一种异常交易检测方法，包括：

获取用户的交易数据；

将所述用户的交易数据输入训练好的半监督生成对抗网络，得到所述交易数据是否属于异常数据的结果。

其中，所述训练好的半监督生成对抗网络通过获取训练集，将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练而得到，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到。

10.一种数据类别不均衡的处理装置，包括：

聚类模块，用于将少数类样本进行聚类，得到多个簇；

第一计算模块，用于计算每个簇中少数类样本的k近邻样本；

第一获取模块，用于获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量；

第二计算模块，用于计算所述簇中多数样本的数量占所述k近邻样本的数量的比值；

处理模块，用于根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本。

11.根据权利要求10所述的装置，当所述簇中多数样本的数量占所述k近邻样本的数量的比值不大于第一预设阈值时，所述处理模块包括：

获取子模块，用于获取所述簇中的任意一个少数类样本；

第一选取子模块，用于选取与所述少数类样本k近邻的任意一个样本；

第一插值模块，用于基于所述少数类样本和与所述少数类样本k近邻的任意一个样本进行插值。

12.根据权利要求1所述的方法，当所述簇中多数样本的数量占所述k近邻样本的数量的比值大于第一预设阈值小于第二预设阈值时，所述处理模块包括：

计算子模块，用于计算所述簇中少数类样本的中心点；

第二选取子模块，用于选取与所述中心点k近邻的任意一个样本；

第二插值模块，用于基于所述中心点和所述与所述中心点k近邻任意一个的样本，对所述簇中的少数类样本进行插值。

13.一种半监督生成对抗网络的训练装置，包括：

第二获取模块，用于获取训练集，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到；

第一输入模块，用于将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本；

训练模块，用于基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练，得到训练好的半监督生成对抗网络。

14.根据权利要求13所述的装置，所述半监督生成对抗网络中生成器的损失函数：

max(E_z～p(z)(logG(D(Z))))；

其中，Z表示伪样本，E_z～p(z)(logG(D(Z)))表示生成器G生成的伪样本Z被判别器D判别为少数类样本的概率的期望，max(*)表示取最大值。

15.一种异常交易检测装置，包括：

第三获取模块，用于获取用户的交易数据；

第二输入模块，用于将所述用户的交易数据输入训练好的半监督生成对抗网络，得到所述交易数据是否属于异常数据的结果。

其中，所述训练好的半监督生成对抗网络通过获取训练集，将所述训练集中的训练样本输入半监督生成对抗网络，得到伪样本，基于所述伪样本、所述训练集和损失函数对所述半监督生成对抗网络进行训练而得到，所述训练集中的训练样本通过将少数类样本进行聚类，得到多个簇，计算每个簇中少数类样本的k近邻样本，获取每个所述簇中少数类样本的k近邻样本中多数类样本的数量，计算所述簇中多数样本的数量占所述k近邻样本的数量的比值，根据所述簇中多数类样本的数量占所述k近邻样本的数量的比值，处理所述簇中的样本而得到。

16.一种计算机系统，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至5中任一项所述的方法，或，实现权利要求6至8中任一项所述的方法，或，实现权利要求9所述的方法。

17.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至5中任一项所述的方法，或，实现权利要求6至8中任一项所述的方法，或，实现权利要求9所述的方法。

Images