CN115456789B - 基于交易模式识别的异常交易检测方法及其系统 - Google Patents
基于交易模式识别的异常交易检测方法及其系统 Download PDFInfo
- Publication number
- CN115456789B CN115456789B CN202211402727.3A CN202211402727A CN115456789B CN 115456789 B CN115456789 B CN 115456789B CN 202211402727 A CN202211402727 A CN 202211402727A CN 115456789 B CN115456789 B CN 115456789B
- Authority
- CN
- China
- Prior art keywords
- transaction
- vector
- matrix
- data
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- General Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Technology Law (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
Abstract
公开了一种基于交易模式识别的异常交易检测方法及其系统,其采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
Description
技术领域
本申请涉及交易检测领域,且更为具体地,涉及一种基于交易模式识别的异常交易检测方法及其系统。
背景技术
中国的电子商务的崛起与网上交易的普及等现状,这使我国的银行交易量级业务迎来大数据的时代。现如今,我国的金融业正在“互联网+”的新时代,在互联网的时代,银行业在一段时间内发生了巨大变化。随着经济的发展,银行交易的数据量越来越庞大,近年来,电子商务的崛起,P2P交易方式等使得交易数据量进一步扩大。同时,异常交易也在提升,怎样能够在庞大的数据面前有效的检测出异常交易,变成了一项巨大的挑战。
现如今异常交易检测技术主要有:
1.在交易系统的软件测试阶段:软件测试人员与开发人员,通过软件的强壮性测试,对交易系统软件输入大量的不规则数据,交易软件系统使用条件判断,对交易软件系统的输入值进行过滤,而如今的交易数据具有多变性和复杂性,这种僵硬的条件判断,不能满足异常交易检测的要求,此种方法是异常交易检测最初级的方法。
2.交易系统的管理人员和运维人员,定期的对一定量的交易数据进行统计检测,依据人员的工作经验,主观的将异常的交易检测出来,此种方法灵活性最大,但是,效率低下,只能对重要交易数据进行重点检测,不能对全部的交易数据进行异常检测,且此方法主观因素大,不能对检测结果进行有效的保证,此种方法是异常交易检测的辅助方法。
因此,期待一种优化的异常交易检测方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种基于交易模式识别的异常交易检测方法及其系统,其采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
根据本申请的一个方面,提供了一种基于交易模式识别的异常交易检测方法,其包括:
获取被标注为正常交易的多次交易数据;
基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;
获取待检测交易数据;
将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;
将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;
将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;
融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;
计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及
将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
在上述基于交易模式识别的异常交易检测方法中,所述将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量,包括:将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量;以及,将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量。
在上述基于交易模式识别的异常交易检测方法中,所述将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量,包括:通过所述上下文编码器的嵌入层分别将所述各个数据项中的文本数据映射为词嵌入向量;以及,将所述各个数据项中的数值数据添加到所述各个数据项的词嵌入向量的尾部以得到所述数据项嵌入向量。
在上述基于交易模式识别的异常交易检测方法中,所述将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量,包括:将所述多个数据项嵌入向量排列为输入向量;将所述输入向量分别通过可学习嵌入矩阵转化为查询向量和关键向量;计算所述查询向量和所述关键向量的转置向量之间的乘积以得到自注意关联矩阵;对所述自注意关联矩阵进行标准化处理以得到标准化自注意关联矩阵;将所述标准化自注意关联矩阵输入Softmax激活函数进行激活以得到自注意力特征矩阵;以及,将所述自注意力特征矩阵与以所述多个数据项嵌入向量中各个数据项嵌入向量作为值向量分别进行相乘以得到所述多个交易上下文语义特征向量。
在上述基于交易模式识别的异常交易检测方法中,所述将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量,包括:使用所述卷积神经网络模型的各个混合卷积层在层的正向传递中分别对输入数据进行:对输入数据进行多尺度卷积编码以得到多尺度卷积特征图;将所述多尺度卷积特征图进行池化处理以得到池化特征图;以及,对所述池化特征图进行激活处理以得到激活特征图;其中,所述卷积神经网络模型的最后一个混合卷积层的输出为所述第二尺度交易语义特征向量。
在上述基于交易模式识别的异常交易检测方法中,所述计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵,包括:以如下公式计算所述待检测交易特征向量与所述正常交易特征向量之间的所述转移矩阵作为所述分类特征矩阵;其中,所述公式为:
其中表示所述待检测交易特征向量,表示所述正常交易特征向量,表示所述转移矩阵,表示矩阵与向量相乘。
在上述基于交易模式识别的异常交易检测方法中,所述将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常,包括:使用所述分类器以如下公式对所述分类特征矩阵进行处理以得到所述分类结果;其中,所述公式为:
其中表示将所述分类特征矩阵投影为向量,至为各层全连接层的权重矩阵,至表示各层全连接层的偏置向量。
在上述基于交易模式识别的异常交易检测方法中,还包括训练步骤:对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练;所述训练步骤,包括:获取训练数据,所述训练数据包括被标注为正常交易的多次训练交易数据、训练待检测交易数据,以及,所述训练待检测交易数据是否属于交易异常的真实值;基于所述被标注为正常交易的多次训练交易数据,生成训练正常交易特征向量;将所述训练待检测交易数据中的多个数据项通过所述包含嵌入层的上下文编码器以得到多个训练交易上下文语义特征向量;将所述多个训练交易上下文语义特征向量进行级联以得到训练第一尺度交易语义特征向量;将所述多个训练交易上下文语义特征向量进行二维排列为训练交易上下文语义特征矩阵后通过所述包含多个混合卷积层的卷积神经网络模型以得到训练第二尺度交易语义特征向量;融合所述训练第一尺度交易语义特征向量和所述训练第二尺度交易语义特征向量以得到训练待检测交易特征向量;计算所述训练待检测交易特征向量与所述训练正常交易特征向量之间的转移矩阵作为训练分类特征矩阵;将所述训练分类特征矩阵通过所述分类器以得到分类损失函数值;以及,基于所述分类损失函数值并通过梯度下降的方向传播来对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,基于远程迁移矩阵和惩罚向量对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代。
在上述基于交易模式识别的异常交易检测方法中,在所述训练的每一轮迭代中,基于所述远程迁移矩阵和所述惩罚向量以如下公式对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代;其中,所述公式为:
其中表示所述训练分类特征矩阵展开后得到的训练分类特征向量,表示具有可学习的参数的所述远程迁移矩阵,表示每次迭代时所述分类器的初始全连接权重矩阵,且为所述惩罚向量,表示激活函数,表示按位置加法,表示按位置减法,表示矩阵相乘,表示向量的指数运算,所述向量的指数运算表示计算以向量中各个位置的特征值为幂的自然指数函数值。
根据本申请的另一方面,提供了一种基于交易模式识别的异常交易检测系统,包括:
正常交易数据获取单元,用于获取被标注为正常交易的多次交易数据;
向量构造单元,用于基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;
待检测交易数据获取单元,用于获取待检测交易数据;
全局语义理解单元,用于将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;
级联单元,用于将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;
混合卷积单元,用于将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;
融合单元,用于融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;
关联单元,用于计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及
检测结果生成单元,用于将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
在上述基于交易模式识别的异常交易检测系统中,还包括对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练的训练模块;其中,所述训练模块,包括:训练数据获取单元,用于获取训练数据,所述训练数据包括被标注为正常交易的多次训练交易数据、训练待检测交易数据,以及,所述训练待检测交易数据是否属于交易异常的真实值;训练向量构造单元,用于基于所述被标注为正常交易的多次训练交易数据,生成训练正常交易特征向量;训练全局语义理解单元,用于将所述训练待检测交易数据中的多个数据项通过所述包含嵌入层的上下文编码器以得到多个训练交易上下文语义特征向量;训练级联单元,用于将所述多个训练交易上下文语义特征向量进行级联以得到训练第一尺度交易语义特征向量;训练混合卷积单元,用于将所述多个训练交易上下文语义特征向量进行二维排列为训练交易上下文语义特征矩阵后通过所述包含多个混合卷积层的卷积神经网络模型以得到训练第二尺度交易语义特征向量;训练融合单元,用于融合所述训练第一尺度交易语义特征向量和所述训练第二尺度交易语义特征向量以得到训练待检测交易特征向量;训练关联单元,用于计算所述训练待检测交易特征向量与所述训练正常交易特征向量之间的转移矩阵作为训练分类特征矩阵;分类损失函数值生成单元,用于将所述训练分类特征矩阵通过所述分类器以得到分类损失函数值;以及,训练单元,用于基于所述分类损失函数值并通过梯度下降的方向传播来对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,基于远程迁移矩阵和惩罚向量对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代。
与现有技术相比,本申请提供的基于交易模式识别的异常交易检测方法及其系统,其采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1为根据本申请实施例的基于交易模式识别的异常交易检测方法的流程图。
图2为根据本申请实施例的基于交易模式识别的异常交易检测方法的架构示意图。
图3为根据本申请实施例的基于交易模式识别的异常交易检测方法中将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量的流程图。
图4为根据本申请实施例的基于交易模式识别的异常交易检测方法中对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练的流程图。
图5为根据本申请实施例的基于交易模式识别的异常交易检测系统的框图。
图6为根据本申请实施例的基于交易模式识别的异常交易检测系统中训练模块的框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
如上所述,期待一种优化的异常交易检测方案。目前,深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外,深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域,也展现出了接近甚至超越人类的水平。
近年来,深度学习以及神经网络的发展为异常交易的智能检测提供了新的解决思路和方案。
相应地,考虑到在对于异常交易进行检测判断时,为了兼顾准确性和有效性,可以通过待检测交易数据隐含特征和正常交易数据隐含特征在高维空间中的特征差异来进行。也就是,具体地,在本申请的技术方案中,采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
具体地,在本申请的技术方案中,首先,获取待检测交易数据。接着,考虑到在所述待检测交易数据中,各个数据项之间具有着关联性关系,为了能够准确地提取出所述检测交易数据中的隐含特征信息以对于交易数据的异常性进行准确地判断,需要对于交易数据的各个数据项之间的长依赖关联特征和中短距离依赖关联特征进行提取融合来表征不同距离依赖的多尺度交易特征。
也就是,具体地,将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器中进行编码,以提取所述交易数据的基于全局的长依赖关联特征,从而得到多个交易上下文语义特征向量。具体地,首先,通过所述上下文编码器的嵌入层来分别对于所述各个数据项中的文本数据映射为词嵌入向量,并把各个数据项中的数值数据添加到所述各个数据项的词嵌入向量的尾部以得到所述数据项嵌入向量。这样,能够对于所述待检测交易数据中的各个数据项进行向量化,以融合所述各个数据项中的文本信息和数据信息。然后,再将所述多个数据项嵌入向量输入所述上下文编码器中进行编码,以提取出所述多个数据项中各个数据项的基于全局的高维语义关联特征,即长依赖关联特征,从而得到所述多个交易上下文语义特征向量。接着,再将所述多个交易上下文语义特征向量进行级联以聚合所述各个数据项的基于全局的长依赖关联特征信息,从而得到具有所述待检测交易数据整体的长依赖关联特征的第一尺度交易语义特征向量。
然后,考虑到在得到所述待检测交易数据的长距离全局语义关联特征后,还需要对于所述待检测交易数据的中短距离依赖关联特征进行深度挖掘。因此,在本申请的技术方案中,进一步将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型中进行处理,以分别提取出所述交易数据中的各个数据项的短和中距离依赖关联特征,从而得到第二尺度交易语义特征向量。相应地,在本申请的一个具体示例中,在所述混合卷积层中,此模块的设计包括并联的四个分支,由一个卷积核大小为3×3的普通卷积层以及三个卷积核大小为3×3的空洞卷积层构成,分别对所述交易上下文语义特征矩阵进行操作,将空洞卷积三个分支的扩张率分别设置为2、3、4,通过不同扩张率的设置可获得不同感受域的图像信息,即可得到不同尺度的特征图,在扩大感受野的同时,又避免了下采样损失信息,接着将 4 个分支特征图进行融合,使得采样更为密集,既拥有了高层特征,也没有增加额外的参数量。
进一步地,融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量。也就是,在一个具体示例中,以级联的方式融合具有所述待检测交易数据的各个数据项的长依赖关联特征的所述第一尺度交易语义特征向量和具有所述各个数据项的短和中依赖关联特征的所述第二尺度交易语义特征向量,就能够得到包含不同距离依赖的多尺度交易特征的所述待检测交易特征向量。这样,能够通过长依赖关联和中短依赖关联来充分地提取出所述待检测交易数据的各个数据项中的多尺度关联特征,以提高对于交易异常判断的精准度。
同样地,对于所述正常交易数据的特征挖掘,首先,获取被标注为正常交易的多次交易数据,进一步地,也将其按照与所述待检测交易数据的编码过程相一致的编码方法进行编码处理。也就是,基于所述被标注为正常交易的多次交易数据,生成具有各个数据项之间长依赖关联特征和中短依赖关联特征的融合特征的正常交易特征向量。
然后,计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵来表示所述待检测交易数据的多尺度交易特征和所述正常交易数据的多尺度交易特征的差异性特征,以此作为分类特征矩阵来通过分类器中进行分类处理,就能够得到用于表示待检测交易数据是否属于交易异常的分类结果。
特别地,在本申请的技术方案中,这里,通过计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵,可以更为关注所述待检测交易特征向量的特征分布相对于所述正常交易特征向量的特征分布的差异性分布,从而增强所述分类特征矩阵的分类效果。但是,另一方面,由于所述差异性分布可能其本身会削弱对于交易数据的多尺度交易特征的表达,其对于交易数据的多尺度交易特征的支持性表达会被削弱,从而在通过分类器进行分类时导致跨分类器的远程分布偏差,这会影响分类器的训练速度,并在一定程度上影响分类特征向量的分类结果的准确性。
因此,在本申请的技术方案中,在模型的训练过程中,使用跨分类器的远程分布描述性增强来优化所述分类特征矩阵的分类过程,具体地,在分类过程中,在每次分类器的权重矩阵的迭代过程中,通过下式来计算分类器的输入:
是所述分类特征矩阵展开后得到的分类特征向量,为远程迁移矩阵,为分类器的初始全连接权重矩阵,且为惩罚向量,其中所述远程迁移矩阵初始可设置为所述初始全连接权重矩阵的全局均值构成的矩阵,且所述惩罚向量可设置为所述分类特征向量的全局均值构成的向量。
这里,通过以具有可学习的参数的矩阵来对跨分类器的分布迁移进行特征分布的支持性描述,来支持优化后的分类特征向量跨分类器的全连接权重矩阵的远程分布对预定分类的类概率的描述性,其中惩罚向量作为偏置并以激活函数进行激活,来保留具有正向作用的分布描述依赖的增强,这样,就提升了分类器的训练速度和分类特征向量的分类结果的准确性。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
基于此,本申请提出了一种基于交易模式识别的异常交易检测方法,其包括:获取被标注为正常交易的多次交易数据;基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;获取待检测交易数据;将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及,将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1为根据本申请实施例的基于交易模式识别的异常交易检测方法的流程图。如图1所示,根据本申请实施例的基于交易模式识别的异常交易检测方法,包括:S110,获取被标注为正常交易的多次交易数据;S120,基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;S130,获取待检测交易数据;S140,将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;S150,将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;S160,将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;S170,融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;S180,计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及,S190,将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
图2为根据本申请实施例的基于交易模式识别的异常交易检测方法的架构示意图。如图2所示,在该网络架构中,首先获取被标注为正常交易的多次交易数据,并基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量。接着,获取待检测交易数据,并将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量。然后,将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量。进而,将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量。接着,融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量。然后,计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵。进而,将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
在步骤S110中,获取被标注为正常交易的多次交易数据。如上所述,现如今异常交易检测技术主要有:1.在交易系统的软件测试阶段:软件测试人员与开发人员,通过软件的强壮性测试,对交易系统软件输入大量的不规则数据,交易软件系统使用条件判断,对交易软件系统的输入值进行过滤,而如今的交易数据具有多变性和复杂性,这种僵硬的条件判断,不能满足异常交易检测的要求,此种方法是异常交易检测最初级的方法。2.交易系统的管理人员和运维人员,定期的对一定量的交易数据进行统计检测,依据人员的工作经验,主观的将异常的交易检测出来,此种方法灵活性最大,但是,效率低下,只能对重要交易数据进行重点检测,不能对全部的交易数据进行异常检测,且此方法主观因素大,不能对检测结果进行有效的保证,此种方法是异常交易检测的辅助方法。因此,期待一种优化的异常交易检测方案。
目前,深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外,深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域,也展现出了接近甚至超越人类的水平。近年来,深度学习以及神经网络的发展为异常交易的智能检测提供了新的解决思路和方案。
相应地,考虑到在对于异常交易进行检测判断时,为了兼顾准确性和有效性,可以通过待检测交易数据隐含特征和正常交易数据隐含特征在高维空间中的特征差异来进行。也就是,具体地,在本申请的技术方案中,采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
因此,在本申请的技术方案中,首先,对所述被标注为正常交易的多次交易数据进行特征挖掘,也就是先获取被标注为正常交易的多次交易数据。
在步骤S120中,基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量。其中,所述生成正常交易特征向量的编码过程与所述待检测交易数据的编码过程相一致。也就是,基于所述被标注为正常交易的多次交易数据,生成具有各个数据项之间长依赖关联特征和中短依赖关联特征的融合特征的正常交易特征向量。更具体地,将所述被标注为正常交易的多次交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个正常交易上下文语义特征向量。接着,将所述多个正常交易上下文语义特征向量进行级联以得到第一尺度正常交易语义特征向量,并将所述多个正常交易上下文语义特征向量进行二维排列为正常交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度正常交易语义特征向量。然后,融合所述第一尺度正常交易语义特征向量和所述第二尺度正常交易语义特征向量以得到所述正常交易特征向量。
在步骤S130中,获取待检测交易数据。同样地,对于待检测交易数据,首先获取所述待交易数据以便于后续的计算。
在步骤S140中,将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量。考虑到在所述待检测交易数据中,各个数据项之间具有着关联性关系,为了能够准确地提取出所述检测交易数据中的隐含特征信息以对于交易数据的异常性进行准确地判断,需要对于交易数据的各个数据项之间的长依赖关联特征和中短距离依赖关联特征进行提取融合来表征不同距离依赖的多尺度交易特征。也就是,具体地,将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器中进行编码,以提取所述交易数据的基于全局的长依赖关联特征,从而得到多个交易上下文语义特征向量。
具体地,在本申请实施例中,所述将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量,包括:将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量;以及,将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量。
更具体地,在本申请实施例中,所述将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量,包括:通过所述上下文编码器的嵌入层分别将所述各个数据项中的文本数据映射为词嵌入向量;以及,将所述各个数据项中的数值数据添加到所述各个数据项的词嵌入向量的尾部以得到所述数据项嵌入向量。这样,能够对于所述待检测交易数据中的各个数据项进行向量化,以融合所述各个数据项中的文本信息和数据信息。
图3为根据本申请实施例的基于交易模式识别的异常交易检测方法中将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量的流程图。如图3所示,所述将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量,包括:S210,将所述多个数据项嵌入向量排列为输入向量;S220,将所述输入向量分别通过可学习嵌入矩阵转化为查询向量和关键向量;S230,计算所述查询向量和所述关键向量的转置向量之间的乘积以得到自注意关联矩阵;S240,对所述自注意关联矩阵进行标准化处理以得到标准化自注意关联矩阵;S250,将所述标准化自注意关联矩阵输入Softmax激活函数进行激活以得到自注意力特征矩阵;以及,S260,将所述自注意力特征矩阵与以所述多个数据项嵌入向量中各个数据项嵌入向量作为值向量分别进行相乘以得到所述多个交易上下文语义特征向量。通过这样的方式将所述多个数据项嵌入向量输入所述上下文编码器中进行编码,以提取出所述多个数据项中各个数据项的基于全局的高维语义关联特征,即长依赖关联特征,从而得到所述多个交易上下文语义特征向量。
在步骤S150中,将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量。也就是,将所述多个交易上下文语义特征向量进行级联以聚合所述各个数据项的基于全局的长依赖关联特征信息,从而得到具有所述待检测交易数据整体的长依赖关联特征的第一尺度交易语义特征向量。
在步骤S160中,将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量。考虑到在得到所述待检测交易数据的长距离全局语义关联特征后,还需要对于所述待检测交易数据的中短距离依赖关联特征进行深度挖掘。
因此,在本申请的技术方案中,进一步将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型中进行处理,以分别提取出所述交易数据中的各个数据项的短和中距离依赖关联特征,从而得到第二尺度交易语义特征向量。
相应地,在本申请的一个具体示例中,在所述混合卷积层中,此模块的设计包括并联的四个分支,由一个卷积核大小为3×3的普通卷积层以及三个卷积核大小为3×3的空洞卷积层构成,分别对所述交易上下文语义特征矩阵进行操作,将空洞卷积三个分支的扩张率分别设置为2、3、4,通过不同扩张率的设置可获得不同感受域的图像信息,即可得到不同尺度的特征图,在扩大感受野的同时,又避免了下采样损失信息,接着将 4 个分支特征图进行融合,使得采样更为密集,既拥有了高层特征,也没有增加额外的参数量。
具体地,在本申请实施例中,所述将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量,包括:使用所述卷积神经网络模型的各个混合卷积层在层的正向传递中分别对输入数据进行:对输入数据进行多尺度卷积编码以得到多尺度卷积特征图;将所述多尺度卷积特征图进行池化处理以得到池化特征图;以及,对所述池化特征图进行激活处理以得到激活特征图;其中,所述卷积神经网络模型的最后一个混合卷积层的输出为所述第二尺度交易语义特征向量。
在步骤S170中,融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量。也就是,在一个具体示例中,以级联的方式融合具有所述待检测交易数据的各个数据项的长依赖关联特征的所述第一尺度交易语义特征向量和具有所述各个数据项的短和中依赖关联特征的所述第二尺度交易语义特征向量,就能够得到包含不同距离依赖的多尺度交易特征的所述待检测交易特征向量。这样,能够通过长依赖关联和中短依赖关联来充分地提取出所述待检测交易数据的各个数据项中的多尺度关联特征,以提高对于交易异常判断的精准度。
在步骤S180中,计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵。也就是,计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵来表示所述待检测交易数据的多尺度交易特征和所述正常交易数据的多尺度交易特征的差异性特征,以此作为分类特征矩阵。
具体地,在本申请实施例中,所述计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵,包括:以如下公式计算所述待检测交易特征向量与所述正常交易特征向量之间的所述转移矩阵作为所述分类特征矩阵;其中,所述公式为:
其中表示所述待检测交易特征向量,表示所述正常交易特征向量,表示所述转移矩阵,表示矩阵与向量相乘。
在步骤S190中,将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
具体地,在本申请实施例中,所述将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常,包括:使用所述分类器以如下公式对所述分类特征矩阵进行处理以得到所述分类结果;其中,所述公式为:
其中表示将所述分类特征矩阵投影为向量,至为各层全连接层的权重矩阵,至表示各层全连接层的偏置向量。
在上述基于交易模式识别的异常交易检测方法中,还包括训练步骤:对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练。
图4为根据本申请实施例的基于交易模式识别的异常交易检测方法中对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练的流程图。如图4所示,所述训练步骤,包括:S310,获取训练数据,所述训练数据包括被标注为正常交易的多次训练交易数据、训练待检测交易数据,以及,所述训练待检测交易数据是否属于交易异常的真实值;S320,基于所述被标注为正常交易的多次训练交易数据,生成训练正常交易特征向量;S330,将所述训练待检测交易数据中的多个数据项通过所述包含嵌入层的上下文编码器以得到多个训练交易上下文语义特征向量;S340,将所述多个训练交易上下文语义特征向量进行级联以得到训练第一尺度交易语义特征向量;S350,将所述多个训练交易上下文语义特征向量进行二维排列为训练交易上下文语义特征矩阵后通过所述包含多个混合卷积层的卷积神经网络模型以得到训练第二尺度交易语义特征向量;S360,融合所述训练第一尺度交易语义特征向量和所述训练第二尺度交易语义特征向量以得到训练待检测交易特征向量;S370,计算所述训练待检测交易特征向量与所述训练正常交易特征向量之间的转移矩阵作为训练分类特征矩阵;S380,将所述训练分类特征矩阵通过所述分类器以得到分类损失函数值;以及,S390,基于所述分类损失函数值并通过梯度下降的方向传播来对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,基于远程迁移矩阵和惩罚向量对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代。
特别地,在本申请的技术方案中,这里,通过计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵,可以更为关注所述待检测交易特征向量的特征分布相对于所述正常交易特征向量的特征分布的差异性分布,从而增强所述分类特征矩阵的分类效果。但是,另一方面,由于所述差异性分布可能其本身会削弱对于交易数据的多尺度交易特征的表达,其对于交易数据的多尺度交易特征的支持性表达会被削弱,从而在通过分类器进行分类时导致跨分类器的远程分布偏差,这会影响分类器的训练速度,并在一定程度上影响分类特征向量的分类结果的准确性。
因此,在本申请的技术方案中,在模型的训练过程中,使用跨分类器的远程分布描述性增强来优化所述分类特征矩阵的分类过程。
具体地,在本申请实施例中,在所述训练的每一轮迭代中,基于所述远程迁移矩阵和所述惩罚向量以如下公式对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代;其中,所述公式为:
其中表示所述训练分类特征矩阵展开后得到的训练分类特征向量,表示具有可学习的参数的所述远程迁移矩阵,表示每次迭代时所述分类器的初始全连接权重矩阵,且为所述惩罚向量,表示激活函数,表示按位置加法,表示按位置减法,表示矩阵相乘,表示向量的指数运算,所述向量的指数运算表示计算以向量中各个位置的特征值为幂的自然指数函数值。其中,所述远程迁移矩阵初始可设置为所述初始全连接权重矩阵的全局均值构成的矩阵,且所述惩罚向量可设置为所述分类特征向量的全局均值构成的向量。
这里,通过以具有可学习的参数的矩阵来对跨分类器的分布迁移进行特征分布的支持性描述,来支持优化后的分类特征向量跨分类器的全连接权重矩阵的远程分布对预定分类的类概率的描述性,其中惩罚向量作为偏置并以激活函数进行激活,来保留具有正向作用的分布描述依赖的增强,这样,就提升了分类器的训练速度和分类特征向量的分类结果的准确性。
综上,基于本申请实施例的基于交易模式识别的异常交易检测方法被阐明,其采用基于深度学习的人工智能检测算法来分别提取出待检测交易数据和正常交易数据的长依赖关联特征以及短和中距离依赖关联特征,并分别将所述待检测交易数据和所述正常交易数据的长中短依赖特征进行融合以得到包含不同距离依赖的多尺度交易特征信息,进一步再计算所述待检测交易数据和所述正常交易数据的多尺度交易特征之间的转移矩阵来表示两者的特征差异,以此来进行待检测交易数据的交易异常判断。这样,能够在对于庞大的交易数据进行异常检测时保证异常检测的准确性和有效性。
示例性系统
图5为根据本申请实施例的基于交易模式识别的异常交易检测系统的框图。如图5所示,根据本申请实施例的基于交易模式识别的异常交易检测系统100,包括:正常交易数据获取单元110,用于获取被标注为正常交易的多次交易数据;向量构造单元120,用于基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;待检测交易数据获取单元130,用于获取待检测交易数据;全局语义理解单元140,用于将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;级联单元150,用于将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;混合卷积单元160,用于将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;融合单元170,用于融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;关联单元180,用于计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及,检测结果生成单元190,用于将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常。
在上述基于交易模式识别的异常交易检测系统100中,还包括对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练的训练模块200。
图6为根据本申请实施例的基于交易模式识别的异常交易检测系统中训练模块的框图。如图6所示,所述训练模块200,包括:训练数据获取单元210,用于获取训练数据,所述训练数据包括被标注为正常交易的多次训练交易数据、训练待检测交易数据,以及,所述训练待检测交易数据是否属于交易异常的真实值;训练向量构造单元220,用于基于所述被标注为正常交易的多次训练交易数据,生成训练正常交易特征向量;训练全局语义理解单元230,用于将所述训练待检测交易数据中的多个数据项通过所述包含嵌入层的上下文编码器以得到多个训练交易上下文语义特征向量;训练级联单元240,用于将所述多个训练交易上下文语义特征向量进行级联以得到训练第一尺度交易语义特征向量;训练混合卷积单元250,用于将所述多个训练交易上下文语义特征向量进行二维排列为训练交易上下文语义特征矩阵后通过所述包含多个混合卷积层的卷积神经网络模型以得到训练第二尺度交易语义特征向量;训练融合单元260,用于融合所述训练第一尺度交易语义特征向量和所述训练第二尺度交易语义特征向量以得到训练待检测交易特征向量;训练关联单元270,用于计算所述训练待检测交易特征向量与所述训练正常交易特征向量之间的转移矩阵作为训练分类特征矩阵;分类损失函数值生成单元280,用于将所述训练分类特征矩阵通过所述分类器以得到分类损失函数值;以及,训练单元290,用于基于所述分类损失函数值并通过梯度下降的方向传播来对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,基于远程迁移矩阵和惩罚向量对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代。
这里,本领域技术人员可以理解,上述基于交易模式识别的异常交易检测系统100中的各个单元和模块的具体功能和操作已经在上面参考图1到图4的基于交易模式识别的异常交易检测方法的描述中得到了详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的基于交易模式识别的异常交易检测系统 100可以实现在各种终端设备中,例如用于基于交易模式识别的异常交易检测的服务器等。在一个示例中,根据本申请实施例的基于交易模式识别的异常交易检测系统 100可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该基于交易模式识别的异常交易检测系统100可以是该终端设备的操作系统中的一个软件模块,或者可以是针对于该终端设备所开发的一个应用程序;当然,该基于交易模式识别的异常交易检测系统 100同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该基于交易模式识别的异常交易检测系统 100与该终端设备也可以是分立的设备,并且该基于交易模式识别的异常交易检测系统 100可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
Claims (6)
1.一种基于交易模式识别的异常交易检测方法,其特征在于,包括:
获取被标注为正常交易的多次交易数据;
基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;
获取待检测交易数据;
将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;
将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;
将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;
融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;
计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及
将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常;
其中,所述将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量,包括:
将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量;以及
将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量;
其中,所述将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量,包括:
通过所述上下文编码器的嵌入层分别将所述各个数据项中的文本数据映射为词嵌入向量;以及
将所述各个数据项中的数值数据添加到所述各个数据项的词嵌入向量的尾部以得到所述数据项嵌入向量;
其中,所述将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量,包括:
将所述多个数据项嵌入向量排列为输入向量;
将所述输入向量分别通过可学习嵌入矩阵转化为查询向量和关键向量;
计算所述查询向量和所述关键向量的转置向量之间的乘积以得到自注意关联矩阵;
对所述自注意关联矩阵进行标准化处理以得到标准化自注意关联矩阵;
将所述标准化自注意关联矩阵输入Softmax激活函数进行激活以得到自注意力特征矩阵;以及
将所述自注意力特征矩阵与以所述多个数据项嵌入向量中各个数据项嵌入向量作为值向量分别进行相乘以得到所述多个交易上下文语义特征向量;
其中,所述计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵,包括:
以如下公式计算所述待检测交易特征向量与所述正常交易特征向量之间的所述转移矩阵作为所述分类特征矩阵;
其中,所述公式为:
=
其中表示所述待检测交易特征向量,表示所述正常交易特征向量,表示所述转移矩阵,表示矩阵与向量相乘。
2.根据权利要求1所述的基于交易模式识别的异常交易检测方法,其特征在于,所述将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量,包括:
使用所述卷积神经网络模型的各个混合卷积层在层的正向传递中分别对输入数据进行:
对输入数据进行多尺度卷积编码以得到多尺度卷积特征图;
将所述多尺度卷积特征图进行池化处理以得到池化特征图;以及
对所述池化特征图进行激活处理以得到激活特征图;
其中,所述卷积神经网络模型的最后一个混合卷积层的输出为所述第二尺度交易语义特征向量。
3.根据权利要求2所述的基于交易模式识别的异常交易检测方法,其特征在于,所述将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常,包括:
使用所述分类器以如下公式对所述分类特征矩阵进行处理以得到所述分类结果;
其中,所述公式为:,其中表示将所述分类特征矩阵投影为向量,至为各层全连接层的权重矩阵,至表示各层全连接层的偏置向量。
4.根据权利要求1所述的基于交易模式识别的异常交易检测方法,其特征在于,还包括训练步骤:对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练;
所述训练步骤,包括:
获取训练数据,所述训练数据包括被标注为正常交易的多次训练交易数据、训练待检测交易数据,以及,所述训练待检测交易数据是否属于交易异常的真实值;
基于所述被标注为正常交易的多次训练交易数据,生成训练正常交易特征向量;
将所述训练待检测交易数据中的多个数据项通过所述包含嵌入层的上下文编码器以得到多个训练交易上下文语义特征向量;
将所述多个训练交易上下文语义特征向量进行级联以得到训练第一尺度交易语义特征向量;
将所述多个训练交易上下文语义特征向量进行二维排列为训练交易上下文语义特征矩阵后通过所述包含多个混合卷积层的卷积神经网络模型以得到训练第二尺度交易语义特征向量;
融合所述训练第一尺度交易语义特征向量和所述训练第二尺度交易语义特征向量以得到训练待检测交易特征向量;
计算所述训练待检测交易特征向量与所述训练正常交易特征向量之间的转移矩阵作为训练分类特征矩阵;
将所述训练分类特征矩阵通过所述分类器以得到分类损失函数值;以及
基于所述分类损失函数值并通过梯度下降的方向传播来对所述包含嵌入层的上下文编码器、所述包含多个混合卷积层的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,基于远程迁移矩阵和惩罚向量对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代。
5.根据权利要求4所述的基于交易模式识别的异常交易检测方法,其特征在于,在所述训练的每一轮迭代中,基于所述远程迁移矩阵和所述惩罚向量以如下公式对所述训练分类特征矩阵展开后得到的训练分类特征向量进行迭代;
其中,所述公式为:
其中表示所述训练分类特征矩阵展开后得到的训练分类特征向量,表示具有可学习的参数的所述远程迁移矩阵,表示每次迭代时所述分类器的初始全连接权重矩阵,且为所述惩罚向量,表示激活函数,表示按位置加法,表示按位置减法,表示矩阵相乘,表示向量的指数运算,所述向量的指数运算表示计算以向量中各个位置的特征值为幂的自然指数函数值。
6.一种基于交易模式识别的异常交易检测系统,其特征在于,包括:
正常交易数据获取单元,用于获取被标注为正常交易的多次交易数据;
向量构造单元,用于基于所述被标注为正常交易的多次交易数据,生成正常交易特征向量;
待检测交易数据获取单元,用于获取待检测交易数据;
全局语义理解单元,用于将所述待检测交易数据中的多个数据项通过包含嵌入层的上下文编码器以得到多个交易上下文语义特征向量;
级联单元,用于将所述多个交易上下文语义特征向量进行级联以得到第一尺度交易语义特征向量;
混合卷积单元,用于将所述多个交易上下文语义特征向量进行二维排列为交易上下文语义特征矩阵后通过包含多个混合卷积层的卷积神经网络模型以得到第二尺度交易语义特征向量;
融合单元,用于融合所述第一尺度交易语义特征向量和所述第二尺度交易语义特征向量以得到待检测交易特征向量;
关联单元,用于计算所述待检测交易特征向量与所述正常交易特征向量之间的转移矩阵作为分类特征矩阵;以及
检测结果生成单元,用于将所述分类特征矩阵通过分类器以得到分类结果,所述分类结果用于表示待检测交易数据是否属于交易异常;
其中,所述全局语义理解单元,进一步用于:
将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量;以及
将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量;
其中,所述将所述待检测交易数据中的多个数据项通过所述上下文编码器的嵌入层以得到多个数据项嵌入向量,包括:
通过所述上下文编码器的嵌入层分别将所述各个数据项中的文本数据映射为词嵌入向量;以及
将所述各个数据项中的数值数据添加到所述各个数据项的词嵌入向量的尾部以得到所述数据项嵌入向量;
其中,所述将所述多个数据项嵌入向量输入所述上下文编码器以得到所述多个交易上下文语义特征向量,包括:
将所述多个数据项嵌入向量排列为输入向量;
将所述输入向量分别通过可学习嵌入矩阵转化为查询向量和关键向量;
计算所述查询向量和所述关键向量的转置向量之间的乘积以得到自注意关联矩阵;
对所述自注意关联矩阵进行标准化处理以得到标准化自注意关联矩阵;
将所述标准化自注意关联矩阵输入Softmax激活函数进行激活以得到自注意力特征矩阵;以及
将所述自注意力特征矩阵与以所述多个数据项嵌入向量中各个数据项嵌入向量作为值向量分别进行相乘以得到所述多个交易上下文语义特征向量;
其中,所述关联单元,进一步用于:
以如下公式计算所述待检测交易特征向量与所述正常交易特征向量之间的所述转移矩阵作为所述分类特征矩阵;
其中,所述公式为:
=
其中表示所述待检测交易特征向量,表示所述正常交易特征向量,表示所述转移矩阵,表示矩阵与向量相乘。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211402727.3A CN115456789B (zh) | 2022-11-10 | 2022-11-10 | 基于交易模式识别的异常交易检测方法及其系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211402727.3A CN115456789B (zh) | 2022-11-10 | 2022-11-10 | 基于交易模式识别的异常交易检测方法及其系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115456789A CN115456789A (zh) | 2022-12-09 |
CN115456789B true CN115456789B (zh) | 2023-04-07 |
Family
ID=84295724
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211402727.3A Active CN115456789B (zh) | 2022-11-10 | 2022-11-10 | 基于交易模式识别的异常交易检测方法及其系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115456789B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115641045A (zh) * | 2022-12-23 | 2023-01-24 | 河南新飞电器集团有限公司 | 一种冷链运输远程监控系统 |
CN115775116B (zh) * | 2023-02-13 | 2023-04-28 | 华设设计集团浙江工程设计有限公司 | 基于bim的路桥工程管理方法及系统 |
CN116108143B (zh) * | 2023-04-10 | 2023-07-04 | 长春财经学院 | 基于区块链技术的数字经济监测方法及其系统 |
CN116843345A (zh) * | 2023-08-30 | 2023-10-03 | 深圳市艾德网络科技发展有限公司 | 基于人工智能技术对客户交易的智能风控系统及方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108960833A (zh) * | 2018-08-10 | 2018-12-07 | 哈尔滨工业大学(威海) | 一种基于异构金融特征的异常交易识别方法,设备及存储介质 |
CN114862587A (zh) * | 2022-05-27 | 2022-08-05 | 中国工商银行股份有限公司 | 异常交易账户的识别方法、装置及计算机可读存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8869174B2 (en) * | 2012-12-05 | 2014-10-21 | Mckesson Financial Holdings | Method and apparatus for providing context aware logging |
US11218498B2 (en) * | 2018-09-05 | 2022-01-04 | Oracle International Corporation | Context-aware feature embedding and anomaly detection of sequential log data using deep recurrent neural networks |
US11153332B2 (en) * | 2018-12-10 | 2021-10-19 | Bitdefender IPR Management Ltd. | Systems and methods for behavioral threat detection |
CN111062490B (zh) * | 2019-12-13 | 2022-04-05 | 支付宝(杭州)信息技术有限公司 | 一种包含隐私数据的网络数据的处理、识别方法及装置 |
-
2022
- 2022-11-10 CN CN202211402727.3A patent/CN115456789B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108960833A (zh) * | 2018-08-10 | 2018-12-07 | 哈尔滨工业大学(威海) | 一种基于异构金融特征的异常交易识别方法,设备及存储介质 |
CN114862587A (zh) * | 2022-05-27 | 2022-08-05 | 中国工商银行股份有限公司 | 异常交易账户的识别方法、装置及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115456789A (zh) | 2022-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115456789B (zh) | 基于交易模式识别的异常交易检测方法及其系统 | |
CN105426356B (zh) | 一种目标信息识别方法和装置 | |
Wang et al. | LightLog: A lightweight temporal convolutional network for log anomaly detection on the edge | |
CN116010713A (zh) | 基于云计算的创新创业平台服务数据处理方法及系统 | |
CN115618296B (zh) | 一种基于图注意力网络的大坝监测时序数据异常检测方法 | |
CN116247824B (zh) | 电力设备的控制方法及其系统 | |
CN116308754B (zh) | 一种银行信贷风险预警系统及其方法 | |
CN116245513B (zh) | 基于规则库的自动化运维系统及其方法 | |
CN116086790B (zh) | 氢燃料电池高压阀的性能检测方法及其系统 | |
CN116309580B (zh) | 基于磁应力的油气管道腐蚀检测方法 | |
CN116257406A (zh) | 用于智慧城市的网关数据管理方法及其系统 | |
CN115951883B (zh) | 分布式微服务架构的服务组件管理系统及其方法 | |
CN115759658A (zh) | 适用于智慧城市的企业能耗数据管理系统 | |
CN111522953B (zh) | 一种针对朴素贝叶斯分类器的边际攻击方法、装置及存储介质 | |
CN114896386A (zh) | 基于BiLSTM的电影评论语义情感分析方法及系统 | |
CN110705694A (zh) | 基于特征提取的面向边缘数据中心的窃电监测方法 | |
CN115374845A (zh) | 商品信息推理方法和装置 | |
CN116373732A (zh) | 车辆指示灯的控制方法及系统 | |
CN113128196A (zh) | 文本信息处理方法及其装置、存储介质 | |
CN116992304A (zh) | 基于人工智能的政策匹配分析系统及其方法 | |
CN117231590A (zh) | 液压系统的故障预测系统及其方法 | |
CN116089605A (zh) | 基于迁移学习和改进词袋模型的文本情感分析方法 | |
Zhao et al. | Hypergraph learning with cost interval optimization | |
CN116127019A (zh) | 动态参数与可视化模型生成web 2d自动建模引擎系统 | |
CN110717037A (zh) | 对用户分类的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |