CN113886343A - 交易数据异常监控方法、系统、设备及介质 - Google Patents
交易数据异常监控方法、系统、设备及介质 Download PDFInfo
- Publication number
- CN113886343A CN113886343A CN202111150543.8A CN202111150543A CN113886343A CN 113886343 A CN113886343 A CN 113886343A CN 202111150543 A CN202111150543 A CN 202111150543A CN 113886343 A CN113886343 A CN 113886343A
- Authority
- CN
- China
- Prior art keywords
- transaction
- log
- data
- log data
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 70
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000014509 gene expression Effects 0.000 claims abstract description 29
- 238000013507 mapping Methods 0.000 claims abstract description 18
- 238000004590 computer program Methods 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 11
- 230000011218 segmentation Effects 0.000 claims description 10
- 230000005856 abnormality Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 9
- 230000000007 visual effect Effects 0.000 claims description 3
- 230000032683 aging Effects 0.000 abstract description 24
- 238000004140 cleaning Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000006978 adaptation Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013079 data visualisation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
- G06F11/3072—Monitoring arrangements determined by the means or processing involved in reporting the monitored data where the reporting involves data filtering, e.g. pattern matching, time or event triggered, adaptive or policy-based reporting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明涉及安全监控领域,提供了一种交易数据异常监控方法,所述方法包括:接收交易系统提供的日志数据,所述日志数据为交易系统在执行交易时所产生的数据;通过预设关键词匹配规则判断日志数据中是否存在预设关键词;如果所述日志数据中存在预设关键词,则判断日志数据是否符合预设映射表中的正则表达式;将符合正则表达式的日志数据确定为待提取的目标日志数据;从目标日志数据中提取交易流水号和日志时间戳;及根据所述交易流水号和所述日志时间戳,判断日志数据对应的目标交易是否存在交易异常。本发明提高了交易时效数据的获取效率,解决了现有交易时效的监控方法对代码逻辑及数据结构或对交易系统的逻辑的依赖性强的问题。
Description
技术领域
本发明实施例涉及安全监控领域,尤其涉及一种交易数据异常监控方法、系统、设备及介质。
背景技术
交易的时效会影响到客户的用户体验,一般时效越差,客户体验就越差。对交易时效的关注及快速响应,对提高客户体验有重要作用。目前,对于交易和交易对应的交易时效的监控主要包括两种:一种是基于交易系统数据库交易订单数据的时效监控,由于交易系统数据库的数据是实时的,因此该监控技术有实时性高的优点。而且时效数据可以通过简单的适配可以得出,监控系统的逻辑会很简单;其缺点是对交易系统的代码逻辑及数据结构有强依赖;如果交易系统没有自主记录交易环节时效信息的逻辑,数据库没有记录交易环节时效信息的字段,则无法实现相应环节的时效监控。另一种是基于交易系统在各个交易环节广播的消息来实现交易订单时效的监控,由于交易系统广播消息是实时的,监控系统监听消息是异步的,该监控技术是准实时的;其缺点是依赖交易环节所广播的消息,如果交易环节没有广播消息则无法实现相应环节的监控,即对交易系统的逻辑有强依赖。
因此,如何解决现有交易时效的监控方法对代码逻辑及数据结构或对交易系统的逻辑的依赖性强的技术问题,成为了目前亟需解决的技术问题。
发明内容
有鉴于此,有必要提供一种交易数据异常监控方法、系统、设备及可读存储介质,以解决现有交易时效监控方法对交易系统的代码逻辑和数据结构依赖性强的技术问题。
为实现上述目的,本发明实施例提供了一种交易数据异常监控方法,所述方法步骤包括:
接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据;
通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词;
如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式;
将符合所述正则表达式的日志数据确定为待提取的目标日志数据;
从所述目标日志数据中提取交易流水号和日志时间戳;及
根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
可选的,所述预设关键词匹配规则包括基于预先配置的关键词列表的匹配规则,所述通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词的步骤,包括:
从所述日志数据中提取多个日志关键词;及
通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词,其中,所述关键词列表中包括预先配置的多个预设关键词。
可选的,所述通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词的步骤,包括:
分别计算每个日志关键词与所述关键词列表中各个预设关键词的匹配度,得到每个日志关键词对应的多个匹配值;及
根据各个日志关键词所对应的多个匹配值和预设匹配值判断多个日志关键词中否存在所述预设关键词。
可选的,所述从所述日志数据中提取多个日志关键词的步骤,包括:
将所述日志数据导入停止词库,以得到不包括预设停止词的日志数据,其中,所述停止词库中包括多个预设停止词;及
对所述目标日志数据进行分词处理,以得到多个日志关键词。
可选的,所述交易异常包括交易超时;所述根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常的步骤,包括:
根据所述交易流水号确定所述目标交易的交易类型;
根据所述日志时间戳计算所述目标交易的交易时长;及
根据所述交易类型和所述交易时长判断所述目标交易是否交易超时。
可选的,所述根据所述交易类型和所述交易时长判断所述目标交易是否交易超时的步骤,包括:
根据所述交易类型获取所述目标交易对应的交易时长阈值,其中,每种交易类型预先配置有一个对应的交易时长阈值;及
根据所述交易时长阈值和所述交易时长判断所述目标交易是否交易超时。
可选的,还包括:
对所述交易流水号和所述交易时长进行可视化处理,以得到所述目标交易对应的交易时长表,并将所述交易流水号和所述日志时间戳上传到区块链。
为实现上述目的,本发明实施例还提供了一种交易数据异常监控系统,包括:
数据接收模块,用于接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据;
第一判断模块,用于通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词;
第二判断模块,用于如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式;
第一提取模块,用于将符合所述正则表达式的日志数据确定为待提取的目标日志数据;
第二提取模块,用于从所述目标日志数据中提取交易流水号和日志时间戳;及
第三判断模块,用于根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
为实现上述目的,本发明实施例还提供了一种计算机设备,所述计算机设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被处理器执行时实现如上述的交易数据异常监控方法的步骤。
为实现上述目的,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序可被至少一个处理器所执行,以使所述至少一个处理器执行如上述的交易数据异常监控方法的步骤。
本发明实施例提供的交易数据异常监控方法、系统、计算机设备及计算机可读存储介质,本实施例通过所述关键词列表和所述预设映射表对所述日志数据进行先后两次数据清洗,以从所述日志数据中获取所述交易流水号和所述日志时间戳,提高了交易时效数据的获取效率,且无需依赖所需要的监控的目标系统,具有可移植性强的特点,解决了现有交易时效的监控方法对代码逻辑及数据结构或对交易系统的逻辑的依赖性强的问题。
附图说明
图1为本发明实施例交易数据异常监控方法的流程示意图;
图2为本发明交易数据异常监控系统实施例二的程序模块示意图;
图3为本发明计算机设备实施例三的硬件结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在本发明中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
实施例一
参阅图1,示出了本发明实施例之交易数据异常监控方法的步骤流程图。可以理解,本方法实施例中的流程图不用于对执行步骤的顺序进行限定。本实施例中的交易数据异常监控系统可以被执行在计算机设备2中,下面以计算机设备2为执行主体进行示例性描述。具体如下。
步骤S100,接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据。
所述交易系统在执行交易时所产生的数据可以是交易时间、日志时间戳、交易流水号等。计算机设备2可以接收所述交易系统提供的日志数据。
需要说明的是,所述交易系统的交易操作通常都是快速响应的,当一条交易的交易时长过长,则该条交易可能存在异常。所以交易系统会为每条交易配置对应的交易时效,并通过对交易进行监控,当超过该条交易对应的交易时效时,发出警告,以提醒用户。
目前,对于交易和交易对应的交易时效的监控主要包括两种:一种是基于交易系统数据库交易订单数据的时效监控,由于交易系统数据库的数据是实时的,因此该监控技术有实时性高的优点。而且时效数据可以通过简单的适配可以得出,监控系统的逻辑会很简单;其缺点是对交易系统的代码逻辑及数据结构有强依赖;如果交易系统没有自主记录交易环节时效信息的逻辑,数据库没有记录交易环节时效信息的字段,则无法实现相应环节的时效监控。另一种是基于交易系统在各个交易环节广播的消息来实现交易订单时效的监控,由于交易系统广播消息是实时的,监控系统监听消息是异步的,该监控技术是准实时的;其缺点是依赖交易环节所广播的消息,如果交易环节没有广播消息则无法实现相应环节的监控,即对交易系统的逻辑有强依赖。
为了解决现有交易时效的监控方法对代码逻辑及数据结构或对交易系统的逻辑的依赖性强的技术问题,本实施例提供可以对接收到的日志数据进行以下几步操作,具体操作步骤如下:
步骤S102,通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词。
当得到所述日志数据后,计算机设备2可以从所述日志数据中提出交易环节相关的时间信息,如日志时间戳、交易时间等数据;但是,由于所述交易系统在执行交易时所产生的数据除了日志时间戳、交易时间还有其他数据,为了提高从所述日志数据中获取交易环节相关的时间数据的效率,计算机设备2可以通过判断所述日志数据中是否存在预设关键词,来过滤掉不可能为交易环节相关的时间数据的日志数据。本实施例通过过滤掉不可能为交易环节相关的时间数据的日志数据,提高了获取交易环节相关的时间数据的效率。
在示例性的实施例中,所述预设关键词匹配规则包括基于预先配置的关键词列表的匹配规则,所述步骤S102还可以包括步骤S200~步骤S202,其中:步骤S200,从所述日志数据中提取多个日志关键词;及步骤S202,通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词,其中,所述关键词列表中包括预先配置的多个预设关键词。本市实施例通过预先配置所述关键词列表,以通过所述关键词列表中的多个预设关键词判断所述日志数据中是否存在预设关键词,提高了滤掉不可能为交易环节相关的时间数据的日志数据的效率。
在一些实施例中,在接收到所述日志数据后,计算机设备2可以通过预先配置的分割词词典对所述日志数据进行分词操作,以得到多个分词;然后通过预先配置的忽略词词典对所述多个分词进行筛选操作,以从所述多个分词中选择多个日志关键词,最后通过预先配置的多个日志关键词判断所述多个关键词中是否存在预设关键词。本实施例通过对日志数据的分词进行筛选操作,然后通过所述关键词列表匹配所述多个日志关键词,降低了日志关键词匹配的复杂度,减少了日志关键词匹配时间,提高了匹配效率。
为了方便理解,本实施例提供了一个日志数据的关键词提取的实例:对“/^\d{4}-\d{2}-\d{2}\d{2}:\d{2}:\d{2}\d{3}.+trading place order start\(serial=\d+\)$/”进行关键词提取可以得到:“trading”、“order”、“serial”;对“2021-06-09 09:15:59 375[INFO][threadName][codeName]trading place order start(serial=1234567890)”进行关键词提取可以得到:“2021-06-09 09:15:59 375[INFO][threadName][codeName]”。
在示例性的实施例中,所述步骤S200还可以包括步骤S300~步骤S302,其中:步骤S300,将所述日志数据导入停止词库,以得到不包括预设停止词的日志数据,其中,所述停止词库中包括多个预设停止词;及步骤S302,对所述目标日志数据进行分词处理,以得到多个日志关键词。为了进一步地提高滤掉不可能为交易环节相关的时间数据的日志数据的效率,计算机设备2还可以通过预先配置停止词库以减少所述日志数据中需要判断的词语,本实施例通过预先配置的停止词库减少了所述日志数据中需要判断的词语,进一步地提高滤掉不可能为交易环节相关的时间数据的日志数据的效率。在一些实施例中,所述多个日志关键词的获取还可以通过开源库jieba,MIT License(开源许可证)等组件完成,具体可以包括以下步骤:步骤1、将所述日志数据导入停止词库,其中,所述停止词库可以是现有的词库,也可以是根据所述日志数据对应的关键词进行差异化配置和测试得到的词库;步骤2、通过jieba的cut函数对所述基础数据进行分词;步骤3、对分词后的每个词进行处理,如果含有停止词则放弃此分词的处理,以得到多个日志关键词。
在示例性的实施例中,所述步骤S202还可以包括步骤S400~步骤S402,其中:步骤S400,分别计算每个日志关键词与所述关键词列表中各个预设关键词的匹配度,得到每个日志关键词对应的多个匹配值;及步骤S402,根据各个日志关键词所对应的多个匹配值和预设匹配值判断多个日志关键词中否存在所述预设关键词。需要说明的是,所述关键词列表是无法列举到所有的关键词的,所以只是通过所述关键词列表进行简单的关键字词匹配,必然会有许多现实的词语无法匹配到,为了提高匹配效果本实施例可以通过余弦相识度算法计算每个日志关键词与所述关键词列表中各个预设关键词的匹配度,并根据各个日志关键词所对应的多个匹配值和预设匹配值判断多个日志关键词中否存在所述预设关键词,提高了关键词的匹配范围和匹配效果。
步骤S104,如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式。
如果所述日志数据中存在所述预设关键词,计算机设备2可以通过预先配置的预设映射表对所述日志数据对应的正则表达式进行匹配操作,以判断所述预设映射表中是否有所述正则表达式匹配的目标正则表达式,如果所述预设映射表中有所述正则表达式匹配的目标正则表达式,则说明所述预设映射表中存在与所述日志数据对应的目标正则表达式。所述正则表达式由普通字符和元字符组成,可以在文本编辑器或其他工具里,用于检索和/或替换一些符合某个模式的文本内容;其中,普通字符可以是阿拉伯数字和大小写的英文字母,元字符可以是具有特殊的含义的字符,例如以下11个文字字符:“[”、“]”、“\”、“^”、“$”、“.”、“|”、“?”、“*”、“+”、“(”、“)”。
步骤S106,将符合所述正则表达式的日志数据确定为待提取的目标日志数据。
为了方便理解,本实施例提供了一个日志数据的正则表达式匹配的实例:所述预设映射表包括目标正则表达式“/^\d{4}-\d{2}-\d{2}\d{2}:\d{2}:\d{2}\d{3}.+tradingplace order start\(serial=\d+\)$/”,当所述日志数据与所述目标正则表达匹配时,则定位到了相关交易环节。例如,日志数据“2021-06-09 09:15:59375[INFO][threadName][codeName]trading place order start(serial=1234567890)”,存在所述目标正则表达式。而日志数据“2021-06-0909:15:59 375[INFO][threadName][codeName]nice to meetyou”,不存在所述目标正则表达式。
步骤S108,从所述目标日志数据中提取交易流水号和日志时间戳。
当确定所述日志数据存在所述目标正则表达式,则可以从日志中可以提取出该日志的打印时间“2021-06-09 09:15:59 375”及参数“1234567890”。其中,日志打印时间“2021-06-09 09:15:59 375”即交易相应环节的发生时间,“1234567890”是交易流水号。
本实施例通过所述关键词列表和所述预设映射表对所述日志数据进行先后两次数据清洗,以从所述日志数据中获取所述交易流水号和所述日志时间戳,提高了交易时效数据的获取效率,且无需依赖所需要的监控的目标系统,具有可移植性强的特点,解决了现有交易时效的监控方法对代码逻辑及数据结构或对交易系统的逻辑的依赖性强的问题。
步骤S110,根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
当得到所述日志时间戳后,计算机设备2可以根据所述日志时间戳计算所述日志数据所对应的交易环节的耗时数据,例如,交易有两个环节,环节1的日志时间戳是“2021-06-09 09:15:20 275”,环节2的时间戳是“2021-06-0909:15:35 300”,则交易从环节1到环节2的耗时就是15秒25毫秒。在本实施例中,计算机设备2还可以将所述交易流水号和所述日志时间戳存储到数据库中。当得到所述日志数据所对应的交易环节的其他日志数后,计算机设备2还可以根据所述日志数据和交易环节的其他日志数后判断交易是否超时,若超时则生成预警信息。
在示例性的实施例中,所述交易异常包括交易超时;所述步骤S110还可以包括步骤S500~步骤S504,其中:步骤S500,根据所述交易流水号确定所述目标交易的交易类型;步骤S502,根据所述日志时间戳计算所述目标交易的交易时长;及步骤S504,根据所述交易类型和所述交易时长判断所述目标交易是否交易超时。为了提高判断所述日志数据对应的目标交易是否存在交易异常的效率,计算机设备2还可以先确定所述目标交易的交易类型和所述目标交易的交易时长(即,交易环节的耗时数据),根据所述交易类型和所述交易时长判断所述目标交易是否交易超时。本实施例通过先确定所述目标交易的交易类型和所述目标交易的交易时长(即,交易环节的耗时数据),提高了交易异常判断效率。
在示例性的实施例中,所述步骤S504还可以包括步骤S600~步骤S602,其中:步骤S600,根据所述交易类型获取所述目标交易对应的交易时长阈值,其中,每种交易类型预先配置有一个对应的交易时长阈值;及步骤S602,根据所述交易时长阈值和所述交易时长判断所述目标交易是否交易超时。例如,所述交易时长阈值可以配置为10秒,若所述交易时长超过10秒,所述目标交易的交易超时。当所述目标交易出现交易超时的情况,计算机设备2可以生成预警信息,并发送给监控人员。本实施例通过配置交易时长阈值,并通过交易时长阈值判断所述目标交易是否交易超时,以便当所述目标交易超时可以及时发送通知到相关人员,提高了安全性。
本实施例通过对所述日志数据进行先后两次数据清洗:1、通过判断所述日志数据中是否存在预设关键词,清洗过滤没有的存在预设关键词的日志数据;2、通过判断所述日志数据在预设映射表中是否存在对应的正则表达式,清洗过滤不相关的日志数据,以从所述日志数据中获取所述交易流水号和所述日志时间戳;通过先后两次数据清洗缩小了交易异常的检测范围,提高了检测效率。且无需依赖交易系统,具有可移植性强的特点,应用范围大;当应用到新的交易系统时,只需要调整清洗模型即可实现与不同交易系统的适配,无需对新的交易系统做逻辑变更等操作,可以实现对交易系统逻辑的零侵入;当交易时效发生恶化后,可以生成预警信息并及时发送通知到相关人员,提高了安全性。
本实施例通过对所述日志数据进行先后两次数据清洗:1、通过判断所述日志数据中是否存在预设关键词,清洗过滤没有的存在预设关键词的日志数据;2、通过判断所述日志数据在预设映射表中是否存在对应的正则表达式,清洗过滤不相关的日志数据,以从所述日志数据中获取所述交易流水号和所述日志时间戳;通过先后两次数据清洗缩小了交易异常的检测范围,提高了检测效率。且无需依赖交易系统,具有可移植性强的特点,应用范围大;当应用到新的交易系统时,只需要调整清洗模型即可实现与不同交易系统的适配,无需对新的交易系统做逻辑变更等操作,可以实现对交易系统逻辑的零侵入;当交易时效发生恶化后,可以生成预警信息并及时发送通知到相关人员,提高了安全性。
在示例性的实施例中,所述的交易数据异常监控方法,还包括步骤S700:对所述交易流水号和所述交易时长进行可视化处理,以得到所述目标交易对应的交易时长表,并将所述交易流水号和所述日志时间戳上传到区块链。本实施例还可以使用数据可视化技术,将数据库中的交易耗时数据进行,以便方便监控人员进行查看。
示例性的,将所述交易流水号和所述日志时间戳上传至区块链可保证其安全性和公正透明性。本示例所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
实施例二
图2为本发明交易数据异常监控系统实施例二的程序模块示意图。交易数据异常监控系统20可以包括或被分割成一个或多个程序模块,一个或者多个程序模块被存储于存储介质中,并由一个或多个处理器所执行,以完成本发明,并可实现上述交易数据异常监控方法。本发明实施例所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序本身更适合于描述交易数据异常监控系统20在存储介质中的执行过程。以下描述将具体介绍本实施例各程序模块的功能:
数据接收模块200,用于接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据;
第一判断模块202,用于通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词。
第二判断模块204,用于如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式。
第一提取模块206,用于将符合所述正则表达式的日志数据确定为待提取的目标日志数据。
第二提取模块208,用于从所述目标日志数据中提取交易流水号和日志时间戳。
第三判断模块210,用于根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
示例性的,所述第一判断模块202,还用于:从所述日志数据中提取多个日志关键词;及通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词,其中,所述关键词列表中包括预先配置的多个预设关键词。
示例性的,所述第一判断模块202,还用于:将所述日志数据导入停止词库,以得到不包括预设停止词的日志数据,其中,所述停止词库中包括多个预设停止词;及对所述目标日志数据进行分词处理,以得到多个日志关键词。
示例性的,所述第一判断模块202,还用于:分别计算每个日志关键词与所述关键词列表中各个预设关键词的匹配度,得到每个日志关键词对应的多个匹配值;及根据各个日志关键词所对应的多个匹配值和预设匹配值判断多个日志关键词中否存在所述预设关键词。
示例性的,所述交易异常包括交易超时;所述第三判断模块210,还用于:根据所述交易流水号确定所述目标交易的交易类型;根据所述日志时间戳计算所述目标交易的交易时长;及根据所述交易类型和所述交易时长判断所述目标交易是否交易超时。
示例性的,所述第三判断模块210,还用于:根据所述交易类型获取所述目标交易对应的交易时长阈值,其中,每种交易类型预先配置有一个对应的交易时长阈值;及根据所述交易时长阈值和所述交易时长判断所述目标交易是否交易超时。
示例性的,所述交易数据异常监控系统20还包括,可视化模块,所述可视化模块,用于对所述交易流水号和所述交易时长进行可视化处理,以得到所述目标交易对应的交易时长表,并将所述交易流水号和所述日志时间戳上传到区块链。
实施例三
参阅图3,是本发明实施例三之计算机设备的硬件架构示意图。本实施例中,计算机设备2是一种能够按照事先设定或者存储的指令,自动进行数值计算和/或信息处理的设备。该计算机设备2可以是机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器,或者多个服务器所组成的服务器集群)等。如图所示,计算机设备2至少包括,但不限于,可通过系统总线相互通信连接存储器21、处理器22、网络接口23、以及交易数据异常监控系统20。
本实施例中,存储器21至少包括一种类型的计算机可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器21可以是计算机设备2的内部存储单元,例如该计算机设备2的硬盘或内存。在另一些实施例中,存储器21也可以是计算机设备2的外部存储设备,例如该计算机设备2上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,存储器21还可以既包括计算机设备2的内部存储单元也包括其外部存储设备。本实施例中,存储器21通常用于存储安装于计算机设备2的操作系统和各类应用软件,例如实施例二的交易数据异常监控系统20的程序代码等。此外,存储器21还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器22在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器22通常用于控制计算机设备2的总体操作。本实施例中,处理器22用于运行存储器21中存储的程序代码或者处理数据,例如运行交易数据异常监控系统20,以实现实施例一的交易数据异常监控方法。
所述网络接口23可包括无线网络接口或有线网络接口,该网络接口23通常用于在计算机设备2与其他电子装置之间建立通信连接。例如,所述网络接口23用于通过网络将计算机设备2与外部终端相连,在计算机设备2与外部终端之间的建立数据传输通道和通信连接等。所述网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communicatI/On,GSM)、宽带码分多址(Wideband CodeDivisI/On Multiple Access,WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是,图3仅示出了具有部件20-23的计算机设备2,但是应理解的是,并不要求实施所有示出的部件,可以替代的实施更多或者更少的部件。
在本实施例中,存储于存储器21中的交易数据异常监控系统20还可以被分割为一个或者多个程序模块,所述一个或者多个程序模块被存储于存储器21中,并由一个或多个处理器(本实施例为处理器22)所执行,以完成本发明。
例如,图2示出了本发明实施例二之所述实现交易数据异常监控系统20的程序模块示意图,该实施例中,所述交易数据异常监控系统20可以被划分为数据接收模块200、第一判断模块202、第二判断模块204、第一提取模块206第二提取模块208和第三判断模块210。其中,本发明所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序更适合于描述所述交易数据异常监控系统20在计算机设备2中的执行过程。所述程序模块200-210的具体功能在实施例二中已有详细描述,在此不再赘述。
实施例四
本实施例还提供一种计算机可读存储介质,如闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等等,其上存储有计算机程序,程序被处理器执行时实现相应功能。本实施例的计算机可读存储介质交易数据异常监控系统20,被处理器执行时实现实施例一的交易数据异常监控方法。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种交易数据异常监控方法,其特征在于,所述方法包括:
接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据;
通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词;
如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式;
将符合所述正则表达式的日志数据确定为待提取的目标日志数据;
从所述目标日志数据中提取交易流水号和日志时间戳;及
根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
2.如权利要求1所述的交易数据异常监控方法,其特征在于,所述预设关键词匹配规则包括基于预先配置的关键词列表的匹配规则,所述通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词的步骤,包括:
从所述日志数据中提取多个日志关键词;及
通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词,其中,所述关键词列表中包括预先配置的多个预设关键词。
3.如权利要求2所述的交易数据异常监控方法,其特征在于,所述从所述日志数据中提取多个日志关键词的步骤,包括:
将所述日志数据导入停止词库,以得到不包括预设停止词的日志数据,其中,所述停止词库中包括多个预设停止词;及
对所述目标日志数据进行分词处理,以得到多个日志关键词。
4.如权利要求2所述的交易数据异常监控方法,其特征在于,所述通过所述关键词列表对所述多个日志关键词进行关键词匹配,并根据所述多个日志关键词的关键词匹配结果判断多个日志关键词中否存在所述预设关键词的步骤,包括:
分别计算每个日志关键词与所述关键词列表中各个预设关键词的匹配度,得到每个日志关键词对应的多个匹配值;及
根据各个日志关键词所对应的多个匹配值和预设匹配值判断多个日志关键词中否存在所述预设关键词。
5.如权利要求1所述的交易数据异常监控方法,其特征在于,所述交易异常包括交易超时;所述根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常的步骤,包括:
根据所述交易流水号确定所述目标交易的交易类型;
根据所述日志时间戳计算所述目标交易的交易时长;及
根据所述交易类型和所述交易时长判断所述目标交易是否交易超时。
6.如权利要求5所述的交易数据异常监控方法,其特征在于,所述根据所述交易类型和所述交易时长判断所述目标交易是否交易超时的步骤,包括:
根据所述交易类型获取所述目标交易对应的交易时长阈值,其中,每种交易类型预先配置有一个对应的交易时长阈值;及
根据所述交易时长阈值和所述交易时长判断所述目标交易是否交易超时。
7.如权利要求5所述的交易数据异常监控方法,其特征在于,还包括:
对所述交易流水号和所述交易时长进行可视化处理,以得到所述目标交易对应的交易时长表,并将所述交易流水号和所述日志时间戳上传到区块链。
8.一种交易数据异常监控系统,其特征在于,包括:
数据接收模块,用于接收交易系统提供的日志数据,所述日志数据为所述交易系统在执行交易时所产生的数据;
第一判断模块,用于通过预设关键词匹配规则判断所述日志数据中是否存在预设关键词;
第二判断模块,用于如果所述日志数据中存在所述预设关键词,则判断所述日志数据是否符合预设映射表中的正则表达式;
第一提取模块,用于将符合所述正则表达式的日志数据确定为待提取的目标日志数据;
第二提取模块,用于从所述目标日志数据中提取交易流水号和日志时间戳;及
第三判断模块,用于根据所述交易流水号和所述日志时间戳,判断所述日志数据对应的目标交易是否存在交易异常,若存在所述交易异常则生成异常预警信息并返回到所述交易系统。
9.一种计算机设备,所述计算机设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的交易数据异常监控方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序可被至少一个处理器所执行,以使所述至少一个处理器执行如权利要求1至7中任一项所述的交易数据异常监控方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111150543.8A CN113886343A (zh) | 2021-09-29 | 2021-09-29 | 交易数据异常监控方法、系统、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111150543.8A CN113886343A (zh) | 2021-09-29 | 2021-09-29 | 交易数据异常监控方法、系统、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113886343A true CN113886343A (zh) | 2022-01-04 |
Family
ID=79007887
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111150543.8A Pending CN113886343A (zh) | 2021-09-29 | 2021-09-29 | 交易数据异常监控方法、系统、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113886343A (zh) |
-
2021
- 2021-09-29 CN CN202111150543.8A patent/CN113886343A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111177129B (zh) | 标签体系的构建方法、装置、设备及存储介质 | |
CN113157524B (zh) | 基于大数据的异常问题解决方法、系统、设备和存储介质 | |
CN110634021A (zh) | 基于大数据的车辆估值方法、系统、设备及可读存储介质 | |
CN111580874B (zh) | 数据申请的系统安全控制方法、系统和计算机设备 | |
CN111694718A (zh) | 内网用户异常行为识别方法、装置、计算机设备及可读存储介质 | |
CN109064211B (zh) | 营销业务数据分析方法、装置及服务器 | |
CN114708717A (zh) | 一种系统监控的关联告警方法及装置 | |
CN114968959A (zh) | 日志处理方法、日志处理装置及存储介质 | |
CN111414395B (zh) | 数据处理方法、系统和计算机设备 | |
CN110618990B (zh) | 清单报表设置方法、系统及清单报表获取方法 | |
CN115774707B (zh) | 基于对象属性数据处理方法和装置、电子设备和存储介质 | |
CN111062503B (zh) | 一种电网监控告警处理方法、系统、终端及存储介质 | |
CN112181836A (zh) | 测试用例生成方法、系统、设备及存储介质 | |
CN113886343A (zh) | 交易数据异常监控方法、系统、设备及介质 | |
CN112035551A (zh) | 时间序列数据转换方法、系统、计算机设备和存储介质 | |
CN110852893A (zh) | 基于海量数据的风险识别方法、系统、设备及存储介质 | |
CN110795308A (zh) | 一种服务器检验方法、装置、设备及存储介质 | |
CN113535458B (zh) | 异常误报的处理方法及装置、存储介质、终端 | |
CN113343577B (zh) | 一种基于机器学习的参数优化方法、装置、设备及介质 | |
CN114140241A (zh) | 一种交易监控指标的异常识别方法及装置 | |
CN113297583A (zh) | 漏洞风险分析方法、装置、设备及存储介质 | |
CN113936130A (zh) | 基于ocr技术的文档信息智能获取和纠错方法、系统及设备 | |
CN113326333A (zh) | 数据处理方法、系统、计算机设备及计算机存储介质 | |
CN113220551A (zh) | 指标趋势预测及预警方法、装置、电子设备及存储介质 | |
CN112416896A (zh) | 数据异常的报警方法和装置、存储介质、电子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |