CN113485970A - 数据监控方法、装置、电子设备及存储介质 - Google Patents
数据监控方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113485970A CN113485970A CN202110729917.5A CN202110729917A CN113485970A CN 113485970 A CN113485970 A CN 113485970A CN 202110729917 A CN202110729917 A CN 202110729917A CN 113485970 A CN113485970 A CN 113485970A
- Authority
- CN
- China
- Prior art keywords
- data
- receiving end
- issued
- monitoring
- interaction request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 92
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000003993 interaction Effects 0.000 claims abstract description 82
- 238000012545 processing Methods 0.000 claims abstract description 24
- 238000012795 verification Methods 0.000 claims abstract description 7
- 230000005540 biological transmission Effects 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 12
- 238000001914 filtration Methods 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 238000012806 monitoring device Methods 0.000 abstract description 5
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000007726 management method Methods 0.000 description 5
- 230000002159 abnormal effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/1734—Details of monitoring file system events, e.g. by the use of hooks, filter drivers, logs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1004—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's to protect a block of data words, e.g. CRC or checksum
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Quality & Reliability (AREA)
- Library & Information Science (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明涉及数据处理领域,揭露了一种数据监控方法,包括:响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;对所述下发数据进行一致性校验;在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。另外,本发明还提供一种数据监控装置、电子设备以及计算机可读存储介质。此外,本发明还涉及区块链技术,所述下发数据可存储于区块链中。本发明可以实提高数据监控的准确性。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种数据监控方法、装置、电子设备及计算机可读存储介质。
背景技术
数据监控是一种监控数据流向并核实数据正确性的方法,在业务系统中,数据监控用于监控大数据跑批的过程中一些标准及规范不够严格的数据,以防止这些标准及规范不够严格的数据流入业务系统中,造成业务系统无法正常运行。
现有技术中,通常采用人工的方式核实业务系统中跑批数据是否具有差异性,以实现业务系统的数据监控,但是人工进行第一次和第二次数据的核实,很容易导致业务系统中跑批数据的遗漏或者不合规的数据流入业务系统中,从而会影响数据监控的准确性。
发明内容
本发明提供一种数据监控方法、装置、电子设备及计算机可读存储介质,其主要目的在于避免在生成批复文件时录入的数据出现错误的现象,提高批复文件的生成效率。
为实现上述目的,本发明提供的一种数据监控方法,包括:
响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
对所述下发数据进行一致性校验;
在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
可选地,响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
识别所述数据交互请求的数据交互类型,并查询所述数据交互请求的数据交互字段;
根据所述数据交互类型,生成所述数据交互请求的数据交互标识;
根据所述数据交互标识,从所述数据传送端的数据库中查询所述数据交互请求的数据表;
根据所述数据交互字段,从所述数据表中查询所述数据交互请求的下发数据。
可选地,所述对所述下发数据进行一致性校验,包括:
获取所述下发数据的历史数据,及所述历史数据的数据约束条件;
根据所述数据约束条件,识别所述历史数据的实际发送数据;
根据所述实际发送数据,执行所述下发数据的一致性校验,得到所述下发数据的一致性校验结果。
可选地,所述根据所述数据约束条件,识别所述历史数据的实际发送数据,包括:
根据所述数据约束条件,识别所述历史数据中的非法数据;
对所述历史数据中的非法数据进行过滤,得到所述历史数据的实际发送数据。
可选地,所述将所述下发数据传输至所述数据接收端,包括:
获取所述下发数据对应数据传送端的端口参数及所述数据接收端的端口参数;
根据所述数据传送端的端口参数及所述数据接收端的端口参数,配置所述数据传送端和数据接收端的数据传输通道;
根据所述数据传输通道,采用数据传输脚本将所述下发数据传输至所述数据接收端。
可选地,所述对所述数据接收端的下发数据进行依赖关系校验,包括:
获取所述下发数据的配置文件,查询所述数据接收端的服务端是否存储于所述配置文件,得到所述配置文件的查询结果;
识别所述数据接收端是否存在所述配置文件的处理单元,得到所述配置文件的识别结果;
根据所述配置文件的查询结果及识别结果,生成所述数据接收端的下发数据的依赖关系校验结果。
可选地,所述对所述数据接收端的下发数据进行异常监控,得到异常监控结果,包括:
编译所述数据接收端的下发数据的数据运行程序,将所述数据运行程序发布至数据运行环境;
利用数据监控工具对所述数据运行环境中的数据运行程序进行异常监控,得到异常监控结果。
为了解决上述问题,本发明还提供一种数据监控装置,所述装置包括:
数据拉取模块,用于响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
数据校验模块,用于对所述下发数据进行一致性校验;
所述数据校验模块,还用于在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
数据监控模块,用于在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以实现上述所述的数据监控方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个计算机程序,所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的数据监控方法。
本发明实施例首先响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据,可以保障后续数据接收端的数据监控前提,并对所述下发数据进行一致性校验,以判断出所述下发数据是否可以传输至数据接收端,可以筛选出非法或不合规数据流入至数据接收端,提高数据监控的准确性;其次,本发明实施例在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验,可以判断出所述下发数据是否在数据接收端中存在数据处理逻辑,进一步提高数据监控的准确性;进一步地,本发明实施例在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。因此,本发明提出的一种数据监控方法、装置、电子设备以及计算机可读存储介质可以提高数据监控的准确性。
附图说明
图1为本发明一实施例提供的数据监控方法的流程示意图;
图2为本发明一实施例提供的数据监控装置的模块示意图;
图3为本发明一实施例提供的实现数据监控方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种数据监控方法。所述数据监控方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述数据监控方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的数据监控方法的流程示意图。在本发明实施例中,所述数据监控方法包括:
S1、响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据。
本发明实施例中,所述数据交互请求基于不同业务系统产生,例如对于商城页面产品系统,其包括:商城产品选择页面、商城产品订单生成页面、商城产品订单查询页面以及商城订单产品物流页面等,其中,所述商城产品订单生成页面需要与所述商城产品选择页面进行数据交互才能生成,同样可知,所述商城产品订单查询页面需要与所述商城产品订单生成页面进行数据交互才能生成,及所述商城订单产品物流页面需要与所述商城产品订单查询页面进行数据交互才能生成。所述数据接收端是指需要从数据传送端拉取业务数据的数据接收方,所述数据传送端是指可以产生所述数据交互请求的业务数据的数据产生方,需要说明的是,所述数据接收端与所述数据传送端相对应,如所述数据接收端为商城产品订单生成页面,则所述数据传送端可以商城产品选择页面。
进一步地,本发明实施例通过响应于所述数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据,以保障后续数据接收端的业务可以正常进行。
作为本申请的一个实施例,所述响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据,包括:识别所述数据交互请求的数据交互类型,并查询所述数据交互请求的数据交互字段;根据所述数据交互类型,生成所述数据交互请求的数据交互标识;根据所述数据交互标识,从所述数据传送端的数据库中查询所述数据交互请求的数据表;根据所述数据交互字段,从所述数据表中查询所述数据交互请求的下发数据。
其中,所述数据交互类型是指所述数据交互请求的数据请求类别,如电子产品、家具产品以及学习资料等,所述数据交互标识用于表征所述数据交互请求的身份信息,其可以通过数据交互类型的名称+数据交互请求的时间生成,如学习资料的数据交互请求的数据交互标识可以为study.10.22,所述数据交互字段是指需要从数据传送端中进行拉取的数据字段,其根据所述数据交互请求的请求字段识别,如所述数据请求字段为“查询关于高中数理化十年的高考真题”,则对应的数据交互字段包括“高中、数理化、十年、高考真题”,所述数据库是指用于存储所述数据传送端所产生的数据,其包括关系型数据库和非关系型数据,如MySQL、DB2、Hbase等数据库,所述数据表是指在所述数据库中创建的一个临时保存数据的网格虚拟表。
一个可选实施中,所述数据表的查询可以通过查询语句实现,如select语句。
一个可选实施例中,所述下发数据的查询可以通过键值对(key-value)的形式查询,即将所述数据交互字段作为key,数据表中的数据作为value。
进一步地,为保障所述下发数据的安全性和隐私性,所述下发数据还可存储于一区块链节点中。
S2、对所述下发数据进行一致性校验。
应该了解,在实际业务系统中由于系统包含的页面种类复杂且数据交互次数频繁,从数据传送端拉取的下发数据会存在与数据差异的现象,因此,为了保障所述下发数据的正确性,本发明实施例通过对所述下发数据进行一致性校验,以保障后续数据接收端的数据正常处理。
作为本申请的一个实施例,所述对所述下发数据进行一致性校验包括:获取所述下发数据的历史数据,及所述历史数据的数据约束条件,根据所述数据约束条件,识别所述历史数据的实际发送数据,根据所述实际发送数据,执行所述下发数据的一致性校验,得到所述下发数据的一致性校验结果。
其中,所述历史数据是指所述下发数据已经成功下发至数据接收端的数据,所述数据约束条件是指历史数据在发送至所述数据接收端的所要遵循的数据发送规则,如数据字符串长度约束条件、数据排序条件、敏感数据过滤条件等,本发明实施例中,所述数据约束条件可以基于不同的业务场景通过正则表达式构建。
一个可选实施例中,所述根据所述数据约束条件,识别所述历史数据的实际发送数据,包括:根据所述数据约束条件,识别所述历史数据中的非法数据,对所述历史数据中的非法数据进行过滤,得到所述历史数据的实际发送数据。
一个可选实施例中,所述下发数据的一致性校验通过将所述下发数据与所述实际发送数据进行比对,以识别出所述下发数据是否与所述实际发送数据完全一致,若所述下发数据与所述实际发送数据存在不一致,则所述下发数据的一致性校验失败,若下发数据与所述实际发送数据完全一致,则所述下发数据的一致性校验成功。
进一步地,本发明另一实施例还包括:在所述一致性校验失败时,停止所述下发数据向数据接收端的传输,并将所述一致性校验失败的结果返回至用户,以提示该用户拉取的下发数据存在异常。
S3、在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验。
应该了解,在所述一致性校验成功时,表示从数据传送端中拉取的下发数据符合数据接收端的要求,因此,本发明实施例将所述下发数据传输至所述数据接收端,以使所述数据接收端对所述下发数据进行业务处理。
作为本申请的一个实施例,所述将所述下发数据传输至所述数据接收端,包括:获取所述下发数据对应数据传送端的端口参数及所述数据接收端的端口参数,根据所述数据传送端的端口参数及所述数据接收端的端口参数,配置所述数据传送端和数据接收端的数据传输通道,根据所述数据传输通道,采用数据传输脚本将所述下发数据传输至所述数据接收端。
其中,所述所述端口参数是指所述数据传送端和数据接口端的API接口参数,包括:基础类型参数和实体对象参数,其用于调用所述数据传送端和数据接口端的API接口,所述数据传输通道可以通过Java语言编译,所述数据传输脚本可以通过JavaScript语言编译。
进一步地,由于所述下发数据是基于数据传送端产生,而数据传送端的数据又是基于不同的业务场景产生,因此,所述下发数据存在一定的数据依赖关系,于是,本发明实施例通过对所述数据接收端的下发数据进行依赖关系校验,以验证所述下发数据在所述数据接收端是否存在数据处理逻辑。
作为本发明的一个实施例,所述对所述数据接收端的下发数据进行依赖关系校验,包括:获取所述下发数据的配置文件,查询所述数据接收端的服务端是否存储于所述配置文件,得到所述配置文件的查询结果,识别所述数据接收端是否存在所述配置文件的处理单元,得到所述配置文件的识别结果,根据所述配置文件的查询结果及识别结果,生成所述数据接收端的下发数据的依赖关系校验结果。
其中,所述配置文件是指所述下发数据在数据传输时的一种数据形式,所述配置文件的查询可以通过识别该配置文件是否在所述数据接收端的服务端注册实现,即若所述配置文件在所述数据接收端的服务端已经注册,则可以查询所述配置文件,若所述配置文件在所述数据接收端的服务端已经注册,则无法查询所述配置文件。所述处理单元是指用于处理该配置文件的业务逻辑的模块,其可以通过识别是否预先在所述数据接收端构建该配置文件的处理模块实现,即若预先在所述数据接收端构建该配置文件的处理模块,则可以识别所述配置文件的处理单元,若预先未在所述数据接收端构建该配置文件的处理模块,则无法识别所述配置文件的处理单元。
进一步地,本发明一可选实施例中,所述根据所述配置文件的查询结果及识别结果,生成所述数据接收端的下发数据的依赖关系校验结果,包括:若所述查询结果未查询到所述配置文件或所述识别结果未识别出所述配置文件的处理单元,则所述数据接收端的下发数据的依赖关系校验结果为依赖关系校验失败;若所述查询结果为查询到所述配置文件且所述识别结果为识别出所述配置文件的处理单元,则所述数据接收端的下发数据的依赖关系校验结果为依赖关系校验成功。
进一步地,本发明另一实施例还包括:在所述依赖关系校验失败时,停止所述数据接收端的下发数据的后续处理,并将所述依赖关系校验失败的结果返回至上述用户,以提示该用户所述数据接收端的下发数据存在异常。
S4、在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
应该了解,在所述依赖关系校验成功时,表示所述数据接收端的下发数据存在数据处理逻辑,因此,本发明实施例对所述数据接收端的下发数据进行异常监控,以监控所述数据接收端的下发数据在运行时出现的异常数据。
作为本申请的一个实施例,所述对所述数据接收端的下发数据进行异常监控,得到异常监控结果,包括:编译所述数据接收端的下发数据的数据运行程序,将所述数据运行程序发布至数据运行环境,利用数据监控工具对所述数据运行环境中的数据运行程序进行异常监控,得到异常监控结果。
其中,所述数据运行程序可以通过Java语言编译,所述数据运行环境可以为浏览器环境,所述数据运行程序可以通过发布机器发布,如Tomcat,所述数据监控工具可以为日志监控工具,如ELK(Elasticsearch,Logstash,Kibana)工具。
需要说明的是,本发明实施例采用遇到异常数据不停止的方式实现所述数据接收端的下发数据进行异常监控,即在监测出所述数据运行程序中存在异常数据时,不停止所述数据运行程序的运行,而是在所述数据运行程序运行结束后,汇总所有异常数据。
进一步地,本发明在得到异常监控结果之后,还包括:采用数据回退机制将所述数据接收端的下发数据中存在的异常数据进行修复和更新,以保障所述数据接收端的下发数据正常运转。
本发明实施例首先响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据,可以保障后续数据接收端的数据监控前提,并对所述下发数据进行一致性校验,以判断出所述下发数据是否可以传输至数据接收端,可以筛选出非法或不合规数据流入至数据接收端,提高数据监控的准确性;其次,本发明实施例在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验,可以判断出所述下发数据是否在数据接收端中存在数据处理逻辑,进一步提高数据监控的准确性;进一步地,本发明实施例在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。因此,本发明提出的一种数据监控方法。
如图2所示,是本发明数据监控装置的功能模块图。
本发明所述数据监控装置100可以安装于电子设备中。根据实现的功能,所述数据监控装置可以包括数据拉取模块101、数据检验模块102以及数据监控模块103。本发所述模块也可以称之为单元,是指一种能够被电子设备1处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备1的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述数据拉取模块101,用于响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
所述数据校验模块102,用于对所述下发数据进行一致性校验;
所述数据校验模块102,还用于在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
所述数据监控模块103,用于在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
详细地,本发明实施例中所述数据监控装置100中的所述各模块在使用时采用与上述的图1中所述的数据监控方法一样的技术手段,并能够产生相同的技术效果,这里不再赘述。
如图3所示,是本发明实现数据监控方法的电子设备1的结构示意图。
所述电子设备1可以包括处理器10、存储器11、通信总线12以及通信接口13,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如数据监控程序。
其中,所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备1的控制核心(ControlUnit),利用各种接口和线路连接整个电子设备1的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行数据监控程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如数据监控程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(peripheral componentinterconnect,简称PCI)总线或扩展工业标准结构(extended industry standardarchitecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备1与其他设备之间的通信,包括网络接口和用户接口。可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备1之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
图3仅示出了具有部件的电子设备1,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的数据监控程序是多个计算机程序的组合,在所述处理器10中运行时,可以实现:
响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
对所述下发数据进行一致性校验;
在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
具体地,所述处理器10对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备1的处理器所执行时,可以实现:
响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
对所述下发数据进行一致性校验;
在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种数据监控方法,其特征在于,所述方法包括:
响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
对所述下发数据进行一致性校验;
在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
2.如权利要求1所述的数据监控方法,其特征在于,所述响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据,包括:
识别所述数据交互请求的数据交互类型,并查询所述数据交互请求的数据交互字段;
根据所述数据交互类型,生成所述数据交互请求的数据交互标识;
根据所述数据交互标识,从所述数据传送端的数据库中查询所述数据交互请求的数据表;
根据所述数据交互字段,从所述数据表中查询所述数据交互请求的下发数据。
3.如权利要求1所述的数据监控方法,其特征在于,所述对所述下发数据进行一致性校验,包括:
获取所述下发数据的历史数据,及所述历史数据的数据约束条件;
根据所述数据约束条件,识别所述历史数据的实际发送数据;
根据所述实际发送数据,执行所述下发数据的一致性校验,得到所述下发数据的一致性校验结果。
4.如权利要求3所述的数据监控方法,其特征在于,所述根据所述数据约束条件,识别所述历史数据的实际发送数据,包括:
根据所述数据约束条件,识别所述历史数据中的非法数据;
对所述历史数据中的非法数据进行过滤,得到所述历史数据的实际发送数据。
5.如权利要求1所述的数据监控方法,其特征在于,所述将所述下发数据传输至所述数据接收端,包括:
获取所述下发数据对应数据传送端的端口参数及所述数据接收端的端口参数;
根据所述数据传送端的端口参数及所述数据接收端的端口参数,配置所述数据传送端和数据接收端的数据传输通道;
根据所述数据传输通道,采用数据传输脚本将所述下发数据传输至所述数据接收端。
6.如权利要求1所述的数据监控方法,其特征在于,所述对所述数据接收端的下发数据进行依赖关系校验,包括:
获取所述下发数据的配置文件,查询所述数据接收端的服务端是否存储于所述配置文件,得到所述配置文件的查询结果;
识别所述数据接收端是否存在所述配置文件的处理单元,得到所述配置文件的识别结果;
根据所述配置文件的查询结果及识别结果,生成所述数据接收端的下发数据的依赖关系校验结果。
7.如权利要求1至6中任意一项所述的数据监控方法,其特征在于,所述对所述数据接收端的下发数据进行异常监控,得到异常监控结果,包括:
编译所述数据接收端的下发数据的数据运行程序,将所述数据运行程序发布至数据运行环境;
利用数据监控工具对所述数据运行环境中的数据运行程序进行异常监控,得到异常监控结果。
8.一种数据监控装置,其特征在于,所述装置包括:
数据拉取模块,用于响应于数据接收端的数据交互请求,从数据传送端拉取所述数据交互请求的下发数据;
数据校验模块,用于对所述下发数据进行一致性校验;
所述数据校验模块,还用于在所述一致性校验成功时,将所述下发数据传输至所述数据接收端,并对所述数据接收端的下发数据进行依赖关系校验;
数据监控模块,用于在所述依赖关系校验成功时,对所述数据接收端的下发数据进行异常监控,得到异常监控结果。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的数据监控方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的数据监控方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110729917.5A CN113485970A (zh) | 2021-06-29 | 2021-06-29 | 数据监控方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110729917.5A CN113485970A (zh) | 2021-06-29 | 2021-06-29 | 数据监控方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113485970A true CN113485970A (zh) | 2021-10-08 |
Family
ID=77936891
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110729917.5A Pending CN113485970A (zh) | 2021-06-29 | 2021-06-29 | 数据监控方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113485970A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114416661A (zh) * | 2022-01-21 | 2022-04-29 | 平安消费金融有限公司 | 数据上报方法、装置、设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101625686A (zh) * | 2008-07-08 | 2010-01-13 | 阿里巴巴集团控股有限公司 | 一种监控多数据库之间数据一致性的方法及系统 |
CN107644077A (zh) * | 2017-09-19 | 2018-01-30 | 杭州贝购科技有限公司 | 数据一致性监控方法、计算机设备和存储介质 |
CN111124801A (zh) * | 2019-11-19 | 2020-05-08 | 平安科技(深圳)有限公司 | 智能化系统资源监控方法、装置及计算机可读存储介质 |
CN112434308A (zh) * | 2020-12-14 | 2021-03-02 | 招商局金融科技有限公司 | 应用漏洞检测方法、装置、电子设备及计算机存储介质 |
CN112506747A (zh) * | 2021-02-03 | 2021-03-16 | 腾讯科技(深圳)有限公司 | 一种业务进程监控方法、装置、电子设备及存储介质 |
CN112667480A (zh) * | 2020-12-30 | 2021-04-16 | 平安证券股份有限公司 | 业务数据的动态监控方法、装置、电子设备及存储介质 |
-
2021
- 2021-06-29 CN CN202110729917.5A patent/CN113485970A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101625686A (zh) * | 2008-07-08 | 2010-01-13 | 阿里巴巴集团控股有限公司 | 一种监控多数据库之间数据一致性的方法及系统 |
CN107644077A (zh) * | 2017-09-19 | 2018-01-30 | 杭州贝购科技有限公司 | 数据一致性监控方法、计算机设备和存储介质 |
CN111124801A (zh) * | 2019-11-19 | 2020-05-08 | 平安科技(深圳)有限公司 | 智能化系统资源监控方法、装置及计算机可读存储介质 |
CN112434308A (zh) * | 2020-12-14 | 2021-03-02 | 招商局金融科技有限公司 | 应用漏洞检测方法、装置、电子设备及计算机存储介质 |
CN112667480A (zh) * | 2020-12-30 | 2021-04-16 | 平安证券股份有限公司 | 业务数据的动态监控方法、装置、电子设备及存储介质 |
CN112506747A (zh) * | 2021-02-03 | 2021-03-16 | 腾讯科技(深圳)有限公司 | 一种业务进程监控方法、装置、电子设备及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114416661A (zh) * | 2022-01-21 | 2022-04-29 | 平安消费金融有限公司 | 数据上报方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112416728A (zh) | 埋点数据获取方法、装置、客户端设备及可读存储介质 | |
CN112506779A (zh) | 软件接口测试方法、装置、电子设备及存储介质 | |
CN112115145A (zh) | 数据采集方法、装置、电子设备及存储介质 | |
CN113051171A (zh) | 接口测试方法、装置、设备及存储介质 | |
CN111985194A (zh) | 数据存储方法、装置、电子设备及存储介质 | |
CN114547696A (zh) | 文件脱敏方法、装置、电子设备及存储介质 | |
CN113434542B (zh) | 数据关系识别方法、装置、电子设备及存储介质 | |
CN114385497A (zh) | 测试环境生成方法、装置、电子设备及存储介质 | |
CN112667244A (zh) | 数据校验方法、装置、电子设备及计算机可读存储介质 | |
CN113485970A (zh) | 数据监控方法、装置、电子设备及存储介质 | |
CN112685384A (zh) | 数据迁移方法、装置、电子设备及存储介质 | |
CN112527655A (zh) | 软件版本质量异常检测方法、装置、电子设备及存储介质 | |
CN112579475A (zh) | 代码测试方法、装置、设备及可读存储介质 | |
CN112541688A (zh) | 业务数据校验方法、装置、电子设备及计算机存储介质 | |
CN112085611A (zh) | 数据异步核验方法、装置、电子设备及存储介质 | |
CN114911479A (zh) | 基于配置化的界面生成方法、装置、设备及存储介质 | |
CN113515265B (zh) | 站点配置方法、装置、设备及计算机可读存储介质 | |
CN113434397B (zh) | 任务系统的测试方法、装置、电子设备及存储介质 | |
CN114510400A (zh) | 任务执行方法、装置、电子设备及存储介质 | |
CN115220740A (zh) | 数据库环境部署方法、装置、电子设备及存储介质 | |
CN114897624A (zh) | 保单数据合并方法、装置、设备及存储介质 | |
CN114896164A (zh) | 接口优化方法、装置、电子设备及存储介质 | |
CN113360375A (zh) | 交易测试方法、装置、电子设备及存储介质 | |
CN113505079A (zh) | 应用程序测试方法、装置、设备及介质 | |
CN114036068A (zh) | 基于隐私安全的更新检测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20211008 |
|
WD01 | Invention patent application deemed withdrawn after publication |