CN111400294A - 数据异常监测方法、装置及系统 - Google Patents

数据异常监测方法、装置及系统 Download PDF

Info

Publication number
CN111400294A
CN111400294A CN202010172493.2A CN202010172493A CN111400294A CN 111400294 A CN111400294 A CN 111400294A CN 202010172493 A CN202010172493 A CN 202010172493A CN 111400294 A CN111400294 A CN 111400294A
Authority
CN
China
Prior art keywords
data
rule
message queue
anomaly detection
monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010172493.2A
Other languages
English (en)
Other versions
CN111400294B (zh
Inventor
周鸣鸿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shishi Tongyun Technology Chengdu Co ltd
Original Assignee
Shishi Tongyun Technology Chengdu Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shishi Tongyun Technology Chengdu Co ltd filed Critical Shishi Tongyun Technology Chengdu Co ltd
Priority to CN202010172493.2A priority Critical patent/CN111400294B/zh
Publication of CN111400294A publication Critical patent/CN111400294A/zh
Application granted granted Critical
Publication of CN111400294B publication Critical patent/CN111400294B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases
    • G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2457—Query processing with adaptation to user needs
    • G06F16/24578—Query processing with adaptation to user needs using ranking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2462—Approximate or statistical queries

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Fuzzy Systems (AREA)
  • Software Systems (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了一种数据异常监测方法、装置及系统。其中，该方法包括：加载数据异常检测规则；实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；利用加载的数据异常检测规则对原始数据进行检测；若检测出数据异常，则记录数据异常结果。本发明的方案能够保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差以及存储至数据库中的数据存在偏差，影响业务使用的问题。

Description

数据异常监测方法、装置及系统
技术领域
本发明涉及数据处理技术领域，具体涉及一种数据异常监测方法、装置及系统。
背景技术
对于数据统计系统而言，数据的准确性是非常重要的，如果数据不准确，就会造成数据的统计结果不正确，小的可能是对不上账，大的可能造成错误的决策。对于大型分布式互联网系统而言，由于业务非常的复杂，没有一个人能做到了如指掌；又由于是分布式系统，子系统繁多，各子系统之间的调用又非常复杂，且由不同的团队来负责，受各种环境因素影响也较大，异常数据时不时的会出现。
目前，对异常数据的监控及告警，主要是通过设置定时任务来进行检测，例如，每天凌晨对前一天所产生的所有数据进行检测，这种检测方法通常是先将所产生的数据存储至数据库中，也就是说，不论数据是否异常都将被存储至数据库，导致后续的业务会使用到异常数据，产生数据偏差，导致检测的实时性很差。
发明内容
鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的数据异常监测方法、装置及系统。
根据本发明实施例的一个方面，提供了一种数据异常监测方法，包括：
加载数据异常检测规则；
实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；
利用加载的数据异常检测规则对原始数据进行检测；
若检测出数据异常，则记录数据异常结果。
可选地，方法还包括：实时监听规则消息队列，若监听到规则更新通知消息，则加载更新后的数据异常检测规则；其中，规则更新通知消息是由规则管理平台写入规则消息队列。
可选地，方法还包括：将数据异常检测规则对应的脚本文件预先存储至数据库中。
可选地，加载数据异常检测规则进一步包括：从数据库加载数据异常检测规则对应的脚本文件；
利用加载的数据异常检测规则对原始数据进行检测进一步包括：
调用规则引擎执行数据异常检测规则对应的脚本文件，以对原始数据进行检测。
可选地，数据异常结果包含：数据异常类型及数据生产端标识。
可选地，方法还包括：每当预设的时间周期到达时，根据数据生产端标识进行数据异常类型统计；
通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
可选地，方法还包括：根据数据生产端标识进行数据异常类型统计及异常数据数量统计，判断异常数据数量是否大于或等于预设阈值；
若是，则通过预设方式将统计结果发送给对应的数据生产端。
根据本发明实施例的另一方面，提供了一种数据异常监测装置，包括：
加载模块，适于加载数据异常检测规则；
监听模块，适于实时监听数据消息队列；
获取模块，适于若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；
检测模块，适于利用加载的数据异常检测规则对原始数据进行检测；
记录模块，适于若检测出数据异常，则记录数据异常结果。
可选地，监听模块还适于：实时监听规则消息队列；
加载模块进一步适于：若监听到规则更新通知消息，则加载更新后的数据异常检测规则；其中，规则更新通知消息是由规则管理平台写入规则消息队列。
可选地，装置还包括：写入模块，适于将数据异常检测规则对应的脚本文件预先存储至数据库中。
可选地，加载模块进一步适于：从数据库加载数据异常检测规则对应的脚本文件；
检测模块进一步适于：调用规则引擎执行数据异常检测规则对应的脚本文件，以对原始数据进行检测。
可选地，数据异常结果包含：数据异常类型及数据生产端标识。
可选地，装置还包括：统计模块，适于每当预设的时间周期到达时，根据数据生产端标识进行数据异常类型统计；
发送模块，适于通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
可选地，装置还包括：统计模块，适于根据数据生产端标识进行数据异常类型统计及异常数据数量统计；
判断模块，适于判断异常数据数量是否大于或等于预设阈值；
发送模块，适于若异常数据数量大于或等于预设阈值，则通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
根据本发明实施例的另一方面，提供了一种数据异常监测系统，包括：数据消息队列、数据生产端以及上述数据异常监测装置；其中，
数据生产端，适于生产原始数据；以及，将数据生产通知消息写入数据消息队列；
数据消息队列，适于存储数据生产通知消息。
可选地，系统还包括：规则管理平台，适于对数据异常检测规则进行更新；以及，将规则更新通知消息写入规则消息队列；
规则消息队列，适于存储规则更新通知消息；
数据库，适于存储数据异常检测规则对应的脚本文件。
根据本发明实施例的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，处理器、存储器和通信接口通过通信总线完成相互间的通信；
存储器用于存放至少一可执行指令，可执行指令使处理器执行上述数据异常监测方法对应的操作。
根据本发明实施例的再一方面，提供了一种计算机存储介质，存储介质中存储有至少一可执行指令，可执行指令使处理器执行如上述数据异常监测方法对应的操作。
根据本发明实施例提供的方案，加载数据异常检测规则；实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；利用加载的数据异常检测规则对原始数据进行检测；若检测出数据异常，则记录数据异常结果。本发明提供的方案通过对数据消息队列进行实时监听，从而保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，减少了对人工的依赖，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差以及存储至数据库中的数据存在偏差，影响业务使用的问题。
上述说明仅是本发明实施例技术方案的概述，为了能够更清楚了解本发明实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本发明实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明实施例的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明实施例的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了本发明实施例提供的数据异常监测方法流程图；
图2示出了本发明另一实施例提供的数据异常监测方法的流程图；
图3示出了本发明实施例提供的数据异常监测装置的结构示意图；
图4示出了本发明实施例提供的数据异常监测系统的结构示意图；
图5示出了本发明实施例提供的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。
图1示出了本发明实施例提供的数据异常监测方法的流程图。如图1所示，该方法包括以下步骤：
步骤S101，加载数据异常检测规则。
数据异常检测规则是用来检测数据是否出现异常的，在本实施例预先设置有数据异常检测规则，待需要对数据进行异常监测时，可以加载数据异常检测规则以备后续检测时使用。
步骤S102，实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列。
本步骤中的数据消息队列可以理解为一个存放消息的容器，用来存储数据生产端写入的数据生产通知消息。其中，数据生产通知消息用于说明数据生产端生产了原始数据。
在本实施例中，至少一个数据生产端可以生产原始数据，而为了能够保证数据异常监测的及时性，就要求每个数据生产端在生产原始数据后，都将数据生产通知消息写入数据消息队列中，从而通过实时监听数据消息队列，能够及时获知数据生产端是否生产了原始数据，例如，可以通过数据消息队列提供的订阅机制实现监听数据消息队列，当然还可以通过其它监听方式来实现监听数据消息队列，这里不做具体限定。
在监听到数据消息队列中写入了新的数据生产通知消息后，就需要对数据生产通知消息进行消费，数据消息队列是一种先进先出的数据结构，所以在消费数据生产通知消息时也是按照顺序来消费的。即，不同的数据生产端写入数据消息队列的数据生产通知消息会有时间先后顺序，因此对数据消息队列中的数据生产通知消息消费时，也将按照写入时的先后顺序进行消费；对于同一个数据生产端在不同时刻写入的数据生产通知消息而言，也是按照写入数据消息队列的先后顺序进行消费。其中，多个数据生产端可以对应一个数据消息队列，也就是说，多个数据生产端向同一个数据消息队列写入数据生产通知消息。
在监听到数据消息队列中有新的数据生产通知消息，则实时获取所生产的原始数据，例如，可以通过WEB API方式从数据生产端获取其所生产的原始数据，当然还可以通过其它方式来从数据生产端获取原始数据，这里不做具体限定。需要说明的是，数据生产端根据业务所生产的数据可能会随着的业务流程的流转而发生变化，这里所获取的原始数据是一种最终状态下的数据，数据不会再发生变化。如果不存在业务流程的流转，那么所生产的数据就是最终状态下的数据。
举例说明，以用户网购为例，用户下单后，涉及到商家发货，物流公司揽收、配送，到用户签收订单，数据都是在不断发生变化的，这里获取的是将用户签收后最终状态下的原始数据。这里仅是举例说明，不具有任何限定作用。
步骤S103，利用加载的数据异常检测规则对原始数据进行检测。
在获取到原始数据后，就需要对原始数据进行检测，这里是利用所加载的数据异常检测规则来对原始数据进行检测，通过检测可以确定数据是否出现异常。
步骤S104，若检测出数据异常，则记录数据异常结果。
若通过检测发现数据出现了异常，则可以记录数据异常结果，例如，可以记录数据异常类型及数据生产端标识，当然还可以记录其它信息，例如，异常的数据，这里不再一一列举。
根据本发明上述实施例提供的方法，加载数据异常检测规则；实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；利用加载的数据异常检测规则对原始数据进行检测；若检测出数据异常，则记录数据异常结果。本发明提供的方案通过对数据消息队列进行实时监听，从而保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，减少了对人工的依赖，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差的问题。
图2示出了本发明另一个实施例提供的数据异常监测方法的流程图。如图2所示，该方法包括以下步骤：
步骤S201，将数据异常检测规则对应的脚本文件预先存储至数据库中。
在本实施例中，提供有规则管理平台，该规则管理平台向管理端提供规则设置页面，管理端可以通过规则设置页面来设置数据异常检测规则，例如，可以在规则设置页面中编写数据异常检测规则对应的脚本文件，规则管理平台将编写好的脚本文件存储至数据库中；或者，规则设置页面中包含有数据异常检测规则对应的脚本文件的上传按钮，管理端通过点击上传按钮，来选择要上传的数据异常检测规则对应的脚本文件，规则管理平台在接收到上传的脚本文件后，将上传的脚本文件存储至数据库中。
其中，管理端可以根据业务的需要灵活设置数据异常检测规则的数量。并且可以根据业务需要实时对数据异常检测规则进行更新。
规则管理平台在对数据异常检测规则进行更新后，会将更新后的数据异常检测规则对应的脚本文件存储至数据库中。规则管理平台将规则更新通知消息写入规则消息队列。
步骤S202，实时监听规则消息队列，若监听到规则更新通知消息，则从数据库加载更新后的数据异常检测规则对应的脚本文件；若未监听到规则更新通知消息，则从数据库加载数据异常检测规则对应的脚本文件。
本步骤中的规则消息队列可以理解为一个存放消息的容器，用来存储规则管理平台写入的规则更新通知消息。其中，规则更新通知消息用于说明规则管理平台对数据异常检测规则进行了更新。
在本实施例中，规则管理平台可能随时对数据异常检测规则进行更新，而为了能够保证数据异常监测的准确性，就要求能够及时加载到最新的数据异常检测规则，因此，规则管理平台在更新数据异常检测规则后，需要将规则更新通知消息写入规则消息队列中，从而通过实时监听规则消息队列，能够及时获知数据异常检测规则是否发生了更新，例如，可以通过规则消息队列提供的订阅机制实现监听规则消息队列，当然还可以通过其它监听方式来实现监听数据消息队列，这里不做具体限定。
其中，规则消息队列可以是以下消息队列的任一种：ActiveMQ消息队列、RabbitMQ消息队列、Kafka消息队列、RocketMQ消息队列，在本实施例中优先选用Kafka消息队列，其中，Kafka消息队列具有如下优势：超高的吞吐量，ms级的延迟，极高的可用性以及可靠性。
若监听到规则更新通知消息，则从数据库加载更新后的数据异常检测规则对应的脚本文件，从而在后续步骤中利用更新后的数据异常检测规则对原始数据进行检测；若未监听到规则更新通知消息，则从数据库加载数据异常检测规则对应的脚本文件。
步骤S203，实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列。
本步骤中的数据消息队列可以理解为一个存放消息的容器，用来存储数据生产端写入的数据生产通知消息。其中，数据生产通知消息用于说明数据生产端生产了原始数据。
在本实施例中，至少一个数据生产端可以生产原始数据，而为了能够保证数据异常监测的及时性，就要求每个数据生产端在生产原始数据后，都将数据生产通知消息写入数据消息队列中，从而通过实时监听数据消息队列，能够及时获知数据生产端是否生产了原始数据，例如，可以通过数据消息队列提供的订阅机制实现监听数据消息队列，当然还可以通过其它监听方式来实现监听数据消息队列，这里不做具体限定。
在监听到数据消息队列中写入了新的数据生产通知消息后，就需要对数据生产通知消息进行消费，数据消息队列是一种先进先出的数据结构，所以在消费数据生产通知消息时也是按照顺序来消费的。即，不同的数据生产端写入数据消息队列的数据生产通知消息会有时间先后顺序，因此对数据消息队列中的数据生产通知消息消费时，也将按照写入时的先后顺序进行消费；对于同一个数据生产端在不同时刻写入的数据生产通知消息而言，也是按照写入数据消息队列的先后顺序进行消费。其中，多个数据生产端可以对应一个数据消息队列，也就是说，多个数据生产端向同一个数据消息队列写入数据生产通知消息。
在监听到数据消息队列中有新的数据生产通知消息后，可以对数据生产通知消息进行消费，具体地，数据生产通知消息中会携带有数据生产端标识和/或数据标识，从而能够根据数据生产端标识确定是哪个数据生产端生产了原始数据及从该数据生产端获取哪些数据，并从相应的数据生产端实时获取对应的原始数据，例如，可以通过WEB API方式从数据生产端获取其所生产的原始数据，当然还可以通过其它方式来从数据生产端获取原始数据，这里不做具体限定。
需要说明的是，数据生产端根据业务所生产的数据可能会随着的业务流程的流转而发生变化，这里所获取的原始数据是一种最终状态下的数据，数据不会再发生变化。如果不存在业务流程的流转，那么所生产的数据就是最终状态下的数据。数据生产端是在数据不变化的情况下，将数据生产通知消息写入到数据消息队列中。
举例说明，以用户网购为例，用户下单后，涉及到商家发货，物流公司揽收、配送，到用户签收订单，数据都是在不断发生变化的，这里获取的是将用户签收后最终状态下的原始数据。这里仅是举例说明，不具有任何限定作用。
其中，数据消息队列可以是以下消息队列的任一种：ActiveMQ消息队列、RabbitMQ消息队列、Kafka消息队列、RocketMQ消息队列，在本实施例中优先选用Kafka消息队列，其中，Kafka消息队列具有如下优势：超高的吞吐量，ms级的延迟，极高的可用性以及可靠性。
通过实时监听数据消息队列，来实现实时对原始数据进行处理，为后续业务的数据使用提供了保障。
为了便于后续对数据进行核实，可以将数据生产端生产的原始数据存储至数据库中。
步骤S204，调用规则引擎执行数据异常检测规则对应的脚本文件，以对原始数据进行检测。
具体地，可以调用规则引擎，将所获取的原始数据中的每条数据输入到规则引擎中，利用规则引擎执行所加载的数据异常检测规则对应的脚本文件，来对原始数据进行检测，以检测数据是否出现异常。
本实施例中的脚本文件可以是Grovvy脚本文件。Groovy是一种基于JVM平台的动态/敏捷编程语言，在语言的设计上它吸纳了Python、Ruby和Smalltalk语言的优秀特性，语法非常简练和优美，开发效率也非常高。并且，Groovy可以与Java语言无缝对接，在写Groovy的时候如果忘记了语法可以直接按Java的语法继续写，也可以在Java中调用Groovy脚本，都可以很好的工作，这有效的降低了Java开发者学习Groovy的成本。Groovy也并不会替代Java，而是相辅相成、互补的关系。具体的Grovvy脚本代码这里未示出。
这里以文字性描述了其中一种数据异常检测规则，例如，优惠金额不能是正数，在获取到关于优惠金额的原始数据后，调用规则引擎，将所获取的有关优惠金额的原始数据中的每条数据输入到规则引擎中，利用规则引擎执行所加载的数据异常检测规则对应的脚本文件，以对原始数据进行检测，若检测出某条数据对应的优惠金额是正数，可以确定数据出现异常。这里仅是举例说，不具有任何限定作用。
步骤S205，若检测出数据异常，则记录数据异常结果。
若通过检测发现数据出现了异常，则可以记录数据异常结果，例如，可以记录数据异常类型及数据生产端标识，举例说明，数据异常结果包含：数据生产端1，优惠金额为正数，当然还可以记录其它信息，例如，异常的数据，这里不再一一列举。通过记录数据异常结果，便于通知数据生产端进行相应的修正。
若检测出数据未异常，可以将原始数据存储至数据库中，在将原始数据存储至数据库之前，可以先对数据进行清洗，例如，可以进行数据拉平处理，例如可以采用现有的数据拉平算法，通过对数据进行拉平处理，得到相应的数据宽表，后续可以根据数据宽表进行数据统计，比如，报表统计、数据API统计等等，这里不在赘述。
步骤S206，每当预设的时间周期到达时，根据数据生产端标识进行数据异常类型统计。
其中，上述预设的时间周期的大小可以由本领域人员根据实际情况具体设定，比如可以为15分钟、10分钟或者半小时，具体数值可由本领域技术人员根据实际业务需求设置：当时间周期设置得较小时，能够使统计结果的实时性更好；当时间周期设置得较大时，能够降低对计算资源的耗用从而提升系统性能。
本实施例利用步骤S201-步骤S205能够检测数据是否存在异常，并在检测出数据异常的情况下，记录数据异常结果，这里是对所有数据生产端所生产的原始数据进行异常检测，可能存在多个数据生产端生产的原始数据都出现异常的情况，而每个数据生产端又可能出现多种不同类型的数据异常情况，因此，为了能够便于数据生产端获知出现了哪些异常，可以设置定时任务，具体地，当到达预设的时间周期时，根据数据生产端标识进行数据异常类型统计。也就是说，按照数据生产端的划分方式，对数据异常类型进行了划分。
步骤S207，通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
在根据步骤S206确定了数据异常类型统计结果后，可以通过预设方式将数据异常类型统计结果发送给对应的数据生产端，例如，可以将数据异常类型统计结果作为邮件正文内容或者作为邮件附件，通过向数据生产端发送邮件，来使数据生产端获知出现了哪些类型的数据异常情况；再例如，还可以通过与数据生产端建立蓝牙连接的方式，通过蓝牙将数据异常类型统计结果传输给对应的数据生产端；还可以通过向数据生产端发送push消息的方式将数据异常类型结果发送给对应的数据生产端；当然，本领域技术人员还可以采用其它方式来将数据异常类型统计结果发送给对应的数据生产端，这里不再一一举例说明。数据生产端在接收到数据异常类型统计结果后，可以及时进行修正，以保证所生产的原始数据是正常的，无需再进行具体的设置来达到监控及告警的目的，简化了设置操作。
在本发明一种可选实施方式中，除了可以定时对数据异常类型进行统计外，还可以采用如下方式进行统计：根据数据生产端标识进行数据异常类型统计及异常数据数量统计，判断异常数据数量是否大于或等于预设阈值；若是，则通过预设方式将统计结果发送给对应的数据生产端。
具体地，可以按照数据生产端的划分方式，对数据异常类型进行一一划分，将相同数据生产端标识对应的数据异常类型归类到一起，同时还需要统计异常数据的数量，实时判断异常数据数量是否大于或等于预设阈值，其中，上述预设阈值的大小可以由本领域人员根据实际情况具体设定，比如可以为15条、20条或者35条，具体数值可由本领域技术人员根据实际业务需求设置：当数值设置得较小时，能够使统计结果的实时性更好；当数值设置得较大时，能够降低向数据生产端发送数据异常类型统计结果的次数，从而避免数据生产端不断进行修正而造成的资源消耗，以及对数据生产端生产数据的影响。
本实施例可以采用Java技术栈进行实现。
本发明提供的方案通过对数据消息队列进行实时监听，从而保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，减少了对人工的依赖，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差以及存储至数据库中的数据存在偏差，影响业务使用的问题；通过对规则消息队列进行实时监听，能够保证利用最新的数据异常检测规则来进行数据异常检测，提高了数据异常监测的准确性；通过对数据生产端出现的数据异常类型进行统计，并将数据异常类型统计结果发送给数据生产端，便于数据生产端及时进行修正处理，解决所出现的问题。
图3示出了本发明实施例提供的数据异常监测装置的结构示意图。如图3所示，该装置300包括：加载模块301、监听模块302、获取模块303、检测模块304、记录模块305。
加载模块301，适于加载数据异常检测规则；
监听模块302，适于实时监听数据消息队列；
获取模块303，适于若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；
检测模块304，适于利用加载的数据异常检测规则对原始数据进行检测；
记录模块305，适于若检测出数据异常，则记录数据异常结果。
可选地，监听模块还适于：实时监听规则消息队列；
加载模块进一步适于：若监听到规则更新通知消息，则加载更新后的数据异常检测规则；其中，规则更新通知消息是由规则管理平台写入规则消息队列。
可选地，装置还包括：写入模块，适于将数据异常检测规则对应的脚本文件预先存储至数据库中。
可选地，加载模块进一步适于：从数据库加载数据异常检测规则对应的脚本文件；
检测模块进一步适于：调用规则引擎执行数据异常检测规则对应的脚本文件，以对原始数据进行检测。
可选地，数据异常结果包含：数据异常类型及数据生产端标识。
可选地，装置还包括：统计模块，适于每当预设的时间周期到达时，根据数据生产端标识进行数据异常类型统计；
发送模块，适于通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
可选地，装置还包括：统计模块，适于根据数据生产端标识进行数据异常类型统计及异常数据数量统计；
判断模块，适于判断异常数据数量是否大于或等于预设阈值；
发送模块，适于若异常数据数量大于或等于预设阈值，则通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
根据本发明上述实施例提供的装置，加载数据异常检测规则；实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，数据生产通知消息是由数据生产端写入数据消息队列；利用加载的数据异常检测规则对原始数据进行检测；若检测出数据异常，则记录数据异常结果。本发明提供的方案通过对数据消息队列进行实时监听，从而保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，减少了对人工的依赖，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差以及存储至数据库中的数据存在偏差，影响业务使用的问题。
图4示出了本发明实施例提供的数据异常监测系统的结构示意图。如图4所示，该系统包括：数据生产端401、数据消息队列402以及图3所示实施例中的数据异常监测装置300；其中，
数据生产端401，适于生产原始数据；以及，将数据生产通知消息写入数据消息队列；
数据消息队列402，适于存储数据生产通知消息。
可选地，该系统还包括：规则管理平台403，适于对数据异常检测规则进行更新；以及，将规则更新通知消息写入规则消息队列；
规则消息队列404，适于存储规则更新通知消息；
数据库405，适于存储数据异常检测规则对应的脚本文件。
本发明提供的方案通过对数据消息队列进行实时监听，从而保证在数据生产端生产了原始数据后，及时获取数据生产端所生产的原始数据进行数据异常检测，大大提高了对数据异常监测的实时性，减少了对人工的依赖，使得数据更加准确可靠，为后续数据统计处理提供了数据保障，克服了现有的数据异常监控方法存在的实时性差以及存储至数据库中的数据存在偏差，影响业务使用的问题。
本发明实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的数据异常监测方法。
图5示出了本发明实施例提供的计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。
如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。
其中：处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。处理器502，用于执行程序510，具体可以执行上述用于计算设备的数据异常监测方法实施例中的相关步骤。
具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。
处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序510具体可以用于使得处理器502执行上述任意方法实施例中的数据异常监测方法。程序510中各步骤的具体实现可以参见上述数据异常监测实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。
在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明实施例的内容，并且上面对特定语言所做的描述是为了披露本发明实施例的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本发明实施例并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明实施例要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些或者全部部件的一些或者全部功能。本发明实施例还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明实施例的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明实施例进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明实施例可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。

Claims (10)

1.一种数据异常监测方法，包括：
加载数据异常检测规则；
实时监听数据消息队列，若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，所述数据生产通知消息是由数据生产端写入数据消息队列；
利用加载的所述数据异常检测规则对所述原始数据进行检测；
若检测出数据异常，则记录数据异常结果。
2.根据权利要求1所述的方法，其中，所述方法还包括：实时监听规则消息队列，若监听到规则更新通知消息，则加载更新后的数据异常检测规则；其中，所述规则更新通知消息是由规则管理平台写入规则消息队列。
3.根据权利要求1或2所述的方法，其中，所述方法还包括：
将数据异常检测规则对应的脚本文件预先存储至数据库中。
4.根据权利要求3所述的方法，其中，所述加载数据异常检测规则进一步包括：从数据库加载数据异常检测规则对应的脚本文件；
所述利用加载的所述数据异常检测规则对所述原始数据进行检测进一步包括：
调用规则引擎执行数据异常检测规则对应的脚本文件，以对所述原始数据进行检测。
5.根据权利要求1-4中任一项所述的方法，其中，所述数据异常结果包含：数据异常类型及数据生产端标识。
6.根据权利要求5所述的方法，其中，所述方法还包括：每当预设的时间周期到达时，根据数据生产端标识进行数据异常类型统计；
通过预设方式将数据异常类型统计结果发送给对应的数据生产端。
7.一种数据异常监测装置，包括：
加载模块，适于加载数据异常检测规则；
监听模块，适于实时监听数据消息队列；
获取模块，适于若监听到数据生产通知消息，则实时获取所生产的原始数据；其中，所述数据生产通知消息是由数据生产端写入数据消息队列；
检测模块，适于利用加载的所述数据异常检测规则对所述原始数据进行检测；
记录模块，适于若检测出数据异常，则记录数据异常结果。
8.一种数据异常监测系统，包括：数据消息队列、数据生产端以及权利要求7所述的数据异常监测装置；其中，
数据生产端，适于生产原始数据；以及，将数据生产通知消息写入数据消息队列；
数据消息队列，适于存储所述数据生产通知消息。
9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-6中任一项所述的数据异常监测方法对应的操作。
10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-6中任一项所述的数据异常监测方法对应的操作。
CN202010172493.2A 2020-03-12 2020-03-12 数据异常监测方法、装置及系统 Active CN111400294B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010172493.2A CN111400294B (zh) 2020-03-12 2020-03-12 数据异常监测方法、装置及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010172493.2A CN111400294B (zh) 2020-03-12 2020-03-12 数据异常监测方法、装置及系统

Publications (2)

Publication Number Publication Date
CN111400294A true CN111400294A (zh) 2020-07-10
CN111400294B CN111400294B (zh) 2023-08-01

Family

ID=71430741

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010172493.2A Active CN111400294B (zh) 2020-03-12 2020-03-12 数据异常监测方法、装置及系统

Country Status (1)

Country Link
CN (1) CN111400294B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113010508A (zh) * 2021-03-23 2021-06-22 内蒙古电力(集团)有限责任公司内蒙古电力科学研究院分公司 一种电力计量数据质量监控方法、装置及大数据计算平台
CN113347201A (zh) * 2021-06-25 2021-09-03 安徽容知日新科技股份有限公司 一种异常检测方法、系统及计算设备
CN113760874A (zh) * 2020-11-27 2021-12-07 北京京东尚科信息技术有限公司 数据质量检测的方法、装置、电子设备和存储介质
TWI819385B (zh) * 2020-09-30 2023-10-21 大陸商中國銀聯股份有限公司 異常告警方法、裝置、設備及存儲介質

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090138511A1 (en) * 2007-11-28 2009-05-28 Alcatel Lucent Service access exception tracking for regulatory compliance of business processes
CN106371973A (zh) * 2016-08-31 2017-02-01 广州品唯软件有限公司 一种数据处理方法、设备和系统
CN108304723A (zh) * 2018-01-17 2018-07-20 链家网（北京）科技有限公司 一种异常行为检测方法及装置
CN108664289A (zh) * 2018-05-14 2018-10-16 平安科技（深圳）有限公司 业务数据的处理方法及终端设备
CN108874644A (zh) * 2018-06-06 2018-11-23 平安科技（深圳）有限公司 数据监控方法、装置、计算机设备及存储介质
CN109376139A (zh) * 2018-08-15 2019-02-22 中国平安人寿保险股份有限公司 数据库集中监控方法、计算机装置及存储介质
CN109408262A (zh) * 2018-09-26 2019-03-01 平安医疗健康管理股份有限公司 一种业务数据处理方法及相关设备
EP3540544A1 (en) * 2018-03-14 2019-09-18 OMRON Corporation Abnormality detection system, support device, and model generation method
CN110309029A (zh) * 2019-06-29 2019-10-08 深圳乐信软件技术有限公司 异常数据的采集方法、装置、计算机设备和存储介质
CN110351436A (zh) * 2019-07-08 2019-10-18 平安科技（深圳）有限公司 FreeSWITCH监控方法、设备、存储介质及装置
CN110750366A (zh) * 2019-09-26 2020-02-04 浙江大搜车软件技术有限公司 消息处理方法、装置、计算机设备和存储介质
CN110865929A (zh) * 2019-11-26 2020-03-06 携程旅游信息技术（上海）有限公司 异常检测预警方法及系统

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090138511A1 (en) * 2007-11-28 2009-05-28 Alcatel Lucent Service access exception tracking for regulatory compliance of business processes
CN106371973A (zh) * 2016-08-31 2017-02-01 广州品唯软件有限公司 一种数据处理方法、设备和系统
CN108304723A (zh) * 2018-01-17 2018-07-20 链家网（北京）科技有限公司 一种异常行为检测方法及装置
EP3540544A1 (en) * 2018-03-14 2019-09-18 OMRON Corporation Abnormality detection system, support device, and model generation method
CN108664289A (zh) * 2018-05-14 2018-10-16 平安科技（深圳）有限公司 业务数据的处理方法及终端设备
WO2019232832A1 (zh) * 2018-06-06 2019-12-12 平安科技（深圳）有限公司 数据监控方法、装置、计算机设备及存储介质
CN108874644A (zh) * 2018-06-06 2018-11-23 平安科技（深圳）有限公司 数据监控方法、装置、计算机设备及存储介质
CN109376139A (zh) * 2018-08-15 2019-02-22 中国平安人寿保险股份有限公司 数据库集中监控方法、计算机装置及存储介质
CN109408262A (zh) * 2018-09-26 2019-03-01 平安医疗健康管理股份有限公司 一种业务数据处理方法及相关设备
CN110309029A (zh) * 2019-06-29 2019-10-08 深圳乐信软件技术有限公司 异常数据的采集方法、装置、计算机设备和存储介质
CN110351436A (zh) * 2019-07-08 2019-10-18 平安科技（深圳）有限公司 FreeSWITCH监控方法、设备、存储介质及装置
CN110750366A (zh) * 2019-09-26 2020-02-04 浙江大搜车软件技术有限公司 消息处理方法、装置、计算机设备和存储介质
CN110865929A (zh) * 2019-11-26 2020-03-06 携程旅游信息技术（上海）有限公司 异常检测预警方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王苏南;李印海;罗兴国;: "基于分层抽样算法的异常攻击流量检测", 计算机工程, no. 12 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI819385B (zh) * 2020-09-30 2023-10-21 大陸商中國銀聯股份有限公司 異常告警方法、裝置、設備及存儲介質
CN113760874A (zh) * 2020-11-27 2021-12-07 北京京东尚科信息技术有限公司 数据质量检测的方法、装置、电子设备和存储介质
CN113010508A (zh) * 2021-03-23 2021-06-22 内蒙古电力(集团)有限责任公司内蒙古电力科学研究院分公司 一种电力计量数据质量监控方法、装置及大数据计算平台
CN113347201A (zh) * 2021-06-25 2021-09-03 安徽容知日新科技股份有限公司 一种异常检测方法、系统及计算设备
CN113347201B (zh) * 2021-06-25 2023-08-18 安徽容知日新科技股份有限公司 一种异常检测方法、系统及计算设备

Also Published As

Publication number Publication date
CN111400294B (zh) 2023-08-01

Similar Documents

Publication Publication Date Title
CN111400294B (zh) 数据异常监测方法、装置及系统
CN107908494B (zh) 异常事件的处理方法、装置、电子设备及存储介质
CN107911487B (zh) 信息推送方法、装置、服务器及可读存储介质
CN110213068B (zh) 一种消息中间件的监控方法及相关设备
CN108055343B (zh) 用于机房的数据同步方法及装置
CN106548402B (zh) 资源转移监控方法及装置
CN112311617A (zh) 一种配置化数据监控告警方法及系统
US8631280B2 (en) Method of measuring and diagnosing misbehaviors of software components and resources
CN112307057A (zh) 数据的处理方法及装置、电子设备、计算机存储介质
US20150095698A1 (en) Information processing device, fault avoidance method, and program storage medium
CN111881221A (zh) 物流服务里客户画像的方法、装置和设备
CN111813635A (zh) 一种区块链智能合约的监控方法、系统及装置
CN111381970A (zh) 集群任务的资源分配方法及装置、计算机装置及存储介质
CN109409948B (zh) 交易异常检测方法、装置、设备及计算机可读存储介质
CN108429636B (zh) 定位异常系统的方法及装置和电子设备
CN115202898A (zh) 消息消费方法、装置、计算机设备和存储介质
CN109039695B (zh) 业务故障处理方法、装置及设备
CN112419018A (zh) 分布式环境下的通用数据对账方法、服务器及存储介质
CN112650613B (zh) 一种错误信息处理方法、装置、电子设备及存储介质
US20210064452A1 (en) Assigning a severity level to a computing service using tenant telemetry data
CN111427878A (zh) 数据监控告警方法、装置、服务器和存储介质
CN116909815B (zh) 任务重试方法、介质和计算机设备
CN113763023B (zh) 用户识别的方法、装置、电子设备和存储介质
CN110264211B (zh) 风控方法、系统、装置及设备
US20240160506A1 (en) Operation support apparatus, system, method, and computer-readable medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant