CN113128943B - 数据质量监控方法、装置、电子设备、存储介质 - Google Patents

Abstract

本发明提供一种数据质量监控方法、装置、电子设备、存储介质。数据质量监控方法包括：基于采集项的配置信息生成采集项实例；基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；若不符合，则基于预设报警规则，进行报警。本发明提供的方法及装置实现数据质量的自动校验和自动报警，无需人力参与，可扩展性强、校验准确性高且报警及时。

Description

数据质量监控方法、装置、电子设备、存储介质

技术领域

本发明涉及计算机应用技术领域，尤其涉及一种数据质量监控方法、装置、电子设备、存储介质。

背景技术

随着大数据时代的到来，数据的价值日益凸显，因此各平台也日渐依赖着越来越多的数据进行更精细化的运行。但仅有数据是不够的，如果不关注数据质量，对数据的依赖越深，造成的损失越大。如果有一种专业的数据质量校验平台，可以对例行按任务产出的数据或持续产生的数据进行校验，那关注数据质量的业务只需简单配置一下即可实现对数据质量进行多方面的监控，可以及时发现问题，防止有问题的数据造成更大的决策问题。

目前未有成熟的全套解决方案，很多机构不对数据质量进行监控，仅在使用中发现问题时开始排查。关注数据质量的机构一般是在数据生产完成之后进行人工检查或程序化的自我校验。

人工检查的最大缺点是人力成本过大，可扩展性差、可能出现人为失误，最重要的是可能漏掉很多质量问题。单个程序自我校验数据的方式虽较人工检查优化很多，但检查方法只针对单一种数据，检查方法不方便为其它数据共享。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本发明为了克服上述相关技术存在的缺陷，提供一种数据质量监控方法、装置、电子设备、存储介质，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本发明的一个方面，提供一种数据质量监控方法，包括：

基于采集项的配置信息生成采集项实例；

基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；

基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

若不符合，则基于预设报警规则，进行报警。

在本发明的一些实施例中，所述采集项的配置信息至少包括一个或多个触发字段及其预设值，当该一个或多个触发字段到达所述预设值时，触发所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例的执行。

在本发明的一些实施例中，所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例之后还包括：

将所述采集项实例存入数据库，以供所述至少一校验字段进行匹配。

在本发明的一些实施例中，所述判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则包括：

判断当前写入的所述采集项实例及所述历史采集项实例是否符合多个预设校验规则，

其中，所述预设报警规则包括合并同一采集项实例的校验结果。

在本发明的一些实施例中，所述至少一校验字段为数值型字段。

在本发明的一些实施例中，所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例包括：

若所述采集脚本执行失败，则重试执行所述采集脚本。

在本发明的一些实施例中，所述基于预设报警规则，进行报警包括：

若报警失败，则重试报警。

根据本发明的又一方面，还提供一种数据质量监控装置，包括：

生成模块，用于基于采集项的配置信息生成采集项实例；

执行模块，用于基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；

匹配模块，用于基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

校验模块，用于判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

报警模块，用于当所述校验模块判断为不符合时，基于预设报警规则，进行报警。

根据本发明的又一方面，还提供一种电子设备，所述电子设备包括：处理器；存储介质，其上存储有计算机程序，所述计算机程序被所述处理器运行时执行如上所述的步骤。

根据本发明的又一方面，还提供一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如上所述的步骤。

相比现有技术，本发明的优势在于：

通过采集项的配置执行采集脚本从而获取数据质量信息，进一步通过预设校验规则对数据质量信息进行自动校验和自动报警，无需人力参与，可扩展性强、校验准确性高且报警及时。

附图说明

通过参照附图详细描述其示例实施方式，本发明的上述和其它特征及优点将变得更加明显。

图1示出了根据本发明实施例的数据质量监控方法的流程图。

图2示出了根据本发明实施例的保存采集项实例的流程图。

图3示出了根据本发明实施例的数据质量监控装置的模块图。

图4示出了根据本发明另一实施例的数据质量监控装置的模块图。

图5示意性示出本发明示例性实施例中一种计算机可读存储介质示意图。

图6示意性示出本发明示例性实施例中一种电子设备示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外，附图仅为本发明的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的步骤。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此，实际执行的顺序有可能根据实际情况改变。

图1示出了根据本发明实施例的数据质量监控方法的流程图。参考图1，所述的数据质量监控方法可以包括以下步骤：

步骤S110：基于采集项的配置信息生成采集项实例；

步骤S120：基于采集项的配置信息执行采集脚本以采集数据质量信息,并将所述采集脚本的采集结果写入所述采集项实例；

步骤S130：基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

步骤S140：判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

若步骤S140判断为不符合，则执行步骤S150基于预设报警规则，进行报警。

在本发明的示例性实施方式的数据质量监控方法中，通过采集项的配置执行采集脚本从而获取数据质量信息，进一步通过预设校验规则对数据质量信息进行自动校验和自动报警，无需人力参与，可扩展性强、校验准确性高且报警及时。

在本发明的各个实施例中，所述的数据质量信息一般包括数据总行数、数据文件总大小、数据内的文件数量，以及某些重点字段的总行数、字段总和、最大值、最小值、平均值、中位数、唯一值个数等，以及某个字段是否有等于指定值的行和行数等，本发明并非以此为限制。

下面将对本发明的示例性实施方式的数据质量监控方法进行说明。

在本发明的一些实施例中，采集项、采集项实例、校验规则、采集项校验结果、报警接收人、报警规则的含义示例性描述如下：

采集项：记录采集对象和采集方法。采集项的内容可以包括采集脚本的路径、例行运行任务的表达式、依赖任务所在的调度系统的名称、数据生产任务ID、数据生产任务的表达式等。采集项的内容可以经由用户配置，从而获得采集项的配置信息。

采集项实例：记录每个采集项一个结果。采集项实例可以包括采集项ID、采集项日期批次、采集项的采集脚本的采集结果等。

校验规则：用户自定义规则的布尔表达式以及应用到的采集项ID。

采集项校验结果：记录每个采集项实例对应于一个校验规则的校验结果。采集项校验结果可以包括采集项实例ID、校验规则ID、是否通过规则、电话报警记录、短信报警记录、邮件报警记录等。

报警规则：记录每个采集项如何报警。报警规则可以包括采集项ID、接收人ID、接收方式(电话、短信、邮件)等。报警接收人可以包括接收人、手机号、邮箱(同时还可以包括用户登录信息，如用户名、密码)。

用户可以通过对采集项、校验规则、报警规则进行配置和设定，从而应用于不同的业务及不同的数据质量的采集、校验和报警。

在本发明的一些实施例中，所述采集项的配置信息至少包括一个或多个触发字段及其预设值，当该一个或多个触发字段到达所述预设值时，触发所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例的执行。触发字段例如可以包括日期关键字、依赖任务的执行状态，由此，若当前时间到达日期关键字的预设值获得依赖任务的执行状态的值表示依赖任务完成时，触发采集脚本的执行。进一步地，触发字段还可以方便例行运行程序传入参数。触发字段例如可以为{DATE}(其默认格式yyyy-MM-ddHH:mm:ss)、{TIME}(默认格式HH:mm:ss)。这两个参数的默认值是采集项实例的计划执行时间。用户可以在脚本中自己对这两个参数进行格式变换或值的增减操作。进一步地，采集脚本在独立线程内运行，并记录结果到采集项实例中。为防止安全隐患，可以使用低权限用户执行脚本。为了兼容网络原因或系统临时不可用的情况，每个采集项实例在执行失败的情况下会进行N次重试(N例如为大于等于1的整数，在一个优选例中，N为2)。

在本发明的一些实施例中，在执行采集脚本后，还可以包括储存采集项实例的步骤，如图2所示。在图1所示的步骤S120基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例之后还包括步骤S210：将所述采集项实例存入数据库。对应地，步骤S210之后执行的步骤S130为基于至少一校验字段于所述数据库自同一采集项的多个采集项实例中匹配历史采集项实例。由此，可以持续采集数据的质量信息并记录历次结果。不论是离线数据还是持续生成的在线数据。历史数据可以用于自动化对比，也可进行图表化查看。如果累积的历史数据充足，可以为提升数据质量提供更多助力。相比背景技术只对单次数据进行校验，不记录历史数据，无法和历史数据对比，也无法通过查看长期的历史数据总结规律，提升数据效果。

进一步地，校验规则可以通过校验字段匹配到历史采集项实例，从而基于校验规则的布尔表达式可以对当前写入的所述采集项实例及所述历史采集项实例进行比较和判断。校验字段例如可以包括时间类字段({DATE}、{TIME})和结果类字段。结果类字段例如为{LASTVALUE(n)}，参数n用于指定按批次日期倒推的第n个采集项实例的值。例如，如果一个采集项每天运行一次，{LASTVALUE(7)}代表7天前的实例的值。运行校验规则前可以自动替换表达式中的校验字段。具体而言，上述校验字段可以为数值型字段。

在本发明的一些实施例中，图1所示的步骤S140判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则中可以判断多个预设校验规则，由此，所述预设报警规则可以包括合并同一历史采集项实例的校验结果。换言之，同一历史采集项实例的所有判断为否的预设校验规则可以一并报警。进一步地，如果报警信息发送失败，可以进行N次报警重试(N例如为大于等于1的整数，在一个优选例中，N为2)。

在本发明的一个具体实现中，可以向用户提供多个页面，以进行用户登录、采集项、校验规则、报警规则进行配置和设定，本发明并非以此为限制，用户可以通过提供的页面禁用、启用某个采集项、校验规则、报警规则。

由此，本发明提供了专业监控数据质量的平台，用户只需从业务角度关注如何获取数据质量的信息，如何校验这两方面，不需自己实现报警功能。大大简化报警的实现。本发明可以持续采集数据的质量信息并记录历次结果。不论是离线数据还是持续生成的在线数据。历史数据可以用于自动化对比，也可进行图表化查看。如果累积的历史数据充足，可以为提升数据质量提供更多助力。现有技术只对单次数据进行校验，不记录历史数据，无法和历史数据对比，也无法通过查看长期的历史数据总结规律，提升数据效果。本发明可以集中进行监控和报警的管理。另外，本发明的采集和报警都有自动重试，另外报警方式和触发条件灵活：成功、失败、超时报警。

进一步地，本示例实施方式中还提供了一种数据质量监控装置。

图3示出了根据本发明一实施例的数据质量监控装置的模块图。数据质量监控装置300包括生成模块310、执行模块320、匹配模块330、校验模块340及报警模块350。

生成模块310用于基于采集项的配置信息生成采集项实例；

执行模块320用于基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；

匹配模块330用于基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

校验模块340用于判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

报警模块350用于当所述校验模块判断为不符合时，基于预设报警规则，进行报警。

在本发明的示例性实施方式的数据质量监控装置中，通过采集项的配置执行采集脚本从而获取数据质量信息，进一步通过预设校验规则对数据质量信息进行自动校验和自动报警，无需人力参与，可扩展性强、校验准确性高且报警及时。

图3仅仅是示意性的示出本发明提供的数据质量监控装置，在不违背本发明构思的前提下，模块的拆分、合并、增加都在本发明的保护范围之内。数据质量监控装置可以通过软件、硬件、固件或他们之间的任意组合来实现，本发明并非以此为限制。

图4示出了根据本发明另一实施例的数据质量监控装置的模块图。数据质量监控装置400包括生成模块410、执行模块420、储存模块430、匹配模块440、校验模块450及报警模块460。其中，生成模块410、执行模块420、匹配模块440、校验模块450及报警模块460的作用与生成模块310、执行模块320、匹配模块330、校验模块340及报警模块350的作用相同，在此不予赘述。储存模块430用于将所述采集项实例存入数据库，以供后续作为历史采集项实例使用。

由此，可以持续采集数据的质量信息并记录历次结果。不论是离线数据还是持续生成的在线数据。历史数据可以用于自动化对比，也可进行图表化查看。如果累积的历史数据充足，可以为提升数据质量提供更多助力。现有技术只对单次数据进行校验，不记录历史数据，无法和历史数据对比，也无法通过查看长期的历史数据总结规律，提升数据效果。

在本发明的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被例如处理器执行时可以实现上述任意一个实施例中所述数据质量监控方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述数据质量监控方法部分中描述的根据本发明各种示例性实施方式的步骤。

参考图5所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在租户计算设备上执行、部分地在租户设备上执行、作为一个独立的软件包执行、部分在租户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到租户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

在本发明的示例性实施例中，还提供一种电子设备，该电子设备可以包括处理器，以及用于存储所述处理器的可执行指令的存储器。其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述数据质量监控方法的步骤。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述数据质量监控方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图1至4任一幅流程图所示的步骤。

所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得租户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明实施方式的上述数据质量监控方法。

相比现有技术，本发明的优势在于：

通过采集项的配置执行采集脚本从而获取数据质量信息，进一步通过预设校验规则对数据质量信息进行自动校验和自动报警，无需人力参与，可扩展性强、校验准确性高且报警及时。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由所附的权利要求指出。

Claims (10)

1.一种数据质量监控方法，其特征在于，包括：

基于采集项的配置信息生成采集项实例，所述采集项的配置信息至少包括一个或多个触发字段及其预设值；

当该一个或多个所述触发字段到达所述预设值时，触发基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；

基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

若不符合，则基于预设报警规则，进行报警。

2.如权利要求1所述的数据质量监控方法，其特征在于，所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例之后还包括：

将所述采集项实例存入数据库，以供所述至少一校验字段进行匹配。

3.如权利要求1所述的数据质量监控方法，其特征在于，所述判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则包括：

判断当前写入的所述采集项实例及所述历史采集项实例是否符合多个预设校验规则。

4.如权利要求1所述的数据质量监控方法，其特征在于，其中，所述预设报警规则包括合并同一采集项实例的校验结果。

5.如权利要求1至4任一项所述的数据质量监控方法，其特征在于，所述至少一校验字段为数值型字段。

6.如权利要求1至4任一项所述的数据质量监控方法，其特征在于，所述基于采集项的配置信息执行采集脚本，并将所述采集脚本的采集结果写入所述采集项实例包括：

若所述采集脚本执行失败，则重试执行所述采集脚本。

7.如权利要求1至4任一项所述的数据质量监控方法，其特征在于，所述基于预设报警规则，进行报警包括：

若报警失败，则重试报警。

8.一种数据质量监控装置，其特征在于，包括：

生成模块，用于基于采集项的配置信息生成采集项实例，所述采集项的配置信息至少包括一个或多个触发字段及其预设值；

执行模块，用于当该一个或多个所述触发字段到达所述预设值时，触发基于采集项的配置信息执行采集脚本以采集数据质量信息，并将所述采集脚本的采集结果写入所述采集项实例；

匹配模块，用于基于至少一校验字段自同一采集项的多个采集项实例中匹配历史采集项实例；

校验模块，用于判断当前写入的所述采集项实例及所述历史采集项实例是否符合预设校验规则；

报警模块，用于当所述校验模块判断为不符合时，基于预设报警规则，进行报警。

9.一种电子设备，其特征在于，所述电子设备包括：

处理器；

存储器，其上存储有计算机程序，所述计算机程序被所述处理器运行时执行如权利要求1至7任一项所述的数据质量监控方法。

10.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如权利要求1至7任一项所述的数据质量监控方法。