CN107895013B - 数据质量规则控制方法及装置、存储介质、电子设备 - Google Patents

Abstract

本公开是关于一种数据质量规则控制方法及装置，属于数据处理技术领域。该方法包括：根据预设抽取规则自基础数据层抽取数据生成目标数据层；基于预设质控语法规则根据预设映射规则将目标数据层转化为二维数据层；通过预设算法将二维数据层转化为可供同步查询的多维数据立方体；其中，预设抽取规则、预设质控语法规则、预设映射规则以及预设算法均可基于数据质量需求调整。本公开一方面可以将规则和原始数据解耦，实现规则的快速迭代；另一方面可以基于需求通过灵活的处理方法不断调整数据质量。

Description

数据质量规则控制方法及装置、存储介质、电子设备

技术领域

本公开涉及数据处理技术领域，具体而言，涉及一种数据质量规则控制方法、数据质量规则控制装置、计算机可读存储介质以及电子设备。

背景技术

数据质量是大数据行业的核心，是组织最具价值的资产之一。随着大数据的发展，数据来源的多样性，数据结构的复杂性，数据质控越来越困难。现有技术的数据质控大多基于一些固定的质量指标、质量阈值对数据进行批处理或者抽样。而质控技术中的扩展性、丰富度、弹性已成为质控技术领域面临的重大挑战。

现有技术方案大多通过以下流程监测数据质量：探查数据内容、结构和异常、建立数据质量度量并明确目标、设计和实施数据质量业务规则、将数据质量规则构建到数据集成过程中、检查异常并完善规则对照目标。

现有技术对于质控规则的录入、迭代和监控很难做到快速迭代和增强。规则具有中心化，耦合度高，验证能力差等缺点。其中中心化是指所有的质控规则都是通过质控平台增加配置，不具有开放性。因为数据是实时流入的，随时都可能会有新的质量问题出现，管理员第一时间很难发现质量问题；耦合度高是指数据的数据结构，用途、来源具有特别大的多样性，现有的技术基本都是规则和固定数据耦合，没有统一的质控数据层，质控DSL(Domain Specific Language，领域专用语言)，导致规则的更新、迭代效率低下。验证能力差是指如果数据中具有当前数据问题，并且规则质控出了问题，规则是有效的。但是检测不出问题可能是数据中现在已经没有了该问题，或者规则本身有问题。如何分辨往往较复杂。特别是有海量的质控规则后，如何验证规则的有效性也是数据质控的一大难题。

因此，需要提供一种新的数据质量规则控制方法及装置。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种数据质量规则控制方法、数据质量规则控制装置、计算机可读存储介质以及电子设备，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本公开的一个方面，提供一种数据质量规则控制方法，所述数据质量规则控制方法包括：

根据预设抽取规则自基础数据层抽取数据生成目标数据层；

基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可基于数据质量需求调整。

在本公开的一种示例性实施例中，所述根据预设抽取规则自基础数据层抽取数据生成目标数据层包括：

使用对应所述预设抽取规则的数据抽取器自基础数据层抽取数据生成目标数据层。

在本公开的一种示例性实施例中，所述基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层包括：

基于预设领域专用语言的语法规则，根据预设联机分析处理映射规则将所述目标数据层转化为二维数据层；

其中，所述二维数据层可供异步查询。

在本公开的一种示例性实施例中，所述通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体包括：

通过预设数据立方体算法将所述二维数据层转化为可供同步查询的多维数据立方体。

根据本公开的一个方面，提供一种数据质量规则控制装置，所述数据质量规则控制装置包括：

抽取模块，用于根据预设抽取规则自基础数据层抽取数据生成目标数据层；

映射模块，用于基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

转化模块，用于通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可基于数据质量需求调整。

在本公开的一种示例性实施例中，所述根据预设抽取规则自基础数据层抽取数据生成目标数据层包括：

使用对应所述预设抽取规则的数据抽取器自基础数据层抽取数据生成目标数据层。

在本公开的一种示例性实施例中，所述基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层包括：

基于预设领域专用语言的语法规则，根据预设联机分析处理映射规则将所述目标数据层转化为二维数据层；

其中，所述二维数据层可供异步查询。

在本公开的一种示例性实施例中，所述通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体包括：

通过预设数据立方体算法将所述二维数据层转化为可供同步查询的多维数据立方体。

根据本公开的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的数据质量规则控制方法。

根据本公开的一个方面，提供一种电子设备，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的数据质量规则控制方法。

由上述技术方案可知，本公开提供的一种数据质量规则控制方法，其优点和积极效果在于：

本公开提供的一种数据质量规则控制方法，包括根据预设抽取规则自基础数据层抽取数据生成目标数据层；基于预设质控语法规则根据预设映射规则将目标数据层转化为二维数据层；通过预设算法将二维数据层转化为可供同步查询的多维数据立方体；其中，预设抽取规则、预设质控语法规则、预设映射规则以及预设算法均可基于数据质量需求调整。

通过将数据层层抽取、转化，并在过程中可以基于对数据质量的需求对抽取规则、质控语法、映射规则以及算法等随时调整，一方面可以将规则和原始数据解耦，实现规则的快速迭代；另一方面，通过灵活的处理方法可以基于需求不断调整数据质量。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示意性示出本公开示例性实施例中一种数据质量规则控制方法的流程示意图；

图2示意性示出本公开示例性实施例中数据质量规则控制装置的模拟框图；

图3示意性示出本公开示例性实施例中数据质量规则控制装置的示意图；

图4示意性示出一种用于实现上述数据质量规则控制方法的电子设备；

图5示意性示出一种用于实现上述数据质量规则控制方法的计算机可读存储介质。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

本示例实施方式中首先提供了一种数据质量规则控制方法。参照图1所示，该数据质量规则控制方法可以包括以下步骤：

步骤S110.根据预设抽取规则自基础数据层抽取数据生成目标数据层；

步骤S120.基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

步骤S130.通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可基于数据质量需求调整。

由上述技术方案可知，本公开提供的一种数据质量规则控制方法，包括根据预设抽取规则自基础数据层抽取数据生成目标数据层；基于预设质控语法规则根据预设映射规则将目标数据层转化为二维数据层；通过预设算法将二维数据层转化为可供同步查询的多维数据立方体；其中，预设抽取规则、预设质控语法规则、预设映射规则以及预设算法均可基于数据质量需求调整。

通过将数据层层抽取、转化，并在过程中可以基于对数据质量的需求对抽取规则、质控语法、映射规则以及算法等随时调整，一方面可以将规则和原始数据解耦，实现规则的快速迭代；另一方面，通过灵活的处理方法可以基于需求不断调整数据质量。

下面，结合图1至图3，将对本示例实施方式中上述数据质量规则控制方法中的各步骤进行详细的解释以及说明。

在本示例实施例中，位于离线端的数据从处理最初到最后形成可供同步查询的数据可以包括四层：依次为基础数据层3131、目标数据层3132、二维数据层3133以及数据立方体3134，且上述各层之间可以依次通过一定的处理规则进行转化。

在步骤S10中，可以根据预设抽取规则自基础数据层3131抽取数据生成目标数据层3132；其中，基础数据层3131在医疗领域可以包括病患信息、疾病诊断、检查检验，用药等多方面的数据，进一步的数据抽取器可以根据预设抽取规则自基础数据层3131中抽取数据生成目标数据层3132，比如，可以设置数据抽取器抽取年龄为10-12岁少年儿童的生长发育等相关数据，还可以抽取60-70岁中老年人的多发疾病等相关数据，还可以抽取60-70岁中的性别为男的中老年人的疾病健康等相关数据。其中，抽取器可以包括具有较强适用性的通用数据抽取器3141，也可以包括具有较强针对性的某数据抽取器3142，还可以包括其他自定义抽取器3143等。

在步骤S120中，可以基于预设质控语法规则根据预设映射规则将所述目标数据层3132转化为二维数据层3133；其中所述预设质控语法规则可以使用某语法规则模块3152进行设置，某语法规则模块3152可以包括DSL模块，其中DSL(Domain Specific Language，领域专用语言)不像通用目的语言那样目标范围涵盖一切软件问题，而是专门针对某一特定问题的计算机语言。

详细而言，基于DSL模块进行数据抽取，其中数据可以从一个或多个维度进行抽取，下面以从二个维度进行抽取为例，可以按照以下步骤进行：首先可以定义用于表示某些数据和数据集合的主键，即唯一身份标识；其次可以在第一个维度上设置想要抽取数据名称，例如年龄、性别、诊断、检查、检验、用药、科室、就诊类型以及消费额等；以及需要抽取的数据类型，例如字段或者集合；定义具体的映射关系，例如可以自某一个或某几个表进行数据抽取；经过抽取返回所需数据字段，以及所述数据字段所在的数据表名。其中，在返回的所需数据字段及数据表名中，可能会存在多个表属于同一个主键的情况，则每个连接到主表主属性的链条可以是一个分组，如果有多个主属性，则可以用“and”(和)连接。其次，在返回的数据字段中，需要从第二个维度进一步抽取，从而对所抽取的数据进行聚合，进而进行更详细的运算或统计，例如求和、求平均值、或者分组运算等。需要补充的是，如果在返回的数据字段中发现存在较多的干扰数据，还可以增加过滤模块，以对数据进行清洗。

举例而言，在上述步骤中，首先可以抽取患者诊断为“糖尿病”的数据，则返回的数据包括多个患者诊断中含有“糖尿病”的多个字段及相应的数据表名。其次需要抽取患者诊断为“糖尿病”的年龄在40-45周岁的数据，返回的数据则包括年龄在40-45周岁的患者诊断中含有“糖尿病”的多个字段及相应的数据表名。

此外，还可以对所抽取的数据进行运算或统计，例如求患者诊断为“糖尿病”的患者的平均年龄，则首先需要将在第一步骤中抽取的所有患者诊断中含有“糖尿病”的多个字段及相应的数据表名进行聚合，其次在数据表名所连接的多个分组中，抽取年龄数据，并对所有年龄进行平均值计算以得出抽取结果。

在其他的实施例中，可能需要对数据从多个维度进行抽取、集合、运算或统计等，且数据在过程中是实时流入的，还可能会有新的数据类型流入，或者需要排除干扰数据等，以提高数据质量，因此本数据质量规则控制方法可以通过可以通过位于在线端的管理平台320中的语法规则模块323自定义，通过开放DSL质控接口，自定义质控规则，从而支持多维度切分过滤，多维度展现，多种查询集合运算等。

进一步的，所述预设映射规则可以使用某映射模块3151进行设置，可以包括OLAP(On-Line Analytical Processing，联机分析处理)映射，其中OLAP是一种软件技术，它使分析人员能够迅速、一致、交互地从各个方面观察信息，以达到深入理解数据的目的。

在步骤S130中，可以通过预设算法将所述二维数据层3133转化为可供同步查询的多维数据立方体3134；其中所述预设算法可以使用配置转化模块3161进行设置，所述配置转化模块3161可以将所述二维数据层3133，通过预计算，转化为多维数据立方体3134。其中多维数据立方体3134可以包括Kylin数据立方体，其中Kylin的全称是Apache Kylin，是一个开源的分布式分析引擎，提供Hadoop之上超大规模数据的SQL查询接口及多维分析(OLAP)能力。Apache Kylin于2015年11月正式毕业成为Apache基金会(ASF)顶级项目，是第一个由中国团队完整贡献到Apache的顶级项目。

进一步的，生成的数据立方体3134可以存入开源数据库。此外，在与所述配置转化模块同层还包括集群分发模块3162，所述集群分发模块3162可以触发所述配置转化模块3161执行所述预计算。

需要说明的是，在本示例实施例中，为了实现质控规则的去中心化，使规则与数据解耦，从而使得规则的提取与提交不局限于质控平台单点，任何人都可以随时提交质控规则，以便质控规则可以快速收集、验证、持久化，还可以基于数据质量的需求通过管理平台300调整上述预设抽取规则、预设质控语法规则、预设映射规则以及预设算法。管理平台300可以与对数据质量需求不同的业务连接，例如质控平台甲331、某项目乙332或其他业务333。

详细而言，如图3所示，管理平台300可以包括任务管理与调度模块321、合并器管理322、语法规则模块323、抽取器管理324、元数据管理325以及开放接口326等。

其中，任务管理与调度模块321可以控制任务持久化、任务查询、状态可视化以及任务容错等，可以根据任务属性和依赖性完成任务调度分发。合并器管理322，可以用来合并不同医院的查询结果，合并器工作于在线端。抽取器管理324，可以用于从基础数据层抽取数据，抽取器工作于离线端。此外，平台还可以定义抽取器与合并器接口，业务方可以实现该接口，插件化接入平台。语法规则模块323，可以为平台使用方设计统一的查询DSL语法规则，且支持多维度切分过滤，多维度展现，查询集合运算等，且语法规则模块323可以通过管理平台开放质控接口。元数据管理325可以使管理平台接入各个版本的元数据，具有录入、查询、导出等功能。开放接口326还可以包括开放元数据查询接口3261，以及数据分析查询接口3262。

其中，如图3所示，数据查询模块317可以通过二维数据层3133进行离线异步查询，数据查询模块317还可以通过数据立方体3134进行在线同步查询。

在本示例实施例中，在建立质控规则的同时还可以设置规则校验模块，以便检验质控规则的有效性。详细而言，规则校验模块可以包括数据病毒库，且数据病毒库可以包括多个错误数据，该多个错误数据可以经过拉平差异后生成中间数据层，并在中间数据层进行质控，其中一个或多个错误数据用于在所述质控规则运行时输出错误结果，以此检验所述质控规则的正确性和有效性。

本公开还提供了一种数据质量规则控制装置200。参照图2所示，该数据质量规则控制装置可以包括抽取模块210、映射模块220以及转化模块230。其中：

抽取模块210，可以用于根据预设抽取规则自基础数据层抽取数据生成目标数据层；

映射模块220，可以用于基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

转化模块230，可以用于通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可基于数据质量需求调整。

上述数据质量规则控制装置200中各模块的具体细节已经在对应的数据质量规则控制方法中进行了详细想描述，因此此处不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图4来描述根据本发明的这种实施方式的电子设备400。图4显示的电子设备400仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图4所示，电子设备400以通用计算设备的形式表现。电子设备400的组件可以包括但不限于：上述至少一个处理单元410、上述至少一个存储单元420、连接不同系统组件(包括存储单元420和处理单元410)的总线430。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元410执行，使得所述处理单元410执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元410可以执行如图1中所示的步骤S110，根据预设抽取规则自基础数据层抽取数据生成目标数据层；步骤S120，基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；步骤S130，通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可基于数据质量需求调整。

存储单元420可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)4201和/或高速缓存存储单元4202，还可以进一步包括只读存储单元(ROM)4203。

存储单元420还可以包括具有一组(至少一个)程序模块4205的程序/实用工具4204，这样的程序模块4205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线430可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备400也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备400交互的设备通信，和/或与使得该电子设备400能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备400还可以通过网络适配器460与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器460通过总线430与电子设备400的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备400使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。

参考图5所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品500，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

Claims (10)

1.一种数据质量规则控制方法，其特征在于，所述数据质量规则控制方法包括：

根据预设抽取规则自基础数据层抽取数据生成目标数据层；

基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可通过在线管理平台中的语法规则模块中的领域专用语言模块进行自定义，并且可以基于数据质量需求调整，所述预设映射规则可通过联机分析处理映射模块进行设置，所述预设算法可通过配置转化模块进行设置；

在建立所述数据质量规则的同时设置规则校验模块，以检验所述数据质量规则的有效性，其中，所述规则校验模块包括数据病毒库，所述数据病毒库包括多个错误数据，所述错误数据用于在所述数据质量规则运行时输出错误结果，以检验所述数据质量规则的正确性和有效性。

2.根据权利要求1所述的数据质量规则控制方法，其特征在于，所述根据预设抽取规则自基础数据层抽取数据生成目标数据层包括：

使用对应所述预设抽取规则的数据抽取器自基础数据层抽取数据生成目标数据层。

3.根据权利要求2所述的数据质量规则控制方法，其特征在于，所述基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层包括：

基于预设领域专用语言的语法规则，根据预设联机分析处理映射规则将所述目标数据层转化为二维数据层；

其中，所述二维数据层可供异步查询。

4.根据权利要求3所述的数据质量规则控制方法，其特征在于，所述通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体包括：

通过预设数据立方体算法将所述二维数据层转化为可供同步查询的多维数据立方体。

5.一种数据质量规则控制装置，其特征在于，所述数据质量规则控制装置包括：

抽取模块，用于根据预设抽取规则自基础数据层抽取数据生成目标数据层；

映射模块，用于基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层；

转化模块，用于通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体；

其中，所述预设抽取规则、所述预设质控语法规则、所述预设映射规则以及所述预设算法均可通过在线管理平台中的语法规则模块中的领域专用语言模块进行自定义，并且可以基于数据质量需求调整，所述预设映射规则可通过联机分析处理映射模块进行设置，所述预设算法可通过配置转化模块进行设置；

校验模块，用于在建立所述数据质量规则的同时设置规则校验模块，以检验所述数据质量规则的有效性，其中，所述规则校验模块包括数据病毒库，所述数据病毒库包括多个错误数据，所述错误数据用于在所述数据质量规则运行时输出错误结果，以检验所述数据质量规则的正确性和有效性。

6.根据权利要求5所述的数据质量规则控制装置，其特征在于，所述根据预设抽取规则自基础数据层抽取数据生成目标数据层包括：

使用对应所述预设抽取规则的数据抽取器自基础数据层抽取数据生成目标数据层。

7.根据权利要求6所述的数据质量规则控制装置，其特征在于，所述基于预设质控语法规则根据预设映射规则将所述目标数据层转化为二维数据层包括：

基于预设领域专用语言的语法规则，根据预设联机分析处理映射规则将所述目标数据层转化为二维数据层；

其中，所述二维数据层可供异步查询。

8.根据权利要求7所述的数据质量规则控制装置，其特征在于，所述通过预设算法将所述二维数据层转化为可供同步查询的多维数据立方体包括：

通过预设数据立方体算法将所述二维数据层转化为可供同步查询的多维数据立方体。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1～4任一项所述的数据质量规则控制方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1～4任一项所述的数据质量规则控制方法。

Images