CN112685397A - 用于校验数据清洗结果的方法、装置、设备及存储介质 - Google Patents

Abstract

本申请公开了一种用于校验数据清洗结果的方法、装置、设备及存储介质，属于大数据技术领域，所述方法通过接收校验指令，确定与校验指令相对应的待清洗数据，将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，对待清洗数据进行数据清洗，获取待清洗数据的清洗结果，其中，清洗结果包括待清洗数据的第二维度编码组合，比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性。此外，本申请还涉及区块链技术，待清洗数据可存储于区块链中。本申请通过对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

Description

用于校验数据清洗结果的方法、装置、设备及存储介质

技术领域

本申请属于大数据技术领域，具体涉及一种用于校验数据清洗结果的方法、装置、设备及存储介质。

背景技术

随着大数据技术的发展，数据作为一种宝贵的资源受到越来越多科技公司的重视，由此衍生了一系列数据清洗、数据分析的需求，而数据清洗分析的最终结果是公司决策的依据，因此数据清洗结果的准确性对于一个企业来说是至关重要。

目前，大多数的公司采用人工对数据清洗结果进行校验，但是由于科技公司数据量非常庞杂，且涉及到多个维度，因此数据清洗结果的数据量也很大，包含的维度层级也很复杂，通过人工对数据清洗结果进行校验的方式会耗费大量的人力、物力，且由于测试人员粗心和视觉疲劳等问题，很容易将数据清洗结果的错误问题遗漏。

发明内容

本申请实施例的目的在于提出一种用于校验数据清洗结果的方法、装置、计算机设备及存储介质，以解决现有的通过人工对数据清洗结果进行校验的方式会耗费大量的人力、物力，以及校验结果不准确的技术问题。

为了解决上述技术问题，本申请实施例提供一种用于校验数据清洗结果的方法，采用了如下所述的技术方案：

一种用于校验数据清洗结果的方法，包括：

接收校验指令，确定与校验指令相对应的待清洗数据；

将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合；

对待清洗数据进行数据清洗，获取待清洗数据的清洗结果，其中，清洗结果包括待清洗数据的第二维度编码组合；

比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性。

进一步的，在将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合的步骤之前，还包括：

获取数据清洗的业务需求文档，并从业务需求文档中得到所有数据的维度信息；

按照预设的编码规则对所有数据的维度信息进行编码，得到所有数据的维度编码；

将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树。

进一步的，将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树的步骤，具体包括：

对所有数据的维度编码进行排序，得到维度编码排序结果；

将维度编码排序结果中优先级最高的维度编码填入初始树模型结构的根节点；以及

按照维度编码排序结果的优先级顺序将其余维度编码依次填入初始树模型结构的子节点，得到维度层级树。

进一步的，将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合的步骤，具体包括：

获取待清洗数据的当前维度信息，基于当前维度信息得到待清洗数据的当前维度编码；

在维度层级树上查找与当前维度编码相匹配的子节点；

基于与当前维度编码相匹配的子节点逆序遍历维度层级树，获取待清洗数据在各个维度层级的编码；

组合待清洗数据的当前维度编码和待清洗数据在各个维度层级的编码，生成待清洗数据的第一维度编码组合。

进一步的，对待清洗数据进行数据清洗，获取待清洗数据的清洗结果的步骤，具体包括：

对待清洗数据进行解析，得到待清洗数据中各个字段的信息；

将待清洗数据中各个字段的信息导入预设的正则表达式；

将待清洗数据的各个字段分别与正则表达式相匹配，将与正则表达式相匹配的字段作为待清洗数据的清洗结果。

进一步的，比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性的步骤，具体包括：

获取第一维度编码组合的编码长度，得到第一编码长度，以及获取第二维度编码组合的编码长度，得到第二编码长度；

判断第一编码长度和第二编码长度是否相等；

若第一编码长度和第二编码长度不相等，则输出编码长度不相等的提示信息。

进一步的，在比对第一编码长度和第二编码长度的步骤之后，还包括：

分别将第一维度编码组合和第二维度编码组合的划分为若干个相互对应的编码层级；

依次判断相互对应的若干个编码层级中的编码值是否相同；

若存在任意一对相互对应的编码层级中的编码值不相同，则输出编码值不相同的提示信息。

为了解决上述技术问题，本申请实施例还提供一种用于校验数据清洗结果的装置，采用了如下所述的技术方案：

一种用于校验数据清洗结果的装置，包括：

指令接收模块，用于接收校验指令，确定与校验指令相对应的待清洗数据；

第一维度编码组合获取模块，用于将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合；

第二维度编码组合获取模块，用于对待清洗数据进行数据清洗，获取待清洗数据的清洗结果，其中，清洗结果包括待清洗数据的第二维度编码组合；

编码比对模块，用于比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

一种设备，包括存储器和处理器，存储器中存储有计算机可读指令，处理器执行计算机可读指令时实现如上述任一项的用于校验数据清洗结果的方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

一种计算机可读存储介质，计算机可读存储介质上存储有计算机可读指令，计算机可读指令被处理器执行时实现如上述任一项的用于校验数据清洗结果的方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请公开了一种用于校验数据清洗结果的方法、装置、设备及存储介质，属于大数据技术领域，本申请通过将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，以及对待清洗数据进行数据清洗，得到数据清洗结果，数据清洗结果中获取待清洗数据的第二维度编码组合，通过比对第一维度编码组合和第二维度编码组合，基于比对结果实现待清洗数据的清洗结果自动校验，相较于通过人工对数据清洗结果进行校验的方式存在耗费大量的人力、物力的问题，以及由于测试人员粗心和视觉疲劳等，导致校验结果出现错误的问题，本申请通过比对第一维度编码组合和第二维度编码组合来实现对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了本申请可以应用于其中的示例性系统架构图；

图2示出了根据本申请的用于校验数据清洗结果的方法的一个实施例的流程图；

图3示出了根据本申请的用于校验数据清洗结果的装置的一个实施例的结构示意图；

图4示出了根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的用于校验数据清洗结果的方法一般由服务器执行，相应地，用于校验数据清洗结果的装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的用于校验数据清洗结果的的方法的一个实施例的流程图。所述的用于校验数据清洗结果的方法，包括以下步骤：

S201，接收校验指令，确定与校验指令相对应的待清洗数据。

其中，在本申请具体的实施例中，数据清洗指的是数据维度清洗，数据维度清洗是指输入业务系统在某一维度下的数据，得到数据分析场景中包含多个层级的规范化维度信息。例如，以贷款场景为例，每一笔贷款单都包含很多信息，如客户来源渠道信息、产品信息、发放机构信息等等，其中，每种信息又可以看做包含多个不同层级的维信息度，如发放机构信息包括发放机构集团信息、发放机构集团下属的事业部的信息以及事业部下属的分公司的信息。即每一笔贷款单上都包含多个层级的维度信息，根据对每笔贷款单进行维度分析，有利于公司的战略决策，如分析公司的实际业务倾向、每个子机构的业务产出、公司各类产品的销售份额等等。

具体的，在存在数据清洗需求时，服务器自动触发对数据清洗结果进行校验的校验指令，同时确定与校验指令相对应的待清洗数据。

在本实施例中，用于校验数据清洗结果的方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式接收校验指令。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

S202，将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合。

其中，维度层级树通过树结构存储标准维度信息，在维度层级树中，每个子节点中都具有指向父节点的指针，以此实现从叶子节点到根节点的逆序遍历。逆序遍历可以看出是一个升维操作，即依据当前的维度查找上一维度，查找时由下往上进行查找，得到多个层级的标准维度信息。

具体的，将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合。以机构维度为例，某一个机构的组织架构中，第一层级是集团，第二层级是一元事业部、二元事业部、三元事业部，第三层级是事业部下属子公司，如一元事业部下面是上海分公司、杭州分公司、南京分公司。将第一层级编码为“1”，第二层级的一元事业部编码、二元事业部、三元事业部分别编码为“2”、“3”、“4”，第三层级一元事业部下面是上海分公司、杭州分公司、南京分公司分别编码为“5”、“6”、“7”。在本申请具体的实施例中，若待清洗数据为上海分公司的数据，在预先设置的维度层级树确定与上海分公司的数据相对应的子节点，然后通过逆序遍历得到上海分公司的数据在各个维度层级上的编码，各个维度层级上的编码组成有序的遍历节点维度编码组合，即待清洗数据的第一维度编码组合，在上述实施例中，待清洗数据对应的第一维度编码组合为“521”。

S203，对待清洗数据进行数据清洗，获取待清洗数据的清洗结果，其中，清洗结果包括待清洗数据的第二维度编码组合。

具体的，服务器对待清洗数据进行数据清洗，获取待清洗数据的清洗结果。在本申请具体的实施例中，可以通过正则匹配的方法对待清洗数据进行数据清洗。通过对待清洗数据进行解析，得到对待清洗数据中各个字段的信息，将各个字段的信息代入预设的正则表达式，将待清洗数据的各个字段与各正则表达式相匹配，将匹配到的正则表达式中的字段作为待清洗数据的清洗结果。其中，待清洗数据的清洗结果包括若干个字段，每一个字段分别对应一个维度标签，可以通过将维度标签与维度编码表一一比对的方式获得每一个维度标签对应的维度编码，通过组合所有维度标签的维度编码，得到待清洗数据的第二维度编码组合。需要说明的是，维度编码表可以在构建维度层级树时，根据对所有数据的维度编码汇总，得到一个维度编码表。

S204，比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性。

具体的，服务器根据上述实施例生成的待清洗数据的第一维度编码组合和第二维度编码组合，然后通过比对第一维度编码组合和第二维度编码组合，并基于比对结果确定待清洗数据的清洗结果的准确性。比对第一维度编码组合和第二维度编码组合包括编码长度的比对和具体编码值的比对，若第一维度编码组合和第二维度编码组合不一致，则说明数据清洗结果不准确，则需要重新进行数据清洗。

本身公开了一种用于校验数据清洗结果的方法，属于大数据技术领域，本申请通过将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，以及对待清洗数据进行数据清洗，得到数据清洗结果，数据清洗结果中获取待清洗数据的第二维度编码组合，通过比对第一维度编码组合和第二维度编码组合，基于比对结果实现待清洗数据的清洗结果自动校验，相较于通过人工对数据清洗结果进行校验的方式存在耗费大量的人力、物力的问题，以及由于测试人员粗心和视觉疲劳等，导致校验结果出现错误的问题，本申请通过比对第一维度编码组合和第二维度编码组合来实现对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

进一步的，在将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合的步骤之前，还包括：

获取数据清洗的业务需求文档，并从业务需求文档中得到所有数据的维度信息；

按照预设的编码规则对所有数据的维度信息进行编码，得到所有数据的维度编码；

将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树。

具体的，通过获取业务人员针对数据清洗设置的业务需求文档，其中，业务需求文档包含数据库中所有数据的维度信息，从业务需求文档中获取所有数据的维度信息，按照预设的编码规则对所有数据的维度信息进行编码，得到所有数据的维度编码，其中，预设的编码规则可以根据实际业务需求进行设置，如根据数据的维度层级进行设定，即由高维度层级至低维度层级编码时，相应的采用数值由小到大的数字进行编码。在得到所有数据的维度编码后，将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树。

在上述实施例中，通过业务需求文档中得到所有数据的维度信息，通过对所有数据的维度信息进行编码，得到所有数据的维度编码，通过将所有数据的维度编码导入预设的初始树模型结构，可以获得维度层级树。

进一步的，将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树的步骤，具体包括：

对所有数据的维度编码进行排序，得到维度编码排序结果；

将维度编码排序结果中优先级最高的维度编码填入初始树模型结构的根节点；以及

按照维度编码排序结果的优先级顺序将其余维度编码依次填入初始树模型结构的子节点，得到维度层级树。

具体的，对所有数据的维度编码进行排序，得到维度编码排序结果，将维度编码排序结果中优先级最高的维度编码填入初始树模型结构的根节点，将排序结果中优先级第二的维度编码填入根节点的次一级子节点，以此类推，直至所有数据的维度编码均填入初始树模型，得到维度层级树，将得到维度层级树转化为JSON格式的文件，并保存在服务器的数据库中，当需要使用维度层级树时，依据调用指令从服务器的数据库中调用维度层级树。

在上述实施例中，通过对所有数据的维度编码进行排序，将维度编码排序结果中优先级最高的维度编码填入初始树模型结构的根节点，以及按照维度编码排序结果的优先级顺序将其余维度编码依次填入初始树模型结构的子节点，可以快速构建维度层级树。

进一步的，将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合的步骤，具体包括：

获取待清洗数据的当前维度信息，基于当前维度信息得到待清洗数据的当前维度编码；

在维度层级树上查找与当前维度编码相匹配的子节点；

基于与当前维度编码相匹配的子节点逆序遍历维度层级树，获取待清洗数据在各个维度层级的编码；

组合待清洗数据的当前维度编码和待清洗数据在各个维度层级的编码，生成待清洗数据的第一维度编码组合。

其中，在上述步骤得到所有数据的维度编码后，可以将所有数据的维度编码汇总，得到一个维度编码表，通过获取待清洗数据的当前维度信息，并在维度编码表中查找当前维度信息对应的维度编码，得到当前维度编码。然后将当前维度编码与存储在维度层级树所有子节点上的维度编码进行一一比对，查找与当前维度编码相匹配的子节点，基于与当前维度编码相匹配的子节点逆序遍历维度层级树，获取待清洗数据在各个维度层级的编码，并将各个维度层级上的编码组成有序的遍历节点维度编码组合，生成待清洗数据的第一维度编码组合。其中，维度层级树通过树结构存储标准维度信息，在维度层级树中，根节点到任意子节点的层数都相同，且每个子节点中都具有指向父节点的指针，以此实现从叶子节点到根节点的逆序遍历。

在上述实施例中，将所有数据的维度编码汇总，得到一个维度编码表，并在维度编码表中查找当前维度信息对应的维度编码，可以得到当前维度编码，然后调用维度层级树，在维度层级树查找与当前维度编码相匹配的子节点，逆序遍历维度层级树，得到待清洗数据在各个维度层级的编码，组合得到的所有编码，生成第一维度编码组合。

进一步的，对待清洗数据进行数据清洗，获取待清洗数据的清洗结果的步骤，具体包括：

对待清洗数据进行解析，得到待清洗数据中各个字段的信息；

将待清洗数据中各个字段的信息导入预设的正则表达式；

将待清洗数据的各个字段分别与正则表达式相匹配，将与正则表达式相匹配的字段作为待清洗数据的清洗结果。

具体的，通过对待清洗数据进行解析，得到对待清洗数据中各个字段的信息，将各个字段的信息代入预设的正则表达式，将待清洗数据的各个字段与各正则表达式相匹配，将匹配到的正则表达式中的字段作为待清洗数据的清洗结果。其中，待清洗数据的清洗结果包括若干个字段，每一个字段分别对应一个维度标签，可以通过将维度标签与维度编码表一一比对的方式获得每一个维度标签对应的维度编码，通过组合所有维度标签的维度编码，得到待清洗数据的第二维度编码组合。需要说明的是，维度编码表可以在构建维度层级树时，根据对所有数据的维度编码汇总，得到一个维度编码表。

在上述实施例中，通过正则表达式对待清洗数据进行数据清洗，得到数据清洗结果，其中，数据清洗结果包括待清洗数据的第二维度编码组合。

进一步的，比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性的步骤，具体包括：

获取第一维度编码组合的编码长度，得到第一编码长度，以及获取第二维度编码组合的编码长度，得到第二编码长度；

判断第一编码长度和第二编码长度是否相等；

若第一编码长度和第二编码长度不相等，则输出编码长度不相等的提示信息。

具体的，获取第一维度编码组合的编码长度，得到第一编码长度，以及获取第二维度编码组合的编码长度，得到第二编码长度，判断第一编码长度和第二编码长度是否相等，若第一编码长度和第二编码长度相等，则说明数据清洗结果编码长度符合要求，继续对第二维度编码组合的具体编码值进行验证。若第一编码长度和第二编码长度不相等，则说明数据清洗结果不准确，输出编码长度不相等的提示信息。如果第一维度编码组合的编码长度大于第二维度编码组合的编码长度，则说明数据清洗时遗漏某些维度的数据；如果第一维度编码组合的编码长度小于第二维度编码组合的编码长度，则说明数据清洗时引入了业务无需关注的维度数据。

例如，在上述实施例中，待清洗数据为上海分公司的数据，若待清洗数据对应的第一维度编码组合为“51”，则说明数据清洗时遗漏了事业部维度的信息，若待清洗数据对应的第一维度编码组合为“9521”，其中，“9”为上海分公司下属的财务部门的编码，则说明数据清洗时引入了业务无需关注的维度数据。以上两种情况均需要重新对待清洗数据进行重新清洗，基于此，一方面保证不会遗漏数据，同时也避免引入业务无需关注的维度数据。

进一步的，在比对第一编码长度和第二编码长度的步骤之后，还包括：

分别将第一维度编码组合和第二维度编码组合的划分为若干个相互对应的编码层级；

依次判断相互对应的若干个编码层级中的编码值是否相同；

若存在任意一对相互对应的编码层级中的编码值不相同，则输出编码值不相同的提示信息。

其中，在进行编码长度验证，并验证出编码长度符合要求后，还需要对具体编码值进行验证，当具体编码值也符合要求后才能确定数据清洗的结果的准确性。

具体的，分别将第一维度编码组合和第二维度编码组合的划分为若干个相互对应的编码层级，依次判断相互对应的若干个编码层级中的编码值是否相同，若相互对应的编码层级中的编码值均相同，则输出数据清洗结果正确的提示信息。若存在任意一对相互对应的编码层级中的编码值不相同，则输出编码值不相同的提示信息。例如，在上述实施例中，若待清洗数据对应的第一维度编码组合为“541”，则说明数据清洗时出现了串列的情况，将上海分公司归约到了三元事业部下，即数据清洗结果错误。

需要强调的是，为进一步保证上述待清洗数据的私密和安全性，上述待清洗数据还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该计算机可读指令在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种用于校验数据清洗结果的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的用于校验数据清洗结果的装置包括：

指令接收模块301，用于接收校验指令，确定与校验指令相对应的待清洗数据；

第一维度编码组合获取模块302，用于将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合；

第二维度编码组合获取模块303，用于对待清洗数据进行数据清洗，获取待清洗数据的清洗结果，其中，清洗结果包括待清洗数据的第二维度编码组合；

编码比对模块304，用于比对第一维度编码组合和第二维度编码组合，基于比对结果确定待清洗数据的清洗结果的准确性。

进一步的，该用于校验数据清洗结果的装置还包括：

维度信息获取模块，用于获取数据清洗的业务需求文档，并从业务需求文档中得到所有数据的维度信息；

维度信息编码模块，用于按照预设的编码规则对所有数据的维度信息进行编码，得到所有数据的维度编码；

维度层级树生成模块，用于将所有数据的维度编码导入预设的初始树模型结构，得到维度层级树。

进一步的，维度层级树生成模块具体包括：

编码排序单元，用于对所有数据的维度编码进行排序，得到维度编码排序结果；

第一填入单元，用于将维度编码排序结果中优先级最高的维度编码填入初始树模型结构的根节点；以及

第二填入单元，用于按照维度编码排序结果的优先级顺序将其余维度编码依次填入初始树模型结构的子节点，得到维度层级树。

进一步的，第一维度编码组合获取模块302具体包括：

当前维度编码单元，用于获取待清洗数据的当前维度信息，基于当前维度信息得到待清洗数据的当前维度编码；

编码匹配单元，用于在维度层级树上查找与当前维度编码相匹配的子节点；

逆序遍历单元，用于基于与当前维度编码相匹配的子节点逆序遍历维度层级树，获取待清洗数据在各个维度层级的编码；

第一维度编码组合获取单元，用于组合待清洗数据的当前维度编码和待清洗数据在各个维度层级的编码，生成待清洗数据的第一维度编码组合。

进一步的，第二维度编码组合获取模块303具体包括：

数据清洗单元，用于对待清洗数据进行解析，得到待清洗数据中各个字段的信息；

字段导入单元，用于将待清洗数据中各个字段的信息导入预设的正则表达式；

第二维度编码组合获取单元，用于将待清洗数据的各个字段分别与正则表达式相匹配，将与正则表达式相匹配的字段作为待清洗数据的清洗结果。

进一步的，编码比对模块304具体包括：

编码长度获取单元，用于获取第一维度编码组合的编码长度，得到第一编码长度，以及获取第二维度编码组合的编码长度，得到第二编码长度；

编码长度比对单元，用于判断第一编码长度和第二编码长度是否相等；

编码长度比对结果单元，用于当第一编码长度和第二编码长度不相等时，输出编码长度不相等的提示信息。

进一步的，编码比对模块304还包括：

编码层级划分单元，用于分别将第一维度编码组合和第二维度编码组合的划分为若干个相互对应的编码层级；

编码层级比对单元，用于依次判断相互对应的若干个编码层级中的编码值是否相同；

编码层级比对结果单元，用于当存在任意一对相互对应的编码层级中的编码值不相同时，输出编码值不相同的提示信息。

本身公开了一种用于校验数据清洗结果的装置，属于大数据技术领域，本申请通过将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，以及对待清洗数据进行数据清洗，得到数据清洗结果，数据清洗结果中获取待清洗数据的第二维度编码组合，通过比对第一维度编码组合和第二维度编码组合，基于比对结果实现待清洗数据的清洗结果自动校验，相较于通过人工对数据清洗结果进行校验的方式存在耗费大量的人力、物力的问题，以及由于测试人员粗心和视觉疲劳等，导致校验结果出现错误的问题，本申请通过比对第一维度编码组合和第二维度编码组合来实现对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如用于校验数据清洗结果的方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述用于校验数据清洗结果的方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本申请公开了一种设备，属于大数据技术领域，本申请通过将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，以及对待清洗数据进行数据清洗，得到数据清洗结果，数据清洗结果中获取待清洗数据的第二维度编码组合，通过比对第一维度编码组合和第二维度编码组合，基于比对结果实现待清洗数据的清洗结果自动校验，相较于通过人工对数据清洗结果进行校验的方式存在耗费大量的人力、物力的问题，以及由于测试人员粗心和视觉疲劳等，导致校验结果出现错误的问题，本申请通过比对第一维度编码组合和第二维度编码组合来实现对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的用于校验数据清洗结果的方法的步骤。

本申请公开了一种存储介质，属于大数据技术领域，本申请通过将待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从维度层级树中获取待清洗数据的第一维度编码组合，以及对待清洗数据进行数据清洗，得到数据清洗结果，数据清洗结果中获取待清洗数据的第二维度编码组合，通过比对第一维度编码组合和第二维度编码组合，基于比对结果实现待清洗数据的清洗结果自动校验，相较于通过人工对数据清洗结果进行校验的方式存在耗费大量的人力、物力的问题，以及由于测试人员粗心和视觉疲劳等，导致校验结果出现错误的问题，本申请通过比对第一维度编码组合和第二维度编码组合来实现对数据清洗结果进行自动校验，可以很大程度减轻人力测试的成本，同时提高校验的精准度。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种用于校验数据清洗结果的方法，其特征在于，包括：

接收校验指令，确定与所述校验指令相对应的待清洗数据；

将所述待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从所述维度层级树中获取所述待清洗数据的第一维度编码组合；

对所述待清洗数据进行数据清洗，获取所述待清洗数据的清洗结果，其中，所述清洗结果包括所述待清洗数据的第二维度编码组合；

比对所述第一维度编码组合和所述第二维度编码组合，基于比对结果确定所述待清洗数据的清洗结果的准确性。

2.如权利要求1所述的用于校验数据清洗结果的方法，其特征在于，在所述将所述待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从所述维度层级树中获取所述待清洗数据的第一维度编码组合的步骤之前，还包括：

获取数据清洗的业务需求文档，并从所述业务需求文档中得到所有数据的维度信息；

按照预设的编码规则对所述所有数据的维度信息进行编码，得到所述所有数据的维度编码；

将所述所有数据的维度编码导入预设的初始树模型结构，得到所述维度层级树。

3.如权利要求2所述的用于校验数据清洗结果的方法，其特征在于，所述将所述所有数据的维度编码导入预设的初始树模型结构，得到所述维度层级树的步骤，具体包括：

对所述所有数据的维度编码进行排序，得到维度编码排序结果；

将所述维度编码排序结果中优先级最高的维度编码填入所述初始树模型结构的根节点；以及

按照所述维度编码排序结果的优先级顺序将其余维度编码依次填入所述初始树模型结构的子节点，得到所述维度层级树。

4.如权利要求1所述的用于校验数据清洗结果的方法，其特征在于，所述将所述待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从所述维度层级树中获取所述待清洗数据的第一维度编码组合的步骤，具体包括：

获取所述待清洗数据的当前维度信息，基于所述当前维度信息得到所述待清洗数据的当前维度编码；

在所述维度层级树上查找与所述当前维度编码相匹配的子节点；

基于与所述当前维度编码相匹配的子节点逆序遍历所述维度层级树，获取所述待清洗数据在各个维度层级的编码；

组合所述待清洗数据的当前维度编码和所述待清洗数据在各个维度层级的编码，生成所述待清洗数据的第一维度编码组合。

5.如权利要求1所述的用于校验数据清洗结果的方法，其特征在于，所述对所述待清洗数据进行数据清洗，获取所述待清洗数据的清洗结果的步骤，具体包括：

对所述待清洗数据进行解析，得到所述待清洗数据中各个字段的信息；

将所述待清洗数据中各个字段的信息导入预设的正则表达式；

将所述待清洗数据的各个字段分别与正则表达式相匹配，将与所述正则表达式相匹配的字段作为所述待清洗数据的清洗结果。

6.如权利要求1至5任意一项所述的用于校验数据清洗结果的方法，其特征在于，所述比对所述第一维度编码组合和所述第二维度编码组合，基于比对结果确定所述待清洗数据的清洗结果的准确性的步骤，具体包括：

获取所述第一维度编码组合的编码长度，得到第一编码长度，以及获取所述第二维度编码组合的编码长度，得到第二编码长度；

判断所述第一编码长度和所述第二编码长度是否相等；

若所述第一编码长度和所述第二编码长度不相等，则输出编码长度不相等的提示信息。

7.如权利要求6所述的用于校验数据清洗结果的方法，其特征在于，在所述比对所述第一编码长度和所述第二编码长度的步骤之后，还包括：

分别将所述第一维度编码组合和所述第二维度编码组合的划分为若干个相互对应的编码层级；

依次判断相互对应的若干个所述编码层级中的编码值是否相同；

若存在任意一对相互对应的所述编码层级中的编码值不相同，则输出编码值不相同的提示信息。

8.一种用于校验数据清洗结果的装置，其特征在于，包括：

指令接收模块，用于接收校验指令，确定与所述校验指令相对应的待清洗数据；

第一维度编码组合获取模块，用于将所述待清洗数据导入预先配置好的维度层级树，并基于逆序遍历法从所述维度层级树中获取所述待清洗数据的第一维度编码组合；

第二维度编码组合获取模块，用于对所述待清洗数据进行数据清洗，获取所述待清洗数据的清洗结果，其中，所述清洗结果包括所述待清洗数据的第二维度编码组合；

编码比对模块，用于比对所述第一维度编码组合和所述第二维度编码组合，基于比对结果确定所述待清洗数据的清洗结果的准确性。

9.一种设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的用于校验数据清洗结果的方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的用于校验数据清洗结果的方法的步骤。

Images