CN116680263A - 数据清洗方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于大数据领域，涉及一种数据清洗方法，包括：判断当前时间是否处于预设的数据清洗时间段内；若是，获取待处理的原始业务数据；调用预设的转换程序对原始业务数据进行转换处理，得到第一业务数据；对第一业务数据进行去除重复数据处理，得到第二业务数据；基于预设的修正规则对第二业务数据进行数据修正，得到第三业务数据；将第三业务数据存储至预设的存储区域内。本申请还提供一种数据清洗装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，第三业务数据可存储于区块链中。本申请能够实现快速准确地完成对于业务数据的清洗处理，大大降低了业务数据清洗的工作量，有效地提高了对于业务数据的清洗效率。

Description

数据清洗方法、装置、计算机设备及存储介质

技术领域

本申请涉及大数据技术领域，尤其涉及数据清洗方法、装置、计算机设备及存储介质。

背景技术

随着大数据的普及，越来越多的业务报表都会在大数据上进行计算，所以首先需要将业务数据同步到大数据，在业务数据的同步完成后，还需要进一步对业务数据进行清洗，以保证数据的可用。

对于目前的金融科技公司而言，通常采用的数据清洗方式是由工作人员针对不同的业务报表编写各自对应的清洗程序，然后人为选定数据清洗的时间，并手动调用相应的清洗程序进行业务数据清洗。如果涉及清洗的业务报表的数量教多，则需要工作人员编写很多对应的清洗程序，这样需要消耗较多的人力时间，工作量大，且业务数据的清洗效率低下。

发明内容

本申请实施例的目的在于提出一种数据清洗方法、装置、计算机设备及存储介质，以解决现有的数据清洗方式需要人为选定数据清洗的时间，并手动调用相应的清洗程序进行业务数据清洗，需要消耗较多的人力时间，工作量大，且业务数据的清洗效率低下的技术问题。

为了解决上述技术问题，本申请实施例提供一种数据清洗方法，采用了如下所述的技术方案：

判断当前时间是否处于预设的数据清洗时间段内；

若是，获取待处理的原始业务数据；

调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

将所述第三业务数据存储至预设的存储区域内。

进一步的，所述基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据的步骤，具体包括：

获取所述第二业务数据中的异常值，并基于预设的异常处理策略对所述异常值进行处理，得到处理后的第一指定业务数据；

确定所述处理后的第一指定业务数据中的缺失值，并基于预设的补齐策略对所述缺失值进行数据补齐处理，得到处理后的第二指定业务数据；

将所述第二指定业务数据作为所述第三业务数据。

进一步的，所述将所述第三业务数据存储至预设的存储区域内的步骤，具体包括：

获取所述第三业务数据中的分区数据；

对所述第三业务数据中的分区数据进行分区合并，得到处理后的第四业务数据；

将所述第四业务数据存储至所述存储区域内。

进一步的，所述将所述第四业务数据存储至所述存储区域内的步骤，具体包括：

基于预设格式对所述第四业务数据进行格式转换，得到转换后的第五业务数据；

获取所述存储区域的存储地址信息；

基于所述存储地址信息，将所述第五业务数据存储至所述存储区域内。

进一步的，在所述判断当前时间是否处于预设的数据清洗时间段内的步骤之前，还包括：

基于预设的长度划分值，将一天的时间划分为多个处理时间段；

基于预设的繁忙时间段集合对所有所述处理时间段进行筛选处理，从所有所述处理时间段筛选出第一处理时间段；其中，所述第一处理时间段的数量为多个；

从预存储的负载数据记录中获取目标系统在预设时间周期中各所述第一处理时间段内的平均负载数据值；

从所有所述平均负载数据值中筛选出小于预设的负载阈值的指定平均负载数据值；

从所有所述第一处理时间段中筛选出与所述指定平均负载数据值对应的第二处理时间段；

将所述第二处理时间段作为所述数据清洗时间段。

进一步的，在所述将所述第三业务数据存储至预设的存储区域内的步骤之后，还包括：

判断所述存储区域是否满足预设的缓存清除条件；

若是，获取所述第三业务数据中包含的各个子数据在预设时间段内的被使用频次；

获取各个所述子数据的数据大小；

基于所述被使用频次与所述数据大小，生成各个所述子数据的活跃度评价值；

从所有所述子数据中筛选出活跃度评价值小于预设的评价值阈值的指定子数据；

在所述存储区域中对所述指定子数据进行清除处理。

进一步的，所述判断所述存储区域是否满足预设的缓存清除条件的步骤，具体包括：

获取所述存储区域当前的可用资源空间；

判断所述可用资源空间是否小于预设的资源空间阈值；

若是，判定所述存储区域满足所述缓存清除条件，否则判定所述存储区域不满足所述缓存清除条件。

为了解决上述技术问题，本申请实施例还提供一种数据清洗装置，采用了如下所述的技术方案：

第一判断模块，用于判断当前时间是否处于预设的数据清洗时间段内；

第一获取模块，用于若是，获取待处理的原始业务数据；

第一处理模块，用于调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

第二处理模块，用于对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

第三处理模块，用于基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

存储模块，用于将所述第三业务数据存储至预设的存储区域内。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

判断当前时间是否处于预设的数据清洗时间段内；

若是，获取待处理的原始业务数据；

调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

将所述第三业务数据存储至预设的存储区域内。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

判断当前时间是否处于预设的数据清洗时间段内；

若是，获取待处理的原始业务数据；

调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

将所述第三业务数据存储至预设的存储区域内。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请实施例首先判断当前时间是否处于预设的数据清洗时间段内；若是，获取待处理的原始业务数据；然后调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；之后对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；后续基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；最后将所述第三业务数据存储至预设的存储区域内。本申请实施例通过智能地设置数据清洗时间段，并在当前时间处于该数据清洗时间段内，会智能地采用通用的数据清理流程，依次对待处理的原始业务数据进行转换处理、去除重复数据处理、数据修正处理以及存储处理，从而实现快速准确地完成对于业务数据的清洗处理，大大降低了业务数据清洗的工作量，有效地提高了对于业务数据的清洗效率，有利于提高了工作人员的工作体验。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2根据本申请的数据清洗方法的一个实施例的流程图；

图3是根据本申请的数据清洗装置的一个实施例的结构示意图；

图4是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的数据清洗方法一般由服务器/终端设备执行，相应地，数据清洗装置一般设置于服务器/终端设备中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的数据清洗方法的一个实施例的流程图。所述的数据清洗方法，包括以下步骤：

步骤S201，判断当前时间是否处于预设的数据清洗时间段内。

在本实施例中，数据清洗方法运行于其上的电子设备(例如图1所示的服务器/终端设备)，可以通过有线连接方式或者无线连接方式获取数据清洗时间段。数据清洗方法的具体执行主体可为业务系统。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。其中，上述数据清洗时间段为基于预设的繁忙时间段集合与业务系统的负载数据值进行分析后生成的用于进行业务数据的数据清洗流程的时间段。

步骤S202，若是，获取待处理的原始业务数据。

在本实施例中，上述原始业务数据为业务系统内同步的存储于业务报表内的业务数据，且业务数据的存储介质可为hive数据库。hive是基于Hadoop的一个数据仓库工具，用来进行数据提取、转化、加载，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。hive数据仓库工具能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能将SQL语句转变成MapReduce任务来执行。Hive的优点是学习成本低，可以通过类似SQL语句实现快速MapReduce统计，使MapReduce变得更加简单，而不必开发专门的MapReduce应用程序。hive十分适合对数据仓库进行统计分析。

步骤S203，调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据。

在本实施例中，上述转换程序具体可为spark应用程序，该spark应用程序可采用spark2.2.1版本，以dataset API为主的应用程序。上述转换处理是指将hive中的原始业务数据转化为dataset(数据集)，以得到上述第一业务数据。

步骤S204，对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据。

在本实施例中，可通过采用预先定制的适用于对业务数据进行去重处理的策略，对第一业务数据中的所有数据进行遍历分析，查找出第一业务数据中存在的重复数据，并对重复数据进行部分删除只留下一个数据的处理，以保证第一业务数据的数据唯一性。具体地，根据原始业务数据中的业务逻辑主键进行数据去重操作。举例地，如果在原始业务数据中表的主键为id_t_mln_course，但业务使用的主键为course_id。为了保证数据的唯一性，可根据course_id对原始业务数据进行去重，且当出现重复时保留更新时间最大的数据对象。

步骤S205，基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据。

在本实施例中，上述修正规则至少包括异常处理策略与补齐策略。上述基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。

步骤S206，将所述第三业务数据存储至预设的存储区域内。

在本实施例中，上述将所述第三业务数据存储至预设的存储区域内的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。

本申请首先判断当前时间是否处于预设的数据清洗时间段内；若是，获取待处理的原始业务数据；然后调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；之后对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；后续基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；最后将所述第三业务数据存储至预设的存储区域内。本申请通过智能地设置数据清洗时间段，并在当前时间处于该数据清洗时间段内，会智能地采用通用的数据清理流程，依次对待处理的原始业务数据进行转换处理、去除重复数据处理、数据修正处理以及存储处理，从而实现快速准确地完成对于业务数据的清洗处理，大大降低了业务数据清洗的工作量，有效地提高了对于业务数据的清洗效率，有利于提高了工作人员的工作体验。

在一些可选的实现方式中，步骤S205包括以下步骤：

获取所述第二业务数据中的异常值，并基于预设的异常处理策略对所述异常值进行处理，得到处理后的第一指定业务数据。

在本实施例中，上述异常处理策略为预先定制的适用于对异常值进行处理的策略。可通过对第二业务数据中的所有数据进行遍历分析，查找出第二业务数据中的异常值(可指第二业务数据中中需要废除的垃圾数据或多余数据)，并将该异常值从第二业务数据中进行剔除。

确定所述处理后的第一指定业务数据中的缺失值，并基于预设的补齐策略对所述缺失值进行数据补齐处理，得到处理后的第二指定业务数据。

在本实施例中，上述异常处理策略为预先定制的适用于对各种缺失字段进行补齐处理的策略。可通过对第一指定业务数据中的所有数据进行遍历分析，查找出第一指定业务数据中存在的缺失值，并将对应的缺失值合理地补充到第一指定业务数据中，以保证第一指定业务数据的完整性。

将所述第二指定业务数据作为所述第三业务数据。

本申请通过获取所述第二业务数据中的异常值，并基于预设的异常处理策略对所述异常值进行处理，得到处理后的第一指定业务数据；后续确定所述处理后的第一指定业务数据中的缺失值，并基于预设的补齐策略对所述缺失值进行数据补齐处理，得到处理后的第二指定业务数据；并将所述第二指定业务数据作为所述第三业务数据。本申请通过基于异常处理策略与补齐策略的使用，可以实现快速准确地完成对于第二业务数据的数据修正，保证了生成的第三业务数据的完整性与准确度。

在本实施例的一些可选的实现方式中，步骤S206包括以下步骤：

获取所述第三业务数据中的分区数据。

在本实施例中，在使用转换程序spark对业务数据进行处理后，通常会产生过多的partition，即分区数据。

对所述第三业务数据中的分区数据进行分区合并，得到处理后的第四业务数据。

在本实施例中，通过在第三业务数据进行落地存储之前，对第三业务数据中的分区数据进行分区合并，从而可以有效避免产生过多的小文件。

将所述第四业务数据存储至所述存储区域内。

在本实施例中，上述将所述第四业务数据存储至所述存储区域内的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。

本申请通过获取所述第三业务数据中的分区数据；然后对所述第三业务数据中的分区数据进行分区合并，得到处理后的第四业务数据；后续将所述第四业务数据存储至所述存储区域内。本申请在第三业务数据进行落地存储之前，会智能地对第三业务数据中的分区数据进行分区合并，从而可以有效避免在业务数据存储过程中产生过多的小文件，有利于提高业务数据的存储智能性。

在一些可选的实现方式中，所述将所述第四业务数据存储至所述存储区域内，包括以下步骤：

基于预设格式对所述第四业务数据进行格式转换，得到转换后的第五业务数据。

在本实施例中，上述预设格式具体可为OCR格式。

获取所述存储区域的存储地址信息。

在本实施例中，上述存储区域具体可指hive数据库。

基于所述存储地址信息，将所述第五业务数据存储至所述存储区域内。

在本实施例中，可通过访问该存储地址信息，以将所述第五业务数据存储至所述存储区域内。

本申请通过基于预设格式对所述第四业务数据进行格式转换，得到转换后的第五业务数据；然后获取所述存储区域的存储地址信息；后续基于所述存储地址信息，将所述第五业务数据存储至所述存储区域内。本申请通过将第四业务数据进行格式转换后再落地存储至存储区域内，可以有效节省存储区域的存储空间，有利于提高业务数据的存储智能性。

在一些可选的实现方式中，在步骤S201之前，上述电子设备还可以执行以下步骤：

基于预设的长度划分值，将一天的时间划分为多个处理时间段。

在本实施例中，对于上述长度划分值的取值不做具体限定，可根据实际的使用需求进行设置，例如可采用1小时或2小时或3小时等作为上述长度划分值。

基于预设的繁忙时间段集合对所有所述处理时间段进行筛选处理，从所有所述处理时间段筛选出第一处理时间段；其中，所述第一处理时间段的数量为多个。

在本实施例中，上述繁忙时间段集合可为预先根据业务系统的系统运作生成的由多个业务繁忙的时间段组成的集合。可从处理时间段中剔除掉该繁忙时间段集合中包含的所有时间段，以得到上述第一处理时间段。通过利用繁忙时间段集合对所有单位时间段进行初步筛选，从而后续只需对预设时间周期内第一处理时间段内的平均负载数据值进行数据分析，而不用对所有处理时间段的平均负载数据值进行统计，可以有效的减少的数据分析工作量，进而提高数据清洗时间段的生成效率。

从预存储的负载数据记录中获取目标系统在预设时间周期中各所述第一处理时间段内的平均负载数据值。

在本实施例中，上述负载数据记录为预先构建的存储有目标系统的平均负载数据值的数据记录。对于上述预设时间周期的数值选取不作具体限定，可根据实际需求进行设置。举例地，上述预设时间周期可为距离当前时间的上半个月。

从所有所述平均负载数据值中筛选出小于预设的负载阈值的指定平均负载数据值。

在本实施例中，对于上述负载阈值的数值选取不作具体限定，可根据实际需求进行设置。

从所有所述第一处理时间段中筛选出与所述指定平均负载数据值对应的第二处理时间段。

将所述第二处理时间段作为所述数据清洗时间段。

本申请通过基于预设的长度划分值，将一天的时间划分为多个处理时间段；然后基于预设的繁忙时间段集合对所有所述处理时间段进行筛选处理，从所有所述处理时间段筛选出第一处理时间段；之后从预存储的负载数据记录中获取目标系统在预设时间周期中各所述第一处理时间段内的平均负载数据值；后续从所有所述平均负载数据值中筛选出小于预设的负载阈值的指定平均负载数据值；最后从所有所述第一处理时间段中筛选出与所述指定平均负载数据值对应的第二处理时间段，并将所述第二处理时间段作为所述数据清洗时间段。本实施例在将一天的时间划分为多个处理时间段后，会先基于预设的繁忙时间段集合与业务系统的负载数据值进行分析，从所有处理时间段确定出系统的业务空闲时间段，并将该业务空闲时间段用作数据清洗时间段，有效地提高了生成的数据清洗时间段的准确性。另外，后续通过在该数据清洗时间段内进行对于业务数据的数据清洗流程，从而可以有效避免在系统的业务高峰期内进行业务数据的数据清洗处理，进而不会影响用户的正常使用，也不会对业务系统的正常运作造成影响，保证了系统资源的合理利用，有效地提高了业务数据的数据清洗处理的处理效率。

在本实施例的一些可选的实现方式中，在步骤S206之后，上述电子设备还可以执行以下步骤：

判断所述存储区域是否满足预设的缓存清除条件。

在本实施例中，上述判断所述存储区域是否满足预设的缓存清除条件的具体实施过程，本申请将在后续的具体实施例中对此进行进一步的细节描述，在此不作过多阐述。

若是，获取所述第三业务数据中包含的各个子数据在预设时间段内的被使用频次。

在本实施例中，对于上述预设时间段的取值不做具体限定，可根据实际的业务使用需求进行设置，例如可采用距离当前时间的前一个月内。

获取各个所述子数据的数据大小。

在本实施例中，可通过获取第三业务数据的数据描述信息，以从该数据描述信息中获取到第三业务数据内部包含的各个子数据的数据大小。

基于所述被使用频次与所述数据大小，生成各个所述子数据的活跃度评价值。

在本实施例中，可通过计算子数据的被使用频次与子数据的数据大小之间的商值，并将该商值作为子数据的活跃度评价值。

从所有所述子数据中筛选出活跃度评价值小于预设的评价值阈值的指定子数据。

在本实施例中，对于上述评价值阈值的取值不做具体限定，可根据实际的业务使用需求进行设置。

在所述存储区域中对所述指定子数据进行清除处理。

本申请通过判断所述存储区域是否满足预设的缓存清除条件；若是，获取所述第三业务数据中包含的各个子数据在预设时间段内的被使用频次；然后获取各个所述子数据的数据大小；之后基于所述被使用频次与所述数据大小，生成各个所述子数据的活跃度评价值；后续从所有所述子数据中筛选出活跃度评价值小于预设的评价值阈值的指定子数据；最后在所述存储区域中对所述指定子数据进行清除处理。本申请在使用存储区域对第三业务数据进行存储后，还会智能实时判别存储区域是否满足预设的缓存清除条件，如果满足该缓存清除条件，则后续会智能地对第三业务数据中包含的活跃度评价值较小的子数据进行清除处理，以保证存储区域能够具有充足的可用资源空间，有利于提高存储区域内的数据运作的稳定性。

在本实施例的一些可选的实现方式中，所述判断所述存储区域是否满足预设的缓存清除条件，包括以下步骤：

获取所述存储区域当前的可用资源空间。

在本实施例中，可通过查阅存储区域的存储信息，以从该存储信息中获取到存储区域当前的可用资源空间。

判断所述可用资源空间是否小于预设的资源空间阈值。

在本实施例中，对于上述资源空间阈值的取值不做具体限定，可根据实际的使用测试结果生成。其中，如果存储区域当前的可用资源空间小于该资源空间阈值，则表明存储区域当前的可用资源不足，且会对存储区域内的数据正常运作造成影响。

若是，判定所述存储区域满足所述缓存清除条件，否则判定所述存储区域不满足所述缓存清除条件。

本申请通过获取所述存储区域当前的可用资源空间；然后判断所述可用资源空间是否小于预设的资源空间阈值；若是，判定所述存储区域满足所述缓存清除条件，否则判定所述存储区域不满足所述缓存清除条件。本申请通过将获得的存储区域当前的可用资源空间与预设的资源空间阈值进行数据比较分析，进而可以根据得到的比较分析结果实现快速准确地判别出存储区域是否满足预设的缓存清除条件。

需要强调的是，为进一步保证上述第三业务数据的私密和安全性，上述第三业务数据还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。

人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种数据清洗装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的数据清洗装置300包括：第一判断模块301、第一获取模块302、第一处理模块303、第二处理模块304、第三处理模块305以及存储模块306。其中：

第一判断模块301，用于判断当前时间是否处于预设的数据清洗时间段内；

第一获取模块302，用于若是，获取待处理的原始业务数据；

第一处理模块303，用于调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

第二处理模块304，用于对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

第三处理模块305，用于基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

存储模块306，用于将所述第三业务数据存储至预设的存储区域内。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中，第三处理模块305包括：

第一处理子模块，用于获取所述第二业务数据中的异常值，并基于预设的异常处理策略对所述异常值进行处理，得到处理后的第一指定业务数据；

第二处理子模块，用于确定所述处理后的第一指定业务数据中的缺失值，并基于预设的补齐策略对所述缺失值进行数据补齐处理，得到处理后的第二指定业务数据；

确定子模块，用于将所述第二指定业务数据作为所述第三业务数据。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中,存储模块306包括：

第一获取子模块，用于获取所述第三业务数据中的分区数据；

第三处理子模块，用于对所述第三业务数据中的分区数据进行分区合并，得到处理后的第四业务数据；

存储子模块，用于将所述第四业务数据存储至所述存储区域内。

本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中，存储子模块包括：

转换单元，用于基于预设格式对所述第四业务数据进行格式转换，得到转换后的第五业务数据；

获取单元，用于获取所述存储区域的存储地址信息；

存储单元，用于基于所述存储地址信息，将所述第五业务数据存储至所述存储区域内。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中，数据清洗装置还包括：

划分模块，用于基于预设的长度划分值，将一天的时间划分为多个处理时间段；

第一筛选模块，用于基于预设的繁忙时间段集合对所有所述处理时间段进行筛选处理，从所有所述处理时间段筛选出第一处理时间段；其中，所述第一处理时间段的数量为多个；

第二获取模块，用于从预存储的负载数据记录中获取目标系统在预设时间周期中各所述第一处理时间段内的平均负载数据值；

第二筛选模块，用于从所有所述平均负载数据值中筛选出小于预设的负载阈值的指定平均负载数据值；

第三筛选模块，用于从所有所述第一处理时间段中筛选出与所述指定平均负载数据值对应的第二处理时间段；

确定模块，用于将所述第二处理时间段作为所述数据清洗时间段。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中，数据清洗装置还包括：

第二判断模块，用于判断所述存储区域是否满足预设的缓存清除条件；

第三获取模块，用于若是，获取所述第三业务数据中包含的各个子数据在预设时间段内的被使用频次；

第四获取模块，用于获取各个所述子数据的数据大小；

生成模块，用于基于所述被使用频次与所述数据大小，生成各个所述子数据的活跃度评价值；

第四筛选模块，用于从所有所述子数据中筛选出活跃度评价值小于预设的评价值阈值的指定子数据；

清除模块，用于在所述存储区域中对所述指定子数据进行清除处理。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

在本实施例的一些可选的实现方式中，第二判断模块包括：

第二获取子模块，用于获取所述存储区域当前的可用资源空间；

判断子模块，用于判断所述可用资源空间是否小于预设的资源空间阈值；

判定子模块，用于若是，判定所述存储区域满足所述缓存清除条件，否则判定所述存储区域不满足所述缓存清除条件。

在本实施例中，上述模块或单元分别用于执行的操作与前述实施方式的数据清洗方法的步骤一一对应，在此不再赘述。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如数据清洗方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述数据清洗方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请实施例中，首先判断当前时间是否处于预设的数据清洗时间段内；若是，获取待处理的原始业务数据；然后调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；之后对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；后续基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；最后将所述第三业务数据存储至预设的存储区域内。本申请实施例通过智能地设置数据清洗时间段，并在当前时间处于该数据清洗时间段内，会智能地采用通用的数据清理流程，依次对待处理的原始业务数据进行转换处理、去除重复数据处理、数据修正处理以及存储处理，从而实现快速准确地完成对于业务数据的清洗处理，大大降低了业务数据清洗的工作量，有效地提高了对于业务数据的清洗效率，有利于提高了工作人员的工作体验。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的数据清洗方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请实施例中，首先判断当前时间是否处于预设的数据清洗时间段内；若是，获取待处理的原始业务数据；然后调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；之后对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；后续基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；最后将所述第三业务数据存储至预设的存储区域内。本申请实施例通过智能地设置数据清洗时间段，并在当前时间处于该数据清洗时间段内，会智能地采用通用的数据清理流程，依次对待处理的原始业务数据进行转换处理、去除重复数据处理、数据修正处理以及存储处理，从而实现快速准确地完成对于业务数据的清洗处理，大大降低了业务数据清洗的工作量，有效地提高了对于业务数据的清洗效率，有利于提高了工作人员的工作体验。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种数据清洗方法，其特征在于，包括下述步骤：

判断当前时间是否处于预设的数据清洗时间段内；

若是，获取待处理的原始业务数据；

调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

将所述第三业务数据存储至预设的存储区域内。

2.根据权利要求1所述的数据清洗方法，其特征在于，所述基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据的步骤，具体包括：

获取所述第二业务数据中的异常值，并基于预设的异常处理策略对所述异常值进行处理，得到处理后的第一指定业务数据；

确定所述处理后的第一指定业务数据中的缺失值，并基于预设的补齐策略对所述缺失值进行数据补齐处理，得到处理后的第二指定业务数据；

将所述第二指定业务数据作为所述第三业务数据。

3.根据权利要求1所述的数据清洗方法，其特征在于，所述将所述第三业务数据存储至预设的存储区域内的步骤，具体包括：

获取所述第三业务数据中的分区数据；

对所述第三业务数据中的分区数据进行分区合并，得到处理后的第四业务数据；

将所述第四业务数据存储至所述存储区域内。

4.根据权利要求3所述的数据清洗方法，其特征在于，所述将所述第四业务数据存储至所述存储区域内的步骤，具体包括：

基于预设格式对所述第四业务数据进行格式转换，得到转换后的第五业务数据；

获取所述存储区域的存储地址信息；

基于所述存储地址信息，将所述第五业务数据存储至所述存储区域内。

5.根据权利要求1所述的数据清洗方法，其特征在于，在所述判断当前时间是否处于预设的数据清洗时间段内的步骤之前，还包括：

基于预设的长度划分值，将一天的时间划分为多个处理时间段；

基于预设的繁忙时间段集合对所有所述处理时间段进行筛选处理，从所有所述处理时间段筛选出第一处理时间段；其中，所述第一处理时间段的数量为多个；

从预存储的负载数据记录中获取目标系统在预设时间周期中各所述第一处理时间段内的平均负载数据值；

从所有所述平均负载数据值中筛选出小于预设的负载阈值的指定平均负载数据值；

从所有所述第一处理时间段中筛选出与所述指定平均负载数据值对应的第二处理时间段；

将所述第二处理时间段作为所述数据清洗时间段。

6.根据权利要求1所述的数据清洗方法，其特征在于，在所述将所述第三业务数据存储至预设的存储区域内的步骤之后，还包括：

判断所述存储区域是否满足预设的缓存清除条件；

若是，获取所述第三业务数据中包含的各个子数据在预设时间段内的被使用频次；

获取各个所述子数据的数据大小；

基于所述被使用频次与所述数据大小，生成各个所述子数据的活跃度评价值；

从所有所述子数据中筛选出活跃度评价值小于预设的评价值阈值的指定子数据；

在所述存储区域中对所述指定子数据进行清除处理。

7.根据权利要求6所述的数据清洗方法，其特征在于，所述判断所述存储区域是否满足预设的缓存清除条件的步骤，具体包括：

获取所述存储区域当前的可用资源空间；

判断所述可用资源空间是否小于预设的资源空间阈值；

若是，判定所述存储区域满足所述缓存清除条件，否则判定所述存储区域不满足所述缓存清除条件。

8.一种数据清洗装置，其特征在于，包括：

第一判断模块，用于判断当前时间是否处于预设的数据清洗时间段内；

第一获取模块，用于若是，获取待处理的原始业务数据；

第一处理模块，用于调用预设的转换程序对所述原始业务数据进行转换处理，得到转换后的第一业务数据；

第二处理模块，用于对所述第一业务数据进行去除重复数据处理，得到处理后的第二业务数据；

第三处理模块，用于基于预设的修正规则对所述第二业务数据进行数据修正，得到修正后的第三业务数据；

存储模块，用于将所述第三业务数据存储至预设的存储区域内。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的数据清洗方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的数据清洗方法的步骤。