CN117235179A - 基于sqoop的数据同步方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于大数据以及金融科技领域，涉及一种基于SQOOP的数据同步方法、装置、计算机设备及存储介质，方法包括：通过SQOOP从H I VE中获取待同步数据，并将待同步数据写入临时表；读取状态表中的版本状态，以确定当前版本表和历史版本表，版本状态包括当前版本和历史版本，当前版本对应的当前版本表为第一存储表和第二存储表中一个，历史版本对应的历史版本表为第一存储表和第二存储表中的一个，且第一存储表和第二存储表的版本状态不同；将临时表中的待同步数据写入历史版本表，并在写入完成后调换历史版本表和当前版本表的版本状态；通过新的当前版本表提供数据服务。本申请在通过SQOOP进行数据同步时，数据库能够一直提供服务。

Description

基于SQOOP的数据同步方法、装置、计算机设备及存储介质

技术领域

本申请涉及大数据和金融科技领域，尤其涉及一种基于SQOOP的数据同步方法、装置、计算机设备及存储介质。

背景技术

随着大数据时代的到来，大数据的应用也日趋增多，基于HIVE(一种基于Hadoop的数据仓库工具，用于处理大规模分布式存储的数据)的离线大批量处理应用场景逐渐增多。SQOOP是一个用于在Hadoop和关系型数据库之间传输数据的工具。在实际应用中，经常通过HIVE进行海量数据处理，然后由SQOOP同步到数据库，以供应用使用数据。

然而，这种大数据系统存在一些不足之处，首先，数据库通常是读写不分离的，当数据库在执行查询操作时，数据库中的数据表会被锁定，如果SQOOP此时要将新的数据写入数据库，由于数据表被锁定，写入操作会被阻塞，可能导致数据同步的延迟和数据不一致。其次，SQOOP每次执行数据同步都是全量更新，即SQOOP会先删除数据库中的数据，然后将新的数据批量写入。当数据表具有索引，或者数据量很大的情况下，同步效率会大大降低，出现数据表的空白期，在此期间数据会缺失，无法实现全天候的查询支持。例如，在金融保险领域，保险公司定期对客户数据进行批量同步，由于客户数量较多，会有大量数据需要同步，耗时较长，如果在同步过程中业务需要查询数据，则会显示数据表空白，造成查询业务中断；如果数据库被频繁查询，数据表频繁被锁定，则会影响数据同步的进行。这些都会导致SQOOP进行数据同步时，数据库可能无法正常提供服务。

发明内容

本申请实施例的目的在于提出一种基于SQOOP的数据同步方法、装置、计算机设备及存储介质，以解决通过SQOOP进行数据同步时数据库无法正常提供服务的问题。

为了解决上述技术问题，本申请实施例提供一种基于SQOOP的数据同步方法，并在数据库中设置有临时表、第一存储表、第二存储表和状态表，采用了如下所述的技术方案：

通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

通过新的当前版本表提供数据服务。

为了解决上述技术问题，本申请实施例还提供一种基于SQOOP的数据同步装置，并在数据库中设置有临时表、第一存储表、第二存储表和状态表，采用了如下所述的技术方案：

数据获取模块，用于通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

状态读取模块，用于读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

数据写入模块，用于将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

服务提供模块，用于通过新的当前版本表提供数据服务。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，并在数据库中设置有临时表、第一存储表、第二存储表和状态表，采用了如下所述的技术方案：

通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

通过新的当前版本表提供数据服务。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，并在数据库中设置有临时表、第一存储表、第二存储表和状态表，采用了如下所述的技术方案：

通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

通过新的当前版本表提供数据服务。

与现有技术相比，本申请实施例主要有以下有益效果：在数据库中设置临时表、第一存储表、第二存储表和状态表；通过SQOOP从HIVE中获取待同步数据，并快速将待同步数据写入临时表，实现数据快速入库；状态表可以记录、决定存储表的版本状态，读取状态表，以在第一存储表和第二存储表中确定当前版本表和历史版本表，历史版本表中数据为当前版本表中数据的前一版本；数据库由当前版本表提供数据服务，在数据同步时对历史版本表进行更新，而当前版本表可以正常工作，在数据库层面实现了读写分离，数据库的写入操作与读出操作并不影响，避免了数据表被锁定而无法正常工作的风险，AB表机制可以轻松应对大批量数据的同步，而不会使数据库对外显示数据表空白，避免了数据库在同步过程中无法提供数据服务的问题；将待同步数据写入历史版本表后，数据同步完成，调换历史版本表和当前版本表的版本状态，实现历史版本表和当前版本表的交叉更新。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的基于SQOOP的数据同步方法的一个实施例的流程图；

图3是根据本申请的基于SQOOP的数据同步装置的一个实施例的结构示意图；

图4是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的基于SQOOP的数据同步方法一般由服务器执行，相应地，基于SQOOP的数据同步装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的基于SQOOP的数据同步方法的一个实施例的流程图。所述的基于SQOOP的数据同步方法，在数据库中设置有临时表、第一存储表、第二存储表和状态表，包括以下步骤：

步骤S201，通过SQOOP从HIVE中获取待同步数据，并将待同步数据写入临时表。

在本实施例中，基于SQOOP的数据同步方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端设备进行通信。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

具体地，HIVE进行数据加工任务，将数据加工任务完成后的数据作为待同步数据。SQOOP根据设置的SQOOP任务，首先将待处理数据写入数据库中的临时表。待处理数据可以是任意领域的数据，例如，待处理数据可以是金融机构、保险公司中客户相关的数据，数据量较大。

本申请中，在数据库中设置有临时表(Table_tmp)、第一存储表(Table_a)、第二存储表(Table_b)和状态表(Table_config)。其中，临时表是数据库用来临时存储数据的表。第一存储表和第二存储表用于正式地存储数据，并可以提供数据服务(例如提供应用访问服务)，第一存储表和第二存储表构成互为备份的AB表，它们的表结构一致。第一存储表和第二存储表具有版本状态，状态表(Table_config)可以记录并控制第一存储表和第二存储表的版本状态，通过修改状态表，可以调整第一存储表和第二存储表的版本状态。数据库中还可以包含一个触发器表(Table_config_tmp)，触发器表的作用将在下文进行详细介绍。

进一步的，上述将待同步数据写入临时表的步骤可以包括：将待同步数据直接写入临时表，其中，临时表中的待同步数据不具有索引。

具体地，待同步数据不进行加工处理，直接写入临时表，通常，数据表中的数据会具有索引，以方便检索。然而，将待同步数据写入临时表后，并不会生成待同步数据的索引。通常，生成数据的索引需要花费较多的时间和计算资源，将待同步数据直接写入临时表而不生成索引，提高了将待同步数据写入临时表的速度。

本实施例中，将待同步数据直接写入临时表而不生成索引，提高了将待同步数据写入临时表的速度。

进一步的，数据库中还包括触发器表，在上述将待同步数据写入临时表的步骤之后，还可以包括：将预设的目标类型数据同步到触发器表，以通过触发器表中的触发器执行同步函数；根据同步函数，读取状态表中的版本状态，以确定当前版本表和历史版本表。

具体地，SQOOP通过SQOOP任务将待同步数据写入临时表后，将预设的目标类型数据同步到触发器表。目标类型数据可以是常量数据，例如预先约定好的一个数字或者字符串等。

触发器表中创建了一个触发器ab_trigger，它是一个AFTER INSERT触发器。当临时表中被写入新的待同步数据时，SQOOP会将目标类型数据同步到触发器表，使得触发器被触发。被触发的触发器会调用并执行同步函数，以根据同步函数读取状态表中的版本状态，从而确定当前版本表和历史版本表。

同步函数table_config_tmp_func()是预先定义好的函数，执行待同步数据在临时表、第一存储表、第二存储表之间的同步操作。

本实施例中，将预设的目标类型数据同步到触发器表，以触发预设的触发器；被触发的触发器调用并执行同步函数，从而读取状态表中的版本状态，以确定当前版本表和历史版本表，有序推进后续的数据同步操作。

步骤S202，读取状态表中的版本状态，以确定当前版本表和历史版本表，版本状态包括当前版本和历史版本，当前版本对应的当前版本表为第一存储表和第二存储表中一个，历史版本对应的历史版本表为第一存储表和第二存储表中的一个，且第一存储表和第二存储表的版本状态不同。

具体地，第一存储表和第二存储表具有版本状态，版本状态包括当前版本和历史版本。本申请对HIVE中的数据进行全量更新，随着时间的推移，HIVE中的数据/待同步数据/存储表中的数据会出现版本差异；例如，HIVE中的数据每天在23：00完成更新，则2023年1月1日生成的待同步数据版本是20230101，到了2023年1月2日，生成的待同步数据版本是20230102。版本20230101早于版本20230102，在2023年1月2日23：00，对于版本20230101和版本20230102，版本20230101可以为历史版本，版本20230102为当前版本。

如果存储表的版本状态为当前版本，则存储表又可以记作当前版本表，如果存储表的版本状态为历史版本，则存储表又可以记作历史版本表。可以理解，当前版本表中存储的是最新的数据，而历史版本表存储的是上一个版本的数据(此处的最新和上一个版本，是不考虑新产生的待同步数据的情况下，可以理解，如果当前已经有了待同步数据，那么当前版本表中的数据相较于待同步数据，也可以视为历史版本的数据)。

需要指出的是，第一存储表和第二存储表的版本状态是不同的，即，第一存储表和第二存储表中，一个表为当前版本表，另一个表为历史版本表，第一存储表和第二存储表的版本状态属于数学中的对立事件。

状态表记录了第一存储表和第二存储表的版本状态，读取状态表中的版本状态，可以获取到当前版本表和历史版本表。

状态表的表结构只有两列，分别为table_name和status。其中，table_name是指存储表的名称，例如可以将第一存储表命名为Table_a，将第二存储表命名为Table_b。status表示存储表的版本状态，可以用Y和N来表示，其中，Y表示当前版本(可以理解为yes，存储表中的数据是最新状态)，N表示历史版本(可以理解为no，存储表中的数据不是最新状态)。在一个实施例中，状态表的形式如表1所示：

表1

table_name	status
		Table_a	Y
Table_b	N

步骤S203，将临时表中的待同步数据写入历史版本表，并在写入完成后调换历史版本表和当前版本表的版本状态。

具体地，由于当前版本表中的数据已经是(待同步数据之外)最新的数据，而历史版本表中的数据则是(待同步数据之外)上一个版本的数据。本申请对第一存储表和第二存储表进行交叉更新，每次更新都淘汰更久之前的数据。因此，将临时表中的待同步数据写入历史版本表。写入完成后，之前的历史版本表实质上已经成为新的当前版本表，之前的当前版本表实质上已经成为新的历史版本表。因此，还需要调换之前的历史版本表和之前的当前版本表的版本状态。

进一步的，上述将临时表中的待同步数据写入历史版本表的步骤可以包括：清空历史版本表；将临时表中的待同步数据写入已清空的历史版本表，并生成索引。

具体地，在将待同步数据写入历史版本表时，先清空历史版本表，包括清空历史版本表中的索引。然后，将临时表中的待同步数据写入已清空的历史版本表，并生成索引，以便后续的数据检索。

数据库中具有当前版本表和历史版本表，数据库由当前版本表提供数据服务，此时历史版本表作为备份存在。由于历史版本表不提供数据服务，待同步数据表写入历史版本表的速度可以相对放缓，在这个过程中还可以生成索引，并为后续的数据服务提供方便。

本实施例中，清空历史版本表，将临时表中的待同步数据写入已清空的历史版本表，并生成索引，方便后续根据索引提供数据服务。

进一步的，上述调换历史版本表和当前版本表的版本状态的步骤可以包括：在状态表中，将历史版本表的版本状态调整为当前版本，得到新的当前版本表，并将当前版本表的版本状态调整为历史版本，得到新的历史版本表。

具体地，状态表可以记录并决定第一存储表和第二存储表的版本状态。修改状态表，将历史版本表的版本状态调整为当前版本(承接上文的例子，将状态表中status由N修改成Y)，得到新的当前版本表，并将当前版本表的版本状态调整为历史版本(承接上文的例子，将状态表中status由Y修改成N)，得到新的历史版本表。

本实施例中，状态表可以记录并确定存储表的版本状态，修改状态表，将历史版本表的版本状态调整为当前版本，从而得到新的当前版本表，同时将当前版本表的版本状态调整为历史版本，得到新的历史版本表，完成存储表版本状态的调换。

步骤S204，通过新的当前版本表提供数据服务。

具体地，待同步数据被写入第一存储表/第二存储表后，完成待同步数据的同步。数据库可以提供数据服务，并由最新的当前版本表提供数据服务，从而确保提供信息的及时性。

进一步的，上述步骤S204可以包括：接收应用的数据获取请求；根据数据获取请求查询新的当前版本表，得到数据查询结果；将数据查询结果发送至应用，以向应用提供数据服务。

具体地，接收应用的数据获取请求，应用可以是终端设备中的应用，根据数据获取请求查询最新的当前版本表，得到数据查询结果。将数据查询结果发送至应用，实现向应用提供数据服务。

本实施例中，接收应用的数据获取请求，根据数据获取请求查询新的当前版本表，得到数据查询结果，并将数据查询结果发送至应用；由于新的当前版本表中包含最新的数据，根据新的当前版本表提供数据服务，确保了数据服务的准确性以及时效性。

本申请中，先通过SQOOP快速将待存储数据存入临时表，实现数据快速入库。数据库中设置有第一存储表和第二存储表，根据存储表的版本状态将存储表划分为当前版本表和历史版本表，通常由当前版本表对外提供数据服务。在将临时表中的待同步数据写入存储表时，是将待同步数据写入历史版本表，以清除更久之前的数据，实现第一存储表和第二存储表的交叉更新。在通过临时表、历史版本表进行数据同步时，当前版本表还可以正常提供数据服务，从数据库角度看，实现了读写分离，数据库的写入操作与数据库的读出操作并不影响，消除了数据表被锁定而无法正常工作的风险。历史版本表和当前版本表这种AB表机制，可以全天候、随时随地提供数据服务和数据更新，可以轻松应对大批量数据的同步，对外不会出现数据表的空白期，对数据库的应用没有影响，避免了数据库出现无法提供服务的问题。

本实施例中，在数据库中设置临时表、第一存储表、第二存储表和状态表；通过SQOOP从HIVE中获取待同步数据，并快速将待同步数据写入临时表，实现数据快速入库；状态表可以记录、决定存储表的版本状态，读取状态表，以在第一存储表和第二存储表中确定当前版本表和历史版本表，历史版本表中数据为当前版本表中数据的前一版本；数据库由当前版本表提供数据服务，在数据同步时对历史版本表进行更新，而当前版本表可以正常工作，在数据库层面实现了读写分离，数据库的写入操作与读出操作并不影响，避免了数据表被锁定而无法正常工作的风险，AB表机制可以轻松应对大批量数据的同步，而不会使数据库对外显示数据表空白，避免了数据库在同步过程中无法提供数据服务的问题；将待同步数据写入历史版本表后，数据同步完成，调换历史版本表和当前版本表的版本状态，实现历史版本表和当前版本表的交叉更新。

进一步的，上述基于SQOOP的数据同步方法还可以包括：当检测到当前版本表存在异常时，调换当前版本表和历史版本表的版本状态。

具体地，当数据库中的当前版本表存在异常、无法提供数据服务，且历史版本表正常时，可以调换当前版本表和历史版本表的版本状态，即，将存储上一个版本数据的存储表设置为当前版本表，而将存储最新版本数据的存储表设置为历史版本表，从而继续提供数据服务，确保数据库的稳定性。

本实施例中，当检测到当前版本表存在异常时，调换当前版本表和历史版本表的版本状态，从而根据正常的存储表继续提供数据服务，提高了数据库的稳定性。

需要强调的是，为进一步保证上述待同步数据的私密和安全性，上述待同步数据还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种基于SQOOP的数据同步装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的基于SQOOP的数据同步装置300包括：数据获取模块301、状态读取模块302、数据写入模块303以及服务提供模块304，其中：

数据获取模块301，用于通过SQOOP从HIVE中获取待同步数据，并将待同步数据写入临时表。

状态读取模块302，用于读取状态表中的版本状态，以确定当前版本表和历史版本表，版本状态包括当前版本和历史版本，当前版本对应的当前版本表为第一存储表和第二存储表中一个，历史版本对应的历史版本表为第一存储表和第二存储表中的一个，且第一存储表和第二存储表的版本状态不同。

数据写入模块303，用于将临时表中的待同步数据写入历史版本表，并在写入完成后调换历史版本表和当前版本表的版本状态。

服务提供模块304，用于通过新的当前版本表提供数据服务。

本实施例中，在数据库中设置临时表、第一存储表、第二存储表和状态表；通过SQOOP从HIVE中获取待同步数据，并快速将待同步数据写入临时表，实现数据快速入库；状态表可以记录、决定存储表的版本状态，读取状态表，以在第一存储表和第二存储表中确定当前版本表和历史版本表，历史版本表中数据为当前版本表中数据的前一版本；数据库由当前版本表提供数据服务，在数据同步时对历史版本表进行更新，而当前版本表可以正常工作，在数据库层面实现了读写分离，数据库的写入操作与读出操作并不影响，避免了数据表被锁定而无法正常工作的风险，AB表机制可以轻松应对大批量数据的同步，而不会使数据库对外显示数据表空白，避免了数据库在同步过程中无法提供数据服务的问题；将待同步数据写入历史版本表后，数据同步完成，调换历史版本表和当前版本表的版本状态，实现历史版本表和当前版本表的交叉更新。

在本实施例的一些可选的实现方式中，数据获取模块301还用于将待同步数据直接写入临时表，其中，临时表中的待同步数据不具有索引。

本实施例中，将待同步数据直接写入临时表而不生成索引，提高了将待同步数据写入临时表的速度。

在本实施例的一些可选的实现方式中，数据库中还包括触发器表，则基于SQOOP的数据同步装置300还可以包括：触发模块，其中：

触发模块，用于将预设的目标类型数据同步到触发器表，以通过触发器表中的触发器执行同步函数。

所述状态读取模块302还用于根据同步函数，读取状态表中的版本状态，以确定当前版本表和历史版本表。

本实施例中，将预设的目标类型数据同步到触发器表，以触发预设的触发器；被触发的触发器调用并执行同步函数，从而读取状态表中的版本状态，以确定当前版本表和历史版本表，有序推进后续的数据同步操作。

在本实施例的一些可选的实现方式中，数据写入模块303可以包括：历史清空子模块以及数据写入子模块，其中：

历史清空子模块，用于清空历史版本表。

数据写入子模块，用于将临时表中的待同步数据写入已清空的历史版本表，并生成索引。

本实施例中，清空历史版本表，将临时表中的待同步数据写入已清空的历史版本表，并生成索引，方便后续根据索引提供数据服务。

在本实施例的一些可选的实现方式中，数据写入模块303还可以用于在状态表中，将历史版本表的版本状态调整为当前版本，得到新的当前版本表，并将当前版本表的版本状态调整为历史版本，得到新的历史版本表。

本实施例中，状态表可以记录并确定存储表的版本状态，修改状态表，将历史版本表的版本状态调整为当前版本，从而得到新的当前版本表，同时将当前版本表的版本状态调整为历史版本，得到新的历史版本表，完成存储表版本状态的调换。

在本实施例的一些可选的实现方式中，服务提供模块304可以包括：请求接收子模块、数据查询子模块以及结果发送子模块，其中：

请求接收子模块，用于接收应用的数据获取请求。

数据查询子模块，用于根据数据获取请求查询新的当前版本表，得到数据查询结果。

结果发送子模块，用于将数据查询结果发送至应用，以向应用提供数据服务。

本实施例中，接收应用的数据获取请求，根据数据获取请求查询新的当前版本表，得到数据查询结果，并将数据查询结果发送至应用；由于新的当前版本表中包含最新的数据，根据新的当前版本表提供数据服务，确保了数据服务的准确性以及时效。

在本实施例的一些可选的实现方式中，基于SQOOP的数据同步装置300还可以包括：异常调换模块，其中：

异常调换模块，用于当检测到当前版本表存在异常时，调换当前版本表和历史版本表的版本状态。

本实施例中，当检测到当前版本表存在异常时，调换当前版本表和历史版本表的版本状态，从而根据正常的存储表继续提供数据服务，提高了数据库的稳定性。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如基于SQOOP的数据同步方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述基于SQOOP的数据同步方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本实施例中提供的计算机设备可以执行上述基于SQOOP的数据同步方法。此处基于SQOOP的数据同步方法可以是上述各个实施例的基于SQOOP的数据同步方法。

本实施例中，在数据库中设置临时表、第一存储表、第二存储表和状态表；通过SQOOP从HIVE中获取待同步数据，并快速将待同步数据写入临时表，实现数据快速入库；状态表可以记录、决定存储表的版本状态，读取状态表，以在第一存储表和第二存储表中确定当前版本表和历史版本表，历史版本表中数据为当前版本表中数据的前一版本；数据库由当前版本表提供数据服务，在数据同步时对历史版本表进行更新，而当前版本表可以正常工作，在数据库层面实现了读写分离，数据库的写入操作与读出操作并不影响，避免了数据表被锁定而无法正常工作的风险，AB表机制可以轻松应对大批量数据的同步，而不会使数据库对外显示数据表空白，避免了数据库在同步过程中无法提供数据服务的问题；将待同步数据写入历史版本表后，数据同步完成，调换历史版本表和当前版本表的版本状态，实现历史版本表和当前版本表的交叉更新。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于SQOOP的数据同步方法的步骤。

本实施例中，在数据库中设置临时表、第一存储表、第二存储表和状态表；通过SQOOP从HIVE中获取待同步数据，并快速将待同步数据写入临时表，实现数据快速入库；状态表可以记录、决定存储表的版本状态，读取状态表，以在第一存储表和第二存储表中确定当前版本表和历史版本表，历史版本表中数据为当前版本表中数据的前一版本；数据库由当前版本表提供数据服务，在数据同步时对历史版本表进行更新，而当前版本表可以正常工作，在数据库层面实现了读写分离，数据库的写入操作与读出操作并不影响，避免了数据表被锁定而无法正常工作的风险，AB表机制可以轻松应对大批量数据的同步，而不会使数据库对外显示数据表空白，避免了数据库在同步过程中无法提供数据服务的问题；将待同步数据写入历史版本表后，数据同步完成，调换历史版本表和当前版本表的版本状态，实现历史版本表和当前版本表的交叉更新。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种基于SQOOP的数据同步方法，其特征在于，在数据库中设置有临时表、第一存储表、第二存储表和状态表，包括下述步骤：

通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

通过新的当前版本表提供数据服务。

2.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述将所述待同步数据写入所述临时表的步骤包括：

将所述待同步数据直接写入所述临时表，其中，所述临时表中的待同步数据不具有索引。

3.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述数据库中还包括触发器表，在所述将所述待同步数据写入所述临时表的步骤之后，还包括：

将预设的目标类型数据同步到所述触发器表，以通过所述触发器表中的触发器执行同步函数；

根据所述同步函数，执行所述读取所述状态表中的版本状态，以确定当前版本表和历史版本表的步骤。

4.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述将所述临时表中的待同步数据写入所述历史版本表的步骤包括：

清空所述历史版本表；

将所述临时表中的待同步数据写入已清空的历史版本表，并生成索引。

5.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述调换所述历史版本表和所述当前版本表的版本状态的步骤包括：

在所述状态表中，将所述历史版本表的版本状态调整为当前版本，得到新的当前版本表，并将所述当前版本表的版本状态调整为历史版本，得到新的历史版本表。

6.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述通过新的当前版本表提供数据服务的步骤包括：

接收应用的数据获取请求；

根据所述数据获取请求查询所述新的当前版本表，得到数据查询结果；

将所述数据查询结果发送至所述应用，以向所述应用提供数据服务。

7.根据权利要求1所述的基于SQOOP的数据同步方法，其特征在于，所述方法还包括：

当检测到当前版本表存在异常时，调换所述当前版本表和历史版本表的版本状态。

8.一种基于SQOOP的数据同步装置，其特征在于，在数据库中设置有临时表、第一存储表、第二存储表和状态表，包括：

数据获取模块，用于通过SQOOP从HIVE中获取待同步数据，并将所述待同步数据写入所述临时表；

状态读取模块，用于读取所述状态表中的版本状态，以确定当前版本表和历史版本表，所述版本状态包括当前版本和历史版本，所述当前版本对应的所述当前版本表为所述第一存储表和所述第二存储表中一个，所述历史版本对应的所述历史版本表为所述第一存储表和所述第二存储表中的一个，且所述第一存储表和所述第二存储表的版本状态不同；

数据写入模块，用于将所述临时表中的待同步数据写入所述历史版本表，并在写入完成后调换所述历史版本表和所述当前版本表的版本状态；

服务提供模块，用于通过新的当前版本表提供数据服务。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于SQOOP的数据同步方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于SQOOP的数据同步方法的步骤。