CN109977102A - 数据处理方法、装置、介质及电子设备 - Google Patents

Abstract

本发明实施例提供了一种数据处理方法、数据处理装置、计算机可读介质及电子设备，涉及数据处理技术领域。该数据处理方法包括：确定进行数据处理的源数据库与目标数据库；确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；将所述数据管道中的数据写入目标数据库。本发明实施例的技术方案能够提高数据处理的效率。

Description

数据处理方法、装置、介质及电子设备

技术领域

本发明涉及数据处理技术领域，具体而言，涉及一种数据处理方法、数据处理装置、计算机可读介质及电子设备。

背景技术

随着计算机网络技术的不断发展，数据的维度越来越多，数据量越来越大。人们通常采用数据集群来满足数据的要求。数据集群是利用至少两台数据库服务器构成的虚拟单一数据库逻辑映像，能够像单数据库系统那样向客户提供数据服务。为了减少数据集群压力，可能需要将一个集群中的数据迁移到另一个集群，也有可能需要将多个集群数据整合到一个更大的集群等。目前，常用的数据迁移、数据合并的方案主要包含两个阶段。第一阶段是先从原始数据集群中读取数据并存储本地磁盘中。然后第二阶段再读取本地磁盘中的文件，写入目标数据集群。这两个阶段存在先后次序，数据的读取和写入是串行状态，在数据比较多的时候，会造成漫长的数据处理过程。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本发明实施例的目的在于提供一种数据处理方法、数据处理装置、计算机可读介质及电子设备，进而至少在一定程度上克服数据处理速度慢的问题。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明实施例的第一方面，提供了一种数据处理方法，包括：确定需要进行数据处理的源数据库与目标数据库；确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；将所述数据管道中的数据写入目标数据库。

可选地，确定源数据库中的待处理数据，将待处理数据读取至数据管道可以包括：通过读数据任务读取所述源数据库的表中的待处理数据。

可选地，将数据管道中的数据写入目标数据库可以包括：通过多个写数据任务并发将数据管道中的数据写入到目标数据库。

可选地，将数据管道中的数据写入目标数据库可以包括：将所述数据管道中的数据以块为单位写入所述目标数据库。

可选地，将数据管道中的数据写入目标数据库之后，该方法还可以包括：在各写数据任务执行结束后，通过日志文件记录数据写入结果。

可选地，将数据管道中的数据写入目标数据库之后，该方法还可以包括：确定日志文件中的数据写入结果中包含失败记录时，重新执行失败记录对应的写数据任务。

可选地，确定源数据库中的待处理数据，将待处理数据读取至数据管道可以包括：确定源数据库中的待处理数据，将待处理数据读取至数据管道对应的内存中。

根据本发明实施例的第二方面，提供了一种数据处理装置，包括：数据确定单元，用于确定进行数据处理的源数据库与目标数据库；读数据单元，用于确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；写数据单元，用于将所述数据管道中的数据写入目标数据库。

可选地，该读数据单元还可以包括：任务单元，用于通过读数据任务读取所述源数据库的表中的待处理数据。

可选地，该写数据单元包括：并发单元，用于通过多个写数据任务并发将所述数据管道中的数据写入到所述目标数据库。

可选地，该数据处理装置还可以包括：日志单元，用于在各所述写数据任务执行结束后，通过日志文件记录数据写入结果。

可选地，该数据处理装置还可以包括：重写单元，用于确定所述数据写入结果中包含失败记录时，重新执行所述失败记录对应的写数据任务。

可选地，读数据单元包括：内存单元，用于确定所述源数据库中的待处理数据，将所述待处理数据读取至所述数据管道对应的内存中。

根据本发明实施例的第三方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例中第一方面所述的数据处理方法。

根据本发明实施例的第四方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中第一方面所述的数据处理方法。

本发明实施例提供的技术方案可以包括以下有益效果：

在本发明的一些实施例所提供的技术方案中，通过确定需要进行数据处理的源数据库和目标数据库，将源数据库中的待处理数据读取至数据管道，然后将数据管道中的数据写入目标数据库。在数据的读取写入操作中避免了大量的磁盘IO操作，节省了大量的时间，提高了数据读写的效率；并且，不用磁盘作为数据中转地，对磁盘空间大小需求较小，提高了磁盘资源利用率；此外，数据读取和写入可以同时进行，无需等待数据读取结束再进行写入，进一步提高了数据处理的效率。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示意性示出了根据本发明的实施例的数据处理方法的流程图；

图2示意性示出了根据本发明的实施例的数据处理装置的框图；

图3示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

在本发明的示例性实施方式中，首先提出一种数据处理方法。如图1所示，该方法可以包括步骤S110、步骤S120、步骤S130。其中：

步骤S110，确定需要进行数据处理的源数据库与目标数据库；

步骤S120，确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；

步骤S130，将所述数据管道中的数据写入目标数据库。

根据本示例性实施方式中的数据处理方法，通过确定需要进行数据处理的源数据库和目标数据库，将源数据库中的待处理数据读取至数据管道，然后将数据管道中的数据写入目标数据库。在数据的读取写入操作中避免了大量的磁盘IO操作，节省了大量的时间，提高了数据读写的效率；并且，不用磁盘作为数据中转地，大幅度降低因数据处理需要的磁盘空间大小；此外，数据读取和写入可以同时进行，无需等待数据读取结束再进行写入，进一步提高了数据处理的效率。

下面，将结合图1对本示例性实施方式中的数据处理方法的各个步骤进行更加详细的说明。

在步骤S110中，确定需要进行数据处理的源数据库与目标数据库。

数据集群为包括至少两个数据库服务器构成的虚拟的数据库映像。源数据库可以是构成源数据集群的数据库，而目标数据库则可以是目标数据集群中的数据库。在本示例实施例中，确定源数据库与目标数据库可以通过命令的形式，接收从命令行输入的源数据库与目标数据库的相关参数，例如数据库名、数据库端口号等。此外，还可以通过其他方式确定源数据库与目标数据库，例如通过配置文件中配置的源数据库与目标数据库的连接地址，确定源数据库与目标数据库。

在一些实施例中，数据集群中可以包含各种类型的数据库，例如关系型数据库、非关系型数据库等。示例性地，非关系型数据库可以包括Key-Value型数据库(如Redis、Memcached等)、文档型数据库(如MongoDB等)；而关系型数据库可以包括Oracle、MicrosoftSQL Server、MySQL等等。

在步骤S120中，确定源数据库中的待处理数据，将待处理数据读取至数据管道。

在本示例实施例中，源数据库中的待处理数据可以是源数据库中的数据集合，例如数据库的表中的数据等。因此，待处理数据可以包括数据库中的表中的数据，或者多个表中的数据的集合。通过源数据库的数据库名以及表名可以确定待处理数据。源数据库的数据库名以及表名可以通过接口的参数确定，通过接口的输入参数接收数据库名和表名，进而可以查询到源数据库中的待处理数据。

确定了待处理数据之后，可以将待处理数据读取至数据管道中。数据管道可以是用于传递数据的媒介。以使用Go语言的工具为例，通过channel对象可以确定一个数据管道。并且，还可以通过channel的各种参数配置该数据管道是否能缓存数据及缓存的数据类型。例如能够定义一个缓存1024个byte类型的channel对象、64个long型的channel对象等。确定了该数据管道的存放空间之后，可以通过迭代器逐一将查询到的待处理数据读取到该数据管道中。

在创建数据管道时，可以为该数据管道申请与定义的数据大小相等的内存空间。具体地，在创建channel时，计算机可以为创建的channel对象分配一块内存空间，再将待处理数据读取至该channel对象中时，该待处理数据将会保存在该内存空间中。可选地，在确定了源数据库中的待处理数据后，可以将待处理数据读取至数据管道对应的内存中。此外，本示例实施例中，还可以通过其他方式指定一块内存空间，然后将该内存空间作为数据管道来传递数据。

在一些实施例中，在读取待处理数据至数据管道之前，还可以先通过源数据库的连接参数连接源数据库，以便于对该源数据库进行访问。该连接参数可以包括IP地址，或者端口号，或者连接地址和端口号的组合例如：127.0.0.1:27017等。此外，该连接参数还可以包括连接所使用的用户名、密码等参数。同样地，目标数据库也可以通过连接参数进行连接。详细地，在连接源数据库时，可以提供一接口，通过接口的输入参数将数据库的IP地址、端口号接收到后，利用该IP地址与端口号与该源数据库建立连接。

进而，通过执行读数据任务可以将待处理数据读取至数据管道中。通过该读数据任务可以启动一个或多个线程，这些线程从源数据库中查询结果并逐步遍历获取待处理数据并将该数据插入到数据管道中。其中，一个线程可以处理一张表中的数据，通过多个线程可以同时处理多张表，进而可以提高数据的读取效率。

在步骤S130中，可以将数据管道中的数据合并至目标数据库中。

在本示例实施例中，可以通过接口、方法等实现将数据管道中的数据写入目标数据库中，例如，调用接口将数据管道中的数据插入到目标数据库中。并且，将数据管道中的数据写入到数据库过程中，可以以块为单位插入目标数据库。此外，还可以设置监听事件对该数据管道进行监听，如果该数据管道中有数据则无需等待读取数据的操作结束就可以获取该数据写入目标数据库，节省了数据读取写入的时间。由于在数据写入的过程中，节省了对数据压缩写入磁盘文件的过程，以及从磁盘文件中读取数据、解压数据的过程，因而进一步缩短了数据的处理过程，提高了效率。对非常大的数据量能够明显地提高速度，进而改善用户体验。

在一些实施例中，可以创建多个写数据任务，通过多个写数据任务并发地将数据管道中的数据以块为单位插入到目标数据库中，可以进一步提高数据处理的效率。详细地，以Go语言为例，如果待处理数据为多个表中的数据，可以通过多个Goroutine来处理表，其中，每个Goroutine分别处理一个表，在每个表的处理中，再使用一个Goroutine将读取到的数据插入到数据通道中。当有一个读数据的Goroutine读取到数据时，可以并发多个Goroutine来写数据。也就是说，在多个读数据的Goroutine分别读取多个表中的数据时，如果写数据的Goroutine能够获取到该数据管道中的数据，就可以以块为单位将数据写入到目标数据库中。例如，如果待处理数据包含100张表，可以通过100个Goroutine来用于将这100张表中的数据读取到该数据管道中，此时可以有多个负责写数据的Goroutine并发从该数据管道中获取到数据后，向目标数据库插入数据。此外，也可以通过其他方式使得多个写数据任务并发拷贝数据，例如通过互斥量Mutex来使得多个线程并发执行拷贝数据等。

在一些实施例中，通过多个写数据任务并发将数据写入目标数据库时，可以在各写数据任务执行结束后，通过记录日志来记录该写数据任务的执行结果。在多个写数据任务并发拷贝数据时，如果某一写数据任务执行结束，则可以向预先指定的日志文件中输出执行结果。如果该写数据任务执行成功，那么可以向日志文件中输出一标识任务执行成功的标识，例如“OK”、“Success”等；同样地，如果写数据任务执行失败，那么可以向日志文件中输出标识任务执行失败的标识。由于多个写数据任务可以并发执行，因此其中某一任务失败时，其他任务依然可以正常执行。相比数据写入失败时写数据的任务停止，并反馈失败结果，通过人工确认后再次触发任务，才重新执行读数据任务，然后再次执行写数据任务来说，避免了资源浪费，提高了效率。

因此，在将数据管道中的数据插入至目标数据库之后，还可以在确定日志文件中存在数据写入结果失败的记录时，将失败记录对应的写数据任务重新执行。详细地，在所有的写数据任务执行结束后，可以对日志文件进行过滤，过滤出执行失败的写数据任务，然后对这些失败的写数据任务重新执行。由于只执行失败的写数据任务，而对于日志文件中记录的执行成功的写数据任务可以不用再次执行，避免了数据处理出错后全部重做，减少了重新执行的代价，提高了效率。

同样地，也可以通过多个任务从源数据库中读取数据至数据管道中，并且，也可以通过记录日志的方式记录这些任务对应的数据是否读取成功。在所有的任务执行结束后，通过日志文件过滤出读取失败的任务，进行重新执行，以保证读取的数据的完整性。

以下介绍本发明的装置实施例，可以用于执行本发明上述的数据处理方法。如图2所示，该数据处理装置200可以包括：数据确定单元210，用于确定需要进行数据处理的源数据库与目标数据库；读数据单元220，用于确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；写数据单元230，用于将所述数据管道中的数据写入目标数据库。

可选地，该数据处理装置还可以包括：任务单元，用于通过读数据任务读取所述源数据库的表中的待处理数据。

可选地，该写数据单元包括：并发单元，用于通过多个写数据任务并发将所述数据管道中的数据写入到所述目标数据库。

可选地，该写数据单元包括：块写入单元，将所述数据管道中的数据以块为单位写入到所述目标数据库。

可选地，该数据处理装置还可以包括：日志单元，用于在各所述写数据任务执行结束后，通过日志文件记录数据写入结果。

可选地，该数据处理装置还可以包括：重写单元，用于确定所述日志文件中的数据写入结果中包含失败记录时，重新执行所述失败记录对应的写数据任务。

可选地，读数据单元包括：内存单元，用于确定所述源数据库中的待处理数据，将所述待处理数据读取至所述数据管道对应的内存中。

由于本发明的示例实施例的数据处理装置的各个功能模块与上述数据处理方法的示例实施例的步骤对应，因此对于本发明装置实施例中未披露的细节，请参照本发明上述的数据处理方法的实施例。

下面参考图3，其示出了适于用来实现本发明实施例的电子设备的计算机系统300的结构示意图。图3示出的电子设备的计算机系统300仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图3所示，计算机系统300包括中央处理单元(CPU)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储部分308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有系统操作所需的各种程序和数据。CPU301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

以下部件连接至I/O接口305：包括键盘、鼠标等的输入部分306；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分307；包括硬盘等的存储部分308；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分309。通信部分309经由诸如因特网的网络执行通信处理。驱动器310也根据需要连接至I/O接口305。可拆卸介质311，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器310上，以便于从其上读出的计算机程序根据需要被安装入存储部分308。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分309从网络上被下载和安装，和/或从可拆卸介质311被安装。在该计算机程序被中央处理单元(CPU)301执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的数据处理方法。

例如，所述的电子设备可以实现如图1中所示的：步骤S110，确定需要进行数据处理的源数据库与目标数据库；步骤S120，确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；步骤S130，将所述数据管道中的数据写入目标数据库。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种数据处理方法，其特征在于，包括：

确定需要进行数据处理的源数据库与目标数据库；

确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；

将所述数据管道中的数据写入所述目标数据库。

2.根据权利要求1所述的数据处理方法，其特征在于，确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道包括：

通过读数据任务读取所述源数据库的表中的待处理数据。

3.根据权利要求1所述的数据处理方法，其特征在于，所述将所述数据管道中的数据写入所述目标数据库包括：

通过多个写数据任务并发将所述数据管道中的数据写入所述目标数据库。

4.根据权利要求1所述的数据处理方法，其特征在于，所述将所述数据管道中的数据写入所述目标数据库包括：

将所述数据管道中的数据以块为单位写入所述目标数据库。

5.根据权利要求3所述的数据处理方法，其特征在于，所述将所述数据管道中的数据写入所述目标数据库之后，还包括：

在各所述写数据任务执行结束后，通过日志文件记录数据写入结果。

6.根据权利要求5所述的数据处理方法，其特征在于，将所述数据管道中的数据写入所述目标数据库之后，还包括：

确定所述日志文件中的数据写入结果中包含失败记录时，重新执行所述失败记录对应的写数据任务。

7.根据权利要求1所述的数据处理方法，其特征在于，所述确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道包括：

确定所述源数据库中的待处理数据，将所述待处理数据读取至所述数据管道对应的内存中。

8.一种数据处理装置，其特征在于，包括：

数据确定单元，用于确定需要进行数据处理的源数据库与目标数据库；

读数据单元，用于确定所述源数据库中的待处理数据，将所述待处理数据读取至数据管道；

写数据单元，用于将所述数据管道中的数据写入所述目标数据库。

9.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1至7中任一项所述的数据处理方法。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至7中任一项所述的数据处理方法。