CN115510036A - 数据迁移方法、装置、设备以及存储介质 - Google Patents

Abstract

本公开提供了一种数据迁移方法、装置、设备以及存储介质，涉及云计算、云存储、云网络和云数据库技术，可应用在智能云场景下。具体实现方案为：响应于接收到数据迁移请求，获取与数据迁移请求对应的待迁移数据表，其中，待迁移数据表包括至少一个待迁移数据集的数据信息，待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据；针对待迁移数据表中的每个数据信息，从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列；以及针对消息队列中的每个第一数据，从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据和与每个第一数据对应的第二数据写入目标数据库。

Description

数据迁移方法、装置、设备以及存储介质

技术领域

本公开涉及人工智能领域，具体涉及云计算、云存储、云网络和云数据库技术，可应用在智能云场景下。

背景技术

数据库是按照数据结构来组织、储存和管理数据的仓库。随着互联网技术的发展，数据库会进行更新换代，此时需要将旧的数据库中的数据迁移到新的数据库中。人工参与数据库迁移，操作繁琐，数据迁移的效率较低。

发明内容

本公开提供了一种数据迁移方法、装置、设备、存储介质以及程序产品。

根据本公开的一方面，提供了一种数据迁移方法，包括：响应于接收到数据迁移请求，获取与所述数据迁移请求对应的待迁移数据表，其中，所述待迁移数据表包括至少一个待迁移数据集的数据信息，所述待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据；针对所述待迁移数据表中的每个数据信息，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列；以及针对所述消息队列中的每个第一数据，从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库。

根据本公开的另一方面，提供了一种数据迁移装置，包括：获取模块，用于响应于接收到数据迁移请求，获取与所述数据迁移请求对应的待迁移数据表，其中，所述待迁移数据表包括至少一个待迁移数据集的数据信息，所述待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据；第一写入模块，用于针对所述待迁移数据表中的每个数据信息，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列；以及第二写入模块，用于针对所述消息队列中的每个第一数据，从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库。

本公开的另一个方面提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开实施例所示的方法。

根据本公开实施例的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开实施例所示的方法。

根据本公开实施例的另一方面，提供了一种计算机程序产品，包括计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现本公开实施例所示方法的步骤。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例的系统架构的示意图；

图2示意性示出了根据本公开的实施例的数据迁移方法的流程图；

图3示意性示出了根据本公开另一实施例的数据迁移方法的流程图；

图4示意性示出了根据本公开另一实施例的数据迁移方法的流程图；

图5示意性示出了根据本公开的实施例的迁移状态的示意图；

图6示意性示出了根据本公开的实施例的数据迁移的示意图；

图7示意性示出了根据本公开实施例的数据迁移装置的框图；以及

图8示意性示出了可以用来实施本公开的实施例的示例电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

以下将结合图1对本公开提供的可以应用数据迁移方法和装置的系统架构进行描述。

图1是根据本公开实施例的系统架构的示意图。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，该系统架构100可以包括源数据库101、102、数据传输系统103和目标数据库104。

根据本公开的实施例，数据传输系统103例如可以提供数据迁移、数据同步、数据订阅等数据库数据传输服务(Data Transmission Service，DTS)。

根据本公开的实施例，源数据库101、源数据库102和目标数据库104可以是不同类型的数据库，也可以是相同类型的数据库，本公开对此不作具体限定。其中，类型包括但不限于MySQL、mola和TafDB。

根据本公开的实施例，源数据库101、源数据库102和目标数据库104中的任意多个可以位于同一数据库系统中，源数据库101、源数据库102和目标数据库104也可以分别位于不同的数据库系统中，本公开对此不作具体限定。

根据本公开的实施例，数据在存储时，可以将数据分为任意比例的两个部分，一部分存储在源数据库101中，另一部分存储在源数据库102中。

当需要将源数据库101和源数据库102中的数据迁移至目标数据库104时，数据传输系统103可以从源数据库101和102中获取待迁移数据，然后将待迁移数据写入目标数据库104。

数据传输系统103可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(″Virtual Private Server″，或简称″VPS″)中，存在的管理难度大，业务扩展性弱的缺陷。数据传输系统103也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，图1中的源数据库、目标数据库和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的源数据库、目标数据库和服务器。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

在本公开的技术方案中，在获取或采集用户个人信息之前，均获取了用户的授权或同意。

以下将结合图2对本公开提供的数据迁移方法进行描述。

图2示意性示出了根据本公开的实施例的数据迁移方法的流程图。该数据迁移方法例如可以由上文所示的数据传输系统执行。

如图2所示，该数据迁移方法200包括在操作S210，响应于接收到数据迁移请求，获取与所述数据迁移请求对应的待迁移数据表。

根据本公开的实施例，数据迁移请求可以用于请求数据传输系统将源数据库中的待迁移数据迁移至目标数据库。所述待迁移数据表包括至少一个待迁移数据集的数据信息。其中，所述待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据。待迁移数据集的数据信息例如可以包括待迁移数据集的标识。例如，所述待迁移数据集例如可以为bucket(桶)数据类型。待迁移数据集的标识可以为bucket的ID(身份标识)。

根据本公开的实施例，可以预先将待迁移数据集的数据信息写入到待迁移数据表中。其中，每个待迁移数据集可以包括多个数据，例如元数据。元数据可以是用于描述数据属性的信息，常用以支持如指示数据的存储位置、历史数据或资源的查找、文件记录等功能。待迁移数据集中的数据可以以任意比例分别存储于第一数据库和第二数据库中。

根据本公开的实施例，该待迁移数据表例如可以存储在源数据库中，例如可以存储于第一数据库和/或第二数据库中。示例性地，本实施例中，可以将待迁移数据表存储于第一数据库中。数据传输系统可以从第一数据库中获取待迁移数据表。

然后，在操作S220，针对待迁移数据表中的每个数据信息，从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列。

根据本公开的实施例，例如可以在第一数据库中查找与数据信息匹配的数据，作为第一数据。

根据本公开的实施例，可以将每个数据信息所对应的第一数据存储在一个消息队列中，也可以分别存储在多个消息队列中，本公开对此不作限定。

在操作S230，针对消息队列中的每个第一数据，从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据和与每个第一数据对应的第二数据写入目标数据库。

根据本公开的实施例，例如可以根据预定顺序，从消息队列中获取一个第一数据。其中，预定顺序例如可以包括写入消息队列的时间顺序，先写入消息队列的第一数据先被迁移。确定该第一数据所对应的数据信息。然后在第二数据库中查找与该数据信息匹配的数据，作为与该第一数据对应的第二数据。并将该第一数据和该第二数据一起存储至目标数据库。接下来，可以根据预定顺序，从消息队列中获取下一个第一数据，重复上述操作。直到消息队列中的所有数据均完成迁移。

相关技术采用人工参与数据库迁移，操作繁琐，数据迁移的效率较低。

根据公开的实施例的数据迁移方法，可以自动将源数据库中的数据，迁移到目标数据库中，数据迁移的效率较高。另外，通过使用消息队列进行数据迁移，可以保证迁移后数据的有序性。

根据本公开的另一实施例，数据传输系统例如可以包括多个第一节点。数据传输系统例如可以根据共识算法，从多个第一节点中确定启动节点。其中，共识算法例如可以包括raft算法。基于此，本实施例中，可以利用启动节点，从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列。

根据本公开的另一实施例，数据传输系统例如可以包括多个第二节点。数据传输系统例如可以根据共识算法，从多个第一节点中确定数据迁移节点。数据迁移节点可以作为主节点(master)，可以为数据迁移节点配置至少一个工人节点(worker)。基于此，本实施例中，可以利用数据迁移节点，根据消息队列中的每个第一数据，生成至少一个迁移任务，并将至少一个迁移任务分配给与数据迁移节点对应的至少一个工人节点。然后可以利用至少一个工人节点，根据分配的迁移任务，以从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据与每个第二数据写入目标数据库。

根据本公开的另一实施例，数据迁移节点中的水位信息例如还可以统计水位信息。其中，水位信息用于表示消息队列中最后一次读取的位置。如果由多个消息队列，则从各消息队列中最后一次读取的位置中选择最小的位置作为水位位置。启动节点例如可以轮询数据迁移节点，以确定数据迁移节点中的水位信息。在水位信息满足预定条件的情况下，将针对待迁移数据集的读写请求转发至目标数据库。其中，预定条件例如可以包括在水位信息所对应的数据的发送时间与系统当前时间一致。如果水位信息满足预定条件，则表示数据以完成迁移。如果水位信息不满足预定条件，则表示数据还未完成迁移。

图3示意性示出了根据本公开另一实施例的数据迁移方法的流程图。该数据迁移方法例如可以由上文所示的数据传输系统执行。

如图3所示，在将每个第一数据和与每个第一数据对应的第二数据写入目标数据库的情况下，该数据迁移方法300还可以包括在操作S340，检查目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集是否一致。

在操作S350，在目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集不一致的情况下，删除已写入目标数据库中的数据。

根据本公开的实施例，如果目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集一致，则表示数据迁移成功。如果目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集不一致，则表示数据迁移失败，在这种情况下，可以删除已写入目标数据库中的数据，以避免重新发起数据迁移时，目标数据库中的数据出现冲突。

图4示意性示出了根据本公开另一实施例的数据迁移方法的流程图。该数据迁移方法例如可以由上文所示的数据传输系统执行。

如图4所示，该数据迁移方法400还可以包括在操作S460，获取第一数据库的数据库变更日志。

根据本公开的实施例，数据库变更日志可以用于记录第一数据库中所有数据库表结构变更以及表数据修改的日志。数据库变更日志例如可以包括binlog日志。

在操作S470，根据数据库变更日志，确定接收到数据迁移请求之后预定时间内，第一数据库中发生变更的增量数据。

根据本公开的实施例，预定时间可以根据实际需要设置，例如可以根据历史各次数据迁移所消耗的时长，计算平均迁移时长作为预定时间。

根据本公开的实施例，例如可以根据数据库变更日志，确定在预定时间内，数据库表结构发生变更和/或表数据发生修改的数据，作为增量数据。

在操作S480，将增量数据作为第一数据写入消息队列。

根据本公开的实施例，通过将第一数据库中的增量数据写入消息队列，后续可以将第一数据库中的增量数据以及对应的第而数据库中的增量数据也迁移至目标数据库，从而可以保证迁移前后数据的一致性。

根据本公开的另一实施例，启动节点和数据迁移节点还可以记录迁移状态。基于此，图5示意性示出了根据本公开的实施例的迁移状态的示意图。

在图5中示出了，迁移状态例如可以包括“初始”、“迁移中”、“迁移完成”、“检查完成”、“结束”、“删除”和“失败”等状态。

示例性地，本实施例中，在数据迁移节点，根据消息队列中的每个第一数据，生成至少一个迁移任务前，系统可以处于“初始”状态。在数据迁移节点，根据消息队列中的每个第一数据，生成至少一个迁移任务至每个第一数据与每个第二数据写入目标数据库之间时，系统可以处于“迁移中”状态。在每个第一数据与每个第二数据均写入目标数据库之后，系统可以处于“迁移完成”状态。然后进行数据检查，如果通过检查，则系统可以由“迁移完成”状态转为“检查完成”状态。接着可以“检查完成”状态转为“结束”状态。当数据迁移过程中出现迁移任务重启或迁移失败的情况下，可以删除已写入目标数据库中的数据，此时系统可以处于“删除”状态。当删除完成后，可以由“删除”状态转为“失败”状态。

根据本公开的实施例，通过在启动节点和数据迁移节点中记录迁移状态。当启动节点和数据迁移节点中至少一个需要更换的情况下，更换后的节点可以根据记录的迁移状态继续后续的迁移工作，保证迁移任务不会丢失，能够有效提高了数据迁移的可靠性。

下面参考图6，结合具体实施例对上文所示的数据迁移方法做进一步说明。本领域技术人员可以理解，以下示例实施例仅用于理解本公开，本公开并不局限于此。

图6示意性示出了根据本公开的实施例的数据迁移的示意图。

在图6中示出了，待迁移的数据例如可以为元数据。元数据可以根据bucket数据形式存储，即待迁移数据集例如可以为bucket类型。

源数据库可以向数据处理系统发起迁移请求。源数据库可以包括第一源数据库和第二源数据库。示例性地，本实施例中，第一源数据库例如可以包括MySQL数据库。第二源数据库例如可以包括mola数据库。目标数据库例如可以包括TafDB数据库。

数据处理系统的启动节点例如可以包括DTS-start节点。启动节点可以是使用raft协议组成的一个中心服务，启动节点的内存中可以维护可用的消息队列(pipelet)列表。

DTS-start节点例如可以获取待迁移数据表中的数据，将这些数据标记为迁移中。然后将bucket对应的消息队列信息、起始订阅点、数据信息记录到源数据库中，另外可以记录迁移开始时间，然后调用DTS服务的API(应用程序接口)发起存量数据和增量数据的迁移任务。DTS服务可以从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列。

数据处理系统的数据迁移节点可以包括master节点。master节点可以根据消息队列中的每个第一数据，生成至少一个迁移任务，并将至少一个迁移任务分配给与数据迁移节点对应的至少一个worker节点(工人节点)。各worker节点向数据迁移节点请求获取分配的迁移任务，然后执行分配的迁移任务，即从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据与每个第二数据写入目标数据库。由此，可以将第一源数据库和第二源数据库中待迁移数据迁移至目标数据库。

以下将结合图7对本公开提供的数据迁移装置进行描述。

图7示意性示出了根据本公开实施例的数据迁移装置的框图。

如图7所示，数据迁移装置700包括获取模块710、第一写入模块720和第二写入模块730。数据迁移装置700可以应用于数据传输系统。

获取模块710，用于响应于接收到数据迁移请求，获取与数据迁移请求对应的待迁移数据表，其中，待迁移数据表包括至少一个待迁移数据集的数据信息，待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据。

第一写入模块720，用于针对待迁移数据表中的每个数据信息，从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列。

第二写入模块730，用于针对消息队列中的每个第一数据，从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据和与每个第一数据对应的第二数据写入目标数据库。

根据本公开的实施例，数据传输系统可以包括多个第一节点，上述装置可以还包括第一确定模块，用于根据共识算法，从多个第一节点中确定启动节点。其中，第一写入模块还可以用于利用启动节点，从第一数据库中获取与每个数据信息对应的第一数据，并将第一数据写入消息队列。

根据本公开的实施例，数据传输系统可以包括多个第二节点，上述装置还包括第二确定模块，用于根据共识算法，从多个第一节点中确定数据迁移节点，并为数据迁移节点配置至少一个工人节点。其中，第二写入模块还可以用于利用数据迁移节点，根据消息队列中的每个第一数据，生成至少一个迁移任务，并将至少一个迁移任务分配给与数据迁移节点对应的至少一个工人节点。以及利用至少一个工人节点，根据分配的迁移任务，以从第二数据库中获取与每个第一数据对应的第二数据，并将每个第一数据与每个第二数据写入目标数据库。

根据本公开的实施例，上述装置还可以包括检查模块和删除模块。其中，检查模块，可以用于在将每个第一数据和与每个第一数据对应的第二数据写入目标数据库的情况下，检查目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集是否一致。删除模块，可以用于在目标数据库中写入的数据与第一数据库和第二数据库中的待迁移数据集不一致的情况下，删除已写入目标数据库中的数据。

根据本公开的实施例，上述装置还可以包括日志获取模块、增量数据确定模块和增量数据写入模块。其中，日志获取模块，用于获取第一数据库的数据库变更日志。增量数据确定模块，用于根据数据库变更日志，确定接收到数据迁移请求之后预定时间内，第一数据库中发生变更的增量数据。增量数据写入模块，用于将增量数据作为第一数据写入消息队列。

根据本公开的实施例，上述装置还可以包括水位确定模块和转发模块。其中，水位确定模块，可以用于确定数据迁移节点中的水位信息。转发模块，可以用于在水位信息满足预定条件的情况下，将针对待迁移数据集的读写请求转发至目标数据库。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示意性示出了可以用来实施本公开的实施例的示例电子设备800的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如数据迁移方法。例如，在一些实施例中，数据迁移方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的数据迁移方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据迁移方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种数据迁移方法，包括：

响应于接收到数据迁移请求，获取与所述数据迁移请求对应的待迁移数据表，其中，所述待迁移数据表包括至少一个待迁移数据集的数据信息，所述待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据；

针对所述待迁移数据表中的每个数据信息，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列；以及

针对所述消息队列中的每个第一数据，从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库。

2.根据权利要求1所述的方法，应用于数据传输系统，其中，所述数据传输系统包括多个第一节点，所述方法还包括：

根据共识算法，从所述多个第一节点中确定启动节点；

其中，所述针对所述待迁移数据表中的每个数据信息，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列，包括：

利用所述启动节点，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列。

3.根据权利要求2所述的方法，其中，所述数据传输系统包括多个第二节点，所述方法还包括：

根据共识算法，从所述多个第一节点中确定数据迁移节点，并为所述数据迁移节点配置至少一个工人节点；

其中，所述针对所述消息队列中的每个第一数据，从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库，包括：

利用所述数据迁移节点，根据所述消息队列中的每个第一数据，生成至少一个迁移任务，并将所述至少一个迁移任务分配给与所述数据迁移节点对应的至少一个工人节点；以及

利用所述至少一个工人节点，根据分配的迁移任务，以从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据与所述每个第二数据写入目标数据库。

4.根据权利要求1所述的方法，还包括：

在将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库的情况下，检查所述目标数据库中写入的数据与所述第一数据库和所述第二数据库中的待迁移数据集是否一致；以及

在所述目标数据库中写入的数据与所述第一数据库和所述第二数据库中的待迁移数据集不一致的情况下，删除已写入所述目标数据库中的数据。

5.根据权利要求1所述的方法，还包括：

获取第一数据库的数据库变更日志；

根据所述数据库变更日志，确定接收到数据迁移请求之后预定时间内，所述第一数据库中发生变更的增量数据；以及

将所述增量数据作为第一数据写入所述消息队列。

6.根据权利要求2所述的方法，还包括：

确定所述数据迁移节点中的水位信息；以及

在所述水位信息满足预定条件的情况下，将针对所述待迁移数据集的读写请求转发至所述目标数据库。

7.一种数据迁移装置，包括：

获取模块，用于响应于接收到数据迁移请求，获取与所述数据迁移请求对应的待迁移数据表，其中，所述待迁移数据表包括至少一个待迁移数据集的数据信息，所述待迁移数据集包括存储在第一数据库中的第一数据和存储在第二数据库中的第二数据；

第一写入模块，用于针对所述待迁移数据表中的每个数据信息，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列；以及

第二写入模块，用于针对所述消息队列中的每个第一数据，从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库。

8.根据权利要求7所述的装置，应用于数据传输系统，其中，所述数据传输系统包括多个第一节点，所述装置还包括：

第一确定模块，用于根据共识算法，从所述多个第一节点中确定启动节点；

其中，所述第一写入模块还用于：

利用所述启动节点，从所述第一数据库中获取与所述每个数据信息对应的第一数据，并将所述第一数据写入消息队列。

9.根据权利要求8所述的装置，其中，所述数据传输系统包括多个第二节点，所述装置还包括：

第二确定模块，用于根据共识算法，从所述多个第一节点中确定数据迁移节点，并为所述数据迁移节点配置至少一个工人节点；

其中，所述第二写入模块还用于：

利用所述数据迁移节点，根据所述消息队列中的每个第一数据，生成至少一个迁移任务，并将所述至少一个迁移任务分配给与所述数据迁移节点对应的至少一个工人节点；以及

利用所述至少一个工人节点，根据分配的迁移任务，以从所述第二数据库中获取与所述每个第一数据对应的第二数据，并将所述每个第一数据与所述每个第二数据写入目标数据库。

10.根据权利要求7所述的装置，还包括：

检查模块，用于在将所述每个第一数据和与所述每个第一数据对应的第二数据写入目标数据库的情况下，检查所述目标数据库中写入的数据与所述第一数据库和所述第二数据库中的待迁移数据集是否一致；以及

删除模块，用于在所述目标数据库中写入的数据与所述第一数据库和所述第二数据库中的待迁移数据集不一致的情况下，删除已写入所述目标数据库中的数据。

11.根据权利要求7所述的装置，还包括：

日志获取模块，用于获取第一数据库的数据库变更日志；

增量数据确定模块，用于根据所述数据库变更日志，确定接收到数据迁移请求之后预定时间内，所述第一数据库中发生变更的增量数据；以及

增量数据写入模块，用于将所述增量数据作为第一数据写入所述消息队列。

12.根据权利要求8所述的装置，还包括：

水位确定模块，用于确定所述数据迁移节点中的水位信息；以及

转发模块，用于在所述水位信息满足预定条件的情况下，将针对所述待迁移数据集的读写请求转发至所述目标数据库。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现权利要求1-6中任一项所述方法的步骤。

Images