CN104348862B - 数据迁移处理方法、装置及系统 - Google Patents

Abstract

本发明实施例提供一种数据迁移处理方法、装置及系统，该方法包括：迁出节点确定待迁移数据和与待迁移数据对应的数据索引；迁出节点将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点。本发明的技术方案，可以实现减少迁入节点在数据迁移过程中磁盘的I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

Description

数据迁移处理方法、装置及系统

技术领域

本发明实施例涉及通信技术，尤其涉及一种数据迁移处理方法、装置及系统。

背景技术

关键字-对象值（Key-Value）类型的分布式数据存储系统中多个key组成的集合称为区间（range）每个节点负责全部key range中的一部分range，如果有新节点加入或者负载均衡时需要对集群中各个节点负责的range进行重新分配，即进行range的切分和该range负责的数据的迁移。

然而，现有技术存在进行数据迁移的效率较低的问题，进而影响分布式存储系统的性能。

发明内容

本发明实施例提供一种数据迁移处理方法、装置及系统，用以提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

本发明第一方面，提供一种数据迁移处理方法，包括：

迁出节点确定待迁移数据和与所述待迁移数据对应的数据索引；

所述迁出节点将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点。

在第一方面的第一种可能的实现方式中，所述迁出节点将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点，包括：

所述迁出节点将所述待迁移数据迁移到所述迁入节点；

所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点。

根据第一方面的第一种可能的实现方式，在第一方面的第二种可能的实现方式中，所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点之前，还包括：

所述迁出节点确定所述待迁移数据发生更新；

所述迁出节点将更新的数据同步到所述迁入节点；

所述迁出节点更新与更新后的待迁移数据对应的数据索引；

所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点，包括：

所述迁出节点将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

根据第一方面的第二种可能的实现方式，在第一方面的第三种可能的实现方式中，所述迁出节点更新与更新后的待迁移数据对应的数据索引，包括：

所述迁出节点在接收到所述迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

结合第一方面或第一方面的第一种至第三种可能的实现方式中任意一种，在第一方面的第四种可能的实现方式中，所述迁出节点确定待迁移数据和与所述待迁移数据对应的数据索引，包括：

所述迁出节点根据待迁移区间中的关键字确定待迁移数据；

所述迁出节点根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据。

根据第一方面的第四种可能的实现方式，在第一方面的第五种可能的实现方式中，所述迁出节点根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据之前，还包括：

所述迁出节点确定所述数据索引库是否处于维护状态；

若是，则所述迁出节点向所述迁入节点发送第一指示信息，所述第一指示信息用于指示所述迁入节点在所述待迁移数据迁移完成之后自行创建与所述待迁移数据对应的索引数据；

若否，则所述迁出节点向所述迁入节点发送第二指示信息，所述第二指示信息用于指示所述迁入节点等待接收与所述待迁移数据对应的索引数据。

本发明第二方面，提供一种数据迁移处理方法，包括：

迁入节点接收迁出节点发送的待迁移数据和与所述待迁移数据对应的数据索引；

所述迁入节点根据待迁移数据和与所述待迁移数据对应的数据索引更新本地数据和与所述本地数据对应的数据索引。

在第二方面的第一种可能的实现方式中，所述迁入节点接收迁出节点发送的待迁移数据和与所述待迁移数据对应的数据索引，包括：

所述迁入节点接收所述迁出节点发送的所述待迁移数据；

所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引。

根据第二方面的第一种可能的实现方式，在第二方面的第二种可能的实现方式中，所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，还包括：

所述迁入节点接收所述迁出节点发送的更新的数据；

所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引，包括：

所述迁入节点接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

根据第二方面的第二种可能的实现方式，在第二方面的第三种可能的实现方式中，所述迁入节点接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引之前，还包括：

所述迁入节点向所述迁出节点发送同步数据成功接收响应，以使所述迁出节点更新与更新后的待迁移数据对应的数据索引。

结合第二方面或第二方面的第一种至第三种可能的实现方式中任意一种，在第二方面的第四种可能的实现方式中，所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，还包括：

若所述迁入节点接收到所述迁出节点发送的第一指示信息，则所述迁入节点在所述待迁移数据接收完成之后自行创建与所述待迁移数据对应的索引数据；

若所述迁入节点接收到所述迁出节点发送的第二指示信息，则所述迁入节点等待接收与所述待迁移数据对应的索引数据。

本发明第三方面，提供一种迁出节点，包括：

确定模块，用于确定待迁移数据和与所述待迁移数据对应的数据索引；

迁移模块，用于将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点。

在第三方面的第一种可能的实现方式中，所述迁移模块，具体用于：

将所述待迁移数据迁移到所述迁入节点；

将所述待迁移数据对应的数据索引迁移到迁入节点。

根据第三方面的第一种可能的实现方式，在第三方面的第二种可能的实现方式中，所述迁移模块，还用于：在将所述待迁移数据对应的数据索引迁移到迁入节点之前，确定所述待迁移数据发生更新；

所述迁移模块，还用于将更新的数据同步到所述迁入节点；

所述迁出节点，还包括：

更新模块，用于更新与更新后的待迁移数据对应的数据索引；

所述迁移模块，还用于：

将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

根据第三方面的第二种可能的实现方式，在第三方面的第三种可能的实现方式中，所述更新模块，还用于：

所述迁出节点在接收到所述迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

结合第三方面或第三方面的第一种至第三种可能的实现方式中任意一种，在第三方面的第四种可能的实现方式中，所述确定模块，具体用于：

根据待迁移区间中的关键字确定待迁移数据；

根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据。

根据第三方面的第四种可能的实现方式，在第三方面的第五种可能的实现方式中，所述迁出节点，还包括：发送模块；

所述确定模块，还用于在根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据之前，确定所述数据索引库是否处于维护状态；

若是，则所述发送模块向所述迁入节点发送第一指示信息，所述第一指示信息用于指示所述迁入节点在所述待迁移数据迁移完成之后自行创建与所述待迁移数据对应的索引数据；

若否，则所述发送模块向所述迁入节点发送第二指示信息，所述第二指示信息用于指示所述迁入节点等待接收与所述待迁移数据对应的索引数据。

本发明第四方面，提供一种迁入节点，包括：

接收模块，用于接收迁出节点发送的待迁移数据和与所述待迁移数据对应的数据索引；

更新模块，用于根据待迁移数据和与所述待迁移数据对应的数据索引更新本地数据和与所述本地数据对应的数据索引。

在第四方面的第一种可能的实现方式中，所述接收模块，具体用于：

接收所述迁出节点发送的所述待迁移数据；

接收所述迁出节点发送的所述待迁移数据对应的数据索引。

根据第四方面的第一种可能的实现方式，在第四方面的第二种可能的实现方式中，所述接收模块，还用于在接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，接收所述迁出节点发送的更新的数据；

所述接收模块还用于：

接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

根据第四方面的第二种可能的实现方式，在第四方面的第三种可能的实现方式中，所述迁入节点，还包括：发送模块，用于在接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引之前，向所述迁出节点发送同步数据成功接收响应，以使所述迁出节点更新与更新后的待迁移数据对应的数据索引。

结合第四方面或第四方面的第一种至第三种可能的实现方式中任意一种，在第四方面的第四种可能的实现方式中，所述迁入节点，还包括：处理模块，用于在接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，若接收到所述迁出节点发送的第一指示信息，则在所述待迁移数据接收完成之后自行创建与所述待迁移数据对应的索引数据；若接收到所述迁出节点发送的第二指示信息，则等待接收与所述待迁移数据对应的索引数据。

本发明第五方面，提供一种系统，包括：第三方面或第三方面中任意一种可能的实现方式中的迁出节点和第四方面或第四方面中任意一种可能的实现方式中的迁入节点。

本发明实施例提供一种数据迁移处理方法、装置及系统，通过迁出节点确定待迁移数据和与待迁移数据对应的数据索引，迁出节点再将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的数据迁移处理方法实施例一的流程图；

图2A为本发明提供的数据迁移处理方法实施例一中确定待迁移数据和与待迁移数据对应的数据索引的流程示意图；

图2B为本发明提供的数据迁移处理方法实施例一的原理示意图；

图3为本发明提供的数据迁移处理方法实施例二的流程图；

图4为本发明提供的数据迁移处理方法实施例三的流程图；

图5为本发明提供的数据迁移处理方法实施例四的流程图；

图6为本发明提供的数据迁移处理方法实施例五的流程图；

图7为本发明提供的迁出节点实施例一的结构示意图；

图8为本发明提供的迁出节点实施例二的结构示意图；

图9为本发明提供的迁出节点实施例三的结构示意图；

图10为本发明提供的迁入节点实施例一的结构示意图；

图11为本发明提供的迁入节点实施例二的结构示意图；

图12为本发明提供的迁入节点实施例三的结构示意图；

图13为本发明提供的系统实施例一的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明提供的数据迁移处理方法实施例一的流程图，如图1所示，本实施例的数据迁移处理方法包括：

S101、迁出节点确定待迁移数据和与待迁移数据对应的数据索引。

S102、迁出节点将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点。

本实施例适用的场景为分布式数据存储系统中进行数据迁移时附带索引迁移。

具体来说，迁出节点为迁出数据的节点，迁入节点为接收迁出数据的节点，本实施例的数据索引可以包括与数据在文件中位置无关的索引，例如二级索引或者全文检索过程中适用的数据索引等，存储节点通常通过建立二级索引来加速范围查找，范围查找是为了实现一次请求查找一个范围内所有的key，范围查询的查询请求被发送到多个节点，在每一个节点执行全表扫描查询，并对结果进行合并。如果节点数据量较大，全表扫描效率非常低，此时就需要建立二级索引来加速范围查找，所谓二级索引就是记录了所有含有一个特定value的key的集合，以下通过表1、表2和表3来解释二级索引和原始数据表的关系，表1为原始数据表，表2为Age列的二级索引表，表3为Sex列的二级索引表。

表1

Key	Name	Age	Sex
				1	Zhangsan	25	Male
2	Lisi	28	Male
				3	Wangwu	25	Fmale

表2

Age＝25	1	3
			Age＝28	2

表3

Sex＝Male	1	2
			Sex＝Female	3

从表1、表2和表3可以看出，二级索引表存储的是一系列的key的列表（list）。

节点接收到查询请求之后，如果待查询的列建立了二级索引，可以先查询对应的二级索引表，找到符合要求的key list，然后根据查找出来的key集合，去数据表中查找数据，这样就可以大大减少全表扫描的时间。

分布式数据存储系统中的二级索引存储的数据只是记录了某一个列值存在于哪些key中，不涉及存储在磁盘中的哪个文件以及文件中的具体的存储位置。所以可以利用二级索引的这一特性提高分布式系统中的数据迁移的性能。

现有技术中迁出节点首先从磁盘读取数据，判断该key是否要被迁移，如果要被迁移则迁移到迁入节点，等数据迁移结束之后迁入节点再次从磁盘读取数据，给数据建立索引。可以看出，现有技术中迁出节点和迁入节点在数据迁移过程中涉及到两次的磁盘输入/输出(Input/output，简称I/O)操作，影响系统整体性能。

可选地，S101可以包括：迁出节点根据待迁移区间中的关键字确定待迁移数据；

迁出节点根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据。

图2A为本发明提供的数据迁移处理方法实施例一中确定待迁移数据和与待迁移数据对应的数据索引的流程示意图，如图2A所示，本实施例中待迁移数据和与待迁移数据对应的数据索引的方法，可以包括：

S1011、开始数据迁移。

S1012、迁出节点从磁盘读出关键字到内存。

S1013、迁出节点判断读出的关键字是否为待迁移区间中的关键字。

S1014、迁出节点迁移读出的关键字对应的待迁数据。

S1015、迁出节点填充读出的关键字至待迁移的数据索引。

S1016、迁出节点判断是否遍历迁移节点中的关键字。

S1017、数据迁移及索引过滤结束。

具体来说，迁出节点首先会读取key到内存，判断该key是否为待迁移的range中的key，若是，则确定该key对应的数据为待迁移数据，同时将该key填充至待迁移的数据索引中，待遍历完迁出节点中的所有key，即可生成待迁移段range对应的数据索引和剩余段range对应的数据索引。

可以理解的是，迁出节点中被过滤的原始数据索引在过滤完成后在逻辑上处于被删除的状态，而在物理上仍存储于迁出节点，待系统定期将其删除。

可选地，S102可以包括：

迁出节点将待迁移数据迁移到迁入节点；

迁出节点将待迁移数据对应的数据索引迁移到迁入节点。

具体来说，迁出节点可以在待迁移数据的迁移过程中，生成待迁移数据对应的数据索引，并在将待迁移数据迁移到迁入节点之后，再将待迁移数据对应的数据索引迁移到迁入节点，可以避免待迁移数据未迁移完成而待迁移数据对应的数据索引开始迁移的情况。

本实施例中迁出节点确定待迁移数据和与待迁移数据对应的数据索引，再将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点，省去了数据迁移结束后迁入节点进行磁盘数据扫描建立索引的过程，提高系统整体性能。

图2B为本发明提供的数据迁移处理方法实施例一的原理示意图，如图2B所示，本实施例的数据迁移处理方法，可以包括：

S201、迁出节点读取磁盘数据到内存，判断该关键字是否需要被迁移。

本实施例以要迁移的关键字为4、5、6，而关键字4、5、6又分布在不同的数据文件中，此时就需要扫描两个数据文件。

S202、迁出节点根据该关键字判断是否要将其加入到待迁移的数据索引表中。

具体来说，通过S202可以完成数据索引的过滤，数据索引的过滤过程可以包括：将确定需要迁移的关键字添加入待迁移的数据索引表中，数据索引过滤完成后得到待迁移段range对应的数据索引和剩余段range对应的数据索引，而迁出节点中被过滤的原始数据索引在过滤完成后在逻辑上处于被删除的状态，而在物理上仍存储于迁出节点，待系统定期将其删除。

S203、迁出节点将待迁移数据迁移到迁入节点。

待迁移数据迁移完成之后，待迁移的数据索引表也已经生成。

S204、迁出节点将待迁移数据对应的数据索引表迁移到迁入节点。

需要说明的是，S202和S203可以是同时发生的。

本实施例提供的数据迁移处理方法，通过迁出节点读取磁盘数据到内存，判断该关键字是否需要被迁移，根据该关键字判断是否要将其加入到待迁移的数据索引表中，再将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

图3为本发明提供的数据迁移处理方法实施例二的流程图，如图3所示，本实施例的数据迁移处理方法，在图1所示实施例的基础上，迁出节点在根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据之前，确定数据索引库是否处于维护状态，并对数据迁移过程中存在写入操作的场景中，迁出节点所执行的操作进行说明，包括：

S301、迁出节点确定待迁移数据。

S302、迁出节点确定数据索引库是否处于维护状态，若是，则执行S303；否则，执行S304。

S303、迁出节点向迁入节点发送第一指示信息，第一指示信息用于指示迁入节点在待迁移数据迁移完成之后自行创建与待迁移数据对应的索引数据。

S304、迁出节点向迁入节点发送第二指示信息，第二指示信息用于指示迁入节点等待接收与待迁移数据对应的索引数据。

具体来说，待迁移数据迁移开始之后，迁出节点确定数据索引库是否处于维护状态，若迁出节点的数据索引库处于维护状态（即数据索引创建状态为正在创建或创建失败），则迁出节点无法过滤出待迁移的数据索引文件，需要发送第一指示信息给迁入节点表示本次不进行索引迁移，迁入节点需要自行建立；反之，则通知迁入节点准备接收与待迁移数据对应的数据索引。

S305、迁出节点根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据。

S306、迁出节点将待迁移数据迁移到迁入节点。

S307、迁出节点确定待迁移数据发生更新。

S308、迁出节点将更新的数据同步到迁入节点。

S309、迁出节点更新与更新后的待迁移数据对应的数据索引。

可选地，S309可以包括：迁出节点在接收到迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

具体来说，本实施例中，若迁移过程中对于待迁移段range有写入操作，则迁出节点确定待迁移数据发生更新，将更新的数据同步到迁入节点，再更新与更新后的待迁移数据对应的数据索引；若迁移过程中对于剩余段range有写入操作，则不需要执行上述将更新的数据同步到迁入节点的操作。

S310、迁出节点将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

本实施例提供的数据迁移处理方法，通过迁出节点在根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据之前，确定数据索引库是否处于维护状态，若否，则向迁入节点发送第二指示信息，第二指示信息用于指示迁入节点等待接收与待迁移数据对应的索引数据，将待迁移数据迁移到迁入节点，再确定待迁移数据发生更新，将更新的数据同步到迁入节点，并更新与更新后的待迁移数据对应的数据索引，再将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

图4为本发明提供的数据迁移处理方法实施例三的流程图，如图4所示，本实施例的数据迁移处理方法，包括：

S401、迁入节点接收迁出节点发送的待迁移数据和与待迁移数据对应的数据索引。

S402、迁入节点根据待迁移数据和与待迁移数据对应的数据索引更新本地数据和与本地数据对应的数据索引。

可选地，S402可以包括：

迁入节点接收迁出节点发送的待迁移数据；

迁入节点接收迁出节点发送的待迁移数据对应的数据索引。

具体来说，迁入节点根据待迁移数据和与待迁移数据对应的数据索引更新本地数据和与本地数据对应的数据索引，而不需要再在数据迁移结束之后，从磁盘读取数据，给数据建立数据索引。

本实施例提供的数据迁移处理方法，通过迁入节点接收迁出节点发送的待迁移数据和与待迁移数据对应的数据索引，再根据待迁移数据和与待迁移数据对应的数据索引更新本地数据和与本地数据对应的数据索引，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

图5为本发明提供的数据迁移处理方法实施例四的流程图，如图5所示，本实施例的数据迁移处理方法，在图4所示实施例的基础上，对数据迁移过程中存在写入操作的场景中，迁入节点所执行的操作进行说明，包括：

S501、迁入节点接收迁出节点发送的待迁移数据。

S502、若迁入节点接收到迁出节点发送的第二指示信息，则迁入节点等待接收与待迁移数据对应的索引数据。

可选地，若迁入节点接收到迁出节点发送的第一指示信息，则迁入节点在待迁移数据接收完成之后自行创建与待迁移数据对应的索引数据。

S503、迁入节点接收迁出节点发送的更新的数据。

S504、迁入节点向迁出节点发送同步数据成功接收响应，以使迁出节点更新与更新后的待迁移数据对应的数据索引。

S505、迁入节点接收迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

本实施例提供的数据迁移处理方法，通过迁入节点接收迁出节点发送的待迁移数据之后，接收迁出节点发送的更新的数据，向迁出节点发送同步数据成功接收响应，以使迁出节点更新与更新后的待迁移数据对应的数据索引，再接收迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

图6为本发明提供的数据迁移处理方法实施例五的流程图，如图6所示，本实施例的数据迁移处理方法，对迁出节点和迁入节点的交互过程进行详细说明，包括：

S601、迁出节点开始迁移待迁移数据。

S602、迁出节点启动迁出节点与迁入节点之间的数据同步。

S603、迁入节点开始接收待迁移数据。

S604、迁出节点判断数据索引库是否处于维护状态，若是，则执行S605，否则执行S607。

S605、迁出节点向迁入节点发送第一指示信息。

S606、迁入节点接收到第一指示信息后，等待数据发送完成，扫描磁盘生成数据索引。

S607、迁出节点开始过滤本地存储的数据索引表。

S608、迁出节点向迁入节点发送第二指示信息。

S609、迁入节点判断是否接收到第二指示信息，若是，执行S610，否则，执行S611。

具体来说，若迁出节点的数据索引库处于维护状态，例如数据索引创建状态为正在创建或创建失败，因为无法过滤出待迁移的数据索引文件，需要发送第一指示消息给迁入节点表示本次不进行索引迁移，迁入节点需要自行建立；反之则向迁入节点发送第二指示信息，通知迁入节点准备接收索引。

S610、迁入节点等待接收迁出节点发送的数据索引。

S611、迁入节点确定是否迁入节点掉线，等待备用节点消息。

S612、迁出节点确定待迁移数据存在写入操作。

具体来说，迁移过程中的写与读的总体原则是迁移结束前迁出节点服务而迁入节点不服务。若迁移过程中对于待迁移段range有写入操作，则需要在数据迁移阶段开启两个节点之间的数据同步，如操作针对的是待迁出的关键字，这些数据更改需要同步到迁入节点，保证原始数据在两个节点上的一致性；同时，需要更新过滤出的待迁移的二级索引文件，增加或者删除关键字表中的特定关键字，保证待迁移的数据索引的一致性；若迁移过程中对于剩余段range有写入操作，则不需要开启两个节点之间的数据同步；若迁移过程中有读操作，读的关键字不管是非迁移的关键字还是待迁移的关键字，因为服务节点还是数据迁出节点，而原始的数据索引仍然存在，所以此时可以通过使用二级索引完成读操作。

S613、迁出节点向迁入节点发送更新的数据。

S614、迁出节点判断是否接收到迁入节点发送的同步数据成功接收响应，若是，则执行S615，否则，执行S616。

S615、迁出节点更新与更新后的待迁移数据对应的数据索引。

S616、迁出节点为迁入节点暂存更新的数据。

S617、迁出节点确定待迁移数据迁移完成。

S618、迁出节点向迁入节点发送与更新后的待迁移数据对应的更新后的数据索引。

S619、迁入节点确定数据索引迁移完成。

进一步地，若数据迁移过程中有新的数据迁移请求，由于迁移过程中迁入节点不提供服务，所以新的迁移请求应该发往迁出节点，迁出节点确定适合迁移的数据，然后完成和上述数据迁移操作类似的过程。

若数据迁移过程中有表的drop操作或者数据索引的drop操作，则对于迁入节点和迁出节点都不执行drop操作，继续数据的迁移和数据索引的处理，在数据迁移结束之后可以利用集群的表结构同步机制来完成drop操作。

若数据迁移过程中数据迁出节点发生宕机，该迁出节点负责的一段数据集合（range）会被切换到该节点的备用节点上，该备用节点上具有和之前迁出节点完全一样的数据信息，所以随后的数据迁移可以继续完成。若迁入节点宕机、暂时离线或网络出现问题，此时迁移的数据收不到迁入节点的响应，应该等待，直到迁入节点重新恢复；同时因为在数据迁移过程中，两个节点之间开启了同步功能，如果同步的数据（数据操作造成的）也接收不到响应，此时应该把新生成的数据暂存，等待迁入节点上线之后把同步的数据发送过去

本实施例提供的数据迁移处理方法，通过迁入节点接收迁出节点发送的待迁移数据之后，接收迁出节点发送的更新的数据，向迁出节点发送同步数据成功接收响应，以使迁出节点更新与更新后的待迁移数据对应的数据索引，再接收迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引，可以实现减少迁入节点在数据迁移过程中的磁盘I/O操作，提高分布式存储系统中数据迁移的效率，进而提高分布式存储系统的性能。

图7为本发明提供的迁出节点实施例一的结构示意图，如图7所示，本实施例的迁出节点，包括：确定模块71和迁移模块72，其中，确定模块71用于确定待迁移数据和与待迁移数据对应的数据索引；迁移模块72用于将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点。

可选地，迁移模块72具体用于：

将待迁移数据迁移到迁入节点；

将待迁移数据对应的数据索引迁移到迁入节点。

本实施例的装置，可以用于执行图1所示方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。

图8为本发明提供的迁出节点实施例二的结构示意图，如图8所示，本实施例的迁出节点，在图7所示实施例的基础上，还包括：更新模块73和发送模块74，其中，迁移模块72还用于：在将待迁移数据对应的数据索引迁移到迁入节点之前，确定待迁移数据发生更新；

迁移模块72还用于将更新的数据同步到迁入节点；

更新模块73用于更新与更新后的待迁移数据对应的数据索引；

迁移模块72还用于：将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

更新模块73还用于：迁出节点在接收到迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

进一步地，确定模块71具体用于：

根据待迁移区间中的关键字确定待迁移数据；

根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据。

更进一步地，确定模块71还用于在根据待迁移区间中的关键字从数据索引库中过滤得到与待迁移数据对应的索引数据之前，确定数据索引库是否处于维护状态；

若是，则发送模块74向迁入节点发送第一指示信息，第一指示信息用于指示迁入节点在待迁移数据迁移完成之后自行创建与待迁移数据对应的索引数据；

若否，则发送模块74向迁入节点发送第二指示信息，第二指示信息用于指示迁入节点等待接收与待迁移数据对应的索引数据。

本实施例的装置，可以用于执行图3所示方法实施例或图6所示方法实施例中迁出节点所执行的技术方案，其实现原理和技术效果类似，此处不再赘述。

图9为本发明提供的迁出节点实施例三的结构示意图，如图9所示，本实施例的迁出节点，包括：包括发射器91、接收器92、存储器93以及分别与发射器91、接收器92和存储器93连接的处理器94。当然，迁出节点还可以包括天线、基带处理部件、中射频处理部件、输入输出装置等通用部件，本发明实施例在此不再任何限制。

其中，存储器93中存储一组程序代码，且处理器94用于调用存储器93中存储的程序代码，用于执行以下操作：

确定待迁移数据和与待迁移数据对应的数据索引；

将待迁移数据和与待迁移数据对应的数据索引迁移到迁入节点。

本实施例的装置，可以用于执行图3所示方法实施例或图6所示方法实施例中迁出节点所执行的技术方案，其实现原理和技术效果类似，此处不再赘述。

图10为本发明提供的迁入节点实施例一的结构示意图，如图10所示，本实施例的迁入节点，包括：接收模块11和更新模块12，其中，接收模块11用于接收迁出节点发送的待迁移数据和与待迁移数据对应的数据索引；更新模块12用于根据待迁移数据和与待迁移数据对应的数据索引更新本地数据和与本地数据对应的数据索引。

可选地，接收模块11具体用于：

接收迁出节点发送的待迁移数据；

接收迁出节点发送的待迁移数据对应的数据索引。

本实施例的装置，可以用于执行图4所示方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。

图11为本发明提供的迁入节点实施例二的结构示意图，如图11所示，本实施例的迁入节点，在图10所示实施例的基础上，还包括：发送模块13和处理模块14，其中，接收模块11还用于在接收迁出节点发送的待迁移数据对应的数据索引之前，接收迁出节点发送的更新的数据；接收模块11还用于：接收迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

发送模块13用于在接收迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引之前，向迁出节点发送同步数据成功接收响应，以使迁出节点更新与更新后的待迁移数据对应的数据索引。

处理模块14用于在接收迁出节点发送的待迁移数据对应的数据索引之前，若接收到迁出节点发送的第一指示信息，则在待迁移数据接收完成之后自行创建与待迁移数据对应的索引数据；若接收到迁出节点发送的第二指示信息，则等待接收与待迁移数据对应的索引数据。

本实施例的装置，可以用于执行图5所示方法实施例或图6所示方法实施例中迁出节点所执行的技术方案，其实现原理和技术效果类似，此处不再赘述。

图12为本发明提供的迁入节点实施例三的结构示意图，如图12所示，本实施例的迁入节点，包括：包括发射器121、接收器122、存储器123以及分别与发射器121、接收器122和存储器123连接的处理器124。当然，迁入节点还可以包括天线、基带处理部件、中射频处理部件、输入输出装置等通用部件，本发明实施例在此不再任何限制。

其中，存储器123中存储一组程序代码，且处理器124用于调用存储器123中存储的程序代码，用于执行以下操作：

接收迁出节点发送的待迁移数据和与待迁移数据对应的数据索引；

根据待迁移数据和与待迁移数据对应的数据索引更新本地数据和与本地数据对应的数据索引。

本实施例的装置，可以用于执行图5所示方法实施例或图6所示方法实施例中迁出节点所执行的技术方案，其实现原理和技术效果类似，此处不再赘述。

需要说明的是，上述各实施例对应的结构示意图仅为一种示意，各部分或模块的连接关系不限于图中示出的形式，可以以实际应用中的情况为准。

图13为本发明提供的系统实施例一的结构示意图，如图13所示，本实施例的系统，可以包括：图7至图9所示实施例中的任意一种迁出节点100和图10至图12所示实施例中的任意一种迁入节点200。

在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）或处理器（processor）执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、磁碟或者光盘等各种可以存储程序代码的介质。

本领域技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (17)

1.一种数据迁移处理方法，其特征在于，包括：

迁出节点确定待迁移数据和与所述待迁移数据对应的数据索引；

所述迁出节点确定待迁移数据和与所述待迁移数据对应的数据索引，包括：

所述迁出节点根据待迁移区间中的关键字确定待迁移数据；

所述迁出节点确定所述数据索引库是否处于维护状态；

若是，则所述迁出节点向迁入节点发送第一指示信息，所述第一指示信息用于指示所述迁入节点在所述待迁移数据迁移完成之后自行创建与所述待迁移数据对应的索引数据；

若否，则所述迁出节点向所述迁入节点发送第二指示信息，所述第二指示信息用于指示所述迁入节点等待接收与所述待迁移数据对应的索引数据；

所述迁出节点根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据；

所述迁出节点将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点。

2.根据权利要求1所述的方法，其特征在于，所述迁出节点将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点，包括：

所述迁出节点将所述待迁移数据迁移到所述迁入节点；

所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点。

3.根据权利要求2所述的方法，其特征在于，所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点之前，还包括：

所述迁出节点确定所述待迁移数据发生更新；

所述迁出节点将更新的数据同步到所述迁入节点；

所述迁出节点更新与更新后的待迁移数据对应的数据索引；

所述迁出节点将所述待迁移数据对应的数据索引迁移到迁入节点，包括：

所述迁出节点将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

4.根据权利要求3所述的方法，其特征在于，所述迁出节点更新与更新后的待迁移数据对应的数据索引，包括：

所述迁出节点在接收到所述迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

5.一种数据迁移处理方法，其特征在于，包括：

迁入节点接收迁出节点发送的待迁移数据；

若所述迁入节点接收到所述迁出节点发送的第一指示信息，则所述迁入节点在所述待迁移数据接收完成之后自行创建与所述待迁移数据对应的索引数据；

若所述迁入节点接收到所述迁出节点发送的第二指示信息，则所述迁入节点等待接收与所述待迁移数据对应的索引数据；

所述迁入节点根据待迁移数据和与所述待迁移数据对应的数据索引更新本地数据和与所述本地数据对应的数据索引。

6.根据权利要求5所述的方法，其特征在于，所述迁入节点接收迁出节点发送的待迁移数据和与所述待迁移数据对应的数据索引，包括：

所述迁入节点接收所述迁出节点发送的所述待迁移数据；

所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引。

7.根据权利要求6所述的方法，其特征在于，所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，还包括：

所述迁入节点接收所述迁出节点发送的更新的数据；

所述迁入节点接收所述迁出节点发送的所述待迁移数据对应的数据索引，包括：

所述迁入节点接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

8.根据权利要求7所述的方法，其特征在于，所述迁入节点接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引之前，还包括：

所述迁入节点向所述迁出节点发送同步数据成功接收响应，以使所述迁出节点更新与更新后的待迁移数据对应的数据索引。

9.一种迁出节点，其特征在于，包括：

确定模块，用于确定待迁移数据和与所述待迁移数据对应的数据索引；

所述确定模块，具体用于：

根据待迁移区间中的关键字确定待迁移数据；

确定所述数据索引库是否处于维护状态；

发送模块，用于若所述确定模块确定所述数据索引库处于维护状态，则所述发送模块向迁入节点发送第一指示信息，所述第一指示信息用于指示所述迁入节点在所述待迁移数据迁移完成之后自行创建与所述待迁移数据对应的索引数据；

若所述确定模块确定所述数据索引库未处于维护状态，则所述发送模块向所述迁入节点发送第二指示信息，所述第二指示信息用于指示所述迁入节点等待接收与所述待迁移数据对应的索引数据；

所述确定模块，还用于：根据待迁移区间中的关键字从数据索引库中过滤得到与所述待迁移数据对应的索引数据；

迁移模块，用于将所述待迁移数据和与所述待迁移数据对应的数据索引迁移到迁入节点。

10.根据权利要求9所述的迁出节点，其特征在于，所述迁移模块，具体用于：

将所述待迁移数据迁移到所述迁入节点；

将所述待迁移数据对应的数据索引迁移到迁入节点。

11.根据权利要求10所述的迁出节点，其特征在于，所述迁移模块，还用于：在将所述待迁移数据对应的数据索引迁移到迁入节点之前，确定所述待迁移数据发生更新；

所述迁移模块，还用于将更新的数据同步到所述迁入节点；

所述迁出节点，还包括：

更新模块，用于更新与更新后的待迁移数据对应的数据索引；

所述迁移模块，还用于：

将与更新后的待迁移数据对应的更新后的数据索引迁移到迁入节点。

12.根据权利要求11所述的迁出节点，其特征在于，所述更新模块，还用于：

所述迁出节点在接收到所述迁入节点发送的同步数据成功接收响应之后，更新与更新后的待迁移数据对应的数据索引。

13.一种迁入节点，其特征在于，包括：

接收模块，用于接收迁出节点发送的待迁移数据；

处理模块，用于在接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，若接收到所述迁出节点发送的第一指示信息，则在所述待迁移数据接收完成之后自行创建与所述待迁移数据对应的索引数据；若接收到所述迁出节点发送的第二指示信息，则等待接收与所述待迁移数据对应的索引数据；

所述接收模块还用于接收与所述待迁移数据对应的数据索引；

更新模块，用于根据待迁移数据和与所述待迁移数据对应的数据索引更新本地数据和与所述本地数据对应的数据索引。

14.根据权利要求13所述的迁入节点，其特征在于，所述接收模块，具体用于：

接收所述迁出节点发送的所述待迁移数据；

接收所述迁出节点发送的所述待迁移数据对应的数据索引。

15.根据权利要求14所述的迁入节点，其特征在于，所述接收模块，还用于在接收所述迁出节点发送的所述待迁移数据对应的数据索引之前，接收所述迁出节点发送的更新的数据；

所述接收模块还用于：

接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引。

16.根据权利要求15所述的迁入节点，其特征在于，所述迁入节点，还包括：发送模块，用于在接收所述迁出节点发送的与更新后的待迁移数据对应的更新后的数据索引之前，向所述迁出节点发送同步数据成功接收响应，以使所述迁出节点更新与更新后的待迁移数据对应的数据索引。

17.一种系统，其特征在于，包括：如权利要求9-12任一项所述的迁出节点和如权利要求13-16任一项所述的迁入节点。