CN111966291A

CN111966291A - 一种存储集群中的数据存储方法、系统及相关装置

Info

Publication number: CN111966291A
Application number: CN202010820154.0A
Authority: CN
Inventors: 王根岭; 孟祥瑞
Original assignee: Suzhou Inspur Intelligent Technology Co Ltd
Current assignee: Suzhou Inspur Intelligent Technology Co Ltd
Priority date: 2020-08-14
Filing date: 2020-08-14
Publication date: 2020-11-20
Anticipated expiration: 2040-08-14
Also published as: CN111966291B

Abstract

本申请提供一种存储集群中的数据存储方法，包括：获取目标归置组内磁盘的初始分布和均衡分布；当初始分布中的源磁盘故障时，生成对应的故障表；根据均衡分布和故障表确定故障后分布；判断故障后分布中源磁盘对应的目的磁盘是否位于故障表中；若否，将均衡分布作为目标归置组的最终分布。本申请可以减少数据迁移量，降低数据重构带宽并释放重构所占用的设备资源，减少归置组的变化频率，提高存储设备的存储性能。本申请还提供一种存储集群中的数据存储系统、计算机可读存储介质和存储设备，具有上述有益效果。

Description

一种存储集群中的数据存储方法、系统及相关装置

技术领域

本申请涉及数据存储领域，特别涉及一种存储集群中的数据存储方法、系统及相关装置。

背景技术

分布式存储系统由多个存储池组成，每个存储池都有其对应的数据分布规则，比如副本规则或者纠删规则。一般来说元数据保存在副本存储池中，数据保存在纠删池中。为了方便管理数据分布，一般存储池都会划分成多个PG(Placement Group，归置组，数据分布的一种逻辑单元)，每个PG按副本或者纠删规则包含若干块硬盘。比如4+2的纠删规则要保存6份数据，需要6块硬盘来保存数据，那每个PG就包含6块硬盘。PG为虚拟的单位，仅用于记录数据分布。PG在硬盘上的分布情况直接决定了数据在集群中是否为均匀分布。

相关技术中，若PG中存在源硬盘故障，无论当前是否已纠正，均需要重新进行PG遍历，引发不必要的数据重构，使得数据的存储效率降低。

发明内容

本申请的目的是提供一种存储集群中的数据存储方法、系统、计算机可读存储介质和存储设备，能够减少存储集群中的数据重构次数，提高数据存储效率。

为解决上述技术问题，本申请提供一种存储集群中的数据存储方法，所述存储集群包含若干归置组，具体技术方案如下：

获取目标归置组内磁盘的初始分布和均衡分布；

当所述初始分布中的源磁盘故障时，生成对应的故障表；

根据所述均衡分布和所述故障表确定故障后分布；

判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中；

若否，将所述均衡分布作为所述目标归置组的最终分布。

可选的，获取目标归置组内磁盘的初始分布和均衡分布包括：

获取目标归置组内磁盘的初始分布；

根据所述初始分布确定对应的纠正表；所述纠正表包括源磁盘和对应的目的迁移磁盘；

根据所述纠正表对所述初始分布调整，得到所述均衡分布。

可选的，若所述故障后分布中所述源磁盘对应的目的磁盘位于所述故障表中，还包括：

将所述故障后分布作为所述目标归置组的最终分布。

可选的，根据所述初始分布确定对应的纠正表包括：

根据所述初始分布进行模拟计算，确定均衡度；

根据所述均衡度确定对应的纠正表。

本申请还提供一种存储集群中的数据存储系统，所述存储集群包含若干归置组，包括：

获取模块，用于获取目标归置组内磁盘的初始分布和均衡分布；

故障检测模块，用于当所述初始分布中的源磁盘故障时，生成对应的故障表；

故障后分布确认模块，用于根据所述均衡分布和所述故障表确定故障后分布；

判断模块，用于判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中；

第一存储模块，用于所述判断模块的判断结果为否时，将所述均衡分布作为所述目标归置组的最终分布。

可选的，所述获取模块包括：

获取单元，用于获取目标归置组内磁盘的初始分布；

纠正单元，用于根据所述初始分布确定对应的纠正表；所述纠正表包括源磁盘和对应的目的迁移磁盘；

调整单元，用于根据所述纠正表对所述初始分布调整，得到所述均衡分布。

可选的，还包括：

第二存储模块，用于所述判断模块的判断结果为是时，将所述故障后分布作为所述目标归置组的最终分布。

可选的，所述纠正单元包括：

计算子单元，用于根据所述初始分布进行模拟计算，确定均衡度；

纠正表确认子单元，用于根据所述均衡度确定对应的纠正表。

本申请还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的方法的步骤。

本申请还提供一种存储设备，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如上所述的方法的步骤。

本申请提供一种存储集群中的数据存储方法，所述存储集群包含若干归置组，包括：获取目标归置组内磁盘的初始分布和均衡分布；当所述初始分布中的源磁盘故障时，生成对应的故障表；根据所述均衡分布和所述故障表确定故障后分布；判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中；若否，将所述均衡分布作为所述目标归置组的最终分布。

本申请在初始分布中的源磁盘故障后，对该源磁盘对应的目的磁盘是否故障作判断，若目的磁盘未发生故障，意味着无需进行二次重构，可以直接应用均衡分布作为归置组的最终分布，减少数据迁移量，降低数据重构带宽并释放重构所占用的设备资源，减少归置组的变化频率，提高存储设备的存储性能。本申请还提供一种存储集群中的数据存储系统、计算机可读存储介质和存储设备，具有上述有益效果，此处不再赘述。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本申请实施例所提供的一种存储集群中的数据存储方法的流程图；

图2为本申请实施例所提供的一种存储集群中的数据存储系统结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

请参考图1，图1为本申请实施例所提供的一种存储集群中的数据存储方法的流程图，该方法包括：

S101：获取目标归置组内磁盘的初始分布和均衡分布；

本步骤旨在获取目标归置组内的初始分布和均衡分布。需要注意的是，归置组为存储集群中的虚拟概念，其通常按照存储池中的数据分布规则而定。由于各归置组内的硬盘均存在故障的可能性，因此任何一个归置组都可以为本实施例中的目标归置组。所谓初始分布，指该归置组中的数据在初始状态时的分布状态，而均衡分布指的是针对初始分布作为均衡处理后得到的均衡分布状态，均衡分布相较于初始分布而言归置组分布更均衡，其存储效率较高。

在此对于如何获取初始分布和均衡分布不作限定，作为本步骤的一种优选的执行方式，其执行过程可以如下：

S1011：获取目标归置组内磁盘的初始分布；

S1012：根据所述初始分布确定对应的纠正表；所述纠正表包括源磁盘和对应的目的迁移磁盘；

S1013：根据所述纠正表对所述初始分布调整，得到所述均衡分布。

首先获取初始分布，进而确定纠正表，纠正表中记载了源磁盘和目的迁移磁盘的对应关系，表明源磁盘中的数据需要迁移至目的迁移磁盘。在此对于如何得到纠正表不作具体限定，可以根据初始分布进行模拟计算，确定当前归置组中数据的均衡度，再根据均衡度确定对应的纠正表。当然本领域技术人员还可以采用其他方式确定纠正表，例如在模拟计算过程中采用不同的模拟算法等，均应在本申请的保护范围内。值得一提的是，归置组和纠正表可以一一对应。

S102：当所述初始分布中的源磁盘故障时，生成对应的故障表；

当初始分布中的源磁盘故障时，需要确定对应的故障表。所谓故障表至少需要包含故障的源磁盘信息。

S103：根据所述均衡分布和所述故障表确定故障后分布；

本步骤需要根据均衡分布和故障表确定故障后分布，需要注意的是，本步骤中，由于故障表中记载了发生故障的源磁盘，此时可以通过遍历归置组中的数据，以确定故障源磁盘需要迁出数据的目的磁盘。当然也可以在故障表中配置对应的目的磁盘，以便于在该源磁盘故障时直接确定对应的故障后分布。

S104：判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中；若否，进入S105；

本步骤旨在判断该源磁盘对应的目的磁盘同样位于故障表中，若不存在与故障表中，则说明在执行初始分布至均衡分布过程中，该源磁盘对应的目的迁移磁盘可以作为故障后的目的磁盘，而无需使用另一个目的磁盘作为故障后的目的磁盘。

需要注意的是，若故障后分布中源磁盘对应的目的磁盘位于故障表中，说明无法将目的迁移磁盘作为故障后的目的磁盘，此时可以将故障后分布作为所述目标归置组的最终分布。

S105：将所述均衡分布作为所述目标归置组的最终分布。

本申请实施例在初始分布中的源磁盘故障后，对该源磁盘对应的目的磁盘是否故障作判断，若目的磁盘未发生故障，意味着无需进行二次重构，可以直接应用均衡分布作为归置组的最终分布，减少数据迁移量，降低数据重构带宽并释放重构所占用的设备资源，减少归置组的变化频率，提高存储设备的存储性能

下文以本申请的一种具体实施过程对本申请提供的一种存储集群中的数据存储方法加以说明：

第一步、若存储集群中包括以下三个归置组，且每个归置组中的编号为对应的磁盘编号：

pg1.0[4,12,23]

pg1.1[20,4,33]

pg1.2[23,31,9]

则pg1.0[4,12,23]表示归置组1.0中数据分布在磁盘4、磁盘12和磁盘23中，其他归置组含义类似。

第二步、计算纠正表J来达到PG的分布均衡，得到均衡分布，以上文的pg1.1为例，对应的纠正表J可以为：

pg1.1{4->7}

表明归置组1.0中磁盘4上的数据需要迁移至磁盘7，以实现存储集群的数据均衡。

则此时第一步结合第二步，可以得到当前pg1.1的均衡分布为[20,7,33]。

第三步、源磁盘故障，记录故障表F，例如磁盘4发生故障，则F为{4}。

第四步、根据故障表遍历归置组并重新计算，得到故障后分布。假设故障后分布为[20,9,33]。

第五步、判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中，沿引上例，即判断磁盘9是否在故障表F中，若不在，将均衡分布[20,7,33]作为pg1.1的最终分布。

简单来说，以pg1.1为例，原始分布P0[20,4,33]，纠正表{4->7}，纠正后分布P1[20,7,33]，磁盘4故障后的故障后分布P2[20,9,33]。对比P0和P2的差异，P0中4号磁盘被磁盘9替换，4号磁盘为故障磁盘，且纠正表中4号磁盘为pg1,1的源磁盘，目的磁盘7不在故障表F中，此时磁盘7仍然能够承载pg1.1，而不用磁盘9进行替换，如果替换会引起不必要的数据迁移。则满足上述条件时pg1.1的分布仍然使用P1[20,7,33]作为最终分布。

下面对本申请实施例提供的存储集群中的数据存储系统进行介绍，下文描述的数据存储系统与上文描述的数据存储方法可相互对应参照。

参见图2，本申请还提供一种存储集群中的数据存储系统，所述存储集群包含若干归置组，包括：

获取模块100，用于获取目标归置组内磁盘的初始分布和均衡分布；

故障检测模块200，用于当所述初始分布中的源磁盘故障时，生成对应的故障表；

故障后分布确认模块300，用于根据所述均衡分布和所述故障表确定故障后分布；

判断模块400，用于判断所述故障后分布中所述源磁盘对应的目的磁盘是否位于所述故障表中；

第一存储模块500，用于所述判断模块的判断结果为否时，将所述均衡分布作为所述目标归置组的最终分布。

基于上述实施例，作为优选的实施例，所述获取模块100包括：

获取单元，用于获取目标归置组内磁盘的初始分布；

基于上述实施例，作为优选的实施例，还可以包括：

基于上述实施例，作为优选的实施例，所述纠正单元包括：

本申请还提供了一种计算机可读存储介质，其上存有计算机程序，该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括：U盘、移动磁盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

本申请还提供了一种存储设备，可以包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时，可以实现上述实施例所提供的步骤。当然所述存储设备还可以包括各种网络接口，电源等组件。

说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例提供的系统而言，由于其与实施例提供的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种存储集群中的数据存储方法，其特征在于，所述存储集群包含若干归置组，所述方法包括：

获取目标归置组内磁盘的初始分布和均衡分布；

当所述初始分布中的源磁盘故障时，生成对应的故障表；

根据所述均衡分布和所述故障表确定故障后分布；

若否，将所述均衡分布作为所述目标归置组的最终分布。

2.根据权利要求1所述的数据存储方法，其特征在于，获取目标归置组内磁盘的初始分布和均衡分布包括：

获取目标归置组内磁盘的初始分布；

根据所述纠正表对所述初始分布调整，得到所述均衡分布。

3.根据权利要求1所述的数据存储方法，其特征在于，若所述故障后分布中所述源磁盘对应的目的磁盘位于所述故障表中，还包括：

将所述故障后分布作为所述目标归置组的最终分布。

4.根据权利要求2所述的数据存储方法，其特征在于，根据所述初始分布确定对应的纠正表包括：

根据所述初始分布进行模拟计算，确定均衡度；

根据所述均衡度确定对应的纠正表。

5.一种存储集群中的数据存储系统，其特征在于，所述存储集群包含若干归置组，所述系统包括：

6.根据权利要求5所述的数据存储系统，其特征在于，所述获取模块包括：

获取单元，用于获取目标归置组内磁盘的初始分布；

7.根据权利要求5所述的数据存储系统，其特征在于，还包括：

8.根据权利要求6所述的数据存储系统，其特征在于，所述纠正单元包括：

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-4任一项所述的方法的步骤。

10.一种存储设备，其特征在于，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如权利要求1-4任一项所述的方法的步骤。