CN107977578A - 一种分布式存储系统及其数据修复方法和装置 - Google Patents

Abstract

本发明公开了一种分布式存储系统及其数据修复方法和装置，其中，该方法包括：根据分布式存储中受损数据的影响要素确定受损数据的安全等级，其中，影响要素至少包括残留冗余度；按照安全等级对受损数据执行对应的修复策略。本发明在分布式存储系统中存在受损数据时，根据受损数据的影响要素确定受损数据的安全等级，再根据该安全等级确定采取何种修复策略，这样，针对不同安全等级的受损数据就可以采用不同的修复方式，在修复的过程中，综合考虑了系统正常存储业务数据的效率和修复受损数据的情况，解决现有技术的问题。

Description

一种分布式存储系统及其数据修复方法和装置

技术领域

本发明涉及通讯领域，特别是涉及分布式存储系统及其数据修复方法和装置。

背景技术

随着IT技术的演进和社会的发展，电子数据量呈现爆炸性增长趋势，以海量数据处理和存储为核心的云计算技术迅速发展，带动了大规模分布式存储系统的广泛应用。随着设备数量的增加和相对廉价设备的使用，存储数据异常、单个存储器件乃至单个存储节点的失效已经不再是罕见情况，数据修复能力已成为分布式存储系统的标准功能。

现阶段数据修复技术的关注重点集中在高效率的方案方法方面，高速高效的数据修复方案固然可以提升系统的可靠性，但另一方面，数据修复是以消耗与正常业务处理共享的系统资源为代价的。不限制数据修复处理的资源占用，往往会影响到正常的存储业务处理；设定特定的处理速度，又不能充分发挥系统的恢复能力，加大数据丢失风险。上述问题在低负荷系统中表现尚不明显；但在资源使用较为充分的重载系统中，已经成为影响存储服务质量和数据保存可靠性的重要风险点。在整体高负载或者限制修复速度的情况下，采用同一修复策略，也会导致冗余度较低，甚至已无存储冗余的数据不能得到更快的修复，面临更大的数据丢失风险。

综上所述，在分布式存储系统中，数据修复处理没有节制，在修复过程中会影响到正常存储业务处理效率，系统处理性能存在问题。

发明内容

本发明提供一种分布式存储系统及其数据修复方法和装置，用以解决现有技术的如下问题：在分布式存储系统中，数据修复处理没有节制，在修复过程中会影响到正常存储业务处理效率，系统处理性能存在问题。

为解决上述技术问题，一方面，本发明提供一种分布式存储系统的数据修复方法，包括：根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，其中，所述影响要素至少包括残留冗余度；按照所述安全等级对受损数据执行对应的修复策略。

可选的，根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，包括：通过所述受损数据的有效副本数量或分片数量确定所述残留冗余度，根据所述残留冗余度确定所述安全等级。

可选的，按照所述安全等级对受损数据执行对应的修复策略，包括：将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；按照所述修复队列依次修复受损数据。

可选的，按照所述修复队列依次修复受损数据，包括：判断正在修复的受损数据的安全等级是否低于预设安全等级；如果低于所述预设安全等级，则按照第一处理速度修复所述受损数据；如果不低于所述预设安全等级，则按照第二处理速度修复所述受损数据；其中，所述第一处理速度大于所述第二处理速度。

可选的，所述方法还包括：判断时间上最新发现的受损数据的安全等级是否低于所述修复队列中最低的安全等级；在所述安全等级低于所述最低的安全等级的情况下，将所述最新发现的受损数据插入所述修复队列的最前端，以优先修复所述最新发现的受损数据；在所述安全等级不低于所述最低的安全等级的情况下，将所述最新发现的受损数据按照安全等级插入到所述修复队列中，以等待修复。

可选的，所述影响要素还包括：原始冗余度、服务质量要求指标、服务等级协议要求参数、分布式存储系统的整体服务质量参数。

另一方面，本发明还提供一种分布式存储系统的数据修复装置，包括：确定模块，用于根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，其中，所述影响要素至少包括残留冗余度；修复模块，用于按照所述安全等级对受损数据执行对应的修复策略。

可选的，所述确定模块，具体用于通过所述受损数据的有效副本数量或分片数量确定所述残留冗余度，根据所述残留冗余度确定所述安全等级。

可选的，所述修复模块包括：队列建立单元，用于将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；修复单元，用于按照所述修复队列依次修复受损数据。

可选的，所述修复单元，具体用于判断正在修复的受损数据的安全等级是否低于预设安全等级；如果低于所述预设安全等级，则按照第一处理速度修复所述受损数据；如果不低于所述预设安全等级，则按照第二处理速度修复所述受损数据；其中，所述第一处理速度大于所述第二处理速度。

可选的，所述装置还包括：等级判断模块，用于判断时间上最新发现的受损数据的安全等级是否低于所述修复队列中最低的安全等级；插入模块，用于在所述安全等级低于所述最低的安全等级的情况下，将所述最新发现的受损数据插入所述修复队列的最前端，以优先修复所述最新发现的受损数据；在所述安全等级不低于所述最低的安全等级的情况下，将所述最新发现的受损数据按照安全等级插入到所述修复队列中，以等待修复。

另一方面，本发明还提供一种分布式存储系统，包括：上述的分布式存储系统的数据修复装置。

本发明在分布式存储系统中存在受损数据时，根据受损数据的影响要素确定受损数据的安全等级，再根据该安全等级确定采取何种修复策略，这样，针对不同安全等级的受损数据就可以采用不同的修复方式，在修复的过程中，综合考虑了系统正常存储业务数据的效率和修复受损数据的情况，解决现有技术的如下问题：在分布式存储系统中，数据修复处理没有节制，在修复过程中会影响到正常存储业务处理效率，系统处理性能存在问题。

附图说明

图1是本发明第一实施例中分布式存储系统的数据修复方法的流程图；

图2是本发明第二实施例中分布式存储系统的数据修复装置的结构示意图；

图3是本发明第二实施例中分布式存储系统的数据修复装置的优选结构示意图；

图4是本发明第五实施例中包含多修复优先级方式的数据修复方法的流程图；

图5是本发明第六实施例中包含单修复队列方式的数据修复方法的流程图；

图6是本发明第七实施例中包含多影响要素综合评估方式的数据修复方法的流程图。

具体实施方式

为了解决现有技术的如下问题：在分布式存储系统中，数据修复处理没有节制，在修复过程中会影响到正常存储业务处理效率，系统处理性能存在问题；本发明提供了一种分布式存储系统及其数据修复方法和装置，以下结合附图以及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不限定本发明。

本发明第一实施例提供了一种分布式存储系统的数据修复方法，该方法的流程如图1所示，包括步骤S102至S104：

S102，根据分布式存储系统中受损数据的影响要素确定受损数据的安全等级，其中，影响要素至少包括残留冗余度。

在实现时，本实施例主要采用残留冗余度来计算安全等级，当然，也可以结合多种影响要素来确定安全等级，例如，原始冗余度、服务质量要求指标、服务等级协议要求参数、分布式存储系统的整体服务质量参数等。如果采用多种影响要素来计算安全等级，则可以为不同影响要素设置比重，例如，选择服务等级协议要求参数和残留冗余度两个影响要素来确定安全等级，则在设置时，可以设置两个影响要素的比重为各占50％，当然，也可以是一个占20％，一个占80％，具体如何设定可以由用户自己确定。

S104，按照安全等级对受损数据执行对应的修复策略。

本发明实施例在分布式存储系统中存在受损数据时，根据受损数据的影响要素确定受损数据的安全等级，再根据该安全等级确定采取何种修复策略，这样，针对不同安全等级的受损数据就可以采用不同的修复方式，在修复的过程中，综合考虑了系统正常存储业务数据的效率和修复受损数据的情况，解决现有技术的如下问题：在分布式存储系统中，数据修复处理没有节制，在修复过程中会影响到正常存储业务处理效率，系统处理性能存在问题。

实现时，可以通过受损数据的有效副本数量或分片数量确定残留冗余度，再根据残留冗余度确定安全等级。

在按照安全等级对受损数据执行对应的修复策略时，可以先将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；按照修复队列依次修复受损数据。安全等级越低，其就越需要尽快修复，因此，本实施例中是将安全等级较低的放在修复队列的前端，从安全等级最低的开始修复。

在按照修复队列依次修复受损数据时，为了兼顾系统正常存储业务数据的效率，因此，不采用统一的处理速度来修复受损数据。在实现时，根据安全等级设置一个预设安全等级，在预设安全等级以下的，就是需要优先尽快处理的，在预设安全等级以上的，就是不需要消耗大量的系统资源来快速修复的。在设置了预设安全等级后，判断正在修复的受损数据的安全等级是否低于预设安全等级；如果低于预设安全等级，则按照第一处理速度修复受损数据；如果不低于预设安全等级，则按照第二处理速度修复受损数据；其中，第一处理速度大于第二处理速度。

在检测过程中，系统会存在新的受损数据，因此，在发现新的受损数据时，先判断时间上最新发现的受损数据的安全等级是否低于修复队列中最低的安全等级；在安全等级低于最低的安全等级的情况下，说明其安全性最差，优先级最高，需要优先进行处理，则将最新发现的受损数据插入修复队列的最前端，以优先修复最新发现的受损数据；在安全等级不低于最低的安全等级的情况下，说明有比新发现的受损数据更急于修复的受损数据，因此，将最新发现的受损数据按照安全等级插入到修复队列中，等待修复。

本发明第二实施例提供了一种分布式存储系统的数据修复装置，该装置的结构示意如图2所示，包括：

确定模块10，用于根据分布式存储系统中受损数据的影响要素确定受损数据的安全等级，其中，影响要素至少包括残留冗余度；修复模块20，与确定模块10耦合，用于按照安全等级对受损数据执行对应的修复策略。

其中，确定模块10，具体用于通过受损数据的有效副本数量或分片数量确定残留冗余度，根据残留冗余度确定安全等级。

上述修复模块20还包括：队列建立单元，用于将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；修复单元，用于按照修复队列依次修复受损数据。其中，修复单元，具体用于判断正在修复的受损数据的安全等级是否低于预设安全等级；如果低于预设安全等级，则按照第一处理速度修复受损数据；如果不低于预设安全等级，则按照第二处理速度修复受损数据；其中，第一处理速度大于第二处理速度。

图3示出了上述数据修复装置的优选结构示意图，上述装置还可以包括：等级判断模块30，与确定模块10耦合，用于判断时间上最新发现的受损数据的安全等级是否低于修复队列中最低的安全等级；插入模块40，与等级判断模块30和修复模块20耦合，用于在安全等级低于最低的安全等级的情况下，将最新发现的受损数据插入修复队列的最前端，以优先修复最新发现的受损数据；在安全等级不低于最低的安全等级的情况下，将最新发现的受损数据按照安全等级插入到修复队列中，以等待修复。

本发明第三实施例提供了一种分布式存储系统，该系统包括第二实施例中的分布式存储系统的数据修复装置。本领域技术人员根据第二实施例记载，可以知晓上述数据修复装置的结构，也知晓如何将上述数据修复装置设置在分布式存储系统中，此处不再赘述。

本发明第四实施例提供一种分布式存储系统的数据修复方法，该方法克服了现有数据修复技术无差别进行数据修复的缺点。根据受损数据的可靠性风险情况，采用差异化修复策略，优先保证高风险数据的迅速修复，同时可以兼顾存储服务质量。该数据修复方法包括步骤一至步骤三：

步骤一，分布式存储系统发现并识别受损数据。

步骤二，对于受损数据，结合影响要素，评估确定风险程度。

步骤三，对于高风险受损数据优先修复。

上述步骤一中，所述分布式存储系统发现并识别受损数据的触发方式，包括但不限于以下任意一种措施或多种措施的组合：硬件设备损坏触发、主动数据完整性检测触发、常规数据访问检查触发。

上述步骤二中，所述影响要素，包括但不限于以下任意一项或多项要素的组合：受损数据的原始冗余度，受损数据的残留冗余度，受损数据所在单元的服务质量要求，受损数据所有者的服务等级协议要求，存储系统的整体服务质量要求。其中，各影响要素获取方式如下：检查受损数据对应的元数据信息，以确定原始冗余度；检查受损数据副本或分片状态，以确定残留冗余度；提取受损数据对应的服务质量要求指标；根据受损数据所属用户，提取服务等级协议要求参数。

上述步骤三中，所述高风险数据优先修复，一种方法为根据受损数据的风险程度排序，按序进行调度修复。所述高风险数据优先修复，一种方法为根据受损数据的风险程度划分风险等级，不同风险等级的采用不同的优先级方式进行修复调度，高风险等级的获得更高的修复优先级。

采用本发明实施例的上述方法，与现有技术相比，可以提升分布式存储系统的存储可靠性，特别是对于充分使用的中重负荷分布式存储系统，能够有效兼顾存储服务可用性和数据储存可靠性。

本发明第五实施例提供提供了一种分布式存储系统的数据修复方法，包括以下过程：分布式存储系统在运行过程中，发现存在数据受损情况时，对受损的数据块进行状态标记；接着，综合影响要素，给出风险评估(与安全等级相似，风险评估结果越高，越不安全)，风险评估结果可以根据需要做单独标记，或者直接借用影响要素情况标记；根据风险评估情况，按照数据修复策略，针对高风险数据进行优先修复。

如附图4所示，在存储系统对外提供统一的冗余度场景下，可以简化采用基于单影响要素的风险评估，主要过程如下：

(1)分布式存储系统通过多种触发手段发现并识别受损数据，可能的途径包括：(A)硬件设备损坏触发：硬件损坏时，受损坏硬件影响的数据也会受损，需要做提取；(B)主动数据完整性检测触发：存储系统后台按照一定策略针对数据块的各副本、分片以及元数据/数据对应关系等进行完整性、匹配性核对，提取错误的数据；(C)常规数据访问检查触发，正常的读写操作也需要访问存储数据，如果数据存在异常，也需要被提取。

(2)对于上述已经发现的受损数据，存储系统对其进行标记，并根据其有效副本/分片数量判断冗余情况。

(3)对于有效分片数量低于下限或无有效副本的无法修复情况，对数据做丢失标记或者加入无法修复的数据块队列，待处理。对于某些特定的场景，例如专供视频、音频、图像存储的场景，单个数据块的丢失后，仍然可以通过前后关联数据块以及数据格式的特点进行一定的弥补，处理后虽然使用效果有诸如跳帧、马赛克效果等损失，但整个文件总体仍可用。对于有效分片数量等于下限或者仅有1个副本的无冗余情况，将数据修复任务加入最高修复优先级队列或者标记为最高修复优先级。对于有效分片数量高于下限1个或者仅有2个副本的低冗余情况，将数据修复任务加入次高修复优先级队列或者标记为次高修复优先级。对于有效分片数量高于下限2个或更多，或者有3个或更多副本的冗余受损情况，将数据修复任务加入常规修复优先级队列或者标记为常规修复优先级。

不同修复优先级的修复执行进程会获得相应的资源占用、处理速度限制分配，更高优先级的修复执行进程会得到更大的资源占用许可或者更高的处理速度限制，以便能够更快的对数据进行修复。修复操作执行时，特定修复等级的修复执行进程会从相应的处理队列中依次提取修复任务，或者扫描数据状态，提取对应级别的数据修复任务。在具备执行优先级调度的分布式存储系统中，还可以将不同修复优先级的数据修复任务赋予相应的执行优先级，与其他系统业务访问请求、后台处理任务等统一调度管理。在系统重载情况下，一旦出现整体资源紧张，可以依据执行有限级高低顺序，差异化处理。优先保证最重要应用和最高修复优先级任务的资源需求。

进一步举例，对于一个采用4副本或者3份纠删码冗余分片的分布式存储系统，当检测到数据块损坏时，评估其对应的其他副本/纠删码分片情况。如果此时其他所有副本均已损坏，则将其视为数据丢失；如果此时还有1个剩余的有效副本，则将其视为无冗余情况，定为最高修复优先级；如果此时还有2个剩余的有效副本，则将其视为低冗余情况，定为次高修复优先级；如果此时其余的3个副本都是好的，则视为冗余受损情况，定位普通修复优先级。

需要指出的是，本实施例中的3个修复优先级划分并不是绝对的，应用中可以根据需要采用更多或者更少的修复优先级。

本发明第六实施例提供提供了一种分布式存储系统的数据修复方法，其流程如图5所示，本实施例与第五实施例的区别在于过程(3)，本实施例采用了单修复队列的方式，考虑场景相似，与第五实施例有区别的过程(3)处理如下：

对于有效分片数量等于下限或者仅有1个副本的无冗余情况，将数据修复任务加入数据修复队列，插入到低冗余修复数据前。对于有效分片数量高于下限1个或者仅有2个副本的低冗余情况，将数据修复任务加入数据修复队列，插入到冗余受损修复数据前。对于有效分片数量高于下限2个或更多，或者有3个或更多副本的冗余受损情况，将数据修复任务加入数据修复队列。修复操作执行时，数据修复进程依序从数据修复队列中取出数据修复任务，受损情况越重的数据，将会更为优先的得到处理。

本发明第七实施例提供提供了一种分布式存储系统的数据修复方法，在该实施方式中，如附图6所示，大型分布式存储系统，往往同时存在多种冗余度数据，针对不同的逻辑单元有着不同的服务质量(Quality of Service，QoS)，针对不同的用户有着差异化的服务等级协议(Service Level Agreement，SLA)要求。需要考虑多影响要素综合评估受损数据的丢失风险。主要过程如下：

在受损数据发现与识别后，针对受损数据进行分析，进行影响要素参数提取。例如，检查受损数据对应的元数据信息，确定原始冗余度；检查受损数据其他副本/分片状态，确定残留冗余度；根据数据所处单元，提取相应的服务质量要求指标；根据数据所属用户，提取服务等级协议要求参数；存储系统的整体服务质量参数等。上述参数提取完成后，根据评估规则进行数据丢失风险计算。最后，根据风险评估结果确定相应的数据修复优先级或者插入按风险排序的数据修复队列中合适位置。

进一步举例，评估规则可以做如下安排：设定冗余度状况作为一类影响因素，根据残留冗余度相对于原始冗余度的各种配比关系，确定不同的风险值列表，对于特定数据情况可以查表得到风险值M1。设定协议要求存储可靠性指标为另一类影响因素，不同的可靠性指标对应不同的调整系数。综合受损数据所有者的服务等级协议要求、受损数据所在单元的服务质量要求、存储系统的整体服务质量要求顺序分析，对于特定的数据情况，取其中可靠性指标要求最高者，查表确定其调整系数为K1。这样对于特定的受损数据丢失风险评估值V1＝K1*M1。

尽管为示例目的，已经公开了本发明的优选实施例，本领域的技术人员将意识到各种改进、增加和取代也是可能的，因此，本发明的范围应当不限于上述实施例。

Claims (12)

1.一种分布式存储系统的数据修复方法，其特征在于，包括：

根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，其中，所述影响要素至少包括残留冗余度；

按照所述安全等级对受损数据执行对应的修复策略。

2.如权利要求1所述的数据修复方法，其特征在于，根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，包括：

通过所述受损数据的有效副本数量或分片数量确定所述残留冗余度，根据所述残留冗余度确定所述安全等级。

3.如权利要求1或2所述的数据修复方法，其特征在于，按照所述安全等级对受损数据执行对应的修复策略，包括：

将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；

按照所述修复队列依次修复受损数据。

4.如权利要求3所述的数据修复方法，其特征在于，按照所述修复队列依次修复受损数据，包括：

判断正在修复的受损数据的安全等级是否低于预设安全等级；

如果低于所述预设安全等级，则按照第一处理速度修复所述受损数据；

如果不低于所述预设安全等级，则按照第二处理速度修复所述受损数据；其中，所述第一处理速度大于所述第二处理速度。

5.如权利要求4所述的数据修复方法，其特征在于，所述方法还包括：

判断时间上最新发现的受损数据的安全等级是否低于所述修复队列中最低的安全等级；

在所述安全等级低于所述最低的安全等级的情况下，将所述最新发现的受损数据插入所述修复队列的最前端，以优先修复所述最新发现的受损数据；

在所述安全等级不低于所述最低的安全等级的情况下，将所述最新发现的受损数据按照安全等级插入到所述修复队列中，以等待修复。

6.如权利要求1所述的数据修复方法，其特征在于，

所述影响要素还包括：原始冗余度、服务质量要求指标、服务等级协议要求参数、分布式存储系统的整体服务质量参数。

7.一种分布式存储系统的数据修复装置，其特征在于，包括：

确定模块，用于根据分布式存储系统中受损数据的影响要素确定所述受损数据的安全等级，其中，所述影响要素至少包括残留冗余度；

修复模块，用于按照所述安全等级对受损数据执行对应的修复策略。

8.如权利要求7所述的数据修复装置，其特征在于，

所述确定模块，具体用于通过所述受损数据的有效副本数量或分片数量确定所述残留冗余度，根据所述残留冗余度确定所述安全等级。

9.如权利要求7或8所述的数据修复装置，其特征在于，所述修复模块包括：

队列建立单元，用于将受损数据的安全等级按照由低到高的顺序进行排序，以建立修复队列；

修复单元，用于按照所述修复队列依次修复受损数据。

10.如权利要求9所述的数据修复装置，其特征在于，

所述修复单元，具体用于判断正在修复的受损数据的安全等级是否低于预设安全等级；如果低于所述预设安全等级，则按照第一处理速度修复所述受损数据；如果不低于所述预设安全等级，则按照第二处理速度修复所述受损数据；其中，所述第一处理速度大于所述第二处理速度。

11.如权利要求10所述的数据修复装置，其特征在于，所述装置还包括：

等级判断模块，用于判断时间上最新发现的受损数据的安全等级是否低于所述修复队列中最低的安全等级；

插入模块，用于在所述安全等级低于所述最低的安全等级的情况下，将所述最新发现的受损数据插入所述修复队列的最前端，以优先修复所述最新发现的受损数据；在所述安全等级不低于所述最低的安全等级的情况下，将所述最新发现的受损数据按照安全等级插入到所述修复队列中，以等待修复。

12.一种分布式存储系统，其特征在于，包括：权利要求7至11中任一项所述的分布式存储系统的数据修复装置。