CN104111880A - 一种容三盘失效纠删码的单数据盘失效快速重建方法 - Google Patents

Abstract

本发明公开了一种容三盘失效纠删码的单数据盘失效快速重建方法，包括：单条带重建时将每个条带的每个条带单元划分为p-1个子分块，其中p为素数，且满足p+2等于RAID组中磁盘的数量,获取每个条带中用于重建失效盘的子分块的总数量R_ideal＝R_low+w%，在磁盘个数为p+2的阵列中，将失效盘i失效的可行解值初始化为3^p-1，初始化计数器j=0,用辗转相除法将j转化为3进制且共有p-1个元素的重建序列，计算p-1位重建序列中位的数值等于“0”、“1”和“2”的位的总数，两两比较这三个数，并判断差值的绝对值是否均小于或等于1，若是则启动有效性检验函数判断使用该重建序列代表的校验块能否恢复失效盘i上的全部数据块。本发明能够加速磁盘重建过程，提高系统的可靠性。

Description

一种容三盘失效纠删码的单数据盘失效快速重建方法

技术领域

本发明属于计算机存储系统领域，更具体地，涉及一种容三盘失效纠删码的单数据盘失效快速重建方法。

背景技术

现代存储系统均使用诸如纠错码之类的冗余信息来保证数据的可用性，提高系统的可靠性。存储系统可以是由多个磁盘组成的磁盘阵列，也可以是拥有超大规模的云存储系统，例如微软公司开发的窗口云存储系统(Windows Azure Storage，简称WAS),它支持像社交网络搜索等多种应用。长期以来，研究人员花费大量时间和精力研究形形色色的RAID6编码，包括RDP编码，EVENODD编码等。

图1表示的是一个由磁盘阵列组成的容三盘出错的存储系统，这里每个节点是一个磁盘，所有磁盘的空间被划分成一个个分块（也称为条带单元），这些分块组成磁盘空间上一个个相互独立的条带。每个条带将k个数据块通过一定的编码规则计算出三个校验块，并将这k+3个分块分不到不同磁盘上。存储系统可以使用某条带中的任意k个分块，解码得到该条带中失效的其余3个分块。

但是随着存储规模的迅速扩大，人们对容三盘失效的纠错码的需求越来越强烈。谷歌文件系统（Google File System，简称GFS）和WAS等规模很大的存储系统非常需要这类编码，因此STAR编码，三重编码(TripleParity，简称TP)和扩展的EVENODD编码都应运而生。研究表明，单盘失效的几率比双盘甚至三盘失效的几率大得多。磁盘间的失效并非彼此间独立，一旦有磁盘失效，更多的磁盘会随后发生故障。因此，当有单盘失效的情况时，需要启动重建机制使系统快速地恢复来避免更多磁盘故障导致的整个系统瘫痪。另外，7*24小时的服务要求系统提供在线重建机制，意味着重建期间存储系统仍需对前台客户端的请求做出相应，这不仅会与重建过程竞争磁盘带宽进一步，还会使得客户端的用户响应时间大大增加从而影响服务的质量。因此，单盘的快速重建机制很有必要，这个机制的实现能达到以下两种效果：减少重建时间和减轻用户不满意度。

虽然单盘的快速重建机制已经有很多的相关研究，但很少有针对容三盘错编码的重建方法设计,大部分的研究都是基于RAID6编码之上，如针对RDP编码设计的基于行-对角最佳恢复（Row-Diagonal Optimal Recovery，简称RDOR）机制，针对P-Code和X-Code设计的以基于路径的重建机制（PathDirected Recovery Scheme，简称PDRS）机制，通用性不好。传统的重建方法在重建时对某些数据重复读取，大量浪费了读写带宽，降低了磁盘重建的速度。综上，现有的各种单盘快速重建算法存在着如上所述的缺陷，对TP编码和STAR编码不能很好地应用。

发明内容

针对现有技术的缺陷，本发明的目的在于提供一种基于容三盘失效纠删码在单数据盘失效情况下的快速重建方法，旨在解决现有重建方法面临单盘失效时重建速度缓慢、数据重复读取的问题，并通过给出数据读取量的理想值、以此为最优解、进而利用启发式搜索算法搜索出最优解对应的重建序列的方式，加速磁盘重建过程，提高系统的可靠性。

为实现上述目的，本发明提供了一种容三盘失效纠删码的单数据盘失效快速重建方法，包括以下步骤：

（1）单条带重建时将每个条带的每个条带单元划分为p-1个子分块，其中p为素数，且满足p+2等于RAID组中磁盘的数量；

（2）获取每个条带中用于重建失效盘的子分块的总数量R_ideal，其中 表示向上取整；

（3）在磁盘个数为p+2的阵列中，将失效盘i失效的可行解值初始化为3^p-1，其中i=0，1，2…,p-2；

（4）对于所有取值小于3^p-1的整数j，首先初始化计数器j=0,用辗转相除法将j转化为3进制且共有p-1个元素的重建序列；

（5）计算p-1位重建序列中位的数值等于“0”的位的总数、等于“1”的位的总数和等于“2”的位的总数，两两比较这三个数，并判断差值的绝对值是否均小于或等于1，若是则转向步骤（6），否则，j的值增1，并返回步骤（4）；

（6）判断使用该重建序列代表的校验块能否恢复失效盘i上的全部数据块，若能则转入步骤（7），否则j的值增1，并返回步骤（4）；

（7）计算该重建序列重建时需要的数据块或校验块的总数R，并判断总数R是否等于R_ideal，若是则表示最优序列已经找到，并转入步骤（8），否则j的值增1，并返回步骤（4）；

（8）根据最优序列和三重校验的编码规则，计算重建失效盘i所需的数据块和校验块，过程结束。

对于重建序列而言，若序列的第k位为“0”，则代表失效盘i上的第k块采用p校验恢复，若为“1”，则代表失效盘i上的第k块采用q校验恢复，若为“2”则代表失效盘i上的第k块采用r校验恢复，其中k代表重建序列中的任意一位，其取值范围是0≤k＜p-1。

步骤（6）具体为，若重建序列的第m位为“0”，则将磁盘号为p-1上的第m块校验信息加入到重建所需的校验块集合π中，m代表重建序列中的任意一位，其取值范围是0≤k＜p-1，该校验信息用来恢复失效盘i上的第m行失效数据块D_i,m，该校验信息与数据块D_l,s，组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,l＝m；若重建序列的第m位为“1”，则将磁盘号为p上的第m块校验信息加入校验块集合π中，该校验信息用来恢复失效盘i上的第（m-j+p）%p行失效数据块，该校验信息与数据块D_l,s组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,(l+s)%p＝m；若重建序列的第m位为“2”，则将磁盘号为p+1上的第m块校验信息加入到校验块集合π中，该校验信息用来恢复失效盘i上的第（m+j）%p行失效数据块，该校验信息与数据块D_l,s组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,(l-s+p)%p＝m，最后判断该校验块集合π包含的所有校验信息所在的全部校验组能否覆盖失效盘i上的p-1个数据块D_n,I，其中0≤n＜p-1。

步骤（7）具体为，根据步骤（6）描述的校验块与校验组的关联，将校验块集合π中每个校验块所在的校验组所包含的全部有效数据块和校验块标记为“使用”，并计算出总数R。

步骤（8）具体为，依据步骤（6）中所描述的失效盘i上的p-1个失效数据块与重建序列的p-1位的对应关系，以及步骤（6）描述的校验块与校验组的关联，将p-1个失效数据块所在的校验组中所有有效数据块或校验块标记为“使用”，将所需全部数据读入内存，按照三重校验的解码规则求出所有失效的数据块和校验块。

通过本发明所构思的以上技术方案，与现有技术相比，本发明具有以下的有益效果：

（1）由于采用了步骤（2）和步骤（7），从而本发明能够快速准确地返回最佳重建路径，耗时短，按照该重建路径读取的数据量与传统方法相比减少1/3。

（2）由于采用了步骤（2）和步骤（8），从而本发明使得带宽开销小，由于重建只是读取幸存磁盘盘上的部分数据，所以减少了重复的数据的I/O，从而减少了对带宽的占用；既而使得重建速度大幅提升，降低了数据不可用的风险，保证了磁盘阵列的较高的可靠性。

（3）通用性好：本发明对使用TP编码和STAR编码容错的存储系统效果显著，对使用其它编码容错的存储系统同样适用。

附图说明

图1是现有纠删码存储系统的数据条带化分布示意图。

图2是本发明容三盘出错纠删码的单数据盘出错快速重建方法的流程图。

图3是本发明的应用实例。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

首先给出本发明相关概念的定义：

条带：在纠删码中，条带是独立的编码解码的单位，是由分散在不同磁盘上的不同条带单元构成。

数据块：数据盘上的一个或多个相邻的块，存储数据信息；数据块D_l,s表示位于条带中第l行，第s列的数据块，0≤l＜p-1,0≤s＜p-1,p-1为数据盘的个数。

校验块：校验盘上的一个或多个相邻的块，存储校验信息。

条带单元：一个条带信息与一个磁盘的交点，一个条带单元上有p-1个数据块或信息块。

校验组：由多个数据块及通过它们异或运算得到校验块共同构成，一个条带上可以由若干校验组。

数据盘：存储数据块的盘，在本发明书所解决的环境下，数据盘的个数为p-1，p为质数。

校验盘：存储校验块的盘，在本发明书所解决的环境下，校验盘的个数为3。

重建序列：重建序列是一串包含“0”、“1”和“2”的数字串，依次来决定相应的数据块采用何种校验块重建。

最优重建序列：根据序列中各个位代表的含义依次重建失效盘上的p-1个数据块，使得重建过程所读取的数据量最少的序列即为最优重建序列。

失效盘：发生软硬件故障灯原因导致不可访问的盘，特别地，本说明书中所指的失效盘特指失效的数据盘。

本发明提出的一种容三盘失效纠删码的单数据盘失效快速重建方法可以解决使用容三盘失效纠删码来提高可靠性的系统在单盘失效时的快速重建问题，能够快速重建失效数据到备份盘中。该方法能够减少重建所需数据总量，以达到减少磁盘I/O开销，加快重建速度，提高系统的可靠性和数据的可用性。

如图（2）所示，本发明容三盘失效纠删码的单数据盘失效快速重建方法包括以下步骤：

（1）单条带重建时将每个条带的每个条带单元（也称为分块）划分为p-1个子分块，其中p为素数，且满足p+2等于RAID组中磁盘的数量；

（2）获取每个条带中用于重建失效盘的子分块的总数量R_ideal，其中 表示向上取整。具体而言，该步骤计算出的临界点可以帮助快速定位到最优重建序列，且本步骤仅仅适用于当重建序列的元素包含P校验、Q校验及R校验三种检验类型，且两两校验分块的子分块之间数量的绝对值之差小于或等于1的情况；

（3）在磁盘个数为p+2的阵列中，解决失效盘i失效的可行解值初始化为3^p-1，其中i=0，1，2…,p-2；具体而言，此步骤给出恢复失效盘i的所有可能路径的总数N，N的取值为3^p-1；

（4）对于所有取值小于3^p-1的整数j，首先初始化计数器j=0,用辗转相除法将j转化为3进制且共有p-1个元素的重建序列；对于重建序列而言，若序列的第k位（k的取值范围是0≤k＜p-1，代表重建序列中的任意一位）为“0”则代表失效盘i上的第k块采用p校验恢复，若为“1”则代表失效盘i上的第k块采用q校验恢复，若为“2”则代表失效盘i上的第k块采用r校验恢复；

（5）计算p-1位重建序列中位的数值等于“0”的位的总数、等于“1”的位的总数和等于“2”的位的总数，两两比较这三个数，并判断差值的绝对值是否均小于或等于1，若是则转向步骤（6），否则，j的值增1，并返回步骤（4）；

（6）启动有效性检验函数判断使用该重建序列代表的校验块能否恢复失效盘i上的全部数据块，若能则转入步骤（7），否则j的值增1，并返回步骤（4）；具体而言，由于失效盘i上的p-1个失效数据块与重建序列的p-1位存在着对应关系：若重建序列的第m位（m的取值范围是0≤k＜p-1，代表重建序列中的任意一位）为“0”，则将磁盘号为p-1上的第m块校验信息加入到重建所需的校验块集合π中，该校验信息用来恢复失效盘i上的第m行失效数据块D_i,m，该校验信息与数据块D_l,s（0≤s＜p-1,s≠i,l＝m）组成一个校验组来重建D_i,m；若重建序列的第m位为“1”，则将磁盘号为p上的第m块校验信息加入校验块集合π中，该校验信息用来恢复失效盘i上的第（m-j+p）%p行失效数据块，该校验信息与数据块D_l,s（其中0≤s＜p-1,s≠i,(l+s)%p＝m）组成一个校验组来重建D_i,m；若重建序列的第m位为“2”，则将磁盘号为p+1上的第m块校验信息加入到校验块集合π中，该校验信息用来恢复失效盘i上的第（m+j）%p行失效数据块，该校验信息与数据块D_l,s（0≤s＜p-1,s≠i,(l-s+p)%p＝m）组成一个校验组来重建D_i,m，最后判断该校验块集合π包含的所有校验信息所在的全部校验组能否覆盖失效盘i上的p-1个数据块D_n,i（0≤n＜p-1）；

（7）计算该重建序列重建时需要的数据块或校验块的总数R，并判断总数R是否等于R_ideal，若是则表示最优序列已经找到，并转入步骤（8），否则j的值增1，并返回步骤（4）；具体而言，根据步骤（6）描述的校验块与校验组的关联，将校验块集合π中每个校验块所在的校验组所包含的全部有效数据块和校验块标记为“使用”，并计算出它们的总数R；

（8）根据最优序列和三重校验的编码规则，计算重建失效盘i所需的数据块和校验块，过程结束；具体而言，此步骤依据步骤（6）中所描述的失效盘i上的p-1个失效数据块与重建序列的p-1位的对应关系，以及步骤（6）描述的校验块与校验组的关联，将p-1个失效数据块所在的校验组中所有有效数据块或校验块标记为“使用”，即是重建一个条带所需的数据总量，将所需全部数据读入内存，按照三重校验的解码规则求出所有失效的数据块和校验块。

为使本发明方法更容易理解，下面结合图（3）所示的实例来说明。

图（3）为本发明用于采用TP编码技术的存储系统单数据盘故障恢复的示例。存储系统中的数据都是分条带存放的，重建过程中也以条带为单元，重建路径和重建数组在所有条带中都是相同的，因此示例仅展示出单一条带的重建过程。磁盘个数为7（p+2，p是素数等于5）的磁盘阵列，有4个数据盘，其余3盘为校验盘。根据步骤（1）将单一条带划分为4*7（（p—1）*（p+2））个子分块，可以用一个相应的二维数组来表示。步骤（2）计算R_ideal=12。步骤（3）计算解决失效盘i失效的可行解值为3⁴=81。步骤（4）令整数j=0，并将其转化为三进制序列{0000}；步骤（5）计算三进制序列{0,0,0,0,}中“0”的个数为4，“1”的个数为0，“2”的个数为0，不满足两两相减的绝对值小于等于1，所以j的值增加1后转向步骤（4）。步骤（4）中j=1，并将其转化为三进制序列{0,0,0,1}；步骤（5）计算“0”的个数为3，“1”的个数为1，“2”的个数为0，不满足两两相减的绝对值小于等于1，所以j的值增加1后转向步骤（4）。步骤（4）中j=2，并将其转化为三进制序列{0,0,0,2}；步骤（5）计算“0”、“1”和“2”的个数不相等，j的值增加1后转向步骤（4）。步骤（4）中j=3，并将其转化为三进制序列{0,0,1,0}；步骤（5）计算“0”、“1”和“2”的个数不相等，j的值增加1后转向步骤（4）。步骤（4）中j=4，并将其转化为三进制序列{0,0,1,1}；步骤（5）计算“0”、“1”和“2”的个数不相等，j的值增加1后转向步骤（4）.步骤（4）中j=5，并将其转化为三进制序列{0,0,1,2}；步骤（5）计算“0”、“1”和“2”的个数两两相减后绝对值均小于等于1，因此转入步骤（6）；步骤（6）对序列{0,0,1,2}进行有效性检查，这四个数字对应的校验块所在的校验组能包含所有时效快，因此能恢复失效盘i上的全部数据块；步骤（7）计算使用{0,0,1,2}序列重建时，需要读取的信息个数是12，与步骤（2）求得的R_ideal相等，达到最优解；步骤（8）根据最优序列和编码规则，计算重建失效盘i所需的数据块和校验块，图3中的非白色部分均为所需，过程结束。本发明求出最优的数据量，能够快速返回最优重建序列，并以此求出所需的信息块。

本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种容三盘失效纠删码的单数据盘失效快速重建方法，其特征在于，包括以下步骤：

（1）单条带重建时将每个条带的每个条带单元划分为p-1个子分块，其中p为素数，且满足p+2等于RAID组中磁盘的数量；

（2）获取每个条带中用于重建失效盘的子分块的总数量R_ideal，其中 表示向上取整；

（3）在磁盘个数为p+2的阵列中，将失效盘i失效的可行解值初始化为3^p-1，其中i=0，1，2…,p-2；

（4）初始化计数器j=0,用辗转相除法将j转化为3进制且共有p-1个元素的重建序列；

（5）计算p-1位重建序列中位的数值等于“0”的位的总数、等于“1”的位的总数和等于“2”的位的总数，两两比较这三个数，并判断差值的绝对值是否均小于或等于1，若是则转向步骤（6），否则，j的值增1，并返回步骤（4）；

（6）判断使用该重建序列代表的校验块能否恢复失效盘i上的全部数据块，若能则转入步骤（7），否则j的值增1，并返回步骤（4）；

（7）计算该重建序列重建时需要的数据块或校验块的总数R，并判断总数R是否等于R_ideal，若是则表示最优序列已经找到，并转入步骤（8），否则j的值增1，并返回步骤（4）；

（8）根据最优序列和三重校验的编码规则，计算重建失效盘i所需的数据块和校验块，过程结束。

2.根据权利要求1所述的单数据盘失效快速重建方法，其特征在于，对于重建序列而言，若序列的第k位为“0”，则代表失效盘i上的第k块采用p校验恢复，若为“1”，则代表失效盘i上的第k块采用q校验恢复，若为“2”则代表失效盘i上的第k块采用r校验恢复，其中k代表重建序列中的任意一位，其取值范围是0≤k＜p-1。

3.根据权利要求1所述的单数据盘失效快速重建方法，其特征在于，步骤（6）具体为，若重建序列的第m位为“0”，则将磁盘号为p-1上的第m块校验信息加入到重建所需的校验块集合π中，m代表重建序列中的任意一位，其取值范围是0≤k＜p-1，该校验信息用来恢复失效盘i上的第m行失效数据块D_i,m，该校验信息与数据块D_l,s，组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,l＝m；若重建序列的第m位为“1”，则将磁盘号为p上的第m块校验信息加入校验块集合π中，该校验信息用来恢复失效盘i上的第（m-j+p）%p行失效数据块，该校验信息与数据块D_l,s组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,(l+s)%p＝m；若重建序列的第m位为“2”，则将磁盘号为p+1上的第m块校验信息加入到校验块集合π中，该校验信息用来恢复失效盘i上的第（m+j）%p行失效数据块，该校验信息与数据块D_l,s组成一个校验组来重建D_i,m，其中0≤s＜p-1,s≠i,(l-s+p)%p＝m，最后判断该校验块集合π包含的所有校验信息所在的全部校验组能否覆盖失效盘i上的p-1个数据块D_n,I，其中0≤n＜p-1。

4.根据权利要求1所述的单数据盘失效快速重建方法，其特征在于，步骤（7）具体为，根据步骤（6）描述的校验块与校验组的关联，将校验块集合π中每个校验块所在的校验组所包含的全部有效数据块和校验块标记为“使用”，并计算出总数R。

5.根据权利要求4所述的单数据盘失效快速重建方法，其特征在于，步骤（8）具体为，依据步骤（6）中所描述的失效盘i上的p-1个失效数据块与重建序列的p-1位的对应关系，以及步骤（6）描述的校验块与校验组的关联，将p-1个失效数据块所在的校验组中所有有效数据块或校验块标记为“使用”，将所需全部数据读入内存，按照三重校验的解码规则求出所有失效的数据块和校验块。