CN114333917A - 基于rdp纠删算法的数据纠错方法、装置、设备及介质 - Google Patents
基于rdp纠删算法的数据纠错方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN114333917A CN114333917A CN202111660473.0A CN202111660473A CN114333917A CN 114333917 A CN114333917 A CN 114333917A CN 202111660473 A CN202111660473 A CN 202111660473A CN 114333917 A CN114333917 A CN 114333917A
- Authority
- CN
- China
- Prior art keywords
- data
- check
- disk
- error correction
- disc
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012937 correction Methods 0.000 title claims abstract description 109
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 45
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012795 verification Methods 0.000 claims description 27
- 238000004364 calculation method Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 11
- 238000001514 detection method Methods 0.000 claims description 3
- 238000011084 recovery Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Detection And Correction Of Errors (AREA)
Abstract
本发明公开了一种基于RDP纠删算法的数据纠错方法、装置、设备及介质;在本方案中,根据RDP纠删算法的特性进行扩展,从而使得本方案可根据RDP纠删算法及各磁盘的原始数据生成三个校验盘;若检测到当前具有三个错误磁盘,则可通过三个校验盘中存储的校验数据对错误磁盘进行数据纠错;通过该方式,可在保留原RDP纠删算法本身的运算特性及优势的基础上,支持三个错误磁盘的数据恢复,提高RDP纠删算法的兼容性。
Description
技术领域
本发明涉及磁盘纠错技术领域,更具体地说,涉及一种基于RDP纠删算法的数据纠错方法、装置、设备及介质。
背景技术
数据可靠性是存储系统的重要性能指标。分布式存储系统通过将数据分散到多个独立的存储节点上来提高数据服务的安全性和可靠性。由于大型存储系统中存在频繁的组件失效问题,现代分布式存储系统一般用基于复制或纠删码策略生成冗余数据来保证数据的可靠性。基于复制策略的存储方案存储开销过大,纠删码策略因其最小化存储开销并达到较高的数据可靠性而得到广泛运用。基于纠删码策略的存储系统中,存放原始数据的节点称为数据盘,存放校验数据的节点称为校验盘。RDP是经典的纠删算法,其只需要使用数据进行异或而达成编解码而闻名。但是因为RDP纠删算法不涉及复杂的参数运算,因此RDP算法无法支持大于两个错误的情况纠错。
发明内容
本发明的目的在于提供一种基于RDP纠删算法的数据纠错方法、装置、设备及介质,以在磁盘中存在三个错误时进行修复。
为实现上述目的,本发明提供一种基于RDP纠删算法的数据纠错方法,包括:
通过各磁盘的原始数据及RDP纠删算法生成校验盘;所述校验盘包括:校验盘1、校验盘2和校验盘3;
若检测到当前具有三个错误磁盘,则通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
其中,所述校验盘3中各校验数据的生成方法为:
若磁盘总数与条带数均M,则根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;
在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测,若检测到存在目标校验数据未通过m个数据块的原始数据计算生成,则针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;
其中,1≤m≤M;1≤i≤M。
其中,若检测到当前具有一个错误磁盘,则所述数据纠错方法还包括:
通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。
其中,若检测到当前具有两个错误磁盘,则所述数据纠错方法还包括:
通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错。
为实现上述目的,本发明进一步提供一种基于RDP纠删算法的数据纠错装置,包括:
生成模块,用于通过各磁盘的原始数据及RDP纠删算法生成校验盘;所述校验盘包括:校验盘1、校验盘2和校验盘3;
第一纠错模块,用于检测到当前具有三个错误磁盘时,通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
其中,所述生成模块包括:
阵列生成单元,用于在磁盘总数与条带数均M时,根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;
第一计算单元,用于在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
检测单元,用于在计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测;
补偿单元,用于在检测到存在目标校验数据未通过m个数据块的原始数据计算生成时,针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;其中,1≤m≤M;1≤i≤M。
其中,所述装置还包括:
第二纠错模块,用于在检测到当前具有一个错误磁盘时,通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。
其中,所述装置还包括:
第三纠错模块,用于在检测到当前具有两个错误磁盘时,通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错。
为实现上述目的,本发明进一步提供一种电子设备,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现上述基于RDP纠删算法的数据纠错方法的步骤。
为实现上述目的,本发明进一步提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述基于RDP纠删算法的数据纠错方法的步骤。
通过以上方案可知,本发明实施例提供的一种基于RDP纠删算法的数据纠错方法、装置、设备及介质;在本方案中,根据RDP纠删算法的特性进行扩展,从而使得本方案可根据RDP纠删算法及各磁盘的原始数据生成三个校验盘;若检测到当前具有三个错误磁盘,则可通过三个校验盘中存储的校验数据对错误磁盘进行数据纠错;通过该方式,可在保留原RDP纠删算法本身的运算特性及优势的基础上,支持三个错误磁盘的数据恢复,提高RDP纠删算法的兼容性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例公开的数据阵列示意图;
图2为本发明实施例公开的RDP编码后情况示意图;
图3为本发明实施例公开的RDP编码生成规律示意图;
图4为本发明实施例公开的一种基于RDP纠删算法的数据纠错方法流程示意图;
图5为本发明实施例公开的RDP三校验扩展算法示意图;
图6为本发明实施例公开的一种基于RDP纠删算法的数据纠错装置结构示意图;
图7为本发明实施例公开的一种电子设备结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
可以理解的是,RDP编码是一种基于p*p阵列、仅需进行异或操作并达到最优冗余率的纠删编码方案,其中P为大于2的素数。
以p=4举例,则存放原始数据的阵列为4*4,参见图1,为本发明实施例提供的p为4时的数据阵列示意图。如图1所示,P=4时的数据阵列中每一个方块内的字母为一个数据块,用a~p表示了所有的数据块。RDP会对其进行编码,生成两个校验盘,每个校验盘在每个条带对应生成一个校验数据块。参见图2,为本发明实施例提供的P为4时的RDP编码后情况示意图,可见,共生成两个校验盘,每个校验盘在每个条带上具有对应的校验数据块。经典的RDP的编码算法如下所述:
对于任意一个磁盘的错误,选择P0~P1利用正确的数据进行异或即可完成运算,从而恢复磁盘。而对于任意两个磁盘的错误P0’~P3’参与运算。
在本方案中,为了实现RDP向三校验的扩展,需要在保存原有RDP的规律的前提下,依照其规律类似的进行扩展。由于三校验的扩展类似于第二块磁盘错误时RDP进行恢复的算法需求,因此首先观察P0’~P3’的生成方式,参见图3,为本发明实施例提供的P为4时的RDP编码生成规律示意图,图3中的线条表示其编码线路,线条上的星型表示在此校验码生成中所涉及参与编码的数据码块,通过图3可知,RDP的校验生成具有以下规律:
1.校验的生成斜率为1,这样可以满足行列数相等的RDP适用环境,保证生成的校验码覆盖到所有的数据块。
2.通过斜率为1的校验生成时,校验盘1参与运算,保证行每个数据块参与且只参与一次运算,在矩阵的校验的构造中,运算重量相等。
因此,本方案为了构造三校验的扩展算法,需要在满足上述两条规律的前提下,实现不同的编码的方法。参见图4,为本发明实施例提供的一种基于RDP纠删算法的数据纠错方法流程示意图,该方法包括:
S101、通过各磁盘的原始数据及RDP纠删算法生成校验盘;该校验盘包括:校验盘1、校验盘2和校验盘3;
需要说明的时,校验盘1及校验盘2的生成方式,与现有RDP纠删算法生成校验盘1及校验盘2的方式相同,因此在本实施例中,便不再对校验盘1及校验盘2的生成过程进行具体说明。
在本实施例中,校验盘3中各校验数据的生成方法为:
若磁盘总数与条带数均M,则根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测,若检测到存在目标校验数据未通过m个数据块的原始数据计算生成,则针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;其中,1≤m≤M;1≤i≤M。
参见图5,为本发明实施例提供的一种P为4时的RDP三校验扩展算法示意图,如图5可知,本方案使用的斜率为-1类似于RDP的校验盘2构造的第一条,此外同RDP一样,通过斜率为-1的条件,如图3的构造方式中,通过类似方法遍历了所有的数据块,使其参与编码,并且参与的重量为一。
具体来说,如图5所示,在本实施例中,磁盘总数与条带数均4,即m为4,通过4个磁盘在4个条带的数据块及校验盘1组成目标数据阵列;在该目标数据阵列中,若计算第1个条带对应的校验数据P0”,则以第1个磁盘在第一个条带的数据块a开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,如图4所示,链接的所有数据块包括:数据块a、数据块f、数据块k、数据块p共4个数据块,则将链接的所有数据块中的原始数据进行异或计算,生成校验数据P0”,也即:并且P0”中参与计算的数据块为m个,不需要补偿;同理,以上述方式链接的所有数据块包括:数据块b、数据块g、数据块l、数据块P3,因此参与计算的数据块的数量也为m个,不需要补偿;并且,数据块P3是通过数据块m、数据块n、数据块o和数据块p异或计算生成,因此
进一步,在计算P2”时,以第3个磁盘在第一个条带的数据块c开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,如图4所示,链接的所有数据块包括:数据块c、数据块h、数据块P2,也即参与计算的数据块不为m个,此时需要补偿,由于P2”是第1个需要补偿的目标校验数据,因此以第1个磁盘在第4个条带的数据块m开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,由于数据块m左上没有其他数据块,则需要将数据块m与数据块c、数据块h、数据块P2进行异或,得到最终的校验数据;同理,在计算P3”时,需要在数据块d、数据块P1的基础上,补偿数据块n及数据块i,通过数据块d、数据块P1、数据块n及数据块i进行异或得到最终的校验数据。各校验盘中各校验数据的计算方法如下:
S102、若检测到当前具有三个错误磁盘,则通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
在本实施例中,若检测到当前具有一个错误磁盘,则通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。在本实施例中,优选通过校验盘1进行纠错,也即:通过P0~P3进行异或即可完成数据恢复。若检测到当前具有两个错误磁盘,则通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错,也即:由于P0’~P3’和P0”~P3”具有相同性质,可使用P0~P3与P0’~P3’完成数据恢复,或者通过P0~P3与P0”~P3”完成数据恢复。
对于任意三个磁盘错误时,由于P0’~P3’和P0”~P3”具有相同性质,因此任意三个磁盘错误对于数据解码恢复的关系影响是相同的,在本实施例以P=4的例子进行举例,假如磁盘1~3发生了错误需要恢复,使用本方案后,待求数据关系为:
通过对公式(3)观察可知,待求数据中P0’~P3’和P0”~P3”部分具有完全相同的构造关系,并且由于P0~P3同时参与了P0’~P3’和P0”~P3”的编码运算,因此解码第一步首先约掉受其影响的部分得到:
将公式(4)转换为矩阵关系则为:
公式(5)可以被认为是当前错误情况下求解的多元一次方程,方程求秩为12,因此,当前一定有且有唯一解。此时使用P0’~P3’和P0”~P3”选择有相互关系的部分进行异或,可以得到满足将P0~P3中某些公式消元得到待求未知码块的值。以上述公式(4)举例,即是:
之后利用所得的f,同理类似可得:
依次类推,可得到所有的解。因此通过本方案可恢复三校验。
综上可以看出,在本方案中提出了一种基于RDP的三校验扩展算法。本方案在RDP的基础上,分析RDP的特性并进行了扩展,得到的检验盘3的生成关系类似于原始RDP算法,具有原始RDP的优势,在运算中仅需对数据进行选择和异或即可,可在原本的基础上支持三错误的恢复,并且向下降级时满足RDP本身的运算特性和优势,具有可高速运算的特点。
下面对本发明实施例提供的数据纠错装置、设备及介质进行介绍,下文描述的数据纠错装置、设备及介质与上文描述的数据纠错方法可以相互参照。
参见图6,本发明实施例提供的一种基于RDP纠删算法的数据纠错装置结构示意图,包括:
生成模块21,用于通过各磁盘的原始数据及RDP纠删算法生成校验盘;所述校验盘包括:校验盘1、校验盘2和校验盘3;
第一纠错模块22,用于检测到当前具有三个错误磁盘时,通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
其中,所述生成模块包括:
阵列生成单元,用于在磁盘总数与条带数均M时,根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;
第一计算单元,用于在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
检测单元,用于在计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测;
补偿单元,用于在检测到存在目标校验数据未通过m个数据块的原始数据计算生成时,针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;其中,1≤m≤M;1≤i≤M。
其中,本装置还包括:
第二纠错模块,用于在检测到当前具有一个错误磁盘时,通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。
其中,本装置还包括:
第三纠错模块,用于在检测到当前具有两个错误磁盘时,通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错。
参见图7,本发明实施例还提供了一种电子设备结构示意图,包括:
存储器21,用于存储计算机程序;
处理器22,用于执行所述计算机程序时实现上述方法实施例所述的基于RDP纠删算法的数据纠错方法的步骤。
在本实施例中,设备可以是PC(Personal Computer,个人电脑),也可以是智能手机、平板电脑、掌上电脑、便携计算机等终端设备。
该设备可以包括存储器21、处理器22和总线23。
其中,存储器21至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器21在一些实施例中可以是设备的内部存储单元,例如该设备的硬盘。存储器21在另一些实施例中也可以是设备的外部存储设备,例如设备上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器21还可以既包括设备的内部存储单元也包括外部存储设备。存储器21不仅可以用于存储安装于设备的应用软件及各类数据,例如执行数据纠错方法的程序代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
处理器22在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器或其他数据处理芯片,用于运行存储器21中存储的程序代码或处理数据,例如执行数据纠错方法的程序代码等。
该总线23可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
进一步地,设备还可以包括网络接口24,网络接口24可选的可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该设备与其他电子设备之间建立通信连接。
可选地,该设备还可以包括用户接口25,用户接口25可以包括显示器(Display)、输入单元比如键盘(Keyboard),可选的用户接口25还可以包括标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在设备中处理的信息以及用于显示可视化的用户界面。
图7仅示出了具有组件21-25的设备,本领域技术人员可以理解的是,图7示出的结构并不构成对设备的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述方法实施例所述的基于RDP纠删算法的数据纠错方法的步骤。
其中,该存储介质可以包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种基于RDP纠删算法的数据纠错方法,其特征在于,包括:
通过各磁盘的原始数据及RDP纠删算法生成校验盘;所述校验盘包括:校验盘1、校验盘2和校验盘3;
若检测到当前具有三个错误磁盘,则通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
2.根据权利要求1所述的数据纠错方法,其特征在于,所述校验盘3中各校验数据的生成方法为:
若磁盘总数与条带数均M,则根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;
在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测,若检测到存在目标校验数据未通过m个数据块的原始数据计算生成,则针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;
其中,1≤m≤M;1≤i≤M。
3.根据权利要求2所述的数据纠错方法,其特征在于,若检测到当前具有一个错误磁盘,则所述数据纠错方法还包括:
通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。
4.根据权利要求2所述的数据纠错方法,其特征在于,若检测到当前具有两个错误磁盘,则所述数据纠错方法还包括:
通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错。
5.一种基于RDP纠删算法的数据纠错装置,其特征在于,包括:
生成模块,用于通过各磁盘的原始数据及RDP纠删算法生成校验盘;所述校验盘包括:校验盘1、校验盘2和校验盘3;
第一纠错模块,用于检测到当前具有三个错误磁盘时,通过校验盘1、校验盘2和校验盘3中存储的校验数据对错误磁盘进行数据纠错。
6.根据权利要求5所述的数据纠错装置,其特征在于,所述生成模块包括:
阵列生成单元,用于在磁盘总数与条带数均M时,根据M个磁盘在M个条带的数据块及校验盘1组成目标数据阵列;
第一计算单元,用于在所述目标数据阵列中,以第m个磁盘在第一个条带的数据块开始,依次向右下以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中的原始数据进行异或计算,生成所述校验盘3中与第m个条带对应的校验数据;
检测单元,用于在计算得到所述校验盘3中与每个条带对应的校验数据后,从第1个条带对应的校验数据为开始进行检测;
补偿单元,用于在检测到存在目标校验数据未通过m个数据块的原始数据计算生成时,针对第i个需要补充的目标校验数据,以第i个磁盘在第M个条带的数据块开始,依次向左上以斜率为-1的方式,链接满足斜率为-1的所有数据块,将链接的所有数据块中记载的原始数据与对应的目标校验数据进行异或,得到补偿后的校验数据;其中,1≤m≤M;1≤i≤M。
7.根据权利要求6所述的数据纠错装置,其特征在于,还包括:
第二纠错模块,用于在检测到当前具有一个错误磁盘时,通过校验盘1、校验盘2和校验盘3中任意一个校验盘中存储的校验数据对错误磁盘进行数据纠错。
8.根据权利要求6所述的数据纠错装置,其特征在于,还包括:
第三纠错模块,用于在检测到当前具有两个错误磁盘时,通过校验盘1及校验盘2,或者校验盘1及校验盘3中存储的校验数据对错误磁盘进行数据纠错。
9.一种电子设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至4任一项所述的基于RDP纠删算法的数据纠错方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述的基于RDP纠删算法的数据纠错方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111660473.0A CN114333917B (zh) | 2021-12-30 | 2021-12-30 | 基于rdp纠删算法的数据纠错方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111660473.0A CN114333917B (zh) | 2021-12-30 | 2021-12-30 | 基于rdp纠删算法的数据纠错方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114333917A true CN114333917A (zh) | 2022-04-12 |
CN114333917B CN114333917B (zh) | 2023-11-03 |
Family
ID=81018307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111660473.0A Active CN114333917B (zh) | 2021-12-30 | 2021-12-30 | 基于rdp纠删算法的数据纠错方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114333917B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60160075A (ja) * | 1984-01-31 | 1985-08-21 | Toshiba Corp | エラ−訂正方法 |
US20060129873A1 (en) * | 2004-11-24 | 2006-06-15 | International Business Machines Corporation | System and method for tolerating multiple storage device failures in a storage system using horizontal and vertical parity layouts |
CN101034552A (zh) * | 2006-12-08 | 2007-09-12 | 华中科技大学 | 一种磁盘伺服信息校验方法及其装置 |
US20090055688A1 (en) * | 2007-08-23 | 2009-02-26 | Ibm Corporation | Detection and correction of dropped write errors in a data storage system |
CN104111880A (zh) * | 2013-04-16 | 2014-10-22 | 华中科技大学 | 一种容三盘失效纠删码的单数据盘失效快速重建方法 |
WO2015018065A1 (zh) * | 2013-08-09 | 2015-02-12 | 华为技术有限公司 | 一种文件处理方法、装置及存储设备 |
CN104850468A (zh) * | 2015-05-31 | 2015-08-19 | 上海交通大学 | 基于校验矩阵的纠删码解码方法 |
WO2016122515A1 (en) * | 2015-01-29 | 2016-08-04 | Hewlett Packard Enterprise Development Lp | Erasure multi-checksum error correction code |
CN109086000A (zh) * | 2018-06-22 | 2018-12-25 | 浙江工业大学 | 一种raid存储系统中的三容错数据布局方法 |
CN112860475A (zh) * | 2021-02-04 | 2021-05-28 | 山东云海国创云计算装备产业创新中心有限公司 | 基于rs纠删码的校验块恢复方法、装置、系统及介质 |
-
2021
- 2021-12-30 CN CN202111660473.0A patent/CN114333917B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60160075A (ja) * | 1984-01-31 | 1985-08-21 | Toshiba Corp | エラ−訂正方法 |
US20060129873A1 (en) * | 2004-11-24 | 2006-06-15 | International Business Machines Corporation | System and method for tolerating multiple storage device failures in a storage system using horizontal and vertical parity layouts |
CN101034552A (zh) * | 2006-12-08 | 2007-09-12 | 华中科技大学 | 一种磁盘伺服信息校验方法及其装置 |
US20090055688A1 (en) * | 2007-08-23 | 2009-02-26 | Ibm Corporation | Detection and correction of dropped write errors in a data storage system |
CN104111880A (zh) * | 2013-04-16 | 2014-10-22 | 华中科技大学 | 一种容三盘失效纠删码的单数据盘失效快速重建方法 |
WO2015018065A1 (zh) * | 2013-08-09 | 2015-02-12 | 华为技术有限公司 | 一种文件处理方法、装置及存储设备 |
WO2016122515A1 (en) * | 2015-01-29 | 2016-08-04 | Hewlett Packard Enterprise Development Lp | Erasure multi-checksum error correction code |
CN104850468A (zh) * | 2015-05-31 | 2015-08-19 | 上海交通大学 | 基于校验矩阵的纠删码解码方法 |
CN109086000A (zh) * | 2018-06-22 | 2018-12-25 | 浙江工业大学 | 一种raid存储系统中的三容错数据布局方法 |
CN112860475A (zh) * | 2021-02-04 | 2021-05-28 | 山东云海国创云计算装备产业创新中心有限公司 | 基于rs纠删码的校验块恢复方法、装置、系统及介质 |
Non-Patent Citations (3)
Title |
---|
HANXU HOU: "A Unified Form of EVENODD and RDP Codes and Their Efficient Decoding", 《 IEEE TRANSACTIONS ON COMMUNICATIONS》, vol. 66, no. 11, XP011704659, DOI: 10.1109/TCOMM.2018.2859956 * |
万武南;王拓;索望;: "一种三容错数据布局", 电子与信息学报, no. 10 * |
邱丽娜: "一种容三盘失效纠删码的单数据盘失效快速重建方法", 《计算机学报》, vol. 36, no. 10 * |
Also Published As
Publication number | Publication date |
---|---|
CN114333917B (zh) | 2023-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9128864B2 (en) | Memory controller, storage device and error correction method | |
US20210271557A1 (en) | Data encoding, decoding and recovering method for a distributed storage system | |
CN110532126B (zh) | 纠删码存储系统数据快速恢复方法、装置及存储介质 | |
CN112860475B (zh) | 基于rs纠删码的校验块恢复方法、装置、系统及介质 | |
CN112000512B (zh) | 一种数据修复方法及相关装置 | |
CN103577274A (zh) | 管理存储器阵列的方法和装置 | |
CN111697976B (zh) | 一种基于分布式存储的rs纠删快速解码方法及系统 | |
JPS60163138A (ja) | エラ−訂正方式 | |
US20120023362A1 (en) | System and method for exact regeneration of a failed node in a distributed storage system | |
CN112799875B (zh) | 基于高斯消元进行校验恢复的方法、系统、设备及介质 | |
CN105808170B (zh) | 一种能够修复单磁盘错误的raid6编码方法 | |
CN106788468B (zh) | 一种纠删码更新方法及装置,电子设备 | |
CN111858142A (zh) | 一种数据处理方法、装置及电子设备和存储介质 | |
CN114442950B (zh) | 一种数据恢复方法、系统、装置及计算机可读存储介质 | |
CN113505019A (zh) | 一种纠删码数据及校验恢复方法、装置、设备及可读介质 | |
CN109358980A (zh) | 一种对数据更新和单磁盘错误修复友好的raid6编码方法 | |
CN114816837A (zh) | 一种纠删码融合方法、系统、电子设备及存储介质 | |
CN104516679A (zh) | 一种raid数据处理方法及装置 | |
CN115098295A (zh) | 数据局部恢复方法、设备及存储介质 | |
CN102096610B (zh) | 利用纠错码和同步信息的数据行存储及传输 | |
CN110896309A (zh) | Turbo乘积码的译码方法、装置、译码器及计算机存储介质 | |
CN114333917B (zh) | 基于rdp纠删算法的数据纠错方法、装置、设备及介质 | |
CN115543693B (zh) | 数据恢复方法及相关设备 | |
CN107615248B (zh) | 分布式数据存储方法、控制设备和系统 | |
CN114691414A (zh) | 一种校验块生成方法及一种数据恢复方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |