CN111176880A - 磁盘分配方法、装置和可读存储介质 - Google Patents
磁盘分配方法、装置和可读存储介质 Download PDFInfo
- Publication number
- CN111176880A CN111176880A CN201811332967.4A CN201811332967A CN111176880A CN 111176880 A CN111176880 A CN 111176880A CN 201811332967 A CN201811332967 A CN 201811332967A CN 111176880 A CN111176880 A CN 111176880A
- Authority
- CN
- China
- Prior art keywords
- disk
- disk group
- erasure
- code
- group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
- G06F11/1012—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices using codes or arrangements adapted for a specific type of error
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
- G06F11/1064—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices in cache or content addressable memories
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Human Computer Interaction (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
Abstract
本申请公开了一种磁盘分配方法、装置和可读存储介质,属于计算机技术领域。本申请获取待存储的目标数据,并根据该目标数据的第一纠删码在存储空间中分配第一磁盘组,以通过第一磁盘组包括的磁盘来存储根据第一纠删码对目标数据进行编码得到的纠删码数据,从而实现可根据纠删码的不同,来动态调整分配的磁盘,提高了磁盘分配的灵活性。
Description
技术领域
本申请涉及计算机技术领域,特别涉及一种磁盘分配方法、装置和可读存储介质。
背景技术
在大规模数据存储领域,纠删码(Erasure Coding,EC)用于将数据编码得到数据块和校验块,即纠删码数据,以提高数据的容错能力。纠删码数据中的数据块和校验块可以分别存储于不同的磁盘中以进一步提高数据的安全性。对于大规模数据存储,不同类型的纠删码数据可能存储于不同的磁盘中,因此需要针对多类型的纠删码数据进行磁盘分配。
相关技术中,采用分布式存储系统,针对待存储的目标数据,通过哈希算法从分布式存储系统中确定初始磁盘组,确定该初始磁盘组中每个存储设备的使用热度和参考值,根据使用热度和参考值的差值,为目标数据对应的纠删码数据分配最终的磁盘组。
哈希算法的特性会导致分配的磁盘在整个存储空间中所有磁盘中的分布不均匀;且在初始磁盘组确定后,对于新的EC类型,磁盘组对应的存储设备相对固定,因而该种磁盘分配方式灵活性较差。
发明内容
本申请提供了一种磁盘分配的方法、装置和可读存储介质,以克服相关技术中存在的磁盘分配方式灵活性较差的问题。所述技术方案如下:
一方面,提供了一种磁盘分配方法,该方法包括:
获取待存储的目标数据;
确定所述目标数据对应的第一纠删码,所述第一纠删码用于对所述目标数据进行编码,得到包括数据块和校验块的纠删码数据;
根据所述第一纠删码在存储空间中分配第一磁盘组,所述第一磁盘组为一个或者多个,用于存储所述纠删码数据。
可选地,所述根据所述第一纠删码在存储空间中分配第一磁盘组,包括:
若所述存储空间中不存在已分配的磁盘组,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述存储空间中存在已分配的第二磁盘组,所述第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,其中,所述第二纠删码的类型不同于所述第一纠删码。
可选地,所述根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,包括:
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数等于所述第二纠删码对应的数据块的个数,则将所述第二磁盘组作为所述第一磁盘组;
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数不等于所述第二纠删码对应的数据块的个数,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述第一纠删码对应的校验块的个数大于所述第二纠删码对应的校验块的个数,则在所述第二磁盘组中分配所述第一磁盘组;
若所述第一纠删码对应的校验块的个数小于所述第二纠删码对应的校验块的个数,则备份所述第二纠删码对应的磁盘分配信息,重新分配所述第一磁盘组和所述第二磁盘组。
可选地,所述根据所述第一纠删码在所述存储空间中创建所述第一磁盘组,包括:
对于任一第一磁盘组,依次选择存储空间中的磁盘作为所述第一磁盘组中的一个磁盘,所述第一磁盘组中的磁盘的个数等于所述第一纠删码对应的数据块的个数和校验块的个数之和,多个所述第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
可选地,所述在所述第二磁盘组中分配所述第一磁盘组,包括:
从所述第二磁盘组中选择目标磁盘组,所述目标磁盘组为一个或多个;
从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
可选地,所述从所述第二磁盘组中选择目标磁盘组,包括:
跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,所述重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
可选地,所述重新分配所述第一磁盘组和所述第二磁盘组,包括:
在所述存储空间中分配所述第一磁盘组;
若分配所述第一磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第一磁盘组成功,则基于所述第一磁盘组和所述第二纠删码,在所述存储空间中分配所述第二磁盘组;
若分配所述第二磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第二磁盘组成功,则删除备份的所述第二类型纠删码对应的磁盘分配信息。
一方面,还提供了一种磁盘分配装置,所述装置包括:
获取模块,用于获取待存储的目标数据;
确定模块,用于确定所述目标数据对应的第一纠删码,所述第一纠删码用于对所述目标数据进行编码,得到包括数据块和校验块的纠删码数据;
分配模块,用于根据所述第一纠删码在存储空间中分配第一磁盘组,所述第一磁盘组为一个或者多个,用于存储所述纠删码数据。
可选地,所述分配模块,用于:
若所述存储空间中不存在已分配的磁盘组,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述存储空间中存在已分配的第二磁盘组,所述第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,其中,所述第二纠删码的类型不同于所述第一纠删码。
可选地,所述分配模块,用于:
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数等于所述第二纠删码对应的数据块的个数,则将所述第二磁盘组作为所述第一磁盘组;
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数不等于所述第二纠删码对应的数据块的个数,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述第一纠删码对应的校验块的个数大于所述第二纠删码对应的校验块的个数,则在所述第二磁盘组中分配所述第一磁盘组;
若所述第一纠删码对应的校验块的个数小于所述第二纠删码对应的校验块的个数,则备份所述第二纠删码对应的磁盘分配信息,重新分配所述第一磁盘组和所述第二磁盘组。
可选地,所述分配模块,用于对于任一第一磁盘组,依次选择存储空间中的磁盘作为所述第一磁盘组中的一个磁盘,所述第一磁盘组中的磁盘的个数等于所述第一纠删码对应的数据块的个数和校验块的个数之和,多个所述第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
可选地,所述分配模块,用于从所述第二磁盘组中选择目标磁盘组,所述目标磁盘组为一个或多个;从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
可选地,所述分配模块,用于跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,所述重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
可选地,所述分配模块,用于:
在所述存储空间中分配所述第一磁盘组;
若分配所述第一磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第一磁盘组成功,则基于所述第一磁盘组和所述第二纠删码,在所述存储空间中分配所述第二磁盘组;
若分配所述第二磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第二磁盘组成功,则删除备份的所述第二类型纠删码对应的磁盘分配信息。
另一方面,提供了一种磁盘分配装置,所述装置包括处理器和存储器,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现上述任一种磁盘分配方法。
另一方面,提供了一种计算机可读存储介质,该存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现上述任一种磁盘分配方法。
本申请实施例提供的技术方案至少包括以下有益效果:
本申请获取待存储的目标数据后,根据该目标数据对应的第一纠删码在存储空间中分配第一磁盘组,以通过第一磁盘组包括的磁盘来存储根据第一纠删码对目标数据进行编码得到的纠删码数据,由此可见,本申请实施例提供的技术方案可根据纠删码的不同,来动态调整分配的磁盘,提高了磁盘分配的灵活性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1示出了本申请实施例提供的一个对象存储系统的架构图;
图2示出了本申请实施例提供的纠删码数据写入磁盘的示意图;
图3示出了本申请实施例提供的一种磁盘分配方法的流程图;
图4示出了本申请实施例提供的一种磁盘分配方法的流程图;
图5示出了本申请实施例提供的磁盘分配装置的结构方框图;
图6示出了本申请实施例提供的磁盘分配装置的结构方框图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
在对本申请进行详细的解释说明之前,先对本申请涉及的应用场景及相关技术予以介绍。
纠删码是一种数据保护方法,它将数据分割成数据块,对数据块进行编码得到冗余的校验块,使得数据之间产生关联性,以达到容错的目的。纠删码至少包括两个核心参数,N和M,其含义为N个数据块经过该纠删码编码得到M个校验块,从而得到N+M块纠删码数据。不同类型的纠删码对应不同的参数值,例如,第一纠删码的N的值为N1,第一纠删码的M的值为M1,表示N1个数据块经过第一纠删码编码得到M1个校验块;第二纠删码的N的值为N2,第二纠删码的M的值为M2,表示N2个数据块经过第二纠删码编码得到M2个校验块。
为了保证数据的安全,可以将编码后的纠删码数据中的数据块和校验块分别存储于不同的磁盘,以防止因一个磁盘发生损坏而导致的数据无法恢复。此外,在实际应用中,存储空间中可能存储有不同类型的纠删码数据,例如第二纠删码的数据和第一纠删码的数据。本申请所涉及的纠删码数据的磁盘分配方法可以用于在存储空间中进行磁盘分配。
针对基于对象存储技术的存储系统,纠删码数据的多个数据块和校验块可以存储于不同的对象存储设备(Object-based Storage Device,OSD)中,也可以存储于同一OSD的不同磁盘中。以下以纠删码数据存储于对象存储系统的同一OSD的不同磁盘中为例,对本申请所涉及的纠删码数据的磁盘分配方法进行说明。
参见图1,其示出了本申请实施例的一个对象存储系统。如图1所示,该对象存储系统至少包括一个元数据服务器、一个对象存储服务器、一个客户端和多个磁盘。
其中,客户端提供用户交互接口,可以用于获取未经纠删码处理的数据。
对象存储服务器包括磁盘分配组件、EC计算组件和磁盘读写组件。对象存储服务器接收客户端获取到的数据;数据经过EC计算组件处理得到纠删码数据;该纠删码数据以条带(Stripe)的形式存储于多个磁盘中。例如,对于参数为N和M的类型的纠删码数据,一个Stripe由N+M个条带块组成,N表示该Stripe中有N个数据块,M表示该Stripe中有M个校验块,每个数据块或者校验块可以称为一个条带块,磁盘分配组件为该N+M个条带块分配N+M个磁盘;磁盘读写组件将该N+M个条带块分别写入所分配的N+M个磁盘中。
元数据服务器根据对象存储服务器中Stripe的存储情况生成条带(Stripe)信息表,并将Stripe信息表存储于元数据服务器中。Stripe信息表包含但不限于以下信息中的一个或者多个:Stripe的标识(Stripe Identifier,Stripe ID)、条带块对应的硬盘的全球唯一名字(worldwide name,wwn)和纠删码的类型。参见表1,其示出了Stripe信息表的一个示例。
表1 Stripe信息表的示例
示例性地,参见图2,从客户端获取的数据经过EC计算组件处理得到四个数据块和一个校验块,分别为数据块1、数据块2、数据块3、数据块4和校验块1,从而得到一个Stripe,该Stripe包括条带块1、条带块2、条带块3、条带块4和条带块5,分别对应数据块1、数据块2、数据块3、数据块4和校验块1;磁盘分配组件为该Stripe分配磁盘1、磁盘2、磁盘3、磁盘4和磁盘5;磁盘读写组件将条带块1、条带块2、条带块3、条带块4和条带块5分别写入磁盘1、磁盘2、磁盘3、磁盘4和磁盘5中;并将该Stripe的Stripe信息表存储在元数据服务器中。
以下对为纠删码数据(包括数据块和校验块)分配磁盘的方法进行说明。
参见图3,其示出了本申请实施例提供的一种纠删码数据的磁盘分配方法的流程图,以下以该方法由对象存储服务器执行为例进行说明,该方法包括:
步骤301:获取待存储的目标数据;
当有数据需要存储时,客户端向OSD发送待存储的目标数据,则OSD由此获取到待存储的目标数据,并触发后续的磁盘分配流程。
步骤302:确定目标数据对应的第一纠删码,第一纠删码用于对目标数据进行编码,得到包括数据块和校验块的纠删码数据;
为了保证目标数据的安全性,在存储目标数据时,将目标数据分割成数据块,采用纠删码对数据块进行编码得到冗余的校验块,使得数据之间产生关联性,以达到容错的目的。在此基础上,通过对数据块及校验块进行存储,来实现对目标数据的存储。其中,由于对数据块进行编码时采用纠删码,纠删码不同,编码得到的校验块也不同,因而为了实现后续的磁盘分配,本申请实施例提供的方法需要先确定目标数据对应的第一纠删码,确定方式可根据实际情况进行限定,本申请实施例对此不加以限定。
步骤303:根据第一纠删码在存储空间中分配第一磁盘组,第一磁盘组为一个或者多个,用于存储纠删码数据。
针对该步骤,考虑到存储空间的容量均衡,本申请实施例提供的方法在根据第一纠删码在存储空间中分配第一磁盘组时,包括但不限于分为如下两种情况:
第一种情况:若存储空间中不存在已分配的磁盘组,则根据第一纠删码在存储空间中创建第一磁盘组;
第二种情况:若存储空间中存在已分配的第二磁盘组,第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据第一纠删码及第二纠删码在存储空间中分配第一磁盘组,其中,第二纠删码的类型不同于第一纠删码。
可选地,根据第一纠删码及第二纠删码在存储空间中分配第一磁盘组,包括如下四种处理方式中的任一种:
第一种方式:若第一纠删码对应的校验块的个数等于第二纠删码对应的校验块的个数,且第一纠删码对应的数据块的个数等于第二纠删码对应的数据块的个数,则将第二磁盘组作为第一磁盘组;
第二种方式:若第一纠删码对应的校验块的个数等于第二纠删码对应的校验块的个数,且第一纠删码对应的数据块的个数不等于第二纠删码对应的数据块的个数,则根据第一纠删码在存储空间中创建第一磁盘组;
针对该种方式,根据第一纠删码在存储空间中创建第一磁盘组,包括:
对于任一第一磁盘组,依次选择存储空间中的磁盘作为第一磁盘组中的一个磁盘,第一磁盘组中的磁盘的个数等于第一纠删码对应的数据块的个数和校验块的个数之和,多个第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
第三种方式:若第一纠删码对应的校验块的个数大于第二纠删码对应的校验块的个数,则在第二磁盘组中分配第一磁盘组;
在第二磁盘组中分配第一磁盘组,包括:
从第二磁盘组中选择目标磁盘组,目标磁盘组为一个或多个;
从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
进一步地,从第二磁盘组中选择目标磁盘组,包括:
跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
第四种方式:若第一纠删码对应的校验块的个数小于第二纠删码对应的校验块的个数,则备份第二纠删码对应的磁盘分配信息,重新分配第一磁盘组和第二磁盘组。
重新分配第一磁盘组和第二磁盘组,包括:
在存储空间中分配第一磁盘组;
若分配第一磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配第一磁盘组成功,则基于第一磁盘组和第二纠删码,在存储空间中分配第二磁盘组;
若分配第二磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配第二磁盘组成功,则删除备份的第二类型纠删码对应的磁盘分配信息。
本申请获取待存储的目标数据后,根据该目标数据对应的第一纠删码在存储空间中分配第一磁盘组,以通过第一磁盘组包括的磁盘来存储根据第一纠删码对目标数据进行编码得到的纠删码数据,由此可见,本申请实施例提供的技术方案可根据纠删码的不同,来动态调整分配的磁盘,提高了磁盘分配的灵活性。
此外,通过根据纠删码来分配磁盘组,可使得纠删码数据对应的数据块和校验块能够相对均匀地存储于该存储空间的磁盘中,提高了存储空间的利用率。
为了便于理解,在上述实施例基础上,参见图4,其示出了本申请实施例提供的一种磁盘分配方法的流程图,以下以该方法由对象存储服务器执行为例进行说明,该方法包括:
步骤401、在存储空间中分配第二纠删码对应的第二磁盘组。
其中,该存储空间包括X个磁盘;第二纠删码用于基于N2个数据块生成M2个校验块;第二磁盘组用于存储第二纠删码的N2个数据块和M2个校验块,该存储空间中包括至少一个第二磁盘组,每个第二磁盘组包括存储空间的X个磁盘中的N2+M2个磁盘,X、N2和M2为正整数,且X不小于N2+M2。
在一种可能的实现方式中,步骤401包括:
依次选择存储空间的X个磁盘中的N2+M2个磁盘作为一个第二磁盘组中的磁盘;
按照该依次选择的方式分配多个第二磁盘组,其中,多个第二磁盘组的起始磁盘之间间隔K1个磁盘,K1为非负整数,且K1小于X。
此外,在分配第二磁盘组的过程中,若起始磁盘与到存储空间中第X个磁盘(即最后一个磁盘)的磁盘的个数小于N2+M2,则可以轮转到该存储空间中的第一个磁盘继续分配第二磁盘组,例如,一个第二磁盘组的起始磁盘为存储空间中的第X-1个磁盘,则该第二磁盘组包括的磁盘为:第X-1个磁盘、第X个磁盘、第一个磁盘、……、第N2+M2-2个磁盘。
示例性地,一个前述的OSD中包括12个磁盘,即X的值为12,磁盘编号分别是D1~D12;第二纠删码的N2的值为2,M2的值为1,则按照上述实现方式分配得到的多个第二磁盘组所包括的磁盘如表2所示。其中,每个第二磁盘组包括N2+M2=3个磁盘,该3个磁盘是12个磁盘中顺次的3个磁盘,且序号为1~12的12个第二磁盘组的12个起始磁盘之间间隔1个磁盘,即K1的值为1。例如,序号为1的第二磁盘组的起始磁盘D1与序号为2的第二磁盘组的起始磁盘D2之间间隔1个磁盘。
表2第二磁盘组的分配示例
第二磁盘组编号 | 磁盘编号 |
1 | D1 D2 D3 |
2 | D2 D3 D4 |
3 | D3 D4 D5 |
4 | D4 D5 D6 |
5 | D5 D6 D7 |
6 | D6 D7 D8 |
7 | D7 D8 D9 |
8 | D8 D9 D10 |
9 | D9 D10 D11 |
10 | D10 D11 D12 |
11 | D11 D12 D1 |
12 | D12 D1 D2 |
步骤402、获取待存储的目标数据,确定目标数据对应的第一纠删码,根据第一纠删码在存储空间中分配第一磁盘组。
其中,第一磁盘组用于存储根据第一纠删码对目标数据编码后得到的纠删码数据中的数据块和校验块,例如,第一纠删码用于基于N1个数据块生成M1个校验块。该存储空间中包括至少一个该第一磁盘组,每个第一磁盘组包括存储空间的X个磁盘中的N1+M1个磁盘,N1和M1为正整数,且X不小于N1+M1。可选地,若X小于N1+M1,则分配第一磁盘组失败。
在一种可能的实现方式中,基于存储空间中已经分配的磁盘组分配第一磁盘组,若该存储空间中存在多个纠删码对应的磁盘组,则可以选择该多个纠删码中其参数M最小且(N+M)最小的纠删码,并基于该纠删码对应的磁盘组分配第一磁盘组。
以下以该存储空间中存在有第二纠删码对应的第二磁盘组,并基于第二磁盘组分配第一磁盘组为例进行说明,根据第一纠删码和第二纠删码的参数,可能包括如下情况。
情况一:若M1大于M2,且ceil(X/(N2+M2)*M2)≥(N1+M1),则根据M1、N1、M2和N2在存储空间中分配第一磁盘组。
以下针对情况一,对第一磁盘组的分配示例进行说明。
在第一示例中,分配一个第一磁盘组包括以下步骤:
步骤A、选择一个第二磁盘组中的一个磁盘作为基准磁盘baseDisk,该baseDisk在存储空间中的编号为Db,并将该baseDisk作为该第一磁盘组中的第一个磁盘。例如,可以选择编号为1的磁盘作为该第一磁盘组的baseDisk。若M2小于2,则步骤A结束;若M2不小于2,则在baseDisk所在的第二磁盘组中,依次选择baseDisk之后的、编号为Db+1至Db+M2-1的M2-1个磁盘作为该第一磁盘组中的第2个至第M2个磁盘,步骤A结束。重复执行步骤B,直至该第一磁盘组中的磁盘个数为M1+N1。
步骤B、选择磁盘编号为Db+N2+M2的磁盘作为该第一磁盘组中的第M2+1个磁盘。若M2小于2,则步骤B结束;若M2不小于2,则依次选择编号为Db+N2+M2+1至Db+N2+2*M2-1的磁盘作为该第一磁盘组中的磁盘,步骤B结束。其中,若编号为Db+N2+M2+1至Db+N2+2*M2-1中的任一值大于X,则将该大于X的值减去X,并以此更新后的编号值选择磁盘。例如,X=12,Db+N2+M2+1=15,则将编号为Db+N2+M2+1-12=3的磁盘作为该第一磁盘组中的磁盘。在执行步骤B的过程中,若该第一磁盘组中的磁盘个数达到M1+N1,则步骤B结束。
在第一示例中,通过步骤A和B分配得到一个第一磁盘组,还可以通过步骤A和B得到其他第一磁盘组,在分配得到其他第一磁盘组的过程中,所选择的baseDisk与已经分配的一个或者多个第一磁盘组的baseDisk不同。例如,可以选择编号为2的磁盘作为该其他第一磁盘组的baseDisk,并依次执行步骤A和B分配得到该其他第一磁盘组。
此外,在通过步骤A和B分配得到其他第一磁盘组后,若该其他第一磁盘组与已经分配的一个或者多个第一磁盘组相同,则基于第二磁盘组分配第一磁盘组结束。例如,某次通过步骤A和B分配得到的第一磁盘组包括编号为4、7、10和1的四个磁盘,该第一磁盘组与已经分配的一个第一磁盘组(包括编号为1、4、7和10的磁盘)相同,则分配第一磁盘组结束。
在第二示例中,首先选择第二纠删码对应的第二磁盘组中的P个第二磁盘组,并从所选择的第二磁盘组中分别选择M2个磁盘,作为一个第一磁盘组中的磁盘,直至该第一磁盘组包括N1+M1个磁盘,其中P=(N1+M1)/M2,按照该分配方式为多个第一磁盘组分配磁盘。在该示例中,分配一个第一磁盘组包括以下步骤:
步骤一、在为一个第一磁盘组分配磁盘的过程中,首先从第二纠删码对应的第二磁盘组中选择一个第二磁盘组,再顺次选择下一个第二磁盘组,若下一个第二磁盘组是重叠的第二磁盘组,则跳过该重叠的第二磁盘组,从重叠的第二磁盘组之后继续选择第二磁盘组,直至得到P个第二磁盘组。其中,重叠的第二磁盘组为包括在先选择的第二磁盘组中所包括的任一磁盘的第二磁盘组。
例如,在分配第一磁盘组的过程中,已经选择了表2中编号为1的第二磁盘组,则跳过包括磁盘编号为D1、D2或者D3的磁盘的第二磁盘组,即跳过编号为2和3的第二磁盘组,从编号为4的第二磁盘组继续为分配该第一磁盘组。
步骤二、从步骤一已选择的多个第二磁盘组中分别选择M2个磁盘,作为一个第一磁盘组中的磁盘,直至该第一磁盘组包括N1+M1个磁盘。例如,从已选择的第二磁盘组中依次选择M2个磁盘,选择过程中的起始磁盘为第H1个磁盘,H1为非负整数。对于从已选择的多个第二磁盘组中选择磁盘,起始磁盘的编号H1的值可以相同,也可以不同。
根据步骤一和步骤二,可以为一个第一磁盘组分配磁盘,在为另一个第一磁盘组分配磁盘的过程中,则可以从步骤一中已选择的多个第二磁盘组中分别选择另外M2个磁盘,作为该另一个第一磁盘组中的磁盘,直至该第一磁盘组包括N1+M1个磁盘,该另外M2个磁盘与步骤二中所选择的M2个磁盘不重叠。例如,从已选择的第二磁盘组中依次选择M2个磁盘,选择过程中的起始磁盘为第H2个磁盘,H2为非负整数,H2的值与H1的值不同,且H2与H1之差为M2,以保证该另外M2个磁盘与步骤二中所选择的M2个磁盘不重叠。
示例性地,若N1=2,M1=2,基于表1所示的第二磁盘组分配第一磁盘组得到的结果如表3所示。其中每个第一磁盘组包括N1+M1=4个磁盘,该4个磁盘是从表2中的多个第二磁盘组中选择4个第二磁盘组,并分别从该4个第二磁盘组中选择M2=1个磁盘,从而得到组成一个第一磁盘组的4个磁盘。例如,在为编号为1的第一磁盘组选择第二磁盘组的过程中,首选选择编号为1的第二磁盘组,从中选择编号为D1的磁盘作为编号为1的第一磁盘组的第一个磁盘;由于编号为1的第二磁盘组还包括编号为D2和D3的磁盘,则跳过包括编号为D1、D2或者D3的磁盘的编号为2和3的第二磁盘组,选择编号为4的第二磁盘组,并从中选择编号为D4的磁盘作为编号为1的第一磁盘组的第二个磁盘;依次类推,分配多个第一磁盘组。可见,第一磁盘组和第二磁盘组的磁盘较为均匀地分布于存储空间中,使得第二纠删码的数据和第一纠删码的数据能够较为均匀地分布于存储空间中,提高存储空间的利用率
表3第二磁盘组的分配示例
第二磁盘组编号 | 磁盘编号 |
1 | D1 D4 D7 D10 |
2 | D2 D5 D8 D11 |
3 | D3 D6 D9 D12 |
进一步地,根据步骤一选择的多个第二磁盘组,并重复步骤二从已选择的多个第二磁盘组中选择磁盘并分配第一磁盘组,若已选择的多个第二磁盘组中的磁盘都被选择作为多个第一磁盘组中的磁盘,则在存储空间中向后寻找没有分配为第一磁盘组的第二磁盘组,以该第二磁盘组开始,重复步骤一和步骤二,再分配其他第一磁盘组。
例如,存储空间中包括48个磁盘,其中包括48个第二磁盘组,则基于前12个第二磁盘组得到3个第一磁盘组,如表3所示,前12个第二磁盘组中的磁盘都被分配为第一磁盘组,则可以从第13个第二磁盘组开始,继续分配第4个第一磁盘组。
若所有的第一磁盘组中的磁盘都分配为第二磁盘组的磁盘,则分配第二磁盘组结束。
情况二:若M1等于M2,且N1等于N2,则多个第一磁盘组包括的磁盘与第二磁盘组所包括的磁盘相同,即,为第一磁盘组分配与第二磁盘组相同的磁盘。
情况三:若M1等于M2,且N1不等于N2,则按照步骤401中所述的方法为分配第一磁盘组。
情况四:若M1小于M2,则备份第二纠删码对应的磁盘分配信息,并重新分配第一磁盘组和第二磁盘组。
示例性地,按照步骤401中所述的方法首先分配第一磁盘组,若分配第一磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息在存储空间的X个磁盘中还原第二磁盘组;若分配第一磁盘组成功,则再按照步骤402中情况一所示的方法基于第一磁盘组分配第二磁盘组,若分配第二磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息在存储空间的X个磁盘中还原第二磁盘组;若分配第二磁盘组成功,则删除备份的第二纠删码对应的磁盘分配信息。
可选地,分配第一磁盘组失败可能由于X小于N1+M1;分配第二磁盘组失败可能由于X小于N2+M2。
此外,元数据服务器还可以根据对象存储服务器在步骤401和402中所分配的第一磁盘组和第二磁盘组分别生成Stripe信息表。并将生成的Stripe信息表存储于元数据服务器中。
本申请获取待存储的目标数据后,根据该目标数据对应的第一纠删码在存储空间中分配第一磁盘组,以通过第一磁盘组包括的磁盘来存储根据第一纠删码对目标数据进行编码得到的纠删码数据,由此可见,本申请实施例提供的技术方案可根据纠删码的不同,来动态调整分配的磁盘,提高了磁盘分配的灵活性。
此外,通过根据纠删码来分配磁盘组,可使得纠删码数据对应的数据块和校验块能够相对均匀地存储于该存储空间的磁盘中,提高了存储空间的利用率。
下述为本申请装置实施例,对于装置实施例中未详尽描述的细节,可以参考上述方法实施例。
请参考图5,其示出了本申请一个实施例提供的纠删码数据的磁盘分配装置500的结构方框图。该装置包括:获取模块510、确定模块520和分配模块530。
该获取模块510,用于获取待存储的目标数据。
该确定模块520,用于确定目标数据对应的第一纠删码,第一纠删码用于对目标数据进行编码,得到包括数据块和校验块的纠删码数据。
该分配模块530,用于根据第一纠删码在存储空间中分配第一磁盘组,第一磁盘组为一个或者多个,用于存储纠删码数据。
可选地,该分配模块530用于:
若存储空间中不存在已分配的磁盘组,则根据第一纠删码在存储空间中创建第一磁盘组;
若存储空间中存在已分配的第二磁盘组,第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据第一纠删码及第二纠删码在存储空间中分配第一磁盘组,其中,第二纠删码的类型不同于第一纠删码。
可选地,该分配模块530用于:
若第一纠删码对应的校验块的个数等于第二纠删码对应的校验块的个数,且第一纠删码对应的数据块的个数等于第二纠删码对应的数据块的个数,则将第二磁盘组作为第一磁盘组;
若第一纠删码对应的校验块的个数等于第二纠删码对应的校验块的个数,且第一纠删码对应的数据块的个数不等于第二纠删码对应的数据块的个数,则根据第一纠删码在存储空间中创建第一磁盘组;
若第一纠删码对应的校验块的个数大于第二纠删码对应的校验块的个数,则在第二磁盘组中分配第一磁盘组;
若第一纠删码对应的校验块的个数小于第二纠删码对应的校验块的个数,则备份第二纠删码对应的磁盘分配信息,重新分配第一磁盘组和第二磁盘组。
可选地,该分配模块530用于:
对于任一第一磁盘组,依次选择存储空间中的磁盘作为第一磁盘组中的一个磁盘,第一磁盘组中的磁盘的个数等于第一纠删码对应的数据块的个数和校验块的个数之和,多个第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
可选地,该分配模块530用于:
从第二磁盘组中选择目标磁盘组,目标磁盘组为一个或多个;从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
可选地,该分配模块530,用于:
跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,该重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
可选地,该分配模块530用于:
在存储空间中分配第一磁盘组;
若分配第一磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配第一磁盘组成功,则基于第一磁盘组和第二纠删码,在存储空间中分配第二磁盘组;
若分配第二磁盘组失败,则根据备份的第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配第二磁盘组成功,则删除备份的第二类型纠删码对应的磁盘分配信息。
获取待存储的目标数据后,根据该目标数据对应的第一纠删码在存储空间中分配第一磁盘组,以通过第一磁盘组包括的磁盘来存储根据第一纠删码对目标数据进行编码得到的纠删码数据,由此可见,本申请实施例提供的技术方案可根据纠删码的不同,来动态调整分配的磁盘,提高了磁盘分配的灵活性。
此外,通过根据纠删码来分配磁盘组,可使得纠删码数据对应的数据块和校验块能够相对均匀地存储于该存储空间的磁盘中,提高了存储空间的利用率。
参见图6,其示出了本申请实施例提供的一种磁盘分配装置的结构示意图。该装置可能是服务器或者终端,具体来讲:
计算系统600包括中央处理单元(CPU)601、包括随机存取存储器(RAM)602和只读存储器(ROM)603的系统存储器604,以及连接系统存储器604和中央处理单元601的系统总线605。计算系统600还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)606,和用于存储操作系统613、应用程序614和其他程序模块615的大容量存储设备607。
基本输入/输出系统606包括有用于显示信息的显示器608和用于用户输入信息的诸如鼠标、键盘之类的输入设备609。其中显示器608和输入设备609都通过连接到系统总线605的输入输出控制器610连接到中央处理单元601。基本输入/输出系统606还可以包括输入输出控制器610以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器610还提供输出到显示屏、打印机或其他类型的输出设备。
大容量存储设备607通过连接到系统总线605的大容量存储控制器(未示出)连接到中央处理单元601。大容量存储设备607及其相关联的计算机可读介质为计算系统600提供非易失性存储。也就是说,大容量存储设备607可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
不失一般性,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM、EEPROM、闪存或其他固态存储其技术,CD-ROM、DVD或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知计算机存储介质不局限于上述几种。上述的系统存储器604和大容量存储设备607可以统称为存储器。
根据本申请的各种实施例,计算系统600还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即计算系统600可以通过连接在系统总线605上的网络接口单元611连接到网络612,或者说,也可以使用网络接口单元611来连接到其他类型的网络或远程计算机系统(未示出)。
上述存储器还包括一个或者一个以上的程序,一个或者一个以上程序存储于存储器中,被配置由CPU执行。所述一个或者一个以上程序包含用于进行图3和图4其中任一所提供的纠删码数据的磁盘分配方法的指令。
本申请实施例还提供了一种非临时性计算机可读存储介质,当所述存储介质中的指令由计算系统的处理器执行时,使得计算系统能够执行图3和图4其中任一提供的纠删码数据的磁盘分配方法。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行进行图3和图4其中任一提供的纠删码数据的磁盘分配方法的指令。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系。字符“/”一般表示前后关联对象是一种“或”的关系。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (16)
1.一种磁盘分配方法,其特征在于,所述方法包括:
获取待存储的目标数据;
确定所述目标数据对应的第一纠删码,所述第一纠删码用于对所述目标数据进行编码,得到包括数据块和校验块的纠删码数据;
根据所述第一纠删码在存储空间中分配第一磁盘组,所述第一磁盘组为一个或者多个,用于存储所述纠删码数据。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一纠删码在存储空间中分配第一磁盘组,包括:
若所述存储空间中不存在已分配的磁盘组,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述存储空间中存在已分配的第二磁盘组,所述第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,其中,所述第二纠删码的类型不同于所述第一纠删码。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,包括:
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数等于所述第二纠删码对应的数据块的个数,则将所述第二磁盘组作为所述第一磁盘组;
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数不等于所述第二纠删码对应的数据块的个数,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述第一纠删码对应的校验块的个数大于所述第二纠删码对应的校验块的个数,则基于所述第二磁盘组分配所述第一磁盘组;
若所述第一纠删码对应的校验块的个数小于所述第二纠删码对应的校验块的个数,则备份所述第二纠删码对应的磁盘分配信息,重新分配所述第一磁盘组和所述第二磁盘组。
4.根据权利要求2或3所述的方法,其特征在于,所述根据所述第一纠删码在所述存储空间中创建所述第一磁盘组,包括:
对于任一第一磁盘组,依次选择存储空间中的磁盘作为所述第一磁盘组中的一个磁盘,所述第一磁盘组中的磁盘的个数等于所述第一纠删码对应的数据块的个数和校验块的个数之和,多个所述第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
5.根据权利要求3所述的方法,其特征在于,所述基于所述第二磁盘组分配所述第一磁盘组,包括:
从所述第二磁盘组中选择目标磁盘组,所述目标磁盘组为一个或多个;
从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
6.根据权利要求5所述的方法,其特征在于,所述从所述第二磁盘组中选择目标磁盘组,包括:
跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,所述重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
7.根据权利要求3所述的方法,其特征在于,所述重新分配所述第一磁盘组和所述第二磁盘组,包括:
在所述存储空间中分配所述第一磁盘组;
若分配所述第一磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第一磁盘组成功,则基于所述第一磁盘组和所述第二纠删码,在所述存储空间中分配所述第二磁盘组;
若分配所述第二磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第二磁盘组成功,则删除备份的所述第二类型纠删码对应的磁盘分配信息。
8.一种磁盘分配装置,其特征在于,所述装置包括:
获取模块,用于获取待存储的目标数据;
确定模块,用于确定所述目标数据对应的第一纠删码,所述第一纠删码用于对所述目标数据进行编码,得到包括数据块和校验块的纠删码数据;
分配模块,用于根据所述第一纠删码在存储空间中分配第一磁盘组,所述第一磁盘组为一个或者多个,用于存储所述纠删码数据。
9.根据权利要求8所述的装置,其特征在于,所述分配模块,用于:
若所述存储空间中不存在已分配的磁盘组,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述存储空间中存在已分配的第二磁盘组,所述第二磁盘组用于存储根据第二纠删码编码得到的纠删码数据,则根据所述第一纠删码及所述第二纠删码在所述存储空间中分配所述第一磁盘组,其中,所述第二纠删码的类型不同于所述第一纠删码。
10.根据权利要求9所述的装置,其特征在于,所述分配模块,用于:
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数等于所述第二纠删码对应的数据块的个数,则将所述第二磁盘组作为所述第一磁盘组;
若所述第一纠删码对应的校验块的个数等于所述第二纠删码对应的校验块的个数,且所述第一纠删码对应的数据块的个数不等于所述第二纠删码对应的数据块的个数,则根据所述第一纠删码在所述存储空间中创建所述第一磁盘组;
若所述第一纠删码对应的校验块的个数大于所述第二纠删码对应的校验块的个数,则在所述第二磁盘组中分配所述第一磁盘组;
若所述第一纠删码对应的校验块的个数小于所述第二纠删码对应的校验块的个数,则备份所述第二纠删码对应的磁盘分配信息,重新分配所述第一磁盘组和所述第二磁盘组。
11.根据权利要求9或10所述的装置,其特征在于,所述分配模块,用于对于任一第一磁盘组,依次选择存储空间中的磁盘作为所述第一磁盘组中的一个磁盘,所述第一磁盘组中的磁盘的个数等于所述第一纠删码对应的数据块的个数和校验块的个数之和,多个所述第一磁盘组的起始磁盘之间至少间隔有一个磁盘。
12.根据权利要求10所述的装置,其特征在于,所述分配模块,用于从所述第二磁盘组中选择目标磁盘组,所述目标磁盘组为一个或多个;从所选择的目标磁盘组中分别选择至少一个磁盘,作为一个第一磁盘组中的磁盘。
13.根据权利要求12所述的装置,其特征在于,所述分配模块,用于跳过重叠的第二磁盘组,从剩余的第二磁盘组中依次选择目标磁盘组,所述重叠的第二磁盘组是包括在先选择的目标磁盘组中所包括的磁盘的第二磁盘组。
14.根据权利要求10所述的装置,其特征在于,所述分配模块,用于:
在所述存储空间中分配所述第一磁盘组;
若分配所述第一磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第一磁盘组成功,则基于所述第一磁盘组和所述第二纠删码,在所述存储空间中分配所述第二磁盘组;
若分配所述第二磁盘组失败,则根据备份的所述第二纠删码对应的磁盘分配信息分配第二磁盘组;
若分配所述第二磁盘组成功,则删除备份的所述第二类型纠删码对应的磁盘分配信息。
15.一种磁盘分配装置,其特征在于,所述装置包括处理器和存储器,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现如权利要求1至7任一项所述的磁盘分配方法。
16.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如权利要求1至7任一项所述的磁盘分配方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811332967.4A CN111176880B (zh) | 2018-11-09 | 2018-11-09 | 磁盘分配方法、装置和可读存储介质 |
PCT/CN2019/116783 WO2020094134A1 (zh) | 2018-11-09 | 2019-11-08 | 磁盘分配方法、装置和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811332967.4A CN111176880B (zh) | 2018-11-09 | 2018-11-09 | 磁盘分配方法、装置和可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111176880A true CN111176880A (zh) | 2020-05-19 |
CN111176880B CN111176880B (zh) | 2021-08-13 |
Family
ID=70611685
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811332967.4A Active CN111176880B (zh) | 2018-11-09 | 2018-11-09 | 磁盘分配方法、装置和可读存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111176880B (zh) |
WO (1) | WO2020094134A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022007225A1 (zh) * | 2020-07-10 | 2022-01-13 | 华为技术有限公司 | 数据存储方法、存储系统、存储设备及存储介质 |
CN116010160A (zh) * | 2023-03-09 | 2023-04-25 | 安超云软件有限公司 | 分布式文件系统的纠删码数据分布的方法及应用 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104503706A (zh) * | 2014-12-23 | 2015-04-08 | 中国科学院计算技术研究所 | 一种基于磁盘阵列的数据存储及读取方法 |
CN104598162A (zh) * | 2013-10-31 | 2015-05-06 | 国际商业机器公司 | 用于跨存储设备写入数据的方法和系统 |
WO2016058289A1 (zh) * | 2015-01-20 | 2016-04-21 | 北京大学深圳研究生院 | 一种能修复多个节点失效的mds纠删码 |
CN106708651A (zh) * | 2016-11-16 | 2017-05-24 | 北京三快在线科技有限公司 | 基于纠删码的部分写入方法及装置、存储介质、设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103577274B (zh) * | 2012-07-31 | 2016-07-06 | 国际商业机器公司 | 管理存储器阵列的方法和装置 |
CN107943421B (zh) * | 2017-11-30 | 2021-04-20 | 成都华为技术有限公司 | 一种基于分布式存储系统的分区划分方法及装置 |
CN108334419B (zh) * | 2017-12-25 | 2021-12-28 | 华为技术有限公司 | 一种数据恢复的方法和装置 |
-
2018
- 2018-11-09 CN CN201811332967.4A patent/CN111176880B/zh active Active
-
2019
- 2019-11-08 WO PCT/CN2019/116783 patent/WO2020094134A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104598162A (zh) * | 2013-10-31 | 2015-05-06 | 国际商业机器公司 | 用于跨存储设备写入数据的方法和系统 |
CN104503706A (zh) * | 2014-12-23 | 2015-04-08 | 中国科学院计算技术研究所 | 一种基于磁盘阵列的数据存储及读取方法 |
WO2016058289A1 (zh) * | 2015-01-20 | 2016-04-21 | 北京大学深圳研究生院 | 一种能修复多个节点失效的mds纠删码 |
CN106708651A (zh) * | 2016-11-16 | 2017-05-24 | 北京三快在线科技有限公司 | 基于纠删码的部分写入方法及装置、存储介质、设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022007225A1 (zh) * | 2020-07-10 | 2022-01-13 | 华为技术有限公司 | 数据存储方法、存储系统、存储设备及存储介质 |
CN116010160A (zh) * | 2023-03-09 | 2023-04-25 | 安超云软件有限公司 | 分布式文件系统的纠删码数据分布的方法及应用 |
Also Published As
Publication number | Publication date |
---|---|
CN111176880B (zh) | 2021-08-13 |
WO2020094134A1 (zh) | 2020-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10152377B2 (en) | Layering a distributed storage system into storage groups and virtual chunk spaces for efficient data recovery | |
JP6346565B2 (ja) | ディスク記憶に消去符号化データを割り当てるための方法および装置 | |
CN107943421B (zh) | 一种基于分布式存储系统的分区划分方法及装置 | |
EP3208714B1 (en) | Data reconstruction method, apparatus and system in distributed storage system | |
US11048416B2 (en) | Method, apparatus and computer program product for managing storage system | |
US10353787B2 (en) | Data stripping, allocation and reconstruction | |
CN109002259B (zh) | 一种归置组所属硬盘分配方法、系统、装置及存储介质 | |
CN104765693A (zh) | 一种用于存储数据的方法、装置和系统 | |
US20160342360A1 (en) | Raid random distribution scheme | |
US10664392B2 (en) | Method and device for managing storage system | |
CN111176880B (zh) | 磁盘分配方法、装置和可读存储介质 | |
CN114153651B (zh) | 一种数据编码方法、装置、设备及介质 | |
CN112000627A (zh) | 一种数据存储方法、系统、电子设备及存储介质 | |
CN114116297B (zh) | 一种数据编码方法、装置、设备及介质 | |
CN112732168B (zh) | 用于管理存储系统的方法、设备和计算机程序产品 | |
CN111459399A (zh) | 一种数据写入方法、数据读取方法及装置 | |
US8615698B1 (en) | Skewed orthogonal coding techniques | |
CN108614749B (zh) | 一种数据处理方法及装置 | |
WO2019076912A1 (en) | SYSTEMATIC AND XOR-BASED CODING TECHNIQUE FOR DISTRIBUTED STORAGE SYSTEMS | |
CN111399755A (zh) | 数据存储管理的方法和装置 | |
CN111857535A (zh) | 用于存储管理的方法、电子设备和计算机可读存储介质 | |
CN108932176B (zh) | 数据降级存储方法及装置 | |
CN103309742B (zh) | 云存储系统数据高效编码方法 | |
CN111984443A (zh) | 一种分布式系统环境下的编码方法、解码方法和对应装置 | |
CN104025056B (zh) | 一种数据恢复的方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |