CN111399761A - 存储资源分配方法、装置及设备、存储介质 - Google Patents
存储资源分配方法、装置及设备、存储介质 Download PDFInfo
- Publication number
- CN111399761A CN111399761A CN201911135853.5A CN201911135853A CN111399761A CN 111399761 A CN111399761 A CN 111399761A CN 201911135853 A CN201911135853 A CN 201911135853A CN 111399761 A CN111399761 A CN 111399761A
- Authority
- CN
- China
- Prior art keywords
- storage
- storage node
- target storage
- node
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0673—Single storage device
- G06F3/0674—Disk device
- G06F3/0676—Magnetic disk device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种存储资源分配方法、装置及设备、存储介质,该方法应用于数据存储系统中的管理节点;该方法包括:接收第一存储节点发送的用于存储数据的存储资源请求;依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。避免频繁跨交换机写数据。
Description
技术领域
本发明涉及存储技术领域,尤其涉及的是一种存储资源分配方法、装置及设备、存储介质。
背景技术
云存储系统是一种分布式数据存储系统,将数据分布式存储于多个位于不同物理位置的存储节点中,各存储节点之间通过网络互相连接,组成一个完整的、整体逻辑上集中而物理上分散的存储系统,可以为海量数据提供存储空间。当数据写入云存储系统时,需要从中选择足够的存储节点来提供存储数据所需的存储资源。
目前,在进行存储资源分配时,由数据存储系统中的管理节点对存储节点进行统一管理,随机从所有存储节点中选择可用的存储资源,并没有考虑实际应用环境中的网络连接情况。
在实际应用环境中,数据存储系统中的存储节点之间通过交换机连接,其中会存在以下情况:两个存储节点通过多个交换机连接。在此情况下,按照上述方式随机从所有存储节点中选择可用的存储资源,会造成频繁跨交换机写数据,导致写延时较大、数据频繁重传等问题。
比如,参看图1,存储节点201’与存储节点202’连接交换机102’,存储节点203’连接交换机103’,如果数据从存储节点201’写入,管理节点随机选择出存储节点203’提供存储资源(当然实际还会有更多),那么数据需要从存储节点201’依次经历交换机102’、核心交换机101’、交换机103’后到达存储节点203’,中间需要经历三个交换机,写延时较大。
发明内容
有鉴于此,本发明提供一种存储资源分配方法、装置及设备、存储介质,避免频繁跨交换机写数据。
本发明第一方面提供一种存储资源分配方法,该方法应用于数据存储系统中的管理节点;该方法包括:
接收第一存储节点发送的用于存储数据的存储资源请求;
依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
根据本发明的一个实施例,依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,包括:
获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
根据本发明的一个实施例,依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源,包括:
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
根据本发明的一个实施例,在从所述目标存储节点组中选择第一目标存储资源之后,该方法进一步包括:
检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
根据本发明的一个实施例,依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,包括:
依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
根据本发明的一个实施例,该方法进一步包括:
检查第一目标存储资源和第二目标存储资源之和是否满足所述存储资源大小,如果否,获取所述目标存储节点域中第一目标存储资源所处存储节点的域分配因子,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点;
依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,以用于存储所述数据。
根据本发明的一个实施例,该方法进一步包括:
检查第一目标存储资源、第二目标存储资源和第三目标存储资源之和是否满足所述存储资源大小,如果否,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点;
依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,以用于存储所述数据。
本发明第二方面提供一种存储资源分配装置,该装置应用于数据存储系统中的管理节点;该装置包括:
存储资源请求接收模块,用于接收第一存储节点发送的用于存储数据的存储资源请求;
目标存储节点组确定模块,用于依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
第一目标存储资源确定模块,用于依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
根据本发明的一个实施例,所述第一目标存储资源确定模块依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源时,具体用于:
获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
根据本发明的一个实施例,所述第一目标存储资源确定模块依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源时,具体用于:
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
根据本发明的一个实施例,在所述第一目标存储资源确定模块之后,该装置进一步包括:
第一检测模块,用于检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
目标存储节点域确定模块,用于从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
域分配因子获取模块,用于获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
第二目标存储资源确定模块,用于依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
根据本发明的一个实施例,所述第二目标存储资源确定模块依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源时,具体用于:
依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
根据本发明的一个实施例,该装置进一步包括:
第二检查模块,用于检查第一目标存储资源和第二目标存储资源之和是否满足所述存储资源大小,如果否,获取所述目标存储节点域中第一目标存储资源所处存储节点的域分配因子,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点;
第三目标存储资源确定模块,用于依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,以用于存储所述数据。
根据本发明的一个实施例,该装置进一步包括:
第三检查模块,用于检查第一目标存储资源、第二目标存储资源和第三目标存储资源之和是否满足所述存储资源大小,如果否,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点;
第四目标存储资源确定模块,用于依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,以用于存储所述数据。
本发明第三方面提供一种电子设备,包括处理器及存储器;所述存储器存储有可被处理器调用的程序;其中,所述处理器执行所述程序时,实现如前述实施例所述的存储资源分配方法。
本发明第四方面提供一种机器可读存储介质,其上存储有程序,该程序被处理器执行时,实现如前述实施例所述的存储资源分配方法。
本发明实施例具有以下有益效果:
本发明实施例中,对数据存储系统中所有存储节点进行了分组,将连接同一交换机的存储节点划分在同一存储节点组中,连接不同交换机的存储节点划分在不同存储节点组中,在管理节点收到第一存储节点发送的存储资源请求时,可从第一存储节点所在的目标存储节点组中选择第一目标存储资源,以用于存储数据,如此,第一存储节点只需要经过共同连接的一个交换机即可完成数据的传输与存储,避免了频繁跨交换机写数据的问题,减小数据传输延时,可避免数据频繁重传,提高数据读写效率。
附图说明
图1是一种应用场景的示意图;
图2是本发明一实施例的存储资源分配方法的流程示意图;
图3是本发明一实施例的对象数据条带化处理的示意图;
图4是本发明一实施例的存储节点分组的示意图;
图5是本发明一实施例的存储资源分配装置的结构框图;
图6是本发明一实施例的电子设备的结构框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
在本发明使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本发明可能采用术语第一、第二、第三等来描述各种器件,但这些信息不应限于这些术语。这些术语仅用来将同一类型的器件彼此区分开。例如,在不脱离本发明范围的情况下,第一器件也可以被称为第二器件,类似地,第二器件也可以被称为第一器件。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
为了使得本发明实施例的描述更清楚简洁,下面对本发明实施例中的一些技术术语进行解释:
对象存储(Object-based Storage):一种以对象的形式管理数据的存储技术。对象包括对象ID、对象数据、对象元数据;其中,对象ID是对象的全局唯一标识符;对象数据是指存储的具体业务数据,如视频、图片等;对象元数据是指用于描述对象数据的数据,如数据的时间、大小、索引、拥有者等描述性信息。
OSD(Object Storage Device):对象存储设备,用于存储对象数据的设备。
MDS(Metadata Server):元数据管理服务。元数据管理服务用于在数据库中存储对象元数据,并负责对对象元数据进行管理。
EC(Erasure Code):纠删码,一种将数据分割成片段并进行冗余编码的数据保护方法。
SS(Stripe Service):切片服务,用于将数据流切片为一定大小的数据块(unit),并生成每个数据块的索引信息。
unit:一个基本数据单元,1M大小的数据块。
stripe:一个数据条带,一个stripe由若干个unit组成。
下面对本发明实施例的存储资源分配方法进行更具体的描述,但不应以此为限。
参看图2,一种存储资源分配方法,该方法应用于数据存储系统中的管理节点;该方法包括以下步骤:
S100:接收第一存储节点发送的用于存储数据的存储资源请求;
S200:依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
S300:依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
数据存储系统中包含存储节点和管理节点。存储节点指具备数据存储能力的服务器主机。存储节点中具有磁盘,可以用于存储对象数据,并通过网络提供数据的读写功能。管理节点指用于管理存储节点的服务器主机。元数据管理服务由管理节点提供。
当客户端需要发起对象数据写入时,会先向管理节点发送写入请求。管理节点依据写入请求并利用AMS(应用管理服务)分配一个存储节点,用于对对象数据进行条带化处理。客户端将对象数据发送给管理节点分配出的该存储节点(下面将该存储节点称为第一存储节点)。
第一存储节点可以利用本地的切片服务SS对客户端写入的对象数据进行条带化处理。对象数据的条带化处理结果如图3所示,将数据分割为多个条带(stripe);每一个条带中包含了多个unit,可以包含校验单元(parity unit)、及数据单元(data unit)。针对每一个条带,第一存储节点会发送存储资源请求给管理节点,请求分配用于存储该条带的所有unit所需的存储资源,以将该条带的所有unit存储到数据存储系统的相应存储节点中。
为了保证数据的安全性,同一个条带中的不同unit最好存储在不同存储节点中。原因是,如果同一个条带中的多个unit集中存储在一个存储节点上,如果该存储节点故障,多个unit丢失的情况下,很难通过剩下的unit恢复该条带;而如果同一个条带中的多个unit分散存储,即使有一个unit丢失,仍可依据剩下的unit恢复该条带。
目前在分配磁盘时,管理节点会从所有存储节点中随机选择存储节点来提供存储资源,在分配的存储资源处于连接于不同交换机的存储节点中的情况下,会造成频繁跨交换机写数据,导致写延时较大、数据频繁重传等问题,网络不稳定时还会造成数据写入失败。本发明实施例可以解决上述技术问题。
步骤S100中,接收第一存储节点发送的用于存储数据的存储资源请求。
第一存储节点对对象数据进行条带化处理后会得到多个条带,针对每个条带都会发送相应的存储资源请求,用于请求存储该条带的所有unit即数据所需的存储资源。
存储资源请求中可以携带确定存储资源所需的信息,比如可以包括第一存储节点的信息、存储资源大小等。当然,存储资源请求中还可以携带其他信息,具体不做限制。
由于不同unit通常存放在不同的磁盘中,所以存储资源大小具体可以用一个条带的所有unit个数或者存储该所有unit所需的磁盘个数来体现。比如,一个条带有6个unit需要存储,则相应的存储资源请求中携带的存储资源大小即为该条带中unit(包含parityunit与data unit)的个数,所需存储的数据即为该条带的所有unit。
步骤S200中,依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机。
本发明实施例中,数据存储系统中的存储节点预先被划分为多个存储节点组,每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机。
比如,第一存储节点组和第二存储节点组是所有存储节点组中任意两个不同的存储节点组,第一存储节点组中的所有存储节点连接于第一交换机,第二存储节点组中的所有存储节点连接于第二交换机,第一交换机与第二交换机为不同的交换机。
具体的,参看图4,存储节点用OSD表示,OSD11、OSD12和OSD13连接于交换机202,OSD21、OSD22和OSD23连接于交换机203,OSD31、OSD32和OSD33连接于交换机204,OSD41、OSD42和OSD43连接于交换机205,交换机202、交换机203、交换机204和交换机205又通过交换机201连接。本发明实施例中,经划分,OSD11、OSD12和OSD13作为一个存储节点组G1,OSD21、OSD22和OSD23作为一个存储节点组G2,OSD31、OSD32和OSD33作为一个存储节点组G3,OSD41、OSD42和OSD43作为一个存储节点组G4。
当然,图4仅是为了便于理解而举得例子,实际应用场景中,交换机可以更多,OSD也可以更多,连接于同一交换机的OSD的数量不限于图4中示出的3个,可以更多或者更少,具体数量不限。
依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组时,可以依据存储资源请求中携带的第一存储节点的信息在已划分的所有存储节点组中查找到该信息匹配的目标存储节点组。
具体的,所述第一存储节点的信息可以包括:第一存储节点的节点标识ID,该节点ID可以唯一标识该第一存储节点;所述目标存储节点组为:包含所述节点ID的第一节点ID集合所对应的存储节点组。管理节点中可以记录所有存储节点组对应的第一节点ID集合,每一存储节点组对应的第一节点ID集合中包含该存储节点组中所有存储节点的节点ID。
或者,所述第一存储节点的信息包括:第一存储节点所处存储节点组的组标识,该组标识可以唯一标识该目标存储节点组;所述目标存储节点组为:所述组标识对应的存储节点组。管理节点中可以记录所有存储节点组的组标识。
当然,目标存储节点组的确定方式也不限于上述两种方式,只要能确定第一存储节点所在的存储节点组即可。
继续参看图4,假设第一存储节点为OSD21,存储资源请求中携带的第一存储节点的信息可以为OSD21的节点标识或者OSD21所在存储节点组G2的标识,相应的,那么根据第一存储节点的信息可以确定存储节点组G2为目标存储节点组。
步骤S300中,依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源。
存储资源大小可以用一个条带的所有unit个数或者存储所有unit所需的磁盘个数来表示,比如所需的磁盘个数为N1,存储资源大小可以用N1表示或者可以指示该N1。
如果目标存储节点组中的第一目标存储资源已经能够满足存储资源大小,此时可以将第一目标存储资源的位置信息发送给第一存储节点,以使第一存储节点将数据存储到第一目标存储资源中。
第一目标存储资源可以包含多个不同存储节点上的磁盘,每个存储节点上选择一块磁盘用于存储一个unit,可实现所有unit的分布式存储,保证数据的安全性,当然具体不限于此。
如果目标存储节点组中的第一目标存储资源不满足存储资源大小,那么可以继续从第一目标存储资源所处存储节点之外的其他存储节点中进一步选择其他存储资源来存储数据,或者,也可以直接返回分配失败的信息给第一存储节点。
本发明实施例中,对数据存储系统中所有存储节点进行了分组,将连接同一交换机的存储节点划分在同一存储节点组中,在管理节点收到第一存储节点发送的存储资源请求时,可从第一存储节点所在的目标存储节点组中选择第一目标存储资源,以用于存储数据,如此,第一存储节点只需要经过共同连接的一个交换机即可完成数据的传输与存储,避免了频繁跨交换机写数据的问题,减小数据传输延时,可避免数据频繁重传,提高数据读写效率。
在一个实施例中,上述方法流程可由存储资源分配装置100执行,如图5所示,存储资源分配装置100可以包含3个模块:存储资源请求接收模块101、目标存储节点组确定模块102和第一目标存储资源确定模块103。存储资源请求接收模块101用于执行上述步骤S100,目标存储节点组确定模块102用于执行上述步骤S200,第一目标存储资源确定模块103用于执行上述步骤S300。
在一个实施例中,步骤S300中,依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,包括:
S301:获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
S302:依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
步骤S301中,计算所述目标存储节点组中每一存储节点的组分配因子。
具体方式比如可以包括:针对目标存储节点组中的每一存储节点,计算该存储节点的空闲总容量与所述目标存储节点组中所有存储节点的空闲总容量之间的占比;计算该占比与已记录的所述目标存储节点组中所有存储节点中的磁盘已分配次数之和的乘积,得到该存储节点的组分配因子。
比如,一个存储节点的总空闲容量为100TB,目标存储节点组中所有存储节点的总空闲容量为500TB,那么占比为100/500=0.2,假设已记录的所述目标存储节点组中所有存储节点中的磁盘已分配次数之和为50,则组分配因子为50*0.2=10。
其中,管理节点中可以记录数据存储系统中所有存储节点中每一磁盘的已分配次数。在磁盘刚被格式化完时,已分配次数为0,每被分配一次(即每确定用于存储一个unit),则已分配次数加1。每从磁盘上删除一个unit,则可以将已分配次数减1。当然,此处仅是确定磁盘已分配次数的一个例子,并不作为限制。
组分配因子主要是为了组内存储节点的负载均衡。对于一个存储节点来说,它的空闲总容量越小,则组分配因子就越小,被选中的概率越低;空闲总容量越大,组分配因子就越大,被选中概率越大。
步骤S302中,依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
在选择第一目标存储资源时,组分配因子越高,则相应存储节点被选中的概率就越高,因而可以根据组分配因子确定相应存储节点是否被选中,可以从选中的存储节点中分配出相应的存储资源。如此,可以更好地实现存储节点组内存储节点的负载均衡。
具体的,存储节点的组分配因子可以表示一个动态的建议分配次数,与该存储节点中的磁盘已分配次数之和进行比较,如果组分配因子表示的建议分配次数大于磁盘已分配次数之和时,可以确定该存储节点被选中,比如,一个存储节点的磁盘已分配次数之和为3次,而当前的建议分配次数为10次,则该存储节点可以被选中。
当然,在选择第一目标存储资源时,还可以结合其他的条件来选择。如果已被选中的存储节点中分配出的存储资源已经满足存储资源请求中携带的存储资源大小,则可以将分配出的存储资源确定为第一目标存储资源。
在一个实施例中,步骤S302中,依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源,可以包括以下步骤:
S3021:依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
S3022:依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
S3023:检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
步骤S3021中,依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点。
预设的节点可用条件比如是:已设置的状态参数中存储节点对应的状态参数指示可用状态。管理节点中可以设置有每个存储节点的状态参数,根据状态参数可以确定存储节点是否处于可用状态,比如,如果状态参数为1,则说明存储节点处于可用状态,否则,存储节点处于不可用状态。
导致存储节点处于不可用状态的因素有很多,比如包括:存储节点处于维护态,和/或存储节点的CPU过载,和/或存储节点的内存过载,和/或存储节点所在网络过载。状态参数可以由人工设置,具体不限于此。
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点,具体的,可以包括:
遍历所述目标存储节点组中的存储节点;
检查遍历到的存储节点是否满足以下条件C1:该存储节点的组分配因子大于或等于该存储节点中所有的磁盘已分配次数之和,并且已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C1,则遍历到的存储节点为第一目标存储节点。
遍历目标存储节点组中的存储节点时,可以随机选择一个存储节点开始遍历,相比于固定从某个存储节点开始遍历来说,可以保证组内存储节点有相同的被选择机会,避免组内某个存储节点的磁盘用尽时、最后几个存储节点还有大量的磁盘的情况。
步骤S3022中,依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率。
每一第一目标存储节点中每一磁盘的磁盘分配因子的计算方式可以是,获取该磁盘的总空闲容量与所在存储节点的总空闲容量之间的占比,计算该占比与该磁盘所在存储节点中所有磁盘已分配次数之和的乘积,将该乘积作为该磁盘的磁盘分配因子。
预设的磁盘可用条件比如可以是:磁盘处于可用状态。磁盘是否处于可用状态可以取决于以下一些因素:磁盘是否在线、磁盘是否正在格式化等。可选的,如果磁盘在线并且已完成格式化时,该磁盘处于可用状态。
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,具体的,可以包括:
针对每一第一目标存储节点,遍历该第一目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第一存储资源。遍历的起始磁盘可以随机选择。每个第一目标存储节点中选出一个磁盘作为第一存储资源即可。
在遍历目标存储节点组中的存储节点的过程中,可以每确定出一个第一目标存储节点,就从该第一目标存储节点中选择出第一存储资源。每确定出一个第一存储资源,还可以执行以下操作:
判断为存储资源请求分配的第一存储资源是否已满足存储资源大小,即当前已分配的磁盘个数是否满足存储资源请求携带的存储资源大小;
若是,可以结束目标存储节点组中的存储节点的遍历;
若否,则在目标存储节点组内还存在未被遍历到的存储节点时,遍历下一个未被遍历到的存储节点,在目标存储节点组内不存在未被遍历到的存储节点时,可以结束遍历。
步骤S3023中,检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
如果第一存储资源已经满足存储资源请求中携带的存储资源大小,可以将第一存储资源确定为第一目标存储资源,将第一目标存储资源的磁盘位置信息发送给第一存储节点,以使第一存储节点将条带中各unit分别存储至各磁盘位置信息指示的磁盘中。磁盘位置信息可以包括磁盘ID、磁盘所在的存储节点的IP地址等。
如果第一存储资源未满足存储资源请求中携带的存储资源大小,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点。
预设的节点可用条件比如是:已设置的状态参数中存储节点对应的状态参数指示可用状态。选择第二目标存储节点时,先不考虑组分配因子,放宽选择条件进行选择。
依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,具体的,可以包括:
遍历所述目标存储节点组中的存储节点;
检查遍历到的存储节点是否满足以下条件C2:该存储节点未被选择,并且已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C2,则遍历到的存储节点为第二目标存储节点。
预设的磁盘可用条件比如可以是:磁盘处于可用状态。依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,具体的,可以包括:
针对每一第二目标存储节点,遍历该第二目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第二存储资源。每个第二目标存储节点中选出一个磁盘作为第二存储资源即可。将第一存储资源和第二存储资源确定为第一目标存储资源。
可以在本次遍历目标存储节点组中的存储节点的过程中,每确定出一个第二目标存储节点,就从该第二目标存储节点中选择出第二存储资源。每确定出一个第二存储资源,还可以执行以下操作:
判断为存储资源请求分配的第一存储资源和第二存储资源是否已满足存储资源大小,即当前已分配的磁盘个数是否满足存储资源请求携带的存储资源大小;
若是,可以结束目标存储节点组中的存储节点的遍历;
若否,则在目标存储节点组内还存在未被遍历到的存储节点时,遍历下一个未被遍历到的存储节点,在目标存储节点组内不存在未被遍历到的存储节点时,可以结束遍历。
在一个实施例中,在从所述目标存储节点组中选择第一目标存储资源之后,该方法进一步包括以下步骤:
S400:检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
S500:从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
S600:获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
S700:依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
管理节点中可以根据应用需求将所有存储节点预先划分在不同的存储节点域中,每一个存储节点域包含至少一个存储节点组。比如,不同存储节点域中的存储节点用于来自不同应用场景的数据。不同存储节点域中存储节点存储的数据互不相关,并且数据的索引也互不相关。每个存储节点域内数据的索引独立存储,数据读写独立。如此,可以使得存储节点以域为单位进行隔离,一个域内存储节点的增加、移除,不会影响其他域内的数据。
在从所述目标存储节点组中选择的第一目标存储资源未满足所述存储资源大小时,可以依据存储资源请求中携带的第一存储节点的信息确定第一存储节点所处的目标存储节点域。
具体的,所述第一存储节点的信息可以包括:第一存储节点的节点标识ID,该节点ID可以唯一标识该第一存储节点;所述目标存储节点域为:包含所述节点ID的第二节点ID集合所对应的存储节点域。管理节点中可以记录所有存储节点域对应的第二节点ID集合,每一存储节点域对应的第二节点ID集合中包含该存储节点域中所有存储节点的节点ID。
或者,所述第一存储节点的信息包括:第一存储节点所处存储节点域的域标识,该域标识可以唯一标识该目标存储节点域;所述目标存储节点域为:所述域标识对应的存储节点域。管理节点中可以记录所有存储节点域的域标识。
当然,目标存储节点域的确定方式也不限于上述两种方式,只要能确定第一存储节点所在的存储节点域即可。
获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子,具体可以包括:针对目标存储节点域中每一存储节点,计算该存储节点的总空闲容量与所述目标存储节点域中所有存储节点的总空闲容量之间的占比;计算该占比与已记录的目标存储节点域中所有存储节点中磁盘已分配次数之和的乘积,得到该存储节点的域分配因子。
当然,也可以同时计算目标存储节点域中第一目标存储资源所处存储节点的域分配因子,计算方式相同。
域分配因子主要是为了域内存储节点的负载均衡。对于一个存储节点来说,它的空闲总容量越小,则域分配因子就越小,被选中的概率越低;空闲总容量越大,域分配因子就越大,被选中概率越大。域分配因子与组分配因子类似,在此不再赘述。
在依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源时,域分配因子越高,则相应存储节点被选中的概率就越高,因而可以根据域分配因子确定相应存储节点是否被选中,可以从选中的存储节点中分配出相应的存储资源。如此,可以更好地实现存储节点域内存储节点的负载均衡。
当然,在选择第二目标存储资源时,还可以结合其他的条件来选择。如果本次被选中的存储节点中分配出的存储资源与之前的第一目标存储资源已经满足存储资源请求中携带的存储资源大小,则可以将本次分配出的存储资源确定为第二目标存储资源。
相比于目标存储节点组来说,目标存储节点域可以包含更多的存储节点,可以找到其他满足需要的存储节点进行存储资源分配,可以降低存储资源分配失败率。所有存储资源都是从同一存储节点域内分配出来的,使得数据可以存入到同一存储节点域中的存储节点上,保证域间数据互相不影响。
在一个实施例中,步骤S700中,依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,包括:
S701:依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
S702:依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
S703:检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
步骤S701中,依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点。
具体的,可以包括以下步骤:
遍历所述目标存储节点域中的存储节点;
检查遍历到的存储节点是否满足以下条件C3:该存储节点未被选择,该存储节点的域分配因子大于或等于该存储节点中磁盘已分配次数之和,并且已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C3,确定该存储节点为第三目标存储节点。
遍历目标存储节点域中的存储节点时,可以随机选择一个存储节点开始遍历,相比于固定从某个存储节点开始遍历来说,可以保证域内存储节点有相同的被选择机会,避免域内某个存储节点的磁盘用尽时、最后几个存储节点还有大量的磁盘的情况。
步骤S702中,依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源。
每一第三目标存储节点中每一磁盘的磁盘分配因子的计算方式可以是,获取该磁盘的总空闲容量与所在存储节点的总空闲容量之间的占比,计算该占比与该磁盘所在存储节点中所有磁盘已分配次数之和的乘积,将该乘积作为该磁盘的磁盘分配因子。
预设的磁盘可用条件比如可以是:磁盘处于可用状态。依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源,具体可以包括:
针对每一第三目标存储节点,遍历该第三目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第三存储资源。每个第三目标存储节点中选出一个磁盘作为第三存储资源即可。遍历的起始磁盘可以随机选择。
在本次遍历目标存储节点域中的存储节点的过程中,可以每确定出一个第三目标存储节点,就从该第三目标存储节点中选择出第三存储资源。每确定出一个第三存储资源,还可以执行以下操作:
判断为存储资源请求分配的第一目标存储资源和第三存储资源之和是否已满足存储资源大小,即当前已分配的磁盘个数是否满足存储资源请求携带的存储资源大小;
若是,可以结束目标存储节点域中的存储节点的遍历;
若否,则在目标存储节点域内还存在未被遍历到的存储节点时,遍历下一个未被遍历到的存储节点,在目标存储节点域内不存在未被遍历到的存储节点时,可以结束遍历。
步骤S703中,检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
如果第三存储资源和所述第一目标存储资源之和满足所述存储资源大小,可以将第三存储资源确定为第二目标存储资源,将第一目标存储资源和第二目标存储资源的磁盘位置信息发送给第一存储节点,以使第一存储节点将条带中所有unit分别存储至各磁盘位置信息指示的磁盘中。
如果第三存储资源和所述第一目标存储资源之和未满足所述存储资源大小,依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点。
预设的节点可用条件比如是:已设置的状态参数中存储节点对应的状态参数指示可用状态。选择第四目标存储节点时,先不考虑域分配因子,放宽选择条件进行选择。
依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,具体的,可以包括:
遍历所述目标存储节点域中的存储节点;
检查遍历到的存储节点是否满足以下条件C4:该存储节点未被选择,并且已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C4,则遍历到的存储节点为第四目标存储节点。
预设的磁盘可用条件比如可以是:磁盘处于可用状态。依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,具体的,可以包括:
针对每一第四目标存储节点,遍历该第四目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第四存储资源。每个第四目标存储节点中选出一个磁盘作为第四存储资源即可。将第三存储资源和第四存储资源确定为第二目标存储资源。
可以在本次遍历目标存储节点域中的存储节点的过程中,每确定出一个第四目标存储节点,就从该第四目标存储节点中选择出第四存储资源。每确定出一个第四存储资源,还可以执行以下操作:
判断为存储资源请求分配的第一目标存储资源、第三存储资源和第四存储资源是否已满足存储资源大小,即当前已分配的磁盘个数是否满足存储资源请求携带的存储资源大小;
若是,可以结束目标存储节点域中的存储节点的遍历;
若否,则在目标存储节点域内还存在未被遍历到的存储节点时,遍历下一个未被遍历到的存储节点,在目标存储节点域内不存在未被遍历到的存储节点时,可以结束遍历。
在一个实施例中,该方法进一步包括以下步骤:
S800:检查第一目标存储资源和第二目标存储资源之和是否满足所述存储资源大小,如果否,获取所述目标存储节点域中第一目标存储资源所处存储节点的域分配因子,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点;
S900:依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,以用于存储所述数据。
如果第一目标存储资源和第二目标存储资源之和未满足所述存储资源大小,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点。
具体的,可以包括:
遍历所述目标存储节点域中的存储节点;
检查遍历到的存储节点是否满足以下条件C5:该存储节点的域分配因子大于或等于该存储节点的所有磁盘已分配次数之和,并且已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C5,确定遍历到的存储节点为第五目标存储节点。
依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,具体可以包括:
针对每一第五目标存储节点,遍历该第五目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第三目标存储资源。每个第五目标存储节点中选出一个磁盘作为第三目标存储资源即可。遍历的起始磁盘可以随机选择。
如果第一目标存储资源、第二目标存储资源和第三目标存储资源之和已满足存储资源大小,可以将第一目标存储资源、第二目标存储资源和第三目标存储资源的磁盘位置信息发送给第一存储节点,以使第一存储节点将条带中所有unit分别存储至各磁盘位置信息指示的磁盘中,否则,可以返回分配失败的信息给第一存储节点,或者以其他策略继续选择。
本实施例中,如果第一目标存储资源和第二目标存储资源之和未满足所述存储资源大小,为保证数据写入需要,不排除已选中的存储节点,但是考虑域分配因子,合理约束存储节点的选择。
在一个实施例中,该方法进一步包括以下步骤:
S1000:检查第一目标存储资源、第二目标存储资源和第三目标存储资源之和是否满足所述存储资源大小,如果否,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点;
S1100:依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,以用于存储所述数据。
如果第一目标存储资源、第二目标存储资源和第三目标存储资源之和未满足所述存储资源大小,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点。
具体的,可以包括:
遍历所述目标存储节点域中的存储节点;
检查遍历到的存储节点是否满足以下条件C6:已设置的状态参数中该存储节点对应的状态参数指示可用状态;
如果满足条件C6,将遍历到的存储节点确定为第六目标存储节点。
依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,具体可以包括:
针对每一第六目标存储节点,遍历该第六目标存储节点中的磁盘,如果该磁盘的磁盘分配因子大于或等于该磁盘的已分配次数、并且该磁盘处于可用状态,则可以将该磁盘确定作为第四目标存储资源。每个第六目标存储节点中选出一个磁盘作为第四目标存储资源即可。遍历的起始磁盘可以随机选择。
如果第一目标存储资源、第二目标存储资源、第三目标存储资源和第四目标存储资源之和已满足存储资源大小,可以将第一目标存储资源、第二目标存储资源、第三目标存储资源和第四目标存储资源的磁盘位置信息发送给第一存储节点,以使第一存储节点将条带中所有unit分别存储至各磁盘位置信息指示的磁盘中,否则,可以返回分配失败的信息给第一存储节点,或者以其他策略继续选择。
本实施例中,如果第一目标存储资源、第二目标存储资源和第三目标存储资源之和未满足所述存储资源大小,为保证数据写入需要,不排除已选中的存储节点,也不考虑域分配因子,进一步放宽存储节点的选择条件,进一步降低资源分配失败的概率。
本发明还提供一种存储资源分配装置,参看图5,该存储资源分配装置100应用于数据存储系统中的管理节点;该存储资源分配装置100包括:
存储资源请求接收模块101,用于接收第一存储节点发送的用于存储数据的存储资源请求;
目标存储节点组确定模块102,用于依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
第一目标存储资源确定模块103,用于依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
在一个实施例中,所述第一目标存储资源确定模块依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源时,具体用于:
获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
在一个实施例中,所述第一目标存储资源确定模块依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源时,具体用于:
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
在一个实施例中,在所述第一目标存储资源确定模块之后,该装置进一步包括:
第一检测模块,用于检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
目标存储节点域确定模块,用于从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
域分配因子获取模块,用于获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
第二目标存储资源确定模块,用于依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
在一个实施例中,所述第二目标存储资源确定模块依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源时,具体用于:
依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
在一个实施例中,该装置进一步包括:
第二检查模块,用于检查第一目标存储资源和第二目标存储资源之和是否满足所述存储资源大小,如果否,获取所述目标存储节点域中第一目标存储资源所处存储节点的域分配因子,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点;
第三目标存储资源确定模块,用于依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,以用于存储所述数据。
在一个实施例中,该装置进一步包括:
第三检查模块,用于检查第一目标存储资源、第二目标存储资源和第三目标存储资源之和是否满足所述存储资源大小,如果否,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点;
第四目标存储资源确定模块,用于依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,以用于存储所述数据。
上述装置中各单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元。
本发明还提供一种电子设备,包括处理器及存储器;所述存储器存储有可被处理器调用的程序;其中,所述处理器执行所述程序时,实现如前述实施例中所述的存储资源分配方法。
本发明存储资源分配装置的实施例可以应用在电子设备上。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在电子设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言,如图6所示,图6是本发明根据一示例性实施例示出存储资源分配装置100所在电子设备的一种硬件结构图,除了图6所示的处理器510、内存530、接口520、以及非易失性存储器540之外,实施例中装置100所在的电子设备通常根据该电子采集设备的实际功能,还可以包括其他硬件,对此不再赘述。
本发明还提供一种机器可读存储介质,其上存储有程序,该程序被处理器执行时,实现如前述实施例中任意一项所述的存储资源分配方法。
本发明可采用在一个或多个其中包含有程序代码的存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。机器可读存储介质包括永久性和非永久性、可移动和非可移动媒体,可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。机器可读存储介质的例子包括但不限于:相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (14)
1.一种存储资源分配方法,其特征在于,该方法应用于数据存储系统中的管理节点;该方法包括:
接收第一存储节点发送的用于存储数据的存储资源请求;
依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
2.如权利要求1所述的存储资源分配方法,其特征在于,依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,包括:
获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
3.如权利要求2所述的存储资源分配方法,其特征在于,依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源,包括:
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
4.如权利要求1至3任一所述的存储资源分配方法,其特征在于,在从所述目标存储节点组中选择第一目标存储资源之后,该方法进一步包括:
检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
5.如权利要求4所述的存储资源分配方法,其特征在于,依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,包括:
依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
6.如权利要求5所述的存储资源分配方法,其特征在于,该方法进一步包括:
检查第一目标存储资源和第二目标存储资源之和是否满足所述存储资源大小,如果否,获取所述目标存储节点域中第一目标存储资源所处存储节点的域分配因子,依据所述目标存储节点域中各存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第五目标存储节点;
依据各第五目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第五目标存储节点中选择至少一个空闲磁盘作为第三目标存储资源,以用于存储所述数据。
7.如权利要求6所述的存储资源分配方法,其特征在于,该方法进一步包括:
检查第一目标存储资源、第二目标存储资源和第三目标存储资源之和是否满足所述存储资源大小,如果否,依据预设的节点可用条件从所述目标存储节点域的所有存储节点中选择至少一个第六目标存储节点;
依据各第六目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第六目标存储节点中选择至少一个空闲磁盘作为第四目标存储资源,以用于存储所述数据。
8.一种存储资源分配装置,其特征在于,该装置应用于数据存储系统中的管理节点;该装置包括:
存储资源请求接收模块,用于接收第一存储节点发送的用于存储数据的存储资源请求;
目标存储节点组确定模块,用于依据所述存储资源请求携带的第一存储节点的信息从已划分的所有存储节点组中确定第一存储节点所处的目标存储节点组;每一存储节点组中的所有存储节点连接于同一交换机,不同存储节点组中的存储节点连接于不同交换机;
第一目标存储资源确定模块,用于依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源,以用于存储所述数据。
9.如权利要求8所述的存储资源分配装置,其特征在于,所述第一目标存储资源确定模块依据所述存储资源请求携带的存储资源大小从所述目标存储节点组中选择第一目标存储资源时,具体用于:
获取所述目标存储节点组中每一存储节点的组分配因子,所述组分配因子用于指示存储节点的选中概率;
依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源。
10.如权利要求9所述的存储资源分配装置,其特征在于,所述第一目标存储资源确定模块依据所述存储资源大小、所述目标存储节点组中各存储节点的组分配因子从所述目标存储节点组中选择第一目标存储资源时,具体用于:
依据所述目标存储节点组中各存储节点的组分配因子以及预设的节点可用条件从所述目标存储节点组中选择至少一个第一目标存储节点;
依据各第一目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第一目标存储节点中选择至少一个空闲磁盘作为第一存储资源,所述磁盘分配因子用于指示磁盘的选中概率;
检查所述第一存储资源是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点组中除第一目标存储节点之外的其它所有存储节点中选择至少一个第二目标存储节点,并依据各第二目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第二目标存储节点中选择至少一个空闲磁盘作为第二存储资源,将所述第一存储资源和第二存储资源确定为第一目标存储资源;如果是,将所述第一存储资源确定为第一目标存储资源。
11.如权利要求8至10任一所述的存储资源分配装置,其特征在于,在所述第一目标存储资源确定模块之后,该装置进一步包括:
第一检测模块,用于检查从所述目标存储节点组中选择的第一目标存储资源是否满足所述存储资源大小,如果否,
目标存储节点域确定模块,用于从已划分的存储节点域中确定所述第一存储节点所处的目标存储节点域;每一存储节点域包含至少一个存储节点组;
域分配因子获取模块,用于获取所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点的域分配因子;所述域分配因子用于指示存储节点的选中概率;
第二目标存储资源确定模块,用于依据所述存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源,以存储所述数据。
12.如权利要求11所述的存储资源分配装置,其特征在于,所述第二目标存储资源确定模块依据所述存储资源请求携带的存储资源大小、存储节点的域分配因子从所述目标存储节点域中选择第二目标存储资源时,具体用于:
依据存储节点的域分配因子以及预设的节点可用条件从所述目标存储节点域中除第一目标存储资源所处存储节点之外的其它所有存储节点中选择至少一个第三目标存储节点;
依据各第三目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第三目标存储节点中选择至少一个空闲磁盘作为第三存储资源;
检查所述第三存储资源和所述第一目标存储资源之和是否满足所述存储资源大小,如果否,则依据预设的节点可用条件从所述目标存储节点域中除第三目标存储节点和第一目标存储资源所处的存储节点之外的其它所有存储节点中选择至少一个第四目标存储节点,并依据各第四目标存储节点中各磁盘的磁盘分配因子以及预设的磁盘可用条件,从各第四目标存储节点中选择至少一个空闲磁盘作为第四存储资源,将所述第三存储资源和第四存储资源确定为第二目标存储资源;如果是,将所述第三存储资源确定为第二目标存储资源。
13.一种电子设备,其特征在于,包括处理器及存储器;所述存储器存储有可被处理器调用的程序;其中,所述处理器执行所述程序时,实现如权利要求1-7中任意一项所述的存储资源分配方法。
14.一种机器可读存储介质,其特征在于,其上存储有程序,该程序被处理器执行时,实现如权利要求1-7中任意一项所述的存储资源分配方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911135853.5A CN111399761B (zh) | 2019-11-19 | 2019-11-19 | 存储资源分配方法、装置及设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911135853.5A CN111399761B (zh) | 2019-11-19 | 2019-11-19 | 存储资源分配方法、装置及设备、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111399761A true CN111399761A (zh) | 2020-07-10 |
CN111399761B CN111399761B (zh) | 2023-06-30 |
Family
ID=71430237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911135853.5A Active CN111399761B (zh) | 2019-11-19 | 2019-11-19 | 存储资源分配方法、装置及设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111399761B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112684978A (zh) * | 2020-12-23 | 2021-04-20 | 北京浪潮数据技术有限公司 | 一种存储设备的存储路径选择方法、系统及装置 |
CN112910997A (zh) * | 2021-02-01 | 2021-06-04 | 福建升腾资讯有限公司 | 一种局域网的资源获取方法 |
CN113449159A (zh) * | 2021-06-29 | 2021-09-28 | 乐视云计算有限公司 | 节点数据处理方法、装置、设备和计算机可读存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030084076A1 (en) * | 2001-10-31 | 2003-05-01 | Shihoko Sekiguchi | Method for storage management of storage resource on a storage network |
CN102123171A (zh) * | 2011-01-24 | 2011-07-13 | 华中科技大学 | 一种面向海量存储管理的存储虚拟化方法 |
CN105786414A (zh) * | 2016-03-24 | 2016-07-20 | 天津书生云科技有限公司 | 存储系统、存储系统的访问方法和存储系统的访问装置 |
US20160308965A1 (en) * | 2013-05-20 | 2016-10-20 | Nec Corporation | Storage node, storage node administration device, storage node logical capacity setting method, program, recording medium, and distributed data storage system |
CN107104992A (zh) * | 2016-02-19 | 2017-08-29 | 杭州海康威视数字技术股份有限公司 | 一种视频云存储的存储资源分配方法和装置 |
US20180123833A1 (en) * | 2016-11-01 | 2018-05-03 | International Business Machines Corporation | Efficient data transfer in remote mirroring connectivity on software-defined storage systems |
CN108170555A (zh) * | 2017-12-21 | 2018-06-15 | 浙江大华技术股份有限公司 | 一种数据恢复方法及设备 |
US20190196728A1 (en) * | 2016-09-05 | 2019-06-27 | Huawei Technologies Co., Ltd. | Distributed storage system-based data processing method and storage device |
US20190238446A1 (en) * | 2018-01-31 | 2019-08-01 | International Business Machines Corporation | Distributed storage path configuration |
CN110244904A (zh) * | 2018-03-09 | 2019-09-17 | 杭州海康威视系统技术有限公司 | 一种数据存储系统、方法及装置 |
-
2019
- 2019-11-19 CN CN201911135853.5A patent/CN111399761B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030084076A1 (en) * | 2001-10-31 | 2003-05-01 | Shihoko Sekiguchi | Method for storage management of storage resource on a storage network |
CN102123171A (zh) * | 2011-01-24 | 2011-07-13 | 华中科技大学 | 一种面向海量存储管理的存储虚拟化方法 |
US20160308965A1 (en) * | 2013-05-20 | 2016-10-20 | Nec Corporation | Storage node, storage node administration device, storage node logical capacity setting method, program, recording medium, and distributed data storage system |
CN107104992A (zh) * | 2016-02-19 | 2017-08-29 | 杭州海康威视数字技术股份有限公司 | 一种视频云存储的存储资源分配方法和装置 |
CN105786414A (zh) * | 2016-03-24 | 2016-07-20 | 天津书生云科技有限公司 | 存储系统、存储系统的访问方法和存储系统的访问装置 |
US20190196728A1 (en) * | 2016-09-05 | 2019-06-27 | Huawei Technologies Co., Ltd. | Distributed storage system-based data processing method and storage device |
US20180123833A1 (en) * | 2016-11-01 | 2018-05-03 | International Business Machines Corporation | Efficient data transfer in remote mirroring connectivity on software-defined storage systems |
CN108170555A (zh) * | 2017-12-21 | 2018-06-15 | 浙江大华技术股份有限公司 | 一种数据恢复方法及设备 |
US20190238446A1 (en) * | 2018-01-31 | 2019-08-01 | International Business Machines Corporation | Distributed storage path configuration |
CN110244904A (zh) * | 2018-03-09 | 2019-09-17 | 杭州海康威视系统技术有限公司 | 一种数据存储系统、方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112684978A (zh) * | 2020-12-23 | 2021-04-20 | 北京浪潮数据技术有限公司 | 一种存储设备的存储路径选择方法、系统及装置 |
CN112684978B (zh) * | 2020-12-23 | 2024-02-13 | 北京浪潮数据技术有限公司 | 一种存储设备的存储路径选择方法、系统及装置 |
CN112910997A (zh) * | 2021-02-01 | 2021-06-04 | 福建升腾资讯有限公司 | 一种局域网的资源获取方法 |
CN112910997B (zh) * | 2021-02-01 | 2023-11-24 | 福建升腾资讯有限公司 | 一种局域网的资源获取方法 |
CN113449159A (zh) * | 2021-06-29 | 2021-09-28 | 乐视云计算有限公司 | 节点数据处理方法、装置、设备和计算机可读存储介质 |
CN113449159B (zh) * | 2021-06-29 | 2024-02-02 | 乐视云网络技术(北京)有限公司 | 节点数据处理方法、装置、设备和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111399761B (zh) | 2023-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107943421B (zh) | 一种基于分布式存储系统的分区划分方法及装置 | |
JP7374100B2 (ja) | リソース予約方法、リソース予約装置、リソース予約デバイス、及びリソース予約システム | |
US8429369B2 (en) | Storage management program, storage management method, and storage management apparatus | |
CN111399761B (zh) | 存储资源分配方法、装置及设备、存储介质 | |
US6928459B1 (en) | Plurality of file systems using weighted allocation to allocate space on one or more storage devices | |
JP5160408B2 (ja) | サービス要求を満足するためのリソース・マネージャを選択するための方法、システム、およびコンピュータ・プログラム | |
US8682850B2 (en) | Method of enhancing de-duplication impact by preferential selection of master copy to be retained | |
CN103324533B (zh) | 分布式数据处理方法、装置及系统 | |
CN110134338B (zh) | 一种分布式存储系统及其数据冗余保护方法和相关设备 | |
CN106293492B (zh) | 一种存储管理方法及分布式文件系统 | |
CN111638995A (zh) | 元数据备份方法、装置及设备、存储介质 | |
CN105630418A (zh) | 一种数据存储方法及装置 | |
CN110245129B (zh) | 一种分布式全局数据去重方法和装置 | |
CN111638853A (zh) | 数据存储方法、装置、存储集群、网关设备及主设备 | |
JP2005512232A (ja) | データ・ネットワークに付属されたストレージ資源の管理 | |
CN109582213A (zh) | 数据重构方法及装置、数据存储系统 | |
US20100138627A1 (en) | Efficient alert mechanism for overutilization of storage resources | |
EP3598289B1 (en) | Data storage, distribution, reconstruction and recovery methods and devices, and data processing system | |
CN113946291A (zh) | 数据访问方法、装置、存储节点及可读存储介质 | |
CN115657960B (zh) | 一种磁盘阵列初始化方法、装置、设备及可读存储介质 | |
CN115756955A (zh) | 一种数据备份、数据恢复的方法、装置及计算机设备 | |
CN107948229B (zh) | 分布式存储的方法、装置及系统 | |
CN111435286A (zh) | 一种数据存储方法、装置和系统 | |
CN111459399A (zh) | 一种数据写入方法、数据读取方法及装置 | |
CN107122136B (zh) | 一种容量获取方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |