CN107908372B - 一种异地异构的多融合存储方法 - Google Patents

Abstract

一种异地异构的多融合存储方法，该存储方法存储集群监控节点的进程，维持着存储架构的数据结构，客户端获取该数据结构后通过计算寻址获取具体的存储节点进行通信和读写操作，而寻址规则通过一种可控的、可扩展的、分布式的数据放置算法来实现。该规则可配置，从地理位置层次进行配置可实现异地存储，保证存储集群的高可用性；从设备类型角度进行配置可实现异构存储，根据数据使用场景选择，对使用频率较高的数据选取性能更好的存储设备来提高读写性能，使用频率低的数据则选取性能稍差的设备来降低使用成本。本发明可同时支持对象存储、块存储以及文件系统存储等多种存储使用方式，从而形成了一种异地异构的多融合存储方法。

Description

一种异地异构的多融合存储方法

技术领域

本发明属于分布式大数据的融合存储领域，具体涉及一种异地异构的多融合存储方法。

背景技术

数据时代悄然来临，数据的重要性不言而喻，而在火灾、水灾、地震等自然灾害面前，数据存储在一个地方是非常危险的，而实现数据的异地备份又是一个很复杂的工程。数据的类型多种多样，有的数据使用频繁，有的数据则使用频率很低可能只是用来做副本，这些数据统一使用性能很高但价格也高的存储介质则成本相应的也会很高，如果统一使用价格比较低的存储介质则不能保证数据的读写性能，而性能和成本问题又是存储方案中考虑的重要因素。

发明内容

本发明针对现有技术中的不足，提供一种异地异构的多融合存储方法。

为实现上述目的，本发明采用以下技术方案：

一种异地异构的多融合存储方法，其特征在于，包括以下步骤：

1）设置配置策略，所述配置策略根据实际应用来进行设置，配置策略反映了存储系统层级的物理拓扑结构，配置策略中有设备和组织形式两种构成要素；

2）配置布局规则，所述布局规则设置从放置策略组挑选设备的执行过程；

3）创建存储池，所述存储池设有若干个放置策略组，各存储池都设置有布局规则，同一存储池的放置策略组都遵循该存储池的布局规则，客户端使用存储时要选择一个存储池，就要遵循所设置的布局规则，布局规则设定为异地异构的规则，客户端即可实现异地异构的存储方式；

4）使用存储池，根据不同数据类型对性能的不同要求，使用所创建的存储池。

为优化上述技术方案，采取的具体措施还包括：

所述设备是对象存储设备，所述组织形式包括应用场景中的主机、机箱、机架、机架行、电源分配单元、性能优化数据中心、房间、数据中心、区域和根节点；配置策略从根节点出发，由根节点指定下层的组织形式，子组织形式同样可以指定更下层的组织形式，最终的叶子节点就是设备，其中的设备都有自己的权重值，各层的组织形式的权重值都是最终归属于该组织形式的设备的权重值之和；配置策略还要设置一个随机选择算法。

所述随机选择算法采用伪随机排列算法，适用于每个组织形式或设备具有相同权重且数量固定。

所述随机选择算法采用列表类型算法，所保存的组织形式或设备采用了链表类型的数据结构进行保存且可以具有任意的权重。

所述随机选择算法采用树结构算法，此类型的组织形式和设备构成树形结构，设备组成决策树的叶子节点，根节点和中间节点是虚节点，其权重等于左右字数的权重之和。

所述随机选择算法采用抽签算法，该组织形式中的设备选中概率是相同的。

所述布局规则包括三种类型的动作：第一种动作类型是选取动作，选取的动作作用的对象是配置策略中根节点类型的组织形式；第二种动作类型是选择动作，选择动作可以设置选择的数量和下层组织形式的类型，选择动作有不同的选择方式，其输入都是上一步的输出，选择方式有直接选择和递归选择两种方式，直接选择方式选择的是按照所设置的选择数量选择出所设置的下层组织形式，递归选择方式选择的是按照所设置的选择数量先选择出所设置的下层组织形式然后递归到页节点即设备；第三种动作类型是输出结果动作，把前面所有步骤最终输出的对象存储设备返回给调用此布局规则的程序。

存储到存储池的数据首先切分为若干个固定大小的数据块，每个数据块都有自己的标志号，使用每个数据块的标志号做哈希算法，然后对放置策略组的数量求余，从而随机选取一个放置策略组达到负载均衡的效果。

每个放置策略组对应若干个对象存储设备，数据块最终会存储到所计算出的放置策略组对应的对象存储设备中，一个数据块对应一个放置策略组，一个存储中的多个放置策略组对应多个对象存储设备。

本发明的有益效果是：规避了专门的异地备份，在一个存储系统中通过简单的配置就实现了数据的异地存储，保证了数据的高可用性；在一个存储系统中可以指定不同的存储介质，使用频率高的数据使用性能更好的存储介质，使用频率低的数据则使用性能稍差但价格更低的存储介质，实现了一种异构的存储解决方法，这样在性能和成本上达到了最佳的效果。

附图说明

图1是本发明配置策略的结构图。

图2是本发明寻址过程的原理图。

具体实施方式

现在结合附图对本发明作进一步详细的说明。

本发明提出的异地异构的多融合存储方法，该方法中存储集群监控节点的进程维持着存储架构的数据结构，客户端获取该数据结构后通过计算寻址获取具体的存储节点进行通信和读写操作，而寻址规则通过一种可控的、可扩展的、分布式的数据放置算法来实现。该规则可配置，从地理位置层次进行配置可实现异地存储，保证存储集群的高可用性；从设备类型角度进行配置可实现异构存储，根据数据使用场景选择，对使用频率较高的数据选取性能更好的存储设备来提高读写性能，使用频率低的数据则选取性能稍差的设备来降低使用成本。

首先，一种异地异构的多融合存储方法要先设置配置策略，配置策略根据实际应用场景来进行设置，配置策略反映了存储系统层级的物理拓扑结构，配置策略中有设备和组织形式这两种构成要素，设备就是对象存储设备，组织形式则是应用场景中的主机、机箱、机架、机架行、电源分配单元、性能优化数据中心、房间、数据中心、区域和根节点。配置策略从根节点出发，由根节点指定下层的组织形式，子组织形式同样可以指定更下层的组织形式，最终的叶子节点就是设备。其中的设备都有自己的权重值，各层的组织形式的权重值都是最终归属于该组织形式的设备的权重值之和。配置策略还要设置一个随机选择的算法，设置的随机选择算法要使用的哈希函数，所以还要设置哈希算法的类型。

配置策略设置的随机选择算法基于不同的数据结构，采用不同的伪随机选择函数，其中有四种随机选择算法：

第一种是伪随机排列算法，该算法适用于每个组织形式或设备具有相同权重，并且组织形式或设备很少添加和删除，数量比较固定的情况；

第二种是列表类型算法，所保存的组织形式或设备采用了链表类型的数据结构进行保存，其所包含的组织形式或设备可以具有任意的权重。具体的查找方法如下：首先从链表的表头开始查找，先得到表头的权重Wh(Weighthead)，剩余链表所有的权重之和为Wrs(Weightremainsum)，接着根据所设置的哈希函数hash(x,r,i)函数，得到一个[0~1]的值v，假如这个值v在[0~Wh/Wrs]之中，则选择表头的组织形式或设备，并返回表头组织形式或设备的id值，如果v不在[0~Wh/Wrs]范围内则继续遍历剩余的链表，继续递归选择；

第三种是树结构算法，此类型的组织形式和设备构成树形结构，设备组成决策树的叶子节点，根节点和中间节点是虚节点，其权重等于左右字数的权重之和。具体的查找方法如下：首先从该树节点的根节点（虚节点）开始遍历，然后得到其左子树的权重W1，得到节点的权重Wn,然后根据哈希函数hash(x,r,i)得到一个[0~1]的值v：如果v在[0~W1/Wn]之间，那么左子树中继续选择组织形式或设备，否则在右子树中继续选择组织形式或设备，继续遍历子树，直到到达叶子节点，叶子节点设备为最终选出的一个结果；

第四种是抽签算法，该组织形式中的设备选中概率是相同的，实现如下：首先函数f(Wi)为和设备权重Wi相关的函数，决定了每个设备而被选中的概率，然后给每个设备计算出一个长度，其计算公式为：length = f(Wi)*hash(x,r,i) length值最大的设备就是被选中的设备。

其次，一种异地异构的多融合存储方法还要配置布局规则，布局规则设置从放置策略组挑选对象存储设备的执行过程，其中布局规则一般有三种类型的动作：第一种动作类型是选取动作，选取的动作一般作用的对象是配置策略中根节点类型的组织形式；第二种动作类型是选择动作，选择动作可以设置选择的数量和下层组织形式的类型，选择动作有不同的选择方式，其输入都是上一步的输出，选择方式有直接选择和递归选择两种方式，直接选择方式选择的是按照所设置的选择数量选择出所设置的下层组织形式，递归选择方式选择的则是按照所设置的选择数量先选择出所设置的下层组织形式然后递归到页节点即设备，选择时即根据上文所设置的伪随机选择函数来进行；第三种动作类型是输出结果动作，把前面所有步骤最终输出的对象存储设备返回给调用此布局规则的程序。

最后，存储系统以存储池作为逻辑上的存储单位，用户可创建多个存储池，具体步骤如下：存储池有若干个各存储池都要设置一个布局规则，客户端使用存储时要选择一个存储池，就要遵循所设置的布局规则，布局规则设定为异地或异构的规则，客户端即可实现异地异构的存储方式。放置策略组，同一存储池的放置策略组都遵循该存储池的布局规则。存储到该存储池的数据首先切分为若干个固定大小的数据块，每个数据块都有自己的标志号，使用每个数据块的标志号做哈希算法，然后对放置策略组的数量求余，从而随机选取一个放置策略组达到负载均衡的效果。放置策略组是逻辑上的概念，每个放置策略组对应若干个对象存储设备，数据块最终会存储到所计算出的放置策略组对应的对象存储设备中。一个数据块对应一个放置策略组，一个存储中的多个放置策略组对应多个对象存储设备。

基于上文，实现数据的异地存储的步骤如下：

1、设置配置策略。若要把某类型数据存入到某个或某几个区域就要设置所要存入区域的组织形式，其中区域的组织形式应根据实际的硬件进行设置，硬件集群应该首先已经部署在那些区域。然后设置根类型的组织形式，把其下层组织形式设置为上述区域；

2、设置布局规则。根据配置策略，首先执行选取动作，选取步骤1根类型的组织形式，接着执行选择动作，根据实际情况进行直接或递归选择，并且要设置选择的数量个组织形式类型，最后执行输出结果动作，把最终输出的对象存储设备返回给所调用此布局规则的程序；

3、创建存储池。创建一个存储池，该存储池用来实现异地存储，创建该存储池时要注意选择步骤2的布局规则；

4、使用存储池。若有异地存储存储高可用要求，选择使用步骤3所创建的存储池即可。

基于上文，实现数据的异构存储步骤如下：

1、设置配置策略。存储集群有部分对象存储设备为高性能的存储设备还有部分低性能的存储设备，设置组织形式的底层存储设备全部为同一种类，构建根类型的组织形式可以根据不同的存储设备类型进行设置；

2、设置布局规则。根据配置策略，首先执行选取动作，选择步骤1根类型的组织形式，接着执行选择动作，根据实际情况进行直接或递归选择，最后执行输出结果动作，把最终输出的对象存储设备返回给所调用此布局规则的程序；

3、创建存储池。创建一个存储池，该存储池用来实现异构存储，创建该存储池时要注意选择步骤2的布局规则；

4、使用存储池。根据不同数据类型对性能的不同要求，选择使用步骤3所创建的存储池即可。

也可以结合上述两个步骤进行配置，实现完全异地异构的存储。

该方法中存储集群监控节点的进程维持着存储架构的数据结构，客户端获取该数据结构后通过计算寻址获取具体的存储节点进行通信和读写操作，而寻址规则通过一种可控的、可扩展的、分布式的数据放置算法来实现。该规则可配置，从地理位置层次进行配置可实现异地存储，保证存储集群的高可用性；从设备类型角度进行配置可实现异构存储，根据数据使用场景选择，对使用频率较高的数据选取性能更好的存储设备来提高读写性能，使用频率低的数据则选取性能稍差的设备来降低使用成本。

具体实施方式如下：例如，数据进行三副本存储，一个主副本和一个次副本存储在本地A，剩余的一个副本存储在B地。

在A、B地分别有一个存储集群，首先进行配置策略的设置，设置2个区域类型的组织形式分别为region A和region B，伪随机选择算法选择抽签算法，伪随机选择算法依赖的哈希算法选择jenkins1算法，A和B最终叶节点的设备分别对应A地和B地的设备集群的具体对象存储设备，假设下一层即为host。

接着进行布局规则的设置，布局规则设置为rule remote_disaster_ruleset，在这里设置为副本类型，执行选取动作，首先选取region A，接着执行选择动作，选择的范围即前一步选取动作的输出，选择动作进行递归选择，在这里设置选择的数量设置为2，下层组织形式类型为host，接着执行输出结果动作，然后再执行选取动作，此时选取region B，执行递归选择，选择的数量设置为-2（意思是总共3副本去掉前面已经选取的2副本剩余1副本），下层组织形式类型为host，接着执行输出结果动作。如果调用了该布局规则，则最终会在A地选出2个对象存储设备，在B地选出1个对象存储设备。

接着创建一个存储池pool pool0，创建pool0时设置布局规则为remote_disaster_ruleset。

然后使用pool0进行存储时，数据有2个副本存储在本地A，1个副本存储在异地B。

实现异构存储实施例：例如，数据进行3副本形式存储，主副本存储在ssd中，剩余两个副本存储在hdd中。

首先进行存储策略的配置，伪随机选择算法选择抽签算法，伪随机选择算法依赖的哈希算法选择jenkins1算法，然后定义两个root类型的组织形式，一个是root SSD，它包含若干个host，其下的存储介质都是SSD盘，另一个是root HDD，它同样包含若干个host，其下的存储介质都是HDD盘。

其次设置布局规则为rule ssd-primary，设置为副本类型，然后执行选取动作，选取组织形式rootSSD，然后执行递归选择动作，数量设置为1，类型设置为host，即递归选择一个叶子节点对象存储设备，接着执行输出结果动作，把选择的一个SSD设备返回出去；然后再执行选取动作，选取组织形式root HDD，然后执行递归选择动作，数量设置为-1（选择总副本数减一个host，并分别递归选择两个叶子节点对象存储设备），类型设置为host，然后执行输出结果动作，把选择的两个HDD设备返回出去。

接着创建一个存储池pool pool1,创建pool1时设置布局规则为ssd-primary。

然后使用pool1进行存储时，数据的主副本存储在SSD对象存储设备中，剩余两个副本存储在HDD对象存储设备中。

以上仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，应视为本发明的保护范围。

Claims (5)

1.一种异地异构的多融合存储方法，其特征在于，包括以下步骤：

1）设置配置策略，所述配置策略根据实际应用来进行设置，配置策略反映了存储系统层级的物理拓扑结构，配置策略中有设备和组织形式两种构成要素；所述设备是对象存储设备，所述组织形式包括应用场景中的主机、机箱、机架、机架行、电源分配单元、性能优化数据中心、房间、数据中心、区域和根节点；配置策略从根节点出发，由根节点指定下层的组织形式，子组织形式同样可以指定更下层的组织形式，最终的叶子节点就是设备，其中的设备都有自己的权重值，各层的组织形式的权重值都是最终归属于该组织形式的设备的权重值之和；配置策略还要设置一个随机选择算法，配置策略设置的随机选择算法基于不同的数据结构，采用不同的伪随机选择函数；

2）配置布局规则，所述布局规则设置从放置策略组挑选设备的执行过程；所述布局规则包括三种类型的动作：第一种动作类型是选取动作，选取的动作作用的对象是配置策略中根节点类型的组织形式；第二种动作类型是选择动作，选择动作可以设置选择的数量和下层组织形式的类型，选择动作有不同的选择方式，其输入都是上一步的输出，选择方式有直接选择和递归选择两种方式，直接选择方式选择的是按照所设置的选择数量选择出所设置的下层组织形式，递归选择方式选择的是按照所设置的选择数量先选择出所设置的下层组织形式然后递归到页节点即设备；第三种动作类型是输出结果动作，把前面所有步骤最终输出的对象存储设备返回给调用此布局规则的程序；

3）创建存储池，所述存储池设有若干个放置策略组，各存储池都设置有布局规则，同一存储池的放置策略组都遵循该存储池的布局规则，客户端使用存储时要选择一个存储池，就要遵循所设置的布局规则，布局规则设定为异地异构的规则，客户端即可实现异地异构的存储方式；

4）使用存储池，根据不同数据类型对性能的不同要求，使用所创建的存储池；存储到存储池的数据首先切分为若干个固定大小的数据块，每个数据块都有自己的标志号，使用每个数据块的标志号做哈希算法，然后对放置策略组的数量求余，从而随机选取一个放置策略组达到负载均衡的效果；每个放置策略组对应若干个对象存储设备，数据块最终会存储到所计算出的放置策略组对应的对象存储设备中，一个数据块对应一个放置策略组，一个存储中的多个放置策略组对应多个对象存储设备。

2.如权利要求1所述的一种异地异构的多融合存储方法，其特征在于：所述随机选择算法采用伪随机排列算法，适用于每个组织形式或设备具有相同权重且数量固定。

3.如权利要求1所述的一种异地异构的多融合存储方法，其特征在于：所述随机选择算法采用列表类型算法，所保存的组织形式或设备采用了链表类型的数据结构进行保存且可以具有任意的权重。

4.如权利要求1所述的一种异地异构的多融合存储方法，其特征在于：所述随机选择算法采用树结构算法，此类型的组织形式和设备构成树形结构，设备组成决策树的叶子节点，根节点和中间节点是虚节点，其权重等于左右字数的权重之和。

5.如权利要求1所述的一种异地异构的多融合存储方法，其特征在于：所述随机选择算法采用抽签算法，该组织形式中的设备选中概率是相同的。

Images