CN103810061A - 一种高可用云存储方法 - Google Patents

Abstract

本发明研究了一种通过Vandermonde矩阵对文件进行编码的冗余存储方法，存储时将编码后分割的多个数据块分散到多个存储服务节点上，利用chord环进行快速查找定位文件的数据块，最后通过对数据块解码合并进行读取。该方案能够实现一定程度的自主管理存储节点以及联合协作，从而能够为云存储系统提供高可用性、伸缩性、高存储利用率等特性。可以实现云存储资源利用率的提升，降低用户租用成本和应用的易扩展性。该方案可以应用于云计算和云存储领域。

Description

一种高可用云存储方法

技术领域

本发明涉及云存储技术领域中的分布式数据冗余备份技术，特别涉及一种云存储方法、编码存储方法、资源快速定位方法及其系统。 

背景技术

随着云计算的发展，越来越多的企业和个人用户开始考虑向云端转移。将计算外包给云服务商，降低自身的基础设施购置，灵活的伸缩需求，减轻了IT初期配置以及后期维护的开销，只需要按需向云服务提供商付费即可，为企业的发展注入了新的动力。 

云计算盛行于世界各地，其中最重要的并且受欢迎的云服务是云存储服务，例如亚马逊的S3和微软的Azure存储服务。云存储向用户提供数据存储服务，越来越多的数据将会被存放在云上，而数据的容灾备份需要大量的冗余存储空间。 

云存储是伴随着云计算而发展起来的，专注于存储及服务的理念，云存储服务商为用户提供基于互联网的在线存储服务，用户不必担心存储空间的大小，存储设备的类型，以及存储的位置，只需要按需付费就可以获得几乎无限大的存储空间。 

随着存储需求的迅速增长，云计算模式下的存储系统需要的存储空间越来越大。分布式存储系统将单独的存储资源整合成一个统一的管理空间，通过分布式的管理方式实现的一个大容量，高可用的存储系统。分布式的存储系统具有良好的可伸缩性和并行支持高容量的需求。除了可伸缩性外，云存储系统还具备一定的容错机制，与使用同样的可靠性级别的设备相比云存储系统的成本要少得多。一个云存储系统主要包括两个组成部分：存储系统的客户端以及存储系统的服务器端。 

存储客户端主要提供计算能力接口和连接服务器端节点上的应用程序接口。这些应用程序可能位于虚拟机内。而存储服务器端主要是负责每个服务器内的资源分配，调度和管理。在客户端中主要的核心是云存储控制器，它作为与所有应用程序的接口供给存储需求。 

在云计算中，由于其构成是大批量的X86廉价机，因此组件发生故障是很正常的事，而不属于异常。要保障用户能够对数据的随时随地访问，数据冗余备份至关重要。冗余备份技术保障了数据的可用性，在发生错误操作时可以进行快速恢复，最简单的方式是将数据文件拷贝多份分别进行存储。其数据控制过程主要有以下三点：1），用户与主节点进行通信查询所需的数据位置，或者自己创建一个新的数据交给主节点，由主节点进行处理，2），主节点将所有副本的信息响应给用户，这时用户就可以将数据推送到所有的副本。3），用户只对主副本进行操作，由主副本对其他副本进行同步，并将最终信息反馈给用户。 

现有方案缺陷是： 

1、危险性高，网络通信高负载

为文件的每一个数据块都设置三个甚至多个副本的方法在存储文件时，简单的为每个文件的数据块进行复制备份。这种分布式存储的方法虽然实现简单，但是大大增加了数据传送的任务量，对通信链路产生高负荷要求。当一个数据块的多个副本同时受到破坏时，整个文件就失去了完整性，无法再进行恢复。用户的多处备份数据之间的同步通信也会产生大量的网络请求，数据量大时，会造成网络拥塞等问题。

2、对存储空间造成浪费 

根据目前的多备份冗余方案，存储空间的有效利用率最高为33.3%（三副本）。而随着海量数据的增加，数据存储空间将成为云存储系统的一大瓶颈。如果能够提高存储空间的利用率，同时保证文件的高可用性，将大幅度降低用户的单位存储成本消耗。

3、快速资源定位方法不够理想 

现有技术中，云存储资源定位对单个数据块的处理不够理想。当用户取回存储数据时需要找到一份完整的文件副本，因此需要对每个数据块进行查找，而每一次的资源定位都是从主节点到存储节点的逐级检索，它的时间复杂度比较高导致响应时间比较长，因此在快速定位方面不够理想。

发明内容

本发明针对现有的云存储方法存储空间利用率低、冗余量大、网络通信高负载、对服务响应时间长等问题，提出了基于Vandermonde矩阵的冗余编码方法以及基于Chord环的资源快速定位方法，结合云存储的具体操作过程实现具备高可用性，低冗余度以及快速响应的云存储方案。 

本发明为解决上述技术问题，所提供的技术方案是：一种高可用云存储方法，由用户端的云存储操作模块向云存储服务器端发送请求，云存储服务器端根据请求进行相应的数据存储、数据恢复或数据修改处理，在进行数据存储时，先将待存储的源数据文件分割成等大的数据分块，然后进行冗余编码，将编码生成的数据块分发并传送到云存储服务器的各存储节点进行存储；在进行数据恢复时，对云存储服务器存储节点的数据块进行检索，取回一定量的数据块，解码并合并后得到所需的数据文件，所述冗余编码的方法为：设源数据文件分割后形成的等大数据分块数量为k，k个数据分块组成的序列为F= 

，由Encoder（F）=CF计算出编码后的数据块序列Encoder（F）=，其中，编码矩阵

，其中，I为单位矩阵，P为冗余项生成矩阵，即P*

=

。 

采用基于Chord环的资源定位方法实现编码生成的数据块在各存储节点上的分配存储和检索。 

在进行数据恢复时，设定一个计数器，采用基于Chord环的资源定位方法对存储节点进行检索并取回数据块，每取回一个数据块便另计数器加1，当计数器的计数值等于源数据文件被分割后的数据分块个数时，停止检索；取回的数据块组成一个矩阵

，其中k为数据块个数，z为数据块的数据长度；利用公式

计算出源数据文件被分割后的数据分块组成的矩阵

，将矩阵

中的各数据分块合并即得到所需的数据文件，其中，

为编码矩阵C中所对应的k行序列形成的矩阵

的逆矩阵。 

在进行数据修改处理时，将需要修改的数据块单独标记出，并进行冗余编码计算，最终将生成的与该数据块对应冗余数据块和该数据块本身单独分发到对应的存储节点存储。 

在进行数据存储、数据恢复或数据修改处理时，利用公式

验证数据的完整性。 

本发明的有益效果： 

1、本发明的高可用云存储方法通过Vandermonde矩阵对文件进行编码的冗余存储方法，该方案能够实现一定程度的自主管理存储节点以及联合协作，提高了云存储系统的高可用性、伸缩性、高存储利用率等特性。实现云存储资源利用率的提升，降低了数据冗余度，节约了存储空间，减少了用户租用成本和应用的易扩展性。

2、本发明的高可用云存储方法利用chord环进行快速查找定位文件的数据块，基于Chord环的快速资源定位方法，更加适合分布式的节点存储与快速定位。在存储时，利用编码原理实现任意多数据块权重相等，缺少其中任意有限个数据块都能够通过剩余数据块恢复出原始数据。利用数据块编码，可以使得在取回数据时，降低检索数据块时间，同时降低网络通信负载，缩短了云存储服务的响应时间。 

附图说明

图1本发明的系统结构图； 

图2本发明的数据编码示意图；

图3 本发明中数据块定位操作流程图；

图4本发明中数据解码示意图；

图5 本发明中Chord路由表结构图；

图6本发明中资源定位算法的结构流程图。

具体实施方式

下面结合附图说明本发明的具体实施方式： 

1、高可用云存储方法整体架构：

如图所示，本方案的总体架构有以下几部分组成：用户端的云存储操作模块、云存储服务器端的存储数据处理模块（包括数据存储、数据恢复、数据修改）以及数据编码解码模块。用户将自己所需要的文件操作提交给云存储服务，由云存储服务来解析用户的请求，并做出具体的响应。在服务器端的存储数据处理模块主要是对分布式的文件存储以及修改做出相应部署，主要涉及到数据分割、数据传送、数据检索、动态数据支持以及数据合并。而数据编码和数据解码模块是该方案的主要冗余存储方案，通过对数据编码可以产生足够的冗余项以保证数据的高可用性同时降低存储空间的资源浪费。

其工作流程描述如下： 

1） 数据云存储操作模块接收用户发送过来的各种请求并进行解析，调用云存储的各个功能模块，传递数据以及控制参数，进行相应的处理。数据云存储的操作，包括数据存储、数据取回（数据恢复）以及数据修改。

2）在对数据进行存储时，首先进行数据分割，将一个大的文件分割成等大的数据分块，然后通过数据编码模块进行冗余编码，最终将数据块分发并传送到各存储节点。 

3）在对数据进行恢复时，首先需要对数据分块进行快速检索，取回一定的数据分块通过数据解码模块进行解码，最后将数据分块合并得到需要的数据文件。 

4）在对数据进行更新（修改）时，由动态数据支持方案进行数据更新操作，需对数据进行解码，最后将更新后的数据重新分块、重新编码、分发到各存储节点。 

5） 为了保证数据存储和数据恢复时数据的完整性，增加完整性检验模块，通过数据编码的完整性检测实现。 

6）若检验结果有误需进一步处理，选择不同数据分块对文件进行恢复，必要的时候需要对存储数据进行重新布局。 

7）在服务器主节点上记录，分块存储位置等相关信息。 

2、文件分块编码方法： 

将需要进行云端存储的数据文件作为处理对象即输入，我们需要对用户的文件进行安全存储，由于云存储的分布式模式以及可伸缩特性，使得存储数据的节点随时有可能退出集群，因此存储在其上的数据文件将失效。为了提高云存储数据的高可用性，通常需要以空间作为代价，通过多节点多备份存储的方式进行安全保障。

目前大多采用的方案是将同一文件作三个同样的备份，一定程度上保证了用户数据的安全存储的可用性，但这种方案大大的增加了冗余量。随着海量数据的到来，存储空间将成为系统的瓶颈。我们在本方案中设计了一种用于云存储的保障高可用的存储方案，该方案降低了数据冗余度，从而减少了存储空间的浪费。 

当存储文件请求云端存储时，如图4，首先将存储文件进行数据分割，得到k个等大的原始数据块。编码器将用户的文件分割后的数据块进行编码得到具有冗余的k+m个数据块，最终将这k+m个数据块分散到分布式的存储节点上进行存储以及管理。 

本方案采用的编码器中的冗余编码技术简单描述如下：如图4所示，将k个原始数据块编码生成k+m个数据块，然后将k+m个数据块分散的存储到云存储系统中的多个存储节点上。其中有m个数据块为冗余，而这m个数据块具有容错能力，当其中任意s（

）个数据块丢失时，都可以通过k+m个数据块中剩下的k个数据块进行恢复。这种数据编码方式能够在不超过m个节点失效的情况下恢复原始数据。该编码算法是线性的通过矩阵和向量组的乘法来实现的，即Encoder（F）=CF，其中F为经过等分后的原始数据块组成的向量，C为编码器的生成矩阵，是一个k+m行k列的矩阵。 

编码器的核心运算是一种有限域的线性运算，所以首先需要构造有限域并对其上的运算加以说明。域是定义了两种运算的代数系统，其定义如下。非空元素集合F，若在F中定义了加和乘两种运算，且满足以下性质： 

1）F关于加法构成阿贝尔群，其恒等元为0。

2）F中非零元素全体对乘法构成阿贝尔群，其恒等元为1。 

3）加法和乘法间满足如下分配率，即对任意元素a、b、c

F，存在

，则称F为是一个域，若F中的元素是有限的称之为有限域。 

对于编码器的构造采用Vandermonde矩阵作为生成矩阵的源矩阵，而构成Vandermonde矩阵的行列式性质如下： 

      公式1

由公式1可知当和

不相等，那么

就不为0，说明其行列式中任意个行向量线性独立。由此构造的Vandermonde矩阵

如下所示，其中

，并且

。

   公式2 

从矩阵中任意抽取k个行向量所构成的新矩阵与公式1性质相同，可知

中的任意k个行向量也是线性独立的。将Vandermonde矩阵经过行变换转换成如下（公式3）形式作为生成矩阵记作C。

公式3 

在生成矩阵的作用下，对原始数据生成冗余项。假设需要进行存储的文件是F，它由k个同样大小数据块组成，经过编码器的生成矩阵后，生成冗余数据

，于是

构成一个冗余存储序列，该序列在生成矩阵C下具有一致性，即满足公式4

公式4

当存储在云端的数据冗余分块中任意数据发生改变，公式4就不成立，因此利用此方法可以验证云存储数据的完整性，以增强存储的安全性。

由公式3和公式4可推出公式5： 

  公式5

公式5中说明了m个数据冗余块可由原始数据分块经行变换矩阵计算得到，因此在小范围修改数据时可利用该原理，将被修改的数据块单独标记并进行计算，最终将生成的对应冗余数据块和源数据块单独分发到存储节点即可，不需要重新将所有数据块都进行销毁再计算以及重新分发部署存储节点。

3、数据块快速寻找定位方法： 

当用户需要从云端取回文件时，需要从众多的分布式节点上将该文件的相关数据块快速找到，因此需要对数据块的快速定位进行考虑，我们对分布式存储的节点以及文件的相关数据块构建了两个Chord环，通过Chord环来快速定位存储节点以及存储节点中的文件数据块。

在取回数据时，由于只需要k+m个数据块中的k个数据块即可，因此我们在取回数据查询项目Chord时设定计数器，当项目Chord中查到一个数据块就像上反馈并将计数器增加1，当计数器达到所需数据块数目时，就终止对主节点以及存储节点和项目节点的查询，这样能大幅提升数据块定位的效率。 

为了快速检索存储在分布式云存储节点上的数据块，我们设计了基于Chord环的快速资源定位方法，首先给出相关定义如下： 

定义1. 主节点Chord，存储节点加入系统时所在的初始Chord成为主节点Chord，并设其对应的哈希函数为HashM。

定义2. 项目Chord，为了定位一个文件分割编码后的多个数据块的存储位置而在存储节点的相关数据块之间构建局部Chord，称为项目Chord并设其对应的哈希函数为HashP。 

基于Chord环的快速资源定位方法 

Chord协议说明了键值怎样定位、新节点怎样加入系统、如何从部分节点失效中恢复。Chord的核心功能就是提供快速的哈希函数分布式计算来映射键值和节点。在一个键长度为m位，节点个数为N的Chord网络中，每个节点只需要维护m个其他节点信息；一次资源定位大约需要O(logN)数量级；当节点加入或离开时，需要O(1/N)的键值移动到其他位置，为了保证Chord网络的正确性，节点必须更新路由信息。

Chord按照如下方法将数据资源对象分配到云存储节点上。首先，所有存储节点按照节点ID从小到大顺时针排列在一个环中，资源对象K被分配到环上顺时针方向紧随k的第一个节点，该节点成为资源对象的后继，记为successor（k）.资源对象也有前驱，资源对象k的前驱是在k之前不等于k，离k最近的节点记为predecessor（k）。每个Chord节点也有其后继，节点n的后继是环上紧随n的第一个节点，记为n.successor。节点n的前驱为n之前不等于n的离n最近的节点，记为n.predecessor。 

Chord 路由表结构 

为了加速存数据块的资源定位过程，Chord要求每个节点维护一个路由表，每个路由表有m个表项，从第0项到第m-1项。Chord中节点n的路由表结构如图5所示。

Chord资源定位算法 

为了确定资源对象k的后继，当节点n并不知道键值k的后继时，则会按照以下的动作进行：如果n可以找到一个节点，该节点更接近于k，那么这个节点将会比n更了解k周边区域的信息（由路由表的结构决定）。因此，n在他的路由表中查找在k之前且离k最近的节点j，然后再由节点j查找到更接近于k的节点。通过不断重复该过程，最终可以找到资源对象k的后继。

    存储节点的资源定位在算法1中给出了伪码表示。该算法findSuccessor是一个递归的过程，节点n判断自己是不是资源k的前驱，如果是，那么节点n的后继，也就是资源ID的后继；否则，寻找离k更近的节点n’，将资源定位任务交由该节点处理。节点在自己的路由表中，从后往前找到在k前且与k最近的节点。 

    从Chord路由表的构造和存储节点资源定位算法可以看出，每次寻找最近节点后，新找到的节点离资源对象的距离通常比原来少一半，通常情况下最多寻找最近节点

次就可以定位成功，因此能够加速存储节点的数据块定位，如图6所示。 

数据解码与数据编码是一个逆过程，需要将从存储节点上检索到的多个同项目数据块进行解码并合并为用户需要的数据文件。设原始数据块的块数为k，各个数据块的块长为z，经过编码后的数据块个数为n，其n行k列的生成矩阵表示为

。而编码对象

即k行z列的原始数据矩阵，

表示编码后得到的n行z列的编码数据矩阵，则编码过程如下式所示： 

 公式6

令

表示

中任意k行组成的新矩阵，那么由生成矩阵中的对应的k行可生成

如下式：

公式7

由于

是由vandermonde矩阵转换得到，它满足性质：任意的k个行向量都是线性独立的，于是可以构造解码矩阵，它满足公式8：

公式8

于是下式成立：

公式9

将公式7代入公式9可得解码过程：

  公式10

利用公式10可完成对用户所需要的数据进行恢复。 

本文研究了一种通过Vandermonde矩阵对文件进行编码的冗余存储方法，存储时将编码后分割的多个数据块分散到多个存储服务节点上，利用chord环进行快速查找定位文件的数据块，最后通过对数据块解码合并进行读取。该方案能够实现一定程度的自主管理存储节点以及联合协作，从而能够为云存储系统提供高可用性、伸缩性、高存储利用率等特性。 

本文主要研究包括文件编码分块方法的研究，数据块快速寻找定位方法的研究，以及数据块合并解码方法的研究。通过本方案可以实现云存储资源利用率的提升，降低用户租用成本和应用的易扩展性。该方案可以应用于云计算和云存储领域。 

Claims (5)

1.一种高可用云存储方法，由用户端的云存储操作模块向云存储服务器端发送请求，云存储服务器端根据请求进行相应的数据存储、数据恢复或数据修改处理，在进行数据存储时，先将待存储的源数据文件分割成等大的数据分块，然后进行冗余编码，将编码生成的数据块分发并传送到云存储服务器的各存储节点进行存储；在进行数据恢复时，对云存储服务器存储节点的数据块进行检索，取回一定量的数据块，解码并合并后得到所需的数据文件，其特征在于：所述冗余编码的方法为：设源数据文件分割后形成的等大数据分块数量为k，k个数据分块组成的序列为F=                                                

，由Encoder（F）=CF计算出编码后的数据块序列Encoder（F）=

，其中，编码矩阵

，其中，I为单位矩阵，P为冗余项生成矩阵，即P*

=

。

2.根据权利要求1所述的一种高可用云存储方法，其特征在于：采用基于Chord环的资源定位方法实现编码生成的数据块在各存储节点上的分配存储和检索。

3.根据权利要求1所述的一种高可用云存储方法，其特征在于：在进行数据恢复时，设定一个计数器，采用基于Chord环的资源定位方法对存储节点进行检索并取回数据块，每取回一个数据块便另计数器加1，当计数器的计数值等于源数据文件被分割后的数据分块个数时，停止检索；取回的数据块组成一个矩阵

，其中k为数据块个数，z为数据块的数据长度；利用公式

计算出源数据文件被分割后的数据分块组成的矩阵

，将矩阵

中的各数据分块合并即得到所需的数据文件，其中，

为编码矩阵C中所对应的k行序列形成的矩阵

的逆矩阵。

4.根据权利要求1所述的一种高可用云存储方法，其特征在于：在进行数据修改处理时，将需要修改的数据块单独标记出，并进行冗余编码计算，最终将生成的与该数据块对应冗余数据块和该数据块本身单独分发到对应的存储节点存储。

5.根据权利要求1、3或4所述的一种高可用云存储方法，其特征在于：在进行数据存储、数据恢复或数据修改处理时，利用公式验证数据的完整性。

Images