CN103345430B - 分布式存储池的模糊平衡方法及系统 - Google Patents

Abstract

本发明公开了一种分布式存储池的模糊平衡方法及系统，该方法包括：对各存储池中所有的文件按大小进行分类；计算各存储池的可用空间以及平均可用空间，将可用空间大于平均可用空间的存储池作为迁入池，将可用空间小于平均可用空间的存储池作为迁出池；计算各存储池中的每类文件的文件比重；设定一迁入比重以及一迁出比重；从各迁出池向各迁入池进行文件迁移，并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值；如一迁出池的一类文件的文件比重小于迁出比重，则迁出池停止迁出该类文件，如一迁入池的一类文件的文件比重大于该迁入比重，则迁入池停止迁入该类文件。

Description

分布式存储池的模糊平衡方法及系统

技术领域

本发明涉及分布式存储技术领域，尤其涉及一种分布式存储池的平衡方法及系统。

背景技术

在大规模的分布式存储系统中，所需数据存储单元（存储池）往往是根据具体需求的增长而逐步添加的，这种使用模式导致了新、旧存储池的可用空间不平衡。同时在大部分的使用场景中，写入存储系统的数据尺寸相差很大（从几个KB到几个GB不等）。

数据迁移（Data Migration）是大型数据环境中常用的一种提高数据服务效率的机制。数据迁移的主要目的是使数据的分布随着用户访问模式的变化而动态调节，使得各个数据存储单元的负载均衡，同时使每项数据获得更好的输入/输出性能。

现有的分布式存储存储系统中的平衡概念都是针对存储池的可用空间来实现的。现有的在各个存储池存储空间相等的情况下，文件迁移主要是进行各存储池之间可用存储空间的平衡，一般没有考虑文件数目不平衡这个因素，因此并没有实现真正意义上的存储资源平衡。而不同尺寸的文件的分布不均衡将导致不同存储池的文件数目相差很大，导致各个分布式系统的负载不平衡，引起单点失效，影响了数据的服务质量和系统的稳定性。

发明内容

本发明的目的在于提供一种分布式存储池的模糊平衡方法，用于解决现有的分布式存储系统，没有实现真正意义上的存储资源平衡，不同存储池的文件数目相差很大，导致各个分布式系统的负载不平衡，引起单点失效，影响了数据的服务质量和系统的稳定性的问题。

本发明一种分布式存储池的模糊平衡方法包括：对各存储池中所有的文件按大小进行分类；计算该各存储池的可用空间以及平均可用空间，将该可用空间大于该平均可用空间的该存储池作为迁入池，将该可用空间小于平均可用空间的该存储池作为迁出池，该迁出池仅供将文件迁出，该迁入池仅供将文件迁入；计算各该存储池中的每类文件的文件比重，该文件比重为一该存储池中的一类文件的数目与各该存储池的该类文件的总数目的比值；设定一迁入比重以及一迁出比重，其中迁入比重以及迁出比重均大于0且小于1；从各该迁出池向各该迁入池进行文件迁移，并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值；其中，在文件迁移过程，如一该迁出池的一类文件的文件比重小于该迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于该迁入比重，则该迁入池停止迁入该类文件。

本发明一种分布式存储池的模糊平衡系统，用于实现上述的分布式存储池的模糊平衡方法，该分布式存储池的模糊平衡系统包括：分类器，用于对各存储池中所有的文件按大小进行分类；平衡器，用于计算该各存储池的可用空间以及平均可用空间，将该可用空间大于该平均可用空间的该存储池作为迁入池，将该可用空间小于平均可用空间的该存储池作为迁出池，该迁出池仅供将文件迁出，该迁入池仅供将文件迁入；执行器：用于制定一从各该迁出池向各该迁入池进行文件迁移的迁移计划，并执行该迁移计划，该迁移计划包括：在文件迁移过程，如一该迁出池的一类文件的文件比重小于一迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于一迁入比重，则该迁入池停止迁入该类文件；并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值。

综上所述，本发明的分布式存储池的模糊平衡方法，已知迁移前的数据分布，根据每个存储池的可用空间大小和文件数目，注重存储池的存储空间和文件数目的平衡，在移动最少文件和不来回移动文件的前提下，在存储空间和文件数目两者上都获得较好的平衡，实现了数据在存储池之间的二维分布平衡。

附图说明

图1为本发明分布式存储池的模糊平衡方法的迁出池与迁入池的文件迁移过程示意图。

具体实施方式

本发明分布式存储池的模糊平衡方法的一实施例主要包括：

A.对各存储池中所有的文件按大小进行分类；

其分类方法的一实施例为，设定多个尺寸区间，多个尺寸区间的覆盖范围均互不重叠，将各存储池中所有的文件根据大小与文件尺寸空间一一对应，即位于同一文件尺寸空间范围内文件为同一种文件类型，而位于不同的文件尺寸空间范围内的文件为不同文件类型。

B.将存储池分为迁入池以及迁出池，包括：

根据平均可用空间和本存储池的当前可用空间，决定某个存储池是属于迁入池，还是迁出池，具体为：

计算各存储池的可用空间以及存储池的平均可用空间，并获取各存储池的可用空间，将可用空间大于或等于平均可用空间的存储池作为迁入池，将可用空间小于平均可用空间的存储池作为迁出池，迁出池仅供将文件迁出，该迁入池仅供将文件迁入；

平均可用空间Stf_a为： ${\mathrm{Stf}}_a=\frac{\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{Stf}}_i}{N}---\left(1\right)$

如公式1所示，Stf_i表示每个存储池的可用空间，N为存储池总数。如果一个存储池的可用空间大于平均可用空间Stf_a，则此存储池被定义为迁入池，即迁入池只接受迁入的文件，并不迁出文件。如果一个存储池的可用空间小于Stf_a，则此存储池被定义为迁出池，即此迁出池只迁出的文件，不接受任何迁入文件。

定义迁出池以及迁入池的一个效果在于，由于文件迁移的代价很大，因此要避免文件在存储池之间的来回移动，如果一个存储池的可用空间偏低，则此存储池不再接受任何迁入的文件，以避免可能出现的文件在存储池之间的来回移动的问题。

C．计算文件比重、迁入比重以及迁出比重，包括：

计算各存储池中，每一存储池中的每类文件的文件比重，某一存储池中某类文件的文件比重为，该存储池中的该类文件的数目与所有存储池的所有此类文件数目之和的比值；设定一迁入比重以及一迁出比重，其中迁入比重以及迁出比重均大于0且小于1，迁入比重主要为了确定迁入池每类文件达到多大比重将被允许迁入，迁出比重主要为了确定迁出池每类文件达到多大比重将被允许迁出，以通过此方式达到各存储池的文件比例基本平衡；

D．进行存储池之间的文件迁移，包括：

从各迁出池向各迁入池进行文件迁移，并在完成文件迁移后，应使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值，可用空间偏差阈值应是一个预设值，即希望各存储池之间在进行文件迁移后，所允许的偏差范围，可用空间偏差阈值设置的越小，则各存储池之间的可用存储空间之间的差别越小，但如果可用空间偏差阈值设置的过小，则可能导致文件迁移完成后，各存储池的文件类型平衡的效果较差，即使得各存储池的文件比例不够平衡；

其中，在上述的文件迁移过程，如一该迁出池的一类文件的文件比重均小于该迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于该迁入比重，则该迁入池停止迁入该类文件。

下面介绍对各存储池中所有的文件按大小进行分类的一种具体实现方法以及原理。

各存储池总是与一个逻辑存储空间相对应，同一逻辑存储空间的数据的大小分布符合一定的规律。比如，有几十到几百KB大小的日志文件，有几十MB大小的事件仿真文件，也有几个GB大小的分析文件。文件的大小分布在几十KB到几个GB之间，而且比较有规律地聚集在某个大小左右，比如20MB，300MB，2GB等典型尺寸。这些典型的尺寸大体上代表了不同的文件类型。为了方便将文件分类，本实施例中可以设置一个划分文件类别的文件分类数组，每个文件按照其属性，被归入到不同的类别中。这里的文件分类数组就是不同的文件尺寸。例如，将文件分类数组定义为STAT[1MB 20MB 40MB 500MB 1GB 3GB]，则实际上形成了尺寸区间0至1MB、1MB至20MB、20MB至40MB、40MB至500MB、1GB至3GB以及3GB以上，即实际上分成了6个尺寸区间，其中，上述6个尺寸区间端点的开闭可以灵活进行选择，为方便叙述各实施例仅以闭区间为例。并对应6种文件类型，那么文件分类后将被归入其中一个尺寸区间，假如文件F1的大小为12MB，则F1位于尺寸区间[1MB 20MB]，文件F2为4GB，则F2位于尺寸区间[3GB以上]。

文件分类数组应该很好地反映文件的分布区间，如果某些尺寸区间太大，则位于各尺寸区间的文件数目会不均衡，影响对该尺寸区间内的文件总容量的估计。如果尺寸区间太小，则文件分类数组的数量太大，产生不必要的数组空间浪费。因此，文件分类数组没有必要是一个等差数组，其目的是为了将文件均衡地分布到不同的尺寸区间段中，而且使得某一尺寸区间段内的文件总容量估计值的偏差不会超过一个预设的阈值β。可以定义尺寸区间i为[St_i-1，St_i]，并且设置尺寸区间内一文件大小的估计值S_est为：

$S_{\mathrm{est}}=\frac{({\mathrm{St}}_i+{\mathrm{St}}_{i-1})}{2}---\left(2\right)$

因为尺寸区间[St_i-1，St_i]内的每个文件的实际大小Sf_j是一个位于St_i-1和St_i之间的值，所以文件的实际大小与估计值的差值Sf_j-S_est可表示为：

${\mathrm{St}}_{i-1}-\frac{{\mathrm{St}}_i+{\mathrm{St}}_{i-1}}{2}\≤{\mathrm{Sf}}_j-S_{\mathrm{est}}\≤{\mathrm{St}}_i-\frac{{\mathrm{St}}_i+{\mathrm{St}}_{i-1}}{2}---\left(3\right)$

同时，该尺寸区间内的文件总容量的估计值S_et为：

S_et＝S_est×Nf （4）

其中，Nf为尺寸区间[St_i-1，St_i]内的文件总数。

尺寸区间的实际文件总容量值S_rt为：

$S_{\mathrm{rt}}=\underset{j=1}{\overset{\mathrm{Nf}}{\mathrm{\Σ}}}{\mathrm{Sf}}_j---\left(5\right)$

则尺寸区间[St_i-1，St_i]内的文件总容量估计值S_et与实际值S_rt的偏差S_var与尺寸区间的元素St_i-1，St_i以及该区间内的文件总数Nf的关系如下：

$S_{\mathrm{var}}=|S_{\mathrm{et}}-S_{\mathrm{rt}}|=\underset{j=1}{\overset{\mathrm{Nf}}{\mathrm{\Σ}}}|{\mathrm{Sf}}_j-S_{\mathrm{est}}|\≤\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×\mathrm{Nf}}{2}\≤\mathrm{\β}---\left(6\right)$

因此，如果St_i-1与St_i之间的区间长度太长，则文件的实际大小Sf_i与估计值S_est的相差较远，而Nf很大的话，这个估计值S_et与实际值S_rt的偏差S_var就会很大。比如，如果该尺寸区间的划分区域为[100MB 500MB]，那么对该尺寸区间文件的平均尺寸则应为300MB，每个文件的大小跟尺寸区间的文件估计值有一定的偏差。而如果位于该区间的文件数目庞大的话，就可能会扩大估计值与实际值之间的偏差。

同时，阈值β是与预先定义的存储池的可用空间偏差阈值T_max是相关的。两者之间的关系如下：

$\mathrm{\β}=\frac{T_{\max }}{M}---\left(7\right)$

其中，M为当前的文件分类数组STAT的区间个数；

结合公式（6）和公式（7），得公式（8）如下：

$S_{\mathrm{var}}=|S_{\mathrm{et}}-S_{\mathrm{rt}}|=\underset{j=1}{\overset{\mathrm{Nf}}{\mathrm{\Σ}}}|{\mathrm{Sf}}_j-S_{\mathrm{est}}|\≤\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×\mathrm{Nf}}{2}\≤\frac{T_{\max }}{M}---\left(8\right)$

根据公式（8），为满足上述公式（8）文件分类数组在文件分布较少的尺寸区间段的间隔应该比较大，而在文件分布比较密集的区间段的间隔应该比较小。因而实际中，本领域技术人员可以根据存储的各文件的尺寸分布情况，确定文件分类数组STAT的各文件尺寸空间，故在此不做赘述。

这里，再提供一种对上述文件按大小进行分类的实施例，本实施例通过对文件按大小进行分类的同时，能够使得在对文件数组进行完成文件迁移后，每一存储池的可用空间与平均可用空间之差的绝对值小于等于可用空间偏差阈值。本实施例结合上述实施例的内容进一步叙述。

为使得每个区间的文件的最大容量偏差不超过阈值β，可以根据存储池数组中的文件大小分布，扩充或者缩小预定义的文件分类数组STAT。

因此，可以假设尺寸区间[St_i-1，St_i]之间新增n个尺寸区间，即文件分类数组STAT需要在St_i-1与St_i两个元素之间插入n-1个元素。同时，假设新增尺寸区间1所拥有的文件数目为n₁，新增尺寸区间2所拥有的文件数目为n₂，新增尺寸区间n所拥有的文件数目为n_n，那么每个尺寸区间的单个文件大小与估计值的最大偏差为（St_i-St_i-1）/2n。所以尺寸区间1的所有文件的最大容量偏差S_var1=（St_i-St_i-1）×n₁/2n，尺寸区间2的S_var2=（St_i-St_i-1）×n₂/2n，尺寸区间n的S_varn=（St_i-St_i-1）×n_n/2n，故各个S_var应满足以下条件：

$S_{\mathrm{var}1}=\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×n_1}{2n}\≤\mathrm{\β}$

$S_{\mathrm{var}2}=\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×n_2}{2n}\≤\mathrm{\β}$

………

$S_{\mathrm{var\; n}}=\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×n_n}{2n}\≤\mathrm{\β}$

将以上各式进行求和，得

$\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{S}_{\mathrm{var\; j}}=\frac{({\mathrm{St}}_i-{\mathrm{St}}_{i-1})\×\underset{j=1}{\overset{n}{\mathrm{\Σ}}}\mathrm{nj}}{2n}\≤\mathrm{\β}\×n---\left(8\right)$

假设扩充前，文件分类数组STAT的尺寸区间数为M，则扩充后，文件分类数组STAT的尺寸区间数为

$\frac{S_{\mathrm{var}}}{n}\≤\frac{\mathrm{\β}\×n}{M+n}---\left(9\right)$

即n应满足 $n\≥\frac{S_{\mathrm{var}}}{2\×T_{\max }}+\sqrt[2]{\frac{{S_{\mathrm{var}}}^2}{4{T_{\max }}^2}+\frac{S_{\mathrm{var}}\×M}{T_{\max }}}---\left(10\right)$

故应对向上取整，以获得尺寸区间[St_i-1，St_i]之间新增区间的个数。

通过上述的分析可知，通过控制在预设的文件分类数组STAT中的两相邻元素之间插入的元素个数n-1的数值，即可在使得在完成文件迁移后，应使得每一存储池的可用空间与平均可用空间之差的绝对值小于等于可用空间偏差阈值T_max。相邻元素的尺寸可例如按(St_i-St_i-1)/(n+1)递增，但本公开不限于此，当然，上述实施例为一种较佳的实施方式，还可以例如可以使得相邻元素按照某一倍数递增，或按照某一固定尺寸递增等，以及所属领域技术人员也可通过其他的方式（包括在文件迁移过程中进行限制）使得在完成文件迁移后，每个存储池的可用空间小于等于可用空间偏差阈值T_max，在此不做赘述。

下面进一步叙述计算文件比重、迁入比重以及迁出比重的一种实施方式。

分类数组确定后，每个存储池的文件按照其大小被归类于不同的区间段。为了确定一个迁出池中哪些文件是迁出的对象，定义了文件的比重fp（file percentage）。

${\mathrm{fp}}_{\mathrm{ij}}=\frac{{\mathrm{Nf}}_{\mathrm{ij}}}{\underset{k=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{Nf}}_{\mathrm{kj}}}---\left(11\right)$

如公式11所示，fp_ij表示某个存储池i的j类文件的比重，Nf_ij表示存储池i中j类文件的数目，Nf_kj表示某存储池k中j类文件的数目，N为存储池的个数。假设存储池A中位于尺寸区间[20MB，30MB]之间的文件数目是10000，而该组存储池中位于区间[20MB，30MB]的文件总数为100000，则磁盘A的位于区间[20MB，30MB]中的文件比重为0.1。

同时，文件平均比重Fp_a(file percentage of average)为：

${\mathrm{Fp}}_a=\frac{1}{N}$

（12）

迁入比重Fp_in（file percentage of in files）为：

Fp_in＝Fp_a+R_in

（13）

迁出比重Fp_out(file percentage of out files)。

Fp_out＝Fp_a+R_out

（14）

N为存储池总数，R_in为迁入的调整比重值，R_out为迁出的调整比重值。可见本实施例给定了迁入比重Fp_in以及迁出比重Fp_out的一种计算方式。Fp_out的定义是为了确定迁出池中哪些文件需要被迁出。对于已经定义好的迁出池i，如果其j类文件的文件比重fp_ij大于Fp_out，则存储池i中的j类文件需要被迁出，而且迁出的j类文件的比重应为两者的差值，如果其j类文件的文件比重fp_ij小于等于Fp_out，则迁出池i的j类文件不需要被迁出。Fp_in的定义是为了确定迁入池中可接受的迁入文件的比重，避免迁入池中某类文件由于接受过多的迁入导致新的不平衡。对于已经定义好的迁入池i，如果其j类文件的文件比重fp_ij小于Fp_in，则接受j类文件的迁入，如果其j类文件的文件比重fp_ij大于等于Fp_in，则不再接受该文件类型的迁入。

同时，为了迁入比重Fp_in以及迁出比重Fp_out根据实际需要进行变化，更好地调整平衡后的效果，定义了迁入的调整比重值R_in，以及迁出的调整比重值R_out，R_in与R_out可以为正值或者负值，通过选择不同R_in与R_out的值，调整迁入比重Fp_in与迁出比重Fp_out，。

在本发明中，根据模糊存储池平衡的设计原则，模糊平衡的结果受3个因素的影响：可用空间容量最大偏差值T_max，Fp_out，Fp_in。T_max值越小，文件分类数组STAT就定义的粒度就越小，存储池的可用空间分布就越均匀，但文件数目分布的平衡就会受到影响。Fp_in与Fp_out越靠近文件平均比重Fp_a的话，文件数目分布会越均匀，但是存储池的可用空间分布的平衡就会受到影响。在使用过程中，可以根据实际需要调整这三个值的大小。因此，一种较佳的实施方式应为R_in与R_out的绝对值等于0.2。

下面简述本发明的一种文件迁移过程。图1为本发明分布式存储池的模糊平衡方法的迁出池与迁入池的文件迁移过程示意图，参考图1，在图1中，左侧为迁出池a1以及迁出池a2，不再接受任何迁入的文件。右侧为迁入池b1、b2以及b3，不迁出任何文件。

其中，迁出池a1以及a2和迁入池b1、b2以及b3的各文件类型按文件比重从大到小，在存储池中从上至下排列。假设，迁出池a1中，C类文件以及B类文件的文件比重大于迁出比重，迁出池a2中A类文件、D类文件以及C类文件的文件比重大于迁出比重。而在迁入池b1中B类文件、C类文件以及D类文件均小于迁入比重，在迁入池b2中，A类文件、B类文件、C类文件以及D类文件均小于迁入比重，在迁入池b3中，C类文件以及D类文件小于迁入比重。

参考图1，在文件迁移过程中，对于迁出池a1以及a2，应先从文件比重最高的一类文件开始迁移，对于迁出池a1，C类文件的文件比重最高，故先将C类文件迁出，而对于迁入池b1，由于其C类文件的文件比重小于迁入比重，则允许迁出池a1中的C类文件迁入迁入池b1中，在迁入池b1的C类文件的文件比重逐渐上升至超过迁入比重后，迁入池b1停止迁入C类文件，故迁出池a2再选择迁入池b2迁入c类文件，在迁入池b2的C类文件的文件比重逐渐上升至超过迁入比重后，迁入池b2停止迁入C类文件，迁出池a2再次选择迁入池b3迁入c类文件，最终在迁出池a1的C类文件的文件比重小于迁出比重后，迁出池停止迁出C类文件。迁出池a1的C类文件迁移完成后，再进行B类文件的迁移，迁出池a1的B类文件的文件比重小于迁出比重后，停止迁出B类文件。在迁出池a1的文件均小于迁出比重，则进行迁出池a2的文件迁移，对于迁出池a2，A类文件的比重最高，故先将A类文件迁出，由于迁入池b1的A类文件的文件比重大于迁入比重，故迁出池a2的A类文件迁入迁入池b2，同样，由于迁入池b1以及b2中由于迁入池a1的C类文件的迁入，使得迁入池b1以及b2的C类文件的文件比重超过迁入比重，因此，迁出池a2的C类文件需迁入迁入池b3，直至迁出池a1的C类文件的文件比重小于迁出比重或迁入池b3的C类文件的文件比重大于迁入比重。

以上即完成了一种简单的示例性文件迁移。当然，实际上上述迁移过程中，还需判断迁入池b1至b3的可迁入容量，应使得迁入池b1至b3的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值，由于此实现该为所属领域技术人员易于实现的，同时也可以参考上述的文件分类方法中在分类数组的各尺寸区间中插入n-1个元素来实现，故在此不多做赘述。

另外，在一次文件迁移中，往往需要复制的文件数目很庞大，如果将所有的复制任务一起提交，在存储系统崩溃时，将丢失文件的复制进度，而且会产生残留的不完整的文件。因此，可以采取一个批处理的方法，每一批从迁出池向迁入池复制一定数量的文件，不断测试文件的复制是否完成，完成后校验复制的文件是否是完整的，如果目的文件是完整的，再从迁出池中删除文件的原本。这样即使在文件的迁移过程中系统出现崩溃，可以定位到迁移的进度，也不会导致过多的残留文件的产生。

下面通过一组具体实验数据说明本发明的文件迁移过程前后的效果：

本次实验应用了上述的文件按大小进行分类的方法。因为文件分类数组STAT生成时考虑到了每类文件的容量最大偏差值，所以迁移完成后，各个存储池的可用空间的偏差值不会超过预设的可用空间偏差阈值T_max。本实验采用11个存储池，在文件迁移前，其中10个存储池的可用空间都小于10GB，只有一个新加入的存储池的可用空间为11TB。在本实验中，因为更注重可用空间的平衡，所以设置了一个较小的存储池可用空间容量最大偏差阈值（T_max=1000GB），和较低的迁出比重（Fp_out=Fp_a-0.15），较高迁入比重（Fp_in=Fp_a+0.15）。

表1中显示了文件迁移完成后，各个存储池的可用空间，以及每个存储池的可用空间在所有存储池的总可用空间中的百分比。由表1可见，经过平衡后，每个存储池的可用空间占全部可用空间的百分比差值不超过1（最高9%，最低8%），换算为容量则不超过200GB；同时，每个存储池的可用空间占本存储池的可用空间的百分比的差值不超过2（最高12%，最低10%）。因为在文件迁移过程中，设置了可用空间偏差阈值（T_max=1000GB），在估计文件容量的过程中，严格控制了将迁移的文件的估计容量与实际容量的偏差值，因此最后的平衡结果中，各个存储池的可用空间与平均可用空间之间的差值应该低于T_max（在本例中为1000GB）。经过文件迁移平衡后，各个存储池的可用空间获得了很好的平衡。

表1：

经过文件迁移平衡后，不仅存储池的可用空间得到很好的平衡，各个类型的文件的比重也得到了调整，使得文件数目的分布在各个存储池之间更平衡。

在迁移前，各个存储池内的文件数目分布具有随机性，围绕平均文件数波动较大，即文件数目偏离存储池的平均文件数较远，其原因与文件比重分布不平衡的原因一致。本发明通过调节不同类型的文件在各个存储池中的比重，使得文件数目在各个存储池的分布趋于均衡，因此经过平衡与迁移后，各个存储池文件的数目距离存储池的平均文件数更近了。

通过表1可见，实验结果完全符合预设的阈值。但是因为预设的文件的迁入与迁出的比重偏离文件平均比重较远，所以影响了各类文件在各个存储池中的分布比重的平衡化。同时，为了避免在存储池之间来回移动数据，模糊平衡策略明确定义了迁入池与迁出池的职责，对于某些迁入池中的比重较高的文件类型和某些迁出池中的比重较低的文件类型，其比重也不会受到平衡过程的影响。在本发明中，可用空间的平衡与文件类型的比重平衡总是此消彼长的，T_max，Fp_out与Fp_in三个参数的调整能获得两者之间的平衡。

为实现上述的分布式存储池的模糊平衡方法，本发明进一步提供一种分布式存储池的模糊平衡系统，包括：一分类器，用于自动分析所有存储池中文件的大小，对各存储池中所有的文件按大小进行分类，即执行上述方法中的步骤A；一平衡器，用于将存储池分为迁入池以及迁出池，即用于步骤B以及步骤C，即计算该各存储池的可用空间以及平均可用空间，将该可用空间大于该平均可用空间的该存储池作为迁入池，将该可用空间小于平均可用空间的该存储池作为迁出池，该迁出池仅供将文件迁出，该迁入池仅供将文件迁入；一执行器：用于制定一从各该迁出池向各该迁入池进行文件迁移的迁移计划，并执行该迁移计划，即用于执行步骤D；迁移计划至少包括：在文件迁移过程，如一该迁出池的一类文件的文件比重小于一迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于一迁入比重，则该迁入池停止迁入该类文件；并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值。

其中，在一较佳的实施例，执行器还进一步执行一个批处理的方法，该方法包括：在文件迁移过程中，从该迁出池向该迁入池复制一定数量的文件，不断测试该一定数量的文件的复制是否完成，并在完成后校验复制的文件是否是完整的，如果目的文件是完整的，再从该迁出池中删除对应的该一定数量的文件的原本。

在本发明分布式存储池的模糊平衡系统的一较佳实施方式中，还进一步包括监控器，用于实时监控文件迁移的进度和速度，统计各个存储池的迁入、迁出文件数目，各个存储池的总容量的变化；迁移完成后，生成对比的图示，展示平衡前后，各存储池的可用空间、文件数目的对比。为了保证监控信息的稳定与持续，在执行器进行文件迁移过程中，该监控器还向用户提供一监控界面，以显示上述各个存储池的迁入、迁出文件数目以及各文件存储总量的变化，且还能够将文件迁移的日志输出到一个文件，监控器根据日志信息动态更新监控界面。

综上所述，本发明的模糊平衡策略遵主要循以下原则：

1、优先满足存储池之间的可用空间的平衡。

2、在剩余空间平衡的前提下，保证不同大小的文件在存储池之间均衡分布；

3、移动最少原则，在存储池之间移动文件（复制并删除）是个复杂，耗时的过程，要避免在存储池中来回移动文件。

本发明所谓模糊，是指不要求达到存储空间或者文件数目的一个精确的平衡关系，但是在牺牲精确度的基础上，在移动最少文件和不来回移动文件的前提下，在存储空间和文件数目两者上都获得较好的平衡。

虽然已参照几个典型实施例描述了本发明，但应当理解，所用的术语是说明和示例性、而非限制性的术语。由于本发明能够以多种形式具体实施而不脱离本发明的精神或实质，所以应当理解，上述实施例不限于任何前述的细节，而应在所附权利要求所限定的精神和范围内广泛地解释，因此落入权利要求或其等效范围内的全部变化和改型都应为所附权利要求所涵盖。

Claims (10)

1.一种分布式存储池的模糊平衡方法，其特征在于，包括：

对各存储池中所有的文件按大小进行分类；

计算该各存储池的可用空间以及平均可用空间，将该可用空间大于该平均可用空间的该存储池作为迁入池，将该可用空间小于平均可用空间的该存储池作为迁出池，该迁出池仅供将文件迁出，该迁入池仅供将文件迁入；

计算各该存储池中的每类文件的文件比重，该文件比重为一该存储池中的一类文件的数目与各该存储池的该类文件的总数目的比值；

设定一迁入比重以及一迁出比重，其中迁入比重以及迁出比重均大于0且小于1；

从各该迁出池向各该迁入池进行文件迁移，并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值；

其中，在文件迁移过程，如一该迁出池的一类文件的文件比重小于该迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于该迁入比重，则该迁入池停止迁入该类文件。

2.如权利要求1所述的分布式存储池的模糊平衡方法，其特征在于，对各存储池中所有的文件按大小进行分类包括：

设定多个尺寸区间，该多个尺寸区间范围互不重叠，将各存储池中所有的文件根据大小与该文件尺寸空间一一对应，对应于同一该文件尺寸空间范围内的该文件为同一种文件类型，对应于不同的该文件尺寸空间范围内的该文件为不同文件类型。

3.如权利要求2所述的分布式存储池的模糊平衡方法，其特征在于，对各存储池中所有的文件按大小进行分类进一步包括：设定一文件分类数组，在该文件分类数组从小到大插入多个尺寸数字，相邻的两尺寸数字之间作为一该尺寸区间，且小于最小的尺寸数字以及大于最大的尺寸数字的部分各作为一该尺寸区间。

4.如权利要求2所述的分布式存储池的模糊平衡方法，其特征在于，对各存储池中所有的文件按大小进行分类还包括：

设定该可用空间偏差阈值T_max；

该多个尺寸区间于区间节点连续，设定任一尺寸区间为St_i-1至St_i，尺寸区间内一文件大小的估计值为S_est，定义该尺寸区间内文件的总大小的估计值S_et，则S_et＝S_est×Nf，该尺寸区间的文件的总大小的实际值为S_rt，则其中，Nf为该尺寸区间内的文件总数，Sf_j为该尺寸区间内其中一该文件的大小；

查看每一该尺寸区间的文件的总大小的估计值S_et与文件的总大小的实际值S_rt之差S_var，如一该尺寸区间的S_var大于则将该尺寸区间再增加n个区间，对向上取整得到n的值，其中，M为插入n个区间前该存储池的该尺寸区间的个数。

5.如权利要求1所述的分布式存储池的模糊平衡方法，其特征在于，

设定一文件平均比重为其中N为存储池的个数；

设定一迁出调整比重R_out以及一迁入调整比重R_in，则

Fp_in＝Fp_a+R_in；

Fp_out＝Fp_a+R_out；

其中，Fp_in为迁入比重,Fp_out为迁出比重。

6.如权利要求5所述的分布式存储池的模糊平衡方法，其特征在于，迁出调整比重值的绝对值小于等于0.2，以及迁出调整比重值的绝对值小于等于0.2。

7.如权利要求1所述的分布式存储池的模糊平衡方法，其特征在于，该从各该迁出池向各该迁入池进行文件迁移进一步包括：

从该迁出池向该迁入池复制一定数量的文件，不断测试该一定数量的文件的复制是否完成，并在完成后校验复制的文件是否是完整的，如果目的文件是完整的，再从该迁出池中删除对应的该一定数量的文件的原本。

8.如权利要求1所述的分布式存储池的模糊平衡方法，其特征在于，该从各该迁出池向各该迁入池进行文件迁移进一步包括：

对于任一该迁出池，按照文件比重的从大到小的顺序，先进行文件比重较大的文件类型的迁移，后进行文件比重较小的文件类型的迁移。

9.一种分布式存储池的模糊平衡系统，其特征在于，该分布式存储池的模糊平衡系统包括：

分类器，用于对各存储池中所有的文件按大小进行分类；

平衡器，用于计算该各存储池的可用空间以及平均可用空间，将该可用空间大于该平均可用空间的该存储池作为迁入池，将该可用空间小于平均可用空间的该存储池作为迁出池，该迁出池仅供将文件迁出，该迁入池仅供将文件迁入；

执行器：用于制定一从各该迁出池向各该迁入池进行文件迁移的迁移计划，并执行该迁移计划，该迁移计划包括：

在文件迁移过程，如一该迁出池的一类文件的文件比重小于一迁出比重，则该迁出池停止迁出该类文件，如一该迁入池的一类文件的文件比重大于一迁入比重，则该迁入池停止迁入该类文件；并在完成文件迁移后，使得每一存储池的可用空间与该平均可用空间之差的绝对值小于等于一可用空间偏差阈值。

10.如权利要求9所述的模糊平衡系统，其特征在于，还包括一监控器，用于在文件迁移过程中，用于实时监控文件迁移的进度和速度，统计各个存储池的迁入、迁出文件数目以及各文件存储总量的变化，并提供一监控界面，以显示上述各个存储池的迁入、迁出文件数目以及各文件存储总量的变化。