CN104462389B - 基于分级存储的分布式文件系统实现方法 - Google Patents

Abstract

本发明涉及一种基于分级存储的分布式文件系统实现方法，包括以下步骤：1)对系统中的数据采用全局统一命名空间，建立无元数据服务的分布式文件系统；2)将整个分布式文件系统根据业务需要划分为不同的逻辑分区；3)对不同的逻辑分区选用不同的存储介质和存储方式；4)逻辑分区间的数据实现自动迁移，并对迁移后的数据进行数据重定位。与现有技术相比，本发明具有数据访问完全并行化、性能好、硬件成本低等优点。

Description

基于分级存储的分布式文件系统实现方法

技术领域

本发明涉及一种计算机存储技术领域，尤其是涉及一种基于分级存储的分布式文件系统实现方法。

背景技术

在过去的几年里产生的数据量比以往四万年的数据量还要多，大数据时代的来临已经毋庸置疑。面对数据爆炸式增长，需要的存储数量越来越多，并且不同的数据对存储的性能、要求保留的时间、被访问的频度差异很大，当采用采用单一形式的存储无法满足资金、性能、场地、法律法规等的综合要求。而传统的采用人工方式将数据存储到不同的存储系统的方式在海量数据面前已很难管理，容易出错，直接造成数据版本混乱，浪费存储空间。采用传统的数据备份时也恢复效率低，费时费力。总之使用传统的方式难以确保恰当的数据永远只保存在恰当位置。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种数据访问完全并行化、性能好、硬件成本低的基于分级存储的分布式文件系统实现方法，支持scale-out的横向扩展，无元数据服务，只需少量的高速设备实现全系统提速，热点数据自动分级管理，能够对不同区间的逻辑分区的采用不同介质，不同存储方式对数据进行存储。

本发明的目的可以通过以下技术方案来实现：

一种基于分级存储的分布式文件系统实现方法，其特征在于，包括以下步骤：

1)对系统中的数据采用全局统一命名空间，建立无元数据服务的分布式文件系统；

2)将整个分布式文件系统根据业务需要划分为不同的逻辑分区；

3)对不同的逻辑分区选用不同的存储介质和存储方式；

4)逻辑分区间的数据实现自动迁移，并对迁移后的数据进行数据重定位。

所述的分布式文件系统中的各个节点关系对等，并使用弹性哈希算法定位文件。

所述的不同的逻辑分区包括高速集群逻辑分区、半活动集群逻辑分区和低速集群逻辑分区。

所述的对不同的逻辑分区选用不同的存储介质具体为：

对高速集群逻辑分区选用大内存和固态硬盘的存储服务器；

对半活动集群逻辑分区选用SAS接口硬盘的存储服务器；

对低速集群逻辑分区选用SATA接口硬盘的存储服务器。

所述的对不同的逻辑分区选用不同的存储方式具体为：

对高速集群逻辑分区选用三副本的存储模式；

对半活动集群逻辑分区和低速集群逻辑分区选用二副本或单副本外加软RAID的存储模式。

所述的逻辑分区间的数据实现自动迁移具体为：

41)数据使用信息模块采集文件的使用频率、文件的大小、文件所处的逻辑分区信息；

42)数据迁移管理模块根据数据使用信息模块采集信息和用户设定的迁移策略，触发对数据的迁移操作；

43)数据迁移执行模块完成对数据的迁移。

所述的数据迁移管理模块根据数据使用信息模块采集信息和用户设定的迁移策略，触发对数据的迁移操作具体为：

①在高速集群逻辑分区中设置容量迁移阀值，当容量达到阀值时，开始启动迁移；

②首先需要考虑数据的使用频度，根据LRU算法准备迁移数据，其次需要考虑数据迁移的成本，迁移算法具体为：迁移值＝使用频率*权重A1-文件大小*权重B1；

③对于半活动集群逻辑分区或低速集群逻辑分区的数据若经常被访问，需要考虑数据回迁，数据回迁的策略值为：回迁值＝文件所在区间*权重A2+上级区间所剩空间*权重B2。

所述的数据迁移执行模块进行热迁移，即在数据的迁移的过程应该不能中断上层的相关业务。

所述的热迁移具体为：

当客户端访问的文件正在进行从逻辑分区A到逻辑分区B的迁移时，同步过程需要经过增量的迭代，只有当两边文件全部相同时，才能修改逻辑分区A的原有文件的元信息，将其定位到逻辑分区B上，同时将逻辑分区A上的数据删除已释放相应空间。

所述的对迁移后的数据进行数据重定位具体为：

(1)客户端根据文件定位算法直接访问原文件；

(2)根据当前文件的元信息，返回重定位操作；

(3)根据重定位信息访问新的文件位置；

(4)获取相应的文件操作。

与现有技术相比，本发明具有以下优点：

1)无元数据服务的设计使得文件定位不需要查询索引或者其他服务器，这使得数据访问完全并行化，从而实现真正的近线性扩展。

2)分级的存储管理，使得可以根据业务需求使用较少高速硬件设备，获得相对较高的整体性能，大大节省硬件成本。

3)不同分区使用不同存储方式满足用于在各个数据生命周期的不同应用需求。

4)用户根据业务需求制定相关迁移策略，管理数据的迁移。

5)热点数据的自动迁移，较低用户的使用门槛，以使得其能够在传统行业中推行。

附图说明

图1是无元数据服务的分布式分级存储文件系统整体示意图；

图2是数据迁移期间对文件访问示意图；

图3是迁移后数据访问示意图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。

本发明设计出分级存储的分布式文件系统，本发明的技术问题通过以下技术手段予以解决：

1)建立无元数据服务的分布式文件系统，在分布式系统下的各个节点关系对等，使用弹性哈希算法定位文件。

2)将将整个分布式文件系统根据业务需要划分为不同的逻辑子集群分区，一般可分为高速集群逻辑分区、半活动集群逻辑分区、低速集群逻辑分区。

3)在不同的逻辑分区中，选用不同的存储介质以达到不同的性能要求，如在高速集群逻辑分区选用拥有较大内存的和固态硬盘的存储服务器，而在半活动集群逻辑分区组要选用拥有SAS接口的硬盘的存储服务器。在低速集群逻辑分区中主要选择拥有SATA接口硬盘的存储服务器。

4)在不同的逻辑分区中采用不同的存储方式，如在高速集群逻辑分区中由于数据访问比较频繁，数据的高可用，高性能需求比较强烈可以使用三副本的存储模式，这样既能满足高性能的要求，也能在系统出现故障时自动的进行数据修复。而在半活动集群逻辑分区或低速集群逻辑分区中由于数据访问频率尤其数据的修改频率一般较低可以采用二副本或单副本外加软RAID的方式，这样出现故障时需要少量的人工参与，但一般出现频率较低对故障的解决也相对容易。

5)内嵌的数据使用信息模块完成对数据迁移触发所需的相关信息的采集。

6)用户可以根据业务需要设定相关的迁移参数和相关的迁移策略。数据迁移管理模块根据相关条件触发对数据的迁移操作。

7)数据迁移和回迁执行模块作为数据迁移的执行者完成对数据的搬迁。

8)由于文件系统本身没有元数据，需要对迁移后的数据通过数据的重定位以实现数据访问。

下面将结合本发明实施例中的附图，对本发明的技术方案进行清楚、完整地描述。此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

如图1所示，本系统主要包括以下部分：

1)系统提供全局统一命名空间，数据具体处于何种逻辑分区对用户透明。

2)系统采用无元数据服务的模式建立，对文件定位采用一致性哈希算法。

3)根据存储节点的硬件配置和业务需求组建分布式存储系统并将系统划分为不同的逻辑分区，至少为两个逻辑分区，在实践中一般采用三级分层的模式可分为高速集群逻辑分区、半活动集群逻辑分区、低速集群逻辑分区。

4)一般高速分区中使用高速介质，低速分区采用低速介质，而在不同分区主要可使用的不同的存储方式为：①三副本分布式存储、②二副本分布式存储、③单副本无压缩软RIAD5存储、④单副本软RIAD5压缩存储、⑤高安全性控制存储。这五种存储方式中①为高可用高性能模块，能够在故障时能够自动保证数据的高可用，②的在使用有出现脑裂无法修复风险，但对修改较少时，一般是能够根据业务特点制定其脑裂的数据修复，③、④主要适用数据修改和使用频率都较低的场景，能够保证故障时有一定的错误缓冲期的应用场景。⑤主要针对数据安全性或法律法规的相关规定的特定存储区。

5)内嵌的数据使用信息模块主要采集文件的使用频率信息，文件的大小，文件所处的逻辑分区等信息。

6)根据上述的采集信息，完成对数据触发策略的分析，数据迁移促发策略作为系统的重要组成部分重点考虑数据迁移的效率，防止数据的频繁回迁引起系统的性能抖动，使得尽可能多的数据访问在高速逻辑分区中实现。具体步骤为：

①在高一级逻辑分区中设置容量迁移阀值如30％，当容量达到阀值时，开始启动迁移。

②首先需要考虑数据的使用频度，根据LRU算法准备迁移数据。其次需要考虑数据迁移的成本，如大文件的数据迁移的权重校高，应该尽量少的迁移。所以最终的迁移算法为：迁移值＝使用频率*权重A1-文件大小*权重B1；

③对于低级的数据如果经常被访问，需要考虑数据回迁，数据回迁的策略值为：回迁值＝文件所在区间*权重A2+上级区间所剩空间*权重B2；

7)在不同的逻辑分区间可根据相关策略实现数据的热迁移，在数据的迁移的过程应该不能中断上层的相关业务，如图2所示，在系统对某个文件迁移时，客户端仍然可以访问原有的数据文件，而当前此文件正在进行从逻辑分区A到逻辑分区B的迁移，由于数据迁移可能为耗费一段时间，所以在文件进行不同的过程中文件本身又发生修改，所以同步过程需要进过增量的迭代，只有当两边文件全部相同时，就可以修改逻辑分区A的原有文件的元信息，将其定位到逻辑分区B上。并将逻辑分区A上的数据删除已释放相应空间。经过重定位后的文件访问过程如图3所示：

①客户端根据文件定位算法直接访问原文件(逻辑分区A上文件)；

②根据当前文件的元信息，返回重定位操作；

③根据重定位信息访问新的文件位置；

④获取相应的文件操作。

综上所述，本发明设计的无元数据服务的分布式分级存储文件系统能够实现渐线性水平扩展，数据的智能分级存储分布式存储。

当然，本发明还可有其他多种实施例，在不背离本发明精神及其实质的情况下，熟悉本领域的技术人员当可根据本发明作出各种相应的变化，但这些相应的变化都应属于本发明所附的权利要求的保护范围。

Claims (7)

1.一种基于分级存储的分布式文件系统实现方法，其特征在于，包括以下步骤：

1)对系统中的数据采用全局统一命名空间，建立无元数据服务的分布式文件系统；

2)将整个分布式文件系统根据业务需要划分为不同的逻辑分区；

3)对不同的逻辑分区选用不同的存储介质和存储方式；

4)逻辑分区间的数据实现自动迁移，并对迁移后的数据进行数据重定位；

所述的不同的逻辑分区包括高速集群逻辑分区、半活动集群逻辑分区和低速集群逻辑分区；

所述的逻辑分区间的数据实现自动迁移具体为：

41)数据使用信息模块采集文件的使用频率、文件的大小、文件所处的逻辑分区信息；

42)数据迁移管理模块根据数据使用信息模块采集信息和用户设定的迁移策略，触发对数据的迁移操作；

43)数据迁移执行模块完成对数据的迁移；

所述的数据迁移管理模块根据数据使用信息模块采集信息和用户设定的迁移策略，触发对数据的迁移操作具体为：

①在高速集群逻辑分区中设置容量迁移阀值，当容量达到阀值时，开始启动迁移；

②首先需要考虑数据的使用频度，根据LRU算法准备迁移数据，其次需要考虑数据迁移的成本，迁移算法具体为：迁移值＝使用频率*权重A1-文件大小*权重B1；

③对于半活动集群逻辑分区或低速集群逻辑分区的数据若经常被访问，需要考虑数据回迁，数据回迁的策略值为：回迁值＝文件所在区间*权重A2+上级区间所剩空间*权重B2。

2.根据权利要求1所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的分布式文件系统中的各个节点关系对等，并使用弹性哈希算法定位文件。

3.根据权利要求1所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的对不同的逻辑分区选用不同的存储介质具体为：

对高速集群逻辑分区选用大内存和固态硬盘的存储服务器；

对半活动集群逻辑分区选用SAS接口硬盘的存储服务器；

对低速集群逻辑分区选用SATA接口硬盘的存储服务器。

4.根据权利要求1所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的对不同的逻辑分区选用不同的存储方式具体为：

对高速集群逻辑分区选用三副本的存储模式；

对半活动集群逻辑分区和低速集群逻辑分区选用二副本或单副本外加软RAID的存储模式。

5.根据权利要求1所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的数据迁移执行模块进行热迁移，即在数据的迁移的过程应该不能中断上层的相关业务。

6.根据权利要求5所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的热迁移具体为：

当客户端访问的文件正在进行从逻辑分区A到逻辑分区B的迁移时，同步过程需要经过增量的迭代，只有当两边文件全部相同时，才能修改逻辑分区A的原有文件的元信息，将其定位到逻辑分区B上，同时将逻辑分区A上的数据删除已释放相应空间。

7.根据权利要求1所述的一种基于分级存储的分布式文件系统实现方法，其特征在于，所述的对迁移后的数据进行数据重定位具体为：

(1)客户端根据文件定位算法直接访问原文件；

(2)根据当前文件的元信息，返回重定位操作；

(3)根据重定位信息访问新的文件位置；

(4)获取相应的文件操作。