CN101957861A

CN101957861A - 新型元数据服务器集群和基于调整表的元数据管理方法

Info

Publication number: CN101957861A
Application number: CN 201010509771
Authority: CN
Inventors: 蔡涛; 牛德姣; 李秀娟; 鞠时光
Original assignee: Jiangsu University
Current assignee: Jiangsu University
Priority date: 2010-10-18
Filing date: 2010-10-18
Publication date: 2011-01-26

Abstract

本发明提出了一种基于调整表的元数据管理方法，由元数据服务器集群管理元数据，在使用文件路径计算哈希值后，查找调整表获得所对应的元数据服务器标识，给出了几种典型情况下的调整表调整策略。给出了新型元数据服务器集群的结构，介绍了主要功能模块的流程。该发明能针对元数据管理中存在的问题，快速消除元数据服务器集群中的热点元数据服务器，方便添加和删除元数据服务器后的系统调整，减少了管理元数据所需要的时间和空间开销，提高了管理元数据的灵活性。

Description

新型元数据服务器集群和基于调整表的元数据管理方法

技术领域

本发明属于存储技术领域，涉及其中的海量存储系统，具体涉及元数据服务器集群和元数据管理方法。

背景技术

大型存储系统采用单个元数据服务器集中管理元数据时，系统的I/O性能会因为单个元数据服务器而受到严重制约。为了满足海量存储系统对高I/O性能和管理灵活性的要求，如何管理海量存储系统的元数据并设计相应的元数据服务器是一个重要问题。

采用元数据服务器集群分布式管理元数据时，常用的是目录子树分区法和文件哈希算法。1986年美国麻省理工学院的Popek等人提出的目录子树分区(Directory Subtree Partitioning)算法，将层次式的目录结构划分为若干子树，把不同的目录子树分布到不同的元数据服务器中，从而提高元数据管理的性能。但层次式的目录结构存在遍历开销大的问题，在执行目录改名和更改访问授权等操作时需要移动大量的元数据，影响了海量存储系统的性能。1996年IBM的P.F.Corbett等人提出的哈希 (Hash)算法，通过设计相应的Hash函数，可以将同一目录下的文件均匀地分布到不同的元数据服务器中，能减少元数据操作中的瓶颈。但该算法破坏了目录的层次结构，在执行与目录有关的目录列表和访问授权管理等指令时，需要遍历所有的元数据信息；同样存在执行目录改名和更改访问授权等操作时，所需时间与空间开销较大的问题。2003年美国加利福尼亚圣克鲁兹大学存储系统研究中心的Scott A.Brandt等人提出的LH算法，在保持元数据的层次目录结构的同时，使用Hash函数计算文件路径的哈希值来确定存放文件元数据的位置；在文件的权限访问方面，将文件的访问授权与目录的访问授权进行区分管理，提高了更改访问授权等操作的性能。但由于文件的访问授权未分散保存于文件路径中所有目录与文件中，在更改某一个目录的访问权限后，需更新该目录下的所有子目录和文件的访问权限，此外还会引发元数据一致性的问题。2007年华中科技大学的苏勇等人提出元数据共享存储池管理算法。由网络存储器构建共享存储池，元数据采用Hash函数进行分布，可以避免当某个目录成为访问热点时所存在的瓶颈问题。但存在Hash函数确定困难，适应性差等问题。

元数据服务器集群中元数据管理的特性分析

元数据服务器集群中所有的元数据服务器共同承担元数据操作的重担，降低了单个元数据服务器的负载，能消除可能存在的瓶颈问题，也减少了每个元数据服务器工作量。在元数据服务器集群中管理元数据时，具有以下特征：

1、高效性：在元数据服务器之间合理分布元数据，使得管理和访问元数据具有较高的性能。

2、高可用性：保证元数据服务器集群在各种情况下都能较好提供元数据服务，出现问题时具有较强的可恢复性。

3、动态均衡性：能合理分布对元数据的请求，动态适应系统的变化。

发明内容

本发明的目的是解决现有的元数据管理方法所存在的时间与空间开销大、灵活性差等问题，提供一种高效管理元数据服务器集群中元数据的方法，并构建一种新型的元数据服务器集群。

实现本发明目的的技术方案是，一种基于调整表的元数据管理方法，包括下列步骤：1）在元数据服务器集群中复制相同的元数据；2）构建调整表；3）分析客户端的元数据请求；4）依据调整表得到元数据所对应的元数据服务器标识；5）客户端向相应元数据服务器发送请求；6）在元数据服务器中查找元数据；7）元数据服务器返回对应的元数据；8）管理调整表；所述步骤4）具体包括：4.1）使用哈希函数计算文件路径对应的哈希值；4.2）使用该哈希值查找调整表获得文件元数据所在元数据服务器的标识；4.3）将元数据服务器标识反馈给客户端。

所述步骤2）具体包括下列步骤：

依据集群中元数据服务器的数量和处理能力等，构建调整表，如表1所示，Hash Number Begin是对文件路径散列所得哈希值最小值，Hash Number End是对文件路径散列所得哈希值最大值，Metadata Server ID是该哈希值区间所对应的元数据服务器标识。

表1 调整表

字段	类型
		Hash Number Begin	int
Hash Number End	int
		Metadata Server ID	int

所述步骤8）具体包括下列步骤：

8.1）集群中添加新的元数据服务器时，在该元数据服务器中复制与其他元数据服务器相同的元数据。修改调整表，把一部分哈希值的范围分配给它。

8.2）集群中删除一个元数据服务器时，修改调整表，删除所有与此服务器相关的所有项，并把这些项填充到其他服务器中。

8.3）集群出现热点时，调整调整表，缩小较忙元数据服务器所对应的哈希值区间，扩大空闲元数据服务器所对应的哈希值区间。

本发明使用调整表，提高管理海量存储系统中元数据的灵活性，减少所需的时间与空间开销。

实现本发明目的的装置如下：

一种新型元数据服务器集群，包括客户端装置、元数据访问请求分析装置和查找元数据装置；在元数据访问请求分析装置和查找元数据装置之间还有基于调整表的元数据服务器查找装置，元数据服务器查找装置用于将元数据访问请求合理分布到相应的元数据服务器，减少管理元数据所需的时间与空间开销。查找元数据装置通过元数据访问请求分析装置计算出的哈希值进行查找，将查询结构返回给客户端装置。

客户端装置包括元数据获取模块和元数据更新模块，元数据获取模块用于接收查找元数据的结果，元数据更新模块用于更新元数据服务器集群所保存的元数据信息。

元数据访问请求分析装置包括哈希值计算模块，用于计算客户端需请求文件的元数据所对应的哈希值。

基于调整表的元数据服务器查找装置包括元数据服务器标识查找模块和调整表更新模块。其中元数据服务器标识查找模块的功能是将哈希值计算模块得到的哈希值作为关键字查询调整表，获得对应元数据服务器的标识，反馈给客户端装置；调整表更新模块的功能是依据元数据服务器集群的状况，修改调整表。

查找元数据装置包括元数据服务器负载监测模块。元数据服务器负载监测模块用于定时监测元数据服务器的负载，反馈到元数据服务器管理结点。

本发明的有益效果在于：

1、使用哈希函数和调整表分散对元数据的访问请求，将海量存储系统的元数据访问请求合理分布到元数据服务器集群中的不同元数据服务器中，避免出现性能瓶颈。

2、使用调整表提高了元数据服务器集群管理的灵活性，和元数据服务器集群中出现热点后，只需要调整调整表，就能减少热点元数据服务器的负载，避免更改哈希函数。

3、集群中添加或者删除元数据服务器后，只需要修改调整表中的一项或者几项即可，所需的时间与空间开销很小。

附图说明

图1是查找元数据的流程图。

具体实施方式

实施例1

一种新型元数据服务器集群，包括客户端装置、元数据访问请求分析装置和查找元数据装置；在元数据访问请求分析装置和查找元数据装置之间还有基于调整表的元数据服务器查找装置，用于将元数据访问请求合理分布到相应的元数据服务器，减少管理元数据所需的时间与空间开销。

元数据数据库系统中各功能的说明如表2所示：

实施例2

如图1所示，一种基于调整表的元数据管理策略，包括下列步骤：

1、分析客户端发出的请求，对文件路径进行散列，得到所对应的哈希值；2、将该哈希值作为关键字查找调整表，获得元数据服务器的标识，并反馈给客户端；3、客户端向相应元数据服务器发送元数据操作请求；4、元数据服务器完成相应的操作，并将结果反馈给客户端；5、定时根据元数据服务器集群的运行情况动态修改调整表，优化元数据服务器集群的性能。其中将该哈希值作为关键字查找调整表获得元数据服务器的标识与如何动态调整调整表是关键。

步骤2具体可包括下列流程：

（1）使用文件路径散列所得的哈希值作为关键字查找调整表，

（2）将获得的元数据服务器标识返回给客户端。

我们结合一个例子进行详细说明：

在一个包含四个元数据服务器的元数据服务器集群，假设调整表的内容如表3所示，其中Hash Number Begin是该区间哈希值的最小值，Hash Number End是该区间哈希值的最大值，Metadata Sever ID是元数据服务器的标识。

表3. 调整表的示例

Hash Number Begin	Hash Number End	Metadata Sever ID
			0X0000	0X0fff	0
0X1000	0X1fff	1
			0X2000	0X2fff	2
0X3000	0X3fff	0
			0X4000	0X4fff	3

当某一客户端要求查找file0的元数据时，首先计算file0文件完整路径所对应的哈希值（假设为0X2012）；接着使用0X2012作为关键字查找调整表中所对应的区间，可知在Hash Number Begin值为0X2000与Hash Number End值为0X2fff所表示的区间内，对应的元数据服务器标识是2；最后将元数据服务器标识2反馈给客户端。

步骤5具体可包括下列流程：

（1）定时检查当前元数据服务器集群的负载情况；

（2）分析元数据服务器集群中存在的问题，采取不同的处理方法

下面结合具体示例，给出在几种典型情况下修改调整表的方法。

出现负载很大的元数据服务器：

修改调整表，减少元数据服务器标识所对应的哈希值区间，将多出的哈希值区间作为新的条目插入调整表，并映射到负载较轻的元数据服务器中。

初始调整表如表3所示。如出现标识为0的元数据服务器中元数据访问请求数量过多的情况，则首先缩小标识为0的元数据服务器所对应的哈希值区间，可将0X0000~0X0fff修改为0X0000~0X07ff；同时选择负载较轻的元数据服务器，如标识为2，则将新的条目（0X0800，0X0fff，2）加入调整表；更新后的调整表如表4所示。

表4. 消除负载较大元数据服务器后的调整表

Hash Number Begin	Hash Number End	Metadata Sever ID
			0X0000	0X07ff	0
0X1000	0X1fff	1
			0X2000	0X2fff	2
0X3000	0X3fff	0
			0X4000	0X4fff	3
0X0800	0X0fff	2

加入新元数据服务器：

当一个新的元数据服务器添加到集群中时，首先从其他元数据服务器中复制元数据；选择负载较重的元数据服务器，缩小其在调整表中所对应的哈希值区间；并将该哈希值区间对应到新的元数据服务器。

假设当前调整表内容如表4所示，当前标识为2的元数据服务器负载较大，元数据服务器集群中增加标识为5的元数据服务器，则可修改调整表中的条目（0X0800，0X0fff，2），将元数据服务器的标识改为5，修改后的新条目是（0X0800，0X0fff，5）。此时调整表的内容如表5所示。

表5. 加入新元数据服务器后的调整表

Hash Number Begin	Hash Number End	Metadata Sever ID
			0X0000	0X07ff	0
0X1000	0X1fff	1
			0X2000	0X2fff	2
0X3000	0X3fff	0
			0X4000	0X4fff	3
0X0800	0X0fff	5

删除元数据服务器：

当一个元数据服务器从集群中删除的时，查找调整表中所有对应该元数据服务器条目，修改保存的元数据服务器标识，对应到负载较轻的元数据服务器中。

假设当前调整表内容如表5所示，当前标识为3的元数据服务器负载较小，元数据服务器集群中删除标识为5的元数据服务器，则可修改调整表中的条目（0X0800，0X0fff，5），将元数据服务器的标识改为3，修改后的新条目是（0X0800，0X0fff，3）。此时调整表的内容如表6所示。

表6. 删除元数据服务器后的调整表

Hash Number Begin	Hash Number End	Metadata Sever ID
			0X0000	0X07ff	0
0X1000	0X1fff	1
			0X2000	0X2fff	2
0X3000	0X3fff	0

0X4000	0X4fff	3
			0X0800	0X0fff	3

Claims

1.一种基于调整表的元数据管理方法，包括下列步骤：

1）在元数据服务器集群中复制相同的元数据；

2）构建调整表；

3）分析客户端的元数据请求；

4）依据调整表获得所对应的元数据服务器标识；

5）客户端向对应元数据服务器发送请求；

6）元数据服务器处理元数据请求；

7）元数据服务器向客户端返回处理的结果；

8）调整调整表；

其中所述步骤4）具体包括：4.1）计算文件路径对应的哈希值；4.2）使用该哈希值查找调整表，获得所对应的元数据服务器标识；4.3）将元数据服务器标识反馈给客户端。

2.根据权利要求1所述的基于调整表的元数据管理方法，其特征在于，所述步骤2）具体是：依据集群中元数据服务器的数量和处理能力等因素，构建调整表，Hash Number Begin是文件路径散列所得哈希值的最小值，Hash Number End是文件路径散列所得哈希值的最大值，Metadata Server ID是该哈希值区间所对应的元数据服务器标识。

3.根据权利要求1所述的基于调整表的元数据管理方法，所述步骤8）具体包括下列步骤：

8.1）在集群中添加新的元数据服务器时，首先从其他元数据服务器中复制元数据；选择负载较重的元数据服务器，缩小其在调整表中所对应的哈希值区间；并将该哈希值区间对应到新的元数据服务器；

8.2）集群中删除一个元数据服务器时，查找调整表中所有对应该元数据服务器条目，修改保存的元数据服务器标识，对应到负载较轻的元数据服务器中；

8.3）集群出现热点时，修改调整表，减少元数据服务器标识所对应的哈希值区间，将多出的哈希值区间作为新的条目插入调整表，并映射到负载较轻的元数据服务器中。

4.一种实现权利要求1管理方法的新型元数据服务器集群，包括客户端装置、元数据访问请求分析装置和查找元数据装置；在元数据访问请求分析装置和查找元数据装置之间还有基于调整表的元数据服务器查找装置，其用于在元数据服务器集群中合理分散元数据访问请求，减少管理元数据所需的时间与空间开销。

5.根据权利要求4所述元数据服务器集群，其特征在于，所述的客户端装置包括下列模块：

元数据获取模块：用于获取海量存储系统的元数据；

元数据更新模块：用于插入、删除和更新海量存储系统的元数据。

6.根据权利要求4所述的元数据服务器集群，其特征在于，所述元数据访问请求分析装置包含下列模块：

哈希值计算模块：用于计算客户端所请求文件的文件路径所对应的哈希值。

7.根据权利要求4所述的元数据服务器集群，其特征在于，所述基于调整表的元数据服务器查找装置包括下列模块：

元数据服务器标识查找模块：将哈希值计算模块得到的哈希值作为关键字查询调整表，获得对应元数据服务器的标识，反馈给客户端装置；

调整表更新模块的功能是依据元数据服务器集群的状况，修改调整表。

8.根据权利要求4所述元数据服务器集群，其特征在于，所述查找元数据装置包括下列模块：

元数据服务器负载监测模块：用于定时监测元数据服务器的负载，反馈到元数据服务器管理结点。