CN102929798A - 存储介质的层次组织结构 - Google Patents

存储介质的层次组织结构 Download PDF

Info

Publication number
CN102929798A
CN102929798A CN2012103592149A CN201210359214A CN102929798A CN 102929798 A CN102929798 A CN 102929798A CN 2012103592149 A CN2012103592149 A CN 2012103592149A CN 201210359214 A CN201210359214 A CN 201210359214A CN 102929798 A CN102929798 A CN 102929798A
Authority
CN
China
Prior art keywords
node
organization structure
hierarchical organization
layer
medium
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012103592149A
Other languages
English (en)
Other versions
CN102929798B (zh
Inventor
马照云
杨浩
马振杰
苗艳超
刘新春
邵宗有
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhongke Shuguang International Information Industry Co ltd
Dawning Information Industry Co Ltd
Original Assignee
Dawning Information Industry Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dawning Information Industry Beijing Co Ltd filed Critical Dawning Information Industry Beijing Co Ltd
Priority to CN201210359214.9A priority Critical patent/CN102929798B/zh
Publication of CN102929798A publication Critical patent/CN102929798A/zh
Application granted granted Critical
Publication of CN102929798B publication Critical patent/CN102929798B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了存储介质的层次组织结构,该层次组织结构包括作为根节点的接入层、多个介质分类层和介质层,其中,多个介质分类层中的每一层都代表一种介质分类方式,从而在每一介质分类层中根据预定的分类方式将多个介质分为多组,每一组中包括多个相同种类的节点。通过本发明的技术方案,能够轻松地实现磁盘选择的多种需求并实现多种选择策略。

Description

存储介质的层次组织结构
技术领域
本发明涉及元数据服务器领域,更具体地,涉及用于元数据服务器的层次组织结构。
背景技术
元数据服务器是并行文件系统的大脑,对象所在的数据服务器及磁盘都是由元数据服务器决定的。并且在实际使用中,对磁盘选择的需求又是多种多样的,例如在一个存储系统中,对各个数据服务器及磁盘的使用最好是均衡的;系统动态运行过程中可能发生磁盘及ds(数据服务器)故障,选盘要避开故障点;如果某个磁盘或ds已经达到容量使用阈值则不能再选择;为了便于控制,要求某个文件的所有对象必须限制在固定的某些ds上(其被称为分区,人为地对系统内的ds进行分区);为了提高访问效率,要对数据进行分级,热点数据存放在高速存储设备上(如SSD),冷点数据存放在低速设备上(如SATA或者TAPE);未来可能对磁盘选择还有其他要求等等。同时,对并行文件系统而言,动态扩容也是非常重要的,即存储介质的内存组织方法还应该考虑对磁盘及ds的动态添加/删除的有效支持。
综上所述,并行文件系统对元数据服务器中存储介质的组织方式提出了很高的要求,不仅要考虑支持以上要求,还应该考虑未来需求,方便扩展。
在现有的组织方式中,利用静态数组作为存储介质的内存组织方式对节点动态添加有很大限制,当添加的节点数达到预先留的上限后就不能再动态添加;动态数组没有这个问题,可以重新分配,但是删除节点后需要移动数组成员以保持连续。除上述缺点外,数组方式及链表方式最大的缺点是不利于新的节点选择策略及属性的加入,诸如分区和分级的需要,其中分区即要求文件内所有对象必须放在某些固定节点上以便于故障定位(如果不加限制,则某个磁盘坏所有文件都有坏的可能),分级即根据对象的冷热程度而选择不同的存储介质。
针对相关技术中的问题,目前尚未提出有效的解决方案。
发明内容
针对数组及链表存储方式的缺点以及对存储介质组织方式便于选择策略调整和节点动态扩展等需求,本发明提出一种树状层次组织结构,其能够轻松实现磁盘选择的多种需求,并且具有非常好的扩展性。
根据本发明的实施例,提供了一种存储介质的层次组织结构,该层次组织结构包括作为根节点的接入层、多个介质分类层和介质层,其中,多个介质分类层中的每一层都代表一种介质分类方式,从而在每一介质分类层中根据预定的分类方式将多个介质分为多组,每一组中包括多个相同种类的节点。
优选地,多个介质分类层包括节点间介质层、逻辑分区层、机柜层、数据服务器层、节点内介质层。
优选地,多个介质分类层中的每一层都具有独立的哈希表。
优选地,每一个分类层中的每一个节点均链入自己的父节点。
优选地,该层次组织结构具有一个读写锁,并且每一个分类层中的每一个节点均具有独立的自旋锁。
优选地,在动态添加或删除一个节点时,对层次组织结构加写锁并在完成后解锁。
优选地,每一个分类层都预先注册独立的函数组。
优选地,函数组至少包括初始化函数、节点选择函数。
优选地,在进行介质选择时,加层次组织结构的读锁,从所述根节点开始逐层调用下一层的节点选择函数,直到成功选择了从所述根节点到叶节点的每一层的节点。
优选地,如果遍历了层次组织结构所有节点都没有找到符合要求的节点,则本次选择失败。
本发明通过采用树状层级存储组织结构,能够实现磁盘选择的多种需求并且可以灵活实现多种选择策略。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例的层次组织结构的示意图;以及
图2是根据本发明实施例的进行介质选择的方法的流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
针对数组及链表存储方式的缺点以及对存储介质组织方式便于选择策略调整和节点动态扩展等需求,本发明的发明人提出了树状层次存储组织结构(hsm,层次存储管理),即,利用层次方式存储介质,其中每层代表介质的一种分类方法。
以下参照图1和图2详细对本发明进行描述。
图1是根据本发明实施例的层次组织结构的示意图。
参照图1,hsm组织方式如下:最上层为接入层,也是组织树的根节点;最下层为最终的介质;中间为介质的分类,每一层代表一种分类,这些分类可以根据实际需要进行调整。例如,中间层可以包含节点间介质层(介质类型,如高速、中速、低速、混合)、分区层(人为划分的分区,将数据节点分成不同的分区)、机柜层(数据节点所在的机柜,同一机柜的节点比机柜间节点通讯速度快)、ds层、节点内介质层(数据节点的内部介质,如高速、中速、低速)等。
应该注意,图1中所示出的分类层只是示例性的,本领域技术人员完全可以根据实际应用和需求增加其他的分类方式或者删除图1所示的任意分类方式。
在本发明的hsm的每一层中都具有独立的hash表,同时每个节点也要链入自己的父节点或者根据需要添加其他检索方式。整个hsm结构有一个读写锁,用来保护拓扑结构,每个节点有独立的spin lock(自旋锁),以应对线程并发访问(对象均匀分布的需要)。
此外,每层都可以注册独立的函数组,如初始化函数、节点选择函数等。这些函数都是预先设定好的,并且可以根据需要增加或删除一些函数,从而可以方便地进行节点的动态添加、删除,并且还可以方便地加入新的需求策略,只需要注册新的选择函数并添加对应的选择控制函数即可,这对已有的策略没有任何影响。
在这种存储方式下,如果要动态添加或删除节点,需要加hsm的写锁与其他访问互斥,完成后解锁。而当进行介质选择时,加hsm的读锁,从根接入点开始,逐层调用下层起始节点获取函数及选择函数,直到成功选择了从根到叶结点的每层节点或者遍历了所有路径后选择失败,以下参照图2描述进行介质选择的方法。
图2是根据本发明实施例的进行介质选择的方法的流程图。
参照图2,首先获取根节点,并调用第0层的注册函数来获取下层的起始选择节点,并进入下一层,即第1层。
之后,调用该层的节点选择函数来进行介质选择,如果选择成功则调用下一层的注册函数来获取下一层的起始节点。
对每一层都进行类似的处理,直到成功选择了从根节点到叶节点的每一层节点为止。
如果没有找到合适的路径,则本次选择失败。
从上可以看出,由于选择函数按层注册并且每层都表示一种分类方式,所以层次存储树状结构可以轻松地实现磁盘选择的多种需求,诸如节点分区、分级等需要。
此外,本发明的hsm还具有非常好的扩展性,可以方便地进行节点的动态添加、删除。并且新的需求选择策略也可以方便加入,只需要注册新的选择函数并添加其对应的选择控制函数即可,对已有策略没有任何影响。
综上所述,借助于本发明的上述技术方案,通过存储介质内存组织方式采用树状层次结构,每层表示一种分类方法,并且节点选择函数等按层次注册,可以轻松实现磁盘选择的多种需求并且灵活实现多种选择策略。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种存储介质的层次组织结构,其特征在于,
所述层次组织结构包括作为根节点的接入层、多个介质分类层和介质层,
其中,所述多个介质分类层中的每一层都代表一种介质分类方式,从而在每一介质分类层中根据预定的分类方式将多个介质分为多组,每一组中包括多个相同种类的节点。
2.根据权利要求1所述的层次组织结构,其特征在于,所述多个介质分类层包括节点间介质层、逻辑分区层、机柜层、数据服务器层、节点内介质层。
3.根据权利要求1所述的层次组织结构,其特征在于,所述多个介质分类层中的每一层都具有独立的哈希表。
4.根据权利要求1至3中任一项所述的层次组织结构,其特征在于,每一个分类层中的每一个节点均链入自己的父节点。
5.根据权利要求1至3中任一项所述的层次组织结构,其特征在于,所述层次组织结构具有一个读写锁,并且每一个分类层中的每一个节点均具有独立的自旋锁。
6.根据权利要求1至3中任一项所述的层次组织结构,其特征在于,在动态添加或删除一个节点时,对所述层次组织结构加写锁并在完成后解锁。
7.根据权利要求1至3中任一项所述的层次组织结构,其特征在于,每一个分类层都预先注册独立的函数组。
8.根据权利要求7所述的层次组织结构,其特征在于,所述函数组至少包括初始化函数、节点选择函数。
9.根据权利要求1至3中任一项所述的层次组织结构,其特征在于,在进行介质选择时,加所述层次组织结构的读锁,从所述根节点开始逐层调用下一层的节点选择函数,直到成功选择了从所述根节点到叶节点的每一层的节点。
10.根据权利要求9所述的层次组织结构,其特征在于,如果遍历了所述层次组织结构的所有节点都没有找到符合要求的节点,则本次选择失败。
CN201210359214.9A 2012-09-21 2012-09-21 存储介质的层次组织结构 Active CN102929798B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210359214.9A CN102929798B (zh) 2012-09-21 2012-09-21 存储介质的层次组织结构

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210359214.9A CN102929798B (zh) 2012-09-21 2012-09-21 存储介质的层次组织结构

Publications (2)

Publication Number Publication Date
CN102929798A true CN102929798A (zh) 2013-02-13
CN102929798B CN102929798B (zh) 2016-07-13

Family

ID=47644600

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210359214.9A Active CN102929798B (zh) 2012-09-21 2012-09-21 存储介质的层次组织结构

Country Status (1)

Country Link
CN (1) CN102929798B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105279166A (zh) * 2014-06-20 2016-01-27 中国电信股份有限公司 文件管理方法和系统
CN105760114A (zh) * 2016-02-05 2016-07-13 浪潮(北京)电子信息产业有限公司 一种并行文件系统资源管理方法、装置和系统
CN107104820A (zh) * 2017-03-23 2017-08-29 国网江苏省电力公司信息通信分公司 基于f5服务器节点的动态扩容日常运维策略
CN107305477A (zh) * 2016-04-25 2017-10-31 中国科学院微电子研究所 一种flashcache混合存储系统的缓存读写操作方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070112875A1 (en) * 2004-07-15 2007-05-17 Hitachi, Ltd. Method and apparatus for hierarchical storage management based on data value and user interest
CN101079902A (zh) * 2007-06-29 2007-11-28 清华大学 海量数据分级存储方法
CN102508789A (zh) * 2011-10-14 2012-06-20 浪潮电子信息产业股份有限公司 一种系统分级存储的方法
CN102567932A (zh) * 2010-12-30 2012-07-11 北京亿阳信通软件研究院有限公司 综合资源管理方法、装置和系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070112875A1 (en) * 2004-07-15 2007-05-17 Hitachi, Ltd. Method and apparatus for hierarchical storage management based on data value and user interest
CN101079902A (zh) * 2007-06-29 2007-11-28 清华大学 海量数据分级存储方法
CN102567932A (zh) * 2010-12-30 2012-07-11 北京亿阳信通软件研究院有限公司 综合资源管理方法、装置和系统
CN102508789A (zh) * 2011-10-14 2012-06-20 浪潮电子信息产业股份有限公司 一种系统分级存储的方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105279166A (zh) * 2014-06-20 2016-01-27 中国电信股份有限公司 文件管理方法和系统
CN105279166B (zh) * 2014-06-20 2019-01-25 中国电信股份有限公司 文件管理方法和系统
CN105760114A (zh) * 2016-02-05 2016-07-13 浪潮(北京)电子信息产业有限公司 一种并行文件系统资源管理方法、装置和系统
CN107305477A (zh) * 2016-04-25 2017-10-31 中国科学院微电子研究所 一种flashcache混合存储系统的缓存读写操作方法及系统
CN107104820A (zh) * 2017-03-23 2017-08-29 国网江苏省电力公司信息通信分公司 基于f5服务器节点的动态扩容日常运维策略
CN107104820B (zh) * 2017-03-23 2020-02-07 国网江苏省电力公司信息通信分公司 基于f5服务器节点的动态扩容日常运维方法

Also Published As

Publication number Publication date
CN102929798B (zh) 2016-07-13

Similar Documents

Publication Publication Date Title
CN105589812B (zh) 磁盘碎片整理方法、装置及主机
CN105242881A (zh) 分布式存储系统及其数据读写方法
CN102298641B (zh) 一种基于键值库的文件与结构化数据统一存储方法
CN101520805B (zh) 一种分布式文件系统及其文件处理方法
CN104850358B (zh) 一种磁光电混合存储系统及其数据获取和存储方法
CN101510145B (zh) 一种存储系统管理方法和装置
CN103229173A (zh) 元数据管理方法及系统
CN103761190B (zh) 数据处理方法及装置
CN103049390A (zh) 应用元数据的数据处理方法及存储系统
CN103838853B (zh) 一种基于不同存储介质的混合文件系统
CN107436725A (zh) 一种数据写、读方法、装置及分布式对象存储集群
CN103914516A (zh) 一种存储系统分层管理的方法与系统
CN107798130A (zh) 一种分布式存储的快照方法
CN104536903A (zh) 一种按数据属性分类存放的混合存储方法及系统
CN107807932B (zh) 一种基于路径枚举的层级数据管理方法和系统
CN105787037B (zh) 一种重复数据的删除方法及装置
CN102929798B (zh) 存储介质的层次组织结构
CN103051691A (zh) 分区分配方法、装置以及分布式存储系统
CN103761059A (zh) 一种用于海量数据管理的多盘位存储方法及系统
CN107783988A (zh) 一种目录树的加锁方法及设备
CN110427364A (zh) 一种数据处理方法、装置、电子设备及存储介质
CN109542861A (zh) 一种文件管理方法、装置和系统
CN104246723A (zh) 片内共享缓存的管理方法及装置
CN107426288A (zh) 一种基于存储网络的资源共享调度方法和装置
CN103279489A (zh) 一种元数据的存储方法、装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20181206

Address after: 100193 No. 36 Building, No. 8 Hospital, Wangxi Road, Haidian District, Beijing

Patentee after: Zhongke Shuguang International Information Industry Co.,Ltd.

Address before: 100193 No. 36 Building, No. 8 Hospital, Wangxi Road, Haidian District, Beijing

Patentee before: Dawning Information Industry (Beijing) Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20220725

Address after: 266000 room 211, zone a, software park, No. 169, Songling Road, Laoshan District, Qingdao City, Shandong Province

Patentee after: Zhongke Shuguang International Information Industry Co.,Ltd.

Patentee after: DAWNING INFORMATION INDUSTRY Co.,Ltd.

Address before: 100193 No. 36 Building, No. 8 Hospital, Wangxi Road, Haidian District, Beijing

Patentee before: Zhongke Shuguang International Information Industry Co.,Ltd.

TR01 Transfer of patent right