CN103077245A - 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法 - Google Patents

一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法 Download PDF

Info

Publication number
CN103077245A
CN103077245A CN2013100179765A CN201310017976A CN103077245A CN 103077245 A CN103077245 A CN 103077245A CN 2013100179765 A CN2013100179765 A CN 2013100179765A CN 201310017976 A CN201310017976 A CN 201310017976A CN 103077245 A CN103077245 A CN 103077245A
Authority
CN
China
Prior art keywords
file system
lustre
computing node
ost
cluster
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2013100179765A
Other languages
English (en)
Inventor
孙玉超
陈良华
郑辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inspur Electronic Information Industry Co Ltd
Original Assignee
Inspur Electronic Information Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inspur Electronic Information Industry Co Ltd filed Critical Inspur Electronic Information Industry Co Ltd
Priority to CN2013100179765A priority Critical patent/CN103077245A/zh
Publication of CN103077245A publication Critical patent/CN103077245A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法，通过lustre文件系统来实现利用集群计算节点空闲硬盘空间扩展并行文件操作，Lustre对象存储文件系统是由客户端、存储服务器和元数据服务器MDS三个主要部分组成，Lustre的客户端运行Lustre文件系统，它和OST进行文件数据I/O的交互，和MDS进行命名空间操作的交互，即用计算节点的闲置磁盘空间做lustre文件系统的存储服务器ost，把计算节点的闲置磁盘空间整合成一个大的文件系统，然后客户端或计算节点来挂载此文件系统使用；通过利用计算节点空闲硬盘空间做并行文件系统的方法，不仅可以解决文件系统IO并发和带宽问题，而且能提高整个集群系统的存储空间，合理利用集群资源。

Description

一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法
技术领域
本发明涉及计算机技术领域，具体地说是一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法。
背景技术
对于中小型集群，特别是小型集群，一般没有配备专门并行文件系统，集群计算节点共享一般通过nfs实现，在提交过多对io要求很高的作业后，文件系统效率会严重降低。
发明内容
本发明的技术任务是解决现有技术的不足，提供一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法。
本发明的技术方案是按以下方式实现的，通过lustre文件系统来实现利用集群计算节点空闲硬盘空间扩展并行文件操作，Lustre对象存储文件系统是由客户端、存储服务器和元数据服务器MDS三个主要部分组成，Lustre的客户端运行Lustre文件系统，它和OST进行文件数据I/O的交互，和MDS进行命名空间操作的交互，即用计算节点的闲置磁盘空间做lustre文件系统的存储服务器ost，把计算节点的闲置磁盘空间整合成一个大的文件系统，然后客户端或计算节点来挂载此文件系统使用；
具体实现过程如下：
构建一小型集群，一个管理节点和10个计算节点，其中计算节点的硬盘容量为500G，Luster文件系统实现方式如下：
1）mds服务器的创建
在管理节点划分一个30G的区分格式化为mdt和mgs分区；
2）ost服务器的创建
共10个计算节点，每个节点500G的磁盘空间，拿出50G安装操作系统，剩下的450G空间做为lustre的ost空间；
把10个计算节点的空闲分区依次格式化为ost1—ost10；
至此lustre文件系统构建完毕，由10个450G容量的ost分区组成，文件系统共4.5T的容量；
3）客户端挂载
管理节点和10个计算节点，都挂载此4.5T存储空间使用，这样不仅计算节点的硬盘得到合理利用，增加了整个集群的存储空间，多出4.5T的使用容量，而且，对于有10个ost的lustre文件系统，其IO并发能力和带宽都要远远高于nfs文件系统，提高了集群的整体性能。
本发明的突出的有益效果：通过利用计算节点空闲硬盘空间做并行文件系统的方法，不仅可以解决文件系统IO并发和带宽问题，而且能提高整个集群系统的存储空间，合理利用集群资源。
 附图说明
图1是系统结构示意图。
具体实施方式
下面结合附图对本发明的方法作进一步详细说明。
北京中科院对地观测中心购买了一套小型集群，一个管理节点和10个计算节点，其中计算节点的硬盘容量为500G。
 Luster文件系统实现方式：
1. mds服务器的创建
在管理节点划分一个30G的区分格式化为mdt和mgs分区；
2. ost服务器的创建
共10个计算节点，每个节点500G的磁盘空间，拿出50G安装操作系统，剩下的450G空间做为lustre的ost空间；
把10个计算节点的空闲分区依次格式化为ost1—ost10
至此lustre文件系统构建完毕，由10个450G容量的ost分区组成，文件系统共4.5T的容量；
3. 客户端挂载
管理节点和10个计算节点，都挂载此4.5T存储空间使用即可。
这样不仅计算节点的硬盘得到合理利用，增加了整个集群的存储空间（多出4.5T的使用容量），而且，对于有10个ost的lustre文件系统，其IO并发能力和带宽都要远远高于nfs文件系统，提高了集群的整体性能。
除本发明的说明书公开的技术特征外均为本专业技术人员的公职技术。

Claims (1)

1.一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法，其特征在于，通过lustre文件系统来实现利用集群计算节点空闲硬盘空间扩展并行文件操作，Lustre对象存储文件系统是由客户端、存储服务器和元数据服务器MDS三个主要部分组成，Lustre的客户端运行Lustre文件系统，它和OST进行文件数据I/O的交互，和MDS进行命名空间操作的交互，即用计算节点的闲置磁盘空间做lustre文件系统的存储服务器ost，把计算节点的闲置磁盘空间整合成一个大的文件系统，然后客户端或计算节点来挂载此文件系统使用；
具体实现过程如下：
构建一小型集群，一个管理节点和10个计算节点，其中计算节点的硬盘容量为500G，Luster文件系统实现方式如下：
1）mds服务器的创建
在管理节点划分一个30G的区分格式化为mdt和mgs分区；
2）ost服务器的创建
共10个计算节点，每个节点500G的磁盘空间，拿出50G安装操作系统，剩下的450G空间做为lustre的ost空间；
把10个计算节点的空闲分区依次格式化为ost1—ost10；
至此lustre文件系统构建完毕，由10个450G容量的ost分区组成，文件系统共4.5T的容量；
3）客户端挂载
管理节点和10个计算节点，都挂载此4.5T存储空间使用，这样不仅计算节点的硬盘得到合理利用，增加了整个集群的存储空间，多出4.5T的使用容量，而且，对于有10个ost的lustre文件系统，其IO并发能力和带宽都要远远高于nfs文件系统，提高了集群的整体性能。
CN2013100179765A 2013-01-18 2013-01-18 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法 Pending CN103077245A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2013100179765A CN103077245A (zh) 2013-01-18 2013-01-18 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2013100179765A CN103077245A (zh) 2013-01-18 2013-01-18 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法

Publications (1)

Publication Number Publication Date
CN103077245A true CN103077245A (zh) 2013-05-01

Family

ID=48153775

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2013100179765A Pending CN103077245A (zh) 2013-01-18 2013-01-18 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法

Country Status (1)

Country Link
CN (1) CN103077245A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103646194A (zh) * 2013-11-29 2014-03-19 北京广利核系统工程有限公司 一种基于形式化验证的同步数据流程序的可信排序方法
CN104598568A (zh) * 2015-01-12 2015-05-06 浪潮电子信息产业股份有限公司 一种高效、低功耗的离线存储系统及方法
CN105045534A (zh) * 2015-07-10 2015-11-11 浪潮电子信息产业股份有限公司 一种监控Lustre文件系统的装置、方法及系统
CN106227839A (zh) * 2016-07-26 2016-12-14 浪潮电子信息产业股份有限公司 一种lustre文件系统的扩容方法及装置
CN106934017A (zh) * 2017-03-10 2017-07-07 郑州云海信息技术有限公司 一种用lustre文件系统替换Hadoop的HDFS文件系统的方法
WO2018233331A1 (zh) * 2017-06-22 2018-12-27 上海七牛信息技术有限公司 一种文件存储方法、系统及计算机存储介质
CN109189326A (zh) * 2018-07-25 2019-01-11 华为技术有限公司 分布式集群的管理方法和装置
CN109799951A (zh) * 2017-11-16 2019-05-24 三星电子株式会社 使用分布式的和虚拟的命名空间管理的按需存储供应
CN113225362A (zh) * 2020-02-06 2021-08-06 北京京东振世信息技术有限公司 服务器集群系统和服务器集群系统的实现方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060129614A1 (en) * 2004-12-14 2006-06-15 Kim Hong Y Crash recovery system and method for distributed file server using object based storage
CN102404201A (zh) * 2011-10-20 2012-04-04 浪潮电子信息产业股份有限公司 一种实现Lustre并行文件系统最大带宽的方法
CN102566942A (zh) * 2011-12-28 2012-07-11 华为技术有限公司 一种文件条带化写入方法、装置及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060129614A1 (en) * 2004-12-14 2006-06-15 Kim Hong Y Crash recovery system and method for distributed file server using object based storage
CN102404201A (zh) * 2011-10-20 2012-04-04 浪潮电子信息产业股份有限公司 一种实现Lustre并行文件系统最大带宽的方法
CN102566942A (zh) * 2011-12-28 2012-07-11 华为技术有限公司 一种文件条带化写入方法、装置及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
张媛等: "NFS over Lustre性能评测与分析", 《计算机工程》 *
蔡达伟: "Lustre集群文件系统实例分析", 《信息与电脑》 *
马艳军等: "集群文件系统lustre的介绍及应用", 《科技信息》 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103646194A (zh) * 2013-11-29 2014-03-19 北京广利核系统工程有限公司 一种基于形式化验证的同步数据流程序的可信排序方法
CN103646194B (zh) * 2013-11-29 2016-04-06 北京广利核系统工程有限公司 一种基于形式化验证的同步数据流程序的可信排序方法
CN104598568A (zh) * 2015-01-12 2015-05-06 浪潮电子信息产业股份有限公司 一种高效、低功耗的离线存储系统及方法
CN105045534A (zh) * 2015-07-10 2015-11-11 浪潮电子信息产业股份有限公司 一种监控Lustre文件系统的装置、方法及系统
CN106227839A (zh) * 2016-07-26 2016-12-14 浪潮电子信息产业股份有限公司 一种lustre文件系统的扩容方法及装置
CN106934017A (zh) * 2017-03-10 2017-07-07 郑州云海信息技术有限公司 一种用lustre文件系统替换Hadoop的HDFS文件系统的方法
WO2018233331A1 (zh) * 2017-06-22 2018-12-27 上海七牛信息技术有限公司 一种文件存储方法、系统及计算机存储介质
CN109799951A (zh) * 2017-11-16 2019-05-24 三星电子株式会社 使用分布式的和虚拟的命名空间管理的按需存储供应
CN109799951B (zh) * 2017-11-16 2024-03-01 三星电子株式会社 使用分布式的和虚拟的命名空间管理的按需存储供应
CN109189326A (zh) * 2018-07-25 2019-01-11 华为技术有限公司 分布式集群的管理方法和装置
CN109189326B (zh) * 2018-07-25 2020-09-08 华为技术有限公司 分布式集群的管理方法和装置
CN113225362A (zh) * 2020-02-06 2021-08-06 北京京东振世信息技术有限公司 服务器集群系统和服务器集群系统的实现方法
CN113225362B (zh) * 2020-02-06 2024-04-05 北京京东振世信息技术有限公司 服务器集群系统和服务器集群系统的实现方法

Similar Documents

Publication Publication Date Title
CN103077245A (zh) 一种利用集群计算节点空闲硬盘空间扩展并行文件系统的方法
Yuan et al. A highly practical approach toward achieving minimum data sets storage cost in the cloud
CN106021268B (zh) 文件系统块级分层与协同分配
US8762407B2 (en) Concurrent OLAP-oriented database query processing method
Hao et al. Research of Cloud Computing based on the Hadoop platform
CN102033930A (zh) 分布式内存数据库系统
CN104391748A (zh) 一种mapreduce计算过程优化方法
CN105630810A (zh) 一种对于海量小文件在分布式存储系统中上载的方法
CN103235811A (zh) 一种数据存储方法及装置
CN112269887A (zh) 一种基于图数据库的分布式系统
Ding et al. ComMapReduce: An improvement of MapReduce with lightweight communication mechanisms
Wang et al. An ETL services framework based on metadata
CN103198119A (zh) 一种快速查找具有相同重复数据删除标识的所有链接文件的方法
CN102567442A (zh) 一种分布式文件系统中元数据磁盘同步的方法
CN103645873A (zh) 一种在趋势曲线系统中实现高效数据缓存的方法
Yang et al. Efficient FPGA-based graph processing with hybrid pull-push computational model
Frey et al. Spinning relations: high-speed networks for distributed join processing
Li et al. Survey of recent research progress and issues in big data
CN108319604B (zh) 一种hive中大小表关联的优化方法
CN101894161B (zh) 一种用于实时监控的循环事件存取方法和装置
Perera et al. A fast, scalable, universal approach for distributed data aggregations
Falk et al. Query-able kafka: An agile data analytics pipeline for mobile wireless networks
CN103049322A (zh) 一种针对拓扑关系并行计算的矢量目标集均衡划分方法
Pirk Efficient cross-device query processing
Wang et al. A BSP-based parallel iterative processing system with multiple partition strategies for big graphs

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20130501