CN102291466A - 一种优化集群存储网络资源配置的方法 - Google Patents
一种优化集群存储网络资源配置的方法 Download PDFInfo
- Publication number
- CN102291466A CN102291466A CN2011102604553A CN201110260455A CN102291466A CN 102291466 A CN102291466 A CN 102291466A CN 2011102604553 A CN2011102604553 A CN 2011102604553A CN 201110260455 A CN201110260455 A CN 201110260455A CN 102291466 A CN102291466 A CN 102291466A
- Authority
- CN
- China
- Prior art keywords
- network
- storage
- bandwidth
- test
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明涉及一种计算机应用技术,具体地说是一种优化集群存储网络资源配置的方法。应用于集群网络存储系统的开发测试、应用部署中。集群网络存储系统中,针对某些高性能数据处理领域,需要经常存储、访问海量数据文件,同时运行并行程序对海量数据进行处理,如:高能物理实验中的数据处理程序、流媒体文件的存储与访问等。集群网络存储系统的特点是底层存储设备节点多、网络数据访问量大，目前部署集群网络存储系统时，需综合考虑系统的需求容量、性能、规模等参数。同时，开发测试过程中，合理分配节点数量、合理利用网络带宽是降低集群网络存储系统成本的重要途径。
Description
技术领域
本发明涉及一种计算机应用技术, 具体地说是一种优化集群存储网络资源配置的方法。
本发明应用于集群网络存储系统的开发测试、应用部署中。集群网络存储系统中,针对某些高性能数据处理领域,需要经常存储、访问海量数据文件,同时运行并行程序对海量数据进行处理,如:高能物理实验中的数据处理程序、流媒体文件的存储与访问等。集群网络存储系统的特点是底层存储设备节点多、网络数据访问量大，目前部署集群网络存储系统时，需综合考虑系统的需求容量、性能、规模等参数。同时，开发测试过程中，合理分配节点数量、合理利用网络带宽是降低集群网络存储系统成本的重要途径。
背景技术
集群网络存储发展过程中，出现了很多的新概念，例如虚拟文件系统、虚拟存储服务器、虚拟存储池等，这些虚拟概念是在实际物理结构基础上构建的。合理分配实际的计算、存储服务器，有效利用各部分资源性能进行资源虚拟化尤其重要。
存储网络中，有效地分配各网络终端服务器数量及存储磁盘阵列的容量，可以避免网络瓶颈造成了物理资源的浪费，实现系统虚拟化后资源的最大化利用。
发明内容
本发明的目的是提供一种优化集群存储网络资源配置的方法，或是一种使用虚拟内存盘进行存储系统网络带宽瓶颈的评测方法，具体来说就是通过屏蔽后端磁盘阵列或磁盘读写速度的影响，直接进行网络存储数据的带宽评测，给大系统的评测、搭建提供合理的依据。
本发明的目的是按以下方式实现的，通过屏蔽后端磁盘阵列或磁盘读写速度的影响，直接进行网络存储数据的带宽评测，给大系统的评测、搭建提供合理的依据，使用本地内存盘建立虚拟存储池的方法进行网络存储数据带宽的评测，该方法通过直接修改本地linux 系统参数，设定本地虚拟存储盘大小，进而在本地内存盘上建立并行文件系统的虚拟存储池，通过系统所属网络的客户端节点访问虚拟存储空间，并测试网络数据的传输带宽，给出系统网络带宽的拟合曲线，为系统搭建的架构、规模提供可靠的评测依据，避免物理资源、网络资源的浪费：具体步骤如下：
该方法包括：构建虚拟内存盘存储池、实施网络性能优化测试，其中：
构建虚拟内存盘存储池：是该评测方法的关键，是本发明的核心部分，网络存储的文件系统不再使用传统的物理磁盘或后端磁盘阵列进行创建，而使用本地linux系统下的虚拟内存盘，通过修改/etc/grub.conf中的启动选项设置本地虚拟内存盘的大小，系统启动后，使用文件系统创建命令直接访问本地的/dev/ram0进行本地虚拟内存盘上文件系统的创建，整个网络中所有存储空间虚拟成统一的资源对外提供服务，本地计算机内存可达上百GB的空间，为该方法提供了足够的空间大小，使用该方法能有效避免后端存储资源对网络带宽的影响，特别是在系统的预估过程中有着重要意义；
网络性能优化测试：是在屏蔽后端阵列影响的基础上，进行网络端口带宽的优化，进而确定网络端口的计算、存储资源有效分配；通过多计算客户端向单一存储端口读写数据测试单一存储端口的数据传输带宽；通过多存储端口提供服务，测试单一计算客户节点的数据读写网络带宽瓶颈；通过多计算节点对多存储节点绘制网络带宽及端口带宽吞吐率的拟合曲线，通过以上数据分析，进行计算资源与存储资源的有效分配，减少存储、计算、网络资源的瓶颈浪费，实现系统功效最大化。
本发明的友谊效果是：随着存储架构的发展，集群网络存储的应用部署越来越广泛。针对不同的用户需求，更好的评测存储网络的数据传输能力、评估确定系统环境规模具有重要意义。使用虚拟内存盘测试集群存储网络带宽，并进行网络配置资源优化，该方法在目前集群文件系统的开发中已经得到应用，对评估系统性能、系统规模大小具有重要的作用。
附图说明
图1虚拟内存盘存储池；
图2资源优化分配。
具体实施方式
参照幅图对本发明的方法做以下详细的说明。
使用本地内存盘建立虚拟存储池的方法进行网络存储数据带宽的评测。该方法可以通过直接修改本地linux 系统参数，设定本地虚拟存储盘大小，进而在本地内存盘上建立并行文件系统的虚拟存储池。通过系统所属网络的客户端节点访问虚拟存储空间，并测试网络数据的传输带宽，给出系统网络带宽的拟合曲线，为系统搭建的架构、规模提供可靠的评测依据，避免物理资源、网络资源的浪费。该方法包括以下两个部分：虚拟内存盘存储池、网络性能优化测试。
构建虚拟内存盘存储池：是该评测方法的关键，是本发明的核心部分。网络存储的文件系统不在使用传统的物理磁盘或后端磁盘阵列进行创建，而使用本地linux系统下的虚拟内存盘。通过修改/etc/grub.conf中的启动选项设置本地虚拟内存盘的大小。系统启动后，使用文件系统创建命令直接访问本地的/dev/ram0进行本地虚拟内存盘上文件系统的创建。整个网络中所有存储空间虚拟成统一的资源对外提供服务。本地计算机内存可达上百GB的空间，为该方法提供了足够的空间大小。使用该方法可以有效避免后端存储资源对网络带宽的影响，特别是在系统的预估过程中有着重要意义。
实施网络性能优化测试：是在屏蔽后端阵列影响的基础上，进行网络端口带宽的优化，进而确定网络端口的计算、存储资源有效分配。可以通过多计算客户端向单一存储端口读写数据测试单一存储端口的数据传输带宽；通过多存储端口提供服务，测试单一计算客户节点的数据读写网络带宽瓶颈；通过多计算节点对多存储节点绘制网络带宽及端口带宽吞吐率的拟合曲线。通过以上数据分析，进行计算资源与存储资源的有效分配。减少存储、计算、网络资源的瓶颈浪费，实现系统功效最大化。
实施例
选择大内存的服务器模拟后端存储资源，设置linux系统中/etc/grub.conf中启动项，内核后加入ramdisk_size=XXXXXX。系统重启后，可以发现系统的/dev/ram0大小为配置文件中设置的大小。设置过程中留下系统本身使用的内存空间容量。
利用文件系统搭建虚拟的后端存储池。以lustre文件系统为例，直接在/dev/ram0上创建并行文件系统的OST存储对象并挂载。
通过设置遍历OST数目可以实现多计算节点对单一OST访问的读写控制，通过增减计算节点的数量测试单一OST节点的网络带宽。计算节点增加而网络带宽不再增加时问存储端的网络带宽瓶颈。同样，可以通过增加OST节点数量测试出单一计算节点的网络带宽瓶颈值。
通过测试并绘制多计算节点对多存储节点的网络带宽曲线，在一定阈量的基础上合理分配计算资源、存储资源、网络资源。实现计算、存储、网络资源的最大化应用，减少部署时的资源浪费。
除说明书所述的技术特征外，均为本专业技术人员的已知技术。
Claims (1)
1.一种优化集群存储网络资源配置的方法，其特征在于，使用本地内存盘建立虚拟存储池的方法进行网络存储数据带宽的评测，内容包括：通过直接修改本地linux 系统参数，设定本地虚拟存储盘大小，进而在本地内存盘上建立并行文件系统的虚拟存储池，通过系统所属网络的客户端节点访问虚拟存储空间，并测试网络数据的传输带宽，给出系统网络带宽的拟合曲线，为系统搭建的架构、规模提供可靠的评测依据，避免物理资源、网络资源的浪费；具体步骤如下：
通过屏蔽后端磁盘阵列或磁盘读写速度的影响，直接进行网络存储数据的带宽评测，给大系统的评测、搭建提供合理的依据，该方法包括：构建虚拟内存盘存储池、实施例网络性能优化测试，其中：
构建虚拟内存盘存储池：是该评测方法的关键，是本发明的核心部分，网络存储的文件系统不再使用传统的物理磁盘或后端磁盘阵列进行创建，而使用本地linux系统下的虚拟内存盘，通过修改/etc/grub.conf中的启动选项设置本地虚拟内存盘的大小，系统启动后，使用文件系统创建命令直接访问本地的/dev/ram0进行本地虚拟内存盘上文件系统的创建，整个网络中所有存储空间虚拟成统一的资源对外提供服务，本地计算机内存可达上百GB的空间，为该方法提供了足够的空间大小，使用该方法能有效避免后端存储资源对网络带宽的影响，特别是在系统的预估过程中有着重要意义；
实施网络性能优化测试：是在屏蔽后端阵列影响的基础上，进行网络端口带宽的优化，进而确定网络端口的计算、存储资源有效分配；通过多计算客户端向单一存储端口读写数据测试单一存储端口的数据传输带宽；通过多存储端口提供服务，测试单一计算客户节点的数据读写网络带宽瓶颈；通过多计算节点对多存储节点绘制网络带宽及端口带宽吞吐率的拟合曲线，通过以上数据分析，进行计算资源与存储资源的有效分配，减少存储、计算、网络资源的瓶颈浪费，实现系统功效最大化。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201110260455.3A CN102291466B (zh) | 2011-09-05 | 2011-09-05 | 一种优化集群存储网络资源配置的方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201110260455.3A CN102291466B (zh) | 2011-09-05 | 2011-09-05 | 一种优化集群存储网络资源配置的方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN102291466A true CN102291466A (zh) | 2011-12-21 |
| CN102291466B CN102291466B (zh) | 2014-02-26 |
Family
ID=45337566
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201110260455.3A Active CN102291466B (zh) | 2011-09-05 | 2011-09-05 | 一种优化集群存储网络资源配置的方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN102291466B (zh) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105589664A (zh) * | 2015-12-29 | 2016-05-18 | 四川中电启明星信息技术有限公司 | 虚拟存储高速传输方法 |
| CN108804169A (zh) * | 2018-06-14 | 2018-11-13 | 郑州云海信息技术有限公司 | 一种可配置资源的创建方法以及相关装置 |
| CN110034975A (zh) * | 2019-03-31 | 2019-07-19 | 山东超越数控电子股份有限公司 | 一种nas存储系统主机链路带宽验证方法 |
| CN111708488A (zh) * | 2020-05-26 | 2020-09-25 | 苏州浪潮智能科技有限公司 | 一种基于分布式内存盘的Ceph性能优化的方法和设备 |
| CN113342475A (zh) * | 2021-07-05 | 2021-09-03 | 统信软件技术有限公司 | 一种服务器集群构建方法、计算设备及存储介质 |
| WO2021208560A1 (zh) * | 2020-04-17 | 2021-10-21 | 苏州浪潮智能科技有限公司 | 一种文件系统架构的性能调整方法和装置 |
| CN113608696A (zh) * | 2021-08-04 | 2021-11-05 | 北京八分量信息科技有限公司 | 异构网络中共享存储资源的自动配置方法、装置及相关产品 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030033308A1 (en) * | 2001-08-03 | 2003-02-13 | Patel Sujal M. | System and methods for providing a distributed file system utilizing metadata to track information about data stored throughout the system |
| CN101304360A (zh) * | 2007-05-08 | 2008-11-12 | 艾岩 | 一种虚拟化用户数字终端的系统与方法 |
| US20090106493A1 (en) * | 2007-10-22 | 2009-04-23 | Kyocera Mita Corporation | Information processor, virtual disk managing method, and computer-readable recording medium that records device driver |
| CN102063326A (zh) * | 2010-12-31 | 2011-05-18 | 中国传媒大学 | 基于虚拟化的文件系统容量的测试系统和方法 |
| CN102088490A (zh) * | 2011-01-19 | 2011-06-08 | 华为技术有限公司 | 数据存储方法、设备和系统 |
-
2011
- 2011-09-05 CN CN201110260455.3A patent/CN102291466B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030033308A1 (en) * | 2001-08-03 | 2003-02-13 | Patel Sujal M. | System and methods for providing a distributed file system utilizing metadata to track information about data stored throughout the system |
| CN101304360A (zh) * | 2007-05-08 | 2008-11-12 | 艾岩 | 一种虚拟化用户数字终端的系统与方法 |
| US20090106493A1 (en) * | 2007-10-22 | 2009-04-23 | Kyocera Mita Corporation | Information processor, virtual disk managing method, and computer-readable recording medium that records device driver |
| CN102063326A (zh) * | 2010-12-31 | 2011-05-18 | 中国传媒大学 | 基于虚拟化的文件系统容量的测试系统和方法 |
| CN102088490A (zh) * | 2011-01-19 | 2011-06-08 | 华为技术有限公司 | 数据存储方法、设备和系统 |
Non-Patent Citations (1)
| Title |
|---|
| 郭御风,李琼,刘光明,刘衡竹: "虚拟存储技术研究", 《计算机应用研究 》 * |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105589664A (zh) * | 2015-12-29 | 2016-05-18 | 四川中电启明星信息技术有限公司 | 虚拟存储高速传输方法 |
| CN105589664B (zh) * | 2015-12-29 | 2018-07-31 | 四川中电启明星信息技术有限公司 | 虚拟存储高速传输方法 |
| CN108804169A (zh) * | 2018-06-14 | 2018-11-13 | 郑州云海信息技术有限公司 | 一种可配置资源的创建方法以及相关装置 |
| CN110034975A (zh) * | 2019-03-31 | 2019-07-19 | 山东超越数控电子股份有限公司 | 一种nas存储系统主机链路带宽验证方法 |
| WO2021208560A1 (zh) * | 2020-04-17 | 2021-10-21 | 苏州浪潮智能科技有限公司 | 一种文件系统架构的性能调整方法和装置 |
| CN111708488A (zh) * | 2020-05-26 | 2020-09-25 | 苏州浪潮智能科技有限公司 | 一种基于分布式内存盘的Ceph性能优化的方法和设备 |
| CN111708488B (zh) * | 2020-05-26 | 2023-01-06 | 苏州浪潮智能科技有限公司 | 一种基于分布式内存盘的Ceph性能优化的方法和设备 |
| CN113342475A (zh) * | 2021-07-05 | 2021-09-03 | 统信软件技术有限公司 | 一种服务器集群构建方法、计算设备及存储介质 |
| CN113342475B (zh) * | 2021-07-05 | 2024-03-01 | 统信软件技术有限公司 | 一种服务器集群构建方法、计算设备及存储介质 |
| CN113608696A (zh) * | 2021-08-04 | 2021-11-05 | 北京八分量信息科技有限公司 | 异构网络中共享存储资源的自动配置方法、装置及相关产品 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN102291466B (zh) | 2014-02-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN102291466B (zh) | 一种优化集群存储网络资源配置的方法 | |
| Krzywda et al. | Power-performance tradeoffs in data center servers: DVFS, CPU pinning, horizontal, and vertical scaling | |
| US8856794B2 (en) | Multicore runtime management using process affinity graphs | |
| US9736043B2 (en) | Optimization of resource utilization in a collection of devices | |
| US9229838B2 (en) | Modeling and evaluating application performance in a new environment | |
| Xiong et al. | Optimizing data placement in heterogeneous Hadoop clusters | |
| CN105867832B (zh) | 一种面向用户与应用的计算机与智能设备加速方法和装置 | |
| Chen et al. | Automated analysis of performance and energy consumption for cloud applications | |
| CN103176849A (zh) | 一种基于资源分类的虚拟机集群的部署方法 | |
| Hou et al. | Understanding I/O performance behaviors of cloud storage from a client’s perspective | |
| CN103019855A (zh) | MapReduce作业执行时间预测方法 | |
| Marszałkowski et al. | Time and energy performance of parallel systems with hierarchical memory | |
| Li et al. | Cost-aware automatic scaling and workload-aware replica management for edge-cloud environment | |
| Mehrotra et al. | Performance evaluation of Amazon elastic compute cloud for NASA high‐performance computing applications | |
| CN103257923A (zh) | 数据中心数据分析类基准测试程序的应用选取方法及系统 | |
| Li et al. | iMIG: Toward an adaptive live migration method for KVM virtual machines | |
| Liu et al. | Power consumption prediction of web services for energy-efficient service selection | |
| Groot et al. | Modeling i/o interference for data intensive distributed applications | |
| Gao et al. | Performance analysis of virtual disk system for transparent computing | |
| Liu et al. | An efficient job scheduling for MapReduce clusters | |
| Ouarnoughi et al. | Considering I/O processing in CloudSim for performance and energy evaluation | |
| Betke et al. | Benefit of DDN’s IME-FUSE for I/O Intensive HPC Applications | |
| Bulatewicz et al. | A distributed data component for the Open Modeling Interface | |
| Gao et al. | A cache management strategy for transparent computing storage system | |
| Chasapis et al. | Evaluating Lustre's metadata server on a multi-socket platform |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant |