CN106020720B - 一种Smart Rack节点IO性能优化的方法 - Google Patents

一种Smart Rack节点IO性能优化的方法 Download PDF

Info

Publication number
CN106020720B
CN106020720B CN201610320675.3A CN201610320675A CN106020720B CN 106020720 B CN106020720 B CN 106020720B CN 201610320675 A CN201610320675 A CN 201610320675A CN 106020720 B CN106020720 B CN 106020720B
Authority
CN
China
Prior art keywords
file system
optimization
setting
performance
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610320675.3A
Other languages
English (en)
Other versions
CN106020720A (zh
Inventor
白云峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inspur Electronic Information Industry Co Ltd
Original Assignee
Inspur Electronic Information Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inspur Electronic Information Industry Co Ltd filed Critical Inspur Electronic Information Industry Co Ltd
Priority to CN201610320675.3A priority Critical patent/CN106020720B/zh
Publication of CN106020720A publication Critical patent/CN106020720A/zh
Application granted granted Critical
Publication of CN106020720B publication Critical patent/CN106020720B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061—Improving I/O performance
    • G06F3/0613—Improving I/O performance in relation to throughput
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638—Organizing or formatting or addressing of data
    • G06F3/0644—Management of space entities, e.g. partitions, extents, pools
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671—In-line storage system
    • G06F3/0683—Plurality of storage devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

本发明公开一种SMART RACK节点IO性能优化的方法,涉及Smart Rack领域，首先通过Disk相关参数调优，其次通过文件系统参数调优，最后通过文件系统挂载参数调优，进行提升系统I/O性能，提升Smart Rack IO的吞吐量。本发明公开的方法,在不需要增加额外预算的前提下，通过最常见最有效的Disk参数调优、文件系统参数调优、文件系统挂载参数调优，极大提升了Smart Rack IO的吞吐量，提升了服务器系统I/O性能，更好服务于云计算、大数据处理等应用，具有较好的推广使用价值。

Description

一种Smart Rack节点IO性能优化的方法
技术领域
本发明涉及Smart Rack领域，具体的说是一种SMART RACK节点IO性能优化的方法。
背景技术
Smartrack是一类专为互联网及通信运营商开发的定制化解决方案，整机柜服务器打破了传统服务器固有设计架构，摒弃传统服务器单机电源、风扇、管理独享的设计思想，将供电、散热和管理单元统一集中，使得Smart Rack理论上最大可支持80个计算节点。该产品整体生产、整体部署，使得部署对象从单台服务器变成集成的数据中心模块，并且还具有自动化的到货一致性与状态检验系统，加电后可自动完成整机柜所有部件的状态监测，使得到货检验时间由原来的1到2小时，缩短到分钟级别。
当前Smart Rack对CPU、硬盘和内存方面均有明确的安装要求。然而，对于如何设置磁盘子系统的说明远远不够。由于服务器被广泛的应用于各种环境，数据中心的服务器整合，磁盘子系统是整个服务器系统性能的主要方面。因此了解服务器的功能是判断I/O子系统对性能产生多大影响的关键。
由于各种服务器的I/O负载情形各异，系统中文件系统的缺省配置一般来说都比较中庸，强调普遍适用性。然而在特定应用下，这种配置往往在I/O性能方面不能达到最优，因此如果应用对I/O性能要求较高，需要采用性能更高的硬件（如磁盘、HBA卡、CPU、MEM等）外，还可以通过对文件系统进行性能调优，来获得更高的I/O性能提升。
例如下面两种服务器对磁盘I/O性能要求非常高：1、文件服务器要求在用户和磁盘子系统之间快速地移动数据，由于文件服务器面向客户端发送数据，需要快速读取所有的数据；2、数据库服务器最终从磁盘上的数据仓库里查找和获取数据，通常需要大量磁盘I/O将数据读入内存，更新磁盘数据。因此，文件服务器和数据库服务器对磁盘I/O性能要求非常高。
发明内容
本发明针对目前技术发展和用户使用需求，提供一种SMART RACK节点IO性能优化的方法。
本发明所述一种SMART RACK节点IO性能优化的方法，解决上述技术问题采用的技术方案如下：所述一种SMART RACK节点IO性能优化的方法，首先通过Disk相关参数调优，其次通过文件系统参数调优，最后通过文件系统挂载(mount)参数调优，来提升系统I/O性能，大大提升Smart Rack IO的吞吐量。
优选的，所述Disk相关参数调优，主要包括缓存模式、算法、deadline调度参数和readahead预读扇区数设置；其中，缓存模式Cache mode设置:启用WCE=1(Write CacheEnable), RCD=0(Read Cache Disable)模式；deadline调度参数设置为read_expire = 1/2 write_expire。
优选的，所送文件系统参数调优，主要包括块（block size）大小设置，索引节点inode 大小设置，保留区域设置，并关闭系统日志功能；其中，所述块大小设置，根据实际使用情况文件系统块大小设置为1KB、2KB、4KB；索引节点inode 大小设置，由mkfs.ext3 -i指定，可用文件系统文件大小平均值来设定；保留区域（reserved block）由mkfs.ext3 -m指定，缺省为5%。
优选的，所述文件系统挂载(mount)参数调优，包括磁盘载入优化，采用async异步I/O方式，并启用写回机制；其中，所述磁盘载入优化，给文件系统挂载的时候加上 noatime参数，通过noatime 这个参数来禁止记录最近一次访问时间戳，同时访问文件目录，不修改访问文件元信息；所述采用async异步I/O方式，进行异步I/O方式数据同步能够减少系统较多的写入磁盘；所述启用写回机制，日志模式下，设置写回机制。
本发明所述一种SMART RACK节点IO性能优化的方法与现有技术相比具有的有益效果是：本发明公开的方法, 通过最常见最有效的Disk参数调优、文件系统参数调优、文件系统挂载(mount)参数调优，并且不需要增加额外预算，来达到提升系统I/O性能的目的，能够大大提升Smart Rack IO的吞吐量，更好服务于云计算、大数据处理等应用。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，对本发明所述一种SMART RACK节点IO性能优化的方法进一步详细说明。
鉴于在整个系统中，磁盘IO速度远远低于内存和处理器的读写速度，磁盘IO性能是影响整个系统的关键瓶颈，本发明所公开了的SMART RACK节点IO性能优化的方法，通过优化磁盘IO性能，从缓存模式，算法，deadline调度参数和预读扇区数等方面进行，并进行文件系统参数调优，以及文件系统挂载参数调优，最终达到SMART RACK节点IO性能优化的目的。
实施例：
本实施例所述一种SMART RACK节点IO性能优化的方法，首先通过Disk相关参数调优，其次通过文件系统参数调优，最后通过文件系统挂载(mount)参数调优，来提升系统I/O性能，大大提升Smart Rack IO的吞吐量。
所述Disk相关参数调优，主要包括缓存模式、算法、deadline调度参数和readahead预读扇区数设置；其中，缓存模式Cache mode设置:启用WCE=1(Write CacheEnable), RCD=0(Read Cache Disable)模式；
sdparm -s WCE=1, RCD=0 -S /dev/sdb
deadline调度参数设置为read_expire = 1/2 write_expire，对于大量频繁的小文件I/O负载，应当这两者取较小值；
echo 500 > /sys/block/sdb/queue/iosched/read_expire
echo 1000 > /sys/block/sdb/queue/iosched/write_expire
readahead 预读扇区数设置，预读是提高磁盘性能的有效手段，对顺序读比较有效，利用数据的局部性特点；blockdev --setra 256 /dev/sdb。
所送文件系统参数调优，主要包括块（block size）大小设置，索引节点inode 大小设置，保留区域设置，并关闭系统日志功能；其中，所述块大小设置，大数块会浪费一定空间，但能够提升I/O性能，根据实际使用情况文件系统块大小设置为1KB、2KB、4KB，
block size = 4096 (4KB) mkfs.ext3 –b；
索引节点inode 大小设置，由mkfs.ext3 -i指定，可用文件系统文件大小平均值来设定,这样可减少磁盘寻址和元数据操作时间，保留区域（reserved block）由mkfs.ext3-m指定，缺省为5%，能够调小该值以增大部分可用存储空间；同时关闭系统日志功能，禁用日志功能，对数据安全要求不高的应用（如web cache）可以提高I/O性能；tune2fs -O^has_journal /dev/sdb。
所述文件系统挂载(mount)参数调优，包括磁盘载入优化，采用async异步I/O方式，启用写回机制；这样可以减轻磁盘同步和回写负担，将资源利用在系统服务的IO读写上面；其中，所述磁盘载入优化，给文件系统挂载的时候加上 noatime 参数，通过noatime 这个参数来禁止记录最近一次访问时间戳，能大幅提高文件系统性能，同时访问文件目录，不修改访问文件元信息，对于频繁的小文件负载，可以有效提高性能；所述采用async异步I/O方式，进行异步I/O方式数据同步会减少系统较多的写入磁盘，提高IO读写性能；所述启用写回机制，日志模式下，设置写回机制，可提高写性能。
上述具体实施方式仅是本发明的具体个案，本发明的专利保护范围包括但不限于上述具体实施方式，任何符合本发明的权利要求书的且任何所属技术领域的普通技术人员对其所做的适当变化或替换，皆应落入本发明的专利保护范围。

Claims (1)

1.一种SMART RACK节点IO性能优化的方法，其特征在于,首先通过Disk相关参数调优，其次通过文件系统参数调优，最后通过文件系统挂载参数调优，进行提升系统I/O性能，提升Smart Rack IO的吞吐量；
所述Disk相关参数调优，包括缓存模式、算法、deadline调度参数和readahead预读扇区数设置；其中，缓存模式Cache mode设置:启用WCE＝1,RCD＝0模式；deadline调度参数设置为read_expire＝1/2write_expire；
所送文件系统参数调优，包括块大小设置，索引节点inode大小设置，保留区域设置，并关闭系统日志功能；其中，所述块大小设置，根据实际使用情况文件系统块大小设置为1KB、2KB、4KB；索引节点inode大小设置，由mkfs.ext3-i指定，可用文件系统文件大小平均值来设定；保留区域由mkfs.ext3-m指定，缺省为5％；
所述文件系统挂载参数调优，包括磁盘载入优化，采用async异步I/O方式，并启用写回机制；其中，所述磁盘载入优化，给文件系统挂载时加上noatime参数，同时访问文件目录，不修改访问文件元信息；所述采用async异步I/O方式，进行异步I/O方式数据同步；所述启用写回机制，日志模式下，设置写回机制。
CN201610320675.3A 2016-05-16 2016-05-16 一种Smart Rack节点IO性能优化的方法 Active CN106020720B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610320675.3A CN106020720B (zh) 2016-05-16 2016-05-16 一种Smart Rack节点IO性能优化的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610320675.3A CN106020720B (zh) 2016-05-16 2016-05-16 一种Smart Rack节点IO性能优化的方法

Publications (2)

Publication Number Publication Date
CN106020720A CN106020720A (zh) 2016-10-12
CN106020720B true CN106020720B (zh) 2018-12-14

Family

ID=57097896

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610320675.3A Active CN106020720B (zh) 2016-05-16 2016-05-16 一种Smart Rack节点IO性能优化的方法

Country Status (1)

Country Link
CN (1) CN106020720B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109634924B (zh) * 2018-11-02 2022-12-20 华南师范大学 基于机器学习的文件系统参数自动调优方法及系统
CN109992574A (zh) * 2019-04-10 2019-07-09 苏州浪潮智能科技有限公司 一种自动调整并行文件系统的参数的方法及装置
CN111338570B (zh) * 2020-02-16 2022-07-22 苏州浪潮智能科技有限公司 一种并行文件系统io优化方法与系统
CN113821157B (zh) * 2020-06-18 2024-05-24 中移(苏州)软件技术有限公司 一种本地磁盘挂载方法、装置、设备及存储介质
CN115048360B (zh) * 2022-07-29 2024-10-18 苏州浪潮智能科技有限公司 一种MySQL数据库调优装置、方法、终端及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7366647B2 (en) * 2000-06-02 2008-04-29 Nec Electronics Corporation Bus performance evaluation method for algorithm description
CN101866359A (zh) * 2010-06-24 2010-10-20 北京航空航天大学 一种机群文件系统中的小文件存储和访问方法
CN103268204A (zh) * 2013-06-08 2013-08-28 北京百度网讯科技有限公司 固态硬盘的调优方法及装置
CN105224253A (zh) * 2015-09-29 2016-01-06 浪潮电子信息产业股份有限公司 一种固态硬盘性能优化的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7366647B2 (en) * 2000-06-02 2008-04-29 Nec Electronics Corporation Bus performance evaluation method for algorithm description
CN101866359A (zh) * 2010-06-24 2010-10-20 北京航空航天大学 一种机群文件系统中的小文件存储和访问方法
CN103268204A (zh) * 2013-06-08 2013-08-28 北京百度网讯科技有限公司 固态硬盘的调优方法及装置
CN105224253A (zh) * 2015-09-29 2016-01-06 浪潮电子信息产业股份有限公司 一种固态硬盘性能优化的方法

Also Published As

Publication number Publication date
CN106020720A (zh) 2016-10-12

Similar Documents

Publication Publication Date Title
CN106020720B (zh) 一种Smart Rack节点IO性能优化的方法
US20210374056A1 (en) Systems and methods for scalable and coherent memory devices
WO2020103506A1 (zh) 基于混合存储的数据管理系统、方法、终端及介质
US20180288057A1 (en) Multi-protocol access control lists
US11561930B2 (en) Independent evictions from datastore accelerator fleet nodes
US10042885B2 (en) Index table based routing for query resource optimization
CN104281414B (zh) 分布式文件系统及其小文件访问方法
US11080207B2 (en) Caching framework for big-data engines in the cloud
CN102521330A (zh) 一种桌面虚拟化环境下的镜像分布式存储方法
US10298709B1 (en) Performance of Hadoop distributed file system operations in a non-native operating system
CN111984191A (zh) 一种支持分布式存储的多客户端缓存方法及系统
CN110688062A (zh) 一种缓存空间的管理方法及装置
KR20170002866A (ko) 분산 환경에서 사용자 애플리케이션의 액세스 특성에 따른 적응형 캐시 관리 방법
WO2024198872A1 (zh) 数据管理系统、数据更新方法及装置
CN108920095B (zh) 一种基于crush的数据存储优化方法和装置
CN118152434A (zh) 数据管理方法及计算设备
CN110659305A (zh) 基于非易失存储系统的高性能关系型数据库服务
TWI828307B (zh) 用於記憶體管理機會與記憶體交換任務之運算系統及管理其之方法
CN205263797U (zh) 一种采用固态硬盘ssd作为二级缓存的存储器
JPWO2012124295A1 (ja) コンピュータシステム、制御システム、制御方法および制御プログラム
Bian et al. Rainbow: Adaptive layout optimization for wide tables
Ren et al. {Memory-Centric} Data Storage for Mobile Systems
US10686906B2 (en) Methods for managing multi-level flash storage and devices thereof
US11323497B2 (en) Expiration of data streams for application programs in a streaming data storage platform
CN114443573A (zh) 一种元数据检索方法、装置、电子设备和介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant