CN113805800B - 一种基于raid条带的写io的方法、装置、设备及可读介质 - Google Patents
一种基于raid条带的写io的方法、装置、设备及可读介质 Download PDFInfo
- Publication number
- CN113805800B CN113805800B CN202110905107.0A CN202110905107A CN113805800B CN 113805800 B CN113805800 B CN 113805800B CN 202110905107 A CN202110905107 A CN 202110905107A CN 113805800 B CN113805800 B CN 113805800B
- Authority
- CN
- China
- Prior art keywords
- disk
- writing
- slow
- dividing
- disks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000012360 testing method Methods 0.000 claims abstract description 53
- 238000012545 processing Methods 0.000 claims abstract description 19
- 238000005192 partition Methods 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 11
- 230000001934 delay Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
- G06F3/0611—Improving I/O performance in relation to response time
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
- G06F11/2205—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing using arrangements specific to the hardware being tested
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/22—Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
- G06F11/2273—Test methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
- G06F3/0613—Improving I/O performance in relation to throughput
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0683—Plurality of storage devices
- G06F3/0689—Disk arrays, e.g. RAID, JBOD
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Debugging And Monitoring (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
Abstract
本发明提供了一种基于RAID条带的写IO的方法、装置、设备及可读介质,该方法包括:对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;根据预设性能指标将系统状态进行划分;响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。通过使用本发明的方案,能够降低RAID条带IO的写入时延,提高了数据的带宽,提高了存储系统的性能。
Description
技术领域
本领域涉及计算机领域,并且更具体地涉及一种基于RAID条带的写IO的方法、装置、设备及可读介质。
背景技术
在云计算数据中心中,数据存储的性能是用户关心的核心问题。而存储系统的RAID会按照条带stripe进行划分,对RAID条带再按照各磁盘分块strip划分。一个RAID条带的写任务会转换成多个磁盘分块的写任务,当所有磁盘分块的写任务完成后RAID条带的IO任务才完成。但是,由于各个磁盘的写入性能存在差异,且各个磁盘的繁忙程度也不一样,这造成了同一个条带写任务对应的各个磁盘分块的写任务性能差异非常大。而只有最慢的那个磁盘分块写任务完成后,整个条带任务才能完成。这严重影响了RAID大块写IO的性能。
发明内容
有鉴于此,本发明实施例的目的在于提出一种基于RAID条带的写IO的方法、装置、设备及可读介质,通过使用本发明的技术方案,能够降低RAID条带IO的写入时延,提高了数据的带宽,提高了存储系统的性能。
基于上述目的,本发明的实施例的一个方面提供了一种基于RAID条带的写IO的方法,包括以下步骤:
对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
根据预设性能指标将系统状态进行划分;
响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
根据本发明的一个实施例,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
根据本发明的一个实施例,对RAID磁盘进行测试,并基于测试结果将磁盘划分等级包括:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。
根据本发明的一个实施例,预设性能指标包括IOPS和带宽。
根据本发明的一个实施例,根据预设性能指标将系统状态进行划分包括:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
根据本发明的一个实施例,预设状态为繁忙状态。
根据本发明的一个实施例,响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理包括:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
本发明的实施例的另一个方面,还提供了一种基于RAID条带的写IO的装置,装置包括:
测试模块,测试模块配置为对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
划分模块,划分模块配置为根据预设性能指标将系统状态进行划分;
处理模块,处理模块配置为响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
本发明的实施例的另一个方面,还提供了一种计算机设备,该计算机设备包括:
至少一个处理器;以及
存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行时实现上述任意一项方法的步骤。
本发明的实施例的另一个方面,还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现上述任意一项方法的步骤。
本发明具有以下有益技术效果:本发明实施例提供的基于RAID条带的写IO的方法,通过对RAID磁盘进行测试,并基于测试将磁盘划分等级;根据预设性能指标将系统状态进行划分;响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理的技术方案,能够降低RAID条带IO的写入时延,提高了数据的带宽,提高了存储系统的性能。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为根据本发明一个实施例的基于RAID条带的写IO的方法的示意性流程图;
图2为根据本发明一个实施例的基于RAID条带的写IO的装置的示意图;
图3为根据本发明一个实施例的计算机设备的示意图;
图4为根据本发明一个实施例的计算机可读存储介质的示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明实施例进一步详细说明。
基于上述目的,本发明的实施例的第一个方面,提出了一种基于RAID条带的写IO(输入输出)的方法的一个实施例。图1示出的是该方法的示意性流程图。
如图1中所示,该方法可以包括以下步骤:
S1对RAID(独立磁盘冗余阵列)磁盘进行测试,并基于测试结果将磁盘划分等级。
测试的间隔时间可以根据需要进行设置,也可以根据磁盘压力变化情况动态调整。如果各磁盘间压力变化较大,那么两次测试的结果可能变化较大,那么将测试间隔缩小一半,依此类推直到设置的最小测试间隔。如果变化较小,那么测试间隔不变。如果无变化,那么测试间隔延长一倍。依此类推直到设置的最大测试间隔。将磁盘状态分为四类,取所有盘写的平均值作为磁盘IO时延基准值。测试写时延低于基准值一半的盘标记为快盘;测试写时延大于基准值的一半,且小于基准值2倍的盘为普通盘;测试写时延大于基准值2倍的盘标记为次慢盘;按照RAID冗余盘的数量,从次慢盘中选取测试写时延最大的几个盘作为慢盘。
S2根据预设性能指标将系统状态进行划分。
依据存储历史最大IOPS(硬盘每秒的读写次数)、历史最大带宽等指标作为判断条件,标记存储系统繁忙程度,当系统处于不同状态时执行不同的优化任务。当IOPS、带宽都低于历史最大值的50%时,系统处于空闲状态;当IOPS和带宽中有一项大于历史最大值的50%时且小于历史最大值的80%时,系统标记为正常状态;当IOPS和带宽有一项达到历史最大值的80%时,系统标记为繁忙状态。
S3响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
当接收到写IO的请求且系统处于繁忙状态时,标记为快盘的磁盘的IO可正常写入;标记为普通盘的磁盘的IO正常写入,并记录写入时延,并根据其写入时延转换为新的状态。标记为次慢盘的磁盘的IO不进行写入,而是存入非易失性内存。当系统退出繁忙状态时或者磁盘状态转换为快盘或者普通盘或者非易失性内存不足时,才将其写入磁盘;对于RAID标记为慢盘的IO,IO直接完成,当系统退出繁忙状态时或者磁盘状态转换为快盘或者普通盘时,使用重构的方式写入。由于该方法的IO完成时间跟普通盘相同,优化了系统繁忙时某些盘写入很慢时造成整个条带写入较慢的问题。因此可以降低RAID条带IO的写入时延,提高了数据的带宽,大大提高了存储系统的性能。
通过本发明的技术方案,能够降低RAID条带IO的写入时延,提高了数据的带宽,提高了存储系统的性能。
在本发明的一个优选实施例中,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
在本发明的一个优选实施例中,对RAID磁盘进行测试,并基于测试结果将磁盘划分等级包括:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。可以没间隔一段时间对RAID磁盘进行测试,测试的间隔时间,可以根据需要进行设置,也可以根据磁盘压力变化情况动态调整。如果各磁盘间压力变化较大,那么两次测试的结果可能变化较大,那么将测试间隔缩小一半,依此类推直到设置的最小测试间隔。如果变化较小,那么测试间隔不变。如果无变化,那么测试间隔延长一倍。依此类推直到设置的最大测试间隔。
在本发明的一个优选实施例中,预设性能指标包括IOPS和带宽。
在本发明的一个优选实施例中,根据预设性能指标将系统状态进行划分包括:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
在本发明的一个优选实施例中,预设状态为繁忙状态。
在本发明的一个优选实施例中,响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理包括:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
对于RAID标记为快盘的磁盘的IO可正常写入,不做任何操作。对于RAID标记为普通盘的磁盘的IO正常写入,并记录写入时延,并根据其写入时延转换为新的状态,条带分块操作之前进行记录开始时间,结束之后记录完成时间。当其时延小于磁盘IO时延基准值的1/2时,将磁盘的状态由普通盘转换为快盘;当其时延大于磁盘IO时延基准值的2倍时,将磁盘的状态由普通盘转换为次慢盘。对于RAID标记为次慢盘的IO,后续分块写入到非易失性内存中,当系统退出繁忙状态时或者磁盘状态转换为快盘或者普通盘或者非易失性内存将不足时,再由专门的线程去将非易失性内存里的数据再写入磁盘。对于RAID标记为慢盘的IO,IO直接完成,并将该条带计入重构条带元数据,当系统退出繁忙状态时或者磁盘状态转换为快盘或者普通盘时,且非易失性内存相应条带的数据也已经写入磁盘,再将由专门的线程将需进行慢盘重构的条带的其余分块读出,然后重构出慢盘的分块,并写入对应的慢盘中。
通过本发明的技术方案,能够降低RAID条带IO的写入时延,提高了数据的带宽,提高了存储系统的性能。
需要说明的是,本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关硬件来完成,上述的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中存储介质可为磁碟、光盘、只读存储器(Read-Only Memory,ROM)或随机存取存储器(Random AccessMemory,RAM)等。上述计算机程序的实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
此外,根据本发明实施例公开的方法还可以被实现为由CPU执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时,执行本发明实施例公开的方法中限定的上述功能。
基于上述目的,本发明的实施例的第二个方面,提出了一种基于RAID条带的写IO的装置,如图2所示,装置200包括:
测试模块,测试模块配置为对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
划分模块,划分模块配置为根据预设性能指标将系统状态进行划分;
处理模块,处理模块配置为响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
在本发明的一个优选实施例中,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
在本发明的一个优选实施例中,测试模块还配置为:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。
在本发明的一个优选实施例中,预设性能指标包括IOPS和带宽。
在本发明的一个优选实施例中,划分模块还配置为:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
在本发明的一个优选实施例中,预设状态为繁忙状态。
在本发明的一个优选实施例中,处理模块还配置为:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
基于上述目的,本发明实施例的第三个方面,提出了一种计算机设备。图3示出的是本发明提供的计算机设备的实施例的示意图。如图3所示,本发明实施例包括如下装置:至少一个处理器S21;以及存储器S22,存储器S22存储有可在处理器上运行的计算机指令S23,指令由处理器执行时实现以下方法:
对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
根据预设性能指标将系统状态进行划分;
响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
在本发明的一个优选实施例中,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
在本发明的一个优选实施例中,对RAID磁盘进行测试,并基于测试结果将磁盘划分等级包括:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。
在本发明的一个优选实施例中,预设性能指标包括IOPS和带宽。
在本发明的一个优选实施例中,根据预设性能指标将系统状态进行划分包括:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
在本发明的一个优选实施例中,预设状态为繁忙状态。
在本发明的一个优选实施例中,响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理包括:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
基于上述目的,本发明实施例的第四个方面,提出了一种计算机可读存储介质。图4示出的是本发明提供的计算机可读存储介质的实施例的示意图。如图4所示,计算机可读存储介质S31存储有被处理器执行时执行如下方法的计算机程序S32:
对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
根据预设性能指标将系统状态进行划分;
响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理。
在本发明的一个优选实施例中,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
在本发明的一个优选实施例中,对RAID磁盘进行测试,并基于测试结果将磁盘划分等级包括:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。
在本发明的一个优选实施例中,预设性能指标包括IOPS和带宽。
在本发明的一个优选实施例中,根据预设性能指标将系统状态进行划分包括:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
在本发明的一个优选实施例中,预设状态为繁忙状态。
在本发明的一个优选实施例中,响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理包括:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
此外,根据本发明实施例公开的方法还可以被实现为由处理器执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被处理器执行时,执行本发明实施例公开的方法中限定的上述功能。
此外,上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性,已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能,但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。
在一个或多个示例性设计中,功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、DSL或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。
以上是本发明公开的示例性实施例,但是应当注意,在不背离权利要求限定的本发明实施例公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本发明实施例公开的元素可以以个体形式描述或要求,但除非明确限制为单数,也可以理解为多个。
应当理解的是,在本文中使用的,除非上下文清楚地支持例外情况,单数形式“一个”旨在也包括复数形式。还应当理解的是,在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。
上述本发明实施例公开实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子;在本发明实施例的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,并存在如上的本发明实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。因此,凡在本发明实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明实施例的保护范围之内。
Claims (9)
1.一种基于RAID条带的写IO的方法,其特征在于,包括以下步骤:
对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
根据预设性能指标将系统状态进行划分;
响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理;
响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理包括:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
2.根据权利要求1所述的方法,其特征在于,磁盘等级包括快盘、普通盘、次慢盘、慢盘。
3.根据权利要求2所述的方法,其特征在于,对RAID磁盘进行测试,并基于测试结果将磁盘划分等级包括:
将所有磁盘写时延的平均值作为磁盘IO时延基准值;
将写时延低于基准值一半的磁盘划分为快盘;
将写时延大于等于基准值一半且小于基准值2倍的磁盘划分为普通盘;
将写时延大于等于基准值2倍的磁盘划分为次慢盘;
按照RAID冗余磁盘的数量,从划分为次慢盘的磁盘中选取写时延最大的阈值数量的磁盘划分为慢盘。
4.根据权利要求1所述的方法,其特征在于,预设性能指标包括IOPS和带宽。
5.根据权利要求4所述的方法,其特征在于,根据预设性能指标将系统状态进行划分包括:
将IOPS和带宽都低于历史最大值的50%时的系统状态划分为空闲状态;
将IOPS和带宽任一项大于等于历史最大值的50%且小于历史最大值的80%时的系统状态划分为正常状态;
将IOPS和带宽任一项大于等于历史最大值的80%时的系统状态划分为繁忙状态。
6.根据权利要求5所述的方法,其特征在于,所述预设状态为繁忙状态。
7.一种基于RAID条带的写IO的装置,其特征在于,所述装置包括:
测试模块,所述测试模块配置为对RAID磁盘进行测试,并基于测试结果将磁盘划分等级;
划分模块,所述划分模块配置为根据预设性能指标将系统状态进行划分;
处理模块,所述处理模块配置为响应于接收到写IO的请求且系统状态为预设状态,将RAID条带中的分块根据磁盘等级进行不同处理;
所述处理模块还配置为:
响应于接收到写IO的请求且系统状态为繁忙状态,将划分为快盘的磁盘对应的IO正常写入;
将划分为普通盘的磁盘对应的IO正常写入,并记录写入时延,并根据记录的写入时延将磁盘等级重新划分;
将划分为次慢盘对应的IO的后续分块写入到非易失性内存,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘或非易失性内存容量不足时,由专用的线程将非易失性内存里的数据写入次慢盘中;
将划分为慢盘对应的IO直接完成,并将慢盘对应的条带计入重构条带元数据中,当系统退出繁忙状态或磁盘等级重新划分为快盘或普通盘且非易失性内存对应的条带的数据已写入磁盘时,由专用的线程将需进行慢盘重构的条带的其余分块读出后重构出慢盘的分块,并写入对应的慢盘中。
8. 一种计算机设备,其特征在于,包括:
至少一个处理器;以及
存储器,所述存储器存储有可在所述处理器上运行的计算机指令,所述指令由所述处理器执行时实现权利要求1-6任意一项所述方法的步骤。
9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-6任意一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110905107.0A CN113805800B (zh) | 2021-08-08 | 2021-08-08 | 一种基于raid条带的写io的方法、装置、设备及可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110905107.0A CN113805800B (zh) | 2021-08-08 | 2021-08-08 | 一种基于raid条带的写io的方法、装置、设备及可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113805800A CN113805800A (zh) | 2021-12-17 |
CN113805800B true CN113805800B (zh) | 2023-08-18 |
Family
ID=78942816
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110905107.0A Active CN113805800B (zh) | 2021-08-08 | 2021-08-08 | 一种基于raid条带的写io的方法、装置、设备及可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113805800B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115691636B (zh) * | 2022-10-17 | 2024-05-17 | 超聚变数字技术有限公司 | 一种慢盘检测方法以及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101566924A (zh) * | 2008-04-23 | 2009-10-28 | 中兴通讯股份有限公司 | 一种磁盘阵列的数据读写方法 |
CN108763023A (zh) * | 2018-05-29 | 2018-11-06 | 郑州云海信息技术有限公司 | 一种磁盘的分级方法、装置、设备及可读存储介质 |
CN109857592A (zh) * | 2019-01-04 | 2019-06-07 | 平安科技(深圳)有限公司 | 数据恢复控制方法、服务器及存储介质 |
US10592123B1 (en) * | 2017-07-13 | 2020-03-17 | EMC IP Holding Company LLC | Policy driven IO scheduler to improve write IO performance in hybrid storage systems |
CN111816239A (zh) * | 2019-04-12 | 2020-10-23 | 杭州宏杉科技股份有限公司 | 磁盘检测方法、装置、电子设备及机器可读存储介质 |
-
2021
- 2021-08-08 CN CN202110905107.0A patent/CN113805800B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101566924A (zh) * | 2008-04-23 | 2009-10-28 | 中兴通讯股份有限公司 | 一种磁盘阵列的数据读写方法 |
US10592123B1 (en) * | 2017-07-13 | 2020-03-17 | EMC IP Holding Company LLC | Policy driven IO scheduler to improve write IO performance in hybrid storage systems |
CN108763023A (zh) * | 2018-05-29 | 2018-11-06 | 郑州云海信息技术有限公司 | 一种磁盘的分级方法、装置、设备及可读存储介质 |
CN109857592A (zh) * | 2019-01-04 | 2019-06-07 | 平安科技(深圳)有限公司 | 数据恢复控制方法、服务器及存储介质 |
CN111816239A (zh) * | 2019-04-12 | 2020-10-23 | 杭州宏杉科技股份有限公司 | 磁盘检测方法、装置、电子设备及机器可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113805800A (zh) | 2021-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10705932B2 (en) | Method, device and computer program product for managing a storage system | |
US9569454B2 (en) | Selective compression of objects in a storage compute device | |
CN104850480B (zh) | 高密度存储服务器硬盘性能测试的方法及装置 | |
WO2017012392A1 (zh) | 一种磁盘检测的方法和装置 | |
US10324794B2 (en) | Method for storage management and storage device | |
CN111857572B (zh) | Tlc固态硬盘的数据写入方法、装置、设备及存储介质 | |
US11385823B2 (en) | Method, electronic device and computer program product for rebuilding disk array | |
CN113805800B (zh) | 一种基于raid条带的写io的方法、装置、设备及可读介质 | |
CN116662214B (zh) | 基于fio的硬盘垃圾回收方法、装置、系统及介质 | |
CN108170366A (zh) | 存储设备中的存储介质管理方法、装置和存储设备 | |
CN112783449A (zh) | 数据迁移方法及装置 | |
US20140181332A1 (en) | Monitoring Record Management Method and Device | |
CN116501259A (zh) | 磁盘组双活同步方法、装置、计算机设备及存储介质 | |
US20100185829A1 (en) | Extent consolidation and storage group allocation | |
CN108509154B (zh) | 一种根据坏块分布动态重组raid的方法和装置 | |
CN116382582A (zh) | 一种raid重映射方法、系统、设备以及存储介质 | |
CN103399783A (zh) | 虚拟机的镜像文件的存储方法和装置 | |
KR101643278B1 (ko) | 데이터베이스 시스템에서 스토리지 서버 관리 방법, 장치 및 컴퓨터 판독가능 매체에 저장된 컴퓨터-프로그램 | |
CN111880735A (zh) | 一种存储系统中数据迁移方法、装置、设备及存储介质 | |
CN113805799B (zh) | Raid阵列最近写记录管理的方法、装置、设备及可读介质 | |
CN109947365A (zh) | 一种分布式存储数据校验方法及装置 | |
US20180088802A1 (en) | Preemptive event-based data migration | |
CN111324280B (zh) | 基于Raid5的数据写入方法和装置 | |
CN114528233B (zh) | 一种固态硬盘的io写仲裁控制的方法、装置、设备及介质 | |
CN115599589B (zh) | 一种数据恢复方法及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |