CN114063921B - 一种基于强化学习的固态硬盘映射记录缓存管理方法 - Google Patents

一种基于强化学习的固态硬盘映射记录缓存管理方法 Download PDF

Info

Publication number
CN114063921B
CN114063921B CN202111341945.6A CN202111341945A CN114063921B CN 114063921 B CN114063921 B CN 114063921B CN 202111341945 A CN202111341945 A CN 202111341945A CN 114063921 B CN114063921 B CN 114063921B
Authority
CN
China
Prior art keywords
read
cache
mapping
solid state
reinforcement learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111341945.6A
Other languages
English (en)
Other versions
CN114063921A (zh
Inventor
林铭炜
张健鹏
凌杰
姚志强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujian Normal University
Original Assignee
Fujian Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujian Normal University filed Critical Fujian Normal University
Priority to CN202111341945.6A priority Critical patent/CN114063921B/zh
Publication of CN114063921A publication Critical patent/CN114063921A/zh
Application granted granted Critical
Publication of CN114063921B publication Critical patent/CN114063921B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638Organizing or formatting or addressing of data
    • G06F3/064Management of blocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0673Single storage device
    • G06F3/0679Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Memory System Of A Hierarchy Structure (AREA)

Abstract

本发明公开一种基于强化学习的固态硬盘映射记录缓存管理方法,通过使用强化学习算法来动态调整缓存空间中各缓存数据结构的空间大小以适应不同的读写模式,利用映射记录的预取来达到降低固态硬盘响应时间的目的。上述的固态硬盘缓存管理方法包括:在缓存空间中建立随机缓存映射表、连续缓存映射表与全局翻译目录;将接收到的读写请求分为随机读写请求和连续读写请求;针对不同的请求类型,使用不同的缓存映射表与不同的缓存管理策略;通过对固态硬盘的内部状态以及读写模式的特征的学习,实时对各数据结构的空间大小进行最优调整。通过本发明提供的固态硬盘映射记录缓存管理方法,可以提升缓存命中率,减少翻译页的操作次数,提升固态硬盘的读写性能。

Description

一种基于强化学习的固态硬盘映射记录缓存管理方法
技术领域
本发明涉及固态硬盘存储技术领域,尤其涉及一种基于强化学习的固态硬盘映射记录缓存管理方法。
背景技术
随着大数据时代的到来,当前电子设备对存储设备的读写性能要求越来越高,机械硬盘作为传统存储设备已经无法满足人们的需求.近年来,由于固态硬盘(solid-statedrive, SSD)的速度快、功耗低、噪声低、抗震性能好、稳定性强等优点,固态硬盘逐渐取代了传统的机械硬盘,被广泛应用在军事、医疗、航空等领域。
目前常见的固态硬盘一般使用NAND型闪存作为存储介质。闪存相比于传统的机械硬盘有着不同的读写特性,具体如下:(1)闪存的基本操作为读、写和擦除,读、写的最小操作单位为页,擦除的最小操作单位为块;(2)闪存中存有数据的页无法进行覆盖操作,无法原地更新,只能将原数据页设为无效页,再将新数据写到其他空闲页上;(3)闪存的使用寿命有限,闪存块在擦除超过一定次数后,会成为坏块无法继续正常使用,需要进行屏蔽处理。
为了隐藏闪存相关的读写特性,兼容上层文件系统,一般通过引入闪存转换层(Flash Translation Layer, FTL)将底层闪存封装成类似传统机械硬盘一样的块设备。上层文件系统通过闪存转换层,可以像操作传统磁盘一样对闪存底层进行读写。闪存转换层一般包括坏块管理、地址映射、垃圾回收以及磨损均衡等功能。
地址映射是闪存转换层的核心功能。现有的映射记录缓存管理方法,一般是在基于需求的闪存转换层(Demand-based FTL, DFTL)的基础上,通过增加额外的缓存数据结构进行改进,提升固态硬盘的读写性能。但是引入额外的缓存数据结构会带来缓存空间分配的问题。为了兼顾大多数工作负载,目前研究一般选择一个在各工作负载下性能都较为良好的固定缓存空间分配方案,但这也限制了映射记录缓存管理方法的性能发挥.因此,需要发明一种能够解决缓存空间分配问题的映射记录缓存管理方法。
发明内容
本发明的目的在于提供一种基于强化学习的固态硬盘映射记录缓存管理方法,通过强化学习算法动态地调整缓存空间内各数据结构的空间大小,最大化发挥各数据结构的优势,提高固态硬盘的读写性能。
本发明采用的技术方案是:
一种基于强化学习的固态硬盘映射记录缓存管理方法,其包括以下步骤:
S1. 闪存转换层使用按需加载的页面级映射算法,在动态随机存取存储器(Dynamic Random Access Memory, DRAM)中建立全局翻译目录(Global TranslationDirectory, GTD),记录翻译页的物理地址,并基于时间局部性的特征以及空间局部性特征,建立随机缓存映射表(Random Cached Mapping Table, RCMT)与连续缓存映射表(Sequential Cached Mapping Table, SCMT);
S2. 当收到上层文件系统发送的读写请求时,根据读写请求的大小将请求分为随机读写请求与连续读写请求;
S3. 首先根据读写请求的逻辑地址查找随机缓存映射表,判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S4;
S4. 查找连续缓存映射表,判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S5;
S5. 查询全局翻译目录,并判断当前读写请求是否为随机读写请求,是则,将该随机读写请求中逻辑地址对应的映射记录载入随机缓存映射表;否则,将该连续读写请求中所需的所有逻辑地址对应的映射记录全部预取,载入连续缓存映射表;
S6. 判断是否达到所设步长间隔;是则,执行S7;否则,执行S11;
S7. 判断是否缓存数据结构空间均已满;是则,执行S8;否则,执行S9;
S8. 强化学习模型对缓存空间中各缓存数据结构大小进行动态调整;
S9. 判断是否缓存空间中存在部分缓存数据结构空间已满,是则,执行S8,否则执行S9;
S10. 扩大已满缓存数据结构空间大小,缩小未满缓存数据结构空间大小;
S11. 得到读写请求所需的物理地址后,完成数据的传输与读写,返回用户请求的处理结果。
进一步地,作为一种较优实施方式,闪存中的块被分为存放数据页(Data Page)的数据块(Data Block)与存放翻译页(Translation Page)的翻译块(Translation Block)。数据页用于存放用户数据,翻译页用于存放整个固态硬盘的映射表,其中包含每个逻辑页(Logical Page Number, LPN)到对应的物理页(Physical Page Number, PPN)的映射记录。
进一步地,作为一种较优实施方式,全局翻译目录用于管理翻译页的物理地址,其中每条记录保存的是每个翻译页的逻辑地址(LPN of Translation Page, T LPN)与对应的翻译页的物理地址(PPN of Translation Page, T PPN);随机缓存映射表用于管理随机读写请求的映射记录,一次加载当前随机读写请求的一条映射记录,其中保存的是逻辑地址和对应的物理地址;连续缓存映射表用于管理连续读写请求的映射记录,一次性加载当前连续访问请求所需的所有映射记录,达到所需映射记录全部预取的效果,在踢出时使用批量更新策略,将同处于同一个翻译页中的脏映射记录一同写回。
进一步地,作为一种较优实施方式,S8中所述强化学习,是一种重要的机器学习算法,是智能体在环境中学习如何将状态映射到动作从而最大化奖励的一种学习方法,其学习过程可以归结为智能体与环境之间依据一定策略进行交互,其具体交互流程如下:
S8-1 算法中智能体感知当前环境状态s
S8-2 根据当前状态s,智能体基于策略π选择一个动作a并执行;
S8-3 当智能体所做出的动作a作用于环境时,环境进入新状态s',并给出奖励值r
S8-4 智能体根据环境反馈的r,计算回报,并作为内部策略π更新的依据。
本发明采用以上技术方案,与现有技术相比具有以下有益效果:(1)本发明利用数据访问的时间局部性,缓存部分频繁访问的数据映射记录与缓存中,降低读写请求的响应时延;(2)本发明通过预取映射记录的方式,达到降低固态硬盘响应时间的目的;(3)本发明利用基于激进策略的缓存空间调整方法,充分使用了缓存空间,使得有限的缓存空间可以存放更多的映射记录,避免了缓存空间的闲置与浪费;(4)本发明利用强化学习算法,对当前固态硬盘的内部状态以及读写模式的特征进行学习,动态地调整缓存空间中各数据结构空间的分配,达到提高固态硬盘读写性能的效果。综上所述,使用本发明可以使固态硬盘的闪存转换层设计适应不同读写模式的差异,最终达到提高固态硬盘读写性能的目的。
附图说明
以下结合附图和具体实施方式对本发明做进一步详细说明;
图1为缓存数据结构示意图;
图2为映射记录缓存管理方法总流程示意图;
图3为强化学习模型运行流程示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图对本申请实施例中的技术方案进行清楚、完整地描述。
如图1至图3所示,本发明公开了一种基于强化学习的固态硬盘映射表缓存管理方法,其包括以下步骤:
S1. 闪存转换层使用按需加载的页面级映射算法,建立全局翻译目录,记录翻译页的物理地址,并基于时间局部性的特征以及空间局部性特征,建立随机缓存映射表与连续缓存映射表;
S2. 当收到上层文件系统发送的读写请求时,根据读写请求的大小将请求分为随机读写请求与连续读写请求;
S3. 首先根据读写请求的逻辑地址查找随机缓存映射表,判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S4;
S4. 查找连续缓存映射表,判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S5;
S5. 查询全局翻译目录,并判断当前读写请求是否为随机读写请求,是则,将该随机读写请求中逻辑地址对应的映射记录载入随机缓存映射表;否则,将该连续读写请求中所需的所有逻辑地址对应的映射记录全部预取,载入连续缓存映射表;
S6. 判断是否达到所设步长间隔,是则,执行S7,否则执行S11;
S7. 判断是否缓存数据结构空间均已满,是则,执行S8,否则执行S9;
S8. 强化学习模型对缓存空间中各缓存数据结构大小进行动态调整;
S9. 判断是否缓存空间中存在部分缓存数据结构空间已满,是则,执行S8,否则执行S9;
S10. 扩大已满缓存数据结构空间大小,缩小未满缓存数据结构空间大小;
S11. 得到读写请求所需的物理地址后,完成数据的传输与读写,返回用户请求的处理结果。
下面就本发明的具体工作原理作详细说明:
实施例一:随机请求处理方法,其具体步骤如下:
S1. 闪存转换层使用按需加载的页面级映射算法,建立全局翻译目录,记录翻译页的物理地址,并基于时间局部性的特征以及空间局部性特征,建立随机缓存映射表与连续缓存映射表;
于本实施例中,所述缓存数据结构如图1所示。随机缓存映射表用于管理随机访问请求的映射记录,一次加载当前随机访问请求的一条映射记录,其中保存的是逻辑地址和对应的物理地址;连续缓存映射表用于管理连续访问请求的映射记录,一次加载当前连续访问请求所需的所有映射记录,并使用批量更新策略进行写回,其中保存的是逻辑地址与对应的物理地址。
S2. 当收到上层文件系统发送的读写请求时,根据读写请求的大小将请求分为随机读写请求与连续读写请求;
于本实施例中,所述请求分类方法,是基于请求大小的数据分类方法,通过设置一定阈值,将大小未超过该阈值的请求判断为随机读写请求,超过该阈值的请求则判断为连续读写请求,并在后续的处理中对具有不同特征的请求进行单独管理。根据上述的分类方法,本例中的请求被判断为随机读写请求。
S3. 首先根据读写请求的逻辑地址查找随机缓存映射表,判断是否找到对应的映射记录;是则,返回对应的物理地址并执行S7;否则,执行S4;
S4. 查找连续缓存映射表,判断是否找到对应的映射记录;是则,返回对应的物理地址并执行S7;否则,执行S5;
S5. 查询全局翻译目录,并判断当前读写请求是否为随机读写请求,是则,将该随机读写请求中逻辑地址对应的映射记录载入随机缓存映射表;否则,将该连续读写请求中所需的所有逻辑地址对应的映射记录全部预取,载入连续缓存映射表;
于本实施例中,本例中的请求为随机读写请求且未存储于缓存映射表中。用户请求首先通过上述的分类方法完成了分类,本例的请求被判断为随机读写请求,因此该请求对应的该映射记录将被加载至随机缓存映射表中。
S6. 判断是否达到所设步长间隔,是则,执行S7,否则执行S11;
于本实施例中,步长条件为满足状态,步长被设定为每5个闪存块的累积处理量。步长过长,智能体可能会错过系统状态上的有意义变化;步长过短,智能体可能无法观测到系统状态有意义的变化。
S7. 判断是否缓存数据结构空间均已满,是则,执行S8,否则执行S9;
S8. 使用强化学习模型对缓存空间进行动态调整;
于本实施例中,连续缓存映射表于随机缓存映射表均为已满状态。强化学习模型的交互流程为:
(1),智能体感知当前环境状态s
(2),根据当前状态s,智能体基于策略π选择一个动作a并执行;
(3),当智能体所做出的动作a作用于环境时,环境进入新状态s',并给出奖励值r
(4),智能体根据环境反馈的r,计算回报,并作为内部策略π更新的依据。
具体到,本发明的实施例中强化学习模型具体流程如图3所示,其包括以下步骤:
S8中的强化学习的具体交互包括以下步骤:
S8-1,获取当前固态硬盘的内部状态与读写模式的特征;
S8-2,将运行状态识别为预设的强化学习模型状态集中的一种状态;
S8-3,通过强化学习模型依照设定的策略获取要执行的动作;
S8-4,执行对应动作,以对各数据结构的空间大小进行调整;
S8-5,计算所述强化学习模型的反馈参数并更新强化学习模型。
其中,模型于缓存空间已满开始运行,并于以一定步长间隔进行一次学习与调整。模型中涉及当前的环境状态S是指固态硬盘的内部状态以及读写模式的特征,包括但不限于当前缓存空间分配方案、当前连续读写请求数量以及上一动作;涉及的动作A是指对缓存空间进行重新分配,对数据结构的空间大小进行扩大或缩小;涉及的策略π则是采用ε贪婪策略来最大化的累积奖励。强化学习模型通过对固态硬盘的内部状态以及读写模式的特征进行学习,将缓存空间中各数据结构空间大小动态分配至最优。
于本实施例中,S8执行后,已缓存的映射记录应继续保留在缓存空间中,对于被缩小数据结构中的映射记录不进行踢出。当已扩大的缓存数据结构需要加载新的映射记录时,才对被缩小数据结构中的映射记录进行踢出
S9. 判断是否缓存空间中存在部分缓存数据结构空间已满,是则,执行S10,否则执行S11;
S10. 扩大已满缓存数据结构空间大小,缩小未满缓存数据结构空间大小;
S11. 得到读写请求所需的物理地址后,完成数据的传输与读写,返回用户请求的处理结果。
实施例二:连续读写请求,其具体步骤如下:
S1. 闪存转换层使用按需加载的页面级映射算法,建立全局翻译目录,记录翻译页的物理地址,并基于时间局部性的特征以及空间局部性特征,建立随机缓存映射表与连续缓存映射表;
S2. 当收到上层文件系统发送的读写请求时,根据读写请求的大小将请求分为随机读写请求与连续读写请求;
于本实施例中,所述请求分类方法,是基于请求大小的数据分类方法,通过设置一定阈值,将大小未超过该阈值的请求判断为随机读写请求,超过该阈值的请求则判断为连续读写请求,并在后续的处理中对具有不同特征的请求进行单独管理。根据上述的分类方法,本例中的请求被判断为连续读写请求。
S3. 首先根据读写请求的逻辑地址查找随机缓存映射表,判断是否找到对应的映射记录;是则,返回对应的物理地址并执行S7;否则,执行S4;
S4. 查找连续缓存映射表,判断是否找到对应的映射记录;是则,返回对应的物理地址并执行S7;否则,执行S5;
S5. 查询全局翻译目录,并判断当前读写请求是否为随机读写请求,是则,将该随机读写请求中逻辑地址对应的映射记录载入随机缓存映射表;否则,将该连续读写请求中所需的所有逻辑地址对应的映射记录全部预取,载入连续缓存映射表;
于本实施例中,本例中的请求为连续读写请求且未存储于缓存映射表中。用户请求首先通过上述的分类方法完成了分类,本例的请求被判断为连续读写请求,因此该请求对应的所需的所有映射记录将被加载至连续缓存映射表中。
S6. 判断是否达到所设步长间隔,是则,执行S7,否则执行S11;
S7. 判断是否缓存数据结构空间均已满,是则执行S8,否则执行S9;
S8. 使用强化学习模型对缓存空间进行动态调整;
S9. 判断是否缓存空间中存在部分缓存数据结构空间已满,是则,执行S10,否则执行S11;
S10. 扩大已满缓存数据结构空间大小,缩小未满数据结构空间大小;
于本实施例中,满足设定步长条件,且连续缓存映射表已满而随机缓存映射表未满。此时连续缓存映射表的空间大小将扩大,随机缓存映射表的空间大小将缩小。连续读写请求的映射记录可以更多地加载至缓存空间中,充分使用了缓存空间,避免了缓存空间的闲置与浪费。
S11. 得到读写请求所需的物理地址后,完成数据的传输与读写,返回用户请求的处理结果。
本发明采用以上技术方案,与现有技术相比具有以下有益效果:(1)本发明利用数据访问的时间局部性,缓存部分频繁访问的数据映射记录与缓存中,降低读写请求的响应时延;(2)本发明通过预取映射记录的方式,达到降低固态硬盘响应时间的目的;(3)本发明利用基于激进策略的缓存空间调整方法,充分使用了缓存空间,使得有限的缓存空间可以存放更多的映射记录,避免了缓存空间的闲置与浪费;(4)本发明利用强化学习算法,对当前固态硬盘的内部状态以及读写模式的特征进行学习,动态地调整缓存空间中各数据结构空间的分配,达到提高固态硬盘读写性能的效果。综上所述,使用本发明可以使固态硬盘的闪存转换层设计适应不同读写模式的差异,最终达到提高固态硬盘读写性能的目的。
显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

Claims (5)

1.一种基于强化学习的固态硬盘映射记录缓存管理方法,其特征在于:其包括以下步骤:
S1. 闪存转换层使用按需加载的页面级映射算法,建立全局翻译目录,记录翻译页的物理地址,并基于时间局部性的特征以及空间局部性特征,建立随机缓存映射表与连续缓存映射表;随机缓存映射表用于管理随机读写请求的映射记录,一次加载当前随机读写请求的一条映射记录,其中保存的是逻辑地址和对应的物理地址,连续缓存映射表用于管理连续访问请求的映射记录,一次加载当前连续读写请求所需的所有映射记录,并使用批量更新策略进行写回,其中保存的是逻辑地址与对应的物理地址;
S2. 当收到上层文件系统发送的读写请求时,根据读写请求的大小将请求分为随机读写请求与连续读写请求;
S3. 首先根据读写请求的逻辑地址查找随机缓存映射表判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S4;
S4. 查找连续缓存映射表,判断是否找到对应的映射记录;是则,返回物理地址并执行S6;否则,执行S5;
S5. 查询全局翻译目录,并判断当前读写请求是否为随机读写请求,是则,将该随机读写请求中逻辑地址对应的映射记录载入随机缓存映射表;否则,将该连续读写请求中所需的所有逻辑地址对应的映射记录全部预取,载入连续缓存映射表;
S6. 判断是否达到所设步长间隔,是则,执行S7,否则执行S11;
S7. 判断是否缓存数据结构空间均已满,是则,执行S8,否则执行S9;
S8. 强化学习模型对缓存空间中各缓存数据结构大小进行动态调整;
强化学习模型的交互步骤如下:
(1),智能体感知当前环境状态s
(2),根据当前状态s,智能体基于策略π选择一个动作a并执行;
(3),当智能体所做出的动作a作用于环境时,环境进入新状态s',并给出奖励值r
(4),智能体根据环境反馈的r,计算回报,并作为内部策略π更新的依据;
强化学习模型具体建模为:模型中涉及当前的环境状态s是指固态硬盘的内部状态以及读写模式的特征,当前的环境状态s包括当前缓存空间分配方案、当前连续读写请求数量以及上一动作;涉及的动作a是指对缓存空间进行重新分配,对数据结构的空间大小进行扩大或缩小;涉及的策略π则是采用ε贪婪策略来最大化的累积奖励;强化学习的具体交互包括以下步骤:
S8-1,获取当前固态硬盘的内部状态与读写模式的特征;
S8-2,将运行状态识别为预设的强化学习模型状态集中的一种状态;
S8-3,通过强化学习模型依照设定的策略获取要执行的动作;
S8-4,执行对应动作,以对各数据结构的空间大小进行调整;
S8-5,计算所述强化学习模型的反馈参数并更新强化学习模型;
S9. 判断是否缓存空间中存在部分缓存数据结构空间已满,是则,执行S10,否则执行S11;
S10. 扩大已满缓存数据结构空间大小,缩小未满缓存数据结构空间大小;
S11. 得到读写请求所需的物理地址后,完成数据的传输与读写,返回用户请求的处理结果。
2.根据权利要求1所述的一种基于强化学习的固态硬盘映射记录缓存管理方法,其特征在于:闪存中的块被分为存放数据页的数据块与存放翻译页的翻译块;数据页用于存放用户数据,翻译页用于存放整个固态硬盘的映射表,映射表中包含每个逻辑页到对应的物理页的映射记录。
3.根据权利要求1所述的一种基于强化学习的固态硬盘映射记录缓存管理方法,其特征在于:S2请求分类的方法是基于请求大小的数据分类方法,通过设置一阈值,将请求的大小未超过阈值的请求判断为随机读写请求,超过该阈值的请求则判断为连续读写请求,并在后续的处理中对具有不同特征的请求进行单独管理。
4.根据权利要求1所述的一种基于强化学习的固态硬盘映射记录缓存管理方法,其特征在于:S6中步长间隔被设定为每5个闪存块的累积处理量。
5.根据权利要求1所述的一种基于强化学习的固态硬盘映射记录缓存管理方法,其特征在于:S8执行后,已缓存的映射记录继续保留在缓存空间中,对于被缩小数据结构中的映射记录不进行踢出;当已扩大的缓存数据结构需要加载新的映射记录时,才对被缩小数据结构中的映射记录进行踢出。
CN202111341945.6A 2021-11-12 2021-11-12 一种基于强化学习的固态硬盘映射记录缓存管理方法 Active CN114063921B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111341945.6A CN114063921B (zh) 2021-11-12 2021-11-12 一种基于强化学习的固态硬盘映射记录缓存管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111341945.6A CN114063921B (zh) 2021-11-12 2021-11-12 一种基于强化学习的固态硬盘映射记录缓存管理方法

Publications (2)

Publication Number Publication Date
CN114063921A CN114063921A (zh) 2022-02-18
CN114063921B true CN114063921B (zh) 2023-06-27

Family

ID=80271930

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111341945.6A Active CN114063921B (zh) 2021-11-12 2021-11-12 一种基于强化学习的固态硬盘映射记录缓存管理方法

Country Status (1)

Country Link
CN (1) CN114063921B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116010298B (zh) * 2023-03-24 2023-09-22 温州市特种设备检测科学研究院(温州市特种设备应急处置中心) Nand型闪存地址映射的方法、装置、电子设备及存储介质
CN116880746B (zh) * 2023-06-05 2024-10-01 珠海妙存科技有限公司 数据处理方法、装置、电子设备及计算机可读存储介质
CN118377440A (zh) * 2024-06-25 2024-07-23 山东云海国创云计算装备产业创新中心有限公司 缓冲区的管理方法、设备、固态硬盘及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389135A (zh) * 2015-12-11 2016-03-09 华中科技大学 一种固态盘内部缓存管理方法
CN105740164A (zh) * 2014-12-10 2016-07-06 阿里巴巴集团控股有限公司 支持缓存一致性的多核处理器、读写方法、装置及设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013025540A1 (en) * 2011-08-12 2013-02-21 Sandisk Enterprise Ip Llc Cache management including solid state device virtualization
US11194725B2 (en) * 2019-11-15 2021-12-07 Dell Products, L.P. Method and apparatus for adjusting cache prefetch policies based on predicted cache pollution from dynamically evolving workloads

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105740164A (zh) * 2014-12-10 2016-07-06 阿里巴巴集团控股有限公司 支持缓存一致性的多核处理器、读写方法、装置及设备
CN105389135A (zh) * 2015-12-11 2016-03-09 华中科技大学 一种固态盘内部缓存管理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
面向闪存存储系统的缓存置换及垃圾回收算法研究;梁鑫;《中国优秀硕士论文全文数据库(电子期刊网)》;全文 *

Also Published As

Publication number Publication date
CN114063921A (zh) 2022-02-18

Similar Documents

Publication Publication Date Title
CN114063921B (zh) 一种基于强化学习的固态硬盘映射记录缓存管理方法
CN107193646B (zh) 一种基于混合主存架构的高效动态页面调度方法
EP2939120B1 (en) Priority-based garbage collection for data storage systems
US7203815B2 (en) Multi-level page cache for enhanced file system performance via read ahead
KR101469512B1 (ko) 외부 컴퓨팅 디바이스의 성능 향상을 위한 어댑티브 메모리 시스템
US8214595B2 (en) Storage system which utilizes two kinds of memory devices as its cache memory and method of controlling the storage system
CN105930282B (zh) 一种用于nand flash的数据缓存方法
Ou et al. CFDC: a flash-aware replacement policy for database buffer management
CN110413537B (zh) 一种面向混合固态硬盘的闪存转换层及转换方法
CN107943719B (zh) 一种基于请求分类的闪存转换层控制方法
CN108845957B (zh) 一种置换和回写自适应的缓冲区管理方法
CN104166634A (zh) 一种固态盘系统中的映射表缓存管理方法
CN109582593B (zh) 一种基于计算的ftl地址映射读、写方法
CN103019958A (zh) 使用数据属性来管理固态存储器里的数据的方法
CN109739780A (zh) 基于页级映射的动态二级缓存闪存转换层地址映射方法
CN106815152A (zh) 一种优化页级闪存转换层的方法
CN109783398A (zh) 一种基于相关感知页面级ftl固态硬盘性能优化方法
KR20100115090A (ko) 버퍼를 고려한 가비지 컬렉션 기법
CN110262982A (zh) 一种固态硬盘地址映射的方法
CN105975215A (zh) 一种基于Ondemand算法的STL映射表管理方法
CN111506517B (zh) 一种基于访问局部性的闪存页级地址映射方法及其系统
CN114185492B (zh) 一种基于强化学习的固态硬盘垃圾回收方法
CN108664217B (zh) 一种降低固态盘存储系统写性能抖动的缓存方法及系统
CN116540950B (zh) 一种存储器件及其写入数据的控制方法
US7177983B2 (en) Managing dirty evicts from a cache

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Lin Mingwei

Inventor after: Zhang Jianpeng

Inventor after: Ling Jie

Inventor after: Yao Zhiqiang

Inventor before: Zhang Jianpeng

Inventor before: Lin Mingwei

Inventor before: Ling Jie

Inventor before: Yao Zhiqiang

CB03 Change of inventor or designer information
GR01 Patent grant
GR01 Patent grant