CN111913648A - 一种固态硬盘的数据处理方法及装置 - Google Patents

一种固态硬盘的数据处理方法及装置 Download PDF

Info

Publication number
CN111913648A
CN111913648A CN201910385547.0A CN201910385547A CN111913648A CN 111913648 A CN111913648 A CN 111913648A CN 201910385547 A CN201910385547 A CN 201910385547A CN 111913648 A CN111913648 A CN 111913648A
Authority
CN
China
Prior art keywords
information
solid state
state disk
prediction result
characteristic values
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910385547.0A
Other languages
English (en)
Other versions
CN111913648B (zh
Inventor
李卫军
徐斌
王岩
李文江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Dapu Microelectronics Co Ltd
Original Assignee
Shenzhen Dapu Microelectronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Dapu Microelectronics Co Ltd filed Critical Shenzhen Dapu Microelectronics Co Ltd
Priority to CN201910385547.0A priority Critical patent/CN111913648B/zh
Priority to PCT/CN2020/085296 priority patent/WO2020224414A1/zh
Publication of CN111913648A publication Critical patent/CN111913648A/zh
Application granted granted Critical
Publication of CN111913648B publication Critical patent/CN111913648B/zh
Priority to US17/520,233 priority patent/US11861210B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0673Single storage device
    • G06F3/0679Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0658Controller construction arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请实施例提供了一种固态硬盘的数据处理方法及装置,用于主动对未来第一时间段的I/O信息进行预测,从而使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。本申请实施例方法包括:获取固态硬盘SSD接收到的接口协议指令;解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小,对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行固态硬盘管理。

Description

一种固态硬盘的数据处理方法及装置
技术领域
本申请涉及数据处理技术领域,尤其涉及一种固态硬盘的数据处理方法及装置。
背景技术
Flash Translation Layer(FTL)是SSD控制器的核心,其重要程度在于决定了一个SSD的使用寿命、性能和可靠性。
而如何实现一个高效的FTL,例如,在有限硬件资源的环境下如何优化mappingtable,如何实现buffer的管理,如何实现高效的垃圾回收(GC),如何实现磨损均衡等,是一个一直被优化的问题。
现有技术中,对于上述管理策略多是被动的,即根据接收到的I/O操作被动的执行buffer调度,或被动的执行垃圾回收,而这些被动的处理策略在实现高效的FTL时,具有一定的局限性。
发明内容
本申请实施例提供了一种固态硬盘的数据处理方法及装置,用于主动对未来第一时间段的I/O信息进行预测,从而使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
本申请实施例第一方面提供了一种固态硬盘数据的处理方法,包括:
获取固态硬盘SSD接收到的接口协议指令;
解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行固态硬盘管理。
优选的,所述对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,包括:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测信息;
将所述I/O预测信息执行后期处理,以调整所述预测结果。
优选的,所述对所述I/O信息执行预处理,以得到第一I/O信息表,包括:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
优选的,所述将多个合并后的I/O操作用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测结果,包括:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度的特征值,所述预测结果输出维度的特征值反映了所述第一时间段的I/O预测结果。
优选的,所述将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,包括:
将所述高维度的I/O操作特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
优选的,所述多个合并后的I/O操作特征值所对应的时间间隔大于所述第一时间段。
优选的,所述固态硬盘管理包括:缓存管理、垃圾回收或指令队列管理。
优选的,所述方法还包括:
通过第一公式对所述预测结果进行评估,以评估所述预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000031
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000032
表示多个xi的平均值,
Figure BDA0002054714830000033
表示多个yi的平均值。
本申请实施例第一方面提供了一种固态硬盘数据的处理装置,包括:
获取单元,用于获取固态硬盘SSD接收到的接口协议指令;
解析单元,用于解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
预测单元,用于对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行固态硬盘管理。
优选的,所述预测单元具体用于:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测结果;
将所述I/O预测信息执行后期处理,以调整所述预测结果。
优选的,所述预测单元具体用于:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
优选的,所述预测单元具体用于:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度的特征值,所述预测结果输出维度的特征值反映了所述第一时间段的I/O预测结果。
优选的,所述预测单元具体用于:
将所述高维向量空间映射后的I/O操作特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
优选的,所述多个合并后的I/O操作特征值所对应的时间间隔大于所述第一时间段。
优选的,所述固态硬盘管理包括:缓存管理、垃圾回收或指令队列管理。
优选的,所述装置还包括:
评估单元,用于通过第一公式对预测结果进行评估,以评估预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000041
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000042
表示多个xi的平均值,
Figure BDA0002054714830000043
表示多个yi的平均值。
本申请实施例还提供了一种计算机装置,包括处理器,该处理器在执行存储于存储器上的计算机程序时,用于实现本申请实施例第一方面提供的固态硬盘的数据处理方法。
本申请实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时,用于实现本申请实施例第一方面提供的固态硬盘的数据处理方法。
从以上技术方案可以看出,本申请实施例具有以下优点:
本申请实施例中,先获取固态硬盘SSD接收到的接口协议指令;然后解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;并对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,因为本申请实施例中,能够通过机器学习算法,根据当前的I/O信息对未来第一时间段I/O信息执行主动预测,从而使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
附图说明
图1为本申请实施例中固态硬盘的数据处理方法的一个实施例示意图;
图2为本申请实施例中图1所述实施例中步骤103的细化步骤;
图3为本申请实施例中图2所述实施例中步骤201的细化步骤;
图4为本申请实施例中图2所述实施例中步骤203的细化步骤;
图5为本申请实施例中神经元集合的示意图;
图6为本申请实施例中每个神经元细胞计算过程示意图;
图7为本申请实施例中固态硬盘的数据处理方法的另一个实施例示意图;
图8为本申请实施例中固态硬盘的数据装置的一个实施例示意图。
具体实施方式
本申请实施例提供了一种固态硬盘的数据处理方法及装置,用于主动对未来第一时间段的I/O信息进行预测,从而使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
基于现有技术中,在实现高效固态硬盘管理时,所采用的易滞后的机制(被动buffer调度,或被动垃圾处理等),所带来的数据响应时间较长的问题,本申请实施例提出了一种固态硬盘的数据处理方法及装置,用于主动对未来第一时间段的I/O信息进行预测,从而使得固态硬盘处理器根据预测结果主动执行固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
为方便理解,下面对本申请实施例中的固态硬盘的数据处理方法进行描述,具体请参阅图1,本申请实施例中固态硬盘的数据处理方法的一个实施例,包括:
101、获取固态硬盘SSD接收到的接口协议指令;
接口协议指令是用于主机与存储器(固态硬盘SSD)之间的通信协议指令,主要有SATA、PCIe、NVMe等协议接口。优选的,本实施例中的接口协议指令为NVMe指令。
具体的,NVMe是通过PCI Express总线将存储器连接到服务器的接口规范,简单来说,NVMe使SSD与主机系统通信的速度更快。本申请实施例中,SSD盘在与主机系统的数据交互过程中,通过NVMe协议指令,以实现数据的快速输入及输出。
区别于现有技术中,SSD通过被动的固态硬盘管理(被动buffer调度,被动垃圾回收等)来实现SSD中硬件资源的配置、指令队列管理等,其中,硬件资源的配置包括buffer调度、垃圾回收等。本申请实施例中,在固态硬盘SSD接收到主机系统发送的NVMe协议指令时,固态硬盘的数据处理装置获取该协议指令,并根据该协议指令执行步骤102,以实现对未来第一时间段内I/O信息的预测,并使得固态硬盘处理器根据预测结果执行固态硬盘管理(如主动buffer调度,或主动垃圾回收),本实施例中的固态硬盘处理器不仅可以实现普通固态硬盘中主控单元的功能,还可以进一步实现对数据的处理功能,可以视为固态硬盘主控单元和数据处理单元的集合。
具体的,固态硬盘的数据处理装置可以是主动从SSD中获取NVMe协议指令,也可以是被动接收SSD发送的NVMe协议指令,此处不做具体限制。
需要说明的是,本申请实施例中的固态硬盘的数据处理装置可以具体表现为固态硬盘处理器的部分功能模块,或独立于SSD的数据处理装置,此处也不做具体限制。
102、解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
固态硬盘的数据处理装置获取到接口协议指令后,解析该接口协议指令,以获取该协议指令中的I/O信息,而解析动作可以具体表现为根据具体的协议规范(如NVMe协议规范),读取出协议指令中的I/O信息,其中,该I/O信息至少包括I/O时间戳,I/O类型及I/O大小。
具体的,I/O时间戳为该I/O操作的产生时间,I/O类型包括读操作或写操作,I/O大小为读操作或写操作的数据长度。
103、对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果执行固态硬盘管理。
固态硬盘的数据处理装置获取到当前时间段的I/O信息后,可以根据机器学习算法,对以往时间段的I/O信息进行学习,以对未来第一时间段的I/O信息进行预测,并使得固态硬盘处理器根据预测结果执行固态硬盘管理,从而提高固态硬盘的性能,减少数据操作的响应时间。
其中,机器学习算法包括但不限于神经网络,支持向量机,线性回归,时间序列等,此处对机器学习的算法不做具体限制,而本实施例中的固态硬盘管理包括但不限于Buffer调度,垃圾回收,或指令队列管理。
本申请实施例中,先获取固态硬盘SSD接收到的接口协议指令;然后解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;并对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理,因为本申请实施例中,能够通过机器学习算法,根据当前的I/O信息对未来第一时间段I/O信息执行主动预测,从而使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
基于图1所述的实施例,下面对图1实施例中的步骤103进行详细描述,具体请参阅图2,图2为图1实施例中步骤103的细化步骤:
201、对所述I/O信息执行预处理,以得到第一I/O信息表;
固态硬盘的数据处理装置通过解析接口协议指令(如NVMe协议指令),获取到该指令中的I/O信息后,对该I/O信息执行预处理,以得到第一I/O信息表。
具体的,对于预处理操作的具体过程,将在下面的实施例中详细描述,此处不再赘述。
202、将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
固态硬盘的数据处理装置在获取到第一I/O信息表后,将该第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作,这里合并可以理解为将下述表2中处理后的8个相邻I/O相连起来,合并为一次I/O输入,这样相比于现有一个一个I/O操作输入,可以把多个I/O同时输入计算一次,从而大大减少了计算量,满足了实时计算的需求。
具体的,可以是将相邻的4个I/O操作合并为一次I/O操作,或将相邻的8个I/O操作合并为一次I/O操作,本实施例中的“多个”主要决定于处理器的处理性能(即处理器的算力),若处理器的算力较弱,则可以将更多相邻数目的I/O操作进行合并,若处理器的算力强大,则可以将较少相邻数目的I/O操作进行合并,以适应于处理器的处理性能。
203、将多个合并后的I/O操作特征值用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测结果;
将多个I/O操作合并为1个I/O操作后,可以得到一组I/O操作特征值,具体的该I/O操作特征值是关于I/O时间戳,I/O类型及I/O大小的变量,而为了对未来第一时间段内的I/O信息进行预测,一般是采用机器学习算法进行预测,本实施例中的机器学习算法优选为神经网络学习算法。
需要说明的是,采用神经网络学习算法,对未来第一时间段的I/O信息进行预测时,需要先对已知的I/O信息采用神经网络学习模型进行训练,以得到神经网络训练模型,然后根据神经网络训练模型,及当前的I/O信息对未来第一时间段内的I/O信息进行预测。
而根据已知的I/O信息对神经网络学习模型的训练过程,在现有技术中有详细描述,此处不再赘述,而对于将多个合并后的I/O操作特征值执行神经网络模型学习(也即模型推理),以得到第一时间段的I/O预测信息的具体实现过程将在下面的实施例中进行描述,此处也不再赘述。
204、将所述I/O预测结果执行后期处理,以调整所述预测结果。
因为预测算法,更多靠的是假设和特征的选择,故在得到I/O预测信息后,可能会出现较大偏差的预测结果,而该预测结果明显偏离实际,故需要对I/O预测信息执行后期处理,如删除I/O预测信息中的异常预测值,得到正常的预测结果。
本申请实施例中,对根据I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测的过程做了详细描述,提升了本申请实施例的可实施性。
基于图2所述的实施例,下面对步骤201中I/O信息的预处理过程做详细描述,具体请参阅图3,图3为图2实施例中步骤201的细化步骤:
301、根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
对应于步骤201中的描述,假设固态硬盘的数据处理装置在对NVMe指令执行解析后,获取到的I/O信息如表1所示:
表1
时间戳 I/O类型(R为读,W为写) 数据大小(bit)
0.000025554 R 4096
0.071675595 R 12288
0.081838272 R 12288
0.096054779 R 12288
0.12846458 R 12288
则下面以表1为例,对I/O信息的预处理过程进行描述,其中,预处理过程是先执行步骤301,即计算出多组满足第一预设数目的I/O操作间的时间间隔,具体的,步骤301可以是计算32个I/O操作间的时间间隔,或计算16个I/O操作间的时间间隔,预设数目的选取决定于主机系统的处理能力,此处不做具体限制,下面以32个I/O操作为例进行说明。
具体的,每间隔32个I/O的时间戳进行求差,计算出间隔时间;
interval=timestepi+31-timestepi
其中,timestepi表示第i个I/O指令的时间戳。
302、统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
得到多组满足第一预设数目的I/O操作间的时间间隔后,统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小。
进一步的,将读写I/O数据进行数字转化,写I/O表示为1,读I/O表示为0,然后每组32个I/O进行累加,计算出读I/O数量和写I/O数量,公式如下:
Figure BDA0002054714830000101
其中,
Figure BDA0002054714830000102
具体的,可以根据上述公式对每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小进行计算。
303、将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
为了有利于做回归预测,需要将合并后的数据大小压缩至一个合理的范围(0-500),故需将一组32个I/O对应的读I/O的大小进行累加,然后除以200K进行压缩,同理将一组32个I/O对应的读I/O的大小进行累加,然后除以200K进行压缩,以得到如表2所示的处理后的第一I/O信息表。
具体的,压缩时的倍率大小可以根据实际需求进行自定义设置(如可以将一组32个I/O对应的读I/O的大小进行累加,然后除以400K或500K进行压缩),只要压缩后的数据大小符合做回归分析的数据范围即可,此处不做具体限制。
表2
Figure BDA0002054714830000111
上述表2中的时间间隔,表示32个IO操作间的时间间隔,IO类型总和表示32个IO操作中读操作和写操作的数目总和,如当总和为0时,则表明该32个IO操作全部为读操作,而当总和为4时,则表明该32个IO操作中有4个写操作,28个读操作,而读操作和写操作对应的压缩后的数据大小,则为32个IO总和中总的读操作及总的写操作对应的压缩后的数据大小。
上述实施例中,对I/O信息的预处理过程做了详细描述,即对第一I/O信息表的生成过程做了详细描述,提升了本申请实施例的可实施性。
基于图2所述的实施例,下面对步骤203中将多个合并后的I/O操作特征值执行神经网络LSTM模型学习(也即模型推理),以得到所述第一时间段的I/O预测信息的过程做详细描述,具体请参阅图4,图4为图2实施例中步骤203的细化步骤:
401、将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
对应于图2所述实施例的步骤202,将如表2中的多个相邻I/O操作合并为一次I/O操作,然后将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,即将低维度的I/O操作特征值映射为高维度的I/O操作特征值,其中,I/O操作特征值相关于I/O时间戳、I/O类型和I/O大小。
具体的,每个合并后的I/O操作特征值的可以通过以下方法来获得:
如将表2中处理后的8个相邻I/O合并为一次I/O输入,这里合并可以理解为将表2中处理后的8个相邻I/O相连起来,合并为一次I/O输入,因为表2中的每个I/O是由表1中的32个I/O合并而来,故将8个表2中的相邻I/O合并为一次I/O输入,相当于将32*8=256个I/O合并为一次I/O输入,具体的合并操作可以如下所示,以得到一个合并后的I/O操作特征值,其中,每个I/O操作特征值都是与I/O时间戳、I/O类型及I/O大小相关的变量。
[interval1,ioTypeSum1,rSize1,wSize1,interval2,ioTypeSum2,rSize2,wSize2,...,interval8,ioTypeSum8,rSize8,wSize8]
得到多个合并后的I/O特征值后,将多个合并后的I/O特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,即将低维度的I/O操作特征值映射为高维度的I/O操作特征值,以发现更多的特征值。
具体的,可以是将32*1的一组向量,通过权重矩阵变换为128*1的一组向量,具体的变换过程可以为X128×1=W128×32×S32×1+b128×1,其中,W128×32为权重矩阵,b128×1为偏移量,以将32维的I/O操作特征值映射为128维的I/O操作特征值。
402、通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
得到高维度的I/O操作特征值后,通过多个神经网络细胞LSTM Cell组成神经元集合(具体如图5所示,假设本申请实施例中包括128个神经元细胞LSTM Cell),并将高维度的I/O操作特征值依次循环输入该神经元集合中进行运算,以得到运算结果。
具体的,在实际运算中,一定范围内,神经元细胞的数目越多,运算结果就越准确,但过多的运算量将给处理器带来过多的负重,从而影响实时输出的效率,故神经元细胞的数据量一般由运算结果的准确率及处理器的处理能力共同来决定。
下面以单个神经元细胞为例,对高维度特征值的运算过程进行描述:
具体如图6所示,每个神经元细胞的的计算过程如图6所示,每个神经元细胞的神经网络结构都包括输入门、遗忘门和输出门,以及新记忆状态和过去记忆状态,其中,每个门或状态的功能在现有技术中都有详细描述,此处不再赘述。
而本实施例中,假设有128个神经元细胞,则是将运算结果依次循环128次,以提高运算的准确率。
403、将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度,所述预测结果输出维度反映了所述第一时间段的I/O预测结果。
将高维度的特征向量值经过多个神经元细胞的运算后,将从输出门中输出的数据输入到神经网络的输出全连接层,以将运算结果映射为预测结果的输出维度,其中,具体的输出维度取决于用户的选择,即可以是输出任意维度的特征值,如输出32维的特征值,还可以是输出16维的特征值,或其他维度的特征值等。
具体的,本申请实施例以输出32维的特征值为例进行说明:
将运算结果映射为32维的特征值,具体的映射过程如下:Y32×1=W32×128×X128×1+b32×1,即通过权重矩阵W32×128,将128维的特征值映射为32维的特征值,其中,b32×1为矩阵偏移量,代表数据处理中的噪声影响。
下面以具体的实施例对图4所述的数据处理过程进行详细描述:
假设在LSTM网络模型中,一次样本输入为X={x1,x2,...,xT},这里T为输入序列的时间步长(暂定T=1024),具体的,对应于步骤401,每个xT为32*8=256个I/O操作的特征值,因为每个I/O操作的时长大约为3us,故输入样本中1024个x对应的时间间隔大约为32*8*3*1024≈1s,而经过步骤403后的模型输出为Y={y1,y2,...,y16,y17,...,y32},其中y1,y2,...,y16为未来每50ms为间隔的读操作的大小的预测值,也就是说未来0~50ms、50~100ms、...、750ms~800ms读操作的强度大小预测值,而y17,y18,...,y32则是未来每50ms为间隔的写操作的大小的预测值,也就是说未来0~50ms、50~100ms、...、750ms~800ms写操作的强度大小预测值。
需要说明的是,在使用神经网络模型对未来第一时间段的I/O信息执行预测时,一般要求历史数据量大于预测数据量,如本实施中采用1s内的实际I/O信息量,对未来800ms的I/O信息量进行预测,而为了提高准确率,还可以是对未来400ms的I/O信息量进行预测,一般是历史数据量越大,预测数据量越小,则相应的预测准确率就越高,反之,预测准确率就越低。而模型输出的Y值中,也可以是y1,y2,...,y16为未来每50ms为间隔的写操作的大小的预测值,y17,y18,...,y32为未来每50ms为间隔的读操作的大小的预测值,即Y值中的输出值主要取决于前期的模型训练过程,若前期模型训练过程中,y1,y2,...,y16为未来每50ms为间隔的读操作的大小的预测值,则后期的模型输出时,y1,y2,...,y16即为每50ms为间隔的读操作的大小的预测值。
基于图1至图4所述的实施例,在得到I/O预测值后,还可以通过第一公式对预测值的准确率进行评估,具体请参阅图7,本申请实施例中固态硬盘的数据处理方法的另一个实施例,包括:
701、通过第一公式对预测结果进行评估,以评估预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000141
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000142
表示多个xi的平均值,
Figure BDA0002054714830000143
表示多个yi的平均值。
具体的,在得到第一时间段的I/O预测值后,还可以通过第一公式对I/O预测值的准确率进行评估,其中,xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000144
表示多个xi的平均值,
Figure BDA0002054714830000145
表示多个yi的平均值。
本实施例中,对用于评估预测结果的第一公式做了详细描述,提升了本申请实施例的可实施性。
上面对本申请实施例中的固态硬盘的数据处理方法进行了描述,下面对本申请实施例中的固态硬盘的数据处理装置进行描述,请参阅图8,本申请实施例中固态硬盘的数据处理装置的一个实施例,包括:
获取单元801,用于获取固态硬盘SSD接收到的接口协议指令;
解析单元802,用于解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
预测单元803,用于对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果执行固态硬盘管理。
优选的,所述预测单元803具体用于:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习(也即模型推理),以得到所述第一时间段的I/O预测结果;
将所述I/O预测结果执行后期处理,以调整所述预测结果。
优选的,所述预测单元803具体用于:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
优选的,所述预测单元803具体用于:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度,所述预测结果输出维度反映了所述第一时间段的I/O预测结果。
优选的,所述预测单元803具体用于:
将所述高维度的I/O操作特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
优选的,所述多个合并后的I/O操作特征值所对应的时间间隔大于所述第一时间段。
优选的,所述固态硬盘管理包括:主动缓存管理、主动垃圾回收或主动防止读写错误。
优选的,所述装置还包括:
评估单元804,用于通过第一公式对预测结果进行评估,以评估预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000161
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000162
表示多个xi的平均值,
Figure BDA0002054714830000163
表示多个yi的平均值。
需要说明的是,上述各单元的作用与图1至图7中所描述的类似,此处不再赘述。
本申请实施例中,先通过获取单元801获取固态硬盘SSD接收到的接口协议指令;然后通过解析单元802解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;并对所述I/O信息执行机器学习,以通过预测单元803对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理,因为本申请实施例中,能够通过机器学习算法,根据当前的I/O信息对未来第一时间段I/O信息执行主动预测,从而使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理,以提高固态硬盘性能,减少数据操作的响应时间。
上面从模块化功能实体的角度对本申请实施例中的固态硬盘的数据处理装置进行了描述,下面从硬件处理的角度对本申请实施例中的计算机装置进行描述:
该计算机装置用于实现固态硬盘的数据处理装置的功能,本申请实施例中计算机装置一个实施例包括:
处理器以及存储器;
存储器用于存储计算机程序,处理器用于执行存储器中存储的计算机程序时,可以实现如下步骤:
获取固态硬盘SSD接收到的接口协议指令;
解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理。
在本申请的一些实施例中,处理器,还可以用于实现如下步骤:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习(也即模型推理),以得到所述第一时间段的I/O预测结果;
将所述I/O预测信息执行后期处理,以调整所述预测结果。
在本申请的一些实施例中,处理器,还可以用于实现如下步骤:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
在本申请的一些实施例中,处理器,还可以用于实现如下步骤:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度,所述预测结果输出维度反映了所述第一时间段的I/O预测结果。
在本申请的一些实施例中,处理器,还可以用于实现如下步骤:
将所述高维向量空间映射后的特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
在本申请的一些实施例中,处理器,还可以用于实现如下步骤:
通过第一公式对预测结果进行评估,以评估预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000181
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000183
表示多个xi的平均值,
Figure BDA0002054714830000182
表示多个yi的平均值。
可以理解的是,上述说明的计算机装置中的处理器执行所述计算机程序时,也可以实现上述对应的各装置实施例中各单元的功能,此处不再赘述。示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器中,并由所述处理器执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序在所述固态硬盘的数据处理装置中的执行过程。例如,所述计算机程序可以被分割成上述固态硬盘的数据处理装置中的各单元,各单元可以实现如上述相应固态硬盘的数据处理装置说明的具体功能。
所述计算机装置可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机装置可包括但不仅限于处理器、存储器。本领域技术人员可以理解,处理器、存储器仅仅是计算机装置的示例,并不构成对计算机装置的限定,可以包括更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述计算机装置还可以包括输入输出设备、网络接入设备、总线等。
所述处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(ApplicatI/On Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable GateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器是所述计算机装置的控制中心,利用各种接口和线路连接整个计算机装置的各个部分。
所述存储器可用于存储所述计算机程序和/或模块,所述处理器通过运行或执行存储在所述存储器内的计算机程序和/或模块,以及调用存储在存储器内的数据,实现所述计算机装置的各种功能。所述存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据终端的使用所创建的数据等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(SecureDigital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
本申请还提供了一种计算机可读存储介质,该计算机可读存储介质用于实现应用启动系统的功能,其上存储有计算机程序,计算机程序被处理器执行时,处理器,可以用于执行如下步骤:
获取固态硬盘SSD接收到的接口协议指令;
解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行并优化固态硬盘管理。
在本申请的一些实施例中,计算机可读存储介质存储的计算机程序被处理器执行时,处理器,可以具体用于执行如下步骤:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习(也即模型推理),以得到所述第一时间段的I/O预测信息;
将所述I/O预测信息执行后期处理,以调整所述预测结果。
在本申请的一些实施例中,计算机可读存储介质存储的计算机程序被处理器执行时,处理器,可以具体用于执行如下步骤:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小;
将所述数据大小执行压缩操作,以得到所述第一I/O信息表。
在本申请的一些实施例中,计算机可读存储介质存储的计算机程序被处理器执行时,处理器,可以具体用于执行如下步骤:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果的输出维度,所述预测结果的输出维度的特征值反映了所述第一时间段的I/O预测信息。
在本申请的一些实施例中,计算机可读存储介质存储的计算机程序被处理器执行时,处理器,可以具体用于执行如下步骤:
将所述高维度的I/O操作特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
在本申请的一些实施例中,计算机可读存储介质存储的计算机程序被处理器执行时,处理器,可以具体用于执行如下步骤:
通过第一公式对预测结果进行评估,以评估预测结果的准确率;
所述第一公式包括:
Figure BDA0002054714830000201
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure BDA0002054714830000211
表示多个xi的平均值,
Figure BDA0002054714830000212
表示多个yi的平均值。
可以理解的是,所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在相应的一个计算机可读取存储介质中。基于这样的理解,本申请实现上述相应的实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (10)

1.一种固态硬盘的数据处理方法,其特征在于,包括:
获取固态硬盘SSD接收到的接口协议指令;
解析所述接口协议指令,以获取所述协议指令中的I/O信息,所述I/O信息至少包括I/O时间戳、I/O类型及I/O大小;
对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,以使得固态硬盘处理器根据预测结果主动执行固态硬盘管理。
2.根据权利要求1所述的方法,其特征在于,所述对所述I/O信息执行机器学习,以对未来第一时间段的I/O信息进行预测,包括:
对所述I/O信息执行预处理,以得到第一I/O信息表;
将所述第一I/O信息表中的多个相邻I/O操作合并为一次I/O操作;
将多个合并后的I/O操作特征值用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测结果;
将所述I/O预测结果执行后期处理,以调整所述预测结果。
3.根据权利要求2所述的方法,其特征在于,所述对所述I/O信息执行预处理,以得到第一I/O信息表,包括:
根据所述I/O时间戳,计算出多组满足第一预设数目的I/O操作间的时间间隔;
统计出每组中第一预设数目的I/O操作在所述时间间隔内的读操作及写操作的次数总和及对应的数据大小,以得到所述第一I/O信息表。
4.根据权利要求2所述的方法,其特征在于,所述将多个合并后的I/O操作用于神经网络LSTM模型学习,以得到所述第一时间段的I/O预测结果,包括:
将多个合并后的I/O操作特征值,输入到神经网络的输入全连接层,以通过线性变换,将合并后的I/O操作特征值做高维向量空间映射,所述I/O操作特征值相关于所述I/O时间戳、所述I/O类型及所述I/O大小;
通过多个神经网络细胞LSTM Cell组成神经元集合,以将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,以得到运算结果;
将所述运算结果输入到神经网络的输出全连接层,以将所述运算结果映射为预测结果输出维度的特征值,所述预测结果输出维度的特征值反映了所述第一时间段的I/O预测结果。
5.根据权利要求4所述的方法,其特征在于,所述将所述高维向量空间映射后的特征值依次循环输入所述神经元集合中进行运算,包括:
将所述高维向量空间映射后的特征值依次输入每个神经元细胞的网络结构中进行运算,所述网络结构包括输入门、遗忘门及输出门。
6.根据权利要求4所述的方法,其特征在于,所述多个合并后的I/O操作特征值所对应的时间间隔大于所述第一时间段。
7.根据权利要求1所述的方法,其特征在于,所述固态硬盘管理包括:缓存管理、垃圾回收或指令队列管理。
8.根据权利要求1至7中任一项所述的方法,其特征在于,所述方法还包括:
通过第一公式对所述预测结果进行评估,以评估所述预测结果的准确率;
所述第一公式包括:
Figure FDA0002054714820000021
所述r表示预测的准确率,所述xi表示当前I/O的实际强度,yi表示预测的I/O强度,
Figure FDA0002054714820000022
表示多个xi的平均值,
Figure FDA0002054714820000023
表示多个yi的平均值。
9.一种计算机装置,包括处理器,其特征在于,所述处理器在执行存储于存储器上的计算机程序时,用于实现如权利要求1至8中任一项所述的固态硬盘的数据处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,用于实现如权利要求1至8中任一项所述的固态硬盘的数据处理方法。
CN201910385547.0A 2019-05-09 2019-05-09 一种固态硬盘的数据处理方法及装置 Active CN111913648B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201910385547.0A CN111913648B (zh) 2019-05-09 2019-05-09 一种固态硬盘的数据处理方法及装置
PCT/CN2020/085296 WO2020224414A1 (zh) 2019-05-09 2020-04-17 一种固态硬盘的数据处理方法及装置
US17/520,233 US11861210B2 (en) 2019-05-09 2021-11-05 Data processing method and apparatus for solid state disk

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910385547.0A CN111913648B (zh) 2019-05-09 2019-05-09 一种固态硬盘的数据处理方法及装置

Publications (2)

Publication Number Publication Date
CN111913648A true CN111913648A (zh) 2020-11-10
CN111913648B CN111913648B (zh) 2021-08-17

Family

ID=73051447

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910385547.0A Active CN111913648B (zh) 2019-05-09 2019-05-09 一种固态硬盘的数据处理方法及装置

Country Status (3)

Country Link
US (1) US11861210B2 (zh)
CN (1) CN111913648B (zh)
WO (1) WO2020224414A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112631525A (zh) * 2020-12-30 2021-04-09 安徽鸿程光电有限公司 存储及显示方法、装置、设备及介质
CN117806837A (zh) * 2024-02-29 2024-04-02 山东云海国创云计算装备产业创新中心有限公司 一种硬盘任务管理方法、装置、存储介质及系统
CN117806837B (zh) * 2024-02-29 2024-06-07 山东云海国创云计算装备产业创新中心有限公司 一种硬盘任务管理方法、装置、存储介质及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106250064A (zh) * 2016-08-19 2016-12-21 深圳大普微电子科技有限公司 固态硬盘控制装置和基于学习的固态硬盘数据存取方法
US20180157418A1 (en) * 2014-11-20 2018-06-07 Samsung Electronics Co., Ltd. Solid state drive (ssd) memory cache occupancy prediction
CN109635150A (zh) * 2018-12-19 2019-04-16 腾讯科技(深圳)有限公司 文本生成方法、装置以及存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9058210B2 (en) * 2010-03-23 2015-06-16 Ebay Inc. Weighted request rate limiting for resources
WO2019035986A1 (en) * 2017-08-18 2019-02-21 Bayer Healthcare Llc SYSTEM, METHOD, AND PREDICTIVE MAINTENANCE COMPUTER PROGRAM PRODUCT

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180157418A1 (en) * 2014-11-20 2018-06-07 Samsung Electronics Co., Ltd. Solid state drive (ssd) memory cache occupancy prediction
CN106250064A (zh) * 2016-08-19 2016-12-21 深圳大普微电子科技有限公司 固态硬盘控制装置和基于学习的固态硬盘数据存取方法
CN109635150A (zh) * 2018-12-19 2019-04-16 腾讯科技(深圳)有限公司 文本生成方法、装置以及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
俞庆华: "《美光推出全新旗舰级NVMe固态存储系列,实现超高数据访问速度》", 《汽车零部件》 *
张洪秀 等: "《教育测量与评价方法》", 31 July 2014, 吉林大学出版社 *
李月恒 等: "《罗克韦尔ControlLogix PLC实用教程》", 31 May 2015, 中国铁道出版社 *
范爱军 等: "《ControlLogix在烟草行业的应用》", 30 June 2014, 华中科技大学出版社 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112631525A (zh) * 2020-12-30 2021-04-09 安徽鸿程光电有限公司 存储及显示方法、装置、设备及介质
CN117806837A (zh) * 2024-02-29 2024-04-02 山东云海国创云计算装备产业创新中心有限公司 一种硬盘任务管理方法、装置、存储介质及系统
CN117806837B (zh) * 2024-02-29 2024-06-07 山东云海国创云计算装备产业创新中心有限公司 一种硬盘任务管理方法、装置、存储介质及系统

Also Published As

Publication number Publication date
CN111913648B (zh) 2021-08-17
US11861210B2 (en) 2024-01-02
US20220057962A1 (en) 2022-02-24
WO2020224414A1 (zh) 2020-11-12

Similar Documents

Publication Publication Date Title
CN111913649B (zh) 一种固态硬盘的数据处理方法及装置
CN111709533B (zh) 机器学习模型的分布式训练方法、装置以及计算机设备
CN110806954B (zh) 评估云主机资源的方法、装置、设备及存储介质
CN110866628A (zh) 利用动态时间上下文学习进行多界限时间序列预测的系统和方法
CN111258767B (zh) 复杂系统仿真应用的云计算资源智能分配方法与装置
US20150324326A1 (en) Techniques to perform curve fitting for statistical tests
US20200372342A1 (en) Systems and methods for predictive early stopping in neural network training
CN104993962A (zh) 获取终端使用状态的方法和系统
CN111435463A (zh) 数据处理方法及相关设备、系统
CN110674636B (zh) 一种用电行为分析方法
CN114612251A (zh) 风险评估方法、装置、设备及存储介质
CN114066073A (zh) 电网负荷预测方法
CN116760772A (zh) 汇聚分流器的管控系统及其方法
CN113537850A (zh) 仓储优化方法、装置、计算机设备和存储介质
CN111913648B (zh) 一种固态硬盘的数据处理方法及装置
CN113326177A (zh) 一种指标异常检测方法、装置、设备及存储介质
CN116827950A (zh) 云资源的处理方法、装置、设备及存储介质
CN116737373A (zh) 负载均衡方法、装置、计算机设备、存储介质
CN113160987B (zh) 健康状态预测方法、装置、计算机设备及存储介质
CN115841343A (zh) 一种销售额度的确定方法及装置
CN114281664A (zh) 应用程序负载数据预测方法、装置及存储介质
CN113780666A (zh) 一种缺失值的预测方法及装置、可读存储介质
CN113760407A (zh) 信息处理方法、装置、设备及存储介质
CN110555576A (zh) 工作饱和度分析方法和装置
CN117992241B (zh) 基于大数据的科技型中小企业银企对接服务系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP02 Change in the address of a patent holder
CP02 Change in the address of a patent holder

Address after: 518000 room 503, block B, building 2, Tian'an digital new town, Huangge North Road, Longcheng street, Longgang District, Shenzhen City, Guangdong Province

Patentee after: SHENZHEN DAPU MICROELECTRONICS Co.,Ltd.

Address before: 518000 Guangdong province Shenzhen Longgang District Bantian Street five and Avenue North 4012 Yuan Zheng Industrial Park.

Patentee before: SHENZHEN DAPU MICROELECTRONICS Co.,Ltd.