CN109521970A - 一种数据处理方法及相关设备 - Google Patents
一种数据处理方法及相关设备 Download PDFInfo
- Publication number
- CN109521970A CN109521970A CN201811385806.1A CN201811385806A CN109521970A CN 109521970 A CN109521970 A CN 109521970A CN 201811385806 A CN201811385806 A CN 201811385806A CN 109521970 A CN109521970 A CN 109521970A
- Authority
- CN
- China
- Prior art keywords
- data
- granularity
- integral
- written
- read
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
- G06F3/0611—Improving I/O performance in relation to response time
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0673—Single storage device
- G06F3/0679—Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
- Memory System (AREA)
Abstract
本申请实施例公开了一种数据处理方法及相关设备，用于提升存储设备的数据处理速度。本申请实施例方法包括：本实施例中，计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；获取待写入数据的数据粒度；当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；判断所述整合数据是否满足预设条件；若是，则将所述整合数据写入所述存储设备。其中，目标读写粒度对应于所述存储设备中的数据块容量，使其能将小于所述目标读写粒度的待写入数据进行整合，再将满足预设条件的整合数据写入存储设备中，从而减少设备内的调度时间，提升存储设备的数据处理速度。
Description
技术领域
本申请涉及电子信息领域，尤其涉及一种数据处理方法及相关设备。
背景技术
随着USB移动存储设备的高速发展，移动存储设备品类越来越多，不同应用场景对不同设备的需求更加多样化，容量越来越大，访问速度需求越来越高。
在现有技术中，以USB2.0为例，通常USB2.0存储设备由NandFlash作为存储介质，NandFlash的通常读写以Page为单元，擦除以Block为操作单元，Block所包含的Page数量在每个NandFlash颗粒中并不一样。
由于闪存颗粒的擦除、写、读三种操作的单元不一样，读的操作单元通常是由控制器的纠错模块决定的，而擦除和写操作的单元是由闪存颗粒本身决定的。改写数据不能直接通过写操作进行，只能对需要改写的地方转录同时改写到其他块中，再擦除原块。
设备主控资源限制，在不连续的小文件读写操作时需要做调度，比大文件读写操作慢很多，尤其写操作有显著的差异，无法跟上主流存储设备访问速度的要求。
申请内容
本申请实施例提供了一种数据处理方法及相关设备，用于提升存储设备的数据处理速度。
本申请实施例第一方面提供了一种数据处理方法，所述方法包括：
计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取待写入数据的数据粒度；
当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断所述整合数据是否满足预设条件；
若是，则将所述整合数据写入所述存储设备。
可选地，所述判断所述整合数据是否满足预设条件包括：
计算所述整合数据的数据粒度；
判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
可选地，所述判断所述整合数据是否满足预设条件包括：
获取所述存储设备的目标更新次数，所述目标更新次数指示不影响所述存储设备读写速度的防数据丢失更新次数；
计算所述整合数据的轮询次数；
判断所述整合数据的轮询次数是否不小于所述目标更新次数；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
可选地，所述计算存储设备的目标读写粒度具体包括：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
可选地，所述将所述待写入数据进行整合，得到整合数据具体包括：
将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
可选地，在将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据之后，所述方法还包括：
接收读取数据的指令，所述指令包括待读取数据的地址；
根据所述指令从随机存储器RAM中读取待读取数据。
本申请实施例第二方面提供了一种数据处理系统，所述系统包括：
计算单元，用于计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取单元，用于获取待写入数据的数据粒度；
整合单元，用于当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断单元，用于判断所述整合数据是否满足预设条件；
写入单元，用于当所述判断单元确定所述整合数据满足预设条件时，将所述整合数据写入所述存储设备。
可选地，所述判断单元具体用于：
计算所述整合数据的数据粒度；
判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
可选地，所述判断单元具体用于：
获取所述存储设备的目标更新次数，所述目标更新次数指示不影响所述存储设备读写速度的防数据丢失更新次数；
计算所述整合数据的轮询次数；
判断所述整合数据的轮询次数是否不小于所述目标更新次数；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
可选地，所述计算单元具体用于：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
可选地，所述整合单元具体用于：
将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
可选地，所述系统还包括：
接收单元，用于接收读取数据的指令，所述指令包括待读取数据的地址；
读取单元，用于根据所述指令从随机存储器RAM中读取待读取数据。
本申请实施例第三方面提供了一种计算机装置，包括：
处理器、存储器、输入输出设备以及总线；
所述处理器、存储器、输入输出设备分别与所述总线相连；
所述处理器用于执行如前述实施例所述的方法。
本申请实施例第四方面提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于：所述计算机程序被处理器执行时实现如前述实施例所述方法的步骤。
从以上技术方案可以看出，本申请实施例具有以下优点：本实施例中，计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；获取待写入数据的数据粒度；当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；判断所述整合数据是否满足预设条件；若是，则将所述整合数据写入所述存储设备。其中，目标读写粒度对应于所述存储设备中的数据块容量，使其能将小于所述目标读写粒度的待写入数据进行整合，再将满足预设条件的整合数据写入存储设备中，从而减少设备内的调度时间，提升设备速度。
附图说明
图1为本申请实施例中一种数据处理方法实施例的一个示意图；
图2为本申请实施例中一种数据处理方法实施例的另一个示意图；
图3为本申请实施例中一种数据处理方法实施例的另一个示意图；
图4为本申请实施例中一种数据处理方法实施例的另一个示意图；
图5为本申请实施例中一种数据处理方法实施例的另一个示意图；
图6为本申请实施例中一种数据处理方法实施例的另一个示意图；
图7为本申请实施例中一种数据处理系统实施例的一个示意图；
图8为本申请实施例中计算机装置实施例的一个示意图。
具体实施方式
本申请实施例提供了一种数据处理方法及相关设备，用于提升存储设备的数据处理速度。
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
为了便于理解，下面对本申请实施例中的具体流程进行描述，请参阅图1，本申请实施例中一种数据处理方法的一个实施例包括：
101、计算存储设备的目标读写粒度；
本实施例中，计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量。
具体地，可通过笔记本电脑、台式机电脑、服务器或者是其它的主机设备作为本申请的执行主体，此处不做限定。主机设备可以计算存储设备的目标读写粒度，目标读写粒度对应于所述存储设备中的数据块容量。
其中，由于设备使用存储颗粒NandFlash的Block-page管理模型的理论最快速度是正好写满1个Block，所以在检测目标读写粒度实际上是在检测NandFlash的单个Block的大小，数据粒度超过或者小于单个block大小的情况下，设备的读写操作都需要对数据进行调度，导致速度降低，因此，在后续步骤中将使用目标读写粒度进行操作，使得设备的读写操作速度提升。
102、获取待写入数据的数据粒度；
本实施例中，主机设备计算待写入数据的数据粒度。
103、当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
本实施例中，主机设备对步骤101和步骤102中获取得到的待写入数据的数据粒度和目标读写粒度进行大小判断，当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据。
104、判断所述整合数据是否满足预设条件；
本实施例中，主机设备判断步骤103得到的整合数据是否满足预设条件，具体来说，可以通过判断整合数据的数据粒度大小的方式、或者是整合数据的更新次数多少的方式来判断，或者是其它的判断方式，此处不做限定。
105、若是，则将所述整合数据写入所述存储设备。
本实施例中，当步骤104确定该整合数据满足预设条件时，将所述整合数据写入所述存储设备。
106、若否，则执行其它步骤。
本实施例中，当步骤104确定该整合数据不满足预设条件时，可以不执行操作，也可以继续等待下一次整合数据更新入新的待写入数据时再判断是否满足预设条件，还可以是执行其它的操作，具体此处不做限定。
本实施例中，计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；获取待写入数据的数据粒度；当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；判断所述整合数据是否满足预设条件；若是，则将所述整合数据写入所述存储设备。其中，目标读写粒度对应于所述存储设备中的数据块容量，使其能将小于所述目标读写粒度的待写入数据进行整合，再将满足预设条件的整合数据写入存储设备中，从而减少设备内的调度时间，提升设备速度。
本申请实施例中，基于图1所述实施例，在步骤104判断所述整合数据是否满足预设条件的方法有多种，具体来说，可以通过判断数据粒度的大小或者是判断存储设备的更新次数的多少来判断是否满足预设条件。下面将分别通过图2和图3来进行说明。
一、通过整合数据的粒度判断
请参阅图2，基于图1所述实施例，本申请实施例中一种数据处理方法的另一个实施例中，步骤104具体可以包括：
201、计算所述整合数据的数据粒度；
本实施例中，主机设备计算步骤103中获取得到的整合数据的数据粒度。
202、判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
本实施例中，主机设备步骤201计算得到的整合数据的数据粒度是否不小于步骤101中计算得到的目标读写粒度，若是，则执行步骤203，若否，则执行步骤204。
203、若是，则确定所述整合数据满足所述预设条件；
本实施例中，当步骤202中确定整合数据的数据粒度不小于目标读写粒度时，则确定整合数据满足预设条件，执行步骤105。
204、若否，则确定所述整合数据不满足所述预设条件。
本实施例中，当步骤202中确定整合数据的数据粒度小于目标读写粒度时，则确定整合数据满足预设条件，执行步骤106。
二、通过存储设备的更新次数来判断
请参阅图3，基于图1或图2所述实施例，本申请实施例中一种数据处理方法的另一个实施例中，步骤104具体可以包括：
301、获取所述存储设备的目标更新次数；
本实施例中，主机设备获取所述存储设备的目标更新次数M，所述目标更新次数M指示不影响所述存储设备读写速度的防数据丢失更新次数，具体来说，这个目标更新次数M可以是根据经验数据预设，也可以是通过存储设备的参数进行计算得到，还可以是其它方式获取得到，此处不做限定。
302、计算所述整合数据的轮询次数；
本实施例中，主机设备计算整合数据的轮询次数，具体来说，可以预设Count＝0，在每次整合数据中加入待写入数据时Count+1。
303、判断所述整合数据的轮询次数是否不小于所述目标更新次数；
本实施例中，主机设备判断整合数据的轮询次数Count与目标更新次数M的数值大小关系，当确定Count>＝M时，执行步骤304，当确定Count<M时，则执行步骤305。
304、若是，则确定所述整合数据满足所述预设条件；
本实施例中，当步骤303中确定Count>＝M时，则确定整合数据满足预设条件，执行步骤106。
305、若否，则确定所述整合数据不满足所述预设条件。
本实施例中，当步骤303中确定Count<M时，则确定整合数据满足预设条件，执行步骤106。
本申请实施例中，具体步骤101计算存储设备的目标读写粒度的方法可以通过多次连续数据的写入来计算得到。下面请参阅图4，基于图1-3所述实施例，本申请实施例中一种数据处理方法的另一个实施例中具体步骤101可以包括：
401、使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度；
本实施例中，主机设备使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据。
402、查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
本实施例中，主机设备查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
本实施例中，主机设备用连续数据对存储设备进行多次写操作，连续数据的长度由小到大排列，待平均写入速度不再变块后取最快写入速度的第一个数据长度为目标读写粒度。
本申请实施例中，具体在步骤103中，可以将所述待写入数据进行整合存入随机存储器RAM中，得到整合数据。下面请参阅图5，基于图1-4所述实施例，本申请实施例中一种数据处理方法的另一个实施例中具体步骤103可以包括：
501、将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据；
本实施例中，主机设备将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
具体地，以RAM作为存储整合数据的区域，可以实现在后续对整合数据的操作的提速，随机存取存储器(random access memory，RAM)又称作“随机存储器”，是与CPU直接交换数据的内部存储器，也叫主存(内存)。它可以随时读写，而且速度很快，通常作为操作系统或其他正在运行中的程序的临时数据存储媒介。在RAM中的内容可按需随意取出或存入，在断电时将丢失其存储内容，故主要用于存储短时间使用的程序，可进一步地提升数据的安全性。
本申请实施例中，基于图5所述实施例，具体在步骤501将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据之后，在读取数据时，可以直接从RAM中读取。下面请参阅图6，基于图5所述实施例，本申请实施例中一种数据处理方法的另一个实施例中具体步骤501之后可以包括：：
601、接收读取数据的指令；
本实施例中，主机设备接收读取数据的指令，所述指令包括待读取数据的地址。
具体地，主机设备可以通过外接设备获取得到读取数据的指令，也可以是通过接收第三方终端发送的读取数据的指令，此处不作具体的限定，具体该指令包括待读取数据的地址，待读取数据的地址可以指示待读取数据存在与RAM中或者是存在与该存储设备中。
602、根据所述指令从随机存储器RAM中读取待读取数据。
本实施例中，主机设备根据步骤601接收得到的指令从随机存储器RAM中读取待读取数据。
具体来说，主机设备根据待读取数据的地址来确定如何读取待读取数据，若有一段数据是已经缓存在RAM中的数据，而也有未缓存在RAM中的数据，所以需要从设备中读取数据。
上面从方法的角度对本申请实施例进行了说明，下面从虚拟装置的角度对本申请实施例进行介绍。请参阅图7，本申请实施例中一种数据处理系统的一个实施例包括：
计算单元701，用于计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取单元702，用于获取待写入数据的数据粒度；
整合单元703，用于当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断单元704，用于判断所述整合数据是否满足预设条件；
写入单元705，用于当所述判断单元确定所述整合数据满足预设条件时，将所述整合数据写入所述存储设备。
本实施例中，第一计算单元701，用于计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；第一获取单元702，用于获取待写入数据的数据粒度；整合单元703，用于当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；判断单元704，用于判断所述整合数据是否满足预设条件；写入单元705，用于当所述判断单元确定所述整合数据满足预设条件时，将所述整合数据写入所述存储设备。其中，目标读写粒度对应于所述存储设备中的数据块容量，使其能将小于所述目标读写粒度的待写入数据进行整合，再将满足预设条件的整合数据写入存储设备中，从而减少设备内的调度时间，提升设备速度。
作为一个优选方案，所述判断单元704具体用于：
计算所述整合数据的数据粒度；
判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
作为一个优选方案，所述判断单元704具体用于：
获取所述存储设备的目标更新次数，所述目标更新次数指示不影响所述存储设备读写速度的防数据丢失更新次数；
计算所述整合数据的轮询次数；
判断所述整合数据的轮询次数是否不小于所述目标更新次数；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
作为一个优选方案，所述计算单元701具体用于：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
作为一个优选方案，所述整合单元703具体用于：
将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
可选地，所述系统还包括：
接收单元706，用于接收读取数据的指令，所述指令包括待读取数据的地址；
读取单元707，用于根据所述指令从随机存储器RAM中读取待读取数据。
上面从模块化的装置对本申请实施例进行了描述，下面从硬件装置的角度对本申请实施例中的计算机装置进行描述，请参阅图8，本申请实施例中计算机装置的一个具体实施例包括：
该装置800可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，CPU)801(例如，一个或一个以上处理器)和存储器805，该存储器805中存储有一个或一个以上的应用程序或数据。
其中，存储器805可以是易失性存储或持久存储。存储在存储器805的程序可以包括一个或一个以上模块，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器801可以设置为与存储器805通信，在智能终端800上执行存储器805中的一系列指令操作。
该装置800还可以包括一个或一个以上电源802，一个或一个以上有线或无线网络接口803，一个或一个以上输入输出接口804，和/或，一个或一个以上操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。
所述处理器801具体用于执行以下步骤：
计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取待写入数据的数据粒度；
当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断所述整合数据是否满足预设条件；
若是，则将所述整合数据写入所述存储设备。
作为一个优选方案，所述判断所述整合数据是否满足预设条件包括：
计算所述整合数据的数据粒度；
判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
作为一个优选方案，所述判断所述整合数据是否满足预设条件包括：
获取所述存储设备的目标更新次数，所述目标更新次数指示不影响所述存储设备读写速度的防数据丢失更新次数；
计算所述整合数据的轮询次数；
判断所述整合数据的轮询次数是否不小于所述目标更新次数；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
作为一个优选方案，所述计算存储设备的目标读写粒度具体包括：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
作为一个优选方案，所述将所述待写入数据进行整合，得到整合数据具体包括：
将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
作为一个优选方案，在将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据之后，所述方法还包括：
接收读取数据的指令，所述指令包括待读取数据的地址；
根据所述指令从随机存储器RAM中读取待读取数据。
可以理解的是，在本申请的各种实施例中，上述各步骤的序号的大小并不意味着执行顺序的先后，各步骤的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，RandomAccess Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (10)
1.一种数据处理方法，其特征在于，所述方法包括：
计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取待写入数据的数据粒度；
当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断所述整合数据是否满足预设条件；
若是，则将所述整合数据写入所述存储设备。
2.根据权利要求1所述的方法，其特征在于，所述判断所述整合数据是否满足预设条件包括：
计算所述整合数据的数据粒度；
判断所述整合数据的数据粒度是否不小于所述目标读写粒度；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
3.根据权利要求1所述的方法，其特征在于，所述判断所述整合数据是否满足预设条件包括：
获取所述存储设备的目标更新次数，所述目标更新次数指示不影响所述存储设备读写速度的防数据丢失更新次数；
计算所述整合数据的轮询次数；
判断所述整合数据的轮询次数是否不小于所述目标更新次数；
若是，则确定所述整合数据满足所述预设条件；
若否，则确定所述整合数据不满足所述预设条件。
4.根据权利要求1至3任一项所述的方法，其特征在于，所述计算存储设备的目标读写粒度具体包括：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
5.根据权利要求1至3任一项所述的方法，其特征在于，所述将所述待写入数据进行整合，得到整合数据具体包括：
将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据，所述整合数据包括所述待写入数据在所述存储设备中的地址。
6.根据权利要求5所述的方法，其特征在于，在将所述待写入数据整合入所述存储设备中的随机存储器RAM中，得到整合数据之后，所述方法还包括：
接收读取数据的指令，所述指令包括待读取数据的地址；
根据所述指令从随机存储器RAM中读取待读取数据。
7.一种数据处理系统，其特征在于，所述系统包括：
计算单元，用于计算存储设备的目标读写粒度，所述目标读写粒度对应于所述存储设备中的数据块容量；
获取单元，用于获取待写入数据的数据粒度；
整合单元，用于当确定所述待写入数据的数据粒度小于所述目标读写粒度时，将所述待写入数据进行整合，得到整合数据；
判断单元，用于判断所述整合数据是否满足预设条件；
写入单元，用于当所述判断单元确定所述整合数据满足预设条件时，将所述整合数据写入所述存储设备。
8.根据权利要求7所述的系统，其特征在于，所述第一计算单元具体用于：
使用连续数据对所述存储设备进行写操作，得到所述连续数据的写入速度，所述连续数据为数据长度从小到大排列的连续数据；
查询与所述连续数据的最优写入速度对应的读写粒度，并确定为目标读写粒度。
9.一种计算机装置，其特征在于，包括：
处理器、存储器、输入输出设备以及总线；
所述处理器、存储器、输入输出设备分别与所述总线相连；
所述处理器用于执行如权利要求1至6任一项所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于：所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811385806.1A CN109521970B (zh) | 2018-11-20 | 2018-11-20 | 一种数据处理方法及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811385806.1A CN109521970B (zh) | 2018-11-20 | 2018-11-20 | 一种数据处理方法及相关设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109521970A true CN109521970A (zh) | 2019-03-26 |
| CN109521970B CN109521970B (zh) | 2022-03-08 |
Family
ID=65776481
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811385806.1A Active CN109521970B (zh) | 2018-11-20 | 2018-11-20 | 一种数据处理方法及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109521970B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111339096A (zh) * | 2020-02-25 | 2020-06-26 | 网易（杭州）网络有限公司 | 数据配置表处理的方法、装置、设备及存储介质 |
| CN112000289A (zh) * | 2020-08-20 | 2020-11-27 | 苏州浪潮智能科技有限公司 | 全闪存储服务器系统数据管理方法及相关组件 |
| CN112506442A (zh) * | 2020-12-22 | 2021-03-16 | 深圳市时创意电子有限公司 | 一种闪存芯片数据处理方法、装置、电子设备及存储介质 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090222627A1 (en) * | 2008-02-29 | 2009-09-03 | Denali Software, Inc. | Method and apparatus for high speed cache flushing in a non-volatile memory |
| CN101727293A (zh) * | 2008-10-23 | 2010-06-09 | 成都市华为赛门铁克科技有限公司 | 一种固态硬盘ssd存储的设置方法、装置和系统 |
| CN102646069A (zh) * | 2012-02-23 | 2012-08-22 | 华中科技大学 | 一种延长固态盘使用寿命的方法 |
| CN103377688A (zh) * | 2012-04-17 | 2013-10-30 | 华邦电子股份有限公司 | 串行接口闪存装置及其状态缓存器的写入方法 |
| CN103425602A (zh) * | 2013-08-15 | 2013-12-04 | 深圳市江波龙电子有限公司 | 一种闪存存储设备数据读写的方法、装置及主机系统 |
| CN105487824A (zh) * | 2015-12-07 | 2016-04-13 | 联想(北京)有限公司 | 信息处理方法、存储装置及电子设备 |
| CN105677383A (zh) * | 2015-12-28 | 2016-06-15 | 北京华大智宝电子系统有限公司 | 一种智能卡数据更新方法 |
| CN107589908A (zh) * | 2017-08-17 | 2018-01-16 | 暨南大学 | 一种基于固态盘缓存系统中非对齐更新数据的合并方法 |
-
2018
- 2018-11-20 CN CN201811385806.1A patent/CN109521970B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090222627A1 (en) * | 2008-02-29 | 2009-09-03 | Denali Software, Inc. | Method and apparatus for high speed cache flushing in a non-volatile memory |
| CN101727293A (zh) * | 2008-10-23 | 2010-06-09 | 成都市华为赛门铁克科技有限公司 | 一种固态硬盘ssd存储的设置方法、装置和系统 |
| CN102646069A (zh) * | 2012-02-23 | 2012-08-22 | 华中科技大学 | 一种延长固态盘使用寿命的方法 |
| CN103377688A (zh) * | 2012-04-17 | 2013-10-30 | 华邦电子股份有限公司 | 串行接口闪存装置及其状态缓存器的写入方法 |
| CN103425602A (zh) * | 2013-08-15 | 2013-12-04 | 深圳市江波龙电子有限公司 | 一种闪存存储设备数据读写的方法、装置及主机系统 |
| CN105487824A (zh) * | 2015-12-07 | 2016-04-13 | 联想(北京)有限公司 | 信息处理方法、存储装置及电子设备 |
| CN105677383A (zh) * | 2015-12-28 | 2016-06-15 | 北京华大智宝电子系统有限公司 | 一种智能卡数据更新方法 |
| CN107589908A (zh) * | 2017-08-17 | 2018-01-16 | 暨南大学 | 一种基于固态盘缓存系统中非对齐更新数据的合并方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111339096A (zh) * | 2020-02-25 | 2020-06-26 | 网易（杭州）网络有限公司 | 数据配置表处理的方法、装置、设备及存储介质 |
| CN112000289A (zh) * | 2020-08-20 | 2020-11-27 | 苏州浪潮智能科技有限公司 | 全闪存储服务器系统数据管理方法及相关组件 |
| CN112000289B (zh) * | 2020-08-20 | 2023-01-10 | 苏州浪潮智能科技有限公司 | 全闪存储服务器系统数据管理方法及相关组件 |
| CN112506442A (zh) * | 2020-12-22 | 2021-03-16 | 深圳市时创意电子有限公司 | 一种闪存芯片数据处理方法、装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109521970B (zh) | 2022-03-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9563369B2 (en) | Fine-grained bandwidth provisioning in a memory controller | |
| CN106104485A (zh) | 针对多进程应用的动态资源管理 | |
| CN113377540A (zh) | 集群资源调度方法及装置、电子设备和存储介质 | |
| CN109521970A (zh) | 一种数据处理方法及相关设备 | |
| CN109753443A (zh) | 一种数据处理方法、装置及电子设备 | |
| CN113641457A (zh) | 容器创建方法、装置、设备、介质及程序产品 | |
| CN104461746B (zh) | 一种基于Android系统的内存空间优化方法及系统 | |
| CN104932933B (zh) | 一种获取自旋锁的方法及装置 | |
| CN107704310B (zh) | 一种实现容器集群管理的方法、装置和设备 | |
| CN108292162A (zh) | 用于多线程访问的软件定义fifo缓冲器 | |
| CN109144714A (zh) | 内存管理方法及装置 | |
| CN111625546A (zh) | 一种数据写入方法、装置、设备、介质 | |
| CN111338745A (zh) | 一种虚拟机的部署方法、装置及智能设备 | |
| CN112905314A (zh) | 异步处理方法、装置、电子设备、存储介质、及路侧设备 | |
| CN109086008A (zh) | 固态硬盘的数据处理方法以及固态硬盘 | |
| CN105094742B (zh) | 一种写数据的方法和设备 | |
| CN116089477B (zh) | 分布式训练方法及系统 | |
| CN110221902A (zh) | 一种基于虚拟机的数据传输方法及相关装置 | |
| CN115904259A (zh) | 非易失性存储器标准NVMe指令的处理方法及相关装置 | |
| CN107924370A (zh) | 单一中断服务例程线程中处理关联于多个请求的返回实体的方法以及使用该方法的装置 | |
| CN114996014A (zh) | 基于ion分配器的内存分配方法、装置和电子设备 | |
| WO2020211358A1 (zh) | 数据库调度方法、装置、计算机设备及存储介质 | |
| CN107273188B (zh) | 一种虚拟机中央处理单元cpu绑定方法及装置 | |
| CN111078405A (zh) | 内存分配方法、装置、存储介质及电子设备 | |
| CN110955644A (zh) | 一种存储系统的io控制方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |