CN102355495B - 数据处理方法、装置和系统 - Google Patents
数据处理方法、装置和系统 Download PDFInfo
- Publication number
- CN102355495B CN102355495B CN201110296365.XA CN201110296365A CN102355495B CN 102355495 B CN102355495 B CN 102355495B CN 201110296365 A CN201110296365 A CN 201110296365A CN 102355495 B CN102355495 B CN 102355495B
- Authority
- CN
- China
- Prior art keywords
- data slice
- flash memory
- memory
- data
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 230000015654 memory Effects 0.000 claims abstract description 293
- 238000012545 processing Methods 0.000 claims abstract description 41
- 238000000034 method Methods 0.000 claims abstract description 29
- 238000013507 mapping Methods 0.000 claims description 35
- 230000005540 biological transmission Effects 0.000 claims description 8
- 238000012163 sequencing technique Methods 0.000 claims description 6
- 230000002035 prolonged effect Effects 0.000 abstract 1
- 230000008569 process Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 238000012550 audit Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- 241000283074 Equus asinus Species 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000007858 starting material Substances 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明提供一种数据处理方法、装置和系统,其中,该方法包括:接收从网络侧下载的数据片并将数据片存储到存储模块的闪存中,且在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,其中,存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据存储位置从闪存中读取所述数据片并上传。通过本发明提供的数据处理方法、装置和系统,实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
Description
技术领域
本发明属于通信技术领域,涉及一种数据处理方法、装置和系统。
背景技术
基于嵌入式设备的多媒体应用系统,一般配置有一个闪存存储设备,用来存储模块文件以及当没有外接存储设备时作为备用存储设备供用户使用,另外,由于多媒体数据量大,传统的基于客户端/服务器架构的下载方式已经不能满足嵌入式设备下载的应用需求,而是采用P2P方式进行数据下载。
基于嵌入式设备的P2P下载方式一般以大容量的硬盘作为下载数据的存储设备,P2P下载方式与传统下载方式的最大区别在于用户终端在下载的同时还要作为主机进行文件的上传,为其他用户终端提供数据来源,也就是说系统在写数据的同时还要读数据,硬盘寻道时间长,对硬盘损伤比较大。为了减少对硬盘的反复读写,延长硬盘使用寿命和加快数据读写速度,现有技术利用一部分内存作为缓存区,将下载的数据片直接存储在缓存区中,直到缓存空间满时,将缓存内容写到硬盘中,但是嵌入式设备内存有限,无法利用内存实现大容量数据的缓存,而且对内存占用较多也会影响系统处理数据的速度。
发明内容
针对现有技术的上述缺陷,本发明实施例提供一种数据处理方法、装置和系统。
本发明实施例提供一种数据处理方法,包括:
接收从网络侧下载的数据片;
将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传。
本发明实施例提供一种数据处理装置,包括:
存储模块、接收模块、第一处理模块和上传模块,其中,
所述接收模块,用于接收从网络侧下载的数据片;
所述第一处理模块,用于将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置;
所述上传模块,用于在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传。
本发明实施例提供一种数据处理系统,包括上述的数据处理装置以及至少两个用户终端,所述数据处理装置位于所述用户终端中。
本发明实施例提供的数据处理方法、装置和系统,通过将下载的数据片存储到存储模块的闪存中,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,并直接从闪存中读取与该存储信息对应的数据片进行上传,实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
附图说明
图1为本发明数据处理方法实施例一流程图;
图2为本发明数据处理方法实施例二流程图;
图3为本发明数据处理方法实施例三流程图;
图4为本发明数据处理方法实施例四流程图;
图5为本发明数据处理装置实施例一结构示意图;
图6为本发明数据处理装置实施例二结构示意图;
图7为本发明数据处理装置实施例三结构示意图;
图8为本发明数据处理装置实施例四结构示意图;
图9为本发明数据处理装置实施例五结构示意图;
图10为本发明数据处理系统实施例结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明针对现有技术中利用一部分系统内存做缓存进行P2P方式的数据下载,虽然减少了对硬盘的寻道时间,但是内存有限,无法利用内存实现大容量数据的缓存,而且对内存占用较多也会影响系统处理数据的速度等缺陷,提出了一种解决方案,即通过将下载的数据片存储到存储模块的闪存中,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传,实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
图1为本发明数据处理方法实施例一流程图,如图1所示,该方法包括:
步骤100,接收从网络侧下载的数据片;
基于P2P协议下载方式的用户终端可以支持单任务下载和多任务下载,每个下载任务中的数据以片为单位进行分割,每个任务文件中的数据片大小一致,BT协议定义的数据片的大小是可以调整的,从64KB到8MB不等,一般在512KB至1MB之间,电驴协议定义的数据片大小是9.28MB,用户终端接收从网络侧下载的数据片。
步骤101,将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传。
基于嵌入式设备的用户终端一般配置有一个闪存存储设备,其容量可达1GB以上,具有速度快、容量大、成本低等很多优点,作为大容量的存储介质越来越广泛的应用在嵌入式系统中。闪存分为若干个固定大小的存储单元(称为块),并具有以下特点:各个存储单元是不可直接改写的,在每次改写操作之前需要先擦除;擦除操作以块为单位进行,而读写操作通常以页为单位进行;各块的擦除次数有限,一般为10万~100万次,数据读写方式和硬盘不同,采用直接寻址方式,读写速度比硬盘快,因此,用户终端将下载的数据片存储到闪存中,根据P2P不同的协议分割的数据片的大小不同,因此每个数据片在闪存上占用的块数也是不一样的,但是根据闪存物理块的容量和P2P协议定义的数据片的大小,一般每个数据片占用整数个物理块,不足整数个块的以整数个块计算。
将数据片存储到闪存中后,在存储模块的内存中的映射表中建立该数据片的标识信息与存储信息的对应关系,其中,存储信息包括数据片的存储位置,具体地,在内存中建立一张映射表,记录所下载的每个数据片的标识信息与存储信息的对应关系,数据片的标识信息包括任务序号和片序号,用于标识下载的数据片属于第几个下载任务文件中的第几个数据片;存储信息可以用存储对组(key,value)进行表示,记录数据片在缓存区中的存储位置,其中,key表示连续存储区间起始物理块的块号,value表示连续的物理存储块数,举例来说,数据片的标识信息为(1,2),与标识信息对应的存储信息为(3,5),该对应关系表示第1个下载任务中的第2个数据片在闪存中预设的缓存区中的存储地址是以第3块物理块开始,连续存储5块。值得注意的是,内存中映射表的形式并不限于此,也可以在内存中为每一个下载的任务文件建立一张映射表,通过任务序号进行区分,在各个表中存储对应的任务文件中数据片的标识信息与存储信息的对应关系,此时,标识信息只包括片序号。
P2P下载方式的特点是用户终端在下载数据片的同时还要作为主机进行数据片的上传,为其他用户终端提供数据来源,因此,用户终端在上传数据片时,可以根据所需上传数据片的标识信息查询内存中的映射表获取对应的存储位置,根据存储位置从闪存中读取对应的数据片进行上传,而不需要访问硬盘。
本实施例提供的数据处理方法,通过将下载的数据片存储到存储模块的闪存中,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传,实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
图2为本发明数据处理方法实施例二流程图,如图2所示,该方法包括:
步骤200,接收从网络侧下载的数据片;
步骤201,若根据所述数据片的大小判断获知所述闪存的空闲容量不足,则查询所述映射表获取与所述闪存中的数据片对应的存储信息,其中,所述存储信息还包括用于标记所述数据片是否正在上传的上传标记,根据所述上传标记将所述闪存中没有进行上传的数据片存储到所述存储模块的硬盘中,并从所述闪存中擦除所述数据片,且更新所述映射表中与所述数据片对应的存储位置。
在接收从网络侧下载的数据片之后,根据下载的数据片的大小判断存储模块的闪存中的空闲容量是否足够对该数据片进行存储,若判断获知空闲容量不够存储该数据片,则查询内存中的映射表获取与闪存中的数据片对应的存储信息,其中,存储信息还包括用于标记数据片是否正在上传的上传标记,根据上传标记则将已经存储到闪存中的没有进行上传的数据片存储到存储模块的硬盘中,还要根据这些数据片在闪存中的存储位置在内存中的映射表中查找到这些数据,在从闪存擦除这些数据片的同时更新映射表中与这些数据片对应的存储位置比如更新为(0,0),表示该数据片不在闪存中存储,而是存储在硬盘中,擦除闪存中的数据片为之后下载的数据片提供缓存空间。
步骤202,将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传。
本实施例中的步骤200和步骤202的具体实施过程参见上述实施例一中的步骤100和步骤101,此处不再赘述。
本实施例提供的数据处理方法,通过将下载的数据片存储到存储模块的闪存中,如果闪存空间不够将闪存中没有进行上传的数据片存储到硬盘中为新下载的数据片提供存储空间,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传,进一步地实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
图3为本发明数据处理方法实施例三流程图,如图3所示,该方法包括:
步骤300,接收从网络侧下载的数据片;
步骤301,若根据所述数据片的大小判断获知所述闪存的空闲容量不足,则查询所述映射表获取与所述闪存中的数据片对应的存储信息,其中,所述存储信息还包括所述数据片的下载时间和用于标记所述数据片是否正在上传的上传标记,根据所述上传标记和所述下载时间将所述闪存中没有进行上传的数据片按照从早到晚的时间顺序依次存储到所述存储模块的硬盘中,并从所述闪存中擦除存储到所述硬盘中的数据片,直到所述闪存的空间占有率小于预设的阈值;
在接收从网络侧下载的数据片之后,根据下载的数据片的大小判断存储模块的闪存中的空闲容量是否足够对该数据片进行存储,若判断获知空闲容量不够存储该数据片,则根据闪存中已经存储的数据片的存储位置查询内存中的映射表获取这些数据片的存储信息,其中,存储信息包括数据片的下载时间和用于标记所述数据片是否正在上传的上传标记,为了防止频繁更替闪存以及一次更替闪存时间过长,按照数据片从早到晚的下载时间,根据上传标记和下载时间将闪存中没有进行上传的数据片按照从早到晚的下载时间顺序依次将闪存中的数据片存储到存储模块的硬盘中,再从闪存中擦除存储到硬盘中的数据片,直到闪存中的空间占有率小于预设的阈值,从闪存中擦除这些数据片的同时更新映射表中与这些数据片对应的存储信息中的存储位置比如更新为(0,0),表示该数据片不在闪存中存储,而是存储在硬盘中,从最早下载的数据片开始,擦除闪存中一部分的数据片为之后下载的数据片提供缓存空间。
步骤302,将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传。
本实施例中的步骤300和步骤302的具体实施过程参见上述实施例一中的步骤100和步骤101,此处不再赘述。
本实施例提供的数据处理方法,通过将下载的数据片存储到存储模块的闪存中,如果闪存空间不够,根据映射表中存储的数据片的下载时间和上传标记按照将闪存中没有进行上传的数据片按照从早到晚的时间顺序依次存储到硬盘中直到低于预设的阈值,为新下载的数据片提供存储空间,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传,进一步地实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度的同时也提高了闪存的利用率。
图4为本发明数据处理方法实施例四流程图,如图4所示,该方法包括:
步骤400,接收从网络侧下载的数据片;
步骤401,将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中存储所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置;若根据数据片的大小判断获知闪存的空闲容量不足,则查询映射表获取与闪存中的数据片对应的存储信息,其中,存储信息还包括数据片的下载时间和用于标记数据片是否正在上传的上传标记,根据上传标记和下载时间将闪存中没有上传的数据片按照从早到晚的时间顺序依次将闪存中的数据片存储到存储模块的硬盘中,并从闪存中擦除存储到硬盘中的数据片,直到闪存的空间占有率小于预设的阈值。步骤402,接收携带标识信息的数据片上传请求;
接收携带标识信息的数据片上传请求,其中,标识信息包括任务序号和片序号,用于标识所要求上传的数据片是第几个任务文件中的第几个数据片。
步骤403,根据所述标识信息查询所述映射表获取所述数据片的存储位置,若判断获知所述数据片存储在所述闪存中,则执行步骤404,若判断获知所述数据片存储在所述硬盘中,则执行步骤405;
步骤404,若判断获知所述数据片存储在所述闪存中,则从所述闪存中读取所述数据片进行上传。
根据数据片的标识信息查询内存中的映射表获取对应的存储信息,根据存储信息获取该数据片的存储位置,举例说明,若存储位置为(2,4)则说明该数据片存储在闪存中,并且具体位置是从第2块开始的连续4块的存储空间存储的是该数据片的数据,则从闪存中读取该数据片进行上传。
步骤405,若判断获知所述数据片存储在所述硬盘中,则将所述数据片从所述硬盘中存储到所述闪存中,再从所述闪存中读取所述数据片进行上传,并更新所述映射表中与所述数据片对应的存储位置,值得注意的是,在将数据片从硬盘中存储到闪存中时,若闪存中的存储空间不够,将按照存储信息中的下载时间和上传标记将闪存中没有进行上传的数据片按照从早到晚的下载顺序存储到硬盘中。
本实施例中的步骤400和步骤401的具体实施过程参见上述实施例三中的步骤300和步骤301,此处不再赘述。
本实施例提供的数据处理方法,通过将下载的数据片存储到存储模块的闪存中,如果闪存空间不够,则将闪存中没有进行上传的数据片按照从早到晚的下载顺序存储到硬盘中,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传或者将数据片从硬盘中读取到闪存中进行缓存以便其他用户终端要求上传此数据片时直接从闪存中读取,进一步地实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
进一步地,在内存中的映射表中还可以根据数据片的缓存标记建立与标识信息的对应关系,缓存标记用于标识该数据片是否在闪存中,如果数据片存储在闪存中,显示为“1”;如果不在显示为“0”,通过查询映射表中数据片的缓存标记,可以直接获取该数据片的存储位置。
进一步地,设置存储模块的闪存中用于存储数据片的容量为闪存中块单位容量的整数倍,闪存存储器的块大小一般为1KB左右,显然,数据片的大小是闪存块大小的倍数,无论多任务下载还是单任务下载,以数据片为单位的删除,写入操作也不易造成闪存碎片的产生。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
图5为本发明数据处理装置实施例一结构示意图,如图5所示,该装置包括:存储模块11、接收模块12、第一处理模块13和上传模块14,其中,接收模块12用于接收从网络侧下载的数据片;第一处理模块13用于将数据片存储到存储模块11的闪存111中,并在存储模块11的内存112中存储数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置;上传模块14用于在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据存储位置从闪存111中读取数据片并上传。
本实施例提供的数据处理装置的功能和处理流程,可以参见上述图1所示的方法实施例,其实现原理和技术效果类似,此处不再赘述。
图6为本发明数据处理装置实施例二结构示意图,如图6所示,基于图5所示的实施例,该装置还包括:第二处理模块15,第二处理模块15用于若根据数据片的大小判断获知闪存111的空闲容量不足,则查询映射表获取与闪存111中的数据片对应的存储信息,其中,所述存储信息还包括用于标记所述数据片是否正在上传的上传标记,根据所述上传标记将闪存111中没有进行上传的数据片存储到存储模块11的硬盘113中,并从闪存111中擦除数据片,且更新映射表中与数据片对应的存储位置。
本实施例提供的数据处理装置的功能和处理流程,可以参见上述图2所示的方法实施例,其实现原理和技术效果类似,此处不再赘述。
图7为本发明数据处理装置实施例三结构示意图,如图7所示,基于图5所示的实施例,该装置还包括:第三处理模块16,第三处理模块16用于若根据数据片的大小判断获知闪存111的空闲容量不足,则查询映射表获取与闪存111中的数据片对应的存储信息,其中,所述存储信息还包括数据片的下载时间和用于标记所述数据片是否正在上传的上传标记,根据所述上传标记和所述下载时间将所述闪存中没有上传的数据片按照从早到晚的时间顺序依次将闪存111中的数据片存储到存储模块11的硬盘113中,并从闪存111中擦除存储到硬盘113中的数据片,直到闪存111的空间占有率小于预设的阈值。
本实施例提供的数据处理装置的功能和处理流程,可以参见上述图3所示的方法实施例,其实现原理和技术效果类似,此处不再赘述。
图8为本发明数据处理装置实施例四结构示意图,如图8所示,基于图7所示的实施例,上传模块14包括:接收单元141、查询单元142和处理单元143,其中,接收单元141用于接收携带标识信息的数据片上传请求;查询单元142用于根据标识信息查询映射表获取数据片的存储位置;处理单元143用于若判断获知数据片存储在闪存111中,则从闪存111中读取数据片进行上传;若判断获知数据片存储在硬盘113中,则将数据片从硬盘113中存储到闪存112中,再从闪存中读取数据片进行上传,并更新映射表中与数据片对应的存储位置。
本实施例提供的数据处理装置的功能和处理流程,可以参见上述图4所示的方法实施例,其实现原理和技术效果类似,此处不再赘述。
图9为本发明数据处理装置实施例五结构示意图,如图9所示,基于图8所示的实施例,还包括:设置模块17,用于设置存储模块11的闪存111中用于存储数据片的容量为闪存111中块单位容量的整数倍,可以避免在闪存中以块为单位对数据进行擦除时数据碎片的产生。
图10为本发明数据处理系统实施例结构示意图,如图10所示,该系统包括:数据处理装置1以及至少两个用户终端2,数据处理装置1位于用户终端2中,值得注意的是,该系统包括至少两个用户终端,图10中仅示出两个用户终端之间进行数据交互进行说明,其余用户终端之间的交互情况视具体应用场景而定,其中,数据处理装置1可以为本发明实施例提供的数据处理装置,本实施例提供的数据处理系统中各装置的功能和处理流程,可以参见上述方法和装置实施例,此处不再赘述。
本实施例提供的数据处理系统,通过将下载的数据片存储到存储模块的闪存中,并在存储模块的内存中存储数据片的标识信息与存储信息的对应关系,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储信息,直接从闪存中读取与该存储信息对应的数据片进行上传,实现了嵌入式系统在处理数据时减少了对硬盘的反复读写,延长了硬盘的使用寿命,提高了处理数据的速度。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
接收从网络侧下载的数据片;
将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中的映射表中建立所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置,以便在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传;在所述将所述数据片存储到存储模块的闪存中之前,还包括:
若根据所述数据片的大小判断获知所述闪存的空闲容量不足,则查询所述映射表获取与所述闪存中的数据片对应的存储信息,其中,所述存储信息还包括所述数据片的下载时间和用于标记所述数据片是否正在上传的上传标记,根据所述上传标记和所述下载时间将所述闪存中没有进行上传的数据片按照从早到晚的时间顺序依次存储到所述存储模块的硬盘中,并从所述闪存中擦除存储到所述硬盘中的数据片,直到所述闪存的空间占有率小于预设的阈值,且更新所述映射表中与所述数据片对应的存储位置。
2.根据权利要求1所述的方法,其特征在于,所述根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传包括:
接收携带标识信息的数据片上传请求;
根据所述标识信息查询所述映射表获取所述数据片的存储位置,若判断获知所述数据片存储在所述闪存中,则从所述闪存中读取所述数据片进行上传。
3.根据权利要求2所述的方法,其特征在于,还包括:
若判断获知所述数据片存储在所述硬盘中,则将所述数据片从所述硬盘中存储到所述闪存中,再从所述闪存中读取所述数据片进行上传,并更新所述映射表中与所述数据片对应的存储位置。
4.根据权利要求1至3任一所述的方法,其特征在于,还包括:
所述存储信息中还包括数据片的缓存标记。
5.根据权利要求1至3任一所述的方法,其特征在于,还包括:
设置所述闪存中用于存储数据片的容量为所述闪存中块单位容量的整数倍。
6.一种数据处理装置,其特征在于,包括:存储模块、接收模块、第一处理模块和上传模块,其中,
所述接收模块,用于接收从网络侧下载的数据片;
所述第一处理模块,用于将所述数据片存储到存储模块的闪存中,并在所述存储模块的内存中的映射表中建立所述数据片的标识信息与存储信息的对应关系,其中,所述存储信息包括存储位置;
所述上传模块,用于在上传数据片时,根据所需上传数据片的标识信息获取对应的存储位置,并根据所述存储位置从所述闪存中读取所述数据片并上传;
所述数据处理装置还包括:
第三处理模块,用于若根据所述数据片的大小判断获知所述闪存的空闲容量不足,则查询所述映射表获取与所述闪存中的数据片对应的存储信息,其中,所述存储信息还包括所述数据片的下载时间和用于标记所述数据片是否正在上传的上传标记,根据所述上传标记和所述下载时间将所述闪存中没有上传的数据片按照从早到晚的时间顺序依次将所述闪存中的数据片存储到所述存储模块的硬盘中,并从所述闪存中擦除存储到所述硬盘中的数据片,直到所述闪存的空间占有率小于预设的阈值,且更新所述映射表中与所述数据片对应的存储位置。
7.根据权利要求6所述的装置,其特征在于,所述上传模块包括:
接收单元,用于接收携带标识信息的数据片上传请求;
查询单元,用于根据所述标识信息查询所述映射表获取所述数据片的存储位置;
处理单元,用于若判断获知所述数据片存储在所述闪存中,则从所述闪存中读取所述数据片进行上传。
8.根据权利要求7所述的装置,其特征在于,所述处理单元还用于:
若判断获知所述数据片存储在所述硬盘中,则将所述数据片从所述硬盘中存储到所述闪存中,再从所述闪存中读取所述数据片进行上传,并更新所述映射表中与所述数据片对应的存储位置。
9.根据权利要求6至8中任一所述的装置,其特征在于,还包括:
设置模块,用于设置存储模块的闪存中用于存储数据片的容量为所述闪存中块单位容量的整数倍。
10.一种数据处理系统,其特征在于,包括如权利要求6至9任一所述的数据处理装置,以及至少两个用户终端,所述数据处理装置位于所述用户终端中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110296365.XA CN102355495B (zh) | 2011-09-27 | 2011-09-27 | 数据处理方法、装置和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110296365.XA CN102355495B (zh) | 2011-09-27 | 2011-09-27 | 数据处理方法、装置和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102355495A CN102355495A (zh) | 2012-02-15 |
CN102355495B true CN102355495B (zh) | 2014-01-22 |
Family
ID=45578989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110296365.XA Active CN102355495B (zh) | 2011-09-27 | 2011-09-27 | 数据处理方法、装置和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102355495B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106385322A (zh) * | 2016-09-07 | 2017-02-08 | 海能达通信股份有限公司 | 一种数据组呼方法、装置及系统 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104753984A (zh) * | 2013-12-26 | 2015-07-01 | 乐视网信息技术(北京)股份有限公司 | 一种数据传送方法及装置 |
CN105095106B (zh) * | 2014-04-30 | 2018-04-13 | 广州市动景计算机科技有限公司 | 数据块存储方法及装置 |
CN104731714A (zh) * | 2015-03-27 | 2015-06-24 | 百度在线网络技术(北京)有限公司 | 数据访问方法和装置 |
CN106775437B (zh) * | 2015-11-24 | 2020-01-31 | 阿里巴巴集团控股有限公司 | 数据同步方法及装置 |
CN107566147A (zh) * | 2016-07-01 | 2018-01-09 | 大唐联仪科技有限公司 | 信令数据处理方法及装置 |
CN108052643B (zh) * | 2017-12-22 | 2021-02-23 | 北京奇虎科技有限公司 | 基于LSM Tree结构的数据存储方法、装置及存储引擎 |
CN109962946B (zh) * | 2017-12-22 | 2022-03-15 | 阿里巴巴集团控股有限公司 | 下载资源的方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101267383B (zh) * | 2007-03-14 | 2011-08-17 | 中国移动通信集团公司 | 数据传送方法及系统 |
CA2728445C (en) * | 2008-06-24 | 2017-01-24 | Nagravision S.A. | Secure memory management system and method |
CN101667959B (zh) * | 2008-09-05 | 2014-08-20 | 华为技术有限公司 | 一种物理层数据传输的方法、装置及数据传输的系统 |
CN101841558B (zh) * | 2010-03-23 | 2013-07-03 | 中国科学院计算技术研究所 | P2sp网络中资源的下载方法及系统 |
-
2011
- 2011-09-27 CN CN201110296365.XA patent/CN102355495B/zh active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106385322A (zh) * | 2016-09-07 | 2017-02-08 | 海能达通信股份有限公司 | 一种数据组呼方法、装置及系统 |
CN106385322B (zh) * | 2016-09-07 | 2019-11-15 | 海能达通信股份有限公司 | 一种数据组呼方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN102355495A (zh) | 2012-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102355495B (zh) | 数据处理方法、装置和系统 | |
CN101493794B (zh) | 一种闪存数据处理方法及装置 | |
CN104699622B (zh) | 数据储存装置以及其数据抹除方法 | |
CN110334035A (zh) | 数据储存系统的控制单元以及逻辑至物理映射表更新方法 | |
CN101526923A (zh) | 一种数据处理方法、装置和闪存存储系统 | |
CN102779180A (zh) | 数据存储系统的操作处理方法,数据存储系统 | |
CN103593147A (zh) | 一种数据读取的方法及装置 | |
CN101799788B (zh) | 一种分级管理存储资源的方法及系统 | |
CN102103596B (zh) | 在嵌入式系统中实现文件系统的方法 | |
CN105843753A (zh) | 用于硬盘驱动器的逻辑块地址映射 | |
CN106383666B (zh) | 一种数据存储方法及装置 | |
CN109284252B (zh) | 一种通信设备中轻量级文件系统管理方法 | |
US20160170873A1 (en) | Information processing device | |
CN103970669A (zh) | 用于加速在固态设备中的回收操作的物理到逻辑地址映射 | |
CN104503703A (zh) | 缓存的处理方法和装置 | |
US20170003911A1 (en) | Information processing device | |
CN108664577B (zh) | 一种基于flash空闲区的文件管理方法及系统 | |
CN106354658A (zh) | 一种降低混合映射算法中映射表内存资源占用的方法 | |
KR20170010810A (ko) | 플래시 메모리 내에 데이터를 판독/기록하기 위한 방법, 장치 및 사용자 장비 | |
CN103136215A (zh) | 存储系统的数据读写方法和装置 | |
CN104834477A (zh) | 基于闪存的数据写入方法和装置 | |
CN107329904A (zh) | 数据读取方法及装置 | |
CN112596949B (zh) | 一种高效率的ssd删除数据恢复方法及系统 | |
CN109189724B (zh) | 提高视频监控系统音视频数据存储效率的方法及装置 | |
CN103309619A (zh) | 一种闪存数据存储方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |