CN107506135B - 一种数据处理方法、装置及系统 - Google Patents

一种数据处理方法、装置及系统 Download PDF

Info

Publication number
CN107506135B
CN107506135B CN201610417424.7A CN201610417424A CN107506135B CN 107506135 B CN107506135 B CN 107506135B CN 201610417424 A CN201610417424 A CN 201610417424A CN 107506135 B CN107506135 B CN 107506135B
Authority
CN
China
Prior art keywords
data
address
cold data
memory card
controller
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610417424.7A
Other languages
English (en)
Other versions
CN107506135A (zh
Inventor
周双
陈建
乔晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision Digital Technology Co Ltd
Original Assignee
Hangzhou Hikvision Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision Digital Technology Co Ltd filed Critical Hangzhou Hikvision Digital Technology Co Ltd
Priority to CN201610417424.7A priority Critical patent/CN107506135B/zh
Priority to EP16897479.8A priority patent/EP3377965B1/en
Priority to US15/568,011 priority patent/US10545808B2/en
Priority to PCT/CN2016/099004 priority patent/WO2017215137A1/zh
Publication of CN107506135A publication Critical patent/CN107506135A/zh
Application granted granted Critical
Publication of CN107506135B publication Critical patent/CN107506135B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • G06F11/0754Error or fault detection not based on redundancy by exceeding limits
    • G06F11/076Error or fault detection not based on redundancy by exceeding limits by exceeding a count or rate limit, e.g. word- or bit count limit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0673Single storage device
    • G06F3/0679Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0727Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a storage system, e.g. in a DASD or network based storage system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/0223User address space allocation, e.g. contiguous or non contiguous base addressing
    • G06F12/023Free address space management
    • G06F12/0238Memory management in non-volatile memory, e.g. resistive RAM or ferroelectric memory
    • G06F12/0246Memory management in non-volatile memory, e.g. resistive RAM or ferroelectric memory in block erasable memory, e.g. flash memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/06Addressing a physical block of locations, e.g. base addressing, module addressing, memory dedication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0614Improving the reliability of storage systems
    • G06F3/0616Improving the reliability of storage systems in relation to life time, e.g. increasing Mean Time Between Failures [MTBF]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0629Configuration or reconfiguration of storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638Organizing or formatting or addressing of data
    • G06F3/064Management of blocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0658Controller construction arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659Command handling arrangements, e.g. command buffers, queues, command scheduling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0673Single storage device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1016Performance improvement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1016Performance improvement
    • G06F2212/1024Latency reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1032Reliability improvement, data loss prevention, degraded operation etc
    • G06F2212/1036Life time enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/17Embedded application
    • G06F2212/171Portable consumer electronics, e.g. mobile phone
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/72Details relating to flash memory management
    • G06F2212/7201Logical to physical mapping or translation of blocks or pages
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/72Details relating to flash memory management
    • G06F2212/7205Cleaning, compaction, garbage collection, erase control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/72Details relating to flash memory management
    • G06F2212/7211Wear leveling

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Techniques For Improving Reliability Of Storages (AREA)
  • Control Of Vending Devices And Auxiliary Devices For Vending Devices (AREA)

Abstract

本发明实施例提供了一种数据处理方法、装置及系统,该方法应用于电子设备,电子设备与存储卡连接,存储卡已预先进行私有格式化处理,且存储卡中包括至少一个冷数据区,该方法包括:获得本地存储的目标冷数据区C中已存储数据的读取次数CR;判断读取次数CR是否达到预设的冷数据读取失效次数阈值TCR;如果是,则将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR初始化,该控制器根据起始地址和终止地址对该已存储数据进行处理。应用本发明实施例,降低了存储卡的计算量,从而提高了存储卡的数据读写性能。

Description

一种数据处理方法、装置及系统
技术领域
本发明涉及数据处理技术领域,特别是涉及一种数据处理方法、装置及系统。
背景技术
固态存储卡(简称“存储卡”),是指使用快闪存储器芯片(例如,Nand Flash等)作为存储介质的卡片。目前,存储卡已广泛应用于各种电子设备(例如,网络摄像机、笔记本电脑、掌上游戏机等),电子设备可对存储卡中的数据进行读写操作。
存储卡的数据读写操作是以物理页(简称“页”)为单位的,其在存储和读取数据时会存在不均衡操作,即存储卡在不同页中读取数据的频繁程度是不同的,其中,读取频率较高但写入频率较低的数据被称为冷数据,冷数据由于读取频率较高但写入频率较低,不利于存储卡中存储空间的均衡利用;另外,存储颗粒是通过电荷来存储数据的,当数据读取次数达到一定程度之后就会出现读取失效的现象,导致存储电荷发生变化,也就是说,当冷数据的读取次数达到一定程度后容易出现数据无法读取(即读取失效)的问题,可见,对存储卡中的冷数据进行处理(如数据搬移等)是非常必要的。
现有技术中,电子设备需要在冷数据处理前先利用FTL(Flash TranslationLayer,快闪转换层)算法的映射关系扫描存储卡中的数据并判断所扫描的数据是否为冷数据,然后根据判断结果对存储卡中的冷数据进行处理,然而,扫描存储卡中的数据并判断是否为冷数据的过程往往需要进行大量的计算,且冷数据的扫描与判断又是通过存储卡中FTL实现的,而对存储卡中数据的读写操作也需要通过FTL实现,因此,冷数据的扫描与判断增大了存储卡的计算量,降低了存储卡对数据的读写性能。
发明内容
本发明实施例的目的在于提供一种数据处理方法、装置及系统,以降低存储卡的计算量,从而提高存储卡的数据读写性能。
为达到上述目的,本发明实施例公开了一种数据处理方法,应用于电子设备,所述电子设备与存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区,所述方法包括:
获得本地存储的目标冷数据区C中已存储数据的读取次数CR
判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR
如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,在判定所述读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,所述方法还包括:
获得本地存储的所述目标冷数据区C中数据的写入次数CW
判断所述写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1
如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR和所述写入次数CW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,所述存储卡中还包括至少一个热数据区,在判定所述读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,所述方法还包括:
获得本地存储的所述目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
判断所述写入次数HW是否达到预设的热数据写入次数阈值THW
如果达到所述热数据写入次数阈值THW,则进一步判断所述写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2
如果不小于所述第二冷数据写入次数阈值TCW2,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR、所述写入次数CW和所述写入次数HW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,将所述起始地址和所述终止地址分别转换为其对应的物理起始地址和物理终止地址;按照释放所述存储卡中块存储空间的先后顺序,将所述物理起始地址和所述物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新所述映射关系。
可选地,所述将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,包括:
生成包含所述起始地址和所述终止地址的冷数据处理表;
将所述冷数据处理表发送至所述控制器。
可选地,所述冷数据处理表中包括:表头标识和表尾标识;
所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器根据所述表头标识和所述表尾标识,判断所述冷数据处理表是否有效;若有效,对所述起始地址和所述终止地址对应的已存储数据进行处理。
可选地,所述冷数据处理表中包括:冷数据对应的优先级,其中,所述优先级是根据所述写入次数CW确定的;
所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器按照所述优先级对所述起始地址和所述终止地址对应的已存储数据进行处理。
为达到上述目的,本发明实施例还公开了一种数据处理装置,应用于电子设备,所述电子设备与存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区,所述装置包括:
读取次数获得单元,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR
读取次数判断单元,用于判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR
信息发送单元,用于在所述次数判断单元判断结果为是的情况下,将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,所述装置还包括:
第一写入次数获得单元,用于在所述读取次数判断单元判断结果为否的情况下,获得本地存储的所述目标冷数据区C中数据的写入次数CW
第一写入次数判断单元,用于判断所述写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1,若为是,触发所述信息发送单元;
所述信息发送单元,具体用于:
将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR和所述写入次数CW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,所述存储卡中还包括至少一个热数据区,所述装置还包括:
第二写入次数获得单元,用于在所述读取次数判断单元判断结果为否的情况下,获得本地存储的所述目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
第二写入次数判断单元,用于判断所述写入次数HW是否达到预设的热数据写入次数阈值THW;如果达到所述热数据写入次数阈值THW,则进一步判断所述写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2,若为是,触发所述信息发送单元;
所述信息发送单元,具体用于:
将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR、所述写入次数CW和所述写入次数HW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
为达到上述目的,本发明实施例还公开了一种数据处理系统,所述系统包括:电子设备和存储卡,所述电子设备与所述存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区:
所述电子设备,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR;判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR;如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化;
所述存储卡包括控制器,所述控制器用于根据所述起始地址和所述终止地址对该已存储数据进行处理。
可选地,所述控制器,具体用于:
基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,将所述起始地址和所述终止地址分别转换为其对应的物理起始地址和物理终止地址;按照释放所述存储卡中块存储空间的先后顺序,将所述物理起始地址和所述物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新所述映射关系。
可选地,所述电子设备,具体用于生成包含所述起始地址和所述终止地址的冷数据处理表;将所述冷数据处理表发送至所述控制器。
可选地,所述冷数据处理表中还包含:表头标识和表尾标识;
所述控制器,具体用于:
根据所述表头标识和所述表尾标识,判断所述冷数据处理表是否有效;若有效,对所述起始地址和所述终止地址对应的数据进行处理。
可选地,所述冷数据处理表中还包含:冷数据对应的优先级,其中,所述优先级是根据所述写入次数CW确定的;
所述控制器,具体用于:
按照所述优先级对所述起始地址和所述终止地址对应的数据进行处理。
由上可知,本发明实施例中,电子设备获得本地存储的目标冷数据区C中已存储数据的读取次数CR,在读取次数CR达到预设的冷数据读取失效次数阈值TCR的情况下,可以判定该目标冷数据区C中已存储数据为待处理的数据,将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,将读取次数CR初始化,控制器根据起始地址和终止地址对该已存储数据进行处理。这里,冷数据的扫描和判断均有电子设备来完成,而存储卡只需要对数据进行处理,降低了存储卡的计算量,从而提高了存储卡的数据读写性能。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种数据处理系统的结构示意图;
图2为本发明实施例提供的一种系统框图;
图3为本发明实施例提供的一种数据处理方法的流程示意图;
图4为本发明实施例提供的另一种数据处理方法的流程示意图;
图5为本发明实施例提供的另一种数据处理方法的流程示意图;
图6为本发明实施例提供的一种数据处理装置的结构示意图;
图7为本发明实施例提供的另一种数据处理装置的结构示意图;
图8为本发明实施例提供的另一种数据处理装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面通过具体实施例,对本发明进行详细说明。
参考图1,图1为本发明实施例提供的一种数据处理系统的结构示意图,该系统包括:电子设备101和存储卡102,电子设备101与存储卡102连接,存储卡102已预先进行私有格式化处理,且该存储卡102中包括至少一个冷数据区;
其中,电子设备101,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR;判断读取次数CR是否达到预设的冷数据读取失效次数阈值TCR;如果是,则将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡102的控制器,并将读取次数CR初始化;
在本发明的一个实施方式中,电子设备101可以为网络摄像机。在一个实施例中,网络摄像机在向与其连接的存储卡中存储数据前,首先私有格式化该存储卡,然后以固定的写入方式在该存储卡中创建冷数据区。
在一个实施例中,冷数据区用于存储冷数据。
值得一提的是,不同的电子设备101的写入方式是不同的,但同一电子设备101的写入方式是固定的。这样,电子设备101可以根据固定的写入方式,确定在存储卡中创建冷数据区中已存储数据的更新次数和更新频率,以及冷数据区中已存储数据的读取次数和读取频率等。另外,上述将读取次数CR初始化可以为:将读取次数CR置零。
存储卡102包括控制器,控制器用于根据起始地址和终止地址对该已存储数据进行处理。
在本发明的一个实施方式中,上述控制器,具体用于:
基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,将起始地址和终止地址分别转换为其对应的物理起始地址和物理终止地址;按照释放存储卡中块存储空间的先后顺序,将物理起始地址和物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新映射关系。
在本发明的一个实施方式中,上述电子设备101,具体用于:
生成包含起始地址和终止地址的冷数据处理表;通过符合SD卡协议的私有指令将冷数据处理表发送至存储卡102的控制器。
在本发明的一个实施方式中,冷数据处理表中还可以包含:表头标识和表尾标识;
这种情况下,上述控制器,具体用于:
根据表头标识和表尾标识,判断冷数据处理表是否有效;若有效,对起始地址和终止地址对应的数据进行处理。
在本发明的一个实施方式中,冷数据处理表中还可以包含:冷数据对应的优先级,其中,优先级是根据目标冷数据区C中数据的写入次数CW确定的;
这种情况下,上述控制器,具体用于:
按照优先级对起始地址和终止地址对应的冷数据进行处理。
下面以网络摄像机为例,可参考图2,图2为本发明实施例提供的一种系统框图。从图2中可以获知,网络摄像机100上设置有一个SD/MMC(Secure Digital/Multi MediaCard,安全数字/多媒体卡)接口,存储卡200通过总线与网络摄像机100的SD/MMC接口连接,进而与该网络摄像机100连接。
网络摄像机100在向与其连接的存储卡200中存储数据前,可以私有格式化该存储卡,这样就可以以固定的写入方式在该存储卡200中创建冷数据区。同时,网络摄像机100可以通过该私有格式化分析存储卡200中存储的数据,获得冷数据表,然后,通过SD/MMC接口将包含该冷数据表的私有指令发送给存储卡200,存储卡200根据该冷数据表中的信息处理冷数据。
应用图1所示实施例,电子设备获得本地存储的目标冷数据区C中已存储数据的读取次数CR,在读取次数CR达到预设的冷数据读取失效次数阈值TCR的情况下,可以判定该目标冷数据区C中已存储数据为待处理的数据,将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,将读取次数CR初始化,控制器根据起始地址和终止地址对该已存储数据进行处理。这里,冷数据的扫描和判断均有电子设备来完成,而存储卡只需要对数据进行处理就可以了,降低了存储卡的计算量,从而提高了存储卡的数据读写性能。
参考图3,图3为本发明实施例提供的一种数据处理方法的流程示意图,该方法应用于电子设备,该电子设备与存储卡连接,该存储卡已预先进行私有格式化处理,且存储卡中包括至少一个冷数据区,具体地,该方法包括如下步骤:
S301:获得本地存储的目标冷数据区C中已存储数据的读取次数CR
在本发明的一个实施方式中,每读取一次冷数据区中的已存储数据,针对该已存储数据的读取次数加1。
S302:判断读取次数CR是否达到预设的冷数据读取失效次数阈值TCR;若为是,执行S303;
在本发明的一个实施方式中,避免因读取某一数据的次数达到一定程度后存储卡过度磨损,出现数据无法读取的问题,在电子设备中设置一个冷数据读取失效次数阈值TCR,当一数据的读取次数CR达到预设的冷数据读取失效次数阈值TCR时,对该数据进行处理。
S303:将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR初始化。
这里,初始化可以理解为置零。
这种情况下,存储卡的控制器可以根据接收到的起始地址和终止地址,对该起始地址和终止地址对应的已存储数据进行处理。另外,电子设备将读取次数CR置零,避免下一次获得已存储数据的读取次数受本次获得的读取次数CR的影响,累计统计读取次数CR,致使控制器每次进行数据处理时,都对同一数据进行处理(如搬移数据),增加控制器的工作量的同时,减少了存储卡的使用寿命
在本发明的一个实施方式中,上述将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,可以包括:
生成包含起始地址和终止地址的冷数据处理表;将冷数据处理表发送至存储卡的控制器。
这里,冷数据处理表不宜太大(如一个冷数据处理表的大小为512字节),以便于电子设备快速地将冷数据处理表传输给存储卡。另外,为了进一步保证存储卡的工作效率,电子设备和存储卡间的通信可以采用分段式通信,即:在电子设备性能好时,增多向存储卡传输的冷数据处理表,使得存储卡能够处理多的数据;在电子设备性能差时,减少向存储卡传输的冷数据处理表,使得存储卡处理少的数据。
在一个实施例中,冷数据处理表还可以包括:表头标识、表尾标识和冷数据对应的优先级。这里,优先级是根据目标冷数据区C中数据的写入次数CW确定的,写入次数CW越小,可以理解为该冷数据的优先级越高。
当冷数据处理表包括表头标识和表尾标识时,存储卡的控制器在对数据进行处理前,可以根据表头标识和表尾标识,先判断冷数据处理表是否有效;若有效,再对起始地址和终止地址对应的数据进行处理。在一个实施例中,表头标识和表尾标识是取反的关系,以便于验证冷数据处理表是否有效,如:16进制的表头标识为1,那么表尾标识应为E。假设,表头标识Tabel_Head_Flag为:0x13245768ACBD09FE,若表尾标识Table_Tail_Flag为:0xECDBA8975342F601,此时,表头标识和表尾标识为取反关系,确定该冷数据处理表有效,可以对该冷数据处理表中起始地址和终止地址对应的数据进行处理;若表尾标识Table_Tail_Flag不是0xECDBA8975342F601,此时,表头标识和表尾标识就不是取反关系,可以确定该冷数据处理表无效,丢弃该冷数据处理表。
另外,当冷数据处理表包括冷数据对应的优先级时,存储卡的控制器可以根据按照每一数据的优先级对起始地址和终止地址对应的数据进行处理。假设,冷数据处理表包括2条冷数据X和Y,X的优先级为1,Y的优先级为2,优先级1大于优先级2,因此先处理X再处理Y。优先级高的数据的写入次数Cw较小,优先处理优先级高的数据,能够更好地保证存储卡的磨损均衡。
在本发明中冷数据表中还可以包括其他信息,如录像数据、图片数据、索引、日志信息等,具体地可以参考表1,表1所示的冷数据表为512字节组成,包括:表头标识(8字节)、62条冷数据条带(每条冷数据条带包括:起始地址(4字节)、终止地址(4字节)、优先级(4字节)、其他信息(录像数据、图片数据、索引、日志信息)(4字节))、表尾标识(8字节)。
表1
Figure BDA0001016671520000111
在本发明的一个实施方式中,存储卡的控制器的FTL中存储有逻辑地址和物理地址之间的映射关系,这种情况下,控制器对数据进行处理的过程可以为:
S1、基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,接收到的将起始地址和终止地址分别转换为其对应的物理起始地址和物理终止地址;
电子设备发送给存储卡的控制器的起始地址和终止地址为逻辑地址,为了获得准确获得数据,存储卡需要将接收到的逻辑地址转换为物理地址,进而从物理地址对应的存储区域中获得相应的数据。
S2、按照释放存储卡中块存储空间的先后顺序,将物理起始地址和物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新映射关系。
存储卡中的存储空间是以块的形式存储的,且其存储空间一个块存储空间接一个块存储空间释放的,而不是一次释放全部的块存储空间。假设,当前存储卡中有块存储空间A、B和C,存储卡先释放了A,再释放C,最后释放B,那么将物理起始地址和物理终止地址对应的数据向搬移到A,再搬移到C,最后搬移到B。此时,逻辑地址和物理地址的对应关系发生的变化,需要更新FTL中存储有逻辑地址和物理地址之间的映射关系,以便于再次处理数据时,能够准确获得需要的数据。这里,一个块存储空间可以理解为:一个冷数据区或一个热数据区。
在本发明的一个实施方式中,导致数据无法读取的问题,不仅与数据的读取次数相关,还与数据的写入次数相关,此时本发明提供了另一种数据处理方法,可以参考图4,应用于电子设备,该方法包括如下步骤:
S401:获得本地存储的目标冷数据区C中数据的写入次数CW
在本发明的一个实施方式中,冷数据区中每写入一次数据,针对该数据的写入次数CW加1,这也可以理解为,该针对该冷数据区C的写入次数CW加1。
值得一提的是,S401可以发生在S301和S302中的任一步骤之前,也可以发生在S301和S302中的任一步骤之后,还可以与步骤S301和S302中的任一步骤同时发生,本发明对此不进行限定。另外,在判定读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,再执行S401以及S402、S403,确定数据是否为需要处理的数据,可以有效地减少电子设备的工作量。
S402:判断写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1,若为是,执行S403;
读取频率较高并且写入频率较低的数据被称为冷数据,因此,在确定需要处理的冷数据时,第一冷数据写入次数阈值TCW1的取值不应太高,其可以在[0,5]的范围内取值。
在本发明的一个实施方式中,若判定写入次数CW不小于预设的第一冷数据写入次数阈值TCW1,则可以认为当前存储卡各个存储区域的使用情况较为均衡,不需要对冷数据区的数据进行处理,并将读取次数CR和写入次数CW分别初始化,避免下一次获得已存储数据的读取次数受本次获得的读取次数CR和写入次数CW的影响,累计统计读取次数CR和写入次数CW,致使控制器每次数据处理时,都对同一数据进行处理,增加控制器的工作量,同时还会因为过度的处理数据(如搬移数据),增加控制器的工作量的同时,减少了存储卡的使用寿命。
S403:将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR和写入次数CW分别初始化。
这种情况下,存储卡的控制器可以根据接收到的起始地址和终止地址,对该起始地址和终止地址对应的已存储数据进行处理。另外,电子设备还需要将读取次数CR和写入次数CW都初始化。
在本发明的一个实施方式中,存储卡中可以包括至少一个冷数据区,还可以包括至少一个热数据区,此时,为了避免数据无法读取的问题,需要均衡考虑热数据区和冷数据区中存储数据的读写次数,具体地可以参考图5,图5为本发明实施例提供的另一种数据处理方法的流程示意图,该方法包括如下步骤:
S501:获得本地存储的目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
在本发明的一个实施方式中,热数据区中每写入一次数据,针对该数据的写入次数HW加1,这也可以理解为,该针对该热数据区H的写入次数HW加1。
值得一提的是,S501可以发生在S301和S302中的任一步骤之前,也可以发生在S301和S302中的任一步骤之后,还可以与步骤S301和S302中的任一步骤同时发生,本发明对此不进行限定。另外,在判定读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,再执行501以及S502、S503、S504,确定数据是否为需要处理的数据,可以有效地减少电子设备的工作量。
S502:判断写入次数HW是否达到预设的热数据写入次数阈值THW,若为是,执行S503;
写入频率较高的数据被称为热数据。若热数据区内存储的热数据的写入次数HW较小,说明该热数据区的更新频率低,相对于存储卡来说,当前存储卡的各个存储区域的磨损情况较为均衡,不对存储卡中的冷数据进行处理,存储卡也不会出现部分存储区域不能读取数据的问题,因此可以不对冷数据进行处理,进而减少了存储卡的工作量。
值得一提的是,为了保证存储卡的各个存储空间的磨损情况均衡,热数据写入次数阈值THW的取值不应太高,其可以在[6,10]的范围内取值。
在本发明的一个实施方式中,若判定写入次数HW未达到预设的热数据写入次数阈值THW,则可以认为当前存储卡各个存储区域的使用情况较为均衡,不需要对冷数据区的数据进行处理,并将读取次数CR、写入次数CW和写入次数HW分别置零,避免下一次获得已存储数据的读取次数受本次获得的读取次数CR、写入次数CW和写入次数HW的影响,累计统计读取次数CR、写入次数CW和写入次数HW,致使控制器每次数据处理时,都对同一数据进行处理,增加控制器的工作量,同时还会因为过度的处理数据(如搬移数据),减少了存储卡的使用寿命。
S503:判断写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2;若为是,执行S504;
这里,第二冷数据写入次数阈值TCW2与第一冷数据写入次数阈值TCW1可以相同,也可以不同,此处不进行限定。
在本发明的一个实施方式中,若判定写入次数CW不小于第二冷数据写入次数阈值TCW2,则可以理解为当前存储卡各个存储区域的磨损情况较为均衡,不需要对冷数据区的数据进行处理,并将读取次数CR、写入次数CW和写入次数HW分别初始化。
S504:将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR、写入次数CW和写入次数HW分别初始化。
这种情况下,存储卡的控制器可以根据接收到的起始地址和终止地址,对该起始地址和终止地址对应的已存储数据进行处理。另外,电子设备还需要将读取次数CR、写入次数CW和写入次数HW都初始化。
应用上述各个实施例,电子设备获得本地存储的目标冷数据区C中已存储数据的读取次数CR,在读取次数CR达到预设的冷数据读取失效次数阈值TCR的情况下,可以判定该目标冷数据区C中已存储数据为待处理的数据,将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,将读取次数CR初始化,控制器根据起始地址和终止地址对该已存储数据进行处理。这里,冷数据的扫描和判断均有电子设备来完成,而存储卡只需要对数据进行处理,降低了存储卡的计算量,从而提高了存储卡的数据读写性能。
参考图6,图6为本发明实施例提供的一种数据处理装置的结构示意图,应用于电子设备,电子设备与存储卡连接,存储卡已预先进行私有格式化处理,且存储卡中包括至少一个冷数据区,该装置包括:
读取次数获得单元601,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR
读取次数判断单元602,用于判断读取次数CR是否达到预设的冷数据读取失效次数阈值TCR
信息发送单元603,用于在次数判断单元判断结果为是的情况下,将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR初始化,以使得控制器根据起始地址和终止地址对该已存储数据进行处理。
在本发明的一个实施方式中,导致数据无法读取的问题,不仅与数据的读取次数相关,还与数据的写入次数相关,此时本发明提供了另一种数据处理装置,可以参考图7,应用于电子设备,该装置还可以包括:
第一写入次数获得单元701,用于在读取次数判断单元判断结果为否的情况下,获得本地存储的目标冷数据区C中数据的写入次数CW
第一写入次数判断单元702,用于判断写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1,若为是,触发信息发送单元603;
这种情况下,信息发送单元603,具体用于:
将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR和写入次数CW分别初始化,以使得控制器根据起始地址和终止地址对该已存储数据进行处理。
在本发明的一个实施方式中,存储卡中可以包括至少一个冷数据区,还可以包括至少一个热数据区,此时,为了避免数据无法读取的问题,需要均衡考虑热数据区和冷数据区中存储数据的读写次数,具体地可以参考图8,图8为本发明实施例提供的另一种数据处理装置的结构示意图,应用于电子设备,该装置还可以包括:
第二写入次数获得单元801,用于在读取次数判断单元判断结果为否的情况下,获得本地存储的目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
第二写入次数判断单元802,用于判断写入次数HW是否达到预设的热数据写入次数阈值THW;如果达到热数据写入次数阈值THW,则进一步判断写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2,若为是,触发信息发送单元603;
这种情况下,信息发送单元603,具体用于:
将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,并将读取次数CR、写入次数CW和写入次数HW分别初始化,以使得控制器根据起始地址和终止地址对该已存储数据进行处理。
应用上述各个实施例,电子设备获得本地存储的目标冷数据区C中已存储数据的读取次数CR,在读取次数CR达到预设的冷数据读取失效次数阈值TCR的情况下,可以判定该目标冷数据区C中已存储数据为待处理的数据,将目标冷数据区C中已存储数据的起始地址和终止地址发送给存储卡的控制器,将读取次数CR初始化,控制器根据起始地址和终止地址对该已存储数据进行处理。这里,冷数据的扫描和判断均有电子设备来完成,而存储卡只需要对数据进行处理,降低了存储卡的计算量,从而提高了存储卡的数据读写性能。
对于系统、装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本领域普通技术人员可以理解实现上述方法实施方式中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,所述的程序可以存储于计算机可读取存储介质中,这里所称得的存储介质,如:ROM/RAM、磁碟、光盘等。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (15)

1.一种数据处理方法,应用于电子设备,所述电子设备与存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区,所述冷数据区中存储的数据为冷数据,其特征在于,所述方法包括:
获得本地存储的目标冷数据区C中已存储数据的读取次数CR
判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR
如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行搬移处理。
2.根据权利要求1所述的方法,其特征在于,在判定所述读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,所述方法还包括:
获得本地存储的所述目标冷数据区C中数据的写入次数CW
判断所述写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1
如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR和所述写入次数CW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
3.根据权利要求1所述的方法,其特征在于,所述存储卡中还包括至少一个热数据区,在判定所述读取次数CR未达到预设的冷数据读取失效次数阈值TCR的情况下,所述方法还包括:
获得本地存储的所述目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
判断所述写入次数HW是否达到预设的热数据写入次数阈值THW
如果达到所述热数据写入次数阈值THW,则进一步判断所述写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2
如果不小于所述第二冷数据写入次数阈值TCW2,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR、所述写入次数CW和所述写入次数HW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,将所述起始地址和所述终止地址分别转换为其对应的物理起始地址和物理终止地址;按照释放所述存储卡中块存储空间的先后顺序,将所述物理起始地址和所述物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新所述映射关系。
5.根据权利要求1-3中任一项所述的方法,其特征在于,所述将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,包括:
生成包含所述起始地址和所述终止地址的冷数据处理表;
将所述冷数据处理表发送至所述控制器。
6.根据权利要求5所述的方法,其特征在于,所述冷数据处理表中包括:表头标识和表尾标识;
所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器根据所述表头标识和所述表尾标识,判断所述冷数据处理表是否有效;若有效,对所述起始地址和所述终止地址对应的已存储数据进行处理。
7.根据权利要求5所述的方法,其特征在于,所述冷数据处理表中包括:冷数据对应的优先级,其中,所述优先级是根据所述目标冷数据区C中数据的写入次数CW确定的;
所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理,包括:
所述控制器按照所述优先级对所述起始地址和所述终止地址对应的已存储数据进行处理。
8.一种数据处理装置,应用于电子设备,所述电子设备与存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区,所述冷数据区中存储的数据为冷数据,其特征在于,所述装置包括:
读取次数获得单元,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR
读取次数判断单元,用于判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR
信息发送单元,用于在所述次数判断单元判断结果为是的情况下,将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行搬移处理。
9.根据权利要求8所述的装置,其特征在于,所述装置还包括:
第一写入次数获得单元,用于在所述读取次数判断单元判断结果为否的情况下,获得本地存储的所述目标冷数据区C中数据的写入次数CW
第一写入次数判断单元,用于判断所述写入次数CW是否小于预设的第一冷数据写入次数阈值TCW1,若为是,触发所述信息发送单元;
所述信息发送单元,具体用于:
将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR和所述写入次数CW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
10.根据权利要求8所述的装置,其特征在于,所述存储卡中还包括至少一个热数据区,所述装置还包括:
第二写入次数获得单元,用于在所述读取次数判断单元判断结果为否的情况下,获得本地存储的所述目标冷数据区C中数据的写入次数CW和目标热数据区H中数据的写入次数HW
第二写入次数判断单元,用于判断所述写入次数HW是否达到预设的热数据写入次数阈值THW;如果达到所述热数据写入次数阈值THW,则进一步判断所述写入次数CW是否小于预设的第二冷数据写入次数阈值TCW2,若为是,触发所述信息发送单元;
所述信息发送单元,具体用于:
将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR、所述写入次数CW和所述写入次数HW分别初始化,以使得所述控制器根据所述起始地址和所述终止地址对该已存储数据进行处理。
11.一种数据处理系统,所述系统包括:电子设备和存储卡,所述电子设备与所述存储卡连接,所述存储卡已预先进行私有格式化处理,且所述存储卡中包括至少一个冷数据区,所述冷数据区中存储的数据为冷数据,其特征在于:
所述电子设备,用于获得本地存储的目标冷数据区C中已存储数据的读取次数CR;判断所述读取次数CR是否达到预设的冷数据读取失效次数阈值TCR;如果是,则将所述目标冷数据区C中已存储数据的起始地址和终止地址发送给所述存储卡的控制器,并将所述读取次数CR初始化;
所述存储卡包括控制器,所述控制器用于根据所述起始地址和所述终止地址对该已存储数据进行搬移处理。
12.根据权利要求11所述的系统,其特征在于,所述控制器,具体用于:
基于快闪转换层FTL提供的逻辑地址和物理地址之间的映射关系,将所述起始地址和所述终止地址分别转换为其对应的物理起始地址和物理终止地址;按照释放所述存储卡中块存储空间的先后顺序,将所述物理起始地址和所述物理终止地址对应的数据搬移至被释放的块存储空间中,并按照被搬移数据当前的物理起始地址和物理终止地址更新所述映射关系。
13.根据权利要求11-12中任一项所述的系统,其特征在于,
所述电子设备,具体用于生成包含所述起始地址和所述终止地址的冷数据处理表;将所述冷数据处理表发送至所述控制器。
14.根据权利要求13所述的系统,其特征在于,所述冷数据处理表中还包含:表头标识和表尾标识;
所述控制器,具体用于:
根据所述表头标识和所述表尾标识,判断所述冷数据处理表是否有效;若有效,对所述起始地址和所述终止地址对应的数据进行处理。
15.根据权利要求13所述的系统,其特征在于,所述冷数据处理表中还包含:冷数据对应的优先级,其中,所述优先级是根据所述目标冷数据区C中数据的写入次数CW确定的;
所述控制器,具体用于:
按照所述优先级对所述起始地址和所述终止地址对应的数据进行处理。
CN201610417424.7A 2016-06-14 2016-06-14 一种数据处理方法、装置及系统 Active CN107506135B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201610417424.7A CN107506135B (zh) 2016-06-14 2016-06-14 一种数据处理方法、装置及系统
EP16897479.8A EP3377965B1 (en) 2016-06-14 2016-09-14 Data processing method, device, and system
US15/568,011 US10545808B2 (en) 2016-06-14 2016-09-14 Method, apparatus and system for processing data
PCT/CN2016/099004 WO2017215137A1 (zh) 2016-06-14 2016-09-14 一种数据处理方法、装置及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610417424.7A CN107506135B (zh) 2016-06-14 2016-06-14 一种数据处理方法、装置及系统

Publications (2)

Publication Number Publication Date
CN107506135A CN107506135A (zh) 2017-12-22
CN107506135B true CN107506135B (zh) 2022-05-06

Family

ID=60663960

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610417424.7A Active CN107506135B (zh) 2016-06-14 2016-06-14 一种数据处理方法、装置及系统

Country Status (4)

Country Link
US (1) US10545808B2 (zh)
EP (1) EP3377965B1 (zh)
CN (1) CN107506135B (zh)
WO (1) WO2017215137A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI647567B (zh) * 2017-12-13 2019-01-11 國立中正大學 使用記憶體位址定位冷熱存取區間之方法
KR20200069889A (ko) * 2018-12-07 2020-06-17 에스케이하이닉스 주식회사 컨트롤러, 이를 포함하는 메모리 시스템 및 이의 동작 방법
CN111831212B (zh) * 2019-04-19 2023-07-04 杭州海康威视数字技术股份有限公司 一种数据写入、读取方法、装置及设备
CN111444034A (zh) * 2020-03-25 2020-07-24 江铃汽车股份有限公司 一种预防仪表Dflash初始化失败的方法
CN113422620B (zh) * 2021-06-21 2023-06-27 维沃移动通信有限公司 通信速率控制方法、装置、设备和可读存储介质
CN114063933B (zh) * 2021-12-02 2022-06-28 深圳市宝佳乐电子科技有限公司 区块管理方法、存储器控制器和存储器存储装置
CN116719581B (zh) * 2023-07-11 2024-02-02 沐曦集成电路(上海)有限公司 芯片多实例模块初始化系统
CN116820351B (zh) * 2023-07-21 2024-04-09 北京得瑞领新科技有限公司 冷热数据标定方法、装置、存储介质及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010186341A (ja) * 2009-02-12 2010-08-26 Toshiba Corp メモリシステム
CN101911074A (zh) * 2008-01-10 2010-12-08 帝斯科匹尔公司 基于存储寿命和速度选择存储位置用于文件存储
CN105242871A (zh) * 2014-06-06 2016-01-13 华为技术有限公司 一种数据写入方法及装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4294142B2 (ja) * 1999-02-02 2009-07-08 株式会社日立製作所 ディスクサブシステム
US8135900B2 (en) * 2007-03-28 2012-03-13 Kabushiki Kaisha Toshiba Integrated memory management and memory management method
DE102007023408A1 (de) * 2007-05-18 2008-11-20 Mobotix Ag Verfahren zur Speicherverwaltung
US8213229B2 (en) * 2008-08-22 2012-07-03 HGST Netherlands, B.V. Error control in a flash memory device
CN101740110B (zh) 2009-12-17 2013-06-12 中兴通讯股份有限公司 一种Nand Flash擦除均衡的方法及装置
US8285920B2 (en) * 2010-07-09 2012-10-09 Nokia Corporation Memory device with dynamic controllable physical logical mapping table loading
KR20120132820A (ko) * 2011-05-30 2012-12-10 삼성전자주식회사 스토리지 디바이스, 스토리지 시스템 및 스토리지 디바이스의 가상화 방법
CN103858116B (zh) * 2011-08-09 2015-09-02 Lsi公司 I/o设备及计算主机互操作
US20140089564A1 (en) * 2012-09-27 2014-03-27 Skymedi Corporation Method of data collection in a non-volatile memory
CN103777905B (zh) 2014-02-14 2017-04-12 华中科技大学 一种软件定义的固态盘融合存储方法
CN104934066B (zh) * 2014-03-19 2018-03-27 安华高科技通用Ip(新加坡)公司 Nand闪存中的读取干扰处理
US9569120B2 (en) * 2014-08-04 2017-02-14 Nvmdurance Limited Adaptive flash tuning

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101911074A (zh) * 2008-01-10 2010-12-08 帝斯科匹尔公司 基于存储寿命和速度选择存储位置用于文件存储
JP2010186341A (ja) * 2009-02-12 2010-08-26 Toshiba Corp メモリシステム
CN105242871A (zh) * 2014-06-06 2016-01-13 华为技术有限公司 一种数据写入方法及装置

Also Published As

Publication number Publication date
WO2017215137A1 (zh) 2017-12-21
EP3377965A4 (en) 2019-01-23
US10545808B2 (en) 2020-01-28
US20180293121A1 (en) 2018-10-11
EP3377965B1 (en) 2021-12-22
EP3377965A1 (en) 2018-09-26
CN107506135A (zh) 2017-12-22

Similar Documents

Publication Publication Date Title
CN107506135B (zh) 一种数据处理方法、装置及系统
US20180173620A1 (en) Data erasure method for solid state drive, and apparatus
CN110310326B (zh) 一种视觉定位数据处理方法、装置、终端及计算机可读存储介质
CN107786638B (zh) 一种数据处理方法、装置及系统
CN103377689B (zh) 存储装置及其无线通信控制方法
EP4220415A2 (en) Method and apparatus for compressing addresses
US8255663B2 (en) System and method for processing read request
CN105393228B (zh) 读写闪存中数据的方法、装置及用户设备
CN109446147B (zh) 一种网络存储设备与pcie设备的数据交互方法
CN113298695B (zh) 一种图像处理组件和芯片、图像处理方法和存储介质
KR101654807B1 (ko) 데이터 저장 장치 및 그것의 동작 방법
CN110019873B (zh) 人脸数据处理方法、装置及设备
WO2017097106A1 (zh) 一种文件差量的传输方法以及装置
CN103617260A (zh) 重复数据删除的索引生成方法及装置
CN114281484B (zh) 数据传输方法、装置、设备及存储介质
US7584307B2 (en) Direct memory access DMA with positional information and delay time
WO2017147794A1 (zh) 差异数据备份的方法和设备
CN113259264B (zh) 数据传输方法、装置、计算机设备和存储介质
CN113422793B (zh) 数据传输方法、装置、电子设备及计算机存储介质
CN107766021B (zh) 图像处理方法、设备、显示系统及存储介质
CN114285676A (zh) 智能网卡、智能网卡的网络存储方法和介质
WO2017054182A1 (zh) 一种数据校验方法和装置
TWI571745B (zh) 緩存管理方法及使用該方法的電子裝置
CN110990122A (zh) 一种虚拟机迁移方法和装置
CN110389986A (zh) 分布式系统的数据写入方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant