CN102436408A - 基于Map/Dedup的数据存储云化和云备份方法 - Google Patents
基于Map/Dedup的数据存储云化和云备份方法 Download PDFInfo
- Publication number
- CN102436408A CN102436408A CN2011103051707A CN201110305170A CN102436408A CN 102436408 A CN102436408 A CN 102436408A CN 2011103051707 A CN2011103051707 A CN 2011103051707A CN 201110305170 A CN201110305170 A CN 201110305170A CN 102436408 A CN102436408 A CN 102436408A
- Authority
- CN
- China
- Prior art keywords
- data
- backup
- server
- storage
- mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于Map/Dedup的数据存储云化和云备份方法,包括数据存储云化的步骤和服务器数据备份的步骤,其中数据存储云化的步骤包括:定制Map模块的映射规则以及重复数据删除模块的重复数据删除方式;Map服务器的预处理模块对获取的数据进行预处理,得到结构化数据;Map服务器将结构化数据按映射规则映射到存储服务器上;重复数据删除模块按重复数据删除方式对数据进行重复数据删除;存储数据。服务器数据备份步骤包括:扫描源文件的历史备份,打开源文件的增量备份的索引文件和内容文件;根据索引文件,建立索引网络;根据索引网络,读出增量备份的各数据块到内存;将数据块的数据与源文件中对应的数据作比较,对此数据块生成新的增量备份的索引文件。
Description
技术领域
本发明涉及一种计算机存储领域的海量数据存储和备份方法,尤其涉及一种基于Map/Dedup(映射/重复数据删除)的数据存储云化和云备份方法。
背景技术
在当今的信息化、网络化社会里,计算机在工作和生活中扮演着极其重要的角色。越来越多的企业、商家、政府机关和个人通过计算机来获取信息、处理信息,同时将大量的信息以数据文件的形式保存在计算机中。随着信息社会的发展,越来越多的信息被数据化,尤其是伴随着Internet、云计算、物联网等技术的发展,数据呈爆炸式增长。由此产生的海量数据给以数据为中心的各大中型企业的高效存储带来了新的挑战包括:(1)面对计算机产生的各行各业的数据,服务器需要进行高效的管理;(2)面对部分重要的数据丢失或者发生其他不可预见的事故,个人、商家、企业乃至政府机关需要最小化此类事故造成的损失。
由此,人们开始关注如何高效存储数据以及如何确保数据完好的问题。面对信息量越来越丰富、数据量越来越大,很多海量数据平台正逐步出现数据存储瓶颈、数据备份恢复庞大而缓慢等问题,而数据存储云化和云备份技术因此应运而生。
申请号为7650331的美国专利“高效大规模数据处理系统和方法”,针对大规模数据的计算提出了一种高效数据处理系统和方法,即MapReduce技术:Map模块读取输入数据,并对数据进行特定于应用的Map操作,生成中间数据值,再由Reduce模块整合中间值得到最后计算结果进行输出。MapReduce是一种用于分布系统的编程模型,支持在计算机集群中对超大数据集进行分布式处理。该系统与方法具有极大的扩展性和极强的容错性,同时为高效地处理海量信息提供了支持,特别适合需要高吞吐量访问的具有超大数据集的应用程序,但是,它仅仅只是应用于大规模数据的查询和计算,并没有为存储领域的海量数据的存储与备份提供很好的解决方案。
申请号为200610001299.8的中国专利“数据恢复方法”提出了一种数据备份方法,将主计算机的数据备份在至少一台备份机算机上。该方法要求本地与远程之间进行完整的文件交换,从而产生了大量的网络传输,在延长了数据恢复时间的同时还带来了传输安全隐患,更重要的是,反复存储同一文件的不同版本(但这些不同版本的大部分内容是相同的),会导致大量的存储空间浪费。
因此,本领域的技术人员致力于开发一种数据存储云化和云备份方法及其系统,使得在保证海量数据高效存储的同时,尽可能高效地利用存储空间,同时保证数据的安全。
发明内容
有鉴于现有技术的上述缺陷,本发明所要解决的技术问题是提供一种数据存储云化和云备份方法及其系统,通过将数据存储云化,即通过分布式架构,并且通过并行计算提高采集数据的存储效率;通过备份手段,更好地对海量数据进行备份恢复以保障数据的安全。
为实现上述目的,本发明提供了一种数据存储云化和云备份方法,其特征在于,包括数据存储云化的步骤和服务器数据备份的步骤,其中:
所述数据存储云化的步骤包括如下步骤:
步骤11,定制映射(Map)模块的映射规则以及重复数据删除(Dedup)模块的重复数据删除方式;
步骤12,Map服务器抓取或者接收数据源的数据;
步骤13,所述Map服务器判断所述数据源的所述数据是否需要进行预处理,如果不需要进行预处理,直接执行步骤(14),如果需要进行预处理,则通过所述Map服务器的预处理模块对所述数据进行预处理,得到结构化数据;
步骤14,所述Map模块将所述结构化数据按所述映射规则映射到相应的存储服务器上;
步骤15,所述存储服务器读取所述结构化数据,所述重复数据删除模块按所述重复数据删除方式对所述结构化数据进行重复数据删除;
步骤16,所述存储服务器存储从复数据删除完成后的数据;
所述服务器数据备份的步骤包括如下步骤:
步骤21,所述存储服务器扫描源文件的历史备份,决定是否备份所述源文件及备份方式;
步骤22,所述存储服务器打开所述源文件的增量备份的索引文件和内容文件,以及所述源文件的完全备份文件,以备读取;
步骤23,所述存储服务器根据所述增量备份的所述索引文件,建立索引网络;
步骤24,所述存储服务器根据所述索引网络,从始至末依次将所述增量备份中的各数据块中的数据读出到内存;
步骤25,将所述存储服务器将读出的所述数据块中的数据与所述源文件中对应位置的数据作比较,为所述数据块生成新的增量备份的索引文件,释放所述数据块所占的内存;
步骤26,所述存储服务器释放所述索引网络所占的内存空间。
进一步地,其中所述步骤11进一步包括如下步骤:
步骤111,根据所述Map服务器上数据源的存储需求,定制映射规则;
步骤112,根据所述映射规则,在所述Map服务器上生成对应的结构化数据模板;
步骤113,根据所述结构化数据模板的特点,定制重复数据删除模块的重复数据删除方式。
进一步地,其中所述步骤13进一步包括如下步骤:
步骤131,根据所述数据源类型,读取所述数据源对应的、由步骤112生成的结构化数据模板;
步骤132,将所述Map服务器上获取的数据的数据结构与步骤131读取的所述结构化数据模板进行比对,如果两者相符,则直接执行步骤14,如果两者的不相符,则执行步骤133;
步骤133,将所述获取的数据按照所述结构化数据模板进行预处理,生成结构化数据。
进一步地,其中所述步骤14进一步包括如下步骤:
步骤141,所述Map服务器根据所述数据源,读取步骤111中定制的所述映射规则;
步骤142,所述Map服务器根据所述映射规则将步骤13的所述结构化数据映射到所述存储服务器上。
进一步地,其中所述步骤15进一步包括如下步骤:
步骤151,所述存储服务器的所述重复数据删除模块采用一个Hash函数为数据块计算校验和,所述Hash函数唯一地识别数据;
步骤152,所述重复数据删除模块将所述数据块记录在一张数据表中,所述数据表建立了从所述数据块的校验和到所述数据块的存储位置的映射,以及从所述数据块的校验和到所述数据块的引用次数的映射;
步骤153,当所述数据块在所述存储服务器中已有数据备份时,仅增加所述数据块的引用次数;
步骤154,当数据高度冗余时,以备份服务器、备份虚拟机映像或备份源码库的方式成倍减少空间消耗。
进一步地,其中所述步骤21进一步包括如下步骤:
步骤211,所述存储服务器扫描寻找所述源文件的所有历史备份,所述历史备份包括最初的完全备份和最初的完全备份之后的所有增量备份,并将所述所有增量备份存入一个链表;
步骤212,所述存储服务器取出所述链表中的最新一次增量备份,比较所述最新一次增量备份和所述源文件的修改日期,如果所述最新一次增量备份文件的日期较新,则放弃备份,执行步骤22,否则执行步骤213;
步骤213,备份所述源文件,如果所述源文件以前从未做过备份,则此次执行完全备份。
进一步地,其中所述步骤24进一步包括如下步骤:
步骤241,通过所述索引网络找到所述数据块的依赖块,读取所述依赖块;
步骤242,如果所述依赖块是不匹配块,则将所述依赖块对应的所述增量备份的数据读出到内存,执行步骤25;
步骤243,如果所述依赖块是匹配块,继续向所述块的依赖块追溯,直到遇到不匹配块,执行步骤242,如果遇到索引文件链中最开始的匹配块,则执行步骤25。
进一步地,其中所述Map模块的映射规则包括根据数据类型进行映射、根据数据来源地进行映射、根据数据的结构进行映射以及根据时间进行映射。
进一步地,其中所述重复数据删除模块的重复数据删除方式是固定大小块的重复数据删除。
进一步地,其中所述重复数据删除模块的重复数据删除方式是变大小块的重复数据删除。
在本发明的较佳实施方式中,本发明的数据存储云化和云备份方法,包括数据存储云化的步骤和服务器数据备份的步骤。其中,数据存储云化的步骤涉及两个模块:Map模块和重复数据删除模块。Map服务器根据数据源的存储需求,定制Map模块的映射规则以及重复数据删除模块的重复数据删除方式;Map服务器分别抓取或者接收数据源后,Map服务器的预处理模块对数据源的数据按存储需求进行预处理,使其成为符合映射规则的结构化数据;Map服务器根据预先定制的映射规则,将结构化数据映射到对应的各存储服务器上。各个存储服务器依据映射规则获取数据后,使用定制的重复数据删除模块的重复数据删除方式对获取的数据进行重复数据删除,确保每台服务器在存储时删除了冗余数据。其中Map模块的映射规则可以定制和变更,重复数据删除模块的重复数据删除方式可以进行置换。服务器数据备份的步骤为:存储服务器扫描源文件的历史备份,决定是否备份源文件及备份方式;存储服务器打开源文件的所有增量备份的索引文件和内容文件,以及完全备份文件,以备读取;存储服务器根据增量备份的索引文件,建立索引网络;存储服务器根据索引网络,从始至末依次读出增量备份中的各数据块中的数据到内存;每读出一个数据块,都和源文件中对应位置的数据作比较,逐块生成新的增量备份的索引文件,并对其中不匹配的部分生成新的增量备份的内容文件;在读取下一个数据块内容之前,先释放这个数据块所占的内存。
与现有技术相比,本发明的特点在于:
(1)使用Map技术提高了海量数据存储效率,满足了海量数据入库的实时性要求。同时,采用重复数据删除技术将结构化数据进行冗余删除,有效地提高了空间利用率;
(2)对各个类型的数据源可以制定不同映射规则和重复数据删除方式,具有较高的灵活性,能根据数据的特性以及需求更高效地进行海量数据的存储;
(3)数据管理简单方便。本发明的重复数据删除模块在各存储服务器上进行重复数据删除操作,节省了重复数据删除模块设置在Map模块之前时的分布式复杂管理的开销;
(4)本发明中的存储服务器仅与Map模块有联系,而Map模块不会限制存储服务器容量的增长。倘若有需求加入新的存储服务器,只需要修改映射规则的配置及网络配置;
(5)由于本发明中存储服务器的可扩展性,可带来的经济效应不容忽视。对未来的投资保护上,将解决价格及更新问题。由于智能存储单元数量不受限,将极大降低成本,并随着PC技术的发展而发展。
(6)本发明非常适合电信、数据中心、游戏运营商的业务需求。本发明使用Map技术将海量的源数据分配到各个存储服务器进行并发存储,可以大大提高存储效率,满足数据入库的实时性要求。而且,电信、数据中心、游戏运营商的业务数据大多具有结构化或者半结构化的特性,还能在一定程度上加快本发明的Map模块的数据映射速度。
(7)在分布式系统中,尤其是在服务器速度成为瓶颈的时候,本发明可以把备份数据发送到多台服务器上,采用分布式并行恢复,无须额外代价,并且可以带来性能的提升。
以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明,以充分地了解本发明的目的、特征和效果。
附图说明
图1是本发明的数据存储云化和云备份方法的原理图。
图2是本发明的数据存储云化和云备份方法的Map模块和重复数据删除模块的工作流程图。
图3是本发明的数据存储云化和云备份方法的服务器数据备份的步骤的流程图。
具体实施方式
中国上海电信网络优化公司的网优平台在经历了3期的建设后,所采集的数据越来越丰富,数据量越来越大,这样一个海量数据平台正逐步出现数据存储瓶颈、数据备份恢复庞大而缓慢等等问题。通过实现数据存储云化和服务器数据备份技术,将数据存储云化,即通过分布式架构,并行计算提高采集数据的存储效率,通过云备份手段,更好的对海量数据进行备份恢复以保障数据的安全。
如图1所示,本实施例涉及分布式环境下数据存储云化和云备份,包括数据存储云化的步骤和服务器数据备份的步骤,其中数据存储的步骤如图2所示,步骤如下:
步骤11:根据各个数据源的不同存储需求,定制Map模块的映射规则,定制重复数据删除模块的重复数据删除方式,包括步骤111-113。
步骤111:根据所述Map服务器上数据源的存储需求,定制映射规则。
所述Map模块的映射规则包括根据数据类型进行映射、根据数据来源地进行映射、根据数据的结构进行映射以及根据时间进行映射。针对客户的数据(按照名字、流量、省、地点、工作负载划分)定制映射规则,如图1所示,数据源1的映射方式为映射规则1,数据源2的映射方式为映射规则2,数据源3的映射方式为映射规则3。
步骤112:根据步骤111中定制的映射规则,在Map服务器上生成对应的结构化数据模板。
步骤113:根据所述结构化数据模板的特点,定制重复数据删除模块的重复数据删除方式。
如图1所示,指定并配置存储服务器1、存储服务器2、存储服务器3上的重复数据删除模块1、重复数据删除模块2、重复数据删除模块3的重复数据删除方式。重复数据删除模块的重复数据删除方式可以是固定大小块的重复数据删除,重复数据删除模块的重复数据删除方式也可以是变大小块的重复数据删除。
步骤12:Map服务器抓取或者接收数据源的数据。
如图1所示,Map服务器从数据源1、数据源2和数据源3抓取或者接收数据。
步骤13:Map服务器判断所述数据源的数据是否需要进行预处理,如果不需要进行预处理,直接执行步骤14,如果需要进行预处理,则通过Map服务器的预处理模块对所述数据进行预处理,得到结构化数据。包括步骤131-133。
步骤131:Map服务器的预处理模块根据数据源类型,读取数据源对应的、由步骤112生成的结构化数据模板。
步骤132:将Map服务器获取的数据的数据结构与步骤131读取的结构化数据模板进行比对,如果两者相符,则直接执行步骤14,如果两者的不相符,则执行步骤133。
步骤133:将获取的数据按照所述结构化数据模板进行预处理,生成结构化数据。
步骤14:Map模块将所述结构化数据按所述映射规则映射到相应的存储服务器上,包括步骤141-142。。
步骤141:Map服务器根据所述数据源,读取步骤111中定制的映射规则。
如图1所示,Map服务器读取映射规则1、映射规则2、映射规则3。
步骤142:Map服务器根据映射规则将步骤13的数据源的数据映射到存储服务器上。
如图1所示,Map服务器根据映射规则1将数据源1的结构化数据分配到存储服务器1、存储服务器2、存储服务器3上,Map服务器根据映射规则2将数据源2的结构化数据分配到存储服务器1、存储服务器2、存储服务器3上,Map服务器根据映射规则3将数据源3的结构化数据分配到存储服务器1、存储服务器2、存储服务器3上。
步骤15:存储服务器读取所述结构化数据,存储服务器的重复数据删除模块按重复数据删除方式对结构化数据进行重复数据删除。
如图1所示,存储服务器1、存储服务器2和存储服务器3接收Map服务器分配的数据,数据进入重复数据删除模块1、重复数据删除模块2和重复数据删除模块3。重复数据删除模块1、重复数据删除模块2和重复数据删除模块3比对需要存储的数据与磁盘上已持久化的数据来进行重复数据删除。
包括步骤151-154。
步骤151:重复数据删除模块采用一个Hash函数为数据块计算校验和,此Hash函数以很高的概率唯一地识别数据。
例如,Hash函数SHA256的Hash碰撞的概率大约为2-256。
步骤152:重复数据删除模块将数据块记录在一张数据表中,所述数据表建立了从所述数据块的校验和到所述数据块的存储位置的映射,以及从所述数据块的校验和到所述数据块的引用次数的映射。
步骤153:当所述数据块在所述存储服务器中已有数据备份时,仅增加所述数据块的引用次数。
步骤154:当数据高度冗余时,以备份服务器、备份虚拟机映像或备份源码库的方式成倍减少空间消耗。
重复数据删除还可以在文件或者字节层面进行。
步骤16:所述存储服务器存储重复数据删除完成后的数据。
步骤17:数据存储的步骤的后期工作包括,根据各个服务器上数据的逻辑关系,提供数据访问接口。
如图3所示,本实施例的服务器数据备份的步骤涉及源文件的增量备份的备份方法,步骤如下:
步骤21:存储服务器扫描源文件的历史备份,决定是否备份及备份方式,包括步骤211-213。
步骤211:存储服务器扫描寻找所述源文件的所有历史备份,所述历史备份包括最初的完全备份和最初的完全备份之后的所有增量备份,并将所述所有增量备份存入一个链表。
源文件的所有历史备份为在存放备份的目录下列举的所有文件。
步骤212:存储服务器取出所述链表中的最新一次增量备份,比较最新一次增量备份和源文件的修改日期,如果最新一次增量备份文件的日期较新,则放弃备份,执行步骤22,否则执行步骤213。
其中,最后一次历史备份可能为完全备份或增量备份。
步骤213:备份所述源文件,如果所述源文件以前从未做过备份,则此次执行完全备份。
执行完全备份即直接拷贝该文件。
步骤22:存储服务器打开源文件的增量备份的索引文件和内容文件,以及源文件的完全备份文件,以备读取。
如图1中的存储服务器1、存储服务器2和存储服务器3打开源文件的所有增量备份的索引文件和内容文件,以及源文件第一次备份时直接拷贝的完全备份文件,以备读取;
其中,增量备份的索引文件是以索引文件链对增量备份之间的引用信息的记录。增量备份的内容文件是增量备份中的数据。
步骤23:根据步骤22中打开的增量备份的索引文件,建立索引网络。
其中,索引网络是索引文件中的索引文件链形成的网络结构。
步骤24:根据步骤23中建立的索引网络,从始至末依次将增量备份中各数据块中的数据读出到内存,包括步骤241到243。
步骤241:通过索引网络找到所述数据块的依赖块,读取此依赖块。
其中,依赖块是指与所述数据块有相似之处或者完全一致的数据块。
步骤242:如果步骤241中读取的依赖块是不匹配块,则将该依赖块对应的增量备份的数据读出到内存,执行步骤25。
其中,不匹配块是指与所述数据块不完全一致的依赖块,匹配块是指与所述数据块完全一致的依赖块。
步骤243:如果步骤241中读取的依赖块是匹配块,继续向所述数据块的依赖块追溯,直到遇到不匹配块,执行步骤242,如果遇到索引文件链中的最开始的匹配块,则执行步骤25。
如果读取的依赖块长度未达到所述数据块的需要,则在索引文件链中搜寻依赖块的下一个数据块继续读取,直到读出的总长度达到所述数据块的要求。这样,就读到了增量备份中各数据块中的内容。
步骤25:存储服务器将读出的所述数据块中的数据与源文件中对应位置的数据作比较,对所述数据块生成新的增量备份的索引文件,释放所述数据块所占的内存。
存储服务器每读出一个增量备份中的数据块,都和源文件的对应位置的数据作比较,逐块生成新的增量备份的索引文件,并对其中不匹配的部分生成全新的增量备份的内容文件,然后,在读下一个数据块内容之前,先释放这个数据块所占的内存。
步骤26:存储服务器释放索引网络所占的内存空间。
本实施例针对不同的数据源类型可以指定不同的映射规则,使映射规则最大可能地符合存储需求,提高存储效率。同时,在映射操作前,对需要映射的数据进行预处理,使数据成为最适合其映射规则的结构化数据,大大增加了映射的效率和能力。另外,在重复数据删除时,选择各个服务器单独重复数据删除,减少了不同存储服务器上管理重复数据的开销。
以上详细描述了本发明的较佳具体实施例。应当理解,本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此,凡本技术领域的技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案,皆应在由权利要求书所确定的保护范围内。
Claims (10)
1.一种基于Map/Dedup的数据存储云化和云备份方法,其特征在于,包括数据存储云化的步骤和服务器数据备份的步骤,其中:
所述数据存储云化的步骤进一步包括如下步骤:
步骤(11)定制映射模块的映射规则以及重复数据删除模块的重复数据删除方式;
步骤(12)映射服务器抓取或者接收数据源的数据;
步骤(13)所述映射服务器判断所述数据源的所述数据是否需要进行预处理,如果不需要进行预处理,直接执行步骤(14),如果需要进行预处理,则通过所述映射服务器的预处理模块对所述数据进行预处理,得到结构化数据;
步骤(14)所述映射模块将所述结构化数据按所述映射规则映射到相应的存储服务器上;
步骤(15)所述存储服务器读取所述结构化数据,所述重复数据删除模块按所述重复数据删除方式对所述结构化数据进行重复数据删除;
步骤(16)所述存储服务器存储重复数据删除完成后的数据;
所述服务器数据备份的步骤进一步包括如下步骤:
步骤(21)所述存储服务器扫描源文件的历史备份,决定是否备份所述源文件及备份方式;
步骤(22)所述存储服务器打开所述源文件的增量备份的索引文件和内容文件,以及所述源文件的完全备份文件,以备读取;
步骤(23)所述存储服务器根据所述增量备份的所述索引文件,建立索引网络;
步骤(24)所述存储服务器根据所述索引网络,从始至末依次将所述增量备份中的各数据块中的数据读出到内存;
步骤(25)将所述存储服务器读出的所述数据块中的数据与所述源文件对应位置的数据作比较,为所述数据块生成新的增量备份的索引文件,释放所述数据块所占的内存空间;
步骤(26)所述存储服务器释放所述索引网络所占的内存空间。
2.如权利要求1所述的数据存储云化和云备份方法,其中所述步骤(11)进一步包括如下步骤:
步骤(111)根据所述映射服务器上数据源的存储需求,定制映射规则;
步骤(112)根据所述映射规则,在所述映射服务器上生成对应的结构化数据模板;
步骤(113)根据所述结构化数据模板的特点,定制重复数据删除模块的重复数据删除方式。
3.如权利要求2所述的数据存储云化和云备份方法,其中所述步骤(13)进一步包括如下步骤:
步骤(131)根据所述数据源类型,读取所述数据源对应的、由步骤(112)生成的结构化数据模板;
步骤(132)将所述映射服务器上获取的数据的数据结构与步骤(131)读取的所述结构化数据模板进行比对,如果两者相符,则直接执行步骤(14),如果两者的不相符,则执行步骤(133);
步骤(133)将所述获取的数据按照所述结构化数据模板进行预处理,生成结构化数据。
4.如权利要求3所述的数据存储云化和云备份方法,其中所述步骤(14)进
一步包括如下步骤:
步骤(141)所述映射服务器根据所述数据源,读取步骤(111)中定制的所述映射规则;
步骤(142)所述映射服务器根据所述映射规则将步骤(13)的所述结构化数据映射到所述存储服务器上。
5.如权利要求4所述的数据存储云化和云备份方法,其中所述步骤(15)进一步包括如下步骤:
步骤(151)所述存储服务器的所述重复数据删除模块采用一个Hash函数为数据块计算校验和,所述Hash函数唯一地识别数据;
步骤(152)所述重复数据删除模块将所述数据块记录在一张数据表中,所述数据表建立了从所述数据块的校验和到所述数据块的存储位置的映射,以及从所述数据块的校验和到所述数据块的引用次数的映射;
步骤(153)当所述数据块在所述存储服务器中已有数据备份时,仅增加所述数据块的引用次数;
步骤(154)当数据高度冗余时,以备份服务器、备份虚拟机映像或备份源码库的方式成倍减少空间消耗。
6.如权利要求5所述的数据存储云化和云备份方法,其中所述步骤(21)进一步包括如下步骤:
步骤(211)所述存储服务器扫描寻找所述源文件的所有历史备份,所述历史备份包括最初的完全备份和最初的完全备份之后的所有增量备份,并将所述所有增量备份存入一个链表;
步骤(212)所述存储服务器取出所述链表中的最新一次增量备份,比较所述最新一次增量备份和所述源文件的修改日期,如果所述最新一次增量备份的日期较新,则放弃备份,执行步骤(22),否则执行步骤(213);
步骤(213)备份所述源文件,如果所述源文件以前从未做过备份,则此次执行完全备份。
7.如权利要求6所述的数据存储云化和云备份方法,其中所述步骤(24)进一步包括如下步骤:
步骤(241)通过所述索引网络找到所述数据块的依赖块,读取所述依赖块;
步骤(242)如果所述依赖块是不匹配块,则将所述依赖块对应的所述增量备份的数据读出到内存,执行步骤(25);
步骤(243)如果所述依赖块是匹配块,继续向所述数据块的依赖块追溯,直到遇到不匹配块,执行步骤(242),如果遇到索引文件链中最开始的匹配块,则执行步骤(25)。
8.如权利要求1或2所述的数据存储云化和云备份方法,其中所述映射模块的映射规则包括根据数据类型进行映射、根据数据来源地进行映射、根据数据的结构进行映射以及根据时间进行映射。
9.如权利要求8所述的数据存储云化和云备份方法,其中所述重复数据删除模块的重复数据删除方式是对大小固定的数据块的重复数据删除。
10.如权利要求8所述的数据存储云化和云备份方法,其中所述重复数据删除模块的重复数据删除方式是对大小可变的数据块的重复数据删除。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110305170.7A CN102436408B (zh) | 2011-10-10 | 2011-10-10 | 基于Map/Dedup的数据存储云化和云备份方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110305170.7A CN102436408B (zh) | 2011-10-10 | 2011-10-10 | 基于Map/Dedup的数据存储云化和云备份方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102436408A true CN102436408A (zh) | 2012-05-02 |
CN102436408B CN102436408B (zh) | 2014-02-19 |
Family
ID=45984485
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110305170.7A Expired - Fee Related CN102436408B (zh) | 2011-10-10 | 2011-10-10 | 基于Map/Dedup的数据存储云化和云备份方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102436408B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103425548A (zh) * | 2012-05-21 | 2013-12-04 | 深圳市祈飞科技有限公司 | 一种操作系统云端备份还原的方法及系统 |
CN103514235A (zh) * | 2012-06-30 | 2014-01-15 | 北京百度网讯科技有限公司 | 一种增量码库的建立方法和装置 |
CN103577425A (zh) * | 2012-07-24 | 2014-02-12 | 中兴通讯股份有限公司 | 一种数据处理的方法和系统 |
CN103902410A (zh) * | 2014-03-28 | 2014-07-02 | 西北工业大学 | 云存储系统的数据备份加速方法 |
WO2014146543A1 (zh) * | 2013-03-22 | 2014-09-25 | 中国银联股份有限公司 | 面向云计算环境的分层存储系统中的数据迁移方法 |
CN104077338A (zh) * | 2013-06-25 | 2014-10-01 | 腾讯科技(深圳)有限公司 | 一种数据处理的方法及装置 |
CN104462358A (zh) * | 2014-12-05 | 2015-03-25 | 中国联合网络通信集团有限公司 | 一种数据分布式存储方法和系统 |
CN106133623A (zh) * | 2014-03-28 | 2016-11-16 | 阿自倍尔株式会社 | 数据采集系统 |
CN106557278A (zh) * | 2015-09-30 | 2017-04-05 | 腾讯科技(深圳)有限公司 | 一种缓存数据持久化的方法 |
CN107005528A (zh) * | 2014-11-12 | 2017-08-01 | 瑞典爱立信有限公司 | 用于无线频谱使用的无线设备硬件安全系统 |
CN109669644A (zh) * | 2019-01-02 | 2019-04-23 | 浪潮商用机器有限公司 | 一种数据存储的方法和装置 |
CN109885610A (zh) * | 2019-02-13 | 2019-06-14 | 北京百度网讯科技有限公司 | 一种结构化数据的抽取方法、装置、电子设备及存储介质 |
CN110858123A (zh) * | 2018-08-23 | 2020-03-03 | 华为技术有限公司 | 一种计算备份文件大小的方法及装置 |
CN111711674A (zh) * | 2020-06-05 | 2020-09-25 | 华南师范大学 | 基于物联网的云计算方法 |
CN114943021A (zh) * | 2022-07-20 | 2022-08-26 | 之江实验室 | 一种tb级增量数据筛选方法和装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1801107A (zh) * | 2006-01-12 | 2006-07-12 | 上海洲信信息技术有限公司 | 数据恢复方法 |
CN101183323A (zh) * | 2007-12-10 | 2008-05-21 | 华中科技大学 | 一种基于指纹的数据备份系统 |
CN101477487A (zh) * | 2009-01-22 | 2009-07-08 | 上海交通大学 | 多次增量文件的备份方法和恢复方法 |
US7650331B1 (en) * | 2004-06-18 | 2010-01-19 | Google Inc. | System and method for efficient large-scale data processing |
CN101814045A (zh) * | 2010-04-22 | 2010-08-25 | 华中科技大学 | 一种用于备份服务的数据组织方法 |
WO2011076463A1 (en) * | 2009-12-23 | 2011-06-30 | International Business Machines Corporation | Deduplication of encrypted data |
-
2011
- 2011-10-10 CN CN201110305170.7A patent/CN102436408B/zh not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7650331B1 (en) * | 2004-06-18 | 2010-01-19 | Google Inc. | System and method for efficient large-scale data processing |
CN1801107A (zh) * | 2006-01-12 | 2006-07-12 | 上海洲信信息技术有限公司 | 数据恢复方法 |
CN101183323A (zh) * | 2007-12-10 | 2008-05-21 | 华中科技大学 | 一种基于指纹的数据备份系统 |
CN101477487A (zh) * | 2009-01-22 | 2009-07-08 | 上海交通大学 | 多次增量文件的备份方法和恢复方法 |
WO2011076463A1 (en) * | 2009-12-23 | 2011-06-30 | International Business Machines Corporation | Deduplication of encrypted data |
CN101814045A (zh) * | 2010-04-22 | 2010-08-25 | 华中科技大学 | 一种用于备份服务的数据组织方法 |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103425548A (zh) * | 2012-05-21 | 2013-12-04 | 深圳市祈飞科技有限公司 | 一种操作系统云端备份还原的方法及系统 |
CN103514235A (zh) * | 2012-06-30 | 2014-01-15 | 北京百度网讯科技有限公司 | 一种增量码库的建立方法和装置 |
CN103514235B (zh) * | 2012-06-30 | 2017-03-08 | 北京百度网讯科技有限公司 | 一种增量码库的建立方法和装置 |
CN103577425A (zh) * | 2012-07-24 | 2014-02-12 | 中兴通讯股份有限公司 | 一种数据处理的方法和系统 |
WO2014146543A1 (zh) * | 2013-03-22 | 2014-09-25 | 中国银联股份有限公司 | 面向云计算环境的分层存储系统中的数据迁移方法 |
CN104077338A (zh) * | 2013-06-25 | 2014-10-01 | 腾讯科技(深圳)有限公司 | 一种数据处理的方法及装置 |
US10268715B2 (en) | 2013-06-25 | 2019-04-23 | Tencent Technology (Shenzhen) Company Limited | Systems and methods for data processing |
CN104077338B (zh) * | 2013-06-25 | 2016-02-17 | 腾讯科技(深圳)有限公司 | 一种数据处理的方法及装置 |
CN103902410A (zh) * | 2014-03-28 | 2014-07-02 | 西北工业大学 | 云存储系统的数据备份加速方法 |
CN106133623B (zh) * | 2014-03-28 | 2019-03-22 | 阿自倍尔株式会社 | 数据采集系统 |
CN103902410B (zh) * | 2014-03-28 | 2016-10-05 | 西北工业大学 | 云存储系统的数据备份加速方法 |
CN106133623A (zh) * | 2014-03-28 | 2016-11-16 | 阿自倍尔株式会社 | 数据采集系统 |
CN107005528A (zh) * | 2014-11-12 | 2017-08-01 | 瑞典爱立信有限公司 | 用于无线频谱使用的无线设备硬件安全系统 |
CN104462358A (zh) * | 2014-12-05 | 2015-03-25 | 中国联合网络通信集团有限公司 | 一种数据分布式存储方法和系统 |
CN106557278A (zh) * | 2015-09-30 | 2017-04-05 | 腾讯科技(深圳)有限公司 | 一种缓存数据持久化的方法 |
CN110858123A (zh) * | 2018-08-23 | 2020-03-03 | 华为技术有限公司 | 一种计算备份文件大小的方法及装置 |
CN109669644A (zh) * | 2019-01-02 | 2019-04-23 | 浪潮商用机器有限公司 | 一种数据存储的方法和装置 |
CN109885610A (zh) * | 2019-02-13 | 2019-06-14 | 北京百度网讯科技有限公司 | 一种结构化数据的抽取方法、装置、电子设备及存储介质 |
CN111711674A (zh) * | 2020-06-05 | 2020-09-25 | 华南师范大学 | 基于物联网的云计算方法 |
CN111711674B (zh) * | 2020-06-05 | 2023-03-14 | 华南师范大学 | 基于物联网的云计算方法 |
CN114943021A (zh) * | 2022-07-20 | 2022-08-26 | 之江实验室 | 一种tb级增量数据筛选方法和装置 |
US11789639B1 (en) | 2022-07-20 | 2023-10-17 | Zhejiang Lab | Method and apparatus for screening TB-scale incremental data |
Also Published As
Publication number | Publication date |
---|---|
CN102436408B (zh) | 2014-02-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102436408B (zh) | 基于Map/Dedup的数据存储云化和云备份方法 | |
US10296615B2 (en) | In-memory database system | |
CN101814045B (zh) | 一种用于备份服务的数据组织方法 | |
US8108446B1 (en) | Methods and systems for managing deduplicated data using unilateral referencing | |
US8631052B1 (en) | Efficient content meta-data collection and trace generation from deduplicated storage | |
CN107391306B (zh) | 一种异构数据库备份文件恢复方法 | |
US8738668B2 (en) | System and method for creating a de-duplicated data set | |
US6651075B1 (en) | Support for multiple temporal snapshots of same volume | |
US8667032B1 (en) | Efficient content meta-data collection and trace generation from deduplicated storage | |
US20120084519A1 (en) | Systems and methods for retaining and using data block signatures in data protection operations | |
US9946724B1 (en) | Scalable post-process deduplication | |
CN104714858A (zh) | 数据备份方法及装置、数据恢复方法及装置 | |
CN102339321A (zh) | 具有版本控制的网络文件系统及方法 | |
CN103279502B (zh) | 一种具有与并行文件系统结合的重复数据删除文件系统的架构及方法 | |
CN103455526A (zh) | 一种etl数据处理方法、装置及系统 | |
CN101320458A (zh) | 在海量数据下完成账单对账的方法及系统 | |
CN107665219B (zh) | 一种日志管理方法及装置 | |
US20120254173A1 (en) | Grouping data | |
CN103034591A (zh) | 虚拟机内存共享方法及装置 | |
CN110427347A (zh) | 重复数据删除的方法、装置、存储节点及存储介质 | |
CN110134646B (zh) | 知识平台服务数据存储与集成方法及系统 | |
US9678972B2 (en) | Packing deduplicated data in a self-contained deduplicated repository | |
US9594635B2 (en) | Systems and methods for sequential resilvering | |
Yang et al. | Boosting the restoring performance of deduplication data by classifying backup metadata | |
CN105426119A (zh) | 一种存储设备及数据处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140219 Termination date: 20161010 |
|
CF01 | Termination of patent right due to non-payment of annual fee |