CN104166606B - 文件备份方法和主存储设备 - Google Patents

文件备份方法和主存储设备 Download PDF

Info

Publication number
CN104166606B
CN104166606B CN201410436375.2A CN201410436375A CN104166606B CN 104166606 B CN104166606 B CN 104166606B CN 201410436375 A CN201410436375 A CN 201410436375A CN 104166606 B CN104166606 B CN 104166606B
Authority
CN
China
Prior art keywords
backup
block
sub
storage device
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410436375.2A
Other languages
English (en)
Other versions
CN104166606A (zh
Inventor
秦祖福
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201410436375.2A priority Critical patent/CN104166606B/zh
Publication of CN104166606A publication Critical patent/CN104166606A/zh
Application granted granted Critical
Publication of CN104166606B publication Critical patent/CN104166606B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例提供一种文件备份方法和主存储设备,所述方法中,主存储设备通过将主文件的存储空间划分为N个子数据块,在增量备份的每个备份时刻,将上一备份时刻到本次备份时刻之间的被更新的子数据块中的数据拷贝到本地备份缓冲区中,在差量备份的每个备份时刻,将初始备份时刻到本次备份时刻之间被更新的子数据块中数据拷贝到本地备份缓冲区中,主存储设备只需要同步本地备份缓冲区中存储的被更新的子数据块中的数据,没有被更新的子数据块的数据不需要同步,从而能够减少文件备份的数据量,提高文件备份效率,节省备份数据的存储空间。

Description

文件备份方法和主存储设备
技术领域
本发明实施例涉及数据通信技术,尤其涉及一种文件备份方法和主存储设备。
背景技术
数据备份是保护企业核心数据的一种常见方法,在很多企业应用中,存在大量的文件,诸如IBM lotus Motes MSF文件和虚拟机虚拟磁盘文件VMDK/VHD)这类文件,文件大而且经常变化,如果每次备份都将所有文件进行一次全备份,将会消耗非常大的存储空间,无疑加大了企业的IT投资。
针对上述问题,现有技术中通常采用差量备份和增量备份,增量备份需要备份上一次全备份或上一次增量备份后增加或者被修改的文件,差量备份需要备份上一次全备份之后增加或者被修改的文件。在增量备份和差量备份中,会将增加或者被修改的整个文件都备份,例如1个10G的文件被修改了,但是该10G的文件中只有1KB数据变化了,按照现有的增量备份和差量备份方法,需要将该10G的文件全部备份,导致大量存储空间被浪费。
发明内容
本发明实施例提供一种文件备份方法和主存储设备,能够节约备份文件占用的存储空间。
本发明第一方面提供一种文件备份方法,包括:
主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,所述主存储设备将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,所述主存储设备将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
结合本发明第一方面,在本发明第一方面的第一种可能的实现方式中,所述主存储设备将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,包括:
所述主存储设备根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值;
所述主存储设备依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同;
若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则所述主存储设备确定所述第i个子数据块中的数据没有被更新;
若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则所述主存储设备确定所述第i个子数据块中的数据被更新了;
所述主存储设备将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
结合本发明第一方面的第一种可能的实现方式,在本发明第一方面的第二种可能的实现方式中,所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
所述主存储设备将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。
结合本发明第一方面的第一种可能的实现方式,在本发明第一方面的第三种可能的实现方式中,所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述主存储设备将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
所述主存储设备将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
结合本发明第一方面以及本发明第一方面的第一种至第三种可能的实现方式,在本发明第一方面的第四种可能的实现方式中,在所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,所述方法还包括:
所述主存储设备删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
结合本发明第一方面,在本发明第一方面的第五种可能的实现方式中,所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断自己当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。
结合本发明第一方面的第五种可能的实现方式,在本发明第一方面的第六种可能的实现方式中,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备的中央处理器CPU利用率、内存利用率、磁盘利用率以及所述主存储设备和所述备份存储设备之间的网络带宽。
结合本发明第一方面,在本发明第一方面的第七种可能的实现方式中,所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;
若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
结合本发明第一方面,在本发明第一方面的第八种可能的实现方式中,所述主存储设备将主文件的存储空间划分为N个子数据块之前,所述方法还包括:
所述主存储设备配置所述本地备份缓冲区的大小和所述快照资源池的大小。
本发明第二方面提供一种文件备份方法,包括:
主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,所述主存储设备将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,所述主存储设备将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
结合本发明第二方面,在本发明第二方面的第一种可能的实现方式中,所述主存储设备将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,包括:
所述主存储设备根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值;
所述主存储设备依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同;
若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则所述主存储设备确定所述第i个子数据块中的数据没有被更新;
若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则所述主存储设备确定所述第i个子数据块中的数据被更新了;
所述主存储设备将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
结合本发明第二方面的第一种可能的实现方式,在本发明第二方面的第二种可能的实现方式中,所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
所述主存储设备将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。
结合本发明第二方面的第一种可能的实现方式,在本发明第二方面的第三种可能的实现方式中,所述主存储设备将所述被更新的子数据块中的数据拷贝到所述本地备份缓冲区之后,所述方法还包括:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述主存储设备将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
所述主存储设备将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
结合本发明第二方面以及第二方面的第一种至第三种可能的实现方式,在本发明第二方面的第四种可能的实现方式中,在所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,所述方法还包括:
所述主存储设备删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
结合本发明第二方面,在本发明第二方面的第五种可能的实现方式中,所述主存储设备将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断自己当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则所述主存储设备将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本发明第三方面提供一种主存储设备,包括:
分块模块,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块,用于在第M个备份时刻,将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
所述备份模块还用于,将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
结合本发明第三方面,在本发明第三方面的第一种可能的实现方式中,所述拷贝模块包括:
生成单元,用于根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值;
判断单元,用于依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;
拷贝单元,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
结合本发明第三方面的第一种可能的实现方式,在本发明第三方面的第二种可能的实现方式中,所述备份模块还用于:
将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。
结合本发明第三方面的第一种可能的实现方式,在本发明第三方面的第三种可能的实现方式中,所述备份模块还用于:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
结合本发明第三方面以及本发明第三方面的第一种至第三种可能的实现方式,在本发明第三方面的第四种可能的实现方式中,所述设备还包括::
删除模块,用于删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
结合本发明第三方面,在本发明第三方面的第五种可能的实现方式中,所述备份模块还用于:
判断所述主存储设备的当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。
结合本发明第三方面的第五种可能的实现方式,在本发明第三方面的第六种可能的实现方式中,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备的中央处理器CPU利用率、内存利用率、磁盘利用率以及所述主存储设备和所述备份存储设备之间的网络带宽。
结合本发明第三方面,在本发明第三方面的第七种可能的实现方式中,所述备份模块还用于:
判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;
若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
结合本发明第三方面,在本发明第三方面的第八种可能的实现方式中,所述设备还包括:
配置模块,用于配置所述本地备份缓冲区的大小和所述快照资源池的大小。
本发明第四方面提供一种主存储设备,包括:
分块模块,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块,用于在第M个备份时刻,将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
所述备份模块还用于,将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
结合本发明第四方面,在本发明第四方面的第一种可能的实现方式中,所述拷贝模块包括:
生成单元,用于根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值;
判断单元,用于依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;
拷贝单元,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
结合本发明第四方面的第一种可能的实现方式,在本发明第四方面的第二种可能的实现方式中,所述备份模块还用于:
将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。
结合本发明第四方面的第一种可能的实现方式,在本发明第四方面的第三种可能的实现方式中,所述备份模块还用于:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
结合本发明第四方面以及第四方面的第一种至第三种可能的实现方式,在本发明第四方面的第四种可能的实现方式中,所述设备还包括:
删除模块,用于删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
结合本发明第四方面,在本发明第四方面的第五种可能的实现方式中,所述备份模块还用于:
判断所述主存储设备的当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本发明实施例提供一种文件备份方法和主存储设备,主存储设备通过将主文件的存储空间划分为N个子数据块,在增量备份的每个备份时刻,将上一备份时刻到本次备份时刻之间的被更新的子数据块中的数据拷贝到本地备份缓冲区中,在差量备份的备份时刻,将初始备份时刻到本次备份时刻之间被更新的子数据块中数据拷贝到本地备份缓冲区中,主存储设备只需要同步本地备份缓冲区中存储的被更新的子数据块中的数据,没有被更新的子数据块的数据不需要同步,从而能够减少文件备份的数据量,提高文件备份效率,节省备份数据的存储空间。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明各实施例所适用的文件存储系统的结构示意图;
图2为本发明实施例一提供的文件备份方法的流程图;
图3为主文件的存储空间的分块示意图;
图4为本发明实施例二提供的确定被更新子数据块的流程图;
图5为备份时刻的位图的一种示意图;
图6为备份时刻的位图合并的示意图;
图7为本发明实施例三提供的文件备份方法的完整流程图;
图8为本发明实施例四提供的文件备份方法的流程图;
图9为本发明实施例五提供的确定被更新子数据块的流程图;
图10为本发明实施例六提供的主存储设备的结构示意图;
图11为本发明实施例七提供的主存储设备的结构示意图;
图12为本发明实施例八提供的主存储设备的结构示意图;
图13为本发明实施例九提供的主存储设备的结构示意图;
图14为本发明实施例十提供的主存储设备的结构示意图;
图15为本发明实施例十一提供的主存储设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明各实施例所适用的文件存储系统的结构示意图,如图1所示,该文件存储系统中包括一个主存储设备和一个备份存储设备。主存储设备中包括主文件的存储空间和本地备份缓冲区,主文件的存储空间用于存储主文件,主文件是相对于备份文件而言的,本发明实施例的方法中,主文件的存储空间被划分为了N个子数据块。在采用增量备份时,本地备份缓冲区用于存储第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据,第M-1个备份时刻为第M个备份时刻的上一备份时刻。当采用增量备份时,本地备份缓冲区中用于存储初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据。主存储设备可以在对主文件的存储空间分块之前配置本地备份缓冲区的大小,例如,将本地备份缓冲区的大小设置为主文件大小的5%~10%,本地备份缓冲区的大小可以根据需要灵活配置,本地备份缓冲区支持扩容策略。
备份存储设备包括备份文件的存储空间和快照资源池,备份文件的存储空间用于存储主文件的初始数据,快照资源池用于存储备份文件的增量数据,在初始备份之后,后续备份时刻同步的数据都称为备份文件的增量数据,快照资源池可以按照时间点来记录增量数据。主存储设备可以在对主文件的存储空间分块之前对快照资源池进行配置,例如,将快照资源池的初始大小设置为主文件大小的10%~20%,快照资源池的大小可以根据需要灵活配置,并且快照资源池也支持扩容策略,例如,当快照资源池中数据达到80%,则对快照资源池扩容20%。图1所示的文件存储系统只是举例说明,在实际的应用中,文件存储系统中可以包括多个主存储设备,每个主存储设备具有一个或多个备份存储设备,并且还还可以包括一个管理设备,该管理设备用于管理文件存储系统中的所有存储设备。
图2为本发明实施例一提供的文件备份方法的流程图,请参照图1和图2所示,本实施例中以增量备份方法为例对文件备份方法进行详细说明,本实施例的方法可以包括以下步骤:
步骤101、主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数。
本实施例中,主存储设备在对主文件的存储空间进行分块时,每个子数据块的大小可以相同也可以不同,子数据块的大小和分块个数可以根据主文件的存储空间的大小确定,例如,当主文件的存储空间较大时,每个子数据块的大小也可以相应大一些,当主文件的存储空间较小时,每个子数据块的大小相应也小一些。对主文件的存储空间分块的目的是为了精确识别被改变的数据所在的位置,因此,子数据块的大小要合适,子数据块太小会影响分块效率,子数据块太大会导致每次同步的数据量大。需说明的是,本发明实施例中的主文件是相对于备份文件说的。
主存储设备对主文件的存储空间进行分块时,具体为:首先,读取主文件的存储空间的逻辑区块地址(Logical Block Address,简称LBA),然后,根据每个子数据块的大小对LBA地址进行分段,记录每个子数据块的LBA地址,每个子数据块的LBA地址包括:开始LBA地址和结束LBA地址,将所有子数据块的LBA地址记录在一张地址表中,该地址表的格式如表1所示:
表1
子数据块的编号 开始地址 结束地址
1 10000011 10001111
2 XXXX XXXX
XXXX XXXX
N XXXX XXXX
对于一个子数据块来说,该子数据块的LBA地址可能不连续,那么一个子数据块的LBA地址可能需要多个LBA地址串联起来,类似于指针一样,该地址表可以保存在主存储设备的本地备份缓冲区中。
步骤102、在初始备份时刻,主存储设备将主文件中的初始数据同步到备份存储设备的备份文件中。
在对主文件的存储空间分块之后,主存储设备对主文件进行初始备份,即将主文件中的初始数据同步到备份存储设备的备份文件中。在对主文件进行初始备份时,主文件的存储空间可能没有存满数据,只有部分子数据块中存满数据,因此,在初始备份时,只对存储有数据的子数据块进行备份。
在分块时对各个子数据块进行了编号,因此,可以按照编号的顺序依次将各子数据块存储满数据。如图3所示,图3为主文件的存储空间的分块示意图,主文件的存储空间被分成了N个子数据块,前K-1个子数据块中存满数据,第K个子数据块中没有存储满数据,第K个子数据块虚线左侧的存储空间存满数据,虚线右侧的存储空间为未使用的存储空间,第K个子数据块至第N个子数据块为未使用的存储空间,第K个子数据块为当前存储子数据块,当前存储子数据块中还未存满数据,新写入的数据会被存储在当前存储子数据块,在第K个子数据块存储满后,新写入的数据会存储在第K+1个子数据块中。当然,主存储设置在存储数据时也可以不按照子数据块的顺序进行存储。本实施例中,主存储设备将所述主文件中的初始数据同步到备份存储设备的备份文件中,具体为:主存储设备将主文件的前K-1个子数据块中的数据以及第K个子数据块中的数据同步到备份存储设备的备份文件中。
步骤103、在第M个备份时刻,主存储设备将第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,第M-1个备份时刻为第M个备份时刻的上一备份时刻,M为大于等于2的正整数。
本实施例中按照时间点触发备份操作,例如为每半个小时触发一次备份操作,具体的触发间隔可以根据实际情况需要进行设置,例如,主存储设备中的数据经常变化,那么可以将触发间隔设置的短一些。
增量备份只备份上次备份以后有变化的子数据中的数据,因此,在第M个备份时刻,主存储设备只将第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区中,第M-1个备份时刻为第M个备份时刻的上一备份时刻,即将上一备份时刻到本次备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区中。本实施例中,第M-1个备份时刻到第M个备份时刻之间被更新的子数据块包括以下三种数据块:(1)在第M-1个备份时刻已经存储满数据,并且在第M个备份时刻之前该子数据块中的数据被修改了;(2)在第M-1个备份时刻没有存储数据的子数据块,并且在第M个备份时刻之前被存储满或正在写的子数据块;(3)在第M-1个备份时刻没有存储满数据,并且在第M各备份时刻存储满数据的子数据块。
步骤104、主存储设备将本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据同步到备份存储设备的快照资源池中,快照资源池用于存储所述备份文件的增量数据。
在将被更新的子数据块中的数据拷贝到本地备份缓冲区后,主存储设备进行数据同步,将本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据发送到备份存储设备的快照资源池中,完成数据备份。在每次数据备份完成之后,主存储设备删除本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据。
本实施例中,主存储设备通过将主文件的存储空间划分为N个子数据块,在每个备份时刻,将上一备份时刻到本次备份时刻之间的被更新的子数据块中的数据拷贝到本地备份缓冲区中,主存储设备只需要同步本地备份缓冲区中存储的被更新的子数据块中的数据,没有被更新的子数据块的数据不需要同步,从而能够减少文件备份的数据量,提高文件备份效率,节省备份数据的存储空间。
在对文件进行备份时,当备份的数据量较大时,会对服务器上已经运行的应用的性能产生影响,并且对网络带宽也是一个极大的冲击。因此,在本发明可行的实现方式中,在步骤104之前,可选地,所述方法还可以包括以下步骤:主存储设备判断自己当前的服务质量QoS条件是否满足要求;若该QoS条件满足要求,则主存储设备执行步骤104,将本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块的数据同步到备份存储设备的快照资源池中。若该QoS条件不满足要求,则主存储设备不执行数据同步操作。
该QoS条件包括以下条件中的任意一个或其组合:主存储设备的中央处理器(Central Processing Unit,简称CPU)利用率、内存利用率、磁盘利用率以及主存储设备和备份存储设备之间的网络带宽。例如,设置主存储设备的CPU利用率、内存利用率、磁盘利用率均低于60%才允许数据同步,当上述三个条件中的任意一个不满足时不进行数据同步。或者,当网络带宽利用率低于70%允许进行数据同步,当网络带宽的利用率高于70%暂停数据同步。可以理解的是,主存储设备在进行数据同步的同时,可能还在接收客户端发送的数据存储请求,或者执行其他操作,这些操作也会占用主存储设备的CPU、内存、磁盘等物理资源。当主存储设备的CPU利用率、内存利用率和磁盘利用率高于60%时,如果主存储设备执行数据同步操作,该数据同步操作也会占用CPU、内存、磁盘资源,那么就会对主存储设备中已经存在的应用的性能产生影响,例如,由于数据同步操作占用了CPU资源,使得主存储设备对客户端的数据存储请求响应慢。另外,当备份的数据大时,会对网络带宽造成影响,因此,本实施例中,在备份时刻,若当前网络带宽大于带宽阈值,则不进行数据备份,从而减少数据备份对网络带宽的影响。
在实施例一的基础上,可选地,在步骤104之前还可以包括以下步骤:主存储设备判断本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;若该被更新的子数据块中的数据的大小大于所述数据量阈值,则主存储设备将该被更新的子数据块中的数据同步到备份存储设备的快照资源池。
本发明实施例二是对实施例一中步骤103的详细描述,图4为本发明实施例二提供的确定被更新子数据块的流程图,如图4所示,本实施例提供的方法可以包括以下步骤:
步骤201、主存储设备根据N个子数据块中的数据分别生成N个子数据块对应的第M个备份时刻的哈希值。
步骤202、主存储设备依次判断N个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同,若N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则主存储设备确定第i个子数据块中的数据没有被更新,若N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则主存储设备确定第i个子数据块中的数据被更新了。
步骤203、主存储设备将N个子数据块中被更新的子数据块中的数据拷贝到本地备份缓冲区。
主存储设备读取每个子数据块中的数据,然后,计算每个子数据块中数据的哈希值,现有技术中有多种哈希算法,例如MD5、MD2、MD4等,本实施例中,可以采用现有的任意一种哈希算法计算子数据块的哈希值。本实施例的方法中,在每个备份时刻,主存储设备都会计算每个子数据块在当前备份时刻的哈希值,然后,将每个子数据块在当前备份时刻的哈希值与上一备份时刻的哈希值进行比较,若某一子数据块在当前备份时刻的哈希值与上一备份时刻的哈希值相同,则说明该子数据块中的数据没有被更新,若某一子数据块在当前备份时刻的哈希值与上一备份时刻的哈希值不相同,则说明该子数据块中的数据被更新了。主存储设备将N个子数据块中被更新的所有子数据块中的数据拷贝到本地备份缓冲区中。
本实施例中,主存储设备将本地备份缓冲区中的第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据同步到备份存储设备的快照资源池中之后,所述方法还包括以下步骤:主存储设备将N个子数据块的第M个备份时刻的哈希值发送给备份存储设备,以使备份存储设备根据N个子数据块对应的第M个备份时刻的哈希值和第M个备份时刻之前的所有备份时刻的哈希值恢复主文件的数据。
上述方法中,在每次数据备份完成之后,主存储设备都会将本次备份时刻生成的各子数据块在本次备份时刻的哈希值发送给备份存储设备,以使备份存储设备根据每个备份时刻的哈希值恢复主文件的数据。在另一种可行的实现方式中,备份存储设备也可以根据每个备份时刻的位图进行数据恢复,位图的每一位与主文件的N个子数据块一一对应。位图中的每一位有两种可能的取值:非初始值和初始值,非初始值表示该位对应的子数据块中的数据相对于上一备份时刻更新了,初始值表示该位对应的子数据块中的数据相对于上一备份时刻没有更新。
图5为备份时刻的位图的一种示意图,图5中非初始值用1表示,初始值用0表示。当备份存储设备采用备份时刻位图进行数据恢复时,相应地,在主存储设备完成数据备份之后,所述方法还包括以下步骤:若N个子数据块中的第i个子数据块没有被更新,则主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若N个子数据块中的第i个子数据块被更新了,则主存储设备将第M个备份时刻的位图中第i个子数据块对应位上的值设置为非初始值。并将第M个备份时刻的位图发送给备份存储设备,以使备份存储设备根据第M个备份时刻的位图和第M个备份时刻之前的所有备份时刻的位图恢复主文件的数据。
当主文件故障(比如文件损坏)或数据丢失后,可以使用备份文件和快照资源池中存储的备份文件的增量数据对主文件的数据进行恢复。当采用增量备份时,可以根据初始备份时刻位图和恢复时刻之前的所有备份时刻位图恢复主文件的数据。备份存储设备在进行数据恢复时,可以根据每个子数据块在各备份时刻的哈希值进行恢复,也可以根据每个备份时刻的位图进行数据恢复。
以备份存储设备根据每个备份时刻的位图进行数据恢复为了进行说明,假设,共有M个增量备份点,M个增量备份点的备份时刻分别为T1、T2……Tm,若需要恢复Tm时刻时主文件的数据,首先需要合并初始备份时刻的位图和T1时刻的位图得到T1时刻的合并位图和数据,然后,合并T1时刻的合并位图和T2时刻的位图得到T2时刻的合并位图和数据,依次类推得到Tm时刻的合并位图和数据。图6为备份时刻的位图合并的示意图,如图6所示,0表示对应的子数据块中数据没有更新,1表示对应子数据块中的数据被更新,ABCDEFG表示对应子数据块中的数据,初始备份时刻的位图为10101100,初始备份时刻子数据块2、4、7、8中没有存储数据,子数据1、3、5、6中分别存储数据A、B、C、D。T1时刻的位图为00110010,可知,T1时刻子数据块3、4、7中的数据被更新了,T1时刻子数据块3、4、7中的数据被更新为E、F、G。合并后T1时刻的合并位图为10111110,合并后的各子数据块对应的合并数据如图所示。
同理,当备份存储设备根据各子数据块在每个备份时刻的哈希值进行数据恢复时,备份存储设备将各子数据块第M个备份时刻的哈希值与第M-1个备份时刻的哈希值进行比较,确定哪些子数据块被更新了,在合并时被更新了的子数据块中的数据以第N个备份时刻的数据为准,依次类推,得到Tm时刻的合并数据。
图7为本发明实施例三提供的文件备份方法的完整流程图,如图7所示,本实施例的方法可以包括以下步骤:
步骤301、主存储设备配置本地备份缓冲区的大小和快照资源池的大小。
主存储设备根据主文件的存储空间的大小确定本地缓冲区的大小和快照资源池的大小,例如,配置本地缓冲区的大小为主文件的存储空间的10%,快照资源池的大小为主文件的存储空间的20%。然后,主存储设备为备份缓冲区在本地分配相应大小的存储空间,并将快照资源池的大小发送给备份存储设备,由备份存储设备为快照资源池分配相应大小的存储空间。主存储设备还可以为本地备份缓冲区和快照资源池设置扩容策略,例如,当快照资源池中的数据达到了快照资源池大小的80%,那么扩容20%。
步骤302、主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数。
主文件的存储空间的大小和N的取值由人为预先设定好,在设定N的取值时,可以根据主文件的存储空间的大小确定N的取值,通常可以将子数据块的大小设置为60K左右,那么当主文件的存储空间大时,N取值也大,当主文件的存储空间小时,N取值也相应的小。
步骤303、在初始备份时刻,主存储设备将主文件中的初始数据同步到备份存储设备的备份文件中。
步骤304、在第M个备份时刻,主存储设备将第M-1个备份时刻到第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M的初始值为2。
本实施例中,初始备份时刻为第1个备份时刻。
步骤305、当主存储设备的QoS条件满足要求时,主存储设备将本地备份缓冲区中的被更新的子数据块中的数据同步到备份存储设备的快照资源池中,生成第M个备份时刻的位图,并将第M个备份时刻的位图发送给备份存储设备。
步骤306、主存储设备删除本地备份缓冲区中存储的被更新的子数据块中的数据。
步骤307、主存储设备检查快照资源池的大小,若快照资源池的使用率达到阈值,则对快照资源池进行扩容。
在步骤307执行完成后,当下一备份时刻到达时,循环执行步骤304-307。
本实施例中,主存储设备通过将主文件划分为N个子数据块,在备份时刻,主存储设备只同步上次备份时刻到本次备份时刻被更新的子数据块中的数据,没有被更新的子数据块中的数据不需要同步,从而能够减少文件备份的数据量,提高文件备份效率,节省备份数据的存储空间。另外,主存储设备在对主文件进行备份时,通过判断自己当前的QoS条件是否满足要求,只有在QoS满足条件时才进行数据备份,能够减少数据备份对主存储设备中已经存在的应用的性能和网络带宽的影响。
图8为本发明实施例四提供的文件备份方法的流程图,请参照图1和图8所示,和实施例一的方法相比,本实施例中以差量备份方法为例对文件备份方法进行详细说明,本实施例的方法可以包括以下步骤:
步骤401、主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
步骤402、在初始备份时刻,主存储设备将主文件中的初始数据同步到备份存储设备的备份文件中。
步骤403、在第M个备份时刻,主存储设备将初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数。
步骤404、主存储设备将本地备份缓冲区中的初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据同步到备份存储设备的快照资源池中,快照资源池用于存储备份文件的增量数据。
步骤401和步骤402的具体实现方式可参照实施例一中的步骤101和102的相关描述,这里不再赘述。
增量备份和差量备份的主要区别在于:差量备份中,本次备份时刻备份的数据是本次备份时刻相对于初始备份时刻被更新的数据;而增量备份中,本次备份时刻备份的数据是本次备份时刻相对于上一备份时刻被更新的数据。因此,本实施例中只有步骤403,在第M个备份时刻,主存储设备将初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区。然后,将被更新的子数据块中的数据同步到快照资源池中。在数据备份完成后,主存储设备删除本地备份缓冲区中被更新的子数据块中的数据。
本实施例中,主存储设备通过将主文件的存储空间划分为N个子数据块,在每个备份时刻,将初始备份时刻到本次备份时刻之间的被更新的子数据块中的数据拷贝到本地备份缓冲区中,主存储设备只需要同步本地备份缓冲区中存储的被更新的子数据块中的数据,没有被更新的子数据块的数据不需要同步,从而能够减少文件备份的数据量,提高文件备份效率,节省备份数据的存储空间。
在上述实施例四的基础上,可选地,在步骤104之前,所述方法还可以包括以下步骤:主存储设备判断自己当前的服务质量QoS条件是否满足要求;若QoS条件满足要求,则主存储设备将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池,若QoS条件不满足要求,则主存储设备不执行数据备份操作。或者,主存储设备判断本地备份缓冲区中的所述初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;若本地备份缓冲区中的所述初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据的大小大于数据量阈值,则主存储设备将本地备份缓冲区中的初始备份时刻到第M个备份时刻之间被更新的子数据块中的数据同步到备份存储设备的快照资源池。
本发明实施例五是对实施例四中步骤403的详细描述,图9为本发明实施例五提供的确定被更新子数据块的流程图,如图9所示,本实施例提供的方法可以包括以下步骤:
步骤501、主存储设备根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值。
步骤502、主存储设备依次判断N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同,若N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则主存储设备确定第i个子数据块中的数据没有被更新,若N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则主存储设备确定第i个子数据块中的数据被更新了。
步骤503、主存储设备将N个子数据块中被更新的子数据块中的数据拷贝到本地备份缓冲区。
本实施例和实施例二的区别在于:本实施例中,主存储设备是将N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值进行比价,以确定被更新的子数据块。
在实施例五的基础上,主存储设备在本次数据备份完成之后,还执行以下步骤:主存储设备将N个子数据块对应的第M个备份时刻的哈希值发送给备份存储设备,以使备份存储设备根据N个子数据块对应的第M个备份时刻的哈希值和初始备份时刻的哈希值恢复主文件的数据。
或者,主存储设备生成第N个备份时刻的位图,将第N个备份时刻的位图发送给备份存储设备,以使备份存储设备根据初始备份时刻的位图和第N个备份时刻的位图恢复出主文件在第N个备份时刻的数据。具体地:若N个子数据块中的第i个子数据块中的数据没有被更新,则主存储设备将第M个备份时刻的位图中第i个子数据块对应位上的值设置为初始值,若N个子数据块中的第i个子数据块中的数据被更新了,则主存储设备将第M个备份时刻的位图中第i个子数据块对应位上的值设置为非初始值,第M个备份时刻的位图的每一位与主文件的N个子数据块一一对应。
差量备份的数据恢复过程比增量备份的数据恢复过程更加简单,增量备份在数据恢复时需要经过多个数据合并才能恢复完整数据,而在差量备份中,只需要进行一次数据合并就可以恢复完整数据。例如,若要恢复第N个备份时刻的数据,那么备份存储设备只根据各子数据块在第N个备份时刻的哈希值和初始备份时刻的哈希值进行数据恢复,或者,只根据各子数据块在第N个备份时刻的位图和初始备份时刻的位图进行数据恢复。差量备份中,备份存储设备进行数据合并过程和增量备份相同,因此,这里不再赘述,具体实现方式可参照增量备份的数据恢复过程。
图10为本发明实施例六提供的主存储设备的结构示意图,如图10所示,本实施例的主存储设备可以包括:分块模块11、备份模块12和拷贝模块13。
其中,分块模块11,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块12,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块13,用于在第M个备份时刻,将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
所述备份模块12还用于,在拷贝模块13将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区之后,将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
本实施例的主存储设备,可以用于执行实施例一的技术方案,其实现原理和技术效果类似,此处不再赘述。
图11为本发明实施例七提供的主存储设备的结构示意图,如图11所示,本实施例的主存储设备在图10所示的主存储设备的结构的基础上,进一步地,还可以包括:删除模块14和配置模块15,该删除模块14用于,在备份模块12将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。配置模块15,用于配置所述本地备份缓冲区的大小和所述快照资源池的大小。
本实施例中,所述拷贝模块13具体包括:生成单元131,判断单元132和拷贝单元133。生成单元131,用于根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值;判断单元132,用于依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;拷贝单元133,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
进一步地,所述备份模块12还用于:将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。
或者,所述备份模块12还用于:若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;并将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
可选地,所述备份模块12还用于:在将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,判断所述主存储设备的当前的服务质量QoS条件是否满足要求;若所述QoS条件满足要求,则所述备份模块12将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。其中,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备的中央处理器CPU利用率、内存利用率、磁盘利用率以及所述主存储设备和所述备份存储设备之间的网络带宽。
可选地,所述备份模块12还用于:在将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则所述备份模块12将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本实施例的主存储设备,可以用于执行实施例一至实施例三的技术方案,其实现原理和技术效果类似,此处不再赘述。
图12为本发明实施例八提供的主存储设备的结构示意图,如图12所示,本实施例的主存储设备可以包括:分块模块21、备份模块22和拷贝模块23。
分块模块21,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块22,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块23,用于在第M个备份时刻,将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
所述备份模块还用于22,在所述拷贝模块23将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区之后,将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
本实施例的主存储设备可以用于执行实施例四提供的技术方案,其实现原理和技术效果类似,此处不再赘述。
图13为本发明实施例九提供的主存储设备的结构示意图,如图13所示,本实施例的主存储设备在图12所示的主存储设备的结构的基础上,进一步地,还可以包括:删除模块24,所述删除模块24,用于在所述备份模块22将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
本实施例中,所述拷贝模块23具体包括:生成单元231、判断单元232和拷贝单元233,其中,生成单元231,用于根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值;判断单元232,用于依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;拷贝单元233,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
进一步地,所述备份模块22还用于:将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。
或者,所述备份模块22还用于:若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;并将生成的所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
可选地,所述备份模块22还用于,在将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之前,判断所述主存储设备的当前的服务质量QoS条件是否满足要求;若所述QoS条件满足要求,则将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本实施例的主存储设备,可以用于执行实施例四和实施例五提供的技术方案,其实现原理和技术效果类似,此处不再赘述。
图14为本发明实施例十提供的主存储设备的结构示意图,如图14所示,本实施例的主存储设备300包括:处理器31、存储器32、通信接口33以及系统总线34,存储器32和通信接口33通过系统总线34与处理器31连接并通信,通信接口33用于和其他设备进行通信,存储器32中存储有计算机执行指令321;所述处理器31,用于运行所述计算机执行指令321,执行如下所述的方法:
将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
所述处理器31在执行上述方法之前还用于:配置所述本地备份缓冲区的大小和所述快照资源池的大小。
所述处理器31在将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区时,具体用于:首先,根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值。然后,依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同;若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则所述主存储设备确定所述第i个子数据块中的数据没有被更新;若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则所述主存储设备确定所述第i个子数据块中的数据被更新了。最后,将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
所述处理器31在将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,还用于执行如下操作:将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。或者,若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述主存储设备将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;并将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
进一步地,在所述处理器31将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,所述处理器31还用于:删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
可选地,所述处理器31在将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,还用于:判断主存储设备300的当前的服务质量QoS条件是否满足要求;若所述QoS条件满足要求,则所述处理器31将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。其中,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备300的处理器31的利用率、内存利用率、磁盘利用率以及所述主存储设备300和所述备份存储设备之间的网络带宽。
可选地,所述处理器31在将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,还用于:判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则所述处理器31将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本实施例的主存储设备,可以用于执行实施例一至实施例三提供的技术方案,其实现原理和技术效果类似,此处不再赘述。
图15为本发明实施例十一提供的主存储设备的结构示意图,如图15所示,本实施例的主存储设备400包括:处理器41、存储器42、通信接口43以及系统总线44,存储器42和通信接口43通过系统总线44与处理器41连接并通信,通信接口43用于和其他设备进行通信,存储器42中存储有计算机执行指令421;所述处理器41,用于运行所述计算机执行指令421,执行如下所述的方法:
将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据。
所述处理器41在将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区时,具体用于:首先,根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值。然后,依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新;若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了。最后,将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
所述处理器41在将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,还用于:将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。或者,若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述处理器41将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述处理器41将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;并将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
进一步,所述处理器41在将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,还用于:删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
可选地,所述处理器41在将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,还用于:判断自己当前的服务质量QoS条件是否满足要求;若所述QoS条件满足要求,则所述处理器41将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
本实施例的主存储设备,可以用于执行实施例四和实施例五提供的技术方案,其实现原理和技术效果类似,此处不再赘述。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (26)

1.一种文件备份方法,其特征在于,包括:
主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,所述主存储设备将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,所述主存储设备将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据;
所述主存储设备将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,包括:
所述主存储设备根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值;
所述主存储设备依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同;
若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则所述主存储设备确定所述第i个子数据块中的数据没有被更新;
若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则所述主存储设备确定所述第i个子数据块中的数据被更新了;
所述主存储设备将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
2.根据权利要求1所述的方法,其特征在于,所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
所述主存储设备将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。
3.根据权利要求1所述的方法,其特征在于,所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述主存储设备将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
所述主存储设备将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
4.根据权利要求1-3中任一项所述的方法,其特征在于,在所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,所述方法还包括:
所述主存储设备删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
5.根据权利要求1所述的方法,其特征在于,所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断自己当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则所述主存储设备将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。
6.根据权利要求5所述的方法,其特征在于,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备的中央处理器CPU利用率、内存利用率、磁盘利用率以及所述主存储设备和所述备份存储设备之间的网络带宽。
7.根据权利要求1所述的方法,其特征在于,所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;
若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则所述主存储设备将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
8.根据权利要求1所述的方法,其特征在于,所述主存储设备将主文件的存储空间划分为N个子数据块之前,所述方法还包括:
所述主存储设备配置所述本地备份缓冲区的大小和所述快照资源池的大小。
9.一种文件备份方法,其特征在于,包括:
主存储设备将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
在初始备份时刻,所述主存储设备将所述主文件中的初始数据同步到备份存储设备的备份文件中;
在第M个备份时刻,所述主存储设备将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据;
所述主存储设备将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,包括:
所述主存储设备根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值;
所述主存储设备依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同;
若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则所述主存储设备确定所述第i个子数据块中的数据没有被更新;
若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则所述主存储设备确定所述第i个子数据块中的数据被更新了;
所述主存储设备将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
10.根据权利要求9所述的方法,其特征在于,所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中之后,所述方法还包括:
所述主存储设备将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。
11.根据权利要求9所述的方法,其特征在于,所述主存储设备将所述被更新的子数据块中的数据拷贝到所述本地备份缓冲区之后,所述方法还包括:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则所述主存储设备将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则所述主存储设备将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
所述主存储设备将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
12.根据权利要求9-11中任一项所述的方法,其特征在于,在所述主存储设备将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之后,所述方法还包括:
所述主存储设备删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
13.根据权利要求9所述的方法,其特征在于,所述主存储设备将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池之前,所述方法还包括:
所述主存储设备判断自己当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则所述主存储设备将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
14.一种主存储设备,其特征在于,包括:
分块模块,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块,用于在第M个备份时刻,将第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,所述第M-1个备份时刻为所述第M个备份时刻的上一备份时刻,M为大于等于2的正整数;
所述备份模块还用于,将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据;
所述拷贝模块包括:
生成单元,用于根据所述N个子数据块中的数据分别生成所述N个子数据块对应的第M个备份时刻的哈希值;
判断单元,用于依次判断所述N个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的每个子数据块的第M个备份时刻的哈希值与第M-1个备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;
拷贝单元,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
15.根据权利要求14所述的设备,其特征在于,所述备份模块还用于:
将所述N个子数据块的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块的第M个备份时刻的哈希值和所述第M个备份时刻之前的所有备份时刻的哈希值恢复所述主文件的数据。
16.根据权利要求14所述的设备,其特征在于,所述备份模块还用于:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述第M个备份时刻之前的所有备份时刻的位图恢复所述主文件的数据。
17.根据权利要求14-16中任一项所述的设备,其特征在于,所述设备还包括:
删除模块,用于删除所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
18.根据权利要求14所述的设备,其特征在于,所述备份模块还用于:
判断所述主存储设备的当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则将所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中。
19.根据权利要求18所述的设备,其特征在于,所述QoS条件包括以下条件中的任意一个或其组合:所述主存储设备的中央处理器CPU利用率、内存利用率、磁盘利用率以及所述主存储设备和所述备份存储设备之间的网络带宽。
20.根据权利要求14所述的设备,其特征在于,所述备份模块还用于:
判断所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小是否大于预先设置的数据量阈值;
若所述本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据的大小大于所述数据量阈值,则将本地备份缓冲区中的所述第M-1个备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
21.根据权利要求14所述的设备,其特征在于,所述设备还包括:
配置模块,用于配置所述本地备份缓冲区的大小和所述快照资源池的大小。
22.一种主存储设备,其特征在于,包括:
分块模块,用于将主文件的存储空间划分为N个子数据块,N为大于等于2的正整数;
备份模块,用于在初始备份时刻,将所述主文件中的初始数据同步到备份存储设备的备份文件中;
拷贝模块,用于在第M个备份时刻,将所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据拷贝到本地备份缓冲区,M为大于等于2的正整数;
所述备份模块还用于,将所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池中,所述快照资源池用于存储所述备份文件的增量数据;
所述拷贝模块包括:
生成单元,用于根据所述N个子数据块中的数据生成每个子数据块对应的第M个备份时刻的哈希值;
判断单元,用于依次判断所述N个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值是否相同,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值相同,则确定所述第i个子数据块中的数据没有被更新,若所述N个子数据块中的第i个子数据块的第M个备份时刻哈希值与初始备份时刻的哈希值不相同,则确定所述第i个子数据块中的数据被更新了;
拷贝单元,用于将所述N个子数据块中被更新的子数据块中的数据拷贝到所述本地备份缓冲区。
23.根据权利要求22所述的设备,其特征在于,所述备份模块还用于:
将所述N个子数据块对应的第M个备份时刻的哈希值发送给所述备份存储设备,以使所述备份存储设备根据所述N个子数据块对应的第M个备份时刻的哈希值和所述初始备份时刻的哈希值恢复所述主文件的数据。
24.根据权利要求22所述的设备,其特征在于,所述备份模块还用于:
若所述N个子数据块中的第i个子数据块中的数据没有被更新,则将第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为初始值,若所述N个子数据块中的第i个子数据块中的数据被更新了,则将所述第M个备份时刻的位图中所述第i个子数据块对应位上的值设置为非初始值,所述第M个备份时刻的位图的每一位与所述主文件的N个子数据块一一对应;
将所述第M个备份时刻的位图发送给所述备份存储设备,以使所述备份存储设备根据所述第M个备份时刻的位图和所述初始备份时刻的位图恢复所述主文件的数据。
25.根据权利要求22-24中任一项所述的设备,其特征在于,所述设备还包括:
删除模块,用于删除所述本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据。
26.根据权利要求22所述的设备,其特征在于,所述备份模块还用于:
判断所述主存储设备的当前的服务质量QoS条件是否满足要求;
若所述QoS条件满足要求,则将本地备份缓冲区中的所述初始备份时刻到所述第M个备份时刻之间被更新的子数据块中的数据同步到所述备份存储设备的快照资源池。
CN201410436375.2A 2014-08-29 2014-08-29 文件备份方法和主存储设备 Active CN104166606B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410436375.2A CN104166606B (zh) 2014-08-29 2014-08-29 文件备份方法和主存储设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410436375.2A CN104166606B (zh) 2014-08-29 2014-08-29 文件备份方法和主存储设备

Publications (2)

Publication Number Publication Date
CN104166606A CN104166606A (zh) 2014-11-26
CN104166606B true CN104166606B (zh) 2018-01-09

Family

ID=51910436

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410436375.2A Active CN104166606B (zh) 2014-08-29 2014-08-29 文件备份方法和主存储设备

Country Status (1)

Country Link
CN (1) CN104166606B (zh)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105721526B (zh) * 2014-12-04 2019-05-14 清华大学 一种终端、服务器文件同步的方法及装置
CN104506619B (zh) * 2014-12-22 2018-06-05 华为技术有限公司 一种数据备份、恢复方法及其装置、服务器
CN105045541B (zh) * 2015-09-11 2019-06-18 浪潮(北京)电子信息产业有限公司 一种增量快照方法及装置
CN105260265A (zh) * 2015-09-23 2016-01-20 浪潮(北京)电子信息产业有限公司 一种融合快照实现方法及系统
CN105224422B (zh) * 2015-10-20 2019-02-12 浙江大华技术股份有限公司 一种数据备份方法及设备
CN105279100A (zh) * 2015-11-04 2016-01-27 杭州华为数字技术有限公司 链接克隆母卷更新方法及装置
EP3312727B1 (en) * 2016-03-02 2018-11-14 Huawei Technologies Co., Ltd. Differential data backup method and device
CN107305793A (zh) * 2016-04-25 2017-10-31 中国科学院沈阳自动化研究所 一种基于硬件冗余的安全仪表高可靠性存储与诊断方法
CN106126370A (zh) * 2016-06-15 2016-11-16 上海爱数信息技术股份有限公司 基于存储快照之间增量位图的Server‑free备份方法及系统
CN106331152B (zh) * 2016-09-20 2020-02-07 郑州云海信息技术有限公司 一种实现模块间信息同步的方法及装置
CN106569915B (zh) * 2016-11-04 2019-07-02 Oppo广东移动通信有限公司 一种数据备份方法及数据备份服务器
CN106776123B (zh) * 2016-11-25 2019-12-20 上海爱数信息技术股份有限公司 一种容灾实时数据复制方法及系统、备份客户端
CN106681862B (zh) * 2016-12-15 2020-12-04 华为技术有限公司 数据的增量恢复方法和装置
CN107608825A (zh) * 2017-09-19 2018-01-19 杭州宏杉科技股份有限公司 一种云备份快照数据的方法及装置
CN109558270B (zh) * 2017-09-25 2021-02-05 北京国双科技有限公司 数据备份的方法和装置、数据还原的方法和装置
CN107643962A (zh) * 2017-09-27 2018-01-30 郑州云海信息技术有限公司 一种存储数据的备份方法、装置、设备及可读存储介质
CN107770273A (zh) * 2017-10-23 2018-03-06 上海斐讯数据通信技术有限公司 一种大文件云同步方法及系统
CN110058790B (zh) * 2018-01-18 2022-05-13 伊姆西Ip控股有限责任公司 用于存储数据的方法、设备和计算机程序产品
CN110232000B (zh) * 2018-03-05 2022-02-25 腾讯科技(深圳)有限公司 数据存储管理方法及装置
CN108156264B (zh) * 2018-03-06 2021-01-26 爱普(福建)科技有限公司 一种面向双机冗余的数据同步方法
CN109246247A (zh) * 2018-10-31 2019-01-18 广州市百果园信息技术有限公司 通讯录同步方法、装置、计算机存储介质和终端
CN109582343A (zh) * 2018-11-16 2019-04-05 东软集团股份有限公司 数据增量更新方法、装置及存储介质
CN109871355B (zh) * 2019-01-23 2021-04-27 杭州宏杉科技股份有限公司 一种快照元数据存储方法、装置及设备、介质
CN111506449B (zh) * 2019-01-31 2024-02-20 青岛海尔空调电子有限公司 一种空调参数存储方法及装置和存储介质
CN110336883B (zh) * 2019-07-09 2022-01-18 深信服科技股份有限公司 镜像数据传输方法、装置、设备及计算机可读存储介质
CN111124763B (zh) * 2019-12-30 2022-11-01 安徽皖兴通信息技术有限公司 一种通讯设备启动配置数据备份同步方法
CN113064760B (zh) * 2021-04-06 2022-02-15 广州鼎甲计算机科技有限公司 数据库合成备份方法、装置、计算机设备和存储介质
CN115357429B (zh) * 2022-08-18 2023-06-27 广州鼎甲计算机科技有限公司 恢复数据文件的方法、装置和客户端

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102043687A (zh) * 2009-10-20 2011-05-04 杭州华三通信技术有限公司 实现数据快照的首写拷贝装置及控制方法
CN103019888A (zh) * 2012-12-21 2013-04-03 华为技术有限公司 备份方法与装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4104586B2 (ja) * 2004-09-30 2008-06-18 株式会社東芝 ファイル管理機能を備えたファイルシステム及びファイル管理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102043687A (zh) * 2009-10-20 2011-05-04 杭州华三通信技术有限公司 实现数据快照的首写拷贝装置及控制方法
CN103019888A (zh) * 2012-12-21 2013-04-03 华为技术有限公司 备份方法与装置

Also Published As

Publication number Publication date
CN104166606A (zh) 2014-11-26

Similar Documents

Publication Publication Date Title
CN104166606B (zh) 文件备份方法和主存储设备
CN105718217B (zh) 一种精简配置存储池数据一致性维护的方法及装置
CN105718548B (zh) 基于去重复存储系统中用于可扩展引用管理的系统和方法
EP3754515A1 (en) Reshard method and system in distributed storage system
CN104808951B (zh) 进行存储控制的方法和设备
CN106021016A (zh) 在快照之间的虚拟时间点访问
CN106201659B (zh) 一种虚拟机热迁移的方法及宿主机
CN104461685B (zh) 虚拟机处理方法和虚拟计算机系统
US9582433B2 (en) Disk array flushing method and disk array flushing apparatus
CN106062742A (zh) 用于改进快照性能的系统和方法
CN101945131B (zh) 一种基于存储虚拟化的数据迁移方法
WO2013163864A1 (zh) 数据持久化处理方法、装置及数据库系统
CN105740165A (zh) 用于管理统一存储系统的文件系统的方法和装置
CN104040512A (zh) 存储空间的处理方法、装置及非易失性计算机可读存储介质
CN106407224A (zh) 一种键值存储系统中文件压实的方法和装置
CN109582213A (zh) 数据重构方法及装置、数据存储系统
CN109164981A (zh) 磁盘管理方法、装置、存储介质和设备
CN109918318A (zh) Ssd元数据管理方法、装置、设备及可读存储介质
CN110188068A (zh) 一种保证文件系统数据一致性的卷级备份方法及装置
CN104216759A (zh) 一种生成虚拟机的逻辑磁盘的方法,及装置
CN107111534A (zh) 一种数据处理的方法和装置
CN105740091B (zh) 数据备份、恢复方法和设备
CN106201354A (zh) 数据存储方法及系统
CN103842954A (zh) 一种存储系统中的数据处理方法、装置和系统
WO2024207831A1 (zh) 一种智能ec处理方法与装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant