CN107291579A - 一种基于静态子树分区的元数据集群文件快照方法 - Google Patents

一种基于静态子树分区的元数据集群文件快照方法 Download PDF

Info

Publication number
CN107291579A
CN107291579A CN201710542502.0A CN201710542502A CN107291579A CN 107291579 A CN107291579 A CN 107291579A CN 201710542502 A CN201710542502 A CN 201710542502A CN 107291579 A CN107291579 A CN 107291579A
Authority
CN
China
Prior art keywords
snapshot
mds
metadata
catalogue
inode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710542502.0A
Other languages
English (en)
Other versions
CN107291579B (zh
Inventor
罗浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengzhou Yunhai Information Technology Co Ltd
Original Assignee
Zhengzhou Yunhai Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhengzhou Yunhai Information Technology Co Ltd filed Critical Zhengzhou Yunhai Information Technology Co Ltd
Priority to CN201710542502.0A priority Critical patent/CN107291579B/zh
Publication of CN107291579A publication Critical patent/CN107291579A/zh
Application granted granted Critical
Publication of CN107291579B publication Critical patent/CN107291579B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本技术方案提供了一种基于静态子树分区的元数据集群文件快照方法,静态子树分区的目录inode中添加有用于存储快照的所有元数据的结构体,方法包括:MDS接收客户端发送的快照操作请求信息;MDS解析请求信息,对静态子树分区的目录inode中的结构体进行处理,生成处理结果;MDS将处理结果返回至所述客户端;客户端基于接收到的处理结果更新客户端的快照元数据。本发明能够安全、可靠的基于静态子树分区的元数据集群进行数据的备份和恢复。

Description

一种基于静态子树分区的元数据集群文件快照方法
技术领域
本发明涉及数据处理技术领域,更具体地说,涉及一种基于静态子树分区的元数据集群文件快照方法。
背景技术
从大数据元年到“互联网+”,可以看到在每一天每一分钟里,数据都在被大量的创造出来。为了应对海量数据存储需求,目前国内外存储厂商大多采用分布式存储技术。对于业务超大规模部署(如PB级)、数据量集合增长的场景,分布式存储系统采用可扩展的系统结构,利用多台存储存储设备分担数据及元数据并发访问负荷,这样一来提高了系统的可靠性、可用性和存取效率。
静态子树分区功能就是在元数据集群功能的基础上,为了更好发挥元数据集群性能,由系统管理员或实施人员对文件系统整个目录进行子树划分,将不同的目录分配到不同的MDS上进行管理。因此,如何有效的基于静态子树分区的元数据集群进行数据的备份和恢复是一项亟待解决的问题。
发明内容
有鉴于此,本发明的目的在于提供一种基于静态子树分区的元数据集群文件快照方法,能够安全、可靠的基于静态子树分区的元数据集群进行数据的备份和恢复。
为实现上述目的,本发明提供如下技术方案:
一种基于静态子树分区的元数据集群文件快照方法,所述静态子树分区的目录inode中添加有用于存储快照的所有元数据的结构体,所述方法包括:
MDS接收客户端发送的快照操作请求信息;
所述MDS解析所述请求信息,对所述静态子树分区的目录inode中的结构体进行处理,生成处理结果;
所述MDS将所述处理结果返回至所述客户端;
所述客户端基于接收到的所述处理结果更新所述客户端的快照元数据。
优选地,所述请求信息包括设置快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode中的结构体进行处理,生成处理结果包括:
所述MDS接收所述设置快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从所述目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述设置快照请求信息中解析出设置快照的元数据,并将所述元数据更新至所述用于存储快照的所有元数据的结构体中。
优选地,所述请求信息包括删除快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述删除快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从所述删除快照请求信息中解析出删除快照的元数据,并将所述元数据从所述用于存储快照的所有元数据的结构体中删除。
优选地,所述请求信息包括查询快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述查询快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述用于存储快照的所有元数据的结构体中获取快照的元数据。
优选地,所述方法还包括:
接收客户端发送至所述MDS的删除目录下所有数据请求;
所述MDS基于接收到的删除目录下所有数据的请求将目录下的所有数据删除;
所述MDS将清空数据成功的信息发送至客户端。
优选地,所述请求信息包括快照回滚请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述快照回滚请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述用于存储快照的所有元数据的结构体中获取快照的元数据;
将获取到的所述元数据更新至所述目录inode元数据中。
综上所述,本技术方案提供了一种基于静态子树分区的元数据集群文件快照方法,静态子树分区的目录inode中添加有用于存储快照的所有元数据的结构体,在进行文件快照时,首先MDS接收客户端发送的快照操作请求信息,MDS解析请求信息,对静态子树分区的目录inode中的结构体进行处理,生成处理结果,将处理结果返回至客户端;然后客户端基于接收到的处理结果更新客户端的快照元数据。实现了安全、可靠的基于静态子树分区的元数据集群进行数据的备份和恢复。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本发明公开的一种基于静态子树分区的元数据集群文件快照方法实施例1的流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
如图1所示,为本发明公开的一种基于静态子树分区的元数据集群文件快照方法的实施例1的流程图,其中,静态子树分区的目录inode中添加有用于存储快照的所有元数据的结构体,例如,snaprealm结构体;所述方法可以包括以下步骤:
S101、MDS接收客户端发送的快照操作请求信息;
S102、MDS解析请求信息,对静态子树分区的目录inode中的结构体进行处理,生成处理结果;
S103、MDS将处理结果返回至客户端;
S104、客户端基于接收到的处理结果更新客户端的快照元数据。
在上述步骤中,当需要对集群文件进行快照时,首先静态子树分区的目录inode中添加结构体,用于存储快照的所有元数据,其中添加的结构体可以为snaprealm结构体。添加的结构体包括快照对应目录的上下级结构关系、目录下所有的快照ID、父子目录的快照ID等。
然后当客户端发送快照操作请求给MDS后,MDS在接收到请求后解析出请求信息,并对目录inode中的snaprealm结构体进行处理,然后将处理结果返回给客户端,客户端接收到响应消息后,根据响应消息更新客户端的快照元数据,完成整个的快照操作。
综上所述,在上述实施例中,在进行文件快照时,首先MDS接收客户端发送的快照操作请求信息,MDS解析请求信息,对静态子树分区的目录inode中的结构体进行处理,生成处理结果,将处理结果返回至客户端;然后客户端基于接收到的处理结果更新客户端的快照元数据。实现了安全、可靠的基于静态子树分区的元数据集群进行数据的备份和恢复。
具体的,在上述实施例中客户端发送的快照操作请求可以包括:设置快照请求、删除快照请求、查询快照请求和快照回滚请求等。
当客户端发送的快照操作请求为设置快照请求时,MDS接收到设置快照请求后,首先获取目录inode,并判断当前的MDS是否为目录inode的主本,当当前的MDS不是目录inode的主本时,则通知目录inode的主本MDS进行处理,当当前的MDS为目录inode的主本时,则从目录inode中获取snaprealm结构体,从MDS接收到的请求中解析出设置快照的元数据,并将其更新到snaprealm结构体中,最后通知客户端更新快照目录结构。
当客户端发送的快照操作请求为删除快照请求时,MDS接收到删除快照请求后,首先获取目录inode,并判断当前的MDS是否为目录inode的主本,当当前的MDS不是目录inode的主本时,则通知目录inode的主本MDS进行处理,当当前的MDS为目录inode的主本时,则从目录inode中获取snaprealm结构体,从MDS接收到的请求中解析出删除快照的元数据,并将其从snaprealm结构体中删除,最后通知客户端更新快照目录结构。
当客户端发送的快照操作请求为查询快照请求时,MDS接收到查询快照请求后,首先获取目录inode,并判断当前的MDS是否为目录inode的主本,当当前的MDS不是目录inode的主本时,则通知目录inode的主本MDS进行处理,当当前的MDS为目录inode的主本时,则从目录inode中获取snaprealm结构体,从snaprealm结构体中获取快照的元数据,将这些元数据随响应消息返回给客户端,客户端进行显示。
当客户端发送的快照操作请求为快照回滚请求时,客户端首先发送给MDS删除目录下所有数据的请求,MDS接收到消息后删除目录下的所有元数据,并通知客户端清空数据成功。然后,客户端发送快照回滚请求,MDS接收到快照回滚请求后,首先获取目录inode,并判断当前的MDS是否为目录inode的主本,当当前的MDS不是目录inode的主本时,则通知目录inode的主本MDS进行处理,当当前的MDS为目录inode的主本时,则从目录inode中获取snaprealm结构体,从snaprealm结构体中获取快照的元数据,将快照的元数据更新到目录inode元数据中,并通知客户端更新目录结构。
综上所述,本发明采用静态子树分区上的文件快照功能能够对数据进行快速的备份/恢复,快照可以迅速建立,并可用作传统备份和归档的数据源,所以快照可以缩小或消除备份窗口;基于磁盘的快照使存储设备有灵活和频繁的恢复点,可以通过不同时间点的快照尽快恢复数据;用户经常需要执行对数据的辅助操作,如归档之间的审计、报告或升级测试、数据挖掘等等,这些操作在生产系统上进行容易影响业务系统或代价太高,快照为这些操作提供一份接近实况数据的拷贝,用以给辅助操作的系统使用,即保护生产系统又重新定义了备份数据的用途。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (6)

1.一种基于静态子树分区的元数据集群文件快照方法,其特征在于,所述静态子树分区的目录inode中添加有用于存储快照的所有元数据的结构体,所述方法包括:
MDS接收客户端发送的快照操作请求信息;
所述MDS解析所述请求信息,对所述静态子树分区的目录inode中的结构体进行处理,生成处理结果;
所述MDS将所述处理结果返回至所述客户端;
所述客户端基于接收到的所述处理结果更新所述客户端的快照元数据。
2.根据权利要求1所述的方法,其特征在于,所述请求信息包括设置快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode中的结构体进行处理,生成处理结果包括:
所述MDS接收所述设置快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从所述目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述设置快照请求信息中解析出设置快照的元数据,并将所述元数据更新至所述用于存储快照的所有元数据的结构体中。
3.根据权利要求1所述的方法,其特征在于,所述请求信息包括删除快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述删除快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从所述删除快照请求信息中解析出删除快照的元数据,并将所述元数据从所述用于存储快照的所有元数据的结构体中删除。
4.根据权利要求1所述的方法,其特征在于,所述请求信息包括查询快照请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述查询快照请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述用于存储快照的所有元数据的结构体中获取快照的元数据。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收客户端发送至所述MDS的删除目录下所有数据请求;
所述MDS基于接收到的删除目录下所有数据的请求将目录下的所有数据删除;
所述MDS将清空数据成功的信息发送至客户端。
6.根据权利要求1所述的方法,其特征在于,所述请求信息包括快照回滚请求信息,所述MDS解析所述请求信息,对所述静态子树分区的目录inode元数据中的结构体进行处理,生成处理结果包括:
所述MDS接收所述快照回滚请求信息后,获取目录inode;
判断所述MDS是否为所述目录inode的主本,若否,则通知所述目录inode的主本MDS进行处理,若是,则:
从目录inode中获取所述用于存储快照的所有元数据的结构体;
从所述用于存储快照的所有元数据的结构体中获取快照的元数据;
将获取到的所述元数据更新至所述目录inode元数据中。
CN201710542502.0A 2017-07-05 2017-07-05 一种基于静态子树分区的元数据集群文件快照方法 Active CN107291579B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710542502.0A CN107291579B (zh) 2017-07-05 2017-07-05 一种基于静态子树分区的元数据集群文件快照方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710542502.0A CN107291579B (zh) 2017-07-05 2017-07-05 一种基于静态子树分区的元数据集群文件快照方法

Publications (2)

Publication Number Publication Date
CN107291579A true CN107291579A (zh) 2017-10-24
CN107291579B CN107291579B (zh) 2020-03-31

Family

ID=60100894

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710542502.0A Active CN107291579B (zh) 2017-07-05 2017-07-05 一种基于静态子树分区的元数据集群文件快照方法

Country Status (1)

Country Link
CN (1) CN107291579B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108829813A (zh) * 2018-06-06 2018-11-16 郑州云海信息技术有限公司 一种基于分布式存储系统的文件快照方法及系统
CN108848180A (zh) * 2018-06-27 2018-11-20 郑州云海信息技术有限公司 一种元数据同步方法、装置、设备及可读存储介质
CN113553308A (zh) * 2021-06-21 2021-10-26 深圳市证通云计算有限公司 一种基于CephFS分布式文件系统的多集群多活实现方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080104139A1 (en) * 2006-10-26 2008-05-01 Xia Xu Managing snapshots in storage systems
CN103678715A (zh) * 2013-12-31 2014-03-26 无锡城市云计算中心有限公司 一种分布式文件系统中支持快照的元数据信息管理方法
CN106055431A (zh) * 2016-05-30 2016-10-26 河海大学 基于快照在线回滚的数据备份与恢复的方法及装置
CN106326040A (zh) * 2016-08-27 2017-01-11 浪潮(北京)电子信息产业有限公司 一种快照元数据管理方法和装置
US9684659B1 (en) * 2007-10-31 2017-06-20 Emc Corporation Fine-grain policy-based snapshots

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080104139A1 (en) * 2006-10-26 2008-05-01 Xia Xu Managing snapshots in storage systems
US9684659B1 (en) * 2007-10-31 2017-06-20 Emc Corporation Fine-grain policy-based snapshots
CN103678715A (zh) * 2013-12-31 2014-03-26 无锡城市云计算中心有限公司 一种分布式文件系统中支持快照的元数据信息管理方法
CN106055431A (zh) * 2016-05-30 2016-10-26 河海大学 基于快照在线回滚的数据备份与恢复的方法及装置
CN106326040A (zh) * 2016-08-27 2017-01-11 浪潮(北京)电子信息产业有限公司 一种快照元数据管理方法和装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108829813A (zh) * 2018-06-06 2018-11-16 郑州云海信息技术有限公司 一种基于分布式存储系统的文件快照方法及系统
CN108848180A (zh) * 2018-06-27 2018-11-20 郑州云海信息技术有限公司 一种元数据同步方法、装置、设备及可读存储介质
CN113553308A (zh) * 2021-06-21 2021-10-26 深圳市证通云计算有限公司 一种基于CephFS分布式文件系统的多集群多活实现方法及系统

Also Published As

Publication number Publication date
CN107291579B (zh) 2020-03-31

Similar Documents

Publication Publication Date Title
US20200374346A1 (en) Method and system for displaying similar email messages based on message contents
US11243849B2 (en) Restoration of centralized data storage manager, such as data storage manager in a hierarchical data storage system
US20180322017A1 (en) Restoring partitioned database tables from backup
CN103473277B (zh) 文件系统的快照方法和装置
US20170228417A1 (en) Verification of database table partitions during backup
AU2013202553B2 (en) Information management of mobile device data
CN105677250B (zh) 对象存储系统中的对象数据的更新方法和更新装置
US8843439B2 (en) Computer product, server, and snapshot collection method
CN109857724B (zh) 基于区块链实现支持多种数据库的方法及设备
CN105897946A (zh) 一种访问地址的获取方法及系统
CN105930228A (zh) 数据备份方法及系统
CN102360410B (zh) 一种文件系统的用户操作发现方法和装置
CN104854582B (zh) 存储高效、更新优化的事务型全文索引视图维护的方法和系统
CN105912424A (zh) 一种基于云架构的终端程序快速备份及恢复方法
CN104519078A (zh) 实现云存储的方法与装置
CN107291579A (zh) 一种基于静态子树分区的元数据集群文件快照方法
CN104217174A (zh) 分布式文件安全存储系统及其存储方法
CN105635311A (zh) 一种云管理平台中资源池信息同步的方法
US7069270B1 (en) Automated method and mechanism for converting a single instance application to a multiple instance application
US20170357659A1 (en) Systems and methods for managing snapshots of a file system volume
CN107402870A (zh) 一种元数据服务器中日志段的处理方法及装置
CN102932476B (zh) 网络存储同步系统
CN106250501A (zh) 报表处理方法及报表系统
CN108829813A (zh) 一种基于分布式存储系统的文件快照方法及系统
CN103714059B (zh) 一种更新数据的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant