CN112069127A - 一种CephFS文件系统的备份方法及系统 - Google Patents

Abstract

本发明公开了一种CephFS文件系统的备份方法及系统，包括：获取CephFS文件系统中的元数据存储池的快照；判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；每筛选出一个对象，则备份文件信息所对应的文件。该CephFS文件系统备份方法，可以快速的发现出需要备份的新文件，实现快速的增量备份。

Description

一种CephFS文件系统的备份方法及系统

技术领域

本发明涉及一种信息存储技术领域，特别涉及一种分布式文件系统的备份方法及系统。

背景技术

Ceph是一种分布式存储，同时支持块、文件和对象存储，其中CephFS就是Ceph的文件存储解决方案。作为一种分布式文件存储CephFS具有线性扩展、高可靠和高可用的能力，对外具有海量文件共享存储和共享访问的能力。对于CephFS文件系统中，采用类似NFS或者CIFS协议方式，多个客户端都可以同时挂载为一个目录下，然后访问该共享目录。

在某些数据安全性较高的场景，需要对CephFS文件系统进行备份。但是常规的数据备份方式需要遍历目录下的所有子目录和文件，当文件数据非常庞大时这种遍历和备份过程会很慢。尤其第一次备份完成后，后续进行增量备份，这时遍历目录和文件的过程仍然是非常耗时间。而且作为共享文件系统，存在多个客户端同时会创建和编辑不同的文件，这样也无法在某个客户端上采用Linux的inotify机制监测原始集群的文件更新情况。实际作为分布式存储，存储规模经常几百TB，PB级甚至EB级别，文件的个数达到几亿以上，甚至更高都很常见，这样目前常见的CephFS文件系统数据备份的过程都效率很低。

因此，如何提升CephFS系统的数据备份性能，实现快速的增量备份和文件遍历过程是本领域技术人员需要解决的一个问题。

发明内容

发明目的：提供一种CephFS文件系统的备份方法，可以快速的发现出需要备份的新文件，实现快速的增量备份。

技术方案：本发明所述的CephFS文件系统的备份方法，包括：

获取CephFS文件系统中的元数据存储池的快照；

判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

每筛选出一个对象，则备份文件信息所对应的文件。

在本发明备份方法的一个实施方案中，在筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

在本发明备份方法的一个实施方案中，在筛选具备前后两次快照内容不相同的对象时：

若前后两次快照内容相同，则不做任何操作，跳过该对象；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

在本发明备份方法的一个实施方案中，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件。

本发明还提供了一种CephFS文件系统的备份系统，包括：

主备份模块，用于获取CephFS文件系统中的元数据存储池的快照，并判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

从备份模块，用于在主备份模块每筛选出一个对象后，对文件信息所对应的文件进行备份操作。

在本发明备份系统的一个实施方案中，在主备份模块筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

在本发明备份系统的一个实施方案中，在筛选具备前后两次快照内容不相同的对象时：

若前后两次快照内容相同，则不做任何操作，跳过该对象；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

在本发明备份系统的一个实施方案中，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件。

在本发明备份系统的一个实施方案中，主备份模块和从备份模块分设于主备份客户端和从备份客户端中；主备份客户端与从备份客户端通过通信网络远程通信；

主备份客户端在主备份模块每筛选出一个对象后，通过通信网络将文件及其保存位置发送至从备份客户端的指定网络端口；

从备份模块实时监听备份客户端的指定网络端口，并接收指定网络端口的数据，再对接收的数据进行解析，以获得文件及其保存位置。

在本发明备份系统的一个实施方案中，主备份模块和从备份模块共设于备份客户端中；主备份模块每筛选出一个对象后，根据找到文件信息所对应的文件，再由从备份模块直接复制文件进行备份。

本发明与现有技术相比，其有益效果是：利用本发明实施的CephFS文件系统备份方法，可以快速的实现增量备份；由于每个CDentry只有400字节，CInode也只有1400字节，所以一个4M的对象可以保存一定规模的CDentry和CInode，这样即使有海量的文件保存在CephFS共享目录下，但是元数据存储池中对象的数目比实际文件的数目可以小了好几个数据级，因此遍历元数据存储池中对象的差异性比遍历挂载点下的目录和文件快很多。

附图说明

图1为本发明的方法流程图；

图2为本发明的系统框架示意图。

具体实施方式

下面结合附图对本发明技术方案进行详细说明，但是本发明的保护范围不局限于所述实施例。

每个CephFS系统集群中一般由元数据存储池和数据存储池组合而成，其中元数据存储池保存分布式文件系统中的元数据和目录结构信息，而数据存储池则保存文件内容的本身。当Linux系统挂载CephFS文件系统时，Ceph的MDS服务解析元数据存储池，把相关数据解析为Linux VFS需要的数据，供客户端进行mount挂载。从客户端挂载点的角度看，是一个海量共享的文件目录，但是从Ceph的底层来看，元数据存储池则是以一个个对象文件的形式保存着集群中的目录和文件的元数据信息。每个Ceph对象文件默认4M大小，元数据存储池中的每个对象一般保存一部分的目录结构CDir，以及目录下的文件元数据CInode。CDir和CInode信息通过CDentry进行关联，类似VFS的dentry和inode信息。通过Ceph相关命令和接口可以获得存储池中每个对象的大小、最后修改时间和对象内容等数据。此外，Ceph支持对存储池做快照。快照是瞬间完成的，只有当快照之后的对象内容发送变化后，才会进行对象的实时复制。本发明的实施例1如下：

如图1所示，本发明公开的CephFS文件系统的备份方法，包括如下：

获取CephFS文件系统中的元数据存储池的快照，快照可以通过rados命令对某个存储池获取，CephFS文件系统由多个主机节点和硬盘组成的分布式文件系统，结合元数据存储池和数据存储池，对外提供可供客户端挂载的存储目录，满足文件读写需求；

判断元数据存储池是否仅有本次快照，若是，则表明这是首次备份，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，完成后结束本次备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

每筛选出一个对象，则备份文件信息所对应的文件。

作为本发明备份方法的一个实施例，在筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

作为本发明备份方法的一个实施例，在筛选具备前后两次快照内容不相同的对象时：

对象的前次快照可以通过rados命令或者相关API获得；

若前后两次快照内容相同，表明自上次备份完后，该对象上所指定的相关目录和文件都没有发现变化，则不做任何操作，跳过该对象，不需要备份该对象所指定的相关文件；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

作为本发明备份方法的一个实施例，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目，因为目录本身的名称或者相关信息并不需要备份；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件，并把该文件传输到从备份客户端，让从备份客户端对该文件备份，同时开始遍历和处理下一个CDentry条目，遍历完一个对象的所有CDentry条目后，完成对该对象的操作，然后访问下一个对象，遍历完所有元数据存储池中的对象后，则完成了本次增量备份操作。

作为本发明备份方法的一个实施例，在备份文件信息所对应的文件时：

根据文件信息确定文件的保存位置；

判断保存位置的上级目录是否完整，若完整，则将文件保存至对应的保存位置，若不完整，则创建相应的上级目录，再将文件保存至对应的保存位置。

如图2所示，本发明还提供了一种CephFS文件系统的备份系统，包括：

主备份模块，用于获取CephFS文件系统中的元数据存储池的快照，并判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

从备份模块，用于在主备份模块每筛选出一个对象后，对文件信息所对应的文件进行备份操作。

主备份模块在定时、或者指定时间、或是手动启动一次备份操作。

作为本发明备份系统的一个实施例，在主备份模块筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

作为本发明备份系统的一个实施例，在筛选具备前后两次快照内容不相同的对象时：

若前后两次快照内容相同，表明自上次备份完后，该对象上所指定的相关目录和文件都没有发现变化，则不做任何操作，跳过该对象，不需要备份该对象所指定的相关文件；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

作为本发明备份系统的一个实施例，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件，并把该文件传输到从备份客户端，让从备份客户端对该文件备份，同时开始遍历和处理下一个CDentry条目，遍历完一个对象的所有CDentry条目后，完成对该对象的操作，然后访问下一个对象，遍历完所有元数据存储池中的对象后，则完成了本次增量备份操作。

作为本发明备份系统的一个实施例，在从备份模块备份文件信息所对应的文件时：

根据文件信息确定文件的保存位置；

判断保存位置的上级目录是否完整，若完整，则将文件保存至对应的保存位置，若不完整，则创建相应的上级目录，再将文件保存至对应的保存位置。

作为本发明备份系统的一个实施例，还包括一个目的存储系统；从备份模块进行备份操作时，是根据文件信息将文件保存在目的存储系统对应的保存位置，目的存储系统是一个能够支撑对CephFS文件系统提供备份容量的存储空间系统，可以是一个磁盘阵列、本地目录、另外一个CephFS文件系统或者其它存储系统，只要能够满足备份的空间需要，并提供访问接口供其它应用读写。

作为本发明备份系统的一个实施例，主备份模块和从备份模块分设于主备份客户端和从备份客户端中；主备份客户端与从备份客户端通过通信网络远程通信；

主备份客户端在主备份模块每筛选出一个对象后，首先根据文件信息找到CephFS挂载目录下指定的文件，通过通信网络将文件及其保存位置发送至从备份客户端的指定网络端口，发送方式不限，可以是Socket通信，或者scp\ssh等命令的远程拷贝；

从备份模块实时监听备份客户端的指定网络端口，并接收指定网络端口的数据，再对接收的数据进行解析，以获得文件及其保存位置。

主备份客户端能够挂载CephFS文件系统到客户端所在的一个本地目录上，也能够直接访问CephFS后面的元数据存储池；从备份客户端能够通过目的存储系统的接口，对目的存储系统进行读写访问，并且接受主备份客户端传输过来的文件，然后把文件保存到目的存储系统中指定的位置。

作为本发明备份系统的一个实施例，主备份模块和从备份模块共设于备份客户端中；主备份模块每筛选出一个对象后，根据找到文件信息所对应的文件，再由从备份模块直接复制文件进行备份，这样能够在对CephFS中指定文件进行备份时，不是通过网络传输到从备份客户端，而是直接调用目的存储接口，把文件复制到目的存储系统中，就可以把主备份客户和从备份客户端合并。

利用本发明实施的CephFS文件系统备份方法，可以快速的实现增量备份。由于每个CDentry只有400字节，CInode也只有1400字节，所以一个4M的对象可以保存一定规模的CDentry和CInode。这样即使有海量的文件保存在CephFS共享目录下，但是元数据存储池中对象的数目比实际文件的数目可以小了好几个数据级。因此遍历元数据存储池中对象的差异性比遍历挂载点下的目录和文件快很多。其中的主备份客户端可以执行多种备份策略，比如每天定时备份，或者指定时间进行备份等，但是每次执行备份流程都可以通过本发明实现快速的增量备份。

CephFS文件系统由默认cephfs_metadata元数据存储池和cephfs_data数据存储池组成，对外提供给CephFS文件系统供客户端mount挂载，并进行文件的读写访问；主备份客户端即可以直接访问CephFS文件系统，比如访问mount命令挂载到自身的/mnt/cephfs目录下文件，还可以通过ceph的rados命令和相关API对cephfs_metadata元数据存储池做快照，访问相关的对象，并发送需要备份的文件内容和保存位置给从备份客户端；目的存储系统可以采用某个磁盘阵列，对于规模较大的存储需求，可以采用另外一个CephFS系统；备份客户端直接访问磁盘阵列或者用于备份的CephFS文件系统，并接受主备份客户端传输过来的文件，然后把文件保存到目的存储系统中对应指定的位置。

如上所述，尽管参照特定的优选实施例已经表示和表述了本发明，但其不得解释为对本发明自身的限制。在不脱离所附权利要求定义的本发明的精神和范围前提下，可对其在形式上和细节上作出各种变化。

Claims (10)

1.一种CephFS文件系统的备份方法，其特征在于，包括：

获取CephFS文件系统中的元数据存储池的快照；

判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

每筛选出一个对象，则备份文件信息所对应的文件。

2.根据权利要求1所述的CephFS文件系统的备份方法，其特征在于，在筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

3.根据权利要求1所述的CephFS文件系统的备份方法，其特征在于，在筛选具备前后两次快照内容不相同的对象时：

若前后两次快照内容相同，则不做任何操作，跳过该对象；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

4.根据权利要求1所述的CephFS文件系统的备份方法，其特征在于，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件。

5.一种CephFS文件系统的备份系统，其特征在于，包括：

主备份模块，用于获取CephFS文件系统中的元数据存储池的快照，并判断元数据存储池是否仅有本次快照，若是，则把CephFS挂载目录下的文件全部传输到从备份客户端进行全量备份，若不是，则遍历访问元数据存储池内的所有对象，筛选出同时具备包含CDentry条目、前后两次快照内容不相同以及CDentry条目指向和描述的是一个文件信息的对象；

从备份模块，用于在主备份模块每筛选出一个对象后，对文件信息所对应的文件进行备份操作。

6.根据权利要求5所述的CephFS文件系统的备份系统，其特征在于，在主备份模块筛选具备包含CDentry条目的对象时：

遍历访问元数据存储池内的每个对象，解析每个对象的内容，若该对象的内容不包含任何CDentry条目，则不做任何操作，跳过该对象；

若该对象的内容中包含有CDentry条目，则进一步对比该对象的前后两次快照的内容是否相同。

7.根据权利要求5所述的CephFS文件系统的备份系统，其特征在于，在筛选具备前后两次快照内容不相同的对象时：

若前后两次快照内容相同，则不做任何操作，跳过该对象；

若前后两次快照内容不相同，则解析并遍历该对象的所有CDentry条目，进一步判断CDentry条目指向和描述的是否是一个文件信息。

8.根据权利要求5所述的CephFS文件系统的备份系统，其特征在于，在筛选具备CDentry条目指向和描述的是一个文件信息的对象时：

若某个CDentry条目指向和描述的是一个目录信息，则跳过该CDentry条目；

若某个CDentry条目指向和描述的是一个文件信息，则根据文件信息在CephFS挂载点目录下找到该文件。

9.根据权利要求5所述的CephFS文件系统的备份系统，其特征在于，主备份模块和从备份模块分设于主备份客户端和从备份客户端中；主备份客户端与从备份客户端通过通信网络远程通信；

主备份客户端在主备份模块每筛选出一个对象后，通过通信网络将文件及其保存位置发送至从备份客户端的指定网络端口；

从备份模块实时监听备份客户端的指定网络端口，并接收指定网络端口的数据，再对接收的数据进行解析，以获得文件及其保存位置。

10.根据权利要求5所述的CephFS文件系统的备份系统，其特征在于，主备份模块和从备份模块共设于备份客户端中；主备份模块每筛选出一个对象后，根据文件信息找到所对应的文件，再由从备份模块直接复制文件进行备份。

Images