CN1746855A - 一种基于伪块设备的应用层透明容灾备份方法及系统 - Google Patents

Abstract

一种基于伪块设备的应用层透明的容灾备份系统和方法，在操作系统内核中实现伪块设备驱动程序；截获系统对块设备的写入的数据。在驱动程序中，通过网络发送增量数据给远程的备份服务器，备份服务器将数据写入磁盘。在向远程服务器提交块数据的同时，将数据提交给本地的真实块设备写入磁盘。在进入同步备份状态之前，执行本地服务器到远程备份服务器的同步操作；而后进入正常的同步备份状态。在本地灾难发生时，远程服务器切换为激活状态，代替本地服务器提供服务；修复本地的设备，在硬件修复后，执行从远程服务器到本地服务器的数据同步，恢复原来的数据。激活本地的服务器并提供服务器，将远程服务器切换为备份状态，恢复正常的工作状态。

Description

一种基于伪块设备的应用层透明容灾备份方法及系统

技术领域

本发明涉及一种基于伪块设备的应用层透明容灾备份方法及系统，属于计算机网络技术领域。

背景技术

容灾备份系统中最重要的部分是要保证数据的冗余性。而数据的冗余是要通过数据的复制和迁移来实现的。在本系统中通过伪块设备的方式实现了数据的复制和迁移。块设备是磁盘，磁带等存储设备在操作系统中的设备分类表现形式。通过实现块设备的接口形式，可以做到和操作系统原有的块设备接口的一致性，应用程序不需要修改就可以使用伪块设备。伪块设备和真实的块形成一对一的映射关系，表明对伪块设备的存取要提交到本地的哪个真实的物理块设备。

伪块设备是以可加载设备驱动程序的方式实现，保证通过应用层的配置程序可以配置并生成伪块设备的实例。

容灾技术的另一个关键部分是数据的恢复。在本系统中，通过以对称的方式实现本地系统的伪块驱动程序和远程系统的伪块驱动程序，配置生产服务器和备份服务器角色的方式来决定数据流的方向；在正常工作时，数据由生产服务器流向备份服务器；当需要数据的恢复时，倒换角色，即可实现备份服务器到原生产服务器的数据恢复。

发明内容

为了克服现有的技术的不足，本发明提供一种基于伪块设备的应用层透明容灾备份方法及系统。

本发明解决其技术问题所采用的技术方案是：

一种基于伪块设备的应用层透明容灾备份方法，包含以下的步骤：

步骤1、在操作系统内核中实现伪块设备驱动程序；截获系统对块设备的写入的数据；

步骤2、在驱动程序中，通过网络发送增量数据给远程的备份服务器，备份服务器将数据写入磁盘；

步骤3、在向远程服务器提交块数据的同时，将数据提交给本地的真实块设备写入磁盘；

步骤4、在进入同步备份状态之前，执行本地服务器到远程备份服务器的同步操作；而后进入正常的同步备份状态；

步骤5、在本地灾难发生时，远程服务器切换为激活状态，可以代替本地服务器提供服务；同时修复本地的设备，在硬件修复后，执行从远程服务器到本地服务器的数据同步，恢复原来的数据；

步骤6、激活本地的服务器并提供服务器，将远程服务器切换为备份状态，恢复正常的工作状态。

在驱动程序中，通过网络发送增量数据给远程的备份服务器，备份服务器将数据写入磁盘。

在向远程服务器提交块数据的同时，将数据提交给本地的真实块设备写入磁盘。

在进入同步备份状态之前，执行本地服务器到远程备份服务器的同步操作；而后进入正常的同步备份状态。

在本地灾难发生时，远程服务器切换为激活状态，可以代替本地服务器提供服务；同时修复本地的设备，在硬件修复后，执行从远程服务器到本地服务器的数据同步，恢复原来的数据。

一种基于伪块设备的应用层透明容灾备份系统，包括以下几个模块连接组成：

数据截获模块：用于截获本地的块设备的数据写入。

网络通讯管理模块：用来管理生产服务器和备份服务器之间的网络连接，监测、维护通讯的状态。

数据发送模块：用来向接收端发送需要同步的数据，并对数据的完整性进行管理和维护。

数据接收模块：用来接收同步过来的数据，并将通过数据写盘模块写入真实块设备，并对发送进行确认管理。

数据写盘模块：用来将同步数据写入磁盘设备，管理写入缓存，向数据接受模块通告写入成功确认。

应用层管理接口模块：  用来接收应用层发送来的控制信息和配置信息，并执行相应的控制动作和进行配置。

应用层配置管理程序：用来和用户交互，对系统进行控制和配置。

本发明具有以下优点：与具体的应用程序无关，对应用程序的影响较小。对系统的性能影响较小。与系统的结合点少，容易达到较好的稳定性。可以在卷的层次上实现备份，恢复，快照，同步及异步备份。配置简单。内存开销小。

本方法通过在内核空间实现伪块设备驱动程序，在操作系统内核进行数据的截获和传输而实现数据的同步迁移备份，做到应用层透明，通过切换角色来进行故障/灾难切换以及数据恢复。

附图说明

下面结合附图和实施例对本发明进一步说明。

图1是系统以伪块设备驱动程序的方式对数据进行截获和冗余备份，改图描述了伪块设备驱动程序在内核中的层次关系。

图2是写盘、缓存管理、数据发送多线索异步处理机制原理图。

图3是链路状态检测通道示意图。

图4是系统的Qos原理流程。

图5是位图映射技术原理图。

图6是系统模块连接方块图。

图中英文词汇表：

Qos流量的质量控制，指能够控制信息流的速度的技术和功能。

Buffer Cache操作系统中用于块设备的一种高速缓存机制。

Block指磁盘上的一个块，其容量大小为2K或者是512字节。

buffer cache queue用于文件系统的高速缓存队列。

ping_req在本文中指通讯协议中向对方发出的要求对方确认其存在的请求。

ping_ack在本文中指对对方的请求进行应答确认。

TCP/IP标准的计算机网络传输控制协议/互联网络协议。

mmap Unix/Linux操作系统的一个系统调用，用于文件内存映射。

fsync Unix/Linux操作系统的一个系统调用，用于同步文件缓存。

shm Unix/Linux操作系统的一个系统调用，用于管理共享内存。

write Unix/Linux操作系统的一个系统调用，用于文件写入。

exec Unix/Linux操作系统的一个系统调用，用于执行程序。

mkdir Unix/Linux操作系统的一个系统调用，用于创建目录。

Sync Unix/Linux操作系统的一个系统调用，用户同步缓存。

Fflush Unix/Linux操作系统的一个系统调用，用于清理文件缓存。

VM虚拟内存管理系统。

Sock网络套接字接口。

VFS虚拟文件系统。

Page Cache内存页缓存系统。

Dentry Cache操作系统文件系统的目录缓存。

Inode Cache操作系统文件系统的索引节点缓存。

Devfs设备文件系统。

Procfs进程文件系统。

Ext2，Ext3，FAT16操作系统的3种不同的文件系统。

Bdflush对用于块设备的高速缓存进行清理的内核线程。

Kupdate对用于块设备的高速缓存进行更新的内核线程。

Request queue针对块设备的请求队列。

LVM MD RAID逻辑卷管理驱动，多磁盘管理驱动，磁盘阵列管理驱动。

IDE一种用于PC的磁盘接口形式。

SCSI一种用于服务器和工作站的快速磁盘接口形式。

Block request queue块请求队列。

Buffer缓存。

具体实施方式：

实施例1；一种基于伪块设备的应用层透明容灾备份系统，包括以下几个模块连接组成：如图6所示；

数据截获模块：用于截获本地的块设备的数据写入。

网络通讯管理模块：用来管理生产服务器和备份服务器之间的网络连接，监测、维护通讯的状态。

数据发送模块：用来向接收端发送需要同步的数据，并对数据的完整性进行管理和维护。

数据接收模块：用来接收同步过来的数据，并将数据写入真实块设备，并对发送进行确认管理。

应用层管理接口模块：用来接收应用层发送来的控制信息和配置信息，并执行相应的控制动作和进行配置。

应用层配置管理程序：用来和用户交互，对系统进行控制和配置。

本系统工作在百兆或千兆网络的以太网络环境。

系统工作的方法：；

1、在操作系统中如附图1的层次实现伪块设备驱动程序：该图表示的是操作系统内核的层次结构，包括了系统调用，操作系统的虚拟内存管理，文件管理，设备管理等组成部分；由该图可以看出，本发明所实现的伪块设备的驱动程序所处的层次结构为块设备请求队列之下，在真实块设备驱动程序之上。

2、使用多个内核线程并行运行远程备份，避免写卷请求的延迟以及网络数据发送延迟，见附图2。为了避免磁盘读写线索，同步数据网络发送线索，发送数据确认线索的串行执行带来系统性能的下降，在容灾备份模块中通过使用三个不同的内核线程来完成这三种执行线索，在三个内核线程中使用Buffer Cache队列进行数据的缓冲和通讯。

在卷读写内核线程中，如果操作是读操作，则完成磁盘读取后，执行正常的Buffer Cache内存释放；如果是写卷操作，则标记该Block需要远程备份，然后进行卷写操作，但该线索不负责block的内存释放，而是将block放到待发送的队列缓存中，返回。

数据发送线程的任务是取等待备份发送的数据，通过网络发送到备份服务器端，标记数据为已经发送，然后将block放到等待发送确认的buffer cache queue中。

发送数据确认内核线程接收备份服务器发回的的确认命令，从buffer cachequeue中找到相应的block释放掉。

3、网络带宽自动检测与适应技术实现网络传输的可靠性。

网络带宽的自动适应技术包括网络带宽和连接状态的实时检测技术，实时备份允许带宽的限定，实时备份状态与异步备份状态的实时切换，网络连接的可用性保证等方面。下面分别阐述。

1).网络连接状态的实时检测技术；

首先在主数据器节点和备份服务器节点之间建立一个用于检测连路连接状态的专用通道；见图3。

主服务器和备份服务器上都运行有链路状态检测线程，对每个链路检测线程而言，根据预先配置的参数设置(如50ms)一个超时定时器，然后发送ping_req命令包到对方，如果在定时器超时以前收到对方发来的ping_ack命令包，则标记通讯链路的状态为正常，否则，如果定时器超时，则标记链路的状态为短开。

2).网络带宽的实时检测，速度限定，状态切换；见附图4。

首先，数据的传输是通过单独的内核线程进行的，该线程将以10ms为间隔计算当前的网络速度，如果当前的传输的速度低于系统的配置通讯下限，则标记网络状态为阻塞，并切换备份的状态为异步；如果当前传输的速度大于系统配置的上限，则对数据传输线程降低优先及或并让调度器调度其它任务执行直到传输的速度界于系统配置的上限和下限之间。

3).网络连接可用性维护；参见附图4。

由于网络连接可能由于线路的问题而断开，所以网络连接断开时需要通过重试直到连接可用在本系统中，网络连接的可用是由单独的线程来维护的，当网络连接断开后，连接状态的标记为断开，这时连接维护线程开始不停地尝试建立连接，当连接建立后，标记连接的状态为连通状态，这时数据传送线程开始传送数据测量速度。

位映像(bitmap)减少记录增量数据的内存占用；见附图5。

通过使用位图影射，可以达到使用非常少的内存占用来记录不能进行实时同步的磁盘块。位图映射的原理是：对一个卷的磁盘块来说，存在两种状态，同步的和未同步的，磁盘块的默认大小为4K，由于卷上磁盘块的顺序是线性的，可以用一个内存字节的一个bit来表示一个4K磁盘块的两种状态，从而建立一个内存位对应一个4K磁盘块的映射关系：这样记录1T的卷上的所有磁盘块的状态所需要的内存空间的大小为：如果磁盘块的大小为4k，1024*1024*1024K/4096/8＝32768K，即32M的内存空间，而实际上可能的需要记录状态而进行异步的数据不会超过卷的总量的10％，那么需要的内存空间＜4M.当备份模块从内存卸载时，该位图的内容保存在宿主文件系统的正规文件中，不需要配置专用的日志卷或分区。

该方法包含以下的步骤：

在操作系统内核中实现伪块设备驱动程序；截获系统对块设备的写入的数据。

在驱动程序中，通过网络发送增量数据给远程的备份服务器，备份服务器将数据写入磁盘。

在向远程服务器提交块数据的同时，将数据提交给本地的真实块设备写入磁盘。

在进入同步备份状态之前，执行本地服务器到远程备份服务器的同步操作；而后进入正常的同步备份状态。

在本地灾难发生时，远程服务器切换为激活状态，可以代替本地服务器提供服务；同时修复本地的设备，在硬件修复后，执行从远程服务器到本地服务器的数据同步，恢复原来的数据。

实施例2；一种基于伪块设备的应用层透明容灾备份方法，包含以下的步骤：

步骤1、以伪块设备驱动程序的方式实现该系统的数据截获和数据迁移；伪块设备和本地真实的块设备形成一对一映射关系，驱动程序加载于文件系统实现层次之下，在块设备的驱动程序之上；完成系统对块设备卷的写入的数据的截获；

步骤2、备份系统以应用层透明的方式工作，实现数据的本地和远程备份主机的双向提交数据；

步骤3、在本地主机和远程备份主机上安装相同的伪块设备驱动程序和应用层的控制程序；通过配置主机的角色，即生产服务器和备份服务器来确定数据的提交方向，即由生产服务器向备份服务器提交数据，当灾难发生时；备份服务器变更为生产服务器提供服务，修复的原生常服务器变更为备份服务器器，进行数据的恢复；在数据恢复后，再通过角色的切换而进入正常的工作状态；

步骤4、容灾备份系统能够在同步备份模式和异步备份模式之间自动切换，当网络带宽满足系统设置的要求时，系统默认工作在同步备份模式，即向本地提交数据的同时向远程提交数据；当网络带宽不满足时，或者网络连接断开时，以及在远程备份系统出现故障时，容灾备份系统切换为异步备份方式，系统仅向本地提交数据，但标记未向远程备份的数据，当网络带宽满足要求或者连接恢复时，系统自动同步未提交的数据，并切换为同步备份模式；

步骤5、容灾备份采用在TCP/IP之上构建了可靠的传输协议，自动监测通讯连路的状态，提供Qos服务。

Claims (6)

1.一种基于伪块设备的应用层透明容灾备份方法，其特征是：包含以下的步骤：

步骤1、在操作系统内核中运行伪块设备驱动程序；截获系统对块设备的写入的数据；

步骤2、在驱动程序中，通过网络发送增量数据给远程的备份服务器，备份服务器将数据写入磁盘；

步骤3、在向远程服务器提交块数据的同时，将数据提交给本地的真实块设备写入磁盘；

步骤4、在进入同步备份状态之前，执行本地服务器到远程备份服务器的同步操作；而后进入正常的同步备份状态；

步骤5、在本地灾难发生时，远程服务器切换为激活状态，可以代替本地服务器提供服务；同时修复本地的设备，在硬件修复后，执行从远程服务器到本地服务器的数据同步，恢复原来的数据；

步骤6、激活本地的服务器并提供服务器，将远程服务器切换为备份状态，恢复正常的工作状态。

2.根据权利要求1所述的一种基于伪块设备的应用层透明容灾备份方法，其特征是：

该方法最终以伪块设备的方式提供给操作系统用户空间，伪快设备的使用方法与操作系统的普通块设备相同；应用程序无需作任何修改即可以通过伪块设备实现具备容灾能力的存储。伪块设备依赖于真实的块设备。

3.根据权利要求1所述的一种基于伪块设备的应用层透明容灾备份方法，其特征是：

该方法在文件系统之下，快设备驱动程序之上的操作系统层次实现数据的截获，发送。并采用多线索异步处理的机制避免延迟的串行积累，具备高性能。

4.根据权利要求1所述的一种基于伪块设备的应用层透明容灾备份方法，其特征是：

该方法采用位图影射的方法避免使用大量的内存空间，该方法也采用了基于位图影射的持久文件的方式来记录不能及时同步的数据块；实现了无需日志文件和日志分区也不会丢失增量备份数据。

5.一种基于伪块设备的应用层透明容灾备份方法，其特征是：包含以下的步骤：

步骤1、以伪块设备驱动程序的方式实现该系统的数据截获和数据迁移；伪块设备和本地真实的块设备形成一对一映射关系，驱动程序加载于文件系统实现层次之下，在块设备的驱动程序之上；完成系统对块设备卷的写入的数据的截获；

步骤2、备份系统以应用层透明的方式工作，实现数据的本地和远程备份主机的双向提交数据；

步骤3、在本地主机和远程备份主机上安装相同的伪块设备驱动程序和应用层的控制程序；通过配置主机的角色，即生产服务器和备份服务器来确定数据的提交方向，即由生产服务器向备份服务器提交数据，当灾难发生时；备份服务器变更为生产服务器提供服务，修复的原生常服务器变更为备份服务器器，进行数据的恢复；在数据恢复后，再通过角色的切换而进入正常的工作状态；

步骤4、容灾备份系统能够在同步备份模式和异步备份模式之间自动切换，当网络带宽满足系统设置的要求时，系统默认工作在同步备份模式，即向本地提交数据的同时向远程提交数据；当网络带宽不满足时，或者网络连接断开时，以及在远程备份系统出现故障时，容灾备份系统切换为异步备份方式，系统仅向本地提交数据，但标记未向远程备份的数据，当网络带宽满足要求或者连接恢复时，系统自动同步未提交的数据，并切换为同步备份模式；

步骤5、容灾备份采用在TCP/IP之上构建了可靠的传输协议，自动监测通讯连路的状态，提供Qos服务。

6.一种基于伪块设备的应用层透明容灾备份系统，其特征是：包括以下几个模块连接组成：

数据截获模块：用于截获本地的块设备的数据写入；

网络通讯管理模块：用来管理生产服务器和备份服务器之间的网络连接，监测、维护通讯的状态；

数据发送模块：用来向接收端发送需要同步的数据，并对数据的完整性进行管理和维护；

数据接收模块：用来接收同步过来的数据，并将通过数据写盘模块写入真实块设备，并对发送进行确认管理；

数据写盘模块：用来将同步数据写入磁盘设备，管理写入缓存，向数据接受模块通告写入成功确认；

应用层管理接口模块：用来接收应用层发送来的控制信息和配置信息，并执行相应的控制动作和进行配置；

应用层配置管理程序：用来和用户交互，对系统进行控制和配置。

Images