CN105373453A - 数据备份方法及系统 - Google Patents

Abstract

本发明实施例公开了一种数据备份方法及系统，建立若干个线程池，将属于同一个数据存储目录的数据分配给同一个线程池，即每个线程池负责一个目录的数据的备份，每个线程池中的线程负责目录中不同数据的备份，从而不需要频繁创建和回收线程，降低CPU资源的消耗，提高了数据备份性能。而且，采用多线程池进行数据备份，加大了并发备份数据分布的范围，降低了同时备份小文件集的可能性，从而增强了数据备份的稳定性。

Description

数据备份方法及系统

技术领域

本发明涉及数据处理技术领域，更具体地说，涉及一种数据备份方法及系统。

背景技术

为了防止计算机中的数据丢失或损坏，需要对计算机中的数据进行备份，以便在数据出现损坏或丢失的时候，可以通过备份的数据进行恢复。

当前的数据备份方案众多，主要方案有直接备份和多线程备份。直接备份方案简单，但备份性能差。多线程方案实现方式通常为：每个文件创建一个线程对该文件进行备份。多线程方案较直接备份方案备份性能有所提高。

发明人在实现本发明的过程中发现，目前的多线程备份方法中，文件数等于线程数，需要频繁创建和回收线程，消耗大量的CPU资源，备份性能仍然较低。

发明内容

本发明的目的是提供一种数据备份方法及系统，以提高备份性能。

为实现上述目的，本发明提供了如下技术方案：

一种数据备份方法，包括：

建立若干个线程池；

按数据存储目录获取待备份数据；

将从同一数据存储目录获取的待备份数据传输给所述若干个线程池中的同一个线程池；

线程池中的若干个线程用于对接收到数据进行备份。

上述方法，优选的，线程池对所接收到的数据进行数据备份的过程包括：

将所接收到的待备份数据按数据文件分配给不同的线程进行数据备份。

上述方法，优选的，还包括：

当第一线程池中的所有线程都处于繁忙状态时，若还有未备份的待备份数据，则将所述待备份数据加入到与所述第一线程池对应的队列中；所述第一线程池为所述若干个线程池中的任意一个线程池；

当所述第一线程池中有空闲线程时，从与所述第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

上述方法，优选的，所述按数据存储目录获取待备份数据基于脚本语言实现；线程池进行数据备份的过程基于java语言实现。

上述方法，优选的，所述脚本语言为：shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。

一种数据备份系统，包括：

建立模块，用于建立若干个线程池；

获取模块，用于按数据存储目录获取待备份数据；

传输模块，用于将从同一数据存储目录获取的待备份数据传输给所述若干个线程池中的同一个线程池；

备份模块，用于维护所述若干个线程池，线程池中的若干个线程用于对接收到数据进行备份。

上述系统，优选的，所述线程池具体用于，将所接收到的待备份数据按数据文件分配给不同的线程进行数据备份。

上述系统，优选的，还包括：

队列管理模块，用于当第一线程池中的所有线程都处于繁忙状态时，若还有未备份的待备份数据，则将所述待备份数据加入到与所述第一线程池对应的队列中；所述第一线程池为所述若干个线程池中的任意一个线程池；

读取模块，用于当所述第一线程池中有空闲线程时，从与所述第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

上述系统，优选的，所述获取模块基于脚本语言实现；所述备份模块基于java语言实现。

上述系统，优选的，所述脚本语言为：shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。

通过以上方案可知，本申请提供的一种数据备份方法及系统，建立若干个线程池，将属于同一个数据存储目录的数据分配给同一个线程池，即每个线程池负责一个目录的数据的备份，每个线程池中的线程负责目录中不同数据的备份，从而不需要频繁创建和回收线程，降低CPU资源的消耗，提高了数据备份性能。而且，采用多线程池进行数据备份，加大了并发备份数据分布的范围，降低了同时备份小文件集的可能性，从而增强了数据备份的稳定性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的数据备份方法的一种实现流程图；

图2为本申请实施例提供的数据备份方法的系统架构图的示例图；

图3为本申请实施例提供的数据备份系统的一种结构示意图。

说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的部分，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示的以外的顺序实施。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例提供的数据备份方法及系统可以用于数据备份服务器。该服务器可以是待备份数据所在的服务器，也就是源数据所在服务器。当然，本发明实施例中，数据备份服务器也可以是与源数据所在服务器相互独立的服务器。

请参阅图1，图1为本申请实施例提供的数据备份方法的一种实现流程图，可以包括：

步骤S11：建立若干个线程池；

步骤S12：按数据存储目录获取待备份数据；

可以预先由用户配置备份参数，该备份参数可以包括：待备份数据的源路径、备份数据的目的地址以及线程池的数目。待备份数据的源路径即为数据存储目录。可以根据配置参数中的线程池的数目建立线程池。其中，线程池的数目和每个线程池中线程的数量可以根据数据备份服务器的硬件配置确定。所配置的线程池的数量和每个线程池中线程的个数只要能保证数据备份服务器的数据处理速度达到预设要求即可。例如，对于一般的PC机(如，4G内存，4核或8核的CPU)而言，线程池数量可以为3个，每个线程池中线程的数量可以为10个，具体还可以根据PC机的实际运行情况进行调优。

可选的，在配置备份参数时，还可以设置备份过滤条件，从而可以按数据存储目录获取符合条件的待备份数据，也就是说，所配置的每个数据存储目录下只获取符合条件的数据，不符合条件的数据则不再获取。另外，若用户未设置备份过滤条件，则所配置的每个数据存储目录下的所有数据都获取。

本发明实施例中，步骤S11和步骤S12的具体执行顺序不做具体限定，可以先执行步骤S11，再执行步骤S12，或者，先执行步骤S12，再执行步骤S11，或者，步骤S11和步骤S12同时进行。

步骤S13：将从同一数据存储目录获取的待备份数据传输给所建立的若干个线程池中的同一个线程池；

线程池中的若干个线程用于对接收到的数据进行备份；

本发明实施例中，每个线程池由若干个线程组成。每个线程池中的线程数目固定。

本发明实施例中，将待备份数据按数据存储目录分配给线程池处理，其中，一个线程池分配一个数据存储目录下的数据，即每个线程池负责一个目录，不同的线程池对不同目录下的数据进行备份。

本发明实施例提供的数据备份方法，不需要事先知道数据文件的数目，也不需要将大文件进行划分。通过建立若干个线程池，将属于同一个数据存储目录的数据分配给同一个线程池，即每个线程池负责一个目录的数据的备份，每个线程池中的线程负责目录中不同数据的备份，从而不需要频繁创建和回收线程，降低CPU资源的消耗，提高了数据备份性能。而且，采用多线程池进行数据备份，加大了并发备份数据分布的范围，降低了同时备份小文件集的可能性，有效减少数据文件分布不均导致备份性能的不稳定性，从而增强了数据备份的稳定性。

可选的，线程池对所接收到的数据进行数据备份的一种实现过程可以包括：

将所接收到的待备份数据按照数据文件分配给不同的线程进行数据备份。也就是说，在线程池中，一个线程对一个数据文件中的数据进行备份，即一个线程负责一个数据文件，不同的线程负责不同的数据文件。

由于待备份的数据结构是按照一定的规则来存储的，逻辑结构上为一个数据存储目录代表着一类数据，将一个目录分配给一个线程池，每个线程池负责一个目录，每个线程池中的线程来负责目录中每个数据文件的备份，这样可以防止目录中数据文件分布不均造成备份速度的不稳定。

另外，这样做可以保证在按照逻辑存储数据备份的基础上，实现更高层次的并发，既能满足顺序备份的要求，也可以在数据备份过程遭受意外中断(如宕机或程序崩溃退出)后进行续传。具体的，本发明实施例提供的数据备份方法还可以包括，若出现宕机或程序崩溃退出等异常情况使得备份过程中断，只需重启备份程序即可，备份程序对需要备份的数据文件是否已经进行备份进行逐个判断，若数据文件已经备份在目的地址，且数据大小与源地址的该数据文件的数据大小相同，则不再对该数据文件进行备份，否则，对该数据文件进行备份。保证程序意外中断后，从中断处进行续传。

可选的，在对数据文件进行备份的过程中，还可以对数据文件进行监控，若该数据文件传输失败，则自动对该数据文件重传，若执行成功，则将传输该数据文件的线程释放回线程池，等待传输新的数据文件。

可选的，本发明实施例提供的数据备份方法还可以包括：

当第一线程池中的线程都处于繁忙状态时，若还有未备份的待备份数据，则将待备份数据加入到与第一线程池对应的队列中；第一线程池为所建立的若干个线程池中的任意一个线程池；

线程处于繁忙状态即线程正在进行数据传输。对于每个线程池而言，若该线程池中的所有线程均处于繁忙状态，但是还有待备份数据需要启用该线程池中的线程进行备份，则将该待备份数据加入到与该线程池对应的队列中。

当第一线程池中有空闲线程时，从与第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

当有线程备份完成后释放回线程池(即由繁忙状态转为空闲状态)时，再从该线程池对应的队列中读取属于同一数据文件的数据，由线程池中的空闲线程对读取的数据进行备份。

可选的，本发明实施例中，上述按数据存储目录获取待备份数据基于脚本语言实现；而线程池进行数据备份的过程基于java语言实现。

本发明实施例中，通过脚本语言实现线程池的分配和管理，通过java语言实现线程池中线程分配和管理。用脚本语言来实现控制数据目录的分配和过滤条件的设置，而不需要关注线程池中数据文件的细节。用java语言实现线程池中数据文件的传输，传输的单位是文件，一个文件分配一个线程，一个文件传输完毕后就将该线程释放回线程池，下一个文件等到空闲的线程再进行数据备份，而不必关心数据的逻辑存储结构，只需要逐个备份分配下来的数据文件即可。

可见，本发明实施例提供的数据备份方法，有效的划分了数据备份的层次，从而降低了程序的耦合度，简化了程序的管理，可以使程序具有更高的可扩展性和可维护性。

可选的，上述脚本语言可以为shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。

可选的，本发明实施例提供的数据备份方法的系统架构图的示例图如图2所示，其中，通过shell脚本实现待备份数据的读取和线程池的分配；在将数据传输到线程池后，通过java语言实现数据的备份传输。

与方法实施例相对应，本发明实施例还提供一种数据备份系统，本发明实施例提供的数据备份系统的一种结构示意图如图3所示，可以包括：

建立模块31，获取模块32，传输模块33和备份模块34；其中，

建立模块31用于建立若干个线程池；

获取模块32用于按数据存储目录获取待备份数据；

可以预先由用户配置备份参数，该备份参数可以包括：待备份数据的源路径、备份数据的目的地址以及线程池的数目。待备份数据的源路径即为数据存储目录。可以根据配置参数中的线程池的数目建立线程池。其中，线程池的数目和每个线程池中线程的数量可以根据数据备份服务器的硬件配置确定。所配置的线程池的数量和每个线程池中线程的个数只要能保证数据备份服务器的数据处理速度达到预设要求即可。例如，对于一般的PC机(如，4G内存，4核或8核的CPU)而言，线程池数量可以为3个，每个线程池中线程的数量可以为10个，具体还可以根据PC机的实际运行情况进行调优。

可选的，在配置备份参数时，还可以设置备份过滤条件，从而可以按数据存储目录获取符合条件的待备份数据，也就是说，所配置的每个数据存储目录下只获取符合条件的数据，不符合条件的数据则不再获取。另外，若用户未设置备份过滤条件，则所配置的每个数据存储目录下的所有数据都获取。

传输模块33用于将从同一数据存储目录获取的待备份数据传输给建立模块31所建立的若干个线程池中的同一个线程池；

备份模块34用于维护上述若干个线程池，线程池中的若干个线程用于对接收到数据进行备份。

本发明实施例中，每个线程池由若干个线程组成。每个线程池中的线程数目固定。

本发明实施例中，将待备份数据按数据存储目录分配给线程池处理，其中，一个线程池分配一个数据存储目录下的数据，即每个线程池负责一个目录，不同的线程池对不同目录下的数据进行备份。

本发明实施例提供的数据备份系统，不需要事先知道数据文件的数目，也不需要将大文件进行划分。通过建立若干个线程池，将属于同一个数据存储目录的数据分配给同一个线程池，即每个线程池负责一个目录的数据的备份，每个线程池中的线程负责目录中不同数据的备份，从而不需要频繁创建和回收线程，降低CPU资源的消耗，提高了数据备份性能。而且，采用多线程池进行数据备份，加大了并发备份数据分布的范围，降低了同时备份小文件集的可能性，有效减少数据文件分布不均导致备份性能的不稳定性，从而增强了数据备份的稳定性。

可选的，线程池具体可以用于，将所接收到的待备份数据按数据文件分配给不同的线程进行数据备份。

也就是说，在线程池中，一个线程对一个数据文件中的数据进行备份，即一个线程池负责一个数据文件，不同的线程池负责不同的数据文件。

由于待备份的数据结构是按照一定的规则来存储的，逻辑结构上为一个数据存储目录代表着一类数据，将一个目录分配给一个线程池，每个线程池负责一个目录，每个线程池中的线程来负责目录中每个数据文件的备份，这样可以防止目录中数据文件分布不均造成备份速度的不稳定。

另外，这样做可以保证在按照逻辑存储数据备份的基础上，实现更高层次的并发，既能满足顺序备份的要求，也可以在数据备份过程遭受意外中断(如宕机或程序崩溃退出)后进行续传。具体的，本发明实施例提供的数据备份方法还可以包括，若出现宕机或程序崩溃退出等异常情况使得备份过程中断，只需重启备份程序即可，备份程序对需要备份的数据文件是否已经进行备份进行逐个判断，若数据文件已经备份在目的地址，且数据大小与源地址的该数据文件的数据大小相同，则不再对该数据文件进行备份，否则，对该数据文件进行备份。保证程序意外中断后，从中断处进行续传。

可选的，线程池在对数据文件进行备份的过程中，还可以对数据文件进行监控，若该数据文件传输失败，则自动对该数据文件重传，若执行成功，则将传输该数据文件的线程释放回线程池，等待传输新的数据文件。

可选的，本发明实施例提供的数据备份系统还可以包括：

队列管理模块，用于当第一线程池中的所有线程都处于繁忙状态时，若还有未备份的待备份数据，则将待备份数据加入到与第一线程池对应的队列中；

线程处于繁忙状态即线程正在进行数据传输。对于每个线程池而言，若该线程池中的所有线程均处于繁忙状态，但是还有待备份数据需要启用该线程池中的线程进行备份，则将该待备份数据加入到与该线程池对应的队列中。

读取模块，用于当第一线程池中有空闲线程时，从与第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

当有线程备份完成后释放回线程池(即由繁忙状态转为空闲状态)时，再从该线程池对应的队列中读取属于同一数据文件的数据，由线程池中的空闲线程对读取的数据进行备份。

可选的，获取模块32基于脚本语言实现；备份模块34基于java语言实现。

本发明实施例中，通过脚本语言实现线程池的分配和管理，通过java语言实现线程池中线程分配和管理。用脚本语言来实现控制数据目录的分配和过滤条件的设置，而不需要关注线程池中数据文件的细节。用java语言实现线程池中数据文件的传输，传输的单位是文件，一个文件分配一个线程，一个文件传输完毕后就将该线程释放回线程池，下一个文件等到空闲的线程在进行数据备份，而不必关心数据的逻辑存储结构，只需要逐个备份分配下来的数据文件即可。

可见，本发明实施例提供的数据备份方法，有效的划分了数据备份的层次，从而降低了程序的耦合度，简化了程序的管理，可以使程序具有更高的可扩展性和可维护性。

可选的，上述脚本语言可以为shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种数据备份方法，其特征在于，包括：

建立若干个线程池；

按数据存储目录获取待备份数据；

将从同一数据存储目录获取的待备份数据传输给所述若干个线程池中的同一个线程池；

线程池中的若干个线程用于对接收到数据进行备份。

2.根据权利要求1所述的方法，其特征在于，线程池对所接收到的数据进行数据备份的过程包括：

将所接收到的待备份数据按数据文件分配给不同的线程进行数据备份。

3.根据权利要求2所述的方法，其特征在于，还包括：

当第一线程池中的所有线程都处于繁忙状态时，若还有未备份的待备份数据，则将所述待备份数据加入到与所述第一线程池对应的队列中；所述第一线程池为所述若干个线程池中的任意一个线程池；

当所述第一线程池中有空闲线程时，从与所述第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

4.根据权利要求1所述的方法，其特征在于，所述按数据存储目录获取待备份数据基于脚本语言实现；线程池进行数据备份的过程基于java语言实现。

5.根据权利要求4所述的方法，其特征在于，所述脚本语言为：shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。

6.一种数据备份系统，其特征在于，包括：

建立模块，用于建立若干个线程池；

获取模块，用于按数据存储目录获取待备份数据；

传输模块，用于将从同一数据存储目录获取的待备份数据传输给所述若干个线程池中的同一个线程池；

备份模块，用于维护所述若干个线程池，线程池中的若干个线程用于对接收到数据进行备份。

7.根据权利要求6所述的系统，其特征在于，所述线程池具体用于，将所接收到的待备份数据按数据文件分配给不同的线程进行数据备份。

8.根据权利要求7所述的系统，其特征在于，还包括：

队列管理模块，用于当第一线程池中的所有线程都处于繁忙状态时，若还有未备份的待备份数据，则将所述待备份数据加入到与所述第一线程池对应的队列中；所述第一线程池为所述若干个线程池中的任意一个线程池；

读取模块，用于当所述第一线程池中有空闲线程时，从与所述第一线程池对应的队列中读取一数据文件并分配给该空闲线程进行数据备份。

9.根据权利要求6所述的系统，其特征在于，所述获取模块基于脚本语言实现；所述备份模块基于java语言实现。

10.根据权利要求9所述的系统，其特征在于，所述脚本语言为：shell脚本语言，或者，Python脚本语言，或者，ruby脚本语言。