CN112035298A - 一种数据备份方法、装置、电子设备及存储介质 - Google Patents
一种数据备份方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112035298A CN112035298A CN202010949306.7A CN202010949306A CN112035298A CN 112035298 A CN112035298 A CN 112035298A CN 202010949306 A CN202010949306 A CN 202010949306A CN 112035298 A CN112035298 A CN 112035298A
- Authority
- CN
- China
- Prior art keywords
- data
- snapshot
- full
- backup
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1415—Saving, restoring, recovering or retrying at system level
- G06F11/1435—Saving, restoring, recovering or retrying at system level using file system or storage system metadata
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/128—Details of file system snapshots on the file-level, e.g. snapshot creation, administration, deletion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Quality & Reliability (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Retry When Errors Occur (AREA)
Abstract
本发明提供了一种数据备份方法、装置、电子设备及存储介质。所述方法,包括:周期性地生成目标系统内数据的数据快照;根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。从而取得了对存储系统线上数据的准实时冷备,且在冷备过程中对线上服务没有任何影响的有益效果。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据备份方法、装置、电子设备及存储介质。
背景技术
对于企业来说,数据的可用性和安全性尤为重要,所以线上存储系统通常都会采用实时冗余节点的方式来保证数据的高可用,这种实时冗余也可称之为热备。
当发生极端的灾难性事件时,比如线上所有数据节点磁盘全部损坏,或者业务人员写入了大量错误数据且无法撤回,这时热备数据就无法使用,所以对于存储系统来说,数据冷备也是必不可少的功能。对于一个具有线上热备冗余的存储系统,实现冷备的一种技术方案可以包括以下内容:停止其中一个线上数据节点的实时增量写入;将数据文件通过网络传输到用于冷备的设备;开启该线上节点的实时写入。
但是,直接传输原存储节点的数据文件,需要停止写入才能保证数据的一致性和正确性,而且通过网络传输数据文件可能会耗费几个小时甚至1天的时间,在这期间,该节点的线上服务会停止写操作,同样为了保证数据的正确性,也无法提供读服务,这会对线上其他节点造成较大的负载压力。而且,在该节点重新恢复写操作时,需要耗费大量的时间来追平线上的数据。其次,定时传输全量数据文件,无法做到数据实时备份,当发生灾难性事故时,数据最多只能恢复到上次做冷备的时间点。
发明内容
本发明实施例提供一种数据备份方法、装置、电子设备及存储介质,以解决线上数据备份过程中容易给其他节点造成较大的负载压力,且无法做到数据实时备份的问题。
为了解决上述技术问题,本发明是这样实现的:
第一方面,本发明实施例提供了一种数据备份方法,包括:
周期性地生成目标系统内数据的数据快照;
根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;
其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
可选地,所述周期性地生成目标系统内数据的数据快照的步骤,包括:
在每次生成数据快照时,在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
可选地,所述根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备的步骤,包括:
针对任一数据快照,将所述数据快照内的硬链接发送至所述目标设备,完成全量数据的备份。
可选地,所述获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备的步骤,包括:
获取与所述数据快照对应的日志文件,并检测所述日志文件,所述日志文件中包括所述目标系统的写入操作记录;
响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备。
可选地,所述响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备的步骤,包括:
将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。
可选地,所述日志文件包括binlog文件。
可选地,所述方法还包括:
在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据。
可选地,所述方法还包括:
响应于针对所述目标系统的数据恢复指令,从所述目标设置中获取所述目标设备的全量数据和增量数据;
根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。
第二方面,本发明实施例提供了一种数据备份装置,包括:
数据快照生成模块,用于周期性地生成目标系统内数据的数据快照;
全量数据备份模块,用于根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
增量数据备份模块,用于获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;
其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
可选地,所述数据快照生成模块,具体用于:在每次生成数据快照时,在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
可选地,所述全量数据备份模块,具体用于:针对任一数据快照,将所述数据快照内的硬链接发送至所述目标设备,完成全量数据的备份。
可选地,所述增量数据备份模块,包括:
日志文件获取子模块,用于获取与所述数据快照对应的日志文件,并检测所述日志文件,所述日志文件中包括所述目标系统的写入操作记录;
增量数据备份子模块,用于响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备。
可选地,所述增量数据备份子模块,具体用于:
将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。
可选地,所述日志文件包括binlog文件。
可选地,所述装置还包括:
历史备份数据删除模块,用于在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据。
可选地,所述装置还包括:
数据恢复模块,用于响应于针对所述目标系统的数据恢复指令,从所述目标设置中获取所述目标设备的全量数据和增量数据;
实例生成模块,用于根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。
第三方面,本发明实施例另外提供了一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如第一方面所述的数据备份方法的步骤。
第四方面,本发明实施例另外提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的数据备份方法的步骤。
在本发明实施例中,通过数据快照的方式进行全量数据冷备,保障了对线上服务的无影响,并同时使用写操作日志进行增量数据的冷备,保证了冷备数据的实时性。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例中的一种数据备份方法的步骤流程图;
图2是本发明实施例中的另一种数据备份方法的步骤流程图;
图3是本发明实施例中的一种针对WTableServer线上存储平台的数据备份过程示意图;
图4是本发明实施例中的一种数据备份装置的结构示意图;
图5是本发明实施例中的另一种数据备份装置的结构示意图;
图6是本发明实施例中的一种电子设备的硬件结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参照图1,示出了本发明实施例中一种数据备份方法的步骤流程图。
步骤110,周期性地生成目标系统内数据的数据快照;
步骤120,根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
步骤130,获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
针对分布式KV(Key-Value,键值)存储系统等任意一种存储系统而言,为了在不影响线上系统服务的前提下,进行准实时的数据冷备。在本发明实施例中,核心思想在于以下几点:需要采用一种不影响线上服务的方式,进行全量数据的冷备,同时为了保证冷备数据的实时性,需要同时进行增量数据的冷备。其中,全量数据就是表中所有的数据,增量数据是上次导出之后的新数据,在本发明实施例中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
在进行全量数据的冷备时,需要考虑到数据一致性。具体地,如果目标系统是线上系统,而由于线上的数据是在持续不断地变化中的,所以要确保全量数据能够做到整体一致。
在本发明实施例中,为了在进行全量备份时准确获知需要进行备份的数据,可以根据数据备份的周期,相应地周期性地生成目标系统内数据的数据快照,以根据每次生成的数据快照,从目标系统内获取与当前生成的数据快照对应的全部数据即为需要进行备份的全量数据。
其中,数据快照是数据存储的某一时刻的状态记录,在本发明实施例中,可以通过任何可用方式生成数据快照,对此本发明实施例不加以限定。例如,分布式存储系统的底层存储引擎需要支持在线快照生成。例如对于可嵌入式的支持持久化的key-value存储系统RocksDB,其原生支持checkpoint功能,所以RocksDB依靠该checkpoint功能可以生成一份整体一致的数据快照。checkpoint是一个全局的,提供异步快照机制,定期的对当前应用进行快照并存储到可靠存储上。
另外,进行数据备份的周期,也即连续两次生成数据快照之间的时间周期的时间长度可以根据需求进行自定义设置,对此本发明实施例不加以限定。例如,可以设置每隔一周针对目标系统进行一次数据备份,也即每隔一周生成目标系统内当前全部数据的数据快照。而且,在本发明实施例中,也可以设置仅针对目标系统进行一次数据备份,那么此时则可以仅需在数据备份时生成目标系统内数据的数据快照,无需周期性地生成目标系统内数据的数据快照,对此本发明实施例不加以限定。
具体地,如上述数据快照是数据存储的某一时刻的状态记录,也即每次生成目标系统的数据快照时,即可以得到目标系统内的数据存储在生成相应数据快照时刻的状态记录。因此,在每次生成数据快照之后,则可以进一步根据每次生成的所述数据快照,从目标系统内读取与相应数据快照对应的数据,即为当前需要备份的全量数据,进而可以将全量数据备份至目标设备。同时,由于数据量、网络传输速度的限制,全量数据冷备需要耗费一定时间才能完成,因此无法做到实时性,当灾难性事故发生时,数据最多只能恢复到上一次做冷备的时间点。所以增量数据冷备也是必不可少的。因此在进行确定需要备份的全量数据之后,为了保证数据备份过程的实时性和数据同步,则可以同时获取在所述数据快照之后所述目标系统的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备。其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
而且,在本发明实施例中,可以通过任何可用方式检测并获取目标系统的写入操作记录,对此本发明实施例不加以限定。而且,根据需求可以设置在每次检测到写入操作之后即将该写入操作对应的增量数据备份至目标设备,也可以在连接检测到N次写入操作之后将相应N次写入操作对应的增量数据备份至目标设备,或者也可以预设的时间单位为周期,每次将一个时间单位内检测到的写入操作对应的增量数据备份至目标设备。其中,N为正整数,且N的取值可以根据需求进行自定义设置,时间单位的时间长度也可以根据需求进行自定义设置,对此本发明实施例不加以限定。
此外,在本发明实施例中,可以通过任何可用设备进行数据备份,目标设备可以为任意一种可以用于数据备份的设备,对此本发明实施例不加以限定。例如,可以设置一相对于目标系统的廉价设备作为数据冷备的目标设备。而且,在本发明实施例中,可以通过任何可用方式将全量数据和增量数据传送至目标设备以备份,对此本发明实施例也不加以限定。例如,可以通过流式传输、rsync或者是写程序传输等方式将全量数据和增量数据传送至目标设备以备份。
参照图2,在本发明实施例中,所述步骤110进一步可以包括:在每次生成数据快照时,在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
一般来说,全量数据会占用磁盘的大量空间,如果在备份时再产生另一份全量数据,那么将占用2倍的空间,这会在实际使用时有很大的局限性。因此,在本发明实施例中,为了避免上述问题,可以采用创建硬链的方式,生成目标系统内数据的数据快照。具体地,在每次生成数据快照时,可以在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
在本发明实施例中,可以通过任何可用方式生成每个数据文件的硬链接,对此本发明实施例不加以限定。例如,对于RocksDB,可以通过checkpoint功能,当原始数据目录和备份数据目录在一个文件系统上时,将会采用创建硬链的方式,这个特性使得备份数据通过硬链接和原始数据共享同样的数据文件,因此不会对磁盘占用有明显对提升。
总之,如果存储系统的底层存储引擎并不能原生支持产生数据快照功能,那么系统开发人员需要实现上述不影响磁盘空间及在线服务的产生快照的功能。如果无法模仿创建硬链共享文件的方式生成数据快照,也可以使用流式生成数据同时传输到目标设备的方案。
参照图2,在本发明实施例中,所述步骤120进一步可以包括:针对任一数据快照,将所述数据快照内的硬链接发送至所述目标设备,完成全量数据的备份。
在基于硬链接的方式生成数据快照的情况下,为了避免在全量数据备份过程中占用较多存储空间,而且由于硬链接可以和原始数据共享同样的数据文件,因此可以直接将数据文件的硬链接备份至目标设备。具体地,在每次进行全量数据的备份时,则可以将当前的数据快照内的硬链接发送至所述目标设备,从而完成全量数据的备份。
例如,可以将作为数据快照的备份数据目录保存至目标系统的本地磁盘,也即原始数据目录所在的文件系统内的本地磁盘,进而可以通过rsync或者是写程序传输等方式将备份数据目录对应的硬链接作为全量数据传送至目标设备。
参照图2,在本发明实施例中,所述步骤130进一步可以包括:
步骤131,获取与所述数据快照对应的日志文件,并检测所述日志文件,所述日志文件中包括所述目标系统的写入操作记录;
步骤132,响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备。
在存储系统中,为了方便不同节点间进行增量数据的同步,会实时地以二进制的形式将所有写入操作记录到日志文件中,因此在本发明实施例中,可以基于用于记录目标系统的写入操作记录的日志文件获取增量数据并进行实时备份。
具体地,在每一次开启全量数据冷备的同时,可以同时记录与相应全量数据的数据快照相对应的日志文件,也即其中记录有在相应全量数据之后的写入操作记录的日志文件,而且在实际应用中,日志文件的存储空间可能是有限的,那么在已生成的日志文件的存储空间全部被占用之后,为了继续存储新的写入操作记录,则可以生成新的日志文件。那么在本发明实施例中,在获取数据快照对应的日志文件时,可以获取在数据快照之前生成的且其中可以记录在数据快照之后的写入操作记录的日志文件,也可以获取在数据快照之后生成的用于记录在数据快照之后的写入操作记录的日志文件。
响应于日志文件发生变化,具体可以包括已生成的日志文件中的数据变化、新日志文件的生成,也即在数据快照之前生成的且其中可以记录在数据快照之后的写入操作记录的日志文件发生变化,或者是生成新的日志文件,则可以将变化产生的新数据发送至所述目标设备。由于写入操作记录中包含写入操作的时间、写入操作对应的写入数据、写入路径等与写入操作相关的信息,因此可以根据导致变化的每一条写入操作记录获取写入数据,作为实时的增量数据,以及变化产生的新数据发送至所述目标设备。
可选地,在本发明实施例中,所述步骤132进一步可以包括:将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。
而且如上述,写入操作记录中包含写入操作的时间、写入操作对应的写入数据、写入路径等与写入操作相关的信息,也即根据日志文件中的写入操作记录可以获取增量数据,因此在本发明实施例中,为了快速完成增量数据的备份,可以直接将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。例如,通过上述的流失传输的方式将发生变化的日志文件发送至所述目标设备,等等。
可选地,在本发明实施例中,所述日志文件包括binlog文件。
对于部分存储系统而言,其中存储写入操作记录的日志文件被称为binlog文件。因此可以依靠binlog文件来进行增量数据的冷备,具体方案如下:在每一次开启全量数据冷备的同时,记录与全量数据的数据快照相对应的binlog序列号。在发送全量数据的同时,实时观察数据快照对应的binlog文件的变化,如果有变化,则将新写入的数据发送到用于冷备的目标设备。
而且在进行数据冷备时,可以将增量数据和全量数据分别存储到相关的目录,便于查找。例如,针对每一次的数据冷备,分别在目标设备中针对本次数据冷备生成一文件夹,其中包含用以存储全量数据的文件,和用于存储增量数据的文件,进而分别进行全量数据和增量数据的备份。当然,根据需求也可以将全量数据和增量数据备份至同一文件中,或者是将全量数据和增量数据分别拆分存储至多个不同文件,对此本发明实施例不加以限定。
如图3所示为一种针对WTable Server线上存储平台的数据备份过程示意图。其中包含有一个可嵌入式的支持持久化的key-value存储系统RocksDB,那么可以通过RocksDB的checkpoint功能生成其中每个数据文件的硬链接,作为数据快照并通过rsync或者写程序传输至冷备机器中作为备份的全量数据,相应地可以获取与之对应的且发生变化的binlog文件通过流式传输至冷备机器中作为备份的增量数据。
参照图2,在本发明实施例中,所述方法还可以包括:
步骤140,在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据。
如上述,在本发明实施例中,可以针对同一系统内的数据进行周期性备份,那么在每一次进行全量数据的备份时,可以将前一次数据备份至本次数据备份之间的增量数据作为全量数据进行重复备份,从而导致存储空间的浪费。
因此,在本发明实施例中,为了避免上述的重复备份导致存储空间的浪费,可以在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据,也即停止前一次的数据备份。具体地,可以在每次完成全量数据的备份的同时即删除目标设备内在相应全量数据之前备份的全量数据和增量数据,也可以在每次完成全量数据的备份的一段时间之后才删除目标设备内在相应全量数据之前备份的全量数据和增量数据,对此本发明实施例不加以限定。
可选地,在本发明实施例中,所述方法还可以包括:
步骤150,响应于针对所述目标系统的数据恢复指令,从所述目标设置中获取所述目标设备的全量数据和增量数据;
步骤160,根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。
当灾难发生时,比如线上节点全部宕机,可以根据下列步骤恢复数据:响应于针对所述目标系统的数据恢复指令,将之前备份的全量数据和增量数据统一传输到目标系统的新机器,并且在后续数据使用过程中,可以根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。以WTable为例,可以直接使用全量数据打开一数据应用实例,也即WTable实例,同时通过任何可用的binlog文件等日志文件的导入工具,用导入工具将备份的增量数据导入到打开的WTable实例中。
而且,在本发明实施例中,可以通过任何可用方式触发数据恢复指令,例如可以在线上节点全部宕机等灾难发生的同时自动触发针对所述目标系统的数据恢复指令,以从目标设备中恢复数据。
在本发明实施例中,以共享磁盘的数据快照的方式进行全量数据冷备,保障了对线上服务的无影响,并同时使用写操作日志进行增量数据的冷备,保证了冷备数据的实时性。实现了对分布式存储系统线上数据的准实时冷备,而且冷备过程中对线上服务没有任何影响。
参照图4,示出了本发明实施例中一种数据备份装置的结构示意图。
本发明实施例的数据备份装置包括:数据快照生成模块210、全量数据备份模块220和增量数据备份模块230。
下面分别详细介绍各模块的功能以及各模块之间的交互关系。
数据快照生成模块210,用于周期性地生成目标系统内数据的数据快照;
全量数据备份模块220,用于根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
增量数据备份模块230,用于获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
参照图5,在本发明实施例中,所述数据快照生成模块210,具体可以用于:在每次生成数据快照时,在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
参照图5,在本发明实施例中,所述全量数据备份模块220,具体可以用于:针对任一数据快照,将所述数据快照内的硬链接发送至所述目标设备,完成全量数据的备份。
参照图5,在本发明实施例中,所述增量数据备份模块230,可以包括:
日志文件获取子模块231,用于获取与所述数据快照对应的日志文件,并检测所述日志文件,所述日志文件中包括所述目标系统的写入操作记录;
增量数据备份子模块232,用于响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备。
可选地,所述增量数据备份子模块,具体可以用于:
将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。
可选地,所述日志文件包括binlog文件。
参照图5,在本发明实施例中,所述装置还可以包括:
历史备份数据删除模块240,用于在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据。
可选地,所述装置还可以包括:
数据恢复模块,用于响应于针对所述目标系统的数据恢复指令,从所述目标设置中获取所述目标设备的全量数据和增量数据;
实例生成模块,用于根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。
本发明实施例提供的数据备份装置能够实现图1至图2的方法实施例中实现的各个过程,为避免重复,这里不再赘述。
优选的,本发明实施例还提供了一种电子设备,包括:处理器,存储器,存储在存储器上并可在处理器上运行的计算机程序,该计算机程序被处理器执行时实现上述数据备份方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现上述数据备份方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
图6为实现本发明各个实施例的一种电子设备的硬件结构示意图。
该电子设备500包括但不限于:射频单元501、网络模块502、音频输出单元503、输入单元504、传感器505、显示单元506、用户输入单元507、接口单元508、存储器509、处理器510、以及电源511等部件。本领域技术人员可以理解,图6中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。在本发明实施例中,电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
应理解的是,本发明实施例中,射频单元501可用于收发信息或通话过程中,信号的接收和发送,具体的,将来自基站的下行数据接收后,给处理器510处理;另外,将上行的数据发送给基站。通常,射频单元501包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元501还可以通过无线通信系统与网络和其他设备通信。
电子设备通过网络模块502为用户提供了无线的宽带互联网访问,如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元503可以将射频单元501或网络模块502接收的或者在存储器509中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元503还可以提供与电子设备500执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元503包括扬声器、蜂鸣器以及受话器等。
输入单元504用于接收音频或视频信号。输入单元504可以包括图形处理器(Graphics Processing Unit,GPU)5041和麦克风5042,图形处理器5041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元506上。经图形处理器5041处理后的图像帧可以存储在存储器509(或其它存储介质)中或者经由射频单元501或网络模块502进行发送。麦克风5042可以接收声音,并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元501发送到移动通信基站的格式输出。
电子设备500还包括至少一种传感器505,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板5061的亮度,接近传感器可在电子设备500移动到耳边时,关闭显示面板5061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;传感器505还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等,在此不再赘述。
显示单元506用于显示由用户输入的信息或提供给用户的信息。显示单元506可包括显示面板5061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板5061。
用户输入单元507可用于接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元507包括触控面板5071以及其他输入设备5072。触控面板5071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板5071上或在触控面板5071附近的操作)。触控面板5071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器510,接收处理器510发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板5071。除了触控面板5071,用户输入单元507还可以包括其他输入设备5072。具体地,其他输入设备5072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
进一步的,触控面板5071可覆盖在显示面板5061上,当触控面板5071检测到在其上或附近的触摸操作后,传送给处理器510以确定触摸事件的类型,随后处理器510根据触摸事件的类型在显示面板5061上提供相应的视觉输出。虽然在图6中,触控面板5071与显示面板5061是作为两个独立的部件来实现电子设备的输入和输出功能,但是在某些实施例中,可以将触控面板5071与显示面板5061集成而实现电子设备的输入和输出功能,具体此处不做限定。
接口单元508为外部装置与电子设备500连接的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元508可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到电子设备500内的一个或多个元件或者可以用于在电子设备500和外部装置之间传输数据。
存储器509可用于存储软件程序以及各种数据。存储器509可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器509可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器510是电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器509内的软件程序和/或模块,以及调用存储在存储器509内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。处理器510可包括一个或多个处理单元;优选的,处理器510可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器510中。
电子设备500还可以包括给各个部件供电的电源511(比如电池),优选的,电源511可以通过电源管理系统与处理器510逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
另外,电子设备500包括一些未示出的功能模块,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本发明的保护之内。
本领域普通技术人员可以意识到,结合本发明实施例中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (11)
1.一种数据备份方法,其特征在于,包括:
周期性地生成目标系统内数据的数据快照;
根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;
其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
2.根据权利要求1所述的方法,其特征在于,所述周期性地生成目标系统内数据的数据快照的步骤,包括:
在每次生成数据快照时,在全量数据的原始数据目录所在的文件系统内,生成所述全量数据的备份数据目录,作为所述全量数据的数据快照,所述备份数据目录中包括所述全景数据中每个数据文件的硬链接。
3.根据权利要求2所述的方法,其特征在于,所述根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备的步骤,包括:
针对任一数据快照,将所述数据快照内的硬链接发送至所述目标设备,完成全量数据的备份。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备的步骤,包括:
获取与所述数据快照对应的日志文件,并检测所述日志文件,所述日志文件中包括所述目标系统的写入操作记录;
响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备。
5.根据权利要求4所述的方法,其特征在于,所述响应于所述日志文件发生变化,将所述变化产生的新数据发送至所述目标设备的步骤,包括:
将发生变化的日志文件发送至所述目标设备,以进行增量数据的备份。
6.根据权利要求4所述的方法,其特征在于,所述日志文件包括binlog文件。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在每次完成全量数据的备份之后,删除所述目标设备内在所述全量数据之前备份的全量数据和增量数据。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于针对所述目标系统的数据恢复指令,从所述目标设置中获取所述目标设备的全量数据和增量数据;
根据所述全量数据生成针对所述目标系统的数据应用实例,并将所述增量数据导入所述数据应用实例中。
9.一种数据备份装置,其特征在于,包括:
数据快照生成模块,用于周期性地生成目标系统内数据的数据快照;
全量数据备份模块,用于根据每次生成的所述数据快照,将所述数据快照对应的全量数据备份至目标设备;
增量数据备份模块,用于获取所述目标系统在所述数据快照之后的写入操作记录,并根据所述写入操作记录,将所述全量数据之后的增量数据备份至所述目标设备;
其中,所述全量数据为生成所述数据快照时,所述目标系统内包含的全部数据,所述增量数据为在生成所述数据快照之后,所述目标系统新写入的数据。
10.一种电子设备,其特征在于,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述的数据备份方法的步骤。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的数据备份方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010949306.7A CN112035298A (zh) | 2020-09-10 | 2020-09-10 | 一种数据备份方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010949306.7A CN112035298A (zh) | 2020-09-10 | 2020-09-10 | 一种数据备份方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112035298A true CN112035298A (zh) | 2020-12-04 |
Family
ID=73584053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010949306.7A Pending CN112035298A (zh) | 2020-09-10 | 2020-09-10 | 一种数据备份方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112035298A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112732679A (zh) * | 2021-01-20 | 2021-04-30 | 维沃移动通信有限公司 | 数据迁移方法、装置、电子设备及可读存储介质 |
CN112966046A (zh) * | 2021-03-03 | 2021-06-15 | 北京金山云网络技术有限公司 | 数据同步方法和装置、电子设备和存储介质 |
CN113360322A (zh) * | 2021-06-25 | 2021-09-07 | 上海上讯信息技术股份有限公司 | 一种基于备份系统恢复数据的方法及设备 |
CN113613063A (zh) * | 2021-07-16 | 2021-11-05 | 深圳市明源云科技有限公司 | 应用异常还原方法、设备、计算机程序产品及存储介质 |
CN115981574A (zh) * | 2023-03-10 | 2023-04-18 | 阿里巴巴(中国)有限公司 | 一种快照存储方法、系统、设备及存储介质 |
CN116701063A (zh) * | 2023-08-07 | 2023-09-05 | 北京大学 | 数联网数据语用内存状态数据的持久化方法、装置及系统 |
CN117421160A (zh) * | 2023-11-01 | 2024-01-19 | 广州鼎甲计算机科技有限公司 | 数据备份方法、装置、计算机设备和存储介质 |
-
2020
- 2020-09-10 CN CN202010949306.7A patent/CN112035298A/zh active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112732679A (zh) * | 2021-01-20 | 2021-04-30 | 维沃移动通信有限公司 | 数据迁移方法、装置、电子设备及可读存储介质 |
CN112966046A (zh) * | 2021-03-03 | 2021-06-15 | 北京金山云网络技术有限公司 | 数据同步方法和装置、电子设备和存储介质 |
CN112966046B (zh) * | 2021-03-03 | 2024-04-12 | 北京金山云网络技术有限公司 | 数据同步方法和装置、电子设备和存储介质 |
CN113360322A (zh) * | 2021-06-25 | 2021-09-07 | 上海上讯信息技术股份有限公司 | 一种基于备份系统恢复数据的方法及设备 |
CN113613063A (zh) * | 2021-07-16 | 2021-11-05 | 深圳市明源云科技有限公司 | 应用异常还原方法、设备、计算机程序产品及存储介质 |
CN115981574A (zh) * | 2023-03-10 | 2023-04-18 | 阿里巴巴(中国)有限公司 | 一种快照存储方法、系统、设备及存储介质 |
CN115981574B (zh) * | 2023-03-10 | 2023-08-04 | 阿里巴巴(中国)有限公司 | 一种快照存储方法、系统、设备及存储介质 |
CN116701063A (zh) * | 2023-08-07 | 2023-09-05 | 北京大学 | 数联网数据语用内存状态数据的持久化方法、装置及系统 |
CN116701063B (zh) * | 2023-08-07 | 2023-10-20 | 北京大学 | 数联网数据语用内存状态数据的持久化方法、装置及系统 |
CN117421160A (zh) * | 2023-11-01 | 2024-01-19 | 广州鼎甲计算机科技有限公司 | 数据备份方法、装置、计算机设备和存储介质 |
CN117421160B (zh) * | 2023-11-01 | 2024-04-30 | 广州鼎甲计算机科技有限公司 | 数据备份方法、装置、计算机设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112035298A (zh) | 一种数据备份方法、装置、电子设备及存储介质 | |
CN107357704B (zh) | 一种应用程序检测方法、终端及计算机可读存储介质 | |
CN107846352B (zh) | 一种信息显示方法、移动终端 | |
US20220086798A1 (en) | Notification message processing method and terminal | |
US11481357B2 (en) | Album display method, electronic device, and storage medium | |
CN109522278B (zh) | 一种文件存储方法及终端设备 | |
CN111381992B (zh) | 一种崩溃日志处理方法、装置、电子设备及存储介质 | |
CN112084747B (zh) | 一种资源管理方法、装置、电子设备及存储介质 | |
WO2021143669A1 (zh) | 一种获取配置信息的方法及电子设备 | |
CN112231144A (zh) | 一种数据处理方法、装置及电子设备 | |
CN107766222B (zh) | 黑屏检测方法、移动终端及计算机可读存储介质 | |
CN108989554B (zh) | 一种信息处理方法及终端 | |
CN108696642B (zh) | 整理图标的方法和移动终端 | |
CN107818036B (zh) | 黑屏检测方法、移动终端及计算机可读存储介质 | |
CN106230919B (zh) | 一种文件上传的方法和装置 | |
CN109871324B (zh) | 一种控件的操作方法和装置 | |
CN107896271B (zh) | 一种信息处理方法、装置及移动终端 | |
CN108228357B (zh) | 一种内存清理方法及移动终端 | |
CN110717133A (zh) | 一种页面更新方法、装置、终端设备及存储介质 | |
CN112433721B (zh) | 一种应用组件化处理方法、装置、电子设备及存储介质 | |
CN115657943A (zh) | 存储系统精简卷的数据处理方法、装置、设备及存储介质 | |
CN115098468A (zh) | 灵活的数据迁移方法、装置、存储介质及电子设备 | |
US11567822B2 (en) | Method of monitoring closed system, apparatus thereof and monitoring device | |
CN110795285A (zh) | 一种备份标记的显示方法和电子设备 | |
CN107766210B (zh) | 黑屏检测方法、移动终端及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |