CN106557383A - 一种数据恢复的方法及装置 - Google Patents

Abstract

本发明公开了一种数据恢复的方法及装置，涉及数据处理领域，解决了布隆过滤器发生崩溃时带来的内存数据丢失且无法恢复的问题。本发明的方法包括：初始化布隆过滤器；将布隆过滤器的内存数据进行临时备份得到临时备份数据；将临时备份数据刷写于硬盘上得到正式备份数据；当布隆过滤器发生崩溃时，将正式备份数据加载回内存中。本发明主要用于当布隆过滤器发生崩溃时对布隆过滤器的内存数据进行恢复。

Description

一种数据恢复的方法及装置

技术领域

本发明涉及数据处理领域，特别是涉及一种数据恢复的方法及装置。

背景技术

网络爬虫是一种可以自动下载网站数据的程序，它通过下载指定网站的所有链接来获取开发者需要的信息。在一些网站中可能有多个地方出现链接到同一个网页的情况，若网络爬虫重复爬取相同的链接不仅会导致处理资源的浪费，而且将重复的数据存储下来会导致数据结果的污染，因此网络爬虫需要将爬取过的网页链接记录下来，每次在存储网页链接时需要从存储数据中查看该网页链接是否出现过，但是通过这种方式避免重复存储数据时需要的存储空间将会是天文数字，往往难以满足。由此出现了布隆过滤器，布隆过滤器可以将数据映射到二进制向量数据段中并用极小的存储空间存储一个二进制向量数据段，并且可以迅速判断出待存储数据是否在布隆过滤器中出现过。由于布隆过滤器对过滤数据的性能要求很高，因此通常在内存中使用。

在使用布隆过滤器的过程中，发明人发现：基于布隆过滤器驻留内存的使用方式，当布隆过滤器在运行过程中发生崩溃或者服务器发生崩溃时，内存中的数据就会消失，使得布隆过滤器中存储的内容无法恢复。

发明内容

有鉴于此，本发明提出了一种数据恢复的方法及装置，主要目的在于解决布隆过滤器发生崩溃时带来的内存数据丢失且无法恢复的问题。

依据本发明的第一个方面，本发明提出了一种数据恢复的方法，包括：

初始化布隆过滤器；

将布隆过滤器的内存数据进行临时备份得到临时备份数据；

将临时备份数据刷写于硬盘上得到正式备份数据；

当布隆过滤器发生崩溃时，将正式备份数据加载回内存中。

依据本发明的第二个方面，本发明提出了一种数据恢复的装置，包括：

初始单元，用于初始化布隆过滤器；

备份单元，用于将布隆过滤器的内存数据进行临时备份得到临时备份数据；

刷写单元，用于将备份单元得到的临时备份数据刷写于硬盘上得到正式备份数据；

加载单元，用于当布隆过滤器发生崩溃时，将刷写单元得到的正式备份数据加载回内存中。

借由上述技术方案，本发明实施例提供的数据恢复的方法及装置，能够通过对布隆过滤器初始化，将所述布隆过滤器的内存数据进行临时备份得到临时备份数据，并将所述临时备份数据刷写于硬盘上得到正式备份数据，当所述布隆过滤器发生崩溃时，将所述正式备份数据加载回内存中。与现有技术中当布隆过滤器在运行过程中发生崩溃或者服务器发生崩溃时，内存中的数据就会消失，使得布隆过滤器中存储的内容无法恢复的缺陷相比，本发明能够在布隆过滤器发生崩溃时重新将硬盘上的布隆过滤器的备份数据加载回内存中继续使用，避免了布隆过滤器崩溃带来的记忆丢失问题。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了本发明实施例提供的一种数据恢复的方法的流程图；

图2示出了本发明实施例提供的一种数据恢复的装置的组成框图；

图3示出了本发明实施例提供的另一种数据恢复的装置的组成框图。

具体实施方式

下面将参照附图更加详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

布隆过滤器实际上是一个很长的二进制向量和一系列随机映射函数，可以用于检索一个元素是否在一个集合中。由于布隆过滤器对过滤数据的性能要求很高，因此通常在内存中使用，基于布隆过滤器驻留内存的使用方式，当布隆过滤器在运行过程中发生崩溃或者服务器发生崩溃时，内存中的数据就会消失，使得布隆过滤器中存储的内容无法恢复。

为了解决布隆过滤器发生崩溃时带来的内存数据丢失且无法恢复的问题，本发明实施例提供了一种数据恢复的方法，如图1所示，该方法包括：

101、初始化布隆过滤器。

由于布隆过滤器对过滤数据的性能要求很高，通常在内存中使用，并且布隆过滤器的存储会达到一个瓶颈，有时会需要多个布隆过滤器进行协同工作，此时需要每个布隆过滤器负责处理一部分数据。因此本发明实施例需要在步骤101中对布隆过滤器进行初始化，主要目的是为各个布隆过滤器分配相应的存储空间。

102、将布隆过滤器的内存数据进行临时备份得到临时备份数据。

虽然布隆过滤器占用内存空间小，但是其刷写到硬盘上的时间不可忽略，在布隆过滤器的内存数据刷写过程中，程序的崩溃导致刷写过程中断的几率较大，因此直接将布隆过滤器的内存数据刷写到硬盘上会存在较大的风险，导致布隆过滤器的内存数据损坏。为了避免上述情况的发生，本发明实施例在步骤102中需要将布隆过滤器的内存数据进行具有相当安全性的中转，即将布隆过滤器的内存数据进行临时备份得到临时备份数据。

103、将临时备份数据刷写于硬盘上得到正式备份数据。

当对布隆过滤器的内存数据完成临时备份后，需要执行步骤103将临时备份数据刷写于硬盘上得到正式备份数据，其刷写过程是对硬盘上原先的备份数据删除后进行替换，得到最新的正式备份数据。

104、当布隆过滤器发生崩溃时，将正式备份数据加载回内存中。

当通过上述步骤将布隆过滤器的内存数据备份到硬盘上后，若布隆过滤器发生崩溃，则可以读取硬盘上的正式备份数据并将其加载回内存中，从而恢复布隆过滤器的内存数据。

本发明实施例提供的数据恢复的方法，能够通过对布隆过滤器初始化，将所述布隆过滤器的内存数据进行临时备份得到临时备份数据，并将所述临时备份数据刷写于硬盘上得到正式备份数据，当所述布隆过滤器发生崩溃时，将所述正式备份数据加载回内存中。与现有技术中当布隆过滤器在运行过程中发生崩溃或者服务器发生崩溃时，内存中的数据就会消失，使得布隆过滤器中存储的内容无法恢复的缺陷相比，本发明能够在布隆过滤器发生崩溃时重新将硬盘上的布隆过滤器的备份数据加载回内存中继续使用，避免了布隆过滤器崩溃带来的记忆丢失问题。

通常在一个系统中会存在多个布隆过滤器协同工作的情况，每个布隆过滤器负责处理一部分数据。因此为了更好的对上述图1所示的方法进行理解，本发明实施例将以多个布隆过滤器协作的系统为例，针对图1中的各步骤进行详细说明。

在本发明实施例中，为了在备份数据的过程中多个布隆过滤器之间不会相互干扰，因此在初始化布隆过滤器时，不仅需要为每个布隆过滤器分配各自的内存空间，还需要对布隆过滤器进行有顺序的记录，即对布隆过滤器进行标记，赋予每个布隆过滤器各自的标识，用于记录布隆过滤器的顺序，以便在数据备份或恢复时将指定的布隆过滤器的内存数据备份或恢复至指定位置上。

为了避免直接将布隆过滤器的内存数据刷写到硬盘上所导致的布隆过滤器的内存数据损坏的风险，需要对布隆过滤器的内存数据进行临时备份。同时，由于布隆过滤器在后续运行的过程中还会插入新的数据，因此为了最大限度的备份布隆过滤器的内存数据，本发明实施例还可以定时对布隆过滤器的内存数据进行临时备份，即按照预设时间间隔对布隆过滤器的内存数据进行临时备份得到临时备份数据，以便能够定期对备份数据进行更新。在实际应用过程中，本发明实施例可以通过备份程序先将布隆过滤器的内存数据备份为一个临时备份文件存放于系统的临时文件夹中，此临时文件夹可以自定义进行清理或读取操作，便于后续能够快速对临时文件夹中的临时备份文件进行处理，同时当硬盘上的正式备份文件被损坏后可以从临时文件夹中对临时备份的布隆过滤器的内存数据进行读取。其中，临时备份文件在还没有被刷写到硬盘上时具有一个临时文件名，当被刷写到硬盘上得到正式备份文件后会更改文件名为正式备份文件名。

由于对布隆过滤器进行加载和备份均会占用线程并且比较耗时，如果同时进行会容易导致运行过程中出现错误，因此在将布隆过滤器的内存数据进行临时备份之前，或者在初始化多个布隆过滤器的过程中可以为每一个布隆过滤器设置互斥锁，从而保证在任一时刻只能有一个线程操作该布隆过滤器，如果要轮到待备份的布隆过滤器正在进行初始化时，备份程序会等待布隆过滤器初始化完毕后再进行内存数据的临时备份和刷新硬盘操作，从而避免初始化过程中发生备份机制而带来运行冲突。

当对布隆过滤器的内存数据完成临时备份得到临时备份数据后，可以将临时备份数据刷写到硬盘上得到正式备份数据，刷写过程就是用临时备份数据对硬盘上先前的正式备份数据进行替换的过程。具体的，先对硬盘上先前的正式备份数据进行删除；同时将对应的临时备份数据刷写于硬盘上的相应位置得到当前的正式备份数据。在刷写临时备份数据时可以按照预设类型的序列化对临时备份数据进行刷写，以达到将其长期保存在硬盘上的目的。例如，由于布隆过滤器实际上包含一个很长的二进制向量，因此本发明实施例可以对布隆过滤器的临时备份数据进行二进制(流)序列化，创建临时备份数据的精确的二进制副本，在二进制(流)序列化中临时备份数据被完整的保存在硬盘上。这里需要说明的是，序列化的本质是将一个对象转换成字节流以达到将其长期保存在内存、数据库或文件中的处理过程，序列化的主要目的是保存对象的状态以便以后需要的时候使用。因此，本发明实施例中使用的二进制(流)序列化只是一种可选的实施方式，实际情况下根据系统类型或业务需求等因素还可以使用诸如SOAP序列化、XML序列化、Json序列化等其他类型的序列化将临时备份数据进行刷写并保存。

当将布隆过滤器的临时备份数据刷写到硬盘上得到正式备份数据后，若布隆过滤器发生崩溃，则可以从硬盘上读取正式备份数据，并根据布隆过滤器的标识将读取的正式备份数据加载回内存中，从而恢复布隆过滤器的内存数据。此外，还会存在布隆过滤器的崩溃发生在对硬盘上先前的正式备份数据进行删除之后的情况，此时临时备份数据还没有全部刷写到硬盘上，只有部分临时备份数据被刷写到硬盘上得到正式备份数据。在这种情况下，对布隆过滤器的内存数据进行恢复时，会优先从硬盘上将已经被刷写得到的部分正式备份数据加载回内存中，当发现缺少某一正式备份数据时，会从临时备份数据中查找对应的临时备份数据并将其加载回内存中，从而使布隆过滤器的内存数据得到完全恢复。

本发明实施例通过对布隆过滤器进行标记从而实现对多个布隆过滤器的有序记录，使得多个布隆过滤器协同工作时能够有序备份，并且在多个布隆过滤器发生崩溃的情况下，能够根据各自的标记将相应布隆过滤器的备份数据恢复至指定位置上。此外，通过对多个布隆过滤器设置互斥锁，避免了数据备份、初始化、数据加载等多条线程对同一布隆过滤器进行操作所造成的运行冲突出错的问题。

作为对上述图1所示方法的实现，本发明实施例提供了一种数据恢复的装置，如图2所示，该装置包括：初始单元21、备份单元22、刷写单元23及加载单元24，其中，

初始单元21，用于初始化布隆过滤器；

备份单元22，用于将布隆过滤器的内存数据进行临时备份得到临时备份数据；

刷写单元23，用于将备份单元22得到的临时备份数据刷写于硬盘上得到正式备份数据；

加载单元24，用于当布隆过滤器发生崩溃时，将刷写单元23得到的正式备份数据加载回内存中。

进一步的，如图3所示，初始单元21包括：

标记模块211，用于对布隆过滤器进行标记，以便记录布隆过滤器的顺序；

分配模块212，用于为标记模块211标记后的布隆过滤器分配各自的内存空间。

进一步的，备份单元22用于按照预设时间间隔对布隆过滤器的内存数据进行临时备份得到临时备份数据。

进一步的，刷写单元23包括：

删除模块231，用于对硬盘上先前的正式备份数据进行删除；

刷写模块232，用于对临时备份数据进行预设类型的序列化并刷写于硬盘上得到当前的正式备份数据。

进一步的，加载单元24用于从硬盘上读取正式备份数据，并将读取的正式备份数据加载回内存中。

进一步的，加载单元24还用于当布隆过滤器在对硬盘上先前的正式备份数据进行删除之后发生崩溃时，优先从硬盘上将已刷写的正式备份数据加载回内存中；加载单元24还用于当硬盘上缺少某一正式备份数据时，从临时备份数据中寻找对应的临时备份数据并加载回内存中。

进一步的，该装置还包括：设置单元，设置单元用于为每一个布隆过滤器设置互斥锁，以便待备份布隆过滤器正在初始化时，备份程序在待备份布隆过滤器初始化完毕后再进行刷写硬盘操作。

本发明实施例提供的数据恢复的装置，能够通过对布隆过滤器初始化，将所述布隆过滤器的内存数据进行临时备份得到临时备份数据，并将所述临时备份数据刷写于硬盘上得到正式备份数据，当所述布隆过滤器发生崩溃时，将所述正式备份数据加载回内存中。与现有技术中当布隆过滤器在运行过程中发生崩溃或者服务器发生崩溃时，内存中的数据就会消失，使得布隆过滤器中存储的内容无法恢复的缺陷相比，本发明能够在布隆过滤器发生崩溃时重新将硬盘上的布隆过滤器的备份数据加载回内存中继续使用，避免了布隆过滤器崩溃带来的记忆丢失问题。

此外，本发明实施例通过对布隆过滤器进行标记从而实现对多个布隆过滤器的有序记录，使得多个布隆过滤器协同工作时能够有序备份，并且在多个布隆过滤器发生崩溃的情况下，能够根据各自的标记将相应布隆过滤器的备份数据恢复至指定位置上。同时，通过对多个布隆过滤器设置互斥锁，避免了数据备份、初始化、数据加载等多条线程对同一布隆过滤器进行操作所造成的运行冲突出错的问题。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

可以理解的是，上述方法及装置中的相关特征可以相互参考。另外，上述实施例中的“第一”、“第二”等是用于区分各实施例，而并不代表各实施例的优劣。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的发明名称(如确定网站内链接等级的装置)中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种数据恢复的方法，其特征在于，所述方法包括：

初始化布隆过滤器；

将所述布隆过滤器的内存数据进行临时备份得到临时备份数据；

将所述临时备份数据刷写于硬盘上得到正式备份数据；

当所述布隆过滤器发生崩溃时，将所述正式备份数据加载回内存中。

2.根据权利要求1所述的方法，其特征在于，所述初始化布隆过滤器，包括：

对所述布隆过滤器进行标记，以便记录所述布隆过滤器的顺序；

为标记后的布隆过滤器分配各自的内存空间。

3.根据权利要求1所述的方法，其特征在于，所述将所述布隆过滤器的内存数据进行临时备份得到临时备份数据，包括：

按照预设时间间隔对所述布隆过滤器的内存数据进行临时备份得到临时备份数据。

4.根据权利要求3所述的方法，其特征在于，所述将所述临时备份数据刷写于硬盘上得到正式备份数据，包括：

对硬盘上先前的正式备份数据进行删除；

对所述临时备份数据进行预设类型的序列化并刷写于硬盘上得到当前的正式备份数据。

5.根据权利要求1所述的方法，其特征在于，所述将所述正式备份数据加载回内存中，包括：

从硬盘上读取正式备份数据；

将读取的所述正式备份数据加载回内存中。

6.根据权利要求4所述的方法，其特征在于，若所述布隆过滤器在所述对硬盘上先前的正式备份数据进行删除之后发生崩溃，所述方法进一步包括：

优先从硬盘上将已刷写的正式备份数据加载回内存中；

若缺少某一正式备份数据，则从临时备份数据中寻找对应的临时备份数据并加载回内存中。

7.根据权利要求2所述的方法，其特征在于，在将所述布隆过滤器的内存数据进行临时备份得到临时备份数据之前，所述方法还包括：

为每一个布隆过滤器设置互斥锁，以便待备份布隆过滤器正在初始化时，备份程序在待备份布隆过滤器初始化完毕后再进行刷写硬盘操作。

8.一种数据恢复的装置，其特征在于，所述装置包括：

初始单元，用于初始化布隆过滤器；

备份单元，用于将所述布隆过滤器的内存数据进行临时备份得到临时备份数据；

刷写单元，用于将所述备份单元得到的所述临时备份数据刷写于硬盘上得到正式备份数据；

加载单元，用于当所述布隆过滤器发生崩溃时，将所述刷写单元得到的所述正式备份数据加载回内存中。

9.根据权利要求8所述的装置，其特征在于，所述初始单元包括：

标记模块，用于对所述布隆过滤器进行标记，以便记录所述布隆过滤器的顺序；

分配模块，用于为所述标记模块标记后的布隆过滤器分配各自的内存空间。

10.根据权利要求8所述的装置，其特征在于，所述刷写单元包括：

删除模块，用于对硬盘上先前的正式备份数据进行删除；

刷写模块，用于对所述临时备份数据进行预设类型的序列化并刷写于硬盘上得到当前的正式备份数据。