CN103136370B

CN103136370B - 元数据的恢复方法和装置

Info

Publication number: CN103136370B
Application number: CN201310092302.1A
Authority: CN
Inventors: 李博; 张玉龙; 张东阳; 苗艳超; 刘新春; 邵宗有
Original assignee: Dawning Information Industry Beijing Co Ltd
Current assignee: Dawning Information Industry Beijing Co Ltd; Dawning Information Industry Co Ltd
Priority date: 2013-03-21
Filing date: 2013-03-21
Publication date: 2016-05-25
Anticipated expiration: 2033-03-21
Also published as: CN103136370A

Abstract

本发明公开了一种元数据的恢复方法和装置，其中，该恢复方法包括：保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识；在元数据服务器异常解除之后，对于保存的事务，根据相同文件标识所对应的事务生成元数据；将生成的元数据发送至元数据服务器。本发明通过保存元数据服务器出现异常期间生成的事务及对应的文件标识，并且由于本发明的方案能够传输相同文件标识对应的事务所生成的元数据，因此，传输的方式可以是针对多个文件并行传输元数据，从而有效提高了元数据恢复的效率，在尽可能短的时间内使多个元数据服务器恢复成一致，增加系统的可靠性，避免了服务器恢复占用大量的时间，尽可能保证用户的业务能够正常进行。

Description

元数据的恢复方法和装置

技术领域

本发明涉及通信领域，并且特别地，涉及一种元数据的恢复方法和装置。

背景技术

为了保证分布式文件系统中元数据的准确性，通常会采用分别在多个元数据服务器中写元数据的方式进行保存，当其中一个元数据服务器失效后，另外的正常元数据服务器中存在的元数据可供分布式文件系统使用。当异常后的元数据服务器重新恢复正常后，如何将两个或多个元数据服务器上的数据恢复成一致，是当前分布式文件系统所存在的难点和热点问题。

由于分布式系统中的节点(即元数据服务器)相互独立，在任意时间均可能出现故障，同时元数据的一致性涉及到多个部分，包括在缓存中、磁盘缓存中和存储到磁盘上这几部分。为了保证多份元数据的一致性，通常是采用日志记录的方式将元数据的操作记录到日志盘上。当异常的节点恢复正常后，将正常服务器中的差额日志解析为差额元数据，再将这些元数据同步到需要恢复的设备上，并重做这些元数据，就能保证数据的一致性了。

在元数据日志的恢复过程中，通常的作法是将的差额元数据通过网络传输给需要恢复的节点，然后转换成日志，由本地节点将数据写到磁盘，当差额元数据都发送完成后，两个元数据服务器就达到了一致。

但是，由于在元数据的恢复过程中，正常的元数据由于用户的操作也会在源源不断地产生新的事务，由于分布式文件系统的高带宽特性，在某种极端的情况下，就会产生两个元数据服务器永远都不可能达到一致点。这样，就对分布式文件系统的安全造成了隐患，若正常的元数据服务器异常后，就会出现大量的数据丢失的情况。而且，从上述描述得知，若在某种极端的情况下工作，只要元数据服务器异常，就永远不能达到一致，只要正常工作的服务器出现故障，就会出现数据丢失，而这种极端的情况下，元数据服务器是永远也恢复不到一致点的。

现有技术中，一般采用停止业务来使元数据达到一致的方法，或者采用流控来将客户端的访问速度降低，但是这两个方法均会使用户的业务受到影响。

针对相关技术中多个元数据服务器的数据难以恢复一致，造成系统的可靠性降低的问题，目前尚未提出有效的解决方案。

发明内容

针对相关技术中多个元数据服务器的数据难以恢复一致，造成系统的可靠性降低的问题，本发明提出一种元数据的恢复方法和装置，能够有效提高元数据恢复的效率，尽可能保证用户的业务能够正常进行。

本发明的技术方案是这样实现的：

根据本发明的一个方面，提供了一种元数据的恢复方法。

该元数据的恢复方法包括：

保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识；

在元数据服务器异常解除之后，对于保存的事务，根据相同文件标识所对应的事物生成元数据；

将生成的元数据发送至元数据服务器。

其中，上述保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识包括：

在需要保存的事务所对应的文件标识已经被保存的情况下，保存该事务并配置该事务与该文件标识存在对应关系；

在需要保存的事务所对应的文件标识未被保存的情况下，保存该事务以及该文件标识，并配置该事务与该文件标识存在对应关系。

并且，上述保存元数据服务器出现异常期间生成的事务包括：

对于生成的每个事务，判断已保存的事务中是否存在与该事务相同的事务；

在判断结果为是的情况下，则将已保存的事务和相应的事务号删除，并保存该生成的事务以及该事务的事务号；

在判断结果为否的情况下，保存该生成的事务以及该事务的事务号。

进一步地，在发送元数据期间，元数据的发送端禁止接收新的具有与生成该元数据的事务具有相同文件标识的事务。

而且，该元数据的恢复方法进一步包括：

元数据服务器根据接收到的元数据生成事务，并保存事务号。

此外，事务号根据事务的生成时间顺序递增，并且，在元数据服务器接收元数据的过程出现中断之后继续接收元数据的情况下，恢复方法进一步包括：

根据所有元数据发送端保存的最大事务号，确定能够为元数据服务器提供元数据的元数据发送端，并由该元数据发送端根据元数据服务器未保存的事务号生成元数据，继续将该生成的元数据发送至元数据服务器。

根据本发明的一个方面，提供了一种元数据的恢复装置。

该元数据的恢复装置包括：

保存模块，用于保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识；

生成模块，用于在元数据服务器异常解除之后，对于保存的事务，根据相同文件标识所对应的事物生成元数据；

发送模块，用于将生成的元数据发送至元数据服务器。

其中，上述保存模块用于在需要保存的事务所对应的文件标识已经被保存的情况下，保存该事务并配置该事务与该文件标识存在对应关系；而在需要保存的事务所对应的文件标识未被保存的情况下，则保存模块保存该事务以及该文件标识，并配置该事务与该文件标识存在对应关系。

进一步地，保存模块还用于对于生成的每个事务，判断已保存的事务中是否存在与该事务相同的事务；并在判断结果为是的情况下，则将已保存的事务和相应的事务号删除，并保存该生成的事务以及该事务的事务号；在判断结果为否的情况下，保存该生成的事务以及该事务的事务号。

此外，在发送元数据期间，保存模块禁止接收并保存新的具有与生成该元数据的事务具有相同文件标识的事务。

本发明通过保存元数据服务器出现异常期间生成的事务及对应的文件标识，并且由于本发明的方案能够传输相同文件标识对应的事务所生成的元数据，因此，传输的方式可以是针对多个文件并行传输元数据，从而有效提高了元数据恢复的效率，在尽可能短的时间内使多个元数据服务器恢复成一致，增加系统的可靠性，避免了服务器恢复占用大量的时间，尽可能保证用户的业务能够正常进行。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例的元数据的恢复方法的步骤图；

图2是根据本发明实施例的元数据的恢复装置的模块图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员所获得的所有其他实施例，都属于本发明保护的范围。

根据本发明的实施例，提供了一种元数据的恢复方法。

如图1所示，根据本发明实施例的元数据的恢复方法包括：

步骤S101，保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识；

步骤S103，在元数据服务器异常解除之后，对于保存的事务，根据相同文件标识所对应的事物生成元数据；

步骤S105，将生成的元数据发送至元数据服务器。

其中，在文中描述的实施例中，文件标识可以理解成文件ID。

根据本发明实施例的元数据的恢复方法，正常的元数据服务器不按事务号(tid，事务号根据事务的生成时间顺序递增)的顺利向需要恢复的元数据服务器发送事务，而是乱序发送，只有涉及到对相同文件操作的事务，才有先后顺序。其中，对相同文件操作的事务具有相同的文件标识(ID)。

当一个元数据服务器发生异常后，在正常的元数据服务器上会生成一个事务链表，任何新生成的事务都会被挂在这个事务链表中，同时，新生成的事务中对具体文件的ID操作数会初始化为0，并且会在额外的哈希(hash)表中维护这个文件ID对应的事务的地址，其中，事务的地址中包含有事务tid信息。

其中，在保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识时，在需要保存的事务所对应的文件标识已经被保存的情况下，保存该事务并配置该事务与该文件标识存在对应关系；并且在需要保存的事务所对应的文件标识未被保存的情况下，保存该事务以及该文件标识，并配置该事务与该文件标识存在对应关系。

并且，在保存元数据服务器出现异常期间生成的事务时，对于生成的每个事务，判断已保存的事务中是否存在与该事务相同的事务；并且在判断结果为是的情况下，则将已保存的事务和相应的事务号删除，并保存该生成的事务以及该事务的事务号；而在判断结果为否的情况下，保存该生成的事务以及该事务的事务号。因此，借助于上述方案，可以避免重复传输对于同一事务的多次操作，而仅传输最后一次执行的操作，能够减少数据传输量，进一步加快恢复的时间。

在实际应用中，可以通过预先配置hash表和事务链表来保存异常期间生成的事务。其中，hash表用于存储事务的事务号、事务的地址、该事务所对应文件的文件ID；而在事务链表中则存储事务，事务链表中存储的事务用于生成元数据。

也就是说，当新的事务生成时，首先去hash表中获取这个事务对应的文件ID，若没有查找到相同的文件ID，则将新事务对应的文件ID以及新事务的地址加入到hash表中；若查找到相同的文件ID，则再在hash表中查找是否存在与新事务相同的旧事务，若存在与新事务相同的旧事务，则删除hash表中该旧事务的地址并且从事务链表中删除该旧事务，并将新事务的地址添加到hash表中去，同时，将新事务加入到事务链表中。

进一步地，在发送元数据期间，元数据的发送端禁止接收新的具有与生成该元数据的事务具有相同文件标识的事务。其中，发送端是指文中一直处于正常状态的元数据服务器。

而且，该元数据的恢复方法进一步包括：元数据服务器根据接收到的元数据生成事务，并保存事务号。异常元数据服务器恢复正常后，从正常服务器的事务链表中提取具有相同文件ID的事务，再将这些事务转换为元数据，然后发送到异常恢复后的节点上。接收方在收到元数据后，只需将数据写到磁盘，将元数据转换为事务，并记录下事务的tid，将tid和数据记录到日志盘。

此外，在元数据服务器接收元数据的过程出现中断之后继续接收元数据的情况下，恢复方法进一步包括：根据所有元数据发送端保存的最大事务号，确定能够为元数据服务器提供元数据的元数据发送端，并由该元数据发送端根据元数据服务器未保存的事务号生成元数据，继续将该生成的元数据发送至元数据服务器。

根据上文的实施例，若恢复过程中，节点又发生故障，则可以存在以下三种情况：

情况一、如果没有恢复完成，故障节点又发生故障，此时的处理方式和第一次故障处理方式相同。仍然是生成事务链表，并且生成hash表。在故障节点上线之后，进行数据恢复。

情况二、如果没有恢复完成，正常服务节点故障，由于异常的服务器的数据不是最新，故，系统不能正常工作。

情况三、如果没有恢复完成，整系统掉电，则必须要等待所有的元数据服务器都启动后，才能进行工作。在工作之前，要先比较他们的最大tid(事务的tid是顺序增加的)，根据tid，就能知道哪个元数据服务器是异常之前的正常节点。确定了正常节点后，将异常节点中没有的事务发送到异常节点中去，按同样的方式进行恢复，最终达到一致。

根据本发明的实施例的元数据的恢复方法在实施时可以分为以下步骤：

步骤1，在正常的服务器中，将事务加入事务链表，并且将事务的地址(也可以称为坐标，通过事务的地址能找到事务)记录在hash表中。

步骤2，在将新事务地址加入到hash表前，会判断新事务与hash表中已有的事务是否相同，如果判断为是，则替换hash表中事务的地址，并将事务链中对应的旧事务删除。

步骤3，将事务链表发送到异常节点，发送时，对hash表加锁，即hash表不能接收新的事务地址，直到事务链表中的事务发送完成。

步骤4，在发送某一ID对应的事务的过程中，如果有相同ID的事务生成，则阻截事务地址加入到hash表并且阻止事务加入事务链表，只有发送完成，才能继续接收。

步骤5，接收端会记录最小tid，每个事务来到后，会将他的tid记录到日志盘。

步骤6，发送事务链表完成后，恢复完成，系统正常工作。

步骤7，异常重启后，会比较tid，将差额事务加入到事务链表，并按上述流程进行发送。

根据本发明的实施例，提供了一种元数据的恢复装置。

如图2所示，该元数据的恢复装置包括：

保存模块21，用于保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识；

生成模块22，用于在元数据服务器异常解除之后，对于保存的事务，根据相同文件标识所对应的事物生成元数据；

发送模块23，用于将生成的元数据发送至元数据服务器。

其中，上述保存模块21用于在需要保存的事务所对应的文件标识已经被保存的情况下，保存该事务并配置该事务与该文件标识存在对应关系；而在需要保存的事务所对应的文件标识未被保存的情况下，则保存模块保存该事务以及该文件标识，并配置该事务与该文件标识存在对应关系。

进一步地，保存模块21还用于对于生成的每个事务，判断已保存的事务中是否存在与该事务相同的事务；并在判断结果为是的情况下，则将已保存的事务和相应的事务号删除，并保存该生成的事务以及该事务的事务号；在判断结果为否的情况下，保存该生成的事务以及该事务的事务号。

此外，在发送元数据期间，保存模块21禁止接收并保存新的具有与生成该元数据的事务具有相同文件标识的事务。

综上所述，借助于本发明的上述技术方案，通过保存元数据服务器出现异常期间生成的事务及对应的文件标识，并且由于本发明的方案能够传输相同文件标识对应的事务所生成的元数据，因此，传输的方式可以是针对多个文件并行传输元数据，从而有效提高了元数据恢复的效率，在尽可能短的时间内使多个元数据服务器恢复成一致，增加系统的可靠性，避免了服务器恢复占用大量的时间，尽可能保证用户的业务能够正常进行。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims

1.一种元数据的恢复方法，其特征在于，所述方法包括：

在所述元数据服务器异常解除之后，对于保存的所述事务，根据相同文件标识所对应的事务生成元数据；

将生成的所述元数据发送至所述元数据服务器。

2.根据权利要求1所述的恢复方法，其特征在于，保存元数据服务器出现异常期间生成的事务以及存储的每个事务所对应的文件标识包括：

3.根据权利要求1所述的恢复方法，其特征在于，保存元数据服务器出现异常期间生成的事务包括：

4.根据权利要求1所述的恢复方法，其特征在于，在发送所述元数据期间，元数据的发送端禁止接收新的具有与生成该元数据的事务具有相同文件标识的事务。

5.根据权利要求1所述的恢复方法，其特征在于，进一步包括：

所述元数据服务器根据接收到的所述元数据生成事务，并保存事务号。

6.根据权利要求5所述的恢复方法，其特征在于，事务号根据事务的生成时间顺序递增，并且，在所述元数据服务器接收所述元数据的过程出现中断之后继续接收元数据的情况下，所述恢复方法进一步包括：

根据所有元数据发送端保存的最大事务号，确定能够为所述元数据服务器提供元数据的元数据发送端，并由该元数据发送端根据所述元数据服务器未保存的事务号生成元数据，继续将该生成的元数据发送至所述元数据服务器。

7.一种元数据的恢复装置，其特征在于，所述装置包括：

生成模块，用于在所述元数据服务器异常解除之后，对于保存的所述事务，根据相同文件标识所对应的事务生成元数据；

发送模块，用于将生成的所述元数据发送至所述元数据服务器。

8.根据权利要求7所述的恢复装置，其特征在于，所述保存模块用于在需要保存的事务所对应的文件标识已经被保存的情况下，保存该事务并配置该事务与该文件标识存在对应关系；而在需要保存的事务所对应的文件标识未被保存的情况下，则所述保存模块保存该事务以及该文件标识，并配置该事务与该文件标识存在对应关系。

9.根据权利要求7所述的恢复装置，其特征在于，所述保存模块用于对于生成的每个事务，判断已保存的事务中是否存在与该事务相同的事务；并在判断结果为是的情况下，则将已保存的事务和相应的事务号删除，并保存该生成的事务以及该事务的事务号；在判断结果为否的情况下，保存该生成的事务以及该事务的事务号。

10.根据权利要求7所述的恢复装置，其特征在于，在发送所述元数据期间，所述保存模块禁止接收并保存新的具有与生成该元数据的事务具有相同文件标识的事务。