CN103198159B - 一种基于事务重做的异构集群多副本一致性维护方法 - Google Patents

Abstract

本发明涉及一种基于事务重做的异构集群多副本一致性维护方法，其特点是：包括查询执行阶段：集群事务管理模块跟踪活动事务表，录制事务操作；集群为主数据节点生成事务重做日志；集群将事务重做日志文件发送给所有副本数据节点并管理节点状态；副本维护阶段：副本数据节点接收来自于主数据节点的事务重做日志文件；故障恢复阶段：数据库管理员将查找出故障节点对应的存档日志，将所有副本数据节点的数据恢复到同主数据节点一致的状态。本发明解决了现有技术存在代价高、性能差的问题，弥补了二进制日志传输方式无法支持异构数据库的不足，实现了多副本之间的快速一致性维护，保证无共享集群的高可用性，同时能够支持集群数据库节点的异构化。

Description

一种基于事务重做的异构集群多副本一致性维护方法

技术领域

本发明属于数据库技术领域，尤其是一种基于事务重做的异构集群多副本一致性维护方法。

背景技术

基于分布式数据库系统的大型企业应用越来越广泛。为了提高系统可靠性，系统中的关键数据会在异地或本地保存多个副本，多个副本数据必须要保持一致性。一致性包括强一致性和弱一致性两种，其中强一致性是要求数据任何时刻都是一致的，也就是数据的实时一致性；而弱一致性，不要求数据的实时一致，而是在达到一定条件下保证数据一致，也就是所谓的最终一致性。维护强一致性的代价相对较高，因此，一般都用在数据量较小的关键数据，而对于海量数据，为了系统可用性目的，一般都只要求数据的最终一致性。

目前，几乎所有的无共享集群都要求数据节点的完全同构，但是，在实际应用中，企业往往会将关键的配置数据放在安全性和可靠性更高的高端商业数据库中，而把海量的业务数据放在普通的中低端甚至开源数据库中以节省成本，这就需要企业级集群解决方案支持异构数据库节点。而对于副本一致性维护，目前通用的方式主要有如下两种方式：

第一种方式是基于触发器和语句分发的中间件方式，这是一种典型的利用中间件的方式，通过中间件把主数据节点上的操作同步或异步地发送给副本数据节点同样的执行一遍。该方式在同构集群里可以一定程度上实现多副本维护功能，但是有明显的缺陷：由于采用分布式的架构，导致在集群层下发的语句顺序和在数据节点上的实际执行顺序是不能保证一致的，因此这种方式必须在集群中间件层面进行DML语句的串行化，否则，将很可能会引发数据不一致，甚至整个集群僵死等严重问题。而这种在集群中间件层面进行的DML串行化，严格按照一条语句完成之后才能下发另一条语句的规则，导致整个集群退化为单用户操作模式，并发性能无法容忍，同时又会导致副本一致性维护的代价呈线性倍数的提高，实用性不高。

第二种方式是基于日志传输的数据库复制方式。这是一种完全依靠节点数据库自身进行一致性维护的方式，目前主流数据库更多采用的是这种方式。这种方式通过主数据节点向副本数据节点传输binlog（二进制日志），而副本数据节点分析日志并进行日志重做的方式实现。显然这种方式仅适用于同构数据库集群的情况，因为异构数据库的日志格式势必不同，无法通过日志重做进行多副本维护。

发明内容

本发明的目的在于克服现有技术的不足，提供一种设计合理、性能稳定且效率高的基于事务重做的异构集群多副本一致性维护方法。

本发明解决其技术问题是采取以下技术方案实现的：

一种基于事务重做的异构集群多副本一致性维护方法，包括以下阶段：

查询执行阶段，该阶段包括以下步骤：

步骤1：集群主数据节点事务管理模块跟踪活动事务表，录制事务操作；

步骤2：集群为主数据节点生成事务重做日志；

步骤3：集群每隔一段时间将主数据节点的事务重做日志文件发送给所有副本数据节点，并管理节点状态；

副本维护阶段，该阶段包括以下步骤：副本数据节点不断地接收来自于主数据节点的事务重做日志文件，并在收到之后给予确认收到的回复，接收到事务重做日志之后，副本数据节点按照日志中记录的SQL语句的顺序，严格串行化的执行每条DML语句；

故障恢复阶段，该阶段包括以下步骤：

步骤1：数据库管理员将主数据节点更改为只读状态；

步骤2：从集群记录的故障信息中查找出所有故障节点对应的存档日志，依照存档文件的顺序逐个在故障节点上重做日志，直到所有副本数据节点的数据恢复到同主数据节点一致的状态；

步骤3：标志副本数据节点为可用状态，并恢复主数据节点为读写状态；

而且，所述查询执行阶段的步骤1的处理过程为：在存放主数据的节点数据库事务管理模块增加记录事务涉及的语句的逻辑，生成活动事务表。

而且，所述的活动事务由活动事务以及该活动事务所执行的语句构成，每个事务内部的语句是按照从一定的顺序依次记录在该活动事务表中。

而且，所述的活动事务表为Hash表，hash键是事务id，hash值是一个链表并按照语句顺序记录该事务的所有查询语句。

而且，所述查询执行阶段的步骤2的处理过程为：当有事务提交时，从活动事务表中把该事务的所有DML语句链表取出，按顺序记录在事务重做日志中，并从活动事务表中删除该事务以及该事务的所有操作语句；当事务被回滚时，从活动事务表中删除该事务以及该事务的所有操作语句。

而且，所述查询执行阶段的步骤3管理节点状态的方法为：集群向所有副本数据节点发送事务重做日志后，等待所有副本数据节点的回复以确认所有副本都已收到，如果所有副本数据节点都及时给出了响应，集群删除已发送的日志；如果发现有的副本数据节点没有及时给予响应，集群将该日志存档，并记录未回复的副本数据节点，同时将这些节点标志为不可用状态，被标志为不可用状态的节点将进入故障恢复阶段。

本发明的优点和积极效果是：

本发明利用基于语句分发中间件方式的语句重做技术和基于二进制日志传输的日志重做技术两种方式的优势，解决了基于语句分发中间件方式必须在集群层面进行DML串行化导致的代价高、性能差的问题，同时又弥补了二进制日志传输方式无法支持异构数据库的不足，在目前大数据领域普遍使用的无共享集群中实现多副本之间的快速一致性维护，保证无共享集群的高可用性，同时能够支持集群数据库节点的异构化。

附图说明

图1是本发明的活动事务表结构示意图；

图2是活动事务处理流程图；

图3是本发明的事务重做日志结构示意图；

图4是重做后的活动事务表结构示意图。

具体实施方式

以下结合附图对本发明做进一步详述。

一种基于事务重做的异构集群多副本一致性维护方法是利用并发事务实际执行顺序是事务的提交顺序这一原理，通过对主数据节点进行活动事务跟踪，按照事务提交顺序进行查询录制，将主数据节点录制的按照事务提交顺序组织的语句序列传播到副本数据节点进行事务重做的方式。此方式可以保证副本数据和主数据在事务层面进行的逻辑操作完全一致，从而保证副本数据和主数据之间的最终一致性。由于录制是发生在主数据节点的事务管理层，因此不会造成集群中间件本身的串行化处理，解决了集群的并发性问题；由于传输的是查询语句，而且只需重做DML查询，因此不仅系统负载轻，保证一致性维护的高性能；更为重要的是，这种事务重做方式基于标准的SQL，可以支持各种异构数据库。下面对本发明进行详细说明：

一种基于事务重做的异构集群多副本一致性维护方法，包括如下阶段：

查询执行阶段，该阶段包括以下步骤：

步骤1：集群事务管理模块跟踪活动事务表，录制事务操作

在查询执行阶段，在存放主数据的节点数据库的事务管理模块增加记录事务涉及的语句的逻辑，生成活动事务表。其具体流程：事务管理模块在内存中申请缓冲区，以Hash表的形式记录所有活动事务正在执行的语句。其中hash键是事务id，hash值是一个链表，按照语句顺序记录该事务的所有查询语句，其中select语句不记录。每当一个事务要执行一条查询的时候，如果是DML语句，则根据其事务id在hash表里查找，如果已有该事务则把DML按顺序加在该事务语句链表的最后，如果没有该事务则在hash表中新生成一个hash入口，并记录该DML语句。

通过上述处理建成的活动事务表结构，如图1所示，该结构表明当前在数据库的事务管理模块有6个活动事务，分别是事务TX1、TX2、TX3、TX4、TX5、TX6。其中事务TX1、TX3、和TX6执行了DML语句。每个事务内部的语句是按照从左至右的先后顺序依次记录在该活动事务hash表中的。

步骤2：集群为主数据节点生成事务重做日志

当有事务提交时，从hash表中把该事务的所有DML语句链表取出，按顺序记录在事务重做日志中，并从活动事务hash表中删除该事务以及该事务的所有操作语句。而当事务被回滚的时候，则仅需从活动事务hash表中删除该事务以及该事务的所有操作语句即可，而不必记录事务重做日志。事务重做日志是集群为主数据节点生成和维护一个文件，语句逐条组织，按实际执行顺序记录了主数据节点的所有DML语句。

假设上述活动事务表中的六个事务的执行顺序如图2所示，可以看出，事务TX6最后开始（Begin），但是最先提交（Commit）。而事务TX1先于所有事务Begin，但是晚于事务TX6提交（Commit）。因此，此时生成的事务重做日志如图3所示，而此时更新的活动事务表结构如图4所示，可以看出，已经提交（Commit）的事务以及该事务所进行的操作语句都被从活动事务表中剔除。

步骤3：集群每隔一段时间将主数据节点的事务重做日志文件发送给所有副本数据节点，并管理节点状态。

事务重做日志的格式逐条组织，记录了如图3所示的主数据节点在事务管理模块实际执行DML语句的顺序，语句逐行存储在事务重做日志文件中。集群每隔一段时间把主数据节点的事务重做日志发送给所有副本数据节点，并等待所有副本数据节点的回复以确认所有副本都已收到。如果所有副本数据节点都及时给出了响应，集群删除已发送的日志；如果发现有的副本数据节点没有及时给予响应，集群将该日志存档，并记录未回复的副本数据节点，同时将这些节点标志为不可用状态。被标志为不可用状态的节点将进入故障恢复阶段，需要人工进行数据一致性维护。

副本维护阶段，该阶段的处理包括：副本数据节点不断地接收来自于主数据节点的事务重做日志文件，并在收到之后给予确认收到的回复。副本数据节点接收到事务重做日志之后，副本数据节点按照日志中记录的SQL语句的顺序，严格串行化的执行每条DML语句。这一过程是自动的，不需要人工参与，由集群调度副本数据节点自行完成数据一致性维护。

故障恢复阶段。如果在集群的自动调度下，副本数据节点未能完成数据的一致性同步，则副本数据会进入故障恢复阶段，这一阶段需要数据库管理员(DBA)进行人工干预进行数据一致性维护。故障恢复阶段包括以下步骤：

步骤1：数据库管理员(DBA)需要将主数据节点更改为只读状态，即主数据节点不再接受DML操作。这一过程是为了给主数据节点的数据打一个基线，所有副本数据都以此为基准恢复到一致状态。

步骤2：从集群记录的故障信息中查找出所有故障节点对应的存档日志，依照存档文件的顺序逐个在故障节点上重做日志，直到所有副本数据节点的数据恢复到同主数据节点一致的状态。

步骤3：标志副本数据节点为可用状态，并恢复主数据节点为读写状态，即主数据节点可以接受并处理DML语句。

本发明的关键特点在于利用并发事务实际执行顺序是事务的提交顺序这一原理，在主数据节点录制事务执行顺序，而不是在集群中间件进行录制，据此生成事务重做日志并通过网络进行传输，在副本数据节点重做日志记录的SQL语句，从而保证主数据和副本数据的最终一致性。此技术方案具有低负载、高性能、弱一致、支持异构等特点。

需要强调的是，本发明所述的实施例是说明性的，而不是限定性的，因此本发明包括并不限于具体实施方式中所述的实施例，凡是由本领域技术人员根据本发明的技术方案得出的其他实施方式，同样属于本发明保护的范围。

Claims (6)

1.一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：包括以下阶段：

查询执行阶段，该阶段包括以下步骤：

步骤1：集群主数据节点的事务管理模块跟踪活动事务表，按照事务提交顺序录制事务操作；

步骤2：集群按照事务提交顺序组织DML查询语句为主数据节点生成事务重做日志；

步骤3：集群每隔一段时间将主数据节点的事务重做日志文件发送给所有副本数据节点，并管理节点状态；

副本维护阶段，该阶段包括以下步骤：副本数据节点不断地接收来自于主数据节点的事务重做日志文件，并在收到之后给予确认收到的回复；接收到事务重做日志之后，副本数据节点按照日志中记录的SQL语句的顺序，严格串行化的执行每条DML语句；

故障恢复阶段，该阶段包括以下步骤：

步骤1：数据库管理员将主数据节点更改为只读状态；

步骤2：从集群记录的故障信息中查找出所有故障节点对应的存档日志，依照存档文件的顺序逐个在故障节点上重做日志，直到所有副本数据节点的数据恢复到同主数据节点一致的状态；

步骤3：标志副本数据节点为可用状态，并恢复主数据节点为读写状态。

2.根据权利要求1所述的一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：所述查询执行阶段的步骤1的处理过程为：在存放主数据的节点数据库的事务管理模块增加记录事务涉及的语句的逻辑，生成活动事务表。

3.根据权利要求2所述的一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：所述的活动事务由活动事务以及该活动事务所执行的语句构成，每个事务内部的语句是按照从一定的顺序依次记录在该活动事务表中。

4.根据权利要求3所述的一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：所述的活动事务表为Hash表，hash键是事务id，hash值是一个链表并按照语句顺序记录该事务的所有查询语句。

5.根据权利要求1所述的一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：所述查询执行阶段的步骤2的处理过程为：当有事务提交时，从活动事务表中把该事务的所有DML语句链表取出，按顺序记录在事务重做日志中，并从活动事务表中删除该事务以及该事务的所有操作语句；当事务被回滚时，从活动事务表中删除该事务以及该事务的所有操作语句。

6.根据权利要求1所述的一种基于事务重做的异构集群多副本一致性维护方法，其特征在于：所述查询执行阶段的步骤3管理节点状态的方法为：集群向所有副本数据节点发送事务重做日志后，等待所有副本数据节点的回复以确认所有副本都已收到，如果所有副本数据节点都及时给出了响应，集群删除已发送的日志；如果发现有的副本数据节点没有及时给予响应，集群将该日志存档，并记录未回复的副本数据节点，同时将这些节点标志为不可用状态，被标志为不可用状态的节点将进入故障恢复阶段。