CN112612851B - 多中心数据同步方法及装置 - Google Patents

Abstract

本申请实施例提供一种多中心数据同步方法及装置，方法包括：通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

Description

多中心数据同步方法及装置

技术领域

本申请涉及分布式领域，具体涉及一种多中心数据同步方法及装置。

背景技术

针对非互联网的私有网络，多地市之间数据库数据同步的一种同步方案。

目前市面上比较流行的几个主流同步方法：

1、Master-Slave，主从复制，异步复制每个指令，可以看作是粒度更细的定期备份。

2、Phase-Commit，二阶段提交，同步先确保通知到所有节点再写入。

3、Paxos，分布式一致性算法，一种基于消息传递的分布式一致性算法。

优点和缺陷

同步方式分两类，异步的性能好但可能有数据丢失，同步的能保证不丢数据但性能较差。同种方式的算法也能有所提升，但实现的难度又很高。主流架构有较高的适用性，但是自身存在一定短板：

(1)定期备份

对现有的系统的性能基本没有影响，但节点宕机时只能勉强恢复，容易丢一部分正在写入的数据。

(2)主从复制

主从复制，异步同步消息，极端情况读取会丢数据。

客户端只能从主节点写数据，在客户端读数据。

如果主节点宕机一段时间，同步性能卡在主节点后，会导致数据无法同步。

(3)分布式一致性算法

同一时刻有多个节点可以写入，也只需要通知到大多数节点，有更高的吞吐，但实现的难度很高。

发明内容

针对现有技术中的问题，本申请提供一种多中心数据同步方法及装置，能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

为了解决上述问题中的至少一个，本申请提供以下技术方案：

第一方面，本申请提供一种多中心数据同步方法，包括：

通过主节点的主数据库记录客户端的数据库操作信息；

通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系

进一步地，还包括：

基于一致性算法Paxos和RPC协议选举出高可用的主节点；

根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群。

第二方面，本申请提供一种多中心数据同步装置，包括：

主节点读写模块，用于通过主节点的主数据库记录客户端的数据库操作信息；

数据同步模块，用于通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

异常切换模块，用于当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系。

进一步地，还包括：

主节点选举单元，用于基于一致性算法Paxos和RPC协议选举出高可用的主节点；

主节点小集群构建单元，用于根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群。

第三方面，本申请提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现所述的多中心数据同步方法的步骤。

第四方面，本申请提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现所述的多中心数据同步方法的步骤。

由上述技术方案可知，本申请提供一种多中心数据同步方法及装置，通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例中的多中心数据同步方法的流程示意图之一；

图2为本申请实施例中的多中心数据同步装置的结构图之一；

图3为本申请实施例中的多中心数据同步装置的结构图之二；

图4为本申请实施例中的多中心数据同步方法的流程示意图之二；

图5为本申请实施例中的电子设备的结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

考虑到现有技术中的问题，本申请提供一种多中心数据同步方法及装置，通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

为了能够有效弥补单节点故障的缺陷，保障主节点的稳定性，本申请提供一种多中心数据同步方法的实施例，参见图1，所述多中心数据同步方法具体包含有如下内容：

步骤S101：通过主节点的主数据库记录客户端的数据库操作信息；

步骤S102：通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

步骤S103：当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系。

从上述描述可知，本申请实施例提供的多中心数据同步方法，能够通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

在本申请的多中心数据同步方法的一实施例中，还可以具体包含如下内容：

步骤S201：基于一致性算法Paxos和RPC协议选举出高可用的主节点；

步骤S202：根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群。

为了能够有效弥补单节点故障的缺陷，保障主节点的稳定性，本申请提供一种用于实现所述多中心数据同步方法的全部或部分内容的多中心数据同步装置的实施例，参见图2，所述多中心数据同步装置具体包含有如下内容：

主节点读写模块10，用于通过主节点的主数据库记录客户端的数据库操作信息；

数据同步模块20，用于通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

异常切换模块30，用于当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系。

从上述描述可知，本申请实施例提供的多中心数据同步装置，能够通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

在本申请的多中心数据同步装置的一实施例中，还具体包含有如下内容：

主节点选举单元，用于基于一致性算法Paxos和RPC协议选举出高可用的主节点；

主节点小集群构建单元，用于根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群。

为了更进一步说明本方案，本申请还提供一种应用上述多中心数据同步装置实现多中心数据同步方法的具体应用实例，参见图3和图4，具体包含有如下内容：

A.客户端在本地进行读写，并将带有本地标志位增删改查sql放入消息队列主节点。

B.所有同步从节点和备用主节点监听同步数据，将增删改查的sql，按顺序依次执行，同步成为最新的数据。

C.当其中一个主节点异常后，一致性算法会自动将客户端连接到新的主节点进行同步。

在构建了基础模型后，从以下几个方面对模型进行针对性优化。

(1)高可用，一致性算法部分优化

增加高可用一致性算法，当主节点发生故障时，自动切换新的主节点，利用高可用可以错开时间修复有故障的节点，还能快速切换可用的生产节点。

(2)高性能

主节点采用高性能的多备份机制，多组数据保证数据的安全性，并能提高多并发的性能。

从硬件层面来说，为了能够有效弥补单节点故障的缺陷，保障主节点的稳定性，本申请提供一种用于实现所述多中心数据同步方法中的全部或部分内容的电子设备的实施例，所述电子设备具体包含有如下内容：

处理器(processor)、存储器(memory)、通信接口(Communications Interface)和总线；其中，所述处理器、存储器、通信接口通过所述总线完成相互间的通信；所述通信接口用于实现多中心数据同步装置与核心业务系统、用户终端以及相关数据库等相关设备之间的信息传输；该逻辑控制器可以是台式计算机、平板电脑及移动终端等，本实施例不限于此。在本实施例中，该逻辑控制器可以参照实施例中的多中心数据同步方法的实施例，以及多中心数据同步装置的实施例进行实施，其内容被合并于此，重复之处不再赘述。

可以理解的是，所述用户终端可以包括智能手机、平板电子设备、网络机顶盒、便携式计算机、台式电脑、个人数字助理(PDA)、车载设备、智能穿戴设备等。其中，所述智能穿戴设备可以包括智能眼镜、智能手表、智能手环等。

在实际应用中，多中心数据同步方法的部分可以在如上述内容所述的电子设备侧执行，也可以所有的操作都在所述客户端设备中完成。具体可以根据所述客户端设备的处理能力，以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在所述客户端设备中完成，所述客户端设备还可以包括处理器。

上述的客户端设备可以具有通信模块(即通信单元)，可以与远程的服务器进行通信连接，实现与所述服务器的数据传输。所述服务器可以包括任务调度中心一侧的服务器，其他的实施场景中也可以包括中间平台的服务器，例如与任务调度中心服务器有通信链接的第三方服务器平台的服务器。所述的服务器可以包括单台计算机设备，也可以包括多个服务器组成的服务器集群，或者分布式装置的服务器结构。

图5为本申请实施例的电子设备9600的系统构成的示意框图。如图5所示，该电子设备9600可以包括中央处理器9100和存储器9140；存储器9140耦合到中央处理器9100。值得注意的是，该图5是示例性的；还可以使用其他类型的结构，来补充或代替该结构，以实现电信功能或其他功能。

一实施例中，多中心数据同步方法功能可以被集成到中央处理器9100中。其中，中央处理器9100可以被配置为进行如下控制：

步骤S101：通过主节点的主数据库记录客户端的数据库操作信息；

步骤S102：通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

步骤S103：当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系。

从上述描述可知，本申请实施例提供的电子设备，通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

在另一个实施方式中，多中心数据同步装置可以与中央处理器9100分开配置，例如可以将多中心数据同步装置配置为与中央处理器9100连接的芯片，通过中央处理器的控制来实现多中心数据同步方法功能。

如图5所示，该电子设备9600还可以包括：通信模块9110、输入单元9120、音频处理器9130、显示器9160、电源9170。值得注意的是，电子设备9600也并不是必须要包括图5中所示的所有部件；此外，电子设备9600还可以包括图5中没有示出的部件，可以参考现有技术。

如图5所示，中央处理器9100有时也称为控制器或操作控件，可以包括微处理器或其他处理器装置和/或逻辑装置，该中央处理器9100接收输入并控制电子设备9600的各个部件的操作。

其中，存储器9140，例如可以是缓存器、闪存、硬驱、可移动介质、易失性存储器、非易失性存储器或其它合适装置中的一种或更多种。可储存上述与失败有关的信息，此外还可存储执行有关信息的程序。并且中央处理器9100可执行该存储器9140存储的该程序，以实现信息存储或处理等。

输入单元9120向中央处理器9100提供输入。该输入单元9120例如为按键或触摸输入装置。电源9170用于向电子设备9600提供电力。显示器9160用于进行图像和文字等显示对象的显示。该显示器例如可为LCD显示器，但并不限于此。

该存储器9140可以是固态存储器，例如，只读存储器(ROM)、随机存取存储器(RAM)、SIM卡等。还可以是这样的存储器，其即使在断电时也保存信息，可被选择性地擦除且设有更多数据，该存储器的示例有时被称为EPROM等。存储器9140还可以是某种其它类型的装置。存储器9140包括缓冲存储器9141(有时被称为缓冲器)。存储器9140可以包括应用/功能存储部9142，该应用/功能存储部9142用于存储应用程序和功能程序或用于通过中央处理器9100执行电子设备9600的操作的流程。

存储器9140还可以包括数据存储部9143，该数据存储部9143用于存储数据，例如联系人、数字数据、图片、声音和/或任何其他由电子设备使用的数据。存储器9140的驱动程序存储部9144可以包括电子设备的用于通信功能和/或用于执行电子设备的其他功能(如消息传送应用、通讯录应用等)的各种驱动程序。

通信模块9110即为经由天线9111发送和接收信号的发送机/接收机9110。通信模块(发送机/接收机)9110耦合到中央处理器9100，以提供输入信号和接收输出信号，这可以和常规移动通信终端的情况相同。

基于不同的通信技术，在同一电子设备中，可以设置有多个通信模块9110，如蜂窝网络模块、蓝牙模块和/或无线局域网模块等。通信模块(发送机/接收机)9110还经由音频处理器9130耦合到扬声器9131和麦克风9132，以经由扬声器9131提供音频输出，并接收来自麦克风9132的音频输入，从而实现通常的电信功能。音频处理器9130可以包括任何合适的缓冲器、解码器、放大器等。另外，音频处理器9130还耦合到中央处理器9100，从而使得可以通过麦克风9132能够在本机上录音，且使得可以通过扬声器9131来播放本机上存储的声音。

本申请的实施例还提供能够实现上述实施例中的执行主体为服务器或客户端的多中心数据同步方法中全部步骤的一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述实施例中的执行主体为服务器或客户端的多中心数据同步方法的全部步骤，例如，所述处理器执行所述计算机程序时实现下述步骤：

步骤S101：通过主节点的主数据库记录客户端的数据库操作信息；

步骤S102：通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

步骤S103：当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系。

从上述描述可知，本申请实施例提供的计算机可读存储介质，通过主节点的主数据库记录客户端的数据库操作信息；通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；本申请能够有效弥补单节点故障的缺陷，保障主节点的稳定性。

本领域内的技术人员应明白，本发明的实施例可提供为方法、装置、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(装置)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (4)

1.一种多中心数据同步方法，其特征在于，所述方法包括：

通过主节点的主数据库记录客户端的数据库操作信息；

通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；

基于一致性算法Paxos和RPC协议选举出高可用的主节点；

根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群；

多中心数据同步装置包含有如下内容：

客户端在本地进行读写，并将带有本地标志位增删改查sql放入消息队列主节点；所有同步从节点和备用主节点监听同步数据，将增删改查的sql，按顺序依次执行，同步成为最新的数据；当其中一个主节点异常后，一致性算法会自动将客户端连接到新的主节点进行同步；

在构建了基础模型后，增加高可用一致性算法，当主节点发生故障时，自动切换新的主节点，利用高可用能够错开时间修复有故障的节点，还能快速切换可用的生产节点；主节点采用高性能的多备份机制，多组数据保证数据的安全性，并能提高多并发的性能。

2.一种多中心数据同步装置，其特征在于，包括：

主节点读写模块，用于通过主节点的主数据库记录客户端的数据库操作信息；

数据同步模块，用于通过同步从节点和备用主节点同步更新所述主节点的数据库操作信息；

异常切换模块，用于当监测到所述主节点处于异常状态时，通过一致性算法将所述客户端与所述备用主节点建立连接关系；

主节点选举单元，用于基于一致性算法Paxos和RPC协议选举出高可用的主节点；

主节点小集群构建单元，用于根据所述主节点、所述备用主节点和所述一致性算法构建主节点小集群；

多中心数据同步装置包含有如下内容：

客户端在本地进行读写，并将带有本地标志位增删改查sql放入消息队列主节点；所有同步从节点和备用主节点监听同步数据，将增删改查的sql，按顺序依次执行，同步成为最新的数据；当其中一个主节点异常后，一致性算法会自动将客户端连接到新的主节点进行同步；

在构建了基础模型后，增加高可用一致性算法，当主节点发生故障时，自动切换新的主节点，利用高可用能够错开时间修复有故障的节点，还能快速切换可用的生产节点；主节点采用高性能的多备份机制，多组数据保证数据的安全性，并能提高多并发的性能。

3.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1所述的多中心数据同步方法的步骤。

4.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1所述的多中心数据同步方法的步骤。