CN113641752A - 数据增量同步方法及终端设备 - Google Patents

Abstract

本发明适用于数据库技术领域，提供了一种数据增量同步方法及终端设备，上述方法包括：接收目标数据库发送的数据增量数据及目标数据库的标识号；确定目标数据库的标识号是否大于本地数据库的标识号；若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。本发明为数据库设置标识号，数据库根据标识号同步，数据同步的可靠性更高。

Description

数据增量同步方法及终端设备

技术领域

本发明属于数据库技术领域，尤其涉及一种数据增量同步方法及终端设备。

背景技术

数据库是按照数据结构来组织、存储和管理数据的仓库，数据库中的数据时为众多用户所共享其信息而建立的。对于企业业务系统或政务系统，为保证业务的连续性，要求实现不同数据库之间的同步。为提高数据同步的效率，通常采用增量数据同步的方法。增量数据同步通常采用时间戳来区分，但由于不同数据库之间可能存在微小时间差，会导致数据库数据同步不一致，影响数据同步的可靠性。

发明内容

有鉴于此，本发明实施例提供了一种数据增量同步方法及终端设备，以解决现有技术中采用时间戳区分增量数据，影响数据库同步可靠性的问题。

本发明实施例的第一方面提供了一种数据增量同步方法，包括：

接收目标数据库发送的数据增量数据及目标数据库的标识号；

确定目标数据库的标识号是否大于本地数据库的标识号；

若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。

可选的，上述方法还包括：

接收目标数据库发送的数据同步请求；

若存在待更新数据增量数据，则将本地数据库的标识号更新为目标标识号，并将待更新数据增量数据及更新后的本地数据库的标识号发送给目标数据库。

可选的，目标标识号为当前本地数据库的标识号加1。

可选的，上述方法还包括：

获取并解析日志文件，得到本地数据库的增、删、改信息；

按照预设的通信协议将本地数据库的增、删、改信息转换为协议数据，得到待更新数据增量数据。

可选的，预设的通信协议为MySQL通信协议。

可选的，上述方法还包括：自动向目标数据库发送数据同步请求。

本发明实施例的第二方面提供了一种数据增量同步装置，包括：

数据接收模块，用于接收目标数据库发送的数据增量数据及目标数据库的标识号；

条件判断模块，用于确定目标数据库的标识号是否大于本地数据库的标识号；

数据更新模块，用于若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。

可选的，上述装置还包括：

请求接收模块，用于接收目标数据库发送的数据同步请求；

数据发送模块，用于若存在待更新数据增量数据，则将本地数据库的标识号更新为目标标识号，并将待更新数据增量数据及更新后的本地数据库的标识号发送给目标数据库。

本发明实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现如本发明实施例第一方面提供的数据增量同步方法的步骤。

本发明实施例的第四方面提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现如本发明实施例第一方面提供的数据增量同步方法的步骤。

本发明实施例提供了一种数据增量同步方法及终端设备，上述方法包括：接收目标数据库发送的数据增量数据及目标数据库的标识号；确定目标数据库的标识号是否大于本地数据库的标识号；若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。本发明实施例摒弃时间戳标记，为本地数据库及目标数据库分别设置标识号，数据库根据标识号同步，不会因为时间差异造成数据同步不一致的问题，数据同步的可靠性更高。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的一种数据增量同步方法的实现流程示意图；

图2是本发明实施例提供的数据增量同步装置的示意图；

图3是本发明实施例提供的终端设备的示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。

为了说明本发明的技术方案，下面通过具体实施例来进行说明。

参考图1，本发明实施例提供了一种数据增量同步方法，包括：

S101：接收目标数据库发送的数据增量数据及目标数据库的标识号；

S102：确定目标数据库的标识号是否大于本地数据库的标识号；

S103：若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。

本发明实施例中为本地数据库及目标数据库分别设置标识号，当目标数据库的标识号大于本地数据库本地数据库的标识号时才更新数据库，确保数据的正确性。当有数据更新时更新标识号，数据库根据标识号同步，不会因为时间差异造成数据同步不一致的问题，数据同步的可靠性更高。

一些实施例中，标识号可以为哈希值。

当目标数据库的标识号大于本地数据库的标识号，说明目标数据库的数据更新，数据更新后将本地数据库的标识号与目标数据库的标识号设置为一致，表明二者的数据版本是一样的。

一些实施例中，上述数据增量同步方法还可以包括：

S104：接收目标数据库发送的数据同步请求；

S105：若存在待更新数据增量数据，则将本地数据库的标识号更新为目标标识号，并将待更新数据增量数据及更新后的本地数据库的标识号发送给目标数据库。

当接收到目标数据库的数据同步请求时，确认本地数据库是否有数据增量数据产生，若有，则将本地数据库的标识号更新，并将数据增量信息和本地数据库的标识号发送给目标数据库，用于目标数据库的数据更新。目标数据库接收到本地数据库发送的数据增量数据及标识号后，重复S101至S103的步骤，对数据库的数据进行更新。

一些实施例中，目标标识号为当前本地数据库的标识号加1。

一些实施例中，上述数据增量同步方法还可以包括：

S106：获取并解析日志文件，得到本地数据库的增、删、改信息；

S107：按照预设的通信协议将本地数据库的增、删、改信息转换为协议数据，得到待更新数据增量数据。

由于不同数据库可以是异源或同源的，为实现异源或同源数据库之间的数据汇集问题，不同数据库之间进行数据传输，可将解析后的数据转换为通用的协议数据格式。

一些实施例中，预设的通信协议可以为MySQL通信协议。

MySQL是一种关系型数据库管理系统，关系数据库将数据保存在不同的表中，而不是将所有数据放在一个大仓库内，这样就增加了速度并提高了灵活性。MySQL所使用的SQL语言是用于访问数据库的最常用标准化语言。体积小、速度快、总体拥有成本低，开源；支持多种操作系统；是开源数据库，提供的接口支持多种语言连接操作；MySQL的核心程序采用完全的多线程编程。线程是轻量级的进程，它可以灵活地为用户提供服务，而不过多的系统资源。用多线程和C语言实现的mysql能很容易充分利用CPU；MySql有一个非常灵活而且安全的权限和口令系统。当客户与MySql服务器连接时，他们之间所有的口令传送被加密，而且MySql支持主机认证；支持ODBC for Windows，支持所有的ODBC 2.5函数和其他许多函数，可以用Access连接MySql服务器，使得应用被扩展；支持大型的数据库，可以方便地支持上千万条记录的数据库。作为一个开放源代码的数据库，可以针对不同的应用进行相应的修改；拥有一个非常快速而且稳定的基于线程的内存分配系统，可以持续使用面不必担心其稳定性；MySQL同时提供高度多样性，能够提供很多不同的使用者介面，包括命令行客户端操作，网页浏览器，以及各式各样的程序语言介面，例如C+，Perl，Java，PHP，以及Python。你可以使用事先包装好的客户端，或者干脆自己写一个合适的应用程序。MySQL可用于Unix，Windows，以及OS/2等平台，因此它可以用在个人电脑或者是服务器上。

binlog是一个二进制格式的文件，用于记录用户对数据库更新的SQL语句信息，例如更改数据库表和更改内容的SQL语句都会记录到binlog里，但是对库表等内容的查询不会记录。默认情况下，binlog日志是二进制格式的，不能使用查看文本工具的命令(比如，cat，vi等)查看，而使用mysqlbinlog解析查看。当有数据写入到数据库时，还会同时把更新的SQL语句写入到对应的binlog文件里，这个文件就是上文说的binlog文件。使用mysqldump备份时，只是对一段时间的数据进行全备，但是如果备份后突然发现数据库服务器故障，这个时候就要用到binlog的日志了。主要作用是用于数据库的主从复制及数据的增量恢复。

结合二者优势，本发明实施例中采用Binlog解析方式，通过解析MySQL的Binlog二进制数据，获取本地数据库的增、删、改信息。具体的配置方法可以包括：安装并配置增量抽取组件、格式转换组件、入库组件及云消息服务组件。配置MySQL数据库，开启Binlog日志的行模式，启动各组件，完成配置。

一些实施例中，上述数据增量同步方法还可以包括：

S108：自动向目标数据库发送数据同步请求。

本发明实施例中，可每隔预设时间发起一次数据同步请求。

一些实施例中，在S105之前，上述数据增量同步方法还可以包括：

若存在待更新数据增量数据，则确定待更新数据增量数据的大小是否超过预设阈值；

若待更新数据增量数据的大小超过预设阈值，则将待更新数据增量数据分割为多个部分，并将将各个部分分次发送给目标数据库。

分块提交，提高了传输的效率。

同时，为了提高传输效率，还可将待更新数据增量数据及更新后的本地数据库的标识号打包发送给目标数据库，目标数据库接收到数据包后解析获得待更新数据及标识号，提高了传输效率。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

参考图2，对应于上述实施例，本发明实施例还提供了一种数据增量同步装置，包括：

数据接收模块21，用于接收目标数据库发送的数据增量数据及目标数据库的标识号；

条件判断模块22，用于确定目标数据库的标识号是否大于本地数据库的标识号；

数据更新模块23，用于若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。

一些实施例中，上述数据增量同步装置还可以包括：

请求接收模块24，用于接收目标数据库发送的数据同步请求；

数据发送模块25，用于若存在待更新数据增量数据，则将本地数据库的标识号更新为目标标识号，并将待更新数据增量数据及更新后的本地数据库的标识号发送给目标数据库。

一些实施例中，目标标识号为当前本地数据库的标识号加1。

一些实施例中，上述数据增量同步装置还可以包括：

日志解析模块26，用于获取并解析日志文件，得到本地数据库的增、删、改信息；

数据转换模块27，用于按照预设的通信协议将本地数据库的增、删、改信息转换为协议数据，得到待更新数据增量数据。

一些实施例中，预设的通信协议可以为MySQL通信协议。

一些实施例中，上述数据增量同步装置还可以包括：

请求发送模块28，同步自动向目标数据库发送数据同步请求。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将终端设备的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述装置中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

图3是本发明一实施例提供的终端设备的示意框图。如图3所示，该实施例的终端设备4包括：一个或多个处理器40、存储器41以及存储在存储器41中并可在处理器40上运行的计算机程序42。处理器40执行计算机程序42时实现上述各个数据增量同步方法实施例中的步骤，例如图1所示的步骤S101至S103。或者，处理器40执行计算机程序42时实现上述数据增量同步装置实施例中各模块/单元的功能，例如图2所示模块21至23的功能。

示例性地，计算机程序42可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器41中，并由处理器40执行，以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序42在终端设备4中的执行过程。例如，计算机程序42可以被分割成数据接收模块21、条件判断模块22及数据更新模块23。

数据接收模块21，用于接收目标数据库发送的数据增量数据及目标数据库的标识号；

条件判断模块22，用于确定目标数据库的标识号是否大于本地数据库的标识号；

数据更新模块23，用于若目标数据库的标识号大于本地数据库的标识号，则将目标数据库发送的数据增量数据与本地数据库的数据合并，并将本地数据库的标识号更新为目标数据库的标识号。

其它模块或者单元在此不再赘述。

终端设备4包括但不仅限于处理器40、存储器41。本领域技术人员可以理解，图3仅仅是终端设备的一个示例，并不构成对终端设备4的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如终端设备4还可以包括输入设备、输出设备、网络接入设备、总线等。

处理器40可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

存储器41可以是终端设备的内部存储单元，例如终端设备的硬盘或内存。存储器41也可以是终端设备的外部存储设备，例如终端设备上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，存储器41还可以既包括终端设备的内部存储单元也包括外部存储设备。存储器41用于存储计算机程序42以及终端设备所需的其他程序和数据。存储器41还可以用于暂时地存储已经输出或者将要输出的数据。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

在本申请所提供的实施例中，应该理解到，所揭露的终端设备和方法，可以通过其它的方式实现。例如，以上所描述的终端设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。

以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种数据增量同步方法，其特征在于，包括：

接收目标数据库发送的数据增量数据及目标数据库的标识号；

确定所述目标数据库的标识号是否大于本地数据库的标识号；

若所述目标数据库的标识号大于所述本地数据库的标识号，则将所述目标数据库发送的数据增量数据与本地数据库的数据合并，并将所述本地数据库的标识号更新为所述目标数据库的标识号。

2.如权利要求1所述的数据增量同步方法，其特征在于，所述方法还包括：

接收所述目标数据库发送的数据同步请求；

若存在待更新数据增量数据，则将所述本地数据库的标识号更新为目标标识号，并将所述待更新数据增量数据及更新后的本地数据库的标识号发送给所述目标数据库。

3.如权利要求2所述的数据增量同步方法，其特征在于，所述目标标识号为当前本地数据库的标识号加1。

4.如权利要求2所述的数据增量同步方法，其特征在于，所述方法还包括：

获取并解析日志文件，得到本地数据库的增、删、改信息；

按照预设的通信协议将所述本地数据库的增、删、改信息转换为协议数据，得到所述待更新数据增量数据。

5.如权利要求4任一项所述的数据增量同步方法，其特征在于，所述预设的通信协议为MySQL通信协议。

6.如权利要求1至5任一项所述的数据增量同步方法，其特征在于，所述方法还包括：

自动向所述目标数据库发送数据同步请求。

7.一种数据增量同步装置，其特征在于，包括：

数据接收模块，用于接收目标数据库发送的数据增量数据及目标数据库的标识号；

条件判断模块，用于确定所述目标数据库的标识号是否大于本地数据库的标识号；

数据更新模块，用于若所述目标数据库的标识号大于所述本地数据库的标识号，则将所述目标数据库发送的数据增量数据与本地数据库的数据合并，并将所述本地数据库的标识号更新为所述目标数据库的标识号。

8.如权利要求7所述的数据增量同步装置，其特征在于，所述装置还包括：

请求接收模块，用于接收所述目标数据库发送的数据同步请求；

数据发送模块，用于若存在待更新数据增量数据，则将所述本地数据库的标识号更新为目标标识号，并将所述待更新数据增量数据及更新后的本地数据库的标识号发送给所述目标数据库。

9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述的数据增量同步方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的数据增量同步方法的步骤。

Images