CN108804463A - 一种MySQL数据库的数据同步方法、装置及电子设备 - Google Patents
一种MySQL数据库的数据同步方法、装置及电子设备 Download PDFInfo
- Publication number
- CN108804463A CN108804463A CN201710304345.XA CN201710304345A CN108804463A CN 108804463 A CN108804463 A CN 108804463A CN 201710304345 A CN201710304345 A CN 201710304345A CN 108804463 A CN108804463 A CN 108804463A
- Authority
- CN
- China
- Prior art keywords
- data
- database
- count value
- host
- data synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 230000008676 import Effects 0.000 claims abstract description 56
- 238000012544 monitoring process Methods 0.000 claims abstract description 47
- 230000002159 abnormal effect Effects 0.000 claims abstract description 35
- 230000001360 synchronised effect Effects 0.000 claims abstract description 24
- 230000008569 process Effects 0.000 claims description 21
- 230000007246 mechanism Effects 0.000 claims description 16
- 230000010076 replication Effects 0.000 claims description 16
- 230000001186 cumulative effect Effects 0.000 claims description 10
- 238000004806 packaging method and process Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/2053—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
- G06F11/2094—Redundant storage or storage space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
- G06F2201/80—Database-specific techniques
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明的实施例公开一种MySQL数据库的数据同步方法、装置及电子设备,涉及数据同步技术,能够有效提升数据同步效率。所述数据同步方法包括:监测到主机数据库与备机数据库之间的数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;监测到所述数据同步恢复正常时,如果所述累计计数的计数值超过预先设置的计数值阈值,将所述主机数据库的数据在主机本地进行导出操作;将所述导出操作所导出的数据进行导入操作,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。本发明适用于基于MySQL数据库的数据同步。
Description
技术领域
本发明涉及数据同步技术,尤其涉及一种MySQL数据库的数据同步方法、装置及电子设备。
背景技术
关系型数据查询语言(MySQL)由于具有体积小、成本低、查询速度快、稳定性高等特点,被广泛应用于各种中小型英特(Internet)网站、数据库存储及数据库服务。
以数据库存储服务为例,通过MySQL搭建主主同步的高可用性(HA)方案,采用两个数据库互为主从的冗余备份模式,以及,利用数据库的复制(replication)机制,从而实现在线同步备份数据的功能,使得主从数据库中的数据保持同步。也就是说,在数据库运行过程中,如果对主机数据库执行写入、更新或删除数据的操作,主机数据库中的MySQL在本地的一数据库表中记录数据操作的二进制日志(binary log),并通过配置的复制机制,将数据操作的二进制日志同步备份到备机数据库(又可称为从机数据库)中,备机数据库依据二进制日志进行相应的数据操作,从而实现对数据库的在线冗余备份功能,保障当一数据库(主机数据库或备机数据库)发生异常时,另一数据库(备机数据库或主机数据库)能够即时接管发生异常的数据库的服务,并保障两者数据的一致性。
但该数据同步方法中,当备机由于网络异常或断电等情况,造成备机较长时间下线,而在该过程中,如果主机对数据进行频繁的增、删、改、查等数据操作,则会累积大量包括增、删、改、查等数据操作的二进制日志,在备机恢复正常工作后,恢复后的备机需要逐条同步主机累积的所有数据操作的二进制日志。备机同步主机累积的二进制日志后,是单条执行操作的,每条日志提交一次事务,在数据量较大时会有大量的输入输出(I/O)操作,使得同步操作耗时较长。
发明内容
有鉴于此,本发明实施例提供一种MySQL数据库的数据同步方法、装置及电子设备,能够有效提升数据同步效率。
第一方面,本发明实施例提供一种MySQL数据库的数据同步方法,包括:
监测主机数据库与备机数据库之间的数据同步是否正常;
监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;
监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;
如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;
将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
结合第一方面,在第一方面的第一种实施方式中,所述监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数,包括:监测到所述数据同步发生异常时,将主机数据库中事件表的同步标识设为异常;对主机数据库的数据操作的次数进行累计计数。
结合第一方面或第一方面的第一种实施方式,在第一方面的第二种实施方式中,所述监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值,包括:监测到所述数据同步恢复正常时,调用数据记录查询接口查询并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
结合第一方面,在第一方面的第三种实施方式中,在对主机数据库的数据操作的次数进行累计计数之后,监测到所述数据同步恢复正常之前,所述方法还包括:判断所述累计计数的计数值是否超过所述预先设置的计数值阈值;如果所述累计计数的计数值未超过所述预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志。
结合第一方面,在第一方面的第四种实施方式中,所述如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作,包括:如果所述累计计数的计数值超过预先设置的计数值阈值,调用数据转储导出接口将所述主机数据库的数据在主机本地进行导出操作。
结合第一方面,在第一方面的第五种实施方式中,在监测到所述数据同步恢复正常之后,如果所述累计计数的计数值未超过预先设置的计数值阈值,所述方法还包括:通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
结合第一方面,在第一方面的第六种实施方式中,在将所述主机数据库的数据在主机本地进行导出操作时,所述方法还包括:将所述导出操作过程封装为事务;和/或
在将所述导出操作所导出的数据进行导入操作以导入所述主机数据库时,所述方法还包括:将所述导入操作过程封装为事务。
第二方面,本发明实施例提供一种MySQL数据库的数据同步装置,包括:监测模块,用于监测主机数据库与备机数据库之间的数据同步是否正常;计数模块,用于在所述监测模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;判断模块,用于在所述监测模块监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;导出操作模块,用于如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;导入操作模块,用于将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
结合第二方面,在第二方面的第一种实施方式中,所述监测模块,包括:监测子模块,用于监测主机数据库与备机数据库之间的数据同步是否正常;同步标识设置子模块,用于在所述监测子模块监测到所述数据同步发生异常时,将主机数据库中事件表的同步标识设为异常;其中,所述计数模块,用于在所述监测子模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数。
结合第二方面或第二方面的第一种实施方式,在第二方面的第二种实施方式中,所述判断模块,,具体用于在所述监测模块监测到所述数据同步恢复正常时,调用数据记录查询接口查询并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
结合第二方面,在第二方面的第三种实施方式中,所述的数据同步装置,还包括:日志存储模块,用于如果所述累计计数的计数值未超过所述预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志。
结合第二方面,在第二方面的第四种实施方式中,所述导出操作模块,具体用于如果所述累计计数的计数值超过预先设置的计数值阈值,调用数据转储导出接口将所述主机数据库的数据在主机本地进行导出操作。
结合第二方面,在第二方面的第五种实施方式中,所述的数据同步装置,还包括:复制模块,用于在所述监测模块监测到所述数据同步恢复正常之后,如果所述累计计数的计数值未超过预先设置的计数值阈值,则通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
结合第二方面,在第二方面的第六种实施方式中,所述的数据同步装置,还包括:事务封装模块,用于在所述导出操作模块将所述主机数据库的数据在主机本地进行导出操作时,将所述导出操作过程封装为事务;和/或,在所述导入操作模块将所述导出操作所导出的数据进行导入操作以导入所述主机数据库时,将所述导入操作的过程封装为事务。
第三方面,本发明实施例提供一种电子设备,所述电子设备包括:壳体、处理器、存储器、电路板和电源电路,其中,电路板安置在壳体围成的空间内部,处理器和存储器设置在电路板上;电源电路,用于为上述电子设备的各个电路或器件供电;存储器用于存储可执行程序代码;处理器通过读取存储器中存储的可执行程序代码来运行与可执行程序代码对应的程序,用于执行前述任一所述的数据同步方法。
本发明实施例提供的一种MySQL数据库的数据同步方法、装置及电子设备,通过监测到主机数据库与备机数据库之间的数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;当监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;将所述导出操作所导出的数据导入所述主机数据库,并生成所述导入操作的二进制日志,所述备机数据库即可根据所述导入操作的二进制日志执行操作,将所述主机数据库的数据同步至备机数据库。由于所述备机数据库是根据所述导入操作的二进制日志执行操作的,这样,只需进行一次事务提交即可同步所述主机数据库的较多数据甚至所有数据,大大减少了I/O操作,能够有效提升数据同步效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本发明的实施例一MySQL数据库的数据同步方法流程示意图;
图2为本发明的实施例二MySQL数据库的数据同步方法流程示意图;
图3为本发明的实施例二中数据操作具体流程示意图;
图4为本发明的实施例三MySQL数据库的数据同步装置结构示意图;
图5为本发明的实施例四MySQL数据库的数据同步装置结构示意图;
图6为本发明电子设备一个实施例的结构示意图。
具体实施方式
下面结合附图对本发明实施例进行详细描述。
应当明确,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
本发明实施例适可用于由两台以上MySQL服务器组成的服务器集群中,进行数据的高效同步。在所述服务器集群中,其中一台服务器作为Master服务器(主机),其余的服务器作为Slave服务器(备机)。客户端连接Master服务器后,可在Master服务器的数据库中进行数据的插入、更新或删除等操作。Master服务器的数据库中的数据可同步至Slave服务器的数据库中。应当理解的是,所述主机和备机是相对而言的,在原来作为备机的服务器当做主机使用时,原来作为主机的服务器则相应的作为备机来使用。
实施例一
图1为本发明的实施例一MySQL数据库的数据同步方法流程示意图,如图1所示,本实施例的方法可以包括:
步骤101,监测主机数据库与备机数据库之间的数据同步是否正常;
本实施例中,所述主机数据库是指Master服务器上的MySQL数据库,所述备机数据库是指Slave服务器上的MySQL数据库。
本实施例中,可通过在主机上运行的同步守护进程,监测主机数据库与备机数据库之间的数据同步是否正常。比如,当监测到备机由于网络异常或断电等情况造成备机长时间下线,则可确定主机数据库与备机数据库之间的数据同步发生异常。
步骤102,监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;
本实施例中,客户端连接主机数据库后,可通过主机数据库提供的应用程序编程接口(API)在主机数据库中进行数据的插入、更新或删除等操作。
同步守护进程在监测到所述数据同步发生异常时,将主机数据库中事件表(event_tb)的同步标识(IsSync)设置为异常,比如设置为1,所述API根据标记为异常的同步标识,开始对主机数据库的数据操作的次数进行累计计数。
步骤103,监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;
同步守护进程监测到所述数据同步恢复正常时,可调用数据记录查询接口查询所述累计计数的计数值,并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
步骤104,如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;
本实施例中,若所述计数值超过计数值阀值,则可调用数据转储(dump)导出接口,将所述主机数据库的数据在主机本地导出。
步骤105,将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
需要说明的是,上述各步骤的执行是由主机或在主机侧进行的。
本发明实施例提供的MySQL数据库的数据同步方法,通过监测到主机数据库与备机数据库之间的数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;当监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;将所述导出操作所导出的数据导入所述主机数据库,并生成所述导入操作的二进制日志,所述备机数据库即可根据所述导入操作的二进制日志执行操作,将所述主机数据库的数据同步至备机数据库。由于所述备机数据库是根据所述导入操作的二进制日志执行操作的,这样,只需进行一次事务提交即可同步所述主机数据库的较多数据甚至所有数据,大大减少了I/O操作,能够有效提升数据同步效率。
实施例二
图2为本发明的实施例二MySQL数据库的数据同步方法具体流程示意图,如图2所示,本实施例的方法可以包括:
步骤201,监测主机数据库与备机数据库之间的数据同步是否正常;
本实施例中,监测主机数据库与备机数据库之间的数据同步是否正常的过程和方法与上述步骤101相同,在此不再赘述。
可通过设置主机数据库中事件表(event_tb)的同步标识(IsSync)来表示所述数据同步是否正常。具体来讲,在主机数据库与备机数据库之间的数据同步正常时,设置主机数据库(主机)中事件表(event_tb)的同步标识(IsSync)为零,即IsSync=0,表明所述数据同步正常运行。如果所述数据同步发生异常,更新主机数据库中事件表的同步标识为1,即IsSync=1,表明所述数据同步发生异常。作为一可选实施例,同步守护进程可以通过调用应用程序编程接口(API)对所述同步标识进行更新。
本实施例中,可以按照预先设置的数据同步监测周期监测所述数据同步是否正常。根据所述监测,如果所述数据同步正常,执行步骤208,如果所述数据同步出现异常,执行步骤202;
步骤202,将所述同步标识更新为1;
步骤203,对主机数据库中的数据操作进行累计计数;
图3为本实施例中客户端对主机数据库进行数据操作的流程示意图。参看图3,本实施例中,客户端对主机数据库进行数据操作的过程,可以包括:
步骤S1,判断同步标识是否为0;
在具体进行数据操作前,判断同步标识是否为0,如果为0,执行步骤S4,如果为1,执行步骤S2;
本实施例中,在具体进行数据操作前,先判断IsSync是否为0,如果为0,则主机数据库可以正常同步到备机数据库,不会有二进制日志累积,可以直接执行数据操作命令;如果为1,则表明主机数据库无法同步数据到备机数据库,会有待同步数据的累积。
步骤S2,判断计数值是否超过计数值阀值;
本步骤中,判断计数值是否超过计数值阀值,如果是,执行步骤S3,如果否,执行步骤S5;
步骤S3,设置主机数据库不记录数据操作的二进制日志;
本实施例中,若累计的计数值达到计数值阀值,所述同步守护进程则将主机数据库中是否记录二进制日志的标识设置为不记录二进制日志,这样,对主机数据库进行操作时不会再增加二进制日志,表明开始存在大量待同步的数据。
步骤S4,执行数据操作;
本实施例中,数据操作包括但不限于:对主机数据库中的数据进行增、删、改、查等操作。
步骤S5,对数据操作次数进行累加;
本实施例中,在对数据操作次数进行累加之后,返回执行步骤S4。
本实施例中,如果计数值未达到计数值阀值,则继续生成相应数据操作的二进制日志,并将数据操作的计数值加1。
步骤S6,开启生成二进制日志设置。
本实施例中,在客户端对主机数据库进行数据操作时,若所述同步标识已更新为1,表明主机数据库与备机数据库之间的数据同步已发生异常,此时需要开始对客户端对主机数据库进行的数据操作进行计数,使得客户端每操作一次主机数据库,对数据操作进行累计计数,例如,将当前累计计数值加1。
本实施例中,如果所述累计计数的计数值未超过预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志,但如有数据操作仍然继续计数。
计数值阈值可依据实际需要进行设置,例如,可以设置为1000、1500或其他,本实施例对此不作限定。以计数值阈值为1000为例,如果累计的计数值(累计计数)超过1000,继续进行计数,只是不再存储二进制日志。
当然,实际应用中,在所述累计计数的计数值超过所述预先设置的计数值阈值的情况下,也可以继续对数据操作的二进制日志进行存储。
本实施例中,作为一可选实施例,如果所述累计计数的计数值超过预先设置的计数值阈值,还可以删除记录的数据操作的二进制日志。
步骤204,监测所述数据同步是否恢复正常;
监测所述数据同步是否恢复正常,如果是,执行步骤205,如果否,返回执行步骤205;
步骤205,判断累计计数的计数值是否超过计数值阈值;
判断累计计数的计数值是否超过计数值阈值,如果是,执行步骤206,如果否,执行步骤208;
本实施例中,如果所述数据同步恢复正常,同步守护进程自动调用API接口中的数据记录查询接口,通过所述数据记录查询接口查询所述计数值,并判断所述计数值是否超过预先设置的计数值阀值(例如,1000次)。
步骤206,将所述主机数据库的数据在主机本地进行导出操作;
本实施例中,若所述计数值超过计数值阀值,则调用数据转储(dump)导出接口,将所述主机数据库的数据在主机本地导出。
为保证数据同步的安全性和完整性,可将所述主机数据库的所有数据在主机本地进行导出操作。本发明实施例不限于此,也可将自所述数据同步出现异常之后,客户端对所述主机数据库进行的数据操作所对应的数据进行导出操作。
为保证数据不会丢失,可将所述导出操作的过程封装为事务(Transaction)。事务是数据库区别于文件系统的重要特性之一,事务会把数据库从一种一致性状态转换为另一种一致性状态。在数据库提交时,可以确保要么所有修改都已保存,要么所有修改都不保存。
本实施例中,在将所述主机数据库的数据在主机本地进行导出操作时,会自动触发开启生成二进制日志设置,以便在进行后续导入操作时生成导入操作的二进制日志。
步骤207,将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志;
同理,为保证数据不会丢失,可将所述导入操作的过程封装为事务。
本实施例中,所述备机数据库可根据所述二进制日志,利用MySQL数据库的复制(replication)机制,将所述主机数据库的数据同步至备机数据库。
根据MySQL数据库的复制机制,复制过程可分成三步:
(1)master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);
(2)slave将master的binary log events拷贝到它的中继日志(relay log);
(3)slave重做中继日志中的事件,将改变反映它自己的数据。
步骤208,通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
本实施例中,如果备机数据库服务恢复正常,但计数值没有超过预先设置的计数值阀值,说明主机本地的数据冗余量非常少,同步所需的时间不长,则按照现有流程进行处理,例如,通过所述复制机制将数据同步到备机数据库,以减少dump(转储)操作的频率。
步骤209,将所述同步标识更新为0,清空计数值;
本实施例中,如果所述同步标识为0,则不作处理,否则,将所述同步标识更新为0,并循环检测同步状态。
本发明实施例提供的MySQL数据库的数据同步方法,通过监测到主机数据库与备机数据库之间的数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;当计数值到达指定的计数值阀值(如1000)时,再对主机数据库进行数据操作时就不再生成新的二进制日志;一旦监测到所述数据同步恢复正常时,则将所述主机数据库的数据在主机本地进行导出操作;将所述导出操作所导出的数据导入所述主机数据库,并生成所述导入操作的二进制日志,所述备机数据库即可通过所述复制机制,根据所述导入操作的二进制日志执行操作,将所述主机数据库的数据同步至备机数据库。由于所述备机数据库是根据所述导入操作的二进制日志执行操作的,这样,只需进行一次事务提交即可同步所述主机数据库的较多数据甚至所有数据,大大减少了I/O操作,能够有效提升数据同步效率,减小了风险。从而保证了MySQL数据同步的高可靠性和稳定性,可以有效避免因大量数据冗余可能带来的数据错乱和业务风险,保证了两端数据库同步的高可用性和完整性。经测试,当主机累积200万条待同步数据时,利用本实施例的数据同步方法,备机同步该200万条待同步数据需要的时间不到1分钟。
此外,本实施例中,通过设置计数值阀值,可将MySQL数据库的dump备份机制,即通过将主数据库数据的导出及导入操作来实现数据与备数据库之间的同步,与MySQL数据库自带的复制机制结合起来,以实现主数据库存在大量的待同步数据累积时,使用MySQL数据库的dump备份机制来实现数据的同步。偶尔的断网导致的同步异常利用MySQL自带的复制机制同步数据。
实施例三
图4为本发明的实施例三MySQL数据库的数据同步装置结构示意图,如图4所示,本实施例的装置可以包括:监测模块41、计数模块42、判断模块43、导出操作模块44和导入操作模块45;其中,
监测模块41,用于监测主机数据库与备机数据库之间的数据同步是否正常;
计数模块42,用于在所述监测模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;
判断模块43,用于在所述监测模块监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;
导出操作模块44,用于如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;
导入操作模块45,用于将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
本实施例的装置,可以用于执行图1所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
实施例四
图5为本发明的实施例四MySQL数据库的数据同步装置结构示意图,如图5所示,本实施例MySQL数据库的数据同步装置的结构与实施例三基本相同,不同之处在于,本实施例中,所述监测模块41,包括:监测子模块411,用于监测主机数据库与备机数据库之间的数据同步是否正常;同步标识设置子模块412,用于在所述监测子模块监测到所述数据同步发生异常时,将主机数据库中事件表的同步标识设为异常;其中,所述计数模块42,用于在所述监测子模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数。
本实施例中,作为一可选实施例,所述判断模块43,,可具体用于在所述监测模块监测到所述数据同步恢复正常时,调用数据记录查询接口查询并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
本实施例中,作为一可选实施例,所述的数据同步装置,还包括:日志存储模块46,用于如果所述累计计数的计数值未超过所述预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志。
本实施例中,作为一可选实施例,所述导出操作模块44,可具体用于如果所述累计计数的计数值超过预先设置的计数值阈值,调用数据转储导出接口将所述主机数据库的数据在主机本地进行导出操作,得到导出数据。
本实施例中,作为一可选实施例,所述的数据同步装置,还可包括:复制模块47,用于在所述监测模块监测到所述数据同步恢复正常之后,如果所述累计计数的计数值未超过预先设置的计数值阈值,则通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
本实施例中,作为一可选实施例,所述的数据同步装置,还可包括:事务封装模块48,用于在所述导出操作模块将所述主机数据库的数据在主机本地进行导出操作时,将所述导出操作过程封装为事务;和/或,在所述导入操作模块将所述导出操作所导出的数据进行导入操作以导入所述主机数据库时,将所述导入操作的过程封装为事务。
本实施例的装置,可以用于执行图2所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
实施例五
本发明实施例还提供一种电子设备,所述电子设备包含前述任一实施例所述的装置。
图6为本发明电子设备一个实施例的结构示意图。如图6所示,上述电子设备可以包括:壳体51、处理器52、存储器53、电路板54和电源电路55,其中,电路板54安置在壳体51围成的空间内部,处理器52和存储器53设置在电路板54上;电源电路55,用于为上述电子设备的各个电路或器件供电;存储器53用于存储可执行程序代码;处理器52通过读取存储器53中存储的可执行程序代码来运行与可执行程序代码对应的程序,用于执行前述任一实施例所述的数据同步方法。
处理器52对上述步骤的具体执行过程以及处理器52通过运行可执行程序代码来进一步执行的步骤,可以参见本发明图1-3所示实施例的描述,在此不再赘述。
该电子设备以多种形式存在,包括但不限于:
(1)服务器:提供计算服务的设备,服务器的构成包括处理器、硬盘、内存、系统总线等,服务器和通用的计算机架构类似,但是由于需要提供高可靠的服务,因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。
(2)其他具有数据交互功能的电子设备。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个......”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
尤其,对于装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,″计算机可读介质″可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。
在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
为了描述的方便,描述以上装置是以功能分为各种单元/模块分别描述。当然,在实施本发明时可以把各单元/模块的功能在同一个或多个软件和/或硬件中实现。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (15)
1.一种MySQL数据库的数据同步方法,其特征在于,包括:
监测主机数据库与备机数据库之间的数据同步是否正常;
监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;
监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;
如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;
将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
2.根据权利要求1所述的数据同步方法,其特征在于,所述监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数,包括:
监测到所述数据同步发生异常时,将主机数据库中事件表的同步标识设为异常;
对主机数据库的数据操作的次数进行累计计数。
3.根据权利要求1或2所述的数据同步方法,其特征在于,所述监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值,包括:
监测到所述数据同步恢复正常时,调用数据记录查询接口查询并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
4.根据权利要求1所述的数据同步方法,其特征在于,在对主机数据库的数据操作的次数进行累计计数之后,监测到所述数据同步恢复正常之前,所述方法还包括:
判断所述累计计数的计数值是否超过所述预先设置的计数值阈值;
如果所述累计计数的计数值未超过所述预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志。
5.根据权利要求1所述的数据同步方法,其特征在于,所述如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作,包括:
如果所述累计计数的计数值超过预先设置的计数值阈值,调用数据转储导出接口将所述主机数据库的数据在主机本地进行导出操作。
6.根据权利要求1所述的数据同步方法,其特征在于,在监测到所述数据同步恢复正常之后,如果所述累计计数的计数值未超过预先设置的计数值阈值,所述方法还包括:
通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
7.根据权利要求1所述的数据同步方法,其特征在于,在将所述主机数据库的数据在主机本地进行导出操作时,所述方法还包括:将所述导出操作过程封装为事务;和/或
在将所述导出操作所导出的数据进行导入操作以导入所述主机数据库时,所述方法还包括:将所述导入操作过程封装为事务。
8.一种MySQL数据库的数据同步装置,其特征在于,包括:
监测模块,用于监测主机数据库与备机数据库之间的数据同步是否正常;
计数模块,用于在所述监测模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数;
判断模块,用于在所述监测模块监测到所述数据同步恢复正常时,判断所述累计计数的计数值是否超过预先设置的计数值阈值;
导出操作模块,用于如果所述累计计数的计数值超过预先设置的计数值阈值,则将所述主机数据库的数据在主机本地进行导出操作;
导入操作模块,用于将所述导出操作所导出的数据进行导入操作以导入所述主机数据库,并生成所述导入操作的二进制日志,以使所述备机数据库根据所述二进制日志,将所述主机数据库的数据同步至备机数据库。
9.根据权利要求8所述的数据同步装置,其特征在于,所述监测模块,包括:
监测子模块,用于监测主机数据库与备机数据库之间的数据同步是否正常;
同步标识设置子模块,用于在所述监测子模块监测到所述数据同步发生异常时,将主机数据库中事件表的同步标识设为异常;
其中,所述计数模块,用于在所述监测子模块监测到所述数据同步发生异常时,对主机数据库的数据操作的次数进行累计计数。
10.根据权利要求8或9所述的数据同步装置,其特征在于,所述判断模块,,具体用于在所述监测模块监测到所述数据同步恢复正常时,调用数据记录查询接口查询并判断所述累计计数的计数值是否超过预先设置的计数值阈值。
11.根据权利要求8所述的数据同步装置,其特征在于,还包括:
日志存储模块,用于如果所述累计计数的计数值未超过所述预先设置的计数值阈值,则存储主机数据库每一次数据操作的二进制日志,如果所述累计计数的计数值超过所述预先设置的计数值阈值,则不再存储主机数据库的数据操作的二进制日志。
12.根据权利要求8所述的数据同步装置,其特征在于,所述导出操作模块,具体用于如果所述累计计数的计数值超过预先设置的计数值阈值,调用数据转储导出接口将所述主机数据库的数据在主机本地进行导出操作,得到导出数据。
13.根据权利要求8所述的数据同步装置,其特征在于,还包括:
复制模块,用于在所述监测模块监测到所述数据同步恢复正常之后,如果所述累计计数的计数值未超过预先设置的计数值阈值,则通过所述MySQL数据库的复制机制,将所述主机数据库的数据同步至备机数据库。
14.根据权利要求8所述的数据同步装置,其特征在于,还包括:
事务封装模块,用于在所述导出操作模块将所述主机数据库的数据在主机本地进行导出操作时,将所述导出操作过程封装为事务;和/或,在所述导入操作模块将所述导出操作所导出的数据进行导入操作以导入所述主机数据库时,将所述导入操作的过程封装为事务。
15.一种电子设备,其特征在于,所述电子设备包括:壳体、处理器、存储器、电路板和电源电路,其中,电路板安置在壳体围成的空间内部,处理器和存储器设置在电路板上;电源电路,用于为上述电子设备的各个电路或器件供电;存储器用于存储可执行程序代码;处理器通过读取存储器中存储的可执行程序代码来运行与可执行程序代码对应的程序,用于执行前述任一权利要求1-7所述的数据同步方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710304345.XA CN108804463B (zh) | 2017-05-03 | 2017-05-03 | 一种MySQL数据库的数据同步方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710304345.XA CN108804463B (zh) | 2017-05-03 | 2017-05-03 | 一种MySQL数据库的数据同步方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108804463A true CN108804463A (zh) | 2018-11-13 |
CN108804463B CN108804463B (zh) | 2021-07-09 |
Family
ID=64054442
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710304345.XA Active CN108804463B (zh) | 2017-05-03 | 2017-05-03 | 一种MySQL数据库的数据同步方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108804463B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113641874A (zh) * | 2021-07-21 | 2021-11-12 | 中国第一汽车股份有限公司 | 一种数据采集处理系统及数据采集处理方法 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1713139A (zh) * | 2004-06-24 | 2005-12-28 | 华为技术有限公司 | 设备的保护运行模式实现方法及维护方法 |
CN102624545A (zh) * | 2012-02-22 | 2012-08-01 | 中兴通讯股份有限公司 | 网管系统的数据备份方法、装置和恢复方法、装置 |
CN102955851A (zh) * | 2012-10-30 | 2013-03-06 | 北京奇虎科技有限公司 | 一种数据库的切换方法和装置 |
CN103488721A (zh) * | 2013-09-12 | 2014-01-01 | 京信通信系统(中国)有限公司 | 主备板的数据库双向同步方法和系统 |
CN103500229A (zh) * | 2013-10-24 | 2014-01-08 | 北京奇虎科技有限公司 | 一种数据库同步方法和数据库系统 |
CN103530290A (zh) * | 2012-07-03 | 2014-01-22 | 深圳市腾讯计算机系统有限公司 | 数据库间的数据迁移方法和系统 |
CN103560906A (zh) * | 2013-10-22 | 2014-02-05 | 珠海多玩信息技术有限公司 | 数据复制的方法及装置 |
CN103577577A (zh) * | 2013-11-06 | 2014-02-12 | 北京京东尚科信息技术有限公司 | 一种保存数据库日志的方法、装置及系统 |
CN103617195A (zh) * | 2013-11-05 | 2014-03-05 | 杭州沃趣网络科技有限公司 | 一种用于MySQL数据库的数据同步系统和方法 |
CN104657382A (zh) * | 2013-11-21 | 2015-05-27 | 阿里巴巴集团控股有限公司 | 用于MySQL主从服务器数据一致性检测的方法和装置 |
CN105335443A (zh) * | 2014-08-13 | 2016-02-17 | 阿里巴巴集团控股有限公司 | 一种用于数据同步中的异常检测的方法与设备 |
CN105843702A (zh) * | 2015-01-14 | 2016-08-10 | 阿里巴巴集团控股有限公司 | 一种用于数据备份的方法以及装置 |
CN105955989A (zh) * | 2015-12-31 | 2016-09-21 | 无锡华云数据技术服务有限公司 | 一种云平台数据库主从服务器的建立方法 |
US20160308963A1 (en) * | 2015-04-17 | 2016-10-20 | Zuora, Inc. | System and method for real-time cloud data synchronization using a database binary log |
-
2017
- 2017-05-03 CN CN201710304345.XA patent/CN108804463B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1713139A (zh) * | 2004-06-24 | 2005-12-28 | 华为技术有限公司 | 设备的保护运行模式实现方法及维护方法 |
CN102624545A (zh) * | 2012-02-22 | 2012-08-01 | 中兴通讯股份有限公司 | 网管系统的数据备份方法、装置和恢复方法、装置 |
CN103530290A (zh) * | 2012-07-03 | 2014-01-22 | 深圳市腾讯计算机系统有限公司 | 数据库间的数据迁移方法和系统 |
CN102955851A (zh) * | 2012-10-30 | 2013-03-06 | 北京奇虎科技有限公司 | 一种数据库的切换方法和装置 |
CN103488721A (zh) * | 2013-09-12 | 2014-01-01 | 京信通信系统(中国)有限公司 | 主备板的数据库双向同步方法和系统 |
CN103560906A (zh) * | 2013-10-22 | 2014-02-05 | 珠海多玩信息技术有限公司 | 数据复制的方法及装置 |
CN103500229A (zh) * | 2013-10-24 | 2014-01-08 | 北京奇虎科技有限公司 | 一种数据库同步方法和数据库系统 |
CN103617195A (zh) * | 2013-11-05 | 2014-03-05 | 杭州沃趣网络科技有限公司 | 一种用于MySQL数据库的数据同步系统和方法 |
CN103577577A (zh) * | 2013-11-06 | 2014-02-12 | 北京京东尚科信息技术有限公司 | 一种保存数据库日志的方法、装置及系统 |
CN104657382A (zh) * | 2013-11-21 | 2015-05-27 | 阿里巴巴集团控股有限公司 | 用于MySQL主从服务器数据一致性检测的方法和装置 |
CN105335443A (zh) * | 2014-08-13 | 2016-02-17 | 阿里巴巴集团控股有限公司 | 一种用于数据同步中的异常检测的方法与设备 |
CN105843702A (zh) * | 2015-01-14 | 2016-08-10 | 阿里巴巴集团控股有限公司 | 一种用于数据备份的方法以及装置 |
US20160308963A1 (en) * | 2015-04-17 | 2016-10-20 | Zuora, Inc. | System and method for real-time cloud data synchronization using a database binary log |
CN105955989A (zh) * | 2015-12-31 | 2016-09-21 | 无锡华云数据技术服务有限公司 | 一种云平台数据库主从服务器的建立方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113641874A (zh) * | 2021-07-21 | 2021-11-12 | 中国第一汽车股份有限公司 | 一种数据采集处理系统及数据采集处理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108804463B (zh) | 2021-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2976714B1 (en) | Method and system for byzantine fault tolerant data replication | |
US20130246358A1 (en) | Online verification of a standby database in log shipping physical replication environments | |
WO2019020081A1 (zh) | 分布式系统及其故障恢复方法、装置、产品和存储介质 | |
CN105573859A (zh) | 一种数据库的数据恢复方法和设备 | |
CN109298978B (zh) | 一种指定位置的数据库集群的恢复方法及系统 | |
US11748215B2 (en) | Log management method, server, and database system | |
CN112380057A (zh) | 数据恢复方法、装置、设备及存储介质 | |
CN110955723A (zh) | 一种主从数据库同步状态监控方法、装置及电子设备 | |
CN111787113A (zh) | 一种节点故障的处理方法、装置、存储介质和电子设备 | |
CN111639132B (zh) | 日志同步方法及设备 | |
CN108958965A (zh) | 一种bmc监控可恢复ecc错误的方法、装置及设备 | |
CN115757616A (zh) | 一种基于二进制日志的数据一致性校验方法、装置及介质 | |
CN108804463B (zh) | 一种MySQL数据库的数据同步方法、装置及电子设备 | |
WO2021082925A1 (zh) | 一种交易处理的方法及装置 | |
CN112650629A (zh) | 区块链索引数据恢复方法、装置、设备和计算机存储介质 | |
CN115934742A (zh) | 一种故障处理方法、装置、设备及存储介质 | |
JP6251965B2 (ja) | 情報システムおよびデータベース復旧方法 | |
CN113900855B (zh) | 一种交换机异常状态的主动热启动方法、系统及装置 | |
CN113254308A (zh) | 日志处理方法及设备 | |
CN111752907A (zh) | 一种集群日志集中管控方法、系统、终端及存储介质 | |
CN111752911A (zh) | 一种基于Flume的数据传输方法、系统、终端及存储介质 | |
CN117395263B (zh) | 一种数据同步方法、装置、设备和存储介质 | |
CN117971975B (zh) | 分布式数据库的跨表事务支持方法、装置及可读存储介质 | |
CN110658989B (zh) | 用于备份存储垃圾收集的系统和方法 | |
CN115965481A (zh) | 数据处理方法、装置、计算机可读存储介质和计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |