CN109033127A - 一种同步数据校验方法、装置以及设备 - Google Patents

一种同步数据校验方法、装置以及设备 Download PDF

Info

Publication number
CN109033127A
CN109033127A CN201810549455.7A CN201810549455A CN109033127A CN 109033127 A CN109033127 A CN 109033127A CN 201810549455 A CN201810549455 A CN 201810549455A CN 109033127 A CN109033127 A CN 109033127A
Authority
CN
China
Prior art keywords
data
moment
full dose
database
delta
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810549455.7A
Other languages
English (en)
Other versions
CN109033127B (zh
Inventor
吕梁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Advantageous New Technologies Co Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201810549455.7A priority Critical patent/CN109033127B/zh
Publication of CN109033127A publication Critical patent/CN109033127A/zh
Application granted granted Critical
Publication of CN109033127B publication Critical patent/CN109033127B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Measurement Of Radiation (AREA)

Abstract

本说明书实施例公开了一种同步数据校验方法、装置以及设备。方案包括:获取备数据库第一时刻时的第一全量数据;获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。

Description

一种同步数据校验方法、装置以及设备
技术领域
本说明书涉及计算机软件技术领域,尤其涉及一种同步数据校验方法、装置以及设备。
背景技术
为了保证数据服务的可靠性,很多数据库都以主数据库加备数据库的形式部署,主数据库将自身的数据向备数据库同步。比如,对于MYSQL数据库,往往基于binlog同步数据,具体地,主数据库的数据变化记录在其binlog中,数据同步时将该binlog发送给备数据库,备数据库依次执行该binlog中的各条数据操作记录,从而实现主备数据库数据同步。
在实际应用中,主备数据库数据同步的一大问题是如何校验主备数据库数据是否一致。由于主备数据库数据同步存在时延,在同一时刻主数据库和备数据库中的数据可能是不完全相同的,那么这将会给同步数据校验带来麻烦。传统的做法是同时从主备数据库中分别取相同字段的数据比对,并多次用不同数据尝试复检。
基于此,需要更为可靠的同步数据校验方案。
发明内容
本说明书实施例提供一种同步数据校验方法、装置以及设备,用以解决如下技术问题:需要更为可靠的同步数据校验方案。
为解决上述技术问题,本说明书实施例是这样实现的:
本说明书实施例提供的一种同步数据校验方法,包括:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
本说明书实施例提供的一种同步数据校验装置,包括:
第一获取模块,获取备数据库第一时刻时的第一全量数据;
第二获取模块,获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
第三获取模块,获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
全量比对模块,根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
第四获取模块,若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
增量比对模块,根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
本说明书实施例提供的一种同步数据校验设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:根据数据库中已有数据加上变化数据,能够模拟出数据库一段时间内任意时间点的数据状态,以进行全量数据比对,再进一步地通过增量数据比对校验各数据库中数据的完整性,从而能够更为可靠地实现主备数据库的同步数据校验。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本说明书实施例提供的一种同步数据校验方法的流程示意图;
图2a~图2b为本说明书实施例提供的全量数据比对校验涉及的数据示意图;
图3a~图3b为本说明书实施例提供的增量数据比对校验涉及的数据示意图;
图4为本说明书实施例提供的对应于图1的一种同步数据校验装置的结构示意图。
具体实施方式
本说明书实施例提供一种同步数据校验方法、装置以及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本说明书实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
背景技术中传统的方案尤其不适用于数据库中数据频繁更新的场景,因为主数据库和备数据库(可以合称为:主备数据库)的数据在同一时间点不完全相同的可能性较大,则即使多次复检往往也难以校验通过(实际上数据可能是一致的,只是备数据库有滞后性而已),校验结果可靠性较差。说明书的方案能够提高校验结果的可靠性,而且也适用于上述场景,下面进行详细说明。
图1为本说明书实施例提供的一种同步数据校验方法的流程示意图,执行主体可以是管理主备数据库同步的管理软件及其所在设备,也可以是主备数据库本身及其所在设备。备数据库可以有一个或者多个,当有多个时,可以分别针对每个备数据库执行流程。
图1中的流程可以包括以下步骤:
S102:获取备数据库第一时刻时的第一全量数据。
S104:获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻。
在本说明书实施例中,诸如“第一”、“第二”等这类用词只是为了防止名词混淆而进行区别,不具有实际含义。
“全量数据”可以根据数据库中本次所需进行同步数据校验的数据确定范围,其有可能是数据库中的全部数据,也有可能只是部分数据。对于后一种情况,比如,假定只需要校验主备数据库中的其中一张数据表是否同步数据一致,则全量数据即指这张数据表。
在本说明书实施例中,全量数据可以是在相应的时刻实时读取获得的,或者,也可以通过日志等手段复现获得的,下面一些实施例主要以前一种方案为例说明。
S106:获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻。
在本说明书实施例中,变化数据的获取方式可以是多样的。比如,可以通过诸如主备数据库之间的同步数据流等数据流获取,或者可以通过binlog等日志获取等。
主备数据库之间的数据同步一般存在同步时延,则备数据库中的数据往往要滞后于主数据库中的数据,滞后时间一般小于等于该同步时延。考虑到同步时延,第三时刻比如可以尽量接近第一时刻,相应地,第四时刻与第二时刻之间的时间差可以尽量地接近该同步时延,如此,有利于使在数据同步正常的情况下,第一全量数据加上第一变化数据能够与第二全量数据保持一致。
S108:根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验。
之所以第二时刻不早于第一时刻,是为了保证第一全量数据滞后于第二全量数据,进而由第一全量数据结合第一变化数据可以去追第二全量数据,以便于进行全量数据比对校验。
在本说明书实施例中,由于同步时延的存在,第一全量数据往往滞后于第二全量数据,而第一变化数据可以包括滞后的这段时间内主数据库中的变化数据,从而可能使主备数据库的数据保持一致。相应地,这里进行全量数据比对,可以用第一全量数据结合第一变化数据,来与第二全量数据进行比对,以校验确定全量数据是否一致,若判定全量数据比对校验通过,则可以进一步地执行后面的增量数据比对校验,否则可以对不一致的数据核查修正,或者尝试获取更多的变化数据重新进行全量数据比对校验。
S110:若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据。
在本说明书实施例中,考虑到同步时延,第六时刻与第五时刻之间的时间差可以尽量地接近同步时延。
S112:根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
在本说明书实施例中,增量数据比对校验可以多次进行,比如,可以按照时间分段或者按照键分段等,按照新增的分段对应地逐次进行,各分段之间可以有部分重叠。需要说明的是,对时间区间选择的准确性程度往往也会影响对应的增量数据比对校验结果,单次的增量数据比对校验结果可以是不具有决定性的,比如,某次的增量数据比对校验有可能未通过,但是结合下次的增量数据比对校验结果得到的综合结果可能有是通过的。
在实际应用中,可以分别考虑每次的增量数据比对校验结果,或者也可以主要考虑当前的综合结果,以决策是否干预数据库的同步。
通过图1的方法,根据数据库中已有数据加上变化数据,能够模拟出数据库一段时间内任意时间点的数据快照,以进行全量数据比对,再进一步地通过增量数据比对校验各数据库中数据的完整性,从而能够更为可靠地实现主备数据库的同步数据校验。
基于图1的方法,本说明书实施例还提供了该方法的一些具体实施方案,下面进行说明。
在本说明书实施例中,在以数据流形式进行主备同步的情况下,第一变化数据、第二变化数据和第三变化数据中的至少一种可以根据主数据库与备数据库的数据流获得。除了数据流的形式以外,主备数据库还可以各自以数据库或者日志等方式记录自身的变化数据。
在本说明书实施例中,进行全量数据比对校验的具体方式可以是多样的。比如,可以直接用原始数据完整比对,可以先对原始数据排除冗余再进行比对等;再比如,可以按照时间顺序进行比对,可以根据不依赖于时间顺序,直接选择状态最新的数据(对同一条数据记录的多次更新相应得到的多条数据记录,时间最晚的数据记录为状态最新的数据)进行比对,等等。列举两种方案作为参考。
第一种方案,对于步骤S108,所述根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体可以包括:按时间顺序(从早至晚的顺序)读取第一变化数据中的数据记录,根据读取的数据记录覆盖第一全量数据中对应的数据记录,得到待比对数据;将第二全量数据与该待比对数据进行比对,若对应的数据记录的值均相同,则判定备数据库和主数据库的全量数据比对校验通过。
第二种方案,对于步骤S108,所述根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体可以包括:将第一全量数据和第二全量数据进行比对,保留第一全量数据中不同于第二全量数据的数据记录;按时间顺序读取第一变化数据中的数据记录,若能够顺序读取到保留的各数据记录(表示相应的数据确实正常同步了),则判定备数据库和主数据库的全量数据比对校验通过。
对于上面两种方案,在实际应用中,当第四时刻过于接近第二时刻时,有可能导致所获取的第一变化数据不够完整,可能有部分新的变化数据没有取到。针对这种情况,可以继续获取备数据库第四时刻之后的部分变化数据,用于全量数据比对校验。基于此,对于步骤S108,还可以执行:获取备数据库第四时刻之后不超过同步时延区间内的第四变化数据;结合第四变化数据,对备数据库和主数据库进行全量数据比对校验。
为了便于理解,参考图2a~图2b,以该第二种方案为例,对一种实际应用场景下的全量数据比对校验进行说明,图2a~图2b为本说明书实施例提供的全量数据比对校验涉及的数据示意图。为了便于描述,将第一时刻记作a时刻,第二时刻记作b时刻,第三时刻记作a’时刻,第四时刻记作b’时刻,假定通过数据库中的数据变化流获取变化数据,同步时延为1分钟(min),b>a,a'<a,b'>b,b'-b<1min。
图2a示出了所获取的第一全量数据和第二全量数据的时间节点,图2b示出了所获取的第一变化数据所属的时间区间。全量数据比对校验比如按照以下情况进行:
第一全量数据和第二全量数据进行比对,保留第一全量数据中不同于第二全量数据的数据记录,比如,假定保留了两条数据记录,分别为(id=9,a=1)、(id=10,a=2);
从备数据库的数据变化流中从a’时刻开始,按照时间顺序读取数据;
先读取到(id=9,a=1),然后在b’时刻读取到(id=10,a=2),则可以判定全量数据比对校验通过;
先读取到(id=9,a=1)、(id=8,a=0)、(id=8,a=1),然后在b’时刻读取到(id=10,a=2),并且第二全量数据中存在(id=8,a=1),则可以判定全量数据比对校验通过;
如果在b+1min时刻还未读取到(id=10,a=2),则可以判定全量数据比对校验未通过;
如果在b’时刻读取到(id=10,a=2),但是没有读取到(id=9,a=1)或者其他数据记录未比对成功,继续往后读取,直到下一个读取到(id=10,a=2)的时刻或者超过1min,则可以判定全量数据比对校验未通过。
在本说明书实施例中,类似地,进行增量数据比对校验的具体方式也可以是多样的。也列举两种方案作为参考。
第一种方案,对于步骤S112,所述根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体可以包括:按时间顺序分别读取第二变化数据和第三变化数据中的数据记录并进行比对,若第三变化数据包含第二变化数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
第二种方案,对于步骤S112,所述根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体可以包括:按时间顺序读取第二变化数据,对于对应的数据记录,保留时间最晚的数据记录,得到待比对数据;按时间顺序读取第三变化数据中的数据记录并与该待比对数据进行比对,若第三变化数据包含该待比对数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
为了便于理解,继续沿用图2a~图2b及相关假定条件,参考图3a~图3b,以该第二种方案为例,对一种实际应用场景下的增量数据比对校验进行说明,图3a~图3b为本说明书实施例提供的增量数据比对校验涉及的数据示意图。为了便于描述,将第五时刻记作c时刻,第六时刻记作c’时刻,c'>c,一般地,第六时刻比如可以晚于第五时刻不少于同步时延。
图3a示出了所获取的第二变化数据所属的时间区间,图3b示出了所获取的第三变化数据所属的时间区间。增量数据比对校验比如按照以下情况进行:
先从主数据库的数据变化流读取得到第二变化数据,对其进行除冗操作,保留最新状态的数据,比如,对于对应的两条数据记录(id=1,a=1)、(id=1,a=3),若(id=1,a=3)的时间更晚,则覆盖掉(id=1,a=1),保留(id=1,a=3);
从备数据库的数据变化流的时刻b’开始读取数据,并以可以依次与第二变化数据除冗操作后保留下的数据记录进行比对,以校验是否一致。
基于同样的思路,本说明书实施例还提供了上述方法对应的装置,如图4所示。
图4为本说明书实施例提供的对应于图1的一种同步数据校验装置的结构示意图,所述装置包括:
第一获取模块401,获取备数据库第一时刻时的第一全量数据;
第二获取模块402,获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
第三获取模块403,获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
全量比对模块404,根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
第四获取模块405,若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
增量比对模块406,根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
可选地,第一变化数据、第二变化数据和第三变化数据中的至少一种根据主数据库与备数据库的数据流获得。
可选地,所述全量比对模块404根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
所述全量比对模块404按时间顺序读取第一变化数据中的数据记录,根据读取的数据记录覆盖第一全量数据中对应的数据记录,得到待比对数据;
将第二全量数据与该待比对数据进行比对,若对应的数据记录的值均相同,则判定备数据库和主数据库的全量数据比对校验通过。
可选地,所述全量比对模块404根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
所述全量比对模块404将第一全量数据和第二全量数据进行比对,保留第一全量数据中不同于第二全量数据的数据记录;
按时间顺序读取第一变化数据中的数据记录,若能够顺序读取到保留的各数据记录,则判定备数据库和主数据库的全量数据比对校验通过。
可选地,所述第三获取模块403还获取备数据库第四时刻之后不超过同步时延区间内的第四变化数据;
所述全量比对模块404结合第四变化数据,对备数据库和主数据库进行全量数据比对校验。
可选地,所述增量比对模块406根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
所述增量比对模块406按时间顺序分别读取第二变化数据和第三变化数据中的数据记录并进行比对,若第三变化数据包含第二变化数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
可选地,所述增量比对模块406根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
所述增量比对模块406按时间顺序读取第二变化数据,对于对应的数据记录,保留时间最晚的数据记录,得到待比对数据;
按时间顺序读取第三变化数据中的数据记录并与该待比对数据进行比对,若第三变化数据包含该待比对数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
可选地,第六时刻晚于第五时刻不少于同步时延。
基于同样的思路,本说明书实施例还提供了上述方法对应的设备和非易失性计算机存储介质。
本说明书实施例提供的对应于图1的一种同步数据校验设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
本说明书实施例提供的对应于图1的一种非易失性计算机存储介质,存储有计算机可执行指令,所述计算机可执行指令设置为:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、设备、非易失性计算机存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书实施例提供的装置、设备、非易失性计算机存储介质与方法是对应的,因此,装置、设备、非易失性计算机存储介质也具有与对应方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述对应装置、设备、非易失性计算机存储介质的有益技术效果。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书实施例可提供为方法、系统、或计算机程序产品。因此,本说明书实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (17)

1.一种同步数据校验方法,包括:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
2.如权利要求1所述的方法,第一变化数据、第二变化数据和第三变化数据中的至少一种根据主数据库与备数据库的数据流获得。
3.如权利要求1所述的方法,所述根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
按时间顺序读取第一变化数据中的数据记录,根据读取的数据记录覆盖第一全量数据中对应的数据记录,得到待比对数据;
将第二全量数据与该待比对数据进行比对,若对应的数据记录的值均相同,则判定备数据库和主数据库的全量数据比对校验通过。
4.如权利要求1所述的方法,所述根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
将第一全量数据和第二全量数据进行比对,保留第一全量数据中不同于第二全量数据的数据记录;
按时间顺序读取第一变化数据中的数据记录,若能够顺序读取到保留的各数据记录,则判定备数据库和主数据库的全量数据比对校验通过。
5.如权利要求3或4所述的方法,所述方法还包括:
获取备数据库第四时刻之后不超过同步时延区间内的第四变化数据;
结合第四变化数据,对备数据库和主数据库进行全量数据比对校验。
6.如权利要求1所述的方法,所述根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
按时间顺序分别读取第二变化数据和第三变化数据中的数据记录并进行比对,若第三变化数据包含第二变化数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
7.如权利要求1所述的方法,所述根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
按时间顺序读取第二变化数据,对于对应的数据记录,保留时间最晚的数据记录,得到待比对数据;
按时间顺序读取第三变化数据中的数据记录并与该待比对数据进行比对,若第三变化数据包含该待比对数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
8.如权利要求6或7所述的方法,第六时刻晚于第五时刻不少于同步时延。
9.一种同步数据校验装置,包括:
第一获取模块,获取备数据库第一时刻时的第一全量数据;
第二获取模块,获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
第三获取模块,获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
全量比对模块,根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
第四获取模块,若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
增量比对模块,根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
10.如权利要求9所述的装置,第一变化数据、第二变化数据和第三变化数据中的至少一种根据主数据库与备数据库的数据流获得。
11.如权利要求9所述的装置,所述全量比对模块根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
所述全量比对模块按时间顺序读取第一变化数据中的数据记录,根据读取的数据记录覆盖第一全量数据中对应的数据记录,得到待比对数据;
将第二全量数据与该待比对数据进行比对,若对应的数据记录的值均相同,则判定备数据库和主数据库的全量数据比对校验通过。
12.如权利要求9所述的装置,所述全量比对模块根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验,具体包括:
所述全量比对模块将第一全量数据和第二全量数据进行比对,保留第一全量数据中不同于第二全量数据的数据记录;
按时间顺序读取第一变化数据中的数据记录,若能够顺序读取到保留的各数据记录,则判定备数据库和主数据库的全量数据比对校验通过。
13.如权利要求11或12所述的装置,所述第三获取模块还获取备数据库第四时刻之后不超过同步时延区间内的第四变化数据;
所述全量比对模块结合第四变化数据,对备数据库和主数据库进行全量数据比对校验。
14.如权利要求9所述的装置,所述增量比对模块根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
所述增量比对模块按时间顺序分别读取第二变化数据和第三变化数据中的数据记录并进行比对,若第三变化数据包含第二变化数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
15.如权利要求9所述的装置,所述增量比对模块根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验,具体包括:
所述增量比对模块按时间顺序读取第二变化数据,对于对应的数据记录,保留时间最晚的数据记录,得到待比对数据;
按时间顺序读取第三变化数据中的数据记录并与该待比对数据进行比对,若第三变化数据包含该待比对数据中的全部数据记录且顺序一致,则判定备数据库和主数据库的增量数据比对校验通过。
16.如权利要求14或15所述的装置,第六时刻晚于第五时刻不少于同步时延。
17.一种同步数据校验设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取备数据库第一时刻时的第一全量数据;
获取主数据库第二时刻时的第二全量数据,第二时刻不早于第一时刻;
获取备数据库第三时刻至第四时刻区间内的第一变化数据,第一时刻不早于第三时刻,第四时刻不早于第二时刻;
根据第一全量数据、第二全量数据和第一变化数据,对备数据库和主数据库进行全量数据比对校验;
若全量数据比对校验通过,则获取主数据库第二时刻至第五时刻区间内的第二变化数据,以及备数据库第四时刻至第六时刻区间内的第三变化数据;
根据第二变化数据和第三变化数据,对备数据库和主数据库进行增量数据比对校验。
CN201810549455.7A 2018-05-31 2018-05-31 一种同步数据校验方法、装置以及设备 Active CN109033127B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810549455.7A CN109033127B (zh) 2018-05-31 2018-05-31 一种同步数据校验方法、装置以及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810549455.7A CN109033127B (zh) 2018-05-31 2018-05-31 一种同步数据校验方法、装置以及设备

Publications (2)

Publication Number Publication Date
CN109033127A true CN109033127A (zh) 2018-12-18
CN109033127B CN109033127B (zh) 2021-10-29

Family

ID=64611731

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810549455.7A Active CN109033127B (zh) 2018-05-31 2018-05-31 一种同步数据校验方法、装置以及设备

Country Status (1)

Country Link
CN (1) CN109033127B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111104445A (zh) * 2019-12-06 2020-05-05 杭州数梦工场科技有限公司 数据同步方法、装置及设备
CN111125137A (zh) * 2019-12-26 2020-05-08 航天壹进制(南京)数据科技有限公司 一种分批实时保护数据校验的方法
WO2021169214A1 (zh) * 2020-02-27 2021-09-02 华为技术有限公司 一种数据处理方法、装置、设备及介质
CN113391956A (zh) * 2021-06-23 2021-09-14 中国工商银行股份有限公司 一种双园区的数据校验方法及装置
CN114385631A (zh) * 2021-12-17 2022-04-22 北京达佳互联信息技术有限公司 校验方法、装置、服务器及存储介质
US11941023B2 (en) 2019-06-26 2024-03-26 Zte Corporation System and method for implementing incremental data comparison

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101436209A (zh) * 2008-12-15 2009-05-20 中兴通讯股份有限公司 一种多数据库同步的方法和装置
US20130073524A1 (en) * 2010-10-18 2013-03-21 Michael Bentkofsky Database synchronization and validation
CN103049353A (zh) * 2012-12-21 2013-04-17 华为技术有限公司 一种数据备份方法及相关装置
CN104346454A (zh) * 2014-10-30 2015-02-11 上海新炬网络技术有限公司 基于Oracle数据库的数据一致性校验方法
CN104504062A (zh) * 2014-12-22 2015-04-08 浙江宇视科技有限公司 主备数据库数据同步方法及装置
US20150317351A1 (en) * 2013-01-11 2015-11-05 Tencent Technology (Shenzhen) Company Limited Method and device for verifying consistency of data of master device and slave device
CN105589961A (zh) * 2015-12-21 2016-05-18 武汉达梦数据库有限公司 一种数据库实时同步系统数据一致性的检测方法及系统
US20160203201A1 (en) * 2015-01-14 2016-07-14 Alibaba Group Holding Limited Data backup method and apparatus
CN106708842A (zh) * 2015-11-12 2017-05-24 阿里巴巴集团控股有限公司 一种应用系统加载数据的方法和数据库、应用系统
CN107729515A (zh) * 2017-10-26 2018-02-23 咪咕文化科技有限公司 一种数据同步的方法、装置及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101436209A (zh) * 2008-12-15 2009-05-20 中兴通讯股份有限公司 一种多数据库同步的方法和装置
US20130073524A1 (en) * 2010-10-18 2013-03-21 Michael Bentkofsky Database synchronization and validation
CN103049353A (zh) * 2012-12-21 2013-04-17 华为技术有限公司 一种数据备份方法及相关装置
US20150317351A1 (en) * 2013-01-11 2015-11-05 Tencent Technology (Shenzhen) Company Limited Method and device for verifying consistency of data of master device and slave device
CN104346454A (zh) * 2014-10-30 2015-02-11 上海新炬网络技术有限公司 基于Oracle数据库的数据一致性校验方法
CN104504062A (zh) * 2014-12-22 2015-04-08 浙江宇视科技有限公司 主备数据库数据同步方法及装置
US20160203201A1 (en) * 2015-01-14 2016-07-14 Alibaba Group Holding Limited Data backup method and apparatus
CN106708842A (zh) * 2015-11-12 2017-05-24 阿里巴巴集团控股有限公司 一种应用系统加载数据的方法和数据库、应用系统
CN105589961A (zh) * 2015-12-21 2016-05-18 武汉达梦数据库有限公司 一种数据库实时同步系统数据一致性的检测方法及系统
CN107729515A (zh) * 2017-10-26 2018-02-23 咪咕文化科技有限公司 一种数据同步的方法、装置及存储介质

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11941023B2 (en) 2019-06-26 2024-03-26 Zte Corporation System and method for implementing incremental data comparison
CN111104445A (zh) * 2019-12-06 2020-05-05 杭州数梦工场科技有限公司 数据同步方法、装置及设备
CN111125137A (zh) * 2019-12-26 2020-05-08 航天壹进制(南京)数据科技有限公司 一种分批实时保护数据校验的方法
CN111125137B (zh) * 2019-12-26 2022-03-15 航天壹进制(南京)数据科技有限公司 一种分批实时保护数据校验的方法
WO2021169214A1 (zh) * 2020-02-27 2021-09-02 华为技术有限公司 一种数据处理方法、装置、设备及介质
CN113391956A (zh) * 2021-06-23 2021-09-14 中国工商银行股份有限公司 一种双园区的数据校验方法及装置
CN113391956B (zh) * 2021-06-23 2024-02-27 中国工商银行股份有限公司 一种双园区的数据校验方法及装置
CN114385631A (zh) * 2021-12-17 2022-04-22 北京达佳互联信息技术有限公司 校验方法、装置、服务器及存储介质

Also Published As

Publication number Publication date
CN109033127B (zh) 2021-10-29

Similar Documents

Publication Publication Date Title
CN109033127A (zh) 一种同步数据校验方法、装置以及设备
TWI691855B (zh) 基於區塊鏈的資料處理方法及設備
CN107391527B (zh) 一种基于区块链的数据处理方法及设备
CN110096528A (zh) 一种分布式系统中生成序列的方法、装置及系统
CN107679700A (zh) 业务流程处理方法、装置及服务器
CN109634561A (zh) 一种在线可视化编程方法及装置
CN108733546A (zh) 一种日志采集方法、装置及设备
CN109582485A (zh) 一种配置变更异常检测方法及装置
CN108959341A (zh) 一种数据同步的方法、装置及设备
CN110989939A (zh) 一种数据缓存处理方法、装置、设备及缓存组件
CN109241026A (zh) 数据管理的方法、装置及系统
CN109922298A (zh) 会议室监控方法和装置
CN105868216B (zh) 一种实现对象过期操作的方法、装置和设备
CN109614393A (zh) 数据核对方法及装置
CN109597817A (zh) 一种缓存数据处理方法、装置、设备及介质
CN108804563A (zh) 一种数据标注方法、装置以及设备
CN110502575A (zh) 一种数据同步的方法、装置以及设备
CN110443007A (zh) 一种多媒体数据的溯源检测方法、装置及设备
CN109388764A (zh) 一种本地缓存的更新方法、装置、设备及系统
CN110019975A (zh) 随机游走、基于集群的随机游走方法、装置以及设备
CN109446271A (zh) 一种数据同步方法、装置、设备及介质
CN108921375A (zh) 一种数据处理方法和装置
CN110032565A (zh) 一种生成统计信息的方法、系统以及电子设备
US7567137B2 (en) Programmable oscillators for high frequency clock generation for simulation environments
CN115098271B (zh) 一种多线程数据处理方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20201022

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Innovative advanced technology Co.,Ltd.

Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant before: Advanced innovation technology Co.,Ltd.

Effective date of registration: 20201022

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman Islands

Applicant after: Advanced innovation technology Co.,Ltd.

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Ltd.

GR01 Patent grant
GR01 Patent grant