CN110851533A - 跨异构数据库的数据同步方法、装置、介质及电子设备 - Google Patents
跨异构数据库的数据同步方法、装置、介质及电子设备 Download PDFInfo
- Publication number
- CN110851533A CN110851533A CN201911106295.XA CN201911106295A CN110851533A CN 110851533 A CN110851533 A CN 110851533A CN 201911106295 A CN201911106295 A CN 201911106295A CN 110851533 A CN110851533 A CN 110851533A
- Authority
- CN
- China
- Prior art keywords
- data
- database
- synchronized
- export
- batch processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 230000001360 synchronised effect Effects 0.000 claims abstract description 84
- 238000012545 processing Methods 0.000 claims abstract description 74
- 230000004044 response Effects 0.000 claims abstract description 17
- 238000013515 script Methods 0.000 claims description 22
- 230000008676 import Effects 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008859 change Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000012423 maintenance Methods 0.000 description 5
- 238000010923 batch production Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 239000000523 sample Substances 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000007958 sleep Effects 0.000 description 1
- 239000000344 soap Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种跨异构数据库的数据同步方法、装置、介质及电子设备,该跨异构数据库的数据同步方法包括:查询第一数据库以判断是否完成针对待同步数据的批处理;响应于查询到针对待同步数据的批处理已完成,从所述第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;查询所述记录文件,响应于查询到导出完成信息向第二数据库导入所述批处理完成的待同步数据。本发明实施例的技术方案通过在进行数据同步之前先对第一数据库进行查询,以判断是否完成针对待同步数据的批处理,防止出现导入第二数据库的数据不完整的情况,从根源上杜绝了数据同步失败的发生。
Description
技术领域
本发明涉及数据库同步技术领域,具体而言,涉及一种跨异构数据库的数据同步方法、装置、介质及电子设备。
背景技术
保险公司的数据库主要包括保单管理系统数据库和业务系统数据库,保险公司的保单管理系统每天都会生成大量的保单交易数据,以供各种外围系统使用。这些数据在保单管理系统数据库中产生,在业务系统数据库中进行访问;保单交易数据会在保单管理系统数据库中通过数据批处理后被同步到业务系统数据库中。目前数据传输主要有两种方式:对于轻量级数据,可以采用Web Service接口进行传输,如Restful、SOAP等服务;对于重量级数据,通常在数据库与数据库之间通过数据库脚本进行传输。现有技术中,两个数据库之间的数据传输主要通过如下方式进行:
采用数据脚本在保单管理系统数据库和业务系统数据库之间进行数据传输,数据脚本包括导出数据脚本和导入数据脚本;导出数据脚本在一个指定时间点从保单管理系统数据库中对数据进行导出,导入数据脚本用于将导出的数据导入到业务系统数据库。但是,当出现业务节点或出现保单管理系统数据库压力较大时,都有可能导致批处理延迟。如果出现在该时间点保单管理系统数据库中的保单交易批处理未完成的情况,则会导致数据的导出失败,一旦遇到这种情况,则需要运维人员的介入,因此便会产生大量的运维成本。
目前,只基于数据库自身的脚本和shell难以解决批处理延迟导致数据同步失败的问题,同时,由于目前关系型数据库计算资源受横向扩张的制约,在上述技术问题解决过程中,应尽可能采用轻量级的架构,避免过多损耗数据库的性能。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种跨异构数据库的数据同步方法、装置、介质及电子设备,进而克服由于批处理进程和数据同步过程中的数据导出进程同时发生而导致的数据同步失败的问题。
本发明的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明的实践而习得。
根据本发明实施例的第一方面,提供了一种跨系统异构数据库的数据同步方法,包括:查询第一数据库以判断是否完成针对待同步数据的批处理;响应于查询到针对待同步数据的批处理已完成,从所述第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;查询所述记录文件,响应于查询到导出完成信息向第二数据库导入所述批处理完成的待同步数据。
在本发明的一些实施例中,基于前述方案,所述第一数据库包括用于记录预定时段内批处理完成的数据的临时表,以及查询第一数据库以判断是否完成针对待同步数据的批处理包括:探测所述临时表中是否存在数据;对存在数据的所述临时表的数据量周期性地进行第一查询;根据所述临时表的数据量变化情况判断针对待同步数据的批处理是否完成;其中,将本次第一查询查询出的数据量与上次第一查询查询出的数据量进行对比,若本次第一查询查询出的数据量等于上次第一查询查询出的数据量,则针对待同步数据的批处理已完成。
在本发明的一些实施例中,基于前述方案,以偶数时间间隔对存在数据的所述临时表的数据量周期性地进行第一查询。
在本发明的一些实施例中,基于前述方案,查询所述记录文件包括:对所述记录文件周期性地进行第二查询;判断所述记录文件是否包括导出完成信息。
在本发明的一些实施例中,基于前述方案,以奇数时间间隔对所述记录文件周期性地进行第二查询。
在本发明的一些实施例中,基于前述方案,调用封装的数据导出脚本从所述第一数据库中导出所述批处理完成的待同步数据;以及调用封装的数据导入脚本向所述第二数据库导入所述批处理完成的待同步数据。
在本发明的一些实施例中,基于前述方案,所述方法还包括:记录所述第二数据库已导入的数据信息,所述第二数据库已导入的数据信息用于判断所述批处理完成的待同步数据是否已经导入所述第二数据库。
根据本发明实施例的第二方面,提供了一种跨异构数据库的数据同步装置,包括:查询模块,用于查询第一数据库以判断是否完成针对待同步数据的批处理;导出模块,用于响应于查询到针对待同步数据的批处理已完成,从所述第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;导入模块,用于查询所述记录文件,响应于查询到导出完成信息向第二数据库导入所述批处理完成的待同步数据。
根据本发明实施例的第三方面,提供了一种计算机可读介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述实施例中第一方面所述的跨异构数据库的数据同步方法。
根据本发明实施例的第四方面,提供了一种电子设备,包括:一个或多个处理器;存储系统,用于存储一个或多个计算机程序,当所述一个或多个计算机程序被所述一个或多个处理器执行时,使得所述电子设备实现如上述实施例中第一方面所述的跨异构数据库的数据同步方法。
本发明实施例提供的技术方案可以包括以下有益效果:
在本发明的一些实施例所提供的技术方案中,通过在进行数据同步之前先对第一数据库进行查询,以判断是否完成针对待同步数据的批处理,防止出现数据导出不完整的情况,从根源上杜绝了数据同步失败的发生、减轻了运维成本。通过在记录文件中存放导出完成信息并且对记录文件进行查询,若查询到导出完成信息,则表示数据的导出已经完成,则将从第一数据库导出的数据导入第二数据库,确保了每次导入第二数据库的数据都属于批处理完成且导出完成的数据,从而进一步保证了第一数据库和第二数据库之间数据同步的准确性,并且提高了数据同步的效率、减少了资源的使用。此外,通过以偶数时间间隔对保单交易临时表的数据量周期性地进行第一查询,以奇数时间间隔对记录文件周期性地进行第二查询,避免了同一文件锁竞争的问题,提高了数据同步过程中的稳定性以及数据同步的准确性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示意性示出了根据本发明的一个实施例的跨异构数据库的数据同步方法的流程图;
图2示意性示出了在异构数据库之间同步数据的一个具体示例的流程图;
图3示意性示出了根据本发明的一个实施例的跨异构数据库的数据同步装置的框图;
图4示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、系统、步骤等。在其它情况下,不详细示出或描述公知方法、系统、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器系统和/或微控制器系统中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示意性示出了根据本发明一个实施例的跨异构数据库的数据同步方法的流程图,该数据同步方法的执行主体可以是服务器或终端设备等。
如图1所示,根据本发明一个实施例的跨异构数据库的数据同步方法包括步骤S110-S130。其中,第一数据库可以是保单管理系统对应的数据库,第二数据库是可以业务系统对应的数据库,以下详细进行说明:
在步骤S110中,查询第一数据库以判断是否完成针对待同步数据的批处理。
数据在第一数据库中产生,经过批处理后被同步至第二数据库中。现有技术中,通常会在指定的时间内完成数据的批处理,但受服务器压力或者业务节点的影响,有时候批处理会出现延迟。批处理一旦延迟之后,数据同步过程中数据的导出就很容易和批处理发生于同一时间点,这么一来,就会使得导出的数据不完整,进而导致导入第二数据库的数据不完整。为了防止出现数据的导出和批处理同时发生的情况,在进行数据同步之前先对第一数据库进行查询,以判断是否完成针对待同步数据的批处理,防止出现导出的数据不完整的情况,从根源上杜绝了数据同步失败的发生。根据本发明的一个实施例,在第一数据库中设置保单交易临时表,利用该保单交易临时表并且采用以下步骤来判断是否完成针对待同步数据的批处理:
步骤S1101.探测保单交易临时表中是否存在数据。
在本发明的一个实施例中,保单交易临时表用于记录某个时间段内的批处理过的数据,但是该数据所属的批处理有可能还在进行中,也有可能已经完成。若该时间段内发生过批处理,或者正在发生批处理,则保单交易临时表中都会存在数据,若该时间段内没有发生过批处理,则保单交易临时表中不存在数据。当保单临时交易表中的数据被同步后,则这部分数据变成已同步数据,保单临时交易表中的这一部分已同步数据便会被清除。
在本发明的一个实施例中,第一数据库和第二数据库数据同步的对象是经过批处理后的数据。因此,若该时间段内没有发生过批处理,则不需要进行数据同步。在数据同步前,应先判断保单交易临时表中是否存在数据。具体地,可以通过向保单交易表发送一个结构化查询语言,这里可以将该结构化查询语句称之为探针,判断该时间段内保单交易临时表中是否存在数据,若存在数据则准备进行数据同步;若不存在数据,则说明该时间段内没有进行批处理,则间隔一段时间后,再发送一次探针,直到查询到保单交易临时表中存在数据为止。
步骤S1102.对存在数据的保单交易临时表的数据量周期性地进行第一查询,根据保单交易临时表的数据量变化情况判断针对待同步数据的批处理是否完成。其中,将本次第一查询查询出的数据量与上次第一查询查询出的数据量进行对比,若本次第一查询查询出的数据量等于上次第一查询查询出的数据量,则针对待同步数据的批处理已完成。
在本发明的一个实施例中,若保单交易临时表中存在数据,则可以说明在该时间段内存在批处理,接下来需要对批处理的状态进行判断。本实施例中通过对保单交易临时表中的数据量周期性地进行第一查询来对批处理的状态进行判断,若批处理正在进行,则保单交易临时表中的数据量会随着周期性查询呈逐渐增加的趋势;若批处理已经结束,则在下一次批处理开始前保单交易临时表中的数据量不再变化,即保持恒定。可以在每进行一次第一查询后对查询结果进行记录,将本次第一查询查询出的数据量与上次第一查询查询出的数据量进行对比,若本次第一查询查询出的数据量大于上次第一查询查询出的数据量,则待同步数据所属的批处理未完成;若本次第一查询查询出的数据量等于上次第一查询查询出的数据量,则保单交易临时表中的数据所属的批处理已完成。
在步骤S120中,响应于查询到针对待同步数据的批处理已完成,从第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中。
在本发明的一个实施例中,在批处理完成后对待同步数据进行导出,并在导出完成后生成导出完成信息存放在记录文件中。待同步数据未完成批处理则不执行导出,也就是批处理过程和数据导出过程不会同时进行。在批处理完成后,对批处理完成的待同步数据进行导出,防止导出的数据出现混乱,从而影响第一数据库和第二数据库数据的同步准确性。具体地,从第一数据库中导出批处理完成的待同步数据采用如下方式进行:调用封装的数据导出脚本从第一数据库中导出批处理完成的待同步数据。
在步骤S130中,查询记录文件,响应于查询到导出完成信息向第二数据库导入批处理完成的待同步数据。
如上文所述,在批处理完成的待同步数据完全导出后,导出完成信息会被存放在记录文件中。通过对记录文件进行查询,若查询到导出完成信息,则表示批处理完成的待同步数据的导出已经完成,将从第一数据库导出的待同步数据导入第二数据库。这确保了导入第二数据库的待同步数据都属于批处理完成的数据,从而保证了第一数据库和第二数据库之间数据同步的准确性。根据本发明的一个实施例,步骤S130包括如下子步骤:
步骤S1301.对记录文件周期性地进行第二查询。
在本发明的一个实施例中,周期性地对记录文件进行第二查询,以查询记录文件中是否存在导出完成信息。因为在将数据导入第二数据库时,若数据导出操作还未执行完毕,则会导致导入第二数据库中的数据不完整、不准确。在本发明的一个实施例中,为了解决针对记录文件的锁竞争的问题,还可以规定第一查询和第二查询在不同时刻发生,例如以偶数间隔(即偶数时间间隔)对保单交易临时表的数据量周期性地进行第一查询,而以奇数间隔(即基数时间间隔,例如7分钟)对所述记录文件周期性地进行第二查询。
步骤S1302,判断记录文件是否包括导出完成信息。
在本发明的一个实施例中,若记录文件中存在待同步数据的导出完成信息,则说明待同步数据的导出操作已经完成,若记录文件中不存在待同步数据的导出完成信息,则说明待同步数据的导出还没有开始,或者正在执行过程中。
步骤S1303.响应于查询到导出完成信息向第二数据库导入批处理完成的待同步数据
在本发明的一个实施例中,向第二数据库导入批处理完成的待同步数据采用如下方式进行:调用封装的数据导入脚本向第二数据库导入批处理完成的待同步数据。采用封装的形式,一方面提高了数据同步效率,另一方面还具备扩展弹性。
在上述实施例中,通过在进行数据同步之前先对第一数据库进行查询,以判断是否完成针对待同步数据的批处理,防止出现数据导出不完整的情况,从根源上杜绝了数据同步失败的发生、减轻了运维成本。通过在记录文件中存放导出完成信息并且对记录文件进行查询,若查询到导出完成信息,则表示数据的导出已经完成,则将从第一数据库导出的数据导入第二数据库,确保了每次导入第二数据库的数据都属于批处理完成且导出完成的数据,从而进一步保证了第一数据库和第二数据库之间数据同步的准确性,并且提高了数据同步的效率、减少了资源的使用。此外,通过以偶数时间间隔对保单交易临时表的数据量周期性地进行第一查询,以奇数时间间隔对记录文件周期性地进行第二查询,避免了同一文件锁竞争的问题,提高了数据同步过程中的稳定性以及数据同步的准确性。
在一个优选的实施例中,为了防止第二数据库中出现重复的数据,跨异构数据库的数据同步方法还可以包括:记录第二数据库已导入的数据信息,该第二数据库已导入的数据信息用于判断批处理完成的待同步数据是否已经导入所述第二数据库。具体包括:建立配置文件对导入至第二数据库的数据进行记录,在数据导入开始之前,删除已导出的待同步数据中与配置文件中的数据重复的数据,从而防止导入第二数据库中的数据存在重复数据。在一个优选的实施例中,在数据导入开始之后,可以对配置文件周期性地进行第三查询,判断配置文件中是否存在本次导入的数据,若存在,则表示该批处理完成的待同步数据已经导入到第二数据库中,停止进行第三查询;若不存在,则表示该批处理完成的待同步数据正在导入到第二数据库中,继续进行第三查询。
下面参照图2提供根据本发明实施例的跨异构数据库的数据同步方法在异构数据库之间同步数据的一个具体示例。
如图2所示,DB2模块包括第一数据库(CSC数据库,CSC数据库还包括保单交易临时表),并且负责待同步数据的导出;ORACLE模块包括第二数据库(ORACLE数据库),并且负责待同步数据的导入,DB2模块和ORACLE模块可以部署在同一台服务器上。
DB2模块中的DB2数据同步控制中心首先发送一个轻量级sql语句,以访问并查询CSC数据库中的保单交易临时表,从而判断是否存在当天的数据,这个步骤称之为“探针”。如果没有当天数据,表示批处理还没有开始,则继续等待;如果存在当天的数据,则线程休眠一段时间(例如10分钟)后,判断保单交易临时表中的数据量是否有变化,如果有变化则继续周期性地查询该保单交易临时表(其中,以偶数时间间隔判断批处理是否完成),直至保单交易批处理完毕。如果保单交易临时表中的数据量成稳定状态(即保单交易批处理完毕),则开始导出数据,从而防止导出的数据是非全量数据。DB2模块通过Python的subprocess模块调用shell脚本,使用DB2脚本导出数据,其中调用的数据导出脚本封装在qunueExport.ini文件中,这种方式与ODBC方式相比可以大幅度提高效率,减少资源使用。在数据导出完成后,将导出完成信息(或简称为导出信息)存入到records.ini文件中,通过该文件实现和ORACLE模块的轻量级通信,从而降低多数据库对计算资源的需求。
ORACLE模块以奇数时间间隔(例如7分钟)扫描records.ini文件,查询是否存在导出完成信息,即查看数据导出是否完成。如前所述,在DB2模块中以偶数时间间隔来判断批处理是否完成,而ORACLE模块扫描records.ini文件采用奇数时间间隔,这样,通过采用不同的时间间隔解决了同一文件锁竞争的问题。如果查询到导出完成信息,则开始往业务系统导入数据。ORACLE模块通过subprocess调用数据导入脚本对导出数据进行导入,与上述数据导出脚本类似,数据导入脚本被封装成独立模块,从而提高了数据同步效率,同时具备扩展弹性,可用于多个数据模块的同步。另外,为了防止数据重复导入,在将数据导入到ORACLE数据库后,建立writings.ini文件,用于记录导入数据信息。在将数据导入业务系统后,以ODBC的形式记录数据导入信息。随后,业务系统可以开始保单交易信息处理,并且结合业务员信息、客户信息等,对续期、满期和失效客户数据进行分配。该示例由于解决了批处理延迟数据获取不到的问题,因此避免了目标系统业务规则处理异常,并且减轻了运维成本。
以下结合附图介绍本发明的装置实施例。
图3示意性示出了根据本发明一个实施例的跨异构数据库的数据同步装置300的框图,该跨异构数据库的数据同步装置300包括查询模块301、导出模块302和导入模块303。
查询模块301用于查询第一数据库以判断是否完成针对待同步数据的批处理。根据本发明的一个实施例,第一数据库包括用于记录预定时段内批处理完成的数据的保单交易临时表,查询模块301用于探测保单交易临时表中是否存在数据;对存在数据的保单交易临时表的数据量周期性地进行第一查询;根据保单交易临时表的数据量变化情况判断针对待同步数据的批处理是否完成。其中,将本次第一查询查询出的数据量与上次第一查询查询出的数据量进行对比,若本次第一查询查询出的数据量等于上次第一查询查询出的数据量,则针对待同步数据的批处理已完成。根据本发明的一个实施例,查询模块301以偶数时间间隔对存在数据的保单交易临时表的数据量周期性地进行第一查询。
导出模块302用于响应于查询到针对待同步数据的批处理已完成,从第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中。其中,调用封装的数据导出脚本从第一数据库中导出批处理完成的待同步数据。
导入模块303用于查询记录文件,响应于查询到导出完成信息向第二数据库导入批处理完成的待同步数据。其中,调用封装的数据导入脚本向第二数据库导入批处理完成的待同步数据。根据本发明的一个实施例,导入模块303用于对记录文件周期性地进行第二查询,并且判断记录文件是否包括导出完成信息。根据本发明的一个实施例,导入模块303以奇数时间间隔对记录文件周期性地进行第二查询,根据本发明的一个实施例,导入模块303还用于记录第二数据库已导入的数据信息;该第二数据库已导入的数据信息用于判断批处理完成的待同步数据是否已经导入第二数据库。
由于本发明的示例实施例的跨异构数据库的数据同步装置300的各个功能模块与上述跨异构数据库的数据同步方法的示例实施例的步骤对应,因此对于跨异构数据库的数据同步装置300的实施例中未披露的细节,请参照本发明上述的跨异构数据库的数据同步方法的实施例。
下面参考图4,其示出了适于用来实现本发明实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备的计算机系统400仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统400包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统操作所需的各种程序和数据。CPU401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、系统或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、系统或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、系统或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的跨异构数据库的数据同步方法。
例如,所述的电子设备可以实现如图1中所示的:步骤S110查询第一数据库以判断是否完成针对待同步数据的批处理;步骤S120,响应于查询到针对待同步数据的批处理已完成,从第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;步骤S130,查询记录文件,响应于查询到导出完成信息向第二数据库导入批处理完成的待同步数据。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (10)
1.一种跨异构数据库的数据同步方法,其特征在于,包括:
查询第一数据库以判断是否完成针对待同步数据的批处理;
响应于查询到针对待同步数据的批处理已完成,从所述第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;
查询所述记录文件,响应于查询到导出完成信息向第二数据库导入所述批处理完成的待同步数据。
2.根据权利要求1所述的跨异构数据库的数据同步方法,其特征在于,所述第一数据库包括用于记录预定时段内批处理完成的数据的临时表,以及查询第一数据库以判断是否完成针对待同步数据的批处理包括:
探测所述临时表中是否存在数据;
对存在数据的所述临时表的数据量周期性地进行第一查询;
根据所述临时表的数据量变化情况判断针对待同步数据的批处理是否完成;其中,将本次第一查询查询出的数据量与上次第一查询查询出的数据量进行对比,若本次第一查询查询出的数据量等于上次第一查询查询出的数据量,则针对待同步数据的批处理已完成。
3.根据权利要求2所述的跨异构数据库的数据同步方法,其特征在于,以偶数时间间隔对存在数据的所述临时表的数据量周期性地进行第一查询。
4.根据权利要求1-3中任一项所述的跨异构数据库的数据同步方法,其特征在于,查询所述记录文件包括:
对所述记录文件周期性地进行第二查询;
判断所述记录文件是否包括导出完成信息。
5.根据权利要求4所述的跨异构数据库的数据同步方法,其特征在于,以奇数时间间隔对所述记录文件周期性地进行第二查询。
6.根据权利要求1-3中任一项所述的跨异构数据库的数据同步方法,其特征在于,调用封装的数据导出脚本从所述第一数据库中导出所述批处理完成的待同步数据;以及调用封装的数据导入脚本向所述第二数据库导入所述批处理完成的待同步数据。
7.根据权利要求1-3中任一项所述的跨异构数据库的数据同步方法,其特征在于,所述方法还包括:
记录所述第二数据库已导入的数据信息,所述第二数据库已导入的数据信息用于判断所述批处理完成的待同步数据是否已经导入所述第二数据库。
8.一种跨异构数据库的数据同步装置,其特征在于,包括:
查询模块,用于查询第一数据库以判断是否完成针对待同步数据的批处理;
导出模块,用于响应于查询到针对待同步数据的批处理已完成,从所述第一数据库中导出批处理完成的待同步数据,并在导出完成后将导出完成信息存放在记录文件中;
导入模块,用于查询所述记录文件,响应于查询到导出完成信息向第二数据库导入所述批处理完成的待同步数据。
9.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的跨异构数据库的数据同步方法。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储系统,用于存储一个或多个计算机程序,当所述一个或多个计算机程序被所述一个或多个处理器执行时,使得所述电子设备实现如权利要求1-7中任一项所述的跨异构数据库的数据同步方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911106295.XA CN110851533A (zh) | 2019-11-13 | 2019-11-13 | 跨异构数据库的数据同步方法、装置、介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911106295.XA CN110851533A (zh) | 2019-11-13 | 2019-11-13 | 跨异构数据库的数据同步方法、装置、介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110851533A true CN110851533A (zh) | 2020-02-28 |
Family
ID=69601649
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911106295.XA Pending CN110851533A (zh) | 2019-11-13 | 2019-11-13 | 跨异构数据库的数据同步方法、装置、介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110851533A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111611229A (zh) * | 2020-06-11 | 2020-09-01 | 上海乾臻信息科技有限公司 | 数据储存方法及用于数据储存的装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104111957A (zh) * | 2013-04-22 | 2014-10-22 | 阿里巴巴集团控股有限公司 | 一种分布式事务同步的方法及系统 |
US20150019488A1 (en) * | 2013-07-09 | 2015-01-15 | Oracle International Corporation | Automated database migration architecture |
CN106980636A (zh) * | 2016-07-22 | 2017-07-25 | 平安科技(深圳)有限公司 | 保单数据处理方法和装置 |
CN107918564A (zh) * | 2017-11-13 | 2018-04-17 | 泰康保险集团股份有限公司 | 数据传输异常处理方法、装置、电子设备及存储介质 |
CN109460439A (zh) * | 2018-11-14 | 2019-03-12 | 泰康保险集团股份有限公司 | 一种数据处理方法、装置、介质和电子设备 |
-
2019
- 2019-11-13 CN CN201911106295.XA patent/CN110851533A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104111957A (zh) * | 2013-04-22 | 2014-10-22 | 阿里巴巴集团控股有限公司 | 一种分布式事务同步的方法及系统 |
US20150019488A1 (en) * | 2013-07-09 | 2015-01-15 | Oracle International Corporation | Automated database migration architecture |
CN106980636A (zh) * | 2016-07-22 | 2017-07-25 | 平安科技(深圳)有限公司 | 保单数据处理方法和装置 |
CN107918564A (zh) * | 2017-11-13 | 2018-04-17 | 泰康保险集团股份有限公司 | 数据传输异常处理方法、装置、电子设备及存储介质 |
CN109460439A (zh) * | 2018-11-14 | 2019-03-12 | 泰康保险集团股份有限公司 | 一种数据处理方法、装置、介质和电子设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111611229A (zh) * | 2020-06-11 | 2020-09-01 | 上海乾臻信息科技有限公司 | 数据储存方法及用于数据储存的装置 |
CN111611229B (zh) * | 2020-06-11 | 2023-05-26 | 上海乾臻信息科技有限公司 | 数据储存方法及用于数据储存的装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11550769B2 (en) | Data processing method, apparatus, and system | |
US11321303B2 (en) | Conflict resolution for multi-master distributed databases | |
CN107506451B (zh) | 用于数据交互的异常信息监控方法及装置 | |
EP2754284B1 (en) | Idempotence for database transactions | |
CN109213792B (zh) | 数据处理的方法、服务端、客户端、装置及可读存储介质 | |
WO2017063520A1 (zh) | 数据库的操作方法及装置 | |
CN110543512B (zh) | 一种信息同步方法,装置及系统 | |
US9251227B2 (en) | Intelligently provisioning cloud information services | |
CN112181948B (zh) | 数据库操作语句的处理方法、装置、电子设备和介质 | |
WO2023082681A1 (zh) | 基于批流一体的数据处理方法、装置、计算机设备和介质 | |
CN115757616A (zh) | 一种基于二进制日志的数据一致性校验方法、装置及介质 | |
CN115495473A (zh) | 数据库查询方法、装置、电子设备和存储介质 | |
CN110851533A (zh) | 跨异构数据库的数据同步方法、装置、介质及电子设备 | |
CN111488373B (zh) | 用于处理请求的方法和系统 | |
CN115827646B (zh) | 索引配置方法、装置和电子设备 | |
CN112148762A (zh) | 一种实时数据流的统计方法和装置 | |
CN116186082A (zh) | 基于分布式的数据汇总方法、第一服务器和电子设备 | |
CN112131257B (zh) | 数据查询方法和装置 | |
CN109635040B (zh) | 实时数据迁移方法、装置及存储介质 | |
CN113568892A (zh) | 一种基于内存计算对数据源进行数据查询的方法和设备 | |
CN110493326B (zh) | 基于zookeeper管理集群配置文件的系统和方法 | |
CN113535768A (zh) | 生产监控方法和装置 | |
EP3900480A1 (en) | Method and system for proactive steering in a wireless network | |
CN114900531B (zh) | 数据同步方法、装置和系统 | |
CN117952508A (zh) | 库存处理方法、装置、电子设备、存储介质及产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200228 |