CN114328751A - 多源异构数据同步的方法、装置、存储介质和电子设备 - Google Patents

Abstract

本申请公开了一种多源异构数据同步的方法、装置、存储介质和电子设备，用于金融领域或其它领域。该方法包括：从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；将所述转换后的目标源数据同步至所述目标数据库。通过本申请，解决了相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题。

Description

多源异构数据同步的方法、装置、存储介质和电子设备

技术领域

本申请涉及金融科技领域，具体而言，涉及一种多源异构数据同步的方法、装置、存储介质和电子设备。

背景技术

随着计算机软件技术的不断发展，各种不同类型、不同结构的数据库逐渐深入到各类应用中。目前一个应用往往需要引入至少两种类型的数据库，用以支持应用内不同的业务场景，但是由于数据库的异构性和多样性，数据的同步存在很多的问题。目前的数据同步方案，多是利用数据库自身同构复制技术实现的，在此类技术只能在同构的数据库间使用；对于异构数据的同步，也都是在同构复制技术的基础上，辅以各类工具实现异构数据的同步，但往往每种工具只能支持一种源数据库。每同步一种类型的源数据库，都需要评估选择一种合适的同步方法，导致同步数据的成本较高。

针对相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题，目前尚未提出有效的解决方案。

发明内容

本申请的主要目的在于提供一种多源异构数据同步的方法、装置、存储介质和电子设备，以解决相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题。

为了实现上述目的，根据本申请的一个方面，提供了一种多源异构数据同步的方法。该方法包括：从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；将所述转换后的目标源数据同步至所述目标数据库。

进一步地，获取目标源数据，包括：依据同步模式，确定数据获取策略，其中，所述同步模式为以下之一：全量同步，增量同步和ALL模式；依据所述数据获取策略，从不同类型的源数据库获取目标源数据。

进一步地，依据同步模式，确定数据获取策略包括：若所述同步模式为全量模式，确定所述数据获取策略为通过JDBC机制分批次获取所述目标源数据；所述同步模式为增量模式时，确定所述目标源数据的类型，其中，所述目标源数据的类型为以下之一：Oracle和MySql；依据所述目标源数据的类型，确定所述数据获取策略。

进一步地，依据所述目标源数据的类型，确定所述数据获取策略，包括：若所述目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；确定所述数据获取策略为依据所述物化视图日志表获取所述目标源数据；若所述目标源数据的类型Mysql时，确定所述数据获取策略为解析binlog日志，获取所述目标源数据。

进一步地，依据所述数据转换规则，转换所述目标源数据的格式，包括：依据所述数据转换规则，将所述目标源数据进行格式转换，得到Record对象，其中，所述Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，所述字段信息中包括：字段名称、字段类型及字段值。

进一步地，将所述转换后的目标源数据同步至所述目标数据库包括：依据所述目标数据库的类型，调用所述目标数据库对应的目标API；通过所述目标API将所述转换后的目标源数据同步至所述目标数据库。

进一步地，所述方法还包括：在数据同步过程中，生成日志文件，其中，所述日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析所述日志文件，对所述目标源数据同步的任务进行监控。

为了实现上述目的，根据本申请的另一方面，提供了一种多源异构数据同步的装置。该装置包括：获取单元，用于从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；编写单元，用于依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；转换单元，用于依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；同步单元，用于将所述转换后的目标源数据同步至所述目标数据库。

进一步地，所述获取单元包括：第一确定子单元，用于依据同步模式，确定数据获取策略，其中，所述同步模式为以下之一：全量同步，增量同步和ALL模式；第一获取子单元，用于依据所述数据获取策略，从不同类型的源数据库获取目标源数据。

进一步地，所述获取单元还包括：第二确认子单元，用于若所述同步模式为全量模式，确定所述数据获取策略为通过JDBC机制分批次获取所述目标源数据；第三确认子单元，用于所述同步模式为增量模式时，确定所述目标源数据的类型，其中，所述目标源数据的类型为以下之一：Oracle和MySql；第四确认子单元，用于依据所述目标源数据的类型，确定所述数据获取策略。

进一步地，所述第四确认子单元包括：创建模块，用于若所述目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；第一确认模块确定所述数据获取策略为依据所述物化视图日志表获取所述目标源数据；第二确认模块，用于若所述目标源数据的类型为Mysqle时，确定所述数据获取策略为解析binlog日志，获取所述目标源数据。

进一步地，所述转换单元包括：转换子单元，用于依据所述数据转换规则，将所述目标源数据进行格式转换，得到Record对象，其中，所述Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，所述字段信息中包括：字段名称、字段类型及字段值。

进一步地，所述同步单元包括：调用子单元，用于依据所述目标数据库的类型，调用所述目标数据库对应的目标API；同步子单元，用于通过所述目标API将所述转换后的目标源数据同步至所述目标数据库。

进一步地，所述装置还包括：生成单元，用于在数据同步过程中，生成日志文件，其中，所述日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析单元，用于分析所述日志文件，对所述目标源数据同步的任务进行监控。

为了实现上述目的，根据本申请的另一方面，提供了一种计算机可读存储介质。所述存储介质包括存储的程序，其中，所述程序执行上述任意一项所述的多源异构数据的同步方法。

为了实现上述目的，根据本申请的另一方面，提供了一种电子设备。所述电子设备包括一个或多个处理器和存储器，所述存储器用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现上述任意一项所述的多源异构数据的同步方法。

通过本申请，采用以下步骤：从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；将所述转换后的目标源数据同步至所述目标数据库，解决了相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题。通过目标数据库的类型，编写数据格式转换的规则，对需要同步的数据进行格式转换，将转换后的数据同步至目标数据库中，这种方式可以实现不同类型数据的同步，进而达到了降低同步数据成本的效果。

需要说明的是，本申请公开的一种多源异构数据的同步方法和装置可用于金融领域，也可用于除金融领域之外的任意领域。本申请公开的一种多源异构数据的同步方法方法和装置的应用领域不做限定。

附图说明

构成本申请的一部分的附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是根据本申请实施例提供的多源异构数据同步的方法的流程图；

图2是根据本申请实施例提供的可选的Record对象的组成的示意图；

图3是根据本申请实施例提供的多源异构数据同步的装置的示意图；

图4是根据本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

下面结合优选的实施步骤对本发明进行说明，图1是根据本申请实施例提供的多源异构数据同步的方法的流程图，如图1所示，该方法包括如下步骤：

步骤S101，从不同类型的源数据库中获取目标源数据。

在各类数据库中采集需要同步的源数据，依据源数据的类型和同步模式通过不同的采集策略来获取目标源数据。

步骤S102，依据目标数据库的类型，生成目标源数据的数据转换规则。

按照目标数据库的类型，自定义数据格式转换规则，在编写转换规则时，可以对源数据的实例名、表名、字段名、字段类型、字段值等内容进行修改，也可以复制、增加和删除源数据。

步骤S103，依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据。

按照编写的数据转换规则，对目标源数据的格式进行转换，得到目标数据库类型的源数据。

步骤S104，将转换后的目标源数据同步至所述目标数据库。

将转换完格式的源数据写入到目标数据库中，并且支持将同一数据重复写入目标数据库中。

通过上述步骤，在对多源异构数据的同步方法中，通过自定义数据转换规则，实现了多源异构数据同步的任务，降低了数据同步的成本。

可选地，在本申请实施例提供的多源异构数据同步的方法中，获取目标源数据，包括：依据同步模式，确定数据获取策略，其中，同步模式为以下之一：全量同步，增量同步和ALL模式；依据数据获取策略，从不同类型的源数据库获取目标源数据。

在获取需要同步的源数据时，需要根据同步模式通过不用的获取策略来获取目标源数据。其中同步模式分为：全量同步，增量同步和ALL模式。全量同步指将某一数据库的所有数据均同步至目标数据库；增量同步指的是对发生变化的源数据进行同步；ALL模式指在完成全部数据的同步后，自动进行增量数据的同步。

不同的同步模式通过不同的获取策略来获取目标源数据，提高了目标源数据的准确性。

可选地，在本申请实施例提供的多源异构数据同步的方法中，依据同步模式，确定数据获取策略包括：若同步模式为全量模式，确定数据获取策略为通过JDBC机制分批次获取目标源数据；同步模式为增量模式时，确定目标源数据的类型，其中，目标源数据的类型为以下之一：Oracle和MySql；依据目标源数据的类型，确定数据获取策略。

对于全量同步，各类型数据均可以通过JDBC(Java Database Connectivity)机制分批次获取得到，对于增量同步则需要结合源数据的类型，采用不同的数据获取策略来获取目标源数据。源数据类型主要分为：Oracle和MySql。

JDBC机制可以灵活构建SQL，适合超大批量数据的操作，并且操作速度快，提高了获取目标源数据的效率。

可选地，在本申请实施例提供的多源异构数据同步的方法中，依据目标源数据的类型，确定数据获取策略，包括：若目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；确定数据获取策略为依据物化视图日志表获取目标源数据；若目标源数据的类型为MySql时，确定数据获取策略为解析binlog日志，获取目标源数据。

当目标源数据的类型为Oracle时，通过对每一张需要同步的数据表创建对应的物化视图日志表，收集变化的数据情况。当目标源数据的类型为MySql时，通过binlog日志获取数据的变化情况。

不同类型的源数据采用不同的数据获取策略来获取目标源数据，提高了目标源数据的准确性。

可选地，在本申请实施例提供的多源异构数据同步的方法中，依据所述数据转换规则，转换所述目标源数据的格式，包括：依据所述数据转换规则，将所述目标源数据进行格式转换，得到Record对象，其中，所述Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，所述字段信息中包括：字段名称、字段类型及字段值。

将获取到的每一条源数据依据转换规则进行转换，得到一个Record对象。Record对象中包含：数据库实例名、表名、主键信息及字段信息。字段信息又包括：字段名称、字段类型及字段值，例如，图2所示，Record对象的组成的示意图。

通过自定义编写数据格式转换规格，可以实现不同类型数据的同步任务，降低了同步数据的成本，提升了同步数据的效率。

可选地，在本申请实施例提供的多源异构数据同步的方法中，将转换后的目标源数据同步至目标数据库包括：依据目标数据库的类型，调用目标数据库对应的目标API；通过目标API将转换后的目标源数据同步至目标数据库。

通过集成各类目标数据库，使得能够将目标源数据写入到不同数据库中。根据目标数据库的数据类型，调用目标数据库对应的API，通过API将目标源数据同步至目标数据库，并且支持重复将目标源数据写入目标数据库中。

API具有调用成本低，效率高等优点，并且支持重复将源数据写入目标数据库，能够提升数据同步的容错性。

可选地，在本申请实施例提供的多源异构数据同步的方法中，该方法还包括：在数据同步过程中，生成日志文件，其中，日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析日志文件，对目标源数据同步的任务进行监控。

在数据同步的过程中，生成日志文件。在日志文件中记录每个数据同步任务的处理情况，包括每条已被同步的数据以及在数据同步过程中出现的各类异常信息。管理平台会对日志文件实时分析，对于出现异常的任务(例如，数据同步失败)，实时通过各类监控报警系统通知应用运维人员。

本申请实施例提供的多源异构数据同步的方法，通过从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；将所述转换后的目标源数据同步至所述目标数据库，解决了相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题。通过目标数据库的类型，编写数据格式转换的规则，对需要同步的数据进行格式转换，将转换后的数据同步至目标数据库中，这种方式可以实现不同类型数据的同步，进而达到了降低同步数据成本的效果。

需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例还提供了一种多源异构数据同步的装置，需要说明的是，本申请实施例的多源异构数据同步的装置可以用于执行本申请实施例所提供的用于多源异构数据同步的方法。以下对本申请实施例提供的多源异构数据同步的装置进行介绍。

图3是根据本申请实施例的多源异构数据同步的装置的示意图。如图3所示，该装置包括：获取单元301，编写单元302，转换单元303和同步单元304。

获取单元301，用于从不同类型的源数据库中获取目标源数据。

编写单元302，用于依据目标数据库的类型，生成目标源数据的数据转换规则。

转换单元303，用于依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据。

同步单元304，用于将转换后的目标源数据同步至目标数据库。

综上所述，本申请实施例提供的多源异构数据同步的装置，通过获取单元301从不同类型的源数据库中获取目标源数据，其中，目标源数据待同步至目标数据库；通过编写单元302依据目标数据库的类型，生成目标源数据的数据转换规则；通过转换单元303依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据；通过同步单元304将转换后的目标源数据同步至目标数据库。通过目标数据库的类型，编写数据格式转换的规则，对需要同步的数据进行格式转换，将转换后的数据同步至目标数据库中，这种方式可以实现不同类型数据的同步，进而达到了降低同步数据成本的效果。

可选地，在本申请实施例提供的多源异构数据同步的装置中，获取单元包括：第一确定子单元，用于依据同步模式，确定数据获取策略，其中，同步模式为以下之一：全量同步，增量同步和ALL模式；第一获取子单元，用于依据数据获取策略，从不同类型的源数据库获取目标源数据。

可选地，在本申请实施例提供的多源异构数据同步的装置中，获取单元还包括：第二确认子单元，用于若同步模式为全量模式，确定数据获取策略为通过JDBC机制分批次获取目标源数据；第三确认子单元，用于同步模式为增量模式时，确定目标源数据的类型，其中，目标源数据的类型为以下之一：Oracle和MySql；第四确认子单元，用于依据目标源数据的类型，确定数据获取策略。

可选地，在本申请实施例提供的多源异构数据同步的装置中，第四确认子单元包括：创建模块，用于若目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；第一确认模块确定数据获取策略为依据物化视图日志表获取目标源数据；第二确认模块，用于若目标源数据的类型为MySql时，确定数据获取策略为解析binlog日志，获取目标源数据。

可选地，在本申请实施例提供的多源异构数据同步的装置中，转换单元包括：转换子单元，用于依据数据转换规则，将目标源数据进行格式转换，得到Record对象，其中，Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，字段信息中包括：字段名称、字段类型及字段值。

可选地，在本申请实施例提供的多源异构数据同步的装置中，同步单元包括：调用子单元，用于依据目标数据库的类型，调用目标数据库对应的目标API；同步子单元，用于通过目标API将转换后的目标源数据同步至目标数据库。

可选地，在本申请实施例提供的多源异构数据同步的装置中，该装置还包括：生成单元，用于在数据同步过程中，生成日志文件，其中，日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析单元，用于分析日志文件，对目标源数据同步的任务进行监控。

本申请实施例提供的多源异构数据同步的装置，通过从不同类型的源数据库中获取目标源数据，其中，目标源数据待同步至目标数据库；依据目标数据库的类型，生成目标源数据的数据转换规则；依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据；将转换后的目标源数据同步至目标数据库，解决了相关技术中同步不同类型的源数据库，需要选择不同的数据同步方式，导致同步数据的成本相对较高的问题，通过目标数据库的类型，编写数据格式转换的规则，对需要同步的数据进行格式转换，将转换后的数据同步至目标数据库中，这种方式可以实现不同类型数据的同步，进而达到了降低同步数据成本的效果。

所述多源异构数据同步的装置包括处理器和存储器，上述获取单元301，编写单元302，转换单元303和同步单元304等均作为程序单元存储在存储器中，由处理器执行存储在存储器中的上述程序单元来实现相应的功能。

处理器中包含内核，由内核去存储器中调取相应的程序单元。内核可以设置一个或以上，通过调整内核参数来实现多源异构数据的同步任务。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器包括至少一个存储芯片。

本发明实施例提供了一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现所述多源异构数据同步的方法。

本发明实施例提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行所述多源异构数据同步的方法。

如图4所示，本发明实施例提供了一种电子设备，设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：从不同类型的源数据库中获取目标源数据，其中，目标源数据待同步至目标数据库；依据目标数据库的类型，生成目标源数据的数据转换规则；依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据；将转换后的目标源数据同步至目标数据库。

可选地，获取目标源数据，包括：依据同步模式，确定数据获取策略，其中，同步模式为以下之一：全量同步，增量同步和ALL模式；依据数据获取策略，从不同类型的源数据库获取目标源数据。

可选地，依据同步模式，确定数据获取策略包括：若同步模式为全量模式，确定数据获取策略为通过JDBC机制分批次获取目标源数据；同步模式为增量模式时，确定目标源数据的类型，其中，目标源数据的类型为以下之一：Oracle和MySql；依据目标源数据的类型，确定数据获取策略。

可选地，依据目标源数据的类型，确定数据获取策略，包括：若目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；确定数据获取策略为依据物化视图日志表获取目标源数据；若目标源数据的类型为MySql时，确定数据获取策略为解析binlog日志，获取目标源数据。

可选地，依据数据转换规则，转换目标源数据的格式，包括：依据数据转换规则，将目标源数据进行格式转换，得到Record对象，其中，Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，字段信息中包括：字段名称、字段类型及字段值。

可选地，将转换后的目标源数据同步至目标数据库包括：依据目标数据库的类型，调用目标数据库对应的目标API；通过目标API将转换后的目标源数据同步至目标数据库。

可选地，该方法还包括：在数据同步过程中，生成日志文件，其中，日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析日志文件，对目标源数据同步的任务进行监控。本文中的设备可以是服务器、PC、PAD、手机等。

本申请还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序：从不同类型的源数据库中获取目标源数据，其中，目标源数据待同步至目标数据库；依据目标数据库的类型，生成目标源数据的数据转换规则；依据数据转换规则，转换目标源数据的格式，得到转换后的目标源数据；将转换后的目标源数据同步至目标数据库。

可选地，获取目标源数据，包括：依据同步模式，确定数据获取策略，其中，同步模式为以下之一：全量同步，增量同步和ALL模式；依据数据获取策略，从不同类型的源数据库获取目标源数据。

可选地，依据同步模式，确定数据获取策略包括：若同步模式为全量模式，确定数据获取策略为通过JDBC机制分批次获取目标源数据；同步模式为增量模式时，确定目标源数据的类型，其中，目标源数据的类型为以下之一：Oracle和MySql；依据目标源数据的类型，确定数据获取策略。

可选地，依据目标源数据的类型，确定数据获取策略，包括：若目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；确定数据获取策略为依据物化视图日志表获取目标源数据；若目标源数据的类型为Mysql时，确定数据获取策略为解析binlog日志，获取目标源数据。

可选地，依据数据转换规则，转换目标源数据的格式，包括：依据数据转换规则，将目标源数据进行格式转换，得到Record对象，其中，Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，字段信息中包括：字段名称、字段类型及字段值。

可选地，将转换后的目标源数据同步至目标数据库包括：依据目标数据库的类型，调用目标数据库对应的目标API；通过目标API将转换后的目标源数据同步至目标数据库。

可选地，该方法还包括：在数据同步过程中，生成日志文件，其中，日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；分析日志文件，对目标源数据同步的任务进行监控。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种多源异构数据同步的方法，其特征在于，包括：

从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；

依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；

依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；

将所述转换后的目标源数据同步至所述目标数据库。

2.根据权利要求1所述的方法，其特征在于，获取目标源数据，包括：

依据同步模式，确定数据获取策略，其中，所述同步模式为以下之一：全量同步，增量同步和ALL模式；

依据所述数据获取策略，从不同类型的源数据库获取目标源数据。

3.根据权利要求2所述的方法，其特征在于，依据同步模式，确定数据获取策略包括：

若所述同步模式为全量模式，确定所述数据获取策略为通过JDBC机制分批次获取所述目标源数据；

所述同步模式为增量模式时，确定所述目标源数据的类型，其中，所述目标源数据的类型为以下之一：Oracle和MySql；

依据所述目标源数据的类型，确定所述数据获取策略。

4.根据权利要求3所述的方法，其特征在于，依据所述目标源数据的类型，确定所述数据获取策略，包括：

若所述目标源数据的类型为Oracle时，对每一张需要同步的数据表创建对应的物化视图日志表；

确定所述数据获取策略为依据所述物化视图日志表获取所述目标源数据；

若所述目标源数据的类型为MySql时，确定所述数据获取策略为解析binlog日志，获取所述目标源数据。

5.根据权利要求1所述的方法，其特征在于，依据所述数据转换规则，转换所述目标源数据的格式，包括：

依据所述数据转换规则，将所述目标源数据进行格式转换，得到Record对象，其中，所述Record对象中至少包括：数据库实例名、表名、主键信息及字段信息，所述字段信息中包括：字段名称、字段类型及字段值。

6.根据权利要求1所述的方法，其特征在于，将所述转换后的目标源数据同步至所述目标数据库包括：

依据所述目标数据库的类型，调用所述目标数据库对应的目标API；

通过所述目标API将所述转换后的目标源数据同步至所述目标数据库。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在数据同步过程中，生成日志文件，其中，所述日志文件至少包括：每条已被同步的目标源数据和数据同步过程中的异常信息；

分析所述日志文件，对所述目标源数据同步的任务进行监控。

8.一种多源异构数据同步的装置，其特征在于，包括：

获取单元，用于从不同类型的源数据库中获取目标源数据，其中，所述目标源数据待同步至目标数据库；

编写单元，用于依据所述目标数据库的类型，生成所述目标源数据的数据转换规则；

转换单元，用于依据所述数据转换规则，转换所述目标源数据的格式，得到转换后的目标源数据；

同步单元，用于将所述转换后的目标源数据同步至所述目标数据库。

9.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至7中任意一项所述的多源异构数据同步的方法。

10.一种电子设备，其特征在于，包括一个或多个处理器和存储器，所述存储器用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至7中任意一项所述的多源异构数据同步的方法。

Images