CN112231407A - PostgreSQL数据库的DDL同步方法、装置、设备和介质 - Google Patents
PostgreSQL数据库的DDL同步方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN112231407A CN112231407A CN202011137351.9A CN202011137351A CN112231407A CN 112231407 A CN112231407 A CN 112231407A CN 202011137351 A CN202011137351 A CN 202011137351A CN 112231407 A CN112231407 A CN 112231407A
- Authority
- CN
- China
- Prior art keywords
- ddl
- statement
- dml
- auxiliary table
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2358—Change logging, detection, and notification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Stored Programmes (AREA)
Abstract
本公开实施例公开了一种PostgreSQL数据库的DDL同步方法、装置、设备和介质。该方法包括:在源端PostgreSQL数据库中创建辅助表,用于记录数据库中产生的DDL语句;基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将其插入辅助表中,生成相应DML操作的日志信息;基于日志信息中的DML操作的操作对象是否为辅助表,将DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应的同步对象;将同步对象发送至目标端数据同步服务,完成PostgreSQL数据库的DDL同步。实现了基于源端PostgreSQL数据库的事件触发器机制,自动捕获数据库中执行的DDL语句,并通过INSERT操作将其转换为DML操作存入日志,使得PostgreSQL数据库间接记录了DDL操作,从而使得PostgreSQL数据库具备DDL同步功能。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种PostgreSQL数据库的DDL同步方法、装置、设备和介质。
背景技术
在数据库同步领域,通过分析数据库日志获取增量数据,从而实现数据实时同步是一种常用的实时复制技术。这种技术通过源端数据同步服务解析源数据库在线日志或者归档日志,获得数据的增删改变化(即增量数据);然后,源端数据同步服务将这些变化以事务为单位转换为数据同步服务的内部特定的消息格式,并通过源端数据同步服务的私有传输协议发送到目标端数据同步服务;最后,目标端数据同步服务将获取到的事务日志恢复成目标数据库支持的SQL语句,并在目标数据库上执行,以此来实现数据的实时同步,保持源端和目标端的数据库的数据一致性。
上述通过日志分析获取源数据库增量数据的实现基础是:源数据库会将事务的INSERT操作、UPDATE操作、DELETE操作以特定的格式写入日志文件中。因此,只要第三方数据同步工具能够获知数据库日志的格式信息,就可以通过实时读取并解析日志文件中的增量日志记录来实现数据实时同步。但是,对于PostgreSQL数据库,其只会将数据操纵语言(Data Manipulation Language,DML)对应的操作记录存储在日志文件中,而不会存储数据定义语言(Data Definition Language,DDL)对应的操作记录。这就导致第三方数据同步工具无法直接支持PostgreSQL数据库的DDL增量数据同步。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开提供了一种PostgreSQL数据库的DDL同步方法、装置、设备和介质。
第一方面,本公开提供了一种PostgreSQL数据库的DDL同步方法,包括:
在源端PostgreSQL数据库中创建辅助表;其中,所述辅助表用于记录数据库中产生的DDL语句;
基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中,且生成相应DML操作的日志信息;
解析所述日志信息,并基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
将所述同步对象发送至目标端数据同步服务;其中,所述目标端数据同步服务用于反解析所述同步对象,并在目标数据库执行反解析结果,完成所述PostgreSQL数据库的DML和DDL同步。
在一些实施例中,在所述基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中之前,所述方法还包括:
将预设so文件配置于所述源端PostgreSQL数据库的lib目录下;其中,所述预设so文件中包含DDL语句捕获函数,所述DDL语句捕获函数用于实现所述捕获执行的DDL语句的功能;
创建事件触发器;其中,所述事件触发器的触发条件为所述源端PostgreSQL数据库执行完毕DDL语句,且所述事件触发器用于实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
在一些实施例中,所述事件触发器通过如下方式实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能:
调用所述DDL语句捕获函数,以实现所述捕获执行的DDL语句的功能;
调用路径获取函数,以实现捕获所述DDL生效路径的功能;
调用插入函数,以实现所述将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
在一些实施例中,在所述创建事件触发器之前,所述方法还包括:
将所述源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别;其中,所述最低级别对应于记录最少的日志信息,所述最高级别对应于记录最多的日志信息。
在一些实施例中,所述基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象包括:
判断所述日志信息中的DML操作的操作对象是否为所述辅助表;
若是,则将所述DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象;
若否,则将所述DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。
在一些实施例中,所述判断所述日志信息中的DML操作的操作对象是否为所述辅助表包括:
比较所述DML操作的操作对象的表名与所述辅助表的表名,并根据比较结果判断所述操作对象是否为所述辅助表。
在一些实施例中,所述辅助表中至少包含时间类型的时间字段、字符类型的路径字段和文本类型的语句命令字段。
第二方面,本公开提供了一种PostgreSQL数据库的DDL同步装置,该装置包括:
辅助表创建模块,用于在源端PostgreSQL数据库中创建辅助表;其中,所述辅助表用于记录数据库中产生的DDL语句;
DDL语句捕获模块,用于基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中,且生成相应DML操作的日志信息;
日志解析模块,用于解析所述日志信息,并基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
同步模块,用于将所述同步对象发送至目标端数据同步服务;其中,所述目标端数据同步服务用于反解析所述同步对象,并在目标数据库执行反解析结果,完成所述PostgreSQL数据库的DML和DDL同步。
在一些实施例中,该装置还包括事件触发器创建模块,用于:
在所述基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中之前,将预设so文件配置于所述源端PostgreSQL数据库的lib目录下;其中,所述预设so文件中包含DDL语句捕获函数,所述DDL语句捕获函数用于实现所述捕获执行的DDL语句的功能;
创建事件触发器;其中,所述事件触发器的触发条件为所述源端PostgreSQL数据库执行完毕DDL语句,且所述事件触发器用于实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
在一些实施例中,所述事件触发器通过如下方式实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能:
调用所述DDL语句捕获函数,以实现所述捕获执行的DDL语句的功能;
调用路径获取函数,以实现捕获所述DDL生效路径的功能;
调用插入函数,以实现所述将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
在一些实施例中,事件触发器创建模块还用于:
在所述创建事件触发器之前,将所述源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别;其中,所述最低级别对应于记录最少的日志信息,所述最高级别对应于记录最多的日志信息。
在一些实施例中,日志解析模块具体用于:
判断所述日志信息中的DML操作的操作对象是否为所述辅助表;
若是,则将所述DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象;
若否,则将所述DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。
在一些实施例中,日志解析模块还具体用于:
比较所述DML操作的操作对象的表名与所述辅助表的表名,并根据比较结果判断所述操作对象是否为所述辅助表。
在一些实施例中,所述辅助表中至少包含时间类型的时间字段、字符类型的路径字段和文本类型的语句命令字段。
第三方面,本公开提供了一种的电子设备,该电子设备包括:
处理器和存储装置;
所述处理器通过调用所述存储装置存储的程序或指令,用于执行本公开任意实施例中所述方法的步骤。
第四方面,本公开提供了一种计算机可读存储介质,所述计算机可读存储介质存储程序或指令,所述程序或所述指令使计算机执行本公开任意实施例中所述方法的步骤。
本公开实施例提供的技术方案,通过在源端PostgreSQL数据库中创建辅助表,该辅助表用于记录数据库中产生的DDL语句;基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息;解析日志信息,并基于日志信息中的DML操作的操作对象是否为辅助表,将DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;将同步对象发送至目标端数据同步服务;该目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。实现了基于源端PostgreSQL数据库的事件触发器机制,自动捕获数据库中执行的DDL语句和DDL语句生成路径,并通过DML的插入操作将其转换为DML操作存入日志,再通过日志解析将该DML操作转换回DDL操作,使得PostgreSQL数据库间接记录了DDL操作,从而在不影响上层应用业务的基础上,使得PostgreSQL数据库具备DDL同步功能。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本公开实施例提供的一种PostgreSQL数据库的DDL同步方法的流程图;
图2是本公开实施例提供的另一种PostgreSQL数据库的DDL同步方法的流程图;
图3是本公开实施例提供的一种PostgreSQL数据库的DDL同步装置的结构示意图;
图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点,下面将对本公开的方案进行进一步的详细描述。需要说明的是,在不冲突的情况下,本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开,但本公开还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本公开的一部分实施例,而不是全部的实施例。
本公开实施例提供的PostgreSQL数据库的DDL同步方法,适用于源端数据库为PostgreSQL数据库的至少两个数据库之间的数据同步过程,目标数据库的类型不限定。本公开实施例提供的PostgreSQL数据库的DDL同步方法可以由PostgreSQL数据库的DDL同步装置来执行,该装置可以由软件和/或硬件的方式实现,该装置可以集成在具有表数据运算功能的电子设备中,例如平板电脑、笔记本电脑、台式电脑或服务器等。在一些实施例中,该电子设备可以是生产数据的源端对应的设备,也可以是同步数据的目标端对应的设备,还可以是不同于源端对应设备和目标端对应设备的第三方设备。
图1是本公开实施例提供的一种PostgreSQL数据库的DDL同步方法的流程图。参见图1,该方法具体包括:
S110、在源端PostgreSQL数据库中创建辅助表,该辅助表用于记录数据库中产生的DDL语句。
具体地,在源端的PostgreSQL数据库中创建一个辅助表,该辅助表通过后续DML的数据插入INSERT操作来记录数据库中产生的DDL语句。在一些实施例中,为了记录更加详细的DDL操作的信息,及后续能够更加准确地反解析出DDL操作,设置该辅助表中至少包含时间类型的时间字段Exe_time、字符类型的路径字段Search_path和文本类型的语句命令字段Command。
S120、基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息。
其中,DDL生效路径是指PostgreSQL数据库执行DDL语句时的SEARCH_PATH信息。SEARCH_PATH指定到不同的模式,会导致DDL操作建立的对象存在于不同的模式下。
具体地,在源端PostgreSQL数据库中建立事件触发器。通过事件触发器的执行,来捕获执行的DDL语句以及执行该DDL语句时对应的SEARCH_PATH信息(即DDL生效路径),并且将捕获的信息以INSERT方式插入上述辅助表中。上述INSERT操作属于DML操作,源端PostgreSQL数据库会将其记录在日志信息中。这样,就将PostgreSQL数据库中的DDL操作以DML操作的方式记录在日志信息中。
S130、解析上述日志信息,并基于该日志信息中的DML操作的操作对象是否为辅助表,将该DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象。
具体地,源端数据同步服务解析PostgreSQL数据库中的日志信息。因日志信息中DDL语句对应的DML操作的操作对象是辅助表,而DML语句对应的DML操作的操作对象不是辅助表,故可以通过解析日志中的操作对象是否是辅助表,来解析当前的DML操作,获得其对应的DDL语句或DML语句的解析结果。然后,将该解析结果封装为相应语言对应的、数据同步服务特定的格式对象(即同步对象),作为后续数据同步的传输内容。
在一些实施例中,S130包括:判断日志信息中的DML操作的操作对象是否为辅助表;若是,则将该DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象;若否,则将该DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。具体地,先根据表的属性信息(如表名、表结构或表内容等)判断前的DML操作的操作对象是否为辅助表。如果是辅助表,说明该DML操作对应的执行语句为DDL语句,则将其解析为DDL语句,并将解析结果封装为表示DDL的Statement对象。如果不是辅助表,说明该DML操作对应的执行语句为DML语句,则将其解析为DML语句,并将解析结果封装为表示DML的RowChange对象。
在一些实施例中,判断日志信息中的DML操作的操作对象是否为辅助表包括:比较DML操作的操作对象的表名与辅助表的表名,并根据比较结果判断操作对象是否为辅助表。具体地,为了区分数据库中的各种表,将辅助表的表名设置为不同于数据库中原有的各表的表名。基于此,可以根据操作对象的表名与辅助表的表名是否一致来识别操作对象是否为辅助表。这样可以更加快捷地确定操作对象是否为辅助表。
S140、将上述同步对象发送至目标端数据同步服务;该目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。
具体地,源端数据同步服务将封装好的同步对象(Statement对象或RowChange对象)传输至目标端数据同步服务。目标端数据同步服务则反解析该同步对象为目标数据库可识别的SQL语句,并以事务为单位在目标数据库执行,便实现了针对PostgreSQL数据库的DML同步和DDL同步。
本公开实施例的上述技术方案,通过在源端PostgreSQL数据库中创建辅助表,该辅助表用于记录数据库中产生的DDL语句;基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息;解析上述日志信息,并基于该日志信息中的DML操作的操作对象是否为辅助表,将该DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;将同步对象发送至目标端数据同步服务;其中,目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。实现了基于源端PostgreSQL数据库的事件触发器机制,自动捕获数据库中执行的DDL语句和DDL语句生成路径,并通过DML的插入操作将其转换为DML操作存入日志,再通过日志解析将该DML操作转换回DDL操作,使得PostgreSQL数据库间接记录了DDL操作,从而在不影响上层应用业务的基础上,使得PostgreSQL数据库具备DDL同步功能。
图2是本公开实施例提供的另一种PostgreSQL数据库的DDL同步方法的流程图。其中与上述各实施例相同或相应的术语的解释在此不再赘述。参见图2,该方法包括:
S210、在源端PostgreSQL数据库中创建辅助表,该辅助表用于记录数据库中产生的DDL语句。
具体地,辅助表的示例性表结构如下所示:
字段 | 类型 |
Exe_time(时间字段) | TIMESTAMP(时间类型) |
Tg_tag(DDL类型) | VARchar(200)(字符类型) |
Search_path(路径字段) | VARchar(200) |
Command(语句命令字段) | TEXT(文本类型) |
S220、将预设so文件配置于源端PostgreSQL数据库的lib目录下;该预设so文件中包含DDL语句捕获函数,该DDL语句捕获函数用于实现捕获执行的DDL语句的功能。
其中,预设so文件可以是PostgreSQL数据库的开源扩展pgl_ddl_deploy中的so文件,如pgl_ddl_deploy.so文件,也可以是自定义实现的so文件。该so文件中需要包含DDL语句捕获函数,如pgl_ddl_deploy.so文件中的pgl_ddl_deploy_current_query函数。该DDL语句捕获函数的关键点在于通过数据库插件的方式,获取数据库在执行DDL语句时,数据库中内置变量debug_query_string的值,即当前正在执行的SQL语句。
具体地,在利用PostgreSQL数据库的事件触发器来实现捕获DDL语句的功能之前,先进行数据库的配置。鉴于PostgreSQL数据库运行所引用的信息均是从lib目录中查找,故将包含DDL语句捕获函数的预设so文件放置在源端PostgreSQL数据库的lib目录下。
S230、将源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别;其中,最低级别对应于记录最少的日志信息,最高级别对应于记录最多的日志信息。
具体地,为了后续数据同步服务能够更加准确地恢复日志信息,得到目标数据库支持的SQL语句,还需要设置源端PostgreSQL数据库的日志级别。默认情况下,源端PostgreSQL数据库的日志级别为最低级别minimal,其记录最少量的日志信息,如简单记录发生关键性错误(程序崩溃或者突发关机)时所需的操作信息。这些日志信息不足以数据同步服务来准确恢复出源端数据库中的执行操作。故将源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别。该中等级别和最高级别能够使得数据库记录更为详尽的日志信息,如操作信息、操作对象、操作时间等。
S240、创建事件触发器;其中,事件触发器的触发条件为源端PostgreSQL数据库执行完毕DDL语句,且事件触发器用于实现捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中的功能。
具体地,先在源端PostgreSQL数据库中创建一个内置函数,该内置函数用于引用数据库之外的外置扩展函数,即so文件中的DDL语句捕获函数。其代码可示例如下:
其中,get_current_query()为创建的内置函数的函数名,$libdir/pgl_ddl_deploy为引用的so文件名称,pgl_ddl_deploy_current_query为外置扩展函数的函数名。
然后,再在源端PostgreSQL数据库中创建事件触发器,该事件触发器至少用于实现以下功能:定义事件触发器的触发条件为源端PostgreSQL数据库执行完毕DDL语句;捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中。
在一些实施例中,事件触发器通过如下方式实现捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中的功能:调用DDL语句捕获函数,以实现捕获执行的DDL语句的功能;调用路径获取函数,以实现捕获DDL生效路径的功能;调用插入函数,以实现将捕获的DDL语句和DDL生效路径插入辅助表中的功能。本实施例中,事件触发器的定义代码可示例如下:
其中,kfs_ddl_store为辅助表的表名;insert into kfs_ddl_store values()表示向辅助表中以INSERT方式插入信息;replace(current_setting('search_path'),'$user',current_user)为路径获取函数,用于实现获取到当前的SEARCH_PATH信息的功能;pgl_ddl_deploy.current_query()用于捕获执行完毕的DDL语句;ON ddl_command_end表示事件触发器在源端PostgreSQL数据库执行完毕DDL语句时生效。
S250、比较DML操作的操作对象的表名与辅助表的表名,并根据比较结果判断操作对象是否为辅助表。若是,则执行S260;若否,则执行S270。
S260、将DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象。
S270、将DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。
S280、将同步对象发送至目标端数据同步服务;该目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。
本公开实施例的上述技术方案,通过将包含DDL语句捕获函数的预设so文件放置于源端PostgreSQL数据库的lib目录下,并将源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别。实现了源端PostgreSQL数据库的配置,为事件触发器的实现提供了基础。通过创建触发条件为源端PostgreSQL数据库执行完毕DDL语句的事件触发器,且将事件触发器实现为捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中的功能。实现了利用源端PostgreSQL数据库的事件触发器来更加准确且及时地捕获数据库中的DDL语句,并通过插入辅助表的操作将DDL语句转换为DML操作来存储至日志信息中,实现PostgreSQL数据库的DDL同步。
图3是本公开实施例提供的一种PostgreSQL数据库的DDL同步装置的结构示意图。参见图3,该装置具体包括:
辅助表创建模块310,用于在源端PostgreSQL数据库中创建辅助表;其中,辅助表用于记录数据库中产生的DDL语句;
DDL语句捕获模块320,用于基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息;
日志解析模块330,用于解析日志信息,并基于日志信息中的DML操作的操作对象是否为辅助表,将DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
同步模块340,用于将同步对象发送至目标端数据同步服务;其中,目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。
在一些实施例中,该装置还包括事件触发器创建模块,用于:
在基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中之前,将预设so文件配置于源端PostgreSQL数据库的lib目录下;其中,预设so文件中包含DDL语句捕获函数,DDL语句捕获函数用于实现捕获执行的DDL语句的功能;
创建事件触发器;其中,事件触发器的触发条件为源端PostgreSQL数据库执行完毕DDL语句,且事件触发器用于实现捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中的功能。
在一些实施例中,事件触发器通过如下方式实现捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中的功能:
调用DDL语句捕获函数,以实现捕获执行的DDL语句的功能;
调用路径获取函数,以实现捕获DDL生效路径的功能;
调用插入函数,以实现将捕获的DDL语句和DDL生效路径插入辅助表中的功能。
在一些实施例中,事件触发器创建模块还用于:
在创建事件触发器之前,将源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别;其中,最低级别对应于记录最少的日志信息,最高级别对应于记录最多的日志信息。
在一些实施例中,日志解析模块330具体用于:
判断日志信息中的DML操作的操作对象是否为辅助表;
若是,则将DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象;
若否,则将DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。
在一些实施例中,日志解析模块330还具体用于:
比较DML操作的操作对象的表名与辅助表的表名,并根据比较结果判断操作对象是否为辅助表。
在一些实施例中,辅助表中至少包含时间类型的时间字段、字符类型的路径字段和文本类型的语句命令字段。
通过本公开实施例提供的一种PostgreSQL数据库的DDL同步装置,实现了基于源端PostgreSQL数据库的事件触发器机制,自动捕获数据库中执行的DDL语句和DDL语句生成路径,并通过DML的插入操作将其转换为DML操作存入日志,再通过日志解析将该DML操作转换回DDL操作,使得PostgreSQL数据库间接记录了DDL操作,从而在不影响上层应用业务的基础上,使得PostgreSQL数据库具备DDL同步功能。
本公开实施例所提供的PostgreSQL数据库的DDL同步装置可执行本公开任意实施例所提供的PostgreSQL数据库的DDL同步方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述PostgreSQL数据库的DDL同步装置的实施例中,所包括的各个模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能模块的具体名称也只是为了便于相互区分,并不用于限制本公开的保护范围。
图4是本公开实施例提供的一种电子设备的结构示意图。参见图4,本公开实施例提供的电子设备400,其包括:处理器420和存储器410;处理器420通过调用存储器410存储的程序或指令,用于执行本公开实施例所提供的PostgreSQL数据库的DDL同步方法的步骤:
在源端PostgreSQL数据库中创建辅助表;其中,辅助表用于记录数据库中产生的DDL语句;
基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息;
解析日志信息,并基于日志信息中的DML操作的操作对象是否为辅助表,将DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
将同步对象发送至目标端数据同步服务;其中,目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。
当然,本领域技术人员可以理解,处理器420还可以实现本公开任意实施例所提供的PostgreSQL数据库的DDL同步方法的技术方案。
图4显示的电子设备400仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,电子设备400以通用计算设备的形式表现。电子设备400的组件可以包括但不限于:一个或者多个处理器420,存储器410,连接不同系统组件(包括存储器410和处理器420)的总线450。
总线450表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备400典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备400访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器410可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)411和/或高速缓存存储器412。电子设备400可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统413可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线450相连。存储器410可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本公开各实施例的功能。
具有一组(至少一个)程序模块415的程序/实用工具414,可以存储在例如存储器410中,这样的程序模块415包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块414通常执行本公开所描述的任意实施例中的功能和/或方法。
电子设备400也可以与一个或多个外部设备460(例如键盘、指向设备、显示器470等)通信,还可与一个或者多个使得用户能与该电子设备400交互的设备通信,和/或与使得该电子设备400能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出接口(I/O接口)430进行。并且,电子设备400还可以通过网络适配器440与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器440通过总线450与电子设备400的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备400使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质存储程序或指令,该程序或指令使计算机执行本公开实施例提供的PostgreSQL数据库的DDL同步方法步骤:
在源端PostgreSQL数据库中创建辅助表;其中,辅助表用于记录数据库中产生的DDL语句;
基于源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入辅助表中,且生成相应DML操作的日志信息;
解析日志信息,并基于日志信息中的DML操作的操作对象是否为辅助表,将DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
将同步对象发送至目标端数据同步服务;其中,目标端数据同步服务用于反解析同步对象,并在目标数据库执行反解析结果,完成PostgreSQL数据库的DML和DDL同步。
当然,本公开实施例所提供的一种计算机可读存储介质,其存储的程序或指令不限于如上的方法操作,还可以执行本公开任意实施例所提供的PostgreSQL数据库的DDL同步方法中的相关操作。
本公开实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
需要说明的是,本公开所用术语仅为了描述特定实施例,而非限制本申请范围。如本公开说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。术语“和/或”包括一个或多个相关所列条目的任何一个和所有组合。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种PostgreSQL数据库的DDL同步方法,其特征在于,包括:
在源端PostgreSQL数据库中创建辅助表;其中,所述辅助表用于记录数据库中产生的DDL语句;
基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中,且生成相应DML操作的日志信息;
解析所述日志信息,并基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
将所述同步对象发送至目标端数据同步服务;其中,所述目标端数据同步服务用于反解析所述同步对象,并在目标数据库执行反解析结果,完成所述PostgreSQL数据库的DML和DDL同步。
2.根据权利要求1所述的方法,其特征在于,在所述基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中之前,所述方法还包括:
将预设so文件配置于所述源端PostgreSQL数据库的lib目录下;其中,所述预设so文件中包含DDL语句捕获函数,所述DDL语句捕获函数用于实现所述捕获执行的DDL语句的功能;
创建事件触发器;其中,所述事件触发器的触发条件为所述源端PostgreSQL数据库执行完毕DDL语句,且所述事件触发器用于实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
3.根据权利要求2所述的方法,其特征在于,所述事件触发器通过如下方式实现所述捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能:
调用所述DDL语句捕获函数,以实现所述捕获执行的DDL语句的功能;
调用路径获取函数,以实现捕获所述DDL生效路径的功能;
调用插入函数,以实现所述将捕获的DDL语句和DDL生效路径插入所述辅助表中的功能。
4.根据权利要求2所述的方法,其特征在于,在所述创建事件触发器之前,所述方法还包括:
将所述源端PostgreSQL数据库的日志级别由默认的最低级别修改为中等级别或最高级别;其中,所述最低级别对应于记录最少的日志信息,所述最高级别对应于记录最多的日志信息。
5.根据权利要求1所述的方法,其特征在于,所述基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象包括:
判断所述日志信息中的DML操作的操作对象是否为所述辅助表;
若是,则将所述DML操作转换为DDL语句,并将转换的DDL语句封装为DDL对应的Statement对象;
若否,则将所述DML操作转换为DML语句,并将转换的DML语句封装为DML对应的RowChange对象。
6.根据权利要求5所述的方法,其特征在于,所述判断所述日志信息中的DML操作的操作对象是否为所述辅助表包括:
比较所述DML操作的操作对象的表名与所述辅助表的表名,并根据比较结果判断所述操作对象是否为所述辅助表。
7.根据权利要求1所述的方法,其特征在于,所述辅助表中至少包含时间类型的时间字段、字符类型的路径字段和文本类型的语句命令字段。
8.一种PostgreSQL数据库的DDL同步装置,其特征在于,包括:
辅助表创建模块,用于在源端PostgreSQL数据库中创建辅助表;其中,所述辅助表用于记录数据库中产生的DDL语句;
DDL语句捕获模块,用于基于所述源端PostgreSQL数据库的事件触发器机制,捕获执行的DDL语句和DDL生效路径,并将捕获的DDL语句和DDL生效路径插入所述辅助表中,且生成相应DML操作的日志信息;
日志解析模块,用于解析所述日志信息,并基于所述日志信息中的DML操作的操作对象是否为所述辅助表,将所述DML操作转换为DDL语句或DML语句,且将转换的DDL语句或DML语句封装为相应语句对应的同步对象;
同步模块,用于将所述同步对象发送至目标端数据同步服务;其中,所述目标端数据同步服务用于反解析所述同步对象,并在目标数据库执行反解析结果,完成所述PostgreSQL数据库的DML和DDL同步。
9.一种电子设备,其特征在于,所述电子设备包括:
处理器和存储器;
所述处理器通过调用所述存储器存储的程序或指令,用于执行如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储程序或指令,所述程序或指令使计算机执行如权利要求1至7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011137351.9A CN112231407B (zh) | 2020-10-22 | 2020-10-22 | PostgreSQL数据库的DDL同步方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011137351.9A CN112231407B (zh) | 2020-10-22 | 2020-10-22 | PostgreSQL数据库的DDL同步方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112231407A true CN112231407A (zh) | 2021-01-15 |
CN112231407B CN112231407B (zh) | 2023-09-15 |
Family
ID=74110303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011137351.9A Active CN112231407B (zh) | 2020-10-22 | 2020-10-22 | PostgreSQL数据库的DDL同步方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112231407B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113626453A (zh) * | 2021-07-30 | 2021-11-09 | 浪潮云信息技术股份公司 | 一种元数据变更捕获方法 |
CN114491510A (zh) * | 2021-12-28 | 2022-05-13 | 杭州电子科技大学 | 数据库安全审计管理模块 |
CN114969200A (zh) * | 2022-04-18 | 2022-08-30 | 中移互联网有限公司 | 数据同步方法、装置、电子设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015062181A1 (zh) * | 2013-11-04 | 2015-05-07 | 广东电子工业研究院有限公司 | 用于实现多源异构数据资源自动同步的方法 |
WO2018019023A1 (zh) * | 2016-07-27 | 2018-02-01 | 腾讯科技(深圳)有限公司 | 一种数据容灾方法、装置和系统 |
CN109656934A (zh) * | 2018-11-19 | 2019-04-19 | 武汉达梦数据库有限公司 | 基于日志解析的源端Oracle数据库DDL同步方法及设备 |
CN109933630A (zh) * | 2019-03-19 | 2019-06-25 | 武汉达梦数据库有限公司 | 数据库数据实时同步方法及设备 |
-
2020
- 2020-10-22 CN CN202011137351.9A patent/CN112231407B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015062181A1 (zh) * | 2013-11-04 | 2015-05-07 | 广东电子工业研究院有限公司 | 用于实现多源异构数据资源自动同步的方法 |
WO2018019023A1 (zh) * | 2016-07-27 | 2018-02-01 | 腾讯科技(深圳)有限公司 | 一种数据容灾方法、装置和系统 |
CN109656934A (zh) * | 2018-11-19 | 2019-04-19 | 武汉达梦数据库有限公司 | 基于日志解析的源端Oracle数据库DDL同步方法及设备 |
CN109933630A (zh) * | 2019-03-19 | 2019-06-25 | 武汉达梦数据库有限公司 | 数据库数据实时同步方法及设备 |
Non-Patent Citations (1)
Title |
---|
秦森;杨艳;: "基于Oracle日志分析的数据还原操作的设计及实现", 电脑知识与技术(学术交流), no. 03 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113626453A (zh) * | 2021-07-30 | 2021-11-09 | 浪潮云信息技术股份公司 | 一种元数据变更捕获方法 |
CN114491510A (zh) * | 2021-12-28 | 2022-05-13 | 杭州电子科技大学 | 数据库安全审计管理模块 |
CN114969200A (zh) * | 2022-04-18 | 2022-08-30 | 中移互联网有限公司 | 数据同步方法、装置、电子设备及存储介质 |
CN114969200B (zh) * | 2022-04-18 | 2023-09-19 | 中移互联网有限公司 | 数据同步方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112231407B (zh) | 2023-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112231407B (zh) | PostgreSQL数据库的DDL同步方法、装置、设备和介质 | |
US7822710B1 (en) | System and method for data collection | |
WO2020253399A1 (zh) | 日志分类规则的生成方法、装置、设备及可读存储介质 | |
CN112685433B (zh) | 元数据更新方法、装置、电子设备及计算机可读存储介质 | |
CN109471851B (zh) | 数据处理方法、装置、服务器和存储介质 | |
CA2684822A1 (en) | Data transformation based on a technical design document | |
CN111324610A (zh) | 一种数据同步的方法及装置 | |
CN109241384B (zh) | 一种科研信息的可视化方法及装置 | |
CN111046036A (zh) | 数据同步方法、装置、系统及存储介质 | |
CN112463800A (zh) | 数据读取方法、装置、服务器及存储介质 | |
CN104391796A (zh) | 一种测试用例解析方法 | |
CN114281342A (zh) | 一种代码自动生成方法 | |
CN112783482B (zh) | 一种可视化表单生成方法、装置、设备及存储介质 | |
CN114185791A (zh) | 一种数据映射文件的测试方法、装置、设备及存储介质 | |
CN114116691A (zh) | 数据导入校验方法、系统、装置及计算机可读介质 | |
CN111914028A (zh) | 一种基于图增量同步异构数据源数据关系的方法及装置 | |
CN116303359A (zh) | 一种数据库结构多类型文档导出的实现方法 | |
US10540157B2 (en) | Systems to remove object relational mappings from a software project | |
CN111125129A (zh) | 数据处理方法和装置、存储介质及处理器 | |
CN112395292B (zh) | 一种数据特征提取、匹配方法及装置 | |
CN111026764B (zh) | 一种数据存储方法、装置、电子产品及存储介质 | |
CN112231409A (zh) | 数据库同步的初始化装载方法、装置、设备和存储介质 | |
CN108008947B (zh) | 一种编程语句的智能提示方法、装置、服务器及存储介质 | |
CN111241191A (zh) | 一种数据库的同步方法及装置 | |
CN110807017A (zh) | 基于Beautiful Soup解析技术的AWR报告解析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |