CN108170768A - 数据库同步方法、装置及可读介质 - Google Patents
数据库同步方法、装置及可读介质 Download PDFInfo
- Publication number
- CN108170768A CN108170768A CN201711423805.7A CN201711423805A CN108170768A CN 108170768 A CN108170768 A CN 108170768A CN 201711423805 A CN201711423805 A CN 201711423805A CN 108170768 A CN108170768 A CN 108170768A
- Authority
- CN
- China
- Prior art keywords
- log data
- binary log
- database
- standby host
- binary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种数据库同步方法、装置及可读介质,涉及数据库领域。该方法包括:获取数据库事务;根据数据库事务生成二进制日志数据;将二进制日志数据写入临时内存文件系统,临时内存文件系统是通过写内存的方式进行写入的文件系统;将存储在临时内存文件系统中的二进制日志数据同步至备机,备机用于根据二进制日志数据对数据库进行同步。通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率。
Description
技术领域
本申请实施例涉及数据库领域,特别涉及一种数据库同步方法、装置及可读介质。
背景技术
在数据库领域中,将数据库中的数据由主机同步至备机是一种灾备的主要方式。备机和主机的数据库数据保持一致,在主机数据被破坏或者主机崩溃时,可以直接通过备机上的数据库继续进行工作。
通常,客户端通过数据库事务对主机上的数据库进行数据修改。在主机接收到客户端提交的若干个数据库事务后,在根据该数据库事务对该数据库中的数据进行修改之前,首先将该数据库事务写入二进制日志(英文:binlog)文件中,并将该二进制日志文件发送至备机,备机会通过对该二进制日志文件进行解析,得到对应的数据库事务,并在备机上执行该数据库事务,以保证主机的数据库与备机的数据库保持一致。
然而,受限于二进制日志文件的文件写入速度较慢,主机将数据库事务写入二进制日志文件的效率比较低,从而会导致主机与备机在数据库的同步之间延时较大。当数据库较为庞大且对时效性要求较高时,无法满足实际处理需求。
发明内容
本申请实施例提供了一种数据库同步方法、装置及可读介质,可以解决主机将数据库事务写入二进制日志文件的效率比较低,从而会导致主机与备机在数据库的同步之间延时较大的问题。所述技术方案如下:
根据本申请实施例的一方面,提供了一种数据库同步方法,所述方法包括:
获取数据库事务;
根据所述数据库事务生成二进制日志数据;
将所述二进制日志数据写入临时内存文件系统,所述临时内存文件系统是通过写内存的方式进行写入的文件系统;
将存储在所述临时内存文件系统中的所述二进制日志数据同步至备机,所述备机用于根据所述二进制日志数据对所述数据库进行同步。
根据本申请实施例的另一方面,提供了一种数据库同步装置,所述装置包括:
获取模块,用于获取数据库事务;
生成模块,用于根据所述数据库事务生成二进制日志数据;
写入模块,用于将所述二进制日志数据写入临时内存文件系统,所述临时内存文件系统是通过写内存的方式进行写入的文件系统;
同步模块,用于将存储在所述临时内存文件系统中的所述二进制日志数据同步至备机,所述备机用于根据所述二进制日志数据对所述数据库进行同步。
根据本申请实施例的另一方面,提供了一种终端,所述终端包括处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如本申请实施例的第一方面及其可选实施例中任一所述的数据库同步方法。
根据本申请实施例的另一方面,提供了一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如本申请实施例的第一方面及其可选实施例中任一所述的数据库同步方法。
根据本申请实施例的另一方面,提供了一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得计算机执行如上述本申请第一方面及其可选的实施例中任一所述的数据库同步方法。
本申请实施例提供的技术方案带来的有益效果至少包括:
通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率,以及提高了从临时内存文件系统读取二进制日志数据的读取效率,从而提高了数据库的写入以及读取效率,在一个典型的实施例中,该二进制日志数据的写入效率提升了五倍,数据库的每秒查询库(英文:Query PerSecond)提升了10%。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个示例性的实施例提供的数据库同步方法的实施环境示意图;
图2是本申请一个示例性的实施例提供的数据库同步方法的流程图;
图3是本申请另一个示例性的实施例提供的数据库同步方法的流程图;
图4A是本申请另一个示例性的实施例提供的数据库同步方法的实施环境示意图;
图4B是本申请另一个示例性的实施例提供的数据库同步方法的实施环境示意图;
图5是本申请另一个示例性的实施例提供的数据库同步方法的流程图;
图6是本申请一个示例性的实施例提供的数据库同步装置的结构框图;
图7是本申请一个示例性的实施例提供的终端的结构框图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
首先,对本申请实施例中涉及的以下名词进行解释:
主机:用于根据接收到的数据库事务对数据库进行调整,可选地,该主机中包括数据库以及二进制服务器。可选地,该主机可以是物理主机,也可以是虚拟主机,当其为虚拟主机时,该主机又可以称为主实例。
备机:用于对主机中的数据库进行备份,通常,备机对接收到的二进制日志数据进行解析,得到数据库事务,并在备机上执行该数据库事务,以保证主机的数据库与备机的数据库保持一致。可选地,该备机可以是物理主机,也可以是虚拟机,当其为虚拟机时,该备机又可以称为备实例。
数据库事务:数据库事务是数据库运行中的逻辑工作单位,通常,一个数据库事务可以对数据库进行一次操作,如:增加操作、修改操作、删除操作等,可选地,一个数据库事务为一条或一组结构化查询语言(Structured Query Language,SQL)语句。
二进制服务器:二进制服务器(英文:binlog server)用于根据数据库事务生成二进制日志数据(英文:binlog),并写入临时内存文件系统,以及将临时内存文件系统中的binlog同步至备机。
二进制日志数据:二进制日志数据是二进制形式的数据库事务。
临时内存文件系统:临时内存文件系统是一种通过写内存的方式进行写入的文件系统,示意性的,该临时内存文件系统为临时文件系统(temporary file storage,tmpfs)。
下面,结合上述本申请实施例中涉及的名词对本申请实施例进行说明,首先,请参考图1,图1是本申请一个示例性的实施例提供的数据库同步方法的实施环境示意图,如图1所示,该数据库同步方法运行环境包括:主机11、备机12以及通信网络13;
主机11中包括数据库110以及binlog服务器111,该数据库110根据接收到的数据库事务进行调整,binlog服务器111获取数据库110接收到的数据库事务,并将根据该数据库事务生成的二进制日志数据写入临时内存文件系统,以及将该二进制日志数据同步至备机12。
值得注意的是,本申请实施例中以主机11中包括数据库110为例进行说明,在实际操作中,主机11中还可以包括更多数据库,可选地,每个数据库与一个binlog服务器对应,即每个binlog服务器对一个数据库的数据库事务进行处理。
主机11通过通信网络13将二进制日志数据同步至备机12,该通信网络13可以是局域网、城域网或者广域网中的至少一个。
备机12包括数据库120,备机12对接收到的二进制日志数据进行解析,得到数据库事务,并在备机上执行该数据库事务,以保证主机11的数据库110与备机12的数据库120保持一致。
结合上述本申请实施例中涉及的名词以及本申请实施例的实施环境,对本申请实施例进行说明,如图2所示,图2是本申请一个示例性的实施例提供的数据库同步方法的流程图,以该数据库同步方法应用在如图1所示的二进制服务器111中为例进行说明,该数据库同步方法包括:
步骤201,获取数据库事务。
可选地,该数据库事务是数据库运行中的逻辑工作单位,通常,一个数据库事务可以对数据库进行一次操作,如:增加操作、修改操作、删除操作等,可选地,一个数据库事务为一条或一组SQL语句。
步骤202,根据数据库事务生成二进制日志数据。
可选地,binlog服务器根据该数据库事务,生成以二进制形式进行存储的二进制日志数据。
步骤203,将二进制日志数据写入临时内存文件系统。
该临时内存文件系统是通过写内存的方式进行写入的文件系统。
通常,以写内存的方式进行写入,比以写文件的方式进行写入的速率要高。
步骤204,将存储在临时内存文件系统中的二进制日志数据同步至备机。
该备机用于根据二进制日志数据对数据库进行同步,即,使备机中与该数据库事务对应的数据库与主机中与该数据库事务对应的数据库保持一致。
综上所述,本实施例提供的数据库同步方法,通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率,以及提高了从临时内存文件系统读取二进制日志数据的读取效率,从而提高了数据库的写入以及读取效率。
在一个可选的实施例中,binlog服务器接收到的数据库事务是由数据库引擎按照预先配置的地址发送的,首先,主机接收对写binlog的地址的配置,即对数据库引擎发送的数据库事务的接收地址进行配置,该接收地址为本地binlog服务器的地址,数据库引擎通过进程间通信套接字(英文:Unix socket)将数据库事务发送至binlog服务器。可选地,主机还可以通过共享内存,或者消息队列的方式将数据库事务发送至binlog服务器。
图3是本申请另一个示例性的实施例提供的数据库同步方法的流程图,以该数据库同步方法应用在如图1所示的二进制服务器111中为例进行说明,该数据库同步方法包括:
步骤301,接收数据库引擎发送的数据库事务。
该数据库事务是数据库引擎按照预先配置的本地binlog服务器地址发送的。
可选地,该数据库事务是数据库运行中的逻辑工作单位,通常,一个数据库事务可以对数据库进行一次操作,如:增加操作、修改操作、删除操作等,可选地,一个数据库事务为一条SQL语句。
可选地,数据库中包括数据库引擎,该数据库引擎是用于存储、处理和保护数据库中的数据的核心服务。可选地,本地binlog服务器的地址可以由开发人员或者用户进行配置,也可以是系统默认配置的,数据库引擎根据该本地binlog服务器的地址将数据库事务发送至该本地binlog服务器,即binlog服务器接收到数据库引擎发送的数据库事务。
步骤302,根据数据库事务生成二进制日志数据。
可选地,根据该数据库事务,生成以二进制形式进行存储的二进制日志数据。
步骤303,读取数据库配置参数。
可选地,该数据库配置参数包括:文件命名方式、文件切割方式、文件循环写入方式以及二进制日志数据的格式中的至少一种。
步骤304,根据数据库配置参数,将二进制日志数据写入临时内存文件系统。
可选地,将二进制日志数据写入临时内存文件系统时,首先在临时内存文件系统中创建文件,并将该二进制日志数据写入创建的文件中,其中,根据上述数据库配置参数创建文件。
其中,文件命名方式即该二进制日志数据写入临时内存文件系统的文件时,该文件的命名方式,示意性的,该文件的命名方式形如:mysql-bin.000070,一个文件中写有若干个二进制日志数据。
文件切割方式用于指示每个临时内存文件系统中的文件中存储的二进制日志数据的大小,如,当二进制日志数据的大小达到1吉字节(Gigabyte,GB)时,从当前存储的二进制日志数据开始,将二进制日志数据存储到下一个文件中,示意性的,将二进制日志数据x存储到文件mysql-bin.000070后,文件mysql-bin.000070中的二进制日志数据的大小达到了1GB,则创建文件mysql-bin.000071,并将下一个二进制日志数据y开始的二进制日志数据存储到文件mysql-bin.000071中,直至文件mysql-bin.000071中的二进制日志数据达到1GB。
文件循环写入方式用于指示二进制日志数据写入临时内存文件系统中的文件的方式,可以将一个二进制日志数据对应写入一个文件的方式进行循环写入,也可以是固定数量的二进制日志数据对应写入一个文件的方式进行循环写入,如:共有10个二进制日志数据,预先创建三个文件,可以将第一个二进制日志数据写入第一个文件,第二个二进制日志数据写入第二个文件,第三个二进制日志数据写入第三个文件,第四个二进制日志数据写入第一个文件,并以此类推;也可以前三个二进制日志数据写入第一个文件,第四到第六个二进制日志数据写入第二个文件,并以此类推,上述举例仅为示意性的举例,在实际操作中,文件的循环写入方式根据实际的数据库配置参数确定。
二进制日志数据的格式,binlog通常包括三种格式:语句模式(英文:Statement)、记录模式(英文:Row)以及混合模式(英文:Mixed),其中,Statement指基于SQL语句的复制,将每一条SQL语句记录在binlog中,Row指基于行的复制,即,将被修改的数据记录在binlog中,以及Mixed是指混合模式的复制,指在binlog的记录中混合使用Statement格式以及Row格式,在数据库配置参数中设置该binlog的格式后,将binlog写入临时内存文件系统。
步骤305,将存储在临时内存文件系统中的二进制日志数据同步至备机。
该备机用于根据二进制日志数据对数据库进行同步,即,使备机中与该数据库事务对应的数据库与主机中与该数据库事务对应的数据库保持一致。
综上所述,本实施例提供的数据库同步方法,通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率,以及提高了从临时内存文件系统读取二进制日志数据的读取效率,从而提高了数据库的写入以及读取效率。
本实施例提供的数据库同步方法,通过数据库配置参数将二进制日志数据写入临时内存文件系统,每个文件的命名方式遵循一定的规则,便于对临时内存文件系统中的二进制日志数据进行管理;将文件根据一定的大小进行切割,避免了文件过大或者文件过小导致的临时内存文件系统中文件的数据大小不均,不便于管理;通过对二进制日志数据的格式的配置,针对不同的情况使用不同的二进制日志数据的格式,避免造成临时内存文件系统中的内存浪费。
在一个可选的实施例中,本申请中还设置有冷备系统,示意性的,请参考图4A,图4A是本申请另一个示意性的实施例提供的数据库同步方法的实施环境示意图,如图4A所示,主机40中包括数据库41、binlog服务器42以及线程转储(英文名:Thread Dump)43,备机44中包括数据库45,该实施环境中还包括冷备系统46。
主机40中的数据库41,还包括网络接口411、引擎接口412以及数据库引擎413,其中,网络接口411用于接收网络请求,如:与数据库41对应的客户端进行连接。
引擎接口412用于与不同的引擎进行对接,如:与数据库引擎413进行对接。
数据库引擎413用于存储、处理和保护数据库中的数据,可选地,该数据库引擎413可以是InnoDB引擎。
值得注意的是,上述图4A中仅对数据库41中的部分进行示出,在实际操作中,数据库41中还包括如解析器、优化器、高速缓存区、缓存池等多个部分,在本实施例中未示出。
binlog服务器42中包括:接入层421、写内存模块422、异步模块423以及异常模块424;
接入层421用于接收数据库引擎413发送的数据库事务;写内存模块422用于根据接入层421接收到的数据库事务生成二进制日志数据,并将该二进制日志数据以写内存的方式写入临时内存文件系统,可选地,该写内存模块为tmpfs模块,可选地,写内存模块422将二进制日志数据写入临时内存文件系统后,通过线程转储43将二进制日志数据同步至备机44;写内存模块422将二进制日志数据以写内存的方式写入临时内存文件系统后,将写好的二进制日志数据发送至异步模块423,异步模块423用于将二进制日志数据发送至冷备系统46,可选地,异步模块423在有空余线程时,将二进制日志数据以异步消息的形式通过线程转储43发送至冷备系统46;异常模块424用于当备机44接收到的主机40发送的二进制日志数据的事务标识不连续,且冷备系统46中也没有备机44缺失的二进制日志数据时,从本地获取重做日志文件中与缺失的二进制日志数据对应的重做日志数据,并将该重做日志数据发送至备机。
线程转储43用于对二进制日志数据或重做日志数据进行转发。
备机44中包括数据库45,该数据库45即为需要与主机40中的数据库41保持一致的数据库。数据库45中包括网络接口451、视图触发器452、解析器453、优化器454、高速缓存和缓存池(英文:cache&buffer)455、引擎接口456、数据库引擎457以及存储引擎458;
网络接口451用于接收网络请求,如:该网络接口451用于接收线程转储43发送的二进制日志数据以及接收异常模块424通过线程转储43发送的重做日志数据;视图触发器452为存储在数据库45的视图、触发器等;解析器453用于解析接收到的数据库事务,可选地,该解析器453还用于将接收到的二进制日志数据解析为数据库事务;优化器454将数据库事务进行重组以及执行顺序的优化;高速缓存和缓存池455用于存储数据库在执行数据库事务后的结果集;引擎接口456用于与不同的引擎进行对接,如:与数据库引擎457进行对接;数据库引擎457用于存储、处理和保护数据库中的数据,可选地,该数据库引擎457可以是InnoDB引擎;存储引擎458用于数据归档。
值得注意的是,上述图4A中仅对数据库45中的部分模块进行示出,在实际操作中,数据库45中还包括未示出的多个模块。
冷备系统46用于对数据库41以及binlog服务器42写入临时内存文件系统的二进制日志数据进行存储。
结合图4A所述的实施环境,图5是本申请另一个示例性的实施例提供的数据库同步方法流程图,以该数据库同步方法应用在如图4A所示的binlog服务器42中为例,该数据库同步方法包括:
步骤501,获取数据库事务。
可选地,结合图4A,binlog服务器42通过接入层421从数据库引擎413获取数据库事务,或,数据库引擎413通过预设的binlog服务器的地址,将数据库事务发送至接入层421。
步骤502,根据数据库事务生成二进制日志数据。
可选地,binlog服务器根据该数据库事务,生成以二进制形式进行存储的二进制日志数据。
步骤503,将二进制日志数据写入临时内存文件系统。
该临时内存文件系统是通过写内存的方式进行写入的文件系统。
可选地,binlog服务器42通过写内存模块422将二进制日志数据写入临时内存文件系统。
通常,以写内存的方式进行写入,比以写文件的方式进行写入的速率要高。
步骤504,将临时内存文件系统中的二进制日志数据通过异步消息发送至冷备系统。
该冷备系统用于每隔预设时长对数据库和二进制日志数据进行冷备份。
冷备份是指在关闭数据库并且数据库不能更新的状况下进行的备份。
可选地,写内存模块422将二进制日志数据写入临时内存文件系统后,将二进制日志数据发送至异步模块423,该异步模块423用于通过异步消息将二进制日志数据发送至冷备系统46,可选地,该异步模块423首先将二进制日志数据发送至线程转储43,并通过该线程转储43将二进制日志数据发送至冷备系统46。
步骤505,将存储在临时内存文件系统中的二进制日志数据同步至备机。
该备机用于根据二进制日志数据对数据库进行同步,即对主机的数据库和备机的数据库进行同步。
可选地,binlog服务器将二进制日志数据写入临时内存文件系统后,将临时内存文件系统中的二进制日志数据同步至备机。
示意性的,结合图4B,binlog服务器42将二进制日志数据发送至线程转储43,该线程转储将接收到的二进制日志数据发送至备机44中的数据库45的网络接口451,然后备机44在数据库45中将二进制日志数据写入中继日志(英文:relay log)4520中,SQL线程4530从中继日志4520中获取该二进制日志,并通过表格存储4540将二进制日志应用在数据库的表中。
步骤506,接收备机发送的异常信号。
该异常信号是备机在同步到的二进制日志数据的事务标识不连续时产生的,该异常信号包括备机缺失的二进制日志数据的事务标识。
可选地,备机同步到的二进制日志数据包括事务标识,事务标识通常是连续的,以“xid=0001”的形式进行表示,如:备机同步到的二进制日志数据的事务标识依次为:xid=0001,xid=0010,xid=0011,xid=0100,则该四个二进制日志数据为4个连续的二进制日志数据。当备机同步到的二进制日志数据的事务标识不连续,即同步到的二进制日志数据有缺失时,则备机会向主机发送异常信号,如:备机同步到的二进制日志数据的事务标识依次为:xid=0001,xid=0010,xid=0101,xid=0110,则该四个二进制日志数据中的第二个和第三个中间缺失了部分二进制日志数据。
可选地,备机向主机发送的异常信号中包括备机缺失的二进制日志数据的事务标识,如:上述备机同步到二进制日志数据的事务标识依次为:xid=0001,xid=0010,xid=0101,xid=0110,备机通过对事务标识进行判断,得到缺失的事务标识为xid=0011,xid=0100,则备机向主机发送的异常信号中包括“xid=0011,xid=0100”。
步骤507,根据异常信号中的事务标识,从冷备系统获取备机缺失的二进制日志数据。
可选地,由于二进制日志数据的事务标识对于整个数据库而言是唯一的,即该事务标识可以在数据库中唯一标识该数据库事务以及对应的二进制日志数据,可选地,主机中的数据库与备机中对应的数据库中的同一条数据库事务的事务标识是相同的,冷备系统中存储的二进制日志数据也包括该事务标识,故binlog服务器接收到异常信号后,根据异常信号中的事务标识,从冷备系统中获取备机缺失的二进制日志数据。
步骤508,将备机缺失的二进制日志数据发送至备机。
可选地,主机通过线程转储从冷备系统获取到该备机缺失的二进制日志数据后,将该二进制日志数据发送至备机,可选地,主机将该二进制日志数据发送至备机的网络接口。
步骤509,接收备机发送的异常信号。
可选地,该异常信号在步骤506中已作解释,此处不再赘述。
步骤510,当冷备系统中没有备机缺失的二进制日志数据时,获取重做日志文件中与异常信号中的事务标识对应的重做日志数据。
可选地,主机的数据库中还存储有重做日志文件(英文:redo log),该重做日志文件中存储有根据最新执行的数据库事务生成的重做日志数据,该重做日志数据中包括数据库事务对应的事务标识。
当冷备系统中也没有备机缺失的二进制日志数据,即在冷备系统中查找不到备机缺失的事务标识时,binlog服务器从重做日志文件中获取与备机缺失的事务标识对应的重做日志数据。
步骤511,将重做日志数据发送至备机。
可选地,binlog服务器从重做日志文件中获取重做日志数据后,将该重做团日志数据通过线程转储发送至备机。
可选地,binlog服务器中的异常模块从重做日志文件中获取重做日志数据后,将该重做团日志数据通过线程转储发送至备机。
值得注意的是,上述步骤505可以执行在步骤506以及步骤509之前,在同步过程中备机发现异常时,暂停步骤505并执行步骤506或者步骤509,其中,步骤506至步骤508以及步骤509至步骤511为两个并列的方案。
综上所述,本实施例提供的数据库同步方法,通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率,以及提高了从临时内存文件系统读取二进制日志数据的读取效率,从而提高了数据库的写入以及读取效率。
本实施例提供的数据库同步方法,通过将二进制日志数据以及数据库在冷备系统中进行冷备份,使得主机中的数据库的回档时间更长,即用户可以将更久之前的数据库进行回档,在一个典型的实施例中,该数据库的回档时间由1天提升至了1个月甚至更长。
本实施例提供的数据库同步方法,通过将二进制日志数据同步至冷备系统,当备机接收到的二进制日志数据的事务标识不连续时,从备机中获取事务标识对应的二进制日志数据,确保了备机接收到的二进制日志数据的完整性。
本实施例提供的数据库同步方法,当备机中缺失的二进制日志数据冷备中也未进行保存时,通过从重做日志文件中获取事务标识对应的重做日志数据,进一步确保了备机接收到的二进制日志数据的完整性。
图6是本申请一个示例性的实施例提供的数据库同步装置的结构框图,如图6所示,该数据库同步装置包括:获取模块61、生成模块62、写入模块63以及同步模块64;
获取模块61,用于获取数据库事务;
生成模块62,用于根据数据库事务生成二进制日志数据;
写入模块63,用于将二进制日志数据写入临时内存文件系统,临时内存文件系统是通过写内存的方式进行写入的文件系统;
同步模块64,用于将存储在临时内存文件系统中的二进制日志数据同步至备机,备机用于根据二进制日志数据对数据库进行同步。
在一个可选的实施例中,获取模块61,还用于接收数据库引擎发送的数据库事务,数据库事务是数据库引擎按照预先配置的本地二进制服务器地址发送的。
在一个可选的实施例中,写入模块63,还包括:
读取单元,用于读取数据库配置参数,数据库配置参数包括:文件命名方式、文件切割方式、文件循环写入方式以及二进制日志数据的格式中的至少一种;
写入单元,用于根据数据库配置参数,将二进制日志数据写入临时内存文件系统。
在一个可选的实施例中,该装置,还包括:
发送模块,用于将临时内存文件系统中的二进制日志数据通过异步消息发送至冷备系统,冷备系统用于每隔预设时长对数据库和二进制日志数据进行冷备份。
在一个可选的实施例中,该装置,还包括:
第一接收模块,用于接收备机发送的异常信号,异常信号是备机在同步到的二进制日志数据的事务标识不连续时产生的,异常信号包括备机缺失的二进制日志数据的事务标识;
获取模块61,还用于根据异常信号中的事务标识,从冷备系统获取备机缺失的二进制日志数据;
发送模块,还用于将备机缺失的二进制日志数据发送至备机。
在一个可选的实施例中,该装置,还包括:
第二接收模块,用于接收备机发送的异常信号,异常信号是备机在同步到的二进制日志数据的事务标识不连续时产生的,异常信号包括备机缺失的二进制日志数据的事务标识;
获取模块61,还用于当冷备系统中没有备机缺失的二进制日志数据时,获取重做日志文件中与异常信号中的事务标识对应的重做日志数据;
发送模块,还用于将重做日志数据发送至备机。
综上所述,本实施例提供的数据库同步装置,通过将二进制日志数据以写内存的方式写入临时内存文件系统,避免了由于二进制日志文件的文件写入速度较慢,主机将二进制日志数据写入二进制日志文件的效率比较低的问题,提高了二进制日志数据的写入效率,以及提高了从临时内存文件系统读取二进制日志数据的读取效率,从而提高了数据库的写入以及读取效率。
图7示出了本发明另一个示例性实施例提供的数据库同步方法的实施环境示意图。如图7所示,该实施环境包括硬件资源71、虚拟化层72以及虚拟资源73,其中,硬件资源71中包括计算硬件711、存储硬件712以及网络硬件713。
计算硬件711可以是处理器,或者多个级联的处理器阵列,该计算硬件711用于对存储硬件712中存储的指令、程序或者代码集进行加载以及处理。
存储硬件712用于提供存储容量。可选地,该存储硬件712是一个或者多个存储器,如:磁盘阵列。
网络硬件713时执行交换功能的交换机、路由器和/或任意其他网络设备,不同网络硬件713之间可以通过有线网或者无线链路互联。
虚拟化层72用于通过硬件资源71提供虚拟资源73。虚拟资源73中包括主实例731和备实例732,可选地,该主实例731和备实例732皆为虚拟机,主实例731中包括数据库以及binlog服务器700,binlog服务器700获取数据库接收到的数据库事务,并将根据该数据库事务生成的二进制日志数据写入临时内存文件系统,以及将该二进制日志数据同步至备实例732。
备实例732包括数据库,备实例732对接收到的二进制日志数据进行解析,得到数据库事务,并在备实例上执行该数据库事务,以保证主实例731的数据库与备实例732的数据库保持一致。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,该计算机可读存储介质可以是上述实施例中的存储器中所包含的计算机可读存储介质;也可以是单独存在,未装配入计算机设备中的计算机可读存储介质。该计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如图1至图5任一所述的数据库同步方法。
本申请实施例还提供一种计算机设备,该计算机设备包括处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如图1至图5任一所述的数据库同步方法。
本申请实施例还提供一种计算机可读存储介质,该存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如图1至图5任一所述的数据库同步方法。
可选地,该计算机可读存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、固态硬盘(SSD,Solid State Drives)或光盘等。其中,随机存取记忆体可以包括电阻式随机存取记忆体(ReRAM,Resistance RandomAccess Memory)和动态随机存取存储器(DRAM,Dynamic Random Access Memory)。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (14)
1.一种数据库同步方法,其特征在于,所述方法包括:
获取数据库事务;
根据所述数据库事务生成二进制日志数据;
将所述二进制日志数据写入临时内存文件系统,所述临时内存文件系统是通过写内存的方式进行写入的文件系统;
将存储在所述临时内存文件系统中的所述二进制日志数据同步至备机,所述备机用于根据所述二进制日志数据对所述数据库进行同步。
2.根据权利要求1所述的方法,其特征在于,所述获取数据库事务,包括:
接收数据库引擎发送的数据库事务,所述数据库事务是所述数据库引擎按照预先配置的本地二进制服务器地址发送的。
3.根据权利要求1所述的方法,其特征在于,所述将所述二进制日志数据写入临时内存文件系统,还包括:
读取数据库配置参数,所述数据库配置参数包括:文件命名方式、文件切割方式、文件循环写入方式以及二进制日志数据的格式中的至少一种;
根据所述数据库配置参数,将所述二进制日志数据写入临时内存文件系统。
4.根据权利要求1至3任一所述的方法,其特征在于,所述将所述二进制日志数据写入临时内存文件系统之后,还包括:
将所述临时内存文件系统中的所述二进制日志数据通过异步消息发送至冷备系统,所述冷备系统用于每隔预设时长对数据库和所述二进制日志数据进行冷备份。
5.根据权利要求4所述的方法,其特征在于,所述方法,还包括:
接收所述备机发送的异常信号,所述异常信号是所述备机在同步到的所述二进制日志数据的事务标识不连续时产生的,所述异常信号包括所述备机缺失的二进制日志数据的事务标识;
根据所述异常信号中的事务标识,从所述冷备系统获取所述备机缺失的二进制日志数据;
将所述备机缺失的二进制日志数据发送至所述备机。
6.根据权利要求4所述的方法,其特征在于,所述方法,还包括:
接收所述备机发送的异常信号,所述异常信号是所述备机在同步到的所述二进制日志数据的事务标识不连续时产生的,所述异常信号包括所述备机缺失的二进制日志数据的事务标识;
当所述冷备系统中没有所述备机缺失的二进制日志数据时,获取重做日志文件中与所述异常信号中的事务标识对应的重做日志数据;
将所述重做日志数据发送至所述备机。
7.一种数据库同步装置,其特征在于,所述装置包括:
获取模块,用于获取数据库事务;
生成模块,用于根据所述数据库事务生成二进制日志数据;
写入模块,用于将所述二进制日志数据写入临时内存文件系统,所述临时内存文件系统是通过写内存的方式进行写入的文件系统;
同步模块,用于将存储在所述临时内存文件系统中的所述二进制日志数据同步至备机,所述备机用于根据所述二进制日志数据对所述数据库进行同步。
8.根据权利要求7所述的装置,其特征在于,所述获取模块,还用于接收数据库引擎发送的数据库事务,所述数据库事务是所述数据库引擎按照预先配置的本地二进制服务器地址发送的。
9.根据权利要求7所述的装置,其特征在于,所述写入模块,还包括:
读取单元,用于读取数据库配置参数,所述数据库配置参数包括:文件命名方式、文件切割方式、文件循环写入方式以及二进制日志数据的格式中的至少一种;
写入单元,用于根据所述数据库配置参数,将所述二进制日志数据写入临时内存文件系统。
10.根据权利要求7至9任一所述的装置,其特征在于,所述装置,还包括:
发送模块,用于将所述临时内存文件系统中的所述二进制日志数据通过异步消息发送至冷备系统,所述冷备系统用于每隔预设时长对数据库和所述二进制日志数据进行冷备份。
11.根据权利要求10所述的装置,其特征在于,所述装置,还包括:
第一接收模块,用于接收所述备机发送的异常信号,所述异常信号是所述备机在同步到的所述二进制日志数据的事务标识不连续时产生的,所述异常信号包括所述备机缺失的二进制日志数据的事务标识;
所述获取模块,还用于根据所述异常信号中的事务标识,从所述冷备系统获取所述备机缺失的二进制日志数据;
所述发送模块,还用于将所述备机缺失的二进制日志数据发送至所述备机。
12.根据权利要求10所述的装置,其特征在于,所述装置,还包括:
第二接收模块,用于接收所述备机发送的异常信号,所述异常信号是所述备机在同步到的所述二进制日志数据的事务标识不连续时产生的,所述异常信号包括所述备机缺失的二进制日志数据的事务标识;
所述获取模块,还用于当所述冷备系统中没有所述备机缺失的二进制日志数据时,获取重做日志文件中与所述异常信号中的事务标识对应的重做日志数据;
所述发送模块,还用于将所述重做日志数据发送至所述备机。
13.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如权利要求1至6任一所述的数据库同步方法。
14.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如权利要求1至6任一所述的数据库同步方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711423805.7A CN108170768B (zh) | 2017-12-25 | 2017-12-25 | 数据库同步方法、装置及可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711423805.7A CN108170768B (zh) | 2017-12-25 | 2017-12-25 | 数据库同步方法、装置及可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108170768A true CN108170768A (zh) | 2018-06-15 |
CN108170768B CN108170768B (zh) | 2023-03-24 |
Family
ID=62520667
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711423805.7A Active CN108170768B (zh) | 2017-12-25 | 2017-12-25 | 数据库同步方法、装置及可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108170768B (zh) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108874592A (zh) * | 2018-06-20 | 2018-11-23 | 焦点科技股份有限公司 | 一种针对Log-structured存储引擎的数据冷备方法及系统 |
CN108920637A (zh) * | 2018-07-02 | 2018-11-30 | 北京科东电力控制系统有限责任公司 | 应用于同步子系统的数据库数据同步方法及装置 |
CN109145060A (zh) * | 2018-07-20 | 2019-01-04 | 腾讯科技(深圳)有限公司 | 数据处理方法及装置 |
CN109657007A (zh) * | 2018-12-17 | 2019-04-19 | 武汉达梦数据库有限公司 | 基于异步提交的数据库数据同步并行执行方法及设备 |
CN109977168A (zh) * | 2019-03-18 | 2019-07-05 | 武汉达梦数据库有限公司 | 基于数据页预加载的数据库数据同步方法及设备 |
CN110008284A (zh) * | 2019-03-18 | 2019-07-12 | 武汉达梦数据库有限公司 | 基于数据页预加载及回滚的数据库数据同步方法及设备 |
CN110196760A (zh) * | 2018-07-12 | 2019-09-03 | 腾讯科技(深圳)有限公司 | 分布式事务一致性实现方法及装置 |
CN110209554A (zh) * | 2019-06-14 | 2019-09-06 | 上海中通吉网络技术有限公司 | 数据库日志分发方法、装置及设备 |
CN110515958A (zh) * | 2019-07-23 | 2019-11-29 | 平安科技(深圳)有限公司 | 基于大数据的数据一致性方法、装置、设备和存储介质 |
CN110807065A (zh) * | 2019-10-30 | 2020-02-18 | 浙江大华技术股份有限公司 | 内存表的实现方法、存储器和分布式数据库的数据节点 |
CN110955696A (zh) * | 2019-11-12 | 2020-04-03 | 中国经济信息社有限公司 | 数据读取方法、装置、设备和存储介质 |
CN110990365A (zh) * | 2019-12-03 | 2020-04-10 | 北京奇艺世纪科技有限公司 | 一种数据同步方法、装置、服务器及存储介质 |
CN111125060A (zh) * | 2019-12-17 | 2020-05-08 | 中国联合网络通信集团有限公司 | 一种数据库管理方法、系统、设备及存储介质 |
CN111666331A (zh) * | 2019-03-06 | 2020-09-15 | 华为技术有限公司 | 复制数据的方法、装置及系统 |
CN112084264A (zh) * | 2020-09-11 | 2020-12-15 | 北京金山云网络技术有限公司 | 一种日志数据同步方法、装置及服务器 |
CN112231324A (zh) * | 2019-06-26 | 2021-01-15 | 中兴通讯股份有限公司 | 一种实现增量数据比对的系统及方法 |
CN112507027A (zh) * | 2020-12-16 | 2021-03-16 | 平安科技(深圳)有限公司 | 基于Kafka的增量数据同步方法、装置、设备及介质 |
CN112732492A (zh) * | 2021-01-22 | 2021-04-30 | 安徽仝心电子科技有限公司 | 一种基于云数据库的提取备份方法和系统 |
WO2021226822A1 (zh) * | 2020-05-12 | 2021-11-18 | 深圳市欢太科技有限公司 | 日志写入方法、装置、电子设备以及存储介质 |
CN113806301A (zh) * | 2021-09-29 | 2021-12-17 | 中国平安人寿保险股份有限公司 | 数据同步方法、装置、服务器及存储介质 |
CN113987078A (zh) * | 2021-12-24 | 2022-01-28 | 中兴通讯股份有限公司 | 数据同步方法、设备及计算机可读存储介质 |
CN114048178A (zh) * | 2021-11-29 | 2022-02-15 | 众和空间(北京)科技有限责任公司 | 一种数据的双模式存储及同步方法 |
CN115329391A (zh) * | 2022-10-18 | 2022-11-11 | 成都卫士通信息产业股份有限公司 | 一种文本数据库的防护方法、装置、设备及介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1808394A (zh) * | 2006-02-20 | 2006-07-26 | 南京联创科技股份有限公司 | 基于内存数据库的软双机方法 |
CN101876996A (zh) * | 2009-12-01 | 2010-11-03 | 广州从兴电子开发有限公司 | 一种内存数据库到文件数据库的数据同步方法及系统 |
US20130262412A1 (en) * | 2012-03-28 | 2013-10-03 | Brett Derek Hawton | Method and System For Database Transaction Log Compression On SQL Server |
CN103514260A (zh) * | 2013-08-13 | 2014-01-15 | 中国科学技术大学苏州研究院 | 内存日志文件系统及其实现方法 |
CN103780638A (zh) * | 2012-10-18 | 2014-05-07 | 腾讯科技(深圳)有限公司 | 数据同步方法及系统 |
CN104537074A (zh) * | 2014-12-31 | 2015-04-22 | 天津南大通用数据技术股份有限公司 | 一种提高数据库系统写日志性能的方法 |
CN105183581A (zh) * | 2015-07-23 | 2015-12-23 | 深圳市沃信科技有限公司 | 一种数据库容灾系统 |
CN106844676A (zh) * | 2017-01-24 | 2017-06-13 | 北京奇虎科技有限公司 | 数据存储方法及装置 |
-
2017
- 2017-12-25 CN CN201711423805.7A patent/CN108170768B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1808394A (zh) * | 2006-02-20 | 2006-07-26 | 南京联创科技股份有限公司 | 基于内存数据库的软双机方法 |
CN101876996A (zh) * | 2009-12-01 | 2010-11-03 | 广州从兴电子开发有限公司 | 一种内存数据库到文件数据库的数据同步方法及系统 |
US20130262412A1 (en) * | 2012-03-28 | 2013-10-03 | Brett Derek Hawton | Method and System For Database Transaction Log Compression On SQL Server |
CN103780638A (zh) * | 2012-10-18 | 2014-05-07 | 腾讯科技(深圳)有限公司 | 数据同步方法及系统 |
CN103514260A (zh) * | 2013-08-13 | 2014-01-15 | 中国科学技术大学苏州研究院 | 内存日志文件系统及其实现方法 |
CN104537074A (zh) * | 2014-12-31 | 2015-04-22 | 天津南大通用数据技术股份有限公司 | 一种提高数据库系统写日志性能的方法 |
CN105183581A (zh) * | 2015-07-23 | 2015-12-23 | 深圳市沃信科技有限公司 | 一种数据库容灾系统 |
CN106844676A (zh) * | 2017-01-24 | 2017-06-13 | 北京奇虎科技有限公司 | 数据存储方法及装置 |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108874592A (zh) * | 2018-06-20 | 2018-11-23 | 焦点科技股份有限公司 | 一种针对Log-structured存储引擎的数据冷备方法及系统 |
CN108920637A (zh) * | 2018-07-02 | 2018-11-30 | 北京科东电力控制系统有限责任公司 | 应用于同步子系统的数据库数据同步方法及装置 |
CN110196760A (zh) * | 2018-07-12 | 2019-09-03 | 腾讯科技(深圳)有限公司 | 分布式事务一致性实现方法及装置 |
CN109145060A (zh) * | 2018-07-20 | 2019-01-04 | 腾讯科技(深圳)有限公司 | 数据处理方法及装置 |
CN109145060B (zh) * | 2018-07-20 | 2020-09-04 | 腾讯科技(深圳)有限公司 | 数据处理方法及装置 |
CN109657007A (zh) * | 2018-12-17 | 2019-04-19 | 武汉达梦数据库有限公司 | 基于异步提交的数据库数据同步并行执行方法及设备 |
CN111666331A (zh) * | 2019-03-06 | 2020-09-15 | 华为技术有限公司 | 复制数据的方法、装置及系统 |
CN110008284A (zh) * | 2019-03-18 | 2019-07-12 | 武汉达梦数据库有限公司 | 基于数据页预加载及回滚的数据库数据同步方法及设备 |
CN109977168A (zh) * | 2019-03-18 | 2019-07-05 | 武汉达梦数据库有限公司 | 基于数据页预加载的数据库数据同步方法及设备 |
CN109977168B (zh) * | 2019-03-18 | 2021-11-05 | 武汉达梦数据库股份有限公司 | 基于数据页预加载的数据库数据同步方法及设备 |
CN110008284B (zh) * | 2019-03-18 | 2021-06-22 | 武汉达梦数据库股份有限公司 | 基于数据页预加载及回滚的数据库数据同步方法及设备 |
CN110209554A (zh) * | 2019-06-14 | 2019-09-06 | 上海中通吉网络技术有限公司 | 数据库日志分发方法、装置及设备 |
CN110209554B (zh) * | 2019-06-14 | 2023-08-11 | 上海中通吉网络技术有限公司 | 数据库日志分发方法、装置及设备 |
CN112231324A (zh) * | 2019-06-26 | 2021-01-15 | 中兴通讯股份有限公司 | 一种实现增量数据比对的系统及方法 |
CN110515958A (zh) * | 2019-07-23 | 2019-11-29 | 平安科技(深圳)有限公司 | 基于大数据的数据一致性方法、装置、设备和存储介质 |
CN110807065A (zh) * | 2019-10-30 | 2020-02-18 | 浙江大华技术股份有限公司 | 内存表的实现方法、存储器和分布式数据库的数据节点 |
CN110955696A (zh) * | 2019-11-12 | 2020-04-03 | 中国经济信息社有限公司 | 数据读取方法、装置、设备和存储介质 |
CN110990365A (zh) * | 2019-12-03 | 2020-04-10 | 北京奇艺世纪科技有限公司 | 一种数据同步方法、装置、服务器及存储介质 |
CN111125060A (zh) * | 2019-12-17 | 2020-05-08 | 中国联合网络通信集团有限公司 | 一种数据库管理方法、系统、设备及存储介质 |
CN111125060B (zh) * | 2019-12-17 | 2023-10-31 | 中国联合网络通信集团有限公司 | 一种数据库管理方法、系统、设备及存储介质 |
WO2021226822A1 (zh) * | 2020-05-12 | 2021-11-18 | 深圳市欢太科技有限公司 | 日志写入方法、装置、电子设备以及存储介质 |
CN112084264A (zh) * | 2020-09-11 | 2020-12-15 | 北京金山云网络技术有限公司 | 一种日志数据同步方法、装置及服务器 |
WO2022126974A1 (zh) * | 2020-12-16 | 2022-06-23 | 平安科技(深圳)有限公司 | 基于Kafka的增量数据同步方法、装置、设备及介质 |
CN112507027A (zh) * | 2020-12-16 | 2021-03-16 | 平安科技(深圳)有限公司 | 基于Kafka的增量数据同步方法、装置、设备及介质 |
CN112507027B (zh) * | 2020-12-16 | 2024-04-16 | 平安科技(深圳)有限公司 | 基于Kafka的增量数据同步方法、装置、设备及介质 |
CN112732492A (zh) * | 2021-01-22 | 2021-04-30 | 安徽仝心电子科技有限公司 | 一种基于云数据库的提取备份方法和系统 |
CN113806301A (zh) * | 2021-09-29 | 2021-12-17 | 中国平安人寿保险股份有限公司 | 数据同步方法、装置、服务器及存储介质 |
CN114048178A (zh) * | 2021-11-29 | 2022-02-15 | 众和空间(北京)科技有限责任公司 | 一种数据的双模式存储及同步方法 |
CN113987078A (zh) * | 2021-12-24 | 2022-01-28 | 中兴通讯股份有限公司 | 数据同步方法、设备及计算机可读存储介质 |
WO2023116419A1 (zh) * | 2021-12-24 | 2023-06-29 | 中兴通讯股份有限公司 | 数据同步方法、设备及计算机可读存储介质 |
CN115329391B (zh) * | 2022-10-18 | 2023-01-24 | 成都卫士通信息产业股份有限公司 | 一种文本数据库的防护方法、装置、设备及介质 |
CN115329391A (zh) * | 2022-10-18 | 2022-11-11 | 成都卫士通信息产业股份有限公司 | 一种文本数据库的防护方法、装置、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108170768B (zh) | 2023-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108170768A (zh) | 数据库同步方法、装置及可读介质 | |
AU2016405587B2 (en) | Splitting and moving ranges in a distributed system | |
US9298707B1 (en) | Efficient data storage and retrieval for backup systems | |
CN102918509B (zh) | 数据读写方法、装置和存储系统 | |
US7685459B1 (en) | Parallel backup | |
US11010103B2 (en) | Distributed batch processing of non-uniform data objects | |
US20170206140A1 (en) | System and method for building a point-in-time snapshot of an eventually-consistent data store | |
CN103761053B (zh) | 一种数据处理方法和装置 | |
US7689764B1 (en) | Network routing of data based on content thereof | |
EP2879040B1 (en) | Data storage method, data storage apparatus, and storage device | |
EP1918828A1 (en) | Distributed snapshot process | |
WO2018082302A1 (zh) | 响应写请求的方法和装置 | |
JP6133396B2 (ja) | 計算機システム、サーバ、及び、データ管理方法 | |
US11994944B2 (en) | Efficient networking for a distributed storage system | |
CN111225003B (zh) | 一种nfs节点配置方法和装置 | |
Vallath | Oracle real application clusters | |
CN100585579C (zh) | 用于管理卷组中的卷的方法和系统 | |
US7668846B1 (en) | Data reconstruction from shared update log | |
US20130007394A1 (en) | Reorganization of a fragmented directory of a storage data structure comprised of the fragmented directory and members | |
US20080195675A1 (en) | Method for Pertorming Distributed Backup on Client Workstations in a Computer Network | |
US20040015522A1 (en) | Apparatus, system and method of providing a stackable private write file system | |
CN105653566B (zh) | 一种实现数据库写访问的方法及装置 | |
Gu et al. | Exploring data parallelism and locality in wide area networks | |
CN115510016A (zh) | 一种基于目录分片的客户端应答方法、装置及介质 | |
US8874726B1 (en) | Automated load balancing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230920 Address after: 100191 Beijing Haidian District Zhichun Road 49 No. 3 West 309 Patentee after: TENCENT CLOUD COMPUTING (BEIJING) Co.,Ltd. Address before: 518057 Tencent Building, No. 1 High-tech Zone, Nanshan District, Shenzhen City, Guangdong Province, 35 floors Patentee before: TENCENT TECHNOLOGY (SHENZHEN) Co.,Ltd. |