CN104219288A - 基于多线程的分布式数据同步方法及其系统 - Google Patents

基于多线程的分布式数据同步方法及其系统 Download PDF

Info

Publication number
CN104219288A
CN104219288A CN201410400698.6A CN201410400698A CN104219288A CN 104219288 A CN104219288 A CN 104219288A CN 201410400698 A CN201410400698 A CN 201410400698A CN 104219288 A CN104219288 A CN 104219288A
Authority
CN
China
Prior art keywords
data
thread
service
service synchronization
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410400698.6A
Other languages
English (en)
Other versions
CN104219288B (zh
Inventor
朱永虎
赵志勤
朱金惟
林玉凤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Super High Transmission Co of China South Electric Net Co Ltd
Original Assignee
Super High Transmission Co of China South Electric Net Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Super High Transmission Co of China South Electric Net Co Ltd filed Critical Super High Transmission Co of China South Electric Net Co Ltd
Priority to CN201410400698.6A priority Critical patent/CN104219288B/zh
Publication of CN104219288A publication Critical patent/CN104219288A/zh
Application granted granted Critical
Publication of CN104219288B publication Critical patent/CN104219288B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明的目的在于提供一种基于多线程机制的分布式数据同步方法及其系统,该方法和系统通过差异数据捕获、创建业务同步线程、对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句、本地持久化数据,以及传输结束后销毁本地磁盘数据,从而完成数据同步工作,本发明通过利用多线程同步机制使各分布式终端服务器之间的单个同步任务能够独立运行,使得数据能够在不占用当前服务资源的情况下进行高效传输。

Description

基于多线程的分布式数据同步方法及其系统
技术领域
本发明涉及分布式数据的处理,具体来说涉及一种分布式数据的同步方法及其系统。
背景技术
随着互联网技术的发展,单一的数据存储方式已经不再能满足组织或个人对于数据存储量、速度、安全性等方面的要求。为了保证数据存储的安全可靠性,读取速度提升、储存量大等要求,分布式存储已经逐渐成为当前很多组织或个人的首选方案。在分布式系统架构中,当用户界面需要操作或展示具体的业务数据信息时只需要到相应的分布式终端进行查询,为网络传输减轻负担的同时提高总体系统效率。在某个终端数据更新之后,为保证数据的一致性,差异数据要同步到其它各个终端服务器。分布式数据存储主要需解决的就是各终端系统服务器之间的数据一致性问题,根据时间特征性数据同步可分为实时数据同步和间歇性数据同步。
分布式数据同步技术通过使各分布式终端的数据更新的同步,达到使数据分布存放的目的,从而实现数据库的分布式处理应用,大大增加站点的自治性。分布式数据同步方法中数据传输安全性和数据同步效率是验证方案可行性的两大因素,为降低数据传输过程中的风险和提高数据传输效率,发明一种高效且安全的分布式数据同步方法是有必要的。
现今的分布式数据存储大多依靠产品或者服务本身对分布式环境下数据库服务器的数据进行同步,在互联网应用中比较通用的数据传输方式为基于WebService的数据同步机制。WebService实现数据同步原理如图1所示,SOAP消息文本数据携带较多的格式数据,且此种方式必须依托某项特定的服务或者产品,无论是在传输过程中还是在终端接受处理数据都会增加系统资源开销,影响传输效率的同时风险也随之增大。
在当前技术领域下怎样使数据同步更加自动化、提高数据传输安全性及效率是数据同步方案的度量标准。为解决以上所述问题,本发明提出多线程同步机制运用在分布式数据同步方案中,安全性和效率性同时得到保证。
发明内容
本发明的目的在于提供一种基于多线程机制的分布式数据同步方法,该方法利用多线程同步机制使各分布式终端服务器之间的单个同步任务能够独立运行,使得数据能够在不占用当前服务资源的情况下进行高效传输。
本发明的目的可通过以下的技术措施来实现:
一种基于多线程机制的分布式数据同步方法,包括以下步骤:
步骤A:差异数据捕获步骤,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据。主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序通过触发器触发线程工厂(即线程管理模块)创建业务同步线程。并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包。所述主服务就是当前用户的操作请求。
步骤B:为了保证多线程条件下系统运行可靠。在线程工厂创建线程之前,由线程计数器判断是否可继续创建线程。若业务同步线程数大于N(N的值根据系统通常状态下的并发请求数与网络吞吐量,在系统中人为设定)时,线程工厂则拒绝创建业务同步线程,并提示“数据库连接异常”;若业务同步线程数小于N,则线程工厂继续判断目前运行的线程数并进入线程创建等待状态。
其中,线程工厂在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程。
步骤C:对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句。当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中。业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,为保证数据在后续的传输过程中不出现丢失将处理后的数据包持久化到当前服务器的本地磁盘中存储。在本地磁盘文件中存储了所需同步的分布式终端的数据库配置信息以及整理后的同步数据SQL。
步骤D:当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到本地磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库。数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
本发明的另一目的在于提供一种用于实现上述方法的基于多线程机制的分布式数据同步系统,该系统包含的功能模块为:数据分析功能模块、线程管理模块、数据处理模块及线程业务处理模块;
所述数据分析功能模块用于差异数据的捕获,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据。主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序通过触发器触发线程工厂(即线程管理模块)创建业务同步线程。并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包;
所述线程管理模块用于在线程工厂创建线程之前,由线程计数器判断当前服务器业务同步线程数,当业务同步线程数大于N(N的值根据系统通常状态下的并发请求数与网络吞吐量,在系统中人为设定)时会拒绝创建业务同步线程,并提示“数据库连接异常”。若业务同步线程数小于N,则线程工厂会判断目前运行的线程数并进入线程创建等待状态。线程工厂在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程。
所述数据处理模块用于对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句。当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中。业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,为保证数据在后续的传输过程中不出现丢失将处理后的数据包持久化到本地磁盘存储。在本地磁盘文件中存储了所需同步终端的数据库配置信息以及整理后的同步数据SQL;
所述线程业务处理模块用于当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库。数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
本发明对比现有技术,有如下优点:
本发明在传统分布式数据同步技术中使用了多线程机制,对不同批次的数据同步请求创建了独立的业务同步线程,避免了在一次数据同步任务完成之前其它所有请求必须等待的不足,充分利用系统服务器的运算能力及网络资源。多个线程可分别对不同目标数据库或服务器进行数据传输,在处理速度和响应速度上做到了大幅度的提升。
附图说明
图1为本发明分布式数据同步原理;
图2为本发明基于多线程分布式数据同步方法架构图;
图3为本发明多线程实现分布式数据同步流程图;
图4为本发明分布式数据同步系统的部署结构图。
具体实施方式
在分布式系统架构中,实现多线程分布式数据同步方法的处理模块如图2所示:
本发明提供一种基于多线程的分布式数据同步方法及其系统,方法实现的具体流程如图3所示,本方法主要是针对由于网络、地域或数据量庞大等因素致使系统分布式部署的保持数据一致解决方法。分布式数据同步系统的部署结构图如图4所示,其中任一分布式终端都可以作为发起数据同步请求的主服务端。
本发明的同步方法包括如下步骤:
步骤A:差异数据捕获步骤,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据。主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序通过触发器触发线程工厂(即线程管理模块)创建业务同步线程。并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包。所述主服务就是当前用户的操作请求。
其中,在用户发起请求之前每个分布式终端的本地磁盘都要具有各终端服务系统的数据库配置信息,任一终端用户发起增加、修改或删除请求时,主服务负责响应,在主服务线程开启时系统会分配其一个临时数据集,所述临时数据集是存储用户一次操作请求所产生的异动数据。监听与触发程序负责将分析模块与线程管理模块关联,如所述步骤B中,用户操作触发创建业务同步线程。如图3所示,在线程工厂(线程管理模块)中添加了同步任务计数器,对于系统开销达到不同阶段的任务进行分流和缓冲处理,根据当前运行线程数确定是否创建对应业务同线程-n以及同步线程等待时间,同时主服务根据当前业务将临时数据集中的数据分配给对应的业务同步线程。
步骤B:为了保证多线程条件下系统运行可靠。在线程工厂创建线程之前,由线程计数器判断是否可继续创建线程。若业务同步线程数大于N(N的值根据系统通常状态下的并发请求数与网络吞吐量,在系统中人为设定)时,线程工厂则拒绝创建业务同步线程,并提示“数据库连接异常”;若业务同步线程数小于N,则线程工厂继续判断目前运行的线程数并进入线程创建等待状态。
其中,线程工厂在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程。
线程数与等待时间关系如图2所示,为了保证业务同步线程在传输数据过程中数据不丢失,将临时数据集中的数据本地磁盘存储,业务同步线程会将数据集中的数据进行逐条分析,转化为对应的可执行SQL语句并持久化到当前服务器磁盘中(采用此种方式主要是考虑到数据在持久化到本地磁盘的过程中可能会出现错误,所以为了避免在持久化过程中出现数据丢失,在此之前主服务需要一直等待业务线程处理)。若此时其它分布式终端还有数据同步请求,在当前业务同步线程没有脱离主服务控制之前,其它数据同步请求需要排队等待。在业务同步线程本地持久化数据完毕后将脱离服务控制,随后独立运行读取持久化到磁盘中的各终端数据库服务器配置信息。此时主服务即可响应其它终端的业务同步请求。线程业务处理模块分析需要数据同步的分布式终端系统数目,并负责根据数据库配置信息远程连接数据库服务器,将本地磁盘文件数据同步到远程数据库服务器。
步骤C:对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句。当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中。业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,为保证数据在后续的传输过程中不出现丢失将处理后的数据包持久化到当前服务器的本地磁盘中存储。在本地磁盘文件中存储了所需同步的分布式终端的数据库配置信息以及整理后的同步数据SQL。
若在业务同步线程传输数据的过程中出现异常,业务同步线程延迟数秒重新运行;若发生系统崩溃或者服务器宕(dang)机等情况,本地磁盘文件依然会保留在磁盘中,等待系统启动时会自动进入到相关磁盘进行验证,如在系统宕机或服务崩溃前存在未完成的数据同步工作,那么系统会自动将这部分工作进行第二次传输,直到全部数据传输完毕。
步骤D:当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到本地磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库。数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
本发明的分布式数据同步系统包含的功能模块为:数据分析功能模块、线程管理模块、数据处理模块及线程业务处理模块;
所述数据分析功能模块用于差异数据的捕获,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据。主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序通过触发器触发线程工厂(即线程管理模块)创建业务同步线程。并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包;
所述线程管理模块用于在线程工厂创建线程之前,由线程计数器判断当前服务器业务同步线程数,当业务同步线程数大于N(N的值根据系统通常状态下的并发请求数与网络吞吐量,在系统中人为设定)时会拒绝创建业务同步线程,并提示“数据库连接异常”。若业务同步线程数小于N,则线程工厂会判断目前运行的线程数并进入线程创建等待状态,线程数与等待时间关系如图2所示。线程工厂在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程。
所述数据处理模块用于对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句。当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中。业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,为保证数据在后续的传输过程中不出现丢失将处理后的数据包持久化到本地磁盘存储。在本地磁盘文件中存储了所需同步终端的数据库配置信息以及整理后的同步数据SQL;
所述线程业务处理模块用于当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库。数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
本发明的实施方式不限于此,在本发明上述基本技术思想前提下,按照本领域的普通技术知识和惯用手段对本发明内容所做出其它多种形式的修改、替换或变更,均落在本发明权利保护范围之内。

Claims (6)

1.一种基于多线程机制的分布式数据同步方法,其特征在于包括以下步骤:
步骤A:差异数据捕获步骤,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据;主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序创建业务同步线程,并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包;所述主服务就是当前用户的操作请求;
步骤B:在线程管理模块创建线程之前,由线程计数器判断是否可继续创建线程;若业务同步线程数大于N时,线程管理模块则拒绝创建业务同步线程,并提示“数据库连接异常”;若业务同步线程数小于N,则线程管理模块继续判断目前运行的线程数并进入线程创建等待状态;所述N的值根据系统通常状态下的并发请求数与网络吞吐量,在系统中人为设定;
步骤C:对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句;并且,当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中,业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,并将处理后的数据包持久化到当前服务器的本地磁盘中存储;
步骤D:当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到本地磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库。
2.根据权利要求1所述的方法,其特征在于:所述步骤A中,线程管理模块在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程。
3.根据权利要求1所述的方法,其特征在于:所述业务同步线程由主服务程序通过触发器触发线程管理模块所创建。
4.根据权利要求1所述的方法,其特征在于:所述步骤D中,所述本地磁盘文件中存储了所需同步的分布式终端的数据库配置信息以及整理后的同步数据SQL。
5.根据权利要求1所述的方法,其特征在于:所述步骤D中,连接到各终端数据库的数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
6.一种基于多线程机制的分布式数据同步系统,其特征在于:所述系统包含的功能模块为数据分析功能模块、线程管理模块、数据处理模块及线程业务处理模块;
所述数据分析功能模块用于差异数据的捕获,捕获并处理在终端分支服务器上对业务数据操作产生的差异数据;主服务程序通过监听器监听用户的请求行为,当终端用户发出修改请求时被监听到,此时主服务程序通过触发器触发线程管理模块创建业务同步线程;并对用户的请求进行行为分析,初步得出在当前分布式终端所产生的同步数据包;
所述线程管理模块用于在创建线程之前,由线程计数器判断当前服务器业务同步线程数,当业务同步线程数大于N,时会拒绝创建业务同步线程,并提示“数据库连接异常”;若业务同步线程数小于N,则线程管理模块会判断目前运行的线程数并进入线程创建等待状态;线程管理模块在创建业务同步线程时,会根据当前业务流程的需要创建满足用户请求的业务同步线程,并根据用户请求所传的数据类型将数据分配给对应的业务同步线程;
所述数据处理模块用于对数据进行包装和整理,对所捕获的差异数据进行处理,产生格式化差异数据表或者能够直接运行的SQL语句;当前运行的主服务响应用户请求,同时所产生的差异数据会存储在临时数据集中;业务同步线程对数据集中的数据逐条分析并将其转化为对应可执行的SQL语句,为保证数据在后续的传输过程中不出现丢失将处理后的数据包持久化到本地磁盘存储;在本地磁盘文件中存储了所需同步终端的数据库配置信息以及整理后的同步数据SQL;
所述线程业务处理模块用于当业务同步线程本地持久化数据之后就会脱离当前主服务的控制,单独运行,随后读取持久化到磁盘中的文件数据,根据所存储的各终端数据库信息以直连的方式连接到各终端数据库;数据传输过程中若出现异常,业务同步线程会延迟数秒后重新启动,待到数据全部传输完毕,并且没有出现异常时,业务同步线程会自动销毁本地磁盘数据,然后完成数据同步工作。
CN201410400698.6A 2014-08-14 2014-08-14 基于多线程的分布式数据同步方法及其系统 Expired - Fee Related CN104219288B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410400698.6A CN104219288B (zh) 2014-08-14 2014-08-14 基于多线程的分布式数据同步方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410400698.6A CN104219288B (zh) 2014-08-14 2014-08-14 基于多线程的分布式数据同步方法及其系统

Publications (2)

Publication Number Publication Date
CN104219288A true CN104219288A (zh) 2014-12-17
CN104219288B CN104219288B (zh) 2018-03-23

Family

ID=52100413

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410400698.6A Expired - Fee Related CN104219288B (zh) 2014-08-14 2014-08-14 基于多线程的分布式数据同步方法及其系统

Country Status (1)

Country Link
CN (1) CN104219288B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104699541A (zh) * 2015-03-30 2015-06-10 北京奇虎科技有限公司 同步数据的方法、装置、数据传输组件及系统
CN105491106A (zh) * 2015-11-18 2016-04-13 中国石油天然气集团公司 一种石油测井主从数据库系统实时同步系统和方法
CN105959977A (zh) * 2015-12-17 2016-09-21 北京邮电大学 无蜂窝覆盖场景下D2D Mesh网络中含支撑节点的混合式同步方法
WO2016188291A1 (zh) * 2015-05-27 2016-12-01 阿里巴巴集团控股有限公司 一种数据处理方法和设备
CN108959456A (zh) * 2018-06-15 2018-12-07 珠海格力电器股份有限公司 一种自动恢复补全数据的方法
CN109361743A (zh) * 2018-09-30 2019-02-19 北京金山安全软件有限公司 一种数据同步方法、装置、电子设备及存储介质
CN110032548A (zh) * 2019-04-18 2019-07-19 中国南方电网有限责任公司 电力通信网监控平台非结构化数据分布式管理方法及系统
CN111061808A (zh) * 2019-12-13 2020-04-24 深圳迅策科技有限公司 一种基于libuv的异步分布式服务器
CN112328615A (zh) * 2020-11-16 2021-02-05 广州新居网家居科技有限公司 数据更新方法、装置、系统、服务器及存储介质
CN113220429A (zh) * 2021-04-26 2021-08-06 武汉联影医疗科技有限公司 Java线程池的任务处理方法、装置、设备和介质
CN113807828A (zh) * 2021-10-22 2021-12-17 河北锦麟工程项目管理有限公司 一种分布式项目管理系统自动并行同步数据的方法
CN115102862A (zh) * 2022-07-22 2022-09-23 武汉烽火技术服务有限公司 一种用于sdn设备的自动同步方法及装置
CN117112245A (zh) * 2023-10-23 2023-11-24 深圳市计通智能技术有限公司 一种基于设备联动的多线程同步创建方法和系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6421688B1 (en) * 1999-10-20 2002-07-16 Parallel Computers Technology, Inc. Method and apparatus for database fault tolerance with instant transaction replication using off-the-shelf database servers and low bandwidth networks
CN101519078A (zh) * 2009-03-13 2009-09-02 国电南瑞科技股份有限公司 综合监控系统多区域数据同步方法
US20110246420A1 (en) * 2008-12-23 2011-10-06 Fenglai Wang Database system based on web application and data management method thereof
CN103763368A (zh) * 2014-01-20 2014-04-30 浪潮电子信息产业股份有限公司 一种跨数据中心的数据同步方法
CN103778136A (zh) * 2012-10-19 2014-05-07 阿里巴巴集团控股有限公司 一种跨机房数据库同步方法及系统
CN103942259A (zh) * 2014-03-21 2014-07-23 浙江大学 一种数据库同步中实现数据缓存的方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6421688B1 (en) * 1999-10-20 2002-07-16 Parallel Computers Technology, Inc. Method and apparatus for database fault tolerance with instant transaction replication using off-the-shelf database servers and low bandwidth networks
US20110246420A1 (en) * 2008-12-23 2011-10-06 Fenglai Wang Database system based on web application and data management method thereof
CN101519078A (zh) * 2009-03-13 2009-09-02 国电南瑞科技股份有限公司 综合监控系统多区域数据同步方法
CN103778136A (zh) * 2012-10-19 2014-05-07 阿里巴巴集团控股有限公司 一种跨机房数据库同步方法及系统
CN103763368A (zh) * 2014-01-20 2014-04-30 浪潮电子信息产业股份有限公司 一种跨数据中心的数据同步方法
CN103942259A (zh) * 2014-03-21 2014-07-23 浙江大学 一种数据库同步中实现数据缓存的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
周伟,等: "分布式数据库数据同步技术研究", 《计算机与信息技术》 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104699541B (zh) * 2015-03-30 2018-07-10 北京奇虎科技有限公司 同步数据的方法、装置、数据传输组件及系统
CN104699541A (zh) * 2015-03-30 2015-06-10 北京奇虎科技有限公司 同步数据的方法、装置、数据传输组件及系统
WO2016188291A1 (zh) * 2015-05-27 2016-12-01 阿里巴巴集团控股有限公司 一种数据处理方法和设备
CN106294444A (zh) * 2015-05-27 2017-01-04 阿里巴巴集团控股有限公司 一种数据处理方法和设备
CN106294444B (zh) * 2015-05-27 2020-02-18 阿里巴巴集团控股有限公司 一种数据处理方法和设备
CN105491106A (zh) * 2015-11-18 2016-04-13 中国石油天然气集团公司 一种石油测井主从数据库系统实时同步系统和方法
CN105959977A (zh) * 2015-12-17 2016-09-21 北京邮电大学 无蜂窝覆盖场景下D2D Mesh网络中含支撑节点的混合式同步方法
CN108959456A (zh) * 2018-06-15 2018-12-07 珠海格力电器股份有限公司 一种自动恢复补全数据的方法
CN109361743B (zh) * 2018-09-30 2021-06-04 北京聚云立方科技有限公司 一种数据同步方法、装置、电子设备及存储介质
CN109361743A (zh) * 2018-09-30 2019-02-19 北京金山安全软件有限公司 一种数据同步方法、装置、电子设备及存储介质
CN110032548A (zh) * 2019-04-18 2019-07-19 中国南方电网有限责任公司 电力通信网监控平台非结构化数据分布式管理方法及系统
CN111061808A (zh) * 2019-12-13 2020-04-24 深圳迅策科技有限公司 一种基于libuv的异步分布式服务器
CN111061808B (zh) * 2019-12-13 2023-07-28 深圳迅策科技有限公司 一种基于libuv的异步分布式服务器
CN112328615A (zh) * 2020-11-16 2021-02-05 广州新居网家居科技有限公司 数据更新方法、装置、系统、服务器及存储介质
CN113220429A (zh) * 2021-04-26 2021-08-06 武汉联影医疗科技有限公司 Java线程池的任务处理方法、装置、设备和介质
CN113807828A (zh) * 2021-10-22 2021-12-17 河北锦麟工程项目管理有限公司 一种分布式项目管理系统自动并行同步数据的方法
CN115102862A (zh) * 2022-07-22 2022-09-23 武汉烽火技术服务有限公司 一种用于sdn设备的自动同步方法及装置
CN115102862B (zh) * 2022-07-22 2024-03-12 烽火通信科技股份有限公司 一种用于sdn设备的自动同步方法及装置
CN117112245A (zh) * 2023-10-23 2023-11-24 深圳市计通智能技术有限公司 一种基于设备联动的多线程同步创建方法和系统
CN117112245B (zh) * 2023-10-23 2023-12-26 深圳市计通智能技术有限公司 一种基于设备联动的多线程同步创建方法和系统

Also Published As

Publication number Publication date
CN104219288B (zh) 2018-03-23

Similar Documents

Publication Publication Date Title
CN104219288A (zh) 基于多线程的分布式数据同步方法及其系统
CN109327509B (zh) 一种主/从架构的低耦合的分布式流式计算系统
US11184216B2 (en) State control method and apparatus
CN101252471B (zh) 一种分布式自动化测试系统及其方法
CN105589856B (zh) 日志数据处理方法及系统
CN105915633B (zh) 自动化运维系统和方法
CN109597723B (zh) 用于地铁综合监控系统的双机热备冗余实现系统及方法
CN107172187B (zh) 一种负载均衡系统和方法
CN106021315B (zh) 一种应用程序的日志管理方法及系统
CN107404540B (zh) 数据的同步方法及装置
CN103699580A (zh) 数据库同步方法及装置
CN110138876B (zh) 任务部署方法、装置、设备及平台
CN103297543A (zh) 一种基于计算机集群作业调度的方法
CN106713391B (zh) 一种session信息的共享方法和共享系统
US10498817B1 (en) Performance tuning in distributed computing systems
CN105554074A (zh) 一种基于rpc通信的nas资源监控系统及监控方法
CN105516292A (zh) 一种智能变电站云平台的热备方法
CN109657000B (zh) 一种轨道交通综合监控系统的实时数据同步方法及装置
CN105069029A (zh) 一种实时etl系统及方法
CN111865632A (zh) 分布式数据存储集群的切换方法及切换指令发送方法和装置
CN116304390B (zh) 时序数据处理方法、装置、存储介质及电子设备
CN110099116B (zh) 一种基于大数据的子网安全性评估方法
CN109274763B (zh) 一种信息同步方法及双机热备设备
CN101207518B (zh) 一种面向分布式资源节点的异步维护系统
CN114697334B (zh) 一种编排任务的执行方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180323

Termination date: 20180814