CN107343049B - 数据同步方法及装置 - Google Patents
数据同步方法及装置 Download PDFInfo
- Publication number
- CN107343049B CN107343049B CN201710548651.8A CN201710548651A CN107343049B CN 107343049 B CN107343049 B CN 107343049B CN 201710548651 A CN201710548651 A CN 201710548651A CN 107343049 B CN107343049 B CN 107343049B
- Authority
- CN
- China
- Prior art keywords
- data
- source database
- synchronized
- text
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
Abstract
本发明提供了一种数据同步方法及装置,该方法应用于发送服务器,包括:获取发送用户发送的源数据库配置信息,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;对源数据库配置信息进行分析,得到源数据库分析结果;根据源数据库分析结果提取源数据库中的数据,得到源数据库中待同步数据;将待同步数据进行处理,得到目标数据文本;将目标数据文本发送至MQ代理服务器,使接收服务器在MQ代理服务器中查找目标数据文本并处理,得到待同步数据,然后存储。本发明中的数据同步方法通用性好,大大提高了数据同步效率,缓解了现有的数据同步方法通用性差,效率低下的技术问题。
Description
技术领域
本发明涉及数据同步技术领域,尤其是涉及一种数据同步方法及装置。
背景技术
在数据同步领域很多机构都投入大量人力进行过研究。广泛应用的有数据库远程复制技术,数据库远程连接同步技术,MQ消息同步技术。
数据库远程复制技术效率较高,但是实施难度大,尤其数据库不一致的情况下,实施成本高,跨行业,单位,公司实施难度太大,处于安全顾虑,甚至实施不通。
数据库远程连接同步技术,安全性太低,跨公司,单位可行性极低,直接连接其它数据库很难被人接受。
MQ消息同步技术在很多领域都有广泛应用。但是没有形成通用的,便于实时部署应用的具体应用系统。
综上,现有的数据同步方法通用性差,效率低下。
发明内容
有鉴于此,本发明的目的在于提供一种数据同步方法及装置,以缓解现有的数据同步方法通用性差,效率低下的技术问题。
第一方面,本发明实施例提供了一种数据同步方法,应用于发送服务器中,包括:
获取发送用户通过终端发送的源数据库配置信息,其中,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
对所述源数据库配置信息进行分析,得到源数据库分析结果;
根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据;
将所述待同步数据进行处理,得到目标数据文本;
将所述目标数据文本发送至MQ代理服务器,以使接收服务器在所述MQ代理服务器中查找所述目标数据文本,对所述目标数据文本进行处理,得到所述待同步数据并进行存储。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,所述源数据库中待同步数据清单至少包括:所述源数据库中待同步数据所属的数据库名,所述源数据库中待同步数据所属的表名,所述源数据库中待同步数据所属的字段名。
结合第一方面,本发明实施例提供了第一方面的第二种可能的实施方式,其中,根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据,包括:
根据所述源数据库分析结果提取所述源数据库中的目标数据,其中,所述目标数据为所述待同步数据的清单中所指示的数据;
将所述目标数据中的空项数据剔除,得到所述源数据库中待同步数据。
结合第一方面,本发明实施例提供了第一方面的第三种可能的实施方式,其中,将所述源数据库中待同步数据进行处理,得到目标数据文本,包括:
将所述源数据库中待同步数据进行打包处理,得到打包文本;
对所述打包文本进行加密处理,得到加密后的打包文本;
将所述加密后的打包文本作为目标数据文本。
第二方面,本发明实施例还提供了一种数据同步方法,应用于接收服务器中,包括:
获取接收用户通过终端发送的查询指令,其中,所述查询指令为在MQ代理服务器中查询目标数据文本的指令;
根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本;
对所述目标数据文本进行处理,得到待同步数据,并存储所述待同步数据;
其中,所述目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,所述发送服务器在接收到所述源数据库配置信息之后,对所述源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到所述源数据库中待同步数据,从而得到所述目标数据文本,并将所述目标数据文本发送至所述MQ代理服务器,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
结合第二方面,本发明实施例提供了第二方面的第一种可能的实施方式,其中,根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本,包括:
获取接收用户发送的目的数据库配置信息,其中,所述目的数据库配置信息包括:目的数据库认证信息,目的数据库类型,目的数据库名,目的数据库地址,目的数据库中待同步数据的清单;
对所述目的数据库配置信息进行分析,得到目的数据库分析结果;
根据所述目的数据库分析结果在所述MQ代理服务器中查询所述目标数据文本。
第三方面,本发明实施例还提供了一种数据同步装置,所述装置包括:
第一获取模块,用于获取发送用户通过终端发送的源数据库配置信息,其中,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
分析模块,用于对所述源数据库配置信息进行分析,得到源数据库分析结果;
提取模块,用于根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据;
第一处理模块,用于将所述待同步数据进行处理,得到目标数据文本;
发送模块,用于将所述目标数据文本发送至MQ代理服务器,以使接收服务器在所述MQ代理服务器中查找所述目标数据文本,对所述目标数据文本进行处理,得到所述待同步数据并进行存储。
结合第三方面,本发明实施例提供了第三方面的第一种可能的实施方式,其中,所述源数据库中待同步数据清单至少包括:所述源数据库中待同步数据所属的数据库名,所述源数据库中待同步数据所属的表名,所述源数据库中待同步数据所属的字段名。
结合第三方面,本发明实施例提供了第三方面的第二种可能的实施方式,其中,所述提取模块包括:
提取单元,用于根据所述源数据库分析结果提取所述源数据库中的目标数据,其中,所述目标数据为所述待同步数据的清单中所指示的数据;
剔除单元,用于将所述目标数据中的空项数据剔除,得到所述源数据库中待同步数据。
第四方面,本发明实施例还提供了一种数据同步装置,所述装置包括:
第二获取模块,用于获取接收用户通过终端发送的查询指令,其中,所述查询指令为在MQ代理服务器中查询目标数据文本的指令;
查询模块,用于根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本;
第二处理模块,用于对所述目标数据文本进行处理,得到待同步数据,并存储所述待同步数据;
其中,所述目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,所述发送服务器在接收到所述源数据库配置信息之后,对所述源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到所述源数据库中待同步数据,从而得到所述目标数据文本,并将所述目标数据文本发送至所述MQ代理服务器,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
本发明实施例带来了以下有益效果:本发明实施例提供了一种数据同步方法及装置,该数据同步方法应用于发送服务器中,该方法包括:获取发送用户通过终端发送的源数据库配置信息,其中,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;对源数据库配置信息进行分析,得到源数据库分析结果;根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据;将待同步数据进行处理,得到目标数据文本;将目标数据文本发送至MQ代理服务器,以使接收服务器在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。
在现有的数据同步方法中,数据同步的实施成本高,跨行业,单位,公司实施难度大,安全性低。与现有技术的数据同步方法相比,本发明实施例为数据同步方法提供了具体的应用系统,应用于发送服务器中时,发送用户只需要通过终端配置源数据库的配置信息,发送服务器就能对源数据库配置信息进行分析,得到源数据库分析结果,根据该分析结果提取源数据库中的数据,得到源数据中待同步数据,进而将待同步数据进行处理,得到目标数据文本,将得到的目标数据文本发送至MQ代理服务器,以使接收服务器在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。本发明实施例中的数据同步方法通用性好,大大提高了数据同步的效率,缓解了现有的数据同步方法通用性差,效率低下的技术问题。
本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的应用于发送服务器中的一种数据同步方法的流程图;
图2为本发明实施例提供的根据源数据库分析结果提取源数据库中的数据的流程图;
图3为本发明实施例提供的将源数据库中待同步数据进行处理,得到目标数据文本的流程图;
图4为本发明实施例提供的应用于接收服务器中的一种数据同步方法的流程图;
图5为本发明实施例提供的根据查询指令在MQ代理服务器中查询目标数据文本的流程图;
图6为本发明实施例提供的一种数据同步装置的结构示意图;
图7为本发明实施例提供的另一种数据同步装置的结构示意图。
图标:
11-第一获取模块;12-分析模块;13-提取模块;14-第一处理模块;15-发送模块;16-第二获取模块;17-查询模块;18-第二处理模块。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
随着互联网时代的发展,网络数据传输已经成为一个极为重要的话题,各种网络传输协议层出不穷,但是在网络传输的速率、安全性和可靠性方面往往首尾不能兼顾,传统的网络传输技术容易在数据传输过程中发生数据丢失问题,且容易被黑客窃取和攻击;而且,网络传输的复杂性,导致各种网络协议的开发难度大大提高,传统的网络传输技术在代码撰写方面耦合度太高,难以复用和重组,导致开发效率降低,并增加了项目管理的难度。如何兼顾速率、安全性、可靠性和开发效率,已经成为互联网时代的难题。本发明实施例提供的数据同步方法是以一种通用的应用系统实现的,能够满足用户对数据传输过程中速率、安全性、可靠性的要求。
为便于对本实施例进行理解,首先对本发明实施例所公开的一种数据同步方法进行详细介绍。
实施例一:
现有技术中,在进行数据同步的过程中,需要各方面的协调,比如:了解对方的数据库结构,数据库类型等等,过程十分繁琐,本发明实施例中的数据同步方法应用于发送服务器中时,只需对源数据库进行配置,就能实现数据的同步,操作过程简单,通用性好。具体的:
一种数据同步方法,应用于发送服务器中,参考图1,该方法包括:
S101、获取发送用户通过终端发送的源数据库配置信息,其中,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
在本发明实施例中,当该数据同步方法的应用系统应用于发送服务器中时,发送用户能够通过终端发送源数据库配置信息。具体的,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
源数据库认证信息可以为账号和密码的形式,也可以为认证证书的形式,本发明实施例对其不做具体限制。
源数据库类型的种类繁多,可以是Oracle数据库,Server数据库,Sybase数据库等,本发明实施例对其不做具体限制。
源数据库中待同步数据清单至少包括:源数据库中待同步数据所属的数据库名,源数据库中待同步数据所属的表名,源数据库中待同步数据所属的字段名。
另外,源数据库的配置信息还可以包括单次传送数据的数据量,数据采集/处理线程数等,本发明实施例对其不做具体限制。
S102、对源数据库配置信息进行分析,得到源数据库分析结果;
在发送用户配置完成源数据库配置信息后,发送服务器就能够对源数据库配置信息进行分析,得到源数据库分析结果,该源数据库分析结果与源数据库配置信息相关联。
S103、根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据;
在得到源数据库分析结果后,发送服务器就能够根据源数据库分析结果提取源数据库中的数据,得到源数据库中待同步数据。
S104、将待同步数据进行处理,得到目标数据文本;
在得到待同步数据后,为了保证数据同步过程中的安全性、可靠性,需要对待同步数据进行处理,这里的处理至少包括打包处理,加密处理等,进而得到目标数据文本。
S105、将目标数据文本发送至MQ代理服务器,以使接收服务器在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。
本发明实施例中的数据同步方法是基于MQ消息队列的异步模式进行的数据同步,下面对MQ消息队列进行简单的介绍:
MQ消息队列是一个高度稳定的模块化数据传输系统,它拥有多种数据传输模式,可以根据使用者的需要而改变;它采用中间代理服务器—MQ代理服务器的概念,消息(即,数据)的传输不再是两个数据交互对象直面的沟通(即,不再是发送服务器和接收服务器直面的沟通),MQ代理服务器会将数据从发送服务器接收,并根据接收服务器的需求和数量,做出不同的决策。比如:是使用转发给所有接收服务器的广播模式,还是转发给符合特定条件的接收服务器的订阅模式。依赖于发送服务器和接受服务器的需求,消息传递模式也做出不同的改变。它可以让应用系统通过任意的传输协议来相互交流,这些协议可以是TCP、多播的、进程内、进程间,用户无须做出更改,便可使用多种不同的数据传输模式。它采用模块化的组织模式,如消息的请求、应答、发布、订阅等等都作为不同的模块有机的组合在一起,这使得整个拓扑结构和网络结构更加清晰明了,更利于项目的拓展和开发,具有非常好的可伸缩性,大大提升了项目的开发效率。
简单的讲,发送服务器将待同步数据形成的目标数据文本发送给MQ代理服务器,接收服务器根据自身的需求在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。
也就是,发送服务器和接收服务器是独立的,二者并不进行直接的沟通。
在现有的数据同步方法中,数据同步的实施成本高,跨行业,单位,公司实施难度大,安全性低。与现有技术的数据同步方法相比,本发明实施例为数据同步方法提供了具体的应用系统,应用于发送服务器中时,发送用户只需要通过终端配置源数据库的配置信息,发送服务器就能对源数据库配置信息进行分析,得到源数据库分析结果,根据该分析结果提取源数据库中的数据,得到源数据中待同步数据,进而将待同步数据进行处理,得到目标数据文本,将得到的目标数据文本发送至MQ代理服务器,以使接收服务器在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。本发明实施例中的数据同步方法通用性好,大大提高了数据同步的效率,缓解了现有的数据同步方法通用性差,效率低下的技术问题。
进一步地,参考图2,根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据,包括:
S201、根据源数据库分析结果提取源数据库中的目标数据,其中,目标数据为待同步数据的清单中所指示的数据;
具体的,根据源数据库分析结果提取源数据库中的目标数据,目标数据为待同步数据的清单中所指示的数据。因为,某些待同步数据较为敏感,发送用户并不想将该部分的数据进行同步,就不会对这些数据进行配置,这样,待同步数据的清单中有些数据被配置,而有些数据并没有被配置,因此,得到的目标数据中存在空项数据。
S202、将目标数据中的空项数据剔除,得到源数据库中待同步数据。
在得到目标数据后,将目标数据中的空项数据剔除,就能够得到源数据库中待同步数据。
进一步地,参考图3,将源数据库中待同步数据进行处理,得到目标数据文本,包括:
S301、将源数据库中待同步数据进行打包处理,得到打包文本;
在得到待同步数据后,将待同步数据进行打包处理,得到打包的文本。
S302、对打包文本进行加密处理,得到加密后的打包文本;
为了使得数据传输过程中,传输的数据更加安全可靠,对打包文本进行加密处理,得到加密的打包文本。具体放入,可以根据数据的安全级别确定加密方案。
S303、将加密后的打包文本作为目标数据文本。
实施例二:
一种数据同步方法,应用于接收服务器中,参考图4,该方法包括:
S401、获取接收用户通过终端发送的查询指令,其中,查询指令为在MQ代理服务器中查询目标数据文本的指令;
在本发明实施例中,查询指令具体为接收用户在终端上配置目的数据库配置信息实现的。
S402、根据查询指令在MQ代理服务器中查询目标数据文本;
在目的数据库配置信息配置完成后,就能根据查询指令在MQ代理服务器中查询目标数据文本。
S403、对目标数据文本进行处理,得到待同步数据,并存储待同步数据。
在得到目标数据文本后,对目标数据文本进行解密处理,得到数据的打包文本,打包文本中的数据即为待同步数据,存储待同步数据。
其中,目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,发送服务器在接收到源数据库配置信息之后,对源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据,从而得到目标数据文本,并将目标数据文本发送至MQ代理服务器,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
进一步地,参考图5,根据查询指令在MQ代理服务器中查询目标数据文本,包括:
S501、获取接收用户发送的目的数据库配置信息,其中,目的数据库配置信息包括:目的数据库认证信息,目的数据库类型,目的数据库名,目的数据库地址,目的数据库中待同步数据的清单;
在本发明实施例中,当该数据同步方法的应用系统应用于接收服务器中时,接收用户能够通过终端发送目的数据库配置信息。具体的,目的数据库配置信息至少包括:目的数据库认证信息,目的数据库类型,目的数据库名,目的数据库地址,目的数据库中待同步数据的清单。
目的数据库认证信息可以为账号和密码的形式,也可以为认证证书的形式,本发明实施例对其不做具体限制。
目的数据库类型的种类繁多,可以是Oracle数据库,Server数据库,Sybase数据库等,本发明实施例对其不做具体限制。
目的数据库中待同步数据清单至少包括:目的数据库中待同步数据所属的数据库名,目的数据库中待同步数据所属的表名,目的数据库中待同步数据所属的字段名。
另外,目的数据库的配置信息还可以包括单次传送数据的数据量,数据采集/处理线程数,数据采集/入库的配置信息等,本发明实施例对其不做具体限制。
S502、对目的数据库配置信息进行分析,得到目的数据库分析结果;
在接收用户配置完成目的数据库配置信息后,接收服务器就能够对目的数据库配置信息进行分析,得到目的数据库分析结果,该目的数据库分析结果与目的数据库配置信息相关联。
S503根据目的数据库分析结果在MQ代理服务器中查询目标数据文本。
在得到目的数据库分析结果后,接收服务器就能够根据目的数据库分析结果在MQ代理服务器中查询目标数据文本。
本发明实施例中的数据同步方法,发送用户只需在发送终端上配置源数据库配置信息,接收用户只需在接收终端上配置目的数据库配置信息,就能实现数据的同步,操作简单,并且通用性好,大大提高了数据同步的效率。
综上,本发明实施例中的数据同步方法具有如下优点:
1、采用MQ消息队列的异步模式,使得数据传输的准确性得到了保障;
2、数据加密以及MQ代理服务器的中间代理角色,使得数据安全性更可靠;
3、部署配置便捷,消除用户数据安全顾虑,上线周期短。
实施例三:
一种数据同步装置,参考图6,该装置包括:
第一获取模块11,用于获取发送用户通过终端发送的源数据库配置信息,其中,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
分析模块12,用于对源数据库配置信息进行分析,得到源数据库分析结果;
提取模块13,用于根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据;
第一处理模块14,用于将待同步数据进行处理,得到目标数据文本;
发送模块15,用于将目标数据文本发送至MQ代理服务器,以使接收服务器在MQ代理服务器中查找目标数据文本,对目标数据文本进行处理,得到待同步数据并进行存储。
该部分内容已经在实施例一中的步骤S101至步骤S105中进行了详细的描述,这里不再进行赘述。
进一步地,源数据库中待同步数据清单至少包括:源数据库中待同步数据所属的数据库名,源数据库中待同步数据所属的表名,源数据库中待同步数据所属的字段名。
进一步地,提取模块13包括:
提取单元,用于根据源数据库分析结果提取源数据库中的目标数据,其中,目标数据为待同步数据的清单中所指示的数据;
剔除单元,用于将目标数据中的空项数据剔除,得到源数据库中待同步数据。
进一步地,处理模块14,包括:
打包处理单元,用于将源数据库中待同步数据进行打包处理,得到打包文本;
加密处理单元,用于对打包文本进行加密处理,得到加密后的打包文本;
设定单元,用于将加密后的打包文本作为目标数据文本。
该部分内容已经在实施例一中进行了详细的描述,这里不再进行赘述。
实施例四:
一种数据同步装置,参考图7,该装置包括:
第二获取模块16,用于获取接收用户通过终端发送的查询指令,其中,查询指令为在MQ代理服务器中查询目标数据文本的指令;
查询模块17,用于根据查询指令在MQ代理服务器中查询目标数据文本;
第二处理模块18,用于对目标数据文本进行处理,得到待同步数据,并存储待同步数据;
其中,目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,发送服务器在接收到源数据库配置信息之后,对源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到源数据库中待同步数据,从而得到目标数据文本,并将目标数据文本发送至MQ代理服务器,源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
进一步地,查询模块17包括:
获取单元,用于获取接收用户发送的目的数据库配置信息,其中,目的数据库配置信息包括:目的数据库认证信息,目的数据库类型,目的数据库名,目的数据库地址,目的数据库中待同步数据的清单;
分析单元,用于对目的数据库配置信息进行分析,得到目的数据库分析结果;
查询单元,用于根据目的数据库分析结果在MQ代理服务器中查询目标数据文本。
该部分内容已经在实施例二中进行了详细的描述,这里不再进行赘述。
本发明实施例所提供的一种数据同步方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (9)
1.一种数据同步方法,其特征在于,应用于发送服务器中,包括:
获取发送用户通过终端发送的源数据库配置信息,其中,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
对所述源数据库配置信息进行分析,得到源数据库分析结果;
根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据;
将所述待同步数据进行处理,得到目标数据文本;
将所述目标数据文本发送至MQ代理服务器,以使接收服务器在所述MQ代理服务器中查找所述目标数据文本,对所述目标数据文本进行处理,得到所述待同步数据并进行存储;
其中,将所述源数据库中待同步数据进行处理,得到目标数据文本,包括:
将所述源数据库中待同步数据进行打包处理,得到打包文本;
对所述打包文本进行加密处理,得到加密后的打包文本;
将所述加密后的打包文本作为目标数据文本。
2.根据权利要求1所述的方法,其特征在于,所述源数据库中待同步数据清单至少包括:所述源数据库中待同步数据所属的数据库名,所述源数据库中待同步数据所属的表名,所述源数据库中待同步数据所属的字段名。
3.根据权利要求1所述的方法,其特征在于,根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据,包括:
根据所述源数据库分析结果提取所述源数据库中的目标数据,其中,所述目标数据为所述待同步数据的清单中所指示的数据;
将所述目标数据中的空项数据剔除,得到所述源数据库中待同步数据。
4.一种数据同步方法,其特征在于,应用于接收服务器中,包括:
获取接收用户通过终端发送的查询指令,其中,所述查询指令为在MQ代理服务器中查询目标数据文本的指令;
根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本;
对所述目标数据文本进行处理,得到待同步数据,并存储所述待同步数据;
其中,所述目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,所述发送服务器在接收到所述源数据库配置信息之后,对所述源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到所述源数据库中待同步数据,从而得到所述目标数据文本,并将所述目标数据文本发送至所述MQ代理服务器,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
5.根据权利要求4所述的方法,其特征在于,根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本,包括:
获取接收用户发送的目的数据库配置信息,其中,所述目的数据库配置信息包括:目的数据库认证信息,目的数据库类型,目的数据库名,目的数据库地址,目的数据库中待同步数据的清单;
对所述目的数据库配置信息进行分析,得到目的数据库分析结果;
根据所述目的数据库分析结果在所述MQ代理服务器中查询所述目标数据文本。
6.一种数据同步装置,其特征在于,所述装置包括:
第一获取模块,用于获取发送用户通过终端发送的源数据库配置信息,其中,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单;
分析模块,用于对所述源数据库配置信息进行分析,得到源数据库分析结果;
提取模块,用于根据所述源数据库分析结果提取所述源数据库中的数据,以得到所述源数据库中待同步数据;
第一处理模块,用于将所述待同步数据进行处理,得到目标数据文本;
发送模块,用于将所述目标数据文本发送至MQ代理服务器,以使接收服务器在所述MQ代理服务器中查找所述目标数据文本,对所述目标数据文本进行处理,得到所述待同步数据并进行存储;
其中,第一处理模块,包括:
打包处理单元,用于将源数据库中待同步数据进行打包处理,得到打包文本;
加密处理单元,用于对打包文本进行加密处理,得到加密后的打包文本;
设定单元,用于将加密后的打包文本作为目标数据文本。
7.根据权利要求6所述的装置,其特征在于,所述源数据库中待同步数据清单至少包括:所述源数据库中待同步数据所属的数据库名,所述源数据库中待同步数据所属的表名,所述源数据库中待同步数据所属的字段名。
8.根据权利要求6所述的装置,其特征在于,所述提取模块包括:
提取单元,用于根据所述源数据库分析结果提取所述源数据库中的目标数据,其中,所述目标数据为所述待同步数据的清单中所指示的数据;
剔除单元,用于将所述目标数据中的空项数据剔除,得到所述源数据库中待同步数据。
9.一种数据同步装置,其特征在于,所述装置包括:
第二获取模块,用于获取接收用户通过终端发送的查询指令,其中,所述查询指令为在MQ代理服务器中查询目标数据文本的指令;
查询模块,用于根据所述查询指令在所述MQ代理服务器中查询所述目标数据文本;
第二处理模块,用于对所述目标数据文本进行处理,得到待同步数据,并存储所述待同步数据;
其中,所述目标数据文本为发送服务器根据发送用户发送的源数据库配置信息生成的,其中,所述发送服务器在接收到所述源数据库配置信息之后,对所述源数据库配置信息进行分析,并根据源数据库分析结果提取源数据库中的数据,以得到所述源数据库中待同步数据,从而得到所述目标数据文本,并将所述目标数据文本发送至所述MQ代理服务器,所述源数据库配置信息至少包括:源数据库认证信息,源数据库类型,源数据库名,源数据库地址,源数据库中待同步数据的清单。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710548651.8A CN107343049B (zh) | 2017-07-06 | 2017-07-06 | 数据同步方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710548651.8A CN107343049B (zh) | 2017-07-06 | 2017-07-06 | 数据同步方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107343049A CN107343049A (zh) | 2017-11-10 |
CN107343049B true CN107343049B (zh) | 2020-03-24 |
Family
ID=60219214
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710548651.8A Active CN107343049B (zh) | 2017-07-06 | 2017-07-06 | 数据同步方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107343049B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325037A (zh) * | 2018-08-17 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 一种针对海量数据的数据同步方法、存储介质和服务器 |
CN111949649A (zh) * | 2019-05-14 | 2020-11-17 | 杭州海康威视数字技术股份有限公司 | 一种动态本体存储系统、存储方法、数据查询方法 |
CN112243244A (zh) * | 2019-07-16 | 2021-01-19 | 中兴通讯股份有限公司 | 一种同源数据处理装置及方法和基站 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102542007A (zh) * | 2011-12-13 | 2012-07-04 | 中国电子科技集团公司第十五研究所 | 关系型数据库之间的同步方法及系统 |
CN104809201A (zh) * | 2015-04-24 | 2015-07-29 | 联动优势科技有限公司 | 一种数据库同步的方法和装置 |
CN105472045A (zh) * | 2016-01-26 | 2016-04-06 | 北京百度网讯科技有限公司 | 数据库迁移的方法和装置 |
CN106570135A (zh) * | 2016-10-27 | 2017-04-19 | 深圳市中科长海科技股份有限公司 | 数据库数据同步方法和装置 |
CN106874389A (zh) * | 2017-01-11 | 2017-06-20 | 腾讯科技(深圳)有限公司 | 数据的迁移方法和装置 |
-
2017
- 2017-07-06 CN CN201710548651.8A patent/CN107343049B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102542007A (zh) * | 2011-12-13 | 2012-07-04 | 中国电子科技集团公司第十五研究所 | 关系型数据库之间的同步方法及系统 |
CN104809201A (zh) * | 2015-04-24 | 2015-07-29 | 联动优势科技有限公司 | 一种数据库同步的方法和装置 |
CN105472045A (zh) * | 2016-01-26 | 2016-04-06 | 北京百度网讯科技有限公司 | 数据库迁移的方法和装置 |
CN106570135A (zh) * | 2016-10-27 | 2017-04-19 | 深圳市中科长海科技股份有限公司 | 数据库数据同步方法和装置 |
CN106874389A (zh) * | 2017-01-11 | 2017-06-20 | 腾讯科技(深圳)有限公司 | 数据的迁移方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107343049A (zh) | 2017-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109889589B (zh) | 一种基于区块链实现嵌入式硬件ota升级系统及方法 | |
CN110737566B (zh) | 主机性能监控方法及装置、电子设备及存储介质 | |
CN107343049B (zh) | 数据同步方法及装置 | |
CN109450777B (zh) | 会话信息提取方法、装置、设备和介质 | |
CN110263579B (zh) | 一种数据处理方法、系统及相关设备 | |
CN112434113B (zh) | 一种mes系统标识解析数据管理系统及方法 | |
CN106878265A (zh) | 一种数据处理方法及装置 | |
CN112367164B (zh) | 业务请求处理方法、装置、计算机设备和存储介质 | |
CN111488372A (zh) | 一种数据处理方法、设备及存储介质 | |
CN109978479A (zh) | 一种电子发票报销方法、装置、数据共享服务器及系统 | |
CN101197677A (zh) | 一种支持附加参数登录的互联网产品登录方法与装置 | |
CN102647432A (zh) | 一种认证信息传输方法、装置及认证中间件 | |
CN103139201A (zh) | 一种网络策略获取方法及数据中心交换机 | |
CN112287371B (zh) | 一种存储工业数据的方法、装置和计算机设备 | |
CN113301034A (zh) | 一种基于socket的内外网的通信方法、系统及介质 | |
CN112105003A (zh) | 智能门锁的数据同步系统、方法、装置及可读存储介质 | |
CN113965425A (zh) | 物联网设备的接入方法、装置、设备及计算机可读存储介质 | |
CN104065505A (zh) | 监视系统、监视服务器以及监视方法 | |
CN102387181B (zh) | 一种登录方法和登录装置 | |
CN105635227A (zh) | 一种基于串口服务器的点对点通信方法及系统 | |
CN114124572A (zh) | 基于单向网络的数据传输方法、装置、设备和介质 | |
CN111464387B (zh) | 一种检测终端ssl/tls配置安全性的方法、装置、系统和设备 | |
CN114329097A (zh) | 批量注册产品标识的方法和装置、电子设备和存储介质 | |
CN110324426B (zh) | 一种数据获取方法、装置和系统 | |
CN109213955B (zh) | 数据处理方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20221220 Address after: 201800 Room JT1464, 2F, Building 39, No. 52, Chengliu Road, Jiading District, Shanghai Patentee after: Shanghai Jinge Pharmaceutical Technology Development Co.,Ltd. Address before: 200001 Unit 1210, Building 1, No. 10, Jianguo Middle Road, Huangpu District, Shanghai Patentee before: SHANGHAI VIEW VALLEY TECHNOLOGY Co.,Ltd. |
|
TR01 | Transfer of patent right |