CN116633951B - 一种跨网数据同步方法和装置 - Google Patents

一种跨网数据同步方法和装置 Download PDF

Info

Publication number
CN116633951B
CN116633951B CN202310883139.4A CN202310883139A CN116633951B CN 116633951 B CN116633951 B CN 116633951B CN 202310883139 A CN202310883139 A CN 202310883139A CN 116633951 B CN116633951 B CN 116633951B
Authority
CN
China
Prior art keywords
data
transfer service
synchronized
service
encrypted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310883139.4A
Other languages
English (en)
Other versions
CN116633951A (zh
Inventor
张冬冬
龙腾
刘震
杨飞跃
齐大为
裴培
张宝红
高芮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CETC 15 Research Institute
Original Assignee
CETC 15 Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CETC 15 Research Institute filed Critical CETC 15 Research Institute
Priority to CN202310883139.4A priority Critical patent/CN116633951B/zh
Publication of CN116633951A publication Critical patent/CN116633951A/zh
Application granted granted Critical
Publication of CN116633951B publication Critical patent/CN116633951B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1095Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/04Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
    • H04L63/0442Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload wherein the sending and receiving network entities apply asymmetric encryption, i.e. different keys for encryption and decryption
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/40Network security protocols

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明属于数据传输技术领域,提供一种跨网数据同步方法和装置。该方法通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据;对第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;在接收到数据同步请求时,第一数据服务端将第一加密数据包转发给第二侧数据中转服务;第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端。本发明能够有效提高数据传输的安全性。

Description

一种跨网数据同步方法和装置
技术领域
本发明涉及数据传输技术领域,尤其涉及一种跨网数据同步方法和装置。
背景技术
计算机信息化和大数据技术的蓬勃发展,使得系统间数据的互通互联、数据共享变得尤为重要。此外,为防止核心数据泄露,互联网与局域网之间无法实现直接连通,如何实现一种安全的跨网交换方法也成为各公司需要考虑的问题。
绝大多数公司对数据安全的要求比较高,所以不能将公司内部局域网与互联网进行直接互通。传统数据跨网的数据同步技术,主要通过以下几种方式实现跨网数据交换:1)使用移动硬盘或光盘作为移动介质进行拷贝,一般由指定工作权限的工作人员来负责数据交换。这是最容易获取的传输方式,在网络链路上可以物理隔离,安全性较高且操作简单。2)光盘摆渡机,先用光盘刻录待传输的数据,然后利用机械臂换到另一端的网络,此方式不需要人工动手操作,同样可以做到网络的物理隔离。3)使用网闸自带的摆渡功能进行跨网数据交换,其实质是基于文件目录共享和用户访问权限控制来实现用户间的数据交换。4)跨网FTP属于比较普遍的跨网数据传输方式,主要用于上传下载文件,实施成本不高,操作也比较简单,容易进行防病毒检查。
现阶段跨网络数据同步交换虽然有较多的解决方案,但每种都有一些弊端,现有几种技术效率较低,或安全性较低,无法完全满足双局域网跨网的数据同步需求。传统的硬盘光盘摆渡的方式容易携带和传播病毒,造成网络和信息安全事故;传输介质易丢失、易损毁、易被窃取;不具备日志功能,事后无法追溯。此外,光盘摆渡机工作方式与硬盘光盘人工摆渡的工作方式类似,同样容易携带病毒,也存在易丢失、易损毁等问题,且在数据服务双方距离较远时无法使用此种工作方式。此外,网闸摆渡只能解决文件物理位置移动的问题,很难具体控制文件的安全性及流转过程,文件审核难以控制,传输过程难以追溯,其隔离效果和安全合规性缺乏依据。此外,跨网FTP需要人工拷贝,工作繁琐,责任不清;同样不具备完善的日志功能,无法事后定位和追溯过程问题及责任。
然而,公司系统常常具有在互联网和公司内部局域网进行数据通信的需求,进而实现运行期间业务数据的关联,以及数据的互相传递,因此,如何保证跨网交换时数据通信的安全性,是目前急需解决的事情。另外,还存在国产服务器环境下局域网因网络不通无法进行数据同步的问题。
因此,有必要提供一种跨网数据同步方法,以解决上述问题。
发明内容
本发明意在提供一种跨网数据同步方法和装置,以解决现有技术中在国产服务器环境下局域网因网络不通无法进行数据同步、跨网交换时数据通信的安全性低等的技术问题,本发明要解决的技术问题通过以下技术方案来实现。
本发明的第一方面提出一种跨网数据同步方法,用于在不同局域网内的数据服务端之间进行跨网数据同步,包括:通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互;对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务;所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
根据可选的实施方式,在接收到所述第二数据服务端向所述第二侧数据中转服务发送数据同步请求时,所述第二数据服务端将所述第二加密数据包转发给所述第二侧数据中转服务;所述第一侧数据中转服务对所述第二加密数据包进行解析后发送给第一数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
根据可选的实施方式,基于断点续传机制,所述第一数据服务端向所述第二数据服务端发送所述第一待同步数据,或者所述第二数据服务端向所述第一数据服务端发送所述第二待同步数据。
根据可选的实施方式,所述断点续传机制包括:将所述第一待同步数据划分成多个部分,所述多个部分中的每一部分的数据包均采用线程传输;在所述第一数据服务端向所述第一侧数据中转服务传输所述第一待同步数据的过程中出现网络故障,且在重新传输所述第一待同步数据时,从已传输部分与未传输部分的断点开始继续传输。
根据可选的实施方式,所述通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,包括:采用所述第一侧数据中转服务每日定时抽取所述第一数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第一待同步数据,并将所述当日变化数据以指定格式进行数据打包;或者采用所述第二侧数据中转服务每日定时抽取所述第二数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第二待同步数据,并将所述当日变化数据以指定格式进行数据打包。
根据可选的实施方式,所述在确定数据打包成功后生成第一加密数据包,包括:判断所述第一侧数据中转服务对所述第一待同步数据是否打包成功,其中,在所述第一侧数据中转服务对所述第一待同步数据打包成功的情况下,采用RSA加密算法,使用公钥加密生成第一加密数据包;在所述第一侧数据中转服务对所述第一待同步数据打包失败的情况下,则对所述第一待同步数据重新进行打包和加密,得到第一加密数据包。
根据可选的实施方式,所述第一侧数据中转服务使用断点续传机制经由数据接口将所述第一加密数据包转发到所述第二侧数据中转服务,所述第二侧数据中转服务使用私钥对所述第一加密数据包进行解密,在解密成功后通过对XML文件解析,根据每条数据的变更类型判断以执行新增操作、修改操作或删除操作。
根据可选的实施方式,采用事务控制向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求,在向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求失败的情况下,执行重新发起数据同步请求。
根据可选的实施方式,判断所述第一侧数据中转服务和所述第二侧数据中转服务的数据库中是否有数据同步请求中数据,以确定是否直接下载相应数据并直接推送到所述第一数据服务端或所述第二数据服务端。
本发明的第二方面提出一种跨网数据同步装置,用于在不同局域网内的数据服务端之间进行跨网数据同步,包括:抽取确定模块,通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互;数据打包模块,对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;转发模块,在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务;数据同步模块,所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
本发明第三方面提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明第一方面所述的方法。
本发明第四方面提供一种计算机可读介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现本发明第一方面所述的方法。
本发明实施例包括以下优点:
与现有技术相比,本发明通过在外部网络配设第一侧数据中转服务和第二侧数据中转服务,通过定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据,并通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,接着对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,第一数据服务端将加密打包后的第一待同步数据转发给第二侧数据中转服务,并由第二侧数据中转服务进行数据解析后发送给第二数据服务端,并且第二数据服务端将加密打包后的第二待同步数据转发给第一侧数据中转服务,并由第一侧数据中转服务进行数据解析后发送给第一数据服务端,以使第一数据服务端和所述第二数据服务端之间实现数据同步,能够更有效提高第一数据服务端和所述第二数据服务端之间的数据同步的传输效率,能够更有效避免国产服务器环境下局域网因网络不通无法进行数据同步的问题,并且对待同步数据(即传输数据)进行加密处理,能够有效提高数据传输的安全性。
此外,采用RSA加密算法,使用公钥加密生成第一加密数据包或第二机密数据包,能够有效提高待同步数据的传输安全性,进而能够有效提高数据传输的安全性。
附图说明
图1是本发明的跨网数据同步方法的一示例的步骤流程图;
图2是应用本发明的跨网数据同步方法的应用示例的示意图;
图3是本发明的跨网数据同步方法的另一示例的步骤流程图;
图4是根据本发明的跨网数据同步装置的一示例的结构示意图;
图5是根据本发明的电子设备实施例的结构示意图;
图6是根据本发明的计算机可读介质实施例的结构示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
鉴于上述问题,本发明提出一种跨网数据同步方法。
下面参照图1至图3,将对本发明的内容进行详细说明。
图1是本发明的跨网数据同步方法的一示例的步骤流程图。图2是应用本发明的跨网数据同步方法的应用示例的示意图。
在图2的应用示例中,在国产化环境下,包括局域网1(又称为第一局域网)、局域网2(又称为第二局域网)和外部网络,其中,位于局域网1内的第一数据服务端和位于局域网2内的第二数据服务端之间需要进行数据同步,但是局域网1和局域网2之间网络不通;外部网络包括多个数据服务,具体为第一侧数据中转服务(例如数据中转服务C)和第二侧数据中转服务(例如数据中转服务D)及各自对应的服务后端(例如服务器)。第一侧数据中转服务和局域网1内的第一数据服务端之间可进行数据传输,第二侧数据中转服务和局域网2内的第二数据服务端之间可进行数据传输,第一侧数据中转服务和第二侧数据中转服务之间可进行数据同步或数据交互,以使第一数据服务端和第二数据服务端之间可实现数据同步。
需要说明的是,本发明应用广泛,特别适用于在不同局域网内的数据服务端之间进行跨网数据同步。上述仅作为可选示例进行说明,不能理解成对本发明的限制。
下面将结合图1和图2 的应用示例具体说明本发明的跨网数据同步方法。
如图1所示,在步骤S101中,通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互。
从图2中可知,第一数据服务端位于第一局域网内(即局域网1内),第二数据服务端位于第二局域网内(即局域网2内),由于第一数据服务端和第二数据服务端之间网络不通,需要使用外部网络来实现通信连接。
鉴于上述问题,在外部网络配设与第一数据服务端和第二数据服务端可通信的第一侧数据中转服务和所述第二侧数据中转服务,即各架设一台服务器作为数据同步指定的数据中转服务器(例如为两台中转服务器),来完成数据中转服务。
在第一实施方式中,采用所述第一侧数据中转服务每日定时抽取所述第一数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第一待同步数据,并将所述当日变化数据以指定格式进行数据打包。
例如,第一侧数据中转服务的数据库每日定时(例如指定凌晨两点)启动定时作业,并且对于抽取时间可进行配置。
例如,第一待同步数据如下表1.
表1
表1示出了第一待同步数据的一示例。
各项数据的各字段属性如下表2。
表2
表2示出了第一待同步数据中各项数据的各字段数据的一示例。
假定当日时间(或本日时间)为“2023-06-01”,那么上一次的同步时间为2023-06-01 02:00:00,根据`create_time`(创建时间), `update_time`(更新时间)两个字段可判断,下次更新(例如2023-06-0102:00:00)时的更新内容如下表3。
表3
表3示出了第一同步数据更新后的更新内容的一示例。
在第二实施方式中,采用所述第二侧数据中转服务每日定时抽取所述第二数据服务端的数据。
具体的,所述第二待同步数据如下表4。
表4
表4示出了第二待同步数据的一示例。
假定当日时间(或本日时间)为“2023-06-01”,那么上一次的同步时间为2023-06-01 02:00:00,根据`create_time`(创建时间), `update_time`(更新时间)两个字段可判断,下次更新(例如2023-06-0102:00:00)时的更新内容如下表5。
表5
表5示出了第二同步数据更新后的更新内容的一示例。
需要说明的是,对于从第二数据服务端抽取数据,与从第一数据服务端的抽取方式大致相同,因此,省略了对该相同部分的说明。此外,对第二待同步数据的数据打包方式与对第一待同步数据的数据打包方式大致相同,因此,省略了对该相同部分的说明。上述仅作为可选示例进行说明,不能理解成对本发明的限制。
接下来,在步骤S102中,对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录。
在第一实施方式中,如图3所示,例如定时抽取第一数据服务端的数据,所述数据包括本日变化数据,进一步将筛选出本日变化数据(即当日变化数据)以用作第一待同步数据,并将筛选出的当日变化数据打包成XML格式的数据包,即数据包使用标准的XML格式。具体包含新数据的字段名称、属性、值、生成时间、更新时间、变更类型(包含新增、删除、修改)等信息。所述原数据如下表6。
表6
表6示出了原数据的一示例。
所述打包后标准的XML数据具体如下:
<newdatas>
<data>
<field>
<fieldkey>id</fieldkey>
<fieldnvalue>2</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>name</fieldkey>
<fieldnvalue>b</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>age</fieldkey>
<fieldnvalue>11</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>type</fieldkey>
<fieldnvalue>update</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>datasource</fieldkey>
<fieldnvalue>1</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>create_time</fieldkey>
<fieldnvalue>2023-05-31 10:00:00</field>
<fieldntype>datatime</fieldntype>
<field>
<fieldkey>update_time</fieldkey>
<fieldnvalue>2023-06-01 10:00:00</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
</data>
<data>
<field>
<fieldkey>id</fieldkey>
<fieldnvalue>3</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>name</fieldkey>
<fieldnvalue>c</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>age</fieldkey>
<fieldnvalue>12</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>type</fieldkey>
<fieldnvalue>insert</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>datasource</fieldkey>
<fieldnvalue>1</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>create_time</fieldkey>
<fieldnvalue>2023-06-01 10:00:00</field>
<fieldntype>datatime</fieldntype>
<field>
<fieldkey>update_time</fieldkey>
<fieldnvalue></fieldnvalue>
<fieldntype>string</fieldntype>
</field>
</data>
</newdatas>。
具体地,在对第一待同步数据打包成功后,进行加密处理。
具体判断所述第一侧数据中转服务对所述第一待同步数据是否打包成功(对应图3所示的“本日变化数据打包成数据包”),其中,在所述第一侧数据中转服务对所述第一待同步数据打包成功的情况下(对应图3所示的“打包成功”),采用RSA加密算法,使用公钥加密生成第一加密数据包,能够有效提高待同步数据的传输安全性。
具体地,使用RSA加密算法生成一对公钥私钥,其中,公钥内容的示例如下:
MIGfMA0GCSqGSIb3DQEBAQUAA4GNADCBiQKBgQC9SZS0czkGetJU/+JcoVIyt3T0HYbk/s7E2kdReyEBdU06s8SPwSFIcn9D+zh2rEvzDylAYBpWIHfIWJhqkz53qxKH2GqkVrY2SipYQiVyH673mH7zmeYQWUZLW1AaAPZj+0ZJf8l82/P6c3zV1D/rgQHQDFaXS3xMwyah+KrjVQIDAQAB,使用上述公钥将第一待同步数据加密后,生成加密数据包。
而在所述第一侧数据中转服务对所述第一待同步数据打包失败的情况下(对应图3所示的“打包失败”),则对所述第一待同步数据重新进行打包和加密,具体地,在同步数据打包失败时,系统自动重新进行打包,重试若干次(可配置),若失败则将失败请求记录写入数据失败日志中,并自动通知运维人员处理。
在第二实施方式中,例如定时抽取第二数据服务端的数据,所述数据包括本日变化数据(即当日变化数据),根据数据生成时间或更新时间筛选出当日变化数据以用作第二待同步数据,并将所述当日变化数据以指定格式进行数据打包。
需要说明的是,对于从第二数据服务端抽取数据,与从第一数据服务端的抽取方式大致相同,因此,省略了对该相同部分的说明。此外,对第二待同步数据的数据打包方式与对第一待同步数据的数据打包方式大致相同,因此,省略了对该相同部分的说明。上述仅作为可选示例进行说明,不能理解成对本发明的限制。
接下来,在步骤S103中,在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务。
在第一实施方式中,在第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,即第一侧数据中转服务的后端接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务。
基于断点续传机制,所述第一数据服务端向所述第二数据服务端发送所述第一待同步数据。所述第一侧数据中转服务使用断点续传机制经由数据接口将所述第一加密数据包转发到所述第二侧数据中转服务。
具体通过所述第一数据服务端向所述第一侧数据中转服务传输所述第一加密数据包(即打包加密后的第一待同步数据),再由第一侧数据中转服务传输到第二侧数据中转服务。
具体将所述第一待同步数据划分成多个部分,所述多个部分中的每一部分的数据包均采用线程传输,即每一部分的数据对应一条线程进行数据传输。
优选地,在所述第一数据服务端向所述第一侧数据中转服务传输所述第一待同步数据的过程中出现网络故障,且在重新传输所述第一待同步数据时,从已传输部分与未传输部分的断点开始继续传输。即碰到网络故障可从已传输的部分继续传输,能够有效避免传输中途网络断开重新上传需从头开始的问题。
在第二实施方式中,所述第二数据服务端向所述第一数据服务端发送所述第二待同步数据,即所述第二数据服务端将第二待同步数据同步到第一数据服务端。
在接收到所述第二数据服务端向所述第二侧数据中转服务发送数据同步请求时,所述第二数据服务端将所述第二加密数据包转发给所述第二侧数据中转服务,并再由第二侧数据中转服务将所述第二加密数据包传输到第一侧数据中转服务。
需要说明的是,上述仅作为可选示例进行说明,不能理解成对本发明的限制。
接下来,在步骤S104中,所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
在第一实施方式中,由第二侧数据中转服务将第一加密数据包解密解析后传输到第二数据服务端,以使得第一数据服务端将第一待同步数据同步到第二数据服务端,即以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
具体地,所述第二侧数据中转服务使用私钥对所述第一加密数据包进行解密,在解密成功后通过对XML文件解析,根据每条数据的变更类型判断以执行新增操作、修改操作或删除操作等数据库操作(对应图3所示“判断数据操作”)。具体在第一数据服务端进行上述数据库操作后留存日志记录(数据处理日志记录)。
具体地,使用与公钥相匹配的私钥进行解密,私钥内容示例为:MIICeAIBADANBgkqhkiG9w0BAQEFAASCAmIwggJeAgEAAoGBAL1JlLRzOQZ60lT/4lyhUjK3dPQdhuT+zsTaR1F7IQF1TTqzxI/BIUhyf0P7OHasS/MPKUBgGlYgd8hYmGqTPnerEofYaqRWtjZKKlhCJXIfrveYfvOZ5hBZRktbUBoA9mP7Rkl/yXzb8/pzfNXUP+uBAdAMVpdLfEzDJqH4quNVAgMBAAECgYEAitUhIIkyVjJXesiDenVIGLK+MR5HBkZt2axPis/IkY07q8aWcOmyQ7TW60GjVEdjHU8Nbo4OQwVlVajFgcWlllHDaXrdh1cdzR0FTpxQV+dSr/U9UyLRmuSK2q/yavn4Zp9OVvoC7jPSe/J8lEwGIo6MSGD2JwGQFyAK4l5dcLECQQD+Ccb/R15RJUqRAbwMUtFDci1l2dwR/vte95RAIybWjxZ9AxHGvlqHLX40nxWWUc9SELawdxnZJYiPLdBqRuOPAkEAvr/LRkzo0Sd9gczWkn8/JP7HuiBJOvkYZWkSRMvKuu1smO3SjWIXqjf37S/nAqxP7NKvEiEamf0pZG0JJppI2wJBANR+EzGHXhJcMhI3NDfOsnJLOEQgxp9a/KLETwKTJLKGP9ZT0fO/V/QIjq+vfhwd1GAd0OKszTdA2QiC1vl+0GsCQCa9UQ1gBVClEopQDawHB839qJaWhAjkGh5ObpVmRjAclBejBUYNi/zYDRQwzFvwnvLb/w5RhtOLZOKuelNKtk0CQQDwd7ZSgGdo57Vf+LE8q/A3tW6QaobLK8A/wBG+hJuT9oS5pdIyl9BrbVR9srpedaDUK9QDkUaL+BhN4rzV/Iei,解密成功后的数据如下:
<newdatas>
<data>
<field>
<fieldkey>id</fieldkey>
<fieldnvalue>2</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>name</fieldkey>
<fieldnvalue>b</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>age</fieldkey>
<fieldnvalue>11</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>type</fieldkey>
<fieldnvalue>update</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>datasource</fieldkey>
<fieldnvalue>1</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>create_time</fieldkey>
<fieldnvalue>2023-05-31 10:00:00</field>
<fieldntype>datatime</fieldntype>
<field>
<fieldkey>update_time</fieldkey>
<fieldnvalue>2023-06-01 10:00:00</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
</data>
<data>
<field>
<fieldkey>id</fieldkey>
<fieldnvalue>3</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>name</fieldkey>
<fieldnvalue>c</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>age</fieldkey>
<fieldnvalue>12</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>type</fieldkey>
<fieldnvalue>insert</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>datasource</fieldkey>
<fieldnvalue>1</fieldnvalue>
<fieldntype>string</fieldntype>
</field>
<field>
<fieldkey>create_time</fieldkey>
<fieldnvalue>2023-06-01 10:00:00</field>
<fieldntype>datatime</fieldntype>
<field>
<fieldkey>update_time</fieldkey>
<fieldnvalue></fieldnvalue>
<fieldntype>string</fieldntype>
</field>
</data>
</newdatas>。
通过对XML文件的解析,可得到如下表7所示的更新数据。
表7
表7示出了通过对XML文件的解析所得到的更新数据的一示例。
接着,根据每条数据的变更类型字段判断以执行新增操作、修改操作或删除操作等数据库操作,即可完成数据同步,例如数据id为2的数据变更类型字段type为update,此时,判断需要对第二数据服务端的数据库进行数据更新。
在第二实施方式中,所述第一侧数据中转服务对所述第二加密数据包进行解析后发送给第一数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
需要说明的是,在第二实施方式中的对第二加密数据包的解密、解析处理(即解密解析)与第一实施方式中的对第一加密数据包的解密、解析处理大致相同,因此,省略了对该相同部分的说明。
在一可选实施方式中,采用服务接口形式来实现定时数据同步,数据同步形式采用事务控制。具体采用事务控制向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求,在向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求失败的情况下,执行重新发起数据同步请求。
具体地,根据失败处理机制,第一侧数据中转服务的后端或所述第二侧数据中转服务数据同步请求失败后,重新发起数据同步请求,重试若干次(可配置),若失败则将失败请求记录写入数据处理日志记录(例如数据处理失败日志)中,并自动通知运维人员处理。
通过判断所述第一侧数据中转服务和所述第二侧数据中转服务的数据库中是否有数据同步请求中数据,以确定是否直接下载相应数据并直接推送到所述第一数据服务端或所述第二数据服务端。
具体地,在第一数据服务端或第二数据服务端在本地没有查询到数据同步请求中使用人员所需要的数据时,则可通过手动按钮方式查询数据中转服务内(具体为第一侧数据中转服务内或第二侧数据中转服务内)的数据,若在第一侧数据中转服务内或第二侧数据中转服务内有所需数据或信息,则可通过下载将所述数据或信息推送至各自对应的数据服务端,下次使用则不需要再请求数据中转服务。
图3是本发明的跨网数据同步方法的一示例的步骤流程图。
在图3的示例中,还包括判断当日变化数据(如图3所示的当日变化数据或本日变化数据)是否打包成数据包的步骤,其中,在判断当日变化数据打包失败(即对应图3中打包失败)的情况下,重新对当日变化数据进行数据打包。
需要说明的是,在图3的示例的步骤与图1的示例的步骤大致相同,因此省略了相同部分的说明,下面将主要说明区别部分。
在判断第一数据服务端的当日变化数据打包成功(即对应图3中打包成功)的情况下,生成加密数据包和日志记录(即数据处理日志记录)。
具体地,通过接口形式(例如服务接口形式)进行数据同步请求,基于断点续传机制将所生成的加密数据包传输到数据中转服务。
在图3的示例中,还包括对将加密数据包传输到数据中转服务的传输是否成功进行判断,即数据中转服务是否接收到加密数据包的判断。
在判断将加密数据包传输到数据中转服务的传输成功时,即数据中转服务接收到加密数据包时,数据中转服务在接收成功后将所接收到的加密数据包转发给第二数据服务端。
接着,第二数据服务端对所接收到的加密数据包进行解密解析,在解析失败后重新打包,而在解析成功后判断数据操作(即数据库操作),以执行数据新增、数据修改等数据操作,具体在数据库DB(或DB数据库)进行数据新增、数据修改等数据操作,并生成日志记录(即数据处理日志记录)。
需要说明的是,上述仅作为可选示例进行说明,不能理解成对本发明的限制。
需要注意的是,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
与现有技术相比,本发明通过在外部网络配设第一侧数据中转服务和第二侧数据中转服务,通过定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据,并通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,接着对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,第一数据服务端将加密打包后的第一待同步数据转发给第二侧数据中转服务,并由第二侧数据中转服务进行数据解析后发送给第二数据服务端,并且第二数据服务端将加密打包后的第二待同步数据转发给第一侧数据中转服务,并由第一侧数据中转服务进行数据解析后发送给第一数据服务端,以使第一数据服务端和所述第二数据服务端之间实现数据同步,能够更有效提高第一数据服务端和所述第二数据服务端之间的数据同步的传输效率,能够更有效避免国产服务器环境下局域网因网络不通无法进行数据同步的问题,并且对待同步数据(即传输数据)进行加密处理,能够有效提高数据传输的安全性。
此外,采用RSA加密算法,使用公钥加密生成第一加密数据包或第二机密数据包,能够有效提高待同步数据的传输安全性,进而能够有效提高数据传输的安全性。
下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。
图4是根据本发明的跨网数据同步装置的一示例的结构示意图。
如图4所示,本发明第二方面提供一种跨网数据同步装置,用于在不同局域网内的数据服务端之间进行跨网数据同步,包括:抽取确定模块,通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互;数据打包模块,对所抽取的第一待同步数据或第二待同步数据进行数据打包,在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录;转发模块,在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务;数据同步模块,所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
在一可选实施方式中,在接收到所述第二数据服务端向所述第二侧数据中转服务发送数据同步请求时,所述第二数据服务端将所述第二加密数据包转发给所述第二侧数据中转服务;所述第一侧数据中转服务对所述第二加密数据包进行解析后发送给第一数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
在一可选实施方式中,基于断点续传机制,所述第一数据服务端向所述第二数据服务端发送所述第一待同步数据,或者所述第二数据服务端向所述第一数据服务端发送所述第二待同步数据。
所述断点续传机制包括:将所述第一待同步数据划分成多个部分,所述多个部分中的每一部分的数据包均采用线程传输;在所述第一数据服务端向所述第一侧数据中转服务传输所述第一待同步数据的过程中出现网络故障,且在重新传输所述第一待同步数据时,从已传输部分与未传输部分的断点开始继续传输。
在一可选实施方式中,所述通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,包括:采用所述第一侧数据中转服务每日定时抽取所述第一数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第一待同步数据,并将所述当日变化数据以指定格式进行数据打包。
采用所述第二侧数据中转服务每日定时抽取所述第二数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第二待同步数据,并将所述当日变化数据以指定格式进行数据打包。
在一可选实施方式中,所述在确定数据打包成功后生成第一加密数据包,包括:判断所述第一侧数据中转服务对所述第一待同步数据是否打包成功,其中,在所述第一侧数据中转服务对所述第一待同步数据打包成功的情况下,采用RSA加密算法,使用公钥加密生成第一加密数据包;在所述第一侧数据中转服务对所述第一待同步数据打包失败的情况下,则对所述第一待同步数据重新进行打包和加密,得到第一加密数据包。
在一可选实施方式中,所述第一侧数据中转服务使用断点续传机制经由数据接口将所述第一加密数据包转发到所述第二侧数据中转服务,所述第二侧数据中转服务使用私钥对所述第一加密数据包进行解密,在解密成功后通过对XML文件解析,根据每条数据的变更类型判断以执行新增操作、修改操作或删除操作。
在一可选实施方式中,采用事务控制向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求,在向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求失败的情况下,执行重新发起数据同步请求。
在一可选实施方式中,判断所述第一侧数据中转服务和所述第二侧数据中转服务的数据库中是否有数据同步请求中数据,以确定是否直接下载相应数据并直接推送到所述第一数据服务端或所述第二数据服务端。
需要说明的是,在图4的示例中所涉及的跨网数据同步方法与图1的示例中的跨网数据同步方法的内容大致相同,因此省略了相同部分的说明。
图5是根据本发明的电子设备实施例的结构示意图。
如图5所示,电子设备以通用计算设备的形式表现。其中处理器可以是一个,也可以是多个并且协同工作。本发明也不排除进行分布式处理,即处理器可以分散在不同的实体设备中。本发明的电子设备并不限于单一实体,也可以是多个实体设备的总和。
所述存储器存储有计算机可执行程序,通常是机器可读的代码。所述计算机可读程序可以被所述处理器执行,以使得电子设备能够执行本发明的方法,或者方法中的至少部分步骤。
所述存储器包括易失性存储器,例如随机存取存储单元(RAM)和/或高速缓存存储单元,还可以是非易失性存储器,如只读存储单元(ROM)。
可选的,该实施例中,电子设备还包括有I/O接口,其用于电子设备与外部的设备进行数据交换。I/O接口可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
应当理解,图5所示的电子设备仅仅是本发明的一个示例,本发明的电子设备中还可以包括上述示例中未示出的元件或组件。例如,有些电子设备中还包括有显示屏等显示单元,有些电子设备还包括人机交互元件,例如按钮、键盘等。只要该电子设备能够执行存储器中的计算机可读程序以实现本发明方法或方法的至少部分步骤,均可认为是本发明所涵盖的电子设备。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,如图6所示,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干命令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明实施方式的上述方法。
所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由命令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
上述计算机可读介质承载有一个或者多个程序(例如为计算机可执行程序),当上述一个或者多个程序被一个该设备执行时,使得该计算机可读介质实现本公开的方法。
本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中,也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干命令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本发明实施例的方法。
以上具体地示出和描述了本发明的示例性实施例。应可理解的是,本发明不限于这里描述的详细结构、设置方式或实现方法;相反,本发明意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (9)

1.一种跨网数据同步方法,用于在不同局域网内的数据服务端之间进行跨网数据同步,其特征在于,包括:
通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互;采用断点续传机制将所述第一待同步数据划分成多个部分,所述多个部分中的每一部分的数据包均采用线程传输;
对所抽取的第一待同步数据或第二待同步数据进行数据打包,采用所述第一侧数据中转服务每日定时抽取所述第一数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第一待同步数据,并将所述当日变化数据以指定格式进行数据打包;或者采用所述第二侧数据中转服务每日定时抽取所述第二数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第二待同步数据,并将所述当日变化数据以指定格式进行数据打包;在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录,采用RSA加密算法,使用公钥加密生成第一加密数据包;在判断当日变化数据打包失败的情况下,重新对当日变化数据进行数据打包;
在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务;
所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步,根据每条数据的变更类型字段判断以执行新增操作、修改操作或删除操作的数据库操作,即可完成数据同步,在数据的数据变更类型字段type为update时,判断需要对第二数据服务端的数据库进行数据更新。
2.根据权利要求1所述的跨网数据同步方法,其特征在于,
在接收到所述第二数据服务端向所述第二侧数据中转服务发送数据同步请求时,所述第二数据服务端将所述第二加密数据包转发给所述第二侧数据中转服务;
所述第一侧数据中转服务对所述第二加密数据包进行解析后发送给第一数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步。
3.根据权利要求1或2所述的跨网数据同步方法,其特征在于,
基于断点续传机制,所述第一数据服务端向所述第二数据服务端发送所述第一待同步数据,或者所述第二数据服务端向所述第一数据服务端发送所述第二待同步数据。
4.根据权利要求3所述的跨网数据同步方法,其特征在于,
所述断点续传机制包括:
在所述第一数据服务端向所述第一侧数据中转服务传输所述第一待同步数据的过程中出现网络故障,且在重新传输所述第一待同步数据时,从已传输部分与未传输部分的断点开始继续传输。
5.根据权利要求1或2所述的跨网数据同步方法,其特征在于,所述在确定数据打包成功后生成第一加密数据包,包括:
判断所述第一侧数据中转服务对所述第一待同步数据是否打包成功,其中,在所述第一侧数据中转服务对所述第一待同步数据打包成功的情况下,采用RSA加密算法,使用公钥加密生成第一加密数据包;
在所述第一侧数据中转服务对所述第一待同步数据打包失败的情况下,则对所述第一待同步数据重新进行打包和加密,得到第一加密数据包。
6.根据权利要求5所述的跨网数据同步方法,其特征在于,
所述第一侧数据中转服务使用断点续传机制经由数据接口将所述第一加密数据包转发到所述第二侧数据中转服务,所述第二侧数据中转服务使用私钥对所述第一加密数据包进行解密,在解密成功后通过对XML文件解析,根据每条数据的变更类型判断以执行新增操作、修改操作或删除操作。
7.根据权利要求1或2所述的跨网数据同步方法,其特征在于,
采用事务控制向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求,在向所述第一侧数据中转服务的后端或所述第二侧数据中转服务的后端发起的数据同步请求失败的情况下,执行重新发起数据同步请求。
8.根据权利要求1或2所述的跨网数据同步方法,其特征在于,
判断所述第一侧数据中转服务和所述第二侧数据中转服务的数据库中是否有数据同步请求中数据,以确定是否直接下载相应数据并直接推送到所述第一数据服务端或所述第二数据服务端。
9.一种跨网数据同步装置,用于在不同局域网内的数据服务端之间进行跨网数据同步,其特征在于,包括:
抽取确定模块,通过第一侧数据中转服务定时抽取第一局域网内的第一数据服务端的数据,并从中确定第一待同步数据;或者通过第二侧数据中转服务定时抽取第二局域网内的第二数据服务端的数据,并从中确定第二待同步数据,所述第一侧数据中转服务和所述第二侧数据中转服务均位于外部网络侧,且所述第一侧数据中转服务和所述第二侧数据中转服务之间可进行数据交互;采用断点续传机制将所述第一待同步数据划分成多个部分,所述多个部分中的每一部分的数据包均采用线程传输;
数据打包模块,对所抽取的第一待同步数据或第二待同步数据进行数据打包,采用所述第一侧数据中转服务每日定时抽取所述第一数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第一待同步数据,并将所述当日变化数据以指定格式进行数据打包;或者采用所述第二侧数据中转服务每日定时抽取所述第二数据服务端的数据,进一步根据数据生成时间或更新时间筛选出当日变化数据以用作第二待同步数据,并将所述当日变化数据以指定格式进行数据打包;在确定数据打包成功后生成第一加密数据包或第二加密数据包,同时生成数据处理日志记录,采用RSA加密算法,使用公钥加密生成第一加密数据包;在判断当日变化数据打包失败的情况下,重新对当日变化数据进行数据打包;
转发模块,在接收到所述第一数据服务端向所述第一侧数据中转服务发送数据同步请求时,所述第一数据服务端将所述第一加密数据包转发给所述第二侧数据中转服务;
数据同步模块,所述第二侧数据中转服务对所述第一加密数据包进行解析后发送给第二数据服务端以使所述第一数据服务端和所述第二数据服务端之间实现数据同步,根据每条数据的变更类型字段判断以执行新增操作、修改操作或删除操作的数据库操作,即可完成数据同步,在数据的数据变更类型字段type为update时,判断需要对第二数据服务端的数据库进行数据更新。
CN202310883139.4A 2023-07-19 2023-07-19 一种跨网数据同步方法和装置 Active CN116633951B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310883139.4A CN116633951B (zh) 2023-07-19 2023-07-19 一种跨网数据同步方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310883139.4A CN116633951B (zh) 2023-07-19 2023-07-19 一种跨网数据同步方法和装置

Publications (2)

Publication Number Publication Date
CN116633951A CN116633951A (zh) 2023-08-22
CN116633951B true CN116633951B (zh) 2023-09-29

Family

ID=87621551

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310883139.4A Active CN116633951B (zh) 2023-07-19 2023-07-19 一种跨网数据同步方法和装置

Country Status (1)

Country Link
CN (1) CN116633951B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103455599A (zh) * 2013-09-03 2013-12-18 北京网秦天下科技有限公司 用于数据同步的方法、设备和系统
CN103747091A (zh) * 2014-01-16 2014-04-23 电信科学技术第一研究所 一种嵌入式设备的分布式数据同步系统及方法
CN104699541A (zh) * 2015-03-30 2015-06-10 北京奇虎科技有限公司 同步数据的方法、装置、数据传输组件及系统
CN105049504A (zh) * 2015-07-09 2015-11-11 国云科技股份有限公司 一种大数据中转传输同步及存储方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7418522B2 (en) * 2000-12-21 2008-08-26 Noatak Software Llc Method and system for communicating an information packet through multiple networks
KR100491541B1 (ko) * 2003-08-01 2005-05-25 니트젠테크놀러지스 주식회사 네트웍 환경에서의 컨텐츠 동기화 시스템 및 동기화 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103455599A (zh) * 2013-09-03 2013-12-18 北京网秦天下科技有限公司 用于数据同步的方法、设备和系统
CN103747091A (zh) * 2014-01-16 2014-04-23 电信科学技术第一研究所 一种嵌入式设备的分布式数据同步系统及方法
CN104699541A (zh) * 2015-03-30 2015-06-10 北京奇虎科技有限公司 同步数据的方法、装置、数据传输组件及系统
CN105049504A (zh) * 2015-07-09 2015-11-11 国云科技股份有限公司 一种大数据中转传输同步及存储方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于校园网的高校管理软件间数据同步系统的设计与实现;高建立等;CNKI;第第17卷卷(第第8期期);89-92 *

Also Published As

Publication number Publication date
CN116633951A (zh) 2023-08-22

Similar Documents

Publication Publication Date Title
CN107924411B (zh) 一种事务系统中ui状态的恢复的方法和系统
CN103595730B (zh) 一种密文云存储方法和系统
US6966001B2 (en) Computing system and data decryption method and computer system with remote copy facility
CN110912937A (zh) 一种基于区块链的数字存证平台和存证方法
CN109995522B (zh) 一种具有密钥协商功能的安全数据镜像方法
CN104023085A (zh) 一种基于增量同步的安全云存储系统
US20140245025A1 (en) System and method for storing data securely
CN105812391A (zh) 一种安全的云存储系统
US20120290837A1 (en) Method and system for secured management of online XML document services through structure-preserving asymmetric encryption
CN106341371A (zh) 云存储数据的加密方法及其系统
CN114207615A (zh) 用于维护具有隐私的不可变数据访问日志的系统和方法
US8387127B1 (en) Storage security appliance with out-of-band management capabilities
CN107918564B (zh) 数据传输异常处理方法、装置、电子设备及存储介质
US9332405B2 (en) Short message backup method, mobile terminal, and server
CN116633951B (zh) 一种跨网数据同步方法和装置
CN106471510B (zh) 复合文档访问
KR101979320B1 (ko) 메타정보 및 엔터프라이즈 프레임웍을 이용한 암호화 sql문 자동 생성 시스템 및 방법
CN110955542B (zh) 一种数据集成服务平台
US7852782B2 (en) Method of creating a split terminal between a base terminal and equipments connected in series
CN112966045A (zh) 数据同步方法及系统
CN111464311A (zh) 一种机固多节点一体授权管理的方法
JP2001155007A (ja) データベースの同期システム、データ送受信システム及び電子閲覧システム
JP2002132560A (ja) バックアップシステム
CN117094034B (zh) 一种数字资产安全存储使用方法
CN102761548B (zh) 稍后阅读客户端认证方法、系统及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant