CN115905414B - 一种内外网数据同步方法、系统、电子设备及介质 - Google Patents
一种内外网数据同步方法、系统、电子设备及介质 Download PDFInfo
- Publication number
- CN115905414B CN115905414B CN202310193278.4A CN202310193278A CN115905414B CN 115905414 B CN115905414 B CN 115905414B CN 202310193278 A CN202310193278 A CN 202310193278A CN 115905414 B CN115905414 B CN 115905414B
- Authority
- CN
- China
- Prior art keywords
- data
- database
- initial
- monitoring
- synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明属于数据处理技术领域,其目的在于提供一种内外网数据同步方法、系统、电子设备及介质。本发明可实现对数据更新的快速识别,进而有效避免相同数据重复传输、造成不必要的数据同步的作用,同时可在判定监听数据与所述初始同步数据不匹配,即数据发生变化时,根据监听数据和初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,进而便于目标数据库根据所述更新数据对所述初始同步数据进行更新处理,利于提升数据同步的整体效率及数据同步的实时性。
Description
技术领域
本发明属于数据处理技术领域,具体涉及一种内外网数据同步方法、系统、电子设备及介质。
背景技术
目前,如公安信息内网及电子政务内网等内部政务网络(其安全等级要求较高,下文简称为内网)中,通常运行着各种国民安全相关的信息,其安全性至关重要,为保证内网中数据的安全性,内网与向外部发送公共信息的外部网络(其安全等级要求较低,下文简称为外网)之间通常实行物理隔离,如将内网与外网之间设置隔离网闸。
数据同步是指在通信系统的两个或多个设备之间同步数据,并自动更新设备之间的数据更改设置,以保证通信系统内数据的一致性和稳定性。在内外网隔离的情况下,为保持内外网数据的一致性,避免数据冲突、数据缺乏可信度等问题,需要将内网与外网之间的指定数据信息进行同步。
现有技术中,由于隔离网闸只支持数据库之间的操作,在进行内外网数据同步时,通常采用源数据库(内网数据库和外网数据库中待进行数据同步的数据库)向目标数据库(内网数据库和外网数据库中除源数据库外的数据库)直接写入的方式。具体地,需要源数据库先对指定路径下的待同步数据进行提取分析,然后将待同步数据传输至目标数据库中,以便目标数据库再次对待同步数据进行提取分析,待目标数据库确认待同步数据发生更新后,再根据待同步数据中的更新数据进行同步操作。
但是,在使用现有技术过程中,发明人发现现有技术中至少存在如下问题:
现有技术中,当待同步数据较多或过大时,源数据库与目标数据库进行待同步数据的传输,以及对待同步数据进行分析的过程,会耗费大量时间及数据库资源,造成数据同步实时性较差,数据同步效率较低。
发明内容
本发明旨在至少在一定程度上解决上述技术问题,本发明提供了一种内外网数据同步方法、系统、电子设备及介质。
为了实现上述目的,本发明采用以下技术方案:
第一方面,本发明提供了一种内外网数据同步方法,由隔离模块执行,所述隔离模块分别与内网对应的内网数据库和外网对应的外网数据库连接;所述方法包括:
接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;
对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据;
判断所述监听数据与所述初始同步数据是否匹配,如否,则进入下一步;
根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据;
将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理;
判断所述监听数据与所述初始同步数据是否匹配,包括:
对所述监听数据和所述初始同步数据进行哈希变换,得到所述监听数据对应的第一hash值和所述初始同步数据对应的第二hash值;
将所述第一hash值和所述第二hash值进行比较,如果所述第一hash值和所述第二hash值相同,则判定所述监听数据与所述初始同步数据匹配,否则判定所述监听数据与所述初始同步数据不匹配。
本发明可实现对数据更新的快速识别,进而有效避免相同数据重复传输、造成不必要的数据同步的作用,同时可在判定监听数据与所述初始同步数据不匹配,即数据发生变化时,根据监听数据和初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,进而便于目标数据库根据所述更新数据对所述初始同步数据进行更新处理。在此过程中,由于本发明在判断所述监听数据与所述初始同步数据是否匹配,即判断数据待同步数据是否发生变化的过程中,通过对所述监听数据和所述初始同步数据进行哈希变换,可将所述监听数据和所述初始同步数据转换为固定长度的哈希值,以便于对对所述监听数据和所述初始同步数据进行匹配度比较,进而可在监听数据相对初始同步数据未发生变化时,快速结束同步流程,由此利于提升数据同步的整体效率及数据同步的实时性。
在一个可能的设计中,对指定数据进行哈希变换,包括:
通过预设的深度卷积神经网络对所述指定数据进行卷积操作,得到所述指定数据的第一特征向量;其中,所述指定数据为所述监听数据或所述初始同步数据,所述第一特征向量包括所述指定数据在多个特征维度上的特征值;
根据所述指定数据在多个特征维度上的特征值,得到所述指定数据的第二特征向量;其中,所述第二特征向量包括第一特征向量中特征值大于目标阈值的特征维度以及该特征维度上的特征值;
对所述第二特征向量进行降维处理,得到所述指定数据的目标hash值;其中,所述目标hash值为与所述监听数据对应的第一hash值或与所述初始同步数据对应的第二hash值。
在一个可能的设计中,根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,包括:
对所述监听数据进行数据切割处理,得到多个监听数据块;
获取每个监听数据块在所述监听数据中的偏移量;
将所述初始同步数据进行数据切割处理,得到多个初始同步数据块;
根据每个监听数据块的偏移量,依次将每个监听数据块与多个初始同步数据块进行滚动匹配处理,得到所述监听数据块相对所述初始同步数据块的差异数据块,所有差异数据块构成所述监听数据相对所述初始同步数据发生变动的更新数据。
在一个可能的设计中,任一监听数据块与所有初始同步数据块不匹配时,该监听数据块构成第一差异数据块,任一初始同步数据块与所有监听数据块不匹配时,该初始同步数据块构成第二差异数据块,所有第一差异数据块和所有第二差异数据块组合构成所述监听数据块相对所述初始同步数据块的差异数据块。
在一个可能的设计中,根据当前更新数据对所述初始同步数据进行更新处理,包括:
获取当前更新数据中数据块的类型;
当任一数据块为第一差异数据块时,表明该数据块为新增数据,根据该数据块在所述监听数据中的偏移量,将该数据块插入所述初始同步数据的相应位置;
当任一数据块为第二差异数据块时,表明该数据块为删减数据,在所述初始同步数据中的相应位置删除该数据块。
在一个可能的设计中,得到所述监听数据块相对所述初始同步数据块的差异数据块后,所述方法还包括:
计算每个差异数据块的校验值,并将其记为第一校验值;
对应地,所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理,包括:
通过所述目标数据库重新计算所述更新数据的校验值,并将其记为第二校验值;
通过所述目标数据库判断所述第一校验值和所述第二校验值是否相同,如是,则判定当前更新数据完整,根据当前更新数据对所述初始同步数据进行更新处理;如否,则判定当前更新数据异常,反馈同步异常信息及重新同步指令至所述隔离模块。
在一个可能的设计中,所述源数据库和所述目标数据库在同一时间最多只有一个与所述隔离模块存在数据连接关系;得到与所述初始同步数据对应的监听数据后,所述方法还包括:
切断所述源数据库与所述目标数据库之间的通用协议连接;
将从所述源数据库中监听得到的所述监听数据转换为静态数据;
对静态数据进行安全审查,如安全审查通过,则判断所述监听数据与所述初始同步数据是否匹配。
第二方面,本发明提供了一种内外网数据同步系统,用于实现如上述任一项所述的内外网数据同步方法;所述内外网数据同步系统包括:
同步请求接收模块,用于接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;
数据监听模块,与所述同步请求接收模块通信连接,用于对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据;
数据处理模块,与所述数据监听模块通信连接,用于判断所述监听数据与所述初始同步数据是否匹配,如否,则根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据;
数据更新模块,与所述数据处理模块通信连接,用于将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理。
第三方面,本发明提供了一种电子设备,包括:
存储器,用于存储计算机程序指令;以及,
处理器,用于执行所述计算机程序指令从而完成如上述任一项所述的内外网数据同步方法的操作。
第四方面,本发明提供了一种计算机可读存储介质,用于存储计算机可读取的计算机程序指令,所述计算机程序指令被配置为运行时执行如上述任一项所述的内外网数据同步方法的操作。
附图说明
图1是实施例中一种内外网数据同步方法的流程图;
图2是实施例中一种内外网数据同步系统的模块框图。
具体实施方式
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将结合附图和实施例或现有技术的描述对本发明作简单地介绍,显而易见地,下面关于附图结构的描述仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在此需要说明的是,对于这些实施例方式的说明用于帮助理解本发明,但并不构成对本发明的限定。
实施例1:
本实施例公开了一种内外网数据同步方法,可以但不限于由具有一定计算资源的计算机设备或虚拟机执行,例如由个人计算机、智能手机、个人数字助理或可穿戴设备等电子设备执行,或者由虚拟机执行。
如图1所示,一种内外网数据同步方法,由隔离模块执行,所述隔离模块分别与内网对应的内网数据库和外网对应的外网数据库连接;所述方法可以但不限于包括有如下步骤:
S1.接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;应当理解的是,本实施例用于内外网数据同步,目标数据库即为所述内网数据库和所述外网数据库中被进行数据同步的数据库,当源数据库为内网数据库时,目标数据库对应为外网数据库,当源数据库为外网数据库时,目标数据库对应为内网数据库。
S2.对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据。
应当理解的是,本实施例,在进行内外网数据同步的过程中,为保证内网数据库中数据的安全性,所述源数据库和所述目标数据库在同一时间最多只有一个与所述隔离模块存在数据连接关系;得到与所述初始同步数据对应的监听数据后,所述方法还包括:
a1.切断所述源数据库与所述目标数据库之间的通用协议连接;
a2.将从所述源数据库中监听得到的所述监听数据转换为静态数据;
a3.对静态数据进行安全审查,如安全审查通过,则判断所述监听数据与所述初始同步数据是否匹配,即进入步骤S3。具体地,进行安全审查时,可以但不仅限于包括网络协议检查和代码扫描等,以便确认静态数据对应的监听数据的安全性。
本实施例中,隔离模块通过切断网络之间的通用协议连接,将从由源数据库获取的监听数据分解或重组为静态数据,再对静态数据进行安全审查,安全审查通过后判断所述监听数据与所述初始同步数据是否匹配。由此设置,可实现隔离模块对内外网数据库的隔离,同时避免数据同步过程中出现数据安全问题。
应当理解的是,隔离模块中有相应的识别和认证机制,用以防止不友好的访问以及病毒、黑客攻击,其还可通过将所有接收到的数据进行分类,以识别有害数据并向管理员发出警示或直接予以剔除。
S3.判断所述监听数据与所述初始同步数据是否匹配,如是,则在指定时长后重新对所述源数据库中的业务数据进行监听,或不动作;如否,则进入下一步。
S4.根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据。
本实施例中,根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,包括:
S401.对所述监听数据进行数据切割处理,得到多个监听数据块;
S402.获取每个监听数据块在所述监听数据中的偏移量;
S403.将所述初始同步数据进行数据切割处理,得到多个初始同步数据块;
S404.根据每个监听数据块的偏移量,依次将每个监听数据块与多个初始同步数据块进行滚动匹配处理,得到所述监听数据块相对所述初始同步数据块的差异数据块,所有差异数据块构成所述监听数据相对所述初始同步数据发生变动的更新数据。
本实施例中,任一监听数据块与所有初始同步数据块不匹配时,该监听数据块构成第一差异数据块,任一初始同步数据块与所有监听数据块不匹配时,该初始同步数据块构成第二差异数据块,所有第一差异数据块和所有第二差异数据块组合构成所述监听数据块相对所述初始同步数据块的差异数据块。
具体地,本实施例中,依次将每个监听数据块与多个初始同步数据块进行滚动匹配处理时,举例多个监听数据块依次为a1、a2、……、an,多个初始同步数据块依次为b1、b2、……、bm,在将监听数据块a1按序与多个初始同步数据块进行匹配时,如监听数据块a1与初始同步数据块b1一致,则监听数据块a1匹配成功,继续将监听数据块a2按序与除初始同步数据块b1外的多个初始同步数据块进行匹配;如监听数据块a1与初始同步数据块b1不一致,则将监听数据块a1按序与除初始同步数据块b1外的多个初始同步数据块进行匹配,同时监听数据块a2按序与多个初始同步数据块进行匹配,直到完成监听数据块a1至监听数据块an与所有初始同步数据块的匹配动作。任一与所有初始同步数据块均不匹配的监听数据块构成第一差异数据块,任一与所有监听数据块均不匹配的初始同步数据块构成第二差异数据块,所有第一差异数据块和所有第二差异数据块组合构成所述监听数据块相对所述初始同步数据块的差异数据块。将每个监听数据块与多个初始同步数据块进行滚动匹配处理的步骤,可实现对监听数据块与初始同步数据快之间的快速匹配处理操作,进而可提升得到更新数据的数据处理效率。
本实施例中,得到所述监听数据块相对所述初始同步数据块的差异数据块后,所述方法还包括:
计算每个差异数据块的校验值,并将其记为第一校验值;需要说明的是,为了保证监听数据块在数据匹配及同步过程中的完整性,可采用一种指定的算法计算出监听数据块的校验值,目标数据库可采用相同的算法重新对更新数据计算一次校验值,如果该校验值和随更新数据附带的校验值一样,就说明该更新数据是完整的。
对应地,所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理,包括:
通过所述目标数据库重新计算所述更新数据的校验值,并将其记为第二校验值;
通过所述目标数据库判断所述第一校验值和所述第二校验值是否相同,如是,则判定当前更新数据完整,根据当前更新数据对所述初始同步数据进行更新处理;如否,则判定当前更新数据异常,反馈同步异常信息及重新同步指令至所述隔离模块。
本实施例中,任一差异数据块的校验值由当前差异数据块中,多个数据对应的多个校验码依次组合构成;当前差异数据块中,任一数据对应的校验码为:
;
式中,为当前数据根据在当前差异数据块中的位置映射到某一维空间中对应的第
i位校验参数。
需要说明的是,任一差异数据块中的每个数据,可根据其在所述差异数据块中的位置,将该数据依次映射到一个n维空间中,该n维空间中每一维度空间由一个校验参数集构成,任一维度空间的校验参数集包括k个校验参数,其中,n和k均为正整数。应当理解的是,n维空间中包括n个校验参数集,隔离模块、内网数据库和外网数据库均存储有改n维空间,由此可便于实现对某一差异数据块的验证操作。本实施例中,当前差异数据块中,任一数据对应的校验码即为该数据映射的某一维空间中的所有校验参数求和得到。由此使得校验值计算过程更为简便快捷。
本实施例中,得到所述监听数据相对所述初始同步数据发生变动的更新数据后,所述方法还包括:
对所述更新数据进行格式转换,以便生成转换后的更新数据;其中,转换后的更新数据采用XML(ExtensibleMarkup Language,可扩展标记语言)格式数据。需要说明的是,XML格式数据广泛应用于异构数据库之间的数据交换,采用XML格式可便于在内网数据库和外网数据库不同时,实现内外网数据库之间的数据同步。
S5.将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理,然后根据预设的同步任务返回步骤S2。本实施例中,通过WebService机制(一种可跨平台访问的通信机制)将更新数据发送至目标数据库,由此可利于保证内外网数据之间的有效同步。
具体地,本实施例中,根据当前更新数据对所述初始同步数据进行更新处理,包括:
获取当前更新数据中数据块的类型;
当任一数据块为第一差异数据块时,表明该数据块为新增数据,根据该数据块在所述监听数据中的偏移量,将该数据块插入所述初始同步数据的相应位置;
当任一数据块为第二差异数据块时,表明该数据块为删减数据,在所述初始同步数据中的相应位置删除该数据块。
本实施例中,判断所述监听数据与所述初始同步数据是否匹配,包括:
S301.对所述监听数据和所述初始同步数据进行哈希变换,得到所述监听数据对应的第一hash(哈希)值和所述初始同步数据对应的第二hash值;具体地,本实施例中,将所述监听数据和所述初始同步数据进行哈希变换时,分别计算整个监听数据以及整个初始同步数据的hash值,由此可减小第一hash值和第二hash值比较时的数据量,利于快速确定所述监听数据与所述初始同步数据是否匹配。
本实施例中,对指定数据进行哈希变换,包括:
S3011.通过预设的深度卷积神经网络对所述指定数据进行卷积操作,得到所述指定数据的第一特征向量;其中,所述指定数据为所述监听数据或所述初始同步数据,所述第一特征向量包括所述指定数据在多个特征维度上的特征值;需要说明的是,预设的深度卷积神经网络为已经训练好的深度神经网络模型,用于提取指定数据的特征向量,其可以但不仅限于采用如ResNet(残差网络)网络等卷积神经网络,在实施过程中,可将指定数据作为预设的深度卷积神经网络,进而可得到指定数据的第一特征向量。
S3012.根据所述指定数据在多个特征维度上的特征值,得到所述指定数据的第二特征向量;其中,所述第二特征向量包括第一特征向量中特征值大于目标阈值的特征维度以及该特征维度上的特征值;
S3013.对所述第二特征向量进行降维处理,得到所述指定数据的目标hash值;其中,所述目标hash值为与所述监听数据对应的第一hash值或与所述初始同步数据对应的第二hash值。
需要说明的是,本实施例中,在获取监听数据及初始同步数据对应hash值的过程中,先获取指定数据的第一特征向量,随后,本实施例通过第一特征向量获取指定数据的第二特征向量,实现对第一特征向量的筛选,由此可最大限度地保存指定数据的数据特征,避免后续得到的hash值不能准确描述获取监听数据及初始同步数据的问题,进而可在保证后续判断监听数据与初始同步数据是否匹配的流程中数据匹配效率的前提下,进一步提升数据匹配的准确率。
S302.将所述第一hash值和所述第二hash值进行比较,如果所述第一hash值和所述第二hash值相同,则判定所述监听数据与所述初始同步数据匹配,否则判定所述监听数据与所述初始同步数据不匹配。
本实施例可实现对数据更新的快速识别,进而有效避免相同数据重复传输、造成不必要的数据同步的作用,同时可在判定监听数据与所述初始同步数据不匹配,即数据发生变化时,根据监听数据和初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,进而便于目标数据库根据所述更新数据对所述初始同步数据进行更新处理。在此过程中,由于本实施例在判断所述监听数据与所述初始同步数据是否匹配,即判断数据待同步数据是否发生变化的过程中,通过对所述监听数据和所述初始同步数据进行哈希变换,可将所述监听数据和所述初始同步数据转换为固定长度的哈希值,以便于对对所述监听数据和所述初始同步数据进行匹配度比较,进而可在监听数据相对初始同步数据未发生变化时,快速结束同步流程,由此利于提升数据同步的整体效率及数据同步的实时性。
实施例2:
本实施例公开了一种内外网数据同步系统,用于实现实施例1中内外网数据同步方法;如图2所示,所述内外网数据同步系统包括:
同步请求接收模块,用于接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;
数据监听模块,与所述同步请求接收模块通信连接,用于对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据;
数据处理模块,与所述数据监听模块通信连接,用于判断所述监听数据与所述初始同步数据是否匹配,如否,则根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据;
数据更新模块,与所述数据处理模块通信连接,用于将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理。
实施例3:
在实施例1或2的基础上,本实施例公开了一种电子设备,该设备可以是智能手机、平板电脑、笔记本电脑或者台式电脑等。电子设备可能被称为用于终端、便携式终端、台式终端等,电子设备包括:
存储器,用于存储计算机程序指令;以及,
处理器,用于执行所述计算机程序指令从而完成如实施例1中任一所述的内外网数据同步方法的操作。
实施例4:
在实施例1至3任一项实施例的基础上,本实施例公开了一种计算机可读存储介质,用于存储计算机可读取的计算机程序指令,所述计算机程序指令被配置为运行时执行如实施例1所述的内外网数据同步方法的操作。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
最后应说明的是,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种内外网数据同步方法,其特征在于:由隔离模块执行,所述隔离模块分别与内网对应的内网数据库和外网对应的外网数据库连接;所述方法包括:
接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;
对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据;
判断所述监听数据与所述初始同步数据是否匹配,如否,则进入下一步;
根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据;
将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理;
判断所述监听数据与所述初始同步数据是否匹配,包括:
对所述监听数据和所述初始同步数据进行哈希变换,得到所述监听数据对应的第一hash值和所述初始同步数据对应的第二hash值;
将所述第一hash值和所述第二hash值进行比较,如果所述第一hash值和所述第二hash值相同,则判定所述监听数据与所述初始同步数据匹配,否则判定所述监听数据与所述初始同步数据不匹配;
对指定数据进行哈希变换,包括:
通过预设的深度卷积神经网络对所述指定数据进行卷积操作,得到所述指定数据的第一特征向量;其中,所述指定数据为所述监听数据或所述初始同步数据,所述第一特征向量包括所述指定数据在多个特征维度上的特征值;
根据所述指定数据在多个特征维度上的特征值,得到所述指定数据的第二特征向量;其中,所述第二特征向量包括第一特征向量中特征值大于目标阈值的特征维度以及该特征维度上的特征值;
对所述第二特征向量进行降维处理,得到所述指定数据的目标hash值;其中,所述目标hash值为与所述监听数据对应的第一hash值或与所述初始同步数据对应的第二hash值;
根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据,包括:
对所述监听数据进行数据切割处理,得到多个监听数据块;
获取每个监听数据块在所述监听数据中的偏移量;
将所述初始同步数据进行数据切割处理,得到多个初始同步数据块;
根据每个监听数据块的偏移量,依次将每个监听数据块与多个初始同步数据块进行滚动匹配处理,得到所述监听数据块相对所述初始同步数据块的差异数据块,所有差异数据块构成所述监听数据相对所述初始同步数据发生变动的更新数据;
任一差异数据块的校验值由当前差异数据块中,多个数据对应的多个校验码依次组合构成;当前差异数据块中,任一数据对应的校验码为:
式中,di为当前数据根据在当前差异数据块中的位置映射到某一维空间中对应的第i位校验参数,k为当前维空间中校验参数的总数。
2.根据权利要求1所述的一种内外网数据同步方法,其特征在于:任一监听数据块与所有初始同步数据块不匹配时,该监听数据块构成第一差异数据块,任一初始同步数据块与所有监听数据块不匹配时,该初始同步数据块构成第二差异数据块,所有第一差异数据块和所有第二差异数据块组合构成所述监听数据块相对所述初始同步数据块的差异数据块。
3.根据权利要求2所述的一种内外网数据同步方法,其特征在于:根据当前更新数据对所述初始同步数据进行更新处理,包括:
获取当前更新数据中数据块的类型;
当任一数据块为第一差异数据块时,表明该数据块为新增数据,根据该数据块在所述监听数据中的偏移量,将该数据块插入所述初始同步数据的相应位置;
当任一数据块为第二差异数据块时,表明该数据块为删减数据,在所述初始同步数据中的相应位置删除该数据块。
4.根据权利要求1所述的一种内外网数据同步方法,其特征在于:得到所述监听数据块相对所述初始同步数据块的差异数据块后,所述方法还包括:
计算每个差异数据块的校验值,并将其记为第一校验值;
对应地,所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理,包括:
通过所述目标数据库重新计算所述更新数据的校验值,并将其记为第二校验值;
通过所述目标数据库判断所述第一校验值和所述第二校验值是否相同,如是,则判定当前更新数据完整,根据当前更新数据对所述初始同步数据进行更新处理;如否,则判定当前更新数据异常,反馈同步异常信息及重新同步指令至所述隔离模块。
5.根据权利要求1所述的一种内外网数据同步方法,其特征在于:所述源数据库和所述目标数据库在同一时间最多只有一个与所述隔离模块存在数据连接关系;得到与所述初始同步数据对应的监听数据后,所述方法还包括:
切断所述源数据库与所述目标数据库之间的通用协议连接;
将从所述源数据库中监听得到的所述监听数据转换为静态数据;
对静态数据进行安全审查,如安全审查通过,则判断所述监听数据与所述初始同步数据是否匹配。
6.一种内外网数据同步系统,其特征在于:用于实现如权利要求1至5中任一项所述的内外网数据同步方法;所述内外网数据同步系统包括:
同步请求接收模块,用于接收目标数据库发送的数据同步请求,并根据所述数据同步请求从源数据库中获取初始同步数据,然后将所述初始同步数据发送至所述目标数据库中;其中,所述源数据库为所述内网数据库和所述外网数据库中待进行数据同步的数据库,所述目标数据库为所述内网数据库和所述外网数据库中除源数据库外的数据库;
数据监听模块,与所述同步请求接收模块通信连接,用于对所述源数据库中位于所述初始同步数据所在路径下的业务数据进行监听,得到与所述初始同步数据对应的监听数据;
数据处理模块,与所述数据监听模块通信连接,用于判断所述监听数据与所述初始同步数据是否匹配,如否,则根据所述监听数据和所述初始同步数据,得到所述监听数据相对所述初始同步数据发生变动的更新数据;
数据更新模块,与所述数据处理模块通信连接,用于将所述更新数据发送至所述目标数据库,以便所述目标数据库根据所述更新数据对所述初始同步数据进行更新处理。
7.一种电子设备,其特征在于:包括:
存储器,用于存储计算机程序指令;以及,
处理器,用于执行所述计算机程序指令从而完成如权利要求1至5中任一项所述的内外网数据同步方法的操作。
8.一种计算机可读存储介质,用于存储计算机可读取的计算机程序指令,其特征在于:所述计算机程序指令被配置为运行时执行如权利要求1至5中任一项所述的内外网数据同步方法的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310193278.4A CN115905414B (zh) | 2023-03-03 | 2023-03-03 | 一种内外网数据同步方法、系统、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310193278.4A CN115905414B (zh) | 2023-03-03 | 2023-03-03 | 一种内外网数据同步方法、系统、电子设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115905414A CN115905414A (zh) | 2023-04-04 |
CN115905414B true CN115905414B (zh) | 2023-05-16 |
Family
ID=85733790
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310193278.4A Active CN115905414B (zh) | 2023-03-03 | 2023-03-03 | 一种内外网数据同步方法、系统、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115905414B (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325037A (zh) * | 2018-08-17 | 2019-02-12 | 中国平安人寿保险股份有限公司 | 一种针对海量数据的数据同步方法、存储介质和服务器 |
CN112822180B (zh) * | 2020-12-30 | 2022-07-29 | 广东电网有限责任公司 | 内外网跨链通信方法、装置、计算机设备和存储介质 |
CN114006763A (zh) * | 2021-11-01 | 2022-02-01 | 许昌许继软件技术有限公司 | 一种基于快速表的快速检索匹配方法及系统 |
CN114691781A (zh) * | 2022-04-06 | 2022-07-01 | 曙光信息产业(北京)有限公司 | 一种数据同步方法、系统、装置、设备及介质 |
CN115460225A (zh) * | 2022-08-10 | 2022-12-09 | 国家电网有限公司客户服务中心 | 内外网数据同步方法及相关设备 |
-
2023
- 2023-03-03 CN CN202310193278.4A patent/CN115905414B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN115905414A (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110855676B (zh) | 网络攻击的处理方法、装置及存储介质 | |
CN112003870A (zh) | 一种基于深度学习的网络加密流量识别方法及装置 | |
CN111078479A (zh) | 一种内存检测模型训练的方法、内存检测的方法及装置 | |
CN108306864B (zh) | 网络数据检测方法、装置、计算机设备和存储介质 | |
CN106909811B (zh) | 用户标识处理的方法和装置 | |
US20190312908A1 (en) | Cyber chaff using spatial voting | |
US11321287B2 (en) | Data noise reduction method, device, computer apparatus and storage medium | |
CN110995273B (zh) | 电力数据库的数据压缩方法、装置、设备及介质 | |
CN110909168B (zh) | 知识图谱的更新方法和装置、存储介质及电子装置 | |
CN110912908A (zh) | 网络协议异常检测方法、装置、计算机设备和存储介质 | |
WO2021212874A1 (zh) | 掌纹的误匹配点剔除方法、装置、设备及存储介质 | |
CN111783830A (zh) | 基于oct的视网膜分类方法、装置、计算机设备及存储介质 | |
CN111125748A (zh) | 越权查询的判断方法、装置、计算机设备和存储介质 | |
CN114153696A (zh) | 云原生应用健康检测方法、装置、计算机设备及存储介质 | |
CN116825259B (zh) | 一种基于物联网的医疗数据管理方法 | |
CN115905414B (zh) | 一种内外网数据同步方法、系统、电子设备及介质 | |
CN110889467A (zh) | 一种公司名称匹配方法、装置、终端设备及存储介质 | |
CN109446052B (zh) | 一种应用程序的校验方法及设备 | |
CN113760367B (zh) | 一种数据处理方法、装置、电子设备以及存储介质 | |
CN115473666A (zh) | 一种智能物联网数据传输方法及系统 | |
CN115063621A (zh) | 多视图聚类方法、装置、计算机设备及存储介质 | |
CN110751033B (zh) | 离线登录方法及相关产品 | |
CN110489568B (zh) | 生成事件图的方法、装置、存储介质和电子设备 | |
CN112711574A (zh) | 数据库安全性检测方法、装置、电子设备及介质 | |
CN110719260B (zh) | 智能网络安全分析方法、装置及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |