CN100385407C - 网络信息系统异地数据镜像方法 - Google Patents

网络信息系统异地数据镜像方法 Download PDF

Info

Publication number
CN100385407C
CN100385407C CNB2006100204606A CN200610020460A CN100385407C CN 100385407 C CN100385407 C CN 100385407C CN B2006100204606 A CNB2006100204606 A CN B2006100204606A CN 200610020460 A CN200610020460 A CN 200610020460A CN 100385407 C CN100385407 C CN 100385407C
Authority
CN
China
Prior art keywords
data
mirror image
playback
image object
digest value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB2006100204606A
Other languages
English (en)
Other versions
CN1831782A (zh
Inventor
李涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu century summit Technology Co., Ltd.
Original Assignee
Sichuan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan University filed Critical Sichuan University
Priority to CNB2006100204606A priority Critical patent/CN100385407C/zh
Publication of CN1831782A publication Critical patent/CN1831782A/zh
Application granted granted Critical
Publication of CN100385407C publication Critical patent/CN100385407C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提出了一种网络信息系统异地数据镜像方法,属于信息安全领域。本发明通过数据状态同步、本地数据监控、海量数据高速缓存、异地重放、差错控制等技术,在不影响本地数据中心服务器效率的情况下,实现了本地数据中心数据在异地的实时重构,解决了本地数据带宽与备份线路带宽之间的突出矛盾,大大降低了对备份网络带宽的要求和对网络其他资源的占用,提高了系统的效率。同时,即使中途网络出现故障、或带宽不稳定,系统也可容忍,本地数据中心数据的任何细微改变都会被正确及时送达远程备份中心,确保了本地数据中心和远端备份中心数据的一致性。本发明支持专线/非专线灾难备份策略,支持Internet,极大地降低了容灾抗毁系统的成本,具有广阔的应用前景。

Description

网络信息系统异地数据镜像方法
技术领域
本发明提出了一种网络信息系统异地数据镜像方法,属于信息安全领域。
背景技术
传统的异地数据镜像技术依赖专用高速线路,普遍需要架设光纤专线,且对远程备份中心系统配置要求很高,几乎就是要在异地建立一套与本地系统完全一模一样的信息处理中心,需要专人值守,整个系统的建设费用和维护费用非常昂贵。
中国专利公开号为CN2653593的申请案可实现数据的异地备份,但需要光纤网络和光纤交换设备,系统的建设费用和维护费用昂贵,且备份距离受到很大限制。中国专利公开号为CN1445672的申请案可以实现异构网络的数据镜像,但当本地数据中心产生海量数据变化时,将会导致严重的性能问题。
针对上述缺陷,本发明提出了一种网络信息系统异地数据镜像方法,支持本地数据中心的海量数据变化,对网络的带宽以及网络的稳定性要求低,支持专线/非专线灾难备份策略,支持-Internet,极大地降低了容灾抗毁系统的成本,具有广阔的应用前景。
发明内容
本发明的核心包括数据状态同步、本地数据监控、海量数据高速缓存、异地重放、差错控制等5个部分。其中数据状态同步是指在系统最初开始运行前或者系统运行过程中本地数据与远程数据出现状态不一致时,使本地数据与远程数据状态一致。本地数据监控由数据监视模块DMON实现,对本地数据中心中需要镜像的数据进行精确的监控,全面记录本地数据中心数据变化的详细过程,确保在数据镜像时滴水不漏。DMON把监视到的数据变化情况送入海量数据高速缓存器Q。海量数据高速缓存器Q中需要镜像的数据通过异地重放完成本地数据在异地的重构。在数据的重放过程中采用差错控制技术确保数据的一致性。异地重放、差错控制由本地发送模块LSM以及远程重放模块RRM协作实现。
在详细阐述本发明前,先做如下定义:
(1)需镜像的对象集合:设需镜像的对象集合T={数据文件,磁盘分区,磁盘,或者其他可访问的网络存储设备},表示所有需要镜像的对象。
(2)需镜像的对象列表:定义需镜像的对象列表L={t|∈T},表示服务器上需要镜像的对象。
(3)重放记录集合:定义重放记录集合R={<target,offset,data,h>|target∈T,offset∈N,data∈{0,1}l,l∈N,h=<ht,hd>},其中target为发生数据变化的镜像对象,offset为变化数据在镜像对象的位置,data为变化数据的具体内容,h为摘要值,N为自然数集,ht为镜像对象数据状态的摘要值,hd为变化数据的摘要值。
(4)海量数据高速缓存器:定义海量数据高速缓存器Q=<r1,r2,...,rn>(rt∈R,t=1,2,...,n),海量数据高速缓存器用于缓存本地数据中心监控到的数据变化,供所有需镜像的服务器共享使用,以先进先出队列方式组织,分为两级缓存,分别位于主存和外存中。海量数据高速缓存器Q的大小可以灵活设定,Q越大,能够缓存的数据变化越多,用本发明设计的系统就能更好地容忍Internet的带宽限制、速度变化、网络中断等不利因素。实际使用中,海量数据高速缓存器Q的大小可以根据被监控服务器的路数,内存大小,镜像对象容量,系统数据的变化频率,网络的连接速度,容许网络中断的最大时间等来综合确定。
(5)摘要值的计算函数:设data为t时刻的数据变化,hdt表示t时刻变化数据的摘要值,htt表示t时刻镜像对象数据状态的摘要值,计算方法为:
hdt=H(data)       (1)
ht t = H 0 , iff t = t 0 H ( ht t - 1 + hd t ) , otherwise - - - ( 2 )
其中,t0为最初开始镜像的时刻,H0是t0时刻镜像对象整个数据的摘要值。H为单向散列函数,可以是MD5、SHA-1等,+表示字符串的连接运算。从公式(2)可以看出,除t0时刻需要对镜像对象整个数据计算摘要值以外,其他时刻都是在前一时刻的基础上计算摘要值,因此在镜像过程中计算摘要值的资源开销很小。在开始镜像前,需要对本地镜像对象和远程对应对象做数据状态同步,因此开始备份时本地镜像对象的数据状态摘要值与远程镜像对象的数据状态摘要值相同。
附图说明
图1是本发明的体系架构。
图2是数据状态同步的步骤。
图3是本地数据监控的步骤。
图4是海量数据高速缓存的步骤。
图5是异地重放的步骤。
图6是差错控制的步骤。
具体实施方式
本发明在具体实施时,首先进行数据状态同步的步骤,使本地数据和远程数据状态一致;其次进行本地数据监控的步骤,监控本地的数据变化;然后进行海量数据高速缓存的步骤,把监视到的数据变化存入海量数据高速缓存器;接着通过异地重放的步骤,把海量数据高速缓存器里的数据变化发送到远程实现数据异地重构;最后在异地重放时,通过差错控制的步骤保证数据的正确性。
以下结合附图详细说明本发明的具体方法。
图1是本发明的体系架构。
本发明在实现上分为本地和远程两个部分,本地部分包括若干个需要数据镜像的本地服务器,远程部分包括一个或者多个远程服务器。本地的每一台服务器上都有一个数据监视模块DMON、镜像对象列表L。海量数据高速缓存器Q既可以位于本地服务器,也可以位于一台单独的机器,并可以为多个本地服务器共享。本地发送模块LSM与海量数据高速缓存器Q同处一台机器。远程重放模块RRM位于远程服务器。一个远程服务器可以为多个本地服务器共享。
数据监视模块DMON监听操作系统的写操作,如果该写操作的镜像对象T在镜像对象列表L中(需远程镜像),则产生一个重放记录R,送入海量数据高速缓存器Q的尾部。本地发送模块LSM不断地从海量数据高速缓存器Q的头部取出重放记录R,发送到远程服务器,远程重放模块RRM根据收到的重放记录R对相应的镜像对象在同样的位置重写一遍,从而完成镜像对象的数据异地镜像工作。
图2是数据状态同步的步骤。
本地数据中心与远程备份中心数据状态同步的具体步骤如下:
(1)对镜像对象进行块划分:将本地镜像对象与远程对应对象划分为n个大小为S的块(最一块可小于S)。
(2)对每一块进行数据同步:从第1块开始,对每一块进行如下步骤:
①计算本地镜像对象该块的摘要值:设该块的内容为data,用公式(1)计算该块的摘要值h。
②计算远程对应对象对应块的摘要值:设该块的内容为data’,用公式(1)计算该块的摘要值h’。
③根据摘要值更新远程对应块的内容:如果h和h’不等,则用本地数据块的内容更新远程对应块的数据。
(3)清空海量数据高速缓存器:清空海量数据高速缓存器Q的所有记录,并释放其所占空间。
图3是本地数据监控的步骤。
本地数据监控由数据监视模块DMON实现,具体步骤如下:
(1)监视操作系统对镜像对象进行写操作:当数据监视模块监听到操作系统对某个对象T进行了操作时,如果该操作是写操作并且被操作的对象T是在镜像对象列表L中,则转(2),否则转(1)。
(2)把变化数据发送给海量数据高速缓存器:把步骤(1)监视到的镜像对象、写操作在镜像对象的偏移位置、要写入的具体内容等信息发送给海量数据高速缓存器Q,重新回到(1)。
图4是海量数据高速缓存的步骤。
海量数据高速缓存器Q收到数据监视模块DMON送来的变化数据时,对其进行处理,产生重放记录,添加到Q的尾部,具体步骤如下:
(1)计算变化数据摘要值:根据公式(1)计算变化数据的摘要值hdt
(2)计算镜像对象数据状态摘要值:根据公式(2)计算镜像对象数据状态的摘要值htt
(3)封装产生重放记录:把镜像对象、写操作在镜像对象的偏移位置、要写入的具体内容、摘要值hdt、htt封装成一个重放记录R。
(4)把重放记录存入海量数据高速缓存器:将重放记录R添加到海量数据高速缓存器Q的尾部。
图5是异地重放的步骤。
所谓异地重放就是将海量数据高速缓存器Q中的重放记录R按同样顺序在远程服务器对应对象的相应位置重新再写一遍,从而完成本地数据变化在异地同步重构的工作。异地重放通过本地发送模块LSM和远程重放模块RRM协作完成。
具体步骤如下:
(1)从海量数据高速缓存器取出重放记录:如果海量数据高速缓存器Q中还有未处理的重放记录,则从海量数据高速缓存器Q的头部取出一条重放记录R,否则转(1)。
(2)把重放记录发送到远程服务器:通过网络将重放记录R发送到远程服务器。
(3)在远程服务器上进行远程重放:远程服务器根据重放记录R的内容对相应的对象,在对应的偏移位置,写入相应的数据,从而实现数据在远程服务器上的异地重构。在远程重放过程中,还要进行差错控制,以确保数据的一致性。
(4)根据远程重放结果进行处理:如果远程服务器要求重传,则将重放记录R重新发送到远程端。如果远程服务器要求数据状态重新同步,则对本地服务器上的镜像对象和远程服务器对应的对象进行数据状态同步。远程重放结果进行处理完成后转到(1),处理下一个重放记录。
图6是差错控制的步骤。
异地重放时,需要进行严格的差错控制,其方法为通过比较变化数据摘要值和镜像对象数据状态摘要值来实现,具体步骤如下:
(1)通过变化数据摘要值控制重放记录重传:具体方法为比较变化数据的摘要值,具体步骤如下:
①重新计算变化数据的摘要值:对LSM发送过来的重放记录R,根据公式(1)重新计算变化数据的摘要值hdt’;
②提取原来的变化数据摘要值:从重放记录R中提取原来的摘要值hdt
③比较变化数据摘要值:如果hdt’=hdt,则变化数据传送无误,否则请求重新发送重放记录R。
(2)通过镜像对象数据状态摘要值控制数据状态重新同步:具体方法为比较镜像对象的数据状态的摘要值,具体步骤如下:
①计算远程服务器对应对象的数据状态摘要值:根据公式(2)计算远程服务器对应对象的数据状态摘要值htt’;
②提取本地服务器镜像对象的数据状态摘要值:从重放记录R中提取本地服务器镜像对象的数据状态摘要值hdt
③比较镜像对象数据状态摘要值:如果htt’=htt,则本地服务器镜像对象的数据状态与远程服务器对应对象的数据状态一致,否则要求对本地服务器镜像对象和远程服务器对应对象进行数据状态同步工作。

Claims (4)

1.一种网络信息系统异地数据镜像方法,其特征在于包括以下步骤:数据状态同步的步骤;
本地数据监控的步骤;海量数据高速缓存的步骤;异地重放的步骤;差错控制的步骤;
其特征还在于:具体实施时,首先进行数据状态同步的步骤,其次进行本地数据监控的步骤,然后进行海量数据高速缓存的步骤,接着进行异地重放的步骤,最后在异地重放时进行差错控制的步骤;
其中
(1)数据状态同步的步骤包括以下步骤:
①对镜像对象进行块划分的步骤;
②对每一块进行数据同步的步骤;
③清空海量数据高速缓存器的步骤;
(2)本地数据监控的步骤包括以下步骤:
①监视操作系统对镜像对象进行写操作的步骤;
②把变化数据发送给海量数据高速缓存器的步骤,其中变化数据为“监视操作系统对镜像对象进行写操作的步骤”所获得的写操作信息,包括镜像对象、偏移位置、具体的写入数据;
(3)海量数据高速缓存的步骤包括以下步骤:
①计算变化数据摘要值的步骤;
②计算镜像对象数据状态摘要值的步骤;
③封装产生重放记录的步骤,其中重放记录包括镜像对象、偏移位置、具体的写入数据、变化数据摘要值、镜像对象数据状态摘要值;
④把重放记录存入海量数据高速缓存器的步骤;
(4)异地重放的步骤包括以下步骤:
①从海量数据高速缓存器取出重放记录的步骤;
②把重放记录发送到远程服务器的步骤;
③在远程服务器上进行远程重放的步骤;
④根据远程重放结果进行处理的步骤;
(5)差错控制的步骤包括以下步骤:
①通过变化数据摘要值控制重放记录重传的步骤;
②通过镜像对象数据状态摘要值控制数据状态重新同步的步骤。
2.权利要求1所述的一种网络信息系统异地数据镜像方法,其特征在于数据状态同步的步骤中,对每一块进行数据同步的步骤包括以下步骤:
(1)计算本地镜像对象该块摘要值的步骤;
(2)计算远程对应对象对应块摘要值的步骤;
(3)根据摘要值更新远程对应块内容的步骤。
3.权利要求1所述的一种网络信息系统异地数据镜像方法,其特征在于差错控制的步骤中,通过变化数据摘要值控制重放记录重传的步骤包括以下步骤:
(1)重新计算变化数据的摘要值的步骤;
(2)提取原来的变化数据摘要值的步骤;
(3)比较变化数据摘要值的步骤。
4.权利要求1所述的一种网络信息系统异地数据镜像方法,其特征在于差错控制的步骤中,通过镜像对象数据状态摘要值控制数据状态重新同步的步骤包括以下步骤:
(1)计算远程服务器对应对象的数据状态摘要值的步骤;
(2)提取本地服务器镜像对象的数据状态摘要值的步骤;
(3)比较镜像对象数据状态摘要值的步骤。
CNB2006100204606A 2006-03-10 2006-03-10 网络信息系统异地数据镜像方法 Expired - Fee Related CN100385407C (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CNB2006100204606A CN100385407C (zh) 2006-03-10 2006-03-10 网络信息系统异地数据镜像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNB2006100204606A CN100385407C (zh) 2006-03-10 2006-03-10 网络信息系统异地数据镜像方法

Publications (2)

Publication Number Publication Date
CN1831782A CN1831782A (zh) 2006-09-13
CN100385407C true CN100385407C (zh) 2008-04-30

Family

ID=36994094

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2006100204606A Expired - Fee Related CN100385407C (zh) 2006-03-10 2006-03-10 网络信息系统异地数据镜像方法

Country Status (1)

Country Link
CN (1) CN100385407C (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101154191B (zh) * 2006-09-28 2010-05-19 英业达股份有限公司 快取数据的处理方法
US8149133B2 (en) * 2006-10-20 2012-04-03 Hydril Usa Manufacturing Llc MUX BOP database mirroring
CN101634968B (zh) * 2008-01-17 2011-12-14 四川格瑞特科技有限公司 一种用于备份系统的海量数据高速缓存器的构造方法
CN101997902B (zh) * 2009-08-28 2015-07-22 云端容灾有限公司 基于驿站分段传输的远程在线备份系统和方法
CN102012793B (zh) * 2010-11-12 2013-01-23 浪潮(北京)电子信息产业有限公司 镜像实现方法和装置
CN102073560A (zh) * 2011-01-17 2011-05-25 北京深思洛克软件技术股份有限公司 一种数据备份方法和装置
CN107291575B (zh) * 2016-03-31 2020-10-16 阿里巴巴集团控股有限公司 一种数据中心故障时的处理方法和设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1234074C (zh) * 2003-06-09 2005-12-28 四川大学 基于Internet的文件镜像方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1234074C (zh) * 2003-06-09 2005-12-28 四川大学 基于Internet的文件镜像方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
网络信息系统远程备份的设计与实现. 贾云洁,欧阳旦,王晋东,傅永刚.信息工程大学学报,第7卷第1期. 2006
网络信息系统远程备份的设计与实现. 贾云洁,欧阳旦,王晋东,傅永刚.信息工程大学学报,第7卷第1期. 2006 *

Also Published As

Publication number Publication date
CN1831782A (zh) 2006-09-13

Similar Documents

Publication Publication Date Title
US11500903B2 (en) Generic multi-source heterogeneous large-scale data synchronization client-server method
CN100385407C (zh) 网络信息系统异地数据镜像方法
CN110209726B (zh) 分布式数据库集群系统、数据同步方法及存储介质
CN102098342B (zh) 一种基于事务级的数据同步方法、装置及系统
CN101937435B (zh) 面向电力系统的分布式实时数据库在线同步方法
CN102064962B (zh) 基于命名管道通信的列车自动监控系统输入输出组件的实现方法
CN109508295B (zh) 区块链共识算法测试方法、装置、计算装置和存储介质
CN111339192A (zh) 一种分布式边缘计算数据存储系统
CN102289469B (zh) 一种支持通用数据库基于物理隔离设备同步数据的方法
CN103051681A (zh) 一种面向分布式文件系统的协作式日志系统
CN106452854B (zh) 一种基于多连接主备冗余的地铁综合监控系统同步通讯方法
CN108228397A (zh) 一种集群间跨机房同步的方法和装置
CN103577245A (zh) 一种轻量级虚拟机迁移方法
CN106790713A (zh) 云计算环境下的跨数据中心虚拟机迁移方法
CN114374701B (zh) 一种多级联动人工智能平台样本模型透明共享装置
CN104954101A (zh) 基于同步ack的多终端数据同步方法
CN104376088A (zh) 一种云数据库的分布式同步方法及数据库系统
CN106383861A (zh) 一种用于数据库的数据同步方法及装置
CN110505307B (zh) 一种网间交通流数据的交换方法及系统
CN107422980B (zh) 物联网数据文件存储系统及其数据文件存储方法
CN103502970A (zh) 一种键值对的操作方法及装置
CN106682141B (zh) 一种基于业务操作日志的数据同步方法
CN110445874A (zh) 一种会话处理方法、装置、设备和存储介质
WO2023019712A1 (zh) 基于Zlib压缩算法的云计算资源管理器通信延迟优化方法
Song et al. A novel FlexE-based slicing business hosting equipment empowering Energy Internet

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: SICHUAN GREAT TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: SICHUAN UNIVERSITY

Effective date: 20100513

COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 610065 NO.24, SOUTH 1ST SECTION, 1ST RING ROAD, CHENGDU CITY, SICHUAN PROVINCE TO: 610041 2/F, COMPLEX BUILDING (FACING THE STREET), CHENGDU KEHUA MIDDLE ROAD PRIMARY SCHOOL, NO.2, CHANGSHOU ROAD, WUHOU DISTRICT, CHENGDU CITY

TR01 Transfer of patent right

Effective date of registration: 20100513

Address after: 610041, Wuhou District, Changshou Road, Chengdu No. 2 Chengdu KELONG Road Primary School Street building two floor

Patentee after: Sichuan Gerite Technology Co., Ltd.

Address before: 610065 Sichuan, Chengdu, South Ring Road, No. 1, No. 24

Patentee before: Sichuan University

ASS Succession or assignment of patent right

Owner name: CHENGDU GLOBAL CAPSHEAF TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: SICHUAN GREAT TECHNOLOGY CO., LTD.

Effective date: 20130402

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20130402

Address after: 610000 C-411 Asia Pacific Plaza, KELONG North Road, Sichuan, Chengdu

Patentee after: Chengdu century summit Technology Co., Ltd.

Address before: 610000, Sichuan, Wuhou District, Changshou Road, Chengdu No. 2 Chengdu KELONG Road Primary School Street building two floor

Patentee before: Sichuan Gerite Technology Co., Ltd.

DD01 Delivery of document by public notice

Addressee: Wang Zhengtao

Document name: Notification of Passing Examination on Formalities

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20080430

Termination date: 20180310