CN106155835A - 一种基于同步复制技术的容灾方法 - Google Patents
一种基于同步复制技术的容灾方法 Download PDFInfo
- Publication number
- CN106155835A CN106155835A CN201510159100.3A CN201510159100A CN106155835A CN 106155835 A CN106155835 A CN 106155835A CN 201510159100 A CN201510159100 A CN 201510159100A CN 106155835 A CN106155835 A CN 106155835A
- Authority
- CN
- China
- Prior art keywords
- data
- disk array
- data source
- daily record
- backup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明一种基于同步复制技术的容灾方法涉及计算机数据处理领域,为了实现同步复制的容灾功能,通过对数据的处理保证了生产中心磁盘阵列和灾备中心磁盘阵列上数据的完全同步,从而是提高了数据的安全性,更有效的保护了用户的数据。
Description
技术领域
本发明涉及一种基于同步复制的容灾方法,属于计算机数据安全处理领域。
背景技术
近几年,随着信息技术日新月异的发展,各企业在信息化应用和要求方面也在逐步提高,信息覆盖面也越来越大,而信息在人们的生活工作中也显得更加的重要,故此,信息的安全问题也成为了当今计算机数据安全领域的一个重点。在现今社会中容灾备份已经解决了IT行业的信息安全问题,并且得到了得到了很好的普及。
容灾系统是指在相隔较远的异地,建立两套或多套功能相同的IT系统,互相之间可以进行健康状态监视和功能切换,当一处系统因意外(如火灾、地震等)停止工作时,整个应用系统可以切换到另一处,使得该系统功能可以继续正常工作。容灾技术是系统的高可用性技术的一个组成部分,容灾系统更加强调处理外界环境对系统的影响,特别是灾难性事件对整个IT节点的影响,提供节点级别的系统恢复功能。
从其对系统的保护程度来分,容灾系统分为:数据容灾和应用容灾。对磁盘级复制技术的原理和类型进行讨论。
磁盘阵列之间数据复制
磁盘级数据同步方式都分为两种:同步复制方式和异步复制方式。同步方式保证了生产中心磁盘阵列和灾备中心磁盘阵列上数据的完全同步,异步方式需要和同步方式结合使用才能够发挥其特点。
1、同步复制方式
同步复制技术的实现流程描述如下:(1)服务器应用将I/O数据写入生产磁盘阵列的数据缓存;(2)生产磁盘阵列同时将写I/O发送到备份磁盘阵列;(3)备份磁盘阵列完成I/O数据到缓存的写操作后,发送“写完成”给生产阵列;(4)生产磁盘阵列将“写完成”发送给服务器应用。同步复制技术是在生产磁盘阵列和备份磁盘阵列同时完成写操作后,应用的写I/O才完成,这样保证了备份磁盘阵列和生产磁盘阵列上数据的一致性和完整性。同步复制技术使用专有协议,对于通信链路和带宽要求高,因此通常采用光纤通道协议进行数据的传输。
2、异步复制方式
异步复制技术的实现流程描述如下:
服务器应用将I/O数据写入生产磁盘阵列的数据缓存;(2)生产磁盘阵列将“写完成”发送给服务器应用;(3)生产磁盘阵列将未发送的写I/O发送到备份磁盘阵列;(4)备份磁盘阵列完成I/O数据到缓存的写操作后,发送“写完成”给生产磁盘阵列阵列。目前业界有另外一种成熟的异步复制技术Hitachi Universal Replicator,专门用在HDS高端存储之上,在国内金融行业有非常成功的应用。
这种异步复制技术的实现流程描述如下:(1)服务器应用将I/O数据写入生产磁盘阵列的数据缓存;(2)生产磁盘阵列将“写完成”返回给服务器应用;(3)备份磁盘阵列主动到生产磁盘阵列读取未发送的生产数据,称为“拉数据”方式,写操作完成后发送“写完成”给生产磁盘阵列。与传统的异步方式相比,这种“拉数据”的方式带来的优势是:(1)不占用生产磁盘阵列资源,对生产系统的影响非常小(2)对数据复制网络带宽要求低,节省网络投资(3)日志数据缓存空间大,能够承受复制网络的长时间中断
异步复制技术和同步复制技术的不同在于,异步复制技术不用等待备份磁盘阵列写操作完成,就将“写完成”发送给服务器应用,因此生产磁盘阵列和备份磁盘阵列的数据会有部分差距,当灾难发生时将丢失部分的生产数据。异步复制技术也使用专有协议,或者采用协议转换设备,将光纤通道协议转换为TCP/IP协议实现远距离的传输,但是对于远距离的通信链路和带宽要求同样也很高。
通过磁盘阵列内部的数据复制技术,可以实现生产数据空间在同一个阵列内部创建多个时间点的数据拷贝。通过实时生产数据的时间点拷贝,可以完成如日常数据备份、日常报表生成、数据仓库和数据挖掘等应用的需要,特别在容灾系统建设和演练过程中,非常有必要创建磁盘阵列内部时间点拷贝。目前主流磁盘阵列都能够帮助客户实现这个需求,能够提供一个时间点的拷贝服务功能,从源卷到目标卷快速地复制数据,逻辑拷贝通常可以在数秒时间内完成,然后就释放源卷,进行正常工作,而物理拷贝操作在后台进行。
利用磁带拷贝进行数据备份和恢复是常见的传统灾难备份方式,这些磁带拷贝通常都是按天、按周或按月进行组合保存的。使用这种方式的数据备份通常是存储在盘式磁带或盒式磁带上,并存放在远离生产系统的某个安全地点或容灾地点。随着网络技术的发展,在生产中心和容灾中心之间建立通信网络,通过专业的备份软件定时地实现生产数据到容灾中心的备份,取代原有的传送磁带方式。
复制的流程描述如下:【1】生产中心:备份软件客户端读取生产磁盘阵列的数据。【2】容灾中心:备份服务器将接收到的数据备份至磁带库的存储池。【3】容灾中心:备份服务器读取存储池中的数据恢复到磁盘阵列。【4】容灾中心:备用服务器访问阵列中恢复的数据,验证数据可用性。
通过专业备份软件实现数据备份有明显的缺点,因此只能实现较低级别的系统容灾:1)网络的带宽和性能对这种备份方式影响很大。数据量很大的时候,每次备份的时间会很长,结果就是RPO非常大;特别当网络不稳定引起备份不成功时,数据备份任务需要重新开始,这将带来更大的数据延迟和对带宽需求,此时如果生产系统发生问题,则丢失大量的生产数据;2)数据备份过程和恢复过程都非常复杂。特别是复杂的恢复过程将会极大地影响业务系统恢复的时间。因为数据恢复过程中需要将已经备份的数据恢复到备份磁盘阵列的存储空间,由于日常的数据备份是全备份或者增量备份相结合的使用,因此恢复的过程非常复杂,需要的时间也很长(数据量越大那么需要的恢复时间越长,而且恢复的过程一旦出错,就要重新来做恢复),导致容灾恢复目标RTO也很长。3)如果备份是直接备到磁带库上,那么在进行恢复操作时,必须使用正确的磁带。而存档磁带的数量可能有成百上千盒,要在成堆的磁带中找到正确时间的磁带给管理上带来很大的挑战。
发明内容
本发明的目的是为了实现同步复制的容灾,通过对数据的处理保证了生产中心磁盘阵列和灾备中心磁盘阵列上数据的完全同步,从而是提高了数据的安全性,更有效的保护了用户的数据。
本发明的技术方案是这么实现的,所述的方法包括下述步骤:
首先在数据源端和目标端端分别安装Agent进程,数据源端的Agent进程对日志进行监控,发现改变及时对目标数据库进行更新。
其次当应用系统在数据源端向数据库进行任何操作时时,这些信息都将保存,Agent通过对实时获取的Log日志进行分析,获得本次操作的交易指令和交易数据,然后将这些交易指令和交易数据经过分析筛选出涉及数据变化的指令,并将单条指令合成日志文件。经过编译后,导出加密文件传输到目标端。
最后目标端系统的Agent接收数据库包,经过校验码检查,确认正确的数据库包后,解码恢复成日志文件,进行日志前滚。
附图说明
图1是对目标数据库进行实时更新的容灾技术应用示意图
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,结合一下附图,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施仅仅用以解释本发明,并不用于限定本发明。
本发明的目的是为了实现同步复制的容灾功能,通过对数据的处理保证了生产中心磁盘阵列和灾备中心磁盘阵列上数据的完全同步,从而是提高了数据的安全性,更有效的保护了用户的数据。
所述方法包括下述步骤:
首先在数据源端和目标端端分别安装Agent进程,数据源端的Agent进程对日志进行监控,发现改变及时对目标数据库进行更新。
其次当应用系统在数据源端向数据库进行任何操作时时,这些信息都将保存,Agent通过对实时获取的Log日志进行分析,获得本次操作的交易指令和交易数据,然后将这些交易指令和交易数据经过分析筛选出涉及数据变化的指令,并将单条指令合成日志文件。经过编译后,导出加密文件传输到目标端。
最后目标端系统的Agent接收数据库包,经过校验码检查,确认正确的数据库包后,解码恢复成日志文件,进行日志前滚。
Claims (2)
1.一种种基于同步复制的容灾方法,所述的方法包括下述步骤:
首先在数据源端和目标端端分别安装Agent进程,数据源端的Agent进程对日志进行监控,发现改变及时对目标数据库进行更新。
其次,当应用系统在数据源端向数据库进行任何操作时时,这些信息都将保存,Agent通过对实时获取的Log日志进行分析,获得本次操作的交易指令和交易数据,然后将这些交易指令和交易数据经过分析筛选出涉及数据变化的指令,并将单条指令合成日志文件。经过编译后,导出加密文件传输到目标端。
最后目标端系统的Agent接收数据库包,经过校验码检查,确认正确的数据库包后,解码恢复成日志文件,进行日志前滚。
2.如权利要求1中所述的首先在数据源端和目标端端分别安装Agent进程,数据源端的Agent进程对日志进行监控,以便及时发现改变及时对目标数据库进行更新。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510159100.3A CN106155835A (zh) | 2015-04-07 | 2015-04-07 | 一种基于同步复制技术的容灾方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510159100.3A CN106155835A (zh) | 2015-04-07 | 2015-04-07 | 一种基于同步复制技术的容灾方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106155835A true CN106155835A (zh) | 2016-11-23 |
Family
ID=57338758
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510159100.3A Pending CN106155835A (zh) | 2015-04-07 | 2015-04-07 | 一种基于同步复制技术的容灾方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106155835A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107491364A (zh) * | 2017-08-25 | 2017-12-19 | 长沙曙通信息科技有限公司 | 一种远程数据复制服务质量实现方法 |
CN108038782A (zh) * | 2017-12-08 | 2018-05-15 | 西华大学 | 一种用于证券交易的安全系统及用于证券交易的安全校验方法 |
CN109241180A (zh) * | 2018-08-01 | 2019-01-18 | 福建天泉教育科技有限公司 | 一种基于日志的数据同步的方法及装置 |
CN111176889A (zh) * | 2019-12-11 | 2020-05-19 | 天翼电子商务有限公司 | 自动化备份恢复装置及方法 |
CN112416655A (zh) * | 2020-11-26 | 2021-02-26 | 深圳市中博科创信息技术有限公司 | 一种基于企业服务门户的存储灾备系统及数据复制方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101187888A (zh) * | 2007-12-11 | 2008-05-28 | 浪潮电子信息产业股份有限公司 | 一种异构环境中复制数据库数据的方法 |
US20100030730A1 (en) * | 2008-07-31 | 2010-02-04 | Sybase, Inc. | System, Method, and Computer Program Product for Determining SQL Replication Process |
US20120150829A1 (en) * | 2010-12-10 | 2012-06-14 | International Business Machines Corporation | Asynchronous Deletion of a Range of Messages Processed by a Parallel Database Replication Apply Process |
CN102542007A (zh) * | 2011-12-13 | 2012-07-04 | 中国电子科技集团公司第十五研究所 | 关系型数据库之间的同步方法及系统 |
-
2015
- 2015-04-07 CN CN201510159100.3A patent/CN106155835A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101187888A (zh) * | 2007-12-11 | 2008-05-28 | 浪潮电子信息产业股份有限公司 | 一种异构环境中复制数据库数据的方法 |
US20100030730A1 (en) * | 2008-07-31 | 2010-02-04 | Sybase, Inc. | System, Method, and Computer Program Product for Determining SQL Replication Process |
US20120150829A1 (en) * | 2010-12-10 | 2012-06-14 | International Business Machines Corporation | Asynchronous Deletion of a Range of Messages Processed by a Parallel Database Replication Apply Process |
CN102542007A (zh) * | 2011-12-13 | 2012-07-04 | 中国电子科技集团公司第十五研究所 | 关系型数据库之间的同步方法及系统 |
Non-Patent Citations (1)
Title |
---|
918599898: "HeartsOneDR产品手册", 《百度文库》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107491364A (zh) * | 2017-08-25 | 2017-12-19 | 长沙曙通信息科技有限公司 | 一种远程数据复制服务质量实现方法 |
CN108038782A (zh) * | 2017-12-08 | 2018-05-15 | 西华大学 | 一种用于证券交易的安全系统及用于证券交易的安全校验方法 |
CN108038782B (zh) * | 2017-12-08 | 2021-12-24 | 西华大学 | 一种用于证券交易的安全系统及用于证券交易的安全校验方法 |
CN109241180A (zh) * | 2018-08-01 | 2019-01-18 | 福建天泉教育科技有限公司 | 一种基于日志的数据同步的方法及装置 |
CN111176889A (zh) * | 2019-12-11 | 2020-05-19 | 天翼电子商务有限公司 | 自动化备份恢复装置及方法 |
CN112416655A (zh) * | 2020-11-26 | 2021-02-26 | 深圳市中博科创信息技术有限公司 | 一种基于企业服务门户的存储灾备系统及数据复制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11734306B2 (en) | Data replication method and storage system | |
JP5089153B2 (ja) | 異なるコピー技術を用いてデータをミラーリングするときの整合性の維持 | |
EP2183677B1 (en) | System and method for remote asynchronous data replication | |
US8433869B1 (en) | Virtualized consistency group using an enhanced splitter | |
US9563655B2 (en) | Zero and near-zero data loss database backup and recovery | |
US8521694B1 (en) | Leveraging array snapshots for immediate continuous data protection | |
US8959054B1 (en) | Methods and apparatus for optimal journaling for continuous data replication | |
CN106502823A (zh) | 数据云备份方法和系统 | |
US8271441B1 (en) | Virtualized CG | |
CN103780638B (zh) | 数据同步方法及系统 | |
CN106155835A (zh) | 一种基于同步复制技术的容灾方法 | |
CN110045912A (zh) | 数据处理方法和装置 | |
JP2006209775A (ja) | データ追跡を有するストレージ複製システム | |
US8626722B2 (en) | Consolidating session information for a cluster of sessions in a coupled session environment | |
JP2007511008A (ja) | ハイブリッドリアルタイムデータレプリケーション | |
CN102014152A (zh) | 一种远程复制系统及其方法 | |
CN105786642B (zh) | 生产站点、灾备站点及基于快照的远程容灾方法 | |
US11620087B2 (en) | Implicit leader election in a distributed storage network | |
WO2011015970A1 (en) | Data gap management in a remote data mirroring system | |
CN105988901B (zh) | 数据复制方法及存储系统 | |
WO2017014814A1 (en) | Replicating memory volumes | |
WO2017122060A1 (en) | Parallel recovery for shared-disk databases | |
US9015433B2 (en) | Resiliency with a destination volume in a replication environment | |
US8005787B2 (en) | Data replication method | |
US11461018B2 (en) | Direct snapshot to external storage |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20161123 |