CN102662793A - 一种可保证数据一致性的分布式数据库热备份与恢复方法 - Google Patents
一种可保证数据一致性的分布式数据库热备份与恢复方法 Download PDFInfo
- Publication number
- CN102662793A CN102662793A CN2012100580099A CN201210058009A CN102662793A CN 102662793 A CN102662793 A CN 102662793A CN 2012100580099 A CN2012100580099 A CN 2012100580099A CN 201210058009 A CN201210058009 A CN 201210058009A CN 102662793 A CN102662793 A CN 102662793A
- Authority
- CN
- China
- Prior art keywords
- backup
- database
- data base
- distributed
- database node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
本发明提供了一种可保证数据一致性的分布式数据库热备份和恢复的系统和方法,通过该方法,可以在分布式数据库继续提供服务与保证数据一致性的前提下,同时备份各个数据库节点的数据,并可在其后的某一时刻,将整个分布式数据库恢复至备份的时刻。分布式数据库进行热备份的步骤如下:首先,启动分布式事务,并在事务中向各数据库节点发送消息,为此次备份作出标记。其次,事务提交后,向各数据库节点发送热备份命令。最后,各数据库节点热备份至标记点,并将备份数据保存于本机。分布式数据库进行恢复的步骤如下:首先,向各数据库节点发送恢复命令。其次,各数据库节点根据本机的备份数据恢复至此前备份的内容。
Description
技术领域:
本发明涉及分布式数据库的备份及恢复领域。
背景技术:
随着计算机技术的迅速发展,社会的信息化程度越来越高,每天产生的数据也越来越多,许多的应用程序需要处理TB甚至PB级的海量数据,这对于数据的存储与读取提出了非常高的要求。作为处理结构化数据的工具,数据库面临巨大的挑战,之前部署在单台机器上的数据库已经逐渐无法满足对于快速增长的海量数据的处理需求。为了应对海量数据的挑战,分布式数据库应运而生,其通过分布式的架构使得数据的存储与对数据的查询都可以分布到个节点上执行,从而可以通过扩充节点实现系统的增加容量与提高性能,大大提高了数据库可以处理的数据量。
为了保证数据安全,对于数据库来说备份(尤其是热备份)和恢复功能是必备的功能,所谓热备份,即在数据库继续提供服务的前提下对其进行备份。当前众多的数据库提供了热备份与恢复的工具与方法,对于分布式数据库,由于其分布式的架构,对其进行热备份与恢复需要更高的技术,尤其是对于面向OLTP应用的关系型分布式数据库,如何在热备份的时候保证数据的一致性是一个必须要解决的问题。
发明内容:
本发明提供了一种可保证数据一致性的分布式数据库热备份与恢复方法,通过该方法,可以在分布式数据库继续提供服务与保证数据一致性的前提下,同时备份各个数据库节点的数据,并可在其后的某一时刻,将整个分布式数据库恢复至备份的时刻。本发明涉及的热备份包括全量备份与增量备份。
根据本发明的某一方面,分布式数据库进行热备份的步骤如下:
启动分布式事务,并在事务中向各数据库节点发送消息,为此次备份作出标记。
事务提交后,向各数据库节点发送热备份命令。
各数据库节点热备份至标记点,并将备份数据保存于本机。
根据本发明的某一方面,分布式数据库进行恢复的步骤如下:
向各数据库节点发送恢复命令。
各数据库节点根据本机的备份数据恢复至此前备份的内容。
附图说明:
图1为本发明的分布式数据库热备份的工作流程图。即可保证数据一致性的分布式数据库热备份工作流程图。
图2为本发明的分布式数据库恢复的工作流程图。即可保证数据一致性的分布式数据库恢复工作流程图。
具体实施方式:
首先结合附图1对本发明所述的可保证数据一致性的分布式数据库热备份的技术方案做进一步的详细描述。
附图1为分布式数据库热备份所涉及模块的方框图,其中包括分布式数据库控制模块与分布式数据库节点。分布式数据库控制模块对外提供分布式数据库的接口,对内负责管理控制各个分布式数据库节点,
分布式数据库节点可以为多个,并能任意扩展。对于单个数据库节点,要求其支持以下功能点:
1)支持X/Open XA规范。
2)支持备份至某个标记点的热备份。
3)从备份文件中恢复。
4)支持全量备份与增量备份。
在分布式数据库系统启动热备份时,首先,分布式数据库控制模块向各数据库节点发送一个标识符,这可分为三个步骤:
1)启动分布式事务。
2)生成一个全局唯一的标识符(该标识符可以按时间排序),并在各个数据库节点执行包含该标识符的SQL语句。
3)提交分布式事务。
在计算技术上,XA规范是开放群组关于分布式事务处理(DTP)的规范。规范描述了全局的事务管理器与局部的资源管理器之间的接口。XA规范的目的是允许的多个资源(如数据库,应用服务器,消息队列,等等)在同一事务中访问,这样可以使ACID属性跨越应用程序而保持有效。XA使用两阶段提交来保证所有资源同时提交或回滚任何特定的事务。由于各数据库节点支持X/Open XA规范,通过在分布式数据库控制模块启动分布式事务,可以保证上述第二步执行的SQL语句满足事务的ACID属性,包括如下方面:
其一,根据事务的原子性,可保证该SQL语句要么在所有的数据库节点中执行,要么在所有的数据库节点中都没有执行。
其二,根据事务的隔离性,可保证该SQL语句所在事务提交时,其之前启动的分布式事务要么在各数据库节点上已全部提交,要么在各数据库节点上全部没有提交,不会存在中间状态。
其三,根据事务的持久性,可保证在该SQL语句所在事务提交时,其之前提交的分布式事务都已持久化到各数据库节点。
其四,根据事务的一致性,可保证该SQL语句提交后,各数据库节点的完整性没有破坏。
各个数据库节点备份至该SQL语句标记处时,通过以上的四个方面,保证了整个分布式数据库的数据一致性。
其次,分布式数据库控制模块向各数据库节点发送备份至指定标识符处的命令,分布式数据库控制模块发送的命令可以是全量备份或是增量备份。数据库节点接到命令后,开始备份本地数据库。对于全量备份,数据库节点执行以下步骤:
1)通过数据库节点的备份功能刷新备份文件。
2)在备份文件中找到标识符所在位置。
3)将标识符所在位置之前的所有备份文件保存至特定位置。
对于增量备份,数据库节点执行以下步骤:
1)通过数据库节点的备份功能刷新备份文件。
2)在备份文件中找到标识符所在位置,为位置一。
3)在备份文件中找到前一个标识符所在位置,为位置二。
4)将位置一与位置二之间的所有备份文件保存至特定位置。
数据库节点备份完成后,将备份文件向数据库控制模块发送回复。
最后,分布式数据库控制模块收到各数据库节点的回复之后,确定整个分布式数据库集群热备份完成。
附图2为分布式数据库恢复的方框图,在分布式数据库系统启动恢复时,共分为三个步骤。首先,分布式数据库控制模块向各个数据库节点发送带有标识符的命令。各数据库节点接收到带有标识符的命令后,找到此前备份的所有排在此标识符前的数据库备份文件,并依次恢复,恢复完成后,向数据库控制模块发送回复。最后,收到所有数据库节点的回复后,整个分布式数据库集群恢复完成。
Claims (3)
1.一种可保证数据一致性的分布式数据库热备份与恢复的系统与方法,其特征在于:
1)可以对分布式数据库进行热备份。
2)可以对分布式数据库进行恢复。
3)可以对分布式数据库进行全量备份。
4)可以对分布式数据库进行增量备份。
5)通过分布式事务,在各个数据库节点执行带有唯一标识符的SQL语句,可以确保在恢复此标识符之前的备份文件后,所有的数据库节点的数据可以保证一致性。
2.一种可保证数据一致性的分布式数据库热备份与恢复的系统与方法,其特征在于不涉及单个数据库节点的以下功能:
1)对数据库节点进行热备份。
2)对数据库节点进行恢复。
3)对数据库节点进行全量备份。
4)对数据库节点进行增量备份。
3.一种可保证数据一致性的分布式数据库热备份与恢复的系统与方法,其特征在于:各个数据库节点在备份时,将备份文件保存于本地,在恢复时,恢复本地保存的备份文件。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012100580099A CN102662793A (zh) | 2012-03-07 | 2012-03-07 | 一种可保证数据一致性的分布式数据库热备份与恢复方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012100580099A CN102662793A (zh) | 2012-03-07 | 2012-03-07 | 一种可保证数据一致性的分布式数据库热备份与恢复方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102662793A true CN102662793A (zh) | 2012-09-12 |
Family
ID=46772290
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012100580099A Pending CN102662793A (zh) | 2012-03-07 | 2012-03-07 | 一种可保证数据一致性的分布式数据库热备份与恢复方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102662793A (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103294479A (zh) * | 2013-06-19 | 2013-09-11 | 成都市欧冠信息技术有限责任公司 | 分布式事务处理方法与系统 |
CN103345502A (zh) * | 2013-07-01 | 2013-10-09 | 曙光信息产业(北京)有限公司 | 分布式数据库的事务处理方法和系统 |
CN104991836A (zh) * | 2015-06-19 | 2015-10-21 | 小米科技有限责任公司 | 恢复数据库的方法、装置及数据库服务器 |
CN105159991A (zh) * | 2015-09-01 | 2015-12-16 | 北京皮尔布莱尼软件有限公司 | 一种保持数据一致性的方法、装置、系统和应用服务器 |
CN105190622A (zh) * | 2013-03-15 | 2015-12-23 | 亚马逊科技公司 | 用于分布式数据库系统的快速崩溃恢复 |
CN105630626A (zh) * | 2014-11-03 | 2016-06-01 | 中兴通讯股份有限公司 | 事务备份处理方法及装置 |
WO2016180160A1 (zh) * | 2015-10-23 | 2016-11-17 | 中兴通讯股份有限公司 | 数据快照的恢复方法和装置 |
CN106330945A (zh) * | 2016-08-31 | 2017-01-11 | 北京信安世纪科技有限公司 | 数字证书同步方法、数字签名服务器及数字证书同步系统 |
CN106649418A (zh) * | 2015-11-04 | 2017-05-10 | 江苏引跑网络科技有限公司 | 一种在驱动中直连分片实现分布式数据库数据导入的高性能方法 |
CN107015883A (zh) * | 2016-01-28 | 2017-08-04 | 中国移动通信集团上海有限公司 | 一种动态数据备份方法及装置 |
CN107229541A (zh) * | 2017-06-20 | 2017-10-03 | 携程旅游信息技术(上海)有限公司 | 事务数据的备份方法、备份系统及服务器 |
CN108241555A (zh) * | 2016-12-26 | 2018-07-03 | 阿里巴巴集团控股有限公司 | 一种分布式数据库的备份、恢复方法、装置和服务器 |
CN109298976A (zh) * | 2018-10-17 | 2019-02-01 | 成都索贝数码科技股份有限公司 | 一种异构数据库集群备份系统及方法 |
CN112363873A (zh) * | 2020-11-27 | 2021-02-12 | 上海爱数信息技术股份有限公司 | 一种分布式一致性备份恢复系统及其备份方法 |
CN116015995A (zh) * | 2023-02-21 | 2023-04-25 | 北京友友天宇系统技术有限公司 | 应用于分布式群组通信的消息原子性保证方法、装置和设备 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1092886A (zh) * | 1992-12-08 | 1994-09-28 | 艾利森电话股份有限公司 | 用于数据库中进行备份的系统 |
CN1747347A (zh) * | 2004-09-07 | 2006-03-15 | 华为技术有限公司 | 一种分布式配置数据库系统的备份方法 |
CN1784677A (zh) * | 2004-03-31 | 2006-06-07 | 微软公司 | 用于数据库备份的一致性检验的系统和方法 |
CN101038591A (zh) * | 2007-04-11 | 2007-09-19 | 华为技术有限公司 | 数据库同步方法及系统 |
CN101056445A (zh) * | 2006-04-11 | 2007-10-17 | 大唐移动通信设备有限公司 | NodeB的NBAP资源的备份及恢复方法 |
CN101163036A (zh) * | 2006-10-10 | 2008-04-16 | 中兴通讯股份有限公司 | 实现网络设备管理软件双机热备份的方法 |
US20080123664A1 (en) * | 2006-07-07 | 2008-05-29 | Alcatel Lucent | Distributed hashing mechanism for self-organizing networks |
CN101212458A (zh) * | 2006-12-25 | 2008-07-02 | 中兴通讯股份有限公司 | 一种数据库系统备份方法 |
CN101295299A (zh) * | 2007-04-26 | 2008-10-29 | 王霞 | 无线射频识别数据的分布式存储方法 |
CN101374316A (zh) * | 2007-08-23 | 2009-02-25 | 中兴通讯股份有限公司 | 一种实现呼叫热备份的方法及系统 |
CN101535978A (zh) * | 2006-11-10 | 2009-09-16 | 微软公司 | 分布式服务器系统中的消息转发备份管理器 |
CN101730057A (zh) * | 2008-10-24 | 2010-06-09 | 中兴通讯股份有限公司 | 一种在移动通信系统的用户数据库中放号的方法 |
CN101963928A (zh) * | 2009-07-22 | 2011-02-02 | 升东网络科技发展(上海)有限公司 | 数据库全量备份系统及方法 |
-
2012
- 2012-03-07 CN CN2012100580099A patent/CN102662793A/zh active Pending
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1092886A (zh) * | 1992-12-08 | 1994-09-28 | 艾利森电话股份有限公司 | 用于数据库中进行备份的系统 |
CN1784677A (zh) * | 2004-03-31 | 2006-06-07 | 微软公司 | 用于数据库备份的一致性检验的系统和方法 |
CN1747347A (zh) * | 2004-09-07 | 2006-03-15 | 华为技术有限公司 | 一种分布式配置数据库系统的备份方法 |
CN101056445A (zh) * | 2006-04-11 | 2007-10-17 | 大唐移动通信设备有限公司 | NodeB的NBAP资源的备份及恢复方法 |
US20080123664A1 (en) * | 2006-07-07 | 2008-05-29 | Alcatel Lucent | Distributed hashing mechanism for self-organizing networks |
CN101163036A (zh) * | 2006-10-10 | 2008-04-16 | 中兴通讯股份有限公司 | 实现网络设备管理软件双机热备份的方法 |
CN101535978A (zh) * | 2006-11-10 | 2009-09-16 | 微软公司 | 分布式服务器系统中的消息转发备份管理器 |
CN101212458A (zh) * | 2006-12-25 | 2008-07-02 | 中兴通讯股份有限公司 | 一种数据库系统备份方法 |
CN101038591A (zh) * | 2007-04-11 | 2007-09-19 | 华为技术有限公司 | 数据库同步方法及系统 |
CN101295299A (zh) * | 2007-04-26 | 2008-10-29 | 王霞 | 无线射频识别数据的分布式存储方法 |
CN101374316A (zh) * | 2007-08-23 | 2009-02-25 | 中兴通讯股份有限公司 | 一种实现呼叫热备份的方法及系统 |
CN101730057A (zh) * | 2008-10-24 | 2010-06-09 | 中兴通讯股份有限公司 | 一种在移动通信系统的用户数据库中放号的方法 |
CN101963928A (zh) * | 2009-07-22 | 2011-02-02 | 升东网络科技发展(上海)有限公司 | 数据库全量备份系统及方法 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105190622A (zh) * | 2013-03-15 | 2015-12-23 | 亚马逊科技公司 | 用于分布式数据库系统的快速崩溃恢复 |
CN103294479A (zh) * | 2013-06-19 | 2013-09-11 | 成都市欧冠信息技术有限责任公司 | 分布式事务处理方法与系统 |
CN103345502B (zh) * | 2013-07-01 | 2017-04-26 | 曙光信息产业(北京)有限公司 | 分布式数据库的事务处理方法和系统 |
CN103345502A (zh) * | 2013-07-01 | 2013-10-09 | 曙光信息产业(北京)有限公司 | 分布式数据库的事务处理方法和系统 |
CN105630626B (zh) * | 2014-11-03 | 2020-05-05 | 中兴通讯股份有限公司 | 事务备份处理方法及装置 |
CN105630626A (zh) * | 2014-11-03 | 2016-06-01 | 中兴通讯股份有限公司 | 事务备份处理方法及装置 |
CN104991836A (zh) * | 2015-06-19 | 2015-10-21 | 小米科技有限责任公司 | 恢复数据库的方法、装置及数据库服务器 |
CN104991836B (zh) * | 2015-06-19 | 2018-02-23 | 小米科技有限责任公司 | 恢复数据库的方法、装置及数据库服务器 |
CN105159991B (zh) * | 2015-09-01 | 2019-08-02 | 北京皮尔布莱尼软件有限公司 | 一种保持数据一致性的方法、装置、系统和应用服务器 |
CN105159991A (zh) * | 2015-09-01 | 2015-12-16 | 北京皮尔布莱尼软件有限公司 | 一种保持数据一致性的方法、装置、系统和应用服务器 |
WO2016180160A1 (zh) * | 2015-10-23 | 2016-11-17 | 中兴通讯股份有限公司 | 数据快照的恢复方法和装置 |
CN106649418A (zh) * | 2015-11-04 | 2017-05-10 | 江苏引跑网络科技有限公司 | 一种在驱动中直连分片实现分布式数据库数据导入的高性能方法 |
CN107015883A (zh) * | 2016-01-28 | 2017-08-04 | 中国移动通信集团上海有限公司 | 一种动态数据备份方法及装置 |
CN107015883B (zh) * | 2016-01-28 | 2020-07-17 | 中国移动通信集团上海有限公司 | 一种动态数据备份方法及装置 |
CN106330945A (zh) * | 2016-08-31 | 2017-01-11 | 北京信安世纪科技有限公司 | 数字证书同步方法、数字签名服务器及数字证书同步系统 |
CN106330945B (zh) * | 2016-08-31 | 2020-04-24 | 北京信安世纪科技股份有限公司 | 数字证书同步方法、数字签名服务器及数字证书同步系统 |
CN108241555A (zh) * | 2016-12-26 | 2018-07-03 | 阿里巴巴集团控股有限公司 | 一种分布式数据库的备份、恢复方法、装置和服务器 |
CN108241555B (zh) * | 2016-12-26 | 2022-03-01 | 阿里巴巴集团控股有限公司 | 一种分布式数据库的备份、恢复方法、装置和服务器 |
CN107229541A (zh) * | 2017-06-20 | 2017-10-03 | 携程旅游信息技术(上海)有限公司 | 事务数据的备份方法、备份系统及服务器 |
CN107229541B (zh) * | 2017-06-20 | 2019-11-26 | 携程旅游信息技术(上海)有限公司 | 事务数据的备份方法、备份系统及服务器 |
CN109298976A (zh) * | 2018-10-17 | 2019-02-01 | 成都索贝数码科技股份有限公司 | 一种异构数据库集群备份系统及方法 |
CN112363873A (zh) * | 2020-11-27 | 2021-02-12 | 上海爱数信息技术股份有限公司 | 一种分布式一致性备份恢复系统及其备份方法 |
CN116015995A (zh) * | 2023-02-21 | 2023-04-25 | 北京友友天宇系统技术有限公司 | 应用于分布式群组通信的消息原子性保证方法、装置和设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102662793A (zh) | 一种可保证数据一致性的分布式数据库热备份与恢复方法 | |
CN109150598B (zh) | 一种基于块片的bft共识算法带宽使用率改进方法 | |
WO2016180160A1 (zh) | 数据快照的恢复方法和装置 | |
CN103473277B (zh) | 文件系统的快照方法和装置 | |
EP2795476B1 (en) | Application consistent snapshots of a shared volume | |
US10860447B2 (en) | Database cluster architecture based on dual port solid state disk | |
WO2019085334A1 (zh) | 分布式存储方法、控制服务器及计算机可读存储介质 | |
WO2018098972A1 (zh) | 一种日志恢复方法、存储装置和存储节点 | |
CN109144785B (zh) | 用于备份数据的方法和装置 | |
CN110543386B (zh) | 一种数据存储方法、装置、设备和存储介质 | |
US10642530B2 (en) | Global occupancy aggregator for global garbage collection scheduling | |
CN102833273B (zh) | 临时故障时的数据修复方法及分布式缓存系统 | |
US11880284B2 (en) | Storage restore system, storage restore method, and storage medium | |
EP3696658A1 (en) | Log management method, server and database system | |
CN115934414A (zh) | 数据备份方法、数据恢复方法、装置、设备及存储介质 | |
CN106201666A (zh) | 一种分布式事务实现方法 | |
CN115617571A (zh) | 一种数据备份方法、装置、系统、设备及存储介质 | |
KR101424568B1 (ko) | 트랜잭션 재시작 가능한 클라이언트 장치와 데이터베이스 서버 및 방법 | |
CN105574026A (zh) | 非关系型数据库支持事务的方法及装置 | |
CN103092955B (zh) | 检查点操作方法、装置及系统 | |
CN112364104A (zh) | 分布式数据库扩容方法、分布式数据库系统及计算机可读存储介质 | |
CN102760154A (zh) | 一种在文本信息检索服务中支持分布式事务管理的方法 | |
CN109992575B (zh) | 大数据的分布式存储系统 | |
WO2017067397A1 (zh) | 一种数据恢复方法和装置 | |
CN106648474A (zh) | 一种基于逻辑卷恢复虚拟机磁盘的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20120912 |