CN111722957A - 一种块数据复制到os的定时备份方法 - Google Patents
一种块数据复制到os的定时备份方法 Download PDFInfo
- Publication number
- CN111722957A CN111722957A CN202010101518.XA CN202010101518A CN111722957A CN 111722957 A CN111722957 A CN 111722957A CN 202010101518 A CN202010101518 A CN 202010101518A CN 111722957 A CN111722957 A CN 111722957A
- Authority
- CN
- China
- Prior art keywords
- backup
- hard disk
- user
- cloud hard
- policy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 17
- 230000000737 periodic effect Effects 0.000 claims abstract 3
- 238000012559 user support system Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 abstract description 5
- 230000010354 integration Effects 0.000 abstract 1
- 238000004458 analytical method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 235000019580 granularity Nutrition 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
- G06F11/1448—Management of the data involved in backup or backup restore
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Quality & Reliability (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种块数据复制到os的定时备份方法,可解决数据的高可靠和存储与人力成本高问题,通过整合定时备份应用程序与openstack和ceph,解决了有系统自动备份块存储数据至对象存储的问题。发明中重点关注定时备份方式的实现与openstack和ceph的整合。在平台现有成熟备份实现方案的基础上引入定时备份程序,将云硬盘备份的管理转换成对策略和周期表达式的管理,应用程序通过对接openstack和ceph平台,简单便捷实现用户需求,帮助用户解决存储自动备份难题。通过关联策略与云硬盘的关系,方便用户管理需要备份的资源,通过策略的管理,方便用户批量暂停和启用云硬盘备份功能、更新策略等。通过异步消息通知机制,使用户可以了解到备份任务的处理进程。
Description
技术领域
本发明设计一种块数据复制到os的定时备份方法,属于数据库备份技术领域。
背景技术
近几年云计算相关技术日趋成熟和广泛应用,随着共有云、专有云等系统的发展,数据呈现爆发式的增长,数据安全可靠性和存储成本成为应用使用者不得不面对和考虑的问题,为了提高数据可靠性或者降低数据存储成本,可以将数据进行冗余备份亦或备份至成本更廉价的存储介质。每天或者固定时间由人工进行备份既浪费人工成本,又容易出现由于人为疏忽而造成损失的情况。因此选择一种能够定时备份,又可根据个性化需求满足各种备份场景成为一种优等方案。
云计算的发展促进了分布式存储系统的大范围应用,对象存储和块存储是当前主流的存储方式,ceph提供了块存储和对象存储能力,从应用层来看,云硬盘对应ceph的块存储。应用系统通过对接openstack和ceph,可以将云硬盘备份至ceph的对象存储系统。通过以上分析,平台层已经有了比较成熟的备份方法,只要将定时备份的应用系统和和平台层的方案衔接在一起,便可实现定时备份功能。
发明内容
基于以上内容,本发明公开了一种备份用户的云硬盘至对象存储的定时方法,主要内容包含入下:用户根据实际需求创建备份策略;用户按照自己的需求将策略与云硬盘(块存储)绑定;按照用户指定规则执行备份策略;执行策略时将绑定该策略的所有云硬盘从块存储系统备份至对象存储系统;备份结束后异步通知用户前端界面备份结果。
本发明涉及分布式存储基于策略配置的时间、进行定时不同粒度进行备份相关技术,通过调用openstack cinder-backup服务备份块存储数据。cinder-backup服务后端备份驱动配置为glusterfs,glusterfs驱动调用rgw接口,将块数据备份至ceph对象存储系统,本技术将重点讲述块数据实现定时备份的方法。
本发明的技术方案如下:
1、应用程序采用前后端分离的方式,前端负责接收用户请求,与后端通信以及给用户反馈后端处理消息等。后端负责实际的业务处理;
2、用户根据自己的需求创建备份策略。创建备份策略时,用户在前端界面设置策略名称,选择备份的周期(应用会根据用户的选择生成备份周期表达式,表达式会随着用户的提交动作由前端应用传递给后端解析使用),用户点击提交后,前端会发送POST请求给后端,后端将策略名称、周期表达式、策略状态(初创时默认为启用状态)、用户在openstack中对应的项目和domain入数据库表,并生成对应的策略ID和创建时间;
3、后端程序启动时,启动一个定时备份的进程,进程每隔20秒扫描一遍策略表,读取策略表中的周期表达式并解析,如果当前时间与周期表达式解析后的结果相吻合,程序会根据策略查询策略与云硬盘的关联关系表,找到绑定该策略的所有云硬盘,如果策略绑定的云硬盘大于0,程序会根据策略对应的项目和domain,使用管理员用户调用openstack的接口获取能够操作openstack中云硬盘资源(该策略对应的domain和项目下的资源)的token。程序拿到token后,会调用cinder-backup的服务发送备份请求,至此,策略对应的云硬盘开始并发执行备份动作,进入备份中,程序会将cinder-backup备份接口返回的备份id和用户名称记入数据库表,以备后续备份结束后,能够读取相关信息并通过websocket服务器异步通知前端;
4、后端程序启动时,启动一个异步通知进程,该进程有规律的扫描异步通知表,并通过调用openstack平台的相关接口,查询表中备份id的备份结果,如果平台处理完毕,异步通知进程会通知websocket服务器,将处理结果转发给前端;
5、用户创建策略后可以给策略关联云硬盘,用户在前端界面可以调用后端接口查看到自己拥有的云硬盘并决定将哪些云硬盘关联策略,关联成功后,云硬盘便可按照策略指定的周期自动进行备份。用户也可以调用后端接口解除云硬盘与策略的关联关系。云硬盘与策略的绑定关系管理在后端通过策略与云硬盘关联关系表实现;
6、用户在前端界面可以方便的管理策略,启用、禁用、更新、删除策略,如果策略处于禁用状态,那么定时备份的进程会忽略该策略,不再对该策略关联的云硬盘进行备份。用户删除策略时,后端程序接收到用户删除的请求后会从策略表删除对应的策略,并将策略与云硬盘关联关系表中相应的云硬盘的记录清除。
附图说明:
图1为一种复制ceph块存储数据至对象存储的定时备份方法的流程框图。
具体实施方式:
为了更清楚地说明本发明实施例中的技术方案,下面结合附图1对本发明进一步说明,下面将对实施例中描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
下面对本发明做进一步说明,定时备份应用部署在k8s集群的pod中,并通过业务网与openstack平台的控制节点互通。控制节点上需要提前部署keystone、cinder-volume、cinder-backup等服务,由于本发明仅关注定时备份这部分内容,因此实施步骤说明仅说明该应用的具体实施步骤。实施步骤如下:
1.部署数据库,新建相应的数据库表,在应用程序中配置数据库url、用户和密码;
2.配置openstack平台认证ip地址、端口、region信息;
3.配置统一认证keycloak信息以及websocket服务器地址;
4.在k8s集群中启动应用程序的3个副本。
Claims (4)
1.一种块数据复制到os的定时备份方法,主要包括:引入定时定量备份策略机制;通过解析周期表达式便可支持用户设定的时间规则备份数据;采用策略与云硬盘绑定方式,将备份云硬盘的问题转换成执行策略。
2.根据权利要求1中所述的一种块数据复制到os的定时备份方法,其特征在于,所述云硬盘备份用策略来管理,将云硬盘备份问题转换成策略执行问题,建立策略与云硬盘多对多的关系。
3.根据权利要求1中所述的一种块数据复制到os的定时备份方法,其特征在于,策略中引入周期表达式,支持用户各种个性化需求,通过解析周期表达式便可支持用户设定的时间规则备份数据,其特征是用户设置的时间规则支持秒级设置,将定时备份时间问题抽象成表达式,使用一个表达式可以支持用户的各种时间需求设置。
4.根据权利要求1中所述的一种块数据复制到os的定时备份方法,其特征在于,采用策略与云硬盘绑定方式,将备份云硬盘的问题转换成执行策略,其特征是建立或解除策略与云硬盘的对应关系(多对多),策略到达执行时间时,与策略关联的云硬盘遍开始执行备份。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010101518.XA CN111722957A (zh) | 2020-02-19 | 2020-02-19 | 一种块数据复制到os的定时备份方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010101518.XA CN111722957A (zh) | 2020-02-19 | 2020-02-19 | 一种块数据复制到os的定时备份方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111722957A true CN111722957A (zh) | 2020-09-29 |
Family
ID=72564047
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010101518.XA Pending CN111722957A (zh) | 2020-02-19 | 2020-02-19 | 一种块数据复制到os的定时备份方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111722957A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112181734A (zh) * | 2020-11-09 | 2021-01-05 | 浪潮云信息技术股份公司 | 一种基于cinder的多后端存储方法 |
CN114385090A (zh) * | 2022-03-23 | 2022-04-22 | 深圳市杉岩数据技术有限公司 | 基于对象存储站点同步机制的数据自动处理方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080086609A1 (en) * | 2006-10-06 | 2008-04-10 | Richard Lesser | Method and Apparatus for Generating a Backup Strategy for a Client |
CN103034563A (zh) * | 2011-09-29 | 2013-04-10 | 国际商业机器公司 | 用于管理数据的备份操作的方法和系统 |
CN110399250A (zh) * | 2019-06-26 | 2019-11-01 | 苏州浪潮智能科技有限公司 | 一种基于自定义策略的OpenStack云硬盘自动备份方法及系统 |
-
2020
- 2020-02-19 CN CN202010101518.XA patent/CN111722957A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080086609A1 (en) * | 2006-10-06 | 2008-04-10 | Richard Lesser | Method and Apparatus for Generating a Backup Strategy for a Client |
CN103034563A (zh) * | 2011-09-29 | 2013-04-10 | 国际商业机器公司 | 用于管理数据的备份操作的方法和系统 |
CN110399250A (zh) * | 2019-06-26 | 2019-11-01 | 苏州浪潮智能科技有限公司 | 一种基于自定义策略的OpenStack云硬盘自动备份方法及系统 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112181734A (zh) * | 2020-11-09 | 2021-01-05 | 浪潮云信息技术股份公司 | 一种基于cinder的多后端存储方法 |
CN112181734B (zh) * | 2020-11-09 | 2023-03-31 | 浪潮云信息技术股份公司 | 一种基于cinder的多后端存储方法 |
CN114385090A (zh) * | 2022-03-23 | 2022-04-22 | 深圳市杉岩数据技术有限公司 | 基于对象存储站点同步机制的数据自动处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10911518B2 (en) | Network folder synchronization | |
US11288253B2 (en) | Allocation method and device for a distributed lock | |
EP2706719B1 (en) | File synchronization method and device | |
CN112214338A (zh) | 一种基于微服务灵活部署的物联网云平台 | |
WO2017076223A1 (zh) | 文件存储中的索引实现方法和系统 | |
EP0765062A2 (en) | Synchronization between dissimilar computer server environments | |
JPH11167510A (ja) | レプリケーション方法、レプリケーションツール、および、レプリケーションサーバ | |
CN105912424A (zh) | 一种基于云架构的终端程序快速备份及恢复方法 | |
CN101771723A (zh) | 数据同步方法 | |
CN111651305A (zh) | 一种虚拟机备份方法、组件及云计算系统 | |
CN106339278A (zh) | 一种网络文件系统的数据备份及恢复方法 | |
CN111722957A (zh) | 一种块数据复制到os的定时备份方法 | |
CN111597078A (zh) | 一种复制ceph块存储数据至对象存储的定时备份方法及系统 | |
US20120324436A1 (en) | Method of updating versioned software using a shared cache | |
CN115203141A (zh) | 分布式存储系统、元数据管理方法、设备及存储介质 | |
US7366858B2 (en) | Framework for taking shadow copies and performing backups in a networked environment | |
CN113746641B (zh) | 一种基于分布式存储的odx协议处理方法 | |
CN110618898A (zh) | 一种根据进程强制保存文件到指定目录同步备份的方法 | |
CN107145302B (zh) | 一种用于在分布式存储系统中执行文件写入的方法与设备 | |
CN116467336A (zh) | 数据处理方法及装置、电子设备、存储介质 | |
WO2023109934A1 (zh) | 一种对象存储桶的数据访问方法以及云管理平台 | |
WO2022228417A1 (zh) | 用户数据容灾方法、装置、网元设备及存储介质 | |
AU2006292299A1 (en) | Productivity suite to line of business synchronization mechanism | |
CN114070856B (zh) | 数据处理方法、装置、系统、运维审计设备和存储介质 | |
US10713121B1 (en) | Dynamic migration of a cloud based distributed file system metadata server |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200929 |
|
WD01 | Invention patent application deemed withdrawn after publication |