CN114546725A - 一种有状态应用的跨集群备份方法、系统、介质和电子设备 - Google Patents
一种有状态应用的跨集群备份方法、系统、介质和电子设备 Download PDFInfo
- Publication number
- CN114546725A CN114546725A CN202210168779.2A CN202210168779A CN114546725A CN 114546725 A CN114546725 A CN 114546725A CN 202210168779 A CN202210168779 A CN 202210168779A CN 114546725 A CN114546725 A CN 114546725A
- Authority
- CN
- China
- Prior art keywords
- application
- cluster
- stateful
- stateful application
- storage system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
- G06F11/1448—Management of the data involved in backup or backup restore
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
- G06F11/1458—Management of the backup or restore process
- G06F11/1464—Management of the backup or restore process for networked environments
Abstract
本申请提供了一种有状态应用的跨集群备份方法、系统、计算机可读存储介质和电子设备。该跨集群备份方法由部署在第一集群中的灾备系统执行,包括:对部署在第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定第一集群对应的后端存储系统中与有状态应用绑定的存储池;将有状态应用对应的资源文件同步至第二集群,以在第二集群中部署有状态应用的应用副本;其中,资源文件包括声明文件;根据应用副本对应的声明文件的内容,将应用副本与第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。籍此,通过灾备系统对有状态应用的资源文件和应用数据直接进行同步操作,以实现对有状态应用的运行状态的跨集群同步。
Description
技术领域
本申请涉及云原生技术领域,特别涉及一种有状态应用的跨集群备份方法、系统、计算机可读存储介质和电子设备。
背景技术
在生产实践中,企业通常采用主/备集群部署模式来部署应用实例,即将应用实例分别部署在主集群和备用集群中,并且将主集群中的应用实例的运行状态同步至备用集群中,当主集群出现故障无法正常对外部访问流量进行响应时,由备用集群代替主集群进行响应。
为了在备用集群中部署主集群中的有状态应用的应用副本,需要将部署在主集群中的有状态应用对应的应用描述文件(Deployment),配置文件(ConfigMap)等资源文件同步至备用集群中;此外,部署在主集群中的有状态应用在运行过程中,将不断产生新的应用数据,这些应用数据和有状态应用对应的资源文件共同决定了有状态应用的运行状态。其中,有状态应用的资源文件部署在集群中,有状态应用的应用数据存储在独立于集群的后端存储系统中,而集群无法直接对位于后端存储系统的存储池中的应用数据进行直接操作,因此,对有状态应用的资源文件和应用数据进行同步,需要由应用管理员和后端存储系统管理员分别在主集群和后端存储系统中进行操作,才能分别将有状态应用的资源文件同步至备用集群,将有状态应用的应用数据同步至备用集群对应的后端存储系统中,并且根据同步后的资源文件生成的应用副本还需要与同步后的应用数据进行绑定,才能最终实现对有状态应用的运行状态的同步。
因此,需要提供一种针对上述现有技术不足的改进技术方案。
发明内容
本申请的目的在于提供一种有状态应用的跨集群备份方法、系统、计算机可读存储介质和电子设备,以解决或缓解上述现有技术中存在的问题。
为了实现上述目的,本申请提供如下技术方案:
本申请提供了一种有状态应用的跨集群备份方法,该方法由部署在第一集群中的灾备系统执行,所述有状态应用的跨集群备份方法包括:对部署在所述第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池;将所述有状态应用对应的资源文件同步至第二集群,以在所述第二集群中部署所述有状态应用的应用副本;其中,所述资源文件包括所述声明文件;根据所述应用副本对应的声明文件的内容,将所述应用副本与所述第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
优选的,所述第一集群对应于第一后端存储系统,所述第二集群对应于第二后端存储系统,所述有状态应用对应于所述第一后端存储系统中的第一存储池,所述应用副本对应于所述第二后端存储系统中的第二存储池;在将所述有状态应用对应的资源文件同步至第二集群之前,还包括:将所述有状态应用对应的声明文件中的存储字段配置为所述第二存储池;所述存储字段用于指定所述应用数据的存储位置。
优选的,在确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池之后,还包括:通过所述第一后端存储系统的API接口,在所述第一存储池与所述第二存储池之间建立映射关系,以将所述第一存储池中存储的所述有状态应用对应的应用数据同步至所述第二存储池。
优选的,所述通过所述第一后端存储系统的API接口,在所述第一存储池与所述第二存储池之间建立映射关系,具体包括:确定所有后端存储系统之间的网络通信拓扑关系;所述网络通信拓扑关系包括所述第一后端存储系统和所述第二后端存储系统之间的网络通信连接关系;通过所述第一后端存储系统的API接口,将所述第一存储池中存储的所述有状态应用对应的应用数据同步至所述第二后端存储系统;通过所述第一后端存储系统的API接口,接收所述第二后端存储系统选定的所述第二存储池的相关信息,以在所述第一存储池与所述第二存储池之间建立映射关系。
优选的,所述第一集群和所述第二集群都对应于同一后端存储系统,所述有状态应用和所述应用副本均对应于所述后端存储系统中的同一存储池,所述将所述有状态应用对应的资源文件同步至第二集群,包括:基于预设的配置对所述有状态应用对应的资源文件中指定字段的内容进行修改;所述资源文件包括应用描述文件、配置文件中的至少一种;将修改后的所述有状态应用对应的资源文件同步至所述第二集群。
优选的,所述有状态应用的跨集群备份方法还包括:对所述有状态应用对应的资源文件进行监听;响应于所述有状态应用对应的资源文件的内容发生变化,将变化后的所述有状态应用对应的资源文件同步至第二集群。
优选的,所述对所述有状态应用对应的资源文件进行监听,包括:与所述第一集群中的API-Server组件之间建立长连接;通过所述长连接对所述有状态应用对应的资源文件的变化事件进行监听,确定所述有状态应用对应的资源文件的内容是否发生变化;或者,周期性地访问所述第一集群中的API-Server组件,获取所述有状态应用对应的资源文件,以主动检测所述有状态应用对应的资源文件是否发生变化。
本申请实施例还提供一种有状态应用的跨集群备份系统,该系统部署在第一集群中,所述有状态应用的跨集群备份系统包括:第一绑定单元,配置为对部署在所述第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池;同步单元,配置为将所述有状态应用对应的资源文件同步至第二集群,以在所述第二集群中部署所述有状态应用的应用副本;其中,所述资源文件包括所述声明文件;第二绑定单元,配置为根据所述应用副本对应的声明文件的内容,将所述应用副本与所述第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序为如上任一所述的有状态应用的跨集群备份方法。
本申请实施例还提供一种电子设备,包括:存储器、处理器、以及存储在所述存储器中并可在所述处理器上运行的程序,所述处理器执行所述程序时实现如上任一所述的有状态应用的跨集群备份方法。
有益效果:
本申请实施例提供的技术方案,由部署在主集群(第一集群)中的灾备系统执行,对部署在主集群中的待备份的有状态应用对应的声明文件进行解析,以确定主集群对应的后端存储系统中与有状态应用绑定的存储池,然后将有状态应用对应的资源文件(包括声明文件、应用描述文件、配置文件等)同步至另外一个或多个集群(第二集群),以在另外的一个或多个集群中部署主集群中有状态应用的应用副本,最后根据应用副本对应的声明文件的内容,将应用副本与另外一个或多个集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。籍此,通过灾备系统对有状态应用的资源文件和应用数据直接进行同步操作,以实现对有状态应用的运行状态的跨集群同步。
附图说明
构成本申请的一部分的说明书附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。其中:
图1为根据本申请的一些实施例提供的一种有状态应用的跨集群备份方法的流程示意图;
图2为根据本申请的一些实施例提供的应用管理员向灾备系统写入应用管理资源对象的逻辑示意图;
图3为根据本申请的一些实施例提供的多集群管理员为灾备系统提供集群访问认证信息的逻辑示意图;
图4为根据本申请的一些实施例提供的建立第一存储池与第二存储池的映射关系的逻辑示意图;
图5为根据本申请的一些实施例提供的对有状态应用对应的声明文件进行监听的逻辑示意图;
图6为根据本申请的一些实施例提供的对有状态应用对应的声明文件进行修改的逻辑示意图;
图7为根据本申请的一些实施例提供的应用副本与应用数据的存储池绑定的逻辑示意图;
图8为根据本申请的一些实施例提供的一种有状态应用的跨集群备份系统的结构示意图;
图9为根据本申请的一些实施例提供的一种电子设备的结构示意图;
图10为根据本申请的一些实施例提供的一种电子设备的硬件结构。
具体实施方式
下面将参考附图并结合实施例来详细说明本申请。各个示例通过本申请的解释的方式提供而非限制本申请。实际上,本领域的技术人员将清楚,在不脱离本申请的范围或精神的情况下,可在本申请中进行修改和变型。例如,示为或描述为一个实施例的一部分的特征可用于另一个实施例,以产生又一个实施例。因此,所期望的是,本申请包含归入所附权利要求及其等同物的范围内的此类修改和变型。
基于前述背景技术的说明,可以知道,现有技术中,企业采用主/备集群部署模式来部署应用实例。
具体地,在将应用实例分别部署在主集群和备用集群中以后,通常情况下由部署在主集群中的应用实例对外部访问流量进行响应,而当主集群出现故障无法正常对外部访问流量进行响应时,由部署在备用集群中的应用实例代替主集群中的应用实例进行响应。因此,为了保证备用集群中的应用实例可以无缝代替主集群中的应用实例对外部访问流量进行响应,需要保证分别部署在主集群和备用集群中的应用实例的运行状态始终保持一致。而在对外部访问流量进行响应的过程中,主集群中的应用实例的运行状态在不断发生变化,为了保证分别部署在主集群和备用集群中的应用实例的运行状态始终保持一致,需要将主集群中的应用实例的运行状态同步至备用集群中。
根据是否需要持久化存储数据,可以将应用分为无状态应用和有状态应用。目前,部署在主集群中的有状态应用在运行过程中,将不断产生新的应用数据,这些应用数据和有状态应用对应的资源文件共同决定了有状态应用的运行状态。因此,为了让部署在备用集群中的有状态应用的应用副本的运行状态能够与主集群中的该有状态应用始终保持同步,还需要将这些应用数据同步至备用集群对应的后端存储系统中的某个存储池中,并与备用集群中的该有状态应用的应用副本进行绑定,以让备用集群中的该有状态应用的应用副本的运行状态与主集群中的该有状态应用始终保持一致。
现有的技术方案中,应用管理员在将主集群中的有状态应用的资源文件同步至备用集群中时,还需要向后端存储系统管理员提供在后端存储系统中与该有状态应用绑定的存储池,由后端存储系统管理员对该有状态应用的应用数据进行同步。在后端存储系统管理员完成应用数据的同步后,应用管理员还需要从后端存储系统管理员处获取应用数据在备用集群对应的后端存储系统中的存储位置,与备用集群中的应用副本进行绑定,才能将主集群中的应用实例的运行状态同步至备用集群中。
在现有的技术方案中,应用管理员缺少对有状态应用的应用数据直接进行同步的有效权限和手段,需要请求后端存储系统管理员代为操作才能进行应用数据的同步,并需要在完成应用数据的同步之后,手动完成应用数据和应用副本的绑定,操作繁琐且流程冗长。
本申请提供了一种有状态应用的跨集群备份方法、系统、计算机可读存储介质和电子设备,以解决或缓解上述现有技术中存在的问题。
为了便于说明,本申请实施例中将主集群称作第一集群,将备用集群称作第二集群。
需要说明的是,在本申请实施例中,第一集群为待备份的有状态应用所在的集群,第二集群为应用管理员指定的备用集群。在生产实践中,应用管理员可以为待备份的有状态应用指定一个或者多个备用集群,本申请实施例以指定一个备用集群的情况进行说明,不作为对本申请实施例的限定。
示例性方法
如图1所示,该有状态应用的跨集群备份方法由部署在第一集群中的灾备系统执行,包括:
步骤S101、对部署在第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定第一集群对应的后端存储系统中与有状态应用绑定的存储池。
在本申请实施例中,应用管理员将应用管理资源对象写入待备份的有状态应用所在的第一集群的灾备系统,为待备份的有状态应用指定一个或多个备用集群,且对待备份的有状态应用对应的资源文件和应用数据的同步执行进行配置。
声明文件(即PV/PVC文件)是有状态应用对应的资源文件中较为特殊的一种文件,声明文件的内容用于将有状态应用与某一存储池进行绑定。也就是说,有状态应用通过声明文件与后端存储系统中的存储池进行绑定,将数据持久化存储至后端存储系统的存储池中。在有状态应用的运行过程中,不断产生新的应用数据,这些应用数据和有状态应用对应的资源文件共同决定了有状态应用的运行状态。
在本申请实施例中,灾备系统具体包括配置管理器、资源管理器、存储后端配置器、资源修改管理器和传输管理器。应用管理员将应用管理资源对象写入第一集群的灾备系统,即将应用管理资源对象写入部署在配置管理器中的自定义应用管理资源,指定需要同步的有状态应用和用于同步的备用集群,如图2所述。资源管理器、存储后端配置器、资源修改管理器、传输管理器从配置管理器中获取自身的配置,以实现对应的功能。
进一步地,如果第一集群为Kubernetes集群,则上述的配置管理器、资源管理器、存储后端配置器、资源修改管理器和传输管理器都可以由Kubernetes系统的kubelet组件进行管理。
其中,资源管理器根据部署在配置管理器中的自定义管理资源的内容,确定需要同步的有状态应用,通过第一集群的API-Server组件获取有状态应用的声明文件,通过对有状态应用的声明文件进行解析,确定有状态应用所在第一集群对应的后端存储系统中与有状态应用绑定的存储池,以便将该存储池中存储的应用数据同步至备用集群对应的后端存储系统中。
步骤S102、将有状态应用对应的资源文件同步至第二集群,以在第二集群中部署有状态应用的应用副本。
其中,资源文件包括声明文件。
在本申请实施例中,为了在第二集群中部署第一集群中的有状态应用的应用副本,需要将部署在第一集群的有状态应用对应的声明文件、应用描述文件、配置文件等资源文件同步至第二集群。但是,第一集群和第二集群分属两个集群,部署在第一集群中的灾备系统无权对第二集群进行访问,为此,从多集群管理系统获取第二集群的访问认证信息,其中,多集群管理系统用于管理第一集群和第二集群;访问认证信息包括证书、密钥、令牌中的至少一种,如图3所示。
也就是说,由多集群管理员将集群管理资源对象写入部署在多集群管理系统中的自定义集群管理资源,由多集群管理系统将集群之间建立连接的访问认证信息(比如,证书、密钥、令牌等)发送至各个集群,各集群通过访问认证信息连接其他集群。
基于前述说明,可以知道,为了让第二集群中的应用副本的运行状态始终与第一集群中的有状态应用保持一致,本申请实施例所提出的有状态应用的跨集群备份方法,需要将应用数据、资源文件等进行同步操作,而在众多类型的资源文件中用于绑定存储池的声明文件,与应用数据的同步操作紧密相关,应用数据的同步作为有状态应用的跨集群备份过程中极为关键的一项,首先进行说明。
在本申请实施例中,不同集群中部署的有状态应用可以共用一个后端存储系统来存储应用数据,即部署有状态应用的集群和后端存储系统并不是一一对应的关系,如图2和图3所示。
在一具体的例子中,在第一集群对应于第一后端存储系统,第二集群对应于第二后端存储系统,有状态应用对应于第一后端存储系统中的第一存储池,应用副本对应于第二后端存储系统中的第二存储池,在将有状态应用对应的资源文件同步至第二集群之前,该有状态应用的跨集群备份方法还包括:将有状态应用对应的声明文件中的存储字段配置为第二存储池,存储字段用于指定应用数据的存储位置。
在一应用场景中,如图4所示,在确定第一集群对应的后端存储系统中与有状态应用绑定的存储池之后,通过第一后端存储系统的API接口,在第一存储池与第二存储池之间建立映射关系,以将第一存储池中存储的有状态应用对应的应用数据同步至第二存储池。具体的,存储后端配置器在确定了第二集群后,通过第一后端存储系统的API接口,根据多个后端存储系统之间的连接关系,配置第一后端存储系统与第二集群对应的第二后端存储系统之间的存储池同步,从而将待备份的有状态应用的应用数据同步至第二后端存储系统的存储池。
在通过第一后端存储系统的API接口,在第一存储池与第二存储池之间建立映射关系时,首先,确定所有后端存储系统之间的网络通信拓扑关系;其中,网络通信拓扑关系包括第一后端存储系统和第二后端存储系统之间的网络通信连接关系。具体的,存储后端配置器根据部署在配置管理器中的自定义应用管理资源的内容,获取多个后端存储系统之间的拓扑图,从而确定多个后端存储系统之间的连接关系。
然后,通过第一后端存储系统的API接口,将第一存储池中存储的有状态应用对应的应用数据同步至第二后端存储系统;并通过第一后端存储系统的API接口,接收第二后端存储系统选定的第二存储池的相关信息,以在第一存储池与第二存储池之间建立映射关系。进一步的,第一后端存储系统和第二后端存储系统之间可以通过高性能低延迟专线网络进行连接,实现将待备份的有状态应用的应用数据实时同步至第二后端存储系统。
在另一具体的例子中,第一集群和第二集群对应于同一后端存储系统,有状态应用对应于后端存储系统中的第一存储池,应用副本对应于后端存储系统中的第二存储池,在将有状态应用对应的资源文件同步至第二集群之前,该有状态应用的跨集群备份方法还包括:将有状态应用对应的声明文件中的存储字段配置为第二存储池,存储字段用于指定应用数据的存储位置。
在确定第一集群对应的后端存储系统中与有状态应用绑定的存储池之后,通过后端存储系统的API接口,在第一存储池与第二存储池之间建立映射关系,以将第一存储池中存储的有状态应用对应的应用数据同步至第二存储池。具体的,存储后端配置器在确定了第二集群后,通过后端存储系统的API接口,配置同一后端存储系统中的第一存储池和第二存储池之间应用数据的同步,从而将待备份的有状态应用的应用数据从第一存储池同步至同一后端存储系统的第二存储池。
在又一具体的例子中,第一集群和第二集群对应于同一后端存储系统,有状态应用和应用副本均对应于后端存储系统中的同一存储池。应当理解,在本实施例中,由于有状态应用和应用副本对应于同一个后端存储系统中的同一存储池,因此无需对待备份的有状态应用的应用数据进行同步操作。
在前述若干实施例中,由于有状态应用、应用副本和存储池的对应关系不同,导致对应用数据的同步操作存在区别。具体来说,有的实施例需要对有状态应用对应的声明文件中的存储字段进行修改,而有的实施例则无需对有状态应用对应的声明文件进行操作,直接同步至第二集群即可。
基于前述说明,可以知道,本申请实施例中的资源文件不仅包括声明文件这一用于绑定存储池的特殊资源文件,还包括应用描述文件、配置文件等一般资源文件,而对于这些有状态应用对应的一般资源文件,亦需要对指定字段的内容进行修改,以适配第二集群的运行环境。
下面对有状态应用对应的应用描述文件、配置文件等一般资源文件的同步操作进行说明。
具体来说,在将有状态应用对应的资源文件同步至第二集群时,基于预设的配置对有状态应用对应的资源文件中指定字段的内容进行修改,并将修改后的有状态应用对应的资源文件同步至第二集群。
其中,预设的配置可以由应用管理员在指定有状态应用和第二集群时进行配置,由于第一集群和第二集群的运行环境的差异,比如说两个集群的内网环境不同,或者两个集群使用的镜像仓库不同,因此在将有状态应用对应的资源文件从第一集群同步至第二集群之前,需要对资源文件中用于适配运行环境的相关字段进行修改。
进一步地,基于前述说明可知,当有状态应用和应用副本对应的存储池不同时,需要对有状态应用对应的声明文件中的存储字段进行修改,而声明文件也是一种资源文件,可以让声明文件和其他资源文件的修改在同一步骤中完成,以减少方法步骤。
在某些高可靠的场景下,需要将有状态应用的运行状态实时同步至第二集群,而有状态应用的运行状态取决于有状态应用对应的声明文件、应用描述文件、配置文件等资源文件和应用数据,因此将第一集群中的有状态应用对应的资源文件实时同步至第二集群是将有状态应用的运行状态实时同步至第二集群的必要条件。
为了实现对部署在第一集群中的有状态应用的实时备份,需要由部署在第一集群中的灾备系统在首次备份时获取待备份的有状态应用对应的最新资源文件,并持续对有状态应用对应的资源文件进行监听,将首次备份时获取的最新资源文件和持续监听过程中获取的资源文件的变化情况同步至第二集群。
具体的,对有状态应用对应的资源文件进行监听,响应于有状态应用对应的资源文件的内容发生变化,将变化后的有状态应用对应的资源文件实时同步至第二集群。
特别地,对于用于绑定存储池的声明文件而言,当有状态应用绑定的存储池发生变化时,有状态应用对应的声明文件的内容也将发生变化,因此可以通过监听声明文件的变化情况,来间接判断有状态应用绑定的存储池是否发生变化,如图5所示。
在此,通过部署在第一集群中的灾备系统中的资源管理器对有状态应用对应的资源文件进行实时或周期性监听。当第一集群为Kubernetes集群时,由于Kubernetes系统的API-Server组件提供了Kubernetes集群中全部资源文件的访问入口,因而,通过在资源管理器与Kubernetes集群中的API-Server组件之间建立长连接,实现对有状态应用对应的资源文件的监听。
在一应用场景中,与第一集群中的API-Server组件之间建立长连接,通过长连接对有状态应用对应的资源文件的变化事件进行监听,确定有状态应用对应的资源文件的内容是否发生变化。具体的,可以在资源管理器和第一集群的API-Server组件之间建立长连接,由资源管理器通过该长连接对所在第一集群中有状态应用对应的声明文件、应用描述文件、配置文件等资源文件的变化事件进行监听,当第一集群中有状态应用对应的资源文件发生变化时,资源管理器可立即获取全部资源文件或发生变化的资源文件。
在另一应用场景中,周期性地访问第一集群中的API-Server组件,获取有状态应用对应的资源文件,以主动检测有状态应用对应的资源文件是否发生变化。具体的,资源管理器周期性地主动访问第一集群中的API-Server组件,以获取第一集群中有状态应用对应的资源文件。可以理解,经过持续性、周期性地对第一集群中的API-Server组件进行访问,可以多次获取第一集群中有状态应用对应的资源文件,将相邻两次获取的资源文件进行比对,一旦发现不同,即可确定有状态应用对应的资源文件产生变化。籍此,资源管理器通过周期性地主动访问第一集群中的API-Server组件,主动获取第一集群中待备份的有状态应用对应的全部或者发生变化的声明文件、应用描述文件、配置文件等资源文件,有效避免了资源管理器与第一集群中的API-Server组件之间建立的长连接因网络问题而中断。
需要说明的是,还可以将上述建立长连接和周期性地主动访问API-Server组件的方案相结合。
此外,当第一集群为Kubernetes集群时,Kubernetes系统的Kubelet组件能够对部署在第一集群中的有状态应用对应的资源文件进行实时监测。当第一集群中的Kubelet组件监测到部署在第一集群中的待备份的有状态应用的资源文件发生变化,即通过第一集群中的API-Server组件将资源文件的变化写入第一集群中的分布式状态存储数据库(ETCD)。通过第一集群中的API-Server组件访问第一集群中的分布式状态存储数据库,即可实时或周期性地获取部署在第一集群中的待备份的有状态应用对应的全部的资源文件或者发生变化的资源文件。
在本申请实施例中,资源管理器从配置管理器中获取自身配置信息,实现对待备份的有状态应用对应的资源文件进行实时或周期性的监听,并通过第一集群中的API-Server组件访问第一集群中的分布式状态存储数据库,获取待备份的有状态应用对应的全部的资源文件或者发生变化的资源文件。
在一具体的例子中,在基于预设的配置对有状态应用对应的资源文件中指定字段的内容进行修改,具体包括:首先、对预先写入的应用管理资源对象进行解析;然后,根据应用管理资源对象,按顺序对有状态应用对应的资源文件中指定字段的内容进行修改,以符合第二集群的运行要求。
其中,应用管理资源对象(CR)用于指定第二集群和有状态应用对应的资源文件中待修改的字段,以及设置对资源文件中指定字段进行修改的顺序。资源文件既包括声明文件,也包括应用描述文件、配置文件。相应地,指定字段包括声明文件中的存储字段,以及其它资源文件中的IP地址、镜像仓库中的至少一个。
需要说明的是,本申请实施例中,应用管理员可以通过向灾备系统手动写入应用管理资源对象的方式来指定待备份的有状态应用、用于备份的第二集群、有状态应用对应的资源文件中待修改的字段,如果需要修改的指定字段为两处以上,还可以设置对指定字段进行修改的顺序。
本申请实施例的灾备系统的配置管理器中包含自定义应用管理资源(CRD),应用管理员具体可以预先向灾备系统的配置管理器中的自定义应用管理资源写入应用管理资源对象,来指定待备份的有状态应用、用于备份的第二集群、有状态应用对应的资源文件中待修改的字段,以及设置对指定字段进行修改的顺序。
当配置管理器中的自定义应用管理资源接收到应用管理员写入的应用管理资源对象后,由配置管理器具体执行对预先写入的应用管理资源对象进行解析,以确定待备份的有状态应用。
基于前述说明,可以知道,应用管理资源对象指定了用于备份的第二集群、有状态应用对应的资源文件中待修改的字段、对指定字段进行修改的顺序,因此在对应用管理资源对象进行解析后,可以根据应用管理资源对象的内容,确定有状态应用对应的资源文件中待修改的字段、对指定字段进行修改的顺序、用于备份的第二集群,并根据用于备份的第二集群确定待修改的字段经修改后的内容。
如果待修改的字段为IP地址,则先获取第二集群中内网网段下的空闲IP地址,再将资源文件中的IP地址修改为第二集群中内网网段下的IP地址;如果待修改的字段为镜像仓库,则先获取第二集群使用的镜像仓库,再将资源文件中的镜像仓库修改为第二集群所使用的镜像仓库。
在一具体的例子中,根据应用管理资源对象,实例化出至少一个资源修改单元;至少一个资源修改单元组成资源修改流水线,资源修改流水线用于按照指定顺序对指定字段的内容进行修改,每个资源修改单元用于修改对应的指定字段的内容。响应于有状态应用对应的资源文件输入资源修改流水线,按指定顺序对待备份的有状态应用对应的资源文件中的指定字段的内容进行修改。
需要说明的是,本申请实施例中通过资源修改流水线具体执行按顺序对有状态应用对应的资源文件中指定的字段的内容进行修改,资源修改流水线中包括至少一个资源修改单元,每个资源修改单元用于修改对应的指定字段的内容。也就是说,每个资源修改单元与一个待修改的指定字段对应,所有资源修改单元在资源修改单元中所处的位置决定了全部待修改的指定字段的修改顺序,最先修改的指定字段对应的资源修改单元位于资源修改流水线的头部,之后依次顺序排列,最后修改的指定字段对应的资源修改单元位于资源修改流水线的尾部。
在一种特殊的情况下,如果待修改的指定字段只有一个,则资源修改流水线只包括一个资源修改单元;在另一种特殊的情况下,如果没有待修改的指定字段,则资源修改流水线无需对有状态应用对应的资源文件进行修改。
为了执行上述操作,根据应用管理资源对象,实例化出至少一个资源修改单元,本申请实施例通过配置管理器对预先写入的应用管理资源对象进行解析后,将有状态应用对应的资源文件中待修改的字段、待修改的字段经修改后的内容、对指定字段进行修改的顺序传输给容器化部署的资源修改管理器,资源修改管理器根据从配置管理器获取的信息,在资源修改流水线中按顺序实例化出至少一个资源修改单元,并为每个资源修改单元设置对应的待修改的字段、待修改的字段经修改后的内容。
需要说明的是,本申请实施例中的资源修改流水线也是以容器化形式部署在第一集群中的,用于根据资源修改管理器的指示实例化出至少一个资源修改单元,并从资源管理器接收有状态应用对应的资源文件,由资源修改流水线上按顺序设置的资源修改单元对资源文件中指定字段的内容进行修改,使其能够在第二集群中正常运行。
除了上述将声明文件和其它资源文件的修改在同一步骤中完成的实现方式以外,本申请实施例还可以将声明文件和其它资源文件的修改分开进行,即其它资源文件的修改依照前述的修改方式进行,而由资源修改管理器直接对声明文件中的存储字段进行修改。
当第一集群和第二集群分别对应不同的后端存储系统时,当灾备系统的资源管理器获取有状态运用的声明文件后,由资源修改管理器将声明文件中设置的后端存储系统修改为第二集群对应的第二后端存储系统,将声明文件中设置的存储池修改为第二后端存储系统中用于存储同步过来的应用数据的第二存储池,以使其能够在第二集群中运行,如图6所示。
由上述分析可知,当第一集群和第二集群同时对应一个后端存储系统时,只需要对后端存储系统内部的存储池进行同步。此时,存储有状态应用的应用数据的存储池与存储应用副本的应用数据的存储池不同时,资源修改管理器只需要将声明文件中设置的存储池进行修改,以使其能够在第二集群中运行。当有状态应用和应用副本对应一个存储池时,则资源修改管理器不需要对有状态应用的声明文件进行修改,即可在后端存储系统中自动实现有状态应用与应用副本的实时同步。
步骤S103、根据应用副本对应的声明文件的内容,将应用副本与第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
基于前述说明,可知,有状态应用的资源文件和应用数据共同决定了有状态应用的运行状态,为了使部署在备用集群中的该有状态应用的应用副本的运行状态能够与第一集群中该有状态应用保持同步,需要将新的应用数据同步至备用集群对应的后端存储系统中的某个存储池中,并与第二集群中的该有状态应用的应用副本进行绑定,以让备用集群中的该有状态应用的应用副本的运行状态与第一集群中的该有状态应用同步。此外,在某些高可靠的场景下,为了使部署在备用集群中的该有状态应用的应用副本的运行状态能够与第一集群中该有状态应用保持实时同步,需要将新的应用数据实时同步至备用集群对应的后端存储系统中的某个存储池中,并与第二集群中的该有状态应用的应用副本进行绑定,以让备用集群中的该有状态应用的应用副本的运行状态与第一集群中的该有状态应用始终保持一致。
将第二集群对应的后端存储系统中用于存储同步过来的应用数据的存储池与有状态应用的应用副本进行绑定,通过后端存储系统的存储池同步功能,存储后端配置器在确定了备用集群后,就可以根据多个后端存储系统之间的连接关系,配置第一集群对应的后端存储系统与第二集群对应的后端存储系统之间的存储池同步,从而将有状态应用的应用数据同步至第二集群对应的后端存储系统,实现第二集群中的应用副本与第一集群中的有状态应用的应用数据实现同步。
当第二集群为Kubernetes集群时,通过第二集群的API-Server组件,将经过资源修改管理器修改过的有状态应用的声明文件存入第二集群的ETCD,第二集群的CSI组件读取同步过来的声明文件,将第二集群对应的后端存储系统中用于存储同步过来的应用数据的存储池告知Kubelet组件,Kubelet组件根据同步过来的声明文件的内容将应用副本与第二集群对应的后端存系统中用于存储同步过来的应用数据的存储池进行绑定,使得部署在第二集群中的应用副本的应用数据与部署在第一集群中的有状态应用的应用数据同步,如图7所示。
籍此,通过将第一集群中的有状态应用的应用数据同步至第二集群对应的后端存储系统的存储池,并使第二集群中的应用副本与对应的后端存储系统的存储池绑定,实现了第二集群中的应用副本与第一集群中的有状态应用的应用数据的同步;通过对有状态应用对应的声明文件进行解析,确定有状态应用在后端存储系统中对应的存储池,采用零延迟的资源变化事件驱动触发或者周期性触发对产生变化的声明文件进行同步,利用高性能低延迟专线网络实现后端存储系统之间的存储池的同步,以实现应用数据的实时同步,使得第二集群中应用副本的应用数据和第一集群中的有状态应用相比,数据丢失量几乎为零。
在本申请实施中,通过灾备系统中的资源修改管理器,对声明文件中关于存储池绑定的字段进行修改,使得声明文件同步至第二集群后,能够将同步至第二集群对应的后端存储系统的应用数据所在的存储池与应用副本进行绑定;利用多集群管理员和集群管理员写入集群管理资源对象对多集群进行管理,应用管理员通过写入应用管理资源对象指定有状态应用的备用集群、配置声明文件和应用数据的同步执行过程,有效提高了整个灾备系统的高效管理和风险控制。
示例性系统
图8为根据本申请的一些实施例提供的一种有状态应用的跨集群备份系统的结构示意图;如图8所示,该有状态应用的跨集群备份系统部署在第一集群中,具体包括:
第一绑定单元801,配置为对部署在第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定第一集群对应的后端存储系统中与有状态应用绑定的存储池。
同步单元802,配置为将有状态应用对应的资源文件同步至第二集群,以在第二集群中部署有状态应用的应用副本。其中,资源文件包括声明文件。
第二绑定单元803,配置为根据应用副本对应的声明文件的内容,将应用副本与第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
本申请实施例提供的有状态应用的跨集群备份系统能够实现上述任一有状态应用的跨集群备份方法实施例的步骤、流程,并达到相同的技术效果,在此不再一一赘述。
示例性设备
图9为根据本申请的一些实施例提供的电子设备的结构示意图;如图9所示,该电子设备包括:
一个或多个处理器901;
计算机可读介质,可以配置为存储一个或多个程序902,一个或多个处理器901执行一个或多个程序902时,实现如下步骤:对部署在第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定第一集群对应的后端存储系统中与有状态应用绑定的存储池;将有状态应用对应的资源文件同步至第二集群,以在第二集群中部署有状态应用的应用副本;其中,资源文件包括声明文件;根据应用副本对应的声明文件的内容,将应用副本与第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
图10为根据本申请的一些实施例提供的电子设备的硬件结构;如图10所示,该电子设备的硬件结构可以包括:处理器1001、通信接口1002、计算机可读介质1003和通信总线1004。
其中,处理器1001、通信接口1002、计算机可读存储介质1003通过通信总线1004完成相互间的通信。
可选地,通信接口1002可以为通信模块的接口,如GSM模块的接口。
其中,处理器1001具体可以配置为:对部署在第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定第一集群对应的后端存储系统中与有状态应用绑定的存储池;将有状态应用对应的资源文件同步至第二集群,以在第二集群中部署有状态应用的应用副本;其中,资源文件包括声明文件;根据应用副本对应的声明文件的内容,将应用副本与第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
处理器1001可以是通用处理器,包括中央处理器(central processing unit,简称CPU)、网络处理器(Network Processor,简称NP)等,还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本申请实施例的电子设备以多种形式存在,包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能,并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如:iPhone)、多媒体手机、功能性手机,以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴,有计算和处理功能,一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等,例如iPad。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如:iPod),掌上游戏机,电子书,以及智能玩具和便携式车载导航设备。
(4)服务器:提供计算服务的设备,服务器的构成包括处理器、硬盘、内存、系统总线等,服务器和通用的计算机架构类似,但是由于需要提供高可靠的服务,因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。
(5)其他具有数据交互功能的电子装置。
需要指出,根据实施的需要,可将本申请实施例中描述的各个部件/步骤拆分为更多部件/步骤,也可以将两个或多个部件/步骤或者部件/步骤的部分操作组合成新的部件/步骤,以实现本申请实施例的目的。
上述根据本申请实施例的方法可在硬件、固件中实现,或者被实现为可存储在记录介质(诸如CD ROM、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码,或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器存储介质中并将被存储在本地记录介质中的计算机代码,从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如ASIC或FPGA)的记录介质上的这样的软件处理。可以理解,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如,RAM、ROM、闪存等),当软件或计算机代码被计算机、处理器或硬件访问且执行时,实现在此描述的有状态应用的跨集群备份方法。此外,当通用计算机访问用于实现在此示出的方法的代码时,代码的执行将通用计算机转换为用于执行在此示出的方法的专用计算机。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及方法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和涉及约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请实施例的范围。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其它实施例的不同之处。尤其,对于设备及系统实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。
以上所描述得设备及系统实施例仅仅是示意性的,其中作为分离不见说明的单元可以使或者也可以不是物理上分开的,作为单元提示的不见可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上仅为本申请的优选实施例,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种有状态应用的跨集群备份方法,其特征在于,所述方法由部署在第一集群中的灾备系统执行,所述有状态应用的跨集群备份方法包括:
对部署在所述第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池;
将所述有状态应用对应的资源文件同步至第二集群,以在所述第二集群中部署所述有状态应用的应用副本;其中,所述资源文件包括所述声明文件;
根据所述应用副本对应的声明文件的内容,将所述应用副本与所述第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
2.根据权利要求1所述的有状态应用的跨集群备份方法,其特征在于,所述第一集群对应于第一后端存储系统,所述第二集群对应于第二后端存储系统,所述有状态应用对应于所述第一后端存储系统中的第一存储池,所述应用副本对应于所述第二后端存储系统中的第二存储池;
在将所述有状态应用对应的资源文件同步至第二集群之前,还包括:
将所述有状态应用对应的声明文件中的存储字段配置为所述第二存储池;所述存储字段用于指定所述应用数据的存储位置。
3.根据权利要求2所述的有状态应用的跨集群备份方法,其特征在于,在确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池之后,还包括:
通过所述第一后端存储系统的API接口,在所述第一存储池与所述第二存储池之间建立映射关系,以将所述第一存储池中存储的所述有状态应用对应的应用数据同步至所述第二存储池。
4.根据权利要求3所述的有状态应用的跨集群备份方法,其特征在于,所述通过所述第一后端存储系统的API接口,在所述第一存储池与所述第二存储池之间建立映射关系,具体包括:
确定所有后端存储系统之间的网络通信拓扑关系;所述网络通信拓扑关系包括所述第一后端存储系统和所述第二后端存储系统之间的网络通信连接关系;
通过所述第一后端存储系统的API接口,将所述第一存储池中存储的所述有状态应用对应的应用数据同步至所述第二后端存储系统;
通过所述第一后端存储系统的API接口,接收所述第二后端存储系统选定的所述第二存储池的相关信息,以在所述第一存储池与所述第二存储池之间建立映射关系。
5.根据权利要求1所述的有状态应用的跨集群备份方法,其特征在于,所述第一集群和所述第二集群都对应于同一后端存储系统,所述有状态应用和所述应用副本均对应于所述后端存储系统中的同一存储池,
所述将所述有状态应用对应的资源文件同步至第二集群,包括:
基于预设的配置对所述有状态应用对应的资源文件中指定字段的内容进行修改;所述资源文件包括应用描述文件、配置文件中的至少一种;
将修改后的所述有状态应用对应的资源文件同步至所述第二集群。
6.根据权利要求1-5中任一项所述的有状态应用的跨集群备份方法,其特征在于,所述有状态应用的跨集群备份方法还包括:
对所述有状态应用对应的资源文件进行监听;
响应于所述有状态应用对应的资源文件的内容发生变化,将变化后的所述有状态应用对应的资源文件同步至第二集群。
7.根据权利要求6所述的有状态应用的跨集群备份方法,其特征在于,所述对所述有状态应用对应的资源文件进行监听,包括:
与所述第一集群中的API-Server组件之间建立长连接;
通过所述长连接对所述有状态应用对应的资源文件的变化事件进行监听,确定所述有状态应用对应的资源文件的内容是否发生变化;
或者,
周期性地访问所述第一集群中的API-Server组件,获取所述有状态应用对应的资源文件,以主动检测所述有状态应用对应的资源文件是否发生变化。
8.一种有状态应用的跨集群备份系统,其特征在于,所述系统部署在第一集群中,所述有状态应用的跨集群备份系统包括:
第一绑定单元,配置为对部署在所述第一集群中的待备份的有状态应用对应的声明文件进行解析,以确定所述第一集群对应的后端存储系统中与所述有状态应用绑定的存储池;
同步单元,配置为将所述有状态应用对应的资源文件同步至第二集群,以在所述第二集群中部署所述有状态应用的应用副本;其中,所述资源文件包括所述声明文件;
第二绑定单元,配置为根据所述应用副本对应的声明文件的内容,将所述应用副本与所述第二集群对应的后端存储系统中用于存储应用数据的存储池进行绑定。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序为如权利要求1-7任一所述的有状态应用的跨集群备份方法。
10.一种电子设备,其特征在于,包括:存储器、处理器、以及存储在所述存储器中并可在所述处理器上运行的程序,所述处理器执行所述程序时实现如权利要求1-7任一所述的有状态应用的跨集群备份方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210168779.2A CN114546725A (zh) | 2022-02-23 | 2022-02-23 | 一种有状态应用的跨集群备份方法、系统、介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210168779.2A CN114546725A (zh) | 2022-02-23 | 2022-02-23 | 一种有状态应用的跨集群备份方法、系统、介质和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114546725A true CN114546725A (zh) | 2022-05-27 |
Family
ID=81678112
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210168779.2A Pending CN114546725A (zh) | 2022-02-23 | 2022-02-23 | 一种有状态应用的跨集群备份方法、系统、介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114546725A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115098301A (zh) * | 2022-07-13 | 2022-09-23 | 上海道客网络科技有限公司 | 一种云原生场景下有状态应用的快照生成方法和系统 |
-
2022
- 2022-02-23 CN CN202210168779.2A patent/CN114546725A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115098301A (zh) * | 2022-07-13 | 2022-09-23 | 上海道客网络科技有限公司 | 一种云原生场景下有状态应用的快照生成方法和系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11226847B2 (en) | Implementing an application manifest in a node-specific manner using an intent-based orchestrator | |
CN109347675B (zh) | 服务器配置方法、装置以及电子设备 | |
EP2834759B1 (en) | Telemetry system for a cloud synchronization system | |
CN107111533B (zh) | 虚拟机集群备份 | |
US9992074B2 (en) | Granular permission assignment | |
US9405630B2 (en) | Methods and apparatus to perform site recovery of a virtual data center | |
US9292278B2 (en) | Providing high availability for state-aware applications | |
CN114079615B (zh) | 一种多集群环境下的应用同步方法、系统、介质和电子设备 | |
CN106452836B (zh) | 主节点设置方法及装置 | |
CN111212111A (zh) | 对象存储服务管理方法及电子设备 | |
CN109471647B (zh) | 一种数据的更新方法、装置、电子设备及可读介质 | |
CN108319492B (zh) | 复位物理机的方法、装置与系统 | |
CN113467873A (zh) | 虚拟机的调度方法、装置、电子设备及存储介质 | |
CN114546725A (zh) | 一种有状态应用的跨集群备份方法、系统、介质和电子设备 | |
CN114356504A (zh) | 集群中数据迁移方法、装置、电子设备和存储介质 | |
CN112035062B (zh) | 云计算的本地存储的迁移方法、计算机设备及存储介质 | |
CN111581285B (zh) | 数据信息的同步方法、装置、电子设备和介质 | |
CN114398208A (zh) | 一种无状态应用的跨集群备份方法、系统、介质和设备 | |
CN115098301B (zh) | 一种云原生场景下有状态应用的快照生成方法和系统 | |
CN111177260A (zh) | 数据库远程复制方法、装置及电子设备 | |
CN114281600A (zh) | 一种容灾备份和容灾恢复方法、装置、设备及存储介质 | |
US11290318B2 (en) | Disaster recovery of cloud resources | |
US11630742B2 (en) | System and method of performing recovery using a backup image | |
CN115080309A (zh) | 数据备份系统、方法、存储介质以及电子设备 | |
CN108573049B (zh) | 数据处理方法和分布式存储装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |