CN116483605A - 数据处理方法、装置、系统、存储介质及电子设备 - Google Patents

数据处理方法、装置、系统、存储介质及电子设备 Download PDF

Info

Publication number
CN116483605A
CN116483605A CN202310431379.0A CN202310431379A CN116483605A CN 116483605 A CN116483605 A CN 116483605A CN 202310431379 A CN202310431379 A CN 202310431379A CN 116483605 A CN116483605 A CN 116483605A
Authority
CN
China
Prior art keywords
server
cluster
data
processed
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310431379.0A
Other languages
English (en)
Inventor
杨诚
许明珍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202310431379.0A priority Critical patent/CN116483605A/zh
Publication of CN116483605A publication Critical patent/CN116483605A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0709Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079Root cause analysis, i.e. error or fault diagnosis
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种数据处理方法、装置、系统、存储介质及电子设备。涉及大数据领域。该方法包括:解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。通过本申请,解决了相关技术中一套K8S集群对应一套etcd集群,存在运维压力大的问题。

Description

数据处理方法、装置、系统、存储介质及电子设备
技术领域
本申请涉及大数据领域,具体而言,涉及一种数据处理方法、装置、系统、存储介质及电子设备。
背景技术
随着K8S集群的规模和数量的大幅增长,作为K8S集群中的关键数据kv存储节点,etcd本身的稳定和可靠性显得格外重要。
当前由于K8S集群与etcd集群之间的关系为一套K8S集群对应一套etcd集群,因此,当etcd集群故障时,由于etcd集群的备用集群通常也使用相同厂商的设备,因此,在该厂商的云服务出现异常的情况下,该厂商下的全部etcd设备均无法使用,此时,对应的K8S集群就完全故障了,没有冗余的资源能保证容错。
另外,通过上述方式设置etcd集群,所需要管理的etcd集群规模太大,在大型企业中,往往K8S集群规模达到上百乃至上千,支撑如此大规模的K8S集群也就需要相同规模的etcd集群,这样造成了运维压力成倍增大。
针对相关技术中上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请提供一种数据处理方法、装置、系统、存储介质及电子设备,以解决相关技术中一套K8S集群对应一套etcd集群,存在运维压力大的问题。
根据本申请的一个方面,提供了一种数据处理方法。该方法包括:解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。
可选地,属性信息包括目标命名空间,根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,包括:在M个服务器集群中确定每个服务器集群用于存储数据的命名空间,得到M个命名空间集合,其中,M为正整数;确定目标命名空间所属的命名空间集合,得到目标命名空间集合,并将目标命名空间集合对应的服务器集群确定为目标服务器集群。
可选地,将目标命名空间集合对应的服务器集群确定为目标服务器集群,包括:在目标命名空间集合对应的服务器集群的数量大于1的情况下,将目标命名空间集合对应的服务器集群确定为候选服务器集群集合;根据预设主备关系将候选服务器集群中的主服务器集群确定为目标服务器集群,其中,预设主备关系为主服务器集群及其关联的备用服务器集群之间的关系;在候选服务器集群中的主服务器集群中不存在指令内容指示的待处理数据的情况下,在候选服务器集群集合中的任意一个备用服务器集群中获取待处理数据。
可选地,属性信息还包括目标容器名称和关键字,将待处理数据所属的服务器集群确定为目标服务器集群之后,该方法还包括:判断目标服务器集群中是否存在名称为目标容器名称的待处理容器;在存在名称为目标容器名称的待处理容器的情况下,判断待处理容器中是否存储关键字;在待处理容器中存储关键字的情况下,根据键值对关系确定关键字对应的关键值,并将关键值确定为待处理数据。
可选地,将待处理数据所属的服务器集群确定为目标服务器集群之后,该方法还包括:识别目标服务器集群中的每个服务器的服务器状态;判断服务器状态中是否存在异常状态;在存在异常状态的情况下,将服务器状态为异常状态的服务器确定为异常服务器,并确定异常服务器的目标服务器属性;从冗余服务器集群中获取服务器属性与目标服务器属性不同的目标冗余服务器;使用目标冗余服务器替换异常服务器,得到更新后的目标服务器集群。
可选地,使用目标冗余服务器替换异常服务器,得到更新后的目标服务器集群,包括:关闭异常服务器,并将目标冗余服务器添加至目标服务器集群中;确定与目标服务器集群相关联的备用服务器集群,并在备用服务器集群中确定与异常服务器相关联的备用服务器,得到第一备用服务器;删除目标冗余服务器中的初始数据,并将第一备用服务器中存储的数据同步至目标冗余服务器中,得到更新后的目标服务器集群。
可选地,属性信息包括第一集群的集群名称,根据操作指令中的处理方式对待处理数据进行处理,包括:在处理方式为获取待处理数据的情况下,根据集群名称将待处理数据发送至第一集群;在处理方式为删除待处理数据的情况下,删除目标服务器集群中的待处理数据,以及删除与目标服务器集群相关联的备用服务器集群中的待处理数据;在处理方式为修改待处理数据的情况下,根据指令内容中携带的修改信息对待处理数据进行修改。
根据本申请的另一方面,提供了一种数据处理装置。该装置包括:解析模块,用于解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;确定模块,用于根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;处理模块,用于在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。
根据本申请的又一方面,提供了一种数据处理系统。该系统包括:第一集群层、服务器集群层、集群管理单元和集群检测单元,其中,集群管理单元,用于解析第一集群层中的第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群分别为第一集群层和服务器集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理;集群检测单元,用于检测服务器集群中的服务器状态。
根据本发明的又一方面,还提供了一种计算机存储介质,计算机存储介质用于存储程序,其中,程序运行时控制计算机存储介质所在的设备执行上述数据处理方法。
根据本发明的又一方面,还提供了一种电子设备,包含一个或多个处理器和存储器;存储器用于存储一个或多个程序,其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现上述数据处理方法。
通过本申请,采用以下步骤:解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理,解决了相关技术中一套K8S集群对应一套etcd集群,存在运维压力大的问题。进而达到了降低因宕机导致集群不可用的事故风险的效果。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例提供的数据处理系统的示意图;
图2是根据本申请实施例提供的数据处理方法的流程图;
图3是根据本申请实施例提供的数据处理装置的示意图;
图4为根据本申请实施例提供的一种电子设备的示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
需要说明的是,本申请所涉及的相关信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于展示的数据、分析的数据等),均为经用户授权或者经过各方充分授权的信息和数据。例如,本系统和相关用户或机构间设置有接口,在获取相关信息之前,需要通过接口向前述的用户或机构发送获取请求,并在接收到前述的用户或机构反馈的同意信息后,获取相关信息。
需要说明的是,本申请所确定的数据处理方法、装置、系统、存储介质及电子设备可用于大数据领域,也可用于除大数据领域之外的任意领域,本申请所确定的数据处理方法、装置、系统、存储介质及电子设备的应用领域不做限定。
为了便于描述,以下对本申请实施例涉及的部分名词或术语进行说明:
Etcd是一个分布式、可靠的键值存储数据库系统。名称etcd来自unix的配置目录“etc”和“d”分布之系统。
K8S:全称为Kubernetes,是用于自动部署,扩展和管理容器化应用程序的开源系统。
Pod:是由一个或一个以上的容器组成的容器集合,且具有共享存储/网络/UTS/PID的能力,以及运行容器的规范,在Kubernetes中,Pod是最小的可被调度的原子单位。
图1是根据本申请实施例提供的数据处理系统的示意图,在本实施例中,如图1所示,以一种可选的数据处理系统为执行主体,执行前述的数据处理方法,该数据处理系统包括:第一集群层101、服务器集群层103、集群管理单元102和集群检测单元104,其中,第一集群层101中包括多个第一集群,服务器集群层103包括多个服务器集群,集群管理单元102与集群检测单元104组成集群控制模组。
其中,集群管理单元102,用于解析第一集群层中的第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群分别为第一集群层和服务器集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理;
集群检测单元104,用于检测服务器集群中的服务器状态。
上述数据处理系统的运行流程为:第一集群层101中可以包括多个第一集群,第一集群可以为K8S集群,服务器集群层103中可以包括多个服务器集群,服务器集群可以为etcd集群。在集群管理单元102接收到第一集群层101中的任意一个或多个K8S集群发出的指令信息后,可以将多个指令信息分别进行解析,得到多个指令内容,并按照指令内容的接收顺序依次执行每个指令内容指示的操作。
具体的,在第一集群1,也即K8S集群1发送的指令内容为K8S集群cluster1查找namespaceA下的podA资源时,可以对指令内容进行拆分,得到属性信息为:K8S集群cluster1、namespaceA、podA资源,操作指令为查找指令,此时,可以根据属性信息在服务器集群层103中确定存储有namespaceA相关资源内容的服务器集群,也即etcd集群,得到目标服务器集群1,此时,可以在目标服务器集群1中查找podA资源,并在成功查找到podA资源的情况下,将podA资源根据K8S集群1的名称cluster1反馈至K8S集群1中,从而完成数据的查找操作。通过上述方式,无需为每个K8S集群设置一一对应的etcd集群,进而达到了减少etcd集群数量、提高运维效率的效果。
进一步的,还可以通过集群检测单元104实时对服务器集群层103中的每个服务器集群进行检测,并在检测出异常服务器的情况下及时对异常服务器进行处理,进而达到了保证数据查找的准确性,以及服务器集群的高可用性的效果。
根据本申请的实施例,还提供了一种数据处理方法。图2是根据本申请实施例提供的数据处理方法的流程图。如图2所示,该方法包括以下步骤:
步骤S201,解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式。
具体的,第一集群可以为K8S集群层中的任意一个K8S集群,其中,K8S集群层中部署有多个K8S集群,集群控制模组中的集群管理单元在接收到任意一个K8S集群发送的指令信息后,可以对指令信息进行解析,得到其中的指令内容。
需要说明的是,K8S集群层中部署有多个K8S集群,因此,在集群管理单元接收到多个K8S集群同时发送的指令信息后,可以将多个指令信息分别进行解析,得到多个指令内容,并按照指令内容的接收顺序依次执行每个指令内容指示的操作。
进一步的,在接收到指令信息后,需要将指令信息解析为指令内容,其中,指令内容可以包括属性信息和操作指令,其中,属性信息可以为待处理数据的信息,例如,待处理数据的存储位置等,操作指令可以为需要对待处理数据执行的操作,例如删除、修改、查询等。
例如,指令内容可以为:K8S集群cluster1查找namespaces A下的pod/A资源,其中,namespaces A、pod/A为属性信息,“查找”为操作指令。
步骤S202,根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群。
具体的,在得到属性信息后,可以根据属性信息在服务器集群层中确定存储有该属性信息的服务器集群,其中,服务器集群可以为etcd集群,服务器集群层中可以包括多个服务器集群,每个服务器集群中可以存储不同的数据,因此,可以根据属性信息确定存储有待处理数据的目标服务器集群,从而在目标服务器集群中对待处理数据进行对应操作。
步骤S203,在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。
具体的,在目标服务器集群中存在待处理数据的情况下,则可以根据操作指令对待处理数据进行处理,例如,删除待处理数据、修改待处理数据、将待处理数据反馈至K8S集群等操作。
本申请实施例提供的数据处理方法,通过解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理,解决了相关技术中一套K8S集群对应一套etcd集群,存在运维压力大的问题。进而达到了降低因宕机导致集群不可用的事故风险的效果。
可选地,在本申请实施例提供的数据处理方法中,属性信息包括目标命名空间,根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,包括:在M个服务器集群中确定每个服务器集群用于存储数据的命名空间,得到M个命名空间集合,其中,M为正整数;确定目标命名空间所属的命名空间集合,得到目标命名空间集合,并将目标命名空间集合对应的服务器集群确定为目标服务器集群。
需要说明的是,命名空间也即namespaces,是许多编程语言使用的一种代码组织的形式,通过命名空间来分类,区别不同的代码功能或数据,避免在使用代码或数据的时候由于不同内容间的相同而造成冲突。
进一步的,为了保证不同的服务器集群之间存储的数据不同,因此,可以通过区分命名空间的方式区分不同服务器集群之间存储的数据,从而保证数据不会重复存储。例如,服务器集群1中存储的命名空间为“namespaceA-B”,服务器集群2中存储的命名空间为“namespaceC-D”等,从而可以根据数据中的某个位置的英文字母对数据进行区分,使得服务器集群1和服务器集群2中不会存储相同数据,提高了每个服务器集群的存储空间使用效率。
具体的,在得到属性信息后,可以根据属性信息中的目标命名空间确定待处理数据所属的位置。例如,目标命名空间可以为namespaceC,则根据上述例子中的分类方式,可以根据属性信息确定目标服务器集群为服务器集群2。
可选地,在本申请实施例提供的数据处理方法中,将目标命名空间集合对应的服务器集群确定为目标服务器集群,包括:在目标命名空间集合对应的服务器集群的数量大于1的情况下,将目标命名空间集合对应的服务器集群确定为候选服务器集群集合;根据预设主备关系将候选服务器集群中的主服务器集群确定为目标服务器集群,其中,预设主备关系为主服务器集群及其关联的备用服务器集群之间的关系;在候选服务器集群中的主服务器集群中不存在指令内容指示的待处理数据的情况下,在候选服务器集群集合中的任意一个备用服务器集群中获取待处理数据。
需要说明的是,为了提高服务器集群的高可用性,可以将两个或多个服务器集群分为一组,并从中确定一个主服务器集群,剩余的服务器集群为备用服务器集群,每组服务器集群中的每个服务器集群中存储的数据相同,例如,服务器集群1.1和服务器集群1.2为一组互为预设主备关系的服务器集群组,则服务器集群1.1和服务器集群1.2中存储的数据完全相同,从而通过上述备份方式提高了高可用性。
具体的,在目标命名空间集合对应的服务器集群的数量大于1的情况下,表征主服务器集群和备用服务器集群中均存在目标命名空间,此时,可以将目标命名空间集合对应的服务器集群确定为候选服务器集群集合,也即主和备用服务器集群,此时,可以根据预设主备关系先将主服务器集群确定为目标服务器集群,并在主服务器集群中对待处理数据进行处理。
进一步的,在主服务器集群中不存在待处理数据的情况下,表征主服务器此时可能存在异常,例如数据丢失等现象,此时,可以根据主备关系将对应的备用数据库集群确定为目标数据库集群,并从备用数据库集群中对待处理数据进行处理。
需要说明的是,不论在主服务器集群中对待处理数据进行处理,还是在备用服务器集群中对待处理数据进行处理之后,均需要在对应的备用服务器集群或是主服务器集群中对待处理数据进行相同操作,也即数据同步,从而保证存在关联关系的主服务器集群和备用服务器集群中的数据相同。
可选地,在本申请实施例提供的数据处理方法中,属性信息还包括目标容器名称和关键字,将待处理数据所属的服务器集群确定为目标服务器集群之后,该方法还包括:判断目标服务器集群中是否存在名称为目标容器名称的待处理容器;在存在名称为目标容器名称的待处理容器的情况下,判断待处理容器中是否存储关键字;在待处理容器中存储关键字的情况下,根据键值对关系确定关键字对应的关键值,并将关键值确定为待处理数据。
具体的,在确定了目标服务器集群之后,可以先根据容器名称确定目标服务器集群中是否存在相同名称的容器,例如,在目标服务器集群中查询Pod/A,在存在Pod/A的情况下,还可以根据key-value关系,也即关键字-关键值关系,根据属性信息中的关键字查询关键值,此时,查询到的关键值也即待处理数据,从而达到根据key-value关系准确确定待处理数据的效果。
可选地,在本申请实施例提供的数据处理方法中,将待处理数据所属的服务器集群确定为目标服务器集群之后,该方法还包括:识别目标服务器集群中的每个服务器的服务器状态;判断服务器状态中是否存在异常状态;在存在异常状态的情况下,将服务器状态为异常状态的服务器确定为异常服务器,并确定异常服务器的目标服务器属性;从冗余服务器集群中获取服务器属性与目标服务器属性不同的目标冗余服务器;使用目标冗余服务器替换异常服务器,得到更新后的目标服务器集群。
具体的,由于服务器集群中的服务器可能出现异常,因此,在确定了目标服务器集群后,可以对目标服务器集群中的每个服务器进行检测,可以通过集群控制模组中的集群检测单元对服务器的状态进行检测,在某个服务器为异常状态的情况下,可以将该异常服务器移除集群,并在冗余服务器集群中找到和异常服务器的目标服务器属性不相同的服务器,例如,异常服务器的生产厂商为A,则可以在冗余服务器集群中获取生产厂商为B的冗余服务器,得到目标冗余服务器,并使用目标冗余服务器替换目标服务器集群中的异常服务器,根据目标冗余服务器重新搭建目标服务器集群,得到更新后的目标服务器集群,从而可以根据更新后的目标服务器集群执行后续流程,从而保证数据处理流程的正常运行。
需要说明的是,目标冗余服务器可以为满足条件的任意一个冗余服务器,例如,在条件为与异常服务器的生产厂商不同的情况下,可以将符合该条件的任意冗余服务器确定为目标冗余服务器。
可选地,在本申请实施例提供的数据处理方法中,使用目标冗余服务器替换异常服务器,得到更新后的目标服务器集群,包括:关闭异常服务器,并将目标冗余服务器添加至目标服务器集群中;确定与目标服务器集群相关联的备用服务器集群,并在备用服务器集群中确定与异常服务器相关联的备用服务器,得到第一备用服务器;删除目标冗余服务器中的初始数据,并将第一备用服务器中存储的数据同步至目标冗余服务器中,得到更新后的目标服务器集群。
具体的,在使用目标冗余服务器替换异常服务器时,首先需要关闭异常服务器,并将异常服务器从集群中删除,并将目标冗余服务器添加至目标服务器集群中。由于此时目标冗余服务器中的数据不正确,因此还需要根据主备关系确定与目标服务器集群相关联的备用服务器集群,从而可以从备用服务器集群中获取到与异常服务器相对应,也即,存储数据完全相同的服务器,得到第一备用服务器,此时,将目标冗余服务器中的数据全部删除,并将第一备用服务器中的数据全部同步至目标冗余服务器中,进而完成目标冗余服务器的数据更新,也即完成对目标服务器集群的更新。
可选地,在本申请实施例提供的数据处理方法中,属性信息包括第一集群的集群名称,根据操作指令中的处理方式对待处理数据进行处理,包括:在处理方式为获取待处理数据的情况下,根据集群名称将待处理数据发送至第一集群;在处理方式为删除待处理数据的情况下,删除目标服务器集群中的待处理数据,以及删除与目标服务器集群相关联的备用服务器集群中的待处理数据;在处理方式为修改待处理数据的情况下,根据指令内容中携带的修改信息对待处理数据进行修改。
具体的,在获取待处理数据的情况下,可以根据集群名称将待处理数据发送至第一集群,例如,集群名称可以为“cluster1”,则可以根据“cluster1”将获取到的待处理数据通过集群控制模组中的集群管理单元发送至“cluster1”中。
进一步的,在删除待处理数据的情况下,不仅需要将目标服务器集群中的待处理数据进行删除,还需要删除与目标服务器集群相关联的备用服务器集群中的待处理数据,或者,在目标服务器集群为备用服务器集群的情况下,也要在对应的主服务器集群中进行相应操作。例如,将etcd1.1集群(主服务器集群)中的PodA数据删除,则etcd1.1集群对应的etcd1.2集群(备用服务器集群)中也要同样删除PodA数据,从而保证主备数据库集群中的数据同步。
同样的,在修改待处理数据的情况下,在目标服务器集群中对待处理数据进行修改后,同样也要对关联的主或备用数据库集群中的相同数据进行相同的修改,从而保证数据同步,此处不再赘述。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例还提供了一种数据处理装置,需要说明的是,本申请实施例的数据处理装置可以用于执行本申请实施例所提供的用于数据处理方法。以下对本申请实施例提供的数据处理装置进行介绍。
图3是根据本申请实施例提供的数据处理装置的示意图。如图3所示,该装置包括:
解析模块301,用于解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;
确定模块302,用于根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;
处理模块303,用于在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。
可选地,属性信息包括目标命名空间,在本申请实施例提供的数据处理装置中的确定模块中,该确定模块还用于在M个服务器集群中确定每个服务器集群用于存储数据的命名空间,得到M个命名空间集合,其中,M为正整数;确定目标命名空间所属的命名空间集合,得到目标命名空间集合,并将目标命名空间集合对应的服务器集群确定为目标服务器集群。
可选地,确定模块还用于在目标命名空间集合对应的服务器集群的数量大于1的情况下,将目标命名空间集合对应的服务器集群确定为候选服务器集群集合;根据预设主备关系将候选服务器集群中的主服务器集群确定为目标服务器集群,其中,预设主备关系为主服务器集群及其关联的备用服务器集群之间的关系;在候选服务器集群中的主服务器集群中不存在指令内容指示的待处理数据的情况下,在候选服务器集群集合中的任意一个备用服务器集群中获取待处理数据。
可选地,属性信息还包括目标容器名称和关键字,在本申请实施例提供的数据处理装置中的确定模块中,该确定模块还用于判断目标服务器集群中是否存在名称为目标容器名称的待处理容器;在存在名称为目标容器名称的待处理容器的情况下,判断待处理容器中是否存储关键字;在待处理容器中存储关键字的情况下,根据键值对关系确定关键字对应的关键值,并将关键值确定为待处理数据。
可选地,在本申请实施例提供的数据处理装置中的确定模块中,该确定模块还用于识别目标服务器集群中的每个服务器的服务器状态;判断服务器状态中是否存在异常状态;在存在异常状态的情况下,将服务器状态为异常状态的服务器确定为异常服务器,并确定异常服务器的目标服务器属性;从冗余服务器集群中获取服务器属性与目标服务器属性不同的目标冗余服务器;使用目标冗余服务器替换异常服务器,得到更新后的目标服务器集群。
可选地,该确定模块还用于关闭异常服务器,并将目标冗余服务器添加至目标服务器集群中;确定与目标服务器集群相关联的备用服务器集群,并在备用服务器集群中确定与异常服务器相关联的备用服务器,得到第一备用服务器;删除目标冗余服务器中的初始数据,并将第一备用服务器中存储的数据同步至目标冗余服务器中,得到更新后的目标服务器集群。
可选地,属性信息包括第一集群的集群名称,在本申请实施例提供的数据处理装置中的处理模块中,该处理模块用于在处理方式为获取待处理数据的情况下,根据集群名称将待处理数据发送至第一集群;在处理方式为删除待处理数据的情况下,删除目标服务器集群中的待处理数据,以及删除与目标服务器集群相关联的备用服务器集群中的待处理数据;在处理方式为修改待处理数据的情况下,根据指令内容中携带的修改信息对待处理数据进行修改。
本申请实施例提供的数据处理装置,通过解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理,解决了相关技术中一套K8S集群对应一套etcd集群,存在运维压力大的问题。进而达到了降低因宕机导致集群不可用的事故风险的效果。
上述数据处理装置包括处理器和存储器,上述解析模块、确定模块、处理模块等均作为程序单元存储在存储器中,由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
处理器中包含内核,由内核去存储器中调取相应的程序单元。内核可以设置一个或以上,通过调整内核参数来达到降低因宕机导致集群不可用的事故风险的效果。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM),存储器包括至少一个存储芯片。
本发明实施例提供了一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现上述数据处理方法。
本发明实施例提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行上述数据处理方法。
如图4所示,本发明实施例提供了一种电子设备,电子设备40包括处理器、存储器及存储在存储器上并可在处理器上运行的程序,处理器执行程序时实现以下步骤:解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。本文中的设备可以是服务器、PC、PAD、手机等。
本申请还提供了一种计算机程序产品,当在数据处理设备上执行时,适于执行初始化有如下方法步骤的程序:解析第一集群发送的指令信息,得到指令内容,其中,指令内容中包括待处理数据的属性信息和操作指令,操作指令用于表征对待处理数据进行处理的处理方式;根据属性信息,将待处理数据所属的服务器集群确定为目标服务器集群,其中,第一集群和服务器集群为不同集群层中不同类型的独立集群;在目标服务器集群中存在待处理数据的情况下,根据操作指令中的处理方式对待处理数据进行处理。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种数据处理方法,其特征在于,包括:
解析第一集群发送的指令信息,得到指令内容,其中,所述指令内容中包括待处理数据的属性信息和操作指令,所述操作指令用于表征对待处理数据进行处理的处理方式;
根据所述属性信息,将所述待处理数据所属的服务器集群确定为目标服务器集群,其中,所述第一集群和所述服务器集群为不同集群层中不同类型的独立集群;
在所述目标服务器集群中存在所述待处理数据的情况下,根据所述操作指令中的处理方式对所述待处理数据进行处理。
2.根据权利要求1所述的方法,其特征在于,所述属性信息包括目标命名空间,根据所述属性信息,将所述待处理数据所属的服务器集群确定为目标服务器集群,包括:
在M个服务器集群中确定每个服务器集群用于存储数据的命名空间,得到M个命名空间集合,其中,M为正整数;
确定所述目标命名空间所属的命名空间集合,得到目标命名空间集合,并将所述目标命名空间集合对应的服务器集群确定为所述目标服务器集群。
3.根据权利要求2所述的方法,其特征在于,将所述目标命名空间集合对应的服务器集群确定为所述目标服务器集群,包括:
在所述目标命名空间集合对应的服务器集群的数量大于1的情况下,将所述目标命名空间集合对应的服务器集群确定为候选服务器集群集合;
根据预设主备关系将所述候选服务器集群中的主服务器集群确定为所述目标服务器集群,其中,所述预设主备关系为主服务器集群及其关联的备用服务器集群之间的关系;
在所述候选服务器集群中的主服务器集群中不存在所述指令内容指示的待处理数据的情况下,在所述候选服务器集群集合中的任意一个备用服务器集群中获取所述待处理数据。
4.根据权利要求1所述的方法,其特征在于,所述属性信息还包括目标容器名称和关键字,将所述待处理数据所属的服务器集群确定为目标服务器集群之后,所述方法还包括:
判断所述目标服务器集群中是否存在名称为所述目标容器名称的待处理容器;
在存在名称为所述目标容器名称的待处理容器的情况下,判断所述待处理容器中是否存储所述关键字;
在所述待处理容器中存储所述关键字的情况下,根据键值对关系确定所述关键字对应的关键值,并将所述关键值确定为所述待处理数据。
5.根据权利要求1所述的方法,其特征在于,将所述待处理数据所属的服务器集群确定为目标服务器集群之后,所述方法还包括:
识别所述目标服务器集群中的每个服务器的服务器状态;
判断所述服务器状态中是否存在异常状态;
在存在所述异常状态的情况下,将所述服务器状态为所述异常状态的服务器确定为异常服务器,并确定所述异常服务器的目标服务器属性;
从冗余服务器集群中获取服务器属性与所述目标服务器属性不同的目标冗余服务器;
使用所述目标冗余服务器替换所述异常服务器,得到更新后的目标服务器集群。
6.根据权利要求5所述的方法,其特征在于,使用所述目标冗余服务器替换所述异常服务器,得到更新后的目标服务器集群,包括:
关闭所述异常服务器,并将所述目标冗余服务器添加至所述目标服务器集群中;
确定与所述目标服务器集群相关联的备用服务器集群,并在所述备用服务器集群中确定与所述异常服务器相关联的备用服务器,得到第一备用服务器;
删除所述目标冗余服务器中的初始数据,并将所述第一备用服务器中存储的数据同步至所述目标冗余服务器中,得到所述更新后的目标服务器集群。
7.根据权利要求1所述的方法,其特征在于,所述属性信息包括所述第一集群的集群名称,根据所述操作指令中的处理方式对所述待处理数据进行处理,包括:
在所述处理方式为获取所述待处理数据的情况下,根据所述集群名称将所述待处理数据发送至所述第一集群;
在所述处理方式为删除所述待处理数据的情况下,删除所述目标服务器集群中的所述待处理数据,以及删除与所述目标服务器集群相关联的备用服务器集群中的所述待处理数据;
在所述处理方式为修改所述待处理数据的情况下,根据所述指令内容中携带的修改信息对所述待处理数据进行修改。
8.一种数据处理装置,其特征在于,包括:
解析模块,用于解析第一集群发送的指令信息,得到指令内容,其中,所述指令内容中包括待处理数据的属性信息和操作指令,所述操作指令用于表征对待处理数据进行处理的处理方式;
确定模块,用于根据所述属性信息,将所述待处理数据所属的服务器集群确定为目标服务器集群,其中,所述第一集群和所述服务器集群为不同集群层中不同类型的独立集群;
处理模块,用于在所述目标服务器集群中存在所述待处理数据的情况下,根据所述操作指令中的处理方式对所述待处理数据进行处理。
9.一种数据处理系统,其特征在于,包括:第一集群层、服务器集群层、集群管理单元和集群检测单元,其中,
所述集群管理单元,用于解析所述第一集群层中的第一集群发送的指令信息,
得到指令内容,其中,所述指令内容中包括待处理数据的属性信息和操作指令,所述操作指令用于表征对待处理数据进行处理的处理方式;根据所述属性信息,将所述待处理数据所属的服务器集群确定为目标服务器集群,其中,所述第一集群和所述服务器集群分别为所述第一集群层和所述服务器集群层中不同类型的独立集群;在所述目标服务器集群中存在所述待处理数据的情况下,根据所述操作指令中的处理方式对所述待处理数据进行处理;
所述集群检测单元,用于检测所述服务器集群中的服务器状态。
10.一种计算机存储介质,其特征在于,所述计算机存储介质用于存储程序,其中,所述程序运行时控制所述计算机存储介质所在的设备执行权利要求1至7中任意一项所述的数据处理方法。
11.一种电子设备,其特征在于,包括一个或多个处理器和存储器,所述存储器用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至7中任意一项所述的数据处理方法。
CN202310431379.0A 2023-04-20 2023-04-20 数据处理方法、装置、系统、存储介质及电子设备 Pending CN116483605A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310431379.0A CN116483605A (zh) 2023-04-20 2023-04-20 数据处理方法、装置、系统、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310431379.0A CN116483605A (zh) 2023-04-20 2023-04-20 数据处理方法、装置、系统、存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN116483605A true CN116483605A (zh) 2023-07-25

Family

ID=87211374

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310431379.0A Pending CN116483605A (zh) 2023-04-20 2023-04-20 数据处理方法、装置、系统、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN116483605A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117081931A (zh) * 2023-10-17 2023-11-17 之江实验室 一种异构分布式存储系统在线扩容方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117081931A (zh) * 2023-10-17 2023-11-17 之江实验室 一种异构分布式存储系统在线扩容方法及装置
CN117081931B (zh) * 2023-10-17 2024-01-09 之江实验室 一种异构分布式存储系统在线扩容方法及装置

Similar Documents

Publication Publication Date Title
CN107957957B (zh) 测试用例的获取方法和装置
US8473484B2 (en) Identifying impact of installing a database patch
US10261942B2 (en) Embedded processing of structured and unstructured data using a single application protocol interface (API)
CN111324606B (zh) 数据分片的方法及装置
US10324710B2 (en) Indicating a trait of a continuous delivery pipeline
CN111241122B (zh) 任务监测方法、装置、电子设备和可读存储介质
US11366713B2 (en) System and method for automatically identifying and resolving computing errors
CN112487083B (zh) 一种数据校验方法和设备
CN110188100A (zh) 数据处理方法、装置及计算机存储介质
CN116483605A (zh) 数据处理方法、装置、系统、存储介质及电子设备
CN111680017A (zh) 一种数据同步的方法及装置
CN109471901B (zh) 一种数据同步方法及装置
US11294666B1 (en) Data structures for managing configuration versions of cloud-based applications
CN107430633B (zh) 用于数据存储的系统及方法和计算机可读介质
CN114691445A (zh) 集群故障处理方法、装置、电子设备及可读存储介质
US9779177B1 (en) Service generation based on profiled data objects
CN114070737B (zh) 设备的配置数据的检查方法、装置、存储介质及电子设备
CN111078905A (zh) 一种数据处理方法、装置、介质以及设备
Verma et al. Big data analytics: performance evaluation for high availability and fault tolerance using mapreduce framework with hdfs
CN113342806A (zh) 大数据处理方法、装置、存储介质及处理器
CN112559444A (zh) Sql文件迁移方法、装置、存储介质及设备
Carata et al. {IPAPI}: Designing an Improved Provenance {API}
US20220358095A1 (en) Managing data requests to a data shard
CN117632007A (zh) 数据存储的方法及装置、存储介质和电子设备
CN116483805A (zh) 数据库迁移的安全测试方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination