CN105743995A - 一种可移植高可用部署和管理容器集群的系统和方法 - Google Patents

一种可移植高可用部署和管理容器集群的系统和方法 Download PDF

Info

Publication number
CN105743995A
CN105743995A CN201610206271.1A CN201610206271A CN105743995A CN 105743995 A CN105743995 A CN 105743995A CN 201610206271 A CN201610206271 A CN 201610206271A CN 105743995 A CN105743995 A CN 105743995A
Authority
CN
China
Prior art keywords
node
management
control
standby
control node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610206271.1A
Other languages
English (en)
Other versions
CN105743995B (zh
Inventor
沈寓实
于家伟
王昕�
绍长钰
唐飞雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fenomen Array Beijing Technology Co ltd
Original Assignee
Beijing Qingyuan Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qingyuan Technology Co Ltd filed Critical Beijing Qingyuan Technology Co Ltd
Priority to CN201610206271.1A priority Critical patent/CN105743995B/zh
Publication of CN105743995A publication Critical patent/CN105743995A/zh
Application granted granted Critical
Publication of CN105743995B publication Critical patent/CN105743995B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/0654Management of faults, events, alarms or notifications using network fault recovery
    • H04L41/0668Management of faults, events, alarms or notifications using network fault recovery by dynamic selection of recovery network elements, e.g. replacement by the most appropriate element after failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/30Decision processes by autonomous network management units using voting and bidding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1034Reaction to server failures by a load balancer

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提出一种可移植高可用部署和管理容器集群的系统和方法,属于云计算领域。部署和管理容器集群的系统包括:容器集群、主调度节点选举器、主备切换控制器、调度器、控制器管理器、管理北向接口服务器。部署和管理容器集群的方法包括以下步骤:R,部署容器集群;S,主调度节点选举器选举主调度节点,决定在哪一个管控节点上启动运行调度器和控制器管理器;T,主备切换控制器选择主备管控节点并控制主备管控节点的切换。本发明所提出的系统和方法适用于类似Kubernetes集群架构的所有容器集群,解决了管控节点高可用问题,实现了若管控节点出现问题或管控节点上的某个服务出现问题不会影响管控客户端对容器集群的管理控制。

Description

一种可移植高可用部署和管理容器集群的系统和方法
技术领域
本发明涉及云计算领域,尤其涉及一种部署容器集群系统实现高可用云计算系统的系统和方法。
背景技术
作为改进现行虚拟机的下一代资源虚拟化技术,容器虚拟化技术已渐渐成为近年国内外云计算企业的发展重点。随着容器技术如火如荼的发展,容器集群技术成为云计算技术领域的研究前沿,现有容器集群系统如图1所示,典型的现有容器集群系统中有1个管控节点和若干从属节点。用户可以通过管控客户端向管控节点发送管理配置请求,管控节点中的管理北向接口服务器,可以接受管理配置请求,根据请求向从属节点部署,更新和删除用户的应用容器现有这种容器集群系统的一个问题是,没有很好的解决管控节点的高可用问题,即如果管控节点出现问题,或者管控节点上的某个服务出现问题,则影响管控客户端对容器集群的管理控制。
发明内容
本发明的目的在于提供一种部署和管理容器集群的系统和方法,从而解决现有技术中存在的前述问题。
为了实现上述目的,本发明采用的技术方案如下:
一种部署和管理容器集群的系统,包括:管控客户端、管控节点、管控+从属节点和从属节点,所述管控节点上运行的容器包括:主调度节点选举器、主备切换控制器、管理北向接口服务器、调度器和控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;所述管控+从属节点上运行的容器包括:主调度节点控制器、主备切换控制器、管理北向接口服务器、调度器、控制器管理器、前向代理系统和节点守护代理服务系统,所述调度节点控制器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器和所述前向代理系统和所述节点守护代理服务系统呈分布式共享存储;所述从属节点上运行前向代理系统和节点守护代理服务系统;
其中,所述主调度节点选举器用于选举主调度节点,决定在哪一个管控节点上启动运行所述调度器和所述控制器管理器;所述主备切换控制器用于选择主备管控节点并控制主备管控节点的切换;所述主备控制器用于选择主管控节点和备用管控节点,配置控制和监控所述切换控制器;所述切换控制器根据来自配置控制器的主备服务器配置控制主备服务器的自动切换。
优选的,所述管控节点和所述从属节点的节点镜像包括以下3种类型:
第一种类型是管控节点镜像型号A,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;
第二种类型是管控+从属节点镜像型号B,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统呈分布式共享存储;
第三种类型是从属节点镜像型号C,安装并运行所述前向代理服务系统和所述节点守护代理服务系统。
对于镜像型号的选择可根据2类用户偏好:一类为节点功能隔离级别,分为有隔离和无隔离级别;另一类为节点高可用级别,分为无高可用型、弱高可用型、通用高可用型和超强高可用型级别。
优选的,根据不同节点高可用级别和节点功能隔离级别可产生出8种选择:
第一种为管控从属节点有隔离的无高可用型:1*A+N*C,注入脚本,每节点运行一个分布式共享存储实例;
第二种为管控从属节点有隔离的弱高可用型:1*A+N*C,注入脚本,每节点运行三个分布式共享存储实例;
第三种为管控从属节点有隔离的通用高可用型:3*A+N*C,每节点运行一个分布式共享存储实例;
第四种为管控从属节点有隔离的超强高可用型:5*A+N*C,每节点运行一个分布式共享存储实例;
第五种为管控从属节点无隔离的无高可用型:1*B+(N-1)*C,注入脚本,每节点运行一个分布式共享存储实例;
第六种为管控从属节点无隔离的弱高可用型:1*B+(N-1)*C,注入脚本,每节点运行三个分布式共享存储实例;
第七种为管控从属节点无隔离的通用高可用型:3*B+(N-3)*C入脚本,每节点运行一个分布式共享存储实例;
第八种为管控从属节点无隔离的超强高可用型:5*B+(N-5)*C,每节点运行一个分布式共享存储实例;
其中,所述N是3或5,所述从属节点有隔离的通用高可用型为系统默认的部署型号。
一种部署和管理容器集群的方法,包括以下步骤:
R,部署容器集群;
S,主调度节点选择主管控节点和备用管控节点;
T,当主管控节点失效时,切换管控节点。
优选的,所述部署容器集群的步骤如下:
R1,部署N个管控节点实例或主调度节点失效;
R2,所述主调度节点选举器开始自主选举;
若所述主调度节点选举器选举成功:
R3.1,激活调度器和控制管理器,标识本节点为主调度节点;
R4.1,启动主备切换控制器,将本节点设置为候选管控节点;
R5.1,等待其他管控节点标识为非主调度节点;
R6.1,根据负载均衡策略选择一个非主调度节点作为候选管控节点;
R7.1,根据负载均衡策略在本节点和另一候选管控节点中选一个作为主管控节点;
R8.1,设置两个候选管控节点的切换控制器策略,启动所述切换控制器,监控所述切换控制器;
R9.1,所述切换控制器控制对管理北向接口VIP的绑定和监控;
R10.1,程序结束;
若所述主调度节点选举器选举失败:
R3.2,停止调度器和控制管理器标识本节点为非调度节点;
R4.2,等待调度节点对候选管控节点进行选择;
若所述候选管控节点被作为候选节点,
R5.2.1等待主调度节点设置所述切换控制器,监控所述切换控制器;
若所述候选管控节点没有被选作候选节点,
R5.2.2,程序结束;
其中,所述N是3或5。
优选的,所述主调度节点选择主管控节点和备用管控节点的步骤如下:
S1,主调度节点选择主备管控节点;
S2,删除所有失效节点;
S3,删除所有服务资源使用率超过阈值的节点;
若选择主调度节点优先,
S4.1,所述主备控制器选择主调度节点作为主管控节点;
S5.1,所述主备控制器在剩余管控节点中选择资源使用率最低的管控节点作为备用管控节点;
S6.1,程序结束;
若没有选择主调度节点优先,
S4.2,所述主备控制器选择资源使用率最低的管控节点作为主管控节点;
S5.2,所述主备控制器选择主调度节点作为备用管控节点;
S6.2,程序结束;
其中,所述“选择主调度节点优先”来自于用户设置,默认设置为“是”。
优选的,所述当主管控节点失效时切换管控节点的步骤如下:
T1,主管控节点失效;
T2,所述切换控制器控制对管理北向接口VIP绑定;
T3,触发对所述切换控制器的监控处理,触发增选候选管控节点;
T4,根据负载均衡策略在休眠管控节点中增选一个节点作为备用管控节点;
T5,根据该设置两个候选管控节点的切换控制器策略;
T6,程序结束。
本发明的有益效果是:
本发明所提出的系统和方法适用于类似Kubernetes集群架构的所有容器集群,解决了管控节点高可用问题,实现了若管控节点出现问题或管控节点上的某个服务出现问题不会影响管控客户端对容器集群的管理控制。
附图说明
图1是现有容器集群系统典型构成;
图2是本发明所述的不同类型的主机节点的组成模块;
图3是依据本发明部署容器集群的过程;
图4是依据本发明主调度节点选择主备管控节点的过程;
图5是依据本发明当主调度节点和主管控节点为同一管控节点的情况;
图6是依据本发明当主调度节点和主管控节点为不同管控节点的情况;
图7是当主管控节点失效时,依据本发明切换管控节点的过程;
图8是依据本发明部署容器集群所需要准备主机节点镜像类型;
图9是依据本发明部署一个Kubernetes容器集群系统的一个实施流程;
图10是依据本发明部署后形成的Kubernetes容器集群。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施方式仅仅用以解释本发明,并不用于限定本发明。
依据本发明,在容器集群的管控节点上安装如图2所示的主调度节点选举器和主备切换控制器。其中主调度节点选举器负责选举主调度节点,即决定在哪一个管控节点上启动运行调度器和控制器管理器;其中主备切换控制器负责选择主备管控节点,并控制主备管控节点的切换。主备切换控制器由主备控制器和切换控制器构成;主备控制器的作用是选择主管控节点和备用管控节点,配置控制切换控制器,监控切换控制器;切换控制器的作用是根据来自配置控制器的主备服务器配置,控制主备服务器的自动切换。
依据本发明部署管理容器集群以保证高可用的方法如图3所示。
主备控制器选择主备管控节点的方法如图4所示。
依据本发明,若用户设置了在选择主备管控节点时主调度节点优先,则系统部署完成后,容器集群的运行实例如图5所示,主管控节点和主调度节点都是同一个管控节点,即管控节点B。若用户设置了在选择主备管控节点时资源使用率优先(即主调度节点优先为否),则系统部署完成后,容器集群的运行实例可能如图6所示,主管控节点和主调度节点可能不在同一个管控节点。这里的“可能”是因为,选择主备管控节点是根据资源使用率进行,假设管控节点A的资源使用率低于管控节点B的资源使用率,则部署完成后,容器集群的运行实例如图6所示。
依据本发明,如果主管控节点失效,系统对主备管控服务器切换的方法如图7所示。
在本发明中提出的管控节点和从属节点是逻辑的主机节点,也可能是同一个物理节点,即在同一个节点上同时安装有管控软件模块和从属软件模块,如图8中的镜像型号B。依据本发明,为部署满足不同用户需求的容器集群,需要准备如图8所示的3种节点镜像用于部署集群节点。其中镜像型号A只能用作管控节点,镜像型号C只能用作从属节点,镜像型号B既能用作管控节点又能用作从属节点。
选择部署哪一个型号的镜像部署,需要根据用户偏好:本发明提出根据两类用户偏好来选择镜像型号;一类偏好为节点高可用级别,分为无高可用型,弱高可用型,通用高可用型和超强高可用型4个级别;另一类偏好为节点功能隔离级别,分为有隔离和无隔离级别。用户的偏好跟部署镜像类型的映射关系如表1所示。
系统默认的部署型号为管控从属节点有隔离的通用高可用型方案,如表1所示。
表1
本发明部署一个Kubernetes容器集群系统的一个实施流程如图9所示,依据本发明部署后形成的一个Kubernetes容器集群如图10所示。
一种部署和管理容器集群的系统,包括:管控客户端、管控节点、管控+从属节点和从属节点,所述管控节点上运行的容器包括:主调度节点选举器、主备切换控制器、管理北向接口服务器、调度器和控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;所述管控+从属节点上运行的容器包括:主调度节点控制器、主备切换控制器、管理北向接口服务器、调度器、控制器管理器、前向代理系统和节点守护代理服务系统,所述调度节点控制器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器和所述前向代理系统和所述节点守护代理服务系统呈分布式共享存储;所述从属节点上运行前向代理系统和节点守护代理服务系统;
其中,所述主调度节点选举器用于选举主调度节点,决定在哪一个管控节点上启动运行所述调度器和所述控制器管理器;所述主备切换控制器用于选择主备管控节点并控制主备管控节点的切换;所述主备控制器用于选择主管控节点和备用管控节点,配置控制和监控所述切换控制器;所述切换控制器根据来自配置控制器的主备服务器配置控制主备服务器的自动切换。
优选的,所述管控节点和所述从属节点的节点镜像包括以下3种类型:
第一种类型是管控节点镜像型号A,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;
第二种类型是管控+从属节点镜像型号B,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统呈分布式共享存储;
第三种类型是从属节点镜像型号C,安装并运行所述前向代理服务系统和所述节点守护代理服务系统。
对于镜像型号的选择可根据2类用户偏好:一类为节点功能隔离级别,分为有隔离和无隔离级别;另一类为节点高可用级别,分为无高可用型、弱高可用型、通用高可用型和超强高可用型级别。
优选的,根据不同节点高可用级别和节点功能隔离级别可产生出8种选择:
第一种为管控从属节点有隔离的无高可用型:1*A+N*C,注入脚本,每节点运行一个分布式共享存储实例;
第二种为管控从属节点有隔离的弱高可用型:1*A+N*C,注入脚本,每节点运行三个分布式共享存储实例;
第三种为管控从属节点有隔离的通用高可用型:3*A+N*C,每节点运行一个分布式共享存储实例;
第四种为管控从属节点有隔离的超强高可用型:5*A+N*C,每节点运行一个分布式共享存储实例;
第五种为管控从属节点无隔离的无高可用型:1*B+(N-1)*C,注入脚本,每节点运行一个分布式共享存储实例;
第六种为管控从属节点无隔离的弱高可用型:1*B+(N-1)*C,注入脚本,每节点运行三个分布式共享存储实例;
第七种为管控从属节点无隔离的通用高可用型:3*B+(N-3)*C入脚本,每节点运行一个分布式共享存储实例;
第八种为管控从属节点无隔离的超强高可用型:5*B+(N-5)*C,每节点运行一个分布式共享存储实例;
其中,所述N是3或5,所述从属节点有隔离的通用高可用型为系统默认的部署型号。
一种部署和管理容器集群的方法,包括以下步骤:
R,部署容器集群;
S,主调度节点选择主管控节点和备用管控节点;
T,当主管控节点失效时,切换管控节点。
优选的,所述部署容器集群的步骤如下:
R1,部署N个管控节点实例或主调度节点失效;
R2,所述主调度节点选举器开始自主选举;
若所述主调度节点选举器选举成功:
R3.1,激活调度器和控制管理器,标识本节点为主调度节点;
R4.1,启动主备切换控制器,将本节点设置为候选管控节点;
R5.1,等待其他管控节点标识为非主调度节点;
R6.1,根据负载均衡策略选择一个非主调度节点作为候选管控节点;
R7.1,根据负载均衡策略在本节点和另一候选管控节点中选一个作为主管控节点;
R8.1,设置两个候选管控节点的切换控制器策略,启动所述切换控制器,监控所述切换控制器;
R9.1,所述切换控制器控制对管理北向接口VIP的绑定和监控;
R10.1,程序结束;
若所述主调度节点选举器选举失败:
R3.2,停止调度器和控制管理器标识本节点为非调度节点;
R4.2,等待调度节点对候选管控节点进行选择;
若所述候选管控节点被作为候选节点,
R5.2.1等待主调度节点设置所述切换控制器,监控所述切换控制器;
若所述候选管控节点没有被选作候选节点,
R5.2.2,程序结束;
其中,所述N是3或5。
优选的,所述主调度节点选择主管控节点和备用管控节点的步骤如下:
S1,主调度节点选择主备管控节点;
S2,删除所有失效节点;
S3,删除所有服务资源使用率超过阈值的节点;
若选择主调度节点优先,
S4.1,所述主备控制器选择主调度节点作为主管控节点;
S5.1,所述主备控制器在剩余管控节点中选择资源使用率最低的管控节点作为备用管控节点;
S6.1,程序结束;
若没有选择主调度节点优先,
S4.2,所述主备控制器选择资源使用率最低的管控节点作为主管控节点;
S5.2,所述主备控制器选择主调度节点作为备用管控节点;
S6.2,程序结束;
其中,所述“选择主调度节点优先”来自于用户设置,默认设置为“是”。
优选的,所述当主管控节点失效时切换管控节点的步骤如下:
T1,主管控节点失效;
T2,所述切换控制器控制对管理北向接口VIP绑定;
T3,触发对所述切换控制器的监控处理,触发增选候选管控节点;
T4,根据负载均衡策略在休眠管控节点中增选一个节点作为备用管控节点;
T5,根据该设置两个候选管控节点的切换控制器策略;
T6,程序结束。
Kubernetes容器集群技术就是近年来备受关注的一项容器集群技术。本发明关注现有容器集群技术中的高可用集群问题。与本发明相关的重要技术概念包括以下名词:
云计算:是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。狭义云计算指IT基础设施的交付和使用模式,指通过网络以按需、易扩展的方式获得所需资源;广义云计算指服务的交付和使用模式,指通过网络以按需、易扩展的方式获得所需服务。这种服务可以是IT和软件、互联网相关,也可是其他服务。
基础设施云:也就是基础设施即服务IaaS(InfrastructureasaService),主要为云计算用户提供虚拟化的云计算基础设施资源服务,包括虚拟计算资源,虚拟存储资源和虚拟网络资源,其中虚拟计算资源主要包括CPU资源和内存资源。典型的基础设施云有AWS和Openstack等。
镜像:即云主机镜像文件,是把跟云主机相关的所有文件,包括所有云主机安装的软件,虚拟资源配置信息打包成一个文件。
容器集群:容器集群是由一组主机节点构成,通过在主机节点上运行一组容器,提供计算服务的云计算系统。容器集群一般有管控节点和从属节点,管控节点上运行管理和控制容器集群的软件,从属节点上运行包装了业务应用软件的容器,提供应用服务。现有一个典型的容器集群技术是Kubernetes技术。
管控节点:在容器集群中,管控节点上运行管理和控制容器集群的软件,负责管理和控制整个容器集群。现有一个典型的容器集群从属节点是的Kubernetes集群中的Master节点。
从属节点:在容器集群中,从属节点上运行包装了业务应用软件的容器,提供应用服务。为了接受从容器集群中管控节点来的控制指令,从属节点需要运行节点守护代理软件(Agent)。现有一个典型的容器集群从属节点是的Kubernetes集群中的Minion节点。
管理北向接口服务器:为集群提供管理服务的服务器。管理北向接口服务器提供网络服务,用户可以通过客户端连接北向接口服务器,通过调用接口上的方法实现部署应用,更新应用,删除应用等管理功能。常见的管理服务为支持RESTAPI的HTTP服务。现有一个典型的管理北向接口服务器是的Kubernetes集群中的KubernetesAPIServer。
调度器:调度器负责给需要资源运行的容器分配主机节点。由于容器集群中有多个主机节点,每个主机节点可以运行多个容器,不同资源优化目标可能导致不同的分配策略,这一分配策略由调度器决定。现有一个典型的调度器是的Kubernetes集群中的Scheduler。
控制器管理器:集群中负责管理各种控制器的服务器。现有一个典型的控制器管理器是的Kubernetes集群中的ControllerManager。在Kubernetes集群中控制器管理器负责管理集群中除调度器以外其他控制器。
分布式共享存储:集群中分布在不同节点的存储软件服务,通过分布在不同节点,共享存储提供高可用能力,即即使某个节点意外死亡无法提供服务,分布式共享存储整体服务不受影响。现有一个典型的分布式共享存储是的ETCD服务,ETCD也用来为Kubernetes提供分布式共享存储服务。
前向代理:前向代理(Proxy)是代替客户端发出网络服务请求,在得到服务应答后把服务应答转达给客户端的服务。在Kubernetes集群中,从属节点需要运行前向代理软件,用来转发对容器服务的请求,以及转达容器服务的应答结果。
管控客户端:管理配置容器集群的客户端程序。一个典型的管控客户端是Kubernetes集群中的Kubectl命令行工具。
切换控制器:用来控制主备服务器切换的控制设备或软件。一个典型的切换控制器是Keepalived路由软件。Keepalived是一个路由软件,可以用来安装在不同的主备服务器上,首先将指定的虚拟IP(VIP)绑定到主服务器指定网卡端口上,同时令备用服务器监控主服务器,当发现主服务器失效时,Keepalived可以令虚拟IP(VIP)绑定到备用服务器指定网卡端口上,从而保证指定的虚拟IP(VIP)始终网络可达。
主调度节点选举器:负责在所有管控节点中选举一个调度节点。在一个容器集群中,管控节点可能安装了诸多跟容器集群管理相关的软件模块;这些模块中,有些可能在集群中可以存在多个运行实例,例如管理北向接口服务器;有些模块则需要在集群中只存在一个运行实例,例如调度器和控制器管理器;主调度节点选举器的作用是在所有管控节点中选择一个主控节点,只在主调度节点上激活调度器和控制器管理器,当主调度节点失效时,主调度节点选举器会触发新一轮选举,选举出一个新的主调度节点,激活新主调度节点上的调度器和控制器管理器运行。需要说明的是,所有管控节点上的管理北向接口服务器都是可以同时运行提供服务的。一个现有典型的主调度节点选举器是应用于Kubernetes集群中的Podmaster。在Kubernetes集群中的Podmaster负责在所有管控节点中选举主调度节点,只在主调度节点上启动运行调度器Scheduler和控制器管理器ControllerManager。
Kubernetes:http://kubernetes.io/v1.1/docs/。现有容器集群系统的一个案例是Kubernetes集群,有关Kubernetes集群的实现细节以及本发明中引用到的Kubernetes组件,可以参照Kubernetes的在线文档http://kubernetes.io/v1.1/docs/admin/high-availability.html
本发明所提出的方法不仅适用于Kubernetes集群,也适用于具有类似架构的所有容器集群。
通过采用本发明公开的上述技术方案,得到了如下有益的效果:
本发明所提出的系统和方法适用于类似Kubernetea集群架构的所有容器集群,解决了管控节点高可用问题,实现了若管控节点出现问题或管控节点上的某个服务出现问题不会影响管控客户端对容器集群的管理控制。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视本发明的保护范围。

Claims (8)

1.一种部署和管理容器集群的系统,其特征在于,包括管控客户端、管控节点、管控+从属节点和从属节点,所述管控节点上运行的容器包括:主调度节点选举器、主备切换控制器、管理北向接口服务器、调度器和控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;所述管控+从属节点上运行的容器包括:主调度节点控制器、主备切换控制器、管理北向接口服务器、调度器、控制器管理器、前向代理系统和节点守护代理服务系统,所述调度节点控制器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器和所述前向代理系统和所述节点守护代理服务系统呈分布式共享存储;所述从属节点上运行前向代理系统和节点守护代理服务系统;
其中,所述主调度节点选举器用于选举主调度节点,决定在哪一个管控节点上启动运行所述调度器和所述控制器管理器;所述主备切换控制器用于选择主备管控节点并控制主备管控节点的切换;所述主备控制器用于选择主管控节点和备用管控节点,配置控制和监控所述切换控制器;所述切换控制器根据来自配置控制器的主备服务器配置控制主备服务器的自动切换。
2.根据权利要求1所述的部署和管理容器集群的系统,其特征在于所述管控节点和所述从属节点的节点镜像包括以下3种类型:
第一种类型是管控节点镜像型号A,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器和所述控制器管理器呈分布式共享存储;
第二种类型是管控+从属节点镜像型号B,在一个节点上安装并运行所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统,所述主调度节点选举器、所述主备切换控制器、所述管理北向接口服务器、所述调度器、所述控制器管理器、所述前向代理服务系统和所述节点守护代理服务系统呈分布式共享存储;
第三种类型是从属节点镜像型号C,安装并运行所述前向代理服务系统和所述节点守护代理服务系统。
3.根据权利要求2所述的部署和管理容器集群的系统,其特征在于,选择镜像型号可根据2类用户偏好:
第一类为节点功能隔离级别,分为有隔离和无隔离级别;
第二类为节点高可用级别,分为无高可用型、弱高可用型、通用高可用型和超强高可用型级别。
4.根据权利要求3所述的部署和管理容器集群的系统,其特征在于,根据不同节点高可用级别和节点功能隔离级别可产生出8种选择:
第一种为管控从属节点有隔离的无高可用型:1*A+N*C,注入脚本,每节点运行一个分布式共享存储实例;
第二种为管控从属节点有隔离的弱高可用型:1*A+N*C,注入脚本,每节点运行三个分布式共享存储实例;
第三种为管控从属节点有隔离的通用高可用型:3*A+N*C,每节点运行一个分布式共享存储实例;
第四种为管控从属节点有隔离的超强高可用型:5*A+N*C,每节点运行一个分布式共享存储实例;
第五种为管控从属节点无隔离的无高可用型:1*B+(N-1)*C,注入脚本,每节点运行一个分布式共享存储实例;
第六种为管控从属节点无隔离的弱高可用型:1*B+(N-1)*C,注入脚本,每节点运行三个分布式共享存储实例;
第七种为管控从属节点无隔离的通用高可用型:3*B+(N-3)*C入脚本,每节点运行一个分布式共享存储实例;
第八种为管控从属节点无隔离的超强高可用型:5*B+(N-5)*C,每节点运行一个分布式共享存储实例;
其中,所述N是3或5,所述从属节点有隔离的通用高可用型为系统默认的部署型号。
5.一种部署和管理容器集群的方法,其特征在于,包括以下步骤:
R,部署容器集群;
S,主调度节点选择主管控节点和备用管控节点;
T,当主管控节点失效时,切换管控节点。
6.根据权利要求5所述的部署和管理容器集群的方法,其特征在于,所述部署容器集群的步骤如下:
R1,部署N个管控节点实例或主调度节点失效;
R2,所述主调度节点选举器开始自主选举;
若所述主调度节点选举器选举成功:
R3.1,激活调度器和控制管理器,标识本节点为主调度节点;
R4.1,启动主备切换控制器,将本节点设置为候选管控节点;
R5.1,等待其他管控节点标识为非主调度节点;
R6.1,根据负载均衡策略选择一个非主调度节点作为候选管控节点;
R7.1,根据负载均衡策略在本节点和另一候选管控节点中选一个作为主管控节点;
R8.1,设置两个候选管控节点的切换控制器策略,启动所述切换控制器,监控所述切换控制器;
R9.1,所述切换控制器控制对管理北向接口VIP的绑定和监控;
R10.1,程序结束;
若所述主调度节点选举器选举失败:
R3.2,停止调度器和控制管理器标识本节点为非调度节点;
R4.2,等待调度节点对候选管控节点进行选择;
若所述候选管控节点被作为候选节点,
R5.2.1等待主调度节点设置所述切换控制器,监控所述切换控制器;
若所述候选管控节点没有被选作候选节点,
R5.2.2,程序结束;
其中,所述N是3或5。
7.根据权利要求6所述的部署和管理容器集群的方法,其特征在于,所述主调度节点选择主管控节点和备用管控节点的步骤如下:
S1,主调度节点选择主备管控节点;
S2,删除所有失效节点;
S3,删除所有服务资源使用率超过阈值的节点;
若选择主调度节点优先,
S4.1,所述主备控制器选择主调度节点作为主管控节点;
S5.1,所述主备控制器在剩余管控节点中选择资源使用率最低的管控节点作为备用管控节点;
S6.1,程序结束;
若没有选择主调度节点优先,
S4.2,所述主备控制器选择资源使用率最低的管控节点作为主管控节点;
S5.2,所述主备控制器选择主调度节点作为备用管控节点;
S6.2,程序结束;
其中,所述“选择主调度节点优先”来自于用户设置,默认设置为“是”。
8.根据权利要求6所述的部署和管理容器集群的方法,其特征在于,所述当主管控节点失效时切换管控节点的步骤如下:
T1,主管控节点失效;
T2,所述切换控制器控制对管理北向接口VIP绑定;
T3,触发对所述切换控制器的监控处理,触发增选候选管控节点;
T4,根据负载均衡策略在休眠管控节点中增选一个节点作为备用管控节点;
T5,根据该设置两个候选管控节点的切换控制器策略;
T6,程序结束。
CN201610206271.1A 2016-04-05 2016-04-05 一种可移植高可用部署和管理容器集群的系统和方法 Active CN105743995B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610206271.1A CN105743995B (zh) 2016-04-05 2016-04-05 一种可移植高可用部署和管理容器集群的系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610206271.1A CN105743995B (zh) 2016-04-05 2016-04-05 一种可移植高可用部署和管理容器集群的系统和方法

Publications (2)

Publication Number Publication Date
CN105743995A true CN105743995A (zh) 2016-07-06
CN105743995B CN105743995B (zh) 2019-10-18

Family

ID=56252833

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610206271.1A Active CN105743995B (zh) 2016-04-05 2016-04-05 一种可移植高可用部署和管理容器集群的系统和方法

Country Status (1)

Country Link
CN (1) CN105743995B (zh)

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106330923A (zh) * 2016-08-26 2017-01-11 中国联合网络通信集团有限公司 基于Kubernetes系统的节点注册方法及系统
CN106371889A (zh) * 2016-08-22 2017-02-01 浪潮(北京)电子信息产业有限公司 一种调度镜像的高性能集群系统实现方法及装置
CN106792843A (zh) * 2016-11-18 2017-05-31 新华三技术有限公司 一种设备管理方法及装置
CN106878385A (zh) * 2016-12-30 2017-06-20 新华三技术有限公司 私有云部署方法及装置
CN107124292A (zh) * 2017-03-13 2017-09-01 国网江苏省电力公司信息通信分公司 一种信息系统运行方式关联关系动态生成方法
CN107402812A (zh) * 2017-05-24 2017-11-28 阿里巴巴集团控股有限公司 集群资源调度方法、装置、设备及存储介质
CN107590284A (zh) * 2017-09-30 2018-01-16 麦格创科技(深圳)有限公司 分布式爬虫系统中任务管理器的选举方法及系统
CN107688322A (zh) * 2017-08-31 2018-02-13 天津中新智冠信息技术有限公司 一种容器化管理系统
CN107704310A (zh) * 2017-09-27 2018-02-16 郑州云海信息技术有限公司 一种实现容器集群管理的方法、装置和设备
CN108123987A (zh) * 2016-11-30 2018-06-05 华为技术有限公司 从云计算系统中确定主调度器的方法及装置
CN108234191A (zh) * 2017-05-31 2018-06-29 深圳市创梦天地科技有限公司 云计算平台的管理方法和装置
CN108737468A (zh) * 2017-04-19 2018-11-02 中兴通讯股份有限公司 云平台服务集群、构建方法及装置
CN109194732A (zh) * 2018-08-28 2019-01-11 郑州云海信息技术有限公司 一种OpenStack的高可用部署方法及装置
CN109542791A (zh) * 2018-11-27 2019-03-29 长沙智擎信息技术有限公司 一种基于容器技术的程序大规模并发评测方法
CN110008006A (zh) * 2019-04-11 2019-07-12 中国联合网络通信集团有限公司 基于容器的大数据工具部署方法及系统
CN110233905A (zh) * 2017-04-20 2019-09-13 腾讯科技(深圳)有限公司 节点设备运行方法、节点设备及存储介质
CN110580198A (zh) * 2019-08-29 2019-12-17 上海仪电(集团)有限公司中央研究院 OpenStack计算节点自适应切换为控制节点的方法及装置
CN110661599A (zh) * 2018-06-28 2020-01-07 中兴通讯股份有限公司 一种主、备节点间的ha实现方法、装置及存储介质
CN111290834A (zh) * 2020-01-21 2020-06-16 苏州浪潮智能科技有限公司 一种基于云管理平台实现业务高可用的方法、装置及设备
CN111459654A (zh) * 2019-01-22 2020-07-28 顺丰科技有限公司 服务器集群的部署方法、装置、设备及存储介质
CN111488247A (zh) * 2020-04-08 2020-08-04 上海云轴信息科技有限公司 一种管控节点多次容错的高可用方法及设备
CN111722963A (zh) * 2020-06-18 2020-09-29 深圳力维智联技术有限公司 数据接入方法、系统及计算机可读存储介质
CN111897536A (zh) * 2020-06-29 2020-11-06 飞诺门阵(北京)科技有限公司 一种应用部署方法、装置及电子设备
CN113204353A (zh) * 2021-04-27 2021-08-03 新华三大数据技术有限公司 一种大数据平台组件部署方法及装置
US20220247813A1 (en) * 2021-02-01 2022-08-04 Hitachi, Ltd. Server management system, method of managing server, and program of managing server
CN115328651A (zh) * 2022-08-12 2022-11-11 扬州万方科技股份有限公司 基于国产vpx服务器的轻量化微云系统
US11704165B2 (en) 2021-03-16 2023-07-18 International Business Machines Corporation Persistently available container services through resurrection of user jobs in new compute container instances designated as lead instances

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103713974A (zh) * 2014-01-07 2014-04-09 浪潮(北京)电子信息产业有限公司 一种高性能作业调度管理节点双机加固方法及设备
CN105245373A (zh) * 2015-10-12 2016-01-13 天津市普迅电力信息技术有限公司 一种容器云平台系统的搭建及运行方法
US20160043892A1 (en) * 2014-07-22 2016-02-11 Intigua, Inc. System and method for cloud based provisioning, configuring, and operating management tools
CN105354076A (zh) * 2015-10-23 2016-02-24 深圳前海达闼云端智能科技有限公司 一种应用部署方法及装置
CN105357296A (zh) * 2015-10-30 2016-02-24 河海大学 一种Docker云平台下弹性缓存系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103713974A (zh) * 2014-01-07 2014-04-09 浪潮(北京)电子信息产业有限公司 一种高性能作业调度管理节点双机加固方法及设备
US20160043892A1 (en) * 2014-07-22 2016-02-11 Intigua, Inc. System and method for cloud based provisioning, configuring, and operating management tools
CN105245373A (zh) * 2015-10-12 2016-01-13 天津市普迅电力信息技术有限公司 一种容器云平台系统的搭建及运行方法
CN105354076A (zh) * 2015-10-23 2016-02-24 深圳前海达闼云端智能科技有限公司 一种应用部署方法及装置
CN105357296A (zh) * 2015-10-30 2016-02-24 河海大学 一种Docker云平台下弹性缓存系统

Cited By (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106371889A (zh) * 2016-08-22 2017-02-01 浪潮(北京)电子信息产业有限公司 一种调度镜像的高性能集群系统实现方法及装置
CN106330923A (zh) * 2016-08-26 2017-01-11 中国联合网络通信集团有限公司 基于Kubernetes系统的节点注册方法及系统
CN106330923B (zh) * 2016-08-26 2019-10-25 中国联合网络通信集团有限公司 基于Kubernetes系统的节点注册方法及系统
CN106792843A (zh) * 2016-11-18 2017-05-31 新华三技术有限公司 一种设备管理方法及装置
CN106792843B (zh) * 2016-11-18 2021-04-16 新华三技术有限公司 一种设备管理方法及装置
CN108123987A (zh) * 2016-11-30 2018-06-05 华为技术有限公司 从云计算系统中确定主调度器的方法及装置
CN106878385A (zh) * 2016-12-30 2017-06-20 新华三技术有限公司 私有云部署方法及装置
CN107124292A (zh) * 2017-03-13 2017-09-01 国网江苏省电力公司信息通信分公司 一种信息系统运行方式关联关系动态生成方法
CN108737468B (zh) * 2017-04-19 2021-11-12 中兴通讯股份有限公司 云平台服务集群、构建方法及装置
CN108737468A (zh) * 2017-04-19 2018-11-02 中兴通讯股份有限公司 云平台服务集群、构建方法及装置
CN110233905B (zh) * 2017-04-20 2020-12-25 腾讯科技(深圳)有限公司 节点设备运行方法、节点设备及存储介质
CN110233905A (zh) * 2017-04-20 2019-09-13 腾讯科技(深圳)有限公司 节点设备运行方法、节点设备及存储介质
CN107402812A (zh) * 2017-05-24 2017-11-28 阿里巴巴集团控股有限公司 集群资源调度方法、装置、设备及存储介质
CN108234191A (zh) * 2017-05-31 2018-06-29 深圳市创梦天地科技有限公司 云计算平台的管理方法和装置
CN107688322A (zh) * 2017-08-31 2018-02-13 天津中新智冠信息技术有限公司 一种容器化管理系统
CN107704310A (zh) * 2017-09-27 2018-02-16 郑州云海信息技术有限公司 一种实现容器集群管理的方法、装置和设备
CN107704310B (zh) * 2017-09-27 2021-06-29 郑州云海信息技术有限公司 一种实现容器集群管理的方法、装置和设备
CN107590284A (zh) * 2017-09-30 2018-01-16 麦格创科技(深圳)有限公司 分布式爬虫系统中任务管理器的选举方法及系统
CN110661599A (zh) * 2018-06-28 2020-01-07 中兴通讯股份有限公司 一种主、备节点间的ha实现方法、装置及存储介质
CN109194732A (zh) * 2018-08-28 2019-01-11 郑州云海信息技术有限公司 一种OpenStack的高可用部署方法及装置
CN109542791B (zh) * 2018-11-27 2019-11-29 湖南智擎科技有限公司 一种基于容器技术的程序大规模并发评测方法
CN109542791A (zh) * 2018-11-27 2019-03-29 长沙智擎信息技术有限公司 一种基于容器技术的程序大规模并发评测方法
CN111459654B (zh) * 2019-01-22 2024-04-16 顺丰科技有限公司 服务器集群的部署方法、装置、设备及存储介质
CN111459654A (zh) * 2019-01-22 2020-07-28 顺丰科技有限公司 服务器集群的部署方法、装置、设备及存储介质
CN110008006A (zh) * 2019-04-11 2019-07-12 中国联合网络通信集团有限公司 基于容器的大数据工具部署方法及系统
CN110008006B (zh) * 2019-04-11 2021-04-02 中国联合网络通信集团有限公司 基于容器的大数据工具部署方法及系统
CN110580198A (zh) * 2019-08-29 2019-12-17 上海仪电(集团)有限公司中央研究院 OpenStack计算节点自适应切换为控制节点的方法及装置
CN111290834B (zh) * 2020-01-21 2023-06-16 苏州浪潮智能科技有限公司 一种基于云管理平台实现业务高可用的方法、装置及设备
CN111290834A (zh) * 2020-01-21 2020-06-16 苏州浪潮智能科技有限公司 一种基于云管理平台实现业务高可用的方法、装置及设备
CN111488247A (zh) * 2020-04-08 2020-08-04 上海云轴信息科技有限公司 一种管控节点多次容错的高可用方法及设备
CN111488247B (zh) * 2020-04-08 2023-07-25 上海云轴信息科技有限公司 一种管控节点多次容错的高可用方法及设备
CN111722963A (zh) * 2020-06-18 2020-09-29 深圳力维智联技术有限公司 数据接入方法、系统及计算机可读存储介质
CN111897536A (zh) * 2020-06-29 2020-11-06 飞诺门阵(北京)科技有限公司 一种应用部署方法、装置及电子设备
US20220247813A1 (en) * 2021-02-01 2022-08-04 Hitachi, Ltd. Server management system, method of managing server, and program of managing server
US11659030B2 (en) * 2021-02-01 2023-05-23 Hitachi, Ltd. Server management system, method of managing server, and program of managing server
US11704165B2 (en) 2021-03-16 2023-07-18 International Business Machines Corporation Persistently available container services through resurrection of user jobs in new compute container instances designated as lead instances
CN113204353B (zh) * 2021-04-27 2022-08-30 新华三大数据技术有限公司 一种大数据平台组件部署方法及装置
CN113204353A (zh) * 2021-04-27 2021-08-03 新华三大数据技术有限公司 一种大数据平台组件部署方法及装置
CN115328651A (zh) * 2022-08-12 2022-11-11 扬州万方科技股份有限公司 基于国产vpx服务器的轻量化微云系统

Also Published As

Publication number Publication date
CN105743995B (zh) 2019-10-18

Similar Documents

Publication Publication Date Title
CN105743995A (zh) 一种可移植高可用部署和管理容器集群的系统和方法
US11307943B2 (en) Disaster recovery deployment method, apparatus, and system
CN106570074B (zh) 分布式数据库系统及其实现方法
US9999030B2 (en) Resource provisioning method
US8468548B2 (en) Multi-tenant, high-density container service for hosting stateful and stateless middleware components
US20190116110A1 (en) Location Based Test Agent Deployment In Virtual Processing Environments
US9807028B2 (en) Method and apparatus for allocating resources
CN103620578B (zh) 经由网络分割的本地云计算
US20150381435A1 (en) Migrating private infrastructure services to a cloud
US11169840B2 (en) High availability for virtual network functions
US20130036213A1 (en) Virtual private clouds
WO2015157896A1 (zh) 一种云计算架构下的容灾方案配置方法及装置
CN102594861A (zh) 一种多服务器负载均衡的云存储系统
CN103595801B (zh) 一种云计算系统及其虚拟机实时监控方法
WO2014036717A1 (zh) 虚拟资源对象组件
US9690608B2 (en) Method and system for managing hosts that run virtual machines within a cluster
US9158734B1 (en) Method and apparatus for elastic provisioning
CN105159775A (zh) 基于负载均衡器的云计算数据中心的管理系统和管理方法
US20190317824A1 (en) Deployment of services across clusters of nodes
CN112948063B (zh) 云平台的创建方法、装置、云平台以及云平台实现系统
Jammal et al. High availability-aware optimization digest for applications deployment in cloud
CN108900651B (zh) 基于多租户环境的Kubernetes与Neutron对接方法、存储介质、设备
CN106911741B (zh) 一种虚拟化网管文件下载负载均衡的方法及网管服务器
US10672044B2 (en) Provisioning of high-availability nodes using rack computing resources
CN112637265B (zh) 一种设备管理方法、装置及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20231027

Address after: 5089, 5th Floor, Building 2, China Agricultural University International Entrepreneurship Park, No. 10 Tianxiu Road, Haidian District, Beijing, 100193

Patentee after: Fenomen array (Beijing) Technology Co.,Ltd.

Address before: No. 2776, Building 2, No. 7 Chuangxin Road, Science and Technology Park, Changping District, Beijing 102200

Patentee before: BEIJING QINGYUAN TECHNOLOGY Co.,Ltd.

TR01 Transfer of patent right