CN112181648B - 一种配置驱动的轻量级混合基础设施平台及数据处理方法 - Google Patents

Abstract

本发明公开了一种配置驱动的轻量级混合基础设施平台及数据处理方法，其特征在于，包括客户服务端，用于接收资源实例请求并将其发送给API服务器；分析器，部署在宿主机上，用于对云供应商的API进行分析，根据其资源管理能力形成该API的YAML配置文件；根据每一种虚拟资源所支持的API生成该虚拟资源的资源配置文件和功能配置文件；转换器，用于对输入的所述资源配置文件中的各虚拟资源转换为Kubernetes兼容的CRD对象；控制器，部署在API服务器上，用于对API服务器接收的资源实例请求进行解析，获取资源实例请求的请求类型及资源实例，然后根据该请求类型确定将该资源实例请求发送给调度器或者执行器处理。

Description

一种配置驱动的轻量级混合基础设施平台及数据处理方法

技术领域

本发明涉及一种配置驱动的轻量级混合基础设施平台及数据处理方法，属于云服务和计算技术领域。

背景技术

随着信息技术的飞速发展，云计算的互联网计算模式已成功应用于商业、政务、医疗等各行各业，Gartner报告显示，云计算IT基础设施销售份额已超过传统IT产品，占58.4％。云计算的基础设施可以采用不同的计算模型，其中典型的模型包括虚拟机和容器。近年来，随着移动设备软硬件的快速发展，虚拟机、容器融合的边缘计算场景成为了行业发展的必然趋势。然而，由于两者之间的技术方案不同，再加上两种技术发展的时间间隔较大，统一协同管理虚拟机和容器面临挑战。

近年来，各大云服务供应商尝试整合虚拟机和容器的管理能力，形成一体化的基础设施平台。一类方案是改造热门虚拟机管理平台，适配Docker容器。OpenStack自2013年Docker容器进入市场以来，分为两类方案尝试融入Docker管理能力。Docker Driver：该方案将Docker像虚拟机一样管理，能够实现对Docker容器的启停、创建等基本操作，然而该方案只简单集成基础功能，与现有Nova、Neutron等组件不兼容的功能如网络、服务发现、端口映射等难以接入。社区孵化项目Zun、Kuryr等：这些项目都独立于已有OpenStack组件之外，构建新的组件以接入更多的Docker管理功能，然而社区开发的组件取决于项目的活跃度，同时还存在适配软件版本时延的问题，在可用性上存在不确定性。

另一类工作尝试通过改造开源的容器管理框架Kubernetes以适配虚拟机。典型的项目有Kubevirt。Kubevirt设计希望最大化复用Kubernetes能力，包括网络方面的能力，其核心思想是将虚拟机看成是Pod包含的元素。但这种做法会导致以下一些问题：(1)Pod模型仅能表示容器的部署模型，而无法刻画虚拟机模型。启动Pod并不是代表启动了虚拟机，因为Pod和虚拟机管理接口是不一样。因此，在现阶段官方提供的kubevirt方案中，仅仅能在从宿主机上创建出虚拟机，还需要人为登陆从宿主机启动虚拟机，可用性差。(2)管理虚拟机但仍然需要部署Docker容器。这是因为根据Kubevirt方案，Pod仍需要一个守护容器进行虚拟机管理，易用性差。(3)Kubernetes无法获取虚拟机实时资源消耗，这是因为对容器信息收集与对VM信息收集是不一样的，因此还需要集成其它监测方案，通用性差。

发明内容

为克服现有技术的不足，本发明的目的是提供一种配置驱动的轻量级混合基础设施平台及数据处理方法，本发明具有扩展性和可维护性高且轻量化的特点，本发明的可扩展性体现在通过程序分析的方式对云供应商的API进行分析，并通过YAML描述文件转换成Kubernetes架构兼容的资源类型，可快速适配现有私有云、公有云和容器云的管理能力，并提供统一的接口管理虚拟机和容器的混合基础设施。

本发明通过以下方式统一管理包括KVM虚拟机、Docker容器和公有云在内的混合基础设施：(1)扩展Kubernetes，新增“配置中心--分析器”：通过程序分析的方式对云供应商的API进行分析，获取其所有的虚拟资源管理能力，并形成相应的YAML配置文件(每种虚拟资源包括“资源配置文件”和“功能配置文件”两个文件)，屏蔽混合基础设施API的异构性；(2)扩展Kubernetes，新增“配置中心--转换器”：转换器可根据所述分析器生成的“资源配置文件”自动转换为Kubernetes兼容的CRD(Custom Resource Definition)对象，以支持混合基础设施的统一描述，使不同资源能够被Kubernetes框架统一接入；(3)扩展Kubernetes，新增了控制器，调度器和执行器，控制器用于解析客户端请求，获取客户请求的类型和对应的资源实例。调度器实现了支持混合基础设施(虚拟机、Docker、公有云)感知的调度功能。执行器实现了支持混合基础设施(虚拟机、Docker、公有云)的生命周期管理。

本发明的技术解决方案是：一种配置驱动的轻量级混合基础设施平台和方法，包括客户服务端、配置中心--分析器、配置中心--转换器、控制器、调度器和执行器，其中：

客户服务端，为前台的交互服务，当客户对某种虚拟资源有需求时，客户服务端通过本发明提供的Java SDK向平台发起包含操作指令、参数在内的JSON格式的资源实例请求；

配置中心--分析器，所述配置中心的组成部分之一，采用已有程序分析方法对云供应商的API进行分析，通过对云供应商提供的API文档进行关键字解析，获取该API的资源管理能力，形成该API的YAML配置文件；将每一种虚拟资源(包括但不限于虚拟机、Docker、公有云、云盘、虚拟交换机、虚拟路由器)所支持的API分析结果汇总之后，分别生成“资源配置文件”和“功能配置文件”两个YAML文件。其中，所述“资源配置文件”用于描述虚拟资源的内容，所述“功能配置文件”用于描述API方法名、参数和管理功能的语义映射；

配置中心--转换器，所述配置中心的组成部分之一，以“资源配置文件”作为输入，通过编程的方式将多种虚拟资源(包括但不限于虚拟机、Docker、公有云、云盘、虚拟交换机、虚拟路由器)自动转换为Kubernetes兼容的CRD对象，解决混合基础设施资源的统一接入问题；

控制器，通过API服务器与客户端进行交互，用于解析客户服务端的JSON请求，通过解析JSON获取客户请求的类型，并通过请求中包含的唯一标识获取对应的资源实例，最后根据请求类型判断该请求应该发送给调度器或者执行器处理，所述请求类型包括“添加”、“修改”和“删除”，其中“添加”请求将发送给调度器，再由“调度器”发送给执行器，“修改”和“删除”请求将直接发送给执行器；

调度器，负责处理控制器发送的请求类型为“添加”的客户端请求，根据管理员制定的调度策略将资源实例调度到最优宿主机上，以最大化集群的资源利用率。所述调度策略的受众是集群中的普通用户。所述调度策略是指管理员可配置的资源调度策略，目前支持公平性、优先级、亲和性和反亲和性策略。假设集群有A、B两个用户，所述公平性策略是指用户A和用户B平等共享集群资源。所述优先级策略是指当用户A的优先级比用户B高时，用户A的资源将被优先调度，目前本系统支持高、中、低三个优先级。所述亲和性是指管理员(用户)可标记多个虚拟机(Docker容器)之间具有亲和性的标签，调度器会将具有亲和性标签的多个虚拟机(Docker容器)调度到同一台宿主机上。所述反亲和性的调度规则与亲和性相反，调度器会将具有反亲和性标签的多个虚拟机(Docker容器)调度到不同宿主机上；

执行器，部署在每个宿主机上，执行器由事件处理模块和资源管理模块组成。所述事件处理模块与API服务器连接，负责接收客户端请求，并反馈请求执行的结果。所述资源管理模块主要负责将请求转换成可执行命令并执行，所述命令包括但不限于包括但不限于虚拟机、Docker、公有云、云盘、虚拟交换机、虚拟路由器的生命周期管理。执行器内命令的转换和执行过程如下所述：1)事件处理模块从API服务器接收到客户端请求，并将请求内容以传参的方式发给资源管理模块；2)资源管理模块接收到函数参数之后，通过映射“功能配置文件”的内容，将请求转换为可执行命令并执行。所述映射包括识别API服务器版本信息apiVersion、识别资源类型kind、识别Kubernetes命名空间namespace、匹配API名称spec→functions→name、映射API所对应的命令名称spec→functions→command，以及验证命令参数的格式、取值范围是否正确spec→functions→parameters；3)请求执行结果再通过事件处理模块反馈给API服务器；

收集器，部署在每个宿主机上，负责收集宿主机上部署的虚拟资源的使用情况，并周期性将结果汇报给调度器，供调度器作调度决策。

进一步地，所述“资源配置文件”和“功能配置文件”的格式为YAML，具体的标准如下所示：

所述“资源配置文件”用于屏蔽不同资源类型(虚拟机、Docker、公有云)之间的异构性，可以转换为Kubernetes框架可识别的CRD对象。“资源配置文件”的示例如下，字段后的尖括号内标识了<字段类型：字段内容>，其中str为字符串类型，dict为字典类型。

其中，字段apiVersion的内容为api的版本号，用于指定当前对应的API服务器的版本，作用是不同版本API服务器的上下兼容。字段kind的内容为指定资源的类型，本系统支持的资源类型是通过Kubernetes CRD接口预先创建的，包括但不限于虚拟机、Docker、公有云、云盘、虚拟交换机、虚拟路由器，资源类型可用于创建多个资源实例。字段metadata为字典结构，包括但不限于host、name、namespace子字段，其中metadata→host字段用于标识宿主机的名称；metadata→name用于标识资源实例的名称，是资源实例的唯一标识；metadata→namespace用于标识Kubernetes命名空间的名称，所述命名空间与CRD资源类型类似，是通过调用Kubernetes接口预先创建的，用于对资源的运行环境进行逻辑隔离。字段spec为字典结构，包括但不限于details、description、timestamp子字段，其中spec→details用于表示资源实例的具体属性，通常为字典结构，由于不同资源类型的属性不同，因此本系统不约束details内的字段；spec→description用于表示资源实例的描述，用户可以通过API接口自定义资源实例的描述；spec→timestamp用于标记该资源实例最后一次操作的时间戳。

所述“功能配置文件”用于记录客户端请求与命令之间的映射关系，以及命令参数的描述。“功能配置文件”示例如下，字段后的尖括号内标识了<字段类型：字段内容>，其中str为字符串类型，dict为字典类型，list为列表类型。

其中，字段apiVersion、kind、metadata→namespace的作用与“资源配置文件”相同；字段spec→functions为列表结构，列表中每一个元素对应一个功能，列表中元素为字典结构，包括但不限于name、command、parameters字段，其中name字段表示API的名称，与客户端请求的名称一致；command字段表示可执行命令的名称；parameters字段表示命令的参数描述，采用字典结构表示。

进一步地，所述控制器、调度器和执行器之间的交互是根据客户端请求的类型进行判断的。具体的规则如下：

1)当客户端请求类型为“添加”时，控制器将请求发送给调度器，由调度器根据既定调度策略进行调度。当调度完成之后，客户端请求将被调度器转发给目标宿主机上的执行器；

2)当客户端请求类型为“修改”和“删除”时，控制器通过资源实例的唯一标识查询到资源实例的宿主机信息，客户端请求将直接发送给目标宿主机上的执行器。

3)执行器部署在每个宿主机上，通过事件处理模块对API服务器的事件进行监听，当有客户端请求通过控制器或者调度器发送到API服务器时，事件将被路由到目标宿主机上执行。

进一步地，所述执行器的事件处理模块与资源管理模块的具体实现和模块之间的交互如下：

1)事件处理模块包含事件监听和事件同步两个子模块，其中事件监听子模块与API服务器建立连接，负责接收从API服务器上发送过来的客户端请求，并交由资源管理模块进行处理；当资源管理模块处理完客户端请求之后，执行的结果将反馈到事件同步子模块，并封装成前述YAML格式的“资源配置文件”用于更新资源实例的CRD内容；

2)资源管理模块包含命令解析和命令调用两个子模块，其中命令解析子模块在接收到客户端请求内容之后，将根据前述“功能配置文件”对请求内容进行可执行命令的转换，同时还采用正则表达式对命令的参数进行验证(包括但不限于参数的必填、选填、格式规范等属性)；命令调用子模块主要负责执行命令并收集执行结果，命令的执行支持同步、异步两种方式。

本发明与现有技术相比的优点在于：

(1)本发明针对现有云环境中虚拟机、Docker容器和公有云没有统一的管理框架导致维护成本和使用成本高昂的问题，通过配置文件的方式维护了能够屏蔽底层资源异构性的“资源配置文件”和“功能配置文件”，解决了目前开源系统Kubevirt可用性、易用性和通用性等问题，实现了配置驱动的轻量级混合基础设施管理方法；

(2)本发明扩展了Kubernetes的开源实现，新增了支持混合基础设施(虚拟机、Docker、公有云)的配置中心、控制器、调度器和执行器，实现了配置驱动的轻量级混合基础设施平台。

附图说明

图1为本发明的实施例的配置驱动的轻量级混合基础设施平台结构示意图；

图2为本发明的轻量级混合基础设施平台的控制器流程示意图；

图3为本发明的轻量级混合基础设施平台的执行器结构示意图。

具体实施方式

下面将结合本发明的附图，进一步说明本发明的技术方案，所描述的实施例是本发明一部分实施例，而不代表全部的实施例。

对于本领域的技术人员来说，一些公知技术可能未进行详细阐述。

本实施例中，一种配置驱动的轻量级混合基础设施平台运行流程如图1所示，其特征在于步骤如下：

步骤101：客户服务端通过Java SDK将资源请求发送给API服务器，所述资源请求的格式为JSON；

步骤102：控制器接收API服务器上的资源请求，并判断资源请求的类型，当资源请求类型为“修改”和“删除”时，调用查询接口获取资源实例的宿主机信息，并将包含宿主机信息的资源请求反馈给API服务器；

步骤103：当控制器接收到的资源请求类型为“添加”时，将该请求转发给调度器进行资源调度决策；

步骤104：当调度器接收到控制器的“添加”资源实例请求时，根据既定的调度策略选择宿主机，将包含宿主机信息的调度结果反馈到API服务器；

步骤105：执行器监听API服务器上的资源实例请求，并负责解析、执行请求内容；

步骤106：配置中心通过“资源配置文件”和“功能配置文件”对多种虚拟资源(虚拟机、Docker、公有云)进行统一描述。当资源请求到达执行器之后，执行器将根据配置中心--分析器的接口分析“功能配置文件”，获取命令和参数；

步骤107：当执行器执行完命令之后，执行结果将根据配置中心--转换器的接口转换成符合“资源配置文件”规范的Kubernetes CRD对象；

步骤108：执行器将命令执行结果同步到API服务器，方式为发起Kubernetes CRD对象的创建、修改和删除操作，分别映射客户端请求的“添加”、“修改”和“删除”类型；

步骤109：API服务器将资源请求的结果以JSON格式推送给客户服务端。

本实施例中，一种配置驱动的轻量级混合基础设施平台的控制器如图2所示，其特征在于工作流程如下：

步骤201：当客户端请求类型为“添加”时，将调度资源实例；

步骤202：当调度资源实例结果为“成功”时，将在目标宿主机上创建资源实例；

步骤203：当调度资源实例结果为“失败”时，将错误信息通过JSON反馈给客户服务端；

步骤204：当创建资源实例的结果为“成功”时，将资源实例的名称通过JSON反馈给客户服务端；

步骤205：当创建资源实例的结果为“失败”时，将错误信息通过JSON反馈给客户服务端；

步骤206：当客户端请求类型为“修改”或“删除”时，将在目标宿主机上执行命令；

步骤207：当执行命令的结果为“成功”时，将通过Kubernetes CRD的更新接口更新资源实例；

步骤208：当执行命令的结果为“失败”时，将错误信息通过JSON反馈给客户服务端；

本实施例中，一种配置驱动的轻量级混合基础设施平台的执行器的结构如图3所示，其特征在于步骤如下：

步骤301：事件监听子模块实现了对客户服务端事件的监听；

步骤302：事件监听子模块将请求以程序参数的方式传递给命令解析子模块；

步骤303：命令解析子模块根据“功能配置文件”中的命令、参数约束，将客户端请求解析为可执行命令；

步骤304：命令执行完成后，将结果通过程序返回值的方式传给事件同步子模块；

步骤305：事件同步子模块通过调用Kubernetes CRD的接口(创建、更新、删除)，将结果同步到API服务器。

以上对于本发明实施例的具体实施方法的描述只是举例说明，本发明的保护范围由所述权利要求书阐述。本领域的技术人员在理解了上述说明的基础之上，进行的任何形式的变化和改动均落入本发明的保护范围之内。

Claims (9)

1.一种配置驱动的轻量级混合基础设施平台，其特征在于，包括客户服务端、分析器、转换器、控制器、调度器和执行器；其中，

客户服务端，用于接收资源实例请求并将其发送给API服务器；

分析器，部署在宿主机上，用于对云供应商的API进行分析，根据其资源管理能力形成该API的YAML配置文件；根据每一种虚拟资源所支持的API生成该虚拟资源的资源配置文件和功能配置文件；所述资源配置文件用于描述虚拟资源内容；所述功能配置文件用于描述所支持API的方法名、参数和管理功能的语义映射；

转换器，部署在宿主机上，用于对输入的所述资源配置文件中的各虚拟资源转换为Kubernetes兼容的CRD对象；

控制器，部署在API服务器上，用于对API服务器接收的资源实例请求进行解析，获取资源实例请求的请求类型及资源实例，然后根据该请求类型确定将该资源实例请求发送给调度器或者执行器处理；所述请求类型包括“添加”、“修改”和“删除”，如果请求类型为“添加”则将该资源实例请求发送给调度器，再由调度器发送给执行器，如果请求类型是“修改”或“删除”，则将该资源实例请求发送给执行器；

调度器，部署在API服务器上，用于处理请求类型为“添加”的资源实例请求，根据设定的调度策略将该资源实例请求的资源实例调度到宿主机上；

执行器，部署在宿主机上，根据所述功能配置文件将所述资源实例请求转换为命令并执行。

2.如权利要求1所述的轻量级混合基础设施平台，其特征在于，所述资源配置文件包括指定API对应的API服务器版本字段apiVersion，指定资源类型的kind字段，metadata字段和spec字段；其中metadata字段包括但不限于host、name、namespace子字段，host子字段用于标识宿主机的名称，name子字段用于标识资源实例的名称，namespace子字段用于标识Kubernetes命名空间的名称，实现对资源的运行环境进行逻辑隔离；spec字段包括但不限于details、description、timestamp子字段，details子字段用于表示资源实例的具体属性，description子字段用于表示资源实例的描述，timestamp子字段用于标记该资源实例最后一次操作的时间戳。

3.如权利要求1所述的轻量级混合基础设施平台，其特征在于，所述功能配置文件包括指定API对应的API服务器版本字段apiVersion，指定资源类型的kind字段，用于标识Kubernetes命名空间名称的namespace字段，spec字段；其中spec字段包括但不限于name、command、parameters子字段，name子字段表示功能的名称，command子字段表示可执行命令的名称，parameters子字段表示命令的参数描述。

4.如权利要求1所述的轻量级混合基础设施平台，其特征在于，所述调度策略为公平性策略、优先级策略、亲和性策略或反亲和性策略；所述公平性策略是指集群中的各用户平等共享集群资源，所述优先级策略是指当集群中的用户A的优先级比用户B高时，用户A的资源将被优先调度；所述亲和性是指标记多个虚拟资源之间具有亲和性，调度器将具有亲和性标签的多个虚拟资源调度到集群中同一台宿主机上；所述反亲和性是指标记多个虚拟资源之间具有反亲和性，调度器会将具有反亲和性标签的虚拟资源调度到集群中不同宿主机上。

5.如权利要求1所述的轻量级混合基础设施平台，其特征在于，所述虚拟资源包括但不限于虚拟机、Docker、公有云、云盘、虚拟交换机、虚拟路由器。

6.如权利要求1所述的轻量级混合基础设施平台，其特征在于，所述执行器包括事件处理模块和资源管理模块；其中所述事件处理模块与API服务器通信连接，负责接收所述资源实例请求，并反馈该资源实例请求的执行结果；所述资源管理模块负责将资源实例请求转换成可执行命令并执行。

7.如权利要求1～6任一所述的轻量级混合基础设施平台，其特征在于，还包括一收集器，部署在每个宿主机上，负责收集宿主机上部署的虚拟资源的使用情况，并周期性将结果汇报给调度器，供调度器作调度决策。

8.一种配置驱动的轻量级混合基础设施平台的数据处理方法，其步骤包括：

1)客户服务端将资源实例请求发送给API服务器；分析器对云供应商的API进行分析，根据其资源管理能力形成该API的YAML配置文件，根据每一种虚拟资源所支持的API生成该虚拟资源的资源配置文件和功能配置文件；其中所述资源配置文件用于描述虚拟资源内容，所述功能配置文件用于描述所支持API的方法名、参数和管理功能的语义映射；

2)控制器接收API服务器上的资源实例请求，并判断该资源实例请求的类型，当资源实例请求类型为“修改”和“删除”时，调用查询接口获取所请求资源实例的宿主机信息，并将包含宿主机信息的资源实例请求反馈给API服务器；

3)当控制器接收到的资源实例请求类型为“添加”时，将该资源实例请求转发给调度器进行资源调度决策；

4)当调度器接收到控制器的“添加”资源实例请求时，根据设定的调度策略选择宿主机，将包含宿主机信息的调度结果反馈到API服务器；

5)执行器监听API服务器上的资源实例请求，并负责解析、执行请求内容；

6)当资源实例请求到达执行器之后，执行器将根据功能配置文件，获取命令和参数；

7)当执行器执行完命令之后，将执行结果转换成符合资源配置文件规范的KubernetesCRD对象后发送到API服务器；

8)API服务器将该资源实例请求的结果推送给客户服务端。

9.如权利要求8所述的方法，其特征在于，所述资源实例请求的格式为JSON格式。

Images