CN112559138B - 一种资源调度系统及方法 - Google Patents

Abstract

本发明提供了一种资源调度系统及方法，属于信息处理技术领域，本发明提供的一种资源调度系统，设备插件通过设备插件扩展接口与设备管理器连接，设备管理器与节点能力描述文件连接。本发明还提供了一种资源调度方法，设备插件通过设备插件扩展接口向设备管理器提供设备插件的接入信息；设备管理器根据设备插件的接入信息生成节点资源能力列表，并将节点资源能力列表传输到节点能力描述文件；节点能力描述文件根据服务器的服务调度请求，将设备插件部署到服务器指定的节点。本发明通过设备管理器来对设备插件进行管理，对于每种新的设备插件，并没有统一的接口定义规范，因此本发明可以对设备插件进行多次扩展，适用于各种资源调度应用场景。

Description

一种资源调度系统及方法

技术领域

本发明属于信息处理技术领域，更具体地说，是涉及一种资源调度系统及方法。

背景技术

随着容器虚拟化技术的兴起，越来越多的企业使用容器编排和调度框架进行统一的资源管理。一般情况下容器编排和调度框架只是提供基础的资源维度的调度控制，比如Kubernetes、Mesos等，可以自动识别每个节点的CPU、内存等可分配的资源，对应的调度服务根据部署的服务请求的资源情况进行匹配，并找到最佳的节点进行部署。

但是，每个企业可能在节点上安装了特别的设备（比如GPU、加速卡等），并且希望服务部署时，调度引擎可以根据此设备的部署位置及被请求、使用的情况来选择部署的位置，从而实现统一的可扩展的设备抽象及资源调度方法，方便快速扩展平台对于不同设备的支持能力。比如，在新设备需要供给到容器集群时，由设备的供应方及开发运维人员开发对应的设备插件，并部署到容器集群中；业务开发、部署人员通过云平台便可以选择该类型的设备资源，在部署应用时自动将该设备挂载到容器服务中，使用该设备可以带来的计算、存储或者网络等特性。而现有的容器编排技术定义了统一的接口规范，将节点同设备资源进行了关联，因此现有的容器编排技术并不能随时扩展新的设备插件，具有适用范围小的缺点。

发明内容

本发明的目的在于提供一种资源调度系统及方法，旨在解决现有的容器编排技术并不能随时扩展新的设备插件，导致适用范围小的问题。

为实现上述目的，本发明采用的技术方案是：一种资源调度系统，包括：

设备插件，用于提供插件资源；

设备插件扩展接口，与所述设备插件连接，用于向所述设备插件提供接入通道，并生成所述设备插件的接入信息；

设备管理器，与所述设备插件扩展接口连接，用于接收所述设备插件的接入信息，并根据所述设备插件的接入信息生成节点资源能力列表；所述设备插件的接入信息包括：设备插件的注册信息和设备插件的资源接口信息；

节点能力描述文件，与所述设备管理器连接，用于接收所述节点资源能力列表，并根据服务器的服务调度请求，将所述设备插件部署到所述服务器指定的节点。

优选的，所述设备插件扩展接口，包括：注册接口；

所述设备插件通过所述注册接口与所述设备管理器连接，用于向所述设备管理器提供所述设备插件的注册信息；所述设备插件的注册信息包括：设备插件版本号、设备插件通讯地址、设备插件资源名称、设备插件配置选项。

优选的，还包括：资源分配接口；

所述设备插件通过所述资源分配接口与所述设备管理器连接，用于向所述设备管理器提供所述设备插件的资源接口信息；所述设备插件的资源接口信息包括：设备插件在宿主机上的路径、设备插件在容器中的路径和访问设备需要的权限。

优选的，所述设备插件扩展接口，还包括：启动配置接口；

所述设备插件通过所述启动配置接口与所述设备管理器连接，用于在部署设备插件时，完成对设备插件的准备动作。

优选的，所述设备插件扩展接口，还包括：更新监控接口；

所述设备插件通过所述更新监控接口与所述设备管理器连接，用于监听设备插件的更新，当有所述设备插件更新时，所述设备插件通过所述更新监控接口通知所述设备管理器。

优选的，所述设备插件扩展接口，还包括：注册信息查询接口；

所述设备插件通过所述注册信息查询接口与所述设备管理器连接，用于所述设备管理器对所述设备插件的注册信息进行实时查询。

本发明还提供一种资源调度方法，包括以下步骤：

步骤1：设备插件通过设备插件扩展接口向设备管理器提供设备插件的接入信息；所述设备插件的接入信息包括：设备插件的注册信息和设备插件的资源接口信息；

步骤2：所述设备管理器根据设备插件的接入信息生成节点资源能力列表，并将所述节点资源能力列表传输到节点能力描述文件；

步骤3：节点能力描述文件根据服务器的服务调度请求，将所述设备插件部署到所述服务器指定的节点。

优选的，所述将所述设备插件部署到所述服务器指定的节点之前，还包括：

通过利用启动配置接口，完成对所述设备插件的准备动作。

本发明提供的一种资源调度系统及方法的有益效果在于：与现有技术相比，本发明的一种资源调度系统，包括：设备插件、设备插件扩展接口、设备管理器和节点能力描述文件；设备插件通过设备插件扩展接口向设备管理器提供设备插件的接入信息；设备管理器根据设备插件的接入信息生成节点资源能力列表，并将节点资源能力列表传输到节点能力描述文件；节点能力描述文件根据服务器的服务调度请求，将所述设备插件部署到所述服务器指定的节点。本发明通过设备管理器来对设备插件进行管理，对于每种新的设备插件，都需要为不同设备插件开发独立的设备管理组件，并没有统一的接口定义规范，因此本发明可以对设备插件进行多次扩展，可以适用各种资源调度应用场景，而且本发明中没有统一的调度系统，根据节点、设备资源的分配情况，为部署的服务选择合适的节点部署，并通过统一的方式在服务部署启动时挂载指定设备。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种资源调度系统示意图；

图2为本发明实施例提供的一种资源调度方法流程图；

图3为本发明实施例提供的设备插件的生命周期管理流程图。

符号说明：

1、设备插件；2、设备插件扩展接口；3、设备管理器；4、节点能力描述文件。

具体实施方式

为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明的目的在于提供一种资源调度系统及方法，旨在解决现有的容器编排技术并不能随时扩展新的设备插件，导致适用范围小的问题。

请参阅图1，现对本发明提供的一种资源调度系统进行说明。本发明的基本思想是通过统一的设备管理器3对节点设备进行管理，并通过扩展接口，允许开发人员自定义设备插件1，将设备插件1能够识别的设备注册到设备管理器3，并最终作为节点能力将设备信息注册到统一的资源描述文件中；同时，调度服务通过读取统一的资源描述文件，获取每个节点上具备的设备能力以及设备使用情况，当有新的服务部署到资源池时，根据调度策略及所有节点的当前状态选择更合适的节点，满足服务对资源的需求。

本发明提供的资源调度系统，包括：设备插件1、设备插件扩展接口2、设备管理器3和节点能力描述文件4。设备插件1用于提供插件资源；不同设备可以自己实现一个管理设备资源的程序，部署到相应的节点上，我们将其定义为设备插件1。

设备插件扩展接口2与设备插件1连接，用于向设备插件1提供接入通道，并生成设备插件1的接入信息。

设备管理器3与设备插件扩展接口2连接，用于接收设备插件1的接入信息，并根据设备插件1的接入信息生成节点资源能力列表；设备插件1的接入信息包括：设备插件1的注册信息和设备插件1的资源接口信息。

节点能力描述文件4与设备管理器3连接，用于接收节点资源能力列表，并根据服务器的服务调度请求，将设备插件1部署到服务器指定的节点。

本发明通过设备管理器3定义的标准接口，允许设备插件1快速进行设备接入，一般需要设备插件扩展接口2实现如下接口：注册接口、资源分配接口、启动配置接口、更新监控接口和注册信息查询接口。

Register （注册接口），在设备插件1启动时，通过该接口向设备管理器3主动注册，并告知插件的基本信息，比如设备插件1版本号、socket的endpoint（endpoint就是一个设备插件1通讯地址）、设备插件1资源名称，插件的基本配置选项等。设备插件1通过注册接口与设备管理器3连接，用于向设备管理器3提供设备插件1的注册信息；设备插件1的注册信息包括：设备插件版本号、设备插件通讯地址、设备插件资源名称、设备插件配置选项。

Allocate（资源分配接口）为设备管理器3向设备插件1申请资源的接口，包括设备在容器中的路径，设备在宿主机上的路径，访问设备需要的权限等。设备插件1通过资源分配接口与设备管理器3连接，用于向设备管理器3提供设备插件1的资源接口信息；设备插件1的资源接口信息包括：设备插件1在宿主机上的路径、设备插件1在容器中的路径和访问设备需要的权限。

PreStartService（启动配置接口）用于在启动服务之前，如果设备插件1需要相关操作时，设备管理器3可以通过设备插件1的endpoint调用该接口，以便完成服务启动前需要对设备进行的相关准备动作。

在实际应用中，设备插件1通过启动配置接口与设备管理器3连接，用于在部署设备插件1时，完成对设备插件1的准备动作。其中，完成对设备插件的准备动作可以为：清理可能存在的旧的设备文件，复制插件管理所需要的执行文件到主机上，根据节点情况自动生成配置文件，重置设备状态等，目的是使设备插件部署后处于可用状态，在被容器服务使用时，可以由设备管理器进行直接操作，并始终处于一致的状态。

ListAndWatch(更新监控接口)用来监听设备的变化，一旦有设备插件1更新，设备插件1就会通知设备管理器3。此时由设备管理器3发起watch请求，以便实时获取设备的变化，同时会定期进行list，避免异常情况watch丢失可能造成的信息不同步。设备插件1通过更新监控接口与设备管理器3连接，用于监听设备插件1的更新，当有设备插件1更新时，设备插件1通过更新监控接口通知设备管理器3。

GetDevicePluginOptions（注册信息查询接口）该接口同注册接口基本一致，只是允许设备管理器3再次对设备插件1的注册信息进行实时查询。设备插件1通过注册信息查询接口与设备管理器3连接，用于设备管理器3对设备插件1的注册信息进行实时查询。

本发明通过设备管理器3来对设备插件1进行管理，对于每种新的设备插件1，都需要为不同设备插件1开发独立的设备管理组件，并没有统一的接口定义规范，因此本发明可以对设备插件1进行多次扩展，可以适用各种资源调度应用场景，而且本发明中没有统一的调度系统，根据节点、设备资源的分配情况，为部署的服务选择合适的节点部署，并通过统一的方式在服务部署启动时挂载指定设备。

请参阅图2，本发明还提供的一种资源调度方法，包括以下步骤：

S1:设备插件1通过设备插件扩展接口2向设备管理器3提供设备插件1的接入信息；设备插件1的接入信息包括：设备插件1的注册信息和设备插件1的资源接口信息；

在实际应用中，设备管理器3连接插件的endpoint，同设备插件1建立联系，且设备管理器3和设备插件1都监听在本地的网络socket描述符，可以同其他程序进行通信。设备插件1需要向设备管理器3注册，注册内容要包含自己的endpoint以及设备插件1版本号、设备插件1通讯地址、设备插件1资源名称和设备插件1配置选项等基本的设备信息。

S2:设备管理器3根据设备插件1的接入信息生成节点资源能力列表，并将节点资源能力列表传输到节点能力描述文件4；

在实际应用中，设备管理器3可将自己节点的节点资源能力列表及使用情况上报到节点能力描述文件4中，以便供调度服务读取，并作为后续服务部署时进行资源计算，并选择节点的依据。

S3:节点能力描述文件4根据服务器的服务调度请求，通过利用启动配置接口，完成对设备插件1的准备动作，将设备插件1部署到服务器指定的节点。

请参阅图3，如果有新的设备插件1需要接入并统一调度、管理，设备插件1的生命周期管理流程基本如下：

一、设备插件启动时，以registry接口向设备管理器注册，同时提供插件的监听socket描述符，版本号和设备名称等。设备管理器把这些设备暴露到节点能力资源中（可以保存在某个类型的数据库中），后续调度服务会根据这些信息进行统一的服务调度和部署；

二、设备插件启动后，设备管理器会建立一个到插件的listAndWatch长连接，比如当设备插件检测到某个设备不健康的时候，就会主动通知设备管理器。此时如果这个设备处于空闲状态，设备管理器就会将其挪出可分配列表；如果该设备已经被某个服务使用，将会把该服务删除并重新调度到具有健康设备的节点上；

三、设备插件启动后可以利用设备管理器的socket持续检查其状态，如果设备管理器重启，设备插件也会相应的重启，并且重新向设备管理器注册自己。

本发明提出了一种可扩展的设备抽象及资源调度方式，从而使不同的设备可以动态的接入到统一资源池管理范围内，并允许调度器进行识别及作为服务部署申请的资源类型，本发明具有以下特点：

1、将设备管理器同设备插件进行分离，将通用的设备管理能力抽离出来，并提供标准的扩展接口，允许不同设备通过插件的方式接入到设备管理上来。

2、设备插件同设备管理器之间通过socket描述符进行通信，按照预先定义的接口相互调用，并且定义了插件启动、watch变化、资源请求等核心接口。

3、定义了统一的节点资源描述，将设备作为一种可扩展的资源类型进行声明，在设备管理器和调度器之间按照约定好的资源描述格式进行相互协调。

4、新的设备接入时，无需修改统一的设备管理器及调度服务，只需要按照标准的接口方式实现自己的设备插件即可；设备插件只需要关心同设备自身的交互逻辑，并实现标准的接口即可，无需理解设备如何被服务申请以及同调度服务进行交互的技术细节，便可以快速的将不同节点的设备进行池化管理，并提供给不同服务对于特定设备及数量的请求。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种资源调度系统，其特征在于，包括：

设备插件，用于提供插件资源；

设备插件扩展接口，与所述设备插件连接，用于向所述设备插件提供接入通道，并生成所述设备插件的接入信息；所述设备插件扩展接口，包括：注册接口；

设备管理器，与所述设备插件扩展接口连接，用于接收所述设备插件的接入信息，并根据所述设备插件的接入信息生成节点资源能力列表；所述设备插件的接入信息包括：设备插件的注册信息和设备插件的资源接口信息；

所述设备插件通过注册接口与所述设备管理器连接，用于向所述设备管理器提供所述设备插件的注册信息；所述设备插件的注册信息包括：设备插件版本号、设备插件通讯地址、设备插件资源名称、设备插件配置选项；所述设备插件扩展接口，还包括：资源分配接口；所述设备插件通过所述资源分配接口与所述设备管理器连接，用于向所述设备管理器提供所述设备插件的资源接口信息；所述设备插件的资源接口信息包括：设备插件在宿主机上的路径、设备插件在容器中的路径和访问设备需要的权限；

节点能力描述文件，与所述设备管理器连接，用于接收所述节点资源能力列表，并根据服务器的服务调度请求，将所述设备插件部署到所述服务器指定的节点。

2.如权利要求1所述的一种资源调度系统，其特征在于，所述设备插件扩展接口，还包括：启动配置接口；

所述设备插件通过所述启动配置接口与所述设备管理器连接，用于在部署设备插件时，完成对设备插件的准备动作。

3.如权利要求2所述的一种资源调度系统，其特征在于，所述设备插件扩展接口，还包括：更新监控接口；

所述设备插件通过所述更新监控接口与所述设备管理器连接，用于监听设备插件的更新，当有所述设备插件更新时，所述设备插件通过所述更新监控接口通知所述设备管理器。

4.如权利要求3所述的一种资源调度系统，其特征在于，所述设备插件扩展接口，还包括：注册信息查询接口；

所述设备插件通过所述注册信息查询接口与所述设备管理器连接，用于所述设备管理器对所述设备插件的注册信息进行实时查询。

5.一种资源调度方法，其特征在于，包括以下步骤：

步骤1：设备插件通过设备插件扩展接口向设备管理器提供设备插件的接入信息；所述设备插件的接入信息包括：设备插件的注册信息和设备插件的资源接口信息；所述设备插件的注册信息包括：设备插件版本号、设备插件通讯地址、设备插件资源名称、设备插件配置选项；所述设备插件扩展接口，还包括：资源分配接口；所述设备插件通过所述资源分配接口与所述设备管理器连接，用于向所述设备管理器提供所述设备插件的资源接口信息；所述设备插件的资源接口信息包括：设备插件在宿主机上的路径、设备插件在容器中的路径和访问设备需要的权限；

步骤2：所述设备管理器根据设备插件的接入信息生成节点资源能力列表，并将所述节点资源能力列表传输到节点能力描述文件；

步骤3：节点能力描述文件根据服务器的服务调度请求，将所述设备插件部署到所述服务器指定的节点。

6.如权利要求5所述的一种资源调度方法，其特征在于，所述将所述设备插件部署到所述服务器指定的节点之前，还包括：

通过利用启动配置接口，完成对所述设备插件的准备动作。

Images