CN113282419B - 资源调度方法、电子设备和计算机可读存储介质 - Google Patents

Abstract

本发明提出了一种资源调度方法、电子设备和计算机可读存储介质，其中，该方法包括：获取客户端的操作请求；基于操作请求示出的目标操作类型，以及第一物理机集群中每个物理机的标签，在第一物理机集群中选择标签示出的可支持操作类型包括目标操作类型的多个物理机，作为第二物理机集群；基于预设的物理机调度算法，在第二物理机集群中选择目标物理机；基于目标物理机中目标操作类型对应的容器镜像信息，启动目标物理机下与目标操作类型相匹配的目标容器，以供目标容器为客户端执行操作请求对应的目标操作。通过本发明的技术方案，使得不同客户端各自调用不同容器的软硬件资源时产生隔离，不会对彼此的资源环境造成影响和污染。

Description

资源调度方法、电子设备和计算机可读存储介质

【技术领域】

本发明涉及计算机技术领域，尤其涉及一种资源调度方法、电子设备和计算机可读存储介质。

【背景技术】

目前，客户端在使用HPC(高性能计算机群)资源时，往往与多个客户端共用一个物理机，共用这个固定的物理机的资源。当其中任一客户端负载过高时，都会占用物理机的大量资源，影响共用该物理机的其他客户端的计算效率。

因此，如何减少客户端使用HPC资源时受到的干扰，成为目前亟待解决的技术问题。

【发明内容】

本发明实施例提供了一种资源调度方法、电子设备和计算机可读存储介质，旨在解决相关技术中客户端使用HPC资源时易受其他客户端干扰的技术问题。

第一方面，本发明实施例提供了一种资源调度方法，包括：获取客户端的操作请求；基于所述操作请求示出的目标操作类型，以及第一物理机集群中每个物理机的标签，在所述第一物理机集群中选择所述标签示出的可支持操作类型包括所述目标操作类型的多个物理机，作为第二物理机集群；基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机；基于所述目标物理机中所述目标操作类型对应的容器镜像信息，启动所述目标物理机下与所述目标操作类型相匹配的目标容器，以供所述目标容器为所述客户端执行所述操作请求对应的目标操作。

第二方面，本发明实施例提供了一种电子设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被设置为用于执行上述第一方面中任一项所述的方法。

第三方面，本发明实施例提供了一种计算机可读存储介质，存储有计算机可执行指令，所述计算机可执行指令用于执行上述第一方面中任一项所述的方法流程。

以上技术方案，使不同客户端各自调用不同容器的软硬件资源时产生隔离，在保证负载均衡的同时，不会对彼此的资源环境造成影响和污染。

【附图说明】

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1示出了根据本发明的一个实施例的资源调度方法的流程图。

【具体实施方式】

为了更好的理解本发明的技术方案，下面结合附图对本发明实施例进行详细描述。

应当明确，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

图1示出了根据本发明的一个实施例的资源调度方法的流程图。

如图1所示，根据本发明的一个实施例的资源调度方法应用于资源调度系统，该资源调度系统匹配有至少一个可连通HPC的第一物理机集群，资源调度系统根据客户端的操作请求自动化地为客户端匹配所需的物理机，使客户端登录该物理机启动能提供与操作请求相应的HPC资源。具体地，该方法包括：

步骤102，获取客户端的操作请求。客户端的操作请求包括但不限于对计算操作的请求、对存储操作的请求、对可视化操作的请求等，客户端将操作请求发送至调度系统，调度系统即可根据这一操作请求向该客户端分配资源，该资源用以执行操作请求所指示的操作。

步骤104，基于所述操作请求示出的目标操作类型，以及第一物理机集群中每个物理机的标签，在所述第一物理机集群中选择所述标签示出的可支持操作类型包括所述目标操作类型的多个物理机，作为第二物理机集群。

具体地，每个物理机相当于一个登录节点，每个登录节点设置有对应不同操作类型的多个容器，首先，可为每个物理机建立对应的标签，其标签内记载了其下多个容器各自支持的操作类型。接下来，调度系统在接收到客户端的操作请求后，可基于操作请求示出的目标操作类型，在预设的、用于为客户端提供资源的第一物理机集群中，初步筛选出所述标签包括目标操作类型的多个物理机。

在相关技术中，客户端在使用HPC资源时与多个客户端共用一个物理机，用户间的数据传输、作业管理、可视化应用、软件编译安装、环境配置等操作在共有的物理机中并未产生隔离，这就造成客户端数据保密性不足，很可能被共用物理机的其他客户端获取。

而在本申请中，采用容器作为高性能资源承载环境，客户端访问物理机时，会直接访问物理机中对应自身操作请求的容器。容器提供了HPC资源的环境，客户端可在容器开放的接口使用相应的软硬件资源，以满足自身的操作请求。容器自身的隔离性能，比如，计算环境的容器只能用于作业管理，不能进行其他操作，存储环境的容器只能用于数据传输，也不能进行其他操作。这样，所有容器都以当前访问自身的客户端作为唯一实时用户，即使其他客户端在访问该物理机中的其他容器，两个客户端仍旧由各自访问的容器隔离开来，保护了两者各自的数据、软件、应用等内容的独立性和安全性。

在一种可能的设计中，当检测到所述目标物理机和/或所述目标容器切换至不可用状态时，基于预设的物理机调度算法，在所述第二物理机集群中选择所述目标物理机以外的其他物理机，作为新的目标物理机；或者基于所述第二物理机集群中所述目标物理机以外的任一其他物理机中所述目标操作类型对应的容器镜像信息，启动该任一其他物理机下与所述目标操作类型相匹配的容器。

在相关技术中，客户端在使用HPC资源时与多个客户端共用一个物理机，一旦物理机出现问题，会使得该多个客户端的操作均受限。而在本申请中，由于第二物理机集群有多个物理机待选，当物理机或物理机内某一容器切换至不可用状态时，如发生故障后失效，可迅速迁移到第二物理机集群的其他物理机的容器内继续操作。同时，若物理机内某一容器切换至不可用状态时，也并不会影响该物理机中与此容器隔离的其他容器的正常使用。由此，使得客户端所用的资源更具可靠性。

步骤106，基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机。

预设的物理机调度算法包括但不限于以下一种或多种的组合：

1、基于RAND算法在所述第二物理机集群中随机选择所述目标物理机。其中，RAND算法用于每次执行返回一个指定范围内的随机实数，此处，可将第二物理机集群中各物理机的编码设置为该指定范围。

2、基于POLL算法轮询所述第二物理机集群中的任一物理机，将轮询过程中的首个可用物理机确定为所述目标物理机。POLL算法用于把当前文件的指针挂到等到队列，作为轮询对象，当轮询到任一物理机可用时，停止轮询，将首个可用物理机确定为所述目标物理机。

3、在所述第二物理机集群中权重最高的物理机确定为所述目标物理机。对此，可为物理机预设权重，其权重可由物理机的CPU使用率、内存使用率、swap使用率、GPU使用率、针对每种操作类型的平均历史反应速度、最快历史反应速度、最慢历史反应速度等因素综合确定。物理机的权重越高，其计算能力越充分，越容易满足客户端的计算需求。

4、在所述第二物理机集群中选择权重大于指定阈值的若干个物理机；基于RAND算法在所述若干个物理机中随机选择所述目标物理机，或者，基于POLL算法在所述若干个物理机中进行轮询，将轮询过程中的首个可用物理机确定为所述目标物理机。

在本实施例中，可将RAND算法或POLL算法与物理机权重结合起来作为确定目标物理机的综合条件，即在权重足够高的若干个物理机随机选择目标物理机，或在权重足够高的若干个物理机轮询选择首个可用物理机。这样，在大部分情况下可避免因权重最高的物理机无闲置资源导致的计算功能受限。

5、将所述第二物理机集群中自指定时刻至当前时刻的时间区间内被调用次数最少的物理机确定为所述目标物理机。一段时间内使用次数最少的物理机当前具有闲置资源的可能性最大，因此，可将其选定为目标物理机。

6、将所述第二物理机集群中自指定时刻至当前时刻的时间区间内、与所述目标操作类型相匹配的容器被调用次数最少的物理机确定为所述目标物理机。一段时间内客户端所需使用的容器被调用次数最少的物理机，其内客户端所需使用的容器当前闲置的可能性最大，客户端需要排队等待的可能性最低，因此，可将其选定为目标物理机。

7、将所述第二物理机集群中自指定时刻至当前时刻的时间区间内、被调用次数少于指定次数的、与所述目标操作类型相匹配的容器被调用次数最少的物理机确定为所述目标物理机。在此，可将前述第5和第6两种物理机调度算法结合起来，在一段时间内使用次数较少的物理机中，选择客户端所需使用的容器被调用次数最少的物理机，从而尽可能地保证客户端选择资源最充足的物理机。

8、计算所述第二物理机集群内每个物理机下所述目标操作类型对应的容器的客户端连接数，其中，

Li＝AL_ij+W*SL_ij

Li表示所述第二物理机集群内第i个物理机下目标操作类型j对应的容器的客户端连接数，j为目标操作类型，AL_ij表示第i个物理机中处于活跃状态下的、目标操作类型j对应的容器的客户端连接数，SL_ij表示第i个物理机中处于暂停状态下的、目标操作类型j对应的容器的客户端连接数，W∈(0，1)，为SL_ij的使用率降低系数；将所述第二物理机集群中、与所述目标操作类型对应的容器的客户端连接数最低的物理机确定为所述目标物理机。

9、获取所述第二物理机集群内每个物理机下所述目标操作类型对应的容器的可调度系数，其中，

其中，r∈R，R包括节点CPU使用率、节点内存使用率、节点swap使用率、节点存储IO、节点网络IO使用率和节点GPU使用率六项指标信息，r为指标信息的实时值，W_r表示目标操作类型的资源环境对R中指标信息的权重，S_i表示所述第二物理机集群内第i个物理机下目标操作类型对应的容器的可调度系数；选择所述可调度系数最高的容器所属的物理机，作为所述所述目标物理机。

其中，可调度系数与节点CPU使用率、节点内存使用率、节点swap使用率、节点存储IO、节点网络IO使用率和节点GPU使用率等指标信息成反比。

步骤108，基于所述目标物理机中所述目标操作类型对应的容器镜像信息，启动所述目标物理机下与所述目标操作类型相匹配的目标容器，以供所述目标容器为所述客户端执行所述操作请求对应的目标操作。

在本申请中，可将HPC资源在逻辑上做应用资源环境的划分，如作业提交、作业管理等划分为计算资源环境；文件管理、上传下载等划分为存储资源环境；软件编译、安装加载等划分为软件资源环境；远程数据可视化划分为可视化资源环境。不同资源环境在功能上互不交叉，既满足客户端的操作需求，还彼此互相独立，互不干扰。至此，可将这几类资源环境转化为容器的形式，每个客户端可以单独调用单个物理机的单个容器，也可以调用单个物理机或多个物理机中的多个容器，不同的容器均可同步被同一客户端调用，这使得客户端并行获取不同操作结果成为可能，大大提升了客户端使用HPC资源的计算效率，有助于保证负载均衡。

同时，不同客户端各自调用不同容器的软硬件资源时产生隔离，不会对彼此的资源环境造成影响和污染，这使得每个客户端所用的资源更具可靠性。

每个物理机对自身的各种操作类型的容器均设置有容器镜像信息。例如，计算操作对应的容器之容器镜像信息包括作业调度软件、编译环境、特定软件环境等；可视化操作对应的容器之容器镜像信息包括CPU加速引擎、VNC服务等；存储操作对应的容器之容器镜像信息包括文件读写软件。由此可知，容器镜像信息用于启动和运行对应的容器。因此，可基于目标物理机的目标操作类型对应的容器镜像信息启动客户端所需的目标物理机下的目标容器，以供所述目标容器为所述客户端执行所述操作请求对应的目标操作。

在一种可能的设计中，当检测到所述第一物理机集群的资源使用率达到指定使用率时，在备用物理机集群中随机抽取备用物理机加入所述第一物理机集群，使所述第一物理机集群的资源使用率小于所述指定使用率。

由此，可对HPC资源进行动态配置，具体地，可直接在HPC资源的全局配置文件中加入备用物理机的配置信息，调度系统会自动将备用物理机的配置信息与原所述第一物理机集群的配置信息一起作为可利用资源。同样，也可直接将新的容器配置信息增加至HPC资源的全局配置文件中的特定物理机下，比如，原来HPC资源中只有计算资源、存储资源，现在需要加入可视化资源、软件资源，则直接在全局配置文件中加入可视化资源、软件资源的配置信息即可。

本发明的一个实施例的电子设备，包括至少一个存储器；以及，与所述至少一个存储器通信连接的处理器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被设置为用于执行上述任一实施例中所述的方案。因此，该电子设备具有和上述任一实施例中相同的技术效果，在此不再赘述。

本发明实施例的电子设备以多种形式存在，包括但不限于:

(1)移动通信设备:这类设备的特点是具备移动通信功能，并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如iPhone)、多媒体手机、功能性手机，以及低端手机等。

(2)超移动个人计算机设备:这类设备属于个人计算机的范畴，有计算和处理功能，一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等，例如iPad。

(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如iPod)，掌上游戏机，电子书，以及智能玩具和便携式车载导航设备。

(4)服务器:提供计算服务的设备，服务器的构成包括处理器、硬盘、内存、系统总线等，服务器和通用的计算机架构类似，但是由于需要提供高可靠的服务，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

(5)其他具有数据交互功能的电子装置。

另外，本发明实施例提供了一种计算机可读存储介质，存储有计算机可执行指令，所述计算机可执行指令用于执行上述任一实施例中所述的方法流程。

以上结合附图详细说明了本发明的技术方案，通过本发明的技术方案，使得不同客户端各自调用不同容器的软硬件资源时产生隔离，不会对彼此的资源环境造成影响和污染。

应当理解，本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

应当理解，尽管在本发明实施例中可能采用术语第一、第二等来描述物理机集群但这些物理机集群不应限于这些术语。这些术语仅用来将物理机集群彼此区分开。例如，在不脱离本发明实施例范围的情况下，第一物理机集群也可以被称为第二物理机集群类似地，第二物理机集群也可以被称为第一物理机集群。

取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (9)

1.一种资源调度方法，其特征在于，包括：

获取客户端的操作请求；

基于所述操作请求示出的目标操作类型，以及第一物理机集群中每个物理机的标签，在所述第一物理机集群中选择所述标签示出的可支持操作类型包括所述目标操作类型的多个物理机，作为第二物理机集群；

基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机；

基于所述目标物理机中所述目标操作类型对应的容器镜像信息，启动所述目标物理机下与所述目标操作类型相匹配的目标容器，以供所述目标容器为所述客户端执行所述操作请求对应的目标操作；

其中，每个客户端单独调用单个物理机的单个容器，或者，每个客户端调用单个物理机或多个物理机中的多个容器，不同的容器均可同步被同一客户端调用；每个物理机对自身的各种操作类型的容器均设置有容器镜像信息，计算操作对应的容器之容器镜像信息包括作业调度软件、编译环境、特定软件环境；可视化操作对应的容器之容器镜像信息包括CPU加速引擎、VNC服务；存储操作对应的容器之容器镜像信息包括文件读写软件，容器镜像信息用于启动和运行对应的容器；

所述基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机，包括：

计算所述第二物理机集群内每个物理机下所述目标操作类型对应的容器的客户端连接数，其中，

Li＝AL_ij+W*SL_ij

Li表示所述第二物理机集群内第i个物理机下目标操作类型j对应的容器的客户端连接数，j为目标操作类型，AL_ij表示第i个物理机中处于活跃状态下的、目标操作类型j对应的容器的客户端连接数，SL_ij表示第i个物理机中处于暂停状态下的、目标操作类型j对应的容器的客户端连接数，W∈(0，1)，为SL_ij的使用率降低系数；

将所述第二物理机集群中、与所述目标操作类型对应的容器的客户端连接数最低的物理机确定为所述目标物理机。

2.根据权利要求1所述的资源调度方法，其特征在于，还包括：

当检测到所述目标物理机和/或所述目标容器切换至不可用状态时，

基于预设的物理机调度算法，在所述第二物理机集群中选择所述目标物理机以外的其他物理机，作为新的目标物理机；或者

基于所述第二物理机集群中所述目标物理机以外的任一其他物理机中所述目标操作类型对应的容器镜像信息，启动该任一其他物理机下与所述目标操作类型相匹配的容器。

3.根据权利要求1所述的资源调度方法，其特征在于，所述基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机，包括：

基于RAND算法在所述第二物理机集群中随机选择所述目标物理机；或者

基于POLL算法轮询所述第二物理机集群中的任一物理机，将轮询过程中的首个可用物理机确定为所述目标物理机；或者

在所述第二物理机集群中权重最高的物理机确定为所述目标物理机。

4.根据权利要求1所述的资源调度方法，其特征在于，所述基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机，包括：

在所述第二物理机集群中选择权重大于指定阈值的若干个物理机；

基于RAND算法在所述若干个物理机中随机选择所述目标物理机，或者，

基于POLL算法在所述若干个物理机中进行轮询，将轮询过程中的首个可用物理机确定为所述目标物理机。

5.根据权利要求1所述的资源调度方法，其特征在于，所述基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机，包括：

将所述第二物理机集群中自指定时刻至当前时刻的时间区间内被调用次数最少的物理机确定为所述目标物理机；

将所述第二物理机集群中自指定时刻至当前时刻的时间区间内、与所述目标操作类型相匹配的容器被调用次数最少的物理机确定为所述目标物理机；

将所述第二物理机集群中自指定时刻至当前时刻的时间区间内、被调用次数少于指定次数的、与所述目标操作类型相匹配的容器被调用次数最少的物理机确定为所述目标物理机。

6.根据权利要求1所述的资源调度方法，其特征在于，所述基于预设的物理机调度算法，在所述第二物理机集群中选择目标物理机，包括：

获取所述第二物理机集群内每个物理机下所述目标操作类型对应的容器的可调度系数，其中，

其中，r∈R，R包括节点cpu使用率、节点内存使用率、节点swap使用率、节点存储IO、节点网络IO使用率和节点GPU使用率六项指标信息，r为指标信息的实时值，W_r表示目标操作类型的资源环境对R中指标信息的权重，S_i表示所述第二物理机集群内第i个物理机下目标操作类型对应的容器的可调度系数；

选择所述可调度系数最高的容器所属的物理机，作为所述目标物理机。

7.根据权利要求1至6中任一项所述的资源调度方法，其特征在于，还包括：

当检测到所述第一物理机集群的资源使用率达到指定使用率时，在备用物理机集群中随机抽取备用物理机加入所述第一物理机集群，使所述第一物理机集群的资源使用率小于所述指定使用率。

8.一种电子设备，其特征在于，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；

其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被设置为用于执行上述权利要求1至7中任一项所述的方法。

9.一种计算机可读存储介质，其特征在于，存储有计算机可执行指令，所述计算机可执行指令用于执行如权利要求1至7中任一项所述的方法流程。

Images