CN113806027A - 任务编排方法、装置、电子设备和计算机可读存储介质 - Google Patents

Abstract

本发明提供一种任务编排方法、装置、电子设备和计算机可读存储介质，涉及数据处理的任务调度领域。该任务编排方法应用于编排调度器，编排调度器与集群的主节点连接，主节点还与多个子节点连接，该任务编排方法包括：获取主节点维护的待分配资源信息；待分配资源信息表征每个子节点的当前可用资源；根据待分配资源信息，获取多个子节点中与第一离线任务匹配的目标子节点；为第一离线任务设置资源限制信息，以使目标子节点在执行第一离线任务时，目标子节点的在线任务处于正常状态。为集群的离线任务设置资源限制信息，避免在线任务和离线任务争抢目标子节点的资源，可以有效提高在线任务的稳定性。

Description

任务编排方法、装置、电子设备和计算机可读存储介质

技术领域

本发明涉及数据处理的任务调度领域，具体而言，涉及一种任务编排方法、装置、电子设备和计算机可读存储介质。

背景技术

为了最大程度的提升资源利用率，一般企业都会于在线任务空闲时段进行离线任务的混部，在kubernetes的场景下，离线任务会和在线任务一样以容器化的方式进行部署，即离线任务混部。

离线任务混部的目的是为了填满kubernetes集群内的剩余资源，这对离线任务的资源编排设置具有一定的挑战：部署的离线任务所需的资源规格过大，可能无法找到合适的宿主调度；也就是说，目前的离线任务的服务质量等级(Quality of Service，Qos)均设置为Best Effort，宿主中的离线任务和在线任务会互相争抢节点资源，即宿主会将在线任务使用的资源调度出来供离线任务使用，这会造成对宿主上混部的在线任务不稳定。

发明内容

有鉴于此，本发明的目的在于提供一种任务编排方法、装置、电子设备和计算机可读存储介质。

为了实现上述目的，本发明实施例采用的技术方案如下：

第一方面，本发明实施例提供一种任务编排方法，应用于编排调度器，所述编排调度器与集群的主节点连接，所述主节点还与多个子节点连接，所述方法包括：获取所述主节点维护的待分配资源信息；所述待分配资源信息表征每个子节点的当前可用资源；根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点；所述目标子节点的当前可用资源大于或等于执行所述第一离线任务所需的最小资源；为所述第一离线任务设置资源限制信息，以使所述目标子节点在执行所述第一离线任务时，所述目标子节点的在线任务处于正常状态。其中，所述资源限制信息用于指示所述第一离线任务可调用所述目标子节点的最大资源；所述资源限制信息大于或等于所述第一离线任务的第一声明资源，且小于或等于所述目标子节点的目标可用资源；所述第一声明资源为执行所述第一离线任务所需的最小资源，所述目标可用资源为所述目标子节点的当前可用资源。

在可选的实施方式中，所述第一离线任务为多个离线任务中的任意一个；根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点，包括：获取所述待分配资源信息对应的子节点序列；所述子节点序列为将所述每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的；获取所述多个离线任务对应的离线任务序列；所述离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的；根据所述子节点序列和所述离线任务序列，确定所述第一离线任务对应的所述目标子节点。

在可选的实施方式中，在所述获取所述主节点维护的待分配资源信息之后，所述方法还包括：根据所述待分配资源信息，判断所述多个子节点中是否存在待回收子节点；所述待回收子节点为存在待执行离线任务的子节点，执行所述待执行离线任务的最小资源大于所述待回收子节点的当前可用资源；若是，则回收所述待执行离线任务，并更新所述离线任务序列。

在可选的实施方式中，所述编排调度器中设置有任务定时器；在所述获取所述主节点维护的待分配资源信息之前，所述方法还包括：判断所述任务定时器记录的任务调度周期与当前时间是否匹配；若匹配，则执行所述获取所述主节点维护的待分配资源信息的步骤。

在可选的实施方式中，所述第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，所述正常状态为所述第一离线任务的Qos等级为Guaranteed或Burstable。为所述第一离线任务设置资源限制信息，包括：当所述第一离线任务的Qos为Guaranteed时，为所述第一离线任务设置第一资源限制信息；所述第一资源限制信息等于所述第一声明资源，且小于或等于所述目标可用资源；当所述第一离线任务的Qos为Burstable时，为所述第一离线任务设置第二资源限制信息；所述第二资源限制信息大于所述第一声明资源，且小于或等于所述目标可用资源。

第二方面，本发明实施例提供一种任务编排装置，应用于编排调度器，所述编排调度器与集群的主节点连接，所述主节点还与多个子节点连接，所述装置包括：获取模块，用于获取所述主节点维护的待分配资源信息；所述待分配资源信息表征每个子节点的当前可用资源；处理模块，用于根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点；所述目标子节点的当前可用资源大于或等于执行所述第一离线任务所需的最小资源；设置模块，用于为所述第一离线任务设置资源限制信息，以使所述目标子节点在执行所述第一离线任务时，所述目标子节点的在线任务处于正常状态。其中，所述资源限制信息用于指示所述第一离线任务可调用所述目标子节点的最大资源；所述资源限制信息大于或等于所述第一离线任务的第一声明资源，且小于或等于所述目标子节点的目标可用资源；所述第一声明资源为执行所述第一离线任务所需的最小资源，所述目标可用资源为所述目标子节点的当前可用资源。

在可选的实施方式中，所述第一离线任务为多个离线任务中的任意一个；所述处理模块还用于获取所述待分配资源信息对应的子节点序列；所述子节点序列为将所述每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的；所述处理模块还用于获取所述多个离线任务对应的离线任务序列；所述离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的；所述处理模块还用于根据所述子节点序列和所述离线任务序列，确定所述第一离线任务对应的所述目标子节点。

在可选的实施方式中，所述第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，所述正常状态为所述第一离线任务的Qos等级为Guaranteed或Burstable。所述设置模块还用于当所述第一离线任务的Qos为Guaranteed时，为所述第一离线任务设置第一资源限制信息；所述第一资源限制信息等于所述第一声明资源，且小于或等于所述目标可用资源；所述设置模块还用于当所述第一离线任务的Qos为Burstable时，为所述第一离线任务设置第二资源限制信息；所述第二资源限制信息大于所述第一声明资源，且小于或等于所述目标可用资源。

第三方面，本发明实施例提供一种电子设备，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器可执行所述机器可执行指令以实现前述实施方式中任一项所述的方法。

第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现前述实施方式中任一项所述的方法。

相较于现有技术，本发明提供一种任务编排方法、装置、电子设备和计算机可读存储介质，涉及数据处理的任务调度领域。该任务编排方法应用于编排调度器，所述编排调度器与集群的主节点连接，所述主节点还与多个子节点连接，所述方法包括：获取所述主节点维护的待分配资源信息；所述待分配资源信息表征每个子节点的当前可用资源；根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点；所述目标子节点的当前可用资源大于或等于执行所述第一离线任务所需的最小资源；为所述第一离线任务设置资源限制信息，以使所述目标子节点在执行所述第一离线任务时，所述目标子节点的在线任务处于正常状态；其中，所述资源限制信息用于指示所述第一离线任务可调用所述目标子节点的最大资源；所述资源限制信息大于或等于所述第一离线任务的第一声明资源，且小于或等于所述目标子节点的目标可用资源；所述第一声明资源为执行所述第一离线任务所需的最小资源，所述目标可用资源为所述目标子节点的当前可用资源。为集群的离线任务设置资源限制信息，避免在线任务和离线任务争抢目标子节点的资源，可以有效提高在线任务的稳定性。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例提供的一种编排调度器的连接示意图；

图2为本发明实施例提供的一种任务编排方法的流程示意图；

图3为本发明实施例提供的另一种任务编排方法的流程示意图；

图4为本发明实施例提供的另一种任务编排方法的流程示意图；

图5为本发明实施例提供的另一种任务编排方法的流程示意图；

图6为本发明实施例提供的一种任务编排装置的方框示意图；

图7为本发明实施例提供的一种电子设备的方框示意图。

图标：任务编排装置-40，获取模块-41，处理模块-42，设置模块-43，电子设备-60，存储器-61，处理器-62，通信接口-63。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

随着kubernetes逐渐成为容器编排领域的事实标准，越来越多的企业开始基于kubenetes构建容器管理平台；其中，kubernetes是google开源的容器集群管理系统，提供应用部署、维护、扩展机制等功能，利用kubernetes能方便管理跨集群运行容器化的应用。原生的kubernetes通过设置不同的Qos等级用以描述在线任务和离线任务，Qos等级中的BestEffort一般用于离线任务：BestEffort的特点是不设置requests/limits，这样能保证离线任务通过kubernetes的调度流程，不会因为资源不足而无法调度，但带来的问题就是离线任务可以尽可能的使用宿主资源，影响在线任务的稳定性。

为了解决上述问题，本发明实施例提供一种编排调度器，请参见图1，图1为本发明实施例提供的一种编排调度器的连接示意图，该编排调度器(即Dynamic-Scheduler，亦称为动态编排控制器)与集群的主节点(即Master)连接，主节点(Master)还与多个子节点(Node-1～Node-3)连接。

以该集群为kubernetes(简称为“k8s”)集群为例，主节点(Master)包括调度程序(即Scheduler)、服务接口(Application Program Interface，API Server)、管理控制模块(即Controller-Manager)。其中，Scheduler是kubernetes控制面的核心组件之一，负责容器(pod)资源和宿主的调度、绑定工作，即确定pod的执行子节点和子节点(Node)对应的电子设备。Pod是Kubernetes创建或部署的最小/最简单的基本单位，一个Pod代表集群上正在运行的一个进程，一个Pod可以封装一个应用容器(也可以有多个容器)，存储资源、一个独立的网络协议(Internet Protocol，IP)地址以及管理控制容器运行方式的策略选项；容器(pod)是程序代码和其依赖关系在应用层的一个抽象，多个容器(pod)各自作为孤立的进程在同一台电子设备上的用户空间中运行，并共享操作系统内核。

主节点(Master)还与多个子节点(Node-1～Node-3)连接，需要注意的是，虽然图1以3个子节点来进行说明，但是本领域技术人员应理解，子节点的数量可以更少或更多。请继续参见图1，编排调度器(Dynamic-Scheduler)通过API Server与主节点(Master)连接，当主节点(Master)中的Controller-Manager获取到各子节点的当前可用资源后，编排调度器可以在启动后，通过API Server去监听(watch/scale)以确定主节点(Master)中维护的待分配资源信息，待分配资源信息表征每个子节点的当前可用资源，即k8s集群内所有pod(在线任务或离线任务)和Node(子节点)，并实时维护每个子节点(Node)的当前可用资源(亦称为剩余资源)，并将待分配资源信息作为任务编排的基础。

应理解，为了适应k8s集群，编排调度器可以使用自定义资源(Custom ResourceDefinition，CRD)扩展机制来实现编排调度器与集群的主节点(Master)的对接，以使得当kubernetes内置的抽象对象无法描述我们期望的任务编排模型时，可以通过CRD自定义目标编排，从而获得和原生对象同等的k8s特性，使得编排调度器生成的信息能够直接被k8s接收。也就是说，通过CRD来实现编排调度器和集群的主节点(Master)的连接，由于这是基于k8s原始扩展机制实现的，使得本发明实施例提供的任务编排方法可以无需进入k8s组件代码、可以即插即用。

下面在图1示出的编排调度器的基础上，本发明实施例提供一种任务编排方法，应用于上述的编排调度器，请参见图2，图2为本发明实施例提供的一种任务编排方法的流程示意图。该任务编排方法可以包括以下步骤：

S31，获取主节点维护的待分配资源信息。

该待分配资源信息表征每个子节点的当前可用资源。请继续参见图1，如子节点(Node-1)中包括3个pod(假设其均为在线任务)，则子节点(Node-1)还存在的当前可用资源为：“4core+16Gi”，即子节点(Node-1)还存在4个处理核和16Gi的可用内存(其中，1Gi＝1024×1024×1024字节)；子节点(Node-2)中没有正在运行的离线任务或在线任务，子节点(Node-2)还存在的当前可用资源为：“16core+64Gi”，即子节点(Node-2)还存在16个处理核和64Gi的可用内存；子节点(Node-3)中包括3个pod(假设其包括两个在线任务和一个离线任务)，则子节点(Node-3)还存在的当前可用资源为：“4core+16Gi”，即子节点(Node-1)还存在4个处理核和16Gi的可用内存。在此情形下，该待分配资源信息即为2个“4core 16Gi”(即Node-1和Node-3)和1个“16core 64Gi”(即Node-2)的当前可用资源。

S32，根据待分配资源信息，获取多个子节点中与第一离线任务匹配的目标子节点。

该目标子节点的当前可用资源大于或等于执行第一离线任务所需的最小资源。例如，当第一离线任务所需的最小资源为“2core 8Gi”，则令子节点Node-1或Node-3为目标子节点，以提高集群的资源利用率。

S33，为第一离线任务设置资源限制信息，以使目标子节点在执行第一离线任务时，目标子节点的在线任务处于正常状态。

其中，资源限制信息用于指示第一离线任务可调用目标子节点的最大资源。资源限制信息大于或等于第一离线任务的第一声明资源，且小于或等于目标子节点的目标可用资源。第一声明资源为执行第一离线任务所需的最小资源，目标可用资源为目标子节点的当前可用资源。

应理解，为集群的离线任务设置资源限制信息，避免在线任务和离线任务争抢目标子节点的资源，可以有效提高在线任务的稳定性。

为了便于理解上述的任务编排方法，以k8s集群为例，k8s提供了requests/limits的资源模型来描述容器的资源声明，以第一声明资源为requests声明的资源为例，其是k8s在调度时的依据，也就是k8s在调度pod(离线任务或在线任务)时所用的计算资源描述；以资源限制信息为limits声明的资源，其是容器(pod)在实际运行时能使用到资源上限，即limits是pod在实际运行过程中能使用的资源上限描述。

原生kubernetes体系中，通过宿主的驱逐机制保证离线任务过度使用资源导致的超载情况，但驱逐机制只能从宿主整体资源的使用情况来触发，对离线任务可能抢占在线任务算力的情况无能为力。为了最大程度的提升资源利用率，一般都会在例如凌晨这样的在线任务空闲时段进行离线任务的混部：在k8s集群场景下，离线任务会和在线任务一样以容器化的方式部署，使用本发明实施例提供的任务编排方法，为离线任务的容器(pod)编排设置对应的requests/limits资源声明，例如，对于第一离线任务来说，通过设置limits(即资源限制信息)，使得子节点中的在线任务和离线任务不会互相争抢目标子节点的资源，有效的提高在线任务的稳定性。

可以理解的，为了减少对k8s集群的影响，可以选择对离线任务和在线任务进行混部编排的时段，如通过配置文件声明期望混部离在线任务的时段，如通过标准的Cron字符串格式来设置配置文件：

上述配置文件声明了期望在每晚凌晨一点到八点的时间段进行离在线任务的混部，离在线任务混部的机器范围通过“zone”的机器标签进行选择。

离线任务混部的目的通常都期望尽量填满kubernetes集群内的剩余资源，这对离线任务的资源编排设置具有一定的挑战，资源规格太小，无法最大程度的提升资源利用率，资源规格过大，可能无法找到合适的宿主调度。为了解决上述问题，在图2的基础上，以第一离线任务为多个离线任务中的任意一个为例，请参见图3，图3为本发明实施例提供的另一种任务编排方法的流程示意图。上述的S32可以包括：

S321，获取待分配资源信息对应的子节点序列。

该子节点序列为将每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的。例如，当新的离在线任务混部创建后，编排调度器会在配置文件声明的闲时段开始时，获取主节点维护的待分配资源信息，并将其转换为与子节点匹配的容器规格(即，可在该子节点运行的pod的规格)，并由大到小或由小到大进行排序和聚合，以获取子节点序列；而对于两个子节点的当前可用资源相同的时候，则子节点序列中对应的容器规格的数量加一，由此得到一个容器规格的顺序列表(子节点序列)。

S322，获取多个离线任务对应的离线任务序列。

该离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的。应理解，将每个离线任务所需的最小资源以容器(pod)规格的形式进行排序，以获取离线任务序列。

S323，根据子节点序列和离线任务序列，确定第一离线任务对应的目标子节点。

例如，当离线任务序列是以由大到小的顺序进行排列，且子节点序列也是以由大到小的顺序进行排列，两者都是以容器(pod)规格的形式进行排列，则根据两个序列的顺序，由大到小的扩容对应的容器编排，大的容器规格会优先占满当前可用资源多的子节点(Node)，而小的容器规格则会去填补当前可用资源少的子节点(Node)。

应理解，通过对k8s集群的待分配资源信息进行获取(如通过list/watch的形式)，实时得到k8s集群的当前可用资源，并基于当前可用资源实现对离线任务的资源编排，保证闲时段离在线任务进行混部时，能以较高的资源利用率使用k8s集群的当前可用资源，使得k8s集群中的每个节点对应的服务器(或其它电子设备)拥有较高的分配率。例如，编排调取器获取最新的剩余资源状况，若k8s集群有更多子节点的剩余资源被释放，则补充对应规格的离线任务至子节点中，提高k8s集群的资源利用率。

在可选的实施方式中，子节点中可能存在待执行的离线任务，其可能会影响子节点中的在线任务的稳定性，在图3的基础上，给出一种可能的实现方式，请参见图4，图4为本发明实施例提供的另一种任务编排方法的流程示意图，在上述的S31之后，该任务编排方法还可以包括：

S34，根据待分配资源信息，判断多个子节点中是否存在待回收子节点。

该待回收子节点为存在待执行离线任务的子节点，执行待执行离线任务的最小资源大于待回收子节点的当前可用资源。例如，该待执行离线任务为待回收子节点由于资源不足而无法调度出来的离线任务容器(pod)。

若是，则执行S35；若否，则返回执行S34。

S35，回收待执行离线任务，并更新离线任务序列。

应理解，在闲时段的离在线任务混部期间，编排调度器根据k8s集群中可能发生变化的当前可用资源(剩余资源)情况，及时调整离线任务的编排，释放待执行离线任务，并编排至可执行该待执行离线任务的其它子节点；若子节点还存在较大的当前可用资源，则分配与其匹配的规格的离线任务，进一步保证k8s集群的当前可用资源的充分利用。

在可选的实施方式中，由于集群在不同的时间拥有不同的在线任务，若在线任务较多的情况下，对集群开启离在线任务混部不利于整机的稳定性；为了解决上述问题，在图2的基础上，以编排调度器中设置有任务定时器为例，请参见图5，图5为本发明实施例提供的另一种任务编排方法的流程示意图，在上述的S31之前，该任务编排方法还可以包括：

S30，判断任务定时器记录的任务调度周期与当前时间是否匹配。

应理解，任务定时器可以是一个软件进程，其用于确定编排调度器获取待分配资源信息的任务调度周期；该任务调度周期为编排调度器在离在线任务混部期间，每次获取待分配资源信息的时间间隔。

若匹配，则执行上述的S31；若不匹配，则返回执行S30。

例如，根据配置文件声明的时段触发对应的离在线任务混部流程，在时段结束后回收混部资源，定时调度的声明部分基于kubernetes原生的扩展机制CRD实现；在该时段中，为了提高集群的资源利用率，编排调度器通过list/watch计算出集群内每一台node(子节点)的剩余资源(当前可用资源)，生成最佳的编排模型，尽量保证填满集群所有剩余资源，并且周期性检查集群内有无新增的剩余资源，可以实时优化编排结果。

可以预见的，上述判断是否存在待回收子节点的时间可以与任务调度周期保持一致；在另一种可能的实施例中，判断是否存在待回收子节点的时间也可以是单独设置或子节点主动触发的，如子节点中存在超过预设时间仍未开始执行的待执行离线任务，则主节点(Master)监听到后，编排调度器获取当前的待分配资源信息，以确定是否存再待回收子节点，以便及时对离在线任务进行编排和调度。

在k8s集群中，基于不同的requests/limits配比，k8s定义了Guaranteed、Burstable、Best Effort三类Qos等级，目前的技术方案中，对离线任务不设置limits，也就是将离线任务的Qos等级设置为Best Effort，导致子节点中的在线任务和离线任务会互相争抢资源，在线任务会受到影响。为了解决上述问题，对于上述的S33，以第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，正常状态为第一离线任务的Qos等级为Guaranteed或Burstable为例，给出几种可能的实现方式：

1、当第一离线任务的Qos为Guaranteed时，为第一离线任务设置第一资源限制信息。

该第一资源限制信息等于第一声明资源，且小于或等于目标可用资源。例如，设置第一离线任务的Qos为Guaranteed：令第一离线任务的第一声明资源为request(1)，目标子节点的目标可用资源为source(M)，第一资源限制信息为limits(1)，则设置0＜request(1)＝limits(1)≤source(M)。

需要注意的是，0＜request(1)＝limits(1)表征第一离线任务无超卖；在上述情形下，为了提高资源利用率，可以设置request(1)＝source(M)。

2、当第一离线任务的Qos为Burstable时，为第一离线任务设置第二资源限制信息。

该第二资源限制信息大于第一声明资源，且小于或等于目标可用资源。例如，设置第一离线任务的Qos为Burstable：令第一离线任务的第一声明资源为request(1)，目标子节点的目标可用资源为source(M)，第二资源限制信息为limits(2)，则设置0＜request(1)＜limits(2)≤source(M)。

需要注意的是，0＜request(1)＜limits表征第一离线任务有超卖；在上述情形下，为了提高最大化资源利用率，可以设置request(1)＝source(M)。

给离线任务预设固定的资源编排可以保证离线任务的资源使用都收到limits的控制，但基于经验值的预设，无法兼顾不同宿主的资源使用情况。对于k8s集群，其存在驱逐机制：即当子节点中的在线任务和离线当前使用的总资源等于子节点的总资源时，会按照离在线任务的优先级对离线任务或在线任务进行驱逐，其中，优先级的排序为Guaranteed＞Burstable＞Best-Effort，Qos为Best-Effort的任务会被优先驱逐；在线任务一般设置为超卖状态，为了避免离线任务抢占在线任务算力，导致在线任务被驱逐：可以设置第一离线任务为超卖状态(即设置第一离线任务的Qos为Burstable)。也就是说，子节点所有容器的limit之和往往是大于子节点的总资源，当在线任务有突然流量时，还是会触发驱逐机制，而驱逐机制会根据优先级高低来选择容器驱逐，当同一优先级时会根据request高低来选择，所以我们期望保证离线任务总能先于在线任务被驱逐(即离线任务优先被驱逐)，首先就要避免使用Guaranteed，然后在同为burstable的优先级中，离线任务的requests是最低的，所以能。优先被驱逐。

在另一种情况，可以设置第一离线任务的request(1)＜source(M)，避免触发k8s集群的驱逐机制。需要注意的是，上述设置离线任务的Qos可以根据实际的使用需求来确定，本发明不对其进行限定。

应理解，本发明提供的任务编排方法通过监听集群资源，实现当前可用资源的合理调度，并基于集群的当前可用资源动态调整编排，通过上述流程实现了对集群当前可用资源的闲时段混部充分利用，有效提升了资源利用率。

为了实现上述实施例提供的任一中任务编排方法，本发明实施例提供一种任务编排装置，应用于编排调度器，编排调度器与集群的主节点连接，主节点还与多个子节点连接，请参见图6，图6为本发明实施例提供的一种任务编排装置的方框示意图。该任务编排装置40包括：获取模块41、处理模块42和设置模块43。

获取模块41用于获取主节点维护的待分配资源信息。待分配资源信息表征每个子节点的当前可用资源。

处理模块42用于根据待分配资源信息，获取多个子节点中与第一离线任务匹配的目标子节点。目标子节点的当前可用资源大于或等于执行第一离线任务所需的最小资源。

设置模块43用于为第一离线任务设置资源限制信息，以使目标子节点在执行第一离线任务时，目标子节点的在线任务处于正常状态。其中，资源限制信息用于指示第一离线任务可调用目标子节点的最大资源。资源限制信息大于或等于第一离线任务的第一声明资源，且小于或等于目标子节点的目标可用资源。第一声明资源为执行第一离线任务所需的最小资源，目标可用资源为目标子节点的当前可用资源。

应理解，获取模块41、处理模块42和设置模块43可以协同实现上述的S31～S33及其可能的子步骤。

在可选的实施方式中，第一离线任务为多个离线任务中的任意一个。处理模块42还用于获取待分配资源信息对应的子节点序列。子节点序列为将每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的。处理模块42还用于获取多个离线任务对应的离线任务序列。离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的。处理模块42还用于根据子节点序列和离线任务序列，确定第一离线任务对应的目标子节点。

应理解，处理模块42和设置模块43可以协同实现上述的S321～S323及其可能的子步骤。

在可选的实施方式中，第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，正常状态为第一离线任务的Qos等级为Guaranteed或Burstable。设置模块43还用于当第一离线任务的Qos为Guaranteed时，为第一离线任务设置第一资源限制信息。第一资源限制信息等于第一声明资源，且小于或等于目标可用资源。设置模块43还用于当第一离线任务的Qos为Burstable时，为第一离线任务设置第二资源限制信息。第二资源限制信息大于第一声明资源，且小于或等于目标可用资源。

本发明实施例提供一种电子设备，如图7，图7为本发明实施例提供的一种电子设备的方框示意图。该电子设备60包括存储器61、处理器62和通信接口63。该存储器61、处理器62和通信接口63相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器61可用于存储软件程序及模块，如本发明实施例所提供的任务编排方法对应的程序指令/模块，处理器62通过执行存储在存储器61内的软件程序及模块，从而执行各种功能应用以及数据处理。该通信接口63可用于与其他节点设备进行信令或数据的通信。在本发明中该电子设备60可以具有多个通信接口63。

其中，存储器61可以是但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。

处理器62可以是一种集成电路芯片，具有信号处理能力。该处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(NetworkProcessor，NP)等；还可以是数字信号处理器(Digital Signal Processing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。

电子设备60可以实现本发明提供的任一种任务编排方法。该电子设备60可以是但不限于手机、平板电脑、可穿戴设备、车载设备、增强现实(Augmented Reality，AR)/虚拟现实(Virtual Reality，VR)设备、笔记本电脑、超级移动个人计算机(Ultra-MobilePersonal Computer，UMPC)、上网本、个人数字助理(Personal Digital Assistant，PDA)等电子设备上，本申请实施例对电子设备的具体类型不作任何限制。

在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、RAM、ROM、磁碟或者光盘等各种可以存储程序代码的介质。

综上所述，本发明提供一种任务编排方法、装置、电子设备和计算机可读存储介质，涉及数据处理的任务调度领域。该任务编排方法应用于编排调度器，编排调度器与集群的主节点连接，主节点还与多个子节点连接，该任务编排方法包括：获取主节点维护的待分配资源信息；待分配资源信息表征每个子节点的当前可用资源；根据待分配资源信息，获取多个子节点中与第一离线任务匹配的目标子节点；目标子节点的当前可用资源大于或等于执行第一离线任务所需的最小资源；为第一离线任务设置资源限制信息，以使目标子节点在执行第一离线任务时，目标子节点的在线任务处于正常状态；其中，资源限制信息用于指示第一离线任务可调用目标子节点的最大资源；资源限制信息大于或等于第一离线任务的第一声明资源，且小于或等于目标子节点的目标可用资源；第一声明资源为执行第一离线任务所需的最小资源，目标可用资源为目标子节点的当前可用资源。为集群的离线任务设置资源限制信息，避免在线任务和离线任务争抢目标子节点的资源，可以有效提高在线任务的稳定性。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种任务编排方法，其特征在于，应用于编排调度器，所述编排调度器与集群的主节点连接，所述主节点还与多个子节点连接，所述方法包括：

获取所述主节点维护的待分配资源信息；所述待分配资源信息表征每个子节点的当前可用资源；

根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点；所述目标子节点的当前可用资源大于或等于执行所述第一离线任务所需的最小资源；

为所述第一离线任务设置资源限制信息，以使所述目标子节点在执行所述第一离线任务时，所述目标子节点的在线任务处于正常状态；

其中，所述资源限制信息用于指示所述第一离线任务可调用所述目标子节点的最大资源；所述资源限制信息大于或等于所述第一离线任务的第一声明资源，且小于或等于所述目标子节点的目标可用资源；所述第一声明资源为执行所述第一离线任务所需的最小资源，所述目标可用资源为所述目标子节点的当前可用资源。

2.根据权利要求1所述的方法，其特征在于，所述第一离线任务为多个离线任务中的任意一个；

根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点，包括：

获取所述待分配资源信息对应的子节点序列；所述子节点序列为将所述每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的；

获取所述多个离线任务对应的离线任务序列；所述离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的；

根据所述子节点序列和所述离线任务序列，确定所述第一离线任务对应的所述目标子节点。

3.根据权利要求2所述的方法，其特征在于，在所述获取所述主节点维护的待分配资源信息之后，所述方法还包括：

根据所述待分配资源信息，判断所述多个子节点中是否存在待回收子节点；所述待回收子节点为存在待执行离线任务的子节点，执行所述待执行离线任务的最小资源大于所述待回收子节点的当前可用资源；

若是，则回收所述待执行离线任务，并更新所述离线任务序列。

4.根据权利要求1所述的方法，其特征在于，所述编排调度器中设置有任务定时器；

在所述获取所述主节点维护的待分配资源信息之前，所述方法还包括：

判断所述任务定时器记录的任务调度周期与当前时间是否匹配；

若匹配，则执行所述获取所述主节点维护的待分配资源信息的步骤。

5.根据权利要求1-4任一项所述的方法，其特征在于，所述第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，所述正常状态为所述第一离线任务的Qos等级为Guaranteed或Burstable；

为所述第一离线任务设置资源限制信息，包括：

当所述第一离线任务的Qos为Guaranteed时，为所述第一离线任务设置第一资源限制信息；所述第一资源限制信息等于所述第一声明资源，且小于或等于所述目标可用资源；

当所述第一离线任务的Qos为Burstable时，为所述第一离线任务设置第二资源限制信息；所述第二资源限制信息大于所述第一声明资源，且小于或等于所述目标可用资源。

6.一种任务编排装置，其特征在于，应用于编排调度器，所述编排调度器与集群的主节点连接，所述主节点还与多个子节点连接，所述装置包括：

获取模块，用于获取所述主节点维护的待分配资源信息；所述待分配资源信息表征每个子节点的当前可用资源；

处理模块，用于根据所述待分配资源信息，获取所述多个子节点中与第一离线任务匹配的目标子节点；所述目标子节点的当前可用资源大于或等于执行所述第一离线任务所需的最小资源；

设置模块，用于为所述第一离线任务设置资源限制信息，以使所述目标子节点在执行所述第一离线任务时，所述目标子节点的在线任务处于正常状态；

其中，所述资源限制信息用于指示所述第一离线任务可调用所述目标子节点的最大资源；所述资源限制信息大于或等于所述第一离线任务的第一声明资源，且小于或等于所述目标子节点的目标可用资源；所述第一声明资源为执行所述第一离线任务所需的最小资源，所述目标可用资源为所述目标子节点的当前可用资源。

7.根据权利要求6所述的装置，其特征在于，所述第一离线任务为多个离线任务中的任意一个；

所述处理模块还用于获取所述待分配资源信息对应的子节点序列；所述子节点序列为将所述每个子节点的当前可用资源按照由大到小或由小到大进行排序获取的；

所述处理模块还用于获取所述多个离线任务对应的离线任务序列；所述离线任务序列为将每个离线任务所需的最小资源按照由大到小或由小到大进行排序获取的；

所述处理模块还用于根据所述子节点序列和所述离线任务序列，确定所述第一离线任务对应的所述目标子节点。

8.根据权利要求6或7所述的装置，其特征在于，所述第一离线任务的服务质量等级Qos包括Guaranteed、Burstable和Best-Effort，所述正常状态为所述第一离线任务的Qos等级为Guaranteed或Burstable；

所述设置模块还用于当所述第一离线任务的Qos为Guaranteed时，为所述第一离线任务设置第一资源限制信息；所述第一资源限制信息等于所述第一声明资源，且小于或等于所述目标可用资源；

所述设置模块还用于当所述第一离线任务的Qos为Burstable时，为所述第一离线任务设置第二资源限制信息；所述第二资源限制信息大于所述第一声明资源，且小于或等于所述目标可用资源。

9.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的机器可执行指令，所述处理器可执行所述机器可执行指令以实现权利要求1-5中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-5中任一项所述的方法。

Images