CN110912967A

CN110912967A - 一种服务节点调度方法、装置、设备及存储介质

Info

Publication number: CN110912967A
Application number: CN201911053749.1A
Authority: CN
Inventors: 魏传程; 胡玉鹏
Original assignee: Beijing Inspur Data Technology Co Ltd
Current assignee: Beijing Inspur Data Technology Co Ltd
Priority date: 2019-10-31
Filing date: 2019-10-31
Publication date: 2020-03-24

Abstract

本发明公开了一种服务节点的调度方法、装置、设备及计算机可读存储介质；在本申请中，调度器组维护所有节点的对应资源的资源状态，通过这种方式可实现调度器对资源维护的专一性，减少了调度器的压力负载；并且，本申请接收到资源调度任务后，可将不同的资源需求分别发送至不同的调度器组，通过多个调度器组并行的筛选符合资源需求的服务节点信息，避免了单一节点的压力过高，提高了调度器性能。

Description

一种服务节点调度方法、装置、设备及存储介质

技术领域

本发明涉及节点调度技术领域，更具体地说，涉及一种服务节点调度方法、装置、设备及计算机可读存储介质。

背景技术

目前，在大规模应用集群中，服务节点通常被设计为可平行扩展的模式，用于增加集群服务能力。为保证集群所有的服务节点均可以被有效的分配任务，调度器是其中必须的一个组件，可以把集群所接收到的任务进行分配。但是随着集群规模的提高，调度器所需要维护的资源信息越来越多，压力也越来越大，成为整个系统的一个瓶颈。

发明内容

本发明的目的在于提供一种服务节点调度方法、装置、设备及计算机可读存储介质，以实现减少调度器的压力，提高调度器性能。

为实现上述目的，本发明提供的一种服务节点的调度方法，包括：

接收上层应用发送的资源调度任务；

将所述资源调度任务中的每个资源需求，分别发送至对应的目标调度器组；其中，不同调度器组分别维护所有节点的对应资源的资源状态；

接收每个目标调度器组返回的符合对应资源需求的目标节点信息；

根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息，并发送至所述上层应用。

其中，所述根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息，包括：

将各个目标节点信息中均存在的节点信息，作为符合所有资源需求的服务节点信息。

其中，所述接收上层应用发送的资源调度任务之前，还包括：

设置每种资源类型与调度器组之间的第一资源对应关系，以使每个调度器组接收所有节点上报的具有第一资源对应关系的资源状态。

其中，所述设置每种资源类型与调度器组的资源对应关系之后，还包括：

将每种资源类型划分为不同的资源子类型；

设置不同的资源子类型与具有第一资源对应关系的调度器组内的不同调度器之间的第二资源对应关系，以使调度器组内的不同调度器接收所有节点上报的具有第二资源对应关系的资源状态。

将所有节点划分为不同的节点组；

设置不同的节点组与调度器组内的不同调度器之间的节点对应关系，以使不同调度器组接收具有节点对应关系的节点上传的具有第一资源对应关系的资源状态。

其中，所述接收每个目标调度器组返回的符合对应资源需求的目标节点信息，包括：

接收每个目标调度器组返回的目标节点信息；其中，每个目标调度器组将剩余资源量满足对应资源需求量的节点的标识信息作为所述目标节点信息；若所述目标节点信息中节点的标识信息数量大于一个，则将所述目标节点信息内各个节点的标识信息按照对应的剩余资源量进行降序排序。

为实现上述目的，本发明进一步提供一种服务节点的调度装置，包括：

任务接收模块，用于接收上层应用发送的资源调度任务；

资源需求分配模块，用于将所述资源调度任务中的每个资源需求，分别发送至对应的目标调度器组；其中，不同调度器组分别维护所有节点的对应资源的资源状态；

节点信息接收模块，用于接收每个目标调度器组返回的符合对应资源需求的目标节点信息；

服务节点确定模块，用于根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息；

服务节点发送模块，用于将服务节点信息发送至所述上层应用。

其中，所述服务节点确定模块具体用于：将各个目标节点信息中均存在的节点信息，作为符合所有资源需求的服务节点信息。

为实现上述目的，本发明进一步提供一种服务节点的调度设备，包括：

存储器，用于存储计算机程序；处理器，用于执行所述计算机程序时实现上述的服务节点的调度方法的步骤。

为实现上述目的，本发明进一步提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述的服务节点的调度方法的步骤。

通过以上方案可知，本发明实施例提供的一种服务节点的调度方法，包括：接收上层应用发送的资源调度任务；将所述资源调度任务中的每个资源需求，分别发送至对应的目标调度器组；其中，不同调度器组分别维护所有节点的对应资源的资源状态；接收每个目标调度器组返回的符合对应资源需求的目标节点信息；根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息，并发送至所述上层应用。

可以看出，本申请中的调度器组维护所有节点的对应资源的资源状态，通过这种方式可实现调度器对资源维护的专一性，减少了调度器的压力负载；并且，本申请接收到资源调度任务后，可将不同的资源需求分别发送至不同的调度器组，通过多个调度器组并行的筛选符合资源需求的服务节点信息，避免了单一节点的压力过高，提高了调度器性能。

本发明还公开了一种服务节点调度装置、设备及计算机可读存储介质，同样能实现上述技术效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例公开的一种服务节点的调度方法流程示意图；

图2为本发明实施例公开的调度系统结构示意图；

图3为本发明实施例公开的一种服务节点的调度装置结构示意图；

图4为本发明实施例公开的一种服务节点的调度设备结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种服务节点调度方法、装置、设备及计算机可读存储介质，以实现减少调度器的压力，提高调度器性能。

参见图1，本发明实施例提供的一种服务节点的调度方法，包括：

S101、接收上层应用发送的资源调度任务；

具体的，该资源调度任务中携带了不同资源的资源需求，例如：对CPU的资源需求、对内存的资源需求等等，调度器组根据资源调度任务内的各个资源需求，可以筛选出满足所有条件的服务节点信息，将最终的服务节点信息上传至上层应用后，完成该资源调度任务。

S102、将资源调度任务中的每个资源需求，分别发送至对应的目标调度器组；其中，不同调度器组分别维护所有节点的对应资源的资源状态；

其中，所述接收上层应用发送的资源调度任务之前，还包括：设置每种资源类型与调度器组之间的第一资源对应关系，以使每个调度器组接收所有节点上报的具有第一资源对应关系的资源状态。

需要说明的是，为了避免单一调度器压力过大，在本申请中，需要根据集群的调度需求，利用每种资源的类型对调度器分组，形成多个调度器组。例如：若集群的调度需求包括第一资源、第二资源、第三资源、第四资源的需求，则需要将调度器分为四个调度器组，参见图2，为本申请实施例公开的调度系统结构示意图，通过该图可以看出，这四个调度器组可以通过D1-D4分别标识，并且各个调度器组与不同资源之间存在第一资源对应关系，该第一资源对应关系可以为：第一资源与第一调度器组D1的对应关系，第二资源与第二调度器组D2的对应关系，第三资源与第三调度器组D3的对应关系，第四资源与第四调度器组D4的对应关系。

各个调度器组根据上述第一资源对应关系，接收所有节点上报的具有第一资源对应关系的资源状态，也即：集群中所有的服务节点各自将本身所具有的资源状态上报给具有第一资源对应关系的调度器组，各服务节点在上报资源状态时，可以通过定时的方式上报，并且，该上报方式可以支持数据库，消息队列等多种方式。例如：集群中的所有节点均将自身的第一资源的资源状态上报至第一调度器组D1，将自身的第二资源的资源状态上报至第二调度器组D2，将自身的第三资源的资源状态上报至第三调度器组D3，将自身的第四资源的资源状态上报至第四调度器组D4，这样每个调度器组仅了解具有对应关系的各服务节点的资源状态，相应的，在处理资源需求时，每个调度器组也仅查找符合对应资源需求的目标节点信息。

需要说明的是，每个调度器组内的调度器数量可以根据实际情况确定，例如：可设置每组调度器由2个及以上的调度器节点组成，从而组成一个高可用的集群，调度器之间为可以AA模式或者主备模式。并且，不同调度器组内的调度器数量可以不同，具体可根据各资源的不同来适应性调整，例如：如果第一资源的参数数据量要多于第二资源的参数数据量，则第一调度器组的调度器数量可比第二调度器组的调度器数量多。

S103、接收每个目标调度器组返回的符合对应资源需求的目标节点信息；

需要说明的是，每个目标调度器接收到对应的资源需求后，便可根据各节点的资源状态筛选符合资源需求的目标节点信息，并将该目标节点信息返回。参见图2，本申请中的调度系统除了各个调度器组之外，还包括调度API，上层应用将调度任务发送至调度API组件，通过调度API组件将调度任务中的多种资源需求分别发送给对应的调度器组，每组调度器将各自维护的集群中服务节点中符合条件的目标节点信息返回。本申请所述的S101-S104便是基于调度API的角度对本方案进行说明。

S104、根据各个目标节点信息确定与资源调度任务对应的服务节点信息，并发送至上层应用。

其中，所述根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息，包括：将各个目标节点信息中均存在的节点信息，作为符合所有资源需求的服务节点信息。

需要说明的是，每个调度器组返回的目标节点信息仅仅是符合对应资源需求的节点信息，因此为了筛选出符合所有资源需求的节点，调度API组件在接收到各个调度器组返回的结果后，需要将各调度器组返回的结果进行组合，得到所有资源均满足的服务节点列表，将该列表返回上层应用。在结果组合时，具体是选择各个目标节点信息中均存在的节点信息作为服务节点信息，例如：第一调度器组D1返回的目标节点信息为：节点1、节点2，第二调度器组D2返回的目标节点信息为：节点1、节点3，第三调度器组D3返回的目标节点信息为：节点1、节点4，第四调度器组D4返回的目标节点信息为：节点1、节点2，可以看出，只有节点1在各个目标节点信息中均存在，因此节点1是符合所有资源需求的服务节点信息。

综上可以看出，本申请按照资源类型划分调度器组，使各个调度器组仅维护对应资源的资源状态、仅筛选对应资源需求的节点的方式，将整个调度过程分为多个并行的过程，避免了单一节点压力过高，提高调度性能。并且，由于本申请中每个调度器组分别维护不同类型的资源，如果增加新的资源类型，可直接增加调度器组，从而实现调度器的水平扩展，提供更高的服务能力。

基于上述实施例，在本实施例中，所述设置每种资源类型与调度器组的资源对应关系之后，还包括：

将每种资源类型划分为不同的资源子类型；

需要说明的是，本申请根据不同资源类型对调度器组分类后，对于每个调度器组内，仍然可以进行更细粒度的划分，也即：将资源类型划分为不同的资源子类型，设置调度器组内的不同调度器与不同资源子类型之间的对应关系，该对应关系也即第二资源对应关系，设置后，调度器组内不同调度器仅获取所有节点的具有第二对应关系的资源状态。

例如：对于CPU资源来说，可以将该资源划分为CPU的指令集、CPU频率、CPU睿频等资源子类型，如果调度器组1中存在三个调度器，可设置CPU的指令集与第一调度器之间的对应关系，设置CPU频率与第二调度器之间的对应关系，设置CPU睿频与第三调度器之间的对应关系，上述三个对应关系即为第二资源对应关系。在获取所有节点的资源状态时，第一调度器仅维护所有节点的CPU的指令集，第二调度器仅维护所有节点的CPU频率，第三调度器仅维护所有节点的CPU睿频。通过这种对资源类型进行更细粒度划分的方式，可以将某一类型资源的维护压力分摊在不同调度器上，在节点的筛选时，通过调度器组内的各个调度器并行筛选，进一步提高调度性能。

将所有节点划分为不同的节点组；

在本实施例中，如果集群内的节点数量较多，这时在每个调度器组内，根据服务节点规模，将服务节点根据一定的算法分配对应的调度器。也即：可以根据预定算法将所有节点划分为不同的节点组，将不同的节点组与调度器组内的不同节点设置对应关系，该对应关系即为节点对应关系。例如：集群可划分为第一节点组、第二节点组和第三节点组，而调度器组内存在三个调度器，则可设置第一节点组与第一个调度器之间的对应关系，设置第二节点组与第二个调度器之间的对应关系，设置第三节点组与第三个调度器之间的对应关系，因此，第一调度器仅仅维护第一节点组的对应资源的资源状态，第二调度器仅仅维护第二节点组的对应资源的资源状态，第三调度器仅仅维护第三节点组的对应资源的资源状态。在本实施例中，每个调度器维护一定数量的服务节点，当服务节点规模增加时，调度器数量也随之水平扩展，从而使本方案可支持更大规模的服务集群。

综上可以看出，本申请通过将服务节点所具有的资源进行分类，分别对应到一组调度器，从而实现了调度器的专一性，减少了调度器节点的压力负载，从而可以支持更大规模的服务集群。并且，本申请可将调度器组内进行集群化配置，保障了调度服务的高可用。本申请还根据服务节点的资源特性进行调度优化，实现了多个调度器组并行进行调度分析，提高调度器性能。

基于上述任意方法实施例，在本实施例中，接收每个目标调度器组返回的符合对应资源需求的目标节点信息，包括：

需要说明的是，在本实施例中，每个目标调度器在查找符合对应资源需求的目标节点信息时，具体是利用节点的剩余资源量及资源需求量来确定，也即：将剩余资源量大于资源需求量的节点作为符合资源需求的节点，与该节点对应的标识信息即为目标节点信息；例如：资源调度任务中的资源需求为：需要两个CPU，则对应的资源需求量为：两个CPU；调度器组确定所有节点的剩余CPU数量，如果A节点的剩余CPU数量大于两个，则说明A节点满足资源需求，则将A节点作为目标节点信息。

并且，目标调度器组在返回目标节点信息时，如果该目标节点信息中包括的节点标识信息的数量大于一个，则可按照预定规则进行排序，该预定规则可以为按照节点剩余资源量进行排序或者是随机排序，在此分别具体说明：

若目标节点信息中包括的节点标识为A节点、B节点和C节点，并且，A节点的剩余资源量大于B节点，B节点的剩余资源量大于C节点，这时对目标节点信息中的标识信息进行排序包括：A节点、B节点和C节点；通过这种排序方式，在接收到每个调度器组返回的已经排序的目标节点信息时，便可优先从排在前面的节点标识信息中选择剩余资源量最多的节点，从而作为最终的服务节点信息，通过这种方式，可向资源调度任务分配负载小的节点，从而实现了各个节点的负载均衡。同样的，为了避免多个资源调度任务均分配给同一个资源剩余量最多的节点，导致该节点的负载较多，因此本方案对目标节点信息内的节点标识信息进行排序时，还可以进行随机排序。

综上可以看出，在本实施例中，通过将节点的剩余资源量与对应资源需求量进行对比，可快速从所有节点中查找符合资源需求的目标节点信息，并且，通过对目标节点信息内的标识信息进行排序的方式，可在选取服务节点信息信息时，优先选取剩余资源量较多的节点，实现各节点的负载均衡。

下面对本发明实施例提供的调度装置进行介绍，下文描述的调度装置与上文描述的调度方法可以相互参照。

参见图3，本发明实施例提供的一种服务节点的调度装置，包括：

任务接收模块100，用于接收上层应用发送的资源调度任务；

资源需求分配模块200，用于将所述资源调度任务中的每个资源需求，分别发送至对应的目标调度器组；其中，不同调度器组分别维护所有节点的对应资源的资源状态；

节点信息接收模块300，用于接收每个目标调度器组返回的符合对应资源需求的目标节点信息；

服务节点确定模块400，用于根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息；

服务节点发送模块500，用于将服务节点信息发送至所述上层应用。

其中，本方案还包括：

第一设置模块，用于设置每种资源类型与调度器组之间的第一资源对应关系，以使每个调度器组接收所有节点上报的具有第一资源对应关系的资源状态。

其中，本方案还包括：

资源划分模块，用于将每种资源类型划分为不同的资源子类型；

第二设置模块，用于设置不同的资源子类型与具有第一资源对应关系的调度器组内的不同调度器之间的第二资源对应关系，以使调度器组内的不同调度器接收所有节点上报的具有第二资源对应关系的资源状态。

其中，本方案还包括：

节点划分模块，用于将所有节点划分为不同的节点组；

第三设置模块，用于设置不同的节点组与调度器组内的不同调度器之间的节点对应关系，以使不同调度器组接收具有节点对应关系的节点上传的具有第一资源对应关系的资源状态。

其中，节点信息接收模块具体用于：接收每个目标调度器组返回的目标节点信息；其中，每个目标调度器组将剩余资源量满足对应资源需求量的节点的标识信息作为所述目标节点信息；若所述目标节点信息中节点的标识信息数量大于一个，则将所述目标节点信息内各个节点的标识信息按照对应的剩余资源量进行降序排序。

本发明实施例还公开了一种服务节点的调度设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如上述任意方法实施例所述的服务节点的调度方法的步骤。

在本实施例中，该设备可以服务器或者是PC(Personal Computer，个人电脑)、智能手机、平板电脑、掌上电脑、便携计算机等终端设备。

参见图4，为本申请实施例公开的一种服务节点的调度设备结构示意图；通过该图可以看出，该该设备至少可以包括存储器11、处理器12和总线13。

其中，存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器11在一些实施例中可以是设备的内部存储单元，例如该设备的硬盘。存储器11在另一些实施例中也可以是设备的外部存储设备，例如设备上配备的插接式硬盘，智能存储卡(SmartMedia Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，存储器11还可以既包括设备的内部存储单元也包括外部存储设备。存储器11不仅可以用于存储安装于设备的应用软件及各类数据，例如执行调度方法的程序代码等，还可以用于暂时地存储已经输出或者将要输出的数据。

处理器12在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器或其他数据处理芯片，用于运行存储器11中存储的程序代码或处理数据，例如执行调度方法的程序代码等。

该总线13可以是外设部件互连标准(peripheral component interconnect，简称PCI)总线或扩展工业标准结构(extended industry standard architecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

进一步地，设备还可以包括网络接口14，网络接口14可选的可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该设备与其他电子设备之间建立通信连接。

可选地，该设备还可以包括用户接口，用户接口可以包括显示器(Display)、输入单元比如键盘(Keyboard)，可选的用户接口还可以包括标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在设备中处理的信息以及用于显示可视化的用户界面。

图4仅示出了具有组件11-14的设备，本领域技术人员可以理解的是，图4示出的结构并不构成对设备的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。

本发明实施例还公开了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任意方法实施例所述的服务节点的调度方法的步骤。

其中，该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

综上可以看出，本申请提供的这种分布式调度器的实现方案，每个调度器组维护着集群中所有服务节点的某一类资源的实时状态，根据实际调度的需求，每一类资源的需求将由一组特定的调度器进行调度运算。当执行调度时，每个调度器组将各自符合条件的节点返回，并按照一定的规则进行排序。所有调度器组返回的节点通过合并运算，筛选出一定数量的符合所有的条件的目标服务节点，从而完成调度任务，减少了调度器的压力负载，提高了调度器性能，提高了调度服务的高可用。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims

1.一种服务节点的调度方法，其特征在于，包括：

接收上层应用发送的资源调度任务；

2.根据权利要求1所述的调度方法，其特征在于，所述根据各个目标节点信息确定与所述资源调度任务对应的服务节点信息，包括：

3.根据权利要求1所述的调度方法，其特征在于，所述接收上层应用发送的资源调度任务之前，还包括：

4.根据权利要求3所述的调度方法，其特征在于，所述设置每种资源类型与调度器组的资源对应关系之后，还包括：

将每种资源类型划分为不同的资源子类型；

5.根据权利要求3所述的调度方法，其特征在于，所述设置每种资源类型与调度器组的资源对应关系之后，还包括：

将所有节点划分为不同的节点组；

6.根据权利要求1至5任意一项所述的调度方法，其特征在于，所述接收每个目标调度器组返回的符合对应资源需求的目标节点信息，包括：

7.一种服务节点的调度装置，其特征在于，包括：

任务接收模块，用于接收上层应用发送的资源调度任务；

8.根据权利要求7所述的调度装置，其特征在于，所述服务节点确定模块具体用于：将各个目标节点信息中均存在的节点信息，作为符合所有资源需求的服务节点信息。

9.一种服务节点的调度设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至6任一项所述的服务节点的调度方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的服务节点的调度方法的步骤。