CN111694646A - 资源调度方法、装置、电子设备及计算机可读存储介质 - Google Patents
资源调度方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111694646A CN111694646A CN202010473382.5A CN202010473382A CN111694646A CN 111694646 A CN111694646 A CN 111694646A CN 202010473382 A CN202010473382 A CN 202010473382A CN 111694646 A CN111694646 A CN 111694646A
- Authority
- CN
- China
- Prior art keywords
- resource
- target service
- service
- resources
- resource application
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000015654 memory Effects 0.000 claims description 22
- 230000004044 response Effects 0.000 claims description 12
- 239000000126 substance Substances 0.000 claims description 2
- 230000000875 corresponding effect Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Abstract
本申请公开了资源调度方法、装置、电子设备及计算机可读存储介质,涉及云计算领域中的数据计算技术领域。具体实现方案为:确定预设数量的服务中各服务的优先级;获取所述预设数量的服务中各服务的资源使用情况;在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;其中,所述目标服务为所述预设数量的服务中的任意一个。本申请提供的方案解决了现有的服务系统中资源利用率低的问题。
Description
技术领域
本申请涉及云计算技术中的数据计算领域,尤其涉及一种资源调度方法、装置、电子设备及计算机可读存储介质。
背景技术
随着计算机技术的发展,越来越多数据中心将基础设施容器化,容器编排系统也越来越成熟,能够支持更高级别的服务器的管理以及不同的资源调度策略。目前,针对容器编排系统中不同业务混合部署的情况,通常只考虑了单机的资源使用情况和pod资源使用情况,导致对服务系统中的资源利用率较低。
发明内容
本申请提供了一种资源调度方法、装置、电子设备及计算机可读存储介质,以解决现有的服务系统中资源利用率较低的问题。
第一方面,本申请提供了一种资源调度方法,包括:
确定预设数量的服务中各服务的优先级;
获取所述预设数量的服务中各服务的资源使用情况;
在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;
其中,所述目标服务为所述预设数量的服务中的任意一个。
第二方面,本申请提供了一种贴纸测试装置,包括:
确定模块,用于确定预设数量的服务中各服务的优先级;
获取模块,用于获取所述预设数量的服务中各服务的资源使用情况;
响应模块,用于在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;
其中,所述目标服务为所述预设数量的服务中的任意一个。
第三方面,本申请提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面中所述的方法。
第四方面,本申请提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面中所述的方法。
本申请基于根据目标服务的优先级以及各服务的资源使用情况,来对目标服务的资源申请请求进行响应,以进行资源调度。这样,对于服务系统中的资源调度也就更合理,相比于仅从单个物理机上进行资源调度,本实施例提供的方案有效提高了整个服务系统中资源的利用率。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请提供的一种资源调度方法的流程图;
图1a是本申请提供的一种资源调度方法中获取各服务的资源使用情况的流程图;
图1b是本申请提供的一种资源调度方法中对资源申请请求进行响应的流程图;
图2是本申请提供的一种资源调度装置的结构图;
图3是实现本申请实施例的资源调度方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本申请实施例提供了一种资源调度方法,该方法可以是应用于集群管理系统,在集群管理系统中,通常需要部署大量资源(如计算资源),这些资源可以部署在多个物理机,并且多个物理机之间可以实现资源的调度。
其中,物理机可以包括但不限于以下至少一项:服务器、终端设备、手机、平板电脑、个人数字电脑、笔记本电脑、台式计算机等,对此物理机类型不做限定,本申请以下实施例中将以服务器为例进行说明。
请参照图1,图1是本申请实施例提供的一种资源调度方法的流程图。如图1所示,该资源调度方法包括如下步骤:
步骤S101:确定预设数量的服务中各服务的优先级。
其中,所述服务是指能够应用于物理机上的一种应用程序类型。容易理解地,集群管理系统中通常部署有不止一个服务。本申请实施例中,所述预设数量可以是一个,也可以是多个,对此不做限定。
其中,若预设数量为一个,那么本步骤中,也就能够确定该服务的优先级为最高级;若预设数量为多个,则需要确定这多个服务中各服务的优先级。
需要说明的是,在集群管理系统包括的服务数量为多个的情况下,所述各服务的优先级可以是由用户预先设定的,或者也可以是基于各服务的资源使用情况来确定。例如,各服务的优先级高低与其资源使用量的大小呈正相关,资源使用量越大,则对应的服务的优先级越高。当然,各服务的优先级的确定方式还可以是其他方式,本实施例对此不做赘述。
步骤S102:获取所述预设数量的服务中各服务的资源使用情况。
其中,服务的资源使用情况可以是包括如下至少一项:中央处理器(CentralProcessing Unit,CPU)使用情况、内存使用情况、网络带宽使用情况、磁盘空间使用情况、输入输出(Input Output,IO)利用率情况。
本申请实施例中,获取集群管理系统中各服务的资源使用情况,可以是获取各服务对应的CPU使用情况、内存使用情况、网络带宽使用情况、IO利用率情况以及磁盘空间使用情况等。通过获取各服务的资源使用情况,使得集群管理系统能够在接收到某个服务的资源申请请求时,根据各服务的资源使用情况对资源进行合理调度。
可选的,集群管理系统可以是获取预设时间段内各服务的资源使用情况,或者也可以是基于预设周期来获取不同时间段内各服务的资源使用情况,通过分析各服务在不同时间段内的资源使用情况,以更好地对资源进行调度。
例如,假设所述服务为搜索服务,集群管理系统可以是分别获取该搜索服务在工作日和周末的资源使用情况,假设该搜索服务在工作日的资源使用情况要大于在周末的资源使用情况,进而当集群管理系统在周末接收到其他服务的资源申请请求时,可以将该搜索服务的部分资源调度至以供其他服务使用。这样,也就能够更合理地分配和管理各服务的资源使用情况,确保资源的利用率,也能够确保服务的有效运行。
需要说明的是,本申请实施例所述的集群管理系统可以是k8s系统, k8s系统中部署有预设数量的服务,或者说k8s系统能够支持预设数量的服务。其中,pod为k8s系统中的最小部署单元,一个服务可以是通过多个pod联合完成。
作为一种可选的实施方式,请参照图1a,所述步骤S102可以包括:
步骤S1021:确定所述预设数量的服务中各服务对应的pod;
步骤S1022:获取每一个服务对应的pod的资源使用情况并进行汇聚,以获得各服务的资源使用情况。
可以理解地,一个服务可以是部署于多个pod,进而可以通过确定各服务对应的pod,并获取每一个服务对应的pod的资源使用情况并进行汇聚,也就能够获得各服务的资源使用情况。
假设搜索服务部署在3个pod上,分别获取这三个pod的CPU使用情况、内存使用情况、网络带宽使用情况、IO利用率使用情况等,并将这三个pod的上述资源使用情况进行汇聚,也就获得了该搜索服务的资源使用情况。
本申请实施例中,通过获取预设数量的服务中各服务的资源使用情况,基于各服务的资源使用情况能够获得各服务对应的资源画像。需要说明的是,所述资源画像可以是指各服务的资源使用情况的平均值或是拟合均值等。例如,集群管理系统可以是获取多个时间段内各服务的资源使用情况,并对多个时间段内的资源使用情况计算平均值,进而获得各服务对应的资源画像,集群管理系统能够根据各服务的资源画像对各服务的后期资源使用情况进行预测,进而以方便集群管理系统对资源的调度。需要说明的是,所述资源画像的获取包括且不仅限于机器学习等多种方法来实现。
可选的,对于多个时间段内各服务的资源使用情况,可以将明显高于或低于其他时间段资源使用情况的某个时间段资源使用情况当做异常数据,在计算平均值时不采集该异常数据,以保障计算获得的资源画像的准确性。
步骤S103:在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应。
其中,所述目标服务为所述预设数量的服务中的任意一个。可以理解地,集群管理系统可以部署有多个服务,那么也就可以接收其中任意一个服务的资源申请请求。
本申请实施例中,当集群管理系统接收到目标服务的资源申请请求时,先确定该目标服务的优先级,进而根据目标服务的优先级及各服务的资源使用情况来进行资源调度,以对所述资源申请请求进行响应。
本申请实施例提供的技术方案,不再只是考虑单个物理机上的资源使用情况来对资源进行调度,而是从整个服务的角度进行考虑,根据目标服务的优先级以及整个集群管理系统中各服务的资源使用情况,来对目标服务的资源申请请求进行响应,以进行资源调度。这样,对于服务系统中的资源调度也就更合理,相比于仅从单个物理机上进行资源调度,本实施例提供的方案有效提高了整个集群管理系统中资源的利用率。
可选的,请参照图1b,所述步骤S103可以包括:
步骤S1031:在接收到目标服务的资源申请请求时,根据所述资源申请请求确定资源申请请求数量;
步骤S1032:根据资源总量及所述各服务的资源使用情况确定剩余资源数量;
步骤S1033:根据所述剩余资源数量及所述目标服务的优先级对所述资源申请请求进行响应。
可以理解地,集群管理系统能够获知自身的资源总量,进而根据资源总量及各服务的资源使用情况也就能够计算出剩余资源数量;所述目标服务的资源申请请求中包括资源申请请求数量,进而根据资源申请请求数量也就能够确定剩余资源数量是否能够进行调度,以满足目标服务的资源申请请求,保障资源的合理调度,提高资源利用率。
需要说明的是,在对目标服务的资源申请请求进行响应前,还需要考虑目标服务的优先级。例如,若目标服务的优先级较低,即使剩余资源数量满足资源申请请求数量,集群管理系统依然可以调度剩余资源给目标服务,以完成对目标服务的资源申请请求进行的响应。
可选的,所述步骤S1033包括:
在所述剩余资源数量大于所述资源申请请求数量的情况下,调度满足于所述资源申请请求数量的剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述剩余资源数量小于所述资源申请请求数量的情况下,若所述目标服务的优先级大于非目标服务的优先级,获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应;
其中,所述非目标服务为所述预设数量的服务中除所述目标服务外的至少一个。
也就是说,若所述剩余资源数量大于目标服务的资源申请请求数量,则集群管理系统可以调度满足于资源申请请求数量的剩余资源供所述目标服务使用,进而以对目标服务的资源申请请求进行响应。这种情况下,由于剩余资源数量充足,可以不考虑目标服务的优先级,进而以确保目标服务的正常运行。
例如,集群管理系统的剩余资源数量为6,若目标服务的资源申请请求数量为4,说明此时的剩余资源数量能够满足于目标服务的资源申请请求,则调度剩余资源中的4个以供目标服务使用,这样既能满足于目标服务的正常运行,也不会影响集群管理系统中其他非目标服务的运行。
或者,若所述剩余资源数量小于所述资源申请请求数量,此时也就没有足够的剩余资源来对目标服务的资源申请请求进行响应,则获取目标服务的优先级,若目标服务的优先级大于非目标服务的优先级,此时则需要考虑非目标服务的资源使用情况,来对所述资源申请请求进行响应。
具体的,所述获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应,包括:
获取所述非目标服务的未使用资源数量;
在所述非目标服务的未使用资源数量小于预设数量的情况下,终止所述非目标服务,调度所述非目标服务的资源以及剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述非目标服务的未使用资源数量大于等于预设数量的情况下,调度所述非目标服务的未使用的资源以及剩余资源供所述非目标服务使用,以对所述资源申请请求进行响应;
其中,所述预设数量为所述资源申请请求数量与所述剩余资源数量之差。
需要说明的是,所述非目标服务可以是所述预设数量的服务中除所述目标服务外的其他所有服务,这种情况下,终止所述非目标服务也就是终止所述预设数量的服务中除目标服务外的其他所有服务,以确保能够调度足够的资源以供目标服务使用。或者,所述非目标服务也可以是所述预设数量的服务中除所述目标服务外的一个或多个服务,这种情况下,终止的也就是这一个或多个服务,确保集群管理系统在确保资源合理调度的情况下,除了目标服务还能够同时运行其他服务,以合理充分利用资源,提高资源利用率。
以下,将通过一个具体的实施方式对上述步骤进行说明。
服务 | 可用资源 | 申请资源 | 剩余资源 |
P1 | total | ∑Re q<sub>1</sub> | total-∑Re q<sub>1</sub> |
P0 | total-∑Used<sub>1</sub> | ∑Re q<sub>0</sub> | total-∑Used<sub>1</sub>-∑Re q<sub>0</sub> |
P2 | … | … | … |
请参照上述表格,其中P0、P1、P2分别代表服务,其优先级为P0>P1>P2;∑Re q0是P0申请的资源数量,∑Used1是集群管理系统中P1已经使用的资源数量。例如,假设P0为目标服务,P1为非目标服务,集群管理系统的资源总数量total为10个,P1已申请的资源数量∑Re q1为6个,则集群管理系统的剩余资源数量为4个;若此时接收到目标服务P0的资源申请请求,P0的资源申请请求数量为5个,则此时集群管理系统的剩余资源数量小于资源申请请求数量,此时要分情况来对P0的资源申请请求进行响应。
P1已申请的资源数量为6个,但是P1并不一定会全部使用这6个资源,可能只使用了其中的3个或4个,此时要考虑P0的未使用资源数量来对资源申请请求进行响应。例如,P1实际使用的资源数量为6个,那么 P1的未使用资源数量为0,P1的未使用资源数量肯定是小于预设数量的,此时终止P1的服务,进而将P1申请的6个资源调度出来,在这6个资源以及剩余资源中选取满足资源申请请求数量的5个资源以供P0使用。
或者,若P1实际使用的资源数量为4个,那么P1的未使用资源数量为2,该未使用资源数量大于预设数量(预设数量=资源申请请求数量-剩余资源数量,本实施方式中预设数量=5-4=1),则此时不需要终止P1,而是对P1的未使用资源进行调度,例如调度P1未使用资源中的1个以及4 个剩余资源以供P0使用。这样,也就不会终止P1的服务,而同时又能满足P0的资源申请请求,从而能够对集群管理系统的资源得到充分利用,提高集群管理系统资源的利用率。
本申请实施例提供的方案,通过确定各服务的优先级以及各服务的资源使用情况,进而在接收到目标服务的资源申请请求时,能够根据目标服务的优先级及各服务的资源使用情况,调度能够满足于资源申请请求的资源供目标服务使用,确保目标服务的正常运行。
请参照图2,本申请实施例还提供了一种资源调度装置。如图2所示,所述资源调度装置200包括:
确定模块201,用于确定预设数量的服务中各服务的优先级;
获取模块202,用于获取所述预设数量的服务中各服务的资源使用情况;
响应模块203,用于在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;
其中,所述目标服务为所述预设数量的服务中的任意一个。
可选的,所述响应模块203包括:
第一确定单元,用于在接收到目标服务的资源申请请求时,根据所述资源申请请求确定资源申请数量;
第二确定单元,用于根据资源总量及所述各服务的资源使用情况确定剩余资源数量;
响应单元,用于根据所述剩余资源数量及所述目标服务的优先级对所述资源申请请求进行响应。
可选的,所述响应单元还用于:
在所述剩余资源数量大于所述资源申请请求数量的情况下,调度满足于所述资源申请请求数量的剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述剩余资源数量小于所述资源申请请求数量的情况下,若所述目标服务的优先级大于非目标服务的优先级,获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应;
其中,所述非目标服务为所述预设数量的服务中除所述目标服务外的至少一个。
可选的,所述响应单元还用于:
获取所述非目标服务的未使用资源数量;
在所述非目标服务的未使用资源数量小于预设数量的情况下,终止所述非目标服务,调度所述非目标服务的资源以及剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述非目标服务的未使用资源数量大于等于预设数量的情况下,调度所述非目标服务的未使用的资源以及剩余资源供所述非目标服务使用,以对所述资源申请请求进行响应;
其中,所述预设数量为所述资源申请请求数量与所述剩余资源数量之差。
可选的,所述获取模块202还用于:
确定所述预设数量的服务中各服务对应的pod;
获取每一个服务对应的pod的资源使用情况并进行汇聚,以获得各服务的资源使用情况。
本实施例提供的资源调度装置200能够实现上述资源调度方法实施例的全部技术方案,因此至少能够实现上述全部技术效果,此处不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种计算机可读存储介质。
如图3所示,是根据本申请实施例的资源调度方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图3所示,该电子设备包括:一个或多个处理器301、存储器302,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图3中以一个处理器301 为例。
存储器302即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的资源调度方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的资源调度方法。
存储器302作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的资源调度方法对应的程序指令/模块(例如,附图2所示的确定模块201、获取模块202和响应模块203)。处理器301通过运行存储在存储器302中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的资源调度方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据贴纸测试的电子设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器 302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至贴纸测试的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
资源调度方法的电子设备还可以包括:输入装置303和输出装置304。处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图3中以通过总线连接为例。
输入装置303可接收输入的数字或字符信息,以及产生与贴纸测试电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置304可以包括显示设备、辅助照明装置(例如, LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
本申请实施例的技术方案,根据目标服务的优先级以及各服务的资源使用情况,来对目标服务的资源申请请求进行响应,以进行资源调度。这样,对于服务系统中的资源调度也就更合理,相比于仅从单个物理机上进行资源调度,本实施例提供的方案有效提高了整个服务系统中资源的利用率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (12)
1.一种资源调度方法,包括:
确定预设数量的服务中各服务的优先级;
获取所述预设数量的服务中各服务的资源使用情况;
在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;
其中,所述目标服务为所述预设数量的服务中的任意一个。
2.根据权利要求1所述的方法,其中,所述在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应,包括:
在接收到目标服务的资源申请请求时,根据所述资源申请请求确定资源申请数量;
根据资源总量及所述各服务的资源使用情况确定剩余资源数量;
根据所述剩余资源数量及所述目标服务的优先级对所述资源申请请求进行响应。
3.根据权利要求2所述的方法,其中,所述根据所述剩余资源数量及所述目标服务的优先级对所述资源申请请求进行响应,包括:
在所述剩余资源数量大于所述资源申请请求数量的情况下,调度满足于所述资源申请请求数量的剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述剩余资源数量小于所述资源申请请求数量的情况下,若所述目标服务的优先级大于非目标服务的优先级,获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应;
其中,所述非目标服务为所述预设数量的服务中除所述目标服务外的至少一个。
4.根据权利要求3所述的方法,其中,所述获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应,包括:
获取所述非目标服务的资源使用数量;
在所述非目标服务的未使用资源数量小于预设数量的情况下,终止所述非目标服务,调度所述非目标服务的资源以及剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述非目标服务的未使用资源数量大于等于预设数量的情况下,调度所述非目标服务的未使用的资源以及剩余资源供所述非目标服务使用,以对所述资源申请请求进行响应;
其中,所述预设数量为所述资源申请请求数量与所述剩余资源数量之差。
5.根据权利要求1所述的方法,其中,所述获取所述预设数量的服务中各服务的资源使用情况,包括:
确定所述预设数量的服务中各服务对应的pod;
获取每一个服务对应的pod的资源使用情况并进行汇聚,以获得各服务的资源使用情况。
6.一种资源调度装置,包括:
确定模块,用于确定预设数量的服务中各服务的优先级;
获取模块,用于获取所述预设数量的服务中各服务的资源使用情况;
响应模块,用于在接收到目标服务的资源申请请求时,根据所述目标服务的优先级及所述各服务的资源使用情况,对所述资源申请请求进行响应;
其中,所述目标服务为所述预设数量的服务中的任意一个。
7.根据权利要求6所述的装置,其中,所述响应模块包括:
第一确定单元,用于在接收到目标服务的资源申请请求时,根据所述资源申请请求确定资源申请数量;
第二确定单元,用于根据资源总量及所述各服务的资源使用情况确定剩余资源数量;
响应单元,用于根据所述剩余资源数量及所述目标服务的优先级对所述资源申请请求进行响应。
8.根据权利要求7所述的装置,其中,所述响应单元还用于:
在所述剩余资源数量大于所述资源申请请求数量的情况下,调度满足于所述资源申请请求数量的剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述剩余资源数量小于所述资源申请请求数量的情况下,若所述目标服务的优先级大于非目标服务的优先级,获取所述非目标服务的资源使用情况,根据所述非目标服务的资源使用情况及所述剩余资源对所述资源申请请求进行响应;
其中,所述非目标服务为所述预设数量的服务中除所述目标服务外的至少一个。
9.根据权利要求8所述的装置,其中,所述响应单元还用于:
获取所述非目标服务的资源使用数量;
在所述非目标服务的未使用资源数量小于预设数量的情况下,终止所述非目标服务,调度所述非目标服务的资源以及剩余资源供所述目标服务使用,以对所述资源申请请求进行响应;
在所述非目标服务的未使用资源数量大于等于预设数量的情况下,调度所述非目标服务的未使用的资源以及剩余资源供所述非目标服务使用,以对所述资源申请请求进行响应;
其中,所述预设数量为所述资源申请请求数量与所述剩余资源数量之差。
10.根据权利要求6所述的装置,其中,所述获取模块还用于:
确定所述预设数量的服务中各服务对应的pod;
获取每一个服务对应的pod的资源使用情况并进行汇聚,以获得各服务的资源使用情况。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010473382.5A CN111694646B (zh) | 2020-05-29 | 2020-05-29 | 资源调度方法、装置、电子设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010473382.5A CN111694646B (zh) | 2020-05-29 | 2020-05-29 | 资源调度方法、装置、电子设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111694646A true CN111694646A (zh) | 2020-09-22 |
CN111694646B CN111694646B (zh) | 2023-11-07 |
Family
ID=72478761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010473382.5A Active CN111694646B (zh) | 2020-05-29 | 2020-05-29 | 资源调度方法、装置、电子设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111694646B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112261596A (zh) * | 2020-09-30 | 2021-01-22 | 汉海信息技术(上海)有限公司 | 短信通道资源的调配方法、装置、设备及存储介质 |
CN112559183A (zh) * | 2020-12-18 | 2021-03-26 | 北京百度网讯科技有限公司 | 计算资源管理方法、装置、电子设备及存储介质 |
CN112650575A (zh) * | 2021-01-15 | 2021-04-13 | 百度在线网络技术(北京)有限公司 | 资源调度方法、装置和云端服务系统 |
CN112905342A (zh) * | 2021-02-07 | 2021-06-04 | 广州虎牙科技有限公司 | 资源调度方法、装置、设备及计算机可读存储介质 |
CN113157418A (zh) * | 2021-04-25 | 2021-07-23 | 腾讯科技(深圳)有限公司 | 服务器资源分配方法和装置、存储介质及电子设备 |
CN113596920A (zh) * | 2021-07-29 | 2021-11-02 | 百度在线网络技术(北京)有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN114217977A (zh) * | 2021-12-23 | 2022-03-22 | 北京百度网讯科技有限公司 | 资源分配方法、装置、设备以及存储介质 |
CN114327841A (zh) * | 2022-03-16 | 2022-04-12 | 上海闪马智能科技有限公司 | 一种资源调度方法、装置、存储介质及电子装置 |
CN114338690A (zh) * | 2021-12-30 | 2022-04-12 | 中国电信股份有限公司 | 服务器选择方法、装置及电子设备 |
CN116107761A (zh) * | 2023-04-04 | 2023-05-12 | 阿里云计算有限公司 | 性能调优方法、系统、电子设备及可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170111384A1 (en) * | 2015-10-16 | 2017-04-20 | SecludIT | Method for detecting vulnerabilities in a virtual production server of a virtual or cloud computer system |
CN108769254A (zh) * | 2018-06-25 | 2018-11-06 | 星环信息科技(上海)有限公司 | 基于抢占式调度的资源共享使用方法、系统及设备 |
CN109271236A (zh) * | 2018-09-18 | 2019-01-25 | 郑州云海信息技术有限公司 | 一种业务调度的方法、装置、计算机存储介质及终端 |
CN109960585A (zh) * | 2019-02-02 | 2019-07-02 | 浙江工业大学 | 一种基于kubernetes的资源调度方法 |
CN110830391A (zh) * | 2018-08-10 | 2020-02-21 | 阿里巴巴集团控股有限公司 | 资源分配方法及装置、集群系统 |
CN111124829A (zh) * | 2019-12-22 | 2020-05-08 | 北京浪潮数据技术有限公司 | 一种kubernetes计算节点状态监测方法 |
US20200167197A1 (en) * | 2017-05-04 | 2020-05-28 | Salesforce.Com, Inc. | Systems, methods, and apparatuses for implementing a scheduler with preemptive termination of existing workloads to free resources for high priority items |
-
2020
- 2020-05-29 CN CN202010473382.5A patent/CN111694646B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170111384A1 (en) * | 2015-10-16 | 2017-04-20 | SecludIT | Method for detecting vulnerabilities in a virtual production server of a virtual or cloud computer system |
US20200167197A1 (en) * | 2017-05-04 | 2020-05-28 | Salesforce.Com, Inc. | Systems, methods, and apparatuses for implementing a scheduler with preemptive termination of existing workloads to free resources for high priority items |
CN108769254A (zh) * | 2018-06-25 | 2018-11-06 | 星环信息科技(上海)有限公司 | 基于抢占式调度的资源共享使用方法、系统及设备 |
CN110830391A (zh) * | 2018-08-10 | 2020-02-21 | 阿里巴巴集团控股有限公司 | 资源分配方法及装置、集群系统 |
CN109271236A (zh) * | 2018-09-18 | 2019-01-25 | 郑州云海信息技术有限公司 | 一种业务调度的方法、装置、计算机存储介质及终端 |
CN109960585A (zh) * | 2019-02-02 | 2019-07-02 | 浙江工业大学 | 一种基于kubernetes的资源调度方法 |
CN111124829A (zh) * | 2019-12-22 | 2020-05-08 | 北京浪潮数据技术有限公司 | 一种kubernetes计算节点状态监测方法 |
Non-Patent Citations (2)
Title |
---|
STEF VERREYDT 等: "Leveraging Kubernetes for adaptive and cost-efficient resource management", 《WOC \'19: PROCEEDINGS OF THE 5TH INTERNATIONAL WORKSHOP ON CONTAINER TECHNOLOGIES AND CONTAINER CLOUDS》, pages 37 * |
谭莉 等: "一种基于负载均衡的Kubernetes调度改进算法", 《成都信息工程大学学报》, vol. 34, no. 03, pages 228 - 231 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112261596B (zh) * | 2020-09-30 | 2022-07-15 | 汉海信息技术(上海)有限公司 | 短信通道资源的调配方法、装置、设备及存储介质 |
CN112261596A (zh) * | 2020-09-30 | 2021-01-22 | 汉海信息技术(上海)有限公司 | 短信通道资源的调配方法、装置、设备及存储介质 |
CN112559183A (zh) * | 2020-12-18 | 2021-03-26 | 北京百度网讯科技有限公司 | 计算资源管理方法、装置、电子设备及存储介质 |
CN112559183B (zh) * | 2020-12-18 | 2023-08-04 | 北京百度网讯科技有限公司 | 计算资源管理方法、装置、电子设备及存储介质 |
CN112650575A (zh) * | 2021-01-15 | 2021-04-13 | 百度在线网络技术(北京)有限公司 | 资源调度方法、装置和云端服务系统 |
CN112650575B (zh) * | 2021-01-15 | 2023-08-18 | 百度在线网络技术(北京)有限公司 | 资源调度方法、装置和云端服务系统 |
CN112905342A (zh) * | 2021-02-07 | 2021-06-04 | 广州虎牙科技有限公司 | 资源调度方法、装置、设备及计算机可读存储介质 |
CN112905342B (zh) * | 2021-02-07 | 2024-03-01 | 广州虎牙科技有限公司 | 资源调度方法、装置、设备及计算机可读存储介质 |
CN113157418A (zh) * | 2021-04-25 | 2021-07-23 | 腾讯科技(深圳)有限公司 | 服务器资源分配方法和装置、存储介质及电子设备 |
CN113157418B (zh) * | 2021-04-25 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 服务器资源分配方法和装置、存储介质及电子设备 |
CN113596920A (zh) * | 2021-07-29 | 2021-11-02 | 百度在线网络技术(北京)有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN113596920B (zh) * | 2021-07-29 | 2024-04-05 | 百度在线网络技术(北京)有限公司 | 流量控制方法、装置、电子设备及存储介质 |
CN114217977B (zh) * | 2021-12-23 | 2023-01-10 | 北京百度网讯科技有限公司 | 资源分配方法、装置、设备以及存储介质 |
CN114217977A (zh) * | 2021-12-23 | 2022-03-22 | 北京百度网讯科技有限公司 | 资源分配方法、装置、设备以及存储介质 |
CN114338690A (zh) * | 2021-12-30 | 2022-04-12 | 中国电信股份有限公司 | 服务器选择方法、装置及电子设备 |
CN114327841A (zh) * | 2022-03-16 | 2022-04-12 | 上海闪马智能科技有限公司 | 一种资源调度方法、装置、存储介质及电子装置 |
CN116107761A (zh) * | 2023-04-04 | 2023-05-12 | 阿里云计算有限公司 | 性能调优方法、系统、电子设备及可读存储介质 |
CN116107761B (zh) * | 2023-04-04 | 2023-08-22 | 阿里云计算有限公司 | 性能调优方法、系统、电子设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111694646B (zh) | 2023-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111694646B (zh) | 资源调度方法、装置、电子设备及计算机可读存储介质 | |
CN112486648A (zh) | 任务调度方法、装置、系统、电子设备和存储介质 | |
CN108431796B (zh) | 分布式资源管理系统和方法 | |
CN112165691B (zh) | 内容分发网络调度方法、装置、服务器和介质 | |
US20200241930A1 (en) | Dependent system optimization for serverless frameworks | |
CN110753131A (zh) | 微服务分布式限流方法及装置、存储介质和电子设备 | |
CN112437018A (zh) | 分布式集群的流量控制方法、装置、设备和存储介质 | |
WO2018200172A1 (en) | Cluster resource management in distributed computing systems | |
CN111459645B (zh) | 一种任务调度方法、装置和电子设备 | |
CN111880914A (zh) | 资源调度方法、资源调度装置、电子设备和存储介质 | |
US10048987B1 (en) | Methods and apparatus for a resource sharing platform having resource quality estimation | |
CN111738446A (zh) | 深度学习推理引擎的调度方法、装置、设备和介质 | |
CN114090223A (zh) | 访存请求调度方法、装置、设备以及存储介质 | |
CN110688229B (zh) | 任务处理方法和装置 | |
CN111418187A (zh) | 云网络中的可伸缩统计和分析机制 | |
CN113285886B (zh) | 一种带宽分配的方法、装置、电子设备及可读存储介质 | |
CN114742000A (zh) | 基于FPGA集群的SoC芯片验证系统、验证方法、装置 | |
CN111782341B (zh) | 用于管理集群的方法和装置 | |
CN111796940B (zh) | 一种资源分配方法、装置和电子设备 | |
CN113760638A (zh) | 一种基于kubernetes集群的日志服务方法和装置 | |
CN111865720A (zh) | 用于处理请求的方法、装置、设备以及存储介质 | |
CN111767149A (zh) | 调度方法、装置、设备及存储设备 | |
CN111176838A (zh) | 为二分图中的节点分配嵌入向量的方法以及装置 | |
US20180234491A1 (en) | Program deployment according to server efficiency rankings | |
EP3420450A1 (en) | Methods and modules relating to allocation of host machines |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |