CN114995961A - 一种请求调度方法、装置及存储介质 - Google Patents
一种请求调度方法、装置及存储介质 Download PDFInfo
- Publication number
- CN114995961A CN114995961A CN202210929876.9A CN202210929876A CN114995961A CN 114995961 A CN114995961 A CN 114995961A CN 202210929876 A CN202210929876 A CN 202210929876A CN 114995961 A CN114995961 A CN 114995961A
- Authority
- CN
- China
- Prior art keywords
- module
- node
- resource
- target
- scheduler
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000001914 filtration Methods 0.000 claims abstract description 139
- 230000006978 adaptation Effects 0.000 claims description 39
- 238000004590 computer program Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000005259 measurement Methods 0.000 claims description 10
- 230000002085 persistent effect Effects 0.000 claims description 8
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 6
- 230000003068 static effect Effects 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 239000004606 Fillers/Extenders Substances 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000003612 virological effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
Abstract
本申请公开了一种请求调度方法、装置及存储介质,涉及云计算、边缘计算和人工智能领域,包括:接收由默认调度器转发的用户发送的应用请求;将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,得到第一过滤后节点;将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,得到所述第一过滤后节点对应的分值;将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点并将所述目标节点与待调度的任务进行绑定。本申请设置一个扩展调度器接收默认调度器转发的应用请求,然后通过过滤模块以及打分模块得到一个目标节点并将所述目标节点发送至调度器,提高了调度的效率以及灵活性。
Description
技术领域
本发明涉及云计算、边缘计算和人工智能领域,特别涉及一种请求调度方法、装置及存储介质。
背景技术
现阶段,随着人工智能和机器学习的迅猛发展,对智能加速卡,如GPU(GraphicsProcessing Unit,图形处理器)计算资源的需求越来越高。主流的容器化管理平台Kubernetes(K8s,一个开源的用于管理云平台中多个主机上的容器化的应用)虽然提供了扩展接口Device Plugin(设备插件),可以为不同种类的智能加速卡提供支持,但默认的调度器策略并不具备针对多种智能加速卡资源的统一调度能力。
发明内容
有鉴于此,本发明的目的在于提供一种请求调度方法、装置及存储介质,能够提高调度的效率以及灵活性。其具体方案如下:
第一方面,本申请公开了一种请求调度方法,应用于扩展调度器,包括:
接收由默认调度器转发的用户发送的应用请求;
将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;
将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;
将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
可选的,所述接收由默认调度器转发的用户发送的应用请求,包括:
接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求;其中,所述默认调度器获取接收到所述应用请求中的目标资源类型字段,并判断所述目标资源类型字段是否为所述扩展调度器中的预设资源类型字段,若是则判定所述应用请求满足所述预设请求转发规则。
可选的,所述将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点,包括:
将所述应用请求发送至所述扩展调度器的过滤模块;
通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点;
通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点。
可选的,所述通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点,包括:
通过所述过滤模块获取所述应用请求中的目标字段以及应用需求信息;
通过所述过滤模块将所述应用需求信息发送至所述资源适配模块,以便从所述资源适配模块中提取目标信息;所述目标信息提供与所述应用需求信息对应的应用服务;
通过所述过滤模块并基于所述目标字段以及所述目标信息进行初次过滤,以得到所述第二过滤后节点。
可选的,所述通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点,包括:
通过所述过滤模块获取所述资源统一管理模块中的目标负载信息;所述目标负载信息为与所述第二过滤后节点对应的信息;
判断所述目标负载信息是否满足预设负载条件;
将满足所述预设负载条件的所述目标负载信息确定为所述第一过滤后节点。
可选的,所述判断所述目标负载信息是否满足预设负载条件之前,还包括:
在所述资源统一管理模块中设置算力统一度量模型,并利用所述算力统一度量模型对所述资源统一管理模块中的负载信息进行打分,以得到负载信息分值表;
相应的,所述判断所述目标负载信息是否满足预设负载条件,包括:
判断所述目标负载信息对应的分值是否满足预设负载分值条件。
可选的,所述将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值,包括:
将所述第一过滤后节点从所述过滤模块发送至所述扩展调度器的打分模块;
通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息;
基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表。
可选的,所述接收由默认调度器转发的用户发送的应用请求之前,还包括:
在所述扩展调度器中设置存储模块,以便通过所述存储模块存储持久化管理应用需求、资源匹配策略以及集群中的全部资源信息;
在所述扩展调度器中设置所述过滤模块,以便通过所述过滤模块监听所述集群中的节点信息,并且当所述节点信息发生变更时更新所述资源适配模块中的信息;
在所述扩展调度器中设置所述资源统一管理模块,以便通过所述资源统一管理模块监听节点的所述资源信息,当所述资源信息发生变更时更新所述资源统一管理模块中的信息。
第二方面,本申请公开了一种请求调度装置,应用于扩展调度器,包括:
请求接收模块,用于接收由默认调度器转发的用户发送的应用请求;
过滤模块,用于将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;
打分模块,用于将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;
持久化存储模块,用于将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
第三方面,本申请公开了一种计算机可读存储介质,用于存储计算机程序;其中,所述计算机程序被处理器执行时实现如前述公开的请求调度方法。
可见,本申请提供了一种请求调度方法,包括:接收由默认调度器转发的用户发送的应用请求;将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。由此可见,本申请设置一个扩展调度器接收默认调度器转发的应用请求,然后通过扩展调度器中设置的过滤模块以及打分模块基于所述应用请求进行对应的过滤以及打分操作,最终得到唯一的一个与所述应用请求对应的节点,并将所述目标节点发送至调度器,可以根据请求灵活的确定目标节点,提高了调度的效率以及灵活性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请公开的一种请求调度方法流程图;
图2为本申请公开的一种扩展调度器架构示意图;
图3为本申请公开的一种扩展调度器适配模块架构图;
图4为本申请公开的一种扩展调度器资源统一管理模块架构图;
图5为本申请公开的一种连接示意图;
图6为本申请公开的一种智能加速卡信息示意图;
图7为本申请公开的一种智能加速卡节点统一管理验证示意图;
图8为本申请公开的一种智能加速卡验证后信息示意图;
图9为本申请公开的一种智能加速卡验证后信息示意图;
图10为本申请公开的一种应用部署文件示意图;
图11为本申请公开的一种应用部署文件示意图;
图12为本申请公开的一种调度结果及运行状态示意图;
图13为本申请公开的一种调度结果及运行状态示意图;
图14为本申请公开的一种具体的请求调度方法流程图;
图15为本申请公开的一种扩展调度器流程图;
图16为本申请公开的一种扩展调度器过滤模块架构图;
图17为本申请公开的一种扩展调度器打分模块架构图;
图18为本申请提供的请求调度装置结构示意图;
图19为本申请提供的一种电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
目前,现阶段,随着人工智能和机器学习的迅猛发展,对智能加速卡计算资源的需求越来越高。主流的容器化管理平台Kubernetes虽然提供了扩展接口Device Plugin,可以为不同种类的智能加速卡提供支持,但默认的调度器策略并不具备针对多种智能加速卡资源的统一调度能力。为此,本申请提供了一种请求调度方法,能够提高调度的效率以及灵活性。
本发明实施例公开了一种请求调度方法,参见图1所示,应用于扩展调度器,该方法包括:
步骤S11:接收由默认调度器转发的用户发送的应用请求。
本实施例中,接收由默认调度器转发的用户发送的应用请求。可以理解的是,为Kubernetes设计支持多种智能加速卡调度的扩展调度器(StarIntelliCloud SchedulerExtender),即所述扩展调度器。所述扩展调度器接收到的应用请求是经过默认调度器进行判断后转发的应用请求,然后扩展调度器根据应用需求,结合同一集群中现有的智能加速卡资源进行调度。
接收由默认调度器转发的用户发送的应用请求之前,如图2所示,在所述扩展调度器中设置存储模块、过滤模块、资源统一管理模块、资源适配模块、打分模块,其中,所述存储模块包括本地存储以及持久化存储。具体的,所述存储模块用于持久化管理应用需求、智能加速卡资源匹配策略、及集群中所有种类智能加速卡资源信息;所述过滤模块依据智能加速卡资源适配模块获取应用需求与智能加速卡匹配节点信息,从智能加速卡节点中筛选出符合要求的节点,并将筛选结果转发给打分模块;所述资源统一管理模块为智能加速卡资源统一管理模块,用于管理集群中不同种类的智能加速卡资源信息,包括种类、使用量、余量、总量以及每种智能加速卡能支持的应用能力等信息;所述资源适配模块为智能加速卡资源适配模块,用于管理应用需求与智能加速卡资源匹配策略;所述打分模块根据智能加速卡资源管理模块提供的智能加速卡信息,按照一定策略对节点进行打分。进一步的,上述策略包含对多种智能加速卡建立统一的算力统一度量模型,并根据算力统一度量模型对所述资源统一管理模块中的负载信息进行打分;对每种智能加速卡所能支持的算子进行梳理。需要指出的是,在打分阶段需要调用上述策略,因此同样需要考虑上述内容。
需要指出的是,所述资源适配模块,管理应用需求与智能加速卡资源匹配策略。如图3所示,监听Kubernetes API Server获取智能加速卡节点信息变更,以更新应用需求与智能加速卡资源匹配策略;支持使用其他方式更新应用需求与智能加速卡资源匹配策略。可以理解的是,通过所述过滤模块监听所述集群中的节点信息,并且当所述节点信息发生变更时更新所述资源适配模块中的信息。所述资源统一管理模块如图4所示,监听Kubernetes API Server获取节点智能加速卡状态(即同一集群中智能加速卡节点的资源信息)更新智能加速卡余量、容量信息;监听Kubernetes API Server删除Pod的智能加速卡状态更新智能加速卡余量;支持使用其他方式更新、获取节点智能加速卡信息;通过存储模块存储至Kubernetes Etcd数据库。可以理解的是,通过所述资源统一管理模块监听节点的所述资源信息,当所述资源信息发生变更时更新所述资源统一管理模块中的信息。
步骤S12:将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点。
本实施例中,接收由默认调度器转发的用户发送的应用请求之后,将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点。可以理解的是,当所述过滤模块接收到所述应用请求后,会分别通过资源适配模块以及资源统一管理模块中的信息完成两次过滤操作,即通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点;通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,最终得到第一过滤后节点。
步骤S13:将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值。
本实施例中,当所述过滤模块通过过滤操作得到第一过滤后节点之后,将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值。可以理解的是,所述打分模块接收到第一过滤后节点之后,从资源统一管理模块获取对应的信息并结合节点的负载情况分别对每个所述第一过滤后节点进行打分,得到对应的分值。具体的,在所述资源统一管理模块中设置算力统一度量模型,并利用所述算力统一度量模型对所述资源统一管理模块中的负载信息进行打分,以得到负载信息分值表;通过所述过滤模块并基于所述第二过滤后节点以及所述负载信息分值表进行二次过滤,以得到满足预设负载条件的所述第一过滤后节点,即判断所述目标负载信息对应的分值是否满足预设负载分值条件。例如,将所述第二过滤后节点中负载信息的分值大于预设值的节点确定为第一过滤后节点。
步骤S14:将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
本实施例中,得到所述第一过滤后节点对应的分值之后,从全部分值中选择分值最高的第一过滤后节点,然后将上述第一过滤后节点确定为目标节点,将所述目标节点与待调度的任务进行绑定,即得到所述目标节点与待调度的任务的对应关系,然后将这个对应关系写入Etcd(一个分布式键值对存储系统),完成本次调度。可以理解的是,所述目标节点即为本次的调度结果。
本方案基于Kubernetes的实现多种智能加速卡集群化管理,通过Kubernetes默认调度器引入扩展调度器,并根据应用请求设定的特定字段,以将请求转发给扩展调度器,即用户在发布应用时,声明应用相关字段(App)及智能加速卡资源类型字段(starintellicloud.com/智能加速卡),扩展调度器会根据应用需求进行灵活、高效调度。扩展调度器根据应用需求,结合当前集群中现有的智能加速卡特性进行调度。通过结合不同种类的智能加速卡为Kubelet提供的Device Plugin以及定制开发的ContainerRuntime,实现了多种智能加速卡的集群化管理。通过使用扩展调度器,在不改变原有调度器调度策略的情况下,在同一个集群里同时管理多种智能加速卡,并根据应用需求对多种智能加速卡进行灵活、高效调度。
另外,如图5所示,通过光转电交换机将目标智能加速卡与Kubernetes集群连接,例如将图6所示的的Nvidia(NVIDIA Corporation,英伟达)智能加速卡、寒武纪智能加速卡与Kubernetes集群连接。在具体的多种智能加速卡集群化管理的实验验证过程中,首先验证节点是否统一到集群中进行管理;再验证应用部署使用目标智能加速卡字段后,能够分配不同的智能加速卡节点上进行部署。验证智能加速卡节点是否统一管理,可以理解的是,通过搭建同一个Kubernetes集群,查看节点能否处于同一个集群中进行管理,并在相应的节点上查看智能加速卡信息是否符合预期,例如运行预设代码,若得到如图7所示的结果,即通过kubectl命令可以看到Nvidia智能加速卡节点与寒武纪智能加速卡节点处于同一个集群内;并且在对应的节点上可以看到相关的智能加速卡信息,如图8所示,Nvidia智能加速卡通过nvidia-sm可以看到显卡型号(a6000)等多个信息,如图9所示,寒武纪智能加速卡节点显示MLU270-S4型号相关信息。验证应用部署使用目标智能加速卡字段后,能够分配不同的智能加速卡节点上进行部署,可以理解的是,验证智能加速卡应用是否可以根据yaml配置部署到集群中,首先在每个应用中声明当前使用的框架字段app,以及resName:starintellicloud.com/智能加速卡字段,然后根据每个应用中声明的resName:starintellicloud.com/智能加速卡字段以及框架字段app对全部的智能加速卡进行过滤,最终得到一个与该应用对应的目标智能加速卡,然后将该应用部署在对应的目标智能加速卡上并运行进行验证。具体的,如分别声明第一应用与第二应用的框架字段app以及resName:starintellicloud.com/智能加速卡字段,并根据框架字段app以及resName:starintellicloud.com/智能加速卡字段进行过滤,例如第一应用过滤后得到的智能加速卡为Nvidia(A6000)显卡,第二应用过滤后得到的智能加速卡为寒武纪智能加速卡,然后在Nvidia(A6000)显卡上部署第一应用,如图10所示;在寒武纪智能加速卡上部署第二应用,如图11所示。应用部署完成后运行,得到的运行结果分别如图12、图13所示,即第一应用运行在Nvidia(A6000)显卡所在节点,第二应用运行在寒武纪智能加速卡节点,第一应用与第二应用运行状态正常,符合预期。需要指出的是,若根据框架字段app以及resName:starintellicloud.com/智能加速卡字段进行过滤之后得到多个智能加速卡,则选择负载最小的智能加速卡为目标智能加速卡,或者依据其他选择方式确定目标智能加速卡。
可见,本申请提供了一种请求调度方法,包括:接收由默认调度器转发的用户发送的应用请求;将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。由此可见,本申请设置一个扩展调度器接收默认调度器转发的应用请求,然后通过扩展调度器中设置的过滤模块以及打分模块基于所述应用请求进行对应的过滤以及打分操作,最终得到唯一的一个与所述应用请求对应的节点,并将所述目标节点发送至调度器,可以根据请求灵活的确定目标节点,提高了调度的效率以及灵活性。
参见图14所示,本发明实施例公开了一种请求调度方法,相对于上一实施例,本实施例对技术方案作了进一步的说明和优化。
步骤S21:接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求。
本实施例中,接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求。所述默认调度器获取接收到所述应用请求中的目标资源类型字段,并判断所述目标资源类型字段是否为所述扩展调度器中的预设资源类型字段,若是则判定所述应用请求满足所述预设请求转发规则。具体的,如图15所示,用户发起一个智能加速卡应用请求,应用请求中声明应用相关字段App,及智能加速卡资源类型字段(例如starintellicloud.com/智能加速卡);此时Kubernetes API(Application Program Interface,应用程序接口)Server(服务)接收到用户请求,经过一系列默认调度策略后,进入特定资源判定阶段;默认调度器判断所述应用请求中的智能加速卡资源类型字段,若默认调度器未发现应用请求的智能加速卡资源类型字段为starintellicloud.com/智能加速卡(此时扩展调度器特别关注的资源字段即为该智能加速卡资源类型字段时),则结束调度流程并根据调度结果进行调度;若默认调度器发现应用请求的智能加速卡资源类型字段为starintellicloud.com/智能加速卡,即该智能加速卡资源类型字段为扩展调度器特别关注的资源字段时,触发Webhook,根据应用请求设定的特定字段,将请求转发给扩展调度器,在所述扩展调度器中进行过滤以及打分操作,得到目标节点,然后将目标节点发送至调度器。
可以理解的是,基于Kubernetes默认调度器提供的Web hook地址配置扩展调度器,作为HTTP Extender;然后默认调度器根据应用请求中智能加速卡资源类型字段,确认为扩展调度器特别关注的调度资源时,将应用请求转发给扩展调度器。
需要指出的是,所述赢钱请求中包含应用相关字段以及智能加速卡资源类型字段,智能加速卡资源类型字段用于触发扩展调度器进行智能加速卡资源调度并筛选出所有智能加速卡节点,应用相关字段在已筛选出的智能加速卡节点中选出最合适的智能加速卡节点。扩展调度器以Web hook的形式对默认调度器进行扩展,并只关注应用请求中声明的智能加速卡资源类型字段,例如starintellicloud.com/智能加速卡。
步骤S22:将所述应用请求发送至所述扩展调度器的过滤模块。
本实施例中,接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求之后,将所述应用请求发送至过滤模块。可以理解的是,扩展调度器接收到默认调度器转发的应用请求,过滤模块开始执行两次过滤操作,以得到第一过滤后节点。
步骤S23:通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点。
本实施例中,通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点。过滤模块根据提取到的应用相关字段App,从智能加速卡资源适配模块获取适配的智能加速卡信息,过滤模块根据适配的智能加速卡信息从智能加速卡节点中过滤节点。通过所述过滤模块获取所述应用请求中的目标字段以及应用需求信息;通过所述过滤模块将所述应用需求信息发送至所述资源适配模块,以便从所述资源适配模块中提取目标信息;所述目标信息提供与所述应用需求信息对应的应用服务;通过所述过滤模块并基于所述目标字段以及所述目标信息进行初次过滤,以得到所述第二过滤后节点。可以理解的是,通过智能加速卡资源匹配模块,将应用相关字段和集群中的多种智能加速卡节点进行匹配,过滤节点。
具体的,如图16所示,扩展调度器向过滤模块发送过滤请求后,过滤请求中附带应用请求中应用相关字段App,过滤模块提取应用需求信息,向智能加速卡资源适配模块发起适配请求并将应用需求信息传递给智能加速卡资源适配模块,获取可提供应用服务的智能加速卡信息,根据智能加速卡信息对同一集群中现有的多种智能加速卡节点进行第一次过滤,即智能加速卡资源适配模块根据App字段得出的适配结果进行第一次过滤,得到第二过滤后节点。
步骤S24:通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点。
本实施例中,得到第二过滤后节点之后,通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点。可以理解的是,通过智能加速卡资源统一管理模块,获取集群中多种智能加速卡资源的使用情况,根据负载策略过滤节点。即通过所述过滤模块获取所述资源统一管理模块中的目标负载信息;所述目标负载信息为与所述第二过滤后节点对应的信息;判断所述目标负载信息是否满足预设负载条件;将满足所述预设负载条件的所述目标负载信息确定为所述第一过滤后节点。
具体的,过滤模块根据智能加速卡资源统一管理模块查询节点的智能加速卡负载信息,从智能加速卡节点中过滤节点。过滤模块根据过滤节点向智能加速卡统一资源管理模块获取智能加速卡信息,然后根据实际负载对多种智能加速卡节点进行第二次过滤,得到所述第一过滤后节点。可以理解的是,此时第一过滤后节点可以是多个节点对应的节点信息。
步骤S25:将所述第一过滤后节点从所述过滤模块发送至打分模块。
本实施例中,得到所述第一过滤后节点之后,将所述第一过滤后节点从所述过滤模块发送至打分模块,以便从多个节点中选择唯一一个节点作为本次调度的最终调度结果。
步骤S26:通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息。
本实施例中,所述打分模块接收到所述第一过滤后节点之后,通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息。可以理解的是,如图17所示,获取通过过滤模块得到的第一过滤后节点并从智能加速卡资源统一管理模块中获取节点的智能加速卡资源使用情况,即智能加速卡信息,包含节点智能加速卡容量、余量信息等。
步骤S27:基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表。
本实施例中,获取到目标资源信息之后,基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表。具体的,通过获取到的节点智能加速卡容量、余量信息,结合节点负载情况对第一过滤后节点进行打分,得到所述第一过滤后节点对应的分值表。
可以理解的是,扩展调度器的打分结果,通过过滤模块获取和应用需求匹配的节点;通过智能加速卡资源统一管理模块,获取集群中多种智能加速卡节点资源信息,以便对节点进行打分,并将最高分作为打分结果;通过存储模块,更新最高分节点的信息。即打分模块向存储模块更新得分最高节点对应的智能加速卡节点信息,即根据调度结果向智能加速卡资源统一管理模块更新节点智能加速卡资源信息。
需要指出的是,所述存储模块接收来自其他模块更新智能加速卡信息请求,通过Kubernetes API Server将这一结果最终存储到Etcd数据库中。
步骤S28:将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
本实施例中,得到所述第一过滤后节点对应的分值表之后,将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点发送至调度器。即根据所述第一过滤后节点对应的分值表中的得分情况,选择最高得分节点为目标节点。将打分结果中选择的最高节点作为调度结果,传递给调度器。
可见,本申请实施例接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求;将所述应用请求发送至过滤模块;通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点;通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点;将所述第一过滤后节点从所述过滤模块发送至打分模块;通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息;基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表;将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储,提高了调度的效率以及灵活性。
参见图18所示,本申请实施例还相应公开了一种请求调度装置,应用于扩展调度器,包括:
请求接收模块11,用于接收由默认调度器转发的用户发送的应用请求;
过滤模块12,用于将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;
打分模块13,用于将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;
持久化存储模块14,用于将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
可见,本申请包括:接收由默认调度器转发的用户发送的应用请求;将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。由此可见,本申请设置一个扩展调度器接收默认调度器转发的应用请求,然后通过扩展调度器中设置的过滤模块以及打分模块基于所述应用请求进行对应的过滤以及打分操作,最终得到唯一的一个与所述应用请求对应的节点,并将所述目标节点发送至调度器,可以根据请求灵活的确定目标节点,提高了调度的效率以及灵活性。
在一些具体实施例中,所述请求接收模块11,具体包括:
存储模块设置单元,用于在所述扩展调度器中设置存储模块,以便通过所述存储模块存储持久化管理应用需求、资源匹配策略以及集群中的全部资源信息;
过滤模块设置单元,用于在所述扩展调度器中设置所述过滤模块,以便通过所述过滤模块监听所述集群中的节点信息,并且当所述节点信息发生变更时更新所述资源适配模块中的信息;
资源统一管理模块设置单元,用于在所述扩展调度器中设置所述资源统一管理模块,以便通过所述资源统一管理模块监听节点的所述资源信息,当所述资源信息发生变更时更新所述资源统一管理模块中的信息;
应用请求接收单元,用于接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求;其中,所述默认调度器获取接收到所述应用请求中的目标资源类型字段,并判断所述目标资源类型字段是否为所述扩展调度器中的预设资源类型字段,若是则判定所述应用请求满足所述预设请求转发规则。
在一些具体实施例中,所述过滤模块12,具体包括:
请求发送单元,用于将所述应用请求发送至所述扩展调度器的过滤模块;
信息获取单元,用于通过所述过滤模块获取所述应用请求中的目标字段以及应用需求信息;
信息发送单元,用于通过所述过滤模块将所述应用需求信息发送至所述资源适配模块,以便从所述资源适配模块中提取目标信息;所述目标信息提供与所述应用需求信息对应的应用服务;
初次过滤单元,用于通过所述过滤模块并基于所述目标字段以及所述目标信息进行初次过滤,以得到所述第二过滤后节点;
负载信息获取单元,用于通过所述过滤模块获取所述资源统一管理模块中的目标负载信息;所述目标负载信息为与所述第二过滤后节点对应的信息;
模型设置单元,用于在所述资源统一管理模块中设置算力统一度量模型;
负载信息打分单元,用于利用所述算力统一度量模型对所述资源统一管理模块中的负载信息进行打分,以得到负载信息分值表;
负载信息分值判断单元,用于判断所述目标负载信息对应的分值是否满足预设负载分值条件;
第一过滤后节点确定单元,用于将满足所述预设负载条件的所述目标负载信息确定为所述第一过滤后节点。
在一些具体实施例中,所述打分模块13,具体包括:
第一过滤后节点发送单元,用于将所述第一过滤后节点从所述过滤模块发送至所述扩展调度器的打分模块;
目标资源信息获取单元,用于通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息;
打分单元,用于基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表。
在一些具体实施例中,所述持久化存储模块14,具体包括:
目标节点确定单元,用于将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点;
持久化存储单元,用于将所述目标节点与待调度的任务进行绑定并存储。
进一步的,本申请实施例还提供了一种电子设备。图19是根据一示例性实施例示出的电子设备20结构图,图中的内容不能认为是对本申请的使用范围的任何限制。
图19为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20,具体可以包括:至少一个处理器21、至少一个存储器22、电源23、通信接口24、输入输出接口25和通信总线26。其中,所述存储器22用于存储计算机程序,所述计算机程序由所述处理器21加载并执行,以实现前述任一实施例公开的请求调度方法中的相关步骤。另外,本实施例中的电子设备20具体可以为电子计算机。
本实施例中,电源23用于为电子设备20上的各硬件设备提供工作电压;通信接口24能够为电子设备20创建与外界设备之间的数据传输通道,其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议,在此不对其进行具体限定;输入输出接口25,用于获取外界输入数据或向外界输出数据,其具体的接口类型可以根据具体应用需要进行选取,在此不进行具体限定。
另外,存储器22作为资源存储的载体,可以是只读存储器、随机存储器、磁盘或者光盘等,其上所存储的资源可以包括操作系统221、计算机程序222等,存储方式可以是短暂存储或者永久存储。
其中,操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222,其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的请求调度方法的计算机程序之外,还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的,本申请实施例还公开了一种存储介质,所述存储介质中存储有计算机程序,所述计算机程序被处理器加载并执行时,实现前述任一实施例公开的请求调度方法步骤。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的一种请求调度方法、装置及存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种请求调度方法,其特征在于,应用于扩展调度器,包括:
接收由默认调度器转发的用户发送的应用请求;
将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;
将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;
将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
2.根据权利要求1所述的请求调度方法,其特征在于,所述接收由默认调度器转发的用户发送的应用请求,包括:
接收由默认调度器转发的满足预设请求转发规则的用户发送的应用请求;其中,所述默认调度器获取接收到所述应用请求中的目标资源类型字段,并判断所述目标资源类型字段是否为所述扩展调度器中的预设资源类型字段,若是则判定所述应用请求满足所述预设请求转发规则。
3.根据权利要求1所述的请求调度方法,其特征在于,所述将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点,包括:
将所述应用请求发送至所述扩展调度器的过滤模块;
通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点;
通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点。
4.根据权利要求3所述的请求调度方法,其特征在于,所述通过所述过滤模块获取所述应用请求中的目标字段,向资源适配模块发送适配请求并基于所述目标字段进行初次过滤,以得到第二过滤后节点,包括:
通过所述过滤模块获取所述应用请求中的目标字段以及应用需求信息;
通过所述过滤模块将所述应用需求信息发送至所述资源适配模块,以便从所述资源适配模块中提取目标信息;所述目标信息提供与所述应用需求信息对应的应用服务;
通过所述过滤模块并基于所述目标字段以及所述目标信息进行初次过滤,以得到所述第二过滤后节点。
5.根据权利要求4所述的请求调度方法,其特征在于,所述通过所述过滤模块并基于所述第二过滤后节点以及资源统一管理模块进行二次过滤,以得到所述第一过滤后节点,包括:
通过所述过滤模块获取所述资源统一管理模块中的目标负载信息;所述目标负载信息为与所述第二过滤后节点对应的信息;
判断所述目标负载信息是否满足预设负载条件;
将满足所述预设负载条件的所述目标负载信息确定为所述第一过滤后节点。
6.根据权利要求5所述的请求调度方法,其特征在于,所述判断所述目标负载信息是否满足预设负载条件之前,还包括:
在所述资源统一管理模块中设置算力统一度量模型,并利用所述算力统一度量模型对所述资源统一管理模块中的负载信息进行打分,以得到负载信息分值表;
相应的,所述判断所述目标负载信息是否满足预设负载条件,包括:
判断所述目标负载信息对应的分值是否满足预设负载分值条件。
7.根据权利要求5所述的请求调度方法,其特征在于,所述将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值,包括:
将所述第一过滤后节点从所述过滤模块发送至所述扩展调度器的打分模块;
通过所述打分模块从所述资源统一管理模块中获取与所述第一过滤后节点对应的目标资源信息;
基于所述目标资源信息并按照预设打分规则对所述第一过滤后节点打分,以得到所述第一过滤后节点对应的分值表。
8.根据权利要求3至7任一项所述的请求调度方法,其特征在于,还包括:
在所述扩展调度器中设置存储模块,以便通过所述存储模块存储持久化管理应用需求、资源匹配策略以及集群中的全部资源信息;
在所述扩展调度器中设置所述过滤模块,以便通过所述过滤模块监听所述集群中的节点信息,并且当所述节点信息发生变更时更新所述资源适配模块中的信息;
在所述扩展调度器中设置所述资源统一管理模块,以便通过所述资源统一管理模块监听节点的所述资源信息,当所述资源信息发生变更时更新所述资源统一管理模块中的信息。
9.一种请求调度装置,其特征在于,应用于扩展调度器,包括:
请求接收模块,用于接收由默认调度器转发的用户发送的应用请求;
过滤模块,用于将所述应用请求发送至所述扩展调度器的过滤模块对同一集群中的节点进行过滤操作,以得到第一过滤后节点;
打分模块,用于将所述第一过滤后节点发送至所述扩展调度器的打分模块并执行对应的打分操作,以得到所述第一过滤后节点对应的分值;
持久化存储模块,用于将全部所述分值中的最高分值对应的所述第一过滤后节点确定为目标节点,并将所述目标节点与待调度的任务进行绑定并存储。
10.一种计算机可读存储介质,其特征在于,用于存储计算机程序;其中,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的请求调度方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210929876.9A CN114995961A (zh) | 2022-08-04 | 2022-08-04 | 一种请求调度方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210929876.9A CN114995961A (zh) | 2022-08-04 | 2022-08-04 | 一种请求调度方法、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114995961A true CN114995961A (zh) | 2022-09-02 |
Family
ID=83023265
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210929876.9A Pending CN114995961A (zh) | 2022-08-04 | 2022-08-04 | 一种请求调度方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114995961A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116991594A (zh) * | 2023-09-26 | 2023-11-03 | 苏州元脑智能科技有限公司 | 一种负载均衡器创建方法、装置、设备及存储介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107566443A (zh) * | 2017-07-12 | 2018-01-09 | 郑州云海信息技术有限公司 | 一种分布式资源调度方法 |
CN109067867A (zh) * | 2018-07-30 | 2018-12-21 | 北京航空航天大学 | 面向数据中心负载监控的虚拟化容器服务弹性伸缩方法 |
CN111506404A (zh) * | 2020-04-07 | 2020-08-07 | 上海德拓信息技术股份有限公司 | 一种基于Kubernetes的共享GPU调度方法 |
CN111522639A (zh) * | 2020-04-16 | 2020-08-11 | 南京邮电大学 | Kubernetes集群架构系统下多维资源调度方法 |
WO2021011623A1 (en) * | 2019-07-15 | 2021-01-21 | Vertiv Corporation | Risk-based scheduling of containerized application services |
CN113110938A (zh) * | 2021-05-08 | 2021-07-13 | 网易(杭州)网络有限公司 | 一种资源分配方法、装置、计算机设备及存储介质 |
CN113918270A (zh) * | 2020-07-08 | 2022-01-11 | 电科云(北京)科技有限公司 | 基于Kubernetes的云资源调度方法及系统 |
CN113918281A (zh) * | 2021-09-30 | 2022-01-11 | 浪潮云信息技术股份公司 | 一种提升容器云资源扩展效率的方法 |
CN114356714A (zh) * | 2022-01-07 | 2022-04-15 | 中国科学技术大学 | 基于Kubernetes智能板卡集群的资源集成监控与调度装置 |
CN112632116B (zh) * | 2020-12-24 | 2022-06-24 | 苏州浪潮智能科技有限公司 | 一种k-db数据库多节点集群调度的方法、系统、设备及介质 |
CN114679451A (zh) * | 2022-02-18 | 2022-06-28 | 北京邮电大学 | 面向边缘计算的服务调度系统及其调度方法 |
-
2022
- 2022-08-04 CN CN202210929876.9A patent/CN114995961A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107566443A (zh) * | 2017-07-12 | 2018-01-09 | 郑州云海信息技术有限公司 | 一种分布式资源调度方法 |
CN109067867A (zh) * | 2018-07-30 | 2018-12-21 | 北京航空航天大学 | 面向数据中心负载监控的虚拟化容器服务弹性伸缩方法 |
WO2021011623A1 (en) * | 2019-07-15 | 2021-01-21 | Vertiv Corporation | Risk-based scheduling of containerized application services |
CN111506404A (zh) * | 2020-04-07 | 2020-08-07 | 上海德拓信息技术股份有限公司 | 一种基于Kubernetes的共享GPU调度方法 |
CN111522639A (zh) * | 2020-04-16 | 2020-08-11 | 南京邮电大学 | Kubernetes集群架构系统下多维资源调度方法 |
CN113918270A (zh) * | 2020-07-08 | 2022-01-11 | 电科云(北京)科技有限公司 | 基于Kubernetes的云资源调度方法及系统 |
CN112632116B (zh) * | 2020-12-24 | 2022-06-24 | 苏州浪潮智能科技有限公司 | 一种k-db数据库多节点集群调度的方法、系统、设备及介质 |
CN113110938A (zh) * | 2021-05-08 | 2021-07-13 | 网易(杭州)网络有限公司 | 一种资源分配方法、装置、计算机设备及存储介质 |
CN113918281A (zh) * | 2021-09-30 | 2022-01-11 | 浪潮云信息技术股份公司 | 一种提升容器云资源扩展效率的方法 |
CN114356714A (zh) * | 2022-01-07 | 2022-04-15 | 中国科学技术大学 | 基于Kubernetes智能板卡集群的资源集成监控与调度装置 |
CN114679451A (zh) * | 2022-02-18 | 2022-06-28 | 北京邮电大学 | 面向边缘计算的服务调度系统及其调度方法 |
Non-Patent Citations (2)
Title |
---|
常旭征等: "Kubernetes资源调度算法的改进与实现", 《计算机系统应用》 * |
徐文莉: "分布式渲染调度策略优化研究与实现", 《软件导刊》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116991594A (zh) * | 2023-09-26 | 2023-11-03 | 苏州元脑智能科技有限公司 | 一种负载均衡器创建方法、装置、设备及存储介质 |
CN116991594B (zh) * | 2023-09-26 | 2024-02-09 | 苏州元脑智能科技有限公司 | 一种负载均衡器创建方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112118565B (zh) | 多租户服务灰度发布方法、装置、计算机设备和存储介质 | |
CN112424751A (zh) | 云平台上的集群资源分配与管理方法 | |
CN109302483A (zh) | 一种应用程序的管理方法及系统 | |
CN109547570A (zh) | 服务注册方法、装置、注册中心管理设备及存储介质 | |
CN106201661A (zh) | 用于弹性伸缩虚拟机集群的方法和装置 | |
CN102945175A (zh) | 一种基于云计算环境的终端软件在线升级系统及其方法 | |
KR20070006695A (ko) | 이동가능한 오브젝트를 가진 그리드 인에이블 가상 머신용방법 및 시스템 | |
CN105744008B (zh) | 智能家居平台、应用于该平台的系统更新方法和装置 | |
MX2007015189A (es) | Despliegue de solucion en una granja de servidor. | |
CN113778623B (zh) | 资源处理方法和装置、电子设备及存储介质 | |
CN110838939B (zh) | 一种基于轻量级容器的调度方法及边缘物联管理平台 | |
CN112288423A (zh) | 一种分布式框架的聚合支付方法和系统 | |
CN109885612A (zh) | 区块链智能合约的同步生效方法及装置 | |
US20230342183A1 (en) | Management method and apparatus for container cluster | |
CN114995961A (zh) | 一种请求调度方法、装置及存储介质 | |
RU2769106C1 (ru) | Способ, устройство и система для предоставления услуг, носитель данных и электронное устройство | |
CN111858050A (zh) | 服务器集群混合部署方法、集群管理节点及相关系统 | |
CN114706690A (zh) | 一种Kubernetes容器共享GPU方法及系统 | |
CN106886452B (zh) | 一种简化云化系统任务调度的方法 | |
CN112698929A (zh) | 一种信息采集方法及装置 | |
CN106254411B (zh) | 用于提供服务的系统、服务器系统及方法 | |
CN115357198B (zh) | 存储卷的挂载方法及装置、存储介质及电子设备 | |
CN115543793A (zh) | 一种目标服务器的系统部署方法、装置和运维中台 | |
CN112685102B (zh) | 一种网关插件热加载方法、装置、设备及介质 | |
CN115145695A (zh) | 资源调度方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220902 |
|
RJ01 | Rejection of invention patent application after publication |