CN116684496A - 集群资源管理方法、装置、设备及介质 - Google Patents
集群资源管理方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN116684496A CN116684496A CN202310777831.9A CN202310777831A CN116684496A CN 116684496 A CN116684496 A CN 116684496A CN 202310777831 A CN202310777831 A CN 202310777831A CN 116684496 A CN116684496 A CN 116684496A
- Authority
- CN
- China
- Prior art keywords
- idle
- resources
- resource
- related information
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title claims abstract description 41
- 238000012545 processing Methods 0.000 claims abstract description 39
- 238000000034 method Methods 0.000 claims abstract description 32
- 230000015654 memory Effects 0.000 claims description 78
- 238000004590 computer program Methods 0.000 claims description 19
- 238000013507 mapping Methods 0.000 claims description 10
- 238000012216 screening Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 12
- 239000002699 waste material Substances 0.000 description 8
- 238000013468 resource allocation Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000003795 chemical substances by application Substances 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000013475 authorization Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000004064 recycling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
- G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Hardware Redundancy (AREA)
Abstract
本公开提供了一种集群资源管理方法、装置、设备及介质,可以应用于云计算技术领域。该方法包括:获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数;基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用;基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息;以及响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。
Description
技术领域
本公开涉及云计算技术领域,尤其涉及集群资源管理方法、装置、设备及介质。
背景技术
集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。集群中的服务器协同工作,向用户提供网络应用服务,对于用户来说集群就像是一个单一系统。在云计算中,服务器作为具体的节点使用网络连接在一起构成分布式集群整体对外提供服务。
在实施本公开的过程中发现,在服务器内部,通常配备了大量资源。在租户以虚机的方式申请资源时,按照租户的资源需求使用基于虚拟化的技术提供给租户,但是服务器中资源分配后出现闲置资源,导致服务器资源浪费的问题。
发明内容
鉴于上述问题,本公开提供了一种集群资源管理方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种集群资源管理方法,包括:
获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数;
基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用;
基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息;以及
响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。
根据本公开的实施例,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息,包括:
在确定闲置资源的类别为闲置内存的情况下,对第一相关信息进行解析,得到与闲置内存相关的物理内存地址信息;
将物理内存地址信息映射到虚拟地址空间;
在虚拟地址空间,对目标计算节点的闲置内存重新组合,得到第二相关信息。
根据本公开的实施例,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息,包括:
在确定闲置资源的类别为闲置处理器的情况下,对第一相关信息进行解析,得到与闲置处理器相关的闲置处理器核编号信息;
根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息;
基于核位置信息,确定第二相关信息。
根据本公开的实施例,根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息,包括:
根据闲置处理器核编号信息,更新预设位图中对应处理器核的状态,得到更新后的状态;
根据更新后的状态,确定在目标计算节点中的核位置信息。
根据本公开的实施例,目标计算节点包括M个,其中,M为小于等于N的整数;
其中,响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,包括:
响应于接收到的闲置资源的调度请求,基于第二相关信息,从M个目标计算节点中筛选一个满足闲置资源的调度请求的第一计算节点,以便实现对第一计算节点的闲置资源的调度。
根据本公开的实施例,第一相关信息包括资源的使用情况信息;
其中,基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,包括:
根据资源的使用情况信息,确定与闲置资源相关的信息;
根据与闲置资源相关的信息,从分布式集群中筛选目标计算节点。
根据本公开的实施例,集群资源管理方法还包括:
在确定完成闲置资源的调度后,闲置资源再次被释放的情况下,对闲置资源进行回收。
本公开的第二方面提供了一种集群资源管理装置,包括:
获取模块,用于获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数;
确定模块,用于基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用;
处理模块,用于基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息;以及
分配模块,用于响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器执行上述集群资源管理方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述集群资源管理方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述集群资源管理方法。
根据本公开的实施例,通过对分布式集群中存在闲置资源的目标计算节点中的闲置资源相关信息的处理,便于在接收到资源调度请求时,对闲置资源进行合理分配,提高了服务器资源利用率,解决了服务器中资源分配后出现闲置资源,导致服务器资源浪费的问题。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的集群资源管理方法、装置、设备、介质和程序产品的应用场景图;
图2示意性示出了根据本公开实施例的集群资源管理方法的流程图;
图3示意性示出了根据本公开实施例的确定在目标计算节点中的核位置信息的方法示意图;
图4示意性示出了根据本公开实施例的基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息的方法示意图;
图5示意性示出了根据实施例的闲置资源分配方法的流程图;
图6示意性示出了根据本公开实施例的集群资源管理装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现集群资源管理方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开实施例的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
在实施本公开的过程中发现,租户以虚机的方式申请资源时,按照租户的资源需求使用基于虚拟化的技术提供给租户对应资源。但是这种资源分配方式存在不足,例如,物理服务器中的CPU核已全部分配给虚机,但是还存在部分可用物理内存,导致存在闲置内存;或者物理服务器中的内存已全部分配给虚机,但是还存在部分可用CPU核,导致存在闲置CPU核。存在闲置内存和/或闲置CPU核,都会导致服务器物理资源浪费。
现有技术采用调度的方式根据租户资源申请需求在集群中寻找合适的节点,并在具体的节点中分配资源给租户。但是由于租户资源申请的不确定性,当前的调度方式无法完全避免部分CPU核/内存的浪费。
现有技术采用超分配的方式,比如在某台具体的服务器中由于多个租户的业务通常不会全部集中在某一时刻需要资源,因此通过超分配的方式来提升资源的利用率。例如,假设某一服务器具有32个核,每个租户都申请1个CPU核,由于每个租户的业务都一直需要CPU计算资源,因此可以采用超分配的方式来充分利用CPU核,比如在该服务器中32个核分配给40个租户使用。这种方式虽然提升了服务器的资源利用率,但是当所有租户集中使用CPU资源时,就会导致计算资源的紧张、不足,将严重影响租户的业务性能。此外,由于超分配的原因,租户的虚机需要不断地在不同CPU核上进行切换运行,这也导致了额外的CPU切换开销。
本公开的实施例提供了一种集群资源管理方法,包括:获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数;基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用;基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息;以及响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。
图1示意性示出了根据本公开实施例的集群资源管理方法、装置、设备、介质和程序产品的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括计算节点101-1、101-2、…101-N以及控制节点102-1、102-2、102-3。
计算节点101-1、101-2、…101-N可以为存在闲置资源的节点,承担具体的租户资源供给。
控制节点102-1、102-2、102-3用来管理计算节点101-1、101-2、…101-N中的闲置资源并存储相关数据。
控制节点102-1、102-2、102-3的数量通常以奇数出现,也可以使用虚拟仲裁节点的方式部署偶数个控制节点,控制节点102-1、102-2、102-3之间两两相连,构成高可用配置,当计算节点101-1、101-2、…101-N增加时,为不影响集群性能可按一定比例增加控制节点102-1、102-2、102-3,也可新建控制节点与计算节点集群构成新的集群,集群之间可通过高速网络互联,控制节点有主备之分,正常状态下主控制节点与计算节点通信,当主控制节点故障时重新选出主控制节点与计算节点通信。
计算节点101-1、101-2、…101-N通过接入交换机使用高性能网络连接(通常是基于RDMA的网络,可以是IB,也可以是RoceV2等其他高性能网络,也可以是基于CXL协议连接的链路,也可以是更低时延的链路等),控制节点102-1、102-2、102-3与计算节点101-1、101-2、…101-N之间同样使用高性能网络相连。其中,RDMA技术实现了在网络传输过程中两个节点之间数据缓冲区数据的直接传递,在本节点可以直接将数据通过网络传送到远程节点的内存中,绕过操作系统内的多次内存拷贝,相比于传统的网络传输,RDMA无需操作系统和TCP/IP协议的介入,可以轻易的实现超低延时的数据处理、超高吞吐量传输,不需要远程节点CPU等资源的介入,不必因为数据的处理和迁移耗费过多的资源。基于RDMA的网络具有非常低的访问时延,CPU可基于此网络以极低的网络时延跨节点访问其他节点内存。
在上述应用场景100中,控制节点也可以为1台,此时不具备高可用机制,当控制节点故障,则无法正常管理计算节点集群中的闲置资源。
扩展性方面,随着计算节点数量的增加,可以增加控制节点的数量,也可以通过划分子集群的方式管理。
控制节点102-1、102-2、102-3定期收集计算节点101-1、101-2、…101-N集群中的闲置资源信息并进行管理。
需要说明的是,本公开实施例所提供的集群资源管理方法一般可以由控制节点102-1、102-2、102-3执行。相应地,本公开实施例所提供的集群资源管理装置一般可以设置于控制节点102-1、102-2、102-3中。本公开实施例所提供的集群资源管理方法也可以由不同于控制节点102-1、102-2、102-3且能够与计算节点101-1、101-2、…101-N通信的其他控制节点执行。相应地,本公开实施例所提供的集群资源管理装置也可以设置于不同于控制节点102-1、102-2、102-3且能够与计算节点101-1、101-2、…101-N通信的其他控制节点中。
应该理解,图1中的控制节点和计算节点的数目仅仅是示意性的。根据实现需要,可以具有任意数目的控制节点和计算节点。
以下将基于图1描述的场景,通过图2~图5对公开实施例的集群资源管理方法进行详细描述。
图2示意性示出了根据本公开实施例的集群资源管理方法的流程图。
如图2所示,该实施例的集群资源管理方法200包括操作S210~操作S240。
在操作S210,获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数。
根据本公开的实施例,资源可以包括内存资源和处理器资源。第一相关信息可以包括资源使用情况信息。资源使用情况信息例如可以包括与内存资源相关的信息以及与处理器资源相关的信息。
例如,可以在计算节点中安装服务器监控,也可以在控制节点中安装控制监控,服务器监控与控制监控定期通信,当计算节点中的服务器监控探测到物理机中存在闲置资源时,则将该闲置资源相关信息上报给控制监控。控制节点根据服务器监控上报的资源加入到统一资源池进行管理。
在操作S220,基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用。
根据本公开的实施例,根据分布式集群中计算节点上报的与资源相关的第一相关信息,可以确定对应的计算节点为目标计算节点。
在操作S230,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息。
根据本公开实施例,闲置资源的类别可以分为闲置内存和闲置处理器。在确定闲置资源的类别可以为闲置处理器的情况下,可以对目标计算节点进行标记,得到标记后的计算节点。根据第一相关信息,确定与闲置处理器相关的闲置处理器核编号信息。根据闲置处理器核编号信息,确定在标记后的计算节点中核位置信息。根据核位置信息,确定第二相关信息。
其中,第二相关信息可以用于表征闲置处理器在目标计算节点中具体的核位置,便于对闲置处理器的分配。
在操作S240,响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。
根据本公开实施例,闲置资源的调度请求可以是在租户虚机资源申请的情况下,集群资源不充足,闲置资源充足的情况下发送的。
例如,可以根据第二相关信息,优先将闲置资源符合调度请求的目标计算节点中的闲置资源进行调度。
根据本公开实施例,通过对分布式集群中存在闲置资源的目标计算节点中的闲置资源相关信息的处理,便于在接收到资源调度请求时,对闲置资源进行合理分配,提高了服务器资源利用率,解决了服务器中资源分配后出现闲置资源,导致服务器资源浪费的问题。
根据本公开的实施例,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息,可以包括:
在确定闲置资源的类别为闲置处理器的情况下,对第一相关信息进行解析,得到与闲置处理器相关的闲置处理器核编号信息;根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息;基于核位置信息,确定第二相关信息。
根据本公开的实施例,处理器可以包括中央处理器(CPU)。例如在物理服务器中的内存已全部分配给虚机,但是还存在部分可用CPU核,导致存在闲置CPU核,根据解析得到的与闲置CPU核相关的闲置CPU核编号信息,可以确定在目标计算节点中的核位置信息,将闲置CPU核所在的目标计算节点以及核位置信息,作为第二相关信息,以便根据第二相关信息进行分配闲置CPU核。
根据本公开实施例,通过得到的与闲置处理器相关的闲置处理器核编号信息,确定在目标计算节点中的核位置信息,进而确定第二相关信息,实现对闲置处理器的管理,便于在接收到资源调度请求时,对闲置资源进行合理分配,有利于提高服务器资源利用率,进而解决服务器中资源分配后出现闲置处理器,导致服务器资源浪费的问题。
图3示意性示出了根据本公开实施例的确定在目标计算节点中的核位置信息的方法示意图。
根据本公开的实施例,根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息,可以包括:根据闲置处理器核编号信息,更新预设位图中对应处理器核的状态,得到更新后的状态;根据更新后的状态,确定在目标计算节点中的核位置信息。
如图3所示,预设位图可以是由一级位图也即节点位图和二级位图也即CPU核位图组成的。第一相关信息可以是包括闲置CPU Socket编号信息、闲置CPU核编号信息以及CPU核主频等相关信息。分布式集群中计算节点可以定期上报第一相关信息给控制节点,控制节点为闲置CPU提供预设位图,预设位图中所有位初始化为0,根据闲置处理器核编号信息,可以更新预设位图中对应处理器核的状态为1。例如,图3中节点位图可以有3个节点,CPU核位图中每个节点中的CPU有5个核。节点位图中,当状态为1,可以表示分布式集群中具有闲置CPU核的节点,当状态为0时,可以表示该节点不存在闲置CPU。CPU核位图中,当状态为1,可以表示目标计算节点中闲置CPU核位置。
根据本公开实施例,通过预设位图记录闲置处理器核的位置信息,便于在接收到资源调度请求时,对闲置处理器进行合理分配,有利于提高服务器处理器的利用率,至少部分克服了服务器资源浪费的问题。
图4示意性示出了根据本公开实施例的基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息的方法示意图。
根据本公开的实施例,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息,可以包括:
在确定闲置资源的类别为闲置内存的情况下,对第一相关信息进行解析,得到与闲置内存相关的物理内存地址信息;将物理内存地址信息映射到虚拟地址空间;在虚拟地址空间,对目标计算节点的闲置内存重新组合,得到第二相关信息。
如图4所示,可以在物理服务器中的CPU核已全部分配给虚机,但是还存在部分可用物理内存的情况下,导致存在闲置内存。对于目标计算节点中的闲置内存,可以使用虚拟地址空间的方式,重新组织各个目标计算节点的内存地址形成逻辑线性地址空间。可以把各个目标计算节点的闲置内存分别映射到控制节点组织的虚拟内存地址空间,控制节点记录虚拟内存到各个目标计算节点的物理内存地址映射关系。目标计算节点运行的应用程序可以按需申请控制节点组织管理的其他目标计算节点的闲置内存。
例如,可以通过在计算节点中安装服务器监控server_agent,分别将目标计算节点1、目标计算节点2、目标计算节点3中的与闲置内存相关的第一相关信息通过高性能网络发送到控制节点中的控制监控agent_master中,处理到虚拟地址空间统一管理。
在具体实现的过程中,服务器监控server_agent可以通过RDMA技术将本节点内闲置内存的起始地址以及长度注册到计算节点的虚拟地址空间,形成连续的虚拟线性地址。
根据本公开实施例,通过得到的与闲置内存相关的物理内存地址信息,映射到虚拟地址空间,重新组合得到第二相关信息,实现对闲置内存的管理,便于在接收到资源调度请求时,对闲置资源进行合理分配,有利于提高服务器资源利用率,进而解决服务器中资源分配后出现闲置内存,导致服务器资源浪费的问题。
根据本公开的另一实施例,基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息可以包括:在确定闲置资源的类别为闲置内存和闲置处理器的情况下,对第一相关信息进行解析,得到与闲置内存相关的物理内存地址信息以及与闲置处理器相关的闲置处理器核编号信息。根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息。将物理内存地址信息映射到虚拟地址空间;在虚拟地址空间,对目标计算节点的闲置内存重新组合,得到组合信息;基于核位置信息和组合信息,确定第二相关信息。
根据本公开的实施例,目标计算节点可以包括M个,其中,M为小于等于N的整数。
其中,响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,可以包括:
响应于接收到的闲置资源的调度请求,基于第二相关信息,从M个目标计算节点中筛选一个满足闲置资源的调度请求的第一计算节点,以便实现对第一计算节点的闲置资源的调度。
根据本公开的实施例,闲置资源的调度请求可以是在租户虚机资源申请的情况下,集群资源不充足,闲置资源充足的情况下发送的。闲置资源可以包括闲置CPU和闲置内存。其中,分配闲置CPU时,可以筛选一个满足虚机需求即满足闲置CPU的调度请求的一个计算节点。分配闲置内存时,可以筛选一个满足虚机需求即满足闲置内存的调度请求的一个计算节点。
根据本公开实施例,优先选择能满足虚机需求的单一目标计算节点,避免了跨计算节点分配闲置资源,降低了云运营成本。
图5示意性示出了根据实施例的闲置资源分配方法的流程图。
如图5所示,该实施例的闲置资源分配方法500可以包括操作S501~操作S508。
在操作S501,租户虚机资源申请。
根据本公开的实施例,可以根据在实际情况下,提出租户虚机资源申请,以便对资源进行调度。
在操作S502,集群资源是否充足。
根据本公开的实施例,在操作S501的情况下,判断集群资源是否充足,如果集群资源充足,执行操作S507。如果集群资源不充足,则执行操作S503。
在操作S503,查找集群闲置资源。
根据本公开的实施例,在集群资源不充足的情况下,执行该操作,得到集群闲置资源。集群闲置资源可以包括集群闲置CPU和集群闲置内存。例如,可以当集群中资源不足时,则检查控制节点中闲置资源情况,然后判断闲置资源是否能满足虚机配置需求,即闲置CPU核数能否满足虚机CPU数量请求,闲置内存大小能否满足虚机内存需求。
在操作S504,集群闲置资源是否充足。
根据本公开的实施例,判断集群闲置资源是否充足。如果集群闲置资源充足,执行操作S505。如果集群闲置资源不充足,执行操作S508。
在操作S505,分配集群闲置CPU。
根据本公开的实施例,在集群闲置资源充足的情况下,对集群闲置CPU进行分配。
在操作S506,分配集群闲置内存。
根据本公开的实施例,在集群闲置资源充足的情况下,对集群闲置内存进行分配,分配完成后执行操作S508。
在操作S507,正常分配。
根据本公开的实施例,当集群中资源充足时,即通过非闲置资源可以满足租户虚机申请需求,则按照正常流程进行资源分配。其中分配方法在此不作具体限定。
根据本公开的实施例,第一相关信息可以包括资源的使用情况信息。
其中,基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,可以包括:
根据资源的使用情况信息,确定与闲置资源相关的信息;根据与闲置资源相关的信息,从分布式集群中筛选目标计算节点。
根据本公开的实施例,闲置资源相关的信息可以包括与闲置内存相关信息和与闲置处理器相关的信息。
根据本公开实施例,可以将分布式集群中存在闲置资源的计算节点筛选出来,然后根据存在闲置资源的计算节点,对与闲置资源相关的信息进行处理,便于对闲置资源的利用。
根据本公开的实施例,集群资源管理方法还可以包括:
在确定完成闲置资源的调度后,闲置资源再次被释放的情况下,对闲置资源进行回收。
根据本公开的实施例,可以将被释放后的闲置资源回收,便于资源的再次利用。
例如,当租户不再需要CPU、内存等资源时,可以通知控制节点回收相应计算节点中的资源,设置CPU位图表并将闲置内存重新加入到虚拟地址空间,建立地址映射表,记录相关映射信息等。
根据本公开实施例,在确定完成闲置资源的调度后,闲置资源再次被释放的情况下,对闲置资源进行回收,实现资源回收再利用。
根据本公开的实施例,在当前云计算环境中,系统无法精细化管理服务器中的CPU资源和内存资源,存在一定的闲置CPU核与内存资源无法分配给租户使用,例如节点中有CPU核剩余,但是内存资源不足;或者节点中CPU核已分配完毕,但是内存有剩余,增加了云运营商的运营成本。本公开提供的集群资源管理方法,可充分利用集群中无法使用的闲置CPU核与闲置内存等资源,减少云运营的成本。
基于上述集群资源管理方法,本公开还提供了一种集群资源管理装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的集群资源管理装置的结构框图。
如图6所示,该实施例的集群资源管理装置600包括获取模块610、确定模块620、处理模块630和分配模块640。
获取模块610用于获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,分布式集群包括N个计算节点,其中,N为大于等于2的整数。在一实施例中,获取模块610可以用于执行前文描述的操作S210,在此不再赘述。
确定模块620用于基于第一相关信息,确定分布式集群中存在闲置资源的目标计算节点,其中,闲置资源用于表征资源未被占用。在一实施例中,确定模块620可以用于执行前文描述的操作S220,在此不再赘述。
处理模块630用于基于目标计算节点以及闲置资源的类别,对第一相关信息进行处理,得到闲置资源的第二相关信息。在一实施例中,处理模块630可以用于执行前文描述的操作S230,在此不再赘述。
分配模块640用于响应于接收到的闲置资源的调度请求,基于第二相关信息,对闲置资源进行分配,以便完成闲置资源的调度。在一实施例中,分配模块640可以用于执行前文描述的操作S240,在此不再赘述。
根据本公开的实施例,集群资源管理装置600还可以包括回收模块。
回收模块用于在确定完成闲置资源的调度后,闲置资源再次被释放的情况下,对闲置资源进行回收。
根据本公开的实施例,处理模块630可以包括第一解析单元、映射单元和组合单元。
第一解析单元用于在确定闲置资源的类别为闲置内存的情况下,对第一相关信息进行解析,得到与闲置内存相关的物理内存地址信息。
映射单元用于将物理内存地址信息映射到虚拟地址空间。
组合单元用于在虚拟地址空间,对目标计算节点的闲置内存重新组合,得到第二相关信息。
根据本公开的实施例,处理模块630还可以包括第二解析单元、第一子确定单元和第二子确定单元。
第二解析单元用于在确定闲置资源的类别为闲置处理器的情况下,对第一相关信息进行解析,得到与闲置处理器相关的闲置处理器核编号信息。
第一子确定单元用于根据闲置处理器核编号信息,确定在目标计算节点中的核位置信息。
第二子确定单元用于基于核位置信息,确定第二相关信息。
根据本公开的实施例,分批处理模块610、拆分处理模块620、打标处理模块630和集群资源管理模块640中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,分批处理模块610、拆分处理模块620、打标处理模块630和集群资源管理模块640中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,分批处理模块610、拆分处理模块620、打标处理模块630和集群资源管理模块640中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现集群资源管理方法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,程序也可以存储在除ROM702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的方法。
在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (11)
1.一种集群资源管理方法,包括:
获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,所述分布式集群包括N个所述计算节点,其中,N为大于等于2的整数;
基于所述第一相关信息,确定所述分布式集群中存在闲置资源的目标计算节点,其中,所述闲置资源用于表征所述资源未被占用;
基于所述目标计算节点以及所述闲置资源的类别,对所述第一相关信息进行处理,得到所述闲置资源的第二相关信息;以及
响应于接收到的所述闲置资源的调度请求,基于所述第二相关信息,对所述闲置资源进行分配,以便完成所述闲置资源的调度。
2.根据权利要求1所述的方法,其中,所述基于所述目标计算节点以及所述闲置资源的类别,对所述第一相关信息进行处理,得到所述闲置资源的第二相关信息,包括:
在确定所述闲置资源的类别为闲置内存的情况下,对所述第一相关信息进行解析,得到与所述闲置内存相关的物理内存地址信息;
将所述物理内存地址信息映射到虚拟地址空间;
在所述虚拟地址空间,对所述目标计算节点的所述闲置内存重新组合,得到所述第二相关信息。
3.根据权利要求1所述的方法,其中,所述基于所述目标计算节点以及所述闲置资源的类别,对所述第一相关信息进行处理,得到所述闲置资源的第二相关信息,包括:
在确定所述闲置资源的类别为闲置处理器的情况下,对所述第一相关信息进行解析,得到与所述闲置处理器相关的闲置处理器核编号信息;
根据所述闲置处理器核编号信息,确定在所述目标计算节点中的核位置信息;
基于所述核位置信息,确定所述第二相关信息。
4.根据权利要求3所述的方法,其中,所述根据所述闲置处理器核编号信息,确定在所述目标计算节点中的核位置信息,包括:
根据所述闲置处理器核编号信息,更新预设位图中对应处理器核的状态,得到更新后的状态;
根据所述更新后的状态,确定在所述目标计算节点中的核位置信息。
5.根据权利要求1所述的方法,其中,所述目标计算节点包括M个,其中,M为小于等于N的整数;
其中,所述响应于接收到的所述闲置资源的调度请求,基于所述第二相关信息,对所述闲置资源进行分配,包括:
响应于接收到的所述闲置资源的调度请求,基于所述第二相关信息,从M个所述目标计算节点中筛选一个满足所述闲置资源的调度请求的第一计算节点,以便实现对所述第一计算节点的所述闲置资源的调度。
6.根据权利要求1所述的方法,其中,所述第一相关信息包括资源的使用情况信息;
其中,所述基于所述第一相关信息,确定所述分布式集群中存在所述闲置资源的目标计算节点,包括:
根据所述资源的使用情况信息,确定与所述闲置资源相关的信息;
根据所述与所述闲置资源相关的信息,从所述分布式集群中筛选所述目标计算节点。
7.根据权利要求1~6任一项所述的方法,还包括:
在确定完成所述闲置资源的调度后,所述闲置资源再次被释放的情况下,对所述闲置资源进行回收。
8.一种集群资源管理装置,包括:
获取模块,用于获取分布式集群中计算节点上报的与资源相关的第一相关信息,其中,所述分布式集群包括N个所述计算节点,其中,N为大于等于2的整数;
确定模块,用于基于所述第一相关信息,确定所述分布式集群中存在闲置资源的目标计算节点,其中,所述闲置资源用于表征所述资源未被占用;
处理模块,用于基于所述目标计算节点以及所述闲置资源的类别,对所述第一相关信息进行处理,得到所述闲置资源的第二相关信息;以及
分配模块,用于响应于接收到的所述闲置资源的调度请求,基于所述第二相关信息,对所述闲置资源进行分配,以便完成所述闲置资源的调度。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述的方法。
11.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310777831.9A CN116684496A (zh) | 2023-06-28 | 2023-06-28 | 集群资源管理方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310777831.9A CN116684496A (zh) | 2023-06-28 | 2023-06-28 | 集群资源管理方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116684496A true CN116684496A (zh) | 2023-09-01 |
Family
ID=87785486
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310777831.9A Pending CN116684496A (zh) | 2023-06-28 | 2023-06-28 | 集群资源管理方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116684496A (zh) |
-
2023
- 2023-06-28 CN CN202310777831.9A patent/CN116684496A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109684074B (zh) | 物理机资源分配方法及终端设备 | |
US8996756B2 (en) | Using process location to bind IO resources on NUMA architectures | |
US11206193B2 (en) | Method and system for provisioning resources in cloud computing | |
US10248175B2 (en) | Off-line affinity-aware parallel zeroing of memory in non-uniform memory access (NUMA) servers | |
CN109117252B (zh) | 基于容器的任务处理的方法、系统及容器集群管理系统 | |
US11734172B2 (en) | Data transmission method and apparatus using resources in a resource pool of a same NUMA node | |
CN107070709B (zh) | 一种基于底层numa感知的nfv实现方法 | |
US9336038B2 (en) | Refreshing memory topology in virtual machine operating systems | |
CN108604193A (zh) | 异构系统、计算任务分配方法及装置 | |
US20220156115A1 (en) | Resource Allocation Method And Resource Borrowing Method | |
CN109298937A (zh) | 文件解析方法及网络设备 | |
US8296552B2 (en) | Dynamically migrating channels | |
US8458719B2 (en) | Storage management in a data processing system | |
US9384050B2 (en) | Scheduling method and scheduling system for multi-core processor system | |
US20210168078A1 (en) | Method, electronic device and computer program product of load balancing | |
US20140129811A1 (en) | Multi-core processor system and control method | |
US11182189B2 (en) | Resource optimization for virtualization environments | |
EP4109261A2 (en) | Access processing method, device, storage medium and program product | |
CN113590274A (zh) | 任务分配方法及装置、任务处理系统 | |
CN107632890B (zh) | 一种数据流体系结构中动态节点分配方法和系统 | |
CN116684496A (zh) | 集群资源管理方法、装置、设备及介质 | |
US20220405135A1 (en) | Scheduling in a container orchestration system utilizing hardware topology hints | |
US9367439B2 (en) | Physical memory usage prediction | |
US20220326986A1 (en) | Scheduling workloads on partitioned resources of a host system in a container-orchestration system | |
CN112256436B (zh) | 资源分配方法、装置、设备及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |