CN113326099B - 资源管理方法、装置、电子设备和存储介质 - Google Patents

资源管理方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN113326099B
CN113326099B CN202110713427.6A CN202110713427A CN113326099B CN 113326099 B CN113326099 B CN 113326099B CN 202110713427 A CN202110713427 A CN 202110713427A CN 113326099 B CN113326099 B CN 113326099B
Authority
CN
China
Prior art keywords
management node
identifier
management
cluster
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110713427.6A
Other languages
English (en)
Other versions
CN113326099A (zh
Inventor
曾林远
杨旭荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sangfor Technologies Co Ltd
Original Assignee
Sangfor Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sangfor Technologies Co Ltd filed Critical Sangfor Technologies Co Ltd
Priority to CN202110713427.6A priority Critical patent/CN113326099B/zh
Publication of CN113326099A publication Critical patent/CN113326099A/zh
Application granted granted Critical
Publication of CN113326099B publication Critical patent/CN113326099B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/4557Distribution of virtual machine instances; Migration and load balancing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45595Network integration; Enabling network access in virtual machine instances

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例提供了一种资源管理方法、装置、电子设备和存储介质,该方法包括:确定第一标识集合,第一标识集合包括第一管理节点集合中管理节点的标识;建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;在基于第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到多组标识;在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据第二标识集合更新对应关系;根据更新后的对应关系,为新增的管理节点分配集群资源。

Description

资源管理方法、装置、电子设备和存储介质
技术领域
本申请实施例涉及云计算技术领域,尤其涉及一种资源管理方法、装置、电子设备和计算机存储介质。
背景技术
云计算(Cloud Computing)平台部署在大规模服务器集群(cluster)上,具有高可扩展性和高可用性等优点。分布式云(Distributed Cloud)是指云服务提供商管(CloudService Provider,CSP)将公有云服务分发到不同的物理位置,由CSP统一负责云服务的运营、治理、更新和演进。在分布式云场景下,集群包括管理节点(Master Node)和任务节点(Task Node),管理节点负责作业的调度和任务的分配的集群节点;任务节点为负责任务具体执行的集群节点。
在相关技术中,在管理节点动态扩展时,采用除余均衡除余算法,将已分配给管理节点的物理资源,在多个管理节点间互相进行分配,物理资源在多个管理节点内互相迁移,导致集群资源的均衡性和稳定性下降。因此,如何提高集群资源分配的均衡性和稳定性成为亟待解决的重要问题。
发明内容
本申请实施例提供了一种资源管理方法、装置、电子设备和计算机存储介质,可以提高集群资源分配的均衡性和稳定性。
本申请实施例提供的一种资源管理方法,包括:
确定第一标识集合,所述第一标识集合包括第一管理节点集合中管理节点的标识;建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;
在基于所述第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和所述标识的序号对所述第一标识集合中的标识进行分组,得到多组标识;
在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据所述第二标识集合更新所述对应关系;根据更新后的对应关系,为所述新增的管理节点分配集群资源。
在一种实现方式中,所述建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,包括:
确定第一对应关系,所述第一对应关系表示所述第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的对应关系;
确定第二对应关系,所述第二对应关系表示所述第一标识集合中的标识的序号和所述第一标识集合中的标识的对应关系;
根据所述第一对应关系和所述第二对应关系,建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在一种实现方式中,所述方法还包括:
在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;
对所述资源数按照从小到大的顺序进行排序,得到所述每个管理节点已分配的资源数的排序结果;
根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点。
在一种实现方式中,所述根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点,包括:
在所述第一管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;在所述第二管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;
根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点。
在一种实现方式中,所述根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点,包括:
在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点相同时,将所述第二管理节点集合中已分配的资源数最小的管理节点,确定为所述新增的集群资源的管理节点;
或者,在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点不同时,将所述第二管理节点集合中相对所述第一管理节点集合新增的管理节点,确定为所述新增的集群资源的管理节点。
在一种实现方式中,所述方法还包括:
获取所述每组标识中各管理节点的权重系数;
根据所述每组标识中各管理节点的权重系数,确定所述第一标识集合或所述第二标识集合中各管理节点标识的数量比例。
在一种实现方式中,所述方法还包括:
确定所述第一管理节点集合中的目标管理节点,所述目标管理节点为所述第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;
在所述第一标识集合中,将所述目标管理节点的标识更新为所述目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;
根据所述更新后的第一标识集合,更新所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
本申请实施例提供的一种资源管理装置,包括:
确定模块,用于确定第一标识集合,所述第一标识集合包括第一管理节点集合中管理节点的标识;建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;
处理模块,用于在基于所述第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和所述标识的序号对所述第一标识集合中的标识进行分组,得到多组标识;
分配模块,用于在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据所述第二标识集合更新所述对应关系;根据更新后的对应关系,为所述新增的管理节点分配集群资源。
在一种实现方式中,所述确定模块,用于建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,包括:
确定第一对应关系,所述第一对应关系表示所述第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的对应关系;
确定第二对应关系,所述第二对应关系表示所述第一标识集合中的标识的序号和所述第一标识集合中的标识的对应关系;
根据所述第一对应关系和所述第二对应关系,建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在一种实现方式中,所述处理模块还用于:
在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;
对所述资源数按照从小到大的顺序进行排序,得到所述每个管理节点已分配的资源数的排序结果;
根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点。
在一种实现方式中,所述处理模块,用于根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点,包括:
在所述第一管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;在所述第二管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;
根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点。
在一种实现方式中,所述处理模块,用于根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点,包括:
在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点相同时,将所述第二管理节点集合中已分配的资源数最小的管理节点,确定为所述新增的集群资源的管理节点;
或者,在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点不同时,将所述第二管理节点集合中相对所述第一管理节点集合新增的管理节点,确定为所述新增的集群资源的管理节点。
在一种实现方式中,所述确定模块,还用于:
获取所述每组标识中各管理节点的权重系数;
根据所述每组标识中各管理节点的权重系数,确定所述第一标识集合或所述第二标识集合中各管理节点标识的数量比例。
在一种实现方式中,所述确定模块,还用于:
确定所述第一管理节点集合中的目标管理节点,所述目标管理节点为所述第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;
在所述第一标识集合中,将所述目标管理节点的标识更新为所述目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;
根据所述更新后的第一标识集合,更新所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
本申请实施例提供一种电子设备,所述电子设备包括存储器、处理器及存储在存储器上可在处理器上运行的计算机程序,所述处理器执行所述程序时实现前述一个或多个技术方案提供的物理资源管理方法。
本申请实施例提供一种计算机存储介质,所述计算机存储介质存储有计算机程序;所述计算机程序被执行后能够实现前述一个或多个技术方案提供的物理资源管理方法。
基于本申请提供的物理资源管理方法,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;在基于第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到多组标识;在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据第二标识集合得到更新后的对应关系,为新增的管理节点分配集群资源。在新增管理节点时集群资源可以往新增的管理节点迁移,将已分配给管理节点的物理资源将分配到新增的管理节点,物理资源不会在已有的多个管理节点间互相迁移,因此,可以提高集群资源分配的均衡性和稳定性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本申请。
附图说明
图1为相关技术中提供的一种采用的均衡除余算法的应用场景图;
图2为相关技术中提供的一种采用的哈希一致性算法的应用场景图;
图3为本申请实施例提供的一种资源管理方法的流程示意图;
图4为本申请实施例提供的1个管理节点时管理节点的和任务节点的映射关系的示意图;
图5为本申请实施例提供的对第一标识集合中的标识进行分组的示意图;
图6为本申请实施例提供的在新增管理节点时,不同管理节点数量的映射关系的推演过程的示意图;
图7为本申请实施例提供的一种在不同管理节点数量时的映射关系的示意图;
图8为本申请实施例提供的在不同管理节点数量时基于映射关系进行资源管理的示意图;
图9为本申请实施例中建立管理节点的标识和集群资源的标识的对应关系的流程示意图;
图10为本申请实施例提供的确定物理资源ID_A所属的管理节点的示意图;
图11为本申请实施例提供的一种基于已分配资源数的排序结果确定新增资源所属的管理节点的示意图;
图12为本申请实施例提供的另一种基于已分配资源数的排序结果确定新增资源所属的管理节点的示意图;
图13为本申请实施例提供的又一种基于已分配资源数的排序结果确定新增资源所属的管理节点的示意图;
图14为本申请实施例提供的又一种基于已分配资源数的排序结果确定新增资源所属的管理节点的示意图;
图15为本申请实施例提供的基于管理节点的权重系数进行资源分配的示意图;
图16为本申请实施例提供的在某一个管理节点处于离线状态时的应用场景的示意图;
图17为本申请实施例提供的另一种在不同管理节点数量时的映射关系的示意图;
图18为本申请实施例提供的一种资源管理方法的应用场景图;
图19为本申请实施例提供的另一种资源管理方法的应用场景图;
图20为本申请实施例提供的又一种资源管理方法的应用场景图;
图21为本申请实施例提供的又一种资源管理方法的应用场景图;
图22为本申请实施例提供的又一种资源管理方法的流程示意图;
图23为本申请实施例提供的一种资源管理装置的示意图;
图24为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所提供的实施例仅仅用以解释本申请,不用于限定本申请。另外,以下所提供的实施例是用于实施本申请的部分实施例,而非提供实施本申请的全部实施例,在不冲突的情况下,本申请实施例记载的技术方案可以任意组合的方式实施。
图1示出了相关技术中提供的一种资源管理方法的应用场景图。参见图1,集群资源可以包括至少一个管理节点和至少一个任务节点,管理节点可以包括Node-1、Node-2、Node-3,分别对应管理节点的标识0、1、2;集群资源可以包括Object-1、Object-2、Object-3、Object-4、Object-5,分别对应任务节点的标识0、1、2、3、4。
参见图1,在相关技术中,缓存系统采用均衡除余算法,在对多个集群资源进行资源分配时,将多个集群资源按照序号进行排序,根据管理节点的数量(Node_count)对任务节点的数量进行取模运算,计算Object-N%Node_count,得到的余数即为物理资源归属的管理节点的标识。其中,Object-N为任务节点的数量。
图2示出了相关技术中提供的一种资源管理方法的应用场景图。参见图2,集群包括至少一个管理节点和至少一个任务节点,其中,至少一个管理节点可以包括Node-1、Node-2、Node-3、Node-4,至少一个集群资源可以包括Object-1、Object-2、Object-3、Object-4。
参见图2,在相关技术中,缓存系统采用一致性哈希算法,对管理节点的标识进行hash计算,得到管理节点的标识的哈希值。将管理节点的标识的哈希值,随机分散到一个哈希环缓存中。
在相关技术中,在计算集群资源归属时,将集群资源的标识进行hash计算,采用二分查找方法查找任务节点相邻最近的管理节点,将任务节点相邻最近的管理节点确定为集群资源归属的管理节点,难以保证集群资源分配的均衡性和稳定性。
为了解决上述问题,本申请提供了一种资源管理方法,可以提高集群资源分配的均衡性和稳定性。以下,对本申请提供的资源管理方法进行详细介绍。
图3示出了本申请实施例提供的物理资源管理方法的示意性流程图。参见图3,本申请实施例提供的物理资源管理方法,可以包括以下步骤:
步骤A301:确定第一标识集合,第一标识集合包括第一管理节点集合中管理节点的标识;建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
这里,在第一标识集合中,管理节点的标识的数量可以为1个或者多个。管理节点可以是负责作业的调度和任务的分配的集群节点。
在示例中,按照集群资源提供的云服务的类型划分,一个集群资源可以是一个用于提供计算服务的计算节点的资源,或者一个用于提供存储服务的存储节点的资源。按照集群资源在集群中的部署方式划分,一个集群资源可以是一个云主机的资源,或者一个物理主机的资源,或者,一个虚拟机的资源。
在示例中,在第一标识集合中,管理节点的标识的数量为1个,此时,将第一标识集合记为{Node-1},管理节点Node-1的标识L=0。
在示例中,参见图4,为第一标识集合{Node-1}设置一个映射数组L,在映射数组L中,每一个元素的数值对应一个管理节点的标识。第一标识集合中的元素L表示管理节点Node-1的标识,第一标识集合中的元素的序号Li对应集群资源的标识。
应理解,在只有一个管理节点Node-1时,每一个集群资源都可以由管理节点Node-1进行集中管理,在映射数组L中全部填充为管理节点Node-1的标识L。此时,第一标识集合为{0,0,0,0,0,0,0,0,0,0,……,0}。
在示例中,映射数组L的长度为2N,N小于32。例如,在N=10时,则映射数组L的长度为210=1024。此时,第一标识集合中标识的数量为1024个,管理节点可纳管的集群资源的数量为1024个。
应理解,在第一标识集合中,每一个标识对应一个管理节点,每一个标识的序号对应一个集群资源。第一标识集合中的多个存在序列的标识可以形成一个映射数组。
参见图4,在映射数组中,Li为映射数组中元素的序号,L为映射数组中元素的取值,映射数组中元素的序号Li和集群资源的标识L一一对应,从而,为管理节点的标识和集群资源的标识建立映射关系。
在示例中,根据第一标识集合中元素的序号,以及第一标识集合中元素的序号和第一标识集合中元素的取值的对应关系,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
步骤A302:在基于第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到多组标识。
这里,第二管理节点集合中管理节点的数量为N个,N大于等于1,可以根据第二管理节点集合中管理节点的数量,控制管理节点的未来最大的管理节点数,对管理节点的数量进行动态扩展,N可以是2、3、4、5等大于1的自然数。
在示例中,在基于第一管理节点集合新增管理节点得到第二管理节点集合,第二管理集合中管理节点的数量N=2,将第二管理节点集合记为{Node-1,Node-2}。
在示例中,参见图5,在基于第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到x组标识,x=N。
在示例中,第一标识集合中的标识属于管理节点Node-1,第一标识集合为{0,0,0,0,0,0,0,0,0,0,……,0}。在第二管理节点集合中的管理节点的数量为2时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到以下分组结果:[0,0]、[0,0]、[0,0]、[0,0]、[0,0]……[0,0]。
在示例中,第一标识集合中的标识属于管理节点Node-1和Node-2,第一标识集合为{0,1,0,1,0,1,0,1,0,1,……,0}。在第二管理节点集合中的管理节点的数量为3时,基于上述方法,对第一标识集合中的标识进行分组,得到以下分组结果:[0,1,0]、[1,0,1]、[0,1,0]、[1,0,1]、[0,1,0]……[1,0,1]。
步骤A303:在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据第二标识集合更新对应关系;根据更新后的对应关系,为新增的管理节点分配集群资源。
在示例中,参见图6,在增加新的管理节点时,根据对第一标识集合中的标识进行分组得到x组标识中x的范围,在第一标识集合中依次确定每组标识中相同标识中的一个标识;在每组标识中将分组中出现的第二个相同的标识替换为新增管理节点的标识L,得到第二标识集合。
例如,在增加新的管理节点时,根据节点列表总数量的范围,在第x组标识中确定两个相同标识中的一个标识;将标识的分组中出现的第二个相同的标识替换为新增管理节点的标识。
在示例中,对第一标识集合中的标识进行分组的分组结果为:[0,1,0]、[1,0,1]、[0,1,0]、[1,0,1]、[0,1,0]……[1,0,1]。新增管理节点Node-3的标识为“2”,第二标识集合中的标识属于管理节点Node-1、Node-2、Node-3,分组[1,0,1]属于第1组标识,x=1,将分组[1,0,1]中出现的第二个相同的标识“1”更新为“2”,即,将分组[1,0,1]更新为分组[1,0,2]。
依次类推,分组[1,0,1]属于第2组标识,x=2,对于分组[0,1,0],将分组[0,1,0]中出现的第二个相同的标识的“0”更新为“2”,即,将分组[0,1,0]更新为分组[0,1,2]。对x依次取1至N,在每组标识中将分组中出现的第二个相同的标识更新为新增的管理节点的标识,得到第二标识集合。
在示例中,采用一致性hash算法,将管理节点的标识固定,建立管理节点的标识和虚拟节点的标识的对应关系,在此情况下,管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,只与管理节点的数量相关,与管理节点的标识无关。按照上述推演逻辑,可以达到相同的效果。
应理解,在映射数组中,元素的序号Li对应的集群资源的标识LD_A不变,使得每个管理节点对应的物理资源的归属一致,达到资源分配的一致性。因此,集群资源可以平均分配到新增加的管理节点上,从而,实现物理资源分配的单调性。
在示例中,在第一管理节点集合中新增管理节点时,更新管理节点的标识和集群资源的标识的映射关系,对映射数组L进行推演,推演的逻辑如图7所示。依此类推,参见图8,在第一管理节点集合{Node-1}中新增管理节点Node-2、Node-3时,第二管理节点集合为{Node-1,Node-2,Node-3}。
在本申请实施例中,在技术规划上可以为未来的物理资源规模和管理节点规模提前布局,保证系统升级迭代后,集群资源分配的均衡性。避免资源分配的不确定性,部分管理节点负载过高导致管理节点出现不可用情况。
基于本申请提供的物理资源管理方法,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;在基于第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和标识的序号对第一标识集合中的标识进行分组,得到多组标识;在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据第二标识集合得到更新后的对应关系,为新增的管理节点分配集群资源。在新增管理节点时集群资源可以往新增的管理节点迁移,将已分配给管理节点的物理资源将分配到新增的管理节点,物理资源不会在已有的多个管理节点间互相迁移,因此,可以提高集群资源分配的稳定性。
在实际应用中,上述步骤A301至步骤A303可以采用处理器实现,上述处理器可以为专用集成电路(Application Specific Integrated Circuit ,ASIC)、数字信号处理器(Digital Signal Processor,DSP)、数字信号处理装置(Digital Signal ProcessingDevice,DSPD)、可编程逻辑装置(Programmable Logic Device,PLD)、现场可编程逻辑门阵列(Field Programmable Gate Array,FPGA)、中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器中的至少一种。
在一种实现方式中,在上述步骤A301中,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,参见图9,可以包括以下步骤:
步骤A901:确定第一对应关系,第一对应关系表示第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的对应关系。
在示例中,根据集群资源的通用唯一识别码(Universally Unique Identifier,UUID),对集群资源的通用唯一识别码进行位运算,确定集群资源的标识。
例如,参见图10,集群资源的UUID为ID_A,对集群资源的UUID进行位计算“ID_A >>(32-N)”,得到集群资源的UUID的位计算结果ID_Li,将集群资源的UUID的位计算结果ID_Li,作为集群资源的标识。
在本申请实施例中,为简化起见,在附图中将集群资源的UUID的位计算结果ID_Li记作Li。
应理解,将集群资源的UUID的位计算结果Li,作为集群资源的标识。相应地,Li为第一标识集合中的元素的序号,或者,第一标识集合对应的映射数组中的元素的序号。
在示例中,对集群资源的UUID进行位计算时执行右移运算,采用的计算公式的形式如下所示:
ID_Li = ID_A >> (32-N) (1)
其中,“>>”为移位运算符,执行右移运算,右移运算是将一个二进制位的操作数按指定移动的位数向右移动,移出位被丢弃,左边移出的空位一律补0。
在示例中,根据集群资源的标识LD_A的位计算结果ID_Li,确定集群资源的标识LD_A对应的管理节点的标识在第一标识集合中的序号。例如,集群资源的标识ID_A=2N,则位计算结果为ID_Li= ID_A >> (32-N)= 2N>> (32-N)=0。
应理解,映射数组L是去中心化的,映射数组中的元素的序号属于公共数据,对于不同管理节点数量的第二管理节点结合,映射数组中的元素的序号一致。
在示例中,由于集群资源的UUID为32位,N小于等于32,因此, ID_Li的范围一定在[0,232-1] 的范围内,即映射数组L的序号ID_Li的数值范围为[0, 232-1]。
在示例中,参见表1,根据第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的一一映射关系,确定第一对应关系。
表1 映射数组中存在的映射关系
Figure DEST_PATH_IMAGE001
步骤A902:确定第二对应关系,第二对应关系表示第一标识集合中的标识的序号和第一标识集合中的标识的对应关系。
在示例中,参见表1,根据第一标识集合中元素的序号和第一标识集合中元素的取值的一一映射关系,确定第二对应关系。
步骤A903:根据第一对应关系和第二对应关系,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在示例中,根据第一标识集合中元素的序号,以及第一标识集合中元素的序号和第一标识集合中元素的取值的对应关系,建立第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在本申请实施例中,将集群资源需要尽可能平均分配到每个管理节点上,避免集群资源集中分配到某一个管理节点上,超过管理节点的负荷,达到资源分配的均衡性。
应理解,在管理节点的数量大于1时,映射数组中任何一个标识和相邻标识对应的管理节点都是不一致的,因此,在基于映射数组中的映射关系进行资源分配时,可以保证第二管理集合中的每一个管理节点分配的任务节点的资源数达到均匀。
在一种实现方式中,上述资源管理方法,还可以包括以下步骤:
在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;对资源数按照从小到大的顺序进行排序,得到每个管理节点已分配的资源数的排序结果;根据排序结果,在第一管理节点集合中确定新增的集群资源的管理节点。
在示例中,参见图11,第一管理节点集合为{Node-1,Node-2,Node-3},在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;其中,管理节点Node-1,Node-2,Node-3已分配的资源数分别为0、0、1。
在示例中,对资源数按照从小到大的顺序进行排序,得到至少一个管理节点已分配的资源数的排序结果。这里,排序结果为Node-1、Node-2、Node-3。
在示例中,根据排序结果:Node-1、Node-2、Node-3,在第一管理节点集合中确定新增的集群资源的管理节点。对于新创建的集群资源,可以将新创建的集群资源分配给第一管理节点集合中资源负载最小的管理节点。例如,将新创建的集群资源ID_B分配给Node-1或者Node-2。
应理解,在将新创建的集群资源分配给第一管理节点集合中资源负载最小的管理节点时,可以使需要分布式处理的物理资源在当前的管理节点规模和未来的集群规模下都可以均匀分布。
在示例中,在初始情况下,部署单个管理节点{Node-1}进行资源管理。在实际应用中,需要对管理节点进行动态扩缩容。例如,将管理节点横向扩展到三节点,或者,将管理节点扩展到五节点。
在示例中,初始纳管的集群资源为空[ID_A],需要新增纳管的集群资源包括集群资源ID_B、集群资源ID_C、集群资源ID_D。参见图8,按照上述映射数组的推演逻辑,构建三个管理节点情况的映射数组L。
参见图10,根据在不同管理节点数量时管理节点的标识和集群资源的标识的映射关系,确定在不同管理节点数量时确定集群资源[ID_A]所属的管理节点依赖的资源分配关系。
进一步地,根据在不同管理节点数量时确定物理资源[ID_A]所属的管理节点依赖的资源分配关系,确定在不同管理节点数量时物理资源[ID_A] 所属的管理节点。
在一种实现方式中,根据排序结果,在第一管理节点集合中确定新增的集群资源的管理节点,包括:
在第一管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;在第二管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;根据第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点,确定新增的集群资源的管理节点。
在示例中,参见图11,第一管理节点集合为{Node-1},第二管理节点集合为{Node-1,Node-2,Node-3}。将所有已分配的管理节点按资源的进行排序。管理节点Node-1、Node-2、Node-3的标识分别为0、1、2。
在示例中,第一管理节点集合对应的排序结果为Node-1,第二管理节点集合对应的排序结果为Node-1、Node-2、Node-3。从资源负载最小值对应的管理节点开始,优先取排序结果中第一个节点作为新增的集群资源的管理节点。
例如,第一管理节点集合对应的排序结果中的管理节点Node-1,将管理节点Node-1作为新增的集群资源的管理节点,在下一个节点分配关系中,确认资源负载最小值对应的管理节点是否一致。
这里,下一个节点分配关系可以理解为第二管理节点集合对应的第二标识集合中,管理节点的标识和集群资源的标识的对应关系。
在示例中,根据第一管理节点集合、第二管理节点集合中已分配的资源数最小的管理节点进行一致性评估,根据一致性评估结果,确定新增的集群资源的管理节点。
在一种实现方式中,根据第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点,确定新增的集群资源的管理节点,包括:
在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点相同时,将第二管理节点集合中已分配的资源数最小的管理节点,确定为新增的集群资源的管理节点。
在示例中,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点相同时,取第一管理节点集合中资源负载最小值对应的管理节点作为新增的集群资源的管理节点。
在示例中,增加集群资源ID_B,计算物理资源ID_B在所有节点范围分配关系。参见图12,第一管理节点集合、第二管理节点集合中的管理节点的数量分别为1、3,或者1、5时,第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点相同。在此情况下,在管理节点的数量为1、3、5时,将新增的集群资源ID_B都分配给管理节点Node-1。
在一种实现方式中,根据第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点,确定新增的集群资源的管理节点,包括:
在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同时,将第二管理节点集合中相对第一管理节点集合新增的管理节点,确定为新增的集群资源的管理节点。
在示例中,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同时,取第二管理节点集合中已分配的资源数最小的管理节点,作为新增的集群资源的管理节点。
在示例中,增加集群资源ID_C,计算物理资源ID_C在所有节点范围分配关系。参见图13,第一管理节点集合、第二管理节点集合中的管理节点的数量分别为1、3时,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同。
在此情况下,在管理节点的数量为1时,将新增的集群资源ID_C分配给Node-1;在管理节点的数量为3时,第二管理节点集合中已分配的资源数最小的管理节点为Node-2,将新增的集群资源ID_C分配给Node-2。
在示例中,参见图13,第一管理节点集合、第二管理节点集合中的管理节点的数量分别为1、5时,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同。
在此情况下,在管理节点的数量为1时,将新增的集群资源ID_C分配给Node-1;在管理节点的数量为5时,第二管理节点集合中已分配的资源数最小的管理节点为Node-2,将新增的集群资源ID_C分配给Node-2。
在示例中,增加集群资源ID_D,计算ID_D在所有节点范围分配关系。参见图14,第一管理节点集合、第二管理节点集合中的管理节点的数量分别为1、3时,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同。
在此情况下,在管理节点的数量为1时,将新增的集群资源ID_D分配给Node-1;在管理节点的数量为3时,将新增的集群资源ID_D分配给Node-1,
在示例中,参见图14,在第一管理节点集合、第二管理节点集合中的管理节点的数量分别为1、5时,在第二管理节点集合中已分配的资源数最小的管理节点与第一管理节点集合中已分配的资源数最小的管理节点不同。
在此情况下,在管理节点的数量为1时,将新增的集群资源ID_D分配给Node-1;在管理节点的数量为5时,第二管理节点集合中已分配的资源数最小的管理节点为Node-5,将新增的集群资源ID_D分配给Node-5。
在示例中,将新创建的集群资源分配给当前资源负载最小的管理节点上,可以保证资源分配的平衡性。例如,新增纳管两个集群资源,只分配给已分配最少的物理资源的管理节点上。
在一种实现方式中,上述资源管理方法,还可以包括以下步骤:
获取每组标识中各管理节点的权重系数;
根据每组标识中各管理节点的权重系数,确定第一标识集合或第二标识集合中各管理节点标识的数量比例。
在示例中,以三个管理节点为例,在第一标识集合中,管理节点包括Node-1、Node-2、Node-3,参见表2,获取每组标识中各管理节点的权重系数0.2、0.4、0.4,管理节点Node-1、Node-2、Node-3的资源分配比例为1:2:2,
在示例中,参见图15,根据每组标识中各管理节点的权重系数0.2、0.4、0.4,确定第一标识集合中各管理节点标识的数量比例为1:2:2。
应理解,每组标识中各管理节点的权重系数,可以影响第一标识集合或者第二标识集合对应的映射数组L中的资源分配关系,从而,控制各个管理节点的资源分配比例。
表2 关于管理节点的权重系数和资源分配比例
Figure DEST_PATH_IMAGE002
在示例中,构建一个可以自配置权重的分配算法,可以配置那些节点负载多,部分管理节点负载少。针对某些需要分配少资源的管理节点可以配置权重,保证管理节点的负载资源较少。
在一种实现方式中,上述资源管理方法,还可以包括以下步骤:
确定第一管理节点集合中的目标管理节点,目标管理节点为第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;
在第一标识集合中,将目标管理节点的标识更新为目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;
根据更新后的第一标识集合,更新第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在示例中,参见图16,以三个管理节点为例,在管理节点Node-2处于离线状态,或者管理节点Node-2属于已删除的管理节点时,确定第一管理节点集合中的目标管理节点为Node-2,记录管理节点Node-2的状态为不可用。
在示例中,管理节点Node-2的状态为不可用,在计算物理资源归属的管理节点时,在第一标识集合中,将目标管理节点Node-2的标识Li取Node-2的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合。
例如,第一标识集合中的标识属于管理节点Node-1、Node-2和Node-3,第一标识集合为{0,1,2,1,0,2,0,1,2,1,……,2}。在管理节点Node-2的状态为不可用时,将目标管理节点Node-2的标识“1”取Node-2的序号的下一个序号对应的管理节点的标识,得到更新后的第一标识集合:{0,2,2,0,0,2,0,2,2,0,……,2}。
在示例中,对于第一标识集合{0,1,2,1,0,2,0,1,2,1,……,2},在Node-1、Node-2和Node-3都处于正常运行状态时,按照管理节点的数量和序号对第一标识集合进行分组的分组结果为:[0,1,2]、[1,0,2]、[0,1,2]、……[1,0,1]。在将分组[0,1,2]、[1,0,2]中的“1”更新为下一个序号对应的管理节点的标识“2”时,可以分别得到分组结果[0,2,2]、[0,0,2]。
应理解,第一标识集合中包含两种交替出现的分组结果[0,1,2]、[1,0,2],在更新后的第一标识集合中分组结果 [0,2,2]、[0,0,2]交替出现,其中,标识“0”、“2”分别对应管理节点Node-1、Node-3,因此,可以保证在管理节点Node-2不可用时,集群资源分配至管理节点Node-1、Node-3的均衡性。
在示例中,在管理节点Node2不可用、且再新增管理节点时,采用新增管理节点作为原有的管理节点Node-2,由新增管理节点继续负载管理节点Node-2原有分配的物理资源。
在示例中,管理节点Node-2由离线状态恢复在线状态时,将管理节点Node-2的状态改为可用,由管理节点Node2继续负载管理节点Node-2原有分配的物理资源。
在本申请实施例中,在映射数组中任何一个管理节点的标识的相邻的管理节点标识都是不一致的,因此在管理节点处于离线状态时,可以将物理资源均匀迁移到运行状态正常的管理节点上。只有处于离线状态的管理节点纳管的物理资源会发生迁移,不会产生集群资源迁移动荡。使得集群资源可以在每一个管理节点快速收敛,达到资源分配的单调性。
在示例中,在生成集群资源的标识ID_D时,计算集群资源的标识ID_D是否在映射数组L中,符合映射数组对应的资源分配关系,否则重新生成集群资源的标识。
在示例中,映射数组L长度为 210 ,因此,符合映射数组对应的资源分配关系的Li至少大于1个,此时,可以得到符合映射数组对应的资源分配关系的集群资源的标识UUID。
在示例中,各个管理节点根据新增的集群资源的标识UUID,可以逆向推算出集群资源的标识UUID属于哪个物理节点。依次新增的物理资源会在所有要求的管理节点范围内达到资源分配均衡。
在示例中,关于集群资源分配的均衡性,生成均匀分配的集群资源的标识。参见图17,以集群资源ID_D为例,ID_D在1、3、5节点时分别分配给Node-1,Node-1,Node-5,生成UUID的逻辑为如图17所示。
在示例中,同城集群容灾主备环境,针对相同的物理资源,相同的管理节点数,物理资源的分配状况达到一致性。针对同一个客户的容灾环境,集群切换后,保持物理资源的分配情况与容灾前相同。
在示例中,构建一数量据均衡分布的一致性算法,在当前的管理节点规模和动态扩缩容后的规模下,使得物理资源可以均匀分布到每一个管理节点。
图18示出了本申请实施例提供的一种资源管理方法的应用场景图。参见图18,集群资源包括mock-101、mock-102、mock-103、mock-104、mock-105。云计算管理平台采用多个管理节点对集群中的集群资源进行管理,例如,采用N个管理节点纳管多个集群资源,纳管的物理资源可以均衡分配给管理节点进行资源管理。这里,N为大于0的自然数。
在示例中,对于多个集群资源,可以将多个集群资源平均分配给多个管理节点进行资源管理,保证每个管理节点上管理的任务节点的资源相对均衡。
图19示出了本申请实施例提供的一种资源管理方法的应用场景图。参见图19,云计算管理平台采用多个管理节点对集群中的集群资源进行管理。集群包括至少一个管理节点和至少一个任务节点,其中,管理节点可以包括Node-1、Node-2、Node-3,集群资源可以包括Object-1、Object-2、Object-3、Object-4、Object-5、Object-6。
在示例中,将集群资源Object-1、Object-2、Object-3、Object-4、Object-5、Object-6对应的物理资源,平均分配给Node-1、Node-2、Node-3。相应地,由Node-1纳管集群资源Object-1、Object-2对应的物理资源,由Node-2纳管集群资源Object-3、Object-4对应的物理资源;由Node-3纳管集群资源Object-5、Object-6对应的物理资源。
图20示出了本申请实施例提供的一种资源管理方法的应用场景图。参见图20,云计算管理平台采用多个管理节点对集群中的集群资源进行管理。集群包括至少一个管理节点和至少一个任务节点,管理节点可以包括Node-1、Node-2、Node-3、Node-4,集群资源可以包括Object-1、Object-2、Object-3、Object-4、Object-5、Object-6。
在示例中,在集群资源的数量不变的情况下,当管理节点的数量增加时,将已存在的管理节点的资源负载迁移到新加入的管理节点,由新加入的管理节点对已存在的管理节点纳管的任务节点的资源进行资源负载。
例如,在管理节点集合{Node-1,Node-2,Node-3}中增加Node4时,可以将Node-3纳管的集群资源Object-6迁移至Node-4。
在相关技术中,在创建新的管理节点的物理资源时,新加入的管理节点不能平均分担已存在的管理节点,由已存在的管理节点进行资源负载。
图21示出了本申请实施例提供的一种资源管理方法的应用场景图。参见图21,云计算管理平台采用多个管理节点对集群中的集群资源进行管理。集群包括至少一个管理节点和至少一个任务节点,其中,管理节点可以包括Node-1、Node-2、Node-3、Node-4,集群资源可以包括Object-1、Object-2、Object-3、Object-4、Object-5、Object-6、Object-7、Object-8。
在示例中,在集群资源的资源池{Object-1、Object-2、Object-3、Object-4、Object-5、Object-6}中加入新的集群资源Object-7、Object-8时,可以将创建的集群资源负载到当前资源负载最小的管理节点上。例如,将集群资源Object-7负载到Node-3,将集群资源Object-8负载到Node-4。
在相关技术中,在创建新的集群资源时,新创建的集群资源不能负载到当前资源负载最小的管理节点上。针对相同的物理资源,管理节点在相同的集群环境下,依然不能保持物理资源分配的一致性。
在示例中,参见表3,资源管理算法的评估指标可以包括以下任一项:算法运行时间、内存占用量、资源分配的均衡性。
以下,以管理节点的数列为3,分配3千个集群资源为例,对本申请提供的资源管理方法和相关技术中的资源管理方法进行对比。
参见表3,相关技术中的资源管理方法,算法运行事件0.5S、内存占用量为0.35M、资源分配的比例为13:8:9;本申请提供的资源管理方法,算法运行时间为0.08s、内存占用量为0.09M、资源分配的比例为1:1:1。
表3 资源管理算法的测试指标
Figure DEST_PATH_IMAGE003
基于前述实施例相同的技术构思,参见图22,本申请实施例提供的物理资源管理方法,可以包括以下步骤:
步骤A2201:对管理节点集合中每个管理节点已分配的资源数进行排序,得到管理节点集合对应排序结果。
步骤A2202:获取多个管理节点集合中每个管理节点集合对应的排序结果。
步骤A2203:资源数最小的管理节点是否属于第一管理节点集合的第一个管理节点。
在示例中,在资源数最小的管理节点是否属于第一管理节点集合的第一个管理节点时,执行以下步骤A2204;否则,执行以下步骤2205。
步骤A2204:将第一管理节点集合的第一个管理节点,确定为新增的集群资源的管理节点。
步骤A2205:第一管理节点集合和第二管理节点集合中已分配资源数最小的管理节点是否一致。
在示例中,在第一管理节点集合和第二管理节点集合中已分配资源数最小的管理节点一致时,执行以下步骤A2206;否则,执行以下步骤2207。
步骤A2206:将第二管理节点集合中已分配的资源数最小的管理节点,确定为新增的集群资源的管理节点。
步骤A2207:确定第i个管理节点集合中已分配的资源数最小的管理节点。
步骤A2208:第i管理节点集合中已分配的资源数最小的管理节点是否在第一管理节点集合中。
在示例中,在第i管理节点集合中已分配的资源数最小的管理节点在第一管理节点集合中时,执行以下步骤A2209。
步骤A2209:将第i管理节点集合中新增的第一个管理节点,确定为新增的集群资源的管理节点。
基于前述实施例相同的技术构思,参见图23,本申请实施例提供的物理资源管理装置,可以包括:
确定模块2301,用于确定第一标识集合,所述第一标识集合包括第一管理节点集合中管理节点的标识;建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;
处理模块2302,用于在基于所述第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和所述标识的序号对所述第一标识集合中的标识进行分组,得到多组标识;
分配模块2303,用于在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据所述第二标识集合更新所述对应关系;根据更新后的对应关系,为所述新增的管理节点分配集群资源。
在一种实现方式中,所述确定模块2301,用于建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,包括:
确定第一对应关系,所述第一对应关系表示所述第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的对应关系;
确定第二对应关系,所述第二对应关系表示所述第一标识集合中的标识的序号和所述第一标识集合中的标识的对应关系;
根据所述第一对应关系和所述第二对应关系,建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在一种实现方式中,所述处理模块2302还用于:
在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;
对所述资源数按照从小到大的顺序进行排序,得到所述每个管理节点已分配的资源数的排序结果;
根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点。
在一种实现方式中,所述处理模块2302,用于根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点,包括:
在所述第一管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;在所述第二管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;
根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点。
在一种实现方式中,所述处理模块2302,用于根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点,包括:
在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点相同时,将所述第二管理节点集合中已分配的资源数最小的管理节点,确定为所述新增的集群资源的管理节点;
或者,在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点不同时,将所述第二管理节点集合中相对所述第一管理节点集合新增的管理节点,确定为所述新增的集群资源的管理节点。
在一种实现方式中,所述确定模块2301,还用于:
获取所述每组标识中各管理节点的权重系数;
根据所述每组标识中各管理节点的权重系数,确定所述第一标识集合或所述第二标识集合中各管理节点标识的数量比例。
在一种实现方式中,所述确定模块2301,还用于:
确定所述第一管理节点集合中的目标管理节点,所述目标管理节点为所述第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;
在所述第一标识集合中,将所述目标管理节点的标识更新为所述目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;
根据所述更新后的第一标识集合,更新所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
在实际应用中,确定模块2301、处理模块2302和分配模块2303均可以采用电子设备的处理器实现,上述处理器可以是ASIC、DSP、DSPD、PLD、FPGA、CPU、控制器、微控制器、微处理器中的至少一种,本申请实施例对此不作限制。
在一些实施例中,本申请实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
基于前述实施例相同的技术构思,参见图24,本申请实施例提供的电子设备2400,可以包括:存储器2410和处理器2420;其中,
存储器2410,用于存储计算机程序和数据;
处理器2420,用于执行存储器中存储的计算机程序,以实现前述实施例中的任意一种资源管理方法。
在实际应用中,上述存储器2410可以是易失性存储器(volatile memory),示例性地RAM;或者非易失性存储器(non-volatile memory),示例性地ROM,快闪存储器(flashmemory),硬盘(Hard Disk Drive,HDD)或固态硬盘(Solid-State Drive,SSD);或者上述种类的存储器的组合。上述存储器2410可以向处理器2420提供指令和数据。
上文对各个实施例的描述倾向于强调各个实施例间的不同处,其相同或相似处可以互相参考,为了简洁,本文不再赘述。
本申请所提供的各方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本申请所提供的各产品实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的产品实施例。
本申请所提供的各方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,示例性地,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网格单元上;可以根据实际的可以选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理模块中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤。
以上,仅为本申请的具体实施方式,但本申请的保护范围不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种资源管理方法,其特征在于,包括:
确定第一标识集合,所述第一标识集合包括第一管理节点集合中管理节点的标识;建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;
在基于所述第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和所述标识的序号对所述第一标识集合中的标识进行分组,得到多组标识;
在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据所述第二标识集合更新所述对应关系;根据更新后的对应关系,为所述新增的管理节点分配集群资源;
其中,所述方法还包括:
确定所述第一管理节点集合中的目标管理节点,所述目标管理节点为所述第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;
在所述第一标识集合中,将所述目标管理节点的标识更新为所述目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;
根据所述更新后的第一标识集合,更新所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
2.根据权利要求1所述的方法,其特征在于,所述建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系,包括:
确定第一对应关系,所述第一对应关系表示所述第一标识集合中的标识的序号和多个集群资源中每个集群资源的标识的对应关系;
确定第二对应关系,所述第二对应关系表示所述第一标识集合中的标识的序号和所述第一标识集合中的标识的对应关系;
根据所述第一对应关系和所述第二对应关系,建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在存在新增的集群资源时,获取第一管理节点集合中的每个管理节点已分配的资源数;
对所述资源数按照从小到大的顺序进行排序,得到所述每个管理节点已分配的资源数的排序结果;
根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点。
4.根据权利要求3所述的方法,其特征在于,所述根据所述排序结果,在所述第一管理节点集合中确定所述新增的集群资源的管理节点,包括:
在所述第一管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;在所述第二管理节点集合对应的排序结果中,确定出已分配的资源数最小的管理节点;
根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点,确定所述新增的集群资源的管理节点,包括:
在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点相同时,将所述第二管理节点集合中已分配的资源数最小的管理节点,确定为所述新增的集群资源的管理节点;
或者,在所述第二管理节点集合中已分配的资源数最小的管理节点与所述第一管理节点集合中已分配的资源数最小的管理节点不同时,将所述第二管理节点集合中相对所述第一管理节点集合新增的管理节点,确定为所述新增的集群资源的管理节点。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述每组标识中各管理节点的权重系数;
根据所述每组标识中各管理节点的权重系数,确定所述第一标识集合或所述第二标识集合中各管理节点标识的数量比例。
7.一种资源管理装置,其特征在于,包括:
确定模块,用于确定第一标识集合,所述第一标识集合包括第一管理节点集合中管理节点的标识;建立所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系;
处理模块,用于在基于所述第一管理节点集合新增管理节点得到第二管理节点集合时,按照第二管理节点集合中管理节点的数量和所述标识的序号对所述第一标识集合中的标识进行分组,得到多组标识;
分配模块,用于在每组标识中将相同标识中的一个标识更新为新增的管理节点的标识,得到第二标识集合;根据所述第二标识集合更新所述对应关系;根据更新后的对应关系,为所述新增的管理节点分配集群资源;
所述确定模块,还用于确定所述第一管理节点集合中的目标管理节点,所述目标管理节点为所述第一管理节点集合中的任一个处于离线状态的管理节点或者任一个已删除的管理节点;在所述第一标识集合中,将所述目标管理节点的标识更新为所述目标管理节点的序号的相邻序号对应的管理节点的标识,得到更新后的第一标识集合;根据所述更新后的第一标识集合,更新所述第一标识集合中管理节点的标识和多个集群资源中每个集群资源的标识的对应关系。
8.一种电子设备,其特征在于,所述电子设备包括:
存储器,用于存储可执行指令;
处理器,用于执行所述存储器中存储的可执行指令时,实现权利要求1至6任一项所述的方法。
9.一种计算机可读存储介质,其特征在于,存储有可执行指令,用于在处理器执行所述可执行指令时,实现权利要求1至6任一项所述的方法。
CN202110713427.6A 2021-06-25 2021-06-25 资源管理方法、装置、电子设备和存储介质 Active CN113326099B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110713427.6A CN113326099B (zh) 2021-06-25 2021-06-25 资源管理方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110713427.6A CN113326099B (zh) 2021-06-25 2021-06-25 资源管理方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN113326099A CN113326099A (zh) 2021-08-31
CN113326099B true CN113326099B (zh) 2022-08-05

Family

ID=77424766

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110713427.6A Active CN113326099B (zh) 2021-06-25 2021-06-25 资源管理方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN113326099B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114416351B (zh) * 2021-12-29 2022-10-21 北京百度网讯科技有限公司 资源分配方法、装置、设备、介质及计算机程序产品

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107066334A (zh) * 2017-03-17 2017-08-18 联想(北京)有限公司 信息处理方法及处理系统
CN107329801A (zh) * 2017-06-29 2017-11-07 深信服科技股份有限公司 一种节点管理方法及装置、多子星服务器
CN112416591A (zh) * 2020-11-25 2021-02-26 广州虎牙科技有限公司 分布式的任务处理方法、装置、设备、存储介质和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9921910B2 (en) * 2015-02-19 2018-03-20 Netapp, Inc. Virtual chunk service based data recovery in a distributed data storage system
CN111614746B (zh) * 2020-05-15 2022-03-22 北京金山云网络技术有限公司 云主机集群的负载均衡方法、装置及服务器

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107066334A (zh) * 2017-03-17 2017-08-18 联想(北京)有限公司 信息处理方法及处理系统
CN107329801A (zh) * 2017-06-29 2017-11-07 深信服科技股份有限公司 一种节点管理方法及装置、多子星服务器
CN112416591A (zh) * 2020-11-25 2021-02-26 广州虎牙科技有限公司 分布式的任务处理方法、装置、设备、存储介质和系统

Also Published As

Publication number Publication date
CN113326099A (zh) 2021-08-31

Similar Documents

Publication Publication Date Title
US11704144B2 (en) Creating virtual machine groups based on request
CN108287660B (zh) 数据存储方法和设备
JP5514041B2 (ja) 識別子割当て方法及びプログラム
US7266649B2 (en) Storage apparatus and area allocation method
EP2710470B1 (en) Extensible centralized dynamic resource distribution in a clustered data grid
JP2014522036A (ja) クラウド環境内で仮想リソースを割り当てるための方法および装置
CN105159775A (zh) 基于负载均衡器的云计算数据中心的管理系统和管理方法
CN113037794A (zh) 计算资源配置调度方法、装置及系统
CN113326099B (zh) 资源管理方法、装置、电子设备和存储介质
Rista et al. Improving the network performance of a container-based cloud environment for hadoop systems
CN112463395A (zh) 一种资源分配方法、装置、设备及可读存储介质
CN113382077A (zh) 微服务调度方法、装置、计算机设备和存储介质
Vdovin et al. Comparing various approaches to resource allocation in data centers
JP6374841B2 (ja) 仮想マシン配置装置および仮想マシン配置方法
Higai et al. A study of effective replica reconstruction schemes at node deletion for HDFS
JP6565429B2 (ja) 仮想マシン共有を用いるデータセンタネットワークにおけるリスク軽減
JP2014216012A (ja) データセンターネットワークにおけるリスク軽減
EP3635529A1 (en) Deduplicating distributed erasure coded objects
CN109005071B (zh) 一种决策部署方法和调度设备
CN116303343A (zh) 数据分片方法、装置、电子设备及存储介质
CN113055448B (zh) 一种元数据管理方法及装置
Mihailescu et al. Optimized application placement for network congestion and failure resiliency in clouds
KR101654969B1 (ko) 가상화 클러스터 환경에서 네임 노드를 할당하는 방법 및 장치
Ray et al. A load balancing approach to resource provisioning in cloud infrastructure with a grouping genetic algorithm
CN110046040B (zh) 分布式任务处理方法及系统和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant