CN115460216A - 算力资源调度方法和装置、算力资源调度设备、系统 - Google Patents
算力资源调度方法和装置、算力资源调度设备、系统 Download PDFInfo
- Publication number
- CN115460216A CN115460216A CN202211105375.5A CN202211105375A CN115460216A CN 115460216 A CN115460216 A CN 115460216A CN 202211105375 A CN202211105375 A CN 202211105375A CN 115460216 A CN115460216 A CN 115460216A
- Authority
- CN
- China
- Prior art keywords
- candidate
- node
- computing
- nodes
- calculation force
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
Landscapes
- Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供一种算力资源调度方法和装置、算力资源调度设备、系统;涉及计算机技术领域。方法包括当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载;获取用户业务需求对应的算力需求总量,并根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量;根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。本公开可以解决算力资源调度过程中的资源浪费和业务处理效率低的问题。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种算力资源调度方法和装置、算力资源调度设备、系统。
背景技术
随着云计算、边缘计算、终端计算等计算资源的不断发展,网络中在靠近用户的不同距离处,遍布着大量不同规模的计算资源节点,为用户提供更高效的服务。
相关技术中,算力网络通过寻找最佳的算力节点为用户提供服务,或者采用平均分配的方式进行算力分配调度,造成资源浪费、业务处理效率低等问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开实施例的目的在于提供一种算力资源调度方法和装置、算力资源调度设备、系统,进而在一定程度上解决了算力资源调度过程中的资源浪费和业务处理效率低的问题。
根据本公开的第一方面,提供了一种算力资源调度方法,所述方法包括:当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;所述多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载;获取用户业务需求对应的算力需求总量,并根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点分配承载业务量;根据每个候选算力节点的所述承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
可选地,所述资源使用情况包括网络资源使用情况和算力资源使用情况,所述根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载,包括:分别配置所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况对应的权重信息;根据每个候选算力节点的所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况及其对应的权重信息,确定该候选算力节点的有效负载。
可选地,所述方法还包括:根据所述用户业务需求的业务类型和能效标识信息,确定所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况对应的权重信息。
可选地,所述根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点分配承载业务量,包括:根据每个候选算力节点的所述有效负载,确定每个候选算力节点的可用算力;响应于每个候选算力节点的可用算力在所述多个候选算力节点的可用算力总量中的占比,确定每个候选算力节点的分配比例;根据所述算力需求总量和所述分配比例,为每个候选算力节点分配承载业务量。
可选地,所述多个候选算力节点的节点类型为端计算节点、边缘计算节点或云计算节点。
可选地,所述获取用户业务需求对应的算力需求总量,包括:在接收到用户业务需求后,将用户业务需求解析为算力需求;统计所述算力需求,以获取所述算力需求总量。
可选地,所述方法还包括:根据所述用户业务需求的业务类型,确定算力节点的节点类型;根据所述算力需求总量和所述节点类型,确定候选算力节点。
可选地,所述方法还包括:当多个候选算力节点的节点类型不相同时,针对每种节点类型,为该类节点分配承载业务分量;对于每种节点类型的候选算力节点,根据所述承载业务分量,调度对应候选算力节点为用户提供相应的算力资源。
根据本公开的第二方面,提供了一种算力资源调度装置,所述装置包括:获取模块、第一确定模块、分配模块和调度模块;获取模块,用于当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;所述多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;第一确定模块,用于根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载;分配模块,用于获取用户业务需求对应的算力需求总量,并根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点的分配承载业务量;调度模块,用于根据每个候选算力节点的所述承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
根据本公开的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述任一实施例的方法。
根据本公开的第四方面,提供一种算力资源调度设备,包括:处理器;以及存储器,用于存储处理器的可执行指令;其中,处理器配置为经由执行可执行指令来执行上述任一实施例的方法。
根据本公开的第五方面,提供一种算网编排系统,包括:如上述实施例的算力资源调度装置或上述实施例的算力资源调度设备。
本公开示例性实施例可以具有以下部分或全部有益效果:
在本公开示例实施方式所提供的算力资源调度方法中,一方面,对于具有多个候选算力节点的用户业务需求,根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载;再根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点分配承载业务量。在多节点业务分配过程中,考虑了每个候选算力节点的资源使用情况和能源利用情况,能够有效提高资源利用率和能源利用率。另一方面,根据为每个候选算力节点分配的承载业务量,调度对应候选算力节点为用户提供相应的算力资源,能够提高业务处理效率。此外,本公开考虑到了算力节点的能源利用情况,可以将业务分配至能效较高的算力节点,以提高整个算力网络的能效。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出了根据本公开的一个实施例的算力资源调度方法及装置的网络架构示意图。
图2示意性示出了根据本公开的一个实施例的算力资源调度方法的流程示意图之一。
图3示意性示出了根据本公开的一个实施例的业务需求分配过程的流程示意图。
图4示意性示出了根据本公开的一个实施例的算力资源调度方法的流程示意图之二。
图5示意性示出了根据本公开的一个实施例的算力资源调度装置的结构框图。
图6示意性示出了根据本公开的一个实施例的算网编排系统的算力调度过程示意图。
图7示意性示出了根据本公开的一个实施例的示例性算力资源调度设备框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了可以应用本公开实施例的一种算力资源调度方法及装置的示例性网络架构100的示意图。如图1所示,网络架构100可以包括算网资源层110、算网控制层120、算网服务层130以及算网编排管理层140。其中,算网资源层110用于为用户提供算力资源,其可以包括许多算力资源节点。算网控制层120用于通过网络控制平面实现对算网资源层110的多维度资源在网络中的关联、寻址、调配、优化与确定性服务;需要结合网络中计算处理能力与网络转发能力的实际情况和应用效能,实现各类计算、存储资源的高质量传递和流动。算网服务层130用于基于算网控制层120和算网编排管理层140实现面向用户的服务能力开放。算网编排管理层140用于负责对算网资源层110的虚机、容器等算力服务资源进行纳管、调度、配给和全生命周期管理。
算网资源层110可以包括但不限于智能终端、边缘计算设备(如边缘计算网关)、云计算设备等,智能终端可以是手机、电脑、智能语音交互设备、智能家电、车载终端、测试终端、计算机等任意能够提供算力资源的终端算力资源调度设备,本示例对此不做限定。
算网控制层120、算网服务层130、算网编排管理层140分别可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,其中多个服务器可组成一区块链,而服务器为区块链上的节点,服务器120还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(ContentDeliveryNetwork,内容分发网络)以及大数据和人工智能平台等基础云计算服务的云服务器。
算网编排管理层140获取多个候选算力节点的资源使用情况和能源利用情况;多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载;获取用户业务需求对应的算力需求总量,并根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量;根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
本公开实施例所提供的算力资源调度方法可以在算网编排管理层140执行,相应地,算力资源调度装置一般设置于算网编排管理层140中。
以下对本公开实施例的技术方案进行详细阐述:
参考图2所示,本公开提供的一种示例实施方式的算力资源调度方法可以包括以下步骤S210~S240。
步骤S210,当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况。
在本示例实施方式中,多个候选算力节点为具有为用户业务需求提供算力资源能力的多个算力节点。算力节点的资源可以包括算力资源和网络资源,算力资源可以包括CPU、GPU、存储资源等;网络资源可以包括带宽、时延等,还可以包括其他算力或网络资源,本示例对此不做限定。在本示例中,资源使用情况可以包括资源使用率或资源使用量。能源利用情况可以包括节点能效或节点能耗等。
在一些实施例中,多个候选算力节点的节点类型可以是端计算节点、边缘计算节点或云计算节点,本示例对此不做限定。
步骤S220,根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载。
在本示例实施方式中,可以将资源使用情况和能源利用情况进行量纲统一,例如,当资源使用情况为资源使用率时,能源利用情况可以是能效。可以将一个候选算力节点的每种资源使用情况和能源利用情况求和,确定该候选算力节点的有效负载。也可以对每种资源使用情况和能源利用情况赋以权重,再对一个候选算力节点进行加权计算,确定有效负载。还可以设置在能源利用情况大于预设阈值的情况下,对每种资源使用情况进行求和或加权求和,确定有效负载,本示例对此不做限定。
步骤S230,获取用户业务需求对应的算力需求总量,并根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量。
在本示例实施方式中,可以对有效负载大的候选算力节点分配较少的承载业务量,反之,可以对有效负载小的候选算力节点分配较多的承载业务量。示例性地,可以按有效负载的大小对多个候选算力节点进行排序,再按倒序分配承载业务量,使多个候选算力节点的承载业务量之和等于算力需求总量。
步骤S240,根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
在本示例实施方式中,可以根据承载业务量进行对应候选算力节点对应算力资源的开通,为用户提供服务。
本公开实施例提供的算力资源调度方法中,一方面,对于具有多个候选算力节点的用户业务需求,根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载;再根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量。在多节点业务分配过程中,考虑了每个候选算力节点的资源使用情况和能源利用情况,能够有效提高资源利用率和能源利用率。另一方面,根据为每个候选算力节点分配的承载业务量,调度对应候选算力节点为用户提供相应的算力资源,能够提高业务处理效率。此外,本公开考虑到了算力节点的能源利用情况,可以将业务分配至能效较高的算力节点,以提高整个算力网络的能效。
在一些实施例中,资源使用情况包括网络资源使用情况和算力资源使用情况,根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载,包括:
分别配置网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息。
在本示例实施方式中,可以根据预设规则对每种资源使用情况或能源利用情况配置权重信息,预设规则可以根据业务场景和业务类型进行设置,业务场景可以包括虚拟现实互动、云游戏、新媒体直播、家庭安防、智慧交通、智慧医疗、车联网等场景。业务类型可以包括数据计算、数据传输与转发、数据监控等。
示例性地,当业务场景为包括人工智能、物联网等以数据计算业务类型为主的情况时,可以给算力资源使用情况设置较大权重值。当业务场景为云游戏这种对实时性要求较高,且耗费能源的业务类型时,可以给网络资源使用情况、能源利用情况设置较高权重值。可以针对不同的业务场景和对应业务类型,设置不同的权重配置规则。
根据每个候选算力节点的网络资源使用情况、算力资源使用情况和能源利用情况及其对应的权重信息,确定该候选算力节点的有效负载。
在本示例实施方式中,可以将每种资源使用情况和能源利用情况进行加权求和,确定该候选算力节点的有效负载。
举例而言,候选算力节点i的网络资源使用情况为带宽占用率bi,算力资源使用情况为CPU占用率ci和内存占用率mi,能源利用情况为能效ei,其对应的权重信息分别为wb、wc、wm、we,则候选算力节点i的有效负载p'i=wbbi+wcci+wmmi+weei。
在一些实施例中,根据用户业务需求的业务类型和能效标识信息,确定网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息。
在本示例实施方式中,业务类型可以包括对计算能力要求较高的数据计算业务、对数据传输实时性要求较高的数据传输转发业务、对能效要求较高的业务或者能源连续供给较困难的业务,还可以包括以上一种或多种的混合型业务。能效标识信息是指用于表示该用户业务需求或候选算力节点对能效要求的标识信息,例如,Ⅰ、Ⅱ、Ⅲ等标识符表示不同的能效等级要求。可以根据不同的能效等级标识信息对能源利用情况配置不同的权重,例如,能效等级要求高的业务或连续能源供给困难的业务可以给能源利用情况配置较高的权重信息。
在本示例实施方式中,可以根据以上业务类型对不同的资源使用情况和能源利用情况配置不同的权重值,权重值可以根据实际情况设置。示例性地,可以将不同的带宽要求、CPU要求、内存空间要求、能效要求与不同的权重值之间建立映射关系,从而根据该映射关系确定各因素权重值。
在一些实施例中,参考图3,根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量,可以包括以下步骤S310~S330。
在步骤S310中,根据每个候选算力节点的有效负载,确定每个候选算力节点的可用算力。
在本示例实施方式中,由于每个候选算力节点已经占用的有效负载与剩余的可用算力是呈反比关系的,因此,可以在有效负载和可用算力之间建立反比关系式。示例性地,可以将有效负载的倒数作为可用算力,也可以将有效负载的倒数乘以一个系数和/或增加一个常数项来确定可用算力,本示例对此不做限定。可以利用两者之间确定的关系式,确定每个候选算力节点的可用算力。
在步骤S320中,响应于每个候选算力节点的可用算力在多个候选算力节点的可用算力总量中的占比,确定每个候选算力节点的分配比例。
在本示例实施方式中,可用算力总量是指多个候选算力节点的可用算力之和。可以根据每个候选算力节点的可用算力在可用算力总量中的占比,确定算力需求总量在每个候选算力节点中的分配比例。示例性地,可以将该占比作为对应候选算力节点的分配比例,也可以将该占比进行处理后确定分配比例,如可以对该占比辅以权系数后确定分配比例,也可以是其他处理方式,本示例对此不做限定。
在步骤S330中,根据算力需求总量和分配比例,为每个候选算力节点分配承载业务量。
在本示例实施方式中,可以将算力需求总量与分配比例的乘积作为对应候选算力节点的承载业务量。
其中,j表示候选算力节点编号,T为算力需求总量。
在一些实施例中,获取用户业务需求对应的算力需求总量,包括:在接收到用户业务需求后,将用户业务需求解析为算力需求;统计算力需求,以获取算力需求总量。
在本示例实施方式中,可以将用户业务需求分块解析为算力需求,统计所有算力需求获取算力需求总量。当不同分块的算力需求量纲不同时,可以进行标准化处理,统一量纲。
在另一些实施例中,方法还包括:
根据用户业务需求的业务类型,确定算力节点的节点类型。
在本示例实施方式中,当业务类型是对计算能力要求较高的数据计算业务时,可以确定算力节点类型为云计算节点;当业务类型是对数据传输实时性要求较高的数据传输转发业务时,可以确定算力节点类型为边缘计算节点、当业务的计算量小且要求响应时间短时,可以确定算力节点类型为端计算节点。当业务类型是对能效要求较高或能源连续供给困难的业务时,可以确定算力节点类型为边缘计算节点或云计算节点。
根据算力需求总量和节点类型,确定候选算力节点。
在本示例实施方式中,可以根据算力需求总量,在确定的对应节点类型中确定可以提供服务的候选算力节点,候选算力节点可以是当前符合服务要求的所有算力节点。
在一些实施例中,方法还包括:当多个候选算力节点的节点类型不相同时,针对每种节点类型,为该类节点分配承载业务分量。
对于每种节点类型的候选算力节点,根据承载业务分量,调度对应候选算力节点为用户提供相应的算力资源。
在本示例实施方式中,当多个候选算力节点的节点类型不相同,即包括多种算力节点类型时,可以针对每种节点类型为该类候选算力节点分配承载业务分量。示例性地,候选算力节点包括端计算节点和云计算节点,则可以将算力需求总量分成两份,一份作为端计算节点的承载业务分量,另一份作为云计算节点的承载业务分量。由于云计算节点的计算容量远远大于端计算节点,因此可以将大部分业务量(如90%)分配给云计算节点,剩余分配给端计算节点。
在本示例实施方式中,对于每种节点类型来讲,当该类对应的候选算力节点的数量大于1,则采用本公开以上实施例的算力资源调度方式进行算力分配后调度。当该类对应的候选算力节点的数量为1,则直接调度该候选算力节点提供服务即可。
在一些实施例中,参考图4,算力资源调度方法可以包括以下步骤S401-S411。
步骤S401,接收用户业务需求,并将用户业务需求解析为算力需求。
步骤S402,根据用户业务需求的业务类型,确定算力节点的节点类型。
步骤S403,根据算力需求总量和节点类型,确定候选算力节点。
步骤S404,判断候选算力节点的数量是否大于一个,若是,则转入步骤S405,否则,转入步骤S410。
步骤S405,判断多个候选算力节点的节点类型是否相同,若是,则转入步骤S406,否则转入步骤S411。
步骤S406,获取多个候选算力节点的资源使用情况和能源利用情况。
步骤S407,根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载。
步骤S408,根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量。
步骤S409,根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
步骤S410,调度该候选算力节点为用户提供相应的算力资源。
步骤S411,针对每个节点类型分配相应的承载业务分量,对于每种节点类型转入步骤S404进行节点类型内的算力调度即可。
上述实施例中的各个步骤的顺序只是示例性的,可以根据需要对步骤的顺序进行相应调整。上述实施例中各个步骤的详细介绍可以参照前述实施例中的相应描述,此处不再赘述。
相关技术中的算力网络,大多只关注如何为用户寻找最佳的算力节点提供服务,若需要在多个节点间分配任务,则往往采用简单的平均分配方法,造成资源浪费、业务处理效率低等问题。
本公开一方面,基于网络资源使用情况、算力资源使用情况和能源利用情况,对业务需求总量在多个候选算力节点之间进行分配,充分考虑了算力资源调度过程中的各种影响因素,能够提高算力资源调度过程中的资源、能源利用率,提高业务处理效率,在提升资源分配效率的同时,也降低了全网能耗。另一方面,本公开按照节点类型将算力节点进行划分,以保证本公开方法是应用于相同节点类型的多个候选算力节点之间的算力资源调度,将不同算力节点的不均匀业务量分配,通过节点类型这一条件进行部分消除,保证本公开方法的分配效果,提高资源利用率。
本公开通过网络资源使用情况、算力资源使用情况和能源利用情况,确定每个候选算力节点的有效负载;基于该有效负载和算力需求总量,为每个候选算力节点分配承载业务量,完成算网资源的配置开通。候选算力节点可以是端计算节点、边缘计算节点或云计算节点,能够基于算力网络的全局视角,兼顾算力节点的负载情况、网络情况和能耗情况,为用户提供智能化的业务分配方案,提高了算力网络场景下业务分配的灵活性和分配效率,提高全网算力资源的使用效率。
本公开方法可以应用在算力网络架构下,深度学习等大规模任务在多个算力节点间的任务分配业务场景。
参见图5,本示例实施方式中还提供了一种算力资源调度装置500;装置500可以包括获取模块510、第一确定模块520、分配模块530、调度模块540;获取模块510,用于当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;第一确定模块520,用于根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载;分配模块530,用于获取用户业务需求对应的算力需求总量,并根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点的分配承载业务量;调度模块540,用于根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
在本公开的一个实施例中,资源使用情况包括网络资源使用情况和算力资源使用情况,第一确定模块520还可以包括配置子模块和确定子模块,配置子模块可以用于分别配置网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息;确定子模块可以用于根据每个候选算力节点的网络资源使用情况、算力资源使用情况和能源利用情况及其对应的权重信息,确定该候选算力节点的有效负载。
在本公开的一个实施例中,装置500还包括第二确定模块:根据用户业务需求的业务类型和能效标识信息,确定网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息。
在本公开的一个实施例中,分配模块530还可以用于:根据每个候选算力节点的有效负载,确定每个候选算力节点的可用算力;响应于每个候选算力节点的可用算力在多个候选算力节点的可用算力总量中的占比,确定每个候选算力节点的分配比例;根据算力需求总量和分配比例,为每个候选算力节点分配承载业务量。
在本公开的一个实施例中,多个候选算力节点的节点类型为端计算节点、边缘计算节点或云计算节点。
在本公开的一个实施例中,获取模块510还可以包括需求解析子模块和统计子模块,需求解析子模块用于在接收到用户业务需求后,将用户业务需求解析为算力需求;统计子模块用于统计算力需求,以获取算力需求总量。
在本公开的一个实施例中,装置500还包括第三确定模块,第三确定模块可以用于:根据用户业务需求的业务类型,确定算力节点的节点类型;根据算力需求总量和节点类型,确定候选算力节点。
在本公开的一个实施例中,分配模块530还可以用于:当多个候选算力节点的节点类型不相同时,针对每种节点类型,为该类节点分配承载业务分量;调度模块540还可以用于对于每种节点类型的候选算力节点,根据承载业务分量,调度对应候选算力节点为用户提供相应的算力资源。
上述实施例中的算力资源调度装置中涉及的各个模块/单元的具体细节已经在对应的算力资源调度方法中进行了详细的描述,因此此处不再赘述。
参考图6,在一些实施例中,本申请还提供了一种算网编排系统600,该系统600可以包括上述实施例中的任一算力资源调度装置610或任一算力资源调度设备610。
在本示例实施方式中,算网编排系统600可以根据算力资源调度装置610或算力资源调度设备610对多个候选算力节点620(如候选算力节点1、候选算力节点2,…,候选算力节点M,M为大于等于2的整数)进行算力资源调度。
本公开可以在现有算网编排系统中增加相应模块即可实现,对现有算力网络改动较小,易于实施落地。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备实现如下述实施例中的方法。例如,设备可以实现如图2-图4所示的各个步骤等。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
此外,在本公开的示例性实施例中,还提供了一种能够实现上述方法的设备。所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施例、完全的软件实施例(包括固件、微代码等),或硬件和软件方面结合的实施例,这里可以统称为“电路”、“模块”或“系统”。
参见图7,图7是本申请实施例提供的一种算力资源调度设备的结构示意图。如图7所示,该算力资源调度设备700包括处理器710、存储器720、输入输出接口730以及通信总线740。处理器710连接到存储器720和输入输出接口730,例如处理器710可以通过通信总线740连接到存储器720和输入输出接口730。处理器710被配置为支持该算力资源调度设备执行图2-图4中算力资源调度方法中相应的功能。该处理器710可以是中央处理器(CentralProcessing Unit,CPU),网络处理器(Network Processor,NP),硬件芯片或者其任意组合。上述硬件芯片可以是专用集成电路(Application-Specific Integrated Circuit,ASIC),可编程逻辑器件(Programmable Logic Device,PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(Complex Programmable Logic Device,CPLD),现场可编程逻辑门阵列(Field-Programmable Gate Array,FPGA),通用阵列逻辑(Generic Array Logic,GAL)或其任意组合。存储器720用于存储程序代码等。存储器720可以包括易失性存储器(VolatileMemory,VM),例如随机存取存储器(Random Access Memory,RAM);存储器720也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如只读存储器(Read-Only Memory,ROM),快闪存储器(flash memory),硬盘(Hard Disk Drive,HDD)或固态硬盘(Solid-State Drive,SSD);存储器720还可以包括上述种类的存储器的组合。
该输入输出接口730用于输入或输出数据。
处理器710可以调用上述程序代码以执行以下操作:
当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载;获取用户业务需求对应的算力需求总量,并根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量;根据每个候选算力节点的承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
可选的,资源使用情况包括网络资源使用情况和算力资源使用情况,上述处理器710还可以根据每个候选算力节点的资源使用情况和能源利用情况,确定该候选算力节点的有效负载,执行以下操作:
分别配置网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息;根据每个候选算力节点的网络资源使用情况、算力资源使用情况和能源利用情况及其对应的权重信息,确定该候选算力节点的有效负载。
可选的,上述处理器710还可以执行以下操作:根据用户业务需求的业务类型和能效标识信息,确定网络资源使用情况、算力资源使用情况和能源利用情况对应的权重信息。
可选的,上述处理器710还可以根据算力需求总量和每个候选算力节点的有效负载,为每个候选算力节点分配承载业务量,执行以下操作:根据每个候选算力节点的有效负载,确定每个候选算力节点的可用算力;响应于每个候选算力节点的可用算力在多个候选算力节点的可用算力总量中的占比,确定每个候选算力节点的分配比例;根据算力需求总量和分配比例,为每个候选算力节点分配承载业务量。
可选地,多个候选算力节点的节点类型为端计算节点、边缘计算节点或云计算节点。
可选的,上述处理器710还可以获取用户业务需求对应的算力需求总量,执行以下操作:在接收到用户业务需求后,将用户业务需求解析为算力需求;统计算力需求,以获取算力需求总量。
可选的,上述处理器710还可以执行以下操作:根据用户业务需求的业务类型,确定算力节点的节点类型;根据算力需求总量和节点类型,确定候选算力节点。
可选的,上述处理器710还可以执行以下操作:当多个候选算力节点的节点类型不相同时,针对每种节点类型,为该类节点分配承载业务分量;对于每种节点类型的候选算力节点,根据承载业务分量,调度对应候选算力节点为用户提供相应的算力资源。
需要说明的是,各个操作的实现还可以对应参照图2-图4所示的方法实施例的相应描述;上述处理器710还可以与输入输出接口730配合执行上述方法实施例中的其他操作。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台设备执行根据本公开实施例的方法。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
需要说明的是,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等,均应视为本公开的一部分。
应可理解的是,本说明书公开和限定的本公开延伸到文中和/或附图中提到或明显的两个或两个以上单独特征的所有可替代组合。所有这些不同的组合构成本公开的多个可替代方面。本说明书的实施方式说明了已知用于实现本公开的最佳方式,并且将使本领域技术人员能够利用本公开。
Claims (11)
1.一种算力资源调度方法,其特征在于,所述方法包括:
当多个候选算力节点的节点类型相同时,获取所述多个候选算力节点的资源使用情况和能源利用情况;所述多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;
根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载;
获取用户业务需求对应的算力需求总量,并根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点分配承载业务量;
根据每个候选算力节点的所述承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
2.根据权利要求1所述的方法,其特征在于,所述资源使用情况包括网络资源使用情况和算力资源使用情况,所述根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载,包括:
分别配置所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况对应的权重信息;
根据每个候选算力节点的所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况及其对应的权重信息,确定该候选算力节点的有效负载。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
根据所述用户业务需求的业务类型和能效标识信息,确定所述网络资源使用情况、所述算力资源使用情况和所述能源利用情况对应的权重信息。
4.根据权利要求1或2所述的方法,其特征在于,所述根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点分配承载业务量,包括:
根据每个候选算力节点的所述有效负载,确定每个候选算力节点的可用算力;
响应于每个候选算力节点的可用算力在所述多个候选算力节点的可用算力总量中的占比,确定每个候选算力节点的分配比例;
根据所述算力需求总量和所述分配比例,为每个候选算力节点分配承载业务量。
5.根据权利要求1所述的方法,其特征在于,所述多个候选算力节点的节点类型为端计算节点、边缘计算节点或云计算节点。
6.根据权利要求1所述的方法,其特征在于,所述获取用户业务需求对应的算力需求总量,包括:
在接收到用户业务需求后,将用户业务需求解析为算力需求;
统计所述算力需求,以获取所述算力需求总量。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
根据所述用户业务需求的业务类型,确定算力节点的节点类型;
根据所述算力需求总量和所述节点类型,确定候选算力节点。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当多个候选算力节点的节点类型不相同时,针对每种节点类型,为该类节点分配承载业务分量;
对于每种节点类型的候选算力节点,根据所述承载业务分量,调度对应候选算力节点为用户提供相应的算力资源。
9.一种算力资源调度装置,其特征在于,所述装置包括:
获取模块,用于当多个候选算力节点的节点类型相同时,获取多个候选算力节点的资源使用情况和能源利用情况;所述多个候选算力节点为具有为用户业务需求提供算力资源能力的算力节点;
第一确定模块,用于根据每个候选算力节点的所述资源使用情况和所述能源利用情况,确定该候选算力节点的有效负载;
分配模块,用于获取用户业务需求对应的算力需求总量,并根据所述算力需求总量和每个候选算力节点的所述有效负载,为每个候选算力节点的分配承载业务量;
调度模块,用于根据每个候选算力节点的所述承载业务量,调度对应候选算力节点为用户提供相应的算力资源。
10.一种算力资源调度设备,其特征在于,包括:处理器;以及
存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-8任一项所述的方法。
11.一种算网编排系统,包括:如权利要求9所述的算力资源调度装置或如权利要求10所述的算力资源调度设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211105375.5A CN115460216A (zh) | 2022-09-09 | 2022-09-09 | 算力资源调度方法和装置、算力资源调度设备、系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211105375.5A CN115460216A (zh) | 2022-09-09 | 2022-09-09 | 算力资源调度方法和装置、算力资源调度设备、系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115460216A true CN115460216A (zh) | 2022-12-09 |
Family
ID=84303168
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211105375.5A Pending CN115460216A (zh) | 2022-09-09 | 2022-09-09 | 算力资源调度方法和装置、算力资源调度设备、系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115460216A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115964184A (zh) * | 2023-03-16 | 2023-04-14 | 北京大学 | 确定算力资源的方法,装置及存储介质 |
CN116402318A (zh) * | 2023-06-07 | 2023-07-07 | 北京智芯微电子科技有限公司 | 面向配电网的多级算力资源分配方法、装置及网络架构 |
CN116781784A (zh) * | 2023-08-22 | 2023-09-19 | 北京智芯微电子科技有限公司 | 智能终端资源调度方法、装置和电子设备 |
-
2022
- 2022-09-09 CN CN202211105375.5A patent/CN115460216A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115964184A (zh) * | 2023-03-16 | 2023-04-14 | 北京大学 | 确定算力资源的方法,装置及存储介质 |
CN116402318A (zh) * | 2023-06-07 | 2023-07-07 | 北京智芯微电子科技有限公司 | 面向配电网的多级算力资源分配方法、装置及网络架构 |
CN116402318B (zh) * | 2023-06-07 | 2023-12-01 | 北京智芯微电子科技有限公司 | 面向配电网的多级算力资源分配方法、装置及网络架构 |
CN116781784A (zh) * | 2023-08-22 | 2023-09-19 | 北京智芯微电子科技有限公司 | 智能终端资源调度方法、装置和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109218355B (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
CN115460216A (zh) | 算力资源调度方法和装置、算力资源调度设备、系统 | |
CN111176792B (zh) | 一种资源调度方法、装置及相关设备 | |
CN112752302A (zh) | 一种基于边缘计算的电力业务时延优化方法及系统 | |
CN103401947A (zh) | 多个服务器的任务分配方法和装置 | |
Ilkhechi et al. | Network-aware virtual machine placement in cloud data centers with multiple traffic-intensive components | |
CN107295090A (zh) | 一种资源调度的方法和装置 | |
CN115421930B (zh) | 任务处理方法、系统、装置、设备及计算机可读存储介质 | |
CN114816738A (zh) | 算力节点的确定方法、装置、设备及计算机可读存储介质 | |
CN112714164A (zh) | 一种物联网系统及其任务调度方法 | |
CN113553160A (zh) | 用于人工智能物联网的边缘计算节点任务调度方法及系统 | |
CN111611076B (zh) | 任务部署约束下移动边缘计算共享资源公平分配方法 | |
CN113157443A (zh) | 一种基于边缘计算环境的资源均衡调度方法 | |
CN111158904A (zh) | 一种任务调度方法、装置、服务器及介质 | |
CN111158893B (zh) | 应用于雾计算网络的任务卸载方法、系统、设备及介质 | |
EP4312122A1 (en) | Resource allocation method and apparatus, device, and storage medium | |
CN110113269B (zh) | 一种基于中间件的流量控制的方法及相关装置 | |
CN113438678B (zh) | 一种为网络切片分配云资源的方法及装置 | |
CN111694670B (zh) | 资源分配方法、装置、设备和计算机可读介质 | |
Khattar et al. | Multi-criteria-based energy-efficient framework for VM placement in cloud data centers | |
CN114268673A (zh) | 一种基于5g通信的电力业务处理方法及控制设备 | |
CN114090234A (zh) | 请求的调度方法、装置、电子设备和存储介质 | |
US20210103830A1 (en) | Machine learning based clustering and patterning system and method for network traffic data and its application | |
CN114237902A (zh) | 一种服务部署方法、装置、电子设备及计算机可读介质 | |
CN116566992B (zh) | 边缘计算的动态协同方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |