CN115766875A - 边缘算力资源调度方法、装置、系统、电子设备及介质 - Google Patents
边缘算力资源调度方法、装置、系统、电子设备及介质 Download PDFInfo
- Publication number
- CN115766875A CN115766875A CN202211457049.0A CN202211457049A CN115766875A CN 115766875 A CN115766875 A CN 115766875A CN 202211457049 A CN202211457049 A CN 202211457049A CN 115766875 A CN115766875 A CN 115766875A
- Authority
- CN
- China
- Prior art keywords
- edge
- computing power
- data
- resource
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Power Sources (AREA)
Abstract
本公开提供了一种边缘算力资源调度方法、装置、系统、电子设备及存储介质,涉及边缘计算技术领域。其中,方法包括:获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据;根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表;根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。本公开在保证服务性能不降低的情况下,增加系统吞吐量,提高了边缘集群上边缘算力资源的利用率。
Description
技术领域
本公开涉及边缘计算技术领域,尤其涉及一种边缘算力资源调度方法、装置、系统、电子设备及存储介质。
背景技术
在智慧城市和智慧交通等业务场景下,随着应用从云中心到边缘的延伸,同时,端边云系统中边缘设备的异构性导致算力资源调度难度也越来越大。
现有启发式遗传等传统的资源调度算法,在边缘异构算力环境下不能使算力资源利用率达到最优,边缘计算平台具备接入和处理海量数据的能力,但目前传统的算力协同策略无法满足边缘算力资源分配的复杂场景,现有终端设备通常与边缘节点强绑定,终端设备的流量分配固定,无法高效利用边缘算力资源。
基于此,如何提高边缘算力资源的利用率成为了亟需解决的技术问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开提供一种边缘算力资源调度方法、装置、系统、电子设备及存储介质,至少在一定程度上克服相关技术中边缘算力资源利用率低的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一个方面,提供一种边缘算力资源调度方法,包括:获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,在获取终端设备发送的资源调度请求,和各个边缘节点的节点算力数据之前,所述方法还包括:基于图神经网络的策略梯度算法,将不同服务类型的服务部署到各个算力节点,其中,服务包含可分配的边缘算力资源。
在本公开的一个实施例中,所述需求资源数据包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
在本公开的一个实施例中,根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列,包括:根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,所述特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;根据各个任务的特征描述,确定所有任务的服务优先级队列。
在本公开的一个实施例中,所述节点算力数据包含各个边缘节点的资源使用情况数据、资源利用率、服务数中的至少一项。
在本公开的一个实施例中,所述边缘算力可用资源池注册表包含已分配算力集合、未分配算力集合和预测分配算力集合。
在本公开的一个实施例中,所述方法还包括:当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
在本公开的一个实施例中,在根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的算力资源之后,所述方法还包括:向目标任务对应的终端设备发送无资源可调度消息,其中,所述目标任务为多个任务中未分配到算力资源的任务。
根据本公开的另一个方面,提供一种边缘算力资源调度装置,包括:请求与数据获取模块,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;服务优先级队列确定模块,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;资源池注册表更新模块,用于根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;边缘算力资源分配模块,用于根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,上述装置还包括服务部署模块,该服务部署模块,用于基于图神经网络的策略梯度算法,将不同服务类型的服务部署到各个算力节点,其中,服务包含可分配的边缘算力资源。
在本公开的一个实施例中,上述服务优先级队列确定模块,还用于根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,所述特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;根据各个任务的特征描述,确定所有任务的服务优先级队列。
在本公开的一个实施例中,上述资源池注册表更新模块,还用于当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
在本公开的一个实施例中,上述装置还包括无资源可调度消息发送模块,该无资源可调度消息发送模块,用于向目标任务对应的终端设备发送无资源可调度消息,其中,所述目标任务为多个任务中未分配到算力资源的任务。
根据本公开的再一个方面,提供一种边缘算力资源调度系统,包括:节点请求指派模块,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,其中,资源调度请求中包含任务的需求资源数据;节点算力感知模块,用于监测与获取各个边缘节点的节点算力数据,其中,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;服务需求生成模块,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;云上算力感知模块,用于根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;边缘算力调度模块,用于根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,所述需求资源数据包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
在本公开的一个实施例中,所述系统还包括服务特征生成模块;其中,所述服务特征生成模块,用于根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,所述特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;所述服务需求生成模块,还用于根据各个任务的特征描述,确定所有任务的服务优先级队列。
在本公开的一个实施例中,上述云上算力感知模块,还用于当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
根据本公开的再一个方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述的边缘算力资源调度方法。
根据本公开的又一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的边缘算力资源调度方法。
本公开的实施例所提供的一种边缘算力资源调度方法、装置、系统、电子设备及存储介质,其中,边缘算力资源调度方法包括:获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据;根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表;根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。本公开避免了大量高并发的实时业务因边缘算力资源分配排队导致延迟等问题,在保证服务性能不降低的情况下,增加系统吞吐量,提高了边缘集群上边缘算力资源的利用率,同时,根据任务对资源的需求动态选择分配边缘算力资源的边缘节点来保证任务运行,提高了业务服务质量。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本公开实施例中一种端边云系统结构的示意图;
图2示出本公开实施例中一种边缘算力资源调方法流程图;
图3示出本公开实施例中另一种边缘算力资源调方法流程图;
图4示出本公开实施例中另一种边缘算力资源调方法流程图;
图5示出本公开实施例中一种边缘算力资源调方法示意图;
图6示出本公开实施例中一种边缘算力资源调装置示意图;
图7示出本公开实施例中一种边缘算力资源调系统示意图;
图8示出本公开实施例中一种电子设备的结构框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
正如背景技术中所提及的,现有终端设备通常与边缘节点强绑定,终端设备的流量分配固定,无法高效利用边缘算力资源,边缘算力资源存在异构性、分散性。
基于此,本公开提供了一种边缘算力资源调度方法、装置、系统、电子设备及存储介质,本公开通过根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源,避免了大量高并发的实时业务因边缘算力资源分配排队导致延迟等问题,在保证服务性能不降低的情况下,增加系统吞吐量,提高了边缘集群上边缘算力资源的利用率,同时,根据任务对资源的需求动态选择分配边缘算力资源的边缘节点来保证任务运行,提高了业务服务质量。
本公开可针对不同业务场景对低时延、高效率等特性的需求,对业务从实时性、可靠性、延展性和准确性等方面对业务进行特征建模,生成业务的特征描述;本公开抽象边缘集群的异构算力资源,可基于图神经网络的策略梯度算法,将不同类型的服务部署到各个边缘节点,实现对边缘集群上算力资源的合理调度分配。
本公开可基于多边集群协同的边缘算力调度策略,该边缘算力调度策略通过操作经验自学习生成,将终端设备与边缘节点解绑,充分提高边缘算力资源的利用效率。
图1示出了可以应用于本公开实施例的边缘算力资源调度方法或边缘算力资源调度装置的示例性系统架构的示意图。
如图1所示,系统架构可以包括云中心、边缘集群、和终端设备,其中云中心、边缘集群和终端设备之间通过网络连接。
其中,云中心包括:服务特征生成模块、服务生成需求模块、镜像管理器、节点管理器、设备控制器、边缘控制器、云上算力管制模块、云上请求指派模块、云上算力调度模块;
服务特征生成模块,用于用于生成业务的基本特征,通过业务特征识别技术,分析业务对计算、存储、网络等资源的诉求,结合时延敏感、准确率敏感等业务需求,实现不同业务对实时性、可靠性、确定性、延展性等方面的特征画像建模。
服务生成需求模块,用于根据业务的基本特征,分析确定业务的各个特征对应变量的权证比例,通过服务需求函数计算业务所属优先级队列,为算力分配提供依据。
云上算力管制模块,用于接收节点算力感知模块上报的本节点算力情况(已分配、空闲等),同时负责将信息实时同步到“边缘算力可用资源池注册表”中。
云上请求指派模块,用于根据边缘节点当前负载的实际情况,基于多智能体算法对任务的请求进行合理指派到不同计算节点。
云上算力调度模块,用于基于图神经网络的策略梯度算法,将不同类型的服务部署到各个计算节点。
边缘集群包括:边缘节点1和边缘节点2,边缘节点1和边缘节点2分别包含节点算力感知模块、节点请求指派模块和边缘算力调度模块。
节点算力感知模块,用于实时监测与上报本节点上边缘算力资源的情况变化,为边缘算力分配提供数据支撑,由于边缘端存在大量异构边缘算力资源,将适合不同业务的边缘算力资源类别化,同时,该模块实现了对NPU(Neural-network Processing Unit,网络处理器)、CPU(Central Processing Unit,中央处理器)、GPU(Graphics Processing Unit,图形处理器)等边缘异构算力资源的统一量化。
节点请求指派模块,用于对同一类型的多任务进行请求分配,通过综合考虑边缘节点资源情况与服务质量需求,将端侧终端设备流量统一调度到不同的任务所在节点,实现服务质量的稳定性。
边缘算力调度模块,用于根据边缘算力可用资源注册表与服务优先级队列,将任务合理的调度到不同计算节点。
终端设备包括:终端设备1、终端设备2、终端设备3和终端设备4。
网络用以在云中心、边缘集群、和终端设备之间提供通信链路的介质,可以是有线网络,也可以是无线网络。
可选地,上述的无线网络或有线网络使用标准通信技术和/或协议。网络通常为因特网、但也可以是任何网络,包括但不限于局域网(Local Area Network,LAN)、城域网(Metropolitan Area Network,MAN)、广域网(Wide Area Network,WAN)、移动、有线或者无线网络、专用网络或者虚拟专用网络的任何组合)。在一些实施例中,使用包括超文本标记语言(Hyper Text Mark-up Language,HTML)、可扩展标记语言(ExtensibleMarkupLanguage,XML)等的技术和/或格式来代表通过网络交换的数据。此外还可以使用诸如安全套接字层(Secure Socket Layer,SSL)、传输层安全(Transport Layer Security,TLS)、虚拟专用网络(Virtual Private Network,VPN)、网际协议安全(InternetProtocolSecurity,IPsec)等常规加密技术来加密所有或者一些链路。在另一些实施例中,还可以使用定制和/或专用数据通信技术取代或者补充上述数据通信技术。
终端设备可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机、可穿戴设备、增强现实设备、虚拟现实设备等。
可选地,不同的终端设备中安装的应用程序的客户端是相同的,或基于不同操作系统的同一类型应用程序的客户端。基于终端平台的不同,该应用程序的客户端的具体形态也可以不同,比如,该应用程序客户端可以是手机客户端、PC客户端等。
本领域技术人员可以知晓,图1中的终端设备和边缘节点的数量仅仅是示意性的,根据实际需要,可以具有任意数目的终端设备和边缘节点。本公开实施例对此不作限定。
下面结合附图及实施例对本示例实施方式进行详细说明。
首先,本公开实施例中提供了一种边缘算力资源调方法,该方法可以应用于上述图1公开的端边云系统,可以由任意具备计算处理能力的电子设备执行。
图2示出本公开实施例中一种边缘算力资源调方法流程图,如图2所示,本公开实施例中提供的边缘算力资源调方法包括如下步骤:
S202,获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,节点算力数据为表示边缘节点上边缘算力资源使用情况的数据。
需要说明的是,终端设备可以是通过边缘设备连接的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机、可穿戴设备、增强现实设备、虚拟现实设备等;边缘节点可以是靠近用户的网络边缘侧构建的业务平台,可用于提供存储、计算、网络等资源,将部分关键业务应用下沉到接入网络边缘,以减少网络传输和多级转发带来的宽度和时延损耗。
在本公开的一个实施例中,需求资源数据可以包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
在本公开的一个实施例中,节点算力数据可以包含各个边缘节点的资源使用情况数据、资源利用率、服务数中的至少一项。
S204,根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列。
需要说明的是,服务优先级队列可以包含各个任务的优先级,这里,可以按照各个任务的优先级,确定为任务分配边缘算力资源的顺序,再按照为任务分配边缘算力资源的顺序,依次为任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,参加图3所示的另一种边缘算力资源调方法流程图,根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列,可以包括以下步骤:
S302,根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像。
S304,根据各个任务的特征描述,确定所有任务的服务优先级队列。
需要说明的是,特征描述可以包括时延、准确率、可靠性和延展性等参数指标,为服务优先级队列的生成提供依据。
S206,根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
需要说明的是,边缘算力可用资源池注册表可以用于记录边缘集群上所有边缘节点的资源使用情况、资源利用率、服务数等参数。
在本公开的一个实施例中,边缘算力可用资源池注册表包含已分配算力集合、未分配算力集合和预测分配算力集合。
S208,根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源,可以包括:可以按照服务优先级队列上的任务顺序,依次为任务选择相应的边缘节点,利用周期性逐步调度方式,首先选取高价值节点,再针对选择的高价值节点进行服务编排动作决策,确定各个任务在相应边缘节点上分配的边缘算力资源数值。这里,高价值节点可以根据边缘节点的节点算力数据判断,例如,当边缘节点上的边缘算力资源大于或等于预设边缘算力资源阈值时,确定该边缘节点为高价值节点;当边缘节点上的边缘算力资源小于预设边缘算力资源阈值时,确定该边缘节点为低价值节点。
本公开实施例提供的边缘算力资源调度方法,根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源,避免了大量高并发的实时业务因边缘算力资源分配排队导致延迟等问题,在保证服务性能不降低的情况下,增加系统吞吐量,提高了边缘集群上边缘算力资源的利用率,同时,根据任务对资源的需求动态选择分配边缘算力资源的边缘节点来保证任务运行,提高了业务服务质量。
在本公开的一个实施例中,在获取终端设备发送的资源调度请求,和各个边缘节点的节点算力数据之前,方法还包括:基于图神经网络的策略梯度算法,将不同服务类型的服务部署到各个算力节点,其中,服务包含可分配的边缘算力资源。
在本公开的一个实施例中,方法还包括:当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。本公开可在终端设备取消任务、启动任务、边缘节点发生算力资源分配取消和边缘节点发生算力资源分配等情况下,实时获取边缘节点上的边缘算力资源使用情况,并根据各个边缘节点上的边缘算力资源使用情况更新边缘算力可用资源池注册表,以便合理为任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,在根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的算力资源之后,方法还包括:向目标任务对应的终端设备发送无资源可调度消息,其中,目标任务为多个任务中未分配到算力资源的任务。
在本公开的一个实施例中,本公开还提供了另一种边缘算力资源调度方法,参加图4所示的另一种边缘算力资源调方法流程图,该方法可以包括以下步骤:
S402,获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,节点算力数据为表示边缘节点上边缘算力资源使用情况的数据。
S404,根据任务的需求资源数据,生成任务的特征描述。
S406,根据各个任务的特征描述,确定所有任务的服务优先级队列。
S408,根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况。
S410,根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,参加图5所示的一种边缘算力资源调方法示意图,本公开采用多任务机制,在多个边缘节点并行的执行服务,确保边缘服务的质量,云上请求指派模块与节点请求指派模块联动配合:云上请求指派模块可根据边缘节点当前负载的实际情况,基于多智能体算法对资源调度请求进行合理指派到不同计算节点;并将自端设备的请求均衡到不同边缘节点。
基于同一发明构思,本公开实施例中还提供了一种边缘算力资源调度装置,如下面的实施例。由于该装置实施例解决问题的原理与上述方法实施例相似,因此该装置实施例的实施可以参见上述方法实施例的实施,重复之处不再赘述。
图6示出本公开实施例中一种边缘算力资源调度装置示意图,如图6所示,该装置包括:
请求与数据获取模块610,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;
服务优先级队列确定模块620,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;
资源池注册表更新模块630,用于根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
边缘算力资源分配模块640,用于根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,上述装置还包括服务部署模块,该服务部署模块,用于基于图神经网络的策略梯度算法,将不同服务类型的服务部署到各个算力节点,其中,服务包含可分配的边缘算力资源。
在本公开的一个实施例中,上述服务优先级队列确定模块620,还用于根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;根据各个任务的特征描述,确定所有任务的服务优先级队列。
在本公开的一个实施例中,上述资源池注册表更新模块630,还用于当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
在本公开的一个实施例中,上述装置还包括无资源可调度消息发送模块,该无资源可调度消息发送模块,用于向目标任务对应的终端设备发送无资源可调度消息,其中,目标任务为多个任务中未分配到算力资源的任务。
基于同一发明构思,本公开实施例中还提供了一种边缘算力资源调度系统,如下面的实施例。由于该系统实施例解决问题的原理与上述方法实施例相似,因此该系统实施例的实施可以参见上述方法实施例的实施,重复之处不再赘述。
图7示出本公开实施例中一种边缘算力资源调度系统示意图,如图7所示,该系统包括:
节点请求指派模块710,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,其中,资源调度请求中包含任务的需求资源数据;
节点算力感知模块720,用于监测与获取各个边缘节点的节点算力数据,其中,节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;
服务需求生成模块730,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;
云上算力感知模块740,用于根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
边缘算力调度模块750,用于根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
在本公开的一个实施例中,需求资源数据包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
在本公开的一个实施例中,系统还包括服务特征生成模块;其中,服务特征生成模块,用于根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;服务需求生成模块730,还用于根据各个任务的特征描述,确定所有任务的服务优先级队列。
在本公开的一个实施例中,上述云上算力感知模块740,还用于当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图8来描述根据本公开的这种实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中,存储单元存储有程序代码,程序代码可以被处理单元810执行,使得处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,处理单元810可以执行上述方法实施例的如下步骤:获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;根据各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;根据服务优先级队列和边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备840(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质可以是可读信号介质或者可读存储介质。其上存储有能够实现本公开上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
本公开中的计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
在本公开中,计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可选地,计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
在具体实施时,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。
Claims (14)
1.一种边缘算力资源调度方法,其特征在于,包括:
获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;
根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;
根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
2.根据权利要求1所述的边缘算力资源调度方法,其特征在于,在获取终端设备发送的资源调度请求,和各个边缘节点的节点算力数据之前,所述方法还包括:
基于图神经网络的策略梯度算法,将不同服务类型的服务部署到各个算力节点,其中,服务包含可分配的边缘算力资源。
3.根据权利要求1所述的边缘算力资源调度方法,其特征在于,所述需求资源数据包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
4.根据权利要求3所述的边缘算力资源调度方法,其特征在于,根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列,包括:
根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,所述特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;
根据各个任务的特征描述,确定所有任务的服务优先级队列。
5.根据权利要求1所述的边缘算力资源调度方法,其特征在于,所述节点算力数据包含各个边缘节点的资源使用情况数据、资源利用率、服务数中的至少一项。
6.根据权利要求1所述的边缘算力资源调度方法,其特征在于,所述边缘算力可用资源池注册表包含已分配算力集合、未分配算力集合和预测分配算力集合。
7.根据权利要求1所述的边缘算力资源调度方法,其特征在于,所述方法还包括:
当终端设备取消任务时,或者,边缘节点发生算力资源分配取消时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表;
当终端设备启动任务时,或者,边缘节点发生算力资源分配时,获取边缘节点上报的算力资源数据,并根据边缘节点的算力资源数据,更新边缘算力可用资源池注册表。
8.根据权利要求1所述的边缘算力资源调度方法,其特征在于,在根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的算力资源之后,所述方法还包括:
向目标任务对应的终端设备发送无资源可调度消息,其中,所述目标任务为多个任务中未分配到算力资源的任务。
9.一种边缘算力资源调度装置,其特征在于,包括:
请求与数据获取模块,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,和各个边缘节点的节点算力数据,其中,资源调度请求中包含任务的需求资源数据,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;
服务优先级队列确定模块,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;
资源池注册表更新模块,用于根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
边缘算力资源分配模块,用于根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
10.一种边缘算力资源调度系统,其特征在于,包括:
节点请求指派模块,用于获取多个终端设备发送的用于请求为任务分配边缘算力资源的资源调度请求,其中,资源调度请求中包含任务的需求资源数据;
节点算力感知模块,用于监测与获取各个边缘节点的节点算力数据,其中,所述节点算力数据为表示边缘节点上边缘算力资源使用情况的数据;
服务需求生成模块,用于根据多个任务中各个任务的需求资源数据,确定所有任务的服务优先级队列;
云上算力感知模块,用于根据所述各个边缘节点的节点算力数据,更新边缘算力可用资源池注册表,其中,所述边缘算力可用资源池注册表用于记录所有边缘节点的边缘算力资源使用情况;
边缘算力调度模块,用于根据所述服务优先级队列和所述边缘算力可用资源池注册表,为各个任务分配相应边缘节点上的边缘算力资源。
11.根据权利要求10所述的边缘算力资源调度系统,其特征在于,所述需求资源数据包含任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项。
12.根据权利要求11所述的边缘算力资源调度系统,其特征在于,所述系统还包括服务特征生成模块;
其中,所述服务特征生成模块,用于根据任务的计算需求数据、存储需求数据、网络需求数据和峰值资源需求预测数据中的至少一项,生成任务的特征描述,其中,所述特征描述为任务的时延、准确率、可靠性和/或延展性的特征画像;
所述服务需求生成模块,还用于根据各个任务的特征描述,确定所有任务的服务优先级队列。
13.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1~8中任意一项所述边缘算力资源调度方法。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~8中任意一项所述的边缘算力资源调度方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211457049.0A CN115766875A (zh) | 2022-11-16 | 2022-11-16 | 边缘算力资源调度方法、装置、系统、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211457049.0A CN115766875A (zh) | 2022-11-16 | 2022-11-16 | 边缘算力资源调度方法、装置、系统、电子设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115766875A true CN115766875A (zh) | 2023-03-07 |
Family
ID=85333715
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211457049.0A Pending CN115766875A (zh) | 2022-11-16 | 2022-11-16 | 边缘算力资源调度方法、装置、系统、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115766875A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116560838A (zh) * | 2023-05-05 | 2023-08-08 | 上海玫克生储能科技有限公司 | 边缘计算终端设备、综合能源站、管理平台及其控制方法 |
CN116723111A (zh) * | 2023-08-09 | 2023-09-08 | 深圳十方融海科技有限公司 | 业务请求的处理方法、系统及电子设备 |
CN117290104A (zh) * | 2023-09-28 | 2023-12-26 | 苏州麦杰工业大数据产业研究院有限公司 | 一种边缘计算方法、装置及设备 |
CN117290104B (zh) * | 2023-09-28 | 2024-05-31 | 苏州麦杰工业大数据产业研究院有限公司 | 一种边缘计算方法、装置及设备 |
-
2022
- 2022-11-16 CN CN202211457049.0A patent/CN115766875A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116560838A (zh) * | 2023-05-05 | 2023-08-08 | 上海玫克生储能科技有限公司 | 边缘计算终端设备、综合能源站、管理平台及其控制方法 |
CN116560838B (zh) * | 2023-05-05 | 2024-03-29 | 上海玫克生储能科技有限公司 | 边缘计算终端设备、综合能源站、管理平台及其控制方法 |
CN116723111A (zh) * | 2023-08-09 | 2023-09-08 | 深圳十方融海科技有限公司 | 业务请求的处理方法、系统及电子设备 |
CN116723111B (zh) * | 2023-08-09 | 2023-10-20 | 深圳十方融海科技有限公司 | 业务请求的处理方法、系统及电子设备 |
CN117290104A (zh) * | 2023-09-28 | 2023-12-26 | 苏州麦杰工业大数据产业研究院有限公司 | 一种边缘计算方法、装置及设备 |
CN117290104B (zh) * | 2023-09-28 | 2024-05-31 | 苏州麦杰工业大数据产业研究院有限公司 | 一种边缘计算方法、装置及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109218355B (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
CN115766875A (zh) | 边缘算力资源调度方法、装置、系统、电子设备及介质 | |
US11237862B2 (en) | Virtualized network function deployment | |
CN111352711B (zh) | 多计算引擎调度方法、装置、设备及存储介质 | |
CN108604193A (zh) | 异构系统、计算任务分配方法及装置 | |
CN113422839A (zh) | 基于云计算的云手机系统及控制方法、介质及电子设备 | |
CN111338785A (zh) | 资源调度方法及装置、电子设备、存储介质 | |
CN112486653A (zh) | 调度多类型计算资源的方法、装置和系统 | |
CN114661486A (zh) | 用于批量处理功能的方法、系统、制品和设备 | |
US11303712B1 (en) | Service management in distributed system | |
US20220278944A1 (en) | Method for allocating resources of a network infrastructure | |
CN110716809B (zh) | 用于调度云资源的方法和装置 | |
CN109343958B (zh) | 计算资源分配方法、装置、电子设备、存储介质 | |
CN115509744A (zh) | 容器分配方法、系统、装置、设备及存储介质 | |
CN117472555A (zh) | 算力资源分配方法、系统、装置、设备及存储介质 | |
KR20040008106A (ko) | 그리드에서 사용자의 QoS와 응용특성에 근거한동적자원 할당방법 | |
CN109688190A (zh) | 传输金融数据的方法、装置、计算机设备和存储介质 | |
CN113821336B (zh) | 资源分配方法和装置、存储介质、电子设备 | |
CN115499432A (zh) | 家庭终端算力资源管理系统及算力资源调度方法 | |
JP2024521051A (ja) | 5g及びエッジコンピューティングアプリケーションのためのアプリケーション中心のデザイン | |
CN115080197A (zh) | 计算任务调度方法、装置、电子设备和存储介质 | |
CN114301980A (zh) | 容器集群的调度方法、装置、系统及计算机可读介质 | |
CN114020469A (zh) | 基于边缘节点的多任务学习方法、装置、介质与设备 | |
US10223153B1 (en) | Accounting and enforcing non-process execution by container-based software transmitting data over a network | |
CN116954927B (zh) | 一种分布式异构数据采集方法、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |