CN117203944A - 算力网络的资源调度方法 - Google Patents
算力网络的资源调度方法 Download PDFInfo
- Publication number
- CN117203944A CN117203944A CN202280016595.2A CN202280016595A CN117203944A CN 117203944 A CN117203944 A CN 117203944A CN 202280016595 A CN202280016595 A CN 202280016595A CN 117203944 A CN117203944 A CN 117203944A
- Authority
- CN
- China
- Prior art keywords
- node
- forward path
- performance
- nodes
- resource
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 81
- 230000004044 response Effects 0.000 claims abstract description 6
- 238000011156 evaluation Methods 0.000 claims description 87
- 238000012545 processing Methods 0.000 claims description 31
- 238000003860 storage Methods 0.000 claims description 20
- 238000013210 evaluation model Methods 0.000 claims description 13
- 238000009826 distribution Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 5
- 230000000593 degrading effect Effects 0.000 claims 1
- 230000006870 function Effects 0.000 description 62
- 208000018910 keratinopathic ichthyosis Diseases 0.000 description 39
- 230000008569 process Effects 0.000 description 20
- 230000015654 memory Effects 0.000 description 16
- 230000008901 benefit Effects 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 9
- 230000035945 sensitivity Effects 0.000 description 9
- 239000002131 composite material Substances 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 230000006854 communication Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/02—Details
- H04L12/12—Arrangements for remote connection or disconnection of substations or of equipment thereof
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本公开涉及用于调度算力网络资源和算力资源的方法和设备。提供了一种在算力网络中进行资源调度的方法,其中算力网络包括至少一个节点,在该至少一个节点之间存在至少一条前向路径,并且该方法包括以下步骤:对于该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;对于该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的路径性能指标;以及响应于对算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
Description
技术领域
本公开涉及网络资源和算力资源的调度,尤其涉及算力网络资源的调度。
背景技术
算力是数字经济时代的新生产力,是支撑数字经济发展的坚实基础。数字经济时代的关键资源包括数据、算力和算法,其中数据是新生产资料,算力是新生产力,算法是新生产关系,这构成了数字经济时代最基本的生产基石。算力网络在算力及网络统一管理的基础上,实现算、网能力的深度融合,是面向业务提供高质量服务的新型信息基础设施。根据业务需求和策略,对网络进行算力资源和网络资源的统一编排和调度,并动态生成满足业务需求的算力网络中的端到端前向路径,是算力网络提供高质量服务的关键。
发明内容
本公开的一个目的是为特定数据业务提供算力网络资源和算力资源的改进调度,并且本公开可以通过如下操作来达到这样的目的:适当估计算力网络中包括的节点和/或前向路径的性能,并且附加地或可替换地,为算力网络中包括的前向路径构建更适当和更全面的评估函数,从而可以确定算力网络中包括的一条或多条最优前向路径以满足数据业务需求。
根据本公开的第一方面,提供了一种在算力网络中进行资源调度的方法,其中算力网络包括至少一个节点,在该至少一个节点之间存在至少一条前向路径,并且该方法包括以下步骤:对于算力网络中包括的该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;对于算力网络中包括的该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及响应于对算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
根据本公开的第二方面,提供了一种在算力网络中进行资源调度的电子设备,其中算力网络包括至少一个节点,在该至少一个节点之间存在至少一条前向路径,并且该电子设备包括处理电路,该处理电路被配置为对于算力网络中包括的该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;对于算力网络中包括的该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
根据本公开的第三方面,提供了一种存储有可执行指令的非暂时性计算机可读存储介质,所述可执行指令在被执行时使得实现如本公开的实施例中所述的方法。
根据本公开的第四方面,提供了一种设备,该设备包括处理器和存储装置,所述存储装置存储有可执行指令,所述可执行指令在被执行时使得处理器实现如本公开的实施例中所述的方法。
根据本公开的第五方面,提供了一种包含可执行指令的计算机程序产品,所述可执行指令在被执行时使得实现如本公开的实施例中所述的方法。
根据本公开的第六方面,提供了一种装置,其包括用于实施如本公开的实施例中所述的方法的部件。
根据本公开的第七方面,提供了一种包含可执行指令的计算机程序,所述可执行指令在被执行时使得实现如本公开的实施例中所述的方法。
提供该部分以简化形式介绍一些概念,这些概念将在下面的详细描述中进一步描述。本部分不旨在标识要求保护的主题的关键特征或基本特征,也不旨在限制要求保护的主题的范围。本公开的其它方面和优点将从以下实施例和附图的详细描述中变得清楚。
附图说明
下面将结合具体的实施例,并参照附图,对本公开的上述和其它目的和优点做进一步的描述。在附图中,相同的或对应的技术特征或部件将采用相同或对应的附图标记来表示。
图1示出了一个流程图,该流程图示出了根据本公开的实施例的算力网络中的资源调度方法。
图2示出了算力网络的示例性拓扑结构的示意图。
图3示出了根据本公开的实施例评估节点的性能指标的过程。
图4A至4D示出了根据本公开的实施例的算力网络中的节点的示例性影响节点。
图5A至5D示出了根据本公开的实施例的示例性曲线以及其中拐点。
图6A示出了根据本公开的实施例确定节点的资源约束的流程图,图6B示出了根据本公开的实施例确定与资源消耗相关的安全边界值作为节点的资源约束的过程。
图7示出了根据本公开实施例的前向路径(forward path)的性能评估过程。
图8示出了根据本公开实施例的生成基本节点评估表和基本前向路径评估表的过程。
图9示出了根据本公开的实施例的算力网络的示例性拓扑结构。
图10A和10B示出了根据本公开的实施例的用于在算力网络中选择一条或多条最优前向路径的过程。
图11示出了一个流程图,该流程图总体上示出了根据本公开的实施例的算力网络的资源调度。
图12示出了根据本公开的实施例的用于算力网络中的资源调度的电子设备的框图。
图13示出了其中可以实现根据本公开的实施例的计算机系统的概况。
在本节中所描述的实施例可能易于有各种修改和另选形式,并且其具体实施例在附图中作为例子示出并且在本文中被详细描述。但是,应当理解,附图以及对其的详细描述不是要将实施例限定到所公开的特定形式,而是相反,目的是要涵盖权利要求的精神和范围内的所有修改、等同和另选方案。
具体实施方式
在下文中将结合附图对本公开的示例性实施例进行描述。为了清楚和简明起见,在说明书中并未描述实施例的所有特征。然而,应该了解,在对实施例进行实施的过程中必须做出很多特定于实施方式的设置,以便实现开发人员的具体目标,例如,符合与设备及业务相关的那些限制条件,这些限制条件可能会随着实施方式的不同而有所改变。此外,还应该了解,虽然开发工作有可能是非常复杂和费时的,但对得益于本公开内容的本领域技术人员来说,这种开发工作仅仅是例行的任务。
此外,还应指出,为了避免因不必要的细节而模糊了本公开,在附图中仅仅示出了至少与根据本公开的方案密切相关的处理步骤和/或设备结构,而省略了与本公开关系不大的其它细节。
目前,存在一些用于在算力网络中编排和调度资源的方案。
一种方案涉及切片式边缘算力管理方法。该方案该方法可以将算力资源按一些指标进行切片,基于切片来管理算力分配。在操作中,根据外部需求选取对应切片,然后对于切片选取需要使用的算力资源。这种方案的特点在于用切片分割了外部需求与实际算力资源,一定程度上降低了系统复杂度。
然而,这种方案的缺点在于加入的切片系统无法根据任务需求明确的选取算力资源,如达成最优时延、最低消耗等,同时该方案只考虑算力资源的切片,而对于其他节点如传输节点等没有关注。
另一种方案涉及分层算力网络编排方法、装置及存储介质。在该方法中,使用区域算力网络编排模块管理一些部分本地算力资源,收集算力信息上传至端到端算力网络编排模块。当收到用户算力申请时,返回对应算力网络资源列表给用户,由用户选择所需算力节点后进行端到端的前向路径编排。该方法的特点是各区域中的网络调度和资源调度由本地编排模块负责,降低本地系统处理复杂度。
然而,这种方案的缺点在于中央的端到端算力网络编排模块依旧要考虑所有算力节点信息而非局部区域的信息,因此实际编排复杂度并没有下降。同时,该方案只能选取算力节点,对于前向路径缺乏控制方法,不能达成最优前向路径选择。
还另一种方案涉及网内资源的量纲测量方法、算力资源调度方法及存储介质。该方法包括以下步骤:通过量纲测量获得算力网络内任意网络节点的第一节点算力、第二节点算力和绝对算力评估值,通过算力调度方法获得算力网络内任意网络节点的相对算力评估值。然后可使用所获得的评估值来决定算力网络的调度方法。该方法的特点是对每一个节点进行量化评估,再依据量化结果进行资源调度,使得资源调度方案更加直接和明确。
然而,该方案的缺点在于,仅计算第一节点算力和第二节点算力,并且根据算力评估值来执行节点分配和资源调度。这种方案只考虑了节点的评估,而缺少对端到端整体链路的评估,后者是实际应用中对用户业务影响更为直接的因素。其次,该方案中对算力网络节点资源的测量和评估不能直接映射节点的性能指标,无法评估节点安全性能边界。
鉴于以上所述,本公开提供了用于算力网络的改进的编排和/或资源调度。在本公开中,对于至少一个任务/业务/应用,算力网络中的编排和/或资源调度实际上可以涉及算力网络中包括的适当节点的编排和/或资源调度,特别是选择/确定算力网络中的包括节点的适当前向路径以满足/符合至少一个特定任务/业务/应用需求。应指出,表述“和/或”可能意味着在表述“和/或”之前或之后提及的术语或操作中的至少一者,而符号“/”之前或之后的动词或名词术语在说明书的上下文中可能彼此等同并且可以互换使用。
在一个方面,本公开可以在考虑了可能影响算力网络中包括的节点的至少一个节点的情况下来获取或评估该节点的业务相关性能,特别地,节点的性能可以基于该节点和其他节点的资源来评估。因此,基于节点之间的关联/影响,而不是单独基于节点,可以更适当和准确地评估节点的性能。
另一方面,本公开可以基于所评估的节点性能来评估网络中包括的节点所构成的前向路径的性能,从而可以更适当和准确地评估算力网络中包括的前向路径的性能。
在又一方面,附加地或可替代地,对于算力网络的资源调度/编排,在考虑了可能与多种类型的业务/应用相关联的多个性能特性的情况下,特别是通过加权组合多个性能特性,来构建综合评估函数,其中权重可以相对于特定类型的业务或业务需求来被适当地设定,而不需要重新构建新的函数。因此,基于诸如成本函数的综合评估函数,可以准确且有效地确定针对特定业务需求的至少一个最优路径。
以下,将描述本公开的实施例。应指出,本公开的概念可以等效地和有效地用于各种业务/任务/请求,例如可以涉及各种数据处理服务的任何其他适当的智能服务;各种系统管理服务;或者类似物。
应指出,将关于算力网络来描述本公开的概念和实施例,其旨在针对任务/业务/服务/需求来优化网络中包括的诸如节点、路径等的算力和/或资源的调度,并且这种算力网络可以是可具有等同功能的任何种类的已知和将要已知的网络,而不管这种网络的表达或缩略语如何,例如ITU-Y.2501中的算力网络(CPN),它是一种新型的网络,通过经由网络控制平面(例如集中式控制器、分布式路由协议等)分布服务节点的计算、存储、网络和其他资源信息来实现优化的资源分配;ITU-TD 835中的计算感知网络(CAN),其在云计算的范围内并且是增强云算力网络以支持云和网络资源的集成;IETF中的计算优先网络(CFN),其利用计算和网络状态两者来帮助确定具有不同地理位置的多个边缘站点中的最优边缘,以作为特定边缘计算请求;算力网络(computing Force Network)(CFN),其旨在基于IMT-2020情境及以后情境下对算力资源的感知、控制和管理来实现计算和网络联合优化,并要求能够使用AI/ML相关能力,等等。本申请的范围将不会受到在其中可实现本申请的解决方案的网络的表达/缩写的影响。图1示出了根据本公开的一些实施例的算力网络中的资源调度方法,其中算力网络包括至少一个节点,在该至少一个节点中存在至少一条前向路径。
如图1所示,在方法100中,在步骤S102中,对于算力网络中包括的至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;在步骤S104中,对于算力网络中包括的至少一条前向路径中的每一个,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及在步骤S106中,响应于算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择一条或多条最优前向路径,特别是最优前向路径或最优前向路径组合。
算力网络中的节点(以下简称为节点)可以包括各种类型的节点,例如网络接入节点、网络传输节点、网关节点、计算节点,也称为算力点和算力节点等。如图2所示,A1和A2是接入节点,R1-R4是传输节点,G1和G2是网关节点,N1-N3是计算节点。当然,算力网络中的节点不限于此,还可以包括其他种类的网络节点。前向路径通常可以沿着算力网络的拓扑结构从接入节点开始并在算力网络中包括的计算节点处结束,可选地经由任何中间节点,例如传输节点、网关节点等。
根据本公开的一些实施例,节点可以基于资源针对任务/业务执行任何适当的操作,例如数据处理,该资源特别是可用于数据处理的任何适当资源,例如物理资源、网络资源、时间或频率资源、或任何其他适当的资源,并且资源可以由资源指标来指示,资源指标可以指的是关于用于节点的资源的信息,其可以是向量的形式,向量中的每个元素可以对应一种资源,节点操作可实现的性能可以包括多种性能,特别是取决于业务的类型或需求或节点类型的性能特性,例如延迟、丢包率、包传输成功率等,并且可以由节点性能指标来指示,节点性能指标可以是向量的形式,向量中的每个元素可以对应一种性能特性。在一个示例中,节点的性能可以由关键性能指标(KPI)来指示。前向路径的性能可以由包括在前向路径中的节点的性能导出,并且也可以由前向路径性能指标来指示,前向路径性能指标也可以是与节点性能指标相同的形式,例如KPI。
根据本公开的一些实施例,至少一个节点可以包括至少一个接入节点和至少一个计算节点,并且可选地包括至少一个接入节点和至少一个计算节点之间的至少一个中间节点,并且至少一条前向路径可以包括从一个接入节点到一个计算节点的前向路径,例如,这种前向路径可以是直接从接入节点到计算节点的前向路径,或者这种前向路径可以是间接地从接入节点经由至少一个中间节点到计算节点的前向路径。在一些实施例中,需要获取其性能指标的至少一个节点和至少一条前向路径可以从算力网络中包括的所有节点以及从所有接入节点到所有计算节点的所有前向路径中导出。在一些实施例中,这种至少一个节点和/或至少一条前向路径可以相对于任务/业务、特别是考虑到与任务相关的一些约束(如果有的话,例如接入节点、计算节点、中间节点、前向路径负载等)的情况下,被得出。在一个示例中,如果预先选择/预先配置了任何接入节点或计算节点,则预先选择/预先配置的接入节点和计算节点之间的前向路径以及包括在前向路径中的所有节点可以对应于至少一条前向路径和至少一个节点,该前向路径可以基于网络的拓扑结构来获得/得出。在一些实施例中,这样的至少一个节点和至少一条前向路径可以是网络中包括的所有节点和前向路径,然后可以基于这样的节点和前向路径来执行操作。在一个示例中,需要获取其性能指标的这种节点可以尤其是网络中包括的中间节点,例如传输节点、网关节点以及接入节点和计算节点之间的任何其他适当节点。
根据一些实施例,基于资源指标获取节点的节点性能指标可以等同于一种性能评估/映射操作,即,从节点可用/可使用的网络资源到基于这种网络资源可实现的节点性能的映射。在一个示例中,节点的性能评估可以等同于从该节点及其影响节点的资源到节点的性能指标的映射,如图3所示。
在本公开中,对于节点来说,其影响节点可以表示在算力网络针对任务/业务操作期间可能影响该节点的操作的节点。根据一些实施例,对于其节点性能指标将被获取的节点,其至少一个影响节点是基于该节点和算力网络中的其他节点之间的相关性从算力网络中的节点中选择的。在一些实施例中,节点和算力网络中的其他节点之间的相关性可以包括在算力网络的拓扑结构中的节点和其他节点之间的位置相关性、链接/路径相关性、社区相关性中的至少一个。等同地,在一些实施方式中,对于一个节点,影响节点可以指该节点的影响区域中包含的节点,该影响区域可以被认为是遵从这种相关性的区域/子网,因此,影响节点的确定可以等同于影响区域的确定,影响区域中包含的节点可以作为该节点的影响节点。
在一些实施例中,影响节点可被以各种方式基于节点的相关性从算力网络的拓扑中确定,这将在下文中描述。在一些实施例中,影响节点可以进一步基于业务性能要求(例如准确性要求、速度要求等)来确定。特别地,可以基于业务性能要求来选择用于确定要利用的影响节点的方式,例如,可以基于业务性能要求来选择利用哪种相关性来确定影响节点。
在一个实施例中,对于要获取其节点性能指标的节点,其影响节点可以基于节点的位置来确定,这可以基于拓扑中的任何适当切割来确定,例如单点切割,其中影响节点可以基于节点本身来确定。特别地,影响节点,或者等同的影响区域可以基于单点切割来确定。如图4A所示,对于节点R4,影响节点是R4本身。在这种情况下,可以基于节点本身的特性来执行节点的性能评估。这种方法的优点是速度快,但准确率低,大部分次要信息丢失。例如,它可能适合于具有高速要求的应用/业务。
可选地或附加地,在一个实施例中,对于要获取节点性能指标的节点,其影响节点可以是算力网络中包含的与该节点有特定连接关系的节点。在一个实施例中,影响节点可以是与该节点具有K度关系的节点。注意,K度关系中的两个节点可能意味着在算力网络的拓扑结构中在这两个节点之间连接有K-1个节点,例如,1度关系可能意味着两个节点直接连接。在如图4B所示的例子中,对于节点R4,包括在除了节点R4和接入节点、计算节点之外的子网中并且与节点R4具有1度关系的节点R3、G2、N2可以被选择为影响节点,并且等同地,如虚线所示,包围这些节点的子网可以被认为是影响区域。这种确定方式的优点是速度快,精度适中,不损失次要信息。例如,它可能适用于具有高速要求的应用/业务。
可选地或附加地,对于要获取其节点性能指标的节点,其影响节点可以是算力网络中与该节点处于特定链路/路径关系的节点。应指出,这种链路/路径关系中的节点可能意味着这种节点可以在接入节点和计算节点之间形成前向路径。也就是说,对于一个节点,与该节点位于接入节点和计算节点之间的相同前向路径上的任何节点都属于链接关系。如图4C所示,对于节点R4,包括在除了节点R4和接入节点、计算节点之外的子网中的、可以与节点R4形成前向路径的节点R1、R2、R3、G1、G2、N2可以充当影响节点,并且等同地,如虚线所示,包围这些节点的子网可以被视为影响区域。这种确定方式的优点是精度高、信息全,但速度慢。例如,它可能适合于具有高准确性要求的应用/业务。
可选地或附加地,对于其节点性能指标要被获取的节点,其影响节点可以是算力网络中与该节点属于相同社区的节点。社区配置可以取决于业务类型、业务需求等,并且可以针对网络或其中的节点被预设/预配置。如图4D所示,对于节点R4,在除了节点R4和接入节点、计算节点之外的子网中包括的节点R1、R2、G2、N2可以作为影响节点,并且等同地,如虚线所示,包围这些节点的子网是上述节点所属的社区,并且可以被视为影响区域。这种方法的优点是速度快,精度高,但会丢失少量信息。例如,它可能适合于具有高精度和高速度要求的应用/业务。
根据本公开的一些实施例,节点的性能评估可被以多种方式实现。在一些实施例中,性能评估可以基于性能评估模型。在一些实施例中,获取节点的节点性能指标可以包括通过性能评估模型根据节点和至少一个影响节点的资源指标进行性能评估,以获得评估结果作为节点的节点性能指标。具体来说,性能评估模型的输入是节点和与节点相关的影响节点的资源特性,模型的输出是节点的被评估的性能指标(KPI)。这种模型可以用多种方式来表示,特别是可以等同于或表示为根据资源特性确定节点的性能指标的函数,特别是映射函数。
在一个例子中,待评估的节点由R4表示,如图2所示,其N个资源指标分别为m个KPI分别为KPI1,...,KPIm;其影响区域有两个节点G2和N2作为影响节点,它们的资源指标分别为并且性能评估模型可以表示为:
根据本公开的一些实施例,评估模型可以是任何适当的模型,例如神经网络模型、深度学习模型等。并且,评估模型可以通过任何适当的训练方法来训练/获得。在一些实施例中,可以通过使用样本节点来训练评估模型,并且可以通过最小化样本节点的节点性能指标和样本节点的真实性能指标之间的差异来训练性能评估模型,样本节点的节点性能指标是由性能评估模型基于样本节点的资源指标来评估的。这种真实性能指标可以预先设置或获得。
在一个示例中,根据样本节点的资源指标、样本节点的性能指标(KPI)以及包含样本节点的网络的拓扑结构,可以创建性能评估模型来综合评估节点的资源指标和KPI之间的关系。可以用样本节点的历史资源指标和KPI来训练评估模型。训练目标是使从模型得到的评估/预测KPI接近真实KPI,例如评估/预测值与真实值之间距离最短。
例如,待评估的节点由R4表示,如图2所示,其N个资源指标为m个KPI为KPI1,...,KPIm;其影响区域有两个节点G2和N2,它们的资源指标分别为并且评估模型的训练目标是最小化模型输出与其期望/实际KPI值之间的差异,如下:
评估模型可以是神经网络模型,用范数|·|来评估预测值与真实值的差距/距离。
因此,本公开可以尤其借助于能力评估模型将节点和影响该节点的影响区域中的所有节点的资源指标映射到该节点的KPI。通过考虑影响节点,可以更准确地评估节点的KPI。此外,能力评估模型可以根据任务/业务需求被灵活构建和扩展,便于用户对模型进行维护和二次开发,减少了用户的工作量。
根据本公开的一些实施例,当在算力网络中进行资源调度时,该方法可以进一步包括,对于至少一个节点中的每一个,基于该节点的资源指标和性能指标之间的对应关系来确定该节点的资源约束。
在一些实施例中,节点的资源约束可以对应于节点可用的最大资源,该最大资源将导致节点的性能达到性能阈值或者不会导致节点的性能显著降低。特别地,这种资源约束可以对应于资源边界,特别是资源消耗的安全边界,这也指的是节点的最大保证资源,因为在边界值处,性能缓慢下降,并且如果节点利用的资源超过边界,节点的性能可能显著下降,并且网络的安全性可能受到损害。
根据本公开的一些实施例,资源指标和性能指标之间的对应关系可被以任何适当的形式表示,特别是曲线,并且节点的资源约束可以被确定为对应于该节点的特定性能指标的对应关系曲线上的资源值。在一些实施例中,这种特定性能指标可以对应于性能指标的拐点、性能阈值、或临界性能指标,超过该指标时性能将显著下降,并且可以在对应曲线中找到。
在本公开的一些实施例中,确定节点的资源约束可以包括获取节点的资源指标和性能指标之间的对应关系曲线,以及获取曲线上与特定性能指标点对应的资源值作为节点的资源约束,如图6A所示。这种对应关系曲线可以通过多种方式获得,特别是可以通过上述性能评估模型获得。例如,可以将一组资源指标输入到模型中,以获得相应的被评估性能指标,因此可以例如通过拟合的统计模型根据该组资源指标和相应的性能指标得出该曲线。在一些实施例中,这种曲线可以被进一步平滑。
根据本申请的一些实施例,性能指标的拐点可被以多种方式适当地确定,尤其是取决于曲线特性被确定。在一些实施例中,特定性能指标点可以对应于在曲线斜率变化的条件下曲线中的特定性能拐点,并且在一个实施例中,曲线中的这种特定性能拐点可以对应于基于曲线斜率的概率分布而确定的曲线斜率变化的临界值。临界值有如下含义:如果当前占用的资源没有超过临界值,KPI会随着资源消耗的增加而缓慢下降,此时可以将该节点添加到任务可用的可选节点集中;如果当前资源已经超过临界值,KPI会随着资源消耗的增加而急剧下降,此时不宜调度这个节点用于任务/业务。在一些实施例中,在曲线是线性的条件下,特定性能指标点可以对应于曲线中的性能阈值点,并且在一个实施例中,性能阈值点可以对应于曲线中根据经验设置的性能阈值点。
在一些实施例中,性能拐点可以是曲线中的特定拐点,并且对应于该特定拐点的曲线上的资源值充当资源约束。在一个示例中,如果存在一个拐点,如图5A所示,则可以将该拐点对应的曲线上的资源值确定为安全边界值,如果存在多个拐点,如图5B所示,可以从中选择特定的拐点,例如可以选择第一拐点,或者可以通过专家经验来选择,该拐点对应的曲线上的资源值可以是被确定的安全边界值。这种拐点可以通过多种方式从曲线中找到,例如通过数学分析。
在一些实施例中,在关系曲线是线性的,即斜率几乎不变的情况下,如图5C所示,特定性能指标点是曲线中的特定设定点,可以是关系曲线中根据经验设定的性能阈值点,也可以基于历史统计数据等进行设定,并且特定设定点对应的曲线上的资源值作为资源约束。
在一些实施例中,斜率可以接近0,KPI不受资源影响,并且没有安全边界,如图5D所示。也就是说,在这种情况下,对于性能评估不需要利用与资源边界相关的约束。
因此,本公开可以为其性能指标要被评估的节点找到资源消耗的安全边界,特别是通过能力评估模型的斜率来找到,其用于限制节点资源的使用并防止节点崩溃。因此,可以通过此建模方法定量确定资源消耗的安全边界值,这便于实际工程操作。
在下文中,将参考图6B描述确定安全边界值的示例性过程,图6B是示出对于节点确定对应于KPI拐点的资源边界的流程图。这种过程可以通过任何适当的方式来执行,例如,可以通过模型或函数来执行。模型或函数的输入是KPI的拐点,函数或模型的输出是资源消耗的安全边界值。
首先,可以根据评估模型创建资源和KPI之间的关系曲线。评估模型可以是任何合适的模型,例如可以基于如上所述的性能评估模型来确定,例如可以对应于上述性能评估模型的逆。这种关系曲线可以被平滑以获得资源和KPI之间的平滑曲线。在一些实施方式中,可以以本领域公知的各种方式对曲线进行平滑,这里不再详细描述。
然后,近似计算平滑曲线的斜率,并且根据斜率的概率分布,找到斜率变化的临界值,即KPI拐点。
最后,可以在曲线中找到KPI拐点值对应的资源值,即KPI拐点对应的资源边界,作为约束条件。
根据本公开的一些实施例,可以预先为算力网络中的所有节点确定约束,如上所述,并且存储这些约束以供进一步使用。约束可被以任何适当的形式存储,例如数据库、表格等。因此,在处理过程中,对于一个节点,可以搜索这样的表来确定对应于该节点的约束。在一些实施例中,可以生成用于节点评估的基本表。特别地,使用节点评估模型来评估算力网络中所有节点的KPI,以及可选地评估它们的安全边界,并且生成用于节点评估的基本表,该基本表可以包括彼此对应的资源特性、KPI以及可选的资源约束。下表是用于节点评估的基本表的示例。
表1
根据一些实施例,当执行性能评估时,可以为要评估的节点确定这样的约束。也就是说,可以仅针对用于性能评估的节点而不是所有节点来确定这种约束,在这种情况下,可以减少处理开销。
根据一些实施例,包括在算力网络中的前向路径的性能评估可以基于包括在算力网络中并且与前向路径相关联的节点的性能评估来执行。特别地,与前向路径相关联的节点可指的是在算力网络的拓扑结构中构成前向路径的节点,特别是中间节点,例如传输节点、网关节点等。
根据本公开的一些实施例,可以基于前向路径中包括的每个节点的性能指标来得出/获取前向路径的整体前向路径性能指标。在本公开的一些实施例中,获取前向路径的前向路径性能指标包括组合前向路径中包括的所有节点的性能指标,以获取前向路径的整体前向路径性能指标。
在一些实施例中,这种组合可被以多种方式来执行,具体地,可以根据前向路径中节点的性能特性的类型来组合前向路径中包括的节点的性能指标,以确定前向路径的整体前向路径性能指标。
根据一些实施例,节点的节点性能指标包括对应于至少一种类型的性能特性的至少一个分量,并且组合所有节点的性能指标可以包括以根据相应性能特性设置的相应方式来组合节点的相应性能指标分量。具体地,一种性能指标分量的组合方式可以是适合对应的性能特性类型的特定方式,并且可以与另一性能指标分量的组合方式相同或不同。
下文将参照图7描述算力网络中前向路径的性能评估的实施例。前向路径的性能指标(例如KPI)可以基于其中节点的KPI来生成。更具体地,对于前向路径,可以例如通过上述方式获得前向路径上所有节点的KPI,并且对于每个节点,可以例如根据KPI的特性来确定其KPI对前向路径的整体KPIg(·)的贡献。也就是说,节点的KPI如何贡献于前向路径的整体KPI。例如,时延进行累加、成功率进行累乘。最后,可以通过对节点的KPI基于所确定的贡献进行组合来生成前向路径的整体KPI。
假设节点d1,d2,...,dn是前向路径的所有节点,分别指示每个节点的节点时延和节点包传输成功率,其属于节点的性能指标(KPI),前向路径的整体KPI如下:
根据本公开的一些实施例,可以生成算力网络中所有前向路径的前向路径评估表。更具体地,通过遍历算力网络中的接入节点和计算节点之间的所有前向路径,并评估它们的前向路径KPI,对于算力网络中所有前向路径的评估可被生成并以各种形式存储。特别地,可以预先生成用于前向路径评估的基本表。下表是基本前向路径评估表的示例。
表2
当然,类似于针对节点的方式,对于前向路径的这种性能评估可以在执行性能评估时主要针对任何期望的前向路径来执行,而不是针对网络中的所有前向路径来执行。
在下文中,将参照图8描述根据本公开的实施例的生成基本节点评估表和基本前向路径评估表的实施例。
在该过程中,首先,使用上述节点评估模型来评估KPI,并且可选地,如上所述,获得算力网络中所有节点的安全边界,并且生成基本节点评估表;然后,遍历算力网络中接入节点和计算节点之间的所有前向路径,对于每个前向路径,根据基本节点评估表搜索前向路径节点和节点之间的相关KPI,以评估前向路径的整体KPI,并生成基本前向路径评估表;然后,生成基本节点评估表和基本前向路径评估表。特别地,基本节点评估表和基本前向路径评估表可以周期性地、定期地或按需生成/更新。
因此,本公开可以生成用于节点评估的基本表,例如通过评估网络中所有节点的资源指标、KPI和资源消耗的安全边界,并且基于节点的KPI生成用于路径评估的基本表。通过查找两个表,可以快速评估每个节点的能力以及每个端到端前向路径的优缺点。考虑到与任务/业务特性/需求相关的一些约束,可以使用基本节点评估表来构建有效前向路径库,该前向路径库可以用于缩小前向路径搜索范围并加速对最优调度过程的搜索。
根据一些实施例,对于任务/业务在算力网络中进行资源调度可以包括对于至少一个任务/业务选择/调度算力网络中的从接入节点到计算节点的一条或多条最优前向路径。这样的一条或多条最优前向路径可以表示至少一条最优前向路径,例如最优前向路径、或包括多条前向路径的最优前向路径组合,其可以基于网络中至少一条前向路径的如上文所述评估的性能指标以多种方式(例如通过一种成本函数)进行选择/调度。在一些实施例中,可以对于一个任务/业务执行这种选择/调度,特别是为了满足/符合任务/业务需求,并且可选地考虑可能的约束。在一个示例中,对于任务/业务,可以从网络中包括的候选路径中确定接入节点和计算节点之间的最优前向路径。在一些实施例中,这种选择/调度可以针对两个或更多个任务/业务来执行,特别是为了满足两个或更多个任务/业务的要求,并且可选地考虑可能的约束。在一个示例中,对于两个或更多个任务/业务,可以确定最优路径的组合,其中最优路径的组合可以包括两条或更多条最优路径,每条最优路径对应于每个任务/业务,并且优选地,可以将这两个或更多个任务/业务视为一个整体,然后可以并发地确定这两条或更多条最优路径,以优化两个或更多个任务/业务的整体,例如使得两个或更多个任务/业务的总成本最小,即使每条路径对于每个单独的路径可能不是最优的。
根据本公开的一些实施例,选择一条或多条最优前向路径可以包括将综合评估成本函数应用于至少一条前向路径,并且在至少一条前向路径中选择对应于综合评估成本函数的最小成本的一条或多条适当前向路径作为一条或多条最优前向路径。在一些实施例中,综合评估成本函数可以被建模为综合考虑多种因素的函数,尤其是前向路径KPI与KPI需求的匹配程度,业务特性(例如前向路径风险概率、前向路径重要性、成本敏感度、时间敏感度、算力资源敏感度)、以及任何其他因素的函数。
在一些实施例中,综合评估成本函数由前向路径的性能指标和至少一个业务特性的加权组合构成。在一个示例中,对于一种类型的任务/业务或任务/业务需求,总的综合成本函数可以是
Ok(ak,KPIk)=A+B+C+D+E+F,其中每一项为
A:表示KPI匹配程度;
B:表示节点在网络中的重要性;
C;表示无风险概率;
D:表示成本敏感性;
E:表示时间敏感性;
F:表示资源敏感性;
其中分别是KPI匹配度、网络重要性、风险、成本敏感度、时间敏感度和算力资源敏感度的权重,它们可以与前向路径ak相关,可以被包括在可用于这种任务/业务的候选前向路径集合中。g(ak)是前向路径ak的前向路径KPI评估,其可以如上评估,并且它们的值可以在前向路径评估的基本表中找到。
因此,可以从对应于业务需求的前向路径候选集合中选择至少一条最优前向路径,以最小化业务需求的总综合成本函数。例如,前向路径候选集合中的每个前向路径可以被应用于总综合成本函数,以获得其相应的函数值,因此可以最小化总综合成本函数的至少一条前向路径将被选择为最优前向路径。最小化成本函数的方式可以包括本领域中任何合适的方式,这里不再详细描述。
在一些实施例中,给定n个任务/业务需求、对应的KPI需求和前向路径库对于一条前向路径该前向路径中所有节点的集合由表示,并且针对这n个任务/业务需求的总综合成本函数为因此,最优资源调度策略是选择一个能够最小化的前向路径组合(a1,...,an)。
特别地,这种前向路径组合可被以任何适当的方式获得。在一个示例中,可以分别最小化每个任务/业务需求,具体地,对于n个任务/业务需求中的第k个,可以从其对应的任务/业务的候选前向路径中确定或选择其对应的最优前向路径ak,如上所述,然后对于每个任务/业务需求,可以获得其对应的最优前向路径,然后进行组合以获得前向路径组合(a1,...,an)。在另一个例子中,任务/业务需求可以作为整体被最小化。具体地,可以将与第k任务/业务对应的候选前向路径集合中的每条前向路径代入表达式中包含的对应的第k个Ok(ak,KPIk),即在一轮计算中,利用n条前向路径,其中对于一个任务/业务需求,可以将对应的候选前向路径中包含的任一条前向路径用于成本函数的其对应部分中,然后确定总综合成本函数的值。从而,通过多轮计算,可以找到使总综合成本函数最小的前向路径组合作为最优前向路径组合。
在一些实施例中,可以根据业务需求来设置至少一个业务特性的权重。特别地,可以设置不同的权重来反映不同的业务需求。因此,对于一个任务/业务,可以根据任务/业务的性能要求来设置综合成本函数中每个因素的权重,然后可以将该成本函数应用于如上所述被评估的至少一条前向路径的性能指标,以找到可使得性能评估成本函数的成本最小的一条或多条特定前向路径,作为一条或多条最优前向路径。
特别地,并非上述所有因素,尤其是上述因素B,C,D,E,F都需要被包含在函数中,这可以通过设置相应的权重来实现,例如将权重设置为零。
在一个示例中,成本敏感型的任务/业务选择具有最低成本的前向路径来满足业务需求。设
在另一个例子中,时间敏感型的任务/业务选择具有最低时延的前向路径来满足业务需求。设
在又一个例子中,算力资源敏感型的任务/业务选择具有丰富算力资源的前向路径来满足业务需求。设
以下,将参照图10A描述根据本申请实施例的获取算力网络中用于资源调度的一条或多条最优前向路径的实施例。
首先,对于至少一条候选前向路径(a1,...,an),即前向路径组合,可以如下计算对应于至少一条前向路径的总综合成本函数的值:将至少一条前向路径应用于成本函数,然后遍历有效前向路径库,并计算各路径和路径组合的总综合成本函数;最后,找到最优的资源调度前向路径组合(a1,...,an)以使总综合成本最小。
本公开提供了基于多维度信息的综合成本函数以量化各种任务需求,多维度信息包括例如KPI匹配度、网络中节点的重要性、风险因素等,但不限于此,任务需求包括例如成本敏感型、时间敏感型、算力资源敏感型等,但不限于此。对于不同的KPI需求,不需要重构成本函数,只需要调整其因素权重。同时,综合成本函数可以通过成熟的优化算法(特别是损失函数优化、成本函数优化等)找到最优解。由于该技术充分考虑了多方信息,并采用成熟的方法求解,因此最优资源调度策略是可靠稳定的。
根据一些实施例,从中选择至少一条最优前向路径的至少一条前向路径可以对应于候选前向路径库,并且这种候选前向路径库可由算力网络中的所有前向路径以各种方式建立。在一个示例中,至少一条前向路径可以是算力网络中包括的所有前向路径。在另一个例子中,可以基于一些约束、要求、标准等从所有前向路径中选择至少一条前向路径。
在一些实施例中,对于任务/业务,要评估的至少一个节点和至少一条前向路径可以基于特定业务的约束来确定,并且其中特定业务的约束可以包括接入节点约束、计算节点约束、前向路径负载约束中的至少一个。例如,对接入节点的约束可以确定哪个(哪些)接入节点将执行该业务。
在下文中,将描述建立候选前向路径库的例子。根据服务业务需求和服务接入节点,基于网络信息和基本节点评估表,可以获得从终端接入节点到计算节点的单个或多个可用前向路径,形成有效前向路径库。如图9所示,给定业务需求,接入节点A1的业务流必须由节点G1承载,接入节点A2的业务流必须由节点G2承载。如果链路G2<->R4的负载超过70%,则应该避免包括该链路的前向路径。可以建立相应的候选库,如下表所示:
表3
下文将参照图10B描述根据本申请实施例的获取算力网络中用于资源调度的最优路径/路径组合的实施例。
首先,根据应用需求创建有效前向路径库,该有效前向路径库可以包含网络中的所有前向路径,或者可以包含考虑到上述一些约束而被设置的候选前向路径。
然后,考虑各种因素(例如与任务/业务特性相关的因素)来构建综合成本函数,每个因素的权重可以根据业务需求来设置,如上所述。
然后,利用综合成本函数对有效前向路径库的每个路径/路径组合进行评估,可以得到最小成本函数对应的一个路径/路径组合,作为最优资源调度策略。
应指出,如上所述的对于节点和前向路径的性能评估和综合成本函数的使用可以单独使用,或者可以组合使用。在前一种情况下,可以如上所述执行节点和前向路径的性能评估,然后可以利用本领域公知的成本函数,或者可以以传统方式执行节点和前向路径的性能评估,然后可以利用根据本公开实施例的综合成本函数。在后一种情况下,可以如上所述执行节点和前向路径的性能评估,然后可以利用根据本公开的综合成本函数。
在下文中,将参照图11描述与算力网络的示例性资源调度相关的本公开的一些实施例,图11示出了根据本公开实施例的用于算力网络的资源调度的整个过程的流程图。
整个过程的第一步骤是标准化业务需求,特别是将当前业务SLA映射到标准化算力KPI和网络KPI。
例如,对于采用本申请的方案的应用,服务/业务的服务级别协议(SLA)可以被用来导出算力网络或其中的节点的KPI。SLA可以指示用户体验的KPI,例如带宽、时延、连接丢失率等。下表示意性地示出了计算节点和算力网络的SLA要求。例如,业务SLA到标准化算力KPI和网络KPI的映射如下表所示。
表4
然后,对算力网络中包含的节点进行性能评估。这种性能评估可以针对算力网络中的所有节点,因此可以生成基本节点评估表;或者,这种性能评估可以主要针对应用/业务可能需要/约束的特定节点来执行,该特定节点包括例如,承载应用/业务的数据流所需要的接入节点,以及算力网络中可能与该接入节点相关联并形成算力网络中的前向路径的其他接入节点。
节点的性能评估可以包括首先从节点的资源指标获取节点的性能指标,特别地可以通过对节点的资源指标采用函数或评估模型来获取节点的性能指标,如上所述。根据算力网络的资源信息和网络拓扑信息,构建算力网络节点的资源信息与性能指标(KPI)之间的函数或模型映射关系。
如上所述,节点的性能评估还可以包括参照节点的资源和KPI之间的关系曲线上的拐点KPI来确定关于节点的资源消耗的约束,即安全资源边界。在一个示例中,遍历所有算力网络节点的安全边界以及历史资源消耗和性能指标的统计,以生成用于算力网络节点评估的基本表。
然后,基于包括在前向路径中的节点的性能评估来执行包括在算力网络中的前向路径的性能评估。在一个实现中,可以对算力网络中包括的所有前向路径执行这种前向路径的性能评估,从而可以为整个网络生成基本前向路径评估表。在另一种实现方式中,这种前向路径的性能评估可以针对由业务需求获取/约束的一些特定前向路径进行,例如基于业务的约束(例如对接入节点的约束、对前向路径的负载约束等)由算力网络中包含的节点构成的前向路径,从而可以针对算力网络中少量的节点和前向路径进行性能评估,这可在一定程度上降低处理/计算开销。换句话说,在对算力网络中的节点和前向路径进行性能评估之前,可以考虑业务特性(例如业务的约束)来获取/确定特定的节点和前向路径,从而可以主要针对这样获取/确定的特定节点和前向路径,而不是算力网络中所有可能的节点和前向路径,进行性能评估。
然后,为任务/业务确定最优的资源调度策略,具体地,基于对前向路径的性能评估,可以获得至少一条最优前向路径,例如最优前向路径或前向路径的最优组合。具体地,可以基于前向路径的性能评估以及业务的需求来创建综合成本函数,然后借助于这样的综合成本函数,可以获取使该函数的成本最小的至少一条前向路径,作为满足业务需求的至少一条最优前向路径。
在一种实现方式中,根据应用需求,通过查找节点评估基本表和前向路径评估基本表,可以获得从应用端到计算节点的一条或多条可选前向路径作为有效前向路径库。利用综合成本函数评估有效前向路径库中的每条候选前向路径,选择综合成本函数最小的前向路径作为最优资源调度策略。
在下文中,将描述根据本公开的一些实施例的用于算力网络的资源调度的设备/装置,并且这种设备/装置可被以多种方式实现。
在一些实施例中,该设备/装置可以包括处理电路,其被配置为针对包括在算力网络中的至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标来获取该节点的节点性能指标;对于包括在算力网络中的至少一条前向路径中的每一个,基于构成前向路径的节点的性能指标来获取前向路径的前向路径性能指标;以及响应于对算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
应指出,这种处理电路可以被配置成实现根据本公开的方法的过程/操作。
资源调度设备/装置可被以多种方式实现。在一个示例中,根据本公开的资源调度设备/装置,特别是其处理电路,可以包括用于执行如上所述由处理电路执行的操作的单元,如图12所示,图12示出了根据本公开实施例的资源调度设备/装置的示意框图。
如图12所示,在资源调度设备/装置1200中,处理电路1202可以包括节点性能指标获取单元1204,用于对于算力网络中包括的该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;前向路径性能指标获取单元1206,被配置为对于算力网络中包括的该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及选择单元1208,被配置为响应于对算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
在一个实施例中,节点性能指标获取单元1204还进一步配置为通过性能评估模型根据节点和至少一个影响节点的资源指标进行性能评估,以获得评估结果作为节点的节点性能指标。在一种实现方式中,这种性能评估可以由评估单元来执行,该评估单元可以被包括在节点性能指标获取单元1204中。
在一个实施例中,节点性能指标获取单元1204可以包括影响节点选择单元,该影响节点选择单元可以针对要获取其节点性能指标的节点,基于该节点和算力网络中的其他节点之间的相关性从算力网络中的节点中选择至少一个影响节点。影响节点的这种相关性和选择可以如上所述。应指出,这种影响节点还可以由任何其他组件获得,例如单元1204外部的组件、处理电路1202外部的组件、甚至设备1200外部的组件,然后可以输入到单元1204中。
在一些实施例中,处理电路1202可以包括确定单元1210,该确定单元1210被配置为对于至少一个节点中的每一个,基于该节点的资源指标和性能指标之间的对应关系来确定该节点的资源约束。应指出,这种确定单元可以在处理电路的外部并且可以包括在设备1200中,或者甚至在设备1200的外部,并且所确定的资源约束可以与节点相关联,例如构成节点表。
在一些实施例中,确定单元1210可以被配置为获取节点的资源指标和性能指标之间的对应关系曲线,以及获取曲线上与特定性能指标点对应的资源值作为节点的资源约束,其中,特定性能指标点在曲线斜率变化的情况下对应于曲线中的特定性能拐点,或者在曲线为线性的情况下对应于曲线中的性能阈值点。
在一些实施例中,路径性能指标获取单元1206可以包括组合单元,该组合单元被配置为组合前向路径中包括的所有节点的性能指标,以获取前向路径的整体前向路径性能指标。
在一些实施例中,节点的节点性能指标可以包括对应于至少一种类型的性能特性的至少一个分量,并且组合单元可以被配置成以根据相应性能特性设置的相应方式组合节点的相应性能指标分量。
在一些实施例中,选择单元可以被配置为将至少一条前向路径应用于综合评估成本函数,并且从至少一条前向路径中选择对应于综合评估成本函数的最小成本的至少一条最优前向路径。
应指出,尽管这些单元被示出在处理电路1202中,但这仅仅是示例性的,并且这些单元中的至少一个也可以在处理电路之外,甚至在服务提供者之外。上述各个单元只是根据其实现的具体功能划分的逻辑模块,并不限制具体的实现方式,例如,这些单元以及处理电路甚至服务提供者都可以用软件、硬件或者软硬件结合的方式实现。在实际实现中,上述单元可以实现为独立的物理实体,或者可以由单个实体(例如,处理器(中央处理单元(CPU)或数字信号处理器(DSP)等)、集成电路等)来实现。此外,上述各个单元在附图中用虚线示出,以指示这些单元可能实际上不存在,并且它们实现的操作/功能可以由处理电路本身来实现。
应理解,图12仅仅是资源调度装置/设备的示意性结构配置,并且可选地,资源调度装置/设备还可以包括未示出的其他可能的组件,例如存储器、射频级、基带处理单元、网络接口、控制器等。处理电路可以与存储器和/或天线相关联。例如,处理电路可以直接或间接(例如,其他组件可以连接在其间)连接到存储器用于数据访问。此外,例如,处理电路可以直接或间接地连接到天线,以经由通信单元发送信号并经由通信单元接收无线电信号。
存储器可以存储各种类型的信息,例如,由处理电路1202生成的模型训练和模型评估相关信息,以及由调度设备操作的程序和数据、要由调度设备发送的数据等。存储器也可以位于调度设备内部,但是在处理电路外部,或者甚至在调度设备外部。存储器可以是易失性存储器和/或非易失性存储器。例如,存储器可以包括但不限于随机存取存储器(RAM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、只读存储器(ROM)和闪存。
应指出,上述描述仅仅是示例性的。本公开的实施例还可被以任何其它适当的方式执行,仍可实现本公开的实施例所获得的有利效果。此外,本公开的实施例还可应用于其它类似的应用实例,仍可实现本公开的实施例所获得的有利效果。应当理解,根据本公开实施例的机器可读存储介质或程序产品中的机器可执行指令可以被配置为执行与上述设备和方法实施例相应的操作。当参考上述设备和方法实施例时,机器可读存储介质或程序产品的实施例对于本领域技术人员而言是明晰的,因此不再重复描述。用于承载或包括上述机器可执行指令的机器可读存储介质和程序产品也落在本公开的范围内。这样的存储介质可以包括但不限于软盘、光盘、磁光盘、存储卡、存储棒等等。
另外,应当理解,上述系列处理和设备也可以通过软件和/或固件实现。在通过软件和/或固件实现的情况下,构成对应软件的对应程序被存储在相关设备的存储介质中,并且在程序被执行时,可以实现各种功能。作为示例,可从存储介质或网络向具有专用硬件结构的计算机,例如图13所示的通用个人计算机1300,安装构成该软件的程序,该计算机在安装有各种程序时,能够执行各种功能等等。图13是示出根据本公开实施例中可采用的信息处理设备的个人计算机的示例结构的框图。在一个例子中,该个人计算机可以对应于根据本公开实施例的用于算力网络的资源调度的设备/装置。
在图13中,中央处理单元(CPU)1301根据只读存储器(ROM)1302中存储的程序或从存储部分1308加载到随机存取存储器(RAM)1303的程序执行各种处理。在RAM 1303中,也根据需要存储当CPU 1301执行各种处理等时所需的数据。
CPU 1301、ROM 1302和RAM 1303经由总线1304彼此连接。输入/输出接口1305也连接到总线1304。
下述部件连接到输入/输出接口1305:输入部分1306,包括键盘、鼠标等;输出部分1307,包括显示器,比如阴极射线管(CRT)、液晶显示器(LCD)等,和扬声器等;存储部分1308,包括硬盘等;和通信部分1309,包括网络接口卡比如LAN卡、调制解调器等。通信部分1309经由网络比如因特网执行通信处理。
根据需要,驱动器1310也连接到输入/输出接口1305。可拆卸介质1311比如磁盘、光盘、磁光盘、半导体存储器等等根据需要被安装在驱动器1310上,使得从中读出的计算机程序根据需要被安装到存储部分1308中。
在通过软件实现上述系列处理的情况下,从诸如因特网的网络或诸如可拆卸介质1311的存储介质安装构成软件的程序。
本领域技术人员应当理解,这种存储介质不局限于图13所示的其中存储有程序、与设备相分离地分发以向用户提供程序的可拆卸介质1311。可拆卸介质1311的例子包含磁盘(包含软盘)、光盘(包含光盘只读存储器(CD-ROM)和数字通用盘(DVD))、磁光盘(包含迷你盘(MD)(TM))和半导体存储器。作为替代,存储介质可以是ROM 1302、存储部分1308中包含的硬盘等等,其中存有程序,并且与包含它们的设备一起被分发给用户。
例如,应理解,在以上实施例中包括在一个单元中的多个功能可以由分开的装置来实现。可替代地,在以上实施例中由多个单元实现的多个功能可分别由分开的装置来实现。另外,以上功能之一可由多个单元来实现。当然,这样的配置包括在本公开的技术范围内。
文中,流程图中所描述的步骤不仅包括以所述时间顺序执行的处理,而且包括并行地或单独地执行的、而不是必须按时间顺序执行的处理。此外,不用说,甚至在按时间顺序处理的步骤中,也可以适当地改变该顺序。
虽然已经详细说明了本公开及其优点,但是应当理解在不脱离由所附的权利要求所限定的本公开的精神和范围的情况下,可以进行各种改变、替代和变换。此外,本公开实施例的术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其它要素,或者还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
虽然已详细描述了本公开的一些具体实施例,但是本领域技术人员应当理解,上述实施例仅是说明性的,而不限制本公开的范围。本领域技术人员应该理解,上述实施例可以被组合、修改或替换而不脱离本公开的范围和实质。
Claims (19)
1.一种在算力网络中进行资源调度的方法,其中算力网络包括至少一个节点,在该至少一个节点之间存在至少一条前向路径,该方法包括以下步骤:
对于算力网络中包括的该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;
对于算力网络中包括的该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及
响应于对算力网络的业务需求,基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
2.根据权利要求1所述的方法,其中,所述至少一个节点包括至少一个接入节点、至少一个中间节点和至少一个计算节点,并且所述至少一条前向路径包括从一个接入节点经由至少一个中间节点到一个计算节点的前向路径。
3.根据权利要求1或2所述的方法,其中,获取节点的节点性能指标包括通过性能评估模型根据节点和至少一个影响节点的资源指标进行性能评估,以获得评估结果作为节点的节点性能指标。
4.根据权利要求1所述的方法,其中,对于要获取其节点性能指标的节点,其至少一个影响节点是基于该节点和算力网络中的其他节点之间的相关性从算力网络中的节点中选择的,以及
其中,算力网络中的节点和其他节点之间的相关性能够包括算力网络的拓扑结构中的节点和其他节点之间的位置相关性、链路/路径相关性、社区相关性中的至少一个。
5.根据权利要求1所述的方法,其中,对于要获取其节点性能指标的节点,其至少一个影响节点属于以下之一:
其性能评估被自身确定的节点;
算力网络中包含的与该节点有k度关系的节点;
算力网络中与该节点链接的节点;和
算力网络中与该节点属于同一社区的节点。
6.根据权利要求1所述的方法,进一步包括:
对于所述至少一个节点中的每一个,基于该节点的资源指标和性能指标之间的对应关系来确定该节点的资源约束。
7.根据权利要求6所述的方法,其中,节点的资源约束对应于节点可用的最大资源,该最大资源将导致节点的性能达到性能阈值或者不会导致节点的性能显著降低。
8.根据权利要求6或7所述的方法,其中确定节点的资源约束包括:
获取节点的资源指标和性能指标之间的对应关系曲线,以及
获取曲线上与特定性能指标点对应的资源值作为节点的资源约束,
其中,特定性能指标点在曲线斜率变化的情况下对应于曲线中的特定性能拐点,或者在曲线为线性的情况下对应于曲线中的性能阈值点。
9.根据权利要求8所述的方法,其中,所述曲线中的特定性能拐点对应于基于被平滑的关系曲线的斜率的概率分布而确定的曲线斜率变化的临界值,和/或
其中,性能阈值点对应于曲线中根据经验设定的性能阈值点。
10.根据权利要求1-9中任一项所述的方法,其中获取该前向路径的前向路径性能指标包括:
组合前向路径中包含的所有节点的性能指标,获得前向路径的整体前向路径性能指标。
11.根据权利要求10所述的方法,其中,节点的节点性能指标包括对应于至少一种类型的性能特性的至少一个分量,并且其中组合所有节点的性能指标包括:
以根据相应性能特性设置的相应方式组合节点的相应性能指标分量。
12.根据权利要求1-11中任一项所述的方法,其中,选择最优前向路径包括:
将所述至少一个前向路径中的每一个应用于综合评估成本函数,以及
在所述至少一条前向路径中选择与所述综合评估成本函数的最小成本对应的前向路径作为最优前向路径。
13.根据权利要求12所述的方法,其特征在于,所述综合评估成本函数由前向路径的性能指标和至少一个业务特性的加权组合构成。
14.根据权利要求12或13所述的方法,其中,根据业务需求来设置至少一个业务特性的权重。
15.根据权利要求1-14中任一项所述的方法,其中所述至少一个节点和至少一条前向路径是基于特定业务的约束来确定的,并且,
其中特定业务的约束能够包括接入节点约束、计算节点约束、前向路径负载约束中的至少一个。
16.一种在算力网络中进行资源调度的电子设备,其中算力网络包括至少一个节点,在该至少一个节点之间存在至少一条前向路径,并且该电子设备包括处理电路,该处理电路被配置为:
对于算力网络中包括的该至少一个节点中的每一个,基于该节点和与该节点相关的至少一个影响节点的资源指标,获取该节点的节点性能指标;
对于算力网络中包括的该至少一条前向路径中的每一条,基于构成该前向路径的节点的性能指标来获取该前向路径的前向路径性能指标;以及
基于至少一条前向路径的前向路径性能指标,从至少一条前向路径中选择至少一条最优前向路径。
17.一种装置,包括:
一个或多个处理器;和
一个或多个存储指令的存储介质,所述指令在由一个或多个处理器执行时使得根据权利要求1-15中任一项的方法被执行。
18.一种存储指令的计算机可读存储介质,所述指令在由一个或多个处理器执行时使得根据权利要求1-15中任一项所述的方法被执行。
19.一种用于算力网络中的资源调度的设备,包括用于执行根据权利要求1-15中任一项所述的方法的装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2022/095280 WO2023225952A1 (en) | 2022-05-26 | 2022-05-26 | Resource scheduling method for computing force network |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117203944A true CN117203944A (zh) | 2023-12-08 |
Family
ID=88918140
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280016595.2A Pending CN117203944A (zh) | 2022-05-26 | 2022-05-26 | 算力网络的资源调度方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN117203944A (zh) |
WO (1) | WO2023225952A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117434990A (zh) * | 2023-12-20 | 2024-01-23 | 成都易联易通科技有限责任公司 | 粮仓的环境控制方法和系统 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117762632B (zh) * | 2023-12-26 | 2024-07-12 | 浙江仙宫云科技有限公司 | 一种基于算力操作系统的算力管理方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10735284B2 (en) * | 2017-12-15 | 2020-08-04 | International Business Machines Corporation | System and method for managing a moving peer-to-peer network |
CN113448721A (zh) * | 2020-03-27 | 2021-09-28 | 中国移动通信有限公司研究院 | 算力处理的网络系统及算力处理方法 |
CN113709048A (zh) * | 2020-05-21 | 2021-11-26 | 中国移动通信有限公司研究院 | 一种路由信息的发送、接收方法、网元及节点设备 |
CN113079218B (zh) * | 2021-04-09 | 2023-06-27 | 网络通信与安全紫金山实验室 | 一种面向服务的算力网络系统、工作方法及存储介质 |
CN113364850B (zh) * | 2021-06-01 | 2023-02-14 | 苏州路之遥科技股份有限公司 | 软件定义云边协同网络能耗优化方法和系统 |
-
2022
- 2022-05-26 WO PCT/CN2022/095280 patent/WO2023225952A1/en active Application Filing
- 2022-05-26 CN CN202280016595.2A patent/CN117203944A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117434990A (zh) * | 2023-12-20 | 2024-01-23 | 成都易联易通科技有限责任公司 | 粮仓的环境控制方法和系统 |
CN117434990B (zh) * | 2023-12-20 | 2024-03-19 | 成都易联易通科技有限责任公司 | 粮仓的环境控制方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
WO2023225952A1 (en) | 2023-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7953843B2 (en) | System and method for evaluating a heterogeneous cluster for supporting expected workload in compliance with at least one service parameter | |
Li et al. | An efficient and reliable approach for quality-of-service-aware service composition | |
Nabi et al. | Resource assignment in vehicular clouds | |
Sun et al. | The cost-efficient deployment of replica servers in virtual content distribution networks for data fusion | |
WO2018176385A1 (en) | System and method for network slicing for service-oriented networks | |
CN117203944A (zh) | 算力网络的资源调度方法 | |
Qi et al. | A context-aware service evaluation approach over big data for cloud applications | |
US20060036743A1 (en) | System for balance distribution of requests across multiple servers using dynamic metrics | |
US8060599B2 (en) | System and method for determining a streaming media server configuration for supporting expected workload in compliance with at least one service parameter | |
US20140089510A1 (en) | Joint allocation of cloud and network resources in a distributed cloud system | |
US11138166B2 (en) | Database tuning using a federated machine learning system of a centerless network | |
Wang et al. | Network-aware QoS prediction for service composition using geolocation | |
CN111752706A (zh) | 资源配置方法、装置及存储介质 | |
CN116192960A (zh) | 基于约束条件的算力网络集群动态构建方法及系统 | |
Kokkinos et al. | Scheduling efficiency of resource information aggregation in grid networks | |
US9021094B1 (en) | Allocation of resources for tiers of a multi-tiered system based on selecting items from respective sets | |
Irawan et al. | Network slicing algorithms case study: virtual network embedding | |
CN103825963B (zh) | 虚拟服务迁移方法 | |
Huang et al. | Reliable and efficient big service selection | |
Alam et al. | Reliability-based formation of cloud federations using game theory | |
Xia et al. | Age-aware query evaluation for big data analytics in mobile edge clouds | |
Li et al. | An adaptive read/write optimized algorithm for Ceph heterogeneous systems via performance prediction and multi-attribute decision making | |
CN114385359B (zh) | 一种物联网云边端任务时序协同方法 | |
CN117640386A (zh) | 网络切片资源自适应调整方法、装置、存储介质及电子设备 | |
Huang | The value-of-information in matching with queues |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |