CN116708578A - 算力提供方法、算力请求方法、隧道端点设备以及介质 - Google Patents
算力提供方法、算力请求方法、隧道端点设备以及介质 Download PDFInfo
- Publication number
- CN116708578A CN116708578A CN202310834508.0A CN202310834508A CN116708578A CN 116708578 A CN116708578 A CN 116708578A CN 202310834508 A CN202310834508 A CN 202310834508A CN 116708578 A CN116708578 A CN 116708578A
- Authority
- CN
- China
- Prior art keywords
- tunnel endpoint
- endpoint device
- gre
- power
- calculation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 141
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000005538 encapsulation Methods 0.000 claims abstract description 11
- 238000012545 processing Methods 0.000 claims description 11
- 238000010586 diagram Methods 0.000 description 12
- 230000008901 benefit Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
- H04L12/4633—Interconnection of networks using encapsulation techniques, e.g. tunneling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
- H04L12/4641—Virtual LANs, VLANs, e.g. virtual private networks [VPN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本公开提供了一种算力提供方法、算力请求方法、隧道端点设备、算力系统以及存储介质,其中的算力提供方法包括:第一隧道端点设备向第二隧道端点设备发送通用路由封装GRE协议算力通知消息,GRE协议算力通知消息携带的信息包括算力信息,第一隧道端点设备基于第二隧道端点设备发送的算力服务请求消息提供算力服务。本公开通过GRE协议消息传递算力信息,使隧道端点设备根据GRE协议消息携带的算力信息进行算力调度,满足在GRE网络中的算力调度需求;通过在GRE网络中根据算力信息确定算力路由,实现算力调度的合理化,有效节省网络资源,提高了用户的使用感受。
Description
技术领域
本发明涉及通信技术领域,尤其涉及一种算力提供方法、算力请求方法、隧道端点设备、算力系统以及存储介质。
背景技术
Underlay(底层承载)网络使用IGP(Interior Gateway Protocol,内部网关协议)路由信息进行业务的调度管理,无法实现Overlay(重叠)网络的算力资源调度。现有算力网络通常基于传统三层网络(Underlay网络)进行算力资源调度,并不适用于使用GRE(Generation Routing Encapsulation,通用路由封装)协议构建的Overlay网络,并且,现有算力网络通常采用控制器对各节点进行编排调度,控制器无法基于网络信息自动进行信息同步和调度,无法应用于使用GRE协议构建的Overlay网络。
发明内容
有鉴于此,本发明要解决的一个技术问题是提供一种算力提供方法、算力请求方法、隧道端点设备、算力系统以及存储介质。
根据本公开的第一方面,提供一种算力提供方法,应用于第一隧道端点设备,包括:向第二隧道端点设备发送通用路由封装GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;基于接收到的、所述第二隧道端点设备发送的算力服务请求消息,提供算力服务。
可选地,在与所述算力信息对应的资源发生不可用或被迁移的情况下,向所述第二隧道端点设备发送GRE协议算力撤销通知消息。
可选地,所述算力信息为与所述第一隧道端点设备连接的服务器的算力信息;所述向第二隧道端点设备发送GRE协议算力通知消息包括:在所述服务器启动并与所述第一隧道端点设备连接的情况下,向所述向第二隧道端点设备发送所述GRE协议算力通知消息。
可选地,在所述第一隧道端点设备和所述第二隧道端点设备之间建立的GRE隧道中,向所述向第二隧道端点设备发送所述GRE协议算力通知消息。
可选地,所述算力服务请求包括:GRE协议算力服务请求消息;接收所述第二隧道端点设备在所述GRE隧道中发送所述GRE协议算力服务请求消息。
可选地,所述向所述第二隧道端点设备发送GRE协议算力撤销通知消息包括:在所述GRE隧道中,向所述第二隧道端点设备发送所述GRE协议算力撤销通知消息。
可选地,在所述GRE协议算力通知消息中,通过GRE报文头中的扩展字段携带所述算力信息;在所述GRE协议算力撤销通知消息中,通过GRE报文头中的扩展字段携带撤销通知信息。
可选地,所述算力信息包括:中央处理器资源、图形处理器资源、数据处理单元资源和内存资源中的至少一种资源的信息。
可选地,所述GRE协议包括:IPV6 GRE协议。
根据本公开的第二方面,提供一种算力请求方法,应用于第二隧道端点设备,包括:接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;基于所述算力信息确定算力路由;根据所述算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
可选地,在接收到所述目标第一隧道端点设备和/或其他所述第一隧道端点设备发送的GRE协议算力撤销通知消息的情况下,基于所述算力信息确定新算力路由。
可选地,在客户端启动并与所述第二隧道端点设备连接的情况下,基于所述算力信息确定算力路由。
可选地,接收所述第一隧道端点设备在所述第一隧道端点设备和所述第二隧道端点设备之间建立的GRE隧道中发送的所述GRE协议算力通知消息。
可选地,接收所述目标第一隧道端点设备和/或其他第一隧道端点设备在所述GRE隧道中发送的所述GRE协议算力撤销通知消息。
可选地,所述算力服务请求包括:GRE协议算力服务请求消息;所述向所述目标第一隧道端点设备发送GRE算力服务请求消息包括:在所述目标第一隧道端点设备和所述第二隧道端点设备之间的GRE隧道中,向所述目标第一隧道端点设备发送GRE算力服务请求消息。
可选地,在所述GRE协议算力通知消息中,通过GRE报文头中的扩展字段携带所述算力信息;在所述GRE协议算力撤销通知消息中,通过GRE报文头中的扩展字段携带撤销通知信息。
根据本公开的第三方面,提供一种第一隧道端点设备,包括:算力通知模块,用于向第二隧道端点设备发送通用路由封装GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;服务提供模块,用于基于接收到的所述第二隧道端点设备发送的算力服务请求消息,提供算力服务。
根据本公开的第四方面,提供一种第一隧道端点设备,包括:存储器;以及耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如上所述的算力提供方法。
根据本公开的第五方面,提供一种第二隧道端点设备,包括:算力接收模块,用于接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;目标确定模块,用于基于所述算力信息确定算力路由;服务请求模块,用于根据所述算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
根据本公开的第六方面,提供一种第二隧道端点设备,包括:存储器;以及耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如上所述的算力请求方法。
根据本公开的第七方面,提供一种算力系统,包括:如上所述的第一隧道端点设备、如上所述的第二隧道端点设备。
根据本公开的第八方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行如上所述的方法。
本公开的算力提供方法、算力请求方法、隧道端点设备、算力系统以及存储介质,通过GRE协议消息传递算力信息,使隧道端点设备根据GRE协议消息携带的算力信息进行算力调度,满足在GRE网络中的算力调度需求;通过在GRE网络中根据算力信息确定算力路由,实现算力调度的合理化,有效节省网络资源,提高了用户的使用感受。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。下面结合具体的实施例,并参照附图,对本公开的上述和其它目的和优点做进一步的描述。在附图中,相同的或对应的技术特征或部件将采用相同或对应的附图标记来表示。
图1为根据本公开的算力提供方法的一个实施例的流程示意图;
图2为GRE协议报文中的保留字段的示意图;
图3为第一隧道端点设备向第二隧道端点设备提供算力服务的流程示意图;
图4为根据本公开的算力请求方法的一个实施例的流程示意图;
图5为第二隧道端点设备的路由选择示意图;
图6为根据本公开的第一隧道端点设备的一个实施例的模块示意图;
图7为根据本公开的第一隧道端点设备的另一个实施例的模块示意图;
图8为根据本公开的第二隧道端点设备的一个实施例的模块示意图;
图9为根据本公开的第二隧道端点设备的另一个实施例的模块示意图;
图10为根据本公开的算力网络的一个实施例的模块示意图。
具体实施方式
在下文中将结合附图对本公开的示范性实施例进行描述。为了清楚和简明起见,在说明书中并未描述实施例的所有特征。然而,应该了解,在对实施例进行实施的过程中必须做出很多特定于实施方式的设置,以便实现开发人员的具体目标,例如,符合与设备及业务相关的那些限制条件,并且这些限制条件可能会随着实施方式的不同而有所改变。此外,还应该了解,虽然开发工作有可能是非常复杂和费时的,但对得益于本公开内容的本领域技术人员来说,这种开发工作仅仅是例行的任务。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
此外,为了避免因不必要的细节而模糊了本公开,在附图中仅仅示出了与至少根据本公开的方案密切相关的处理步骤和/或设备结构,而省略了与本公开关系不大的其他细节。还应注意,在附图中相似的附图标记和字母指示相似的项目,并且因此一旦一个项目在一个附图中被定义,则对于随后的附图无需再对其进行论述。
在发明人所知晓的相关技术中,Underlay网络是负责传递数据包的物理网络,由交换机和路由器等设备组成,借助以太网协议、路由协议和VLAN协议等驱动。Underlay网络内的所有网络组件都必须通过使用IGP等路由协议来确定IP连接。Overlay网络是使用网络虚拟化在物理基础设施之上建立连接的逻辑网络,实现了控制平面与转发平面的分离。
Underlay网络使用等路由协议进行业务的调度管理,无法实现Overlay网络的算力资源调度。GRE协议是一种用于跨越网络的协议,可以将一种网络协议的数据包封装在另一种网络协议的数据包中,以便在不同网络之间传输。GRE协议由一个头部(header)和一个负载(payload)组成,头部用于存储关于数据包的信息,负载用于存储要传输的数据。GRE协议可以用于构建虚拟专用网络(VPN),以提高网络安全性。GRE协议使用IP协议作为传输层协议,在IP协议的基础上封装其他网络层协议,以实现不同网络层之间的通信。
现有算力网络通常基于传统三层网络(Underlay)进行算力资源调度,并不适用于使用GRE协议的Overlay网络,其中,使用GRE协议的Overlay网络为GRE网络;并且,现有的算力网络通常采用控制器对各节点进行编排调度,控制器无法基于网络信息自动进行信息同步和调度,无法应用于GRE网络。有鉴于此,本公开提出一种在Overlay网络中基于GRE协议进行算力处理的技术方案。
图1为根据本公开的算力提供方法的一个实施例的流程示意图,此算力提供方法应用于第一隧道端点设备,如图1所示:
步骤101,向第二隧道端点设备发送GRE协议算力通知消息;其中,GRE协议算力通知消息携带的信息包括算力信息。
在一个实施例中,隧道端点(Tunnel End Point)设备部署在GRE网络(GRE网络为使用GRE协议的Overlay网络)中,进行报文的封装和解封装。第一隧道端点设备和第二隧道端点设备之间可以建立一条或多条隧道,第一隧道端点设备向第二隧道端点设备发送的GRE协议算力通知消息为使用GRE协议封装的算力通知消息,在GRE隧道中发送。GRE协议可以为IPV6 GRE协议等,IPV6 GRE协议可以把不同网络层协议封装在IP V6协议中,实现不同网络层之间的通信。使用IPV6 GRE协议对算力通知消息进行封装,使被封装的GRE协议算力通知消息可以在IPv6网络中传输。
算力信息包括算力资源的信息,算力资源包括中央处理器(Central ProcessingUnit,CPU)资源、图形处理器(Central Processing Unit,GPU)资源、数据处理单元(DataProcessing Units,DPU)资源和内存资源等资源中的至少一种。GRE协议算力通知消息携带的算力信息包括CPU资源、GPU资源、DPU资源、内存资源等资源的信息。例如,CPU资源信息包括CPU资源的频率等信息。
步骤102,基于接收到的、第二隧道端点设备发送的算力服务请求消息,提供算力服务。
在一个实施例中,第一隧道端点设备使用现有的多种方法向第二隧道端点设备连接的设备提供算力服务,以使与第二隧道端点设备连接的设备能够利于与第一隧道端点设备连接的服务器等资源。第一隧道端点设备在接收到第二隧道端点设备发送的算力服务请求消息之后,基于算力服务请求消息确定第二隧道端点设备需要的算力服务。
例如,算力服务请求为对于一张图像进行人脸识别的请求,算力服务请求消息携带此图像、人脸识别请求代码以及与第二隧道端点设备连接的设备IP等信息。第一隧道端点设备接收到算力服务请求后,将此图像发送给与第一隧道端点设备连接的服务器等资源进行人脸分析。
第一隧道端点设备将人脸识别结果基于算力路由返回第二隧道端点设备,由第二隧道端点设备将识别结果返回与第二隧道端点设备连接的设备,人脸识别结果包括人脸识别结果、第二隧道端点设备连接的设备IP等信息。算力路由为第二隧道端点设备在进行路径选择时,考虑算力信息确定的数据转发路由,并发送给第一隧道端点设备。
上述实施例中的算力提供方法,通过GRE协议消息传递算力信息,使隧道端点设备根据GRE协议消息携带的算力信息进行算力调度,满足在GRE网络中的算力调度需求。
在一个实施例中,算力信息为与第一隧道端点设备连接的服务器的算力信息,在服务器启动并与第一隧道端点设备连接的情况下,向第二隧道端点设备发送GRE协议算力通知消息。例如,在第一隧道端点设备和第二隧道端点设备之间的GRE隧道中,第一隧道端点设备向第二隧道端点设备发送GRE协议算力通知消息。
GRE可以作为VPN的第三层隧道(Tunnel)协议,为VPN数据提供透明传输通道。GRE协议提供了对IPV6协议等协议的报文封装的机制,使报文能够在异种网路中传输,异种报文传输的通道称为隧道Tunnel,隧道是一个虚拟的点对点的连接,封装的数据报文能够在隧道中传输,并在隧道的两端分别对报文进行封装及解封装。
系统可以为GRE隧道分配接口号,将源地址、目的地址和接口号等信息下发给第一隧道端点设备和第二隧道端点设备,第一隧道端点设备和第二隧道端点设备可以使用现有的多种方法在第一隧道端点设备和第二隧道端点设备之间建立GRE隧道,GRE隧道可以为IPv6 GRE隧道等。
在一个实施例中,第一隧道端点设备接收第二隧道端点设备在GRE隧道中发送的GRE协议算力服务请求消息。算力服务请求消息可以为多种请求消息。例如,算力服务请求消息包括GRE协议算力服务请求消息等,GRE协议算力服务请求消息为使用GRE协议封装的算力服务请求消息,算力服务请求消息可以为多种IP消息,算力服务请求消息携带的信息包括算力请求信息和与第二隧道端点设备连接的设备IP等,算力请求信息可以为人脸识别信息等。
在与算力信息对应的资源发生不可用或被迁移的情况下,第一隧道端点设备向第二隧道端点设备发送GRE协议算力撤销通知消息。与算力信息对应的资源发生不可用或被迁移的情况包括提供算力服务的服务器发生宕机、迁移等情况,算力撤销通知消息携带的信息包括停止服务信息等信息。第一隧道端点设备向第二隧道端点设备发送的GRE协议算力通知消息为使用GRE协议封装的算力撤销通知消息。例如,在GRE隧道中,向第二隧道端点设备发送GRE协议算力撤销通知消息。
在一个实施例中,在GRE协议算力通知消息中,可以通过GRE报文头中的扩展字段携带算力信息;在GRE协议算力撤销通知消息中,可以通过GRE报文头中的扩展字段携带撤销通知信息。
通过扩展定义的GRE协议字段传递算力信息,算力信息包括CPU资源、GPU资源、DPU资源、内存资源等资源的信息。在第二隧道端点设备上进行选路时,将第一隧道端点设备发送的算力信息作为确定路由(算力路由)的参考依据之一。
对GRE报文中的保留字段进行定义扩展,生成扩展字段,不改变原有报文结构,扩展字段用于算力信息通告,GRE报文包括头部和负载两部分组成,头部包括GRE报文头。系统收到需要进行封装和路由的某网络层协议(例如IPV4,IPV6等协议)数据时,对数据加上GRE报文头,使之成为GRE报文,再将其封装在另一协议(例如IPV4,IPV6等协议)中,此报文的转发可以完全由IP协议负责。
GRE报文头的格式如图2所示,C为校验和验证位,保留字段0(Reserved0)为保留字段,Ver为版本字段,协议类型(Protocol Type)为封装前的报文协议,检验和(Checksum)为对GRE报文头及其负载的校验和字段。保留字段1(Reserved1)为保留字段,重新定义Reserved1作为扩展字段,用于算力信息的通告。
例如,在Reserved1分别定义CPU资源(CPU-resource)、GPU资源(GPU-resource)、DPU资源(DPU-resource)、内存资源(Memory-resource)等字段,每个字段分别为4bit,分别用于携带CPU资源信息、GPU资源信息、DPU资源信息、内存资源信息等信息。也可以重新定义Reserved1作为扩展字段,用于撤销通知信息的通告,例如,将Reserved1中的前6个比特作为撤销通知信息字段,当通过撤销通知信息字段携带的撤销通知信息为“111111”时,则确定此消息为GRE协议算力撤销通知消息。
图3为第一隧道端点设备向第二隧道端点设备提供算力服务的流程示意图,如图3所示:
步骤301,在第一隧道端点设备和第二隧道端点设备之间建立GRE隧道。
第一隧道端点设备和第二隧道端点设备可以使用现有的多种方法并基于GRE协议建立GRE隧道。例如,第一隧道端点设备和第二隧道端点设备基于配置信息(系统分配的源地址、目的地址和接口号等信息)并基于GRE协议在第一隧道端点设备和第二隧道端点设备之间建立GRE隧道,GRE隧道可以为IPv6 GRE隧道等。
步骤302,在服务器启动(上线)并与第一隧道端点设备连接的情况下,服务器向第一隧道端点上报算力信息。
步骤303,第一隧道端点设备基于服务器上报的算力信息,生成GRE协议算力通知消息并在GRE隧道中向第二隧道端点设备发送,GRE协议算力通知消息携带服务器上报的算力信息。
步骤304,客户端启动(上线)并与第二隧道端点设备连接。客户端可以为多种用户设备。
步骤305,在客户端启动(上线)并与第二隧道端点设备连接的情况下,第二隧道端点设备基于算力信息确定算力路由,此算力路由包括客户端IP,以及目标第一隧道端点设备、第二隧道端点设备的地址信息等信息。第二隧道端点设备将此算力路由信息通过GRE协议进行封装后发送给第一隧道端点设备。
步骤306,第二隧道端点设备根据算力路由向第一隧道端点设备(目标第一隧道端点设备)发送GRE算力服务请求消息,用以请求算力服务。第一隧道端点设备基于接收到的、第二隧道端点设备发送的算力服务请求消息,通过服务器提供算力服务,并基于算力路由将算力服务结果通过第二隧道端点设备返回给客户端。
步骤307,第一隧道端点设备在提供的算力服务发生不可用、算力迁移等情况下,向第二隧道端点设备发送GRE协议算力撤销通知消息;第二隧道端点设备在接收到GRE协议算力撤销通知消息的情况下,基于算力信息确定新算力路由。
图4为根据本公开的算力请求方法的一个实施例的流程示意图,算力请求方法应用于第二隧道端点设备,如图4所示:
步骤401,接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,GRE协议算力通知消息携带的信息包括算力信息。例如,接收第一隧道端点设备在第一隧道端点设备和第二隧道端点设备之间的GRE隧道中发送的GRE协议算力通知消息
步骤402,基于算力信息确定算力路由。
在一个实施例中,第二隧道端点设备可以与多个第一隧道端点设备建立GRE隧道,接收多个第一隧道端点设备发送的GRE协议算力通知消息。第二隧道端点设备在进行选路时,除了依据已有的路由选择之外,也可以以算力路由作为选路依据,在确定算力路由时,将算力信息作为确定算力路由的参考条件。
算力路由确定规则可以为多种,可以根据多个第一隧道端点设备发送的CPU资源、GPU资源、DPU资源、内存资源中的至少一种资源的信息,在能够访问的多个第一隧道端点设备中选取目标第一隧道端点设备,生成与目标第一隧道端点设备对应的算力路由。例如,在能够访问的多个第一隧道端点设备发送的CPU频率中确定CPU频率最大值,将此CPU频率最大值对应的第一隧道端点设备作为目标第一隧道端点设备,生成客户端与目标第一隧道端点设备之间的算力路由,算力路由包括客户端IP,以及目标第一隧道端点设备、第二隧道端点设备的地址等信息。
步骤403,根据算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
在一个实施例中,算力服务请求包括GRE协议算力服务请求消息等。例如,在目标第一隧道端点设备和第二隧道端点设备之间的GRE隧道中,向目标第一隧道端点设备发送GRE算力服务请求消息。
在客户端启动并与第二隧道端点设备连接的情况下,基于算力信息确定算力路由。接收目标第一隧道端点设备和/或其他第一隧道端点设备在目标第一隧道端点设备和/或其他第一隧道端点设备和第二隧道端点设备之间的GRE隧道中发送的GRE协议算力撤销通知消息。在接收到目标第一隧道端点设备和/或其他第一隧道端点设备发送的GRE协议算力撤销通知消息的情况下,基于算力信息确定新算力路由。
第二隧道端点设备在进行路径选择时候,增加了算力路由的度量,在访问服务相同的情况下,优选算力大的路径传输,例如可以根据GRE协议信息里携带的CPU资源、GPU资源、DPU资源、内存资源中的至少一种资源信息,确定CPU资源、GPU资源、DPU资源、内存资源中的至少一种资源的大小,根据确定结果选路,实现基于算力资源的GRE转发。
如图5所示,第二隧道端点设备43分别与提供服务A的第一隧道端点设备41和第一隧道端点设备42建立GRE隧道,接收第一隧道端点设备41和第一隧道端点设备42发送的GRE协议算力通知消息,从GRE协议算力通知消息获得分别与第一隧道端点设备41和第一隧道端点设备42连接的服务器的算力信息,算力信息包括CPU资源、GPU资源、DPU资源、内存资源中的至少一种资源信息。例如,第二隧道端点设备43在进行服务A的路径选择时,可以根据CPU频率大小来选路的大小来选路,优选算力大的路径作为路由,即选取CPU频率较高的第一隧道端点设备42,作为目标第一隧道端点设备。
本公开的算力提供方法、算力请求方法,通过GRE协议消息传递算力信息,使隧道端点设备根据GRE协议消息携带的算力信息进行算力调度,满足在GRE网络中的算力调度需求;通过在GRE网络中根据算力信息确定算力路由,实现算力调度的合理化,有效节省网络资源。
在一个实施例中,如图6所示,本公开提供一种第一隧道端点设备60,包括算力通知模块61和服务提供模块62。算力通知模块61向第二隧道端点设备发送通用路由封装GRE协议算力通知消息,GRE协议算力通知消息携带的信息包括算力信息。服务提供模块62基于接收到的第二隧道端点设备发送的算力服务请求消息,提供算力服务。
在一个实施例中,算力信息为与第一隧道端点设备连接的服务器的算力信息,算力通知模块61在服务器启动并与第一隧道端点设备连接的情况下,向第二隧道端点设备发送GRE协议算力通知消息。算力通知模块61在第一隧道端点设备和第二隧道端点设备之间的GRE隧道中,向第二隧道端点设备发送GRE协议算力通知消息。
在一个实施例中,算力服务请求包括GRE协议算力服务请求消息;服务提供模块62接收第二隧道端点设备在GRE隧道中发送GRE协议算力服务请求消息。服务提供模块62在与算力信息对应的资源发生不可用或被迁移的情况下,向第二隧道端点设备发送GRE协议算力撤销通知消息。服务提供模块62可以在GRE隧道中,向第二隧道端点设备发送GRE协议算力撤销通知消息。
在一个实施例中,如图7所示,第一隧道端点设备可包括存储器71、处理器72、通信接口73以及总线74。存储器71用于存储指令,处理器72耦合到存储器71,处理器72被配置为基于存储器71存储的指令执行实现上述任一实施例的算力提供方法。
存储器71可以为高速RAM存储器、非易失性存储器(non-volatile memory)等,存储器71也可以是存储器阵列。存储器71还可能被分块,并且块可按一定的规则组合成虚拟卷。处理器72可以为中央处理器CPU,或专用集成电路ASIC(Application SpecificIntegrated Circuit),或者是被配置成实施任一实施例的算力提供方法的一个或多个集成电路。
在一个实施例中,如图8所示,本公开提供一种第二隧道端点设备80,包括算力接收模块81、目标确定模块82和服务请求模块83。算力接收模块81接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,GRE协议算力通知消息携带的信息包括算力信息。目标确定模块82基于算力信息确定算力路由,服务请求模块83根据算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
在一个实施例中,算力接收模块81接收第一隧道端点设备在第一隧道端点设备和第二隧道端点设备之间的GRE隧道中发送的GRE协议算力通知消息。算力服务请求包括GRE协议算力服务请求消息,服务请求模块83在目标第一隧道端点设备和第二隧道端点设备之间的GRE隧道中,向目标第一隧道端点设备发送GRE算力服务请求消息。
目标确定模块82在客户端启动并与第二隧道端点设备连接的情况下,基于算力信息确定算力路由目标确定模块82在接收到目标第一隧道端点设备和/或其他第一隧道端点设备发送的GRE协议算力撤销通知消息的情况下,基于算力信息确定新算力路由。
在一个实施例中,如图9所示,第一隧道端点设备可包括存储器91、处理器92、通信接口93以及总线94。存储器91用于存储指令,处理器92耦合到存储器91,处理器92被配置为基于存储器91存储的指令执行实现上述任一实施例的算力请求方法。
存储器91可以为高速RAM存储器、非易失性存储器(non-volatile memory)等,存储器91也可以是存储器阵列。存储器91还可能被分块,并且块可按一定的规则组合成虚拟卷。处理器92可以为中央处理器CPU,或专用集成电路ASIC(Application SpecificIntegrated Circuit),或者是被配置成实施上述任一实施例的算力请求方法的一个或多个集成电路。
在一个实施例中,如图10所示,本公开提供一种算力系统,包括:如上任一实施例中的第一隧道端点设备1001、如上任一实施例中的第二隧道端点设备1002。第一隧道端点设备1001与服务器1003连接,服务器103提供算力。第二隧道端点设备1002与客户端1004,客户端1004用于请求算力。
在一个实施例中,本公开提供一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,指令被处理器执行时实现如上任一个实施例中的方法。
计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列举)可以包括:具有一个或者多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,计算机程序指令在被处理器运行时使得处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的方法中的步骤。
上述实施例中的算力提供方法、算力请求方法、隧道端点设备、算力系统以及存储介质,第一隧道端点设备向第二隧道端点设备发送通用路由封装GRE协议算力通知消息,GRE协议算力通知消息携带的信息包括算力信息;第一隧道端点设备基于、第二隧道端点设备发送的算力服务请求消息,提供算力服务;通过GRE协议消息传递算力信息,使隧道端点设备根据GRE协议消息携带的算力信息进行算力调度,满足在GRE网络中的算力调度需求;通过在GRE网络中根据算力信息确定算力路由,实现算力调度的合理化,有效节省网络资源,提高了用户的使用感受。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员应当理解,上述实施例仅实施例可以被组合、修改或替换而不脱离本公开的范围和实质。
Claims (22)
1.一种算力提供方法,应用于第一隧道端点设备,其特征在于,包括:
向第二隧道端点设备发送通用路由封装GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;
基于接收到的、所述第二隧道端点设备发送的算力服务请求消息,提供算力服务。
2.如权利要求1所述的方法,其特征在于,还包括:
在与所述算力信息对应的资源发生不可用或被迁移的情况下,向所述第二隧道端点设备发送GRE协议算力撤销通知消息。
3.如权利要求1所述的方法,其特征在于,所述算力信息为与所述第一隧道端点设备连接的服务器的算力信息;所述向第二隧道端点设备发送GRE协议算力通知消息包括:
在所述服务器启动并与所述第一隧道端点设备连接的情况下,向所述向第二隧道端点设备发送所述GRE协议算力通知消息。
4.如权利要求2所述的方法,其特征在于,
在所述第一隧道端点设备和所述第二隧道端点设备之间建立的GRE隧道中,向所述向第二隧道端点设备发送所述GRE协议算力通知消息。
5.如权利要求4所述的方法,其特征在于,所述算力服务请求包括:GRE协议算力服务请求消息;
接收所述第二隧道端点设备在所述GRE隧道中发送所述GRE协议算力服务请求消息。
6.如权利要求4所述的方法,其特征在于,所述向所述第二隧道端点设备发送GRE协议算力撤销通知消息包括:
在所述GRE隧道中,向所述第二隧道端点设备发送所述GRE协议算力撤销通知消息。
7.如权利要求2所述的方法,其特征在于,
在所述GRE协议算力通知消息中,通过GRE报文头中的扩展字段携带所述算力信息;
在所述GRE协议算力撤销通知消息中,通过GRE报文头中的扩展字段携带撤销通知信息。
8.如权利要求1所述的方法,其特征在于,
所述算力信息包括:中央处理器资源、图形处理器资源、数据处理单元资源和内存资源中的至少一种资源的信息。
9.如权利要求1所述的方法,其特征在于,
所述GRE协议包括:IPV6 GRE协议。
10.一种算力请求方法,应用于第二隧道端点设备,其特征在于,包括:
接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括:算力信息;
基于所述算力信息确定算力路由;
根据所述算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
11.如权利要求10所述的方法,其特征在于,还包括:
在接收到所述目标第一隧道端点设备和/或其他第一隧道端点设备发送的GRE协议算力撤销通知消息的情况下,基于所述算力信息确定新算力路由。
12.如权利要求10所述的方法,其特征在于,还包括:
在客户端启动并与所述第二隧道端点设备连接的情况下,基于所述算力信息确定算力路由。
13.如权利要求11所述的方法,其特征在于,
接收所述第一隧道端点设备在所述第一隧道端点设备和所述第二隧道端点设备之间建立的GRE隧道中发送的所述GRE协议算力通知消息。
14.如权利要求13所述的方法,其特征在于,
接收所述目标第一隧道端点设备和/或其他第一隧道端点设备在所述GRE隧道中发送的所述GRE协议算力撤销通知消息。
15.如权利要求11所述的方法,其特征在于,所述算力服务请求包括:GRE协议算力服务请求消息;所述向所述目标第一隧道端点设备发送GRE算力服务请求消息包括:
在所述目标第一隧道端点设备和所述第二隧道端点设备之间的GRE隧道中,向所述目标第一隧道端点设备发送GRE算力服务请求消息。
16.如权利要求10所述的方法,其特征在于,
在所述GRE协议算力通知消息中,通过GRE报文头中的扩展字段携带所述算力信息;
在所述GRE协议算力撤销通知消息中,通过GRE报文头中的扩展字段携带撤销通知信息。
17.一种第一隧道端点设备,其特征在于,包括:
算力通知模块,用于向第二隧道端点设备发送通用路由封装GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;
服务提供模块,用于基于接收到的所述第二隧道端点设备发送的算力服务请求消息,提供算力服务。
18.一种第一隧道端点设备,其特征在于,包括:
存储器;以及耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如权利要求1至9中任一项所述的方法。
19.一种第二隧道端点设备,其特征在于,包括:
算力接收模块,用于接收至少一个第一隧道端点设备发送的GRE协议算力通知消息;其中,所述GRE协议算力通知消息携带的信息包括算力信息;
目标确定模块,用于基于所述算力信息确定算力路由;
服务请求模块,用于根据所述算力路由向目标第一隧道端点设备发送GRE算力服务请求消息,用以请求算力服务。
20.一种第二隧道端点设备,其特征在于,包括:
存储器;以及耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器中的指令,执行如权利要求10至16中任一项所述的方法。
21.一种算力系统,其特征在于,包括:
如权利要求17或18所述的第一隧道端点设备、如权利要求19或20所述的第二隧道端点设备。
22.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述指令被处理器执行如权利要求1至16中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310834508.0A CN116708578A (zh) | 2023-07-07 | 2023-07-07 | 算力提供方法、算力请求方法、隧道端点设备以及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310834508.0A CN116708578A (zh) | 2023-07-07 | 2023-07-07 | 算力提供方法、算力请求方法、隧道端点设备以及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116708578A true CN116708578A (zh) | 2023-09-05 |
Family
ID=87827684
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310834508.0A Pending CN116708578A (zh) | 2023-07-07 | 2023-07-07 | 算力提供方法、算力请求方法、隧道端点设备以及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116708578A (zh) |
-
2023
- 2023-07-07 CN CN202310834508.0A patent/CN116708578A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11671367B1 (en) | Methods and apparatus for improving load balancing in overlay networks | |
CN109845218B (zh) | 用于与客户机-服务器数据信道一起使用的信道数据封装系统和方法 | |
WO2021135471A1 (zh) | 数据传输方法、装置、网卡及存储介质 | |
US10320664B2 (en) | Cloud overlay for operations administration and management | |
CN107800602B (zh) | 一种报文处理方法、设备及系统 | |
TWI504193B (zh) | 用於在雲計算中卸載隧道資料包的方法和系統 | |
WO2018058677A1 (zh) | 一种报文处理方法、计算设备以及报文处理装置 | |
CN113326228B (zh) | 基于远程直接数据存储的报文转发方法、装置及设备 | |
EP3197107B1 (en) | Message transmission method and apparatus | |
CN105791214B (zh) | 一种RapidIO报文和以太网报文之间的转换方法和设备 | |
TW201815131A (zh) | 一種資料傳輸的方法及網路設備 | |
WO2022001835A1 (zh) | 发送报文的方法、装置、网络设备、系统及存储介质 | |
WO2016064704A1 (en) | Distributed computing based on deep packet inspection by network devices along network path to computing device | |
CN107645433B (zh) | 报文转发方法及装置 | |
CN109412922B (zh) | 一种传输报文的方法、转发设备、控制器及系统 | |
JP2016508682A (ja) | ドメインにまたがるvpnトラフィックのqosによる区別のための方法および配置構成 | |
CN109246016B (zh) | 跨vxlan的报文处理方法和装置 | |
CN111294268B (zh) | 避免ip地址冲突的方法及装置 | |
EP3503484A1 (en) | Message transmission method, device and network system | |
US9847929B2 (en) | Cluster and forwarding method | |
JP2016523062A (ja) | 入力パラメータを生成するための方法および装置 | |
CN116708578A (zh) | 算力提供方法、算力请求方法、隧道端点设备以及介质 | |
WO2018121443A1 (zh) | 报文传输方法及装置 | |
CN113709016B (zh) | 通信系统以及通信方法、装置、设备和存储介质 | |
WO2014117474A1 (zh) | 路由方法、系统及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |