CN115118647B - 算力网络中算力信息感知和通告系统及其方法 - Google Patents

Abstract

本发明提出一种算力网络中算力信息感知和通告系统及其方法，所述系统包括：算力感知模块，收集设备的算力信息和设备间的链路质量信息；算力通告模块：收集并汇总各设备算力感知模块发送的信息；所述方法包括：在设备上部署算力感知模块和算力通告模块；获取本机的计算资源信息和存储资源信息；获取本机与其他设备之间的链路质量信息；将感知到的计算资源、存储资源和网络资源信息进行汇总生成算力信息，并判断是否需要通告算力信息；接收算力信息，生成算力网络拓扑图；构建混合式通告网络架构。所述系统及其方法实现了算力网络场景下对终端设备算力信息的采集和发布；降低信息处理的开销，减少网络中算力信息的通告数量，节省网络链路资源。

Description

算力网络中算力信息感知和通告系统及其方法

技术领域

本发明涉及通信技术领域，具体涉及一种算力网络中算力信息感知和通告系统及其方法。

背景技术

近年来，随着移动网络的不断升级和物联网领域的快速发展，接入网络的终端设备数量呈现爆炸式增长。同时，随着人工智能、大数据等学科的发展，人们对计算资源、存储资源和通信资源的需求逐渐增加，指数式增长的数据流量、不断增加的设备数量和越来越多需要大算力低延迟的应用场景是如今通信网络面临的难题，这也同样催生了算力网络时代的到临，算力网络是由电信、移动、联通三大运营商牵头提出的一种新型网络架构，该架构希望通过网络将所有具有算力的设备连接在一起，并通过网络共享设备之间的计算资源、存储资源，实现通信、计算、存储三维资源的联合配置，在资源联合配置之前，首先需要对每个设备的算力资源、存储资源等参数进行感知收集，然后将感知到的各个设备的资源参数进行通告汇总形成算力拓扑即算力网络拓扑图，最后由决策模块根据算力网络拓扑图做出计算卸载决策，对任务进行合理分配。由此可见，对设备计算、存储等资源信息的采集有着重要的意义。

在算力感知和算力通告领域，现有的技术方案通过在路由协议的链路状态信息中携带算力信息，借助路由协议生成全局的算力网络拓扑图，但是现有的方案存在着通告信息数量多、频率高等缺陷，可能会导致路由震荡等问题，为解决上述问题，如在文章《基于SRv6的算力网络资源和服务编排调度》中提到一种基于BGP的分级路由机制来减少通告信息数量；再如中国专利申请号为202010530057.8的专利申请文件公开了一种生成算力拓扑的方法、系统、节点及介质，该技术方案为减少算力通告中不必要的通告信息量，提出了按需通告和路由过滤策略。

在算力节点拓扑架构方面，中国通信学会在2020年的《算力网络前沿报告》中曾提到两种实现方案，其一是基于数据中心SDN的集中式控制方案，该方案将边缘云与云数据中心相连接，通过集中式的SDN控制器实现中心云与边缘云间的算力信息上报汇总和任务调度决策；其二是基于电信运营商承载网的分布式控制方案，即通过扩展内部网关协议和外部网关协议(如BGP协议)来实现算力信息的发布。分析上述两种方案后可知，集中式控制方案易于实现但是存在许多不足，例如网络鲁棒性差，终端设备与云侧的控制器距离远，无法支持海量设备之间的算力信息通告。分布式控制方案充分调动承载网中IP路由器的控制能力，是真正意义上的计算需求与网络融合，但该方案实现较为复杂，也尚未提出完善的实现方案。

基于现有技术存在如上述技术问题，业界迫切需要一种完善的方案用于完成对设备算力信息的感知和通告任务。

发明内容

本发明提出一种算力网络中算力信息感知和通告系统及其方法。

本发明采用以下技术方案：

一方面，提供一种算力网络中算力信息感知和通告系统，包括：

算力感知模块，用于收集设备的算力信息和设备间的链路质量信息，并运行自适应通告模块对外发布收集到的信息；

算力通告模块：用于收集并汇总各设备算力感知模块发送的信息并生成算力网络拓扑图；根据链路质量自适应地选择主节点构建混合式通告架构，减少网络通告信息的数量。

进一步地，算力感知模块包括本地计算存储资源监控模块、设备间链路质量检测模块以及自适应通告模块，其中：

本地计算存储资源监控模块用于对本地设备资源进行实时收集；

设备间链路质量检测模块用于对设备间网络资源进行实时收集；

自适应通告模块用于根据本地设备的负载情况和网络业务流量做出通告决策，从而减少通告信息的数量。

进一步地，算力通告模块包括算力信息收集模块和混合式架构自组网模块，其中：

算力信息收集模块用于收集并汇总各设备算力感知模块发送的信息并生成算力网络拓扑图，并开放端口为计算卸载决策提供算力网络拓扑图；

混合式架构自组网模块用于根据链路质量自适应地选择主节点构建混合式通告架构，减少网络通告信息的数量。

另一方面，一种算力网络中算力信息感知和通告方法，包括：

步骤1，在集群所有设备上部署算力感知模块和算力通告模块；

步骤2，算力感知模块获取本地设备的计算资源信息和存储资源信息；

步骤3，算力感知模块获取本地设备与其他设备之间的链路质量信息；

步骤4，算力感知模块将感知到的计算资源、存储资源和网络资源信息进行汇总生成算力信息，并判断是否需要通告算力信息，需要则将算力信息发布；

步骤5，算力通告模块接收算力信息，生成算力网络拓扑图，并对外开放获取端口；

步骤6，算力通告模块构建混合式通告网络架构。

进一步地，步骤4，算力信息发布通过开源通用消息传递库ZeroMQ(ZMQ)的发布者模式(PUB模式)发布，具体包括：

步骤4.1，将ZMQ协议的PUB模式的高水位线设置为1，发送端不缓存信息，开放本地端口用于通告算力信息；

步骤4.2，对比当前时刻感知到的链路信息和上一次通告时的链路信息，如存在一条链路的时延变动超过上一时刻时延的50％，执行步骤4.4，通告当前时刻的链路信息；

步骤4.3，对比当前时刻收集到的CPU、磁盘利用率和上一次通告时的值，如变动超过10％，执行步骤4.4，通告当前时刻的算力信息；

步骤4.4，通过ZMQ协议发送本地设备的计算资源、存储资源或网络资源信息给其他设备的算力通告模块。

进一步地，步骤6包括：

步骤6.1，设备初始化，默认为分布式通告网络架构；

步骤6.2，将所有设备按照总下载时延进行升序排序，由总下载时延最短的设备运行混合式架构自组网算法。

进一步地，步骤6.2包括：

步骤6.21，将设备按总时延升序排序，取前10％的设备作为主节点，其余设备作为从节点；

步骤6.22，以主节点之间上传时延和下载时延的平均值作为代价，构建连通图，并运行最小生成树算法找到最小生成树，以总下载时延最短的设备作为根节点；

步骤6.23，以链路时延的相反数为权重，使用配对算法在最小生成树中度为0的节点和从节点中寻找最大匹配，每个匹配成功的从节点都维持一个自治区域；

步骤6.24，运行最小平均时延算法对其余未匹配成功的从节点进行聚类，将未匹配成功的从节点加入到自治区域中；

步骤6.25，将混合式架构自组网模块做出的架构决策结果分发给所有设备。

进一步地，步骤4.2中，令本自治区域内所有设备集合为U，当前时刻感知到的设备x到设备y链路的时延和带宽分别为和/>上一次通告时的时延和带宽分别/>和则对于设备x，其当前时刻的链路信息为：

对任意的y，若存在：

则执行步骤4.4，通告当前时刻的链路信息。

进一步地，步骤4.3中，记当前时刻收集到的本地设备CPU利用率和磁盘容量利用率分别为和/>上一次通告时的利用率分别为/>和/>若下式任意成立，

则执行步骤4.4，通告当前时刻的算力信息。

进一步地，步骤6.1中，每个设备都具有全网任意两个设备之间的链路时延信息，用二维矩阵D表示：

其中，d_ij表示设备i到设备j之间的链路时延。

进一步地，步骤6.24中，设f^-为未匹配成功的从节点，集合A＝{a₀，a₁，...，a_n}为一个自治区域，集合中的元素为自治区域中的设备，则设备f^-加入自治区域A的平均时延D_ave(f^-，A)定义为：

遍历所有自治区域，选择最小的平均时延加入其中，自治区域内部每个设备如要发送信息，都发送给自治区域内的所有设备。

与现有技术相比，本发明的优越效果在于：

1、本发明所述的算力网络中算力信息感知和通告系统及其方法，采用规范化的算力信息感知通告流程，实现了算力网络场景下对终端设备算力信息的采集和发布；

2、本发明所述的算力网络中算力信息感知和通告系统及其方法，根据设备数量自适应地调整网络架构，实现海量设备之间的算力信息通告服务；

3、本发明所述的算力网络中算力信息感知和通告系统及其方法，在保证网络整体性能较优的情况下有效地降低信息处理的开销，减少网络中算力信息的通告数量，节省网络链路资源。

附图说明

图1为本发明实施例中算力网络中算力信息感知和通告系统的架构图；

图2为本发明实施例中算力通告模块构建的混合式通告网络架构图；

图3为本发明实施例中算力网络中算力信息感知和通告方法的流程图；

图4为本发明实施例中自适应通告算法的流程图；

图5为本发明实施例中混合式架构自组网算法的流程图；

图6为本发明实施例所述方法与分布式架构和随机混合式架构通告算法通告开销对比图；

图7为本发明实施例所述方法与分布式架构和随机混合式架构通告算法收敛时间对比图。

具体实施方式

为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合附图和具体实施方式对本发明进行进一步的详细描述，需要说明的是，在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。

如图1所示，每一个加入算力网络的设备都需要运行本发明所述系统，包括算力感知模块、算力通告模块，其中：

算力感知模块：用于收集设备的算力信息和设备间的链路质量信息，并运行自适应通告模块对外发布收集到的信息；其中，算力感知模块包含本地计算存储资源监控模块、设备间链路质量检测模块以及自适应通告模块；本地计算存储资源监控模块首先调用本地设备的终端命令服务，在终端服务中输入CPU监控命令和磁盘监控命令，然后捕获相应命令的返回数据，最后对得到的数据进行处理以得到需要的计算和存储资源信息；设备间链路质量检测模块从kubernetes中Prometheus监控平台的network exporter组件中拉取集群各设备之间的链路质量信息，或者通过终端命令服务自主测试链路质量；计算存储资源监控模块、设备间链路质量检测模块将感知到的数据发送给自适应通告模块，自适应通告模块运行通告决策算法，通过分析本地设备的负载情况和网络业务流量等信息做出通告决策，将待通告的信息通过ZMQ协议的PUB模式发送给本自治区域中的所有设备的自适应通告模块；

算力通告模块：包含算力信息收集模块和混合式架构自组网模块；其中，算力信息收集模块通过ZMQ协议的SUB模式收集并汇总各设备算力感知模块发送的信息并生成算力网络拓扑图，开放端口为计算卸载决策提供算力网络拓扑图；混合式架构自组网模块运行混合式通告网络架构自组网算法，构成混合式通告网络架构；算法基于算力网络拓扑图选取若干个链路质量较好的设备作为主节点，其余设备作为从节点，由主节点构建混合式网络架构并维持自治区域，从节点选择其中一个主节点并加入其自治区域，自治区域内所有节点采用分布式通告方式，自治区域之间由主节点采用洪泛的方式交换算力信息，混合式通告网络架构图如图2所示。

如图3至图5所示，所述面向算力网络的算力信息感知和通告方法，具体包括以下步骤：

步骤1、在面向算力网络的算力信息感知和通告系统中，包含若干个具有计算能力的设备，所有设备均部署算力感知模块和算力通告模块；

步骤2、设备的本地计算存储资源监控模块通过终端命令获取本地设备的计算资源信息和存储资源信息，包括CPU主频、CPU核数、CPU利用率以及磁盘占用率；

具体地，步骤2包括：

步骤2.1，在linux系统终端使用“cat/proc/cpuinfo|grep"processor"|wc-l”命令获取本地设备的CPU逻辑核数；

步骤2.2，在linux系统终端使用“cat/proc/cpuinfo|grep MHz|uniq”命令获取本地设备的CPU主频；

步骤2.3，在linux系统中使用sysstat系统性能监测工具“sar-u”命令获取本地设备CPU利用率；

步骤2.4，在linux系统终端使用“df--output＝size，pcent”命令获取本地设备磁盘存储容量和占用率；

步骤3、设备的设备间链路质量检测模块通过kubernetes中Prometheus监控平台的network exporter组件开放的端口获得本地设备与其他设备之间的链路质量信息，包括时延和带宽；也可以使用网络性能测试工具如ping、iperf等命令测试本地设备与其他设备之间的链路质量；

步骤4、设备的自适应通告模块将感知到的计算资源、存储资源和网络资源信息进行汇总生成算力信息，再运行通告决策算法判断是否需要通告此算力信息，如需要则通过ZMQ协议的PUB模式发布；

具体地，步骤4包括：

步骤4.1，为了使接收方收到最新的算力信息，将ZMQ协议的PUB模式的高水位线设置为1，即发送端不缓存信息，开放本地端口用于通告算力信息；

步骤4.2，令本自治区域内所有设备集合为U，记当前时刻感知到的设备x到设备y链路的时延和带宽分别为和/>上一次通告时的时延和带宽分别/>和/>则对于设备x，其当前时刻的链路信息为：

对任意的y，若存在：

则执行步骤4.4，通告当前时刻的链路信息；

步骤4.3，记当前时刻收集到的本地设备CPU利用率和磁盘容量利用率分别为和/>上一次通告时的利用率分别为/>和/>若下式任意成立，则执行步骤4.4，通告当前时刻的算力信息：

步骤4.4，通过ZMQ协议发送本地设备的计算资源、存储资源或网络资源信息至其他设备的算力通告模块；

步骤5、设备的算力通告模块订阅所有设备发布的信息，使用ZMQ协议的SUB模式轮流接收，收端的高水位限也设置为1，待算力信息收集服务生成算力网络拓扑图后对外发布；

步骤6、设备的算力通告模块运行混合式架构自组网算法，构建混合式通告网络架构；

具体地，步骤6包括：

步骤6.1，设备初始化时，默认为分布式通告网络架构，每个设备都测得其与其他设备之间的时延信息，并通过通告模块发送给区域内其他设备；因此每个设备都具有全网任意两个设备之间的链路时延信息，用二维矩阵D表示：

其中，d_ij表示设备i到设备j之间的链路时延，即设备i的上传时延或者设备j的下载时延；

步骤6.2，对矩阵D按列求和得到每个设备的总下载时延，使用快速排序算法将所有设备按照总下载时延进行升序排序，由总下载时延最短的设备运行混合式架构自组网算法，即步骤6.3至6.7；

步骤6.3，从排序结果中取前10％的设备作为主节点，其余设备作为从节点，主节点负责构建混合式网络架构和算力网络拓扑图的转发，当其收到算力网络拓扑图时，首先加上自己的算力信息，然后向除了源节点外的所有邻居节点洪泛算力网络拓扑图；

步骤6.4，以主节点之间上传时延和下载时延的平均值作为代价，构建连通图，并运行Prim最小生成树算法找到最小生成树，以总下载时延最短的设备作为根节点；

步骤6.5，设设备m为最小生成树中度为0的节点，设备f为从节点，则以-d_mf作为设备m与设备f匹配的权重，使用Kuhn-Munkre算法在上述最小生成树中度为0的节点和从节点中寻找使得总时延最短情况下的最佳匹配，即最小生成树中每个度为0的节点都与一个从节点建立通信，每个匹配成功的从节点都维持一个自治区域；

步骤6.6，运行提出的最小平均时延算法对其余未匹配成功的从节点进行聚类，设f^-为未匹配成功的从节点，集合A＝{a₀，a₁，...，a_n}为一个自治区域，集合中的元素为该自治区域中的设备，则设备f^-加入自治区域A的平均时延D_ave(f^-，A)定义为：

遍历所有自治区域，选择最小的平均时延加入其中，自治区域内部的设备采用分布式通告方式，即每个设备如果要发送信息，都将发送给自治区域内的所有设备；

步骤6.7，将混合式架构自组网模块做出的架构决策结果分发给所有设备。

图6至图7为所述面向算力网络的算力信息感知和通告方法分别与分布式架构通告算法和随机混合式架构通告算法在通告开销、收敛时间两个指标的仿真结果图；

其中，分布式架构通告算法即任一设备需要通告本地算力信息，都需要分别与区域内其他设备通信，随机混合式架构通告算法即网络架构与所述混合式架构自组网模块生成的网络架构相同，但主节点随机选取；

其中，通告开销即区域内所有设备的算力网络拓扑图达到同步状态需要发送的总消息数，收敛时间即区域内所有设备的算力网络拓扑图达到同步状态需要花费的时间。

仿真结果表明，在设备数量多的时候，所述面向算力网络的算力信息感知和通告方法可以有效降低通告开销，节省链路资源，同时，收敛时间受设备数量的影响小，适合大规模设备场景下应用。

本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书界定。

Claims (6)

1.一种算力网络中算力信息感知及通告系统，其特征在于，包括：

算力感知模块，用于收集设备的算力信息和设备间的链路质量信息，并运行自适应通告模块对外发布收集到的信息，算力感知模块包括本地计算存储资源监控模块、设备间链路质量检测模块以及自适应通告模块，其中：

本地计算存储资源监控模块用于对本地设备资源进行实时收集；

设备间链路质量检测模块用于对设备间网络资源进行实时收集；

自适应通告模块用于根据本地设备的负载情况和网络业务流量做出通告决策，从而减少通告信息的数量；

算力通告模块：用于收集并汇总各设备算力感知模块发送的信息并生成算力网络拓扑图；根据链路质量自适应地选择主节点构建混合式通告架构，减少网络通告信息的数量，算力通告模块包括算力信息收集模块和混合式架构自组网模块，其中：

算力信息收集模块用于收集并汇总各设备算力感知模块发送的信息并生成算力网络拓扑图，并开放端口为计算卸载决策提供算力网络拓扑图；

混合式架构自组网模块用于根据链路质量自适应地选择主节点构建混合式通告架构，减少网络通告信息的数量。

2.一种算力网络中算力信息感知及通告方法，其特征在于，包括：

步骤1，在集群所有设备上部署算力感知模块和算力通告模块；

步骤2，算力感知模块获取本地设备的计算资源信息和存储资源信息；

步骤3，算力感知模块获取本地设备与其他设备之间的链路质量信息；

步骤4，算力感知模块将感知到的计算资源、存储资源和网络资源信息进行汇总生成算力信息，并判断是否需要通告算力信息，需要则将算力信息发布，其中，算力信息发布通过开源通用消息传递库ZeroMQ的发布者模式PUB发布；

步骤4.1，将ZMQ协议的PUB模式的高水位线设置为1，发送端不缓存信息，开放本地端口用于通告算力信息；

步骤4.2，对比当前时刻感知到的链路信息和上一次通告时的链路信息，如存在一条链路的时延变动超过上一时刻时延的50％，执行步骤4.4，通告当前时刻的链路信息，令本自治区域内所有设备集合为U，当前时刻感知到的设备x到设备y链路的时延和带宽分别为和/>上一次通告时的时延和带宽分别/>和/>则对于设备x，其当前时刻的链路信息为：

对任意的y，若存在：

则执行步骤4.4，通告当前时刻的链路信息；

步骤4.3，对比当前时刻收集到的CPU、磁盘利用率和上一次通告时的值，如变动超过10％，执行步骤4.4，通告当前时刻的算力信息；

步骤4.4，通过ZMQ协议发送本地设备的计算资源、存储资源或网络资源信息给其他设备的算力通告模块；

步骤5，算力通告模块接收算力信息，生成算力网络拓扑图，并对外开放获取端口；

步骤6，算力通告模块构建混合式通告网络架构。

3.根据权利要求2所述的算力网络中算力信息感知及通告方法，其特征在于，步骤6包括：

步骤6.1，设备初始化，默认为分布式通告网络架构；

步骤6.2，将所有设备按照总下载时延进行升序排序，由总下载时延最短的设备运行混合式架构自组网算法。

4.根据权利要求3所述的算力网络中算力信息感知及通告方法，其特征在于，步骤6.2包括：

步骤6.21，将设备按总时延升序排序，取前10％的设备作为主节点，其余设备作为从节点；

步骤6.22，以主节点之间上传时延和下载时延的平均值作为代价，构建连通图，并运行最小生成树算法找到最小生成树，以总下载时延最短的设备作为根节点；

步骤6.23，以链路时延的相反数为权重，使用配对算法在最小生成树中度为0的节点和从节点中寻找最大匹配，每个匹配成功的从节点都维持一个自治区域；

步骤6.24，运行最小平均时延算法对其余未匹配成功的从节点进行聚类，将未匹配成功的从节点加入到自治区域中；

步骤6.25，将混合式架构自组网模块做出的架构决策结果分发给所有设备。

5.根据权利要求3或4所述的算力网络中算力信息感知及通告方法，其特征在于，步骤6.1中，每个设备都具有全网任意两个设备之间的链路时延信息，用二维矩阵D表示：

其中，d_ij表示设备i到设备j之间的链路时延。

6.根据权利要求3或4所述的算力网络中算力信息感知及通告方法，其特征在于，步骤6.24中，设f^-为未匹配成功的从节点，集合A＝{a₀，a₁，…，a_n}为一个自治区域，集合中的元素为自治区域中的设备，则设备f^-加入自治区域A的平均时延D_ave(f^-，A)定义为：

遍历所有自治区域，选择最小的平均时延加入其中，自治区域内部每个设备如要发送信息，都发送给自治区域内的所有设备。