CN112995023B - 一种多接入边缘计算网络计算卸载系统及其计算卸载方法 - Google Patents

Abstract

本发明涉及一种多接入边缘计算网络计算卸载系统及其计算卸载方法。一种多接入边缘计算网络计算卸载系统，基于算力网络图的多接入边缘计算网络计算卸载系统包括云端服务器、边缘智能网关和输入设备；一种多接入边缘计算网络计算卸载方法，通过采集用户数据，建立数据模型，任务调度客户端将处理结果上传至云端的展示平台进行展示。计算卸载的优化问题以全网络中计算任务的完成时延最小为优化目标，为用户提供了良好的用户体验与服务质量；计算卸载的优化算法为一种多项式时间复杂度的理论最优算法，为计算卸载对的最终效果提供了稳定的效用保证。

Description

一种多接入边缘计算网络计算卸载系统及其计算卸载方法

技术领域

本发明涉及无线通信技术领域，特别是涉及一种多接入边缘计算网络计算卸载系统及其计算卸载方法。

背景技术

为满足5G应用场景的低时延需求，边缘智能成为趋势。Seagate和IDC的一项研究表明，到2020年，全球每年云计算流量将超过14ZB；到2025年，全球数据量将会从2016年的16ZB上升至163ZB。“终端+数据中心”的两级处理已无法满足数据持续增长的智能社会的要求。算力需求将从云、端扩散至网络边缘，形成“终端+边缘+数据中心”的三级架构。移动边缘计算通过在接近终端的边缘侧部署服务器，降低网络发生拥塞的可能性，减少网络响应的时延，提升用户体验与网络效率，得到了深入研究与广泛应用。作为边缘计算网络的核心部分，计算卸载技术起着关键作用。在传统的计算卸载算法中，当不同的用户终端同时提出计算任务需求时，由于计算节点缺乏协同能力，没有统一的机制能结合网络负载与需求特性，动态调度计算任务，灵活分配网络资源，因此，部分边缘节点会出现计算过载的现象，用户体验下降。随着对计算卸载技术研究的深入，结合网络性能数据与计算任务特征，设计一套完整的资源协同编排策略，对所有计算节点的资源分配策略进行统一的规划与决策，更好地结合用户终端的计算任务特性，对业务需求进行预判，为计算节点分配合理的算力资源，进而为用户提供差异化的定制服务，实现网络资源的弹性分配，最大化网络资源利用率。

发明内容

针对现有技术的空白，本发明提供了一种多接入边缘计算网络计算卸载的系统及方法，可以结合网络状况与任务特性，将计算任务调度至最佳的计算节点，实现网络的负载均衡，保证良好的用户体验。

本发明的具体技术方案如下：

一种多接入边缘计算网络计算卸载系统，包括云端服务器、边缘智能网关和输入设备，其中：

云端服务器，云端服务器上部署多个与计算卸载相关的模块，用于提供容器集群调度、网络性能监控、算力网络图生成与分发，其中，云端服务器上运行的容器集群调度模块负责对各个边缘节点(边缘智能网关)上部署的容器进行管理，提供基础的负载均衡、弹性伸缩；云端服务器上运行的网络性能监控模块，用于定时收集各个边缘节点(边缘智能网关)提供的网络性能数据(包括但不限于CPU占用情况、内存占用情况、HTTP连接数)并进行统一整理，提供一系列数据接口供其它程序调用；云端服务器上运行的算力网络图模块提供进行算力网络图生成与分发，用于将网络监控模块提供的网络性能数据通过程序接口获取后封装为算力网络图结构，并通过通信协议将最新的算力网络图分发给边端的算力网络图模块；

边缘智能网关，边缘智能网关上运行多个与计算卸载模块，每个计算卸载模块均以容器的形式部署，用于提供算力网络图存储、计算卸载、任务缓存与分发，其中，边缘智能网关上运行的算力网络图模块用于将从云端服务器上运行的算力网络图模块接收的算力网络图进行集中缓存；边缘智能网关上运行的计算卸载模块用于为边缘智能网关集群中到达的任务进行卸载并决定将当前任务迁移到对应的边缘智能网关上的任务处理模块上执行，并将决策结果发送至任务调度客户端，整个集群只需要有一个计算卸载模块处于开启状态即可；边缘智能网关上运行的任务调度客户端模块用于对输入设备的输入数据进行任务识别、任务分类与数据缓存，向计算卸载模块发送任务到达信息，并从计算卸载模块接收计算卸载的结果；

输入设备，输入设备包括环境传感器、智能摄像头在内，环境传感器、智能摄像头用于对环境内容进行采集，通过SDK转换成可通过固定API接口调用或处理的数据；每个输入设备负责一种计算任务，不同的输入设备负责接收不同的输入数据，而不同的输入数据代表着不同的计算任务；将计算任务分为时延敏感任务与时延不敏感任务，时延敏感任务，其计算任务需要得到实时保证，其截止期限相对时延不敏感任务短；时延不敏感任务，其计算任务不需要得到实时保证，其截止期限相对时延敏感任务长。

本发明另提供一种多接入边缘计算网络计算卸载方法，具体包括以下步骤：

步骤1、在基于算力网络图的多接入边缘计算网络计算卸载系统中，有一个云端服务器与若干个边缘智能网关，云端服务器上部署着集群管理模块、网络监控模块、算力网络图模块，每个边缘智能网关上部署着算力网络图模块、计算卸载模块、任务调度客户端模块，云端服务器的容器集群调度模块与若干个边缘智能网关相连，负责对边缘智能网关上部署的容器进行调度；云端服务器的网络监控模块负责在各个节点收集节点监控数据，云端服务器的算力网络图模块定时从网络监控模块获取最新的网络监控数据并封装为算力网络图结构，将算力网络图分发给边缘智能网关上部署的算力网络图模块；

步骤2、边缘智能网关上部署的算力网络图模块将定时接收云端服务器上部署的算力网络图模块分发的算力网络图，并将其存储在算力网络图队列中，算力网络图队列为存储算力网络图结构体的数据结构；

步骤3、边缘智能网关的任务调度客户端模块接收输入设备采集的环境数据，并判断当前的数据是否可以看作计算任务的输入数据；

步骤3.1、当目前的环境数据可以看作计算任务的输入数据，则将这些环境数据进行缓存，并通过获取传输这些环境数据的输入设备的ID以确定对应的任务类型；设定N＝{n|1,2,...c}表示边缘智能网关集合，n表示边缘智能网关，c表示边缘智能网关数目；

步骤3.2、环境数据为由输入设备采集到的数据，包括图像、音频、示数，输入数据为一个计算任务执行所需要的数据，其中含有连续图像(用于目标识别)、非噪声的音频(用于自然语言处理)、示数序列(用于环境监测)；

步骤4、在边缘智能网关上部署的任务调度客户端模块通过通信协议，向边缘智能网关的计算卸载模块发送计算卸载请求，并等待计算卸载模块的回复；

步骤5、在边缘智能网关上部署的计算卸载模块接收到任务调度客户端模块的计算卸载请求后，将请求加入卸载队列，并开始监听是否有其它计算卸载请求，记监听的时间间隙为一个监听时间帧；

步骤5.1、在监听时间帧的时隙范围内，计算卸载模块等待是否有其它计算卸载请求到达，当有其他计算卸载请求到达时，则将新到达任务的计算卸载请求加入卸载队列；

步骤5.2、卸载队列为存储计算卸载请求这一消息结构体的数据结构，监听时间帧的时隙长度称为冷却时间；

步骤6、在步骤5的基础上，当一帧间隔的时间帧结束后，边缘智能网关上部署的计算卸载模块从边缘智能网关上部署的算力网络图模块拉取最新的算力网络图，结合算力网络图的信息与计算卸载请求所提供的任务类型，计算卸载模块调用时延预测模型，生成计算卸载时延矩阵，M＝{m|1,2,...r}表示当前时间帧内共同进行计算卸载的计算任务集合，m表示计算任务，r表示计算任务数目，T＝{τ_m,n|m∈M,n∈N}表示计算卸载时延矩阵，τ_m,n表示将计算任务m卸载至边缘智能网关n的时延；

时延预测模型，包括传输时延的预测模型与处理时延的预测模型，记计算任务m卸载至边缘智能网关n的时延为τ_m,n，则该时延计算方法如公式(1)：

在公式(1)中，τ_prof为任务特征数据上传时延，由于特征数据较小，τ_prof可忽略不计；τ_d为卸载算法执行时延，与算法的时间复杂度有关；τ_up为输入数据上传时延，与输入数据大小、信道速率有关；τ_wait为等待时延，与计算任务数有关；

为卸载执行计算任务的处理时延，与工作量、本地节点计算速度有关；τ_down为输出数据下载时延，由于下行链路质量较好，τ_down可忽略不计；

在忽略掉极小的时延部分后，计算卸载时延计算方法如公式(2)：

由于实际上用于传输时延、处理时延、并发用户数的参数并不容易获得，因此在实践中可以采取另一种方法对传输时延、处理时延进行求解，将距离计算任务m最近的边缘智能网关记为n_m，根据发送数据大小为D₀的数据包的时延

求出由边缘智能网关n_m至边缘智能网关n的平均传输速率

进而可以求解出传输时延，其计算方法如公式(3)：

处理时延与节点性能、任务特征、并发用户数(最大同时连接的IP数量)的若干类相关参数，记节点性能

其包括计算资源F、存储资源C与I/O资源E；其中，计算与存储资源设置三个子参数：资源总量([·]_s)、任务到达时的资源占用比例

)、任务执行时任务的资源平均占用比例

I/O资源设置两个子参数：任务到达时的I/O读写速度(E₀)、任务执行时的I/O平均读写速度

记任务特征S＝(W,D)，其包括任务工作量W为、输入数据大小D；其中，任务工作量与处理该任务所需算法的时间复杂度成正比；记K为并发用户数，表示每个节点允许同时执行任务的个数；通过一系列实际数据建立节点性能、任务特征、并发用户数与处理时延的关系，借助神经网络求解，如公式(4)：

步骤7、在边缘智能网关上部署的计算卸载模块调用计算卸载时延矩阵，使用相应的计算卸载算法进行计算卸载决策；

步骤8、边缘智能网关上部署的计算卸载模块将计算卸载决策结果封装为计算卸载响应结构体，通过通信协议回传给边缘智能网关上部署的任务调度客户端模块，通信协议与步骤4中的通信协议一致；

步骤9、在边缘智能网关上部署的任务调度客户端模块根据获取的计算卸载响应数据所提供的目标节点IP地址，将缓存的计算任务输入数据通过通信协议传输至指定的边缘智能网关上部署的任务处理模块，在任务处理模块完成任务后回传计算结果，任务调度客户端将处理结果上传至云端的展示平台进行展示。

进一步地，在步骤1中，算力网络图，包括节点数据(Nodes)与边权数据(Links)，其中，节点数据包括地址(IP，节点的IP地址)、计算资源(RestComputing，包括节点的核数、主频与计算资源占用比例)、存储资源(RestStorage，包括节点的存储资源总量与存储资源占用比例)，边权数据(Links)包括上下游节点(NodeFrom/NodeTo，上下游节点的IP地址)、信道速率(Rate，链路的上行速率)、连接时延(EsDelay，建立socket连接的时延)。

进一步地，在步骤2中，存储算力网络图的算力网络图队列，其长度记为L，边缘智能网关上部署的算力网络图只会存储近L个算力网络图数据。

进一步地，在步骤3中，提出的识别环境数据是否为输入数据的算法，应与具体的计算任务相适配，不同ID的输入设备负责接收不同计算任务的输入数据，任务调度客户端可以依据输入设备的设备ID确定执行的算法。

进一步地，在步骤4中，通信协议默认为gRPC协议。

进一步地，在步骤4中，计算卸载请求，应包括任务ID(ID)、任务类型(Type)、传输该请求的边缘智能网关的IP地址(ArriveAt)。

进一步地，在步骤5中，冷却时间，其默认值为20ms，在实际使用时，冷却时间的大小可以根据应用场景中的计算任务类型灵活调整，以最大化计算卸载的效率。

进一步地，在步骤7中，计算卸载算法，其优化目标在于最小化整个边缘计算网络的任务执行时延的计算方法如公式(5)：

计算卸载优化目标的约束条件计算方法如公式(6)：

约束条件C1限定了执行时延不能超过计算任务的截止期限；约束条件C2限定了每个计算任务只能被调度到一个边缘智能网关的任务处理模块；约束条件C3限定了每个任务能分配的计算资源量由节点指定；约束条件C4限定了决策变量为0-1变量。

进一步地，在步骤8中，计算卸载响应，包括任务ID、任务类型(Type)、传输该请求的边缘智能网关的IP地址(ArriveAt)、拟卸载到边缘智能网关的IP地址(OffloadTo)、计算卸载性能评估(Evaluation)的信息。

本发明所述的多接入边缘计算网络计算卸载系统及其计算卸载方法，具有以下有益效果：

在本发明的技术方案中，由各个边缘智能网关的节点监控模块定时对所在边缘智能网关的性能信息进行全面细致分析，可以对节点的负载情况得到一个综合的评估；云端服务器的网络监控模块定时从各边缘智能网关的节点监控模块拉取节点性能数据并汇集为网络性能数据，为云端的算力网络图模块提供了有效的数据支持；云端的算力网络图模块通过封装网络性能数据得到算力网络图并分发至各边缘节点，为计算卸载的高效执行提供了实时、高效的网络性能支撑；计算卸载的时延预测模型通过基于实际数据预训练神经网络参数，并将训练模型持久化于计算卸载模块内部中，既保证了预测的快速性与准确性，也为任务处理时延的预测机制提供了扎实的理论基础；计算卸载的并发处理机制保证在一定时间间隔内到达的任务进行联合计算卸载，大大减轻了计算卸载模块的运算压力；计算卸载的优化问题以全网络中计算任务的完成时延最小为优化目标，为用户提供了良好的用户体验与服务质量；计算卸载的优化算法为一种多项式时间复杂度的理论最优算法，为计算卸载对的最终效果提供了稳定的效用保证。

当然，实施本发明的任一产品或方法不一定需要同时达到以上的所有优点。

附图说明

图1为本发明多接入边缘计算网络计算的卸载系统的结构连接关系示意图；

图2为基于图1所示的多接入边缘计算网络计算的卸载系统在实际应用中的场景图；

图3为本发明多接入边缘计算网络计算卸载的方法中步骤2的流程图；

图4为本发明多接入边缘计算网络计算卸载的方法中步骤3的流程图；

图5为本发明多接入边缘计算网络计算卸载的方法中步骤4的流程图；

具体实施方式

下面结合说明书附图和具体实施方式，对本发明的技术方案做进一步详细说明。

如图1和图2所示，一种多接入边缘计算网络计算卸载的系统，基于算力网络图的多接入边缘计算网络计算卸载的系统包括云端服务器、边缘智能网关和输入设备，其中：

云端服务器，其上部署若干与计算卸载相关的模块，用于提供容器集群调度、网络性能监控、算力网络图生成与分发等功能，容器集群调度负责对各个边缘节点(边缘智能网关)上部署的容器进行统一管理，提供基础的负载均衡、弹性伸缩等功能；网络性能监控是云端服务器上运行的网络监控模块提供的功能，用于定时收集各个边缘节点(边缘智能网关)提供的网络性能数据(包括但不限于CPU占用情况、内存占用情况、HTTP连接数)并进行统一整理，提供一系列数据接口供其它程序调用；云端服务器上运行的算力网络图模块提供进行算力网络图生成与分发，用于将网络监控模块提供的网络性能数据通过程序接口获取后封装为算力网络图结构，并通过通信协议将最新的算力网络图分发给边端的算力网络图模块；

若干个边缘智能网关，其上运行若干与计算卸载相关的模块，每个模块均以容器的形式部署，用于提供算力网络图存储、计算卸载、任务缓存与分发的功能，其中，算力网络图存储是边缘智能网关上运行的算力网络图模块提供的功能，用于将从云端的算力网络图模块接收的算力网络图进行集中缓存；计算卸载是边缘智能网关上运行的计算卸载模块提供的功能，用于为边缘智能网关集群中到达的任务进行卸载决策，决定将当前任务迁移到哪个边缘智能网关的任务处理模块上执行，并将决策结果发送至任务调度客户端，整个集群只需要有一个计算卸载模块处于开启状态即可；任务缓存与分发是边缘智能网关上运行的任务调度客户端模块提供的功能，用于对输入设备的输入数据进行任务识别、任务分类与数据缓存，向计算卸载模块发送任务到达信息，并从计算卸载模块接收计算卸载的结果；

若干种输入设备，包括环境传感器、智能摄像头在内的输入设备，用于对环境内容进行采集，通过SDK转换成可通过固定API接口调用或处理的数据；每个输入设备负责一种计算任务，即为不同的输入设备负责接收不同的输入数据，而不同的输入数据代表着不同的计算任务；将计算任务分为时延敏感任务与时延不敏感任务，时延敏感任务，其计算任务需要在得到实时保证，其截止期限相对时延不敏感任务短；时延不敏感任务，其计算任务不需要得到实时保证，，其截止期限相对时延敏感任务长。

如图3至图5所示，基于本发明公开的系统，本发明提供了一种多接入边缘计算网络计算卸载的方法，具体包括以下步骤：

步骤1、在基于算力网络图的多接入边缘计算网络计算卸载系统中，有一个云端服务器与若干个边缘智能网关，云端服务器上部署着集群管理模块、网络监控模块、算力网络图模块等功能模块，每个边缘智能网关上部署着算力网络图模块、计算卸载模块、任务调度客户端模块，云端服务器的容器集群调度模块与若干个边缘智能网关相连，负责对边缘智能网关上部署的容器进行调度；云端服务器的网络监控模块负责在各个节点收集节点监控数据，云端服务器的算力网络图模块定时从网络监控模块获取最新的网络监控数据并封装为算力网络图结构，将算力网络图分发给边缘智能网关上部署的算力网络图模块；

步骤2、边缘智能网关上部署的算力网络图模块将定时接收云端服务器上部署的算力网络图模块分发的算力网络图，并将其存储在算力网络图队列中，算力网络图队列为存储算力网络图结构体的数据结构；

步骤3、边缘智能网关的任务调度客户端模块接收输入设备采集的环境数据，并判断当前的数据是否可以看作计算任务的输入数据；

步骤3.1、当目前的环境数据可以看作计算任务的输入数据，则将这些环境数据进行缓存，并通过获取传输这些环境数据的输入设备的ID以确定对应的任务类型；设定N＝{n|1,2,...c}表示边缘智能网关集合，n表示边缘智能网关，c表示边缘智能网关数目；

步骤3.2、环境数据为由输入设备采集到的数据，包括图像、音频、示数，输入数据为一个计算任务执行所需要的数据，其中含有连续图像(用于目标识别)、非噪声的音频(用于自然语言处理)、示数序列(用于环境监测)；

步骤4、在边缘智能网关上部署的任务调度客户端模块通过通信协议，向边缘智能网关的计算卸载模块发送计算卸载请求，并等待计算卸载模块的回复；

步骤5、在边缘智能网关上部署的计算卸载模块接收到任务调度客户端模块的计算卸载请求后，将请求加入卸载队列，并开始监听是否有其它计算卸载请求，记监听的时间间隙为一个监听时间帧；

步骤5.1、在监听时间帧的时隙范围内，计算卸载模块等待是否有其它计算卸载请求到达(相当于步骤3、4)，当有其他计算卸载请求到达时，则将新到达任务的计算卸载请求加入卸载队列；

步骤5.2、卸载队列为存储计算卸载请求这一消息结构体的数据结构，监听时间帧的时隙长度称为冷却时间；

步骤6、在步骤5的基础上，当一帧间隔的时间帧结束后，边缘智能网关上部署的计算卸载模块从边缘智能网关上部署的算力网络图模块拉取最新的算力网络图，结合算力网络图的信息与计算卸载请求所提供的任务类型，计算卸载模块调用时延预测模型，生成计算卸载时延矩阵，M＝{m|1,2,...r}表示当前时间帧内共同进行计算卸载的计算任务集合，m表示计算任务，r表示计算任务数目，T＝{τ_m,n|m∈M,n∈N}表示计算卸载时延矩阵，τ_m,n表示将计算任务m卸载至边缘智能网关n的时延；

时延预测模型，包括传输时延的预测模型与处理时延的预测模型，记计算任务m卸载至边缘智能网关n的时延为τ_m,n，则该时延计算方法如公式(1)：

在公式(1)中，τ_prof为任务特征数据上传时延，由于特征数据较小，τ_prof可忽略不计；τ_d为卸载算法执行时延，与算法的时间复杂度有关；τ_up为输入数据上传时延，与输入数据大小、信道速率有关；τ_wait为等待时延，与计算任务数有关；

为卸载执行计算任务的处理时延，与工作量、本地节点计算速度有关；τ_down为输出数据下载时延，由于下行链路质量较好，τ_down可忽略不计；

在忽略掉极小的时延部分后，计算卸载时延计算方法如公式(2)：

由于实际上用于传输时延、处理时延、并发用户数的参数并不容易获得，因此在实践中可以采取另一种方法对传输时延、处理时延进行求解，将距离计算任务m最近的边缘智能网关记为n_m，根据发送数据大小为D₀的数据包的时延

求出由边缘智能网关n_m至边缘智能网关n的平均传输速率

进而可以求解出传输时延，其计算方法如公式(3)：

处理时延与节点性能、任务特征、并发用户数的若干类相关参数，记节点性能

其包括计算资源F、存储资源C与I/O资源E。其中，计算与存储资源设置三个子参数：资源总量([·]_s)、任务到达时的资源占用比例

)、任务执行时任务的资源平均占用比例

I/O资源设置两个子参数：任务到达时的I/O读写速度(E₀)、任务执行时的I/O平均读写速度

记任务特征S＝(W,D)，其包括任务工作量W为、输入数据大小D；其中，任务工作量与处理该任务所需算法的时间复杂度成正比；记K为并发用户数，表示每个节点允许同时执行任务的个数；通过一系列实际数据建立节点性能、任务特征、并发用户数与处理时延的关系，借助神经网络求解，如公式(4)：

步骤7、在边缘智能网关上部署的计算卸载模块调用计算卸载时延矩阵，使用相应的计算卸载算法进行计算卸载决策；

步骤8、边缘智能网关上部署的计算卸载模块将计算卸载决策结果封装为计算卸载响应结构体，通过通信协议回传给边缘智能网关上部署的任务调度客户端模块，通信协议应与步骤4中的通信协议一致；

步骤9、在边缘智能网关上部署的任务调度客户端模块根据获取的计算卸载响应数据所提供的目标节点IP地址，将缓存的计算任务输入数据通过通信协议传输至指定的边缘智能网关上部署的任务处理模块，在任务处理模块完成任务后回传计算结果，任务调度客户端将处理结果上传至云端的展示平台进行展示。

进一步地，在步骤1中，算力网络图，包括节点数据(Nodes)与边权数据(Links)，其中，节点数据包括地址(IP，节点的IP地址)、计算资源(RestComputing，包括节点的核数、主频与计算资源占用比例)、存储资源(RestStorage，包括节点的存储资源总量与存储资源占用比例)，边权数据(Links)包括上下游节点(NodeFrom/NodeTo，上下游节点的IP地址)、信道速率(Rate，链路的上行速率)、连接时延(EsDelay，建立socket连接的时延)。

进一步地，在步骤2中，存储算力网络图的算力网络图队列，其长度记为L，边缘智能网关上部署的算力网络图只会存储近L个算力网络图数据。

进一步地，在步骤3中，提出的识别环境数据是否为输入数据的算法，应与具体的计算任务相适配，不同ID的输入设备负责接收不同计算任务的输入数据，任务调度客户端可以依据输入设备的设备ID确定执行的算法。

进一步地，在步骤4中，通信协议默认为gRPC协议。

进一步地，在步骤4中，计算卸载请求，应包括任务ID(ID)、任务类型(Type)、传输该请求的边缘智能网关的IP地址(ArriveAt)。

进一步地，在步骤5中，冷却时间，其默认值为20ms，在实际使用时，冷却时间的大小可以根据应用场景中的计算任务类型灵活调整，以最大化计算卸载的效率。

进一步地，在步骤7中，计算卸载算法，其优化目标在于最小化整个边缘计算网络的任务执行时延的计算方法如公式(5)：

计算卸载优化目标的约束条件计算方法如公式(6)：

约束条件C1限定了执行时延不能超过计算任务的截止期限；约束条件C2限定了每个计算任务只能被调度到一个边缘智能网关的任务处理模块；约束条件C3限定了每个任务能分配的计算资源量由节点指定；约束条件C4限定了决策变量为0-1变量。

进一步地，在步骤8中，计算卸载响应，包括任务ID、任务类型(Type)、传输该请求的边缘智能网关的IP地址(ArriveAt)、拟卸载到边缘智能网关的IP地址(OffloadTo)、计算卸载性能评估(Evaluation)的信息。

本发明并不限于上述实施方式，在不背离本发明实质内容的情况下，本领域技术人员可以想到的任何变形、改进、替换均落入本发明的保护范围。

Claims (10)

1.一种基于算力网络图的多接入边缘计算网络计算卸载系统，基于算力网络图的多接入边缘计算网络计算卸载系统包括云端服务器、边缘智能网关和输入设备，其特征在于：

云端服务器，云端服务器上部署多个与计算卸载相关的模块，用于提供容器集群调度、网络性能监控、算力网络图生成与分发，其中，云端服务器上运行的容器集群调度模块负责对各个边缘节点上部署的容器进行管理，提供基础的负载均衡、弹性伸缩；云端服务器上运行的网络性能监控模块，用于定时收集各个边缘节点提供的网络性能数据并进行统一整理，提供一系列数据接口供其它程序调用；云端服务器上运行的算力网络图模块提供进行算力网络图生成与分发，用于将网络监控模块提供的网络性能数据通过程序接口获取后封装为算力网络图结构，并通过通信协议将最新的算力网络图分发给边端的算力网络图模块；

边缘智能网关，边缘智能网关上运行多个与计算卸载模块，每个计算卸载模块均以容器的形式部署，用于提供算力网络图存储、计算卸载、任务缓存与分发，其中，边缘智能网关上运行的算力网络图模块用于将从云端服务器上运行的算力网络图模块接收的算力网络图进行集中缓存；边缘智能网关上运行的计算卸载模块用于为边缘智能网关集群中到达的任务进行卸载并决定将当前任务迁移到对应的边缘智能网关上的任务处理模块上执行，并将决策结果发送至任务调度客户端，整个集群只需要有一个计算卸载模块处于开启状态即可；边缘智能网关上运行的任务调度客户端模块用于对输入设备的输入数据进行任务识别、任务分类与数据缓存，向计算卸载模块发送任务到达信息，并从计算卸载模块接收计算卸载的结果；

输入设备，输入设备包括环境传感器、智能摄像头在内，环境传感器、智能摄像头用于对环境内容进行采集，通过SDK转换成可通过固定API接口调用或处理的数据；每个输入设备负责一种计算任务，不同的输入设备负责接收不同的输入数据，而不同的输入数据代表着不同的计算任务；将计算任务分为时延敏感任务与时延不敏感任务，时延敏感任务，其计算任务需要得到实时保证，其截止期限相对时延不敏感任务短；时延不敏感任务，其计算任务不需要得到实时保证，其截止期限相对时延敏感任务长。

2.一种多接入边缘计算网络计算卸载的方法，具体包括以下步骤：

步骤1、在基于算力网络图的多接入边缘计算网络计算卸载系统中，有一个云端服务器与若干个边缘智能网关，云端服务器上部署着集群管理模块、网络监控模块、算力网络图模块，每个边缘智能网关上部署着算力网络图模块、计算卸载模块、任务调度客户端模块，云端服务器的容器集群调度模块与若干个边缘智能网关相连，负责对边缘智能网关上部署的容器进行调度；云端服务器的网络监控模块负责在各个节点收集节点监控数据，云端服务器的算力网络图模块定时从网络监控模块获取最新的网络监控数据并封装为算力网络图结构，将算力网络图分发给边缘智能网关上部署的算力网络图模块；

步骤2、边缘智能网关上部署的算力网络图模块将定时接收云端服务器上部署的算力网络图模块分发的算力网络图，并将其存储在算力网络图队列中，算力网络图队列为存储算力网络图结构体的数据结构；

步骤3、边缘智能网关的任务调度客户端模块接收输入设备采集的环境数据，并判断当前的数据是否可以看作计算任务的输入数据；

步骤3.1、当目前的环境数据可以看作计算任务的输入数据，则将这些环境数据进行缓存，并通过获取传输这些环境数据的输入设备的ID以确定对应的任务类型；设定N＝{n|1,2,...c}表示边缘智能网关集合，n表示边缘智能网关，c表示边缘智能网关数目；

步骤3.2、环境数据为由输入设备采集到的数据，包括图像、音频、示数，输入数据为一个计算任务执行所需要的数据，其中含有连续图像、非噪声的音频、示数序列；

步骤4、在边缘智能网关上部署的任务调度客户端模块通过通信协议，向边缘智能网关的计算卸载模块发送计算卸载请求，并等待计算卸载模块的回复；

步骤5、在边缘智能网关上部署的计算卸载模块接收到任务调度客户端模块的计算卸载请求后，将请求加入卸载队列，并开始监听是否有其它计算卸载请求，记监听的时间间隙为一个监听时间帧；

步骤5.1、在监听时间帧的时隙范围内，计算卸载模块等待是否有其它计算卸载请求到达，当有其他计算卸载请求到达时，则将新到达任务的计算卸载请求加入卸载队列；

步骤5.2、卸载队列为存储计算卸载请求这一消息结构体的数据结构，监听时间帧的时隙长度称为冷却时间；

步骤6、在步骤5的基础上，当一帧间隔的时间帧结束后，边缘智能网关上部署的计算卸载模块从边缘智能网关上部署的算力网络图模块拉取最新的算力网络图，结合算力网络图的信息与计算卸载请求所提供的任务类型，计算卸载模块调用时延预测模型，生成计算卸载时延矩阵，M＝{m|1,2,...r}表示当前时间帧内共同进行计算卸载的计算任务集合，m表示计算任务，r表示计算任务数目，T＝{τ_m,n|m∈M,n∈N}表示计算卸载时延矩阵，τ_m,n表示将计算任务m卸载至边缘智能网关n的时延；

时延预测模型，包括传输时延的预测模型与处理时延的预测模型，记计算任务m卸载至边缘智能网关n的时延为τ_m,n，则该时延计算方法如公式(1)：

在公式(1)中，τ_prof为任务特征数据上传时延；τ_d为卸载算法执行时延，与算法的时间复杂度有关；τ_up为输入数据上传时延，与输入数据大小、信道速率有关；τ_wait为等待时延，与计算任务数有关；

为卸载执行计算任务的处理时延，与工作量、本地节点计算速度有关；τ_down为输出数据下载时延；

在忽略掉在τ_m,n中占比极小的τ_prof、τ_wait和τ_down后，计算卸载时延计算方法如公式(2)：

由于实际上用于传输时延、处理时延、并发用户数的参数并不容易获得，因此在实践中可以采取另一种方法对传输时延、处理时延进行求解，将距离计算任务m最近的边缘智能网关记为n_m，根据发送数据大小为D₀的数据包的时延

求出由边缘智能网关n_m至边缘智能网关n的平均传输速率

进而可以求解出传输时延，其计算方法如公式(3)：

处理时延与节点性能、任务特征、并发用户数的若干类相关参数，记节点性能

其包括计算资源F、存储资源C与I/O资源E；其中，计算与存储资源设置三个子参数：资源总量([·]_s)、任务到达时的资源占用比例(

)、任务执行时任务的资源平均占用比例

I/O资源设置两个子参数：任务到达时的I/O读写速度(E₀)、任务执行时的I/O平均读写速度

记任务特征S＝(W,D)，其包括任务工作量W为、输入数据大小D；其中，任务工作量与处理该任务所需算法的时间复杂度成正比；记K为并发用户数，表示每个节点允许同时执行任务的个数；通过一系列实际数据建立节点性能、任务特征、并发用户数与处理时延的关系，借助神经网络求解，如公式(4)：

步骤7、在边缘智能网关上部署的计算卸载模块调用计算卸载时延矩阵，使用相应的计算卸载算法进行计算卸载决策；

步骤8、边缘智能网关上部署的计算卸载模块将计算卸载决策结果封装为计算卸载响应结构体，通过通信协议回传给边缘智能网关上部署的任务调度客户端模块，通信协议与步骤4中的通信协议一致；

步骤9、在边缘智能网关上部署的任务调度客户端模块根据获取的计算卸载响应数据所提供的目标节点IP地址，将缓存的计算任务输入数据通过通信协议传输至指定的边缘智能网关上部署的任务处理模块，在任务处理模块完成任务后回传计算结果，任务调度客户端将处理结果上传至云端的展示平台进行展示。

3.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤1中，算力网络图，包括节点数据与边权数据，其中，节点数据包括地址、计算资源、存储资源，边权数据包括上下游节点、信道速率、连接时延。

4.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤2中，存储算力网络图的算力网络图队列，其长度记为L，边缘智能网关上部署的算力网络图只会存储近L个算力网络图数据。

5.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤3中，提出的识别环境数据是否为输入数据的算法，应与具体的计算任务相适配，不同ID的输入设备负责接收不同计算任务的输入数据，任务调度客户端可以依据输入设备的设备ID确定执行的算法。

6.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤4中，通信协议默认为gRPC协议。

7.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤4中，计算卸载请求，应包括任务ID、任务类型、传输该请求的边缘智能网关的IP地址。

8.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤5中，冷却时间，其默认值为20ms，在实际使用时，冷却时间的大小可以根据应用场景中的计算任务类型灵活调整，以最大化计算卸载的效率。

9.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤7中，计算卸载算法，其优化目标在于最小化整个边缘计算网络的任务执行时延的计算方法如公式(5)：

计算卸载优化目标的约束条件计算方法如公式(6)：

约束条件C1限定了执行时延不能超过计算任务的截止期限；约束条件C2限定了每个计算任务只能被调度到一个边缘智能网关的任务处理模块；约束条件C3限定了每个任务能分配的计算资源量由节点指定；约束条件C4限定了决策变量为0-1变量。

10.根据权利要求2所述的多接入边缘计算网络计算卸载的方法，其特征在于，在步骤8中，计算卸载响应，包括任务ID、任务类型、传输该请求的边缘智能网关的IP地址、拟卸载到边缘智能网关的IP地址、计算卸载性能评估的信息。

Images