CN112004239A - 一种基于云边协同的计算卸载方法及系统 - Google Patents

Abstract

本发明公开了一种基于云边协同的计算卸载方法及系统，本方法步骤包括：1)终端计算任务模块收集各终端设备拟卸载的计算任务和当前可供卸载的计算节点；其中每个计算任务包含对拟卸载到计算节点的卸载需求；所述计算节点包括边缘计算节点和云计算节点；2)协作计算卸载模块根据边缘计算节点、云计算节点所产生的处理时间和能耗作为卸载依据，结合每个拟卸载计算任务的所述卸载需求，对每个拟卸载计算任务的计算模式进行分类；3)根据分类结果确定每个拟卸载计算任务对应的计算节点。本发根据收集的卸载需求，结合服务器资源使用情况以执行不同的卸载任务，减少计算任务的执行时间，提高服务器资源利用率。

Description

一种基于云边协同的计算卸载方法及系统

技术领域

本发明涉及通信技术领域、云计算和边缘计算领域，具体而言，本发明涉及一种基于云边协同的计算卸载方法及系统。

背景技术

第五代通信技术(5G)和人工智能技术(AI)的快速发展，开启了万物智能互联的新时代。从传统以单机应用为主的PC时代进入到人人联网的移动互联网时代，再进入到面向未来网络的万物互联时代，技术创新带来了包括工业互联网、车联网、AR/VR等新兴产业的蓬勃发展。

随着以智能手机、笔记本电脑、工业传感器为代表的终端设备的广泛应用，需要处理的移动数据呈现爆发式增长，受限于终端设备的计算能力、内存和电池容量，在3G、4G和Wi-Fi等无线通信技术的发展下，云计算凭借着丰富的计算资源和更强的计算能力，有效的解决了移动设备面临的上述挑战，将计算密集型任务传输到云数据中心执行，即所谓的计算卸载(Computing Offloading)，基于云计算的计算卸载，一方面提升了终端设备性能，另一方面降低了设备能耗。

然而，将计算任务卸载到远距离的云数据中心，造成了较大的传输时延和能量消耗，且随着新型边缘应用如远程医疗、无人机和自动驾驶等时延敏感型任务的出现，对服务的响应时延提出了更高的要求。

显然，核心网集中式的部署方式已不能满足新业务的需求，在网络随业务向边缘迁移的趋势下，边缘计算作为5G网络架构的核心技术应运而生，它不仅满足5G网络的高速率、大容量、低时延等三大特性，而且将计算、通信、控制和存储资源与服务分布在用户侧或靠近用户的边缘设备与系统，从而使得云计算模式扩展到网络边缘，减轻核心网的流量负载，降低了时延。

现有的大多计算卸载方案，大部分研究集中于云计算或边缘计算来卸载任务，并未考虑二者之间的协作。为了应对上述问题，研究人员在计算卸载中引入云计算和边缘计算的协作，当计算任务为计算密集型任务时，云计算凭借着丰富的计算资源可以比边缘计算提供更好的服务；当处理时延敏感型任务，边缘计算凭借着靠近终端设备更占优势。

现有的方案受限于只将终端设备能耗或响应时延其中一项作为优化目标，很少有文献考虑多种优化目标，且随着电源存储技术的快速发展，能耗的影响相对减小，计算能力在处理任务上扮演者决定性的角色之一。因此，传统的卸载机制需要进一步优化。

发明内容

有鉴于此，本申请实施例提供了一种基于云边协同的计算卸载方法及系统，通过建立云边协作的计算卸载模型，采用优化卸载算法，根据收集的卸载需求，结合服务器资源使用情况以执行不同的卸载任务，减少计算任务的执行时间，提高服务器资源利用率，降低终端设备的能耗，满足未来场景中可能得突发性网络需求或异构计算任务的差异化需求。

1、卸载系统

本发明的卸载系统如图1所示，包括终端计算任务模块、协作计算卸载模块、边缘计算节点和云计算节点。

(1)终端计算任务模块：用于收集终端设备拟卸载的计算任务，每个计算任务对拟卸载到计算节点提出了相应的卸载需求；需要将所收集计算任务卸载到多个可供卸载的计算节点，包括云计算节点、边缘计算节点；

(2)协作计算卸载模块：用于负责卸载决策，协作包含边缘服务器之间的协作和边缘服务器与云数据中心之间的协作，每一基站对应多个终端设备，需要将一个基站下的计算任务卸载到临近的其他边缘服务器(即边缘计算节点)或云数据中心(即云计算节点)；

(3)边缘计算节点和云计算节点：用于为计算任务提供可卸载的计算节点。单一的边缘计算无法完全有效地满足用户的大量异构卸载请求，边缘计算不应完全取代云计算，两者应相互补充，以更好地满足计算任务的卸载需求。对于延迟敏感型任务，所需的资源可以下沉到边缘服务器并由其处理，对于计算量较大的任务，可以将其通过WAN传输到云数据中心以执行云计算。

2、卸载流程

根据上述协作计算卸载模块，本申请实施例中基于云边协同的计算卸载流程，将阐述各个模块之间的依赖关系和数据传递。

首先，构建包含云、边缘和终端三层的云边端结构如图2，终端是运行在本地的客户端(Client)，边和云是提供计算和存储服务的计算节点。卸载流程可以概述为客户端将不能处理的计算任务，向服务器请求服务，服务器根据自身的资源情况和网络情况分配资源，执行相应的计算任务，得到计算结果。

根据上述云边端结构示意图，本申请实施例中的卸载流程如图3所示，具体可分为以下几个步骤：

(1)由终端设备产生计算任务，根据任务的是否可卸载，将不可卸载的任务直接放在终端设备进行本地计算；

(2)上传拟卸载的计算任务，获取当前可供卸载的计算节点；

(3)根据计算任务的卸载需求，使用卸载算法进行卸载决策；

(4)根据卸载决策，由边缘服务器或云数据中心执行计算任务，计算结束后将计算结果返回到终端。

3、卸载模型

(1)通信模型

根据上述协作计算卸载模块中的对计算节点提出的需求，构建云边融合的计算架构如图4，包含终端设备、边缘基站、边缘服务器和云数据中心。云边协同环境下的通信模型，云数据中心通过有线方式和边缘基站连接成网，在边缘基站附近部署边缘服务器并通过有线连接，少数的云数据中心和众多边缘服务器作为计算节点，为终端设备提供服务。

终端设备：以传感器、监控设备和便携设备为例的终端设备可根据自身能力执行计算一些必要的简单任务；

基站：无线访问点主要是蜂窝网络中的基站；

计算节点：基站附近的边缘服务器和云数据中心作为计算节点，根据收集的计算卸载需求，分配自身资源以执行不同的计算卸载任务。

(2)计算模型

终端设备产生的计算任务TASK_i，其网络需求分别为：计算量大小A_i，所允许的最大时延MT_i，所需要的CPU时钟周期C_i，所允许的最大能耗ME_i。

TASK_i＝{A_i,MT_i,C_i,ME_i}

根据通信模型中云边融合的计算架构，计算模型分为本地计算、边缘计算和云计算。

1)本地计算

在本地计算中，终端设备利用自身的计算资源处理计算任务，其计算能力为

单位时钟周期的能耗为

在本地计算的处理时间和能耗分别为

和

2)边缘计算

在边缘计算中，终端设备的计算任务卸载到基站附近的边缘服务器，增加了任务从终端设备卸载到边缘服务器的无线信道传输时间

且取决于上述通信模型中无线信道传输速率

边缘计算的处理时间和能耗分别为

和

3)云计算

在云计算中，终端设备的计算任务卸载到远距离的云数据中心，通常拥有充足的计算资源来处理终端的计算任务，数据从基站上传到云数据中心的上传时间为

数据在上行链路传输时延

云计算的处理时间和能耗分别为

和

根据边缘计算模型和云计算模型所产生的处理时间和能耗作为卸载依据，结合每个任务的计算量大小、最大容忍时延、所需时钟周期数和所容忍最大能耗，对每个任务的计算模式进行分类，其中任务分类的比较权值Δ的计算方式如下：

其中，γ₁是时延能耗权值，代表各自变量在卸载决策指标的权重值，其初始值为0.5。

在计算卸载的过程中，可根据计算任务的实际情况，以计算量和最大容忍时延为指标调节其大小。以计算密集型任务为例，当任务的计算量大时，可加大时延能耗权值；当任务为时延敏感型任务，可减少时延能耗权值。

(3)任务分配模型

在对计算任务完成分类后，需要确定每个计算任务确定的计算节点，为此引入计算最优传输(Computational Optimal Transport)，其目的是寻找“总体花费”最少的传输方案。

对于应该分配计算任务集

设定

的一个离散概率测度，使得到应该执行的计算任务φ对应的一个离散测度的代价最小，其中应该分配的计算任务等于应该执行的计算任务：

上述公式中α_i表示向量α(离散向量)的第i个分量，β_i表示向量β(离散向量)的第i个分量，

表示x_i在α_i方向上的离散测度值，

表示y_i在β_i方向上的离散测度值，x_i表示为卸载前来自于终端的第i个任务的任务量，y_i表示卸载后分配到计算节点对第i个任务的任务量，n代表任务的个数；α_i和β_i为：

α＝(α₁,α₂,α₃,…,α_n)＝(1,0,0,…,0)

β＝(β₁,β₂,β₃,…,β_n)＝(0,β₂,β₃,…,β_n)，且满足

参考Kantorovich最优传输问题，上述任务分配模型可描述为基于计算最优传输的任务分配问题：

其中C(x,F(x))在这里是传输时延，

是服务器的计算能力，x为任务集

中可分的任务,F(x)函数为将任务x分配到计算节点所形成的传输策略，

为服务器x的计算能力，

为多到多的传输矩阵；

代表计算节点上的未进行卸载的计算任务集合，φ代表计算节点上的已经卸载的任务集合。

4、卸载算法设计

为解决上述计算传输模型中提出的问题，一是设计任务分类算法对任务进行分类，二是求解上述基于计算最优传输的任务分配问题。

(1)任务分类

将上传的计算任务根据卸载需求进行分类，首先计算每个任务在边缘计算和云计算模式下的处理时间和系统能耗，在满足所允许的最大时延和所允许的最大能耗情况下，根据算法1中第8行计算任务优先级，并区分云计算任务集合和边缘计算任务集合。

(2)任务分配

通过任务分类算法完成对计算任务的区分后，着力于求解基于计算最优传输的任务分配问题，Kantorovich最优传输问题是一个特殊的线性规划问题，所以先进的线性规划求解算法均可用来进行求解。然而本申请实施例面对的大规模卸载时，时间复杂度是个非常重要的因素，基于内点法的线性规划算法在执行时间上有着很大的局限性。

在大部分情况下，求标准Kantorovich解是不必要的，可利用基于熵正则的近似算法改求近似解，那么最优传输的计算代价将大幅度降低，因此求解一个任务的最优传输时延和供卸载的计算节点公式(存在唯一解)为：

C(x,F(x))＝||x-F(x)||₂

其中C(x,F(x))为当前状态下执行边缘计算卸载或云计算卸载所能达到的最优传输时延，β_i为卸载任务x需要用到的计算节点，可为包含边缘服务器和云数据中心的一个或多个，x为任务集

中可分的任务,F(x)函数为将任务x分配到计算节点所形成的传输策略，C(x,F(x))为传输时延，x_i,x_m是任务集

第i个和第m个任务，d(x_i,x_m)为任务量之间的距离。

算法1：任务分类算法

与现有技术相比，本发明的积极效果为：

在云计算和边缘计算协同的框架下，基于传输优化模型提出边缘计算节点和云计算节点协同工作的协同计算卸载，构建相应的卸载问题使得任务时延实现最优化，实验结果表明，所设计的EDGECLOUD方案降低了平均任务时延，提升了系统处理速度。

(1)平均任务处理时延

保证系统选择优先资源使得系统任务时延最小，并保证系统非阻塞。当任务到达速率增大时，通过合理协作云服务器和边缘服务器资源，尽可能降低系统阻塞，保证在阻塞条件下的系统任务时延最小，平均任务处理时延效果对比如图6所示。

(2)系统处理速度

下图为不同数据达到速率对系统处理速度的影响，在低数据到达速率情况下，由于资源出现空闲，相较于其他两种算法的任务处理速度优势不明显；在高数据到达速率情况下，其他两种算法由于系统受单一节点的资源瓶颈影响，进入阻塞状态，任务处理达到上限，系统处理速度效果对比如图7所示。

通过动态协作调度云服务器和边缘服务器的资源，减小了瓶颈节点的资源负载，提高了系统吞吐量，尽量保证系统不发生阻塞。

附图说明

图1为本发明申请一种基于云边协同的计算卸载机制的协作计算卸载模块示意图；

图2为本发明申请一种基于云边协同的计算卸载机制的云边端结构示意图；

图3为本发明申请一种基于云边协同的计算卸载机制的计算卸载流程示意图；

图4为本发明申请一种基于云边协同的计算卸载机制的云边融合的计算架构图；

图5为本发明申请一种基于云边协同的计算卸载机制的差异化网络服务实施例的计算卸载网络拓扑图；

图6为平均任务处理时延效果对比图；

图7为系统处理速度效果对比图。

具体实施方式

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

本申请提供一种基于云边协同的计算卸载机制的实施例，即面向差异化网络服务的云边协同计算卸载，实施例的计算卸载网络拓扑图如图5。

在5G异构网络中，既有以超级计算机为代表的计算密集型任务，也有以实时检测为代表的时延敏感型任务，运用本申请中一种基于云边协同的计算卸载机制，能够满足差异化计算任务的卸载需求。

下面将分别以面向计算密集型任务和时延敏感型任务的卸载流程阐述本机制：

(1)计算密集型任务(CPU-Intensive)

首先，计算密集型任务的特点是需要进行大量的计算，消耗大量的CPU资源，如机器学习模型训练、超高清视频编解码和高性能计算等计算任务，完全依赖于CPU的计算能力，在这一方面，云服务器相比终端设备和边缘服务器有着巨大的优势。

一方面，上传到边缘的计算密集型任务，通过卸载决策直接将整个任务传输到云数据中心执行云计算，既能充分利用CPU计算资源处理计算任务，也会因为远距离传输造成较大的时延。

另一方面，计算密集型的任务也可以使用多任务完成，通过多个边缘服务器之间的协作完成，但是，随着任务量的增大，任务切割的数量越多，花在任务切换的时间也越多，边缘服务器执行任务的效率就越低。

(2)时延敏感型任务(Latency-Intensive)

首先，区别于时间敏感网络(Time-Sensitive Networking)，其主要目标是通过有线网络提供确定性服务，本申请实施例中的时延敏感型任务主要是5G、物联网、增强现实、无人驾驶等这些新技术对信息基础设施又提出了新的需求：非常低的、确定的网络时延。使用协作的边缘服务器对终端设备的实时性业务进行卸载，对短周期数据进行存储，在边缘为时延敏感型任务提供计算、存储和网络资源，从而减少网络流量、减少传输链路的往返延迟。

以上实施例仅用以说明本发明的技术方案而非对其进行限制，本领域的普通技术人员可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明的精神和范围，本发明的保护范围应以权利要求所述为准。

Claims (10)

1.一种基于云边协同的计算卸载方法，其步骤包括：

1)终端计算任务模块收集各终端设备拟卸载的计算任务和当前可供卸载的计算节点；其中每个计算任务包含对拟卸载到计算节点的卸载需求；计算任务TASK_i的卸载需求包括计算节点的计算量大小A_i、所允许的最大时延MT_i、所需要的CPU时钟周期C_i和所允许的最大能耗ME_i；所述计算节点包括边缘计算节点和云计算节点；

2)协作计算卸载模块根据边缘计算节点、云计算节点所产生的处理时间和能耗作为卸载依据，结合每个拟卸载计算任务的所述卸载需求，对每个拟卸载计算任务的计算模式进行分类；

3)根据分类结果确定每个拟卸载计算任务对应的计算节点。

2.如权利要求1所述的方法，其特征在于，步骤3)中，对每个拟卸载计算任务的计算模式进行分类的方法为：

31)对于每个任务TASK_i，首先计算云计算节点完成任务TASK_i的处理时间

能耗

边缘计算节点完成任务TASK_i的处理时间

能耗

32)如果

或

则判定任务卸载失败，否则进行步骤33)；

33)如果

则将任务TASK_i加入云计算任务集合

否则将任务TASK_i加入边缘计算任务集合

3.如权利要求1或2所述的方法，其特征在于，计算每个拟卸载计算任务的任务优先级

n为拟卸载计算任务的总数。

4.如权利要求1所述的方法，其特征在于，根据设定的最优任务分配模型确定每个拟卸载计算任务对应的计算节点；所述最优任务分配模型为

其中α_i表示向量α的第i个分量，β_i表示向量β的第i个分量，

表示x_i在α_i方向上的离散测度值，

表示y_i在β_i方向上的离散测度值，x_i表示对第i个拟卸载计算任务的任务量，y_i表示卸载后分配到计算节点对第i个任务的任务量，n代表拟卸载计算任务的个数，α＝(α₁，α₂，α₃，…，α_n)＝(1，0，0，…，0)，β＝(β₁，β₂，β₃，…，β_n)＝(0，β₂，β₃，…，β_n)，且满足

5.如权利要求4所述的方法，其特征在于，将所述最优任务分配模型描述为基于计算最优传输的任务分配问题；然后通过求解C(x，F(x))＝||x-F(x)||₂，得到拟卸载计算任务x需要分配到的计算节点

其中，C(x，F(x))为当前状态下执行边缘计算卸载或云计算卸载所能达到的最优传输时延，x为任务集

中可分的任务，F(x)函数为将任务x分配到计算节点所形成的传输策略，F(x)：

C(x，F(x))为传输时延，x_i是任务集

中第i个任务，x_m是任务集

中第m个任务，d(x_i，x_m)为x_i与x_m之间的距离；

代表计算节点上的未进行卸载的计算任务集合，φ代表计算节点上的已经卸载的任务集合。

6.一种基于云边协同的计算卸载系统，其特征在于，包括终端计算任务模块、协作计算卸载模块和计算节点，其中计算节点包括边缘计算节点和云计算节点；

终端计算任务模块，用于收集各终端设备拟卸载的计算任务和当前可供卸载的计算节点；其中每个计算任务包含对拟卸载到计算节点的卸载需求；计算任务TASK_i的卸载需求包括计算节点的计算量大小A_i、所允许的最大时延MT_i、所需要的CPU时钟周期C_i和所允许的最大能耗ME_i；

协作计算卸载模块，用于根据边缘计算节点、云计算节点所产生的处理时间和能耗作为卸载依据，结合每个拟卸载计算任务的所述卸载需求，对每个拟卸载计算任务的计算模式进行分类；

计算节点，用于执行计算卸载任务。

7.如权利要求6所述的系统，其特征在于，对于每个任务TASK_i，所述终端计算任务模块首先计算云计算节点完成任务TASK_i的处理时间

能耗

边缘计算节点完成任务TASK_i的处理时间

能耗

如果

或

则判定任务卸载失败，否则进行步骤33)；如果

则将任务TASK_i加入云计算任务集合

否则将任务TASK_i加入边缘计算任务集合

8.如权利要求6所述的系统，其特征在于，所述终端计算任务模块根据设定的最优任务分配模型确定每个拟卸载计算任务对应的计算节点；所述最优任务分配模型为

其中α_i表示向量α的第i个分量，β_i表示向量β的第i个分量，

表示x_i在α_i方向上的离散测度值，

表示y_i在β_i方向上的离散测度值，x_i表示对第i个拟卸载计算任务的任务量，y_i表示卸载后分配到计算节点对第i个任务的任务量，n代表拟卸载计算任务的个数，α＝(α₁，α₂，α₃，…，α_n)＝(1，0，0，…，0)，β＝(β₁，β₂，β₃，…，β_n)＝(0，β₂，β₃，…，β_n)，且满足

9.如权利要求8所述的系统，其特征在于，所述终端计算任务模块将所述最优任务分配模型描述为基于计算最优传输的任务分配问题；然后通过求解C(x，F(x))＝||x-F(x)||₂，得到拟卸载计算任务x需要分配到的计算节点

其中，C(x，F(x))为当前状态下执行边缘计算卸载或云计算卸载所能达到的最优传输时延，x为任务集

中可分的任务，F(x)函数为将任务x分配到计算节点所形成的传输策略，F(x)：

C(x，F(x))为传输时延，x_i是任务集

中第i个任务，x_m是任务集

中第m个任务，d(x_i，x_m)为x_i与x_m之间的距离；

代表计算节点上的未进行卸载的计算任务集合，φ代表计算节点上的已经卸载的任务集合。

10.如权利要求6所述的系统，其特征在于，所述终端计算任务模块计算每个拟卸载计算任务的任务优先级

n为拟卸载计算任务的总数。

Images