CN111049903A - 一种基于应用感知预测的边缘网络负载分配算法 - Google Patents

Abstract

本发明公开了一种基于应用感知预测的边缘网络负载分配方法，首先在边缘服务器上获取接入边缘服务器设备的网络使用记录或日志文件，使用这些信息，训练长短期记忆模型。通过训练好的模型，将当前时隙任务输入其中，可以得知下一个时隙的最可能运行的任务或应用。对于所有接入设备，都有一个预测的结果，从而得到一个下一时隙的任务集序列。针对这个任务集序列，我们保留一部分资源用于下个时隙的真实序列，将剩余资源采用优化算法，以全局最小时间为优化，分配给每个任务相应的资源，并在当前时隙开始预加载。从而达到提升设备的用户体验，并降低应用的使用延迟的目的，最终甚至达到网络延迟的“无感知”。

Description

一种基于应用感知预测的边缘网络负载分配算法

技术领域

本发明属于边缘网络技术领域，具体涉及一种基于应用感知预测的边缘网络负载分配的方法。

背景技术

随着物联网，移动边缘网络的兴起，人们对于现有的网络提出了更高的要求。欧洲电信标准化协会(ETSI)在2014年提出了移动边缘计算(MEC)的概念。并提出了无线网络与业务进行融合，将传统的无线基站升级为智能化基站的想法。5G的诞生又让人们更加关注于边缘网络的计算场景。在不改变核心网络的前提下，在网络边缘一侧，使用现有的资源，如何更大幅度的提高用户的网络体验，成为了一个十分重要且急迫的问题。

边缘服务器可以为边缘接入设备执行计算卸载，数据缓存和数据转发等服务。这些功能的优劣直接决定着在接入设备上运行网络服务的速度。很多文献与算法都对这三个方向进行研究，并提出多种解决方案。

提供计算卸载服务是指移动设备在运行计算要求高的任务时，受到资源以及能耗的限制，运行缓慢，甚至可能无法运行，如果将计算任务交给计算资源更为充足的边缘服务器来完成，可以大幅度的降低用户使用应用的运行延迟。例如在N.Takahashi的《Analysisof process assignment in multi-tier mobile cloud computing and application toedge accelerated Web browsing》中，提出可以针对网页加速器这一应用进行任务的卸载，Y.Zhang的《To offload or not to offload:An efficient code partitionalgorithm for mobile cloud computing》中，提出可以针对面部识别或自然语言处理应用进行卸载，可以减少近90％的运行延迟。目前计算卸载的瓶颈是不同应用的可卸载性不同，只能针对确定可以卸载的任务进行卸载决策，与卸载拓扑。

第二个方向是数据缓存，因为在同一网域内的接入设备有更高的概率会访问网络相同内容，或者同一设备重复访问，以及上下文缓存。所以通过更智能更快速的数据缓存机制，提高缓存命中率，也可以降低用户的使用延迟，提升用户体验。例如在Yue Wang的《Joint Caching Placement and User Association for Minimizing User DownloadDelay》一文中，同时考虑了有线回传条件和无线信道质量等条件，最大化的降低了平均缓存延迟。在J.Li的《Distributed caching for data dissemination in the downlink ofheterogeneous networks》一文中制定了分布式缓存放置算法，以借助因子图来最大程度地减少下载延迟。

第三个方向是数据转发，数据转发是指能够优化网络拓扑，寻找更优化的链路，从而降低获取数据的延迟。在JunjieXie的《Efficient Indexing Mechanism forUnstructured Data Sharing Systems in Edge Computing》一文中有一个十分杰出的工作，提出了一个基于坐标的索引机制，用于边缘服务器的数据共享。维护一个虚拟空间，其中交换机和数据索引与坐标相关联，算法可以根据这些坐标将数据索引分发到边缘服务器，从而可以迅速响应边缘服务器的查询请求。与其他方案相比，这个工作可以缩短59％的路径长度和30％的转发条目。

以上三个方向的优化工作的确是行之有效的，然而，仍然受到任务队列的限制。需要任务序列到来之后，才可以从这个三个方向采用不同算法进行资源的分配与优化。这样就受到了天然的限制。如果能提前预测用户设备的接下来会运行的应用，在服务器感知到任务队列的到来，提前进行资源的分配与加载，将会更大幅度的降低用户的延迟感知。甚至达到对网络延迟的“无感”。

例如数据访问任务，可以提前进行获取，在边缘服务器进行缓存，相比较实际获取到任务，再优化查找链路，查询各级服务器缓存要快的多。

随着人工智能算法的发展，以及轻量级机器学习平台的开放，可以让机器学习算法在资源更受限的设备上运行，例如TensorFlowLite，Caffe2，让这种预测任务的想法成为了可能。之前也有过相关工作，然而只是在服务器层面的网络流量预测，可以应对网络过载的问题。

综上本发明提出了一种更细粒度化解决方法，采用机器学习算法，在边缘服务器上，对接入设备下一个时隙可能使用的应用进行预测，提前对该应用的网络请求进行资源的分配，可用带宽，可用计算资源等。并在得到分配资源后进行提前加载，从而达到接入设备获得更好的网络体验，达到延迟“无感知”。

发明内容

为了解决边缘网络服务器节点资源有限，连接终端设备上的应用延迟过高的问题，本发明提出了一种，基于应用感知预测的边缘网络负载分配算法。在边缘服务器11上通过对移动设备12上不同应用的网络请求记录进行分析，使用LSTM模型得到未来设备上可能使用的应用的预测结果。根据预测结果，以及历史记录中，使用该应用所需要的资源(包括请求的数据量，服务等)，进行整体的资源提前分配与加载，从而达到提升设备的用户体验，降低应用的使用延迟的目的。

本发明的如下技术方案：

一种基于应用感知预测的边缘网络负载分配方法，其特征在于，步骤如下：

(1)边缘网络服务器11中有接入设备12的网络请求使用记录；首先获取该网络记录，作为历史信息的参照；

(1.1)使用该网络记录的时间信息，处理数据；将每一个接入设备12的网络记录从时间信息数据整理为时间序列数据，得到i个设备应用随时间变化的二元数据列；i个设备，维护i个设备序列，从而区分每个设备的使用编号，为后续预测提高准确性；

(1.2)在每一条时间序列数据中，记录该条网络请求所请求的数据量大小D、容忍时间t、网络请求种类k和网络请求地址Re作为备注信息；

(2)使用长短期记忆神经网络，训练LSTM模型，使用上一步中获取的网络历史记录信息作为输入的训练集，得到最优的训练模型；

(2.1)长短期记忆神经网络(LSTM)的预测方法中，其中在每一个神经单元内引入了“输入门，遗忘门”，以及控制参数C_t；

(2.2)遗忘门表示如下：

f_t＝б(W_f[h_t-1,x_t]+b_f)

其中，б为Sigmoid函数，在(-∞，∞)的定义域内，取值为[-1,1]，W_f为权值向量，h_t-1为迭代计算过程的前一次输出，x_t为当前输入序列矩阵，b_f为偏置向量；f_t用于后续与控制参数C_t-1进行计算，得出哪类信息应该被丢弃；

(2.3)输入门表示如下：

I_t＝б(W_I·[h_t-1,x_t]+b_I)

C_t′＝tanh(W_C·[h_t-1,x_t]+b_C)

其中，I_t表示要保留下来的新信息，W_I为输入门的权值向量，b_I为输入门的偏置向量，C_t′为输入门的输出状态，W_C为输入门输出状态的权值向量，b_C为输入门输出状态的偏置向量；

此时更新新的控制向量C_t：

C_t＝f_t*C_t-1+I_t*C_t′

(2.4)输出门的结果表示为：

o_t＝б(W_o[h_t-1,x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，o_t为输出门，即所需要的结果，W_o为输出门的权值向量，b_o为输出门的偏置向量，h_t为输出门的输出，用于计算下一个神经元；

(2.5)训练模型，根据边缘网络服务器11的计算能力进行调整，如果边缘服务器支持TensorFlowLite或Caffe2，或能在应用场景下的容忍时间内，计算出LSTM模型结果，即在选定网络历史记录信息之后，进行LSTM模型的训练工作，以便下一步的进行；如果边缘服务器不能进行LSTM模型训练，则将LSTM模型训练的任务迁移到云服务器1，或更高一层级的边缘网络服务器11，并返回LSTM模型参数，在当前边缘网络服务器11只进行预测任务；

(3)使用上一步骤训练的LSTM模型，进行网络任务的预测；使用时序信息进行预测，将网络任务按照时隙进行划分，用T表示，当前时隙为T_n；每一个设备G_i通过当前任务以及网络历史记录信息的输入，获得一个对应的预测任务为输出M_i,n+1；

(3.1)由以上场景定义设备集G：

G＝{G₁,G₂,…,G_i}，i表示设备编号；

在设备G_i上的任务序列为：

M_i,n＝{M_i,1,M_i,2,...M_i,n-1,M_i,n}，n表示时间序列

将M_i,n，n∈[1，n]，输入到训练模型中，得到关于设备G_i在n+1时隙的预测任务M_i,n+1；

(3.2)计算出所有接入设备下一个时隙的预测任务，得到预测的任务序列

Ф_n+1′＝{M_1,n+1,M_2,n+1,...,M_i-1，_n+1,M_i,n+1}

l_i＝{D_i,k_i,Re,t}，i∈[1,i]

其中，l_i为对应预测任务的属性集；D_i代表数据量；k_i代表任务属性，抽象的，用0表示数据访问任务，用1表示需要在边缘网络服务器请求的计算任务；Re代表任务请求的网址，t表示任务容忍时间；

(3.3)对总的预测任务集Ф_n+1′进行过滤，将对应预测任务的属性集l_i中的D_i数据量与服务器缓存进行匹配，如果匹配成功，说明设备可直接访问资源，不需要额外分配服务器资源，在Ф_n+1′中删除该任务；

最终得到需要提前进行负载分配的预测任务集Ф_n+1，为了表示方便，此时的任务仍然具有连续的序列号；其中m表示过滤后的序列集大小

Ф_n+1＝{M_1,n+1,M_2,n+1,…,M_m-1，_n+1,M_m,n+1}

(4)根据得到的预测任务集，以及当前服务器11可用资源，对任务分配相应的资源，以达到全局最短时间；设定，服务器带宽为B_total，计算强度为Θ_total，减去已经占用的B_keep，Θ_keep，又因为预测模型的准确性在70％～80％之间，所以预留30％资源，以便应对预测错误；因此，目前可分配B_idle，Θ_idle表示为：

B_idle＝(B_total-B_keep)*0.7

Θ_idle＝(Θ_total-Θ_keep)*0.7

(4.1)对于数据访问的任务执行时间t₁，计算任务的执行时间t₂表示为

其中，B_i表示在在设备G_i上的计算任务所分配的带宽，Θ_i表示在设备G_i上的计算任务所分配的计算强度；

在服务器端11对步骤(3.3)中过滤后的全部m个任务进行分配的资源由如下公式所约束：

(5)由上一步得出对每一个任务所分配的资源，B_i与Θ_i，根据任务属性l_i，在当前时隙T_n对下一个时隙T_n+1的任务进行加载。

本发明的有益效果：本发明提出了一种，基于应用感知预测的边缘网络负载分配算法。在边缘服务器上通过对移动设备12上不同应用的网络请求记录进行分析，使用LSTM模型得到未来设备上可能使用的应用的预测结果。根据预测结果，以及历史记录中，使用该应用所需要的资源(包括请求的数据量，服务等)，进行整体的资源提前分配与加载，从而达到提升设备的用户体验，降低应用的使用延迟的目的。

附图说明

图1是本发明所述的基于应用感知预测的边缘网络资源负载分配系统流程图；

图2是本发明所述的系统模型示意图；

图3是本发明所述的长短期记忆网络模型结构图；

图中：1云服务器；2无线接入点；3基站；4路由器；5-9不同接入设备；10云服务层；11边缘服务器层；12设备层；13通信链路。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

下面结合附图对本发明的应用原理作详细的描述。

如图1所示为本发明算法流程图，本发明首先在边缘服务器11上获取接入边缘服务器设备12的网络使用记录或日志文件，使用这些信息，训练长短期记忆(LSTM)模型。通过训练好的模型，将当前时隙任务输入其中，可以得知下一个时隙的最可能运行的任务或应用。对于所有接入设备，都有一个预测的结果，从而得到一个下一时隙的任务集序列。针对这个任务集序列，我们保留一部分资源用于下个时隙的真实序列，将剩余资源采用优化算法，以全局最小时间为优化，分配给每个任务相应的资源，并在当前时隙开始预加载。从而达到提升设备的用户体验，并降低应用的使用延迟的目的，最终甚至达到网络延迟的“无感知”。

具体包括以下步骤：

一种基于应用感知预测的边缘网络负载分配方法，其特征在于，步骤如下：

(1)边缘网络服务器11中有接入设备12的网络请求使用记录；首先获取该网络记录，作为历史信息的参照；

(1.1)使用该网络记录的时间信息，处理数据；将每一个接入设备12的网络记录从时间信息数据整理为时间序列数据，得到i个设备应用随时间变化的二元数据列；i个设备，维护i个设备序列，从而区分每个设备的使用编号，为后续预测提高准确性；

(1.2)在每一条时间序列数据中，记录该条网络请求所请求的数据量大小D、容忍时间t、网络请求种类k和网络请求地址Re作为备注信息；

(2)使用长短期记忆神经网络，训练LSTM模型，使用上一步中获取的网络历史记录信息作为输入的训练集，得到最优的训练模型；

(2.1)长短期记忆神经网络(LSTM)的预测方法中，其中在每一个神经单元内引入了“输入门，遗忘门”，以及控制参数C_t；

(2.2)遗忘门表示如下：

f_t＝б(W_f[h_t-1,x_t]+b_f)

其中，б为Sigmoid函数，在(-∞，∞)的定义域内，取值为[-1,1]，W_f为权值向量，h_t-1为迭代计算过程的前一次输出，x_t为当前输入序列矩阵，b_f为偏置向量；f_t用于后续与控制参数C_t-1进行计算，得出哪类信息应该被丢弃；

(2.3)输入门表示如下：

I_t＝б(W_I·[h_t-1,x_t]+b_I)

C_t′＝tanh(W_C·[h_t-1,x_t]+b_C)

其中，I_t表示要保留下来的新信息，W_I为输入门的权值向量，b_I为输入门的偏置向量，C_t′为输入门的输出状态，W_C为输入门输出状态的权值向量，b_C为输入门输出状态的偏置向量；

此时更新新的控制向量C_t：

C_t＝f_t*C_t-1+I_t*C_t′

(2.4)输出门的结果表示为：

o_t＝б(W_o[h_t-1,x_t]+b_o)

h_t＝o_t*tanh(C_t)

其中，o_t为输出门，即所需要的结果，W_o为输出门的权值向量，b_o为输出门的偏置向量，h_t为输出门的输出，用于计算下一个神经元；

(2.5)训练模型，根据边缘网络服务器11的计算能力进行调整，如果边缘服务器支持TensorFlowLite或Caffe2，或能在应用场景下的容忍时间内，计算出LSTM模型结果，即在选定网络历史记录信息之后，进行LSTM模型的训练工作，以便下一步的进行；如果边缘服务器不能进行LSTM模型训练，则将LSTM模型训练的任务迁移到云服务器1，或更高一层级的边缘网络服务器11，并返回LSTM模型参数，在当前边缘网络服务器11只进行预测任务；

(3)使用上一步骤训练的LSTM模型，进行网络任务的预测；使用时序信息进行预测，将网络任务按照时隙进行划分，用T表示，当前时隙为T_n；每一个设备G_i通过当前任务以及网络历史记录信息的输入，获得一个对应的预测任务为输出M_i,n+1；

(3.1)由以上场景定义设备集G：

G＝{G₁,G₂,…,G_i}，i表示设备编号；

在设备G_i上的任务序列为：

M_i,n＝{M_i,1,M_i,2,...M_i,n-1,M_i,n}，n表示时间序列

将M_i,n，n∈[1，n]，输入到训练模型中，得到关于设备G_i在n+1时隙的预测任务M_i,n+1；

(3.2)计算出所有接入设备下一个时隙的预测任务，得到预测的任务序列

Ф_n+1′＝{M_1,n+1,M_2,n+1,...,M_i-1，_n+1,M_i,n+1}

l_i＝{D_i,k_i,Re,t}，i∈[1,i]

其中，l_i为对应预测任务的属性集；D_i代表数据量；k_i代表任务属性，抽象的，用0表示数据访问任务，用1表示需要在边缘网络服务器请求的计算任务；Re代表任务请求的网址，t表示任务容忍时间；

(3.3)对总的预测任务集Ф_n+1′进行过滤，将对应预测任务的属性集l_i中的D_i数据量与服务器缓存进行匹配，如果匹配成功，说明设备可直接访问资源，不需要额外分配服务器资源，在Ф_n+1′中删除该任务；

最终得到需要提前进行负载分配的预测任务集Ф_n+1，为了表示方便，此时的任务仍然具有连续的序列号；其中m表示过滤后的序列集大小

Ф_n+1＝{M_1,n+1,M_2,n+1,…,M_m-1，_n+1,M_m,n+1}

(4)根据得到的预测任务集，以及当前服务器11可用资源，对任务分配相应的资源，以达到全局最短时间；设定，服务器带宽为B_total，计算强度为Θ_total，减去已经占用的B_keep，Θ_keep，又因为预测模型的准确性在70％～80％之间，所以预留30％资源，以便应对预测错误；因此，目前可分配B_idle，Θ_idle表示为：

B_idle＝(B_total-B_keep)*0.7

Θ_idle＝(Θ_total-Θ_keep)*0.7

(4.1)对于数据访问的任务执行时间t₁，计算任务的执行时间t₂表示为

其中，B_i表示在在设备G_i上的计算任务所分配的带宽，Θ_i表示在设备G_i上的计算任务所分配的计算强度；

在服务器端11对步骤(3.3)中过滤后的全部m个任务进行分配的资源由如下公式所约束：

(5)由上一步得出对每一个任务所分配的资源，B_i与Θ_i，根据任务属性l_i，在当前时隙T_n对下一个时隙T_n+1的任务进行加载。

综上所述：

本发明提出了一种，基于应用感知预测的边缘网络负载分配算法。在边缘服务器11上通过对移动设备12上不同应用的网络请求记录进行分析，使用LSTM模型得到未来设备上可能使用的应用的预测结果。根据预测结果，以及历史记录中，使用该应用所需要的资源(包括请求的数据量，服务等)，进行整体的资源提前分配与加载，从而达到提升设备的用户体验，降低应用的使用延迟的目的。

以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (1)

1.一种基于应用感知预测的边缘网络负载分配方法，其特征在于，步骤如下：

(1)边缘网络服务器11中有接入设备12的网络请求使用记录；首先获取该网络记录，作为历史信息的参照；

(1.1)使用该网络记录的时间信息，处理数据；将每一个接入设备12的网络记录从时间信息数据整理为时间序列数据，得到i个设备应用随时间变化的二元数据列；i个设备，维护i个设备序列，从而区分每个设备的使用编号，为后续预测提高准确性；

(1.2)在每一条时间序列数据中，记录该条网络请求所请求的数据量大小D、容忍时间t、网络请求种类k和网络请求地址Re作为备注信息；

(2)使用长短期记忆神经网络，训练LSTM模型，使用上一步中获取的网络历史记录信息作为输入的训练集，得到最优的训练模型；

(2.1)长短期记忆神经网络的预测方法中，其中在每一个神经单元内引入了“输入门，遗忘门”，以及控制向量C_t；

(2.2)遗忘门表示如下：

其中，

为Sigmoid函数，在(-∞，∞)的定义域内，取值为[-1，1]，W_f为权值向量，h_t-1为迭代计算过程的前一次输出，x_t为当前输入序列矩阵，b_f为偏置向量；f_t用于后续与控制参数C_t-1进行计算，得出哪类信息应该被丢弃；

(2.3)输入门表示如下：

C_t′＝tanh(W_C·[h_t-1，x_t]+b_C)

其中，I_t表示要保留下来的新信息，W_I为输入门的权值向量，b_I为输入门的偏置向量，C_t′为输入门的输出状态，W_C为输入门输出状态的权值向量，b_C为输入门输出状态的偏置向量；

此时更新新的控制向量C_t：

C_t＝f_t*C_t-1+I_t*C_t′

(2.4)输出门的结果表示为：

h_t＝o_t*tanh(C_t)

其中，o_t为输出门，即所需要的结果，W_o为输出门的权值向量，b_o为输出门的偏置向量，h_t为输出门的输出，用于计算下一个神经元；

(2.5)训练模型，根据边缘网络服务器11的计算能力进行调整，如果边缘服务器支持TensorFlowLite或Caffe2，或能在应用场景下的容忍时间内，计算出LSTM模型结果，即在选定网络历史记录信息之后，进行LSTM模型的训练工作，以便下一步的进行；如果边缘服务器不能进行LSTM模型训练，则将LSTM模型训练的任务迁移到云服务器1，或更高一层级的边缘网络服务器11，并返回LSTM模型参数，在当前边缘网络服务器11只进行预测任务；

(3)使用上一步骤训练的LSTM模型，进行网络任务的预测；使用时序信息进行预测，将网络任务按照时隙进行划分，用T表示，当前时隙为T_n；每一个设备G_i通过当前任务以及网络历史记录信息的输入，获得一个对应的预测任务为输出M_i，n+1；

(3.1)由以上场景定义设备集G：

G＝{G₁，G₂，...，G_i}，i表示设备编号；

在设备G_i上的任务序列为：

M_i，n＝{M_i，1，M_i，2，...M_i，n-1，M_i，n}，n表示时间序列；

将M_i，n，n∈[1，n]，输入到训练模型中，得到关于设备G_i在n+1时隙的预测任务M_i，n+1；

(3.2)计算出所有接入设备下一个时隙的预测任务，得到预测的任务序列

Φ_n+1′＝{M_1，n+1，M_2，n+1，...，M_i-1，n+1，M_i，n+1}

l_i＝{D_i，k_i，Re，t}，i∈[1，i]

其中，l_i为对应预测任务的属性集；D_i代表数据量；k_i代表任务属性，抽象的，用0表示数据访问任务，用1表示需要在边缘网络服务器请求的计算任务；Re代表任务请求的网址，t表示任务容忍时间；

(3.3)对总的预测任务集Φ_n+1′进行过滤，将对应预测任务的属性集l_i中的D_i数据量与服务器缓存进行匹配，如果匹配成功，说明设备可直接访问资源，不需要额外分配服务器资源，在Φ_n+1′中删除该任务；

最终得到需要提前进行负载分配的预测任务集Φ_n+1，为了表示方便，此时的任务仍然具有连续的序列号；其中m表示过滤后的序列集大小

Φ_n+1＝{M_1，n+1，M_2，n+1，...，M_m-1，n+1，M_m，n+1}

(4)根据得到的预测任务集，以及当前服务器11可用资源，对任务分配相应的资源，以达到全局最短时间；设定，服务器带宽为B_total，计算强度为Θ_total，减去已经占用的B_keep，Θ_keep，又因为预测模型的准确性在70％～80％之间，所以预留30％资源，以便应对预测错误；因此，目前可分配B_idle，Θ_idle表示为：

B_idle＝(B_total-B_keep)*0.7

Θ_idle＝(Θ_total-Θ_keep)*0.7

(4.1)对于数据访问的任务执行时间t₁，计算任务的执行时间t₂表示为

其中，B_i表示在在设备G_i上的计算任务所分配的带宽，Θ_i表示在设备G_i上的计算任务所分配的计算强度；

在服务器端11对步骤(3.3)中过滤后的全部m个任务进行分配的资源由如下公式所约束：

(5)由上一步得出对每一个任务所分配的资源，B_i与Θ_i，根据任务属性l_i，在当前时隙T_n对下一个时隙T_n+1的任务进行加载。

Images