CN110972147B - 一种数据驱动的边缘响应时间优化方法 - Google Patents

Abstract

本发明公开了一种数据驱动的边缘响应时间优化方法，其特点是采用异构边缘服务器计算离线任务到达率的最优离线解，以及基于移动性感知博弈论的方法，计算在基站的任务到达率有波动时的最优解，具体包括：离线阶段计算离线任务到达率的最优离线解；运行时阶段的任务到达率没有波动时，直接利用基站分配的方案；在线阶段计算在基站的任务到达率有波动时的最优解。本发明与现有技术相比具有提高整个系统和个人移动用户的预期响应时间，以及移动用户的响应时间公平性，有效解决了由用户移动的动态特性引起的基站工作负载波动问题，系统预期响应时间缩短了54.55％，移动用户的响应时间公平性提高了72.50％，方法简单，使用方便，效率高。

Description

一种数据驱动的边缘响应时间优化方法

技术领域

本发明涉及云服务器技术领域，尤其是一种基于移动性感知博弈论处理用户移动动态特性的数据驱动边缘响应时间优化方法。

背景技术

随着新兴移动应用的普及，移动用户的计算要求如今不断增加。在移动云计算的传统体系结构中，移动用户可以通过基站向远程云服务器发送他们的请求，并要求云服务器代表他们自己执行任务执行，然而，这种模式导致移动用户在物联网时代不可避免地遭受高服务延迟。作为替代解决方案，因此提出在移动用户和云服务器之间部署边缘服务器的移动边缘云计算为众多移动用户提供低延迟服务。在过去几年中，人们对用于移动边缘云计算系统的延迟感知边缘服务器部署的研究产生了广泛的兴趣。

现有技术由于边缘服务器与云服务器没有协作，系统的预期响应时间和移动用户的响应时间公平性较差，用户移动的动态特性容易引起基站的工作负载波动。

发明内容

本发明的目的是针对现有技术的不足而设计的一种数据驱动的边缘响应时间优化方法，采用异构边缘服务器的最优布局策略，计算离线任务到达率的最优离线解，以及基于移动性感知博弈论的方法，处理用户移动的动态特性，计算在基站的任务到达率有波动时的最优解，有效解决了用户移动动态特性引起的基站工作负载波动，大大提高整个系统和个人移动用户的预期响应时间，将系统预期响应时间缩短了54.55％，移动用户的响应时间公平性提高了72.50％，方法简单，使用方便，效率高。

本发明的目的是这样实现的：一种数据驱动的边缘响应时间优化方法，其特点是采用异构边缘服务器计算离线任务到达率的最优离线解，以及基于移动性感知博弈论的方法，计算在基站的任务到达率有波动时的最优解，优化系统的预期响应时间和移动用户的响应时间公平性，其具体优化包括以下步骤：

步骤1：定义云计算系统中的用户、基站、云服务器、边缘服务器，以及基站与服务器的拓扑关系和基站与系统的预期响应时间。

步骤2：离线阶段，利用整数线性规划(ILP)技术计算离线任务到达率的最优离线解。

步骤3：当运行时所有基站的任务到达率没有波动时，直接利用上述步骤2的方案；否则，使用启发式算法，以重新确定具有改变的任务到达率的基站的最佳边缘/云服务器。

步骤4：在线阶段，通过转换为凸优化问题来解决合作博弈问题，计算在基站的任务到达率有波动时的最优解。

步骤5：分配结束。

所述步骤1的实现过程按下述步骤进行：

步骤A1：表示出移动边缘云计算系统中K个移动用户：U＝ {U₁,U₂,…,U_K}；M个基站：B＝{B₁,B₂,…,B_M}；N个边缘服务器S_E＝ {S₁,S₂,…,S_N}以及一个云服务器S₀，令S＝{S₀,S_E}是由云服务器和边缘服务器集组成的服务器集。

步骤A2：满足约束任何基站B_m∈B(1≤m≤M)不允许同时连接到两个不同的边缘/云服务器S_i∈S和S_j∈S(0≤i,j≤N,i≠j)；用无向图 G＝(V,E)表示M个基站和(N+1)和边缘/云服务器的拓扑；其中：集合V表示 M个基站和云服务器S₀ 的固定放置位置的集合，以及N个边缘服务器的可能放置位置；集合E表示基站和边缘/云服务器之间的通信链路集。

步骤A3：基站B_m响应时间模型的构建：

通信延迟W⁽¹⁾ _m,n由下述a式计算：

任务执行延迟W⁽²⁾ _m,n由下述b式定义：

基站B_m预期响应时间W_m由下述c式定义：

系统的预期响应时间

由下述d式定义：

所述步骤2的实现过程按下述步骤进行：

步骤B1：最小化整个系统和各个基站的预期响应时间的基站分配策略，并如下定义P_i,j和A_m,n：

从整个系统的角度来看，性能函数可以用步骤1的A3中定义的预期响应时间

表征；从各个基站的角度来看，性能函数可以用预期响应时间 {W₁,W₂,…,W_M}的标准偏差

描述，并由下述e式定义：

其中，标准偏差

由下述f式计算：

步骤B2：为确保系统中的每个任务都得到可行的处理，必须满足每个边缘服务器S_j与一个基站完全位于同一位置，其约束条件如下述g式定义：

步骤B3：每个基站B_m都被精确分配给一个边缘/云服务器，由下述h 式定义：

步骤B4：发送到每个边缘/云服务器S_j的总任务到达率不超过边缘/云服务器可以处理任务的速率，由下述i式定义：

步骤B5：输入无向图G＝(V,E)、基站的离线任务到达率

以及边缘/云服务器的计算能力{p₀,p₁,…,p_N}。

步骤B6：在上述步骤B2的约束条件下计算预期响应时间的最小值，找到边缘服务器的最佳放置策略

和分配策略

从而获得离线任务到达率的最优离线解Ω＝(P^*,A^*)。所述步骤3的实现过程按下述步骤进行：

步骤C1：用

表示改变任务到达率的Q个基站的集合， Q个基站彼此合作和竞争，使得不仅最小化他们各自的预期响应时间，而且最小化系统预期响应时间，经几轮迭代后，将得到最优解。

步骤C2：使用最大化与Q个改变任务到达率的基站的相关效用函数的乘积作为合作博弈的目标函数，且由下述j式定义基站的效用函数：

其中：响应时间

被归一化到[0,1]的范围内。

步骤C3：由下述k式定义重新分配问题：

s.t.A_q,n＝0,1

其中：剩余计算能力Δp_n由下述l式计算：

所述步骤4的实现过程按下述步骤进行：

步骤D1：输入离线任务到达率的最优离线解Ω＝(P^*,A^*)、离线任务到达率

在线任务到达率

边缘/云服务器的计算能力{p₀,p₁,…,p_N}和初始化任务到达率为0。

步骤D2检查基站的任务到达率是否在运行时改变，如果答案为否，则返回上述步骤B6的最优解；如果答案为是，则算法将任务到达率的标记设置为1并用启发式算法重新分配。

步骤D3：构建改变了任务到达率基站的集合B′＝{B₁,B₂,…,B_Q}。

步骤D4：计算每个边缘/云服务器的剩余计算能力Δp_n。

步骤D5：重新确定每个基站的最佳边缘/云服务器，并相应地更新分配策略。

本发明与现有技术相比具有优化整个系统的预期响应时间，以及移动用户的响应时间公平性，有效解决了由用户移动的动态特性引起的基站工作负载波动问题，大大提高整个系统和个人移动用户的预期响应时间，将系统预期响应时间缩短了54.55％，移动用户的响应时间公平性提高了72.50％，方法简单，使用方便，效率高。

附图说明

图1为上海电信的3233个基站的地理分布；

图2为本发明离线时系统预期响应时间；

图3为本发明离线时预期响应时间的标准偏差；

图4为本发明在线时系统预期响应时间；

图5为本发明在线时预期响应时间的标准偏差；

图6为本发明在线时运行时间和基准测试。

具体实施方式

为了更加清楚的描述发明的目的、技术方案及优点，以下结合附图和具体实施例，对本发明进行进一步详细说明。

实施例1

参阅附图1，本发明基于仿真的实验，以验证在减少整个系统和各个基站的预期响应时间方面的有效性。模拟中采用了由上海电信的3233个基站组成的集合，其中基站的地理分布如图所示：平均任务到达率(每秒CPU周期数) 和每个基站的数据量分别为[4×10⁶,6×10⁸]和[1,100]Mb；每个链路的通信容量是在[100,1000]KB/s的范围内随机选择的；电磁波的传播速率设定为 2×10⁵km/s。

假设云服务器的任务执行时间遵循正态分布，平均值为10ms，方差为 4。选择配备10核和每核3.6GHz工作频率的HPE ProLiant ML350 Gen10服务器作为云服务器S₀。然后计算云服务器S₀的计算容量p₀为10×3.6GHz＝ 36.0GHz。此外，构建了基于HPE ProLiantMicroServer Gen10服务器，Dell R230服务器，Lenovo TS250服务器和浪潮NP3020服务器的边缘服务器集。本发明根据提出的离线和在线算法进行了两组对比实验：一组用于离线算法 PEAB，即本发明的步骤2(离线阶段，利用整数线性规划技术计算离线任务到达率的最优离线解)，另一组用于在线算法RBEC，即本发明的步骤4(在线阶段，通过转换为凸优化问题来解决合作博弈问题，计算在基站的任务到达率有波动时的最优解)。在第一组模拟中，将离线算法PEAB与基准算法WRES， EPSO和DAPP进行了比较。在第二组仿真中，将在线算法RBEC与基准算法 RALL和DGEN进行了比较。WRES旨在联合优化边缘服务器的工作负载和响应时间，采用MILP技术进行边缘服务器的部署。EPSO旨在最小化边缘服务器的整体能耗，其中利用众所周知的粒子群优化技术(PSO)来执行边缘服务器的部署。DAPP将边缘服务器放置表示为图中的经典容量K中值问题，以便可以最小化系统响应时间。RALL尝试在运行时最小化整个系统和各个基站的响应时间。其主要思想是通过修改本发明步骤2的算法来重新分配所有基站，假设已经放置了所有边缘服务器。DGEN与方案RALL类似，也尝试在运行时最小化整个系统和各个基站的响应时间。它利用中引入的遗传算法技术，以改变任务到达率来重新分配基站。NAVE是一种天真的在线方法，直接采用我们提出的方法PEAB的输出，并且它不采取任何行动来处理基站的任务到达率在运行时已经改变的情况。上述算法均采用C++实现，两组仿真实验均在配备16GB内存和Intel i5双核3.5GHz处理器的台式计算机上进行。并且使用不同的基站工作负载设置执行3000次实验，以将建议的解决方案与基准测试方案进行比较，具体优化过程按下述步骤进行：

步骤1：定义云计算系统中的用户、基站以及服务器(包括云服务器和边缘服务器)，基站与服务器的拓扑关系和基站与系统的预期响应时间。本实施例采用了由上海电信的3233个基站组成的集合，即： B＝{B₁,B₂,…,B₃₂₃₃}，平均任务到达率(每秒CPU周期数)和每个基站的数据量分别为：[4×10⁶,6×10⁸]和[1,100]Mb。每个链路的通信容量是在 [100,1000]KB/s的范围内随机选择的。电磁波的传播速率设定为2×10⁵km/s。并选择选择配备10核且每核工作频率为3.6GHz的HPE ProLiant ML350 Gen10 服务器作为云服务器S₀，并假设云服务器的任务执行时间遵循正态分布，平均值为10ms，方差为4。云服务器S₀的计算能力p₀为10×3.6GHz＝36.0GHz。此外，构建了HPE ProLiant MicroServer Gen10服务器，Dell R230服务器， Lenovo TS250服务器和浪潮NP3020服务器的边缘服务器集，其具体性能和参数见下表1：

表1 边缘服务器参数。

	HPE ProLiant	Dell R230	Lenovo TS250	Inspur NP3020
					服务器数量	50	50	50	50
服务器每个核的频率	3.4GHz	3.0GHz	3.9GHz	3.0GHz
					核心	4	6	2	4
每台服务器的计算能力	13.6GHz	18.0GHz	7.8GHz	12.0GHz
					执行时间的正态分布(ms)	N(20,5)	N(14,8)	N(35,15)	N(17,10)

并表示出无向图G＝(V,E)，即3233个基站和边缘/云服务器的拓扑，并计算基站B_m和系统的响应时间：

基站B_m响应时间模型的构建，通信延迟W⁽¹⁾ _m,n由下述a式计算：

任务执行延迟W⁽²⁾ _m,n由下述b式定义：

所以，基站B_m预期响应时间W_m由下述c式定义：

系统的预期响应时间

由下述d式定义：

步骤2：离线阶段，利用整数线性规划(ILP)技术计算离线任务到达率的最优离线解，并定义P_i,j和A_m,n如下：

从各个基站的角度来看，性能函数可以用预期响应时间{W₁，W₂,…,W_M} 的标准偏差

描述，即由下述e式定义：

其中，标准偏差

由下述f式计算：

除此之外还需确保系统中的每个任务都得到可行的处理，即满足下述g式描述的每个边缘服务器S_j与一个基站完全位于同一位置的约束条件：

每个基站B_m都被精确分配给一个由下述i式定义的边缘/云服务器：

发送到每个边缘/云服务器S_j的总任务到达率不能超过边缘/云服务器可以处理任务的速率，并由下述i式定义为：

其中，p_j已在步骤1中给出。

输入无向图G＝(V,E)、基站的离线任务到达率

以及边缘/云服务器的计算能力{p₀,p₁,…,p_N}，并在上述约束条件下计算预期响应时间的最小值，找到边缘服务器的最佳放置策略

和分配策略

使用ILP求解器求解得离线任务到达率的最优离线解Ω＝(P^*,A^*)。

步骤3：当运行时所有基站的任务到达率没有波动时，直接利用上述步骤2的方案；否则，使用启发式算法，以重新确定具有改变的任务到达率的基站的最佳边缘/云服务器。用

表示改变任务到达率的Q个基站的集合。Q个基站彼此合作和竞争，使得不仅最小化他们各自的预期响应时间，而且最小化系统预期响应时间。经过几轮迭代后，将得到最优解。使用最大化与Q个改变任务到达率的基站的相关的效用函数的乘积作为合作博弈的目标函数，并由下述j式定义基站的效用函数：

其中：响应时间

被归一化到[0,1]的范围内。重新分配问题的定义按下述k式：

s.t.A_q,n＝0,1

其中：剩余计算能力Δp_n由下述l式计算：

对上式目标函数取对数，得到下述l-1式：

该目标函数等价于下述l-2式：

此外，放宽A_q,n＝0,1的条件。使得A_q,n∈[0,1]，综上上述优化问题等价于下述l-3式：

s.t.C_q,n≤0

其中：C_q,n+A_q,n＝0。

对目标函数H求关于C_q,n的一阶导和二阶导，得到下述l-4式和l-5式导数：

所以目标函数H是凸函数，因为

因此，可以使用拉格朗日乘数法推导出目标函数的一个最优解。该问题的拉格朗日函数L(C_q,n,χ,ψ_q,n,ω_q,n) 由下述( l-5) (l-5a)式描述为：

其中：χ,ψ_q,n,ω_q,m为拉格朗日乘数。

对L(C_q,m,χ,ψ_q,n,ω_q,m)关于C_q,n求一阶偏导，得到下述l-6式导数：

并由

得

其中：χ^*,

为最优拉格朗日乘数。

观察到C_q,n(χ,ψ_q,n,ω_q,n)的最优值

满足下述l-7式：

其中：

是Q个基站的最小预期响应时间，并由下述l-8式定义：

联立上述l-7式和述l-8式两式，由于等式左右两边均有

所以难以直接求得。为了化简该问题，用

去估计

即由下述l-9式计算：

因此，原问题可由下述l-10式表示：

s.t.ψ_q,n,ω_q,n≥0

考虑到优化过程中C_q,n取值范围被放宽到[-1,0]，即任何基站都可以分配给多个边缘/云服务器，将违反约束。因此首先从数组

选择满足条件

的最小值

并令

即：

步骤4：在线阶段，通过转换为凸优化问题来解决合作博弈问题，计算在基站的任务到达率有波动时的最优解。输入离线任务到达率的最优离线解Ω＝(P^*,A^*)，离线任务到达率

在线任务到达率

以及边缘/云服务器的计算能力{p₀,p₁,…,p_N}，初始化任务到达率为0；检查基站的任务到达率是否在运行时改变。如果答案为否，则返回步骤2的离线最优解Ω＝(P^*,A^*)；如果答案为是，则算法将任务到达率的标记设置为1并用启发式算法重新分配；构建改变了任务到达率的基站的集合B′＝{B₁,B₂,…,B_Q}；计算每个边缘/云服务器的剩余计算能力Δp_n；重新确定每个基站的最佳边缘/云服务器，并相应地更新分配策略。

参阅附图2，本发明的离线算法PEAB和基准算法EPSO，WRES，DAPP 实现的系统预期响应时间与测试中的三种基准测试方法相比，显着降低了系统的响应时间。系统预期响应时间分别比基准算法EPSO，WRES，DAPP平均小45.21％，36.61％和16.46％。此外，PEAB的最高改善率高达54.55％。例如，在第24个数据点中，PEAB和EPSO系统的预期响应时间的分别为0.10 和0.22，其图中的每个数据点是100次实验的平均值。

参阅附图3，本发明的离线算法PEAB和基准算法EPSO，WRES，DAPP 实现的预期响应时间的标准偏差与基准测试方法相比，极大地改善了基站之间的性能公平性。PEAB实现的预期响应时间的标准偏差分别比EPSO，WRES 和DAPP小61.23％，57.13％和42.41％。此外，PEAB实现的最高改善率高达80.77％。例如，在第5个数据点，PEAB和EPSO的预期响应时间的标准偏差分别为0.05和0.26。

参阅附图4，本发明的在线算法RBEC和基准算法NAVE，DGEN和RALL 实现的系统预期响应时间。任意选择1000个基站，并将这些基站的任务到达率提高5％-20％。符号“NF”表示由于违反约束

移动用户的任务无法可行地安排。如图所示，系统预期响应时间分别比基准算法NAVE和DGEN平均小41.87％和23.54％。此外，系统预期响应时间比方法RALL平均高12.11％。

参阅附图5，本发明的在线算法RBEC和基准算法NAVE，DGEN和RALL 实现的预期响应时间的标准偏差与基准测试方法相比，实现了惊人的公平性改进(高达72.50％)。同时，也可以看到算法RBEC不如方法RALL，平均性能差异为15.35％。

参阅附图6，本发明的在线算法RBEC的运行时间以及在线算法RALL 和DGEN的基准测试。方法NAVE的在线时间开销等于零，因为它在运行时不执行任何操作。结果清楚地表明，与方法RALL和DGEN相比，本发明的算法RBEC平均达到24.16和2.31倍的加速，加速计算为测试中的基准测试方法所消耗的运行时与本发明的算法RBEC所消耗的运行时间的比率。此外， RBEC方法的加速可达25.33，例如，在第9个数据点中，本发明的方法RBEC 和基准测试方法RALL的运行时间分别为0.79和20.01。

本发明采用两阶段方法来部署和分配异构边缘服务器，以便在移动边缘云计算系统中进行响应时间优化，离线阶段确定边缘服务器的最佳部署策略，在线阶段处理运行时用户移动的动态特性。更重要的是开发的方法共同考虑了边缘云协作和移动用户的性能公平性。仿真结果表明，本发明的算法可以大大提高整个系统和个人移动用户的预期响应时间。

以上只是对本发明作进一步的说明，旨在解读本发明的技术方案，并非用以限制本专利，凡为本发明等效实施，均应包含于本专利的权利要求范围之内。

Claims (1)

1.一种数据驱动的边缘响应时间优化方法，其特征在于采用异构边缘服务器计算离线任务到达率的最优离线解，以及基于移动性感知博弈论的方法，计算在基站的任务到达率有波动时的最优解，优化系统的预期响应时间和移动用户的响应时间公平性，其具体优化包括以下步骤：

步骤1：定义云计算系统中的用户、基站、云服务器和边缘服务器，以及基站与服务器的拓扑关系和基站与系统的预期响应时间；

步骤2：离线阶段，利用整数线性规划计算离线任务到达率的最优离线解；

步骤3：当运行时所有基站的任务到达率没有波动时，直接利用上述步骤2的方案；否则，使用启发式算法，以重新确定具有改变的任务到达率的基站的最佳边缘/云服务器；

步骤4：在线阶段，通过转换为凸优化问题来解决合作博弈问题，计算在基站的任务到达率有波动时的最优解；

步骤5：分配结束；

所述步骤1的实现过程按下述步骤进行：

步骤A1：表示出移动边缘云计算系统中K个移动用户：U＝{U₁，U₂，...，U_K}；M个基站：B＝{B₁，B₂，...，B_M}；N个边缘服务器S_E＝{S₁，S₂，...，S_N}以及一个云服务器S₀，令S＝{S₀，S_E}是由云服务器和边缘服务器集组成的服务器集；

步骤A2：满足约束任何基站B_m∈B(1≤m≤M)不允许同时连接到两个不同的边缘/云服务器S_i∈S和S_j∈S(0≤i，j≤N，i≠j)，用无向图G＝(V，E)表示M个基站和(N+1)和边缘/云服务器的拓扑，其中集合V表示M个基站和云服务器S₀ 的固定放置位置的集合，以及N个边缘服务器的可能放置位置；集合E表示基站和边缘/云服务器之间的通信链路集；

步骤A3：构建基站B_m响应时间模型：

通信延迟W⁽¹⁾ _m,n由下述a式定义：

任务执行延迟W⁽²⁾ _m,n由下述b式定义：

基站B_m预期响应时间W_m由下述c式定义：

系统的预期响应时间

由下述d式定义：

所述步骤2的实现过程按下述步骤进行：

步骤B1：最小化整个系统和各个基站的预期响应时间的基站分配策略，并如下定义P_i,j和A_m,n：

以整个系统的角度来看，性能函数由A3步骤中的预期响应时间

表征；从各个基站的角度来看，性能函数可用预期响应时间{W₁,W₂,…,W_M}的标准偏差

描述，并由下述e式定义：

其中，标准偏差

由下述f式计算：

步骤B2：为确保系统中的每个任务都得到可行的处理，必须满足每个边缘服务器S_j与一个基站完全位于同一位置，其约束条件为下述g式定义：

步骤B3：每个基站B_m都被分配给一个边缘/云服务器，并由下述h式定义：

步骤B4：发送到每个边缘/云服务器S_j的总任务到达率不超过边缘/云服务器可以处理任务的速率，并由下述i式定义：

步骤B5：输入无向图G＝(V,E)、基站的离线任务到达率

以及边缘/云服务器的计算能力{p₀,p₁,…,p_N}；

步骤B6：在上述步骤B2的约束条件下计算预期响应时间的最小值，找到边缘服务器的最佳放置策略

和分配策略

从而获得离线任务到达率的最优离线解Ω＝(P^*,A^*)；

所述步骤3的实现过程按下述步骤进行：

步骤C1：用

表示改变任务到达率的Q个基站的集合，Q个基站彼此合作和竞争，使得不仅最小化他们各自的预期响应时间，而且最小化系统预期响应时间，经几轮迭代后，将得到最优解；

步骤C2：使用最大化与Q个改变任务到达率的基站的相关效用函数的乘积作为合作博弈的目标函数，且由下述j式定义基站的效用函数：

其中：响应时间

被归一化到[0,1]的范围内；

步骤C3：由下述k式定义重新分配问题：

s.t. A_q,n＝0,1

其中：剩余计算能力Δp_n由下述l式计算：

所述步骤4的实现过程按下述步骤进行：

步骤D1：输入离线任务到达率的最优离线解Ω＝(P^*,A^*)、离线任务到达率

在线任务到达率为

边缘/云服务器的计算能力{p₀,p₁,…,p_N}和初始化任务到达率为0；

步骤D2检查基站的任务到达率是否在运行时改变，如果答案为否，则返回上述步骤B6的最优解；如果答案为是，则算法将任务到达率的标记设置为1并用启发式算法重新分配；

步骤D3：构建改变了任务到达率基站的集合B′＝{B₁,B₂,…,B _Q}；

步骤D4：计算每个边缘/云服务器的剩余计算能力Δp_n；

步骤D5：重新确定每个基站的最佳边缘/云服务器，并相应地更新分配策略。

Images