CN110187973A - 一种面向边缘计算的服务部署优化方法 - Google Patents

Abstract

针对以微服务为载体的应用，结合排队理论本发明公开提出了一种面向边缘计算的服务部署优化方法，在保持应用性能指标的条件下，在资源受限的边缘网络中部署基于微服务的应用并最小化应用部署开销，能够较好的利用边缘计算组件的资源，为服务使用者提供高质量的用户体验。本发明首次针对边缘计算框架中的服务供应优化提出了用户体验质量的量化策略，并提出了动态的资源分配策略方案，为利用服务分布式特性的边缘计算服务提供优化方案提供了新的可行可靠的方法。此外，本发明在考虑用户与边缘服务器的交互信息的基础上，还综合考虑了边缘服务器资源与基于微服务的应用执行逻辑系，并利用这些信息对边缘服务器运行时动态调整策略提供了辅助。

Description

一种面向边缘计算的服务部署优化方法

技术领域

本发明属于云计算、服务计算及边缘计算技术领域，具体涉及一种面向边缘计算的服务部署优化方法。

背景技术

随着移动设备技术的发展和Web服务的逐渐丰富，越来越多的复杂功能可以在移动设备上完成；移动设备和移动服务成功渗透进人们的日常生活，重新定了人与人、人与机器的交互方式。人们可以随时随地使用这些服务来学习、娱乐、社交以及进行商业活动。然而，移动设备的资源受限特性以及网络信道的不稳定性对用户的使用体验产生了极大的负面影响，低性能的计算能力、消耗速度快的电量资源以及频繁产生的网络丢包等都限制了增强计算/虚拟现实/人工智能等新兴技术的发展。随着移动设备数量的增加，这个问题将日益严峻；除了传统的移动计算领域外，物联网的发展也受到了这些因素的制约。为了解决这些问题，目前越来越多的研究者将目光投向边缘计算技术，试图借助广泛分布的网络边缘设备的计算和存储能力，通过提供近距离的连接提高服务供应的质量和效率，从而提高用户的使用体验。

目前，对边缘网络中服务供应的研究通常包括如下几点：1.服务提供的能耗研究，这些研究以能耗与计算量传输量的正相关性为基础，通过对移动设备的建模来表述能耗，最终完成能耗优化；例如Tianze,L.等人考虑了移动设备在完成计算任务时的能源开销，对移动设备和相应的计算任务进行建模提出了一种针对边缘计算场景中基于移动自组网的多设备任务调度模型，从而降低了整体能耗[Tianze,L.,Muqing,W.,Min,Z.,Wenxing,L.:An overhead-optimizing task scheduling strategy for ad-hoc based mobile edgecomputing.IEEE Access 5,5609–5622(2017)]。2.利用服务的分布式特性进行优化，这些优化有针对性的进行服务部署，使得服务的接入方式增加，从而完成服务供应优化；例如Abdelwahab,S.等人考虑了类似的计算环境中的场景，在该场景下他们将移动设备视为许多分布式节点，利用设备数据进行数据与服务的多重备份，构建了一套LTE通信敏感的边缘计算框架，提高了服务供应系统的计算能力与存储能力[Abdelwahab,S.,Hamdaoui,B.,Guizani,M.,Znati,T.:Replisom:Disciplined tiny memory replication for massiveiot devices in LTE edge cloud.IEEE Internet of Things Journal 3(3),327–338(2016)]。3.利用服务的上下文信息进行优化，移动用户的上下文信息包含着丰富的用户特性以及环境特性，针对不同特性有针对的提供服务可以提供更可靠的服务；例如Yang,L.等人综合考虑用户的移动特性，他们为用户的移动性建立了模型，并挖掘出用户移动与服务调用的关联关系，在此基础上构建了一套服务缓存的方案，从而使服务供应系统的负载较为均衡[Yang,L.,Cao,J.,Liang,G.,Han,X.:Cost aware service placement and loaddispatching in mobile cloud systems.IEEE Transactions on Computers 65(5),1440–1452(2016)]。

在实际应用中，利用服务的分布式特性进行优化的代价相对较低，因此在诸多优化方案中可操作性更强。然而，现有的方法并没有考虑以微服务为载体的应用的部署问题，没有建立一套适合这种应用的模型描述和量化应用的性能与开销，也没有考虑边缘计算系统中受限的资源所带来的可能影响。

发明内容

鉴于上述，本发明针对以微服务为载体的应用，结合排队理论提出了一种面向边缘计算的服务部署优化方法，在保持应用性能指标的条件下，在资源受限的边缘网络中部署基于微服务的应用并最小化应用部署开销，能够较好的利用边缘计算组件的资源，为服务使用者提供高质量的用户体验。

一种面向边缘计算的服务部署优化方法，包括如下步骤：

(1)为各边缘服务器建立档案，同时收集基于微服务的待部署应用的信息并为该应用建立档案；所述待部署应用基于m个微服务串行且依次执行，m为大于1的自然数；

(2)根据用户对待部署应用请求的生命周期流程，建立待部署应用在服务部署策略Ω下的实际开销C(Ω)表达式如下：

C(Ω)＝γ^TΩ

其中：服务部署策略Ω＝[Ω_1，0，...，Ω_1，n，...，Ω_m，0，...，Ω_m，n]，Ω_i，j表示在第j号服务器上部署第i号微服务实例的个数，i和j均为自然数且1≤i≤m，0≤j≤n，m为待部署应用所包含的微服务数量，n为服务器数量且其中第0号服务器为云服务器，其余服务器均为边缘服务器，γ为不同微服务在各服务器上的实际开销数据且γ＝[γ_1，0，...，γ_1，n，...，γ_m，0，...，γ_m，n]，γ_i，j表示第i号微服务的单个实例部署在第j号服务器上的开销，^T表示转置；

(3)在待部署应用平均服务请求响应时间E[T]的性能约束条件以及边缘服务器资源与待部署应用的执行逻辑条件下，对C(Ω)进行优化求解得到待部署应用的最优服务部署策略。

进一步地，所述边缘服务器的档案包括边缘服务器的可用存储资源大小、可用计算资源大小、与其他各服务器之间的数据平均传输速率、服务覆盖范围、与服务覆盖范围内移动设备之间的数据平均传输速率、与所接受到的待部署应用的平均请求到达率。

进一步地，所述待部署应用的档案包括每个微服务的服务功能描述、平均输入数据量、平均输出数据量以及每个微服务在各服务器上的计算资源需求量、存储资源需求量、事务处理能力值。

进一步地，用户对待部署应用请求的生命周期流程为：用户将对待部署应用的请求发送至距离该用户最近的边缘服务器，该边缘服务器按照特定转发规则将请求发送至运行有第1号微服务实例的服务器进行运算，接着将得到的第1号微服务的输出作为第2号微服务的输入转发至运行有第2号微服务实例的服务器进行运算，并依此类推直至得到第m号微服务的输出作为最终结果，该结果将率先被传回用户就近的边缘服务器，然后由该边缘服务器回传给用户。

进一步地，所述待部署应用的平均服务请求响应时间E[T]表达式如下，且性能约束条件为E[T]≤T^*，T^*为给定的时长阈值；

其中：κ、H、e_i、W_i、J_i、η_i均为辅助变量，λ＝[λ₁，λ₂，...λ_n]，λ_j为第j号服务器与所接受到的待部署应用的平均请求到达率。

进一步地，所述辅助变量κ、H、e_i、W_i、J_i、η_i的表达式如下：

e_i＝(0_(i-1)(n+1)，1_n+1，0_(m-i+1)(n+1))^T

其中：为第1号微服务的平均输入数据量，为第i号微服务的平均输出数据量，为第m号微服务的平均输出数据量， 为第j号服务器与其服务覆盖范围内移动设备之间的数据平均传输速率，0_(i-1)(n+1)表示由(i-1)(n+1)个0所组成的数组，1_n+1表示由n+1个1所组成的数组，0_(m-i+1)(n+1)表示由(m-i+1)(n+1)个0所组成的数组，0_{(i-1)(n+1)×i(n+1)}为(i-1)(n+1)×i(n+1)维元素值全为0的矩阵，1_(n+1)×(n+1)为(n+1)×(n+1)维元素值全为1的矩阵，μ_i，j表示第i号微服务在第j号服务器上的事务处理能力值，表示第j号服务器上部署Ω_i，j个第i号微服务实例所构成多服务台排队系统中对第j号服务器上的第i号微服务实例的请求逗留时间，B_p，j表示第p号服务器与第j号服务器之间的数据平均传输速率，p为自然数且0≤p≤n，H的维度为n×θ，W_i和J_i的维度均为θ×θ，θ＝m(n+1)。

进一步地，所述请求逗留时间的表达式如下：

其中：ρ_i，j＝λ_i，j/(μ_i，jΩ_i，j)，λ_i，j表示第j号服务器上关于第i号微服务请求的平均到达率，k为自然数且0≤k≤Ω_i，j。

进一步地，边缘服务器资源与待部署应用的执行逻辑条件如下：

其中：L、C_Q、C_R、C_B均为辅助变量，λ_j为第j号服务器与所接受到的待部署应用的平均请求到达率，为元素值全为1的向量。

进一步地，所述辅助变量L、C_Q、C_R、C_B的表达式如下：

其中：表示第j号服务器的可用计算资源大小，表示第j号服务器的可用存储资源大小，μ_i，j表示第i号微服务在第j号服务器上的事务处理能力值，c_i，j表示第i号微服务在第j号服务器上的计算资源需求量，d_i，j表示第i号微服务在第j号服务器上的存储资源需求量。

进一步地，所述步骤(3)中利用请求逗留时间与之间存在的的特性进行近似，采用外点法对C(Ω)进行优化求解得到待部署应用的最优服务部署策略，的表达式如下：

本发明首次针对边缘计算框架中的服务供应优化提出了用户体验质量的量化策略，并提出了动态的资源分配策略方案，为利用服务分布式特性的边缘计算服务提供优化方案提供了新的可行可靠的方法。此外，本发明在考虑用户与边缘服务器的交互信息的基础上，还综合考虑了边缘服务器资源与基于微服务的应用执行逻辑系，并利用这些信息对边缘服务器运行时动态调整策略提供了辅助。

附图说明

图1为本发明方法所适用的边缘服务系统中组件间关系示意图。

具体实施方式

为了更为具体地描述本发明，下面结合附图及具体实施方式对本发明的技术方案进行详细说明。

本发明面向边缘计算的服务部署优化方法，包括以下步骤：

(1)为服务器建立动态档案，该动态档案包括云服务器与边缘服务器的可用计算资源L_c与存储资源L_d，边缘服务器之间数据平均传输速率B，边缘服务器与其服务提供范围内的移动设备之间的数据平均传输速率v_u，同时在边缘服务器中将请求视作泊松流，继而统计并得到各个边缘服务器所接受到的待部署的基于微服务的应用平均请求到达率λ。

(2)收集待部署的基于微服务的应用A的信息，为其建立档案；应用信息包括该应用中所涉及的所有微服务的信息，即A＝(ms₁，ms₂，...，ms_m)共m个微服务依次执行，微服务ms₁的输入为应用A的输入，微服务ms_m的输出为应用A的输出，其中每个微服务ms_i的信息包括平均输入数据平均输出数据以及其在任意服务器s_j上的计算资源需求量c_i，j、存储资源需求量d_i，j、事务处理能力值μ_i，j。

(3)移动用户对应用A请求的生命周期可用图1描述：

首先，用户将对A的应用请求发送至距离该用户最近的边缘服务器，其次该边缘服务器按照特定转发规则将请求发送至运行着微服务ms₁实例的服务器进行运算，接着将得到的ms₁的输出作为ms₂的输入转发至运行着微服务ms₂实例的服务器进行运算，并依此类推直至得到微服务ms_m的输出作为结果，该结果将首先被传回用户就近的边缘服务器，然后由该边缘服务器回传给用户。本发明中微服务的实例表示可以完成微服务所指定的功能的模块，是对该功能的实现与具象化。

(4)根据上述信息，若在服务器s_j上部署了Ω_i，j个微服务ms_i实例，且微服务ms_i的每个实例部署在服务器s_j上的开销为γ_i，j，即部署策略为Ω＝[Ω_1，0，...，Ω_1，n，...，Ω_m，0，...，Ω_m，n]，不同微服务在各个服务器上的实际开销为γ＝[γ_1，0，...，γ_1，n，...，γ_m，0，...，γ_m，n]时，对应用A的部署实际开销C(Ω)可表示为：

C(Ω)＝γ^TΩ

(5)服务器s_j上部署的Ω_i，j个微服务ms_i实例构成了多服务台的排队系统，在这个排队系统中对服务器j上的微服务ms_i的实例的请求的逗留时间可表示为：

其中：ρ_i，j＝λ_i，j/(μ_i，jΩ_i，j)，λ_i，j为服务器j上关于微服务ms_i请求的平均到达率。

在给定部署策略Ω后，应用A的平均服务请求响应时间E[T]可表示为：

其中：κ、H、e_i、W_i、J_i、η_i为辅助变量，λ＝[λ₁...λ_n]，这些辅助变量的表达式如下：

e_i＝(0_(i-1)(n+1)，1_n+1，0_(m-i+1)(n+1))^T

在此我们用E[T]作为应用A的性能指标，因此当要求应用A平均执行时间不超过T^*时，其约束可表示为E[T]≤T^*，T^*为给定的时长阈值。

(6)在性能约束的基础上，由于边缘服务器的计算资源有限，在部署服务时需要保证对任意边缘服务器来说，其所分配给微服务实例的资源不得超过其资源上限。同时，还需要保证每个边缘服务器上微服务实例构成的多服务台排队节点的服务强度以及完整执行应用A需要确保的每个微服务的实例的存在性，这些约束可表示为：

其中：L、C_Q、C_R、C_B为辅助变量，Λ＝λ₁+...+λ_n，这些辅助变量的表达式如下：

(7)综合考虑部署服务策略的开销与约束，并利用排队系统逗留时间与之间存在的的特性进行近似，利用外点法进行优化，可以得到服务部署最优策略。

上述对实施例的描述是为便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。

Claims (10)

1.一种面向边缘计算的服务部署优化方法，包括如下步骤：

(1)为各边缘服务器建立档案，同时收集基于微服务的待部署应用的信息并为该应用建立档案；所述待部署应用基于m个微服务串行且依次执行，m为大于1的自然数；

(2)根据用户对待部署应用请求的生命周期流程，建立待部署应用在服务部署策略Ω下的实际开销C(Ω)表达式如下：

C(Ω)＝γ^TΩ

其中：服务部署策略Ω＝[Ω_1，0，…，Ω_1，n，…，Ω_m，0，…，Ω_m，h]，Ω_i，j表示在第j号服务器上部署第i号微服务实例的个数，i和j均为自然数且1≤i≤m，0≤j≤n，m为待部署应用所包含的微服务数量，n为服务器数量且其中第0号服务器为云服务器，其余服务器均为边缘服务器，γ为不同微服务在各服务器上的实际开销数据且γ＝[γ_1，0，…，γ_1，n，…，γ_m，0，…，γ_m，n]，γ_i，j表示第i号微服务的单个实例部署在第j号服务器上的开销，^T表示转置；

(3)在待部署应用平均服务请求响应时间E[T]的性能约束条件以及边缘服务器资源与待部署应用的执行逻辑条件下，对C(Ω)进行优化求解得到待部署应用的最优服务部署策略。

2.根据权利要求1所述的服务部署优化方法，其特征在于：所述边缘服务器的档案包括边缘服务器的可用存储资源大小、可用计算资源大小、与其他各服务器之间的数据平均传输速率、服务覆盖范围、与服务覆盖范围内移动设备之间的数据平均传输速率、与所接受到的待部署应用的平均请求到达率。

3.根据权利要求1所述的服务部署优化方法，其特征在于：所述待部署应用的档案包括每个微服务的服务功能描述、平均输入数据量、平均输出数据量以及每个微服务在各服务器上的计算资源需求量、存储资源需求量、事务处理能力值。

4.根据权利要求1所述的服务部署优化方法，其特征在于：用户对待部署应用请求的生命周期流程为：用户将对待部署应用的请求发送至距离该用户最近的边缘服务器，该边缘服务器按照特定转发规则将请求发送至运行有第1号微服务实例的服务器进行运算，接着将得到的第1号微服务的输出作为第2号微服务的输入转发至运行有第2号微服务实例的服务器进行运算，并依此类推直至得到第m号微服务的输出作为最终结果，该结果将率先被传回用户就近的边缘服务器，然后由该边缘服务器回传给用户。

5.根据权利要求1所述的服务部署优化方法，其特征在于：所述待部署应用的平均服务请求响应时间E[T]表达式如下，且性能约束条件为E[T]≤T^*，T^*为给定的时长阈值；

其中：κ、H、e_i、W_i、J_i、η_i均为辅助变量，λ＝[λ₁,λ₂,...λ_n]，λ_j为第j号服务器与所接受到的待部署应用的平均请求到达率。

6.根据权利要求5所述的服务部署优化方法，其特征在于：所述辅助变量κ、H、e_i、W_i、J_i、η_i的表达式如下：

e_i＝(0_(i-1)(n+1)，1_n+1，0_(m-i+1)(n+1))^T

其中：为第1号微服务的平均输入数据量，为第i号微服务的平均输出数据量，为第m号微服务的平均输出数据量， 为第j号服务器与其服务覆盖范围内移动设备之间的数据平均传输速率，0_(i-1)(n+1)表示由(i-1)(n+1)个0所组成的数组，1_n+1表示由n+1个1所组成的数组，0_(m-i+1)(n+1)表示由(m-i+1)(n+1)个0所组成的数组，0_{(i-1)(n+1)×i(n+1)}为(i-1)(n+1)×i(n+1)维元素值全为0的矩阵，1_(n+1)×(n+1)为(n+1)×(n+1)维元素值全为1的矩阵，μ_i,j表示第i号微服务在第j号服务器上的事务处理能力值，表示第j号服务器上部署Ω_i，j个第i号微服务实例所构成多服务台排队系统中对第j号服务器上的第i号微服务实例的请求逗留时间，B_p,j表示第p号服务器与第j号服务器之间的数据平均传输速率，p为自然数且0≤p≤n，H的维度为n×θ，W_i和J_i的维度均为θ×θ，θ＝m(n+1)。

7.根据权利要求6所述的服务部署优化方法，其特征在于：所述请求逗留时间的表达式如下：

其中：ρ_i,j＝λ_i,j/(μ_i,jΩ_i，j)，λ_i,j表示第j号服务器上关于第i号微服务请求的平均到达率，k为自然数且0≤k≤Ω_i，j。

8.根据权利要求1所述的服务部署优化方法，其特征在于：边缘服务器资源与待部署应用的执行逻辑条件如下：

其中：L、C_Q、C_R、C_B均为辅助变量，λ_j为第j号服务器与所接受到的待部署应用的平均请求到达率，为元素值全为1的向量。

9.根据权利要求8所述的服务部署优化方法，其特征在于：所述辅助变量L、C_Q、C_R、C_B的表达式如下：

其中：表示第j号服务器的可用计算资源大小，表示第j号服务器的可用存储资源大小，μ_i,j表示第i号微服务在第j号服务器上的事务处理能力值，c_i,j表示第i号微服务在第j号服务器上的计算资源需求量，d_i,j表示第i号微服务在第j号服务器上的存储资源需求量。

10.根据权利要求7所述的服务部署优化方法，其特征在于：所述步骤(3)中利用请求逗留时间与之间存在的的特性进行近似，采用外点法对C(Ω)进行优化求解得到待部署应用的最优服务部署策略，的表达式如下：