CN110365787A - 一种应用容器并基于微服务框架的边缘计算最优化布局方法 - Google Patents

Abstract

本发明公开了一种应用容器并基于微服务框架的边缘计算最优化布局方法，包括：接收用户应用请求和所控区域内各边缘服务器的状态信息；将所述各边缘服务器的状态信息和用户的状态信息代入优化模型，得到各边缘服务器当前的负载，比较得到当前负载最少的边缘服务器；选择负载最少的边缘服务器作为当前最优服务器，并在所述当前最优服务器上运行与所述用户应用请求对应的用户应用实例；当用户离开当前控制服务器服务范围至下一个控制服务器服务范围内，当前控制服务器将必要应用信息迁移至新控制服务器，在新的控制服务器所控区域内由步骤一开始执行；当应用结束，所述方法随之终止。本布局方法在低延时要求极高的移动边缘计算场景下也有良好的效果。

Description

一种应用容器并基于微服务框架的边缘计算最优化布局方法

技术领域

本发明涉及一种应用容器并基于微服务框架的边缘计算最优化布局方法，属于计算机网络领域。

背景技术

即将到来的5G技术时代有很多智能应用不断涌现，诸如无人驾驶、虚拟现实/增强现实(VR/AR)等，应用对低延时的要求不断提高，相对的，当前的边缘计算作为一种解决方案仍有不足之处，特别是在移动边缘计算领域，让不断移动的用户始终处于低时延状态且保证QoS是一个热点问题。传统云计算难以满足，具体体现在以下几个方面。

首先是用户与服务器之间的通信。在无线通信中，通信质量和通信时延很大程度上取决于通信的距离，在实际中，当用户不断移动最终远离服务基站范围时，用户与网络的连接也随之中断。为避免此问题的出现，用户的应用服务迁移成为解决问题的关键。用户在当前连接的基站服务范围跨越至另一个基站服务范围时，之前的应用服务也会从之前的基站内服务器迁移至新服务器内，此过程对用户透明，但用户会明显感觉到网络的暂时中断。其次是用户应用服务的实例化过程，用户的应用程序开始运行时，首先会请求边缘服务器服务，服务器收到请求后即对应用进行部署。服务器首先会搭建相关运行环境和创建新的虚拟机(VM)来部署应用，在此之前，如若服务器处于休眠待机状态，部署操作会将其唤醒进入正常工作状态。之后，服务器将下载应用所需且此服务器上并未存在的运行环境文件，如容器运行必要的二进制文件、某功能服务的头文件等。在此过程结束后，应用程序副本将拷贝至虚拟机中进行正常工作直至服务结束。用户应用服务的实例化过程需要时间。

微服务将程序模块化，可以灵活地部署、更新各个模块，相对于臃肿的整体架构的程序，微服务可以将程序任务分散运行，尤其在移动应用中小规模的代码迁移部署比整体全部代码的部署要节省很多资源和时间，更加适用于移动边缘计算场景中。容器作为轻量化的虚拟机，仅需很少的库文件便可运行，相对于传统虚拟机，在同一个服务器中容器的并发性远大于传统虚拟机，快速的部署方式同样也适合在移动边缘计算场景中。

在现有的研究中少有将微服务与容器共用的案例，对于容器创建仅停留于直接使用；在边缘计算的研究中，仅将传统云转变为边缘云但任务的迁移仍是研究的热点，对于移动行的考虑多基于原始数据的预测，如何高效地部署应用服务仍具挑战性。

发明内容

本发明所要解决的技术问题是针对当前传统云计算难以满足低时延的应用，提出一种应用容器并基于微服务框架的边缘计算最优化布局方法。

本发明为解决上述技术问题采用以下技术方案：

本发明提出一种应用容器并基于微服务框架的边缘计算最优化布局方法，具体包括以下步骤：

步骤一、接收信息：控制服务器接收用户应用请求，控制服务器收集所控区域内各边缘服务器的状态信息；

步骤二、评估对比：控制服务器将所述各边缘服务器的状态信息和用户的状态信息代入优化模型，得到各边缘服务器当前的负载，比较得到当前负载最少的边缘服务器；

步骤三、切换状态：选择负载最少的边缘服务器作为当前最优服务器，并在所述当前最优服务器上运行与所述用户应用请求对应的用户应用实例；

步骤四、控制服务器实时与服务范围内的用户通信，并周期性地执行步骤二；若所述得到的当前负载最少的边缘服务器不是当前服务器，则执行步骤三；

步骤五、迁移/终止：当用户离开当前控制服务器服务范围至下一个控制服务器服务范围内，当前控制服务器将必要应用信息迁移至新控制服务器，在新的控制服务器所控区域内由步骤一开始执行；或当应用结束，所述方法随之终止。

如前所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，进一步地，步骤一所述的具体步骤包括：

步骤1.1、用户使用网络终端设备发送应用服务请求；

步骤1.2、用户所在区域内的控制服务器接受请求，并获得用户所在位置；

步骤1.3、控制服务器收集区域内各边缘服务器的状态信息；所述状态信息包括边缘服务器是否处于休眠节能状态、剩余的资源量、已拥有的容器库镜像文件。

如前所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，进一步地，步骤二的具体步骤包括：

步骤2.1、控制服务器收集用户的状态参数和边缘服务器的状态参数；

步骤2.2、处理步骤2.1所述的状态参数，得到所述优化模型的输入参数；

步骤2.3、将所述输入参数代入所述优化模型，使用优化模型结合最优备选服务器算法求最优解。

如前所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，进一步地，步骤二所述的优化模型表述为：

cost＝C_op+C_com+C_mig

其中，cost为边缘服务器当前的负载；C_op为部署代价，C_com为通信代价，C_mig为迁移代价；

部署代价C_op由以下公式表示：

其中，x(i，t)指服务器i在t时刻的状态，如果服务器i在此刻为工作状态则x(i，t)＝1，否则为0；x(i，t，m，α)指在t时刻，用户m应用中的微服务α是否映射到服务器i上，如果已被映射则x(i，t，m，α)＝1，否则为0；L(i，t，l)指在t时刻服务器i上是否有库l，如果存在则L(i，t，l)＝1，否则为0；s_i指当前服务器节能状态，ε_l为下载所需环境的能耗，C_a为唤醒已睡眠服务器的能耗，C_b为服务器的基线能耗，R_m，α×Δ为服务器运算时的额外能耗，R_m，α为用户m的微服务α所需的计算量，Δ为计算量化成代价的单位；

通信代价C_com由以下公式表示：

其中，公式中i、j代表不同服务器，α、β代表不同微服务，d(i，j)指服务器i、j之间的距离，u(i，m(t))指在t时刻服务器i和用户m的通信距离，S₀、S_d分别表示虚拟微服务链的首个微服务和最后一个微服务，f(m，S_d)指用户与微服务的通信，如果用户m与所述微服务S_d建立通信，则f(m，S_d)取1；否则取0；

迁移代价C_mig由以下公式表示：

所述优化模型的最小化优化目标表述为以下公式：

min{C_op+C_com+C_mig}

所述优化模型的最小化优化目标的约束条件包括：

其中，R_i指当前服务器的资源量；τ指微服务处理时长。

如前所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，进一步地，其中步骤2.3所述的使用优化模型结合最优备选服务器算法求最优解具体包括：

步骤2.3.1、控制服务器将控制区域内各边缘服务器的状态参数汇总；

步骤2.3.2、按照权重规则将各边缘服务器排序，所述权重规则为：首先按照通信距离顺序排序；在同一档次距离范围内，按照库文件存储情况排序；其中，存在当前微服务的全部库文件的边缘服务器权重最高，存在部分库文件的边缘服务器其次，不存在与之相关库文件的边缘服务器权重最低；

步骤2.3.3、依照所述边缘服务器的排序顺序得到价值优先级，选取价值前x％的服务器作为备选服务器，其中x为根据边缘服务器数量规模事先确定的参数；

步骤2.3.4、从所述备选服务器中随机选取一个服务器，将所述服务器的参数作为输入参数带入所述优化模型，计算代价；

步骤2.3.5、循环步骤2.3.4的方法n次，取n次计算中代价最小的服务器作为最终选择的服务器，其中n为循环次数，是与算法效果有关的事先确定的数值。

本发明与现有技术相比，具有以下优点：

1)本发明与现有技术相比，突出了容器底层文件的重用性；

2)采用新架构，即使用轻量化的容器来替代传统虚拟机，基于微服务的应用程序取代传统整体应用程序(monolithic application)，利用新架构的灵活性和易部署性在程序底层降低部署代价；

3)模型中迁移、通信部分均从用户角度出发，考虑到用户体验，保证了QoS；部署部分则从运营商的角度出发，降低了运营代价。均衡了用户与运营商的双方利益，达到双赢；

4)根据用户地理位置的改变不断更新参数，选取当前最优服务器，保证了在移动边缘计算场景下实时的低延时通信。

附图说明

图1是本发明中控制服务器的工作流程图。

具体实施方式

下面结合附图对本发明的技术方案做进一步的详细说明：

本技术领域技术人员可以理解的是，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样定义，不会用理想化或过于正式的含义来解释。

本发明针对当前低延时应用的网络质量要求，提出了基于微服务框架下移动边缘服务器内容器实例化过程中最优化布局方法。通过在微服务应用实例化过程中减少可避免的库文件下载、在用户移动过程中及时迁移最优服务器的举措降低服务端的处理时间，保证较低的延时。

图1是本发明中控制服务器的工作流程图。如图1所示，本发明所述的流程步骤包括：

步骤一、控制服务器接收到用户应用请求，控制服务器收集所控区域内各边缘服务器的状态信息：

步骤1.1、用户使用网络终端设备发送应用服务请求；所述的应用基于微服务架构，将不同的应用程序看作一串虚拟服务链，虚拟服务链是由多个不同服务连接而成；

步骤1.2、用户所在区域内的控制服务器首先接受请求，并获得用户信息，所述信息包括用户位置、微服务应用的虚拟微服务链长度、计算量、所需资源等；其中，用户位置获得用户到各边缘服务器的通信距离，再经过单位转换得到参数u(i，m(t))；为参数(i，m(t))创建存储位置，保存每一时刻的参数；

步骤1.3、控制服务器收集区域内各边缘服务器的状态，状态表现为：当前边缘服务器是否处于休眠节能状态、剩余的资源量、已拥有的容器库镜像文件；同时控制服务器计算用户此时到各边缘服务器的通信代价；所述资源包括CPU、带宽、内存等；可以得到参数s_i、R_i、l，均由服务器直接返回获得。

步骤二、控制服务器通过优化模型选择当前最优服务器并在所选服务器上运行用户应用实例：

步骤二所述的优化模型表述为：

cost＝C_op+C_com+C_mig

总代价(cost)由3个部分构成，分别为部署代价(C_op)、通信代价(C_com)和迁移代价(C_mig)，此三个代价相互联系，可通过权重系数来调整各代价在总代价中占比。

模型中有3个变量，分别是：x(i，t)用来判断服务器i在t时刻状态，如果服务器i在此刻为工作状态则x(i，t)＝1，否则为0；x(i，t，m，α)用来判断在t时刻，用户m应用中的微服务α是否映射到服务器i上，如果已被映射则x(i，t，m，α)＝1，否则为0；L(i，t，l)，判断t时刻服务器i上是否有库l，如果存在则L(i，t，l)＝1，否则为0。

进一步解释三个代价的细节，如下：

部署代价(C_op)：

部署代价被描述为一个新建容器在服务器上所造成的一系列能耗，其中包括了以下各种能耗代价：

1)下载所需环境的能耗，用ε_l表示；

2)唤醒已睡眠服务器的能耗，用C_a表示；

3)服务器的基线能耗，用C_b表示；

4)服务器运算时的额外能耗，用R_m，α×Δ表示(R_m，α：用户m的微服务α所需的计算量，Δ：计算量化成代价的单位)；

部署代价由以下公式表示：

s_i指当前服务器节能状态。

其中，部署代价(C_op)所述的容器库的镜像文件重用或叠加具体包括：

1)部分公式(L(i，t，l)-L(i，(t-1)，l))×ε_l，表示用于判断当前物理机上是否有需要的库文件，若没有则该式结果为1，即需要增加下载库文件的代价。

2)每一个容器运行完毕后会保留所用过的库文件，当有类似功能的服务再次在此服务器上运行时，可以直接使用已有库文件或下载少量不同库文件，可降低一定的下载代价。

通信代价(C_com)：

迁移能耗被描述为应用不同微服务间的必要信息传输，体现在串行服务间上一层的输出传到下一层并作为输入再次进行计算的过程。同时还考虑到虚拟微服务链中首尾服务和用户的通信。通信代价由以下公式表示：

其中，公式中i、j代表不同服务器，α、β代表不同微服务，d(i，j)指服务器i、j之间的距离(视为rtt)，u(i，m(t))指在t时刻服务器i和用户m的通信距离，S₀、S_d分别表示虚拟微服务链的首个微服务和最后一个微服务，f(m，S_d)指用户与微服务的通信。

迁移代价(C_mig)：

迁移能耗被描述为容器信息在当前服务器中复制到其他服务器上所用的能耗，这部分代价主要与服务器之间通信距离有关。迁移代价由以下公式表示：

优化模型的最小化优化目标表述为以下公式：

min{C_op+C_com+C_mig}

对应的约束条件为：

∑_TASKτ_α≤QoS (5)

其中，约束(1)保证已放置微服务模块的服务器为开启状态；约束(2)保证库镜像文件的正确表示；约束(3)保证所需资源量不会超过实际资源量，R_i指当前服务器的资源量；约束(4)保证微服务模块的唯一性；约束(5)保证严格遵守QoS(用户服务质量)，这里特指服务运行延时，τ指微服务处理时长。

步骤二所述的通过优化模型选择当前最优服务器的具体步骤包括：

步骤2.1、控制服务器所收集的用户位置、各边缘服务器状态参数，经过处理得u(i，m(t))等权利要求3中模型内所提到的参数，全部参数作为输入参数；

步骤2.2、使用优化模型结合最优备选服务器算法求最优解；

步骤2.3、控制服务器获得当前最优解后，判断下一步处理方法。

其中步骤2.1中提及的处理方法有以下几种：

参数u(i，m(t))：由用户位置获得用户到各边缘服务器的通信距离，再经过单位转换得到；

参数s_i、R_i、l：由服务器直接返回获得，l指当前服务器已有库镜像文件；

参数f、d：微服务之间通信f由用户应用提供，包括传输内容信息；首、尾微服务与用户端通信f由用户应用提供；服务器与服务器之间的通信距离d由控制服务器汇总区域内服务器信息获得。

诸如微服务应用的虚拟微服务链长度、计算量、所需资源等参数都在控制服务器收集用户信息时获得。

其中步骤2.2提及的算法有以下细节：

1)控制服务器将控制区域内各边缘服务器的信息汇总；

2)按照不同权重规则将各边缘服务器排序，规则为：存在当前微服务的全部库文件的边缘服务器权重最高，存在部分库文件的服务器其次，不存在与之相关库文件的服务器权重最低；与用户通信距离从最近到最远的服务器权重由高至低；

3)综合2)中两种权重排序重新将全部服务器按优先级排序，这里优先级称之为价值优先级，选取价值前x％的服务器作为备选服务器(x随边缘服务器数量规模改变)；

4)随机从备选服务器中选取一个服务器，将服务器相关信息作为输入参数带入模型计算代价；

5)循环4)的方法n次，取n次计算中代价最小的服务器作为最终选择的服务器(循环次数n与选择算法效果相关)。

其中步骤2.3中提及的处理方法有以下几种：

1)若为新接收应用服务则在最优服务器上运行实例；

2)若应用服务已存在，保持在当前边缘服务器上运行；

3)若应用服务已存在，从当前边缘服务器迁移任务至其他服务器上；

4)结束应用服务。

步骤三、控制服务器实时与用户通信，保持用户应用当前所在服务器总为最优。若此时有更优服务器选择，则进行步骤二，对用于应用进行迁移。

步骤三所述的保持用户应用当前所在服务器总为最优的具体步骤包括：

步骤3.1、控制服务器和用户实时通信，确定用户的实时位置，不断更新参数u(i，m(t))；

步骤3.2、控制服务器同时关注用户应用的迁移代价C_mig；

步骤3.3、综合全部参数实时得出最优服务器选择。

其中迁移代价较低的服务器并不一定是下个时刻的最优服务器选择，控制服务器仍要计算此服务器的部署代价，仅综合三个全部代价计算后所得最优解才为下一时刻的最优服务器。

步骤四、用户离开当前控制服务器服务范围至下一个控制服务器服务范围内，当前控制服务器将必要应用信息迁移至新控制服务器，在新区域内循环本布局方案；或当应用结束，布局方案随之终止。

以上所述仅是本发明的部分实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (5)

1.一种应用容器并基于微服务框架的边缘计算最优化布局方法，其特征在于，具体包括以下步骤：

步骤一、接收信息：控制服务器接收用户应用请求，控制服务器收集所控区域内各边缘服务器的状态信息；

步骤二、评估对比：控制服务器将所述各边缘服务器的状态信息和用户的状态信息代入优化模型，得到各边缘服务器当前的负载，比较得到当前负载最少的边缘服务器；

步骤三、切换状态：选择负载最少的边缘服务器作为当前最优服务器，并在所述当前最优服务器上运行与所述用户应用请求对应的用户应用实例；

步骤四、控制服务器实时与服务范围内的用户通信，并周期性地执行步骤二；若所述得到的当前负载最少的边缘服务器不是当前服务器，则执行步骤三；

步骤五、迁移/终止：当用户离开当前控制服务器服务范围至下一个控制服务器服务范围内，当前控制服务器将必要应用信息迁移至新控制服务器，在新的控制服务器所控区域内由步骤一开始执行；或当应用结束，所述方法随之终止。

2.如权利要求1所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，其特征在于，步骤一所述的具体步骤包括：

步骤1.1、用户使用网络终端设备发送应用服务请求；

步骤1.2、用户所在区域内的控制服务器接受请求，并获得用户所在位置；

步骤1.3、控制服务器收集区域内各边缘服务器的状态信息；所述状态信息包括边缘服务器是否处于休眠节能状态、剩余的资源量、已拥有的容器库镜像文件。

3.如权利要求1所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，其特征在于，步骤二的具体步骤包括：

步骤2.1、控制服务器收集用户的状态参数和边缘服务器的状态参数；

步骤2.2、处理步骤2.1所述的状态参数，得到所述优化模型的输入参数；

步骤2.3、将所述输入参数代入所述优化模型，使用优化模型结合最优备选服务器算法求最优解。

4.如权利要求3所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，其特征在于，步骤二所述的优化模型表述为：

cost＝C_op+C_com+C_mig

其中，cost为边缘服务器当前的负载；C_op为部署代价，C_com为通信代价，C_mig为迁移代价；

部署代价C_op由以下公式表示：

其中，x(i,t)指服务器i在t时刻的状态，如果服务器i在此刻为工作状态则x(i,t)＝1，否则为0；x(i,t,m,α)指在t时刻，用户m应用中的微服务α是否映射到服务器i上，如果已被映射则x(i,t,m,α)＝1，否则为0；L(i,t,l)指在t时刻服务器i上是否有库l，如果存在则L(i,t,l)＝1，否则为0；s_i指当前服务器节能状态，ε_l为下载所需环境的能耗，C_a为唤醒已睡眠服务器的能耗，C_b为服务器的基线能耗，R_m,α×Δ为服务器运算时的额外能耗，R_m,α为用户m的微服务α所需的计算量，Δ为计算量化成代价的单位；

通信代价C_com由以下公式表示：

其中，公式中i、j代表不同服务器，α、β代表不同微服务，d(i,j)指服务器i、j之间的距离，u(i,m(t))指在t时刻服务器i和用户m的通信距离，S₀、S_d分别表示虚拟微服务链的首个微服务和最后一个微服务，f(m,S_d)指用户与微服务的通信，如果用户m与所述微服务S_d建立通信，则f(m,S_d)取1；否则取0；

迁移代价C_mig由以下公式表示：

所述优化模型的最小化优化目标表述为以下公式：

min{C_op+C_com+C_mig}

所述优化模型的最小化优化目标的约束条件包括：

∑_TASKτ_α≤QoS (5)

其中，R_i指当前服务器的资源量；τ指微服务处理时长。

5.如权利要求4所述的一种应用容器并基于微服务框架的边缘计算最优化布局方法，其特征在于，其中步骤2.3所述的使用优化模型结合最优备选服务器算法求最优解具体包括：

步骤2.3.1、控制服务器将控制区域内各边缘服务器的状态参数汇总；

步骤2.3.2、按照权重规则将各边缘服务器排序，所述权重规则为：首先按照通信距离顺序排序；在同一档次距离范围内，按照库文件存储情况排序；其中，存在当前微服务的全部库文件的边缘服务器权重最高，存在部分库文件的边缘服务器其次，不存在与之相关库文件的边缘服务器权重最低；

步骤2.3.3、依照所述边缘服务器的排序顺序得到价值优先级，选取价值前x％的服务器作为备选服务器，其中x为根据边缘服务器数量规模事先确定的参数；

步骤2.3.4、从所述备选服务器中随机选取一个服务器，将所述服务器的参数作为输入参数带入所述优化模型，计算代价；

步骤2.3.5、循环步骤2.3.4的方法n次，取n次计算中代价最小的服务器作为最终选择的服务器，其中n为循环次数，是与算法效果有关的事先确定的数值。