CN113032146A - 一种面向多接入边缘计算环境的健壮性服务供应方法 - Google Patents

Abstract

本发明公开了一种面向多接入边缘计算环境的健壮性服务供应方法，首次研究了MEC环境中服务供应的边缘服务器集群系统健壮性和部署成本之间的关系，调查并量化了基于MEC的服务提供边缘服务器集群系统的健壮性，并考虑了采用不同部署策略来部署这些服务的成本。本发明提出了一种算法，通过引入CVaR条件风险价值，并通过一定数学手段将该问题转化为凸问题，该算法可实现在满足边缘服务器集群系统资源约束以及健壮性约束的情况下，生成适当的资源分配和流量调度策略，使部署成本最小化。

Description

一种面向多接入边缘计算环境的健壮性服务供应方法

技术领域

本发明属于多接入边缘计算领域，具体涉及一种面向多接入边缘计算环境中健壮的服务供应方法。

背景技术

随着移动计算技术的发展，我们现在正在拥抱智能移动计算的时代。根据全球移动通信边缘服务器集群系统协会的报告，全球约有51亿人订阅了移动服务，并且这一数字将继续增长，到2025年之前年均增长率为1.9％。在使用这些服务期间，大量用户交互数据将作为新的数据集，以进一步训练更好的AI模型，然后进而改善服务的用户体验。

然而，由于信道的不稳定和移动设备的资源有限，使用户无法获得高效和无缝的体验。例如，移动设备的低计算能力和能量存储限制了智能服务的普及，并且分组丢失导致紧急消息的外部等待时间。为了解决这些相关问题，多接入边缘计算(MEC)范式被提出。作为移动云计算的增强，MEC优化了移动资源使用和无线网络，以提供上下文感知服务。借助它的帮助，可以将移动设备与云之间的计算和传输迁移到边缘服务器。

在MEC范式中，用户可以轻松地通过无线网络连接到附近的边缘服务器——用户与边缘服务器之间的短距离连接可以大大减少延迟，并且可以使用边缘服务器的资源来完成常规任务。此外，边缘服务器不会单独行动——借助群集管理技术，例如EdgeSite，边缘服务器可以相互协调以充分利用计算资源。例如，一台边缘服务器可以将用户的请求分派给另一个可以处理该用户请求的服务器。此外，借助Kubernetes等平台即服务(PaaS)技术，即可轻松将资源分配给服务。但是，以上优点不能成为在MEC环境中进行粗糙的资源分配和服务调度的原因。例如，如果为热门服务分配的资源很少(例如，分配了较小带宽的热门视频)，或者不稳定的网络连接承担了沉重的负担，或者向具有足够资源的服务发送的请求很少，尤其是当这些服务是使用广泛的计算密集、数据密集的AI服务时，其服务供应边缘服务器集群系统既不能满足用户的高质量体验需求，也不能满足提供者的高性能供给需求。毫无疑问，服务提供者可以为其服务分配大量资源以提供更好的用户体验，但是使用这些资源的开销将成为一个巨大的瓶颈，特别是在边缘服务器资源受限的情况下。因此，设计一种同时考虑资源分配和服务调度的、提供健壮服务的策略是非常重要的。

发明内容

针对现有技术所存在的上述技术问题，本发明的目的是提供一种面向多接入边缘计算环境的健壮性服务供应方法，能让服务供应边缘服务器集群系统在满足健壮性约束的条件下尽可能节约资源、降低开销。为此，本发明采用以下技术方案：

一种面向多接入边缘计算环境的健壮性服务供应方法，包括如下步骤：

(1)收集并统计边缘服务器集群系统中所部署服务的平均所需输入数据量大小以及各边缘服务器与它们所服务用户的平均数据传输速度，计算出边缘服务器到用户端的数据传输延迟矩阵l^A；

(2)根据边缘服务器集群系统中部署的各服务平均输入数据大小以及各边缘服务器之间的平均数据传输带宽，计算出边缘服务器之间的数据传输延迟张量l^R；

(3)根据各服务的平均输出数据大小以及各边缘服务器之间的平均数据传输带宽和边缘服务器到用户端的平均数据传输速度，计算出返回数据的传输延迟张量l^B；

(4)根据边缘服务器集群系统中处理每个服务对应的请求所需要的资源数，即边缘服务器处理该请求的工作负载，以及各边缘服务器对边缘服务器集群系统中各个服务的处理能力，计算出在单位时间内各边缘服务器所能够处理的各任务的数量矩阵γ；其中边缘服务器对所有任务的处理能力总和要满足资源上限约束；

(5)获取关于各服务的请求到达各个边缘服务器的到达率，根据每个服务请求经由接入边缘服务器路由到执行边缘服务器的概率张量θ，计算出对每个边缘服务器实际处理的平均请求到达率，即单位时间内关于各个服务的请求需要被执行边缘服务器进行处理的数量；结合单位时间内边缘服务器k对关于服务i请求的处理数量γ_k，i，根据M/M/1排队模型中的‘里特尔’规则，可以计算出边缘服务器集群系统对每个请求的处理时延；

(6)获取当前边缘服务器集群系统中各边缘服务器之间的连接情况，当两台服务器之间无法建立连接时，则获取错误信息数据大小；

(7)根据所述信息可以获得边缘服务器集群系统中任意服务请求所需要的处理延迟l_i，j，k；

(8)根据各服务请求对边缘服务器的请求到达率矩阵Λ，以及各服务请求在边缘服务器之间的路由概率张量θ，计算出各服务请求的一个闭环处理在整个边缘服务器集群系统中所占的比重，由此加权计算出整个边缘服务器集群系统的平均时延，该时延满足给定上限约束；

(9)获取边缘服务器集群系统中各边缘服务器在单位时间内分配单位资源所需要消耗的η，可以得到优化目标函数：

其中，C为边缘服务器集群系统在单位时间内处理所有请求的总成本，μ_j，i即边缘服务器j对服务i分配的资源数。

(10)对上述目标函数C进行最小化求解，以求得矩阵μ和张量θ，即每台边缘服务器针对每个服务所提供的处理能力，以及一个服务请求经由一台边缘服务器路由到另一台边缘服务器的概率；

(11)根据上述求得的矩阵μ和张量θ，进行对每个边缘服务器针对每一种服务提供处理能力的资源分配，以及设置每种服务请求路由到其他边缘服务器的概率参数，即可实现在给定时延约束，以及各边缘服务器负载上限的情况下，实现边缘服务器的计算代价最小化。

进一步地，矩阵l^A中，每行对应一个服务，每列对应一台边缘服务器，每个元素由服务平均输入数据大小d^I与边缘服务器和使用该服务的客户端间的数据传输速率v相除得到。

进一步地，张量l^R与l^B均为3D张量，形状均为M*N*N，其中M为服务数，N为边缘服务器数；其中每个元素为关于服务i的请求经由边缘服务器j路由到边缘服务器k时所产生的数据传输延迟，其中l^R为输入数据在边缘服务器之间的传输延迟，l^B为输出数据的总传输延迟，即边缘服务器之间的传输延迟加上边缘服务器到用户端的传输延迟。

进一步地，矩阵γ中，其中每行对应一个边缘服务器，每列对应一个服务，因此其中第k行第i列元素γ_k，i即为边缘服务器k对服务i的处理能力，即单位时间内边缘服务器k处理关于服务i请求的数量，其数值由边缘服务器k分配给服务i的资源μ_k，i除以每个服务所需的资源数w_i计算得到；由于边缘服务器存在负载上限，因此有约束

其中

即为边缘服务器k的负载上限。θ为一个3D张量形状为M*N*N，其中元素θ_i，j，k为关于服务i的请求经由边缘服务器j路由到边缘服务器k进行处理的概率，其中0≤θ_i，j，k≤1，因此有约束

进一步地，关于服务i的请求到达边缘服务器j的到达率，即单位时间到达请求的数量为Λ_j，i，因此对于边缘服务器k所需要处理的请求i的到达率λ_k，i，有

由此，对于一个关于服务i的请求，边缘服务器k的处理时延

根据‘里特尔’规则可以计算为

进一步地，由于实际链路具有不稳定性，故引入矩阵y表示当前边缘服务器集群系统中各边缘服务器的连通性，其中元素y_j，k为1则表示边缘服务器j和k之间存在连接，为0则不存在；且当不存在连接时，对关于服务i的请求，边缘服务器j会直接返回错误信息，因此有时延

进一步地，对于一个关于服务i的请求，经边缘服务器j路由到边缘服务器k处理完成并返回的总延迟为

其中令

因此可以简写为

进一步地，每个请求的一次闭环处理在整个边缘服务器集群系统中所占的比重Pr(A_i，j，k)，根据各服务请求对边缘服务器的请求到达率Λ_j，i，以及各服务请求在边缘服务器之间的路由概率θ_i，j，k，可得

其中整个边缘服务器集群系统收到的所有请求的总数

进一步地，令x＝(μ，θ)，使得

所有请求处理的平均时延可以由

计算得到，其中

进一步地，根据边缘服务器集群系统中各边缘服务器在单位时间内分配单位资源所需要消耗的成本η，可以计算得到边缘服务器集群系统运行的总成本

本发明首次研究了MEC环境中服务供应的边缘服务器集群系统健壮性和部署成本之间的关系，调查并量化了基于MEC的服务提供边缘服务器集群系统的健壮性，并考虑了采用不同部署策略来部署这些服务的成本。本发明提出了一种算法，该算法可实现在满足边缘服务器集群系统资源约束以及健壮性约束的情况下，生成适当的资源分配和流量调度策略，使部署成本最小化。

附图说明

图1为边缘服务器集群系统处理一次用户请求的闭环图。

具体实施方式

为了更为具体地描述本发明，下面结合附图及具体实施方式对本发明的技术方案进行详细说明。

本发明基于面向多接入边缘计算环境的健壮性服务供应方法，包括以下步骤：

(1)获取边缘服务器集群系统中所部署服务的所需输入数据量大小

以及各边缘服务器与用户端的数据传输速度v_j，计算出边缘服务器到用户端的数据传输延迟矩阵

(2)获取边缘服务器集群系统中部署的各服务输入数据大小

以及各边缘服务器之间的数据传输带宽B_j，k，计算出边缘服务器之间的数据传输延迟张量

(3)类似的，根据各服务的输出数据大小

以及各边缘服务器之间的数据传输带宽B_j，k和边缘服务器到用户端的数据传输速度v_j，计算出返回数据的传输延迟张量

(4)根据边缘服务器集群系统中处理每个服务对应的请求所需要的资源数/工作负载w_i，以及各边缘服务器对边缘服务器集群系统中各个服务的处理能力μ_k，i，计算出在单位时间内各边缘服务器所能够处理的各任务的数量

其中边缘服务器对所有任务的处理能力总和要满足资源上限约束μ^*，即

(5)获取关于各服务的请求到达各个边缘服务器的到达率Λ_j，i，根据每个服务请求经由服务器j路由到k的概率θ，计算出对每个边缘服务器实际处理的平均请求到达率

即单位时间内关于各个服务的请求需要被边缘服务器k进行处理的数量。结合单位时间内边缘服务器k对关于服务i请求的处理数量γ_k，i，根据M/M/1排队模型中的‘里特尔’规则，可以计算出边缘服务器集群系统对每个请求的处理时延

(6)由于实际链路具有不稳定性，故引入矩阵y表示当前边缘服务器集群系统中各边缘服务器的连通性，其中元素y_j，k为1则表示边缘服务器j和k之间存在连接，为0则不存在。且当不存在连接时，对关于服务i的请求，边缘服务器j会直接返回错误信息，因此有时延

(7)根据所述信息可以获得边缘服务器集群系统中任意服务请求所需要的处理延迟

其中令

因此可以简写为

(8)令x＝(μ，θ)，使得

根据各服务请求对边缘服务器的请求到达率Λ_j，i，以及各服务请求在边缘服务器之间的路由概率θ_i，j，k，计算出各服务请求的一个闭环处理在整个边缘服务器集群系统中所占的比重，即

由此计算出整个边缘服务器集群系统的平均时延

该时延需要满足给定上限约束

其中

(9)通过引入CVaR条件风险价值，将变为

其中y上标v表示在其他条件一致情况下不同的连接场景，ξ表示延迟

在V个场景下最小的α分位数。

(10)获取边缘服务器集群系统中各边缘服务器在单位时间内分配单位资源所需要消耗的成本μ，可以得到优化目标函数

(11)根据上述问题，有优化问题P₁：

s.t.

x≥0，ξ∈R

(12)通过引入额外变量t_v，v＝1，2，...V，并添加约束

和

可以将问题P₁转化为P₂：

s.t.

x≥0，ξ∈R

(13)对上述目标函数C进行最小化求解，以求得矩阵μ和张量θ，即每台边缘服务器针对每个服务所提供的处理能力，以及一个服务请求经由一台边缘服务器路由到另一台边缘服务器的概率；

(14)根据上述求得的矩阵μ和张量θ，进行对每个边缘服务器针对每一种服务提供处理能力的资源分配，以及设置每种服务请求路由到其他边缘服务器的概率参数，即可实现在给定时延约束，以及各边缘服务器负载上限的情况下，实现边缘服务器的计算代价最小化；

上述对实施例的描述是为便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。

Claims (10)

1.一种面向多接入边缘计算环境的健壮性服务供应方法，其特征在于包括如下步骤：

(1)收集并统计边缘服务器集群系统中所部署服务的平均所需输入数据量大小以及各边缘服务器与它们所服务用户的平均数据传输速度，计算出边缘服务器到用户端的数据传输延迟矩阵l^A；

(2)根据边缘服务器集群系统中部署的各服务平均输入数据大小以及各边缘服务器之间的平均数据传输带宽，计算出边缘服务器之间的数据传输延迟张量l^R；

(3)根据各服务的平均输出数据大小以及各边缘服务器之间的平均数据传输带宽和边缘服务器到用户端的平均数据传输速度，计算出返回数据的传输延迟张量l^B；

(4)根据边缘服务器集群系统中处理每个服务对应的请求所需要的资源数，即边缘服务器处理该请求的工作负载，以及各边缘服务器对边缘服务器集群系统中各个服务的处理能力，计算出在单位时间内各边缘服务器所能够处理的各任务的数量矩阵γ；其中边缘服务器对所有任务的处理能力总和要满足资源上限约束；

(5)获取关于各服务的请求到达各个边缘服务器的到达率，根据每个服务请求经由接入边缘服务器路由到执行边缘服务器的概率张量θ，计算出对每个边缘服务器实际处理的平均请求到达率，即单位时间内关于各个服务的请求需要被执行边缘服务器进行处理的数量；结合单位时间内边缘服务器k对关于服务i请求的处理数量γ_k，i，根据M/M/1排队模型中的‘里特尔’规则，可以计算出边缘服务器集群系统对每个请求的处理时延；

(6)获取当前边缘服务器集群系统中各边缘服务器之间的连接情况，当两台服务器之间无法建立连接时，则获取错误信息数据大小；

(7)根据所述信息可以获得边缘服务器集群系统中任意服务请求所需要的处理延迟l_i，j，k；

(8)根据各服务请求对边缘服务器的请求到达率矩阵Λ，以及各服务请求在边缘服务器之间的路由概率张量θ，计算出各服务请求的一个闭环处理在整个边缘服务器集群系统中所占的比重，由此加权计算出整个边缘服务器集群系统的平均时延，该时延满足给定上限约束；

(9)获取边缘服务器集群系统中各边缘服务器在单位时间内分配单位资源所需要消耗的η，可以得到优化目标函数：

其中，C为边缘服务器集群系统当前状态下在单位时间内处理所有请求的总成本，μ_j，i即边缘服务器j对服务i分配的资源数。

(10)对上述目标函数C进行最小化求解，以求得矩阵μ和张量θ，其中对应元素即每台边缘服务器针对每个服务所提供的处理能力，以及一个服务请求经由一台边缘服务器路由到另一台边缘服务器的概率；

(11)根据上述求得的矩阵μ和张量θ，进行对每个边缘服务器针对每一种服务提供处理能力的资源分配，以及设置每种服务请求路由到其他边缘服务器的概率参数，即可实现在给定时延约束，以及各边缘服务器负载上限的情况下，实现边缘服务器的计算代价最小化。

2.根据权利要求1所述的服务供应方法，其特征在于：矩阵l^A中，每行对应一个服务，每列对应一台边缘服务器，每个元素由服务平均输入数据大小d^I与边缘服务器和使用该服务的客户端间的数据传输速率v相除得到。

3.根据权利要求1所述的服务供应方法，其特征在于：张量l^R与l^B均为3D张量，形状均为M*N*N，其中M为服务数，N为边缘服务器数；其中每个元素为关于服务i的请求经由边缘服务器j路由到边缘服务器k时所产生的数据传输延迟，其中l^R为输入数据在边缘服务器之间的传输延迟，l^B为输出数据的总传输延迟，即边缘服务器之间的传输延迟加上边缘服务器到用户端的传输延迟。

4.根据权利要求1所述的服务供应方法，其特征在于：矩阵γ中，其中每行对应一个边缘服务器，每列对应一个服务，因此其中第k行第i列元素γ_k，i即为边缘服务器k对服务i的处理能力，即单位时间内边缘服务器k处理关于服务i请求的数量，其数值由边缘服务器k分配给服务i的资源μ_k，i除以每个服务所需的资源数w_i计算得到；由于边缘服务器存在负载上限，因此有约束

其中

即为边缘服务器k的负载上限；

θ为一个3D张量形状为M*N*N，其中元素θ_i，j，k为关于服务i的请求经由边缘服务器j路由到边缘服务器k进行处理的概率，其中0≤θ_i，j，k≤1，因此有约束

5.根据权利要求1所述的服务供应方法，其特征在于：关于服务i的请求到达边缘服务器j的到达率，即单位时间到达请求的数量为Λ_j，i，因此对于边缘服务器k所需要处理的请求i的到达率λ_k，i，有

由此，对于一个关于服务i的请求，边缘服务器k的处理时延

根据‘里特尔’规则可以计算为

6.根据权利要求1所述的服务供应方法，其特征在于：步骤(6)中，由于实际链路具有不稳定性，故引入矩阵y表示当前边缘服务器集群系统中各边缘服务器的连通性，其中元素y_j，k为1则表示边缘服务器j和k之间存在连接，为0则不存在；且当不存在连接时，对关于服务i的请求，边缘服务器j会直接返回错误信息，因此有时延

7.根据权利要求1所述的服务供应方法，其特征在于：对于一个关于服务i的请求，经边缘服务器j路由到边缘服务器k处理完成并返回的总延迟为

其中令

因此可以简写为

8.根据权利要求1所述的服务供应方法，其特征在于：每个请求的一次闭环处理在整个边缘服务器集群系统中所占的比重Pr(A_i，j，k)，根据各服务请求对边缘服务器的请求到达率Λ_j，i，以及各服务请求在边缘服务器之间的路由概率θ_i，j，k，可得

其中整个边缘服务器集群系统收到的所有请求的总数

9.根据权利要求1所述的服务供应方法，其特征在于：令x＝(μ，θ)，使得

所有请求处理的平均时延可以由

计算得到，其中

10.根据权利要求1所述的服务供应方法，其特征在于：根据边缘服务器集群系统中各边缘服务器在单位时间内分配单位资源所需要消耗的成本η，可以计算得到边缘服务器集群系统运行的总成本

Images