CN117119043A - 一种边缘网络拓扑感知的微服务部署方法 - Google Patents

Abstract

本发明公开了一种边缘网络拓扑感知的微服务部署方法，针对边缘网络拓扑的业务调用关系，通过引入虚拟首部微服务和调用矩阵将业务调用关系转化为矩阵形式，并通过构建流量模型确定节点间的流量信息；采用排队模型在节点层计算节点间的实际可用带宽；根据所得到的节点间的实际可用带宽和传播时延，在微服务层计算微服务实例之间的通信时延，并在业务层计算每个业务的平均通信时延；基于通信时延确定优化目标和约束条件，建立优化模型；通过引入0‑1变量表示在节点上是否部署微服务，得到适合边缘网络拓扑的微服务部署方案。该方法能够根据边缘网络的拓扑结构和业务需求，优化微服务部署方案，有效降低边缘环境中的业务时延，提高了用户体验。

Description

一种边缘网络拓扑感知的微服务部署方法

技术领域

本发明涉及计算机通信技术领域，尤其涉及一种边缘网络拓扑感知的微服务部署方法。

背景技术

随着工业物联网、虚拟现实等新兴业务的迅猛发展，网络服务的数据规模和计算需求呈现蓬勃增长的趋势。然而由于与用户地理位置距离较远，传统的集中式云计算架构日益难以满足这些具有低时延、高可靠特性的新兴业务的服务质量要求，为了提高业务的实时性并降低数据流量以保证可靠性，边缘计算、雾计算等新兴计算架构被提出并逐渐得到广泛应用，旨在将计算和存储资源置于离终端更近的位置，这些计算架构尤其适用于具有低时延和高可靠性需求的服务。然而与集中式云计算架构中庞大且集中的计算资源相比，边缘服务器在计算、存储和通信等方面的资源相对有限，且地理位置分散。因此仅靠单一的边缘节点往往难以满足具有复杂任务的新兴业务的资源需求，通常需要多个分布式边缘节点协同工作，从而共同满足业务需求。在众多的分布式部署的场景中，微服务架构备受关注，在微服务架构中，一个应用系统被拆分成一系列具有单一业务功能的微服务，多个微服务之间通过紧密协作实现完整的系统功能。与传统的单体应用相比，基于容器化部署的微服务实例具有更快的部署速度和更强的可移植性，可以灵活地部署在资源有限且异构的边缘设备上，非常适合在边缘环境中部署业务。

虽然微服务架构有利于克服设备的异构性，可以灵活地部署在多个边缘节点上，但是由于将完整的业务功能拆分为微服务，这些微服务之间的调用关系将变得异常复杂，并且实现完整的业务功能，某些微服务需要多次调用。为了实现高效的微服务调用，多个业务之间可以共享同一类微服务，而每类微服务可以拥有多个实例。然而现有的大多数微服务调用是基于gRPC、RESTful API等网络协议的，相比于传统单体式应用，微服务架构对通信的需求将会更大，除此之外，在节点位置较为分散的边缘环境中，节点间的通信能力具有异构性，因此微服务部署的位置也对网络性能产生重要影响。

然而面对上述问题，现有技术的大多数研究只停留于考虑具有恒定带宽的节点，并未充分考虑边缘网络的拓扑结构，并且忽视了不同的部署方案对带宽的影响。事实证明，不同的微服务部署方案会对业务流量之间的带宽竞争关系产生严重影响，例如当某些链路承载了过多流量时，会导致每个业务流的可用带宽显著下降，进而导致时延增大，而现有技术中并没有针对边缘网络拓扑结构的解决方案。

发明内容

本发明的目的是提供一种边缘网络拓扑感知的微服务部署方法，该方法能够根据边缘网络的拓扑结构和业务需求，优化微服务部署方案，有效降低边缘环境中的业务时延，提高了用户体验。

本发明的目的是通过以下技术方案实现的：

一种边缘网络拓扑感知的微服务部署方法，所述方法包括：

步骤1、针对边缘网络拓扑的业务调用关系，通过引入虚拟首部微服务和调用矩阵将业务调用关系转化为矩阵形式，并通过构建流量模型确定节点间的流量信息；

步骤2、基于所得到的节点间的流量信息，采用排队模型在节点层计算节点间的实际可用带宽；

步骤3、根据所得到的节点间的实际可用带宽和传播时延，在微服务层计算微服务实例之间的通信时延，并在业务层计算每个业务的平均通信时延；

步骤4、基于步骤3计算得到的通信时延确定优化目标和约束条件，建立优化模型；

步骤5、通过引入0-1变量表示在节点上是否部署微服务，采用启发式算法或强化学习算法求解步骤4所建立的优化模型，得到适合边缘网络拓扑的微服务部署方案。

由上述本发明提供的技术方案可以看出，上述方法能够根据边缘网络的拓扑结构和业务需求，优化微服务部署方案，有效降低边缘环境中的业务时延，提高了用户体验。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。

图1为本发明实施例提供的边缘网络拓扑感知的微服务部署方法流程示意图；

图2为本发明实施例所述业务调用关系及虚拟首部微服务示意图；

图3为本发明实施例所述边缘环境中部署微服务的三层架构示意图。

具体实施方式

下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例，这并不构成对本发明的限制。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。

下面将结合附图对本发明实施例作进一步地详细描述。本发明实施例中未作详细描述的内容属于本领域专业技术人员公知的现有技术。本发明实施例中未注明具体条件者，按照本领域常规条件或制造商建议的条件进行。

如图1所示为本发明实施例提供的边缘网络拓扑感知的微服务部署方法流程示意图，所述方法包括：

步骤1、针对边缘网络拓扑的业务调用关系，通过引入虚拟首部微服务和调用矩阵将业务调用关系转化为矩阵形式，并通过构建流量模型确定节点间的流量信息；

在该步骤中，如图2所示为本发明实施例所述业务调用关系及虚拟首部微服务示意图，图中节点M_i代表第i类微服务，节点间边上的数字代表微服务间的调用顺序。通过引入虚拟首部微服务和调用矩阵将业务调用关系转化为矩阵形式。

如图3所示为本发明实施例所述边缘环境中部署微服务的三层架构示意图，图3中包括业务层、微服务层和边缘节点层，具体是在微服务层通过构建的流量模型得到微服务实例之间的调用概率和流量大小，然后在节点层基于网络拓扑和路由转发关系，得到任意节点间的流量信息，具体过程为：

假设网络中有节点能与用户进行通信并转发用户请求，将这些节点称为接入节点，用户的请求始终通过接入节点到达，为了描述用户请求到首部微服务的通信过程，其中首部微服务是业务需要首先调用的微服务，定义一类特殊的微服务M₀，该微服务M₀不占用节点的计算资源，并且每个接入节点上均部署有一个微服务M₀，作为每个业务的虚拟首部微服务；

采用F_i，j表示从微服务M_i到微服务M_j的一次调用；R_i，j表示从微服务M_i到微服务M_j的一次响应；定义F^k为业务W_k的调用矩阵，其中表示执行业务W_k时从微服务M_i到微服务M_j的调用次数；类似地，定义R^k为业务W_k的响应矩阵，具体表示为：

考虑到同一微服务可能存在多个实例的情况，因此本发明考虑多个实例间采用轮询的调度算法，对于非虚拟首部微服务而言，在需要调用微服务M_i时，每个实例M_i，a被访问的概率是相同的，即：

对于i等于0的情况，实际取决于每个接入节点的业务到达率；

设表示执行业务W_k，每次需要调用微服务M_i时，选择实例M_i，a的概率，设表示每次业务W_k被调用时，实例M_i，a调用实例M_j，b的平均次数，则有：

设Req_i，j为微服务M_i调用微服务M_j时请求数据的平均大小；表示每次业务W_k被调用时，实例M_i，a向M_j，b请求的平均数据大小，则有：

类似的，设表示每次业务W_k被调用时，实例M_i，a对实例M_j，b响应的平均次数；Res_i，j为微服务M_i到微服务M_j的响应数据平均大小；/>表示每次业务W_k被调用时，实例M_i，a对实例M_j，b响应的平均数据大小；由于每一次的请求和响应是一一对应的，所以有：

假设任意业务W_k在每个接入节点的到达均符合泊松分布，设接入点的集合为对于接入节点/>业务W_k的到达服从参数为/>的泊松分布，则对于系统整体，业务W_k服从参数为λ^k的泊松分布，其中：

设表示实例M_i，a所部署的节点，对于虚拟首部微服务M₀的实例，在业务W_k的一次执行过程中，实例M_0，a被调用的概率为：

所以在执行业务W_k时，每次调用微服务M_i，实例M_i，a被选中的概率为：

对于边缘网络中的任意两个节点N_p和N_q，定义以N_p为源节点，N_q为目的节点的流量为直接流量Γ_pq；当N_p和N_q为相邻节点时，定义两节点间的包括直接发送和转发的全部数据流量为总流量

表示节点N_p上的微服务实例集合，对于边缘网络中的任意两个节点N_p和N_q，在执行一次业务W_k时，两节点间的直接流量为：

设边缘网络中业务的集合为那么单位时间内，两节点的直接流量为：

使用U_p，q表示从节点N_p到节点N_q的路由转发路径，其中<N_x，N_y>∈U_p，q表示转发路径中的一跳；由于同一节点上的微服务之间的通信是通过总线传输的，其传输速率远高于节点之间的信道传输速率，因此在所构建的模型中可以忽略同一节点上的通信，当p＝q时，U_p，q为空集；

设节点的集合为则节点N_p与N_q之间的总流量表示为：

步骤2、基于所得到的节点间的流量信息，采用排队模型在节点层计算节点间的实际可用带宽；

在该步骤中，鉴于多业务并行时带宽的共享问题，采用排队模型来分析任意相邻节点的可用带宽，假设节点N_p向N_q发送的数据包到达服从泊松分布，并且每个有向链路同一时间只能处理一个数据包，则将节点间的包发送过程视作M/M/1排队模型；

假设排队模型中的数据包大小均为s，Z_p，q表示节点N_p到N_q的带宽，那么节点N_p发往N_q的数据包的到达率和服务率分别定义为λ_p，q和μ_p，q，那么每个数据包平均需要的发送时间计算如下：

那么节点N_p到节点N_q的平均可用带宽Z′_p，q表示为：

其中，表示节点N_p与N_q之间的总流量。

步骤3、根据所得到的节点间的实际可用带宽和传播时延，在微服务层计算微服务实例之间的通信时延，并在业务层计算每个业务的平均通信时延；

在该步骤中，对于任意节点N_p和N_q，使用V_p，q来表示它们之间的传播时延，假设节点间采用全双工通信，并且不考虑中间节点的转发时间，则任意两节点间的总传播时延计算如下：

其中，U_p，q表示从节点N_p到节点N_q的路由转发路径；<N_x，N_y>∈U_p，q表示路由转发路径中的一跳；V_x，y表示节点x到节点y的传播时延；

设表示从节点N_p到节点N_q的各个转发路径的最小可用吞吐量，那么微服务实例M_i，a的请求发送到实例M_j，b的平均通信时延/>计算如下：

类似地，微服务实例M_i，a的响应发送到实例M_j，b的平均通信时延计算如下：

则业务W_k每次执行时的平均通信时延T_k表示为：

步骤4、基于步骤3计算得到的通信时延确定优化目标和约束条件，建立优化模型；

在该步骤中，考虑到边缘网络的不同业务对时延的敏感度不同，将每个业务的平均通信时延定义为每一类业务平均通信时延的加权和，设业务W_k的通信时延权重为θ_k；那么每个业务的平均通信时延计算如下：

则优化模型表述为：在给定业务集合为微服务集合/>和节点集合/>的情况下，通过调节微服务实例的部署位置/>最小化系统的平均通信时延T，即：

并定义如下约束条件：

其中，约束条件(21a)和(21b)分别表示单个节点上部署的微服务实例CPU和内存资源的总需求量不应超过节点的资源总量；约束条件(21c)表示任意相邻两节点间的平均流量不能超过带宽上限。

步骤5、通过引入0-1变量表示在节点上是否部署微服务，采用启发式算法或强化学习算法求解步骤4所建立的优化模型，得到适合边缘网络拓扑的微服务部署方案。

在该步骤中，考虑同一类微服务不会在同一个节点上同时部署多个实例，这种尽量将实例尽可能分布在多个节点上的做法可以进一步保障边缘服务的可用性，具体是使用0-1变量G_p，i∈G来表示在节点N_p上是否部署微服务M_i，其中G是一个大小为的矩阵；/>为微服务集合，/>为节点集合；

用M_p，i来表示位于节点N_p上的微服务M_i的实例，以唯一表示一个微服务实例，因此式(11)表示为：

对于拓扑关系同样可以使用矩阵的形式表示，定义来表示从节点N_x到节点N_y的路径中是否经过了N_p到N_q这一跳，因此式(13)表示为：

类似地，式(14)表示为：

式(17)和式(18)分别表示为：

式(19)表示为：

对于式(27)，和/>均为常量，与微服务部署的位置无关；和/>以及Req_i，j、Res_i，j和/>同样为常量；而/>是关于G的方程，表示为一个大小为/>的二次方程；

最后，目标T是T_k的加权和，其中权重已知，因此优化模型表示为如下形式：

约束条件表示为：

其中，f(G)和g(G)均为关于G的元二次方程；

约束条件(28a)表示每一类微服务的实例数目均应满足要求，因此共有个等式约束；约束条件(28b)表示每个节点上最多只能部署一个同类微服务实例；约束条件(28c)和约束条件(28d)分别代表每个节点上部署的微服务计算和内存资源总和不能超过对应的节点的资源上限；约束条件(28e)代表每条链路上的平均带宽需求不能超过这条链路的带宽上限。

具体实现中，在边缘环境中部署微服务时，微服务和节点的数目都较大，为了求解这个问题，可以采用启发式算法(如遗传算法、粒子群算法)或者强化学习等方法求解所建立的优化模型，从而在大规模问题中高效地找到较优解。

举例来说，以遗传算法为例，求解过程如下：

1、使用二进制编码，每个染色体代表一个部署方案，每个染色体上有个基因，分别表示每类微服务M_i的部署方案。1代表在对应节点上部署此类型的微服务，0代表不部署。

2、使用每个个体其染色体所代表的部署方案的系统的业务平均通信时延T取反，作为此个体的适应度函数。

3、随机初始种群。

4、计算当前种群的每个个体的适应度。

5、从种群中随机抽取两组个体，分别取两组个体中适应度最高的两个个体作为父体，随机交换两个父体的基因，产生新一代个体。

6、对新产生的个体执行随机变异操作，按照一定概率对随机基因上的编码进行随机翻转。

7、重复步骤5和步骤6直到产生新一代种群数目满足要求。

8、重复步骤4-7，记录最优部署方案，直到达到最大迭代次数。

最终得到的部署方案综合考虑了微服务的资源需求和边缘拓扑结构，能够合理地为每一个微服务实例选择部署节点，有效降低边缘环境中各个业务的平均通信时延，提高用户体验。

值得注意的是，本发明实施例中未作详细描述的内容属于本领域专业技术人员公知的现有技术。

综上所述，本发明实施例所述方法具有如下优点：

(1)基于概率模型分析微服务间的调用，能够有效处理微服务之间的各种复杂依赖关系，提高系统的可靠性和稳定性；

(2)该方案能够充分考虑边缘网络的拓扑结构，更适合边缘设备位置分散的场景环境，能够有效减少通信距离和网络延迟，提高边缘服务的响应速度；

(3)通过优化微服务部署方案，可以显著降低边缘业务的时延，提高用户的体验质量，减少通信延迟可以提高实时性和交互性，使用户能够更快地获得响应和结果；

(4)本方案在微服务架构下的边缘计算环境中具备多种有益效果，提高了系统性能和用户体验，推动了边缘计算的应用和发展。

另外，本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件完成，相应的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。本文背景技术部分公开的信息仅仅旨在加深对本发明的总体背景技术的理解，而不应当被视为承认或以任何形式暗示该信息构成已为本领域技术人员所公知的现有技术。

Claims (6)

1.一种边缘网络拓扑感知的微服务部署方法，其特征在于，所述方法包括：

步骤1、针对边缘网络拓扑的业务调用关系，通过引入虚拟首部微服务和调用矩阵将业务调用关系转化为矩阵形式，并通过构建流量模型确定节点间的流量信息；

步骤2、基于所得到的节点间的流量信息，采用排队模型在节点层计算节点间的实际可用带宽；

步骤3、根据所得到的节点间的实际可用带宽和传播时延，在微服务层计算微服务实例之间的通信时延，并在业务层计算每个业务的平均通信时延；

步骤4、基于步骤3计算得到的通信时延确定优化目标和约束条件，建立优化模型；

步骤5、通过引入0-1变量表示在节点上是否部署微服务，采用启发式算法或强化学习算法求解步骤4所建立的优化模型，得到适合边缘网络拓扑的微服务部署方案。

2.根据权利要求1所述边缘网络拓扑感知的微服务部署方法，其特征在于，在步骤1中，具体是在微服务层通过构建的流量模型得到微服务实例之间的调用概率和流量大小，然后在节点层基于网络拓扑和路由转发关系，得到任意节点间的流量信息，具体来说：

假设网络中有节点能与用户进行通信并转发用户请求，将这些节点称为接入节点，用户的请求始终通过接入节点到达，为了描述用户请求到首部微服务的通信过程，其中首部微服务是业务需要首先调用的微服务，定义一类特殊的微服务M₀，该微服务M₀不占用节点的计算资源，并且每个接入节点上均部署有一个微服务M₀，作为每个业务的虚拟首部微服务；

采用F_i，j表示从微服务M_i到微服务M_j的一次调用；R_i，j表示从微服务M_i到微服务M_j的一次响应；定义F^k为业务W_k的调用矩阵，其中表示执行业务W_k时从微服务M_i到微服务M_j的调用次数；类似地，定义R^k为业务W_k的响应矩阵，具体表示为：

对于非虚拟首部微服务而言，在需要调用微服务M_i时，每个实例M_i，a被访问的概率是相同的，即：

对于i等于0的情况，实际取决于每个接入节点的业务到达率；

设表示执行业务W_k，每次需要调用微服务M_i时，选择实例M_i，a的概率，设/>表示每次业务W_k被调用时，实例M_i，a调用实例M_j，b的平均次数，则有：

设Req_i，j为微服务M_i调用微服务M_j时请求数据的平均大小；表示每次业务W_k被调用时，实例M_i，a向M_j，b请求的平均数据大小，则有：

类似的，设表示每次业务W_k被调用时，实例M_i，a对实例M_j，b响应的平均次数；Res_i，j为微服务M_i到微服务M_j的响应数据平均大小；/>表示每次业务W_k被调用时，实例M_i，a对实例M_j，b响应的平均数据大小；由于每一次的请求和响应是一一对应的，所以有：

假设任意业务W_k在每个接入节点的到达均符合泊松分布，设接入点的集合为对于接入节点/>业务W_k的到达服从参数为/>的泊松分布，则对于系统整体，业务W_k服从参数为λ^k的泊松分布，其中：

设表示实例M_i，a所部署的节点，对于虚拟首部微服务M₀的实例，在业务W_k的一次执行过程中，实例M_0，a被调用的概率为：

所以在执行业务W_k时，每次调用微服务M_i，实例M_i，a被选中的概率为：

对于边缘网络中的任意两个节点N_p和N_q，定义以N_p为源节点，N_q为目的节点的流量为直接流量Γ_pq；当N_p和N_q为相邻节点时，定义两节点间的包括直接发送和转发的全部数据流量为总流量

表示节点N_p上的微服务实例集合，对于边缘网络中的任意两个节点N_p和N_q，在执行一次业务W_k时，两节点间的直接流量为：

设边缘网络中业务的集合为那么单位时间内，两节点的直接流量为：

使用U_p，q表示从节点N_p到节点N_q的路由转发路径，其中<N_x，N_y>∈U_p，q表示转发路径中的一跳；当p＝q时，U_p，q为空集；

设节点的集合为则节点N_p与N_q之间的总流量表示为：

3.根据权利要求2所述边缘网络拓扑感知的微服务部署方法，其特征在于，在步骤2中，鉴于多业务并行时带宽的共享问题，采用排队模型来分析任意相邻节点的可用带宽，假设节点N_p向N_q发送的数据包到达服从泊松分布，并且每个有向链路同一时间只能处理一个数据包，则将节点间的包发送过程视作M/M/1排队模型；

假设排队模型中的数据包大小均为s，Z_p，q表示节点N_p到N_q的带宽，那么节点N_p发往N_q的数据包的到达率和服务率分别定义为λ_p，q和μ_p，q，那么每个数据包平均需要的发送时间计算如下：

那么节点N_p到节点N_q的平均可用带宽Z_p，q表示为：

其中，表示节点N_p与N_q之间的总流量。

4.根据权利要求3所述边缘网络拓扑感知的微服务部署方法，其特征在于，在步骤3中，对于任意节点N_p和N_q，使用V_p，q来表示它们之间的传播时延，假设节点间采用全双工通信，并且不考虑中间节点的转发时间，则任意两节点间的总传播时延计算如下：

其中，U_p，q表示从节点N_p到节点N_q的路由转发路径；<N_x，N_y>∈U_p，q表示路由转发路径中的一跳；V_x，y表示节点x到节点y的传播时延；

设表示从节点N_p到节点N_q的各个转发路径的最小可用吞吐量，那么微服务实例M_i，a的请求发送到实例M_j，b的平均通信时延/>计算如下：

类似地，微服务实例M_i，a的响应发送到实例M_j，b的平均通信时延计算如下：

则业务W_k每次执行时的平均通信时延T_k表示为：

5.根据权利要求4所述边缘网络拓扑感知的微服务部署方法，其特征在于，在步骤4中，将每个业务的平均通信时延定义为每一类业务平均通信时延的加权和，设业务W_k的通信时延权重为θ_k；那么每个业务的平均通信时延计算如下：

则优化模型表述为：在给定业务集合为微服务集合/>和节点集合/>的情况下，通过调节微服务实例的部署位置/>最小化系统的平均通信时延T，即：

并定义如下约束条件：

其中，约束条件(21a)和(21b)分别表示单个节点上部署的微服务实例CPU和内存资源的总需求量不应超过节点的资源总量；约束条件(21c)表示任意相邻两节点间的平均流量不能超过带宽上限。

6.根据权利要求5所述边缘网络拓扑感知的微服务部署方法，其特征在于，在步骤5中，具体是使用0-1变量G_p，i∈G来表示在节点N_p上是否部署微服务M_i，其中G是一个大小为的矩阵；/>为微服务集合，/>为节点集合；

用M_p，i来表示位于节点N_p上的微服务M_i的实例，以唯一表示一个微服务实例，因此式(11)表示为：

定义来表示从节点N_x到节点N_y的路径中是否经过了N_p到N_q这一跳，因此式(13)表示为：

类似地，式(14)表示为：

式(17)和式(18)分别表示为：

式(19)表示为：

对于式(27)，和/>均为常量，与微服务部署的位置无关；/>和以及Req_i，j、Res_i，j和/>同样为常量；而/>是关于G的方程，表示为一个大小为/>的二次方程；

最后，目标T是T_k的加权和，其中权重已知，因此优化模型表示为如下形式：

约束条件表示为：

其中，f(G)和g(G)均为关于G的元二次方程；

约束条件(28a)表示每一类微服务的实例数目均应满足要求，因此共有个等式约束；约束条件(28b)表示每个节点上最多只能部署一个同类微服务实例；约束条件(28c)和约束条件(28d)分别代表每个节点上部署的微服务计算和内存资源总和不能超过对应的节点的资源上限；约束条件(28e)代表每条链路上的平均带宽需求不能超过这条链路的带宽上限。