CN110740194B

CN110740194B - 基于云边融合的微服务组合方法及应用

Info

Publication number: CN110740194B
Application number: CN201911127199.3A
Authority: CN
Inventors: 李鑫; 李�浩; 周俊松; 秦小麟
Original assignee: Nanjing University of Aeronautics and Astronautics
Current assignee: Nanjing University of Aeronautics and Astronautics
Priority date: 2019-11-18
Filing date: 2019-11-18
Publication date: 2020-11-20
Anticipated expiration: 2039-11-18
Also published as: CN110740194A

Abstract

本发明揭示了一种基于云边融合的微服务组合方法及应用，方法包括构建备选服务实例集，备选服务实例集包括多个位于云数据中心或边缘节点的服务实例；查找备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例；若是，将待处理数据传输至该位置关联的服务实例；若否，按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至目标服务实例。本发明在提供基于云边融合的服务组合时，选出的是一个服务实例链集而非一条服务实例链，避免了由于边缘节点上服务实例可靠性不高、以及边缘节点之间以及云边之间网络状态波动可能带来的组合服务延迟过长的问题，保证了服务组合的可靠性，且不会导致网络资源的浪费。

Description

基于云边融合的微服务组合方法及应用

技术领域

本发明属于移动边缘计算技术领域，具体涉及一种基于云边融合的微服务组合方法，以及应用该方法构建的服务器网络。

背景技术

如今，随着物联网、5G通讯技术的快速发展，万物互联的智能时代正在加速到来，随之而来的还有数据量的急剧增长，这种情形对当前广泛使用的云计算模型提出了巨大的挑战，使其暴露出了固有的问题，正因如此，近几年，边缘计算出现在大众视野中，边缘计算是一种在靠近终端设备的网络边缘提供智能服务的新型计算模型。值得注意的是，边缘计算虽然有如此多的优势和特点，但由于边缘节点资源受限，且部分数据与任务必须在云中心中存储和执行，所以云边协同具有更广泛的实际意义。

与此同时，不同于云计算模型中将所有的业务功能都在云中心中执行，为了提高服务响应能力，将功能复杂的服务根据业务逻辑拆分成诸多较小的服务，并部署在云边系统中是一种可行的选择。这就引发了如何将云中和边缘节点上的服务组合起来即服务组合问题。然而，随着网络规模的增加，服务组件相应的服务实例数量成倍增长，因此，对于一个组合服务功能往往会有很多个组合服务可供选择，但是这些组合服务的QoS(Quality ofService，服务质量)却参差不齐。因此，对于某一组合服务来讲，QoS等非功能性是值得考量的重要指标。如今，用户对服务所能实现的功能性能以及非功能体验都提出了更高的要求。

服务组合是指按照一定的应用需求，利用支持服务组合的平台，根据预定义的规则动态选择、集成和调用己经存在的候选服务以形成满足任务需求的服务协同工作流程的过程。鉴于上述云计算面临的挑战、云边协同的优势以及用户对服务组合质量的越来越高的要求。

目前与服务组合相关的研究大多都是关于部署在云中的Web服务的服务组合研究以及少部分的微服务组合研究。基于QoS的Web服务组合可划分为三个类别：①基于QoS属性计算的服务组合；②基于工作流的QoS模型的服务组合；③基于QoS语义的服务组合。其中，基于组合服务QoS属性计算的方法又包含穷举法、局部优化法、数学规划法和遗传算法等方法。

微服务组合方法主要有以下三种：基于工作流模型的组合、基于状态演算的组合和基于形式化语言的组合。基于工作流模型的组合方法的基本思想是使用特定的建模语言定义工作流，并使用编排引擎工具管理和控制预先定义的工作流的执行，该方法可以实现服务的灵活部署及动态绑定，就目前而言，微服务组合方法大多都是基于此模型。基于状态演算的组合方法主要是基于微服务组合的具体描述及服务状态图模型的映射关系，为微服务组合建立形式化模型，本质上讲该方法也是工作流形式的组合方法，但其主要进行组合方案的可行性验证。基于形式化语言的组合方法主要是针对半自动化的微服务组合提出的，基本思想是为微服务组合定义一种特定描述语言，该语言包括一系列语法语义及复杂结构，可使用户从更抽象层次描述微服务的组合和调度。

从上述介绍可以看出，在云边协同环境下对服务组合问题建模并研究，当前大多是对云计算环境下的Web服务及其组合进行的研究。虽然已经提出了很多支持随需应变的服务组合的各种服务选择方法，但在大多数情况下，这些方法都是假设网络资源是过度供应的，在做出具有质量感知的服务组合决策时没有考虑这些资源的使用情况。实际上，这些方法通常会导致网络资源的浪费和基于云服务的不切实际的端到端QoS优化。

发明内容

本发明一实施例提供一种基于云边融合的微服务组合方法及应用，用于解决现有技术中服务组合质量不高的问题，该方法包括：

构建备选服务实例集，所述备选服务实例集包括多个位于云数据中心或边缘节点的服务实例；

查找所述备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例；若是，

将待处理数据传输至该位置关联的服务实例；若否，

按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至所述目标服务实例。

一实施例中，所述方法还包括：

按照服务性能递减的顺序，对所述备选服务实例集中的多个服务实例进行排序；

按照预定规则确定备选服务实例集中的目标服务实例，包括：

在所述备选服务实例集中排序在设定比例之前的服务实例中选取目标服务实例。

一实施例中，所述预定规则包括随机算法。

一实施例中，所述服务性能与服务实例所处网络环境和处理数据的能力相关联。

一实施例中，所述方法还包括：

将待处理数据传输至所述目标服务实例后，按照服务性能递减的顺序，对所述备选服务实例集中的多个服务实例的排序进行更新。

一实施例中，若在所述备选服务实例集中查找到与待处理数据所位于的服务实例位置关联的服务实例，所述方法还包括：

确定该位置关联的服务实例是否有效；若是，

则将待处理数据传输至该位置关联的服务实例。

一实施例中，所述方法还包括：

若该位置关联的服务实例无效，则按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至所述目标服务实例。

一实施例中，确定该位置关联的服务实例是否有效，具体包括：

若该位置关联的服务实例在边缘节点，判断该服务所在的边缘节点的可选服务实例数量是否达到上限；若是，

则该位置关联的服务实例无效；若否，

则该位置关联的服务实例有效。

一实施例中，查找所述备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例，具体包括：

若待处理数据所位于的服务实例在云数据中心，则查找所述备选服务实例集中，是否有在云数据中心的服务实例；

若待处理数据所位于的服务实例在边缘节点，则查找所述备选服务实例集中，是否有在该边缘节点的其它服务实例。

一实施例中，若所述备选服务实例集中存在多个与待处理数据所位于的服务实例位置关联的服务实例，则将待处理数据传输至该些多个位置关联的服务实例；以及，

若按照预定规则确定备选服务实例集中存在多个目标服务实例，则将待处理数据传输至所述多个目标服务实例。

一实施例中，若在所述备选服务实例集中的任一服务实例处完成目标任务，则停止备选服务实例集中其它服务实例关于该目标任务的数据传输。

本申请还提供一种基于云边融合的服务器网络，所述服务器网络利用上述的方法构建。

与现有技术相比，本发明在提供基于云边融合的服务组合时，选出的是一个服务实例链集而非一条服务实例链，避免了由于边缘节点上服务实例可靠性不高、以及边缘节点之间以及云边之间网络状态波动可能带来的组合服务延迟过长的问题，保证了服务组合的可靠性，且不会导致网络资源的浪费。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请一实施方式基于云边融合的微服务组合方法的流程图；

图2是本申请一实施方式实例链集中一条链的两个相邻服务实例之间数据传输和处理的示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请基于云边融合的微服务组合方法实质上是提供一种服务组合算法，以实现当在云端或者边缘端请求完成一个组合功能时，且在一定资源条件限制下，选择一些服务实例组成服务链的集合，完成组合任务。

参图1，介绍本申请基于云边融合的微服务组合方法的一具体实施方式。在本实施方式中，该方法包括：

S11、构建备选服务实例集。

利用一个功能路径path表示某一个组合服务功能，每个功能路径由若干功能组件(服务类)构成，每个功能组件对应各个业务模块，每个功能组件具有各自的服务实例数，而服务实例表示每个功能组件的服务实体。

基于云边融合思想，本申请的实施方式中旨在利用一个服务网络中的云数据中心以及与云数据中心通信的多个边缘节点(也即边缘服务器)共同协作完成组合任务，因此，本申请实施方式中的备选服务实例集包括多个位于云数据中心或边缘节点的服务实例。

S12、查找所述备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例。若是，执行步骤S13；若否，执行步骤S14。

在判断备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例时，可以依照待处理数据所位于的服务实例位置的不同而分别确定。具体地，若待处理数据所位于的服务实例在云数据中心，则查找所述备选服务实例集中，是否有在云数据中心的服务实例，若有，则将其确定为位置关联的服务实例；而若待处理数据所位于的服务实例在边缘节点，则查找所述备选服务实例集中，是否有在该边缘节点的其它服务实例，若有，则将其确定为位置关联的服务实例。

S13、将待处理数据传输至该位置关联的服务实例。

位置关联表征着待处理数据与选定的服务实例都在云数据中心或者同一个边缘节点上，相当于选定的服务实例对待处理数据是本地处理，获取数据的速度会是一个较大值，相应的延迟也就较小。

本实施方式中，还可以进一步确定该位置关联的服务实例是否有效；若是，则将待处理数据传输至该位置关联的服务实例。而若该位置关联的服务实例无效，则继续执行步骤S14。

服务实例失效的情况更多地会出现在一些边缘节点上，在确定该位置关联的服务实例是否有效时，具体包括：若该位置关联的服务实例在边缘节点，判断该服务所在的边缘节点的可选服务实例数量是否达到上限；若是，则该位置关联的服务实例无效；若否，则该位置关联的服务实例有效。

S14、按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至所述目标服务实例。

在备选服务实例集中不存在位置关联的服务实例时，则只能进一步在备选服务实例集中选一个合适的目标服务实例对待处理数据进行处理。确定该目标服务实例可以依照一个预定的规则，例如随机算法。

本实施方式中，为了提高数据处理的效率，在构建备选服务实例集后，还进一步包括按照服务性能递减的顺序，对所述备选服务实例集中的多个服务实例进行排序，这里的服务性能与服务实例所处网络环境和处理数据的能力相关联，反应服务实例处理数据的综合性能。相应地，按照预定规则确定备选服务实例集中的目标服务实例，可以是在备选服务实例集中排序在设定比例之前的服务实例中选取目标服务实例。

具体的设定比例可以按照实际的服务器网络情况进行设定，示范性地，本实施方式中的设定比例为50％。

进一步地，若备选服务实例集中存在多个与待处理数据所位于的服务实例位置关联的服务实例，则将待处理数据传输至该些多个位置关联的服务实例；以及，若按照预定规则确定备选服务实例集中存在多个目标服务实例，则将待处理数据传输至所述多个目标服务实例。同时，若在备选服务实例集中的任一服务实例处完成目标任务，则停止备选服务实例集中其它服务实例关于该目标任务的数据传输。

可以看出，上述的实施方式中，在选择传输待处理数据的服务实例时，首先是基于数据位置感知算法和贪心算法，优选传输延迟小的位置关联服务实例(当前情况下的最优解)，在没有位置关联的服务实例时，又基于贪心算法和随机算法，先确定备选服务实例中最优选的部分(服务性能排序靠前的部分)，再进行随机选择，同时，对相同的待处理数据进行多服务节点的并行传输处理，相当于构建了具有多个链路的服务实例链集，受到某个边缘节点的服务实例或云边之间网络状态波动影响的可能性较小，有效提升服务器网络的QoS。

在将待处理数据传输至当前的目标服务实例后，目标服务实例对该待处理数据进行处理，并请求传输至下一个的服务实例。而对于这时要处理的数据而言，备选服务实例集中多个服务实例并非是以其为基准进行服务性能的排序，无法适用上述的预定规则。因此，将待处理数据传输至所述目标服务实例后，按照服务性能递减的顺序，对所述备选服务实例集中的多个服务实例的排序进行更新。这样，可以保证备选服务实例集中的多个服务实例可以按照预定规则被择优地进行数据处理，保证服务器网络处理数据的效率。

本申请还提供利用上述实施方式的方法构建的基于云边融合的服务网络。由于这里不涉及对服务器网络其他方面的改进，应该对服务器网络的其它部分不再赘述。

为了更好地理解本申请的技术方案，以下结合具体的应用场景对本申请做进一步的说明。

这里同样用一个功能路径path表示某一个组合服务功能，服务实例描述为s＝<pos,ra,o,e>，即用4个属性来描述：pos表示该服务实例所在的位置，有两种选择(DC/EN)，DC表示云数据中心，EN表示边缘节点；ra表示该服务实例的输出输入数据量之比，即ra＝amount_output/amount_input；o表示该服务实例处理单位数据所花费的时间；e表示该服务的有效性(0/1)，即是否可用。用ω表示功能路径path的一个服务实例链，一个功能路径path总的服务链数记为L(path)。

(1)评估标准-实例链集的延迟算法

采用实例链集的延迟作为指标来对不同的服务组合算法进行评估，定义集合中最快完成组合任务的实例链的延迟为该实例链集合的延迟。用D(ω)表示一条ω的延迟，其由处理数据时间和传输数据时间构成。为了计算整条链的延迟，我们先从链中两个相邻实例之间的延迟来分析。

如图2所示，其中m₀表示在s₀处的初始数据量，x表示对应实例在其服务类中的序号即1≤x≤N(F_i)，

表示进入当前服务

的数据量，

表示当前实例

处理完数据之后要传送到后继服务

的数据量，

表示传输数据的带宽，

的设置与

和

的位置有关，当

与

都在云数据中心或者同一个边缘节点上时，将

设置为一个较大的值，因为此时数据就在本地，获取数据很快，若

与

一个在云中心、一个在边缘节点或者两者在两个不同的边缘节点，这时将

视为随机变量，设其服从均值和方差为相应经验值的高斯分布如表1所示。

表1计算延迟时

的设置

由此，

与

之间的延迟(记为D_i,j)中的处理数据的部分由表3.1中属性o描述，传输数据部分由表3.1中

描述，故D_i,j计算方法如下式(1)所示。

式(1)中

为

处理单位数据所花的时间，D_i,j表示数据在

与

之间传输的时间与在

处理时间之和。同时，式(1)中的

可以由初始数据量m₀，以及在当前ω上从s₀到

经过的所有服务实例的ra属性表示，这里假设某一抽象服务的所有服务实例ra都相同，但其各服务处理时间和所处网络环境不尽相同，故

的另一种表达形式如式(2)所示。

式(2)中

表示

的ra属性值，因此，D_i,j又可表示为式(3)的形式。

对于式(3)，记

根据上述设定可知，对于某一给定链ω上的某一

其η_iω是一个固定常量；又记

需要注意的是，除了

与

都在云数据中心的情况，其余情况ω_i,j均为服从某一分布的随机变量。且ω_i,j表示一个服务所处网络环境以及该服务处理数据能力的综合性能，ω_i,j越小越好。由此D_i,j形式可化简为式(4)。

D_i,j＝m₀η_iω*ω_i,j 式(4)

又需要注意s₀只表示初始数据的位置，即只传输数据而不处理数据。基于以上，某一服务实例链ω的总延迟D(ω)可以描述为如式(5)所示的形式。

根据式(5)，以及过对于特定链的每个服务实例其η_iω为定值，m₀和o₀又为已知常量，故从直观形式上讲，要想使所选实例链的总延迟尽可能小，就要使ω_i,j尽可能小。

(2)基于数据位置感知的服务组合算法设计

①对当前备选服务实例集根据其ω_i,j从小到大排序；但这里的ω_i,j不同于式(5)中的ω_i,j，因为式(5)中的

是已经通过表(1)更新过的值，也就是说在进行服务选择时的ω_i,j是根据初始化时的带宽和处理数据时间计算的，而计算实例链延迟时要根据数据的位置更新每个实例的

即也更新了ω_i,j。

②当要选择下一个服务实例时，首先从备选服务实例集中考察是否有与前服务实例在同一位置的(都在DC或同一个EN)，若有则优先选择。

③若当前备选集中没有这样的实例，或由于一些限制因素导致有与前一个实例位置相同的但该实例不能被选择时，例如由于边缘节点上的资源有限，所以在一个边缘服务器上会有可选实例数量上限；则在已经对ω_i,j排好序的实例集中根据备选服务实例数量随机选择集合中的前50％的实例,此处是随机、贪心思想与基于数据位置感知算法的结合。

通过上述实施方式，实现了对云边系统下的服务组合问题的建模与形式化，并提出了一种基于数据位置感知的服务组合算法。相对于之前的服务组合算法多是先构造解空间，解空间中很多实例链，之后通过一层层的QoS过滤，最后选择出一条最优的实例链。本申请实施方式提供的服务组合算法选出的是一个服务实例链集而非一条服务实例链。由于边缘节点(服务器)的计算和存储资源都很有限，所以处于边缘节点上的服务实例的可靠性没有在云数据中心的高，同时边缘节点之间以及云边之间的网络状态有波动性，若对于某一组合服务功能只选择一条实例链的话，很有可能会出现在边缘侧的某个节点由于资源受限或者网络通信终端等等原因而无法响应的情况，就会使整个组合服务延迟过长。而本申请实施方式可以保证选择多条链来完成某一组合任务，以防止出现上述情况。而对于选出来的多条链它们的结构可能有交叉(即有公用的服务实例)或互相之间完全独立均可(即没有公用的服务实例)，可使它们同时开始执行，有最早完成任务的即可。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机，计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。

在一个典型的配置中，计算机包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带、磁盘存储、量子存储器、基于石墨烯的存储介质或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在本说明书一个或多个实施例使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本说明书一个或多个实施例可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书一个或多个实施例范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

以上所述仅为本说明书一个或多个实施例的较佳实施例而已，并不用以限制本说明书一个或多个实施例，凡在本说明书一个或多个实施例的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例保护的范围之内。

Claims

1.一种基于云边融合的微服务组合方法，其特征在于，所述方法包括：

将待处理数据传输至该位置关联的服务实例，其中，若所述备选服务实例集中存在多个与待处理数据所位于的服务实例位置关联的服务实例，则将待处理数据传输至该些多个位置关联的服务实例；若否，

按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至所述目标服务实例，其中，若按照预定规则确定所述备选服务实例集中存在多个目标服务实例，则将待处理数据传输至所述多个目标服务实例。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

3.根据权利要求1或2所述的方法，其特征在于，所述预定规则包括随机算法。

4.根据权利要求2所述的方法，其特征在于，所述服务性能与服务实例所处网络环境和处理数据的能力相关联；和/或，所述方法还包括：

5.根据权利要求1所述的方法，其特征在于，若在所述备选服务实例集中查找到与待处理数据所位于的服务实例位置关联的服务实例，所述方法还包括：

确定该位置关联的服务实例是否有效；若是，

则将待处理数据传输至该位置关联的服务实例。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

若该位置关联的服务实例无效，则按照预定规则确定备选服务实例集中的目标服务实例，并将待处理数据传输至所述目标服务实例；和/或，

确定该位置关联的服务实例是否有效，具体包括：

则该位置关联的服务实例无效；若否，

则该位置关联的服务实例有效。

7.根据权利要求1所述的方法，其特征在于，查找所述备选服务实例集中，是否有与待处理数据所位于的服务实例位置关联的服务实例，具体包括：

8.根据权利要求1所述的方法，其特征在于，所述方法还包括：

若在所述备选服务实例集中的任一服务实例处完成目标任务，则停止备选服务实例集中其它服务实例关于该目标任务的数据传输。

9.一种基于云边融合的服务器网络，其特征在于，所述服务器网络利用权利要求1至8任一项所述的方法构建。