CN112769942A - 一种基于QoS的微服务动态编排方法 - Google Patents

Abstract

本发明属于微服务技术领域，特别涉及一种基于QoS的微服务动态编排方法，包括基于工作流对QoS的全局约束进行分解得到局部约束，选择符合局部约束的服务实例构成候选服务集合；使用效益函数获取工作流中节点的最优候选服务集合，实时监控并获取工作流节点的QoS属性，动态调整工作流节点的QoS约束；计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重；本发明能根据运行时QoS自适应调整服务的选择和执行，并根据约束紧迫度调节服务选择的效益函数权重，动态地选择服务实例来保证全局QoS的稳定。

Description

一种基于QoS的微服务动态编排方法

技术领域

本发明属于微服务技术领域，特别涉及一种基于QoS的微服务动态编排方法。

背景技术

随着近年软件产业的快速发展，微服务架构作为一种部署应用和服务的新兴技术，为解决当前软件产业问题提供了完整的方法论和工程实践，微服务受到了前所未有的关注，众多互联网巨头如谷歌、eBay、亚马逊、Twitter、Netflix都运行着拥有多元化微服务的大规模生态系统并取得了不错的反响。微服务的设计理念也促进了物联网产业的架构变迁，物联网作为一个新兴的信息技术领域，被广泛运用于智能家居、智能驾驶、智慧城市、智慧安防等领域。物联网服务具有大规模、动态性、移动性等特点，在微服务架构中都可以找到相应的技术解决方案，微服务可以说是实现物联网体系结构最合适的一种技术。

但随着物联网设备的接入和服务规模的增大，引入了大量由实际物理设备抽象而来的服务，其服务的数量规模往往比Web环境更大，海量规模使得微服务系统的动态特性被放大，管理和编排操作的复杂度也更高。物联网服务的一个重要特征就是能够动态改变工作流组成，在软件升级、设备接入断开、数据异常、数据处理等情况下，服务的QoS性能都会随运行环境发生改变，从而改变整个工作流的执行模式，执行环境变化的影响也使得最初的工作流不再是最优的。而现有的微服务编排方式缺少对服务的动态监控和管理，还不能完全实现运行时QoS属性变化的自适应，从而导致编排效率不高。服务的海量及动态特性，使得服务的实际执行环境变得复杂且存在变化，极大影响了服务编排的实际优化效果。

发明内容

为了在海量服务及其动态变化的物联网环境下，保证微服务组合整体QoS，提高微服务运行时的QoS稳定性，本发明提出一种基于QoS的微服务动态编排方法，具体包括：

S1、基于工作流对QoS的全局约束进行分解得到局部约束，选择符合局部约束的服务实例构成候选服务集合；

S2、使用效益函数获取工作流中节点的最优候选服务集合，实时监控并获取工作流节点的QoS属性，动态调整工作流节点的QoS约束；

S3、计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重，后继节点重复S2～S3直到工作流结束；

其中，节点的QoS属性包括响应时间、成本、可靠性以及可用性。

进一步的，获取任务节点候选服务集的过程包括：

遍历工作流节点，计算节点候选服务集的各项QoS属性的值，根据工作流结构，计算不同节点在工作流中全局可分配约束的权重占比，即其全局约束；

根据工作流结构，将全局约束按照节点权重分解为局部约束，其中响应时间、成本的约束为上限约束，低于约束阈值即为符合条件，可用性和可靠性约束为下限约束，高于约束阈值即为符合条件，选择符合约束条件的服务实例构成候选服务集合，局部约束表示为：

C_r(t_i)＝C_r*W_r-i r∈{rel,avl,cost,rt}；

其中，W_r-i为节点t_i在工作流中全局可分配约束的权重占比，即节点t_i的全局约束；C_r(t_i)为节点t_i的局部约束；C_r为QoS属性r的全局约束。

进一步的，根据工作流结构计算不同节点在工作流中全局可分配约束的节点权重W_r-i的过程具体包括：

计算节点t_i的候选服务集的响应时间rt、成本cost、可靠性avl、可用性rel四项QoS属性均值；

根据工作流的结构计算工作流节点QoS均值的合计值；

根据各节点的QoS属性均值和工作流节点QoS均值的合计值计算节点t_i在全局工作流中的可分配约束的权重占比。

进一步的，节点t_i在全局工作流中的可分配约束的权重占比表示为：

其中，W_r-i表示节点t_i在全局工作流中的可分配约束的权重占比；Q_r-mean(t_i)为QoS属性r的均值；n为节点的数量；Q_r(s_im)表示第i个节点的第m个实例的QoS属性r的值；k为节点t_i候选服务集的实例数量。

进一步的，根据工作流的结构计算工作流节点QoS均值的合计值包括：

在顺序结构中，成本和响应时间通过节点QoS顺序相加获取，可用性和可靠性通过顺序相乘获取；

在并行结构中，响应时间取所有并行分支中的最大值，成本、可靠性、可用性取该分支之和；

在条件结构中，每个节点响应时间、成本、可靠性、可用性值乘以条件概率，条件概率为执行该条件分支的概率占比；

在循环结构中，按循环次数将循环结构展开为顺序结构，并按照顺序结构的计算方式计算展开后的顺序结构之和。

进一步的，动态调整工作流节点的QoS约束具体包括：

获取待执行节点的候选服务集实例各个QoS属性的最大值和最小值，并对服务实例的QoS属性进行归一化处理；

对QoS属性权重初始化，并根据归一化QoS属性值和权重构建服务选择综合效益函数，选取效益最优的服务实例执行；

判断实时监控节点服务实例执行是否满足QoS局部约束，对于不满足约束条件的服务，获取后继工作流的期望约束和实际剩余约束差值并重新分配后继工作流局部约束；

后继节点根据重新分配的局部约束，重新筛选节点的可用候选服务，并依据节点在局部约束下是否有可用服务，判断后继工作流是否能够进行编排。

进一步的，重新分配后继工作流局部约束的过程具体包括：

根据效益函数，选择待执行节点的效益最优服务执行，并监控服务执行的QoS属性，若在节点局部约束内完成，就执行下一节点，否则获取后继工作流实际剩余约束；

计算实际剩余约束和原已分配的期望约束的差值diff，diff表示当前实际执行情况下剩余的约束空间与原本规划的后继约束的偏离值，并将diff值按节点权重W_r-i，划分成每个节点的局部约束调整值，用于调整每个后继节点的局部约束，用后继节点的原约束值加上局部约束调整值来表示新的局部约束。

进一步的，将diff值按节点权重W_r-i，划分为每个节点的局部约束调整值，用于调整后继工作流节点的局部约束，用后继节点的原约束值加上局部约束调整值来表示新的局部约束，新的局部约束表示为：

C_r(t_j)＝C_r(t_j)+diff_r(succ(t_i))*W_r-j t_j∈succ(t_i)；

其中，C_r(t_j)为节点t_j的局部约束；succ(t_i)为节点t_i的后继工作流；diff _r(succ(t_i))为节点t_i后继工作流在QoS属性r上的实际执行结果和期望约束间的差值，C_r-actual(t_i)表示后继工作流succ(t_i)实际剩余约束。

进一步的，调整后继工作流的效益函数的权重具体包括：

根据后继工作流的实际剩余约束和期望约束在全局约束下的占比差值，计算当前执行状态下，正向、负向QoS属性的约束紧迫度；

根据计算的约束紧迫度计算优先级，约束紧迫度越高，则后继节点选择服务实例时，效益函数相应分配的权重越大，在下一步节点服务实例选择前，调整效益函数中各项QoS属性的权重，即：

计算调整权重之后的效益函数，并选择待执行节点当前效益最优的服务实例执行；

其中，Urgency_r表示属性r的约束紧迫度；属性r包括响应时间rt、成本cost、可靠性rel以及可用性avl。

进一步的，各个属性的约束紧迫度分别表示为：

其中，C_r为QoS属性r的全局约束；diff _r(succ(t_i))为节点t_i后继工作流在QoS属性r上的实际执行结果和期望约束间的差值；succ(t_i)为节点t_i的后继工作流；n为succ(t_i)的节点数量；C_r-actual(t_i)表示后继工作流succ(t_i)实际剩余约束。

本发明的有益效果在于：

1)本发明对比于静态编排方法，在服务执行过程中引入了动态监控分析的过程，能根据运行时QoS自适应调整服务的选择和执行；

2)本发明使用全局约束分解方法，将全局目标优化问题转化为局部约束，缩小了问题求解范围，并在不满足约束时自适应调节后续工作流约束；

3)本发明提出了约束紧迫度，用来表述工作流执行过程中的QoS属性约束松紧程度，并根据约束紧迫度调节服务选择的效益函数权重，动态地选择服务实例来保证全局QoS的稳定。

附图说明

图1为本发明一种基于QoS的微服务动态编排方法的模型示意图；

图2为为本发明一种基于QoS的微服务动态编排方法中QoS权重调整流程图；

图3为一种基于QoS的微服务动态编排方法流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明提出一种基于QoS的微服务动态编排方法，具体包括以下步骤：

S1、基于工作流对QoS的全局约束进行分解得到局部约束，选择符合局部约束的服务实例构成候选服务集合；

S2、使用效益函数获取工作流中节点的最优候选服务集合，实时监控并获取工作流节点的QoS属性，动态调整工作流节点的QoS约束；

S3、计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重，后继节点重复S2～S3直到工作流结束；

其中，节点的QoS属性包括响应时间、成本、可靠性以及可用性。

本发明一种基于QoS的微服务动态编排方法的编排过程如图1所示，对微服务工作流进行约束分解，使用效益函数获取工作流中节点的最优候选服务集合，实时监控并获取工作流节点的QoS属性，根据QoS分析模型进行再分配，即动态调整工作流节点的QoS约束，约束紧迫度分析模型计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重。

上述调整权重的过程如图2所示，根据工作流实际执行的步骤计算实际剩余约束，计算期望约束与实际剩余约束的差值，并根据差值对期望约束进行重分配，根据差值计算约束紧迫度，根据约束紧迫度调整QoS权重，并将该权重应用于工作流。

如图3，本实施例主要分为三步对一种基于QoS的微服务动态编排方法进行详细说明。

Step1：工作流规划

该步骤为工作流规划阶段，即基于工作流对全局QoS约束进行分解，获取任务节点候选服务集，使用局部约束对候选服务进行筛选，包括以下步骤：

S11：遍历工作流节点，计算节点候选服务集的各项QoS属性均值，根据工作流结构，计算不同节点在工作流中全局可分配约束的权重占比；

S12：根据工作流结构，将全局约束按照节点权重分解为局部约束，并选择符合约束条件的服务实例构成候选服务集合。

在计算不同节点在工作流中全局可分配约束的权重占比时，包括以下步骤：

S111：计算节点t_i的候选服务集的响应时间rt、成本cost、可靠性avl、可用性rel四项QoS属性均值：

其中，k为节点候选服务集的实例数量，Q_r(s_im)表示第i个节点的第m个实例的QoS属性r的值。

S112：分析工作流结构并计算工作流节点QoS均值的合计值，在顺序结构中，成本和响应时间通过节点QoS顺序相加获取，可用性和可靠性通过顺序相乘获取；在并行结构中，响应时间取并行分支中的较大值，其他QoS属性取所有分支之和；在条件结构中，QoS计算方法为每个节点QoS属性值乘以条件概率；在循环结构中，按循环次数将循环结构展开为顺序结构进行计算。其中，累乘属性可以通过对数运算换算为加法属性计算：

其中，Q(CS)为服务组合CS中累乘的QoS属性合计值，Q(S_i)为单个服务的QoS值，因此，四种结构的四种QoS属性都将转化为顺序加法来计算。

S113：根据各节点的QoS属性均值和S112中计算的全局QoS合计值，计算节点t_i在全局工作流中的可分配约束的权重占比W_r-i：

在计算不同节点在工作流中全局可分配约束的权重占比的基础上，选择符合约束条件的服务实例构成候选服务集合时，具体包括以下步骤：

S121：根据S112中工作流转化的顺序相加的结构，将全局约束C_r按照S113中计算的节点权重W_r-i分解为节点的局部约束C_r(t_i)：

C_r(t_i)＝C_r*W_r-i r∈{rel,avl,cost,rt}；

S122：根据S121中节点的局部约束，选择满足节点约束条件的服务实例构成候选服务集实例集合。

Step2：约束分解

该步为工作流执行阶段，即使用效益函数获取工作流中节点的最优候选服务实例，实时监控并获取工作流节点的QoS属性，动态调整工作流节点的QoS约束，具体包括以下步骤：

S21：获取待执行节点的候选服务集实例各QoS属性的最大值和最小值，并对服务实例的QoS属性进行归一化处理，对于响应时间、成本这类越小越好的负面属性，使用最大值减去实例QoS属性进行计算：

对于可靠性、可用性这类越大越好的正面属性，使用实例QoS属性值减去最小值进行计算：

S22：对QoS属性权重初始化，并根据S21中计算的归一化QoS属性值和权重构建服务选择综合效益函数，选取效益最优的服务实例执行：

S23：实时监控节点服务实例执行是否满足QoS局部约束，对于不满足约束条件的服务，获取后继工作流succ(ti)的期望约束和实际剩余约束差值并重新分配后继工作流局部约束。

S24：后继节点根据重新分配的局部约束，重新筛选节点的可用候选服务，并依据节点t_i在局部约束下是否有可用服务，判断后继工作流编排的可行性：

节点可用服务数量＝Fit(t_i|C_rt(t_i),C_cost(t_i),C_avl(t_i),C_rel(t_i))；

当

表示后继节点服务实例已经无法满足约束，工作流终止，如果编排可行就继续执行下一节点。

上述重新分配后继工作流局部约束的过程包括：

S231：依据S22中构建的效益函数，选择待执行节点的效益最优服务执行，并监控服务执行的QoS，若在节点局部约束内完成，就执行下一节点，否则获取后继工作流succ(ti)实际剩余约束Q_r-actual(succ(t_i))：

C_r-actual(succ(t_i))＝C_r-Q_r-actual(t_i)-C_r-actual(pre(t_i))；

其中Q_r-actual(t_i)表示当前执行节点执行的实际QoS属性值，C_r-actual(pre(t_i))表示前继已执行节点的QoS属性合计值。

S232：计算S231中实际剩余约束和原已分配的期望约束的差值diff：

将diff值按S121中的节点权重W_r-i重新分配后继工作流节点的局部约束：

C_r(t_j)＝C_r(t_j)+diff_r(succ(t_i))*W_r-j t_j∈succ(t_i)；

对于负面属性的响应时间和成本，diff值为正时局部约束C_r(t_j)增加，表示其约束上限提高，后继约束需要放宽，为负时则表示后继约束需要紧缩。对于负面属性的可用性和可靠性，diff值为正时表示其约束下限提高，后继约束需要紧缩，为负时表示后继约束需要放宽。

Step3：服务实例QoS调整

如图2中QoS权重调整阶段和图3的QoS调整示意图所示，该步骤为QoS权重调整阶段，即计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重，具体包括以下步骤：

S31：根据后继工作流的实际剩余约束和期望约束在全局约束下的占比差值，计算当前执行状态下，正向、负向QoS属性的约束紧迫度：

约束紧迫度代表当前各QoS属性剩余约束的松紧程度，常量1用于保证约束紧迫度始终为正值便于比较，由于服务QoS的动态性，如果后继工作流约束越紧缩，则满足全局约束条件的可能性越小，紧迫度就越高，约束越宽松则紧迫度越低，满足全局约束条件的可能性越大。

S32：根据S31计算的各项QoS属性的约束紧迫度，表示后继工作流对该QoS属性的选择优先级，约束紧迫度相对越高，则后继节点选择服务实例时，效益函数相应分配的权重越大，在下一步节点服务实例选择前，调整效益函数中各项QoS属性的权重：

S33：根据S32调整后的权重，重新构建效益函数，并选择待执行节点当前效益最优的服务实例执行。

若工作流没有结束，则重复上述步骤Step2～Step3，直到工作流完成或者终止。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (10)

1.一种基于QoS的微服务动态编排方法，其特征在于，具体包括以下步骤：

S1、基于工作流对QoS的全局约束进行分解得到局部约束，选择符合局部约束的服务实例构成候选服务集合；

S2、使用效益函数获取工作流中节点的最优候选服务集合，实时监控并获取工作流节点的QoS属性，动态调整工作流节点的QoS约束；

S3、计算后继工作流QoS属性的约束紧迫度，调整后继工作流的效益函数的权重，后继节点重复S2～S3直到工作流结束；

其中，节点的QoS属性包括响应时间、成本、可靠性以及可用性。

2.根据权利要求1所述的一种基于QoS的微服务动态编排方法，其特征在于，获取任务节点候选服务集的过程包括：

遍历工作流节点，计算节点候选服务集的各项QoS属性的值，根据工作流结构，计算不同节点在工作流中全局可分配约束的权重占比，即其全局约束；

根据工作流结构，将全局约束按照节点权重分解为局部约束，其中响应时间、成本的约束为上限约束，低于约束阈值即为符合条件，可用性和可靠性约束为下限约束，高于约束阈值即为符合条件，选择符合约束条件的服务实例构成候选服务集合，局部约束表示为：

C_r(t_i)＝C_r*W_r-i r∈{rel,avl,cost,rt}；

其中，W_r-i为节点t_i在工作流中全局可分配约束的权重占比，即节点t_i的全局约束；C_r(t_i)为节点t_i的局部约束；C_r为QoS属性r的全局约束。

3.根据权利要求2所述的一种基于QoS的微服务动态编排方法，其特征在于，根据工作流结构计算不同节点在工作流中全局可分配约束的节点权重W_r-i的过程具体包括：

计算节点t_i的候选服务集的响应时间rt、成本cost、可靠性avl、可用性rel四项QoS属性均值；

根据工作流的结构计算工作流节点QoS均值的合计值；

根据各节点的QoS属性均值和工作流节点QoS均值的合计值计算节点t_i在全局工作流中的可分配约束的权重占比。

4.根据权利要求3所述的一种基于QoS的微服务动态编排方法，其特征在于，节点t_i在全局工作流中的可分配约束的权重占比表示为：

其中，W_r-i表示节点t_i在全局工作流中的可分配约束的权重占比；Q_r-mean(t_i)为QoS属性r的均值；n为节点的数量；Q_r(s_im)表示第i个节点的第m个实例的QoS属性r的值；k为节点t_i候选服务集的实例数量。

5.根据权利要求3所述的一种基于QoS的微服务动态编排方法，其特征在于，根据工作流的结构计算工作流节点QoS均值的合计值包括：

在顺序结构中，成本和响应时间通过节点QoS顺序相加获取，可用性和可靠性通过顺序相乘获取；

在并行结构中，响应时间取所有并行分支中的最大值，成本、可靠性、可用性取该分支之和；

在条件结构中，每个节点响应时间、成本、可靠性、可用性值乘以条件概率，条件概率为执行该条件分支的概率占比；

在循环结构中，按循环次数将循环结构展开为顺序结构，并按照顺序结构的计算方式计算展开后的顺序结构之和。

6.根据权利要求1所述的一种基于QoS的微服务动态编排方法，其特征在于，动态调整工作流节点的QoS约束具体包括：

获取待执行节点的候选服务集实例各个QoS属性的最大值和最小值，并对服务实例的QoS属性进行归一化处理；

对QoS属性权重初始化，并根据归一化QoS属性值和权重构建服务选择综合效益函数，选取效益最优的服务实例执行；

判断实时监控节点服务实例执行是否满足QoS局部约束，对于不满足约束条件的服务，获取后继工作流的期望约束和实际剩余约束差值并重新分配后继工作流局部约束；

后继节点根据重新分配的局部约束，重新筛选节点的可用候选服务，并依据节点在局部约束下是否有可用服务，判断后继工作流是否能够进行编排。

7.根据权利要求6所述的一种基于QoS的微服务动态编排方法，其特征在于，重新分配后继工作流局部约束的过程具体包括：

根据效益函数，选择待执行节点的效益最优服务执行，并监控服务执行的QoS属性，若在节点局部约束内完成，就执行下一节点，否则获取后继工作流实际剩余约束；

计算实际剩余约束和原已分配的期望约束的差值diff，diff表示当前实际执行情况下剩余的约束空间与原本规划的后继约束的偏离值，并将diff值按节点权重W_r-i，划分成每个节点的局部约束调整值，用于调整每个后继节点的局部约束，用后继节点的原约束值加上局部约束调整值来表示新的局部约束。

8.根据权利要求7所述的一种基于QoS的微服务动态编排方法，其特征在于，将diff值按节点权重W_r-i，划分为每个节点的局部约束调整值，用于调整后继工作流节点的局部约束，用后继节点的原约束值加上局部约束调整值来表示新的局部约束，新的局部约束表示为：

C_r(t_j)＝C_r(t_j)+diff_r(succ(t_i))*W_r-j t_j∈succ(t_i)；

其中，C_r(t_j)为节点t_j的局部约束；succ(t_i)为节点t_i的后继工作流；diff _r(succ(t_i))为节点t_i后继工作流在QoS属性r上的实际执行结果和期望约束间的差值，C_r-actual(t_i)表示后继工作流succ(t_i)实际剩余约束。

9.根据权利要求1所述的一种基于QoS的微服务动态编排方法，其特征在于，调整后继工作流的效益函数的权重具体包括：

根据后继工作流的实际剩余约束和期望约束在全局约束下的占比差值，计算当前执行状态下，正向、负向QoS属性的约束紧迫度；

根据计算的约束紧迫度计算优先级，约束紧迫度越高，则后继节点选择服务实例时，效益函数相应分配的权重越大，在下一步节点服务实例选择前，调整效益函数中各项QoS属性的权重，即：

计算调整权重之后的效益函数，并选择待执行节点当前效益最优的服务实例执行；

其中，Urgency_r表示属性r的约束紧迫度；属性r包括响应时间rt、成本cost、可靠性rel以及可用性avl。

10.根据权利要求9所述的一种基于QoS的微服务动态编排方法，其特征在于，各个属性的约束紧迫度分别表示为：

其中，C_r为QoS属性r的全局约束；diff _r(succ(t_i))为节点t_i后继工作流在QoS属性r上的实际执行结果和期望约束间的差值；succ(t_i)为节点t_i的后继工作流；n为succ(t_i)的节点数量；C_r-actual(t_i)表示后继工作流succ(t_i)实际剩余约束。

Images