CN115941504B - 一种面向微服务系统运行及治理的建模与仿真方法 - Google Patents

Abstract

一种面向微服务系统运行及治理的建模与仿真方法，所述方法包括如下步骤：步骤S1、微服务系统共性要素建模；步骤S2、微服务系统运行仿真；步骤S3、治理系统与仿真组件的映射和转换；步骤S4、治理手段与仿真事件的映射和转换；步骤S5、微服务及治理系统的运行仿真。本发明对微服务系统运行及治理过程进行仿真，通过仿真分析出微服务系统的运行状态，评估治理方案的治理效果及代价，从而帮助微服务系统治理人员以代价更小的方式做出治理方案的选择或者对治理方案进行调整。

Description

一种面向微服务系统运行及治理的建模与仿真方法

技术领域

本发明属于计算机服务技术领域，涉及一种微服务系统运行及治理的建模与仿真方法、仿真系统，具体涉及一种基于CloudSim的微服务系统运行及治理的建模与仿真方法、微服务系统运行与治理方案评估的仿真系统。

背景技术

近年来，微服务架构的出现逐渐取代了传统的单体架构和SOA架构，成为软件系统的主流设计模式。在微服务系统中，一组具有松散耦合的，完成单一功能的服务相互配合在一起形成服务链支撑用户的请求。在业务需求日新月异的时代，微服务架构支撑业务的敏捷开发和部署。微服务通常部署在容器中，由于容器这种轻量级的虚拟化工具具有较短的启动时间，其具备高度的伸缩特性以应对高度动态的用户需求。Kubernetes(K8S)是为容器服务而生的一个可移植容器的编排管理工具，其搭配微服务，从服务部署，服务监控，应用扩容和故障处理等微服务治理方面，都提供了很好的解决方案。

虽然K8S提供了一套微服务系统治理方案，但其大多集中在容器管理方面，忽略了容器中运行的微服务的业务属性，为应对更多更复杂的治理场景，治理人员不得不开发更具个性化的微服务系统治理方案，上线、运行以观测治理效果。一套微服务系统运行及治理的仿真工具可以让治理人员在治理方案上线之前观测到治理效果以快速调整治理方案，节省时间与资源。与此同时，在云计算与边缘计算中，应用也以微服务的形式部署在高度异构的物理资源上，为了节省计算资源，服务实体的放置，任务的调度等问题是在这一特殊场景下微服务系统的治理问题，大量的治理方案需要被设计、开发、部署。在这种大规模分布式的场景中，事先利用仿真来验证治理方案的有效性是必要的。

目前，以CloudSim系列为主的仿真工具采用离散事件仿真的方法来仿真一个数据中心内部资源分配、虚拟机调度以及任务调度的过程，并得到了广泛的应用。CloudSim以及一系列基于CloudSim的仿真工具都针对一个数据中心内部实体(主机、网络、虚拟机)的行为及任务执行过程进行了仿真，但缺少了对微服务系统的精细仿真，首先现有的仿真工具没有对微服务系统中的一些典型要素进行精细建模，比如微服务之间复杂调用关系的建模、请求转发过程、微服务请求之间的连接响应过程等的建模；其次没有涉及到微服务系统治理的仿真，完整的微服务系统治理包括微服务系统内部数据的收集、分析、治理方案的规划与执行，以及结果分析全过程。

基于以上研究背景可以发现，运用CloudSim离散事件仿真思路再结合K8S对容器管理、服务系统治理的一整套管理方法，能够构建一个更加灵活的具备微服务系统运行特性及容器管理、服务治理特性的仿真系统。

发明内容

为解决背景技术中存在的问题，本发明提供一种面向微服务系统运行及治理的建模与仿真方法、仿真系统。本发明能够支持微服务系统中各个组件以及之间关系的建模，服务调用关系的建模，请求到达分布的建模，微服务系统治理方案的建模，以及包括请求转发和处理过程的服务系统运作规律的动态建模与仿真，最终输出仿真结果以评估治理方案的效果，从而帮助微服务系统治理人员及时调整治理方案。

为了实现上述目的，本发明采取以下技术方案：

一种面向微服务系统运行及治理的建模与仿真方法，包括如下步骤：

步骤S1、微服务系统共性要素建模：

该步骤主要针对仿真工具需要对微服务系统进行精细刻画的需求，提供了微服务系统共性要素建模，对服务结构、部署结构等共性要素进行标准化的描述。这些共性要素分为静态要素与动态要素两类，具体说明如下：

(1)静态要素：指的是用于描述微服务系统静态结构的共性要素，包括服务结构、部署结构和服务器网络拓扑结构。

(2)动态要素：指的是用于描述用户请求及微服务系统运行状态的共性要素，包括资源-服务能力、请求排队、网络路由和用户需求分布。

步骤S2、微服务系统运行仿真：

通过步骤S1对微服务系统共性要素建模所得到的微服务系统共性要素模型，在仿真工具中构建出目前微服务系统，并模拟其运行，再通过收集运行过程中得到的数据，分析微服系统运行状态，具体步骤如下：

(1)通过分析微服务系统的静态要素，模拟微服务的部署环境，即服务器集群结构；再分析其服务结构与部署结构，模拟整个微服务系统在部署环境下的真实结构。

(2)通过分析微服务系统的动态要素，根据用户需求模型模拟出持续的用户请求；并通过分析微服务系统中的动态要素，将微服务系统运行过程中的关键流程拆分为一系列离散事件，通过离散事件仿真模拟出运行的过程。

(3)统计整个仿真过程中所有模拟请求的响应时间与成功率以及服务实例的资源消耗。

步骤S3、治理系统与仿真组件的映射和转换：

对于某个用于治理微服务系统的治理系统，它的主要功能有监控微服务系统运行指标、分析微服务系统运行状态、生成治理方案与执行治理方案，这四个功能分别对应于治理系统中的四大类治理组件，即监控器、分析器、规划器与执行器。为了仿真一个治理过程，除了对微服务系统运行进行模拟外，还需要模拟治理系统的行为。具体步骤如下：

(1)对于监控器，它需要定时向各个服务实例发送请求，获取它们的运行状态，并对数据进行统计处理，后续交由分析器进行状态分析。

(2)对于分析器，它会定期收到来自监控器所得到的数据，并对其分析，得到微服务系统运行状态的变化情况，判断是否需要对微服务系统进行治理。

(3)对于规划器，当它收到来自分析器的指令后，会根据整个微服务系统的模型信息以及运行状态，生成相应的治理方案，一个治理方案为一种或多种治理手段的集合。

(4)对于执行器，当它收到来自规划器所生成的治理手段的执行指令后，需要自动化执行治理手段。

步骤S4、治理手段与仿真事件的映射和转换：

针对现有对于微服务系统的治理手段，需要将其映射为相关的一系列仿真事件，通过模拟这些事件来达到仿真治理手段执行过程的目的，并通过分析执行前后微服务系统性能的变化以及治理手段执行过程的消耗，对治理手段进行评估。

步骤S5、微服务系统及治理系统的运行仿真：

将S1到S4中所设计的微服务系统及治理系统仿真实例运行以观测仿真结果。

一种面向微服务系统运行及治理的仿真系统，包括微服务系统中静态要素建模模块、微服务系统中动态要素建模模块、微服务治理系统建模模块和用户请求模拟模块；其中：

所述微服务系统中静态要素建模模块负责整个微服务系统中服务调用关系、微服务系统部署及运行环境的建模，包括服务结构建模、部署结构建模和服务器网络拓扑结构建模；

所述微服务系统中动态要素建模模块负责整个微服务系统运作机理的建模，包括资源-服务能力建模、请求排队建模、网络通信建模、请求转发建模与任务执行过程建模；所述网络通信建模用来描述服务器之间的路由关系；所述请求转发建模是为了规定消费者服务向生产者服务发送的请求将由哪个或哪组生产者服务实例处理，其是微服务治理系统与微服务系统的接口，既是微服务治理系统中的执行器，又影响微服务系统的运作；所述任务执行过程建模是为了描述任务在微服务系统服务资源上的执行过程，包括网络资源上的数据传输过程与服务实例资源上的请求处理过程；

所述微服务治理系统建模模块包括微服务治理系统中监控器、分析器、规划器、执行器四大类组件及其结构建模，负责监控微服务系统运行状态、分析、规划、执行治理手段，并观测治理效果；

所述用户请求模拟模块负责模拟微服务系统中不同类型的用户请求的到达情况，包括用户需求建模。

所述微服务系统中静态要素建模模块与动态要素建模模块为整个微服务系统运行仿真的基础，所述微服务治理系统建模模块通过控制与调整微服务系统中动态要素建模模块改变微服务系统运行状态，所述用户请求模拟模块是影响整个微服务系统运行状态的外部因素。

相比于现有技术，本发明具有如下优点：

1、本发明能够支撑对微服务系统共性要素的建模，通过将微服务系统中的共性要素组件建模为对应的实体来模拟整个微服务系统的运作过程。其中，每个组件的运作机理均以可配置的方式进行动态替换，以满足仿真用户对异构的微服务系统的搭建需求。

2、本发明提供了具有复杂调用关系的微服务调用链的建模与仿真。每个端用户请求在微服务系统中的执行生命周期由多个微服务共同决定，实现了一个微服务系统内部微服务之间请求的转发、响应与处理全过程的仿真。支撑多种服务调用或组合结构的仿真，不再局限于链式或顺序结构。

3、本发明提供了微服务治理系统的设计、建模与仿真方法，将微服务系统与其治理系统进一步解耦，抽象出治理系统的四大要素：治理组件(监控器、分析器、规划器、执行器)、信息流、指令流以及治理结构，将其分别与仿真工具中的实体映射，以支持仿真用户对微服务治理系统灵活的配置需求，并能够不断反馈治理效果。

4、本发明支持云边环境下微服务系统及治理系统的建模与仿真。通过对高度分布式且资源异构的云边环境下的微服务系统及治理系统的建模与仿真来替代大规模的微服务系统运行以提供治理方案设计与验证的实验平台对于解决云边服务器以及边缘服务器之间协同工作要求所导致的一系列微服务系统治理问题：如服务放置、任务调度、流量分发等具有重要意义。

5、本发明通过对治理手段与仿真事件进行映射，将治理手段的执行转化为离散事件处理，以此在仿真的过程中模拟治理手段的执行过程，并收集执行过程中各指标数据，用以反映治理手段执行代价，对治理手段的评估更加细致。

附图说明

图1为面向微服务系统运行及治理的建模与仿真方法流程图；

图2为微服务系统共性要素模型图；

图3为仿真工具结构图；

图4为请求处理流程图；

图5为治理系统数据流图。

具体实施方式

下面结合附图对本发明的技术方案作进一步的说明，但并不局限于此，凡是对本发明技术方案进行修改或者等同替换，而不脱离本发明技术方案的精神和范围，均应涵盖在本发明的保护范围中。

本发明提供一种面向微服务系统运行及治理的建模与仿真方法，如图1所示，所述方法包括以下几个步骤：

步骤S1、微服务系统共性要素建模。

首先针对微服务系统的一些关键要素进行建模，以便于后续仿真工具模拟微服务系统的结构与运行。基本的模型包括：

(1)服务结构模型：用来描述各个服务相关信息，包括服务名称，服务所包含的所有接口，对应的请求路径，接口传入传出的数据量的大小，处理请求所需要的资源和接口依赖关系。

(2)部署结构模型：用来描述各个服务实例的部署信息，包括实例的部署位置和实例所分配的资源。

(3)服务器网络拓扑模型：用来描述服务器之间，以及集群之间的网络拓扑结构，包括网络连接的带宽与延迟。

(4)请求排队模型：用来描述服务实例处理请求的工作原理，基于排队模型，每个请求被视作一个被处理的对象，服务内的线程视为服务台，计算各个请求的排队时间和处理时间。

(5)路由模型：用来描述服务器之间的路由关系。

(6)用户需求模型：用来描述用户需求的分布情况以及请求发送的分布情况。

(7)资源-服务能力模型：用来描述不同资源分配情况下，服务实例对于用户请求的处理能力，即处理单个请求所需要花费的时间与资源。

(8)流量调控模型：用来描述入口处网关对用户请求流量的控制策略。

(9)负载均衡模型：描述各个服务实例之间相互请求时的负载均衡策略。

(10)请求转发模型：用来描述服务之间的请求转发策略，具体涉及到集群之间协同情况的制定。

需要说明的是，这些模型在仿真系统中都与相应的实体(Entity)或接口(Interface)对应，以便仿真用户进行动态配置。

步骤S2、微服务系统运行仿真

本步骤根据步骤S1对微服务系统共性要素建模所得到的微服务系统共性要素模型，再加上离散仿真事件，仿真出请求在微服务系统中的处理流程。当模拟的用户请求到达部署在某一集群上的入口网关时，网关会进行流量控制，对于进入系统的请求，其负责根据负载均衡、请求转发规则将请求转发到某一服务实例上去，并生成一个任务实例，服务实例实体会根据资源-服务能力模型预估出任务完成或需要请求生产者服务实例或需要接收来自生产者服务实例数据的时间，根据延迟消息发送，产生任务执行更新事件，以推进仿真过程。最终，执行结果会返回给入口网关，至此一个用户请求在服务系统中的生命周期结束，系统会返还仿真结果。整体过程如图4所示。

为了统筹所有事件的执行，需要将事件进行简单分类并分发给不同的模块处理，具体如图3所示，其中，服务集群模块中管理着一系列服务器与服务实例，主要负责处理集群内的所有事件，包括请求到达、请求处理、请求转发和集群内服务实例的调整；中央控制模块作为整个仿真工具的中控，它负责接收全局事件，包括用户请求模拟，治理事件(监控事件、分析事件、规划事件和执行事件)，并向对应服务集群模块分发事件。

在此过程中，每个能引起微服务系统运行状态变化的动作都对应一个仿真事件，例如请求到达事件、请求处理完成事件、请求发送完成事件、请求超时事件等。同时，通过记录过程中各个请求的处理时间、完成状态以及各个实例的资源使用量，可以分析出仿真过程中微服务系统的状态变化。

需要说明的是，微服务系统内部由消费者服务向生产者服务发送的请求可以被转发到同一集群的某个生产者服务实例上去，也可以根据微服务系统开发人员设定的集群协同规则，被转发到不同集群上去。具体应用场景涉及到云边协同以及边缘集群协同。

步骤S3、治理系统与仿真组件的映射和转换。

本步骤在S1和S2的基础上，增加了微服务治理所需的一系列仿真组件以及仿真事件。治理仿真监控组件收集微服务系统运行仿真过程中记录的各个组件、任务的状态数据，并定期将数据传输给分析组件进行分析，若需要对微服务系统进行治理，那么则通过规划组件规划出治理手段，交由执行器执行。每个治理组件都以服务实例的形式存在于整个微服务系统中，治理组件之间的通信以请求/响应的形式进行，占用整个微服务系统计算及网络资源。

需要说明的是，治理组件的功能、数量、部署位置、治理组件之间的通信关系等在整个仿真系统中都可以由仿真工具用户灵活配置。这些仿真组件及其之间的通信关系共同构成一个完整的治理系统。

步骤S4、治理手段与仿真事件的映射和转换。

本步骤在S1、S2、S3的基础上，进一步明确在仿真工具中治理系统与微服务系统的联系。治理系统的目的是为了规划出一组原子的可执行的动作来改变微服务系统运行的状态，这组动作的集合称为治理方案、单个原子动作称为治理手段。在仿真系统中，治理手段通过与微服务系统运行过程中的一系列仿真事件映射来达到改变微服务系统仿真运行状态的目的，包括但不限于：

(1)增加或删除服务实例：此类治理手段通过产生实例部署事件、实例删除事件来改变整个仿真系统状态。需要说明的是，这两类事件下面还对应一系列仿真事件，比如监控、更新服务实例运行状态等事件。

(2)限流、负载均衡、请求转发：此类治理手段通过产生删除旧功能实例、部署新的功能实例事件来达成。与上述实例部署事件、实例删除事件不同的是，这里的两类事件需要考虑实例的功能属性。而上述的两类事件只需要考虑实例的资源属性。

需要说明的是，这里所指的治理手段只是原子操作，其互不包含，互相不能被取代。服务放置、流量分发等均可分解为一组治理手段的集合。

步骤S5、微服务及治理系统的运行仿真。

本步骤主要在上述S1到S4的设计完成之后对整个微服务系统及其治理系统的仿真运行进行自动化实施。统筹微服务系统各个要素、治理系统各个组件以及用户请求模拟等模块的仿真，使其相互配合完成服务系统运行状态的反馈以及治理系统运行效果的反馈。最终反馈结果交由仿真工具使用人员进行个性化分析。

需要说明的是，微服务系统运行仿真与微服务治理系统运行的仿真是松耦合关系，没有治理系统，此仿真工具仍然能模拟出微服务系统在不同用户请求情况下的运行特征。

此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

Claims (4)

1.一种面向微服务系统运行及治理的建模与仿真方法，其特征在于，所述方法包括如下步骤：

步骤S1、微服务系统共性要素建模：

所述共性要素包括静态要素和动态要素，所述静态要素指用于描述微服务系统静态结构的共性要素；所述动态要素指用于描述用户请求及微服务系统运行状态的共性要素；

所述静态要素包括服务结构、部署结构和服务器网络拓扑结构，所述动态要素包括资源-服务能力、请求排队、网络路由和用户需求分布，对静态要素建模所得的模型分别为服务结构模型、部署结构模型和服务器网络拓扑结构模型；对动态要素建模所得的模型分别为资源-服务能力模型、请求排队模型、路由模型和用户需求模型；其中，

（1）服务结构模型：用来描述各个服务相关信息，包括服务名称，服务所包含的所有接口，对应的请求路径，接口传入传出数据量的大小，处理请求所需要的资源和接口依赖关系；

（2）部署结构模型：用来描述各个服务实例的部署信息，包括实例的部署位置和实例所分配的资源；

（3）服务器网络拓扑结构模型：用来描述服务器之间以及集群之间的网络拓扑结构，包括网络连接的带宽与延迟；

（4）请求排队模型：用来描述服务实例处理请求的工作原理，基于请求排队模型，每个请求被视作一个被处理的对象，服务内的线程视为服务台，计算各个请求的排队时间和处理时间；

（5）路由模型：用来描述服务器之间的路由关系；

（6）用户需求模型：用来描述用户需求的分布情况以及请求发送的分布情况；

（7）资源-服务能力模型：用来描述不同资源分配情况下，服务实例对于用户请求的处理能力，即处理单个请求所需要花费的时间与资源；

步骤S2、微服务系统运行仿真：

通过步骤S1微服务系统共性要素建模得到的微服务系统共性要素模型，在仿真工具中构建出目前微服务系统的完整结构，将微服务系统运行的关键流程拆分为一系列离散事件，通过离散事件仿真模拟其运行过程，最后收集运行过程中得到的性能数据，分析微服系统运行状态；

具体步骤如下：（1）通过分析微服务系统的静态要素，模拟微服务的部署环境，即服务器集群结构；再分析其服务结构与部署结构，模拟整个微服务系统在部署环境下的真实结构；

（2）通过分析微服务系统的动态要素，根据用户需求模型模拟出持续的用户请求；并通过分析微服务系统中的动态要素，将微服务系统运行过程中的关键流程拆分为一系列离散事件，通过离散事件仿真模拟出运行的过程；

（3）统计整个仿真过程中所有模拟请求的响应时间与成功率以及服务实例的资源消耗；

步骤S3、治理系统与仿真组件的映射和转换：

治理系统的功能有监控微服务系统运行指标、分析微服务系统运行状态、生成治理方案与执行治理方案，这四个功能分别对应于治理系统中的四大类治理组件，即监控器、分析器、规划器与执行器；治理过程的仿真需要模拟治理系统的行为，所以需要将治理系统的各个治理组件映射为仿真组件，以对治理系统进行仿真；

步骤S4、治理手段与仿真事件的映射和转换：

将治理手段映射为相关的一系列仿真事件，通过事件处理来达到仿真治理手段执行过程的目的，并通过分析执行前后微服务系统性能的变化以及治理手段执行过程的消耗，对治理手段进行评估；

所述治理手段包括：

（1）增加或删除服务实例：通过产生实例部署事件或实例删除事件来达成；

（2）限流、负载均衡和请求转发：通过产生删除旧功能实例、部署新功能实例事件来达成；

步骤S5、微服务系统及治理系统的运行仿真：

将S1到S4中所设计的微服务系统及治理系统仿真实例运行以观测仿真结果。

2.根据权利要求1所述的面向微服务系统运行及治理的建模与仿真方法，其特征在于，所述步骤S3的具体步骤如下：

（1）分析治理系统的内部结构，按照功能将其分为四大组件，即监控器、分析器、规划器和执行器，并为其设计对应的仿真组件；

（2）分析各个治理组件内部的执行逻辑以及关联关系，为其设计对应的仿真事件用于模拟各个组件的运行以及组件间的相互调用。

3.根据权利要求1或2所述的面向微服务系统运行及治理的建模与仿真方法，其特征在于：

（1）对于所述监控器，它需要定时向各个服务实例发送请求，获取它们的运行状态，并对数据进行统计处理，后续交由分析器进行状态分析；

（2）对于所述分析器，它会定期收到来自监控器所得到的数据，并对其分析，得到微服务系统运行状态的变化情况，判断是否需要对微服务系统进行治理；

（3）对于所述规划器，当它收到来自分析器的指令后，会根据整个微服务系统的模型信息以及运行状态，生成相应的治理方案，一个治理方案包含一种或多种不同的治理手段；

（4）对于所述执行器，当它收到来自规划器所生成的治理手段的执行指令后，需要自动化执行治理手段。

4.一种实现权利要求1-3任一权利要求所述的面向微服务系统运行及治理的建模与仿真方法的仿真系统，其特征在于：所述仿真系统包括包括微服务系统中静态要素建模模块、微服务系统中动态要素建模模块、微服务治理系统建模模块和用户请求模拟模块；

所述微服务系统中静态要素建模模块负责整个微服务系统中服务调用关系、微服务系统部署及运行环境的建模，包括服务结构建模、部署结构建模和服务器网络拓扑结构建模；

所述微服务系统中动态要素建模模块负责整个微服务系统运作机理的建模，包括资源-服务能力建模、请求排队建模、网络通信建模、请求转发建模与任务执行过程建模；

所述微服务治理系统建模模块包括微服务治理系统中监控器、分析器、规划器、执行器四大类组件及其结构建模，负责监控微服务系统运行状态、分析、规划、执行治理手段，并观测治理效果；

所述用户请求模拟模块负责模拟微服务系统中不同类型的用户请求的到达情况，包括用户需求建模。