CN114896025A - 服务网格的架构优化方法、装置、计算机设备和存储介质 - Google Patents

Abstract

本申请提供一种服务网格的架构优化方法、装置、计算机设备和存储介质，通过将不同类型的代理组件分别部署在不同的节点上，并获取基础配置参数，基于基础配置参数部署服务网格，对服务网格进行压力测试，得到服务网格的数据查询率，并获取压力测试过程中服务网格中代理组件的节点性能指标信息；基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。通过基础配置参数部署服务网格，进而对服务网格进行压力测试以获取服务网格中数据查询率以及代理组件的节点性能指标信息，进而基于数据查询率以及节点性能指标信息对服务网格的网络架构进行调整，以实现在尽可能少的硬件结构以达到应用设计的性能目标。

Description

服务网格的架构优化方法、装置、计算机设备和存储介质

技术领域

本申请涉云计算技术领域，具体涉及一种服务网格的架构优化方法、装置、计算机设备和计算机可读存储介质(简称存储介质)。

背景技术

随着信息技术的广泛应用和快速发展，云计算作为提供了诸如虚拟化、可快速部署、可动态扩展、可靠性强等特性，越来越多的企业选择使用云计算技术，特别是Kubernetes结合Istio技术的云网络架构。但是Kubernetes结合Istio技术的网络架构复杂，不同的软件配置以及硬件资源均对网络性能均具有影响，如何在尽可能少的硬件结构以达到应用设计的性能目标是亟需解决的问题。

发明内容

基于此，有必要针对上述技术问题，提供一种服务网格的架构优化方法、装置、计算机设备以及存储介质。

第一方面，本申请提供一种服务网格的架构优化方法，应用于服务网格，服务网格包括至少两类代理组件，不同类型的代理组件分别部署在不同的节点上；该方法包括：

获取基础配置参数，基于基础配置参数部署服务网格；

对服务网格进行压力测试，得到服务网格的数据查询率；

获取压力测试过程中服务网格中代理组件的节点性能指标信息；

基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

在本申请一些实施例中，基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数，包括：

获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；

若数据查询率小于基准查询率，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率，包括：

获取服务网格中各代理组件的组件类型；

将各组件类型对应的节点性能指标信息和基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；

对目标组件类型对应的目标代理组件的节点参数进行调整，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；

对目标组件类型对应的目标代理组件的节点参数进行调整，包括：

以预设增长步长，增加目标组件类型对应的目标代理组件的节点数量或容器组数量。

在本申请一些实施例中，获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息，包括：

获取服务网格中代理组件的节点参数；

根据节点参数查询预设基准参数数据表，获得服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；

其中，预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及基础服务网格中代理组件的性能指标信息。

在本申请一些实施例中，获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息，包括：

基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格；

对基准服务网格进行压力测试，得到基准查询率，以及服务网格中代理组件对应的基准性能指标信息。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；

基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格，包括：

将各类代理组件依次确定为目标代理组件；

增加服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加服务网格中目标代理组件的节点数量，得到基准服务网格。

在本申请一些实施例中，服务网格中的代理组件包括入口网关代理组件、出口网关代理组件以及服务代理组件。

在本申请一些实施例中，节点性能指标信息至少包括中央处理器资源消耗量以及响应时延。

第二方面，本申请提供一种服务网格的架构优化装置，应用于服务网格，服务网格包括至少两类代理组件，不同类型的代理组件分别部署在不同的节点上；该装置包括：

环境部署模块，用于获取基础配置参数，基于基础配置参数部署服务网格；

压力测试模块，用于对服务网格进行压力测试，得到服务网格的数据查询率；

性能指标获取模块，用于获取压力测试过程中服务网格中代理组件的节点性能指标信息；

服务网格调整模块，用于基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

第三方面，本申请还提供一种服务器，服务器包括：

一个或多个处理器；

存储器；以及

一个或多个应用程序，其中一个或多个应用程序被存储于存储器中，并配置为由处理器执行以实现服务网格的架构优化方法。

第四方面，本申请还提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器进行加载，以执行服务网格的架构优化方法中的步骤。

第五方面，本申请实施例提供一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述第一方面提供的方法。

上述服务网格的架构优化方法、装置、计算机设备以及存储介质，通过将不同类型的代理组件分别部署在不同的节点上，并获取基础配置参数，基于基础配置参数部署服务网格，对服务网格进行压力测试，得到服务网格的数据查询率，并获取压力测试过程中服务网格中代理组件的节点性能指标信息；基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。通过将不同类型的代理组件分别部署在不同的节点实现不同代理组件在物理资源上的隔离，在后续对服务网格进行压力测试时，基于获得的服务网格中数据查询率以及代理组件的节点性能指标信息能准确反映服务网格在一定的硬件结构上的性能数据，对后续服务网格的网络架构的调整提供准确的信息，在应用设计的性能目标前提下可实现在尽可能少的硬件结构达到性能目标。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1A是本申请实施例中服务网格的架构优化方法的场景示意图；

图1B是本申请实施例中另一个服务网格的架构优化方法的场景示意图；

图2是本申请实施例中服务网格的架构优化方法的流程示意图；

图3是本申请实施例中调整所述服务网格中代理组件的节点参数步骤的流程示意图；

图4是本申请实施例中服务网格的架构优化装置的结构示意图；

图5是本申请实施例中计算机设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

在本申请的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本申请的描述中，“例如”一词用来表示“用作例子、例证或说明”。本申请中被描述为“例如”的任何实施例不一定被解释为比其它实施例更优选或更具优势。为了使本领域任何技术人员能够实现和使用本发明，给出了以下描述。在以下描述中，为了解释的目的而列出了细节。应当明白的是，本领域普通技术人员可以认识到，在不使用这些特定细节的情况下也可以实现本发明。在其它实例中，不会对公知的结构和过程进行详细阐述，以避免不必要的细节使本发明的描述变得晦涩。因此，本发明并非旨在限于所示的实施例，而是与符合本申请所公开的原理和特征的最广范围相一致。

对本申请实施例进行进一步详细说明之前，对本申请实施例中涉及的名词和术语进行说明，本申请实施例中涉及的名词和术语适用于如下的解释。

Kubernetes(简称k8s)：一种容器编排引擎，支持自动化部署、大规模可伸缩、应用容器化管理，是常见的云计算框架。

节点：基于Kubernetes技术的云计算系统中最小的计算硬件单元，可以是云计算系统中单个物理机，也可以是云计算系统中单个虚拟机。

容器：待运行的应用程序/服务被打包成容器，Kubernetes技术中不直接运行容器，而是将一个或多个容器封装到一个称为Pod的结构中。

POD：基于Kubernetes技术的云计算系统的基础单元，是运行容器化应用的资源对象，POD部署在一个节点上。

服务网格(Service Mesh)：是处理服务间通信的基础设施层。它负责构成现代云原生应用程序的复杂服务拓扑来可靠地交付请求。在实践中，Service Mesh通常以轻量级网络代理阵列的形式实现，这些代理与应用程序代码部署在一起，对应用程序来说无需感知代理的存在。

Istio：一种服务网格治理框架之一，提供了网络管理功能，如流量控制、服务发现、七层路由、网络熔断和遥测记录等功能。

在云计算/服务平台上，单体应用程序往往拆分为较小的应用程序，并基于Docker容器化技术和诸如Kubernetes等容器化编排框架部署到云计算/服务平台上。此外，为了更好地在基于k8s的云计算/服务平台上部署大规模的服务，往往使用服务网格(一组网络代理)进行服务到服务间的通信控制，以实现流量管理、安全管理等功能。其中，服务网格可以通过Istio技术实现，服务网格包括服务代理组件以及网关代理组件，其中，服务代理组件以及网关代理组件可基于istio envoy组件实现。具体地，服务代理组件部署有边车网关以及提供反向代理服务，其中，边车网关用于控制服务网格中非业务相关的功能(比如日志、监控等)，在本申请实施例中，反向代理服务可以基于Nginx实现；网关代理组件包括入口网关代理组件以及出口网关代理组件，用于管理入站流量和出站流量。

在本申请实施例中，本申请实施例提供的服务网格的架构优化方法，可以应用于如图1A或图1B所示的服务网格中。如图1A所示的服务网格包括3类代理组件，具体为：使用1个节点运行入口网关(即入口网关代理组件201)，1个节点运行出口网关(即出口网关代理组件203)，1个节点运行边车网关以及nginx代理服务(即服务代理组件202)；如图1B所示的服务网格包括2类代理组件，具体为：使用1个节点运行入口网关(即入口网关代理组件201)，1个节点运行边车网关以及nginx代理服务(即服务代理组件202)。对服务网格进行压力测试，具体可以是通过压测客户机100向服务网格发送服务请求，服务请求经过服务网格转发至外部服务器300中，以接收外部服务器300返回的请求结果，其中，外部服务器300可以基于nginx代理服务架构的。

本领域技术人员可以理解，图1A或图1B中示出的应用环境，仅仅是与本申请方案一种应用场景，并不构成对本申请方案应用场景的限定，其他的应用环境还可以包括比图1中所示更多或更少的计算机设备，例如图1中仅示出1个服务器200，可以理解的，该服务网格的架构优化系统还可以包括一个或多个其他服务器，具体此处不作限定。

还需说明的是，图1A或图1B所示服务网格的架构优化系统的场景示意图仅仅是一个示例，本发明实施例描述的服务网格的架构优化系统以及场景是为了更加清楚的说明本发明实施例的技术方案，并不构成对于本发明实施例提供的技术方案的限定，本领域普通技术人员可知，随着服务网格的架构优化系统的演变和新业务场景的出现，本发明实施例提供的技术方案对于类似的技术问题，同样适用。

参阅图2，本申请实施例提供了一种服务网格的架构优化方法，主要以该方法应用于上述图1A来举例说明，该方法包括步骤S210至S240，具体如下：

S210，获取基础配置参数，基于基础配置参数部署服务网格。

具体地，基础配置参数包括网络连接配置参数、网格组件部署信息以及网格网络配置参数。

其中，网络连接配置参数包括但不限于连接复用参数、端口范围参数、哈希表条目信息、可连接客户端数量、文件句柄长度等。

例如，网络连接配置参数中，连接复用参数可以是服务网格中各个代理组件的tcp_tw_reused参数，通过调整tcp_tw_reused参数以保证time_wait状态的端口可以复用；端口范围参数可以是tcp_local_port_range参数，通过调整tcp_local_port_range参数以调整用于接收服务请求的端口的数量；哈希表条目信息可以是conntrack_bucket参数，通过调整conntrack_bucket参数以保证哈希表条目的数量；可连接客户端数量可以是sync_backlog参数，通过调整sync_backlog参数以调整队列长度。可以理解的是，通过调整各个网络连接配置参数，使得服务网格中的网络连接性能最大，减少由于网络连接性能对后续服务网格性能测试的影响。

其中，网格组件部署信息包括服务网格所需要部署的组件，如针对部署有代理组件的物理机的性能指标数据的性能指标采集组件、以及针对代理组件的运行日志的日志采集组件。

例如，可部署Node-exporter组件、Grafana组件以及Prometheus组件，以实现对物理机的性能指标数据的采集、存储以及可视化展示，可部署Elasticsearch组件，Filebeat组件以及Kibana组件，以实现对服务网格中各代理组件的运行日志的采集、存储以及可视化展示。

其中，网格网络配置参数包括但不限于服务网格的集群网络模式以及网络协议类型。其中，网络协议类型用于调整服务网格的代理协议，例如HTTP协议、TCP协议等；集群网络模式用于调整服务网格的网关架构，例如Passtrough模式、IP白名单放通模式、Registry_only模式等。

S220，对服务网格进行压力测试，得到服务网格的数据查询率。

其中，数据查询率是指服务网格在规定时间内所处理流量的最大值，即响应请求数，具体可以是采用每秒查询率(Query Per Second，QPS)进行表示。

对服务网格进行压力测试，具体可以是通过压测客户机向服务网格发送服务请求，并通过获取服务网格的响应状况获取服务网格的数据查询率；具体地，可以先后对服务网格进行多次压力测试，取每次压力测试得到的每秒查询率的平均值作为该服务网格的数据查询率。

S230，获取压力测试过程中服务网格中代理组件的节点性能指标信息。

其中，性能指标信息是指部署代理组件的宿主机的性能指标信息，如宿主机的资源消耗量以及软中断率、不同代理组件间的传输耗时、服务网格的总资源损耗量等等。在一个实施例中，性能指标信息至少包括中央处理器(Central Processing Unit，CPU)资源消耗量以及响应时延。

其中，如上，在进行压力测试前，可以先部署如性能指标采集组件、日志采集组件等数据采集组件；在对服务网格进行压力测试的过程中，可以通过预先部署的数据采集组件实现代理组件所在的宿主机的性能指标信息以及运行日志的采集；然后，基于性能指标的相关数据以及运行日志计算得到服务网格中各类代理组件的节点性能指标信息。

具体地，不同代理组件的响应时延用于反应服务请求中在服务网格不同代理组件中的传输耗时。以服务网格包括入口网关代理组件、出口网关代理组件以及服务代理组件为例，在该服务网格中，一次服务请求的全链路如下：入口网关代理组件接收服务请求，并将服务请求转发至服务代理组件，服务代理组件接收到服务请求后，将服务请求转发至出口网关代理，通过出口网关代理将服务请求发送至外部服务器中，由外部服务器响应服务请求；因此，在服务网格中涉及多个传输环节，包括入口网关代理组件到服务代理组件的环节1、服务代理组件到出口网关代理组件的环节2、出口网关代理组件到外部服务器的环节3，在各个响应环节中均存在传输耗时导致响应时延，该响应时延是影响服务网格数据查询率的重要因素。

针对性能指标信息中的响应时延，获取压力测试过程中服务网格中代理组件的响应时延，具体可以包括：采集代理组件的运行日志；根据运行日志中的请求持续时长计算代理组件的响应时延。其中，以Envoy作为代理组件的部署实例，请求持续时长具体可以是从运行日志中的Duration字段中获取；以Nginx作为代理组件的部署实例，请求持续时长具体可以是从运行日志中的Responstime字段获取。

S240，基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

其中，代理组件的节点参数包括代理组件的容器组数量以及代理组件的节点数量，代理组件的容器组数量是指用于在同一节点上部署某一类代理组件的POD数量，代理组件的节点数量是指用于部署某一类代理组件的节点的数量。

在获取到服务网格的数据查询率以及代理组件的节点性能指标信息后，可以对服务网格中的代理组件的节点参数进行调整，以优化服务网格的网络架构，在预设的性能目标下，可得服务网格在尽可能少的资源损耗的情况下，达到性能目标对应的数据查询率。

在一个实施例中，如图3所示，步骤S240基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数，包括：

S310，获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息。

其中，基准查询率以及基准性能指标信息分别指数据查询率以及节点性能指标信息的对比基准，具体可以是当前的服务网格对应的基准服务网格的数据查询率以及基准服务网格中各代理组件的性能指标信息。需要说明的是，基准服务网格是指在其中一类代理组件上，与当前的服务网格中对应代理组件的节点参数不同，而在其他代理组件上，与当前的服务网格中对应代理组件的节点参数相同的服务网格。

具体地，在一个实施例中，获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息，可以包括：获取服务网格中代理组件的节点参数；根据节点参数查询预设基准参数数据表，获得服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；其中，预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及基础服务网格中代理组件的性能指标信息。

其中，可以预先构建不同网络架构的基础服务网格，并对预先构建的基础服务网格进行压力测试以获取对应的数据查询率以及代理组件的性能指标信息，进而基于基础服务网格中代理组件的节点参数、基础服务网格的数据查询率以及基础服务网格中代理组件的性能指标信息构建基准参数数据表。在确定当前的服务网格后，可基于服务网格中代理组件的节点参数，从基础服务网格中确定节点参数与当前服务网格的代理组件的节点参数间的差异最小的基础服务网格作为基准服务网格，并将基准服务网格的数据查询率以及代理组件的性能指标信息，确定为基准查询率以及基准性能指标信息。

例如，当前的服务网格的代理组件包括入口网关代理组件以及服务代理组件，在获取到入口网关代理组件的节点参数以及服务代理组件的节点参数后，可以在基准参数数据表中，查找入口网关代理组件的节点参数差异最小、而服务代理组件的节点参数相同的基础服务网格，并将查找到的基础服务网格的数据查询率以及性能指标信息作为当前的服务网格对应的基准查询率以及基准性能指标信息。

进一步地，在一个实施例中，获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息，还可以包括：基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格；对基准服务网格进行压力测试，得到基准查询率，以及服务网格中代理组件对应的基准性能指标信息。

其中，在确定当前的服务网格后，可以获取基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格。例如，当前的服务网格的代理组件包括入口网关代理组件、服务代理组件以及出口网关代理组件，在获取到入口网关代理组件的节点参数、服务代理组件的节点参数以及出口网关代理组件的节点参数后，可以保持服务代理组件的节点参数以及出口网关代理组件的节点参数不变，增加入口网关代理组件的节点参数，以构建服务网格对应的基准服务网格。

进一步地，如上，节点参数包括节点数量以及容器组数量；基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格，具体可以包括将各类代理组件依次确定为目标代理组件；增加服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加服务网格中目标代理组件的节点数量，得到基准服务网格。

由于将不同的代理组件部署在不同的节点上的，因此，不同的代理组件的物理资源是各自独立的，通过增加服务网格中的目标代理组件的节点数量，得到基准服务网格，便于后续分析在服务网格中哪一个代理组件的物理资源限制了服务网格的数据查询率。而通过增加不同的代理组件中软件配置中容器组数量，以提高对服务请求的处理数量以及对物理资源的利用率，便于后续分析在服务网格中哪一个代理组件的软件配置限制了服务网格的数据查询率。

通过调整单个代理组件的单个节点参数，便于后续分析在服务网格中哪一个环节的物理资源或软件资源增加能够大幅度提高数据查询率，进而确定当前的服务网格产生瓶颈的代理组件，便于后续对网络架构的调整。

S320，若数据查询率小于基准查询率，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率。

其中，目标查询率是服务网格的所设计的性能目标。当数据查询率小于基准查询率，表示服务网格相较于基准服务网格中代理组件存在物理瓶颈或软件配置瓶颈，因此可以根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率，使得服务网格的数据查询率达到预设的目标查询率。

具体地，在一个实施例中，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率，包括：获取服务网格中各代理组件的组件类型；将各组件类型对应的节点性能指标信息和基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；对目标组件类型对应的目标代理组件的节点参数进行调整，直至服务网格的数据查询率大于预设的目标查询率。

例如，当前的服务网格包括1个入口网关代理组件、1个服务代理组件以及1个出口网关组件，服务代理组件运行10个POD；基准服务网格包括1个入口网关代理组件、2个服务代理组件以及1个出口网关组件，2个服务代理组件运行10个POD。其中，当前的服务网格相较于基准服务网格，入口网关代理组件对应的性能指标信息中，中央处理器资源消耗量无变化，出口网关组件的性能指标信息中的中央处理器资源消耗量增加，服务代理组件的性能指标信息中中央处理器资源消耗量降低，中间代理环节整体的响应延时明显增高，则可以确定瓶颈在服务代理组件对应的环节。

由于瓶颈代理组件的资源限制导致服务网格的数据查询率无法满足目标查询率的需求，可以通过在同一节点上增加该瓶颈代理组件的容器组数量，以增加瓶颈代理组件的软件资源，使得服务网格的最大查询率满足目标查询率的需求；或者，也可以通过增加部署有瓶颈代理组件的节点数量，以增加瓶颈代理节点的物理资源，使得服务网格的最大查询率满足目标查询率的需求。在一个实施例中，节点参数包括节点数量以及容器组数量；对目标组件类型对应的目标代理组件的节点参数进行调整，包括：以预设增长步长，增加目标组件类型对应的目标代理组件的节点数量或容器组数量。

具体地，在对瓶颈代理组件的节点参数进行调整时，可以以一定的步长增加瓶颈代理组件的节点数量或容器组数量；例如，在调整瓶颈代理组件的节点数量时，可以每次增加一个节点；又例如，调整瓶颈代理组件的容器组数量时，每次可以增加10个容器组数量。

上述服务网格的架构优化方法中，通过将不同类型的代理组件分别部署在不同的节点上，在通过基础配置参数部署服务网格后，对服务网格进行压力测试，得到服务网格的数据查询率，并获取压力测试过程中服务网格中各类代理组件的节点性能指标信息；进而基于数据查询率以及各类代理组件的节点性能指标信息，调整服务网格中各类代理组件的节点参数。通过将不同类型的代理组件分别部署在不同的节点实现不同代理组件在物理资源上的隔离，在后续对服务网格进行压力测试时，基于获得的服务网格中数据查询率以及代理组件的节点性能指标信息能准确反映服务网格在一定的硬件结构上的性能数据，对后续服务网格的网络架构的调整提供准确的信息，在应用设计的性能目标前提下可实现在尽可能少的硬件结构达到性能目标。

以下结合一具体应用场景对上述服务网格的架构优化方法进行进一步说明。

步骤1：获取基础配置参数，基于基础配置参数部署服务网格。

具体地，在K8S集群中包括多个物理机，并通过以下基础配置参数在K8S集群中部署服务网格：

a)通过网络性能测试工具Ipef进行端对端测试K8S集群中的POD性能，以确保k8s集群中网络组件网卡与物理机网卡的性能一致；

b)调整Nginx POD(即服务代理组件)、入口网关代理组件以及出口网关代理组件的tcp_tw_reused参数，保证进入time_wait状态的端口可以复用；

c)调整cp_local_port_range参数，保证端口足够用于发起请求；

d)增大conntrack_bucket参数，保证在压力测试过程中时，观察conntrack_count占conntrack_max值65％及以上，避免哈希表性能极具退化；

e)增大sync_backlog参数，保证代理组件有足够的队列长度与压测客户机进行握手；

f)增大容器的文件句柄长度，保证能创建足够多的套接字文件；

g)部署isito组件，并关闭isito组件的telemetry功能，避免动态生成metrics，减少不必要的CPU资源消耗；

h)部署node-exporter组件、grafana组件以及prometheus组件，实现物理机性能指标的采集；

i)部署elasticsearch组件、filebeat组件以及kibana组件，实现运行日志的采集，该运行日志后续用于计算网络链路中各个环节的响应时延。以Envoy作为代理组件的部署实例，具体可以基于运行日志中的Duration字段中获取响应时延；以Nginx作为代理组件的部署实例，具体可以基于运行日志中的Responstime字段获取响应时延。

此外，还可以调整网格网络配置参数，例如网络协议类型、集群网络模式等。

步骤2：对服务网格进行压力测试，得到服务网格的数据查询率，并获取压力测试过程中服务网格中各类代理组件的节点性能指标信息。

具体地，通过压测客户机向服务网格发送服务请求，以实现压力测试。其中，压测客户机可以是基于压测工具wrk构建；服务请求的大小可根据服务网格对应的业务方的实际情况进行设置，如设置为2k；压测线程数量、连接数量需始终保持一致，例如：2个线程，2000个连接数量。

可以理解的是，通过上述的基础配置参数，可以得到不同的服务网格的网络架构，例如：

a)使用1个slave节点运行入口网关，1个slave节点运行中间代理的nginx服务，配置代理服务pod可以完全使用slave节点的机器资源，且istio配置集群网络模式是passtrough；

b)使用1个slave节点运行入口网关，1个slave节点运行中间代理的nginx服务，配置代理服务pod可以完全使用slave节点的机器资源，且istio配置集群网络模式是IP白名单放通。

c)使用一个slave节点运行入口网关，1个slave节点运行中间代理的nginx服务，配置代理服务pod可以完全使用slave节点资源，且isito配置集群网络模式是registry_only。

d)使用1个slave节点运行入口网关，1个slave节点运行出口网关，1个slave节点运行代理nginx服务，配置代理服务pod可以完全使用slave节点资源，且isito配置集群网络模式是registry_only，出口网关配置service entry、virtual service、http协议。

e)使用一个slave节点运行入口网关，1个slave节点运行中间代理的nginx服务，配置代理服务pod可以完全使用slave节点资源，且isito配置集群网络模式是registry_only。

通过不同的基础配置参数，可以构建得到由简至全的服务网格，实现完全方通外部服务、通过网格转发访问外部服务、限制访问外部服务、通过网关访问外部服务等网络架构。通过对不同的网络架构的服务网格进行压力测试，可获得不同的服务网格的数据查询率，以及不同节点的CPU消耗等性能指标信息(即得到了各类代理组件的性能指标信息)。

步骤3：基于数据查询率以及各类代理组件的节点性能指标信息，调整服务网格中代理组件的节点参数。

具体地，可以设定目标查询率作为目标性能，比如每秒5万查询率、每秒10万查询率等；以目标查询率为目标，调整服务网格中代理组件的节点参数，以确定达到目标查询率总共需要多少物理资源。

此时，以不同代理组件的节点中pod数量(容器组数量)作为变量，或不同代理组件的节点数量作为变量，逐步观察pod数量增长或节点数量增长对服务网格中qps增长的影响。具体地，通过控制变量以构建基准服务网格，比如增加pod数量，并分析服务网格以及基准服务网格对应的性能指标参数、数据查询率等数据，判断哪一个代理组件的资源的增加能够更大幅度地帮助提升数据查询率，以便对该代理组件的节点参数进行调整，实现在一定的性能目标下，确定使用硬件资源尽最少的服务网格的架构。

例如，按照istio官方默认设置的2cpu、2G memory进行测试：

a)当前的服务网格：1个出口网关代理组件，1个服务代理组件，运行10个pod，一个使用http协议出口代理组件。

基准服务网格1：1个入口网关代理组件，1个服务代理组件，运行20个pod，1个使用http协议出口代理组件。

基准服务网格2：1个入口网关代理组件，1个服务代理组件，运行1个pod，1个使用http协议出口代理组件

b)记录服务网格以及基准服务网格的数据查询率，以及服务网格以及基准服务网格中部署有各个代理服务组件的宿主机的性能指标参数(如CPU损耗、响应时延等)。

当POD数量为1时，服务代理组件中的边车网关的cpu快速达到默认资源限制，而nginx代理服务器的CPU资源损耗量较低，因此确定瓶颈在服务代理组件的pod实例数。而POD数量为10的服务网格相较于POD数量为20的基准服务网格，数据查询率变化不大，入口网关代理组件对应的CPU资源损耗量无变化，出口网关代理组件对应的CPU资源损耗量增加，且服务代理组件中边车网关的cpu资源损耗量降低，中间代理环节的响应延时明显增高，确定瓶颈是在服务代理组件，并增加服务网格中服务代理组件的节点数量。

更新后的服务网格：1个出口网关代理组件，2个服务代理组件，运行10个pod，1个使用http协议出口代理组件。

更新后的服务网格对应的基准服务网格：1个入口网关代理组件，2个服务代理组件，运行20个pod，1个使用http协议出口代理组件。

分析服务网格以及基准服务网格对应的性能指标参数、数据查询率等数据，判断哪一个代理组件的资源的增加能够更大幅度地帮助提升数据查询率，以便对该代理组件的节点参数进行调整；重复上述步骤，直至达到性能目标后，汇总各个代理组件的节点参数，确定服务网格的网络架构。

此外，针对如mysql、redis等使用tcp协议的外部服务器，可以将出口网关代理组件的网络协议从http协议修改为tcp协议，重复上述测试，实现不同网络协议的测试或服务网格的网络架构调整。

为了更好实施本申请实施例提供的服务网格的架构优化方法，在本申请实施例所提服务网格的架构优化方法的基础之上，本申请实施例中还提供一种服务网格的架构优化装置，如图4所示，服务网格的架构优化装置400包括：

环境部署模块410，用于获取基础配置参数，基于基础配置参数部署服务网格；

压力测试模块420，用于对服务网格进行压力测试，得到服务网格的数据查询率；

性能指标获取模块430，用于获取压力测试过程中服务网格中代理组件的节点性能指标信息；

服务网格调整模块440，用于基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

在本申请一些实施例中，服务网格调整模块，用于获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；若数据查询率小于基准查询率，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，服务网格调整模块，用于获取服务网格中各代理组件的组件类型；将各组件类型对应的节点性能指标信息和基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；对目标组件类型对应的目标代理组件的节点参数进行调整，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；服务网格调整模块，用于以预设增长步长，增加目标组件类型对应的目标代理组件的节点数量或容器组数量。

在本申请一些实施例中，服务网格调整模块，用于获取服务网格中代理组件的节点参数；根据节点参数查询预设基准参数数据表，获得服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；其中，预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及基础服务网格中代理组件的性能指标信息。

在本申请一些实施例中，服务网格调整模块，用于基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格；对基准服务网格进行压力测试，得到基准查询率，以及服务网格中代理组件对应的基准性能指标信息。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；服务网格调整模块，用于将各类代理组件依次确定为目标代理组件；增加服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加服务网格中目标代理组件的节点数量，得到基准服务网格。

在本申请一些实施例中，服务网格中的代理组件包括入口网关代理组件、出口网关代理组件以及服务代理组件。

在本申请一些实施例中，节点性能指标信息至少包括中央处理器资源消耗量以及响应时延。

在本申请一些实施例中，服务网格的架构优化装置400可以实现为一种计算机程序的形式，计算机程序可在如图5所示的计算机设备上运行。计算机设备的存储器中可存储组成该服务网格的架构优化装置400的各个程序模块，比如，图4所示的环境部署模块410、压力测试模块420、性能指标获取模块430以及服务网格调整模块440。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的服务网格的架构优化方法中的步骤。

例如，图5所示的计算机设备可以通过如图4所示的服务网格的架构优化装置400中的环境部署模块410执行步骤S210。计算机设备可通过压力测试模块420执行步骤S220。计算机设备可通过性能指标获取模块430执行步骤S230。计算机设备可通过服务网格调整模块440执行步骤S240。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的计算机设备通过网络连接通信。该计算机程序被处理器执行时以实现一种服务网格的架构优化方法。

本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

在本申请一些实施例中，提供了一种计算机设备，包括一个或多个处理器；存储器；以及一个或多个应用程序，其中一个或多个应用程序被存储于存储器中，并配置为由处理器执行以实现以下步骤：

获取基础配置参数，基于基础配置参数部署服务网格；

对服务网格进行压力测试，得到服务网格的数据查询率；

获取压力测试过程中服务网格中代理组件的节点性能指标信息；

基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

在本申请一些实施例中，处理器执行计算机程序时还实现以下步骤：获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；若数据查询率小于基准查询率，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，处理器执行计算机程序时还实现以下步骤：获取服务网格中各代理组件的组件类型；将各组件类型对应的节点性能指标信息和基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；对目标组件类型对应的目标代理组件的节点参数进行调整，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；处理器执行计算机程序时还实现以下步骤：以预设增长步长，增加目标组件类型对应的目标代理组件的节点数量或容器组数量。

在本申请一些实施例中，处理器执行计算机程序时还实现以下步骤：获取服务网格中代理组件的节点参数；根据节点参数查询预设基准参数数据表，获得服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；其中，预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及基础服务网格中代理组件的性能指标信息。

在本申请一些实施例中，处理器执行计算机程序时还实现以下步骤：基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格；对基准服务网格进行压力测试，得到基准查询率，以及服务网格中代理组件对应的基准性能指标信息。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；处理器执行计算机程序时还实现以下步骤：将各类代理组件依次确定为目标代理组件；增加服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加服务网格中目标代理组件的节点数量，得到基准服务网格。

在本申请一些实施例中，服务网格中的代理组件包括入口网关代理组件、出口网关代理组件以及服务代理组件。

在本申请一些实施例中，节点性能指标信息至少包括中央处理器资源消耗量以及响应时延。

在本申请一些实施例中，提供了一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器进行加载，使得处理器执行以下步骤：

获取基础配置参数，基于基础配置参数部署服务网格；

对服务网格进行压力测试，得到服务网格的数据查询率；

获取压力测试过程中服务网格中代理组件的节点性能指标信息；

基于数据查询率以及节点性能指标信息，调整服务网格中代理组件的节点参数。

在本申请一些实施例中，计算机程序被处理器执行时还实现以下步骤：获取服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；若数据查询率小于基准查询率，根据节点性能指标信息和基准性能指标信息，调整服务网格中代理组件的节点参数，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，计算机程序被处理器执行时还实现以下步骤：获取服务网格中各代理组件的组件类型；将各组件类型对应的节点性能指标信息和基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；对目标组件类型对应的目标代理组件的节点参数进行调整，直至服务网格的数据查询率大于预设的目标查询率。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；计算机程序被处理器执行时还实现以下步骤：以预设增长步长，增加目标组件类型对应的目标代理组件的节点数量或容器组数量。

在本申请一些实施例中计算机程序被处理器执行时还实现以下步骤：获取服务网格中代理组件的节点参数；根据节点参数查询预设基准参数数据表，获得服务网格对应的基准查询率，和服务网格中代理组件对应的基准性能指标信息；其中，预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及基础服务网格中代理组件的性能指标信息。

在本申请一些实施例中，计算机程序被处理器执行时还实现以下步骤：基于服务网格中代理组件的节点参数，构建服务网格对应的基准服务网格；对基准服务网格进行压力测试，得到基准查询率，以及服务网格中代理组件对应的基准性能指标信息。

在本申请一些实施例中，节点参数包括节点数量以及容器组数量；计算机程序被处理器执行时还实现以下步骤：将各类代理组件依次确定为目标代理组件；增加服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加服务网格中目标代理组件的节点数量，得到基准服务网格。

在本申请一些实施例中，服务网格中的代理组件包括入口网关代理组件、出口网关代理组件以及服务代理组件。

在本申请一些实施例中，节点性能指标信息至少包括中央处理器资源消耗量以及响应时延。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，的计算机程序可存储于非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory，ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(RandomAccess Memory，RAM)或外部高速缓冲存储器。作为说明而非局限，RAM可以是多种形式，如静态随机存取存储器(Static Random Access Memory，SRAM)或动态随机存取存储器(Dynamic Random Access Memory，DRAM)等。

以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上对本申请实施例所提供的一种服务网格的架构优化方法、装置、计算机设备以及存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (12)

1.一种服务网格的架构优化方法，其特征在于，应用于服务网格，所述服务网格包括至少两类代理组件，所述不同类型的代理组件分别部署在不同的节点上；所述方法包括：

获取基础配置参数，基于所述基础配置参数部署所述服务网格；

对所述服务网格进行压力测试，得到所述服务网格的数据查询率；

获取压力测试过程中所述服务网格中代理组件的节点性能指标信息；

基于所述数据查询率以及所述节点性能指标信息，调整所述服务网格中代理组件的节点参数。

2.根据权利要求1所述的方法，其特征在于，所述基于所述数据查询率以及所述节点性能指标信息，调整所述服务网格中代理组件的节点参数，包括：

获取所述服务网格对应的基准查询率，和所述服务网格中代理组件对应的基准性能指标信息；

若所述数据查询率小于所述基准查询率，根据所述节点性能指标信息和所述基准性能指标信息，调整所述服务网格中代理组件的节点参数，直至所述服务网格的数据查询率大于预设的目标查询率。

3.根据权利要求2所述的方法，其特征在于，所述根据所述节点性能指标信息和所述基准性能指标信息，调整所述服务网格中代理组件的节点参数，直至所述服务网格的数据查询率大于预设的目标查询率，包括：

获取所述服务网格中各代理组件的组件类型；

将各所述组件类型对应的所述节点性能指标信息和所述基准性能指标信息进行比较，获取基准性能指标大于节点性能指标信息的目标组件类型；

对所述目标组件类型对应的目标代理组件的节点参数进行调整，直至所述服务网格的数据查询率大于预设的目标查询率。

4.根据权利要求3所述的方法，其特征在于，所述节点参数包括节点数量以及容器组数量；

所述对所述目标组件类型对应的目标代理组件的节点参数进行调整，包括：

以预设增长步长，增加所述目标组件类型对应的目标代理组件的节点数量或容器组数量。

5.根据权利要求2所述的方法，其特征在于，所述获取所述服务网格对应的基准查询率，和所述服务网格中代理组件对应的基准性能指标信息，包括：

获取所述服务网格中代理组件的节点参数；

根据所述节点参数查询预设基准参数数据表，获得所述服务网格对应的基准查询率，和所述服务网格中代理组件对应的基准性能指标信息；

其中，所述预设基准参数数据表包括不同网络架构的基础服务网格的数据查询率，以及所述基础服务网格中代理组件的性能指标信息。

6.根据权利要求2所述的方法，其特征在于，所述获取所述服务网格对应的基准查询率，和所述服务网格中代理组件对应的基准性能指标信息，包括：

基于所述服务网格中代理组件的节点参数，构建所述服务网格对应的基准服务网格；

对所述基准服务网格进行压力测试，得到所述基准查询率，以及所述服务网格中代理组件对应的基准性能指标信息。

7.根据权利要求6所述的方法，其特征在于，所述节点参数包括节点数量以及容器组数量；

所述基于所述服务网格中代理组件的节点参数，构建所述服务网格对应的基准服务网格，包括：

将各类代理组件依次确定为目标代理组件；

增加所述服务网格中目标代理组件的容器组数量，得到基准服务网格；或增加所述服务网格中目标代理组件的节点数量，得到基准服务网格。

8.根据权利要求1所述的方法，其特征在于，所述服务网格中的代理组件包括入口网关代理组件、出口网关代理组件以及服务代理组件。

9.根据权利要求1至8任意一项所述的方法，其特征在于，所述节点性能指标信息至少包括中央处理器资源消耗量以及响应时延。

10.一种服务网格的架构优化装置，其特征在于，应用于服务网格，所述服务网格包括至少两类代理组件，所述不同类型的代理组件分别部署在不同的节点上；所述装置包括：

环境部署模块，用于获取基础配置参数，基于所述基础配置参数部署所述服务网格；

压力测试模块，用于对所述服务网格进行压力测试，得到所述服务网格的数据查询率；

性能指标获取模块，用于获取压力测试过程中所述服务网格中代理组件的节点性能指标信息；

服务网格调整模块，用于基于所述数据查询率以及所述节点性能指标信息，调整所述服务网格中代理组件的节点参数。

11.一种计算机设备，其特征在于，所述计算机设备包括：

一个或多个处理器；

存储器；以及

一个或多个应用程序，其中所述一个或多个应用程序被存储于所述存储器中，并配置为由所述处理器执行以实现权利要求1至9中任一项所述的服务网格的架构优化方法。

12.一种计算机可读存储介质，其特征在于，其上存储有计算机程序，所述计算机程序被处理器进行加载，以执行权利要求1至9任一项所述的服务网格的架构优化方法中的步骤。

Images