CN116132447A - 一种基于Kubernetes的负载均衡方法及其装置 - Google Patents

Abstract

本发明公开了一种基于Kubernetes的负载均衡方法及其装置，涉及负载均衡技术领域。该基于Kubernetes的负载均衡方法，包括以下应用步骤：S1、启动Kubernetes集群中的Pod负载调节器；S2、监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取，本发明可使得Kubernetes中的应用实现一种更加均衡的流量转发方式，并且应用的所有副本都能得到合理的流量，同时应用的运行将变得更加稳定，避免应用多副本局部因承担过高的负载导致崩溃而影响业务，提高Kubernetes应用，特别是大规模Kubernetes集群的应用的稳定性。

Description

一种基于Kubernetes的负载均衡方法及其装置

技术领域

本发明涉及负载均衡技术领域，具体为一种基于Kubernetes的负载均衡方法及其装置。

背景技术

Kubernetes是一个开源的容器编排引擎，用于管理云平台中多个主机上的容器化的应用，它支持自动化部署、大规模可伸缩、应用容器化部署。在Kubernetes中，集群由主机节点组成，节点分为控制节点和工作节点。Pod是最小的调度管理单元，一个Pod代表着一个进程、一个程序或一个应用副本，经过Kubernetes调度，Pod最终会运行在集群某个节点上。

通常地，在Kubernetes生产环境中，应用程序会以多副本的方式运行以对应用请求进行负载均衡。使用者可以通过Kubernetes的Service配置将应用向外暴露到负载均衡器，此种方式下，运行在Kubernetes中的Service服务控制器监听到Service资源变化，会将应用Pod所在主机节点的IP及应用Pod暴露的端口绑定到负载均衡器。

然而，应用的每一个副本常常不是均匀地分布在每个主机节点的，如图3所示，每个工作节点上的应用Pod数量是不均等的，这样就造成了在负载均衡器看来，工作节点接收到的流量是均衡的，但实际对于后端应用Pod来说流量并不均衡的情况。应用Pod数量较少的工作节点上的Pod最终承载的流量会比其他工作节点上的Pod成倍增加，随着Kubernetes集群规模的扩大、应用规模的增加或业务流量高峰来临时，极有可能导致Pod过载崩溃，进而影响应用的稳定性和可靠性，所以我们提出了一种基于Kubernetes的负载均衡方法及其装置来解决上述存在的问题。

发明内容

针对现有技术的不足，本发明提供了一种基于Kubernetes的负载均衡方法及其装置，解决了可使得Kubernetes中的应用实现一种更加均衡的流量转发方式，并且应用的所有副本都能得到合理的流量，同时应用的运行将变得更加稳定，避免应用多副本局部因承担过高的负载导致崩溃而影响业务，提高Kubernetes应用，特别是大规模Kubernetes集群的应用的稳定性。

为实现以上目的，本发明通过以下技术方案予以实现：

一种基于Kubernetes的负载均衡方法，包括以下应用步骤：

S1、启动Kubernetes集群中的Pod负载调节器；

S2、监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

S3、按照比例Pod负载调节器为工作节点分配权重；

S4、根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

进一步地，所述Kubernetes集群由控制节点和工作节点搭建而成，并且APIServer作为集群核心组件默认运行并提供集群API服务。

进一步地，所述Pod负载调节器具有访问集群Service、Pod和节点的权限，并且Pod负载调节器与API Server建立连接监听Service的变化。

进一步地，所述Pod负载调节器是作为组件运行在Kubernetes集群中，并通过APIServer监控集群Service资源的变更、获取Pod和节点信息、获取节点资源使用率数据。

进一步地，所述Kubernetes集群有Service创建或更新时，Service下对应的Pod所在的工作节点绑定到负载均衡器。

进一步地，所述工作节点组成负载均衡器的上游服务器组。

进一步地，所述Pod负载调节器监控到Service的创建或更新，通过API Server获取到Service下对应的Pod及Pod所在工作节点的信息。

进一步地，所述S4中在Pod负载调节器按照比例为工作节点分配权重之前先判断工作节点资源是否充足：

若是，根据负载均衡器的上游服务器组配置设置对应工作节点的权重并更新到负载均衡器；

若否，Pod负载调节器设置节点资源使用率的阈值，并对权重进行调整，同时更新到负载均衡器中。

进一步地，所述节点资源使用率包括CPU使用率、内存使用率、网络IO。

一种基于Kubernetes的负载均衡装置，包括：

启动模块，用于启动Kubernetes集群中的Pod负载调节器；

监控获取模块，用于监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

分配权重模块，用于将按照比例Pod负载调节器为工作节点分配权重；

分配流量模块，用于根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

本发明具有以下有益效果：

该基于Kubernetes的负载均衡方法，核心在于实现Pod负载调节器，Pod负载调节器通过API Server监控Kubernetes中绑定了负载均衡器的Service资源，并从中统计出Service所对应的后端Pod在每个工作节点的数量，然后根据得到的Pod数量情况设置工作节点在负载均衡器中的权重；

Pod数量较多的工作节点分配到的权重较大，相应地，该工作节点接收到的负载均衡器的流量较多；

当工作节点将流量转发到实际后端Pod时，因为该工作节点上的后端Pod数量较多，则实际Pod分摊到的流量与其他节点的Pod相差无异，最终达到所有后端Pod流量均衡的效果。

当然，实施本发明的任一产品并不一定需要同时达到以上所述的所有优点。

附图说明

图1为本发明整体流程图；

图2为本发明基于Kubernetes的负载均衡图；

图3为应用Pod暴露到负载均衡器的典型结构。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本发明的描述中，需要理解的是，术语“开孔”、“上”、“下”、“厚度”、“顶”、“中”、“长度”、“内”、“四周”等指示方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的组件或元件必须具有特定的方位，以特定的方位构造和操作，因此不能理解为对本发明的限制。

本发明实施例提供一种技术方案：一种基于Kubernetes的负载均衡方法，如图1所示，包括以下应用步骤：

S1、启动Kubernetes集群中的Pod负载调节器；

S2、监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

S3、按照比例Pod负载调节器为工作节点分配权重；

S4、根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

具体使用方法如图2所示，由一个控制节点、三个工作节点和一个负载均衡器组成，并且控制节点和工作节点组成Kubernetes集群，具体实施步骤如下：

1)利用控制节点和工作节点搭建起Kubernetes集群，API Server作为集群核心组件默认运行并提供集群API服务；

2)部署Pod负载调节器，Pod负载调节器具有访问集群Service、Pod和节点的权限，Pod负载调节器与API Server建立连接监听Service的变化；

3)部署测试应用并配置Service，测试应用有四个副本，即四个Pod，分布在三个工作节点中，其中工作节点1有两个Pod，工作节点2和工作节点3各有一个Pod；

4)将三个工作节点绑定到负载均衡器；

5)Pod负载调节器监控到Service的创建，再通过API Server获取到Pod和节点信息，然后统计到工作节点的Pod数量分别为2、1、1；

6)Pod负载调节器按照2、1、1的比例为工作节点分配权重，然后生成负载均衡器的配置并更新到负载均衡器中；

7)负载均衡器接收客户端请求，根据配置好的工作节点权重比例分配流量，这样工作节点1接收到的流量分别是工作节点2和工作节点3的两倍；

8)工作节点1接收流量后，进一步分发到节点上的两个Pod，两个Pod分别接收到一倍的流量，可以预见，与工作节点2和工作节点3的Pod接收到的流量是一致的。

具体地，所述Pod负载调节器是作为组件运行在Kubernetes集群中，并通过APIServer监控集群Service资源的变更、获取Pod和节点信息、获取节点资源使用率数据。

具体地，所述Kubernetes集群有Service创建或更新时，Service下对应的Pod所在的工作节点通过自动或手工的方式绑定到负载均衡器，并且所述工作节点组成负载均衡器的上游服务器组。

具体地，所述Pod负载调节器监控到Service的创建或更新，通过API Server获取到Service下对应的Pod及Pod所在工作节点的信息。

具体地，所述S4中在Pod负载调节器按照比例为工作节点分配权重之前先判断工作节点资源是否充足：

若是，Pod负载调节器统计工作节点的Pod数量，然后将Pod数量作为工作节点的权重，根据负载均衡器的上游服务器组配置设置对应工作节点的权重并更新到负载均衡器；

若否，Pod负载调节器支持设置节点资源使用率如CPU使用率、内存使用率、网络IO等的阈值，当有节点资源使用率超过所设阈值时，Pod负载调节器会将该资源使用率作为影响因子，在将工作节点Pod数量作为工作节点的权重的基础上，对权重进行调整，每当工作节点有一项超过阈值的资源使用率时，Pod负载调节器会计算该资源使用率超过阈值的百分比，然后将工作节点权重下调对应的百分比，同样地，计算好各个工作节点的权重后，Pod负载调节器根据负载均衡器的上游服务器组配置设置对应工作节点的权重并更新到负载均衡器。

一种基于Kubernetes的负载均衡装置，包括：

启动模块，用于启动Kubernetes集群中的Pod负载调节器；

监控获取模块，用于监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

分配权重模块，用于将按照比例Pod负载调节器为工作节点分配权重；

分配流量模块，用于根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

使用时，Pod负载调节器通过API Server监控Kubernetes中绑定了负载均衡器的Service资源，并从中统计出Service所对应的后端Pod在每个工作节点的数量，然后根据得到的Pod数量情况设置工作节点在负载均衡器中的权重，Pod数量较多的工作节点分配到的权重较大，相应地，该工作节点接收到的负载均衡器的流量较多，当工作节点将流量转发到实际后端Pod时，因为该工作节点上的后端Pod数量较多，则实际Pod分摊到的流量与其他节点的Pod相差无异，最终达到所有后端Pod流量均衡的效果。

其中API Server是Kubernetes的API资源中心，运行在Kubernetes的控制节点。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

应该理解，当元件被称为“固定于”或“设置于”另一个元件，它可以直接在另一个元件上或者可能同时存在居中元件；当一个元件被称为“连接”另一个元件，它可以是直接连接到另一个元件或者可能同时存在居中元件,此外，这里使用的“连接”可以包括无线连接；使用的措辞“和/或”包括一个或更多个相关联的列出项的任一单元和全部组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为：表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，所述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，包括如下步骤:(方法的步骤)，所述的存储介质，如:ROM/RAM、磁碟、光盘等。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节，也不限制该发明仅为所述的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述这些实施例，是为了更好地解释本发明的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。

Claims (10)

1.一种基于Kubernetes的负载均衡方法，其特征在于：包括以下应用步骤：

S1、启动Kubernetes集群中的Pod负载调节器；

S2、监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

S3、按照比例Pod负载调节器为工作节点分配权重；

S4、根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

2.根据权利要求1所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述Kubernetes集群由控制节点和工作节点搭建而成，并且API Server作为集群核心组件默认运行并提供集群API服务。

3.根据权利要求1所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述Pod负载调节器具有访问集群Service、Pod和节点的权限，并且Pod负载调节器与API Server建立连接监听Service的变化。

4.根据权利要求1所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述Pod负载调节器是作为组件运行在Kubernetes集群中，并通过API Server监控集群Service资源的变更、获取Pod和节点信息、获取节点资源使用率数据。

5.根据权利要求1所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述Kubernetes集群有Service创建或更新时，Service下对应的Pod所在的工作节点绑定到负载均衡器。

6.根据权利要求5所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述工作节点组成负载均衡器的上游服务器组。

7.根据权利要求5所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述Pod负载调节器监控到Service的创建或更新，通过APIServer获取到Service下对应的Pod及Pod所在工作节点的信息。

8.根据权利要求1所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述S4中在Pod负载调节器按照比例为工作节点分配权重之前先判断工作节点资源是否充足：

若是，根据负载均衡器的上游服务器组配置设置对应工作节点的权重并更新到负载均衡器；

若否，Pod负载调节器设置节点资源使用率的阈值，并对权重进行调整，同时更新到负载均衡器中。

9.根据权利要求8所述的一种基于Kubernetes的负载均衡方法，其特征在于：所述节点资源使用率包括CPU使用率、内存使用率、网络IO。

10.一种基于Kubernetes的负载均衡装置，其特征在于，包括：

启动模块，用于启动Kubernetes集群中的Pod负载调节器；

监控获取模块，用于监控并获取Service下对应的Pod及Pod所在工作节点的信息，该信息由Pod负载调节器监控并获取；

分配权重模块，用于将按照比例Pod负载调节器为工作节点分配权重；

分配流量模块，用于根据配置好的工作节点权重比例分配流量，以达到应用流量均衡目的。

Images