CN109710412A - 一种基于动态反馈的Nginx负载均衡方法 - Google Patents

Abstract

本发明公开了一种基于动态反馈的Nginx负载均衡方法，包括：定时获取各服务器的负载信息和各服务器最近一次的响应时间；根据所述的负载信息计算出当前节点的剩余负载权值；根据所述各服务器最近一次的响应时间计算出平均时间；通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值；将计算得到的所述剩余负载权值和所述响应时间权值相加得到实际权值；根据所述实际权值为服务器分配相应的负载；本发明解决负载权重值不会随着服务器的运行情况而改变的技术问题，从而实现缩短服务器的响应时间和提高服务效率。

Description

一种基于动态反馈的Nginx负载均衡方法

技术领域

本发明涉及服务器负载分配技术领域，尤其涉及一种基于动态反馈的Nginx负载均衡方法。

背景技术

Nginx服务器一般被用于并发访问量很大的应用场景，当访问请求数量逐渐增大时，如果各个服务器的实际性能情况不能够满足当前分配的请求任务，那么就会出现响应时间过长，服务效率低等问题；服务器的性能受多个指标影响，包括CPU、磁盘、网络等。Nginx可以为每台服务器设置初始权重值，而这个权重值并不会随着服务器的运行情况而改变，如果某台服务器发生异常并且Nginx继续按照既定的权重值分配任务，那么就会出现响应时间长、服务效率低的问题。

发明内容

本发明提供了一种基于动态反馈的Nginx负载均衡方法，以解决负载权重值不会随着服务器的运行情况而改变的技术问题，从而根据服务器的运行情况改变相应的权重值进行分配任务，进而实现缩短服务器的响应时间和提高服务效率。

为了解决上述技术问题，本发明实施例提供了一种基于动态反馈的Nginx负载均衡方法，包括：

定时获取各服务器的负载信息和各服务器最近一次的响应时间；

根据所述的负载信息计算出当前节点的剩余负载权值；

根据所述各服务器最近一次的响应时间计算出平均时间；

通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值；

将计算得到的所述剩余负载权值和所述响应时间权值相加得到实际权值；

根据所述实际权值为服务器分配相应的负载。

作为优选方案，所述负载信息包括CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率。

作为优选方案，在所述通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值之前，还包括：对服务器列表进行轮询，判断当前服务器是否可用；若否，则进行选择下一个服务器；若是，则对当前服务器的最后一次响应时间与所述平均时间进行比对。

作为优选方案，所述根据所述实际权值为服务器分配相应的负载，具体包括：

判断当前服务器的所述实际权值是否大于已选最优服务器权值，若是，则将当前服务器暂时列为最优服务器；

判断是否对服务器列表完成遍历，若否，则继续对服务器列表进行轮询；若是，则选择最优服务器处理。

作为优选方案，所述计算当前节点的剩余负载权值，具体为：

其中，指代剩余负载权值；U(C_i)、U(M_i)、U(D_i)、U(N_i)分别代表CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率；矩阵[U(C_i),U(M_i),U(D_i),U(N_i)]代表服务器各项负载的比率；T为采集周期；k_c,k_m,k_d,k_n分别代表了四个负载参数的权值系数，代表了各个负载因子对系统的影响程度；为当前服务器的默认权值。

作为优选方案，所述k_c＝0.4,k_m＝0.4,k_d＝0.1,k_n＝0.1。

作为优选方案，所述计算平均时间，具体为：

其中，Avg(T)指代平均时间；T_i为各服务器最近一次的响应时间；N为参与计算的服务器数量。

作为优选方案，所述响应时间权值的计算公式为：

其中，指代响应时间权值；为服务器的响应时间与整个集群的平均响应时间之比；为当前服务器的默认权值。

相比于现有技术，本发明实施例具有如下有益效果：

通过计算剩余负载权值和响应时间权值相加得到实际权值，根据实际权值和服务器的运行情况改变相应的权重值进行分配任务，解决负载权重值不会随着服务器的运行情况而改变的技术问题，从而实现缩短服务器的响应时间和提高服务效率。

附图说明

图1：为本发明实施例中的方法步骤流程示意图；

图2：为本发明实施例中的方法原理示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参照图1，本发明优选实施例提供了一种基于动态反馈的Nginx负载均衡方法，包括：

S1，定时获取各服务器的负载信息和各服务器最近一次的响应时间；

S2，根据所述的负载信息计算出当前节点的剩余负载权值；

S3，根据所述各服务器最近一次的响应时间计算出平均时间；

S4，通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值；

S5，将计算得到的所述剩余负载权值和所述响应时间权值相加得到实际权值；

S6，根据所述实际权值为服务器分配相应的负载。

在本实施例中，所述负载信息包括CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率。

在本实施例中，在所述通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值之前，还包括：对服务器列表进行轮询，判断当前服务器是否可用；若否，则进行选择下一个服务器；若是，则对当前服务器的最后一次响应时间与所述平均时间进行比对。

在本实施例中，所述根据所述实际权值为服务器分配相应的负载，具体包括：

判断当前服务器的所述实际权值是否大于已选最优服务器权值，若是，则将当前服务器暂时列为最优服务器；

判断是否对服务器列表完成遍历，若否，则继续对服务器列表进行轮询；若是，则选择最优服务器处理。

在本实施例中，所述计算当前节点的剩余负载权值，具体为：

其中，指代剩余负载权值；U(C_i)、U(M_i)、U(D_i)、U(N_i)分别代表CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率；矩阵[U(C_i),U(M_i),U(D_i),U(N_i)]代表服务器各项负载的比率；T为采集周期；k_c,k_m,k_d,k_n分别代表了四个负载参数的权值系数，代表了各个负载因子对系统的影响程度；为当前服务器的默认权值。

在本实施例中，所述k_c＝0.4,k_m＝0.4,k_d＝0.1,k_n＝0.1。

在本实施例中，所述计算平均时间，具体为：

其中，Avg(T)指代平均时间；T_i为各服务器最近一次的响应时间；N为参与计算的服务器数量。

在本实施例中，所述响应时间权值的计算公式为：

其中，指代响应时间权值；为服务器的响应时间与整个集群的平均响应时间之比；为当前服务器的默认权值。

下面结合具体实施例，对本发明进行详细说明。

请参照图2，本发明通过将收集的服务器动态硬件性能指标和一段时间内处理请求的响应时间，并加入到权重计算模型中，动态算出服务器的权重值，调度器再根据这个动态值分配后端服务器。本专利的改进策略为：每隔一段时间对后端的每一台服务器进行负载参数和请求时间等技术指标的收集。响应时间计算，需要通过最近一次的响应时间与平均响应时间相比，得出该节点响应时间比率，再将响应时间比率与默认值进行响应计算，得到响应响应时间权值。通过将剩余负载权值与响应时间权值相加，最终计算得到了服务器的实际权值，根据这个实际权值为上述服务器分配相应的负载。

在后端服务器上部署检测程序并在指定周期内采集负载数据，这些采集的数据通过http协议发送到前端的负载均衡器，最终保存到Nginx日志中。

参数定义：

集群中有N个后端服务器，可以表示为S＝[S₁,S₂,…S_i,…S_N]，其中S_i标识第i个后端服务器。

这N台服务器的实际权重为W＝[W₁,W₂,…W_i,…W_N],此权重将在最后作为轮询算法进行负载分配的权值。

初始的默认权值定义为Wd＝[Wd₁,Wd₂,…Wd_i,…Wd_N]。默认权值是加权轮询算法负载分配的依据，当无法动态获取后端服务器中的各项动态负载参数时，例如收集负载的软件发生故障，或是日志数据无法获取等情况，本算法会使用Nginx默认的加权轮询算法。

负载信息主要针对Web服务器中关键的硬件信息使用情况包括CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率，分别定义为U(C_i)、U(M_i)、U(D_i)、U(N_i)。

本方法采用集中式信息管理方式，中央控制结点记录并保存了每一台服务器的请求响应时间。中央控制结点将所有服务器的请求响应时间保存在Nginx日志当中，获取日志文件中的响应时间数据，通过计算可以求得所有服务器最近一次处理请求的平均响应时间Avg(T)。一个服务器的平均响应时间Avg(T)会成为之后负载均衡器是否选择它的判断条件，该服务器节点的上一次请求响应时间如果小于Avg(T)，表示该节点处于低负载状态，负载均衡器会将该服务器加入负载均衡服务器队列中；反之，负载均衡器则认为该结点处于高负载状态，不会让它接收新的请求任务。结合以上参数可以得到请求响应时间权值该权值的大小反映了服务器当前处理请求的时间长短，权值越大代表结点处理请求的响应时间越短。

本方法求得的实际权值通过剩余负载权值和请求响应时间权值共同得到，公式如下：

服务器实际权值W_i既考虑了动态的资源利用率变化，同时也考虑到服务器处理请求的响应时间反映到权值中参与负载均衡，这样可以更好的体现后端服务器性能情况，从而实现最佳的负载分配策略。

算法设计：

动态反馈负载均衡算法对服务器实际运行时的动态负载信息进行收集分析，并将服务器的平均响应时间作为计算结点实时权值的重要参数，这样不仅能够通过负载参数预测服务器的负载情况，也可以直接从处理客户端请求时间的结果分析得出服务器的实时性能，这样在原有的加权轮询算法的基础上改善了服务器集群的整体性能，提高了负载均衡的效率和稳定性。

本方法的详细描述如下：

通过部署在各个服务器上的监控程序不断的收集负载参数，并向负载均衡器发送所在服务器的负载信息。当服务器集群系统运行一段时间之后，中央控制结点上收集记录的后端服务器的负载情况与结点的实际情况可能会有所偏差，通过周期性的反馈和修改，可以减少因误差带来的负载分配不均。

负载均衡器以周期T为间隔收集负载信息U(C_i)、U(M_i)、U(D_i)、U(N_i)。服务器S_i当前剩余负载权重通过该以上四个参数的加权和运算得到。是当前节点的剩余负载权重，不是当前负载，需要和默认权重值进行比较。相关计算如下：

上述公式中，k_c,k_m,k_d,k_n分别代表了四个负载参数的权值系数，代表了各个负载因子对系统的影响程度。例如服务器集群是CPU和内存消耗性系统，可以将权值系数设置为[0.4,0.4,0.1,0.1]，磁盘I/O使用率和网络带宽占用率的消耗对负载影响就相对较小。矩阵[U(C_i),U(M_i),U(D_i),U(N_i)]代表服务器各项负载的比率。将权值系数矩阵k_c,k_m,k_d,k_n和负载比率矩阵[U(C_i),U(M_i),U(D_i),U(N_i)]分别用K和U代表，可以将上述公式改写为：

通过上述公式计算出后端服务器结点的剩余负载权值后，需要计算实时权值的另一部分，即响应时间权值利用负载均衡器收集到的各服务器最近一次响应时间，构成响应时间矩阵[T₁,T₂,T₃,…,T_N]，从而可以得到所有后端服务器最后一次处理响应的平均时间Avg(T)：

响应时间权值计算如下：

上述公式中，得到服务器的响应时间与整个集群的平均响应时间之比，此值越大表示该服务器节点处理响应的速度相比其他服务器越慢，所以它与实时权值成反比。实际权值W_i的计算可以由剩余负载权值和响应时间权值共同得到：

上述公式计算得出服务器的实际权值。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步的详细说明，应当理解，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围。特别指出，对于本领域技术人员来说，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于动态反馈的Nginx负载均衡方法，其特征在于，包括：

定时获取各服务器的负载信息和各服务器最近一次的响应时间；

根据所述的负载信息计算出当前节点的剩余负载权值；

根据所述各服务器最近一次的响应时间计算出平均时间；

通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值；

将计算得到的所述剩余负载权值和所述响应时间权值相加得到实际权值；

根据所述实际权值为服务器分配相应的负载。

2.如权利要求1所述的方法，其特征在于，所述负载信息包括CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率。

3.如权利要求1所述的方法，其特征在于，在所述通过最近一次的响应时间与所述平均响应时间相比，得出该节点响应时间比率，再将所述响应时间比率与默认权值进行响应计算，得到响应时间权值之前，还包括：对服务器列表进行轮询，判断当前服务器是否可用；若否，则进行选择下一个服务器；若是，则对当前服务器的最后一次响应时间与所述平均时间进行比对。

4.如权利要求1所述的方法，其特征在于，所述根据所述实际权值为服务器分配相应的负载，具体包括：

判断当前服务器的所述实际权值是否大于已选最优服务器权值，若是，则将当前服务器暂时列为最优服务器；

判断是否对服务器列表完成遍历，若否，则继续对服务器列表进行轮询；若是，则选择最优服务器处理。

5.如权利要求1所述的方法，其特征在于，所述计算当前节点的剩余负载权值，具体为：

其中，指代剩余负载权值；U(C_i)、U(M_i)、U(D_i)、U(N_i)分别代表CPU使用率、内存使用率、磁盘I/O使用率以及网络带宽的占用率；矩阵[U(C_i),U(M_i),U(D_i),U(N_i)]代表服务器各项负载的比率；T为采集周期；k_c,k_m,k_d,k_n分别代表了四个负载参数的权值系数，代表了各个负载因子对系统的影响程度；为当前服务器的默认权值。

6.如权利要求5所述的方法，其特征在于，所述k_c＝0.4,k_m＝0.4,k_d＝0.1,k_n＝0.1。

7.如权利要求1所述的方法，其特征在于，所述计算平均时间，具体为：

其中，Avg(T)指代平均时间；T_i为各服务器最近一次的响应时间；N为参与计算的服务器数量。

8.如权利要求7所述的方法，其特征在于，所述响应时间权值的计算公式为：

其中，指代响应时间权值；为服务器的响应时间与整个集群的平均响应时间之比；为当前服务器的默认权值。