CN110389841A

CN110389841A - 一种服务器负载均衡方法、装置和存储介质

Info

Publication number: CN110389841A
Application number: CN201910680828.9A
Authority: CN
Inventors: 莫海芳; 陈鑫; 王江晴; 帖军; 吴立锋; 马尧; 毕建权
Original assignee: South Central University for Nationalities
Current assignee: South Central Minzu University
Priority date: 2019-07-25
Filing date: 2019-07-25
Publication date: 2019-10-29

Abstract

本发明公开了一种服务器负载均衡方法，包括：在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。本发明还公开了一种服务器负载均衡装置和存储介质。本发明在有效保证服务器集群负载均衡的前提下减小了计算资源的消耗。

Description

一种服务器负载均衡方法、装置和存储介质

技术领域

本发明涉及服务器领域，尤其涉及一种服务器负载均衡方法、装置和存储介质。

背景技术

互联网近年来飞速发展，日益完善的网络服务使得人们越来越频繁地通过网络处理生活中的事务，互联网的发展已经成为社会发展的重要驱动力。但是随着互联网用户以及访问量的剧增，服务器的工作能力受到了极大的考验，在一些业务复杂的Web网站中尤为突出，如何提高Web集群在高并发场景下的工作能力是需要解决的主要问题。目前解决上述问题的主要方案是增加服务器数量，通过构建应用服务器的负载均衡集群来分担服务器负载。在目前的负载均衡测策略中，一般是实时的对服务器的性能进行判断并分配权值。然而实时的进行负载均衡的权重分配或调整将耗费较大的计算资源。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种服务器负载均衡方法、装置和存储介质，旨在解决目前的负载均衡策略消耗计算资源大的问题。

为实现上述目的，本发明提供一种服务器负载均衡方法，包括：在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

可选地，所述根据所述当次响应时长调整服务器集群中各服务器的各权值，具体包括：获取所述目标服务器的平均响应时长；根据所述平均响应时长和所述当次响应时长获取所述目标服务器的奖惩值；根据所述奖惩值调整服务器集群中各服务器的各权值。

可选地，所述根据所述奖惩值调整服务器集群中各服务器的各权值的步骤之前，所述服务器负载均衡方法还包括：获取服务器集群中各服务器的各当前权值；根据各当前权值计算各服务器的各当前权值比重；所述根据所述奖惩值调整服务器集群中各服务器的各权值，具体包括：根据所述奖惩值和所述各当前权值比重计算各服务器的各目标权值；将服务器集群中各服务器的各当前权值调整为各目标权值。

可选地，所述在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长的步骤之前，所述服务器负载均衡方法还包括：按照预设周期获取服务器集群中各服务器的各负载信息；根据各负载信息对各服务器的各权值进行调整。

可选地，所述按照预设周期获取服务器集群中各服务器的各负载信息，具体包括：遍历服务器集群，获取遍历的当前服务器的负载信息，所述负载信息包括多个性能参数；所述根据各负载信息对各服务器的各权值进行调整，具体包括：获取各性能参数对应的各权重系数；根据各性能参数及各性能参数分别对应的各权重系数调整所述当前服务器的权值。

可选地，所述根据各性能参数及各性能参数分别对应的各权重系数计算所述当前服务器的权值的步骤之后，所述服务器负载均衡方法还包括：获取各性能参数对应的各器件使用率；根据各性能参数对应的各器件使用率计算当前服务器的损失权值；根据损失权值更新当前服务器的权值。

此外，为实现上述目的，本发明还提供一种服务器负载均衡装置，包括：获取模块，用于在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；权值调整模块，用于根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；选择模块，用于在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

此外，为实现上述目的，本发明还提供一种服务器负载均衡装置，所述服务器负载均衡装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务器负载均衡程序，所述服务器负载均衡程序被所述处理器执行时实现如上述的服务器负载均衡方法方法的步骤。

此外，为实现上述目的，本发明还提供一种存储介质，所述存储介质上存储有服务器负载均衡程序，所述服务器负载均衡程序被处理器执行时实现如上述的服务器负载均衡方法的步骤。

本发明实施例提出的一种服务器负载均衡方法、装置和存储介质，在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长，并根据当次响应时长调整服务器集群中各服务器的各权值，在接收到客户端的请求时，选择当前权值最大的服务器处理请求，以使服务器集群负载均衡，通过在服务器响应请求时根据服务器的响应时长来调整服务器的权值，在有效保证服务器集群负载均衡的前提下减小了计算资源的消耗。

附图说明

图1为本发明实施例方案涉及的硬件运行环境的结构示意图；

图2为本发明实施例方案涉及的硬件运行环境的负载均衡服务器的结构示意图；

图3为本发明服务器负载均衡方法实施例一的流程示意图；

图4为图3中本发明服务器负载均衡方法实施例一的步骤S304的细化流程示意图；

图5为图4中本发明本发明服务器负载均衡方法实施例一的步骤S406之前的步骤的流程示意图；

图6为本发明服务器负载均衡方法实施例二的流程示意图；

图7为图6中本发明本发明服务器负载均衡方法实施例二的步骤S604之后的步骤的流程示意图；

图8为本发明服务器负载均衡装置的结构框图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

图1是本发明实施例方案涉及的硬件运行环境示意图。其中，客户端102通过网络与服务器负载均衡装置104进行通信连接，服务器负载均衡装置104通过网络与服务器集群106进行通信连接。其中，服务器负载均衡装置104可以是通过终端实现，也可以是通过服务器实现。本发明实施例以服务器负载均衡装置104通过负载均衡服务器实现进行说明。

图2是本发明实施例方案涉及的硬件运行环境的负载均衡服务器结构示意图。

本发明实施例负载均衡服务器可以是PC，也可以是智能手机、平板电脑、电子书阅读器、以及便携计算机等具有显示功能的可移动式服务器设备。

该负载均衡服务器可以包括：处理器2001，例如CPU，网络接口2004，用户接口2003，存储器2005，通信总线2002。其中，通信总线2002用于实现这些组件之间的连接通信。用户接口2003可以包括显示屏(Display)、输入单元比如键盘(Keyboard)，可选用户接口2003还可以包括标准的有线接口、无线接口。网络接口2004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器2005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器。存储器2005可选的还可以是独立于前述处理器2001的存储装置。

可选地，负载均衡服务器还可以包括摄像头、RF(Radio Frequency，射频)电路，传感器、音频电路、WiFi模块等等。当然，负载均衡服务器还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。本领域技术人员可以理解，图2中示出的负载均衡服务器结构并不构成对负载均衡服务器的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

作为一种计算机存储介质的存储器2005中可以包括操作系统、网络通信模块、用户接口模块以及服务器负载均衡。在图2所示的负载均衡服务器中，网络接口2004主要用于连接服务器集群，与服务器集群进行数据通信；用户接口2003主要用于连接客户端(用户端)，与客户端进行数据通信；而处理器2001可以用于调用存储器2005中存储的服务器负载均衡，并执行以下操作：在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

参照图3，一种服务器负载均衡方法实施例一，所述服务器负载均衡方法包括：

步骤S302，在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；

其中，目标服务器为服务器集群中的一个服务器。服务器集群包括多个服务器，用于处理客户端发出的请求。负载均衡服务器在接收到客户端的请求时，从服务器集群中选择目标服务器执行该请求。在服务器响应请求时，负载均衡服务器获取该目标服务器响应请求的当次响应时长。进一步地，负载均衡服务器将当次响应时长进行存储。当次响应时长可以是存储于负载均衡服务器的存储器内，还可以是存储于与负载均衡服务器连接的外部存储器中。

步骤S304，根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；

本实施例中，根据所述当次响应时长按照学习自动机(Learning Automata，LA)策略对服务器集群的权值进行调整。

参照图4，在其中一个实施例中，所述步骤S304具体包括：

步骤S402，获取所述目标服务器的平均响应时长；

本实施例中，负载均衡服务器存储有目标服务器的历史响应请求的历次响应时长。其中，平均响应时长为历次响应时长与当次响应时长之和的平均值。具体地，负载均衡服务器从存储有历次响应时长的存储器中获取历次响应时长，根据历次响应时长和当次响应时长计算平均响应时长。

步骤S404，根据所述平均响应时长和所述当次响应时长获取所述目标服务器的奖惩值；

本实施例采用学习自动机中的线性奖惩策略(Linear Reward-Penalty Scheme，L_RP)对服务器集群的各服务器进行权值调节。负载均衡服务器利用学习自动机根据目标服务器每次请求的响应时长变化调整各服务器的权值，利用目标服务器的当次响应时长和平均响应时长来判断选择目标服务器进行请求处理是否是有利选择结果。具体地，若当次响应时长大于平均响应时长，则判断为目标服务器为不利选择；若当次响应时长小于等于平均响应时长，则判断为目标服务器为有利选择。进一步地，负载均衡服务器还根据所述平均响应时长和所述当次响应时长获取目标服务器的奖惩值。其中，当目标服务器为有利选择时，奖惩值为奖励值，当次响应时长与平均响应时长的比值越小，奖励值越大。当目标服务器为不利选择时，奖惩值为惩罚值，当次响应时长与平均响应时长的比值越大，惩罚值越大。本实施例中，以奖励值为a，惩罚值为b进行说明。其中，0<a<1，0<b<1。

参照图5，在其中一个实施例中，步骤S406之前，所述服务器负载均衡方法还包括：

步骤S502，获取服务器集群中各服务器的各当前权值；

步骤S504，根据各当前权值计算各服务器的各当前权值比重。

本实施例中，各服务器的当前权值存储于权值表中。其中，权值表可以是存储于负载均衡服务器中，还可以是存储于与负载均衡服务器通信连接的外部存储器中。负载均衡服务器从权值表中获取各服务器的当前权值。进一步地，负载均衡服务器计算各服务器的各当前权值比重。

本实施例中，设服务器集群中有n个服务器，n≥2。负载均衡服务器按照公式(1)计算当前权值比重：

其中，W_i'为第i个服务器的当前权值，P[i]为第i个服务器的当前权值比重，i为大于等于1的整数。

步骤S406，根据所述奖惩值调整服务器集群中各服务器的各权值。

本实施例中，步骤S406具体包括：根据所述奖惩值和所述各当前权值比重计算各服务器的各目标权值；将服务器集群中各服务器的各当前权值调整为各目标权值。

设目标服务器为服务器集群中第m个服务器，1≤m≤n。当目标服务器为有利选择时，负载均衡服务器根据奖励值按照公式(2)更新各服务器的各当前权值比重：

其中，P[i]'为更新后的第i个服务器的当前权值比重。

当目标服务器为不利选择时，负载均衡服务器根据惩罚值按照公式(3)更新各服务器的各当前权值比重：

进一步地，负载均衡服务器根据更新后的各服务器的当前权值比重P[i]'和各服务器的各当前权值按照公式(4)计算各服务器的各目标权值：

其中，W_i”为第i个服务器的目标权值。

进一步地，负载均衡服务器将服务器集群中各服务器的各当前权值调整为各目标权值。

步骤S306，在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

在负载均衡服务器接收到客户端的请求时，从服务器集群中选择当前权值最大的服务器处理该请求。

本实施例中，在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长，并根据当次响应时长调整服务器集群中各服务器的各权值，在接收到客户端的请求时，选择当前权值最大的服务器处理请求，以使服务器集群负载均衡，通过在服务器响应请求时根据服务器的响应时长来调整服务器的权值，在有效保证服务器集群负载均衡的前提下减小了计算资源的消耗。

参照图6，一种服务器负载均衡方法实施例二，基于上述图3所示的实施例，在步骤S302之前，所述服务器负载均衡方法还包括：

步骤S602，按照预设周期获取服务器集群中各服务器的各负载信息；

本实施例中，负载均衡服务器周期性的对服务器集群中各服务器的各当前权值进行调整。

在其中一个实施例中，步骤S602具体包括：遍历服务器集群，获取遍历的当前服务器的负载信息，所述负载信息包括多个性能参数。

本实施例中，多个性能参数为CPU参数、内存参数、磁盘IO参数、以及网络带宽参数。各性能参数通采用统一的性能指标，数值越大则表示性能越优。负载均衡服务器在预设周期到达时，遍历服务器集群，获取遍历的当前服务器的负载信息以执行步骤S604。

步骤S604，根据各负载信息对各服务器的各权值进行调整。

在其中一个实施例中，步骤S604具体包括：获取各性能参数对应的各权重系数；根据各性能参数及各性能参数分别对应的各权重系数调整所述当前服务器的权值。

设CPU参数、内存参数、磁盘IO参数、以及网络带宽参数对应的各权重系数为w₁、w₂、w₃、和w₄。设C_i、M_i、D_i、以及N_i分别为当前服务器的CPU参数、内存参数、磁盘IO参数、以及网络带宽参数。负载均衡服务器按照公式(5.1)-(5.4)分别计算CPU参数比重内存参数比重磁盘IO参数比重以及网络带宽参数比重

进一步地，负载均衡服务器按照公式(6)计算各负载信息对当前服务器的权值W_i：

参照图7，在其中一个实施例中，步骤S604之后，所述服务器负载均衡方法还包括：

步骤S702，获取各性能参数对应的各器件使用率；

步骤S704，根据各性能参数对应的各器件使用率计算当前服务器的损失权值；

步骤S706，根据损失权值更新当前服务器的权值。

设CPU参数、内存参数、磁盘IO参数、以及网络带宽参数对应的CPU使用率、内存使用率、磁盘IO使用率、以及网络带宽使用率分别为以及则当前服务器的负载损失矩阵当前服务器的各性能参数的权重系数矩阵w＝[w₁,w₂,w₃,w₄]。则负载均衡服务器按照公式(7)计算当前服务器的损失权值W_i-lose：

W_i-lose＝wU_iW_i (7)

进一步地，负载均衡服务器按照公式(8)计算更新后的当前服务器的权值W'_i：

W'_i＝W_i-W_i-lose＝(1-wU_i)W_i (8)

本实施例中，结合周期性的根据服务器集群中各服务器的各负载信息来对各服务器的权值进行调整，增加了负载均衡的可靠性。

参照图8，一种服务器负载均衡装置实施例，所述服务器负载均衡装置包括：

获取模块810，用于在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；

权值调整模块820，用于根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；

选择模块830，用于在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

可选地，权值调整模块820，还用于获取所述目标服务器的平均响应时长；根据所述平均响应时长和所述当次响应时长获取所述目标服务器的奖惩值；根据所述奖惩值调整服务器集群中各服务器的各权值。

可选地，权值调整模块820，还用于获取服务器集群中各服务器的各当前权值；根据各当前权值计算各服务器的各当前权值比重；根据所述奖惩值和所述各当前权值比重计算各服务器的各目标权值；将服务器集群中各服务器的各当前权值调整为各目标权值。

可选地，所述服务器负载均衡装置还包括：周期调整模块，用于按照预设周期获取服务器集群中各服务器的各负载信息；根据各负载信息对各服务器的各权值进行调整。

可选地，周期调整模块，还用于遍历服务器集群，获取遍历的当前服务器的负载信息，所述负载信息包括多个性能参数；获取各性能参数对应的各权重系数；根据各性能参数及各性能参数分别对应的各权重系数调整所述当前服务器的权值。

可选地，周期调整模块，还用于获取各性能参数对应的各器件使用率；根据各性能参数对应的各器件使用率计算当前服务器的损失权值；根据损失权值更新当前服务器的权值。

此外，本发明实施例还提出一种服务器负载均衡装置，所述服务器负载均衡装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务器负载均衡程序，所述服务器负载均衡程序被所述处理器执行时实现如上述的服务器负载均衡方法实施例的步骤。

此外，本发明实施例还提出一种存储介质，所述存储介质上存储有服务器负载均衡程序，所述服务器负载均衡程序被处理器执行时实现如上述的服务器负载均衡方法实施例的步骤。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台负载均衡服务器设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims

1.一种服务器负载均衡方法，其特征在于，所述服务器负载均衡方法包括以下步骤：

在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；

根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；

在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

2.如权利要求1所述的服务器负载均衡方法，其特征在于，所述根据所述当次响应时长调整服务器集群中各服务器的各权值，具体包括：

获取所述目标服务器的平均响应时长；

根据所述平均响应时长和所述当次响应时长获取所述目标服务器的奖惩值；

根据所述奖惩值调整服务器集群中各服务器的各权值。

3.如权利要求2所述的服务器负载均衡方法，其特征在于，所述根据所述奖惩值调整服务器集群中各服务器的各权值的步骤之前，所述服务器负载均衡方法还包括：

获取服务器集群中各服务器的各当前权值；

根据各当前权值计算各服务器的各当前权值比重；

所述根据所述奖惩值调整服务器集群中各服务器的各权值，具体包括：

根据所述奖惩值和所述各当前权值比重计算各服务器的各目标权值；

将服务器集群中各服务器的各当前权值调整为各目标权值。

4.如权利要求1-3任一项所述的服务器负载均衡方法，其特征在于，所述在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长的步骤之前，所述服务器负载均衡方法还包括：

按照预设周期获取服务器集群中各服务器的各负载信息；

根据各负载信息对各服务器的各权值进行调整。

5.如权利要求4所述的服务器负载均衡方法，其特征在于，所述按照预设周期获取服务器集群中各服务器的各负载信息，具体包括：

遍历服务器集群，获取遍历的当前服务器的负载信息，所述负载信息包括多个性能参数；

所述根据各负载信息对各服务器的各权值进行调整，具体包括：

获取各性能参数对应的各权重系数；

根据各性能参数及各性能参数分别对应的各权重系数调整所述当前服务器的权值。

6.如权利要求5所述的服务器负载均衡方法，其特征在于，所述根据各性能参数及各性能参数分别对应的各权重系数计算所述当前服务器的权值的步骤之后，所述服务器负载均衡方法还包括：

获取各性能参数对应的各器件使用率；

根据各性能参数对应的各器件使用率计算当前服务器的损失权值；

根据损失权值更新当前服务器的权值。

7.一种服务器负载均衡装置，其特征在于，所述服务器负载均衡装置包括：

获取模块，用于在目标服务器响应请求时，获取所述目标服务器响应所述请求的当次响应时长；

权值调整模块，用于根据所述当次响应时长调整服务器集群中各服务器的各权值，所述服务器集群包括所述目标服务器；

选择模块，用于在接收到客户端的请求时，选择当前权值最大的服务器处理所述请求，以使服务器集群负载均衡。

8.如权利要求7所述的服务器负载均衡装置，其特征在于，所述服务器负载均衡装置还包括：

周期调整模块，用于按照预设周期获取服务器集群中各服务器的各负载信息；根据各负载信息对各服务器的各权值进行调整。

9.一种服务器负载均衡装置，其特征在于，所述服务器负载均衡装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的服务器负载均衡程序，所述服务器负载均衡程序被所述处理器执行时实现如权利要求1至6中任一项所述的服务器负载均衡方法方法的步骤。

10.一种存储介质，其特征在于，所述存储介质上存储有服务器负载均衡程序，所述服务器负载均衡程序被处理器执行时实现如权利要求1至6中任一项所述的服务器负载均衡方法的步骤。