CN113242283B - 一种服务器动态负载均衡方法、系统、设备及存储介质 - Google Patents

Abstract

本发明提供一种服务器动态负载均衡方法、系统、设备及存储介质，方法包括获取业务数据；按照后端服务器循环链表顺序查找得分匹配的服务器作为分发服务器；分发服务器执行业务数据；执行业务数据完成后，将业务数据的执行过程作为变量，通过得分函数计算服务器的业务得分，将业务得分和该服务器当前得分加和作为该服务器的得分。本发明可以根据业务需要，灵活定义均衡策略，这样负载均衡策略更具有通用性。

Description

一种服务器动态负载均衡方法、系统、设备及存储介质

技术领域

本发明涉及广告投放技术领域，特别涉及一种服务器动态负载均衡方法、系统、设备及存储介质。

背景技术

负载均衡用于解决如何将流量分发到后端服务器(server)的问题。当前有基于权重的方案和平均的方案。基于权重的方案：对后端的服务器设置为不同的权重，按照服务器的权重，将流量按照比例分发给不同的后端服务器。基于平均的方案：任务后端服务器是等同的。流量到达时，使用顺序或者随机的方式选择一台服务器，并将当前流量分发给该服务器。这两种方案不完善的地方在于：

1)灵活性欠缺，如果后端服务器配置发生了动态变更。例如服务器数量或者服务器配置发生变更或者多种配置服务器的情况，不能及时有效的支持。

2)配置策略比较单一，缺乏对更多业务场景的支持。例如：不同业务对响应的时长长短要求不尽相同。

发明内容

本发明的实施提供一种服务器动态负载均衡方法、系统、设备及存储介质，本发明可以根据业务需要，灵活定义均衡策略，这样负载均衡策略更具有通用性。

为达到上述目的，本发明采用了以下技术方案：

一种服务器动态负载均衡方法，包括以下步骤：

获取业务数据；

按照后端服务器循环链表顺序查找得分匹配的服务器，作为分发服务器；

分发服务器执行业务数据；

执行业务数据完成后，将业务数据的执行过程作为变量，通过加载得分函数计算得到服务器的当前业务得分；

服务器的得分更新为：服务器得分与当前业务得分之和。

作为本发明的进一步改进，初次获取业务数据之前还包括：

将后端所有的服务器的得分初始化为0，存放在一个循环链表存储结构中；初始化当前位置为0。

作为本发明的进一步改进，按照后端服务器循环链表顺序查找第一得分匹配的服务器作为分发服务器具体是：

从当前位置，顺序查找第一个得分为正的服务器，并在查找过程中更新当前位置；

如有，则选择第一个得分为正的服务器作为分发服务器；

如无，则使用当前位置的下一服务器，作为分发服务器，并更新当前位置为该服务器所在位置；

作为本发明的进一步改进，所述得分函数为：

如果业务数据执行结果符合设置的服务器指标要求，服务器现有得分为正数；如果业务执行结果不符合设置的服务器指标要求，得分为负数。

作为本发明的进一步改进，所述服务器的得分更新为服务器得分和得分函数结果加和。

作为本发明的进一步改进，所述业务数据为客户端接收到的流量。

一种服务器动态负载均衡系统，包括：

获取模块，用于获取业务数据；

查找模块，用于按照后端服务器循环链表顺序查找第一个得分匹配的服务器作为分发服务器；

执行模块，分发服务器执行业务数据；

计算得分模块，用于执行业务数据完成后，将业务数据的执行结果作为变量，通过加载得分函数计算服务器的业务得分，根据业务得分和该服务器得分计算得到新的服务器得分。

一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现所述服务器动态负载均衡方法的步骤。

一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现所述服务器动态负载均衡方法的步骤。

本发明的有益效果体现在：

本发明通过定义得分函数，可以根据业务需要，灵活定义均衡策略。这样负载均衡策略更具有通用性；通过线性的查找方法，找到业务的分发对象，这样寻找分发对象的方法更简单。实际应用中，如果大部分服务器都可用的情况下，只需要常数次查找，就可以找到分发对象，响应更快。

进一步，通过得分抽象了底层服务器的服务能力，这样负载均衡策略对于不同硬件配置实现了透明化。

附图说明

图1是本发明负载均衡流程图；

图2为本发明实施例给出的负载均衡器的实现流程图；

图3为一种服务器动态负载均衡系统结构示意图；

图4为电子设备结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

为了便于清楚描述本发明实施例的技术方案，在本发明的实施例中，采用了“第一”、“第二”等字样对功能或作用基本相同的相同项或相似项进行区分，本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定。

本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

本文中术语“包括/包含”在本文使用时指特征、要素或组件的存在，但并不排除一个或多个其它特征、要素或组件的存在或附加。

下面结合附图和实施例对本发明作进一步详细说明。所述实施例仅用于解释本发明，而非对本发明保护范围的限制。

图1是本发明负载均衡流程图；

如图1所示，一种服务器动态负载均衡方法，包括以下步骤：

S1，获取业务数据；所述业务数据客户端接收到的流量，具体可以为网络流量，如计算机网络流量，进一步为：互联网流量，局域网流量。

S2，按照后端服务器循环链表顺序查找得分匹配的服务器作为分发服务器；

S3，分发服务器执行业务数据。

S4，执行业务数据完成后，将业务数据的执行过程作为变量，通过得分函数计算服务器的业务得分，根据业务得分和服务器得分计算得到最新的服务器得分；

在本发明的一个具体实施例中，在S1中，初次获取业务数据之前还包括：

将后端所有的服务器的得分初始化为0，存放在一个循环链表存储结构中。

初始化查找位置为0。

在本发明的一个具体实施例中，在S2中，按照后端服务器循环链表顺序查找第一得分匹配的服务器作为分发服务器具体是：

查找第一个得分为正的服务器，并更新当前位置(即就是每次查找开始的位置)；

如有，则选择该服务器作为分发服务器；

如无，则从当前位置起，使用下一个服务器作为分发服务器；

在本发明的一个具体实施例中，在S3中，得分函数为：

如果业务数据执行结果符合设置的服务器指标要求，得分为正数；如果执行结果不符合要求，得分为负数。

采用上述服务器动态负载均衡方法，具有如下优点，

第一：通过定义得分函数，可以根据业务需要，灵活定义均衡策略。这样负载均衡策略更具有通用性；

第二：通过得分抽象了底层服务器的服务能力，这样负载均衡策略对于不同硬件配置实现了透明化；

第三：通过线性的查找方法，找到业务的分发对象，这样寻找分发对象的方法更简单。实际应用中，如果大部分服务器都可用的情况下，只需要常数次查找，就可以找到分发对象。

第四：这是一种实时的负载均衡方法，响应更快。

以下结合具体实施例对本发明的方法进行详细说明，以便于理解，但以下实施例不作为对本发明的具体限定。

1、广告流量筛选服务器集群调用的落地应用

项目中部署一个服务集群(16台服务器)，用于提供流量筛选服务。这16台服务器负载，配置不尽相同。

客户端收到流量，调用该集群服务的时候，通过在调用端(客户端)使用该负载均衡方法实现服务器端资源的调用。

具体步骤如下：

(1)将服务器对应ip存入server链表

[s1,s2,s3,...s16]，

(2)初始化服务器得分为0

{s1:0,s2:0,...s16:0}

(3)加载得分函数，和服务器指标要求。

服务器指标要求响应时间(t)不大于50ms。

加载设置的得分函数f(t)：如果t>50ms,返回-1，否则返回1。

(4)设置服务器查询初始当前位置为0

(5)第一个流量到达

(5.1).从当前位置0开始，顺序最多查找16次，查找得分不为0的服务器，并不断更新当前位置。没有找到，这时候当前位置s0，这时候使用当前位置的下一个服务器s1作为分发服务器s

(5.2)调用s上的流量筛选服务，得到响应是时间t。调用得分函数逻辑，

如果t是60ms，得分结果是-1，s服务器的得分更新为0+-1＝-1

如果t是30ms,得分结果是1，s服务器的得分更新为0+1＝1

(6)第二个/后续流量到达

如果第一个流量调用服务的响应时间t是30ms，从s1开始执行查找逻辑，则会找到一个得分不为0的服务器s1,当前位置是s1.

如果第一个流量调用服务的响应时间t是60ms，从s1开始查找，没有得分为正的服务器，在s1处结束，这样以s2作为分发服务器s。

这样找到了分发服务器s，后面逻辑同(5).

这样，如果服务器只要有正得分(说明服务器有富余的能力)，就能分的更多流量。服务器没有正得分，说明服务器压力大，这样少拿到流量。在不同的应用中，可以根据需要调整得分函数以达到调整流量分配策略的目的。

图2为本发明实施例给出的负载均衡器的实现流程图；

下面结合具体实施方式对本申请实施例中的服务器动态负载均衡方法进行举例说明，如图2所示，作为优选实施例，本发明提供了一种通用性强，实现逻辑简单的负载均衡方案。本发明是通过以下技术方案来实现，包括如下步骤，

步骤1，根据业务需要生成一个得分函数。将业务的执行结果作为变量，如果业务执行结果符合要求，得分为正值。如果执行结果不符合要求，得分为负值。

步骤2，后端所有的(数量为n)服务器的得分初始化为0.存放在一个循环链表存储结构中。

步骤3，流量到来的时候，按照链表顺序查找第一个得分为正的服务器作为分发服务器，如果顺序查找n次没有找到得分为正的服务器，则使用当前位置的下一个服务器作为目标分发服务器。找到当前分发服务器后，执行分发流量(执行逻辑)。得到执行结果后，服务器的得分为：现在已有的得分与当前业务结果代入得分函数结果的加和。

本发明具有如下优点，

第一：通过定义得分函数，可以根据业务需要，灵活定义均衡策略。这样负载均衡策略更具有通用性；

第二：通过得分抽象了底层服务器的服务能力，这样负载均衡策略对于不同硬件配置实现了透明化；

第三：通过线性的查找方法，找到业务的分发对象，这样寻找分发对象的方法更简单。实际应用中，如果大部分服务器都可用的情况下，只需要常数次查找，就可以找到分发对象。

第四：这是一种实时的负载均衡方法，响应更快。

图3为一种服务器动态负载均衡系统结构示意图；

如图3所示，本发明第二个目的是提供一种服务器动态负载均衡系统，包括：

获取模块，用于获取业务数据；

查找模块，用于按照后端服务器循环链表顺序查找得分匹配的服务器作为分发服务器；

执行模块，用于分发服务器执行业务数据，并使得该服务器的得分减1

计算得分模块，用于执行业务数据完成后，将业务数据的执行过程作为变量，通过得分函数计算业务得分，根据业务得分和服务器当前得分加和得到新的服务器得分；

图4为电子设备结构示意图。

如图4所示，本发明第三个目的是提供一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现所述服务器动态负载均衡方法的步骤。

本发明第四个目的是提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现所述服务器动态负载均衡方法的步骤。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。

Claims (8)

1.一种服务器动态负载均衡方法，其特征在于，包括以下步骤：

获取业务数据；

按照后端服务器循环链表顺序查找得分匹配的服务器，作为分发服务器；

分发服务器执行业务数据；

执行业务数据完成后，将业务数据的执行过程作为变量，通过得分函数计算得到服务器的当前业务得分；

服务器的得分更新为：服务器得分与当前业务得分之和；

按照后端服务器循环链表顺序查找得分匹配的服务器作为分发服务器，具体是：

从当前位置，顺序查找第一个得分为正的服务器，并在查找过程中更新当前位置；

如有，则该服务器作为分发服务器；

如无，则使用当前位置的下一服务器，作为分发服务器，并更新当前位置为该服务器所在位置。

2.根据权利要求1所述的方法，其特征在于，

初次获取业务数据之前还包括：

将后端所有的服务器的得分初始化为0，存放在一个循环链表存储结构中；初始化当前位置为0。

3.根据权利要求1所述的方法，其特征在于，

所述得分函数为：

如果业务数据执行符合设置的服务器指标要求，得分为正数；如果业务执行结果不符合设置的服务器指标要求，得分为负数。

4.根据权利要求1所述的方法，其特征在于，

所述服务器的得分更新为服务器得分和得分函数结果加和。

5.根据权利要求1所述的方法，其特征在于，

所述业务数据为客户端接收到的流量。

6.一种服务器动态负载均衡系统，其特征在于，包括：

获取模块，用于获取业务数据；

查找模块，用于按照后端服务器循环链表顺序查找第一个得分匹配的服务器，作为分发服务器；按照后端服务器循环链表顺序查找得分匹配的服务器作为分发服务器，具体是：

从当前位置，顺序查找第一个得分为正的服务器，并在查找过程中更新当前位置；

如有，则该服务器作为分发服务器；

如无，则使用当前位置的下一服务器，作为分发服务器，并更新当前位置为该服务器所在位置；

执行模块，用于分发服务器执行业务数据；

计算得分模块，用于执行业务数据完成后，将业务数据的执行过程作为变量，通过得分函数计算服务器的业务得分，根据业务得分和该服务器得分计算得到新的服务器得分。

7.一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现权利要求1-5任一项所述服务器动态负载均衡方法的步骤。

8.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-5任一项所述服务器动态负载均衡方法的步骤。

Images