CN103166979A - 自适应负载均衡实现方法和接入服务器 - Google Patents

Abstract

本发明提供了自适应负载均衡实现方法和接入服务器。该方法包括：接入服务器接收到请求包后，依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器，将所述请求包发送至选择的目标业务服务器；其中，每一业务服务器的当前可用配额值根据该业务服务器的服务质量决定。

Description

自适应负载均衡实现方法和接入服务器

技术领域

本发明涉及网络通信技术，特别涉及自适应负载均衡实现方法和接入服务器。

背景技术

目前，将多个业务服务器连接构成集群，由于能够提高数据处理能力及服务能力而得到广泛应用。参见图1，图1为现有集群服务的结构示意图。在图1中，集群中的每一业务服务器都会安装一个配置客户端软件，定时向称之为配置中心的服务器(简称为配置中心服务器)上报自身的工作状态，当配置中心服务器在一段时间内没有收到某一业务服务器的状态上报时，则认为该业务服务器发生故障，将该业务服务器排除到集群外，而当配置中心服务器接收到由于故障被排除在集群之外的业务服务器上报的工作状态时，则认为该业务服务器恢复工作，将该业务服务器加入集群。

为了便于客户端顺利访问业务服务器，图1中连接客户端的每一接入服务器定时从配置中心服务器获取集群中的业务服务器列表，当接入服务器收到客户端的请求包后，采用负载均衡算法将请求包转发给对应的业务服务器处理。

其中，负载均衡算法是：由配置中心服务器预先为集群中的每台业务服务器设置最大配额，其中，业务服务器处理能力越强，配额值就越大，接入服务器根据这些最大配额值的比例分发请求包。例如，假如业务服务器列表中共有3台业务服务器，最大配额分别为100、100、200，那么，单位时间内，假如接入服务器有800个请求包需要分发，这3台业务服务器分别收到的请求包是200、200、400。

从接入服务器的视角看，业务服务器的服务质量，不仅取决于业务服务器自身的处理能力，还取决于两者之间的网络带宽、网络时延、以及该业务服务器外部环境的变化等，而现有采用的负载均衡算法，仅按照业务服务器的最大配额值比例分发请求包，即仅考虑了业务服务器自身的处理能力，而当通往业务服务器的网络出现拥塞、丢包，或该业务服务器自身性能下降时，接入服务器如果还按照最大配额值的比例分发请求包，这会导致业务服务器之间不能真正实现负载均衡。

发明内容

本发明提供了自适应负载均衡实现方法和接入服务器，以真正实现业务服务器的负载均衡。

本发明提供的技术方案包括：

一种自适应负载均衡实现方法，包括：

接入服务器接收到请求包后，依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器，将所述请求包发送至选择的目标业务服务器；

其中，每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高。

一种接入服务器，包括：

接收单元，用于接收来自客户端的请求包；

选择单元，用于依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器；其中，每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高；

发送单元，用于将所述请求包发送至选择的目标业务服务器。

由以上技术方案可以看出，本发明中，接入服务器在为请求包选择目标业务服务器时，依赖于体现业务服务器服务质量动态变化的业务服务器当前可用配额值，并非现有技术中依赖于业务服务器的最大配额值即仅依赖业务服务器自身的处理能力，由于本领域技术人员知道业务服务器的服务质量，不仅取决于业务服务器自身的处理能力，还取决于两者之间的网络带宽、网络时延、以及该业务服务器外部环境的变化等，本发明通过依赖于体现业务服务器服务质量动态变化的业务服务器当前可用配额值选择请求包的目标业务服务器，能够真正实现业务服务器的负载均衡。

附图说明

图1为现有集群服务的结构示意图；

图2为本发明实施例提供的基本流程图；

图3为本发明实施例提供的目标业务服务器确定流程图；

图4为本发明实施例提供的接入服务器结构示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

本发明提出的自适应负载均衡实现方法中，接入服务器利用根据业务服务器服务质量动态变化的当前可用配额值选择请求包的目标业务服务器，以实现负载均衡。

下面对本发明提供的方法进行描述：

图2为本发明实施例提供的方法流程图。如图2所示，该流程可包括以下步骤：

步骤201，接入服务器接收请求包。

步骤202，接入服务器依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器。

其中，每一业务服务器的当前可用配额值根据该业务服务器的服务质量动态变化，具体为：每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高。

具体地，所述业务服务器的当前可用配额值是由所述接入服务器依据当前向该业务服务器主动发送请求包、以及接收所述业务服务器针对所述请求包返回的回复包决定的，下面进行详细描述：

针对业务服务器的可用配额值，本发明定义了两个参数：第一设定值(也可称为发送步长d，其主要为业务服务器每次接收到一个请求包，该业务服务器的可用配额值所减少的单位量)和第二设定值(也可称为接收步长i，其主要为业务服务器每次发送一个回复包，该业务服务器的可用配额值所增加的单位量)。其中，d的取值范围是[1，min(P₁…P_n)]，d值越大，对业务服务器的服务质量变差的反应越敏感。i的取值范围是(d，max(P₁…P_n)]，i值越大，对业务服务器的服务质量恢复的反应越敏感。其中，P_n为第n个业务服务器的最大配额值。

基于上述两个参数，则每一业务服务器的当前可用配额值可通过以下方式确定：

针对每一业务服务器，接入服务器在该业务服务器首次接收到一个请求包时，用该业务服务器被设定的最大配额值减去d，得到的差值作为该业务服务器的当前可用配额值，在该业务服务器非首次接收请求包时，用该业务服务器的当前可用配额值减去d，得到的差值替换为该业务服务器的当前可用配额值，具体可用下面的代码1实现；以及，在该业务服务器返回一个针对请求包的回复包时，用该业务服务器的当前可用配额值加上i，得到的和替换为该业务服务器的当前可用配额值，具体可用下面的代码2实现。

需要说明的是，本发明中，每一业务服务器的当前可用配额值不大于该业务服务器被设定的最大配额值，且不小于设定的最小值比如1等，其中，当由于减去d而使得到的差值小于最小值时，可直接设置该差值为该最小值，而如果由于加i而使得到的和大于最大配额值时，可直接设置该和为该最大配额值。

代码1：

C_n＝C_n-d  //C_n为当前可用配额值；

if C_n＜最小值；

then C_n＝最小值。

代码2：

C_n＝C_n+i

if C_n＞P_n

then C_n＝P_n。

步骤203，接入服务器将所述请求包发送至选择的目标业务服务器。

至此，完成图2所示的流程。

从图2所示的流程可以看出，接入服务器是利用请求包和来自业务服务器的回复包主动探测业务服务器的服务质量，进而得到业务服务器的可用配额值的。也就是说，本发明中，基于请求包和回复包不仅可以感知业务服务器故障，还能感知网络质量的实时变化，并且，本发明中，由于接入服务器主动探测业务服务器的服务质量，并可获知各个业务服务器的当前可用配额值，因此，无需定时从配置中心服务器获取，进而也不需要为了维护配置中心服务器获取集群中各个业务服务器的工作状态，需要业务服务器安装配置客户端软件，降低成本。

另外，本发明中，步骤202具体实现时可包括：步骤A，计算集群中所有业务服务器的当前可用配额值总和C_total；步骤B，按照业务服务器编号由大至小顺序或者由小至大顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器，利用当前业务服务器的当前可用配额值和所述C_total判断当前业务服务器是否为所述请求包的目标业务服务器，如果是，则确定当前业务服务器为所述请求包的目标业务服务器，结束当前流程，否则，将当前业务服务器的下一个业务服务器重新作为当前业务服务器，返回判断当前业务服务器是否为所述请求包的目标业务服务器的操作。

其中，步骤B可通过图3所示的流程实现：

参见图3，图3为本发明实施例提供的目标业务服务器确定流程图。其中，在执行该流程之前，上述步骤A进一步包括：将所述C_total乘上设定的随机数，得到C_rand，所述随机数为0至1之间的一个数值。基于此，如图3所示，该流程可包括：

步骤301，按照业务服务器编号由大至小顺序或者由小至大顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器。

步骤302，用C_rand减去当前业务服务器的当前可用配额值，得到当前差值。

步骤303，判断当前差值是否小于等于第三设定值，如果是，确定该当前业务服务器为所述请求包的目标业务服务器，否则，执行步骤304；

步骤304，将下一个业务服务器替换为当前业务服务器，将当前差值减去当前业务服务器的当前可用配额值，将得到差值替换当前差值，返回步骤303。

其中，步骤301至步骤304具体可通过以下代码实现：

for x from 1 to n

C_rand＝C_total-C_x

if C_x≤第三设定值

then退出循环；

当前的x即为所述请求包的目标业务服务器。

至此，完成图3所示的流程。

以上对本发明提供的方法进行了描述，下面对本发明提供的接入服务器进行描述：

图4为本发明实施例提供的接入服务器结构示意图。如图4所示，该接入服务器包括：

接收单元，用于接收来自客户端的请求包；

选择单元，用于依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器；其中，每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高；

发送单元，用于将所述请求包发送至选择的目标业务服务器。

优选地，如图4所示，所述接入服务器包括：

管理单元，用于针对每一业务服务器，依据向该业务服务器主动发送请求包、以及接收所述业务服务器针对所述请求包返回的回复包决定该业务服务器的当前可用配额值。

具体地，管理单元可通过以下操作决定业务服务器的当前可用配额值，具体为：针对每一业务服务器，在该业务服务器首次接收到一个请求包时，用该业务服务器被设定的最大配额值减去第一设定值，得到的差值作为该业务服务器的当前可用配额值，在该业务服务器非首次接收请求包时，用该业务服务器的当前可用配额值减去第一设定值，得到的差值替换为该业务服务器的当前可用配额值，在该业务服务器返回一个针对请求包的回复包时，用该业务服务器的当前可用配额值加上第二设定值，得到的和替换为该业务服务器的当前可用配额值。

其中，每一业务服务器的当前可用配额值不大于该业务服务器被设定的最大配额值，且不小于设定的最小值。

如图4所示，所述选择单元可包括：

所述选择单元包括：

计算子单元，用于计算集群中所有业务服务器的当前可用配额值总和C_total；

判断子单元，用于按照顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器，利用当前业务服务器的当前可用配额值和所述C_total判断当前业务服务器是否为所述请求包的目标业务服务器，如果是，则确定当前业务服务器为所述请求包的目标业务服务器，结束当前流程，否则，将当前业务服务器的下一个业务服务器重新作为当前业务服务器，返回判断当前业务服务器是否为所述请求包的目标业务服务器的操作。

优选地，所述计算子单元进一步将所述C_total乘上设定的随机数，得到C_rand，所述随机数为0至1之间的一个数值；基于此，如图4所示，所述判断子单元包括：

排列模块，用于按照顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器；

第一计算模块，用于用C_rand减去当前业务服务器的当前可用配额值，得到当前差值；

判断模块，用于判断所述当前差值是否小于等于第三设定值，如果是，确定该当前业务服务器为所述请求包的目标业务服务器；

第二计算模块，用于在所述判断模块的判断结果为否时，将下一个业务服务器替换为当前业务服务器，并将当前差值减去当前业务服务器的当前可用配额值，将得到差值替换当前差值，触发所述判断模块继续执行判断操作。

至此，完成本发明提供的接入服务器描述。

由以上技术方案可以看出，本发明中，接入服务器在为请求包选择目标业务服务器时，依赖于体现业务服务器服务质量动态变化的业务服务器当前可用配额值，并非现有技术中依赖于业务服务器的最大配额值即仅依赖业务服务器自身的处理能力，由于业务服务器的服务质量，不仅取决于业务服务器自身的处理能力，还取决于两者之间的网络带宽、网络时延、以及该业务服务器外部环境的变化等，本发明通过依赖于体现业务服务器服务质量动态变化的业务服务器当前可用配额值选择请求包的目标业务服务器，能够真正实现业务服务器的负载均衡；

进一步地，本发明中，接入服务器是利用请求包和来自业务服务器的回复包主动探测业务服务器的服务质量，基于请求包和回复包不仅可以感知业务服务器故障，还能感知网络质量的实时变化，并且，本发明中，由于接入服务器主动探测业务服务器的服务质量，并可获知各个业务服务器的当前可用配额值，因此，无需定时从配置中心服务器获取，进而也不需要为了维护配置中心服务器获取集群中各个业务服务器的工作状态，需要业务服务器安装配置客户端软件，降低成本。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (11)

1.一种自适应负载均衡实现方法，其特征在于，该方法包括：

接入服务器接收到请求包后，依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器，将所述请求包发送至选择的目标业务服务器；

其中，每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高。

2.根据权利要求1所述的方法，其特征在于，所述业务服务器的当前可用配额值是由所述接入服务器依据当前向该业务服务器主动发送请求包、以及接收所述业务服务器针对所述请求包返回的回复包决定的。

3.根据权利要求2所述的方法，其特征在于，所述接入服务器依据当前向该业务服务器主动发送请求包、以及接收所述业务服务器针对所述请求包返回的回复包决定业务服务器的当前可用配额值包括：

针对每一业务服务器，

接入服务器在该业务服务器首次接收到一个请求包时，用该业务服务器被设定的最大配额值减去第一设定值，得到的差值作为该业务服务器的当前可用配额值，在该业务服务器非首次接收请求包时，用该业务服务器的当前可用配额值减去第一设定值，得到的差值替换为该业务服务器的当前可用配额值，在该业务服务器返回一个针对请求包的回复包时，用该业务服务器的当前可用配额值加上第二设定值，得到的和替换为该业务服务器的当前可用配额值。

4.根据权利要求1至3任一所述的方法，其特征在于，每一业务服务器的当前可用配额值不大于该业务服务器被设定的最大配额值，且不小于设定的最小值。

5.根据权利要求1至3任一所述的方法，其特征在于，所述依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器包括：

A，计算集群中所有业务服务器的当前可用配额值总和C_total；

B，按照业务服务器编号由大至小顺序或者由小至大顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器，利用当前业务服务器的当前可用配额值和所述C_total判断当前业务服务器是否为所述请求包的目标业务服务器，如果是，则确定当前业务服务器为所述请求包的目标业务服务器，结束当前流程，否则，将当前业务服务器的下一个业务服务器重新作为当前业务服务器，返回判断当前业务服务器是否为所述请求包的目标业务服务器的操作。

6.根据权利要求5所述的方法，其特征在于，步骤B之前进一步包括：将所述C_total乘上设定的随机数，得到C_rand，所述随机数为0至1之间的一个数值；

步骤B包括：

B1，按照业务服务器编号由大至小顺序或者由小至大顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器；

B2，用C_rand减去当前业务服务器的当前可用配额值，得到当前差值；

B3，判断当前差值是否小于等于第三设定值，如果是，确定该当前业务服务器为所述请求包的目标业务服务器，否则，执行步骤B4；

B4，将下一个业务服务器替换为当前业务服务器，将当前差值减去当前业务服务器的当前可用配额值，将得到差值替换当前差值，返回步骤B3。

7.一种接入服务器，其特征在于，该接入服务器包括：

接收单元，用于接收来自客户端的请求包；

选择单元，用于依据集群中所有业务服务器的当前可用配额值，并按照当前可用配额值越大、作为所述请求包的目标业务服务器的概率越大的原则从所述集群中选择所述请求包的目标业务服务器；其中，每一业务服务器的当前可用配额值由该业务服务器的当前服务质量决定，如果业务服务器的当前服务质量越差，则该业务服务器的当前可用配额值就越低，反之，如果业务服务器的当前服务质量越好，则该业务服务器的当前可用配额值就越高；

发送单元，用于将所述请求包发送至选择的目标业务服务器。

8.根据权利要求7所述的接入服务器，其特征在于，所述接入服务器包括：

管理单元，用于针对每一业务服务器，依据向该业务服务器主动发送请求包、以及接收所述业务服务器针对所述请求包返回的回复包决定该业务服务器的当前可用配额值。

9.根据权利要求8所述的接入服务器，其特征在于，所述管理单元针对每一业务服务器，在该业务服务器首次接收到一个请求包时，用该业务服务器被设定的最大配额值减去第一设定值，得到的差值作为该业务服务器的当前可用配额值，在该业务服务器非首次接收请求包时，用该业务服务器的当前可用配额值减去第一设定值，得到的差值替换为该业务服务器的当前可用配额值，在该业务服务器返回一个针对请求包的回复包时，用该业务服务器的当前可用配额值加上第二设定值，得到的和替换为该业务服务器的当前可用配额值。

10.根据权利要求7至9任一所述的接入服务器，其特征在于，所述选择单元包括：

计算子单元，用于计算集群中所有业务服务器的当前可用配额值总和C_total；

判断子单元，用于按照顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器，利用当前业务服务器的当前可用配额值和所述C_total判断当前业务服务器是否为所述请求包的目标业务服务器，如果是，则确定当前业务服务器为所述请求包的目标业务服务器，结束当前流程，否则，将当前业务服务器的下一个业务服务器重新作为当前业务服务器，返回判断当前业务服务器是否为所述请求包的目标业务服务器的操作。

11.根据权利要求10所述的接入服务器，其特征在于，所述计算子单元进一步将所述C_total乘上设定的随机数，得到C_rand，所述随机数为0至1之间的一个数值；

所述判断子单元包括：

排列模块，用于按照顺序排列集群中所有业务服务器，将排列后的第一个业务服务器作为当前业务服务器；

第一计算模块，用于用C_rand减去当前业务服务器的当前可用配额值，得到当前差值；

判断模块，用于判断所述当前差值是否小于等于第三设定值，如果是，确定该当前业务服务器为所述请求包的目标业务服务器；

第二计算模块，用于在所述判断模块的判断结果为否时，将下一个业务服务器替换为当前业务服务器，并将当前差值减去当前业务服务器的当前可用配额值，将得到差值替换当前差值，触发所述判断模块继续执行判断操作。

Images