CN1835453A

CN1835453A - 一种实现分布式系统中负载分担的方法

Info

Publication number: CN1835453A
Application number: CN 200510055582
Authority: CN
Inventors: 沈伟峰
Original assignee: Huawei Technologies Co Ltd
Current assignee: XFusion Digital Technologies Co Ltd
Priority date: 2005-03-16
Filing date: 2005-03-16
Publication date: 2006-09-20
Anticipated expiration: 2025-03-16
Also published as: CN100362806C

Abstract

本发明公开了一种实现分布式系统负载分担的方法。该方法的过程包括：客户端根据任务请求估计任务负载消耗，同时获取服务器负载信息；然后，客户端根据任务负载消耗和服务器负载信息选择备选服务器，并在备选服务器中概率地分配任务。本发明的这种方法根据任务负载消耗和服务器的剩余负载能力概率地分配任务，在尽量满足任务处理需求的同时，更好地抑制服务器的任务过载现象，同时使服务器之间的负载更为均衡，提高系统的稳定性。

Description

一种实现分布式系统中负载分担的方法

技术领域

本发明涉及分布式系统的应用，尤指一种实现分布式系统负载分担的方法。

背景技术

分布式系统是指由多个相互独立又相互合作的节点组成的计算机系统，节点之间通过网络或通信线路连接。分布式系统中的节点按照作用的不同分为客户机和服务器两类，其中客户机产生并发出任务请求，而服务器负责处理客户机发出的任务，故可以抽象地将分布式系统用客户机-服务器模型表示。图1和图2是分布式系统的两种组成结构图，系统可以如图1所示为客户机101设置代理机103，通过代理机103向服务器102分配任务，也可以如图2所示采用客户机101与服务器102直连的方式，由客户机101直接向服务器102发出任务请求。

对一个分布式系统而言，各个服务器的任务处理能力存在差异。当分布式系统运行一段时间后，会出现某些服务器的负载重而某些服务器处于空闲状态的负载不均衡现象。本申请中提到服务器的当前负载是指服务器当前所处理的任务占用的服务器资源，当前负载的衡量标准较为多样，可以体现为服务器的CPU占用情况，或是传输带宽的占用情况，或是内存占用情况，或是其它可量化指标的归一折算。负载不均衡现象会降低系统的工作效率，所以在分布式系统的实际应用中采用负载分担方法来避免负载不均衡现象，使系统的任务分配更为优化。

目前，分布式系统的负载分担方法主要有以下两种：

第一种是最闲最优先方法。顾名思义，最闲最优先指的是由系统中最闲的服务器处理客户机发出的任务，所述最闲的服务器是指负载最轻的服务器。

下面以图2所示的分布式系统为例，说明最闲最优先方法的负载分担过程，假设客户机A在系统某时刻产生任务请求。

首先，客户机A获取分布式系统中所有服务器的负载信息。其中，负载信息包括服务器的最大处理能力和当前负载。图1中共有A、B、C、D四个服务器，若服务器的最大处理能力为100％，则当前负载可以用服务器的CPU占用率衡量。假设服务器A的当前负载为40％，服务器B的当前负载为20％，服务器C的当前负载为30％，服务器D的当前负载为90％。

然后，客户机A根据所有服务器的当前负载寻找负载最轻的服务器。从上述CPU占用情况可以看出，服务器B的负载最轻。

最后，客户机A将其任务请求发送给服务器B处理。

对于图1所示的分布式系统，客户机A首先将任务请求发送给代理机103，然后由代理机103获取分布式系统中所有服务器102的负载信息并寻找负载最轻的服务器。

最闲最优先方法在实现分布式系统的负载分担时，存在以下问题：

其一、由于所有客户机101发送任务请求的能力是对等的，若多个客户机在同一时刻发送任务请求，那么客户机都会将自身的任务请求发送给同一个负载最轻的服务器处理，这样该服务器的负载会在较短时间内攀升，可能从负载最轻的节点变为负载最重的节点。这种负载攀升在极端的情况下还会引起整个系统崩溃，所以该方法在很大程度上降低了分布式系统的稳定性。

其二、最闲最优先方法只考虑服务器的负载情况，却没有考虑完成任务所需的负载消耗。所述任务负载消耗是指：客户机发出的任务所需占用的服务器资源。

第二种是轮选法，即RoundRobin算法。该方法将客户机的所有任务请求排成任务队列，在所有的服务器中轮流分配任务。

该方法一般应用于图1所示的系统中，故下面以图1为例说明轮选法的工作过程：首先，客户机101将任务请求发送给代理机103。然后，代理机103按照一定顺序将任务请求排成等待处理的任务队列。其中，任务请求的排列顺序较为灵活，可以按照时间先后排列，也可以按照代理机的指定顺序排列，此处不详加说明。最后，代理机将任务轮流分配给系统中的服务器。假设代理机的任务队列中共有七个任务请求等待处理，则代理机103将任务1分配给服务器A处理，将任务2分配给服务器B处理，依此顺序轮流分配任务。

轮选法的缺陷在于：该方法没有考虑服务器当前的负载状态，也没有考虑完成任务所需的负载消耗，所以采用该方法容易导致服务器间负载不平衡，从而导致分布式系统的整体性能下降。

发明内容

有鉴于此，本发明的主要目的在于提供一种实现分布式系统中负载分担的方法，使服务器之间的负载分担尽可能达到均衡。

为达到上述目的，本发明的技术方案具体是这样实现的：

一种实现分布式系统负载分担的方法，其特征在于，该方法包括以下步骤：

a、客户端根据任务请求估计任务负载消耗，同时获取服务器负载信息；

b、客户端根据任务负载消耗和服务器负载信息向服务器分配任务。

进一步地，步骤b包括：

b1、客户端根据任务负载消耗和服务器负载信息选择备选服务器；

b2、客户端在备选服务器中概率地分配任务。

进一步地，步骤a所述的服务器负载信息包括最大处理能力和当前负载；

步骤b1所述的方法包括以下步骤：

b11、客户端根据服务器的最大处理能力和当前负载获得服务器的剩余处理能力；

b12、客户端选择剩余处理能力大于任务负载消耗的服务器，作为备选服务器。

进一步地，步骤b2所述的方法包括：

b21、客户端根据所有备选服务器的剩余处理能力获得分布式系统的总处理能力；

b22、客户端产生一个0到步骤b21获得的总处理能力之间的随机数；

b23、客户端将随机数逐个减去备选服务器的剩余处理能力，每执行一次减操作判断结果是否小于0，如果结果小于0，则客户端分配任务给该次减操作对应的备选服务器，如果结果不小于0，则客户端选择下一个备选服务器的剩余处理能力执行减操作。

较佳地，步骤b22中，客户端产生一个服从均匀分布的随机数。

较佳地，步骤b22所述的随机数采用蒙特·卡罗算法，或坐标法生成。

进一步地，客户端根据服务器的CPU占有率，或内存占有率，或传输带宽占有率，或上述三种指标的归一折算获得任务负载消耗；

服务器负载信息为服务器的CPU占有情况，或内存占有情况，或传输带宽占有情况，或上述三种情况的归一折算。

上述方法中，客户端根据任务的计算量，或变量数目，或循环次数获得任务负载消耗。

较佳地，所述客户端为客户机或代理机。

进一步地，当所述客户端为代理机时，所述步骤a之前进一步包括：客户机产生任务请求，并将任务请求发送至代理机。

由上述的技术方案可见，本发明的这种实现分布式系统中负载分担的方法根据任务负载消耗和服务器的剩余负载能力概率地分配任务，在尽量满足任务处理需求的同时，更好地抑制服务器的任务过载现象，同时使服务器之间的负载更为均衡，提高系统的稳定性。

附图说明

图1为现有技术中分布式系统的一种组成结构图；

图2为现有技术中分布式系统的另一种组成结构图；

图3为本发明中图1所示的分布式系统实现负载分担的流程图；

图4为图3所示实施例中系统产生的随机数和总处理能力的关系示意图；

图5为本发明中图2所示的分布式系统实现负载分担的流程图。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚明白，以下参照附图并举实施例，对本发明进一步详细说明。

本发明中，可以由客户机获取所有服务器的负载信息，也可以由代理机获取所有服务器的负载信息，这取决于分布式系统的结构。

在第一实施例中，分布式系统采用图1所示的结构，则实现负载分担的过程如图3所示：

步骤301、客户机A产生任务请求，并将任务请求发送给代理机103。

步骤302、代理机103估算客户机A的任务负载消耗并获取所有服务器的负载信息。

假设服务器负载信息以及任务负载消耗均采用CPU占用率衡量，则代理机103可以根据任务的计算量、变量数目或循环次数从CPU占用的角度估算出客户机A的任务负载消耗，代理机103还可以根据其它性能参数或者根据处理任务的实际需要估算出客户机A的任务负载消耗。

本实施例中，假设服务器A的CPU占用率为40％，服务器B的CPU占用率为20％，服务器C的CPU占用率为30％，服务器D的CPU占用率为90％。客户机A的任务负载消耗为20％。

步骤303、代理机103选择剩余负载能力大于任务负载消耗的服务器，作为承担任务的备选服务器，并在备选服务器中概率地分配任务。该步骤具体执行如下：

1、确定备选服务器，并按照公式(1)得到分布式系统当前的总处理能力Sum。

Sum = Σ_{i = 1}^{N} (MaxCa p_{i} - Loa d_{i}) - - - (1)

其中，MaxCap是服务器的最大处理能力，Load为服务器的当前负载。本实施例中，由于服务器负载采用CPU占用率衡量，故所有服务器的最大处理能力都为100％。由步骤302获得的服务器当前负载可得，服务器A的剩余负载能力MaxCap₁-Load₁为60％，服务器B的剩余负载能力MaxCap₂-Load₂为80％，服务器C的剩余负载能力MaxCap₃-Load₃为70％，均大于客户机A的任务负载消耗20％，故服务器A、服务器B和服务器C为备选服务器。

由公式(1)可得，系统的总处理能力Sum为210％。

2、产生一个在0到Sum之间满足均匀分布条件的随机数Rand，图4是随机数Rand和总处理能力Sum之间的关系示意图。将产生的随机数Rand依次减去各个备选服务器的剩余负载能力。如公式(2)所示，在减去某个备选服务器i的剩余负载能力后，代理机判断Rand是否小于0，如果小于0则选择该备选服务器处理步骤301中客户机A产生的任务；如果不小于0，则Rand继续减去其它备选服务器的剩余负载能力。上述i是从1到N的整数。

Rand＝Rand-(MaxCap_i-Load_i) (2)

本实施例中，假设随机数Rand为135％，则首先减去服务器A的剩余负载能力，此时Rand仍然大于0，则代理机不选择服务器A处理任务；接着，Rand减去服务器B的剩余负载能力，这时Rand小于0，则客户机A产生的任务由服务器B处理。

上述满足均匀分布条件的随机数可以采用蒙特·卡罗算法(Monte-CarloAlgorithm)生成，也可以采用坐标法(Coordinate Algorithm)生成。

由以上说明可以看出，本实施例所采用的负载分担方法是在满足任务负载消耗的服务器间概率地分配任务，备选服务器的剩余负载能力都要大于任务负载消耗。同时，本实施例在分配任务时引入随机数Rand，故任务分配到某个备选服务器的概率和该服务器的剩余负载能力相关。比如：随机数Rand为35％时，若服务器A的剩余负载能力为40％，则公式(2)左边的Rand为-5％，任务将分配给服务器A处理；若服务器A的剩余负载能力为30％，则公式(2)左边的Rand为5％，所以任务不分配给服务器A处理。由此看出，备选服务器的剩余负载能力越大，任务分配到该服务器的概率越大。

在极端的情况下，若某个任务负载消耗大于所有服务器的剩余负载能力，分布式系统将不处理该任务请求。

上述实施例中，服务器负载信息以及任务负载消耗还可以采用传输带宽的占用率，或是内存占用率，或是其它可量化指标的归一折算来衡量。

在第二实施例中，分布式系统采用图2所示的结构，则实现负载分担的过程如图5所示：

步骤501、客户机A产生任务请求，估算自身的任务负载消耗并获取所有服务器的负载信息。

由于本实施例所述的负载分担方法针对图2所示的结构，故该步骤中由客户机A计算自身的任务负载消耗并负责获取所有服务器的负载信息。

步骤502、客户机A选择剩余负载能力大于任务负载消耗的服务器，作为承担任务的备选服务器，并在备选服务器中概率地分配任务。该步骤与图3所示的步骤303类似，此处不再详加描述。

本发明中，为了方便对图1和图2所示的分布式系统进行统一描述，可以将客户机和代理机统称为客户端。

由上述的实施例可见，本发明的这种实现分布式系统中负载分担的方法在尽量满足任务处理需求的同时，将任务分配给更有能力承担的服务器处理，使服务器之间的负载更为均衡，提高系统的稳定性。

Claims

1、一种实现分布式系统负载分担的方法，其特征在于，该方法包括以下步骤：

2、根据权利要求1所述的方法，其特征在于，步骤b包括：

b2、客户端在备选服务器中概率地分配任务。

3、根据权利要求2所述的方法，其特征在于，步骤a所述的服务器负载信息包括最大处理能力和当前负载；

步骤b1所述的方法包括以下步骤：

4、根据权利要求2或3所述的方法，其特征在于，步骤b2所述的方法包括：

5、根据权利要求4所述的方法，其特征在于，步骤b22中，客户端产生一个服从均匀分布的随机数。

6、根据权利要求5所述的方法，其特征在于，步骤b22所述的随机数采用蒙特·卡罗算法，或坐标法生成。

7、根据权利要求1至3任一项所述的方法，其特征在于，客户端根据服务器的CPU占有率，或内存占有率，或传输带宽占有率，或上述三种指标的归一折算获得任务负载消耗；

8、根据权利要求7所述的方法，其特征在于，客户端根据任务的计算量，或变量数目，或循环次数获得任务负载消耗。

9、根据权利要求1至3任一项所述的方法，其特征在于，所述客户端为客户机或代理机。

10、根据权利要求9所述的方法，其特征在于，当所述客户端为代理机时，所述步骤a之前进一步包括：客户机产生任务请求，并将任务请求发送至代理机。