CN101207635A - 服务器、客户机、负载平衡系统及其负载平衡方法 - Google Patents

Abstract

提供了一种服务器、客户机、负载平衡系统及其负载平衡方法，该负载平衡系统包括：多个服务器，处理网络通信量；客户机，向所述多个服务器的每一个发送连接请求信号，如果从所述多个服务器中的至少一个服务器接收到与该连接请求信号对应的响应信号，则连接到发送最先接收到的响应信号的服务器。因此，在没有单独的负载平衡器的情况下，仍可以有效分配通信量负载。

Description

服务器、客户机、负载平衡系统及其负载平衡方法

技术领域

本发明的各方面涉及一种服务器、客户机、负载平衡系统及其负载平衡方法，更具体地讲，涉及一种其中通信量负载(traffic load)能够有效分配的服务器、客户机、负载平衡系统及其负载平衡方法。

背景技术

图1是传统负载平衡系统100的框图。如图1中所示，负载平衡系统100包括多个客户机10-1、10-2、……、10-N、负载平衡器20以及多个服务器30-1、30-2、30-3、……、30-N。

负载平衡系统100将所述多个服务器30-1、30-2、30-3、……、30-N注册到负载平衡器20，并周期性地准备负载水平表。所述多个服务器30-1、30-2、30-3、……、30-N的负载信息被收集在该负载水平表中，以便于负载平衡系统100调整负载水平。通过轮替(round robin)方法从具有常规负载水平或更低的负载水平的服务器中选择具有相同水平的服务器，以执行负载平衡。

换言之，当响应于来自所述多个客户机10-1、10-2、……、10-N的连接请求而选择服务器时，负载平衡器20使用轮替方法从所述多个服务器30-1、30-2、30-3、……、30-N中选择具有最低负载水平的服务器。为此，所述多个服务器30-1、30-2、30-3、……、30-N中的每一个将它们各自的负载信息发送给负载平衡器20，并周期性地监控负载状态。如果负载状态改变，则服务器30-1、30-2、30-3、……、30-N可将改变的状态通知给负载平衡器20。

此外，负载平衡器20可针对所述多个服务器30-1、30-2、30-3、……、30-N的负载状态来调整负载水平，并响应于来自所述多个客户机10-1、10-2、……、10-N的连接请求而选择具有最低负载水平的服务器。

传统负载平衡系统100使用负载平衡器20来执行负载平衡。结果，可能需要支付额外的费用来购买负载平衡器20。此外，由于负载平衡器20必须周期性地收集所述多个服务器30-1、30-2、30-3、……、30-N的负载状态，所以应该减小服务器30-1、30-2、30-3、……、30-N的监控周期，以便反映动态改变的服务器的负载状态。如果无法减小该周期，则难以精确地反映服务器30-1、30-2、30-3、……、30-N的负载状态。

此外，如果客户机过分请求连接，则负载可能集中于负载平衡器20。相应地，如果负载平衡器20瘫痪，则无法执行负载平衡。

发明内容

本发明的各方面涉及一种其中通信量负载能够被有效分配的服务器、客户机、负载平衡系统及其负载平衡方法。

根据本发明的一方面，提供一种负载平衡系统，包括：多个服务器，处理网络通信量；客户机，向所述多个服务器的每一个发送连接请求信号，如果从所述多个服务器中的至少一个服务器接收到与该连接请求信号对应的响应信号，则连接到发送最先接收到的响应信号的服务器。

根据本发明的一方面，所述多个服务器中的每一个可基于其负载状态来计算延迟时间，并在计算出的延迟时间过去之后向客户机发送响应信号。

根据本发明的一方面，所述多个服务器的每一个可根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示用于测量服务器负载的项目的权重，MT表示最大响应时间。

根据本发明的另一方面，提供一种包括多个服务器的负载平衡系统中的客户机，该客户机包括：网络接口，向所述多个服务器发送信号，并从所述多个服务器接收信号；控制器，向所述多个服务器发送连接请求信号，如果接收到与该连接请求信号对应的响应信号，则连接到发送最先接收到的响应信号的服务器。

根据本发明的另一方面，提供一种包括客户机的负载平衡系统中的服务器，该服务器包括：网络接口，向客户机发送信号，并从客户机接收信号；计算单元，基于服务器的负载状态来计算延迟时间；控制器，如果从客户机接收到连接请求信号，则在计算出的延迟时间过去之后向客户机发送与该连接请求信号对应的响应信号。

根据本发明的一方面，所述计算单元可根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示用于测量服务器负载的项目的权重，MT表示最大响应时间。

根据本发明的另一方面，提供一种负载平衡方法，包括：从客户机向多个服务器发送连接请求信号；从所述多个服务器的每一个向客户机发送与该连接请求信号对应的响应信号；接收来自所述多个服务器的响应信号，并连接到发送接收到的响应信号中的最先接收到的第一响应信号的服务器。

根据本发明的另一方面，发送响应信号的步骤包括：基于所述多个服务器的每一个的负载状态来计算每一服务器的延迟时间；在计算出的延迟时间过去之后，向客户机发送响应信号。

根据本发明的另一方面，所述多个服务器中的每一个可根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示所述项目的权重，MT表示最大响应时间。

根据本发明的另一方面，提供一种包括多个服务器的负载平衡系统中的客户机的负载平衡方法，该方法包括：向所述多个服务器中的每一个发送连接请求信号；从所述多个服务器接收与该连接请求信号对应的响应信号；连接到发送接收到的响应信号中的最先接收到的响应信号的服务器。

根据本发明的另一方面，提供一种包括客户机的负载平衡系统中的服务器的负载平衡方法，该方法包括：接收来自客户机的连接请求信号；基于服务器的负载状态来计算延迟时间；在计算出的延迟时间过去之后，向客户机发送与连接请求信号对应的响应信号。

根据本发明的另一方面，计算延迟时间的步骤可包括根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示所述项目的权重，MT表示最大响应时间。

本发明的另外方面和/或优点将在下面的描述中被部分地阐述，并且部分地根据描述将变得明显，或者可通过实施本发明而了解。

附图说明

通过下面结合附图对实施例的描述，本发明的这些和/或其他方面和优点将变得明显并且更容易理解，其中：

图1是传统负载平衡系统的框图；

图2是根据本发明实施例的负载平衡系统的框图；

图3是根据本发明实施例的客户机的框图；

图4是根据本发明实施例的服务器的框图；

图5至图7是解释根据本发明实施例的负载平衡方法的流程图。

具体实施方式

现在，将详细描述本发明的当前实施例，其示例表示在附图中，在附图中，相同的标号始终表示相同的部件。下面，将参照附图描述实施例以解释本发明。

图2是根据本发明实施例的负载平衡系统200的框图。如图2所示，负载平衡系统200包括客户机210和多个服务器220-1、220-2、220-3、……、220-N。客户机210可以是笔记本、个人计算机、个人数字助理(PDA)、移动电话或者与多个服务器220-1、220-2、220-3、……、220-N建立连接的任何其它装置。

客户机210可向所述多个服务器220-1、220-2、220-3、……、220-N发送连接请求信号。客户机210可将服务器列表(如所述多个服务器220-1、220-2、220-3、……、220-N的互联网协议(IP)地址的列表)存储在存储单元(未示出)中。因此，客户机210可向所述多个服务器220-1、220-2、220-3、……、220-N中的每一个发送连接请求信号。

此外，如果接收到与连接请求信号对应的多个响应信号，则客户机210可连接到发送最先接收到的响应信号的服务器。例如，如果从所述多个服务器220-1、220-2、220-3、……、220-N中的第一服务器220-1、第二服务器220-2和第三服务器220-3接收到响应信号，则客户机210可连接到发送最先接收到的响应信号的服务器220-1。换言之，由于在所述多个服务器220-1、220-2、220-3、……、220-N中，最先接收到具有最低负载水平的服务器220-1的响应信号，所以客户机210连接到发送最先接收到的响应信号的第一服务器220-1。

所述多个服务器220-1、220-2、220-3、……、220-N处理网络通信量。具体地讲，所述多个服务器220-1、220-2、220-3、……、220-N的每一个可基于其负载状态来计算延迟时间，在计算出的延迟时间过去之后，向客户机210发送响应信号。结果，响应信号的发送时间取决于所述多个服务器220-1、220-2、220-3、……、220-N的每一个的负载状态。如果假设网络状态相同(即，不存在影响响应信号的发送时间的其它变量)，则客户机210可最先接收到从具有最低负载水平的服务器发送来的响应信号。因此，服务器220-1、220-2、220-3、……、220-N的负载状态可被实时反映，从而可有效地分配通信量或负载。

图3是根据本发明实施例的客户机210的框图。如图3中所示，客户机210包括第一网络接口310和第一控制器320。

参照图2和图3，在第一控制器320的控制下，第一网络接口310向所述多个服务器220-1、220-2、220-3、……、220-N发送信号，并从所述多个服务器220-1、220-2、220-3、……、220-N接收信号。具体地讲，第一网络接口310可向所述多个服务器220-1、220-2、220-3、……、220-N发送连接请求信号，并从所述多个服务器220-1、220-2、220-3、……、220-N中的至少一些服务器接收响应信号。

第一控制器320控制客户机210的整个操作。此外，第一控制器320可控制第一网络接口310向所述多个服务器220-1、220-2、220-3、……、220-N发送连接请求信号。

如果通过第一网络接口310从所述多个服务器220-1、220-2、220-3、……、220-N中的至少一个服务器接收到与连接请求信号对应的响应信号，则第一控制器320可连接到发送最先接收到的响应信号的服务器。

第一网络接口310在每一响应延迟时间过去之后接收到来自服务器220-1、220-2、220-3、……、220-N的每一响应信号。响应延迟时间是指基于服务器的性能的延迟往返时间(DRTT)，可使用下面的方程式来计算响应延迟时间：

[方程式1]

DRTT＝RTT+DT

在方程式1中，DRTT表示响应延迟时间，RTT表示往返时间，DT表示服务器的延迟时间。响应延迟时间DRTT基于延迟时间DT和往返时间RTT，它表示发送连接请求信号所需的时间以及接收响应信号所需的时间。在响应延迟时间过去之后，可接收到响应信号。

因此，第一控制器320可最先接收到所述多个服务器220-1、220-2、220-3、……、220-N中的具有最低负载水平的服务器的响应信号。此外，一旦第一控制器320连接到发送最先接收到的响应信号的服务器，第一控制器320就可忽略在最先接收到的信号之后接收到的响应信号。

图4是根据本发明实施例的服务器220的框图。如图4所示，服务器220包括第二网络接口410、计算单元420和第二控制器430。

在第二控制器430的控制下，第二网络接口410向客户机发送信号，并从客户机接收信号。具体地讲，第二网络接口410可从客户机接收连接请求信号，并向客户机发送响应信号。

计算单元420可基于负载状态来计算延迟时间。负载状态可基于所使用的中央处理单元(CPU)(未示出)的处理容量(capacity)以及所使用的存储单元(未示出)的存储容量。

例如，计算单元420可使用下面的方程式来计算延迟时间：

[方程式2]

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT}$

在方程式2中，DT表示延迟时间，LTi表示每一项目的服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示服务器负载项目的权重，MT表示最大响应时间。服务器负载量LTi可以是所使用的CPU容量以及所使用的存储器容量。即，如果测量所使用的CPU容量和存储器容量作为服务器负载量，则LT1可以是所使用的CPU容量，LT2可以是所使用的存储器容量。

可如下面的示例所示来计算延迟时间。如果LT1约为50％，LT2约为25％，LW约为1，MT(服务器负载敏感度)约为3秒，则DT可为((0.5×1+0.25×1)/2)×3＝1.125秒。换言之，服务器220的延迟时间DT约为1.125秒。

因此，可根据服务器负载量LT以及指示服务器负载敏感度的最大响应时间MT来确定服务器220的延迟时间DT。指示服务器负载敏感度的最大响应时间MT可取决于服务器的性能，并且可以在(例如)约3秒至约10秒之间的范围内。然而，应该理解，根据设计目的，最大响应时间MT可以是另一个值，如任意值。

第二控制器430可控制服务器220的整个操作。此外，如果通过第二网络接口410接收到连接请求信号，则第二控制器430可在由计算单元420计算的延迟时间过去之后，将与连接请求信号对应的响应信号发送给客户机。换言之，在根据负载状态LT和最大响应时间MT确定的延迟时间DT过去之后，第二控制器430将与连接请求信号对应的响应信号发送给客户机。

基于所述多个服务器的每一个的负载状态来发送响应信号，从而具有最低负载水平的服务器的响应信号最先被发送到客户机。动态改变的服务器负载状态被实时反映，从而可进行负载平衡。

图5至图7是解释根据本发明实施例的负载平衡方法的流程图。图5是解释根据本发明实施例的客户机的负载平衡方法的流程图。如图5所示，在操作S510中，客户机向多个服务器发送连接请求信号。客户机可根据服务器列表来向所述多个服务器发送连接请求信号。

如果从所述多个服务器接收到响应信号(操作S520)，则在操作S530，客户机可连接到发送接收到的信号中的最先接收到的响应信号的服务器。在响应延迟时间过去之后接收到响应信号。响应延迟时间是指基于服务器性能的延迟往返时间(DRTT)，可使用上述方程式1来计算响应延迟时间。相应地，除了服务器的性能之外，还可基于网络状态来进行负载平衡。

图6是解释根据本发明实施例的服务器的负载平衡方法的流程图。如图6中所示，如果从客户机接收到连接请求信号(操作S610)，则在操作S620，服务器可基于其负载状态来计算延迟时间。可使用上述方程式2来计算延迟时间。

可根据服务器负载量LT和指示服务器负载敏感度的最大响应时间MT来确定服务器的延迟时间。指示服务器负载敏感度的最大响应时间MT可取决于服务器的性能，并且可以在(例如)约3秒至约10秒之间的范围内。然而，应该理解，根据设计目的，最大响应时间MT可以是另一个值，如任意值。

在计算出的延迟时间过去之后，在操作S630，服务器将与连接请求信号对应的响应信号发送给客户机。因此，动态改变的服务器负载状态被实时反映，从而可进行负载平衡。

图7是解释根据本发明实施例的负载平衡方法的流程图。参照图7，在操作S710，客户机向多个服务器发送连接请求信号。如果接收到连接请求信号，则在操作S720，每一服务器计算各自的延迟时间。可使用上述方程式2来计算延迟时间。

在计算出的延迟时间过去之后，在操作S730，各个服务器将与连接请求信号对应的响应信号发送给客户机。客户机接收来自所述多个服务器的响应信号。具体地讲，在响应延迟时间过去之后接收到响应信号。响应延迟时间基于服务器的延迟时间DT和服务器的往返时间RTT，它表示发送连接请求信号所需的时间以及接收响应信号所需的时间。在响应延迟时间过去之后，接收到响应信号。

在操作S740，客户机确定接收的响应信号是否是最先接收到的信号。

如果确定接收到的响应信号是最先接收到的信号(操作S740-Y)，则在操作S750，客户机连接到发送所接收的响应信号的服务器。如果确定接收到的响应信号不是最先接收到的信号(操作S740-N)，则客户机忽略所接收的响应信号。

如上所述，根据本发明的各方面，可有效分配通信量负载。此外，在不使用负载平衡器的情况下，可防止过载，并且可分散地使用多个服务器。此外，在没有来自服务器的响应的情况下，客户机不会尝试连接到该服务器。

本发明的各方面还可实施为计算机可读记录介质上的计算可读代码。此外，本发明所属技术领域的程序员能够容易地解释用于实现本发明的代码和代码段。计算机可读记录介质是能够存储随后可由计算机系统或计算机代码处理设备读取的数据的任何数据存储装置。计算机可读记录介质的例子包括只读存储器(ROM)、随机存取存储器(RAM)、CD-ROM、磁带、软盘、光学数据存储装置和嵌入载波中的计算机数据信号(如通过互联网的数据传输)，所述计算机数据信号包括包含代码的压缩源代码段以及包含代码的加密源代码段。计算机可读记录介质还可分布在联网的计算机系统上，从而计算机可读代码可以以分布式方式存储和执行。

尽管已显示和描述了本发明的几个实施例，但是本领域技术人员应该理解，在不脱离由权利要求及其等同物限定其范围的本发明的原理和精神的情况下，可对该实施例进行改变。

Claims (25)

1.一种负载平衡系统，包括：

多个服务器，处理网络通信量；

客户机，向所述多个服务器的每一个发送连接请求信号，如果从所述多个服务器中的至少一个服务器接收到与该连接请求信号对应的响应信号，则连接到服务器中发送最先接收到的响应信号的服务器上。

2.如权利要求1所述的系统，其中，所述多个服务器中的每一个基于其负载状态来计算延迟时间，并在计算出的延迟时间过去之后向客户机发送响应信号。

3.如权利要求2所述的系统，其中，所述多个服务器的每一个根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示用于测量服务器负载的项目的权重，MT表示最大响应时间。

4.如权利要求3所述的系统，其中，服务器负载量LT是CPU容量。

5.如权利要求3所述的系统，其中，服务器负载量LT是存储器容量。

6.如权利要求1所述的系统，其中，客户机存储包括所述多个服务器的列表的服务器列表，以便向所述多个服务器的每一个发送连接请求信号。

7.如权利要求6所述的系统，其中，所述服务器列表包括所述多个服务器的IP地址。

8.如权利要求1所述的系统，其中，客户机忽略在最先接收到的响应信号之后从另一服务器接收到的第二接收到的响应信号。

9.一种包括多个服务器的负载平衡系统中的客户机，该客户机包括：

网络接口，向所述多个服务器发送连接请求信号，并从所述多个服务器接收响应信号；

控制器，控制网络接口向所述多个服务器发送连接请求信号，如果接收到与该连接请求信号对应的至少一个响应信号，则连接到服务器中发送最先接收到的响应信号的服务器上。

10.如权利要求9所述的客户机，其中，所述控制器控制网络接口根据客户机所存储的服务器列表来向所述多个服务器中的每一个发送连接请求信号。

11.如权利要求10所述的客户机，所述服务器列表包括所述多个服务器的IP地址。

12.如权利要求9所述的客户机，其中，所述控制器忽略在最先接收到的响应信号之后从另一服务器接收到的第二接收到的响应信号。

13.一种包括客户机的负载平衡系统中的服务器，该服务器包括：

网络接口，向客户机发送响应信号，并从客户机接收连接请求信号；

计算单元，基于服务器的负载状态来计算延迟时间；

控制器，如果从客户机接收到连接请求信号，则在计算出的延迟时间过去之后向客户机发送与该连接请求信号对应的响应信号。

14.如权利要求13所述的服务器，其中，所述计算单元根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示所述项目的权重，MT表示最大响应时间。

15.如权利要求14所述的服务器，其中，服务器负载量LT是服务器的CPU容量。

16.如权利要求14所述的服务器，其中，服务器负载量LT是服务器的存储器容量。

17.一种负载平衡方法，包括：

从客户机向多个服务器中的每一个发送连接请求信号；

从所述多个服务器的每一个向客户机发送与该连接请求信号对应的响应信号；

接收来自所述多个服务器的响应信号，并连接到服务器中发送接收到的响应信号中的最先接收到的响应信号的服务器上。

18.如权利要求17所述的方法，其中，发送响应信号的步骤包括：

基于每一服务器的负载状态来计算所述多个服务器的每一个的延迟时间；

在计算出的延迟时间过去之后，向客户机发送响应信号。

19.如权利要求18所述的方法，其中，所述多个服务器的每一个根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示用于测量服务器负载的项目的权重，MT表示最大响应时间。

20.一种包括多个服务器的负载平衡系统中的客户机的负载平衡方法，该方法包括：

向所述多个服务器的每一个发送连接请求信号；

从所述多个服务器接收与该连接请求信号对应的响应信号；

连接到服务器中发送接收到的响应信号中的最先接收到的响应信号的服务器上。

21.一种包括客户机的负载平衡系统中的服务器的负载平衡方法，该方法包括：

接收来自客户机的连接请求信号；

基于服务器的负载状态来计算延迟时间；

在计算出的延迟时间过去之后，向客户机发送与连接请求信号对应的响应信号。

22.如权利要求21所述的方法，其中，计算延迟时间的步骤包括：

根据下面的方程式来计算延迟时间：

$\mathrm{DT}=\frac{\underset{i=1}{\overset{\mathrm{LC}}{\mathrm{\Σ}}}\mathrm{LTi}\×\mathrm{LWi}}{\mathrm{LC}}\×\mathrm{MT},$

其中，DT表示延迟时间，LT表示服务器负载量，LC表示用于测量服务器负载的项目的数量，LW表示用于测量服务器负载的项目的权重，MT表示最大响应时间。

23.一种编码有由计算机实现的权利要求17所述的方法的计算机可读记录介质。

24.一种编码有由计算机实现的权利要求20所述的方法的计算机可读记录介质。

25.一种编码有由计算机实现的权利要求21所述的方法的计算机可读记录介质。

Images