CN102436401A

CN102436401A - 负载均衡系统及方法

Info

Publication number: CN102436401A
Application number: CN2011104255275A
Authority: CN
Inventors: 宋美娜; 鄂海红; 韩晶; 鄂新华; 吴金朋; 王晓晖; 皮人杰; 许可; 于艳华; 宋俊德
Original assignee: Beijing University of Posts and Telecommunications
Current assignee: Beijing University of Posts and Telecommunications
Priority date: 2011-12-16
Filing date: 2011-12-16
Publication date: 2012-05-02

Abstract

本发明提出一种负载均衡系统及方法。负载均衡系统包括第一级负载均衡器、多个第二级负载均衡器以及多个服务器，其中，所述第一级负载均衡器用于接收多个任务并使用第一策略将所述多个任务分配至所述多个第二级负载均衡器；所述多个第二级负载均衡器用于使用第二策略将所述多个任务分配至所述多个服务器。根据本发明的负载均衡系统，引入层次化概念，采用多级负载均衡方法，降低了负载均衡中心成为性能瓶颈的可能性，同时支持更复杂的负载均衡策略，提升了负载均衡过程的灵活性、准确性、健壮性和安全性等，从而提高了集群的资源利用率与运行效率。

Description

负载均衡系统及方法

技术领域

本发明涉及计算机技术领域，尤其涉及一种负载均衡系统及方法。

背景技术

随着业务量的提高、访问量和数据量的爆炸式增长，单服务器的计算能力已经捉襟见肘，各种分布式计算技术应运而生。为了充分发挥各个服务器节点的性能，提高资源利用率与运行效率，必须通过有效的方式协调各节点工作，平衡各节点的负载。

集群工作的协调方式包括集中式和分布式两种。集中式方式中工作量的分配交由负载均衡中心负责，虽然增加了设备需求，但控制相对简单，明确的分工使得服务器能更好地提供服务。集中式负载均衡技术又分为静态和动态两种。

静态的负载均衡技术中，负载均衡中心按照配置或规则直接分配任务，不考虑各节点当前的负载状况和运行状态。静态负载均衡方式控制简单，负载均衡中心仅作为工作量转发中介，产生的额外负载较低，因而负载中心不容易成为性能负载。但是，这种方式由于没有对各服务器当前状态有全局性的把握，因此均衡效果有限，不适用于大型异构集群和使用环境复杂的服务器。

动态负载均衡技术根据服务器工作状态动态分配工作量，包括三个基本过程：服务器状态信息收集、工作量的分配和反馈信息与对反馈信息的反应。动态负载均衡方式由于考虑了各个服务器的全局状态，因此均衡效果更优，但是其计算量相对较大，导致负载均衡中心容易成为新的性能瓶颈。

发明内容

本发明旨在至少解决上述技术问题之一。

为此，本发明的一个目的在于提出一种既可以保证服务器资源的充分利用又能避免成为性能瓶颈的负载均衡系统。

本发明的另一目的在于提出一种负载均衡方法。

为了实现上述目的，根据本发明第一方面的实施例的负载均衡系统包括第一级负载均衡器、多个第二级负载均衡器以及多个服务器，其中，所述第一级负载均衡器用于接收多个任务并使用第一策略将所述多个任务分配至所述多个第二级负载均衡器；所述多个第二级负载均衡器用于使用第二策略将所述多个任务分配至所述多个服务器。

根据本发明实施例的负载均衡系统，引入层次化概念，采用多级负载均衡方法，降低了负载均衡中心成为性能瓶颈的可能性，同时支持更复杂的负载均衡策略，提升了负载均衡过程的灵活性、准确性、健壮性和安全性等，从而提高了集群的资源利用率与运行效率。

另外，本发明实施例的负载均衡系统还具有如下的附加技术特征：

所述负载均衡系统还包括多个第三级负载均衡器，所述多个第三级负载均衡器连接在所述第一级负载均衡器和所述多个第二级负载均衡器之间，用于接收所述第一级负载均衡器分配的所述多个任务并使用第三策略将所述多个任务分配至所述多个第二级负载均衡器。由此，可以保证工作量在各个负载均衡器之间均衡分配。

所述第一策略包括随机分配、轮询或加权轮询。

所述第二策略包括每个第二级负载均衡器收集一组服务器中每个服务器的信息，根据所述每个服务器的信息计算所述每个服务器的能力，在所述多个第二级负载均衡器之间共享所述每个服务器的能力并根据所述每个服务器的能力分配所述多个任务。

所述每个服务器的信息包括硬件资源利用率、网络使用状态和CPU状态。

所述第三策略包括：随机分配；轮询或加权轮询；或每个第三级负载均衡器获取一组第二级负载均衡器中每个第二级负载均衡器的能力，在所述多个第三级负载均衡器之间共享每个第二级负载均衡器的能力并根据所述每个第二级负载均衡器的能力将所述多个任务分配至所述多个第二级负载均衡器。

所述多个第二级负载均衡器根据N_a/∑N＝L_a/∑L将任务分配给服务器，其中Na是分配给所述服务器的任务量，∑N为所述多个任务的总任务量，La为所述服务器的能力值，∑L为所述多个服务器的能力值之和。

每个第二级负载均衡器通过询问收集一组服务器中每个服务器的信息或者每组服务器中每个服务器向一个第二级负载均衡器注册一组服务器中每个服务器的信息。

各级负载均衡器之间通过总线互联。

为了实现上述目的，根据本发明第二方面的实施例的负载均衡方法，包括以下步骤：第一级负载均衡器接收多个任务并使用第一策略将所述多个任务分配至多个第二级负载均衡器；以及所述多个第二级负载均衡器使用第二策略将所述多个任务分配至多个服务器。

根据本发明实施例的负载均衡方法，引入层次化概念，采用多级负载均衡方法，降低了负载均衡中心成为性能瓶颈的可能性，同时支持更复杂的负载均衡策略，提升了负载均衡过程的灵活性、准确性、健壮性和安全性等，从而提高了集群的资源利用率与运行效率。

另外，本发明实施例的负载均衡方法还具有如下的附加技术特征：

所述第一级负载均衡器接收多个任务并使用第一策略将所述多个任务分配至多个第三级负载均衡器；以及所述多个第三级负载均衡器使用第三策略将所述多个任务分配至所述多个第二级负载均衡器。由此，可以保证工作量在各个负载均衡器之间均衡分配。

所述第一策略包括随机分配、轮询或加权轮询。

所述第三策略包括：随机分配；轮询或加权轮询；或每个第三级负载均衡器获取一组第二级负载均衡器中每个第二级负载均衡器的能力，在所述多个第三级负载均衡器之间共享每个第二级负载均衡器的能力并根据所述每个第二级负载均衡器将所述多个任务分配至所述多个第二级负载均衡器。

各级负载均衡器之间通过总线互联。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中，

图1是根据本发明一个实施例的负载均衡系统的结构框图；

图2是根据本发明一个实施例的负载均衡系统的结构框图；

图3是根据本发明一个实施例的负载均衡方法的流程图；以及

图4是根据本发明一个实施例的负载均衡方法的流程图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。相反，本发明的实施例包括落入所附加权利要求书的精神和内涵范围内的所有变化、修改和等同物。

在本发明的描述中，需要理解的是，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。在本发明的描述中，需要说明的是，除非另有明确的规定和限定，术语“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。此外，在本发明的描述中，除非另有说明，“多个”的含义是两个或两个以上。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

下面参考附图描述根据本发明实施例的负载均衡系统及方法。

一种负载均衡系统包括第一级负载均衡器、多个第二级负载均衡器以及多个服务器，其中，第一级负载均衡器用于接收多个任务并使用第一策略将多个任务分配至多个第二级负载均衡器；多个第二级负载均衡器用于使用第二策略将多个任务分配至多个服务器。

图1是根据本发明一个实施例的负载均衡系统的结构框图。如图1所示，该负载均衡系统包括第一级负载均衡器100、多个第二级负载均衡器200以及多个服务器300。

第一级负载均衡器100用于接收多个任务并使用第一策略将多个任务分配至多个第二级负载均衡器200。多个第二级负载均衡器200用于使用第二策略将多个任务分配至多个服务器300。

如图1所示，各级负载均衡器之间通过总线相连，上一级负载均衡器能够看到全部的下一级负载均衡器，从而能够实现全局性的负载均衡。

具体地，第一级负载均衡器100可以使用随机分配、轮询或加权轮询等静态分配策略将多个任务分配至多个第二级负载均衡器200。具体的分配过程可参照现有技术的静态分配策略，此处不再详细描述。

多个第二级负载均衡器200可以使用动态负载均衡技术作为第二策略。动态负载均衡技术需要采集其子节点，即各个服务器300的工作状态信息。在本发明的一个实施例中，采集的各个服务器300的信息包括硬件资源利用率、网络使用状态和CPU状态等。根据这些工作状态信息可计算出服务器300的负载容纳能力。具体地，每个第二级负载均衡器200负责一部分服务器300的信息收集和计算。每个服务器300的负载容纳能力的计算结果通过共享存储空间在多个第二级负载均衡器200之间共享，因此每个第二级负载均衡器200均能够得到全部的服务器300的负载容纳能力信息，从而将不同的任务分配至服务器300。

在本发明的一个实施例中，多个第二级负载均衡器200根据N_a/∑N＝L_a/∑L将任务分配给多个服务器300，其中，Na是分配给某个服务器300的任务量，∑N为多个任务的总任务量，La为某个服务器300的负载容纳能力值，∑L为多个服务器300的负载容纳能力值之和。

随着工作量的分配以及执行环境的变化，服务器300的负载容纳能力也随之变化，因此在工作过程中，需要对服务器300的状态信息进行实时维护。在本发明的一个实施例中，对服务器300的状态信息的实时维护由第二级负载均衡器200完成，维护过程大致分为两种方式，一种是每个第二级负载均衡器200通过询问收集一组服务器中的每个服务器300的信息，重新计算负载容纳能力值；另一种是每组服务器中每个服务器300向一个第二级负载均衡器200注册一组服务器中每个服务器300的反馈信息，反馈信息包括任务执行时延、执行成功率、结果准确度等，第二级负载均衡器200通过分析反馈信息对负载容纳能力值进行逐渐调整。

根据本发明实施例的负载均衡系统，采用两级负载均衡器，第一级采用静态策略，第二级采用动态策略，降低了负载均衡中心成为性能瓶颈的可能，同时支持更复杂的负载均衡策略，提升了负载均衡过程的灵活性、准确性、健壮性和安全性等，从而提高了集群的资源利用率与运行效率。

为了使得工作量在各个负载均衡器之间均衡分配，在本发明的一个实施例中，可以在第二级负载均衡器200之上再加一级负载均衡，从而成为多级负载均衡方式。应理解，由于级间传输时延的存在，负载均衡器的级数不宜过多，以2-3层为优。

图2是根据本发明一个实施例的负载均衡系统的结构框图。如图2所示，在图1所示的实施例的基础上，该负载均衡系统还包括多个第三级负载均衡器400。

多个第三级负载均衡器400连接在第一级负载均衡器100和多个第二级负载均衡器200之间，用于接收第一级负载均衡器100分配的多个任务并使用第三策略将多个任务分配至多个第二级负载均衡器200。由此，可以保证工作量在各个负载均衡器之间均衡分配。

具体地，多个第三级负载均衡器400可以采用静态负载均衡技术或者动态负载均衡技术作为第三策略。其中，静态负载均衡技术包括随机分配、轮询或加权轮询等，此处不再详细描述。动态负载均衡技术指的是，每个第三级负载均衡器400获取一组第二级负载均衡器中每个第二级负载均衡器200的负载容纳能力，然后在多个第三级负载均衡器400之间共享每个第二级负载均衡器200的负载容纳能力。多个第三级负载均衡器400根据每个第二级负载均衡器200的负载容纳能力将多个任务分配给每个第二级负载均衡器200。

本领域技术人员应当理解根据实际需要可以设置多层负载均衡器，而不限于这里描述的两层或三层负载均衡器。

根据上述实施例，本发明还提出一种负载均衡方法。

图3为本发明一个实施例的负载均衡方法的流程图。如图3所示，该负载均衡方法包括下述步骤。

步骤S101，第一级负载均衡器接收多个任务并使用第一策略将多个任务分配至多个第二级负载均衡器。

其中，第一策略可采用静态负载均衡技术。具体地，可包括随机分配、轮询或加权轮询等。

步骤S102，多个第二级负载均衡器使用第二策略将多个任务分配至多个服务器。

其中，第二策略可采用动态负载均衡技术。具体地包括：每个第二级负载均衡器收集一组服务器中每个服务器的信息，根据每个服务器的信息计算每个服务器的能力，然后在多个第二级负载均衡器之间共享每个服务器的能力，从而使得多个第二级负载均衡器根据每个服务器的能力分配多个任务。

在本发明的一个实施例中，多个第二级负载均衡器200根据N_a/∑N＝L_a/∑L将任务分配给多个服务器300，其中，Na是分配给某个服务器300的任务量，∑N为多个任务的总任务量，La为某个服务器300的能力值，∑L为多个服务器300的能力值之和。

随着工作量的分配以及执行环境的变化，服务器的能力也随之变化，因此在工作过程中，需要对服务器的状态信息进行实时维护。在本发明的一个实施例中，对服务器的状态信息的实时维护由第二级负载均衡器完成，维护过程大致分为两种方式，一种是每个第二级负载均衡器通过询问收集一组服务器中的每个服务器的信息，重新计算每个服务器的能力值；另一种是每组服务器中每个服务器向一个第二级负载均衡器注册一组服务器中每个服务器的反馈信息，反馈信息包括任务执行时延、执行成功率、结果准确度等，第二级负载均衡器通过分析反馈信息对服务器的能力值进行逐渐调整。

根据本发明实施例的负载均衡方法，采用两级负载均衡技术，第一级采用静态策略，第二级采用动态策略，降低了负载均衡中心成为性能瓶颈的可能，同时支持更复杂的负载均衡策略，提升了负载均衡过程的灵活性、准确性、健壮性和安全性等，从而提高了集群的资源利用率与运行效率。

图4是根据本发明一个实施例的负载均衡方法的流程图。如图4所示，该负载均衡方法包括下述步骤。

步骤S201，第一级负载均衡器接收多个任务并使用第一策略将多个任务分配至多个第三级负载均衡器。

步骤S202，多个第三级负载均衡器使用第三策略将多个任务分配至多个第二级负载均衡器。

其中，第三策略可采用静态负载均衡技术或动态负载均衡技术。静态负载均衡技术包括随机分配、轮询或加权轮询等。动态负载均衡技术指的是，每个第三级负载均衡器获取一组第二级负载均衡器中每个第二级负载均衡器的能力值，然后在多个第三级负载均衡器之间共享每个第二级负载均衡器的能力值，多个第三级负载均衡器根据每个第二级负载均衡器的能力值将多个任务分配给每个第二级负载均衡器。

步骤S203，多个第二级负载均衡器使用第二策略将多个任务分配至多个服务器。

根据本发明实施例的负载均衡方法，通过在第二级负载均衡器上再增加一级负载均衡器，保证工作量在各个负载均衡器之间均衡分配。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同限定。

Claims

1.一种负载均衡系统，其特征在于，包括第一级负载均衡器、多个第二级负载均衡器以及多个服务器，其中，

所述第一级负载均衡器用于接收多个任务并使用第一策略将所述多个任务分配至所述多个第二级负载均衡器；

所述多个第二级负载均衡器用于使用第二策略将所述多个任务分配至所述多个服务器。

2.根据权利要求1所述的负载均衡系统，其特征在于，进一步包括：

多个第三级负载均衡器，所述多个第三级负载均衡器连接在所述第一级负载均衡器和所述多个第二级负载均衡器之间，用于接收所述第一级负载均衡器分配的所述多个任务并使用第三策略将所述多个任务分配至所述多个第二级负载均衡器。

3.根据权利要求1或2所述的负载均衡系统，其特征在于，所述第一策略包括随机分配、轮询或加权轮询。

4.根据权利要求3所述的负载均衡系统，其特征在于，所述第二策略包括每个第二级负载均衡器收集一组服务器中每个服务器的信息，根据所述每个服务器的信息计算所述每个服务器的能力，在所述多个第二级负载均衡器之间共享所述每个服务器的能力并根据所述每个服务器的能力分配所述多个任务。

5.根据权利要求4所述的负载均衡系统，其特征在于，所述每个服务器的信息包括硬件资源利用率、网络使用状态和CPU状态。

6.根据权利要求4所述的负载均衡系统，其特征在于，所述第三策略包括：

随机分配；

轮询或加权轮询；或

每个第三级负载均衡器获取一组第二级负载均衡器中每个第二级负载均衡器的能力，在所述多个第三级负载均衡器之间共享每个第二级负载均衡器的能力并根据所述每个第二级负载均衡器将所述多个任务分配至所述多个第二级负载均衡器。

7.根据权利要求4所述的负载均衡系统，其特征在于，所述多个第二级负载均衡器根据N_a/∑N＝L_a/∑L将任务分配给服务器，其中Na是分配给所述服务器的任务量，∑N为所述多个任务的总任务量，La为所述服务器的能力值，∑L为所述多个服务器的能力值之和。

8.根据权利要求4所述的负载均衡系统，其特征在于，每个第二级负载均衡器通过询问收集一组服务器中每个服务器的信息或者每组服务器中每个服务器向一个第二级负载均衡器注册一组服务器中每个服务器的信息。

9.根据权利要求1或2所述的负载均衡系统，其特征在于，各级负载均衡器之间通过总线互联。

10.一种负载均衡方法，其特征在于，包括以下步骤：

第一级负载均衡器接收多个任务并使用第一策略将所述多个任务分配至多个第二级负载均衡器；以及

所述多个第二级负载均衡器使用第二策略将所述多个任务分配至多个服务器。

11.根据权利要求10所述的负载均衡方法，其特征在于，进一步包括：

所述第一级负载均衡器接收多个任务并使用第一策略将所述多个任务分配至多个第三级负载均衡器；以及

所述多个第三级负载均衡器使用第三策略将所述多个任务分配至所述多个第二级负载均衡器。

12.根据权利要求10或11所述的负载均衡方法，其特征在于，所述第一策略包括随机分配、轮询或加权轮询。

13.根据权利要求12所述的负载均衡方法，其特征在于，所述第二策略包括每个第二级负载均衡器收集一组服务器中每个服务器的信息，根据所述每个服务器的信息计算所述每个服务器的能力，在所述多个第二级负载均衡器之间共享所述每个服务器的能力并根据所述每个服务器的能力分配所述多个任务。

14.根据权利要求13所述的负载均衡方法，其特征在于，所述每个服务器的信息包括硬件资源利用率、网络使用状态和CPU状态。

15.根据权利要求13所述的负载均衡方法，其特征在于，所述第三策略包括：

随机分配；

轮询或加权轮询；或

16.根据权利要求13所述的负载均衡方法，其特征在于，所述多个第二级负载均衡器根据N_a/∑N＝L_a/∑L将任务分配给服务器，其中Na是分配给所述服务器的任务量，∑N为所述多个任务的总任务量，La为所述服务器的能力值，∑L为所述多个服务器的能力值之和。

17.根据权利要求13所述的负载均衡方法，其特征在于，每个第二级负载均衡器通过询问收集一组服务器中每个服务器的信息或者每组服务器中每个服务器向一个第二级负载均衡器注册一组服务器中每个服务器的信息。

18.根据权利要求10或11所述的负载均衡方法，其特征在于，将各级负载均衡器通过总线互联。