CN103905473A - 云计算系统、负载均衡系统、负载均衡方法及装置 - Google Patents

Abstract

本发明提供一种云计算系统、负载均衡系统、负载均衡方法及装置，负载均衡方法包括：第一虚拟负载均衡器VLB接收网络请求；第一VLB的IP地址为公网IP地址；第一VLB根据负载均衡算法将网络请求分发到下一级VLB，以使下一级VLB通过负载均衡算法分发网络请求。通过第一VLB对网络请求进行负载均衡并分发到下一级VLB后，使得网络请求能够被再次进行负载均衡分发，这样，只有第一VLB占用公网IP资源，且下一级VLB无需占用公网IP且易扩展，解决了现有云计算服务中因业务需求增加，需要大量VLB导致的公网IP资源占用较多的问题，即可无限满足云计算服务要求，又节约了公网IP资源，降低了云计算服务成本。

Description

云计算系统、负载均衡系统、负载均衡方法及装置

技术领域

本发明涉及负载均衡技术，尤其涉及一种云计算系统、负载均衡系统、负载均衡方法及装置。

背景技术

负载均衡是一种根据负载均衡算法，把网络请求分散到一个服务器集群中的可用服务器的技术。负载均衡通过管理进入服务器集群的数据流量，从而使网络访问者获得尽可能好的网络体验。例如云计算服务中，通过负载均衡技术将网络服务请求分配到负载较小的服务器上进行处理，以提高网络服务请求的处理效率，使网络访问者获得更好的体验。

负载均衡分为硬件负载均衡和软件负载均衡。硬件负载均衡是指在服务器和外部网络间安装负载均衡设备，这种设备通常称之为负载均衡器，如F5、Radware和Array等负载均衡器，即为硬件负载均衡。软件负载均衡是指在一台或多台服务器相应的操作系统上安装一个或多个附加软件来实现负载均衡，如DNS Load Balance，CheckPoint Firewall-1 ConnectControl等。该附加软件即负载均衡软件。

通常，云计算服务中，负载均衡器往往虚拟成多个可用的虚拟负载均衡器（Virtual Load Balancer，VLB），或者，将负载均衡软件安装在服务器虚拟化的虚拟机上，成为VLB，以实现云计算服务中的负载均衡。

VLB工作时，需要分配一个公网因特网协议（Internet Protocol，IP）地址，作为VLB与外界网络通信的IP地址（简称为VIP地址）。但是，实现云计算服务的服务器集群较为庞大，相应地，需要的VLB数量也比较大，需要占用的公网IP也较多，不利于节约公网IP资源，降低云计算服务成本。

发明内容

有鉴于此，本发明实施例提供一种云计算系统、负载均衡系统、负载均衡方法及装置，以在满足云计算业务要求的同时，达到节约公网IP的目的。

第一方面，本发明实施例提供一种负载均衡方法，包括：

第一虚拟负载均衡器VLB接收网络请求；所述第一VLB的IP地址为公网IP地址；

所述第一VLB根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

第二方面，本发明实施例提供一种负载均衡方法，包括：

第二VLB接收来自上一级VLB分发的网络请求；

所述第二VLB根据负载均衡算法分发所述网络请求。

第三方面，本发明实施例提供一种负载均衡装置，所述负载均衡装置的IP地址为公网IP地址；所述负载均衡装置包括：

第一请求接收单元，用于接收网络请求；

第一请求分发单元，用于根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

第四方面，本发明实施例提供一种负载均衡装置，包括：

第二请求接收单元，用于接收来自上一级VLB分发的网络请求；

第二请求分发单元，用于根据负载均衡算法分发所述网络请求。

第五方面，本发明实施例提供一种负载均衡系统，包括上述两种负载均衡装置。

第六方面，本发明实施例提供一种云计算系统，包括上述负载均衡系统。

通过上述方案，通过第一VLB对网络请求进行负载均衡并分发到下一级VLB后，使得网络请求能够被再次进行负载均衡分发，这样，只有第一VLB占用公网IP资源，且下一级VLB无需占用公网IP且易扩展，解决了现有云计算服务中因业务需求增加，需要大量VLB导致的公网IP资源占用较多的问题，即可可无限满足云计算服务要求，又节约了公网IP资源，降低了云计算服务成本。

附图说明

图1为本发明实施例提供的一种负载均衡方法的流程图；

图2为本发明实施例提供的另一种负载均衡方法的流程图；

图3为本发明实施例一提供的负载均衡方法的应用示意图；

图4为本发明实施例二提供的负载均衡方法的应用示意图；

图5为本发明实施例提供的一种负载均衡装置的结构示意图

图6为本发明实施例提供的另一种负载均衡装置的结构示意图；

图7为本发明实施例提供的一种负载均衡系统的结构示意图；

图8为本发明实施例提供的一种云计算系统的结构示意图。

具体实施方式

图1为本发明实施例提供的一种负载均衡方法的流程图。如图1所示，该方法包括：

步骤11、第一VLB接收网络请求；该第一VLB的IP地址为公网IP地址。

例如，第一VLB直接接收来自因特网的网络请求，或者，可选地，第一虚拟负载均衡器VLB接收网络请求，包括：第一VLB接收来自弹性负载均衡器（Elastic Load Balancer，ELB）的网络请求。

ELB通过DNS服务器实现，一个ELB下有多个VLB。整个ELB对外提供域名，ELB下的各VLB仍然需要占用公网IP资源。如亚马逊就提供这种对外提供域名的负载均衡服务。

步骤12、上述第一VLB根据负载均衡算法将上述网络请求分发到下一级VLB，以使该下一级VLB通过负载均衡算法分发该网络请求。例如，该第一VLB在网络传输层（即ISO的第四层）根据负载均衡算法将该网络请求分发到下一级VLB。

其中，下一级VLB可至少有一个，可分别直接连接多个应用服务器，或者下一级VLB还可连接有下一级VLB。

上述实施例中，占用公网IP资源的第一VLB通过将网络请求分发到下一级VLB，实现了多级负载均衡，即网络请求通过第一VLB进行负载均衡并分发后，还通过下一级VLB进行负载均衡的分发，这样，当下一级VLB资源有限不能进行分发时，可在业务保持运行的情况下增加VLB，使得业务继续进行，并且，下一级VLB可使用私网IP，而无需占用公网IP资源，解决了现有云计算服务中因业务需求增加，需要大量VLB导致的公网IP资源占用较多的问题，只有第一VLB占用公网IP资源，且下一级VLB易扩展，即可可无限满足云计算服务要求，又节约了公网IP资源，降低了云计算服务成本。

相应地，图2为本发明实施例提供的另一种负载均衡方法的流程图。如图2所示，该方法包括：

步骤21、第二VLB接收来自上一级VLB分发的网络请求。

其中，第二VLB可属于上述下一级VLB，也可属于上述下一级VLB的下一级VLB。相应地，该上一级VLB可为上述第一VLB，也可为上述下一级VLB。

当上一级VLB为上述第一VLB时，上一级VLB分发网络请求参见上述实施例中第一VLB的操作。相应地，第二VLB接收来自上一级VLB分发的网络请求可包括：

该第二VLB接收来自IP地址为公网IP地址的上一级VLB分发的网络请求，该网络请求可由该上一级VLB在网络传输层根据负载均衡算法分发给该第二VLB。

步骤22、第二VLB根据负载均衡算法分发上述网络请求。例如，第二VLB在网络应用层根据负载均衡算法分发该网络请求。

第二VLB下面可直接连接应用服务器，或者连接下一级VLB，可视负载均衡的需求而定。

相应地，该第二VLB根据负载均衡算法分发上述网络请求可包括：

该第二VLB根据负载均衡算法向应用服务器或下一级VLB分发上述网络请求。

上述实施例中，第二VLB通过分发上一级VLB分发的网络请求，实现了多层负载均衡。由于第二VLB的弹性可增加，且第二VLB可使用私网IP，满足了云计算服务的大流量业务需要，且节省了公网IP资源，降低了云计算服务成本。

下面以实施例一和实施例二对负载均衡方法做进一步详细说明。

实施例一

参见图3，本实施例中负载均衡有两层，第一层负载均衡通过前端VLB实现，第二层负载均衡通过后端VLB实现。

前端VLB有一个：VLB31，为后端VLB的上一级VLB；后端VLB有两个：VLB32、VLB33，为前端VLB31的下一级VLB。

前端VLB31负责第四层分发，采用服务器直接将流量通过路由器返回（Direct Server Return，DSR）模式。后端VLB进行第七层分发，两级VLB形式对用户不可见。

用户获取负载均衡服务时，系统为用于需要获取的负载均衡服务创建前端VLB，并为该前端VLB分配对应的IP地址即VIP：202.103.106.110。该VIP：202.103.106.110是四层分发VLB对外的公网IP。

VLB31与VLB32、VLB33之间可采用私网IP相互标识各自的地址，以达到通信的目的。本实施例中，VLB31与VLB32、VLB33之间，各VLB的IP在192.168.18.0/24内。其中，VLB31的IP为192.168.18.10，VLB32的IP为192.168.18.18，VLB33的IP为192.168.18.19。也就是说，对外，VLB31的IP为202.103.106.110，对内，VLB31的IP为192.168.18.10。

类似地，VLB32与应用服务器34和应用服务器35之间、VLB33与应用服务器36和应用服务器37之间可采用私网IP相互标识各自的地址，以达到通信的目的。这里，VLB32与应用服务器34和应用服务器35之间、VLB33与应用服务器36和应用服务器37之间，各VLB及应用服务器的IP均在172.18.11.0/24内。其中，VLB32的IP为172.18.11.10，VLB33的IP为172.18.11.11，应用服务器34和应用服务器36的IP均为172.18.11.16，应用服务器35和应用服务器37的IP均为172.18.11.17。

也就是说，对于VLB31，VLB32的VIP为192.168.18.18；对于其下连接的应用服务器34和应用服务器35，VLB32的IP为172.18.11.10。对于VLB31，VLB33的VIP为192.168.18.19，对于其下连接的应用服务器36和应用服务器37，VLB33的IP为172.18.11.11。

由于只有前端VLB31用公网IP，节省了公网IP资源。并且，后端VLB的个数不限于可随着服务器请求的数量动态的增删，能够满足不同服务请求量的场景，且由于后端VLB不占用公网IP资源，因此节省了大量的公网IP，降低了云计算服务的运行成本。

当客户端访问http://202.103.106.110:80的网络请求到达VLB31，该VLB31执行一次负载均衡，将该网络请求VLB31四层分发到执行七层分发的VLB32。

网络请求到达VLB32后，VLB32再一次做负载均衡，把该网络请求分发到其下连接的应用服务器35上。由于网络请求报文中携带了客户端的IP，因此，应用服务器35响应网络请求，将请求响应返回到VLB32。然后，VLB32根据客户端的IP把请求响应返回给客户端。

本实施例提供的技术方案，架构上设置两级VLB分发（称之为VLB级联模式），可在现有负载均衡的基础上，在前端增加一层负载均衡，新增的这一层只做四层负载均衡，七层负载均衡由现有的机制，达到既弹性增加负载均衡器，又节省公网IP的目的。并且，通过增加一层级联负载均衡，当后端VLB处理不够时，可自动增加，并自动分发业务流量，以满足大流量业务，且不占用公网IP资源。当服务请求下降时，可自动减少VLB的个数，节省运行的资源和费用。

实施例二

参见图4，本实施例中，负载均衡有三层，第一层负载均衡通过ELB实现，第二层负载均衡通过前端VLB实现，第三层负载均衡通过后端VLB实现。相应地，对于网络请求执行三级分发。

ELB可部署在DNS服务器上，其对外提供域名：www.good.elb.huawei.com。

前端VLB有两个：VLB41和VLB42，为后端VLB的上一级VLB。

用户通过系统创建ELB时DNS服务器返回的域名，访问ELB的DNS服务器，DNS服务器分配响应用户请求的四层分发的VLB的VIP。

后端VLB有四个：VLB43、VLB44、VLB45和VLB46，其中，VLB43、VLB44为前端VLB41的下一级VLB，VLB45和VLB46为前端VLB42的下一级VLB。

后端VLB连接应用服务器47~应用服务器414。其中，VLB43连接应用服务器47和应用服务器48，VLB44连接应用服务器49和应用服务器410，VLB45连接应用服务器411和应用服务器412，VLB46连接应用服务器413和应用服务器414。

对外，VLB41的IP为202.103.106.110，VLB42的IP为202.103.106.111，对内，VLB41的IP为192.168.18.10，VLB42的IP为192.168.18.11。

对于VLB41，VLB43的IP为192.168.18.18，VLB44的IP为192.168.18.19。

对于应用服务器47和应用服务器48，VLB43的IP为172.18.11.10；对于应用服务器49和应用服务器410，VLB44的IP为172.18.11.11。其中，应用服务器47和应用服务器49的IP均为172.18.11.16，应用服务器48和应用服务器410的IP均为172.18.11.17。

VLB45、VLB46及其下连接的应用服务器的IP设置同上述VLB43、VLB44及其下连接的应用服务器的IP设置类似，这里不再赘述。

VLB41和VLB43、VLB44可视为一个VLB级联，VLB42和VLB45、VLB46可视为一个VLB级联。这两个VLB级联可以跨数据中心进行负载均衡。例如这两个VLB级联可以分布在不同的数据中心。并且上述两个VLB级联与DNS级联，可视为一个ELB级联。

从上述设置可以看出，只有前端VLB41和VLB42需要用公网IP，后端VLB和应用服务器都采用私网IP即可，节省了大量的公网IP资源。并且，后端VLB和应用服务器可弹性增加，自动根据流量增加而扩容，做到按需分配，保证了用户体验，且无需占用更多的公网IP资源。

当客户端访问http://www.good.elb.huawei.com的网络请求达到DNS服务器，DNS服务器做负载均衡，执行第一级分发即DNS分发，将该网络请求分发到前端VLB41。VLB41对该网络请求做负载均衡，执行第二级分发，将网络请求分发到后端VLB44。这里第二级分发为四层分发。VLB44对该网络请求做负载均衡，执行第三级分发，将网络请求分发到应用服务器49。这里第三级分发为七层分发。应用服务器9返回的请求响应可通过VLB44直接返回到客户端，而无需经过VLB41。

在ELB级联模式下，通过增加一层级联负载均衡，在同等业务量情况下可以减少ELB下前端VLB的个数，增加后端VLB，也就减少了公网IP的使用量，降低了成本。这种ELB级联模式下，不仅可以根据业务请求弹性增加后端VLB的数量，还可以弹性增加前端VLB的数量。

上述实施例所示的方法在现有技术的基础上，通过设置前端VLB，使得后端VLB在不需要占用公网IP的情况下，可弹性增减，满足了在云计算“弹性”的特征。

上述VLB级联、ELB级联的目的是纵向增加负载均衡系统的层数，弱化每一个VLB负载均衡的功能，从而达到增加负载均衡系统的性能。如在上述实施例中的VLB级联，有两层负载均衡，但是上层负载均衡的部署即前端VLB的功能只是负载四层分发。

当然，负载均衡不限于上述实施例中的两层，即不限于在现有负载均衡系统的基础上增加一层VLB，可以根据业务和架构需求，可以增加二层、三层甚至多层负载均衡。

图5为本发明实施例提供的一种负载均衡装置的结构示意图。本实施例提供的装置用于实现图1所示的方法。该负载均衡装置的IP地址为公网IP地址，可为上述方法实施例中的第一VLB。如图5所示，该负载均衡装置所包括：第一请求接收单元51及第一请求分发单元52。

第一请求接收单元51用于接收网络请求；第一请求分发单元52用于根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

可选地，第一请求接收单元51可具体用于接收来自ELB的网络请求。

可选地，第一请求分发单元52可具体用于在网络传输层根据负载均衡算法将上述网络请求分发到下一级VLB。

图6为本发明实施例提供的另一种负载均衡装置的结构示意图。本实施例提供的装置用于实现图2所示的方法。该负载均衡装置的IP可用私网IP，该负载均衡装置可为图2所示方法中的第二VLB。如图6所示，该负载均衡装置所包括：第二请求接收单元61及第二请求分发单元62。

第二请求接收单元61用于接收来自上一级VLB分发的网络请求。第二请求分发单元62用于根据负载均衡算法分发所述网络请求。

其中，第二请求接收单元61可具体用于接收来自IP地址为公网IP地址的上一级VLB分发的网络请求，该网络请求由该上一级VLB在网络传输层根据负载均衡算法分发给上述第二VLB。

第二请求分发单元62可具体用于在网络应用层根据负载均衡算法分发上述网络请求。

所述第二请求分发单元62可具体用于根据负载均衡算法向应用服务器或下一级VLB分发上述网络请求。

图7为本发明实施例提供的一种负载均衡系统的结构示意图。如图7所示，该负载均衡系统包括第一VLB71和第二VLB72，第一VLB71可为图5所示的负载均衡装置，第二VLB72可为图6所示的负载均衡装置，第一VLB71将接收到的网络请求分发到第二VLB72，第二VLB72对该网络请求再次进行分发。

图8为本发明实施例提供的一种云计算系统的结构示意图。如图8所示，云计算系统包括负载均衡系统81，负载均衡系统81可为图7所示的负载均衡系统，用于对那些访问云计算系统的网络请求进行分发。本领域技术人员应理解：云计算系统除此之外还包括应用服务器等设备，这里不再赘述。

本发明实施例还给出一种计算机程序产品，该计算机程序产品包括计算机可读介质，该可读介质包括第一组程序代码，用于执行上述图1所示方法中的步骤：

第一虚拟负载均衡器VLB接收网络请求；所述第一VLB的IP地址为公网IP地址；

所述第一VLB根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

可选地，第一虚拟负载均衡器VLB接收网络请求，包括：

所述第一VLB接收来自弹性负载均衡器ELB的网络请求。

可选地，所述第一VLB根据负载均衡算法将所述网络请求分发到下一级VLB，包括：

所述第一VLB在网络传输层根据负载均衡算法将所述网络请求分发到下一级VLB。

另外，本发明实施例还给出另一种计算机程序产品，该计算机程序产品包括计算机可读介质，该可读介质包括第二组程序代码，用于执行上述图2所示方法中的步骤：

第二VLB接收来自上一级VLB分发的网络请求；

所述第二VLB根据负载均衡算法分发所述网络请求。

可选地，第二VLB接收来自上一级VLB分发的网络请求，包括：

所述第二VLB接收来自IP地址为公网IP地址的上一级VLB分发的网络请求，所述网络请求由所述上一级VLB在网络传输层根据负载均衡算法分发给所述第二VLB。

可选地，所述第二VLB根据负载均衡算法分发所述网络请求，包括：

所述第二VLB在网络应用层根据负载均衡算法分发所述网络请求。

可选地，所述第二VLB根据负载均衡算法分发所述网络请求，包括：

所述第二VLB根据负载均衡算法向应用服务器或下一级VLB分发所述网络请求。

本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (16)

1.一种负载均衡方法，其特征在于，包括：

第一虚拟负载均衡器VLB接收网络请求；所述第一VLB的IP地址为公网IP地址；

所述第一VLB根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

2.根据权利要求1所述方法，其特征在于，第一虚拟负载均衡器VLB接收网络请求，包括：

所述第一VLB接收来自弹性负载均衡器ELB的网络请求。

3.根据权利要求1或2所述方法，其特征在于，所述第一VLB根据负载均衡算法将所述网络请求分发到下一级VLB，包括：

所述第一VLB在网络传输层根据负载均衡算法将所述网络请求分发到下一级VLB。

4.一种负载均衡方法，其特征在于，包括：

第二VLB接收来自上一级VLB分发的网络请求；

所述第二VLB根据负载均衡算法分发所述网络请求。

5.根据权利要求4所述方法，其特征在于，第二VLB接收来自上一级VLB分发的网络请求，包括：

所述第二VLB接收来自IP地址为公网IP地址的上一级VLB分发的网络请求，所述网络请求由所述上一级VLB在网络传输层根据负载均衡算法分发给所述第二VLB。

6.根据权利要求4或5所述方法，其特征在于，所述第二VLB根据负载均衡算法分发所述网络请求，包括：

所述第二VLB在网络应用层根据负载均衡算法分发所述网络请求。

7.根据权利要求4或5所述方法，其特征在于，所述第二VLB根据负载均衡算法分发所述网络请求，包括：

所述第二VLB根据负载均衡算法向应用服务器或下一级VLB分发所述网络请求。

8.一种负载均衡装置，其特征在于，所述负载均衡装置的IP地址为公网IP地址；所述负载均衡装置包括：

第一请求接收单元，用于接收网络请求；

第一请求分发单元，用于根据负载均衡算法将所述网络请求分发到下一级VLB，以使所述下一级VLB通过负载均衡算法分发所述网络请求。

9.根据权利要求8所述装置，其特征在于，所述第一请求接收单元具体用于接收来自弹性负载均衡器ELB的网络请求。

10.根据权利要求8或9所述装置，其特征在于，所述第一请求分发单元具体用于在网络传输层根据负载均衡算法将所述网络请求分发到下一级VLB。

11.一种负载均衡装置，其特征在于，包括：

第二请求接收单元，用于接收来自上一级VLB分发的网络请求；

第二请求分发单元，用于根据负载均衡算法分发所述网络请求。

12.根据权利要求11所述装置，其特征在于，所述第二请求接收单元具体用于接收来自IP地址为公网IP地址的上一级VLB分发的网络请求，所述网络请求由所述上一级VLB在网络传输层根据负载均衡算法分发给所述第二VLB。

13.根据权利要求11或12所述装置，其特征在于，所述第二请求分发单元具体用于在网络应用层根据负载均衡算法分发所述网络请求。

14.根据权利要求11或12所述装置，其特征在于，所述第二请求分发单元具体用于根据负载均衡算法向应用服务器或下一级VLB分发所述网络请求。

15.一种负载均衡系统，其特征在于，包括上述权利要求8-10任一项所述的负载均衡装置及上述权利要求11-14任一项所述的负载均衡装置。

16.一种云计算系统，其特征在于，包括上述权利要求15所述的负载均衡系统。

Images