CN103973728B - 一种多数据中心环境下负载均衡的方法及装置 - Google Patents

Abstract

本发明公开了一种多数据中心环境下应用GLB设备和SLB设备实现负载均衡的方法及装置，处理流程包括：步骤A，GLB设备接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端；步骤B，GLB设备接收SLB设备发送的服务器的性能的探测结果，其中该探测结果中包括各服务器的具体性能参数及对应的IP地址；步骤C，GLB设备根据各SLB设备上报的服务器的性能参数确定其中性能最优的服务器，并将该服务器的IP地址保存起来以备使用。通过本发明的技术方案，有效解决了现有技术中GLB设备压力过大，不能及时获取服务器性能信息的问题。

Description

一种多数据中心环境下负载均衡的方法及装置

技术领域

本发明涉及一种负载均衡的方法及装置，尤其涉及一种多数据中心环境下负载均衡的方法及装置。

背景技术

随着信息化业务的全球发展，单数据中心面临访问受限，业务中断的风险，并且存在用户跨地域、跨运营商访问速度慢的问题。因此，部署多数据中心已经成为一种趋势，为了能够在多数据中心环境下选择最优的站点来为用户提供服务，全局负载均衡技术应运而生。

全局负载均衡技术（GLB，Global Load Balance），具体是通过GLB设备在广域网内为多个数据中心内的服务器流量进行调配，把客户对一个网站的访问请求引导到分布在Internet上多个站点中性能最佳的一个站点，从而实现用户的就近访问，以及站点之间的负载均衡和远程容灾。GLB设备与 SLB(Server Load Balance)设备在一个单独的节点上为一组服务器提供负载均衡服务不同，GLB设备提供了一种对多个地域不同的服务器群（多个站点）提供负载均衡的服务。在实现上有多种方式，包括DNS重定向，HTTP重定向，IP路由重定向等，其主要是通过采用智能策略确定最佳服务站点，进而提高服务可用性和系统性能。而采用何种智能策略进行优选，优选结果是否及时准确，很大程度上依赖于GLB设备如何探测和采集多站点的服务器性能数据。

现有技术中，GLB设备通常直接探测并采集服务器的各项性能参数，然而，当在多数据中心环境下，每一个站点内服务器都比较多时，可能需要部署多台GLB设备才可以满足性能探测的要求，而有时GLB设备所处位置也不能有效获取服务器信息，另外，当存在大量的服务器性能数据探测时，也会出现影响GLB设备性能等问题。

发明内容

有鉴于此，本发明提供一种多数据中心环境下的负载均衡的方法及装置，以解决上述现有技术中的不足。

具体地，所述方法应用于GLB设备上，该环境中还也包括SLB设备。该方法包括：

步骤A，GLB设备接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端；

步骤B，GLB设备接收SLB设备发送的服务器的性能的探测结果，其中该探测结果中包括各服务器的具体性能参数及对应的IP地址；

步骤C，GLB设备根据各SLB设备上报的服务器的性能参数确定其中性能最优的服务器，并将该服务器的IP地址保存起来以备使用。

本发明还提供一种多数据中心环境下负载均衡的装置，应用于多数据中心环境下全局负载均衡设备GLB设备，所述装置包括：

业务服务模块，用于接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端提供相应的应用服务；

收发汇总模块，用于与SLB设备间进行信息交互，包括：接收SLB设备发送的服务器的性能的探测结果，向SLB设备发送各种指令；

性能筛选模块，用于根据收发汇总模块接收的各个服务器的性能参数，确定其中性能最优的服务器，并将该服务器的IP地址保存起来供业务服务模块进行调用。

由以上技术方案可见，本发明通过将SLB设备作为GLB设备的代理探测器，实现对内部服务器性能数据的探测和采集，进而解决了GLB设备大量探测影响性能及不能有效获取服务器性能信息的问题。

附图说明

图1是某应用场景下本发明多数据中心设备组网示意图；

图2是本发明一种实施方式中负载均衡方法的流程图；

图3是本发明一种实施方式中GLB设备简化硬件架构图；

图4是本发明一种实施方式中负载均衡装置的的逻辑结构图。

具体实施方式

为了实现本发明目的，本发明技术方案的核心思想为：GLB设备不直接探测每个站点内的服务器性能，而是利用站点内SLB设备作为其代理探测器，并通过SLB设备汇总各站点内的服务器性能数据，进而为GLB设备选择最佳性能的服务器提供依据，同时也可避免在GLB设备上执行大量服务器探测而导致的性能下降的问题。

为了使本领域技术人员更加清楚和明白，以下结合附图和实施例详细介绍本发明的具体实现。

如图1所示，为某应用场景下本发明多数据中心网络环境下的设备组网示意图。在该应用场景下，某服务提供商在多个不同地点建设有多个数据中心，每个数据中心提供多台服务器为用户提供多种商业服务。当不同地域的用户访问请求时，本发明GLB设备利用从SLB设备处获取的各地服务器的性能数据，并通过优选算法选择一台最优性能的服务器为用户提供服务。

进一步地，如图2所示，是本发明一种实施例中负载均衡实现的方法流程图，所述方法应用于通过GLB设备进行负载均衡的多数据中心环境中，其中每一数据中心站点内包括有SLB设备和若干个不同应用的服务器，该方法包括以下步骤：

步骤201，GLB设备向SLB设备发送指令以设置SLB设备对其所在数据中心服务器的探测参数。

具体地，本步骤中，所述探测参数包括：探测方法、超时时间、重试次数等。这些参数的设置主要是对SLB设备探测服务器的过程进行定义，界定 GLB设备在时间等维度上对SLB设备实施探测的一种或多种要求。SLB设备接收到GLB设备发送的指令后，获取该指令中的探测参数以进行初始化设置，然后根据这些探测参数启动对自身所在数据中心的服务器性能的探测，并将探测结果保存起来。

步骤202，GLB设备定期向SLB设备轮询其对服务器性能的探测结果。

具体地，所述探测结果可以包括SLB设备经探测直接获取的服务器性能的参数，比如：每台服务器的CPU使用率、内存使用率等；另外，除了上述直接获取的服务器性能参数外，所述探测结果中的服务器性能参数还可以包括SLB设备通过前述探测获得的直接参数基础上依据一定算法计算出的间接参数，其中，所述算法包括但不限于比率算法、响应速度算法、最少连接算法等。

步骤203，GLB设备接收SLB设备发送的服务器的性能的探测结果。

本步骤中，SLB设备接收到GLB设备发送的上报服务器性能探测结果的指令后，根据GLB设备的指令将对服务器性能的探测结果返回给GLB设备，其中，SLB设备上报的探测结果中包括各服务器的具体性能参数及对应的IP地址。

步骤204，GLB设备根据各SLB设备上报的服务器的性能参数，通过一定的优选算法确定其中性能最优的服务器，并将该服务器的IP地址保存起来以备使用。

步骤205，GLB设备接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端。

在实际应用中，由于客户端当前访问的IP地址可能并不是性能最优服务器的IP地址，因此，为了使得多数据中心环境下，各服务器之间实现负载均衡以及使得服务器效率得到最大发挥，需要引导客户端来访问性能最优的服务器的IP地址。在典型的Web服务中，此过程是通过向客户端发送重定向报文的方式实现的。比如GLB设备可以向客户端发送HTTP重定向报文，借此来通知客户端访问一个携带在重定向报文中的新的IP地址来获取对应的Web服务。

值得注意的是：上述步骤201和步骤202并不是必需步骤，GLB设备可以下发指令给SLB设备以触发SLB设备进行后续步骤，在某些实现方式中， GLB设备也可以不下发指令，SLB设备需要如何进行探测以及探测哪些参数可以是事先定义好的。考虑到服务器可能因为软硬件运行或者断电等因素而出现故障。对于服务器出现故障的情形，已经与该服务器建立连接的客户端固然可以依靠上层协议在会话层面发起重新连接的请求。但是GLB设备需要在重新连接过程中，处理客户端发起的新访问的过程中避免继续调用已经发生故障的服务器来为客户端提供服务。因此，在优选的实施方式中，上述方法进一步包括对服务器故障或者故障恢复等意外情形的处理过程，该过程包括以下步骤：

步骤206，GLB设备接收SLB 设备主动发送的探测到服务器宕机的消息。

若SLB设备探测到某一服务器宕机，当发生此情形，SLB设备并不需要等待GLB设备的轮询，而是相应生成服务器宕机消息主动发送给GLB设备，以允许GLB设备立刻得知该上述服务器的状态变化。

步骤207，GLB设备判断所述宕机服务器是否为最优服务器，如果是，则返回步骤204处理，否则，不进行任何处理。

如果GLB设备判断所述宕机服务器是最优服务器时，此时，GLB设备将重新根据一定的优选算法确定出性能最优的服务器，对于客户端发起的新访问请求，GLB设备将该重新确定的最优服务器的IP地址发送给该客户端。反之，如果所述宕机服务器不是最优服务器则可以忽略该消息，因为其不影响GLB设备当前为客户端提供的服务，流程结束。

步骤208，GLB设备接收SLB设备主动发送的探测到宕机的服务器重新开启的消息，此时，GLB设备返回步骤204处理，再次根据一定的优选算法重新计算最优的服务器。

如果根据计算的结果确认该重新开启的服务器为性能最优的服务器时，则当客户端发送访问请求时，GLB设备把该重新开启的服务器IP地址发送给客户端。

上述GLB设备与SLB设备间的交互消息可以通过各种协议报文来承载，本领域普通技术人员可以使用私有的协议或者对公有协议加以改进来实现。具体地，在本发明实现之一的实施例中，消息的格式可以采用JSON格式，例如：该消息包含的具体内容的一个具体示例如下：

{"Version":"1.0","Type":1,"slb_name":"Beijing_lb1″,"vs_name":"web_server1″, "vs_ip":"10.10.0.1","vs_port":"80","monitor_method":"icmp","enable_statue":"enable", "monitor_result":"50ms","monitor_lasttime":"201209271500348",}

其中：

Version表示版本号，其取值1.0，1.1等。

Type表示报文类型，取值为1，2，3，4等，分别表示Set、Get、Response、Notification，具体说明见表1。

Slb_name表示SLB设备名称，是GLB设备选定探测的SLB设备名称。

Vs_name表示虚拟服务器名称，数据中心中很多服务器可能是虚拟化技术生成的虚拟服务器，一台物理服务器可以虚拟化为多台虚拟服务器。

Vs_ip表示虚拟服务器的IP地址。

Vs_Port表示虚拟服务器的端口。

Monitor_method表示虚拟服务器性能监测方法，例如：“icmp、http、 udp、tcp”等方法。

Enable_status表示使能状态，是否启动监测，disable或者enable。

Monitor_result表示探测结果，如响应时间“50ms”，服务器宕机“down”或者重启“up”等。

Monitor_lasttime表示最后一次探测时间。

所述报文中Type的定义参考表1：

表1

由以上描述可以看出，在本发明的技术方案中，并不是通过增加GLB 设备硬件资源或者优化主动探测方法等传统方式来为GLB设备减负，而是利用SLB设备作为GLB设备的代理探测器，对各个数据中心中的服务器性能进行探测。通过这样的处理，将探测任务从GLB设备相对集中的处理变化为 SLB设备分布式的处理，不仅充分利用了SLB设备富裕的处理资源，而且整体设计方案在软件层面的改造相对简单，但效果却非常突出，实现了现有资源的充分利用，降低了对GLB设备的依赖，并且能够全面、有效的监控所有服务器性能。

参考图3，图3为本发明一种实施方式中GLB设备一种简化的硬件架构抽象，当然GLB设备可以采用更为复杂的硬件设计架构。

本发明还提供了一种多数据中心下负载均衡的装置，如图4所示，在一种优选实施方式下，软件运行在图3硬件架构下抽象出来的一种负载均衡装置，所述负载均衡装置具体应用于多数据中心环境中，其中每一数据中心站点内包括有SLB设备和若干个不同应用的服务器，所述负载均衡装置包括：

业务服务模块，用于接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，将该IP地址发送给该客户端提供相应的应用服务。此过程可以采用发送重定向报文的方法将该IP地址发送给客户端。

收发汇总模块，用于与SLB设备间进行信息交互，包括：接收SLB设备发送的服务器的性能的探测结果以及向SLB设备发送各种指令。

具体地，所述探测结果包括各服务器的性能参数及对应的IP地址；该收发汇总模块还将用于接收SLB设备主动发送的服务器宕机的消息，以及宕机的服务器重新开启的消息。

性能筛选模块，用于根据收发汇总模块接收的各个服务器的性能参数，并通过一定的优选算法，确定其中性能最优的服务器，并将该服务器的IP地址保存起来供业务服务模块进行调用。

进一步，该性能筛选模块还用于根据收发汇总模块接收到的服务器宕机的消息，判断所述宕机的服务器是否为最优服务器，如果所述宕机的服务器是最优服务器，进而根据当前各个服务器的性能参数，重新确定性能最优的服务器；如果所述宕机的服务器不是最优服务器，则可以忽略该消息，因为其不影响GLB设备当前为客户端提供的服务。同样，该性能筛选模块也用于根据收发汇总模块接收到的宕机的服务器重新开启的消息，重新确定当前性能最优的服务器。

参数设置模块：用于通过收发汇总模块发送指令设置SLB设备对服务器的探测参数。

轮询探测模块：用于定期通过收发汇总模块向SLB设备发送轮询服务器性能探测结果的指令。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (8)

1.一种实现负载均衡的方法，所述方法应用于多数据中心环境下的全局负载均衡设备GLB设备上，该环境中也包括位于各个数据中心本地的本地负载均衡设备SLB设备，其特征在于，该方法包括：

步骤A，GLB设备接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端；

步骤B，GLB设备接收SLB设备发送的服务器的性能的探测结果，其中该探测结果中包括各服务器的具体性能参数及对应的IP地址，所述各服务器的具体性能参数包括：该服务器自身的性能参数和依据该服务器自身的性能参数以及算法计算出的间接参数，其中包括：步骤B1，GLB设备向SLB设备发送指令以设置SLB设备对其所在数据中心服务器的探测参数，其中SLB设备接收到GLB设备发送的指令后，获取该指令中的探测参数以进行初始化设置，根据探测参数启动对自身所在数据中心的服务器性能的探测，并将探测结果保存起来；步骤B2，GLB设备定期向SLB设备轮询其对服务器性能的探测结果；

步骤C，GLB设备根据各SLB设备上报的服务器的性能参数确定其中性能最优的服务器，并将该服务器的IP地址保存起来以备使用。

2.如权利要求1所述的方法，其特征在于，GLB设备接收SLB 设备主动发送的探测到服务器宕机的消息，并判断所述宕机服务器是否为最优服务器，

如果GLB设备判断所述宕机的服务器是最优服务器，则返回步骤C，GLB设备重新确定性能最优的服务器；

如果GLB设备判断所述宕机的服务器不是最优服务器，则忽略该消息。

3.如权利要求1所述的方法，其特征在于，GLB设备接收SLB设备主动发送的探测到宕机的服务器重新开启的消息，返回步骤C，GLB设备重新确定性能最优的服务器。

4.如权利要求1所述的方法，其特征在于，所述步骤A所述将该IP地址发送给该客户端是通过向客户端发送重定向报文的方式实现的。

5.一种实现负载均衡的装置，其中所述装置应用于多数据中心环境下全局负载均衡设备GLB设备，该环境中也包括位于各个数据中心本地的本地负载均衡设备SLB设备，其特征在于，包括：

业务服务模块，用于接收客户端的访问请求，获取当前保存的性能最优的服务器的IP地址，并将该IP地址发送给该客户端提供相应的应用服务；

收发汇总模块，用于与SLB设备间进行信息交互，包括：接收SLB设备发送的服务器的性能的探测结果，其中该探测结果中包括各服务器的具体性能参数及对应的IP地址，所述具体性能参数包括：直接获取的服务器性能参数和在直接参数基础上以及算法计算出的间接参数；向SLB设备发送各种指令，其中包括：参数设置模块：用于通过收发汇总模块发送指令设置SLB设备对服务器的探测参数，其中SLB设备接收到GLB设备发送的指令后，获取该指令中的探测参数以进行初始化设置，根据探测参数启动对自身所在数据中心的服务器性能的探测，并将探测结果保存起来；轮询探测模块：用于定期通过收发汇总模块向SLB设备发送轮询服务器性能探测结果的指令；

性能筛选模块，用于根据收发汇总模块接收的各个服务器的性能参数，确定其中性能最优的服务器，并将该服务器的IP地址保存起来供业务服务模块进行调用。

6.如权利要求5所述的装置，其特征在于，所述收发汇总模块进一步接收SLB 设备主动发送的探测到服务器宕机的消息，返回到性能筛选模块，所述性能筛选模块进一步判断所述宕机的服务器是否为最优服务器，

如果所述宕机服务器是最优服务器，性能筛选模块根据获取的当前各服务器性能参数重新确定最优服务器；

如果所述宕机服务器不是最优服务器，性能筛选模块忽略该消息。

7.如权利要求5所述的装置，其特征在于，所述收发汇总模块进一步接收SLB设备主动发送的探测到宕机服务器重新开启的消息，返回到性能筛选模块处理，重新确定最优服务器。

8.如权利要求5所述的装置，其特征在于，所述将该IP地址发送给该客户端是通过发送向客户端发送重定向报文方式实现的。