CN106713378A - 实现多个应用服务器提供服务的方法和系统 - Google Patents

Abstract

本发明提供一种实现多个应用服务器提供服务的方法和系统，有助于降低负载均衡的成本并且提高负载均衡方式的灵活性。各个应用服务器中设置有领导模块、负载均衡模块、数据存取模块、服务器监控模块，在zookeeper的多个临时节点中一一对应地记录应用服务器的标识，利用zookeeper节点事件，在一个节点中维护当前可用的应用服务器的标识，使得在考察服务器集群的健康状态时，只需从单个节点获取数据，有很高的效率。对于负载均衡策略，可以由发开者灵活设置，扩展性好。此外，因为是基于软件(zookeeper)实现服务器负载均衡，相比较采用专用的硬件而言，成本较低，也便于维护。

Description

实现多个应用服务器提供服务的方法和系统

技术领域

本发明涉及计算机技术领域，特别地涉及一种实现多个应用服务器提供服务的方法和系统。

背景技术

在互联网技术高速发展的今天，服务器的请求数据量越来越大，特别是电子商务应用的发展，使Web应用成为目前最重要最广泛的应用，Web服务器动态内容越来越流行。目前，网上信息交换量几乎呈几何倍数增长，需要更高性能的Web服务器提供更多用户的Web服务，因此，Web服务器面临着访问量急剧增加的压力，对其处理能力和响应能力等带来更高的要求，同时对应用的高可用性也提出了更高的要求。应用服务器的主备模式已经不能满足当前需求，目前通常部署分布式应用系统，由多个应用服务器为用户提供服务，同时采用负载均衡技术来使其中各应用服务器的负载尽可能地相同从而不至于使某个或某些应用服务器由于负载过大而发生异常从而不可用。目前已有一些负载均衡技术，以下举出两例。

目前的一种负载均衡技术是采用F5负载均衡器来实现。F5负载均衡器是应用交付网络的全球领导者F5Networks公司提供的一个负载均衡器专用设备，F5BIG-IP LTM的官方名称叫做本地流量管理器。

F5的BIG/IP利用定义在其上面的虚拟IP地址来为用户的一个或多个应用服务器提供服务。因此，它能够为大量的基于TCP/IP的网络应用提供服务器负载均衡服务。BIG/IP连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG/IP根椐目标服务器之间性能和网络健康情况，选择性能最佳的服务器响应用户的请求。其负载均衡的基本流程如下：

(1)客户发出服务请求到BIG/IP；

(2)BIG/IP接收到请求，将数据包中目的IP地址改为选中的后台服务器IP地址，然后将数据包发出到后台选定的服务器；

(3)后台服务器收到后，将应答包按照其路由发回到BIG/IP；

(4)BIG/IP收到应答包后将其中的源地址改回成VIP的地址，发回客户端。

由此就完成了一个标准的服务器负载均衡的流程。

目前的另一种负载均衡技术是采用Nginx负载均衡模块。Nginx是一个高性能的HTTP和反向代理服务器，通过upstream模块配置相应的负载均衡算法，将相应的HTTP请求分配到反向代理服务器上，实现服务器间的负载均衡。

以上列举的两种负载均衡技术都有其不足之处。F5负载均衡技术是基于硬件实现的，其使用成本高。除设备昂贵外其配置还很冗余。不仅需要大量的财力投入，而且还需要大量的人力运维。Nginx负载均衡模块内嵌的策略不能满足多样的业务场景，负载均衡方式灵活性不高；并且其负载均衡功能是Nginx内嵌模块实现的，不能独立于Nginx而单独运行，扩展能力差。

发明内容

有鉴于此，本发明提供一种实现多个应用服务器提供服务的方法和系统，有助于降低负载均衡的成本并且提高负载均衡方式的灵活性。本发明的其他目的和有益效果可以从具体实施方式中得出。

为实现上述目的，根据本发明的一个方面，提供了一种实现多个应用服务器提供服务的方法。

本发明的实现多个应用服务器提供服务的方法包括：在应用服务器连接到zookeeper服务器之后，该应用服务器在zookeeper节点中的第一节点下创建对应于本应用服务器的临时节点，并且在zookeeper节点中的第二节点保存的内容中添加本应用服务器的标识；并且在临时节点被删除的情况下，该临时节点对应的应用服务器根据节点事件删除所述第二节点中记录的该应用服务器的标识；所述多个应用服务器中的领导服务器在接收到服务请求之后，根据所述第二节点保存的内容确定当前可用的多个应用服务器，然后按照预设的负载均衡方式从所述当前可用的多个应用服务器中确定第一应用服务器，再将所述服务请求转发给所述第一应用服务器。

可选地，在所述多个应用服务器选举出领导服务器的情况下，该领导服务器在zookeeper节点中的第三节点保存该领导服务器的标识。

可选地，所述按照预设的负载均衡方式从所述当前可用的多个应用服务器中确定第一应用服务器的步骤包括：判断预设的标志位是否表示当前执行默认的负载均衡策略，若是，则执行该默认的负载均衡策略，否则执行预先设置的负载均衡策略方法；该负载均衡策略方法用于执行预先设置的负载均衡策略。

可选地，多个所述临时节点之间具有顺序；所述标识的格式为“应用服务器的IP地址+自增整数”。

根据本发明的另一方面，提供了一种实现多个应用服务器提供服务的系统。

在本发明的实现多个应用服务器提供服务的系统中，所述应用服务器用于向服务请求方提供应用服务，所述系统包括zookeeper服务器和多个应用服务器，各个所述应用服务器中设置有领导模块、负载均衡模块、数据存取模块、服务器监控模块，其中：所述服务器监控模块用于在应用服务器连接到zookeeper服务器之后，在zookeeper节点中的第一节点下创建对应于该应用服务器的临时节点，并且在zookeeper节点中的第二节点保存的内容中添加该应用服务器的标识；并且在该应用服务器对应的临时节点被删除的情况下，根据节点事件删除所述第二节点中记录的该应用服务器的标识；所述领导模块用于在接收到服务请求之后，调用所述负载均衡模块，然后接收该负载均衡模块从所述当前可用的应用服务器中确定的第一应用服务器的标识，再将所述服务请求转发给该第一应用服务器；所述负载均衡模块用于在被所述领导模块调用的情况下，对所述数据存取模块进行调用，然后接收所述数据存取模块提供的当前可用的多个应用服务器的标识，然后按照预设的负载均衡方式从所述多个应用服务器中确定第一应用服务器，再将该第一应用服务器的标识发送给所述领导模块；所述数据存取模块用于在被所述负载均衡模块调用的情况下，根据所述第二节点保存的内容确定当前可用的多个应用服务器，然后将该多个应用服务器的标识发送给所述负载均衡模块。

可选地，所述领导模块还用于在所处服务器成为领导服务器的情况下，在zookeeper节点中的第三节点保存该领导服务器的标识。

可选地，所述负载均衡模块还用于判断预设的标志位是否表示当前执行默认的负载均衡策略，若是，则执行该默认的负载均衡策略，否则执行预先设置的负载均衡策略方法；该负载均衡策略方法用于执行预先设置的负载均衡策略。

可选地，多个所述临时节点之间具有顺序；所述标识的格式为“应用服务器的IP地址+自增整数”。

根据本发明的技术方案，在zookeeper的多个临时节点中一一对应地记录应用服务器的标识，利用zookeeper节点事件，在一个节点中维护当前可用的应用服务器的标识，使得在考察服务器集群的健康状态时，只需从单个节点获取数据，有很高的效率；对于领导者服务器，也在zookeeper的单个节点中记录其标识，便于监控其可用状态。对于负载均衡策略，可以由发开者灵活设置，扩展性好。此外，因为是基于软件(zookeeper)实现服务器负载均衡，相比较采用专用的硬件而言，成本较低，也便于维护。

附图说明

附图用于更好地理解本发明，不构成对本发明的不当限定。其中：

图1是根据本发明实施方式的在应用服务器中设置的功能模块的示意图；

图2是根据本发明实施方式的和临时节点相关的数据存储结构的示意图；

图3是根据本发明实施方式的和领导者节点相关的数据存储结构的示意图。

具体实施方式

以下结合附图对本发明的示范性实施方式做出说明，其中包括本发明实施方式的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施方式做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本发明实施方式中，基于zookeeper技术来实现多个应用服务器提供服务。多个应用服务器连接到zookeeper服务器，并且在各应用服务器中设置如图1所示的功能模块，图1是根据本发明实施方式的在应用服务器中设置的功能模块的示意图。如图1所示，应用服务器10中设置有领导模块11、负载均衡模块12、数据存取模块13、服务器监控模块14。

当应用服务器连接到zookeeper服务器之后，该应用服务器中的服务器监控模块在zookeeper中的/LoaderBlance/App节点下创建对应于本应用服务器的服务器节点，该服务器节点是带顺序的临时节点，即各个应用服务器创建的服务器节点按创建顺序编号，因此这些临时节点的标识可以采用“应用服务器的IP地址+自增整数”构成。图2是根据本发明实施方式的和临时节点相关的数据存储结构的示意图。其中的节点21、22、23即为上述的临时节点。其中，例如192.168.1.1是一个应用服务器的IP地址，0001是该临时节点的顺序号。另外，在应用服务器创建了上述的临时节点之后，还要在/LeaderModel/AllServer节点中追加该应用服务器的节点信息，该节点信息采用上述临时节点的标识即可。图3是根据本发明实施方式的和领导者节点相关的数据存储结构的示意图。其中节点31保存所有应用服务器的标识，节点32保存领导者服务器的标识，该标识采用IP地址。

上述做法主要是为了方便地获得各应用服务器的可用状态。这是因为，由于在临时节点中保存了应用服务器的标识，根据zookeeper的运行机制，当应用服务器不可用时，该应用服务器对应的临时节点会自动删除并且此时发生zookeeper的节点事件，按照该临时节点中的标识，在节点31中删除该标识，这样就保证了节点31中的应用服务器的标识是当前可用的应用服务器的标识。也就是说，只需要从单个节点(节点31)中获取当前应用服务器可用状态的数据(即可用的应用服务器的标识)，无需遍历每个应用服务器来考察其可用状态。

根据zookeeper的运行机制，多个应用服务器中会存在一个领导者服务器，任何一个应用服务器都有可能成为领导者服务器。本发明的实施方式中，用户的服务请求由领导者服务器接收。如果一个应用服务器成为领导者服务器，那么最好在一个单独的节点即图3中的节点32中保存该领导者服务器的标识，这样当该领导者服务器不可用时，节点32自动删除，此时会产生zookeeper的节点事件使得其他连接至zookeeper的应用服务器及时感知当前领导者服务器不可用，于是及时选举新的领导者服务器，以正常接收用户的服务请求。

用户的服务请求由领导者服务器中的领导模块接收，当该领导模块收到服务请求之后，调用负载均衡模块，接着负载均衡模块调用数据存取模块，数据存取模块的主要功能即是获取当前应用服务器的可用状态的数据，如上所述，只需从单个节点即节点31中获取多个应用服务器的标识即可，效率比较高。

领导者服务器中的负载均衡模块在接收到多个应用服务器的标识后，即可以应用负载均衡策略来确定当前用户的服务请求由哪个应用服务器来处理。负载均衡模块可以保存默认的负载均衡策略，例如加权轮询策略；还可选用其他负载均衡策略，为此，可以定义一个标识变量isExtend，用来区分是否使用默认的负载均衡策略；不对该值进行赋值，表示使用默认的负载均衡策略。另外定义一个预留方法，用来进行自定义负载策略的编写；当isExtend标识被赋值之后，该预留方法将会被执行。负载均衡模块在被调用时，先判断预设的标志位是否表示当前执行默认的负载均衡策略，若是，则执行该默认的负载均衡策略，否则执行预先设置的负载均衡策略方法，由该负载均衡策略方法来执行预先设置的负载均衡策略。这种方式采用回调方法模式，开发人员可以根据具体的业务场景，使用编程语言简单、方便的进行策略开发。

负载均衡模块在确定由哪个应用服务器来处理当前用户的服务请求之后，将该应用服务器的标识返回给领导者服务器；领导者服务器按照该标识，将当前用户的服务请求转发给该标识所属的应用服务器，由该应用服务器按通常方式处理该服务请求即可。

根据本发明的实施方式，在zookeeper的多个临时节点中一一对应地记录应用服务器的标识，利用zookeeper节点事件，在一个节点中维护当前可用的应用服务器的标识，使得在考察服务器集群的健康状态时，只需从单个节点获取数据，有很高的效率；对于领导者服务器，也在zookeeper的单个节点中记录其标识，便于监控其可用状态。对于负载均衡策略，可以由发开者灵活设置，扩展性好。此外，因为是基于软件(zookeeper)实现服务器负载均衡，相比较采用专用的硬件而言，成本较低，也便于维护。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (8)

1.一种实现多个应用服务器提供服务的方法，其特征在于，包括：

在应用服务器连接到zookeeper服务器之后，该应用服务器在zookeeper节点中的第一节点下创建对应于本应用服务器的临时节点，并且在zookeeper节点中的第二节点保存的内容中添加本应用服务器的标识；并且在临时节点被删除的情况下，该临时节点对应的应用服务器根据节点事件删除所述第二节点中记录的该应用服务器的标识；

所述多个应用服务器中的领导服务器在接收到服务请求之后，根据所述第二节点保存的内容确定当前可用的多个应用服务器，然后按照预设的负载均衡方式从所述当前可用的多个应用服务器中确定第一应用服务器，再将所述服务请求转发给所述第一应用服务器。

2.根据权利要求1所述的实现多个应用服务器提供服务的方法，其特征在于，在所述多个应用服务器选举出领导服务器的情况下，该领导服务器在zookeeper节点中的第三节点保存该领导服务器的标识。

3.根据权利要求1所述的实现多个应用服务器提供服务的方法，其特征在于，

所述按照预设的负载均衡方式从所述当前可用的多个应用服务器中确定第一应用服务器的步骤包括：

判断预设的标志位是否表示当前执行默认的负载均衡策略，若是，则执行该默认的负载均衡策略，否则执行预先设置的负载均衡策略方法；该负载均衡策略方法用于执行预先设置的负载均衡策略。

4.根据权利要求1、2或3所述的实现多个应用服务器提供服务的方法，其特征在于，

多个所述临时节点之间具有顺序；

所述标识的格式为“应用服务器的IP地址+自增整数”。

5.一种实现多个应用服务器提供服务的系统，所述应用服务器用于向服务请求方提供应用服务，其特征在于，所述系统包括zookeeper服务器和多个应用服务器，各个所述应用服务器中设置有领导模块、负载均衡模块、数据存取模块、服务器监控模块，其中：

所述服务器监控模块用于在应用服务器连接到zookeeper服务器之后，在zookeeper节点中的第一节点下创建对应于该应用服务器的临时节点，并且在zookeeper节点中的第二节点保存的内容中添加该应用服务器的标识；并且在该应用服务器对应的临时节点被删除的情况下，根据节点事件删除所述第二节点中记录的该应用服务器的标识；

所述领导模块用于在接收到服务请求之后，调用所述负载均衡模块，然后接收该负载均衡模块从所述当前可用的应用服务器中确定的第一应用服务器的标识，再将所述服务请求转发给该第一应用服务器；

所述负载均衡模块用于在被所述领导模块调用的情况下，对所述数据存取模块进行调用，然后接收所述数据存取模块提供的当前可用的多个应用服务器的标识，然后按照预设的负载均衡方式从所述多个应用服务器中确定第一应用服务器，再将该第一应用服务器的标识发送给所述领导模块；

所述数据存取模块用于在被所述负载均衡模块调用的情况下，根据所述第二节点保存的内容确定当前可用的多个应用服务器，然后将该多个应用服务器的标识发送给所述负载均衡模块。

6.根据权利要求5所述的实现多个应用服务器提供服务的系统，其特征在于，所述领导模块还用于在所处服务器成为领导服务器的情况下，在zookeeper节点中的第三节点保存该领导服务器的标识。

7.根据权利要求5所述的实现多个应用服务器提供服务的系统，其特征在于，

所述负载均衡模块还用于判断预设的标志位是否表示当前执行默认的负载均衡策略，若是，则执行该默认的负载均衡策略，否则执行预先设置的负载均衡策略方法；该负载均衡策略方法用于执行预先设置的负载均衡策略。

8.根据权利要求5、6或7所述的实现多个应用服务器提供服务的系统，其特征在于，

多个所述临时节点之间具有顺序；

所述标识的格式为“应用服务器的IP地址+自增整数”。