CN1665206A - 实现网络长连接倒换的方法 - Google Patents

Abstract

本发明公开了一种实现网络长连接倒换的方法，该方法包括：建立至少一个虚服务，对应一个由具有相同服务功能的至少一个真实服务器组成的服务器组；为所述虚服务设定一个标识字，以标识服务器组中真实服务器的变化；根据所述标识字判断所述真实服务器状态是否发生变化；当真实服务器状态正常时，建立客户与真实服务器的连接；当真实服务器状态发生变化时，根据标识字实现长连接的倒换。利用本发明，可以在服务器出现状态变迁时整体流量仍然能平均分配到不同服务器上，而且保证在服务器恢复正常后由网络负载均衡设备实现长连接的倒换。

Description

实现网络长连接倒换的方法

技术领域

本发明涉及网络连接技术领域，具体涉及一种实现网络长连接倒换的方法。

背景技术

随着网络技术的发展，网络建设及应用突飞猛进，网络用户不断增加，网络负载均衡设备也越来越多地应用在各行各业的网络中，目前的负载均衡设备都实现了对于网络流量的符合分担，即利用多种算法将总的访问流量平均分配到不同的服务器上。而且还有相应的健康性检测机制，如果某台真实服务器不可用了，则连接在这台设备上的流量将被分担到其它的服务器上，当这台服务器又能正常运行之后负载均衡设备会把网络流量重新分配到该服务器上，但这些流量并非是服务器不可用之前连接在该服务器上的流量。在某些特殊领域里(比如银行、证券等)，客户端会发出长连接到服务器：建立TCP(传输控制协议)连接之后不断链，始终保持连接状态。这些长连接要求分配到不同的服务器上，如果一台服务器不可用了则客户端软件会重新发起连接，负载均衡设备会将这个连接分配到一个新的服务器上，当原来不可用的服务器恢复正常之后，要求将原先连接到该服务器上、目前已分配到新服务器上的连接断链，然后重新连接到该服务器上。

目前的负载均衡设备都只是实现了对于流量的符合分担，当服务器在可用-＞不可用-＞可用这两个状态之间变化之后，可以将一部分流量重新连接到恢复正常状态的服务器，保证各服务器的负载均衡，但是却无法做到将原来的流量重新连接到恢复正常状态的服务器上，这样，一台本来有负荷的服务器失效后，负荷全部转移到其他服务器上，当失效的服务器重新工作后，由于没有新的长连接产生(因为都是长连接)，所以该服务器就会一直处于没有负荷的状态中，如同虚设。这样在某些应用领域就无法使用。

发明内容

本发明的目的是克服现有技术的上述缺点，提供一种实现网络长连接倒换的方法，以使在服务器出现状态变迁时整体流量仍然能平均分配到不同的有效服务器上。

一种实现网络长连接倒换的方法，所述方法包括步骤：

A、建立至少一个虚服务，对应一个由具有相同服务功能的至少一个真实服务器组成的服务器组；

B、为所述虚服务设定一个标识字，以标识对应的服务器组中真实服务器的变化；

C、根据所述标识字判断所述真实服务器状态是否发生变化；

D、当所述真实服务器状态未发生变化时，由网络负载均衡设备建立客户与所述真实服务器的连接；

E、当所述真实服务器状态发生变化时，根据所述标识字实现长连接的倒换。

所述步骤D包括：

D1、在所述网络负载均衡设备上配置所述虚服务的信息及所述真实服务器的信息，并建立它们之间的对应关系；

D2、根据所述建立的虚服务信息与真实服务器信息的对应关系建立客户与所述真实服务器的连接。

所述步骤D1包括：

配置所述虚服务的信息包括：虚服务的IP地址、端口号和协议号；

配置所述真实服务器的信息包括：真实服务器的IP地址、端口号和协议号。

所述步骤D2包括：

D21、所述客户向所述虚服务发起访问请求；

D22、所述网络负载均衡设备根据所述访问请求找到对应的服务器组，并按预定算法为所述客户请求分配一个真实服务器；

D23、建立所述客户与所述分配的真实服务器的连接。

所述预定算法包括：源IP地址Hash算法，目的IP地址Hash算法、源IP地址与目的IP地址Hash算法。

所述步骤D23包括：

D231、根据所述访问请求中首包报文信息及所述分配的真实服务器的信息为本次连接建立客户与服务器的对应关系列表；

D232、根据所述建立的客户与服务器的对应关系列表连接所述客户和所述分配的真实服务器。

所述步骤D23l包括：在建立所述客户与服务器的对应关系列表时，记录当前所述标识字。

所述客户与服务器的对应关系列表包括：客户访问的源/目的IP地址、源/目的端口号和客户协议号，以及所述分配的真实服务器的地址和端口号；分配的真实服务器回应报文的源/目的IP地址、源/目的端口号和服务器协议号，以及经过所述网络负载均衡设备后所述回应报文需要替换的源IP地址和源端口号。

所述步骤E包括：

E1、当所述虚服务中有真实服务器由不可用变为可用或者新加入真实服务器时，改变所述标识字；

E2、所述网络负载均衡设备收到客户访问虚服务的后续报文后，如果当前的标识字与所述客户与服务器的对应关系列表中记录的标识字不同，则利用所述预定算法重新分配一个真实的服务器。

所述步骤E2包括：

E21、如果分配结果与所述客户与服务器的对应关系列表中记录的信息相同，则直接转发所述后续报文给所述真实的服务器；

E22、如果分配结果与所述客户与服务器的对应关系列表中记录的信息不同，则删除所述建立的客户与服务器的对应关系列表；

E23、当所述网络负载均衡设备再次收到客户的后续报文后，查不到对应的客户与服务器的对应关系列表，则给所述客户回应RST(复位)报文，通知用户重新建立连接。

提供一种实现网络长连接倒换的方法，以使在服务器出现状态变迁时整体流量仍然能平均分配到不同的有效服务器上。

利用本发明，不仅保证了服务器在出现状态变化时整体流量仍然能平均分配到不同的有效服务器上，而且在服务器恢复正常后，如果没有新的服务器加入该网络，则由网络负载均衡设备将原先对应于该服务器的长连接倒换回该服务器上，如果有新的服务器加入该网络时，则实现长连接的重新分配，保证负载的均衡；同时，本发明还使得网络负载均衡设备支持长连接倒换功能，可靠实现了服务器之间的备份，充分保证了长连接数据的安全。

附图说明

图1是正常情况下三个客户机分别与两个服务器进行连接的示意图；

图2是图1中一台服务器不可用之后所有客户机都连接到另一台服务器上的情况示意图；

图3是当图2中不可用的服务器恢复正常之后将原来的连接重新连接到该服务器的情况示意图；

图4是本发明方法中由网络负载均衡设备建立客户与服务器连接的步骤的流程图；

图5是图4所示流程中建立客户和分配的真实服务器连接过程中信号的流程示意图；

图6是本发明方法中由网络负载均衡设备实现长连接倒换的步骤的流程图。

具体实施方式

为了使本技术领域的人员更好地理解本发明，下面结合附图和实施方式对本发明作进一步的详细说明。

参照图1、图2和图3，本发明方法的实现思路为：在正常情况下，使用预定算法来选择真实服务器，客户机Client1连接到服务器Server2，客户机Client2和Client3连接到服务器Server1，如图1所示；当服务器Server2由于某种原因不可用之后，客户机Client1与服务器Server2的连接就会断开，然后客户机Client1重新发起连接，由于服务器Server2不可用所以连接到服务器Server1，如图2所示；当服务器Server2恢复正常工作之后网络负载均衡设备会主动将客户机Client1与服务器Server1的连接断开，然后由客户机Client1重新发起连接并最终与服务器Server2建立连接。

本发明利用网络负载均衡设备实现网络长连接的倒换，在有服务器发生故障时，将对应于该服务器的长连接倒换到其它有效服务器上，当该服务器恢复正常后，再将原先对应于该服务器的长连接倒换回该服务器上。在有新服务器加入所述网络时，也要重新分配长连接对应的服务器。在上述服务器的所有变化过程中，始终保持网络负载的均衡。

本发明方案包括以下部分：

(1)建立至少一个虚服务，对应一个由具有相同服务功能的至少一个真实服务器组成的服务器组。也就是说，以组的形式管理网络中的真实服务器，将一个或多个具有相同服务功能的真实服务器组成一组，每个服务器组对应一个虚服务。

(2)为虚服务设定一个标识字，以标识服务器组中真实服务器的变化。

(3)根据所述标识字判断所述真实服务器状态是否发生变化。

(4)当真实服务器状态正常时，由网络负载均衡设备建立客户与真实服务器的连接。

(5)当真实服务器状态发生变化时，根据所述标识字实现长连接的倒换。

下面结合附图分别介绍真实服务器状态正常情况下由网络负载均衡设备建立客户与真实服务器的连接的过程以及真实服务器状态发生变化后由该设备实现长连接倒换的过程。

参照图4，图4描述了由网络负载均衡设备建立客户与服务器连接的步骤的流程图。

步骤401：在网络负载均衡设备上配置虚服务的信息及真实服务器的信息，并建立它们之间的对应关系。其中，虚服务的信息包括：虚服务的IP地址、端口号和协议号；真实服务器的信息包括：真实服务器的IP地址、端口号和协议号。

步骤402：客户向所述虚服务发起访问请求。

步骤403：网络负载均衡设备根据访问请求找到对应的服务器组，并按预定算法为客户请求分配一个真实服务器。即网络负载均衡设备收到客户访问虚服务的首包后，判断报文中目的IP地址、目的端口号以及协议号是否匹配虚服务的相关配置，如果匹配，则按照预定的算法为本次连接在该虚服务对应的服务器组中分配一个真实服务器。比如，可以按照：源IP地址Hash算法，目的IP地址Hash算法、源IP地址与目的IP地址Hash算法为本次连接在该虚服务对应的服务器组中分配一个真实服务器。

步骤404：根据访问请求中首包报文信息及分配的真实服务器的信息为本次连接建立客户与服务器的对应关系列表，并在该表中记录当前标识字。该表包括以下信息：客户访问的源/目的IP地址、源/目的端口号和客户协议号，以及所述分配的真实服务器的地址和端口号；分配的真实服务器回应报文的源/目的IP地址、源/目的端口号和服务器协议号，以及经过所述网络负载均衡设备后所述回应报文需要替换的源IP地址和源端口号。

步骤405：根据建立的客户与服务器的对应关系列表连接客户和分配的真实服务器。即：客户侧的后续报文到达网络负载均衡设备后，网络负载均衡设备根据后续报文中的信息匹配客户与服务器的对应关系列表，获得对应的真实服务器的地址和端口号；然后将后续报文中的目的IP地址和目的端口号替换为对应的真实服务器的地址和端口号，并将替换后的报文转发给对应的真实服务器。同样，真实服务器将处理结果发送给网络负载均衡设备后，网络负载均衡设备根据回应报文中的信息匹配客户与服务器的对应关系列表，获得对应的回应报文需要替换的源IP地址和源端口号，并将回应报文中的源IP地址和源端口号替换为对应的虚服务的IP地址和虚服务的端口号，并将替换后的报文转发给所述客户。这样，客户就无法知道服务器的真实地址了，保证了服务器的安全。

在上述步骤404中，也可以按照以下方法建立客户与服务器的对应关系，比如，根据访问请求中首包报文信息及分配的真实服务器的信息为本次连接建立一对Cache(高速缓存)：客户端Cache和服务器端Cache。其中，客户端Cache内容包括：客户访问的源/目的IP地址、源/目的端口号和协议号，以及分配的真实服务器的地址和端口号；服务器端Cache内容包括：分配的真实服务器回应报文的源/目的IP地址、源/目的端口号和协议号，以及经过网络负载均衡设备后回应报文需要替换的源IP地址和源端口号。

然后，根据建立的这对Cache连接客户和分配的真实服务器。即：客户侧的后续报文到达网络负载均衡设备后，网络负载均衡设备根据后续报文中的信息匹配客户端Cache，获得对应的真实服务器的地址和端口号；然后将后续报文中的目的IP地址和目的端口号替换为客户端Cache中对应的真实服务器的地址和端口号，并将替换后的报文转发给对应的真实服务器。同样，真实服务器将处理结果发送给网络负载均衡设备后，网络负载均衡设备根据回应报文中的信息匹配服务器端Cache，获得对应的回应报文需要替换的源IP地址和源端口号，并将回应报文中的源IP地址和源端口号替换为服务器端Cache中对应的虚服务的IP地址和虚服务的端口号，并将替换后的报文转发给所述客户。

上述连接过程中信号流程如图5所示。

再参照图5，图5描述了图4中建立客户和分配的真实服务器连接过程中信号的流程：

1.客户发送请求报文到网络负载均衡设备；

2.网络负载均衡设备用真实服务器IP地址和端口号替换虚服务IP地址和虚服务端口号，将客户请求发往真实的服务器；

3.真实服务器发送处理结果回应客户；

4.网络负载均衡设备用虚服务IP地址和端口号替换真实服务器IP地址和端口号，将访问结果发往访问客户。

上面详细描述了真实服务器状态正常情况下由网络负载均衡设备建立客户与真实服务器的连接的过程。

如果由于某种原因，使某台真实服务器不可用，则原来连接到该服务器的上的客户就会断开，然后重新发起连接请求，网络负载均衡设备会根据目前有效服务器按预定算法为新的请求建立新的连接，保证整体流量仍然可以平均分配到不同服务器上。具体过程是：负载均衡器在检测到服务器故障后，会将与该服务器相关的客户与服务器的对应关系列表全部删除。收到客户的后续报文后无法匹配到对应的客户与服务器的对应关系列表，负载均衡器发送RST(复位)报文给客户，客户收到RST报文后，会马上重新发起连接请求。而不必等到发生故障的服务器回应RST报文，或者客户根据TCP协议重传报文，直到超时再重建连接。提高了倒换效率。负载均衡设备为该请求重新分配有效的真实服务器，按照图4所示流程建立新的连接。如果网络中同时有多个服务器发生故障，处理也是一样的，只要存在有效的服务器，就会将负载均衡分配到所有有效服务器上。

当不可用服务器又恢复正常后，可由网络负载均衡设备实现长连接倒换。具体包括：如果没有新服务器加入该网络，则会将原先对应于该服务器的长连接倒换回该服务器上，保证负载的均衡；如果有新服务器加入该网络，为了保证负载的均衡，要重新分配长连接对应的服务器。

通过前面的介绍已经得知，网络负载均衡设备对于真实服务器的管理是以组的形式进行的，也就是说，一个虚服务中的所有真实服务器被看作一组，并且为每个这样的服务器组建立一个全局变量，也就是前面提到的标识字，每次这个组中某台真实服务器由不可用变为可用或者有新的服务器加入就将这个值加1。在收到客户首包建立客户与服务器的对应关系列表的时候首先在该列表中记录这个值，然后收到后续报文的时候每次都要检查一下该列表中的这个值和当前系统的这个值是否相同。如果相同，则说明真实服务器没有状态变迁，不进行处理，只需用真实服务器IP地址和端口号替换虚服务IP地址和虚服务端口号后直接转发该报文即可；如果不相同，则说明服务器组中的真实服务器状态发生改变，有两种情况：或者是有新服务器加入该组，或者是该组中有发生故障的服务器又恢复正常。这时需要利用预定算法重新分配一台真实服务器。如果这次计算的结果和该列表中记录的结果一样，则说明分配结果相同，不需要进行处理，只需用真实服务器IP地址和端口号替换虚服务IP地址和虚服务端口号后直接转发该报文即可；如果这次计算的结果和该列表中记录的结果不一样，则对应于标识字发生改变的两个条件同样表明有两种情况：如果是有新服务器加入该服务器组，为了使负载均衡，需要重新分配当前的负载；如果是该组中有发生故障的服务器又恢复正常，则需要将原来对应于该服务器的长连接倒换回该服务器上，同时保证负载的均衡分配。这时要主动删除已建立的客户与服务器的对应关系列表。当再次收到客户的后续报文时由于查不到相应的客户与服务器的对应关系列表同时又不是首包，所以会给客户回应一个RST(复位)报文通知客户重新建立连接。客户收到RST报文后，会重新发起连接，这次的连接就会选择以前使用的服务器或者新加入的服务器。这样，既实现了长连接的倒换，又保证了流量的均衡。其详细流程参见图6。

图6详细描述了本发明方法中由网络负载均衡设备实现长连接倒换的步骤的流程：

步骤601：网络负载均衡设备接收客户的后续报文；

步骤602：判断是否已有对应的客户与服务器的对应关系列表；

如果没有，则进到步骤604：给客户回应RST报文，通知客户重新建立连接；

如果已有，则进到步骤603：判断标识字是否改变，也就是比较客户与服务器的对应关系列表中记录的标识字与目前系统的服务器组标识字是否相同；

如果相同，则进到步骤607：用真实服务器IP地址和端口号替换虚服务IP地址和虚服务端口号后直接转发后续报文；

如果不相同，则进到步骤605：按预定算法重新分配一个真实服务器；

然后，进到步骤606：判断分配结果与客户与服务器的对应关系列表中的记录是否相同；

如果相同，则进到步骤607：用真实服务器IP地址和端口号替换虚服务IP地址和虚服务端口号后直接转发后续报文；

如果不相同，则进到步骤608：删除已建立的客户与服务器的对应关系列表。

当再次收到客户后续报文时由于查不到对应的客户与服务器的对应关系列表，同时又不是首包，则给客户回应一个RST报文，客户收到RST报文后会重新发起连接，负载均衡设备按照预定算法保证为这次连接分配以前使用的服务器或者新加入的服务器。

在上述描述中曾多次提到为客户与真实服务器建立连接时，需要由网络负载均衡设备按照预定的算法分配一个真实服务器。在本发明中，也利用该预定算法来保证同一客户在服务器恢复正常的情况下分配同一服务器。下面举例说明该算法的实现。以IP地址Hash算法为例：

假设有三台真实服务器A、B、C，那么设定两个阈值a1、a2，在收到客户报文的时候将客户的IP地址(可以是源IP地址、目的IP地址、源IP地址与目的IP地址)提取出来进行Hash运算得到一个值，算法保证同一地址计算得到的值唯一，然后用这个值与设定的两个阈值a1、a2相比较，小于a1就选A，大于a1小于a2就选B，大于a2就选C。如果服务器B不可用了就只剩下A和C，相应的阈值也只剩下一个a1，当服务器B恢复正常之后还是将B放到A和C中间，同时恢复a1，a2两个阈值，这样就能保证在服务器恢复正常情况后上次连接它的客户还能选择到该服务器。

虽然通过实施例描绘了本发明，本领域普通技术人员知道，本发明有许多变形和变化而不脱离本发明的精神，希望所附的权利要求包括这些变形和变化而不脱离本发明的精神。

Claims (10)

1、一种实现网络长连接倒换的方法，其特征在于，所述方法包括步骤：

A、建立至少一个虚服务，对应一个由具有相同服务功能的至少一个真实服务器组成的服务器组；

B、为所述虚服务设定一个标识字，以标识对应的服务器组中真实服务器的变化；

C、根据所述标识字判断所述真实服务器状态是否发生变化；

D、当所述真实服务器状态未发生变化时，由网络负载均衡设备建立客户与所述真实服务器的连接；

E、当所述真实服务器状态发生变化时，根据所述标识字实现长连接的倒换。

2、如权利要求1所述的实现网络长连接倒换的方法，其特征在于，所述步骤D包括：

D1、在所述网络负载均衡设备上配置所述虚服务的信息及所述真实服务器的信息，并建立它们之间的对应关系；

D2、根据所述建立的虚服务信息与真实服务器信息的对应关系建立客户与所述真实服务器的连接。

3、如权利要求2所述的实现网络长连接倒换的方法，其特征在于，所述步骤D1包括：

配置所述虚服务的信息包括：虚服务的IP地址、端口号和协议号；

配置所述真实服务器的信息包括：真实服务器的IP地址、端口号和协议号。

4、如权利要求2或3所述的实现网络长连接倒换的方法，其特征在于，所述步骤D2包括：

D21、所述客户向所述虚服务发起访问请求；

D22、所述网络负载均衡设备根据所述访问请求找到对应的服务器组，并按预定算法为所述客户请求分配一个真实服务器；

D23、建立所述客户与所述分配的真实服务器的连接。

5、如权利要求4所述的实现网络长连接倒换的方法，其特征在于，所述预定算法包括：源IP地址Hash算法，目的IP地址Hash算法、源IP地址与目的IP地址Hash算法。

6、如权利要求4所述的实现网络长连接倒换的方法，其特征在于，所述步骤D23包括：

D231、根据所述访问请求中首包报文信息及所述分配的真实服务器的信息为本次连接建立客户与服务器的对应关系列表；

D232、根据所述建立的客户与服务器的对应关系列表连接所述客户和所述分配的真实服务器。

7、如权利要求6所述的实现网络长连接倒换的方法，其特征在于，所述步骤D231包括：在建立所述客户与服务器的对应关系列表时，记录当前所述标识字。

8、如权利要求6或7所述的实现网络长连接倒换的方法，其特征在于，所述客户与服务器的对应关系列表包括：客户访问的源/目的IP地址、源/目的端口号和客户协议号，以及所述分配的真实服务器的地址和端口号；分配的真实服务器回应报文的源/目的IP地址、源/目的端口号和服务器协议号，以及经过所述网络负载均衡设备后所述回应报文需要替换的源IP地址和源端口号。

9、如权利要求8所述的实现网络长连接倒换的方法，其特征在于，所述步骤E包括：

E1、当所述虚服务中有真实服务器由不可用变为可用或者新加入真实服务器时，改变所述标识字；

E2、所述网络负载均衡设备收到客户访问虚服务的后续报文后，如果当前的标识字与所述客户与服务器的对应关系列表中记录的标识字不同，则利用所述预定算法重新分配一个真实的服务器。

10、如权利要求9所述的实现网络长连接倒换的方法，其特征在于，所述步骤E2包括：

E21、如果分配结果与所述客户与服务器的对应关系列表中记录的信息相同，则直接转发所述后续报文给所述真实的服务器；

E22、如果分配结果与所述客户与服务器的对应关系列表中记录的信息不同，则删除所述建立的客户与服务器的对应关系列表；

E23、当所述网络负载均衡设备再次收到客户的后续报文后，查不到对应的客户与服务器的对应关系列表，则给所述客户回应RST(复位)报文，通知用户重新建立连接。

Images