CN1909507B - 一种报文转发方法和系统 - Google Patents

Abstract

本发明公开一种报文转发方法和系统，负载均衡服务器在健康性检测的时候，对不可用服务器对应的连接删除或者做相应的标记，当收到TCP报文时，负载均衡服务器首先判断该连接是否首包，如果不是首包，则在流缓存表中查询是否存在有效连接，如果是无效连接，则向客户端发送一个断开连接请求，以便客户端重新发送TCP连接请求。采用本发明的技术方案，对于客户端已经存在的连接的后发报文，当服务器不可用时，客户端不需要多次重发该报文，节约时间，并减少资源占用。

Description

一种报文转发方法和系统

技术领域

本发明涉及网络通信领域的服务器负载均衡技术，尤其是一种报文转发方法和系统。 

背景技术

负载均衡技术是由多台服务器以对称的方式组成一个服务器集合，每台服务器都具有等价的地位，都可以单独对外提供服务而无须其他服务器的辅助。通过某种负载分担技术，将外部发送来的请求均匀分配到对称结构中的某一台服务器上，而接收到请求的服务器独立地回应客户的请求。 

负载均衡系统包括：负载均衡器、服务器组。 

负载均衡器，又称负载调度器(load balancer)，是整个服务器组对外的前端机，负责将客户端的请求按照一定的调度机制，发送到一组服务器上执行，而客户端认为服务是来自一个IP(Internet Protocol，网际协议)地址上的，可称之为虚拟IP地址。负载均衡器中存在流缓存表，保存各个服务器的各种连接的相关信息。 

服务器组，或称服务器池，包括多个服务器，是一组真正执行客户请求的服务器。其执行的服务可以是WEB(网页服务)、MAIL(邮件服务)、FTP(FileTransfer Protocol，文件传输协议)和DNS(Domain Name System，域名系统)或其他更多种类。其中，WEB包括HTTP(超文本传输协议)，HTTPS(加密的超文本传输协议)和Cookie(Cookie允许一个Web站点在用户的电脑上保存信息并且随后再取回它)等网页浏览相关的服务。 

通过应用负载均衡技术，应用服务超过了一台服务器只能为有限用户提供服务的限制，可以利用多台服务器同时为大量用户提供服务。当某台服务器出现故障时，负载均衡器会自动进行检测并停止将服务请求分发至该服务器，而由其他工作正常的服务器继续提供服务，从而保证了服务的可靠性。 

为了保证服务器组中的服务器处于有效状态，负载均衡器需要定时的检测服务器组，即对服务器组进行健康性检测。健康性检测，负载均衡器每隔一定时间对服务器进行检测，就是某个运行着的进程去发现服务器的健康状况，即真实服务器当前是处于活动状态还是关闭状态，或者由于网络等原因而不可达。健康性检测只有两种结果，可用或不可用。健康性检测的目的是及时和自动地去发现真实服务器的健康性状况，从而将负荷分配到可用的服务器，避免负荷被分配到不可用的服务器，使客户端得不到响应。当负载均衡器在对一台服务器进行健康性检测，检测失败后，会把该服务器从负载均衡的流缓存表中删除或标为不可用，当客户端新建一个连接时，负载均衡器重新调度，将该连接分配给可用的其他服务器。 

现有技术中的负载均衡技术对于客户端已经存在的连接，则无法新建该连接。如图1所示，一台服务器失效以后，客户端存在连接时间很久的TCP(TransferControl Protocol，传输控制协议)连接，其处理流程如下：负载均衡器收到该连接的后发报文，首先查找流缓存表，由于与该连接对应的服务器不可用，负载均衡器会将后发报文丢弃，因为所述后发报文不是TCP首包，即使调度到另一个服务器也没有用。这样客户端既没有收到报文响应，也没有收到其他报文，而TCP的机制是等到超时时间没有回应再重发，直到重发够次数以后才会断开连接或新建连接。于是客户端反复的向负载均衡器发送该后发报文。直到达到一定次数确认连接失败后，才会断开连接或者新建连接。 

现有技术的这种处理方法存在如下缺点： 

(1)在连接中浪费时间，由于后发报文需要等待超时后重发到一定次数才能断开连接，这个过程往往会花费一分多钟的时间，这样降低了对客户端的响应速度； 

(2)占用资源，由于客户端需要反复重发报文，而且这些重发报文没有任何意义，只会占用网络带宽和负载均衡器处理能力。 

发明内容

本发明的目的在于：当负载均衡系统中服务器不可用时，对于客户端已经存在的连接，不需要多次重发即可通知客户端断开该连接，从而使客户端请求新的连接。 

本发明目的是通过如下技术方案实现的： 

提供一种报文转发方法，包括： 

对服务器组中的服务器做健康性检测，并根据检测结果修改流缓存表中服务器对应的连接； 

报文转发模块判断接收到的TCP报文是否为首包； 

如果所述TCP报文是首包，报文转发模块重新调度，在流缓存表中新建连接，并按流缓存表内容转发所述TCP报文； 

如果所述TCP报文不是首包，查询流缓存表中是否存在所述TCP报文的有效连接，存在有效连接时，按所述有效连接转发所述TCP报文；不存在有效连接时，则向客户端发送断开连接请求。 

该报文转发方法中，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为： 

查询流缓存表，判断所述流缓存表中是否存在该连接，如果存在该连接，且所述连接不存在断开连接请求标志，则存在有效连接，否则不存在有效连接。 

该报文转发方法，健康性检测的步骤包括：健康性检测模块向服务器发送检测报文，根据服务器的回应检测出服务器是否失效的状态。 

较佳的，该报文转发方法中，所述健康性检测的步骤包括： 

健康性检测模块向服务器发送检测报文，在指定时间内，收到服务器的回应，则将无回应计数器清零； 

未收到服务器的回应，则将无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并删除流缓存表中对应于该服务器的所有连接。 

该报文转发方法中，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为： 

确定所述流缓存表中不存在所述TCP报文的连接，则不存在有效连接。 

较佳的，该报文转发方法中，所述健康性检测的步骤包括： 

健康性检测模块向服务器发送检测报文，在指定时间内，收到服务器的回应，则将无回应计数器清零； 

未收到服务器的回应，则将无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并将流缓存表中对应于该服务器的所有连接标记断开连接请求标志。 

该报文转发方法中，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为： 

确定流缓存表中查询到的所述TCP报文的连接带有断开连接请求标志，则不存在有效连接。 

本发明还提供一种报文转发系统，包括： 

流缓存表，存储有与服务器相关的连接信息； 

健康性检测模块，用于检测服务器组中的服务器的状态，并根据所述健康性检测模块的检测结果，修改流缓存表中服务器对应的连接； 

报文转发模块，用于判断接收到的TCP报文是否为首包，如果所述TCP报文是首包，重新调度，在流缓存表中新建连接，并按流缓存表内容转发所述TCP报文；如果所述TCP报文不是首包，查询流缓存表中是否存在所述TCP报文的有效连接，存在有效连接时，按所述有效连接转发所述TCP报文；不存在有效连接时，则向客户端发送断开连接请求。 

较佳的，该报文转发系统中，所述健康性检测模块包括： 

检测报文发送模块，向服务器发送检测报文，发起健康性检测； 

接收模块，用于接收服务器对检测报文的回应，并输出相应的报文回应信 息； 

计时器，用于设置一定的时间； 

判断模块，判断报文回应信息的内容是否为空，以及无回应计数器的值是否为空； 

无回应计数器，用于存储服务器无回应的次数； 

流缓存修改模块，用于修改流缓存表中的连接； 

所述判断模块判断接收到的报文回应信息是否为空，当所述报文回应信息不为空时，将无回应计数器的值置零；当所述报文回应信息为空时，判断无回应计数器的值是否达到门限值，如果未达到门限值则将其值增加一；如果达到门限值，则向流缓存修改模块发送服务器无效的信息；流缓存修改模块根据该服务器无效信息，修改流缓存表中与该服务器对应的连接。 

较佳的，该报文转发系统中，所述判断模块包括： 

第一判断模块，判断报文回应信息的内容是否为空； 

第二判断模块，判断无回应计数器的值是否达到门限值； 

所述第一判断模块判断所述接收模块中的报文回应信息是否为空，当所述报文回应信息为空时，向第二判断模块发送该报文回应信息；第二判断模块判断无回应计数器是否到达门限值，当达到门限值时，向流缓存修改模块发送服务器无效的信息；未达到门限值时，则将无回应计数器增1。 

较佳的，该报文转发系统中，所述报文转发模块包括： 

首包判断模块，判断接收到的TCP报文是否为首包，输出相应的首包判断结果，当所述TCP报文为首包时，输出首包消息，当所述TCP报文不是首包时，输出非首包消息； 

流缓存创建模块，接收来自首包判断模块的所述首包消息，根据负载均衡机制调度该连接，并在流缓存中创建新的连接； 

流缓存查询模块，接收所述非首包消息，并向流缓存表中查询是否存在有效连接，如果存在有效连接，则输出转发该连接的指令，如果不存在有效连接 则输出发送断开连接请求的指令； 

发送模块根据转发连接指令将所述连接按照流缓存表内容向服务器转发，或者根据发送断开连接请求的指令，向客户端发送断开连接请求。 

较佳的，该报文转发系统中，所述报文转发模块还包括：流缓存删除模块，当流缓存查询模块输出所述发送断开连接请求的指令时，删除流缓存表中的所述连接。 

采用本发明提供的方案，通过在健康性检测过程中对失效的服务器所对应的连接做相应的标记或者删除，对于客户端已经存在的连接的后发报文，当服务器不可用时，负载均衡器向客户端发送断开连接请求，客户端不需要多次重发该报文，即可断开该连接，请求新连接，负载均衡器将新连接调度到可用的服务器上，从而节约时间，提高对客户端的响应速度，并可以减少网络资源占用。 

附图说明

图1是现有技术中出现服务器不可用时的处理流程； 

图2是本发明报文转发系统的结构图； 

图3是图2中健康性检测模块细化图； 

图4是图2中报文转发模块的细化图； 

图5是本发明报文转发方法的流程图； 

图6是本发明报文转发方法第一实施例具体流程图； 

图7是本发明报文转发方法第一实施例中健康性检测的具体流程； 

图8是本发明报文转发方法第二实施例具体流程图； 

图9是本发明报文转发方法第一实施例中健康性检测的具体流程； 

图10是本发明改进后报文转发的示意图。 

具体实施方式

下面结合附图和具体实施例对本发明做进一步的描述。 

本发明的关键在于，负载均衡服务器在健康性检测的时候，对不可用服务器对应的连接删除或者做相应的标记，当收到TCP报文时，负载均衡服务器首先判断该连接是否首包，如果不是首包，则在流缓存表中查询是否存在有效连接，如果是无效连接，则向客户端发送一个断开连接请求，以便客户端重新发送TCP连接请求。所述无效连接包括：流缓存表中不存在的连接以及流缓存表中做了断开连接请求RST标志的连接。 

图2所示，本发明提供的系统，包括：健康性检测模块、流缓存表、报文转发模块，其中： 

健康性检测模块，检测服务器的状态； 

流缓存表，存储有与服务器相关的连接信息； 

报文转发模块，管理流缓存表，创建，删除和维护流缓存表中的连接，并对根据流缓存表对TCP报文进行转发； 

所述健康性检测模块检测服务器组的状态，并根据所述健康性检测模块结果，修改流缓存表； 

所述报文转发模块接收客户端TCP报文，并查询流缓存表，根据流缓存表对报文进行转发。 

图3所示是本发明中所述健康性检测模块具体结构图，其包括： 

检测报文发送模块，向服务器发送检测报文，发起健康性检测； 

接收模块，用于接收服务器对检测报文的回应，并输出相应的报文回应信息； 

计时器，用于设置一定的时间； 

判断模块，判断报文回应信息的内容是否为空，以及无回应计数器的值是否为空； 

无回应计数器，用于存储服务器无回应的次数； 

流缓存修改模块，用于修改流缓存表中的连接； 

所述判断模块判断接收到的报文回应信息是否为空，当所述报文回应信息不为空时，将无回应计数器的值置零；当所述报文回应信息为空时，判断无回应计数器的值是否达到门限值，如果未达到门限值则将其值增加一；如果达到门限值，则向流缓存修改模块发送服务器无效的信息；流缓存修改模块根据该服务器无效信息，修改流缓存表中与该服务器对应的连接。 

其中，所述判断模块包括： 

第一判断模块，用于判断报文回应信息的内容是否为空； 

第二判断模块，用于判断无回应计数器的值是否达到门限值； 

所述第一判断模块判断所述接收模块中的报文回应信息是否为空，当所述报文回应信息为空时，向第二判断模块发送该报文回应信息；第二判断模块判断无回应计数器是否到达门限值，当达到门限值时，向流缓存修改模块发送服务器无效的信息；未达到门限值时，则将无回应计数器增1。 

图4是本发明的报文转发模块的具体结构图，其包括： 

首包判断模块，判断接收到的TCP报文是否为首包，输出相应的首包判断结果，当所述TCP报文为首包时，输出首包消息，当所述TCP报文不是首包时，输出非首包消息； 

流缓存创建模块，接收来自首包判断模块的所述首包消息，根据负载均衡机制调度该连接，并在流缓存中创建新的连接； 

流缓存查询模块，接收所述非首包消息，并向流缓存表中查询是否存在有效连接，如果存在有效连接，则输出转发该连接的指令，如果不存在有效连接则输出发送RST的指令； 

发送模块根据转发连接指令将所述连接按照流缓存表内容向服务器转发，或者根据发送RST报文指令，向客户端发送RST报文。 

所述报文转发模块还包括，流缓存删除模块，当流缓存查询模块输出所述发送断开连接请求的指令时，删除流缓存表中的所述连接。 

流缓存表，或叫连接哈希表，用于存储连接的信息，包括：连接的源IP地址、源端口，目的IP地址、目的端口或目的MAC(Medium Access Control，媒体访问控制)地址，协议类型，和其他一些和这个连接相关的信息。协议类型一般是，TCP和UDP(User Datagram Protocol，用户数举报协议)。当然并不是每个负载均衡器都需要上述所有内容，可以根据系统做相应的调整。对于客户端的每一个新建的连接，负载均衡器会流缓存表中新建一个流缓存项，在后续报文到达后就根据流缓存表里内容进行报文的修改和转发。 

如图5所示，本发明提供的报文转发方法，包括：报文转发模块接收TCP报文，判断该报文是否为首包；如果该TCP报文为首包，报文转发模块重新调度，在流缓存表中新建连接，并按流缓存表中的内容转发所述TCP报文；如果该TCP报文不是首包，查询流缓存表是否存在有效连接，存在有效连接时，按所述有效连接转发所述TCP报文；不存在有效连接时，则向客户端发送断开连接请求。 

所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为： 

查询流缓存表，判断所述TCP报文查询流缓存表中是否存在该连接，如果存在该连接，且所述连接不存在RST标志，则存在有效连接，否则不存在有效连接。 

所述报文转发方法还包括健康性检测的步骤：健康性检测模块向服务器发送检测报文，根据服务器的回应检测出服务器是否失效的状态。 

图6为本发明第一实施例的流程图，当报文转发模块接收到TCP报文，判断该TCP报文是否为首包，如果为首包，则重新调度，在流缓存表中新建连接；如果该TCP报文不是首包，报文转发模块查询流缓存表，查询到该连接则按照流缓存表对该TCP报文进行转发；否则向客户端发送RST报文。 

如图7所示，在上述当报文转发模块接收到TCP报文的步骤之前，还包括健康性检测的步骤：健康性检测模块向服务器发送检测报文，在指定时间内， 收到服务器的回应，则将无回应计数器清零；未收到服务器的回应，则在无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并删除流缓存表中对应于该服务器的所有连接。所述门限值根据系统需要设置一定的次数，门限值大小可以根据网络情况和系统响应时间要求进行设置。 

图8为本发明第二实施例的流程图，当报文转发模块接收到TCP报文，判断该TCP报文是否为首包，如果为首包，则重新调度，在流缓存表中新建连接；如果该TCP报文不是首包，报文转发模块查询流缓存表，未查询到该连接则丢弃该报文；查询到有效连接后，则按照流缓存表对该TCP报文进行转发；如果查询到该连接，但该连接包含RST标志，则向客户端发送RST报文。所述有效连接为：流缓存表中存在该连接，且所述连接不存在RST标志。 

如图9所示，在上述当报文转发模块接收到TCP报文的步骤之前，还包括健康性检测的步骤：健康性检测模块向服务器发送检测报文，在指定时间内，收到服务器的回应，则将无回应计数器清零；未收到服务器的回应，则将无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并在流缓存表中对应于该服务器的所有连接标记RST标志。所述门限值根据系统需要设置一定的次数，门限值大小可以根据网络情况和系统响应时间要求进行设置。 

负载均衡系统中，负载均衡器需要定时的对服务器进行健康性检测的步骤。 

如图10所示，采用本发明提供的方案后，对于客户端请求的连接，负载均衡器处理过程如下： 

对于客户端的新建的TCP报文，负载均衡器根据调度算法分配一台可用的服务器，在流缓存表中新建该连接，并按照流缓存内容将该TCP报文转发给所述服务器，通过TCP三次握手，建立客户端和服务器之间的连接；在该连接存在过程中，如果所述服务器不可用，负载均衡器在健康性检测过程中将该服务器标记为不可用，对于客户端发送的该连接的后发报文，负载均衡器向客户端 回复RST报文，客户端根据收到的RST报文重新发起新的连接，或者停止发送连接。对于客户端新建的连接，负载均衡器重新调度可用的服务器，并转发该连接。可见，在此过程中，客户端不需要重复多次向负载均衡器发送后发报文，等待连接失败时才断开连接，从而节约时间，提高响应速度，并避免报文多次重发占用系统资源。 

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，凡在本发明的精神和原则之内所做的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内，因此，本发明的保护范围应该以权利要求的保护范围为准。 

Claims (12)

1.一种报文转发方法，其特征在于，包括：

对服务器组中的服务器做健康性检测，并根据检测结果修改流缓存表中服务器对应的连接；

报文转发模块判断接收到的TCP报文是否为首包；

如果所述TCP报文是首包，报文转发模块重新调度，在流缓存表中新建连接，并按流缓存表内容转发所述TCP报文；

如果所述TCP报文不是首包，查询流缓存表中是否存在所述TCP报文的有效连接，存在有效连接时，按所述有效连接转发所述TCP报文；不存在有效连接时，则向客户端发送断开连接请求。

2.如权利要求1所述的报文转发方法，其特征在于，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为：

查询流缓存表，判断所述流缓存表中是否存在该连接，如果存在该连接，且所述连接不存在断开连接请求标志，则存在有效连接，否则不存在有效连接。

3.如权利要求1所述的报文转发方法，其特征在于，健康性检测的步骤包括：健康性检测模块向服务器发送检测报文，根据服务器的回应检测出服务器是否失效的状态。

4.如权利要求3所述的报文转发方法，其特征在于，所述健康性检测的步骤包括：

健康性检测模块向服务器发送检测报文，在指定时间内，收到服务器的回应，则将无回应计数器清零；

未收到服务器的回应，则将无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并删除流缓存表中对应于该服务器的所有连接。

5.如权利要求4所述的报文转发方法，其特征在于，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为：

确定所述流缓存表中不存在所述TCP报文的连接，则不存在有效连接。

6.如权利要求3所述的报文转发方法，其特征在于，所述健康性检测的步骤包括：

健康性检测模块向服务器发送检测报文，在指定时间内，收到服务器的回应，则将无回应计数器清零；

未收到服务器的回应，则将无回应计数器加一，当无回应计数器的值到门限值，则标记当前服务器为不可用，并将流缓存表中对应于该服务器的所有连接标记断开连接请求标志。

7.如权利要求6所述的报文转发方法，其特征在于，所述查询流缓存表中是否存在所述TCP报文的有效连接，具体为：

确定流缓存表中查询到的所述TCP报文的连接带有断开连接请求标志，则不存在有效连接。

8.一种报文转发系统，其特征在于，包括：

流缓存表，存储有与服务器相关的连接信息；

健康性检测模块，用于检测服务器组中的服务器的状态，并根据所述健康性检测模块的检测结果，修改流缓存表中服务器对应的连接；

报文转发模块，用于判断接收到的TCP报文是否为首包，如果所述TCP报文是首包，重新调度，在流缓存表中新建连接，并按流缓存表内容转发所述TCP报文；如果所述TCP报文不是首包，查询流缓存表中是否存在所述TCP报文的有效连接，存在有效连接时，按所述有效连接转发所述TCP报文；不存在有效连接时，则向客户端发送断开连接请求。

9.如权利要求8所述的报文转发系统，其特征在于，所述健康性检测模块包括：

检测报文发送模块，向服务器发送检测报文，发起健康性检测；

接收模块，用于接收服务器对检测报文的回应，并输出相应的报文回应信息；

计时器，用于设置一定的时间；

判断模块，判断报文回应信息的内容是否为空，以及无回应计数器的值是否为空；

无回应计数器，用于存储服务器无回应的次数；

流缓存修改模块，用于修改流缓存表中的连接；

所述判断模块判断接收到的报文回应信息是否为空，当所述报文回应信息不为空时，将无回应计数器的值置零；当所述报文回应信息为空时，判断无回应计数器的值是否达到门限值，如果未达到门限值则将其值增加一；如果达到门限值，则向流缓存修改模块发送服务器无效的信息；流缓存修改模块根据该服务器无效信息，修改流缓存表中与该服务器对应的连接。

10.如权利要求9所述的报文转发系统，其特征在于，所述判断模块包括：

第一判断模块，判断报文回应信息的内容是否为空；

第二判断模块，判断无回应计数器的值是否达到门限值；

所述第一判断模块判断所述接收模块中的报文回应信息是否为空，当所述报文回应信息为空时，向第二判断模块发送该报文回应信息；第二判断模块判断无回应计数器是否到达门限值，当达到门限值时，向流缓存修改模块发送服务器无效的信息；未达到门限值时，则将无回应计数器增1。

11.如权利要求8所述的报文转发系统，其特征在于，所述报文转发模块包括：

首包判断模块，判断接收到的TCP报文是否为首包，输出相应的首包判断结果，当所述TCP报文为首包时，输出首包消息，当所述TCP报文不是首包时，输出非首包消息；

流缓存创建模块，接收来自首包判断模块的所述首包消息，根据负载均衡机制调度该连接，并在流缓存中创建新的连接；

流缓存查询模块，接收所述非首包消息，并向流缓存表中查询是否存在有效连接，如果存在有效连接，则输出转发该连接的指令，如果不存在有效连接则输出发送断开连接请求的指令；

发送模块根据转发连接指令将所述连接按照流缓存表内容向服务器转发，或者根据发送断开连接请求的指令，向客户端发送断开连接请求。

12.如权利要求11所述的报文转发系统，其特征在于，所述报文转发模块还包括：流缓存删除模块，当流缓存查询模块输出所述发送断开连接请求的指令时，删除流缓存表中的所述连接。

Images