CN107534614A - 负载平衡 - Google Patents

Abstract

提供了一种在包括多个流量服务器的通信网络中执行负载平衡的方法。该方法包括：在负载平衡器中，从客户端设备接收通信协议中的连接请求，并且在负载平衡器中，为请求的连接选择流量服务器。将选择的流量服务器的身份编码进协议消息报头。将包含选择的流量服务器的编码的身份的协议消息报头返回到客户端设备。包含选择的流量服务器的编码的身份的协议消息报头被包括在从客户端设备发送到负载平衡器的通信协议分组中。负载平衡器将从客户端设备发送的通信协议分组转发到所选择的流量服务器。

Description

负载平衡

技术领域

本发明涉及在包括多个流量服务器的通信网络中执行负载平衡。

背景技术

负载平衡是在包括多个流量服务器（诸如基于云的系统）的通信网络中使用的基本功能。随着云增长，它不但对于支持其中算法（诸如散列标签（hashtag）算法）被用来把特定客户端指向特定服务器的无状态的负载平衡是有用的，而且对于支持其中每个会话被指派给特定服务器的有状态的负载平衡是有用的。

在云中可利用的流量服务器的数量的动态增加或减少期间可以使用有状态的负载平衡。在这种情况下，负载平衡器将继续把流量指向服务器直到它们被关闭，并且在连接变得可用时将会开始把流量指向服务器。

有状态的负载平衡的另一个典型使用是用于过载保护。如果特定的流量服务器过载了，有状态的负载平衡可以被用来把任何新的流量连接重定向到其它可利用的流量服务器。

发明内容

根据本发明，提供了一种在包括多个流量服务器的通信网络中执行负载平衡的方法。所述方法包括：在负载平衡器中，从客户端设备接收通信协议中的连接请求，以及在负载平衡器中，为请求的连接选择流量服务器。所述方法进一步包括将选择的流量服务器的身份编码进协议消息报头。将包含选择的流量服务器的编码的身份的协议消息报头返回到客户端设备。包含选择的流量服务器的编码的身份的协议消息报头被包括在从客户端设备发送到负载平衡器的通信协议分组中。负载平衡器将从客户端设备发送的通信协议分组转发到选择的流量服务器。

在某些实施例中，通信协议可以是传输控制协议。

将选择的流量服务器的身份编码进协议消息报头可以包括将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位。

在某些实施例中，将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位包括在为携带时间戳值的最高有效位而预留的传输控制协议报头的位中携带时间戳值的最低有效位。它还可以进一步包括在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中携带识别选择的流量服务器的值。

根据本发明的另一方面，提供了一种供包括多个流量服务器的通信网络的负载平衡器之用的方法，所述方法包括：从客户端设备接收通信协议中的连接请求。在确定连接请求与新的连接有关时，为请求的连接选择流量服务器。所述方法包括从客户端设备接收通信协议分组。在确定连接请求与现有的连接有关时，所述方法包括从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份。所述方法包括将通信协议分组转发到具有解码的身份的选择的流量服务器。

在某些实施例中，通信协议是传输控制协议。

从协议消息报头解码选择的流量服务器的身份可以包括从为携带时间戳值而预留的传输控制协议报头的位解码选择的流量服务器的身份。

从为携带时间戳值而预留的传输控制协议报头的位解码选择的流量服务器的身份可以包括在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中读取识别选择的流量服务器的值。

根据本发明的另一方面，提供了一种与包括多个流量服务器的通信网络的流量服务器相关联的方法，所述方法包括：从负载平衡器接收源于客户端设备的通信协议中的连接请求。所述方法包括将所述流量服务器的身份编码进协议消息报头；以及将包含流量服务器的编码的身份的协议消息报头返回到客户端设备。所述方法进一步包括从负载平衡器接收从客户端设备发送的、包括包含有流量服务器的编码的身份的协议消息报头的另外的通信协议分组。

在某些实施例中，通信协议是传输控制协议。

将选择的流量服务器的身份编码进协议消息报头可以包括将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位。

将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位可以包括在为携带时间戳值的最高有效位而预留的传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中携带识别选择的流量服务器的值。

在某些实施例中，所述方法进一步包括恢复协议消息报头的原值以在将所述另外的通信协议分组转发到目的地之前移除流量服务器的编码的身份。

根据本发明的另一方面，提供了一种包括多个流量服务器的通信网络，所述网络包括负载平衡器，所述负载平衡器适于：从客户端设备接收通信协议中的连接请求；以及为请求的连接选择流量服务器。多个流量服务器适于：将选择的流量服务器的身份编码进协议消息报头；以及将包含选择的流量服务器的编码的身份的协议消息报头返回到客户端设备。所述客户端设备适于将包含选择的流量服务器的编码的身份的协议消息报头包括在从客户端设备发送到负载平衡器的通信协议分组中。负载平衡器进一步适于将从客户端设备发送的通信协议分组转发到选择的流量服务器。

在某些实施例中，通信协议是传输控制协议。

在某些实施例中，多个流量服务器进一步适于将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位。

在某些实施例中，多个流量服务器进一步适于通过在为携带时间戳值的最高有效位而预留的传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中携带识别选择的流量服务器的值来将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位。

根据本发明的一方面，提供了一种供包括多个流量服务器的通信网络之用的负载平衡器，所述负载平衡器适于：从客户端设备接收通信协议中的连接请求。负载平衡器将确定连接请求是否与新的连接有关，并且如果是的话，则为请求的连接选择流量服务器。负载平衡器进一步适于从客户端设备接收通信协议分组。负载平衡器将确定连接请求是否与现有的连接有关，并且如果是的话，则从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份。负载平衡器适于将通信协议分组转发到具有解码的身份的选择的流量服务器。

通信协议可以是传输控制协议。

在某些实施例中，为了从协议消息报头解码选择的流量服务器的身份，负载平衡器适于从为携带时间戳值而预留的传输控制协议报头的位解码选择的流量服务器的身份。

为了从为携带时间戳值而预留的传输控制协议报头的位解码选择的流量服务器的身份，负载平衡器可以适于在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中读取识别选择的流量服务器的值。

根据本发明的另一方面，提供了一种包括多个流量服务器的通信网络的流量服务器，其中流量服务器适于：从负载平衡器接收源于客户端设备的通信协议中的连接请求。流量服务器适于将所述流量服务器的身份编码进协议消息报头。流量服务器适于将包含流量服务器的编码的身份的协议消息报头返回到客户端设备；以及从负载平衡器接收从客户端设备发送的、包括包含有流量服务器的编码的身份的协议消息报头的另外的通信协议分组。

通信协议可以是传输控制协议。

在某些实施例中，为了将选择的流量服务器的身份编码进协议消息报头，流量服务器进一步适于将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位。

在某些实施例中，为了将选择的流量服务器的身份编码进为携带时间戳值而预留的传输控制协议报头的位，流量服务器进一步适于在为携带时间戳值的最高有效位而预留的传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带时间戳值的最低有效位而预留的传输控制协议报头的位中携带识别选择的流量服务器的值。

流量服务器可以进一步适于恢复协议消息报头的原值以在将所述另外的通信协议分组转发到目的地之前移除流量服务器的编码的身份。

根据本发明的另一方面，提供了一种供包括多个流量服务器的通信网络之用的负载平衡器，所述负载平衡器包括：用于从客户端设备接收通信协议中的连接请求并且用于从客户端设备接收通信协议分组的通信模块。负载平衡器进一步包括用于确定连接请求是否与新的连接有关并且用于确定连接请求是否与现有的连接有关的确定模块。负载平衡器进一步包括用于如果确定连接请求与新的连接有关则为请求的连接选择流量服务器的选择模块。负载平衡器进一步包括用于如果确定连接请求与现有的连接有关则从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份的解码模块。负载平衡器进一步包括用于将通信协议分组转发到具有解码的身份的选择的流量服务器的转发模块。

根据本发明的另一方面，提供了一种供包括多个流量服务器的通信网络之用的流量服务器，所述流量服务器包括：用于从负载平衡器接收源于客户端设备的通信协议中的连接请求并且用于从负载平衡器接收从客户端设备发送的、包括包含有流量服务器的编码的身份的协议消息报头的另外的通信协议分组的通信模块。流量服务器进一步包括用于将所述流量服务器的身份编码进协议消息报头的编码模块。流量服务器进一步包括用于将包含流量服务器的编码的身份的协议消息报头返回到客户端设备的响应模块。

根据本发明另一方面，提供了一种包括机器可读代码的计算机程序产品，所述机器可读代码包含指令以用于促使包括多个流量服务器的通信网络的负载平衡器执行方法，所述方法包括：从客户端设备接收通信协议中的连接请求。在确定连接请求与新的连接有关时，所述方法包括为请求的连接选择流量服务器。所述方法包括从客户端设备接收通信协议分组。在确定连接请求与现有的连接有关时，所述方法包括从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份；以及将通信协议分组转发到具有解码的身份的选择的流量服务器。

根据本发明的另外的方面，提供了一种包括机器可读代码的计算机程序产品，所述机器可读代码包含指令以用于促使包括多个流量服务器的通信网络的流量服务器执行方法，所述方法包括：从负载平衡器接收源于客户端设备的通信协议中的连接请求。所述方法包括将所述流量服务器的身份编码进协议消息报头。所述方法进一步包括将包含流量服务器的编码的身份的协议消息报头返回到客户端设备。所述方法进一步包括从负载平衡器接收从客户端设备发送的、包括包含有流量服务器的编码的身份的协议消息报头的另外的通信协议分组。

附图说明

为了更好地理解本发明并且为了示出它如何可以被实施，现在将通过示例的方式来参考附图，其中：

图1示出了通信网络的实施例；

图2说明了图1的网络中的负载平衡器的示例；

图3说明了图1的网络中的流量服务器的示例

图4说明了根据本发明的实施例的信令图；

图5是说明传输控制协议中的时间戳过程的信令图；

图6示出了在TCP栈中使用的时间戳的编码的示例；

图7是示出根据本发明的实施例的方法的流程图；

图8是示出根据本发明的实施例的在负载平衡器中执行的方法的流程图；

图9是示出根据本发明的实施例的如在负载平衡器代理中执行的用于编码流量服务器身份的方法的流程图；

图10是示出根据本发明的实施例的如在负载平衡器代理中执行的用于解码流量服务器身份的方法的流程图。

具体实施方式

本发明的实施例涉及有状态的负载平衡的使用和将流量服务器身份编码进流量服务器中的接收的分组。

图1示出了根据本发明的某些实施例的通常表示为100的通信网络。

客户端设备（在这个说明的示例中其是用户设备102）被连接到通信网络100的接入交换机104。接入交换机104适于将请求从用户设备102转发到可以包括多个负载平衡器的接入负载平衡器池106（接入LB池）中的负载平衡器，例如所说明的负载平衡器Access_LB1。可以将由用户设备102发送的不同请求发送到这个池内的不同负载平衡器。请求可以在任何通信协议中。在某些实施例中，通信协议可以是传输控制协议（TCP）。

接入负载平衡器池106内的负载平衡器进一步被连接到流量服务器的池（流量服务器池）108内的多个流量服务器。接入负载平衡器可以将用户请求转发到这些多个流量服务器中的一个流量服务器。这些流量服务器还可以连接回到接入交换机104。

负载平衡器的第二池（即互联网负载平衡器池（互联网LB池）110）被连接到流量服务器池108并且进一步被连接到互联网侧接入交换机（互联网交换机）112。互联网接入交换机112还被配置成从流量服务器池108接收请求。

互联网侧接入交换机进一步被连接到源服务器114。可以例如在互联网上的大型服务提供商（诸如Google或Facebook或任何其他的服务提供商）中提供源服务器114。

这个说明的示例示出了基于云的系统，在所述基于云的系统中存在有负载平衡器的池和流量服务器的池，其中负载平衡器和流量服务器的数量可能有变动。

图2说明了根据本发明的实施例的通常表示为200的负载平衡器的示例。图1中示出的负载平衡器池106和110中的负载平衡器当中的任何负载平衡器或所有负载平衡器可以具有这个结构。在这个实施例中，负载平衡器200包括通信模块201以及数据处理和控制单元202。通信模块201处理以一个或多个计划内的通信协议与其它网络节点的通信。例如，可以要求负载平衡器使用传输控制协议（TCP）来在互联网上与其它网络节点通信。

数据处理和控制单元202包括处理器203和存储器块204。

数据处理和控制单元202允许负载平衡器200执行它的操作所需要的功能，包括本文中描述的功能。例如，存储器块204可以包含用于促使处理器203执行本文中描述的方法的存储的程序指令。

图3说明了根据本发明的实施例的通常表示为300的流量服务器的示例。图1中说明的流量服务器池108中的流量服务器当中的任何流量服务器或所有流量服务器可以具有这个结构。在这个实施例中，流量服务器300包括通信模块301以及数据处理和控制单元302。通信模块301处理以一个或多个计划内的通信协议与其它网络节点的通信。例如，可以要求流量服务器使用传输控制协议（TCP）来在互联网上与其它网络节点通信。

数据处理和控制单元302包括处理器303和存储器块304。

数据处理和控制单元302允许流量服务器300执行它的操作所需要的功能，包括本文中描述的功能。例如，存储器块304可以包含用于促使处理器303执行本文中描述的方法的存储的程序指令。

在这个示例中，流量服务器还包括在流量服务器300内与TCP栈306通信的专用负载平衡器代理（LBA）305。负载平衡器代理305因此与流量服务器相关联。在这个说明的示例中，负载平衡器代理与和流量服务器相同的虚拟机位于一处。

图4说明了根据本发明的实施例的信令图。

首先客户端（例如图1中的用户设备102）创建TCP连接并且在步骤402中将超文本传输协议（HTTP）请求发送到源服务器。这个请求首先被在步骤404中使用等成本多路径（ECMP）算法将流量分发给接入负载平衡器的接入交换机（例如图1中的接入交换机104）处理。接入负载平衡器接着确定请求是否是用于新的TCP连接的。如果请求是用于新的TCP连接的，在步骤406中接入负载平衡器使用无状态的负载平衡来选择流量服务器。

在某些实施例中，步骤406中的无状态的负载平衡可涉及对HTTP请求的源端口和IP地址使用散列标签算法以选择流量服务器。接入负载平衡器模块可以包括专用虚拟机以用于执行这个无状态的流量分发给流量服务器。

在步骤408中，选择的流量服务器将识别流量服务器的信息编码进分组。参考图6更详细地描述了这个过程。在步骤410中，流量服务器将具有编码的流量服务器身份的、它的对于HTTP请求的响应返回到客户端，而不通过接入负载平衡器。这个响应还包括可以被客户端读取的时间戳值。

在步骤412中，客户端发送包括编码的流量服务器身份的另外的分组。这个分组被接入交换机发送到接入负载平衡器。通过使用ECMP，接入交换机将会为相同的TCP连接选择相同的接入负载平衡器。可以将新的TCP连接转发到不同的负载平衡器。

接入负载平衡器将再次确定请求是否是用于新的TCP连接的。在这种情况下，TCP连接已经被创建，并且因此，在步骤414中，负载平衡器可以由接收的分组确定流量服务器身份并且将分组发送到正确的流量服务器（即在步骤406中选择的相同的流量服务器）上。

然而，如果例如在第一步骤404中通过ECMP选择的特定负载平衡器例如由于维护导致已经被移除，接入交换机将会知道这个改变并且将会因此将流量发送到不同的负载平衡器。再次，将会使用ECMP来选择这个不同的负载平衡器。因为将流量服务器身份编码进分组，这个不同的负载平衡器仍然能够将分组发送到正确的流量服务器（即在步骤406中选择的相同的流量服务器）上。

在步骤416中，再次如参考图6更详细地描述的，流量服务器重复流量服务器身份的编码。在步骤418中，流量服务器将编码的分组返回到客户端。这个返回的分组还包括可以被客户端读取的时间戳值，并且在步骤420中，客户端验证这个时间戳是从先前读取的时间戳单调增加的。

在某些实施例中，将流量服务器身份编码进分组通过将流量服务器身份编码进为携带时间戳值而预留的传输控制协议报头的位来进行。

图5是说明TCP中的标准时间戳过程的信令图。

TCP客户端在步骤502中发送TCP SYN分组以创建新的TCP连接。在这个分组中，时间戳值（TSval）在TCP报头中被携带到TCP服务器。在这个示例中，时间戳值是“1111”。时间戳回应应答TSecr值被设置为零并且连同TSval一起在TCP报头中被发送。

TCP服务器将会把TSval保存为本地变量TS.recent并且把TSval复制为TSecr以便于在它的应答中确认时间戳。TCP服务器在它的对TCP客户端的响应中还包括新的TSval。在这个说明中，新的TSval是“2222”。

在步骤504中，TCP服务器发送SYN请求的确认ACK连同两个新的TSval和TSecr值。

TCP客户端接着将把新的TSval保存为本地值TS.recent并且把TSval复制为TSecr以用于下一个确认。新的TSval值将是由TCP客户端发送的原始TSval的单调增加。在这个示例中，新的值是“1112”。

在步骤506中，TCP客户端将确认ACK连同两个新的TSval和TSecr值一起发送回到TCP服务器。

在用新的TSval值（即1112）替换本地TS.recent值之前，TCP服务器将检查接收的TSval值是保存的TS.recent的单调增加。

新的TSval值将再次被复制成TSecr值，并且是由TCP服务器产生的最后时间戳的单调增加的新的时间戳“2223”将被放入TSval。

在步骤508中，TCP服务器将另外的确认连同两个新的TSval和TSecr值一起发送到客户端。

再次，TCP客户端将检查接收的TSval值是保存的TS.recent值的单调增加。

对于在客户端和服务器之间发送的所有通信，过程将按照这个模式继续。

因此，例如设备可以将接收的TSecr值与当前的系统时间戳比较，以便确定那个设备和另一个设备之间的消息的往返时间。

时间戳值、TSval、TSecr和TS.recent被存储为32位长整数。这个整数可以代表已经过去的时间量。例如，在Linux操作系统中，时间戳值的每个单个位增加代表4ms。因此在重复值之前，时间戳值可以运行总共198.8天的持续时间。

然而，在典型应用中，客户端和服务器之间的往返时间是以秒为数量级的。因此，这个32位长整数中的数量为L的更高的位实际上是不必要的，因为特定会话持续得足够长以表示更高的位中的一位将改变的可能性非常低。

在本发明的实施例中，因此通过使用在典型应用中是不必要的L个高位来将流量服务器身份编码成时间戳值。

图6示出了在TCP栈中使用的时间戳的编码的示例。

具体地，图6示出了原始时间戳值602和编码的时间戳值604。编码过程E将原始时间戳值602转换成编码的时间戳值604，并且解码过程D将编码的时间戳值604转换成原始时间戳值602。

原始时间戳值602具有第一部分606，所述第一部分606包含在典型应用期间足以产生精确的时间戳的K个位。原始时间戳值602还具有第二部分608，所述第二部分608包含在典型应用中不被需要用于计算时间值的L个更高的位。在这个说明的示例中，这个第二部分608被用来编码流量服务器身份。

因此，每个流量服务器被给予了可被用来将它与在那时在那个系统中使用的其它流量服务器区分开的唯一身份值，例如“1”、“2”、“3”等等。例如，如果系统包括多达16个流量服务器，可以将四个位分配给原始时间戳值602的第二部分608，因为那将提供16个不同的流量服务器身份的可能性。

为了支持整个时间戳的单调增加，甚至当时间戳被包装（重置）时，在编码过程E中，K个更低的位和L个更高的位被交换，使得编码的时间戳值604具有包含代表实际时间戳的K个位的第一部分610和包含编码的流量服务器身份的第二部分612。在这种情况下，代表编码的流量服务器身份的L个位是编码的时间戳值604的更低的位。因此原始时间戳602的最低有效位在编码的时间戳604的最高有效位中被携带，并且编码的时间戳的最低有效位被预留以用于携带识别选择的流量服务器的值。

因此，在图4的过程中，当选择的流量服务器在步骤408中将识别流量服务器的信息编码进分组时，这可以涉及将当前时间值的K个最低有效位插入到在TCP报头中被分配用于携带时间戳值TSval的位的最高有效位中并且将代表流量服务器的身份的位插入到在TCP报头中被分配用于携带时间戳值的位的L个剩余的最低有效位中。

同样，在这个阶段，流量服务器读取当前时间值的L个最高有效位并且将这些存储为参数TShighrecent。

在图4中示出的过程的步骤412中，正如参考图5所描述的，客户端能够以传统方式行动。因此，客户端将它在于TCP报头中被分配用于携带时间戳值TSval的位中接收的值作为TSecr返回。因此，对于客户端来说识别这些位中的某些位代表流量服务器身份是不必要的。

当在步骤414中负载平衡器接收包含编码的流量服务器身份的分组时，它由接收的分组确定流量服务器身份并且将分组发送到正确的流量服务器（即在步骤406中选择的相同的流量服务器）上。具体地，它可以通过检查TSecr值的L个最低有效位来获得流量服务器身份。

接着，当在步骤416中流量服务器中的负载平衡代理接收包含编码的时间戳值的分组时，它读取它的当前时间值的L个最高有效位。如果自参数TShighrecent被存储以来这些位已经改变，将新的值记录为TShighrecent的新的值。

流量服务器中的负载平衡代理将接着解码接收的时间戳值。为了做这个，正如图6中所示出的，首先将编码的时间戳值的K个最高有效位（代表原始时间值的K个最低有效位）放置为解码的时间戳值的K个最低有效位。接着将参数TShighrecent的值作为解码的时间戳值的L个最高有效位来插入。然后将这个解码的时间戳值与分组的其余部分一道转发到流量服务器中的TCP栈上以用于以通常方式进行处理。

TCP栈将因此不知道时间戳的编码和解码。

将参考一个特定示例来说明步骤408和410的过程。应当注意，负载平衡代理可以检查TSval和TSecr值两者，但是这个说明涉及新的TCP请求，并且因此TSecr值是零。在这个示例中，被流量服务器读取的当前时间值是0x12345678（以十六进制计数法，其中每个字符代表二进制值的四位）。同样，在这个示例中，不必要的高位的数量L是4。因为对于新的TCP来说TSecr值是零，分组内的这个值将被直接转发到流量服务器中的TCP栈上。

TCP栈可以接着响应TCP连接请求。在发出TCP分组之前，负载平衡代理将把流量服务器身份编码进TCP分组报头。使用上面的示例，如果流量服务器身份是3，则编码的TSval将是0x23456783。即，时间值的28个最低有效位（即7个十六进制字符）2345678变成编码的时间戳值的28个最高有效位，并且由4位（即一个十六进制字符）代表的流量服务器身份被用作编码的时间戳值的4个最低有效位。

图7是示出根据本发明的实施例的方法的流程图。

具体地，图7示出了用于处理用户请求的端到端消息序列，包括接入侧和互联网侧两者。两个分开的时间戳可以因此被接入侧负载平衡和互联网侧负载平衡使用。然而，在两种情况下，负载平衡代理将相同的流量服务器身份编码成时间戳，使得来自任一侧的请求和响应将被指向相同的流量服务器。

在步骤702中，客户端创建TCP连接并且将HTTP请求发送到源服务器。正如参考图4所描述的，这个请求首先被接入交换机接收。在步骤704中，接入交换机例如使用等成本多路径（ECMP）来将流量分发给接入负载平衡器中的一个。接收请求的接入负载平衡器接着确定请求是否是用于新的TCP连接的，并且如果是的话，在步骤706中使用无状态的负载平衡来选择流量服务器。在某些实施例中，无状态的负载平衡可以将使用请求的IP地址和源端口并入散列标签算法以选择流量服务器。正如在别处所描述的，如果请求与现有的TCP连接有关，接入负载平衡器将流量指向在分组报头中被识别的流量服务器。

在步骤708中，选择的流量服务器中的负载平衡代理将流量服务器身份编码进请求分组。正如上面所解释的，这可以通过将流量服务器身份编码进在TCP报头中被分配用于携带时间戳的位来进行。

接着将请求发送到在步骤710中将HTTP请求转发到源服务器的互联网接入交换机上。在先前的解决方案中，在这个阶段需要由负载平衡器分析整个TCP报头，以便为完整的TCP会话维持相同的流量服务器。然而，利用在TCP报头中包括流量服务器身份的这个解决方案，不需要分析TCP报头，因此在这个阶段可以绕过互联网侧负载平衡器。

协议报头中的编码的流量服务器身份将接着被从客户端设备发送到负载平衡器的任何后来的协议分组携带。负载平衡器可以检测协议报头中的流量服务器身份的编码，并且可以将分组转发到正确的流量服务器。在某些实施例中，通过返回的时间戳的低位是否代表流量服务器身份，负载平衡器可以能够或者不能够检测流量服务器身份的编码。在其它实施例中，在必要之处编码所有TCP流量，并且因此如果分组不是用于TCP连接的初始请求（即TSecr是零），负载平衡器将知道流量服务器身份被包含在返回的时间戳中。

已经接收到请求，源服务器将接着验证TSval的单调增加、将TSval复制到TSecr并且在步骤712中将HTTP响应返回到互联网交换机。

在步骤714中，互联网交换机将接着选择互联网负载平衡器。在某些实施例中，这通过使用等成本多路径来进行。

在步骤716中，选择的互联网负载平衡器将接着解码TSecr值以确定流量服务器身份，并且接着将HTTP响应转发到正确的流量服务器。

在步骤718中，流量服务器中的负载平衡代理将把流量服务器身份编码成时间戳TSval。在这个步骤中被编码的流量服务器身份将与在步骤708中被编码的流量服务器身份相同。

接着将把HTTP响应发送到接入交换机，出于与上面描述的相同的理由而绕过接入侧负载平衡器，并且在步骤720中接入交换机将HTTP响应转发到客户端。

图8是示出根据本发明的实施例的在负载平衡器中执行的方法的流程图。

在步骤802中，负载平衡器从客户端接收分组。在步骤804中，负载平衡器确定分组是否是SYN，即请求是否是用于新的TCP连接的请求。如果分组是SYN，方法转到步骤806，其中负载平衡器执行无状态的负载平衡以选择流量服务器。在这个实施例中，负载平衡器对请求的IP地址和源端口使用散列标签算法以选择流量服务器。将会意识到，可以使用其它无状态的负载平衡方法。

如果在步骤804中确定接收的分组是SYN分组，方法转到步骤808，其中检查TSecr。

在步骤810中，或者通过在步骤808中检查时间戳或者作为在步骤806中无状态的负载平衡的结果来取回流量服务器身份。接着将分组发送到与步骤812中取回的流量服务器身份对应的正确的流量服务器。

图9是示出根据本发明的实施例的如在与流量服务器相关联的负载平衡器代理中执行的用于编码流量服务器身份的方法的流程图。

在步骤902中，负载平衡器代理读取已经被指派给参数L（即被认为是不必要的位的数量）的值。

在步骤904中，负载平衡器代理从TCP栈接收分组。在步骤906中，负载平衡器代理将原始时间戳的K个（其中K=32-L）更低的位指派给编码的时间戳的K个更高的位。

在步骤908中，负载平衡器代理将流量服务器身份编码进编码的时间戳的L个更低的位。

最后，在步骤910中，发出具有包括在TCP报头中的编码的时间戳的分组。

图10是示出根据本发明的实施例的如在负载平衡器代理中执行的用于解码流量服务器身份的方法的流程图。

在步骤1002中，负载平衡器代理读取已经被指派给参数L的值。

在步骤1004中，负载平衡器代理将接着继续监视流量服务器的系统时间戳的L个更高的位。

在步骤1006中，负载平衡器代理从网络接收分组。在步骤1008中，负载平衡器代理把将会是编码的时间戳的接收的TSecr的K个高位指派给解码的时间戳的K个低位。

在步骤1010中，负载平衡器代理确定系统时间戳的L个高位是否已经改变。这可以通过将当前的系统时间戳的L个高位和TShighrecent的值比较来进行。

如果系统时间戳的L个高位已经改变，则方法转到步骤1012并且将TShighrecent的值指派给解码的时间戳的L个高位。

如果系统时间戳的L个高位没有改变，则方法转到步骤1014并且将当前时间戳的L个高位指派给解码的时间戳的L个高位。

在编码的时间戳被解码并且被恢复到它的原值以及被指派给TSecr的值之后，在步骤1016中将分组转发到TCP栈。

因此描述了用于通信网络中的负载平衡的方法和系统。

应当注意，上面提及的实施例说明而不是限制本发明，并且本领域技术人员将能够设计许多备选的实施例而不会背离所附的权利要求的范围。词语“包括”并不排除除了权利要求中列示的那些之外的元件或者步骤的存在，“a”或者“an”并不排除多个，并且单个特征或其它单元可以实现权利要求中记载的若干单元的功能。权利要求中的任何附图标记不应当被解释以致限制它们的范围。

Claims (30)

1.一种在包括多个流量服务器的通信网络中执行负载平衡的方法，所述方法包括：

在负载平衡器中，从客户端设备接收通信协议中的连接请求；

在所述负载平衡器中，为请求的连接选择流量服务器；

将选择的流量服务器的身份编码进协议消息报头；

将包含所述选择的流量服务器的编码的身份的所述协议消息报头返回到所述客户端设备；

将包含所述选择的流量服务器的所述编码的身份的所述协议消息报头包括在从所述客户端设备发送到所述负载平衡器的通信协议分组中；以及

在所述负载平衡器中，将从所述客户端设备发送的通信协议分组转发到所述选择的流量服务器。

2.如权利要求1所述的方法，其中所述通信协议是传输控制协议。

3.如权利要求2所述的方法，其中将所述选择的流量服务器的所述身份编码进所述协议消息报头包括将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位。

4.如权利要求3所述的方法，其中将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位包括在为携带所述时间戳值的最高有效位而预留的所述传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中携带识别所述选择的流量服务器的值。

5.一种供包括多个流量服务器的通信网络的负载平衡器之用的方法，所述方法包括：

从客户端设备接收通信协议中的连接请求；

在确定所述连接请求与新的连接有关时，为请求的连接选择流量服务器；

从所述客户端设备接收通信协议分组；

在确定所述连接请求与现有的连接有关时，从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份；以及

将所述通信协议分组转发到具有解码的身份的所述选择的流量服务器。

6.如权利要求5所述的方法，其中所述通信协议是传输控制协议。

7.如权利要求6所述的方法，其中从所述协议消息报头解码所述选择的流量服务器的所述身份包括从为携带时间戳值而预留的所述传输控制协议报头的位解码所述选择的流量服务器的所述身份。

8.如权利要求7所述的方法，其中从为携带时间戳值而预留的所述传输控制协议报头的位解码所述选择的流量服务器的所述身份包括在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中读取识别所述选择的流量服务器的值。

9.一种与包括多个流量服务器的通信网络的流量服务器相关联的方法，所述方法包括：

从负载平衡器接收源于客户端设备的、通信协议中的连接请求；

将所述流量服务器的身份编码进协议消息报头；

将包含所述流量服务器的编码的身份的所述协议消息报头返回到所述客户端设备；以及

从所述负载平衡器接收从所述客户端设备发送的、包括包含有所述流量服务器的所述编码的身份的所述协议消息报头的另外的通信协议分组。

10.如权利要求9所述的方法，其中所述通信协议是传输控制协议。

11.如权利要求10所述的方法，其中将选择的流量服务器的所述身份编码进所述协议消息报头包括将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位。

12.如权利要求11所述的方法，其中将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位包括在为携带所述时间戳值的最高有效位而预留的所述传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中携带识别所述选择的流量服务器的值。

13.如权利要求9至12中的一个所述的方法，进一步包括恢复所述协议消息报头的原值以在将所述另外的通信协议分组转发到目的地之前移除所述流量服务器的所述编码的身份。

14.一种包括多个流量服务器的通信网络，

所述网络包括负载平衡器，所述负载平衡器适于：

从客户端设备接收通信协议中的连接请求；以及

为请求的连接选择流量服务器；

其中所述多个流量服务器适于：

将选择的流量服务器的身份编码进协议消息报头；以及

将包含所述选择的流量服务器的编码的身份的所述协议消息报头返回到所述客户端设备；以及

其中所述客户端设备适于将包含所述选择的流量服务器的所述编码的身份的所述协议消息报头包括在从所述客户端设备发送到所述负载平衡器的通信协议分组中；以及

所述负载平衡器进一步适于将从所述客户端设备发送的通信协议分组转发到所述选择的流量服务器。

15.如权利要求14所述的通信网络，其中所述通信协议是传输控制协议。

16.如权利要求15所述的通信网络，其中所述多个流量服务器进一步适于将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位。

17.如权利要求16所述的方法，其中所述多个流量服务器进一步适于通过在为携带所述时间戳值的最高有效位而预留的所述传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中携带识别所述选择的流量服务器的值来将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位。

18.一种供包括多个流量服务器的通信网络之用的负载平衡器，所述负载平衡器适于：

从客户端设备接收通信协议中的连接请求；

确定所述连接请求是否与新的连接有关，并且如果是的话，则为请求的连接选择流量服务器；

从所述客户端设备接收通信协议分组；

确定所述连接请求是否与现有的连接有关，并且如果是的话，则从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份；以及

将所述通信协议分组转发到具有解码的身份的所述选择的流量服务器。

19.如权利要求18所述的负载平衡器，其中所述通信协议是传输控制协议。

20.如权利要求19所述的负载平衡器，其中为了从所述协议消息报头解码所述选择的流量服务器的所述身份，所述负载平衡器适于从为携带时间戳值而预留的所述传输控制协议报头的位解码所述选择的流量服务器的所述身份。

21.如权利要求20所述的方法，其中为了从为携带时间戳值而预留的所述传输控制协议报头的位解码所述选择的流量服务器的所述身份，所述负载平衡器适于在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中读取识别所述选择的流量服务器的值。

22.一种包括多个流量服务器的通信网络的流量服务器，其中所述流量服务器适于：

从负载平衡器接收源于客户端设备的、通信协议中的连接请求；

将所述流量服务器的身份编码进协议消息报头；

将包含所述流量服务器的编码的身份的所述协议消息报头返回到所述客户端设备；以及

从所述负载平衡器接收从所述客户端设备发送的、包括包含有所述流量服务器的所述编码的身份的所述协议消息报头的另外的通信协议分组。

23.如权利要求22所述的流量服务器，其中所述通信协议是传输控制协议。

24.如权利要求23所述的流量服务器，其中为了将选择的流量服务器的所述身份编码进所述协议消息报头，所述流量服务器进一步适于将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位。

25.如权利要求24所述的方法，其中为了将所述选择的流量服务器的所述身份编码进为携带时间戳值而预留的所述传输控制协议报头的位，所述流量服务器进一步适于在为携带所述时间戳值的最高有效位而预留的所述传输控制协议报头的位中携带时间戳值的最低有效位并且在为携带所述时间戳值的最低有效位而预留的所述传输控制协议报头的位中携带识别所述选择的流量服务器的值。

26.如权利要求22至25中的一个所述的流量服务器，其中所述流量服务器进一步适于恢复所述协议消息报头的原值以在将所述另外的通信协议分组转发到目的地之前移除所述流量服务器的所述编码的身份。

27.一种供包括多个流量服务器的通信网络之用的负载平衡器，所述负载平衡器包括：

通信模块，用于从客户端设备接收通信协议中的连接请求并且用于从所述客户端设备接收通信协议分组；

确定模块，用于确定所述连接请求是否与新的连接有关并且用于确定所述连接请求是否与现有的连接有关；以及

选择模块，用于如果确定所述连接请求与新的连接有关则为请求的连接选择流量服务器；以及

解码模块，用于如果确定所述连接请求与现有的连接有关则从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份；以及

转发模块，用于将所述通信协议分组转发到具有解码的身份的所述选择的流量服务器。

28.一种供包括多个流量服务器的通信网络之用的流量服务器，所述流量服务器包括：

通信模块，用于从负载平衡器接收源于客户端设备的、通信协议中的连接请求并且用于从所述负载平衡器接收从所述客户端设备发送的、包括包含有流量服务器的编码的身份的协议消息报头的另外的通信协议分组；

编码模块，用于将所述流量服务器的身份编码进协议消息报头；以及

响应模块，用于将包含所述流量服务器的所述编码的身份的所述协议消息报头返回到所述客户端设备。

29.一种包括机器可读代码的计算机程序产品，所述机器可读代码包含指令以用于促使包括多个流量服务器的通信网络的负载平衡器执行方法，所述方法包括：

从客户端设备接收通信协议中的连接请求；

在确定所述连接请求与新的连接有关时，为请求的连接选择流量服务器；

从所述客户端设备接收通信协议分组；

在确定所述连接请求与现有的连接有关时，从接收的通信协议分组的协议消息报头解码选择的流量服务器的身份；以及

将所述通信协议分组转发到具有解码的身份的所述选择的流量服务器。

30.一种包括机器可读代码的计算机程序产品，所述机器可读代码包含指令以用于促使包括多个流量服务器的通信网络的流量服务器执行方法，所述方法包括：

从负载平衡器接收源于客户端设备的、通信协议中的连接请求；

将所述流量服务器的身份编码进协议消息报头；

将包含所述流量服务器的编码的身份的所述协议消息报头返回到所述客户端设备；以及

从所述负载平衡器接收从所述客户端设备发送的、包括包含有所述流量服务器的所述编码的身份的所述协议消息报头的另外的通信协议分组。