CN103917956B

CN103917956B - 用于流量引导器环境中的流量的主动‑被动路由和控制的系统和方法

Info

Publication number: CN103917956B
Application number: CN201280047077.3A
Authority: CN
Inventors: A·莱佛提克; 林英明; B·库克雷贾; 徐忠; A·斯瑞尼瓦桑
Original assignee: Oracle International Corp
Current assignee: Oracle International Corp
Priority date: 2011-09-27
Filing date: 2012-09-26
Publication date: 2017-07-28
Anticipated expiration: 2032-09-26
Also published as: EP2761611A1; US20130080628A1; WO2013049238A3; US20130080566A1; US20130080510A1; JP6198737B2; IN2014CN01324A; JP6506383B2; JP6047577B2; US9733983B2; EP2761450B1; JP2018067960A; US20140289838A1; US8914521B2; US20130080514A1; JP6487401B2; JP2018067959A; JP2014530434A; JP6377113B2; CN103858157B

Abstract

这里描述供负载平衡器或流量引导器使用的系统和方法及其管理，其中，提供流量引导器作为可用于向诸如网络服务器、应用服务器或其它资源服务器的后端起源服务器递送用于负载平衡因特网和其它流量的快速、可靠、可缩放和安全的平台的基于软件的负载平衡器。根据实施例，系统包括被配置为从客户机接收请求并且向具有一个或更多个服务器池的起源服务器传送请求的具有一个或更多个流量引导器实例的流量引导器。描述在这种流量引导器或其它环境中提供主动‑被动路由、浪涌保护和速率加快、起源服务器的动态发现、配置http负载平衡的灵活性和/或动态高速缓存数据解压缩的系统和方法。

Description

用于流量引导器环境中的流量的主动-被动路由和控制的系统和方法

优先权要求

本申请要求在2011年9月27日提交的发明名称为“SYSTEMS AND METHODS FOR USEWITH AN APPLICATION SERVER TRAFFIC DIRECTOR(CORE FEATURES)”的美国临时专利申请No.61/539886、在2011年9月27日提交的发明名称为“SYSTEMS AND METHODS FOR USE WITHAN APPLICATION SERVER TRAFFIC DIRECTOR(ADMIN FEATURES)”的美国临时专利申请No.61/539900、在2012年8月31日提交的发明名称为“SYSTEM AND METHOD FOR PROVIDINGACTIVE-PASSIVE ROUTING IN A TRAFFIC DIRECTOR ENVIRONMENT”的美国临时专利申请No.13/601087、在2012年8月31日提交的发明名称为“SYSTEM AND METHOD FOR SURGEPROTECTION AND RATE ACCELERATION IN A TRAFFIC DIRECTOR ENVIRONMENT”的美国专利申请No.13/601428、在2012年8月31日提交的发明名称为“SYSTEM AND METHOD FORDYNAMIC DISCOVERY OF ORIGIN SERVERS IN A TRAFFIC DIRECTOR ENVIRONMENT”的美国专利申请No.13/601530、在2012年8月31日提交的发明名称为“SYSTEM AND METHOD FORPROVIDING FLEXIBILITY IN CONFIGURING HTTP LOAD BALANCING IN A TRAFFICDIRECTOR ENVIRONMENT”的美国专利申请No.13/601632和在2012年9月24日提交的发明名称为“SYSTEM AND METHOD FOR DYNAMIC CACHE DATA DECOMPRESSION IN A TRAFFICDIRECTOR ENVIRONMENT”的美国专利申请No.13/625716的益处，在这里加入这些申请中的每一个作为参考。

技术领域

本发明一般涉及用于应用服务器、中间件机器或其它计算环境中的负载平衡器或流量引导器，特别是涉及用于在流量引导器或其它环境中提供主动-被动路由、浪涌保护和速率加快、起源服务器的动态发现、配置http负载平衡的灵活性和/或动态高速缓存数据解压缩的系统和方法。

背景技术

典型的企业级计算环境可包含要在网络（例如，公司的内部以太网或因特网）上被其它计算机或者被操作各种不同类型的计算装置的用户访问的许多不同类型的计算资源（例如，网络服务器、应用服务器、数据库服务器或其它类型的资源服务器）。熟悉的例子是使用诸如配有网络浏览器应用的膝上型计算机的客户机计算机，用户可通过该客户机计算机通过因特网访问网络服务器。

当今的组织越来越多地依赖于它们的计算资源很容易地以高性能水平、在任何时间、从几乎任何位置得到。确保有效地分配这些资源的任务常常需要使用负载平衡装置以根据其分布策略以公平的方式将来自客户机的请求分布给目标资源。这些是可与本发明的实施例一起使用的类型的环境。

发明内容

这里描述供负载平衡器或流量引导器使用的系统和方法及其管理。根据实施例，提供在这里在一些实施例中被称为“Oracle Traffic Director”（OTD）的流量引导器作为可用于递送快速、可靠、可缩放和安全的平台的基于软件的负载平衡器，该平台用于负载平衡向诸如网络服务器、应用服务器或其它资源服务器的后端起源服务器的因特网和其它流量。

流量引导器的实施例特别适用于应用服务器、中间件机器和诸如OracleWebLogic和Exalogic环境的类似的高性能企业级计算环境。

根据实施例，系统包括具有一个或更多个流量引导器实例的流量引导器，所述流量引导器被配置为从客户机接收请求并且向具有一个或更多个服务器池的起源服务器传送请求。根据实施例，系统包括：提供供起源服务器在接收请求时使用的通信协议或插座的高速网络基础构架；与通信协议或插座一起使用的一个或更多个协议终结器/仿真器；和一起指示流量引导器在向起源服务器中的特定的一些传送请求时应使用哪些终结器/仿真器的入站插座配置和出站插座配置。

根据实施例，起源服务器池被配置为使得池内的至少一个或更多个服务器被指派为主要服务器，且池内的至少一个或更多个其它的服务器被指派为备用服务器。流量引导器被配置为使得它确定池中的主要服务器的可用性，并且，当池包含足够数量的可用的主要服务器时，仅向主要服务器引导请求。

根据实施例，流量引导器处的流量监视器监视流量引导器实例与起源服务器内的一个或更多个资源服务器之间的包含连接次数在内的流量。流量引导器可设定对包含连接次数在内的流量进行控制的流量速率，以提供浪涌保护或速率加快/减慢。

根据实施例，健康检查子系统周期性地检查其配置的资源服务器的健康，并且还尝试通过向被配置为池内的起源服务器的任何新的服务器实例发送请求、接收适当的响应并因此更新配置而检测一个或更多个池中的变化。

根据实施例，系统包括：提供供起源服务器在接收请求时使用的通信协议或插座的高速网络基础构架；与通信协议或插座一起使用的一个或更多个协议终结器/仿真器；和一起指示流量引导器在向起源服务器中的特定的一些传送请求时应使用哪些终结器/仿真器的入站插座配置和出站插座配置。

根据实施例，流量引导器可被配置为压缩存储于其高速缓存中的数据，并且，通过作为压缩数据提供来自起源服务器的内容或者假如特定的客户机偏好接收数据的非压缩变体，则通过在提供它之前动态解压缩数据，而响应来自客户机的请求。根据实施例，流量引导器可被配置为利用硬件辅助压缩本原，以进一步提高其数据压缩和解压缩的性能。

附图说明

图1示出根据实施例的包含负载平衡器或流量引导器的计算环境。

图2示出根据实施例的与一个或更多个池或起源服务器一起的流量引导器的使用。

图3示出根据实施例的流量引导器结构。

图4示出根据实施例的流量引导器管理环境和界面。

图5示出根据实施例的流量引导器中的主动/被动路由的使用。

图6进一步示出根据实施例的流量引导器中的主动/被动路由的使用。

图7是根据实施例的用于在流量引导器中提供主动/被动路由的方法的流程图。

图8示出根据实施例的流量引导器中的浪涌保护的使用。

图9示出根据实施例的流量引导器中的速率加快的使用。

图10是根据实施例的用于在流量引导器中提供浪涌保护的方法的流程图。

图11是根据实施例的用于在流量引导器中提供速率加快的方法的流程图。

图12示出根据实施例的流量引导器中的起源服务器的动态发现。

图13进一步示出根据实施例的流量引导器中的起源服务器的动态发现。

图14是根据实施例的用于在流量引导器中提供起源服务器的动态发现的方法的流程图。

图15示出根据实施例的用于在流量引导器中提供起源服务器的动态发现的另一方法的流程图。

图16示出根据实施例的流量引导器的使用。

图17是根据实施例的用于使用流量引导器的方法的流程图。

图18示出根据实施例的流量引导器环境中的动态HTTP解压缩的使用。

图19是根据实施例的用于在流量引导器环境中提供动态HTTP解压缩的方法的流程图。

图20示出根据实施例的在流量引导器环境中与动态HTTP解压缩一起使用的硬件本原的支撑。

具体实施方式

如上所述，当今的组织越来越多地依赖于它们的计算资源以高级性能水平、很容易地在任何时间、从几乎任何位置得到。确保有效地指派这些资源的任务常常需要使用负载平衡装置，以根据其分布策略以公平的方式将来自客户机请求分布给目标资源。

根据实施例，流量引导器用作从客户机或客户机装置接收的用于传送到用作起源服务器的资源的后端或资源服务器的诸如超文本传送协议（HTTP）和超文本传输协议安全（HTTPS）请求的流量的进入点。各流量引导器包含由配置限定的一个或更多个流量引导器实例，其中，该配置提供关于该实例的各种要素的信息，诸如收听者、起源服务器、故障切换组和日志。

可与该系统一起使用的类型的客户机的例子包含计算机服务器、膝上型计算机、诸如智能电话的便携式装置和其它类型的计算装置，它们中的一些可包含例如用于访问网络服务器的网络浏览器应用。

可用作起源服务器的类型的资源的例子包含轻重量目录访问协议（LDAP）服务器、网络服务器、多媒体服务器、应用服务器、数据库服务器和其它类型的资源。

根据实施例，流量引导器可执行诸如基于一个或更多个负载平衡方法向起源服务器分布请求、基于规定的规则路由请求、高速缓存频繁访问的数据、优先化流量、以及控制服务的质量的任务。

从性能的观点看，根据实施例，流量引导器可包含使其能够以低的延时操作大量的流量的构架。例如，实施例可被优化，以供在诸如例如Oracle Exalogic Elastic Cloud的高性能计算环境内使用，或者通过使用诸如例如InfiniBand的高性能通信构造与后端处的起源服务器通信。根据实施例，为了支持高可用性，流量引导器可识别提供主动-被动或主动-主动故障切换的流量引导器实例的故障切换组。随着通向网络的流量增加，可通过用它可路由请求的附加的后端服务器重新配置流量引导器或者通过修改流量的传送速率，来缩放流量引导器环境。

从管理的观点看，根据实施例，流量引导器被设计为容易安装、配置和使用；并且可包含简单的向导驱动的图形界面以及供管理员在管理流量引导器实例时使用的稳固的命令行界面。对于任何特定的组织，根据其商业要求，诸如它们希望使用流量引导器以平衡请求的后端应用的数量、诸如安全性的它们的内部要求和它们希望使用的流量引导器特性，流量引导器拓扑可改变，以解决它们的需求。例如，简单的流量引导器拓扑可首先使用在专用的计算节点上运行并向后端处的服务器池分布客户机请求的单个流量引导器实例。为了避免单点故障，管理员可配置在不同的节点上运行并形成主动-被动故障切换对的两个均匀的流量引导器实例。为了改善资源利用，管理员可用两个虚拟IP地址在主动-主动模式中配置两个流量引导器实例。

词汇表

根据实施例，这里使用以下的术语。很显然，根据其它的实施例，也可使用附加和/或不同的术语。

配置：确定流量引导器实例的运行时间行为的可配置要素（例如，元数据）的集合。根据实施例，典型的配置包含流量引导器应在其上收听请求的收听者的定义（例如，IP地址和端口组合）连同关于应向其发送请求的后端处的服务器的信息。流量引导器可在流量引导器实例开始时读取配置，并且同时处理客户机请求。

实例（流量引导器实例）：从配置实例化并在管理节点或管理服务器处部署的流量引导器服务器。

集群：从同一配置产生的两个或更多个流量引导器实例的集合。

故障切换组：根据虚拟IP地址（VIP）组成组的两个或更多个流量引导器实例。根据实施例，故障切换组在主动-被动模式中提供高可用性；其中，请求在VIP处被接收并被路由到被指定为主要实例的实例；如果主要实例不可到达，那么请求被路由到备用实例。根据实施例，对于主动-主动故障切换，需要两个故障切换组，每个具有唯一的VIP，但两个均包含相同的节点，使得主要角色和备用角色颠倒；故障切换组中的各实例对一个VIP被指定为主要实例，对另一个VIP被指定为备用的。

管理服务器：托管包含管理控制台和命令行界面在内的界面的特别配置的流量引导器实例，通过它，管理员可产生流量引导器配置，将它们部署为管理节点上的实例，并管理这些实例。

管理节点：被指定为管理员可在其上部署流量引导器实例的主机的物理服务器。根据实施例，在给定的节点上，管理员可仅部署配置的一个实例。

INSTANCE_HOME：管理服务器或管理节点上的管理员选择的目录，其中存储属于流量引导器实例的配置数据和二进制文件。

ORACLE_HOME：管理员选择的目录，其中，管理员安装流量引导器二进制。

管理控制台：管理员可用于产生、部署和管理流量引导器实例的管理服务器上的基于网络的图形界面。

客户机：根据实施例，为向流量引导器实例发送请求（例如，HTTP和HTTPS请求）的代理（例如，网络浏览器或应用）。可与该系统一起使用的类型的客户机的例子包含计算机服务器、膝上型计算机、诸如智能电话的便携式装置和其它类型的计算装置，它们中的一些可包含例如用于访问网络服务器的网络浏览器应用。

起源服务器：根据实施例，为后端处的资源或服务器，流量引导器向其转送它从客户机接收的请求并且流量引导器从其接收对客户机请求的响应。可用作起源服务器的类型的资源的例子包含轻重量目录访问协议（LDAP）服务器、网络服务器、多媒体服务器、应用服务器、数据库服务器和其它类型的资源。

起源服务器池：托管同一应用或服务并且管理员可通过使用流量引导器实现负载平衡的起源服务器的集合。根据实施例，流量引导器基于针对池规定的负载分布方法向该起源服务器池中的服务器分布客户机请求。

虚拟服务器：流量引导器服务器实例内的提供唯一IP地址（或主机名称）和端口组合的虚拟实体，流量引导器可通过其提供对一个或更多个域的请求。根据实施例，节点上的流量引导器实例可包含多个虚拟服务器。管理员可对各虚拟服务器特别地配置诸如进入的连接的最大数量的设置，并且还可定制各虚拟服务器如何处理请求。

图1示出根据实施例的包含负载平衡器或流量引导器的计算环境。如图1所示，根据实施例，流量引导器100（这里在一些实施例中称为Oracle Traffic Director（OTD））可部署于一个或更多个物理计算机服务器101（或包含处理器（CPU）、存储器和存储设备的类似的计算装置）上，并且可包含一个或更多个流量引导器实例102、104，这些流量引导器实例又可通过使用高可用性心跳或类似的手段106相互通信。

对于任何特定的组织，根据其商业要求，诸如它们希望使用流量引导器以平衡请求的后端应用的数量、诸如安全性的它们的内部要求和它们希望使用的流量引导器特性，流量引导器拓扑可改变以解决它们的需求。后端可包含一个或更多个起源服务器110，这些起源服务器110的例子可包含LDAP服务器114、网络服务器118、多媒体服务器122、应用服务器126和数据库服务器128。根据实施例，应用服务器可以为WebLogic服务器（WLS）。根据组织的特定要求，可以使用其它类型的起源服务器和应用服务器。每个起源服务器可通过诸如以太网的内部网络130相互通信并与流量引导器通信。

根据实施例，流量引导器可通过外部网络136、因特网138并在许多组织的情况下通过防火墙139接收来自客户机134的请求。可与该系统一起使用的类型的客户机的例子包含计算机服务器、膝上型计算机、诸如智能电话的便携式装置和其它类型的计算装置，它们中的一些可包含例如用于访问网络服务器的网络浏览器应用。

图2示出根据实施例的与一个或更多个池或起源服务器一起的流量引导器的使用。在图2所示的例子中，流量引导器与两个池一起使用，这两个池包含具有这里示为A172、B174、C176、D178的四个应用服务器的（第一）应用服务器池170和具有这里示为A182、B184、C186的三个网络服务器的（第二）网络服务器池180。根据其它实施例和例子，根据组织的特定要求，可以使用其它类型和数量的池和服务器。

在图2所示的例子，拓扑包含形成主动-被动故障切换组150并包含用于接收客户机请求的单个虚拟IP地址190的两个流量引导器实例（102和104）。当主动实例（在本示例性实例中为102）接收请求190、192、194时，它确定应向其发送请求的服务器池，并基于对于池规定的负载分布方法将请求197、198转送到该池中的服务器中的一个。

虽然图2所示的例子示出在后端处使用两个服务器池，但管理员可配置流量引导器以将请求路由到多个池中的服务器。在图2所示的主动-被动设置中，故障切换组中的一个节点在任何时间点上是冗余的。根据实施例，为了改善资源利用，管理员可用两个虚拟IP地址在主动-主动模式中配置两个流量引导器实例；在该方案中，各实例迎合在一个虚拟IP地址上接收的请求，并对另一实例备份。

图3示出根据实施例的流量引导器结构。根据实施例，流量引导器可包含使其能够以低的延时处理大量的流量的结构。实施例也可被优化，以供在高性能计算环境中使用，或者通过使用高性能通信结构与后端处的起源服务器通信。

如图3所示，根据实施例，流量引导器可包含一个或更多个Netscape便携式运行时间（NSPR）202和网络安全服务（NSS）206层。根据实施例，流量引导器还可包含：具有一个或更多个访问控制212、日志记录214、HTTP压缩216、I/O过滤218、错误处理220、速率整形222、侵入检测224或其它部件的HTTP引擎210；和具有一个或更多个http客户机232、响应客户机234、健康检查236、路由策略238、负载控制240、负载平衡器244、WLS支持246、粘性路由248或其它部件的逆代理部件230。根据实施例，流量引导器还可包含具有一个或更多个接收器线程252、工作线程254、活动保持线程256或其它部件的HTTP连接处理器256。根据实施例，流量引导器还可包含具有一个或更多个TCP线程262、负载平衡器264或其它部件的TCP连接处理器260。根据实施例，流量引导器还可包含一个或更多个事件调度270、动态配置272、监视274或其它部件。

很显然，根据其它实施例，可以使用附加和/或不同的部件。

图4示出根据实施例的流量引导器管理环境和界面。从管理的观点看，流量引导器被设计为容易安装、配置和使用；并且可包含简单的向导驱动的图形界面以及供管理员在管理流量引导器实例时使用的稳固的命令行界面。如图4所示，根据实施例，流量引导器可包含一个或更多个流量引导器实例280、281、282，其中，实例中的至少一个被指定为管理服务器（280），而其它的实例被指定为管理节点（281、282）。

根据实施例，管理环境284包含管理界面285，该含管理界面285又包含使得管理员290能够配置或者另外管理292流量引导器或其实例294、296的管理控制台（GUI）286和/或命令行界面288中的一个或更多个。

主动-被动路由

在一些主动/被动路由方法中，负载平衡器保持作为主要（即，主动）集群的第一服务器集群和作为备用（即，被动）集群的另一服务器集群。这在灾难性恢复情况下是有用的，由此，当主要数据中心在失效时，流量自动地被路由到备用数据中心。根据实施例，流量引导器采取有细微差别的方案，由此，流量引导器仅在所有活动节点均失效之后拾取备用节点。

根据实施例，在服务器池内，起源服务器中的一些可被规定为主要服务器，而其它的被规定为备用服务器。如果至少一个主要服务器可用，那么流量引导器将仅将请求路由到非备用服务器（即，主要服务器）。但是，如果没有主要服务器可用，那么流量引导器将请求路由到池中的备用服务器。一旦任何主要服务器重新变得可用，流量引导器就将停止向备用服务器发送请求，并将随后的请求路由到主要服务器。

图5示出根据实施例的流量引导器中的主动/被动路由的使用。如图5所示，主动/被动环境可包含用于向起源服务器346路由请求的具有一个或更多个流量引导器实例342的流量引导器340。起源服务器可被配置为一个或更多个服务器池（这里示为池A348和池B354），各池具有一个或更多个主要服务器350、357和一个或更多个备用服务器356、358。

如图5所示，流量引导器可被配置为使得，对于任何特定的池（例如，池A），首先，如果在该池中至少一个主要服务器可用，流量引导器将仅将请求路由344到非备用服务器（即，主要服务器），且不将请求路由到备用服务器（这里，为了解释示为带阴影）。

根据实施例，在一段时间之后，虽然一个或更多个主要服务器可能由于故障变得不可用，但是，如果至少一个主要服务器可用，那么流量引导器将继续仅将请求路由360到该池中的主要服务器。

在另一段时间之后，根据实施例，如果池中的所有主要服务器变得不可用，那么流量引导器将替代性地将请求路由364到池中的备用服务器。

图6进一步示出根据实施例的流量引导器中的主动/被动路由的使用。如图6所示，如果池中的所有主要服务器仍不可用，那么流量引导器将继续将请求路由366到池中的备用服务器。

当使得主要服务器重新可用368时，根据配置，流量引导器可在开始将流量转送到（新的或另外现在可用）的主要服务器之前延迟一段时间。在这种情况下，流量引导器将继续将请求路由370到备用服务器一段时间，并且仍然不将请求路由到主要服务器（这里，为了解释示为带阴影）。

随后，一旦至少一个主要服务器完全重新可用，那么，如果至少一个主要服务器可用，那么流量引导器将重新仅将请求路由374到非备用服务器（即，主要服务器），且不将请求路由到备用服务器。

根据实施例，在配置粘性路由的情况下，如果主要服务器变得不可用，那么粘接到该服务器的所有随后的请求将不被拒绝，而是被路由到其它主要服务器或如果没有主要服务器可用则路由到备用服务器。由于过渡起源服务器不会具有对粘性请求存储的对话信息，因此对话在这种情况下可能失败。但是，新的服务服务器可能挑战发送者并对这些粘性请求建立新的对话。备用服务器将仅在所有主要服务器不可用时用于路由。

根据实施例，为了配置与流量引导器一起使用的主动/被动路由，可在server.xml文件中的要素<origin-server>中添加称为“backup-server”的要素以用于规定备用服务器，分别在表1和清单1中提供其参数和例子。

表1

清单1

图7是根据实施例的用于在流量引导器中提供主动/被动路由的方法的流程图。如图7所示，在步骤380中，提供流量引导器环境，包含具有一个或更多个流量引导器实例的流量引导器和具有一个或更多个服务器池的起源服务器。在步骤382中，在主动/被动配置中，一个或更多个主要服务器和一个或更多个备用服务器被指派给池。在步骤384中，流量引导器确定池中的主要服务器的可用性，并且当池包含足够数量的可用主要服务器时仅向主要服务器引导请求。根据实施例，如果至少一个主要服务器可用，那么流量引导器将仅将请求路由到非备用服务器（即，主要服务器）。在步骤386中，如果在池中存在不足的主要服务器（根据实施例，小于1，即，没有主要服务器），那么流量引导器将请求引导到池中的备用服务器，直到主要服务器的数量变得重新可用。在该点上，根据配置，流量引导器可在池包含足够数量的服务器时重新仅向主要服务器引导请求。

浪涌保护

负载平衡器可帮助防止会另外由通向例如起源服务器的流量的非预期的浪涌导致的服务器停用。根据实施例，流量引导器通过监视通向起源服务器的流量并在必要时使连接排队，使得使得流量不超过一定的浪涌极限，来提供智能形式的浪涌保护。

根据实施例，当启用浪涌保护时，流量引导器不打开比配置的容量多的与服务器的同时连接。该极限或最大容量可由要素<max-connections>规定。如果起源服务器达到其最大连接容量，那么没有任何要求新连接的请求被路由到该服务器，直到其现有连接中的一些被释放。如果起源服务器达到了其连接容量，那么需要新连接的随后的请求将被拒绝，并且发送错误消息。

图8示出根据实施例的流量引导器中的浪涌保护的使用。如图8所示，提供流量引导器环境，包含具有一个或更多个流量引导器实例402的流量引导器400和具有一个或更多个服务器池422的起源服务器420。各服务器池可包含一个或更多个资源服务器424。

根据实施例，流量引导器包含流量监视器404，该流量监视器404使得流量引导器能够监视流量引导器实例与起源服务器内的一个或更多个资源服务器之间的包含连接次数406在内的流量。根据实施例，流量引导器还包含可用于将连接排队的连接队列408。

在操作过程中，当来自客户机的请求被传送到起源服务器时，流量监视器接收描述包含流量引导器与资源服务器之间的连接次数在内的流量的反馈430。如果流量引导器确定流量引导器与特定的资源服务器之间的包含连接次数在内的流量超过对资源服务器允许的最大量，那么流量引导器可暂时引导随后的流量和连接远离该资源服务器并将其引向连接队列434，这具有暂时减少或限制436流向该资源服务器的流量的效果。

根据实施例，流量引导器可任选地例如向日志文件或向管理员提供440信息消息442，以向它们通知流量浪涌和采取的措施。流量监视器可继续监视到起源服务器的流量/连接，以供随后在必要时调整连接队列。

速率整形（加快/减慢）

根据实施例，流量引导器还支持请求速率加快，这允许通过逐渐加快通向新添加的服务器的流量，而不是用大量的流量压倒这些服务器，来得体地向起源服务器池添加服务器。请求速率加快是适应性的，原因是它可加入大量的动态监视的参数，诸如活动连接的数量或当前负载、最大连接次数或起源服务器的容量。也可扩展特征以提供请求速率减慢，由此流量引导器可有效地逐渐减少指向起源服务器的流量，使得，例如管理员可在其流量被完全静默时使其离线，以例如出于安排的维护的目的。可以一起使用速率加快和减慢以整形通向起源服务器的流量的速率。

根据实施例，当起源服务器在线到来时，流量引导器不立即以其完全的容量向该服务器发送请求，而代之以在一段时间之上逐渐增加发送速率。这可提供几个益处：例如，当起源服务器启动时，它将需要一定的时间段以加载数据并分配各种资源；在该预热过程中，起源服务器的响应时间会较慢，并且向服务器发送大量的请求将使得服务器性能更差并会导致服务器的非预期的行为。另外，如果起源服务器有问题，那么它会无法响应请求中的一些或大多数，并且，其状态会在“UP”和“DOWN”状态之间频繁改变；对于这种服务器，在其“UP”状态的开始不向其发送许多请求是更好的。并且，如果使用诸如最少连接计数的负载平衡算法，那么流量引导器会向新服务器发送许多请求，并会在开始时间淹没服务器，原因是新服务器的连接计数会为零；速度加快可减轻该问题。

根据实施例，流量引导器逐渐增加通向新服务器的流量速率，直到速率达到服务器的配置的最大速率（最大连接max-connections）。可通过连接容量调整实现速率加快，并且，容量的调整可基于时间（即，每单位时间使连接容量增加固定值）或基于窗口（例如，在其接收一定数量的响应之后使连接容量增加某个值）。

图9示出根据实施例的流量引导器中的速率加快的使用。如图9所示，重新提供流量引导器环境，包含具有一个或更多个流量引导器实例452的流量引导器450和具有一个或更多个服务器池472的起源服务器470。各服务器池可包含一个或更多个（现有的）资源服务器474。流量引导器又包含流量监视器454，该流量监视器454使得流量引导器能够监视流量引导器实例与起源服务器内的一个或更多个资源服务器之间的包含连接次数456在内的流量。

根据实施例，流量引导器可设定流量速率458，该流量速率458首先对流量引导器实例与起源服务器内的一个或更多个（现有的）资源服务器之间的包含连接次数476在内的流量进行控制。

随后，如果流量监视器确定在起源服务器内存在481流量引导器可向其引导流量的添加（新）的资源服务器480，那么，在逐渐整形或调整流量速率484以引导流量引导器实例与那些新的资源服务器486之间的流量/连接之前，流量监视器可等待一段时间，在一些实例中使流量保持在其初始速率482。

请求速率整形（加快/减慢）与上述的浪涌保护特征不同－虽然可以使用两种机制以限制请求流量，但它们基于不同的准则；具体而言，速率整形基于请求性能采取限制措施，而浪涌保护主要基于与起源服务器的同时连接量。

根据实施例，可使用连接容量调整的基于时间的方法和称为“ramp-up-time”的配置参数，该配置参数规定流量引导器花费多长时间以将发送速度缓慢加快到服务器的配置容量：Adjusted-Connection-Capacity=MAX{(max-connections*MIN{1,server-up-time/ramp-up-time}),1}

当启用请求速率加快时，可由流量引导器使用调整的容量而不是配置的硬极限（最大连接）以进行路由决定。如上所述，如果所有的服务器达到其调整的连接，那么新的请求将被拒绝。

根据实施例，为了配置与流量引导器一起使用的浪涌保护和请求速率加快，可在用于希望的资源服务器的server.xml文件中的要素<origin-server>中添加称为“max-connections和“ramp-up-time”的要素，分别在表2和清单2中提供其参数和例子。

表2

清单2

图10是根据实施例的用于在流量引导器中提供浪涌保护的方法的流程图。如图10所示，在步骤490中，提供包含具有一个或更多个流量引导器实例的流量引导器和具有一个或更多个服务器池的起源服务器的流量引导器环境。在步骤492中，流量引导器处的流量监视器监视流量引导器实例与起源服务器内的一个或更多个资源服务器之间的包含连接次数在内的流量。在步骤494中，如果流量监视器确定流量引导器与特定的资源服务器之间的包含连接次数在内的流量超过对该资源服务器允许的最大量，那么流量引导器将暂时引导随后的流量和连接远离该资源服务器并将其引导到连接队列。在步骤496中，流量引导器可任选地例如向日志文件或管理员提供信息消息，以通知流量浪涌，并继续监视到起源服务器的流量和连接，以供随后在必要时调整到连接队列。

图11是根据实施例的用于在流量引导器中提供速率加快的方法的流程图。如图11所示，在步骤502中，重新提供流量引导器环境，包含具有一个或更多个流量引导器实例的流量引导器和具有一个或更多个服务器池的起源服务器。在步骤504中，通过使用来自流量监视器的信息，流量引导器可设定首先对流量引导器实例与起源服务器内的一个或更多个（现有的）资源服务器之间的包含连接次数在内的流量进行控制的流量速率。在步骤506中，流量监视器可确定在起源服务器内存在流量引导器可向其引导流量的附加（新）的资源服务器。在步骤508中，流量引导器可在逐渐整形或调整流量速率之前等待一定的时间段，以引导流量引导器实例与那些新的资源服务器之间的流量/连接。

虽然图1没有示出，但如上所述，根据实施例，可以使用类似的技术以监视和逐渐整形或调整流量速率，以减慢通向现有资源服务器的流量，例如，使得可在其流量完全静默时使该服务器离线。

起源服务器的动态发现

根据实施例，流量引导器使得管理员很容易地通过动态发现起源服务器并检测其服务器类型和/或其它的性能而向服务器池添加起源服务器。

例如，根据实施例，当管理员启动动态发现时，流量引导器可动态发现服务器池内的支持/识别的应用服务器。从流量引导器的观点，获知它是否用作一般应用服务器类型的代理（即，代表）或替代性为诸如WebLogic服务器的识别的服务器类型是有用的，原因是它有助于流量引导器应用服务器类型特定的路由、节流和其它优化。可通过系统自动应用这种优化，不需要管理员的进一步的手动配置。

从对后端起源服务器进行请求的客户机的观点，虽然这些请求在某种程度上通过流量服务器透明地被路由到起源服务器，但流量引导器发现起源服务器类型并应用服务器特定优化的能力在使用识别的服务器类型的任何时候提供性能优点。

根据实施例，如果管理员希望产生代表例如为WebLogic服务器的识别的受管理服务器类型的集群的起源服务器池，那么他们不需要将该集群中的各受管理服务器规定为起源服务器。而将管理的服务器中的任一个规定为池中的起源服务器就够了。流量引导器可然后动态发现在集群中存在其它WebLogic服务器实例，并且向被配置为起源服务器的受管理服务器以及向同一集群中的动态发现的受管理服务器分布客户机请求。

类似地，当启用动态发现时，如果集群中的受管理服务器中的任一个被停止、添加或去除，那么管理员不需要更新起源服务器池的定义。

根据使用WebLogic服务器的实施例，各WebLogic服务器实例包含其自身的逆代理模块或插件，该逆代理模块或插件可代理通向后端应用服务器的进入的HTTP流量，并可响应健康检查请求提供WebLogic特定的响应标题。例如，x-weblogic-jvimid响应标题可指示当前WebLogic服务器节点的JVMID；x-weblogic-cluster-hash响应标题可提供WebLogic集群节点的散列值，并因此指示集群在任何时候被修改；x-weblogic-cluster-list响应标题可返回与集群中的那些WebLogic服务器对应的JVMID的列表。

当在WebLogic环境中对起源服务器池启用动态发现时，流量引导器可如下发现池中的剩余的WebLogic起源服务器：

首先，当流量引导器实例开始时，它通过向各配置的起源服务器发送HTTP健康检查请求而检查在池中规定的起源服务器是否是WebLogic受管理服务器，以及该服务器是否属于集群。对于任何特定的起源服务器池，流量引导器针对动态发现发送的HTTP请求类型可以是当前对该池配置的健康检查请求类型。起源服务器的响应将通过使用与上述的那些类型的响应标题指示服务器是否是WebLogic受管理服务器。如果起源服务器是属于集群的WebLogic受管理服务器，那么响应还将包含集群中的受管理服务器的列表。

根据实施例，当流量引导器接收具有x-weblogic-cluster-hash和x-weblogic-cluster-list响应标题的响应时，流量引导器将首先使用该散列值响应标题以确定集群是否被修改，并且，如果是，将分析剩余的响应标题，例如，

x-weblogic-cluster-list;JVMID\!dns/hex-ip\!port\!https-port|JVMID\!dns/hex-ip\!port\!https-port

以确定集群中的新添加的WebLogic服务器的JVMID、端口和附加的信息，并然后将这些添加到服务器池。

然后，流量引导器使用来自起源服务器的响应中的信息，以关于发现的受管理服务器更新其配置。根据实施例，动态发现的起源服务器继承对配置的起源服务器规定的所有性能，例如，重量或最大连接。

随后，在对起源服务器池配置的各周期性健康检查间隔中，通过向池中的被配置为起源服务器的那些WebLogic服务器实例发送动态发现健康检查请求，流量引导器尝试检测集群中的变化。如果响应指示自前面的健康检查起集群中的变化，诸如受管理服务器的去除或添加，那么流量引导器将用新的一组动态发现的起源服务器更新配置。

虽然以上的描述作为解释使用WebLogic，但是，根据其它的实施例，可以使用类似的技术以发现服务器池内的其它类型的支持/识别的起源服务器。动态发现的起源服务器不被永久存储于实例的配置的起源服务器池定义中。因而，当重新开始流量引导器实例时，通过该实例的动态发现的过程重新开始。

根据实施例，在缺省条件下不启用动态发现特征。管理员可通过使用管理控制台或命令行界面（CLI）启用动态发现。当起源服务器池被修改时，它实际上修改配置，因此，要使任何更新的起源服务器池设置奏效，就应重新部署相应的配置。

图12示出根据实施例的流量引导器中的起源服务器的动态发现。如图12所示，管理员290可通过使用管理界面285管理流量引导器600并与其交互作用292，该管理界面285又包含管理控制台（GUI）和/或命令行界面中的一个或更多个。流量引导器可包含一个或更多个流量引导器实例602，并可向具有一个或更多个服务器池610的起源服务器608传送请求。各服务器池可包含一个或更多个（现有的）资源服务器，诸如资源服务器A612。

根据实施例，流量引导器包含健康检查子系统604和配置606，其中，配置提供关于诸如收听者、起源服务器、故障切换组和日志的、流量引导器实例的各种要素的信息。

可首先由管理员修改配置，以指示特定的起源服务器池包含特定的资源服务器。在对该起源服务器池配置的各周期性健康检查间隔中，健康检查子系统然后例如通过发送HTTP健康检查请求613并从资源服务器A接收适当的响应614检查其配置的资源服务器中的每一个的健康状况。

根据实施例，当启用动态发现时，在对起源服务器池配置的各周期性健康检查间隔中，流量引导器还尝试通过向池内的被配置为起源服务器的任何新的服务器实例发送动态发现健康检查请求616并接收适当的响应617而检测池中的变化，诸如资源服务器B615。仅用发现节点的服务器池应用动态发现的服务器。流量引导器然后用该新的一组动态发现的起源服务器620更新618其配置。

根据使用Weblogic服务器实例的实施例，当对起源服务器池启用动态发现时，健康检查子系统检查在池中规定的起源服务器是否是Weblogic受管理服务器以及服务器是否属于集群。如上所述，起源服务器的响应标题可指示服务器是否是Weblogic服务器受管理服务器，并且，如果起源服务器是属于集群的Weblogic受管理服务器，那么响应还将包含集群中的受管理服务器的列表。

图13进一步示出根据实施例的流量引导器中的起源服务器的动态发现。如上所述，当启用动态发现时，在对起源服务器池配置的各周期性健康检查间隔中，流量引导器检查其配置的资源服务器中的每一个的健康状况，并且还尝试通过向任何新的服务器实例发送动态发现健康检查请求并用新的一组动态发现起源服务器更新其配置来检测池中的变化。

如图13进一步表示的那样，配置可包含池中的各配置的起源服务器的性能，在本例子中包含资源服务器A性能622。根据实施例，动态发现的起源服务器继承对配置的起源服务器规定的所有性能，例如，重量或最大连接。例如，流量引导器可将动态发现的资源服务器B配置为起源服务器，使得其性能623继承配置的资源服务器A的那些性能（与其相同）。

随后，如果流量引导器通过随后的健康检查625、626进一步检测到池中的变化，诸如新的资源服务器C624，那么流量引导器可类似地将资源服务器C配置为起源服务器，使得其性能627也继承配置的资源服务器A的那些性能（与其相同）。

根据实施例，可与配置或发现的资源服务器相关的类型的服务器性能的例子包含：

重量：可用不同的负载重量配置起源服务器－根据配置的重量，流量引导器将引导通向该服务器的进入的请求负载。

缓升时间：可用缓升时间配置起源服务器，使得进入的请求负载不即时被引导到起源服务器。

最大连接：起源服务器可被配置为支持同时连接的最大数量。

备用：池内的起源服务器可被配置为备用，在这种情况下，流量引导器不将请求路由到该服务器，除非池中的不被指示为备用的所有其它服务器被标记为离线。

根据使用Weblogic的实施例，如果起源服务器的响应指示服务器是Weblogic受管理服务器并属于集群，那么响应还将包含集群中的受管理服务器的列表。流量引导器使用来自起源服务器的响应中的信息以用发现的受管理服务器更新其配置。例如，如果特定的起源服务器具有以下的配置：

清单3

那么，如果流量引导器发现在“nsapi.us.oracle.com:7012”上运行的Weblogic服务器节点，那么它将用与“nsapi.us.oracle.com:7011”相同（即，继承）的性能配置该起源服务器。

图14是根据实施例的用于在流量引导器中提供起源服务器的动态发现的方法的流程图。如图14所示，在步骤632中，提供包含具有一个或更多个流量引导器实例的流量引导器和具有一个或更多个服务器池的起源服务器的流量引导器环境。在步骤634中，流量引导器（根据实施例，为其健康检查子系统）在启动和/或者周期性地请求事先通过管理员配置的起源服务器内的那些资源服务器的健康检查。在步骤636中，流量引导器的健康检查子系统从起源服务器处的一个或更多个动态发现的资源服务器（例如，Weblogic服务器）接收健康响应。在步骤638中，流量引导器使用从动态发现的资源服务器接收的信息以更新流量引导器配置，在适当情况下，包含继承来自事先配置的起源服务器的性能。

图15是根据实施例的用于在流量引导器中提供起源服务器的动态发现的另一方法的流程图。特别地，图15示出使用Weblogic服务器，使得当对起源服务器池启用动态发现时，流量引导器可发现池内的新的或附加的Weblogic起源服务器的实施例。

如图15所示，在步骤642中，流量引导器启动并调用健康检查子系统（步骤643），以在配置的池上执行健康检查（步骤644）。

在步骤645中，如果完成健康检查，那么系统可前进以加载现有配置（步骤646、647）、加载新配置（步骤648、650）或执行动态重新配置（步骤649）。

在步骤651中，如果起源服务器是Weblogic服务器，并且其被配置为集群（步骤653），那么处理比较集群列表（步骤656），并在适当的情况下用新节点更新配置（步骤657、659）。否则，服务器可被标记为在线并且处理可前进（步骤652、654、658）。

根据实施例，对供流量引导器使用的动态发现路由，可对该服务器规定称为“dynamic-server-discovery”的要素，在表3中提供其例子。

表3

用高性能计算环境配置负载平衡

根据实施例，当被用作高性能计算环境（诸如具有高速InfiniBand网络基础构架的Exalogic中间件机器）的局域负载平衡器时，流量引导器的负载平衡可被设计为无缝地与环境的网络基础构架一起工作。

InfiniBand是提供点对点双向串行链接的切换结构通信链接，并且一般被设计为用于处理器与诸如盘的高速外设的连接。可以使用不同的协议以在InfiniBand结构上通信，其例子包含Internet Protocol over InfiniBand（IPoIB）和Sockets DirectProtocol（SDP）。

IPoIB协议被用作InfiniBand层的顶部的接口，并允许基于插件（socket）的应用利用主机的TCP/IP协议栈，该TCP/IP协议栈然后以对应用透明的方式被翻译成本机InfiniBand。SDP协议是基于插件的接口的优化，并允许系统绕过TCP/IP栈并且替代性通过使用远程直接存储器访问（RDMA）操作直接将基于插件的包翻译成InfiniBand层，同时保持现有的TCP流插件语义。SDP协议具有绕过支持IPoIB所需要的几个软件层的优点，这又导致SDP具有比IPoIB好的延时和吞吐量。

根据实施例，流量引导器可作为入站连接终止入站，例如，Ethernet trafficemulated over IB（EoIB），并且，作为出站连接，可通过使用诸如IPoIB或DSP的协议在InfiniBand网络上与起源服务器通信。流量引导器的集成HTTP高速缓存和压缩能力使得其特别适于诸如Exalogic的高性能计算环境的可变的外出和进入带宽要求。

图16示出根据实施例的流量引导器的使用。如图16所示，具有一个或更多个流量引导器实例672的流量引导器670可与具有高速InfiniBand网络基础构架682的诸如中间件机器（例如，Exalogic）680的高性能计算环境组合使用。

根据实施例，流量引导器包含一个或更多个协议终止器/仿真器674（例如，一个或更多个IPoIB和/或SDP终止器/仿真器）、入站插件配置676和出站插件配置677。起源服务器683可被提供为一个或更多个服务器池684、685，其中，各服务器池包含一个或更多个资源服务器686、688。根据组织的特定要求，各服务器池可被配置为使用诸如常规的Inet插件的通信协议/插件，或者替代性地使用诸如IPoIB或SDP的高速协议，通过它们，该池内的这些起源服务器将从流量引导器接收请求。在图16所示的例子中，服务器池684中的起源服务器被配置为使用SDP687，而服务器池685中的起源服务器被配置为使用Inet689。根据其它实施例和例子，可以使用其它类型的协议/插件。

当接收指向特定的起源服务器的请求690时，流量引导器使用其配置以确定适当的终止器/仿真器，并将请求692传送到高速InfiniBand网络基础构架，以供在其配置的协议/插件683上传送到起源服务器。

根据实施例，为了配置入站连接，可在server.xml文件中提供http收听者配置，分别在表4和清单4中提供其参数和例子。

表4

清单4

根据实施例，为了配置出站连接，可在server.xml文件中提供http协议配置，分别在表5和清单5中提供其参数和例子。在逆代理要素下，可以提供服务器池的列表，其每一个是起源服务器池的定义。各服务器池又可包含多个起源服务器要素。族要素指示用于与起源服务器连接的插件族。根据实施例，例如，可能的值包含缺省、inet、inet6、或inet-SDP插件。

表5

清单5

图17是根据实施例的用于使用流量引导器的方法的流程图。如图17所示，在步骤694中，提供包含具有一个或更多个流量引导器实例的流量引导器和具有一个或更多个服务器池的起源服务器的流量引导器环境。在步骤695中，向具有高速（例如，InfiniBand）网络的诸如中间件机器（例如，Exalogic）的高性能计算环境部署一个或更多个起源服务器。在步骤697中，流量引导器配置有一个或更多个入站和出站连接，以及协议终止器/模仿器，以供与高速网络通信。在步骤698中，流量引导器终止入站（例如，EoIB）连接，并通过使用配置的出站连接和终止器/模仿器将来自从客户机的请求传送给起源服务器。

动态高速缓存数据解压缩

根据实施例，流量引导器可被配置为通过作为压缩数据提供来自起源服务器的内容或者假定特定的客户机偏好接收数据的非压缩变体则通过在提供数据之前动态解压缩它来响应来自客户机的请求。

根据实施例，例如，可在初始客户机请求中，例如，通过使用提供灵活性和互用性的HTTP标题，提供关于是以其压缩的格式还是以解压缩的格式提供数据的确定。这种数据的压缩和解压缩可被配置为与流量引导器的内置的HTTP高速缓存功能一起工作。

图18示出根据实施例的流量引导器环境中的动态HTTP解压缩的使用。如图18所示，根据实施例，流量引导器900可包含用于向包含资源服务器914的一个或更多个池912在内的起源服务器910分布客户机请求的一个或更多个流量引导器实例902。

根据实施例，流量引导器包含可使得能够与起源服务器中的一个或更多个一起使用的高速缓存904。虽然图18示为由几个流量引导器实例共享的单个高速缓存，但是，根据实施例，可以使用几个这种高速缓存，并且/或者各流量引导器实例可具有其自身的高速缓存。

根据实施例，当启用高速缓存时，当客户机请求被传送920到起源服务器并且响应请求内容从这些起源服务器返回922时，流量引导器可根据其配置在其高速缓存内高速缓存与起源服务器内容对应的数据的一个或更多个组。作为解释性的例子，特定的起源服务器可被配置为向客户机提供图像文件（例如，GIF文件）和其它的内容，并且流量引导器可被配置为对特定的时间段在其高速缓存内高速缓存从该特定的起源服务器接收的图像文件。

根据实施例，流量引导器作为存储器内数据库操作，这意味着高速缓存数据需要使用计算机存储器，并且这又影响系统成本和性能两者。为了解决这一点，根据实施例，在高速缓存压缩的数据926、927、928之前，流量引导器可压缩要存储于其高速缓存中的数据。这减少需要的总高速缓存尺寸并由此减少存储器需求，并且/或者允许在特定的高速缓存尺寸内存储更多数目的数据条目。

根据实施例，高速缓存的数据可然后响应来自客户机的请求根据客户机的需要以其压缩的格式或者解压缩的格式被提供给客户机。

例如，虽然一些（例如，浏览器）客户机可在响应内接受压缩数据，但其它的客户机（例如，移动电话）可要求以非压缩的格式提供响应数据。

如图18所示，根据实施例，客户机A930可向流量引导器指示响应可包含压缩数据932。根据实施例，该指示可作为请求成分的一部分由客户机传送到流量引导器（例如，在HTTP流量、HTTP请求标题的情况下）。作为响应，流量引导器可向起源服务器传送请求以获得响应，或者，如果流量引导器确定数据的拷贝当前以压缩的格式（例如，压缩数据A926）存储于其高速缓存内，那么它可将压缩格式的该数据返回936到客户机。

如图18进一步表示的那样，根据实施例，客户机B940可向流量引导器指示响应不能包含压缩数据（即，只有非压缩数据可接受）942。根据实施例，该指示可类似地作为请求成分的一部分（例如，HTTP请求标题）由客户机传送到流量引导器。作为响应，流量引导器可重新向起源服务器传送请求以获得响应，或者，如果流量引导器确定数据的拷贝当前以压缩的格式（例如，压缩数据B929）被存储于其高速缓存内，那么解压缩该数据944并将数据的解压缩的变体946返回到客户机。

虽然图18示为来自客户机的肯定指示，例如，通过使用HTTP请求标题，根据实施例，系统还可识别缺省，例如，通过缺省，只有非压缩数据应被视为客户机可接受，除非客户机以另外的方式指示，并因此操作。

通过使用以上的功能，高速缓存不需要以两种不同（例如，压缩对非压缩）格式存储数据以满足不同客户机的需要，而只需要在高速缓存内存储单一压缩数据实例/格式，并且，数据根据进行请求的特定客户机的要求被解压缩。

图19是根据实施例的用于在流量引导器环境中提供动态HTTP解压缩的方法的流程图。如图19所示，在步骤950中，提供包含具有一个或更多个流量引导器实例的流量引导器和具有资源一个或更多个服务器池的起源服务器的流量引导器环境。在步骤952中，使得流量引导器能够执行从起源服务器接收的内容或数据的高速缓存和压缩，并且在处理来自客户机的请求的过程中在流量引导器的高速缓存中存储一个或更多个压缩数据。在步骤954中，流量引导器可从客户机接收对特定的内容或数据的请求连同关于该客户机是否可接受响应为压缩数据并且/或者需要解压缩数据的指示。在步骤956中，如果请求的内容处于高速缓存中，那么流量引导器可通过使用存储于高速缓存中的数据向客户机提供响应，包含，如果客户机指示需要解压缩数据，那么作为准备响应的一部分，动态解压缩高速缓存的数据。

硬件辅助压缩本原的支持

根据实施例，流量引导器可被配置为利用硬件辅助压缩本原，例如，Intel的Integrated Performance Primitives（IPP），以进一步提高其数据压缩和解压缩的性能，包含上述的HTTP高速缓存和动态解压缩特性。

根据实施例，诸如处理器的计算机硬件可与压缩/解压缩库相关，该压缩/解压缩库又可被用于提高某些处理器上的压缩和解压缩操作的性能。例如，一些计算机硬件制造商提供与其产品一起使用的zlib库（例如，Intel提供其IPP库，该IPP库可在启动过程中被预先加载到系统中）。根据实施例，如果使得压缩/解压缩库可用，那么流量引导器可利用该库以提高其压缩和解压缩操作的性能。

图20示出根据实施例的与流量引导器环境中的动态HTTP解压缩一起使用的硬件本原的支撑。如图20所示，根据实施例，流量引导器可被提供在包含处理器942的计算机服务器970上。根据实施例，系统包含压缩/解压缩库974（例如，zlib库）。当流量引导器需要压缩或解压缩内容或数据时，例如，在响应客户机解压缩高速缓存数据时，它可利用980、982压缩/解压缩库，以利用由处理器提供的硬件辅助的压缩本原。

可方便地通过使用包含根据本公开的教导编程的一个或更多个处理器、存储器和/或计算机可读存储介质的一个或更多个常规的通用或专用数字计算机、计算装置、机器或微处理器实现本发明。软件领域的技术人员可以理解，熟练的编程人员可基于本公开的教导准备适当的软件编码。

在一些实施例中，本发明包括计算机程序产品，该计算机程序产品是具有存储于其上面的可用于对计算机编程以执行本发明的处理中的任一个的指令的非暂时性存储介质或计算机可读介质（介质）。存储介质可包含但不限于任何类型的盘，包含软盘、光盘、DVD、CD-ROM、微驱动和磁光盘、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、快擦写存储器装置、磁卡或光卡、纳米系统（包含分子存储器IC）或适于存储指令和/或数据的任何类型的媒体和装置。

已出于解释和描述的目的提供了本发明的以上的描述。它不是详尽的或者要将本发明限于公开的确切形式。虽然描述的实施例中的一些在Oracle Traffic Director环境的背景下描述特征，但描述的特征也可被用于其它计算环境的背景中。对于本领域技术人员来说，许多修改和变更是十分明显的。为了最佳地解释本发明的原理及其实际应用，选择和描述了实施例，由此使得本领域技术人员能够理解本发明的各种实施例和适于设想的特定用途的各种修改。本发明的范围要由以下的权利要求和它们的等同限定。

Claims

1.一种用于包含流量引导器部件的计算环境中的系统，包括：

具有一个或更多个流量引导器实例的流量引导器，所述流量引导器被配置为从客户机接收请求并且向具有一个或更多个服务器池的起源服务器传送请求；

起源服务器池，该池被配置为使得所述池内的至少一个或更多个服务器被指派为主要服务器且所述池内的至少一个或更多个其它的服务器被指派为备用服务器；并且

其中，所述流量引导器被配置为使得它确定所述池中的主要服务器的可用性，并且，当所述池中的至少一个主要服务器可用时，仅向所述池中的主要服务器路由请求；并且

其中，所述流量引导器还被配置为使得，如果没有主要服务器可用，那么所述流量引导器将请求引导到所述池中的备用服务器，直到至少一个主要服务器重新变得可用。

2.根据权利要求1所述的系统，其中，所述起源服务器具有多个服务器池，并且，每个池可包含被指派为主要服务器的其一个或更多个服务器和被指派为备用服务器的其一个或更多个其它的服务器。

3.根据权利要求1所述的系统，其中，所述池中的每个起源服务器与将该服务器识别为主要服务器或备用服务器的配置相关。

4.根据权利要求1所述的系统，还包括：

所述流量引导器处的流量监视器，该流量监视器监视所述流量引导器实例与所述起源服务器内的一个或更多个资源服务器之间的包含连接次数在内的流量；并且

其中，所述流量引导器可设定对包含连接次数在内的流量进行控制的流量速率。

5.根据权利要求4所述的系统，其中，由所述流量监视器提供的信息被用于浪涌保护，包含其中，如果所述流量监视器确定所述流量引导器与特定的资源服务器之间的包含连接次数在内的流量超过该资源服务器允许的最大量，那么所述流量引导器将暂时引导随后的流量和连接远离所述特定的资源服务器并将其引向连接队列。

6.一种用于包含流量引导器部件的计算环境中的方法，包括以下步骤：

提供具有一个或更多个流量引导器实例的流量引导器，所述流量引导器被配置为从客户机接收请求并且向具有一个或更多个服务器池的起源服务器传送请求；

提供起源服务器池，该池被配置为使得所述池内的至少一个或更多个服务器被指派为主要服务器且所述池内的至少一个或更多个其它的服务器被指派为备用服务器；并且

7.根据权利要求6所述的方法，其中，所述起源服务器具有多个服务器池，并且，每个池可包含被指派为主要服务器的其一个或更多个服务器和被指派为备用服务器的其一个或更多个其它的服务器。

8.根据权利要求6所述的方法，其中，所述池中的每个起源服务器与将该服务器识别为主要服务器或备用服务器的配置相关。

9.根据权利要求6所述的方法，还包括以下步骤：

在所述流量引导器处提供流量监视器，该流量监视器监视所述流量引导器实例与所述起源服务器内的一个或更多个资源服务器之间的包含连接次数在内的流量；并且

10.根据权利要求9所述的方法，其中，由所述流量监视器提供的信息被用于浪涌保护，包含其中，如果流量监视器确定所述流量引导器与特定的资源服务器之间的包含连接次数在内的流量超过该资源服务器允许的最大量，那么所述流量引导器将暂时引导随后的流量和连接远离特定的资源服务器并将其引向连接队列。

11.根据权利要求10所述的方法，其中，所述流量引导器任选地向日志文件或管理员提供信息消息，以通知流量浪涌，并继续监视到起源服务器的流量和连接，以供随后在必要时调整到连接队列。

12.根据权利要求9所述的方法，其中，由所述流量监视器提供的信息被用于流量整形，包含，其中，所述流量引导器初始设定并随后调整对流量引导器实例与起源服务器内的一个或更多个资源服务器之间的包含连接次数在内的流量进行控制的流量速率。

13.根据权利要求12所述的方法，其中，当所述流量引导器确定在起源服务器内存在附加或新的资源服务器时，所述流量引导器逐渐整形或调整流量速率，以引导所述流量引导器实例与这些附加或新的资源服务器之间的流量/连接。

14.根据权利要求12所述的方法，其中，响应于减慢通向起源服务器内的特定资源服务器的流量的指令，所述流量引导器逐渐整形或调整流量速率，以减少所述流量引导器实例与该特定资源服务器之间的流量/连接。

15.一种非暂时性计算机可读介质，包括存储于其上面的指令，所述指令当被一个或更多个计算机读取和执行时使得所述一个或更多个计算机执行根据权利要求6-14中任一项所述的方法。