CN1829228B

CN1829228B - 用于传输控制协议接合的方法和系统

Info

Publication number: CN1829228B
Application number: CN200610008862.4A
Authority: CN
Inventors: 马德胡·K·切图帕拉姆比尔; 雅克布·L·迈克利; 温卡特·温卡特苏布拉; 王颖
Original assignee: International Business Machines Corp
Current assignee: International Business Machines Corp
Priority date: 2005-02-24
Filing date: 2006-02-23
Publication date: 2010-09-29
Anticipated expiration: 2026-02-23
Also published as: US7475154B2; US20060190609A1; CN1829228A

Abstract

用于传输控制协议接合的方法和系统。本发明提供了一种用于使代理的网络请求与后续请求的调回相接合的方法、系统和计算机程序产品。所述方法包括：由代理启动第一和第二套接字连接之间的传输控制协议(TCP)接合以便服务于一请求；并且响应于与所述TCP接合相关联的完成事件，向代理返回对第一和第二套接字连接的控制。

Description

用于传输控制协议接合的方法和系统

技术领域

本发明总体上涉及客户端-服务器系统。更具体来讲，本发明提供了一种用于把代理的(proxied)网络请求与后续请求的调回相接合(splice)的方法、系统和计算机程序产品。

背景技术

代理是客户端和内容服务器之间的媒介。它提供诸如对请求的基于规则的路由以及安全保护和高速缓存之类的特征。对于典型的代理操作中所固有的、在从内核到用户以及再次从用户到内核之间的环境切换和缓存复制而言，传输控制协议(TCP)接合(splicing)的发展通过减少资源利用而提高了代理的性能。

在其当前的形式中，为了把入站(inbound)和出站(outbound)的套接字(socket)相互关联，只进行一次TCP接合调用。这样做允许资源的有效利用。然而，这种方法的主要缺陷在于：一旦接合方法被调用，就会失去控制。目前，代理完全释放套接字控制，由此丧失了对后续请求做出路由判断的能力。这限制了与隧道业务的接合的使用，其中一旦建立了连接，服务器端点就无法改变。当任何一个连接被关闭时，接合都会自动被破坏。

大的响应和超文本传输协议(HTTP)1.1持续(keep-alive)请求通常由代理来处理。原始TCP接合机制没有考虑到这些HTTP连接的持久性本性以及在HTTP1.1连接上向不同的内容服务器路由请求的可能性。随着新的流传送介质和编组(teaming)应用的出现，看到来自内容服务器的长使用期限的响应也更加普遍。虽然TCP接合就资源利用而言可以增加性能并且优化响应时间，但是它实际上因短暂的连接而会使代理性能恶化。

发明内容

总体上讲，本发明提供了一种用于使代理的网络请求与后续请求的调回相接合的方法、系统和计算机程序产品。

本发明提供了一种异步传输控制协议(TCP)接合机制，用于把TCP接合的范围从任何一个套接字连接的使用期限改变为经由所述接合传送的数据量。这样做通常提供了如下的优势，即：通过代理把接合应用于常规的HTTP业务。本发明通过在规定的数据量或者超时值(曾经第一次出现)内的入站和出站的套接字连接之间建立接合来修改TCP接合机制。当终止接合时，生成包含接合状态的完成事件，并且通知代理。所述代理由此重新获得对客户端套接字的控制，并且可以在所述套接字上服务于后续请求。这样做例如往往允许代理重新路由后续请求以便更加有效地使用可用的内容服务器。

本发明的第一方面致力于一种用于传输控制协议(TCP)接合的方法，包括：由代理启动第一和第二套接字连接之间的TCP接合以便服务于一请求；并且响应于与所述TCP接合相关联的完成事件，向代理返回对第一和第二套接字连接的控制。

本发明的第二方面致力于一种用于传输控制协议(TCP)接合的方法，包括：启动TCP接合以便服务于一请求；并且基于要通过所述TCP接合传送的数据量来设置TCP接合的使用期限。

本发明的第三方面致力于一种用于传输控制协议(TCP)接合的系统，包括：用于由代理启动第一和第二套接字连接之间的TCP接合以便服务于一请求的系统；以及用于响应与所述TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制的系统。

本发明的第四方面致力于一种用于传输控制协议(TCP)接合的存储在计算机可读介质上的程序产品，所述计算机可读介质包括用于执行如下步骤的程序代码：由代理启动第一和第二套接字连接之间的TCP接合以便服务于一请求；并且响应于与所述TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制。

本发明的第五方面致力于一种采用用于传输控制协议(TCP)接合的应用的方法，包括：提供一种计算机基础设施，所述计算机基础设施可操作用于：由代理启动第一和第二套接字连接之间的TCP接合以便服务于一请求；并且响应于与所述TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制。

本发明的第六方面致力于一种包含在传播信号中的用于传输控制协议(TCP)接合的计算机软件，所述计算机软件包括使计算机系统执行如下功能的指令，所述功能包括：由代理启动第一和第二套接字连接之间的TCP接合以便服务于一请求；并且响应于与所述TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制。

附图说明

根据以下结合附图对本发明各个方面的详细描述，将使本发明的这些以及其它特征更加易于理解，其中：

图1描述了典型代理方案中的数据流，其中代理使用TCP接合把数据从内容服务器发送到客户端。

图2描述了依照本发明实施例修改后的图1中的代理方案，其中提供了异步输入/输出(I/O)机制以便响应于完成事件的出现而向代理返回控制。

图3描述了依照本发明实施例的流程图。

图4描述了用于实现本发明的计算机系统。

所述附图仅仅是示意性的表示，而不打算描绘本发明的特定参数。附图只意在描述本发明的典型实施例，并且因此不应该认为是限制本发明的范围。在附图中，相似的数字表示相似的元件。

具体实施方式

如上所述，本发明提供了一种异步传输控制协议(TCP)接合机制，用于把TCP接合的范围从任何一个套接字连接的使用期限改变为经由所述接合传送的数据量。这样做通常提供了如下的优势，即：通过代理把接合应用于常规的HTTP业务。本发明通过在规定的数据量或者超时值(曾经第一次出现)内在入站和出站的套接字连接之间建立接合来修改TCP接合机制。当终止接合时，生成包含接合状态的完成事件，并且通知代理。所述代理由此重新获得对客户端套接字的控制，并且可以在所述套接字上服务于后续请求。这样做例如往往允许代理重新路由后续请求以便更加有效地使用可用的内容服务器。

在图1中举例说明了典型代理方案10中的数据流，在该方案中代理12响应于客户端请求18把数据从多个内容服务器16的其中一个发送给客户端14(对于把数据从客户端14传送到内容服务器16而言，可以存在类似的方案)。如所属技术领域已知的那样，当建立TCP接合20时，数据从内容服务器16通过套接字连接(例如s0、s1)经由代理12的网络/传输层空间22传递至客户端14。

本发明提供了如图2所示的经修改的代理方案30。特别是，本发明提供了异步输入/输入(I/O)机制32，用于响应于完成事件34的出现而向代理12返回控制。完成事件34例如可以包括：

(A)在建立接合20期间规定的超时值期满。如果接合20没有在预定时间段(例如，10分钟)内完成，则假设接合20将不会完成并且代理12需要采取校正动作。

(B)已经通过接合的套接字传送了规定量的数据。

(C)发生异常(例如，在接合20中所涉及的两个套接字之一上发生套接字故障)。

下面将描述通过本发明实施例提供的数据流的说明性示例。

(1)客户端14向代理12发送HTTP GET请求(例如，GET/webconf/keepmeupdatedrooma)。

(2)代理12接收来自于客户端14的GET请求，确定(例如，基于已建立的规则)GET请求是否处于长使用期的响应类别中，并且确定哪一个内容服务器16应该服务于所述请求。套接字连接s0从客户端14接受入站的请求。

(3)代理12向适当的内容服务器16和所创建的套接字连接s1发出请求。代理12接收来自内容服务器16的关于待传送数据量(例如，750兆字节)的响应。基于待传送的数据量(和/或其它已建立的规则)，代理12确定此请求是用于接合的候选。

(4)TCP接合20由代理12来调用：splice(ioCompletionPort，size，timeout，s0，s1，ioCompletionKey)，其中ioCompletionPort表示由所有接合使用的完成端口，size(大小)表示待写数据量(例如，以字节表示)，timeout(超时)表示任何一个套接字连接超时之前的闲置量(例如，以秒、分钟等表示)，s0和s1分别表示客户端14和代理12、以及代理12和内容服务器16之间的套接字连接，并且completion key(完成密钥)表示用于跟踪TCP接合20的唯一值。

(5)把数据从内容服务器16经由TCP接合20发送到客户端14。

(6)当完成数据传送时，拆除TCP接合20，并且生成完成事件，所述完成事件通过GetQueuedCompletionStatus系统调用由代理12接收。所述代理12匹配完成密钥并且记录传送的数据量。

(7)代理12现在准备好在客户端套接字连接s0上服务于下一请求，其经由通常的连接管理机制来进行。

上述方法允许代理12记录事件和利用TCP接合。另外，代理12可以重新使用同一客户端套接字连接s0，而不需要强制客户端14开始新的请求。

以下参考图3中描述的流程图40以及图2中描述的已修改的代理方案30来提供对上述处理的更加详细的描述。如图所示，流程图40包括由代理12的不同级别执行/提供的步骤，所述不同级别包括接收方线程、工作方线程和内核/OS。假设阅读者相当于本领域中的普通技术人员而已经理解了代理。因此，此处没有提供对代理操作的详细说明。

在步骤S1，响应于客户端请求18，接受来自客户端14的套接字连接s0。在步骤S2，在已经处理了套接字连接s0并且代理12了解到该请求意欲何为(例如，HTTP GET请求)之后，代理12确定(例如，使用映射规则确定)哪一个内容服务器16应该服务于所述请求。在步骤S3，代理12打开与适当的内容服务器16的套接字连接s1，并且确定待传送的数据量。

在步骤S4，确定TCP接合请求的候选资格。此操作例如可以基于当从内容服务器请求数据时确定的特性(例如，s1上的HTTP响应所确定的待传送数据量)，或者可以基于检测到由用户指定的预定模式(例如，诸如始终基于入站的统一资源标识符(URI)模式来强制接合)。还可以使用特定用户或者应用的服务质量来确定TCP接合的候选资格。如果所述请求不是TCP接合的候选，那么流程进行到步骤S5，其中所述请求由代理12依照正常方式来处理。然而，如果从客户端14接收的请求是TCP接合的候选，则在步骤S6，TCP接合20由代理12依照如下方式调用：splice(ioCompletionPort，size，timeout，s0，s1，ioCompletionKey)，其中ioCompletionPort表示由所有接合使用的完成端口，size(大小)表示待写数据量(例如，以字节表示)，timeout(超时)表示任何一个套接字连接超时之前的闲置量(例如，以秒、分钟等表示)，s0和s1分别表示客户端14和代理12、以及代理12和内容服务器16之间的套接字连接，并且completion key(完成密钥)表示用于跟踪TCP接合20的唯一值。然后把对于TCP接合20的职责传给内核/OS级别。

在步骤S7，所述TCP接合20与所有其它未决TCP接合20一起置于接合队列36中。在步骤S8，所述内核/OS接管在与TCP接合20相关联的套接字连接s0和s1之间传送数据的处理。接合队列36中的TCP接合20可以按照预先确定的顺序(例如，基于接收顺序、大小等)来处理，或者依照并行方式来处理。同时，工作方线程44自由地处理其它处理过程。

一旦内核/OS已经结束传送TCP接合20(即，在接合队列36中排队的任何TCP接合20)中的所有数据(步骤S9)，或者当出现错误(例如，超时)时，拆除TCP接合20，并且生成完成事件34(步骤S10)，并且通过GetQueuedCompletionStatus系统调用：GetQueuedCompletionStatus(ioCompletionPort，completion key，s0，s1)，由可用的工作方线程接收完成事件。为此，所述完成端口与完成密钥一起被“调回”。如果在TCP接合20期间发生错误(步骤S11)，那么流程进行到步骤S12，其中记录所述错误和对应于TCP接合20的完成密钥，和/或执行错误恢复。如果在TCP接合20期间没有发生错误(步骤S11)，则流程进行到步骤S13，其中记录对应于TCP接合20的完成密钥，并且生成统计信息。在步骤S14，确定是否应当有具有与同一或不同内容服务器16的已有套接字连接的另一TCP接合20。如果是的话，则可以重发TCP接合，或者可以建立新的TCP接合20(这样做往往需要另一splice(ioCompletionPort，size，timeout，s0，s1，ioCompletionKey)调用)。在TCP接合20期间，这样做往往在数据传送期间再次卸载工作方线程。如果不是的话，则可以分派工作方线程进行其它工作(步骤S5)。

图4中举例说明了依照本发明实施例的用于将代理的网络请求与后续请求调回相接合的代理服务器100。如图所示，代理服务器100通常包括处理部件102、存储器104、总线106、输入/输出(I/O)接口108、外部设备/资源110和存储部件112。处理部件102可以包括单个处理部件，或者可以分布在处于一个或多个位置中的一个或多个处理部件上。存储器104可以包括任何已知类型的数据存储和/或传输介质，包括磁介质、光学介质、随机存取存储器(RAM)、只读存储器(ROM)等。此外，类似于处理部件102，存储器104可以驻留在单个物理位置上，包括一种或多种类型的数据存储设备，或者以各种形式分布在多个物理系统上。

I/O接口108可以包括用于往返于外部源交换信息的任何系统。外部设备/资源110可以包括任何已知类型的外部设备，包括扬声器、CRT、LED屏幕、手持设备、键盘、鼠标、语音识别系统、语言出站系统、打印机、监视器/显示器(例如，显示器112)、传真机、寻呼机等。

总线106在代理服务器100中的每个组件之间提供通信链路，并且还可以包括任何已知类型的传输链路，其中包括电气、光学、无线链路等。另外，虽然未示出，但是还可以把诸如高速缓冲存储器、通信系统、系统软件等的额外组件并入代理服务器100中。

实践本发明时使用的数据可以本地存储在代理服务器100中，例如存储在存储部件114中，和/或可以经由网络116提供给代理服务器100。在本发明中，存储部件114可以是能够为数据和信息提供存储的任何系统。照此，存储部件114可以驻留在单个物理位置上，包括一种或多种类型的数据存储设备，或者可以以各种形式分布在多个物理系统上。在另一个实施例中，存储部件114可以例如分布在局域网(LAN)、广域网(WAN)或者存储区域网络(SAN)(未示出)上。

网络116意在表示任何类型的网络，经由所述网络可以传输数据。例如，网络116可以包括互联网、广域网(WAN)、局域网(LAN)、虚拟专用网络(VPN)、WiFi网络或者其它类型的网络。为此，可以经由直接硬线连接的连接或者经由客户端-服务器(或者服务器-服务器)环境中的可寻址连接来进行通信，其中可寻址连接可利用有线和/或无线传输方法的任何组合。在后一种情况下，服务器和客户端可以利用惯用的网络连接性，诸如令牌环网、以太网、WiFi或者其它惯用的通信标准。所述客户端经由互联网与服务器通信的情况下，可以通过惯用的基于TCP/IP套接字的协议来提供连接性。在这种情况下，客户端往往利用互联网服务供应商来建立与服务器的连接性。可以把一个或多个客户端118和内容服务器120经由网络116连接至代理服务器100。每一客户端装置118和内容服务器120可以包括类似于上文就代理服务器100所述的那些组件的组件。

作为计算机程序产品在存储器104中示出的是用于执行代理操作的代理应用122。代理应用122包括依照本发明实施例的接合系统124，其用于把代理的网络请求与调回相接合。接合系统124包括接合调用系统126，其用于调用TCP接合：splice(ioCompletionPort，size，timeout，s0，s1，ioCompletionKey)；并且还包括完成事件系统128，其用于生成完成事件，所述完成事件经由GetQueuedCompletionStatus系统调用来检测。代理应用122还包括用于执行上文就本发明描述的其它各种处理的系统(未示出)。

应该理解的是，本发明的教义是作为基于预订或者付费的商业方法而提供的。例如，代理服务器100可以由服务供应商来创建、维护、支持和/或采用，所述服务供应商为顾客提供此处所述的功能。也就是说，服务供应商可用于提供如上所述的传输控制协议(TCP)接合。

还应该理解的是，本发明可以依照硬件、软件、传播信号或者是它们的任意组合来实现。任何类型的计算机/服务器系统——或者适合于执行此处所述的方法的其它设备——都是适合的。硬件和软件的典型组合可以是具有计算机程序的通用计算机系统，当载入并且执行所述计算机程序时，计算机系统可执行此处所述的各种方法。作为选择，还可以利用包含用于执行本发明的一个或多个功能任务的专用硬件的专用计算机。本发明还可以被嵌入计算机程序产品或者传播信号中，其包括能够实现此处所述的方法的所有相应特征，并且当将其载入计算机系统时，能够执行这些方法。在当前上下文中的计算机程序、传播信号、软件程序、程序或者软件是指任何以下述一组指令的任何语言、代码或符号形式的表示，所述指令用于使具有信息处理能力的系统直接或者在进行如下步骤之一或者全部后执行特定的功能，所述步骤包括：(a)转换为另一种语言、代码或符号；和/或(b)依照不同材料形式再现。

为了举例说明和描述的目的已经给出了对本发明优选实施例的上述描述。它并不意味着是穷举的或者把本发明限制为所公开的具体形式，并且显然，许多修改和变化都是可能的。意图将对于所属技术领域的专业人员来说显而易见的这种修改和变化包括在本发明的范围内，本发明的范围由所附权利要求书来限定。

Claims

1.一种用于传输控制协议TCP接合的方法，包括：

由代理启动在第一和第二套接字连接之间的TCP接合以便服务于一请求；并且

响应于与所述TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制，其中所述完成事件包含接合状态。

2.如权利要求1所述的方法，还包括：

在TCP接合期间，响应于在第一和第二套接字连接之间传送规定量的数据而生成完成事件。

3.如权利要求1所述的方法，还包括：

在TCP接合期间，响应于超时值期满而生成完成事件。

4.如权利要求1所述的方法，还包括：

在TCP接合期间，响应于异常的出现而生成完成事件。

5.如权利要求1所述的方法，其中在重新获得控制之后，所述代理可以在第一和第二套接字连接中的至少一个上服务于后续请求。

6.如权利要求1所述的方法，还包括：

把完成端口与由代理启动的TCP接合相关联。

7.如权利要求6所述的方法，还包括：

监控所述完成端口以便确定与所述TCP接合相关联的完成事件是否已经生成。

8.如权利要求6所述的方法，其中把同一完成端口与所述代理启动的所有TCP接合相关联。

9.如权利要求1所述的方法，还包括：

把唯一的完成密钥与由代理启动的每一TCP接合相关联。

10.如权利要求9所述的方法，还包括：

把所述TCP接合与代理启动的所有其它未决TCP接合一起置于接合队列中。

11.如权利要求10所述的方法，还包括：

当完成接合队列中的任何TCP接合时，生成完成事件；并且

使用其相关联的完成密钥来识别已完成的TCP接合。

12.一种采用用于传输控制协议TCP接合的方法，包括：

提供计算机基础设施，所述计算机基础设施可操作用于执行如权利要求1所述的方法。

13.一种用于传输控制协议TCP接合的方法，包括：

启动TCP接合以便服务于一请求；并且

基于将要通过所述TCP接合传送的数据量来设置TCP接合的使用期限；并且

当TCP接合的使用期限期满时，向启动所述TCP接合的代理返回对与所述TCP接合相关联的套接字连接的控制。

14.如权利要求13所述的方法，还包括：

基于超时值来设置TCP接合的使用期限。

15.如权利要求13所述的方法，还包括：

由所述代理在至少一个套接字连接上服务于后续请求。

16.一种用于传输控制协议TCP接合的系统，包括：

用于由代理启动在第一和第二套接字连接之间的TCP接合以便服务于一请求的系统；以及

用于响应于与TCP接合相关联的完成事件来向代理返回对第一和第二套接字连接的控制的系统，其中所述完成事件包含接合状态。

17.如权利要求16所述的系统，还包括：

用于在TCP接合期间、响应于在第一和第二套接字连接之间传送规定量的数据而生成完成事件的系统。

18.如权利要求16所述的系统，还包括：

用于在TCP接合期间、响应于超时值的期满而生成完成事件的系统。

19.如权利要求16所述的系统，还包括：

用于在TCP接合期间、响应于异常的出现而生成完成事件的系统。

20.如权利要求16所述的系统，其中在重新获得控制之后，所述代理可以在第一和第二套接字连接中的至少一个上服务于后续请求。

21.如权利要求16所述的系统，还包括：

用于把完成端口与由代理启动的TCP接合相关联的系统。

22.如权利要求21所述的系统，还包括：

用于监控所述完成端口以便确定与所述TCP接合相关联的完成事件是否已经生成的系统。

23.如权利要求21所述的系统，其中，同一完成端口与所述代理启动的所有TCP接合相关联。

24.如权利要求16所述的系统，还包括：

用于把唯一的完成密钥与由代理启动的每一TCP接合相关联的系统。

25.如权利要求24所述的系统，还包括：

26.如权利要求25所述的系统，还包括：

用于当完成接合队列中的任何TCP接合时、生成完成事件的系统；以及

用于使用其相关联的完成密钥来识别已完成的TCP接合的系统。