CN102055771B - 面向云服务的多并发业务流控制装置及控制方法 - Google Patents

Abstract

本发明涉及一种多并发业务流环境下的基于HTTP的业务流管理及其维护机制的面向云服务的多并发业务流控制装置及控制方法，包括与TCP双向连接的服务侧、接收服务侧HTTP请求进行缓存并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护的客户侧，服务侧包括接收TCP连接请求进行缓存并确立TCP会话号和HTTP解析部件及HTTP封装部件，客户侧包括会话管理部件，HTTP解析部件、封装部件与会话管理部件相连，会话管理部件与请求对象搜索部件、远端数据中心、本地磁盘阵列相连接，不仅能够及时更新本地磁盘阵列中的数据，还能避免数据对象由远端数据中心重复提供，进而加快响应HTTP请求和节省有限的带宽资源。

Description

面向云服务的多并发业务流控制装置及控制方法

技术领域

本发明属于一种Web服务技术领域，涉及Web服务器中面向云服务的多并发业务流管理问题，具体为一种在多并发业务流环境下的基于HTTP的面向云服务的多并发业务流控制装置及控制方法，应用于处理高通量HTTP请求的Web服务器。

背景技术

近年来，云计算已经成为国内IT领域最热门的概念之一，云计算也指那些经过扩展后可通过因特网进行访问的应用程序。这些云应用程序使用大型数据中心和强劲的服务器来托管 Web 应用程序和 Web 服务。任何人只要具有合适的因特网连接和标准浏览器，就可以访问云应用程序。网格、云、SaaS、SOA、Web X.0等兴起的根本动力是互联网计算，互联网(Internet)即广域网、局域网及单机按照一定的通讯协议组成的逻辑一体的计算机网络。连接在互联网上的计算设备、存储设备能力有了大幅提升，数据资源呈指数级增长，互联网上的各种服务资源日益丰富，互联网的经典使用环境万维网（Web）已不再是单纯的内容平台，而是朝着提供更强大、丰富的用户交互和体验能力方向发展。互联网（包括正在兴起的移动互联网）和Web已成为构造、使用各类分布式应用系统不可或缺的基础环境，并正演义为迄今人类最大的计算平台，通常情况下，基础架构云可称为基础架构即服务(IaaS)。使用IaaS，各类企业可通过Web将更多的基础架构容量作为服务提供。通过Web分配更多的存储或处理容量当然要比供应商在基础环境中引入和安装新硬件要快得多。基础架构云是IT运营的域，在大多数企业中，用户甚至不了解其IT部门是否使用云服务。

基于云服务的计算体系架构以其体系结构的多变性（可重构、可重组、可重建）来适应云服务的多样性；以多种高效能的处理部件（云计算部件）来代替通用的处理器，从而提高云服务的处理效率。在实际的面向云服务的网络体系结构中，往往采用一个数据中心节点，多个接入点，将请求分散到各个数据请求接入点，采用nginx、squid或Web服务器等组合方式，通过HTTP协议进行通信。由nginx对大量的TCP连接进行管理，nginx和squid之间采用HTTP协议进行通信，这样做的缺陷是不仅增加了数据中心节点的压力，还增加了系统的通信负担，不利于云服务的高效率提供，Web服务就是一个在网络上通常是在因特网上运行的应用。典型的说法是，一个Web服务就是一个能够通过因特网访问的API，比如浏览器。用户所请求的服务运行在远端系统上，用户不需要管理或控制的底层云计算基础设施、网络、服务器、操作系统、存储，甚至单个应用程序的功能，而后者充当服务的宿主。这种类型的Web API 使得用户能够利用因特网上共享的功能, 而不是提供自己完整的应用程序。这种做法的最终结果是一个定制的、基于Web的应用程序，能够减轻传统应用程序在开发和带宽方面的需求。

作为一种资源的组织和表达机制，Web已成为Internet最主要的信息传送媒介。因此Web的性能已经成为判断一个网站成功与否的一个重要评估标准。而Web服务器则是决定Web性能的重要环节。暂不考虑Web服务器的硬件实现，从提供云服务的整体出发，本发明给出云里面基于HTTP的Web服务的一个关键部分的解决方案，主要是前端和后端，以及前端之间的协调策略。从本质上而言，就是一个内容分发网络，能够将内容从源服务请求侧分布到各接入点，各节点之间协调合作，完成多服务器数据共享，假定前端掌握了已知对象的分布信息，前端知道从何处取数据。前端查找对象位置信息，然后通过HTTP协议从目的机器（包括前端和后端）取，这样做不仅能降低中心服务器的压力，还能够大大的降低数据在服务器和数据请求节点之间的传输，减少骨干网络的数据传输量，有效降低整个系统的能耗和对其它资源的消耗。

发明内容

本发明的目的在于克服现有技术中存在的不足而提供的一种既是服务提供侧又是客户请求侧，并完成双重功能的面向云服务的多并发业务流控制装置及控制方法，作为服务侧完成与TCP的会话以及解析和封装HTTP，作为客户侧将HTTP请求数据、URL（Uniform Resource Locator）与本地数据管理部件进行会话以确定HTTP请求数据的具体位置是在本地的磁盘阵列还是在远端数据中心，并将所查询到的请求数据对象发给服务侧，将HTTP先进行解析，从中提取出所请求的数据对象和该对象的URL，再进一步确定所请求数据对象是在本地磁盘阵列还是在远端数据中心，不仅能够及时更新本地磁盘阵列中的数据，而且还能避免数据对象由远端数据中心重复提供，进而可以加快响应HTTP请求和节省有限的带宽资源。

本发明的目的是这样实现的：

一种面向云服务的多并发业务流控制装置，包括与外来TCP进行双向连接的服务侧、接收服务侧发送的HTTP请求对其进行缓存并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护的客户侧，其特征在于：

服务侧包括接收外来的TCP连接请求对其进行缓存并确立TCP会话号和对连接请求进行HTTP解析的HTTP解析部件和接收生成的TCP会话号的HTTP封装部件,服务侧完成与TCP的会话以及HTTP解析和HTTP封装；

客户侧包括会话管理部件，服务侧的HTTP解析部件和HTTP封装部件与客户侧的会话管理部件相连接，会话管理部件接收服务侧发送的HTTP请求,并将请求数据对象返回给HTTP封装部件，会话管理部件与请求对象搜索部件相连接，实现会话管理部件将请求发给请求对象搜索部件，会话管理部件与远端数据中心相连接，实现远端数据中心数据发给客户侧会话管理部件，会话管理部件与本地磁盘阵列相连接，实现本地磁盘阵列数据发给客户侧会话管理部件。

在服务侧中，TCP会话输入端通过输入缓存部件与HTTP解析部件相连接，HTTP解析部件又与请求缓存部件相连接，请求缓存部件连接HTTP请求输出端，

TCP会话输入发给到输入缓存部件，输入缓存部件再发给HTTP解析部件，HTTP解析部件发给请求缓存部件并输出HTTP请求；HTTP解析部件与中间部件双向连接，HTTP封装部件又与中间部件双向连接；HTTP请求响应输入端通过响应缓存部件与HTTP封装部件相连接，HTTP封装部件又与输出缓存部件相连接，输出缓存部件连接TCP会话输出端，HTTP请求响应输入到响应缓存部件，响应缓存部件将响应缓存发给HTTP封装部件，HTTP封装部件将HTTP封装发给输出缓存部件，由输出缓存部件输出TCP会话。

所述的连接在HTTP解析部件与HTTP封装部件之间的中间部件包括会话号部件、域名部件、URL部件和请求内容、类型及数量部件。

在客户侧中，会话管理部件包括与HTTP请求输出端相连接的封装HTTP请求部件、与封装HTTP请求部件相连接的请求输出缓存部件、与远端数据中心相连接的HTTP解析缓存部件、与HTTP解析缓存部件相连接的输出缓存部件、与封装HTTP请求部件双向连接的中间部件、与中间部件相连接的缓存与解压缩部件；请求输出缓存部件还与外部的请求对象搜索部件相连接，缓存与解压缩部件还与本地磁盘阵列相连接，输出缓存部件还与HTTP请求响应输入端相连接，HTTP解析缓存部件也与中间部件相连接，缓存与解压缩部件还与输出缓存部件相连接，HTTP解析缓存发给输出缓存部件，HTTP封装请求发给请求输出缓存部件，缓存与解压缩发给URL维护与内容类型部件，缓存与解压缩发给输出缓存，本地磁盘阵列发给缓存解压缩，HTTP解析还发给URL维护与内容类型部件，

URL维护与内容类型部件分为为目的主机部件、URL与域名部件、请求内容、类型及数量部件和负载均衡部件四个中间部件，封装HTTP请求部件分别与上述的四个中间部件双向连接，缓存与解压缩部件也分别与上述的四个中间部件双向连接。

缓存与解压缩部件包括与本地磁盘阵列相连接的本地响应分类器、与本地响应分类器相连接的硬件解压缩阵列、与硬件解压缩阵列相连接的硬件分析URL、响应内容部件、与硬件分析URL、响应内容部件相连接的URL维护与内容类型部件、与硬件分析URL、响应内容部件相连接的输出缓存，输出缓存与客户侧输出缓存相连接。

一种上述所述的面向云服务的多并发业务流控制装置的面向云服务的多并发业务流控制方法，其特征在于：其控制方法按如下步骤进行：

首先是多并发业务流控制装置的服务侧控制方法按如下步骤进行：

1）、服务侧接收TCP连接请求，并对连接请求进行缓存，由HTTP解析等部件确立TCP会话号和对连接请求进行HTTP的解析；

2）、建立TCP请求，生成相应的会话号发给HTTP封装部分，并由该部分将所建立的会话号发送给TCP请求方，表示成功建立一个TCP连接；

3）、将会话号、源主机地址、目的主机地址，解析出的URL和域名进行缓存维护，并以HTTP请求方式将所解析出的请求对象数据和目的主机地址发送给多并发业务流控制装置的客户侧；

4）、HTTP请求返回，响应缓存对请求的数据对象和其对应的域名等进行保存，此时由HTTP封装部分在维护缓存中查询该HTTP响应中数据对象所对应的URL和源主机地址等信息，若查询成功则将响应数据对象、源主机地址，目的主机地址等进行HTTP封装，加上该响应的会话号生成TCP响应，送给输出缓存并尽快输出，同时由HTTP封装部分将该成功HTTP请求对应的会话号、数据对象域名和URL等进行删除，空出缓存空间；

5）、对于失败的或者经过一定时间长度仍无HTTP请求数据对象响应的URL，需再次返回给HTTP解析部分，再次生成该HTTP请求，若最终失败则交给该部件下方的HTTP封装部分，以请求失败的数据方式进行TCP的会话输出。

其次是多并发业务流控制装置的客户侧控制方法按如下步骤进行：

1）、客户侧接收服务侧发送的HTTP请求并对其进行缓存，并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护；

2）、客户侧将来自服务侧的请求以客户侧为“源地址”配合原有的目的主机地址信息重新封装，生成新的HTTP请求传送给客户侧的请求输出缓存，交由资源搜索部件进行处理；

3）、客户侧接收来自远端数据中心的HTTP相应数据，先对该响应进行HTTP解析，抽取其中的请求数据对象和对应的URL、目的地址信息；

4）、将来自远端的响应数据对象和其URL等送给输出缓存并发给服务侧；

5）、将响应数据对象的URL和目的地址信息发送给该信息的缓存和维护装置，对相应的信息进行查询并删除；

6）、客户侧接收来自本地磁盘阵列的响应数据对象，对数据对象进行相应的数据解压缩和缓存操作，并将解压之后的数据对象和其相应的URL信息发给输出缓存，发给服务侧；

7）、客户侧将来自本地磁盘阵列的响应数据对象的URL和目的地址信息在该信息的缓存维护部件中进行查询，并将查询到的相同信息进行删除；

8）、客户侧的中间维护部件中的目的主机和URL维护缓存，对该维护缓存中一定长度时间后仍没得到响应的请求信息返回给HTTP封装部件进行重新封装，生成新的HTTP请求再输出，再次交给资源搜索部件处理。

将HTTP先进行解析，提出所请求的数据对象和该对象的URL，再进一步确定所请求数据对象是在本地磁盘阵列还是在远端数据中心，不仅能够及时更新本地磁盘阵列中的数据，而且还能避免数据对象重复由远端数据中心提供，进而可以加快响应HTTP请求和节省有限的带宽资源。

本发明具有如下积极效果:

HOE作为服务提供侧，一方面完成与TCP的会话，输入TCP负载和建立的TCP会话号，对基于HTTP的数据进行解析，从中提取出所请求传输对象的域名和统一资源地址符URL并进行输出；另一方面，服务侧接收会话管理部分所查询到的请求对象数据和该数据对应的URL，并对它们进行HTTP的数据封装，生成对应的HTTP回应，完成此TCP的会话并释放该TCP连接。

HOE作为客户请求侧，一方面将服务侧解析出的URL和目的主机地址等生成HTTP报文，将请求的数据对象发给请求数据对象搜索部件，再由搜索部件查询该数据对象所在的目的主机；另一方面，接收目的主机发回的含有请求对象数据的HTTP报文，输出该报文中的数据对象并发给HOE服务侧，所接收目的主机的HTTP报文可能来自本地的磁盘阵列，也可能来自远端的数据中心。

1）HOE中服务侧：服务侧接收外来的TCP连接请求，并对TCP连接请求进行缓存，由HTTP解析等部件确立TCP会话号和对连接请求进行HTTP的解析，此时，一方面建立与输入端的TCP请求，生成相应的会话号发给HTTP封装部分，并由该部分将所建立的会话号发送给TCP请求方，表示成功建立一个TCP连接，另一方面将会话号、源主机地址、目的主机地址，解析出的URL和域名进行缓存维护，并以HTTP请求方式将所解析出的请求对象数据和目的主机地址发送给HOE的客户侧。

当有HTTP请求返回来时，响应缓存对某一请求的数据对象和其对应的域名信息等进行保存，此时由HTTP封装部分在会话号等维护缓存中查询该HTTP响应中数据对象所对应的URL和源主机地址等信息，若查询成功则将响应数据对象、源主机地址，目的主机地址等进行HTTP封装，加上该响应的会话号生成TCP响应，送给输出缓存并尽快输出，同时由HTTP封装部分将该成功HTTP请求对应的会话号、数据对象域名和URL等进行删除，空出缓存空间。

整个过程中，输入缓存和输出缓存不仅仅用来存储大量高速的请求和响应数据，而且这两个缓存还有助于成功建立TCP连接。会话号等维护部件，不仅将成功建立连接的TCP会话号、解析出的域名和URL等进行缓存，而且还对其进行维护，即一方面对成功的请求响应进行核实，并删除对应的URL等信息节省缓存资源，另一方面，对于失败的或者经过一定时间长度后仍无HTTP请求数据对象响应的URL等，再次返回给HTTP解析部件，再次生成该HTTP请求，此处可依据一定的调度策略对失败的请求进行调度，若最终失败则交给该部件下方的HTTP封装部分，以请求失败的数据方式进行TCP的会话输出。

HTTP解析部件不仅对TCP进行域名、URL等解析，还对TCP请求的内容类型进行分类和统计，可将相同或相似的请求进行集中的发送给客户侧。当HTTP解析部件的负载压力一般时，可依据请求内容类型和数量等信息对维护部件中的功能模块进行可重构，对请求缓存大小进行可配置等灵活操作；HTTP解析部件的负载压力较大或HTTP请求数量突增时，可迅速对请求缓存进行配置来扩充容量，同时也再硬件配置一个HTTP解析部件，和原有部件以并行方式进行解析，一定程度上减轻了服务侧和客户侧的维护的连接数量压力，起到了对高通量请求负载压力的均衡作用。

    2）HOE中客户侧：客户侧接收服务侧发送的HTTP请求并对其进行缓存，一方面将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护，另一方面将来自服务侧的请求以客户端为“源地址”配合原有的目的主机地址信息等重新封装，生成新的HTTP请求传送给请求输出缓存，由资源搜索部件进行处理。

当客户侧接收来自远端数据中心的HTTP相应数据时，先对该响应进行HTTP解析，抽取其中的请求数据对象和对应的URL、目的地址信息等，一方面将该响应数据对象和其URL等送给输出缓存并发给服务侧，一方面将URL和目的地址信息等发送给该信息的缓存和维护装置，并对相应的信息进行查询并删除，以节省有限的缓存资源。

当客户侧接收来自本地磁盘阵列的响应数据对象时，由于该数据对象在本地磁盘阵列中的存储形式多样，如为节省存储空间进行数据压缩，此时就需要对这样的数据对象进行相应的数据解压缩和缓存操作，并将解压之后的数据对象和其相应的URL等信息一方面发给输出缓存并发给服务侧，另一方面将URL和目的地址信息在该信息的缓存维护中进行查询，并将查询到的同样信息进行删除以节省有限的缓存资源。

HOE客户侧的中间部件存放目的主机和URL信息，其不仅是对这些信息进行相应的保存和删除，而且同时还对该维护缓存中一定长度时间后仍没有得到响应的信息返回给HTTP封装部件进行重新封装，生成新的HTTP请求再输出，再次交给资源搜索部件处理。这样，不仅能提高整体响应的成功率，而且还能及时处理一些过时的信息也可节省缓存空间。

HTTP封装部件不仅重新封装来自服务侧的请求，同时还依据客户侧的URL维护部件内统计和维护的请求内容类型、大小、是否热点请求和响应数据来源等信息，决定将重新封装的请求发送给本地资源搜索部件时由本地搜索部件交给远端的数据中心处理还是直接在本地进行资源搜索，一定程度上不仅减轻本地搜索部件压力，同时还增加了请求成功得到响应的概率。此时，HTTP封装部件和URL维护部件的协调工作在一定程度上起到对高通量请求负载压力的均衡作用，提升了整个客户侧的处理能力。

面向云服务的多并发业务流环境下基于HTTP的业务流控制装置,简称为HOE（HTTP Offload Engine）。

附图说明

图1为本发明的面向云服务的多并发业务流控制装置（HOE）的结构示意图。  

图2为本发明的面向云服务的多并发业务流控制装置（HOE）的服务侧内部的结构示意图。

图3为本发明的面向云服务的多并发业务流控制装置（HOE）的服务侧URL维护部件内部的结构示意图。

图4为本发明的面向云服务的多并发业务流控制装置（HOE）的客户侧内部的结构示意图。

图5为本发明的面向云服务的多并发业务流控制装置（HOE）的客户侧URL/内容类型部件内部的结构示意图。

图6为本发明的面向云服务的多并发业务流控制装置（HOE）的客户侧缓存/解压缩部件内部的结构示意图。

具体实施方式

如图1所示，一种面向云服务的多并发业务流控制装置，包括与外来TCP进行双向连接的服务侧、接收服务侧发送的HTTP请求对其进行缓存并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护的客户侧；

服务侧包括接收外来的TCP连接请求对其进行缓存并确立TCP会话号和对连接请求进行HTTP解析的HTTP解析部件和接收生成的TCP会话号的HTTP封装部件,服务侧完成与TCP的会话以及HTTP解析和HTTP封装；

客户侧包括会话管理部件，服务侧的HTTP解析部件和HTTP封装部件与客户侧的会话管理部件相连接，会话管理部件接收服务侧发送的HTTP请求,并将请求数据对象返回给HTTP封装部件，会话管理部件与请求对象搜索部件相连接，实现会话管理部件将请求发给请求对象搜索部件，会话管理部件与远端数据中心相连接，实现远端数据中心数据发给客户侧会话管理部件，会话管理部件与本地磁盘阵列相连接，实现本地磁盘阵列数据发给客户侧会话管理部件。

如图2所示，在服务侧中，TCP会话输入端通过输入缓存部件与HTTP解析部件相连接，HTTP解析部件又与请求缓存部件相连接，请求缓存部件连接HTTP请求输出端，TCP会话输入发给到输入缓存部件，输入缓存部件再发给HTTP解析部件，HTTP解析部件发给请求缓存部件并输出HTTP请求；HTTP解析部件与中间部件双向连接，HTTP封装部件又与中间部件双向连接；HTTP请求响应输入端通过响应缓存部件与HTTP封装部件相连接，HTTP封装部件又与输出缓存部件相连接，输出缓存部件连接TCP会话输出端，HTTP请求响应输入到响应缓存部件，响应缓存部件将响应缓存发给HTTP封装部件，HTTP封装部件将HTTP封装发给输出缓存部件，由输出缓存部件输出TCP会话。

如图3所示，所述的连接在HTTP解析部件与HTTP封装部件之间的中间部件包括会话号部件、域名部件、URL部件和请求内容、类型及数量部件。

如图4、5所示，在客户侧中，会话管理部件包括与HTTP请求输出端相连接的封装HTTP请求部件、与封装HTTP请求部件相连接的请求输出缓存部件、与远端数据中心相连接的HTTP解析缓存部件、与HTTP解析缓存部件相连接的输出缓存部件、与封装HTTP请求部件双向连接的中间部件、与中间部件相连接的缓存与解压缩部件；请求输出缓存部件还与外部的请求对象搜索部件相连接，缓存与解压缩部件还与本地磁盘阵列相连接，输出缓存部件还与HTTP请求响应输入端相连接，HTTP解析缓存部件也与中间部件相连接，缓存与解压缩部件还与输出缓存部件相连接，HTTP解析缓存发给输出缓存部件，HTTP封装请求发给请求输出缓存部件，缓存与解压缩发给URL维护与内容类型部件，缓存与解压缩部件发给输出缓存，本地磁盘阵列发给缓存解压缩，HTTP解析还发给URL维护与内容类型部件，URL维护与内容类型部件分为为目的主机部件、URL与域名部件、请求内容、类型及数量部件和负载均衡部件四个中间部件，封装HTTP请求部件分别与上述的四个中间部件双向连接，缓存与解压缩部件也分别与上述的四个中间部件双向连接。

如图6所示，缓存与解压缩部件包括与本地磁盘阵列相连接的本地响应分类器、与本地响应分类器相连接的硬件解压缩阵列、与硬件解压缩阵列相连接的硬件分析URL、响应内容部件、与硬件分析URL、响应内容部件相连接的URL维护与内容类型部件、与硬件分析URL、响应内容部件相连接的输出缓存，输出缓存与客户侧输出缓存相连接。

如图1、2、3、4、5、6所示，一种如上述所述的面向云服务的多并发业务流控制装置的面向云服务的多并发业务流控制方法，其特征在于：其控制方法按如下步骤进行：

首先是多并发业务流控制装置的服务侧控制方法按如下步骤进行：

1）、服务侧接收TCP连接请求，并对连接请求进行缓存，由HTTP解析等部件确立TCP会话号和对连接请求进行HTTP的解析；

2）、建立TCP请求，生成相应的会话号发给HTTP封装部分，并由该部分将所建立的会话号发送给TCP请求方，表示成功建立一个TCP连接；

3）、将会话号、源主机地址、目的主机地址，解析出的URL和域名进行缓存维护，并以HTTP请求方式将所解析出的请求对象数据和目的主机地址发送给多并发业务流控制装置的客户侧；

4）、HTTP请求返回来，响应缓存对请求的数据对象和其对应的域名等进行保存，此时由HTTP封装部分在维护缓存中查询该HTTP响应中数据对象所对应的URL和源主机地址等信息，若查询成功则将响应数据对象、源主机地址，目的主机地址等进行HTTP封装，加上该响应的会话号生成TCP响应，送给输出缓存并尽快输出，同时由HTTP封装部分将该成功HTTP请求对应的会话号、数据对象域名和URL等进行删除，空出缓存空间；

5）、对于失败的或者经过一定时间长度仍无HTTP请求数据对象响应的URL，需再次返回给HTTP解析部分，再次生成该HTTP请求，若最终失败则交给该部件下方的HTTP封装部分，以请求失败的数据方式进行TCP的会话输出。

其次是多并发业务流控制装置的客户侧控制方法按如下步骤进行：

1）、客户侧接收服务侧发送的HTTP请求并对其进行缓存，并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护；

2）、客户侧将来自服务侧的请求以客户侧为“源地址”配合原有的目的主机地址信息重新封装，生成新的HTTP请求传送给客户侧的请求输出缓存，交由资源搜索部件进行处理；

3）、客户侧接收来自远端数据中心的HTTP相应数据，先对该响应进行HTTP解析，抽取其中的请求数据对象和对应的URL、目的地址信息；

4）、将来自远端的响应数据对象和其URL等送给输出缓存并发给服务侧；

5）、将响应数据对象的URL和目的地址信息发送给该信息的缓存和维护装置，对相应的信息进行查询并删除；

6）、客户侧接收来自本地磁盘阵列的响应数据对象，对数据对象进行相应的数据解压缩和缓存操作，并将解压之后的数据对象和其相应的URL信息发给输出缓存，发给服务侧；

7）、客户侧将来自本地磁盘阵列的响应数据对象的URL和目的地址信息在该信息的缓存维护部件中进行查询，并将查询到的相同信息进行删除。

8）、客户侧的中间维护部件中的目的主机和URL维护缓存，对该维护缓存中一定长度时间后仍没得到响应的请求信息返回给HTTP封装部件进行重新封装，生成新的HTTP请求再输出，再次交给资源搜索部件处理。

Claims (6)

1.一种面向云服务的多并发业务流控制装置，包括与外来TCP进行双向连接的服务侧、接收服务侧发送的HTTP请求对其进行缓存并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护的客户侧，其特征在于：

服务侧包括接收外来的TCP连接请求对其进行缓存并确立TCP会话号和对连接请求进行HTTP解析的HTTP解析部件和接收生成TCP会话号的HTTP封装部件,服务侧完成与TCP的会话以及HTTP解析和HTTP封装；具体为在服务侧中，TCP会话输入端通过输入缓存部件与HTTP解析部件相连接，HTTP解析部件又与请求缓存部件相连接，请求缓存部件连接HTTP请求输出端，TCP会话输入发给到输入缓存部件，输入缓存部件再发给HTTP解析部件，HTTP解析部件发给请求缓存部件并输出HTTP请求；HTTP解析部件与中间部件双向连接，HTTP封装部件又与中间部件双向连接；HTTP请求响应输入端通过响应缓存部件与HTTP封装部件相连接，HTTP封装部件又与输出缓存部件相连接，输出缓存部件连接TCP会话输出端，HTTP请求响应输入到响应缓存部件，响应缓存部件将响应缓存发给HTTP封装部件，HTTP封装部件将HTTP封装发给输出缓存部件，由输出缓存部件输出TCP会话；

客户侧包括会话管理部件，服务侧的HTTP解析部件和HTTP封装部件与客户侧的会话管理部件相连接，会话管理部件接收服务侧发送的HTTP请求,并将请求数据对象返回给HTTP封装部件，会话管理部件与请求对象搜索部件相连接，实现会话管理部件将请求发给请求对象搜索部件，会话管理部件与远端数据中心相连接，实现远端数据中心数据发给客户侧会话管理部件，会话管理部件与本地磁盘阵列相连接，实现本地磁盘阵列数据发给客户侧会话管理部件。

2.根据权利要求1所述的面向云服务的多并发业务流控制装置，其特征在于：在服务侧中，TCP会话输入端通过输入缓存部件与HTTP解析部件相连接，HTTP解析部件又与请求缓存部件相连接，请求缓存部件连接HTTP请求输出端，

TCP会话输入发给到输入缓存部件，输入缓存部件再发给HTTP解析部件，HTTP解析部件发给请求缓存部件并输出HTTP请求；HTTP解析部件与中间部件双向连接，HTTP封装部件又与中间部件双向连接；HTTP请求响应输入端通过响应缓存部件与HTTP封装部件相连接，HTTP封装部件又与输出缓存部件相连接，输出缓存部件连接TCP会话输出端，HTTP请求响应输入到响应缓存部件，响应缓存部件将响应缓存发给HTTP封装部件，HTTP封装部件将HTTP封装发给输出缓存部件，由输出缓存部件输出TCP会话。

3.根据权利要求2所述的面向云服务的多并发业务流控制装置，其特征在于：所述的连接在HTTP解析部件与HTTP封装部件之间的中间部件包括会话号部件、域名部件、URL部件和请求内容、类型及数量部件。

4. 根据权利要求1所述的面向云服务的多并发业务流控制装置，其特征在于：在客户侧中，会话管理部件包括与HTTP请求输出端相连接的封装HTTP请求部件、与封装HTTP请求部件相连接的请求输出缓存部件、与远端数据中心相连接的HTTP解析缓存部件、与HTTP解析缓存部件相连接的输出缓存部件、与封装HTTP请求部件双向连接的中间部件、与中间部件相连接的缓存与解压缩部件；请求输出缓存部件还与外部的请求对象搜索部件相连接，缓存与解压缩部件还与本地磁盘阵列相连接，输出缓存部件还与HTTP请求响应输入端相连接，HTTP解析缓存部件也与中间部件相连接，缓存与解压缩部件还与输出缓存部件相连接，HTTP解析缓存发给输出缓存部件，HTTP封装请求发给请求输出缓存部件，缓存与解压缩发给URL维护与内容类型部件，缓存与解压缩发给输出缓存，本地磁盘阵列发给缓存解压缩，HTTP解析还发给URL维护与内容类型部件，

URL维护与内容类型部件分为为目的主机部件、URL与域名部件、请求内容、类型及数量部件和负载均衡部件四个中间部件，封装HTTP请求部件分别与上述的四个中间部件双向连接，缓存与解压缩部件也分别与上述的四个中间部件双向连接。

5.根据权利要求4所述的面向云服务的多并发业务流控制装置，其特征在于：缓存与解压缩部件包括与本地磁盘阵列相连接的本地响应分类器、与本地响应分类器相连接的硬件解压缩阵列、与硬件解压缩阵列相连接的硬件分析URL、响应内容部件、与硬件分析URL、响应内容部件相连接的URL维护与内容类型部件、与硬件分析URL、响应内容部件相连接的输出缓存，输出缓存与客户侧输出缓存相连接。

6.一种如上述权利要求所述的面向云服务的多并发业务流控制装置的面向云服务的多并发业务流控制方法，其特征在于：其控制方法按如下步骤进行：

首先是多并发业务流控制装置的服务侧控制方法按如下步骤进行：

1）、服务侧接收TCP连接请求，并对连接请求进行缓存，由HTTP解析部件确立TCP会话号和对连接请求进行HTTP的解析；

2）、建立TCP请求，生成相应的会话号发给HTTP封装部分，并由该部分将所建立的会话号发送给TCP请求方，表示成功建立一个TCP连接；

3）、将会话号、源主机地址、目的主机地址，解析出的URL和域名进行缓存维护，并以HTTP请求方式将所解析出的请求对象数据和目的主机地址发送给多并发业务流控制装置的客户侧；

4）、HTTP请求返回来，响应缓存对请求的数据对象和其对应的域名进行保存，此时由HTTP封装部分在维护缓存中查询该HTTP响应中数据对象所对应的URL和源主机地址信息，若查询成功则将响应数据对象、源主机地址，目的主机地址进行HTTP封装，加上该响应的会话号生成TCP响应，送给输出缓存并尽快输出，同时由HTTP封装部分将该成功HTTP请求对应的会话号、数据对象域名和URL进行删除，空出缓存空间；

5）、对于失败的或者经过一定时间长度仍无HTTP请求数据对象响应的URL，需再次返回给HTTP解析部件，再次生成该HTTP请求，若最终失败则交给HTTP解析部件下方的HTTP封装部分，以请求失败的数据方式进行TCP的会话输出；

其次是多并发业务流控制装置的客户侧控制方法按如下步骤进行：

1）、客户侧接收服务侧发送的HTTP请求并对其进行缓存，并将HTTP请求数据对象的域名、URL和目的主机信息进行缓存和维护；

2）、客户侧将来自服务侧的请求以客户侧为“源地址”配合原有的目的主机地址信息重新封装，生成新的HTTP请求传送给客户侧的请求输出缓存，交由资源搜索部件进行处理；

3）、客户侧接收来自远端数据中心的HTTP响应数据，先对该响应进行HTTP解析，抽取其中的请求数据对象和对应的URL、目的地址信息；

4）、将来自远端的响应数据对象和其URL送给输出缓存并发给服务侧；

5）、将响应数据对象的URL和目的地址信息发送给该信息的缓存和维护装置，对相应的信息进行查询并删除；

6）、客户侧接收来自本地磁盘阵列的响应数据对象，对数据对象进行相应的数据解压缩和缓存操作，并将解压之后的数据对象和其相应的URL信息发给输出缓存，发给服务侧；

7）、客户侧将来自本地磁盘阵列的响应数据对象的URL和目的地址信息在该信息的缓存维护部件中进行查询，并将查询到的相同信息进行删除；

8）、客户侧的中间维护部件中的目的主机和URL维护缓存，对该维护缓存中一定长度时间后仍没得到响应的请求信息返回给HTTP封装部件进行重新封装，生成新的HTTP请求再输出，再次交给资源搜索部件处理。 

Images