CN1523845A - 自动服务路由系统和方法 - Google Patents

Abstract

本发明是一个服务请求路由系统和方法。该系统可以包括一个被配置为存储资源模型的模型表。一个监视器可以耦合到该模型表，并被编程为模型化服务提供基础结构中的资源消耗，还在模型表中存储模型化的资源消耗。一个路由器也可以耦合到模型表。具体来说，路由器可以被编程为向具有服务提供基础结构的关联的服务主机中的对应的服务实例路由每一个服务请求。在本发明的一个优选方面，关联的服务主机可以包括网格计算系统中的一个网格主机。

Description

自动服务路由系统和方法

技术领域

本发明涉及分布式计算领域，包括Web服务和网格服务，具体来说，涉及将服务请求路由到服务提供基础结构内的服务实例。

背景技术

Web服务代表了分布式计算的前沿技术，被视为开发用于支持在万维网上快速开发基于组件的应用程序的真正的通用模型的基础。在当前技术中，已知Web服务包括大量新兴的标准，这些标准描述了面向服务的，基于组件的应用程序体系结构。具体来说，Web服务是松散地耦合的，可重用的软件组件，这些组件从语义上封装了离散的功能，并通过标准Internet协议分布和可以编程方式进行访问。

在概念上，Web服务代表了一种模型，在该模型中，进程内的离散的任务广泛地在一个值网中分布。值得注意的是，许多业界专家将面向服务的Web服务倡议视为因特网的下一个发展阶段。通常，Web服务可以由诸如Web服务定义语言(WSDL)之类的接口定义，并可以根据该接口来实现，尽管详细的实现方式无关紧要，只要该实现方式符合Web服务接口即可。一旦根据对应的接口实现了一种Web服务，该实现方式可以向诸如通用描述、发现和集成(UDDI)之类的Web服务注册表注册，这在当前技术中是已知的。在注册时，该Web服务可以被服务请求者通过使用任何支持消息协议(包括简单对象访问协议(SOAP))来进行访问。

在支持Web服务的面向服务的应用程序环境中，实时动态地定位可靠的服务并集成这些可靠的服务以实现应用程序的目标是有问题的。尽管注册表、目录和发现协议为实现服务检测和服务到服务的互连逻辑提供了基本结构，但是，光凭注册表、目录和发现协议还不适合于分布式互操作性。相反，需要一种更结构化的，形式化的机制来帮助在统一的应用程序的形成中分布Web服务。

值得注意的是，通过“开放式网格服务体系结构(OGSA)”的网格机制的生理机能可以以这样的方式跨分布式系统地在Web服务(以下简称为“网格服务”)的发现和绑定中提供协议，若没有这样的方式，就不可能通过排他使用注册表、目录和发现协议来实现。如Ian Foster、Carl Kesselman和Steven Tuecke所著的《TheAnatomy of the Grid》(发表于Intl J.SupercomputerApplications，2001)，以及Ian Foster、Carl Kesselman、JeffreyM.Nick和Steven Tuecke所著的《The Physiology of the GridGlobus.org》(2002年6月22日)中所描述的，网格机制可以提供分布式计算基础结构，通过该基础结构，可以由发出请求的客户端创建、命名和发现。

网格服务通过提供增强的资源共享和调度支持只对Web服务进行扩展，对于通常复杂的分布式应用程序所需要的长寿的状态提供支持，以及对于企业之间的协作提供支持。此外，尽管Web服务只解决了永久的服务的发现和调用，但是网格服务却支持临时服务实例，这些临时服务实例可以动态地创建和销毁。使用网格服务的显著的优点可以包括，由于更有效利用计算资源，信息技术的拥有成本降低，集成各种计算组件更加容易。如此，网格机制，具体来说，符合OGSA的网格机制，可以实现面向服务的体系结构，通过该体系结构，可以为分布式系统集成(甚至可以跨组织域)提供基础。

在计算网格内，服务提供基础结构可以为托管诸如网格服务之类的分布式服务的执行提供处理资源。服务提供基础结构可以包括资源集，其中包括服务器计算设备、存储系统，包括直接附加存储、网络附加存储和存储区域网络、处理和通信带宽等等。服务提供基础结构内的单个事务可以使用这些资源的不同组合。

已知，在网格服务上下文中，根据特定的服务实例的队列长度，将请求路由到指定的服务提供基础结构内托管的特定的服务实例。基于队列长度的特定的服务实例的逻辑选择代表了通过在尽可能最短的队列中发出服务处理的请求来最大限度地降低响应时间的尝试。同样，托管服务提供基础结构的处理功能进一步可以在选择特定的服务实例时加以考虑。

具体来说，能够以其他服务实例的两倍速率处理请求的特定的服务实例，可以在特定的服务实例具有其他服务实例的队列两倍长的队列的情况下，具有与其他服务实例相同的处理吞吐量。此外，队列长度选择策略可以过度地粗略化，并不将请求的服务的资源要求与服务提供基础结构的可用资源匹配。具体来说，在常规情况下，仅仅一个标量基准即可与整个服务提供基础结构关联。从而，决不考虑服务提供基础结构的细微的组件。

发明内容

本发明是一个服务请求路由系统和方法。根据本发明，单个服务请求可以被路由到具有与服务请求的资源要求和消费模式最兼容的资源组件的所选择的服务主机内的服务实例。如此，与常规情况(在常规情况下，仅仅一个标量基准即可与整个服务提供基础结构关联)不同，在将服务请求路由到服务实例时，可以考虑网格主机的服务提供基础结构的细微组件。

服务请求路由系统可以包括一个被配置为存储资源模型的模型表。一个监视器可以耦合到该模型表，并被编程为模型化服务提供基础结构中的资源消耗，还在模型表中存储模型化的资源消耗。一个路由器也可以耦合到模型表。具体来说，路由器可以被编程为向具有服务提供基础结构的关联的服务中的对应的服务实例路由每一个服务请求。在本发明的一个优选方面，关联的服务主机可以包括网格计算系统中的一个网格主机。

重要的是，路由可以基于服务提供基础结构的资源组件与服务请求的资源模型的匹配来进行。此外，在该优选的方面，模型表中的每一个资源模型都可以是一个时间序列模型。最后，资源组件可以构成一个对应于服务提供基础结构的资源向量。在这方面，资源向量中的每一个资源组件都可以包括从由服务器类型、带宽和存储系统类型构成的组中选择的资源。其他资源可以包括更细微的计算资源，例如，缓存大小或CPU速度。此外，还可以包括一个比较器，该比较器可以被编程为比较每一个资源向量的标量开销，以确定单个的资源向量之间的相对开销。

用于将服务请求路由到服务提供基础结构中的服务实例的方法可以包括接收服务请求并至少为两个服务主机计算资源向量。每一个服务主机都可以具有一个对应的服务提供基础结构。可以为该服务请求检索资源模型。相应地，可以将检索到的资源模型与每一个资源向量进行匹配，以识别最适合的资源向量。最后，该服务请求可以被路由到与识别的最适合的资源向量关联的所选的服务主机。

在本发明的一个优选方面，对于每一个资源向量，至少可以计算两个标量资源组件。在这方面，标量组件可以包括服务器类型、服务器性能、服务器容量、处理带宽、通信带宽、存储类型、存储容量和存储性能。此外，还可以为每一个资源向量计算标量开销。如此，可以比较标量开销，以确定比较经济合算的资源向量。

为产生资源模型，可以监视接收到的服务请求的处理，并可以识别服务主机中的在处理期间使用的单个的资源组件。从而，可以基于服务主机中的识别的单个资源组件，为服务请求产生资源模型。值得注意的是，产生步骤可以包括基于识别的单个资源组件为每一个服务请求计算时间序列模型的步骤。

附图说明

在附图中显示了目前优选的实施例，然而，应该理解，本发明不仅限于显示的准确的布局和方法，其中：

图1是根据本发明的被配置为将服务请求路由到具有最匹配请求的服务的资源要求的资源的服务提供基础结构内的服务主机的服务网格的方框图；以及

图2是说明在图1的网格中，用于将服务请求路由到具有最匹配请求的服务的资源要求的资源的服务提供基础结构内的服务主机的过程的流程图。

具体实施方式

本发明是用于将服务请求路由到所选服务提供基础结构中的服务实例的方法和系统。具体来说，可以将服务的细微的资源要求与托管了请求的服务的实例的服务提供基础结构所关联的资源集内的细微资源进行匹配。基于请求的服务的资源要求与主机服务提供基础结构的资源可用性的最佳匹配，对服务处理的请求可以分配给所匹配的服务提供基础结构内托管的服务实例。如此，可以避免只将服务请求的路由基于对服务提供基础结构的粗略的、标量评估的情况。

图1是根据本发明的被配置为将服务请求路由到具有最匹配请求的服务的资源要求的资源的服务提供基础结构内的服务实例的服务网格的方框图。那些精通相关技术的人员将知道，服务网格可以是一个Web服务网格，其中配置了一个或多个网格主机120，这些网格主机跨计算机通信网络110(例如，因特网)以网格的方式彼此链接在一起进行通信。单个的发出请求的客户端190可以从一个或多个网格主机120请求访问Web服务。具体来说，在当前技术中已知，SOAP编码的消息可以在发出请求的客户端190和网格主机120之间进行交换。消息可以包括要求发现特定Web服务的位置的请求以及在其中说明了被请求的Web服务的网络位置的对请求的响应。

网格主机120可以以一种集中的方式位于服务器计算设备内，也可以以一个分布式方式跨多个服务器计算设备地分布。不论是哪一种情况，都可以提供一台Web服务器140，该服务器可以被配置为响应对诸如标记文档之类的内容的网络请求。那些精通本技术的普通人员将认识到，Web服务器140可以被配置为处理超文本传输协议(HTTP)消息，并分发诸如超文本标记语言(HTML)格式的文档、可扩展标记语言(XML)格式的文档等等之类的标记。

Web服务器140可以在网格主机120中链接到应用程序服务器150，并与其进行通信。应用程序服务器在当前技术中是已知的，通常被配置为处理机器代码，无论是以解释的方式，还是以原始格式。常规的应用程序服务器处理服务器端的诸如脚本和servlet之类的逻辑。无论如何，应用程序服务器150都可以链接到Web服务引擎160，该服务引擎被配置为实例化网格主机120中的一个或多个Web服务容器中的单个的Web服务。Web服务实例又可以访问网格主机120的资源130。精通相关技术的人员认识到，资源集合130可以被视为服务提供基础结构的基础。为此，资源130可以包括服务器计算设备和进程、存储系统、通信和计算带宽。

重要的是，网格服务机制170可以位于每一个网格主机120中。网格服务机制170可以实现诸如OGSA所定义的和根据Globus Project，Globus Toolkit Futures：An Open Grid ServicesArchitecture，Globus Tutorial，Argonne National Laboratory(January 29，2002)所说明的接口之类的网格服务接口。在当前技术中已知，符合OGSA的网格服务接口可以包括下列接口和行为：

1.Web服务创建(工厂)

2.全局命名(网格服务句柄)和引用(网格服务引用)

3.寿命管理

4.注册和发现

5.授权

6.通知

7.并发

8.可管理性

关于这一点，网格服务机制170可以包括能够使用“工厂创建服务”将所选的Web服务的实例克隆到新的或现有的应用程序容器中的工厂接口。

具体来说，网格服务机制170可以跨一个或多个远程网格主机120实例化请求的Web服务的克隆实例。具体来说，与网格体系结构(单个远程网格主机120遇到的处理负载超过可以接受的或预先指定的容量)的意图一致，可以选择其它的单个远程网格主机120来托管所选Web服务的新实例。无论如何，响应接收在指定的Web服务中进行处理的服务请求，不管指定的Web服务的任何特定实例，路由进程200B可以选择网格主机120内的特定服务实例来处理服务请求。

具体来说，在选择特定服务实例时，可以考虑与特定服务实例的网格主机120的服务提供基础结构关联的资源130。具体来说，网格主机120的资源可用性可以与服务请求的资源要求匹配。为进行资源匹配，对于网格主机120中处理的每一个事务，监视进程200A可以监视网格主机120中的资源利用130，以便为事务确立资源要求和消费模型。为每一个事务确立的模型可以存储在模型表200C中。

随后，路由器可以在路由过程中确立考虑中的每一个网格主机120的资源向量。资源向量可以包括构成了网格主机120的服务提供基础结构的基础的单个资源130的标量值。可以包括处理带宽、可用的通信带宽、存储类型、容量和响应性、服务器类型等等。为网格主机的服务提供基础结构确立的每一个资源向量都可以存储在向量表200D中。此外，可以为向量计算开销元素，以便可以以一种标量的方式将向量表200D中的单个向量彼此进行比较。

当在路由过程200B中接收到服务请求时，路由过程200B可以识别与服务请求关联的事务类型。基于事务类型，可以从模型表200C中检索事务类型的模型，并与向量表200D中的资源向量(它们与具有能够处理接收到的服务请求的可用服务实例或者具有能够处理接收到的服务请求的实例化服务实例的能力的网格主机120关联)匹配。在这方面，可以应用最适合的算法来选择相应的网格主机120来处理请求。

图2是说明在图1的网格中用于将服务请求路由到具有最匹配请求的服务的资源要求的资源的服务提供基础结构内的服务主机的过程的流程图。从方框210开始，可以接收网格服务请求。在方框220中，可以识别服务类型。在方框230中，可以查询被配置为托管请求的服务类型的服务实例的可用的网格主机的资源，以确立相应的资源向量。此外，在判断方框230中，可以判断是否为服务类型计算了模型。

如果在判断方框240中不能为识别的服务类型定位模型，则在方框280中，可以选择被配置为托管(在队列长度或标量性能方面显示了最高的可用性)的请求的服务类型的服务实例的网格主机。否则，在方框250中，可以检索服务类型的资源模型，在方框260中，可以对能够托管请求的服务类型的服务实例的网格主机集的模型和资源向量应用最适合的分析。基于方框260的最适合的分析，在方框270中，服务请求可以被路由到指定的网格主机内的服务实例。

本发明可以以硬件、软件或硬件和软件的组合实现。本发明的方法和系统可以使用一个计算机系统以集中方式，或者以不同的元素跨多个互连的计算机系统的分布式方式来实现。适于执行这里描述的方法的任何类型的计算机系统或其他设备都适于执行这里描述的功能。典型的硬件和软件的组合可以是具有这样的计算机程序的通用计算机系统，当加载并执行该计算机程序时，控制计算机系统以便它执行这里描述的方法。本发明还可以嵌入在包括实现这里描述的方法的所有特点的计算机程序产品中，这种计算机程序产品在加载到计算机系统中时，能够执行这些方法。

本上下文中的计算机程序或者应用程序是指以任何语言、代码或注释表达的一组指令的任何表达式，用于导致具有信息处理能力的系统直接或者在下列操作中的任何一种或两种操作都执行之后执行特定的功能：a)转换到另一种语言、代码或注释；b)以不同的材料形式再现。具体来说，在不偏离本发明的精神或必需的属性的情况下，本发明可以以其他特定的形式来实现，相应地，在表示本发明的范围时，应该参考下面的权利要求，而不是参考上述说明。

Claims (16)

1.一种服务请求路由系统，包括：

被配置为存储资源模型的模型表；

监视器，该监视器耦合到所述模型表，并被编程为模型化服务提供基础结构中的资源消耗，还在所述模型表中存储所述模型化的资源消耗；以及，

路由器，该路由器耦合到所述模型表，并被编程为基于所述服务提供基础结构的资源组件与所述服务请求的资源模型的匹配，向在具有服务提供基础结构的关联的服务主机中布置的对应的服务实例路由每一个服务请求。

2.根据权利要求1所述的服务请求路由系统，其特征在于，所述关联的服务主机包括网格计算系统中的网格主机。

3.根据权利要求1所述的服务请求路由系统，其特征在于，所述模型表中的每一个资源模型都是时间序列模型。

4.根据权利要求1所述的服务请求路由系统，其特征在于，所述资源组件构成了对应于所述服务提供基础结构的资源向量。

5.根据权利要求4所述的服务请求路由系统，其特征在于，所述资源向量中的每一个资源组件都包括从由服务器类型、带宽和存储系统类型构成的组中选择的资源。

6.根据权利要求4所述的服务请求路由系统，进一步包括一个比较器，该比较器被编程为比较每一个资源向量的标量开销，以确定单个的资源向量之间的相对开销。

7.一种用于将服务请求路由到服务提供基础结构中的服务实例的方法，该方法包括下列步骤：

接收服务请求；

为至少两个服务主机计算资源向量，所述至少两个服务主机中的每一个都具有一个对应的服务提供基础结构；

检索所述服务请求的资源模型；

将所述检索到的资源模型与每一个所述资源向量进行匹配，以识别最适合的资源向量；以及，

将所述服务请求路由到与所述识别的最适合的资源向量关联的所选的服务主机。

8.根据权利要求7所述的方法，其特征在于，所述计算步骤包括下列步骤，对于每一个所述资源向量，计算从由服务器类型、服务器性能、服务器容量、处理带宽、通信带宽、存储类型、存储容量和存储性能构成的组中选择的至少两个标量资源组件。

9.根据权利要求7所述的方法，其特征在于，所述计算步骤进一步包括为每一个所述资源向量计算标量开销的步骤。

10.根据权利要求7所述的方法，进一步包括下列步骤：

监视接收到的服务请求的处理；

识别所述服务主机中的在所述处理期间被消耗的单个资源组件；以及，

基于所述服务主机中的所述识别的单个资源组件为所述服务请求产生资源模型。

11.根据权利要求10所述的方法，其特征在于，所述产生步骤包括，基于所述识别的单个资源组件，为每一个所述服务请求计算时间序列模型的步骤。

12.在其上存储了用于将服务请求路由到服务提供基础结构中的服务实例的计算机程序的机器可读的存储器，该计算机程序包括用于使机器执行如下步骤的例程指令集：

接收服务请求；

为至少两个服务主机计算资源向量，所述至少两个服务主机中的每一个都具有一个对应的服务提供基础结构；

检索所述服务请求的资源模型；

将所述检索到的资源模型与每一个所述资源向量进行匹配，以识别最适合的资源向量；以及，

将所述服务请求路由到与所述识别的最适合的资源向量关联的所选的服务主机。

13.根据权利要求12所述的机器可读的存储器，其特征在于，所述计算步骤包括下列步骤，对于每一个所述资源向量，计算从由服务器类型、服务器性能、服务器容量、处理带宽、通信带宽、存储类型、存储容量和存储性能构成的组中选择的至少两个标量资源组件。

14.根据权利要求12所述的机器可读的存储器，其特征在于，所述计算步骤进一步包括，为每一个所述资源向量计算标量开销的步骤。

15.根据权利要求12所述的机器可读的存储器，进一步包括下列步骤：

监视接收到的服务请求的处理；

识别所述服务主机中的在所述处理期间被消耗的单个资源组件；以及，

基于所述服务主机中的所述识别的单个资源组件，为所述服务请求产生资源模型。

16.根据权利要求15所述的机器可读的存储器，其特征在于，所述产生步骤包括，基于所述识别的单个资源组件，为每一个所述服务请求计算时间序列模型的步骤。

Images