CN101741624B - 互联网组合服务性能容错系统 - Google Patents

Abstract

一种互联网技术领域的互联网组合服务性能容错系统，包括：组合服务性能容错运行系统和与之相连的面向服务架构应用系统，其中：组合服务性能容错运行系统与互联网的服务注册中心相连接。本发明动态监控组合服务的性能，并且在发现错误的基础上，产生服务替换的解决方案。该方法将有助于提高组合服务以及基于服务计算的应用系统的质量，对基于服务组合技术而开发的应用系统具有良好的推广和应用价值。

Description

互联网组合服务性能容错系统

技术领域

本发明涉及的是一种互联网技术领域的系统，具体是一种互联网组合服务性能容错系统。

背景技术

当今，服务计算已经成为分布式计算与信息系统领域内迅速发展的方向，随着Web服务(Web Service)的发展与成熟，服务计算以面向服务架构(Service-oriented Architecture，SOA)的形式得到了广泛的推广和应用。

在服务计算和面向服务架构中，服务组合是人们在进行系统设计与实现时所采用的一种重要的技术。服务组合就是通过将多个细粒度的服务组合在一起，形成粒度更粗的组合服务，从而实现对服务的复用，促进快速应用开发，提高系统的可维护性。从服务使用者的角度看，组合服务与原子服务并没有两样，并不需要区分二者。但是从组合服务提供者的角度看，就必须要将其与原子服务区分了。因为组合服务的所有质量属性，无论是静态的还是动态的，都是由构成其的所有子服务决定的。对于诸如价格之类的静态属性，可以在设计时根据各个子服务的属性值确定组合服务的属性值，但是对于诸如性能、可靠性、安全性等动态属性，就必须对各个原子服务的相关属性进行实时监控，这样才能动态地发现组合服务在这些质量属性方面出现的错误，并由此产生相应的错误修复方案。

对于组合服务的容错，服务消费者最关心的是性能，而性能也是最容易进行客观度量的动态服务质量属性。因此，将聚焦在性能上，研究组合服务在性能方面的错误发现和错误替换问题，实现在性能上容错的目的。

经过对现有技术的检索发现，中国专利文献号CN101325601，记载了一种“服务组合环境下基于质量依赖关系的服务选取方法”，该技术针对用户提出的质量依赖关系来选取合适的服务。这是一种设计时的方法，它能够有效地根据服务质量依赖关系来组合服务，但是它并不提供运行时的支持。中国专利文献号CN101488843，记载了一种“基于冗余机制的高可用服务组合实现方法”，该技术通过冗余机制选择网络中存在的相同功能的服务，并将它们组织起来。它需要预先查找到同功能的备选服务，然后在设计时根据服务质量进行服务组合，同时在运行时，可以在检测到服务失效的情况下，利用预先查找到的备选服务进行服务替换。然而，对于预先查找到同功能的备选服务，它们的动态服务质量都会不断地发生变化，因此在进行服务替换时，备选服务自身未必就未失效。该方法在进行服务替换时，考虑的是对失效服务进行替换，而实际上，大部分情况下组合服务的服务质量不满足要求是由于多个子服务的质量下降引起的，因此只要不替换所有质量下降的子服务，以最小的代价替换尽可能少的子服务，使组合服务满足质量需求即能够解决上述技术问题。

发明内容

本发明针对现有技术存在的上述不足，提供一种互联网组合服务性能容错系统，动态监控组合服务的性能，并且在发现错误的基础上，产生服务替换的解决方案。本发明将有助于提高组合服务以及基于服务计算的应用系统的质量，对基于服务组合技术而开发的应用系统具有良好的推广和应用价值。

本发明是通过以下技术方案实现的，本发明包括：组合服务性能容错运行系统和与之相连的面向服务架构应用系统，其中：组合服务性能容错运行系统与互联网的服务注册中心相连接，

该组合服务性能容错运行系统包括：服务性能监控器、服务性能计算器、服务替换方案生成器和服务替换管理器，其中：服务性能监控器分别与面向服务架构应用系统和服务注册中心相连接以输出原子服务的性能信息以及服务查找请求，服务注册中心将备选服务输出至服务性能监控器，服务替换方案生成器与服务性能监控器相连接以传输服务性能的实时状态和服务查找请求，服务替换方案生成器分别与服务性能计算器和服务替换方案管理器连接以传输服务替换方案，服务替换方案管理器与面向服务架构应用系统相连接以实现对组合服务的动态替换。

所述的原子服务是指部署在互联网上的最小单位网络服务。

所述的组合服务是指多个原子服务的逻辑组合构成的网络服务。

所述的备选服务是指在功能上与所监控的原子服务相同的所有原子服务。

所述的服务性能监控器是采用拦截模式实现的监控器，该监控器拦截面向服务架构应用系统中所产生的服务调用请求和服务调用响应结果，从而监控所使用的所有原子服务的和组合服务的性能信息：对于监控到的原子服务的性能信息则输出至服务注册中心，对于监控到的组合服务的性能信息则将其与服务消费者对组合服务性能的需求进行对比和分析，发现组合服务性能错误并输出至服务替换方案生成器。

所述的服务替换方案生成器根据服务性能监控器输出的服务性能的实时状态和服务查找请求解析获得性能错误的组合服务的组合逻辑，并生成所述组合服务的组合逻辑的服务替换方案输出至服务性能计算器。

所述的服务性能计算器根据服务替换方案中的组合服务的组合逻辑，计算每个替换方案中组合服务的性能信息并与服务消费者对组合服务性能的需求进行比对，确定其是否能够满足需求。

所述的服务替换管理器根据服务替换方案，将面向服务架构应用系统中对应的描述文件修改更新并输出至面向服务架构应用系统进行动态服务替换。

本发明所述系统通过以下步骤进行工作：

第一步、将所有的原子服务和组合服务按照M/M/s/K队列模型对其性能建模，通过服务性能监控器拦截对原子服务和组合服务的服务调用请求和服务调用响应，获得服务性能数据，根据服务消费者指定数量的性能数据确定上述模型的具体参数，初始化性能错误计数值C并将其清零；

第二步、服务性能监控器按照频率f周期性地对组合服务性能数据进行检测，以发现组合服务性能错误；

第三步、服务替换方案生成器对性能出错的组合服务进行分析，将构成组合服务的所有原子服务按照性能影响因子进行排序。

第四步、服务替换方案生成器根据性能影响因子排序，在服务注册中心中查找可替换的备选服务，然后按照备选服务生成服务替换方案服务替换方案生成器，将所生成的服务替换方案传递给服务性能计算器计算每个服务替换方案的性能，获得替换后组合服务的性能提高程度。最后，选择替换后可以修正性能错误的最佳方案传递给服务替换管理器进行服务动态替换；

第五步、服务替换方案管理器找到面向服务架构应用系统中对应的描述文件，对其进行修改，并通知面向服务架构应用系统所在的服务器软件，进行动态服务替换。

本发明将有助于提高组合服务以及基于服务计算的应用系统的质量，对基于服务组合技术而开发的应用系统具有良好的推广和应用价值。

附图说明

图1本发明的结构示意图。

图2周期性性能检测流程图。

图3服务替换方案生成流程图。

具体实施方式

下面对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

如图1所示，本实施例包括：互联网服务注册中心、组合服务性能容错运行系统和与之相连的面向服务架构应用系统，其中：组合服务性能容错运行系统与互联网的服务注册中心相连接，

该组合服务性能容错运行系统包括：服务性能监控器、服务性能计算器、服务替换方案生成器和服务替换管理器，其中：服务性能监控器分别与面向服务架构应用系统和服务注册中心相连接以输出原子服务的性能信息以及服务查找请求，服务注册中心将备选服务输出至服务性能监控器，服务替换方案生成器与服务性能监控器相连接以传输服务性能的实时状态和服务查找请求，服务替换方案生成器分别与服务性能计算器和服务替换方案管理器连接以传输服务替换方案，服务替换方案管理器与面向服务架构应用系统相连接以实现对组合服务的动态替换。

所述的原子服务是指部署在互联网上的最小单位网络服务。

所述的组合服务是指多个原子服务的逻辑组合构成的网络服务。

所述的备选服务是指在功能上与所监控的原子服务相同的所有原子服务。

所述的服务性能监控器是采用拦截模式实现的监控器，该监控器拦截面向服务架构应用系统中所产生的服务调用请求和服务调用响应结果，从而监控所使用的所有原子服务的和组合服务的性能信息：对于监控到的原子服务的性能信息则输出至服务注册中心，对于监控到的组合服务的性能信息则将其与服务消费者对组合服务性能的需求进行对比和分析，发现组合服务性能错误并输出至服务替换方案生成器。

所述的服务替换方案生成器根据服务性能监控器输出的服务性能的实时状态和服务查找请求解析获得性能错误的组合服务的组合逻辑，并生成所述组合服务的组合逻辑的服务替换方案输出至服务性能计算器。

所述的服务性能计算器根据服务替换方案中的组合服务的组合逻辑，计算每个替换方案中组合服务的性能信息并与服务消费者对组合服务性能的需求进行比对，确定其是否能够满足需求。

所述的服务替换管理器根据服务替换方案，将面向服务架构应用系统中对应的描述文件修改更新并输出至面向服务架构应用系统进行动态服务替换。

本实施例所述系统通过以下步骤进行工作：

第一步、将所有的原子服务和组合服务按照M/M/s/K队列模型对其性能建模，通过服务性能监控器拦截对原子服务和组合服务的服务调用请求和服务调用响应，获得服务性能数据，根据服务消费者指定数量的性能数据确定上述模型的具体参数。初始化性能错误计数值C，将其清零。

所述的M/M/s/K队列模型是指模型为服务调用请求到达间隔时间和服务调用时间均服从负指数分布、服务具有s个实例、系统容量为k(有限个)的队列。

所述的服务调用请求到达间隔时间是指两个服务调用请求达到服务所在位置进行处理的间隔时间。

所述的服务调用时间是指从服务调用请求到达服务到服务发送服务调用响应之间的时间。

所述的系统容量是指服务能够缓存的服务调用请求的个数。

所述的性能错误计数值C用来对检测到的组合服务性能错误的次数进行计数。

第二步、服务性能监控器按照频率f周期性地对组合服务性能数据进行检测，以发现组合服务性能错误，具体步骤如下：

2.1)计算组合服务的实时平均响应时间W，与服务消费者在服务性能需求中给出的平均响应时间的临界值-W′进行比较，判断其差值是否超过服务性能需求中给出的阀值e，比较方式如公式1。e和W′是服务消费者通过配置文件设定的，可以根据需要进行修改。

W-W′≤e    公式1

如果代入公式1的W使得公式1成立，则跳转2.3；否则跳转2.2.

2.2)调整性能检测的频率f，调整后的频率f与原有频率f的关系如公式2所示：

$f^{\′}=f\frac{e}{\stackrel{\‾}{W}-{\stackrel{\‾}{W}}^{\′}}$ 公式2

然后跳转2.4

2.3)对性能错误计数值C按照公式3进行处理，其中C表示处理之后的计数值：

$C^{\′}=C-\frac{e}{\stackrel{\‾}{W}-{\stackrel{\‾}{W}}^{\′}}$ 公式3

如果C的值在按照公式3处理之后小于等于0，则将检测频率恢复到原有频率，表示组合服务性能没有发生错误；否则不改变检测频率。本次检测结束。

2.4)对性能错误计数值C做加1操作，同时检测C是否超过了用户预先设定的最大允许失败数N。如果C超过或者达到了N，就表示检测到组合服务的性能发生了错误，同时通知服务替换方案生成器；否则不做任何其他操作。本次检测结束。

这里对计数值C做增操作时加1，而做减操作时减去的值是一个小于1的值(因为W-W′＞e)，是因为这样可以防止引起性能超出临界值的情况频繁震荡出现而导致无法探测的问题出现。

所述的阀值是指：服务消费者所能接受的组合服务的实时平均响应时间W与在服务性能需求中给出的平均响应时间的临界值-W′之间的最大差值。

所述的最大允许失败数是指：服务消费者能够接受的检测到的组合服务性能错误的最大次数。

第三步、服务替换方案生成器对性能出错的组合服务进行分析，将构成组合服务的所有原子服务按照性能影响因子进行排序。

所述的原子服务的性能影响因子包含两个的因素，一个是原子服务构成组合服务的结构，另一个就是原子服务的性能的实时状态。对于第一个因素，用Structure(S)来表示原子服务S在组合服务的结构中所处位置对性能的影响因子；而对于第二个因素，用Significance(S)来表示原子服务S的实时状态对性能的影响因子。

所述的原子服务在组合服务的结结中所处位置是指原子服务与其他原子服务之间的顺序、分支、循环和并发等结构关系。

所述的Structure(S)可以遵循下面的方法进行计算：

整个组合服务的Structure(S)取值为1

计算构成组合服务S的子服务集Children(S)中的各个服务Si的Structure(S_i)，Structure(S_i)与Structure(S)的关系满足下面的条件：

如果Children(S)中的子服务是顺序结构，则

$\mathrm{Structure}\left(S\right)=\underset{S_i\∈\mathrm{Children}\left(S\right)}{\mathrm{\Σ}}\mathrm{Structure}\left(S_i\right)$ 公式4

如果Children(S)中的子服务是分支结构，则

$\mathrm{Structure}\left(S\right)=\underset{S_i\∈\mathrm{Children}\left(S\right)}{\mathrm{\Σ}}\mathrm{Structure}\left(S_i\right)\×\mathrm{Branchprobability}\left(S_i\right)$ 公式5

其中Branchprobability(S_i)表示每个分支服务被调用的概率

如果Children(S)中的子服务是循环结构，则

$\mathrm{Structure}\left(S\right)=\mathrm{AverageLoopCount}\left(\mathrm{Children}\left(S\right)\right)\×\underset{S_i\∈\mathrm{Children}\left(S\right)}{\mathrm{\Σ}}\mathrm{Structure}\left(S_i\right)$

公式6

其中AverageLoopCount(Children(S))表示子服务平均循环次数

如果Children(S)中的子服务是并发结构，则

$\mathrm{Structure}\left(S\right)=\underset{S_i\∈\mathrm{Children}\left(S\right)}{\mathrm{Max}}\left(\mathrm{Structure}\left(S_i\right)\right)$ 公式7

即子服务中Structure(S_i)中某一个的取值为Structure(S)，其它为小于Structure(S)的某个值，这个值可以通过实际度量得到

针对每个子服务Si继续进行分解，按照步骤2中的方法计算更细粒度的子服务的Structure(S)，直至计算出每个原子服务的Structure(S)为止。

所述的Significance(S)可以通过公式8来计算：

$\mathrm{Significance}\left(S\right)=\frac{\stackrel{\‾}{x}-\mathrm{\μ}}{\frac{V}{\sqrt{n}}}$ 公式8

在公式8中，μ为服务S对应的性能队列的平均等待时间的数学期望，x表示最近一次检测时统计的服务S的实际平均等待时间的算术平均值，V表示最近一次检测时统计的服务S的平均等待时间的样本方差，n表示最近一次检测时统计的服务S的平均等待时间的样本数。显然，x与μ的差异越大，说明该服务对组合服务的整体性能影响也就越大。

所述的原子服务的性能影响因子Effect(S_i)可以按照公式9计算：

Effect(S_i)＝Structure(S_i)×Significance(S_i)公式9

第四步、服务替换方案生成器根据性能影响因子排序，在服务注册中心中查找可替换的备选服务，然后按照备选服务生成服务替换方案服务替换方案生成器，将所生成的服务替换方案传递给服务性能计算器计算每个服务替换方案的性能，获得替换后组合服务的性能提高程度。最后，选择替换后可以修正性能错误的最佳方案传递给服务替换管理器进行服务动态替换。具体处理步骤如下：

4.1)服务替换方案生成器对所有原子服务按照性能影响因子Effect(S_i)进行排序，得到有序集合T(S_i)，并设置一个备选替换服务映射表Z(S_i)，并将其初始化为空映射；

4.2)选择T(S_i)中Effect(S_i)最大的服务Si，在服务注册中心中查找Si的可替换服务Si’如果无法找到Si’，或者找到了可替换的Si’，但是Si’的性能不比Si高，则转步骤4.4；如果找到的可替换服务Si’的性能比Si高，则表示找到一种服务替换方案，将其传递给服务性能计算器，并转步骤4.3；

4.3)服务性能计算器将从服务注册中心得到的Si’的性能指标代入组合服务性能队列中计算用Si’替换Si之后的组合服务性能。假设组合服务原来的性能为P(S)，进行替换之后的性能为P’(S)，那么通过公式10来计算Si’替换Si所带来的性能提高程度I(Si’)：

$I\left(S_i^{\′}\right)=\frac{P\left(S\right)-P^{\′}\left(S\right)}{P\left(S\right)}$ 公式10

将<S_i，I(S′_i)>二元组放入Z(S_i)；

4.4)服务替换方案生成器将Si从T(S_i)集合中移除，并检查T(S_i)是否为空，如果为空，则转步骤4.5；否则跳到步骤4.2；

4.5)服务替换方案生成器选择Z(S_i)中I(S′_i)最大的元素<S_i，I(S′_i)>，将其从Z(S_i)中移除，并将<S_i，I(S′_i)>放入替换服务映射表R(S_i)中；

4.6)遍历R(S_i)中的元素，将所有元素的I(S′_i)累加，计算其是否可以满足用户对组合服务的性能约束。如果满足，则R(S_i)中的所有元素的Si就表示要替换的服务集，服务替换方案生成以成功结束；如果不满足，判断Z(S_i)是否为空，如果为空，则表示无法产生有效的服务替换方案，服务替换方案生成以失败结束；否则转步骤4.5。

所述的服务替换方案的性能是指服务性能计算器根据服务替换方案中的原子服务的实时性能计算得到的组合服务的性能指标，包括服务调用请求的平均等待时间和平均处理时间。

第五步、服务替换方案管理器找到面向服务架构应用系统中对应的描述文件，对其进行修改，并通知面向服务架构应用系统所在的服务器软件，进行动态服务替换。

本实施例动态监控组合服务的性能，并且在发现错误的基础上，产生服务替换的解决方案。基于排队理论，对原子服务和组合服务进行性能建模，然后通过周期性地检测来判断组合服务的性能是否仍然满足客户的性能需求。随后一旦发现当前发生了组合服务性能错误，启用相应的容错机制来给出可行的服务替换方案。对于基于服务计算的应用系统具有重要的应用价值，这些应用系统可以通过本实施例中的方法实时地探测到组合服务性能方面的错误，并给出可行的服务替换方案，从而提高系统的性能和可靠性，并以此推动服务计算技术的发展和推广。

Claims (5)

1.一种互联网组合服务性能容错系统，其特征在于：包括：组合服务性能容错运行系统和与之相连的面向服务架构应用系统，其中：组合服务性能容错运行系统与互联网的服务注册中心相连接；

所述组合服务性能容错运行系统包括：服务性能监控器、服务性能计算器、服务替换方案生成器和服务替换管理器，其中：服务性能监控器分别与面向服务架构应用系统和服务注册中心相连接以输出原子服务的性能信息以及服务查找请求，服务注册中心将备选服务输出至服务性能监控器，服务替换方案生成器与服务性能监控器相连接以传输服务性能的实时状态和服务查找请求，服务替换方案生成器分别与服务性能计算器和服务替换管理器连接以传输服务替换方案，服务替换管理器与面向服务架构应用系统相连接以实现对组合服务的动态替换；

所述服务替换方案生成器对性能出错的组合服务进行分析，将构成组合服务的所有原子服务按照性能影响因子进行排序；

所述性能影响因子，包含两个因素，一个是原子服务构成组合服务的结构，另一个就是原子服务的性能的实时状态，对于第一个因素，用Structure(S)来表示原子服务S在组合服务的结构中所处位置对性能的影响因子；而对于第二个因素用Significance(S)来表示原子服务S的实时状态对性能的影响因子；

所述的原子服务在组合服务的结构中所处位置是指原子服务与其他原子服务之间的顺序、分支、循环和并发结构关系；

所述的服务替换方案生成器，其根据性能影响因子排序，在服务注册中心中查找可替换的备选服务，然后按照备选服务生成服务替换方案，将所生成的服务替换方案传递给服务性能计算器计算每个服务替换方案的性能，获得替换后组合服务的性能提高程度；最后，选择替换后能够修正性能错误的最佳方案传递给服务替换管理器进行服务动态替换。

2.根据权利要求1所述的互联网组合服务性能容错系统，其特征是，所述的服务性能监控器是采用拦截模式实现的监控器，该监控器拦截面向服务架构应用系统中所产生的服务调用请求和服务调用响应结果，从而监控所使用的所有原子服务的和组合服务的性能信息：对于监控到的原子服务的性能信息则输出至服务注册中心，对于监控到的组合服务的性能信息则将其与服务消费者对组合服务性能的需求进行对比和分析，发现组合服务性能错误并输出至服务替换方案生成器。

3.根据权利要求1所述的互联网组合服务性能容错系统，其特征是，所述的服务替换方案生成器根据服务性能监控器输出的服务性能的实时状态和服务查找请求解析获得性能错误的组合服务的组合逻辑，并生成所述组合服务的组合逻辑的服务替换方案输出至服务性能计算器。

4.根据权利要求1所述的互联网组合服务性能容错系统，其特征是，所述的服务性能计算器根据服务替换方案中的组合服务的组合逻辑，计算每个替换方案中组合服务的性能信息并与服务消费者对组合服务性能的需求进行比对，确定其是否能够满足需求。

5.根据权利要求1所述的互联网组合服务性能容错系统，其特征是，所述的服务替换管理器根据服务替换方案，将面向服务架构应用系统中对应的描述文件修改更新并输出至面向服务架构应用系统进行动态服务替换。

Images