CN109117198A - 一种基于成本评估的超高速并行自调优的服务调用方法 - Google Patents

Abstract

本发明公开了一种基于成本评估的超高速并行自调优的服务调用方法。本方法为：1)将应用系统内的服务生成与硬编码等同效率的服务代理对象，并将其放入对应的服务管理容器；然后将该服务代理对象注册到服务管理器上；2)当该服务管理器收到调用该服务的请求时，查找该服务对应的服务代理对象，然后通过该服务代理对象触发执行该服务；服务执行引擎记录该服务的调用开始时间、调用结束时间和调用结果首次访问时间；3)根据步骤2)记录的信息，计算服务执行时间成本和首次获取结果间隔时间成本；4)当服务执行时间成本÷控制阈值≤首次获取结果间隔时间成本≤服务执行时间成本×控制阈值时，标记该服务可并行执行，否则标记为不可并行执行。

Description

一种基于成本评估的超高速并行自调优的服务调用方法

技术领域

本发明涉及一种服务调用方法，尤其涉及一种基于成本评估的超高速并行自调优的服务调用方法，属于网络技术领域。

技术背景

本发明是为解决大型应用系统中高并发请求，保证系统的高可用性，可扩展性，安全性而设计。

大型应用系统往往拥有庞大的用户量，当用户集中办理业务，这时系统并发很高，需要解决这种高并发的请求，保证系统的高可用性。高可用性应用系统需要高性能的服务来支撑。

大型应用系统往往包含多个业务系统，多个业务系统之间又存在复杂的业务交叉，这样就难免在业务系统之间存在相互调用的需求。为了减少系统耦合，提高代码的复用性，需要高效的服务供其它业务系统调用。

业务需求的变更，对业务系统提供的服务也是一个挑战，这就需要服务提供良好的扩展性。

目前，传统的SOA体系架构设计，将应用程序的服务通过在这些服务之间定义良好的接口和契约联系起来，为了适应异构系统之间的服务调用，传统的服务采用统一和通用的方式进行交互。但是传统SOA存在以下问题：

1.服务安全问题

在SOA环境中，由于一个应用软件的组件很容易与不同域的其他组件进行对话，所以确保相互连接的系统之间安全访问就变得很困难。

2.服务部署问题

在SOA环境中，服务参数的调整会导致与之依赖的其他相关服务都要调整，或者增加一个新的服务作为当前服务的扩展服务，这两种方式都会大大增加应用的运维工作量。

3.服务调用性能问题

在SOA环境中，服务的调用不能依据服务实际的调用情况来执行并行或者串行调用，在大型应用系统中严重影响系统的运行效率。

发明内容

为了解决现有的通用服务总线模块内部全服务调用存在的不足，本发明提供一种基于成本评估的超高速并行自调优服务调用的方法。

本发明解决其技术问题所采用的技术方案是：

1、内部服务管理

1)应用系统内服务声明信息包含服务名、是否允许自动化单元测试框架收集此服务的调用信息、描述、版本、是否已不再支持更新调整维护、自由路由共享、服务仅允许直接同步调用、用于定义服务的安全等级。其中是否允许自动化单元测试框架收集此服务的调用信息可在后续服务调用中分析服务调用情况及调用性能，方便分析服务调用效率；服务的安全等级可定义服务的安全级别，在后续服务调用安全检查时使用。

2)应用系统启动或系统内服务首次被调用时，使用字节码算法，在内存中直接生成与硬编码等同效率的服务代理对象，并将其放入对应的服务管理容器，以便重用(如图1)。将该服务的服务代理对象注册到服务管理器上。

服务代理对象生成算法如下：

a)根据服务定义服务代理类接口定义源文件

b)分析服务方法的类路径、方法名、参数信息和返回值信息；

c)创建服务代理类主体声明的字节码；

d)根据服务代理类接口定义，生成服务代理类的服务调用方法头声明的字节码；

e)根据配置文件中的配置参数中是否输出调试日志，如果服务调用发生时输出调试日志信息，则自动增加调试信息的字节码；

f)分析服务方法各参数类型，生成服务调用参数入栈操作的字节码；如果服务参数为基本类型时，算法将自动增加对象类型到基本类型的转换代码；Java语言的类型分为基本类型和对象类型，服务调用时统一对象类型，但服务方法定义的参数可能是基本类型，此时需要将对象类型转为对应的基本类型；

g)判断服务方法是否为静态方法，当服务方法为静态方法时，生成静态方法调用的字节码；当服务方法为非静态方法时，生成类方法调用的字节码；

h)分析服务返回值的类型，如果服务返回参数类型为基本类型时，生成基本类型转换为相应对象类型的字节码，否则直接生成返回对象类型的字节码；

i)生成服务代理类的服务调用方法结束的字节码；

j)生成服务代理类结束的字节码。

2、服务调用性能优化和执行调度优化

当该服务管理器收到调用服务A的请求时，查找该服务A对应的服务代理对象a，然后通过该服务代理对象a触发执行该服务A；服务执行引擎会自动择机跟踪服务的调用开始时间、调用结束时间和调用结果首次访问时间(即服务调用结束后产生的结果第一次被访问的时间)及记录服务间调用关系，并通过如下计算公式判断服务是满足合并行执行条件：

1)服务执行时间成本＝调用结束时间-调用开始时间。

2)首次获取结果间隔时间成本＝结果首次访问时间-调用结束时间。

3)控制阈值，默认值为16。

4)当“服务执行时间成本÷控制阈值”<＝“首次获取结果间隔时间成本”<＝“服务执行时间成本×控制阈值”时，标记服务A可并行执行，否则标记服务A为不可并行执行。

3、内部服务血缘分析

在服务调用过程中，分析服务调用之间的关系，根据服务间调用关系生成对应的服务血缘关系拓扑树，方便了解内部服务存在的关联关系。

服务血缘关系主要包含两方面内容：

1.服务调用关系：可用于分析服务变化影响范围，快速确定回归测试范围，也可用于分析服务调用路径是否最优，是否存在嵌套调用等用途。

2.服务调用耗时：主要用于分析服务性能分析，可为服务成本分析提供数据。

4、服务参数默认值

在服务使用过程中，服务参数需要调整增加或者减少，在不影响调用当前服务的基础上，通过服务参数的默认值，实现服务参数的调整，而不影响原有服务的调用。如服务A入参有3个，在服务上线使用一段时间后，该服务参数因为需求调整，要求增加新的参数。此时可在服务A的3个参数后增加第4个参数，并设置服务参数默认值。然后将服务重新上线。上线后的服务不仅不影响原有服务的调用，还可以支持新服务4个参数的调用。

5、热部署，当服务发生变化调整时，可通过配置热部署组件，实现服务的热部署，而不需要重启应用系统。

6、服务调用安全检查和审计

服务声明信息中可设置服务的安全级别，当服务被非对应安全级别的调用方调用时，会被拦截器拦截，无需担心该服务被非安全调用方调用。在调用服务完成时，记录服务调用相关信息，方便服务审计。

7、服务资源管理

在首次调用服务时，跟踪服务的调用开始到调用结束占用的资源情况，以及整个系统的资源使用情况。自动释放服务调用完成还未释放的资源，节省系统的成本消耗。

本发明的有益效果是为系统的服务触发执行提供高效的执行性能保障：

1、服务查找效率：服务管理器内部使用哈希表管理注册在其上的服务相关对象，并根据系统的服务注册情况，自动计算哈希表的大小，降低服务查找时因哈希Code冲突造成的对象比较的开销，提升Hash查找效率。

2、服务方法调用效率：服务方法调用有很多种实现方式，各有优劣，如表1：

表1为效率对比表

为了保证服务方法的调用效率，根据系统启动过程中收集的服务信息，在系统启动或服务首次调用时使用字节码算法在内存中直接生成与硬编码等同效率的服务代理对象，并将其放入对应的服务管理容器，以便重用。

附图说明

图1为本发明的方法整体技术结构图。

具体实施方式

下面对本发明的具体实施方式进行进一步详细描述。

1、配置工作

使用此方法，必须使用配置文件sword.xml,配置文件名称不可更改。配置文件格式如下

配置文件主要存储三类配置信息：基本信息设置、服务组件配置和平台事件配置。其中基本信息设置是指该系统的基本信息设置，设置包含服务器名称、服务节点名称、服务器描述以及服务器运行模式。

第二类配置信息主要是服务组件配置，主要包含控制服务代理类的生成时机以及服务类是否需要有参构造函数。服务代理类的生成时机分为两种，服务器启动时生成(startup)和首次调用时生成(running)。服务类创建方式分为两种，默认的创建新的服务类实例和使用IoC组件创建服务类，其中IoC容器支持Spring和Google Guice两种框架。

第三类配置信息是平台事件配置，主要是配置类扫描框架，在使用IoC时，需要在此处配置IoC扫描器，配置内容如下

2、服务声明

服务声明代码如下

服务容器类代码：

服务类代码：

服务默认参数类代码

服务声明示例代码如下

需要引用以下两个类

@ServiceContainer(必需)：类注解

@Service(必需)：方法注解，需要作为服务的方法。没指定serviceName参数时，默认以方法名作为服务名

@Parameter(非必需)：默认服务参数，在服务参数发生变更时使用，且必须放在服务参数的末尾。

服务类使用默认服务参数调用示例代码如下：

服务类生方式是否使用IoC，参考配置工作部分。

服务类使用IoC示例代码如下

示例：接口定义

public interface ICalculator{

publicintcalc(inta,intb)throws SwordBaseCheckedException；

}。

示例：接口实现

接口实现：加法

接口实现：减法

示例：注入类

服务：加法

服务：减法

示例：测试

3、服务调用

服务调用示例代码如下

Claims (10)

1.一种基于成本评估的超高速并行自调优的服务调用方法，其步骤为：

1)将应用系统内的服务生成与硬编码等同效率的服务代理对象，并将其放入该服务对应的服务管理容器；然后将该服务的服务代理对象注册到服务管理器上；

2)当该服务管理器收到调用该服务的请求时，查找该服务对应的服务代理对象，然后通过该服务代理对象触发执行该服务；服务执行引擎记录该服务的调用开始时间、调用结束时间和调用结果首次访问时间；

3)根据步骤2)记录的信息，计算服务执行时间成本和首次获取结果间隔时间成本；

4)当服务执行时间成本÷控制阈值≤首次获取结果间隔时间成本≤服务执行时间成本×控制阈值时，标记该服务可并行执行，否则标记该服务为不可并行执行。

2.如权利要求1所述的方法，其特征在于，所述步骤2)中，还记录服务被调用过程的服务间的调用关系；根据该调用关系生成该服务的服务血缘关系拓扑树。

3.如权利要求2所述的方法，其特征在于，根据该服务的服务血缘关系拓扑树确定该服务的对应的回归测试范围。

4.如权利要求2所述的方法，其特征在于，根据该服务的服务血缘关系拓扑树确定该服务的调用路径是否最优以及是否存在嵌套调用。

5.如权利要求2所述的方法，其特征在于，根据该服务的服务血缘关系拓扑树确定该服务对应的服务成本。

6.如权利要求1所述的方法，其特征在于，所述服务执行时间成本＝调用结束时间-调用开始时间；所述首次获取结果间隔时间成本＝结果首次访问时间-调用结束时间。

7.如权利要求1～6任一所述的方法，其特征在于，应用系统内每一服务设有一服务声明信息，包括服务名、是否允许收集此服务的调用信息和服务的安全等级。

8.如权利要求7所述的方法，其特征在于，当该服务被非对应安全级别的调用方调用时，拒绝该调用方调用该服务。

9.如权利要求1所述的方法，其特征在于，生成所述服务代理对象的方法为：

1)根据该服务定义服务代理类接口；根据该服务的类路径、方法名、参数信息和返回值信息，创建服务代理类主体声明的字节码；

2)根据服务代理类接口定义，生成服务代理类的服务调用方法头声明的字节码；

3)根据该服务配置文件中的配置参数中是否输出调试日志，如果有调试日志输出，则增加调试信息的字节码；根据该服务的参数信息的参数类型，生成服务调用参数入栈操作的字节码；如果参数类型为基本类型时，增加对象类型到基本类型的转换代码；

4)判断该服务的服务方法是否为静态方法，如果为静态方法，则生成静态方法调用的字节码；如果为非静态方法，则生成类方法调用的字节码；

5)根据该服务返回值的类型，如果服务返回参数类型为基本类型，则生成基本类型转换为相应对象类型的字节码，否则直接生成返回对象类型的字节码；

6)生成服务代理类的服务调用方法结束的字节码和服务代理类结束的字节码。

10.如权利要求1所述的方法，其特征在于，所述设定控制阈值为16。