CN102782652A - 使用历史度量程序性地确定请求分派的执行模式 - Google Patents

使用历史度量程序性地确定请求分派的执行模式 Download PDF

Info

Publication number
CN102782652A
CN102782652A CN2011800116746A CN201180011674A CN102782652A CN 102782652 A CN102782652 A CN 102782652A CN 2011800116746 A CN2011800116746 A CN 2011800116746A CN 201180011674 A CN201180011674 A CN 201180011674A CN 102782652 A CN102782652 A CN 102782652A
Authority
CN
China
Prior art keywords
request
execution pattern
execution
assignment
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011800116746A
Other languages
English (en)
Other versions
CN102782652B (zh
Inventor
C·J·霍华德
M·A·莫尔登豪尔
S·J·肯纳
M·E·康希尼
S·R·佩特森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CN102782652A publication Critical patent/CN102782652A/zh
Application granted granted Critical
Publication of CN102782652B publication Critical patent/CN102782652B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/547Remote procedure calls [RPC]; Web services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/41Flow control; Congestion control by acting on aggregated flows or links
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/70Admission control; Resource allocation
    • H04L47/78Architectures of resource allocation

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Debugging And Monitoring (AREA)

Abstract

一种请求分派器可以在以同步模式和异步模式处理请求分派(例如,include())之间自动切换。每个分派可与诸如进程ID或统一资源标识符(URI)的唯一识别值、历史度量和规则集相关联。随着请求分派的每次执行,可以收集历史度量。度量可以包括,但不限于,执行持续时间和/或执行频率、处理器负载、存储器使用、网络输入/输出、相关分派的数目等。使用历史度量,可以构造用于确定执行分派的后续执行的模式的规则。从而,可以进一步改进Web应用的运行时优化。

Description

使用历史度量程序性地确定请求分派的执行模式
技术领域
本公开涉及中间件领域,并且更具体地,涉及利用历史度量程序性地(programmatically)确定请求分派的执行模式。
背景技术
当应用服务器处理诸如Web应用(例如,JAVA Servlet或JAVASERVER PAGE)的可执行代码时,Web应用中可能存在一个或多个请求分派。这些请求分派通常由指定要执行资源的include()函数调用表示,诸如另一个servlet或JAVA SERVER PAGE(JSP)。指定的资源可被以异步或同步这两种模式之一执行。同步执行通常导致可执行代码阻塞(例如,挂起),直到指定的资源执行完成,这在许多情况下不能令人满意。另外,资源可以包括附加请求分派,它们可能执行其它资源,导致频繁给Web应用引入显著等待时间的执行链。从而,作为这种等待时间的结果,可能产生若干不利,这可以包括无响应的应用和/或过大的服务器负载。
一种克服这些不利的解决方案是针对指定的资源采用异步执行模式。然而,异步执行引入开销,例如建立新线程、在输出中放置标记、以及取代用于服务器或客户端侧聚集的标记。在许多情况下,这种开销会增加显著减小异步执行提供的性能增益的等待时间。例如,资源的同步执行可能导致10ms的等待时间,而由于异步执行引入的开销(例如,线程设置代价),异步执行相同资源可能导致20ms的等待时间。
另外,在动态服务器环境中,由于资源可获得性的改变,同步和异步资源执行可以具有变化的结果。由于Web应用通常部署在这些环境中,所以Web应用的性能有波动。为了解决这些问题,Web开发者经常进行哪种执行模式会产生最佳性能结果的有根据的猜测。这些猜测经常不会得到最优应用性能。从而,许多执行Web应用的服务器环境可能有不充分的资源使用和减少的放大器能力的问题,这无疑加重了信息技术(IT)基础设施的负担。
发明内容
本公开的一个实施例包括一种用于分派请求的方法。在该方法中,可以识别在执行时在第一可执行代码内要执行的请求分派。该请求分派可与唯一识别值相关联。请求分派的唯一识别值可以标识要执行的第二可执行代码。第一和第二可执行代码可以驻留在Web容器的部件内。该Web容器可以利用允许资源包括的任意各种技术。例如,Web容器可与运行时环境(例如,J2EE运行时环境)相关联。在执行第二可执行代码之前,可以确定第二可执行代码的执行模式。该确定可以涉及评估性能度量和阈值中的至少一个。所述阈值可以是用户建立的值和程序性建立的值中的至少一个。执行模式可以是异步执行模式或同步执行模式。响应于确定执行模式,可以基于使用确定的执行模式来执行请求分派。同步执行模式可以导致第一可执行代码在第二可执行代码的执行开始之前执行和完成。异步执行模式可以导致同时执行第一和第二可执行代码。
公开的另一个实施例可以包括一种用于分派请求的系统。该系统可以包括能够识别和执行与第一可执行代码相关联的请求分派的分派引擎。分派引擎可以是运行时环境内的传输通道链的部件。该传输通道链可以与开放系统互连(OSI)层模型的传输层相关联。该运行时环境可以是支持资源包括的任意环境。例如在一个实施例中,运行时环境可以是JAVA 2 ENTERPRISE EDITION(J2EE)运行时环境。该系统还可以包括与第一可执行代码相关联的请求分派。请求分派可以与唯一识别值相关联。该唯一识别值可以标识要执行的唯一资源。请求分派可以触发唯一资源的执行。唯一资源可以包括第二可执行代码。该系统还可以包括与请求分派相关联的至少一个性能度量。可以在请求分派执行过程中自动收集性能度量。该性能度量可被用于修改请求分派的执行行为。可以存在配置为建立与请求分派相关联的阈值、执行模式和事件处理器中的至少一个的规则集。该阈值可以是用户建立的设置或自动确定的值。执行模式可以是同步执行模式或异步执行模式。同步执行模式可以导致第一可执行代码与第二可执行代码顺序执行,而直到第一可执行代码完成其执行,不允许第二可执行代码执行。异步执行模式可以导致同时运行第一和第二可执行代码。
附图说明
现在参考附图仅以示例的方式描述本发明的优选实施例,附图中:
图1是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的方法的流程图;
图2是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的可执行代码段和通信模型的框图;
图3是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的系统的框图;
图4是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的界面集合的框图。
具体实施方式
本公开提供了在运行时利用历史度量程序性地确定请求分派执行模式的解决方案。即,请求分派器可以在以同步模式和异步模式处理请求分派(例如,include())之间自动且智能地切换。每个请求分派可与诸如进程ID或统一资源标识符(URI)的唯一识别值、历史度量和规则集相关联。随着请求分派的每次执行,可以收集历史度量。度量可以包括但不限于执行持续时间和/或执行频率、处理器负载、存储器使用、网络输入/输出、相关请求分派数目等。利用历史度量,可以构建用于确定执行请求分派的后续执行的模式的规则。例如,当请求分派的同步执行持续时间(例如,100ms)超过了用户指定的持续时间(例如,50ms)时,可以按异步模式执行请求分派的后续执行。与请求分派相关联的规则可以是用于确定适当执行模式的一个或多个任意复杂规则。从而,可以进一步改进Web应用的运行时优化。
如本领域技术人员理解的,本发明可具体实现为系统、方法或计算机程序产品。因此,本发明可以具体实现为以下形式,即:可以是完全的硬件、也可以是完全的软件(包括固件、驻留软件、微代码等),还可以是硬件和软件结合的形式,本文中一般都称为“电路”、“模块”或“系统”。此外,本发明还可以采取在一个或多个其上包括计算机可用程序代码的任何有形表示介质中体现的计算机程序产品的形式。
可以采用一个或多个计算机可用或计算机可读的介质的任意组合。计算机可用或计算机可读介质可以是例如但不限于,电、磁、光、电磁、红外、或半导体的系统、装置或器件。计算机可读介质的更具体的例子(非穷举的列表)包括以下:具有一个或多个导线的电连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CDROM)、光存储器件或磁存储器件。
计算机可读介质可以是非暂时存储介质,其中数据被以数字编码形式保存。计算机可读介质可以是能够保持信息的物理的、有形存储介质,所述信息可被计算装置提取,以便获得存储在存储介质上的数据内容。
可以以一种或多种编程语言的任意组合来编写用于执行本发明的操作的计算机程序代码,所述编程语言包括面向对象的编程语言—诸如Java、Smalltalk、C++等,还包括常规的过程式编程语言—诸如“C”编程语言或类似的编程语言。程序代码可以完全地在用户计算机上执行,部分地在用户计算机上执行,作为一个独立的软件包执行,部分在用户计算机上部分在远程计算机上执行,或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如,利用因特网服务提供商来通过因特网连接)。
下面将参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图例示和/或框图来描述本发明。应当理解,流程图例示和/或框图的每个块以及流程图例示和/或框图中块的组合,都可以由计算机程序指令实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令通过计算机的处理器或其它可编程数据处理装置执行,产生了实现流程图和/或框图中的一个或多个块中规定的功能/动作的装置。
也可以把这些计算机程序指令存储在能使得计算机或其它可编程数据处理装置以特定方式工作的计算机可读介质中,这样,存储在计算机可读介质中的指令就产生出一个包括实现流程图和/或框图中的一个或多个块中规定的功能/动作的指令装置的制造品。
也可以把计算机程序指令加载到计算机或其它可编程数据处理装置上,使得在计算机或其它可编程装置上执行一系列操作步骤,以产生计算机实现处理,从而使得在计算机或其它可编程装置上执行的指令能够提供实现流程图和/或框图中的一个或多个块中规定的功能/动作的处理。
图1是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的方法100的流程图。在方法100中,可以按照机器确定的方式自动执行与在应用服务器(例如,JAVA 2ENTERPRISE EDITION应用服务器)中执行的识别出的可执行代码(例如,JAVA servlet)相关联的请求分派。利用历史度量,可以在运行时执行请求分派确定,以便识别执行模式:异步或同步。可执行代码可以是Web应用的一个或多个部件,包括但不限于servlet、JAVAserver page,JAVA bean、JAVA class(类)、portlet等。例如,可执行代码可以是提供动态web内容的JAVA web应用。
方法100可以在任意数目的适合系统(例如,系统300)的环境中执行。在本公开中,出于表述清楚和方便起见,提供了基于JAVA实现的例子。本公开的范围不限于此,并且可以使用任意各种技术(包括非JAVA的技术)实现此处详述的发明布置,只要这些实现技术支持资源包括。例如,在一个实施例中,如此处详述的,当使用历史度量确定请求分派的执行模式时,可以利用.NET技术。
如此处使用的,请求分派可以包括允许执行开发者指定的资源的程序命令。在一个实施例中(例如,基于JAVA的实施例),请求分派可以是JAVA应用程序接口(API)方法,例如include()和forward()。请求分派可被使用一个或多个标识机制唯一标识,包括但不限于,进程ID、自动/手动代码注释、加标签、统一资源定位符(URL)标识、唯一路径标识、唯一查询串等。每个请求分派可与一个或多个历史度量和允许基于应用服务器性能的优化请求分派的执行模式设置相关联。
在步骤105,初始化Web容器内的可执行代码。可执行代码可以是在Web容器内执行的Web应用。Web容器可以是在JAVA 2ENTERPRISE EDITION(J2EE)应用服务器(例如,JAVA VIRTUALMACHINE(JVM))内执行的一个或多个构造。可以根据实现选择和执行方法100的目标实现环境来利用其它服务器(例如,.NET服务器),而不是J2EE应用服务器。在步骤110,识别与初始化的可执行代码相关联的请求分派。识别出的分派可与要执行的一个或多个资源相关联。资源可以是一个或多个可执行代码对象,例如servlet、一个或多个JAVA SERVER PAGE(JSP)Web页面等。在步骤115,如果存在用于识别出的分派的度量,方法可以继续到步骤120,否则进行到步骤155。与识别出的分派相关联的度量可以是一个或多个历史度量。度量可以包括但不限于,执行持续时间和/或执行频率、复杂度、处理器负载、存储器使用、网络输入/输出、相关识别出分派的数目等。例如,度量可以包括识别出的分派在确定的时间段上的平均执行持续时间。另外,可以追踪识别出的分派的每个执行模式的度量,从而允许最优决策形成功能。即,可以执行对异步执行模式和同步执行模式的度量的评估,以便建立Web应用的默认设置。
在步骤120,如果识别出的分派的历史度量超出了以前建立的阈值,该方法可以继续到步骤125,否则进行到步骤140。例如,该阈值可以是诸如执行持续时间的定时值。在一个实施例中,历史执行时间和阈值可被数字地比较,以便确定以哪个模式执行识别出的分派。在缺少阈值的情况下,可以使用“最佳猜测”方法执行识别出的分派。例如,通过分析类似的分派,可以程序性地得出允许智能执行识别出的分派的阈值。在步骤125,向事件处理器注册分派事件。在步骤130,以可以包括非阻塞代码执行的异步模式执行识别出的分派。即,Web应用可以继续与识别出的分派同时执行。在步骤135,可以收集识别出的分派的度量。可以利用一个或多个度量收集部件来收集度量,诸如性能监视代理。性能监视代理可以包括但不限于负载监视器、可执行代码优化工具等。
在步骤140,可以按同步模式执行识别出的分派。在步骤147,可以为识别出的分派收集度量。在步骤145,可以为识别出的分派收集度量数据。在一个实施例中,度量数据可以包括识别出的度量的阻塞持续时间。在步骤150,如果完成了识别出的分派执行,该方法可以继续到步骤157,否则该方法可以返回步骤140。
在步骤155,使用默认设置执行识别出的度量,并且可以收集与该分派相关联的度量。在步骤157,可以基于历史度量可选择地修改阈值。例如,修改可以包括随时间增大/减小阈值。即,可以随着收集历史度量不断改进运行时性能。在步骤160,如果可获得与可执行代码相关联的更多分派用于处理,方法可以返回步骤110,否则继续到步骤165。在步骤165,可以终止对可执行代码的执行。
应当理解,方法100的公开步骤不应被解释为以任意方式限制本发明。方法100可被连续并且实时执行,允许随着应用服务器资源可获得性波动而动态优化每个可执行代码。然而,为了避免对分派的可能降低性能的过度优化,可以通过方法100可选择地静态地确定每个请求。在一个实施例中,可以按允许最小化计算资源的间隔执行方法100。
图2是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的可执行代码段210和通信模型230的框图。在一个情况下,可执行代码段210可以是JAVA源代码文件。此处可以使用基于其它(非JAVA)技术的其它类型的代码段210,此处使用基于JAVA的例子,以便表达被解释为与任意特定实现语言无关的概念。在可执行代码段210中,请求分派应用程序接口(API)212可以允许基于一个或多个条件(其包括但不限于,可用资源、性能历史等),自动以优化方式执行请求分派。在一个实施例中,API 212可以是封装已有请求分派器的包装类。在另一个实施例中,API 212可以是对传统请求分派器的“插入式(drop-in)”替换。即,已有的可执行代码可以保持不被修改,同时获得API 212的性能益处。在一个实施例中,请求分派器244可以是允许请求分派的透明、动态模式执行的传输通道链240的一个部件。
利用API 212,应用开发者可以允许基于可获得的计算资源在运行时以最佳执行模式处理请求分派214。在一个实施例中,API 212可以是IBM WEBSPHERE Web容器平台的部件。例如,应用开发者可以通过一个或多个导入指令(例如,“import com.ibm.Websphere.Webcontainer.RequestDispatch”)访问请求分派功能。请求分派214可以包括一个或多个参数,以便允许定制执行。在一个实施例中,自变量(例如,auto,500ms)可以允许应用开发者控制请求分派行为的一部分。另外,API 212可以允许本地管理和监视请求分派的功能,从而允许开发者保持对执行代码和运行时环境的控制。
在一个实施例中,请求分派器244可以驻留在开放系统互连模型230的传输层232内。分派器244可以透明地接收和分派HTTP 246请求给适当的Web容器242。从而,分派器244可以独立于部署的应用和应用限制发挥功能。
此处给出的附图仅用于说明目的,并且不应被解释为以任何方式限制本发明。在一个实施例中,API 212可以对应用开发者透明,从而请求分派语法可以与传统语法相同。另外,API 212可以是给Web应用自动提供功能的基本包的部件。即,应用开发者不需要手动导入API 212的功能。
图3是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的系统300的框图。在系统300中,请求分派器340可以允许按自动确定的模式执行与servlet 324相关联的分派326。程序性确定的模式可以是同步执行模式和异步执行模式。在一个实施例中,自动确定的执行模式可以传统方式执行。即,不需要分派行为的改变和/或开销而使得分派器340能够发挥功能。在一个实施例中,引擎342可以自动确定对于请求分派326的后续执行的执行模式。从而,响应于服务器320的资源可用性,分派326的每个实例可以按同步或异步模式执行。
如此处使用的,每个servlet 324可通过请求分派326与一个或多个可执行资源相关联。Servlet 324可以在JAVA 2 ENTERPRISEEDITION(J2EE)应用服务器320(或在其它构想的实施例中,其它类型的服务器)的Web容器323内执行。Web容器323可以是动态运行时环境,例如JAVA VIRTUAL MACHINE运行时环境。例如,servlet324可以是Web应用,其可以在浏览器界面312内向进行请求的客户端310呈现基于Web的内容(例如,Web页面)。每个请求分派326可与唯一识别值相关联,例如,进程ID或唯一关键字和/或资源标识符(例如,统一资源定位符)。在一个实施例中,唯一关键字可以是自动产生的值(例如,由分派引擎342)或手动确定的值。在一个例子中,唯一识别值可被存储为可被在编译时提取的注释(或甚至源代码注释)。
Servlet 324可以接收请求380,请求380可以触发请求分派326的执行。当运行时环境323遇到请求分派326时,可以分析分派326,以基于用户指定的资源标识符确定要执行哪个资源。在一个实施例中,分派器340可以与另一个运行时环境(例如,在不同Web容器内执行的servlet)协商指定资源的执行。
请求分派器340可以基于一个或多个规则346和/或设置,唯一地识别和执行分派326。即,分派器340可配置为适应服务器320的资源可获得性(例如,服务器负载)。请求分派器340可以包括分派引擎342、度量引擎343、性能监视器344、规则346和界面352。在一个实施例中,分派器340可以是Web容器323的可插入扩展。设置348可以是用户建立的设置或自动确定的设置。例如,可以基于servlet 324的性能动态确定用于分派的默认超时值。
分派引擎342可以处理分派326,并且使用历史度量350程序性地确定适合的执行模式。引擎342可以负责识别和/或执行与分派326相关联的本地和远程资源。在远程地执行资源处理的情况下,引擎342可以将请求转发给可以执行处理的远程处理器。在本地地执行资源处理的情况下,引擎342可以管理请求分派326。
度量引擎343可以收集与servlet 324和/或分派326相关联的历史度量。例如,可以在允许获得高级别度量的servlet 324级别收集度量。在一个例子中,度量引擎343可以实时地或近似实时地收集度量。例如,引擎343可配置为在最后Y秒追踪最后X个分派326,其中X和Y是用户可配置的。另外,度量引擎343可用于监视Web容器323的实时性能,所述实时性能可以通过界面352给出。
历史度量350可以包括资源信息,例如等待时间、执行模式和存储器使用。历史度量350可与每个分派326执行相关联。在一个实施例中,可以计算每个模式(例如,异步和同步)的度量,使得能够评估每个模式的总度量。以这种方式,引擎343可以在执行前为分派326计算适合的执行模式。在另一个实施例中,与分派326相关联的度量350可被聚集在一起,并且针对规则集360中的阈值(例如,规则360)进行评估。例如,可以将与异步执行相关联的存储器代价与存储器配额值(例如,阈值)进行比较,以便确定异步执行的开销是否是最优选择。在另一个例子中,可以将用于设置/无效异步环境的时间开销与以前建立的阈值比较,以便确定应当使用哪个模式(异步或同步)。
规则集346可以包括用于确定分派326的执行模式的一个或多个任意复杂规则。规则集346可以是用户建立的和/或可以启发式确定的。在一个实施例中,多个度量可被一起评估,以便确定执行模式。规则集346可以包括,但不限于,阈值、执行模式以及与请求分派相关联的事件处理器等。例如,阈值可以是用户建立的设置或自动确定的值。规则集346还可以指定将要使用的聚集类型(例如,服务器侧相对于客户端侧),其可用于准备请求382。当分派326的执行完成时,请求328可被产生并且通过网络370传递给客户端310。
此处给出的附图仅用于说明目的,并且不被解释为以任意方式限制本发明。系统300可以是分布式计算环境、网络计算环境、面向服务的体系结构(SOA)等的一个或多个部件。在一个实施例中,系统300可以是IBM WEBSPHERE APPLICATION SERVER的一个或多个部件。在另一个实施例中,系统300可以包括.NET框架(或允许出于此处描述的目的包括资源的任意其它框架)的一个或多个部件。
图4是例示了根据此处公开的发明布置的实施例的利用历史度量程序性地确定请求分派的执行模式的一组界面410、430的框图。可以在系统300的环境中给出界面410、430。在界面410中,可以在部分412中呈现与在Web容器内执行的一个或多个Web应用相关联的请求分派。Web应用可以是一个或多个可执行代码实体,例如JAVA servlet、JAVA SERVER PAGE(JSP)等。在界面440中,可以呈现与请求分派412相关联的度量。
在一个实施例中,对请求分派和度量442的呈现可以实时发生,使得能够容易地获得执行快照。
界面410可以允许管理一个或多个正在执行的请求分派和相关请求分派。界面410可以包括部分412、420和交互界面元素422、430、432。在界面410中,可以在部分412中呈现与请求分派414相关联的信息。请求分派信息可以包括,但不限于,进程ID、执行持续时间、执行模式等。例如,部分412可以呈现与Servlet A相关联的每个请求分派和相关分派。在一个实施例中,管理员可以选择性地管理多组请求分派。界面410可以呈现附加信息,例如有效规则、性能度量等。
与选择的请求分派414相关联的信息可被呈现在部分420内。例如,与界面元素430交互可以呈现与请求分派相关联的信息。在一个例子中,部分420可以允许修改诸如超时值、执行模式等的请求分派值。即,当自动优化证明不成功时,可以实现对请求分派的实时手动优化。在一个实施例中,界面410可以允许线程管理能力。例如,界面元素432可以允许终止选择的请求分派。与界面元素422的交互可以呈现检查界面440。
界面440可以包括部分442,其可以呈现与选择的请求分派414相关联的度量。部分442可以包括历史度量,例如处理器使用、执行持续时间和存储器使用。例如,部分442可以使用收集的历史度量呈现请求分派的平均资源负载。在一个实施例中,可以按多个粒度级别呈现历史度量。例如,可以基于天、星期、月等的递增呈现历史度量。
此处给出的附图仅用于说明目的,并且不应被解释为以任意形式限制本发明。在一个实施例中,界面410、440可以是JAVA 2ENTERPRISE EDITION优化工具的一个或多个画面。在另一个实施例中,界面410、440可以是集成开发环境(IDE)的部件。界面410、440可以是图形用户界面(GUI)、语音用户界面(VUI)、多模式界面等。与界面410、440相关联的界面元素可以包括,但不限于,交互式按钮、下拉菜单、单选元素等。
此处使用的术语仅是出于描述特定实施例的目的,并且不旨在限制本发明。如此处使用的,单数形式“一个”(“a”、“an”和“the”)旨在也包括复数形式,除非上下文清楚地指出。还应当理解,当在本说明书中使用时,术语“包括”(“comprise”和/或“comprising”)指出所述特征、整体、步骤、操作、元件和/或部件的存在,但是不排除一个或多个其它特征、整体、步骤、操作、元件、部件和/或它们的组的存在或添加。
下面权利要求书中所有装置或步骤加功能元件的对应结构、材料、动作和等同物旨在包括用于结合特别提出的其它元件执行该功能的任意结构、材料或动作。已经出于说明和描述的目的给出了本发明的描述,但是其不旨在是穷举的或将本发明局限在公开的形式。本领域普通技术人员将明了许多修改和变型,而不脱离本发明的范围。选择和描述实施例,以便最好地解释本发明的原理和实际应用,并且使得本领域普通技术人员能够理解本发明的适合于构想的特定使用的具有各种修改的各种实施例。
图1至4的流程图和框图示出了根据本发明的各个实施例的系统、方法和计算机程序产品的可能实现的体系结构、功能和操作。就此而言,流程图或框图中的每个块可以表示代码的模块、段或部分,其可以包括用于实现指定的逻辑功能(多个)的一个或多个可执行指令。还应当注意,在某些替换实现中,块中标明的功能可以不按图中标明的顺序发生。例如,取决于涉及的功能,连续示出的两个块实际上可以大体并发地执行,或这些块有时可被以相反顺序执行。还应当注意,框图和/或流程图例示的每个块以及框图和/或流程图例示的块的组合可被以执行特定功能或动作的基于专用硬件的系统或专用硬件和计算机指令的组合实现。

Claims (20)

1.一种用于分派请求的方法,包括:
在运行时识别在第一可执行代码内要执行的请求分派,其中所述请求分派与识别值相关联,其中所述请求分派的识别值标识要执行的第二可执行代码;
在执行所述第二可执行代码之前,确定执行所述第二可执行代码的执行模式,其中确定动作包括评估性能度量和阈值中的至少一个,其中所述阈值是用户建立的值和程序性建立的值中的至少一个,其中所述执行模式是异步执行模式或同步执行模式;以及
响应于对执行模式的确定,基于所述执行模式执行请求分派,其中同步执行模式使得所述第一可执行代码停止并使得所述第二可执行代码启动和完成,此后停止的第一可执行代码继续执行,并且其中异步执行模式使得所述第一和第二可执行代码同时执行。
2.如权利要求1所述的方法,其中,所述第一和第二可执行代码驻留在Web容器的部件内,其中所述Web容器与运行时环境相关联。
3.如权利要求1所述的方法,其中,与所述请求分派相关联的唯一识别值是自动产生的唯一识别值、统一资源标识符(URI)、唯一路径值和唯一查询串中的至少一个。
4.如权利要求1所述的方法,其中,用于所述第一和第二可执行代码的执行模式能够在后续执行过程中被动态调整,其中所述第一和第二可执行代码是JAVA servlet、JAVA SERVER PAGE(JSP)、JAVABEAN和JAVA使能门户组件中的至少一个。
5.如权利要求1所述的方法,所述对执行模式的确定还包括:
使用请求分派的历史数据和它们的执行时间来建立性能度量。
6.如权利要求1所述的方法,所述对执行模式的确定还包括:
当所述性能度量未超出阈值时,同步执行请求分派;以及
当所述性能度量超出阈值时,异步执行请求分派。
7.如权利要求1所述的方法,所述对请求分派的执行还包括:
响应于请求分派的执行性能,将与请求分派相关联的模式设置从第一执行模式切换到第二执行模式,其中所述模式设置指示执行所述请求分派的模式,其中所述模式是异步执行模式和同步执行模式中的至少一个,其中切换动作使得以第二执行模式执行请求分派的后续执行。
8.如权利要求1所述的方法,其中,所述性能度量是与请求分派的历史执行相关联的定时信息中的至少一个。
9.如权利要求1所述的方法,还包括:
在请求分派的执行过程中程序性地收集与请求分派器相关联的至少一个性能度量,其中所述性能度量是资源分配值。
10.如权利要求1所述的方法,还包括:
透明地封装已有的分派API的功能,其中所述已有的分派API以同步执行模式执行请求分派,其中封装允许异步或同步执行请求分派。
11.一种用于分派请求的系统,包括:
分派引擎,该分派引擎能够识别和执行与第一可执行代码相关联的请求分派,其中所述分派引擎是运行时环境内的传输通道链的部件,其中所述传输通道链与开放系统互连(OSI)层模型的传输层相关联;
与所述第一可执行代码相关联的请求分派,其中所述请求分派与唯一识别值相关联,其中所述唯一识别值标识要执行的唯一资源,其中请求分派触发对所述唯一资源的执行,其中所述唯一资源是第二可执行代码;
与所述请求分派相关联的性能度量,其中在请求分派执行过程中自动收集所述性能度量,其中所述性能度量用于修改请求分派的执行行为;以及
规则集,配置为建立与请求分派相关联的阈值、执行模式和事件处理器中的至少一个,其中所述阈值是用户建立的设置或自动确定的值中的至少一个,其中执行模式是同步执行模式和异步执行模式中的至少一个,其中同步执行模式使得所述第一可执行代码停止并使得所述第二可执行代码启动和完成,此后停止的第一可执行代码继续执行,并且其中异步执行模式使得所述第一和第二可执行代码同时执行。
12.如权利要求11所述的系统,其中,与所述请求分派相关联的唯一识别值是自动产生的唯一识别值、统一资源标识符(URI)、唯一路径值和唯一查询串中的至少一个。
13.如权利要求11所述的系统,还包括:
性能监视器,配置为识别唯一请求分派并且监视识别出的请求分派的性能,其中实时执行所述识别和监视。
14.如权利要求11所述的系统,还包括:
允许用户定制所述系统的用户界面,其中定制是用户建立的阈值、用户建立的性能度量和用户建立的执行模式中的至少一个。
15.如权利要求11所述的系统,其中,所述分派引擎能够响应于至少一个性能度量修改所述阈值。
16.一种计算机程序产品,包括计算机可读存储介质,所述计算机可读存储介质具有包含在其内的计算机可用程序代码,所述计算机可用程序代码包括:
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为在运行时识别在第一可执行代码内要执行的请求分派,其中所述请求分派与唯一识别值相关联,其中所述请求分派的唯一识别值标识要执行的第二可执行代码;
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为在执行所述第二可执行代码之前,确定执行所述第二可执行代码的执行模式,其中确定动作包括评估性能度量和阈值中的至少一个,其中所述阈值是用户建立的值和程序性建立的值中的至少一个,其中所述执行模式是异步执行模式或同步执行模式;以及
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为响应于确定动作,基于所述执行模式执行请求分派,其中同步执行模式使得所述第一可执行代码停止并使得所述第二可执行代码启动和完成,此后停止的第一可执行代码继续执行,并且其中异步执行模式使得所述第一和第二可执行代码同时执行。
17.如权利要求16所述的计算机程序产品,其中,所述第一和第二可执行代码驻留在Web容器的部件内,其中所述Web容器与运行时环境相关联。
18.如权利要求16所述的计算机程序产品,还包括:
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为识别与所述请求分派相关联的至少一个性能度量,其中所述性能度量是历史度量,其中所述历史度量是指示请求分派的历史执行的至少一个属性的统计值。
19.如权利要求16所述的计算机程序产品,还包括:
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为响应于请求分派的执行性能,将与请求分派相关联的模式设置从第一执行模式切换到第二执行模式,其中所述模式设置指示执行所述请求分派的模式,其中所述模式是异步执行模式和同步执行模式中的至少一个,其中切换动作使得以第二执行模式执行请求分派的后续执行。
20.如权利要求16所述的计算机程序产品,还包括:
存储在有形存储介质内的计算机可用程序代码,所述计算机可用程序代码能操作为在请求分派的执行过程中收集与请求分派器相关联的至少一个性能度量,其中所述性能度量是资源分配值。
CN201180011674.6A 2010-03-01 2011-02-28 使用历史度量程序性地确定请求分派的执行模式 Expired - Fee Related CN102782652B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/715,139 2010-03-01
US12/715,139 US8296411B2 (en) 2010-03-01 2010-03-01 Programmatically determining an execution mode for a request dispatch utilizing historic metrics
PCT/EP2011/052883 WO2011107415A1 (en) 2010-03-01 2011-02-28 Programmatically determining an execution mode for a request dispatch utilizing historic metrics

Publications (2)

Publication Number Publication Date
CN102782652A true CN102782652A (zh) 2012-11-14
CN102782652B CN102782652B (zh) 2015-05-06

Family

ID=44141933

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180011674.6A Expired - Fee Related CN102782652B (zh) 2010-03-01 2011-02-28 使用历史度量程序性地确定请求分派的执行模式

Country Status (6)

Country Link
US (2) US8296411B2 (zh)
JP (1) JP5963682B2 (zh)
CN (1) CN102782652B (zh)
DE (1) DE112011100739T8 (zh)
GB (1) GB2486852B (zh)
WO (1) WO2011107415A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108345481A (zh) * 2017-01-22 2018-07-31 腾讯科技(深圳)有限公司 一种页面显示方法、装置、客户端及服务器

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9727397B2 (en) * 2007-07-23 2017-08-08 Paypal, Inc. Container-less JSP template
US9921934B1 (en) * 2011-10-14 2018-03-20 Amazon Techologies, Inc. Storage process metrics
DE102012009482B4 (de) 2012-05-12 2020-06-25 Volkswagen Aktiengesellschaft Funktional erweiterbares Fahrzeugsteuergerät und Verfahren zum Ergänzen der Funktionalität eines Fahrzeugsteuergeräts
US9323588B2 (en) 2013-03-14 2016-04-26 Comcast Cable Communications, Llc Service platform architecture
RU2568292C2 (ru) * 2013-12-27 2015-11-20 Закрытое акционерное общество "Лаборатория Касперского" Система и способ выбора синхронного или асинхронного межпроцессного взаимодействия
US9961011B2 (en) 2014-01-21 2018-05-01 Oracle International Corporation System and method for supporting multi-tenancy in an application server, cloud, or other environment
US10084843B2 (en) * 2014-07-14 2018-09-25 Oracle Internatonal Corporation System and method for web container partitions in a multitenant application server environment
US10397128B2 (en) * 2014-10-30 2019-08-27 Amazon Technologies, Inc. Routing handler for rule-based action triggering
US10567476B2 (en) 2014-10-30 2020-02-18 Amazon Technologies, Inc. Rule-based action triggering in a provider network
CA2965520A1 (en) * 2014-10-30 2016-05-06 Amazon Technologies, Inc. Rule-based action triggering in a provider network
US20160283566A1 (en) * 2015-03-27 2016-09-29 Ca, Inc. Analyzing sorted mobile application operational state sequences based on sequence metrics
US10158709B1 (en) 2015-06-19 2018-12-18 Amazon Technologies, Inc. Identifying data store requests for asynchronous processing
US9715421B2 (en) * 2015-08-25 2017-07-25 Ca, Inc. Wrapped applications providing operational insight to users based on rules for acceptable operational state performance
US9846608B2 (en) * 2015-08-25 2017-12-19 Ca, Inc. Providing application operational insights to users based on crowd sourced performance metrics for operational states
US10108448B2 (en) * 2015-10-27 2018-10-23 International Business Machines Corporation Dynamic SMT
US10733591B2 (en) * 2016-10-11 2020-08-04 International Business Machines Corporation Tiered model for event-based serverless computing
CN107957903B (zh) * 2017-11-13 2020-11-10 中国平安财产保险股份有限公司 异步任务调度方法、服务器及存储介质
US11757880B2 (en) * 2018-09-18 2023-09-12 Cyral Inc. Multifactor authentication at a data source
US11477197B2 (en) 2018-09-18 2022-10-18 Cyral Inc. Sidecar architecture for stateless proxying to databases
US11477217B2 (en) 2018-09-18 2022-10-18 Cyral Inc. Intruder detection for a network
JP2020170331A (ja) * 2019-04-03 2020-10-15 富士ゼロックス株式会社 情報処理装置及びプログラム
US11789642B2 (en) * 2021-06-28 2023-10-17 Micron Technology, Inc. Loading data from memory during dispatch
CN116503138B (zh) * 2023-05-04 2023-10-31 杭州妙壹科技有限公司 一种基于异步编程的话费充值订单调度方法与系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040015762A1 (en) * 2002-07-22 2004-01-22 Finisar Corporation Scalable system testing tools
US20040172618A1 (en) * 2003-02-28 2004-09-02 Bea Systems, Inc. Systems and methods for a common runtime container framework
CN1734427A (zh) * 2004-08-02 2006-02-15 微软公司 基于事务处理的性能模型的自动化确认和校准

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69132733T2 (de) * 1990-03-19 2002-05-29 Fujitsu Ltd Unterbrechungsverarbeitungssystem
US5329619A (en) * 1992-10-30 1994-07-12 Software Ag Cooperative processing interface and communication broker for heterogeneous computing environments
US5675771A (en) * 1993-09-28 1997-10-07 Bull Hn Information Systems Inc. Mechanism for enabling emulation system users to directly invoke a number of host system facilities for executing host procedures either synchronously or asynchronously in a secure manner through automatically created shell mechanisms
JPH08123699A (ja) * 1994-10-26 1996-05-17 Hitachi Ltd 並行処理方法、並行処理システム及び並行処理用プログラムの変換ツール
US6401005B1 (en) * 1999-09-27 2002-06-04 Rockwell Automation Technologies, Inc. Programmable synchronous and asynchronous block execution for a computer numerical control
US7496924B2 (en) * 2000-03-27 2009-02-24 Siemens Communications, Inc. Dispatching messages among registered software modules in telecommunications system including telephony internet server coupled between packet network and PBX
US20020032692A1 (en) * 2000-09-08 2002-03-14 Atsuhito Suzuki Workflow management method and workflow management system of controlling workflow process
US7099939B2 (en) * 2000-10-03 2006-08-29 Sun Microsystems Inc. HTTP transaction monitor with sequence replay capacity
WO2002054263A1 (fr) * 2000-12-28 2002-07-11 Future System Consulting Corp. Systeme de structure
US7043460B2 (en) * 2001-05-31 2006-05-09 International Business Machines Corporation Web browser-based object oriented application component test client
US7099935B2 (en) * 2001-10-01 2006-08-29 International Business Machines Corporation Dynamically determining whether to process requests synchronously or asynchronously
US7003570B2 (en) 2001-10-05 2006-02-21 Bea Systems, Inc. System for integrating java servlets with asynchronous messages
US6886041B2 (en) * 2001-10-05 2005-04-26 Bea Systems, Inc. System for application server messaging with multiple dispatch pools
US7996507B2 (en) * 2002-01-16 2011-08-09 International Business Machines Corporation Intelligent system control agent for managing jobs on a network by managing a plurality of queues on a client
US7568021B2 (en) 2004-05-21 2009-07-28 Intel Corporation Hybrid mode network stack under EFI/Tiano based BIOS in modular computing environment
US8762981B2 (en) * 2004-05-24 2014-06-24 Sap Ag Application loading and visualization
US20060026214A1 (en) * 2004-07-29 2006-02-02 International Business Machines Corporation Switching from synchronous to asynchronous processing
US7779430B2 (en) * 2004-12-15 2010-08-17 International Business Machines Corporation Method, system, and article of manufacture for providing service components
US7716335B2 (en) * 2005-06-27 2010-05-11 Oracle America, Inc. System and method for automated workload characterization of an application server
US9069870B2 (en) 2006-07-12 2015-06-30 International Business Machines Corporation Client-side aggregation of context-sensitive request results where results for aggregation are asynchronously produced by multiple servers
US8131580B2 (en) * 2006-10-04 2012-03-06 Salesforce.Com, Inc. Method and system for load balancing a sales forecast system by selecting a synchronous or asynchronous process based on a type of an event affecting the sales forecast
US8965864B2 (en) * 2006-10-31 2015-02-24 Sap Se Method and system for efficient execution and rendering of client/server interactive applications
US7809988B1 (en) * 2006-12-29 2010-10-05 The Mathworks, Inc. Test environment having synchronous and asynchronous distributed testing
US20080168130A1 (en) 2007-01-09 2008-07-10 Wen-Tzer Thomas Chen Method and system for determining whether to send a synchronous or asynchronous resource request
JP5032219B2 (ja) * 2007-06-29 2012-09-26 株式会社東芝 演算方式を制御して情報を処理する装置、方法およびプログラム
US8032587B2 (en) 2007-08-28 2011-10-04 International Business Machines Corporation Method and apparatus for client-side aggregation of asynchronous fragmented requests
US8136122B2 (en) * 2007-08-30 2012-03-13 Software Ag Systems and/or methods for providing feature-rich proprietary and standards-based triggers via a trigger subsystem
US8185610B2 (en) 2007-12-04 2012-05-22 International Business Machines Corporation Method for client-side aggregation of asynchronous, context-sensitive request operations for java server pages (JSP)
US7499971B1 (en) * 2008-03-24 2009-03-03 International Business Machines Corporation Alternate java server page (JSP) processing for better response time
US8037122B2 (en) * 2008-09-19 2011-10-11 Oracle International Corporation Processing of service-oriented tasks within a grid computing environment
JP5167410B2 (ja) * 2009-01-09 2013-03-21 株式会社日立製作所 複数のマイクロプロセッサを有するストレージシステム、及び、そのストレージシステムにおける処理分担方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040015762A1 (en) * 2002-07-22 2004-01-22 Finisar Corporation Scalable system testing tools
US20040172618A1 (en) * 2003-02-28 2004-09-02 Bea Systems, Inc. Systems and methods for a common runtime container framework
CN1734427A (zh) * 2004-08-02 2006-02-15 微软公司 基于事务处理的性能模型的自动化确认和校准

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108345481A (zh) * 2017-01-22 2018-07-31 腾讯科技(深圳)有限公司 一种页面显示方法、装置、客户端及服务器
CN108345481B (zh) * 2017-01-22 2023-04-18 腾讯科技(深圳)有限公司 一种页面显示方法、装置、客户端及服务器

Also Published As

Publication number Publication date
GB2486852B (en) 2013-10-09
US8943196B2 (en) 2015-01-27
JP5963682B2 (ja) 2016-08-03
US20120304177A1 (en) 2012-11-29
DE112011100739T8 (de) 2013-08-29
US8296411B2 (en) 2012-10-23
JP2013521552A (ja) 2013-06-10
CN102782652B (zh) 2015-05-06
GB2486852A (en) 2012-06-27
DE112011100739T5 (de) 2013-06-27
US20110213829A1 (en) 2011-09-01
GB201206116D0 (en) 2012-05-16
WO2011107415A1 (en) 2011-09-09

Similar Documents

Publication Publication Date Title
CN102782652B (zh) 使用历史度量程序性地确定请求分派的执行模式
CN101799751B (zh) 一种构建主机监控代理软件的方法
CA3000422C (en) Workflow service using state transfer
US9766927B1 (en) Data flow management in processing workflows
EP2893443B1 (en) Re-configuration in cloud computing environments
KR100783679B1 (ko) 데이터 스트림에 기반하는 서비스의 개발, 배치, 제공을용이하게 하는 미들웨어 시스템
CN110083455B (zh) 图计算处理方法、装置、介质及电子设备
CN107463434B (zh) 一种分布式任务处理方法与设备
De Farias et al. COMFIT: A development environment for the Internet of Things
CN104536819A (zh) 基于web服务的任务调度方法
CN111694617B (zh) 网络离线模型的处理方法、人工智能处理装置及相关产品
JP6379654B2 (ja) 処理実行プログラム、処理実行方法、及び情報処理装置
US11321090B2 (en) Serializing and/or deserializing programs with serializable state
Johnsen et al. Dynamic resource reallocation between deployment components
CN102799477A (zh) 资源访问方法及装置
CN110457132B (zh) 一种功能对象的创建方法、装置和终端设备
CN103488517A (zh) Php代码编译方法、php代码运行方法及装置
WO2019227011A1 (en) Device for orchestrating distributed application deployment with end-to-end performance guarantee
CN109634758A (zh) 基于json文件控制事件和行为的方法及中间件平台
Khoshkbarforoushha et al. Dimensions for evaluating cloud resource orchestration frameworks
CN108804088A (zh) 协议处理方法和装置
US9442782B2 (en) Systems and methods of interface description language (IDL) compilers
CN109840156B (zh) 一种数据缓存方法及其设备、存储介质、终端
CN106919436B (zh) Dalvik虚拟机实现多任务的方法、装置及虚拟机
Agirre et al. Resource management support for SCA based distributed applications

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150506