CN103098027A - 用于动态管理计算容量请求的方法和系统 - Google Patents

用于动态管理计算容量请求的方法和系统 Download PDF

Info

Publication number
CN103098027A
CN103098027A CN2011800436373A CN201180043637A CN103098027A CN 103098027 A CN103098027 A CN 103098027A CN 2011800436373 A CN2011800436373 A CN 2011800436373A CN 201180043637 A CN201180043637 A CN 201180043637A CN 103098027 A CN103098027 A CN 103098027A
Authority
CN
China
Prior art keywords
user
request
program
virtualized environment
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011800436373A
Other languages
English (en)
Other versions
CN103098027B (zh
Inventor
李·A·阿奇森
布莱恩·A·怀特
皮特·D·科恩
皮特·N·德桑蒂斯
麦克海尔·盖博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amazon Technologies Inc
Original Assignee
Amazon Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amazon Technologies Inc filed Critical Amazon Technologies Inc
Priority to CN201610670439.4A priority Critical patent/CN106055412B/zh
Publication of CN103098027A publication Critical patent/CN103098027A/zh
Application granted granted Critical
Publication of CN103098027B publication Critical patent/CN103098027B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031—Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers

Abstract

描述了用于动态管理对来自计算资源提供者的计算容量的请求的系统和方法的实施方案。举例来说，所述计算资源可以包括程序执行能力、数据存储或管理能力、网络带宽等。所述系统或方法自动分配用于执行与用户相关的一个或多个程序的计算资源。所述系统和方法可以使所述用户能够在所述一个或多个程序的执行已开始之后改变所分配的资源。

Description

用于动态管理计算容量请求的方法和系统
相关申请案
本申请要求2010年9月21日提交的美国非临时申请第12/887,241号的权益，该申请的公开内容的全文据此以引用的方式并入本文。
背景技术
公司和机构运行使众多计算系统互连以支持其运营的计算机网络。计算系统可位于单个地理位置中(例如，作为局域网的一部分)或位于多个不同地理位置中(例如，经由一个或多个专用或公用的中间网络)。数据中心可以置放大量互连的计算系统，例如专用数据中心是由单个机构进行操作并且公用数据中心是由第三方进行操作以把计算资源提供给客户。专用和公用数据中心可以对数据中心、机构或其它客户拥有的硬件提供网络访问、电力、硬件资源(例如，计算和存储)和安全安装设施。
为了帮助提高数据中心资源的利用率，虚拟化技术可以允许单个物理计算机主控作为到连接的计算机用户的独立计算机出现而操作作的虚拟机的一个或多个实例。运用虚拟化，单个物理计算装置可以动态方式创建、维持或删除虚拟机。用户又可基于“按照需要”或至少基于“按照请求”请求来自数据中心的计算机资源并且具备不同量的虚拟机资源。
随着数据中心的规模和范围增大，提供、支配和管理数据中心的物理和虚拟计算资源已变得越来越复杂。
附图说明
在附图各处，参考数字可以重用于指示参考元件之间的对应性。提供附图以示出本文描述的示例性实施方案且并非旨在限制本公开内容的范畴。
图1是示意地示出了可经由通信网络把计算资源提供给多个用户计算系统的程序执行服务的示例的网络图；
图2A是被配置来管理程序执行服务的用户要用的计算资源的请求的交互请求管理器的阐释性组件的方框图；
图2B示意地示出了程序执行服务的用户计算系统与交互请求管理器之间的示例性交互的网络图；和
图3A和图3B是示出了由交互请求管理器组件实施的交互请求管理器例程的流程图。
图3C是示意地示出了交互请求管理器的实施方案可通过其与用户计算系统进行通信以用于修改分配的计算资源的设置的例程的示例的流程图。
图4是示意地示出了交互请求管理器的实施方案可通过其与用户计算系统进行通信以提供供用户选择的多个虚拟化环境的例程的示例的流程图。
具体实施方式
描述用于动态管理对来自计算资源提供者(程序执行服务)的计算容量的请求的系统和方法的实施方案。举例来说，计算资源可以包括程序执行能力、数据存储或管理能力、数据库管理能力、网络带宽、应用监控或日志记录、用于采取纠正措施以解决问题的能力等。在某些实施方式中，用户可请求生成可在当前或未来使用时段期间管理用户的计算机资源的虚拟化环境。例如，用户可请求生成可在使用时段期间运行用户的自定义软件应用和为用户管理或预约合适的程序执行容量、数据存储容量、数据库管理选项和/或网络带宽的虚拟化环境。计算资源提供者可确定提供者的计算机资源中的哪些可用于满足用户的请求并且可在请求的使用时段期间把这些计算机资源分配给用户。
可以高度灵活地选择用户请求的使用时段和/或其它参数以满足用户的计算机资源需要。用户请求可以包括用于指定用户的偏好、限制和/或需求的一个或多个用户可选择参数。例如，用户请求可指定在使用时段期间执行某个特定程序(或多个特定程序)、在使用时段期间使用特定类型或地理分布的计算机资源、使用时段具有希望的开始日期、结束日期和/或持续时间等等。在某些实施方式中，计算资源提供者对可由用户提交的请求参数的范围施加很少的限制或没有限制。
作为一个可能的示例，用户可能够请求在可以包括在一个或多个地理位置的计算机资源的一组计算机资源上执行特定程序。用户可能够使用应用编程接口(API)或其它类型的计算接口把程序和程序执行参数传达到程序执行服务，用于生成虚拟化环境。例如，用户可以使用Web应用档案文件(如Java WAR文件)上传软件应用。接着，程序执行服务可以自动配置虚拟化环境(例如，“应用容器”)，其可是包括用于用户程序的应用软件堆栈以及用于在程序执行服务上执行用户程序的一个或多个基础结构服务的运行时环境。应用容器可包括用户可选择的操作系统(例如，Linux、Windows等)、应用服务器(例如，Apache Tomcat)、系统或应用配置等。虚拟化环境可被配置来寄宿在特定URL处。基础结构服务可包括但不限于：负载平衡器，其用于跨请求的计算资源分布工作量；负载调节器，其响应于负载或需求变化而调节计算资源；监控接口，其允许用户监控程序、数据存储资源(例如，可伸缩容量块存储装置)等的执行。在某些实施方案中，用户可能够选择可包括在容器中的一个或多个程序或服务。例如，用户可能够从多个数据库模型(例如，关系数据库、SQL数据库、Oracle数据库等)中进行选择。在某些实施方案中，基础结构服务可被自定义用于用户而非作为多个用户之间共享的资源。例如，在某些这类实施方案中，负载平衡器可被单独自定义用于用户应用而非在程序执行服务的多个用户之间进行共享或分布。
虚拟化环境的特定实施方案的可能优点是计算系统允许用户在希望的情况下具有灵活度和对应用容器的内容的控制。例如，在某些情况下，用户可以仅提供用户程序，并且计算系统可以自动管理由虚拟化环境使用的所有剩余基础结构的部署。在其它情况下，用户可以选择和/或配置包括在虚拟化环境中的一个或多个基础结构服务。在某些情况下，用户可以选择在不同地理区域中的计算资源，以便实现用于用户应用的希望的部署拓扑。可以以任何希望的方式配置或选择部署拓扑。例如，部署拓扑可以基于用户的客户的位置或区域，以便改善应用的性能(例如，减小网络延时)。作为另一示例，部署拓扑可以被配置来使用一个或多个区域或地带中的计算资源以例如通过改善应用对特定区域或地带中的计算资源的故障(例如，由于一个区域或地带中的不利天气状况)的复原能力来改善用户应用的稳健性。此外，在特定实施方案中，用户在执行程序期间保持对计算资源的访问，并且用户可以在执行期间控制某些或所有计算资源。例如，在某些这类实施方案中，用户在希望的情况下可以选择使用户应用脱离虚拟化环境。
在特定收费实施方式中，计算机资源提供者可以向用户收取针对请求的预约费(例如，当准许该请求时)和/或对于在使用时段期间提供可用计算机资源的使用的使用费。各种类型或级别的费用安排是有可能的。例如，可以由用户请求用于直接用户的计算机资源(“按需资源”)。在某些此类情况下，用户可能不会支付预约费但可能支付更高使用费。作为另一示例，用户可能会预约计算机资源以便在未来使用时段期间获得保证的可用性(“预约的资源”)。可以向用户收取进行预约的预约费并且还可基于在使用时段期间实际使用的计算机资源量向用户收取使用费。在某些这类情况下，预约资源的使用费可以从按需资源的使用费打折扣并且/或者可以在更接近使用时段之时而非更接近进行请求之时收取预约费。在另一示例中，计算机资源提供者可以允许用户对未使用的计算机资源(“现货资源”)进行竞价。在某些这类情况下，计算机资源提供者可以设置基于资源供应和需求而变化的现货价格，并且可使资源可用于其竞价达到或超过现货价格的那些用户。
现将参考旨在阐释而非限制本公开内容的特定实施例和实施方案描述本公开内容的各个方面。
图1是示意地示出了可经由通信网络108把计算资源提供给多个用户计算系统104的程序执行服务100的示例的网络图。例如，程序执行服务100可管理来自用户的请求以代表用户执行程序或程序集。至少一些用户计算系统104可在远离程序执行服务100之处。在此示例中，用户可使用计算系统104以通过通信网络108访问程序执行服务100。网络108可以例如是可能由各个不同方运营的链接网络的可公开访问的网络，如互联网。在其它实施方案中，网络108可以是专用网，例如非特权用户完全或部分无法访问的企业或大学网络。在其它实施方案中，网络108可以包括可访问互联网和/或从互联网访问的一个或多个专用网。
程序执行服务100提供用于管理多个用户的程序的执行的多种功能。在图1所示的示例中，程序执行服务100包括可代表用户执行程序的多个计算节点112。计算节点112可以包括一个或多个物理计算系统116和/或寄宿在一个或多个物理计算系统上的一个或多个虚拟机120。例如，主机计算系统可以提供多个虚拟机120并且包括用于管理这些虚拟机的虚拟机(“VM”)管理器124(例如，系统管理程序或其它虚拟机监控器)。
在图1所示的示例中，每个计算节点112具有可用于执行一个或多个程序的一定量的计算资源。每个计算节点112可以被配置来提供可以例如按处理容量(例如，处理单元的数量和/或大小)、存储器容量、存储容量、网络带宽容量、非网络通信带宽等中的一个或多个的组合来测量的特定量的程序执行容量。在某些实施方案中，程序执行服务100可以提供预先配置的计算节点112，其中每个预先配置的计算节点具有可用于代表用户执行程序的类似和/或等量的资源。在其它实施方案中，程序执行服务100可以提供对各个不同计算节点112的选择，用户可以从这些节点中选择节点来代表用户执行程序。在其它实施方案中，程序执行服务100可以生成特定于用户和用户程序的执行的各种计算节点。在某些这类实施方案中，计算节点112可以具有不同量和/或类型的计算资源(例如，处理单元的大小、速度和/或类型；处理单元的数量；存储器和/或存储装置的量；平台配置，如32位或64位操作系统等)。
程序执行服务100可以提供可访问提供数据、程序和其他用户信息的大容量存储的存储节点134的用户计算系统104。存储节点134可以包括任何类型的持久性数据存储装置，例如非易失性存储装置，如硬盘驱动器、光盘驱动器等。在图1所示的示例中，计算节点112可经由网络128访问存储节点134。网络128可以包括多个联网装置(未示出)，如交换机、边缘路由器、核心路由器等。网络128可以但不必须是与图1所示的网络108不同的网络。
程序执行服务100的用户可经由交互请求管理器130与程序执行服务100进行交互以请求程序执行服务的优选和/或所要资源(例如，程序执行容量和/或存储资源)。交互请求管理器130可经由网络128连接到计算节点112和存储节点134。交互请求管理器130可通过网络108从用户计算系统104接收资源请求。用户可以经由交互请求管理器130请求服务100提供用于代表用户(或由该用户授权的其他用户)执行程序的一个或多个计算节点。在某些实施方案中，用户可以经由交互请求管理器130请求服务100生成可管理和预约可能被需要用于代表用户执行程序的计算资源的一个或多个计算节点。在不同实施方案中，可以在请求代表用户执行程序之时和/或在一个或多个其它时间(如当用户进行注册和/或预订程序执行服务100的使用服务时)指定计算资源。在某些实施方案中，交互请求管理器130可以对一个或多个用户提供预订和/或注册服务，使得用户可以指定与代表用户执行的一个或多个程序有关的信息(例如，程序、源代码、一个或多个程序的可寻址位置等)、帐户信息(例如，用户名、记账信息等)、使用条款等。在某些实施方案中，在用户与交互请求管理器130进行交互以为了服务预订和/或注册之后，可以向用户发出与该用户相关并且要结合代表该用户执行程序所使用的一个或多个请求识别符(例如，密钥、令牌、用户名、密码等)。在其它实施方案中，可以提供除交互请求管理器130外的其它模块以执行与程序执行服务100的预订和/或注册服务有关的各种操作。
在某些实施方案中，由一或多个物理或虚拟计算系统执行或具体实施交互请求管理器130。例如，在某些实施方案中，具有包括CPU、I/O组件、存储装置和存储器的组件的服务器计算系统可以用来执行交互请求管理器130。I/O组件包括显示器、到网络128的网络连接、计算机可读介质驱动器和其它I/O装置(例如，键盘、鼠标、扬声器等)。交互请求管理器130的实施方案可以作为一个或多个可执行程序模块存储在服务器的存储器中，并且交互请求管理器130可通过网络128与计算节点112(例如，物理计算系统116和/或VM120)进行交互。交互请求管理器130可经由网络108从用户接收对程序执行服务100的计算资源的请求。
图2A是被配置用于管理对代表用户执行程序的请求的交互请求管理器130的实施方案的说明性组件的方框示意图。在这个实施方案中，交互请求管理器包括资源生成模块204、资源调度模块208、监控和报告模块212以及记账模块216。
资源生成模块204从用户接收对程序执行服务100的计算资源的请求，例如生成一个或多个计算节点以管理和预约可用于在使用时段期间执行用户程序的计算资源的请求。用户可以请求程序执行计算节点立即可用、可以请求在未来时间生成程序执行计算节点或可以请求基于其它条件生成程序执行计算节点。可以由资源生成模块204以各种方式接收对程序执行计算节点的请求。例如，可直接从用户(例如，经由由程序执行服务提供的交互控制台或其它GUI)、从自动开始执行其它程序或其自身的其它实例的用户的执行程序、从编程工具(例如，命令行工具、集成开发环境(例如，Eclipse)等)、从经由由程序执行服务提供的应用编程接口(“API”)(例如，使用Web服务的API)与交互请求管理器进行交互的程序等等接收请求。
对计算节点的请求可以包括计算节点的数量和/或类型、要使用的计算节点的最小和/或最大数量、在其期间保证计算节点的可用性的使用时段、请求的到期时间等。请求可以指定在使用时段期间仅在生成的计算节点上执行特定程序。对计算节点的请求可以包括其它类型的偏好、需求和/或限制(例如，存储容量或网络带宽的量、节点的地理和/或逻辑位置、终止条件等)。
在某些实施方案中，请求包括用户程序，并且资源生成模块204自动提供基础结构资源使得可由程序执行服务100执行用户程序。例如，资源生成模块204可以自动配置虚拟化环境，其可是包括用于用户程序的应用软件堆栈以及用于执行用户程序的一个或多个基础结构服务的运行时环境。虚拟化环境可包括用户可选择的操作系统(例如，Linux、Windows等)、应用服务器(例如，Apache Tomcat)和系统或应用配置等。虚拟化环境可被配置来寄宿在特定URL处。基础结构服务可包括但不限于：负载平衡器，其用于跨请求的计算资源分布工作量(如应用流量)；负载调节器，其响应于负载或需求变化而调节计算资源；监控接口，其允许用户监控程序、数据存储资源(例如，可伸缩容量块存储装置)等的执行。在某些实施方案中，用户可能够选择由程序执行服务100提供且可包括在虚拟化环境中的一个或多个程序或服务。例如，用户可能够从多个数据库模型(例如，关系数据库、SQL数据库、Oracle数据库等)中进行选择。在某些实施方案中，基础结构服务可被自定义用于用户而非作为程序执行服务100的多个用户之间共享的资源。例如，在某些这类实施方案中，负载平衡器可被单独自定义用于用户应用而非在程序执行服务100的多个用户之间被共享或分布。在某些实施方案中，虚拟化环境可被配置来允许用户应用产生进程线程或打开用于与其它应用进行通信的任何合适端口(例如，除端口80外的端口)。例如，虚拟化环境可以支持超文本传输协议安全端口(HTTPS)。
交互请求管理器130的特定实施方案的可能优点是用户可以仅把自定义应用上传到程序执行服务100，且接着交互请求管理器130可生成包括用来在程序执行服务100上执行用户自定义应用的资源和应用堆栈的虚拟化环境。使得能够执行用户程序所需的与交互请求管理器130的用户交互量范围可以从相对少的交互(例如，与使用JavaWAR文件上传程序差不多)到相对高度的交互(例如，用户可以自定义大致上虚拟化环境的所有方面)。因此，交互请求管理器130的实施方案可以提供虚拟化环境的相对高度的灵活性和可自定义能力。在某些实施方式中，程序执行服务100(或其它提供者)可以使一个或多个标准或默认虚拟化环境可供服务100的用户使用。
对程序执行容量的请求可以指定使用时段，在该使用时段期间可使计算资源可用于用户。在某些实施方式中，程序执行服务100可以对用户提供在使用时段期间请求的计算资源将可用的保证。在不同实施方案中，可以以不同方式指定使用时段。例如，使用时段可以指示在开始时间开始并且在到期时间结束的指定持续时间(例如，小时、天、周、月、年等数目)。开始时间和/或到期时间可以包括一天中的时间(例如，早上7:00)和日期(例如，2010年1月23日)。开始时间可在某个未来时间，例如未来的一小时或数小时、一天或数天、一周或数周或者一年或数年。在某些情况下，未来使用时段的开始时间可以比请求(或请求的确认)时间至少晚特定时段，例如未来的至少一小时、一天、一周、一月或更长时间。
在交互请求管理器130的某些实施方式中，延迟时段可以发生在由交互请求管理器130接收到对计算节点的请求的时间与准许该请求的时间或将确认提供给用户的时间之间。例如，延迟时段可能是因由交互请求管理器130或程序执行服务100执行的各种处理操作、管理操作、会计操作等而发生。在某些这类实施方式中，请求的使用时段指的是在这些延迟时段被考虑之后(或大致在其之后)的时段。例如，在特定实施方式中，延迟时段可以是数秒、数分钟或几小时。在特定的此类实施方式中，请求的未来使用时段的开始时间可以是超过这样的延迟时段的未来时间。在交互请求管理器130的特定其它实施方式中，开始时间可以是由程序执行服务100提交、接收或准许用户请求的时间。
在某些情况下，请求可以指示使用时段直到被用户明确终止才到期(例如，可以不设置到期时间)。持续时间可以在从一小时到一周、一周到一月、一月或数月、一年或数年或某个其它持续时间的范围中。在某些实施方案中，使用时段可以包括上述(或其它)因素的组合以便对用户提供调度计算机资源中的高度灵活性。
在某些情况下，在程序服务100生成满足用户请求的计算节点之后，用户可对程序或一个或多个计算节点的设置进行一个或多个更改。例如，用户可以改变与一个或多个计算节点相关的存储装置或网络带宽的量或类型、可以改变与一个或多个计算节点相关的使用时段或终止条件、可以终止程序的执行等。用户可以各种方式请求一个或多个更改，如本文所述。例如，用户可经由GUI、命令行工具、集成开发环境(例如，Eclipse)、API调用等请求一个或多个更改。
在由资源生成模块204接收到对计算节点的请求之后，资源调度模块208可调度和分配计算节点以满足请求。例如，在接收到对程序执行容量的请求之后，资源调度模块208可以确定用于程序执行的一个或多个计算节点112。在某些实施方案中，即使请求是针对未来的可用性，也在请求之时执行对要使用的计算节点112的确定。在其它实施方案中，计算节点的确定推迟到后来某个时间(例如，在使用时段开始之前)，使得确定可基于那时可用的信息。
资源调度模块208可以分配来自计算节点112的一个或多个计算节点以供用户在请求的使用时段期间利用。在某些实施方案中，分配一个或多个特定计算节点112(例如，一个或多个特定物理计算节点116和/或虚拟计算节点120)以供用户(或授权用户)在整个使用时段期间优先使用。
在其它实施方案中，资源调度模块208可以分配来自计算节点池的计算节点，而非把特定计算节点分配给特定用户用于使用时段。计算节点池可以包括有足够资源用于满足用户或授权用户的程序执行请求的适量计算节点。在某些这类实施方案中，在使用时段期间接收到执行一个或多个程序的请求之后，可以从计算节点池中选择足以执行该一个或多个程序的适量计算节点，并且在选定节点上开始程序执行。在选定量的计算节点不再用于执行请求之后(例如，在请求的执行终止和/或完成之后)，可将这些计算节点返回到计算节点池以供用户或其它授权用户在使用时段期间使用。在某些实施方式中，分配计算节点池的节点以供用户(或授权用户)专用、排他使用或优先使用。在某些这类实施方式中，用户(或授权用户)未在使用的计算节点池的节点可以分配给其他用户用于程序执行，并且如果用户(或授权用户)需要这些节点来满足请求的容量，那么可以终止其他用户的程序。
在使用时段期间，用户(或授权用户)可以把对在分配的计算节点上执行一个或多个程序的请求提交到交互请求管理器130。程序执行请求可以包括用于开始一个或多个程序的执行的各种信息，如要执行的程序的可执行或其它副本、先前为执行而注册或以其它方式供应的程序的指示以及要同时执行的程序实例的数量(例如，表示成实例的单个希望数量、希望实例的最小和最大数量等)。请求可以指定用于执行程序的计算节点的数量和/或类型、要使用的计算节点的最小和/或最大数量、请求的到期时间、执行的优选执行时间和/或时段等。请求可以包括对于执行一个或多个程序的其它类型的偏好和/或需求(例如，资源分配、执行的地理和/或逻辑位置、执行与其它程序和/或计算节点的接近度、时间相关的条件、终止条件等)。
资源调度模块208可以以不同方式(包括基于请求中指定或以其它方式指定的针对程序和/或相关用户的任何偏好、限制和/或需求)确定哪些分配的计算节点要用于执行每个程序实例。例如，如果确定了用于执行程序实例的优选和/或所要资源(例如，存储器和/或存储装置；CPU类型、周期或其它性能度量；网络容量；平台类型等)的条件，那么用于执行程序实例的适当计算节点的确定可以至少部分基于计算节点是否具有可用于满足这些资源条件的足够资源。
在使用时段期间，由资源生成模块204接收到的代表用户或授权用户在分配的计算节点上执行程序的请求可以导致在分配的计算节点中的一个或多个上开始程序执行。在某些情况下，可以在使用时段期间接收足够的对程序执行的请求使得所有分配的计算节点是在使用中(例如，执行程序)。在使用时段期间接收到的对程序执行的另外的请求可以被拒绝，或者可以被资源调度模块208保留或排入队列直到一个或多个节点变得可用为止。
在某些实施方案中，资源调度模块208可以执行关于满足请求的一个或多个管理操作，例如强制执行与请求相关的使用时段或其它限制、释放计算资源来满足请求、授权和/或认证请求和/或请求用户等。例如，在某些情况下，来自用户的请求可以指定在使用时段期间仅特定用户被授权可以访问分配的计算节点。在某些情况下，来自用户的请求可以指定在使用时段期间仅在分配的节点上执行一个或多个指定程序。其它限制可包括对程序执行持续时间的限制、对在程序执行期间发生的费用的限制等。一个或多个上述限制(或其它限制)的组合可以由用户指定并由交互请求管理器130在允许访问分配的计算节点之前检查。
在某些实施方式中，在使用时段到期之后，资源调度模块208释放分配的计算节点(例如，专用计算节点或计算节点池中的节点)以供其他用户使用。在某些这类实施方式中，终止在使用时段到期时执行的程序。在其它实施方式中，不终止此类执行的程序并且允许其继续执行直到更高优先级的用户请求访问计算节点为止。
在图2A所示的实施方案中，监控和报告模块212在使用时段期间监控和追踪分配的计算节点的使用并且向用户报告有关使用的信息和统计数据。例如，监控和报告模块212可以追踪在分配的计算节点上执行程序的用户的使用模式。使用模式可包括访问节点的用户的数量或身份、程序执行的开始/结束时间和持续时间和/或其他用户指定模式或诊断。在某些此类实施方案中，监控和报告模块212可以把交互反馈(包括例如何时程序可能在计算节点上执行和/或要执行多久、实际或预测的节点需求等的指示)提供给用户。在某些实施方案中，监控和报告模块212可生成详述或汇总使用统计数据的报表并经由电子邮件把该报表传达给用户或提供经由Web服务的对报表、使用统计数据或交互反馈的访问。
某些程序执行服务100可收费，使得服务代表用户执行程序或分配计算资源来获取由用户支付的一笔或多笔费用。在某些收费服务中，交互请求管理器130可以可选地包括图2A中示意地示出的记账模块216。例如，在某些实施方案中，可以基于被分配用于代表用户执行一个或多个程序的程序执行容量的量和/或类型(如基于被分配用于执行用户的程序的处理单元的数量、存储器的量、存储装置的量、网络资源的量等中的一项或多项)对用户收取费用。在某些实施方案中，费用可以基于其它因素，如用来执行程序的计算资源的各种特征，例如基于CPU能力或性能、平台类型(例如，32位、64位等)等。在某些实施方案中，可以基于多种使用因素(如每次使用服务的价格、使用计算服务的单位时间的价格、每个使用的存储装置的价格、每个传入和/或传出的数据的价格等)收取费用。
费用可以基于诸如与程序执行容量请求有关的各种其它因素和/或与执行程序有关的各种特性(例如，执行连续性、容错等)。在至少某些实施方案中，程序执行服务可以提供用于代表多个用户执行程序的各种服务或功能级别、类型和/或等级中的一个或多个，且在某些这类实施方案中，各种费用可以与各种服务级别、类型和/或等级相关。记账模块216可监控和追踪计算机资源的使用并计算应收取的使用费。
可以对用户收取用于预约计算容量的固定费用支付(例如，预付或周期性地开账单)，且在某些情况下对用户收取其它使用费(例如，与各种资源(如电、物理机柜空间、网络利用等)的使用相关的可变费用)。例如，当提出在使用时段期间利用计算资源的请求时或当程序执行服务100准许该请求时，可以对提出请求的用户收取预约费。预约费可以基于例如请求的资源量、使用时段的开始时间和/或持续时间、服务是否将被需要来购买额外计算硬件来满足请求等。例如，如果开始时间是在不久的将来，那么预约费可以比开始时间是在更远的将来的情况下更高。此外，可以对用户(或授权用户)收取针对在使用时段期间利用资源的使用费。例如，可以基于例如程序执行的持续时间、用来执行程序的资源的类型等对请求在使用时段期间在分配的计算节点上执行程序的授权用户收取使用费。如上文论述，各种类型或级别的费用安排是有可能的。例如，可以不对请求用于立即使用的按需资源的用户收取预约费，但是可以对其收取比对支付预约费以预约用于未来使用时段的资源的用户收取的使用费更高的使用费。
记账模块216可以追踪使用、计算适当费用和开账单给用户和/或授权用户(或把记账信息提供给会计模块或服务)。在某些情况下，用户请求可以指示把授权用户产生的某些或所有使用费开账单给用户而非授权用户。在某些此类情况下，记账模块216可以适当地在用户和授权用户之间进行费用分配。
可与图2A所示不同地配置交互请求管理器130。例如，可组合、重新安排、添加或删除由所示模块提供的各种功能。在某些实施方案中，额外或不同的处理器或模块可以执行参考图2A中所示的示例性实施方案描述的某些或所有功能。许多实施方式变化是有可能的。
虽然按照程序执行容量的管理进行了大致描述，但是在其它实施方案中，交互请求管理器130可被配置来管理供多个用户使用的额外或替代类型的计算相关资源和对这些计算相关资源的可用性提供灵活的保证。这些资源可以包括一个或多个以下项：持久性数据存储能力(例如，在非易失性存储器装置如硬盘驱动器上)；临时数据存储能力(例如，在易失性存储器如RAM上)；消息排队和/或传递能力；其它类型的通信能力(例如，网络套接字、虚拟通信电路等)；数据库管理能力；专用带宽或其它网络相关资源；非网络带宽；输入装置能力；输出装置能力；CPU周期或其它指令执行能力；等。
图2B是示意地示出了用户计算系统104a与程序执行服务100的交互请求管理器130之间的示例性交互的网络图。程序执行服务100可把计算资源提供给多个用户计算系统104a、104b、...、104n。在这个说明性示例中，程序执行服务100对用户计算系统104a、104b、...、104n提供API以用编程方式与交互请求管理器130进行交互。图2B说明性地示出了用户计算系统104a使用请求API传达对在程序执行服务100的计算资源上执行程序的请求。请求API(1)是经由网络108传达并且(2)是由程序执行服务100的交互请求管理器130接收。请求API可包括关于用户的请求的信息，例如用户的程序(例如，要执行的程序的可执行或其它副本或先前为执行而注册或以其它方式供应的程序的指示等)、计算节点的数量和/或类型、要使用的计算节点的最小和/或最大数量、请求在其期间计算节点的可用性(或计算节点被保证可用)的使用时段、请求的到期时间等。请求API可包括关于请求的其它信息，例如与用户程序或用户对计算资源的需求有关的偏好、需求和/或限制。例如，请求API可包括关于在使用时段期间准许哪些用户访问计算资源、可在使用时段期间执行哪个程序(或哪些程序)、存储容量或网络带宽的量、节点的地理和/或逻辑位置、终止条件等的信息。
在图2B所示的示例中，交互请求管理器130经由网络108传达作为由用户计算系统104a接收的(4)的确认API(3)。确认API可包括与在请求的使用时段期间(或在不同的使用时段期间)程序执行服务100是否可准许请求(全部或部分)有关的信息。确认API还可以包括与用户请求相关且要在使用时段期间结合访问分配的计算资源而使用的一个或多个请求识别符(例如，密钥、令牌、用户名、密码等)。确认API可包括其它信息，例如确认可满足用户的偏好、需求和/或限制的信息。
图2B说明性地示出了用户计算系统104a经由API与程序执行服务100的交互请求管理器130以编程方式进行交互。程序执行服务100可经由API从其它用户计算系统(例如，用户计算系统104b、...、104n)接收对服务的计算资源的可用性的请求并且可经由API把确认传达给其它用户计算系统(在图2B的说明性示例中未示出这样的请求和确认)。交互请求管理器130(或其它合适组件)可调度来自多个用户计算系统的请求并且可在各个请求的使用时段期间分配计算资源。程序执行服务100与用户计算系统之间的其它类型的编程交互(此外或替代地)是有可能的。例如，可直接从用户(例如，经由由程序执行服务提供的交互控制台或其它GUI)、从自动开始执行其它程序或其自身的其它实例的用户的执行程序等接收请求。
作为用户计算系统104a与程序执行服务100的交互请求管理器130之间的交互的额外说明性示例，用户可以请求交互请求管理器130生成用于用户程序的应用容器。使用请求API(1)，用户可诸如经由Java WAR文件上传程序。用户可使用Web浏览器、命令行工具或集成开发环境上传程序。程序可以是用户希望的任何应用。例如，程序可以是Web应用。接着，交互请求管理器130可接收程序(例如，请求API(2))。接着，交互请求管理器30可以通过自动生成用于用户程序的应用容器来处理用户请求。应用容器可包括使用户程序能够可伸缩和容错的用于用户的其它服务。在某些实施方案中，交互请求管理器30在没有来自用户的进一步输入的情况下自动生成应用容器(包括基础结构服务)。在其它实施方案中，用户可选择(例如，通过选择和/或配置包括在容器中的基础结构服务)对应用容器的生成施加控制度。可创建代表用户生成应用堆栈、自动伸缩、负载平衡、版本控制、存储和/或其它服务的应用容器。例如，交互请求管理器130可以生成Linux操作系统、Apache Tomcat服务器、Oracle关系数据库的实例以及一个或多个服务，例如负载平衡、监控和自动伸缩，用于执行用户程序。接着，交互请求管理器130可以经由确认API(3)和(4)向用户确认应用容器的创建。
在接收到确认API(4)之后，用户可以在本地改变程序。例如，用户可以使用集成开发环境在本地更新和/或测试应用并且可以(例如，经由后续请求API(1)、(2))再次把更新的程序发送到交互请求管理器130。如上文论述，交互请求管理器130可以(在具有或没有进一步的用户输入的情况下)自动生成或更新用于修订的程序的应用容器。在生成应用容器之后，用户可改变由交互请求管理器130生成的服务。用户可以在用户程序的执行开始之前或之后使用网页、交互控制台等进行这些更改。例如，用户可以优选Windows操作系统而非Linux操作系统或优选Microsoft SQL数据库而非Oracle数据库并且可例如使用API或交互控制台请求交互请求管理器130进行这些更改。作为另一示例，用户可能希望改变Apache Tomcat服务器实例的设置(如使用的端口)并且使用例如API或交互控制台请求更改。作为另一示例，用户可以优选关掉负载平衡并且可请求交互请求管理器130停用负载平衡。因此，用户可以请求任何类型的希望的变化，并且交互请求管理器130可尝试实施用户希望的变化。用户还可与任何其他用户共享应用容器。用户还可以随时请求删除用户程序和取消分配应用容器的计算资源。
如本文论述，应用容器还可以包括用于用户程序的监控服务。监控服务可监控应用容器内的用户程序和/或服务的性能。例如，监控服务可以监控负载平衡和/或自动伸缩服务的性能或监控服务器的性能。监控服务可以把性能的报告提供给用户。如果在执行用户程序期间发生任何问题，那么监控服务还可采取纠正措施。例如，如果监控服务检测到用户程序没有响应(例如，一个或多个计算节点已出现故障)，那么监控服务可重启该一个或多个计算节点和/或请求额外计算节点来接替有故障的节点。作为另一示例，如果对用户应用的需求增加使得存在影响用户程序的性能的风险，那么监控服务可代表用户程序分配额外计算资源和/或向用户通知该分配。用户可向交互请求管理器130指定如何或何时被通知。例如，用户可以使用API或交互控制台指定当出现任何错误时交互请求管理器130把电子邮件消息传达给用户。作为另一示例，用户可以指定交互请求管理器130把关于任何错误的电子邮件消息传达给用户并且在采取任何纠正措施之前从用户接收授权。用户可以任何希望的方式配置通知设置。前述旨在作为用户与交互请求管理器130的各个实施方案之间的交互的类型的说明性示例且并非旨在限制。
图3A和图3B是示意地示出了交互请求管理器例程300的示例性实施方案的流程图。在某些实施方式中，例程300可通过参考图1和图2描述的程序执行服务100的交互请求管理器130的实施方案提供。示例性例程300是按照如下情形描述的：第一用户请求在使用时段期间的程序执行容量(例如，在程序执行服务的一个或多个计算节点上执行程序)(参见例如图3A)，并且第二用户请求对在使用时段期间的程序执行容量进行更改(参见例如图3B)。如下文将论述的，第一用户和第二用户不需要是不同用户并且可指同一用户。示例性例程300旨在说明而非限制交互请求管理器130的各个方面。
参考图3A，在方框304处，由交互请求管理器130从第一用户接收对在使用时段期间由程序执行服务100执行程序的请求。如上文论述，请求可以包括程序、计算节点的数量和/或类型、要使用的计算节点的最小和/或最大数量、在其期间要保证计算节点的可用性的未来使用时段、请求的到期时间等。请求可以指定在使用时段期间仅准许特定用户访问计算节点或在使用时段期间仅在计算节点上执行特定程序。对计算资源的请求可以包括其它类型的偏好、需求和/或限制(例如，存储器或存储容量的量、网络带宽、节点的地理和/或逻辑位置、终止条件等)。
在方框308处，交互请求管理器130确定是否可满足请求。例如，在某些情况下，程序执行服务100可以具有用于满足请求的足够容量，或者使用时段是在足够久远的未来，使得可获取额外计算资源(如果需要)。如果可满足请求，那么在方框320处把可满足请求的确认提供给第一用户。例如，可以经由电子邮件给第一用户传达消息，或者程序执行服务可以经由Web服务或经由由程序执行服务提供的交互控制台或其它GUI提供确认。可以经由如参考图2B论述的确认API提供确认。
如果无法全部或部分地满足请求，那么例程300继续进行到方框312，在方框312，交互请求管理器尝试确定是否可与所请求不同地全部或部分地满足请求。例如，例程300可以确定可在不同的使用时段期间满足请求或可在请求的使用时段期间部分地(例如，使用比所请求少的节点)满足请求。在某些情况下，在方框312处，例程300可以确定可取决于一个或多个额外事件在请求的使用时段期间满足请求。例如，例程300可以确定可取决于由程序执行服务获取足够的额外计算资源并取决于在请求的使用时段开始之前已交付和安装这些额外资源来满足请求。在方框316处，例程300把关于与请求有关的一个或多个可能的修改或偶发事件的信息提供给第一用户且接着例程300结束。例如，消息可以经由电子邮件传达给第一用户，或者程序执行服务可以经由Web服务或经由由程序执行服务提供的交互控制台或其它GUI提供信息。可以经由API提供信息(参见例如图2B)。第一用户可使用关于与请求有关的可能的修改或偶发事件的信息并且接着如果需要的话重新提交新请求。
在所示实施方案中，如果可满足请求，那么例程300继续进行到方框324，在方框324，交互请求管理器生成包括用户程序和用于在程序执行服务上执行该程序的合适基础结构的虚拟化环境(例如，应用容器)。交互请求管理器确定可执行虚拟化环境的一组计算节点。在某些实施方式中，用户可以请求要用于执行程序的计算节点的特定数量、地理分布等。计算节点组中计算节点的数量(和/或地理分布)可以但无需与用户请求的计算节点的数量不同。例如，组中计算节点的数量可以小于请求的数量，因为如果在使用时段期间实际请求的计算节点的数量大于组中计算节点的数量，程序执行服务也具有足够的额外计算容量。在其它情况下，组中计算节点的数量可以大于请求的数量，以尝试确保将存在足够计算节点来可靠地满足在使用时段期间的预期需求(例如，提供储备节点，以防组中一个或多个计算节点发生故障)。在不同实施方案中，用户可对与虚拟化环境或节点组相关的设置(例如，存储容量或网络带宽的量或类型、节点的地理和/或逻辑位置、终止条件等)进行一个或多个更改。例程300可验证可履行或满足这一个或多个更改。在方框328处，分配可供第一用户在使用时段期间利用的计算节点组。如上文参考资源调度模块208所论述的，分配的计算节点组可以包括特定计算节点或选自计算节点池的节点。
参考图3B，在使用时段期间，第二用户可以进行与在已分配给第一用户的计算节点上第一用户的程序的执行相关的一个或多个更改。如上述，第二用户可以但无需与第一用户不同。在一个示例性情形中，第一用户可能已请求执行程序。在使用时段期间，第一用户可提交对在计算节点上执行的程序的设定的一个或多个更改。在这个示例性情形中，第二用户将与第一用户是同一用户。在某些这类情形中，第一用户的请求可指示仅第一用户(且没有其他用户)可对程序执行或分配的计算节点进行更改。
在其它示例性情形中，第二用户可以是与第一用户不同的用户。例如，第一用户的请求可以指示特定的第二用户被授权进行相对于在使用时段期间在计算节点上执行的程序的更改。在这个示例性情形中，第二用户可是与第一用户不同的用户。例如，第一用户可以是最初上传并请求程序执行容量的应用开发者，而第二用户可以是监控正在进行的程序执行的网络管理员或应用开发管理员。
在另一示例性情形中，第一用户的请求可以指示程序执行服务100的任何用户皆可对在使用时段期间的程序执行进行更改，前提是这个(第二)用户要提交正确识别符信息。在此类情形中，第一用户可以把识别符(例如，密钥、令牌、密码等)传达给各第二用户。接着，这些第二用户中的任何一个将在请求在使用时段期间进行更改时使用程序识别符。在某些这类情形中，如果用户请求了对在分配的计算节点上执行的程序的更改但却不具有(或未随请求一起提交)程序识别符，那么交互请求管理器将拒绝请求。
在方框336处，交互请求管理器可对第二用户提供接口以使第二用户能够请求对被提供用于在计算节点上执行程序的虚拟化环境进行一个或多个更改。如上文论述，可以多种方式提供该接口。例如，可通过经由交互控制台或其它GUI、命令行工具、网页和集成开发环境等提供该接口。在方框340处，由交互请求管理器接收来自第二用户的更改请求。例如，该请求可以是终止程序的执行实例、启动一个或多个新实例来执行程序、修改一个或多个实例的运行时设置等。如上文论述，请求可以是更改分配的计算节点，例如资源分配的类型或量、执行的地理和/或逻辑位置、时间相关条件、终止条件等。
在方框344处，交互请求管理器确定是否可准许或满足来自第二用户的更改请求。例如，第一用户的请求可能已指定对可能进行的对计算节点的更改施加一个或多个要求或限制，并且如果第二用户的请求不满足某些或所有要求或限制，那么可以拒绝第二用户的请求。在其它情况下，对计算节点的更改可能需要额外资源或计算节点，使得无法在第二用户请求之时满足第二用户的请求。在这种情况下，在各个实施方案中，交互请求管理器可以拒绝第二用户的请求或可以保留第二用户的请求或把其排入队列直到可产生供第二用户使用的足够计算节点为止。在某些实施方式中，交互请求管理器可以把有关何时可满足请求的预计时间、可如何修改请求使得请求可被立即满足等的信息提供给第二用户。
在方框348处，如果可满足来自第二用户的程序执行请求，那么程序执行服务在可能正在执行第一用户的程序的计算节点上实施一个或多个更改。
参考图3A，例程300在方框352处继续进行，在方框352处，交互请求管理器监控和追踪在被分配用于程序执行的节点组上的程序执行的使用。如参考监控和报告模块212论述的，交互请求管理器监控在分配的计算节点上执行程序的用户(例如，第一用户)的使用模式。使用模式可包括对分配的节点进行更改的用户的数量或身份、程序执行的开始/结束时间和持续时间和/或其它用户指定的模式或诊断。在某些实施方案中，在方框352处，可以把交互反馈(包括例如可能是在何时在分配的计算节点上执行程序和/或要执行多久、对节点的实际或预测需求等的指示)提供给第一用户或第二用户。在某些实施方案中，可生成详述或汇总使用统计数据的报表并经由电子邮件或经由由程序执行服务提供的交互控制台或其它GUI把报表提供给第一用户。
在程序执行服务要收费的实施方案中，在方框356处，交互请求管理器(或其它会计或记账管理器)可计算一笔或多笔费用。例如，可以向第一用户收取对于请求计算容量的预约费，并且可以向第一用户或第二用户收取针对在使用时段期间在分配的节点上执行程序的使用费。
在方框360处，可选地可由例程300的实施方案执行其它服务。例如，可执行包括在使用时段到期之后释放计算节点以供其他用户使用的各种内务操作。接着，例程300继续进行到方框364处并结束。
图3C是示意地示出了通过其交互请求管理器的实施方案可与用户计算系统进行通信以用于确认对计算资源的请求的例程370的示例的流程图。在某些实施方式中，可通过参考图1和图2描述的程序执行服务100的交互请求管理器130的实施方案实施例程370。如参考图3A的方框304和308论述的，交互请求管理器可从第一用户接收对在使用时段期间的程序执行容量的请求并且可确定是否可满足该对程序执行容量的请求。
在图3C的方框374处继续进行，如果可满足请求，那么交互请求管理器把确认提供给第一用户。例如，如参考图2B和图3A的方框320论述的，确认可包括与在请求的使用时段期间(或在不同的使用时段期间)程序执行服务是否可准许请求(全部或部分地)有关的信息。确认还可以包括与第一用户的请求相关并且要结合在使用时段期间对计算资源进行更改而使用的一个或多个请求识别符(例如，密钥、令牌、用户名、密码等)。确认可包括其它信息，例如确认可满足用户的偏好、需求和/或限制的信息。在某些实施方式中，经由确认API传达确认(参见例如图2B)。
在某些情况下，在确认请求之时(在方框374处)与使用时段开始之时之间第一用户的程序执行需求可以改变。在某些这类情况下，第一用户可以把请求的修改提交给交互请求管理器。例如，修改的请求可以包括关于要执行的修改的程序、计算节点的修改数量或与计算节点相关的设置、使用时段的修改的开始时间、终止时间和/或持续时间或第一用户的其它偏好或需求的变化的信息。修改的请求可以是全部或部分地取消初始的请求。相应地，在此类情况下，在方框378处，交互请求管理器可以从第一用户接收修改的请求并且确定是否可(全部或部分地)满足修改的请求。
在方框382处，交互请求管理器把更新的确认提供给第一用户，更新的确认可包含与在请求的使用时段期间(其可能已在修改的请求中被修改)程序执行服务是否可准许修改的请求(全部或部分地)或在不同的使用时段期间程序执行服务是否可准许修改的请求(全部或部分地)有关的信息。更新的确认还可以包括与第一用户的修改的请求相关并且要结合在(可能更新的)未来使用时段期间对计算资源进行一个或多个更改而使用的一个或多个更新的请求识别符(例如，密钥、令牌、用户名、密码等)。更新的确认可包括其它信息，例如确认可满足用户的(可能更新的)偏好、需求和/或限制的信息。在某些实施方式中，更新的确认经由确认API传达到第一用户(参见例如图2B)。
在方框386处，交互请求管理器可在使用时段期间从第二用户接收对对分配给第一用户的计算容量进行一个或多个更改的请求。如参考图3B大致描述，交互请求管理器可以处理来自第二用户的请求。例如，在某些实施方式中，从第二用户接收的请求可以包括用于在方框374处(和/或如果从第一用户接收到修改的请求那么在方框382处)传达给第一用户的分配的计算容量的请求识别符。
图4是示意地示出了通过其交互请求管理器的实施方案可与用户计算系统进行通信以用于提供供用户选择的多个虚拟化环境(例如，应用容器)的例程400的示例的流程图。在某些实施方式中，可通过参考图1和图2描述的程序执行服务100的交互请求管理器130的实施方案实施例程400。如参考图3B的方框340论述的，交互请求管理器可被配置来接收与为用户生成的虚拟化环境有关的至少一个更改。
在图4的方框404处继续进行，交互请求管理器从第一用户接收共享虚拟化环境的请求。例如，在交互请求管理器已生成用于第一用户的虚拟化环境之后，第一用户可以决定与其他用户共享该虚拟化环境。为了启用虚拟化环境共享，第一用户可以把共享虚拟化环境的请求传达给交互请求管理器。该请求可以指定要共享哪些虚拟化环境。在某些实施方式中，经由请求API传达请求(参见例如图2B)。
在示例性例程400的方框408处，交互请求管理器把虚拟化环境添加到虚拟化环境列表以创建虚拟化环境的更新的列表。更新的列表可以包括可以提供给程序执行服务的其他用户的虚拟化环境的列表。在某些情况下，更新的列表可以包括不仅由第一用户而且由程序执行服务和/或由程序执行服务的其他用户提供的虚拟化环境。某些虚拟化环境可以免费提供给用户，而其它环境可收费才可用。更新的列表可以包括例如虚拟化环境的描述、生成虚拟化环境的用户的名字、使用虚拟化环境的费用、对适合于与虚拟化环境一起使用的应用的类型的推荐、到类似或有关虚拟化环境的链接、与虚拟化环境的性能有关的统计数据、虚拟化环境的属性的设置等。在某些实施方式中，在交互请求管理器创建更新的列表之后，将确认经由确认API传达给第一用户(参见例如图2B)。
在方框412处，交互请求管理器可以把应用容器的更新的列表提供给程序执行服务的第二用户。第二用户可与第一用户相同或不同。在某些实施方式中，交互请求管理器经由Web接口、GUI、API调用等把更新的列表提供给第二用户。例如，第二用户可以请求交互请求管理器在使用时段期间执行程序(参见例如图3A)。在请求过程期间，交互请求管理器可以提供虚拟化环境的更新的列表，使得第二用户可请求应将哪个虚拟化环境用于执行第二用户的应用。在某些实施方式中，第二用户可以提供用于执行第二用户的应用的一个或多个偏好或需求，并且交互请求管理器可以推荐满足某些或所有第二用户的偏好或需求的一个或多个虚拟化环境。例如，第二用户可以指示对第二用户的应用的预期需求、用户的客户的地理位置、希望的程序执行容量(例如，CPU、存储器、存储装置、带宽等)等等。交互请求管理器可以识别匹配某些或所有第二用户的偏好的一个或多个虚拟化环境并且把这个推荐提供给第二用户。在某些情况下，交互请求管理器可以根据满足第二用户的偏好或需求的可能性对推荐的虚拟化环境进行排名或排序。
在示例性例程400的方框412处，交互请求管理器可以从第二用户接收对更新的列表中包括的至少一个虚拟化环境的选择。在某些实施方式中，第二用户可以在选择之前或之后对一个或多个虚拟化环境进行至少一个更改。例如，第二用户可以在把关于第二用户的选择的信息提供给交互请求管理器之前改变特定虚拟化环境的一个或多个设置。接着，交互请求管理器可以使用选定的虚拟化环境执行第二用户的应用的实例(参见例如图3A)。
在某些实施方案中，在第二用户已选择至少一个虚拟化环境之后，可将费用提供给提供了选定的虚拟化环境的第一用户。例如，如上文论述，可以向第二用户收取用于使用至少一个选定的虚拟化环境执行用户的应用的一笔或多笔费用(例如，预约费、使用费等)。一笔或多笔费用的一部分可以提供给第一用户。例如，提供的费用可以是固定费用或向第二用户收取的某些或所有费用的一定比例。提供的费用还可以是基于第二用户已对至少一个选定的虚拟化环境进行的更改的数目、已选择特定虚拟化环境的用户的数量、特定虚拟化环境已存在或被使用的持续时间等的分级费用。
在示例性例程400的某些实施方式中，第二用户可以选择改变选定的虚拟化环境。例如，第一用户可能已提供基于例如Java的虚拟化环境，而第二用户可以修改该环境使得其是基于另一编程语言(例如，Ruby)。第二用户可以选择与程序执行服务的其他用户共享包括由第二用户进行的更改的经过修改的虚拟化环境。第二用户可以请求交互请求管理器与其他用户共享这个虚拟化环境(参见例如方框404)并且(可选地)被提供使用费。例如，第三用户可以选择第一用户的虚拟化环境，第一用户的虚拟化环境的第二用户的修改版本和/或由程序执行服务和/或由其他用户提供的虚拟化环境。相应地，可以开发包括很多种虚拟化环境(免费和/或收费)的市场并且使其对程序执行服务的用户开放。
在某些实施方案中，可提供被配置来管理用户程序的执行的计算系统。该系统可以包括被配置来管理程序执行服务的用户的程序的执行的交互请求管理器组件。交互请求管理器组件可以被配置来从程序执行服务的用户接收生成用于在使用时段期间执行用户应用的虚拟化环境的请求，该请求包括允许程序执行服务至少部分基于用户应用来执行程序的与用户应用相关的信息，程序执行服务提供可被配置来执行程序执行服务的多个用户的程序并生成虚拟化环境的多个计算节点，虚拟化环境包括一个或多个程序服务，程序服务包括：(1)负载平衡器，其被配置来跨虚拟化环境的计算资源分布工作量，(2)监控接口，其被配置来允许用户监控程序的执行，(3)负载调节器，其被配置来响应于对程序执行的需求的变化而调节计算资源，和(4)多个数据库管理服务。交互请求管理器组件还可以被配置来在一个或多个计算节点的组上执行虚拟化环境的一个或多个实例、确定对虚拟化环境或对在执行虚拟化环境的一个或多个实例期间在一个或多个计算节点的组上执行虚拟化环境的一个或多个实例的至少一个更改。交互请求管理器组件还可以被配置来在执行虚拟化环境的一个或多个实例期间实施至少一个更改。
在某些实施方式中，可以提供被配置来管理用户程序的执行的计算系统。该系统可以包括被配置来管理程序执行服务的用户的程序的执行的交互请求管理器组件。交互请求管理器组件可以被配置来从第一用户接收与程序执行服务的用户共享为第一用户生成的第一虚拟化环境的请求、更新可供程序执行服务的用户选择的虚拟化环境的列表以提供包括与第一虚拟化环境有关的信息的虚拟化环境的更新的列表，以及把虚拟化环境的更新的列表提供给程序执行服务的用户。交互请求管理器组件还可以被配置来从程序执行服务的第二用户接收对更新的列表中包括的第一虚拟化环境的选择并生成用于第二用户的第二虚拟化环境，第二虚拟化环境至少部分基于第一虚拟化环境。
前面段落中描述的每个过程、方法和算法可以以由一个或多个计算机或计算机处理器执行的代码模块的形式具体实施并且通过这样的代码模块完全或部分地自动化。代码模块可以存储在任何类型的非瞬时性计算机可读介质或计算机存储装置(如硬盘驱动器、固态存储器、光盘等等)上。系统和模块还可以作为生成的数据信号(例如，作为载波或者其它模拟或数字传播信号的一部分)在多种计算机可读传输介质(包括基于无线和基于有线/电缆的介质)上传输，并且可以采取多种形式(例如，作为单用或复用模拟信号的一部分、或作为多个离散数字数据包或帧)。可以部分或全部以专用电路的形式实施过程和算法。公开的过程和过程步骤的结果可以永久或以其它方式存储在任何类型的非瞬时性计算机存储装置(例如易失性或非易失性存储装置)中。
上文描述的各个特征和过程可以独立于彼此使用，或者可以以各种方式进行组合。所有可能的组合和子组合旨在落于本公开内容的范围内。此外，在某些实施方式中可以省略特定方法或过程块(方框)。本文描述的方法和过程也不限于任何特定顺序，并且与其相关的块或状态可按其它适当顺序执行。例如，描述的块或状态可以按具体公开的次序外的次序执行，或者多个块或状态可以组合成单个块或状态。示例性块或状态可以串行、并行或以某种其它方式执行。块或状态可以添加到公开的示例性实施方案中或从其中移除。可以与所描述不同地配置本文描述的示例性系统和组件。例如，元件可以添加到公开的示例性实施方案中、从其中移除或与其相比而进行重新安排。
除非另有特别说明或在如使用的上下文内另外所理解，否则本文使用的条件语言(如尤其是“可”、“可能”、“可以”、“例如”等等)通常旨在表达特定实施方案包括而其它实施方案不包括特定特征、元件和/或步骤。因此，这样的条件语言通常并非旨在暗示特征、元件和/或步骤是以任何方式对一个或多个实施方案所必需的或一个或多个实施方案必定包括用于在具有或没有程序设计者输入或提示的情况下决定是否包括这些特征、元件和/或步骤或其是否要在任何特定实施方案中被执行的逻辑。术语“包括”(“comprising”、“including”)、“具有”(“having”)等等是同义的且以开放方式按包括之意使用，并且不排除额外元件、特征、动作、操作等等。此外，术语“或”是以其包括之意(而非以其排除之意)使用，使得当例如用来连接一系列元件时，术语“或”意指其中的一个、某些或所有元件。
虽然已描述特定示例性实施方案，但是这些实施方案仅按举例方式来呈现，且并非旨在限制本文公开的发明的范围。因此，前文描述中的任何部分并非旨在暗示任何特定特征、特性、步骤、模块或块是必要的或不可缺少的。实际上，本文描述的新颖方法和系统可以以多种其它形式具体实施；此外，可以在不脱离本文公开的本发明的精神的情况下对本文描述的方法和系统的形式进行各种省略、置换和改变。权利要求书和其等效物旨在涵盖诸如将落于本文公开的特定发明的范围和精神内的形式或修改。

Claims (15)

1.一种用于动态管理对由程序执行服务提供的计算容量的请求的计算机实施方法，所述方法包括：
在提供多个计算节点的程序执行服务的控制下，其中每个所述计算节点可被配置来执行所述程序执行服务的多个用户的一个或多个程序，
从所述程序执行服务的用户接收生成用于在请求时段期间执行用户应用的虚拟化环境的请求，所述请求包括与所述用户应用相关且允许所述程序执行服务至少部分基于所述用户应用执行程序的信息；
自动生成所述虚拟化环境，所述虚拟化环境包括由所述程序执行服务提供的一个或多个程序服务，所述程序服务包括：(1)负载平衡器，其被配置来跨所述多个计算节点中的一个或多个或者所述虚拟化环境的一个或多个实例分布工作量，(2)监控接口，其被配置来允许所述用户监控所述程序的执行，(3)负载调节器，其被配置来响应于对所述程序的执行的需求的变化而调节所述程序执行服务的计算资源，和(4)多个数据库管理服务；
从所述程序执行服务的所述多个计算节点确定可满足所述用户的所述请求的一组计算节点；
在所述请求时段期间在所述一组计算节点上执行所述虚拟化环境的一个或多个实例；
从所述用户接收对所述虚拟化环境或对在所述请求时段期间在所述一组计算节点上执行所述虚拟化环境的所述一个或多个实例进行至少一个更改的请求；和
在所述请求时段期间自动实施所述至少一个更改。
2.根据权利要求1所述的方法，其还包括对所述用户提供用于请求生成所述虚拟化环境或请求改变所述虚拟化环境的计算接口。
3.根据前述权利要求中任一项所述的方法，其中生成所述虚拟化环境的所述请求还包括对由所述程序执行服务使用以下项中的一个或多个的请求：(1)操作系统，(2)应用服务器，(3)一个或多个计算节点，其具有所希望的程序执行容量或地理分布，和(4)所述多个数据库管理服务中的至少一个。
4.根据前述权利要求中任一项所述的方法，其还包括：
自动识别所述一个或多个实例中的至少一个的故障；和
自动启动用于在所述一组计算节点上执行所述虚拟化环境的至少一个新实例。
5.根据前述权利要求中任一项所述的方法，其还包括：
自动识别所述一组计算节点中的至少一个的故障；
自动分配来自所述程序执行服务的所述多个计算节点的至少一个新计算节点；和
在所述至少一个新计算节点上自动执行所述虚拟化环境的至少一个新实例。
6.一种被配置来动态管理对计算服务的计算容量的请求的系统，所述系统包括：
计算机存储器，其被配置来存储用于动态管理对计算服务的计算容量的请求的一个或多个程序模块，所述计算服务包括多个计算节点；和
交互请求管理器，其被配置来与所述计算机存储器进行通信和执行存储在所述计算机存储器中的所述一个或多个程序模块，所述程序模块被配置来：
从用户接收生成用于在使用时段期间执行用户应用的虚拟化环境的请求，所述请求包括与所述用户应用相关且允许所述计算服务至少部分基于所述用户应用执行程序的信息；
生成所述虚拟化环境，所述虚拟化环境包括一个或多个程序服务，所述程序服务包括：(1)负载平衡器，其被配置来跨所述多个计算节点中的一个或多个或者所述虚拟化环境的一个或多个实例分布工作量，(2)监控接口，其被配置来允许所述用户监控所述程序的执行，(3)负载调节器，其被配置来响应于对所述程序的执行的需求的变化而调节计算资源，和(4)多个数据库管理服务；
在所述使用时段期间在所述多个计算节点中的一个或多个的组上执行所述虚拟化环境的一个或多个实例；
从所述用户接收对所述虚拟化环境或对在所述使用时段期间在所述多个计算节点中的所述一个或多个的组上执行所述虚拟化环境的所述一个或多个实例进行至少一个更改的请求；和
在所述使用时段期间实施所述至少一个更改。
7.根据权利要求6所述的系统，其中所述计算服务的所述多个计算节点包括一个或多个物理计算系统。
8.根据权利要求7所述的系统，其中所述多个计算节点包括寄宿在所述一个或多个物理计算系统上的一个或多个虚拟机。
9.根据权利要求6到8中任一项所述的系统，其中所述使用时段包括要开始执行所述一个或多个实例的开始时间和要结束所述一个或多个实例的执行的结束时间。
10.根据权利要求6到9中任一项所述的系统，其中所述程序模块还被配置来从所述计算服务的所述多个计算节点确定可满足对生成所述虚拟化环境的所述用户的所述请求的一组计算节点。
11.根据权利要求10所述的系统，其中所述虚拟化环境包括所述负载平衡器，并且所述负载平衡器被配置来在所述使用时段期间跨所述多个计算节点中的所述一个或多个的组平衡所述虚拟化环境的所述一个或多个实例的执行。
12.根据权利要求10所述的系统，其中程序模块还被配置来：
识别所述虚拟化环境的所述一个或多个实例中的至少一个的故障；和
在所述多个计算节点中的所述一个或多个的组上启动所述虚拟化环境的至少一个新实例。
13.根据权利要求10所述的系统，其中所述程序模块还被配置来当在所述虚拟化环境的所述一个或多个实例的使用中或在所述多个计算节点中的所述一个或多个的组的使用中检测到错误时通知所述用户。
14.根据权利要求10所述的系统，其中对所述虚拟化环境进行至少一个更改的所述请求包括对在在与所述多个计算节点中的所述一个或多个的组中的所述计算节点中的至少一些不同的地理位置的计算节点上执行所述虚拟化环境的至少一个实例的请求。
15.根据权利要求6到14中任一项所述的系统，其中生成所述虚拟化环境的所述请求还包括对在一个或多个希望的地理区域中执行所述用户应用的请求。
CN201180043637.3A 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统 Active CN103098027B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610670439.4A CN106055412B (zh) 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/887,241 2010-09-21
US12/887,241 US8661120B2 (en) 2010-09-21 2010-09-21 Methods and systems for dynamically managing requests for computing capacity
PCT/US2011/045241 WO2012039834A1 (en) 2010-09-21 2011-07-25 Methods and systems for dynamically managing requests for computing capacity

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN201610670439.4A Division CN106055412B (zh) 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统

Publications (2)

Publication Number Publication Date
CN103098027A true CN103098027A (zh) 2013-05-08
CN103098027B CN103098027B (zh) 2016-08-31

Family

ID=44504214

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201180043637.3A Active CN103098027B (zh) 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统
CN201610670439.4A Active CN106055412B (zh) 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201610670439.4A Active CN106055412B (zh) 2010-09-21 2011-07-25 用于动态管理计算容量请求的方法和系统

Country Status (8)

Country Link
US (2) US8661120B2 (zh)
EP (1) EP2619665B1 (zh)
JP (2) JP5746351B2 (zh)
CN (2) CN103098027B (zh)
AU (1) AU2011306014B2 (zh)
CA (1) CA2811041C (zh)
SG (1) SG188502A1 (zh)
WO (1) WO2012039834A1 (zh)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107111507A (zh) * 2014-09-30 2017-08-29 亚马逊技术有限公司 线程化作为服务
CN107209682A (zh) * 2014-12-05 2017-09-26 亚马逊技术有限公司 资源调整的自动管理
CN107885595A (zh) * 2016-09-30 2018-04-06 华为技术有限公司 一种资源分配方法、相关设备及系统
CN108369534A (zh) * 2015-12-21 2018-08-03 亚马逊技术有限公司 代码执行请求路由
CN110050261A (zh) * 2016-12-08 2019-07-23 起元技术有限责任公司 计算资源分配
CN112156453A (zh) * 2020-10-21 2021-01-01 腾讯科技（深圳）有限公司 实例自适应调整方法、装置、计算机可读存储介质及设备
US11354169B2 (en) 2016-06-29 2022-06-07 Amazon Technologies, Inc. Adjusting variable limit on concurrent code executions
US11388210B1 (en) 2021-06-30 2022-07-12 Amazon Technologies, Inc. Streaming analytics using a serverless compute system
US11461124B2 (en) 2015-02-04 2022-10-04 Amazon Technologies, Inc. Security protocols for low latency execution of program code
US11550713B1 (en) 2020-11-25 2023-01-10 Amazon Technologies, Inc. Garbage collection in distributed systems using life cycled storage roots
US11593270B1 (en) 2020-11-25 2023-02-28 Amazon Technologies, Inc. Fast distributed caching using erasure coded object parts
US11714682B1 (en) 2020-03-03 2023-08-01 Amazon Technologies, Inc. Reclaiming computing resources in an on-demand code execution system
US11714675B2 (en) 2019-06-20 2023-08-01 Amazon Technologies, Inc. Virtualization-based transaction handling in an on-demand network code execution system
US11836516B2 (en) 2018-07-25 2023-12-05 Amazon Technologies, Inc. Reducing execution times in an on-demand network code execution system using saved machine states
US11861386B1 (en) 2019-03-22 2024-01-02 Amazon Technologies, Inc. Application gateways in an on-demand network code execution system
US11875173B2 (en) 2018-06-25 2024-01-16 Amazon Technologies, Inc. Execution of auxiliary functions in an on-demand network code execution system
US11943093B1 (en) 2018-11-20 2024-03-26 Amazon Technologies, Inc. Network connection recovery after virtual machine transition in an on-demand network code execution system
US11968280B1 (en) 2021-11-24 2024-04-23 Amazon Technologies, Inc. Controlling ingestion of streaming data to serverless function executions

Families Citing this family (160)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE48714E1 (en) * 2009-06-26 2021-08-31 Turbonomic, Inc. Managing application performance in virtualization systems
US9830566B1 (en) * 2014-11-10 2017-11-28 Turbonomic, Inc. Managing resources in computer systems using action permits
US9852011B1 (en) * 2009-06-26 2017-12-26 Turbonomic, Inc. Managing resources in virtualization systems
US9830192B1 (en) * 2014-11-10 2017-11-28 Turbonomic, Inc. Managing application performance in virtualization systems
US10673952B1 (en) 2014-11-10 2020-06-02 Turbonomic, Inc. Systems, apparatus, and methods for managing computer workload availability and performance
US10346775B1 (en) 2015-11-16 2019-07-09 Turbonomic, Inc. Systems, apparatus and methods for cost and performance-based movement of applications and workloads in a multiple-provider system
USRE48663E1 (en) * 2009-06-26 2021-07-27 Turbonomic, Inc. Moving resource consumers in computer systems
US9858123B1 (en) * 2014-11-10 2018-01-02 Turbonomic, Inc. Moving resource consumers in computer systems
US9888067B1 (en) * 2014-11-10 2018-02-06 Turbonomic, Inc. Managing resources in container systems
USRE48680E1 (en) * 2009-06-26 2021-08-10 Turbonomic, Inc. Managing resources in container systems
US11272013B1 (en) 2009-06-26 2022-03-08 Turbonomic, Inc. Systems, apparatus, and methods for managing computer workload availability and performance
US10191778B1 (en) 2015-11-16 2019-01-29 Turbonomic, Inc. Systems, apparatus and methods for management of software containers
US10552586B1 (en) 2015-11-16 2020-02-04 Turbonomic, Inc. Systems, apparatus and methods for management of computer-based software licenses
US8667171B2 (en) * 2010-05-28 2014-03-04 Microsoft Corporation Virtual data center allocation with bandwidth guarantees
US8661120B2 (en) * 2010-09-21 2014-02-25 Amazon Technologies, Inc. Methods and systems for dynamically managing requests for computing capacity
KR20130099993A (ko) * 2010-10-13 2013-09-06 제트티이 (유에스에이) 잉크. 멀티미디어 멀티-파티 피어링(m2p2)을 위한 시스템 및 방법
US9483313B2 (en) * 2010-10-19 2016-11-01 Microsoft Technology Licensing, Llc Availability management for reference data services
US8346921B1 (en) * 2010-11-19 2013-01-01 Amazon Technologies, Inc. Predictive governing of dynamic modification of program execution capacity
US9135037B1 (en) 2011-01-13 2015-09-15 Google Inc. Virtual network protocol
US9069890B2 (en) * 2011-04-20 2015-06-30 Cisco Technology, Inc. Ranking of computing equipment configurations for satisfying requirements of virtualized computing environments based on an overall performance efficiency
DE102012103654A1 (de) * 2011-05-17 2012-11-22 International Business Machines Corp. Installieren und Prüfen einer Anwendung auf einer stark genutzten Computerplattform
US8943574B2 (en) 2011-05-27 2015-01-27 Vantiv, Llc Tokenizing sensitive data
CN103064771A (zh) * 2011-10-19 2013-04-24 精英电脑股份有限公司 同步进行计算机的检测及映像下载的方法及其计算机系统
US20130132621A1 (en) * 2011-11-23 2013-05-23 Ankit Sihare Method and apparatus to share hardware resources across storage controllers within a system using resource sharing module
US8914497B1 (en) * 2011-12-15 2014-12-16 Amazon Technologies, Inc. System and method for throttling service requests having non-uniform workloads
KR101696698B1 (ko) * 2011-12-23 2017-01-17 한국전자통신연구원 상호 의존 관계가 있는 컴포넌트 분배 및 관리 방법
US8983860B1 (en) 2012-01-30 2015-03-17 Google Inc. Advertising auction system
GB2499237A (en) * 2012-02-10 2013-08-14 Ibm Managing a network connection for use by a plurality of application program processes
US20130218705A1 (en) * 2012-02-22 2013-08-22 Elwha Llc Systems and methods for accessing camera systems
US9864669B1 (en) * 2012-02-22 2018-01-09 Amazon Technologies, Inc. Managing data center resources
JP2013186745A (ja) * 2012-03-08 2013-09-19 Fuji Xerox Co Ltd 処理システム及びプログラム
US8677449B1 (en) 2012-03-19 2014-03-18 Google Inc. Exposing data to virtual machines
US9509632B2 (en) * 2012-04-25 2016-11-29 Empire Technology Development Llc Workload prediction for network-based computing
US10555145B1 (en) 2012-06-05 2020-02-04 Amazon Technologies, Inc. Learned configuration of modification policies for program execution capacity
US20150220358A1 (en) * 2012-06-27 2015-08-06 Qatar Foundation Arrangement and method for the allocation of resources of a plurality of computing devices
US9842001B2 (en) * 2012-06-27 2017-12-12 International Business Machines Corporation System level acceleration server
US9116753B2 (en) 2012-07-08 2015-08-25 Dell Products L.P. System and method for dynamic scaling based on a reference architecture
US8805921B2 (en) * 2012-08-20 2014-08-12 International Business Machines Corporation System and method supporting application solution composition on cloud
US9940162B2 (en) 2012-09-28 2018-04-10 Cycle Computing, Llc Realtime optimization of compute infrastructure in a virtualized environment
EP2735956B3 (en) * 2012-11-23 2021-03-24 Telefonaktiebolaget LM Ericsson (publ) Adaptable Input
SG11201505650QA (en) * 2013-01-22 2015-08-28 Amazon Tech Inc Instance host configuration
US9002982B2 (en) 2013-03-11 2015-04-07 Amazon Technologies, Inc. Automated desktop placement
US10313345B2 (en) 2013-03-11 2019-06-04 Amazon Technologies, Inc. Application marketplace for virtual desktops
US9148350B1 (en) 2013-03-11 2015-09-29 Amazon Technologies, Inc. Automated data synchronization
US10142406B2 (en) 2013-03-11 2018-11-27 Amazon Technologies, Inc. Automated data center selection
US9262505B2 (en) * 2013-05-17 2016-02-16 Amazon Technologies, Inc. Input-output prioritization for database workload
US10686646B1 (en) 2013-06-26 2020-06-16 Amazon Technologies, Inc. Management of computing sessions
US20150019705A1 (en) * 2013-06-26 2015-01-15 Amazon Technologies, Inc. Management of computing sessions
US10623243B2 (en) 2013-06-26 2020-04-14 Amazon Technologies, Inc. Management of computing sessions
KR102012259B1 (ko) * 2013-08-21 2019-08-21 한국전자통신연구원 클라우드 가상 기지국의 자원을 제어하는 방법 및 장치
US10122650B2 (en) 2013-09-20 2018-11-06 Oracle International Corporation System and method for tenant management in a cloud platform environment
US9749257B2 (en) * 2013-10-24 2017-08-29 Kcura Llc Method and apparatus for dynamically deploying software agents
JP6273773B2 (ja) * 2013-10-30 2018-02-07 富士ゼロックス株式会社 情報処理装置、情報処理システムおよびプログラム
US9424429B1 (en) 2013-11-18 2016-08-23 Amazon Technologies, Inc. Account management services for load balancers
US9842152B2 (en) 2014-02-19 2017-12-12 Snowflake Computing, Inc. Transparent discovery of semi-structured data schema
US9948514B2 (en) * 2014-06-30 2018-04-17 Microsoft Technology Licensing, Llc Opportunistically connecting private computational resources to external services
US10129112B2 (en) * 2014-08-14 2018-11-13 At&T Intellectual Property I, L.P. Workflow-based resource management
US10389697B1 (en) * 2014-08-27 2019-08-20 Amazon Technologies, Inc. Software container activation and throttling
US9436443B2 (en) * 2014-08-28 2016-09-06 At&T Intellectual Property I, L.P. Software defined network controller
US9715402B2 (en) 2014-09-30 2017-07-25 Amazon Technologies, Inc. Dynamic code deployment and versioning
US9830193B1 (en) 2014-09-30 2017-11-28 Amazon Technologies, Inc. Automatic management of low latency computational capacity
US9678773B1 (en) * 2014-09-30 2017-06-13 Amazon Technologies, Inc. Low latency computational capacity provisioning
US10048974B1 (en) 2014-09-30 2018-08-14 Amazon Technologies, Inc. Message-based computation request scheduling
US9323556B2 (en) 2014-09-30 2016-04-26 Amazon Technologies, Inc. Programmatic event detection and message generation for requests to execute program code
US9146764B1 (en) 2014-09-30 2015-09-29 Amazon Technologies, Inc. Processing event messages for user requests to execute program code
US9256467B1 (en) * 2014-11-11 2016-02-09 Amazon Technologies, Inc. System for managing and scheduling containers
US9871745B2 (en) 2014-11-12 2018-01-16 International Business Machines Corporation Automatic scaling of at least one user application to external clouds
US20190028721A1 (en) * 2014-11-18 2019-01-24 Elwha Llc Imaging device system with edge processing
US10609270B2 (en) 2014-11-18 2020-03-31 The Invention Science Fund Ii, Llc Devices, methods and systems for visual imaging arrays
US10169104B2 (en) * 2014-11-19 2019-01-01 International Business Machines Corporation Virtual computing power management
US10516733B2 (en) * 2014-11-25 2019-12-24 Auth0, Inc. Multi-tenancy via code encapsulated in server requests
DE102015015196A1 (de) 2014-12-16 2016-06-16 Canon Kabushiki Kaisha Verwaltungssystem und Steuerungsverfahren für Verwaltungssystem
CN105791339B (zh) * 2014-12-18 2020-03-31 中兴通讯股份有限公司 资源操作请求的处理方法及装置
US9588790B1 (en) 2015-02-04 2017-03-07 Amazon Technologies, Inc. Stateful virtual compute system
US9471775B1 (en) * 2015-02-04 2016-10-18 Amazon Technologies, Inc. Security protocols for low latency execution of program code
WO2016139621A1 (en) * 2015-03-03 2016-09-09 Calgary Scientific Inc. Methods and systems for requesting access to limited service instances
US9851933B2 (en) * 2015-03-25 2017-12-26 International Business Machines Corporation Capability-based abstraction of software-defined infrastructure
US9785476B2 (en) 2015-04-08 2017-10-10 Amazon Technologies, Inc. Endpoint management system and virtual compute system
US9930103B2 (en) 2015-04-08 2018-03-27 Amazon Technologies, Inc. Endpoint management system providing an application programming interface proxy service
JP2016218530A (ja) 2015-05-14 2016-12-22 キヤノン株式会社 リクエスト振り分けシステム、管理システム、およびその制御方法
US10362099B2 (en) 2015-06-23 2019-07-23 Amazon Technologies, Inc. Multiple instance types serving a single workload or application
KR101665461B1 (ko) * 2015-06-26 2016-10-19 건국대학교 산학협력단 실시간성이 요구되는 어플리케이션이 탑재된 머신의 가상화 장치 및 방법
US9772792B1 (en) * 2015-06-26 2017-09-26 EMC IP Holding Company LLC Coordinated resource allocation between container groups and storage groups
US9392471B1 (en) 2015-07-24 2016-07-12 Viavi Solutions Uk Limited Self-optimizing network (SON) system for mobile networks
US9678796B2 (en) 2015-07-24 2017-06-13 Xerox Corporation Methods and systems for determining computational resource requirement
CN106528262B (zh) * 2015-09-10 2019-10-22 华为技术有限公司 镜像部署方法、装置
US10498807B2 (en) * 2015-10-19 2019-12-03 Citrix Systems, Inc. Multi-tenant multi-session catalogs with machine-level isolation
US10120707B2 (en) * 2015-12-08 2018-11-06 Paypal, Inc. Deployment of development environments
US10754701B1 (en) * 2015-12-16 2020-08-25 Amazon Technologies, Inc. Executing user-defined code in response to determining that resources expected to be utilized comply with resource restrictions
US9811434B1 (en) 2015-12-16 2017-11-07 Amazon Technologies, Inc. Predictive management of on-demand code execution
JP6749094B2 (ja) * 2015-12-18 2020-09-02 エヌ・ティ・ティ・コミュニケーションズ株式会社 コンテナ収容装置、コンテナ作成方法、及びプログラム
US10261782B2 (en) 2015-12-18 2019-04-16 Amazon Technologies, Inc. Software container registry service
US10067801B1 (en) 2015-12-21 2018-09-04 Amazon Technologies, Inc. Acquisition and maintenance of compute capacity
US10891145B2 (en) 2016-03-30 2021-01-12 Amazon Technologies, Inc. Processing pre-existing data sets at an on demand code execution environment
US11132213B1 (en) 2016-03-30 2021-09-28 Amazon Technologies, Inc. Dependency-based process of pre-existing data sets at an on demand code execution environment
US10135837B2 (en) 2016-05-17 2018-11-20 Amazon Technologies, Inc. Versatile autoscaling for containers
CN114697189A (zh) * 2016-08-27 2022-07-01 Nicira股份有限公司 网络控制系统到公共云中的扩展
US10367757B2 (en) 2016-08-27 2019-07-30 Nicira, Inc. Extension of network control system into public cloud
US10884787B1 (en) 2016-09-23 2021-01-05 Amazon Technologies, Inc. Execution guarantees in an on-demand network code execution system
US10871995B2 (en) 2016-09-29 2020-12-22 Amazon Technologies, Inc. Managed container instances
US11119813B1 (en) 2016-09-30 2021-09-14 Amazon Technologies, Inc. Mapreduce implementation using an on-demand network code execution system
US10733591B2 (en) * 2016-10-11 2020-08-04 International Business Machines Corporation Tiered model for event-based serverless computing
US10412022B1 (en) 2016-10-19 2019-09-10 Amazon Technologies, Inc. On-premises scaling using a versatile scaling service and an application programming interface management service
EP4220630A1 (en) 2016-11-03 2023-08-02 Samsung Electronics Co., Ltd. Electronic device and controlling method thereof
US10409642B1 (en) 2016-11-22 2019-09-10 Amazon Technologies, Inc. Customer resource monitoring for versatile scaling service scaling policy recommendations
US11194562B2 (en) * 2017-05-19 2021-12-07 Blackberry Limited Method and system for hardware identification and software update control
US10481954B2 (en) * 2017-06-09 2019-11-19 Bank Of America Corporation System and method of managing computing resources
WO2019031783A1 (en) 2017-08-09 2019-02-14 Samsung Electronics Co., Ltd. ON-DEMAND FUNCTION SUPPLY SYSTEM (FAAS), AND METHOD OF OPERATING THE SYSTEM
KR102120868B1 (ko) * 2017-08-09 2020-06-09 삼성전자주식회사 서비스형 함수(FaaS)를 제공하는 시스템 및 그 동작방법
CN114584465A (zh) * 2017-08-27 2022-06-03 Nicira股份有限公司 在公共云中执行在线服务
US10564946B1 (en) 2017-12-13 2020-02-18 Amazon Technologies, Inc. Dependency handling in an on-demand network code execution system
US10353678B1 (en) 2018-02-05 2019-07-16 Amazon Technologies, Inc. Detecting code characteristic alterations due to cross-service calls
US10733085B1 (en) 2018-02-05 2020-08-04 Amazon Technologies, Inc. Detecting impedance mismatches due to cross-service calls
US10831898B1 (en) 2018-02-05 2020-11-10 Amazon Technologies, Inc. Detecting privilege escalations in code including cross-service calls
US10725752B1 (en) 2018-02-13 2020-07-28 Amazon Technologies, Inc. Dependency handling in an on-demand network code execution system
US10776091B1 (en) 2018-02-26 2020-09-15 Amazon Technologies, Inc. Logging endpoint in an on-demand code execution system
US10649749B1 (en) 2018-06-26 2020-05-12 Amazon Technologies, Inc. Cross-environment application of tracing information for improved code execution
US11146569B1 (en) 2018-06-28 2021-10-12 Amazon Technologies, Inc. Escalation-resistant secure network services using request-scoped authentication information
US10949237B2 (en) 2018-06-29 2021-03-16 Amazon Technologies, Inc. Operating system customization in an on-demand network code execution system
KR20200013162A (ko) 2018-07-19 2020-02-06 삼성전자주식회사 전자 장치 및 그의 제어 방법
US11099917B2 (en) 2018-09-27 2021-08-24 Amazon Technologies, Inc. Efficient state maintenance for execution environments in an on-demand code execution system
US11243953B2 (en) 2018-09-27 2022-02-08 Amazon Technologies, Inc. Mapreduce implementation in an on-demand network code execution system and stream data processing system
US10884812B2 (en) 2018-12-13 2021-01-05 Amazon Technologies, Inc. Performance-based hardware emulation in an on-demand network code execution system
US11010188B1 (en) 2019-02-05 2021-05-18 Amazon Technologies, Inc. Simulated data object storage using on-demand computation of data objects
US11086675B2 (en) * 2019-03-06 2021-08-10 The Toronto-Dominion Bank Processing future-dated resource reservation requests
US11397622B2 (en) * 2019-06-03 2022-07-26 Amazon Technologies, Inc. Managed computing resource placement as a service for dedicated hosts
US11190609B2 (en) 2019-06-28 2021-11-30 Amazon Technologies, Inc. Connection pooling for scalable network services
US11159528B2 (en) 2019-06-28 2021-10-26 Amazon Technologies, Inc. Authentication to network-services using hosted authentication information
US11115404B2 (en) 2019-06-28 2021-09-07 Amazon Technologies, Inc. Facilitating service connections in serverless code executions
US11546271B2 (en) 2019-08-09 2023-01-03 Oracle International Corporation System and method for tag based request context in a cloud infrastructure environment
US11646975B2 (en) 2019-08-09 2023-05-09 Oracle International Corporation System and method for compartment quotas in a cloud infrastructure environment
US11669365B1 (en) 2019-08-26 2023-06-06 Amazon Technologies, Inc. Task pool for managed compute instances
US20210064441A1 (en) 2019-08-30 2021-03-04 Oracle International Corporation System and method for cross region resource management for regional infrastructure resources in a cloud infrastructure environment
US11360948B2 (en) 2019-09-27 2022-06-14 Amazon Technologies, Inc. Inserting owner-specified data processing pipelines into input/output path of object storage service
US11106477B2 (en) 2019-09-27 2021-08-31 Amazon Technologies, Inc. Execution of owner-specified code during input/output path to object storage service
US10996961B2 (en) 2019-09-27 2021-05-04 Amazon Technologies, Inc. On-demand indexing of data in input path of object storage service
US11416628B2 (en) 2019-09-27 2022-08-16 Amazon Technologies, Inc. User-specific data manipulation system for object storage service based on user-submitted code
US11263220B2 (en) 2019-09-27 2022-03-01 Amazon Technologies, Inc. On-demand execution of object transformation code in output path of object storage service
US11394761B1 (en) 2019-09-27 2022-07-19 Amazon Technologies, Inc. Execution of user-submitted code on a stream of data
US11023311B2 (en) 2019-09-27 2021-06-01 Amazon Technologies, Inc. On-demand code execution in input path of data uploaded to storage service in multiple data portions
US10908927B1 (en) 2019-09-27 2021-02-02 Amazon Technologies, Inc. On-demand execution of object filter code in output path of object storage service
US11656892B1 (en) 2019-09-27 2023-05-23 Amazon Technologies, Inc. Sequential execution of user-submitted code and native functions
US11386230B2 (en) 2019-09-27 2022-07-12 Amazon Technologies, Inc. On-demand code obfuscation of data in input path of object storage service
US11250007B1 (en) 2019-09-27 2022-02-15 Amazon Technologies, Inc. On-demand execution of object combination code in output path of object storage service
US11055112B2 (en) 2019-09-27 2021-07-06 Amazon Technologies, Inc. Inserting executions of owner-specified code into input/output path of object storage service
US11023416B2 (en) 2019-09-27 2021-06-01 Amazon Technologies, Inc. Data access control system for object storage service based on owner-defined code
US11550944B2 (en) 2019-09-27 2023-01-10 Amazon Technologies, Inc. Code execution environment customization system for object storage service
US11119826B2 (en) 2019-11-27 2021-09-14 Amazon Technologies, Inc. Serverless call distribution to implement spillover while avoiding cold starts
US10942795B1 (en) 2019-11-27 2021-03-09 Amazon Technologies, Inc. Serverless call distribution to utilize reserved capacity without inhibiting scaling
US11336721B2 (en) * 2019-11-29 2022-05-17 Amazon Technologies, Inc. Dynamic resource movement in heterogeneous computing environments including cloud edge locations
CN111083240A (zh) * 2019-12-31 2020-04-28 江苏徐工信息技术股份有限公司 一种结合容器技术实现的智能前端引流系统
US11561815B1 (en) 2020-02-24 2023-01-24 Amazon Technologies, Inc. Power aware load placement
US11188391B1 (en) 2020-03-11 2021-11-30 Amazon Technologies, Inc. Allocating resources to on-demand code executions under scarcity conditions
US11775640B1 (en) 2020-03-30 2023-10-03 Amazon Technologies, Inc. Resource utilization-based malicious task detection in an on-demand code execution system
US11704145B1 (en) 2020-06-12 2023-07-18 Amazon Technologies, Inc. Infrastructure-based risk diverse placement of virtualized computing resources
US20210406089A1 (en) * 2020-06-29 2021-12-30 Citrix Systems, Inc. Determination of Cloud Resource Utilization
CN114168307A (zh) * 2020-09-10 2022-03-11 华为云计算技术有限公司 创建实例的方法、设备以及系统
US11575684B2 (en) 2020-09-22 2023-02-07 Bank Of America Corporation System for secure resource allocation communication with a network
CN114866495A (zh) * 2021-02-03 2022-08-05 中国移动通信有限公司研究院 资源预留方法、装置、网络节点、计算节点及存储介质
US11496556B1 (en) * 2021-04-26 2022-11-08 Cisco Technology, Inc. Service provider selection for application-driven routing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007035544A2 (en) * 2005-09-15 2007-03-29 3Tera, Inc. Apparatus, method and system for rapid delivery of distributed applications
WO2007120663A2 (en) * 2006-04-10 2007-10-25 Merrill Lynch & Co., Inc. Virtual service switch
CN101094158A (zh) * 2006-06-19 2007-12-26 国际商业机器公司 数据处理的方法和系统

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2675968B2 (ja) * 1992-08-20 1997-11-12 インターナショナル・ビジネス・マシーンズ・コーポレイション 加入者分散２相コミット・プロトコルの拡張機能
US6854114B1 (en) * 1999-10-21 2005-02-08 Oracle International Corp. Using a virtual machine instance as the basic unit of user execution in a server environment
JP2001222436A (ja) * 1999-12-30 2001-08-17 Internatl Business Mach Corp <Ibm> リソースの自動化管理をサポートする方法、そのシステム、およびその記録媒体
US7228326B2 (en) * 2002-01-18 2007-06-05 Bea Systems, Inc. Systems and methods for application deployment
US7680933B2 (en) * 2003-12-15 2010-03-16 International Business Machines Corporation Apparatus, system, and method for on-demand control of grid system resources
WO2006021129A1 (en) * 2004-08-25 2006-03-02 Intel Corporation Method and apparatus of resource access synchronization in a basic input and output system of a computer system
US20060136897A1 (en) * 2004-12-22 2006-06-22 Chaitanya Laxminarayan System and method for a packaging and deployment mechanism for Web service applications
US8429630B2 (en) * 2005-09-15 2013-04-23 Ca, Inc. Globally distributed utility computing cloud
US7761538B2 (en) * 2006-08-30 2010-07-20 Microsoft Corporation Dynamically configuring, allocating and deploying computing systems
US8291108B2 (en) * 2007-03-12 2012-10-16 Citrix Systems, Inc. Systems and methods for load balancing based on user selected metrics
US7793265B2 (en) * 2007-06-04 2010-09-07 International Business Machines Corporation Method, apparatus and computer program product for optimizing file accesses for an application executing in a virtual container
US8893141B2 (en) * 2008-01-28 2014-11-18 Microsoft Corporation System and method for describing applications for manageability and efficient scale-up deployment
US20110004676A1 (en) * 2008-02-04 2011-01-06 Masahiro Kawato Virtual appliance deploying system
JP4798395B2 (ja) * 2008-04-01 2011-10-19 日本電気株式会社 リソース自動構築システム及び自動構築方法並びにそのための管理用端末
US8543998B2 (en) * 2008-05-30 2013-09-24 Oracle International Corporation System and method for building virtual appliances using a repository metadata server and a dependency resolution service
US20100180272A1 (en) * 2009-01-15 2010-07-15 Kevin Kettler System For Enabling Virtual Services On A Business And A Consumer Device
JP5412882B2 (ja) * 2009-03-04 2014-02-12 富士通株式会社 論理ボリューム構成情報提供プログラム、論理ボリューム構成情報提供方法、および論理ボリューム構成情報提供装置
WO2010102084A2 (en) 2009-03-05 2010-09-10 Coach Wei System and method for performance acceleration, data protection, disaster recovery and on-demand scaling of computer applications
US9094210B2 (en) * 2009-10-26 2015-07-28 Citrix Systems, Inc. Systems and methods to secure a virtual appliance
US8661120B2 (en) * 2010-09-21 2014-02-25 Amazon Technologies, Inc. Methods and systems for dynamically managing requests for computing capacity
US8677357B2 (en) * 2011-01-26 2014-03-18 International Business Machines Corporation Method and apparatus for distributing a composite software stack as a virtual machine image
US8621462B2 (en) * 2011-03-07 2013-12-31 International Business Machines Corporation Autonomic customization of properties of a virtual appliance in a computer system
TWI515658B (zh) * 2011-12-07 2016-01-01 萬國商業機器公司 用於創建虛擬裝置之方法及系統
US8990804B1 (en) * 2011-12-07 2015-03-24 Amazon Technologies, Inc. Converting virtual machine images from source to destination virtualization environments
US9052940B2 (en) * 2012-03-01 2015-06-09 International Business Machines Corporation System for customized virtual machine for a target hypervisor by copying image file from a library, and increase file and partition size prior to booting
CN104424012B (zh) * 2013-08-20 2018-03-16 国际商业机器公司 用于提供自定义虚拟装置的方法和设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007035544A2 (en) * 2005-09-15 2007-03-29 3Tera, Inc. Apparatus, method and system for rapid delivery of distributed applications
WO2007120663A2 (en) * 2006-04-10 2007-10-25 Merrill Lynch & Co., Inc. Virtual service switch
CN101094158A (zh) * 2006-06-19 2007-12-26 国际商业机器公司 数据处理的方法和系统

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107111507A (zh) * 2014-09-30 2017-08-29 亚马逊技术有限公司 线程化作为服务
CN112860382A (zh) * 2014-09-30 2021-05-28 亚马逊技术有限公司 线程化作为服务
CN107209682A (zh) * 2014-12-05 2017-09-26 亚马逊技术有限公司 资源调整的自动管理
CN107209682B (zh) * 2014-12-05 2020-10-20 亚马逊技术有限公司 资源调整的自动管理
US11461124B2 (en) 2015-02-04 2022-10-04 Amazon Technologies, Inc. Security protocols for low latency execution of program code
CN108369534A (zh) * 2015-12-21 2018-08-03 亚马逊技术有限公司 代码执行请求路由
US11354169B2 (en) 2016-06-29 2022-06-07 Amazon Technologies, Inc. Adjusting variable limit on concurrent code executions
CN107885595A (zh) * 2016-09-30 2018-04-06 华为技术有限公司 一种资源分配方法、相关设备及系统
US11003507B2 (en) 2016-09-30 2021-05-11 Huawei Technologies Co., Ltd. Mapreduce job resource sizing using assessment models
CN110050261A (zh) * 2016-12-08 2019-07-23 起元技术有限责任公司 计算资源分配
CN110050261B (zh) * 2016-12-08 2022-11-25 起元技术有限责任公司 计算资源分配
US11875173B2 (en) 2018-06-25 2024-01-16 Amazon Technologies, Inc. Execution of auxiliary functions in an on-demand network code execution system
US11836516B2 (en) 2018-07-25 2023-12-05 Amazon Technologies, Inc. Reducing execution times in an on-demand network code execution system using saved machine states
US11943093B1 (en) 2018-11-20 2024-03-26 Amazon Technologies, Inc. Network connection recovery after virtual machine transition in an on-demand network code execution system
US11861386B1 (en) 2019-03-22 2024-01-02 Amazon Technologies, Inc. Application gateways in an on-demand network code execution system
US11714675B2 (en) 2019-06-20 2023-08-01 Amazon Technologies, Inc. Virtualization-based transaction handling in an on-demand network code execution system
US11714682B1 (en) 2020-03-03 2023-08-01 Amazon Technologies, Inc. Reclaiming computing resources in an on-demand code execution system
CN112156453A (zh) * 2020-10-21 2021-01-01 腾讯科技（深圳）有限公司 实例自适应调整方法、装置、计算机可读存储介质及设备
US11593270B1 (en) 2020-11-25 2023-02-28 Amazon Technologies, Inc. Fast distributed caching using erasure coded object parts
US11550713B1 (en) 2020-11-25 2023-01-10 Amazon Technologies, Inc. Garbage collection in distributed systems using life cycled storage roots
US11388210B1 (en) 2021-06-30 2022-07-12 Amazon Technologies, Inc. Streaming analytics using a serverless compute system
US11968280B1 (en) 2021-11-24 2024-04-23 Amazon Technologies, Inc. Controlling ingestion of streaming data to serverless function executions

Also Published As

Publication number Publication date
CN103098027B (zh) 2016-08-31
US9268584B2 (en) 2016-02-23
JP5746351B2 (ja) 2015-07-08
JP5944021B2 (ja) 2016-07-05
EP2619665A1 (en) 2013-07-31
CA2811041C (en) 2015-11-17
US8661120B2 (en) 2014-02-25
SG188502A1 (en) 2013-04-30
WO2012039834A1 (en) 2012-03-29
JP2015122088A (ja) 2015-07-02
JP2013543171A (ja) 2013-11-28
EP2619665B1 (en) 2019-09-25
AU2011306014A1 (en) 2013-04-04
CA2811041A1 (en) 2012-03-29
CN106055412B (zh) 2019-05-31
US20120072762A1 (en) 2012-03-22
US20140156835A1 (en) 2014-06-05
AU2011306014B2 (en) 2015-08-06
CN106055412A (zh) 2016-10-26

Similar Documents

Publication Publication Date Title
CN103098027A (zh) 用于动态管理计算容量请求的方法和系统
US11734621B2 (en) Methods and systems for building custom appliances in a cloud-based network
US10001821B2 (en) Cloud management with power management support
US8782233B2 (en) Embedding a cloud-based resource request in a specification language wrapper
EP2524311B1 (en) Managing private use of program execution capacity
US8504443B2 (en) Methods and systems for pricing software infrastructure for a cloud computing environment
US8909783B2 (en) Managing multi-level service level agreements in cloud-based network
US8364819B2 (en) Systems and methods for cross-vendor mapping service in cloud networks
US10372490B2 (en) Migration of a virtual machine from a first cloud computing environment to a second cloud computing environment in response to a resource or services in the second cloud computing environment becoming available
US20150229580A1 (en) Multiple cloud marketplace aggregation
US9842004B2 (en) Adjusting resource usage for cloud-based networks
US8495648B1 (en) Managing allocation of computing capacity
US20110213686A1 (en) Systems and methods for managing a software subscription in a cloud network
US20110295986A1 (en) Systems and methods for generating customized build options for cloud deployment matching usage profile against cloud infrastructure options
US20110214124A1 (en) Systems and methods for generating cross-cloud computing appliances
US11494468B2 (en) Rights management of cloud resources
Gangadharan et al. Open‐Source Cloud Software Solutions
Wei Monitoring, configuration and resource management of service workflows in virtualized clusters and clouds

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant