CN101167054B - 用于在多个数据中心之间选择性卸载工作负荷的方法和装置 - Google Patents

用于在多个数据中心之间选择性卸载工作负荷的方法和装置 Download PDF

Info

Publication number
CN101167054B
CN101167054B CN200580049662.7A CN200580049662A CN101167054B CN 101167054 B CN101167054 B CN 101167054B CN 200580049662 A CN200580049662 A CN 200580049662A CN 101167054 B CN101167054 B CN 101167054B
Authority
CN
China
Prior art keywords
data center
request
resource
working load
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN200580049662.7A
Other languages
English (en)
Other versions
CN101167054A (zh
Inventor
默西·V·德瓦拉康达
丹尼尔·M·迪亚斯
格雷姆·N·狄克逊
维杰伊·K·奈克
乔瓦尼·帕西费西
尼思亚·拉贾马尼
丹尼拉·罗苏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CN101167054A publication Critical patent/CN101167054A/zh
Application granted granted Critical
Publication of CN101167054B publication Critical patent/CN101167054B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/509—Offload

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Information Transfer Between Computers (AREA)
  • Computer And Data Communications (AREA)

Abstract

公开了用于在多个数据中心间选择性卸载工作负荷的技术。例如，用于依据多个数据中心环境处理用户请求的技术包括如下步骤/操作。在第一数据中心获得用户请求。基于一个或更多的分类标准分类用户请求。把与已分类的用户请求关联的工作负荷的至少一部分卸载到至少一个第二数据中心来处理，其中，卸载步骤/操作至少基于与第一数据中心和第二数据中心的至少一个关联的一个或更多的管理策略。处理工作负荷以根据用于请求用户的服务级别协定使用户请求至少基本满足。

Description

用于在多个数据中心之间选择性卸载工作负荷的方法和装置
技术领域
本发明总体涉及计算资源和数据中心并且，更具体地，涉及用于选择性在多个数据中心之间卸载工作负荷的技术。
背景技术
大企业将其计算资源组建成多个数据中心，每个数据中心为计算资源和存储的池子(pool)，其可以与其他数据中心物理地分离。企业应用运行在一个或更多的数据中心中，并且终端用户对应用的请求流入一个或更多的数据中心中。当数据中心负荷过多请求时，有必要将一些工作负荷卸载到其他数据中心中的可利用共享资源，以使用户接收到预期级别的应用响应，还使企业的所有资源被有效使用。
在多数据中心模型的变型中，企业可以从第三方服务供应商购买资源，并将这些资源用作其自己的数据中心。在该模型中，也存在将工作负荷卸载到服务供应商资源的需要，因为其与多数据中心工作负荷卸载问题类以。
对于工作负荷卸载的现有解决方案包括使用域名服务(DNS)或传输控制协议/网络协议(TCP/IP)路由产品的用户请求的加权循环(round-robin)分配。该解决方案的问题是路由产品仅能以某一比例(也就是，基于权)静态路由用户请求，而不能基于服务级别协定动态调整对用户请求的资源配置。
发明内容
本发明的原理通过用于在多个数据中心间选择性卸载工作负荷的技术。
例如，在本发明的一个方面中，用于依据多个数据中心环境处理用户请求的技术包括如下步骤/操作。在第一数据中心获得用户请求。基于一个或更多的分类标准分类用户请求。把与已分类的用户请求关联的工作负荷的至少一部分卸载到至少一个第二数据中心来处理，其中，卸载步骤/操作至少基于与第一数据中心和第二数据中心的至少一个关联的一个或更多的管理策略。处理工作负荷以与用于请求用户的服务级别协定一致地使用户请求至少基本满足。
从以下将与附图联合阅读的图示实施例的详细描述中，本发明的这些和其他的目标、特征和优势将变得清楚。
附图说明
图1A是图示根据本发明的实施例在多个数据中心之间选择性卸载工作负荷的方框/流程图。
图1B是图示根据本发明的实施例的资源借用和工作负荷卸载请求处理的流程图。
图1C是图示根据本发明的实施例的资源借出处理的流程图。
图2是图示根据本发明的实施例的处理工作请求流的方框/流程图。
图3是图示根据本发明的实施例的可以实现选择工作负荷卸载技术的一个或更多的组件/步骤所依据的计算系统。
具体实施方式
如将在下文示例性说明的，本发明的原理提供用于分类用户请求、和以达到用户请求种类的服务级别目的同时符合各数据中心的策略的方式动态路由请求到数据中心并处理该请求的技术。
可以通过客户类型(例如，黄金级、白银级、青铜级)、生成客户请求的工作负荷的类型、由业务进行的数据访问的类型、或在由工作负荷访问的数据上进行的操作的类型来分类客户请求。基于该分类，能够基于数据中心(本地和远程)的策略和当前状态选择性地将客户请求路由到远程数据中心处的资源。
将理解，通常认为“本地”数据中心是首先接收目标(subject)用户请求的数据中心。其可以是很接近该客户设备的数据中心和/或是通常基于一个或更多的标准(例如，主题、客户类型等)来处理这种用户请求的数据中心。因而，通常认为“远程”数据中心是不同于本地数据中心的数据中心。基于上下文，还将理解，术语“请求者”和“提供者”分别用于称呼本地和远程数据中心。
作为示例，当本地数据中心具有高负荷时，可以把来自青铜客户的请求，或相对低优先级的请求路由到远程资源。该路由也可以依赖于请求的通信或数据访问要求。例如，带有导致从数据库的显著数据访问的业务或查询的请求或导致具有高度通信的并行计算的请求将被路由到本地以处理。用于远程处理的工作负荷的选择还可以依赖于由结果(resulting)业务访问的数据是否能在远程数据中心中被分割和/或复制。该路由还可以依赖于将被路由的工作负荷的资源要求。可以卸载要求常用(commodity)处理器的工作负荷操作，但是可以把例如需要矢量(vector)处理能力的工作负荷操作发送到本地。依据组织经济模型，让对等(peer)数据中心共享资源的动机可能是基于金钱或声望或策略。
从而，根据本发明的原理，把工作负荷(例如，用户请求)选择性地卸载到其他数据中心，以达到用户请求的服务级别协定，同时允许通过明确的策略管理控制共享资源。
最初参考图1A，方框/流程图图解根据本发明的实施例用于在多个数据中心间选择性卸载工作负荷的技术。该图示出两个数据中心，数据中心A和数据中心B。尽管就两个数据中心描述本实施例，但是本发明的原理不限于两个数据中心。也就是说，本发明的原理能够用于任意数量的数据中心。
如所示，数据中心A具有下列组件：产生工作负荷的客户110、请求分类器120、准入(admission)控制器和重定向器(redirector)122、请求调度器和路由器124、资源管理器140、策略组150、和诸如处理器、网络、和存储器的计算资源130。
类似地，数据中心B具有下列组件：产生工作负荷的客户115、请求分类器125、准入控制器和重定向器127、请求调度器和路由器129、资源管理器145、策略组155、和诸如处理器、网络、和存储器的计算资源135。
数据中心A能够使用网络通信信道把其工作负荷的一些传送到数据中心B(步骤160)。类似地，数据中心B能够使用网络通信信道把其工作负荷的一些传送到数据中心A(步骤165)。
数据中心A还能够通过使用通信信道直接使用在数据中心B处的资源(步骤172)，这可能需要在数据中心B处所使用的资源使用通信信道访问在数据中心A的数据(步骤174)。数据中心B也能够直接使用数据中心A的资源，仅为了保持该图简单，没有明确显示这种交互。
在数据中心A中，当工作负荷从客户110到达时，其是以工作请求的形式，并且工作请求被置于工作负荷分类器120的请求队列中，其中请求分类器把请求分到不同的类别中，并将其转送到准入控制器和重定向器122。准入控制器判断在当前时刻是否准许请求用于本地处理或拖延(hold off)直到适当的时间。然后将已准许的请求转送到请求调度器和路由器124，请求调度器和路由器124传送该请求以在所分配的用于处理该工作请求的资源130上来处理。资源管理器140使用个体(individual)数据中心策略来确定分类标准、准入控制标准、调度和路由决定、以及要用于该请求类的实际资源。随后描述由资源管理器使用的决定处理的实施例。把由资源管理器确定的分类标准传送到工作负荷分类器120，把准入控制标准传送到准入控制器122，并且把调度和发送标准传送到调度器和路由器124。资源管理器动态更新这些标准和相关联的参数，并不断将其供给控制单元120、122和124。
在数据中心B中，以相似的方式分类和调度工作请求。当数据中心间没有共享资源时，各个数据中心使用其自身的资源以满足工作请求。
当数据A中的请求数量或请求的合计服务时间变得太高时，那么根据本发明的原理，可以使用来自数据中心B的资源来处理数据中心A的工作请求。数据中心间的资源共享可以基于在提出请求的数据中心和进行提供的数据中心中定义的策略。
在图1B中示出由资源管理器在确定资源借用和工作负荷卸载中使用的决定做出处理的实施例。如所示，在借用资源过程中涉及的步骤如下：
在步骤180中，在提出请求的数据中心处确定借用资源的收益。
在步骤182中，确定要问询关于潜在资源共享的数据中心。
在步骤184中，把请求资源共享的问询发送到该潜在数据中心。
在步骤186中，在接收到对于该请求的响应时，该提出请求的数据中心确定接受哪个数据中心。
在步骤188中，请求数据中心使用该资源用于工作负荷处理。
在步骤190中，在完成给定工作负荷的处理时，请求数据中心放弃借用的资源。
这些步骤更加详细的描述如下。
该提出请求的数据中心评估对比于与增加的通信相关的成本和远程资源使用的成本借用资源的收益。收益可能是以诸如全局资源利用级别和/或相对于服务级别协定的性能的衡量方式。用于触发远程资源获取的阈值，在此称作“借用阈值”，是请求者策略的一部分。借用阈值可以是适应性的(adaptive)，使得在数据中心中的每个资源优化循环后将恒定衰减因子施加到其上。这将最终允许甚至为了较小的收益值的远程资源获取。然而，当请求未能获取远程资源时，可以将阈值复位到初始的较大的值，从而避免对于远程资源的过多失败搜索。因为数据中心可能同时需要用于不同优先级工作负荷的资源，所以可以首先处理对于高收益工作负荷的请求。
一旦做出决定要借用资源，下一步是选择能够潜在地借出资源的对等数据中心(peer)。可获得的数据中心组是由企业的组织界限或与企业外部的提供者之间的合同或由组织策略定义的。
寻找远程资源的一种可能方式是向到所有的对等数据中心多播请求。当数据中心使用两个阶段处理来接受远程请求时，请求多播运作良好，其中在第一阶段，把资源可用性和约束返回到提出请求的数据中心，并在确认后完成最终的接受。在借出数据中心处确认过期(timeout)决定从阶段1时期收回(reclaim back)资源。在请求者确认后，激活保留。在基于从容量计划器(capacity planner)的预测预先做出这些保留的情况下，作为单独的阶段完成保留激活(也就是，部署资源和安装并配置软件宿主堆栈(software hostingstack)或另外使之可用于使用)。多阶段的方法保证请求者能选择在数据中心间协商用于获取资源。
如果数据中心不支持多阶段接受方案，那么可以根据各种密切性(affinity)度量，诸如网络等待时间、资源容量、已知的资源可用性和声望，依据优先级排序潜在的数据中心，并且以优先级顺序从潜在的数据中心请求资源。
类似地，提供者数据中心评估借出资源相比于保持资源闲置的收益。提供者策略可以是动态的，从而反映提供者的工作负荷和当前系统状态。如果数据中心正请求远程资源用于连续时间段，则可以将用于接受到来的对于那些资源的请求的自身阈值设定为很高。这样，该数据中心迅速拒绝到来的请求，而不是试图寻找可用的资源。这就是我们称作的“循环中断规则(cyclebreaking rule)”，其用于防止下述情形：一个数据中心请求远程资源并且同时借出本地资源以处理来自远程数据中心的请求。同样，将进行的另一步骤是标识用于借出的适宜资源和借出成本。
图1C图解性描述提供者的资源管理器中的决定做出处理。
在步骤191中，接收对于资源的请求。
在步骤192中，确定是否考虑将资源借给请求者。
在步骤193中，确定潜在借出者的自身数据中心资源使用和应用。
在步骤194中，确定潜在借出者的自身资源使用是否许可借出资源。
在步骤195中，基于步骤194，将响应发回到请求者。
在步骤196中，如果接受，借出资源。
在步骤197中，当完成远程使用时，取回借出的资源。
将意识到，一旦从一个或更多的数据中心确定资源可用性信息，就根据数据中心和工作负荷策略进行资源选择。对于应用发起的不同请求可能互相之间具有依存性。例如，应用服务器层中的附加处理也可能使数据库层的附加处理成为必要。依存性起于应用的逻辑部署结构，其描述需要的资源类型和它们的相互关系。资源选择将使用这些依存性来决定使用哪个数据中心。同样，使用这些依存性来剪除发送出去的请求，例如，只有满足第一依存性，才尝试下一个。
当请求者接受到响应时，下一步是预备(provision)资源，例如，配置资源，安装操作系统、中间件、和应用软件。有三种可能：(1)请求者在远程资源上实行预备；(2)进行提供的数据中心实行预备处理；或(3)(1)和(2)的某种组合。基于上述选择，资源预备机理改变。
在第一种情况中，在请求端实行适当的工作流以完成资源获取。在第二种情况中，在提供者端工作流是可用的或使工作流成为可用的。第一种情况提供了弹性，而第二种情况提供了更多的自主性和安全性。第三种情况是前两种情况的合并。在合并方法中，请求者和提供者相互配合并共同预备资源。
一旦获取并预备了远程资源，可以如图2中所示处理该工作请求流，其中图2是图解根据本发明的实施例的工作请求流的处理的方框/流程图。
如所示，数据中心A接收工作请求210，该请求在请求分类步骤220中被分类。该分类是基于数据中心资源管理器280中的分类标准。处理得到的已分类的请求230以进行准入控制和转送。在步骤240，一些已分类的请求被重定向到数据中心B来处理245，而本地处理其他已分类的请求250a和250b。数据中心资源管理器280中的准入控制标准275确定应该重定向哪类业务和重定向业务的多少比例。数据中心B处理被重定向的工作负荷以及到达数据中心B的剩余工作负荷。
在另一实施例重，不是在准入控制器层路由请求，而是由本地资源管理器接管(take over)远程资源，并且可以使得如此获得的这些资源可用于本地资源调度器和路由器。这也图解于图2中，其中请求调度和路由步骤260仿佛远程资源是本地资源那样地对待远程资源，并且基于它们的性能特性，把一部分已分类的工作负荷定向给它们。数据中心资源管理器280所定义的调度标准278确定在可用资源之间依据类型或者依据比例的工作负荷分配。其还确定工作负荷请求的处理优先级。
第三种情况是应用控制的组合的情况，也就是，应用工作负荷重定向和远程资源控制两者。数据中心A的准入控制器把部分请求发送到数据中心B的准入控制器。另外，用与上述相同的数据访问变型使数据中心B的资源对于数据中心A的请求调度器和路由器可用。
从而，根据本发明的原理，提供了用于通过分配和共享来自其他数据中心的未使用的或利用不足的资源而减轻数据中心A上的拥塞(congestion)的机制。两种这样的机制是带有重定向的准入控制、和在远程和本地资源之间调度工作负荷。还提供了组合这两种机制的合并方法。
图3中所示的是根据本发明的实施例，选择性工作负荷卸载技术(例如，图1A、1B和2中所描述的组件和方法)的一个或更多组件/步骤的实现可以依据的计算系统。将理解，可以在一个这种计算系统或多于一个的这种计算系统上实现个体的组件/步骤。在分布式计算系统上实现的情况下，个体的计算机系统和/或设备可以通过合适的网络例如，因特网或万维网连接。然而，可以通过私有或局域网实现该系统。无论如何，本发明不限于任何特殊的网络。
从而，图3中所示的计算系统代表用于实现数据中心的一个或更多的功能组件，例如请求分类器、准入控制器和重定向器、请求调度器和路由器、资源管理器、和策略组，以及其它功能的示例性计算系统结构。此外，该计算系统结构还可以代表由数据中心提供的一个或更多实际计算资源的实现。此外，该计算系统结构还可以代表一个或更多的客户的实现。
如所示，该计算系统结构可以包括通过计算机总线310或替代的连接布置耦接的处理器302、存储器304、I/O设备306、和通信接口308。在一个实施例中，图3的计算系统结构代表与数据中心关联的一个或更多的服务器。
将意识到，在此使用的术语“处理器”旨在包括任意的处理设备，诸如例如包括CPU和/或其他处理电路的处理系统。还将理解，术语“处理器”可以指多于一个处理设备，并且与处理设备关联的各种元件可以由其他处理设备共享。
在此使用的术语“存储器”旨在包括诸如例如RAM、ROM、固定存储器设备(例如，硬盘驱动)、可移动存储器设备(例如，磁盘)、闪存等的与处理器或CPU关联的存储器。
另外，在此使用的措辞“输入/输出设备”或“I/O设备”旨在包括例如，一个或更多的用于向处理单元录入数据的输入设备(例如，键盘、鼠标等)、和/或一个或更多的用于呈现与处理单元关联的结果的输出设备(例如，显示器等)。
此外，在此使用的措辞“网络接口”旨在包括例如，一个或更多的许可计算机系统通过适当的通信协议与另一计算机系统通信的收发器。
因此，包括用于执行在此描述的方法的指令或代码的软件组件可以被存储在一个或更多的关联存储器设备(例如，ROM、固定的或可移动的存储器)中，并且当将被利用时，被部分或全部加载并通过CPU执行。
无论如何，将意识到，可以在不同形式的硬件、软件、或其组合实现在此描述的并在附图中示出的本发明的技术，例如，一个或更多的带有关联存储器的操作编程的通用数字计算机、实现特定功能的集成电路、功能电路等。给定在此提供的本发明的技术，相关领域的普通技术人员将能够考虑到本发明的技术的其他实现。
因此，如在此说明的，本发明的原理提供了用于使用远程资源来处理工作请求类的技术。该技术可以包括确定使用远程资源和基于策略获取远程资源。该技术还可以包括基于策略确定向请求站提供资源，以及推导将用来处理请求的一组标准。此外，该技术可以包括用户请求的处理，该用户请求的处理进一步包括基于请求分类标准分类用户请求、基于请求的类别动态并可选地重定向部分用户请求到远程资源、和动态并可选地使用远程资源来处理请求类。此外，该技术可以包括基于策略放弃使用远程资源。
尽管在此已经参考附图描述了本发明的示例实施例，将理解，本发明不限于那些精确的实施例，并且在不脱离本发明的范围和主旨内，可以由相关领域的技术人员做出各种其他的改变和修改。

Claims (24)

1.一种依据多个数据中心环境处理用户请求的方法，包括步骤：
在第一数据中心获得用户请求；
基于一个或更多的分类标准分类所述用户请求以得到已分类的用户请求；
把与所述已分类的用户请求关联的工作负荷的至少一部分卸载到至少第二数据中心来处理，其中，所述卸载步骤至少基于与所述第一数据中心和第二数据中心中的至少一个关联的一个或多个的管理策略；以及
处理所述工作负荷以根据用于所述请求用户的服务级别协定至少满足所述用户请求。
2.权利要求1的所述方法，其中，所述卸载步骤还包括基于与所述第一数据中心关联的准入控制策略把与所述已分类的用户请求关联的工作负荷的至少一部分重定向到所述第二数据中心。
3.权利要求1的所述方法，其中，所述卸载步骤还包括使与所述第二数据中心关联的至少一个资源对与所述第一数据中心关联的资源调度器可用，以便可以把与所述已分类的用户请求关联的工作负荷的至少一部分直接路由到所述与所述第二数据中心关联的至少一个资源。
4.权利要求1的所述方法，还包括在所述第一数据中心确定与卸载部分所述工作负荷的一个或更多的收益相关联的一个或更多的度量值的步骤。
5.权利要求4的所述方法，其中，所述度量值确定步骤还包括：比较所述度量值与阈值，以及使用该比较的结果作为启动工作负荷卸载的触发器。
6.权利要求5的所述方法，其中，所述度量值确定步骤还包括调整所述阈值。
7.权利要求6的所述方法，其中，所述阈值调整步骤还包括施加恒定衰减因子到所述阈值。
8.权利要求7的所述方法，其中，所述阈值调整步骤还包括把所述阈值复位到初始值。
9.权利要求1的所述方法，还包括从多个数据中心之中确定哪一个或更多的数据中心是用于卸载所述工作负荷的至少一部分的潜在数据中心的步骤。
10.权利要求9的所述方法，其中，所述潜在数据中心确定步骤还包括以优先级顺序为基础确定潜在数据中心。
11.权利要求9的所述方法，还包括把至少一个请求问询发送到被确定为潜在数据中心的所述数据中心的至少一个的步骤。
12.权利要求9的所述方法，还包括把请求问询多播到多个数据中心的步骤。
13.权利要求12的所述方法，还包括接受所述潜在数据中心之一作为将用于卸载的数据中心的步骤，其中，所述第二数据中心是所接受的数据中心。
14.权利要求13的所述方法，还包括选择一个或更多的要预备的资源的步骤。
15.权利要求14的所述方法，还包括预备一个或更多的所选择的资源以供处理所述工作负荷之用的步骤。
16.权利要求15的所述方法，其中，所述资源预备步骤还包括所述第一数据中心和所述第二数据中心中的至少一个进行所述资源预备步骤的至少一部分。
17.权利要求1的所述方法，还包括在所述第一数据中心可调整地设定资源请求阈值的步骤。
18.权利要求1的所述方法，其中，所述卸载步骤还包括：在同意借出一个或更多的资源用于处理所述工作负荷之前，所述第二数据中心确定其自身的资源可用性。
19.一种依据多个数据中心环境处理用户请求的系统，包括：
用于在第一数据中心获得用户请求的装置；
用于基于一个或更多的分类标准分类所述用户请求以得到已分类的用户请求的装置；以及
用于使与所述已分类的用户请求关联的工作负荷的至少一部分卸载到至少第二数据中心来处理的装置，其中，所述卸载操作至少基于与所述第一数据中心和第二数据中心中的至少一个关联的一个或多个的管理策略；以及
用于处理所述工作负荷以根据用于所述请求用户的服务级别协定至少满足所述用户请求的装置。
20.权利要求19的所述系统，其中，所述用于使与所述已分类的用户请求关联的工作负荷的至少一部分卸载到至少第二数据中心来处理的装置还用于基于与所述第一数据中心关联的准入控制策略把与所述已分类的用户请求关联的工作负荷的至少一部分重定向到所述第二数据中心。
21.权利要求19的所述系统，其中，所述用于使与所述已分类的用户请求关联的工作负荷的至少一部分卸载到至少第二数据中心来处理的装置还用于使与所述第二数据中心关联的至少一个资源对与所述第一数据中心关联的资源调度器可用，以便可以把与所述已分类的用户请求关联的工作负荷的至少一部分直接路由到所述与所述第二数据中心关联的至少一个资源。
22.权利要求19的所述系统，还包括用于确定与卸载部分所述工作负荷的一个或更多收益相关联的一个或更多的度量值的装置。
23.权利要求19的所述系统，还包括用于从多个数据中心之中确定哪一个或更多的数据中心是用于卸载所述工作负荷的至少一部分的潜在数据中心的装置。
24.权利要求19的所述系统，还包括用于可调整地设定资源请求阈值的装置。
CN200580049662.7A 2005-05-27 2005-09-30 用于在多个数据中心之间选择性卸载工作负荷的方法和装置 Active CN101167054B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US11/104,429 2005-05-27
US11/140,429 US7853953B2 (en) 2005-05-27 2005-05-27 Methods and apparatus for selective workload off-loading across multiple data centers
US11/140,429 2005-05-27
PCT/US2005/035323 WO2006130170A2 (en) 2005-05-27 2005-09-30 Methods and apparatus for selective workload off-loading across multiple data centers

Publications (2)

Publication Number Publication Date
CN101167054A CN101167054A (zh) 2008-04-23
CN101167054B true CN101167054B (zh) 2011-02-23

Family

ID=37464690

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200580049662.7A Active CN101167054B (zh) 2005-05-27 2005-09-30 用于在多个数据中心之间选择性卸载工作负荷的方法和装置

Country Status (8)

Country Link
US (1) US7853953B2 (zh)
EP (1) EP1891523B1 (zh)
JP (1) JP4931913B2 (zh)
CN (1) CN101167054B (zh)
CA (1) CA2610371A1 (zh)
IL (1) IL187612A (zh)
TW (1) TW200710676A (zh)
WO (1) WO2006130170A2 (zh)

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7827590B2 (en) 2003-12-10 2010-11-02 Aventail Llc Controlling access to a set of resources in a network
US8590032B2 (en) 2003-12-10 2013-11-19 Aventail Llc Rule-based routing to resources through a network
US8255973B2 (en) * 2003-12-10 2012-08-28 Chris Hopen Provisioning remote computers for accessing resources
US8661158B2 (en) * 2003-12-10 2014-02-25 Aventail Llc Smart tunneling to resources in a network
WO2006044820A2 (en) 2004-10-14 2006-04-27 Aventail Corporation Rule-based routing to resources through a network
US8271807B2 (en) * 2008-04-21 2012-09-18 Adaptive Computing Enterprises, Inc. System and method for managing energy consumption in a compute environment
JP4101251B2 (ja) * 2005-05-24 2008-06-18 富士通株式会社 負荷分散プログラム、負荷分散方法、及び負荷分散装置
CN100450067C (zh) * 2005-11-18 2009-01-07 华为技术有限公司 业务设备交换网络及交换方法
US7958509B2 (en) * 2005-12-21 2011-06-07 International Business Machines Corporation Method and system for scheduling of jobs
US7519734B1 (en) 2006-03-14 2009-04-14 Amazon Technologies, Inc. System and method for routing service requests
US8639655B2 (en) * 2006-08-31 2014-01-28 Red Hat, Inc. Dedicating threads to classes of LDAP service
US8159961B1 (en) * 2007-03-30 2012-04-17 Amazon Technologies, Inc. Load balancing utilizing adaptive thresholding
US8752055B2 (en) * 2007-05-10 2014-06-10 International Business Machines Corporation Method of managing resources within a set of processes
US7889651B2 (en) * 2007-06-06 2011-02-15 International Business Machines Corporation Distributed joint admission control and dynamic resource allocation in stream processing networks
US8838669B2 (en) * 2008-02-08 2014-09-16 Oracle International Corporation System and method for layered application server processing
US9405348B2 (en) 2008-04-21 2016-08-02 Adaptive Computing Enterprises, Inc System and method for managing energy consumption in a compute environment
US20100161368A1 (en) * 2008-12-23 2010-06-24 International Business Machines Corporation Managing energy in a data center
US8291036B2 (en) * 2009-03-16 2012-10-16 Microsoft Corporation Datacenter synchronization
TW201112006A (en) * 2009-05-29 2011-04-01 Ibm Computer system, method and program product
US8306639B2 (en) * 2009-10-25 2012-11-06 Greenwave Reality, Pte, Ltd. Home automation group selection by color
US8138626B2 (en) * 2009-10-25 2012-03-20 Greenwave Reality, Pte Ltd. Power node for energy management
US8971806B2 (en) * 2010-01-27 2015-03-03 Broadcom Corporation Wireless bus for intra-chip and inter-chip communication, including scalable wireless bus embodiments
US8463908B2 (en) * 2010-03-16 2013-06-11 Alcatel Lucent Method and apparatus for hierarchical management of system resources
US8589936B2 (en) * 2010-03-16 2013-11-19 Alcatel Lucent Method and apparatus for managing reallocation of system resources
US9767136B2 (en) 2010-03-31 2017-09-19 Salesforce.Com, Inc. System, method and computer program product for maintaining data stored in a data structure
US8335936B2 (en) 2010-05-10 2012-12-18 Greenwave Reality, Pte Ltd. Power node with network switch
US9300539B2 (en) * 2011-08-04 2016-03-29 International Business Machines Corporation Network computing management
EP2568672A1 (en) * 2011-08-24 2013-03-13 Alcatel Lucent Method for managing network resources within a plurality of datacenters
US9459930B1 (en) * 2011-10-27 2016-10-04 Amazon Technologies, Inc. Distributed complementary workload scheduling
US8914515B2 (en) * 2011-10-28 2014-12-16 International Business Machines Corporation Cloud optimization using workload analysis
US20130212162A1 (en) * 2012-01-12 2013-08-15 Ciinow, Inc. Control structure for content delivery and management
US9110729B2 (en) 2012-02-17 2015-08-18 International Business Machines Corporation Host system admission control
CN103294494B (zh) * 2012-02-29 2018-07-03 中兴通讯股份有限公司 一种虚拟系统自动化部署的方法和系统
US10338965B2 (en) * 2012-04-03 2019-07-02 Hewlett Packard Enterprise Development Lp Managing a set of resources
US8918672B2 (en) * 2012-05-31 2014-12-23 International Business Machines Corporation Maximizing use of storage in a data replication environment
US20130346465A1 (en) * 2012-06-21 2013-12-26 Microsoft Corporation Application enhancement using edge data center
US20130346558A1 (en) * 2012-06-21 2013-12-26 Microsoft Corporation Delivery controller between cloud and enterprise
CN103516536B (zh) * 2012-06-26 2017-02-22 重庆新媒农信科技有限公司 基于线程数量限制的服务器业务请求并行处理方法及系统
US9374276B2 (en) * 2012-11-01 2016-06-21 Microsoft Technology Licensing, Llc CDN traffic management in the cloud
US20150286508A1 (en) * 2012-11-26 2015-10-08 Jason A. Stowe Transparently routing job submissions between disparate environments
US10313345B2 (en) * 2013-03-11 2019-06-04 Amazon Technologies, Inc. Application marketplace for virtual desktops
US9002982B2 (en) 2013-03-11 2015-04-07 Amazon Technologies, Inc. Automated desktop placement
US10142406B2 (en) * 2013-03-11 2018-11-27 Amazon Technologies, Inc. Automated data center selection
US9152450B2 (en) * 2013-03-12 2015-10-06 International Business Machines Corporation Offloading service requests to a second guest hypervisor in a logical partition shared by a plurality of guest hypervisors
US9276860B2 (en) * 2013-03-13 2016-03-01 Microsoft Technology Licensing, Llc Distributed data center technology
US10417284B2 (en) * 2013-03-14 2019-09-17 Microsoft Technology Licensing, Llc Available, scalable, and tunable document-oriented storage services
US10686646B1 (en) 2013-06-26 2020-06-16 Amazon Technologies, Inc. Management of computing sessions
US10623243B2 (en) 2013-06-26 2020-04-14 Amazon Technologies, Inc. Management of computing sessions
US9104505B2 (en) * 2013-10-03 2015-08-11 International Business Machines Corporation Acceleration prediction in hybrid systems
US9424097B1 (en) 2015-03-17 2016-08-23 International Business Machines Corporation Dynamically managing workload placements in virtualized environments based on current user globalization customization requests
US10681113B2 (en) * 2015-10-14 2020-06-09 International Business Machines Corporation Geographically distributed highly available mailbox
US10104085B2 (en) * 2015-12-07 2018-10-16 International Business Machines Corporation Permission based access control for offloaded services
US9866637B2 (en) 2016-01-11 2018-01-09 Equinix, Inc. Distributed edge processing of internet of things device data in co-location facilities
US9948521B2 (en) * 2016-01-11 2018-04-17 Equinix, Inc. Architecture for data center infrastructure monitoring
JP2019503152A (ja) * 2016-01-29 2019-01-31 日本電気株式会社 集中制御サーバ、ローカル端末、分散型監視システム、監視方法、及びプログラム
RU2632125C1 (ru) * 2016-04-29 2017-10-02 Общество С Ограниченной Ответственностью "Яндекс" Способ и система обработки задач в облачном сервисе
US10568231B1 (en) 2016-12-30 2020-02-18 Equinix, Inc. Power supply and distribution skid frames for data centers
CN110832808B (zh) 2017-06-09 2023-06-20 环球互连及数据中心公司 用于消息传递服务的方法、存储介质和计算系统
JP6835683B2 (ja) * 2017-08-07 2021-02-24 日本電信電話株式会社 分散方法
US10819556B1 (en) 2017-10-16 2020-10-27 Equinix, Inc. Data center agent for data center infrastructure monitoring data access and translation
CN109992373B (zh) * 2017-12-29 2021-04-09 华为技术有限公司 资源调度方法、信息管理方法和装置及任务部署系统
US11140096B2 (en) * 2018-02-07 2021-10-05 Cisco Technology, Inc. Optimizing fog orchestration through edge compute resource reservation
US10592371B2 (en) 2018-03-26 2020-03-17 International Business Machines Corporation Cognitive testing configuration according to dynamic changes in an install-base
KR20210018499A (ko) 2018-07-06 2021-02-17 현대자동차주식회사 리소스 관리 방법 및 장치
CN109495565B (zh) * 2018-11-14 2021-11-30 中国科学院上海微系统与信息技术研究所 基于分布式泛在计算的高并发服务请求处理方法和设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5504894A (en) * 1992-04-30 1996-04-02 International Business Machines Corporation Workload manager for achieving transaction class response time goals in a multiprocessing system
CN1483162A (zh) * 2000-07-27 2004-03-17 BEAϵͳ��˾ 用于对请求进行集中和负载均衡的系统和方法
CN1567173A (zh) * 2003-07-05 2005-01-19 华为技术有限公司 一种实现加权最小连接分配的服务器负载均衡方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61114363A (ja) 1984-11-07 1986-06-02 Hitachi Ltd 計算機システム間ジヨブ転送方式
US5578988A (en) * 1994-09-16 1996-11-26 C & K Systems, Inc. Intrusion detection system having self-adjusting threshold
US6240454B1 (en) 1996-09-09 2001-05-29 Avaya Technology Corp. Dynamic reconfiguration of network servers
EP1211851A1 (en) * 2000-11-30 2002-06-05 TELEFONAKTIEBOLAGET L M ERICSSON (publ) Method and system for resource reservation in a multicasting network
JP2002245018A (ja) * 2001-02-15 2002-08-30 Nippon Telegr & Teleph Corp <Ntt> 負荷分散システム
JP2004348192A (ja) * 2003-05-20 2004-12-09 Hitachi Ltd Ｊｏｂ分配制御方法
US7313796B2 (en) 2003-06-05 2007-12-25 International Business Machines Corporation Reciprocity and stabilization in dynamic resource reallocation among logically partitioned systems
JP2005011038A (ja) * 2003-06-18 2005-01-13 Olympus Corp アプリケーションサービスシステム
US7770175B2 (en) * 2003-09-26 2010-08-03 Avaya Inc. Method and apparatus for load balancing work on a network of servers based on the probability of being serviced within a service time goal
US7437730B2 (en) 2003-11-14 2008-10-14 International Business Machines Corporation System and method for providing a scalable on demand hosting system
US7620687B2 (en) * 2004-06-25 2009-11-17 Telcordia Technologies, Inc. Distributed request routing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5504894A (en) * 1992-04-30 1996-04-02 International Business Machines Corporation Workload manager for achieving transaction class response time goals in a multiprocessing system
CN1483162A (zh) * 2000-07-27 2004-03-17 BEAϵͳ��˾ 用于对请求进行集中和负载均衡的系统和方法
CN1567173A (zh) * 2003-07-05 2005-01-19 华为技术有限公司 一种实现加权最小连接分配的服务器负载均衡方法

Also Published As

Publication number Publication date
EP1891523A4 (en) 2009-02-18
TW200710676A (en) 2007-03-16
US20060271544A1 (en) 2006-11-30
IL187612A (en) 2013-08-29
CN101167054A (zh) 2008-04-23
US7853953B2 (en) 2010-12-14
IL187612A0 (en) 2008-03-20
WO2006130170A2 (en) 2006-12-07
CA2610371A1 (en) 2006-12-07
EP1891523B1 (en) 2015-02-25
WO2006130170A3 (en) 2007-09-13
JP4931913B2 (ja) 2012-05-16
EP1891523A2 (en) 2008-02-27
JP2008542871A (ja) 2008-11-27

Similar Documents

Publication Publication Date Title
CN101167054B (zh) 用于在多个数据中心之间选择性卸载工作负荷的方法和装置
US10567303B2 (en) System and method for routing service requests
US9325585B1 (en) Mission-driven autonomous and adaptive resource management
US7243351B2 (en) System and method for task scheduling based upon the classification value and probability
US20130268678A1 (en) Method and Apparatus for Facilitating Fulfillment of Requests on a Communication Network
CN109218355A (zh) 负载均衡引擎，客户端，分布式计算系统以及负载均衡方法
US7925785B2 (en) On-demand capacity management
Zhang et al. Web server load balancing: A queueing analysis
Tavousi et al. A fuzzy approach for optimal placement of IoT applications in fog-cloud computing
Tran-Dang et al. Task priority-based resource allocation algorithm for task offloading in fog-enabled IoT systems
US9075832B2 (en) Tenant placement in multitenant databases for profit maximization
Mostafa Cooperative fog communications using a multi-level load balancing
Keerthika et al. A multiconstrained grid scheduling algorithm with load balancing and fault tolerance
US8443372B2 (en) Methods and systems for partitioning data in parallel processing systems
WO2021000694A1 (zh) 一种部署业务的方法以及调度装置
Vinothini et al. Meta-heuristic firefly approach to multi-servers load balancing with independent and dependent server availability consideration
Shukla et al. Analysis of effective load balancing techniques in distributed environment
Amudhavel et al. A distributed spanning tree-based dynamic self-organizational framework for web server
Garg et al. Optimization of cloud services performance using static and dynamic load balancing algorithms
Wei et al. A novel scheduling mechanism for hybrid cloud systems
Komalavalli et al. An Optimal Server Selection Model for Dynamic Task Allocation in Cloud
Bisht et al. Improvising service broker policies in fog integrated cloud environment
Akiyoshi et al. Resource Allocation Method for Fairness and Efficient Utilization of Network and Computational Resources in Edge Networks
Jaiman Improving Performance Predictability in Cloud Data Stores
Peerbocus et al. A workflow-based dynamic scheduling approach for web services platforms

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant