CN102667723B - 根据物理资源的可用性来均衡服务器负荷 - Google Patents

根据物理资源的可用性来均衡服务器负荷 Download PDF

Info

Publication number
CN102667723B
CN102667723B CN201080049096.0A CN201080049096A CN102667723B CN 102667723 B CN102667723 B CN 102667723B CN 201080049096 A CN201080049096 A CN 201080049096A CN 102667723 B CN102667723 B CN 102667723B
Authority
CN
China
Prior art keywords
physical
load
machine
availability
physical machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201080049096.0A
Other languages
English (en)
Other versions
CN102667723A (zh
Inventor
阿尔派什·S·帕特尔
克里斯·欧"瑞克
马克·埃伯特
罗伯特·A·麦凯
沃尔特·G·狄克逊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cisco Technology Inc
Original Assignee
Cisco Technology Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cisco Technology Inc filed Critical Cisco Technology Inc
Publication of CN102667723A publication Critical patent/CN102667723A/zh
Application granted granted Critical
Publication of CN102667723B publication Critical patent/CN102667723B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/04—Network management architectures or arrangements
    • H04L41/046—Network management architectures or arrangements comprising network management agents or mobile agents therefor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Power Sources (AREA)
  • Hardware Redundancy (AREA)
  • Computer And Data Communications (AREA)
  • Multi Processors (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请涉及根据物理资源的可用性来均衡服务器负荷。根据一个实施例，描述在物理机上运行的虚拟机的可用性信息被访问。可用性信息将各个虚拟机与虚拟机所使用的物理资源相关联。虚拟机的使用根据可用性信息来确定。物理资源的可用性根据所述使用来确定。服务器负荷根据物理资源的可用性被均衡。根据另一实施例，如下操作被执行直到负荷被容纳为止：选择具有小于扩增阈值的负荷的服务器；对该服务器加载负荷直到达到所述扩增阈值为止；选择具有小于下一扩增阈值的负荷的下一服务器；对该下一服务器加载负荷直到达到所述下一扩增阈值为止。低负荷服务器的负荷被确定为低于缩减阈值，并且低负荷服务器被排尽。

Description

根据物理资源的可用性来均衡服务器负荷
技术领域
本申请一般地涉及计算机系统。
背景技术
在某些情形中，服务器可在运行于物理机(physical machine)上的虚拟机(virtual machine)上运作。虚拟机上的服务器可将虚拟机的性能量度报告给负荷均衡器。负荷均衡器可使用此性能量度来确定如何在服务器之间分发负荷。
附图说明
图1图示用于通过考虑物理资源的可用性来均衡服务器负荷的系统的示例；
图2图示用于通过虚拟机确定物理资源的可用性的方法的示例；
图3图示用于分发负荷的方法的示例。
具体实施方式
概述
根据一个实施例，描述在物理机上运行的虚拟机的可用性信息被访问。可用性信息将各个虚拟机与虚拟机所使用的物理资源相关联。虚拟机的使用根据可用性信息来确定。物理资源的可用性根据使用来确定。服务器负荷根据物理资源的可用性被均衡。根据另一实施例，如下操作被执行直到负荷被容纳为止：选择具有小于扩增(expansion)阈值的负荷的服务器；对该服务器加载负荷直到达到所述扩增阈值为止；选择具有小于下一扩增阈值的负荷的下一服务器；对该下一服务器加载负荷直到达到所述下一扩增阈值为止。低负荷服务器的负荷被确定为低于缩减(contraction)阈值，并且低负荷服务器被排尽。在某些实施例中，负荷可集中于少数虚拟机上，这可导致更高效的资源分配。
描述
图1图示用于通过考虑物理资源的可用性来均衡服务器负荷的系统10的示例。在操作的某些实施例中，系统10访问描述在物理机上运行的虚拟机的可用性信息。虚拟机使用物理资源。在这些实施例中，系统10根据可用性信息来确定虚拟机的使用并且根据虚拟机的使用来确定物理资源的可用性。在这些实施例中，系统10根据物理资源的可用性来均衡服务器负荷。
在操作的某些实施例中，系统10通过执行如下操作直到负荷被容纳为止来均衡虚拟机的服务器的服务器负荷：选择具有小于扩增阈值的负荷的可用服务器；对该可用服务器加载负荷直到达到所述扩增阈值为止；选择具有小于扩增阈值的负荷的下一可用服务器；对该下一服务器加载负荷直到达到所述扩增阈值为止。在这些实施例中，系统10确定服务器集合中的低服务器的负荷低于缩减阈值，并且使低服务器排尽。
在所图示的实施例中，系统10包括一个或多个物理机20(20a，...，20b)、负荷均衡器24、通信网络26和/或如所示耦合的一个或多个客户端28(28a，...，28b)。物理机20可支持一个或多个虚拟机30(30a，...，30d)，并且可包括系统管理程序(hypervisor)34(34a，...，34b)、反馈代理36(36a，...，36b)和/或系统硬件38(38a，...，38b)。负荷均衡器24可包括接口(IF)40、逻辑42和/或一个或多个存储器。逻辑42可包括一个或多个处理器50和软件，诸如可用性计算器52、负荷分发器54和/或物理机管理器56。
物理机20可以是能支持虚拟机30的任何合适的计算系统。物理机20的示例包括数据中心或服务器中心的物理服务器。物理机20可被分割到两个或多个虚拟机30中。在某些实施例中，虚拟机30可被分派或被配置网络层地址(例如，IP地址)。在某些实施例中，某特定虚拟机30可管理其他虚拟机30。
虚拟机30可以支持服务器，从而使得服务器具有在其自己的专门机器上运行的能力和表观。服务器可通过网络地址和/或机器20或30的端口来识别。虚拟机30上的服务器接收从请求客户端28发送的请求并且通过负荷均衡器24转发。该服务器生成对请求的响应，该响应被发送回请求客户端28。正在处理负荷的服务器可被视为活动服务器，没有当前正处理负荷但是已准备好的服务器可被视为空闲服务器，并且处于省电模式(诸如处于断电模式)的物理机上的服务器可被视为断电服务器。
在某些实施例中，服务器可以具有一个或多个阈值，阈值指示了负荷均衡器24何时对服务器加载负荷或何时不加载负荷(例如向其转发请求)。例如，扩增阈值指示了何时服务器将达到容限(capacity)并不应具有任何另外的负荷。扩增阈值可具有任何合适的值，例如，诸如容限的百分之80至百分之90，或者大于容限的百分之90。负荷均衡器24然后可以将任何另外的负荷分发到另一服务器。缩减阈值指示何时服务器将达到未使用状态并且可能很快没有负荷。负荷均衡器24然后可以使这样的服务器排尽(drain)。缩减阈值可具有任何合适的值，例如，诸如容限的百分之10至百分之20，或者小于容限的百分之10。在某些实施例中，扩增阈值和缩减阈值可跨越一段容限利用率宽度，以避免系统起伏。
扩增阈值和缩减阈值可以任何合适的方式来测量，例如，使用开放连接或CPU负荷加载。这些阈值可以被配置在服务器上和/或可以动态地从可用性信息(包括性能量度)计算出。例如，阈值可以从应用于可用性信息的值的函数计算出。
系统硬件38可以是物理机20的物理硬件，并且可以被视为物理机20的物理资源。系统硬件38可包括，例如，一个或多个接口(例如，网络接口)、一和或多个集成电路(IC)、一个或多个存储设备(例如存储器或缓存器)、网络接口控制器(NIC)和/或一个或多个处理设备(例如中央处理单元(CPU))。
系统管理程序34可运行系统硬件38以容宿(host)并运行虚拟机。在某些实施例中，系统管理程序34可以将系统硬件38的使用分配到虚拟机30。被分配的硬件可被视为虚拟机30的虚拟资源。在某些实施例中，系统硬件38的一个或多个组件可在于物理机20上运作的两个或更多个虚拟机30之间被共享。
反馈代理36可监控物理机20和虚拟机30的可用性，以获得描述物理机20和虚拟机30的可用性的可用性信息。反馈代理36可将可用性信息以及其他信息发送给负荷均衡器24。在其他实施例中，每个服务器可报告其自己的可用性。可用性信息可利用任何合适的协议发送，例如，动态反馈协议(DFP)、保持有效-接入协议(KALAP)或者页面缓存(Webcache)通信/控制协议(WCCP)。
在操作的一个示例中，负荷均衡器24获得可用性信息，该可用性信息可指示特定虚拟机30使用的一个或多个资源(诸如一个或多个物理机20)。负荷均衡器24确定虚拟机30的使用并且根据虚拟机30的使用来确定物理资源的可用性。负荷均衡器24然后根据物理资源的可用性来均衡服务器负荷，诸如计算任务。负荷均衡器24可在没有人类干预的情况下自动执行在此描述的操作。
物理资源的示例包括物理机20本身以及物理机20内的资源，诸如前端或后端链路。物理资源的其他示例包括由两个或更多个物理机20共享的网络资源，诸如由一个或多个虚拟机30使用的链路或一个或多个物理机20与负荷均衡器24之间的链路。
物理资源可以具有一定容限，超出该容限，资源将不再能令人满意地处理另外的工作，和/或处于该容限时，另外的工作不应被接收。作为示例，物理机20可以具有机器容限，该容限指示了物理机20能处理的工作量。类似地，物理机20的资源可以具有资源容限，并且网络资源可以具有网络资源容限。容限可通过阈值来定义。在某些实施例中，阈值可以被设定为比允许在何时达到容限的确定中的错误和/延时的实际容限低的值。
在某些实施例中，虚拟机30可以具有被分配的物理资源容限，其指示虚拟机30允许使用的物理资源容限的一部分。例如，第一虚拟机30a可具有第一分配的物理资源容限，并且第二虚拟机30a可具有第二分配的物理资源容限。分配的容限可以任何合适的方式被加权，诸如在虚拟机30之间相等地或不相等地被加权。
负荷均衡器24的可用性计算器52根据可用性信息来计算资源的可用性。可用性信息可包括可用于确定物理机20、虚拟机30以及资源的使用和/或可用性的任何合适的信息。在某些实施例中，可用性信息可包括负荷均衡器24可根据其来计算使用和/或可用性的信息。例如，可用性信息可包括性能量度，性能量度包括影响机器性能的因素。性能量度可描述机器本身或机器的资源(诸如机器的硬件或分配给机器的硬件)的特征(诸如其负荷、使用或性能)。例如，性能量度可描述机器的总的当前负荷。
在某些实施例中，性能量度可包括虚拟性能量度以及一个或多个物理性能量度，虚拟性能量度描述虚拟机30的性能，物理性能量度描述物理机20的性能。在某些实施例中，虚拟性能量度可根据物理性能量度被归一化(normalized)。例如，虚拟机30的虚拟性能量度可根据分配给虚拟机30的物理资源来提供。作为示例，虚拟机30可被分配带宽的一半。随着虚拟机30的使用接近所分配的带宽，虚拟性能量度可接近100％使用。
在某些实施例中，负荷均衡器24可根据物理资源来归一化虚拟机的可用性。作为示例，负荷均衡器24可基于虚拟机30被分配的资源来确定虚拟机30的可用性。作为另一示例，负荷均衡器24可将可用性确定为两种可用量度中的较低一者。第一量度可描述会话计数和CPU利用率，并且第二量度可描述影响数据访问时间的因素。经归一化的可用性可被视为量度的函数。
可用性计算器52可以任何合适的方式获得可用性信息。在某些实施例中，可用性计算器52可从反馈代理36和/或服务器接收可用性信息，并且可通过监控物理资源来监控可用性信息。例如，可用性计算器52可发出有源探头来监控资源，或者可观察诸如指示网络资源被负重的无序分组之类的异常。
在某些实施例中，如果物理资源的虚拟机30的使用达到物理资源的容限，则物理资源可被认为是不可用。如果使用处于或大于定义容限的阈值，则使用可能达到容限。
可用性信息可以指示影响资源可用性的计算的改变。例如，可用性信息可包括虚拟机的迁移状态，其指示虚拟机30已经从一个物理机20a移动到另一物理机20b。作为另一示例，可用性信息可包括对于已经向物理机20添加了应用或从物理机20删除了应用的报告。
负荷分发器54根据可用性来分发服务器负荷。作为示例，如果第一虚拟机30a，...，30b的集合的使用达到第一物理机20a的机器容限或者第一物理机20a的资源的资源容限，则负荷均衡器24将负荷分发给在第一物理机20a以外的物理机20b上运行的一个或多个虚拟机30c，...，30d。作为另一示例，如果第一虚拟机30a，...，30b每个的使用达到分配给其虚拟机30a，...，30b的容限，则负荷均衡器24将负荷分发给在第一物理机20a以外的物理机20b上运行的一个或多个虚拟机30c，...，30d。作为另一示例，如果第一虚拟机30a，...，30b的集合达到由第一物理机20a和第二物理机20b共享的网络资源的容限，则负荷均衡器24将负荷分发给在第一物理机20a和第二物理机20b以外的物理机20上运行的一个或多个虚拟机30c，...，30d。
物理机管理器56将物理机20置于可操作模式(诸如通电模式)或省电模式(诸如睡眠或断电模式)。处于可操作模式中的物理机20上的服务器可处理负荷，但是处于省电模式中的物理机20上的服务器不能处理负荷。处于省电模式中的物理机20使用很少电力和/或成本，以在可操作模式中使用该物理机20。物理机管理器56可在将物理机20置于省电模式中之前确保没有指向该物理机20的负荷。
物理机管理器56以任何合适的方式将物理机20置于各模式中。例如，物理机管理器56可以向服务器或服务器管理系统发送将物理机20置于省电模式的信号(诸如TCL telnet(远程登录)现在关停或简单网络管理协议(SNMP)消息)。作为另一示例，物理机管理器56可指示外部管理系统(例如数据中心)来将物理机20置入省电模式。作为另一示例，物理机管理器56可使用管理模式中的信号或LAN唤醒来将物理机20置入可操作模式。
在某些实施例中，物理机管理器56可进行操作以维持预定数目的空闲服务器，即，没有当前正处理负荷但是已经准好处理负荷的服务器。在这些实施例中，如果有太少的空闲服务器(例如，所有通电的服务器都活动)，则物理机管理器56可使另外的服务器通电以作为准备好处理负荷的空闲服务器操作。如果有太多的空闲服务器，则物理机管理器56可使空闲服务器断电。
预定数目的空闲服务器可以是任何适当的数目，诸如，一个、两个、三个或更多个空闲服务器。空闲服务器的数目可以是可配置的并且可以被调整以适合不断改变的条件。例如，如果预期到在(以时刻和/或天指定的)特定时间服务器的使用增大，则数目可被增大。类似地，如果预期到服务器的使用减少，则数目可被减小。
客户端28表示可进行操作以请求来自服务器的供给(诸如信息或服务)的任何合适的组件。客户端28的示例包括一个或多个计算机(例如，个人计算机、服务器、计算系统、网络和个人数字助理)、电话(例如，有线和/或无线电话)或者任何可进行操作以与系统10通信的任何其他设备。
图2图示用于通过虚拟机30确定物理资源的可用性的示例。在步骤110，负荷均衡器24促使在一个或多个物理机20上运行的虚拟机30的操作。虚拟机30使用一个或多个物理资源。在步骤114，描述虚拟机30和物理机20的可用性的可用性信息被接收到。可用性信息可包括性能量度，并且可指示第一虚拟机30a-30b的集合正在第一物理机20a上运行。
在某些实施例中，负荷均衡器24可调整其对资源容限的估计。作为示例，如果在物理机20上部署了增加的技术，则对物理机20的容限的估计可减少以适应(account for)所增加的技术。作为另一实施例，从物理机20移除了技术，则对物理机20的容限的估计可增大以适应所移除的技术。作为另一实施例，如果第一虚拟机30a已经从第一移动到第二物理机20b，则对第一物理机20a的容限的估计可增大并且对第二物理机20b的容限的估计可减小以适应此移动。
在步骤118，虚拟机30的资源的使用根据可用性信息来确定。资源的使用可根据性能量度来确定。在步骤122，物理资源的可用性可根据虚拟机30的使用来确定。例如，如果物理资源的虚拟机30的使用达到了该物理资源的容限，则该物理资源可被视为不可用。如果使用处于或者大于定义容限的阈值，则使用可能达到了容限。
在步骤126，服务器负荷根据可用性被分发。作为示例，如果第一虚拟机30a-30b的集合的使用达到第一物理机20a的机器容限或第一物理机20a的资源的资源容限，则负荷均衡器24将负荷分发给在第一物理机20a以外的物理机20b上运行的一个或多个虚拟机30c-30d。
图3图示用于分发负荷的方法的示例，该方法可减少电力使用。在步骤210，负荷均衡器24促使在物理机20上运行的活动服务器的操作。在步骤214，具有小于服务器的扩增阈值的负荷的可用服务器被选择。扩增阈值可以是负荷均衡器24开始将连接发送给另一服务器以将该另一服务器添加到活动服务器集合时的负荷。
在步骤218，可用服务器被加载负荷，直到该服务器的扩增阈值达到为止。负荷均衡器24可通过向该服务器分配一个或多个新连接来对该服务器加载负荷。在步骤22，负荷可能已被容纳，例如，可能没有更多的连接要分配。如果负荷未被容纳，则该方法返回到步骤214，这里，下一可用服务器被选择。如果负荷已被容纳，则该方法进行到步骤226。
在步骤226，服务器的负荷被确定为低于该服务器的缩减阈值。缩减阈值是负荷均衡器开始使服务器排尽连接时的负荷。在步骤230，低负荷服务器被排尽，以将服务器置入空闲模式。负荷均衡器24可通过停止向低服务器分配任何新连接来使该服务器排尽。在一些实施例中，负荷均衡器24可慢慢地缩减活动服务器并且继续监控负荷，以避免使其他服务器负荷过多。
在步骤238，可以有适当数目的空闲服务器。负荷均衡器24可进行操作以将空闲服务器的数目维持在适当数目，诸如一个、两个、三个或更更多个空闲服务器。如果有适当数目，则该方法结束。如果没有适当数目，则该方法进行到步骤242。在步骤242，空闲服务器的数目可以大于或小于所述适当数目。
如果空闲服务器的数目小于所述适当数目，则在步骤246，这些服务器中的一个或多个服务器的物理机20被通电以将处于空闲模式的服务器的数目增大到所述适当数目。如果空闲服务器的数目大于所述适当数目，则在步骤248，这些处于空闲模式的服务器中的一个或多个服务器的物理机被置入省电模式，以将处于空闲服务器的数目减小到所述适当数目。省电模式可减少物理机20的功耗。负荷均衡器24可进行检查以查看只具有空闲服务器的物理机20被断电。在某些实施例中，负荷均衡器24可从物理机20移走活动服务器以便腾空物理机20。如果在步骤238有适当数目的空闲服务器，则该方法结束。
在此描述的系统和装置的组件可包括接口、逻辑、存储器和/或其他合适的元件。接口接收输入，发送输出，处理输入和/或输出，和/或执行其他合适的操作。接口可包括硬件和/或软件。
逻辑执行组件的操作，例如，运行指令以从输入生成输出。逻辑可包括硬件、软件和/或其他逻辑。逻辑可被包含在一个或多个有形介质中并且当被计算机运行时可执行操作。某种逻辑，诸如处理器，可管理组件的操作。处理器的示例包括一个或多个计算机、一个或多个微处理器、一个或多个应用和/或其他逻辑。
在特定实施例中，这些实施例的操作可由包含有计算机程序、软件、计算机可执行指令和/或能够被计算机运行的指令的一个或多个计算机可读介质来执行。在特定实施例中，这些实施例的操作可由存储、包含和/或编码有计算机程序的和/或具有存储的和/或编码的计算机程序的一个或多个计算机可读介质来执行。
存储器存储信息。存储器可包括一个或多个有形的计算机可读和/或计算机可运行的存储介质。存储器的示例包括计算机存储器(例如，随机存取存储器(RAM)或只读存储器(ROM))、海量存储介质(例如，硬盘)、可移除存储介质(例如，致密盘(CD)或数字视频盘(DVD))、数据库和/或网络存储装置(例如，服务器)和/或其他计算机可读介质。
在此描述的系统、装置和方法可利用通信协议和技术来提供通信会话。通信协议和技术的示例包括由电气和电子工程师协会(IEEE)802.xx标准、国际电信联盟(ITU-T)标准、欧洲电信标准化协会(ETSI)标准、互联网工程任务组(IETF)标准或其他标准所设定的那些通信协议和技术。
在不脱离本发明的范围的情况下，可对在此描述的系统、装置和方法做出修改、增加或省略。系统的组件可被集成或被分离。而且，系统的操作可由更多的、更少的或其他的组件执行。另外，系统的操作可使用任何合适的逻辑来执行，包括软件、硬件和/或其他逻辑。方法可包括更多的、更少的或其他的步骤。另外，这些步骤可以任何合适的顺序来执行。如在本文本中所使用的，“每个”是指一个集合中的每个成员或一个集合的子集中的每个成员。集合可包括零个、一个或更多个元件。集合的子集可包括集合中的零个、一个、两个或更多个或所有的元件。
虽然已经根据某些实施例描述了本发明，但是对于本领域技术人员来说，对于实施例的变更和改变将会很明显。因此，上述实施例的描述不限制本发明。在不脱离由所附权利要求定义的本发明的精神和范围的情况下，可以有其他改变、替换或变更形式。

Claims (12)

1.一种用于均衡服务器负荷的方法，包括在与一个或多个物理机相连的负荷均衡器上执行以下操作：
访问可用性信息，所述可用性信息描述所述一个或多个物理机上运行的多个虚拟机，所述多个虚拟机使用一个或多个物理资源，所述可用性信息将每个虚拟机与所述每个虚拟机所使用的相应物理资源相关联；
从所述可用性信息来确定所述多个虚拟机的使用；
根据所述多个虚拟机的使用来确定所述一个或多个物理资源的可用性；
根据所述一个或多个物理资源的可用性，通过把从与所述负荷均衡器相连的客户端接收的请求转发给所述多个虚拟机，来分发服务器负荷；以及
管理所述一个或多个物理机以维持预定数目的空闲服务器，所述空闲服务器是没有当前正处理负荷但已经准备好处理负荷的服务器。
2.根据权利要求1所述的方法，
确定所述一个或多个物理资源的可用性的步骤进一步包括：
确定在第一物理机上运行的第一虚拟机集合的使用将达到容限；并且
根据可用性来分发服务器负荷的步骤进一步包括：
将负荷分发给在不同于所述第一物理机的第二物理机上运行的一个或多个虚拟机。
3.根据权利要求1所述的方法，
确定所述一个或多个物理资源的可用性的步骤进一步包括：
确定在第一物理机上运行的第一虚拟机集合的使用将达到所述第一物理机的资源的容限；并且
根据可用性来分发服务器负荷的步骤进一步包括：
将负荷分发给在不同于所述第一物理机的第二物理机上运行的一个或多个虚拟机。
4.根据权利要求1所述的方法，
确定所述一个或多个物理资源的可用性的步骤进一步包括：
确立已从某物理机移除或已向某物理机部署了技术；并且
调整对该物理机的容限的估计以适应所部署或移除的技术。
5.根据权利要求1所述的方法，
确定所述一个或多个物理资源的可用性的步骤进一步包括：
确立某虚拟机已被从第一物理机移动到第二物理机；并且
调整对所述第一物理机的容限的第一估计以及对所述第二物理机的容限的第二估计以适应此移动。
6.根据权利要求1所述的方法，还包括：
从系统管理程序接收所述可用性信息。
7.一种在与一个或多个物理机相连的负荷均衡器中用于均衡服务器负荷的装置，包括：
用于访问可用性信息的装置，所述可用性信息描述所述一个或多个物理机上运行的多个虚拟机，所述多个虚拟机使用一个或多个物理资源，所述可用性信息将每个虚拟机与所述每个虚拟机所使用的相应物理资源相关联；
用于从所述可用性信息来确定所述多个虚拟机的使用的装置；
用于根据所述多个虚拟机的使用来确定所述一个或多个物理资源的可用性的装置；
用于根据所述一个或多个物理资源的可用性，通过把从与所述负荷均衡器相连的客户端接收的请求转发给所述多个虚拟机，来分发服务器负荷的装置；以及
用于管理所述一个或多个物理机以维持预定数目的空闲服务器的装置，所述空闲服务器是没有当前正处理负荷但已经准备好处理负荷的服务器。
8.根据权利要求7所述的装置，其中，
用于确定所述一个或多个物理资源的可用性的装置进一步包括：
用于确定在第一物理机上运行的第一虚拟机集合的使用将达到容限的装置；并且
用于根据可用性来分发服务器负荷的装置进一步包括：
用于将负荷分发给在不同于所述第一物理机的第二物理机上运行的一个或多个虚拟机的装置。
9.根据权利要求7所述的装置，其中，
用于确定所述一个或多个物理资源的可用性的装置进一步包括：
用于确定在第一物理机上运行的第一虚拟机集合的使用将达到所述第一物理机的资源的容限的装置；并且
用于根据可用性来均衡服务器负荷的装置进一步包括：
用于将负荷分发给在不同于所述第一物理机的第二物理机上运行的一个或多个虚拟机的装置。
10.根据权利要求7所述的装置，其中，
用于确定所述一个或多个物理资源的可用性的装置进一步包括：
用于确立已从某物理机移除或已向某物理机部署了技术的装置；以及
用于调整对该物理机的容限的估计以适应所部署或移除的技术的装置。
11.根据权利要求7所述的装置，其中，
用于确定所述一个或多个物理资源的可用性的装置进一步包括：
用于确立某虚拟机已被从第一物理机移动到第二物理机的装置；以及
用于调整对所述第一物理机的容限的第一估计以及对所述第二物理机的容限的第二估计以适应此移动的装置。
12.根据权利要求7所述的装置，还包括：
用于从系统管理程序接收所述可用性信息的装置。
CN201080049096.0A 2009-10-30 2010-10-07 根据物理资源的可用性来均衡服务器负荷 Active CN102667723B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/609,077 2009-10-30
US12/609,077 US9122537B2 (en) 2009-10-30 2009-10-30 Balancing server load according to availability of physical resources based on the detection of out-of-sequence packets
PCT/US2010/051735 WO2011059604A2 (en) 2009-10-30 2010-10-07 Balancing server load according to availability of physical resources

Publications (2)

Publication Number Publication Date
CN102667723A CN102667723A (zh) 2012-09-12
CN102667723B true CN102667723B (zh) 2015-09-02

Family

ID=43416224

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080049096.0A Active CN102667723B (zh) 2009-10-30 2010-10-07 根据物理资源的可用性来均衡服务器负荷

Country Status (4)

Country Link
US (1) US9122537B2 (zh)
EP (1) EP2494443B1 (zh)
CN (1) CN102667723B (zh)
WO (1) WO2011059604A2 (zh)

Families Citing this family (90)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7991910B2 (en) 2008-11-17 2011-08-02 Amazon Technologies, Inc. Updating routing information based on client location
US8028090B2 (en) 2008-11-17 2011-09-27 Amazon Technologies, Inc. Request routing utilizing client location information
US8374929B1 (en) 2007-08-06 2013-02-12 Gogrid, LLC System and method for billing for hosted services
US7962597B2 (en) 2008-03-31 2011-06-14 Amazon Technologies, Inc. Request routing based on class
US8447831B1 (en) 2008-03-31 2013-05-21 Amazon Technologies, Inc. Incentive driven content delivery
US8321568B2 (en) 2008-03-31 2012-11-27 Amazon Technologies, Inc. Content management
US8606996B2 (en) 2008-03-31 2013-12-10 Amazon Technologies, Inc. Cache optimization
US7970820B1 (en) 2008-03-31 2011-06-28 Amazon Technologies, Inc. Locality based content distribution
US8601090B1 (en) 2008-03-31 2013-12-03 Amazon Technologies, Inc. Network resource identification
US9407681B1 (en) 2010-09-28 2016-08-02 Amazon Technologies, Inc. Latency measurement in resource requests
US8688837B1 (en) 2009-03-27 2014-04-01 Amazon Technologies, Inc. Dynamically translating resource identifiers for request routing using popularity information
US8412823B1 (en) 2009-03-27 2013-04-02 Amazon Technologies, Inc. Managing tracking information entries in resource cache components
US8782236B1 (en) 2009-06-16 2014-07-15 Amazon Technologies, Inc. Managing resources using resource expiration data
US8719435B2 (en) * 2009-08-21 2014-05-06 The Chinese University Of Hong Kong Devices and methods for scheduling transmission time of media data
US8397073B1 (en) 2009-09-04 2013-03-12 Amazon Technologies, Inc. Managing secure content in a content delivery network
US8533711B2 (en) * 2009-11-30 2013-09-10 Red Hat Israel, Ltd. Method and system for adjusting a selection algorithm for selecting a candidate host with a highest memory sharing history value with a target virtual machine from amongst a set of host machines that have a standard deviation of memory sharing history with the virtual machine below a threshold amount
US8832683B2 (en) * 2009-11-30 2014-09-09 Red Hat Israel, Ltd. Using memory-related metrics of host machine for triggering load balancing that migrate virtual machine
US8589921B2 (en) * 2009-11-30 2013-11-19 Red Hat Israel, Ltd. Method and system for target host optimization based on resource sharing in a load balancing host and virtual machine adjustable selection algorithm
US8402140B2 (en) * 2010-01-13 2013-03-19 Nec Laboratories America, Inc. Methods and apparatus for coordinated energy management in virtualized data centers
US9495338B1 (en) 2010-01-28 2016-11-15 Amazon Technologies, Inc. Content distribution network
JP5533005B2 (ja) * 2010-02-17 2014-06-25 富士通株式会社 情報処理装置、計算機システム及びプログラム
US8601226B1 (en) * 2010-05-20 2013-12-03 Gogrid, LLC System and method for storing server images in a hosting system
US20110307541A1 (en) * 2010-06-10 2011-12-15 Microsoft Corporation Server load balancing and draining in enhanced communication systems
US8839238B2 (en) * 2010-06-11 2014-09-16 International Business Machines Corporation Dynamic virtual machine shutdown without service interruptions
US8826292B2 (en) 2010-08-06 2014-09-02 Red Hat Israel, Ltd. Migrating virtual machines based on level of resource sharing and expected load per resource on candidate target host machines
US8949410B2 (en) 2010-09-10 2015-02-03 Cisco Technology, Inc. Server load balancer scaling for virtual servers
US8468247B1 (en) 2010-09-28 2013-06-18 Amazon Technologies, Inc. Point of presence management in request routing
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US9003035B1 (en) 2010-09-28 2015-04-07 Amazon Technologies, Inc. Point of presence management in request routing
US8452874B2 (en) 2010-11-22 2013-05-28 Amazon Technologies, Inc. Request routing processing
US9288117B1 (en) 2011-02-08 2016-03-15 Gogrid, LLC System and method for managing virtual and dedicated servers
US10467042B1 (en) 2011-04-27 2019-11-05 Amazon Technologies, Inc. Optimized deployment based upon customer locality
US8589480B2 (en) * 2011-05-24 2013-11-19 Sony Computer Entertainment America Llc Automatic performance and capacity measurement for networked servers
JP5621928B2 (ja) * 2011-06-22 2014-11-12 日本電気株式会社 サーバ、電源管理システム、電源管理方法、およびプログラム
US9766947B2 (en) * 2011-06-24 2017-09-19 At&T Intellectual Property I, L.P. Methods and apparatus to monitor server loads
FR2977116A1 (fr) * 2011-06-27 2012-12-28 France Telecom Procede de fourniture de service d'execution de logiciel a la demande
US8880657B1 (en) 2011-06-28 2014-11-04 Gogrid, LLC System and method for configuring and managing virtual grids
US8954587B2 (en) * 2011-07-27 2015-02-10 Salesforce.Com, Inc. Mechanism for facilitating dynamic load balancing at application servers in an on-demand services environment
US9176788B2 (en) * 2011-08-16 2015-11-03 Esds Software Solution Pvt. Ltd. Method and system for real time detection of resource requirement and automatic adjustments
US9489222B2 (en) * 2011-08-24 2016-11-08 Radware, Ltd. Techniques for workload balancing among a plurality of physical machines
US8825863B2 (en) * 2011-09-20 2014-09-02 International Business Machines Corporation Virtual machine placement within a server farm
US8914521B2 (en) 2011-09-27 2014-12-16 Oracle International Corporation System and method for providing active-passive routing in a traffic director environment
US9154549B2 (en) 2011-10-27 2015-10-06 Cisco Technology, Inc. Dynamic server farms
US20130159487A1 (en) * 2011-12-14 2013-06-20 Microsoft Corporation Migration of Virtual IP Addresses in a Failover Cluster
WO2013112145A1 (en) * 2012-01-25 2013-08-01 Empire Technology Development Llc User generated data center power savings
US9319274B1 (en) * 2012-03-29 2016-04-19 Emc Corporation Method and system for dynamic provisioning using server dormant mode for virtual server dormancy
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US9154551B1 (en) 2012-06-11 2015-10-06 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US9323577B2 (en) 2012-09-20 2016-04-26 Amazon Technologies, Inc. Automated profiling of resource usage
US9305068B1 (en) * 2012-09-28 2016-04-05 Emc Corporation Methods and apparatus for database virtualization
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
CN103092326A (zh) * 2013-01-25 2013-05-08 浪潮电子信息产业股份有限公司 一种基于时间的物理机节能方法
US9128777B2 (en) * 2013-01-28 2015-09-08 Google Inc. Operating and maintaining a cluster of machines
JP6107218B2 (ja) * 2013-02-25 2017-04-05 富士通株式会社 制御装置，制御方法，および制御プログラム
CN103475538B (zh) * 2013-09-02 2016-04-13 南京邮电大学 一种基于多接口的自适应的云服务测试方法
CN103533063A (zh) * 2013-10-18 2014-01-22 北京华胜天成科技股份有限公司 一种可实现web应用资源动态扩展的方法及装置
US9632840B2 (en) * 2014-04-22 2017-04-25 International Business Machines Corporation Load balancing with granularly redistributable workloads
AT516134B1 (de) 2014-07-22 2018-12-15 Ge Jenbacher Gmbh & Co Og Brennkraftmaschine mit einer Regeleinrichtung
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US20160179582A1 (en) * 2014-12-23 2016-06-23 Intel Corporation Techniques to dynamically allocate resources for local service chains of configurable computing resources
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US9819567B1 (en) 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
CN106331036B (zh) * 2015-06-30 2020-05-26 联想(北京)有限公司 一种服务器控制方法及装置
CN105183130A (zh) * 2015-08-03 2015-12-23 广东睿江科技有限公司 一种云平台下物理机节省电能的方法及装置
CN105338080A (zh) * 2015-10-28 2016-02-17 无锡峰巢美家网络科技有限公司 多服务器业务数据的同步均衡服务系统与均衡方法
US10270878B1 (en) 2015-11-10 2019-04-23 Amazon Technologies, Inc. Routing for origin-facing points of presence
US10348639B2 (en) 2015-12-18 2019-07-09 Amazon Technologies, Inc. Use of virtual endpoints to improve data transmission rates
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10831549B1 (en) * 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10372499B1 (en) 2016-12-27 2019-08-06 Amazon Technologies, Inc. Efficient region selection system for executing request-driven code
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
US10742593B1 (en) 2017-09-25 2020-08-11 Amazon Technologies, Inc. Hybrid content request routing system
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
US20190386928A1 (en) * 2018-06-19 2019-12-19 R-Stor Inc. System and method for utilizing idle network resources
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
US11175848B2 (en) 2020-03-27 2021-11-16 International Business Machines Corporation Self-determination for in-progress volume draining
CN111787095A (zh) * 2020-06-29 2020-10-16 杭州数梦工场科技有限公司 负载均衡方法和负载均衡器
US20230362728A1 (en) * 2020-09-18 2023-11-09 Nokia Solutions And Networks Oy Allocation of Computing Resources for Radio Access Networks
US11816364B2 (en) * 2022-01-13 2023-11-14 Microsoft Technology Licensing, Llc Performance evaluation of an application based on detecting degradation caused by other computing processes
US20230308505A1 (en) * 2022-03-22 2023-09-28 Microsoft Technology Licensing, Llc Multi-device gaze tracking

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1538317A (zh) * 2003-10-24 2004-10-20 中兴通讯股份有限公司 多业务平台多种资源综合调度的方法
CN1645330A (zh) * 2004-01-21 2005-07-27 国际商业机器公司 用于应用程序分布式管理的启用网格的虚拟机的方法和系统
CN1913465A (zh) * 2005-08-11 2007-02-14 中兴通讯股份有限公司 无线局域网的负载均衡方法
CN101473306A (zh) * 2006-06-19 2009-07-01 帝斯科匹尔公司 基于资源的调度器

Family Cites Families (99)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6070199A (en) * 1996-11-13 2000-05-30 Extended Systems, Inc. Apparatus to connect a client computer to a computer data network
CA2206737C (fr) 1997-03-27 2000-12-05 Bull S.A. Architecture en reseau de machine informatique
US6802062B1 (en) * 1997-04-01 2004-10-05 Hitachi, Ltd. System with virtual machine movable between virtual machine systems and control method
US7039008B1 (en) * 1997-05-02 2006-05-02 Cisco Technology, Inc. Method and apparatus for maintaining connection state between a connection manager and a failover device
US6366558B1 (en) * 1997-05-02 2002-04-02 Cisco Technology, Inc. Method and apparatus for maintaining connection state between a connection manager and a failover device
US6445704B1 (en) * 1997-05-02 2002-09-03 Cisco Technology, Inc. Method and apparatus for virtualizing a locally initiated outbound connection from a connection manager
US6324177B1 (en) * 1997-05-02 2001-11-27 Cisco Technology Method and apparatus for managing connections based on a client IP address
US6178448B1 (en) * 1997-06-18 2001-01-23 International Business Machines Corporation Optimal link scheduling for multiple links by obtaining and utilizing link quality information
EP0967545A1 (en) * 1998-06-23 1999-12-29 BRITISH TELECOMMUNICATIONS public limited company A system and method for the co-ordination and control of information supply using a distributed multi-agent platform
US6507562B1 (en) * 1998-06-30 2003-01-14 Sun Microsystems, Inc. Dynamic optimization for receivers using distance between a repair head and a member station in a repair group for receivers having a closely knit topological arrangement to locate repair heads near the member stations which they serve in tree based repair in reliable multicast protocol
US6249801B1 (en) * 1998-07-15 2001-06-19 Radware Ltd. Load balancing
US6092178A (en) 1998-09-03 2000-07-18 Sun Microsystems, Inc. System for responding to a resource request
US6502135B1 (en) 1998-10-30 2002-12-31 Science Applications International Corporation Agile network protocol for secure communications with assured system availability
US6385643B1 (en) 1998-11-05 2002-05-07 Bea Systems, Inc. Clustered enterprise Java™ having a message passing kernel in a distributed processing system
US6424621B1 (en) * 1998-11-17 2002-07-23 Sun Microsystems, Inc. Software interface between switching module and operating system of a data packet switching and load balancing system
US6510164B1 (en) * 1998-11-16 2003-01-21 Sun Microsystems, Inc. User-level dedicated interface for IP applications in a data packet switching and load balancing system
US6728748B1 (en) * 1998-12-01 2004-04-27 Network Appliance, Inc. Method and apparatus for policy based class of service and adaptive service level management within the context of an internet and intranet
US6590861B1 (en) 1999-03-18 2003-07-08 3Com Corporation Combining virtual local area networks and load balancing with fault tolerance in a high performance protocol
US6636983B1 (en) * 1999-10-07 2003-10-21 Andrew E. Levi Method and system for uniform resource locator status tracking
US7062556B1 (en) * 1999-11-22 2006-06-13 Motorola, Inc. Load balancing method in a communication network
US7441045B2 (en) * 1999-12-13 2008-10-21 F5 Networks, Inc. Method and system for balancing load distribution on a wide area network
US20010034752A1 (en) * 2000-01-26 2001-10-25 Prompt2U Inc. Method and system for symmetrically distributed adaptive matching of partners of mutual interest in a computer network
US7099915B1 (en) * 2000-06-30 2006-08-29 Cisco Technology, Inc. Server load balancing method and system
US6934756B2 (en) * 2000-11-01 2005-08-23 International Business Machines Corporation Conversational networking via transport, coding and control conversational protocols
US7653700B1 (en) * 2000-11-16 2010-01-26 Microsoft Corporation System and method for performing client-centric load balancing of multiple globally-dispersed servers
JP2002169831A (ja) * 2000-12-04 2002-06-14 Sharp Corp データベースサーバ及びプログラムを記録した記録媒体
JP2002202959A (ja) * 2000-12-28 2002-07-19 Hitachi Ltd 動的な資源分配をする仮想計算機システム
US20020099753A1 (en) * 2001-01-20 2002-07-25 Hardin David S. System and method for concurrently supporting multiple independent virtual machines
US20020184368A1 (en) * 2001-04-06 2002-12-05 Yunsen Wang Network system, method and protocols for hierarchical service and content distribution via directory enabled network
US7469295B1 (en) 2001-06-25 2008-12-23 Network Appliance, Inc. Modified round robin load balancing technique based on IP identifier
US6944785B2 (en) 2001-07-23 2005-09-13 Network Appliance, Inc. High-availability cluster virtual server system
US7174379B2 (en) * 2001-08-03 2007-02-06 International Business Machines Corporation Managing server resources for hosted applications
US20050044206A1 (en) * 2001-09-07 2005-02-24 Staffan Johansson Method and arrangements to achieve a dynamic resource distribution policy in packet based communication networks
US7327676B2 (en) * 2001-10-11 2008-02-05 Nippon Telegraph And Telephone Corporation Data transmission control method, program therefor and data transmission unit using the same
US7284067B2 (en) * 2002-02-20 2007-10-16 Hewlett-Packard Development Company, L.P. Method for integrated load balancing among peer servers
US7603670B1 (en) * 2002-03-28 2009-10-13 Symantec Operating Corporation Virtual machine transfer between computer systems
US7028094B2 (en) * 2002-08-07 2006-04-11 Nokia Corporation Data communication method, system, and transmitter and receiver constituting the system
CN1265583C (zh) * 2002-12-19 2006-07-19 华为技术有限公司 一种业务资源的分配方法
US7962545B2 (en) * 2002-12-27 2011-06-14 Intel Corporation Dynamic service registry for virtual machines
KR100511687B1 (ko) * 2003-05-21 2005-09-01 니트젠테크놀러지스 주식회사 네트워크에 대한 지능형 트래픽 관리시스템 및 그를이용한 지능형 트래픽 관리방법
US7203944B1 (en) * 2003-07-09 2007-04-10 Veritas Operating Corporation Migrating virtual machines among computer systems to balance load caused by virtual machines
US20050038890A1 (en) * 2003-08-11 2005-02-17 Hitachi., Ltd. Load distribution method and client-server system
US7127625B2 (en) * 2003-09-04 2006-10-24 Hewlett-Packard Development Company, L.P. Application management based on power consumption
US20050060590A1 (en) * 2003-09-16 2005-03-17 International Business Machines Corporation Power-aware workload balancing usig virtual machines
WO2005036806A2 (en) * 2003-10-08 2005-04-21 Unisys Corporation Scalable partition memory mapping system
US20050198303A1 (en) * 2004-01-02 2005-09-08 Robert Knauerhase Dynamic virtual machine service provider allocation
US7639656B2 (en) * 2004-04-28 2009-12-29 Symbol Technologies, Inc. Protocol for communication between access ports and wireless switches
US7383405B2 (en) * 2004-06-30 2008-06-03 Microsoft Corporation Systems and methods for voluntary migration of a virtual machine between hosts with common storage connectivity
US20060069761A1 (en) * 2004-09-14 2006-03-30 Dell Products L.P. System and method for load balancing virtual machines in a computer network
US7730486B2 (en) * 2005-02-28 2010-06-01 Hewlett-Packard Development Company, L.P. System and method for migrating virtual machines on cluster systems
US7607129B2 (en) * 2005-04-07 2009-10-20 International Business Machines Corporation Method and apparatus for using virtual machine technology for managing parallel communicating applications
WO2007021836A2 (en) * 2005-08-15 2007-02-22 Toutvirtual Inc. Virtual systems management
US7461274B2 (en) 2005-08-23 2008-12-02 International Business Machines Corporation Method for maximizing server utilization in a resource constrained environment
US8104033B2 (en) * 2005-09-30 2012-01-24 Computer Associates Think, Inc. Managing virtual machines based on business priorty
US20070083642A1 (en) * 2005-10-07 2007-04-12 International Business Machines Corporation Fully distributed data collection and consumption to maximize the usage of context, resource, and capacity-based client server interactions
US20070174429A1 (en) * 2006-01-24 2007-07-26 Citrix Systems, Inc. Methods and servers for establishing a connection between a client system and a virtual machine hosting a requested computing environment
JP4758259B2 (ja) * 2006-01-31 2011-08-24 株式会社クラウド・スコープ・テクノロジーズ ネットワーク監視装置及び方法
US8042108B2 (en) * 2006-03-18 2011-10-18 International Business Machines Corporation Virtual machine migration between servers
US7814495B1 (en) * 2006-03-31 2010-10-12 V Mware, Inc. On-line replacement and changing of virtualization software
CA2654418A1 (en) 2006-06-19 2007-12-27 Diskeeper Corporation Resource-based scheduler
US20080046890A1 (en) * 2006-08-17 2008-02-21 Stanley Steven Dunlap Method and apparatus for balancing workloads in a cluster
US8185893B2 (en) * 2006-10-27 2012-05-22 Hewlett-Packard Development Company, L.P. Starting up at least one virtual machine in a physical machine by a load balancer
US7844839B2 (en) * 2006-12-07 2010-11-30 Juniper Networks, Inc. Distribution of network communications based on server power consumption
US7444459B2 (en) * 2006-12-12 2008-10-28 Lsi Logic Corporation Methods and systems for load balancing of virtual machines in clustered processors using storage related load information
US8291108B2 (en) * 2007-03-12 2012-10-16 Citrix Systems, Inc. Systems and methods for load balancing based on user selected metrics
US8484656B2 (en) * 2007-03-12 2013-07-09 Citrix Systems, Inc. Systems and methods for providing global server load balancing of heterogeneous devices
US7984515B1 (en) * 2007-03-30 2011-07-19 Emc Corporation Software license enforcement by runtime feature enablement
US8095929B1 (en) * 2007-04-16 2012-01-10 Vmware, Inc. Method and system for determining a cost-benefit metric for potential virtual machine migrations
US8831674B2 (en) * 2007-09-27 2014-09-09 Multi-Tech Systems, Inc. Message server
EP2203818A2 (en) * 2007-10-21 2010-07-07 Citrix Systems, Inc. Systems and methods to adaptively load balance user sessions to reduce energy consumption
US20090193436A1 (en) * 2008-01-30 2009-07-30 Inventec Corporation Alarm display system of cluster storage system and method thereof
JP5326308B2 (ja) * 2008-03-13 2013-10-30 日本電気株式会社 コンピュータリンク方法及びシステム
JP4467623B2 (ja) * 2008-03-19 2010-05-26 富士通株式会社 アップデート管理プログラム、管理ノード、アップデート管理方法、およびクラスタシステム
US20090265707A1 (en) * 2008-04-21 2009-10-22 Microsoft Corporation Optimizing application performance on virtual machines automatically with end-user preferences
WO2010001481A1 (ja) * 2008-07-04 2010-01-07 富士通株式会社 情報収集装置、情報収集プログラム及び方法
US8438269B1 (en) * 2008-09-12 2013-05-07 At&T Intellectual Property I, Lp Method and apparatus for measuring the end-to-end performance and capacity of complex network service
US8219667B2 (en) * 2008-09-25 2012-07-10 International Business Machines Corporation Automated identification of computing system resources based on computing resource DNA
US8261282B1 (en) * 2008-09-30 2012-09-04 Netapp, Inc. System and method for virtual machine host load protection
US8260926B2 (en) * 2008-11-25 2012-09-04 Citrix Systems, Inc. Systems and methods for GSLB site persistence
US8171124B2 (en) * 2008-11-25 2012-05-01 Citrix Systems, Inc. Systems and methods for GSLB remote service monitoring
CN101452406B (zh) * 2008-12-23 2011-05-18 北京航空航天大学 一种对操作系统透明的机群负载平衡方法
US8117613B2 (en) * 2009-04-08 2012-02-14 Microsoft Corporation Optimized virtual machine migration mechanism
US9600332B2 (en) * 2009-04-28 2017-03-21 Cisco Technology, Inc. Server load balancing based on virtual utilization, physical utilization, and feedback
EP2425341B1 (en) * 2009-05-01 2018-07-11 Citrix Systems, Inc. Systems and methods for establishing a cloud bridge between virtual storage resources
US8873375B2 (en) * 2009-07-22 2014-10-28 Broadcom Corporation Method and system for fault tolerance and resilience for virtualized machines in a network
US20110078303A1 (en) * 2009-09-30 2011-03-31 Alcatel-Lucent Usa Inc. Dynamic load balancing and scaling of allocated cloud resources in an enterprise network
US8549536B2 (en) * 2009-11-30 2013-10-01 Autonomy, Inc. Performing a workflow having a set of dependancy-related predefined activities on a plurality of task servers
US8412832B2 (en) * 2009-12-23 2013-04-02 Citrix Systems, Inc. Systems and methods for GSLB MEP connection management across multiple core appliances
JP5454135B2 (ja) * 2009-12-25 2014-03-26 富士通株式会社 仮想マシン移動制御装置、仮想マシン移動制御方法および仮想マシン移動制御プログラム
US8265973B2 (en) * 2010-03-11 2012-09-11 International Business Machines Corporation Analytic-based scaling of information technology resources
US9329947B2 (en) * 2010-06-22 2016-05-03 Red Hat Israel, Ltd. Resuming a paused virtual machine without restarting the virtual machine
US8826292B2 (en) * 2010-08-06 2014-09-02 Red Hat Israel, Ltd. Migrating virtual machines based on level of resource sharing and expected load per resource on candidate target host machines
US20120109852A1 (en) * 2010-10-27 2012-05-03 Microsoft Corporation Reactive load balancing for distributed systems
CN102232282B (zh) * 2010-10-29 2014-03-26 华为技术有限公司 一种实现数据中心资源负载均衡的方法及装置
US20120173709A1 (en) * 2011-01-05 2012-07-05 Li Li Seamless scaling of enterprise applications
US8738757B2 (en) * 2011-01-10 2014-05-27 Telefonaktiebolaget L M Ericsson (Publ) System and method for variable-size table construction applied to a table-lookup approach for load-spreading in forwarding data in a network
US9195510B2 (en) * 2011-04-04 2015-11-24 Dell Products L.P. Information handling system application decentralized workload management
JP5694101B2 (ja) * 2011-09-20 2015-04-01 株式会社東芝 メモリ・デバイス、ホスト・デバイス
WO2013049687A1 (en) * 2011-09-30 2013-04-04 Mail Bypass, Inc. Message delivery systems and methods

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1538317A (zh) * 2003-10-24 2004-10-20 中兴通讯股份有限公司 多业务平台多种资源综合调度的方法
CN1645330A (zh) * 2004-01-21 2005-07-27 国际商业机器公司 用于应用程序分布式管理的启用网格的虚拟机的方法和系统
CN1913465A (zh) * 2005-08-11 2007-02-14 中兴通讯股份有限公司 无线局域网的负载均衡方法
CN101473306A (zh) * 2006-06-19 2009-07-01 帝斯科匹尔公司 基于资源的调度器

Also Published As

Publication number Publication date
EP2494443B1 (en) 2020-07-15
CN102667723A (zh) 2012-09-12
US20110106949A1 (en) 2011-05-05
US9122537B2 (en) 2015-09-01
EP2494443A2 (en) 2012-09-05
WO2011059604A3 (en) 2011-09-15
WO2011059604A2 (en) 2011-05-19

Similar Documents

Publication Publication Date Title
CN102667723B (zh) 根据物理资源的可用性来均衡服务器负荷
KR100800369B1 (ko) 전력 제어를 위한 컴퓨터 판독 가능 기록 매체, 방법 및 장치
US9632839B2 (en) Dynamic virtual machine consolidation
Chen et al. Energy-Aware Server Provisioning and Load Dispatching for Connection-Intensive Internet Services.
Nakai et al. Load balancing for internet distributed services using limited redirection rates
US8098658B1 (en) Power-based networking resource allocation
EP2203818A2 (en) Systems and methods to adaptively load balance user sessions to reduce energy consumption
Yang et al. Availability-aware energy-efficient virtual machine placement
US20140215041A1 (en) Workload migration determination at multiple compute hierarchy levels
CN107645540A (zh) web应用系统的负载均衡方法
CN102012836A (zh) 一种进程生存控制方法和设备
CN103957251A (zh) 一种实现服务器负载均衡的方法及系统
Aldmour et al. An approach for offloading in mobile cloud computing to optimize power consumption and processing time
JP2014531691A (ja) 稼働中モジュールの診断検査
EP3787231B1 (en) Server configuration method and apparatus
CN108200151B (zh) 一种分布式存储系统中ISCSI Target负载均衡方法和装置
US8046602B2 (en) Controlling connection status of network adapters
CN104683186A (zh) 网络资源调度方法及装置
CN111786809A (zh) 一种客户端软件网络优化方法、系统、装置及存储介质
EP3685567B1 (en) Load shedding of traffic based on current load state of target capacity
US10951690B2 (en) Near real-time computation of scaling unit's load and availability state
CN115756135A (zh) 一种处理器管理方法以及计算设备
Sarvabhatla et al. A network aware energy efficient offloading algorithm for mobile cloud computing over 5g network
Tziritas et al. Server consolidation in cloud computing
Seliuchenko et al. Analysis of load balancing methods for improving of utilization efficiency of hardware resources of distributed systems

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant