CN102550004A - 企业网络中分配的云资源的动态负载平衡和调配 - Google Patents

企业网络中分配的云资源的动态负载平衡和调配 Download PDF

Info

Publication number
CN102550004A
CN102550004A CN2010800439396A CN201080043939A CN102550004A CN 102550004 A CN102550004 A CN 102550004A CN 2010800439396 A CN2010800439396 A CN 2010800439396A CN 201080043939 A CN201080043939 A CN 201080043939A CN 102550004 A CN102550004 A CN 102550004A
Authority
CN
China
Prior art keywords
server
network
controller
cloud
family
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2010800439396A
Other languages
English (en)
Inventor
L·E·李
T·吴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alcatel Lucent SAS
Nokia of America Corp
Original Assignee
Alcatel Lucent SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alcatel Lucent SAS filed Critical Alcatel Lucent SAS
Publication of CN102550004A publication Critical patent/CN102550004A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5072Grid computing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1012Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1029Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests

Abstract

各种示例性实施例涉及一种用于被扩展到云网络(102)中的企业网络(101)的工作负载分发系统及相关的方法。所述企业网络(101)可包括私有企业网络中的服务器系列和云网络(102)中的可调配服务器系列。所述企业网络(101)可在私有企业网络(101)和云网络(102)中采用一个或多个负载平衡器(103),其与每个服务器系列相连,以便基于诸如整个系统性能和成本这样的准则来在这两个网络中的服务器之间分发工作。所述企业网络(101)还可以采用一个或多个控制器(107)来基于系统工作负载和其它用户定义的准则(诸如每个工作请求产生的收益)来调配被分配给所述企业网络(101)的云服务器(114a,...,114e)的数目。

Description

企业网络中分配的云资源的动态负载平衡和调配
技术领域
此处公开的各种示例性实施例整体上涉及网络通信和因特网架构。
背景技术
云计算网络是高度可调配(scalable)的动态服务,其允许云计算提供商通过因特网向客户提供资源。云基础设施提供了抽象层,从而使得客户不需要了解提供了所请求的资源的云内部的具体基础设施。这样的服务帮助消费者避免了针对峰值使用而在额外硬件上的资本支出,因为客户针对重负载可以使用在云中的额外资源,而针对日常使用则使用在私有企业网络中已经到位的基础设施。
这样的系统允许可调配的资源部署,其中客户创建虚拟机(即,服务器实例)来运行他们选择的软件。客户可根据需要创建、使用和销毁(destroy)这些虚拟机,其中提供商通常对所使用的活动服务器(activeserver)收费。
目前,云服务提供商提供了诸如基础设施即服务(IaaS)这样的程序,其在对云资源的使用收费时采用不同的定价方案。用户因此可以在内部网络基础设施上投入更少的初始投资来用于峰值使用。这对于高的峰均比使用尤其成立,其中用户可以简单地在峰值时间(peak times)期间对云资源的使用进行租用。然而,根据实施情况,调配到云网络并且无缝地指派工作给新指派的那些虚拟机可能是复杂的,尤其是对于那些对其处理要求特定位置的应用。
鉴于前述记载,可能期望动态地控制被安置于内部和云网络中的服务器上的负载。更特别地,可能期望具有这样的控制器,即,该控制器基于系统需求自动地调配对云资源的使用,并且在内部服务器以及云网络中指派的虚拟机当中平衡对请求的指派。在阅读和理解本说明书的基础上,其它期望的方面对本领域的技术人员来说将是显而易见的。
发明内容
根据目前对动态地控制被分配给私有企业网络的云网络中的服务器的工作负载的需求,给出了对各种示例性实施例的简要概括。在下面的发明内容中可能进行了某些简化和省略,其旨在强调和引入各种示例性实施例的某些方面但不限制本发明的范围。对于足以使得本领域的普通技术人员作出并使用有创造性的概念的优选示例性实施例的详细描述将在后面的章节中进行说明。
各种示例性实施例涉及一种用于管理被分配给私有企业网络的云网络中的资源的系统,其包括:第一服务器系列,其包括被分配给所述私有企业网络的云网络中的虚拟机;第二服务器系列,其包括所述私有企业网络中的计算资源;在所述私有企业网络中的负载平衡器,其用于基于所述第一和第二服务器系列的性能数据而在所述第一和第二服务器系列中的成员间分发工作;以及在所述私有企业网络中的控制器,其包括用于收集所述第一和第二服务器系列的性能数据的性能监控器。
各种示例性实施例还涉及一种用于管理企业网络中的工作负载的负载平衡器,其包括:负载平衡模块,其用于在被分配给私有企业网络的云网络中的第一服务器系列和在所述私有企业网络中的第二服务器系列之间调派工作请求;以及监控模块,其用于通过从所述第一和第二服务器系列收集性能数据而跟踪包括企业网络的服务器的性能。
各种示例性实施例还可涉及一种用于管理企业网络中的资源的控制器,其包括:调配管理器,其用于确定被分配给私有企业网络的云网络中的第一服务器系列以及在所述私有企业网络中的第二服务器系列当中应当处于活动的服务器的数目,所述确定基于所述第一和第二服务器系列的性能;以及实例管理器,其用于基于所述调配管理器的判定而对所述第一服务器系列添加和移除至少一个服务器。
各种示例性实施例还可涉及一种向企业网络中的服务器发送工作请求的方法,其包括:由负载平衡器托管的负载平衡模块基于用户所指定的准则来制定请求判定规则;通过对所述判定规则的执行,所述负载平衡模块选择从所述负载平衡器所托管的服务器列表中选择的目的地服务器;以及所述负载平衡模块向所述目的地服务器调派工作请求。
各种示例性实施例还涉及一种向企业网络添加至少一个服务器的方法,其包括:控制器确定在所述企业网络内操作的应用是在低于门限性能度量的情况下操作的,其中所述企业网络包括私有企业网络以及被分配的云网络部分;所述控制器确定所述云网络中要添加到被分配给所述私有企业网络的云网络中的服务器系列的服务器的数目,其可将所述应用的性能度量提升到门限值之上;所述控制器遵循所确定的要被添加的服务器的数目而启动至少一个新服务器;所述控制器针对阻塞点(choke point)而检查所述云网络中的服务器系列;以及所述控制器监控所述企业网络以便确定是否对所述云网络中的服务器系列添加或移除服务器。
各种示例性实施例还可涉及一种从企业网络中移除服务器的方法,其包括:控制器将所述企业网络的工作负载与所述企业网络的总吞吐量进行比较,所述企业网络包括被分配给所述企业网络的云网络中的第一服务器系列以及在私有企业网络中的第二服务器系列;当总的系统工作负载低于所述企业网络的总吞吐量的门限值时,所述控制器标记所述第一服务器系列中的至少一个服务器用于终止;以及所述控制器从所述第一服务器系列中移除所标记的服务器。
根据前述记载,各种示例性实施例动态地优化了对云资源的使用。各种示例性实施例还动态地平衡了安置于私有企业网络中的服务器上的内部负载以及安置于被分配给企业的云网络中的资源上的负载。
附图说明
为了便于更好地理解各种示例性实施例,对附图进行了参考,其中:
图1是用于私有企业网络和云网络之间的负载平衡和自动调配的示例性网络的示意图;
图2是用于私有企业和云网络之间的负载平衡和自动调配的备选网络的示意图;
图3是向服务器调派请求的示例性方法的流程图;
图4是调高对云网络中的资源的使用的示例性方法的流程图;以及
图5是调低对云网络中的资源的使用的示例性方法的流程图。
具体实施方式
现在参考附图,其中相同的附图标记指代相同的组件或步骤,附图中公开了各种示例性实施例的宽泛方面。
图1图示了在企业网络内实现了负载平衡器103和自动调配器的企业扩展网络100的示例性实施例。企业扩展网络100至少可以包括私有企业网络101和云网络103。私有企业网络101可包括负载平衡器103、控制器107以及服务器系列111a-c。负载平衡器103可包括服务器列表105和负载平衡模块106。控制器107可含有性能监控器108、调配管理器109以及实例管理器110。云网络102可包括服务器系列114a-e。服务器系列111a-c和114a-e中的每个服务器可含有监管器113和至少一个虚拟机112a、112b。负载平衡器103可通过安全平面连接104a、104b与云服务器系列114a-e中的每个服务器相连。实例管理器110可通过安全平面连接115a、115b与云服务器系列114a-e相连。
如上所述,企业扩展网络100至少可以包括私有企业网络101和云网络102。尽管图示的环境示出了直接相连的组件,但其它实施例可通过服务提供商网络来连接私有企业网络101和云网络102。各种替代实施例可以使私有企业网络101内的资源(下文中称之为“内部资源”)划分到多个站点并通过服务提供商网络来连接。各种替代实施例还可以使私有企业网络101与可彼此不相关的多个云网络102相连。
私有企业网络101可含有服务器系列111a-c,并且云网络102可含有“云”服务器系列114a-e。云服务器114a-e可托管虚拟机112a、112b的实例。虚拟机112a可以是由客户控制的云服务器114d上的实例。客户可以具有随意创建、使用和终止任意数目的虚拟机112a、112b的能力。被分配给客户的虚拟机112a、112b可在云网络103内部彼此逻辑上相连。
监管器113可以托管云网络103内的每个虚拟机112a、112b。每个服务器可托管一个监管器113和至少一个虚拟机112a。监管器113因此可以托管不止一个虚拟机112a、112b。监管器113可以管理来自以及导向其管理的虚拟机112a、112b的业务。
两组服务器111a-c和114a-e都可含有企业扩展网络100的可用计算资源。这些计算资源可以表示例如处理能力、带宽以及存储容量。尽管图1图示了系列111a-c、114a-e中的每个服务器彼此直接互连,但替代实施例也可使服务器111a-c、114a-e中的至少一些服务器通过其它设备相连。这些设备可包括联网设备,诸如交换机和路由器。私有企业网络101中的服务器系列111a-c可以在操作上连接到负载平衡器103。
在说明性实施例中,负载平衡器103可以是包括硬件和/或存储在机器可读介质上的机器可执行指令的模块。负载平衡器103可与私有企业网络101中的服务器系列111a-c相连,以及通过安全数据平面连接104a、104b连接到云网络102中的服务器系列114a-e。负载平衡器103可以至少含有服务器列表105和负载平衡模块106。服务器列表105可以是私有企业网络101中的系列111a-c和云网络102中的系列114a-e当中在任何给定时间处于活动的所有服务器的列表。
负载平衡模块106可以按照请求的形式在内部和/或云服务器系列111a-c、114a-e中分发工作。负载平衡模块106可以使用许多方法中的一个或多个方法来分发工作,例如像加权循环、最少连接或最快处理。例如,“加权循环”方法可以使用所收集到的性能度量来为每个活动的服务器111a-c、114a-e指派权值,并且在轮换的基础上分发工作,同时将额外的工作指派给那些能处理较高负载的服务器。“最少连接”可以使用所收集到的性能度量来选择具有最少的未决(outstanding)连接和/或请求的服务器114a,而“最快处理”过程可以使用所收集到的性能度量来选择具有最少响应时间的服务器114a。请求可以是例如HTTP请求,并且一旦负载平衡器103转发该请求,则所述请求可以表示服务器114a的工作负载。所有的请求都可经过负载平衡器103。
由于所有的请求都可经过负载平衡器103,因此负载平衡器103也可跟踪系统性能参数。这些参数可包括例如:未决请求的数目、每秒完成的请求的平均数目,以及响应时间。响应时间可定义为在以下时间之间所经过的时间:负载平衡器103从客户端设备接收到请求时,以及负载平衡器103从服务器114a接收到相应响应的最后分组时。替代的响应时间测量也可定义为在以下时间之间所经过的时间:客户端设备发出请求时,以及客户端设备从服务器114a接收到响应的最后分组时。
在图1中的说明性实施例中,控制器107是与负载平衡器103分离地执行调配功能的模块。在一个实施例中,这样的分离可防止单线程的负载平衡器过载。控制器107可含有至少三个模块:性能监控器108、调配管理器109以及实例管理器110,它们可在控制器107内串联地连接。控制器107也可登记(register)当触发器被激活(例如,服务器的响应时间超过了规定门限)时的回呼功能。
性能监控器108可以是包括硬件和/或存储在机器可读介质上的机器可执行指令的模块,其收集由负载平衡器107转发的性能数据,并且进而基于被转发的性能度量来计算系统性能,产生所计算出的度量,诸如每秒完成的请求的平均数目、响应时间等。除了跟踪特定于网络的度量(例如,内部响应时间、云响应时间等)之外,性能监控器108还可跟踪单独的服务器114a-e和VM 112a、112b的性能。
实例管理器110可以是包括硬件和/或存储在机器可读介质上的机器可执行指令的模块,其管理位于云网络102中的服务器系列114a-e中的VM实例112a、112b。实例管理器可直接连接到位于云网络103中的服务器系列114a-e。实例管理器可通过安全控制平面连接115a、115b而直接连接到位于云网络103中的服务器系列114a-e。如果实例管理器110向在云中的服务器114d作出了任何配置改变,例如像启动新的VM 112b或终止服务器114b,则其可以直接更新在负载平衡器103中的服务器列表105。
调配管理器109可以是包括硬件和/或存储在机器可读介质上的机器可执行指令的模块,其评估是否要调整在任何给定时间处被使用的云资源。调配管理器109可对弹性或非弹性请求作出响应。弹性请求可定义为不需要在特定时间内被满足的请求。响应于弹性请求,控制器107可监控未决请求的数目,并且基于未决请求的数目,使用调配管理器109来调高或调低被使用的虚拟机112a、112b的数目。
非弹性请求可以是需要在特定时间内被满足的请求。响应于非弹性请求,控制器107可通过调配管理器109来使用包括例如以下多个因素中的至少一个:当前服务器负载、平均响应时间,以及具有超过规定门限的响应时间的请求的数目。基于这样的因素,当使用当前活动的服务器111a-c、114a-e上的虚拟机112a、112b的应用性能不能满足目标值时,调配管理器109可以决定调高实例的活动数目。可选地,当总的系统负载降低到门限的目标分数以下时,调配过程可以调低实例的数目。
图2是企业扩展系统的说明性替代实施例。在此替代实施例中,除了私有企业网络101中的负载平衡器103(企业负载平衡器)之外,还有在云网络102中的第二负载平衡器203(云负载平衡器)。在图示的实施例中,云负载平衡器203托管负载平衡器模块206、调配管理器209以及实例管理器210。
在说明性实施例中,私有企业网络101也可托管控制器107,在其确定出在给定时间处并不是所有的VM实例112a、112b都是必要的时候,控制器107可自动地终止云负载平衡器203。企业负载平衡器103可通过安全平面连接204与云负载平衡器203相连。在图2中,云网络102的云资源(包括服务器系列114a-c和云负载平衡器203)表现为针对企业负载平衡器103的单个服务器。企业负载平衡器103维护服务器列表105和负载平衡模块106,在说明性实施例中,负载平衡模块106平衡了内部服务器111a-c的负载,而云负载平衡器203可平衡在云服务器114a-e上托管的VM 112a、112b的负载。
图3是向服务器调派请求的示例性方法300的流程图。在各种示例性实施例中,图3的处理可由负载平衡模块106执行。用于执行方法300的其它合适的组件对于本领域的技术人员来说将是显而易见的。
在步骤301中,负载平衡模块106可使用一组准则来制定用于进行判定的规则。这样的准则可包括以上讨论的性能度量,例如像每秒由服务器114b完成的请求的平均数目,以及服务器114b的响应时间,这既针对企业网络101中的服务器111a-c(内部),又针对云网络102中的服务器114a-e(云)。用于判定的其它准则可包括内部成本,其可以从能量使用和/或内部服务器负载来导出。用于判定的准则还可包括云成本,其可以从云服务提供商征收的费用来导出。可从带宽、处理器以及存储器使用和活动的连接时间来导出云服务提供商所征收的这些费用。
由此,客户可以为负载平衡模块106制定规则来判定哪个网络服务器111a-c、114a-e应当接收请求。在一些实施例中,客户可为负载平衡模块106制定规则来判定哪个特定的服务器111a或虚拟机112a应当接收请求。作为示例,客户可决定使得判定是基于偏好的,以便总是向内部服务器111a发送请求直到服务器111a-c不再能处理负载,例如当内部响应时间超过规定门限时。其它规则也可包括:整体系统性能(选择网络中具有最小的相对响应时间的服务器)、每美元的系统性能(选择网络中具有最低的除以成本的响应时间的服务器),以及每请求产生的收益(选择网络中具有被服务的每个请求产生的净收益最大的服务器)。
在步骤302中,负载平衡模块106使用负载平衡功能来确定哪个特定的服务器111a-c、114a-e应当接收请求。继续该示例,如果客户使用了表明在内部资源可用时请求应当总是使用该内部资源的判定规则,则负载平衡模块106将参考该规则,并且将到来的请求发送给内部服务器111a,直到其达到门限,该门限可以表明过载或次优系统性能。
在步骤303中,负载平衡模块106基于在步骤2中确定出的判定来调派请求到所确定的网络101、102中的服务器111a-c、114a-e。例如,如果判定规则确定了内部服务器111a-c应当处理请求,则负载平衡模块106可调派该请求到私有企业网络101中的服务器111a。负载平衡模块106可以使用负载平衡方法来在特定网络101内的服务器111a-c之间分发工作。负载平衡模块106可以使用多个分发方法中的至少一个或其组合,例如像上述的加权循环、最少连接和最快处理。
作为方法300的一个示例,负载平衡模块106可以对首先使用内部服务器111a-c的判定规则和最快处理的负载平衡方法进行合并。负载平衡模块106首先接收来自用户的准则以便创建进行判定的规则。判定规则可以是使用内部服务器直到达到门限,从而使得负载平衡模块106将仅在响应时间等于门限时发送请求到云服务器114a-e。
在负载平衡模块106设置了判定规则之后,负载平衡模块106在收到请求时参考该判定规则,以便在内部服务器111a-c和云服务器114a-e中选择特定的服务器来接收请求。在当前示例中,响应时间超过了门限,因此判定规则确定出负载平衡模块106应当将请求转发给云服务器114a-e。此后负载平衡模块106可使用“最快处理”的负载平衡方法来判定云网络102中的哪个服务器114a-e应当接收该请求。“最快处理”负载平衡方法使用由性能监控器108收集的性能数据来确定出云服务器114d将以最少的响应时间来响应该请求。因此负载平衡模块106将该请求转发给云服务器114d。
图4是通过添加至少一个服务器来调扩企业扩展网络的示例性方法400的流程图。在各种示例性实施例中,图4的处理可由控制器107内部的各个组件来执行。用于执行方法400的其它合适的组件对本领域的技术人员来说将是显而易见的。调扩的判定会在企业网络100内的应用性能不满足预先确定的目标时出现。
所述目标可以是诸如以下那些请求的数目(或其分数)这样的性能目标,即,所述请求的响应时间超过了时间门限。另一目标可以是例如超过规定门限的服务器负载或者平均响应时间,其中,平均响应时间可被测量为在时间上平均的每秒处理的请求数目。当这些目标定量达到特定门限值时会出现步骤401,于是调配管理器109会认为性能不足。例如,调配管理器109可以仅在整个系统的平均响应时间(指数移动平均(exponentialmoving average))超过门限时决定调扩,或者仅在额外响应时间的百分比超过规定门限数时决定调扩。
在步骤402中,在任何新服务器111a-c、114a-e被添加到系统之前,性能监控器108记录当前活动的每个服务器上的负载。该记录可由实例管理器110在另一时间处用来在调缩企业网络时除去外来的服务器111a-c、114a-e,如将在下面进一步详细描述的。
在步骤403中,调配管理器110可以估计所需的额外服务器的数目(N)。新服务器111b、111c可以来自私有企业网络101或云网络102。调配管理器109可以通过以下方式来估计所需的服务器111a-c、114a-e的数目:用所要求的附加吞吐量的数量除以云网络102中在使用的服务器114a、114b上的虚拟机(VM)112a、112b的平均吞吐量
Figure BDA0000148865020000101
服务器的吞吐量是服务器在保持响应时间低于门限Th时可处理的最大负载。
Figure BDA0000148865020000102
可以等于活动的云服务器114a、114b的吞吐量的总和除以当前活动的云服务器的数目。
在步骤404中,调配管理器109可以开始执行N次的循环,其中N是所要求的附加服务器的数目。因而,为了开始该处理,调配管理器109可将变量j初始化为1。在步骤404中,调配管理器109可以首先确定j是否小于或等于所要求的服务器的数目N。当j大于N时,接着发生步骤405,其中调配管理器109可以按照N来递增服务器的总数。
可选地,当j小于或等于N时,接下来可以是步骤406。在步骤406中,实例管理器110可以尝试确定要被添加的第j个虚拟机是否是阻塞点。阻塞点可以是经历瓶颈的服务器或者限制整个网络的性能(例如,应用处理)或容量的组件或组件的群组。为了确定新服务器是否是企业网络内的阻塞点,负载平衡器可向新服务器114d发送一小组请求。然后,负载平衡器103监控服务器114d的响应时间。
当来自新服务器的响应时间大于或等于当前在使用中的虚拟机116a-d的平均最小响应时间时,调配管理器109可以确定添加新服务器几乎不会带来益处。在响应于新服务器的添加而系统的总吞吐量并不增加时,或者如果吞吐量的增加实质上低于
Figure BDA0000148865020000111
那么调配管理器109也可作出该确定。在每一种这样的情况下,调配管理器109均可确定存在与新服务器相关的阻塞点(在于服务器自身,或者在于系统的其它部件)。
在步骤406处,如果安置在预期的新服务器114d上的新负载导致其成为阻塞点,则在步骤410中,增加choke_vm计数器并且不添加服务器。当choke_vm计数器超过预先确定的门限时,在步骤411处,调配管理器109确定企业网络是阻塞的,并且在步骤412中,实例管理器110用信号通知负载平衡器103丢弃请求直到其达到系统可再次处理系统负载的点。否则,当调配管理器109在步骤411中确定没有超过阻塞门限时,调配管理器在步骤409中按照1来递增j并返回到步骤404。
如步骤410中所描述的,choke_vm计数器因此可以使得当只有服务器的子集是无响应的时候能够进行调扩。换句话说,保持计数器跟踪处于阻塞的VM的数目可以防止控制器107仅基于单个VM 112b的行为而将整个系统标记为阻塞的。
返回到步骤406,在没有检测到阻塞点的实例中,该方法前进到步骤407,其中实例管理器110可添加新服务器114d。可选地,如果进行测试的特定服务器在先前被标记用来删除(例如,基于调缩操作),则实例管理器110可使得该服务器重新处于活动。在步骤408中,负载平衡器103每秒向新服务器114d转发
Figure BDA0000148865020000112
个请求。然后方法400通过按照1来递增j而继续遵循循环到步骤409,并且返回到步骤404以便确定附加的服务器是否要求进行处理。
图5是调缩企业网络的示例性方法500的流程图。在各种示例性实施例中,图3的处理可由控制器107内部的各个组件执行。用于执行方法300的其它合适的组件对于本领域的技术人员来说将是显而易见的。
在步骤501中,性能监控器108将总的系统负载与总吞吐量
Figure BDA0000148865020000121
进行比较,总吞吐量可以是每个活动的服务器111a-c、114a-e的吞吐量的总和。如果总负载低于门限值,诸如当98%的响应时间低于门限值时,则在步骤502处,实例管理器110可将服务器114d或VM 112b标记用于终止。在给定的时间处,实例管理器110可将不止一个VM 112a、112b或服务器114d、114e标记用于终止。
实例管理器110可在关闭VM 112b或服务器114d之前等待在被标记的设备处的所有未决过程结束。实例管理器110在标记其选择结果时可以使用预先确定的准则。例如,如果云服务提供商按照小时来对VM使用进行收费,则用户可为实例管理器110设置准则,以便选择具有在所述小时的剩余时间内完成其负载的最高概率的VM 112b。
在步骤503中,负载平衡模块106在剩余的活动服务器当中重新分发业务。负载平衡模块106可以使用性能度量(诸如当前服务器负载、平均响应时间,以及具有超过规定门限的响应时间的请求的数目)和负载平衡方法(诸如加权循环、最少连接以及最快处理)来在内部网络101和云网络102中的剩余服务器111a-c、114a-e之间平衡剩余的负载。
根据前述记载,各种示例性实施例提供了在企业扩展网络中的服务器之间对请求的动态和无缝的负载平衡。在有效地使用私有企业网络中的服务器以及云网络中的服务器时,这样的负载平衡还可以基于多个因素(包括使用服务器的成本)来优化对云网络服务器的使用。结合对云服务器的有效使用,实施例还提供了动态自动调配器,其基于系统增加的或降低的需求来提供对云网络中的虚拟机的动态添加和终止。负载平衡器和自动调配器允许用户就性能和成本这二者而言高效地消费云资源。
从前述描述应显而易见的是本发明的各种示例性实施例可在硬件和/或固件中实施。此外,各种示例性实施例可实现为存储在机器可读存储介质上的指令,其可由至少一个处理器读取并执行以实现此处详细描述的操作。机器可读存储介质可包括用于以可由机器读取的形式存储信息的任何机制。因此,机器可读存储介质可包括只读存储器(ROM)、随机存取存储器(RAM)、磁盘存储介质、光存储介质、闪存设备以及类似的存储介质。
尽管已特别参考各种示例性实施例的特定示例性方面详细记载了各种示例性实施例,然而应当理解的是,本发明能够具有其它的实施例并且其细节能够在各个显而易见的方面做出修改。如对本领域的技术人员易于显见的是,可实现多种变化和修改而仍处于本发明的精神和范围内。因此,前述公开、描述和图解仅用于说明的目的,而不以任何方式限制本发明,本发明的范围仅由权利要求限定。

Claims (10)

1.一种用于管理被分配给私有企业网络的云网络中的资源的系统,所述系统包括:
第一服务器系列,其包括被分配给所述私有企业网络的所述云网络中的虚拟机;
第二服务器系列,其包括所述私有企业网络中的计算资源;
在所述私有企业网络中的负载平衡器,其用于基于所述第一和第二服务器系列的性能数据,在所述第一和第二服务器系列中的成员之间分发工作;以及
在所述私有企业网络中的控制器,其包括用于收集所述第一和第二服务器系列的性能数据的性能监控器。
2.根据权利要求1所述的系统,其进一步包括:
在所述云网络中的第二负载平衡器,其用于在所述第一服务器系列的成员之间分发工作,其中,在所述私有企业网络中的第一负载平衡器标识出作为所述云网络中的单个服务器的第二负载平衡器,并将工作分发给所述第二负载平衡器。
3.根据权利要求1所述的系统,所述控制器进一步包括:
调配管理器,其用于判定何时对所述第一服务器系列添加或移除服务器,其中,由所述调配管理器作出的判定是基于用户指定的准则;以及
实例管理器,其用于基于所述调配管理器的判定,对所述第一服务器系列添加和移除服务器。
4.一种用于管理企业网络中的工作负载的负载平衡器,所述负载平衡器包括:
负载平衡模块,其用于在被分配给私有企业网络的云网络中的第一服务器系列和在所述私有企业网络中的第二服务器系列当中调派工作请求;以及
监控模块,其通过从所述第一和第二服务器系列收集性能数据来跟踪包括所述企业网络的服务器的性能;
服务器列表,其包括用于所述第一服务器系列和第二服务器系列中的每个服务器的条目,其中,所述负载平衡器通过至少一个数据平面连接来与所述第一服务器系列相连。
5.一种用于管理企业网络中的资源的控制器,所述控制器包括:
调配管理器,其用于确定被分配给私有企业网络的云网络中的第一服务器系列和在所述私有企业网络中的第二服务器系列当中应当处于活动的服务器的数目,所述确定是基于所述第一和第二服务器系列的性能;以及
实例管理器,其用于基于所述调配管理器的判定,对所述第一服务器系列添加或移除至少一个服务器。
6.根据权利要求5所述的控制器,其进一步包括:
性能监控器,其用于收集所述第一和第二服务器系列的性能数据,以及将基于所收集的性能数据而计算出的性能度量提供给所述调配管理器。
7.根据权利要求5所述的控制器,其中,所述实例管理器通过至少一个控制平面连接来与所述第一服务器系列相连。
8.一种将工作请求发送到企业网络中的服务器的方法,所述方法包括:
通过由负载平衡器托管的负载平衡模块,基于由用户指定的准则来制定请求判定规则;
通过所述负载平衡模块来选择目的地服务器,所述目的地服务器是通过由所述负载平衡模块执行所述判定规则,从所述负载平衡器托管的服务器列表中选择的;以及
通过所述负载平衡模块来向所述目的地服务器调派所述工作请求。
9.一种添加至少一个服务器到企业网络的方法,所述方法包括:
通过控制器来确定在所述企业网络内操作的应用是在低于门限性能度量的情况下操作的,其中所述企业网络包括私有企业网络以及被分配的云网络部分;
通过所述控制器来确定所述云网络中要添加到被分配给所述私有企业网络的所述云网络中的服务器系列的服务器的数目,其会将所述应用的性能度量提升到所述门限值之上;
通过所述控制器来启动至少一个新服务器,所述控制器确定要被启动的服务器的数目;
通过所述控制器来针对阻塞点而检查所述云网络中的服务器系列;以及
通过所述控制器来监控所述企业网络,以便确定是否对所述云网络中的服务器系列添加或移除服务器。
10.一种从企业网络中移除服务器的方法,所述方法包括:
通过控制器来将所述企业网络的工作负载与所述企业网络的总吞吐量进行比较,所述企业网络包括被分配给所述企业网络的云网络中的第一服务器系列以及在私有企业网络中的第二服务器系列;
当总的系统工作负载低于所述企业网络的总吞吐量的门限值时,通过所述控制器来将所述第一服务器系列中的至少一个服务器标记用于终止;
通过所述控制器来从所述第一服务器系列中移除所标记的服务器;以及
通过负载平衡模块来在没有被所述控制器终止的第一和第二服务器系列当中调派一系列工作请求。
CN2010800439396A 2009-09-30 2010-09-15 企业网络中分配的云资源的动态负载平衡和调配 Pending CN102550004A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/571,271 US20110078303A1 (en) 2009-09-30 2009-09-30 Dynamic load balancing and scaling of allocated cloud resources in an enterprise network
US12/571,271 2009-09-30
PCT/US2010/048882 WO2011041101A1 (en) 2009-09-30 2010-09-15 Dynamic load balancing and scaling of allocated cloud resources in an enterprise network

Publications (1)

Publication Number Publication Date
CN102550004A true CN102550004A (zh) 2012-07-04

Family

ID=43217189

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010800439396A Pending CN102550004A (zh) 2009-09-30 2010-09-15 企业网络中分配的云资源的动态负载平衡和调配

Country Status (6)

Country Link
US (1) US20110078303A1 (zh)
EP (1) EP2484096A1 (zh)
JP (1) JP5654022B2 (zh)
KR (1) KR101421848B1 (zh)
CN (1) CN102550004A (zh)
WO (1) WO2011041101A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102904824A (zh) * 2012-09-25 2013-01-30 中国联合网络通信集团有限公司 服务提供实体选择方法及装置
CN102945187A (zh) * 2012-09-29 2013-02-27 乐视网信息技术(北京)股份有限公司 基于机顶盒中间件的QtWebKit优化方法
CN104052789A (zh) * 2013-03-13 2014-09-17 国际商业机器公司 用于虚拟联网系统的负载平衡
WO2015027935A1 (en) * 2013-08-28 2015-03-05 Tencent Technology (Shenzhen) Company Limited Method and device for allocating computational resources
WO2015035920A1 (en) * 2013-09-11 2015-03-19 International Business Machines Corporation Workload deployment with real-time consideration of global network congestion
CN105007287A (zh) * 2014-04-22 2015-10-28 财团法人工业技术研究院 公共云资源动态配置方法及系统
CN105144110A (zh) * 2013-03-15 2015-12-09 思科技术公司 基于网络活动自动配置外部服务
CN106575244A (zh) * 2014-07-28 2017-04-19 微软技术许可有限责任公司 确保云应用的高可用性的修补过程
WO2017096920A1 (zh) * 2015-12-09 2017-06-15 中兴通讯股份有限公司 一种云虚拟网元控制方法和装置以及无线网络控制器
CN107210925A (zh) * 2014-11-25 2017-09-26 诺基亚通信公司 核心网络元件中的优化资源管理
US10230795B2 (en) 2013-03-13 2019-03-12 International Business Machines Corporation Data replication for a virtual networking system
CN110266593A (zh) * 2019-07-15 2019-09-20 上海仪电(集团)有限公司中央研究院 一种基于流量监控的自适应路由切换云网络系统
CN111357257A (zh) * 2017-08-31 2020-06-30 格林伊登美国控股有限责任公司 用于对媒体服务器实例进行负载均衡的系统和方法

Families Citing this family (223)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11361853B2 (en) * 2002-10-29 2022-06-14 Practice Velocity, LLC Method and system for automated medical records processing with telemedicine
US9122537B2 (en) * 2009-10-30 2015-09-01 Cisco Technology, Inc. Balancing server load according to availability of physical resources based on the detection of out-of-sequence packets
US10721269B1 (en) 2009-11-06 2020-07-21 F5 Networks, Inc. Methods and system for returning requests with javascript for clients before passing a request to a server
WO2011062994A2 (en) * 2009-11-18 2011-05-26 Icelero Llc Method and system for cloud computing services for use with client devices having memory cards
US9129052B2 (en) * 2009-12-03 2015-09-08 International Business Machines Corporation Metering resource usage in a cloud computing environment
US8311032B2 (en) * 2009-12-03 2012-11-13 International Business Machines Corporation Dynamically provisioning virtual machines
US8656019B2 (en) * 2009-12-17 2014-02-18 International Business Machines Corporation Data processing workload administration in a cloud computing environment
US20110153751A1 (en) * 2009-12-18 2011-06-23 David Rice Content management systems and methods
US8959217B2 (en) 2010-01-15 2015-02-17 Joyent, Inc. Managing workloads and hardware resources in a cloud resource
JP5549237B2 (ja) * 2010-01-21 2014-07-16 富士通株式会社 試験環境構築プログラム、試験環境構築方法、及び試験装置
US9137213B2 (en) * 2010-03-26 2015-09-15 Avaya Inc. On-demand feature server activation in the cloud
US8856800B2 (en) * 2010-05-21 2014-10-07 Red Hat, Inc. Service-level enterprise service bus load balancing
US20110320233A1 (en) 2010-05-30 2011-12-29 Sonian, Inc. Method and system for arbitraging computing resources in a cloud computing environment
JP5385458B2 (ja) 2010-06-17 2014-01-08 株式会社日立製作所 計算機システムおよびその更改方法
US9503375B1 (en) 2010-06-30 2016-11-22 F5 Networks, Inc. Methods for managing traffic in a multi-service environment and devices thereof
US9420049B1 (en) 2010-06-30 2016-08-16 F5 Networks, Inc. Client side human user indicator
US8707300B2 (en) * 2010-07-26 2014-04-22 Microsoft Corporation Workload interference estimation and performance optimization
US8832130B2 (en) * 2010-08-19 2014-09-09 Infosys Limited System and method for implementing on demand cloud database
US9274849B1 (en) 2010-09-08 2016-03-01 Disney Enterprises, Inc. Systems and methods for configuring and managing computing resources to provide highly-scalable services
JP5653151B2 (ja) * 2010-09-17 2015-01-14 キヤノン株式会社 クラウドコンピューティングシステム、クラウドコンピューティングシステムの制御方法、および管理アプリケーション
US8713163B2 (en) * 2010-09-17 2014-04-29 Microsoft Corporation Monitoring cloud-runtime operations
US9483313B2 (en) * 2010-10-19 2016-11-01 Microsoft Technology Licensing, Llc Availability management for reference data services
US8589538B2 (en) * 2010-10-22 2013-11-19 International Business Machines Corporation Storage workload balancing
US8555276B2 (en) 2011-03-11 2013-10-08 Joyent, Inc. Systems and methods for transparently optimizing workloads
US9176759B1 (en) * 2011-03-16 2015-11-03 Google Inc. Monitoring and automatically managing applications
US9223631B2 (en) * 2011-03-17 2015-12-29 Apple Inc. Performing an operation using multiple services
US20120272239A1 (en) * 2011-04-25 2012-10-25 International Business Machines Corporation Sharing class data
US10169094B2 (en) * 2011-04-27 2019-01-01 Hewlett Packard Enterprise Development Lp Dynamic transaction-persistent server load balancing
US20120284067A1 (en) * 2011-05-03 2012-11-08 Intuit Inc. Revenue-based impact analysis using multidimensional models of software offerings
US9253252B2 (en) * 2011-05-06 2016-02-02 Citrix Systems, Inc. Systems and methods for cloud bridging between intranet resources and cloud resources
EP2710784B1 (en) 2011-05-16 2017-12-06 F5 Networks, Inc A method for load balancing of requests' processing of diameter servers
US8959222B2 (en) * 2011-05-19 2015-02-17 International Business Machines Corporation Load balancing system for workload groups
US20120297066A1 (en) * 2011-05-19 2012-11-22 Siemens Aktiengesellschaft Method and system for apparatus means for providing a service requested by a client in a public cloud infrastructure
US9223632B2 (en) * 2011-05-20 2015-12-29 Microsoft Technology Licensing, Llc Cross-cloud management and troubleshooting
US8984104B2 (en) * 2011-05-31 2015-03-17 Red Hat, Inc. Self-moving operating system installation in cloud-based network
EP2538329A1 (en) * 2011-06-21 2012-12-26 Unified Computing Limited A Method of Processing Multiple Components of a Processing Job in Parallel Across a Plurality of Clusters
US8997107B2 (en) * 2011-06-28 2015-03-31 Microsoft Technology Licensing, Llc Elastic scaling for cloud-hosted batch applications
CN102882758B (zh) * 2011-07-12 2018-12-07 华为技术有限公司 虚拟私云接入网络的方法、网络侧设备和数据中心设备
CN102281329B (zh) * 2011-08-02 2013-11-20 北京邮电大学 一种PaaS云平台的资源调度方法和系统
US9781205B2 (en) * 2011-09-12 2017-10-03 Microsoft Technology Licensing, Llc Coordination engine for cloud selection
US20130073600A1 (en) * 2011-09-21 2013-03-21 Jonathan A. Jenkins Remote process execution management
US9112812B2 (en) * 2011-09-22 2015-08-18 Embrane, Inc. Distributed virtual appliance
EP2764436A4 (en) 2011-10-04 2015-12-09 Tier 3 Inc PREDICTIVE TWO-DIMENSIONAL AUTOSCALING
EP2581831A1 (en) * 2011-10-14 2013-04-17 Alcatel Lucent Method and apparatus for dynamically assigning resources of a distributed server infrastructure
KR101287448B1 (ko) 2011-10-27 2013-07-18 삼성에스디에스 주식회사 퍼지 제어 기반 가상 머신 스케일링 시스템 및 방법
US9154549B2 (en) * 2011-10-27 2015-10-06 Cisco Technology, Inc. Dynamic server farms
TWI533146B (zh) * 2011-11-10 2016-05-11 財團法人資訊工業策進會 虛擬資源調整裝置、方法及儲存其之電腦可讀取紀錄媒體
US8880671B2 (en) * 2011-11-14 2014-11-04 International Business Machines Corporation Releasing computing infrastructure components in a networked computing environment
US8838905B2 (en) * 2011-11-17 2014-09-16 International Business Machines Corporation Periodic destages from inside and outside diameters of disks to improve read response time via traversal of a spatial ordering of tracks
CN102801766B (zh) * 2011-11-18 2015-01-07 北京安天电子设备有限公司 一种云服务器负载均衡及数据冗余备份的方法及系统
US9386077B2 (en) * 2011-11-30 2016-07-05 Verizon Patent And Licensing Inc. Enhanced virtualized mobile gateway in cloud computing environment
US8954492B1 (en) 2011-11-30 2015-02-10 F5 Networks, Inc. Methods for inlining content externally referenced in a web page prior to providing the web page to a requestor and devices thereof
US20130151688A1 (en) * 2011-12-07 2013-06-13 Alcatel-Lucent Usa Inc. Optimization mechanisms for latency reduction and elasticity improvement in geographically distributed data centers
US8547379B2 (en) 2011-12-29 2013-10-01 Joyent, Inc. Systems, methods, and media for generating multidimensional heat maps
US8782224B2 (en) 2011-12-29 2014-07-15 Joyent, Inc. Systems and methods for time-based dynamic allocation of resource management
US8966085B2 (en) 2012-01-04 2015-02-24 International Business Machines Corporation Policy-based scaling of computing resources in a networked computing environment
US9372735B2 (en) * 2012-01-09 2016-06-21 Microsoft Technology Licensing, Llc Auto-scaling of pool of virtual machines based on auto-scaling rules of user associated with the pool
US9170849B2 (en) 2012-01-09 2015-10-27 Microsoft Technology Licensing, Llc Migration of task to different pool of resources based on task retry count during task lease
US8904008B2 (en) 2012-01-09 2014-12-02 Microsoft Corporation Assignment of resources in virtual machine pools
US10257109B2 (en) 2012-01-18 2019-04-09 International Business Machines Corporation Cloud-based content management system
US10860384B2 (en) 2012-02-03 2020-12-08 Microsoft Technology Licensing, Llc Managing partitions in a scalable environment
US9852010B2 (en) 2012-02-03 2017-12-26 Microsoft Technology Licensing, Llc Decoupling partitioning for scalability
US8868711B2 (en) * 2012-02-03 2014-10-21 Microsoft Corporation Dynamic load balancing in a scalable environment
US10230566B1 (en) 2012-02-17 2019-03-12 F5 Networks, Inc. Methods for dynamically constructing a service principal name and devices thereof
US8949658B1 (en) * 2012-03-02 2015-02-03 Amazon Technologies, Inc. Load balancer host selection and fault detection
CN103309843B (zh) * 2012-03-06 2016-03-16 百度在线网络技术(北京)有限公司 服务器的配置方法和系统
US8762525B2 (en) * 2012-03-08 2014-06-24 International Business Machines Corporation Managing risk in resource over-committed systems
KR101930263B1 (ko) 2012-03-12 2018-12-18 삼성전자주식회사 클라우드 게이트웨이의 콘텐츠 관리 장치 및 방법
US9590879B2 (en) 2012-03-21 2017-03-07 Tier 3, Inc. Cloud application scaling framework
US9379994B2 (en) * 2012-03-22 2016-06-28 Tier 3, Inc. Flexible storage provisioning
US9026658B2 (en) 2012-03-28 2015-05-05 Microsoft Technology Licensing, Llc Enhanced computer cluster operation using resource allocation requests
CN109889443B (zh) * 2012-03-29 2021-07-30 瑞典爱立信有限公司 云计算系统和在云计算系统中实现演进分组核心(epc)的控制平面的方法
US9086929B2 (en) 2012-04-06 2015-07-21 International Business Machines Corporation Dynamic allocation of a workload across a plurality of clouds
US10674191B2 (en) 2012-04-06 2020-06-02 Minerva Networks, Inc Systems and methods to remotely synchronize digital data
US9071613B2 (en) * 2012-04-06 2015-06-30 International Business Machines Corporation Dynamic allocation of workload deployment units across a plurality of clouds
US20130274021A1 (en) * 2012-04-11 2013-10-17 Meteor Entertainment, Inc. Computing platform for supporting massively multi-player online games
US9229778B2 (en) * 2012-04-26 2016-01-05 Alcatel Lucent Method and system for dynamic scaling in a cloud environment
US10097616B2 (en) 2012-04-27 2018-10-09 F5 Networks, Inc. Methods for optimizing service of content requests and devices thereof
US9769085B2 (en) * 2012-05-04 2017-09-19 Citrix Systems, Inc. Systems and methods for adaptive application provisioning
EP2667541B1 (en) * 2012-05-23 2015-08-05 Alcatel Lucent Connectivity service orchestrator
US9477529B2 (en) 2012-06-20 2016-10-25 International Business Machines Corporation Job distributed within a grid environment using mega-host groupings of execution hosts based on resource attributes
EP2875440A4 (en) 2012-07-20 2016-05-25 Hewlett Packard Development Co POLICY-BASED SCALING OF NETWORK RESOURCES
US8949839B2 (en) 2012-07-26 2015-02-03 Centurylink Intellectual Property Llc Method and system for controlling work request queue in a multi-tenant cloud computing environment
US9274917B2 (en) * 2012-07-30 2016-03-01 Hewlett Packard Enterprise Development Lp Provisioning resources in a federated cloud environment
US10963420B2 (en) * 2012-08-10 2021-03-30 Adobe Inc. Systems and methods for providing hot spare nodes
US9292352B2 (en) 2012-08-10 2016-03-22 Adobe Systems Incorporated Systems and methods for cloud management
US9563480B2 (en) * 2012-08-21 2017-02-07 Rackspace Us, Inc. Multi-level cloud computing system
US10062042B1 (en) * 2012-09-25 2018-08-28 EMC IP Holding Company LLC Electronically assigning tasks to workers while the workers are distributed among different locations within a work area
US9235491B2 (en) * 2012-09-28 2016-01-12 Wal-Mart Stores, Inc. Systems and methods for installing, managing, and provisioning applications
US9317269B2 (en) 2012-09-28 2016-04-19 Wal-Mart Stores, Inc. Systems and methods for installing, managing, and provisioning applications
US10033837B1 (en) 2012-09-29 2018-07-24 F5 Networks, Inc. System and method for utilizing a data reducing module for dictionary compression of encoded data
US9071609B2 (en) * 2012-10-08 2015-06-30 Google Technology Holdings LLC Methods and apparatus for performing dynamic load balancing of processing resources
KR101306661B1 (ko) * 2012-10-09 2013-09-10 신현섭 클라우드 ocr 명함 정보 관리 시스템
US9363728B2 (en) * 2012-10-09 2016-06-07 Samsung Electronics Co., Ltd. Method and apparatus for balancing cell load in wireless communication system
US9578090B1 (en) 2012-11-07 2017-02-21 F5 Networks, Inc. Methods for provisioning application delivery service and devices thereof
US9158593B2 (en) 2012-12-17 2015-10-13 Empire Technology Development Llc Load balancing scheme
RU2543316C2 (ru) * 2012-12-25 2015-02-27 Закрытое акционерное общество "Лаборатория Касперского" Система и способ отказоустойчивого выполнения задач по расписанию в распределенных средах
TW201426551A (zh) * 2012-12-26 2014-07-01 Hon Hai Prec Ind Co Ltd 虛擬機啟動排程系統及方法
US10095978B2 (en) * 2013-01-05 2018-10-09 Microsoft Technology Licensing, Llc Monitor-mine-manage cycle
JP6102949B2 (ja) * 2013-01-31 2017-03-29 富士通株式会社 仮想計算機管理プログラム,仮想計算機管理方法及び仮想計算機システム
JP2014164425A (ja) * 2013-02-22 2014-09-08 Sony Corp 情報処理装置、リソース制御方法及びプログラム
US9497614B1 (en) 2013-02-28 2016-11-15 F5 Networks, Inc. National traffic steering device for a better control of a specific wireless/LTE network
US9686158B1 (en) * 2013-03-13 2017-06-20 United Services Automobile Association (Usaa) Point to node in a multi-tiered middleware environment
US8881279B2 (en) 2013-03-14 2014-11-04 Joyent, Inc. Systems and methods for zone-based intrusion detection
US8826279B1 (en) 2013-03-14 2014-09-02 Joyent, Inc. Instruction set architecture for compute-based object stores
US8677359B1 (en) 2013-03-14 2014-03-18 Joyent, Inc. Compute-centric object stores and methods of use
US9104456B2 (en) 2013-03-14 2015-08-11 Joyent, Inc. Zone management of compute-centric object stores
US8943284B2 (en) 2013-03-14 2015-01-27 Joyent, Inc. Systems and methods for integrating compute resources in a storage area network
US8793688B1 (en) 2013-03-15 2014-07-29 Joyent, Inc. Systems and methods for double hulled virtualization operations
US8775485B1 (en) 2013-03-15 2014-07-08 Joyent, Inc. Object store management operations within compute-centric object stores
US20140278807A1 (en) * 2013-03-15 2014-09-18 Cloudamize, Inc. Cloud service optimization for cost, performance and configuration
US9092238B2 (en) 2013-03-15 2015-07-28 Joyent, Inc. Versioning schemes for compute-centric object stores
US20140297833A1 (en) * 2013-03-29 2014-10-02 Alcatel Lucent Systems And Methods For Self-Adaptive Distributed Systems
US9503311B2 (en) * 2013-05-09 2016-11-22 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for providing network applications monitoring
US9519563B2 (en) 2013-05-09 2016-12-13 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for providing network applications monitoring
US9497094B2 (en) 2013-05-09 2016-11-15 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for providing network applications monitoring
US9491063B2 (en) 2013-05-15 2016-11-08 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for providing network services orchestration
KR101518117B1 (ko) 2013-05-30 2015-05-15 삼성에스디에스 주식회사 동적 체크포인트 기반의 가상 머신 동기화 시스템 및 방법
US9537742B2 (en) 2013-06-25 2017-01-03 Microsoft Technology Licensing Llc Automatic adjustment of application launch endpoints
US10764185B2 (en) * 2013-06-25 2020-09-01 Amazon Technologies, Inc. Token-based policies burst-mode operations
US9553821B2 (en) 2013-06-25 2017-01-24 Amazon Technologies, Inc. Equitable distribution of excess shared-resource throughput capacity
WO2014210221A1 (en) * 2013-06-25 2014-12-31 Amazon Technologies, Inc. Burst mode control
KR101547498B1 (ko) * 2013-08-08 2015-08-26 삼성전자주식회사 하이브리드 클라우드 환경에서 데이터를 분산하는 방법 및 장치
US9386086B2 (en) * 2013-09-11 2016-07-05 Cisco Technology Inc. Dynamic scaling for multi-tiered distributed systems using payoff optimization of application classes
JP6080213B2 (ja) * 2013-11-01 2017-02-15 日本電信電話株式会社 システム連携装置、その方法およびプログラム
CN104636091B (zh) 2013-11-07 2018-06-15 精工爱普生株式会社 打印控制系统
US10187317B1 (en) 2013-11-15 2019-01-22 F5 Networks, Inc. Methods for traffic rate control and devices thereof
US20150189009A1 (en) * 2013-12-30 2015-07-02 Alcatel-Lucent Canada Inc. Distributed multi-level stateless load balancing
US10924340B1 (en) * 2013-12-30 2021-02-16 Vmware, Inc. Extending computing capacity via cloud replication
US9514018B2 (en) * 2014-01-28 2016-12-06 Software Ag Scaling framework for querying
JP2015149578A (ja) * 2014-02-06 2015-08-20 株式会社日立製作所 運用管理装置
JP6237318B2 (ja) * 2014-02-19 2017-11-29 富士通株式会社 管理装置、業務負荷分散管理方法および業務負荷分散管理プログラム
KR101997649B1 (ko) * 2014-03-10 2019-07-09 에스케이플래닛 주식회사 클라우드 스트리밍 서버를 테스트하기 위한 기준 서버 변경 방법, 이를 위한 장치 및 시스템
KR101997540B1 (ko) * 2014-03-10 2019-07-09 에스케이플래닛 주식회사 클라우드 스트리밍 서버 테스트 방법, 이를 위한 장치 및 시스템
JP6383799B2 (ja) * 2014-03-10 2018-08-29 エスケー テックス カンパニー、リミテッド クラウドストリーミングサーバーテスト方法、そのための装置及びシステム
US9455960B2 (en) 2014-03-14 2016-09-27 Soha Systems, Inc. Secure application delivery system with dynamic stitching of network connections in the cloud
JP6237388B2 (ja) * 2014-03-25 2017-11-29 富士通株式会社 特定プログラム、特定方法、及び特定装置
US20150363800A1 (en) * 2014-03-27 2015-12-17 Google Inc. Merchant performance evaluation in a computer networked environment
US9722945B2 (en) 2014-03-31 2017-08-01 Microsoft Technology Licensing, Llc Dynamically identifying target capacity when scaling cloud resources
US9842039B2 (en) 2014-03-31 2017-12-12 Microsoft Technology Licensing, Llc Predictive load scaling for services
CN103957237A (zh) * 2014-04-03 2014-07-30 华南理工大学 一种弹性云的体系结构
US20150288619A1 (en) * 2014-04-04 2015-10-08 Minerva Networks, Inc. Distributed service management platform
CN103984602A (zh) * 2014-05-20 2014-08-13 华为技术有限公司 一种vm资源调度方法、装置及系统
US9356883B1 (en) 2014-05-29 2016-05-31 Amazon Technologies, Inc. Allocating cloud-hosted application resources using end-user metrics
US10454778B2 (en) * 2014-06-03 2019-10-22 Box, Inc. Policy-based computation and storage of cloud-based collaboration objects
RU2656815C1 (ru) * 2014-06-28 2018-06-06 Хуавэй Текнолоджиз Ко., Лтд. Способ и устройство балансировки сетевых ресурсов
US11838851B1 (en) 2014-07-15 2023-12-05 F5, Inc. Methods for managing L7 traffic classification and devices thereof
CN104168310A (zh) * 2014-07-24 2014-11-26 深圳天珑无线科技有限公司 云端虚拟服务器的调度方法及装置
US9652277B2 (en) 2014-10-03 2017-05-16 At&T Intellectual Property I, L.P. Scalable network function virtualization
US9547534B2 (en) * 2014-10-10 2017-01-17 International Business Machines Corporation Autoscaling applications in shared cloud resources
US9871745B2 (en) * 2014-11-12 2018-01-16 International Business Machines Corporation Automatic scaling of at least one user application to external clouds
CN104363282B (zh) * 2014-11-17 2016-08-24 广联达软件股份有限公司 一种云计算资源调度方法及装置
CN104391750B (zh) * 2014-11-26 2018-05-04 浪潮(北京)电子信息产业有限公司 一种基于软件定义的混合异构主机系统
JP2016103179A (ja) * 2014-11-28 2016-06-02 株式会社日立製作所 計算機リソースの割り当て方法及び計算機システム
US10182013B1 (en) 2014-12-01 2019-01-15 F5 Networks, Inc. Methods for managing progressive image delivery and devices thereof
US9971621B1 (en) * 2015-02-02 2018-05-15 Amazon Technologies, Inc. Hotpooling virtual machines
US11895138B1 (en) 2015-02-02 2024-02-06 F5, Inc. Methods for improving web scanner accuracy and devices thereof
US9959148B2 (en) * 2015-02-11 2018-05-01 Wipro Limited Method and device for estimating optimal resources for server virtualization
US10715460B2 (en) * 2015-03-09 2020-07-14 Amazon Technologies, Inc. Opportunistic resource migration to optimize resource placement
US10484297B1 (en) 2015-03-16 2019-11-19 Amazon Technologies, Inc. Automated migration of compute instances to isolated virtual networks
US10834065B1 (en) 2015-03-31 2020-11-10 F5 Networks, Inc. Methods for SSL protected NTLM re-authentication and devices thereof
US10038640B2 (en) 2015-04-30 2018-07-31 Amazon Technologies, Inc. Managing state for updates to load balancers of an auto scaling group
US10412020B2 (en) * 2015-04-30 2019-09-10 Amazon Technologies, Inc. Background processes in update load balancers of an auto scaling group
CN108112268B (zh) * 2015-04-30 2022-03-22 亚马逊技术有限公司 管理与自动扩展组相关的负载平衡器
US10341426B2 (en) 2015-04-30 2019-07-02 Amazon Technologies, Inc. Managing load balancers associated with auto-scaling groups
US10505818B1 (en) 2015-05-05 2019-12-10 F5 Networks. Inc. Methods for analyzing and load balancing based on server health and devices thereof
CN104994145B (zh) * 2015-06-23 2018-08-10 山东大学 一种基于kvm虚拟化集群的负载均衡方法
US10277736B2 (en) 2015-07-30 2019-04-30 At&T Intellectual Property I, L.P. Methods, systems, and computer readable storage devices for determining whether to handle a request for communication services by a physical telephone number mapping service or a virtual telephone number mapping service
US9866521B2 (en) 2015-07-30 2018-01-09 At&T Intellectual Property L.L.P. Methods, systems, and computer readable storage devices for determining whether to forward requests from a physical telephone number mapping service server to a virtual telephone number mapping service server
US9851999B2 (en) 2015-07-30 2017-12-26 At&T Intellectual Property I, L.P. Methods, systems, and computer readable storage devices for handling virtualization of a physical telephone number mapping service
US9888127B2 (en) 2015-07-30 2018-02-06 At&T Intellectual Property I, L.P. Methods, systems, and computer readable storage devices for adjusting the use of virtual resources providing communication services based on load
CN106452818B (zh) * 2015-08-13 2020-01-21 阿里巴巴集团控股有限公司 一种资源调度的方法和系统
CN106548262B (zh) 2015-09-21 2020-11-06 阿里巴巴集团控股有限公司 用于处理任务的资源的调度方法、装置和系统
US10067798B2 (en) 2015-10-27 2018-09-04 International Business Machines Corporation User interface and system supporting user decision making and readjustments in computer-executable job allocations in the cloud
JP2017097707A (ja) * 2015-11-26 2017-06-01 沖電気工業株式会社 仮想マシン動的配置システム及びサーバ
US10404698B1 (en) 2016-01-15 2019-09-03 F5 Networks, Inc. Methods for adaptive organization of web application access points in webtops and devices thereof
US10432707B2 (en) 2016-03-02 2019-10-01 International Business Machines Corporation Optimization of integration flows in cloud environments
JP2017182114A (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法および情報提供方法
US20170337275A1 (en) * 2016-05-17 2017-11-23 International Business Machines Corporation Allocating computing resources
CN106227578A (zh) * 2016-07-12 2016-12-14 腾讯科技(深圳)有限公司 一种虚拟机热迁移的方法、设备及系统
US10178045B2 (en) * 2016-09-07 2019-01-08 Sap Se Dynamic discovery and management of microservices for multi-cluster computing platforms
JP6866092B2 (ja) * 2016-09-14 2021-04-28 株式会社東芝 中継装置、中継システム、中継プログラム、及び中継方法
US11175831B2 (en) 2016-10-14 2021-11-16 Netapp, Inc. Read and write load sharing in a storage array via partitioned ownership of data blocks
US11063758B1 (en) 2016-11-01 2021-07-13 F5 Networks, Inc. Methods for facilitating cipher selection and devices thereof
US10505792B1 (en) 2016-11-02 2019-12-10 F5 Networks, Inc. Methods for facilitating network traffic analytics and devices thereof
CN106412114A (zh) * 2016-11-16 2017-02-15 广州市品高软件股份有限公司 一种基于sdn的负载均衡方法及系统
CN106453641B (zh) * 2016-11-24 2018-05-22 深圳市小满科技有限公司 企业云服务平台动态扩容方法、装置及系统
US10785288B2 (en) * 2017-02-22 2020-09-22 International Business Machines Corporation Deferential support of request driven cloud services
CN111614655A (zh) * 2017-03-24 2020-09-01 创新先进技术有限公司 一种共识校验的方法及装置
US10868893B2 (en) 2017-03-31 2020-12-15 Xilinx, Inc. Network interface device
US10999303B2 (en) * 2017-03-31 2021-05-04 Xilinx, Inc. Capturing data
JP6928237B2 (ja) * 2017-06-05 2021-09-01 富士通株式会社 制御プログラム、制御装置及び制御方法
US10318333B2 (en) 2017-06-28 2019-06-11 Sap Se Optimizing allocation of virtual machines in cloud computing environment
US10425473B1 (en) * 2017-07-03 2019-09-24 Pure Storage, Inc. Stateful connection reset in a storage cluster with a stateless load balancer
US11347295B2 (en) * 2017-07-19 2022-05-31 Citrix Systems, Inc. Virtual machine power management
WO2019035499A1 (ko) * 2017-08-17 2019-02-21 주식회사 이노그리드 사용자 수요 기반의 saas 결합 서비스 플랫폼에서 자동 스케일링을 이용한 saas 결합 서비스 처리 시스템 및 방법
US10447601B2 (en) 2017-10-20 2019-10-15 Hewlett Packard Enterprise Development Lp Leaf-to-spine uplink bandwidth advertisement to leaf-connected servers
US10750339B2 (en) * 2018-01-12 2020-08-18 Ford Global Technologies, Llc System for dynamically allocating services between controllers in an automobile
KR102027682B1 (ko) * 2018-02-08 2019-10-02 한국과학기술원 부분적 계산 오프로딩을 위한 모바일 클라우드 네트워크의 로드밸런싱 방법 및 그 시스템
USD960177S1 (en) 2018-05-03 2022-08-09 CACI, Inc.—Federal Display screen or portion thereof with graphical user interface
US11256548B2 (en) 2018-05-03 2022-02-22 LGS Innovations LLC Systems and methods for cloud computing data processing
US10754691B2 (en) * 2018-06-27 2020-08-25 International Business Machines Corporation Policy based requesting/approval system across multiple hybrid clouds
US11121981B1 (en) 2018-06-29 2021-09-14 Amazon Technologies, Inc. Optimistically granting permission to host computing resources
US10579432B1 (en) * 2018-08-13 2020-03-03 Twitter, Inc. Load balancing deterministically-subsetted processing resources using fractional loads
US11455315B1 (en) * 2018-12-11 2022-09-27 Palantir Technologies Inc. Central user interface for accessing and upgrading of dataset integrations
US11579908B2 (en) 2018-12-18 2023-02-14 Vmware, Inc. Containerized workload scheduling
RU2724801C1 (ru) * 2019-02-07 2020-06-25 Акционерное общество "Лаборатория Касперского" Способ балансировки нагрузки на виртуальных машинах защиты при условии ограничении области выбора виртуальных машин защиты
EP3931698A4 (en) * 2019-03-01 2022-10-05 Telefonaktiebolaget Lm Ericsson (Publ) DYNAMIC NETWORK CONFIGURATION
US10951691B2 (en) 2019-03-05 2021-03-16 Cisco Technology, Inc. Load balancing in a distributed system
US11144342B2 (en) * 2019-03-27 2021-10-12 International Business Machines Corporation Workload execution in a distributed computing infrastructure on candidate nodes identified through plural test deployments
US11388233B2 (en) * 2019-04-30 2022-07-12 Clumio, Inc. Cloud-based data protection service
JP7367758B2 (ja) * 2019-05-17 2023-10-24 日本電信電話株式会社 仮想化基盤制御装置、仮想化基盤制御方法および仮想化基盤制御プログラム
US10986172B2 (en) * 2019-06-24 2021-04-20 Walmart Apollo, Llc Configurable connection reset for customized load balancing
CN112351051A (zh) * 2019-08-06 2021-02-09 中兴通讯股份有限公司 云服务处理方法、装置、云服务器、系统及存储介质
CN110691139B (zh) * 2019-10-11 2022-07-15 北京字节跳动网络技术有限公司 一种数据传输方法、装置、设备及存储介质
KR20210049541A (ko) * 2019-10-25 2021-05-06 삼성에스디에스 주식회사 엣지 컴퓨팅 장치 및 그 제어 방법
JP7440747B2 (ja) * 2020-01-27 2024-02-29 富士通株式会社 情報処理装置、情報処理システムおよびネットワーク疎通確認方法
KR102195488B1 (ko) 2020-04-29 2020-12-30 주식회사 인젠트 하이브리드 클라우드 시스템
US20230007092A1 (en) * 2021-07-01 2023-01-05 Citrix Systems, Inc. Prediction-based resource provisioning in a cloud environment
WO2023106980A1 (en) * 2021-12-10 2023-06-15 Telefonaktiebolaget Lm Ericsson (Publ) Scaling arrangement and method performed therein
US20230208727A1 (en) * 2021-12-28 2023-06-29 Rakuten Mobile, Inc. Data integrity illustration and evaluation system and method
KR102537906B1 (ko) * 2022-01-07 2023-05-30 주식회사 저스트큐 위탁 판매를 위한 관리 서버의 오토 스케일링 방법
US20230275837A1 (en) * 2022-02-25 2023-08-31 Cisco Technology, Inc. Demand-based scaling of enterprise workloads into cloud networks

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030051021A1 (en) * 2001-09-05 2003-03-13 Hirschfeld Robert A. Virtualized logical server cloud
US20030177176A1 (en) * 2002-03-18 2003-09-18 Hirschfeld Robert A. Near on-line servers
CN101197695A (zh) * 2006-12-04 2008-06-11 友劲科技股份有限公司 可提供负载平衡的无线网络系统及其负载平衡方法

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5878224A (en) * 1996-05-24 1999-03-02 Bell Communications Research, Inc. System for preventing server overload by adaptively modifying gap interval that is used by source to limit number of transactions transmitted by source to server
JP3633321B2 (ja) * 1998-10-23 2005-03-30 富士通株式会社 広域負荷分散装置及び方法
US6374297B1 (en) * 1999-08-16 2002-04-16 International Business Machines Corporation Method and apparatus for load balancing of web cluster farms
US7716367B1 (en) * 2000-07-20 2010-05-11 Akamai Technologies, Inc. Network performance monitoring in a content delivery service
JP2002163241A (ja) * 2000-11-29 2002-06-07 Ntt Data Corp クライアントサーバシステム
EP1326463A1 (en) * 2002-01-07 2003-07-09 Lucent Technologies Inc. Method and apparatus for packet transmission scheduling by performing load control functionality
JP4063651B2 (ja) * 2002-12-12 2008-03-19 富士通株式会社 ジョブスケジューリング方法および装置
JP3782429B2 (ja) * 2003-05-26 2006-06-07 株式会社東芝 負荷分散システム及び計算機管理プログラム
US20040267897A1 (en) * 2003-06-24 2004-12-30 Sychron Inc. Distributed System Providing Scalable Methodology for Real-Time Control of Server Pools and Data Centers
US7836181B2 (en) * 2004-09-21 2010-11-16 Alcatel-Lucent Usa Inc. Fairness and load balancing in wireless LANs using association control
US9014181B2 (en) * 2004-11-01 2015-04-21 Alcatel Lucent Softrouter separate control network
KR101276821B1 (ko) * 2006-02-06 2013-06-18 엘지전자 주식회사 멀티플 네트워크 연결 방법 및 그 통신 장치
KR20080057483A (ko) * 2006-12-20 2008-06-25 삼성전자주식회사 서버, 클라이언트, 로드 밸런싱 시스템 및 그의 로드밸런싱 방법
KR100922306B1 (ko) * 2007-01-31 2009-10-21 주식회사 타오네트웍스 서비스 처리 시스템
JP4952308B2 (ja) * 2007-03-09 2012-06-13 日本電気株式会社 メモリ共有システム、方法、及び、プログラム
US9037695B2 (en) * 2007-12-31 2015-05-19 Sap Se Management of networked resources on different platforms with a common interface
WO2009108344A1 (en) * 2008-02-29 2009-09-03 Vkernel Corporation Method, system and apparatus for managing, modeling, predicting, allocating and utilizing resources and bottlenecks in a computer network
US20090300097A1 (en) * 2008-05-29 2009-12-03 Ebay Inc. Systems and methods for facilitating clientless form-filling over a network
US8346225B2 (en) * 2009-01-28 2013-01-01 Headwater Partners I, Llc Quality of service for device assisted services
US8250215B2 (en) * 2008-08-12 2012-08-21 Sap Ag Method and system for intelligently leveraging cloud computing resources
US7870044B2 (en) * 2008-10-02 2011-01-11 Verizon Patent And Licensing Inc. Methods, systems and computer program products for a cloud computing spot market platform
EP2401841A4 (en) * 2009-02-27 2012-08-15 Yottaa Inc ADAPTIVE NETWORK WITH AUTOMATIC SCALE
WO2010127365A1 (en) * 2009-05-01 2010-11-04 Citrix Systems, Inc. Systems and methods for establishing a cloud bridge between virtual storage resources
US20100318609A1 (en) * 2009-06-15 2010-12-16 Microsoft Corporation Bridging enterprise networks into cloud

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030051021A1 (en) * 2001-09-05 2003-03-13 Hirschfeld Robert A. Virtualized logical server cloud
US20030177176A1 (en) * 2002-03-18 2003-09-18 Hirschfeld Robert A. Near on-line servers
CN101197695A (zh) * 2006-12-04 2008-06-11 友劲科技股份有限公司 可提供负载平衡的无线网络系统及其负载平衡方法

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102904824A (zh) * 2012-09-25 2013-01-30 中国联合网络通信集团有限公司 服务提供实体选择方法及装置
CN102904824B (zh) * 2012-09-25 2015-04-29 中国联合网络通信集团有限公司 服务提供实体选择方法及装置
CN102945187B (zh) * 2012-09-29 2015-04-01 乐视致新电子科技(天津)有限公司 基于机顶盒中间件的QtWebKit优化方法
CN102945187A (zh) * 2012-09-29 2013-02-27 乐视网信息技术(北京)股份有限公司 基于机顶盒中间件的QtWebKit优化方法
US10230795B2 (en) 2013-03-13 2019-03-12 International Business Machines Corporation Data replication for a virtual networking system
US10700979B2 (en) 2013-03-13 2020-06-30 International Business Machines Corporation Load balancing for a virtual networking system
US11095716B2 (en) 2013-03-13 2021-08-17 International Business Machines Corporation Data replication for a virtual networking system
CN104052789A (zh) * 2013-03-13 2014-09-17 国际商业机器公司 用于虚拟联网系统的负载平衡
US10044622B2 (en) 2013-03-13 2018-08-07 International Business Machines Corporation Load balancing for a virtual networking system
CN105144110A (zh) * 2013-03-15 2015-12-09 思科技术公司 基于网络活动自动配置外部服务
WO2015027935A1 (en) * 2013-08-28 2015-03-05 Tencent Technology (Shenzhen) Company Limited Method and device for allocating computational resources
CN105531970B (zh) * 2013-09-11 2018-12-14 国际商业机器公司 用于在网络中部署工作负荷的方法和系统
US9749402B2 (en) 2013-09-11 2017-08-29 International Business Machines Corporation Workload deployment with real-time consideration of global network congestion
CN105531970A (zh) * 2013-09-11 2016-04-27 国际商业机器公司 实时考量全局网络拥塞的工作负荷部署
WO2015035920A1 (en) * 2013-09-11 2015-03-19 International Business Machines Corporation Workload deployment with real-time consideration of global network congestion
US9307018B2 (en) 2013-09-11 2016-04-05 International Business Machines Corporation Workload deployment with real-time consideration of global network congestion
CN105007287A (zh) * 2014-04-22 2015-10-28 财团法人工业技术研究院 公共云资源动态配置方法及系统
CN105007287B (zh) * 2014-04-22 2018-11-06 财团法人工业技术研究院 公共云资源动态配置方法及系统
CN106575244A (zh) * 2014-07-28 2017-04-19 微软技术许可有限责任公司 确保云应用的高可用性的修补过程
CN106575244B (zh) * 2014-07-28 2020-07-21 微软技术许可有限责任公司 确保云应用的高可用性的修补过程
CN107210925B (zh) * 2014-11-25 2020-07-14 诺基亚通信公司 用于分布式系统内的资源管理的方法和装置
CN107210925A (zh) * 2014-11-25 2017-09-26 诺基亚通信公司 核心网络元件中的优化资源管理
WO2017096920A1 (zh) * 2015-12-09 2017-06-15 中兴通讯股份有限公司 一种云虚拟网元控制方法和装置以及无线网络控制器
CN111357257A (zh) * 2017-08-31 2020-06-30 格林伊登美国控股有限责任公司 用于对媒体服务器实例进行负载均衡的系统和方法
CN111357257B (zh) * 2017-08-31 2022-06-14 格林伊登美国控股有限责任公司 用于对媒体服务器实例进行负载均衡的系统和方法
CN110266593A (zh) * 2019-07-15 2019-09-20 上海仪电(集团)有限公司中央研究院 一种基于流量监控的自适应路由切换云网络系统
CN110266593B (zh) * 2019-07-15 2021-10-22 上海仪电(集团)有限公司中央研究院 一种基于流量监控的自适应路由切换云网络系统

Also Published As

Publication number Publication date
US20110078303A1 (en) 2011-03-31
JP5654022B2 (ja) 2015-01-14
KR20120063499A (ko) 2012-06-15
KR101421848B1 (ko) 2014-07-24
WO2011041101A1 (en) 2011-04-07
JP2013506908A (ja) 2013-02-28
EP2484096A1 (en) 2012-08-08

Similar Documents

Publication Publication Date Title
CN102550004A (zh) 企业网络中分配的云资源的动态负载平衡和调配
JP5529114B2 (ja) 計算環境内のエネルギ消費を管理するシステムおよび方法
Balasangameshwara et al. Performance-driven load balancing with a primary-backup approach for computational grids with low communication cost and replication cost
CN107241384A (zh) 一种基于多云架构的内容分发服务资源优化调度方法
KR20170029263A (ko) 부하 분산 장치 및 방법
Prachitmutita et al. Auto-scaling microservices on IaaS under SLA with cost-effective framework
Sharma et al. Response time based load balancing in cloud computing
JP2014513852A (ja) クラスタデータグリッドにおける拡張可能な中央集中型動的リソース分散
GB2443136A (en) Information processing system
Tarahomi et al. A prediction‐based and power‐aware virtual machine allocation algorithm in three‐tier cloud data centers
Mostafa Cooperative fog communications using a multi-level load balancing
Vashistha et al. Comparative study of load balancing algorithms
US8745125B2 (en) Routing traffic after power failure
Kim et al. Virtual machines placement for network isolation in clouds
SM et al. Priority based resource allocation and demand based pricing model in peer-to-peer clouds
Amudhavel et al. A distributed spanning tree-based dynamic self-organizational framework for web server
Bhardwaj et al. A propound method for agent based dynamic load balancing algorithm for heterogeneous P2P systems
JP6288714B2 (ja) コンピュータネットワークシステム、コンピュータネットワークシステムでの負荷の移動要否の判定方法
KR102264964B1 (ko) 서버 전력 부하를 이용한 로드 밸런싱 방법 및 시스템
Ait Temghart et al. Optimal virtual machine provisioning in cloud computing using game theory
Thirunavukkarasu et al. Improving mobile cloud computing service efficiency using energy competent and federated learning process
GOWRIPRAKASH et al. Optimized Load-balancing in Cloud Computing based on Traffic and Workload-aware VM Migration
Mohamaddiah et al. Resource Selection Mechanism For Brokering Services In Multi-cloud Environment
Wang et al. The Anatomy Study of Load Balancing in Cloud Computing Environment
Tao et al. Resilient delay sensitive load management in environment crisis messaging systems

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20120704