CN102119512A - 分布式负载平衡器 - Google Patents

分布式负载平衡器 Download PDF

Info

Publication number
CN102119512A
CN102119512A CN2009801317088A CN200980131708A CN102119512A CN 102119512 A CN102119512 A CN 102119512A CN 2009801317088 A CN2009801317088 A CN 2009801317088A CN 200980131708 A CN200980131708 A CN 200980131708A CN 102119512 A CN102119512 A CN 102119512A
Authority
CN
China
Prior art keywords
server
computer implemented
load
load balancer
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2009801317088A
Other languages
English (en)
Inventor
N·艾哈迈德
A·G·格林伯格
P·拉希瑞
D·马尔茨
P·K·帕特尔
S·森古普塔
K·V·韦德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN102119512A publication Critical patent/CN102119512A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00—Digital computers in general; Data processing equipment in general
    • G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/122—Avoiding congestion; Recovering from congestion by diverting traffic away from congested entities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Multi Processors (AREA)
  • Computer And Data Communications (AREA)

Abstract

在数据中心分布负载平衡功能的系统和方法。多路分解器和负载平衡器服务器的网络允许计算的缩放和增长操作，其中负载平衡操作的容量可以通过改变负载平衡服务器的数量来调整。因此，可以分解负载平衡功能/设计来增加数据中心的负载平衡和交换机制的回复力和灵活性。

Description

分布式负载平衡器
背景
现在诸如因特网等全球通信网络随着依赖这样的网络来通信和数据传送操作的专用和公司用户数量的与日俱增而无处不在。随着通信安全的改进，期望更多的数据遍历诸如服务器主机等源和目的地之间的全球通信数据骨干，因此对处理和存储数据的实体有日益增长的需求。通常，这些增长的需求通过添加更多交换设备和服务器来处理负载而在目的地解决。
网络负载平衡器向客户机提供对服务器(例如，“主机”)的集合所主存的服务的访问。客户机连接到(或通过)负载平衡器，从客户机的观点来看，负载平衡器根据一组规则透明地将客户机转发到主机。一般而言，负载平衡上下文包括被表示为会话的序列的形式的分组；其中这些会话通常应按“平衡”方式在可用主机之间分配。此外，只要主机是活动的(例如，根据“会话亲和性”)，每一会话的每个分组一般应针对相同的主机。
为了解决这些问题，数据中心系统采用整体式负载平衡器，该整体式负载平衡器监视主机的状态(例如，活跃度/负载)并且以所有活动会话的表的形式来维持状态。当新会话到达时，负载平衡器选择可用的最小负载的主机，并且将会话分配给该主机。同样，为了提供会话亲和性，负载平衡器必需通过将条目添加到其会话表来“记住”这一分配/路由决定。当这个会话的后续分组到达平衡负载器时，单个表查找确定正确的主机。然而，各个负载平衡器可以是单个故障点和瓶颈，其中它的会话表的大小(以及由此所维护的状态量)随着增长的吞吐量而增加-并且现有会话通信量的路由决定需要状态查找(每一分组一个)。规避这些限制需要串联工作(横向扩展)的多个整体式负载平衡器、和/或较大且更强大的负载平衡器(纵向扩展)。然而，横向扩展这些负载平衡设备是复杂的，最值得注意的是由于需要在负载平衡器之间维持一致的状态。同样，纵向扩展负载平衡设备是昂贵的，因为固定硬件中的成本对吞吐量是非线性的(例如，具有两倍吞吐量能力的负载平衡器花费的价格比两倍多得多)。此外，对于整体式负载平衡器的可靠性考虑进一步增加了所涉及的挑战，因为没有相当的成本就不能容易地补偿这些系统的故障。
概述
以下提出了简化概述以便提供对在此描述的某些方面的基本理解。此小结不是所要求保护的主题的详尽的概述。它既不旨在标识出所要求保护的主题的关键或重要的要素，也不描绘其范围。其唯一的目的是以简化形式呈现一些概念，作为稍后呈现的更详细描述的序言。
本发明提供了分布式负载平衡器系统，该系统经由多路分解器(和/或多路复用器)以及持续地适应于增加的需求的负载平衡器服务器的网络来允许数据中心的容量的逐步缩放和增长-(而不是添加另一整体式/集成式负载平衡器，其中它的完全容量可保持利用不足)。多路分解器可充当数据中心的交换系统与负载平衡器服务器之间的接口(例如，多路分解器充当具有10G端口的L2交换机和具有1G端口的PC之间的接口)。这些负载平衡器服务器包括商品机器(例如，个人计算机、膝上型计算机等等)，它们通常被认为是通用类型机器而不是为特定负载平衡器目的特制的。负载平衡器服务器可还包括虚拟IP地址(VIP身份)，使得应用程序可以将它们的请求定向到与其相关联的地址，而无需指定要使用的特定服务器；其中负载平衡可通过将VIP映射到表示各个服务器的多个媒体访问控制地址(MAC旋转)来发生。此外，这些负载平衡器服务器可以按对或较大的集合来安排，以便允许从服务器故障中快速恢复。多路分解器基于对数据流分组的检查来将请求重新定向到相应的负载平衡器服务器。多路分解器的故障可以通过将它们安排在附连到相应的伙伴L2交换机的伙伴对中来对用户隐藏，并且在应用程序服务器故障的情况下，可以修改或自动地设置配置，使得通信量不再被定向到发生故障的应用程序服务器。由此，并且从用户的观点来看，维护了可用性。
此外，多路分解器可以检查传入数据流(例如，5元组、源地址、源端口、目的地地址、目的地端口、协议)的IP头部，以供经由映射组件将其随后传送到相应的负载平衡器服务器。因此，数据分组可以基于分配给负载平衡器服务器的分组以及环境因素(例如，负载平衡器服务器上的当前负载)的属性来划分。负载平衡器服务器进一步拥有关于服务器(例如，请求服务服务器、POD服务器等等)的操作的知识，这些服务器对数据中心的传入请求进行服务。因此，从客户机侧，采用单个IP地址来提交对数据中心的请求，这提供了作为呈现给客户机的多个请求服务服务器的透明度。
在一相关方面，与多路分解器相关联的映射组件可以检查传入数据流，并且将与其相关联的所有分组分配给负载平衡器服务器(例如，无状态映射)-其中数据分组基于分组和环境因素的属性来划分，环境因素诸如服务器上的当前负载等。随后，请求可以从负载平衡器服务器转发到请求服务服务器。这一安排增加了系统的稳定性，同时增加了其缩放的灵活性。因此，可以分解负载平衡功能/设计来增加负载平衡和交换机制的回复力和灵活性。随着系统大小的增加，这一系统进一步便于维护恒定且稳态的每一主机的带宽。此外，本发明的负载平衡方案快速地对系统中负载/通信量条件的改变作出响应。
在一方面，请求可由L2交换机来接收并且由多路分解器在负载平衡器服务器上分布(例如，物理和/或逻辑接口，其中多个MAC地址与VIP相关联)。此外，在又一方面，负载平衡功能可以被集成为架顶式交换机的一部分，以便进一步增强它们的功能-其中VIP身份可以驻留在这些TOR交换机中，这些TOR交换机使得服务器的机架能够担当具有对发送到一个或多个VIP身份的请求可用的所有服务器的计算能力的单元。
根据本发明的方法，首先请求被数据中心接收，其中这一传入请求经由零个或多个交换机来路由到多路分解器。这一多路分解器进一步用多个负载平衡器服务器来与交换机接口，其中多路分解器基于对数据流分组的检测来将请求重新定向到相应的负载平衡器。本发明的分布式安排允许计算的缩放和增长操作，其中通过改变负载平衡器服务器的数量来调整负载平衡操作的容量；因此减少了服务的利用不足。此外，尽管在概念上所有这些请求被提交到与数据中心相关联的单个IP地址，但每一请求可以由不同的负载平衡器服务器来处理。
为实现上述及相关目的，在此结合以下描述和附图描述了所要求保护的主题的某些说明性方面。这些方面指示可实践本主题的各种方式，它们均落在所要求保护的主题的范围之内。当结合附图阅读以下详细描述时，本发明的其他优点和新颖特征将变得显而易见。
附图简述
图1示出了根据本发明的一方面的分布式负载平衡器系统的框图。
图2示出了采用整体式和/或集成式的服务平衡器作为数据中心操作的一部分的现有技术系统。
图3示出了根据本发明又一方面的具有负载平衡功能的架顶式交换机的特定方面。
图4示出了根据本发明一方面的分布任务的方法。
图5示出了根据本发明又一方面的具有映射组件的又一负载平衡器系统。
图6示出了根据本发明又一方面的分布负载平衡功能来作为系统的一部分的特定方法。
图7示出了定位负载平衡器服务器来作为与请求服务服务器相关联的机架的一部分的负载分布系统的特定方面。
图8示出根据本发明又一方面的便于负载平衡的人工智能组件。
图9示出了用于实现本发明的各方面的合适的操作环境的示意性框图。
图10示出了用于本发明的示例计算环境的又一示意性框图。
详细描述
现在将参考附图描述本发明的各方面，全部附图中相同的标号指的是相同或相应的元素。然而应该了解，附图及其相关详细描述不旨在将所要求保护的主题限于所公开的具体形式。相反，其意图是覆盖落在所要求保护的主题的精神和范围内的所有修改、等效和替换方案。
图1示出了根据本发明一方面的分布式负载平衡器系统110的示意性框图，该分布式负载平衡器系统允许数据中心100的容量的逐步缩放和增长。一般而言，数据中心100表示便于分布式处理(例如，客户机/服务器)的中央储存库，其中应用程序和/或服务可以据此被主存(例如，数据库、文件服务器、应用程序服务器、中间件等等)。例如，数据中心100可包括任何数据、代码、或web服务、云服务、企业资源处理(ERP)、以及顾客关系管理(CRM)的处理能力来便于其分布式处理。此外，这一数据中心100可包括服务器机架、电信机架、功率分布单元、计算机室空调单元等等。类似地，与这一数据中心相关联的数据库可包括机架布局表，该机架布局表包括机架项id、名称、数据中心、搭配、行、机柜、开始空位号和项占用的空位数量。
分布式负载平衡器系统100可被实现为多路分解器125和专用于负载平衡的服务器(例如，负载平衡器服务器)111、113、115(1至n，其中n为整数)的安排的一部分。如本申请中所描述的，术语多路分解器通常涉及描述请求服务服务器上的工作负载的分布。然而，当提供外部用户或工作负载的源和请求服务服务器之间的连接时，则可进一步实现多路复用器和/或多路分解器。多路分解器125可获得来自交换系统130的通信量，并且将该通信量重新分布到负载平衡器服务器111、113、115，其中这些负载平衡器服务器可采用商品机器，诸如个人计算机、膝上型计算机等等，它们通常被认为是不为特定负载平衡目特制的通用类型机器。多路分解器125可包括硬件和软件组件，以供对传入数据流(例如，5元组、源地址、源端口、目的地地址、目的地端口、协议)的IP头部的检测，以供将其随后传送到相应的负载平衡器服务器，其中数据分组基于分组/环境因素(例如，负载平衡器服务器上的当前负载)的属性来划分，并且被分配给负载平衡器服务器111、113、115。这一分配可经由与多路分解器125相关联的映射组件(未示出)来进一步促进。例如，映射组件可使用诸如循环、随机或层3/4散列(以保留对给定会话的分组的按次序传递)等机制来将数据分组分布到负载平衡器服务器111、113、115。
同样，如路由函数所确定的，负载平衡器服务器111、113、115可随后将其服务的分组路由到多个请求服务服务器117、119、121(1至m，其中m为整数)。例如，对分组流的路由可采用多个会话，其中在评估所有这些请求服务服务器117、119、121的活跃度和负载之后发生请求服务服务器的分配。换言之，负载平衡器服务器111、113、115拥有关于请求服务服务器117、119、121(例如，请求服务服务器、POD服务器等等)的操作的知识，这些服务器对数据中心的传入请求进行服务。
数据中心100中这一分布式负载平衡的安排基于数据中心100的要求增加了负载平衡能力的缩放的灵活性。由此，可以分解负载平衡功能/设计来增加负载平衡和交换机制的回复力和灵活性。随着系统大小的增加，这便于维护恒定且稳态的每一主机的带宽。此外，本发明的负载平衡方案快速地对系统中负载/通信量条件的改变作出响应。可以理解，图1本质上是示例性的，并且多路分解器还可以是交换机或路由器的一部分。
在一相关方面，分布工作负载-诸如在多个服务器之间分配一系列请求-可以分成两个阶段。在第一阶段，可使用第一类型的硬件、软件和工作负载分布算法来在多个负载平衡服务器之间划分工作负载。在第二阶段，负载平衡服务器可经由第二类型的硬件、软件和工作负载分布算法来在多个请求服务服务器之间进一步划分第一阶段所分配的工作负载。
例如，可选择第一类型的硬件、软件、和工作负载分布算法，通过采用主要用硬件实现的基本上简单的操作来使性能最大化、减少所需的会话状态量、并且使处理较大工作负载的成本最小化。由此，第一类型的硬件、软件、和工作负载分布算法可被称为多路分解器125。如将在下文中详细地描述的，第一类型的硬件、软件、和工作负载分布算法的特定实现可包括：(1)将多个交换机或路由器作为硬件来使用，将链接状态协议作为软件(例如，OSPF)来使用，将目的地IP地址作为会话ID来使用，并且将等价多径作为工作负载分布算法来使用；(2)将单个交换机作为硬件来使用，将交换机的链接结合能力作为软件来使用(在主要的交换机厂商的术语中还被称为端口通道)，并且将交换机的链接结合实现所提供的各种算法中的一个作为该算法来使用(例如，IP 5元组的散列、循环等等)。
根据又一方面，可选择第二类型的硬件、软件、和工作负载分布算法来使负载平衡服务器的通用性最大化。通常，期望负载平衡服务器能够实现任何工作负载分布算法，该算法采用可用的信息(例如，与其服务的当前工作负载有关的信息；对应被定向到适当的请求服务服务器的请求或工作负载项的深度检查；其他负载平衡服务器正在服务的工作负载；实现多路复用器/多路分解器的组件的工作负载或状态；请求服务服务器的工作负载或状态；对于未来时间的任何这些元素的工作负载或状态的预测等等)作为其决策过程的一部分。此外，期望负载平衡服务器能够卸载来自请求服务服务器的功能，诸如加密、解密、认证、或登录。第二类型的硬件的一特定方面可以是通用目的计算机，其类型通常被用作数据中心服务器、台式/家庭计算机、或膝上型计算机，这是由于这些设备的成本低以及它们能接受和执行实现任何所需功能的软件和算法。
可以理解，例如取决于目标成本、目标性能、以及现有设备的配置，第一类型和第二类型的硬件、软件、和工作负载分布算法可以按多种方式来结合。还可以理解，本发明允许基本上简单的高速机制(第一类型的硬件、软件、和工作负载分布算法)以供将工作负载分解到可使用商品服务器的级别；实现请求到请求服务服务器的所需分布(例如，采用可在个人计算机上运行的任意软件，而无需硬件的大量投入)。此外，根据本发明的一安排是增量式可缩放的，使得随着工作负载的增加或减小，负载平衡服务器的数量可分别地增加或减小来匹配该工作负载。容量被添加到或从分布式负载平衡系统110中减去的粒度是比常规系统(例如，常规的整体式负载平衡器)的粒度精细得多的粒度。
概念上，在多路分解器和负载平衡服务器之间可存在第一网络，并且在负载平衡服务器和请求服务服务器之间可存在第二网络。这些网络的每一个可由任何数量的路由器、交换机或链接(例如，包括无)来构建。此外，对第一网络或第二网络的类型通常不存在限制。例如，网络可以是层2、层3、或层4网络或其任意组合。
图2示出了采用整体式负载平衡器230、232、234的常规负载平衡系统-而不是本发明的分布式负载平衡器服务器。整体式负载平衡器230、232、234通常在数据中心的各种请求服务服务器之间传播服务请求。例如，整体式负载平衡器230、232、234将请求转发给“后端”服务器240中的一个，后端服务器通常回复整体式负载平衡器230、232、234-而请求数据的客户机不知道各功能的内部分开。当防止客户机与后端服务器直接联系时，通过隐藏内部网络的结构并且阻止对内核网络栈的攻击或在其他端口上运行的不相关的服务来获得附加的安全。
随着数据中心200的容量的增长，另一整体式负载平衡器被添加-而与其相关联的能力保持未使用，直到数据中心的下一扩展。然而，就硬件、软件、设置和管理而言，这可能是昂贵的任务。因此，通过使用整体式负载平衡器，不能有效地特制对系统的增强以适应数据的增量式增长。在一相关方面，这种整体式负载平衡器通常不知道后端服务器240的操作，并且一般不易于在与后端服务器240相关联的机器之间提供智能的分布选择。
图3示出了根据本发明又一方面的分解和分布式负载平衡器系统300的又一方面。系统300使得负载平衡功能能够被集成为架顶式(TOR)交换机311、313、315(1至k，其中k为整数)的一部分，以便进一步增强它们的功能并且形成增强的TOR。
在系统300中，VIP身份可驻留在TOR交换机311、313、315中，后者可以进一步启用例如层3功能。通常，TOR交换可提供各种体系结构的优点来帮助故障的隔离和包含，所述体系结构的优点诸如机架内的服务器的快速端到端的交换、上行链路的可预测的超额订阅以及较小的交换域(每一机架一个)等。在这一安排中，VIP 350可驻留在多个TOR中。如图3中云示意图331所表示的，多路复用器/多路分解器的功能可以使用交换机和/或路由器的等价多径路由能力来实现，以便创建分布式多路复用器/多路分解器。由此，负载平衡器服务器的功能可驻留在增强的TOR中。
图4示出了根据本发明的又一方面的实现分布式负载平衡器系统的又一方法400。虽然该示例性方法此处被示出并描述为表示各种事件和/或动作的一系列框，但本发明并不受所示出的这些框的排序的限制。例如，根据本发明，除了在此示出的次序之外，某些动作或事件可以按不同的次序发生和/或与其他动作或事件同时发生。此外，不是所有示出的框、事件或动作都是实施根据本发明的方法所必需的。此外，将会认识到根据本发明的该示例性方法和其他方法可以与在此图示并描述的方法相关联地实现，也可与未示出或描述的其他系统和装置相关联地实现。首先，在410，数据中心接收请求，该请求例如作为具有与其相关联的多个分组的数据流。
接着，在420，可以检查这些传入数据分组来标识用于流量的标识的字段，其中，在430，相同的流量中的每一分组可沿着相同的路径来在相同的负载平衡器服务器处终止。由此，分组可基于分组和环境因素的属性来划分，诸如请求服务服务器的健康、可用性、服务时间、或负载；负载平衡服务器的健康、可用性或负载；实现多路分解器的组件的健康或可用性，其中将分组重新定向到负载平衡器服务器以涉及负载平衡器服务器的网络路径知晓且服务知晓的智能方式发生。诸如一致散列等公知技术可用于以响应于因素的改变的方式来将流量定向到负载平衡器，这些因素影响对负载平衡器的流量的分配。接着，在440，负载平衡器服务器可以例如在多个服务请求服务器之间划分所涉及的任务。
图5示出了根据本发明一方面的可以提供到负载平衡器服务器的无状态映射的映射组件502。如路由函数508预定义的，映射组件502可以将每一会话分组定向到指定的负载平衡器服务器。注意，会话是两个网络实体之间一逻辑系列的请求和响应，这些网络实体可以横跨若干协议、许多个别连接，并且可以持续不确定的时间长度。某些公共会话类型包括TCP(传输控制协议)、FTP(文件传输协议)、SSL(安全套接字层)、IPSec(IP安全)/L2TP(第2层隧道协议)、PPTP(点对点隧道协议)、RDP(远程桌面协议)等等。大多数协议的会话表征是明确定义的，使得存在每一会话的清楚的开始和结束、以及区分这一会话的相关联的标识符。然而，某些会话类型可以具有不同的开始而推断的结束，诸如空闲超时或最大会话持续时间。
因此，对于每一会话分组，会话ID 512被用作到路由函数508的输入，会话亲和性被保留；即，给定会话的每一分组可被路由到相同的负载平衡器服务器。此外，映射组件502考虑所有负载平衡器服务器的当前负载状态来确定每一会话将被分配并且路由到负载平衡器服务器中的哪一个。
映射组件502检测并且向每一会话分组询问路由信息，路由信息包括例如，会话ID 512和/或第一会话分组和最后一会话分组上的特殊标签。由此，非第一分组或最后分组的任何分组被认为是中间会话分组。此外，当已经生成并且分配了会话ID，通常该会话ID将不再用于后续会话，使得关于给定分组属于哪个会话将不存在模糊。一般地，可以假设给定会话ID对于一个会话是唯一的，由此，唯一性由标准网络原理或组件来提供。
因此，数据分组可以基于分组和环境因素(例如，负载平衡器服务器上的当前负载)的属性来划分，并且被分配给负载平衡器服务器。负载平衡器服务器进一步拥有关于其他服务器(例如，请求服务服务器、POD服务器等等)的操作的知识，这些其他服务器对数据中心的传入请求进行服务。由此，系统500采用定义负载平衡器服务器中的一个或多个的当前可用性的一个或多个路由函数。路由函数可进一步考虑目的地负载，使得相同会话的分组继续被路由到相同的目的地主机以保持会话亲和性。
图6示出了在多个TOR交换机之间分布负载平衡能力的方法。首先，在610，VIP身份被分配给TOR交换机，其中当VIP被分配给多个TOR时，则等价多径路由可以将平衡加载到多个TOR。多个MAC地址可以与VIP相关联，其中这种虚拟IP地址可将服务请求定向到服务器，而无需指定要使用的特定服务器。由此，TOR可以使用散列或循环算法将通信量重新定向到相关联的服务器。此外，在服务器发生故障的情况下，可以修改或自动设置配置，使得通信量不再被定向到发生故障的服务器。接着，在620，可以在各交换机之间分布负载平衡功能，其中负载平衡服务器可以驻留为如此增强的TOR交换机的一部分。在630，服务器数据中心所接收的请求可以被转发给TOR交换机，用于处理与服务请求相关联的分组。此外，多路复用器/多路分解器能力可以用硬件和/或软件组件的形式被实现为TOR交换机的一部分，以便如涉及负载平衡器服务器的用路径感知且服务感知的智能方式将请求定向到相关联的服务服务器。
图7示出了定位负载平衡器服务器702来作为与请求服务服务器704相关联的机架的一部分的负载分布系统700的又一方面。这一安排允许附加的负载平衡作为服务请求服务器的一部分，并且负载平衡器服务器可以进一步从请求服务服务器上卸载责任。多路分解器710进一步允许将传入数据流隧穿到负载平衡器服务器702。可以建立从多路分解器710到负载平衡器服务器702(和/或从负载平衡服务器到请求服务服务器)的隧道，其中会话通过这样的隧道来协商。这样的隧穿可以进一步伴有取决于所涉及的请求和/或交换机(例如，L2/L3)的类型来建立到服务请求服务器的其他隧道。多路分解器710可以进一步基于散列函数来指定负载平衡器服务器，其中，负载平衡器服务器可随后与服务请求服务器通信。
例如，多路分解器710可以生成相同的路由函数，该路由函数用平衡的方式将分组负载分布到可用的负载平衡器服务器和/或服务请求服务器。指定的服务器例如根据常规分组路由方案和技术来继续接收会话分组。由此，可以针对路由函数来处理会话信息以便于负载平衡。多路分解器继续将相同会话的会话分组路由到相同的主机直到检测到最后一分组，以便保留会话亲和性。
图8示出了采用人工智能(AI)组件810的系统800，可以采用该人工智能组件来便于推断和/或确定何时、何地、如何在负载平衡器服务器和/或服务请求服务器之间分布传入请求。如此处所使用的，术语“推断”通常指的是根据经由事件和/或数据捕获的一组观察结果来推出或推断系统、环境、和/或用户的状态的过程。可以使用推断来识别特定上下文或动作，也可以生成例如状态上的概率分布。推断可以是概率性的，即，基于对数据和事件的考虑计算所关注状态上的概率分布。推断也可以是指用于从一组事件和/或数据构成较高级事件的技术。这样的推断导致从一组观察到的事件和/或存储的事件数据构建新的事件或动作，而不管事件在时间接近度上是否紧密相关，以及事件和数据是来自一个还是若干个事件和数据源。
AI组件810可采用如上文中结合促进此处所描述的本发明的各方面描述的各种合适的基于AI的方案中的任一种。例如，可以经由自动分类系统和过程来促进用于显式或隐式地学习如何以智能方式来平衡任务和负载的过程。分类可采用基于概率和/或基于统计的分析(例如，考虑到分析效用和成本)来预测或推断用户期望自动执行的动作。例如，可采用支持向量机(SVM)分类器。可采用其他分类方法，包括贝叶斯网络、决策树、以及提供不同独立性模式的概率分类模型。如这里所使用的分类还包括被用来开发优先级模型的统计回归。
如从本说明书中可以容易地理解的，本发明可以使用显式训练(例如，经由一般训练数据)以及隐式训练(例如，经由观察用户行为、接收外来信息)的分类器，以使得使用分类器来根据预定准则自动确定向问题返回哪一个答案。例如，对于公知的SVM，SVM经由分类器构造器和特征选择模块中的学习或训练阶段来配置。分类器是将输入属性矢量x＝(x1，x2，x3，x4，xn)映射到该输入属于一个类的置信度的函数，即f(x)＝置信度(类)。
如在此所使用的，术语“组件”、“系统”等意指计算机相关实体，或者是硬件、硬件和软件的组合、软件或执行中的软件。例如，组件可以是但不限于：在处理器上运行的进程、处理器、对象、实例、可执行代码、执行的线程、程序和/或计算机。作为说明，在计算机上运行的应用程序和计算机都可以是组件。一个或多个组件可以驻留在进程和/或执行的线程中，并且组件可以位于一个计算机内和/或分布在两个或更多计算机之间。
在此使用词语“示例性”意指用作示例、实例或说明。在此被描述为“示例性”的任何方面或设计并不一定要被解释为相比其他方面或设计更优选或有利。类似地，在此提供的示例只是出于清楚和理解的目的并且并不意味着以任何方式限制本发明或其部分。可以理解，本可呈现多个其他或替换示例，但已出于简明的目的而省略了。
此外，本发明的全部或部分可以使用产生控制计算机以实现所公开的发明的软件、固件、硬件或其任意组合的标准编程和/或工程技术而被实现为方法、装置或制品。例如，计算机可读介质可以包括，但不仅限于，磁存储设备(例如，硬盘、软盘、磁条)、光盘(例如，紧致盘(…CD)、数字多功能盘(DVD)…)、智能卡，以及闪存设备(例如，卡、棒、键驱动器…)。另外，应该理解，可以使用载波来携带计算机可读电子数据，诸如在传输和接收电子邮件或在访问诸如因特网或局域网(LAN)之类的网络时所使用的那些。当然，本领域的技术人员将会认识到，可在不背离所要求保护的主题的范围或精神的情况下对此配置进行许多修改。
为了对所公开的主题的各个方面提供上下文，图9和10以及以下讨论旨在提供对其中可实现所公开的主题的各方面的合适的环境的简要、概括描述。尽管以上在运行在一台和/或多台计算机上的计算机程序的计算机可执行指令的一般上下文中描述了本主题，但本领域的技术人员将认识到，本发明也可结合其他程序模块实现。一般而言，程序模块包括执行特定任务和/或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等。而且，本领域的技术人员可以理解，本发明的方法可用其他计算机系统配置实现，包括单处理器或多处理器计算机系统、小型计算设备、大型计算机、以及个人计算机、手持式计算设备(例如，个人数字助理(PDA)、电话、手表…)、基于微处理器或可编程消费产品或工业电子设备等。所示各方面也可在任务由通过通信网络链接的远程处理设备中执行的分布式计算环境中实现。然而，即使不是本发明的全部方面，至少也有本发明的部分方面可以在独立计算机上实现。在分布式计算环境中，程序模块可以位于本地和远程存储器存储设备中。
参考图9，描述了用于实现本发明的各方面的示例性环境910，其包括计算机912。计算机912包括处理单元914、系统存储器916，以及系统总线918。系统总线918将系统组件——包括但不仅限于系统存储器916——耦合到处理单元914。处理单元914可以是各种处理器中的任一种。还可以使用双微处理器及其他多处理器体系结构作为处理单元914。
系统总线918可以是若干类型的总线结构中的任一种，包括存储器总线或存储器控制器、外围总线或外部总线、和/或使用各种可用的总线体系结构中的任一种的局部总线，可用的总线体系结构包括，但不限于，11位总线、工业标准体系结构(ISA)、微通道体系结构(MCA)、扩展ISA(EISA)、智能驱动器电子接口(IDE)、VESA局部总线(VLB)、外围部件互连(PCI)、通用串行总线(USB)、高级图形接口(AGP)、个人计算机存储卡国际协会总线(PCMCIA)以及小型计算机系统接口(SCSI)。
系统存储器916包括易失性存储器920和非易失性存储器922。基本输入/输出系统(BIOS)被存储在非易失性存储器922中，包含例如在启动过程中帮助在计算机912内的元件之间传输信息的基本例程。作为说明而非限制，非易失性存储器922可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除ROM(EEPROM)或者闪存。易失性存储器920包括充当外部高速缓冲存储器的随机存取存储器(RAM)。作为示例而非限制，RAM以多种形式可用，诸如同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双倍数据速率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)以及直接存储器总线(Rambus)RAM(DRRAM)。
计算机912还包括可移动的/不可移动的，易失性/非易失性的计算机存储介质。图9示出了盘存储924，其中这一盘存储924包括但不限于诸如磁盘驱动器、软盘驱动器、磁带驱动器、Jaz驱动器、Zip驱动器、LS-60驱动器、闪存卡、或者记忆棒等设备。另外，磁盘存储器924可包括存储介质——分开地或与其他存储介质相结合——包括，但不限于，诸如紧致盘ROM设备之类的光盘驱动器(CD-ROM)、CD可记录驱动器(CD-R驱动器)、CD可重写驱动器(CD-RW驱动器)或数字多功能盘ROM驱动器(DVD-ROM)。为便于磁盘存储设备924连接到系统总线918，通常使用诸如接口926之类的可移动或不可移动接口。
应该明白，图9描述了在用户和在合适的操作环境910中描述的基本计算机资源之间担当中介的软件。这样的软件包括操作系统928。可以存储在磁盘存储器924上的操作系统928用于控制和分配计算机系统912的资源。系统应用程序930利用由操作系统928通过存储在系统存储器916或者存储在磁盘存储器924上的程序模块932和程序数据934对资源的管理。应该明白，在此描述的各个组件可以用各种操作系统或操作系统的组合来实施。
用户通过输入设备936向计算机912输入命令或信息。输入设备936包括，但不限于，诸如鼠标、跟踪球、指示笔、触摸板之类的指示设备、键盘、麦克风、游戏杆、游戏手柄、圆盘式卫星天线、扫描仪、TV调谐器卡、数码相机、数字视频摄像机、网络摄像头等等。这些及其他输入设备通过系统总线918经由接口端口938连接到处理单元914。接口端口938包括，例如，串行端口、并行端口、游戏端口，以及通用串行总线(USB)。输出设备940与输入设备936使用一些相同类型的端口。如此，例如，可以使用USB端口来向计算机912提供输入，以及从计算机912向输出设备940输出信息。提供输出适配器942是为了示出存在如监视器、扬声器、和打印机以及其他输出设备940等需要特殊适配器的一些输出设备940。输出适配器942包括，作为说明而不是限制，在输出设备940和系统总线918之间提供连接手段的视频卡和声卡。应该注意，其他设备和/或设备的系统提供诸如远程计算机944之类的输入和输出两种能力。
计算机912可以使用到诸如远程计算机944之类的一个或多个远程计算机的逻辑连接来在联网环境中操作。远程计算机944可以是个人计算机、服务器、路由器、网络PC、工作站、基于微处理器的电器、对等设备或其他公共网络节点等等，并且通常包括就计算机912所描述的许多或全部元件。出于简洁起见，与远程计算机944一起，只示出了存储器设备946。远程计算机944通过网络接口948在逻辑上连接到计算机912，然后，经由通信连接950在物理上连接。网络接口948涵盖诸如局域网(LAN)和广域网(WAN)这样的通信网络。LAN技术包括光纤分布式数据接口(FDDI)、铜分布式数据接口(CDDI)、以太网/IEEE 802.3、令牌环/IEEE 802.5等。WAN技术包括，但不限于，点对点链路、电路交换网，如综合业务数字网(ISDN)及其变体，分组交换网络，以及数字订户线(DSL)。
通信连接950是指用来将网络接口948连接到总线918的硬件/软件。尽管为清楚起见通信连接950被示为在计算机912内部，但是，它也可以位于计算机912外部。连接到网络接口948所需的硬件/软件包括，只作示例，内部和外部技术，诸如，调制解调器，包括常规电话级调制解调器、电缆调制解调器和DSL调制解调器、ISDN适配器，以及以太网卡。
图10是根据本发明一个方面可被用作分布式负载平衡的一部分的示例计算环境1000的示意性框图。系统1000包括一个或多个客户机1010。客户机1010可以是硬件和/或软件(例如，线程、进程、计算设备)。系统1000还包括一个或多个服务器1030。服务器1030也可以是硬件和/或软件(例如，线程、进程、计算设备)。服务器1030可以容纳各线程以通过例如利用在此描述的各组件执行转换。在客户机1010和服务器1030之间的一种可能的通信能够以适合在两个或更多计算机进程之间传输的数据分组的形式进行。系统1000包括通信框架1050，该通信框架1050可以被用来促进客户机1010和服务器1030之间的通信。客户机1010可在操作上连接至一个或多个客户机数据存储1060，客户机数据存储可用来存储对客户机1010本地的信息。同样地，服务器1030可在操作上连接到可以用来存储对服务器1030本地的信息的一个或多个服务器数据存储1040。
以上描述的内容包括各个示例性方面。当然，出于描绘这些方面的目的而描述每一个可以想到的组件或方法的组合是不可能的，但本领域内的普通技术人员应该认识到，许多进一步的组合和排列都是可能的。因此，在此描述的各方面旨在包括所有这些属于所附权利要求书的精神和范围内的改变、修改和变型。
此外，就在说明书或权利要求书中使用术语“包括”而言，这一术语旨在以与术语“包含”在被用作权利要求书中的过渡词时所解释的相似的方式为包含性的。

Claims (20)

1.一种计算机实现的系统，包括以下计算机可执行组件：
将负载平衡器服务器(111、113、115)与数据中心(100)的交换系统(130)进行接口的多路分解器组件(125)；以及
所述负载平衡器服务器(111、113、115)在多个请求服务服务器(117、119、121)之间分布所述数据中心(100)所接收的请求。
2.如权利要求1所述的计算机实现的系统，其特征在于，还包括架顶(TOR)交换机，所述架顶交换机包括所述多路分解器。
3.如权利要求1所述的计算机实现的系统，其特征在于，所述多路分解器是交换机或路由器的一部分。
4.如权利要求1所述的计算机实现的系统，其特征在于，所述多路分解器还包括采用路由函数将请求定向到所述负载平衡器服务器的映射组件。
5.如权利要求1所述的计算机实现的系统，其特征在于，所述多路分解器和所述负载平衡器服务器与L2、L3、或L4网络或其组合相关联。
6.如权利要求1所述的计算机实现的系统，其特征在于，所述负载平衡器服务器选自包括不是为负载平衡器功能特制的膝上型计算机、个人计算机或商品机器的组。
7.如权利要求4所述的计算机实现的系统，其特征在于，所述路由函数用可指定到多个媒体访问控制(MAC)地址的IP地址来实现MAC旋转。
8.如权利要求1所述的计算机实现的系统，其特征在于，还包括便于负载平衡来作为分布式系统的一部分的人工智能组件。
9.一种计算机实现的方法，包括以下计算机可执行动作：
经由多路分解器和负载平衡器服务器在数据中心内分布(620)负载平衡功能；以及
经由所述多路分解器将接收的传入请求定向(640)到所述负载平衡器服务器。
10.如权利要求9所述的计算机实现的方法，其特征在于，还包括调整负载平衡器服务器的数量来适应传入请求。
11.如权利要求9所述的计算机实现的方法，其特征在于，还包括采用商品计算机作为负载衡器服务器的一部分来执行以软件代码的工作负载分布算法。
12.如权利要求9所述的计算机实现的方法，其特征在于，还包括由所述负载平衡器服务器在请求服务服务器之间分布任务。
13.如权利要求9所述的计算机实现的方法，其特征在于，还包括基于环境因素将请求分配给请求服务服务器。
14.如权利要求9所述的计算机实现的方法，其特征在于，还包括实现负载平衡功能作为交换机、路由器、或架顶(TOR)交换机、或其组合的一部分。
15.如权利要求14所述的计算机实现的方法，其特征在于，还包括将VIP身份分配给TOR交换机。
16.如权利要求9所述的计算机实现的方法，其特征在于，还包括由所述多路分解器来检查数据流以便标识数据流量。
17.如权利要求9所述的计算机实现的方法，其特征在于，定位动作是以网络路径感知且服务感知的智能方式来执行的。
18.如权利要求17所述的计算机实现的方法，其特征在于，还包括采用从所述多路分解器到所述负载平衡器服务器的隧穿和从所述负载平衡服务器到所述请求服务服务器的隧穿中的至少一个。
19.如权利要求9所述的计算机实现的方法，其特征在于，还包括所述负载平衡服务器从所述请求服务服务器卸载功能。
20.一种计算机实现的系统，包括以下计算机可执行组件：
用于将数据中心(100)的交换系统(130)与分布式负载平衡器系统(110)进行接口的装置；以及
用于在多个请求服务服务器(117、119、121)之间分布所述数据中心(100)所接收的请求的装置。
CN2009801317088A 2008-08-11 2009-08-11 分布式负载平衡器 Pending CN102119512A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/189,438 US20100036903A1 (en) 2008-08-11 2008-08-11 Distributed load balancer
US12/189,438 2008-08-11
PCT/US2009/053494 WO2010019629A2 (en) 2008-08-11 2009-08-11 Distributed load balancer

Publications (1)

Publication Number Publication Date
CN102119512A true CN102119512A (zh) 2011-07-06

Family

ID=41653896

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009801317088A Pending CN102119512A (zh) 2008-08-11 2009-08-11 分布式负载平衡器

Country Status (5)

Country Link
US (1) US20100036903A1 (zh)
EP (1) EP2316206A2 (zh)
KR (1) KR20110057125A (zh)
CN (1) CN102119512A (zh)
WO (1) WO2010019629A2 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104737507A (zh) * 2012-10-10 2015-06-24 思科技术公司 在大规模数据中心环境中用机会第3层转发确保任意到任意可达性
WO2015172293A1 (zh) * 2014-05-12 2015-11-19 华为技术有限公司 数据传输方法、装置及交换机
CN106204248A (zh) * 2016-08-30 2016-12-07 厦门啪啪圈科技有限公司 一种拼团智能匹配系统及其拼团匹配方法
CN107438096A (zh) * 2016-05-25 2017-12-05 思科技术公司 针对分布式存储的拥塞感知负载平衡
CN107566073A (zh) * 2012-08-09 2018-01-09 微软技术许可有限责任公司 扩展型接入点
CN107787483A (zh) * 2015-06-26 2018-03-09 微软技术许可有限责任公司 经由多租户链接的无缝地址再分配
CN108112268A (zh) * 2015-04-30 2018-06-01 亚马逊技术有限公司 管理与自动扩展组相关的负载平衡器
CN108141469A (zh) * 2015-09-30 2018-06-08 微软技术许可有限责任公司 负载均衡器中的数据平面操纵

Families Citing this family (161)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8914774B1 (en) 2007-11-15 2014-12-16 Appcelerator, Inc. System and method for tagging code to determine where the code runs
US8954989B1 (en) 2007-11-19 2015-02-10 Appcelerator, Inc. Flexible, event-driven JavaScript server architecture
US8260845B1 (en) 2007-11-21 2012-09-04 Appcelerator, Inc. System and method for auto-generating JavaScript proxies and meta-proxies
US8719451B1 (en) 2007-11-23 2014-05-06 Appcelerator, Inc. System and method for on-the-fly, post-processing document object model manipulation
US8566807B1 (en) 2007-11-23 2013-10-22 Appcelerator, Inc. System and method for accessibility of document object model and JavaScript by other platforms
US8756579B1 (en) 2007-12-03 2014-06-17 Appcelerator, Inc. Client-side and server-side unified validation
US8819539B1 (en) 2007-12-03 2014-08-26 Appcelerator, Inc. On-the-fly rewriting of uniform resource locators in a web-page
US8806431B1 (en) 2007-12-03 2014-08-12 Appecelerator, Inc. Aspect oriented programming
US8938491B1 (en) 2007-12-04 2015-01-20 Appcelerator, Inc. System and method for secure binding of client calls and server functions
US8527860B1 (en) 2007-12-04 2013-09-03 Appcelerator, Inc. System and method for exposing the dynamic web server-side
US8639743B1 (en) 2007-12-05 2014-01-28 Appcelerator, Inc. System and method for on-the-fly rewriting of JavaScript
US8285813B1 (en) 2007-12-05 2012-10-09 Appcelerator, Inc. System and method for emulating different user agents on a server
US8335982B1 (en) 2007-12-05 2012-12-18 Appcelerator, Inc. System and method for binding a document object model through JavaScript callbacks
US8964548B1 (en) * 2008-04-17 2015-02-24 Narus, Inc. System and method for determining network application signatures using flow payloads
US8291079B1 (en) 2008-06-04 2012-10-16 Appcelerator, Inc. System and method for developing, deploying, managing and monitoring a web application in a single environment
US8880678B1 (en) 2008-06-05 2014-11-04 Appcelerator, Inc. System and method for managing and monitoring a web application using multiple cloud providers
US7596620B1 (en) * 2008-11-04 2009-09-29 Aptana, Inc. System and method for developing, deploying, managing and monitoring a web application in a single environment
US9497039B2 (en) 2009-05-28 2016-11-15 Microsoft Technology Licensing, Llc Agile data center network architecture
US9176784B2 (en) * 2009-12-11 2015-11-03 Verizon Patent And Licensing Inc. Load balancing
CN102907055B (zh) 2010-03-26 2015-06-17 思杰系统有限公司 用于在多核装置上进行链路负载平衡的系统和方法
US9391716B2 (en) 2010-04-05 2016-07-12 Microsoft Technology Licensing, Llc Data center using wireless communication
US8243598B2 (en) * 2010-04-26 2012-08-14 International Business Machines Corporation Load-balancing via modulus distribution and TCP flow redirection due to server overload
US9667569B1 (en) 2010-04-29 2017-05-30 Amazon Technologies, Inc. System and method for adaptive server shielding
US8225131B2 (en) 2010-06-17 2012-07-17 Microsoft Corporation Monitoring service endpoints
US8976949B2 (en) * 2010-06-29 2015-03-10 Telmate, Llc Central call platform
US8949410B2 (en) * 2010-09-10 2015-02-03 Cisco Technology, Inc. Server load balancer scaling for virtual servers
US8856374B2 (en) * 2010-11-30 2014-10-07 Hstreaming, Inc. Methods and systems for reconfiguration and repartitioning of a parallel distributed stream process
US8755283B2 (en) 2010-12-17 2014-06-17 Microsoft Corporation Synchronizing state among load balancer components
US8612550B2 (en) 2011-02-07 2013-12-17 Microsoft Corporation Proxy-based cache content distribution and affinity
US8776207B2 (en) * 2011-02-16 2014-07-08 Fortinet, Inc. Load balancing in a network with session information
US9270639B2 (en) 2011-02-16 2016-02-23 Fortinet, Inc. Load balancing among a cluster of firewall security devices
US9438476B2 (en) 2011-03-17 2016-09-06 Hewlett Packard Enterprise Development Lp Self-organization of a satellite grid
US9705977B2 (en) * 2011-04-20 2017-07-11 Symantec Corporation Load balancing for network devices
US9253252B2 (en) * 2011-05-06 2016-02-02 Citrix Systems, Inc. Systems and methods for cloud bridging between intranet resources and cloud resources
KR101219816B1 (ko) 2011-05-18 2013-01-09 주식회사 케이티클라우드웨어 서비스 중단없이 안정적으로 회원 서비스 시스템의 데이터 이전이 가능한 클라우드 서버
US8959222B2 (en) * 2011-05-19 2015-02-17 International Business Machines Corporation Load balancing system for workload groups
US9055076B1 (en) 2011-06-23 2015-06-09 Amazon Technologies, Inc. System and method for distributed load balancing with load balancer clients for hosts
US8812727B1 (en) 2011-06-23 2014-08-19 Amazon Technologies, Inc. System and method for distributed load balancing with distributed direct server return
US9736065B2 (en) 2011-06-24 2017-08-15 Cisco Technology, Inc. Level of hierarchy in MST for traffic localization and load balancing
US9450873B2 (en) 2011-06-28 2016-09-20 Microsoft Technology Licensing, Llc Performance isolation for clouds
US10013281B2 (en) * 2011-06-29 2018-07-03 Microsoft Technology Licensing, Llc Controlling network utilization
US20130036272A1 (en) * 2011-08-02 2013-02-07 Microsoft Corporation Storage engine node for cloud-based storage
US9432212B2 (en) * 2011-08-11 2016-08-30 Dell Products L.P. Data switching system
CN102508693A (zh) * 2011-09-29 2012-06-20 华中科技大学 基于虚拟机的Web服务器扩容系统
US9154549B2 (en) 2011-10-27 2015-10-06 Cisco Technology, Inc. Dynamic server farms
US8594096B2 (en) 2011-10-31 2013-11-26 Hewlett-Packard Development Company, L.P. Dynamic hardware address assignment to network devices in a switch mesh
CN103930882B (zh) * 2011-11-15 2017-10-03 Nicira股份有限公司 具有中间盒的网络架构
US8908698B2 (en) 2012-01-13 2014-12-09 Cisco Technology, Inc. System and method for managing site-to-site VPNs of a cloud managed network
US9641394B2 (en) * 2012-01-30 2017-05-02 Microsoft Technology Licensing, Llc Automated build-out of a cloud-computing stamp
US9917736B2 (en) 2012-01-30 2018-03-13 Microsoft Technology Licensing, Llc Automated standalone bootstrapping of hardware inventory
US10120725B2 (en) 2012-06-22 2018-11-06 Microsoft Technology Licensing, Llc Establishing an initial configuration of a hardware inventory
US8805990B2 (en) 2012-07-12 2014-08-12 Microsoft Corporation Load balancing for single-address tenants
US9559975B1 (en) 2012-09-29 2017-01-31 Western Digital Technologies, Inc. Real-time analysis of quality of service for multimedia traffic in a local area network
US9942161B1 (en) 2012-09-29 2018-04-10 Western Digital Technologies, Inc. Methods and systems for configuring and updating session-based quality of service for multimedia traffic in a local area network
US9246998B2 (en) 2012-10-16 2016-01-26 Microsoft Technology Licensing, Llc Load balancer bypass
US10367914B2 (en) 2016-01-12 2019-07-30 Cisco Technology, Inc. Attaching service level agreements to application containers and enabling service assurance
US20140172506A1 (en) * 2012-12-17 2014-06-19 Microsoft Corporation Customer segmentation
US10038626B2 (en) 2013-04-16 2018-07-31 Amazon Technologies, Inc. Multipath routing in a distributed load balancer
US9559961B1 (en) 2013-04-16 2017-01-31 Amazon Technologies, Inc. Message bus for testing distributed load balancers
US9432245B1 (en) 2013-04-16 2016-08-30 Amazon Technologies, Inc. Distributed load balancer node architecture
US10135914B2 (en) 2013-04-16 2018-11-20 Amazon Technologies, Inc. Connection publishing in a distributed load balancer
US9871712B1 (en) 2013-04-16 2018-01-16 Amazon Technologies, Inc. Health checking in a distributed load balancer
US10069903B2 (en) 2013-04-16 2018-09-04 Amazon Technologies, Inc. Distributed load balancer
US9553809B2 (en) 2013-04-16 2017-01-24 Amazon Technologies, Inc. Asymmetric packet flow in a distributed load balancer
US9225638B2 (en) 2013-05-09 2015-12-29 Vmware, Inc. Method and system for service switching using service tags
US9661405B2 (en) * 2013-05-10 2017-05-23 Huawei Technologies Co., Ltd. System and method for photonic switching
US9521028B2 (en) * 2013-06-07 2016-12-13 Alcatel Lucent Method and apparatus for providing software defined network flow distribution
US9432305B1 (en) 2013-06-26 2016-08-30 Amazon Technologies, Inc. Connection redistribution in load-balanced systems
US10110684B1 (en) 2013-08-15 2018-10-23 Avi Networks Transparent network service migration across service devices
US9843520B1 (en) * 2013-08-15 2017-12-12 Avi Networks Transparent network-services elastic scale-out
KR102043031B1 (ko) * 2013-10-31 2019-11-11 삼성에스디에스 주식회사 서버 및 이를 이용한 부하 분산 방법
US20150189009A1 (en) * 2013-12-30 2015-07-02 Alcatel-Lucent Canada Inc. Distributed multi-level stateless load balancing
US9294558B1 (en) 2014-03-31 2016-03-22 Amazon Technologies, Inc. Connection re-balancing in distributed storage systems
US9602424B1 (en) 2014-03-31 2017-03-21 Amazon Technologies, Inc. Connection balancing using attempt counts at distributed storage systems
US9525727B2 (en) 2014-06-10 2016-12-20 Alcatel Lucent Efficient and scalable pull-based load distribution
US10122605B2 (en) 2014-07-09 2018-11-06 Cisco Technology, Inc Annotation of network activity through different phases of execution
US20160037509A1 (en) * 2014-07-30 2016-02-04 Onavo Mobile Ltd. Techniques to reduce bandwidth usage through multiplexing and compression
US10135737B2 (en) * 2014-09-30 2018-11-20 Nicira, Inc. Distributed load balancing systems
US9935827B2 (en) 2014-09-30 2018-04-03 Nicira, Inc. Method and apparatus for distributing load among a plurality of service nodes
US11496606B2 (en) 2014-09-30 2022-11-08 Nicira, Inc. Sticky service sessions in a datacenter
US9880881B1 (en) 2014-12-04 2018-01-30 HCA Holdings, Inc. Multi-tier resource and load orchestration
US9621468B1 (en) 2014-12-05 2017-04-11 Amazon Technologies, Inc. Packet transmission scheduler
US11283697B1 (en) 2015-03-24 2022-03-22 Vmware, Inc. Scalable real time metrics management
US10609091B2 (en) 2015-04-03 2020-03-31 Nicira, Inc. Method, apparatus, and system for implementing a content switch
US10412020B2 (en) * 2015-04-30 2019-09-10 Amazon Technologies, Inc. Background processes in update load balancers of an auto scaling group
US9860317B1 (en) 2015-04-30 2018-01-02 Amazon Technologies, Inc. Throughput throttling for distributed file storage services with varying connection characteristics
US10346367B1 (en) 2015-04-30 2019-07-09 Amazon Technologies, Inc. Load shedding techniques for distributed services with persistent client connections to ensure quality of service
US10038640B2 (en) 2015-04-30 2018-07-31 Amazon Technologies, Inc. Managing state for updates to load balancers of an auto scaling group
US10341426B2 (en) * 2015-04-30 2019-07-02 Amazon Technologies, Inc. Managing load balancers associated with auto-scaling groups
US10476982B2 (en) 2015-05-15 2019-11-12 Cisco Technology, Inc. Multi-datacenter message queue
US9954751B2 (en) 2015-05-29 2018-04-24 Microsoft Technology Licensing, Llc Measuring performance of a network using mirrored probe packets
US10034201B2 (en) * 2015-07-09 2018-07-24 Cisco Technology, Inc. Stateless load-balancing across multiple tunnels
US9838315B2 (en) * 2015-07-29 2017-12-05 Cisco Technology, Inc. Stretched subnet routing
US10205677B2 (en) 2015-11-24 2019-02-12 Cisco Technology, Inc. Cloud resource placement optimization and migration execution in federated clouds
US10084703B2 (en) 2015-12-04 2018-09-25 Cisco Technology, Inc. Infrastructure-exclusive service forwarding
US20170214627A1 (en) * 2016-01-21 2017-07-27 Futurewei Technologies, Inc. Distributed Load Balancing for Network Service Function Chaining
US10469390B2 (en) * 2016-03-23 2019-11-05 International Business Machines Corporation Load balancing with software defined network controllers
US10432532B2 (en) 2016-07-12 2019-10-01 Cisco Technology, Inc. Dynamically pinning micro-service to uplink port
US10382597B2 (en) 2016-07-20 2019-08-13 Cisco Technology, Inc. System and method for transport-layer level identification and isolation of container traffic
US10313246B2 (en) * 2016-07-28 2019-06-04 At&T Intellectual Property I, L.P. Distribution of network traffic to software defined network based probes
US10567344B2 (en) 2016-08-23 2020-02-18 Cisco Technology, Inc. Automatic firewall configuration based on aggregated cloud managed information
US10326696B2 (en) 2017-01-02 2019-06-18 Microsoft Technology Licensing, Llc Transmission of messages by acceleration components configured to accelerate a service
US10305973B2 (en) * 2017-01-09 2019-05-28 International Business Machines Corporation Distributed load-balancing for software defined networks
US10425472B2 (en) 2017-01-17 2019-09-24 Microsoft Technology Licensing, Llc Hardware implemented load balancing
US10320683B2 (en) 2017-01-30 2019-06-11 Cisco Technology, Inc. Reliable load-balancer using segment routing and real-time application monitoring
US10671571B2 (en) 2017-01-31 2020-06-02 Cisco Technology, Inc. Fast network performance in containerized environments for network function virtualization
US11005731B2 (en) 2017-04-05 2021-05-11 Cisco Technology, Inc. Estimating model parameters for automatic deployment of scalable micro services
US10541909B2 (en) * 2017-06-23 2020-01-21 International Business Machines Corporation Distributed affinity tracking for network connections
US10382274B2 (en) 2017-06-26 2019-08-13 Cisco Technology, Inc. System and method for wide area zero-configuration network auto configuration
US10439877B2 (en) 2017-06-26 2019-10-08 Cisco Technology, Inc. Systems and methods for enabling wide area multicast domain name system
US10425288B2 (en) 2017-07-21 2019-09-24 Cisco Technology, Inc. Container telemetry in data center environments with blade servers and switches
US10601693B2 (en) 2017-07-24 2020-03-24 Cisco Technology, Inc. System and method for providing scalable flow monitoring in a data center fabric
US10541866B2 (en) 2017-07-25 2020-01-21 Cisco Technology, Inc. Detecting and resolving multicast traffic performance issues
JP6693925B2 (ja) * 2017-10-02 2020-05-13 日本電信電話株式会社 サーバ、通信制御システム、および、通信制御方法
US10805181B2 (en) 2017-10-29 2020-10-13 Nicira, Inc. Service operation chaining
US11012420B2 (en) 2017-11-15 2021-05-18 Nicira, Inc. Third-party service chaining using packet encapsulation in a flow-based forwarding element
US10705882B2 (en) 2017-12-21 2020-07-07 Cisco Technology, Inc. System and method for resource placement across clouds for data intensive workloads
US11595474B2 (en) 2017-12-28 2023-02-28 Cisco Technology, Inc. Accelerating data replication using multicast and non-volatile memory enabled nodes
US10797910B2 (en) 2018-01-26 2020-10-06 Nicira, Inc. Specifying and utilizing paths through a network
US10659252B2 (en) 2018-01-26 2020-05-19 Nicira, Inc Specifying and utilizing paths through a network
US10728174B2 (en) 2018-03-27 2020-07-28 Nicira, Inc. Incorporating layer 2 service between two interfaces of gateway device
US10805192B2 (en) 2018-03-27 2020-10-13 Nicira, Inc. Detecting failure of layer 2 service using broadcast messages
US10511534B2 (en) 2018-04-06 2019-12-17 Cisco Technology, Inc. Stateless distributed load-balancing
US10841367B2 (en) 2018-05-17 2020-11-17 International Business Machines Corporation Optimizing dynamical resource allocations for cache-dependent workloads in disaggregated data centers
US10936374B2 (en) 2018-05-17 2021-03-02 International Business Machines Corporation Optimizing dynamic resource allocations for memory-dependent workloads in disaggregated data centers
US10893096B2 (en) 2018-05-17 2021-01-12 International Business Machines Corporation Optimizing dynamical resource allocations using a data heat map in disaggregated data centers
US11330042B2 (en) 2018-05-17 2022-05-10 International Business Machines Corporation Optimizing dynamic resource allocations for storage-dependent workloads in disaggregated data centers
US11221886B2 (en) 2018-05-17 2022-01-11 International Business Machines Corporation Optimizing dynamical resource allocations for cache-friendly workloads in disaggregated data centers
US10601903B2 (en) 2018-05-17 2020-03-24 International Business Machines Corporation Optimizing dynamical resource allocations based on locality of resources in disaggregated data centers
US10977085B2 (en) 2018-05-17 2021-04-13 International Business Machines Corporation Optimizing dynamical resource allocations in disaggregated data centers
US10673764B2 (en) 2018-05-22 2020-06-02 International Business Machines Corporation Distributed affinity tracking for network connections
US10728361B2 (en) 2018-05-29 2020-07-28 Cisco Technology, Inc. System for association of customer information across subscribers
US10904322B2 (en) 2018-06-15 2021-01-26 Cisco Technology, Inc. Systems and methods for scaling down cloud-based servers handling secure connections
US10764266B2 (en) 2018-06-19 2020-09-01 Cisco Technology, Inc. Distributed authentication and authorization for rapid scaling of containerized services
US11019083B2 (en) 2018-06-20 2021-05-25 Cisco Technology, Inc. System for coordinating distributed website analysis
US10819571B2 (en) 2018-06-29 2020-10-27 Cisco Technology, Inc. Network traffic optimization using in-situ notification system
US10904342B2 (en) 2018-07-30 2021-01-26 Cisco Technology, Inc. Container networking using communication tunnels
US11201835B1 (en) 2019-05-23 2021-12-14 C/Hca, Inc. Systems and methods for multi-tier resource and subsystem orchestration and adaptation
US10628180B1 (en) 2018-08-20 2020-04-21 C/Hca, Inc. Disparate data aggregation for user interface customization
US11595320B1 (en) 2020-07-01 2023-02-28 C/Hca, Inc. Multi-tier resource, subsystem, and load orchestration
US11595250B2 (en) 2018-09-02 2023-02-28 Vmware, Inc. Service insertion at logical network gateway
US10944673B2 (en) 2018-09-02 2021-03-09 Vmware, Inc. Redirection of data messages at logical network gateway
US11334388B2 (en) * 2018-09-27 2022-05-17 Amber Solutions, Inc. Infrastructure support to enhance resource-constrained device capabilities
US11349296B2 (en) 2018-10-01 2022-05-31 Intelesol, Llc Solid-state circuit interrupters
US11360796B2 (en) 2019-02-22 2022-06-14 Vmware, Inc. Distributed forwarding for performing service chain operations
US10812576B1 (en) 2019-05-31 2020-10-20 Microsoft Technology Licensing, Llc Hardware load balancer gateway on commodity switch hardware
US11283717B2 (en) 2019-10-30 2022-03-22 Vmware, Inc. Distributed fault tolerant service chain
US11140218B2 (en) 2019-10-30 2021-10-05 Vmware, Inc. Distributed service chain across multiple clouds
US11223494B2 (en) 2020-01-13 2022-01-11 Vmware, Inc. Service insertion for multicast traffic at boundary
US11659061B2 (en) 2020-01-20 2023-05-23 Vmware, Inc. Method of adjusting service function chains to improve network performance
US11153406B2 (en) 2020-01-20 2021-10-19 Vmware, Inc. Method of network performance visualization of service function chains
US11528219B2 (en) 2020-04-06 2022-12-13 Vmware, Inc. Using applied-to field to identify connection-tracking records for different interfaces
CN116195158B (zh) 2020-08-11 2024-09-10 安泊半导体公司 智能能源监测和选择控制系统
CN112000507B (zh) * 2020-08-21 2024-08-16 中国建设银行股份有限公司 基于软件负载均衡的故障处理方法、系统、设备和介质
WO2022116107A1 (en) 2020-12-03 2022-06-09 Boe Technology Group Co., Ltd. Data management platform, intelligent defect analysis system, intelligent defect analysis method, computer-program product, and method for defect analysis
US20220179873A1 (en) * 2020-12-03 2022-06-09 Boe Technology Group Co., Ltd. Data management platform, intelligent defect analysis system, intelligent defect analysis method, computer-program product, and method for defect analysis
US11734043B2 (en) 2020-12-15 2023-08-22 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
US11611625B2 (en) 2020-12-15 2023-03-21 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
US12113525B2 (en) 2021-09-30 2024-10-08 Amber Semiconductor, Inc. Intelligent electrical switches
CN114070716B (zh) * 2021-11-29 2024-02-13 中国工商银行股份有限公司 应用程序的管理系统、应用程序的管理方法以及服务器
US20240078139A1 (en) 2022-09-06 2024-03-07 Oracle International Corporation Burst datacenter capacity for hyperscale workloads

Family Cites Families (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5774668A (en) * 1995-06-07 1998-06-30 Microsoft Corporation System for on-line service in which gateway computer uses service map which includes loading condition of servers broadcasted by application servers for load balancing
US6886035B2 (en) * 1996-08-02 2005-04-26 Hewlett-Packard Development Company, L.P. Dynamic load balancing of a network of client and server computer
US6067580A (en) * 1997-03-11 2000-05-23 International Business Machines Corporation Integrating distributed computing environment remote procedure calls with an advisory work load manager
US6128279A (en) * 1997-10-06 2000-10-03 Web Balance, Inc. System for balancing loads among network servers
US6578066B1 (en) * 1999-09-17 2003-06-10 Alteon Websystems Distributed load-balancing internet servers
US6684331B1 (en) * 1999-12-22 2004-01-27 Cisco Technology, Inc. Method and apparatus for distributing and updating group controllers over a wide area network using a tree structure
GB2359693B (en) * 2000-02-26 2003-07-16 3Com Corp Network switch with truncated trie look-up facility
US6816905B1 (en) * 2000-11-10 2004-11-09 Galactic Computing Corporation Bvi/Bc Method and system for providing dynamic hosted service management across disparate accounts/sites
US7454500B1 (en) * 2000-09-26 2008-11-18 Foundry Networks, Inc. Global server load balancing
US7139792B1 (en) * 2000-09-29 2006-11-21 Intel Corporation Mechanism for locking client requests to a particular server
US7653700B1 (en) * 2000-11-16 2010-01-26 Microsoft Corporation System and method for performing client-centric load balancing of multiple globally-dispersed servers
US7512673B2 (en) * 2001-01-11 2009-03-31 Attune Systems, Inc. Rule based aggregation of files and transactions in a switched file system
US7177923B2 (en) * 2001-03-13 2007-02-13 Agere Systems Inc. Methods and devices for selecting internet servers
US7154898B1 (en) * 2001-03-13 2006-12-26 Intelsat, Ltd. Scalable edge node
US7483971B2 (en) * 2001-05-04 2009-01-27 Intel Corporation Method and apparatus for managing communicatively coupled components using a virtual local area network (VLAN) reserved for management instructions
US7117242B2 (en) * 2001-06-20 2006-10-03 Hewlett-Packard Development Company, L.P. System and method for workload-aware request distribution in cluster-based network servers
US20030009559A1 (en) * 2001-07-09 2003-01-09 Naoya Ikeda Network system and method of distributing accesses to a plurality of server apparatus in the network system
GB0122507D0 (en) * 2001-09-18 2001-11-07 Marconi Comm Ltd Client server networks
DE60116318T2 (de) * 2001-10-08 2006-08-31 Alcatel Verfahren zur Lastverteilung zwischen mehreren gemeinsamen Betriebsmitteln in einem Kommunikationsnetzwerk und Netzwerk zur Anwendung des Verfahrens
US7088718B1 (en) * 2002-03-19 2006-08-08 Cisco Technology, Inc. Server load balancing using IP option field approach to identify route to selected server
JP2003281109A (ja) * 2002-03-26 2003-10-03 Hitachi Ltd 負荷分散方法
US7096228B2 (en) * 2002-03-27 2006-08-22 Microsoft Corporation Method and system for managing data records on a computer network
US7463585B2 (en) * 2002-05-16 2008-12-09 Broadcom Corporation System, method, and apparatus for load-balancing to a plurality of ports
US7486611B1 (en) * 2002-05-20 2009-02-03 Cisco Technology, Inc. Standby router protocol using optimal route metric
US7180894B2 (en) * 2002-05-29 2007-02-20 Intel Corporation Load balancing engine
US7930423B2 (en) * 2002-06-14 2011-04-19 Alcatel-Lucent Usa Inc. Dynamic load balancing within a network
US20040034687A1 (en) * 2002-08-01 2004-02-19 Bellsouth Intellectual Property Corporation Extensible instant messaging service
US7774325B2 (en) * 2002-10-17 2010-08-10 Intel Corporation Distributed network attached storage system
US7353276B2 (en) * 2003-02-13 2008-04-01 Microsoft Corporation Bi-directional affinity
US7287180B1 (en) * 2003-03-20 2007-10-23 Info Value Computing, Inc. Hardware independent hierarchical cluster of heterogeneous media servers using a hierarchical command beat protocol to synchronize distributed parallel computing systems and employing a virtual dynamic network topology for distributed parallel computing system
US7613822B2 (en) * 2003-06-30 2009-11-03 Microsoft Corporation Network load balancing with session information
US7567504B2 (en) * 2003-06-30 2009-07-28 Microsoft Corporation Network load balancing with traffic routing
US20050038890A1 (en) * 2003-08-11 2005-02-17 Hitachi., Ltd. Load distribution method and client-server system
KR100570836B1 (ko) * 2003-10-14 2006-04-13 한국전자통신연구원 부하 분산 세션 레이블을 이용한 서버간의 부하 분산장치 및 방법
JP2005141441A (ja) * 2003-11-06 2005-06-02 Hitachi Ltd 負荷分散システム
US20050108071A1 (en) * 2003-11-17 2005-05-19 Kamal Jain Systems and methods for approximating optimal distribution via networked systems
US7490323B2 (en) * 2004-02-13 2009-02-10 International Business Machines Corporation Method and system for monitoring distributed applications on-demand
US20060112170A1 (en) * 2004-05-03 2006-05-25 Craig Sirkin Geo-locating load balancing
US20060064478A1 (en) * 2004-05-03 2006-03-23 Level 3 Communications, Inc. Geo-locating load balancing
US7436832B2 (en) * 2004-05-05 2008-10-14 Gigamon Systems Llc Asymmetric packets switch and a method of use
US7209967B2 (en) * 2004-06-01 2007-04-24 Hitachi, Ltd. Dynamic load balancing of a storage system
US7546308B1 (en) * 2004-09-17 2009-06-09 Symantec Operating Corporation Model and method of an n-tier quality-of-service (QoS)
US7558276B2 (en) * 2004-11-05 2009-07-07 Cisco Technology, Inc. System and method for retrieving computed paths from a path computation element using a path key
JP2006227963A (ja) * 2005-02-18 2006-08-31 Fujitsu Ltd 多段負荷分散装置、方法及びプログラム
JP4919608B2 (ja) * 2005-03-02 2012-04-18 株式会社日立製作所 パケット転送装置
US7693050B2 (en) * 2005-04-14 2010-04-06 Microsoft Corporation Stateless, affinity-preserving load balancing
US20060239196A1 (en) * 2005-04-25 2006-10-26 Sanjay Khanna System and method for performing load balancing across a plurality of servers
US7590989B2 (en) * 2005-07-08 2009-09-15 Microsoft Corporation Load balancer management
KR100715674B1 (ko) * 2005-09-15 2007-05-09 한국전자통신연구원 부하 분산 방법 및 장치, 그리고 이를 이용한 소프트웨어스트리밍 시스템
US7934216B2 (en) * 2005-10-03 2011-04-26 International Business Machines Corporation Method and system for load balancing of computing resources
US7702947B2 (en) * 2005-11-29 2010-04-20 Bea Systems, Inc. System and method for enabling site failover in an application server environment
JP4605072B2 (ja) * 2006-01-17 2011-01-05 株式会社日立製作所 制御装置および情報システムの制御方法
US20070214282A1 (en) * 2006-03-13 2007-09-13 Microsoft Corporation Load balancing via rotation of cluster identity
US8353020B2 (en) * 2006-06-14 2013-01-08 Microsoft Corporation Transparently extensible firewall cluster
US8185893B2 (en) * 2006-10-27 2012-05-22 Hewlett-Packard Development Company, L.P. Starting up at least one virtual machine in a physical machine by a load balancer
US7844839B2 (en) * 2006-12-07 2010-11-30 Juniper Networks, Inc. Distribution of network communications based on server power consumption
US7640460B2 (en) * 2007-02-28 2009-12-29 Microsoft Corporation Detect user-perceived faults using packet traces in enterprise networks
US8484656B2 (en) * 2007-03-12 2013-07-09 Citrix Systems, Inc. Systems and methods for providing global server load balancing of heterogeneous devices
US8661518B2 (en) * 2007-06-13 2014-02-25 Cisco Technology, Inc. N-port ID virtualization (NPIV) proxy module, NPIV proxy switching system and methods
US9219705B2 (en) * 2007-06-25 2015-12-22 Microsoft Technology Licensing, Llc Scaling network services using DNS
US8028293B2 (en) * 2007-06-28 2011-09-27 Microsoft Corporation Optimal policies for load balancing for distributed and strategic agents (more technically, optimal coordination mechanisms for machine scheduling)
US8626949B2 (en) * 2007-09-27 2014-01-07 Microsoft Corporation Intelligent network address lookup service
US7817547B2 (en) * 2007-10-02 2010-10-19 Microsoft Corporation Uncovering the differences in backbone networks
US8339965B2 (en) * 2007-10-02 2012-12-25 Microsoft Corporation Uncovering the differences in backbone networks
US20090129379A1 (en) * 2007-11-21 2009-05-21 Fmr Llc Reconstructing data on a network
US7991881B2 (en) * 2008-02-29 2011-08-02 Microsoft Corporation Monitoring network performance to identify sources of network performance degradation
US8996683B2 (en) * 2008-06-09 2015-03-31 Microsoft Technology Licensing, Llc Data center without structural bottlenecks
JP2010039661A (ja) * 2008-08-04 2010-02-18 Fujitsu Ltd サーバ負荷分散装置，方法およびプログラム
US8180896B2 (en) * 2008-08-06 2012-05-15 Edgecast Networks, Inc. Global load balancing on a content delivery network

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107566073A (zh) * 2012-08-09 2018-01-09 微软技术许可有限责任公司 扩展型接入点
CN107566073B (zh) * 2012-08-09 2019-07-23 微软技术许可有限责任公司 扩展型接入点
CN104737507B (zh) * 2012-10-10 2018-03-06 思科技术公司 在大规模数据中心环境中用机会第3层转发确保任意到任意可达性的方法及装置
CN104737507A (zh) * 2012-10-10 2015-06-24 思科技术公司 在大规模数据中心环境中用机会第3层转发确保任意到任意可达性
CN106464549A (zh) * 2014-05-12 2017-02-22 华为技术有限公司 数据传输方法、装置及交换机
WO2015172293A1 (zh) * 2014-05-12 2015-11-19 华为技术有限公司 数据传输方法、装置及交换机
CN108112268A (zh) * 2015-04-30 2018-06-01 亚马逊技术有限公司 管理与自动扩展组相关的负载平衡器
CN107787483A (zh) * 2015-06-26 2018-03-09 微软技术许可有限责任公司 经由多租户链接的无缝地址再分配
CN108141469A (zh) * 2015-09-30 2018-06-08 微软技术许可有限责任公司 负载均衡器中的数据平面操纵
CN108141469B (zh) * 2015-09-30 2021-02-12 微软技术许可有限责任公司 负载均衡器中的数据平面操纵
US10992582B2 (en) 2015-09-30 2021-04-27 Microsoft Technology Licensing, Llc Data plane manipulation in a load balancer
CN107438096A (zh) * 2016-05-25 2017-12-05 思科技术公司 针对分布式存储的拥塞感知负载平衡
CN106204248A (zh) * 2016-08-30 2016-12-07 厦门啪啪圈科技有限公司 一种拼团智能匹配系统及其拼团匹配方法

Also Published As

Publication number Publication date
WO2010019629A3 (en) 2010-06-10
WO2010019629A2 (en) 2010-02-18
KR20110057125A (ko) 2011-05-31
EP2316206A2 (en) 2011-05-04
US20100036903A1 (en) 2010-02-11

Similar Documents

Publication Publication Date Title
CN102119512A (zh) 分布式负载平衡器
US20210365199A1 (en) Technologies for coordinating disaggregated accelerator device resources
US10185722B2 (en) Distributed data set encryption and decryption
CN108701076B (zh) 分布式数据集存储和检索
US9116775B2 (en) Relationship-based dynamic firmware management system
US20070005739A1 (en) Method and apparatus for dynamically controlling the selection and redundancy of web service components
US20180295029A1 (en) Managing groups of servers
CN104380278A (zh) 用于一个或多个客户端和数据中心的服务器之间的客户端管理会话持续性的设备、系统和方法
CN110710153B (zh) 第一节点设备、可读存储介质和计算机实现的方法
US20110131584A1 (en) The method and apparatus for the resource sharing between user devices in computer network
US20170093723A1 (en) Programmable data plane hardware load balancing system
Zhong et al. An efficient SDN load balancing scheme based on variance analysis for massive mobile users
CN101026570A (zh) 基于负载均衡度量实例来选择服务器的方法和系统
CN105791381A (zh) 访问控制的方法及装置
CN113467970B (zh) 云计算系统中的跨安全区域的资源访问方法及电子设备
Bhowmik et al. Distributed control plane for software-defined networks: A case study using event-based middleware
US11816550B1 (en) Confidence score generation for boosting-based tree machine learning models
US11985171B2 (en) Aggregated networking subsystem station move control system
US20150012663A1 (en) Increasing a data transfer rate
CN111147385A (zh) 一种软件定义数据中心网络数据平面转发方法及系统
US20210126855A1 (en) Control packet transmission system
US12101356B2 (en) High performance architecture for converged security systems and appliances
US12079574B1 (en) Anomalous source detection in high-dimensional sequence data
US11005746B1 (en) Stack group merging system
US20240231936A1 (en) Resource-capability-and-connectivity-based workload performance system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20110706