CN104756467A - 云中的cdn流量管理 - Google Patents

云中的cdn流量管理 Download PDF

Info

Publication number
CN104756467A
CN104756467A CN201380057086.5A CN201380057086A CN104756467A CN 104756467 A CN104756467 A CN 104756467A CN 201380057086 A CN201380057086 A CN 201380057086A CN 104756467 A CN104756467 A CN 104756467A
Authority
CN
China
Prior art keywords
property
load balancer
action
marginal date
cdn
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201380057086.5A
Other languages
English (en)
Other versions
CN104756467B (zh
Inventor
M·巴特鲁尼
J·D·兹奥恩斯
O·霍诺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN104756467A publication Critical patent/CN104756467A/zh
Application granted granted Critical
Publication of CN104756467B publication Critical patent/CN104756467B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00—Payment architectures, schemes or protocols
    • G06Q20/08—Payment architectures
    • G06Q20/14—Payment architectures specially adapted for billing systems
    • G06Q20/145—Payments according to the detected use or quantity
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876—Network utilisation, e.g. volume of load or congestion level
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/70—Admission control; Resource allocation
    • H04L47/72—Admission control; Resource allocation using reservation actions during connection setup
    • H04L47/726—Reserving resources in multiple paths to be used simultaneously
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/70—Admission control; Resource allocation
    • H04L47/83—Admission control; Resource allocation based on usage prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/566—Grouping or aggregating service requests, e.g. for unified processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Environmental & Geological Engineering (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Information Transfer Between Computers (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

财产是主存在原始服务器上的客户web应用。客户分发网络(CDN)将财产分派到跨在不同地理位置处的各数据中心(Pop A、Pop B...Pop C)的各池(池1、池2…池3)。在属于特定池的特定pop处的一组服务器是那个池的分区(分区1A…分区2C…分区3B)。在计算机系统处的方法的各实施例包括使用孵化池来确定财产的属性，孵化池是被设为与新添加到CDN的财产分开的特定的池。孵化周期是基于为财产所估计的属性并基于定义最小和最大孵化时间的规则来标识的。孵化时间可基于客户事实索引来选择，客户事实索引是基于客户在提供财产的一个或多个属性的估计中的精确度来计算的。在财产被添加到孵化池之后，分析财产的负载和模式。财产的负载大小和/或流量类型被标识。一旦财产已经在孵化池的上下文内被分析，该财产就可被分派到更一般的池。这样做可帮助细化CDN的与客户的关系，并保护CDN资源的完整性。其它实施例还可包括在CDN内卸载流量。负载平衡器代理确定在边缘数据中心处的流量应当被卸载到一个或多个其它边缘数据中心。负载平衡器代理向其它边缘数据中心发送包括所确定的优先级水平的请求。负载平衡器代理接收指示资源可被使用的一个或多个回答。负载平衡器代理将回答进行排序并将流量卸载到至少一个边缘数据中心。

Description

云中的CDN流量管理
背景
许多基于因特网的服务提供者向全世界的客户机递送数字内容。数字内容可以包括web对象(例如，文本、图形、URL、脚本)、可下载对象(例如，媒体文件、软件、文档等)、web应用、流媒体(例如，音频和视频内容)等。给位于各种各样地理位置的大量客户机提供数字内容向服务提供者提出了挑战。例如，服务提供者可能不能够提供足够的服务器资源和/或网络带宽以在给定时间服务于请求数字内容的全部客户机。此外，因为服务提供者和地理上远离服务提供者的服务器的客户机之间的流量通过大量因特网服务器经极大的地理距离来路由，所以客户机可能经历高级别的等待时间和/或低传送率。
内容递送网络(CDN)旨在减轻服务提供者向大的和/或地理上不相同的客户机组递送数字内容的能力。CDN将服务器(或服务器群集)置于各种地理位置，并使用这些服务器来高速缓存并递送来自服务提供者的原始服务器的内容。如此，CDN可通过增加用于递送每个服务提供者的内容的总的可用服务器资源和带宽两者，还通过从地理上更接近正被服务的客户机的服务器递送每个服务提供者的内容，来改善服务提供者将内容递送到客户机的能力。
CDN通常为大量服务提供者提供内容递送服务。如此，CDN在各种服务提供者间分配CDN资源。例如，如果CDN正经历针对特定地理区域的特定服务提供者的流量激增，CDN可反应性地分配该特定地理区域中的附加服务器资源以用于递送该特定服务提供者的内容，而从一个或多个其它服务提供者移除在该特定地理区域的该附加服务器资源。
概述
在此描述的至少一些实施例使用实况和历史数据两者来管理CDN内的流量。因此，CDN可抢先地(与反应性地相反)重新配置它本身来处理当前和预计的客户机负载。
在一些实施例中，使用孵化池来确定财产的属性。计算机系统基于对财产的负载大小和流量类型的估计并基于定义被添加到孵化池的财产的最小和最大孵化时间的规则来确定孵化周期。计算机系统向孵化池添加财产，包括将孵化池的服务器资源分配到该财产。该计算机系统为所确定的孵化周期分析财产的负载和流量模式，并基于将财产添加到孵化池来确定财产的负载大小和/或流量类型。
在其它实施例中，负载平衡器代理将流量卸载到CDN中的其它边缘数据中心。负载平衡器代理确定在边缘数据中心处的流量应当被卸载到其它边缘数据中心，并确定用于请求将流量卸载到其它边缘数据中心的优先级水平。负载平衡器代理将卸载请求发送到其它边缘数据中心的每一个。每个卸载请求指示所确定的优先级水平。负载平衡器代理从其它边缘数据中心接收一个或多个回答，包括指示资源可由该负载平衡器代理使用的至少一个回答。负载平衡器代理将各回答进行排序以标识用于卸载流量的至少一个边缘数据中心，并将流量卸载到所标识的边缘数据中心。
提供本概述是为了以简化的形式介绍将在以下详细描述中进一步描述的一些概念。本概述不旨在标识出所要求保护的主题的关键特征或必要特征，也不旨在用于帮助确定所要求保护的主题的范围。
附图说明
为了描述可获得本发明的上述和其它优点和特征的方式，将通过参考附图中示出的本发明的具体实施例来呈现以上简要描述的本发明的更具体描述。可以理解，这些附图只描绘了本发明的各典型实施例，并且因此不被认为是对其范围的限制，将通过使用附图并利用附加特征和细节来描述和解释本发明，在附图中：
图1示出了促进抢先地和反应性地配置CDN以针对由CDN主存的各财产处理当前和预期的客户机负载的示例计算机体系结构。
图2示出了用于分隔、分区和/或分配示例CDN的资源的示例方案。
图3示出了用于将CDN的边缘数据中心处的服务器资源分配给由边缘数据中心服务的财产的示例方法的流程图。
图4示出了用于边缘数据中心处的负载平衡器代理将流量卸载到另一边缘数据中心的示例方法的流程图。
图5示出了用于使用孵化池来确定一个或多个财产的属性的示例方法的流程图。
详细描述
在此描述的至少一些实施例使用实况和历史数据两者来管理CDN内的流量。因此，CDN可抢先地(与反应性地相反)重新配置它本身来处理当前和预计的客户机负载。
更具体地，各实施例涉及服务于多个财产并包括物理地位于不同地理位置(且潜在地在全世界的地理位置)的多个边缘数据中心的CDN。每个边缘数据中心包括用于高速缓存并提供各财产的内容的多个服务器。各实施例还涉及包括负载平衡器服务的CDN，该负载平衡器服务跟踪多个边缘数据中心的长期流量趋势，并且管理用于(基于该长期流量趋势)向各财产分配服务器资源的规则。各实施例还涉及包括在每个边缘数据中心处的负载平衡器代理的CDN。每个负载平衡器代理被配置来根据基于长期流量趋势的规则，以及关于在边缘数据中心处的当前活动的实时(或近似实时)数据，来作出服务器分配决定。如此，负载平衡器代理基于长期流量趋势和规则抢先地，并基于实时(或近似实时)数据反应性地作出服务器分配决定。
如在此使用的，“财产”是主存在原始服务器上的客户web应用。例如，“财产”可以是在线视频流网站、在线音频流服务、补丁/更新网站等。如在此使用的，“客户”是拥有一个或多个财产的个人、实体、服务提供者等。如在此使用的，“原始服务器”是由客户拥有和/或被用户操作的web服务器。
图1示出了促进抢先地和反应性地配置CDN以针对由CDN主存的各财产处理当前和预期的客户机负载的示例计算机体系结构100。参见图1，计算机体系结构100包括边缘数据中心102、与近似实时(NRT)数据相关的一个或多个组件108，以及与长期趋势和规则相关的一个或多个组件114。所描绘的组件和计算机系统中的每一个通过诸如例如局域网(“LAN”)、广域网(“WAN”)、因特网等的网络彼此连接(或作为网络的一部分)。相应地，所描绘的组件和计算机系统中的每一个可以创建与消息相关的数据并通过网络交换与消息相关的数据(例如，网际协议(“IP”)数据报和利用IP数据报的其他更高层协议，诸如传输控制协议(“TCP”)、超文本传输协议(“HTTP”)、简单邮件传输协议(“SMTP”)等)。
边缘数据中心12包括多个数据中心，每个数据中心位于不同地理位置。例如，图1描绘了边缘数据中心102a以及边缘数据中心102b，尽管如垂直省略号所指示的，计算机体系结构100可包括任何数量的边缘数据中心。如在此使用的，“pop”(point of presence(存在点))还指边缘数据中心，无论该边缘数据中心专用作CDN的一部分，或与其它服务搭配。
如所描绘的，每个边缘数据中心102包括被配置用来高速缓存与边缘数据中心相关联的财产的内容并将那个内容递送到客户机(例如地理地位于边缘数据中心附近的被高速缓存的财产的客户机)的多个服务器(例如服务器106a和106b)。边缘数据中心102还包括负载平衡器代理(例如，负载平衡器代理104a和104b)。负载平衡器代理(104a、104b)被配置用来作出关于在对应边缘数据中心处的服务器资源(106a、106b)如何被分配给不同财产的抢先的和反应性的决定两者。在这样做时，负载平衡器代理(104a、104b)使用(来自规则数据存储124的)基于长期趋势数据的规则，以及(来自NRT数据存储112的)NRT数据。
如在这里使用的，“NRT数据”意味着近似实时(诸如在几分钟或甚至在几秒钟内)收集和聚集的数据。在所描绘的实施例中，与NRT数据相关的组件108包括NRT聚集器110和NRT数据存储112。NRT聚集器110解析在边缘数据中心102处生成的日志以生成关于在每个边缘数据中心处的当前活动的NRT数据。NRT聚集器110将所生成的NRT数据存储在NRT数据存储112中。NRT数据存储112使得NRT数据对于在每个边缘数据中心处的负载平衡器代理(104a、104b)可用(如在NRT数据存储112和负载平衡器代理之间的箭头所指示的)。对应地，负载平衡器代理能够从NRT数据存储112检索NRT数据并将该NRT数据用作它们资源分配决定的一部分。通过使用NRT数据，负载平衡器代理能够对在边缘数据中心102处的当前流量作出反应，诸如处理非预期的在一个或多个财产处的流量激增。当与NRT数据相关的组件108被描绘成与边缘数据中心102分开时，这些组件的全部或部分，在一些实施例中，可在边缘数据中心102处实现。
在所描绘的实施例中，与长期趋势和规则相关的组件114包括日志数据存储120、趋势聚集器118，和长期趋势数据存储116。日志数据存储120被配置来存储由边缘数据中心102生成的日志。趋势聚集器118被配置来解析这些日志以确定由边缘数据中心服务提供的财产的长期流量模式。趋势聚集器118将长期流量模式存储在长期趋势数据存储116中。
长期趋势可标识对财产的客户需求跨日、星期、月或甚至年的变化。例如，对于视频流财产，长期趋势可指示在该星期的特定日子(例如，对应于新内容发布)、在晚间、和在周末客户需求的增加。在另一示例中，对于补丁/更新财产，长期趋势可指示在该月的特定日子(例如，在新补丁/更新内容发布时)、和在一天内的特定时间(在许多客户机被配置来安装补丁/更新时)客户需求的增加。
在所描绘的实施例中，与长期趋势和规则相关的组件114还包括负载平衡器服务122和规则数据存储124。负载平衡器服务122配置用于分析长期趋势数据存储116中的流量模式数据，以创建/修改与将在边缘数据中心102处的服务器分派给各种财产相关的规则，并将规则存储在规则数据存储124中。规则数据存储124使得规则对于在每个边缘数据中心处的负载平衡器代理(104a、104b)可用(如在规则数据存储124和负载平衡器代理之间的箭头所描绘的)。对应地，负载平衡器代理能够从规则数据存储124检索规则并将该规则用作它们资源分配决定的一部分。
如长期趋势数据存储116和负载平衡器服务122之间的双箭头所指示的，负载平衡器服务122可从长期趋势数据存储116接收长期趋势数据，并还将反馈提供给长期趋势数据存储116。例如，负载平衡器服务122可细化/优化对长期趋势数据的收集。此外，如规则数据存储124和负载平衡器服务122之间的双箭头所指示的，负载平衡器服务122既可从规则数据存储124读取规则也可向规则数据存储124提供规则输入和调整。
在一些实施例中，CDN将财产分配给跨边缘数据中心(诸pop)的池。在属于特定池的特定pop处的一组服务器是那个池的分区。这些服务器服务于在pop处的池的财产。图2，例如，示出了用于分隔、分区和/或分配示例CDN的资源的示例方案。示例CDN包括三个pop(或边缘数据中心)。这些包括有50个服务器的“pop A”、有80个服务器的“pop B”，以及有100个服务器的“pop C”。如水平省略号所指示的，示例CDN可包括任何数量的pop。
如所描绘的，示例CDN将示例CDN资源分成多个池，包括“池1”、“池2”，和“池3”。如垂直省略号所指示的，示例CDN可包括任何数量的池。每个池包括在一个或多个pop处的一个或多个服务器的一分区。例如，池1包括在pop A处的分区1A(10个服务器)、在pop B处的分区1B(25个服务器)，以及在pop C处的分区1C(20个服务器)。如所描绘的，池2包括在pop A、B、和C处的分区(2A、2B和2C)，并且池3包括在pop A和B处的分区(3A和3B)。
各财产可被分配给各池。例如，五个财产可被分配到池1，10个财产可被分配到池2，4个财产可被分配到池3。对应地，每个池的各分区中的服务器被保留来服务于分配给池的财产。例如，在pop A，分区1A的10个服务器被保留来服务于分配给池1的五个财产，在pop B，分区1B的25个服务器被保留来服务于分配给池1的五个财产，以及在pop C，分区1C的20个服务器被保留来服务于分配给池1的五个财产。在一些实施例中，财产可被分配给多个池，并且那些池可被分配给同一pop。因此，财产可被分配给在单个pop处的(对应于不同池的)多个分区。
在图1和2的上下文内，存在多个可被用作管理服务器分配的一部分的方法用于服务于在CDN内的财产。
1.负载平衡算法
各实施例包括由在边缘数据中心102处的每个负载平衡器代理执行的负载平衡算法。通过使用该负载平衡算法，每个负载平衡器代理利用来自NRT数据存储112的NRT数据和来自规则数据存储124的规则两者来作出本地服务器分配决定。
图3示出了用于将CDN的边缘数据中心处的服务器资源分配给由边缘数据中心服务的财产的示例方法300的流程图。方法300将参考计算机架构100的组件和数据来描述。
方法300包括根据趋势流量对财产进行排序的动作(动作302)。动作302可包括，基于近似实时数据，通过趋势流量在边缘数据中心处对多个财产进行排序的动作。例如，负载平衡器代理104a可将来自NRT数据存储112的NRT数据与来自规则数据存储124的规则进行比较，以确定在边缘数据中心102处一个或多个财产正在经受的流量模式的类型。负载平衡器代理104a可接着将正在经历流量激增的财产(例如以优先级降序)进行排序并将它们置于经排序的财产列表中。方法300的其余部分可接着根据经排序的财产列表作出资源分配分派，使得激增的财产在非激增财产之前被分配服务器资源106a。
方法300还包括在经排序财产列表中选择下一个财产的动作(动作304)以及为所选择的财产选择下一个分区的动作(动作306)。例如，负载平衡器代理104a可在经排序的财产列表中选择具有最大趋势流量的财产，并接着选择那个财产被分配的第一分区。
方法300还包括为所选分区中的所选择的财产计算服务器需求的动作(动作308)。动作308可包括基于从长期趋势中发展的一个或多个规则为在边缘数据中心处经排序的多个财产的至少一个财产分配服务器资源的动作，包括为在边缘数据中心处的分区中的至少一个财产计算服务器需求。例如，动作308可包括负载平衡器代理104a基于趋势流量改变财产的负载类型并基于新的负载类型为财产确定服务器需求。
在一些实施例中，基于诸如财产的过去流量模式(例如，如后面结合孵化描述的)、手动分派、或来自客户的指定，财产可被分派规则内的一般负载类型。例如，每个财产可在每个pop中基于其在那个pop处的典型客户机负载根据“T恤尺寸”(例如，S,M,L,XL)来分类。因此，在一个实施例中，动作308可包括负载平衡器代理使用NRT数据来确定当前趋势流量将导致财产达到将导致在pop处负载类型增加(例如从L到XL)或减少的点。基于对财产需要负载类型增加/减少的确定，负载平衡器代理可在pop向财产分派新负载类型。接着，负载平衡器代理可基于新负载类型为财产计算新服务器需求。
计算新服务器需求可包括从各规则中检索新负载类型的财产的一般服务器需求。例如，规则可指定负载类型XL的财产的一般服务器需求，如表1所示：
财产负载类型 最小服务器需求 倍数
XL 20 10
表1
表1指定最小服务器需求和倍数。最小服务器需求是能够完成pop处的此类财产的100％需求的总的专用服务器的计数。倍数定义针对此类财产应当允许多少弹性余量。
计算新服务器需求还可包括计算财产的pop负载。例如，基于其池分派，财产可跨各pop来分配，如表2所示：
表2
此外，每个负载类型可对应于系数权重。例如，系数权重可以是如表3中指定的：
负载类型 权重
XL 5
L 3
S 1
表3
基于表1－3，负载平衡器代理可针对每个负载类型的财产计算服务器需求计数，如表4所示：
表4
负载平衡器代理可接着使用以下等式为所选分区中的所选财产计算分配百分比：
分配百分比＝((在一pop处的一负载类型的数量)*(来自表3的负载类型的权重))/(来自表4的总和)
例如，对于pop A，分配百分比可被计算如：(1*5)/22＝0.227或～22％。表5示出了每个pop中的财产1的分配百分比：
财产ID Pop ID 分配百分比
财产1 Pop A (1*5)/22＝～22％
财产1 Pop B (1*5)/22＝～22％
财产1 Pop C (1*5)/22＝～22％
财产1 Pop D (1*3)/22＝～14％
财产1 Pop E (1*3)/22＝～14％
财产1 Pop F (1*1)/22＝～5％
表5
最后，每个pop中的财产1的所需服务器的数量可使用以下等式来计算：
所需服务器数量＝(来自表1的最小服务器需求)*(来自表1的倍数)*(分配百分比)
例如，在pop A中的财产1需要20*10*22％＝44台服务器。因此，popA处的分区中的财产1的新服务器需求将是44台服务器。
在一些情况中，财产可被分派到两个或更多个重叠的池。在这样的情况中，负载平衡器代理可计算pop中的负载的池分区共享。例如，财产1可被分派到“北美池”和“国际池”两者，每个池被分派到至少一个公共pop。例如，表格6描绘了示例池分配方案，其中池被分派到至少一个公共pop：
池ID Pop ID 服务器计数
北美池 Pop A 80
北美池 Pop B 50
北美池 Pop C 20
国际池 Pop A 100
国际池 Pop G 50
国际池 Pop H 35
表6
在这个池分配方案中，对于总共在pop A处180台服务器，财产1被分派到作为北美池的一部分的pop A中的一个分区(80台服务器)，以及作为国际池的一部分的pop A中的另一个分区(100台服务器)。计算pop A中的分区共享可使用至少两个策略之一来完成：单纯分区分配或按比例分区分配。
通过使用单纯分区分配，负载平衡器代理可将pop中财产所需的服务器均匀分派给每个分区。例如，由于pop A中财产1需要44台服务器，负载平衡器代理可将服务器需求的一半(22台服务器)分派给对应于北美池的分区，并将服务器需求的一半(22台服务器)分派给对应于国际池的分区。
通过使用按比例分区分配，相反，负载平衡器代理可将pop中财产所需的服务器按比例地分派给每个分区。例如，对应于北美池的pop A处的分区具有对于pop A处的财产1潜在可用的～44％(80台服务器/180台服务器)的服务器，而对应于国际池的pop A处的分区具有对于pop A处的财产1潜在可用的～55％(100台服务器/180台服务器)的服务器。因此，由于pop A中财产1需要44台服务器，对于总的44台服务器，负载平衡器代理可将20台服务器需求(44台服务器的44％)按比例地分派给对应于北美池的分区，并将24台服务器需求(44台服务器的55％)按比例分派给对应于国际池的分区。
返回图3，方法300还包括向所选分区中的可用服务器分配财产需求的动作(动作310)。动作308可包括基于从长期趋势中发展的一个或多个规则为在边缘数据中心处经排序的多个财产的至少一个财产分配服务器资源的动作，包括将至少一个财产的服务器需求分配给分区中的一台或多台可用的服务器。例如，动作310可包括负载平衡器代理104a使用一个或多个不同准则将负载分摊分配到分区中的服务器。例如，在分配期间，负载平衡器代理104a可执行以下的一个或多个：(i)聚集服务器资源，(ii)考虑数据的粘性，或(iii)考虑财产的兼容性。
例如，动作308可包括排序和作为要根据资源聚集索引、高速缓存的数据索引的粘性，和兼容性索引的加权平均被分派到财产的候选的分区中服务器。例如，负载平衡器代理可为财产要被分派给的分区中的每个候选服务器计算加权平均，接着根据加权平均来排序那些服务器。经排序的服务器列表按次序提供最合适服务器以用于分派到财产。
资源聚集索引提供在服务器处剩余的可用资源的估计的指示，并可以以任何合适的方式被计算，用于估计服务器处的剩余资源。例如，负载平衡器代理可跟踪哪些财产被分配到分区中的哪些服务器，并给定这些财产的平均负载来估计每个服务器剩余可用资源。
高速缓存的数据的粘性的索引可指示数据已经被高速缓存在服务器多久了。例如，负载平衡器代理可跟踪高速缓存的数据在服务器处已经存活了多久。数据被高速缓存越久，粘性越有价值，因为这个数据将显得更有价值。
兼容性索引可提供服务器处的不同财产的兼容性(或不兼容性)分数。例如，负载平衡器代理可基于被分派到服务器的财产的兼容性来给服务器打分，而把针对不兼容财产的出现的罚分考虑在内。负载平衡器代理可使用兼容性索引来最小化不兼容财产分派。例如，由于主要使用网络I/O资源的财产可以与主要使用盘I/O资源的财产兼容，负载平衡器代理可将这些财产分派到同一服务器，同时避免将同样重度使用网络I/O和盘I/O的其它财产分派给那台服务器。
计算兼容性索引可包括：(i)从各规则获取预定义的不兼容财产类型和大小的罚分系数；(ii)使用来自各规则的兼容性矩阵来获得主存在服务器上的全部不兼容财产的列表；(iii)标识服务器上的财产的负载类型(例如，S、M、L、XL)以及它们出现在服务器上的频率；以及(iv)对于每个不兼容财产类型，将它们的罚分系数提升到频率的幂。计算兼容性索引(compatibility index)可用以下等式汇总：
compatibility index = ( Π i = 1 n c i f i ) * 100
其中：
n＝特定负载类型的不兼容财产计数，
c＝兼容性罚分系数，以及
f＝特定负载类型的不兼容财产的出现频率。
例如，表7表示示例兼容性矩阵，它可被定义在各规则中，指定哪些财产类型相互兼容：
类型1 类型2
T1 T2
T4 T1
T4 T2
T4 T3
表7
例如，财产类型T1可以是主要使用盘I/O的财产，而财产类型T2是主要使用网络I/O的财产。此外，表8表示各规则中定义的示例罚分系数，它指定特定大小的不兼容财产的罚分：
负载类型 兼容性罚分系数
XL 0.6
M 0.7
S 0.90
表8
如果，给定上面的兼容性索引，服务器要被分派三个不兼容的XL大小的财产，两个不兼容的M大小的财产，和一个不兼容的S大小的财产，则服务器的兼容性系数索引将使用上面的公式来计算如：(0.6)3*(0.7)2*(0.9)*100＝9.52％。
通过以最大化兼容性索引分数的方式作出服务器分派，负载平衡器代理可使兼容财产到服务器的分派最大化并更高效地使用服务器资源。
如前面所讨论的，负载平衡器代理可为财产要被分派给的分区中的每个候选服务器计算加权平均，并接着根据加权平均来排序那些服务器。例如，如果财产需要被分派到五个服务器的一分区，针对一个服务器的加权平均的计算可被如表9指定的来执行：
表9
对分区中的其它四个服务器也可以计算类似的加权平均。五个服务器可接着根据它们的加权平均值来排序。表10示出一个排序示例：
服务器ID 分数
1 70％
2 50％
3 50％
4 42％
5 38％
表10
财产可接着根据经排序的次序来被分派到服务器，具有更高分数的服务器更合适将财产分派给它们。
财产可通过更新财产到服务器的映射来被分派到服务器。在作出财产分派之后，负载平衡器代理可为所分派的服务器调整聚集资源索引以考虑将被新分派的财产使用的资源。
方法300还可包括处理服务器缺陷的动作(动作312)。在一些实例中，在一分区中pop可能不具有足够的服务器资源以完全将财产分派到可用服务器。当这个发生时，动作312可包括在pop处的负载平衡器代理请求一些负载由在其它pop处的服务器分摊。这进一步结合代理间负载平衡来描述。如果没有其它pop可处理所请求的负载，财产可被分派到在该pop处的同一服务器多次。动作312还可包括诸如向CDN管理员发出一个或多个警报。
方法300还包括确定针对经选择的财产是否存在更多分区的动作(动作314)以及确定在经排序的财产列表中是否存在更多财产的动作(动作316)。当存在更多分区和/或财产时，方法300可跳回到动作304和/或306，确保全部财产和分区被考虑并且任何合适的服务器分派被作出。
2.含优先权的代理间负载平衡
在一些实施例中，在边缘数据中心处的负载平衡器代理可(基于规则)确定在边缘数据中心处的负载条件已经达到指示过载的特定参数。当这个发生时，负载平衡器代理可接触在一个或多个其它边缘数据中心处的其它负载平衡器代理，以试图将在该边缘数据中心处的一些流量平衡到一个或多个其它边缘数据中心。例如，图1包括边缘数据中心102a和边缘数据中心102b之间的双箭头，指示负载平衡器代理104a和负载平衡器代理104b可相互通信(并与在其它边缘数据中心处的其它负载平衡器代理通信)。
图4示出了用于边缘数据中心处的负载平衡器代理将流量卸载到另一边缘数据中心的示例方法400的流程图。方法400将参考计算机架构100的组件和数据来描述。
方法400包括确定流量应当被卸载的动作(动作402)。动作402可包括确定在边缘数据中心处的流量应当被卸载到一个或多个其它边缘数据中心。例如，负载平衡器代理104a可从规则数据存储124中查阅业务规则以确定流量是否应当被卸载。在一些实施例中，业务规则也采取以下形式：使用任何合适的结构化语言(例如XML、C#、Java)，if<condition>then<action>(如果<条件>那么<动作>)。在一些实施例中，示例规则可包括：
如果代理发现pop中的资源消耗达70％，那么就尝试将25％的流量卸载到其它pop。
如果代理检测其pop的健康下降在30％－40％之间，那么就尝试将50％的流量卸载到其它pop。可根据NRT数据中的健康索引来测量健康，健康索引根据类似多少服务器在转/不转、多少服务器被加载等的因素给pop健康进行打分。
方法400还包括向其它边缘数据中心发送卸载请求的动作(动作404)。动作404可包括确定用于请求将流量卸载到其它边缘数据中心的优先级水平的动作。例如，负载平衡器代理104a可确定将流量卸载到其它边缘数据中心的紧急度，并据此确定优先级水平。在确定是否向负载平衡器代理104a出借资源时，其它负载平衡器代理可使用该优先级。在一些实施例中，优先级水平可包括在表11中指定的示例：
表11
动作404还可包括向每个其它边缘数据中心发送卸载请求的动作，每个卸载请求指示所确定的优先级水平。例如，负载平衡器代理104a可向在边缘数据中心102b处的负载平衡器代理104b发送卸载请求。负载平衡器代理104a还可向在未描绘的其它边缘数据中心处的一个或多个其它负载平衡器代理发送卸载请求。当一负载平衡器代理向多个其它负载平衡器代理发送卸载请求时，该负载平衡器代理可以以定时的、异步的方式来这样做。
方法400还包括向其它边缘数据中心发送卸载请求的动作(动作404)。动作404可包括从一个或多个其它边缘数据中心接收一个或多个回答的动作，包括指示资源可由该负载平衡器代理使用的一个或多个回答。例如，负载平衡器代理104a可从它向它们发送卸载请求的一个或多个边缘数据中心接收回答。回答可指示其它边缘数据中心具有可由该负载平衡器代理用于卸载流量的资源。在一些实施例中，回答包括在其它边缘数据中心处的可用的服务器的列表。在一些实施例中，回答指示资源保证有效并且被保留以供负载平衡器代理104a使用达预定或协商的时间量。动作404还可包括接收指示资源不能供负载平衡器代理使用(即，协助是不可能的)的一个或多个回答。
方法400还包括向至少一个边缘数据卸载流量的动作(动作408)。动作408可包括对一个或多个回答进行排序以标识至少一个边缘数据中心供卸载流量的动作。例如，如果负载平衡器代理104a从一个以上边缘数据中心接收肯定回答，负载平衡器代理104a可将这些回答进行排序以确定流量应当被卸载到哪个(些)边缘数据中心。在一些实施例中，对回答排序包括为每个数据中心计算各因素的加权平均。因素可包括，例如，边缘数据中心的(物理的或网络的)距离、将流量卸载到该边缘数据中心的花费(例如，针对带宽的货币花费)、和/或已经在该边缘数据中心成为可用的资源。例如，即使一个边缘数据中心相对于其它可用边缘数据中心具有更高的货币花费，依然可能希望使用那个边缘数据中心，因为它相比其它可用边缘数据中心可提供更多数量的资源和/或因为它比其它可用边缘数据中心更近。
动作408可包括向至少一个已标识的边缘数据中心卸载流量的动作。例如，一旦想要的边缘数据中心被选择，负载平衡器代理104a可向所标识的边缘数据中心发送想要使用的服务器的列表连同资源清单。负载平衡器代理104a可将一些流量卸载到一个边缘数据中心，并将其余的流量卸载到一个或多个其它边缘数据中心。
如果一个边缘数据中心已经使得资源对负载平衡器代理104a可用，且负载平衡器代理104a将不使用那些资源(例如，因为它选择使用在另一个边缘数据中心处的资源)，负载平衡器代理104可通知该边缘数据中心那些资源可被释放。例如，负载平衡器代理104a可通知一边缘数据中心在该边缘数据中心处的成为可用/保留的一些或全部服务器可被释放。
因此，当边缘数据中心确定它进入或接近过载情况时，方法400允许该边缘数据中心利用在其它边缘数据中心处的资源。
3.在中央服务和规则数据库之间的反馈回路
如先前讨论的，负载平衡器服务122，在一些实施例中，是与长期趋势数据存储116和规则数据存储124进行双向通信的。因此，负载平衡器服务122可被配置来参与到反馈回路以基于长期趋势来自我评估和自我改善规则。通过将来自长期趋势数据存储116的长期数据用作主要输入，负载平衡器服务122可确定针对配置参数和在规则数据存储124中的业务规则的经优化的设置。
在一些实施例中，反馈回路显式地发生。例如，当对配置值(例如，兼容性罚分、排序准则权重)作出改变时，负载平衡器服务122可为CDN、为pop、为财产等作出性能数据快照。接着，负载平衡器服务122可随后分析该快照以确定对配置值的改变对相关组件的性能的影响。如果存在由改变引起的CDN中的性能下降，警报可被生成和/或配置值可被自动调整(例如，恢复原状)。
在附加或替换的实施例中，反馈回路隐式地发生。由于日志数据可(例如被趋势聚集器118)持续聚集和(例如被负载平衡器服务122)分析，并且由于负载平衡器服务122被配置来识别并适应日志数据中的改变(例如，每天地)，对财产的负载和/或由财产消费的资源的类型的改变应当最终被考虑。
反馈回路可在实况的和模拟的日志两者上工作，并且可在实况的和模拟的配置参数/规则两者上操作。表12指定反馈回路的隐式和显式元素如何在每种类型上工作。
表12
4.孵化
一些实施例包括一个或多个孵化池的使用。通常，当财产首先被添加到CDN时，CDN可将财产分派到孵化池。当在孵化池中时，财产被分析以确定财产的一个或多个属性，诸如T恤尺寸(例如S、M、L、XL)以及流量模式(例如，峰值流量周期，低流量周期等)。一旦财产已经在孵化池的上下文内被分析，该财产就可被分派到更一般的池。
图5示出了用于使用孵化池来确定一个或多个财产的属性的示例方法的流程图。方法500将参考计算机架构100的组件和数据来描述。
方法500包括确定孵化周期的动作(动作502)。动作502可包括基于对财产的负载大小和流量类型的估计并基于定义被添加到孵化池的财产的最小和最大孵化时间的一个或多个规则来确定孵化周期的动作。例如，负载平衡器服务122或CDN内的另一个管理系统可为要被添加到该CDN的财产确定孵化周期。确定孵化周期可基于(例如从客户)所提供的关于财产的信息，并基于规则数据存储124中的一般业务规则。
在一些实施例中，确定孵化周期是基于可影响财产在孵化中花费的时间的量的客户事实索引(CTI)。如果客户具有高的CTI，意味着CDN具有关于客户如何特征化财产的高级别的信任，那么CDN可将那个客户的新添加的财产在孵化中留较短时间周期。相反，如果客户具有低CTI，意味着CDN具有关于客户如何特征化财产的低级别的信任，那么CDN可将那个客户的新添加的财产在孵化中留较长时间周期。
例如，当客户初次将一个财产登载到CDN时，CDN可询问客户关于该财产的一个或多个问题。这些问题可被设计来帮助CDN计算财产的属性的一般近似值(例如，负载大小和流量类型)。如果这是客户登载的第一个财产，CDN可对客户提供的回答应用相对低级别的信任，并将该财产在孵化中留较长时间段。
在财产进入孵化之后，CDN可基于对财产的实际使用的观察来计算先前估计的属性。如果计算得的属性类似于基于客户输入近似的那些，那么该客户可被分派高CTI。如果计算得的属性与基于客户输入近似的那些不类似，那么该客户可被分派低CTI。CDN可随时间，诸如在财产已经被释放到生产池之后通过重新计算属性并因此更新CTI来细化客户的CTI。
在一些实施例中，CTI是表示为百分比的合成索引。CTI可基于客户的说出关于财产特征的“事实”的跟踪记录。CTI也可以基于财产的实际性能。客户的跟踪记录和财产的实际性能可被不同地加权(例如，客户的事实的权重为1，而实际财产性能的权重为2)。例如，如果客户具有80％的历史CTI，并在新财产孵化期间，实际性能是客户估计的90％，新CTI可被计算为(80+(90*2))/3＝～86％。
如所指示的，确定孵化周期是基于规则数据存储124中的业务规则。例如，规则可指定最小孵化周期和最大孵化周期。基于CTI，最终孵化周期可在最小和最大之间。例如，如果客户具有为90％或更大的CTI，那么客户的新财产可在孵化中仅被留最小周期。如果客户具有少于90％的CTI，那么客户的新财产可在孵化中被留大于最小周期，并随CTI分数变低接近最大周期。
方法500还包括向孵化池添加财产的动作(动作504)。动作504可包括向孵化池添加财产的动作，包括将孵化池的一个或多个服务器资源分配到该财产。例如，负载平衡器服务122或CDN内的另一个管理系统可将该财产分派到被设置为与孵化池隔开的指定池。如此，财产可被分派到在边缘数据中心/pop处的对应分区。
动作504还可包括为所确定的孵化周期分析财产的负载和流量模式。例如，在其在孵化池中期间，负载平衡器服务122可分析客户机负载模式、财产提供的内容的类型、在服务客户机时在边缘数据中心的服务器处使用的资源的类型等等。动作504还可包括基于向孵化池添加财产来确定该财产的负载大小或流量类型的动作。例如，通过使用在孵化期间收集的数据(例如，客户机负载模式、财产提供的内容的类型、在边缘数据中心的服务器处使用的资源的类型)，CDN可计算财产的大小和流量类型，并将此信息存储在规则数据存储124中。
方法500还可包括处理孵化溢出的动作(动作506)。例如，规则数据存储124中的规则可指定条件，在该条件下新孵化的财产可溢出其被分配的资源并使用附加资源。在一个示例中，规则可指定VIP客户的财产可自动被允许溢出，并且该溢出默认对非VIP财产禁止。在另一个示例中，规则可指定如果财产展现了超过了特定的阈值的持续的增长，对该财产溢出可被允许。规则还可为停止溢出指定条件。
动作506可包括确定财产超出一个或多个被分配的服务器资源并将一个或多个附加资源分配到该财产的动作。例如，负载平衡器服务122或CDN内的另一个管理系统可确定财产成长到大于其被分配的资源并因此它被允许溢出。作为响应，CDN可分配给该财产该孵化池内的更多资源，溢出到另一个孵化池内的资源，和/或溢出到非孵化池内的资源(例如针对VIP客户)。
方法500还可包括执行孵化后步骤的动作(动作508)。例如，在孵化周期结束后，可确定已收集到关于该财产的并不足够的信息。因此，对该财产的孵化周期可被延长。在另一个示例中，该财产的客户的CTI索引可被更新，如上面描述的。在又一个示例中，可为财产在孵化阶段花费的时间向客户开具账单，和/或收费规则可基于在孵化期间收集的信息来更新。
方法500还可包括对财产加压。例如，当财产在孵化中时，CDN可对财产运行压力测试负载。这样做可帮助确定在极端负载情形期间财产的行为模式以及财产对CDN的影响。在一些实施例中，如果客户选择经受压力测试，他们可被给予令人满意的收费待遇。例如，在登载期间，可向客户提供对执行针对财产的压力测试的选项。客户可能能够指定压力测试参数，诸如压力测试时间段，用作压力测试的一部分的综合测试数据的类型，等。压力测试参数的类型和边界可在规则中被定义。CDN可使用CDN中未使用的或正在使用的资源、CDN中的专用资源、和/或从CDN中分离的资源来生成压力负载。
因此，在将财产释放到一般CDN资源上之前，孵化可帮助获得关于财产的数据并定义围绕财产的规则。这样做可帮助细化CDN的与客户的关系，并保护CDN资源的完整性。
尽管用结构特征和/或方法动作专用的语言描述了本主题，但可以理解，所附权利要求书中定义的主题不必限于上述特征或动作或上述动作的次序。更具体而言，上述特征和动作是作为实现权利要求的示例形式而公开的。
本发明的各实施例可包括或利用专用或通用计算机系统，该专用或通用计算机系统包括诸如举例而言一个或多个处理器和系统存储器的计算机硬件，如以下更详细讨论的。本发明范围内的各实施例还包括用于承载或存储计算机可执行指令和/或数据结构的物理和其他计算机可读介质。这样的计算机可读介质可以是可由通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令和/或数据结构的计算机可读介质是计算机存储介质。承载计算机可执行指令和/或数据结构的计算机可读介质是传输介质。由此，作为示例而非限制，本发明的各实施例可包括至少两种显著不同的计算机可读介质：计算机存储介质和传输介质。
存储计算机可执行指令和/或数据结构的计算机存储介质是物理存储介质。物理存储介质包括可记录型存储设备，诸如RAM、ROM、EEPROM、固态驱动器(“SSD”)、闪存、相变存储器(“PCM”)、光盘存储、磁盘存储或其他磁存储设备、或可用于存储计算机可执行指令或数据结构形式的程序代码装置且可由通用或专用计算机系统访问的任何其他物理存储介质。
传输介质可包括可用于携带计算机可执行指令或数据结构形式的程序代码并可由通用或专用计算机系统访问的网络和/或数据链路。“网络”被定义为使得电子数据能够在计算机系统和/或模块和/或其它电子设备之间传输的一个或多个数据链路。当信息通过网络或另一个通信连接(硬连线、无线、或者硬连线或无线的组合)传输或提供给计算机系统时，该计算机系统将该连接视为传输介质。上述的组合也应当包括在计算机可读介质的范围内。
此外，在到达各种计算机系统组件之后，计算机可执行指令或数据结构形式的程序代码可从传输介质自动传输到计算机存储介质(或反之亦然)。例如，通过网络或数据链路接收到的计算机可执行指令或数据结构可被缓存在网络接口模块(例如，“NIC”)内的RAM中，然后最终被传输到计算机系统RAM和/或计算机系统处的较不易失性的计算机存储介质。因而，应当理解，计算机存储介质可被包括在还利用(或甚至主要利用)传输介质的计算机系统组件中。
计算机可执行指令例如包括，当在一个或多个处理器处执行时使通用计算机系统、专用计算机系统、或专用处理设备执行某一功能或某组功能的指令和数据。计算机可执行指令可以是例如二进制代码、诸如汇编语言之类的中间格式指令、或甚至源代码。
本领域的技术人员将理解，本发明可以在具有许多类型的计算机系统配置的网络计算环境中实践，这些计算机系统配置包括个人计算机、台式计算机、膝上型计算机、消息处理器、手持式设备、多处理器系统、基于微处理器的或可编程消费电子设备、网络PC、小型计算机、大型计算机、移动电话、PDA、平板、寻呼机、路由器、交换机等等。本发明也可在其中通过网络链接(或者通过硬连线数据链路、无线数据链路，或者通过硬连线和无线数据链路的组合)的本地和远程计算机系统两者都执行任务的分布式系统环境中实施。如此，在分布式系统环境中，计算机系统可包括多个组成部分计算机系统。在分布式系统环境中，程序模块可以位于本地和远程存储器存储设备二者中。
本领域技术人员还将理解本发明可在云计算环境中实践。云计算环境可以是分布式的，但这不是必须的。在分布时，云计算环境可以国际性地分布在一个组织内，和/或具有跨多个组织拥有的组件。在该描述和下面的权利要求书中，“云计算”被定义为用于允许对可配置计算资源(例如，网络、服务器、存储、应用和服务)的共享池的按需网络访问的模型。“云计算”的定义不限于可从这样的模型(在被合适地部署时)中获得的任何其他多个优点。
云计算模型可由各种特性组成，诸如按需自服务、广泛网络访问、资源池、快速灵活性、和所测定的服务等。云计算模型还可形成各种服务模型，诸如例如软件即服务(SaaS)、平台即服务(PaaS)以及基础结构即服务(IaaS)。云计算模型还可以使用不同的部署模型来部署，诸如私有云、社区云、公共云和混合云等。
一些实施例，诸如云计算环境，可包括一系统，该系统包括一个或多个主机，每个主机能够运行一个或多个虚拟机。在操作期间，虚拟机模拟可操作的计算系统，支持一个操作系统并且也许还支持一个或多个其他应用。在一些实施例中，每个主机包括管理程序，该管理程序使用从虚拟机的视角抽象出的物理资源来模拟虚拟机的虚拟资源。管理程序还提供各虚拟机之间的适当的隔离。因此，从任何给定的虚拟机的角度来看，管理程序提供该虚拟机正与物理资源对接的错觉，即便该虚拟机仅仅与物理资源的表象(例如，虚拟资源)对接。物理资源的示例包括处理容量、存储器、盘空间、网络带宽、媒体驱动器等等。
本发明可具体化为其它具体形式而不背离其精神或本质特征。所描述的实施例在所有方面都应被认为仅是说明性而非限制性的。因此，本发明的范围由所附权利要求书而非前述描述指示。落入权利要求书的等效方案的含义和范围内的所有改变都被权利要求书的范围所涵盖。

Claims (10)

1.一种在包括一个或多个处理器和系统存储器的计算机系统处的用于使用孵化池确定财产的一个或多个属性的方法，所述方法包括：
所述计算机系统基于对所述财产的负载大小和的流量类型的估计并基于定义被添加到孵化池的财产的最小和最大孵化时间的一个或多个规则来确定孵化周期的动作；
所述计算机系统向所述孵化池添加所述财产，包括将所述孵化池的一个或多个服务器资源分配到所述财产的动作；
所述计算机系统为所述财产针对所确定的孵化周期分析负载和流量模式的动作；以及
所述计算机系统基于向所述孵化池添加所述财产为所述财产确定负载大小或流量类型中的一个或多个的动作。
2.如权利要求1所述的方法，其特征在于，确定所述孵化周期包括基于客户事实索引(CTI)来选择落在定义的最小和最大时间段之间的时间段。
3.如权利要求2所述的方法，其特征在于，所述CTI是基于客户在提供至少一个财产的一个或多个属性的估计中的精确度来计算的。
4.如权利要求1所述的方法，其特征在于，还包括：
所述计算机系统确定所述财产超出一个或多个被分配的服务器资源并将一个或多个附加资源分配到所述财产的动作。
5.如权利要求1所述的方法，其特征在于，还包括：
所述计算机系统确定需要有关所述财产的附加信息的动作；以及
所述计算机系统延长所述孵化周期的动作。
6.在内容递送网络(CDN)中的边缘数据中心处的负载平衡器代理计算机系统处，所述负载平衡器代理计算机系统包括一个或多个处理器和系统存储器，一种由所述负载平衡器代理将流量卸载到所述CDN中的一个或多个边缘数据中心的方法，所述方法包括：
所述负载平衡器代理确定在所述边缘数据中心处的流量应当被卸载到其它边缘数据中心的动作；
所述负载平衡器代理确定用于请求将流量卸载到其它边缘数据中心的优先级水平的动作；
所述负载平衡器代理将卸载请求发送到其它边缘数据中心的每一个的动作，每一个卸载请求指示所确定的优先级水平；
所述负载平衡器代理从其它边缘数据中心的一个或多个接收一个或多个回答，包括指示资源可由所述负载平衡器代理使用的一个或多个回答的动作；
所述负载平衡器代理将所述一个或多个回答进行排序以标识至少一个边缘数据中心用于卸载流量的动作；以及
所述负载平衡器代理将流量卸载到所述至少一个所标识的边缘数据中心的动作。
7.如权利要求6所述的方法，其特征在于，指示资源可由所述负载平衡器代理使用的所述一个或多个回答包括指示资源被保留以供所述负载平衡器代理使用的一个或多个回答。
8.如权利要求6所述的方法，其特征在于，排序所述一个或多个回答以标识至少一个边缘数据中心供卸载流量包括根据以下排序所述一个或多个回答：发送每个回答的所述边缘数据中心的距离的一个或多个、使用发送每个回答的所述边缘数据中心的花费，或在发送每个回答的所述边缘数据中心处可用的多个资源。
9.如权利要求6所述的方法，其特征在于，从一个或多个其它边缘数据中心接收一个或多个回答包括接收多个回答，每个回答来自不同的边缘数据中心。
10.一种计算机系统，包括：
一个或多个处理器；
系统存储器；以及
存储有计算机可执行指令的一个或多个计算机可读存储介质，所述计算机可执行指令在由所述一个或多个处理器执行时使得所述计算系统执行一种用于使用孵化池确定财产的一个或多个属性的方法，所述以下：
基于对所述财产的负载大小和流量类型的估计并基于定义被添加到孵化池的财产的最小和最大孵化时间的一个或多个规则来确定孵化周期；
将所述财产添加到所述孵化池，包括将所述孵化池的一个或多个服务器资源分配给所述财产；
为所述财产针对所确定的孵化周期来分析负载和流量模式；
确定所述财产超过所述一个或多个所分配的服务器资源；
将一个或多个附加资源分配给所述财产，包括溢出到来自非孵化池的一个或多个资源；以及
基于孵化所述财产，为所述财产确定负载大小或流量类型中的一个或多个。
CN201380057086.5A 2012-11-01 2013-11-01 云中的cdn流量管理 Active CN104756467B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/666,651 2012-11-01
US13/666,651 US9374276B2 (en) 2012-11-01 2012-11-01 CDN traffic management in the cloud
PCT/US2013/067907 WO2014071094A2 (en) 2012-11-01 2013-11-01 Cdn traffic management in the cloud

Publications (2)

Publication Number Publication Date
CN104756467A true CN104756467A (zh) 2015-07-01
CN104756467B CN104756467B (zh) 2018-07-03

Family

ID=49640154

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380057086.5A Active CN104756467B (zh) 2012-11-01 2013-11-01 云中的cdn流量管理

Country Status (5)

Country Link
US (2) US9374276B2 (zh)
EP (2) EP2915312B1 (zh)
CN (1) CN104756467B (zh)
BR (1) BR112015009474B1 (zh)
WO (1) WO2014071094A2 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108737500A (zh) * 2018-04-20 2018-11-02 青岛海尔科技有限公司 目标资源获取、提供方法、装置、存储介质与计算机设备
CN112948089A (zh) * 2021-03-22 2021-06-11 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心
US11451477B2 (en) * 2019-09-27 2022-09-20 Amazon Technologies, Inc. Load balanced access to distributed endpoints

Families Citing this family (102)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8028090B2 (en) 2008-11-17 2011-09-27 Amazon Technologies, Inc. Request routing utilizing client location information
US7991910B2 (en) 2008-11-17 2011-08-02 Amazon Technologies, Inc. Updating routing information based on client location
US8606996B2 (en) 2008-03-31 2013-12-10 Amazon Technologies, Inc. Cache optimization
US7970820B1 (en) 2008-03-31 2011-06-28 Amazon Technologies, Inc. Locality based content distribution
US7962597B2 (en) 2008-03-31 2011-06-14 Amazon Technologies, Inc. Request routing based on class
US8321568B2 (en) 2008-03-31 2012-11-27 Amazon Technologies, Inc. Content management
US8447831B1 (en) 2008-03-31 2013-05-21 Amazon Technologies, Inc. Incentive driven content delivery
US8601090B1 (en) 2008-03-31 2013-12-03 Amazon Technologies, Inc. Network resource identification
US9407681B1 (en) 2010-09-28 2016-08-02 Amazon Technologies, Inc. Latency measurement in resource requests
US8122098B1 (en) 2008-11-17 2012-02-21 Amazon Technologies, Inc. Managing content delivery network service providers by a content broker
US8073940B1 (en) 2008-11-17 2011-12-06 Amazon Technologies, Inc. Managing content delivery network service providers
US8412823B1 (en) 2009-03-27 2013-04-02 Amazon Technologies, Inc. Managing tracking information entries in resource cache components
US8688837B1 (en) 2009-03-27 2014-04-01 Amazon Technologies, Inc. Dynamically translating resource identifiers for request routing using popularity information
US8756341B1 (en) 2009-03-27 2014-06-17 Amazon Technologies, Inc. Request routing utilizing popularity information
US8782236B1 (en) 2009-06-16 2014-07-15 Amazon Technologies, Inc. Managing resources using resource expiration data
US8397073B1 (en) 2009-09-04 2013-03-12 Amazon Technologies, Inc. Managing secure content in a content delivery network
US8433771B1 (en) 2009-10-02 2013-04-30 Amazon Technologies, Inc. Distribution network with forward resource propagation
US9495338B1 (en) 2010-01-28 2016-11-15 Amazon Technologies, Inc. Content distribution network
US8606922B1 (en) * 2010-09-27 2013-12-10 Amazon Technologies, Inc. Dynamic resource zone mapping
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US10097398B1 (en) 2010-09-28 2018-10-09 Amazon Technologies, Inc. Point of presence management in request routing
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US9003035B1 (en) 2010-09-28 2015-04-07 Amazon Technologies, Inc. Point of presence management in request routing
US8468247B1 (en) 2010-09-28 2013-06-18 Amazon Technologies, Inc. Point of presence management in request routing
US8452874B2 (en) 2010-11-22 2013-05-28 Amazon Technologies, Inc. Request routing processing
US10467042B1 (en) 2011-04-27 2019-11-05 Amazon Technologies, Inc. Optimized deployment based upon customer locality
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US9154551B1 (en) 2012-06-11 2015-10-06 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US9323577B2 (en) 2012-09-20 2016-04-26 Amazon Technologies, Inc. Automated profiling of resource usage
US9537973B2 (en) * 2012-11-01 2017-01-03 Microsoft Technology Licensing, Llc CDN load balancing in the cloud
US9374276B2 (en) 2012-11-01 2016-06-21 Microsoft Technology Licensing, Llc CDN traffic management in the cloud
US9307059B2 (en) * 2012-11-09 2016-04-05 Sap Se Retry mechanism for data loading from on-premise datasource to cloud
US9722882B2 (en) * 2012-12-13 2017-08-01 Level 3 Communications, Llc Devices and methods supporting content delivery with adaptation services with provisioning
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
US10397292B2 (en) 2013-03-15 2019-08-27 Divx, Llc Systems, methods, and media for delivery of content
US9294391B1 (en) 2013-06-04 2016-03-22 Amazon Technologies, Inc. Managing network computing components utilizing request routing
FR3023108A1 (fr) * 2014-06-30 2016-01-01 Orange Procede et dispositif d'orchestration de ressources
US10296973B2 (en) * 2014-07-23 2019-05-21 Fortinet, Inc. Financial information exchange (FIX) protocol based load balancing
CN106165359B (zh) 2014-10-17 2020-05-08 华为技术有限公司 数据流分发方法和设备
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10091096B1 (en) 2014-12-18 2018-10-02 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10033627B1 (en) 2014-12-18 2018-07-24 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
EP4220440A1 (en) 2015-03-16 2023-08-02 Liveperson, Inc. Resource prioritization and communication-channel establishment
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US9819567B1 (en) 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US9887932B1 (en) * 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US9887931B1 (en) * 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
US10097566B1 (en) 2015-07-31 2018-10-09 Amazon Technologies, Inc. Identifying targets of network attacks
US9774619B1 (en) 2015-09-24 2017-09-26 Amazon Technologies, Inc. Mitigating network attacks
US10270878B1 (en) 2015-11-10 2019-04-23 Amazon Technologies, Inc. Routing for origin-facing points of presence
US10257307B1 (en) 2015-12-11 2019-04-09 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10049051B1 (en) 2015-12-11 2018-08-14 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10348639B2 (en) 2015-12-18 2019-07-09 Amazon Technologies, Inc. Use of virtual endpoints to improve data transmission rates
US9948704B2 (en) 2016-04-07 2018-04-17 International Business Machines Corporation Determining a best fit coordinator node in a database as a service infrastructure
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10749782B2 (en) * 2016-09-10 2020-08-18 Splunk Inc. Analyzing servers based on data streams generated by instrumented software executing on the servers
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10372499B1 (en) 2016-12-27 2019-08-06 Amazon Technologies, Inc. Efficient region selection system for executing request-driven code
US10831549B1 (en) * 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10440096B2 (en) 2016-12-28 2019-10-08 Intel IP Corporation Application computation offloading for mobile edge computing
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10498795B2 (en) 2017-02-17 2019-12-03 Divx, Llc Systems and methods for adaptive switching between multiple content delivery networks during adaptive bitrate streaming
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
US10742593B1 (en) 2017-09-25 2020-08-11 Amazon Technologies, Inc. Hybrid content request routing system
US10938736B2 (en) * 2017-10-18 2021-03-02 Futurewei Technologies, Inc. Dynamic allocation of edge computing resources in edge computing centers
US10951735B2 (en) 2017-11-07 2021-03-16 General Electric Company Peer based distribution of edge applications
WO2019123273A1 (en) * 2017-12-18 2019-06-27 Telefonaktiebolaget Lm Ericsson (Publ) Virtual edge node as a service
US10616340B2 (en) * 2018-02-23 2020-04-07 Standard Cognition, Corp. Distributed computing of large data by selecting a computational resource of a remote server based on selection policies and data information wherein the selections policies are associated with location constraints, time constraints, and data type constraints
US10855753B2 (en) 2018-02-23 2020-12-01 Standard Cognition, Corp. Distributed computing of vehicle data by selecting a computation resource of a remote server that satisfies a selection policy for meeting resource requirements according to capability information
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
CN108449281B (zh) * 2018-03-26 2020-12-08 北京交通大学 网络流量协同卸载方法及协同卸载控制器
US10791168B1 (en) 2018-05-21 2020-09-29 Rafay Systems, Inc. Traffic aware network workload management system
CN108965906B (zh) * 2018-05-28 2020-12-29 安徽维德工业自动化有限公司 一种基于云存储服务器的视频存储方法
EP3815339A1 (en) * 2018-07-24 2021-05-05 Huawei Technologies Co., Ltd. Edge computing topology information exposure
EP3857381B1 (en) 2018-10-26 2023-07-12 VMware, Inc. Collecting samples hierarchically in a datacenter
US11019060B2 (en) 2018-11-01 2021-05-25 Giocasters, Llc Methods and systems for providing a customized network
US10331462B1 (en) * 2018-11-06 2019-06-25 Cloudflare, Inc. Cloud computing platform that executes third-party code in a distributed cloud computing network
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US10798635B2 (en) * 2018-12-03 2020-10-06 At&T Intellectual Property I, L.P. Mobile edge computing for data network traffic
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
US11902092B2 (en) 2019-02-15 2024-02-13 Samsung Electronics Co., Ltd. Systems and methods for latency-aware edge computing
US11159429B2 (en) 2019-03-26 2021-10-26 International Business Machines Corporation Real-time cloud container communications routing
US11290358B2 (en) 2019-05-30 2022-03-29 Vmware, Inc. Partitioning health monitoring in a global server load balancing system
US11134053B2 (en) 2019-07-17 2021-09-28 International Business Machines Corporation Determining cache time to live in an object storage system
CN110995802A (zh) * 2019-11-22 2020-04-10 北京奇艺世纪科技有限公司 任务的处理方法和装置、存储介质及电子装置
KR102389665B1 (ko) * 2019-11-25 2022-04-25 경희대학교 산학협력단 다중 통신 서비스에서 에너지 효율적인 통신 및 계산 자원 할당 프레임워크 구축 장치 및 방법
US11233768B1 (en) * 2020-09-30 2022-01-25 Akamai Technologies, Inc. CDN configuration tuning based on domain scan analysis
US11445012B2 (en) * 2020-11-25 2022-09-13 Seagate Technology Llc Proactive load balancer for data storage system
CN112702217B (zh) * 2021-03-23 2021-06-18 北京视界云天科技有限公司 带宽流量调度方法、装置及存储介质
CN113205808A (zh) * 2021-04-27 2021-08-03 无锡星凝互动科技有限公司 一种基于ai咨询云计算搭建方法及系统
US11811861B2 (en) * 2021-05-17 2023-11-07 Vmware, Inc. Dynamically updating load balancing criteria
US11799824B2 (en) 2021-06-14 2023-10-24 Vmware, Inc. Method and apparatus for enhanced client persistence in multi-site GSLB deployments
US11595264B1 (en) * 2021-09-17 2023-02-28 Microsoft Technology Licensing, Llc Provisioning edge backhauls for dynamic workloads
CN114553705A (zh) * 2022-02-18 2022-05-27 平安国际智慧城市科技股份有限公司 服务器动态扩容方法、装置、电子设备及存储介质
US11936757B1 (en) 2022-04-29 2024-03-19 Rafay Systems, Inc. Pull-based on-demand application deployment to edge node
US11895182B1 (en) 2023-01-23 2024-02-06 Bank Of America Corporation Systems, methods, and apparatuses for dynamically determining data center transmissions by implementing load balancers in an electronic network

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110209156A1 (en) * 2010-02-22 2011-08-25 Box Julian J Methods and apparatus related to migration of customer resources to virtual resources within a data center environment

Family Cites Families (78)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6625795B1 (en) 1998-06-29 2003-09-23 Xilinx, Inc. Method and apparatus for placement of input-output design objects into a programmable gate array
US7590739B2 (en) * 1999-11-22 2009-09-15 Akamai Technologies, Inc. Distributed on-demand computing system
US8204082B2 (en) 2000-06-23 2012-06-19 Cloudshield Technologies, Inc. Transparent provisioning of services over a network
US7032031B2 (en) 2000-06-23 2006-04-18 Cloudshield Technologies, Inc. Edge adapter apparatus and method
US7114008B2 (en) 2000-06-23 2006-09-26 Cloudshield Technologies, Inc. Edge adapter architecture apparatus and method
US7716367B1 (en) * 2000-07-20 2010-05-11 Akamai Technologies, Inc. Network performance monitoring in a content delivery service
US7274658B2 (en) 2001-03-01 2007-09-25 Akamai Technologies, Inc. Optimal route selection in a content delivery network
US20020143798A1 (en) 2001-04-02 2002-10-03 Akamai Technologies, Inc. Highly available distributed storage system for internet content with storage site redirection
US20020194324A1 (en) 2001-04-26 2002-12-19 Aloke Guha System for global and local data resource management for service guarantees
US6944678B2 (en) 2001-06-18 2005-09-13 Transtech Networks Usa, Inc. Content-aware application switch and methods thereof
US7047315B1 (en) 2002-03-19 2006-05-16 Cisco Technology, Inc. Method providing server affinity and client stickiness in a server load balancing device without TCP termination and without keeping flow states
US7133905B2 (en) 2002-04-09 2006-11-07 Akamai Technologies, Inc. Method and system for tiered distribution in a content delivery network
JP2003333050A (ja) * 2002-05-10 2003-11-21 Matsushita Electric Ind Co Ltd データ送信方法
US7395355B2 (en) 2002-07-11 2008-07-01 Akamai Technologies, Inc. Method for caching and delivery of compressed content in a content delivery network
US7136922B2 (en) 2002-10-15 2006-11-14 Akamai Technologies, Inc. Method and system for providing on-demand content delivery for an origin server
US7334032B2 (en) * 2002-12-04 2008-02-19 International Business Machines Corporation System for allocating storage performance resource
US7660896B1 (en) 2003-04-15 2010-02-09 Akamai Technologies, Inc. Method of load balancing edge-enabled applications in a content delivery network (CDN)
US20070061441A1 (en) 2003-10-08 2007-03-15 Landis John A Para-virtualized computer system with I/0 server partitions that map physical host hardware for access by guest partitions
US20050149940A1 (en) * 2003-12-31 2005-07-07 Sychron Inc. System Providing Methodology for Policy-Based Resource Allocation
US7941556B2 (en) * 2005-02-23 2011-05-10 At&T Intellectual Property I, Lp Monitoring for replica placement and request distribution
US20060195578A1 (en) * 2005-02-28 2006-08-31 Fujitsu Limited Resource allocation method for network area and allocation program therefor, and network system
US7853953B2 (en) * 2005-05-27 2010-12-14 International Business Machines Corporation Methods and apparatus for selective workload off-loading across multiple data centers
JP2007183883A (ja) 2006-01-10 2007-07-19 Fujitsu Ltd 資源計画作成プログラム、該プログラムを記録した記録媒体、資源計画作成装置、および資源計画作成方法
JP5092374B2 (ja) 2006-12-01 2012-12-05 富士通株式会社 データセンタ及びデータ転送方法
US8244827B2 (en) 2007-12-19 2012-08-14 International Business Machines Corporation Transferring a logical partition (‘LPAR’) between two server computing devices based on LPAR customer requirements
GB2456026A (en) * 2007-12-26 2009-07-01 Contendo Inc CDN balancing and sharing platform
JP5256744B2 (ja) 2008-01-16 2013-08-07 日本電気株式会社 資源割当てシステム、資源割当て方法及びプログラム
US8347307B2 (en) 2008-03-12 2013-01-01 International Business Machines Corporation Method and system for cost avoidance in virtualized computing environments
CA2720353C (en) 2008-04-04 2016-01-19 Level 3 Communications, Llc Handling long-tail content in a content delivery network (cdn)
US9762692B2 (en) 2008-04-04 2017-09-12 Level 3 Communications, Llc Handling long-tail content in a content delivery network (CDN)
US8180896B2 (en) * 2008-08-06 2012-05-15 Edgecast Networks, Inc. Global load balancing on a content delivery network
US9996572B2 (en) 2008-10-24 2018-06-12 Microsoft Technology Licensing, Llc Partition management in a partitioned, scalable, and available structured storage
US20100157841A1 (en) * 2008-12-18 2010-06-24 Sarat Puthenpura Method and apparatus for determining bandwidth requirement for a network
US20100223364A1 (en) 2009-02-27 2010-09-02 Yottaa Inc System and method for network traffic management and load balancing
WO2010099513A2 (en) 2009-02-27 2010-09-02 Coach Wei Adaptive network with automatic scaling
US8194680B1 (en) 2009-03-11 2012-06-05 Amazon Technologies, Inc. Managing communications for modified computer networks
US8612622B2 (en) 2009-10-02 2013-12-17 Limelight Networks, Inc. Real-time message queuing for a processing ring
US8849975B2 (en) * 2010-02-02 2014-09-30 Webtrends Inc. Method and system for test-duration estimation
US8650299B1 (en) 2010-02-03 2014-02-11 Citrix Systems, Inc. Scalable cloud computing
WO2011096865A1 (en) 2010-02-05 2011-08-11 Telefonaktiebolaget Lm Ericsson (Publ) Method and node entity for enhancing content delivery network
US9282097B2 (en) 2010-05-07 2016-03-08 Citrix Systems, Inc. Systems and methods for providing single sign on access to enterprise SAAS and cloud hosted applications
US8719415B1 (en) 2010-06-28 2014-05-06 Amazon Technologies, Inc. Use of temporarily available computing nodes for dynamic scaling of a cluster
US20120102154A1 (en) 2010-10-26 2012-04-26 Futurewei Technologies, Inc. Cloud-Based Transcoding Platform Systems and Methods
US20130179931A1 (en) 2010-11-02 2013-07-11 Daniel Osorio Processing, storing, and delivering digital content
US8499066B1 (en) 2010-11-19 2013-07-30 Amazon Technologies, Inc. Predicting long-term computing resource usage
US8533285B2 (en) * 2010-12-01 2013-09-10 Cisco Technology, Inc. Directing data flows in data centers with clustering services
US8863204B2 (en) 2010-12-20 2014-10-14 Comcast Cable Communications, Llc Cache management in a video content distribution network
US8863138B2 (en) 2010-12-22 2014-10-14 Intel Corporation Application service performance in cloud computing
US8849758B1 (en) 2010-12-28 2014-09-30 Amazon Technologies, Inc. Dynamic data set replica management
US10009315B2 (en) 2011-03-09 2018-06-26 Amazon Technologies, Inc. Outside live migration
US8978030B2 (en) 2011-04-07 2015-03-10 Infosys Limited Elastic provisioning of resources via distributed virtualization
US8806015B2 (en) 2011-05-04 2014-08-12 International Business Machines Corporation Workload-aware placement in private heterogeneous clouds
US8959526B2 (en) 2011-06-09 2015-02-17 Microsoft Corporation Scheduling execution of complementary jobs based on resource usage
CN104025553B (zh) 2011-07-14 2018-04-10 瑞典爱立信有限公司 移动云加速器中的优化引擎及相关方法
WO2013019913A1 (en) 2011-08-02 2013-02-07 Jadhav Ajay Cloud-based distributed persistence and cache data model
US9747592B2 (en) 2011-08-16 2017-08-29 Verizon Digital Media Services Inc. End-to-end content delivery network incorporating independently operated transparent caches and proxy caches
US8510807B1 (en) 2011-08-16 2013-08-13 Edgecast Networks, Inc. Real-time granular statistical reporting for distributed platforms
US9461881B2 (en) 2011-09-30 2016-10-04 Commvault Systems, Inc. Migration of existing computing systems to cloud computing sites or virtual machines
ES2402037B1 (es) 2011-10-13 2014-04-30 Telefónica, S.A. Método y sistema para realizar un proceso de adquisición de contenido distribuido para una red de distribución de contenido
US9769238B2 (en) 2011-11-02 2017-09-19 Akamai Technologies, Inc. Multi-domain configuration handling in an edge network server
US9274838B2 (en) 2011-12-22 2016-03-01 Netapp, Inc. Dynamic instantiation and management of virtual caching appliances
US9172591B2 (en) 2012-02-06 2015-10-27 Deepfield Networks System and method for management of cloud-based systems
US20140130055A1 (en) 2012-02-14 2014-05-08 Aloke Guha Systems and methods for provisioning of storage for virtualized applications
US9350671B2 (en) 2012-03-22 2016-05-24 Futurewei Technologies, Inc. Supporting software defined networking with application layer traffic optimization
US10365953B2 (en) 2012-05-01 2019-07-30 Red Hat, Inc. Tracking and utilizing facts about a node of a multi-tenant cloud hosting environment
US9363313B2 (en) * 2012-06-11 2016-06-07 Cisco Technology, Inc. Reducing virtual IP-address (VIP) failure detection time
US8626910B1 (en) 2012-06-19 2014-01-07 Edgecast Networks, Inc. Systems and methods for performing localized server-side monitoring in a content delivery network
US8930374B2 (en) * 2012-06-29 2015-01-06 Nokia Corporation Method and apparatus for multidimensional data storage and file system with a dynamic ordered tree structure
US8745267B2 (en) 2012-08-19 2014-06-03 Box, Inc. Enhancement of upload and/or download performance based on client and/or server feedback information
US20140068703A1 (en) 2012-08-28 2014-03-06 Florin S. Balus System and method providing policy based data center network automation
US20140067758A1 (en) 2012-08-28 2014-03-06 Nokia Corporation Method and apparatus for providing edge-based interoperability for data and computations
US9634922B2 (en) 2012-09-11 2017-04-25 Board Of Regents Of The Nevada System Of Higher Education, On Behalf Of The University Of Nevada, Reno Apparatus, system, and method for cloud-assisted routing
US9374276B2 (en) 2012-11-01 2016-06-21 Microsoft Technology Licensing, Llc CDN traffic management in the cloud
US9537973B2 (en) 2012-11-01 2017-01-03 Microsoft Technology Licensing, Llc CDN load balancing in the cloud
US9262323B1 (en) 2012-11-26 2016-02-16 Amazon Technologies, Inc. Replication in distributed caching cluster
US9317223B2 (en) 2012-12-17 2016-04-19 International Business Machines Corporation Method and apparatus for automated migration of data among storage centers
US9369541B2 (en) 2013-03-14 2016-06-14 Massachusetts Institute Of Technology Method and apparatus for implementing distributed content caching in a content delivery network
WO2015030756A1 (en) 2013-08-29 2015-03-05 Empire Technology Development Llc Cache partitioning in a multicore processor

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110209156A1 (en) * 2010-02-22 2011-08-25 Box Julian J Methods and apparatus related to migration of customer resources to virtual resources within a data center environment

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108737500A (zh) * 2018-04-20 2018-11-02 青岛海尔科技有限公司 目标资源获取、提供方法、装置、存储介质与计算机设备
CN108737500B (zh) * 2018-04-20 2022-02-25 青岛海尔科技有限公司 目标资源获取、提供方法、装置、存储介质与计算机设备
US11451477B2 (en) * 2019-09-27 2022-09-20 Amazon Technologies, Inc. Load balanced access to distributed endpoints
CN112948089A (zh) * 2021-03-22 2021-06-11 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心
CN112948089B (zh) * 2021-03-22 2024-04-05 福建随行软件有限公司 一种招投标请求的资源分发方法及数据中心

Also Published As

Publication number Publication date
WO2014071094A3 (en) 2014-06-26
WO2014071094A2 (en) 2014-05-08
US9374276B2 (en) 2016-06-21
EP2915312B1 (en) 2018-01-31
CN104756467B (zh) 2018-07-03
US20140122698A1 (en) 2014-05-01
US20160294701A1 (en) 2016-10-06
EP2915312A2 (en) 2015-09-09
US9979657B2 (en) 2018-05-22
EP3131268A1 (en) 2017-02-15
EP3131268B1 (en) 2018-01-31
BR112015009474B1 (pt) 2023-02-07
BR112015009474A2 (zh) 2017-08-15

Similar Documents

Publication Publication Date Title
CN104756467A (zh) 云中的cdn流量管理
CN104756444A (zh) 云中的cdn负载平衡
CN104038540B (zh) 一种应用代理服务器自动选择方法及系统
JP6803403B2 (ja) 専属エージェントプール配分方法、電子装置及びコンピューター読取可能な記憶媒体
US9311020B2 (en) Method and apparatus for automated migration of data among storage centers
Enayati et al. Identifying trade‐offs in equity and efficiency for simultaneously optimizing location and multipriority dispatch of ambulances
US8620840B2 (en) Distributed scalable incrementally updated models in decisioning systems
US8229415B1 (en) Wireless communication data store construction and analysis
CN109478147A (zh) 分布式计算系统中的自适应资源管理
CN109831524A (zh) 一种负载均衡处理方法及装置
CN112272102B (zh) 边缘网络业务卸载和调度方法及装置
Biran et al. Federated cloud computing as system of systems
CN114866462A (zh) 一种智慧校园的物联网通信路由方法及系统
CN106789853A (zh) 一种转码器的动态调度方法及装置
CN116248676A (zh) 边缘云节点组合确定方法及装置
CN113315836B (zh) 文件访问请求的调度方法、装置、电子设备、存储介质
CN101482816B (zh) 中介软件桥接系统及方法
CN112073454A (zh) 资源分发方法、装置、电子设备
CN110266525A (zh) Cdn服务器数量配置方法、设备及计算机可读存储介质
CN109522118A (zh) 一种业务处理方法、装置、服务器及可读存储介质
DuBois Optimization models with applications to homeland security systems
CN106982255A (zh) 物理服务器、云调度器、云平台及用于其的方法
CN116450282A (zh) 云数据中心的虚拟机迁移方法及装置
CN116402279A (zh) 网点分区方法、装置、设备和介质
CN116011761A (zh) 客服分配方法、系统、装置、设备、存储介质及程序产品

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20171017

Address after: Washington State

Applicant after: Micro soft technique license Co., Ltd

Address before: Washington State

Applicant before: Microsoft Corp.

GR01 Patent grant
GR01 Patent grant