CN107079011A - 处理内容传送网络中的长尾内容 - Google Patents

Abstract

内容传送网络至少具有第一层服务器。内容传送方法包括在第一层服务器中的第一服务器处，从客户端获取针对资源的请求。如果所述资源在第一服务器或第一服务器的对等体处是可用的，则从第一服务器向所述客户端提供所述资源。否则，确定资源是否是流行的，如果所述资源被确定为是流行的，则第一服务器获得所述资源，并且第一服务器向客户端提供所述资源。如果所述资源被确定为是不流行的，则所述服务器联系不位于第一层服务器中的第二服务器以获取所述资源，并且第二服务器将所述资源提供给第一服务器。指示第一服务器不缓存不流行的内容。

Description

处理内容传送网络中的长尾内容

相关申请的交叉引用

本专利合作条约(PCT)专利申请要求2014年9月30日提交的题为“HANDLING LONG-TAIL CONTENT IN A CONTENT DELIVERY NETWORK”的美国专利申请No.62/057,762的优先权，其全部内容通过引用并入本文。

本申请还涉及以下共同拥有且共同未决的专利申请，其各自的内容通过引用全部并入本文：

技术领域

本发明涉及内容传送、内容传送网络(CDN)以及使用CDN的架构和系统。

词汇表

如本文所用，除非另有说明，否则以下术语或缩写具有以下含义：

1.IP表示互联网协议。

2.IP地址表示互联网协议中用来标识诸如服务器等的电子设备的地址。

3.HTTP表示超文本传输协议。

4.URL表示统一资源定位符。

5.DNS表示域名系统。

发明内容

本公开的一个实施方式可以采用用于在内容传送网络中进行内容传送的方法的形式。所述方法包括以下操作：在内容传送网络的第一层(tier)服务器中的第一服务器处，从请求设备接收对可从所述内容传送网络获得的资源的请求；访问与所述内容传送网络相关联的流行度服务(popularity service)，以确定与所请求的资源相关联的流行度标示(popularity designation)；以及向所述内容传送网络的第二服务器请求所述资源。此外，所述方法包括：在第一层服务器中的第一服务器处，处理来自内容传送网络的第二服务器的重定向命令，以从所述内容传送网络的内容服务器获取所述资源，并将所获得的资源提供给请求设备。

本公开的另一实施方式可以采用内容传送网络的形式。所述网络可以包括：第一层服务器，包括第一多个服务器，所述第一层服务器的边缘服务器从与第一服务器通信的请求设备接收针对可从所述内容传送网络获得的资源的请求；以及第二层服务器，包括第二多个服务器，所述第二多个服务器中的第一服务器从所述边缘服务器接收针对内容的请求，且响应于此，将针对请求设备的重定向命令发送到边缘服务器，以从内容服务器获得所述资源。所述内容传送网络还可以包括流行度服务，所述流行度服务追踪与所请求的资源相关联的流行度标示，并且所述内容传送网络可以被配置为使得边缘服务器处理重定向命令以从所述内容服务器获得内容并将获得的内容提供给请求设备。

本公开的另一个实施方式可以采用在内容传送网络中进行内容传送的方法的形式。所述方法包括以下操作：在内容传送网络的第一层服务器中的第一服务器处，从请求设备接收针对可从所述内容传送网络获得的资源的请求；访问与所述内容传送网络的所述第一层的第一服务器相关联的流行度服务，以确定与所请求的资源相关联的流行度标示；以及接收用于在所述第一层服务器中的第一服务器处不缓存所述资源的指示。所述方法还可以包括：至少基于与所请求的资源相关联的流行度标示，向内容传送网络的第二服务器请求所述资源，并将所获得的资源提供给请求设备。

附图说明

参照以下附图可以更好地理解本发明。附图的要素不必是按比例绘制的，其重点在于清楚地说明本发明的原理。此外，贯穿若干视图，相同的附图标记表示相应的部件。

图1描述了一般层级化的多层内容传送网络(CDN)；

图2示出了CDN中的服务器组或集群的逻辑组织；

图3描述了使用内容传送网络(CDN)的内容传送架构(CDF)；

图4描述了内容传送架构中的两级内容传送网络的操作；

图5是示出了图4的CDN的流行度服务的操作的流程图；

图6是用于在特定流行度服务器中维护流行度数据的示例性数据结构；

图7是都市区域CDN架构的图；

图8是描述了CDN向请求客户端提供内容的方法(其中未缓存内容)的流程图；

图9是描述了从CDN向请求客户端提供内容的方法的流程图，其中所述CDN在边缘服务器处缓存所述内容；以及

图10是示出了可以用于实现本公开的实施例的计算系统的示例的框图。

背景技术

互联网和所谓的万维网(“WWW”)已经变得无所不在。成千上万或数以万计的所谓内容提供商(发行商)现在使用互联网(特别是，WWW)向遍布世界的成千上万或数以万计的客户提供各种内容。

为了分担提供其部分或全部内容的工作，许多内容提供商如今订制所谓的内容传送网络(CDN)。通过使用CDN，可以从CDN(即，从CDN中的一个或更多个服务器)而不是内容提供商的服务器向客户端提供一些(或全部)内容提供商的内容。在缓存CDN中，在提供内容之前或者响应于针对该内容的特定请求，也可以将所提供的内容缓存在一部分或全部的CDN服务器上。

某些发行商有大型内容库，其中只有一小部分内容(所谓的“短头”)足够流行，从而能够受益于通过缓存CDN进行提供，而大部分内容(所谓的“长尾”)只是偶尔被访问从而一般并不值得缓存。对于具有非常大的音乐库或视频库的内容发行商来说，这种情况是典型的。一些音乐内容(流行内容)可能被定期请求，而其他音乐(不流行(也称为非流行)内容)(即便曾被请求过)很少被请求。

具体实施方式

本文所用的术语“内容”表示任何类型、任何形式的数据，不管其表示如何，并且不管其代表什么。内容可以包括但不限于静态和/或动态图像、文本、音频内容(包括流音频)、视频内容(包括流视频)、网页、计算机程序、文档、文件等。一些内容可以嵌入在其他内容中，例如通过使用诸如HTML和XML之类的标记语言。内容包括专门响应于特定请求而创建或形成或组合的内容。本文中，有时使用术语“资源”来指代内容。

内容可以动态地变得流行(通过各种流行度度量)或者淡出为相对平淡，所以内容库不容易被明确分割。相反，CDN追踪某些内容的流行度，并且随着该内容变得流行，选择性地将该内容向边缘迁移(即，朝向第1层服务器)。

CDN可以具有分层组织的一层或更多层的服务器。图1描述了包括多层服务器的内容传送网络100。具体地，图1的CDN 100示出了j层服务器，表示为层1、层2、层3、...、层j。每层服务器可以包括组织成服务器组(有时被称为服务器集群)的多个服务器。层1服务器也称为边缘服务器，而层1有时也被称为“边缘”或“CDN的边缘”。层2服务器(当存在于CDN中时)也被称为父级服务器。

例如，在图1的CDN 100中，层1有n组服务器(表示为“边缘服务器组1”、“边缘服务器组2”、...、“边缘服务器组n”)；层2(父级服务器层)具有m个服务器组(第i个组被表示为“父级服务器组i”)；以及层3有k个服务器组，等等。优选地，每个层具有相同数量的服务器组。

图2示出了图1的CDN中的服务器的逻辑组织/分组。在图2的示例性CDN中，每层服务器具有相同数量(n)的服务器组。在阅读本说明书时，本领域的技术人员将清楚并认识到，每个服务器组可以具有相同或不同数量的服务器。此外，服务器组中的服务器数量可以动态变化。例如，可以将附加服务器添加到服务器组，以处理该组上增加的负载。

服务器组中的服务器可以是同构的或异构的，且服务器组中的每个服务器可以包括共享相同名称和/或网络地址的物理服务器集群。在共同拥有的美国专利NO.8,886,814(2013年5月21日提交，题为“Load-balancing cluster”)中描述了这种集群的示例，其全部内容通过引用并入本文。

同一层和同一组中的服务器被称为对等体或对等服务器。

典型的CDN仅具有一层或两层的服务器。只有一层的CDN将仅具有边缘服务器，而具有两层的CDN将具有边缘服务器和父级服务器。(最低限度，CDN应至少有一层服务器——边缘服务器。)

一层中的服务器的分组可以基于例如其物理或地理位置的。例如，一个特定的CDN可以具有六组服务器——美国有四组服务器(组1用于西海岸、组2用于中西部、组3用于东北部和组4用于东南部)；以及欧洲和亚洲分别各一组服务器。

通常，每层中的一部分或全部服务器可以与其他层中的一部分或全部服务器交换数据。因此，一部分或全部父级服务器可以与一部分或全部边缘服务器交换信息。为了简单起见，附图中，将每层服务器示为可操作地连接到其他层。然而，在一些CDN中，优选的是特定层中的服务器只能与同一组中的其他服务器(即，与对等服务器)和/或与不同层内的同一组中的其他服务器交换信息。例如，在一些CDN中，边缘服务器组k中的边缘服务器可以彼此交换信息，并可以与父级服务器组k中的所有服务器交换信息等。

内容提供商/客户的服务器(或多个服务器)也称为来源(origin)服务器。内容提供商的来源服务器可以由该内容提供商拥有和/或操作，或它们可以是由诸如主机提供商的第三方提供和/或操作的服务器。特定内容提供商的主机提供商还可以向该内容提供商提供CDN服务。

CDN还可以包括CDN来源/内容缓存层，可以将所述CDN来源/内容缓存层用于缓存来自CDN的订户(即，来自CDN订户的各来源服务器)的内容。本领域技术人员在阅读本说明书时将清楚并认识到CDN可以支持一个或多个订户，即，CDN可以用作支持大量订户的共享基础设施。CDN来源层还可以包括多个服务器，并且这些服务器也可以被组织(物理上和逻辑上)到多个区域和/或组中。CDN来源层中的服务器可以根据需要(拉取)或提前(通过推送)从订户的来源服务器获得内容。

如图1-3所示，流行度服务102(将在下文进行更详细地描述)与一个或多个层中的一个或多个服务器组相关联。在示例性实施例中，一部分父级服务器组具有与其相关联的流行度服务102。尽管流行度服务102被示为组的单独组件，但是流行度服务可以被集成到该组中的一个或多个服务器中。通常，流行度服务102可以与CDN的任何服务器或服务器组相关联，或被集成到CDN的任何服务器或服务器组中。在某些情况下，流行度服务可以具有不同于任何CDN服务器的自己的服务器。在本文中，术语“流行度服务”和“流行度服务器”可互换使用。

在操作中，当客户端请求要使用内容传送架构来提供的内容时，可以从CDN中的服务器向客户端提供该内容，或在某些情况下，从订户/客户的来源服务器向该客户端提供该内容。内容传送架构可以包括CDN以及来源服务器层。

可以通过使用任何类型的服务器选择器系统104以任何方式将客户端引导到CDN和/或CDN中的服务器。如本领域技术人员所理解的，服务器选择器系统104通常进行操作以将客户端对内容的请求定向到适当的服务器，以便将该内容提供给请求客户端。适当的服务器可以是靠近客户端(通过一定的成本考量)的服务器和/或不是太重负载的服务器。可以向术语“适当”施加各种条件，且可以将各种信息和测试(静态和动态二者)用于确定适当的服务器。服务器选择器系统104可以包括例如域名服务(DNS)服务器、单机设备或其组合或可在其中完全或部分地操作。例如，服务器选择器系统104可以包括单级DNS服务器，所述单级DNS服务器至少部分地基于请求客户端的位置以及在一部分或全部的CDN服务器上的负载的某些组合，来选择适当的服务器。本领域技术人员在阅读本说明书时将清楚并认识到有时可能仅粗略地确定客户在诸如互联网的网络中的位置，且术语“客户端的位置”通常被认为是与客户端的网络服务提供商相对应的网络位置。

尽管在附图中被示出为组件，服务器选择器104可以包括许多组件。例如，服务器选择的一部分或全部可以是基于任播路由的，且服务器选择器104可以包括路由器和关联表。

在当前优选的实施例中，服务器选择器104是智能业务管理器(ITM)/自适应业务控制器(ATC)，例如，如2002年9月30日提交的题为“Configurable Adaptive GlobalTraffic Control And Management”的美国专利申请NO.10/259,497(公布为US 2003-0065762A1)中所述；以及如2007年10月26日提交的题为“Policy-based content deliverynetwork selection”(统称为“ITM应用”)的美国专利申请No.11/976,648所述，其全部内容通过引用并入本文。在一些实施例中，服务器选择器104可以包括“最佳”或“最优”服务器选择器，例如，如题为“Optimized Network Resource Location”的美国专利No.6,185,598所述，其全部内容通过引用并入本文。“598”专利将CDN服务器称为转发器服务器，并描述了所谓的“最佳转发器选择器(BRS)机制”。

图3示出了具有两级层次的CDN的内容传送架构300，其中所述两级层次包括一层边缘服务器(层1)以及一层父级服务器(层2)。一部分或全部的边缘服务器可以与一部分或全部的父级服务器进行通信。边缘服务器被分为n个边缘服务器组，且父级服务器被分为m个父级服务器组。在一个实施例中，m的值等于n的值，即，在该实施例中，边缘服务器组与父级服务器组具有相同的数量。CDN来源/内容缓存层存储从各订户的来源服务器获得的订户内容。至少一个父级服务器组(附图中，组1)具有与其相关联的流行度服务102。优选地，多于一个父级服务器组具有相关联的流行度服务，且更优选地，每个父级服务器组具有相关联的流行度服务。

如上所述，虽然流行度服务被示出在父级层中，但是流行度服务可以位于系统中的任何地方，包括边缘层。此外，流行度服务可以被某些内容(但不一定是全部内容)使用。当只有某些内容使用流行度服务时，应该指定内容以便使用流行度服务。

组中的一部分或全部的边缘服务器可以使用流行度服务来管理各订户的长尾内容。使用流行度服务的每个边缘服务器都被称为被绑定到该流行度服务。本文中，有时将被绑定到流行度服务的边缘服务器称为“长尾协同服务器”。

图4和图5示出了图3的CDN的流行度服务的操作。当客户端106请求内容(例如，使用HTTP GET请求)时，该请求被定向到边缘服务器108(例如，由服务器选择器104)，以便将该内容提供给客户端。对于某些指定的内容，将流行度检查插入在缓存操作的填充侧。图4示出了内容传送架构300中的消息和数据的流程，且图5是示出了图4的CDN的流行度服务的操作的流程图。为了这个特定解释，假设客户端的请求已经被定向到边缘服务器108。(本领域技术人员在阅读本说明书时将清楚并认识到，客户的初始请求可以被定向到CDN层次结构中的任何层，包括例如被定向到父级层。)使用与CDN相关联的服务器选择机制104来选择该服务器，例如，使用一个或多个DNS服务器并基于诸如请求客户端的位置、网络上的负载、网络流量状况、CDN策略、订户策略等因素来选择边缘服务器。

客户端106从边缘服务器108请求内容(图5中的500处)。来自客户端106的请求到达边缘服务器108(图4中的S1)。边缘服务器108进行检查以便查看对象是否存在(在本地或在对等体上)和新鲜(在502处)。如果是，则边缘服务器108从所述缓存向客户端104提供所述对象(S2，504)(如果需要，从对等体获得所述对象)。

在一些实施例中，系统可以区分在网和离网对等体(on-net and off-net peers)以及相同交换机对等体。在网对等体是同一骨干网上的对等体；离网对等体是位于不同骨干网上的对等体；以及相同交换机对等体是直接连接到与执行所述检查的代理相同的交换机的对等体。在一些实施例中，边缘服务器108可以仅在其一部分的对等体上(例如，仅在相同交换机对等体上)查找对象(在502处)。

如果该对象在边缘服务器108或对等体上是不可用的，则边缘服务器108基于其流行度确定该对象是否被提供(即，确定是否已指定该对象，从而该对象的流行度将被用于确定从何处提供该对象)(在506处)。如果是，则将请求发送到与边缘服务器108相关联的流行度服务102，在这种情况下，发送到相同组的流行度服务器(S3a)。

可以至少部分地基于用于请求对象的名称(主机名)，来根据其流行度确定该对象是否被指定为要从不同位置提供(在506处)。

在一个实施方式中，CDN提供了边缘服务器的混合，一部分边缘服务器进行流行度检查(如上所述)，而其他边缘服务器则不执行上述检查。对于没有运行流行度服务的边缘服务器，用于填充对象的名称(主机名)将解析为父级服务器(可以提供或不提供流行度服务)。如果父级服务器不提供流行度服务，则边缘服务器将从该父级服务器获取内容，且该内容将被提供给客户端。

针对内容的请求可以是针对对象的初始请求，或者在所述初始部分已被提供给客户端的情况下，所述针对内容的请求可以是针对对象的另一部分的请求。如果请求针对对象的第一部分(在508处)，例如，请求包括对资源的第一字节的请求(即，不是在文件开始之后启动的范围请求)，则流行度服务102确定(如下所述)对象当前是否是流行的。在其他实施方式中，可以请求对象的另一部分。可以针对所述对象的每个部分执行对象的流行度确定，或者可以仅针对对资源的第一字节的请求执行流行度确定。

现在讨论用于向请求设备提供内容的一个特定实施方式。下文中将参照图7-9来讨论备选实施方式。在图5的实施例中，当接收到针对对象的请求时，增加针对当前时段的流行度计数(在510处)。基于其确定，流行度服务102向边缘服务器108返回三种可能响应之一(S3b)：

1.如果对象尚未达到第一/最低级别的流行度(在512处)：则流行度服务向边缘服务器发送指示(例如，HTTP 302)，以将客户端的请求重定向到来源服务器(或到CDN来源缓存)(在启用了来源重定向的情况下)(在514处)。

2.如果对象的流行度已经超过了第一/最低级别的流行度，但尚未超过第二、中间层阈值(在516处)：则流行度服务向边缘服务器发送指示(例如，HTTP 302)，以将客户端的请求重定向到父级服务器(在启用了中间层重定向的情况下)(在518处)。

3.如果对象的流行度超过了中间层阈值(即，该对象是流行的)：则流行度服务向边缘服务器发送指示，以便自己提供该内容(在520处)。在该实施方式中，流行度服务向边缘服务器发送具有到来源服务器(或者在存在的情况下，到父级层)的“跟随我”或“缓存”标志设置的重定向(HTTP 302)。

如果边缘服务器108从流行度服务102接收到重定向而没有“跟随我”标志设置(上面的情况1和2)，则它仅仅将重定向转发到客户端104(S4a、522、524)。如果边缘服务器108接收到“跟随我”重定向，则它获得并缓存该资源(在526处)并将其提供给客户端(在528处)。如果流行度服务102是无法访问的、不响应的、或者返回指示错误(不包括HTTP 404)的状态码，则在从来源服务器或父级层获取该对象之后，则将对象提供到边缘的缓存服务器外(并且提出警报状况)。

在一个特定实施方式中，一旦已经在边缘服务器处缓存了内容，则边缘服务器将在每次获得针对该内容的另一请求时向流行度服务发送通知(例如，以重新验证的形式)。例如，参考图5的流程图，如果边缘服务器108确定(在502处)它具有所请求的内容(或可以从对等体获得该内容)，则除了提供内容(在504处)之外或独立于提供内容，它还指示流行度服务器增加针对当前时段的对象流行度计数(在530处)。这个过程使流行度服务器保持最新，在其区域内提供相对流行的内容。

本领域技术人员在阅读本说明书时将清楚并认识到，在多层CDN中，流行度服务可以位于任何层，或可以在多于一层上存在流行度服务。

继续图4的方法，步骤(4a)可以以内容进行回复(如果流行的话)或者以到父级或来源服务器的重定向进行回复(如果不流行的话)，其中客户端将向该层做出另一请求(5a或5b)以获得该内容。然而，如上所述，CDN的其他实施方式也是可以预期的。下面将更详细地描述一种这样的实施方式，其中从边缘服务器向客户端提供内容而不管该内容是否被CDN认为是流行的。

虽然已经参照HTTP协议描述了本发明，但是本领域技术人员在阅读本说明书时将清楚并认识到发明人可以使用和预期不同的和/或其他协议。在各种文档(例如，超文本传输协议——HTTP/1.1、RFC2616、网络工作组)中描述了HTTP，其全部内容通过引用并入本文。

本领域的技术人员在阅读本说明书时将清楚并认识到可以针对CDN中的每一层建立不同的阈值。此外，本领域技术人员在阅读该描述时将清楚并认识到每个内容项可以具有与其相关联的自己的阈值。这样，在默认阈值为零的情况下，系统可以检查所有内容的流行度。这样，每个请求将自动使流行度超过阈值，并将使得所述内容被缓存。

通过按区域地布置流行度服务器(与父级缓存服务器配对)，可以以区域为单位独立管理流行度和缓存层。例如，流行度可以基于包括一个或多个层的CDN服务器的都市区域。在一个区域/组中流行的内容可能在另一区域/组中并不流行(特别是在每个区域/组与地理和/或政治区域相对应的情况下)。

在一个实施方式中，与流行度服务器的交会(rendezvous)可以将所谓的“区域”邻近度优先考虑，使得在同一区域内的客户端将倾向于在该区域内进行流行度“投票”，并获得对流行资源的一致处理。然而，如果有多个父级缓存服务器可用，则通常不会尝试将特定客户端与特定父级进行交会。

在一些实施例中，基于在各时段中请求对象/资源的次数来测量所述对象/资源的流行度。图6是用于在特定流行度服务器中维护流行度数据的示例性数据结构。图6中的数据结构600是所谓的统计散列结构(tally hash structure)。

在一些实施例中，CDN的一部分或全部服务器与流行度服务器相关联(或绑定到流行度服务器)。绑定到流行度服务器的CDN的服务器或其他组件有时被称为绑定长尾协同服务器。系统中的每个流行度服务器为每个绑定长尾协同服务器分配一个统计散列结构600。配置提供要分配的资源(散列)槽的数量。对于一个特定的实施方式，散列槽的数量的量级大约为每个协同服务求1亿个槽。每个槽被划分成多个时间元(time bucket)，优选为16个时间元，每个时间元由例如4位无符号整数表示。本领域技术人员在阅读该描述时将清楚并认识到对每个时间元中的值的大小的选择取决于对流行度阈值的边界的策略决定，并用于将非常流行的资源保留在边缘。每一个时间元可以代表一个时段，优选地，几秒钟。

请求/内容与槽的映射是基于对象名称的某些功能的，或者基于与针对对象的请求相关联的其他信息。在一个示例中，对象与槽的映射是基于对象名称上的散列或消息摘要功能(例如，MD5等)(且优选地，包括查询字符串的某些部分)。因此，每个槽可以表示一个或多个资源。每次针对对象的查询/请求到达流行度服务器时，计算散列，并确定(针对适当的协同服务器)表600中的槽，并且使用该槽中的计数。在发生散列冲突的情况下，一个槽可能将接收并表示针对多于一个对象的计数。由于这个结果通常是不期望的(因为它可能导致缓存填充和边缘缓存不流行的对象)，所以槽的数量应该被选择为尽可能大。在一个实施方式中，请求/内容的统一资源定位符(URL)可以与每个槽一起存储以避免冲突。

在一个实施方式中，特别是当流行数据保存在父级服务器或来源服务器时，CDN可以将对象的流行度作为附加元数据存储在缓存中(并且当该资源不在缓存中时，在非来源服务器上存储作为存根资源)。此外，某些对象或资源可以具有与其他资源相关联的流行度分数，但不一定会影响特定对象的分数。例如，可以仅对CDN的HTML资源进行流行度追踪，而在特定HTML页面内的嵌入资源的流行度可以被认为是流行的。因此，可以使用包围对象的流行度，而不是嵌入资源的流行度。

本领域的技术人员在阅读本说明书时清楚并认识到可以使用不同的和/或其他数据结构来实现流行度计数。例如，由于在大多数情况下预计资源总数远远超过流行资源的数量，所以平衡b树可以优于散列表。此外，可以通过仅使用散列的一部分来减小散列槽的大小。然而，减少所用散列的字节的数量可能会导致更多名称冲突。

尽管以上针对流行度进行了描述，但是本领域技术人员在阅读本说明书时将清楚并认识到可以使用其他因素以及(或代替)流行度来确定是否重定向请求。可以使用规则库来增加和/或覆盖某些资源的流行度度量。规则库中的规则可以是静态的或动态的，且可以由CDN管理员和/或订户设置所述规则。例如，订户可能不希望针对要从边缘服务器提供的某些内容付费，而不管其流行度如何，并且可以相应地设置规则(也可以通过针对该特定内容设置阈值来防止它被缓存在边缘服务器，来实现该特定结果)。

可以通过偶尔进行日志挖掘来查找实际订户内容库中的散列冲突，并且可以根据需要调整散列函数和元的大小。此外，在每个时间元边界处，流行度服务可以逻辑上“旋转”时间元并且清除每个对象的最旧的统计数据。只要协同服务器在流行度服务中的注册发生变化(添加或删除，或者可能提示更改)，数据结构将被更新。此外，在一个实施方式中，给定对象的流行度可以被确定为其在连续时段上的流行度的加权和。可以向更近的时段给予较高的权重。

为了确定要由流行度服务管理哪些内容，CDN运营商和/或订户可以规定：

·将管理该内容的层——边缘、中间或父级(在某些情况下)、或来源(订户或存储层)。为了有意义，应启用中间服务和来源服务中的至少一个。

·基于其流行度进行管理的内容，而不是仅仅始终从缓存提供的内容。

可以通过一个或多个网络地址(例如，互联网协议或IP地址)来寻址网络中的每个服务器。也可以由一个或多个名称(所谓的主机名——完全限定域名)获知网络中的每个服务器。主机名可以与一个或多个IP地址相映射。主机名可以对应于(并因此解析为)多于一个的服务器。诸如ITM的系统(如上述ITM专利申请中描述的)允许一种主机名(称为超级名称)来表示多个服务器，并且将超级名称解析为附近的服务器。在一个实施方式中，服务器选择机制是ITM，并且通过解析为到达附近的流行度服务器的超级名称来访问每个流行度服务器。

当流行度服务器与父级服务器共享或共处时，父级服务器可以使用其被寻址的名称来确定是否将请求定向到流行度服务。也就是说，提供流行度服务的父级缓存服务器可以识别使用针对流行度请求保留的别名之一的请求，并且调用流行度服务来进行填充/不填充决定并如上所述地返回重定向。

服务器的主机名也称为其别名。每个长尾协同服务器优选地具有至少两个别名(如果使用父级缓存/服务器层，则具有三个)：发布的超级名称、用于流行度服务请求的主机名、以及(如果使用)用于父级缓存重定向的主机名。

可以通过ITM超级名称访问流行度服务器，且ITM将监视该服务在整个服务器集上的可用性。通常使用实际IP地址而不是虚拟IP来访问流行度服务器，且流行度服务器在集群中不一定是冗余的。可以通过每个超级名称有多个服务器来提供冗余度。然而，优选的是不试图将流行度服务器上的流行度标签进行同步，这样的期望效果是在“区域性”的基础上分别管理流行度，其中通过所部署的流行度服务器的数量和分布来确定粒度。如果流行度的服务器出现故障，则因为新的服务器对于给定边缘位置变得活跃，这可能会导致流行度响应不连续，但是可以通过定期的背景刷新来(针对非常流行的资源)缓解该问题。

关于资源和缓存策略的信息包括以下内容：

·与该协同服务器相关联的资源的预期总数。

·用于存储针对每个资源的叫用次数的元的数量。

·每个元代表的秒数。每当这个时间间隔过去，抛出最旧的元中的计数，并以零的计数开始新的元。

·当给定资源的全部元的总和达到任何流行度服务器上的父级阈值时，使用该服务器的父级缓存(如果存在)将开始缓存该资源。

·当给定资源的全部元的总和达到任何流行度服务器上的边缘阈值时，使用该服务器的边缘缓存将开始缓存该资源。

·将应用于资源名称的散列算法(可选)。如果未指定，则将使用默认算法(例如，MD5)。

·在任何给定时间，应在边缘处缓存该协同服务器资源的最大数量。在某些实施例中可以忽略该值。

·在任何给定时间，应在父级处缓存该协同服务器资源的最大数量。在某些实施例中可以忽略该值。

本领域技术人员在阅读本说明书时将清楚并认识到在仅基于流行度计数的给定层上进行服务的决定将不考虑在该层上进行服务的能力——因此，如果来源服务器或父级层的容量不足，则该方案可能使它们重载。此外，如果按照请求数量的绝对阈值来衡量流行度，且如果所述库足够大，则可能导致父级或边缘层处的缓存颠簸。父级和/或边缘服务器的流行度阈值水平的动态调整可能会导致这种情况。因此，提供了一种特征，其允许CDN通过对定位和提供CDN内容的位置进行调整来对增加或减少内容的“流行度”进行响应。

作为向请求客户端提供重定向使得客户端从来源服务器接收内容的备选，内容服务器(例如，边缘服务器)可以直接处理该重定向。在某些情况下，纵然重定向是传统的HTTP命令，某些客户端设备、应用、浏览器等也无法在不引起警告或错误的情况下处理重定向命令，或者如果重定向到不同的域，引起警告或错误。一个这种警告或错误被称为跨域安全警告，其中跨域安全警告可以阻止客户端设备正确地重定向到来源服务器。因此，通过使边缘或其他CDN设备获得旨在通过重定向而不是客户端设备获得的内容并将内容传送到请求客户端，可以避免这种错误和警告。

参见图7和图8或9，如本文所述，在内容传送网络的内容服务器处接收内容请求(例如，针对www.example.com或www.example.com/video的解析请求)。在一个示例中，内容服务器可以是边缘服务器。内容服务器也有可能可以是上述其他层之一中的设备，例如，父级服务器或来源服务器。

图7是都市区域CDN架构700的图。与上述的网络环境相似，CDN包括与CDN 704通信的客户端设备702。CDN包括几层的服务器，即，一层边缘服务器706、一层父级服务器708以及一层来源服务器，无论来源服务器是实现在CDN 704(诸如来源服务器710)还是内容提供商网络712中(诸如来源服务器714)。在中间层服务器708处，流行度服务716也包括在CDN702中。流行度服务716如上所述地进行操作以追踪由CDN 702提供的一个或多个对象的流行度，并基于所述对象或内容的流行度指示CDN的一个或多个组件缓存对象。

尽管在图7中示出为包括特定组件，然而应当理解的是任何数量的具有多个服务器层、来源服务器等的可能CDN架构排列可以利用本公开的各方面的优点。在一个具体示例中，边缘缓存706是CDN都市(metro)的一部分，且中间层服务器708是都市中间层。因此，可以通过流行度服务716追踪流行度，并在都市级处缓存内容。这种实施方式为流行度分析提供了一定程度的地理辨识。在一些CDN实施方式中，在DNS解析期间进行一定程度的地理接近度分析，使得用与该客户端设备地理上接近的内容服务器向客户端702进行提供。在许多情况下，将向在某些都市区域内请求内容的客户端提供在服务于相同都市区域的都市内的内容服务器706的地址。因此，使用与相同城市区域相关联的流行度服务716允许基于该都市区域内的内容的流行度的内容追踪。在这种情况下，本地体育报导、新闻报导、本地流行的视频剪辑等可以变得流行并被缓存在该内容流行的都市的边缘706中，而不必缓存在该内容不流行的地理区域和都市内。

通过使用都市中间层服务器708，实现了许多优点。例如，定位边缘服务器706附近的都市中间层(MMT)服务器可以通过将边缘服务器直接连接到中间层服务器而不是利用从边缘服务器到达的路由结构，来最小化或减少延迟和基础设施成本。。此外，使用MMT 708可以允许将非常大的库保持在边缘服务器706附近，使得非常流行的内容被缓存在边缘处但大多数被保持在MMT内。最后，MMT 708的构建意味着在不引起终端用户/发布者可见的复杂性的情况下容量的线性缩放是可能的(例如使用多个主机名来分割内容)。

如上所述，在某些情况下，它可以有利于客户端设备702和/或CDN 704提供来自边缘服务器层706的内容。更具体地，一个或多个边缘服务器或缓存706可以被配置为处理针对连接到CDN 704的客户端设备702的重定向命令。此外，边缘服务器706可以被配置为缓存流行内容以响应于将来的请求来提供内容，或者不缓存不流行的内容并从父级708或来源服务器710、712提供该内容。

图8是描述了从CDN向请求客户端提供内容的方法的流程图看，其中所述CDN未缓存该内容。在该实施方式800中，在操作802中，在边缘服务器(例如，边缘服务器706)处接收到对内容的请求。在一个示例中，边缘服务器可以确定边缘服务器是否具有该内容的已缓存的且当前(非陈旧)的拷贝。在这种情况下，边缘服务器将请求的内容返回给请求设备(例如，客户端702)。否则，边缘服务器在操作804中联系中间层以便进行初始流行度分析。如上所述，如果流行度服务716确定所请求的内容是不流行的，则将重定向命令返回到客户端设备702，以将客户端设备重定向为从具有该内容的CDN 704的另一服务器请求该内容。在先前描述的实施例中，重定向将导致客户端设备702被重定向到具有CDN 704(例如，CDN来源710或客户来源714)的不同设备，以获得所请求的内容。然而，在图8的实施例中，为了避免将重定向返回到客户端702，边缘服务器706可以改为处理重定向或获得该内容并将其提供给客户端。

在一个示例中，边缘服务器706直接处理重定向并且联系内容的源708、710以获取内容的拷贝。在图7所示的实施方式中，与中间层都市服务器708相关联的流行度服务716追踪所请求的内容的流行度。通过联系流行度服务716，在操作804中，CDN 704确定所请求的内容是不流行的。

在操作806中，边缘服务器704联系中间层708或持有所述内容的其他服务器，以在操作806中接收所述内容。除了返回所请求的内容之外，中间层服务器708还可以返回缓存或不缓存指示。在这种情况下，中间层708可以具有内容，或者可能需要从CDN来源710、客户来源714、不同层等获取该内容。无论如何，中间层708与流行度服务716一同确定或通过其他方式标识该内容的流行度。对于不流行的内容，中间层708向内容服务器706返回不缓存指示。

在中间层708没有该内容的情况下，除了不缓存指示之外，中间层708可以将重定向返回到持有所请求的内容的组件。边缘服务器706可以代表客户端702处理重定向。具体地，边缘服务器706在操作808中向内容的主机(例如，CDN来源服务器710或客户端来源714)请求内容。接着，内容主机将内容返回给边缘服务器706。边缘服务器706在操作810中接收内容并将该内容提供给请求客户端702。这样，边缘服务器706可以代表请求设备702处理由中间层708返回的重定向，以避免在处理重定向时出现错误或警告的可能性。此外，边缘服务器706响应于不缓存指示而不对该内容进行缓存。

在备选实施方式中，可以通过CDN 704的流行度服务716来认为所请求的内容是流行的。具体地，图9是描述了从CDN向请求客户端提供内容的方法900的流程图，其中所述CDN在边缘服务器处缓存所述内容。与上述情况相似，在操作902中，在边缘服务器(例如，边缘服务器706)处接收到对内容的请求。响应于此，边缘服务器可以确定边缘服务器是否具有内容的缓存和当前(非陈旧)拷贝。在这种情况下，边缘服务器将请求的内容返回给请求设备(例如，客户端702)。否则，边缘服务器在操作904中联系中间层以便进行初始流行度分析。然而，在该示例中，中间层708可以基于流行度服务716来确定该内容是流行的。

如果流行度服务716确定该内容是流行的或已经变得流行，则使用缓存指示将内容返回到边缘服务器706。在一个示例中，边缘服务器706可以从中间层708接收内容，或可以如上所述处理重定向。无论从CDN 704的哪个组件接收该内容，在操作906，边缘服务器706接收所述内容，并响应于缓存指示，在内容服务器处缓存所述流行内容。在操作908中，边缘服务器706将内容提供给客户端设备702。这样，边缘服务器706可以响应于请求设备对内容的请求，向客户端设备702提供流行内容。

在一些实施例中，边缘服务器706可以进行本地流行度追踪和基于流行度进行缓存。因此，例如，如果缓存已满(通常会是这样)，则当接收到新的流行内容时，服务器可以替换较不流行或陈旧的内容。此外，可以以主页(或其他一般内容标识符)为单位或以每个内容为单位(例如，通过主页可访问的视频内容)追踪内容的流行度。此外，可以通过使用与内容相关联的元数据来追踪流行度，如上所述。

图10是示出了可用于实现以上公开的CDN组件的实施例的计算设备或计算机系统1000的示例框图。例如，上述内容服务器706可以类似于图10的计算设备。计算机系统(系统)包括一个或多个处理器1002-1006。处理器1002-1006可以包括高速缓存的一个或多个内部层级(未示出)和与处理器总线1012直接交互的总线控制器或总线接口单元。处理器总线1012，也被称为主机总线或前端总线，可以用于耦接处理器1002-1006和系统接口1014。系统接口1014可以连接处理器总线1012以将系统1000的其它组件与处理器总线1012接口连接。例如，系统接口1014可以包括将主存储器1016与存储器总线1012接口连接的存储控制器1018。主存储器1016通常包括一个或多个存储器卡和控制电路(未示出)。系统接口1014还可以包括输入/输出(I/O)接口1020，用于将一个或多个I/O桥或I/O设备与处理器总线1012连接。如图所示，一个或多个I/O控制器和/或I/O设备可以与I/O总线1026连接，例如，I/O控制器1028和I/O设备1030。

I/O设备1030还可以包括输入设备(未示出)，例如字母数字输入设备，包括用于向处理器1002-1006传送信息和/或命令选择的字母数字和其他键。其他类型的用户输入设备包括光标控制，例如，鼠标、轨迹球、或光标方向键，用于向处理器1002-1006传送方向信息和命令选择并用于控制显示设备上的光标移动。

系统1000可以包括动态存储设备，被称为主存储器1016，或随机存取存储器(RAM)或其他耦接处理器总线1012用于存储由处理器1002-1006执行的信息和指示的计算机可读设备。存储器1016还可以用于在处理器1002-1006执行指示期间存储临时变量或其它中间信息。系统1000包括耦接到处理器总线1012的只读存储器(ROM)或其它静态存储设备，以存储处理器1002-1006的静态信息和指示。图10阐述的系统不过是计算机系统的一个可能示例，该系统可以采用根据本公开的方案或根据本公开的方案配置。

根据一个实施例，上述技术可以由计算机系统1000响应于执行主存储器1016中包含的一个或多个指示的一个或多个序列的处理器1004执行。主存储器1016可以从其它机器可读介质(例如，存储设备)读取这些指示。执行主存储器1016中包括的指示序列会引起处理器1002-1006执行本文描述的处理步骤。在备选实施例中，电路可以用于替代软件指示或与软件指示结合。因此，本公开的实施例可以包括硬件和软件组件。

机器可读介质包括用于以机器(例如，计算机)可读的形式(例如，软件、处理应用)来存储或发送信息的任何机制。这样的介质可以采取以下形式但不限于：非易失性介质和易失性介质。非易失性介质包括光盘或磁盘。易失性介质包括动态存储器，例如主存储器1016。机器可读介质的常见形式可以包括但不限于磁存储介质；光存储介质(例如，CD-ROM)；磁光存储介质；只读存储器(ROM)；随机存取存储器(RAM)；可擦除可编程存储器(例如，EPROM和EEPROM)；闪存；或适于存储电子指示的介质的其它类型。

应注意，图5、8和9的流程图仅仅是说明性的。本发明的备选实施例可以增加操作、省略操作或改变操作顺序而不影响本发明的精神和范围。前面仅仅说明了本发明的原理。鉴于本文的教导，对所述实施例的各种修改和变更对于本领域技术人员将是显而易见的。因此，应当理解，本领域技术人员将能够设计出许多系统、布置和方法，尽管这里没有明确示出或描述所述系统、布置和方法，但它们体现了本发明的原理，因此在本发明的精神和范围内。根据以上描述和附图，本领域普通技术人员将会理解，所示出和描述的特定实施例仅仅是为了说明的目的，并不意图限制本发明的范围。对特定实施例的细节的引述并不旨在限制本发明的范围。

包括专利和专利申请在内的各种文献已经通过引用并入本申请。如果合并的文件与本申请之间存在任何冲突，则以本申请(包括本文中的任何定义)为主。

Claims (20)

1.一种在内容传送网络中进行内容传送的方法，包括：

在所述内容传送网络的第一层服务器中的第一服务器处，从请求设备接收针对可从所述内容传送网络获得的资源的请求；

访问与所述内容传送网络相关联的流行度服务，以确定与所请求的资源相关联的流行度标示；

向所述内容传送网络的第二服务器请求所述资源；

在第一层服务器中的第一服务器处，处理来自所述内容传送网络的第二服务器的重定向指示，以从所述内容传送网络的内容服务器获得所述资源；以及

将所获得的资源提供给所述请求设备。

2.根据权利要求1所述的方法，其中，所述与所请求的资源相关联的流行度标示指示所请求的资源是不流行的，所述方法还包括：当从所述内容传送网络的内容服务器获得所述资源时，接收用于在所述第一层服务器中的第一服务器处不缓存所述资源的指示。

3.根据权利要求1所述的方法，其中，所述与所请求的资源相关联的流行度标示指示所请求的资源是流行的，所述方法还包括：当从所述内容传送网络的内容服务器获得所述资源时，接收用于在所述第一层服务器中的第一服务器处缓存所述资源的指示。

4.根据权利要求1所述的方法，其中，第二服务器是所述内容传送网络的都市中间层服务器。

5.根据权利要求1所述的方法，其中，第二服务器是所述内容传送网络的第一层服务器的对等服务器。

6.根据权利要求1所述的方法，其中，所述与所请求的资源相关联的流行度标示包括对所述资源的当前流行度值是否超过第一预定流行度阈值的指示。

7.根据权利要求6所述的方法，其中，所述流行度服务与所述内容传送网络的第二服务器相关联。

8.根据权利要求6所述的方法，其中，所述流行度服务与所述内容传送网络的第一层服务器中的第一服务器相关联。

9.根据权利要求1所述的方法，其中，所述内容传送网络还包括与所述第一层服务器不同的第二层服务器，其中，第二服务器位于所述第二层服务器中。

10.根据权利要求3所述的方法，还包括：

在所述内容传送网络的第一层服务器中的第一服务器处，接收针对可从所述内容传送网络获得的资源的附加请求；

确定在所述第一层服务器中的第一服务器处缓存所述资源；以及

响应于针对所述资源的附加请求，从所述第一层服务器中的第一服务器提供所缓存的资源。

11.一种内容传送网络，包括：

第一层服务器，包括第一多个服务器，所述第一层服务器中的边缘服务器从与所述第一服务器通信的请求设备接收针对可从所述内容传送网络获得的资源的请求；以及

第二层服务器，包括第二多个服务器，所述第二多个服务器中的第一服务器从所述边缘服务器接收针对内容的请求，并且作为响应，将针对请求设备的重定向指示发送到边缘服务器，以从内容服务器获得所述资源，以及

流行度服务，追踪与所请求的资源相关联的流行度标示；

其中，所述边缘服务器处理所述重定向指示，以从所述内容服务器获得所述内容，并将所获得的内容提供给所述请求设备。

12.根据权利要求11所述的内容传送网络，其中，所述与所请求的资源相关联的流行度标示指示所请求的资源是不流行的，并且当从所述第一层服务器的内容服务器获得资源时，所述第二多个服务器中的第一服务器发送用于在所述内容服务器处不缓存所述资源的指示。

13.根据权利要求11所述的内容传送网络，其中，所述与所请求的资源相关联的流行度标示指示所请求的资源是流行的，并且当从所述第一层服务器的内容服务器获得资源时，所述第二多个服务器中的第一服务器发送用于在所述内容服务器处缓存所述资源的指示。

14.根据权利要求11所述的内容传送网络，其中，所述第二多个服务器中的第一服务器是所述内容传送网络中的都市中间层服务器。

15.根据权利要求11所述的内容传送网络，其中，所述第二多个服务器中的第一服务器是所述内容传送网络的第一层服务器的对等服务器。

16.根据权利要求11所述的内容传送网络，其中，所述与所请求的资源相关联的流行度标示包括对所述资源的当前流行度值是否超过第一预定流行度阈值的指示。

17.根据权利要求16所述的内容传送网络，其中，所述流行度服务与所述内容传送网络的第二多个服务器中的第一服务器相关联。

18.根据权利要求16所述的内容传送网络，其中，所述流行度服务与所述内容传送网络的第一层服务器中的内容服务器相关联。

19.一种在内容传送网络中进行内容传送的方法，包括：

在所述内容传送网络的第一层服务器中的第一服务器处，从请求设备接收针对可从所述内容传送网络获得的资源的请求；

访问与所述内容传送网络的第一层中的第一服务器相关联的流行度服务，以确定与所请求的资源相关联的流行度标示；

接收用于在第一层服务器中的第一服务器处不缓存资源的指示；

至少基于与所请求的资源相关联的流行度标示，向所述内容传送网络的第二服务器请求所述资源；以及

将所获得的资源提供给所述请求设备。

20.根据权利要求19所述的方法，其中，所述内容传送网络的第二服务器是存储所请求的内容的内容服务器。