CN101432730A

CN101432730A - 针对延迟下载服务的基于阈值归一化速率最早传送最先（nredf）

Info

Publication number: CN101432730A
Application number: CNA2006800544771A
Authority: CN
Inventors: 郭杨; 李钧; 库马尔·拉马斯瓦米
Original assignee: Thomson Licensing SAS
Current assignee: Thomson Licensing SAS
Priority date: 2006-05-05
Filing date: 2006-05-05
Publication date: 2009-05-13
Anticipated expiration: 2026-05-05
Also published as: WO2007130038A1; US8650293B2; JP4890610B2; BRPI0621617A2; CN101432730B; KR101353406B1; EP2016508A1; US20090113054A1; KR20090015029A; JP2009536498A

Abstract

一种内容传送系统，包括服务于多个客户端请求的至少一个内容服务器。内容服务器使用基于阈值归一化速率最早传送最先(TB－NREDF)调度器。TB－NREDF调度器对重新调度请求的数目施加阈值或限制。

Description

针对延迟下载服务的基于阈值归一化速率最早传送最先（NREDF）

技术领域

本发明总体上涉及通信系统，更具体地，涉及内容传送和分发网络及其组成部分，例如内容服务器等等。

背景技术

在内容传送系统中，内容服务器可以经由分布式通信网络(如互联网)将不同类型的内容(例如文件、流视频等)分发给不同客户端。典型地，通过每个用户将针对具体内容的请求发送至内容服务器，来开始该过程。在接收到每个请求时，内容服务器经由分布式通信网络，对请求的内容至请求客户端的传送进行调度。

经由分布式通信网络对对请求的内容至请求客户端的传送进行调度的一种方法是“归一化速率最早传送最先”(NREDF)方法(有时还简称为“NRED”)。在该方法中，内容服务器使用在内容服务器与每个请求客户端之间的估计的“最短路径”，计算用于传送具体内容的归一化速率。“最短路径”是通过分布式通信网络的路径，将所请求内容的最早传送时间提供给请求客户端。作为该过程的一部分，内容服务器可以在网络中识别出其它服务器，这些服务器能够获得(source)要传送的请求内容。然后内容服务器对所有接收的客户端请求进行调度，这是按照它们所关联的计算的归一化速率的降序来进行的。这样，在具有较低的计算的归一化速率的请求客户端之前，对具有较高的计算的归一化速率的请求客户端进行调度，以进行传送。然而，新的客户端请求可能继续到达，甚至在内容传送服务器刚刚完成对先前接收的(或旧的)客户端请求的调度之后。这样，随着新客户端请求的到达，将那些未完成的旧客户端请求与任何新客户端请求一起进行调度，以使内容服务器能够服务的请求的数目最大化。

然而，随着客户端请求速率的提高，内容服务器开始花费越来越多的时间，仅仅为了计算归一化速率以及重新调度旧请求，而不是实际传送内容。该行为对服务于大量客户端的NREDF方法的可扩展性造成了危害。

发明内容

人们注意到，使用归一化速率最早传送最先(NREDF)调度器的内容服务器没有随着客户端请求速率的提高而很好地扩展(scale)，这是因为在允许新请求时，重新调度旧请求的计算开销也增加了。因此，根据本发明的原理，使用归一化速率最早传送最先(NREDF)调度器的内容服务器将重新调度的旧请求的数目限制为阈值。

在本发明的示例实施例中，内容传送系统包括服务于多个客户端请求的至少一个内容服务器。内容服务器使用基于阈值归一化速率最早传送最先(TB-NREDF)调度器。TB-NREDF调度器对重新调度请求的数目施加阈值或限制。因此，内容服务器能够限制重新调度开销，这还允许内容服务器在可扩展性与系统性能之间进行权衡。

在本发明的另一示例实施例中，基于阈值归一化速率最早传送最先(TB-NREDF)方法定义了回顾(look-back)阈值T，回顾阈值T表示要重新调度的旧请求的最大数目。例如，令R(t)表示包括时间t处的任何未完成的旧客户端请求和在时间t处到达的任何新客户端请求在内的请求集合。令Q是R(t)中请求的总数，并且K表示R(t)中旧请求的总数。TB-NREDF方法至多对T个旧请求进行重新调度，其中T<K<Q。因此，对剩余K-T个旧请求的调度不改变。

附图说明

图1-6示出了使用归一化速率最早传送最先调度过程的现有技术内容传送系统；

图7示出了根据本发明原理的内容传送系统的示例方框图；

图8示出了体现本发明原理的内容服务器的示例方框图。

图9示出了根据本发明原理的示例调度集合；

图10示出了根据本发明原理的用于内容服务器中的示例流程图；

以及

图11-13示出了根据本发明原理的用于内容服务器中的另一示例实施例。

具体实施方式

除了本发明构思以外，图中所示的元件是公知的并且将不对其作详细描述。此外，假设熟悉网络(以及其中使用的协议)并且这里不对其作详细描述。例如，除了本发明构思以外，假设熟悉网际协议(IP)、实时传送协议(RTP)、以及传输控制协议(TCP)。同样地，除了本发明构思以外，假设熟悉诸如服务器、边缘节点以及客户端之类的网络部件。类似地，除了本发明构思以外，用于产生比特流的格式化和编码方法，例如运动图像专家组(MPEG)-2系统标准(ISO/IEC 13818-1)以及H.264：International Telecommunication Union，“RecommendationITU-T H.264：Advanced Video Coding for Generic AudiovisualServices，”ITU-T，2003，是公知的，并且不在这里描述。这样，应该注意，以下仅描述并且在图中示出了与现有服务器/客户端系统不同的那部分的本发明构思。还应该注意，可以使用(同样这里未作描述的)传统编程技术来实现本发明构思。最后，图上同样的数字表示同样的元件。

在描述本发明构思之前，首先提供对归一化速率最早传送最先(NREDF)调度过程的简要描述。在这方面，图1中示出了使用NREDF调度过程的内容传送系统。内容传送系统包括：内容服务器20、通信网络10以及一个或更多个客户端(如客户端50-1和50-2表示的)。内容服务器20、客户端50-1和客户端50-2代表基于存储程序控制的(stored-program-control-based)处理器平台。例如，客户端50-1可以是基于微处理器的台式个人计算机，客户端50-2可以是蜂窝电话，而内容服务器20是基于多处理器的(高性能)服务器。示例而言，通信网络10代表互联网，包括如本领域公知的交换(switched)和非交换(non-switched)设施，并且包括例如路由器、边缘节点设备等(全部未在图1中示出)。在该示例中，如从图1中能够观察到的，将内容服务器20表示为位于互联网上某处，并具有关联的网际协议(IP)地址。此外，如图1所示，通信网络10还可以包括内容传送网络(CDN)15。如本领域公知的，CDN是覆盖(overlay)网络(公共的或专用的)，被设计为将内容从内容服务器(提供商)安全传送至客户端，同时降低成本并且提高客户端(终端用户)速度。这样，CDN中的其它服务器也可能能够在内容服务器20的控制下获得(source)请求的内容。该内容的格式可以是静态内容(例如网站(web site)内容、文件)或动态内容(也就是快速改变的内容)和/或流音频/视频(streamingaudio/video)。在图1的情况下，客户端50-1和50-2将针对内容的请求发送至内容服务器20。响应于这些请求，内容服务器20使用NREDF调度过程对传送进行调度，并且经由通过通信网路的路径将请求的内容传送或发送至相应的客户端。例如，经由示例路径11(在该示例中还穿越CDN15)将客户端50-1请求的内容(例如文件)提供给客户端50-1。路径11表示将请求的内容传达给客户端50-1所通过的、通信网络10的任何设施和设备。

现在转向图2，示出了内容服务器20的高层方框图。内容服务器20经由将内容服务器20耦合到互联网10的连接19，接收客户端请求59。内容服务器20包括NREDF调度器60，所述NREDF调度器60对接收的客户端请求59进行处理，并且产生调度集合S(t)70，用于将请求的内容提供给请求客户端。图3和4示出了表示内容服务器20使用的NREDF调度过程的示例流程图。对于NREDF调度过程，使用以下定义：

N＝{n_j，j＝0，...，J}-是网络节点集合，包括一个内容服务器(j＝0)，I个边缘服务器(j＝1，...，I)以及U个客户端(j＝I+1，...，I+U＝J)；

c_i(t)-是第j个节点处的高速缓存(caching)容量，是时变函数；

C_i(t)-是在时间t、第j个节点处的高速缓存(cache)状态集合，也就是高速缓存内容的列表；

-是网络链接集合，其中(j₁，j₂)是从节点j，至节点j₂的链接；

b(i，j，t)-是(i，j)的链接容量，是时变函数；

B(i，j，t)-是在时间t处(i，j)的链接状态，是传输内容的列表；

R(t₀)＝{r_q'q＝1...Q}-是请求集合，表示到时间t＝t₀为止由客户端向内容服务器发出的所有请求，其中：

r_q＝(m_q，d_q，u_q)-是由内容ID、应到时间(due time)以及请求客户端ID表示的请求，以及

m_q-是具有内容大小|m_q|和实时流速率‖m_q‖的内容ID，

d_q-是请求r_q的应到时间，以及

u_q-是产生请求的客户端的客户端ID，根据该客户端ID

能够识别地理位置；

-是针对请求集合R(t₀)的调度集合，其中：

s_q(j₁，j₂)-是针对要在(j₁，j₂)上传输的请求r_q的调度(开始)时间，将其初始化为值0；以及

e_q(j₁，j₂)-是针对要在(j₁，j₂)上传输的请求r_q的调度(结束)时间；如果以速率‖m_q‖来传输请求的内容，则e_q(j₁，j₂)＝s_q(j₁，j₂)+|m-_q|/‖m_q‖；以及

请求r_q的归一化速率v^* _q(t)，其中：

v^* _q(t)＝|m_q|/(d_q-t)。 (1)

在图3的步骤205中，针对请求集合R(t₀)中在时间t₀处的每个客户端请求，内容服务器20根据以上方程(1)，计算归一化速率。在步骤210中，内容服务器20按照客户端请求的、计算的归一化速率的降序，对客户端请求进行排序，以提供排序的客户端请求列表。在步骤215中，内容服务器20根据在排序的客户端请求列表中所示的顺序，对内容进行调度，以进行传送。现在参考图4，示出了步骤215的更详细的流程图。根据在图3的步骤210确定的排序的客户端请求列表，对请求集合R(t₀)中的每个请求r_q执行图4的步骤255至275。因此，根据先前产生的调度矢量{s_x(j，k);x＝0，...，q-1}，进行针对具体请求r_q，{s_q(j，k)，(j，k)

L}的调度。具体地，在图4的步骤255，内容服务器20从排序的客户端请求列表中选择要调度的下一个请求r_q＝(m_q，d_q，u_q)。在步骤260，内容服务器20对可用于获得(source)请求r_q所请求的内容的服务器集合H_q加以识别，其中所述服务器集合包括至少一个服务器，例如内容服务器20。(内容服务器识别可用于获得请求r_q所请求的内容的服务器集合的能力是本领域公知的，这里不作描述)。在该服务器集合H_q中，每个服务器i具有

(针对请求r_q的内容m_q的源)，其中t_i＝max[s_p(j，i)，p<q](服务器i上的高速缓存上次更新的最后时间(lasttime))。在步骤265，内容服务器20找到最短路径，该最短路径提供请求的内容m_q至目的地u_q的最早传送时间。例如，内容服务器20使用多源(multi-source)最短路径算法(例如本领域公知的Dijkstra的算法)，找到从任何服务器

至u_q的最短路径。在步骤270中，如本领域公知的，通过对链接容量和高速缓存容量加以约束，内容服务器找到调度{s_q(j，k)，}，并分别更新所选路径上的链接和服务器的高速缓存{M_i(t)，

}。(应该注意，如果max[s_q(j，k)，

]>d_q，则该调度尝试未能找到针对R(t₀)的调度集合，该过程中途失败(abort)。)最后，在步骤275中，检验是否已处理了所有请求，即，是否q＝Q。如果还存在要调度的请求，也就是q<Q，则递增q的值，也就是q＝q+1，并且针对排序的客户端请求列表中的下一请求，执行返回步骤255。然而，如果已调度了所有请求，则该执行结束。

作为对请求集合R(t₀)中的请求进行调度的结果，内容服务器20创建调度集合，以传送请求的内容。图5中示出了在时间t₀处针对Q个请求的调度集合81的示例表示。内容服务器20根据调度集合81前进到传送内容，其中，如指示降序方向的箭头84所表示的，根据计算的归一化速率，区分各个请求的优先顺序(prioritize)。

然而，在时间t₀之后，新客户端请求可能在时间t到达。此外，在该时间t，，内容服务器20可能已经完成了对先前请求的内容中的一些的传送，但是剩余的客户端请求仍然是待处理的，也就是“旧的”。对于一个或更多个新请求，它们中的一些可能具有比旧请求中的一些更早的应到时间或更大的请求文件大小。由此，可能是以下情况：在时间t，新请求中的一个或更多个的归一化速率可能比旧请求中的一些大。为了使内容服务器20能够服务的请求的数目最大，使用以上描述的NREDF过程，将K个旧请求与时间t的任何新请求一起进行调度。从而，确定了在时间t的新请求集合R(t)，重复在图3和4中示出的过程，以产生用于内容传送的新调度集合83。这在图6中示出，其中已调度了一个或更多个新请求82，并且在新调度集合83中仍然有K个旧请求待处理。仅出于示例目的，在图6中以虚线形式示出了对先前调度的客户端请求的传送，这是因为已经从新调度集合83中丢弃了这些先前调度的客户端请求。

不幸的是，随着客户端请求速率的提高，内容服务器20开始花费越来越多的时间来只是计算归一化速率以及重新调度旧请求，而不是实际地传送内容。从而允许新请求所需要的计算时间成比例地提高了。该行为对服务于大量客户端的NREDF方法的可扩展性造成危害。因此，根据本发明的原理，使用归一化速率最早传送最先(NREDF)调度器的内容服务器将重新调度的旧请求的数目限制至阈值。

现在参考图7，示出了根据本发明原理的示例内容传送系统。内容传送系统包括：内容服务器300、通信网络310、以及一个或更多个客户端(如用客户端50-1和50-2表示的)。内容服务器300、客户端50-1和50-2代表基于存储程序控制的处理器平台。例如，客户端50-1可以是基于微处理器的台式个人计算机，客户端50-2可以是蜂窝电话；而内容服务器300是基于多处理器的(高性能)服务器。例如，通信网络310代表互联网，包括如本领域公知的交换和非交换设施，并且包括例如路由器、边缘节点设备等(全部未在图7中示出)。在该示例中，如能够从图7观察到的，将内容服务器300表示为位于互联网上某处，具有关联的网际协议(IP)地址(未示出)。此外，如图7所示，通信网络310还可以包括内容传送网络(CDN)315。除了本发明构思以外，如本领域公知的，CDN是覆盖(overlay)网络(公共的或专用的)，被设计为将内容从内容服务器(提供商)安全传送至客户端，同时降低成本并且提高客户端(终端用户)速度。这样，CDN中的其它服务器也可能能够在内容服务器20的控制下获得(source)请求的内容。该内容的格式可以是静态内容(例如网站内容、文件)或动态内容(也就是快速改变的内容)和/或流音频/视频(streaming audio/video)。在图7的情况下，客户端50-1和50-2将针对内容的请求发送至内容服务器20。根据本发明原理，响应于这些请求，内容服务器20使用基于阈值归一化速率最早传送最先(TB-NREDF)调度器对传送进行调度。TB-NREDF调度器对重新调度请求的数目施加阈值或限制。因此，内容服务器能够限制重新调度开销，这还允许内容服务器在可扩展性与系统性能之间进行权衡。根据TB-NREDF调度过程，内容服务器20使请求的内容经由通过通信网路的路径被传送至相应的客户端。例如，经由示例路径311(在该示例中还穿越CDN15)将客户端50-1请求的内容(例如文件)提供给客户端50-1。路径311表示将请求的内容传达给客户端50-1所通过的、通信网络10的任何设施和设备。

图8中示出了根据本发明原理的内容服务器300的高层方框图。例如，内容服务器是如图8中虚线框形式示出的处理器390和存储器395所表示的基于软件的处理器。在该情况下，将计算机程序或软件存储在存储器395中以供处理器390执行。处理器390代表一个或更多个存储程序控制处理器，并且不必专用于TB-NREDF调度器功能，例如处理器390还可以控制内容存储器300的其它功能。存储器395代表任何存储设备，例如随机存取存储器(RAM)、只读存储器(ROM)等；可以是处理器390内部和/或外部的；以及如果必要的话是易失性和/或非易失性的。内容服务器300经由将内容服务器320耦合到互联网310的连接319，接收客户端请求59。根据本发明的原理，内容服务器300包括TB-NREDF调度器360，所述TB-NREDF调度器360对接收的客户端请求59进行处理并且产生调度集合S(t)370，以将请求的内容提供给请求客户端。

最初，在时间t₀，内容服务器300根据以上图3和4的流程图中描述的NREDF过程，对请求进行调度，以进行传送。然而，一旦已调度了初始的请求集合，则根据本发明的原理，内容服务器300对重新调度请求的数目加以限制。例如，在时间t，一个或更多个新请求82已到达，并且K个旧请求仍然待传送。基于阈值归一化速率最早传送最先(TB-NREDF)过程定义了回顾阈值T，所述回顾阈值T表示要重新调度的旧请求的最大数目。这样，TB-NREDF方法最多调度T个旧请求，其中T<K。因此，针对剩余的K-T个旧请求的调度不改变。这在图9中针对时间t处的调度集合381示出，其中t>t₀。根据具体系统，可以经验地确定T的具体值。

图10中示出了根据本发明原理的TB-NREDF过程的示例流程图。在步骤405中，TB-NREDF调度器360确定在时间t处的所有旧请求的总数K是否超过阈值T。如果所有旧请求的总数K没有超过阈值T，则在步骤410中，TB-NREDF调度器360对时间t处的所有新请求(也就是尚未调度的那些客户端请求)进行调度，并且对所有旧请求的总数K进行重新调度。然而，如果时间t处的所有旧请求的总数K超过了阈值T，则在步骤415中，TB-NREDF调度器360对时间t处的所有新请求进行调度，并且对旧请求中的T个进行重新调度。从而不对旧请求中的K-T个进行重新调度。

图11、12和13中示出了根据本发明原理的另一示例实施例。同样，假设在时间t₀，调度初始的请求集合R(t₀)以进行传送，这得到相关联的调度集合。在随后的时间t，仍然剩余K个旧请求，并且一个或更多个新请求已经到达。请求集合R(t)中请求的总数等于Q，其中Q等于新请求加上K个旧请求的数目。在该示例中，内容服务器300使用2个附加参数：r_look-back和STATE_look-back。参数r_look-back定义为在调度集合中代表边界的请求，其中超过该边界将重新调度旧请求，即，该请求在这里被称作回顾请求。将回顾请求以下的请求定义为不可重新调度(nonre-schedulable)请求；同时将回顾请求以上的请求定义为可重新调度(re-schedulable)请求。在新请求到达时，与所述新请求一起重新调度可重新调度请求；而不可重新调度请求的调度是固定的，并且将不会对这些不可重新调度请求再进行重新调度。参数r_look-back的空值意味着尚未设置回顾请求；而该参数的非空值表示已经设置了回顾请求。相比之下，将参数STATE_look-back定义为关联的回顾系统状态。具体地，参数STATE_look-back包含在执行了r_look-back之后的链接和边缘服务器的状态。因此，STATE_look-back＝{{c_j}，{C_j}，{b(i，j)}，{B(i，j)}}(之前定义的)。

现在转向图11，该图示出了时间t处的调度集合383。如从图11能够观察到的，将请求之一指定为r_look-back，所述r_look-back描述了在不重新调度的那些请求与要重新调度的那些旧请求之间的边界86。在图12中示出了根据本发明原理的TB-NREDF过程的另一示例流程图。在步骤505中，TB-NREDF调度器360将任何新请求标记为可重新调度请求。在步骤510中，TB-NREDF调度器360构建包括所有可重新调度请求在内的请求集合R(t)。在步骤515中，TB-NREDF调度器360确定r_look-back的当前值。如果参数r_look-back的值为空，则这意味着尚未设置回顾请求。在这种情况下，TB-NREDF过程回复到普通NREDF。在步骤530中，TB-NREDF调度器360对时间t处的所有新请求进行调度(也就是尚未调度的那些客户端请求)，并且对所有旧请求的总数K进行重新调度。然而，如果参数r_look-back的值为非空，则在步骤520中，TB-NREDF调度器360确定是否已传送了指定的回顾请求，即，是否完成了对指定的回顾请求的服务。如果已经传送了指定的回顾请求，则在步骤530中对所有新请求进行调度，并且对所有旧请求进行重新调度。应该注意，因为已经完成了指定的回顾请求，所以未完成的旧请求的数目将小于T。另一方面，如果在步骤520中，TB-NREDF调度器360确定尚未完成指定的回顾请求，则TB-NREDF调度器360对请求集合进行处理。具体地，在步骤525中，为了从请求r_look-back开始，TB-NREDF调度器360设置STATE_look-back，作为当前系统状态；并且在步骤530中，TB-NREDF调度器360对时间t处的所有新请求进行调度，并且对旧请求中的T个进行重新调度。从而，没有重新调度旧请求中的K-T个。

作为图12流程图的另一示例，在图13中示出了伪码。从图13伪码的步骤13、14和15能够观察到，如果请求的总数Q(新请求加上旧请求)大于阈值T，并且当前请求值q小于或等于(Q-T)，则在步骤14中指定作为回顾请求的请求，并且在步骤15中存储相应的状态。

如以上描述的，内容服务器限制(bound)重新调度请求的数目，从而提供了为更高客户端请求速率进行服务的能力。这是在使用TB-NREDF过程的内容服务器的情况下，在以上描述中示出的。在该示例中，与图1-6所示的使用无边界(unbound)NREDF过程的内容服务器相比，使用TB-NREDF过程的内容服务器提供了为更高客户端请求速率进行服务的能力。然而，应该注意，因为可以不对归一化速率比新请求小的一些旧请求进行重新调度，所以相比NREDF过程，TB-NREDF过程可以通过允许更少的请求，降低了系统性能。无论如何，TB-NREDF使能内容服务器能够对重新调度开销加以限制，从而允许内容服务器对可扩展性与系统性能进行权衡。

鉴于以上描述，前述内容仅示出了本发明的原理，将认识到，本领域技术人员将能够设计出许多可选的配置，这些配置尽管这里未作明确描述，但是体现了本发明的原理并且在本发明的精神和范围之内。例如，尽管在分离的功能元件的情况下进行阐释了，但是可以在一个或更多个集成电路(IC)中体现这些功能元件。类似地，尽管作为分离的元件示出，然而可以在存储程序控制的处理器(例如数字信号处理器)中实现元件中的任何元件或全部元件，该存储程序控制的处理器(例如数字信号处理器)执行相关软件，例如与图10、12和13等中示出的步骤中的一个或更多个相对应的。此外，本发明原理可用于其它类型的通信系统，例如卫星、无线保真(Wireless-Fidelity)(Wi-Fi)、蜂窝、蓝牙等、及其组合。例如，分布式通信网络可以包括有线和无线连接。事实上，本发明构思还可用于固定或移动的内容服务器。因此将理解，在不脱离权利要求所定义的本发明精神和范围的情况下，可以对示例性实施例进行许多修改以及可以设计其它配置。

Claims

1、一种在提供服务中使用的方法，该方法包括：

接收针对所述服务的至少一个新请求；以及

为进行传送，对所述至少一个新请求和任何旧请求进行调度，以使重新调度的旧请求的数目被限制为阈值。

2、根据权利要求1的方法，其中，调度步骤包括：

为进行传送，对所述至少一个新请求进行调度；

确定旧请求的数目K；以及

如果旧请求的数目大于阈值，则至多对阈值数目的旧请求进行重新调度，以进行传送。

3、根据权利要求1的方法，其中，所述至少一个新请求和任何旧请求构成请求集合，并且调度步骤包括：

确定是否在请求集合中设置了回顾请求；

如果尚未设置回顾请求，则确定调度集合，以便对所有旧请求进行重新调度；

如果设置了回顾请求并且尚未传送该回顾请求，则至多对阈值数目的旧请求进行重新调度，以进行传送。

4、根据权利要求1的方法，其中，调度步骤执行基于阈值的基于阈值归一化速率最早传送最先(TB-NREDF)。

5、根据权利要求1的方法，其中，所述服务传送内容。

6、根据权利要求5的方法，其中，所述内容是文件。

7、根据权利要求5的方法，其中，所述内容是流视频。

8、一种在将服务提供给请求客户端的过程中使用的设备，该设备包括：

处理器，所述处理器通过对针对服务的至少一个新请求进行调度，并为进行传送，对任何旧请求进行重新调度，以使重新调度的旧请求的数目被限制为阈值，来将用于传送服务的调度集合提供给请求客户端；以及

存储器，用于存储所提供的调度集合。

9、根据权利要求8的设备，其中，所述处理器：(a)对所述至少一个新请求进行调度，以进行传送；(b)确定旧请求的数目K；以及(c)如果旧请求的数目大于阈值，至多对阈值数目的旧请求进行重新调度，以进行传送。

10、根据权利要求8的设备，其中，所述至少一个新请求和任何旧请求构成请求集合，

所述处理器：(a)确定是否在请求集合中设置了回顾请求；(b)如果尚未设置回顾请求，则确定调度集合，以便对所有旧请求进行重新调度；以及(c)如果设置了回顾请求并且尚未传送该回顾请求，则至多对阈值数目的旧请求进行重新调度，以进行传送。

11、根据权利要求8的设备，其中，处理器执行基于阈值的基于阈值归一化速率最早传送最先(TB-NREDF)。

12、根据权利要求8的设备，其中，所述服务传送内容。

13、根据权利要求12的设备，其中，所述内容是文件。

14、根据权利要求12的设备，其中，所述内容是流视频。

15、一种计算机可读介质，具有针对基于处理器的系统的计算机可执行指令，当执行该计算机可执行指令时，所述基于处理器的系统响应于针对一个或多个服务的请求，执行对传送进行调度的方法，该方法包括：

接收针对所述服务的至少一个新请求；以及

16、根据权利要求15的计算机可读介质，其中，调度步骤包括：

为进行传送，对所述至少一个新请求进行调度；

确定旧请求的数目K；以及

17、根据权利要求15的计算机可读介质，其中，所述至少一个新请求和任何旧请求构成请求集合，并且调度步骤包括：

确定是否在请求集合中设置了回顾请求；

18、根据权利要求15的计算机可读介质，其中，调度步骤执行基于阈值的基于阈值归一化速率最早传送最先(TB-NREDF)。

19、根据权利要求15的计算机可读介质，其中，所述一个或更多个服务传送内容。

20、根据权利要求19的计算机可读介质，其中，所述内容是文件。

21、根据权利要求19的计算机可读介质，其中，所述内容是流视频。