CN105393509B - 跨多个用户控制带宽用于交互式服务 - Google Patents
跨多个用户控制带宽用于交互式服务 Download PDFInfo
- Publication number
- CN105393509B CN105393509B CN201480035484.1A CN201480035484A CN105393509B CN 105393509 B CN105393509 B CN 105393509B CN 201480035484 A CN201480035484 A CN 201480035484A CN 105393509 B CN105393509 B CN 105393509B
- Authority
- CN
- China
- Prior art keywords
- token
- bandwidth
- connection
- management service
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000002452 interceptive effect Effects 0.000 title description 2
- 230000005540 biological transmission Effects 0.000 claims abstract description 21
- 238000012546 transfer Methods 0.000 claims abstract description 21
- 238000009826 distribution Methods 0.000 claims abstract description 16
- 238000000034 method Methods 0.000 claims description 42
- 238000003860 storage Methods 0.000 claims description 19
- 230000002776 aggregation Effects 0.000 claims description 16
- 238000004220 aggregation Methods 0.000 claims description 16
- 238000005259 measurement Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 8
- 238000012544 monitoring process Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 5
- 230000009172 bursting Effects 0.000 description 3
- PEDCQBHIVMGVHV-UHFFFAOYSA-N Glycerine Chemical compound OCC(O)CO PEDCQBHIVMGVHV-UHFFFAOYSA-N 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 229910002056 binary alloy Inorganic materials 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 125000000524 functional group Chemical group 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/215—Flow control; Congestion control using token-bucket
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/72—Admission control; Resource allocation using reservation actions during connection setup
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/20—Traffic policing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/76—Admission control; Resource allocation using dynamic resource allocation, e.g. in-call renegotiation requested by the user or requested by the network in response to changing network conditions
- H04L47/762—Admission control; Resource allocation using dynamic resource allocation, e.g. in-call renegotiation requested by the user or requested by the network in response to changing network conditions triggered by the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/80—Actions related to the user profile or the type of traffic
- H04L47/805—QOS or priority aware
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/82—Miscellaneous aspects
- H04L47/828—Allocation of resources per group of connections, e.g. per group of users
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/83—Admission control; Resource allocation based on usage prediction
Abstract
各实施例涉及使用基于令牌的贷和借方案来控制带宽使用并允许连接使用令牌信用来临时超过带宽分配。在一个情形中,带宽管理服务接收建立与网络的连接的请求。该连接与作为订阅的部分的各种各样的订户相关联。该带宽管理服务将令牌分配到连接,令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务接收来自逻辑用户的跨网络连接传输数据的数据传输请求,其中该数据传输请求包括被分派的令牌的至少一些令牌。该带宽管理服务还向连接分配与数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽。
Description
技术领域
本申请涉及控制带宽,尤其涉及用于使用基于令牌的贷和借方案控制带宽使用的方法和使用令牌信用允许连接临时超过带宽分配的方法。
背景技术
计算机已经变得高度集成到工作、家庭、移动设备以及许多其他方面中。计算机可以快速地并且有效率地处理巨量的信息。被设计为在计算机系统上运行的软件应用程序允许用户执行各种功能,包括业务应用程序、作业、娱乐等等。软件应用程序常常被设计用于执行特定任务,诸如用于起草文档的文字处理器应用程序,或用于发送、接收和组织电子邮件的电子邮件程序。
在一些情况下,软件应用被设计成在云上运行。例如,远程桌面应用可由面向私人或面向公共的云计算主机来提供。这些远程应用通常被提供给已经订阅了访问及使用那些应用的用户。用户对这些应用的访问通常被计量,被传输的数据的每个部分被测量并计数。为防止用户消费太多带宽,他们的连接常常被扼流,导致潜在地降级了的体验。
发明内容
在此描述的各实施例涉及使用基于令牌的贷和借方案来控制带宽使用并允许连接使用令牌信用临时超过带宽分配。在一个实施例中,带宽管理服务接收建立与网络的连接的请求。该连接与作为订阅的部分的各种各样的订户相关联。带宽管理服务将令牌分派到该连接,令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务接收来自逻辑用户的跨网络连接传输数据的数据传输请求,其中该数据传输请求包括被分派的令牌的至少一些令牌。该带宽管理服务还向该连接分配与数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽。在某些情况中,带宽管理服务进一步跨指定时间段执行对该连接的数据使用的监视,并在确定该连接非常可能要请求后续附加令牌之际分发令牌。
在另一实施例中,计算机系统执行用于允许连接使用令牌信用临时超过带宽分配的方法。计算机系统确定带宽管理服务已经被实例化。该带宽管理服务被配置用于向请求连接分派令牌,其中令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务确定指定的连接跨指定的时间段使用了少于被分配的、聚集的带宽量,并存储分配到该连接的令牌。如此,令牌形成信用,用于数据传输的带宽要被从中提取。带宽管理服务还接收来自该连接的数据请求,数据请求包括存储的令牌中的至少一些令牌,指示信用要被用于接收针对数据传输的带宽分配。该带宽管理服务还向连接分配与数据传输请求中所接收的所存储的令牌相称的指定量的网络带宽。
提供本概述以便以简化形式介绍将在以下详细描述中进一步描述的一些概念。该概述不旨在标识所要求保护的主题的关键特征或基本特征,也不旨在被用来帮助确定所要求保护的主题的范围。
本发明的附加特征和优点将在以下描述中叙述,且其一部分根据本描述对本领域的技术人员将是显而易见的,或可通过对此处的原理的实践来获知。此处所描述的各实施例的特征和优点可通过在所附权利要求书中特别指出的工具和组合来实现和获得。通过下列描述以及所附的权利要求,,此处所描述的各实施例的特征将变得更加显而易见。
附图说明
为进一步阐明此处所描述的各实施例的上述及其他特征,将参考附图,呈现更具体的描述。应该理解,这些附图只描述了此处所描述的各实施例的示例,因此,不应该被视为限制其范围。将通过使用附图并利用附加特征和细节来描述和解释各实施例,在附图中:
图1示出了本文所描述的各实施例可以在其中操作(包括使用基于令牌的贷和借方案来控制带宽使用)的计算机体系结构。
图2示出了用于使用基于令牌的贷和借方案来控制带宽使用的示例方法的流程图。
图3示出了用于允许连接使用令牌信用临时超过带宽分配的示例方法的流程图。
图4示出了其中实现目标带宽速率的实施例。
具体实施方式
在此描述的各实施例涉及使用基于令牌的贷和借方案来控制带宽使用并允许连接使用令牌信用来临时超过带宽分配。在一个实施例中,带宽管理服务接收建立与网络的连接的请求。该连接与作为订阅的部分的各种各样的订户相关联。带宽管理服务将令牌分派到连接,令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务接收来自逻辑用户的跨网络连接传输数据的数据传输请求,其中该数据传输请求包括被分派的令牌的至少一些令牌。该带宽管理服务还向连接分配与数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽。在某些情况中,带宽管理服务进一步跨指定时间段执行对该连接的数据使用的监视,并在确定该连接非常可能要请求后续附加令牌之际分发令牌。
在另一实施例中,计算机系统执行用于允许连接使用令牌信用临时超过带宽分配的方法。计算机系统确定带宽管理服务已经被实例化。该带宽管理服务被配置用于向请求连接分派令牌,其中令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务确定指定的连接跨指定的时间段使用了少于被分配的、聚集的带宽量,并存储分配到连接的令牌。如此,令牌形成信用,用于数据传输的带宽要被从中提取。带宽管理服务还接收来自连接的数据请求,其包括至少某些存储的令牌,指示信用要被用于接收为数据传输分配的带宽。该带宽管理服务还向连接分配与数据请求中所接收的所存储的令牌的相称的指定量的网络带宽。
下面的讨论现在涉及可被执行的多个方法和方法动作。值得注意的是,虽然可以以某一顺序讨论或在流程图中按特定顺序发生而示出了方法动作,但是,没有特定顺序是一定需要的,除非特别声明,或者是必需的,因为在一个动作被执行之前该动作取决于另一动作被完成。
本文中描述的各实施例可包括或利用专用或通用计算机,该专用或通用计算机包括诸如例如一个或多个处理器和系统存储器等计算机硬件,如以下更详细讨论的本文中描述的各实施例还包括用于承载或存储计算机可执行指令和/或数据结构的物理和其他计算机可读介质。这样的计算机可读介质可以是可由通用或专用计算机系统访问的任何可用介质。以数据的形式存储计算机可执行指令的计算机可读介质是计算机存储介质。承载计算机可执行指令的计算机可读介质是传输介质。由此,作为示例而非限制,本文中描述的各实施例可包括至少两种显著不同的计算机可读介质:计算机存储介质和传输介质。
计算机存储介质包括RAM、ROM、EPROM、EEPROM、CD-ROM、基于RAM的固态驱动器(SSD)、闪存、相变存储器(PCM)或其他类型的存储器,或其他光盘存储、磁盘存储、或前台磁存储设备,或可被用来存储计算机可执行指令、数据、或数据结构的形式的所需程序代码装置且可由通用或专用计算机访问的任何其他介质。
“网络”被定义成允许在计算机系统和/或模块和/或其他电子设备之间传输电子数据的一个或多个数据链路和/或数据交换机。当信息通过网络(硬连线、无线、或者硬连线或无线的组合)传输或提供给计算机时,该计算机将该连接适当地视为传输介质。传输介质可包括可用于携带计算机可执行指令或数据结构形式的数据或所需程序代码装置且可由通用或专用计算机访问的网络。上述的组合应当也被包括在计算机可读介质的范围内。
此外,在到达各种计算机系统组件之后,计算机可执行指令或数据结构形式的程序代码资料可从传输介质自动传输到计算机存储介质(或反之亦然)。例如,通过网络或数据链路接收到的计算机可执行指令或数据结构可被缓冲在网络接口模块(例如,网络接口卡或“NIC”)内的RAM中,然后最终被传输给计算机系统RAM和/或计算机系统处的较不易失性的计算机存储介质。因而,应当理解,计算机存储介质可被包括在还利用(或甚至主要利用)传输介质的计算机系统组件中。
计算机可执行的(或计算机可解释的)指令包括,例如使通用计算机、专用计算机,或专用处理设备执行某一功能或功能组的指令。计算机可执行指令可以是例如二进制代码、诸如汇编语言之类的中间格式指令、或甚至源代码。尽管用结构特征和/或方法动作专用的语言描述了本主题,但可以理解,所附权利要求书中定义的主题不必限于上述特征或动作。相反,上述特征和动作是作为实现权利要求的示例形式而公开的。
本领域的技术人员将理解,各实施例可以在具有许多类型的计算机系统配置的网络计算环境中实践,这些计算机系统配置包括个人计算机、台式计算机、膝上型计算机、消息处理器、手持式设备、多处理器系统、基于微处理器的或可编程消费电子设备、网络PC、小型计算机、大型计算机、移动电话、PDA、平板、寻呼机、路由器、交换机等等。此处所描述的各实施例也可在其中通过网络链接(或者通过硬连线数据链路、无线数据链路,或者通过硬连线和无线数据链路的组合)的本地和远程计算机系统各自都执行任务(例如,云计算、云服务等等)的分布式系统环境中实施。在分布式系统环境中,程序模块可以位于本地和远程存储器存储设备二者中。
在该说明书和下面的权利要求书中,“云计算”被定义为用于允许对可配置计算资源(例如,网络、服务器、存储、应用和服务)的共享池的按需网络访问的模型。“云计算”的定义不限于可从这样的模型(在被合适地部署时)中获得的任何其他多个优点。
例如,云计算当前用于市场中,以便提供对可配置的计算资源的共享的池的无所不在的并且方便的按需的访问。此外,可配置的计算资源的共享的池还可以通过虚拟化快速地提供,利用低的管理努力或服务提供商交互,释放,然后,相应地缩放。
云计算模型可以由各种特征构成,诸如按需自助、宽的网络接入、资源汇聚、快速的弹性、测量的服务,以此类推。云计算模型还可形成各种服务模型,诸如例如软件即服务(“SaaS”)、平台即服务(“PaaS”)以及基础结构即服务(“IaaS”)。也可以使用不同的部署模型,诸如私有的云、社区云、公开的云、混合型云,等等,来部署云计算模型。在该描述和权利要求书中,“云计算环境”是其中采用了云计算的环境。
除此之外或作为替代,本文所述的功能可至少部分地由一个或多个硬件逻辑组件来执行。例如,并且但不仅限于,可以使用的硬件逻辑组件的说明性类型包括现场可编程门阵列(FPGA)、程序特定的集成电路(ASIC)、程序特定的标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑器件(CPLD),及其他类型的可编程硬件。
更进一步,此处所描述的系统架构可包括多个独立组件,每一组件都对作为整体的系统的功能有贡献。当开始考虑平台可缩放性的问题时,此模块性允许提高灵活性,为此,提供各种优点。可以通过使用带有有限的功能范围的较小规模部件,比较轻松地管理系统复杂性和增长。通过使用这些松散耦合的模块,增强平台容错。随着业务需要规定,单个组件可以增量地增长。对于新的功能,模块化开发还转换为缩短的上市时间。可以添加或减去新功能,而不会影响核心系统。
图1示出了其中可以使用至少一个实施例的计算机体系结构100。计算机架构100包括计算机系统101。计算机系统101可以是任何类型的本地或分布式计算机系统,包括云计算系统。该计算机系统包括用于执行各种不同的功能的模块。例如,带宽管理服务105可被用于监视和/或管理特定用户或用户组的带宽使用。这些用户可以是由云(例如,经由网络111)提供的特定应用或应用集合的订户。订户103可因此具有订阅102以经由网络访问云服务(或其它数据)。订阅可包括使用限制,包括每个订户或每个订户组被允许的带宽的量。带宽的量可以是跨一段时间使用的总量(例如,10GB),或它可以是跨一段时间聚集的平均速率(10Mbps)。典型地,当在此提及带宽的量时,旨在是后者,聚集的速率。
在某些情况中,用户可能需要使用比通过他们的订阅分配给他们的带宽更多的带宽。例如,远程桌面或远程桌面应用在初始化和应用或桌面的加载期间通常预先使用大量带宽。但在初始加载之后,数据使用趋向于低得多,并且本质上是猝发性的。因此,令牌分派模块106可被使用来提供与令牌113A的连接,其允许订户预先接收比订阅102原本准许的更多的数据。每个令牌用作所存储的带宽的值,在带宽分派模块108处可兑换基本上立即的带宽。因此,如果用户在一段时间使用很少带宽,那么该用户可构建许多令牌,在以后的时间可用来兑换带宽。类似地,如果用户需要借用令牌来“支付”数据猝发(用户对于此没有令牌),那么用户可借用令牌并且稍后在一段时间低带宽使用之后将它们返还。
带宽分派模块108可因此基于令牌将带宽分派到订户103(即,到他们的网络连接(例如112A))。这些令牌从代表网络111上的可用带宽的池的令牌池107被分派出去给网络连接(例如112A或112B)。将理解,网络111可以是任何类型的本地或分布式网络,由基本上任何类型的硬件(包括路由器、交换机、网关、集线器或其它设备)管理。因此,基于令牌的贷/借方案可被实现管理网络上的带宽使用。基于令牌的贷/借方案可被应用到单独的用户或订户,或可在订阅基础上被应用。基于令牌的贷/借方案允许未使用的数据在猝发期间被贷记,并且它还允许活跃用户从不活跃用户取得数据使用信用。以此方式,响应经历可被提供给订户,同时降低并限制整体带宽开销。
在此包括的各实施例描述跨订阅应用数据使用限制,允许活跃用户取得非活跃用户的带宽共享同时保持在订阅的限制内,并允许用户从安静时段借用并发送数据猝发(其在给定时刻中可能超过订阅限制,但遵守聚集中的订阅限制)。因此,可提供测量跨订阅(例如102)的全部用户的聚集数据使用并且,在测量聚集带宽使用之际,管理用户的未来带宽使用。该系统可被自动应用或由操作者手动应用。下面将分别进一步参考图2和3的方法200和300来说明这些概念。
鉴于上文所描述的系统和架构,参考图2和3的流程图,将更好地理解可以根据所公开的主题实现的方法。为了简洁起见,作为一系列框示出和描述了方法。然而,应了解和明白,所要求保护的主题不受方框的顺序的限制,因为某些方框可以按不同的顺序进行,和/或与此处所描绘和描述的其他方框同时进行。此外,并非所有的所示出的方框都是实现下面所描述的方法所必需的。
图2示出了用于使用基于令牌的贷和借方案来控制带宽使用的方法200的流程图。现在将频繁地参考环境100的组件以及数据来描述方法200。
方法200包括在带宽管理服务处接收建立与网络的连接的请求的动作,该连接与作为订阅的一部分的一个或多个订户相关联(动作210)。例如,带宽管理服务105可接收来自订户103之一的订户连接请求104。该连接请求104指示订户希望建立到网络111的连接。在某些情况中,订户可以是一组订户的部分,他们共享到web服务、基于云的应用、远程桌面应用或其它网络提供的资源的公共订阅。
方法200还包括带宽管理服务将一个或多个令牌分派到连接,令牌从代表网络的总可用带宽的令牌池中被分发的动作(动作220)。令牌分派模块106可将令牌(例如113A、113B、116)分派到订户103使用的不同连接。令牌从代表网络111的总可用带宽的令牌池107中被分发。在某些情况中,在确定数据读取请求已经在连接的套接处被接收之际,带宽管理器可将令牌113A/113B分派到连接。如本领域技术人员将理解的,每个网络连接具有套接,其通过套接来接收并发送数据。该套接可因此接收数据,诸如数据读取请求或数据传输请求115。带宽管理服务105从套接(或从任何类型的用户)接收数据传输请求115(动作230)。事实上,数据传输请求可从任何类型的逻辑用户接收,包括管理员、终端用户或跨网络连接的软件应用。计算机系统101接着分析请求以确定请求中包括多少被分派的令牌116。
基于该数据请求115中包括的令牌116的数量,该带宽管理服务105向连接(例如112A)分配与数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽(动作240)。因此,如果包括在请求中的被分派的令牌116的数量是大的数量,那么将为那个数据连接分配大量带宽。反过来,如果较少量的被分派的令牌116被包括在数据传输请求115中,那么较少量带宽将被分配到那个数据连接(例如,112A)。至少在某些实施例中,带宽管理服务105仅向活动连接分派令牌。然而,具有分派给它们的令牌的连接甚至可在不活动时保留它们的令牌。这些令牌可被存储并在稍后时间使用以在连接处接收带宽。
连接监视模块109和/或带宽管理服务105可被配置来监视连接(112A/112B)的空闲时间。接着,基于监视(和/或可被存储在本地或分布式数据存储118中的先前使用历史110),带宽管理服务105可向空闲连接分派与连接空闲的时间量相称的令牌信用。因此,如果连接空闲了相对长的时间量,它将被分派更多令牌信用,并且如果连接仅空闲相对短的时间量,它将被分派较少的令牌信用。这个过程可随新连接被建立而动态执行。因此,空闲连接可自动增加令牌信用,其可被用于稍后时间的数据流量猝发。使用令牌,该连接可超过其订阅分配一受限时间,并且仍使其聚集带宽使用与其订阅中指定的量一致(例如,在一月上聚集的10Mbps平均)。
方法200还包括可选动作:带宽管理服务跨一指定时间段监视连接的数据使用(动作250)。如上所述,连接监视模块109或带宽管理服务105可跨特定时间帧监视任何连接的数据使用。在确定连接非常可能请求后续附加令牌之际,带宽管理服务可接着分发令牌(动作260)。因此,例如,如果连接在过去一贯使用大量带宽,或至少已经使用了一贯的大量带宽,该带宽管理服务可确定连接非常可能要在将来请求令牌。在这样的情况中,带宽管理服务105可向那个连接优先分派令牌。作为结果,连接将不必等待被分配附加的令牌,因为带宽管理服务将已经分派了它们。
如上所述,某些应用(包括远程桌面应用或web服务)是固有的猝发性的。这些应用预先需要较大量数据114A/114B用于初始化,而需要小得多的量的数据来维持连接并与应用进行交互。在这样的情况中,指定量的附加带宽可被提供到新连接(例如112B)以允许连接初始化。该附加带宽可从令牌池107中被借用。该带宽管理服务可动态调节分派116到每个连接112A/112B的令牌的数量。该调节可以定义的速率实现,即使连接的数量改变。
例如,在图4中,图表401在x轴上示出了用户(订户103)的数量403,并在y轴上示出了目标带宽速率402(例如10Mbps)。该带宽管理服务105可以按定义的斜率来向上调节分派的令牌的数量。在图4中,斜率被定义为1Mbps/会话(404)。因此,在图4的示例中,目标带宽速率将每个新用户(即每个新连接)增加1Mbps。类似地,目标带宽速率将每个终止连接减少1Mbps。应当注意,为图4所示示例选择的数量是任意的,并且实际上任何数量可被用于目标带宽速率,或用于所打算的斜率。事实上,斜率可以不是线性的,并且可随用户数量的增加或减少对数地或根据某其它速率来增加或减少。
还应当注意,聚集的数据的量可跨指定时间段被确定。例如,如果指定时间段是一个月,订户有整个月来达到聚集的量(即以Mbps或Gbps,或某种其它度量计算)。因此,如果订户一个月达20天不使用他们的连接,他们将能够在该月余下的8-11天里使用他们自然增长的令牌使用分配的带宽的整个月的价值。在这样的情况中,如果订户在最后8-11天要超过他们的订阅分配,该带宽管理服务105将从不活动连接借用令牌来确保活动连接具有足够带宽。在订阅具有特定分配(例如50Mbps/月)且那个订阅具有多个用户的情况中,为订户聚集的带宽跨那个订阅的用户的每一个用户来测量。因此,那个订阅102中的订户103中的某些重数据用户可接收到更多带宽,而轻数据用户可接收较少带宽。超过订阅分配将在下文参考图3进一步解释。
图3示出了用于使用令牌信用允许连接临时超过带宽分配的方法300的流程图。现在将频繁地参考环境100的组件以及数据来描述方法300。
方法300包括以下动作(动作310):确定带宽管理服务已经被实例化,该带宽管理服务被配置来将令牌分派到请求的连接,令牌从代表网络的总可用带宽的令牌池中被分发。该带宽管理服务105或令牌分派模块106可将令牌(例如113A)分派到连接(例如112A)。令牌从令牌池107中被分派。该带宽管理服务105可接着确定指定的连接跨指定的时间段使用了少于被分配的、聚集的带宽量(动作320)。例如,连接112B可能在一周时间内传输了远小于分配的25Mbps。带宽管理服务105存储分配给该连接的令牌,其形成信用,用于数据传输的带宽要被从中提取(动作330)。这些信用可保持休眠一段非指定量的时间,并接着在需要时使用。这些存储的令牌可允许用户临时超过他们被分配的带宽达令牌116指示的量。
方法300还包括带宽管理服务105接收来自该连接的数据请求115的动作,该数据请求包括一个或多个存储的令牌116,指示信用要被用于接收针对数据传输的带宽分配(动作340)。该带宽管理服务105可接着向连该接分配与数据请求中所接收的被存储的令牌相称的指定量的网络带宽(动作350)。这一带宽可被分配给该连接(例如112B),即使该连接临时超过其带宽分配。在这样的情况中,在连接的数据传输速率将更低时,该连接对后续时间借用带宽令牌。因此,当跨网络111提供的应用被初始化时,附加的数据可跨该连接被传输,其后数据流量可能变慢。当带宽分派模块108将特定量的带宽分派到连接时,它可向那个连接(或发起该连接的订户)发送被分派的带宽的量的指示117。
在某些情况中,带宽分派模块108可查看该连接的数据使用历史110来探知该连接过去已经使用了多少数据,以及数据何时被传输。带宽分派模块108还可确定该连接的数据使用的一个或多个度量,诸如加权平均。接着,基于所确定的度量(例如,加权平均),带宽管理服务105可跨指定时间段逐渐地升高或降低该连接的数据使用到指定的聚集数据使用。
如图4所示,以及如上所解释的,这一调节(向下或向上)可根据预定义的斜率或速率来执行,使得通过网络111在聚集中被允许的目标带宽速率402与连接或用户403的数量一道被调节。如此,在斜率是线性的情况下,连接的数据使用根据定义的向上或向下斜率可被均匀地增加或减少。在某些情况中,还应当注意,可实现地板,使得被许可的聚集带宽不低于最小量或最小速率。例如,在图4中,地板是10Mbps,并且这是允许的数据量,即使不到10个用户连接。以此方式,带宽管理服务105可为递送基于云的应用或服务中涉及的带宽提供成本控制,而在需要时允许数据猝发超过被分配的量。
应当进一步注意,至少在某些实施例中,带宽配额可跨多个订户并跨多个订阅来实施。例如,某公司或其它实体可具有到特定网络111或主存在那个网络上的应用集合的多个订阅。那些订阅的每一个订阅可允许许多不同用户访问网络111和/或主存其上的应用。带宽管理服务105可被配置来使用令牌池跨各订户实施带宽配额。事实上,该带宽管理服务105将令牌113A/113B分派到所建立的网络连接的每个连接112A/112B。那么,随着从(同一或不同订阅的)各种各样订户接收数据请求,带宽管理服务105根据数据请求中出现的令牌来将带宽分配到连接。带宽管理服务105可因此可对多个订户和多个订阅实施带宽限制或配额。
再进一步,如果在服务质量协议(QoS)中指示了,则带宽管理服务105可向特定用户提供更高的带宽份额。例如,订户103可建立与网络111的QoS协议,指示将为那个订户的连接确保特定级别的服务。那么,当该订户正在消费数据时,带宽管理服务105可确保QoS被维持。带宽管理服务105可跨特定订阅内的各订户维持这些带宽配额或QoS协议,和/或跨各订阅维持配额和QoS协议。因此,不管订阅或作为订阅的部分的订户的数量,带宽管理服务105可设置并维持带宽配额或限制,并在QoS协议就绪时可进一步向各订阅提供更高带宽分配。
因此,提供了使用基于令牌的贷和借方案控制带宽使用的方法、系统和计算机程序产品。此外,提供了允许各连接使用所存储的令牌信用来临时超过带宽分配的方法、系统和计算机程序产品。
此处所描述的概念和特征可以以其他特定形式实现,而不背离其精神或描述性的特征。所描述的实施例在所有方面都应被认为仅是说明性而非限制性的。从而,本发明的范围由所附权利要求书而非前述描述指示。落入权利要求书的等效方案的含义和范围内的所有改变应被权利要求书的范围所涵盖。
Claims (9)
1.一种用于使用基于令牌的贷和借方案控制带宽使用的方法,所述方法包括以下:
在带宽管理服务处,接收建立与网络的连接的请求的动作,所述连接与作为订阅的一部分的一个或多个订户相关联;
所述带宽管理服务将一个或多个令牌分派到所述连接的动作,所述令牌从代表所述网络的总可用带宽的令牌池中被分发;
所述带宽管理服务接收来自逻辑用户的在所述网络连接传输数据的数据传输请求的动作,所述数据传输请求包括一个或多个被分派的令牌;以及
所述带宽管理服务向所述连接分配与所述数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽的动作;
其中,所述带宽管理服务向空闲连接分派与所述连接空闲的时间量相称的令牌信用,直至预定义的最大数量的令牌。
2.如权利要求1所述的方法,其特征在于,在确定数据读取请求已经在所述连接的套接处被接收之际,所述带宽管理服务将一个或多个令牌分派到所述连接。
3.如权利要求1所述的方法,其特征在于,所述带宽管理服务监视所述连接中的一个或多个连接上的空闲时间。
4.如权利要求1所述的方法,其特征在于,进一步包括:
所述带宽管理服务跨一指定时间段监视所述连接的数据使用的动作;
存储所监视的所述连接的带宽使用的动作;
访问所存储的所述连接的带宽使用以确定所述连接是否非常可能请求后续附加令牌的动作;以及
在确定所述连接非常可能请求后续附加令牌之际,所述带宽管理服务将一个或多个令牌分发到所述连接的动作。
5.一种使用令牌信用允许连接临时超过带宽分配的方法,所述方法包括以下:
确定带宽管理服务已经被实例化的动作,所述带宽管理服务被配置来将令牌分派到请求的连接,所述令牌从代表网络的总可用带宽的令牌池中被分发;
所述带宽管理服务确定指定的连接在指定的时间段使用了少于被分配的、聚集的带宽量的动作;
所述带宽管理服务存储分配给所述连接的一个或多个令牌的动作,所述令牌形成信用,用于数据传输的带宽要从中被提取;
所述带宽管理服务接收来自逻辑用户的数据请求的动作,所述数据请求包括一个或多个存储的令牌,所述令牌指示信用要被用于接收针对数据传输的带宽分配;以及
所述带宽管理服务向所述连接分配与所述数据请求中所接收的被存储的令牌相称的指定量的网络带宽的动作。
6.如权利要求5所述的方法,其特征在于,进一步包括:
访问所述连接的数据使用历史的一个或多个部分的动作;以及
确定所述连接的数据使用的度量的动作。
7.如权利要求6所述的方法,其特征在于,进一步包括:所述带宽管理服务跨指定时间段逐渐地降低所述连接的数据使用到指定的聚集数据使用的动作。
8.一种用于使用基于令牌的贷和借方案控制带宽使用的方法,所述方法包括以下:
在带宽管理服务处,接收建立与网络的第一连接的请求的动作,所述第一连接与作为第一订阅的一部分的一个或多个订户相关联;
所述带宽管理服务将一个或多个令牌分派到所述第一连接的动作,所述令牌从代表所述网络的总可用带宽的令牌池中被分发;
在所述带宽管理服务处,接收建立与网络的第二连接的请求的动作,所述第二连接与作为第二个不同订阅的一部分的一个或多个订户相关联;
所述带宽管理服务将一个或多个令牌分派到所述第二连接的动作,所述令牌从所述令牌池中被分发;
所述带宽管理服务接收来自第一订阅的第一订户的在所述第一连接传输数据的数据传输请求的动作,所述数据传输请求包括一个或多个被分派的令牌;
所述带宽管理服务接收来自第二订阅的订户的在所述第二连接传输数据的数据传输请求的动作,所述数据传输请求包括一个或多个被分派的令牌;
所述带宽管理服务向所述第一连接分配与来自所述第一订户的所述数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽的动作;以及
所述带宽管理服务向所述第二连接分配与来自所述第二订户的所述数据传输请求中所提供的被分派的令牌的数量相称的指定量的带宽的动作;
其中,所述带宽管理服务向空闲连接分派与所述连接空闲的时间量相称的令牌信用,直至预定义的最大数量的令牌。
9.如权利要求8所述的方法,其特征在于,所述带宽管理服务将所述第一连接上的数据的优先级排在所述第二连接上的数据之上,以维持与所述第一订阅的订户建立的服务质量协议。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/923,055 | 2013-06-20 | ||
US13/923,055 US9391915B2 (en) | 2013-06-20 | 2013-06-20 | Controlling bandwidth across multiple users for interactive services |
PCT/US2014/043027 WO2014205131A2 (en) | 2013-06-20 | 2014-06-18 | Controlling bandwidth across multiple users for interactive services |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105393509A CN105393509A (zh) | 2016-03-09 |
CN105393509B true CN105393509B (zh) | 2018-11-23 |
Family
ID=51176490
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201480035484.1A Active CN105393509B (zh) | 2013-06-20 | 2014-06-18 | 跨多个用户控制带宽用于交互式服务 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9391915B2 (zh) |
EP (1) | EP3011710B1 (zh) |
CN (1) | CN105393509B (zh) |
ES (1) | ES2638414T3 (zh) |
WO (1) | WO2014205131A2 (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10230566B1 (en) | 2012-02-17 | 2019-03-12 | F5 Networks, Inc. | Methods for dynamically constructing a service principal name and devices thereof |
WO2013163648A2 (en) | 2012-04-27 | 2013-10-31 | F5 Networks, Inc. | Methods for optimizing service of content requests and devices thereof |
US10187317B1 (en) * | 2013-11-15 | 2019-01-22 | F5 Networks, Inc. | Methods for traffic rate control and devices thereof |
US9934174B2 (en) * | 2015-09-18 | 2018-04-03 | Seagate Technology Llc | Selectively enable data transfer based on accrued data credits |
US10440017B2 (en) | 2016-01-25 | 2019-10-08 | Elements of Genius, Inc. | Secure health data storage and transaction system |
US10587526B2 (en) | 2016-05-30 | 2020-03-10 | Walmart Apollo, Llc | Federated scheme for coordinating throttled network data transfer in a multi-host scenario |
US10095422B2 (en) * | 2016-10-28 | 2018-10-09 | Veritas Technologies, LLC | Systems and methods for allocating input/output bandwidth in storage systems |
US10580284B2 (en) | 2017-01-26 | 2020-03-03 | Elements of Genius, Inc. | Wearable interactive notification device and interactive notification system |
WO2018156926A1 (en) * | 2017-02-23 | 2018-08-30 | John Mezzalingua Associates, LLC | System and method for adaptively tracking and allocating capacity in a broadly-dispersed wireless network |
US10374762B2 (en) | 2017-02-28 | 2019-08-06 | At&T Intellectual Property I, L.P. | Use of underutilized bandwidth via radio access resource sharing |
CN109962856B (zh) * | 2017-12-26 | 2022-07-12 | 中国电信股份有限公司 | 资源分配方法、装置以及计算机可读存储介质 |
WO2019164637A1 (en) | 2018-02-23 | 2019-08-29 | Futurewei Technologies, Inc. | Advertising and programming preferred path routes using interior gateway protocols |
WO2019190699A1 (en) | 2018-03-28 | 2019-10-03 | Futurewei Technologies, Inc. | Method and apparatus for preferred path route information distribution and maintenance |
WO2019209480A1 (en) * | 2018-04-26 | 2019-10-31 | Futurewei Technologies, Inc. | Resource reservation and maintenance for preferred path routes in a network |
WO2019212678A1 (en) | 2018-05-04 | 2019-11-07 | Futurewei Technologies, Inc. | Explicit backups and fast re-route mechanisms for preferred path routes in a network |
WO2019236221A1 (en) | 2018-06-04 | 2019-12-12 | Futurewei Technologies, Inc. | Preferred path route graphs in a network |
US10766745B2 (en) | 2018-09-25 | 2020-09-08 | Argus Elevator LLC | Universal and software-configurable elevator door monitor |
US11599644B2 (en) | 2019-05-17 | 2023-03-07 | Walmart Apollo, Llc | Blocking insecure code with locking |
US11151150B2 (en) | 2019-09-13 | 2021-10-19 | Salesforce.Com, Inc. | Adjustable connection pool mechanism |
US11636067B2 (en) | 2019-10-04 | 2023-04-25 | Salesforce.Com, Inc. | Performance measurement mechanism |
US11165857B2 (en) | 2019-10-23 | 2021-11-02 | Salesforce.Com, Inc. | Connection pool anomaly detection mechanism |
US11789649B2 (en) * | 2021-04-22 | 2023-10-17 | Nvidia Corporation | Combined on-package and off-package memory system |
CN113810306A (zh) * | 2021-09-07 | 2021-12-17 | 山石网科通信技术股份有限公司 | 带宽分配方法、装置、存储介质及处理器 |
US20230082508A1 (en) * | 2021-09-13 | 2023-03-16 | Quixotic Holdings, LLC | Tokenized bandwidth and network availability in a network |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1796332A1 (en) * | 2005-12-08 | 2007-06-13 | Electronics and Telecommunications Research Institute | Token bucket dynamic bandwidth allocation |
CN101478527A (zh) * | 2009-01-20 | 2009-07-08 | 华为技术有限公司 | 带宽分配方法和路由设备 |
CN102957946A (zh) * | 2011-08-23 | 2013-03-06 | 美国博通公司 | 动态带宽再分配 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020049841A1 (en) * | 2000-03-03 | 2002-04-25 | Johnson Scott C | Systems and methods for providing differentiated service in information management environments |
US20030046396A1 (en) * | 2000-03-03 | 2003-03-06 | Richter Roger K. | Systems and methods for managing resource utilization in information management environments |
US7327682B2 (en) | 2003-06-27 | 2008-02-05 | Cisco Technology, Inc. | Methods and devices for flexible bandwidth allocation |
US8396800B1 (en) * | 2003-11-03 | 2013-03-12 | James W. Wieder | Adaptive personalized music and entertainment |
US7602721B1 (en) | 2003-12-22 | 2009-10-13 | Extreme Networks, Inc. | Methods and systems for fine grain bandwidth allocation in a switched network element |
US20050174944A1 (en) | 2004-02-10 | 2005-08-11 | Adc Broadband Access Systems, Inc. | Bandwidth regulation |
US20070073878A1 (en) * | 2005-09-23 | 2007-03-29 | Qurio Holdings, Inc. | System and method for lowering proxy bandwidth utilization |
JP4519079B2 (ja) | 2006-01-31 | 2010-08-04 | 富士通株式会社 | 集線装置 |
US7911958B2 (en) | 2008-05-13 | 2011-03-22 | Broadcom Corporation | Token bucket with variable token value |
US20130003543A1 (en) | 2011-06-30 | 2013-01-03 | Avistar Communications Corporation | NEXT-GENERATION BANDWIDTH MANAGEMENT CONTROL SYSTEMS FOR MULTIPLE-SERVICE CALLS, SESSIONS, PACKET-LEVEL PROCESSES, AND QoS PARAMETERS - PART 1: STRUCTURAL AND FUNCTIONAL ARCHITECTURES |
-
2013
- 2013-06-20 US US13/923,055 patent/US9391915B2/en active Active
-
2014
- 2014-06-18 CN CN201480035484.1A patent/CN105393509B/zh active Active
- 2014-06-18 EP EP14738699.9A patent/EP3011710B1/en active Active
- 2014-06-18 ES ES14738699.9T patent/ES2638414T3/es active Active
- 2014-06-18 WO PCT/US2014/043027 patent/WO2014205131A2/en active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1796332A1 (en) * | 2005-12-08 | 2007-06-13 | Electronics and Telecommunications Research Institute | Token bucket dynamic bandwidth allocation |
CN101478527A (zh) * | 2009-01-20 | 2009-07-08 | 华为技术有限公司 | 带宽分配方法和路由设备 |
CN102957946A (zh) * | 2011-08-23 | 2013-03-06 | 美国博通公司 | 动态带宽再分配 |
Also Published As
Publication number | Publication date |
---|---|
US20140379910A1 (en) | 2014-12-25 |
WO2014205131A2 (en) | 2014-12-24 |
ES2638414T3 (es) | 2017-10-20 |
CN105393509A (zh) | 2016-03-09 |
EP3011710A2 (en) | 2016-04-27 |
WO2014205131A3 (en) | 2015-02-12 |
EP3011710B1 (en) | 2017-05-31 |
US9391915B2 (en) | 2016-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105393509B (zh) | 跨多个用户控制带宽用于交互式服务 | |
US11734621B2 (en) | Methods and systems for building custom appliances in a cloud-based network | |
US8612615B2 (en) | Systems and methods for identifying usage histories for producing optimized cloud utilization | |
US9438484B2 (en) | Managing multi-level service level agreements in cloud-based networks | |
US9442769B2 (en) | Generating cloud deployment targets based on predictive workload estimation | |
US9363198B2 (en) | Load balancing in cloud-based networks | |
US9870541B2 (en) | Service level backup using re-cloud network | |
US8935692B2 (en) | Self-management of virtual machines in cloud-based networks | |
US7886038B2 (en) | Methods and systems for user identity management in cloud-based networks | |
US9910708B2 (en) | Promotion of calculations to cloud-based computation resources | |
US10372490B2 (en) | Migration of a virtual machine from a first cloud computing environment to a second cloud computing environment in response to a resource or services in the second cloud computing environment becoming available | |
CN105103506B (zh) | 用于为云计算网络中的非均匀带宽请求分配带宽的方法和系统 | |
US9842004B2 (en) | Adjusting resource usage for cloud-based networks | |
US9563479B2 (en) | Brokering optimized resource supply costs in host cloud-based network using predictive workloads | |
US8984505B2 (en) | Providing access control to user-controlled resources in a cloud computing environment | |
US8949426B2 (en) | Aggregation of marginal subscription offsets in set of multiple host clouds | |
US8954564B2 (en) | Cross-cloud vendor mapping service in cloud marketplace | |
US20120131161A1 (en) | Systems and methods for matching a usage history to a new cloud | |
CN109062658A (zh) | 实现计算资源服务化的调度方法、装置、介质、设备及系统 | |
US20120221454A1 (en) | Systems and methods for generating marketplace brokerage exchange of excess subscribed resources using dynamic subscription periods | |
US20090300608A1 (en) | Methods and systems for managing subscriptions for cloud-based virtual machines | |
CN105007287A (zh) | 公共云资源动态配置方法及系统 | |
US20150146521A1 (en) | Dynamic resource pooling and trading mechanism in network virtualization | |
US9413811B2 (en) | Establishing upload channels to a cloud data distribution service | |
CN112583609A (zh) | 一种云计费方法、装置、云管理平台、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |