CN113615137B - Cdn优化平台 - Google Patents

Cdn优化平台 Download PDF

Info

Publication number
CN113615137B
CN113615137B CN201980094683.2A CN201980094683A CN113615137B CN 113615137 B CN113615137 B CN 113615137B CN 201980094683 A CN201980094683 A CN 201980094683A CN 113615137 B CN113615137 B CN 113615137B
Authority
CN
China
Prior art keywords
data
traffic
content delivery
computer
delivery network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201980094683.2A
Other languages
English (en)
Other versions
CN113615137A (zh
Inventor
G·薛
陈新
F·C·崇
H·张
周斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN113615137A publication Critical patent/CN113615137A/zh
Application granted granted Critical
Publication of CN113615137B publication Critical patent/CN113615137B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/2866Architectures; Arrangements
    • H04L67/289Intermediate processing functionally located close to the data consumer application, e.g. in same machine, in same home or in same sub-network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/563Data redirection of data network streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63Routing a service request depending on the request content or context
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254Management at additional data server, e.g. shopping server, rights management server
    • H04N21/2543Billing, e.g. for subscription services

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Algebra (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Databases & Information Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

公开了用于在被配置成使用多个服务提供商提供边缘服务的内容递送网络中分发数据的技术。针对多个服务提供商的指示数据使用率的数据和成本数据被访问。基于所访问的数据,为所选用户确定有效单位成本、复用效率和信道利用率。贝叶斯优化算法被应用于所访问的数据的至少一部分。内容递送网络被配置成基于所应用的贝叶斯优化算法的结果来重新分发用于所选用户的数据话务。

Description

CDN优化平台
背景
数据中心是容纳计算机系统和各种网络、存储和其他相关组件的设施。例如,数据中心可向企业和个人提供计算服务作为远程计算服务或提供“软件即服务”(例如,云计算)。为了促成数据中心资源的高效利用,虚拟化技术允许物理计算设备主控一个或多个虚拟机(VM),这些虚拟机对于所连接的用户而言作为独立计算机设备出现和操作。数据中心可按动态方式创建、维护或删除虚拟机。
内容递送网络(CDN)是指协同工作以向数据中心服务的最终用户提供内容的高效递送的地理上分布的服务器和其他设备群,其目标是提供具有高可用性和高性能的内容。
正是针对这些及其他考虑因素才提出了在此做出的公开。
概述
一些CDN服务使用融合或混合模型在多个提供商之间动态地路由话务。在混合模型中,底层CDN提供商可能对最终用户不可见。相反,CDN提供商可作为集合资源池来被管理,并且用户话务可基于服务提供商的性能、容量、成本和可用性来被动态地路由到一个或多个CDN提供商。对于数据中心而言可能难以在各个提供商之间高效地分发用户数据话务以最小化成本。
公开了用于优化融合或混合CDN模型中的话务分发的实施例。公开了用于测量融合或混合CDN网络中的性能以便能够优化话务分发和成本的技术。度量的选择和组织/呈现可实现评估和实时优化。
所公开的技术可允许改进服务成本并减少用于分发用户话务的时间和精力。话务管理平台可被实现以便用户话务能够跨多个供应商信道被分发。分发决策可根据服务质量、峰值时间窗口和/或容量约束来被及时做出。
在一个实施例中,贝叶斯仿真框架可被实现用于优化话务分发以改进话务整形计划和成本。在一实施例中,定制的Metropolis-Hastings算法可被实现用于调谐CDN融合引擎。所公开的实施例可用于预测分发数据话务的高效方式,同时基于当前数据持续地改进预测。
提供本概述以便以简化的形式介绍以下在详细描述中进一步描述的概念的选集。本概述既不旨在标识所要求保护的主题的关键特征或必要特征,本概述也不旨在被用来限制所要求保护的主题的范围。此外,所要求保护的主题不限于解决在本公开的任一部分中提及的任何或所有缺点的实现。
附图
参考附图来描述具体实施方式。在本文详述的描述中,参考了构成本文的一部分并且通过解说的方式示出特定实施例或示例的附图。这里的附图不是按比例绘制的。贯穿若干幅图,相同的数字代表相同的元素。
图1A是解说根据本公开的示例架构的示图;
图1B是解说实现根据本公开的各种实施例的示例功能的示图;
图2是解说根据本公开的示例架构的示图;
图3是解说根据本公开的示例流程图的示图;
图4是解说根据本公开的示例数据图表的示图;
图5是解说根据本公开的示例数据流的示图;
图6是解说根据本公开的示例数据流的示图;
图7是解说根据本公开的示例数据流的示图;
图8是解说根据本公开的示例数据流的示图;
图9是解说根据本公开的示例数据流的示图;
图10是描绘根据本公开的示例系统的流程图;
图11是描绘用于实现根据本公开的技术的示例规程的流程图;
图12是根据本公开的示例计算设备。
详细描述
话务优化技术通常限于理论分析,并且可能难以在运营网络中有效地实现。这可能会在融合或混合CDN环境中加剧,在融合或混合CDN环境中,多个服务提供商作为集体资源池来被管理,并且用户话务可被动态地路由到一个或多个CDN提供商。在各种实施例中,本公开描述了一种数据和分析平台,该数据和分析平台可包括机器学习算法和智能路由引擎以供优化融合或混合CDN框架中的数据话务。数据和分析平台可集成用于收集和馈送用户与数据平台之间的网络话务数据的多个数据源。用户界面可被提供以报告与成本和性能有关的结果。用户界面可提供使服务提供商能够验证由所公开的算法提议的话务分发计划的数据。经验证的话务整形计划可被编程到智能路由引擎中以供操作实现。
在内容分发网络(CDN)中,并行高性能网络可使用高度分布的服务器网络来实现。通过分散在许多物理和网络位置上,但作为一个网络来优化,更多控制和可靠性可被提供用于用户请求。CDN通常在边缘处就本地化存储发挥作用(将流行内容缓存在其很可能被消费的区域中以便提高体验质量)。CDN还可递送本地化计算机周期,并将计算资源放置在靠近最终用户的位置。
图1A解说了其中数据中心的用户可由多个CDN提供商服务的一个示例。图1A解说了被配置为经由用户计算机130向用户140提供计算资源的数据中心100和110。由数据中心100和110提供的计算资源可在边缘节点120处被缓存或复制。由数据中心100和110以及边缘节点120提供的计算资源可包括各种类型的资源,诸如计算资源、数据存储资源、数据通信资源等等。每种类型的计算资源可以是通用的,或者可在数个特定配置中可用。例如,计算资源可作为虚拟机而可用。虚拟机可被配置为执行应用,包括Web服务器、应用服务器、媒体服务器、数据库服务器等等。数据存储资源可包括文件存储设备、块存储设备等等。计算资源的每种类型或配置可在不同配置(诸如处理器的数目、存储器的大小和/或存储容量)中可用。在一些实施例中,可以用被称为实例(诸如虚拟机实例或存储实例)的单位来将资源提供给客户端。虚拟计算实例可被称为虚拟机,并且可例如包括具有指定计算能力(其可通过指示CPU的类型和数目、主存储器大小等等来被指定)以及指定软件堆栈(例如,操作系统的特定版本,其进而能够在管理程序之上运行)的一个或多个服务器。
应当领会,虽然以上公开的实施例是在虚拟机的上下文中讨论的,但是其他类型的实现可以与这里公开的概念和技术一起使用。
应当领会,图1A中所解说的网络拓扑已被极大地简化并且可利用多得多的网络和联网设备来互连这里公开的各种计算系统。这些网络拓扑和设备对于本领域技术人员来说应该是显而易见的。
如所解说的,地理区域可提供多个CDN提供商,并且云服务提供商在有限的网络基础设施覆盖的约束下可充当第三方CDN提供商的聚合器。作为资源聚合器,改进资源的使用并降低操作成本可能是一个挑战。一种解决方案是定义用于业务管理的度量并使用机器学习来提高成本和性能。当融合模型被实现以在多个提供商之间动态地路由话务时,可能需要解决独特的挑战。在融合模式下,CDN提供商作为集合资源池来被管理,并且客户话务基于提供商的性能、容量、成本和可用性来被同时动态地路由到一个或多个CDN提供商。
进一步公开了用于实现基于机器学习算法的智能路由引擎的实施例。优化引擎可被实现,以在将服务质量和信道可用性纳入考虑的情况下通过将话务分发到多个供应商信道和时间窗口来实现成本的优化。
例如,下表1描述了来自具有不同计费模式的不同提供商的三个独特的话务分发信道:
话务分发信道 提供商名称 计费模型 单位成本
信道1 提供商A 每月95-5峰值带宽 1.09美元每Mbps
信道2 提供商B 平均峰值带宽 1.23美元每Mbps
信道3 提供商C 总量 0.0077美元每GB
在一些实现中,服务可能具有至少两种不同的收费类型:总量和带宽计费,带宽计费具有三种变体:平均峰值带宽、每月95-5峰值带宽、和每日95-5月平均。
1.总量(GB):按一个月的周期内的话务量总量(以GB为单位)向客户收费。
2.平均峰值带宽:计费月份的数据传输率以每5分钟的间隔被计量。每天的最高数据传输被相加并除以该月份内的总有效天数,以得到用于计费的平均峰值数据传输率。
3.每月95-5峰值带宽:计费月份的数据传输率(Mbps)以每5分钟的间隔被计量,并按降序排列。经排序的数据传输率的前5个百分位数被移除,并且接下来的所计量的数据传输率被用于计费。前5个百分位数等于36小时的带宽峰值。如果峰值不超过36小时,则客户无需为高峰付费。
4.每日95-5月平均:计费月份的数据传输率以每5分钟的间隔被计量。经排序的每日数据传输率的前5个百分位数被移除,并且接下来的所计量的数据传输率被用于该天的计费。每一天被相加并除以该月份内的总有效天数,以得到用于计费的平均峰值数据传输率。
在一实施例中,融合引擎可被配置为基于每个CDN网络的容量、可靠性、性能和成本来智能地管理CDN话务。两个特征可包括负载平衡和成本节省。一些CDN用户可能会在短时间内生成话务量的大浪涌。这方面的一个示例是当一家主要移动电话制造商更新其固件时。在许多情形中,话务模式是不可预测和不稳定的。在此类场景中,智能路由可通过考虑多个提供商各自的可用容量来在多个提供商之间按比例分发话务,以避免拥塞或服务故障。
图1B解说了可被实现以解决上述缺点的示例过程集。度量和分析过程150可被实现,其定义并选择可用于确定融合或混合CDN网络的性能的各种度量。用户工具160(诸如用户界面)可被提供,其使管理员和其他用户能够查看和过滤度量、以及执行用于分发网络话务的各种假设(what-if)分析场景。优化引擎170可被实现,其基于一个或多个参数来优化话务的分发。
如果有多个提供商可用于满足性能要求,则融合引擎可选择一个或多个信道来分发话务,其结果是使总成本最小化。图2解说了多CDN平台200的示例,其中客户话务220可被分发到多个CDN提供商信道210。在一实施例中,多CDN平台200可包括话务管理组件202、话务优化组件204、和服务监视组件206,其将在下面进一步详述。
图3解说了用于最优地分发话务的示例功能流。功能流可例如在图2中所解说的一个或多个组件中实现。功能流可包括用于对提供商信道进行资格认证的一个或多个过程300。该过程可接收客户话务模式数据和加速度类型数据作为输入。此外,指示针对服务提供商的服务质量排名的输入可被提供。功能流可进一步包括用于分发话务负载的一个或多个过程310。该过程可接收来自合格提供商信道300的输出以及指示经标准化的提供商成本、信道利用率和复用效率的数据作为输入。功能流可进一步包括用于优化话务分配的一个或多个过程320。该过程可接收来自分发话务负载310的输出以及优化规则作为输入,并输出具有最优成本结构的提议的话务分发。
在一实施例中,三种度量可被实现:有效单位成本、复用效率、和信道利用率。
有效单位成本。客户话务可被分配给提供商的分发信道。如上面提到的每个分发信道可具有经定义的计费模型和单位合同成本。然而,单位合同成本通常是为计费目的而设计的,但可能不是用于信道管理的实用测度。首先,单位合同成本不是统一测度。当计费模型是总量时,单位合同成本是每GB美元,而计费模型是平均峰值带宽,例如以每Mbps美元为单位。对于不同计费模型而言不存在用于比较合同成本的简单转换因子。
其次,即使是客户的相同峰值带宽计费也可能被不同地解读。一些客户可能会完全使用带宽并且每Mbps移动更多GB话务,而其他客户可能较少地使用。统一的成本测度可因此被定义。在一实施例中,满足两个方面的需要的项可被定义。1)跨计费类型一致地测量成本的能力;2)测度反映了对客户而言的实际成本和对客户的采集和定价策略的收益。
在一实施例中,有效单位成本可被定义如下:
有效单位成本(美元/GB)=总成本(美元)/总话务(GB);对于峰值平均带宽计费,
总成本(美元)=经计费的带宽(Mbps)*计费率(美元/Mbps)
有效单位成本是总量计费模型的单位合同成本(每GB美元)。连同本文定义的其他两个度量,客户话务模式可影响有效单位成本。
话务复用。话务复用将来自两个或更多个客户的话务组合到单个话务分发信道中。复用效率测量组合客户话务以使提供商话务信道的带宽利用率最大化并由此实现整体成本效益的能力。在一些情形中,可将具有不同峰值时间话务的客户话务聚合到话务信道的相同实例中。
复用效率通过将总带宽需求(在每个客户的话务使用话务信道的分开实例的情况下)除以经组合的总带宽需求(在客户的话务被组合并共享话务信道的单个实例的情况下)来被计算。在下面解说的一个示例中,效率为250/220=1.136。
客户名称 平均带宽
Douyu 100Gbps
OPPO 50Gbps
VIVO 100Gbps
经复用带宽 220Gbps
带宽总和 250Gbps
复用效率 250/220=1.136
为了使复用效率最大化,所有客户可被合并到一个信道中。对提供商容量、可用性和服务质量的约束以及合作伙伴关系是在实际操作中需要纳入考虑的因素。
信道利用率。带宽利用率可通过将一个月份内发生的实际总话务除以支付给底层提供商且可供使用的总话务量来计算。
话务整形被定义为用于将客户话务分发到两个或更多个提供商信道的过程。存在用于话务整形的两种基本策略。两者都可导致总客户成本和有效单位成本的降低。
在一个实施例中,贝叶斯优化算法可被应用于话务整形问题。
总成本函数C(θ)可被写为:
其中
Cch1和Cch1分别表示信道1和2的成本。i=1...d,其中d是一个月的天数。j是一天内的话务数据数目,j=1...n,根据5分钟粒度的话务数据,因而n=288。Tij是第i天和第j个数据点处的累积话务GB。Cch1为单位成本乘以从话务值转换而来的经计费带宽,并且Cch2为单位成本乘以话务整形之后的总量。
经计费平均峰值带宽可以从最大每日峰值5分钟累积话务转换而来。其为每日话务峰值(GB)的7天平均乘以1000再除以37.5。
表3解说了仅信道1与θ=600GB的话务整形计划之间的关键度量的比较。话务整形计划可被编程到智能路由引擎中,其中超过600GB的任何话务被重定向到信道2。话务整形计划的成本节省可被计算为相较于表3中所示的仅信道1计划的20%。具有改进的信道效率度量的话务整形计划表明,信道2利用率从21%提高到69%,并且信道1的有效单位成本降低到0.0057美元/GB。作为对提高一个信道的利用率与将部分话务整形到具有高成本的信道进行平衡的结果,可确定最优成本节省。在该情形中,信道2的有效单位成本为0.009美元/GB。
为了计算方便,优化目标函数可由f(θ)形成。θ是参数集合中的一个参数,这些参数以使得它们的值影响测得值f的分布的方式描述底层物理设置。优化的任务是找到用于最大化毛利润的θ集合,其中f=R-C,其中总收入R在这里是常数,而总成本C是先前定义的函数。
优化算法最小化或最大化目标函数f(θ),其为取决于模型的内部参数θ以及在算法中被当作一致值的其他输入数据的数学函数。两种广泛使用的优化算法是数值算法和无导数算法。
数值优化算法具有一些变体:一阶优化、二阶优化和迭代优化算法。
1.一阶优化算法使用损失函数f(θ)相对于参数的梯度值来最小化或最大化损失函数f(θ)。梯度是导数的多变量推广。其可被解释为多维面上的斜率。一种广泛使用的一阶优化算法是梯度下降,其是一种可用于优化神经网络的所使用的优化算法。梯度下降可用于更新神经网络模型中的权重。
2.二阶优化算法。二阶方法使用二阶导数——其也被称为Hessian——来最小化或最大化损失函数。Hessian是二阶偏导数矩阵。二阶导数不仅告知收敛方向,而且暗示函数的曲率,其可促进收敛的速度。一个缺点是计算二阶导数的计算成本。
3.迭代方法可用于解决其中难以计算Hessian(H)和梯度(G)的非线性规划问题。近似梯度需要至少N+1次函数求值。牛顿方法是二阶导数的流行近似(被收集在Hessian矩阵中),其中函数求值的次数为N2。然而,梯度优化器通常需要比牛顿算法所提供的更多的迭代。
大多数数学规划方法依赖于代数模型的存在。代数模型的可用性对数学规划专家有许多明显的启示,包括快速评估函数的能力、导数信息的可用性、和制定对偶问题的可能性。
无导数算法是用于随机仿真的技术的总称。仿真优化涉及搜索输入参数的用以优化对象目标(target objective)的那些特定设置。与数学规划相反,仿真优化不假定函数的代数描述是可用的。该描述可作为黑盒提供,该黑盒仅允许评估针对特定输入的目标和约束。事实上,许多仿真优化算法办法在其搜索最优输入设置时仅取决于来自仿真的此类输入-输出数据。
当仿真的代数描述不可访问时,导数信息通常不可用,并且归因于仿真的有噪输出和昂贵性质,使用有限差分估计导数可能不合适。若干种流行办法可用于黑盒函数,诸如:遗传算法、模拟退火、禁忌搜索、和贝叶斯优化。遗传算法可能不灵活,并且其是一种可能没有足够效率的纯随机搜索。模拟退火使用一种概率方法,该概率方法从退火过程中导出,在该退火过程中,材料被缓慢地冷却以便在其结构冻结的情况下达到最低能量状态。作为全局最优算法,模拟退火会消耗大量的计算时间来收敛,并且冷却速度设置可能是困难的。禁忌搜索采用潜在的问题解决方案并检查其直接邻居。其可利用参数空间的先验知识提供良好性能。
与上面提到的解决方案相比,贝叶斯优化可能受到以下几个方面的推动:1)毛利润函数f不可微,2)该算法易于设置并适用于不同的业务场景,3)在正确设置的情况下,贝叶斯算法可在合理的计算时间内收敛到最优。贝叶斯优化指定函数f上的概率先验分布,并应用贝叶斯推理来计算给定当前参数集θt的情况下的θ的后验分布。该后验分布进而被用于构造用于确定下一个点θt+1的提议函数。贝叶斯办法的细节讨论如下:
马尔可夫链蒙特卡罗(MCMC)是一种计算机驱动的采样方法。其允许通过从分布中随机采样出值来表征分布,而无需了解分布的所有数学属性。MCMC的一个特殊优势在于其可用于从分布中抽取样本,即使是当关于分布的所有已知信息是如何计算不同样本的密度时。名称MCMC组合了两个属性:蒙特卡罗(Monte–Carlo)和马尔可夫链(Markov chain)。1)蒙特卡罗是通过审查来自分布的随机样本来估计该分布的属性的实践。例如,蒙特卡罗办法不是通过直接从分布的方程计算正态分布的均值来找到正态分布的均值,而是从正态分布中抽取大量随机样本并计算它们的样本均值。蒙特卡罗办法的益处在于计算大数量样本的均值可能比直接从正态分布方程计算均值要容易得多。2)MCMC的马尔可夫链属性是随机样本是由特殊的顺序过程生成的思想。每个随机样本被用作用于生成下一个随机样本的垫脚石。该链的一个特殊属性在于,虽然每个新样本取决于它之前的一个样本,但新样本不取决于前一个样本之前的任何样本(这就是“马尔可夫链”属性)。
MCMC由于聚焦于后验分布而在贝叶斯推理中尤其有用,后验分布通常难以经由分析检验来处理。在此类情形中,MCMC允许用户对后验分布的无法被直接计算的方面进行近似(例如,来自后验的随机样本、后验均值等)。贝叶斯推理使用由观测数据提供的关于参数集合的信息(形式上是似然),来更新信念参数的先验状态以成为信念的后验状态。Metropolis-Hastings算法是MCMC方法的一种流行变体。
随机游走Metropolis算法。在贝叶斯黑盒优化中,其假定函数值是伴随未知的噪声幅值观察到的。根据经验,可假定观察噪声是正态分布的。Metropolis-Hastings算法(MH)从提议分布g(θ|θt)生成候选θ。需要注意,来自提议分布的样本不会被自动接受为后验样本。样本是以接受概率α被接受的。提议分布主要有两种,对称和非对称。如果g(θ|θt)=g(θt|θ),则提议分布是对称分布。对称提议的直截了当的选项包括以链的当前状态为中心的高斯分布或均匀分布。例如,如果我们有一个高斯提议,则采样是θt~Normal(θt-1,σ)。概率密度函数(pdf)被表示为Normal(θtθt-1,σ)。证明Normal(θt-1;θt,σ)=Normal(θt;θt-1,σ)是简单的。这是一个对称提议。算法1中的接受率α将为
该提议分布随机地扰动链的当前状态,并且随后接受或拒绝经扰动的值。这种形式的算法可被称为“随机游走Metropolis算法”。
随机游走MH算法是MH算法的一种类型。该采样方法对于从满条件分布中抽取样本很有用,因为不需要对目标函数f进行积分。在实践中,该算法涉及在从g中抽取样本后的评估步骤和潜在拒绝率。注意:θ是唯一的设置,以便它们的值在给定其他因素被固定的情况下影响测得值f。无需研究该函数的数值特性的细节,其可被视为黑盒,馈送θ并旋转出f值。如所描述的,初始θ0=100GB不会影响收敛。来自提议分布的样本可被表示为:θ~N(θ;θ0,σ)。我们设置σ=100和初始θ0=100GB。θ*是从θ~N(θ;θ0,σ)中采样的。θ*将以计算出概率α被接受,并且随后被指派θ1=θ*。在下一次迭代中,θ*从θ~N(θ;θ1,σ)中被采样,相应地更新α,并决定接受或拒绝θ1,或者假定t=0...T,其可被推广到θt,其中T是总迭代次数。提议分布是高斯分布N(μ,σ)。
采纳拒绝采样(ARS)。当问题有多个未知参数时,随机游走算法可能并不足够高效以生成最优解。在某些情形中,我们可选择使用非对称提议分布来处理。取决于目标函数f以确保候选θ具有合理的接受率的提议分布g可被建立。
采纳拒绝采样(ARS)被提议使用由分段线性函数hm(θ)定义的一系列采样分布gm(θ):
hm(θ)=Min{Ll-1,l(θ;Sm),Ll+1,l+2(θ;Sm)},且θl≤θ<θl+1
其中Sm={θl,l=0,...,m+1}是f的支持中的点集。Llj(θ,Sm)表示通过点[θl,ln(f(θl)]和[θj,ln(f(θj)]的直线。定义
Mm=∫exp(hm(θ))dθ,
提议分布由下式给出:
为了避免数学表达式,ARS在目标函数f之上构造包络函数。其将该包络函数gm用作提议函数g。当m足够大时,gm是f的近似。可以观察到,这个gm(θt+1)函数不取决于θt。因此,算法1中的接受率可改为:
由于θ是从目标函数f的近似提议的,因此ARS方法具有可接受的接受率。计算能力的增长使得力图构造包络函数gm的计算合理。另一益处在于该算法是并行就绪(parallelready)算法,因为其不是取决于先前θ的序列算法。在算法1的步骤1中,多个候选可被同时提议,并且具有最高f(θ)值的候选可被发送以针对步骤2进行评估。以此方式,步态(tread)的数目可被确定以减少至收敛的计算时间以满足系统设计的需要。
图4解说了可被实现以使得用户和管理员能够查看和过滤融合或混合CDN管理平台的度量的示例用户界面400。除了查看用于分析的度量之外,用户界面400可使得能够执行用于分发网络话务的各种假设场景。
图5-9解说了实现上面描述的一些实施例以及贝叶斯理论模型如何与多CDN平台集成的示例操作流。图5解说了将提供商账户设置为内部流。CDN提供商500可向本地CDN505提供账户信息。提供商账户可被添加520到添加CDN账户管道530,并且CDN账户管道信息可被提供给操作仪表板550。默认账户管道可被设置540,并且管道映射规则可被提供560给图6的CDN管理服务600,图6解说了将客户设置到管道。端点信息可被提供以创建端点610。超驰(override)端点管道可被映射620以生成映射630。
图7解说了将客户话务设置到管道。日志处理器700可提供端点原始日志以处理日志数据710。话务接收方API可提供端点原始话务并且API量可被检索720。CDN端点管道使用率可被生成740。图8解说了优化话务管道分配。贝叶斯优化引擎800提供用于准备仿真数据810的仿真场景。虚拟管道和经仿真的使用率被用于对端点管道使用率进行仿真820,并且虚拟管道和经仿真的端点管道使用率被用于生成财务数据830。财务数据830被用于生成财务报告840。图9解说了在一个实施例中将最优话务分配计划910推送到智能DNS配置930。贝叶斯优化引擎800可向路由规则引擎和调度920提供最优话务分配计划910。路由规则可被提供给智能DNS配置930。
图10解说了可在其中实现本文描述的实施例的示例计算环境。图10解说了数据中心1000,其被配置成经由通信网络1030经由用户计算机1002a、1002b和1002c(其在本文中可被单数地称为“计算机1002”或复数地称为“诸计算机1002”)向用户1000a、1000b或1000c(其在本文中可被单数地称为“用户1000”或复数地称为“诸用户1000”)提供计算资源。由数据中心1000提供的计算资源可包括各种类型的资源,诸如计算资源、数据存储资源、数据通信资源等等。每种类型的计算资源可以是通用的,或者可在数个特定配置中可用。例如,计算资源可作为虚拟机而可用。虚拟机可被配置为执行应用,包括Web服务器、应用服务器、媒体服务器、数据库服务器等等。数据存储资源可包括文件存储设备、块存储设备等等。计算资源的每种类型或配置可在不同配置中可用,诸如处理器的数量、存储器的大小和/或存储容量。在一些实施例中,可以用被称为实例(诸如虚拟机实例或存储实例)的单位来将资源提供给客户端。虚拟计算实例可被称为虚拟机,并且可例如包括具有指定计算能力(其可通过指示CPU的类型和数目、主存储器大小等等来被指定)以及指定软件堆栈(例如,操作系统的特定版本,其进而能够在管理程序之上运行)的一个或多个服务器。
数据中心1000可包括服务器1096a、1096b和1096c(其在本文中可被单数地称为“服务器1096”或复数地称为“诸服务器1096”),它们提供可用作虚拟机1029a和1029b(其在本文中可被单数地称为“虚拟机1029”或复数地称为“诸虚拟机1029”)的计算资源。虚拟机1029可被配置为执行应用,诸如Web服务器、应用服务器、媒体服务器、数据库服务器等等。可被提供的其他资源包括数据存储资源(图10上未示出)并且可包括文件存储设备、块存储设备等等。服务器1096还可执行管理和控制数据中心中的资源分配的功能,诸如控制器1095。控制器1095可以是结构控制器(fabric controller)或被配置为管理服务器1096上的虚拟机分配的另一类型的程序。
参考图10,通信网络1030可以例如是所链接网络的公共可访问网络并且可由诸如因特网等各种实体操作。在其他实施例中,通信网络1030可以是专用网络,诸如对公众而言完全或部分不可访问的公司网络。
通信网络1030可提供对计算机1002的访问。计算机1002可以是由用户1000使用的计算机。计算机1002a、1002b或1002c可以是服务器、台式或膝上型个人计算机、平板计算机、智能电话、机顶盒、或能够访问数据中心1000的任何其他计算设备。用户计算机1002a或1002b可直接连接到因特网(例如,经由电缆调制解调器)。用户计算机1002c可在数据中心1000内部并且可经由内部网络直接连接到数据中心1000中的资源。尽管仅描绘了三个用户计算机1002a、1002b和1002c,但是应当领会可存在多个用户计算机。
计算机1002也可用于配置由数据中心1000提供的计算资源的诸方面。例如,数据中心1000可提供Web接口,藉由该Web接口可通过使用在用户计算机1002上执行的Web浏览器应用程序来配置其操作的诸方面。替代地,在用户计算机1002上执行的独立应用程序可被用来访问被数据中心1000展示的应用编程接口(API)以执行配置操作。
服务器1096可被配置为提供上面描述的计算资源。服务器1096中的一者或多者可被配置为执行配置成执行虚拟机的管理器1020a或1020b(其在本文中可被单数地称为“管理器1020”或复数地称为“诸管理器1020”)。例如,管理器1020可以是虚拟机监视器(VMM)、结构控制器、或被配置为使得能够在服务器1096上执行虚拟机1029的另一类型的程序。
应当领会,虽然以上公开的实施例是在虚拟机的上下文中讨论的,但是其他类型的实现可以与这里公开的概念和技术一起使用。
在图10所示的示例数据中心1000中,网络设备1029可被用来互连服务器1096a和1096b。网络设备1029可包括一个或多个交换机、路由器或其他网络设备。网络设备1029也可连接到网关1040,网关1040连接到通信网络1030。网络设备1029可在数据中心1000中促成网络内的通信,例如,通过基于此类通信的特性(例如,包括源和/或目的地地址、协议标识符等的报头信息)和/或专用网络的特性(例如,基于网络拓扑的路由等)适当地转发分组或其他数据通信。应当领会,为了简单起见,该示例的计算系统和其他设备的各个方面在没有示出某些常规细节的情况下被解说。在其他实施例中,附加计算系统和其他设备可被互连并且可按不同方式互连。
应当领会,图10中所解说的网络拓扑已被极大地简化并且可利用多得多的网络和联网设备来互连这里公开的各种计算系统。这些网络拓扑和设备对于本领域技术人员来说应该是显而易见的。
还应当领会,图10中描述的数据中心1000仅仅是说明性的并且可利用其他实现。此外,应当领会,这里公开的功能性可用软件、硬件、或软件和硬件的组合来实现。其他实现对于本领域技术人员来说应该是显而易见的。还应当领会,服务器、网关或其他计算设备可包括能够交互并执行所描述类型的功能性的硬件或软件的任何组合,包括但不限于台式或其他计算机、数据库服务器、网络存储设备和其他网络设备、PDA、平板、智能电话、因特网电器、基于电视的系统(例如,使用机顶盒和/或个人/数字视频录像机)、以及包括适当通信能力的各种其他消费产品。此外,在一些实施例中,由所解说的模块提供的功能性可被组合在较少模块中或分布在附加模块中。类似地,在一些实施例中,一些所解说的模块的功能性可不被提供和/或其他附加功能性可能是可用的。
参考图11,解说了用于将内容递送网络配置成使用实现不同数据利用率度量的多个服务提供商来提供边缘服务的示例操作规程。操作规程可在包括一个或多个计算设备的系统中实现。参考图11,操作1101解说了确定内容递送网络的数据话务如何在第一时间段期间被分发给多个服务提供商。
操作1101之后可以是操作1103。操作1103解说了基于数据话务分发,确定在第一时间段期间针对内容递送网络的所选用户的有效单位值、复用效率、和信道利用率。在一实施例中,与所选用户相关联的数据话务被分发到该多个服务提供商中的至少两者。
操作1103之后可以是操作1105。操作1105解说了使用贝叶斯优化,确定到该多个服务提供商的数据话务的重新分发以实现对针对所选用户的有效单位值、复用效率、和信道利用率的净改进。
操作1105之后可以是操作1107。操作1107解说了基于所确定的重新分发,将内容递送网络重新配置成在第二时间段期间重新分发与所选用户相关联的数据话务。
在一实施例中,内容递送网络基于在后续时间段期间针对所选用户的数据分发来被迭代地重新配置。
在一实施例中,有效单位成本是基于总成本和总数据话务来确定的。
在一实施例中,基于所访问的数据,信道质量可被确定。
在一实施例中,总成本是基于经计费带宽和计费率来确定的。
在一实施例中,复用效率是基于总带宽需求除以经组合的总带宽需求来确定的,在总带宽需求中,用户数据话务使用话务信道的分开实例,在经组合的总带宽需求中,用户数据话务被组合并共享话务信道的单个实例。在一实施例中,带宽利用率是基于一个月份内发生的实际总话务除以支付给底层服务提供商且可供使用的总话务量来计算的。
在一实施例中,重新配置内容递送网络包括使用智能路由引擎来实现重新分发。
在一实施例中,该方法进一步包括将Metropolis-Hastings框架应用于贝叶斯优化。
在一实施例中,该方法进一步包括构造具有平稳分布的马尔可夫链。
在一实施例中,多个候选被同时提议并且具有最高f(θ)值的候选被评估。
在一实施例中,该方法进一步包括使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
在一实施例中,该方法进一步包括将包络函数用作提议函数。
在进一步的实施例中,一种系统包括:
存储有计算机指令的至少一个存储器,该计算机指令在由该系统的一个或多个处理器执行时至少使该系统:
确定针对被配置成使用多个服务提供商提供边缘服务的内容递送网络的所选用户的有效单位成本、复用效率、和信道利用率中的一者或多者,其中用于内容递送网络的所选用户的数据话务被分发到该多个服务提供商中的至少两者;
应用贝叶斯优化算法来优化有效单位成本、复用效率、和信道利用率中的该一者或多者;
基于该应用,确定到该多个服务提供商的数据话务的重新分发以实现对针对所选用户的有效单位值、复用效率、和信道利用率中的该一者或多者的净改进;以及
基于所确定的重新分发,将内容递送网络配置成重新分发用于所选用户的数据话务。
该系统进一步包括计算机指令,该计算机指令在由该系统的一个或多个处理器执行时至少使该系统:
将Metropolis-Hastings框架应用于贝叶斯优化算法;以及
构造具有平稳分布的马尔可夫链。
该系统进一步包括计算机指令,该计算机指令在由该系统的一个或多个处理器执行时至少使该系统:使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
在一实施例中,多个候选被同时提议并且具有最高f(θ)值的候选被评估。
在另一实施例中,一种其上存储有计算机可执行指令的计算机可读存储介质,该计算机可执行指令在由计算设备的一个或多个处理器执行时使该计算设备执行包括以下的操作:
确定针对被配置成使用多个服务提供商提供边缘服务的内容递送网络的所选用户的包括有效单位成本、复用效率、和信道利用率中的一者或多者的数据,其中用于内容递送网络的所选用户的数据话务被分发到该多个服务提供商中的至少两者;
将贝叶斯优化算法应用于所确定数据的至少一部分以确定到该多个服务提供商的数据话务的重新分发,以实现对针对所选用户的有效单位值、复用效率、或信道利用率的净改进;以及
基于所确定的重新分发,将内容递送网络重新配置成重新分发用于所选用户的数据话务。
在一实施例中,配置内容递送网络包括将智能路由引擎配置成实现重新分发。
在一实施例中,该计算机可读存储介质进一步包括存储在其上的计算机可执行指令,该计算机可执行指令在由计算设备的一个或多个处理器执行时使该计算设备执行包括以下的操作:使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
在一实施例中,该计算机可读存储介质进一步包括存储在其上的计算机可执行指令,该计算机可执行指令在由计算设备的一个或多个处理器执行时使该计算设备执行包括以下的操作:
将Metropolis-Hastings框架应用于该数据的该部分;以及
构造具有平稳分布的马尔可夫链。
此处关于某些示例和实施例描述了本公开的各个方面,这些示例和实施例旨在解说而非限制本公开。应当领会,此处呈现的主题可被实现为计算机进程、计算机控制的装置、或计算系统或制品,诸如计算机可读存储介质。虽然本文描述的主题是在一个或多个计算设备上执行的程序模块的一般上下文中呈现的,但是本领域技术人员将认识到可结合其他类型的程序模块来执行其他实现。一般而言,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、组件、数据结构及其他类型的结构。
本领域技术人员还将领会,本文描述的主题可以在本文描述的那些计算机系统配置之外的其他计算机系统配置(包括多处理器系统)上或结合其他计算机系统配置来实践。这里描述的实施例也可以在分布式计算环境中实践,其中任务由通过通信网络链接的远程处理设备执行。在分布式计算环境中,程序模块可位于本地和远程存储器存储设备两者中。
由用户建立或代表用户建立以向分布式客户端集提供可经由因特网和/或其他网络访问的一项或多项服务(诸如各种类型的基于云的计算或存储)的网络可被称为服务提供商。这样的网络可包括一个或多个数据中心,诸如图1中所解说的数据中心100,该一个或多个数据中心被配置成主控可用于实现并分布由服务提供商提供的基础设施和服务的物理和/或虚拟化计算机服务器、存储设备、网络设备等等。
在一些实施例中,实现本文描述的一种或多种技术(包括用于实现网络话务的捕获的技术)中的一部分或全部的服务器可包括通用计算机系统,其包括或被配置成访问一个或多个计算机可存取介质。图12解说了这样的通用计算设备1200。在所解说的实施例中,计算设备1200包括经由输入/输出(I/O)接口1230耦合到系统存储器1212的一个或多个处理器1210a、1210b、和/或1210n(其在本文中可被单数地称为“处理器1210”或复数地称为“诸处理器1210”)。计算设备1200进一步包括耦合到I/O接口1230的网络接口1240。
在各种实施例中,计算设备1200可以是包括一个处理器1210的单处理器系统或包括若干处理器1210(例如,两个、四个、八个或另一合适数目)的多处理器系统。处理器1210可以是能够执行指令的任何合适的处理器。例如,在各种实施例中,处理器1210可以是实现各种指令集架构(ISA)中的任一种的通用或嵌入式处理器,诸如x126、PowerPC、SPARC、或MIPS ISA、或任何其他合适的ISA。在多处理器系统中,处理器1210中的每一者可通常但不一定实现相同的ISA。
系统存储器1212可被配置成存储处理器1210可访问的指令和数据。在各种实施例中,系统存储器1212可使用任何合适的存储器技术来实现,诸如静态随机存取存储器(SRAM)、同步动态RAM(SDRAM)、非易失性/闪存型存储器、或任何其他类型的存储器。在所解说的实施例中,实现一个或多个所需功能的程序指令和数据(诸如上面描述的那些方法、技术和数据)被示为作为代码1225和数据1226被存储在系统存储器1212内。
在一个实施例中,I/O接口1230可被配置成协调处理器1210、系统存储器1212、和设备中的任何外围设备(包括网络接口1240或其他外围接口)之间的I/O话务。在一些实施例中,I/O接口1230可执行任何必要的协议、时序或其他数据变换,以将来自一个组件(例如,系统存储器1212)的数据信号转换成适合由另一组件(例如,处理器1210)使用的格式。在一些实施例中,I/O接口1230可包括对通过各种类型的外围总线附连的设备的支持,诸如举例而言,外围组件互连(PCI)总线标准或通用串行总线(USB)标准的变体。在一些实施例中,I/O接口1230的功能性可被拆分成两个或更多个分开的组件。此外,在一些实施例中,I/O接口1230的一些或全部功能性(诸如到系统存储器1212的接口)可被直接并入处理器1210中。
网络接口1240可被配置成允许在计算设备1200与附连至一个或多个网络1250的其他一个或多个设备1260(诸如举例而言,图1到4中所解说的其他计算机系统或设备)之间交换数据。在各种实施例中,网络接口1240可支持经由任何合适的有线或无线通用数据网络(诸如举例而言,以太网类型)的通信。附加地,网络接口1240可支持经由电信/电话网络(诸如模拟语音网络或数字光纤通信网络)、经由存储区网络(诸如光纤通道SAN)或经由任何其他合适类型的网络和/或协议的通信。
在一些实施例中,系统存储器1212可以是计算机可存取介质的一个实施例,该计算机可存取介质被配置成存储如上文针对图1-12所描述的用于实现对应方法和装置的实施例的程序指令和数据。然而,在其他实施例中,程序指令和/或数据可被接收、发送或存储在不同类型的计算机可存取介质上。计算机可存取介质可包括非瞬态存储介质或存储器介质,诸如磁性或光学介质,例如经由I/O接口1230耦合到计算设备1200的磁盘或DVD/CD。非瞬态计算机可存取存储介质还可包括任何易失性或非易失性介质,诸如RAM(例如,SDRAM、DDR SDRAM、RDRAM、SRAM等)、ROM等,其可作为系统存储器1212或另一类型的存储器被包括在计算设备1200的一些实施例中。此外,计算机可存取介质可包括传输介质或信号(诸如电、电磁或数字信号),其经由诸如网络和/或无线链路之类的通信介质来传达,诸如可经由网络接口1240实现。多个计算设备中的一部分或全部(诸如图12中所解说的那些)可用于在各种实施例中实现所描述的功能性;例如,运行在各种不同设备和服务器上的软件组件可协作以提供该功能性。在一些实施例中,作为使用通用计算机系统来实现的补充或替换,所描述的功能性的各部分可使用存储设备、网络设备、或专用计算机系统来实现。如本文所使用的术语“计算设备”指的是至少所有这些类型的设备并且不限于这些类型的设备。
各种存储设备及其相关联的计算机可读介质为这里描述的计算设备提供非易失性存储。这里讨论的计算机可读介质可以指大容量存储设备,诸如固态驱动器、硬盘或CD-ROM驱动器。然而,本领域技术人员应当领会,计算机可读介质可以是能够由计算设备访问的任何可用的计算机存储介质。
作为示例而非限制,计算机存储介质可包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。例如,计算机介质包括但不限于,RAM、ROM、EPROM、EEPROM、闪存或其他固态存储器技术、CD-ROM、数字多功能盘(“DVD”)、HD-DVD、蓝光(BLU-RAY)或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备、或能用于存储所需信息且可以由这里讨论的计算设备访问的任何其他介质。出于权利要求书的目的,短语“计算机存储介质”、“计算机可读存储介质”及其变体不包括波、信号、和/或其他瞬态和/或无形通信介质本身。
对本文中所呈现的软件模块进行编码也可变换本文中所呈现的计算机可读介质的物理结构。在本说明书的不同实现中,物理结构的具体变换可取决于各种因素。此类因素的示例可以包括但不仅限于用于实现计算机可读介质的技术、计算机可读介质被表征为主存储还是辅存储,等等。例如,如果计算机可读介质被实现为基于半导体的存储器,则本文所公开的软件可以通过变换半导体存储器的物理状态而在计算机可读介质上编码。例如,软件可以变换构成半导体存储器的晶体管、电容器、或其他分立电路元件的状态。软件还可以变换这些组件的物理状态以便在其上存储数据。
作为另一示例,本文所公开的计算机可读介质可以使用磁或光技术来实现。在这些实现中,本文中所呈现的软件可以当在磁或光介质中编码了软件时变换所述磁或光介质的物理状态。这些变换可以包括改变给定磁介质内的特定位置的磁性。这些变换还可以包括改变给定光学介质内的特定位置的物理特征或特性,以改变这些位置的光学特性。在没有偏离本说明书的范围和精神的情况下,物理介质的其他变换是可能的,前面提供的示例只是为了便于此讨论。
鉴于以上内容,应当理解,在所公开的计算设备中发生许多类型的物理变换以便存储并执行本文所提出的软件组件和/或功能性。还构想了,计所公开的计算设备可以不包括图12中所示的所有所解说的组件,可包括未在图12中显式地示出的其他组件,或者可利用与图12中所示的完全不同的架构。
虽然已用对结构特征和/或方法动作专用的语言描述了各种配置,但应当理解,所附权利要求书中定义的主题不必限于所描述的具体特征或动作。相反,这些具体特征和动作是作为实现所要求保护的主题内容的示例形式而公开的。
除非另外具体声明,或者在如所使用的上下文内以其他方式可理解的,本文使用的条件语言(诸如“能”、“能够”、“可能”、“可以”、“例如”等等)一般意图表达特定实施例包括而其他实施例不包括特定特征、元素和/或步骤。因此,这样的条件语言一般并非旨在暗示一个或多个实施例以任何方式需要特征、元素和/或步骤,或者一个或多个实施例必然包括用于在有或没有作者输入或提示的情况下决定这些特征、元素和/或步骤是否被包括在任何特定实施例中或将在任何特定实施例中执行的逻辑。术语“包括”、“包含”、“具有”等是同义词并且被以开放形式包括性使用,而不排除其它元素、特征、动作、操作等等。此外,术语“或”被以其包括含义来使用(而不是以其排除含义),使得当被使用时,例如用于连接元素列表时,术语“或”表示该列表中的元素中的一个、一些或全部。
虽然某些示例实施例已被描述,但是这些实施例是仅作为示例来提供的,而不旨在限制本文公开的发明的范围。因此,前述描述中没有任何旨在暗示任何特定的特征、特性、步骤、模块或块是必需或不可替代的。事实上,本文描述的新的方法和系统可以各种其它形式来实现;此外,本文描述的方法和系统的形式上的各种省略、替换和改变可在不背离本文公开的发明的精神的情况下进行。随附的权利要求及其等同体旨在覆盖这类形式或修改,如将会落在本文公开的发明的某些的范围和精神内的。
应当领会,描述中对“第一”、“第二”等项目和/或抽象概念的任何引用不旨在也不应被解释为必然对应于对权利要求的“第一”、“第二”等元素的任何引用。特别地,在本概述和/或以下详细描述中,项目和/或抽象概念(诸如举例而言,个体计算设备和/或计算群集的操作状态)可通过数字指定来区分,而无需此类指定对应于权利要求或甚至概述和/或详细描述的其他段落。例如,在本公开的段落内对计算群集的“第一操作状态”和“第二操作状态”的任何指定仅用于区分该特定段落内的计算群集的两个不同操作状态——而不是任何其他段落且尤其不是权利要求。
总而言之,虽然已用对结构特征和/或方法动作专用的语言描述了各种技术,但应当理解,所附权利要求书中定义的主题不必限于所描述的具体特征或动作。相反,这些具体特征和动作是作为实现所要求保护的主题内容的示例形式而公开的。

Claims (22)

1.一种用于将内容递送网络配置成使用实现不同数据利用率度量的多个服务提供商来提供边缘服务的方法,所述方法包括:
确定所述内容递送网络的数据话务如何在第一时间段期间被分发给所述多个服务提供商;
基于数据话务分发,确定在所述第一时间段期间针对所述内容递送网络的所选用户的有效单位成本、复用效率、和信道利用率,其中所述有效单位成本是用于比较不同计费模型的合同成本的经标准化的提供商成本,其中与所述所选用户相关联的数据话务被分发到所述多个服务提供商中的至少两者;
使用贝叶斯优化,确定到所述多个服务提供商的数据话务的重新分发以实现对针对所述所选用户的所述有效单位成本、复用效率、和信道利用率的净改进;以及
基于所确定的重新分发,将所述内容递送网络重新配置成在第二时间段期间重新分发与所述所选用户相关联的数据话务。
2.根据权利要求1所述的方法,进一步包括基于在后续时间段期间针对所述所选用户的数据分发来迭代地重新配置所述内容递送网络。
3.根据权利要求1所述的方法,其中,所述有效单位成本是基于总成本和总数据话务来确定的。
4.根据权利要求3所述的方法,进一步包括基于经计费带宽和计费率来确定总成本。
5.根据权利要求1所述的方法,其中,所述复用效率是基于总带宽需求除以经组合的总带宽需求来确定的,在所述总带宽需求中,所述数据话务使用话务信道的分开实例,在所述经组合的总带宽需求中,所述数据话务被组合并共享所述话务信道的单个实例。
6.根据权利要求1所述的方法,其中,所述信道利用率是基于一个月份内发生的实际总话务除以支付给底层服务提供商且可供使用的总话务量来计算的。
7.根据权利要求1所述的方法,其中,重新配置所述内容递送网络包括使用智能路由引擎来实现所述重新分发。
8.根据权利要求1所述的方法,进一步包括将Metropolis-Hastings框架应用于所述贝叶斯优化。
9.根据权利要求8所述的方法,进一步包括构造具有平稳分布的马尔可夫链。
10.根据权利要求9所述的方法,其中,多个候选被同时提议并且具有最高f(θ)值的候选被评估。
11.根据权利要求1所述的方法,进一步包括使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
12.根据权利要求9所述的方法,进一步包括将包络函数用作提议函数。
13.一种用于将内容递送网络配置成使用实现不同数据利用率度量的多个服务提供商来提供边缘服务的系统,包括:
存储有计算机指令的至少一个存储器,所述计算机指令在由所述系统的一个或多个处理器执行时至少使所述系统:
确定针对被配置成使用多个服务提供商提供边缘服务的内容递送网络的所选用户的有效单位成本、复用效率、和信道利用率中的一者或多者,其中所述有效单位成本是用于比较不同计费模型的合同成本的经标准化的提供商成本,其中用于所述内容递送网络的所述所选用户的数据话务被分发到所述多个服务提供商中的至少两者;
应用贝叶斯优化算法来优化所述有效单位成本、复用效率、和信道利用率中的所述一者或多者;
基于所述应用,确定到所述多个服务提供商的数据话务的重新分发以实现对针对所述所选用户的有效单位成本、复用效率、和信道利用率中的所述一者或多者的净改进;以及
基于所确定的重新分发,将所述内容递送网络配置成重新分发用于所述所选用户的数据话务。
14.根据权利要求13所述的系统,进一步包括计算机指令,所述计算机指令在由所述系统的一个或多个处理器执行时至少使所述系统:
将Metropolis-Hastings框架应用于所述贝叶斯优化算法;以及
构造具有平稳分布的马尔可夫链。
15.根据权利要求13所述的系统,进一步包括计算机指令,所述计算机指令在由所述系统的一个或多个处理器执行时至少使所述系统:使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
16.根据权利要求14所述的系统,其中,多个候选被同时提议并且具有最高f(θ)值的候选被评估。
17.一种其上存储有计算机可执行指令的计算机可读存储介质,所述计算机可执行指令在由计算设备的一个或多个处理器执行时使所述计算设备执行包括以下的操作:
确定针对被配置成使用多个服务提供商提供边缘服务的内容递送网络的所选用户的包括有效单位成本、复用效率、和信道利用率中的一者或多者的数据,其中所述有效单位成本是用于比较不同计费模型的合同成本的经标准化的提供商成本,其中用于所述内容递送网络的所述所选用户的数据话务被分发到所述多个服务提供商中的至少两者;
将贝叶斯优化算法应用于所确定数据的至少一部分以确定到所述多个服务提供商的数据话务的重新分发,以实现对针对所述所选用户的所述有效单位成本、复用效率、或信道利用率的净改进;以及
基于所确定的重新分发,将所述内容递送网络重新配置成重新分发用于所述所选用户的数据话务。
18.根据权利要求17所述的计算机可读存储介质,其中,配置所述内容递送网络包括将智能路由引擎配置成实现所述重新分发。
19.根据权利要求17所述的计算机可读存储介质,进一步包括存储在其上的计算机可执行指令,所述计算机可执行指令在由计算设备的一个或多个处理器执行时使所述计算设备执行包括以下的操作:使用由分段线性函数定义的一系列采样分布来应用采纳拒绝采样(ARS)。
20.根据权利要求17所述的计算机可读存储介质,进一步包括存储在其上的计算机可执行指令,所述计算机可执行指令在由计算设备的一个或多个处理器执行时使所述计算设备执行包括以下的操作:
将Metropolis-Hastings框架应用于所述数据的所述部分;以及
构造具有平稳分布的马尔可夫链。
21.一种具有指令的计算机可读存储介质,当所述指令被执行时使得机器执行如权利要求1-12中任一权利要求所述的方法。
22.一种计算机系统,包括用于执行如权利要求1-12中任一权利要求所述的方法的装置。
CN201980094683.2A 2019-11-04 2019-11-04 Cdn优化平台 Active CN113615137B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2019/115212 WO2021087639A1 (en) 2019-11-04 2019-11-04 Cdn optimization platform

Publications (2)

Publication Number Publication Date
CN113615137A CN113615137A (zh) 2021-11-05
CN113615137B true CN113615137B (zh) 2024-04-12

Family

ID=75848452

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980094683.2A Active CN113615137B (zh) 2019-11-04 2019-11-04 Cdn优化平台

Country Status (4)

Country Link
US (2) US11856246B2 (zh)
EP (1) EP4055787A4 (zh)
CN (1) CN113615137B (zh)
WO (1) WO2021087639A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021157339A (ja) * 2020-03-25 2021-10-07 富士通株式会社 情報処理方法、及び情報処理プログラム
CN113949741B (zh) * 2021-10-14 2023-07-21 北京奇艺世纪科技有限公司 一种调度方法、调度装置、电子设备及存储介质
CN114726776B (zh) * 2022-01-30 2024-01-30 阿里巴巴(中国)有限公司 内容分发网络cdn调度方法、装置、设备及介质
CN114826935B (zh) * 2022-03-16 2024-06-07 网宿科技股份有限公司 模型生成方法、系统、服务器及存储介质
CN115102957B (zh) * 2022-06-08 2024-06-04 中移(杭州)信息技术有限公司 基于混合管理系统的业务分发方法及相关设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102868542A (zh) * 2011-07-04 2013-01-09 中兴通讯股份有限公司 一种服务分发网络中服务质量的控制方法及系统
CN103312629A (zh) * 2012-03-09 2013-09-18 深圳市腾讯计算机系统有限公司 一种cdn流量分配方法、设备及系统
CN106454700A (zh) * 2016-09-13 2017-02-22 华北电力大学 基于社交网络的d2d通信内容分发方案
CN109918205A (zh) * 2019-03-25 2019-06-21 深圳市网心科技有限公司 一种边缘设备调度方法、系统、装置及计算机存储介质

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8224986B1 (en) * 2002-03-07 2012-07-17 Cisco Technology, Inc. Methods and apparatus for redirecting requests for content
US20110078230A1 (en) * 2009-09-25 2011-03-31 Emilio Sepulveda Method and system for providing a cdn with granular quality of service
WO2011071850A2 (en) * 2009-12-07 2011-06-16 Coach Wei System and method for website performance optimization and internet traffic processing
WO2012006595A2 (en) * 2010-07-09 2012-01-12 Nicolas Girard Transparent proxy architecture for multi-path data connections
US8510807B1 (en) * 2011-08-16 2013-08-13 Edgecast Networks, Inc. Real-time granular statistical reporting for distributed platforms
US9253051B2 (en) * 2012-02-23 2016-02-02 Ericsson Ab System and method for delivering content in a content delivery network
US8432808B1 (en) * 2012-06-15 2013-04-30 Viasat Inc. Opportunistically delayed delivery in a satellite network
US9537973B2 (en) * 2012-11-01 2017-01-03 Microsoft Technology Licensing, Llc CDN load balancing in the cloud
US20140188974A1 (en) * 2012-12-27 2014-07-03 Thomson Licensing System and method for orchestrating massively distributed content delivery networks
EP2963871B1 (de) * 2014-06-30 2018-10-10 Deutsche Telekom AG Effiziente Transportnetz Architektur für Content Delivery Network
US20220188700A1 (en) * 2014-09-26 2022-06-16 Bombora, Inc. Distributed machine learning hyperparameter optimization
US9497243B1 (en) * 2014-09-30 2016-11-15 Amazon Technologies, Inc. Content delivery
WO2016081506A1 (en) * 2014-11-18 2016-05-26 Ustream, Inc. Software defined content delivery network for flexible, real-time management of large-scale data transfers
US10311372B1 (en) * 2014-12-19 2019-06-04 Amazon Technologies, Inc. Machine learning based content delivery
US11057446B2 (en) * 2015-05-14 2021-07-06 Bright Data Ltd. System and method for streaming content from multiple servers
US20170195237A1 (en) * 2015-12-30 2017-07-06 Akamai Technologies, Inc. Distributed quality-of-service (QoS) mechanism in an overlay network having edge regions
US10587907B2 (en) * 2016-04-15 2020-03-10 Triveni Digital Inc. Broadcast management services platform
EP3501152B1 (en) * 2016-08-18 2019-10-16 Telefonaktiebolaget LM Ericsson (publ) Technique for selecting a content distribution network entity
US10862771B2 (en) * 2016-11-10 2020-12-08 Ciena Corporation Adaptive systems and methods enhancing service quality of experience
US11050706B2 (en) * 2017-03-22 2021-06-29 Salesforce.Com, Inc. Automated autonomous system based DNS steering
US10609119B2 (en) * 2017-11-03 2020-03-31 Salesforce.Com, Inc. Simultaneous optimization of multiple TCP parameters to improve download outcomes for network-based mobile applications
US10405208B2 (en) * 2017-11-03 2019-09-03 Salesforce.Com, Inc. Automatic performance monitoring and health check of learning based wireless optimization framework
US20190138362A1 (en) * 2017-11-03 2019-05-09 Salesforce.Com, Inc. Dynamic segment generation for data-driven network optimizations
US10448267B2 (en) * 2017-11-03 2019-10-15 Salesforce.Com, Inc. Incorporation of expert knowledge into machine learning based wireless optimization framework
US11126927B2 (en) * 2017-11-24 2021-09-21 Amazon Technologies, Inc. Auto-scaling hosted machine learning models for production inference
US20190253274A1 (en) * 2018-02-14 2019-08-15 Megaport (Services) Pty Ltd. Network interconnection service
US11176489B1 (en) * 2018-04-17 2021-11-16 Amazon Technologies, Inc. Optimal message scheduling for aggregation
US11570502B2 (en) * 2018-05-01 2023-01-31 Telefonaktiebolaget Lm Ericsson (Publ) Providing personalized messages in adaptive streaming
US10587426B2 (en) * 2018-05-17 2020-03-10 At&T Intellectual Property I, L.P. System and method for optimizing revenue through bandwidth utilization management
US10819789B2 (en) * 2018-06-15 2020-10-27 At&T Intellectual Property I, L.P. Method for identifying and serving similar web content
US11226885B1 (en) * 2018-06-19 2022-01-18 Amazon Technologies, Inc. Monte Carlo simulation monitoring and optimization
US11055454B1 (en) * 2018-06-19 2021-07-06 Amazon Technologies, Inc. Configuring and deploying Monte Carlo simulation pipelines
US10750404B2 (en) * 2018-07-09 2020-08-18 Vmware, Inc. Systems and methods for mobile network guidance for over-the-top applications
US20200021490A1 (en) * 2018-07-10 2020-01-16 Cable Television Laboratories, Inc Systems and methods for advanced core network controls
JP7167847B2 (ja) * 2019-05-15 2022-11-09 日本電信電話株式会社 制御装置、制御方法及びプログラム
US10972768B2 (en) * 2019-06-27 2021-04-06 Intel Corporation Dynamic rebalancing of edge resources for multi-camera video streaming
US11593704B1 (en) * 2019-06-27 2023-02-28 Amazon Technologies, Inc. Automatic determination of hyperparameters
DE112020003766T5 (de) * 2019-08-08 2022-07-07 Intel Corporation Linkleistungsprognose und Medienstreaming-Technologien
US11461231B2 (en) * 2019-10-18 2022-10-04 International Business Machines Corporation Fractal based content delivery network layouts

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102868542A (zh) * 2011-07-04 2013-01-09 中兴通讯股份有限公司 一种服务分发网络中服务质量的控制方法及系统
CN103312629A (zh) * 2012-03-09 2013-09-18 深圳市腾讯计算机系统有限公司 一种cdn流量分配方法、设备及系统
CN106454700A (zh) * 2016-09-13 2017-02-22 华北电力大学 基于社交网络的d2d通信内容分发方案
CN109918205A (zh) * 2019-03-25 2019-06-21 深圳市网心科技有限公司 一种边缘设备调度方法、系统、装置及计算机存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Geo-Edge: Geographical Resource Allocation on Edge Caches for Video-on-Demand Streaming;Yuanxing Zhang等;2018 4th International Conference on Big Data Computing and Communications;第I-V节,图1 *
Machine Learning Methods for Reliable Resource Provisioning in Edge-Cloud Computing: A Survey;THANG LE DUC等;ACM Computing Surveys;第52卷(第5期);全文 *
MDP and Machine Learning-Based Cost-Optimization of Dynamic Resource Allocation for Network Function Virtualization;Runyu Shi等;2015 IEEE International Conference on Services Computing;全文 *

Also Published As

Publication number Publication date
US20240179360A1 (en) 2024-05-30
US11856246B2 (en) 2023-12-26
US20230015423A1 (en) 2023-01-19
WO2021087639A9 (en) 2021-09-30
WO2021087639A1 (en) 2021-05-14
CN113615137A (zh) 2021-11-05
EP4055787A4 (en) 2023-05-24
EP4055787A1 (en) 2022-09-14

Similar Documents

Publication Publication Date Title
CN113615137B (zh) Cdn优化平台
CN103778474A (zh) 资源负载量预测方法、分析预测系统及业务运营监控系统
Chemodanov et al. A near optimal reliable composition approach for geo-distributed latency-sensitive service chains
CN103064744B (zh) 一种基于SLA的面向多层Web应用的资源优化方法
Kim et al. Prediction based sub-task offloading in mobile edge computing
CN111614754B (zh) 面向雾计算的成本效率优化的动态自适应任务调度方法
Hussain et al. Fog computing for big data analytics in IoT aided smart grid networks
CN109543890A (zh) 基于负载预测均衡的电网费控优化调度方法、装置及系统
Li et al. MapReduce delay scheduling with deadline constraint
Hosseinalipour et al. Power-aware allocation of graph jobs in geo-distributed cloud networks
Xu et al. Optimized contract-based model for resource allocation in federated geo-distributed clouds
CN116467082A (zh) 一种基于大数据的资源分配方法及系统
Tiwary et al. CPS: a dynamic and distributed pricing policy in cyber foraging systems for fixed state cloudlets
Gowri et al. An energy efficient and secure model using chaotic levy flight deep Q-learning in healthcare system
Zhang et al. Offloading demand prediction-driven latency-aware resource reservation in edge networks
CN110266770B (zh) 基于博弈论的闲置云资源调度方法和装置
Sigurleifsson et al. An approach for modeling the operational requirements of FaaS applications for optimal deployment
Sharifi et al. Combing smart grid with community clouds: Next generation integrated service platform
US8521747B2 (en) System and method for selectively consolidating applications to a machine using resource utilization data
CN116109058A (zh) 一种基于深度强化学习的变电站巡视管理方法和装置
Huang The value-of-information in matching with queues
Kumar et al. A review on sustainable resource management in cloud environment
Deal et al. Budget-transfer: A low cost inter-service data storage and transfer scheme
Chiu et al. An effective metaheuristic algorithm for the deployment problem of edge computing servers
CN118069053B (zh) 一种云数据处理方法、系统及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant