CN111245684A - 流量调度方法和装置、电子设备、计算机可读介质 - Google Patents

流量调度方法和装置、电子设备、计算机可读介质 Download PDF

Info

Publication number
CN111245684A
CN111245684A CN202010030212.XA CN202010030212A CN111245684A CN 111245684 A CN111245684 A CN 111245684A CN 202010030212 A CN202010030212 A CN 202010030212A CN 111245684 A CN111245684 A CN 111245684A
Authority
CN
China
Prior art keywords
service provider
cdn service
traffic
cdn
quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010030212.XA
Other languages
English (en)
Other versions
CN111245684B (zh
Inventor
元艳素
梁振方
张允禹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhizhe Sihai Beijing Technology Co ltd
Original Assignee
Zhizhe Sihai Beijing Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhizhe Sihai Beijing Technology Co ltd filed Critical Zhizhe Sihai Beijing Technology Co ltd
Priority to CN202010030212.XA priority Critical patent/CN111245684B/zh
Publication of CN111245684A publication Critical patent/CN111245684A/zh
Application granted granted Critical
Publication of CN111245684B publication Critical patent/CN111245684B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0823—Errors, e.g. transmission errors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]

Abstract

本公开实施例提供一种流量调度方法和装置、电子设备、计算机可读介质，该方法获取第一CDN服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；当预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。该实施例实现了流量的智能化调度，提高了CDN/DSA加速的服务质量，提升用户体验。

Description

流量调度方法和装置、电子设备、计算机可读介质
技术领域
本公开涉及网络通信技术领域，更具体地，涉及一种流量调度方法和装置、电子设备、计算机可读介质。
背景技术
网站内容大致可分为两类：静态内容和动态内容。静态内容一般采用内容分发网络(CDN)缓存服务加速，静态资源的就近访问即可提高用户体验，又能减少源站静态资源访问的带宽压力。而动态内容完全定制化，必须回源站访问，因公网链路存在跨运营商、跨地域、网络不稳定等因素的影响，会导致数据包响应慢、丢包、服务不稳定等问题，直接影响用户体验，一般可采用动态内容加速服务进行优化。
动态站点加速(Dynamic Site Acceleration，简称DSA)是CDN服务提供商在复用CDN节点资源的基础上，通过最优链路算法和优化网络协议栈，为动态内容回源提供相对优质的回源链路。为保证整体服务的稳定性，防止单家CDN服务提供商的故障影响服务质量，动静态内容加速可以采用多家CDN服务提供商提供服务，当一家服务提供商的加速服务出现问题时，需要手动切换流量至备选的服务提供商或者采用预定的调度策略将流量调度至备选的服务提供商。然而，本公开的发明人发现，当CDN服务提供商的加速服务出现异常时，往往服务性能已有损，现有的方案不能及时预判异常的发生；并且，各服务提供商的服务质量会随着时间随机变化，最初预定的调度策略无法最大化利用各加速服务提供商的优势资源；手动切换流量至备选的服务提供商时，可能备选的服务提供商仍然存在性能瓶颈问题。
发明内容
有鉴于此，本公开实施例提供一种流量调度方法和装置、电子设备、计算机可读介质，用于实现流量的智能化调度，提高CDN/DSA加速的服务质量，提升用户体验。
第一方面，本公开实施例提供一种流量调度方法，包括：
获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
当预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
在可选的实施方式中，所述获取第一CDN服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测包括：
采集第一CDN服务提供商的服务质量的实时性能指标；
基于无监督的统计模型计算所述实时性能指标出现的概率；
判断所述实时性能指标出现的概率是否低于第一阈值。
在可选的实施方式中，所述无监督的统计模型包括高斯模型。
在可选的实施方式中，所述预测出流量异常包括：
所述实时性能指标出现的概率低于第一阈值。
在可选的实施方式中，所述基于无监督的统计模型计算所述实时性能指标出现的概率包括：
计算所述实时性能指标的均值和方差。
在可选的实施方式中，所述预测出流量异常包括：
所述实时性能指标与所述均值的差的绝对值大于第二阈值。
在可选的实施方式中，所述实时性能指标包括：一个窗口期内的网络成功率或者平均下载速度或者网络延时。
在可选的实施方式中，所述将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试包括：
基于HTTPDNS将所述流量按照调度策略表指定的权重切换到所述至少一个第二CDN服务提供商；
采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
在可选的实施方式中，所述基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分包括：
计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
在可选的实施方式中，所述根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度包括：
根据所述评分对所述第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
第二方面，本公开实施例提供一种流量调度装置，包括：
预警单元，被配置为获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
测试单元，被配置为当预警单元预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
评分单元，被配置为基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
调度单元，被配置为根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
在可选的实施方式中，所述预警单元包括：
第一采集子单元，被配置为采集第一CDN服务提供商的服务质量的实时性能指标；
计算子单元，被配置为基于无监督的统计模型计算所述实时性能指标出现的概率；
判断子单元，被配置为判断所述实时性能指标出现的概率是否低于第一阈值。
在可选的实施方式中，所述无监督的统计模型包括高斯模型。
在可选的实施方式中，所述预警单元预测出流量异常包括：所述实时性能指标出现的概率低于第一阈值。
在可选的实施方式中，所述计算子单元还被配置为：计算所述实时性能指标的均值和方差。
在可选的实施方式中，所述预警单元预测出流量异常包括：所述实时性能指标与所述均值的差的绝对值大于第二阈值。
在可选的实施方式中，所述实时性能指标包括：一个窗口期内的网络成功率或者平均下载速度或者网络延时。
在可选的实施方式中，所述测试单元包括：
测试分配子单元，被配置为基于HTTPDNS将所述流量按照调度策略表指定的权重分配给所述至少一个第二CDN服务提供商；
第二采集子单元，被配置为采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
在可选的实施方式中，所述评分单元还被配置为：
计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
在可选的实施方式中，所述调度单元包括：
排序子单元，被配置为根据所述评分对所述第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
调度执行子单元，被配置为如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
第三方面，本公开实施例提供一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行前述实施方式中任一项所述的方法步骤。
第四方面，本公开实施例提供一种计算机可读介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行前述实施方式中任一项所述的方法步骤。
本公开实施例至少具有以下有益效果：能够提前感知流量异常事件的发生，并且最大化利用各加速服务提供商的优势资源，从而减少流量异常问题给用户带来的体验变差时间，显著提升用户的体验。
附图说明
为了更清楚地说明本公开实施例的技术方案，下面将对实施例中所使用的附图作简单地介绍，应当理解，以下附图仅示出了本公开的示例性实施例，不应被看作是对范围的限定，对于本领域普通技术人员，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1是根据本公开一实施例的流量调度方法的流程示意图；
图2是根据本公开一实施例的流量调度方法的部分流程示意图；
图3是基于高斯分布的概率统计分布示意图；
图4是根据本公开一实施例的流量调度方法的部分流程示意图；
图5是根据本公开一实施例的流量调度方法的部分流程示意图；
图6是根据本公开一实施例的流量调度方法的部分流程示意图；
图7是根据本公开一实施例的流量调度装置的结构示意图；
图8是根据本公开一实施例的流量调度装置的部分结构示意图；
图9是根据本公开一实施例的流量调度装置的部分结构示意图；
图10是根据本公开一实施例的流量调度装置的部分结构示意图。
具体实施方式
以下将参照附图来描述本公开的实施例。应该理解，这些描述只是示例性的，而并非要限制本公开的范围。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。这里使用的词语“一”、“一个(种)”和“该”等也应包括“多个”、“多种”的意思，除非上下文另有明确指出。此外，在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件的可能。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
图1是根据本公开一实施例的流量调度方法的流程示意图。如图1所示，本公开实施例的流量调度方法包括以下步骤：
步骤S101，获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
步骤S102，当预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
步骤S103，基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
步骤S104，根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
本实施例的流量调度方法通过对线上流量进行实时异常预测，提前感知流量异常事件的发生，在预测到流量发生异常时，根据对备选的CDN服务提供商的服务质量进行AB测试的结果进行流量调度，实现流量的智能化调度，最大化利用各加速服务提供商的优势资源，从而减少流量异常问题给用户带来的体验变差时间，显著提升用户的体验。
本实施例中，流量是指用户在访问网站过程中产生的访问量和/或数据量。服务质量表示CDN服务提供商为网站内容提供CDN/DSA加速的服务能力评价。
步骤S101中第一内容分发网络(CDN)服务提供商是指当前提供线上网站内容加速服务的厂商，例如阿里云、腾讯云、亚马逊云等云服务商。步骤S102中第二CDN服务提供商是作为候选的CDN服务提供商。
步骤S102中第一策略可以根据实际需求确定合适的调度策略，例如可以按照一定的比例权重进行流量切换。
AB测试(又称ABTest)的含义是组间对比测试。该术语最初来源于科研测试领域，目前在互联网领域被用于产品方案的优化迭代，就是为同一个产品目标制定两个方案，将用户流量对应分成两组，让一部分用户使用A方案，另一部分用户使用B方案，然后通过日志记录用户的使用情况，并通过结构化的日志数据分析相关指标，如点击率、转化率等，从而得出哪个方案更符合预期设计目标，并最终将全部流量切换至符合目标的方案。本实施例中，将AB测试的模式和原理应用于CDN加速的流量调度，即通过将加速服务流量分组，分别切换到一候选的CDN服务提供商，对各候选的CDN服务提供商的服务质量进行先验性测试，然后对比测试结果，提前发现服务质量最优的候选CDN服务提供商进行线上流量调度切换。AB测试的引入使得流量切换不是由人工操作，而是由完整的试验-计算-切换的闭环来完成，避免了人工流量切换操作的不可预知性。
在一些实施方式中，如图2所示，步骤S101中，获取第一CDN服务提供商的服务质量数据，根据服务质量数据进行流量异常预测包括：
步骤S201，采集第一CDN服务提供商的服务质量的实时性能指标；
步骤S202，基于无监督的统计模型计算所述实时性能指标出现的概率；
步骤S203，判断所述实时性能指标出现的概率是否低于第一阈值。
其中，所述CDN服务提供商的服务质量的性能指标可以包括但不限于：一个窗口期内的网络成功率或者平均下载速度或者网络延时。窗口期是指对性能指标进行采样的时间周期。窗口期可以根据实际需要选择，作为示例，本公开实施例假设15分钟为一个窗口期，每分钟窗口移动一次。
本实施例中，CDN服务提供商的服务质量的实时性能指标可以通过移动端实时向源站上报网络相关埋点数据的方式来采集。网络成功率是指窗口期内请求成功的次数除以请求的总数的比值。平均下载速度是窗口期内请求报文的总长度除以请求的总耗时。网络延时是窗口期内的网络耗时。作为示例，网络耗时可以采用P90/P95分位数来度量，分位数是将总体的全部数据按从小到大顺序排列后，处于各分位位置的变量值。例如，假设P90网络延时＝4ms，表示90％的请求网络延时不大于4ms。
对于CDN服务提供商来说，日常Web访问的场景，某个请求是否成功，跟请求本身的关系较小，取决于网络状况以及服务提供商提供的服务性能瓶颈和其他随机因素，无法建立严格的正负样本，因此本实施例采用无监督的统计模型来对服务提供商的服务质量的性能指标进行统计。当CDN服务提供商的服务质量的实时性能指标出现的概率低于某个阈值时，通常可以认为该性能指标发生异常。
由于大多数CDN服务提供商在服务交付使用时，已经经过多轮试验和版本迭代，性能趋于稳定，能够保证服务质量在一个平均线上，根据大数定理，一个窗口期内的服务质量的性能指标可以认为符合高斯正态分布。因此，在一个实施方式中，可以采用高斯模型计算某个实时性能指标出现的概率。如果个别服务提供商的服务质量的性能指标不满足高斯正态分布时，可以使用log、幂次等运算将之转换为近似高斯分布，然后使用高斯模型计算某个实时性能指标出现的概率。
某个实时性能指标出现的概率的计算公式如下：
Figure BDA0002364032310000081
其中，μ和σ2分别为高斯分布的均值和方差，可以通过以下公式计算得出：
Figure BDA0002364032310000082
Figure BDA0002364032310000083
其中，上述公式中，m表示某个性能指标的样本总数量；xi表示某个性能指标的具体样本值。
当计算出某个性能指标的概率x后，判断该概率值是否低于预定阈值，如果当前的性能指标以极低的概率发生，那么通常可以认为该指标存在异常。
在一些实施方式中，如图3所示，可以根据2倍或3倍方差的原理来判断x是否为异常值。2倍或3倍方差外的值一般认为发生的概率极低。如果x表示网络成功率，通过对该性能指标的采集，在满足一定的样本后，根据上述均值、方差的公式计算得出μ和σ。当采集到某个具体的窗口期的网络成率s，计算|s-μ|是否大于3σ或2σ,如果是，则可以判断为异常。
在一些实施方式中，如图4所示，步骤S102中，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试可以包括：
步骤S401，基于HTTPDNS将流量按照调度策略表指定的权重切换到所述至少一个第二CDN服务提供商；
步骤S402，采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
其中，HTTPDNS是APP移动端为了域名防劫持和精准调度而采用的域名解析方法，APP移动端通过HTTPS API请求的方式，向HTTPDNS服务器发起域名解析请求，该域名解析请求中包含域名、用户来源IP和其他信息。HTTPDNS服务器根据用户来源IP按调度策略表中的配置将厂商服务地址下发给APP移动端，从而实现流量调度。基于HTTPDNS的流量调度将域名解析的协议由DNS协议换成了HTTP协议，解决了传统的域名解析异常问题，由于HTTPDNS能直接获取到用户IP，域名解析请求直接传送到HTTPDNS服务器，实现了流量的精准调度。
作为示例，调度策略表可以包括<域名、地域、厂商、权重>，其中域名+地域作为唯一键值key，即某一域名在某一地域可以使用多家厂商的加速服务；地域指国家、省份或者省份+运营商等；厂商指CDN服务提供商；权重是指给不同厂商分配流量的比重。
在该示例下，当HTTPDNS服务器接收到移动端的域名解析请求时，通过IP库将用户来源IP转换为地域，按调度策略表中的配置，将某一域名在某一地域根据权重给不同的加速服务厂商分配流量，从而实现将部分流量按照不同比例切换到至少一个第二CDN服务提供商，随后采集第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标，进行AB测试。
在一些实施方式中，如图5所示，步骤S103中，基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分可以包括：
步骤S501，计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
步骤S502，基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
本实施例中，根据采集的第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标，例如可以是最近几个窗口期的性能指标样本，分别对各服务提供商的实时性能指标进行均值和方差的计算，按权重构建均值和方差的函数后得到各服务提供商的服务质量的评分。
作为示例，如果采集的最近几个窗口期的网络成功率为s1，s2，s3，……，sn，根据上述均值和方差的公式计算μ和σ，则服务提供商的服务质量的评分score的计算公式可以为：
Figure BDA0002364032310000101
分别按照上述公式对各服务提供商计算服务质量的评分score1，score2，……，scoreN，N为全部服务提供商的数量。
在一些实施方式中，如图6所示，步骤S104中，根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度可以包括：
步骤S601，根据评分对第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
步骤S602，如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
本实施例中，可以根据上述计算的各服务提供商的评分进行排序，筛选出服务质量最优的服务提供商，如果该最优的服务提供商与当前提供线上服务的服务提供商不一致，则将线上流量按照预定的策略切换至最优的服务提供商。其中，上述第二策略可以根据实际需求选择合适的调度策略，例如可以按照等比例的权重将流量切换到最优的服务提供商。
在一些实施方式中，还可以根据各服务提供商的评分的排序，筛选出服务质量排在前几名的服务提供商，将线上流量按照一定的比例权重切换至该前几名的服务提供商。
本公开实施例还提供一种流量调度装置，该实施例解决的技术问题、达到的技术效果与上述流量调度方法相似，相关实施方式的重复之处以下将不再赘述。
图7是根据本公开一实施例的流量调度装置的结构示意图。如图7所示，本公开实施例的流量调度装置包括：
预警单元701，被配置为获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
测试单元702，被配置为当预警单元预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
评分单元703，被配置为基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
调度单元704，被配置为根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
本实施例的流量调度装置通过对线上流量进行实时异常预测，提前感知流量异常事件的发生，在预测到流量发生异常时，根据对备选的CDN服务提供商的服务质量进行AB测试的结果进行流量调度，实现流量的智能化调度，最大化利用各加速服务提供商的优势资源，从而减少流量异常问题给用户带来的体验变差时间，显著提升用户的体验。
在一些实施方式中，如图8所示，所述预警单元701可以包括：
第一采集子单元801，被配置为采集第一CDN服务提供商的服务质量的实时性能指标；
计算子单元802，被配置为基于无监督的统计模型计算所述实时性能指标出现的概率；
判断子单元803，被配置为判断所述实时性能指标出现的概率是否低于第一阈值。
在一些实施方式中，所述无监督的统计模型包括高斯模型。
在一些实施方式中，所述预警单元预测出流量异常包括：所述实时性能指标出现的概率低于第一阈值。
在一些实施方式中，所述计算子单元802还被配置为：计算所述实时性能指标的均值和方差。
在一些实施方式中，所述预警单元701预测出流量异常包括：所述实时性能指标与所述均值的差的绝对值大于第二阈值。
在一些实施方式中，所述实时性能指标包括：一个窗口期内的网络成功率或者平均下载速度或者网络延时。
在一些实施方式中，如图9所示，所述测试单元702可以包括：
测试分配子单元901，被配置为基于HTTPDNS将所述流量按照调度策略表指定的权重分配给所述至少一个第二CDN服务提供商；
第二采集子单元902，被配置为采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
在一些实施方式中，所述评分单元703还被配置为：
计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
在一些实施方式中，如图10所示，所述调度单元704可以包括：
排序子单元1001，被配置为根据所述评分对所述第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
调度执行子单元1002，被配置为如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
本公开实施例可以通过软件、硬件或软硬件结合的方式实施。当实现为计算机软件程序时，该计算机软件程序可以安装于移动终端、计算机、服务器等电子设备终端中执行以实现相应功能。特别地，本公开的实施例还可以包括一种计算机可读介质，该计算机可读介质存储有程序指令，在这样的实施例中，当该计算机可读介质装载在计算设备中时，该程序指令可以被中央处理单元(CPU)执行以执行本公开实施例中描述的各个方法步骤。此外，本公开的实施例还可以包括一种计算机程序产品，包括承载程序指令的计算机可读介质，在这样的实施例中，该程序指令可以被中央处理单元(CPU)执行以执行本公开实施例中描述的各个方法步骤。
以上描述了本公开示例性的实施例，应当理解，上述示例性的实施例不是限制性的，而是说明性的，本公开的保护范围不限于此。应理解，本领域技术人员在不脱离本公开的精神和范围的情况下，可以对本公开实施例进行修改和变型，这些修改和变型理应在本公开的保护范围之内。

Claims (22)

1.一种流量调度方法，其特征在于，包括：
获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
当预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
2.根据权利要求1所述的流量调度方法，其特征在于，所述获取第一CDN服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测包括：
采集第一CDN服务提供商的服务质量的实时性能指标；
基于无监督的统计模型计算所述实时性能指标出现的概率；
判断所述实时性能指标出现的概率是否低于第一阈值。
3.根据权利要求2所述的流量调度方法，其特征在于，所述无监督的统计模型包括高斯模型。
4.根据权利要求2所述的流量调度方法，其特征在于，所述预测出流量异常包括：
所述实时性能指标出现的概率低于第一阈值。
5.根据权利要求3所述的流量调度方法，其特征在于，所述基于无监督的统计模型计算所述实时性能指标出现的概率包括：
计算所述实时性能指标的均值和方差。
6.根据权利要求5所述的流量调度方法，其特征在于，所述预测出流量异常包括：
所述实时性能指标与所述均值的差的绝对值大于第二阈值。
7.根据权利要求2所述的流量调度方法，其特征在于，所述实时性能指标包括：一个窗口期内的网络成功率或者平均下载速度或者网络延时。
8.根据权利要求1所述的流量调度方法，其特征在于，所述将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试包括：
基于HTTPDNS将所述流量按照调度策略表指定的权重切换到所述至少一个第二CDN服务提供商；
采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
9.根据权利要求8所述的流量调度方法，其特征在于，所述基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分包括：
计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
10.根据权利要求9所述的流量调度方法，其特征在于，所述根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度包括：
根据所述评分对所述第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
11.一种流量调度装置，其特征在于，包括：
预警单元，被配置为获取第一内容分发网络(CDN)服务提供商的服务质量数据，根据所述服务质量数据进行流量异常预测；
测试单元，被配置为当预警单元预测出流量异常时，将流量按照第一策略部分地切换到至少一个第二CDN服务提供商，进行服务质量的AB测试；
评分单元，被配置为基于所述AB测试的结果，对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量进行评分；
调度单元，被配置为根据对所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分结果进行流量的调度。
12.根据权利要求11所述的流量调度装置，其特征在于，所述预警单元包括：
第一采集子单元，被配置为采集第一CDN服务提供商的服务质量的实时性能指标；
计算子单元，被配置为基于无监督的统计模型计算所述实时性能指标出现的概率；
判断子单元，被配置为判断所述实时性能指标出现的概率是否低于第一阈值。
13.根据权利要求12所述的流量调度装置，其特征在于，所述无监督的统计模型包括高斯模型。
14.根据权利要求12所述的流量调度装置，其特征在于，所述预警单元预测出流量异常包括：
所述实时性能指标出现的概率低于第一阈值。
15.根据权利要求13所述的流量调度装置，其特征在于，所述计算子单元还被配置为：计算所述实时性能指标的均值和方差。
16.根据权利要求15所述的流量调度装置，其特征在于，所述预警单元预测出流量异常包括：
所述实时性能指标与所述均值的差的绝对值大于第二阈值。
17.根据权利要求12所述的流量调度装置，其特征在于，所述实时性能指标包括：一个窗口期内的网络成功率或者平均下载速度或者网络延时。
18.根据权利要求11所述的流量调度装置，其特征在于，所述测试单元包括：
测试分配子单元，被配置为基于HTTPDNS将所述流量按照调度策略表指定的权重分配给所述至少一个第二CDN服务提供商；
第二采集子单元，被配置为采集所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标。
19.根据权利要求18所述的流量调度装置，其特征在于，所述评分单元还被配置为：
计算采集的所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的实时性能指标的均值和方差；
基于所述实时性能指标的均值和方差的函数计算所述第一CDN服务提供商和至少一个第二CDN服务提供商的服务质量的评分。
20.根据权利要求19所述的流量调度装置，其特征在于，所述调度单元包括：
排序子单元，被配置为根据所述评分对所述第一CDN服务提供商和至少一个第二CDN服务提供商进行排序；
调度执行子单元，被配置为如果服务质量最优的CDN服务提供商是所述至少一个第二CDN服务提供商中之一，则基于HTTPDNS将流量按照第二策略调度给所述服务质量最优的CDN服务提供商。
21.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储器，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行如权利要求1-10中任一项所述的方法步骤。
22.一种计算机可读介质，其特征在于，其上存储有可执行指令，该指令被处理器执行时使处理器执行如权利要求1-10中任一项所述的方法步骤。
CN202010030212.XA 2020-01-13 2020-01-13 流量调度方法和装置、电子设备、计算机可读介质 Active CN111245684B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010030212.XA CN111245684B (zh) 2020-01-13 2020-01-13 流量调度方法和装置、电子设备、计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010030212.XA CN111245684B (zh) 2020-01-13 2020-01-13 流量调度方法和装置、电子设备、计算机可读介质

Publications (2)

Publication Number Publication Date
CN111245684A true CN111245684A (zh) 2020-06-05
CN111245684B CN111245684B (zh) 2021-12-21

Family

ID=70865549

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010030212.XA Active CN111245684B (zh) 2020-01-13 2020-01-13 流量调度方法和装置、电子设备、计算机可读介质

Country Status (1)

Country Link
CN (1) CN111245684B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112615791A (zh) * 2020-12-30 2021-04-06 北京达佳互联信息技术有限公司 调度内容分发网络的流量的方法和装置
CN112671665A (zh) * 2020-12-16 2021-04-16 北京百度网讯科技有限公司 智能流量调度方法、装置、设备以及存储介质
CN112838957A (zh) * 2021-02-23 2021-05-25 成都卓源网络科技有限公司 一种具备智能调度的流量预测系统
CN112929292A (zh) * 2021-03-07 2021-06-08 百果园技术(新加坡)有限公司 基于机房对照的流量调度方法、系统、设备及存储介质
CN113132479A (zh) * 2021-04-16 2021-07-16 北京百度网讯科技有限公司 流量切换、模型生成方法、装置、设备、存储介质及程序

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103974311A (zh) * 2014-05-21 2014-08-06 哈尔滨工业大学 基于改进高斯过程回归模型的状态监测数据流异常检测方法
CN104994123A (zh) * 2015-05-12 2015-10-21 段利平 一种cdn云平台及cdn云平台的流量调度方法
CN107483455A (zh) * 2017-08-25 2017-12-15 国家计算机网络与信息安全管理中心 一种基于流的网络节点异常检测方法和系统
CN109547289A (zh) * 2018-12-04 2019-03-29 杭州安恒信息技术股份有限公司 一种智能调度访客流量的方法及系统
CN109842563A (zh) * 2017-11-24 2019-06-04 中国电信股份有限公司 内容分发网络流量调度方法、装置和计算机可读存储介质
CN110086649A (zh) * 2019-03-19 2019-08-02 深圳壹账通智能科技有限公司 异常流量的检测方法、装置、计算机设备及存储介质
CN110198332A (zh) * 2018-04-13 2019-09-03 腾讯科技（深圳）有限公司 内容分发网络节点的调度方法、装置及存储介质
CN110445680A (zh) * 2019-07-29 2019-11-12 新华三大数据技术有限公司 网络流量异常检测方法、装置及服务器
CN110460591A (zh) * 2019-07-26 2019-11-15 南京理工大学 基于改进分层时间记忆网络的cdn流量异常检测装置及方法
US20190394104A1 (en) * 2017-01-06 2019-12-26 Mz Ip Holdings, Llc System and Method for Updating Application Clients Using a Plurality of Content Delivery Networks

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103974311A (zh) * 2014-05-21 2014-08-06 哈尔滨工业大学 基于改进高斯过程回归模型的状态监测数据流异常检测方法
CN104994123A (zh) * 2015-05-12 2015-10-21 段利平 一种cdn云平台及cdn云平台的流量调度方法
US20190394104A1 (en) * 2017-01-06 2019-12-26 Mz Ip Holdings, Llc System and Method for Updating Application Clients Using a Plurality of Content Delivery Networks
CN107483455A (zh) * 2017-08-25 2017-12-15 国家计算机网络与信息安全管理中心 一种基于流的网络节点异常检测方法和系统
CN109842563A (zh) * 2017-11-24 2019-06-04 中国电信股份有限公司 内容分发网络流量调度方法、装置和计算机可读存储介质
CN110198332A (zh) * 2018-04-13 2019-09-03 腾讯科技（深圳）有限公司 内容分发网络节点的调度方法、装置及存储介质
CN109547289A (zh) * 2018-12-04 2019-03-29 杭州安恒信息技术股份有限公司 一种智能调度访客流量的方法及系统
CN110086649A (zh) * 2019-03-19 2019-08-02 深圳壹账通智能科技有限公司 异常流量的检测方法、装置、计算机设备及存储介质
CN110460591A (zh) * 2019-07-26 2019-11-15 南京理工大学 基于改进分层时间记忆网络的cdn流量异常检测装置及方法
CN110445680A (zh) * 2019-07-29 2019-11-12 新华三大数据技术有限公司 网络流量异常检测方法、装置及服务器

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112671665A (zh) * 2020-12-16 2021-04-16 北京百度网讯科技有限公司 智能流量调度方法、装置、设备以及存储介质
CN112671665B (zh) * 2020-12-16 2023-05-30 北京百度网讯科技有限公司 智能流量调度方法、装置、设备以及存储介质
CN112615791A (zh) * 2020-12-30 2021-04-06 北京达佳互联信息技术有限公司 调度内容分发网络的流量的方法和装置
CN112615791B (zh) * 2020-12-30 2023-05-09 北京达佳互联信息技术有限公司 调度内容分发网络的流量的方法和装置
CN112838957A (zh) * 2021-02-23 2021-05-25 成都卓源网络科技有限公司 一种具备智能调度的流量预测系统
CN112929292A (zh) * 2021-03-07 2021-06-08 百果园技术(新加坡)有限公司 基于机房对照的流量调度方法、系统、设备及存储介质
CN113132479A (zh) * 2021-04-16 2021-07-16 北京百度网讯科技有限公司 流量切换、模型生成方法、装置、设备、存储介质及程序

Also Published As

Publication number Publication date
CN111245684B (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
CN111245684B (zh) 流量调度方法和装置、电子设备、计算机可读介质
EP3379419B1 (en) Situation analysis
US6108800A (en) Method and apparatus for analyzing the performance of an information system
CN109819057B (zh) 一种负载均衡方法及系统
Jin et al. Nevermind, the problem is already fixed: proactively detecting and troubleshooting customer dsl problems
US10237373B2 (en) Performance-based determination of request modes
US20210044530A1 (en) Quality of Experience Based Network Analysis
WO2021004063A1 (zh) 一种缓存服务器的带宽调度方法及装置
CN109246229A (zh) 一种分发资源获取请求的方法和装置
US20170373984A1 (en) Server intelligence for network speed testing control
US20120151068A1 (en) Endpoint web monitoring system and method for measuring popularity of a service or application on a web server
Raca et al. Empowering video players in cellular: Throughput prediction from radio network measurements
CN110166271B (zh) 一种检测网络节点异常的方法和装置
US20210184940A1 (en) Prediction of a performance indicator
US20050021739A1 (en) Methods, systems and computer program products for communicating the expected efficacy of invoking a network turbo boost service
Miller et al. Understanding end-user perception of network problems
EP3913860A1 (en) System and method for determining subscriber experience in a computer network
CN106713456A (zh) 网络带宽统计方法及装置
US20080101591A1 (en) System and method for selecting a profile for a digital subscriber line
JP2006527937A (ja) 無線データ通信ネットワークにおいてデータ品質測定値を分析する方法及びシステム
CN113556397A (zh) 面向物联网网关的云服务资源调度方法
US10031799B1 (en) Auditor for automated tuning of impairment remediation
JP2016139191A (ja) Ｗｅｂブラウジング品質管理装置、その方法およびプログラム
CN110891077A (zh) Cdn节点检测方法及装置
Wang et al. Users know better: A QoE based adaptive control system for VoD in the cloud

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant