CN112671664A - 一种基于精细化调度的cdn调度系统及方法 - Google Patents
一种基于精细化调度的cdn调度系统及方法 Download PDFInfo
- Publication number
- CN112671664A CN112671664A CN202011407131.3A CN202011407131A CN112671664A CN 112671664 A CN112671664 A CN 112671664A CN 202011407131 A CN202011407131 A CN 202011407131A CN 112671664 A CN112671664 A CN 112671664A
- Authority
- CN
- China
- Prior art keywords
- scheduling
- machine room
- overload
- component
- user request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明实施例提供一种基于精细化调度的CDN调度系统及方法,包括:过载调度组件,设于各机房内的每台设备中,当探测到对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,通过302跳转将正在向该机房发起的用户请求调度到其他可用机房;监控组件,设于各机房内的每台设备中,当监控到对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件;精细化调度组件,用于在收到监控组件的过载调度信息后,采用精细化调度规则通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。在某机房流量突增时将用户请求直接解析给其他可用机房,合理进行带宽转移。
Description
技术领域
本发明涉及过载调度领域,具体涉及一种基于精细化调度的CDN调度系统及方法。
背景技术
在CDN的实际服务中,由于一个突发的区域性的社会热点事件可能会引起相关地区的用户访问流量突增,导致相关节点负载急剧升高,进而导致节点服务质量和用户体验的下降。随着互联网业务的快速发展和不断变化,节点过载问题出现的愈发频繁。这对CDN调度系统提出了一个挑战:能够快速发现节点过载的情况,并及时将相关节点无法承载的流量调度至其他节点。
在实现本发明过程中,申请人发现现有技术中至少存在如下问题:在节点过载问题出现的频繁时,将节点过载时将过载的流量进行转移,会影响相应时间,影响服务质量。
发明内容
本发明实施例提供一种基于精细化调度的CDN调度系统及方法,在某机房流量突增时,将用户请求直接解析给其他可用机房,做到合理地进行带宽转移,防止在该机房频繁跳转,保证服务质量,保证机房带宽利用率。
为达上述目的,一方面,本发明实施例提供一种基于精细化调度的CDN调度系统,包括:
过载调度组件,设于各机房内的每台设备中,用于探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
监控组件,设于各机房内的每台设备中,用于定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件,其中过载调度信息包括:发生302跳转的设备接口;
精细化调度组件,用于在收到监控组件的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
另一方面,本发明实施例提供一种基于精细化调度的CDN调度方法,在各机房内的每台设备中设置过载调度组件和监控组件,所述CDN调度方法包括:
通过过载调度组件探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
通过监控组件定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件,其中过载调度信息包括:发生302跳转的设备接口;
精细化调度组件在收到监控组件的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名解析DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
上述技术方案具有如下有益效果:在某机房流量突增时,将用户请求直接解析给其他可用机房,做到合理地进行带宽转移,防止在该机房频繁跳转,保证服务质量,保证机房带宽利用率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本法实施例的一种基于精细化调度的CDN调度系统的结构图;
图2是本法实施例的一种基于精细化调度的CDN调度方法的流程图;
图3是本法实施例的一种基于精细化调度的CDN调度系统的另一结构图;
图4是某机房覆盖范围的解析;
图5是本发明对过载流量的精细化调度。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,结合本发明的实施例,提供一种基于精细化调度的CDN调度系统,包括:
过载调度组件11,设于各机房内的每台设备中,用于探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
监控组件12,设于各机房内的每台设备中,用于定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件,其中过载调度信息包括:发生302跳转的设备接口;
精细化调度组件13,用于在收到监控组件12的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
优选地,所述精细化调度组件13包括:
信息解析子模块131,用于接收监控组件12的过载调度信息,根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识;并根据机房标识确定该机房接收用户请求的范围;其中,所述机房标识包括:机房对外服务的虚拟IP、或者该机房的真实IP。
优选地,所述精细化调度组件13,还包括:
精细调度子模块132,用于收集在该发生过载调度的机房接收用户请求的范围内正在向该机房发送的用户请求,根据各用户请求相应的用户IP地域分布信息对各用户IP进行分组;自其他可用机房中为各分组划分相应的调度流量区域;根据每个分组及其相应的调度流量区域,修改正在向该机房发送的各用户请求的DNS解析,将各用户请求解析到为其所分配的调度流量区域。
优选地,所述精细化调度组件13,还包括:
精细控制过载调度子模块133,在预设时间间隔内,控制该发生过载调度的机房仅采用一台设备进行302跳转过载调度,且该台设备为在预设时间间隔内首次进行302跳转过载调度的设备。
优选地,
监控组件12,还用于在采用精细化调度规则通过域名系统DNS将用户请求解析到其他可用机房之后,继续监控该发生过载调度的机房的带宽利用率;若监控到该发生过载调度的机房中所有设备的负载降低且不高于设定的负载阈值,以及该发生过载调度的机房的带宽利用率降低且低于设定的第二带宽利用率阈值,则通知常规调度组件该发生过载调度的机房恢复正常,同时通知精细化调度组件13停止工作;
常规调度组件14,用于在收到该发生过载调度的机房恢复正常的通知后,将正在向该机房发送的用户请求通过DNS解析到该机房;其中,所述第二带宽利用率阈值小于所述第一带宽利用率阈值。
优选地,所述过载调度信息还包括:请求发生跳转的比例,所述请求发生跳转的比例是指发生302跳转的请求数量在向该机房发送的请求总数量中的占比。
如图2所示,结合本发明的实施例,提供一种基于精细化调度的CDN调度方法,在各机房内的每台设备中设置过载调度组件11和监控组件12,所述CDN调度方法包括:
S201:通过过载调度组件11探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
S202:通过监控组件12定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件13,其中过载调度信息包括:发生302跳转的设备接口;
S203:精细化调度组件13在收到监控组件12的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名解析DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
优选地,在步骤203中,所述精细化调度组件13在收到监控组件12的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房,具体包括:
S2031:精细化调度组件13接收监控组件12的过载调度信息,根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识;并根据机房标识确定该机房接收用户请求的范围;其中,所述机房标识包括:机房对外服务的虚拟IP、或者该机房的真实IP。
优选地,在步骤203中,所述采用精细化调度规则通过域名解析DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房,具体包括:
S2032:精细化调度组件13收集在该发生过载调度的机房接收用户请求的范围内正在向该机房发送的用户请求,根据各用户请求相应的用户IP地域分布信息对各请求的用户IP进行分组;
S2033:自其他可用机房中为各分组划分相应的调度流量区域;
S2034:根据每个分组及其自相应的调度流量区域,修改正在向该机房发送的各用户请求的DNS解析,将各用户请求解析到为其所分配的调度流量区域。
优选地,还包括:
S204:在预设时间间隔内,精细化调度组件13控制该发生过载调度的机房仅采用一台设备进行302跳转过载调度,且该台设备为在预设时间间隔内首次进行302跳转过载调度的设备。
优选地,还包括:
S205:在采用精细化调度规则将通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房之后,监控组件12继续监控该发生过载调度的机房的带宽利用率;
S206:若监控到该发生过载调度的机房中所有设备的负载降低且不高于设定的负载阈值,以及该发生过载调度的机房的带宽利用率降低且低于设定的第二带宽利用率阈值,则监控组件12通知常规调度组件14该发生过载调度的机房恢复正常,同时通知精细化调度组件13停止工作;其中,所述第二带宽利用率阈值小于所述第一带宽利用率阈值;
S207:常规调度组件14在收到该发生过载调度的机房恢复正常的通知后,将正在向该机房发送的用户请求通过DNS解析到该机房。
本发明所取得的有益效果为:
在某机房流量突增时,将用户请求直接解析给其他可用机房,做到合理地进行带宽转移,防止在该机房频繁跳转,保证服务质量,保证机房带宽利用率。
下面结合具体的应用实例对本发明实施例上述技术方案进行详细说明,实施过程中没有介绍到的技术细节,可以参考前文的相关描述。
在现有技术中,机房中的设备上安装agent定时监控设备本身的负载,包括cpu,网卡;以及对机房带宽利用率监控。一旦发现设备本身负载达到阈值,或机房带宽利用率达到阈值时,在接收到用户发送的新请求时对用户请求进行跳转。但这并不能解决根本问题,针对该过载的机房或者设备,其所要承受的请求的流量还是那么多。虽然从CDN节点考虑负载已经降了,持续跳转请求也会导致请求响应时间变长等,影响服务质量。
本发明为基于过载调度的CDN流量突增调度系统,所要解决的问题是在CDN系统流量突增时合理的转移流量,提供良好的服务质量;能够快速发现节点过载的情况,并及时将相关节点无法承载的流量调度至其他节点。
本发明的技术方案为:
过载调度:
机房中的设备上安装agent定时监控设备本身的负载,包括cpu,网卡;以及对机房带宽利用率监控。一旦发现设备本身负载达到阈值,或机房带宽利用率达到阈值时,则进行请求的302跳转,将请求转移到其他机房或CDN厂商,从而减少设备过载或对流量峰值进行切峰。
精细化调度:
根据httpdns获取到的数据按照一定的算法将最小粒度的统计单位(省+运营商)的请求拆分成若干份,分别对每一份单独调度,从而实现更小粒度的精细化调度。
也就是减少机房的带宽,降低负载,那么在过载时就能减少302次数。没有过多的负载也就没必要302跳转了,通过本发明的技术方案能够合理地降低机房带宽,本系统使用精细化调度,通过过载调度和精细化调度的组合,为流量突增时提供良好的服务质量。如图3所示,本系统的主要组件包括:
一、过载调度组件
过载调度组件部署在各机房内的每台设备(比如服务器)中,以nginx(web容器提供缓存和负载均衡等功能)插件的形式存在;在本系统中主要负责实时监控各机房的带宽利用率。在流量突增时作为第一道防线首先触发nginx请求302跳转的功能。
二、监控组件
在本系统中监控组件主要负责定期监控每台设备的过载调度操作(302跳转),如果该设备发生了过载调度(也就是302跳转),则将过载调度信息通知到下面的精细化调度组件。
三、精细化调度组件
收到过载调度信息通知后,该组件执行精细化的调度,在请求到达该过载机房之前就进行转移流量,减少302跳转,避免新请求的响应时间长,从而提高服务质量。
本系统工作流程如下:
1.当某机房产生突发流量时,过载调度组件首先会探测到该机房内的具体某个设备本身的负载(cpu、网卡)是否高于设定的负载阈值以及该机房带宽利用率超过正常阈值(第一宽带利用率阈值依靠配置文件指定),并及时将正收到的用户请求进行302跳转过载调度,保证该机房的设备和带宽负载可控。同时会记录跳转的信息,以设备接口的形式对外暴漏。
2.监控系统(监控组件)监控调度组件,通过定期调用过载调度组件的接口的形式进行监控,在监控哪些设备发生了过载调度(302跳转)时,就将这些设备的过载调度信息通知到精细化调度系统(也称为精细化调度组件),其中过载调度信息包括:发生302跳转的设备接口、请求发生跳转的比例;所述请求发生跳转的比例是指发生302跳转的请求数量在向该机房发送的请求总数量中的占比。
3.精细化调度系统(也称为精细化调度组件)在收到关于过载调度信息的通知后,解析过载调度信息(跳转信息)中的设备信息(过载调度设备的接口)和跳转比例等,准备进行精细化调度:
3.1首先精细化调度系统会根据设备信息判断该设备所属机房,即根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识。因为带宽利用率是针对整个机房而言的,所以一定间隔内同一机房只选取一台设备调度就可以,通常是选用第一台监控到发生过载调度的设备;即:在预设时间间隔内,控制该发生过载调度的机房仅采用一台设备进行302跳转过载调度,且该台设备为在预设时间间隔内首次进行302跳转过载调度的设备。
3.2接收监控组件的过载调度信息,根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识;并根据机房标识确定该机房接收用户请求的范围;其中,所述机房标识包括:机房对外服务的虚拟IP、或者该机房的真实IP。具体为:获取到机房后,能够进一步获取机房的Vip(对外服务的虚拟IP),如果该机房没有Vip则获取RealServer(rs,即机房内每台真实的设备的IP)。有了vip(rs)后就可以拿到该机房的服务所覆盖的范围(接收用户请求的范围)。
3.2.1每个Vip(rs)对应若干个带域名的区域(域名+省+运营商)的解析,如图4所示,其中:1.1.1.1是在xxx.com+天津+联通的Vip解析地址;此时如果将1.1.1.1换成了另一个机房的2.2.2.2,那么xxx.com+天津+联通这个区域的流量就不再访问原先1.1.1.1的机房,也就是该机房的流量被100%转移走了。这样就实现了流量转移,采用此种方式将过载了的部分转移走。
但是,xxx.com+天津+联通这个单位已经是目前CDN调度的最小单位了,如何进行更小粒度的调度呢?比如过载了10%只想把调度中10%的部分切走。本发明通过精细化调度来实现。
3.2.2精细化调度
精细化调度的原理是通过httpdns(一种获取DNS解析的方式)收集收集在该发生过载调度的机房接收用户请求的范围内正在向该机房发送的用户请求,根据各用户请求相应的用户IP地域分布信息对各用户IP进行分组。比如:收集到用户的请求ip后,将某区域(www.com+省+运营商)按照用户ip的分布分解成更小的区域,再对这些更小的区域进行调度。
经过数据分析和测试,对用户请求的ip第三段最后一个数字来分组是均衡的,例如1.2.34.5会根据4这位数字hash(一种算法)到某一组。由于这个数字是0~9组成,所以某区域最多可分成10组,对某一组进行调度时就相当于操作了原先区域的十分之一,换句话说可操作的粒度比原来精细了10倍,精细化调度就是这样实现的。
自其他可用机房中为各分组划分相应的调度流量区域;根据每个分组及其相应的调度流量区域,修改正在向该机房发送的各用户请求的DNS解析,将各用户请求解析到为其所分配的调度流量区域。如图5所示,以天津联通为例,系统会生成天津联通#0~天津联通#9这10个子区域,也叫10个槽位。如下图,这里1和2这两个槽位的解析都指向了同一地址,可以理解为这个区域有20%的流量走到了这个ip所在的机房,如果把这20%换成其他机房,那么原先的机房就少了这部分流量。
3.3过载调度信息中存有跳转的比例,如10%,指的是qps被转移了10%。这需要使用算法转化为调度转移的比例,假如调度转移的量也正好是10%,那么只需要将区域中一个槽位改到别的机房就完成了精细化调度。
3.4带宽转移走了会防止过载部分的302跳转,但是又存在一个问题,假如带宽转移的过多,在过载消失之后机房带宽就空闲了(若该发生过载调度的机房中所有设备的负载降低且不高于设定的负载阈值,以及该发生过载调度的机房的带宽利用率降低且低于设定的第二带宽利用率阈值),从成本考虑这并不划算,没有达到带宽的利用率。所以在执行了精细化调度之后,要持续监控该机房的带宽利用率,当利用率十分空闲后还要再将部分带宽转移回来,将正在向该机房发送的用户请求通过DNS解析到该机房,来满足带宽利用率最优。在常规调度组件将向该机房发送的用户请求通过DNS解析到发生过载调度机房后,精细化调度组件停止将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
4.精细化调度之后可以通过观察机房的带宽利用率等指标验证调度成果
在某机房流量突增时,将用户请求直接解析给其他可用机房,做到合理地进行带宽转移,防止在该机房频繁跳转,保证服务质量,保证机房带宽利用率。
应该明白,公开的过程中的步骤的特定顺序或层次是示例性方法的实例。基于设计偏好,应该理解,过程中的步骤的特定顺序或层次可以在不脱离本公开的保护范围的情况下得到重新安排。所附的方法权利要求以示例性的顺序给出了各种步骤的要素,并且不是要限于所述的特定顺序或层次。
在上述的详细描述中,各种特征一起组合在单个的实施方案中,以简化本公开。不应该将这种公开方法解释为反映了这样的意图,即,所要求保护的主题的实施方案需要比清楚地在每个权利要求中所陈述的特征更多的特征。相反,如所附的权利要求书所反映的那样,本发明处于比所公开的单个实施方案的全部特征少的状态。因此,所附的权利要求书特此清楚地被并入详细描述中,其中每项权利要求独自作为本发明单独的优选实施方案。
为使本领域内的任何技术人员能够实现或者使用本发明,上面对所公开实施例进行了描述。对于本领域技术人员来说;这些实施例的各种修改方式都是显而易见的,并且本文定义的一般原理也可以在不脱离本公开的精神和保护范围的基础上适用于其它实施例。因此,本公开并不限于本文给出的实施例,而是与本申请公开的原理和新颖性特征的最广范围相一致。
上文的描述包括一个或多个实施例的举例。当然,为了描述上述实施例而描述部件或方法的所有可能的结合是不可能的,但是本领域普通技术人员应该认识到,各个实施例可以做进一步的组合和排列。因此,本文中描述的实施例旨在涵盖落入所附权利要求书的保护范围内的所有这样的改变、修改和变型。此外,就说明书或权利要求书中使用的术语“包含”,该词的涵盖方式类似于术语“包括”,就如同“包括,”在权利要求中用作衔接词所解释的那样。此外,使用在权利要求书的说明书中的任何一个术语“或者”是要表示“非排它性的或者”。
本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrative logical block),单元,和步骤可以通过电子硬件、电脑软件,或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability),上述的各种说明性部件(illustrative components),单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个系统的设计要求。本领域技术人员可以对于每种特定的应用,可以使用各种方法实现所述的功能,但这种实现不应被理解为超出本发明实施例保护的范围。
本发明实施例中所描述的各种说明性的逻辑块,或单元都可以通过通用处理器,数字信号处理器,专用集成电路(ASIC),现场可编程门阵列或其它可编程逻辑装置,离散门或晶体管逻辑,离散硬件部件,或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器,可选地,该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现,例如数字信号处理器和微处理器,多个微处理器,一个或多个微处理器联合一个数字信号处理器核,或任何其它类似的配置来实现。
本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地,存储媒介可以与处理器连接,以使得处理器可以从存储媒介中读取信息,并可以向存储媒介存写信息。可选地,存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中,ASIC可以设置于用户终端中。可选地,处理器和存储媒介也可以设置于用户终端中的不同的部件中。
在一个或多个示例性的设计中,本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现,这些功能可以存储与电脑可读的媒介上,或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如,这样的电脑可读媒体可以包括但不限于RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁性存储装置,或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外,任何连接都可以被适当地定义为电脑可读媒介,例如,如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电缆、双绞线、数字用户线(DSL)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、DVD、软盘和蓝光光盘,磁盘通常以磁性复制数据,而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (11)
1.一种基于精细化调度的CDN调度系统,其特征在于,包括:
过载调度组件,设于各机房内的每台设备中,用于探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
监控组件,设于各机房内的每台设备中,用于定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件,其中过载调度信息包括:发生302跳转的设备接口;
精细化调度组件,用于在收到监控组件的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
2.根据权利要求1所述的基于精细化调度的CDN调度系统,其特征在于,所述精细化调度组件包括:
信息解析子模块,用于接收监控组件的过载调度信息,根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识;并根据机房标识确定该机房接收用户请求的范围;其中,所述机房标识包括:机房对外服务的虚拟IP、或者该机房的真实IP。
3.根据权利要求2所述的基于精细化调度的CDN调度系统,其特征在于,所述精细化调度组件,还包括:
精细调度子模块,用于收集在该发生过载调度的机房接收用户请求的范围内正在向该机房发送的用户请求,根据各用户请求相应的用户IP地域分布信息对各用户IP进行分组;
自其他可用机房中为各分组划分相应的调度流量区域;
根据每个分组及其相应的调度流量区域,修改正在向该机房发送的各用户请求的DNS解析,将各用户请求解析到为其所分配的调度流量区域。
4.根据权利要求1所述的基于精细化调度的CDN调度系统,其特征在于,所述精细化调度组件,还包括:
精细控制过载调度子模块,在预设时间间隔内,控制该发生过载调度的机房仅采用一台设备进行302跳转过载调度,且该台设备为在预设时间间隔内首次进行302跳转过载调度的设备。
5.根据权利要求1所述的基于精细化调度的CDN调度系统,其特征在于,
监控组件,还用于在采用精细化调度规则通过域名系统DNS将用户请求解析到其他可用机房之后,继续监控该发生过载调度的机房的带宽利用率;若监控到该发生过载调度的机房中所有设备的负载降低且不高于设定的负载阈值,以及该发生过载调度的机房的带宽利用率降低且低于设定的第二带宽利用率阈值,则通知常规调度组件该发生过载调度的机房恢复正常,同时通知精细化调度组件停止工作;
常规调度组件,用于在收到该发生过载调度的机房恢复正常的通知后,将正在向该机房发送的用户请求通过DNS解析到该机房;其中,所述第二带宽利用率阈值小于所述第一带宽利用率阈值。
6.根据权利要求1所述的基于精细化调度的CDN调度系统,其特征在于,所述过载调度信息还包括:请求发生跳转的比例,所述请求发生跳转的比例是指发生302跳转的请求数量在向该机房发送的请求总数量中的占比。
7.一种基于精细化调度的CDN调度方法,其特征在于,在各机房内的每台设备中设置过载调度组件和监控组件,所述CDN调度方法包括:
通过过载调度组件探测对应设备的负载、以及其所在机房的带宽利用率;当对应设备的负载高于设定的负载阈值、或该机房的带宽利用率高于设定的第一带宽利用率阈值时,触发该机房内用户请求的302跳转过载调度,通过302跳转将正在向该机房发起的用户请求按设定比例调度到其他可用机房;
通过监控组件定期监控对应设备是否发生302跳转过载调度;当对应设备发生302跳转过载调度时,将该台设备的过载调度信息通知给精细化调度组件,其中过载调度信息包括:发生302跳转的设备接口;
精细化调度组件在收到监控组件的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房;采用精细化调度规则通过域名解析DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房。
8.根据权利要求7所述的基于精细化调度的CDN调度方法,其特征在于,所述精细化调度组件在收到监控组件的过载调度信息后,解析过载调度信息,根据发生302跳转的设备接口确定发生过载调度的机房,具体包括:
精细化调度组件接收监控组件的过载调度信息,根据过载调度信息中的发生302跳转的设备接口确定发生过载调度的机房标识;并根据机房标识确定该机房接收用户请求的范围;其中,所述机房标识包括:机房对外服务的虚拟IP、或者该机房的真实IP。
9.根据权利要求8所述的基于精细化调度的CDN调度方法,其特征在于,所述采用精细化调度规则通过域名解析DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房,具体包括:
精细化调度组件收集在该发生过载调度的机房接收用户请求的范围内正在向该机房发送的用户请求,根据各用户请求相应的用户IP地域分布信息对各请求的用户IP进行分组;
自其他可用机房中为各分组划分相应的调度流量区域;
根据每个分组及其自相应的调度流量区域,修改正在向该机房发送的各用户请求的DNS解析,将各用户请求解析到为其所分配的调度流量区域。
10.根据权利要求7所述的基于精细化调度的CDN调度方法,其特征在于,还包括:
在预设时间间隔内,精细化调度组件控制该发生过载调度的机房仅采用一台设备进行302跳转过载调度,且该台设备为在预设时间间隔内首次进行302跳转过载调度的设备。
11.根据权利要求7所述的基于精细化调度的CDN调度方法,其特征在于,还包括:
在采用精细化调度规则将通过域名系统DNS将向该发生过载调度的机房发送的用户请求解析到其他可用机房之后,监控组件继续监控该发生过载调度的机房的带宽利用率;
若监控到该发生过载调度的机房中所有设备的负载降低且不高于设定的负载阈值,以及该发生过载调度的机房的带宽利用率降低且低于设定的第二带宽利用率阈值,则监控组件通知常规调度组件该发生过载调度的机房恢复正常,同时通知精细化调度组件停止工作;其中,所述第二带宽利用率阈值小于所述第一带宽利用率阈值;
常规调度组件在收到该发生过载调度的机房恢复正常的通知后,将正在向该机房发送的用户请求通过DNS解析到该机房。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011407131.3A CN112671664B (zh) | 2020-12-04 | 2020-12-04 | 一种基于精细化调度的cdn调度系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011407131.3A CN112671664B (zh) | 2020-12-04 | 2020-12-04 | 一种基于精细化调度的cdn调度系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112671664A true CN112671664A (zh) | 2021-04-16 |
CN112671664B CN112671664B (zh) | 2022-08-19 |
Family
ID=75401034
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011407131.3A Active CN112671664B (zh) | 2020-12-04 | 2020-12-04 | 一种基于精细化调度的cdn调度系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112671664B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113204430A (zh) * | 2021-05-31 | 2021-08-03 | 世纪龙信息网络有限责任公司 | 一种资源调度方法、调度管理平台、设备和介质 |
CN113949741A (zh) * | 2021-10-14 | 2022-01-18 | 北京奇艺世纪科技有限公司 | 一种调度方法、调度装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103491112A (zh) * | 2012-06-08 | 2014-01-01 | 北京百度网讯科技有限公司 | 大规模集群任务调度方法、系统及cdn节点 |
CN103856346A (zh) * | 2012-12-06 | 2014-06-11 | 深圳市腾讯计算机系统有限公司 | 节点调度方法、装置和系统 |
CN104320487A (zh) * | 2014-11-11 | 2015-01-28 | 网宿科技股份有限公司 | 内容分发网络的http调度系统和方法 |
WO2017041666A1 (zh) * | 2015-09-11 | 2017-03-16 | 阿里巴巴集团控股有限公司 | 一种针对访问请求的处理方法和装置 |
CN111193672A (zh) * | 2019-12-06 | 2020-05-22 | 新浪网技术(中国)有限公司 | 一种流量精细化调度的方法及系统 |
CN111586134A (zh) * | 2020-04-29 | 2020-08-25 | 新浪网技术(中国)有限公司 | 一种cdn节点过载的调度方法及系统 |
-
2020
- 2020-12-04 CN CN202011407131.3A patent/CN112671664B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103491112A (zh) * | 2012-06-08 | 2014-01-01 | 北京百度网讯科技有限公司 | 大规模集群任务调度方法、系统及cdn节点 |
CN103856346A (zh) * | 2012-12-06 | 2014-06-11 | 深圳市腾讯计算机系统有限公司 | 节点调度方法、装置和系统 |
CN104320487A (zh) * | 2014-11-11 | 2015-01-28 | 网宿科技股份有限公司 | 内容分发网络的http调度系统和方法 |
WO2017041666A1 (zh) * | 2015-09-11 | 2017-03-16 | 阿里巴巴集团控股有限公司 | 一种针对访问请求的处理方法和装置 |
CN111193672A (zh) * | 2019-12-06 | 2020-05-22 | 新浪网技术(中国)有限公司 | 一种流量精细化调度的方法及系统 |
CN111586134A (zh) * | 2020-04-29 | 2020-08-25 | 新浪网技术(中国)有限公司 | 一种cdn节点过载的调度方法及系统 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113204430A (zh) * | 2021-05-31 | 2021-08-03 | 世纪龙信息网络有限责任公司 | 一种资源调度方法、调度管理平台、设备和介质 |
CN113949741A (zh) * | 2021-10-14 | 2022-01-18 | 北京奇艺世纪科技有限公司 | 一种调度方法、调度装置、电子设备及存储介质 |
CN113949741B (zh) * | 2021-10-14 | 2023-07-21 | 北京奇艺世纪科技有限公司 | 一种调度方法、调度装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112671664B (zh) | 2022-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112671664B (zh) | 一种基于精细化调度的cdn调度系统及方法 | |
US9584617B2 (en) | Allocating cache request in distributed cache system based upon cache object and marker identifying mission critical data | |
US20170155560A1 (en) | Management systems for managing resources of servers and management methods thereof | |
CN109391505B (zh) | 网络实例管理方法及相关设备 | |
CN113940042B (zh) | 用于网络数据分析功能的操作的方法和设备 | |
US7860124B2 (en) | Method and system for bandwidth control, apparatus for access control and apparatus for user profile management | |
CN106487708B (zh) | 网络访问请求控制方法和装置 | |
JP6300923B2 (ja) | データ帯域幅管理システム及び方法 | |
US20220329672A1 (en) | Method for preheating a resource file and central management system | |
JP2014140231A (ja) | 電気通信ネットワークにおける輻輳制御 | |
KR100799587B1 (ko) | 스위치에서 동적 대역 제한 방법 및 장치 | |
CN107211035B (zh) | 用于在内容递送网络中监测服务的方法和网络节点 | |
CN108809910B (zh) | 一种域名系统服务器调度方法和系统 | |
CN111324886A (zh) | 业务请求的处理方法、装置和服务器 | |
CN106649856A (zh) | 一种数据库访问装置、系统及方法 | |
CN103200124B (zh) | 一种业务策略的调整方法及装置 | |
CN117459536A (zh) | 资源分发方法、云服务器、装置、电子设备及存储介质 | |
CN101951571A (zh) | 短消息重试方法及短消息网关 | |
CN106331904B (zh) | 无源光纤网络中波长通道的分配方法、光线路终端及系统 | |
CN114745277B (zh) | 公有云跨域专线的弹性伸缩方法、装置、电子设备及介质 | |
US20120284208A1 (en) | Systems and/or Methods For Delivering Notifications On A Communications Network | |
CN114143263B (zh) | 一种对用户请求进行限流的方法、设备及介质 | |
JP2012161033A (ja) | リソース割当て装置およびリソース割当て方法 | |
US20160013991A1 (en) | Analytics-driven policy control in computer networks | |
JP3725401B2 (ja) | アクセス振り分け方法、装置、及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230419 Address after: Room 501-502, 5/F, Sina Headquarters Scientific Research Building, Block N-1 and N-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193 Patentee after: Sina Technology (China) Co.,Ltd. Address before: 100193 7th floor, scientific research building, Sina headquarters, plot n-1, n-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193 Patentee before: Sina.com Technology (China) Co.,Ltd. |