CN111586134A - 一种cdn节点过载的调度方法及系统 - Google Patents
一种cdn节点过载的调度方法及系统 Download PDFInfo
- Publication number
- CN111586134A CN111586134A CN202010356916.6A CN202010356916A CN111586134A CN 111586134 A CN111586134 A CN 111586134A CN 202010356916 A CN202010356916 A CN 202010356916A CN 111586134 A CN111586134 A CN 111586134A
- Authority
- CN
- China
- Prior art keywords
- node
- utilization rate
- user request
- scheduling
- skip
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3024—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a central processing unit [CPU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
- H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供一种CDN节点过载的调度方法及系统,其特征在于,所述方法包括:以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率;根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略;每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。通过此方法,可以解决现有应对CDN节点过载调度技术中预警不够及时、预测不准以及调度生效延迟的问题。
Description
技术领域
本发明涉及通信技术领域,具体涉及一种CDN节点过载的调度方法及系统。
背景技术
CDN(内容分发网络)通过在世界各地部署服务节点,使用户能够就近快速访问互联网资源。一般来说,CDN具备一套全局流量调度系统,其根据设定的策略,将不同地区和运营商的用户访问请求调度至不同的服务节点;其另外一个主要工作是在用户访问质量与节点运营成本之间取得平衡。在现实网络环境中,由于CDN承载的业务类型繁多,且不同业务具有不同的流量分布和变化特征,可能导致部分服务节点的容量(服务能力)与实际的访问流量之间出现短时的或长时的不匹配,例如一个突发的区域性的社会热点事件可能会引起相关地区的用户访问流量突增,导致相关节点负载急剧升高,进而导致节点服务质量和用户体验的下降。随着互联网业务的快速发展和不断变化,节点过载问题出现的愈发频繁,这对CDN调度系统提出了一个挑战:能够快速发现节点过载的情况,并及时将相关节点无法承载的流量调度至其他节点。
针对这一问题,现有的解决技术方案包括两种:1、节点预警加DNS调度:一般来讲CDN会根据各节点的网络质量、网络容量以及客户的服务等级等几个因素,来对各个客户的业务流量进行提前规划,以满足用户的访问质量要求,并尽量降低节点运营成本。在满足上述条件的同时,CDN还要保证各节点在日常情况下有一定程度的网络冗余来应对小幅的突发流量;当节点的网络冗余较多时,节点过载的发生概率就比较低;这种情况下,可以通过节点预警的方式来触发手动或自动的DNS调度服务,提前将一部分流量调度至其他空闲节点,来避免相关的节点出现过载问题;2、流量预测加DNS调度:随着机器学习等技术的兴起,CDN的流量调度系统也开始引入流量预测的技术。调度系统通过采集各节点的历史流量等信息,进行分析、学习、计算;以此来预测未来一段时间后各节点的流量,并根据预测结果提前自动调整全局调度策略,用以避免出现过载问题。
在实现本发明过程中,申请人发现现有技术中至少存在如下问题:
上述方案1中,预警系统虽然可以提前发现可能出现的过载节点,但无法准确预估相关节点需要调度出去的流量有多少,因为节点预警功能只能告知运维人员(或自动化运维系统)该节点即将过载,但是无法预估节点接下来可能会增加多少流量,因此,运维人员(或自动化运维系统)只能根据预设的方案尝试将部分流量(例如10%)调度至其他节点。如果调度出去的流量过少,则无法解除过载的情况,因此会再次触发预警并需要再次调整调度;如果调度出去的流量过多,则降低了节点的利用率,提高了运营成本,也需要再次调整策略,将一部分调度出去的流量再调度回来。另外由于流量调度系统需要使用DNS调度进行调整,新的调度生效的延迟取决于DNS生效延迟,由于DNS协议的原生缺陷,一般来说生效延迟会有5到10分钟,因此在已知即将发生过载的情况下,调度系统可能仍无法及时将流量调度至其它节点,节点仍有较大可能发生过载;
上述方案2(流量预测加DNS调度)相比方案1更加智能,该方案通过提前预测节点流量,来提前精准部署新的调度策略,针对一般的流量变化场景可以较好地维持网络服务质量和节点利用率的平衡。但由于现实世界的复杂性,流量预测算法实际上无法应对所有流量突发场景,当预测结果失真时,仍然可能面临较大的节点过载风险。也就是说,此方案能够降低节点过载的发生概率,但不能完全解决。另外,由于此方案也仍然主要使用DNS进行调度,也存在生效缓慢的问题,也就是说即使能够相对准确预测,也可能无法及时将流量调度至其它节点。
发明内容
本发明实施例提供一种CDN节点过载的调度方法及系统,通过实时负载探测技术结合请求跳转调度,解决现有应对CDN节点过载调度技术中预警不及时、预测不准以及调度生效延迟的问题。
为达到上述目的,一方面,本发明实施例提供了一种CDN节点过载的调度方法,包括:
以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率;
根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
另一方面,本发明实施例提供了一种CDN节点过载的调度系统,包括:
节点负载探测模块,用于以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定出CDN节点内硬件资源利用率,并将所述硬件资源利用率传递给负载调整模块;
所述负载调整模块,用于根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
跳转请求加工模块,用于每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
上述技术方案具有如下有益效果:
1、采用实时的负载探测技术,通过周期性探测当前CDN节点内的硬件资源使用情况,能够及时准确地发现负载变化情况,因此避免了现有技术中可能出现的预警延迟和预测不准的问题。
2、由于本申请所采用的方案采用了跳转调度的方法,不依赖DNS,因此避免了DNS调度本身生效缓慢的问题,可以在发现问题后立刻将可能导致过载的流量调度至其它空闲节点,避免了节点流量失控,节点持续过载的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一种CDN节点过载的调度方法的流程图;
图2是本发明一种CDN节点过载的调度系统的结构框图;
图3是本发明一具体方法实施例的跳转调度策略生成部分流程图;
图4是本发明一具体方法实施例的跳转调度策略执行部分流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明提供一种CDN节点过载的调度方法,该方法包括:
S101、以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率;
S102、根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
S103、每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
S104、若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
进一步的,所述CDN节点内的硬件资源使用情况包括:
节点内部物理服务器的CPU使用情况;
节点内部物理服务器的网卡使用情况;
节点的带宽使用情况;
所述CDN节点内的硬件资源利用率,包括:
节点内部物理服务器的CPU利用率;
节点内部物理服务器的网卡利用率;
节点的带宽利用率;
步骤S101具体包括:
S1011、以第一预定频率探测节点内部物理服务器的CPU使用情况,并在每次探测后,根据所述CPU使用情况确定并更新节点内部物理服务器的CPU利用率;
S1012、以第二预定频率探测节点内部物理服务器的网卡使用情况,并在每次探测后,根据所述网卡使用情况确定并更新节点内部物理服务器的网卡利用率;
S1013、以第三预定频率探测节点的带宽使用情况,并在每次探测后,根据所述带宽使用情况确定并更新节点的带宽利用率。
进一步的,步骤S102包括:
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率中至少一项利用率超出各自对应的利用率上限,做出需要对用户请求进行调度的标记;根据所述超出利用率上限的至少一项利用率,采用所述预设负载调整算法确定用户请求调度比例,所述用户请求调度比例是指确定需要跳转的用户请求在当前时间段内接收到的所有用户请求中所占的比例;以及,确定需要跳转到的目标节点的位置;
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率均未超出各自对应的利用率上限,做出不需要对用户请求进行跳转的标记。
进一步的,步骤S104具体包括:
S1041、生成跳转链接,通过跳转链接将需要跳转的用户请求跳转到目标节点;其中,所述跳转链接采用HTTP临时跳转协议。
进一步的,步骤S1041具体包括:
S10411、根据需要跳转的用户请求的业务规则确定是否对所述跳转链接进行预处理;所述预处理包括:将目标节点的地址信息放入到跳转链接中,以及,将访问目标节点所需要的附加信息放入到跳转链接中;
若是,则对所述跳转链接进行预处理,并在预处理之后向需要跳转的用户请求对应的用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求并跳转到目标节点;
若否,则直接向所述用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求并跳转到目标节点。
如图2所示,本发明提供一种CDN节点过载的调度系统,该系统包括:
节点负载探测模块21,用于以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定出CDN节点内硬件资源利用率,并将所述硬件资源利用率传递给负载调整模块22;
所述负载调整模块22,用于根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
跳转请求加工模块23,用于每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
进一步的,所述CDN节点内的硬件资源使用情况包括:
节点内部物理服务器的CPU使用情况;
节点内部物理服务器的网卡使用情况;
节点的带宽使用情况;
所述CDN节点内的硬件资源利用率,包括:
节点内部物理服务器的CPU利用率;
节点内部物理服务器的网卡利用率;
节点的带宽利用率;
所述节点负载探测模块21还用于:
以第一预定频率探测节点内部物理服务器的CPU使用情况,并在每次探测后,根据所述CPU使用情况确定并更新节点内部物理服务器的CPU利用率;
以第二预定频率探测节点内部物理服务器的网卡使用情况,并在每次探测后,根据所述网卡使用情况确定并更新节点内部物理服务器的网卡利用率;
以第三预定频率探测节点的带宽使用情况,并在每次探测后,根据所述带宽使用情况确定并更新节点的带宽利用率。
进一步的,所述更新跳转调度策略包括:
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率中至少一项利用率超出各自对应的利用率上限,做出需要对用户请求进行调度的标记;根据所述超出利用率上限的至少一项利用率,采用所述预设负载调整算法确定用户请求调度比例,所述用户请求调度比例是指需要跳转的用户请求在当前时间段内接收到的所有用户请求中所占的比例;以及,确定需要跳转到的目标节点的位置;
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率均未超出各自对应的利用率上限,做出不需要对用户请求进行跳转的标记。
进一步的,所述将需要跳转的用户请求跳转到目标节点,具体包括:
所述跳转请求加工模块23还生成跳转链接,通过跳转链接将需要跳转的用户请求跳转到目标节点;其中,所述跳转链接采用HTTP临时跳转协议。
进一步的,所述跳转请求加工模块23包括:
预处理添加模块231,用于根据需要跳转的用户请求的业务规则确定是否对所述跳转链接进行预处理;所述预处理包括:将目标节点的地址信息放入到跳转链接中,以及,将访问目标节点所需要的附加信息放入到跳转链接中;
若是,则对所述跳转链接进行预处理,并在预处理之后向需要跳转的用户请求对应的用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求并跳转到目标节点;
若否,则直接向所述用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求并跳转到目标节点。
下面结合具体的应用实例对本发明实施例上述技术方案进行详细说明,实施过程中没有介绍到的技术细节,可以参考前文的相关描述。
此应用实例采用的方法基于以下思路:当有突发的区域性热点事件等情况发生时,相关地区的用户访问流量必然会大幅度增加,也必然导致相关节点带宽利用率急剧升高,同时,节点内部服务器的硬件资源压力也将大幅增大。当这些参数增大到一定限度时,预示着当前的访问节点即将无法正常处理服务。因此,通过自发地、周期性地探测相关节点内部物理服务器的硬件资源压力以及整个节点的带宽利用率,并通过这些探测结果与预设的算法来进行计算和调整,判断当前节点上的流量是否会有过载的风险。若存在此风险,则及时地调度用户请求,将部分或全部用户请求调度到其他相对空闲节点,以避免当前节点过载。
图3所示,为本发明一具体方法实施例的跳转调度策略生成部分的流程图。
分别设定三个用于探测CPU、网卡和节点带宽的定时器程序,其定时时长按预定的频率而确定,用于对这些硬件资源按预定频率进行定时探测。当其中任一个探测定时器的定时到期后,执行对相关硬件资源的探测,并得出对应硬件资源的利用率,进而根据这些利用率和预设算法进行计算,确定当前节点是否负载过高、是否访问流量即将超限,并进而判断新的用户请求是否需要被调度,如果需要,需要将多少用户请求调度出去,以及调度目标节点的位置。这些判断结果存储在跳转调度策略中,作为调度执行的依据,以供查询。
由于三个定时器程序是循环工作的,且三个定时器程序依次到期,因此能够实现跳转调度策略的实时动态更新,当任何时刻的任一被探测硬件资源的利用率超出许可的限值时,都能被及时发现,并在更新的调度策略中记录相应信息。
其中,CPU利用率是指CPU的繁忙程度,一般使用百分比表示,0%表示CPU完全空闲,100%表示CPU满载;当前节点内部物理服务器的网卡利用率是指网卡的繁忙程度,与CPU利用率类似;节点的带宽利用率是指节点实际承载的流量与节点的网络容量的比值,例如节点网络容量为100Gbps,当节点实际承载流量为90Gbps时,节点带宽利用率为90%。其中的负载调整算法,可以通过输入针对各项硬件资源探测后得出的利用率,结合预设的各项硬件资源利用率上限、浮动范围、调整步进速度等参数进行计算调整,输出新的请求跳转调度策略,用于指导用户请求的跳转调度。
图4所示,为本发明一具体方法实施例的跳转调度策略执行部分的流程图。
在处理用户请求时,每间隔设定时间段查询当前最新的跳转调度策略,根据跳转调度策略中的内容确定是否需要将用户请求进行调度,如果无需调度,则正常处理用户请求;
如果需要调度,先根据当前调度策略中的调度比例,从所有当前时间段内新收到的用户请求中确定哪些用户请求需要被跳转,然后生成一个指向跳转目标节点的跳转链接,并根据这些需要跳转的用户请求的业务类型进一步判断,是否需要对跳转链接进行预处理,若是,则对所述跳转链接进行预处理,并在预处理后向用户设备发送跳转调度应答,使用户设备通过跳转链接重新发送用户请求到新节点;
若否,则直接向用户设备发送跳转调度应答,使用户设备通过跳转链接重新发送用户请求到新节点。
其中,所谓对跳转链接进行预处理,是指将新节点地址放入到跳转链接中,并且在其中附加新节点需要的额外信息。由于当前节点是响应用户请求的默认访问节点,可能会含有安全认证等信息,将用户请求跳转到新节点后,部分用户请求可能无法被识别,因此需要当前节点把某些附加信息(例如某些业务需要附加防盗链信息等)添加到跳转链接上,使跳转目标节点能够识别被跳转的用户请求。跳转采用HTTP临时跳转协议,包括302响应或307响应。
本发明具体实施例提供了一种CDN节点过载的调度装置,可以实现上述提供的方法实施例,具体功能实现请参见方法实施例中的说明,在此不再赘述。且装置中的模块均运行在服务节点内部的Web服务器中,所谓Web服务器是指CDN节点上提供Web访问服务的软件(例如Nginx等反向代理软件),一个节点内部存在数台物理服务器,每台物理服务器上存在一个Web服务器的软件运行实例。
应该明白,公开的过程中的步骤的特定顺序或层次是示例性方法的实例。基于设计偏好,应该理解,过程中的步骤的特定顺序或层次可以在不脱离本公开的保护范围的情况下得到重新安排。所附的方法权利要求以示例性的顺序给出了各种步骤的要素,并且不是要限于所述的特定顺序或层次。
在上述的详细描述中,各种特征一起组合在单个的实施方案中,以简化本公开。不应该将这种公开方法解释为反映了这样的意图,即,所要求保护的主题的实施方案需要比清楚地在每个权利要求中所陈述的特征更多的特征。相反,如所附的权利要求书所反映的那样,本发明处于比所公开的单个实施方案的全部特征少的状态。因此,所附的权利要求书特此清楚地被并入详细描述中,其中每项权利要求独自作为本发明单独的优选实施方案。
为使本领域内的任何技术人员能够实现或者使用本发明,上面对所公开实施例进行了描述。对于本领域技术人员来说;这些实施例的各种修改方式都是显而易见的,并且本文定义的一般原理也可以在不脱离本公开的精神和保护范围的基础上适用于其它实施例。因此,本公开并不限于本文给出的实施例,而是与本申请公开的原理和新颖性特征的最广范围相一致。
上文的描述包括一个或多个实施例的举例。当然,为了描述上述实施例而描述部件或方法的所有可能的结合是不可能的,但是本领域普通技术人员应该认识到,各个实施例可以做进一步的组合和排列。因此,本文中描述的实施例旨在涵盖落入所附权利要求书的保护范围内的所有这样的改变、修改和变型。此外,就说明书或权利要求书中使用的术语“包含”,该词的涵盖方式类似于术语“包括”,就如同“包括,”在权利要求中用作衔接词所解释的那样。此外,使用在权利要求书的说明书中的任何一个术语“或者”是要表示“非排它性的或者”。
本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrative logical block),单元,和步骤可以通过电子硬件、电脑软件,或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability),上述的各种说明性部件(illustrative components),单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个系统的设计要求。本领域技术人员可以对于每种特定的应用,可以使用各种方法实现所述的功能,但这种实现不应被理解为超出本发明实施例保护的范围。
本发明实施例中所描述的各种说明性的逻辑块,或单元都可以通过通用处理器,数字信号处理器,专用集成电路(ASIC),现场可编程门阵列或其它可编程逻辑装置,离散门或晶体管逻辑,离散硬件部件,或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器,可选地,该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现,例如数字信号处理器和微处理器,多个微处理器,一个或多个微处理器联合一个数字信号处理器核,或任何其它类似的配置来实现。
本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地,存储媒介可以与处理器连接,以使得处理器可以从存储媒介中读取信息,并可以向存储媒介存写信息。可选地,存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中,ASIC可以设置于用户终端中。可选地,处理器和存储媒介也可以设置于用户终端中的不同的部件中。
在一个或多个示例性的设计中,本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现,这些功能可以存储与电脑可读的媒介上,或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如,这样的电脑可读媒体可以包括但不限于RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁性存储装置,或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外,任何连接都可以被适当地定义为电脑可读媒介,例如,如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电缆、双绞线、数字用户线(DSL)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、DVD、软盘和蓝光光盘,磁盘通常以磁性复制数据,而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种CDN节点过载的调度方法,其特征在于,包括:
以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率;
根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
2.如权利要求1所述的CDN节点过载的调度方法,其特征在于,所述CDN节点内的硬件资源使用情况包括:
节点内部物理服务器的CPU使用情况;
节点内部物理服务器的网卡使用情况;
节点的带宽使用情况;
所述CDN节点内的硬件资源利用率,包括:
节点内部物理服务器的CPU利用率;
节点内部物理服务器的网卡利用率;
节点的带宽利用率;
所述以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率,具体包括:
以第一预定频率探测节点内部物理服务器的CPU使用情况,并在每次探测后,根据所述CPU使用情况确定并更新节点内部物理服务器的CPU利用率;
以第二预定频率探测节点内部物理服务器的网卡使用情况,并在每次探测后,根据所述网卡使用情况确定并更新节点内部物理服务器的网卡利用率;
以第三预定频率探测节点的带宽使用情况,并在每次探测后,根据所述带宽使用情况确定并更新节点的带宽利用率。
3.如权利要求2所述的CDN节点过载的调度方法,其特征在于,所述更新跳转调度策略包括:
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率中至少一项利用率超出各自对应的利用率上限,做出需要对用户请求进行调度的标记;根据所述超出利用率上限的至少一项利用率,采用所述预设负载调整算法确定用户请求调度比例,所述用户请求调度比例是指需要跳转的用户请求在当前时间段内接收到的所有用户请求中所占的比例;以及,确定需要跳转到的目标节点的位置;
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率均未超出各自对应的利用率上限,做出不需要对用户请求进行跳转的标记。
4.如权利要求1所述的CDN节点过载的调度方法,其特征在于,所述将需要跳转的用户请求跳转到目标节点,具体包括:
生成跳转链接,通过跳转链接将需要跳转的用户请求跳转到目标节点;其中,所述跳转链接采用HTTP临时跳转协议。
5.如权利要求4所述的CDN节点过载的调度方法,其特征在于,所述生成跳转链接,通过跳转链接将需要跳转的用户请求跳转到目标节点,具体包括:
根据需要跳转的用户请求的业务规则确定是否对所述跳转链接进行预处理;所述预处理包括:将目标节点的地址信息放入到跳转链接中,以及,将访问目标节点所需要的附加信息放入到跳转链接中;
若是,则对所述跳转链接进行预处理,并在预处理之后向需要跳转的用户请求对应的用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求以跳转到目标节点;
若否,则直接向所述用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求以跳转到目标节点。
6.一种应对CDN节点过载的调度系统,其特征在于,包括:
节点负载探测模块,用于以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定出CDN节点内硬件资源利用率,并将所述硬件资源利用率传递给负载调整模块;
所述负载调整模块,用于根据所述硬件资源利用率,结合预设负载调整算法更新跳转调度策略,所述跳转调度策略用于确定是否需要对用户请求进行调度、以及在需要对用户请求进行调度时确定用户请求调度比例;
跳转请求加工模块,用于每间隔设定时间段查询当前的跳转调度策略,根据查询到的跳转调度策略确定是否需要对当前时间段内接收到的用户请求进行调度;
若需要,则根据查询到的用户请求调度比例确定需要跳转的用户请求,并将需要跳转的用户请求跳转到目标节点。
7.如权利要求6所述的应对CDN节点过载的调度系统,其特征在于,所述CDN节点内的硬件资源使用情况包括:
节点内部物理服务器的CPU使用情况;
节点内部物理服务器的网卡使用情况;
节点的带宽使用情况;
所述CDN节点内的硬件资源利用率,包括:
节点内部物理服务器的CPU利用率;
节点内部物理服务器的网卡利用率;
节点的带宽利用率;
所述以预定频率探测CDN节点内的硬件资源使用情况,并根据所述硬件资源使用情况确定CDN节点内的硬件资源利用率,具体包括:
以第一预定频率探测节点内部物理服务器的CPU使用情况,并在每次探测后,根据所述CPU使用情况确定并更新节点内部物理服务器的CPU利用率;
以第二预定频率探测节点内部物理服务器的网卡使用情况,并在每次探测后,根据所述网卡使用情况确定并更新节点内部物理服务器的网卡利用率;
以第三预定频率探测节点的带宽使用情况,并在每次探测后,根据所述带宽使用情况确定并更新节点的带宽利用率。
8.如权利要求7所述的应对CDN节点过载的调度系统,其特征在于,所述更新跳转调度策略包括:
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率中至少一项利用率超出各自对应的利用率上限,做出需要对用户请求进行调度的标记;根据所述超出利用率上限的至少一项利用率,采用所述预设负载调整算法确定用户请求调度比例,所述用户请求调度比例是指需要跳转的用户请求在当前时间段内接收到的所有用户请求中所占的比例;以及,确定需要跳转到的目标节点的位置;
如果节点内部物理服务器的CPU利用率、节点内部物理服务器的网卡利用率以及节点的带宽利用率均未超出各自对应的利用率上限,做出不需要对用户请求进行跳转的标记。
9.如权利要求6所述的应对CDN节点过载的调度系统,其特征在于,所述将需要跳转的用户请求跳转到目标节点,具体包括:
所述跳转请求加工模块还生成跳转链接,通过跳转链接将需要跳转的用户请求跳转到目标节点;其中,所述跳转链接采用HTTP临时跳转协议。
10.如权利要求9所述的应对CDN节点过载的调度系统,其特征在于,所述跳转请求加工模块包括:
预处理添加模块,用于根据需要跳转的用户请求的业务规则确定是否对所述跳转链接进行预处理;所述预处理包括:将目标节点的地址信息放入到跳转链接中,以及,将访问目标节点所需要的附加信息放入到跳转链接中;
若是,则对所述跳转链接进行预处理,并在预处理之后向需要跳转的用户请求对应的用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求以跳转到目标节点;
若否,则直接向所述用户设备发送跳转调度应答,指示所述用户设备通过跳转链接向目标节点重新发送用户请求以跳转到目标节点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010356916.6A CN111586134A (zh) | 2020-04-29 | 2020-04-29 | 一种cdn节点过载的调度方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010356916.6A CN111586134A (zh) | 2020-04-29 | 2020-04-29 | 一种cdn节点过载的调度方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111586134A true CN111586134A (zh) | 2020-08-25 |
Family
ID=72113221
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010356916.6A Pending CN111586134A (zh) | 2020-04-29 | 2020-04-29 | 一种cdn节点过载的调度方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111586134A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112182070A (zh) * | 2020-10-13 | 2021-01-05 | 安徽极玩云科技有限公司 | 基于云计算的Elasticsearch查询管理系统 |
CN112671664A (zh) * | 2020-12-04 | 2021-04-16 | 新浪网技术(中国)有限公司 | 一种基于精细化调度的cdn调度系统及方法 |
CN113132479A (zh) * | 2021-04-16 | 2021-07-16 | 北京百度网讯科技有限公司 | 流量切换、模型生成方法、装置、设备、存储介质及程序 |
CN113852570A (zh) * | 2021-09-23 | 2021-12-28 | 北京金山云网络技术有限公司 | 推荐节点带宽生成方法、装置、设备和计算机可读介质 |
CN115002117A (zh) * | 2022-05-30 | 2022-09-02 | 中移(杭州)信息技术有限公司 | 内容分发网络动态调度方法、系统、设备及存储介质 |
CN115225622A (zh) * | 2022-06-10 | 2022-10-21 | 新浪网技术(中国)有限公司 | 一种对cdn和融合cdn的流量调度方法及系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102081679A (zh) * | 2011-01-24 | 2011-06-01 | 深圳市共济科技有限公司 | 一种计算机性能数据的采集方法及采集装置 |
CN103338150A (zh) * | 2013-07-19 | 2013-10-02 | 中国人民解放军信息工程大学 | 信息通信网络体系结构建立方法、装置、服务器和路由器 |
CN104394122A (zh) * | 2014-10-31 | 2015-03-04 | 杭州安恒信息技术有限公司 | 一种基于自适应代理机制的http业务防火墙 |
CN105335229A (zh) * | 2014-07-25 | 2016-02-17 | 杭州华三通信技术有限公司 | 一种业务资源的调度方法和装置 |
CN106656636A (zh) * | 2017-02-22 | 2017-05-10 | 郑州云海信息技术有限公司 | 一种云平台故障探测方法及装置 |
CN109274707A (zh) * | 2017-07-18 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 一种负载调度方法及装置 |
CN110149395A (zh) * | 2019-05-20 | 2019-08-20 | 华南理工大学 | 一种基于海量小文件高并发情况下动态负载均衡方法 |
CN110830533A (zh) * | 2018-08-10 | 2020-02-21 | 贵州白山云科技股份有限公司 | 一种用于云分发网络的http调度方法和系统 |
-
2020
- 2020-04-29 CN CN202010356916.6A patent/CN111586134A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102081679A (zh) * | 2011-01-24 | 2011-06-01 | 深圳市共济科技有限公司 | 一种计算机性能数据的采集方法及采集装置 |
CN103338150A (zh) * | 2013-07-19 | 2013-10-02 | 中国人民解放军信息工程大学 | 信息通信网络体系结构建立方法、装置、服务器和路由器 |
CN105335229A (zh) * | 2014-07-25 | 2016-02-17 | 杭州华三通信技术有限公司 | 一种业务资源的调度方法和装置 |
CN104394122A (zh) * | 2014-10-31 | 2015-03-04 | 杭州安恒信息技术有限公司 | 一种基于自适应代理机制的http业务防火墙 |
CN106656636A (zh) * | 2017-02-22 | 2017-05-10 | 郑州云海信息技术有限公司 | 一种云平台故障探测方法及装置 |
CN109274707A (zh) * | 2017-07-18 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 一种负载调度方法及装置 |
CN110830533A (zh) * | 2018-08-10 | 2020-02-21 | 贵州白山云科技股份有限公司 | 一种用于云分发网络的http调度方法和系统 |
CN110149395A (zh) * | 2019-05-20 | 2019-08-20 | 华南理工大学 | 一种基于海量小文件高并发情况下动态负载均衡方法 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112182070A (zh) * | 2020-10-13 | 2021-01-05 | 安徽极玩云科技有限公司 | 基于云计算的Elasticsearch查询管理系统 |
CN112671664A (zh) * | 2020-12-04 | 2021-04-16 | 新浪网技术(中国)有限公司 | 一种基于精细化调度的cdn调度系统及方法 |
CN112671664B (zh) * | 2020-12-04 | 2022-08-19 | 新浪网技术(中国)有限公司 | 一种基于精细化调度的cdn调度系统及方法 |
CN113132479A (zh) * | 2021-04-16 | 2021-07-16 | 北京百度网讯科技有限公司 | 流量切换、模型生成方法、装置、设备、存储介质及程序 |
CN113852570A (zh) * | 2021-09-23 | 2021-12-28 | 北京金山云网络技术有限公司 | 推荐节点带宽生成方法、装置、设备和计算机可读介质 |
CN115002117A (zh) * | 2022-05-30 | 2022-09-02 | 中移(杭州)信息技术有限公司 | 内容分发网络动态调度方法、系统、设备及存储介质 |
CN115225622A (zh) * | 2022-06-10 | 2022-10-21 | 新浪网技术(中国)有限公司 | 一种对cdn和融合cdn的流量调度方法及系统 |
CN115225622B (zh) * | 2022-06-10 | 2024-06-07 | 新浪技术(中国)有限公司 | 一种对cdn和融合cdn的流量调度方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111586134A (zh) | 一种cdn节点过载的调度方法及系统 | |
US20170318078A1 (en) | Reputation-based strategy for forwarding and responding to interests over a content centric network | |
CN106487708B (zh) | 网络访问请求控制方法和装置 | |
CN102684988B (zh) | 负荷控制装置及其方法 | |
CN103069406A (zh) | 对于多个客户机管理流媒体带宽 | |
US20140365613A1 (en) | Defragmentation of adaptive streaming segment files in a content delivery network | |
CN106230997A (zh) | 一种资源调度方法和装置 | |
US8069236B2 (en) | Flow control of events based on threshold, grace period, and event signature | |
US10805426B2 (en) | Method and system for supporting data upload from a mobile gateway device to a backend entity | |
US20220321486A1 (en) | Controlling data rate based on domain and radio usage history | |
JP5224689B2 (ja) | ネットワーク・サービス制御方法 | |
CN101980505A (zh) | 一种基于3Tnet的视频点播的负载均衡方法 | |
US9794125B2 (en) | Data transfer in mobile networks | |
US11606415B2 (en) | Method, apparatus and system for processing an access request in a content delivery system | |
CN110858844A (zh) | 服务请求处理方法、控制方法、装置、系统及电子设备 | |
CN116382892B (zh) | 一种基于多云融合以及云服务的负载均衡方法及装置 | |
EP3729751A1 (en) | Network traffic throughput forecasting | |
CN112732425B (zh) | 一种应用管理方法、装置、电子设备及存储介质 | |
US20150012645A1 (en) | Collective over-the-top application policy administration | |
CN114598701B (zh) | Cdn调度方法、系统、计算设备及存储介质 | |
CN112653717A (zh) | 一种多云协作分布式系统和应用分发的方法 | |
CA2914603A1 (en) | Defragmentation of adaptive streaming segment files in a content delivery network | |
EP3349421A1 (en) | Methods for managing a set of network resource servers and related devices | |
CN102065115A (zh) | 基于系统性能来调整获取网络资源的方式的方法和设备 | |
KR100879434B1 (ko) | 네트워크 서비스 제어 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20230427 Address after: Room 501-502, 5/F, Sina Headquarters Scientific Research Building, Block N-1 and N-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193 Applicant after: Sina Technology (China) Co.,Ltd. Address before: 100193 7th floor, scientific research building, Sina headquarters, plot n-1, n-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193 Applicant before: Sina.com Technology (China) Co.,Ltd. |