CN110381134B - 调度方法、系统、调度器及cdn系统 - Google Patents

Abstract

本发明公开了一种调度方法、系统、调度器及CDN系统，在调度器以节点机状态数据进行调度的模式下，统计一个时间周期内的用户调度分布数据；当超过时间T未获取到节点机状态数据时，利用所述用户调度分布数据进行调度。本发明在调度器无法获取节点机状态数据时，利用调度器统计的用户调度分布数据进行调度，有效降低了因无法获取节点机运行状态导致的故障的影响，从而最大程度保障节点机的服务质量，改善用户体验。

Description

调度方法、系统、调度器及CDN系统

技术领域

本发明涉及内容分发网络，特别是一种调度方法、系统、调度器及CDN系统。

背景技术

资源状态收集服务通过网络通知调度器，但网络是不可靠的，如同高速公路会堵车，会发生车祸一样。假如发生网络故障，资源状态数据将无法发送到调度器，或者发送延时，调度器无法第一时间知道节点机的真实运行状态。比如节点机A只能服务1000个用户，目前已有1000个用户，但调度器无法获知上述数据，会导致调度器一直往节点机A上调用户，进而导致整个节点机A上的用户体验变差。再者资源收集服务本身也是不可靠的，如果该服务出现问题也会导致调度器无法获取节点机运行状态。

调度器能否准确调度用户至合适的节点机，与用户的使用体验有着必然的联系。依赖于资源收集服务的调度器，一旦出现网络问题或者资源服务本身出现故障，或者其他任何问题导致节点机状态数据无法通知到调度器，则调度器将处于“盲人”状态。原本只能服务一千个用户的节点机，有可能会调度一万个用户，该节点机可能会在瞬间被大量用户“打死”，出现宕机。即使能够正常服务，也会导致该机器的服务质量变差，对用户而言使用体验极不友好。

发明内容

本发明所要解决的技术问题是，针对现有技术不足，提供一种调度方法、系统、调度器及CDN系统，降低调度器因无法获取节点机运行状态导致的故障的影响。

为解决上述技术问题，本发明所采用的技术方案是：一种调度方法，该方法主要实现过程为：

在调度器以节点机状态数据进行调度的模式下，统计一个时间周期内的用户调度分布数据；

当超过时间T未获取到节点机状态数据时，利用所述用户调度分布数据进行调度。

当调度器实时获取到节点机的状态数据时，则利用所述节点机的状态数据进行调度。

本发明所述用户调度分布数据包括：用户所属地域，用户所属运营商，用户所属客户端，用户分配到的节点机。

本发明还提供了一种调度系统，其包括：

节点机房，包括多个节点机；

资源状态收集模块，用于收集所述节点机的状态数据；

调度器，用于在以节点机状态数据进行调度的模式下，统计一个时间周期内的用户调度分布数据，并判断是否获取到资源状态收集模块收集的状态数据，若超过时间T未获取到所述状态数据，则利用所述用户调度分布数据进行调度。

本发明所述调度器还执行如下操作：当实时获取到节点机的状态数据时，利用所述节点机的状态数据进行调度。

相应地，本发明的调度器包括：

统计模块，用于在节点机状态数据调度模式下，统计一个时间周期内的用户调度分布数据；

处理模块，用于在未获取到节点机状态数据时，利用所述用户调度分布数据进行调度。

本发明的调度器还包括转换单元，用于在实时获取到节点机的状态数据时，利用所述节点机的状态数据进行调度。

作为一个发明构思，本发明还提供了一种CDN系统，包括客户端；所述客户端与上述调度器耦合。

本发明所述耦合，是指客户端与调度器通信。

与现有技术相比，本发明所具有的有益效果为：本发明在调度器无法获取节点机状态数据时，利用调度器统计的用户调度分布数据进行调度，有效降低了因无法获取节点机运行状态导致的故障的影响，从而最大程度保障节点机的服务质量，改善用户体验。

附图说明

图1为本发明原理框图。

具体实施方式

本发明中，调度器持续统计最近一个时间周期内用户调度分布数据。当调度器因为各种原因，无法获取节点机状态数据时，及时切断对资源收集服务的依赖，改为对上述用户调度分布数据的依赖。

本发明具体实现过程为：

1、当系统处于健康状态（健康状态是指能正常获取节点机状态数据，此状态下，调度器利用节点机状态数据进行调度，即处于节点机状态数据调度模式下）时，对每一次用户的调度请求，以及分配的资源地址进行统计。统计维度包括但不限于：用户所属地域，用户所属运营商，用户所属客户端（电脑、手机、电视等），用户分配到的节点机等。将该统计数据定义为用户调度分布数据。

2、假设我们认为在1分钟周期内，用户调度分布数据，以及节点机状态数据相对处于一个较为平稳的状态（平稳的状态即健康的状态，在该状态下，当前时间周期内节点机状态数据与上一时间周期内节点机状态数据相比，波动较小），则我们将上述统计周期限定在1分钟，即调度器只会统计当前1分钟内的用户调度分布数据，具体时间周期可以视实际情况而定，也可以动态调整时间周期。

3、当系统出现故障，节点机状态数据无法通知到调度器，调度器超过时间T（根据真实线上统计数据，以1万QPS（每秒请求用户数）计算，极端情况下，单台节点机1秒钟约调度400个用户。单台节点机服务能力约1000-5000用户不等，具体视节点机配置确定，因此理论上2.5秒～12.5秒即可将一台节点机打满用户（节点机可以服务的用户数达到上限）。但调度器核心逻辑乃至整个CDN系统设计，是按节点状态数据进行调度，如果过快切换到按用户调度分布数据调度的话，对全局会造成一定影响，所以本发明综合考虑将T设置为12秒钟，当然，该时间也可以根据实际使用需要动态调整）未获取到节点机状态数据时，主动切断对资源状态收集服务的依赖，改为对上述用户调度分布数据的依赖，即调度器转为利用用户调度分布数据进行调度（利用用户调度分布数据调度用户至合适的节点机）。

4、当系统恢复正常，节点机状态数据能够通知到调度器，调度器重新恢复对资源状态收集服务的依赖，即调度器恢复利用节点机状态数据进行调度（利用节点机状态数据调度用户至合适的节点机）。

本发明中，调度器主要利用节点状态数据进行调度，用户调度分布数据是建立在节点机状态数据调度模式下的统计数据，即，用户调度数据是由节点机状态数据决定的。

实际应用中，资源状态收集服务可能部署在北京云谷机房，调度器在包括云谷，阿里云，以及全国各个省份都有部署。调度器严重依赖于资源状态收集服务，如无法获取实时的资源状态数据，对全局调度结果影响非常大。但资源收集服务本身，以及其所部署的机房，并不是100%可靠的。以云谷机房为例，每年都会出现不同程度的网络异常问题，时间长度从几分钟到几十分钟不等。一旦出现网络问题，则意味着调度器可能无法获取资源状态数据。利用本发明的方案，当出现网络异常，调度器超过时间T未获取到节点机状态数据时，其可以利用其统计的用户调度分布数据进行调度，从而有效缓解了网络异常造成的影响。

Claims (8)

1.一种调度方法，其特征在于，该方法的实现过程包括：

在调度器以节点机状态数据进行调度的模式下，统计一个时间周期内的用户调度分布数据；所述用户调度分布数据包括：用户所属地域，用户所属运营商，用户所属客户端，用户分配到的节点机；

当超过时间T未获取到节点机状态数据时，利用所述用户调度分布数据进行调度。

2.根据权利要求1所述的调度方法，其特征在于，当调度器实时获取到节点机的状态数据时，则利用所述节点机的状态数据进行调度。

3.根据权利要求1所述的调度方法，其特征在于，T＝12s。

4.一种调度系统，其特征在于，包括：

节点机房，包括多个节点机；

资源状态收集模块，用于收集所述节点机的状态数据；

调度器，用于在以节点机状态数据进行调度的模式下，统计一个时间周期内的用户调度分布数据，并判断是否获取到资源状态收集模块收集的状态数据，若超过时间T未获取到所述状态数据，则利用所述用户调度分布数据进行调度；

所述用户调度分布数据包括：用户所属地域，用户所属运营商，用户所属客户端，用户分配到的节点机。

5.根据权利要求4所述的调度系统，其特征在于，所述调度器还执行如下操作：当实时获取到节点机的状态数据时，利用所述节点机的状态数据进行调度。

6.一种调度器，其特征在于，包括：

统计模块，用于在节点机状态数据调度模式下，统计一个时间周期内的用户调度分布数据；所述用户调度分布数据包括：用户所属地域，用户所属运营商，用户所属客户端，用户分配到的节点机；

处理模块，用于在未获取到节点机状态数据时，利用所述用户调度分布数据进行调度。

7.根据权利要求6所述的调度器，其特征在于，还包括转换单元，用于在实时获取到节点机的状态数据时，利用所述节点机的状态数据进行调度。

8.一种CDN系统，包括客户端；其特征在于，所述客户端与权利要求6或7所述的调度器耦合。

Images