CN112769946B - 一种在rtc网络中对合流任务动态均衡调度方法及系统 - Google Patents

Abstract

本发明公开一种在RTC网络中对合流任务动态均衡调度方法，包括以下步骤：步骤S1：设置三阶段阈值，接收新的合流请求；步骤S2：根据三阶段阈值，使用三阶段调度法分配处理节点；步骤S3：如果分配成功，则使用分配的节点对合流请求进行处理。本发明还公开一种在RTC网络中对合流任务动态均衡调度系统，利用本发明所述的方法和系统，兼顾了不同时期调度系统对效率和分配的均衡性的要求，实现动态的节点分配和调度，明显提高了合流画面的处理质量，同时提升了客户直播观看的体验，因此具有明显的技术优势和有益效果。

Description

一种在RTC网络中对合流任务动态均衡调度方法及系统

技术领域

本发明涉及网络故障检测技术，尤其是一种在RTC网络中对合流任务动态均衡调度方法及系统。

背景技术

实时音视频通信(Real Time Communication，RTC)是一种能够让两人或多人进行远程、实时互动的音视频通信的技术，广泛应用于音视频通话、远程会议、远程教学、娱乐社交等领域。以娱乐社交领域为例，除了参与实时互动的主播外，这些主播还有各自的观众，需要通过合流服务把多位主播互动的画面按照一定的缩放比例合成一路画面直播出去，这样他们的观众就能看到主播们的互动过程。

由于合流需要把不同的画面进行解码，缩放，拼接(包括背景图片，水印等功能)，编码这些环节，这里面会涉及到大量的计算量，并且对于画面的变化会有剧烈的抖动，当任务过多或者画面变化过度剧烈时会导致CPU过载，从而引起合流画面卡顿，花屏等问题，会影响客户直播观看的体验，因此需要对任务进行有效的负载均衡。

传统对任务进行负载均衡的方法主要有轮询法、随机法、加权轮询、加权随机、最小连接法等。其中轮询法是把任务轮流分配给节点，其优势是逻辑简单，分配速度快，大体上是均衡的，不足是只适用于所有的请求消耗资源以及节点的处理能力是相同的简单情况，无法适应更复杂的情况。随机法是根据服务数量随机分配任务，因此当任务量越大时会越趋于平均。加权随机&加权轮询：加权随机、加权轮询都是为了在轮询、随机法的基础上，加上了某些因子的权重，解决了节点之间能力不等价的问题。最小连接(负载)法是每次都取当前系统最主要因子的最小值，比如是高负载系统，则取当前节点中负载最低的，优点是每次分配都是最优的，局限是分配效率较低，每次需要遍历所有节点，并且无法处理峰值流量。

综上所述，上述传统对任务的负载均衡调度方法均存在一定的不足，如何更好的动态均衡调度合流任务分配是当前影响客户直播观看体验的关键问题。

发明内容

为了解决现有技术存在的上述问题，本发明的目的是提供一种在RTC网络中对合流任务动态均衡调度和分配的解决方案。

本发明第一方面公开一种在RTC网络中对合流任务动态均衡调度方法，包括以下步骤：步骤S1：设置三阶段阈值，接收新的合流请求；步骤S2：根据三阶段阈值，使用三阶段调度法分配处理节点；步骤S3：如果分配成功，则使用分配的节点对合流请求进行处理；其中，所述的三阶段调度法具体包括以下三个处理阶段：第一阶段：采用轮询方法从缓存节点池中分配处理节点，如果分配失败，则进入下一处理阶段；第二阶段：采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点，如果分配失败，则进入下一处理阶段；第三阶段：通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点。

进一步的，所述的三阶段阈值包括第一负载阈值、第二负载阈值、第三负载阈值。

进一步的，所述方法还包括记录节点负载，并周期性上报节点负载。

进一步的，所述第一阶段具体包括以下实现步骤：判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，如果是，则返回；获取缓存节点池的遍历起始位置，从遍历起始位置开始查找满足预设条件的节点，所述预设条件为所述节点负载小于第一负载阈值；获得满足预设条件的节点，则将所述节点设为分配节点，且将遍历起始位置更改为所述节点的下一个节点位置；返回分配节点。

进一步的，所述第二阶段具体包括以下实现步骤：所述第二阶段具体包括以下实现步骤：判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，如果是，则返回；搜索缓存节点池，在负载低于第二负载阈值的节点中获取负载最小的节点作为分配节点；为所述分配节点增加一个预分配负载，返回分配节点。

进一步的，所述的预分配负载为大数据平均值。

进一步的，所述方法还包括：在下一次上报节点负载信息后清空所述预分配负载。

进一步的，所述第三阶段包括以下步骤：对节点按处理特征进行分类，所述处理特征包括时段、任务量，所述节点的分类包括轻任务节点、重任务节点；对合流请求按打分权重进行分类，所述打分权重包括输入的分辨率之和、输出分辨率之和，所述合流请求的分类包括轻任务、重任务；根据预分配设置，将合流请求按类型分配倒对应类型的节点上。

基于相同的发明构思，本发明第二方面还公开一种在RTC网络中对合流任务动态均衡调度系统，所述系统包括：调度中心、第一分配模块、第二分配模块、第三分配模块，其中：调度中心：用于设置三阶段阈值，接收新的合流请求，调用三阶段调度法分配处理节点，使用所述处理节点对合流请求进行处理；第一分配模块：用于实现第一处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，采用轮询方法从缓存节点池中分配处理节点，如果分配失败，则进入下一处理阶段；第二分配模块：用于实现第二处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点；第三分配模块：用于实现第三处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第三负载阈值，通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点。

进一步的，所述系统还包括：节点负载记录模块，所述节点负载记录模块用于记录节点负载，并周期性上报节点负载。

本发明第三方面还公开的一种电子设备，包括处理器以及存储器，其中所述存储器用于存储可执行程序；所述处理器用于执行本发明第一方面公开的任意一种在RTC网络中对合流任务动态均衡调度方法。

本发明所述的方法和系统，在结合业务自身特点的基础上，将整个调度算法分为三阶段，每个阶段采取的算法都不一样，兼顾了不同时期调度系统对效率和分配的均衡性的要求。其中，第一阶段由于系统资源充足，调度算法考虑侧重分配效率；第二阶段系统负载不均衡，调度算法考虑效率和负载均衡；第三阶段由于系统整体负载较高，此时保证整个系统稳定是最主要的。通过三阶段不同的算法策略，从而兼顾分配效率和节点之间的负载均衡的目的。

综上所述，利用本发明所述的方法和系统，可以使得整体节点的负载更加均衡，单节点的负载更加平滑，明显提高了合流画面的处理质量，提升了客户直播观看的体验，因此具有明显的技术优势和有益效果。

为了对本发明有更清楚全面的了解，下面结合附图，对本发明的具体实施方式进行详细描述。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是一个实施例中一种在RTC网络中对合流任务动态均衡调度方法的流程示意图。

图2是一个实施例中第一阶段的流程示意图。

图3是一个实施例中第二阶段的流程示意图。

图4是一个实施例中第三阶段的流程示意图。

图5为一个实施例中一种在RTC网络中对合流任务动态均衡调度系统的结构示意图。

图6为一个实施例中节点CPU负载的效果示意图。

具体实施方式

请参阅图1，图1是一个实施例中一种在RTC网络中对合流任务动态均衡调度方法的流程示意图，现结合图1对各步骤作具体说明如下：

步骤S11：设置三阶段阈值，接收新的合流请求。

在三阶段调度法中，调度中心设置三阶段阈值，包括第一负载阈值、第二负载阈值、第三负载阈值，第一负载阈值、第二负载阈值、第三负载阈值用在不同的阶段，每阶段的阈值用于区分不同的阶段进入条件，当有新的合流请求时，调度中心将根据三阶段阈值，使用三阶段调度法分配处理节点。

三阶段调度法中，每个阶段采用的分配算法都不一样，兼顾了不同阶段调度系统对效率和分配的均衡性的要求，总体来说第一阶段由于系统资源充足，首要的是分配效率；第二阶段系统资源开始变小，需要尽可能均衡，属于效率和均衡的平衡；第三阶段系统负载较高，此时均衡分配，保证整个系统稳定是最主要的。通过三阶段不同的算法策略保证了分配的效率以及负载的均衡的目的。

步骤S12：第一阶段分配节点。

在一个实施例中，第一阶段采用轮询方法从缓存节点池中分配处理节点，第一阶段分配节点具体的处理流程请参看图2所示的流程示意图。

步骤S13：判断是否分配成功？

判断第一阶段分配节点是否成功，如果成功，则进入步骤S18，如果分配失败，则进入第二阶段分配节点。

步骤S14：第二阶段分配节点。

在一个实施例中，第二阶段采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点，第二阶段分配节点的处理流程请参看图3所示的流程示意图。

步骤S15：判断是否分配成功？

判断第二阶段分配节点是否成功，如果成功，则进入步骤S18，如果分配失败，则进入第三阶段分配节点。

步骤S16：第三阶段分配节点。

在一个实施例中，第三阶段通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点，第三阶段具体分配节点的处理流程请参看图4所示的流程示意图。

步骤S17：判断是否分配成功？

判断第三阶段分配节点是否成功，如果成功，则进入步骤S18，如果分配失败，则结束分配节点。

步骤S18：使用分配的节点对合流请求进行处理。

请参阅图6，图6为一个实施例中节点CPU负载的效果示意图，在该实施例重，在原有的调度方法替换为上述三阶段调度法后，整体机器负载更加均衡，单机器的毛刺平滑了很多。

请参阅图2，图2是一个实施例中第一阶段的流程示意图，在该实施例中，第一阶段采用轮询的方式，假设所有节点为一个环形，当前节点分配为x,则下次轮训开始节点为x+1，只要找到一个负载符合直接分配负载阈值之下的节点即直接分配，当遍历所有节点均没有找到时，进入第二阶段。如图2所示，第一阶段具体包括以下实现步骤：

步骤S21：判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，如果是，则返回；

第一负载阈值限制了第一阶段分配节点的准入条件，当所有节点的负载超出第一负载阈值，则节点的分配无法采用第一阶段的分配方法，直接进入第二阶段分配，反之，如果有节点的负载在第一负载阈值之下，则可以进入该阶段进行节点的分配。

在一个实施例中，调度中心保存实时的节点负载上报情况，并对节点负载的情况进行管理。

步骤S22：获取缓存节点池的遍历起始位置，从遍历起始位置开始查找满足预设条件的节点，所述预设条件为所述节点负载小于第一负载阈值；

在分配节点之前，需要获得遍历的起始位置。缓存节点池中的遍历起始位置初始化为零。

通过遍历，从遍历的起始位置顺序查找缓存节点池中第一个负载小于第一负载阈值的节点。

步骤S23：获得满足预设条件的节点，则将所述节点设为分配节点，且将遍历起始位置更改为所述节点的下一个节点位置；

在该实施例中，当获得满足条件的节点后，将节点设为分配节点，同时将缓存节点池的遍历起始位置设置为该节点的下一个节点位置。

步骤S24：返回分配节点。

请参阅图3，图3是一个实施例中第二阶段的流程示意图，现结合图3对各步骤作具体说明如下：

步骤S31：判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，如果是，则返回；

第二负载阈值限制了第一阶段分配节点的准入条件，当所有节点的负载超出第二负载阈值，则节点的分配无法采用第二阶段的分配方法，直接进入第三阶段分配，反之，如果有节点的负载在第二负载阈值之下，则可以进入该阶段进行节点的分配。

步骤S32：搜索缓存节点池，在负载低于第二负载阈值的节点中获取负载最小的节点作为分配节点；

步骤S33：为所述分配节点增加一个预分配负载，返回分配节点。

在一个实施例中，第二阶段使用的分配方法是使用最小负载法的基础上引入预分配机制，在一个实施例中，当分配到某个节点，该节点的负载将会增加一个预分配的负载(在一个实施例中取大数据平均值)，这样可以保证在上报周期内不会因为过量请求导致分配不均衡。

在实际使用中，遇到峰值流量时，由于负载的实时上报存在一个上报周期，在间隔上报的周期内，当有大量请求时每个请求找到的最小值是同一个节点，都会同时分配到这个节点上，导致瞬时撑爆了CPU，因此，预分配机制可以避免在上报周期内不会因为过量请求导致分配不均衡。预分配机制之后，在下次负载上报后需要将该预分配的负载清空。当所有节点负载达到第三节点阈值时，进入最精细化的第三阶段。

请参阅图4，图4是一个实施例中第三阶段的流程示意图，现结合图4对各步骤作具体说明如下：

步骤S41：判断缓存节点池中的所有节点的负载是否都超过第三负载阈值，如果是，则返回；

第三负载阈值限制了第一阶段分配节点的准入条件，当所有节点的负载超出第三负载阈值，则节点的分配无法采用第三阶段的分配方法，直接退出，反之，如果有节点的负载在第三负载阈值之下，则可以进入该阶段进行节点的分配。

步骤S42：对节点按处理特征进行分类；

在该实施例中，首先对节点按处理特征进行分类，处理特征包括时段、任务量，因此，基于这样分类的效果是将节点分为轻任务节点和重任务节点。

步骤S42：对合流请求按打分权重进行分类；

在该实施例中，需要对合流请求按打分权重进行分类，其中，打分权重可以包括输入的分辨率之和、输出分辨率之和，因此对合流请求可以分为轻任务、重任务。

步骤S43：根据预分配设置，将合流请求按类型分配倒对应类型的节点上。

在该实施例中，由于节点包括轻任务节点和重任务节点，合流请求根据特点被分为轻任务或者重任务，于是将轻任务合流请求分配到轻任务节点上，重任务合流请求分配到重任务节点上。

请参阅图5，图5是一个实施例中一种在RTC网络中对合流任务动态均衡调度系统的结构示意图，如图所示，该实施例10包括调度中心101、第一分配模块102、第二分配模块103、第三分配模块104，其中：

调度中心101：用于设置三阶段阈值，接收新的合流请求，调用三阶段调度法分配处理节点，使用所述处理节点对合流请求进行处理；

第一分配模块102：用于实现第一处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，采用轮询方法从缓存节点池中分配处理节点，如果分配失败，则进入下一处理阶段；

第二分配模块103：用于实现第二处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点；

第三分配模块104：用于实现第三处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第三负载阈值，通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点。

在该实施例中，当有新的合流请求进入该系统，调度中心101根据节点负载情况确定调用合适的分配模块分配节点，以此实现三阶段调度法。

通过系统10的三阶段调度法获得分配的节点之后，则该节点用于进行合流处理。

在一个实施例中，还包括节点负载记录模块，该模块用于记录节点负载，并周期性上报节点负载。

本发明公开的方法和系统中所述的模块，在实际应用中，即可以在一台服务器上部署多个模块，也可以每一模块独立部署在不同的服务器上，特别的，根据需要，也可以根据需要将模块部署到集群服务器上。

本申请实施例还提供一种电子设备，所述电子设备中包括处理器及存储器，所述存储器中存储有可执行程序，当所述可执行程序在计算机上运行时，所述计算机执行上述任一实施例所述的一种在RTC网络中对合流任务动态均衡调度方法。

需要说明的是，本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过计算机程序来指令相关的硬件来完成，所述计算机程序可以存储于计算机可读存储介质中，所述存储介质可以包括但不限于：只读存储器(ROM，Read OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁盘或光盘等。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (9)

1.一种在RTC网络中对合流任务动态均衡调度方法，其特征在于，包括以下步骤：

步骤S1：设置三阶段阈值，接收新的合流请求，所述的三阶段阈值包括第一负载阈值、第二负载阈值、第三负载阈值；

步骤S2：根据三阶段阈值，使用三阶段调度法分配处理节点；

步骤S3：如果分配成功，则使用分配的节点对合流请求进行处理；

其中，所述的三阶段调度法具体包括以下三个处理阶段：

第一阶段：若所有节点的负载超出第一负载阈值，则分配失败，进入下一处理阶段，若未超出，采用轮询方法从缓存节点池中分配处理节点，在该阶段内分配节点；

第二阶段：若该阶段所有节点的负载超出第二负载阈值，则分配失败，进入下一处理阶段，若未超出，采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点，在该阶段内分配节点；

第三阶段：若该阶段所有节点的负载超出第三负载阈值，则分配失败，若未超出，通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：记录节点负载，并周期性上报节点负载。

3.根据权利要求1所述的方法，其特征在于，所述第一阶段具体包括以下实现步骤：

判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，如果是，则返回；

获取缓存节点池的遍历起始位置，从遍历起始位置开始查找满足预设条件的节点，所述预设条件为所述节点负载小于第一负载阈值；

获得满足预设条件的节点，则将所述节点设为分配节点，且将遍历起始位置更改为所述节点的下一个节点位置；

返回分配节点。

4.根据权利要求1所述的方法，其特征在于，所述第二阶段具体包括以下实现步骤：

判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，如果是，

则返回；

搜索缓存节点池，在负载低于第二负载阈值的节点中获取负载最小的节点作为分配节点；

为所述分配节点增加一个预分配负载，返回分配节点。

5.根据权利要求4所述的方法，其特征在于，所述的预分配负载为大数据平均值。

6.根据权利要求4所述的方法，其特征在于，所述方法还包括：在下一次上报节点负载信息后清空所述节点的预分配负载。

7.根据权利要求1所述的方法，其特征在于，所述第三阶段包括以下步骤：

判断缓存节点池中的所有节点的负载是否都超过第三负载阈值，如果是，则返回；

对节点按处理特征进行分类，所述处理特征包括时段、任务量，所述节点的分类包括轻任务节点、重任务节点；

对合流请求按打分权重进行分类，所述打分权重包括输入的分辨率之和、输出分辨率之和，所述合流请求的分类包括轻任务、重任务；

根据预分配设置，将合流请求按类型分配倒对应类型的节点上。

8.一种在RTC网络中对合流任务动态均衡调度系统，其特征在于，所述系统包括：调度中心、第一分配模块、第二分配模块、第三分配模块，其中：

调度中心：用于设置三阶段阈值，所述的三阶段阈值包括第一负载阈值、第二负载阈值、第三负载阈值，接收新的合流请求，调用三阶段调度法分配处理节点，使用所述处理节点对合流请求进行处理；

第一分配模块：用于实现第一处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第一负载阈值，若未超出，采用轮询方法从缓存节点池中分配处理节点，若超出，则分配失败，则进入下一处理阶段；

第二分配模块：用于实现第二处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第二负载阈值，若未超出，采用最小值法从缓存节点池中查找满足预设条件且负载最小的节点为分配节点，若超出，则分配失败，则进入下一处理阶段；

第三分配模块：用于实现第三处理阶段，包括判断缓存节点池中的所有节点的负载是否都超过第三负载阈值，若未超出，通过特征值法对节点的处理特征的分析以及对合流请求的特征分析，从缓存节点池中分配处理节点，若超出，则直接退出。

9.根据权利要求8所述的一种在RTC网络中对合流任务动态均衡调度系统，其特征在于，所述系统还包括：节点负载记录模块，所述节点负载记录模块用于记录节点负载，并周期性上报节点负载。

Images