CN110874267A - 一种轮询调度方法、装置、存储介质及设备 - Google Patents

Abstract

本说明书提供一种轮询调度方法、装置、存储介质及设备，所述方法中，不同媒体类型对应的轮询调度算法互不干扰，在接收到业务报文后，根据业务报文的媒体类型，将该业务报文调度到该媒体类型当前轮询到的服务器进行处理，缓解了不同类型的业务报文同时调度到同一台服务器上处理的情况，从而有效降低了服务器瞬时流入的流量，减轻了服务器的处理压力。

Description

一种轮询调度方法、装置、存储介质及设备

技术领域

本说明书涉及计算机技术领域，尤其涉及一种轮询调度方法、装置、存储介质及设备。

背景技术

负载均衡设备是一种把网络请求分散到一个服务器集群中的可用服务器的设备。负载均衡调度算法的作用，就是根据不同的业务环境、服务器状况，将业务流量合理分配到后端服务器，保障后端服务器的正常、稳定、高效的运行。轮询调度算法是负载均衡算法中的一种，其工作原理是：每次将业务请求按负载均衡设备上真实服务的排序依次调度到各真实服务器上，若当前业务调度到最后一个真实服务器上，则下一条业务再从第一个真实服务器开始调度，如此循环往复。

随着互联网技术的迅猛发展，音视频业务变得愈加广泛，音视频业务流量的处理也变得愈加重要，但现有的轮询调度算法在处理音视频业务的时候，往往容易导致部分服务器的瞬时处理压力增大，超出正常处理能力，甚至可能导致该部分服务器在一段时间内CPU或内存消耗超过正常值，而导致业务无法正常处理。

发明内容

为克服相关技术中存在的问题，本说明书提供了一种轮询调度方法、装置、存储介质及设备。

根据本说明书实施例的第一方面，提供一种种轮询调度方法，所述方法包括：

接收业务报文，检查所述业务报文的媒体类型；

基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰。

在某些例子中，上述媒体类型包括：音频类型、视频类型和其他类型。

在某些例子中，上述音频类型中的媒体格式包括音频文件格式；视频类型中的媒体格式包括视频文件格式；其他类型中的媒体格式包括图像文件格式。

在某些例子中，上述检查所述业务报文的媒体类型包括：检查所述业务报文的数据部分中表征媒体格式的字段，根据所述字段将所述业务报文划分到对应的媒体类型。

在某些例子中，上述将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理之前还包括：预先为每种媒体类型设置不同的标记位，在所述标记位上记录所述媒体类型当前轮询到的服务器的标识，以使根据所述标识将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理。

在某些例子中，上述方法还包括：预先设置开关，当所述开关接收到开启指令时，执行检查所述业务报文的媒体类型的步骤。

根据本说明书实施例的第二方面，提供一种轮询调度装置，所述装置包括：

接收模块，用于接收报文；

检查模块，用于检查所述业务报文的媒体类型；

调度模块，用于按照所述媒体类型对应的轮询调度算法将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型的轮询调度互不干扰。

根据本说明书实施例的第三方面，提供一种轮询调度系统，所述系统包括客户端、负载均衡设备和服务器组，其中，所述服务器组包括多个服务器；

所述客户端用于向负载均衡设备发送业务报文；

所述负载均衡设备用于接收所述客户端发送的业务报文，检查所述业务报文的媒体类型，以及基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的所述服务器组中的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰；

所述服务器组用于接收所述负载均衡设备发送的业务报文并进行处理。

根据本说明书实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现说明书实施例中任一项方法。

根据本说明书实施例的第五方面，提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，所述处理器执行所述程序时实现说明书实施例中任一项方法。

本说明书的实施例提供的技术方案可以包括以下有益效果：

本说明书实施例中，公开了一种轮询调度方法、装置、存储介质及设备，由于对业务报文的媒体类型进行了区分，不同媒体类型对应的轮询调度算法互不干扰，在接收到业务报文后，根据业务报文的媒体类型，将该业务报文调度到该媒体类型当前轮询到的服务器进行处理，缓解了不同类型的业务报文同时调度到同一台服务器上处理的情况，从而有效降低了服务器瞬时流入的流量，减轻了服务器的处理压力。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本说明书。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本说明书的实施例，并与说明书一起用于解释本说明书的原理。

图1是本说明根据一示例性实施例示出的一种轮询调度方法的流程图。

图2是本说明书实施例轮询调度装置所在计算机设备的一种硬件结构图。

图3是本说明根据一示例性实施例示出的一种轮询调度装置的框图。

图4是本说明根据一示例性实施例示出的一种轮询调度系统的示意图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本说明书的一些方面相一致的装置和方法的例子。

在本说明书使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书。在本说明书和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本说明书可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

负载均衡，是指将负载进行平衡、分摊到多个操作单元上进行运行，例如FTP服务器、Web服务器、企业核心应用服务器和其他主要任务服务器等，从而协同完成工作任务。负载均衡构建在原有网络结构之上，它提供了一种透明且廉价有效的方法扩展服务器和网络设备的带宽、加强网络数据处理能力、增加吞吐量、提高网络的可用性和灵活性。负载均衡设备，通常也称之为负载均衡器，是一种把网络请求分散到一个服务器集群中的可用服务器的设备。

负载均衡器是根据配置好的负载均衡算法将客户端请求发送给服务器的。负载均衡算法的作用，就是根据不同的业务环境、服务器状况，将业务流量合理分配到后端服务器，保障后端服务器的正常、稳定、高效的运行。轮询调度算法是负载均衡算法中的一种，其工作原理是：每次将业务请求按负载均衡设备上真实服务的排序依次调度到各真实服务器上，若当前业务调度到最后一个真实服务器上，则下一条业务再从第一个真实服务器开始调度，如此循环往复。

现有的轮询调度算法在处理音视频业务的时候，往往容易导致部分服务器的瞬时处理压力增大，超出正常处理能力，甚至可能导致该部分服务器在一段时间内CPU或内存消耗超过正常值，而导致业务无法正常处理。

接下来对本说明书实施例进行详细说明。

如图1所示，图1是本说明根据一示例性实施例示出的一种轮询调度方法的流程图，包括以下步骤：

在步骤101、接收业务报文，检查所述业务报文的媒体类型；

在某些例子，本步骤中提到的媒体类型可以包括：音频类型、视频类型和其他类型。对于不同的媒体格式，可以将其划分到其中一种媒体类型中去。在其他实施例中，也可以根据具体场景的需求，将其中的其他类型划分出图像类型、系统类型等。在某些例子中，音频类型中的媒体格式包括audio、mp3、mkv之类的音频文件格式；视频类型中的媒体格式包括video、wmv、flv、avi之类的视频文件格式；其他类型中的媒体格式包括image、jpg、gif之类的图像文件格式。

与将所有业务报文一致处理的常规轮询调度方法不同，本步骤将业务报文按照媒体类型进行了区分。通常来说，一批业务报文具有多种不同的媒体格式。发明人在研究中发现，服务器在同时处理不同媒体格式的业务报文时，其处理压力与媒体格式的差异度有关。例如，同时处理audio和mp3两种媒体格式的业务报文时，服务器的处理压力要低于同时处理audio和video两种媒体格式的业务报文时的处理压力。因此，将业务报文按照媒体类型进行区分，再分别进行轮询调度，能够降低服务器的处理压力。

在某些例子中，本步骤中提到的检查所述业务报文的媒体类型可以是指：检查所述业务报文的数据部分中表征媒体格式的字段，根据所述字段将所述业务报文划分到对应的媒体类型。网络上的媒体传输一般认为有两种方式：基于TCP的传输和基于UDP的传输。由于TCP的拥塞控制技术不太适用于快速而稳定的流媒体传输，并且重传机制对于实时流媒体来说既影响效率又没必要，因此，通常情况下可认为流媒体业务的业务报文都是基于UDP的传输方式。UDP(User Datagram Protocol，用户数据报协议)是面向无连接的、不可靠的数据报传输协议，提供无连接通信，且不对传送的数据包进行可靠性保证，具有延迟小、数据传输效率高的优点。UDP报文的格式包括两个部分：数据部分和报头部分，其中，报头部分由源端口字段、目的端口字段、长度字段、检验和字段这四个字段组成；数据部分节目ID之后的第14个字节为可表征该报文的媒体格式的字段。在某些例子中，接收到业务报文后，检查该业务报文数据部分中表征媒体格式的字段，根据该字段将所述业务报文划分到对应的媒体类型，例如，检查得一业务报文中该字段为0x60，判断其媒体格式为video格式，则将该业务报文划分到视频类型；检查得一业务报文中该字段为0x71，判断其媒体格式为mp3格式，则将该业务报文划分到音频类型；检查得一业务报文中该字段为0x80，判断其媒体格式为image格式，则将该业务报文划分到其他类型。其中，以0x开始的数据表示16进制，在其他实施例中，该字段的值也可以是用其他进制表示。

在步骤102、基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰。

与现有的轮询调度方法不同，本步骤是指：每种媒体类型对应一种轮询调度算法，将业务报文调度到该业务报文的媒体类型当前轮询到的服务器进行处理。比如，当音频类型当前轮询到的服务器是第8台服务器，视频类型当前轮询到的服务器是第13台服务器，其他类型当前轮询到的服务器是第4台服务器，则收到的业务报文的媒体类型是音频类型时，将该报文调度到第8台服务器进行处理；收到的业务报文的媒体类型是视频类型时，将该报文调度到第13台服务器进行处理；收到的业务报文的媒体类型是其他类型时，将该报文调度到第4台服务器进行处理。

在某些例子中，本步骤提到的将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理之前还包括：预先为每种媒体类型设置不同的标记位，在所述标记位上记录所述媒体类型当前轮询到的服务器的标识，以使根据所述标识将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理。假设有一组服务器N台，将该组服务器排序标记为rs1、rs2……rsN，则该标识可以为服务器标记的ID值，即1、2……N。当音频类型中当前的标记位是3时，则接收到音频类型的业务报文时，将该报文调度到rs3的服务器上处理，调度后该标记位的值就会按照排序递增加一，即音频类型中当前的标记位是4，也就是说，当接收到下一条音频类型的业务报文时，将该报文调度到rs4的服务器上处理。当当前的标记位对应最后一个真实服务器rsN，则下一个标记位对应第一个真实服务器rs1，即当前标记位的值等于N时，递增加一后的标记位的值等于1。不同媒体类型对应的轮询调度算法互不干扰，也就是说，任意一种媒体类型的标记位都不会受另外的媒体类型的业务报文的影响，例如，当音频类型中当前的标记位是4，当接收到的业务报文属于视频类型时，将该报文按照视频类型中当前的标记位进行调度，调度后视频类型的标记位的值递增加一，而音频类型中的标记位仍然是4，并不受其影响。

在某些例子中，不同媒体类型的标记位的起始值可以不同。假设有一组服务器12台，则可以设置音频类型的标记位的起始值为1，视频类型的标记位的起始值为5，其他类型的标记位的起始值为9。

在某些例子中，在步骤101之前还包括步骤：预先设置开关，当所述开关接收到开启指令时，执行检查所述业务报文的媒体类型的步骤。通过设置开关，将业务报文的轮询调度分成两种情况处理：在开启开关时，将业务报文区分媒体类型，按照各自媒体类型对应的轮询调度算法进行调度；在关闭开关时，不区分业务报文的媒体类型，标记位只有一个，在该标记位上记录当前轮询到的服务器的标识。通过这一步骤，可以实现根据当前业务流量的具体情况，选择是否区分媒体类型进行轮询调度处理，从而更有效地减轻各个服务器的处理压力。

本说明实施例，由于不同媒体类型对应的轮询调度算法互不干扰，对业务报文进行了有效的区分，将业务报文调度到其媒体类型当前轮询到的服务器进行处理，缓解了不同类型的业务报文同时调度到同一台服务器上处理的情况，从而有效降低了服务器瞬时流入的流量，减轻了服务器的处理压力。

与前述方法的实施例相对应，本说明书还提供了轮询调度装置及其所应用的终端的实施例。

本说明书轮询调度装置的实施例可以应用在计算机设备上，例如服务器或终端设备。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在文件处理的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图2所示，图2为本说明书实施例轮询调度装置所在计算机设备的一种硬件结构图，除了图2所示的处理器510、内存530、网络接口520、以及非易失性存储器540之外，实施例中装置531所在的服务器或电子设备，通常根据该计算机设备的实际功能，还可以包括其他硬件，对此不再赘述。

相应地，本说明书实施例还提供一种计算机存储介质，所述存储介质中存储有程序，所述程序被处理器执行时实现上述任一实施例中的方法。

相应地，本说明书实施例还提供一种计算机设备，所述电子设备包括有处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为：执行所述指令时完成上述任一实施例中的方法。

本说明书实施例可采用在一个或多个其中包含有程序代码的存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。计算机可用存储介质包括永久性和非永久性、可移动和非可移动媒体，可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括但不限于：相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。

如图3所示，图3是本说明根据一示例性实施例示出的一种轮询调度装置的框图，所述装置包括：

接收模块31，用于接收报文；

检查模块32，用于检查所述业务报文的媒体类型；

调度模块33，用于按照所述媒体类型对应的轮询调度算法将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型的轮询调度互不干扰。

上述装置中各个模块的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。

对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本说明书方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

如图4所示，图4是本说明根据一示例性实施例示出的一种轮询调度系统的示意图，所述系统包括客户端41、负载均衡设备42和服务器组43，其中，服务器组43包括N台服务器；

客户端41用于向负载均衡设备42发送业务报文；

负载均衡设备43用于接收客户端41发送的业务报文，检查所述业务报文的媒体类型，以及基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的服务器组43中的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰；

服务器组43用于接收负载均衡设备42发送的业务报文并进行处理。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

本领域技术人员在考虑说明书及实践这里申请的发明后，将容易想到本说明书的其它实施方案。本说明书旨在涵盖本说明书的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本说明书的一般性原理并包括本说明书未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本说明书的真正范围和精神由下面的权利要求指出。

应当理解的是，本说明书并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本说明书的范围仅由所附的权利要求来限制。

以上所述仅为本说明书的较佳实施例而已，并不用以限制本说明书，凡在本说明书的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书保护的范围之内。

Claims (10)

1.一种轮询调度方法，其特征在于，所述方法包括：

接收业务报文，检查所述业务报文的媒体类型；

基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰。

2.根据权利要求1所述的方法，其特征在于，所述媒体类型包括：

音频类型、视频类型和其他类型。

3.根据权利要求2所述的方法，其特征在于，所述音频类型中的媒体格式包括音频文件格式；所述视频类型中的媒体格式包括视频文件格式；所述其他类型中的媒体格式包括图像文件格式。

4.根据权利要求1所述的方法，其特征在于，所述检查所述业务报文的媒体类型包括：

检查所述业务报文的数据部分中表征媒体格式的字段，根据所述字段将所述业务报文划分到对应的媒体类型。

5.根据权利要求1所述的方法，其特征在于，将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理之前还包括：

预先为每种媒体类型设置不同的标记位，在所述标记位上记录所述媒体类型当前轮询到的服务器的标识，以使根据所述标识将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

预先设置开关，当所述开关接收到开启指令时，执行检查所述业务报文的媒体类型的步骤。

7.一种轮询调度装置，其特征在于，所述装置包括：

接收模块，用于接收报文；

检查模块，用于检查所述业务报文的媒体类型；

调度模块，用于按照所述媒体类型对应的轮询调度算法将所述业务报文调度到所述媒体类型当前轮询到的服务器进行处理，其中，不同媒体类型的轮询调度互不干扰。

8.一种轮询调度系统，其特征在于，所述系统包括客户端、负载均衡设备和服务器组，其中，所述服务器组包括多个服务器；

所述客户端用于向负载均衡设备发送业务报文；

所述负载均衡设备用于接收所述客户端发送的业务报文，检查所述业务报文的媒体类型，以及基于所述媒体类型对应的轮询调度算法，将所述业务报文调度到所述媒体类型当前轮询到的所述服务器组中的服务器进行处理，其中，不同媒体类型对应的轮询调度算法互不干扰；

所述服务器组用于接收所述负载均衡设备发送的业务报文并进行处理。

9.一种计算机设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，所述处理器执行所述程序时实现如权利要求1～6任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，其上存储有计算机程序，该程序被处理器执行时实现权利要求1～6任一项所述的方法。

Images