CN105354080A - 一种任务处理方法及装置 - Google Patents

Abstract

本发明是关于一种任务处理方法及装置，其中，方法包括：在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。通过该技术方案，以使各个音视频处理装置可以根据自己的处理能力进行任务处理，减少处理所需的时间，同时降低系统的处理压力，减少系统崩溃的可能性。

Description

一种任务处理方法及装置

技术领域

本发明涉及数据处理技术领域，尤其涉及一种任务处理方法及装置。

背景技术

随着网络和文化事业的发展，音视频资源极大丰富，对音视频文件的处理的需要也快速增长。

音视频文件处理的大致流程如下：首先将需处理的音视频文件解封装成为视频帧序列和音频帧序列；然后将视频帧序列和音频帧序列分别解码为RAW格式和PCM格式数据；对RAW格式和PCM格式数据进行处理；再将RAW格式和PCM格式的数据编码为所需格式的音频帧序列和视频帧序列；最后将音频帧序列和视频帧序列封装成需要的文件格式。

以上处理是通过计算机或计算机构成的数据处理装置来完成的，现有的这些计算机或数据处理装置是依靠本机的软硬件资源来实现对文件的处理。音视频文件处理的计算量庞大，对处理装置的运算能力和存储资源消耗很大，而且随着高清音视频文件的日益增多和处理需求的不断增大，依靠单机进行音视频文件处理的瓶颈问题日益突出，单机处理速度慢且容易发生系统崩溃。即使用户使用配置很高的计算机也难以保证处理的速度和稳定程度，尤其无法满足大批量和时间要求很高的处理任务。

鉴于现有技术中存在的以上问题，提供了一种分布式处理系统，使用多台计算机或处理装置来实现并行处理，并通过音视频处理装置在任务数不足时向解封装装置发送任务获取请求，主动获取任务，从而大大减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性。

发明内容

本发明实施例提供一种任务处理方法及装置，包括如下技术方案：

根据本发明实施例的第一方面，提供一种任务处理方法，用于分布式处理系统中的多个音视频处理装置，所述方法包括：

在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；

在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；

接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。

在一个实施例中，所述方法还包括：

当将所述当前待处理任务队列中的一个任务处理完毕后，将所述任务从所述当前待处理任务队列中删除。

在一个实施例中，每个多媒体文件碎片对应一个任务。

在一个实施例中，所述方法包括：

获取所述音视频处理装置的系统配置文件；

根据所述系统配置文件确定所述音视频处理装置的处理能力；

根据所述处理能力设置所述预设任务数。

在一个实施例中，所述方法还包括：

接收输入的任务数设置命令；

根据接收到的所述任务数设置命令，设置所述预设任务数。

根据本发明实施例的第二方面，提供一种任务处理装置，用于分布式处理系统中的多个音视频处理装置，所述装置包括：

第一获取模块，用于在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；

发送模块，用于在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；

处理模块，用于接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。

在一个实施例中，所述装置还包括：

删除模块，用于当将所述当前待处理任务队列中的一个任务处理完毕后，将所述任务从所述当前待处理任务队列中删除。

在一个实施例中，每个多媒体文件碎片对应一个任务。

在一个实施例中，所述装置包括：

第二获取模块，用于获取所述音视频处理装置的系统配置文件；

确定模块，用于根据所述系统配置文件确定所述音视频处理装置的处理能力；

第一设置模块，用于根据所述处理能力设置所述预设任务数。

在一个实施例中，所述装置还包括：

接收模块，用于接收输入的任务数设置命令；

第二设置模块，用于根据接收到的所述任务数设置命令，设置所述预设任务数。

本发明的实施例提供的技术方案可以包括以下有益效果：

上述技术方案，在音视频处理装置对当前待处理任务队列中的任务进行处理时，获取当前待处理任务队列中的任务数，在该任务数小于预设任务时，发送任务获取请求至解封装装置，主动获取新任务，这样，不是由解封装装置主动分配任务，而是由各个音视频处理装置主动抢任务，从而可以使各个音视频处理装置可以根据自己的处理能力进行任务处理，减少处理所需的时间，同时降低系统的处理压力，减少系统崩溃的可能性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。

图1是根据一示例性实施例示出的任务处理方法的流程图。

图2是根据一示例性实施例示出的一种任务处理方法的流程图。

图3是根据一示例性实施例示出的另一种任务处理方法的流程图。

图4是根据一示例性实施例示出的再一种任务处理方法的流程图。

图5是根据一示例性实施例示出的任务处理装置的框图。

图6是根据一示例性实施例示出的一种任务处理装置的框图。

图7是根据一示例性实施例示出的另一种任务处理装置的框图。

图8是根据一示例性实施例示出的再一种任务处理装置的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

分布式处理系统包括：任务分发装置(dispatcher)、解封装装置(ingress)、第一传输装置(offer)、多个音频处理装置(AP)、多个视频处理装置(VP)、第二传输装置(offer)、输出装置egress和监视装置Watcher，其中，在每个装置中均设置有监控装置Monitor，不同的装置之间，通过监控装置进行交互。下面详细说明个装置：

任务分发装置获得视频数据，然后分给解封装装置。

解封装装置将视频数据打散，得到音频文件(。goa)、视频文件(。gop)、音频总数信息、视频总数信息，对音频文件和视频文件进行解封装，得到多个视频文件碎片和多个音频文件碎片。其中，对于音频文件碎片，可以每10分钟作为一段(不是整分钟，有出入)对于视频文件碎片，可以每分钟为一段(不是整分钟，有出入)。

第一传输装置用于将不同的打散碎片传输给相应的音频或视频处理装置进行处理。

音频处理装置用于处理音频文件碎片，包括对音频文件碎片进行解码，进行图像处理，对处理后的图像进行编码。第一传输装置将音频总数信息传输给音频处理装置，但是音频处理装置不处理，音频处理装置转发给输出装置Egress。

同理，视频处理装置用于处理视频文件碎片。

第二传输装置用于将音频处理装置和视频处理装置处理得到的数据传输给输出装置egress。

输出装置Egress用于根据音频总数信息和视频总数信息对音频处理装置和视频处理装置处理后得到的数据进行汇总。

监视装置Watcher提供客户端查询数据的接口，与任务分发装置(dispatcher)连接。监视装置Watcher与任务分发装置(dispatcher)通过共享内存共享信息。

监控装置Monitor，负责信息的接收和汇总，与任务分发装置(dispatcher)连接。任务分发装置通过各装置中的监控装置监控其任务的状态，进而可以根据其任务的状态为其分发任务。

本发明实施例提供了一种任务处理方法，该方法可用于上述分布式处理系统，如图1所示，该方法包括步骤S101-S103：

在步骤S101中，在对当前待处理任务队列中的任务进行处理时，获取当前待处理任务队列中的任务数；

在步骤S102中，在任务数小于预设任务数时，发送任务获取请求至解封装装置；

在步骤S103中，接收解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据多媒体文件碎片创建新任务，将新任务添加至当前待处理任务队列。

在该实施例中，在音视频处理装置对当前待处理任务队列中的任务进行处理时，获取当前待处理任务队列中的任务数，在该任务数小于预设任务时，发送任务获取请求至解封装装置，主动获取新任务，这样，不是由解封装装置主动分配任务，而是由各个音视频处理装置主动抢任务，从而可以使各个音视频处理装置可以根据自己的处理能力进行任务处理，减少处理所需的时间，同时降低系统的处理压力，减少系统崩溃的可能性。

如图2所示，在一个实施例中，方法还包括步骤S201：

在步骤S201中，当将当前待处理任务队列中的一个任务处理完毕后，将任务从当前待处理任务队列中删除。

在该实施例中，在将当前处理任务队列中的一个任务处理完毕后，将任务从当前待处理任务队列中删除，这样，可以保证待处理任务队列中都是未处理的任务，从而便于统计。

在一个实施例中，每个多媒体文件碎片对应一个任务。

如图3所示，在一个实施例中，方法包括步骤S301-S303：

在步骤S301中，获取音视频处理装置的系统配置文件；

在步骤S302中，根据系统配置文件确定音视频处理装置的处理能力；

在步骤S303中，根据处理能力设置预设任务数。

在该实施例中，可以根据音视频处理装置的处理能力设置预设任务数，这样，可以根据音视频处理装置的处理能力确定何时发送任务获取请求，从而保证处理速度。

如图4所示，在一个实施例中，方法还包括步骤S401-S402：

在步骤S401中，接收输入的任务数设置命令；

在步骤S402中，根据接收到的任务数设置命令，设置预设任务数。

在该实施例中，用户或厂商还可以根据个人需要设置音视频处理装置的预设任务数，从而使得音视频处理装置的预设任务数确定何时发送任务获取请求，从而保证处理速度。

下述为本发明装置实施例，可以用于执行本发明方法实施例。

图5是根据一示例性实施例示出的一种任务处理装置的框图，如图5所示，该任务处理装置包括：

第一获取模块51，用于在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；

发送模块52，用于在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；

处理模块53，用于接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。

如图6所示，在一个实施例中，所述装置还包括：

删除模块61，用于当将所述当前待处理任务队列中的一个任务处理完毕后，将所述任务从所述当前待处理任务队列中删除。

在一个实施例中，每个多媒体文件碎片对应一个任务。

如图7所示，在一个实施例中，上述装置包括：

第二获取模块71，用于获取所述音视频处理装置的系统配置文件；

确定模块72，用于根据所述系统配置文件确定所述音视频处理装置的处理能力；

第一设置模块73，用于根据所述处理能力设置所述预设任务数。

如图8所示，在一个实施例中，上述装置还包括：

接收模块81，用于接收输入的任务数设置命令；

第二设置模块82，用于根据接收到的所述任务数设置命令，设置所述预设任务数。

关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

本领域技术人员在考虑说明书及实践这里发明的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种任务处理方法，用于分布式处理系统中的多个音视频处理装置，其特征在于，所述方法包括：

在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；

在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；

接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当将所述当前待处理任务队列中的一个任务处理完毕后，将所述任务从所述当前待处理任务队列中删除。

3.根据权利要求1所述的方法，其特征在于，每个多媒体文件碎片对应一个任务。

4.根据权利要求1所述的方法，其特征在于，所述方法包括：

获取所述音视频处理装置的系统配置文件；

根据所述系统配置文件确定所述音视频处理装置的处理能力；

根据所述处理能力设置所述预设任务数。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

接收输入的任务数设置命令；

根据接收到的所述任务数设置命令，设置所述预设任务数。

6.一种任务处理装置，用于分布式处理系统中的多个音视频处理装置，其特征在于，所述装置包括：

第一获取模块，用于在对当前待处理任务队列中的任务进行处理时，获取所述当前待处理任务队列中的任务数；

发送模块，用于在所述任务数小于预设任务数时，发送任务获取请求至解封装装置；

处理模块，用于接收所述解封装装置发送的对视频数据进行解封装后得到的多媒体文件碎片，并根据所述多媒体文件碎片创建新任务，将所述新任务添加至所述当前待处理任务队列。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括：

删除模块，用于当将所述当前待处理任务队列中的一个任务处理完毕后，将所述任务从所述当前待处理任务队列中删除。

8.根据权利要求6所述的装置，其特征在于，每个多媒体文件碎片对应一个任务。

9.根据权利要求6所述的装置，其特征在于，所述装置包括：

第二获取模块，用于获取所述音视频处理装置的系统配置文件；

确定模块，用于根据所述系统配置文件确定所述音视频处理装置的处理能力；

第一设置模块，用于根据所述处理能力设置所述预设任务数。

10.根据权利要求6所述的装置，其特征在于，所述装置还包括：

接收模块，用于接收输入的任务数设置命令；

第二设置模块，用于根据接收到的所述任务数设置命令，设置所述预设任务数。