CN105260242A - 一种任务处理方法及装置 - Google Patents

Abstract

本公开是关于一种任务处理方法及装置，其中，方法包括：控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。通过该技术方案，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，从而避免产生不必要的任务处理操作，减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性。

Description

一种任务处理方法及装置

技术领域

本公开涉及任务处理技术领域，尤其涉及一种任务处理方法及装置。

背景技术

随着网络和文化事业的发展，音视频资源极大丰富，对音视频文件的处理的需要也快速增长。

音视频文件处理的大致流程如下：首先将需处理的音视频文件解封装成为视频帧序列和音频帧序列；然后将视频帧序列和音频帧序列分别解码为RAW格式和PCM格式数据；对RAW格式和PCM格式数据进行处理；再将RAW格式和PCM格式的数据编码为所需格式的音频帧序列和视频帧序列；最后将音频帧序列和视频帧序列封装成需要的文件格式。

以上处理是通过计算机或计算机构成的数据处理装置来完成的，现有的这些计算机或数据处理装置是依靠本机的软硬件资源来实现对文件的处理。音视频文件处理的计算量庞大，对处理装置的运算能力和存储资源消耗很大，而且随着高清音视频文件的日益增多和处理需求的不断增大，依靠单机进行音视频文件处理的瓶颈问题日益突出，单机处理速度慢且容易发生系统崩溃。即使用户使用配置很高的计算机也难以保证处理的速度和稳定程度，尤其无法满足大批量和时间要求很高的处理任务。

鉴于现有技术中存在的以上问题，提供了一种分布式处理系统，使用多台计算机或处理装置来实现并行处理，从而大大减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性，而通过本申请的任务处理方法，可以保证分布式处理系统中各模块的处理任务都可以顺利进行，避免进行不必要的任务处理。

发明内容

本公开实施例提供一种任务处理方法及装置，包括如下技术方案：

根据本公开实施例的第一方面，提供一种任务处理方法，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，包括：

控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；

控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；

控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。

在一个实施例中，所述方法还包括：

控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。

在一个实施例中，所述方法还包括：

在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；

在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。

在一个实施例中，所述方法还包括：

控制所述调度装置将对应的任务的所有数据删除。

在一个实施例中，所述多个处理装置包括：

任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。

根据本公开实施例的第二方面，提供一种任务处理装置，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，包括：

接收模块，用于控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；

第一发送模块，用于控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；

处理模块，用于控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。

在一个实施例中，所述装置还包括：

第一删除模块，用于控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。

在一个实施例中，所述装置还包括：

判断模块，用于在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；

第二发送模块，用于在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。

在一个实施例中，所述装置还包括：

第二删除模块，用于控制所述调度装置将对应的任务的所有数据删除。

在一个实施例中，所述多个处理装置包括：

任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。

本公开的实施例提供的技术方案可以包括以下有益效果：

上述技术方案，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，并删除该任务的所有数据，从而避免产生不必要的任务处理操作，并避免模块中有过多的冗余数据。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。

图1是根据一示例性实施例示出的任务处理方法的流程图。

图2是根据一示例性实施例示出的一种任务处理方法的流程图。

图3是根据一示例性实施例示出的另一种任务处理方法的流程图。

图4是根据一示例性实施例示出的再一种任务处理方法的流程图。

图5是根据一示例性实施例示出的任务处理装置的框图。

图6是根据一示例性实施例示出的一种任务处理装置的框图。

图7是根据一示例性实施例示出的另一种任务处理装置的框图。

图8是根据一示例性实施例示出的又一种任务处理装置的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

本公开实施例提供了一种任务处理方法，如图1所示，该方法包括步骤S101-S103：

在步骤S101中，控制调度装置接收处理装置在任务处理失败时发送的任务失败消息，任务失败消息中包括失败的任务的身份标识；

在步骤S102中，控制调度装置发送失败的任务的身份标识至每个处理装置；

在步骤S103中，控制每个处理装置在接收到身份标识后停止处理对应的任务。

在该实施例中，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，从而避免产生不必要的任务处理操作，减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性。

在一个实施例中，多个处理装置包括：任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置等。

下面详细说明下分布式处理系统，分布式处理系统包括：调度装置(dispatcher)、任务打散装置(ingress)、第一传输装置(offer)、多个音频处理装置(AP)、多个视频处理装置(VP)、第二传输装置(offer)、输出装置egress和监视装置Watcher，其中，在每个装置中均设置有监控装置Monitor，不同的装置之间，通过监控装置进行交互。下面详细说明个装置：

任务分发装置获得视频数据，然后分给任务打散装置。

任务打散装置将视频数据打散，得到音频文件(。goa)、视频文件(。gop)、音频总数信息、视频总数信息，对音频文件和视频文件进行解封装，得到多个视频文件碎片和多个音频文件碎片。其中，对于音频文件碎片，可以每10分钟作为一段(不是整分钟，有出入)对于视频文件碎片，可以每分钟为一段(不是整分钟，有出入)。

第一传输装置用于将不同的打散碎片传输给相应的音频或视频处理装置进行处理。

音频处理装置用于处理音频文件碎片，包括对音频文件碎片进行解码，进行图像处理，对处理后的图像进行编码。第一传输装置将音频总数信息传输给音频处理装置，但是音频处理装置不处理，音频处理装置转发给输出装置Egress。

同理，视频处理装置用于处理视频文件碎片。

第二传输装置用于将音频处理装置和视频处理装置处理得到的数据传输给输出装置egress。

输出装置Egress用于根据音频总数信息和视频总数信息对音频处理装置和视频处理装置处理后得到的数据进行汇总。

监视装置Watcher提供客户端查询数据的接口，与任务分发装置(dispatcher)连接。监视装置Watcher与任务分发装置(dispatcher)通过共享内存共享信息。

监控装置Monitor，负责信息的接收和汇总，与任务分发装置(dispatcher)连接。任务分发装置通过各装置中的监控装置监控其任务的状态，进而可以根据其任务的状态为其分发任务。

如图2所示，在一个实施例中，上述方法还包括步骤S201：

在步骤S201中，控制每个处理装置在停止处理对应的任务后，将对应的任务的所有数据删除。

在该实施例中，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，并删除该任务的所有数据，从而避免产生不必要的任务处理操作，并避免模块中有过多的冗余数据。

如图3所示，在一个实施例中，上述方法还包括步骤S301-S302：

在步骤S301中，在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断处理装置的任务处理失败；

在步骤S302中，在处理装置的任务处理失败时，控制处理装置发送任务失败消息至调度装置。

在该实施例中，在任务无法执行，或者执行过程中发生错误时，比如，视频处理装置处理视频时发现没有logo文件，向调度装置请求后也没有该logo文件，那么视频处理装置向调度装置发送失败任务的身份标识，即ID，从而使得所有的处理模块均停止处理并删除该任务。又如，音频处理装置不支持音频格式的编码。或者，封装装置封装时磁盘已满等，都会发生错误。

如图4所示，在一个实施例中，上述方法还包括步骤S401：

在步骤S401中，控制调度装置将对应的任务的所有数据删除。

在该实施例中，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，并删除该任务的所有数据，从而避免产生不必要的任务处理操作，并避免模块中有过多的冗余数据。

下述为本公开装置实施例，可以用于执行本公开方法实施例。

图5是根据一示例性实施例示出的一种任务处理装置的框图，如图5所示，该任务处理装置包括：

接收模块51，用于控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；

第一发送模块52，用于控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；

处理模块53，用于控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。

如图6所示，在一个实施例中，所述装置还包括：

第一删除模块61，用于控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。

如图7所述，在一个实施例中，所述装置还包括：

判断模块71，用于在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；

第二发送模块72，用于在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。

如图8所示，在一个实施例中，所述装置还包括：

第二删除模块81，用于控制所述调度装置将对应的任务的所有数据删除。

在一个实施例中，所述多个处理装置包括：

任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。

关于上述实施例中的装置，其中各个装置执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种任务处理方法，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，其特征在于，包括：

控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；

控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；

控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；

在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

控制所述调度装置将对应的任务的所有数据删除。

5.根据权利要求1所述的方法，其特征在于，所述多个处理装置包括：

任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。

6.一种任务处理装置，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，其特征在于，包括：

接收模块，用于控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；

第一发送模块，用于控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；

处理模块，用于控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括：

第一删除模块，用于控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。

8.根据权利要求6所述的装置，其特征在于，所述装置还包括：

判断模块，用于在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；

第二发送模块，用于在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。

9.根据权利要求6所述的装置，其特征在于，所述装置还包括：

第二删除模块，用于控制所述调度装置将对应的任务的所有数据删除。

10.根据权利要求6所述的装置，其特征在于，所述多个处理装置包括：

任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。