CN106293893A - 作业调度方法、装置及分布式系统 - Google Patents

Abstract

本申请公开了一种作业调度方法、装置及分布式系统，所述分布式系统至少包括中心节点、与中心节点连接的多个控制节点以及每一控制节点分别连接的多个计算节点；中心节点为各个控制节点分配所述作业的任务；控制节点调度各个任务切片在与其连接的计算节点中运行，所述方法包括：调度第一任务的第一控制节点在第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取第一任务的至少一个任务切片生成的运行数据；第二控制节点获取第一任务的至少一个任务切片生成的运行数据，分配给第二任务的每一个任务切片，并调度第二任务的至少一个任务切片运行，处理所述运行数据。本申请实施例提高了调度效率，提高了资源利用率。

Description

作业调度方法、装置及分布式系统

技术领域

本申请属于数据处理技术领域，具体地说，涉及一种作业调度方法、装置及分布式系统。

背景技术

在传统的分布式系统中，分布式作业包括有限数量的任务(task)，并且任务之间有一定的依赖关系，每一任务又划分为多个任务切片(instance)，作业运行时，由各个任务的任务切片进行数据处理。

基于传统的分布式系统，作业调度方式通常是由中心节点(master)，进行统一调度，例如，假设作业有两个任务，分别为task1和task2，task1和task2的依赖关系为task2的输入为task1的输出，当作业运行起来之后，中心节点会寻找一个没有前驱任务的任务，假设为task1先运行起来，当task1的全部任务切片运行结束之后，中心节点再调度task2运行。

但是，这种作业调度方式，中心节点处理和维护的数据量巨大，影响调度效率，且没有充分的利用集群资源，导致资源浪费。

发明内容

有鉴于此，本申请所要解决的技术问题是提供了作业调度方法、装置及分布式系统，提高了调度效率，且提高了资源利用率。

为了解决上述技术问题，本申请公开了一种作业调度方法，应用于分布式系统中，所述分布式系统至少包括中心节点、与所述中心节点连接的多个控制节点以及每一控制节点分别连接的多个计算节点；所述中心节点为各个控制节点分配所述作业的任务；所述控制节点调度为其分配的任务的各个任务切片在与其连接的计算节点中运行，所述方法包括：

调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据；其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

所述第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片；

所述第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

优选地，所述第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据包括：

调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

优选地，在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，所述方法还包括：

所述第二控制节点请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；

所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，并在重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据；

所述第二控制节点获取所述重新生成的运行数据，并在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配。

优选地，所述第二控制节点调度所述第二任务的任一任务切片运行，处理所述运行数据之后，所述方法还包括：

所述第二控制节点在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；

所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；并在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取重新生成的运行数据；

所述第二控制节点获取所述重新生成的运行数据，并调度所述第二任务的所述第二任务切片运行，处理所述重新生成的运行数据。

优选地，所述第二控制节点请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行包括：

所述第二控制节点通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

一种分布式系统，包括一中心节点、与所述中心节点连接的多个控制节点以及每一个控制节点连接的多个计算节点；

所述中心节点，用于为各个控制节点分配作业的任务；

所述计算节点，用于运行与其连接的控制节点分配的任务切片；

所述控制节点中的第一控制节点，用于在为其分配的第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

所述第二控制节点，用于获取所述第一任务的至少一个任务切片运行生成的运行数据，并分配给所述第二任务的每一个任务切片；调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

优选地，所述第二控制节点调度所述第二任务的每一个任务切片运行，处理所述运行数据包括：

调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

优选地，所述第二控制节点还用于：

在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；获取所述第一控制节点重新生成的运行数据版本，并在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配；

所述第一控制节点还用于接收到所述第二控制节点的请求时，调度所述第一任务中所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取重新生成的运行数据。

优选地，所述第二控制节点还用于：在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；获取重新生成的运行数据版本，并调度所述第二任务的任务切片运行，处理所述重新运行的数据版本；

所述第一控制节点，还用于接收到所述第二控制节点的请求时，调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据。

优选地，所述第二控制节点请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行具体是：

通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

一种作业调度装置，应用于分布式系统的控制节点中，所述分布式系统至少包括中心节点、与中心节点连接的多个控制节点以及每一个控制节点分别连接的多个计算节点；所述控制节点获取所述中心节点分配的所述作业的一任务，并调度所述任务的各个任务切片在与其连接的计算节点中运行，所述装置包括：

通知模块，用于在第一任务的至少一个任务切片运行结束时，通知调度第二任务的控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；以便于所述调度第二任务的控制节点将获取的所述运行数据，分配给所述第二任务的每一个任务切片；调度所述第二任务的每一个任务切片运行，处理所述运行数据；

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

一种作业调度装置，应用于分布式系统的控制节点中，所述分布式系统至少包括中心节点、与中心节点连接的多个控制节点以及每一个控制节点分别连接的多个计算节点；所述控制节点获取所述中心节点分配的所述作业的一任务，并调度所述任务的各个任务切片在与其连接的计算节点中运行，所述装置包括：

获取模块，用于接收到调度第一任务的控制节点的通知时，获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述通知为所述调度第一任务的控制节点在所述第一任务的至少一个任务切片运行结束之后发送的；所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

分配模块，用于将获取的所述第一任务的至少一个任务切片生成的运行数据，分配给所述第二任务的每一个任务切片；

调度模块，用于调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

与现有技术相比，本申请可以获得包括以下技术效果：

本申请提供的分布式系统，由中心节点、控制节点以及计算节点组成，中心节点进行任务分配，控制节点负责任务调度，从而降低了中心节点的调度压力，提高了调度效率。在进行作业调度时，在作业中的第一任务的至少一个任务切片运行结束之后，即可以调度第二任务的至少一个任务切片运行，对运行数据进行处理，无需等待第一任务的全部任务切片运行结束，第二任务的任务切片即可以调度运行进行数据处理，充分利用了集群资源，提高了资源利用率和任务并发度，降低了作业运行时间。

当然，实施本申请的任一产品必不一定需要同时达到以上所述的所有技术效果。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是本申请实施例的分布式系统的一种结构示意图；

图2是本申请实施例的一种作业调度方法一个实施例流程图；

图3是本申请实施例的一种作业调度方法又一个实施例流程图；

图4是本申请实施例的一种作业调度方法又一个实施例流程图；

图5是本申请实施例的一种作业调度方法又一个实施例流程图；

图6是本申请实施例的实际应用中任务依赖关系的一种示意图；

图7是本申请实施例的一种作业调度装置一个实施例结构示意图；

图8是本申请实施例的一种作业调度装置另一个实施例结构示意图；

图9是本申请实施例的一种作业调度装置又一个实施例结构示意图；

图10是本申请实施例的一种作业调度装置又一个实施例结构示意图。

具体实施方式

以下将配合附图及实施例来详细说明本申请的实施方式，藉此对本申请如何应用技术手段来解决技术问题并达成技术功效的实现过程能充分理解并据以实施。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flashRAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括非暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

在现有技术中，进行作业调度时，由中心节点进行统一调度，中心节点需要控制作业中一个任务的全部任务切片运行结束之后，再调度依赖前一个任务的另一个任务的任务切片运行，中心节点统一管控的方式导致中心节点的数据信息量巨大，特别是作业规模上升的一定程度，中心节点的信息量爆棚，严重影响调度效率。且作业的各个任务运行时，需要具有依赖关系的前一个任务的任务切片全部运行结束之后，才能调度后一个任务的任务切片运行，这就导致集群资源可能存在空余，从而导致资源的浪费。

为了解决这一技术问题，本申请实施例提供了一种分布式系统，如图1所示。

该分布式系统由中心节点101、与该中心节点连接的多个控制节点102以及每一控制节点102连接的多个计算节点103构成。

中心节点102为各个控制节点分配所述作业的任务。

控制节点103调度为其分配的任务的各个任务切片在与其连接的计算节点中运行。

计算节点103运行与其连接的控制节点分配的任务切片；

当作业的任务数量大于控制节点数量时，中心节点可以先分配一部分任务给各个控制节点，当存在处理资源空闲的控制节点时，再分配其他未分配的任务。

每一个控制节点控制所述作业的一个任务的运行。

通过本申请实施例，由控制节点实现对作业的任务的调度，无需中心节点进行统一调度，降低了中心节点的调度压力，从而可以提高调度效率。且通过控制节点的调度，在作业中的第一任务的至少一个任务切片运行结束之后，即可以调度第二任务的任务切片运行，对运行数据进行处理，无需等待第一任务的全部任务切片运行结束，第二任务的任务切片即可以调度运行进行数据处理，充分利用了集群资源，避免了资源的浪费。本申请实施例的分布式系统，通过控制节点之间的交互，只要任一个任务中的任一个任务切片运行结束，即可以调度依赖该任务的下一个任务中任务切片开始运行，无需一直处于等待状态，使得提高了资源利用率和任务并发度，降低作业运行时间。

下面将结合附图对本申请技术方案进行详细描述。

图2为本申请实施例提供的一种作业调度方法一个实施例的流程图，该技术方案具体应用于图1所示的分布式系统中，该方法可以包括以下几个步骤：

201：调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据。

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

第一控制节点是指调度第一任务的控制节点，第二控制节点是指调度第二任务的控制节点。第一任务以及第二任务分配给哪一个控制节点进行调度是由中心节点预先分配。

本申请实施例中，任务切片运行具体即是指在控制节点控制任务切片在计算节点中运行，为了方便描述，在本申请实施例中，均以任务切片运行进行描述。

本申请适用于作业中各个任务具有依赖关系的应用场景，例如DAG(Directed Acyclic Graph，有限无环图)模型，前一个任务的输出数据，为下一个任务的输入数据。

第一任务可以是作业中任一个正在运行的任务。

依赖该第一任务的任务可能有多个，第二任务可以是指依赖该第一任务的任一个任务。

需要说明的是，第一任务中的“第一”、第二任务中的“第二”，并不是表示顺序关系，其仅是为了描述上区分不同的任务。

第一任务中的每一任务切片运行结束，生成的运行数据，第一控制节点会通知第二控制节点获取该运行数据。

202：第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片。

第二控制节点接收到第一控制节点的通知之后，获取第一控制节点中，第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片

203：第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

在第一任务的至少一个任务切片运行结束之后，第二控制节点获取其生成的运行数据，分配给第二任务的任务切片，即可以调度第二任务的任务切片运行，处理所述运行数据。

本申请实施例，在作业中的第一任务的至少一个任务切片运行结束之后，第一控制节点会通知第二控制节点，第二控制节点即可以调度第二任务的任务切片运行，对运行数据进行处理，无需等待第一任务的全部任务切片运行结束，第二任务的任务切片即可以调度运行进行数据处理，充分利用了集群资源，避免了资源的浪费。且调度过程由控制节点控制实现，无需中心节点进行统一调度，中心节点只负责任务的分配，从而减轻了中心节点的调度压力，可以提高调度效率。

其中，由于任务切片对应的计算节点处理资源不足或者其他影响正常运行的条件，任务切片也不会运行成功。

因此第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据，可以是调度所述第二任务中的处理资源满足预设条件的任务切片，处理所述运行数据。

对于处理资源未满足预设条件的任务切片，可以等待其处理资源满足预设条件时，再调度运行。

另外，由于第一任务的任务切片的运行数据版本，与第二任务的任务切片的需求数据版本不一致时，第二任务的任务切片也无法运行。

其中，数据版本与任务切片每运行一次得到的数据对应的运行次数对应，例如第一次运行结束得到的数据版本即为0、在重新运行时，第二次运行结束得到数据版本为1，依次类推，第三次运行结束得到数据版本为2......

作为又一个实施例，如图3所示，为本申请实施例提供的一种作业调度方法又一个实施例的流程图，该方法可以包括以下几个步骤：

301：调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据。

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

302：第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片。

303：第二控制节点调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

也即第一任务的该至少一个任务切片的运行数据版本，与第二任务的任务切片的需求数据版本匹配时，第二控制节点才可以调度所述第二任务的任务切片运行，处理所述运行数据。其中，由于处理资源的不足也会影响任务切片的运行，因此具体的是调度第二任务中，处理资源满足预设条件，且需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

另外，如果第一任务的所述至少一个任务切片的运行数据版本，与第二任务的某一个任务切片，假设为第一任务切片的需求数据版本不匹配时，则本申请实施例中，第二控制节点还可以请求第一控制节点，调度第一任务中，所述运行数据版本对应的任务切片重新运行。

第一控制节点接收到第二控制节点的请求之后，即调度所述第一任务中所述运行数据版本对应的任务切片重新运行，并在重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据；

第二控制节点接收到第一控制节点的通知之后，获取重新生成的运行数据，并在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第二任务的第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配。

因此，作为又一个实施例，如图4所示，在本申请实施例提供的一种作业调度方法又一个实施例的中，该方法可以包括以下几个步骤：

401：调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据。

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

所述第一任务的第一任务切片是指第一任务中的任一个任务切片、

402：第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片。

403：第二控制节点判断所述第二任务的第一任务切片的需求数据版本是否与所述第一任务的第一任务切片的运行数据版本匹配；如果是，执行步骤409，如果否，执行步骤404。

其中，第二任务的第一任务切片可以是指第二任务中的任一个任务切片。

第一任务的第一任务切片可以是指第一任务中已经运行结束的任一个任务切片。

404：第二控制节点请求所述第一控制节点调度所述第一任务的第一运任务切片重新运行。

其中，该请求中可以携带第二控制节点的需求数据版本。

405：第一控制节点调度所述第一任务的第一任务切片重新运行。

第一控制节点接收到第二控制节点的请求之后，即调度所述第一任务的第一任务切片重新运行。

406：第一控制节点在所述第一任务的第一任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据。

407：第二控制节点获取所述重新生成的运行数据。

第二控制节点接收到第一控制节点的通知之后，即获取所述述第一任务的第一任务切片重新生成的运行数据。

408：第二控制节点判断所述重新生产的运行数据版本与所述第二任务的第一任务切片的需求数据版本是否匹配，如果是，执行步骤409，如果否，返回步骤404继续执行。

409：第二控制节点调度所述第二任务的第一任务切片运行，处理所述第一任务的第一任务切片重新生成的运行数据。

如果第二任务的第一任务切片的需求数据版本与第一任务的第一任务切片的运行数据版本不一致，则可以调度该第一任务的第一任务切片继续重新运行，直至第二任务的第一任务切片的需求数据版本与第一任务的第一任务切片的运行数据版本匹配。

在调度第一任务的第一任务切片重新运行时，若第二任务的第一任务切片需求数据版本低于该第一任务的第一任务切坡的运行数据版本，则由于第一任务无法再生成低版本的数据，因此将无法调度第一任务的第一任务切片运行。

因此，作为又一个实施例，该步骤405可以具体是第一控制节点在所述第二任务的第一任务切片的需求版本，高于所述第一任务的第一任务切片的当前运行数据版本时，调度所述第一任务的所述第一任务切片重新运行。

本申请实施例中，通过需求数据版本与运行数据版本的判断，使得提高了任务切片运行的成功率。且在第二任务中任务切片的需求数据版本与运行数据版本不匹配时，还可以调度第一任务的任务切片重新运行，直至获得与需求数据版本匹配的运行数据版本，提高了数据处理成功率。避免了现有技术中，一个任务全部任务切片运行结束之后，才能调度下一个任务的任务切片运行，一旦任务切片的运行数据出错，后继任务运行起来之后就会因输入数据错误导致失败的问题。

其中，每一个控制节点可以为每一个任务切片保存一份数据版本表，可以将其获取到的运行数据版本存放在该数据版本表中，直至该数据运行数据版本与数据版本表中的需求数据版本匹配时，再调度该任务切片运行。

由于在调度第二任务的任务切片运行时，第二任务中任一任务切片，处理运行数据时，有可能会失败，比如无法成功读取运行数据。为了保证作业正常运行，提高任务失败的自修复能力，在所述第二任务中的任一任务切片处理所述运行数据失败时，还可以调度所述第一任务中，所述运行数据版本对应的任务切片重新运行。

如图5所示，为本申请实施例提供的一种作业调度方法一个实施例的流程图，该方法可以包括以下几个步骤：

501：调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的第二任务切片生成的运行数据。

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

所述第一任务的第二任务切片可以是第一任务中任一个任务切片。

502：第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片。

503：第二控制节点调度第二任务的至少一个任务切片运行，处理所述运行数据。

其中，该至少一个任务切片可以是第二任务中，需求数据版本与该运行数据版本匹配，且处理资源满足预设条件的任务切片。

504：所第二控制节点判断第二任务中，是否存在处理第一任务的第二任务切片生成的运行数据失败的第二任务切片，如果是，执行步骤505，如果否，则结束流程。

其中，该第二任务的第二任务切片可以是指第二任务中处理所述运行数据失败的任一个任务切片。

第一任务的第二任务切片可以是第一任务中已经运行结束的任一个任务切片。

505：第二控制节点请求所述第一控制节点调度所述第一任务的第二任务切片重新运行。

506：第一控制节点调度所述第一任务的第二任务切片重新运行。

507：第一控制节点在所述第一任务的第二任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据；

508：第二控制节点获取所述重新生成的运行数据，并调度所述第二任务的所述第二任务切片运行。

其中，由于任务切片每重新运行一次，只能生成高于前一版本的运行数据，任务切片能够运行，表明其当前需求数据版本与运行数据版本匹配。

因此，为了能够调度所述第一任务的所述第二任务切片重新运行，第二控制节点可以通过提高数据请求版本，以触发第一任务的第二任务切片重新运行。

也即第二控制节点请求第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，具体是通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

也即第二控制节点提高需求数据版本，并在发送至第一控制节点的请求中携带该提高的需求数据版本。从而第一控制节点在请求中的需求数据版本高于其当前运行数据版本时，触发任务切片重新运行。

本申请实施例中，在数据处理失败，可以调度任务切片重新运行，从而在提高了资源利用率的同时，还提高了作业失败自修复能力。

下面结合一个实际应用的例子，对本申请技术方案进行详细描述。

假设作业包括两个具有依赖关系的任务：task1和task2，task2的输入为task1的输出。如图6所示的示意图，假设task1包括三个任务切片M1、M2以及M3，task2包括两个任务切片R1以及R2。

中心节点将task1分配给第一控制节点taskmaster1调度，将task2分配给第二控制节点taskmaster2调度。

taskmaster1以及taskmaster2可以为控制节点中任意的两个控制节点。

task1的每一个任务切片的运行数据，taskmaster1均可以提供给taskmaster2。

taskmaster2会将运行数据分配给每一个计算节点中的任务切片；taskmaster2的也可以向taskmaster1，请求获取每一个任务切片请求对应版本的数据。

假设task1的输入数据已经准备好，可以正常运行。中心节点触发taskmaster1调度task1运行。

taskmaster2为每一个task2可以维护一个数据版本列表，其中包括运行数据版本和需求数据版本，只有运行数据版本和需求数据版本一致，且处理资源满足预设条件时，task2的任务切片才可以调度运行。每一个任务切片的初始需求数据版本一样。

taskmaster1在task1的任一个任务切片运行结束之后，即通知taskmaster2获取生成的运行数据。

taskmaster2将获取的运行数据分配给第二任务的每一个任务。

如果task2的某一个任务切片，假设R1的需求数据版本与task1的某一个任务切片，假设M1的运行数据版本不匹配，则task2的R1处于等待处理M1的运行数据的状态。

同时taskmaster2可以向taskmaster1的请求获取其需求版本的数据，taskmaster1可以在taskmaster2请求的需求版本数据高于该运行数据版本时，调度task1的该任务切片M1重新运行。

重新运行结束之后，taskmaster1可以通知taskmaster2获取M1重新运行生成的数据，taskmaster2接收到taskmaster1的通知之后，获取M1重新运行生成的数据，并将M1重新运行生成的数据分配给R1。

在R1的需求数据版本与M1的运行数据版本匹配时，R1即开始运行，处理M1的运行数据。

如果需求版本的数据低于运行数据的版本，任务切片M1将不能被调度运行。

如果task2的某一个任务切片，假设R2的处理资源未满足预设条件，则R2继续等待，直至其计算节点的处理资源满足预设条件时，且其需求数据版本与接收到的task1的任务切片，假设与M2的运行数据匹配，则即可以运行，处理M2的运行数据。

在task2的任务切片运行，处理task1的任务切片的运行数据时，有可能读取运行数据失败，导致数据处理失败，假设R1读取M1的运行数据失败，则taskmaster2可以请求taskmaster1调度M1重新运行。

由于M1每运行一次只能生成高版本的数据，因此可以通过提高需求数据版本的方式，请求taskmaster1调度M1重新运行，taskmaster1在taskmaster2的需求数据版本高于其运行数据版本时，则可以触发M1重新运行。

如图1中所示，本申请实施例还提供了一种分布式系统，该分布式系统包括一中心节点101、与所述中心节点101连接的多个控制节点102以及每一个控制节点连接的多个计算节点103；

所述中心节点101，用于为各个控制节点分配所述作业的任务，每一控制节点调度所述作业的其中一个任务。

所述计算节点103，用于运行与其连接的控制节点分配的任务切片；

控制节点103中的第一控制节点，用于在为其分配的第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

控制节点103中的第二控制节点，用于获取第一控制节点中所述第一任务的至少一个任务切片运行生成的运行数据，并分配给所述第二任务的每一个任务切片；调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

第一控制节点以及第二控制节点不同，可以是多个控制节点中的任意两个控制节点，由中心节点分配，分别调度第一任务和第二任务。

通过本申请实施例的分布式系统，通过控制节点，实现了作业中任务的调度，无需中心节点进行统一调度，中心节点只负责任务的分配，从而减轻了中心节点的调度压力，可以提高调度效率。在进行作业调度时，在作业中的第一任务的至少一个任务切片运行结束之后，第一控制节点会通知第二控制节点，第二控制节点即可以调度第二任务的任务切片运行，对运行数据进行处理，无需等待第一任务的全部任务切片运行结束，第二任务的任务切片即可以调度运行进行数据处理，充分利用了集群资源，避免了资源的浪费。

作为又一个实施例，所述第二控制节点调度所述第二任务的每一个任务切片运行，处理所述运行数据可以具体是：

调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

如果第一任务的所述至少一个任务切片的运行数据版本，与第二任务的任一个任务切片的需求数据版本不匹配时，则本申请实施例中，第二控制节点还可以请求第一控制节点，调度第一任务中，所述运行数据版本对应的任务切片重新运行。因此，作为又一个实施例，所述第二控制节点还用于：

在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；获取所述第一控制节点重新生成的运行数据，在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配。

所述第一控制节点还用于：

接收到所述第二控制节点的请求时，调度所述第一任务中所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据。

通过需求数据版本与运行数据版本的判断，使得进一步提高了任务切片运行的成功率。且在第二任务中任务切片的需求数据版本与运行数据版本不匹配时，还可以调度第一任务的任务切片重新运行，直至获得与需求数据版本匹配的运行数据版本，进一步的提高数据处理成功率。避免了现有技术中，一个任务全部任务切片运行结束之后，才能调度下一个任务的任务切片运行，一旦任务切片的运行数据出错，后继任务运行起来之后就会因输入数据错误导致失败的问题。

由于在调度第二任务的任务切片运行时，第二任务中任一任务切片，处理运行数据时，有可能会失败，比如无法成功读取运行数据，因此，作为又一个实施例，所述第二控制节点还用于：

在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；获取重新生成的运行数据版本，并调度所述第二任务的任务切片运行，处理所述重新运行生成的数据版本；

所述第一控制节点还用于：

接收到所述第二控制节点的请求时，调度所述第一任务中所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据。

另外，第二控制节点请求第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，可以是通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

也即第二控制节点提高需求数据版本，并在发送至第一控制节点的请求中携带该提高的需求数据版本。从而第一控制节点在请求中的需求数据版本高于其当前运行数据版本时，触发任务切片重新运行。

在数据处理失败，通过调度任务切片重新运行，提高了资源利用率的同时，还提高了作业失败自修复能力。

本申请实施例还提供了一种作业调度装置，如图7所示，为该作业调度装置的结构示意图，该装置具体应用于图1所示的分布式系统中的控制节点中。

该装置可以包括：

通知模块701，用于在调度的第一任务的至少一个任务切片运行结束时，通知调度第二任务的控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；以便于所述调度第二任务的控制节点将获取的所述运行数据，分配给所述第二任务的每一个任务切片；调度所述第二任务的每一个任务切片运行，处理所述运行数据；

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

图8示出了本申请实施例提供的一种作业调度装置另一个实施例的结构示意图，该装置具体应用于图1所示的分布式系统中的控制节点中，

该装置可以包括：

获取模块801，用于接收到调度第一任务的控制节点的通知时，获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述通知为所述调度第一任务的控制节点在所述第一任务的至少一个任务切片运行结束之后发送的；所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

分配模块802，用于将获取的所述第一任务的至少一个任务切片生成的运行数据，分配给所述第二任务的每一个任务切片；

调度模块803，用于调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

其中，所述调度模块803具体是用于调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

如图9所示，作为又一个实施例，在图8所示的作业调度装置中，该装置还可以包括：

第一请求模块901，用于在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，请求所述调度第一任务的控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；

则所述获取模块801还用于获取所述第一任务中所述运行数据版本对应的任务切片重新生成的运行数据版本；

则所述分配模块802，还用于将获取的重新生成的运行数据版本发送至所述第二任务的第一任务切片。

则所述调度模块803还用于在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配。

如图10所示，作为又一个实施例，在图8所示的作业调度装置中，该装置还可以包括：

第二请求模块1001，用于在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；

所述获取模块801，还用于获取所述第一任务中，所述运行数据版本对应的任务切片重新生成的运行数据版本。

所述分配模块802，还用于将重新生成的运行数据版本分配至所述第二任务的第二任务切片。

所述调度模块803还用于调度所述第二任务的第二任务切片运行，处理所述重新运行的数据版本。

如在说明书及权利要求当中使用了某些词汇来指称特定组件。本领域技术人员应可理解，硬件制造商可能会用不同名词来称呼同一个组件。本说明书及权利要求并不以名称的差异来作为区分组件的方式，而是以组件在功能上的差异来作为区分的准则。如在通篇说明书及权利要求当中所提及的“包含”为一开放式用语，故应解释成“包含但不限定于”。“大致”是指在可接收的误差范围内，本领域技术人员能够在一定误差范围内解决所述技术问题，基本达到所述技术效果。此外，“耦接”一词在此包含任何直接及间接的电性耦接手段。因此，若文中描述一第一装置耦接于一第二装置，则代表所述第一装置可直接电性耦接于所述第二装置，或通过其他装置或耦接手段间接地电性耦接至所述第二装置。说明书后续描述为实施本申请的较佳实施方式，然所述描述乃以说明本申请的一般原则为目的，并非用以限定本申请的范围。本申请的保护范围当视所附权利要求所界定者为准。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的商品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种商品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个......”限定的要素，并不排除在包括所述要素的商品或者系统中还存在另外的相同要素。

上述说明示出并描述了本申请的若干优选实施例，但如前所述，应当理解本申请并非局限于本文所披露的形式，不应看作是对其他实施例的排除，而可用于各种其他组合、修改和环境，并能够在本文所述申请构想范围内，通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本申请的精神和范围，则都应在本申请所附权利要求的保护范围内。

Claims (12)

1.一种作业调度方法，其特征在于，应用于分布式系统中，所述分布式系统至少包括一中心节点、与所述中心节点连接的多个控制节点以及每一控制节点分别连接的多个计算节点；所述中心节点为各个控制节点分配所述作业的任务；所述控制节点调度为其分配的任务的各个任务切片在与其连接的计算节点中运行，所述方法包括：

调度第一任务的第一控制节点在所述第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据；其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

所述第二控制节点获取所述第一任务的至少一个任务切片生成的运行数据，并分配给所述第二任务的每一个任务切片；

所述第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

2.如权利要求1所述的方法，其特征在于，所述第二控制节点调度所述第二任务的至少一个任务切片运行，处理所述运行数据包括：

调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

3.如权利要求1或2所述的方法，其特征在于，在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，所述方法还包括：

所述第二控制节点请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；

所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，并在重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据；

所述第二控制节点获取所述重新生成的运行数据，并在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配。

4.如权利要求1或2所述的方法，其特征在于，所述第二控制节点调度所述第二任务的任一任务切片运行，处理所述运行数据之后，所述方法还包括：

所述第二控制节点在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；

所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；并在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取重新生成的运行数据；

所述第二控制节点获取所述重新生成的运行数据，并调度所述第二任务的所述第二任务切片运行，处理所述重新生成的运行数据。

5.如权利要求4所述的方法，其特征在于，所述第二控制节点请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行包括：

所述第二控制节点通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

6.一种分布式系统，其特征在于，包括一中心节点、与所述中心节点连接的多个控制节点以及每一个控制节点连接的多个计算节点；

所述中心节点，用于为各个控制节点分配作业的任务；

所述计算节点，用于运行与其连接的控制节点分配的任务切片；

所述控制节点中的第一控制节点，用于在为其分配的第一任务的至少一个任务切片运行结束时，通知调度第二任务的第二控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

所述第二控制节点，用于获取所述第一任务的至少一个任务切片运行生成的运行数据，并分配给所述第二任务的每一个任务切片；调度所述第二任务的至少一个任务切片运行，处理所述运行数据。

7.如权利要求6所述的系统，其特征在于，所述第二控制节点调度所述第二任务的每一个任务切片运行，处理所述运行数据包括：

调度所述第二任务中，需求数据版本与所述运行数据版本匹配的任务切片运行，处理所述运行数据。

8.如权利要求6或7所述的系统，其特征在于，所述第二控制节点还用于：

在所述第二任务中的第一任务切片的需求数据版本与所述运行数据不匹配时，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行；获取所述第一控制节点重新生成的运行数据版本，并在所述重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配时，调度所述第一任务切片运行；否则请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行，直至重新生成的运行数据版本与所述第一任务切片的需求数据版本匹配；

所述第一控制节点还用于接收到所述第二控制节点的请求时，调度所述第一任务中所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取重新生成的运行数据。

9.如权利要求6或7所述的系统，其特征在于，所述第二控制节点还用于：在所述第二任务中的第二任务切片处理所述运行数据失败时，请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；获取重新生成的运行数据版本，并调度所述第二任务的任务切片运行，处理所述重新运行的数据版本；

所述第一控制节点，还用于接收到所述第二控制节点的请求时，调度所述第一任务中，所述运行数据版本对应的任务切片重新运行；在所述第一任务中所述运行数据版本对应的任务切片重新运行结束之后，通知所述第二控制节点获取所述重新生成的运行数据。

10.如权利要求9所述的系统，其特征在于，所述第二控制节点请求所述第一控制节点调度所述第一任务中，所述运行数据版本对应的任务切片重新运行具体是：

通过提高需求数据版本，请求所述第一控制节点调度所述第一任务中所述运行数据版本对应的任务切片重新运行。

11.一种作业调度装置，其特征在于，应用于分布式系统的控制节点中，所述分布式系统至少包括中心节点、与中心节点连接的多个控制节点以及每一个控制节点分别连接的多个计算节点；所述控制节点获取所述中心节点分配的所述作业的一任务，并调度所述任务的各个任务切片在与其连接的计算节点中运行，所述装置包括：

通知模块，用于在第一任务的至少一个任务切片运行结束时，通知调度第二任务的控制节点获取所述第一任务的至少一个任务切片运行生成的运行数据；以便于所述调度第二任务的控制节点将获取的所述运行数据，分配给所述第二任务的每一个任务切片；调度所述第二任务的每一个任务切片运行，处理所述运行数据；

其中，所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务。

12.一种作业调度装置，其特征在于，应用于分布式系统的控制节点中，所述分布式系统至少包括中心节点、与中心节点连接的多个控制节点以及每一个控制节点分别连接的多个计算节点；所述控制节点获取所述中心节点分配的所述作业的一任务，并调度所述任务的各个任务切片在与其连接的计算节点中运行，所述装置包括：

获取模块，用于接收到调度第一任务的控制节点的通知时，获取所述第一任务的至少一个任务切片运行生成的运行数据；其中，所述通知为所述调度第一任务的控制节点在所述第一任务的至少一个任务切片运行结束之后发送的；所述第一任务为所述作业中任一运行的任务；所述第二任务为所述作业中依赖所述第一任务的任一任务；

分配模块，用于将获取的所述第一任务的至少一个任务切片生成的运行数据，分配给所述第二任务的每一个任务切片；

调度模块，用于调度所述第二任务的至少一个任务切片运行，处理所述运行数据。