CN116578380B - 一种数据采集工具的集群任务调度方法、设备及介质 - Google Patents

Abstract

本说明书实施例公开了一种数据采集工具的集群任务调度方法、设备及介质，涉及集群任务技术领域，方法包括：通过任务调度器对预先设置的待启动任务池进行扫描，拉取待启动任务池中的至少一个指定启动任务，并将至少一个指定启动任务添加至预设的任务执行池中；在集群对应的多个任务节点中，确定出对应的任务执行节点，并在任务执行池中更新执行指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于执行任务池和待启动任务池，判断每个指定启动任务是否为可执行任务；通过每个任务执行节点的任务执行器执行每个指定启动任务，生成任务执行结果，对每个指定启动任务进行状态更新，以便于后续调用。

Description

一种数据采集工具的集群任务调度方法、设备及介质

技术领域

本说明书涉及集群任务技术领域，尤其涉及一种数据采集工具的集群任务调度方法、设备及介质。

背景技术

随着互联网技术的发展，数据采集工具的使用越来越普遍，数据采集工具依托于可视化任务调度系统，提供简单易用的操作界面，降低用户学习成本，缩短任务配置时间，避免配置过程中出错。

例如，基于kettle的轻量级采集工具，上述数据采集工具对接webSpoon，支持在线编辑kettle脚本，通过数据整合功能，可同步资源库中已有的脚本，用户在创建完脚本之后，可通过系统任务管理，创建数据同步任务，监控任务运行情况。但采集工具部署仅可以单节点运行，当数据采集任务较多时，若该节点出现宕机，将会出现无法正常执行数据采集任务的情况，此外，由于单节点运行的负载有限，容易出现任务挤压等处理不及时的问题。因此，在数据采集任务较多的情况下，现有的采集工具的单点运行方式无法满足数据采集任务的执行需求，导致数据采集稳定性较差且采集效率较低。

发明内容

本说明书一个或多个实施例提供了一种数据采集工具的集群任务调度方法、设备及介质，用于解决如下技术问题：在数据采集任务较多的情况下，现有的采集工具的单点运行方式无法满足数据采集任务的执行需求，导致数据采集稳定性较差且采集效率较低。

本说明书一个或多个实施例采用下述技术方案：

本说明书一个或多个实施例提供一种数据采集工具的集群任务调度方法，所述方法包括：通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；在集群对应的多个任务节点中，将每个所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务；当每个所述指定启动任务为可执行任务时，通过每个所述任务执行节点的任务执行器执行每个所述指定启动任务，生成任务执行结果；根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对每个所述指定启动任务进行状态更新，以便于后续调用。

进一步地，通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务之前，所述方法还包括：获取所述数据采集工具对应的数据采集请求；基于所述数据采集请求，构建所述数据采集请求对应的待启动任务池，其中，所述待启动任务池包括每个所述待启动任务的下次执行时间，且每个所述待启动任务的初始任务状态均为待触发状态；将所述待启动任务池存储至集群对应的多个任务节点中。

进一步地，通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，具体包括：通过任务调度器，对所述待启动任务池进行扫描，获取每个所述待启动任务的下次执行时间和当前扫描时间；基于所述当前扫描时间，确定待拉取时间窗口；根据每个所述待启动任务的下次执行时间和所述待拉取时间窗口，拉取所述待启动任务池中的至少一个指定启动任务，其中，所述指定启动任务的下次执行时间在所述待拉取时间窗口内；在所述待启动任务池中，将所述至少一个指定启动任务的任务状态，由所述待触发状态更新为准备状态。

进一步地，在集群对应的多个任务节点中，将每个所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，具体包括：确定所述集群对应的每个所述任务节点的节点负载数据；基于预设的负载均衡算法和每个所述任务节点的节点负载数据，在多个所述任务节点中，确定出符合要求的任务执行节点；通过所述任务执行节点，对所述指定启动任务进行执行。

进一步地，基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务，具体包括：确定所述指定启动任务的任务标识；根据所述指定启动任务的任务标识，在所述待启动任务池中进行任务查找，确定出所述指定启动任务的当前任务状态；基于所述指定启动任务的任务标识，在所述执行任务池中进行任务查找，判断执行任务池中是否存在所述指定启动任务；当所述指定启动任务的当前任务状态为准备状态，且所述执行任务池中不存在所述指定启动任务时，判定所述指定启动任务为可执行任务。

进一步地，当每个所述指定启动任务为可执行任务时，通过每个所述任务执行节点的任务执行器执行每个所述指定启动任务，具体包括：在判定所述指定启动任务为可执行任务的触发下，在所述待启动任务池中，将所述指定启动任务的任务状态设置为执行状态；在所述任务执行器对所述指定启动任务执行完成的触发下，获取所述指定启动任务的任务执行类型，其中，所述任务执行类型包括增量执行类型和单次执行类型；基于所述指定启动任务的任务执行类型，在所述待启动任务池中设置所述指定启动任务的下次执行时间，其中，所述下次执行时间包括具体时刻和空值中的任意一项；当所述指定启动任务的下次执行时间为具体时刻时，在所述待启动任务池中，将所述指定启动任务的任务状态由所述执行状态，更新为待触发状态；当所述指定启动任务的下次执行时间为空值时，在所述待启动任务池中，将所述指定启动任务的任务状态由所述执行状态，更新为完成状态。

进一步地，根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对每个所述指定启动任务进行状态更新，具体包括：确定所述任务执行结果的结果类型，其中，所述结果类型包括异常执行结果和正常执行结果中的任意一项；当所述任务执行结果的结果类型为异常执行结果时，将所述指定启动任务在所述任务执行池中进行剔除，并将所述待启动任务池中所述指定启动任务的任务状态设置为错误状态；当所述任务执行结果的结果类型为正常执行结果时，将所述待启动任务池中所述指定启动任务的任务状态进行状态更新，并设置每个所述指定启动任务的下次执行时间。

进一步地，基于所述指定启动任务的任务执行类型，在所述待启动任务池中设置所述指定启动任务的下次执行时间，具体包括：当所述任务执行类型为增量执行类型时，获取当前执行时间和任务执行周期；基于所述当前执行时间和所述任务执行周期，生成下次执行时间，以便于在所述待启动任务池中设置所述指定启动任务的下次执行时间；当所述任务执行类型为单次执行时，在所述待启动任务池中，将所述指定启动任务的下次执行时间设置为空值。

本说明书一个或多个实施例提供一种数据采集工具的集群任务调度设备，包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；在集群对应的多个任务节点中，将所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断所述指定启动任务是否为可执行任务；当所述指定启动任务为可执行任务时，通过任务执行器执行所述指定启动任务，生成任务执行结果；根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对所述指定启动任务进行状态更新，以便于后续调用。

本说明书一个或多个实施例提供的一种非易失性计算机存储介质，存储有计算机可执行指令，所述计算机可执行指令设置为：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；在集群对应的多个任务节点中，将所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断所述指定启动任务是否为可执行任务；当所述指定启动任务为可执行任务时，通过任务执行器执行所述指定启动任务，生成任务执行结果；根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对所述指定启动任务进行状态更新，以便于后续调用。

本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果：通过上述技术方案，通过设置待启动任务池存储多个启动任务，并设置每个启动任务的任务状态，将需要执行的任务拉取后，添加至任务执行池中；为每个指定启动任务分配任务执行节点，并实时在待启动任务池中更新每个指定启动任务的任务状态；可以在多个节点进行调度并执行，即使一个任务节点宕机，其他节点可以通过任务执行池，正常执行数据采集任务，提高了数据采集工具的稳定性，此外，在数据量较大时，通过多个任务节点处理任务，避免了任务积压，提高了数据采集效率。

附图说明

为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1为本说明书实施例提供的一种数据采集工具的集群任务调度方法的流程示意图；

图2为本说明书实施例提供的一种数据采集工具的集群任务调度设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

随着互联网技术的发展，数据采集工具的使用越来越普遍，数据采集工具依托于可视化任务调度系统，提供简单易用的操作界面，降低用户学习成本，缩短任务配置时间，避免配置过程中出错。

例如，基于kettle的轻量级采集工具，上述数据采集工具对接webSpoon，支持在线编辑kettle脚本，通过数据整合功能，可同步资源库中已有的脚本，用户在创建完脚本之后，可通过系统任务管理，创建数据同步任务，监控任务运行情况。但采集工具部署仅可以单节点运行，当数据采集任务较多时，若该节点出现宕机，将会出现无法正常执行数据采集任务的情况，此外，由于单节点运行的负载有限，容易出现任务挤压等处理不及时的问题。因此，在数据采集任务较多的情况下，现有的采集工具的单点运行方式无法满足数据采集任务的执行需求，导致数据采集稳定性较差且采集效率较低。

本说明书实施例提供一种数据采集工具的集群任务调度方法，需要说明的是，本说明书实施例中的执行主体可以是服务器，也可以是任意一种具备数据处理能力的设备。图1为本说明书实施例提供的一种数据采集工具的集群任务调度方法的流程示意图，需要说明的是，本说明书实施例提供的方法基于Quartz框架，实现数据采集工具的水平扩展，Quartz是优秀的开源的任务调度框架，它提供了强大任务调度机制。Quartz允许开发人员定义触发器的调度时间表，并提供了触发器和任务之间的关联映射。此外，Quartz提供了调度运行环境的持久化机制，可以保存并恢复调度现场，即使系统因故障关闭，任务调度现场数据并不会丢失。如图1所示，方法主要包括如下步骤：

步骤S101，通过任务调度器对预先设置的待启动任务池进行扫描，拉取待启动任务池中的至少一个指定启动任务，并将至少一个指定启动任务添加至预设的任务执行池中。

其中，该待启动任务池包括多个待启动任务以及每个待启动任务的任务状态。

通过任务调度器对预先设置的待启动任务池进行扫描，拉取该待启动任务池中的至少一个指定启动任务之前，该方法还包括：获取该数据采集工具对应的数据采集请求；基于该数据采集请求，构建该数据采集请求对应的待启动任务池，其中，该待启动任务池包括每个该待启动任务的下次执行时间，且每个该待启动任务的初始任务状态均为待触发状态；将该待启动任务池存储至集群对应的多个任务节点中。

在本说明书的一个实施例中，获取数据采集工具对应的数据采集请求，数据采集请求对应多个采集任务，也就是待启动任务。根据数据采集请求对应的多个待启动任务，构建数据采集请求对应的待启动任务池，并将待启动任务池存储至集群对应的多个任务节点中。在构建待启动任务池时，待启动任务池中包括多个待启动任务、每个待启动任务的任务状态以及任务属性，此处的任务属性包括任务标识、上次执行时间以及下次执行时间等任务属性信息。需要说明的是，每个待启动任务的任务状态的初始任务状态均为待触发状态。首先，新建待启动任务池，设置任务的初始状态是待触发状态，也就是说，处于待触发状态的任务等待被触发。当任务被调度线程拉取到时，任务的任务状态就会变为准备执行状态，也可称为准备状态。在任务执行时刻，将任务状态由准备状态改为执行状态。如果这个任务不再执行，就将状态改为完成状态，相反地，若需要再次执行，则将任务状态更新为待触发状态，开始新的周期。

通过任务调度器对预先设置的待启动任务池进行扫描，拉取该待启动任务池中的至少一个指定启动任务，具体包括：通过任务调度器，对该待启动任务池进行扫描，获取每个该待启动任务的下次执行时间和当前扫描时间；基于该当前扫描时间，确定待拉取时间窗口；根据每个该待启动任务的下次执行时间和该待拉取时间窗口，拉取该待启动任务池中的至少一个指定启动任务，其中，该指定启动任务的下次执行时间在该待拉取时间窗口内；在该待启动任务池中，将该至少一个指定启动任务的任务状态，由该待触发状态更新为准备状态。

在本说明书的一个实施例中，通过任务调度器，扫描待启动任务池，获取当前时刻和待启动任务池中存储的每个待启动任务的下次执行时间。通过当前扫描时间对应的当前时刻，确定待拉取时间窗口，也就是距离现在一定时间内的时间窗口，根据每个待启动任务的下次执行时间和待拉取时间窗口，拉取待启动任务池中下次执行之间位于该待拉取时间窗口内的至少一个指定启动任务，此处得到的指定启动任务为即将触发执行的任务。拉取到即将启动的指定启动任务之后，在待启动任务池中，将每个指定启动任务的任务状态，由待触发状态更新为准备状态。

步骤S102，在集群对应的多个任务节点中，将每个指定启动任务进行节点分配，确定出每个指定启动任务对应的任务执行节点，并在任务执行池中更新执行每个指定启动任务的任务执行节点的节点信息。

在集群对应的多个任务节点中，将每个该指定启动任务进行节点分配，确定出每个该指定启动任务对应的任务执行节点，具体包括：确定该集群对应的每个该任务节点的节点负载数据；基于预设的负载均衡算法和每个该任务节点的节点负载数据，在多个该任务节点中，确定出符合要求的任务执行节点；通过该任务执行节点，对该指定启动任务进行执行。

在本说明书的一个实施例中，在确定出指定启动任务后，需要分配处理该指定启动任务的任务执行节点。可以通过轮询的方式对每个指定启动任务分配任务执行节点，也可以通过负载均衡的方式确定出每个指定启动任务。确定集群对应的每个任务节点的节点负载数据。通过预设的负载均衡算法和每个任务节点的节点负载数据，在多个该任务节点中，确定出符合要求的任务执行节点，以便于通过该任务执行节点，对该指定启动任务进行执行。需要说明的是，此处的负载均衡算法可以是现有的负载均衡算法实现，也可以根据需求和实际的任务节点的处理状态，选择出符合要求的任务执行节点，此处符合要求可以是处理速度最快，也可以是最优先处理到当前任务的节点，本说明书实施例在此不做具体限定。

步骤S103，获取集群对应的多个任务节点的执行任务池，以基于执行任务池和待启动任务池，判断每个指定启动任务是否为可执行任务。

在本说明书的一个实施例中，在确定出待执行的指定启动任务时，将该指定启动任务添加到执行任务池中，以便于按照执行任务池执行对应的任务。当每个任务执行节点执行每个指定启动任务时，获取该集群对应的多个任务节点的执行任务池，此处的执行任务池中可以包括每个任务节点的待执行任务。

基于该执行任务池和该待启动任务池，判断该指定启动任务是否为可执行任务，具体包括：确定该指定启动任务的任务标识；根据该指定启动任务的任务标识，在该待启动任务池中进行任务查找，确定出该指定启动任务的当前任务状态；基于该指定启动任务的任务标识，在该执行任务池中进行任务查找，判断执行任务池中是否存在该指定启动任务；当该指定启动任务的当前任务状态为准备状态，且该执行任务池中不存在该指定启动任务时，判定该指定启动任务为可执行任务。

在本说明书的一个实施例中，为避免出现多个任务执行节点同时处理一个指定启动任务，浪费计算资源，需要在任务指定节点之前，对每个指定启动任务进行确认，判断是否为可执行的任务。首先，确定指定启动任务的任务标识。根据指定启动任务的任务标识，在待启动任务池中进行任务查找，确定出指定启动任务的当前任务状态。根据指定启动任务的任务标识，在执行任务池中进行任务查找，判断执行任务池中是否存在该指定启动任务，也就是判断是否在正在执行的任务池中。当指定启动任务的当前任务状态为准备状态，且执行任务池中不存在指定启动任务时，判定指定启动任务为可执行任务。

步骤S104，当每个指定启动任务为可执行任务时，通过每个任务执行节点的任务执行器执行每个指定启动任务，生成任务执行结果。

当该指定启动任务为可执行任务时，通过每个该任务执行节点的任务执行器执行每个该指定启动任务，具体包括：在判定该指定启动任务为可执行任务的触发下，在该待启动任务池中，将该指定启动任务的任务状态设置为执行状态；在该任务执行器对该指定启动任务执行完成的触发下，获取该指定启动任务的任务执行类型，其中，该任务执行类型包括增量执行类型和单次执行类型；基于该指定启动任务的任务执行类型，在该待启动任务池中设置该指定启动任务的下次执行时间，其中，该下次执行时间包括具体时刻和空值中的任意一项；当该指定启动任务的下次执行时间为具体时刻时，在该待启动任务池中，将该指定启动任务的任务状态由该执行状态，更新为待触发状态；当该指定启动任务的下次执行时间为空值时，在该待启动任务池中，将该指定启动任务的任务状态由该执行状态，更新为完成状态。

在本说明书的一个实施例中，在判定指定启动任务为可执行任务的触发下，也就是指定启动任务为可执行任务，可以进行任务执行操作，在待启动任务池中将指定启动任务的任务状态更新为执行状态。当任务执行器对该指定启动任务执行完成后，根据指定启动任务的任务执行类型，在待启动任务池中对指定启动任务的任务状态进行更新。

在本说明书的一个实施例中，任务执行类型包括增量执行类型和单次执行类型，增量执行类型是指该任务需要每隔一段时间采集一次，例如当需要采集某天的降水总量时，需要每隔一段时间采集一次降水数据；单次执行任务是指仅需采集一次的采集任务。根据指定启动任务的任务执行类型，在待启动任务池中设置指定启动任务的下次执行时间，下次执行时间可以是具体时刻，也可以是空值。

基于该指定启动任务的任务执行类型，在该待启动任务池中设置该指定启动任务的下次执行时间，具体包括：当该任务执行类型为增量执行类型时，获取当前执行时间和任务执行周期；基于该当前执行时间和该任务执行周期，生成下次执行时间，以便于在该待启动任务池中设置该指定启动任务的下次执行时间；当该任务执行类型为单次执行时，在该待启动任务池中，将该指定启动任务的下次执行时间设置为空值。

在本说明书的一个实施例中，当任务执行类型为增量执行类型时，获取当前执行时间和任务执行周期，此处的任务执行周期可以是十分钟执行一次，可以是任意周期内执行一次。根据当前执行时间和任务执行周期，生成下次执行时间，以便于在该待启动任务池中设置该指定启动任务的下次执行时间。例如，当前时刻为10：00，某任务的任务执行周期为一分钟调用一次，则将下次执行时间设置为10：01。当任务执行类型为单次执行时，说明只需要采集一次，执行一次任务即可，因此在待启动任务池中，将指定启动任务的下次执行时间设置为空值。

在本说明书的一个实施例中，当指定启动任务的下次执行时间为具体时刻时，在待启动任务池中，将指定启动任务的任务状态由该执行状态，更新为待触发状态，也就是等待下一周期进行任务调用和执行。当该指定启动任务的下次执行时间为空值时，需要说明的是，在任务执行完成后，若该任务的下次执行时间为空值，说明这个任务不再触发，则将该指定启动任务的任务状态由该执行状态，更新为完成状态。

步骤S105，根据任务执行结果，在待启动任务池和任务执行池中，对每个指定启动任务进行状态更新，以便于后续调用。

根据该任务执行结果，在该待启动任务池和该任务执行池中，对每个该指定启动任务进行状态更新，具体包括：确定该任务执行结果的结果类型，其中，该结果类型包括异常执行结果和正常执行结果中的任意一项；当该任务执行结果的结果类型为异常执行时，将该指定启动任务在该任务执行池中进行剔除，并将该待启动任务池中该指定启动任务的任务状态设置为错误状态；当该任务执行结果的结果类型为正常执行时，将该待启动任务池中该指定启动任务的任务状态进行状态更新，并设置每个该指定启动任务的下次执行时间。

在本说明书的一个实施例中，在任务执行的过程中存在两种执行结果，一种是正常执行结果，另一种是异常抛出等异常执行结果。当任务执行结果的结果类型为异常执行结果时，将指定启动任务在任务执行池中进行剔除，表示当前执行周期内不再执行已经执行完成的抛出异常的任务，并将该待启动任务池中该指定启动任务的任务状态设置为错误状态，需要说明的是，错误状态的任务不再进行后续调度、执行。当该任务执行结果的结果类型为正常执行结果时，将任务放入工作线程池，并将待启动任务池中指定启动任务的任务状态进行状态更新，并设置每个指定启动任务的下次执行时间。

在本说明书的一个实施例中，集群启动之后，会将所有启动实例插入到运行实例表中，并设置最新监测时间信息。集群默认每5秒执行一次状态监测，当集群的一个节点的实例执行检查失败，会将该实例从实例表中删除，如果监测状态正常，则更新监测时间信息。需要说明的是，此处的实例对应一个任务节点。

在本说明书的一个实施例中，在任务执行的过程中，通过调用kettleAPI接口，获取任务的读写数据量信息，并将该读写数据量信息固化到数据表中，方便统计数据采集总量信息。

通过上述技术方案，通过设置待启动任务池存储多个启动任务，并设置每个启动任务的任务状态，将需要执行的任务拉取后，添加至任务执行池中；为每个指定启动任务分配任务执行节点，并实时在待启动任务池中更新每个指定启动任务的任务状态；可以在多个节点进行调度并执行，即使一个任务节点宕机，其他节点可以通过任务执行池，正常执行数据采集任务，提高了数据采集工具的稳定性，此外，在数据量较大时，通过多个任务节点处理任务，避免了任务积压，提高了数据采集效率。

本说明书实施例还提供一种数据采集工具的集群任务调度设备，如图2所示，设备包括：至少一个处理器；以及，与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取该待启动任务池中的至少一个指定启动任务，并将该至少一个指定启动任务添加至预设的任务执行池中，其中，该待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；在集群对应的多个任务节点中，将每个该指定启动任务进行节点分配，确定出每个该指定启动任务对应的任务执行节点，并在该任务执行池中更新执行该指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于该执行任务池和该待启动任务池，判断每个该指定启动任务是否为可执行任务；当每个该指定启动任务为可执行任务时，通过每个该任务执行节点的任务执行器执行每个该指定启动任务，生成任务执行结果；根据该任务执行结果，在该待启动任务池和该任务执行池中，对每个该指定启动任务进行状态更新，以便于后续调用。

本说明书实施例还提供一种非易失性计算机存储介质，存储有计算机可执行指令，计算机可执行指令设置为：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取该待启动任务池中的至少一个指定启动任务，并将该至少一个指定启动任务添加至预设的任务执行池中，其中，该待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；在集群对应的多个任务节点中，将每个该指定启动任务进行节点分配，确定出每个该指定启动任务对应的任务执行节点，并在该任务执行池中更新执行该指定启动任务的任务执行节点的节点信息；获取集群对应的多个任务节点的执行任务池，以基于该执行任务池和该待启动任务池，判断每个该指定启动任务是否为可执行任务；当每个该指定启动任务为可执行任务时，通过每个该任务执行节点的任务执行器执行每个该指定启动任务，生成任务执行结果；根据该任务执行结果，在该待启动任务池和该任务执行池中，对每个该指定启动任务进行状态更新，以便于后续调用。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、设备、非易失性计算机存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

本说明书实施例提供的设备和介质与方法是一一对应的，因此，设备和介质也具有与其对应的方法类似的有益技术效果，由于上面已经对方法的有益技术效果进行了详细说明，因此，这里不再赘述设备和介质的有益技术效果。

本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上所述仅为本说明书的一个或多个实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书的一个或多个实施例可以有各种更改和变化。凡在本说明书的一个或多个实施例的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (9)

1.一种数据采集工具的集群任务调度方法，其特征在于，所述方法包括：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；

在集群对应的多个任务节点中，将每个所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；

获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务；

当每个所述指定启动任务为可执行任务时，通过每个所述任务执行节点的任务执行器执行每个所述指定启动任务，生成任务执行结果；

根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对每个所述指定启动任务进行状态更新，以便于后续调用；

基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务，具体包括：

确定所述指定启动任务的任务标识；

根据所述指定启动任务的任务标识，在所述待启动任务池中进行任务查找，确定出所述指定启动任务的当前任务状态；

基于所述指定启动任务的任务标识，在所述执行任务池中进行任务查找，判断执行任务池中是否存在所述指定启动任务；

当所述指定启动任务的当前任务状态为准备状态，且所述执行任务池中不存在所述指定启动任务时，判定所述指定启动任务为可执行任务。

2.根据权利要求1所述的一种数据采集工具的集群任务调度方法，其特征在于，通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务之前，所述方法还包括：

获取所述数据采集工具对应的数据采集请求；

基于所述数据采集请求，构建所述数据采集请求对应的待启动任务池，其中，所述待启动任务池包括每个所述待启动任务的下次执行时间，且每个所述待启动任务的初始任务状态均为待触发状态；

将所述待启动任务池存储至集群对应的多个任务节点中。

3.根据权利要求2所述的一种数据采集工具的集群任务调度方法，其特征在于，通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，具体包括：

通过任务调度器，对所述待启动任务池进行扫描，获取每个所述待启动任务的下次执行时间和当前扫描时间；

基于所述当前扫描时间，确定待拉取时间窗口；

根据每个所述待启动任务的下次执行时间和所述待拉取时间窗口，拉取所述待启动任务池中的至少一个指定启动任务，其中，所述指定启动任务的下次执行时间在所述待拉取时间窗口内；

在所述待启动任务池中，将所述至少一个指定启动任务的任务状态，由所述待触发状态更新为准备状态。

4.根据权利要求1所述的一种数据采集工具的集群任务调度方法，其特征在于，在集群对应的多个任务节点中，将每个所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，具体包括：

确定所述集群对应的每个所述任务节点的节点负载数据；

基于预设的负载均衡算法和每个所述任务节点的节点负载数据，在多个所述任务节点中，确定出符合要求的任务执行节点；

通过所述任务执行节点，对所述指定启动任务进行执行。

5.根据权利要求1所述的一种数据采集工具的集群任务调度方法，其特征在于，当每个所述指定启动任务为可执行任务时，通过每个所述任务执行节点的任务执行器执行每个所述指定启动任务，具体包括：

在判定所述指定启动任务为可执行任务的触发下，在所述待启动任务池中，将所述指定启动任务的任务状态设置为执行状态；

在所述任务执行器对所述指定启动任务执行完成的触发下，获取所述指定启动任务的任务执行类型，其中，所述任务执行类型包括增量执行类型和单次执行类型；

基于所述指定启动任务的任务执行类型，在所述待启动任务池中设置所述指定启动任务的下次执行时间，其中，所述下次执行时间包括具体时刻和空值中的任意一项；

当所述指定启动任务的下次执行时间为具体时刻时，在所述待启动任务池中，将所述指定启动任务的任务状态由所述执行状态，更新为待触发状态；

当所述指定启动任务的下次执行时间为空值时，在所述待启动任务池中，将所述指定启动任务的任务状态由所述执行状态，更新为完成状态。

6.根据权利要求5所述的一种数据采集工具的集群任务调度方法，其特征在于，根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对每个所述指定启动任务进行状态更新，具体包括：

确定所述任务执行结果的结果类型，其中，所述结果类型包括异常执行结果和正常执行结果中的任意一项；

当所述任务执行结果的结果类型为异常执行结果时，将所述指定启动任务在所述任务执行池中进行剔除，并将所述待启动任务池中所述指定启动任务的任务状态设置为错误状态；

当所述任务执行结果的结果类型为正常执行结果时，将所述待启动任务池中所述指定启动任务的任务状态进行状态更新，并设置每个所述指定启动任务的下次执行时间。

7.根据权利要求5所述的一种数据采集工具的集群任务调度方法，其特征在于，基于所述指定启动任务的任务执行类型，在所述待启动任务池中设置所述指定启动任务的下次执行时间，具体包括：

当所述任务执行类型为增量执行类型时，获取当前执行时间和任务执行周期；

基于所述当前执行时间和所述任务执行周期，生成下次执行时间，以便于在所述待启动任务池中设置所述指定启动任务的下次执行时间；

当所述任务执行类型为单次执行时，在所述待启动任务池中，将所述指定启动任务的下次执行时间设置为空值。

8.一种数据采集工具的集群任务调度设备，其特征在于，所述设备包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；

在集群对应的多个任务节点中，将所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；

获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断所述指定启动任务是否为可执行任务；

当所述指定启动任务为可执行任务时，通过任务执行器执行所述指定启动任务，生成任务执行结果；

根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对所述指定启动任务进行状态更新，以便于后续调用；

基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务，具体包括：

确定所述指定启动任务的任务标识；

根据所述指定启动任务的任务标识，在所述待启动任务池中进行任务查找，确定出所述指定启动任务的当前任务状态；

基于所述指定启动任务的任务标识，在所述执行任务池中进行任务查找，判断执行任务池中是否存在所述指定启动任务；

当所述指定启动任务的当前任务状态为准备状态，且所述执行任务池中不存在所述指定启动任务时，判定所述指定启动任务为可执行任务。

9.一种非易失性计算机存储介质，存储有计算机可执行指令，其特征在于，所述计算机可执行指令设置为：

通过任务调度器对预先设置的待启动任务池进行扫描，拉取所述待启动任务池中的至少一个指定启动任务，并将所述至少一个指定启动任务添加至预设的任务执行池中，其中，所述待启动任务池包括多个待启动任务以及每个待启动任务的任务状态；

在集群对应的多个任务节点中，将所述指定启动任务进行节点分配，确定出每个所述指定启动任务对应的任务执行节点，并在所述任务执行池中更新执行所述指定启动任务的任务执行节点的节点信息；

获取集群对应的多个任务节点的执行任务池，以基于所述执行任务池和所述待启动任务池，判断所述指定启动任务是否为可执行任务；

当所述指定启动任务为可执行任务时，通过任务执行器执行所述指定启动任务，生成任务执行结果；

根据所述任务执行结果，在所述待启动任务池和所述任务执行池中，对所述指定启动任务进行状态更新，以便于后续调用；

基于所述执行任务池和所述待启动任务池，判断每个所述指定启动任务是否为可执行任务，具体包括：

确定所述指定启动任务的任务标识；

根据所述指定启动任务的任务标识，在所述待启动任务池中进行任务查找，确定出所述指定启动任务的当前任务状态；

基于所述指定启动任务的任务标识，在所述执行任务池中进行任务查找，判断执行任务池中是否存在所述指定启动任务；

当所述指定启动任务的当前任务状态为准备状态，且所述执行任务池中不存在所述指定启动任务时，判定所述指定启动任务为可执行任务。