CN113434279A - 一种任务执行方法、装置、设备及存储介质 - Google Patents

一种任务执行方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113434279A
CN113434279A CN202110795214.2A CN202110795214A CN113434279A CN 113434279 A CN113434279 A CN 113434279A CN 202110795214 A CN202110795214 A CN 202110795214A CN 113434279 A CN113434279 A CN 113434279A
Authority
CN
China
Prior art keywords
node
task
tasks
standby
message
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110795214.2A
Other languages
English (en)
Inventor
蒋毓晨
罗丛建
卢肖风
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Pudong Development Bank Co Ltd
Original Assignee
Shanghai Pudong Development Bank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Pudong Development Bank Co Ltd filed Critical Shanghai Pudong Development Bank Co Ltd
Priority to CN202110795214.2A priority Critical patent/CN113434279A/zh
Publication of CN113434279A publication Critical patent/CN113434279A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1415Saving, restoring, recovering or retrying at system level
    • G06F11/142Reconfiguring to eliminate the error
    • G06F11/1425Reconfiguring to eliminate the error by reconfiguration of node membership

Abstract

本发明公开了一种任务执行方法、装置、设备及存储介质。该方法包括:所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务,通过本发明的技术方案,能够将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。

Description

一种任务执行方法、装置、设备及存储介质
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种任务执行方法、装置、设备及存储介质。
背景技术
现有的定时调度框架quartz不支持任务编排和流程调度,不支持定义多任务间的执行顺序和串并关系,缺乏统一的任务流程编排模型,只能通过硬编码的方式固化任务执行流程模型,任务配置和调度程序高度耦合,具有较大的开发和维护成本。此外,框架quartz虽然支持分布式模式,但是单任务只能在单个节点运行,不支持将任务分片在多节点并行执行。
发明内容
本发明实施例提供一种任务执行方法、装置、设备及存储介质,以实现能够将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。
第一方面,本发明实施例提供了一种任务执行方法,应用于任务调度框架,所述任务调度框架包括:主节点,所述任务执行方法包括:
所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
进一步的,所述任务调度框架还包括:至少两个备用节点和消息节点;
相应的,在所述主节点根据配置文件生成至少一个任务流节点之前,还包括:
所述至少两个备用节点向所述消息节点发送获取分布式锁指令;
所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个目标备用节点;
所述消息节点将所述目标备用节点晋升为主节点。
进一步的,在将所述目标备用节点晋升为主节点之后,还包括:
若所述主节点故障下线,则所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个主节点。
进一步的,所述任务调度框架还包括:状态节点;
相应的,主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务包括:
主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务之后,得到任务流节点的执行结果;
将所述执行结果发送至所述状态节点。
进一步的,所述主节点根据配置文件生成至少一个任务流节点,包括:
所述主节点解析配置文件得到至少两个任务和任务之间的依赖关系;
根据所述至少两个任务和任务之间的依赖关系生成有向图;
若将所述有向图输入深度优先搜索算法,得到所述有向图中无环路,则根据所述有向图生成任务流节点。
进一步的,所述任务调度框架还包括:Web节点和消息节点;
相应的,还包括:
所述消息节点接收所述Web节点发送的实时任务指令;
所述主节点拉取所述实时任务指令,并根据所述实时任务指令执行任务。
第二方面,本发明实施例还提供了任务执行装置,应用于任务调度框架,所述任务调度框架包括:主节点,所述任务执行装置配置在主节点中,所述任务执行装置包括:
生成模块,用于根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
执行模块,用于根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
第三方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明实施例中任一所述的任务执行方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例中任一所述的任务执行方法。
本发明实施例通过所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务,解决了现有定时调度框架quartz不支持任务编排和流程调度,不支持定义多任务间的执行顺序和串并关系,缺乏统一的任务流程编排模型,只能通过硬编码的方式固化任务执行流程模型,任务配置和调度程序高度耦合,具有较大的开发和维护成本。此外,框架quartz虽然支持分布式模式,但是单任务只能在单个节点运行,不支持将任务分片在多节点并行执行的问题,能够将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1是本发明实施例中的一种任务执行方法的流程图;
图1a是本发明实施例中的节点/组件架构图;
图1b是本发明实施例中的主节点选举流程图;
图1c是本发明实施例中的主节点故障后重选主节点流程图;
图1d是本发明实施例中的任务流节点的示意图;
图1e是本发明实施例中的定时任务调度和执行流程图;
图1f是本发明实施例中的实时任务调度和执行流程图;
图2是本发明实施例中的一种任务执行装置的结构示意图;
图3是本发明实施例中的一种电子设备的结构示意图;
图4是本发明实施例中的一种包含计算机程序的计算机可读存储介质的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。此外,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。此外,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
本发明使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
图1为本发明实施例提供的一种任务执行方法的流程图,本实施例可适用于任务执行的情况,该方法可以由本发明实施例中的任务执行装置来执行,该任务执行装置可采用软件和/或硬件的方式实现,如图1所示,该任务执行方法具体包括如下步骤:
S110,所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系。
本发明实施例应用于任务调度框架,所述任务调度框架包括:主节点,其中,所述主节点可以为任务调度框架中的消息节点从至少两个备用节点中选取的,也可以为任务调度框架直接设定的,还可以为:在前一主节点故障后,消息节点从至少两个备用节点中选取的新的主节点,本发明实施例对此不进行限制。
其中,所述配置文件可以为预先存储在主节点中的文件,所述配置文件为针对定时任务的配置文件。
其中,所述任务流节点有5种属性,分别是任务流名称、类型、定时表达式、分片类型和任务(job)列表,其中任务名称必须唯一。对于任务(job),有5种属性,分别是任务名称、任务类型、任务参数、任务路径和任务依赖,任务间的依赖必须是有向无环图(DAG),否则不能通过。
在一个具体的例子中,解析配置文件,得到flow1,flow1中包括:job1、job2、job3、job4、job5、job6、job7和job8。job1是最上级的父任务,同时有4个并行子任务依赖于job1,而job6同时依赖于上述4个并行子任务,job8和job7的父任务均是job6。整个配置文件由flow节点和job节点组成,一个flow可以包含多个job节点。不同job间可以存在多种依赖关系,如并行、串行。子job可以依赖与多个父job,只有所有的父job执行成功后,子job才会执行。一个父job下可以有多个子job,子job可以并行执行。
S120,所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
具体的,所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。例如可以是,解析模块解析配置文件,得到至少两个任务和至少两个任务之间的关系,根据至少两个任务和至少两个任务之间的关系生成flow1,并将flow1发送至调度线程池,调度线程池解析flow1,得到至少两个job和job之间的关系,将job1发送至执行线程池,执行线程池在接收到job1后,向调度线程池发送job1提交成功,调度线程池轮询job1执行状态,若job1执行成功,则向执行线程池提交依赖job1的其他job,直至所有job执行成功,将flow1的执行结果发送至状态节点。
可选的,所述任务调度框架还包括:至少两个备用节点和消息节点;
相应的,在所述主节点根据配置文件生成至少一个任务流节点之前,还包括:
所述至少两个备用节点向所述消息节点发送获取分布式锁指令;
所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个目标备用节点;
所述消息节点将所述目标备用节点晋升为主节点。
本发明实施例应用于任务调度框架,所述任务调度框架包括:消息节点和至少两个备用节点;其中,消息节点作为整个框架的枢纽,通过选举算法从备用节点中选举出一台主节点,并支持跟踪记录主节点和备用节点的生命状态。消息节点支持常见的消息中间件,如redis、rabbitmq等。备用节点作为整个框架的后备军,承担在主节点发生故障时的主节点恢复任务,备用节点通过分布式选举算法选举一台机器作为主节点,承担调度与执行任务的功能,且能够在主节点故障后,用节点通过分布式选举算法选举一台机器作为主节点,重新承担调度与执行任务的功能。主节点作为整个框架的核心,具有选举模块、调度模块和执行模块。备用节点通过选举模块中的分布式选举算法晋升为主节点,主节点通过内置的调度模块,编排调度本地配置文件或状态节点中的任务流(flow),将编排好的任务发送到执行模块中的线程池进行计算处理。
在一个具体的例子中,备用节点1和备用节点2向消息节点发送获取分布式锁指令,若消息节点先接收到备用节点1发送的获取分布式锁指令,则向备用节点1发送成功获得分布式锁信息,向备用节点2发送获取分布式锁失败信息,将备用节点1晋升为主节点,由备用节点1进行任务调度和执行任务操作。备用节点1在晋升为主节点后依旧和备用节点2周期性向消息节点发送获取分布式锁指令,若主节点在向消息节点发送获取分布式锁指令后,接收到消息节点反馈的成功获得分布式锁信息,则确定续期成功,备用节点1依旧为主节点,若备用节点2在向消息节点发送获取分布式锁指令后,接收到消息节点反馈的获取分布式锁失败,则确定备用节点2竞争失败。
可选的,在将所述目标备用节点晋升为主节点之后,还包括:
若所述主节点故障下线,则所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个主节点。
在一个具体的例子中,若备用节点1被晋升为主节点之后,主节点故障失效,由于主节点故障失效无法向消息节点发送获取分布式锁指令,消息节点优先接收到备用节点2发送的获取分布式锁指令,则消息节点向备用节点2发送成功获得分布式锁信息,晋升备用节点2为主节点,备用节点2根据状态节点内存储的数据进行数据恢复,备用节点2在进行数据恢复后,进行任务调度与执行。
具体的,本发明实施例基于redis的分布式锁,实现了任务分发过程的高可用,即使一台主节点故障,也可以通过竞选机制重新选举一台主节点用于任务的调度和执行。
可选的,所述任务调度框架还包括:状态节点;
相应的,主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务包括:
主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务之后,得到任务流节点的执行结果;
将所述执行结果发送至所述状态节点。
本发明实施例提供的任务调度框架包括:状态节点,状态节点用于记录系统运行状态、任务运行状态及相关日志,可以将执行过程信息持久化到数据库中,也支持基于状态节点中的数据恢复启动。状态节点支持常见的数据库,如mysql,oracle等。
可选的,所述主节点根据配置文件生成至少一个任务流节点,包括:
所述主节点解析配置文件得到至少两个任务和任务之间的依赖关系;
根据所述至少两个任务和任务之间的依赖关系生成有向图;
若将所述有向图输入深度优先搜索算法,得到所述有向图中无环路,则根据所述有向图生成任务流节点。
可选的,所述任务调度框架还包括:Web节点和消息节点;
相应的,还包括:
所述消息节点接收所述Web节点发送的实时任务指令;
所述主节点拉取所述实时任务指令,并根据所述实时任务指令执行任务。
具体的,本发明实施例提供的任务调度框架包括:Web节点,Web节点用于利用框架提供的api,可以发起实时的计算任务。
在一个具体的例子中,本发明实施例提供的任务调度框架包括:消息节点、状态节点、Web节点和至少两个备用节点;其中,消息节点作为整个框架的枢纽,通过选举算法从备用节点中选举出一台主节点,并支持跟踪记录主节点和备用节点的生命状态。同时消息节点接收Web节点发送的实时任务指令,并基于“发布-订阅”模式,将任务指令转发给主节点。消息节点支持常见的消息中间件,如redis、rabbitmq等。状态节点用于记录系统运行状态、任务运行状态及相关日志,可以将执行过程信息持久化到数据库中,也支持基于状态节点中的数据恢复启动。状态节点支持常见的数据库,如mysql,oracle等。Web节点用于利用框架提供的api,可以发起实时的计算任务。备用节点作为整个框架的后备军,承担在主节点发生故障时的主节点恢复任务,备用节点通过分布式选举算法选举一台机器作为主节点,承担调度与执行任务的功能,且能够在主节点故障后,用节点通过分布式选举算法选举一台机器作为主节点,重新承担调度与执行任务的功能。主节点作为整个框架的核心,具有选举模块、调度模块和执行模块。备用节点通过选举模块中的分布式选举算法晋升为主节点,主节点通过内置的调度模块,编排调度本地配置文件或状态节点中的任务流(flow),将编排好的任务发送到执行模块中的线程池进行计算处理。
如图1a所示,任务调度框架包括:主节点、两个备用节点、状态节点、消息节点和Web节点,Web节点用于向消息节点发送实时任务,状态节点用于记录任务状态和进行日志记录,消息节点用于主节点的选举与恢复实时任务监测。
本发明实施例提供的任务调度框架通过基于分布式锁的主备选举算法从众多备用节点中选举出唯一的主节点,并利用选出的主节点负责调度和执行功能。具体流程如图1b所示,备用节点1和备用节点2向消息节点发送获取分布式锁指令,若消息节点先接收到备用节点1发送的获取分布式锁指令,则向备用节点1发送成功获得分布式锁信息,向备用节点2发送获取分布式锁失败信息,将备用节点1晋升为主节点,由备用节点1进行任务调度和执行任务操作。备用节点1在晋升为主节点后依旧和备用节点2周期性向消息节点发送获取分布式锁指令,若主节点在向消息节点发送获取分布式锁指令后,接收到消息节点反馈的成功获得分布式锁信息,则确定续期成功,备用节点1依旧为主节点,若备用节点2在向消息节点发送获取分布式锁指令后,接收到消息节点反馈的获取分布式锁失败,则确定备用节点2竞争失败。
若主节点因意外情况故障下线,系统可以通过基于分布式锁的主备选举算法从备用节点中恢复出唯一的主节点,具体流程如图1c所示,若备用节点1被晋升为主节点之后,主节点故障失效,由于主节点故障失效无法向消息节点发送获取分布式锁指令,消息节点优先接收到备用节点2发送的获取分布式锁指令,则消息节点向备用节点2发送成功获得分布式锁信息,晋升备用节点2为主节点,备用节点2根据状态节点内存储的数据进行数据恢复,备用节点2在进行数据恢复后,进行任务调度与执行。
本发明实施例提供的任务调度框架通过yml配置文件进行任务编排,通过配置文件配置flow和job节点。关于任务流节点(flow),有5种属性,分别是任务流名称、类型、定时表达式、分片类型和任务(job)列表,其中任务名称必须唯一。对于任务(job),有5种属性,分别是任务名称、任务类型、任务参数、任务路径和任务依赖,任务间的依赖必须是有向无环图(DAG),否则不能通过。
本发明实施例提供的任务调度框架中基于深度优先搜索检测任务依赖是否满足有向无环图的约束:
将解析后的job依赖转换为有向图G=(V,E),利用深度优先搜索(DFS)对待检测的有向图构造一颗树,如果在构造树的过程中出现了反向边,则认为给定图存在环路,即该任务流中的任务不满足有向无环的约束。
获取配置文件,配置文件中的任务经过解析后等效于如图1d所示,定义的job执行依赖顺序,job1是最上级的父任务,同时有4个并行子任务依赖于job1,而job6同时依赖于上述4个并行子任务,job8和job7的父任务均是job6。整个配置文件由flow节点和job节点组成,一个flow可以包含多个job节点。不同job间可以存在多种依赖关系,如并行、串行。子job可以依赖与多个父job,只有所有的父job执行成功后,子job才会执行。一个父job下可以有多个子job,子job可以并行执行。
本发明实施例提供的任务调度框架针对定时任务的调度和执行,流程逻辑如图1e所示:
解析模块解析配置文件,得到至少两个任务和至少两个任务之间的关系,根据至少两个任务和至少两个任务之间的关系生成flow1,并将flow1发送至调度线程池,调度线程池解析flow1,得到至少两个job和job之间的关系,将job1发送至执行线程池,执行线程池在接收到job1后,向调度线程池发送job1提交成功,调度线程池轮询job1执行状态,若job1执行成功,则向执行线程池提交依赖job1的其他job,直至所有job执行成功,将flow1的执行结果发送至状态节点,以使状态节点持久化flow1执行结果。
本发明实施例提供的任务调度框架针对实时任务的触发和执行,逻辑流程如图1f所示:
Web节点向消息节点发送实时任务指令,消息节点接收所述Web节点发送的实时任务指令,并向Web节点反馈发送成功信息,主节点从消息节点拉取实时实时任务指令,并根据所述实时任务指令执行任务。
本发明实施例提供的技术方案可以将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码。本发明实施例提供的技术方案支持基于yaml的任务执行流程编排,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。此外,本发明实施例提供的技术方案基于redis的分布式锁,实现了任务分发过程的高可用,即使一台主节点故障,也可以通过竞选机制重新选举一台主节点用于任务的调度和执行。
本实施例的技术方案,通过所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务,解决了现有定时调度框架quartz不支持任务编排和流程调度,不支持定义多任务间的执行顺序和串并关系,缺乏统一的任务流程编排模型,只能通过硬编码的方式固化任务执行流程模型,任务配置和调度程序高度耦合,具有较大的开发和维护成本。此外,框架quartz虽然支持分布式模式,但是单任务只能在单个节点运行,不支持将任务分片在多节点并行执行的问题,能够将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。
图2为本发明实施例提供的一种任务执行装置的结构示意图。本实施例可适用于任务执行的情况,该装置可采用软件和/或硬件的方式实现,该装置可集成在任何提供任务执行功能的设备中,如图2所示,所述任务执行装置具体包括:生成模块210和执行模块220。
其中,生成模块,用于根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
执行模块,用于根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
可选的,所述任务调度框架还包括:至少两个备用节点和消息节点;
相应的,所述至少两个备用节点,用于在所述主节点根据配置文件生成至少一个任务流节点之前,向所述消息节点发送获取分布式锁指令;
所述消息节点,用于根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个目标备用节点;
所述消息节点,还用于将所述目标备用节点晋升为主节点。
上述产品可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
本实施例的技术方案,通过所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务,解决了现有定时调度框架quartz不支持任务编排和流程调度,不支持定义多任务间的执行顺序和串并关系,缺乏统一的任务流程编排模型,只能通过硬编码的方式固化任务执行流程模型,任务配置和调度程序高度耦合,具有较大的开发和维护成本。此外,框架quartz虽然支持分布式模式,但是单任务只能在单个节点运行,不支持将任务分片在多节点并行执行的问题,能够将业务逻辑和任务配置解耦,降低开发和维护成本,避免因修改任务执行流程而改动业务代码,可以自定义多任务间的执行顺序和串并关系,同时支持灵活的参数配置。
图3为本发明实施例中的一种电子设备的结构示意图。图3示出了适于用来实现本发明实施方式的示例性电子设备12的框图。图3显示的电子设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示,电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture,ISA)总线,微通道体系结构(Micro Channel Architecture,MCA)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
电子设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory,RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示,通常称为“硬盘驱动器”)。尽管图3中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(只读光盘(Compact Disc-Read Only Memory,CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如系统存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该电子设备12交互的设备通信,和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。另外,本实施例中的电子设备12,显示器24不是作为独立个体存在,而是嵌入镜面中,在显示器24的显示面不予显示时,显示器24的显示面与镜面从视觉上融为一体。并且,电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网Wide Area Network,WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与电子设备12的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的任务执行方法:
所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
图4为本发明实施例中的一种包含计算机程序的计算机可读存储介质的结构示意图。本发明实施例提供了一种计算机可读存储介质61,其上存储有计算机程序610,该程序被一个或多个处理器执行时实现如本申请所有发明实施例提供的任务执行方法:
所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络包括局域网(LAN)或广域网(WAN)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种任务执行方法,其特征在于,应用于任务调度框架,所述任务调度框架包括:主节点,所述任务执行方法包括:
所述主节点根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
所述主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
2.根据权利要求1所述的方法,其特征在于,所述任务调度框架还包括:至少两个备用节点和消息节点;
相应的,在所述主节点根据配置文件生成至少一个任务流节点之前,还包括:
所述至少两个备用节点向所述消息节点发送获取分布式锁指令;
所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个目标备用节点;
所述消息节点将所述目标备用节点晋升为主节点。
3.根据权利要求2所述的方法,其特征在于,在将所述目标备用节点晋升为主节点之后,还包括:
若所述主节点故障下线,则所述消息节点根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个主节点。
4.根据权利要求1所述的方法,其特征在于,所述任务调度框架还包括:状态节点;
相应的,主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务包括:
主节点根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务之后,得到任务流节点的执行结果;
将所述执行结果发送至所述状态节点。
5.根据权利要求1所述的方法,其特征在于,所述主节点根据配置文件生成至少一个任务流节点,包括:
所述主节点解析配置文件得到至少两个任务和任务之间的依赖关系;
根据所述至少两个任务和任务之间的依赖关系生成有向图;
若将所述有向图输入深度优先搜索算法,得到所述有向图中无环路,则根据所述有向图生成任务流节点。
6.根据权利要求1所述的方法,其特征在于,所述任务调度框架还包括:Web节点和消息节点;
相应的,还包括:
所述消息节点接收所述Web节点发送的实时任务指令;
所述主节点拉取所述实时任务指令,并根据所述实时任务指令执行任务。
7.一种任务执行装置,其特征在于,应用于任务调度框架,所述任务调度框架包括:主节点,所述任务执行装置配置在主节点中,所述任务执行装置包括:
生成模块,用于根据配置文件生成至少一个任务流节点,其中,所述任务流节点包括:至少两个任务和至少两个任务之间的依赖关系;
执行模块,用于根据所述至少两个任务和至少两个任务之间的依赖关系依次执行所述至少两个任务。
8.根据权利要求7所述的装置,其特征在于,所述任务调度框架还包括:至少两个备用节点和消息节点;
相应的,所述至少两个备用节点,用于在所述主节点根据配置文件生成至少一个任务流节点之前,向所述消息节点发送获取分布式锁指令;
所述消息节点,用于根据接收到的至少两个备用节点发送的获取分布式锁指令的顺序从所述至少两个备用节点中选取一个目标备用节点;
所述消息节点,还用于将所述目标备用节点晋升为主节点。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述处理器实现如权利要求1-6中任一所述的方法。
10.一种包含计算机程序的计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被一个或多个处理器执行时实现如权利要求1-6中任一所述的方法。
CN202110795214.2A 2021-07-14 2021-07-14 一种任务执行方法、装置、设备及存储介质 Pending CN113434279A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110795214.2A CN113434279A (zh) 2021-07-14 2021-07-14 一种任务执行方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110795214.2A CN113434279A (zh) 2021-07-14 2021-07-14 一种任务执行方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113434279A true CN113434279A (zh) 2021-09-24

Family

ID=77760443

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110795214.2A Pending CN113434279A (zh) 2021-07-14 2021-07-14 一种任务执行方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113434279A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114416346A (zh) * 2021-12-23 2022-04-29 广州市玄武无线科技股份有限公司 一种多节点任务调度方法、装置、设备及存储介质
CN115037595A (zh) * 2022-04-29 2022-09-09 北京华耀科技有限公司 网络恢复方法、装置、设备及存储介质
CN115098278A (zh) * 2022-06-28 2022-09-23 电子科技大学 一种基于微服务的数字孪生车间多场景交互方法
CN116028245A (zh) * 2023-02-09 2023-04-28 中国证券登记结算有限责任公司 一种基于消息中间件的业务消息处理方法和装置
CN116938881A (zh) * 2023-09-18 2023-10-24 深圳创新科技术有限公司 一种实现动态ip池的方法、系统、设备及可读存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160098662A1 (en) * 2014-10-03 2016-04-07 Datameer, Inc. Apparatus and Method for Scheduling Distributed Workflow Tasks
CN109298948A (zh) * 2018-10-31 2019-02-01 北京国信宏数科技有限责任公司 分布式计算方法和系统
CN109445926A (zh) * 2018-11-09 2019-03-08 杭州玳数科技有限公司 数据任务调度方法及数据任务调度系统
CN111901422A (zh) * 2020-07-28 2020-11-06 浪潮电子信息产业股份有限公司 一种集群中节点的管理方法、系统及装置
CN112379995A (zh) * 2021-01-11 2021-02-19 北京江融信科技有限公司 一种基于dag的单元化分布式调度系统及方法
CN112486468A (zh) * 2020-12-15 2021-03-12 恩亿科(北京)数据科技有限公司 基于spark内核的任务执行方法、系统和计算机设备
CN112579267A (zh) * 2020-09-28 2021-03-30 京信数据科技有限公司 一种去中心化大数据作业流调度方法及装置
CN112764902A (zh) * 2021-01-21 2021-05-07 上海明略人工智能(集团)有限公司 任务调度方法及系统
CN112948106A (zh) * 2020-09-07 2021-06-11 深圳市明源云科技有限公司 任务分配方法及装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160098662A1 (en) * 2014-10-03 2016-04-07 Datameer, Inc. Apparatus and Method for Scheduling Distributed Workflow Tasks
CN109298948A (zh) * 2018-10-31 2019-02-01 北京国信宏数科技有限责任公司 分布式计算方法和系统
CN109445926A (zh) * 2018-11-09 2019-03-08 杭州玳数科技有限公司 数据任务调度方法及数据任务调度系统
CN111901422A (zh) * 2020-07-28 2020-11-06 浪潮电子信息产业股份有限公司 一种集群中节点的管理方法、系统及装置
CN112948106A (zh) * 2020-09-07 2021-06-11 深圳市明源云科技有限公司 任务分配方法及装置
CN112579267A (zh) * 2020-09-28 2021-03-30 京信数据科技有限公司 一种去中心化大数据作业流调度方法及装置
CN112486468A (zh) * 2020-12-15 2021-03-12 恩亿科(北京)数据科技有限公司 基于spark内核的任务执行方法、系统和计算机设备
CN112379995A (zh) * 2021-01-11 2021-02-19 北京江融信科技有限公司 一种基于dag的单元化分布式调度系统及方法
CN112764902A (zh) * 2021-01-21 2021-05-07 上海明略人工智能(集团)有限公司 任务调度方法及系统

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114416346A (zh) * 2021-12-23 2022-04-29 广州市玄武无线科技股份有限公司 一种多节点任务调度方法、装置、设备及存储介质
CN115037595A (zh) * 2022-04-29 2022-09-09 北京华耀科技有限公司 网络恢复方法、装置、设备及存储介质
CN115037595B (zh) * 2022-04-29 2024-04-23 北京华耀科技有限公司 网络恢复方法、装置、设备及存储介质
CN115098278A (zh) * 2022-06-28 2022-09-23 电子科技大学 一种基于微服务的数字孪生车间多场景交互方法
CN115098278B (zh) * 2022-06-28 2024-04-30 电子科技大学 一种基于微服务的数字孪生车间多场景交互方法
CN116028245A (zh) * 2023-02-09 2023-04-28 中国证券登记结算有限责任公司 一种基于消息中间件的业务消息处理方法和装置
CN116028245B (zh) * 2023-02-09 2023-10-13 中国证券登记结算有限责任公司 一种基于消息中间件的业务消息处理方法和装置
CN116938881A (zh) * 2023-09-18 2023-10-24 深圳创新科技术有限公司 一种实现动态ip池的方法、系统、设备及可读存储介质
CN116938881B (zh) * 2023-09-18 2024-02-09 深圳创新科技术有限公司 一种实现动态ip池的方法、系统、设备及可读存储介质

Similar Documents

Publication Publication Date Title
CN113434279A (zh) 一种任务执行方法、装置、设备及存储介质
US8370802B2 (en) Specifying an order for changing an operational state of software application components
US8762929B2 (en) System and method for exclusion of inconsistent objects from lifecycle management processes
CN110807067B (zh) 关系型数据库和数据仓库的数据同步方法、装置及设备
CN110442396B (zh) 应用程序启动方法及装置、存储介质及电子设备
CN107016480B (zh) 任务调度方法、装置及系统
US9940598B2 (en) Apparatus and method for controlling execution workflows
CN108076098A (zh) 一种业务处理方法及系统
WO2019200984A1 (zh) 分布式应用的生命周期管理方法、管理器、设备和介质
CN110609755A (zh) 跨区块链节点的消息处理方法及装置、设备、介质
JP2023527195A (ja) ベースライン監視方法、装置、読み取り可能な媒体、及び電子機器
CN112540914A (zh) 单元测试的执行方法、执行装置、服务器和存储介质
CN110647570B (zh) 数据处理方法、装置以及电子设备
CN112199355A (zh) 数据迁移方法、装置、电子设备及存储介质
US10515089B2 (en) Pseudo-synchronous processing by an analytic query and build cluster
CN111190732A (zh) 定时任务处理系统及方法、存储介质和电子设备
CN113378007B (zh) 数据回溯方法及装置、计算机可读存储介质、电子设备
CN109739724B (zh) 数据监控方法、系统、电子设备和存储介质
CN114697398B (zh) 数据处理方法、装置、电子设备、存储介质及产品
US11601326B1 (en) Problem detection and categorization for integration flows
US20140156714A1 (en) Distributed file system processing apparatus and method, and storage media storing the same
CN111782373B (zh) 作业调度方法及装置
CN112825525B (zh) 用于处理事务的方法和装置
CN113918525A (zh) 数据交换调度方法、系统、电子设备、介质及程序产品
CN113656239A (zh) 针对中间件的监控方法、装置及计算机程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210924