CN114428674A - 任务调度方法、装置、设备以及存储介质 - Google Patents
任务调度方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN114428674A CN114428674A CN202210088762.6A CN202210088762A CN114428674A CN 114428674 A CN114428674 A CN 114428674A CN 202210088762 A CN202210088762 A CN 202210088762A CN 114428674 A CN114428674 A CN 114428674A
- Authority
- CN
- China
- Prior art keywords
- task
- target task
- target
- data input
- input table
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了任务调度方法、装置、设备以及存储介质,涉及云计算、大数据和信息流等人工智能技术领域。其中,任务调度方法包括:创建第一目标任务;对第一目标任务进行识别,得到第一目标任务的依赖任务;确定第一目标任务的调度时间;根据依赖任务和调度时间,执行第一目标任务。根据本公开的任务调度方法,可以自动得到第一目标任务的依赖任务,进而在第一目标任务的依赖任务数量较多的情况下,无需人工手动添加第一目标任务的依赖任务,从而可以有效提高依赖任务的添加效率和准确率。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及云计算、大数据和信息流等人工智能技术领域,具体涉及一种任务调度方法、任务调度装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
相关技术中,在配置调度任务时,首先配置主任务,然后依次手动添加主任务需要依赖的各个表或任务,之后手动配置调度时间,最后按照调度时间执行任务。然而,在主任务需要依赖的表或任务的数量较多的情况下,查找过程较为繁琐,效率和准确率较低。
发明内容
本公开提供了一种任务调度方法、装置、设备以及存储介质。
根据本公开的第一方面,提供了一种任务调度方法,包括:
创建第一目标任务;
对第一目标任务进行识别,得到第一目标任务的依赖任务;
确定第一目标任务的调度时间;
根据依赖任务和调度时间,执行第一目标任务。
根据本公开的第二方面,提供了一种任务调度装置,包括:
创建模块,用于创建第一目标任务;
第一识别模块,用于对第一目标任务进行识别,得到第一目标任务的依赖任务;
确定模块,用于确定第一目标任务的调度时间;
执行模块,用于根据依赖任务和调度时间,执行第一目标任务。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述各方面任一实施方式的方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行上述各方面任一实施方式的方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现上述各方面任一实施方式的方法。
根据本公开的技术方案,通过对第一目标任务自动识别,可以自动得到第一目标任务的依赖任务,进而在第一目标任务的依赖任务数量较多的情况下,无需人工手动添加第一目标任务的依赖任务,从而可以有效提高依赖任务的添加效率和准确率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的任务调度方法的流程示意图;
图2是根据本公开实施例的得到第一目标任务的依赖任务的流程示意图;
图3是根据本公开实施例的确定第一目标任务的调度时间的流程示意图;
图4是根据本公开实施例的任务调度方法的应用示例图;
图5是根据本公开实施例的得到第一目标任务的数据输入表的应用示例图;
图6是根据本公开实施例的任务调度装置的结构框图;
图7是用来实现本公开实施例的任务调度方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
如图1所示,根据本公开第一方面实施例的任务调度方法,包括:
步骤S110:创建第一目标任务。
步骤S120:对第一目标任务进行识别,得到第一目标任务的依赖任务。
步骤S130:确定第一目标任务的调度时间。
步骤S140:根据依赖任务和调度时间,执行第一目标任务。
在大数据和云计算领域,批量数据处理系统和流式数据处理系统的实现过程中需要自动创建任务并执行任务。其中,目标任务与依赖任务存在依赖关系,即依赖任务是目标任务的上游任务,目标任务的执行需要依赖于对应的依赖任务。
示例性地,百度数据工厂(Pingo)是百度智能云上提供的集成的批量和流式数据处理系统,长调度程序(Long scheduler)在Pingo中负责任务配置和调度。当需要在Longscheduler配置调度任务时,首先新建第一目标任务,将第一目标任务添加至等待队列,然后自动识别出第一目标任务的依赖任务,最后在依赖任务的数据产出就绪后,按照调度时间执行第一目标任务。
其中,对第一目标任务的识别可以包括对第一目标任务进行数据分析和逻辑分析,从而获得第一目标任务的依赖关系,进而得到对应的依赖任务。
根据本公开实施例的任务调度方法,通过对第一目标任务自动识别,可以自动得到第一目标任务的依赖任务,进而在第一目标任务的依赖任务数量较多的情况下,无需人工手动添加第一目标任务的依赖任务,从而可以有效提高依赖任务的添加效率和准确率。
在一种实施方式中,参照图2,在步骤S120中,对第一目标任务进行识别,得到第一目标任务的依赖任务,可以包括:
步骤S201:对第一目标任务进行识别,得到第一目标任务的数据输入表。
步骤S202:根据数据输入表对应的任务标识信息,得到依赖任务。
通过识别得到的第一目标任务的数据输入表,进而可以从数据输入表对应的元数据中读取数据输入表的任务标识信息。其中,数据输入表对应的元数据包括数据输入表对应的任务标识信息,即产出该数据输入表的任务的任务标识信息。进而,读取到的任务标识信息即为依赖任务的任务标识信息。
其中,任务标识信息可以为任务名称或任务编号等信息。
示例性地,数据输入表对应的元数据可以与该数据输入表存在映射关系,并存储于元数据库中,从而通过元数据库得到数据输入表对应的元数据。数据输入表对应的元数据也可以从该数据输入表中直接读取得到。又或者,数据输入表对应的元数据可以部分从数据输入表中直接读取,部分从元数据库中根据映射关系得到。
相关技术中,在手动添加依赖的情况下,很多时候只能查找到任务所依赖的表,无法得知产出此表所对应的具体任务。然而,在一些情况下,例如:需要回溯数据时发现表的有些分区不存在;或者,表的某个分区已经存在,但是该分区由于有多次插入还未完全产出完毕。此时,可以通过元数据库和预先建立的表和任务的映射关系得知产出该表所对应的具体任务。
本公开上述实施方式一方面可以通过识别第一目标任务自动得到第一目标任务依赖的数据输入表,以从数据输入表中读取依赖任务的任务标识信息,进而自动得到依赖任务。在第一目标任务依赖的数据输入表的数量较多的情况下,可以无需人工手动添加第一目标任务的数据输入表,从而可以提升数据输入表的添加效率和准确率。
另一方面可以将数据输入表与产出数据输入表的任务自动关联,建立数据输入表与产出数据输入表的任务之间的映射关系,从而通过数据输入表的任务标识信息就可以快速得到第一目标任务的依赖任务。
在一种实施方式中,参照图3,在步骤S130中,确定第一目标任务的调度时间,可以包括:
步骤S301:对第一目标任务进行识别,得到第一目标任务的数据输入表。
步骤S302:根据数据输入表对应的任务执行时间,确定调度时间。
通过识别得到的第一目标任务的数据输入表,进而可以从数据输入表对应的元数据中读取数据输入表的任务执行时间,进而根据该任务执行时间确定第一目标任务的调度时间。其中,数据输入表对应的元数据包括数据输入表对应的任务执行时间,即产出该数据输入表的任务的任务执行时间。进而,读取到的任务执行时间即为依赖任务的任务执行时间。
相关技术中,通常需要手动设置任务的调度时间。然而,由于无法得知该任务所依赖的表或任务的完成时间,导致手动设置的时间可能并不合理,例如在该任务调度开始后需要等待较长时间后该任务所依赖的任务才执行完成,此时该任务在依赖任务执行完成之前一直占用队列资源,导致资源的利用率较低。
而本公开上实施方式在通过识别第一目标任务自动得到第一目标任务依赖的数据输入表以提高数据输入表的添加效率和准确率的同时,同样可以将数据输入表与产出数据输入表的任务自动关联,从而建立数据输入表与产出数据输入表的任务之间的映射关系,进而通过数据输入表的任务执行时间快速得到依赖任务的任务执行时间,从而自动生成合理的调度时间,有效提高生产效率和资源利用率。
在一种实施方式中,在步骤S302中,根据数据输入表对应的任务执行时间,确定调度时间,可以包括:根据预设的时间逻辑条件和数据输入表对应的任务执行时间,确定调度时间,其中,调度时间晚于任务执行时间。
示例性地,根据识别第一目标任务得到的数据输入表,可以从元数据中读取产出数据输入表的任务的执行时间,也就是第一目标任务的依赖任务的任务执行时间。根据预设的时间逻辑条件和依赖任务的任务执行时间,可以给出第一目标任务的推荐执行起止时间,自动生成调度时间。
例如,在元数据中读取产出数据输入表的任务的执行完成时间为9点03分40秒的情况下,第一目标任务的依赖任务的执行完成时间为9点03分40秒,可以确定第一目标任务的调度时间晚于9点03分40秒,以保证在第一目标任务的依赖任务执行完成后调度第一目标任务。根据预设的时间逻辑条件,可以给出第一目标任务的推荐执行起止时间,例如推荐执行起始时间可以为9点03分41秒或9点03分45秒等,进而自动生成调度时间,并按照调度时间执行第一目标任务。
由此,通过上述设置,可以进一步保证第一目标任务的执行起止时间的合理性,避免第一目标任务在依赖任务执行完成之前占用队列资源,从而进一步提高资源利用率。
在一种实施方式中,结合图5,在步骤S201、步骤S301中,对第一目标任务进行识别,得到第一目标任务的数据输入表,可以包括:对第一目标任务进行结构化查询语言SQL(Structured Query Language)解析,得到对应的逻辑计划;对逻辑计划进行解析,得到第一目标任务的数据输入表。
示例性地,在批量和流式数据处理系统中,运行计算引擎(Spark)时,会将第一目标任务解析成语法树,生成逻辑计划。语法树中包括多个表,在生成语法树的过程中,可以将多个表和产出各表的任务关联起来。在对逻辑计划进行解析的过程中,可以通过编辑代码以及按照预定策略对多个表进行提取,得到对应的数据输入表。例如,在图5的示例中,在对逻辑计划进行解析后,得到a和b两个数据输入表。
由此,可以通过对第一目标任务进行SQL解析自动识别第一目标任务的数据输入表,可以无需人工查找,进一步提高第一目标任务的数据输入表的添加效率。
在一种实施方式中,参照图4,任务调度方法还包括:对第一目标任务进行识别,得到第一目标任务的数据输出表,其中,第一目标任务的数据输出表为至少一个第二目标任务的数据输入表;将第一目标任务的任务标识信息、数据输出表的表标识信息以及第一目标任务的任务执行时间与数据输出表进行对应,并存储于元数据库。
示例性地,在运行Spark计算引擎时,会将第一目标任务解析成语法树,生成逻辑计划,通过对逻辑计划的解析可以得到数据输入表和数据输出表。数据输出表为结果数据表,通过执行第一目标任务对数据输入表中的数据进行调整、数据加工而得到目标数据,最终产出的表为数据输出表。
由此,可以将第一目标任务的任务标识信息、数据输出表的表标识信息、第一目标任务的任务执行时间作为元数据与数据输出表建立映射关系,并存储于元数据库中。从而,当数据输出表作为第二目标任务的数据输入表时,可以通过调用元数据库得到第二目标任务的依赖任务等元数据信息。
其中,数据输出表的表标识信息可以为数据输出表的名称或编号等信息。
第一目标任务的数据输出表可以作为第二目标任务的数据输入表,也就是说,第一目标任务可以作为第二目标任务的依赖任务。从而,可以参照以上第一目标任务的任务调度方法,在创建第二目标任务时,通过识别第二目标任务,得到第二目标任务的依赖任务,即第一目标任务;并同时得到第一目标任务的任务执行时间,进而根据第一目标任务的任务执行时间确定第二目标任务的调度时间;然后,根据第一目标任务和第二目标任务的调度时间,执行第二目标任务。
这样,一方面,可以通过识别第一目标任务自动得到第一目标任务的数据输出表;另一方面,可以对第一目标任务的任务标识信息、数据输出表的标识信息以及第一目标任务的任务执行时间进行绑定和存储,从而在调度第二目标任务的情况下,第一目标任务的数据输出表可以用作第二目标任务的数据输入表,便于为第二目标任务提供依赖任务(第一目标任务)和依赖任务的任务执行时间等元数据信息。
如图6所示,根据本公开第二方面实施例的任务调度装置600,包括:
创建模块610,用于创建第一目标任务;
第一识别模块620,用于对第一目标任务进行识别,得到第一目标任务的依赖任务;
确定模块630,用于确定第一目标任务的调度时间;
执行模块640,用于根据依赖任务和调度时间,执行第一目标任务。
在一种实施方式中,第一识别模块620包括:
第一识别子模块,用于对第一目标任务进行识别,得到第一目标任务的数据输入表;
生成子模块,用于根据数据输入表对应的任务标识信息,生成依赖任务。
在一种实施方式中,确定模块630包括:
第一识别子模块,用于对第一目标任务进行识别,得到第一目标任务的数据输入表;
确定子模块,用于根据数据输入表对应的任务执行时间,确定调度时间。
在一种实施方式中,确定子模块还用于:
根据预设的时间逻辑条件和数据输入表对应的任务执行时间,确定调度时间,其中,调度时间晚于任务执行时间。
在一种实施方式中,第一识别子模块还用于:
对第一目标任务进行结构化查询语言SQL解析,得到对应的逻辑计划;
对逻辑计划进行解析,得到第一目标任务的数据输入表。
在一种实施方式中,任务调度装置600还包括:
第二识别模块,用于对第一目标任务进行识别,得到第一目标任务的数据输出表,其中,第一目标任务的数据输出表为至少一个第二目标任务的数据输入表;
对应模块,用于将第一目标任务的任务标识信息、数据输出表的表标识信息以及第一目标任务的任务执行时间与数据输出表进行对应,并存储于元数据库。
本公开实施例各装置中的各模块或子模块的功能和效果可以参见上述方法实施例中的对应描述,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如任务调度方法。例如,在一些实施例中,任务调度方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的任务调度方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行任务调度方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (15)
1.一种任务调度方法,包括:
创建第一目标任务;
对所述第一目标任务进行识别,得到所述第一目标任务的依赖任务;
确定所述第一目标任务的调度时间;
根据所述依赖任务和所述调度时间,执行所述第一目标任务。
2.根据权利要求1所述的方法,其中,对所述第一目标任务进行识别,得到所述第一目标任务的依赖任务,包括:
对所述第一目标任务进行识别,得到所述第一目标任务的数据输入表;
根据所述数据输入表对应的任务标识信息,得到所述依赖任务。
3.根据权利要求1所述的方法,其中,确定所述第一目标任务的调度时间,包括:
对所述第一目标任务进行识别,得到所述第一目标任务的数据输入表;
根据所述数据输入表对应的任务执行时间,确定所述调度时间。
4.根据权利要求3所述的方法,其中,根据所述数据输入表对应的任务执行时间,确定所述调度时间,包括:
根据预设的时间逻辑条件和所述数据输入表对应的任务执行时间,确定所述调度时间,其中,所述调度时间晚于所述任务执行时间。
5.根据权利要求2-4中任一项所述的方法,其中,对所述第一目标任务进行识别,得到所述第一目标任务的数据输入表,包括:
对所述第一目标任务进行结构化查询语言SQL解析,得到对应的逻辑计划;
对所述逻辑计划进行解析,得到所述第一目标任务的数据输入表。
6.根据权利要求1所述的方法,还包括:
对所述第一目标任务进行识别,得到所述第一目标任务的数据输出表,其中,所述第一目标任务的数据输出表为至少一个第二目标任务的数据输入表;
将所述第一目标任务的任务标识信息、所述数据输出表的表标识信息以及所述第一目标任务的任务执行时间与所述数据输出表进行对应,并存储于元数据库。
7.一种任务调度装置,包括:
创建模块,用于创建第一目标任务;
第一识别模块,用于对所述第一目标任务进行识别,得到所述第一目标任务的依赖任务;
确定模块,用于确定所述第一目标任务的调度时间;
执行模块,用于根据所述依赖任务和所述调度时间,执行所述第一目标任务。
8.根据权利要求7所述的装置,其中,所述第一识别模块包括:
第一识别子模块,用于对所述第一目标任务进行识别,得到所述第一目标任务的数据输入表;
生成子模块,用于根据所述数据输入表对应的任务标识信息,生成所述依赖任务。
9.根据权利要求7所述的装置,其中,所述确定模块包括:
第一识别子模块,用于对所述第一目标任务进行识别,得到所述第一目标任务的数据输入表;
确定子模块,用于根据所述数据输入表对应的任务执行时间,确定所述调度时间。
10.根据权利要求9所述的装置,其中,确定子模块还用于:
根据预设的时间逻辑条件和所述数据输入表对应的任务执行时间,确定所述调度时间,其中,所述调度时间晚于所述任务执行时间。
11.根据权利要求8-10中任一项所述的装置,其中,所述第一识别子模块还用于:
对所述第一目标任务进行结构化查询语言SQL解析,得到对应的逻辑计划;
对所述逻辑计划进行解析,得到所述第一目标任务的数据输入表。
12.根据权利要求7所述的装置,还包括:
第二识别模块,用于对所述第一目标任务进行识别,得到所述第一目标任务的数据输出表,其中,所述第一目标任务的数据输出表为至少一个第二目标任务的数据输入表;
对应模块,用于将所述第一目标任务的任务标识信息、所述数据输出表的表标识信息以及所述第一目标任务的任务执行时间与所述数据输出表进行对应,并存储于元数据库。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210088762.6A CN114428674A (zh) | 2022-01-25 | 2022-01-25 | 任务调度方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210088762.6A CN114428674A (zh) | 2022-01-25 | 2022-01-25 | 任务调度方法、装置、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114428674A true CN114428674A (zh) | 2022-05-03 |
Family
ID=81312761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210088762.6A Pending CN114428674A (zh) | 2022-01-25 | 2022-01-25 | 任务调度方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114428674A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114584627A (zh) * | 2022-05-09 | 2022-06-03 | 广州天越通信技术发展有限公司 | 一种具有网络监控功能的中台调度系统及方法 |
CN114860346A (zh) * | 2022-06-02 | 2022-08-05 | 北京百度网讯科技有限公司 | 建模任务的管理方法和建模任务的运行方法 |
WO2024067492A1 (zh) * | 2022-09-26 | 2024-04-04 | 华为技术有限公司 | 任务调度方法和电子装置 |
CN114860346B (zh) * | 2022-06-02 | 2024-06-04 | 北京百度网讯科技有限公司 | 建模任务的管理方法和建模任务的运行方法 |
-
2022
- 2022-01-25 CN CN202210088762.6A patent/CN114428674A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114584627A (zh) * | 2022-05-09 | 2022-06-03 | 广州天越通信技术发展有限公司 | 一种具有网络监控功能的中台调度系统及方法 |
CN114860346A (zh) * | 2022-06-02 | 2022-08-05 | 北京百度网讯科技有限公司 | 建模任务的管理方法和建模任务的运行方法 |
CN114860346B (zh) * | 2022-06-02 | 2024-06-04 | 北京百度网讯科技有限公司 | 建模任务的管理方法和建模任务的运行方法 |
WO2024067492A1 (zh) * | 2022-09-26 | 2024-04-04 | 华为技术有限公司 | 任务调度方法和电子装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114428674A (zh) | 任务调度方法、装置、设备以及存储介质 | |
CN115686850A (zh) | 基于Spark的目标任务的处理方法、装置和电子设备 | |
CN116611411A (zh) | 一种业务系统报表生成方法、装置、设备及存储介质 | |
CN115495473A (zh) | 数据库查询方法、装置、电子设备和存储介质 | |
CN116185389A (zh) | 一种代码生成方法、装置、电子设备及介质 | |
CN116126719A (zh) | 接口测试方法、装置、电子设备及存储介质 | |
CN115982273A (zh) | 一种数据同步方法、系统、电子设备和存储介质 | |
CN115544010A (zh) | 一种映射关系确定方法、装置、电子设备及存储介质 | |
CN115080607A (zh) | 一种结构化查询语句的优化方法、装置、设备及存储介质 | |
CN112905270A (zh) | 工作流实现方法、装置、平台、电子设备以及存储介质 | |
CN113360407B (zh) | 函数的定位方法、装置、电子设备及可读存储介质 | |
CN113835893B (zh) | 数据处理的方法、装置、设备、存储介质及程序产品 | |
US20220347566A1 (en) | Method and apparatus for pre-starting cloud application, device, storage medium, and program product | |
CN115168760A (zh) | 数据查询方法、装置及存储介质 | |
CN115268871A (zh) | 一种数据过滤方法、装置、设备及存储介质 | |
CN116361323A (zh) | 一种关系树调整方法、装置、设备及存储介质 | |
CN118071125A (zh) | 基于警务大模型的任务处理方法、装置、设备及介质 | |
CN115730000A (zh) | 一种基于数据湖的医疗数据集成方法、装置、设备及介质 | |
CN117971872A (zh) | 一种数据库查询方法、装置、设备及存储介质 | |
CN114564133A (zh) | 一种应用程序显示方法、装置、设备及介质 | |
CN116821217A (zh) | 数据的分发转换方法、装置、设备及存储介质 | |
CN116383454A (zh) | 图数据库的数据查询方法、电子设备及存储介质 | |
CN115098520A (zh) | 设备数据更新方法、装置、电子设备及存储介质 | |
CN115587091A (zh) | 数据入库方法、装置、设备以及存储介质 | |
CN114416881A (zh) | 一种多源数据的实时同步方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |