CN104750549A - 计算任务处理装置、方法及系统 - Google Patents
计算任务处理装置、方法及系统 Download PDFInfo
- Publication number
- CN104750549A CN104750549A CN201510173078.8A CN201510173078A CN104750549A CN 104750549 A CN104750549 A CN 104750549A CN 201510173078 A CN201510173078 A CN 201510173078A CN 104750549 A CN104750549 A CN 104750549A
- Authority
- CN
- China
- Prior art keywords
- task
- subtask
- treatment state
- calculation task
- calculation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例提供了一种计算任务处理装置、方法及系统,所述装置包括:任务控制模块,用于获取计算任务;任务分配模块,用于从获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理;数据存储模块,用于存储获取的计算任务;记录各个计算任务的处理状态以及各个子任务的处理状态;任务调度模块,用于响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括启动、暂停、结束以及重启。本申请实施例实现了任务的灵活、有效的调度。
Description
技术领域
本申请涉及计算机技术领域,更具体的说是涉及一种计算任务处理装置、方法及系统。
背景技术
分布式系统包括多个互联的计算设备,各个计算设备之间互相配合完成一个共同的目标。
分布式系统中的各个计算设备包括中心节点以及计算节点,现有技术中,为了节省任务处理的时间,在进行计算任务处理时,由中心节点接收客户端提交的计算任务,并将其划分为多个子任务,之后分配给不同的计算节点上进行处理,再将处理结果上传给中心节点。
但是,发明人在研究中发现,现有的这种计算任务处理方式,任务一旦运行就无法结束,且无法获知任务处理过程中的处理状态,不能实现对任务的有效调度。
发明内容
有鉴于此,本申请提供了一种计算任务处理装置、方法及系统,实现了分布式系统中任务的有效调度。
为实现上述目的,本申请提供如下技术方案:
第一方面,提供了一种计算任务处理装置,应用于分布式系统中,所述装置包括:
任务控制模块,用于获取计算任务;
任务分配模块,用于从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理;
数据存储模块,用于存储所述任务控制模块获取的计算任务;记录各个计算任务的处理状态以及各个子任务的处理状态;
任务调度模块,用于响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括启动、暂停、结束以及重启。
优选地,所述任务调度模块,还用于响应用户触发的任务查询请求;从所述数据存储模块中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
优选地,所述任务调度模块,还用于响应用户触发的任务修改请求,更新所述数据存储模块中,所述任务修改请求中请求的计算任务或子任务的处理状态。
优选地,所述任务调度模块具体用于:
响应用户根据所述各个计算任务的处理状态以及各个子任务的处理状态触发的任务更新请求,向相应的计算节点或者通过所述任务控制模块或者任务分配模块向相应的计算节点发送所述任务更新请求,以便于所述相应的计算节点将所述任务更新请求中请求更新的计算任务或子任务进行更新操作。
优选地,所述数据存储模块还用于存储所述任务控制模块获取的不同计算任务的处理优先级以及接收时间;
所述任务分配模块从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务具体是:
从所述任务控制模块获取的不同计算任务中,获得处理优先级最高或接收时间最长的计算任务作为待处理任务;
所述任务调度模块,还用于响应用户触发的任务控制请求,修改所述任务控制请求中请求的计算任务的处理优先级或者接收时间。
第二方面,提供了一种计算任务处理方法,包括:
获取计算任务;
从获取到的不同计算任务中,选择满足第一预设条件的计算任务作为待处理任务;
并将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理;
获取各个计算任务的处理状态以及各个子任务的处理状态;
响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启。
优选地,所述获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还包括:
响应用户触发的任务查询请求,从保存的处理状态中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
优选地,所述获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还包括:
响应用户触发的任务修改请求,更新所述任务修改请求中请求的计算任务或子任务的处理状态。
优选地,所述响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作包括:
响应用户根据所述各个计算任务的处理状态以及各个子任务的处理状态触发的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作。
第三方面,提供了一种计算任务调度系统,至少包括一个中心节点以及多个计算节点;
所述中心节点,用于获取计算任务并存储;从存储的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理;记录各个计算任务的处理状态以及各个子任务的处理状态;响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启;
所述计算节点,用于接收所述中心节点分配的子任务进行处理;根据所中心节点的更新指示,更新其处理的子任务。
经由上述的技术方案可知,与现有技术相比,本申请提供了一种计算任务处理装置、方法及装置,计算任务处理装置由任务控制模块、任务分配模块、数据存储模块以及任务调度模块组成,任务分配模块从任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理,数据存储模块存储所述任务控制模块获取的计算任务;并记录各个计算任务的处理状态以及各个子任务的处理状态;任务调度模块可以响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,本申请实施例可以对计算任务以及子任务的处理状态进行记录,并可以根据计算任务以及子任务的处理状态,实现对计算任务或子任务进行更新操作,实现了任务的有效、灵活调度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例提供的一种计算任务处理装置一个实施例的结构示意图;
图2为本申请实施例提供的一种计算任务处理方法一个实施例的流程图;
图3为本申请实施例提供的一种计算任务处理方法又一个实施例的流程图;
图4为本申请实施例提供的一种计算任务处理系统一个实施例的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例中,计算任务处理装置由任务控制模块、任务分配模块、数据存储模块以及任务调度模块组成,任务分配模块从任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理,数据存储模块存储所述任务控制模块获取的计算任务;并记录各个计算任务的处理状态以及各个子任务的处理状态;任务调度模块可以响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,本申请实施例可以对计算任务以及子任务的处理状态进行记录,并可以根据计算任务以及子任务的处理状态,实现对计算任务或子任务进行更新操作,实现了任务的有效、灵活调度。
图1为本申请提供的一种计算任务处理装置一个实施例的结构示意图,本申请技术方案具体应用于分布式系统中,所述计算任务处理装置可以集成到分布式系统中的中心节点中,该装置可以包括:
任务控制模块101,用于获取计算任务。
任务分配模块102,用于从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理。
数据存储模块103,用于存储所述任务控制模块获取的计算任务;记录各个计算任务的处理状态以及各个子任务的处理状态。
任务调度模块104,用于响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启。
其中,数据存储模块中记录的各个计算任务的处理状态以及各个子任务的处理状态可以是任务分配模块通过对各个计算节点以及任务分配模块进行监控,获得的各个子任务的处理状态以及各个计算任务的处理状态。
还可以是,各个计算节点可以实时反馈子任务的处理状态,数据存储模块进行实时记录。
计算任务的处理状态还可以根据各个子任务的处理状态得到。
在数据存储模块中可以分别创建任务工作表,用于存储计算任务以及子任务的处理状态,在任务运行过程中,通过修改工作表中的处理状态,实现对计算任务以及子任务的处理状态的记录和更新。
处理状态可以包括未处理、正在处理、处理故障、处理成功、处理失败等。
根据各个计算任务的处理状态或子任务的处理状态,可以将符合特定条件的计算任务或子任务进行更新操作,例如将未处理处于排队中的计算任务或子任务进行启动、将处理故障的计算任务或子任务结束运行、将故障解决的计算任务或子任务重启,将正在处理的且计算资源不足的子任务进行暂停处理等,将处理结束计算任务或子任务结束其占用的资源。
因此根据各个计算任务的处理状态或子任务的处理状态,可以确定出任务更新请求,从而任务调度模块响应该任务更新请求将请求更新的计算任务或子任务进行更新操作。具体的可以包括向请求更新的子任务的计算节点发送更新指示,以指示计算节点对相应的子任务进行更新。计算节点即会响应任务调度模块的各种更新操作。
其中由于计算任务划分为了多个子任务,则对计算任务进行更新,具体是可以是向计算任务划分的各个子任务对应的计算节点发送更新指示。
更新操作可以包括暂停、结束或重启某个计算任务或子任务的运行。
本申请实施例的计算任务处理装置,可以对计算任务以及子任务的处理状态进行记录,并可以根据计算任务以及子任务的处理状态,无论计算任务或子任务是否在运行,均可以对计算任务或子任务进行更新操作,实现了任务的有效、灵活调度。
其中,任务控制模块101获取的计算任务可以是客户端等提交的计算任务,在实际应用中,该计算任务可以是指视频转码任务,从而通过将视频转码任务中的固定时间长度的一个长视频切分成n段短视频,将n段短视频作为n个子任务发送到不同的计算节点进行转码,转码时间缩短为原来的1/n,大大缩短了转码的时间。
任务控制模块101获取的计算任务存储在数据存储模块103中,并可以访问数据存储模块103中。
数据存储模块103存储计算任务,并可以为各个计算任务记录其处理状态等信息。
任务分配模块102以及任务调度模块104等也可以分别通过任务控制模块101访问数据存储模块103。
任务分配模块102选择满足第一预设条件的计算任务作为待处理任务,该第一预设条件一种可能的实现方式,可以是指未处理的计算任务中的任一个计算任务。
另一种可能的实现方式为,可以是处理优先级最高或接收时间最长的计算任务作为待处理任务,接收时间最长的计算任务也即是最早接收到的计算任务。
当处理优先级最高的计算任务包括多个时,可以选择其中接收时间最长的计算任务作为待处理任务。
当接收时间最长的计算任务包括多个时,可以选择其中处理优先级最高的计算任务作为待处理任务。
若存在多个处理优先级和接收时间均相等的计算任务,可以选择其中任一个作为待处理任务。
任务分配模块102将待处理任务划分为多个子任务之后,即可以通知数据存储模块103,在数据存储模块103记录各个子任务以及各个计算任务的处理状态等信息。
任务分配模块102将划分出的多个子任务分配到不同计算节点进行处理可以按照现有技术的方式进行。
任务分配模块102可以优先选择计算资源充足的计算节点分配子任务等。
作为又一个实施例,本申请实施例中的任务调度模块104还可以响应用户触发的任务查询请求;从所述数据存储模块104中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
使得用户可以访问数据存储模块,随时获得各个计算任务或各个任务的处理状态。
作为又一个实施例,所述任务调度模块104,还可以响应用户触发的任务修改请求,更新所述数据存储模块中,所述任务修改请求中请求的计算任务或子任务的处理状态。
使得用户不仅可以访问数据存储模块,还可以对计算任务或子任务的处理状态进行修改,由于任务调度模块响应的是根据计算任务或子任务的处理状态确定的任务更新请求,从而可以实现对计算任务或子任务的管控。
具体的,任务调度模块104可以是通过所述任务控制模块101访问所述数据存储模块103,从而实现对数据存储模块存储内容的查询以及更新等。
其中,任务调度模块104响应的任务更新请求可以任务调度模块根据处理状态符合特定条件的计算任务或子任务生成的。
当然,作为另一种可能的实现方式,该任务更新请求还可以是用户触发的。
任务调度模块可以接收用户提供的任务更新请求,从而将用户请求更新的计算任务或子任务进行更新。
由于用户可以查询并修改数据存储模块存储的各个计算任务或各个子任务的处理状态,用户在查看各个计算任务或各个子任务的处理状态之后,可以根据各个计算任务的处理状态以及各个子任务的处理状态,确定出需要进行更新的计算任务或子任务,从而触发任务更新请求。
本申请实施例记录的各个计算任务或各个子任务的处理状态、用户可以查询或修改,且还可以触发任务调度模块对各个计算任务或各个子任务进行更新,从而实现了任务的有效调度。
分布式系统可以提供一个交互界面,用户根据该交互界面触发各个计算任务或各个子任务进行更新,可以包括结束单个子任务、重新进行单个子任务、结束计算任务、重新开始计算任务等。
其中,数据存储模块103中还用于存储所述任务控制模块101获取的不同计算任务的处理优先级以及接收时间;
所述任务分配模块102从所述任务控制模块101获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务具体是:
从所述任务控制模块101获取的不同计算任务中,获得处理优先级最高或接收时间最长的计算任务作为待处理任务。
此外,所述任务调度模块102,还用于响应用户触发的任务控制请求,修改所述任务控制请求中请求的计算任务的处理优先级或者接收时间。
用户可以向任务调度模块请求查看的计算任务的处理优先级或者接收时间,还可以对计算任务的处理优先级或接收时间进行修改。
其中,任务调度模块修改所述任务控制请求中请求的计算任务的处理优先级或者接收时间具体可以是,任务调度模块通过任务控制模块访问数据存储模块,以修改任务控制请求中请求的计算任务的处理优先级或者接收时间。本申请实施例提供的计算任务处理装置,任务调度模块对计算任务或子任务的更新,可以通过向任务控制模块、向任务分配模块或者直接向计算节点发送对应的指令。
向任务控制模块发送请求,可以访问数据存储模块,可以对处理状态、处理优先级等进行查询或修改。
向任务分配模块发送请求,可以结束任务分配模块分配的某个子任务等。
向计算节点发送消息,可以结束处于计算节点中的子任务等。
其中,计算任务或子任务的处理状态在数据存储模块中可以以数据表形式进行存储,从而在任务调度过程中,任务调度模块可以对数据表中的处理状态进行更新等操作。
本申请实施例能够方便进行任务控制,发起计算任务,结束计算任务,重新开始计算任务,单独结束子任务,单独重新开始子任务。当没有空闲服务器时,对任务按优先级进行排队,优先级高的任务先进行。
且够方便获取计算任务及子任务运行状态,是处于排队中,还是已经开始进行处理,子任务是否开始运行,结束,成功,失败等。
本申请实施例中提供的计算任务处理装置中,为了保证服务的健壮性,同一种模块可以包括2个以上,例如任务控制模块可以至少包括2个、任务分配模块可以至少包括2个,任务调度模块可以至少包括2个等,以避免对于任一种模块,当其中的任一个模块故障或其他原因挂掉,其他的模块还能替补,使得能够正常提供服务。
与上述实施例提供的计算任务处理装置相对应,本申请实施例还提供了一种计算任务处理方法,该方法具体应用于分布式系统的中心节点中,如图2所示,为本申请实施例提供的一种计算任务处理方法一个实施例的流程图。
该方法可以包括以下几个步骤:
201:获取计算任务
202:从获取到的不同计算任务中,选择满足第一预设条件的计算任务作为待处理任务。
203:将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理。
204:获取各个计算任务的处理状态以及各个子任务的处理状态。
205:响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启。
处理状态可以包括未处理、正在处理、处理故障、处理成功、处理失败等。
根据各个计算任务的处理状态或子任务的处理状态,可以将符合特定条件的计算任务或子任务进行更新操作,例如将未处理处于排队中的计算任务或子任务进行启动、将处理故障的计算任务或子任务结束运行、将故障解决的计算任务或子任务重启,将正在处理的且计算资源不足的子任务进行暂停处理等,将处理结束计算任务或子任务结束其占用的资源。
因此根据各个计算任务的处理状态或子任务的处理状态,可以确定出任务更新请求,从而任务调度模块响应该任务更新请求将请求更新的计算任务或子任务进行更新操作。具体的可以包括向请求更新的子任务的计算节点发送更新指示,以指示计算节点对相应的子任务进行更新。
其中由于计算任务划分为了多个子任务,则对计算任务进行更新,具体是可以是向计算任务划分的各个子任务对应的计算节点发送更新指示。
本申请实施例,可以对计算任务以及子任务的处理状态进行记录,并可以根据计算任务以及子任务的处理状态,无论计算任务或子任务是否在运行,均可以对计算任务或子任务进行更新操作,实现了任务的有效、灵活调度。
获取的计算任务可以是客户端等提交的待处理任务。
获取的计算任务可以存储在数据库中。获取的各个计算任务的处理状态以及各个子任务的处理状态也存储在数据库中。
其中,选择满足第一预设条件的计算任务作为待处理任务,该第一预设条件一种可能的实现方式,可以是指未处理的计算任务中的任一个计算任务。
另一种可能的实现方式为,可以是处理优先级最高或接收时间最长的计算任务作为待处理任务,接收时间最长的计算任务也即是最早接收到的计算任务。
当处理优先级最高的计算任务包括多个时,可以选择其中接收时间最长的计算任务作为待处理任务。
当接收时间最长的计算任务包括多个时,可以选择其中处理优先级最高的计算任务作为待处理任务。
若存在多个处理优先级和接收时间均相等的计算任务,可以选择其中任一个作为待处理任务。
作为又一个实施例,如图3所示,步骤203获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还可以包括:
206:响应用户触发的任务查询请求,从保存的处理状态中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
使得用户可以访问数据存储模块,随时获得各个计算任务或各个任务的处理状态。
作为又一个实施例,如图3所示,步骤203获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还可以包括:
207:响应用户触发的任务修改请求,更新所述任务修改请求中请求的计算任务或子任务的处理状态。
使得用户不仅可以访问数据存储模块,还可以对计算任务或子任务的处理状态进行修改,由于任务调度模块响应的是根据计算任务或子任务的处理状态确定的任务更新请求,从而可以实现对计算任务或子任务的管控。
其中,步骤205中响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作可以具体是响应用户根据所述各个计算任务的处理状态以及各个子任务的处理状态触发的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作。其中,从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务可以是:
从所述获取的不同计算任务中,获得处理优先级最高或接收时间最长的计算任务作为待处理任务。
因此所述方法还可以包括:
响应用户触发的任务控制请求,修改所述任务控制请求中请求的计算任务的处理优先级或者接收时间
本申请实施例能够方便进行任务控制,发起计算任务,结束计算任务,重新开始计算任务,单独结束子任务,单独重新开始子任务。当没有空闲服务器时,对任务按优先级进行排队,优先级高的任务先进行。
且够方便获取计算任务及子任务运行状态,是处于排队中,还是已经开始进行处理,子任务是否开始运行,结束,成功,失败等。
此外,本申请实施例还提供了一种计算任务调度系统,如图4所示,为本申请实施例提供的计算任务调度系统一个实施例的结构示意图,该系统可以包括至少一个中心节点401以及多个计算节点402;
所述中心节点401,用于获取计算任务并存储;从存储的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理;记录各个计算任务的处理状态以及各个子任务的处理状态;响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启。
所述计算节点402,用于接收所述中心节点分配的子任务进行处理;根据所中心节点的更新指示,更新其处理的子任务。
计算节点还可以向中心节点实时反馈各个子任务的处理状态,响应中心节点对各个任务的更新指示。
通过本申请实施例提供的计算任务调度系统实现了任务的有效、灵活调度。
其中,中心节点中可以部署上述实施例中所述的计算任务处理装置,通过所述计算任务装置中的各个功能模块,实现任务的获取、分配以及调度管理等。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种计算任务处理装置,其特征在于,应用于分布式系统中,所述装置包括:
任务控制模块,用于获取计算任务;
任务分配模块,用于从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务;将所述多个子任务分配到不同的计算节点进行处理;
数据存储模块,用于存储所述任务控制模块获取的计算任务;记录各个计算任务的处理状态以及各个子任务的处理状态;
任务调度模块,用于响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括启动、暂停、结束以及重启。
2.根据权利要求1所述的装置,其特征在于,
所述任务调度模块,还用于响应用户触发的任务查询请求;从所述数据存储模块中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
3.根据权利要求1所述的装置,其特征在于,所述任务调度模块,还用于响应用户触发的任务修改请求,更新所述数据存储模块中,所述任务修改请求中请求的计算任务或子任务的处理状态。
4.根据权利要求1~3任一项所述的装置,其特征在于,所述任务调度模块具体用于:
响应用户根据所述各个计算任务的处理状态以及各个子任务的处理状态触发的任务更新请求,向相应的计算节点或者通过所述任务控制模块或者任务分配模块向相应的计算节点发送所述任务更新请求,以便于所述相应的计算节点将所述任务更新请求中请求更新的计算任务或子任务进行更新操作。
5.根据权利要求1所述的装置,其特征在于,所述数据存储模块还用于存储所述任务控制模块获取的不同计算任务的处理优先级以及接收时间;
所述任务分配模块从所述任务控制模块获取的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务具体是:
从所述任务控制模块获取的不同计算任务中,获得处理优先级最高或接收时间最长的计算任务作为待处理任务;
所述任务调度模块,还用于响应用户触发的任务控制请求,修改所述任务控制请求中请求的计算任务的处理优先级或者接收时间。
6.一种计算任务处理方法,其特征在于,包括:
获取计算任务;
从获取到的不同计算任务中,选择满足第一预设条件的计算任务作为待处理任务;
并将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理;
获取各个计算任务的处理状态以及各个子任务的处理状态;
响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启。
7.根据权利要求6所述的方法,其特征在于,所述获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还包括:
响应用户触发的任务查询请求,从保存的处理状态中查询并输出所述任务查询请求中请求的计算任务或者子任务的处理状态。
8.根据权利要求1所述的方法,其特征在于,所述获取各个计算任务的处理状态以及各个子任务的处理状态之后,所述方法还包括:
响应用户触发的任务修改请求,更新所述任务修改请求中请求的计算任务或子任务的处理状态。
9.根据权利要求6~8任一项所述方法,其特征在于,所述响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作包括:
响应用户根据所述各个计算任务的处理状态以及各个子任务的处理状态触发的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作。
10.一种计算任务调度系统,其特征在于,至少包括一个中心节点以及多个计算节点;
所述中心节点,用于获取计算任务并存储;从存储的不同计算任务中,获得满足第一预设条件的计算任务作为待处理任务,并将所述待处理任务划分为多个子任务,分配到不同的计算节点进行处理;记录各个计算任务的处理状态以及各个子任务的处理状态;响应根据所述各个计算任务的处理状态以及各个子任务的处理状态确定的的任务更新请求,将所述任务更新请求中请求更新的计算任务或子任务进行更新操作,所述更新操作至少包括暂停、结束以及重启;
所述计算节点,用于接收所述中心节点分配的子任务进行处理;根据所中心节点的更新指示,更新其处理的子任务。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510173078.8A CN104750549A (zh) | 2015-04-13 | 2015-04-13 | 计算任务处理装置、方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510173078.8A CN104750549A (zh) | 2015-04-13 | 2015-04-13 | 计算任务处理装置、方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104750549A true CN104750549A (zh) | 2015-07-01 |
Family
ID=53590292
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510173078.8A Pending CN104750549A (zh) | 2015-04-13 | 2015-04-13 | 计算任务处理装置、方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104750549A (zh) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106095534A (zh) * | 2016-06-07 | 2016-11-09 | 百度在线网络技术(北京)有限公司 | 一种计算任务处理方法和系统 |
CN106855824A (zh) * | 2015-12-09 | 2017-06-16 | 北京金山安全软件有限公司 | 一种任务停止方法、装置及电子设备 |
CN106874094A (zh) * | 2017-02-17 | 2017-06-20 | 广州爱九游信息技术有限公司 | 定时任务处理方法、装置及计算设备 |
WO2017114141A1 (en) * | 2015-12-30 | 2017-07-06 | Sengled Optoelectronics Co., Ltd | Distributed task system and service processing method based on internet of things |
CN107092528A (zh) * | 2016-12-30 | 2017-08-25 | 北京小度信息科技有限公司 | 一种分布式任务调度方法、装置及系统 |
CN107341051A (zh) * | 2016-05-03 | 2017-11-10 | 北京京东尚科信息技术有限公司 | 集群任务协调方法、系统和装置 |
CN107766136A (zh) * | 2017-09-30 | 2018-03-06 | 南威软件股份有限公司 | 一种任务集群调度管理的方法 |
CN107888684A (zh) * | 2017-11-13 | 2018-04-06 | 小草数语(北京)科技有限公司 | 分布式系统计算任务处理方法、装置及控制器 |
CN108287751A (zh) * | 2017-01-09 | 2018-07-17 | 阿里巴巴集团控股有限公司 | 任务执行方法及装置、分布式系统 |
CN109508228A (zh) * | 2017-09-15 | 2019-03-22 | 深圳竹云科技有限公司 | 一种数据处理方法、任务执行设备及任务生成设备 |
CN109753300A (zh) * | 2017-11-03 | 2019-05-14 | 阿里巴巴集团控股有限公司 | 一种算法升级方法、计算任务发送方法及相关产品 |
CN110399208A (zh) * | 2019-07-15 | 2019-11-01 | 阿里巴巴集团控股有限公司 | 分布式任务调度拓扑图的展示方法、装置及设备 |
CN110582750A (zh) * | 2017-04-28 | 2019-12-17 | 北京嘀嘀无限科技发展有限公司 | 用于任务调度和设备管理的系统和方法 |
CN110895487A (zh) * | 2018-09-12 | 2020-03-20 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN110895486A (zh) * | 2018-09-12 | 2020-03-20 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN111552547A (zh) * | 2020-04-21 | 2020-08-18 | 北京金山云网络技术有限公司 | 作业处理方法、装置以及计算机设备 |
CN113656166A (zh) * | 2021-09-02 | 2021-11-16 | 上海联影医疗科技股份有限公司 | 一种任务处理系统及其计算资源分配方法 |
CN113918293A (zh) * | 2021-10-11 | 2022-01-11 | 福建天泉教育科技有限公司 | 一种任务启动方法及终端 |
CN115866063A (zh) * | 2021-09-24 | 2023-03-28 | 中国电信股份有限公司 | 需求调度方法、装置、计算机可读存储介质及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101980206A (zh) * | 2010-11-05 | 2011-02-23 | 北京云快线软件服务有限公司 | 文件任务管理工具 |
CN103279385A (zh) * | 2013-06-01 | 2013-09-04 | 北京华胜天成科技股份有限公司 | 一种云计算环境中集群任务调度方法及系统 |
CN103294533A (zh) * | 2012-10-30 | 2013-09-11 | 北京安天电子设备有限公司 | 任务流控制方法及系统 |
CN103473119A (zh) * | 2012-06-06 | 2013-12-25 | 百度在线网络技术(北京)有限公司 | 任务协作装置及方法 |
CN104239148A (zh) * | 2013-06-06 | 2014-12-24 | 腾讯科技(深圳)有限公司 | 一种分布式任务调度方法及装置 |
-
2015
- 2015-04-13 CN CN201510173078.8A patent/CN104750549A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101980206A (zh) * | 2010-11-05 | 2011-02-23 | 北京云快线软件服务有限公司 | 文件任务管理工具 |
CN103473119A (zh) * | 2012-06-06 | 2013-12-25 | 百度在线网络技术(北京)有限公司 | 任务协作装置及方法 |
CN103294533A (zh) * | 2012-10-30 | 2013-09-11 | 北京安天电子设备有限公司 | 任务流控制方法及系统 |
CN103279385A (zh) * | 2013-06-01 | 2013-09-04 | 北京华胜天成科技股份有限公司 | 一种云计算环境中集群任务调度方法及系统 |
CN104239148A (zh) * | 2013-06-06 | 2014-12-24 | 腾讯科技(深圳)有限公司 | 一种分布式任务调度方法及装置 |
Cited By (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106855824A (zh) * | 2015-12-09 | 2017-06-16 | 北京金山安全软件有限公司 | 一种任务停止方法、装置及电子设备 |
CN106855824B (zh) * | 2015-12-09 | 2020-02-28 | 北京金山安全软件有限公司 | 一种任务停止方法、装置及电子设备 |
US10303509B2 (en) | 2015-12-30 | 2019-05-28 | Sengled Optoelectronics Co., Ltd. | Distributed task system based on internet of things and service processing method for distributed tasks based on the same |
WO2017114141A1 (en) * | 2015-12-30 | 2017-07-06 | Sengled Optoelectronics Co., Ltd | Distributed task system and service processing method based on internet of things |
CN107341051A (zh) * | 2016-05-03 | 2017-11-10 | 北京京东尚科信息技术有限公司 | 集群任务协调方法、系统和装置 |
CN106095534A (zh) * | 2016-06-07 | 2016-11-09 | 百度在线网络技术(北京)有限公司 | 一种计算任务处理方法和系统 |
CN107092528A (zh) * | 2016-12-30 | 2017-08-25 | 北京小度信息科技有限公司 | 一种分布式任务调度方法、装置及系统 |
CN108287751A (zh) * | 2017-01-09 | 2018-07-17 | 阿里巴巴集团控股有限公司 | 任务执行方法及装置、分布式系统 |
CN108287751B (zh) * | 2017-01-09 | 2022-02-01 | 阿里巴巴集团控股有限公司 | 任务执行方法及装置、分布式系统 |
CN106874094A (zh) * | 2017-02-17 | 2017-06-20 | 广州爱九游信息技术有限公司 | 定时任务处理方法、装置及计算设备 |
CN110582750A (zh) * | 2017-04-28 | 2019-12-17 | 北京嘀嘀无限科技发展有限公司 | 用于任务调度和设备管理的系统和方法 |
CN109508228A (zh) * | 2017-09-15 | 2019-03-22 | 深圳竹云科技有限公司 | 一种数据处理方法、任务执行设备及任务生成设备 |
CN107766136A (zh) * | 2017-09-30 | 2018-03-06 | 南威软件股份有限公司 | 一种任务集群调度管理的方法 |
CN109753300A (zh) * | 2017-11-03 | 2019-05-14 | 阿里巴巴集团控股有限公司 | 一种算法升级方法、计算任务发送方法及相关产品 |
CN109753300B (zh) * | 2017-11-03 | 2022-05-06 | 阿里巴巴集团控股有限公司 | 一种算法升级方法、计算任务发送方法及相关装置 |
CN107888684A (zh) * | 2017-11-13 | 2018-04-06 | 小草数语(北京)科技有限公司 | 分布式系统计算任务处理方法、装置及控制器 |
CN110895487A (zh) * | 2018-09-12 | 2020-03-20 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN110895486A (zh) * | 2018-09-12 | 2020-03-20 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN110895487B (zh) * | 2018-09-12 | 2023-03-10 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN110895486B (zh) * | 2018-09-12 | 2022-08-12 | 北京奇虎科技有限公司 | 分布式任务调度系统 |
CN110399208A (zh) * | 2019-07-15 | 2019-11-01 | 阿里巴巴集团控股有限公司 | 分布式任务调度拓扑图的展示方法、装置及设备 |
CN110399208B (zh) * | 2019-07-15 | 2023-10-31 | 创新先进技术有限公司 | 分布式任务调度拓扑图的展示方法、装置及设备 |
CN111552547A (zh) * | 2020-04-21 | 2020-08-18 | 北京金山云网络技术有限公司 | 作业处理方法、装置以及计算机设备 |
CN113656166A (zh) * | 2021-09-02 | 2021-11-16 | 上海联影医疗科技股份有限公司 | 一种任务处理系统及其计算资源分配方法 |
CN115866063A (zh) * | 2021-09-24 | 2023-03-28 | 中国电信股份有限公司 | 需求调度方法、装置、计算机可读存储介质及电子设备 |
CN113918293A (zh) * | 2021-10-11 | 2022-01-11 | 福建天泉教育科技有限公司 | 一种任务启动方法及终端 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104750549A (zh) | 计算任务处理装置、方法及系统 | |
CN110383764B (zh) | 无服务器系统中使用历史数据处理事件的系统和方法 | |
CN106020966B (zh) | 用于将任务智能地分布于多个劳动资源间的系统和方法 | |
CN101533417B (zh) | 一种实现etl调度的方法及系统 | |
KR102199275B1 (ko) | 분산 컴퓨팅 시스템에서의 적응적 리소스 관리 | |
KR20220032007A (ko) | 디지털 노동력 지능형 오케스트레이션을 위한 시스템들 및 방법들 | |
US11620168B2 (en) | Managing metadata for a distributed processing system with manager agents and worker agents | |
CN111984385A (zh) | 基于装饰bim模型的任务调度方法和任务调度装置 | |
CN105357258A (zh) | 一种加速管理节点、加速节点、客户端及方法 | |
CN114610499A (zh) | 任务调度方法、装置、计算机可读存储介质及电子设备 | |
CN111709723A (zh) | Rpa业务流程智能处理方法、装置、计算机设备和存储介质 | |
CN116126501A (zh) | 任务分配方法、装置、智能设备和存储介质 | |
CN112416542A (zh) | 分布式任务系统、管理方法、装置和计算机设备 | |
CN108958933B (zh) | 任务执行器的配置参数更新方法、装置及设备 | |
CN107172149A (zh) | 大数据即时调度方法 | |
CN111831503A (zh) | 一种基于监控代理的监控方法和监控代理装置 | |
CN109829639A (zh) | 服务项目监控方法及装置 | |
JP2017191387A (ja) | データ処理プログラム、データ処理方法およびデータ処理装置 | |
CN109189581A (zh) | 一种作业调度方法和装置 | |
CN110188258B (zh) | 使用爬虫获取外部数据的方法及装置 | |
US8788601B2 (en) | Rapid notification system | |
CN110971660B (zh) | 多服务器控制方法及装置 | |
CN111556126B (zh) | 模型管理方法、系统、计算机设备和存储介质 | |
CN114816735A (zh) | 一种基于Nacos分布式集群执行数据分析任务的系统及方法 | |
CN107491448A (zh) | 一种HBase资源调整方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20150701 |