CN111694645A - 分布式任务调度系统中任务处理方法及相关装置 - Google Patents
分布式任务调度系统中任务处理方法及相关装置 Download PDFInfo
- Publication number
- CN111694645A CN111694645A CN202010457097.4A CN202010457097A CN111694645A CN 111694645 A CN111694645 A CN 111694645A CN 202010457097 A CN202010457097 A CN 202010457097A CN 111694645 A CN111694645 A CN 111694645A
- Authority
- CN
- China
- Prior art keywords
- task
- server
- message
- execution
- cache
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
- G06F16/24578—Query processing with adaptation to user needs using ranking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Multi Processors (AREA)
Abstract
本申请是关于一种分布式任务调度系统中任务处理方法及相关装置,属于计算机技术领域,该方法包括:当客户端通过存储任务的运行中状态消息至延时队列及将任务的标识存入任务缓存,开始执行任务;从延时队列获取延时的运行中状态消息,并确定任务的标识是否存在于任务缓存中;如果任务的标识存在于所述任务缓存中,则将延时的运行中状态消息发送给服务端;当任务执行结束后,将任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。本申请的实施例有效降低分布式系统中任务调度时消息处理负荷,提升任务吞吐量。
Description
技术领域
本申请涉及计算机技术领域,具体而言,涉及一种分布式任务调度系统中任务处理方法、装置、介质及电子设备。
背景技术
分布式任务调度系统,实现了任务调度与任务运行分离,即服务端负责任务调度,客户端负责具体任务运行。这样在任务执行与任务调度分离的状态下,任务执行状态需要进行有效的监管,目前,通常在任务执行时的各个节点由客户端向服务端反馈任务执行状态消息,这样由于任务执行情况复杂多样,状态消息的反馈会比较混乱,导致分布式系统中任务调度时消息处理负荷较大,任务吞吐量有限。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本申请的目的在于提供一种分布式任务调度系统中任务处理方案,进而至少在一定程度上保证分布式系统任务调度的可靠性的情况下,有效降低分布式系统中任务调度时消息处理负荷,提升任务吞吐量。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理方法,包括:
当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
在本申请的一种示例性实施例中,所述当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,包括:
当客户端接收到服务端发送的任务的触发消息,获取所述触发消息中任务的预测运行时长,所述预测预测运行时长通过将所述任务的执行相关参数输入预设时长预测模型得到;
当所述预测运行时长小于预定阈值时,通过存储所述任务的运行中状态消息至所述延时队列并将所述任务的标识存入所述任务缓存,开始执行所述任务。
在本申请的一种示例性实施例中,所述从所述延时队列获取延时的运行中状态消息,包括:
基于守护线程从所述延时队列获取延时的运行中状态消息。
在本申请的一种示例性实施例中,在所述从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中之后,还包括:
如果所述任务的标识不存在于所述任务缓存中,则不发送所述延时的运行中状态消息给服务端。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理方法,其包括:
服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理方法,其包括:
消息服务器接收到服务端发送的任务的触发消息时,将所述触发消息发送至客户端,以使得所述客户端通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务;
当接收到所述客户端发送的延时的运行中状态消息时,将所述延时的运行中状态消息发送至服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录,所述延时的运行中状态消息为所述客户端从所述延时队列获取且在确定所述任务的标识存在于所述任务缓存中后发送的;
接收所述客户端发送的所述任务的执行结果,将所述任务执行结果发送给服务端,以使得所述服务端根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
在本申请的一种示例性实施例中,所述消息服务器包括zookeeper消息服务器和/或MQ消息服务器。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理装置,其包括:
启动模块,用于当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
确定模块,用于从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
第一发送模块,用于如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
结束模块,用于当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理装置,其包括:
触发模块,用于服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造模块,用于构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
第一更新模块,用于当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
第二更新模块,用于接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
根据本申请的一个方面,提供一种分布式任务调度系统中任务处理装置,其包括:
第二发送模块,用于消息服务器接收到服务端发送的任务的触发消息时,将所述触发消息发送至客户端,以使得所述客户端通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务;
第三发送模块,用于当接收到所述客户端发送的延时的运行中状态消息时,将所述延时的运行中状态消息发送至服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录,所述延时的运行中状态消息为所述客户端从所述延时队列获取且在确定所述任务的标识存在于所述任务缓存中后发送的;
第四发送模块,用于接收所述客户端发送的所述任务的执行结果,将所述任务执行结果发送给服务端,以使得所述服务端根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
根据本申请的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现上述任一项所述的方法。
根据本申请的一个方面,提供一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的计算机程序指令;其中,所述处理器配置为经由执行所述计算机程序指令来执行上述任一项所述的方法。
本申请一种分布式任务调度系统中任务处理方法及装置,首先,当客户端接收到服务端发送的任务的触发消息,通过存储该任务的运行中状态消息至延时队列及将该任务的标识存入任务缓存,开始执行该任务,该任务缓存用于缓存未完成任务的标识;这样通过延时队列对用于向服务端反馈任务运行状态的状态消息进行延时保存,同时在任务缓存中标记该任务未完成,然后开始执行该任务,可以客户端对任意复杂度的任务的状态实现可靠管理。
然后,从延时队列获取延时的运行中状态消息,并确定任务的标识是否存在于任务缓存中;可以通过延时的运行中状态消息延迟状态反馈,并通过任务的标识是否存在于任务缓存中验证该任务的状态(延迟的运行中状态)是否正确。
然后,如果该任务的标识存在于该任务缓存中,则将延时的运行中状态消息发送给服务端,以使得服务端根据接收到的运行中状态消息更新任务的执行记录;可以通过任务的标识存在于该任务缓存中确定任务未完成,而且,任务的运行中状态消息已经通过延时队列延迟了反馈时间,此时,向服务端发送该延时的运行中状态消息,可以实现对运行中状态消息延迟后反馈,即在延迟后如果已经完成就不发送(对执行时间短的任务不向服务端反馈该消息),有效降低分布式系统中任务调度时消息处理负荷。
最后,当任务执行结束后,将任务的标识从任务缓存中删除,并将任务的执行结果反馈至服务端,以使得服务端再次更新所述任务的执行记录,完成该任务在分布式任务调度系统的执行;通过任务的标识从任务缓存中删除,避免运行中状态消息的重反馈,同时,将执行结果反馈至服务端,反馈任务执行完成使得服务端更新本地执行记录,完成该任务的执行,使得分布式任务调度系统在任务执行情况复杂多样的情况下,状态消息的反馈有序高效合理,任务调度时消息处理负荷降低,任务吞吐量提升。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出一种分布式任务调度系统中任务处理方法的流程图。
图2示意性示出一种分布式任务调度系统中任务处理方法的应用场景示例图。
图3示意性示出一种启动任务的方法流程图。
图4示意性示出一种分布式任务调度系统中任务处理装置的方框图。
图5示意性示出一种用于实现上述分布式任务调度系统中任务处理方法的电子设备示例框图。
图6示意性示出一种用于实现上述分布式任务调度系统中任务处理方法的计算机可读存储介质。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本申请将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本申请的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本申请的各方面变得模糊。
此外,附图仅为本申请的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本示例实施方式中首先提供了分布式任务调度系统中任务处理方法,该分布式任务调度系统中任务处理方法可以运行于服务器,也可以运行于服务器集群或云服务器等,当然,本领域技术人员也可以根据需求在其他平台运行本发明的方法,本示例性实施例中对此不做特殊限定。参考图1所示,该分布式任务调度系统中任务处理方法可以包括以下步骤:
步骤S110,当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
步骤S120,从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
步骤S130,如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
步骤S140,当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
上述分布式任务调度系统中任务处理方法中,首先,当客户端接收到服务端发送的任务的触发消息,通过存储该任务的运行中状态消息至延时队列及将该任务的标识存入任务缓存,开始执行该任务,该任务缓存用于缓存未完成任务的标识;这样通过延时队列对用于向服务端反馈任务运行状态的状态消息进行延时保存,同时在任务缓存中标记该任务未完成,然后开始执行该任务,可以客户端对任意复杂度的任务的状态实现可靠管理。
然后,从延时队列获取延时的运行中状态消息,并确定任务的标识是否存在于任务缓存中;可以通过延时的运行中状态消息延迟状态反馈,并通过任务的标识是否存在于任务缓存中验证该任务的状态(延迟的运行中状态)是否正确。
然后,如果该任务的标识存在于该任务缓存中,则将延时的运行中状态消息发送给服务端,以使得服务端根据接收到的运行中状态消息更新任务的执行记录;可以通过任务的标识存在于该任务缓存中确定任务未完成,而且,任务的运行中状态消息已经通过延时队列延迟了反馈时间,此时,向服务端发送该延时的运行中状态消息,可以实现对运行中状态消息延迟后反馈,即在延迟后如果已经完成就不发送(对执行时间短的任务不向服务端反馈该消息),有效降低分布式系统中任务调度时消息处理负荷。
最后,当任务执行结束后,将任务的标识从任务缓存中删除,并将任务的执行结果反馈至服务端,以使得服务端再次更新所述任务的执行记录,完成该任务在分布式任务调度系统的执行;通过任务的标识从任务缓存中删除,避免运行中状态消息的重反馈,同时,将执行结果反馈至服务端,反馈任务执行完成使得服务端更新本地执行记录,完成该任务的执行,使得分布式任务调度系统在任务执行情况复杂多样的情况下,状态消息的反馈有序高效合理,任务调度时消息处理负荷降低,任务吞吐量提升。
下面,将结合附图对本示例实施方式中上述分布式任务调度系统中任务处理方法中的各步骤进行详细的解释以及说明。
本申请的一种实施例中,参考图2所示,分布式任务调度系统可以包括客户端201(用于任务执行)、服务端202(用于任务监控)及连接在客户端201与服务端202之间的消息服务器203(用于消息传递)。
上述分布式任务调度系统中任务处理方法在如图2所示的客户端201中的各步骤可以包括:
在步骤S110中,当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识。
在本示例的实施方式中,参考图2所示,客户端201接收到服务端202的任务的触发消息,然后客户端201就可以通过存储任务的运行中状态消息至延时队列及将该任务的标识存入任务缓存,开始执行该任务,其中,该任务缓存用于缓存未完成任务的标识。其中,服务端202可以是任何具有执行程序指令、存储功能的终端,例如云服务器、手机、电脑等;客户端201可以是任何具有任务执行、消息反馈功能的终端,例如手机、电脑等。
分布式任务调度系统,实现了任务调度与任务运行分离,即服务端负责任务调度,客户端负责具体任务运行。任务运行时间有长短,有些任务可能1秒内就运行完成,而有些任务可能需要运行好几个小时。
客户端收到服务端下发的任务的触发消息后,检查触发消息是否有效,任务参数是否正确,并尝试获取任务锁,如果获取锁成功,客户端通过将运行中状态消息存储至延时队列,可以将运行中状态消息延时后反馈至任务调度服务端。同时,将任务的标识存入任务缓存可以根据任务标识进行任务执行情况的监测。通过延时队列对用于向服务端反馈任务运行状态的状态消息进行延时保存,同时在任务缓存中标记该任务未完成,然后开始执行该任务,可以客户端对任意复杂度的任务的状态实现可靠管理。
其中,延时队列可以使用JAVA延迟队列DelayQueue,可以根据需求设定延时时间,例如,10秒。一个示例中,客户端收到任务触发消息,检查消息是否有效,任务参数是否正确,并尝试获取任务锁,如果获取锁成功,将“运行中”状态消息存储到JAVA延迟队列DelayQueue,延迟时间为10秒。随后将任务的标识存入记录正在运行的任务缓存(类型可为ConcurrentHashMap),并开始执行任务。
分布式任务调度系统准备执行任务时,一般要反馈1条状态消息,告诉服务端任务正在运行(运行中状态消息),然后执行任务,任务执行完后,再反馈1条消息,告诉服务端任务执行结果,使得服务端实时更新执行记录。对于任务执行时间很长的任务,如果不发馈“运行中”消息,运维人员不知道任务当前状态。对于任务执行时间很短的任务,如果不做优化,会在短时间内发送两条消息给服务端。对于大量任务的系统这会增加服务端处理负担,也极大可能会导致执行记录的并发修改。
一种实施例中,参考图3所示,所述当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,包括:
步骤S310,当客户端接收到服务端发送的任务的触发消息,获取所述触发消息中任务的预测运行时长,所述预测预测运行时长通过将所述任务的执行相关参数输入预设时长预测模型得到;
步骤S320,当所述预测运行时长小于预定阈值时,通过存储所述任务的运行中状态消息至所述延时队列并将所述任务的标识存入所述任务缓存,开始执行所述任务。
预设时长预测模型是根据任务的执行相关参数(例如,任务的类型、执行目标、关键执行参数及系统运行环境等)的样本及统计的对应的运行时长训练出来的机器学习模型,可以在误差范围内预测到每个任务的预测运行时长。然后,当预测运行时长小于预定阈值时,说明任务的执行过程中,从开始运行到运行结束时间较短,可以通过不发送运行中状态消息,避免服务端处理负担及导致执行记录的并发修改。然后,通过当预测运行时长小于预定阈值时,存储任务的运行中状态消息至延时队列,并将任务的标识存入任务缓存,以开始执行所述任务,可以,只对小于预定运行时长的状态消息进行延时,避免不必要的延时,总体保证所有状态消息反馈的及时性。
在步骤S120中,从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中。
在本示例的实施方式中,延时队列将接收到的运行中状态消息进行延时保存,可以在预定延时时间后从延时队列获取待发送的延时消息,也就是延时的运行中状态消息。
从延时队列中获取待发送的延时消息(只有存入延时队列超过预定延时时间的状态消息才会被获取,否则阻塞)。
同时,确定该任务的标识是否存在于任务缓存中,如果存在于任务缓存中说明任务还没有执行完成,如果不存在于任务缓存中说明任务已执行完成。
可以实现根据任务是否执行完成的监测,决定是否发送延时的状态消息。
例如,后续如果任务标识在任务缓存中不存在,说明任务已经执行完成,则不发送延时的“运行中状态消息”。这样例如在客户端主要通过使用JAVA延迟队列DelayQueue,设置10秒钟(可配置)的延迟时间,在延迟时间后,判断任务是否已执行完成,如果执行完成,则不发送该消息,从而减少“运行中”消息数量。
一种实施例中,所述从所述延时队列获取延时的运行中状态消息,包括:
基于守护线程从所述延时队列获取延时的运行中状态消息。
守护线程拥有自动结束自己生命周期的特性,守护线程可以被用来执行后台任务,在程序退出时,守护线程可以自动关闭。基于守护线程从延时队列获取延时的运行中状态消息,可以保证客户端任务执行的灵活性。
在步骤S130中,如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录。
在本示例的实施方式中,如果所述延时发送的运行中状态消息所对应任务的任务标识存在于任务缓存中,说明该任务还没有完成,正在执行,此时,将延时发送的运行中状态消息发送给服务端,以使得服务端根据接收到的运行中状态消息更新任务的执行记录;同时可以在任务已完成的情况下,不发送该延时的运行中状态消息。进而保证,任务状态的有效监控的同时,减少任务调度服务器的处理消息的数量,减少任务运行记录并发修改冲突,提高服务端处理任务状态消息的吞吐能力。
一种实施例中,在客户端通过MQ或zookeeper消息服务器反馈“运行中”消息给服务端时,可以减少MQ或zookeeper消息服务器的压力。
一种实施例中,在所述从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中之后,还包括:
如果所述任务的标识不存在于所述任务缓存中,则不发送所述延时的运行中状态消息给服务端。
在任务已完成的情况下,不发送该延时的运行中状态消息。进而保证,任务状态的有效监控的同时,减少任务调度服务器的处理消息的数量,减少任务运行记录并发修改冲突,提高服务端处理任务状态消息的吞吐能力。
在步骤S140中,当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
在本示例的实施方式中,在任务执行结束后,通过将任务的任务标识从任务缓存中删除,并将任务的执行结果反馈至服务端,服务端可以更新任务的执行记录中的任务状态,任务运行起始时间、结束时间等。完成所述任务在分布式任务调度系统的执行。其中,任务执行结果为运行成功或运行失败。
这样,本申请可以在客户端通过使用延迟队列,通过延时队列对客户端在准备执行任务时,对运行中状态反馈的运行中状态消息延迟,在延迟时间后,通过任务缓存中的任务标识判断任务是否已执行完成,如果执行完成,则不发送该运行中状态消息,从而减少“运行中”消息数量。有效避免例如准备执行任务时,一般要反馈1条消息,告诉服务端任务正在运行,然后执行任务,任务执行完后,再反馈1条消息,告诉服务端任务执行结果。对于任务执行时间很短的任务,会在短时间内发送两条消息给服务端,这会增加服务端处理负担,也极大可能会导致记录的并发修改。而基于本申请的实施例可以在延迟队列的预定延时时间内运行完成的任务,不发送“运行中”消息,可以减少MQ服务器的压力,可以减少任务调度服务端处理消息的数量,减少任务运行记录并发修改冲突,提高服务端处理任务状态消息的吞吐能力。
一种分布式任务调度系统中任务处理方法,其特征在于,包括:
服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
上述分布式任务调度系统中任务处理方法在如图2所示的服务端202中的各步骤可以包括:
服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
服务端可以集成任务调度框架quartz,在任务到点触发时,会先将任务的执行记录保存到数据库,此时执行记录中任务的状态为待通知。服务端构造任务的触发消息并将其发送到客户端,如果发送成功,更新执行记录中任务状态为待运行。然后根据客户端反馈的执行状态,可以实时监控任务执行情况。
上述分布式任务调度系统中任务处理方法在如图2所示的消息服务器203中的各步骤可以包括:
消息服务器接收到服务端发送的任务的触发消息时,将所述触发消息发送至客户端,以使得所述客户端通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务;
当接收到所述客户端发送的延时的运行中状态消息时,将所述延时的运行中状态消息发送至服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录,所述延时的运行中状态消息为所述客户端从所述延时队列获取且在确定所述任务的标识存在于所述任务缓存中后发送的;
接收所述客户端发送的所述任务的执行结果,将所述任务执行结果发送给服务端,以使得所述服务端根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
服务端可以集成任务调度框架quartz,在任务到点触发时,会先将任务执行记录保存到数据库,此时任务的状态为待通知。服务端构造任务的触发消息并将其发送到MQ或zookeeper消息服务器,如果发送成功,更新任务状态为待运行。
在客户端通过使用延迟队列,设置延迟时间,在延迟时间后,通过任务缓存中的任务标识判断任务是否已执行完成,如果执行完成,则不发送该消息,从而减少“运行中”消息数量。经过统计,目前服务器性能普遍较高,10秒内运行完成的任务数量占比较大。如果任务在10秒内运行完成,由于不发送“运行中”消息,可以有效减少zookeeper消息服务器和/或MQ消息服务器的压力,也减少了任务调度服务器处理消息的数量,减少任务运行记录并发修改冲突,提高服务端处理任务状态消息的吞吐能力。
一种实施例中,所述消息服务器包括zookeeper消息服务器和/或MQ消息服务器。
ZooKeeper消息服务器中特有watcher注册与异步通知机制,能够很好的实现分布式环境下不同系统之间的通知与协调,实现对数据变更的实时处理。使用方法通常是不同系统都对ZooKeeper上同一个znode进行注册,监听znode的变化(包括znode本身内容及子节点的),其中一个系统更新了znode,那么另一个系统能够收到通知,并作出相应处理。其工作机制可以是心跳检测机制:检测系统和被检测系统之间并不直接关联起来,而是通过zk上某个节点关联,大大减少系统耦合。也可以是工作汇报模式:类似于任务分发系统,子任务启动后,到ZooKeeper来注册一个临时节点,并且定时将自己的进度进行汇报(将进度写回这个临时节点),这样任务管理者就能够实时知道任务进度。总之,使用zookeeper消息服务器来进行分布式通知和协调能够有效降低系统之间的耦合。
消息队列(MQ)消息服务器是一种应用程序对应用程序的通信方法。应用程序通过写和检索出入列队的针对应用程序的数据(消息)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术。应用程序通过队列来通信,队列的使用除去了接收(客户端)和发送应用程序(任务调度系统)同时执行的要求。使用MQ消息服务器来进行分布式通知和协调也能够有效降低系统之间的耦合。
本申请还提供了一种分布式任务调度系统中任务处理装置。参考图4所示,该分布式任务调度系统中任务处理装置可以包括启动模块410、确定模块420、发送模块430、结束模块440。其中:
启动模块410可以用于当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
确定模块420可以用于从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
发送模块430可以用于如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
结束模块440可以用于当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
还提供了另一种分布式任务调度系统中任务处理装置其包括:
触发模块可以用于服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造模块可以用于构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
第一更新模块可以用于当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
第二更新模块可以用于接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
还提供了另一种分布式任务调度系统中任务处理装置其包括:
第二发送模块可以用于消息服务器接收到服务端发送的任务的触发消息时,将所述触发消息发送至客户端,以使得所述客户端通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务;
第三发送模块可以用于当接收到所述客户端发送的延时的运行中状态消息时,将所述延时的运行中状态消息发送至服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录,所述延时的运行中状态消息为所述客户端从所述延时队列获取且在确定所述任务的标识存在于所述任务缓存中后发送的;
第四发送模块可以用于接收所述客户端发送的所述任务的执行结果,将所述任务执行结果发送给服务端,以使得所述服务端根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
上述分布式任务调度系统中任务处理装置中各模块的具体细节已经在对应的分布式任务调度系统中任务处理方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本申请中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本申请实施方式的方法。
在本申请的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图5来描述根据本发明的这种实施方式的电子设备500。图5显示的电子设备500仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500以通用计算设备的形式表现。电子设备500的组件可以包括但不限于:上述至少一个处理单元510、上述至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元510执行,使得所述处理单元510执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元510可以执行如图1中所示的:
步骤S110,当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
步骤S120,从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
步骤S130,如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
步骤S140,当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
存储单元520可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202,还可以进一步包括只读存储单元(ROM)5203。
存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204,这样的程序模块5205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得客户能与该电子设备500交互的设备通信,和/或与使得该电子设备500能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口550进行,还可以包括与输入/输出(I/O)接口550连接的显示单元540。并且,电子设备500还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器560通过总线530与电子设备500的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备500使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本申请实施方式的方法。
在本申请的示例性实施例中,参考图6所示,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图6所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品600,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在客户计算设备上执行、部分地在客户设备上执行、作为一个独立的软件包执行、部分在客户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到客户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其他实施例。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由权利要求指出。
Claims (10)
1.一种分布式任务调度系统中任务处理方法,其特征在于,包括:
当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
2.根据权利要求1所述的方法,其特征在于,所述当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,包括:
当客户端接收到服务端发送的任务的触发消息,获取所述触发消息中任务的预测运行时长,所述预测预测运行时长通过将所述任务的执行相关参数输入预设时长预测模型得到;
当所述预测运行时长小于预定阈值时,通过存储所述任务的运行中状态消息至所述延时队列并将所述任务的标识存入所述任务缓存,开始执行所述任务。
3.根据权利要求1所述的方法,其特征在于,所述从所述延时队列获取延时的运行中状态消息,包括:
基于守护线程从所述延时队列获取延时的运行中状态消息。
4.根据权利要求1所述的方法,其特征在于,在所述从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中之后,还包括:
如果所述任务的标识不存在于所述任务缓存中,则不发送所述延时的运行中状态消息给服务端。
5.一种分布式任务调度系统中任务处理方法,其特征在于,包括:
服务端在任务到点触发时,将所述任务的执行记录保存到数据库,所述执行记录中所述任务的状态为待通知;
构造所述任务的触发消息发送到客户端,并更新所述执行记录中所述任务的状态为待运行;
当接收到客户端发送的运行中状态消息,根据接收到的所述运行中状态消息更新所述执行记录中所述任务的状态为运行中;
接收客户端发送的所述任务的执行结果,通过根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
6.一种分布式任务调度系统中任务处理方法,其特征在于,包括:
消息服务器接收到服务端发送的任务的触发消息时,将所述触发消息发送至客户端,以使得所述客户端通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务;
当接收到所述客户端发送的延时的运行中状态消息时,将所述延时的运行中状态消息发送至服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录,所述延时的运行中状态消息为所述客户端从所述延时队列获取且在确定所述任务的标识存在于所述任务缓存中后发送的;
接收所述客户端发送的所述任务的执行结果,将所述任务执行结果发送给服务端,以使得所述服务端根据接收到的所述执行结果更新所述任务的执行记录中所述任务的状态为执行结束,完成所述任务在分布式任务调度系统的执行。
7.根据权利要求6所述的方法,其特征在于,所述消息服务器包括zookeeper消息服务器和/或MQ消息服务器。
8.一种分布式任务调度系统中任务处理装置,其特征在于,包括:
启动模块,用于当客户端接收到服务端发送的任务的触发消息,通过存储所述任务的运行中状态消息至延时队列及将所述任务的标识存入任务缓存,开始执行所述任务,所述任务缓存用于缓存未完成任务的标识;
确定模块,用于从所述延时队列获取延时的运行中状态消息,并确定所述任务的标识是否存在于所述任务缓存中;
发送模块,用于如果所述任务的标识存在于所述任务缓存中,则将所述延时的运行中状态消息发送给服务端,以使得所述服务端根据接收到的所述运行中状态消息更新所述任务的执行记录;
结束模块,用于当所述任务执行结束后,将所述任务的标识从所述任务缓存中删除,并将所述任务的执行结果反馈至所述服务端,以使得所述服务端再次更新所述任务的执行记录,完成所述任务在分布式任务调度系统的执行。
9.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1-7任一项所述的方法。
10.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的计算机程序指令;其中,所述处理器配置为经由执行所述计算机程序指令来执行权利要求1-7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010457097.4A CN111694645B (zh) | 2020-05-26 | 2020-05-26 | 分布式任务调度系统中任务处理方法及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010457097.4A CN111694645B (zh) | 2020-05-26 | 2020-05-26 | 分布式任务调度系统中任务处理方法及相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111694645A true CN111694645A (zh) | 2020-09-22 |
CN111694645B CN111694645B (zh) | 2022-05-24 |
Family
ID=72478317
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010457097.4A Active CN111694645B (zh) | 2020-05-26 | 2020-05-26 | 分布式任务调度系统中任务处理方法及相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111694645B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112596882A (zh) * | 2020-12-25 | 2021-04-02 | 上海悦易网络信息技术有限公司 | 一种延时任务调度的方法、设备及系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050038886A1 (en) * | 2003-07-24 | 2005-02-17 | Garg Man M. | Method of providing continuous feedback |
US7945813B1 (en) * | 2006-12-16 | 2011-05-17 | United Services Automobile Association (Usaa) | Automated delayed message redelivery |
CN106844198A (zh) * | 2016-12-27 | 2017-06-13 | 浪潮软件集团有限公司 | 一种分布式调度自动化测试平台及方法 |
CN107748695A (zh) * | 2017-10-24 | 2018-03-02 | 平安科技(深圳)有限公司 | 定时任务处理方法、装置、存储介质和计算机设备 |
CN108287764A (zh) * | 2018-01-31 | 2018-07-17 | 上海携程商务有限公司 | 分布式任务调度方法及其系统、存储介质、电子设备 |
CN109298924A (zh) * | 2018-09-26 | 2019-02-01 | 中国平安人寿保险股份有限公司 | 定时任务的管理方法、计算机可读存储介质和终端设备 |
CN109408210A (zh) * | 2018-09-27 | 2019-03-01 | 北京车和家信息技术有限公司 | 分布式定时任务管理方法及系统 |
CN110263869A (zh) * | 2019-06-25 | 2019-09-20 | 咪咕文化科技有限公司 | 一种Spark任务的时长预测方法及装置 |
CN110851465A (zh) * | 2019-11-15 | 2020-02-28 | 腾讯科技(深圳)有限公司 | 数据查询方法及系统 |
-
2020
- 2020-05-26 CN CN202010457097.4A patent/CN111694645B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050038886A1 (en) * | 2003-07-24 | 2005-02-17 | Garg Man M. | Method of providing continuous feedback |
US7945813B1 (en) * | 2006-12-16 | 2011-05-17 | United Services Automobile Association (Usaa) | Automated delayed message redelivery |
CN106844198A (zh) * | 2016-12-27 | 2017-06-13 | 浪潮软件集团有限公司 | 一种分布式调度自动化测试平台及方法 |
CN107748695A (zh) * | 2017-10-24 | 2018-03-02 | 平安科技(深圳)有限公司 | 定时任务处理方法、装置、存储介质和计算机设备 |
CN108287764A (zh) * | 2018-01-31 | 2018-07-17 | 上海携程商务有限公司 | 分布式任务调度方法及其系统、存储介质、电子设备 |
CN109298924A (zh) * | 2018-09-26 | 2019-02-01 | 中国平安人寿保险股份有限公司 | 定时任务的管理方法、计算机可读存储介质和终端设备 |
CN109408210A (zh) * | 2018-09-27 | 2019-03-01 | 北京车和家信息技术有限公司 | 分布式定时任务管理方法及系统 |
CN110263869A (zh) * | 2019-06-25 | 2019-09-20 | 咪咕文化科技有限公司 | 一种Spark任务的时长预测方法及装置 |
CN110851465A (zh) * | 2019-11-15 | 2020-02-28 | 腾讯科技(深圳)有限公司 | 数据查询方法及系统 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112596882A (zh) * | 2020-12-25 | 2021-04-02 | 上海悦易网络信息技术有限公司 | 一种延时任务调度的方法、设备及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111694645B (zh) | 2022-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8730816B2 (en) | Dynamic administration of event pools for relevant event and alert analysis during event storms | |
US9389943B2 (en) | Determining a number of unique incidents in a plurality of incidents for incident processing in a distributed processing system | |
US8639980B2 (en) | Administering incident pools for event and alert analysis | |
US8943366B2 (en) | Administering checkpoints for incident analysis | |
US8898299B2 (en) | Administering incident pools for event and alert analysis | |
US8713366B2 (en) | Restarting event and alert analysis after a shutdown in a distributed processing system | |
US9213621B2 (en) | Administering event pools for relevant event analysis in a distributed processing system | |
US10171289B2 (en) | Event and alert analysis in a distributed processing system | |
US9170860B2 (en) | Parallel incident processing | |
US20120330918A1 (en) | Flexible event data content management for relevant event and alert analysis within a distributed processing system | |
US20120110600A1 (en) | Relevant Alert Delivery With Event And Alert Suppression In A Distributed Processing System | |
US9256482B2 (en) | Determining whether to send an alert in a distributed processing system | |
US20120331485A1 (en) | Flexible Event Data Content Management For Relevant Event And Alert Analysis Within A Distributed Processing System | |
US9086968B2 (en) | Checkpointing for delayed alert creation | |
CN110968438A (zh) | 事件消息异步通知方法、装置、电子设备、存储介质 | |
US9361184B2 (en) | Selecting during a system shutdown procedure, a restart incident checkpoint of an incident analyzer in a distributed processing system | |
CN113382056A (zh) | 数据上报方法、装置、设备、存储介质及系统 | |
CN111694645B (zh) | 分布式任务调度系统中任务处理方法及相关装置 | |
CN113238815A (zh) | 一种接口访问控制方法、装置、设备及存储介质 | |
CN114816866A (zh) | 故障处理方法、装置、电子设备和存储介质 | |
CN113656239A (zh) | 针对中间件的监控方法、装置及计算机程序产品 | |
US11941432B2 (en) | Processing system, processing method, higher-level system, lower-level system, higher-level program, and lower-level program | |
CN115599634A (zh) | 一种数据处理方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |