CN115576684A - 任务处理方法、装置、电子设备及存储介质 - Google Patents
任务处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115576684A CN115576684A CN202211172522.0A CN202211172522A CN115576684A CN 115576684 A CN115576684 A CN 115576684A CN 202211172522 A CN202211172522 A CN 202211172522A CN 115576684 A CN115576684 A CN 115576684A
- Authority
- CN
- China
- Prior art keywords
- task
- execution
- server
- subtasks
- subtask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 55
- 238000000034 method Methods 0.000 claims abstract description 52
- 230000015654 memory Effects 0.000 claims description 38
- 230000004044 response Effects 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 34
- 238000004590 computer program Methods 0.000 claims description 14
- 238000012544 monitoring process Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000003993 interaction Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5066—Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multi Processors (AREA)
Abstract
本公开提出一种任务处理方法、装置、电子设备及存储介质,其中,任务处理方法包括:获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务;接收任务执行服务器发送的任务执行请求;基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务;接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。本公开能够根据任务执行服务器的任务执行能力来分发任务,从而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种任务处理方法、装置、电子设备及存储介质。
背景技术
在业务的处理任务量较大时,为了提高业务的处理效率,通常将业务的总任务拆分成多个子任务,分发到不同的服务器执行,以提高业务的处理效率。
相关技术中,将业务的总任务拆分成子任务分发给(Message Queue,MQ)中间件,由MQ推送给各个任务执行服务器执行,以得到总任务的执行结果。
相关技术无法知晓各个任务执行服务器当前的任务执行能力,因此无法根据任务执行服务器当前的任务执行能力来分发任务,从而难以充分发挥任务执行服务器的任务执行能力,导致任务执行的效率较低。
发明内容
本公开提出一种任务处理方法、装置、电子设备、存储介质及计算机程序产品。
本公开第一方面实施例提出了一种任务处理方法,由任务调度服务器执行,该方法包括:
获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务;接收任务执行服务器发送的任务执行请求;
基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务;
接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。本公开实施例中,任务调度服务器可以根据任务执行服务器发送的任务执行请求,知晓任务执行服务器的任务执行能力,从而能够根据任务执行服务器的任务执行能力来分发任务,进而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
本公开第二方面实施例提出了一种任务处理方法,由任务执行服务器执行,该方法包括:
生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务;
接收任务调度服务器发送的预执行子任务;
执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。
本公开实施例中,生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务,接收任务调度服务器发送的预执行子任务,执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。本公开实施例中,任务执行服务器可以根据自身当前的执行能力,请求任务调度服务器分发任务,从而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
本公开第三方面实施例提出了一种任务处理方法,由任务发布服务器执行,该方法包括:
基于当前业务场景生成总任务;
将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果;
接收任务调度服务器发送的执行结果。
本公开实施例中,基于当前业务场景生成总任务,将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果,接收任务调度服务器发送的执行结果。本公开实施例中,任务发布服务器将总任务发送给任务调度服务器,由任务调度服务器进行拆分调度,能够充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
本公开第四方面实施例提出一种任务处理装置,包括:获取模块,用于获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务;接收模块,用于接收任务执行服务器发送的任务执行请求;第一发送模块,用于基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务;生成模块,用于接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
本公开第五方面实施例提出一种任务处理装置,包括:生成模块,用于生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务;接收模块,用于接收任务调度服务器发送的预执行子任务;执行模块,用于执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。
本公开第六方面实施例提出一种任务处理装置,包括:生成模块,用于基于当前业务场景生成总任务;发送模块,用于将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果;接收模块,用于接收任务调度服务器发送的执行结果。
本公开第七方面实施例提出了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述第一方面或第二方面或第三方面实施例的任务处理方法。
本公开第八方面实施例提出了一种存储有计算机指令的计算机可读存储介质,所述计算机指令用于使所述计算机执行如上述第一方面或第二方面或第三方面实施例的任务处理方法。
本公开第九方面实施例提出了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本公开第一方面或第二方面或第三方面实施例的任务处理方法。
本公开附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本公开的实践了解到。
附图说明
本公开上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本公开一实施例提供的任务处理方法的流程示意图;
图2为本公开另一实施例提供的任务处理方法的流程示意图;
图3为本公开另一实施例提供的任务处理方法的流程示意图;
图4为本公开另一实施例提供的任务处理方法的流程示意图;
图5为本公开另一实施例提供的任务处理方法的流程示意图;
图6为本公开另一实施例提供的任务处理方法的流程示意图;
图7为本公开另一实施例提供的任务处理方法的流程示意图;
图8为本公开另一实施例提供的任务处理方法的流程示意图;
图9为本公开另一实施例提供的任务处理方法的流程示意图;
图10为本公开另一实施例提供的任务处理方法的流程示意图;
图11为任务执行服务器执行预执行子任务的流程示例图;
图12为本公开另一实施例提供的任务处理方法的流程示意图;
图13为任务发布服务器、任务调度服务器和任务执行服务器三者之间的交互示意图;
图14为本公开一实施例提供的任务处理装置的结构示意图;
图15为本公开另一实施例提供的任务处理装置的结构示意图;
图16为本公开另一实施例提供的任务处理装置的结构示意图;
图17为本公开一实施例提供的电子设备的框图。
具体实施方式
下面详细描述本公开的实施例,实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本公开,而不能理解为对本公开的限制。
下面参考附图描述本公开实施例的任务处理方法、装置、电子设备和存储介质。
图1为本公开一实施例提供的任务处理方法的流程示意图。需要说明的是,本公开实施例提供的任务处理方法的执行主体为任务调度服务器。
如图1所示,该方法包含以下步骤:
S101,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务。
任务发布服务器在发布总任务之后,将该总任务发送给任务调度服务器,任务调度服务器接收到该总任务之后将该总任务拆分成多个子任务。
S102,接收任务执行服务器发送的任务执行请求。
接收任务执行服务器发送的任务执行请求之前,还包括:向任务执行服务器发送任务广播,其中,任务广播用于指示任务执行服务器生成任务执行请求。
任务调度服务器将任务发布服务器发布的总任务拆分成多个子任务之后,可以将任务执行服务器发送任务广播,以唤醒该任务执行服务器。该任务执行服务器在接收到任务调度服务器发送的任务广播时,可以对该任务广播进行响应,基于自身的任务执行能力生成任务执行请求,并将该任务执行请求发送给任务调度服务器。
S103,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务。
任务调度服务器接收到任务执行服务器发送的任务执行请求后,根据该任务执行请求,确定该任务执行服务器当前的任务执行能力,并根据该任务执行服务器当前的任务执行能力,从总任务拆分的多个子任务中确定该任务执行服务器的预执行子任务,并将该预执行子任务发送给该任务执行服务器,由该任务执行服务器执行该预执行子任务。
S104,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
任务执行服务器执行完预执行子任务,得到该预执行子任务的第一执行结果后,将该第一执行结果发送给任务调度服务器,任务调度服务器接收到该总任务拆分的所有子任务的第一执行结果后,可以根据该第一执行结果得到该总任务的第二执行结果。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。本公开实施例中,任务调度服务器可以根据任务执行服务器发送的任务执行请求,知晓任务执行服务器的任务执行能力,从而能够根据任务执行服务器的任务执行能力来分发任务,进而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
图2为本公开一实施例提供的任务处理方法的流程示意图,在上述实施例的基础上,进一步结合图2,对总任务的拆分的过程进行解释说明,包含以下步骤:
S201,基于当前业务场景,从候选拆分策略中确定总任务的目标拆分策略。
其中,候选拆分策略为预先设定的拆分策略,该候选拆分策略可以包括:按照分表后缀拆分策略、按照数据身份标识(Identity Document,ID)范围拆分策略等,此处不做任何限定。
S202,基于目标拆分策略,将总任务拆分成多个子任务。
在不同的业务场景下,可以使用不同的拆分策略,对总任务进行拆分。
举例而言,若当前业务场景为资产证券化(AssetBacked Securities,ABS)业务,任务发布服务器发布的总任务为ABS过滤任务,底层具有400张分表,则目标拆分策略可以为按照分表后缀拆分策略,可以采用按照分表后缀拆分策略将ABS过滤任务拆分成400个子任务,每个子任务代表一个分表的资产过滤任务。当400个子任务完成时,全表扫描过滤了一遍,此时整体ABS过滤任务完成。
本公开实施例中,基于当前业务场景,从候选拆分策略中确定总任务的目标拆分策略,基于目标拆分策略,将总任务拆分成多个子任务。本公开实施例中,对于不同业务的总任务,可以采用不同的拆分策略对总任务进行拆分,避免总任务拆分混乱,影响任务的执行。
图3为本公开一实施例提供的任务处理方法的流程示意图。如图3所示,该方法包含以下步骤:
S301,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务。
S302,接收任务执行服务器发送的任务执行请求。
其中,任务执行请求包括网络协议(Internet Protocol Address,IP)地址和任务数量。
关于步骤S301~S302的具体介绍可参见上述实施例中相关内容的记载,此处不再赘述。
S303,按照任务数量从多个子任务中,确定任务执行服务器的预执行子任务。
任务调度服务器接收到任务执行服务器发送的任务执行请求后,可以按照任务执行请求中的任务数量,从总任务拆分的多个子任务中,选取对应数量的预执行子任务。
举例而言,若任务调度服务器将任务发布服务器发布的总任务拆分成了400个子任务,任务服务器发送的任务执行请求指示任务数量为200个任务,则任务调度服务器从400个子任务中,选取200个预执行子任务发送给任务执行服务器。
S304,按照IP地址将预执行子任务发送给任务执行服务器。
任务调度服务器在确定预执行子任务后,可以按照任务执行请求中IP地址将预执行子任务发送给对应的任务执行服务器,由该任务执行服务器执行该预执行子任务,并将该预执行子任务的第一执行结果发送给任务调度服务器。
S305,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
关于步骤S305的具体介绍可参见上述实施例中相关内容的记载,此处不再赘述。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,按照任务数量从多个子任务中,确定任务执行服务器的预执行子任务,按照IP地址将预执行子任务发送给任务执行服务器,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。本公开实施例中,根据任务执行服务器当前可执行的任务数量,向任务执行服务器分配对应数量的任务进行执行,能够充分发挥任务执行服务器的任务执行能力。
图4为本公开一实施例提供的任务处理方法的流程示意图。如图4所示,该方法包含以下步骤:
S401,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务。
S402,接收任务执行服务器发送的任务执行请求。
S403,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务。
关于步骤S401~S403的具体介绍可参见上述实施例中相关内容的记载,此处不再赘述。
S404,锁定预执行子任务,其中,预执行子任务处于锁定状态时无法被再次发送。
任务调度服务器从多个子任务中,确定任务执行服务器预执行子任务并将该预执行子任务发送给任务执行服务器后,将该预执行子任务进行锁定,该预执行子任务处于锁定状态时无法被再次发送,以避免该预执行子任务被重复执行。
S405,响应于接收到预执行子任务的执行失败信息,则解除预执行子任务的锁定状态。
S406,响应于未接收到预执行子任务的执行失败信息,则保持锁定状态。
在预执行子任务被锁定之后,若任务调度服务器接收到了该预执行子任务的执行失败信息,则解除该预执行子任务的锁定状态,以重新对该预执行子任务进行调度,确保该预执行子任务被任务执行服务器执行;若任务调度服务器未接收到该预执行子任务的执行失败信息,则该预执行子任务继续保持锁定状态。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务,锁定预执行子任务,其中,预执行子任务处于锁定状态时无法被再次发送,响应于接收到预执行子任务的执行失败信息,则解除预执行子任务的锁定状态,响应于未接收到预执行子任务的执行失败信息,则保持锁定状态。本公开实施例中,将已分配的任务进行锁定,能够避免任务的重复分配,浪费算力资源。
图5为本公开一实施例提供的任务处理方法的流程示意图。如图5所示,该方法包含以下步骤:
S501,监控预执行子任务的执行进度。
可以通过确定预执行子任务是否被发送给任务执行服务器和预执行子任务的执行结果,确定该预执行子任务的执行进度。
S502,基于预执行子任务的当前执行进度,对预执行子任务的当前执行状态进行更新。
响应于预执行子任务未被发送给任务执行服务器,或者接收到预执行子任务的执行失败信息,则确定预执行子任务的当前状态为未被执行状态;响应于预执行子任务已被发送给任务执行服务器,则将预执行子任务的当前状态更新为执行中状态;响应于接收到预执行子任务的第一执行结果,则将预执行子任务的当前状态更新为已完成状态。
本公开实施例中,监控预执行子任务的执行进度,基于预执行子任务的当前执行进度,对预执行子任务的当前执行状态进行更新。本公开实施例能够根据任务的执行进度,自动更新任务的当前状态,以便于任务的分配管理。
图6为本公开一实施例提供的任务处理方法的流程示意图。如图6所示,该方法包含以下步骤:
S601,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务。
S602,接收任务执行服务器发送的任务执行请求。
S603,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务。
S604,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
关于步骤S601~S604的具体介绍可参见上述实施例中相关内容的记载,此处不再赘述。
S605,获取总任务的标识信息。
可选地,标识信息可以为唯一ID。
S606,基于标识信息,从候选任务发布服务器中,确定发布总任务的目标任务发布服务器。
S607,将第二执行结果发送给目标任务发布服务器。
一些实施例中,任务发布服务器在将总任务发送给任务调度服务器时,可以一同将该总任务的标识信息发送给任务调度服务器,服务器接收到该标识信息后,可以将该标识信息存储于自身的存储空间中,以基于该标识将总任务的执行结果发送给任务发布服务器。
具体地,任务调度服务器得到总任务的第二执行结果之后,可以从自身的存储空间中,调取该总任务的标识信息,并基于该标识信息,从候选任务发布服务器中,确定发布该总任务的目标任务发布服务器,并将该总任务的第二执行结果发送给该目标任务发布服务器。
上述实施例为任务调度服务器得到总任务的第二执行结果后,主动向任务发布服务器反馈总任务执行结果的情况。任务调度服务器得到总任务的第二执行结果后,也可以不主动向任务服务器反馈执行结果,而是由任务发布服务器主动向任务调度服务器查询总任务的执行结果。
另一实施例中,任务发布服务器向任务调度服务器发送总任务的标识信息,任务调度服务器接收到该标识信息后,可以以该标识信息为引索,查询该任务发布服务器发布的总任务的当前执行状态,若该总任务已完成,则将该总任务的第二执行结果发送给该任务服务器;若该总任务未完成,则将该总任务的当前执行状态发送给任务发布服务器。
进一步地,还可以将上述两个实施例所描述两种方案进行结合,使得任务调度服务器可以主动反馈总任务的执行结果,任务发布服务器也可以主动查询总任务的执行结果。其具体过程可以参见上述两个实施例的相关描述,此处不再赘述。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果,获取总任务的标识信息,基于标识信息,从候选任务发布服务器中,确定发布总任务的目标任务发布服务器。本公开实施例中,基于标识信息将任务发布服务器发布的总任务的执行结果发送给该任务发布服务器,能够避免数据出现紊乱,导致任务发布服务器的执行结果错误,保证了任务发布服务器得到的任务执行结果的正确性。
图7为本公开一实施例提供的任务处理方法的流程示意图。如图7所示,该方法包含以下步骤:
S701,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务。
关于步骤S701的具体介绍可参见上述实施例中相关内容的记载,此处不再赘述。
S702,按照设定间隔时间,向每个具备任务执行权限的任务执行服务器发送任务广播,以指示任务执行服务器按照设定间隔时间获取预执行子任务。
本公开实施例中,可以预先对任务执行服务器的任务执行权限进行设置,使得不具备任务执行权限的任务执行服务器无法执行任务。其中,任务执行权限可以根据实际需求进行设置,此处不做任何限制。
任务调度服务器在将任务发布服务器发布的总任务拆分成多个子任务后,可以按照设定间隔时间,向每个具备任务执行权限的任务执行服务器发送任务广播,具备任务执行权限的任务执行服务器接收到任务调度服务器发送的任务广播后,对该任务广播进行响应,生成任务执行请求,并将该任务执行请求发送给任务调度服务器。任务调度服务器接收到任务执行服务器发送的任务执行请求后,可以根据该任务执行请求从多个子任务中确定该任务执行服务器的预执行子任务,并将该预执行子任务发送给该任务执行服务器,由该任务执行服务器执行该预执行子任务。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,按照设定间隔时间,向每个具备任务执行权限的任务执行服务器发送任务广播,以指示任务执行服务器按照设定间隔时间获取预执行子任务。本公开实施例中,任务调度服务器通过任务广播定时调度各个任务执行服务器,能够避免出现部分任务执行服务器处于空闲状态,从而能够充分发挥每一个任务执行服务器的性能,提高任务执行的效率。
图8为本公开一实施例提供的任务处理方法的流程示意图。需要说明的是,本公开实施例的执行主体为任务执行服务器。
如图8所示,该方法包含以下步骤:
S801,生成任务执行请求,并向任务调度服务器发送任务执行请求。
其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务。
在任务调度服务器将任务发布服务器发布的总任务拆分成多个子任务之后,任务执行服务器可以生成任务执行请求,并将该任务执行请求发送给任务调度服务器,任务调度服务器接收到该任务执行请求之后,根据该任务执行请求从多个子任务中,确定任务执行服务器的预执行子任务,并将该预执行子任务发送给该任务执行服务器。
S802,接收任务调度服务器发送的预执行子任务。
S803,执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果。其中,总任务由多个预执行子任务组成。
任务执行服务器接收到任务调度服务器发送预执行子任务后,执行该预执行子任务,并将该预执行子任务的第一执行结果发送给任务调度服务器。在总任务的全部子任务完成之后,任务调度服务器可以根据全部子任务的第一执行结果,生成总任务的第二执行结果。
可选地,按照预执行子任务的设定优先级执行预执行子任务。
举例而言,假设总任务A的预执行子任务a的设定优先级为1,总任务B的预执行子任务b的设定优先级为2,则优先执行预执行子任务a。
进一步地,由于业务需求也是影响任务执行顺序的因素,还可以结合业务需求来确定任务的执行顺序。
举例而言,假设总任务A的预执行子任务a的设定优先级为1;总任务B的预执行子任务b的优先级为2,则优先执行预执行子任务a。
场景一:总任务A和总任务B同时发布。可以按照设定优先级先执行总任务A的预执行子任务a,再执行总任务B的预执行子任务b。
场景二:总任务B先发布,总任务A后发布。可根据业务场景需要,选择先执行当前正在执行中的预执行子任务b,直到把总任务B的所有预执行子任务b执行完毕,再执行预执行子任务a。或者根据场景需要,先执行预执行子任务a,暂停正在执行中的预执行子任务b,插队把总任务A的所有预执行子任务a执行完毕后,再执行预执行子任务b。
本公开实施例中,生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务,接收任务调度服务器发送的预执行子任务,执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。本公开实施例中,任务执行服务器可以根据自身当前的执行能力,请求任务调度服务器分发任务,从而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
图9为本公开一实施例提供的任务处理方法的流程示意图。如图9所示,该方法包含以下步骤:
S901,响应于接收到任务调度服务器发送的任务广播,获取任务执行服务器当前的资源信息。
任务调度服务器将任务发布服务器发布的总任务拆分成多个子任务之后,向任务执行服务器发送任务广播,任务执行服务器接收到任务调度服务器发送的任务广播之后,获取自身当前的资源信息。
S902,基于资源信息,确定任务执行服务器是否满足任务执行条件。
可选地,资源信息包括CPU使用率和/或内存使用率。
可选地,基于CPU使用率和/或内存使用率,确定任务执行服务器是否满足任务执行条件,响应于CPU使用率和/或内存使用率大于各自的阈值,则确定任务执服务器满足任务执行条件;响应于CPU使用率和/或内存使用率小于或等于各自的阈值,则确定任务执服务器未满足任务执行条件。
S903,响应于满足任务执行条件,则生成任务执行请求。
可选地,基于CPU使用率和/或内存使用率,确定任务执行服务器可执行的任务数量,并基于任务数量和任务执行服务器的IP地址,生成任务执行请求。
本公开实施例中,响应于接收到任务调度服务器发送的任务广播,获取任务执行服务器当前的资源信息,基于资源信息,确定任务执行服务器是否满足任务执行条件,响应于满足任务执行条件,则生成任务执行请求。本公开实施例中,通过任务执行服务器当前的CPU使用率和/或内存使用率,能够准确地确定任务执行服务器当前可执行的任务数量,从而充分发挥任务执行服务器的任务执行能力。
图10为本公开一实施例提供的任务处理方法的流程示意图。如图10所示,该方法包含以下步骤:
S1001,将任务调度服务器发送的预执行子任务提交至线程池,并确定是否提交成功。
可选地,线程池可以为异步线程池,以异步执行预执行子任务。
S1002,响应于提交失败,则生成预执行子任务的执行失败信息。
S1003,将执行失败信息发送给任务调度服务器,其中,执行失败信息用于指示任务调度服务器将预执行子任务解除锁定状态。
S1004,响应于提交成功,则执行预执行子任务。
任务执行服务器接收到任务调度服务器发送的预执行子任务后,可以将该预执行子任务提交至线程池,并确定是否提交成功,若否,则生成该预执行子任务的执行失败信息,并将该预执行子任务的执行失败信息发送给任务调度服务器,任务调度服务器接收到该预执行子任务的执行失败信息后,可以将该预执行子任务解除锁定状态,以保证该预执行子任务能够被再次获取执行;若是,则任务执行服务器可以执行该预执行子任务。
本公开实施例中,将任务调度服务器发送的预执行子任务提交至线程池,并确定是否提交成功,响应于提交失败,则生成预执行子任务的执行失败信息,将执行失败信息发送给任务调度服务器,其中,执行失败信息用于指示任务调度服务器将预执行子任务解除锁定状态,响应于提交成功,则执行预执行子任务。本公开实施例中,任务执行服务器将任务调度服务器分配的任务提交至线程池,能够提高任务的执行效率,且在任务执行失败时可以解除任务锁定状态,以将任务重新分配,确保任务的执行。
图11为任务执行服务器执行预执行子任务的流程示例图。如图11所示,包括以下步骤:
S1101,任务调度服务器唤醒任务执行服务器。
S1102,任务执行服务器获取当前CPU使用率和/或内存使用率。
S1103,判断CPU使用率和/或内存使用率是否大于各自的阈值。若是,则执行步骤S1105;若否,则执行步骤S1104。
S1104,放弃获取任务,等待自身资源释放,本次任务获取操作结束。
S1105,生成任务执行请求,并发送给任务调度服务器。
S1106,获取预执行子任务,并提交至异步线程池。
S1107,判断是否提交成功。若是,则执行步骤S1109;若否,则执行步骤S1108。
S1108,生成执行失败信息发送给任务调度服务器,本次任务获取操作结束。
S1109,执行预执行子任务。
S1110,将预执行子任务的第一执行结果发送给任务调度服务器。
图12为本公开一实施例提供的任务处理方法的流程示意图。需要说明的是,本公开实施例的执行主体为任务发布服务器。
如图12所示包含以下步骤:
S1201,基于当前业务场景生成总任务。
确定当前业务场景,并根据当前业务场景生成总任务。
举例而言,假设当前业务场景为ABS过滤的业务场景,则任务发布服务器可以生成ABS过滤任务。
S1202,将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果。
任务发布服务器基于当前业务场景生成总任务之后,可以将该总任务发送给任务调度服务器,任务调度服务器接收到该总任务之后,可以将该总任务拆分成多个子任务,并将该多个子任务调度给任务执行服务器进行执行,以得到该总任务的执行结果。
需要说明的是,子任务的具体调度过程可以参见上述实施例中相关内容的记载,此处不再赘述。
S1203,接收任务调度服务器发送的执行结果。
一些实施例中,任务发布服务器在将总任务发送给任务调度服务器时,可以一同将该总任务的标识信息发送给任务调度服务器,服务器接收到该标识信息后,可以将该标识信息存储于自身的存储空间中,以基于该标识将总任务的执行结果发送给任务发布服务器。
具体地,任务调度服务器得到总任务的执行结果后,可以从自身的存储空间中调取该总任务的标识信息,并基于该标识信息,从多个候选任务发布服务器中,确定发布该总任务的任务发布服务器,并将该总任务的执行结果发送给该任务发布服务器。
另一实施例中,任务发布服务器向任务调度服务器发送总任务的标识信息,其中,该标识信息用于指示任务调度服务器查询总任务的执行结果,并将执行结果发送给所述任务发布服务器。
具体地,任务调度服务器接收到任务调度服务器发送的标识信息后,可以以该标识信息为引索,查询该任务发布服务器发布的总任务的当前执行状态,若该总任务已完成,则将该总任务的执行结果发送给该任务服务器;若该总任务未完成,则将该总任务的当前执行状态发送给任务发布服务器。
本公开实施例中,基于当前业务场景生成总任务,将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果,接收任务调度服务器发送的执行结果。本公开实施例中,任务发布服务器将总任务发送给任务调度服务器,由任务调度服务器进行拆分调度,能够充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
图13为任务发布服务器、任务调度服务器和任务执行服务器三者之间的交互示意图。如图13所示,任务发布服务器的功能包括:发布总任务和查询结果。
任务调度服务器的功能包括:任务拆分、任务广播、任务锁定和任务状态更新。其中,任务拆分包括拆分策略,任务广播包括定时调度。
任务执行服务器的功能包括:获取任务和执行任务。
如图13所示,任务发布服务器、任务调度服务器和任务执行服务器三者之间的交互过程如下:
1、任务发布服务器发布总任务,并将总任务发送给任务调度服务器。
2、任务调度服务器拆分总任务。
3、任务调度服务器向任务执行服务器发送任务广播。
4、任务执行服务器获取预执行子任务。
5、任务执行服务器将预执行子任务锁定。
6、任务执行服务器执行预执行子任务。
7、任务调度服务器根据预执行子任务的执行进度更新任务状态。
8、任务发布服务器查询总任务的执行结果。
为了实现上述第一方面实施例的任务处理方法,本公开提出了一种任务处理装置,图14为本公开一实施例的任务处理装置的结构示意图。如图14所示,任务处理装置1400包括:
获取模块1410,用于获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务;
接收模块1420,用于接收任务执行服务器发送的任务执行请求;
第一发送模块1430,用于基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务;
生成模块1440,用于接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。
在本公开的一个实施例中,获取模块1410,还用于基于当前业务场景,从候选拆分策略中确定总任务的目标拆分策略;基于目标拆分策略,将总任务拆分成多个子任务。
在本公开的一个实施例中,任务处理装置1400还包括:第二发送模块,用于接收任务执行服务器发送的任务执行请求之前,向任务执行服务器发送任务广播,其中,任务广播用于指示任务执行服务器生成任务执行请求。
在本公开的一个实施例中,任务执行请求包括网络协议IP地址和任务数量,第一发送模块1430还用于:按照任务数量从多个子任务中,确定任务执行服务器的预执行子任务;按照IP地址将预执行子任务发送给任务执行服务器。
在本公开的一个实施例中,任务处理装置1400还包括:锁定模块,用于向任务执行服务器发送预执行子任务之后,锁定预执行子任务,其中,预执行子任务处于锁定状态时无法被再次发送;解除模块,用于响应于接收到预执行子任务的执行失败信息,则解除预执行子任务的锁定状态。
在本公开的一个实施例中,任务处理装置1400还包括:更新模块,用于监控预执行子任务的执行进度;基于预执行子任务的当前执行进度,对预执行子任务的当前执行状态进行更新。
在本公开的一个实施例中,更新模块,还用于响应于预执行子任务未被发送给任务执行服务器,或者接收到预执行子任务的执行失败信息,则确定预执行子任务的当前状态为未被执行状态;响应于预执行子任务已被发送给任务执行服务器,则将预执行子任务的当前状态更新为执行中状态;响应于接收到预执行子任务的第一执行结果,则将预执行子任务的当前状态更新为已完成状态。
在本公开的一个实施例中,任务处理装置1400还包括:第三发送模块,用于获取总任务的标识信息;基于标识信息,从候选任务发布服务器中,确定发布总任务的目标任务发布服务器;将第二执行结果发送给目标任务发布服务器。
在本公开的一个实施例中,任务处理装置1400还包括:第四发送模块,用于按照设定间隔时间,向每个具备任务执行权限的任务执行服务器发送任务广播,以指示任务执行服务器按照设定间隔时间获取预执行子任务。
需要说明的是,上述对第一方面的任务处理方法实施例的解释说明,也适用于本公开实施例的任务处理装置,具体过程此处不再赘述。
本公开实施例中,获取任务发布服务器发布的总任务,并将总任务拆分成多个子任务,接收任务执行服务器发送的任务执行请求,基于任务执行请求,从多个子任务中确定任务执行服务器的预执行子任务,并向任务执行服务器发送预执行子任务,接收任务执行服务器发送的预执行子任务的第一执行结果,并基于第一执行结果,生成总任务的第二执行结果。本公开实施例中,任务调度服务器可以根据任务执行服务器发送的任务执行请求,知晓任务执行服务器的任务执行能力,从而能够根据任务执行服务器的任务执行能力来分发任务,进而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
为了实现上述第二方面实施例的任务处理方法,本公开提出了一种任务处理装置,图15为本公开一实施例的任务处理装置的结构示意图。如图15所示,任务处理装置1500包括:
生成模块1510,用于生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务;
接收模块1520,用于接收任务调度服务器发送的预执行子任务;
执行模块1530,用于执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。
在本公开的一个实施例中,生成模块1510,还用于响应于接收到任务调度服务器发送的任务广播,获取任务执行服务器当前的资源信息;基于资源信息,确定任务执行服务器是否满足任务执行条件;响应于满足任务执行条件,则生成任务执行请求。
在本公开的一个实施例中,资源信息包括CPU使用率和/或内存使用率,生成模块1510还用于:基于CPU使用率和/或内存使用率,确定任务执行服务器是否满足任务执行条件;响应于CPU使用率和/或内存使用率大于各自的阈值,则确定任务执服务器满足任务执行条件;响应于CPU使用率和/或内存使用率小于或等于各自的阈值,则确定任务执服务器未满足任务执行条件。
在本公开的一个实施例中,生成模块1510还用于:基于CPU使用率和/或内存使用率,确定任务执行服务器可执行的任务数量;基于任务数量和任务执行服务器的IP地址,生成任务执行请求。
在本公开的一个实施例中,任务处理装置1500还包括提交模块,用于将任务调度服务器发送的预执行子任务提交至线程池,并确定是否提交成功;响应于提交失败,则生成预执行子任务的执行失败信息;将执行失败信息发送给任务调度服务器,其中,执行失败信息用于指示任务调度服务器将预执行子任务解除锁定状态;响应于提交成功,则执行预执行子任务。
在本公开的一个实施例中,执行模块1530还用于按照预执行子任务的设定优先级执行预执行子任务。
需要说明的是,上述对第二方面的任务处理方法实施例的解释说明,也适用于本公开实施例的任务处理装置,具体过程此处不再赘述。
本公开实施例中,生成任务执行请求,并向任务调度服务器发送任务执行请求,其中,任务执行请求用于指示任务调度服务器向任务执行服务器发送对应的预执行子任务,接收任务调度服务器发送的预执行子任务,执行预执行子任务,并将预执行子任务的第一执行结果发送给任务调度服务器,以生成总任务的第二执行结果,其中,总任务由多个预执行子任务组成。本公开实施例中,任务执行服务器可以根据自身当前的执行能力,请求任务调度服务器分发任务,从而充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
为了实现上述第三方面实施例的任务处理方法,本公开提出了一种任务处理装置,图16为本公开一实施例的任务处理装置的结构示意图。如图16所示,任务处理装置1600包括:
生成模块1610,用于基于当前业务场景生成总任务;
发送模块1620,用于将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果;
接收模块1630,用于接收任务调度服务器发送的执行结果。
在本公开的一个实施例中,发送模块1620还用于接收任务调度服务器发送的执行结果之前,向任务调度服务器发送总任务的标识信息,其中,标识信息用于指示任务调度服务器查询总任务的执行结果,并将执行结果发送给任务发布服务器。
需要说明的是,上述对第二方面的任务处理方法实施例的解释说明,也适用于本公开实施例的任务处理装置,具体过程此处不再赘述。
本公开实施例中,基于当前业务场景生成总任务,将总任务发送给任务调度服务器,由任务调度服务器对总任务进行拆分调度,以得到总任务的执行结果,接收任务调度服务器发送的执行结果。本公开实施例中,任务发布服务器将总任务发送给任务调度服务器,由任务调度服务器进行拆分调度,能够充分发挥任务执行服务器的任务执行能力,提高任务执行的效率。
如图17所示,是根据本公开实施例的任务处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,智能语音交互设备、个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图17所示,该电子设备包括:一个或多个处理器1701、存储器1702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器1701可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图17中以一个处理器1701为例。
存储器1702即为本公开所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本公开所提供的任务处理方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的任务处理方法。
存储器1702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的任务处理方法对应的程序指令/模块。处理器1701通过运行存储在存储器1702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的任务处理方法。
存储器1702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据任务处理方法的电子设备的使用所创建的数据等。此外,存储器1702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器1702可选包括相对于处理器1701远程设置的存储器,这些远程存储器可以通过网络连接至任务处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
任务处理方法的电子设备还可以包括:输入装置1703和输出装置1704。处理器1701、存储器1702、输入装置1703和输出装置1704可以通过总线或者其他方式连接,图17中以通过总线连接为例。
输入装置1703可接收输入的数字或字符信息,以及产生与任务处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置1704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
为了实现上述实施例,本公开还提出一种非临时性计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本公开前述第一方面实施例或第二方面实施例或第三方面实施例提出的任务处理方法。
为了实现上述实施例,本公开提出了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本公开前述第一方面实施例或第二方面实施例或第三方面实施例的任务处理方法。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
在本说明书的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本公开的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
尽管上面已经示出和描述了本公开的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本公开的限制,本领域的普通技术人员在本公开的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (23)
1.一种任务处理方法,其特征在于,由任务调度服务器执行,所述方法包括:
获取任务发布服务器发布的总任务,并将所述总任务拆分成多个子任务;
接收任务执行服务器发送的任务执行请求;
基于所述任务执行请求,从所述多个子任务中确定所述任务执行服务器的预执行子任务,并向所述任务执行服务器发送所述预执行子任务;
接收所述任务执行服务器发送的所述预执行子任务的第一执行结果,并基于所述第一执行结果,生成所述总任务的第二执行结果。
2.根据权利要求1所述的方法,其特征在于,所述将所述总任务拆分成多个子任务,包括:
基于当前业务场景,从候选拆分策略中确定所述总任务的目标拆分策略;
基于所述目标拆分策略,将所述总任务拆分成所述多个子任务。
3.根据权利要求1所述的方法,其特征在于,所述接收任务执行服务器发送的任务执行请求之前,还包括:
向所述任务执行服务器发送任务广播,其中,所述任务广播用于指示所述任务执行服务器生成所述任务执行请求。
4.根据权利要求1所述的方法,其特征在于,所述任务执行请求包括网络协议IP地址和任务数量,其中,所述基于所述任务执行请求,从所述多个子任务中确定所述执行服务器的预执行子任务,并向所述任务执行服务器发送所述预执行子任务,包括:
按照所述任务数量从所述多个子任务中,确定所述任务执行服务器的预执行子任务;
按照所述IP地址将所述预执行子任务发送给所述任务执行服务器。
5.根据权利要求1所述的方法,其特征在于,所述向所述任务执行服务器发送所述预执行子任务之后,还包括:
锁定所述预执行子任务,其中,所述预执行子任务处于锁定状态时无法被再次发送;
响应于接收到所述预执行子任务的执行失败信息,则解除所述预执行子任务的锁定状态。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
监控所述预执行子任务的执行进度;
基于所述预执行子任务的当前执行进度,对所述预执行子任务的当前执行状态进行更新。
7.根据权利要求6所述的方法,其特征在于,所述基于所述预执行子任务当前的执行进度,对所述预执行子任务的当前执行状态进行更新,包括:
响应于所述预执行子任务未被发送给所述任务执行服务器,或者接收到所述预执行子任务的执行失败信息,则确定所述预执行子任务的当前状态为未被执行状态;
响应于所述预执行子任务已被发送给所述任务执行服务器,则将所述预执行子任务的当前状态更新为执行中状态;
响应于接收到所述预执行子任务的第一执行结果,则将所述预执行子任务的当前状态更新为已完成状态。
8.根据权利要求1所述的方法,其特征在于,所述生成所述总任务的第二执行结果之后,还包括:
获取所述总任务的标识信息;
基于所述标识信息,从候选任务发布服务器中,确定发布所述总任务的目标任务发布服务器;
将所述第二执行结果发送给所述目标任务发布服务器。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
按照设定间隔时间,向每个具备任务执行权限的任务执行服务器发送任务广播,以指示所述任务执行服务器按照所述设定间隔时间获取所述预执行子任务。
10.一种任务处理方法,其特征在于,由任务执行服务器执行,所述方法包括:
生成任务执行请求,并向任务调度服务器发送所述任务执行请求,其中,所述任务执行请求用于指示所述任务调度服务器向所述任务执行服务器发送对应的预执行子任务;
接收所述任务调度服务器发送的所述预执行子任务;
执行所述预执行子任务,并将所述预执行子任务的第一执行结果发送给所述任务调度服务器,以生成总任务的第二执行结果,其中,所述总任务由多个所述预执行子任务组成。
11.根据权利要求10所述的方法,其特征在于,所述方法还包括:
响应于接收到所述任务调度服务器发送的任务广播,获取所述任务执行服务器当前的资源信息;
基于所述资源信息,确定所述任务执行服务器是否满足任务执行条件;
响应于满足所述任务执行条件,则生成所述任务执行请求。
12.根据权利要求11所述的方法,其特征在于,所述资源信息包括CPU使用率和/或内存使用率,其中,所述基于所述资源信息,确定所述任务执行服务器是否满足任务执行条件,包括:
基于所述CPU使用率和/或所述内存使用率,确定所述任务执行服务器是否满足所述任务执行条件;
响应于所述CPU使用率和/或内存使用率大于各自的阈值,则确定所述任务执服务器满足所述任务执行条件;
响应于所述CPU使用率和/或内存使用率小于或等于各自的阈值,则确定所述任务执服务器未满足所述任务执行条件。
13.根据权利要求11-12中任一项所述的方法,其特征在于,所述生成任务执行请求,包括:
基于所述CPU使用率和/或内存使用率,确定所述任务执行服务器可执行的任务数量;
基于所述任务数量和所述任务执行服务器的IP地址,生成所述任务执行请求。
14.根据权利要求10所述方法,其特征在于,所述方法还包括:
将所述任务调度服务器发送的所述预执行子任务提交至线程池,并确定是否提交成功;
响应于提交失败,则生成所述预执行子任务的执行失败信息;
将所述执行失败信息发送给所述任务调度服务器,其中,所述执行失败信息用于指示所述任务调度服务器将所述预执行子任务解除锁定状态;
响应于提交成功,则执行所述预执行子任务。
15.根据权利要求10或14所述的方法,其特征在于,所述执行所述预执行子任务,包括:
按照所述预执行子任务的设定优先级执行所述预执行子任务。
16.一种任务处理方法,其特征在于,由任务发布服务器执行,所述方法包括:
基于当前业务场景生成总任务;
将所述总任务发送给任务调度服务器,由所述任务调度服务器对所述总任务进行拆分调度,以得到所述总任务的执行结果;
接收所述任务调度服务器发送的所述执行结果。
17.根据权利要求16所述的方法,其特征在于,所述接收所述任务调度服务器发送的所述执行结果之前,还包括:
向所述任务调度服务器发送所述总任务的标识信息,其中,所述标识信息用于指示所述任务调度服务器查询所述总任务的执行结果,并将所述执行结果发送给所述任务发布服务器。
18.一种任务处理装置,其特征在于,包括:
获取模块,用于获取任务发布服务器发布的总任务,并将所述总任务拆分成多个子任务;
接收模块,用于接收任务执行服务器发送的任务执行请求;
第一发送模块,用于基于所述任务执行请求,从所述多个子任务中确定所述任务执行服务器的预执行子任务,并向所述任务执行服务器发送所述预执行子任务;
生成模块,用于接收所述任务执行服务器发送的所述预执行子任务的第一执行结果,并基于所述第一执行结果,生成所述总任务的第二执行结果。
19.一种任务处理装置,其特征在于,包括:
生成模块,用于生成任务执行请求,并向任务调度服务器发送所述任务执行请求,其中,所述任务执行请求用于指示所述任务调度服务器向所述任务执行服务器发送对应的预执行子任务;
接收模块,用于接收所述任务调度服务器发送的所述预执行子任务;
执行模块,用于执行所述预执行子任务,并将所述预执行子任务的第一执行结果发送给所述任务调度服务器,以生成总任务的第二执行结果,其中,所述总任务由多个所述预执行子任务组成。
20.一种任务处理装置,其特征在于,包括:
生成模块,用于基于当前业务场景生成总任务;
发送模块,用于将所述总任务发送给任务调度服务器,由所述任务调度服务器对所述总任务进行拆分调度,以得到所述总任务的执行结果;
接收模块,用于接收所述任务调度服务器发送的所述执行结果。
21.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1-9或权利要求10-15或权利要求16-17中任一项所述的方法。
22.一种存储有计算机指令的计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行如权利要求1-9或权利要求10-15或权利要求16-17中任一项所述的方法。
23.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如权利要求1-9或权利要求10-15或权利要求16-17中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211172522.0A CN115576684A (zh) | 2022-09-26 | 2022-09-26 | 任务处理方法、装置、电子设备及存储介质 |
PCT/CN2023/091271 WO2024066342A1 (zh) | 2022-09-26 | 2023-04-27 | 任务处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211172522.0A CN115576684A (zh) | 2022-09-26 | 2022-09-26 | 任务处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115576684A true CN115576684A (zh) | 2023-01-06 |
Family
ID=84582262
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211172522.0A Pending CN115576684A (zh) | 2022-09-26 | 2022-09-26 | 任务处理方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN115576684A (zh) |
WO (1) | WO2024066342A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116723225A (zh) * | 2023-06-16 | 2023-09-08 | 广州银汉科技有限公司 | 游戏任务的自动分配方法及系统 |
WO2024066342A1 (zh) * | 2022-09-26 | 2024-04-04 | 京东科技信息技术有限公司 | 任务处理方法、装置、电子设备及存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102902587B (zh) * | 2011-07-28 | 2015-10-07 | 中国移动通信集团四川有限公司 | 分布式任务调度方法、系统和装置 |
CN106095585B (zh) * | 2016-06-22 | 2019-08-30 | 中国建设银行股份有限公司 | 任务请求处理方法、装置和企业信息系统 |
CN111459659A (zh) * | 2020-03-10 | 2020-07-28 | 中国平安人寿保险股份有限公司 | 数据处理方法、装置、调度服务器及介质 |
CN112035258B (zh) * | 2020-08-31 | 2022-06-17 | 中国平安财产保险股份有限公司 | 数据处理方法、装置、电子设备及介质 |
CN113821506A (zh) * | 2020-12-23 | 2021-12-21 | 京东科技控股股份有限公司 | 用于任务系统的任务执行方法、装置、系统、服务器和介质 |
CN113687932B (zh) * | 2021-08-30 | 2024-07-12 | 上海商汤科技开发有限公司 | 一种任务调度的方法、装置、系统、电子设备及存储介质 |
CN115576684A (zh) * | 2022-09-26 | 2023-01-06 | 京东科技信息技术有限公司 | 任务处理方法、装置、电子设备及存储介质 |
-
2022
- 2022-09-26 CN CN202211172522.0A patent/CN115576684A/zh active Pending
-
2023
- 2023-04-27 WO PCT/CN2023/091271 patent/WO2024066342A1/zh unknown
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024066342A1 (zh) * | 2022-09-26 | 2024-04-04 | 京东科技信息技术有限公司 | 任务处理方法、装置、电子设备及存储介质 |
CN116723225A (zh) * | 2023-06-16 | 2023-09-08 | 广州银汉科技有限公司 | 游戏任务的自动分配方法及系统 |
CN116723225B (zh) * | 2023-06-16 | 2024-05-17 | 广州银汉科技有限公司 | 游戏任务的自动分配方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
WO2024066342A1 (zh) | 2024-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109034396B (zh) | 用于处理分布式集群中的深度学习作业的方法和装置 | |
US8442958B2 (en) | Server change management | |
CN104618693B (zh) | 一种基于云计算的监控视频在线处理任务管理方法及系统 | |
CN115576684A (zh) | 任务处理方法、装置、电子设备及存储介质 | |
CN111897638B (zh) | 分布式任务调度方法及系统 | |
CN111782365B (zh) | 定时任务处理方法、装置、设备及存储介质 | |
US8239872B2 (en) | Method and system for controlling distribution of work items to threads in a server | |
US8046759B2 (en) | Resource allocation method and system | |
WO2017059331A1 (en) | Workflow service using state transfer | |
US11182217B2 (en) | Multilayered resource scheduling | |
CN112153167B (zh) | 网际互连协议管理方法、装置、电子设备及存储介质 | |
CN101645022A (zh) | 用于多个集群的作业调度管理系统及方法 | |
CN109656690A (zh) | 调度系统、方法和存储介质 | |
CN107005452B (zh) | 一种网络功能虚拟化资源处理方法及虚拟网络功能管理器 | |
US10360057B1 (en) | Network-accessible volume creation and leasing | |
CN105786603A (zh) | 一种基于分布式的高并发业务处理系统及方法 | |
CN113886089A (zh) | 一种任务处理方法、装置、系统、设备及介质 | |
JP4529812B2 (ja) | 分散資源配分システム、分散資源配分方法およびプログラム | |
US8743387B2 (en) | Grid computing system with virtual printer | |
CN108958933B (zh) | 任务执行器的配置参数更新方法、装置及设备 | |
US11093527B2 (en) | Framework for continuous processing of a set of documents by multiple software applications | |
CN112860421B (zh) | 用于作业处理的方法、设备和计算机程序产品 | |
CN111858012A (zh) | 一种任务调度方法、装置、设备及介质 | |
CN111767149A (zh) | 调度方法、装置、设备及存储设备 | |
CN112445602A (zh) | 资源调度方法、装置、系统及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |