CN110673959A - 用于处理任务的系统、方法和装置 - Google Patents

用于处理任务的系统、方法和装置 Download PDF

Info

Publication number
CN110673959A
CN110673959A CN201910971362.8A CN201910971362A CN110673959A CN 110673959 A CN110673959 A CN 110673959A CN 201910971362 A CN201910971362 A CN 201910971362A CN 110673959 A CN110673959 A CN 110673959A
Authority
CN
China
Prior art keywords
task
processed
server
server group
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910971362.8A
Other languages
English (en)
Inventor
崔博文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JD Digital Technology Holdings Co Ltd
Original Assignee
JD Digital Technology Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JD Digital Technology Holdings Co Ltd filed Critical JD Digital Technology Holdings Co Ltd
Priority to CN201910971362.8A priority Critical patent/CN110673959A/zh
Publication of CN110673959A publication Critical patent/CN110673959A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5017Task decomposition

Abstract

本公开的实施例公开了用于处理任务的系统、方法和装置。该系统包括至少一个服务器组,每个服务器组包括一个主服务器和至少一个从服务器;主服务器用于从所在的服务器组对应的任务集中选取待处理任务,将选取的待处理任务发送至所在的服务器组中的从服务器;从服务器用于将接收到的待处理任务拆分成至少一条待处理子任务,在所在的服务器组对应的子任务集中添加至少一条待处理子任务;主服务器用于从所在的服务器组对应的子任务集中选取待处理子任务,将选取的待处理子任务发送至所在的服务器组中的从服务器;从服务器用于发送针对接收到的待处理子任务的通知消息。该实施方式可以提高系统的任务处理效率。

Description

用于处理任务的系统、方法和装置
技术领域
本公开的实施例涉及计算机技术领域,具体涉及用于处理任务的方法和装置。
背景技术
随着互联网的快速发展,许多互联网领域(如电子商务领域、物流领域等)所需要处理的数据量越来越大,可能存在大量的如定时任务等数据任务需要处理。目前,基于云计算的出现和发展,分布式任务调度逐渐成为许多研究人员或企业采用的一种任务调度方式。
在实现本发明过程中,发明人发现现有的一些分布式任务调度系统,通常是全局只有一张任务数据表。因此,通常是各服务器并发式的对同一张任务数据表进行读取等操作。一些情况下,在确定任务数据表中的任务可以执行时,由服务器调用业务系统,以触发业务系统执行可执行的任务。
发明内容
本公开的实施例提出了用于处理任务的系统、方法和装置。
第一方面,本公开的实施例提供了一种用于处理任务的系统,该系统包括至少一个服务器组,其中,每个服务器组包括一个主服务器和至少一个从服务器;主服务器,用于从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至所在的服务器组中的从服务器;从服务器,用于将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务;主服务器,进一步用于从所在的服务器组对应的子任务集中选取待处理子任务,以及将选取的待处理子任务发送至所在的服务器组中的从服务器;从服务器,进一步用于发送针对接收到的待处理子任务的通知消息。
在一些实施例中,每个服务器组用于处理至少一个任务集中的任务,且各个服务器组所处理的任务集互不相同。
在一些实施例中,任务集由属于相同任务类型的任务组成,且不同任务集对应的任务类型不同;以及至少一个服务器组中的服务器,用于接收任务创建请求,其中,任务创建请求包括用于指示请求创建的任务的任务类型的指示信息;查找与任务创建请求中的指示信息对应的任务集,以及在查找到的任务集中添加任务创建请求所请求创建的任务。
在一些实施例中,每个服务器组对应的至少一个任务集中的任务利用与该服务器组对应的第一数据表进行存储,每个服务器组对应的子任务集中的子任务利用与该服务器组对应的第二数据表进行存储。
在一些实施例中,主服务器进一步用于:确定选取的待处理任务是否在预设时间之前已被选取过;响应于确定选取的待处理任务未在预设时间之前被选取过,将选取的待处理任务发送至所在的服务器组中的从服务器。
在一些实施例中,从服务器进一步用于根据预存的、接收到的待处理任务的拆分信息,将接收到的待处理任务拆分成至少一条待处理子任务,其中,拆分信息用于指示待处理任务的拆分方式。
第二方面,本公开的实施例提供了一种用于处理任务的方法,包括:从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务;从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息。
第三方面,本公开的实施例提供了一种用于处理任务的方法,包括:将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务,其中,待处理任务由服务器组中的主服务器从服务器组对应的任务集中选取并发送;发送用于针对接收到的待处理子任务的通知消息,其中,待处理子任务由主服务器从子任务集中选取并发送。
第四方面,本公开的实施例提供了一种用于处理任务的装置,包括:任务发送单元,被配置成从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务;子任务发送单元,被配置成从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息。
第五方面,本公开的实施例提供了一种用于处理任务的装置,包括:拆分单元,被配置成将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务,其中,待处理任务由服务器组中的主服务器从服务器组对应的任务集中选取并发送;消息发送单元,被配置成发送用于针对接收到的待处理子任务的通知消息,其中,待处理子任务由主服务器从子任务集中选取并发送。
第六方面,本公开的实施例提供了一种服务器,该服务器包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第二方面或第三方面描述的方法。
第七方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第二方面或第三方面描述的方法。
本公开的实施例提供的用于处理任务的系统,通过将服务器划分成至少一个服务器组,并使每个服务器组只处理对应的任务集中的任务,可以有效的解决所有服务器竞争同一任务集中的任务而导致的任务处理效率较低的问题。同时,针对每个服务器组设置一个主服务器和至少一个从服务器,并由主服务器负责其所在的服务器组对应的任务集中的任务和子任务集中的子任务的分发,由从服务器负责其所在的服务器组对应的任务集中的任务的拆分和发送子任务集中的子任务的通知,由此可以减少任务创建请求,而且利用各个服务器组分散处理的方式,可以提高系统的并发处理能力。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的用于处理任务的系统的示例性系统架构图;
图2是根据本公开的用于处理任务的系统的一个实施例的时序图;
图3是根据本公开的用于处理任务的方法的一个实施例的流程图;
图4是根据本公开的用于处理任务的方法的一个实施例的流程图;
图5是根据本公开的用于处理任务的装置的一个实施例的结构示意图;
图6是根据本公开的用于处理任务的装置的一个实施例的结构示意图;
图7是适于用来实现本公开的实施例的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了本公开的用于处理任务的系统的示例性架构100。
如图1所示,系统架构100可以包括至少一个服务器组101。其中,每个服务器组101可以包括一个主服务器1010和至少一个从服务器1011。每个服务器组101可以用于处理其对应的任务集1012中的任务。每个任务集1012对应有任务子集1013。其中,任务子集1013中的子任务是通过对任务集1012中的待处理任务进行拆分得到。
每个服务器组101中的主服务器1010可以用于从任务集1012中选取待处理任务,以及将选取的待处理任务发送至其所在的服务器组101中的从服务器1011,也可以用于从任务子集1013中选取待处理子任务,以及将选取的待处理子任务发送至其所在的服务器组101中的从服务器1011。
从服务器1011可以用于将接收到的待处理任务拆分成至少一条待处理子任务,以及将拆分得到的至少一条待处理子任务添加到任务子集1013中,也可以用于发送针对接收到的待处理子任务的通知消息。
需要说明的是,每个服务器组101中的服务器(包括主服务器1010和从服务器1011)可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
继续参考图2,其示出了根据本公开的用于处理任务的系统的一个实施例的时序200。
本公开实施例中的用于处理任务的系统可以包括至少一个服务器组(如图1所示的至少一个服务器组101)。其中,每个服务器组可以包括一个主服务器(如图1所示的主服务器1010)和至少一个从服务器(如图1所示的至少一个从服务器1011)。
需要说明的是,每组服务器组包括的服务器的数目可以相同,也可以不同。根据任务量的多少可以增加或减少服务器组中的服务器的数目。
其中,每组服务器组中的主服务器可以采用各种方法确定。例如,随机选取一个服务器作为主服务器。又例如,基于Zookeeper服务提供的主节点选取方法,从每组服务器中选取主服务器。
每组服务器组中的从服务器可以定时检测主服务器的状态,以在主服务器出现宕机等情况时,可以重新选取主服务器。
如图2所示,在步骤201中,主服务器从所在的服务器组对应的任务集中选取待处理任务。
在本实施例中,任务集中的任务可以是各种类型的任务。例如,各种定时任务等等。用于处理任务的系统中的每个服务器组都可以有对应的任务集,并且可以对任务集执行添加、删除等操作以更新任务集中的任务。
作为示例,每个服务器组对应的任务集可以通过如下步骤更新:用于处理任务的系统在接收到任务创建请求时,可以由具体接收到该任务创建请求的服务器根据任务创建请求生成对应的任务,并将生成的任务添加至其对应的任务集中。
可选地,每个服务器组可以用于处理至少一个任务集中的任务,且各个服务器组所处理的任务集可以互不相同。
可选地,每个任务集都可以由属于相同任务类型的任务组成,且不同任务集对应的任务类型可以不同。其中,任务类型可以根据实际的应用需求进行划分。
此时,每个服务器组对应的任务集可以通过如下步骤更新:
步骤一,用于处理任务的系统包括的至少一个服务器组中的服务器可以接收任务创建请求。
在本步骤中,任务创建请求可以包括用于指示请求创建的任务的任务类型的指示信息。其中,用于处理任务的系统包括的至少一个服务器中的任一服务器都可以接收任务创建请求,也可以预先指定用于处理任务的系统包括的至少一个服务器中的部分服务器可以接收任务创建请求。
可选地,任务创建请求可以由使用本公开提供的用于处理任务的系统的业务系统发送。
步骤二,接收到任务创建请求的服务器查找与任务创建请求中的指示信息对应的任务集。
在本步骤中,由于每个服务器组所对应处理的任务集对应的任务类型不同。因此,接收到任务创建请求的服务器可以查找对应的任务类型与任务创建请求中的指示信息所指示的任务类型相同的任务集。
步骤三,接收到任务创建请求的服务器在查找到的任务集中添加任务创建请求所请求创建的任务。
在本步骤中,接收到任务创建请求的服务器可以先根据任务创建请求生成所请求创建的任务,然后在查找到的任务集中添加任务创建请求所请求创建的任务。
在本实施例的一些可选的实现方式中,接收到的任务创建请求还可以包括如下至少一项:请求端识别码、校验数据、任务数据、任务执行时间、任务识别码等。
其中,请求端识别码可以用于标识发送任务创建请求的发送端。例如,发送端为业务系统时,请求端识别码可以为appCode(业务系统识别码)。
其中,校验数据可以用于校验发送任务创建请求的发送端的身份。换言之,可以用于校验接收到的任务创建请求是否存在异常。例如,发送端为业务系统时,校验数据可以为token(令牌)。此时,在接收到任务创建请求之后,可以通过检测任务创建请求中的请求端识别码和校验数据是否匹配来确定任务创建请求是否存在异常。一般地,若任务创建请求中的请求端识别码和校验数据不匹配,可以认为任务创建请求存在异常。若任务创建请求中的请求端识别码和校验数据匹配,可以认为任务创建请求不存在异常。
其中,任务数据可以指与请求创建的任务相关的数据。例如,任务数据可以包括执行请求创建的任务所需的数据。
其中,任务执行时间可以指请求创建的任务的各种执行时间。例如,最早的执行时间、执行时间间隔等等。
其中,任务识别码可以用于标识任务。一般地,可以通过任务识别码校验是否接收到重复的任务。其中,任务识别码可以基于任务创建请求所请求创建的任务的各种数据生成。例如,可以基于任务创建请求的发送时间、请求创建的任务的关键字等生成。
可选地,在任务集中添加任务创建请求所请求创建的任务之后,可以向发送任务创建请求的请求端返回用于指示任务创建成功的指示信息。
在本实施例中,根据不同的应用场景,主服务器可以灵活地采用各种选取方式从其所在的服务器组对应的任务集中选取待处理任务。例如,可以从任务集中随机选取待处理任务。又例如,可以按照对应的任务创建时间从早到晚或从晚到早的顺序选取待处理任务。
可选地,主服务器可以根据任务集中的各任务的任务类型,选取待处理任务。例如,主服务器可以选取其中的一种或多种任务类型的任务。
应当可以理解的是,主服务器可以基于多线程技术实现待处理任务的选取,以提高任务处理速度。例如,可以针对每种任务类型创建一个对应的线程,然后由各个线程并行地分别从任务集中选取对应任务类型的任务。
需要说明的是,主服务器从任务集中选取的待处理任务的数目和选取时间可以根据实际的应用需求和应用场景进行设置。例如,主服务器可以基于预设时间间隔从待处理任务集中选取预设数目条待处理任务。
可选地,可以记录任务集中的各个任务的执行状态。其中,执行状态可以用于表示任务当前的处理进度。例如,执行状态可以包括待执行、执行中、执行完成等等。应当可以理解,在每个任务的执行状态变化时,可以及时更新任务的执行状态。
在步骤202中,主服务器将选取的待处理任务发送至所在的服务器组中的从服务器。
在本实施例中,根据不同的应用场景,可以选择不同的确定接收主服务器发送的待处理任务的从服务器的方法。例如,主服务器可以随机将选取的待处理任务发送至所在的服务器组中的任一从服务器。又例如,主服务器也可以根据所在的服务器组中的各从服务器当前的空闲状态,选择相对比较空闲的服务器以发送所选取的待处理任务。
可选地,主服务器在选取待处理任务之后,可以先确定选取的待处理任务是否在预设时间之前已被选取过,响应于确定选取的待处理任务未在预设时间之前被选取过,可以再将选取的待处理任务发送至所在的服务器组中的从服务器。
其中,预设时间可以由技术人员根据实际的应用场景预先设置。例如,主服务每次从任务集选取待处理任务时,可以记录选取时间。由此,可以通过查看历史记录的选取时间,以确定选取的待处理任务是否在预设时间之前已被选取过。
又例如,主服务器可以维护一个缓存队列以记录选取过的待处理任务的任务编号。其中,任务编号可以是任务的任务标识码或存储编号等等。其中,该缓存队列的缓存时间可以设置为上述预设时间。即被选取之后超过上述预设时间,就可以从缓存队列中删除。此时,可以通过查找缓存队列中是否存在选取的待处理任务的任务编码,以确定选取的待处理任务是否在预设时间之前已被选取过。一般地,若缓存队列中存在选取的待处理任务的任务编码,则表明选取的待处理任务在预设时间之前已被选取过。
可选地,响应于确定选取的待处理任务是否在预设时间之前已被选取过,可以放弃对选取的待处理任务的后续拆分操作,由此可以避免由于任务或子任务执行失败而又立即执行而影响其他任务的执行的情况。
在步骤203中,从服务器将接收到的待处理任务拆分成至少一条待处理子任务。
在本实施例中,待处理任务的拆分方式可以根据实际的应用需求灵活设置。例如,从服务器可以根据预设的任务拆分规则,确定待处理任务的拆分方式,并按照对应的拆分方式将待处理任务拆分成至少一条待处理子任务。
可选地,从服务器可以根据预存的、接收到的待处理任务的拆分信息,将接收到的待处理任务拆分成至少一条待处理子任务。
其中,拆分信息可以用于指示待处理任务的拆分方式。例如,拆分信息可以用于指示需要拆分成的子任务的数目等。
可选地,接收到的任务创建请求中可以包括对应的拆分信息。
可选地,相关人员可以通过预先访问用于处理任务的系统,并将拆分信息存储于用于处理任务的系统中的服务器中。
在步骤204中,在所在的服务器组对应的子任务集中添加拆分得到的至少一条待处理子任务。
在本实施例中,每个服务器组都可以对应有子任务集,用于存储对应的任务集中的任务被拆分后得到的各条待处理子任务。
可选地,每个服务器组对应的子任务集可以不同。
在步骤205中,主服务器从所在的服务器组对应的子任务集中选取待处理子任务。
在本实施例中,根据不同的应用场景,主服务器可以灵活地采用各种选取方式从其所在的服务器组对应的子任务集中选取待处理子任务。例如,可以从子任务集中随机选取待处理子任务。又例如,可以按照对应的任务创建时间从早到晚或从晚到早的顺序选取待处理子任务。
应当可以理解的是,主服务器可以基于多线程技术实现待处理子任务的选取,以提高任务处理速度。例如,创建多个线程并行地分别从子任务集中选取子任务。
需要说明的是,主服务器从子任务集中选取的待处理子任务的数目和选取时间可以根据实际的应用需求和应用场景进行设置。例如,主服务器可以基于预设时间间隔从待子任务集中选取预设数目条待处理子任务。
在步骤206中,将选取的待处理子任务发送至所在的服务器组中的从服务器。
在本实施例中,根据不同的应用场景,可以选择不同的确定接收主服务器发送的待处理子任务的从服务器的方法。例如,主服务器可以随机将选取的待处理子任务发送至所在的服务器组中的任一从服务器。又例如,主服务器也可以根据所在的服务器组中的各从服务器当前的空闲状态,选择相对比较空闲的服务器以发送所选取的待处理子任务。
在步骤207中,发送针对接收到的待处理子任务的通知消息。
在本实施例中,通知消息可以用于通知待处理子任务的相关信息。其中,待处理子任务的相关性信息可以根据实际的应用需求进行设置。
例如,通知消息可以用于提醒待处理子任务的执行工作,以触发接收端执行待处理子任务。
在本实施例的一些可选的实现方式中,拆分信息还可以指示拆分后的子任务的接收对象等等。基于此,从服务器可以向子任务对应的接收对象发送通知信息。
在本实施例的一些可选的实现方式中,每个服务器组对应的至少一个任务集中的任务可以利用与该服务器组对应的第一数据表进行存储,每个服务器组对应的子任务集中的子任务可以利用与该服务器组对应的第二数据表进行存储。
可选地,上述第一数据表中可以设置字段用于表示各任务的执行状态。上述第二数据表中可以设置字段用于表示各任务的执行状态。
由此,可以使得每组服务器组只对其对应的第一数据表和第二数据表进行读取等操作,可以避免将所有任务和/或子任务存储于同一数据表所造成的读写速度慢、大量服务器并发操作同一数据表所造成的数据读取重复或数据不一致等问题。而且通过分散任务数据的存储,可以解决由于将所有任务存储于同一数据表时,由于连接资源有限而导致服务器难以横向扩容的问题。
在本实施例的一些可选的实现方式中,由于每组服务器组中的从服务器的数目可能为多个,因此,从服务器在对任务集和子任务集中的子任务进行各种操作时(如拆分任务操作、发送子任务对应的通知消息等),可以对操作的任务或子任务进行锁定操作,以避免同时有其它从服务器对同一任务或子任务进行操作而导致的数据不一致、重复操作等问题。
需要说明的是,实际的应用场景中,每个服务器组中的主服务器和从服务器一般都是并行地执行各种操作。因此,本公开对上述步骤201-207的执行顺序并不限定。
本公开的上述实施例提供的用于处理任务的系统,通过将服务器划分成至少一个服务器组,并使每个服务器组只处理对应的任务集中的任务,可以有效的解决所有服务器竞争同一任务集中的任务而导致的任务处理效率较低的问题。同时,针对每个服务器组设置一个主服务器和至少一个从服务器,并由主服务器负责其所在的服务器组对应的任务集中的任务和子任务集中的子任务的分发,由从服务器负责其所在的服务器组对应的任务集中的任务的拆分和发送子任务集中的子任务的通知,由此可以减少任务创建请求,而且利用各个服务器组分散处理的方式,可以提高系统的并发处理能力。
进一步参考图3,其示出了用于处理任务的方法的一个实施例的流程300。该用于处理任务的方法的流程300,包括以下步骤:
步骤301,从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器。
在本实施例中,接收到的待处理任务的其它服务器可以将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务。
步骤302,从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器。
在本实施例中,接收到待处理子任务的其它服务器可以发送针对接收到的待处理子任务的通知消息。
本公开的上述实施例提供的用于处理任务的方法的执行主体可以为图2所示的主服务器。上述步骤301和302的具体执行过程可参考图2对应实施例中的相关说明,在此不再赘述。
本公开的上述实施例提供的用于处理任务的方法通过服务器组中的一服务器负责其所在的服务器组对应的任务集中的任务和子任务集中的子任务的分发,由服务器组中的其它服务器负责其服务器组对应的任务集中的任务的拆分和发送子任务集中的子任务的通知,由此可以减少任务创建请求,以及减轻服务器组的任务存储压力。同时,在一些分布式的任务处理系统中,通过划分多个服务器组,且每个服务器组中的一服务器通过采用本公开的上述实施例提供的用于处理任务的方法完成任务处理,可以提高系统的并发处理能力。
进一步参考图4,其示出了用于处理任务的方法的一个实施例的流程400。该用于处理任务的方法的流程400,包括以下步骤:
步骤401,将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务。
在本实施例中,待处理任务可以由服务器组中的主服务器从服务器组对应的任务集中选取并发送。
步骤402,发送用于针对接收到的待处理子任务的通知消息。
在本实施例中,待处理子任务可以由主服务器从子任务集中选取并发送。
本公开的上述实施例提供的用于处理任务的方法的执行主体可以为图2所示的从服务器。上述步骤401和402的具体执行过程可参考图2对应实施例中的相关说明,在此不再赘述。
本公开的上述实施例提供的用于处理任务的方法通过接收所在的服务器组中的主服务器分发的待处理任务,并对接收到的待处理任务进行拆分操作,并通过接收所在的服务器组中的主服务器分发的待处理子任务,并发送针对待处理子任务的通知消息,可以减少任务创建请求,以及减轻服务器组的任务存储压力。同时,在一些分布式的任务处理系统中,通过划分多个服务器组,且每个服务器组中的至少一个服务器通过采用本公开的上述实施例提供的用于处理任务的方法完成任务处理,可以提高系统的并发处理能力。。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了用于处理任务的装置的一个实施例,该装置实施例与图3所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例提供的用于处理任务的装置500包括任务发送单元501和子任务发送单元502。其中,任务发送单元501被配置成从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务;子任务发送单元502被配置成从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息。
在本实施例中,用于处理任务的装置500中:任务发送单元501和子任务发送单元502的具体处理及其所带来的技术效果可分别参考图3对应实施例中的步骤301和步骤302的相关说明,在此不再赘述。
本公开的上述实施例提供的装置,通过任务发送单元从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务;子任务发送单元从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息,可以减少任务创建请求,以及减轻服务器组的任务存储压力。
进一步参考图6,作为对上述各图所示方法的实现,本公开提供了用于处理任务的装置的一个实施例,该装置实施例与图4所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,本实施例提供的用于处理任务的装置600包括拆分单元601和消息发送单元602。其中,拆分单元601被配置成将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务,其中,待处理任务由服务器组中的主服务器从服务器组对应的任务集中选取并发送;消息发送单元602被配置成发送用于针对接收到的待处理子任务的通知消息,其中,待处理子任务由主服务器从子任务集中选取并发送。
在本实施例中,用于处理任务的装置600中:拆分单元601和消息发送单元602的具体处理及其所带来的技术效果可分别参考图4对应实施例中的步骤401和步骤402的相关说明,在此不再赘述。
本公开的上述实施例提供的装置,通过拆分单元,被配置成将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务,其中,待处理任务由服务器组中的主服务器从服务器组对应的任务集中选取并发送;消息发送单元,被配置成发送用于针对接收到的待处理子任务的通知消息,其中,待处理子任务由主服务器从子任务集中选取并发送,可以减少任务创建请求,以及减轻服务器组的任务存储压力。
下面参考图7,其示出了适于用来实现本公开的实施例的电子设备(例如图1中的主服务器和从服务器)700的结构示意图。图7示出的服务器仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
通常,以下装置可以连接至I/O接口705:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置707;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设备700,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图7中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从ROM 702被安装。在该计算机程序被处理装置701执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述服务器中所包含的;也可以是单独存在,而未装配入该服务器中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该服务器执行时,使得该服务器:从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在服务器组对应的子任务集中添加至少一条待处理子任务;从子任务集中选取待处理子任务,以及将选取的待处理子任务发送至服务器组中的其它服务器,以使服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息,或将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加至少一条待处理子任务,其中,待处理任务由服务器组中的主服务器从服务器组对应的任务集中选取并发送;发送用于针对接收到的待处理子任务的通知消息,其中,待处理子任务由主服务器从子任务集中选取并发送。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括任务发送单元和子任务发送单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,任务发送单元还可以被描述为“从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至所述服务器组中的其它服务器的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种用于处理任务的系统,包括至少一个服务器组,其中,每个服务器组包括一个主服务器和至少一个从服务器;
主服务器,用于从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至所在的服务器组中的从服务器;
从服务器,用于将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加所述至少一条待处理子任务;
主服务器,进一步用于从所在的服务器组对应的子任务集中选取待处理子任务,以及将选取的待处理子任务发送至所在的服务器组中的从服务器;
从服务器,进一步用于发送针对接收到的待处理子任务的通知消息。
2.根据权利要求1所述的系统,其中,每个服务器组用于处理至少一个任务集中的任务,且各个服务器组所处理的任务集互不相同。
3.根据权利要求2所述的系统,其中,任务集由属于相同任务类型的任务组成,且不同任务集对应的任务类型不同;以及
所述至少一个服务器组中的服务器,用于接收任务创建请求,其中,任务创建请求包括用于指示请求创建的任务的任务类型的指示信息;查找与任务创建请求中的指示信息对应的任务集,以及在查找到的任务集中添加任务创建请求所请求创建的任务。
4.根据权利要求1所述的系统,其中,每个服务器组对应的至少一个任务集中的任务利用与该服务器组对应的第一数据表进行存储,每个服务器组对应的子任务集中的子任务利用与该服务器组对应的第二数据表进行存储。
5.根据权利要求1所述的系统,其中,主服务器进一步用于:
确定选取的待处理任务是否在预设时间之前已被选取过;
响应于确定选取的待处理任务未在预设时间之前被选取过,将选取的待处理任务发送至所在的服务器组中的从服务器。
6.根据权利要求1所述的系统,其中,从服务器进一步用于根据预存的、接收到的待处理任务的拆分信息,将接收到的待处理任务拆分成至少一条待处理子任务,其中,拆分信息用于指示待处理任务的拆分方式。
7.一种用于处理任务的方法,包括:
从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至所述服务器组中的其它服务器,以使所述服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在所述服务器组对应的子任务集中添加所述至少一条待处理子任务;
从所述子任务集中选取待处理子任务,以及将选取的待处理子任务发送至所述服务器组中的其它服务器,以使所述服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息。
8.一种用于处理任务的方法,包括:
将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加所述至少一条待处理子任务,其中,所述待处理任务由所述服务器组中的主服务器从所述服务器组对应的任务集中选取并发送;
发送用于针对接收到的待处理子任务的通知消息,其中,所述待处理子任务由所述主服务器从所述子任务集中选取并发送。
9.一种用于处理任务的装置,包括:
任务发送单元,被配置成从所在的服务器组对应的任务集中选取待处理任务,以及将选取的待处理任务发送至所述服务器组中的其它服务器,以使所述服务器组中的其它服务器将接收到的待处理任务拆分成至少一条待处理子任务,以及在所述服务器组对应的子任务集中添加所述至少一条待处理子任务;
子任务发送单元,被配置成从所述子任务集中选取待处理子任务,以及将选取的待处理子任务发送至所述服务器组中的其它服务器,以使所述服务器组中的其它服务器发送针对接收到的待处理子任务的通知消息。
10.一种用于处理任务的装置,包括:
拆分单元,被配置成将接收到的待处理任务拆分成至少一条待处理子任务,以及在所在的服务器组对应的子任务集中添加所述至少一条待处理子任务,其中,所述待处理任务由所述服务器组中的主服务器从所述服务器组对应的任务集中选取并发送;
消息发送单元,被配置成发送用于针对接收到的待处理子任务的通知消息,其中,所述待处理子任务由所述主服务器从所述子任务集中选取并发送。
11.一种服务器,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求7或8所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求7或8所述的方法。
CN201910971362.8A 2019-10-14 2019-10-14 用于处理任务的系统、方法和装置 Pending CN110673959A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910971362.8A CN110673959A (zh) 2019-10-14 2019-10-14 用于处理任务的系统、方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910971362.8A CN110673959A (zh) 2019-10-14 2019-10-14 用于处理任务的系统、方法和装置

Publications (1)

Publication Number Publication Date
CN110673959A true CN110673959A (zh) 2020-01-10

Family

ID=69082025

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910971362.8A Pending CN110673959A (zh) 2019-10-14 2019-10-14 用于处理任务的系统、方法和装置

Country Status (1)

Country Link
CN (1) CN110673959A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111400012A (zh) * 2020-03-20 2020-07-10 中国建设银行股份有限公司 数据并行处理方法、装置、设备及存储介质
CN113515369A (zh) * 2021-04-23 2021-10-19 深圳希施玛数据科技有限公司 一种数据处理方法、系统、终端和存储介质
CN113791876A (zh) * 2020-12-23 2021-12-14 京东科技控股股份有限公司 用于处理任务的系统、方法和装置
CN113821506A (zh) * 2020-12-23 2021-12-21 京东科技控股股份有限公司 用于任务系统的任务执行方法、装置、系统、服务器和介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160062794A1 (en) * 2014-08-27 2016-03-03 Verizon Patent And Licensing Inc. Big data parser
CN106599043A (zh) * 2016-11-09 2017-04-26 中国科学院计算技术研究所 用于多级数据库的中间件和多级数据库系统
CN107025205A (zh) * 2016-01-30 2017-08-08 华为技术有限公司 一种分布式系统中的训练模型的方法及设备
CN108958922A (zh) * 2017-05-17 2018-12-07 北京京东尚科信息技术有限公司 用于执行任务的方法和装置
CN110008017A (zh) * 2018-12-06 2019-07-12 阿里巴巴集团控股有限公司 一种分布式处理系统及方法、一种计算设备及存储介质
CN110113387A (zh) * 2019-04-17 2019-08-09 深圳前海微众银行股份有限公司 一种基于分布式批量处理系统的处理方法、装置及系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160062794A1 (en) * 2014-08-27 2016-03-03 Verizon Patent And Licensing Inc. Big data parser
CN107025205A (zh) * 2016-01-30 2017-08-08 华为技术有限公司 一种分布式系统中的训练模型的方法及设备
CN106599043A (zh) * 2016-11-09 2017-04-26 中国科学院计算技术研究所 用于多级数据库的中间件和多级数据库系统
CN108958922A (zh) * 2017-05-17 2018-12-07 北京京东尚科信息技术有限公司 用于执行任务的方法和装置
CN110008017A (zh) * 2018-12-06 2019-07-12 阿里巴巴集团控股有限公司 一种分布式处理系统及方法、一种计算设备及存储介质
CN110113387A (zh) * 2019-04-17 2019-08-09 深圳前海微众银行股份有限公司 一种基于分布式批量处理系统的处理方法、装置及系统

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111400012A (zh) * 2020-03-20 2020-07-10 中国建设银行股份有限公司 数据并行处理方法、装置、设备及存储介质
CN113791876A (zh) * 2020-12-23 2021-12-14 京东科技控股股份有限公司 用于处理任务的系统、方法和装置
CN113821506A (zh) * 2020-12-23 2021-12-21 京东科技控股股份有限公司 用于任务系统的任务执行方法、装置、系统、服务器和介质
CN113515369A (zh) * 2021-04-23 2021-10-19 深圳希施玛数据科技有限公司 一种数据处理方法、系统、终端和存储介质
CN113515369B (zh) * 2021-04-23 2022-03-29 深圳希施玛数据科技有限公司 一种数据处理方法、系统、终端和存储介质

Similar Documents

Publication Publication Date Title
CN108182111B (zh) 任务调度系统、方法和装置
US9916183B2 (en) Scheduling mapreduce jobs in a cluster of dynamically available servers
US8924977B2 (en) Sequential cooperation between map and reduce phases to improve data locality
US9852035B2 (en) High availability dynamic restart priority calculator
CN110673959A (zh) 用于处理任务的系统、方法和装置
CN105787077B (zh) 数据同步方法和装置
CN113535367B (zh) 任务调度方法及相关装置
US8434085B2 (en) Scalable scheduling of tasks in heterogeneous systems
US10423442B2 (en) Processing jobs using task dependencies
CN110609872A (zh) 用于同步节点数据的方法和装置
US20140215003A1 (en) Data processing method, distributed processing system, and program
CN112035571A (zh) 一种数据同步方法、装置、设备和存储介质
CN111338834B (zh) 数据存储方法和装置
CN113760488A (zh) 调度任务的方法、装置、设备和计算机可读介质
US10789183B2 (en) Aggregation handling
CA2631255A1 (en) Scalable scheduling of tasks in heterogeneous systems
CN111444148B (zh) 基于MapReduce的数据传输方法和装置
CN110716809B (zh) 用于调度云资源的方法和装置
CN112825525B (zh) 用于处理事务的方法和装置
CN116302271A (zh) 一种页面展示方法、装置及电子设备
CN113791876A (zh) 用于处理任务的系统、方法和装置
US9172729B2 (en) Managing message distribution in a networked environment
CN114116247A (zh) 基于Redis的消息处理方法、装置、系统、服务器和介质
CN113761548B (zh) 用于Shuffle过程的数据传输方法和装置
CN116467146A (zh) 一种日志处理方法和应用服务器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant after: Jingdong Digital Technology Holding Co.,Ltd.

Address before: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant before: JINGDONG DIGITAL TECHNOLOGY HOLDINGS Co.,Ltd.

Address after: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant after: Jingdong Technology Holding Co.,Ltd.

Address before: Room 221, 2nd floor, Block C, 18 Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing, 100176

Applicant before: Jingdong Digital Technology Holding Co.,Ltd.

CB02 Change of applicant information
RJ01 Rejection of invention patent application after publication

Application publication date: 20200110

RJ01 Rejection of invention patent application after publication