CN108733461B - 分布式任务调度方法和装置 - Google Patents
分布式任务调度方法和装置 Download PDFInfo
- Publication number
- CN108733461B CN108733461B CN201710252065.9A CN201710252065A CN108733461B CN 108733461 B CN108733461 B CN 108733461B CN 201710252065 A CN201710252065 A CN 201710252065A CN 108733461 B CN108733461 B CN 108733461B
- Authority
- CN
- China
- Prior art keywords
- service
- task
- client
- scheduling
- thread
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/542—Event management; Broadcasting; Multicasting; Notifications
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明实施例提供一种分布式任务调度方法和装置,解决现有任务调度系统的单点故障问题,使系统达到高可用性。该方法包括:创建线程池,并在线程池中初始化一个或多个线程;接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息;依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
Description
技术领域
本发明涉及计算机技术领域,特别地涉及一种分布式任务调度方法和装置。
背景技术
目前,针对电商业务的分布式系统包括:订单、仓储、配送、售后以及客服等等多个子系统,在分布式系统运行过程中各个子系统会产生大量有价值的业务数据,通常为了提高并发和解耦,分布式系统通常会采用先接受业务数据,再异步处理数据的软件设计方法。
当前基于Java开发语言、Spring组件构建的软件系统中,通常采用JDK Timer和Quartz两类分布式任务调度工具。Spring对组件JDK Timer和Quartz进行了丰富的和抽象和管理,通常仅需要开发人员通过配置文件对执行任务的Java代码进行配置和管理,Spring容器即可对任务进行调度。
然而,上述两类调度工具共同存在以下几个缺陷:1、代码的配置较多,代码维护量大;2、代码只能在一个服务器进行处理、存在单点故障,当服务器故障后无法自动再次执行,需人工介入;3、执行过程无法监控,如果执行异常开发人员得不到反馈;4、代码的执行通过配置进行初始化,想修改配置必须通过修改配置文件,重启应用才能解决。
因此,亟需一种能够解决单点故障的问题,方便管理和维护,具有高可用性的轻量级分布式任务调度方法和系统。
发明内容
有鉴于此,本发明提供一种分布式任务调度方法、装置、电子设备和计算机可读介质,解决现有任务调度系统的单点故障问题,使系统达到高可用性。
为实现上述目的,根据本发明的一个方面,提供了一种分布式任务调度方法,该方法包括:
创建线程池,并在线程池中初始化一个或多个线程;
接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息;
依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
进一步的,在所述所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务的步骤中包括:
所述每个线程通过预定义通信协议向客户端请求所述服务,所述预定义通信协议为http或tcp协议。
进一步的,所述服务信息包括以下各项中的至少一项:服务的协议、服务名、服务发现信息以及服务的状态。
进一步的,所述预定义的调度配置参数包括以下各项中的至少一项:
申请线程的个数、服务参数、每次获取数据的个数、每次执行数据的个数、执行时间的规则、有数据间隔的秒数、无数据间隔的秒数、处理数据的线程数、数据重试的次数以及服务超时秒数。
根据本发明的另一个方面,提供了一种分布式任务调度方法,该方法包括:
向服务端发送任务注册请求,以将任务注册到所述服务端并生成对应该任务的服务,所述服务具有服务信息,其中,所述服务端创建有线程池,并在线程池中初始化有一个或多个线程,所述服务端依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独请求所述服务;
响应所述服务端分配的每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
进一步的,在所述向服务端发送任务注册请求的步骤中包括:
通过预定义通信协议向服务端发送任务注册请求,以将任务注册到所述服务端,所述预定义通信协议为http或tcp协议。
进一步的,所述服务信息包括以下各项中的至少一项:服务的协议、服务名、服务发现信息以及服务的状态。
进一步的,所述预定义的调度配置参数包括以下各项中的至少一项:
申请线程的个数、服务参数、每次获取数据的个数、每次执行数据的个数、执行时间的规则、有数据间隔的秒数、无数据间隔的秒数、处理数据的线程数、数据重试的次数以及服务超时秒数。
根据本发明的另一个方面,提供了一种分布式任务调度装置,所述装置具有线程池,在所述线程池中初始化有一个或多个线程,所述装置包括:
服务中心模块,用于接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息,所述服务中心模块利用数据库来存储和管理所述服务信息;
调度中心模块,用于依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
进一步的,所述调度中心模块还用于对所述每个线程执行的过程进行监控,生成监控数据。
进一步的,本发明提供的分布式任务调度装置,还包括:监控中心模块,用于对所述监控数据进行统计。
进一步的,本发明提供的分布式任务调度装置,还包括:用户中心模块,用于基于所述监控数据对所述系统进行故障检测,并在检测到故障后,通过短信和/或邮件方式进行报警。
进一步的,所述调度中心模块进一步用于所述每个线程通过预定义通信协议向客户端请求所述服务,所述预定义通信协议为http或tcp协议。
根据本发明的另一个方面,提供了一种分布式任务调度装置,该装置包括:
服务注册模块,用于向服务端发送任务注册请求,以将任务注册到所述服务端并生成对应该任务的服务,所述服务具有服务信息,其中,所述服务端创建有线程池,并在线程池中初始化有一个或多个线程,所述服务端依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独请求所述服务;
服务执行模块,用于响应所述服务端分配的每个线程对服务的请求,执行所述服务对应的任务,实现对任务的调度。
进一步的,所述服务注册模块进一步用于通过预定义通信协议向服务端发送任务注册请求,以将任务注册到所述服务端,所述预定义通信协议为http或tcp协议。
根据本发明的另一个方面,提供了一种分布式任务调度的电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器至少实现:
创建线程池,并在线程池中初始化一个或多个线程;
接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息;
依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
根据本发明的另一个方面,提供了一种分布式任务调度的电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器至少实现:
向服务端发送任务注册请求,以将任务注册到所述服务端并生成对应该任务的服务,所述服务具有服务信息,其中,所述服务端创建有线程池,并在线程池中初始化有一个或多个线程,所述服务端依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独请求所述服务;
响应所述服务端分配的每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
根据本发明的另一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时至少实现:
创建线程池,并在线程池中初始化一个或多个线程;
接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息;
依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
根据本发明的另一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时至少实现:
向服务端发送任务注册请求,以将任务注册到所述服务端并生成对应该任务的服务,所述服务具有服务信息,其中,所述服务端创建有线程池,并在线程池中初始化有一个或多个线程,所述服务端依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独请求所述服务;
响应所述服务端分配的每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度。
本发明提供的分布式任务调度方法、系统、电子设备和计算机可读介质,通过数据库+多线程+多种通信协议+电子邮件+短信的设计思路实现,通过集群部署的服务端对客户端任务进行调度,解决单点故障问题,并且用户只需要通过对服务的注册以及调度配置参数的配置和管理即可进行任务调度,开发简单、配置少、代码管理方便,系统可用性高。在调度过程中,开发人员可以根据任务量的多少、对调度配置参数进行动态调整,系统平滑的根据配置动态调整参数和执行过程,而不需要重启应用,并且对执行过程进行监控,在执行过程中如果遇到问题,监控中心模块可以通过邮件和短信等方式出发报警。通过本发明提供的调度方式可以有效提升任务处理的并发性、吞吐量和稳定性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是本发明实施例提供的分布式任务调度方法流程图;
图2是本发明实施例提供的分布式任务调度装置的示意图;
图3是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施方式做出说明,其中包括本发明实施方式的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施方式做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本发明实施例提供一种分布式任务调度方法,如图1所示,该方法包括步骤101至步骤104,该方法通过服务端和客户端实现,服务端和客户端功能可以分别由服务器集群实现,客户端支持多任务部署。在步骤101中,服务端创建线程池,并在线程池中初始化一个或多个线程,创建的线程池用于在后续步骤中分配线程进行任务调度。
在步骤102中,客户端把任务注册到服务端以生成对应该任务的服务,所述服务具有服务信息。更为具体的,客户端通过预定义通信协议向服务端发送任务注册请求,把任务注册到服务端,所采用的预定义通信协议可以为http或tcp协议。基于http或tcp协议,客户端通过对应的远程通信框架,例如:Hessian、SOAP、RESTFul,将任务标注为服务,然后将服务信息通过服务端提供的API写入服务端数据库,完成任务的注册,实现客户端与服务端关于服务信息的通信。同时,客户端启动一个线程,通过心跳刷新服务的状态到服务端,保证服务端可以发现服务的存活性。
服务信息即由客户端封装的任务的相关信息,其中包括:服务的协议、服务名、服务发现信息以及服务的状态等数据。服务的协议指服务是采用Hessian、SOAP或者RESTFul中哪一种协议框架实现的。服务名即服务的名称。服务发现信息服务的URI地址,对应基于tcp协议实现的框架协议时,为相关的注册中心信息。服务的状态表示服务状态是否可用,在后续的调度步骤中可以基于本服务的状态有不同的反馈信息,例如当服务状态不可用时,进行报警。在后续步骤进行任务调度时,服务端通过注册的服务信息定位到服务,然后调度客户端执行任务。
在步骤103中,服务端依据对应服务预定义的调度配置参数,为服务分配一个或多个线程,所分配的每个线程依据服务信息以及调度配置参数单独向客户端请求服务,以实现对任务的调度。调度配置参数由用户在服务端进行配置,用户可以对应每一个已注册的服务分别进行配置,配置的过程可以由用户通过服务端提供的UI或API实现。
其中,预定义的调度配置参数包括:申请线程的个数、服务参数、每次获取数据的个数、每次执行数据的个数、执行时间的规则、有数据间隔的秒数、无数据间隔的秒数、处理数据的线程数、数据重试的次数以及服务超时秒数。用户可以在对上述调度配置参数进行组合设置,实现对于客户端任务的并发处理和弹性调度。
服务端依据上述对应服务配置的调度配置参数,为服务分配一定数量的线程,每个线程依据服务的注册信息定位到具体的服务,并根据调度配置参数的具体配置,单独向客户端进行服务请求。例如,调度配置参数中对一个服务配置为申请10个线程,根据该配置服务端为该服务从线程池中分配10个线程,10个线程根据设定的执行时间的规则以及执行过程每次获取数据的个数等参数并发的向客户端请求该服务,实现对于客户端任务的执行时间、执行次数以及使用的系统资源等方面的调度控制。
对应服务的注册方式,服务端线程通过预定义通信协议向客户端请求服务,预定义通信协议即http或tcp协议。对于一个服务,在任务注册时采用哪种远程通信框架实现,则服务端在请求该服务时就采用相同的远程通信框架实现。
在步骤104中,客户端响应服务端分配的线程对服务的请求,执行服务对应的任务。客户端任务在被请求后,开始启动执行,例如,服务端对于一个服务有10个线程并发的发起请求,客户端则对应请求数量,分配10份系统资源同时去执行该服务对应的任务。在任务执行的过程中,用户可以根据实际需要在服务端调整配置参数以及对服务进行管理,例如对服务进行停止、运行、新增等操作。
本发明实施例还提供一种分布式任务调度系统,如图2所示,该系统包括:客户端1和服务端2,服务端和客户端功能可以分别由服务器集群实现,客户端支持多任务处理,例如图2中所示,多任务分别为任务1、任务2至任务n。客户端1包括:服务注册模块3和服务执行模块6,其中服务端2包括:服务中心模块4和调度中心模块5,其中服务端2具有线程池,在线程池中初始化有一个或多个线程。
其中,服务注册模块3用于把任务注册到服务中心模块4以生成对应该任务的服务,服务具有服务信息。服务注册模块3通过预定义通信协议把任务注册到服务端,所采用的预定义通信协议可以为http或tcp协议。基于http或tcp协议,服务注册模块3通过对应的远程通信框架:Hessian、SOAP或者RESTFul将任务标注为服务,然后将服务信息写入服务中心模块4的数据库,完成任务的注册,实现客户端与服务端关于服务信息的通信。同时,服务注册模块3启动一个线程,通过心跳刷新服务的状态到服务中心模块4,保证服务中心模块4可以发现服务的存活性。
服务中心模块4利用数据库来存储和管理服务信息。服务信息即由服务注册模块3封装的任务的相关信息,其中包括:服务的协议、服务名、服务发现信息以及服务的状态等数据。服务的协议指服务是采用Hessian、SOAP、RESTFul或者JSF中哪一种协议框架实现的。服务名即服务的名称。服务发现信息为服务的URI地址,对应基于tcp协议实现的JSF框架协议时,为JSF的注册中心信息。服务的状态表示服务状态是否可用,其他具有监控功能的模块可以基于服务的状态有不同的反馈信息,例如当服务状态不可用时,进行报警。
调度中心模块5对每个服务依据对应该服务预定义的调度配置参数,在线程池中为该服务分配一个或多个线程,所分配的每个线程依据该服务信息以及调度配置参数单独向客户端请求该服务,以实现对任务的调度。对应服务注册模块3向服务中心模块4注册任务时采用的通信协议和远程通信框架,调度中心模块5分配的线程通过相同的通信协议和远程通信框架实现向客户端的远程服务请求。
在本发明中,调度中心模块还用于对每个线程执行的过程进行监控。在任务执行的过程中,用户可以根据实际需要在调度中心模块调整配置参数以及对服务进行管理,例如对服务进行停止、运行、新增等操作,同时可以监控对于服务的分配的线程,以及每个线程执行的过程,如成功次数、失败次数、处理的数据量、下次执行的时间,最后处理成功的时间等,并生成相对应的监控数据。调度中心模块可以通过数据库对上述调整配置参数以及各项监控数据进行存储和管理。
其中,预定义的调度配置参数包括:申请线程的个数、服务参数、每次获取数据的个数、每次执行数据的个数、执行时间的规则、有数据间隔的秒数、无数据间隔的秒数、处理数据的线程数、数据重试的次数以及服务超时秒数。用户可以在调度中心模块5数据库中对上述调度配置参数进行组合设置,实现对于客户端任务的并发处理和弹性调度。
服务执行模块6用于响应调度中心模块分配的线程对服务的请求,执行该服务对应的任务。根据调度中心模块5配置的线程数,服务执行模块6并发的执行任务,提高了任务处理的并发性和吞吐量。
在发明中,服务端2还包括:监控中心模块7,监控中心模块7用于对调度中心模块5生成的监控数据进行统计,获得例如,任务调度成功的次数、失败的次数、平均的耗时等数据,同时可以对服务状态是否可用进行监视,并可以通过表格和图标的方式将上述数据显示出来。
在发明中,服务端2还包括:用户中心模块8,用户中心模块8用于基于监控数据对系统进行故障检测,并在检测到故障后,通过短信和/或邮件方式进行报警。例如,当发现服务状态不可用时,任务调度超时,进行报警。
通过上述各模块的功能实现,使得本发明系统具备分布式处理的能力,调度的过程可以在调度中心模块和监控中心模块进行展现,当服务端部分实例出现故障,或者用户调整调度中心配置参数后,可以根据注册中心模块的服务信息以及调度中心模块中申请的线程数调整服务端集群对所有任务的调度,使得服务端集群具备弹性处理的能力。
本发明提供的分布式任务调度的方法和系统,通过数据库+多线程+多种通信协议+电子邮件+短信的设计思路实现,通过集群部署的服务端对客户端任务进行调度,解决单点故障问题,并且用户只需要通过对服务的注册以及调度配置参数的配置和管理即可进行任务调度,开发简单、配置少、代码管理方便,系统可用性高。在调度过程中,开发人员可以根据任务量的多少、对调度配置参数进行动态调整,系统平滑的根据配置动态调整参数和执行过程,而不需要重启应用,并且对执行过程进行监控,在执行过程中如果遇到问题,监控中心模块可以通过邮件和短信等方式出发报警。通过本发明提供的调度方式可以有效提升任务处理的并发性、吞吐量和稳定性。
下面参考图3,其示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。图3示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图3所示,计算机系统包括中央处理单元(CPU)v1,其可以根据存储在只读存储器(ROM)v2中的程序或者从存储部分v8加载到随机访问存储器(RAM)v3中的程序而执行各种适当的动作和处理。在RAM v3中,还存储有系统操作所需的各种程序和数据。CPU v1、ROMv2以及RAM v3通过总线v4彼此相连。输入/输出(I/O)接口v5也连接至总线v4。
以下部件连接至I/O接口v5:包括键盘、鼠标等的输入部分v6;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分v7;包括硬盘等的存储部分v8;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分v9。通信部分v9经由诸如因特网的网络执行通信处理。驱动器v10也根据需要连接至I/O接口v5。可拆卸介质v11,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器v10上,以便于从其上读出的计算机程序根据需要被安装入存储部分v8。
特别地,根据本发明公开的实施例,上文流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分v9从网络上被下载和安装,和/或从可拆卸介质v11被安装。在该计算机程序被中央处理单元(CPU)v1执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括服务中心模块和调度中心模块。又如,可以描述为:一种处理器包括服务注册模块和服务执行模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,服务中心模块还可以被描述为“用于接收客户端的任务注册请求,并生成对应该任务的服务的模块”。又如,服务注册模块还可以被描述为“用于向服务端发送任务注册请求,以将任务注册到服务端并生成对应该任务的服务的模块”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
创建线程池,并在线程池中初始化一个或多个线程;
接收客户端的任务注册请求,并生成对应该任务的服务,服务具有服务信息;
依据为服务预定义的调度配置参数,为服务分配一个或多个线程,所分配的每个线程依据服务信息以及调度配置参数单独向客户端请求服务,使得客户端可以响应每个线程对服务的请求,执行服务对应的任务,实现对任务的调度。
或者,在另一种计算机可读介质承载的一个或者多个程序被一个该设备执行时,使得该设备至少包括:
向服务端发送任务注册请求,以将任务注册到服务端并生成对应该任务的服务,服务具有服务信息,其中,服务端创建有线程池,并在线程池中初始化有一个或多个线程,服务端依据为服务预定义的调度配置参数,为服务分配一个或多个线程,所分配的每个线程依据服务信息以及调度配置参数单独请求服务;
响应服务端分配的每个线程对服务的请求,执行服务对应的任务,实现对任务的调度。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种分布式任务调度方法,其特征在于,包括:
创建线程池,并在线程池中初始化一个或多个线程;
接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息;
依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度;
其中,所述分布式任务调度方法通过服务端和客户端实现,服务端和客户端功能分别由服务器集群实现,客户端支持多任务部署。
2.根据权利要求1所述的方法,其特征在于,在所述所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务的步骤中包括:
所述每个线程通过预定义通信协议向客户端请求所述服务,所述预定义通信协议为http或tcp协议。
3.根据权利要求1所述的方法,其特征在于,所述服务信息包括以下各项中的至少一项:服务的协议、服务名、服务发现信息以及服务的状态。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述预定义的调度配置参数包括以下各项中的至少一项:
申请线程的个数、服务参数、每次获取数据的个数、每次执行数据的个数、执行时间的规则、有数据间隔的秒数、无数据间隔的秒数、处理数据的线程数、数据重试的次数以及服务超时秒数。
5.一种分布式任务调度装置,其特征在于,所述装置具有线程池,在所述线程池中初始化有一个或多个线程,所述装置包括:
服务中心模块,用于接收客户端的任务注册请求,并生成对应该任务的服务,所述服务具有服务信息,所述服务中心模块利用数据库来存储和管理所述服务信息;
调度中心模块,用于依据为所述服务预定义的调度配置参数,为所述服务分配一个或多个线程,所分配的每个线程依据所述服务信息以及所述调度配置参数单独向所述客户端请求所述服务,使得客户端可以响应所述每个线程对所述服务的请求,执行所述服务对应的任务,实现对任务的调度;
其中,所述分布式任务调度装置通过服务端和客户端实现,服务端和客户端功能分别由服务器集群实现,客户端支持多任务部署。
6.根据权利要求5所述的装置,其特征在于,所述调度中心模块还用于对所述每个线程执行的过程进行监控,生成监控数据。
7.根据权利要求6所述的装置,其特征在于,还包括:监控中心模块,用于对所述监控数据进行统计。
8.根据权利要求7所述的装置,其特征在于,还包括:用户中心模块,用于基于所述监控数据进行故障检测,并在检测到故障后,通过短信和/或邮件方式进行报警。
9.根据权利要求5所述的装置,其特征在于,所述调度中心模块进一步用于所述每个线程通过预定义通信协议向客户端请求所述服务,所述预定义通信协议为http或tcp协议。
10.一种分布式任务调度的电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710252065.9A CN108733461B (zh) | 2017-04-18 | 2017-04-18 | 分布式任务调度方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710252065.9A CN108733461B (zh) | 2017-04-18 | 2017-04-18 | 分布式任务调度方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108733461A CN108733461A (zh) | 2018-11-02 |
CN108733461B true CN108733461B (zh) | 2021-09-14 |
Family
ID=63925193
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710252065.9A Active CN108733461B (zh) | 2017-04-18 | 2017-04-18 | 分布式任务调度方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108733461B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110109744A (zh) * | 2019-05-15 | 2019-08-09 | 重庆八戒电子商务有限公司 | 一种多线程任务调度方法、装置、介质和电子设备 |
CN111782351A (zh) * | 2019-07-18 | 2020-10-16 | 北京京东尚科信息技术有限公司 | 一种分布式任务调度的方法和装置 |
CN110413390A (zh) * | 2019-07-24 | 2019-11-05 | 深圳市盟天科技有限公司 | 线程任务处理方法、装置、服务器及存储介质 |
CN110428453B (zh) * | 2019-07-30 | 2020-12-15 | 深圳云天励飞技术有限公司 | 数据处理方法、装置、数据处理设备及存储介质 |
CN112448977A (zh) * | 2019-08-30 | 2021-03-05 | 北京京东尚科信息技术有限公司 | 分配任务的系统、方法、设备和计算机可读介质 |
CN110941498B (zh) * | 2019-10-22 | 2022-09-23 | 贝壳找房(北京)科技有限公司 | 一种数据处理方法、装置和存储介质 |
CN111026529B (zh) * | 2019-11-26 | 2023-08-01 | 蚂蚁财富(上海)金融信息服务有限公司 | 分布式任务处理系统的任务停止方法及装置 |
CN111124540B (zh) * | 2019-12-24 | 2023-07-07 | 平安养老保险股份有限公司 | 服务控制系统的动态配置方法和业务请求转发方法 |
CN111338775B (zh) * | 2020-02-21 | 2022-06-07 | 南京领行科技股份有限公司 | 一种执行定时任务的方法及设备 |
CN112328388B (zh) * | 2020-09-17 | 2022-03-08 | 北京中数科技术有限公司 | 一种融合多线程及分布式技术的并行计算方法及系统 |
CN112737812B (zh) * | 2020-11-24 | 2023-04-07 | 国网商旅云技术有限公司 | 一种数据传输方法及装置 |
CN113051135B (zh) * | 2021-04-20 | 2024-06-07 | 中国工商银行股份有限公司 | 一种应用线程池的监控方法及线程池监控装置 |
CN114416318A (zh) * | 2022-01-20 | 2022-04-29 | 政采云有限公司 | 一种任务的调度方法、装置及介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101957780A (zh) * | 2010-08-17 | 2011-01-26 | 中国电子科技集团公司第二十八研究所 | 一种基于资源状态信息的网格任务调度处理器及方法 |
CN102932390A (zh) * | 2011-08-11 | 2013-02-13 | 阿里巴巴集团控股有限公司 | 一种网络请求的处理方法和系统、网络服务提供装置 |
CN103428217A (zh) * | 2013-08-19 | 2013-12-04 | 中国航空动力机械研究所 | 分布式并行计算的作业分配方法及分配系统 |
CN104572881A (zh) * | 2014-12-23 | 2015-04-29 | 国家电网公司 | 基于多任务并发的配网图模导入方法 |
CN105912401A (zh) * | 2016-04-08 | 2016-08-31 | 中国银行股份有限公司 | 一种分布式数据批处理系统和方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100401707C (zh) * | 2006-05-31 | 2008-07-09 | 北京和利时系统工程有限公司 | 一种分布式控制系统中的远程过程调用方法及系统 |
US8402466B2 (en) * | 2009-02-17 | 2013-03-19 | International Business Machines Corporation | Practical contention-free distributed weighted fair-share scheduler |
CN106445651A (zh) * | 2015-08-07 | 2017-02-22 | 北京京东尚科信息技术有限公司 | 执行任务的方法及系统 |
CN105760221B (zh) * | 2016-02-02 | 2018-12-07 | 中博信息技术研究院有限公司 | 分布式计算框架的任务调派系统 |
CN105956021B (zh) * | 2016-04-22 | 2019-05-21 | 华中科技大学 | 一种适用于分布式机器学习的自动化任务并行的方法及其系统 |
CN106095585B (zh) * | 2016-06-22 | 2019-08-30 | 中国建设银行股份有限公司 | 任务请求处理方法、装置和企业信息系统 |
CN106227739B (zh) * | 2016-07-13 | 2020-01-21 | 克拉玛依红有软件有限责任公司 | 一种实现基于多任务的数据请求方法 |
CN106293911A (zh) * | 2016-07-29 | 2017-01-04 | 乐视控股(北京)有限公司 | 分布式调度系统、方法 |
-
2017
- 2017-04-18 CN CN201710252065.9A patent/CN108733461B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101957780A (zh) * | 2010-08-17 | 2011-01-26 | 中国电子科技集团公司第二十八研究所 | 一种基于资源状态信息的网格任务调度处理器及方法 |
CN102932390A (zh) * | 2011-08-11 | 2013-02-13 | 阿里巴巴集团控股有限公司 | 一种网络请求的处理方法和系统、网络服务提供装置 |
CN103428217A (zh) * | 2013-08-19 | 2013-12-04 | 中国航空动力机械研究所 | 分布式并行计算的作业分配方法及分配系统 |
CN104572881A (zh) * | 2014-12-23 | 2015-04-29 | 国家电网公司 | 基于多任务并发的配网图模导入方法 |
CN105912401A (zh) * | 2016-04-08 | 2016-08-31 | 中国银行股份有限公司 | 一种分布式数据批处理系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108733461A (zh) | 2018-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108733461B (zh) | 分布式任务调度方法和装置 | |
US8997093B2 (en) | Application installation management by selectively reuse or terminate virtual machines based on a process status | |
US20130275968A1 (en) | Application management methods and systems | |
US11704616B2 (en) | Systems and methods for distributed business processmanagement | |
CN109117252B (zh) | 基于容器的任务处理的方法、系统及容器集群管理系统 | |
US10884801B2 (en) | Server resource orchestration based on application priority | |
CN109150558B (zh) | 管理消息队列节点的方法、装置和系统 | |
US10884800B2 (en) | Server resource balancing using a suspend-resume strategy | |
US11126466B2 (en) | Server resource balancing using a fixed-sharing strategy | |
US20220407795A1 (en) | Centralized, scalable, resource monitoring system | |
CN112052133A (zh) | 一种基于Kubernetes的业务系统监控方法和装置 | |
US11042402B2 (en) | Intelligent server task balancing based on server capacity | |
CN106462459B (zh) | 为分布式处理系统管理元数据 | |
CN111190732A (zh) | 定时任务处理系统及方法、存储介质和电子设备 | |
CN113032125A (zh) | 作业调度方法、装置、计算机系统和计算机可读存储介质 | |
US20200272522A1 (en) | Server resource balancing using a dynamic-sharing strategy | |
CN111831503B (zh) | 一种基于监控代理的监控方法和监控代理装置 | |
US20230195512A1 (en) | Monitoring container-implemented software applications | |
CN111522630B (zh) | 基于批次调度中心的计划任务执行方法以及系统 | |
CN111198753A (zh) | 任务调度方法和装置 | |
CN106648871B (zh) | 一种资源管理方法及系统 | |
CN113656239A (zh) | 针对中间件的监控方法、装置及计算机程序产品 | |
CN106657195B (zh) | 任务处理方法和中继设备 | |
CN112448977A (zh) | 分配任务的系统、方法、设备和计算机可读介质 | |
CN114968636A (zh) | 一种故障处理的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |