CN111045807B - 基于zookeeper任务处理的方法、装置、计算机设备及存储介质 - Google Patents
基于zookeeper任务处理的方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN111045807B CN111045807B CN201911302151.1A CN201911302151A CN111045807B CN 111045807 B CN111045807 B CN 111045807B CN 201911302151 A CN201911302151 A CN 201911302151A CN 111045807 B CN111045807 B CN 111045807B
- Authority
- CN
- China
- Prior art keywords
- task
- processing
- task processing
- zookeeper
- processing model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000004590 computer program Methods 0.000 claims description 14
- 238000012544 monitoring process Methods 0.000 claims 3
- 238000003672 processing method Methods 0.000 claims 2
- 230000002618 waking effect Effects 0.000 claims 2
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例提供了一种基于zookeeper任务处理的方法、装置、计算机设备及存储介质，该方法为：接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。通过上述方法，缓解了现有分布式任务调度系统中调度器的压力，提高任务处理效率和运行稳定性。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种基于zookeeper任务处理的方法、装置、计算机设备及存储介质。
背景技术
在现有的分布式任务调度系统中，任务的生成、依赖管理、任务的分配、编排都是由调度器节点来完成的，为了更好地实现任务的调度、调度器需要与执行器保持通信连接、定时获取执行器的健康情况，当执行器节点比较多的时候，调度器需要维护多个执行器的信息等情况，保持连接，将会耗费调度器的资源，导致调度器在调度过程会偶尔出现资源不足导致调度的失败和性能不佳，需要一种新的任务调度策略来解决上面的问题。
发明内容
本发明实施例提供了一种基于zookeeper任务处理的方法、装置、计算机设备及存储介质，旨在解决现有分布式任务调度系统中稳定性较差的问题。
第一方面，本发明实施例提供了一种基于zookeeper任务处理的方法，其包括：
接收用户所提交的任务请求，根据所述任务请求生成对应的任务；
将所述任务发送至预设消息队列中；
基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及
将将处理完成的所述任务发送至用户终端。
第二方面，本发明实施例提供了一种基于zookeeper任务处理的装置，其包括：
任务生成单元，用于接收用户所提交的任务请求，根据所述任务请求生成对应的任务；
任务发送单元，用于将所述任务发送至预设消息队列中；
任务处理单元，用于基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；
处理结果发送单元，用于将将处理完成的所述任务发送至用户终端。
第三方面，本发明实施例又提供了一种计算机设备，其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的基于zookeeper任务处理的方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其中所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的基于zookeeper任务处理的方法。
本发明实施例提供了一种基于zookeeper任务处理的方法、装置、计算机设备及存储介质，该方法为：接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。通过上述方法，缓解了现有分布式任务调度系统中调度器的压力，提高任务处理效率和运行稳定性。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的基于zookeeper任务处理的方法的流程示意图；
图2为本发明实施例提供的基于zookeeper任务处理的方法的子流程示意图；
图3为本发明实施例提供的基于zookeeper任务处理的方法的另一子流程示意图；
图4为本发明实施例提供的基于zookeeper任务处理的方法的另一子流程示意图；
图5为本发明实施例提供的基于zookeeper任务处理的装置的示意性框图；
图6为本发明实施例提供的计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1，图1是本发明实施例提供的基于zookeeper任务处理的方法的流程示意图。该基于zookeeper任务处理的方法应用于服务器终端中，其中该服务器终端可以是独立的服务器终端，也可以是多个服务器组成的服务器集群。
如图1所示，该方法包括步骤S110～S140。
S110、接收用户所提交的任务请求，根据所述任务请求生成对应的任务。
接收用户所提交的任务请求，根据所述任务请求生成对应的任务。其中，服务器终端接收到用户所提交的任务请求后生成与所述任务请求相对应的任务，其中，该任务包括任务名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息。具体的，服务器终端中生成该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息的设备为调度器，该调度器从存储器中读取该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息。
S120、将所述任务发送至预设消息队列中。
将所述任务发送至预设消息队列中。具体的，在服务器终端中，例如调度器，该调度器可将从存储器中读取的该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息发送到预设消息队列中以供服务器终端中的执行器根据该任务的名称、任务运行参数以及任务存储位置等信息去执行该任务。所述预设消息队列可存储对多个任务请求中相对应的任务的名称、任务运行参数以及任务存储位置等信息。
在一实施例中，如图2所示，步骤S120包括子步骤S121和S122。
S121、将所述任务进行序列化以生成序列化后的任务。
将所述任务进行序列化以生成序列化后的任务。在本实施例中，所述任务中的名称、任务运行参数以及任务存储位置等信息可通过服务器终端中的调度器将相关的信息转化成JSON格式的字符串以便于服务器终端中的任务执行器接收以执行该任务。
S122、将所述序列化后的任务发送至所述预设消息队列中。
将所述序列化后的任务发送至所述预设消息队列中。具体的，所述序列化后的任务为JSON格式的字符串，该字符串中包含了所需要执行的任务的信息，其中该信息可以为任务执行的时间，任务提出请求的时间，任务需要执行的主体以及任务提出请求的请求人。所述预设消息队列为传输过程中保存该任务信息的容器并保证该任务信息能够成功的进行传递至执行器中以供执行器进行任务的执行。
S130、基于zookeeper组件从所述预设消息队列中获取所述任务进行处理。
基于zookeeper组件从所述预设消息队列中获取所述任务进行处理。其中，所述zookeeper组件是一个分布式服务协调组件，也是一个为分布式应用提供一致性服务的组件，Zookeeper的目标就是封装好复杂易出错的服务，为使用者提供高效、稳定的服务。具体的，本实施例中，当服务器终端中的存在多个执行器需要对所述预设消息队列中的任务进行获取并执行时，该多个执行器需要在zookeeper组件的协调下分配后才能从所述预设消息队列中获取相关的任务，该多个执行器未经zookeeper组件的协调分配无法单独从所述预设消息队列中获取任务并执行任务。
在一实施例中，如图3所示，步骤S130包括子步骤S131、S132和S133。
S131、根据第一预设规则创建预置的任务处理模型。
根据第一预设规则创建预置的任务处理模型。具体的，所述任务处理模型用于处理所述预设消息队列中的任务，通常创建于服务器终端中的任务执行器中，服务器终端中可以存在多个任务处理器，也可以存在单个任务处理器；另外，该任务执行器中可以存在单个的任务处理模型，也可以存在多个任务处理模型，所述第一预设规则为创建所述任务处理模型时所需要遵循的规则。例如，当所述预设消息队列中的待处理的任务的数量不多或者不存在待处理的任务时，任务执行器可根据自身存在的任务处理模型的个数来选择性的调整以使部分任务处理模型进入休眠状态，待到所述预设消息队列中待处理的任务较多或急需进行处理时，可将任务执行器中的部分或者全部任务处理器唤醒以等待获取所述预设消息队列中的待处理的任务，从而执行任务处理。
S132、根据第二预设规则在所述zookeeper组件中创建与所述任务处理模型相应的任务处理节点。
根据第二预设规则在所述zookeeper组件中创建与所述任务处理模型相应的任务处理节点。具体的，所述第二预设规则为所述任务处理模型在所述zookeeper组件中创建任务处理节点时所需要遵循的规则，所述任务处理节点为所述任务处理模型在所述zookeeper组件中创建的并需要所述zookeeper组件指导所述任务处理模型从所述预设消息队列中获取任务并进行处理的指令。其中，所述任务处理节点可以为所述任务处理模型在所述zookeeper组件中创建，当所述预设消息队列中的待处理的任务较多需要多个所述任务处理模型进行处理时，多个所述任务处理模型可在所述zookeeper组件中创建与其相对应的节点。其中，该节点可以为处理任务先后顺序的节点，也可以为处理任务时间的节点，还可以为处理任务是否为紧急处理的节点。
S133、根据所述任务处理节点从所述预设消息队列中获取所述任务并通过所述任务处理模型进行任务处理。
根据所述任务处理节点从所述预设消息队列中获取所述任务并通过所述任务处理模型进行任务处理。具体的，所述任务处理节点可以为处理任务先后顺序的节点，也可以为处理任务时间的节点，还可以为处理任务是否为紧急处理的节点。例如，当所述任务处理节点为任务处理序号节点时，与所述任务处理节点相对应的所述任务处理模型根据所述任务处理序号节点中的处理顺序从所述预设消息队列中获取任务并进行处理。
在另一实施例中，如图4所示，步骤S133包括子步骤S1331、S1332和S1333。
S1331、根据所述任务处理节点创建与所述任务处理模型相应的监听器。
根据所述任务处理节点创建与所述任务处理模型相应的监听器。具体的，所述监听器存在于服务器终端中的任务执行器中，即任务执行器中包含了所述任务处理模型和与所述任务处理模型相对应的监听器，所述监听器用来监听所述预设消息列表中任务是否需要所述任务处理模型从所述预设消息列表中获取该任务并进行处理的消息，并将其消息发送至所述任务处理模型中以提醒所述任务处理模型可从所述预设消息列表中获取需所述任务处理模型处理的任务。
S1332、由所述监听器监听上一任务处理模型处理任务是否完成。
由所述监听器监听上一任务处理模型处理任务是否完成。具体的，所述监听器用来监听上一任务处理模型所对应的任务处理节点是否存在的情况。例如，当所述预设消息列表中存在多个待处理的任务，服务器终端中存在多个任务处理模型时，该多个任务处理模型可按照所述第二预设规则在所述zookeeper组件中创建相应的任务处理节点，该任务处理节点可以设置成任务处理序号节点，所述第二预设规则中的当前任务处理模型在所述zookeeper组件中创建的任务处理序号节点的序号仅大于上一任务处理模型在所述zookeeper组件中创建的任务处理序号节点的序号，即当前任务处理模型需等待上一任务处理模型处理完从所述预设消息列表中获取的任务后，当前任务处理模型在所述监听器的通知下才能从所述预设消息列表中获取的任务并进行任务处理。
S1333、若监听到所述上一任务处理模型处理任务已完成，通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理。
若监听到所述上一任务处理模型处理任务已完成，通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理。具体的，上一任务处理模型处理完从所述预设消息列表中获取的任务后，上一任务处理模型在所述zookeeper组件中创建的相应的任务处理节点会被删除，其中，该任务处理节点既可以设置为被上一任务处理模型删除。当所述监听器监听到该任务处理节点被删除的信号时，所述监听器会通知与其对应的任务处理模型，该任务处理模型收到通知后从所述预设消息列表中获取的任务并进行任务处理。
S140、将将处理完成的所述任务发送至用户终端。
将将处理完成的所述任务发送至用户终端。具体的，所述任务处理模型将从所述预设消息列表中获取的任务处理完成后的结果发送至用户终端以通知用户其所提交的任务已处理完成。
本发明实施例提供了一种基于zookeeper任务处理的方法，接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。通过上述方法，缓解了现有分布式任务调度系统中调度器的压力，提高任务处理效率和运行稳定性。
本发明实施例还提供一种基于zookeeper任务处理的装置，该基于zookeeper任务处理的装置用于执行前述基于zookeeper任务处理的方法的任一实施例。具体地，请参阅图5，图5是本发明实施例提供的基于zookeeper任务处理的装置的示意性框图。该基于zookeeper任务处理的装置可以配置于服务器中。
如图5所示，基于zookeeper任务处理的装置100包括任务生成单元110、任务发送单元120、任务处理单元130和处理结果发送单元140。
任务生成单元110，用于接收用户所提交的任务请求，根据所述任务请求生成对应的任务。
接收用户所提交的任务请求，根据所述任务请求生成对应的任务。其中，服务器终端接收到用户所提交的任务请求后生成与所述任务请求相对应的任务，其中，该任务包括任务名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息。具体的，服务器终端中生成该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息的设备为调度器，该调度器从存储器中读取该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息。
任务发送单元120，用于将所述任务发送至预设消息队列中。
将所述任务发送至预设消息队列中。具体的，在服务器终端中，例如调度器，该调度器可将从存储器中读取的该任务的名称、任务运行参数以及任务存储位置等与所述任务请求相关的信息发送到预设消息队列中以供服务器终端中的执行器根据该任务的名称、任务运行参数以及任务存储位置等信息去执行该任务。所述预设消息队列可存储对多个任务请求中相对应的任务的名称、任务运行参数以及任务存储位置等信息。
在其他发明实施例中，所述任务发送单元120包括任务序列化单元121和序列化任务发送单元122。
任务序列化单元121，用于将所述任务进行序列化以生成序列化后的任务。
将所述任务进行序列化以生成序列化后的任务。在本实施例中，所述任务中的名称、任务运行参数以及任务存储位置等信息可通过服务器终端中的调度器将相关的信息转化成JSON格式的字符串以便于服务器终端中的任务执行器接收以执行该任务。
序列化任务发送单元122，用于将所述序列化后的任务发送至所述预设消息队列中。
将所述序列化后的任务发送至所述预设消息队列中。具体的，所述序列化后的任务为JSON格式的字符串，该字符串中包含了所需要执行的任务的信息，其中该信息可以为任务执行的时间，任务提出请求的时间，任务需要执行的主体以及任务提出请求的请求人。所述预设消息队列为传输过程中保存该任务信息的容器并保证该任务信息能够成功的进行传递至执行器中以供执行器进行任务的执行。
任务处理单元130，用于基于zookeeper组件从所述预设消息队列中获取所述任务进行处理。
基于zookeeper组件从所述预设消息队列中获取所述任务进行处理。其中，所述zookeeper组件是一个分布式服务协调组件，也是一个为分布式应用提供一致性服务的组件，Zookeeper的目标就是封装好复杂易出错的服务，为使用者提供高效、稳定的服务。具体的，本实施例中，当服务器终端中的存在多个执行器需要对所述预设消息队列中的任务进行获取并执行时，该多个执行器需要在zookeeper组件的协调下分配后才能从所述预设消息队列中获取相关的任务，该多个执行器未经zookeeper组件的协调分配无法单独从所述预设消息队列中获取任务并执行任务。
在其他发明实施例中，所述任务处理单元130包括处理模型创建单元131、处理节点创建单元132和第一处理单元133。
处理模型创建单元131，用于根据第一预设规则创建预置的任务处理模型。
根据第一预设规则创建预置的任务处理模型。具体的，所述任务处理模型用于处理所述预设消息队列中的任务，通常创建于服务器终端中的任务执行器中，服务器终端中可以存在多个任务处理器，也可以存在单个任务处理器；另外，该任务执行器中可以存在单个的任务处理模型，也可以存在多个任务处理模型，所述第一预设规则为创建所述任务处理模型时所需要遵循的规则。例如，当所述预设消息队列中的待处理的任务的数量不多或者不存在待处理的任务时，任务执行器可根据自身存在的任务处理模型的个数来选择性的调整以使部分任务处理模型进入休眠状态，待到所述预设消息队列中待处理的任务较多或急需进行处理时，可将任务执行器中的部分或者全部任务处理器唤醒以等待获取所述预设消息队列中的待处理的任务，从而执行任务处理。
处理节点创建单元132，用于根据第二预设规则在所述zookeeper组件中创建与所述任务处理模型相应的任务处理节点。
根据第二预设规则在所述zookeeper组件中创建与所述任务处理模型相应的任务处理节点。具体的，所述第二预设规则为所述任务处理模型在所述zookeeper组件中创建任务处理节点时所需要遵循的规则，所述任务处理节点为所述任务处理模型在所述zookeeper组件中创建的并需要所述zookeeper组件指导所述任务处理模型从所述预设消息队列中获取任务并进行处理的指令。当所述预设消息队列中的待处理的任务较多需要多个所述任务处理模型进行处理时，多个所述任务处理模型可在所述zookeeper组件中创建与其相对应的节点。其中，该节点可以为处理任务先后顺序的节点，也可以为处理任务时间的节点，还可以为处理任务是否为紧急处理的节点。
第一处理单元133，用于根据所述任务处理节点从所述预设消息队列中获取所述任务并通过所述任务处理模型进行任务处理。
根据所述任务处理节点从所述预设消息队列中获取所述任务并通过所述任务处理模型进行任务处理。具体的，所述任务处理节点可以为处理任务先后顺序的节点，也可以为处理任务时间的节点，还可以为处理任务是否为紧急处理的节点。例如，当所述任务处理节点为任务处理序号节点时，与所述任务处理节点相对应的所述任务处理模型根据所述任务处理序号节点中的处理顺序从所述预设消息队列中获取任务并进行处理。
在其他发明实施例中，所述第一处理单元133包括监听器创建单元1331、监听结果单元1332和第二处理单元1333。
监听器创建单元1331，用于根据所述任务处理节点创建与所述任务处理模型相应的监听器。
根据所述任务处理节点创建与所述任务处理模型相应的监听器。具体的，所述监听器存在于服务器终端中的任务执行器中，即任务执行器中包含了所述任务处理模型和与所述任务处理模型相对应的监听器，所述监听器用来监听所述预设消息列表中任务是否需要所述任务处理模型从所述预设消息列表中获取该任务并进行处理的消息，并将其消息发送至所述任务处理模型中以提醒所述任务处理模型可从所述预设消息列表中获取需所述任务处理模型处理的任务。
监听结果单元1332，用于由所述监听器监听上一任务处理模型处理任务是否完成。
由所述监听器监听上一任务处理模型处理任务是否完成。具体的，所述监听器用来监听上一任务处理模型所对应的任务处理节点是否存在的情况。例如，当所述预设消息列表中存在多个待处理的任务，服务器终端中存在多个任务处理模型时，该多个任务处理模型可按照所述第二预设规则在所述zookeeper组件中创建相应的任务处理节点，该任务处理节点可以设置成任务处理序号节点，所述第二预设规则中的当前任务处理模型在所述zookeeper组件中创建的任务处理序号节点的序号仅小于上一任务处理模型在所述zookeeper组件中创建的任务处理序号节点的序号，即当前任务处理模型需等待上一任务处理模型处理完从所述预设消息列表中获取的任务后，当前任务处理模型在所述监听器的通知下才能从所述预设消息列表中获取的任务并进行任务处理。
第二处理单元1333，用于若监听到所述上一任务处理模型处理任务已完成，通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理。
若监听到所述上一任务处理模型处理任务已完成，通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理。具体的，上一任务处理模型处理完从所述预设消息列表中获取的任务后，上一任务处理模型在所述zookeeper组件中创建的相应的任务处理节点会被删除，其中，该任务处理节点既可以设置为被上一任务处理模型删除。当所述监听器监听到该任务处理节点被删除的信号时，所述监听器会通知与其对应的任务处理模型，该任务处理模型收到通知后从所述预设消息列表中获取的任务并进行任务处理。
处理结果发送单元140，用于将将处理完成的所述任务发送至用户终端。
将将处理完成的所述任务发送至用户终端。具体的，所述任务处理模型将从所述预设消息列表中获取的任务处理完成后的结果发送至用户终端以通知用户其所提交的任务已处理完成。
本发明实施例提供了一种基于zookeeper任务处理的装置接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。通过上述方法，缓解了现有分布式任务调度系统中调度器的压力，提高任务处理效率和运行稳定性。
请参阅图6，图6是本发明实施例提供的计算机设备的示意性框图。
参阅图6，该设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行业务处理的方法。
该处理器502用于提供计算和控制能力，支撑整个设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行业务处理的方法。
该网络接口505用于进行网络通信，如提供数据信息的传输等。本领域技术人员可以理解，图6中示出的结构，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的设备500的限定，具体的设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现如下功能：接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。
其中，本发明实施例中的处理器502中包括进行任务调度的调度器和执行任务的执行器，该调度器获取用户所提交的任务请求，根据预置的任务生成模型生成与所述任务请求相对应的任务信息，将所述任务信息发送至预设的消息队列中；消息队列存储在本发明实施例提供的计算机设备的存储器中；执行器基于zookeeper组件从所述预设消息队列中获取所述任务信息并根据所述任务信息进行任务处理并将处理完成后的所述任务发送至用户终端。
本领域技术人员可以理解，图6中示出的设备500的实施例并不构成对设备500具体构成的限定，在其他实施例中，设备500可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，设备500可以仅包括存储器及处理器502，在这样的实施例中，存储器及处理器502的结构及功能与图6所示实施例一致，在此不再赘述。
应当理解，在本发明实施例中，处理器502可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器502还可以是其他通用处理器502、数字信号处理器502(Digital Signal Processor，DSP)、专用集成电路(ApplicationSpecificIntegrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable GateArray，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器502可以是微处理器502或者该处理器502也可以是任何常规的处理器502等。
在本发明的另一实施例中提供计算机存储介质。该存储介质可以为非易失性的计算机可读存储介质。该存储介质存储有计算机程序5032，其中计算机程序5032被处理器502执行时实现以下步骤：接收用户所提交的任务请求，根据所述任务请求生成对应的任务；将所述任务发送至预设消息队列中；基于zookeeper组件从所述预设消息队列中获取所述任务进行处理；以及将将处理完成的所述任务发送至用户终端。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为逻辑功能划分，实际实现时可以有另外的划分方式，也可以将具有相同功能的单元集合成一个单元，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台设备500(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (7)
1.一种基于zookeeper任务处理的方法，其特征在于，包括：
接收用户所提交的任务请求，根据所述任务请求生成对应的任务；
将所述任务发送至预设消息队列中；
根据所述预设消息队列中的任务数量唤醒相应的预置的任务处理模型；
通过所述任务处理模型在zookeeper组件中创建与所述任务处理模型相应的任务处理节点，且当所述任务处理模型处理完所获取的任务后在所述zookeeper组件中删除所创建的任务处理节点；
根据所述任务处理节点创建与所述任务处理模型相应的监听器；
由所述监听器监听上一任务处理模型所对应的任务处理节点是否存在以监听所述上一任务处理模型处理任务是否完成；
若所述监听器监听到所述上一任务处理模型所对应的任务处理节点不存在，则确认所述上一任务处理模型处理任务已完成，并通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理；以及
将处理完成的所述任务发送至用户终端。
2.根据权利要求1所述的基于zookeeper任务处理的方法，其特征在于，所述根据所述任务请求生成对应的任务，包括：
根据所述任务请求生成对应的任务名称、任务运行参数以及任务存储位置。
3.根据权利要求1所述的基于zookeeper任务处理的方法，其特征在于，所述将所述任务发送至预设消息队列中，包括：
将所述任务进行序列化以生成序列化后的任务；
将所述序列化后的任务发送至所述预设消息队列中。
4.一种基于zookeeper任务处理的装置，其特征在于，包括：
任务生成单元，用于接收用户所提交的任务请求，根据所述任务请求生成对应的任务；
任务发送单元，用于将所述任务发送至预设消息队列中；
处理模型创建单元，用于根据所述预设消息队列中的任务数量唤醒相应的预置的任务处理模型；
处理节点创建单元，用于通过所述任务处理模型在zookeeper组件中创建与所述任务处理模型相应的任务处理节点，且当所述任务处理模型处理完所获取的任务后在所述zookeeper组件中删除所创建的任务处理节点；
监听器创建单元，用于根据所述任务处理节点创建与所述任务处理模型相应的监听器；
监听结果单元，用于由所述监听器监听上一任务处理模型所对应的任务处理节点是否存在以监听所述上一任务处理模型处理任务是否完成；
第二处理单元，用于若所述监听器监听到所述上一任务处理模型所对应的任务处理节点不存在，则确认所述上一任务处理模型处理任务已完成，并通过所述任务处理模型从所述预设消息队列中获取所述任务并进行任务处理；
处理结果发送单元，用于将处理完成的所述任务发送至用户终端。
5.根据权利要求4所述的基于zookeeper任务处理的装置，其特征在于，所述任务发送单元，包括：
任务序列化单元，用于将所述任务进行序列化以生成序列化后的任务；
序列化任务发送单元，用于将所述序列化后的任务发送至所述预设消息队列中。
6.一种计算机设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至3中任一项所述的基于zookeeper任务处理的方法。
7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至3任一项所述的基于zookeeper任务处理的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911302151.1A CN111045807B (zh) | 2019-12-17 | 2019-12-17 | 基于zookeeper任务处理的方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911302151.1A CN111045807B (zh) | 2019-12-17 | 2019-12-17 | 基于zookeeper任务处理的方法、装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111045807A CN111045807A (zh) | 2020-04-21 |
| CN111045807B true CN111045807B (zh) | 2024-05-14 |
Family
ID=70236994
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911302151.1A Active CN111045807B (zh) | 2019-12-17 | 2019-12-17 | 基于zookeeper任务处理的方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111045807B (zh) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111722914B (zh) * | 2020-06-12 | 2022-07-22 | 江苏苏宁银行股份有限公司 | 一种定时任务分发方法、系统、计算机设备及存储介质 |
| CN111858047B (zh) * | 2020-07-14 | 2024-03-22 | 中国工商银行股份有限公司 | 文件交互方法、装置及系统 |
| CN112015529B (zh) * | 2020-08-05 | 2023-09-01 | 北京奇艺世纪科技有限公司 | 数据任务调度方法、系统、电子设备及存储介质 |
| CN113703947A (zh) * | 2021-09-01 | 2021-11-26 | 上海漫酷网络技术有限公司 | 一种分布式任务处理系统、方法、计算机设备和存储介质 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101661324A (zh) * | 2009-07-21 | 2010-03-03 | 浪潮电子信息产业股份有限公司 | 一种多路服务器的节能方法 |
| CN103823545A (zh) * | 2014-03-05 | 2014-05-28 | 南京邮电大学 | 一种云计算系统的服务器唤醒方法 |
| CN105824699A (zh) * | 2015-01-06 | 2016-08-03 | 中国移动通信集团山东有限公司 | 一种分布式任务调度装置及方法 |
| CN106776008A (zh) * | 2016-11-23 | 2017-05-31 | 福建六壬网安股份有限公司 | 一种基于zookeeper实现负载均衡的方法及系统 |
| CN108667719A (zh) * | 2018-04-26 | 2018-10-16 | 广州品唯软件有限公司 | 一种实时消息传递方法及系统 |
| CN109067841A (zh) * | 2018-07-05 | 2018-12-21 | 武汉斗鱼网络科技有限公司 | 基于ZooKeeper的服务限流方法、系统、服务器及存储介质 |
| CN109194538A (zh) * | 2018-08-03 | 2019-01-11 | 平安科技（深圳）有限公司 | 基于分布式协调的测试方法、装置、服务器及存储介质 |
| CN110096349A (zh) * | 2019-04-10 | 2019-08-06 | 山东科技大学 | 一种基于集群节点负载状态预测的作业调度方法 |
-
2019
- 2019-12-17 CN CN201911302151.1A patent/CN111045807B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101661324A (zh) * | 2009-07-21 | 2010-03-03 | 浪潮电子信息产业股份有限公司 | 一种多路服务器的节能方法 |
| CN103823545A (zh) * | 2014-03-05 | 2014-05-28 | 南京邮电大学 | 一种云计算系统的服务器唤醒方法 |
| CN105824699A (zh) * | 2015-01-06 | 2016-08-03 | 中国移动通信集团山东有限公司 | 一种分布式任务调度装置及方法 |
| CN106776008A (zh) * | 2016-11-23 | 2017-05-31 | 福建六壬网安股份有限公司 | 一种基于zookeeper实现负载均衡的方法及系统 |
| CN108667719A (zh) * | 2018-04-26 | 2018-10-16 | 广州品唯软件有限公司 | 一种实时消息传递方法及系统 |
| CN109067841A (zh) * | 2018-07-05 | 2018-12-21 | 武汉斗鱼网络科技有限公司 | 基于ZooKeeper的服务限流方法、系统、服务器及存储介质 |
| CN109194538A (zh) * | 2018-08-03 | 2019-01-11 | 平安科技（深圳）有限公司 | 基于分布式协调的测试方法、装置、服务器及存储介质 |
| CN110096349A (zh) * | 2019-04-10 | 2019-08-06 | 山东科技大学 | 一种基于集群节点负载状态预测的作业调度方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111045807A (zh) | 2020-04-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111045807B (zh) | 基于zookeeper任务处理的方法、装置、计算机设备及存储介质 | |
| CN108449410B (zh) | 一种云平台中消息管理方法、系统及相关装置 | |
| TW202006739A (zh) | 更新的輸液幫浦藥物庫及網路連線環境中的操作軟體 | |
| CN106130868B (zh) | 回调消息的处理方法、队列管理系统、存储介质及服务器 | |
| CN107111632B (zh) | 用于调节移动通信设备处的通信的方法和系统 | |
| CN107241380B (zh) | 用于基于时间调整的负载均衡的方法和设备 | |
| CN107566214B (zh) | 一种性能测试方法和装置 | |
| CN113742031A (zh) | 节点状态信息获取方法、装置、电子设备及可读存储介质 | |
| CN115088235B (zh) | 主节点选取方法、装置、电子设备以及存储介质 | |
| JP2013097548A (ja) | 情報処理システム、情報処理装置、クライアント端末、情報処理方法、及びプログラム | |
| CN113626211A (zh) | 消息队列的切换方法、切换系统、电子设备及存储介质 | |
| CN111400041A (zh) | 服务器配置文件的管理方法、装置及计算机可读存储介质 | |
| CN109428926B (zh) | 一种调度任务节点的方法和装置 | |
| US8719387B2 (en) | Adjusting polling interval of client when another client is inputting request to server | |
| US9575865B2 (en) | Information processing system and monitoring method | |
| CN115220993B (zh) | 进程监控方法、装置、车辆及存储介质 | |
| CN114221910B (zh) | 一种传输通道的数据控制方法及装置 | |
| CN109710391A (zh) | 任务调度方法及设备 | |
| CN110278265B (zh) | 用户上传文件的处理方法、装置、存储介质和电子设备 | |
| CN112270531B (zh) | 事项通知方法、装置、服务器及存储介质 | |
| CN114938388A (zh) | 分布式数据的传输方法、装置、系统及存储介质 | |
| CN114268799A (zh) | 一种流媒体传输方法、装置、电子设备及介质 | |
| CN116346842A (zh) | 跨生态设备管控方法、装置、存储介质及电子设备 | |
| CN114710454A (zh) | 一种消息处理方法、车载通讯装置、电子设备及存储介质 | |
| WO2020037607A1 (zh) | 一种传输数据的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |