CN107168813A - 任务处理方法及系统 - Google Patents
任务处理方法及系统 Download PDFInfo
- Publication number
- CN107168813A CN107168813A CN201710299368.6A CN201710299368A CN107168813A CN 107168813 A CN107168813 A CN 107168813A CN 201710299368 A CN201710299368 A CN 201710299368A CN 107168813 A CN107168813 A CN 107168813A
- Authority
- CN
- China
- Prior art keywords
- task
- server
- zookeeper
- temp directory
- completeness
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 14
- 238000004891 communication Methods 0.000 claims abstract description 17
- 238000012545 processing Methods 0.000 claims description 12
- 238000012937 correction Methods 0.000 claims description 6
- 238000012544 monitoring process Methods 0.000 claims description 4
- 238000000034 method Methods 0.000 abstract description 17
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 4
- 238000012217 deletion Methods 0.000 description 4
- 230000037430 deletion Effects 0.000 description 4
- 238000012163 sequencing technique Methods 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/004—Error avoidance
Abstract
本发明适用于通信技术领域,提供了一种任务处理方法及系统,所述方法包括:在一个或多个服务器执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求;所述zookeeper选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器;所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录;所述第一服务器执行所述第一临时目录对应的任务。通过上述方法能够保证同一个任务不会因为服务器本身的时间存在偏差而导致重复执行。
Description
技术领域
本发明属于通信技术领域,尤其涉及一种任务处理方法及系统。
背景技术
目前,消费信贷自助服务([CFS_SS],SS)系统为了防止定时任务(JOB)被多台服务器重复执行,通常会向数据库插入一条记录,比如,插入一个任务的过期时间。当服务器执行任务之前,会先到数据库查询该任务的过期时间是否有效,若有效,则表示有服务器在执行该任务,若无效则表明没有服务器在执行这个任务,即该任务可以执行。该方法的缺点是,当不同服务器的时间存在偏差时,可能会造成多个服务器同时执行同一个任务的情况,从而导致服务器出现故障。
发明内容
有鉴于此,本发明实施例提供了任务处理方法及系统,以解决现有技术中的问题。
本发明实施例的第一方面提供了一种任务处理方法,包括:
在一个或多个服务器执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求;
所述zookeeper选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器;
所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录;
所述第一服务器执行所述第一临时目录对应的任务。
本发明实施例的第二方面提供了一种任务处理系统,包括:一个或多个服务器、zookeeper,其中,所述一个或多个服务器包括第一服务器;
所述一个或多个服务器用于在执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求;
所述zookeeper用于选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器;
所述第一服务器用于在所述zookeeper创建一个与所述任务唯一对应的第一临时目录,并执行所述第一临时目录对应的任务。
本发明实施例与现有技术相比存在的有益效果是:由于只有一台服务器的任务会在zookeeper创建临时目录成功,且临时目录都是在zookeeper上创建,因此,服务器本身的时间存在偏差时也不会影响zookeeper的时间,从而保证同一个任务不会因为服务器本身的时间存在偏差而导致重复执行。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种任务处理方法的方法流程图;
图2是本发明实施例提供的一种任务处理系统的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案,下面通过具体实施例来进行说明。
图1示出了本发明实施例提供的一种任务处理方法的方法流程图,详述如下:
步骤S11,在一个或多个服务器执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求。
其中,zookeeper是一个分布式的、开放源码的分布式应用程序协调服务。
步骤S12,所述zookeeper选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器。
当只有一个服务器向zookeeper发送第一临时目录创建请求时,该zookeeper选择该服务器作为第一服务器,并同意所述第一服务器创建第一临时目录。
当有多个服务器向zookeeper发送第一临时目录创建请求时,zookeeper只会同意其中一个服务器创建第一临时目录。可选地,zookeeper根据接收到第一临时目录创建请求的先后顺序选择同意哪一个服务器创建第一临时目录,比如,只同意最先发送第一临时目录创建请求的服务器创建第一临时目录。当然,zookeeper也可根据服务器的优先权选择优先权最高的服务器创建第一临时目录。其中,服务器的优先权可根据服务器完成任务的情况设定,比如,统计一段时间内各个服务器完成任务的情况,若服务器能够完整完成一个任务而不出现故障,则该服务器对应的权值增大,当权值增大到一定值,则将该服务器的优先级提高一个等级。同理,若服务器在执行一个任务过程中出现故障而中断任务的执行,则减小该服务器对应的权重,当权值减小到一定值,则将该服务器的优先级降低一个等级。
步骤S13,所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录。
其中,第一临时目录也可以称作临时节点,是一种数据存储方式,有点像文件夹,在一个临时目录下可以再创建子临时目录,也可以记录数据。需要指出的是,临时目录的名称与任务对应,一个任务对应一个临时目录的名称,而临时目录的名称与服务器的代码有关,当不同服务器的代码相同时,该不同服务器为同一个任务创建的临时目录的名称是相同的。
其中,第一临时目录记录的数据包括:创建所述第一临时目录的服务器的IP地址,以便于用户获知是哪一个服务器创建第一临时目录。可选地,所述第一临时目录记录的数据还包括:该第一临时目录的创建时间等。
步骤S14,所述第一服务器执行所述第一临时目录对应的任务。
具体地,当第一服务器成功在zookeeper创建第一临时目录后,该第一服务器具备执行该第一临时目录对应的任务的资格。
由于只有一台服务器的任务会在zookeeper创建临时目录成功,且临时目录都是在zookeeper上创建,因此,服务器本身的时间存在偏差时也不会影响zookeeper的时间,从而保证同一个任务不会因为服务器本身的时间存在偏差而导致重复执行。
可选地,在所述步骤S13之后,包括:
A1、所述第一服务器发送TCP心跳至所述zookeeper,以使所述zookeeper判断所述第一服务器是否能够正常通信。具体地,第一服务器定时向zookeeper发送TCP心跳,若该zookeeper接收到第一服务器发送的TCP心跳,则判定该第一服务器还能正常通信,否则,若在超出预设时长阈值还没有接收到该第一服务器发送的TCP心跳,则判定该第一服务器失去联系,不能正常通信(当第二服务器发生故障时,该第二服务器不能与zookeeper正常通信,发生的故障例如硬件故障、内存溢出、网络问题等)。
A2、在所述zookeeper判断出所述第一服务器不能够正常通信时,删除所述第一服务器创建的第一临时目录。可选地,在A2之后,所述zookeeper将删除记录存入对应的日志,以便于后续查找。其中,删除记录包括删除的第一临时目录的信息(如名称、创建的服务器的IP、删除时间等)。
可选地,在所述步骤S13之后,包括:
B1、第二服务器向所述第一临时目录注册监听事件,以监听所述第一临时目录是否被删除。需要指出的是,该第二服务器为与第一服务器不同的服务器,该“第一”、“第二”仅用于区分不同的服务器,并无先后顺序之分。另外,该第二服务器的个数可以为1个,也可以为多个。
B2、在所述第一临时目录被删除时,所述第二服务器向所述zookeeper发送第二临时目录创建请求。当第二服务器(一个或多个服务器)监测到第一服务器在zookeeper创建的第一临时目录被删除后,则向zookeeper发送第二临时目录创建请求。
B3、若接收到所述zookeeper发送的包含同意创建第二临时目录的信息,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务。所述zookeeper若接收到多个第二临时目录创建请求,则同样只选择其中一个服务器作为创建第二临时目录的第二服务器,并向选择的第二服务器返回包含同意创建第二临时目录的信息,第二服务器接收到信息后向所述zookeeper创建与中断的任务对应的第二临时目录,并执行该任务。需要指出是,当第二服务器的代码与第一服务器的代码相同时,由于其还是执行同一个任务,因此其创建的第二临时目录的名称与第一临时目录的名称相同,这是因为服务器代码控制不同的定时任务对应的临时目录名称不同,不同的定时任务监听的目录是不同的。
可选地,为了节省资源,则第二服务器从任务中断的地方开始执行,对应地,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
C1、所述第二服务器创建与所述任务对应的第二临时目录。
C2、所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度。其中,这里的执行进度主要是指任务的当前执行程度,完成度是指对任务的完成情况,例如,假设一个任务有多个子任务,则任务的执行进度对应子任务的完成个数,完成度对应每个子任务的完成情况,例如,哪个子任务已执行完成,哪个子任务没有执行完成的描述等。
C3、在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。具体地,第二服务器根据zookeeper记录的任务的执行进度及完成度查找任务的中断点,再从中断点继续执行。由于直接从任务的中断点开始执行,因此,节省了重新开始执行任务的时间,也节省了第二服务器重新执行任务所耗费的资源。
可选地,为了能够准确判断任务的执行进度及完成度,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
D1、所述第二服务器创建与所述任务对应的第二临时目录。
D2、所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度。
D3、在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器判断所述任务是否与数据库有关。具体地,当任务涉及修改(包括新增或删除或修改)数据库的数据时,判定任务与数据库有关。
D4、在所述任务与数据库有关时,所述第二服务器获取所述数据库中与所述任务有关的信息。其中,与任务有关的信息包括数据库记录的任务的执行进度及完成度,当然,还可以包括数据库中被修改的数据的信息(如被修改的数据的位置,是否被修改完成的描述等)。
D5、所述第二服务器根据获取的所述数据库中与所述任务有关的信息验证所述zookeeper记录的任务的执行进度及完成度是否准确。具体地,当获取的数据库中与任务有关的信息仅为任务的执行进度及完成度时,则将数据库获取的任务的执行进度及完成度与zookeeper记录的任务的执行进度及完成度比较,若两者完全相同,则判定zookeeper记录的任务的执行进度及完成度是准确的,否则,判定zookeeper记录的任务的执行进度及完成度是不准确的。
当获取的数据库中与任务有关的信息包括任务的执行进度及完成度,也包括数据库中被修改的数据的信息时,则首先根据数据库中被修改的数据的信息验证数据库中与任务有关的信息包括任务的执行进度及完成度是否准确,若准确,则继续将数据库获取的任务的执行进度及完成度与zookeeper记录的任务的执行进度及完成度比较,以进一步验证zookeeper记录的任务的执行进度及完成度是否准确。
D6、在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度准确时,根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度不准确时,校正所述zookeeper记录的任务的执行进度及完成度,并根据校正后的所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。
由于对zookeeper记录的任务的执行进度及完成度进行校验,因此,确保任务的执行进度及完成度是准确的,进而确保任务的中断点是准确的,从而提高继续执行任务的开始点的精确性。
本发明实施例中,由于zookeeper保证并发只有唯一一台服务器执行任务,且当服务器故障时也能保证其他服务器接管任务继续执行,因此,不会出现多个服务器同时执行同一个任务的情况,从而减少了由于同时执行同一个任务导致的服务器故障。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
对应于上文实施例所述的任务处理方法,图2示出了本发明实施例提供的一种任务处理系统的结构示意图,为了便于说明,仅示出了与本发明实施例相关的部分。
参照图2,该系统2包括:一个或多个服务器21、zookeeper 22,其中,所述一个或多个服务器包括第一服务器211。
所述一个或多个服务器21用于在执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求。
所述zookeeper 22用于选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器。
当只有一个服务器向zookeeper 22发送第一临时目录创建请求时,该zookeeper选择该服务器作为第一服务器,并同意所述第一服务器创建第一临时目录。
当有多个服务器向zookeeper 22发送第一临时目录创建请求时,zookeeper 22只会同意其中一个服务器创建第一临时目录。可选地,zookeeper 22根据接收到第一临时目录创建请求的先后顺序选择同意哪一个服务器创建第一临时目录,比如,只同意最先发送第一临时目录创建请求的服务器创建第一临时目录。当然,zookeeper 22也可根据服务器的优先权选择优先权最高的服务器创建第一临时目录。其中,服务器的优先权可根据服务器完成任务的情况设定,比如,统计一段时间内各个服务器完成任务的情况,若服务器能够完整完成一个任务而不出现故障,则该服务器对应的权值增大,当权值增大到一定值,则将该服务器的优先级提高一个等级。同理,若服务器在执行一个任务过程中出现故障而中断任务的执行,则减小该服务器对应的权重,当权值减小到一定值,则将该服务器的优先级降低一个等级。
所述第一服务器211用于在所述zookeeper 22创建一个与所述任务唯一对应的第一临时目录,并执行所述第一临时目录对应的任务。
其中,第一临时目录记录的数据包括:创建所述第一临时目录的服务器的IP地址,以便于用户获知是哪一个服务器创建第一临时目录。可选地,所述第一临时目录记录的数据还包括:该第一临时目录的创建时间等。
可选地,所述第一服务器211还用于发送TCP心跳至所述zookeeper 22,以使所述zookeeper 22判断所述第一服务器211是否能够正常通信。具体地,第一服务器211定时向zookeeper 22发送TCP心跳,若该zookeeper 22接收到第一服务器211发送的TCP心跳,则判定该第一服务器211还能正常通信,否则,若在超出预设时长阈值还没有接收到该第一服务器211发送的TCP心跳,则判定该第一服务器211失去联系,不能正常通信(当第二服务器发生故障时,该第二服务器不能与zookeeper 22正常通信,发生的故障例如硬件故障、内存溢出、网络问题等)。
所述zookeeper 22还用于在判断出所述第一服务器211不能够正常通信时,删除所述第一服务器211创建的第一临时目录。
可选地,所述zookeeper 22还用于将删除记录存入对应的日志,以便于后续查找。其中,删除记录包括删除的第一临时目录的信息(如名称、创建的服务器的IP、删除时间等)。
可选地,所述任务处理系统包括第二服务器。
所述第二服务器用于向所述第一临时目录注册监听事件,以监听所述第一临时目录是否被删除。需要指出的是,该第二服务器为与第一服务器211不同的服务器,该“第一”、“第二”仅用于区分不同的服务器,并无先后顺序之分。另外,该第二服务器的个数可以为1个,也可以为多个。
在所述第一临时目录被删除时,所述第二服务器向所述zookeeper 22发送第二临时目录创建请求。
若接收到所述zookeeper 22发送的包含同意创建第二临时目录的信息,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务。当第二服务器的代码与第一服务器211的代码相同时,由于其还是执行同一个任务,因此其创建的第二临时目录的名称与第一临时目录的名称相同,这是因为服务器代码控制不同的定时任务对应的临时目录名称不同,不同的定时任务监听的目录是不同的。
可选地,为了节省资源,则第二服务器从任务中断的地方开始执行,对应所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录。
所述第二服务器判断所述zookeeper 22是否记录所述第一服务器211执行所述第一临时目录对应的任务的执行进度及完成度。其中,这里的执行进度主要是指任务的当前执行程度,完成度是指对任务的完成情况,例如,假设一个任务有多个子任务,则任务的执行进度对应子任务的完成个数,完成度对应每个子任务的完成情况,例如,哪个子任务已执行完成,哪个子任务没有执行完成的描述等。
在所述zookeeper 22记录所述第一服务器211执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器根据所述zookeeper 22记录的任务的执行进度及完成度继续执行所述任务。
可选地,为了能够准确判断任务的执行进度及完成度,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录。
所述第二服务器判断所述zookeeper 22是否记录所述第一服务器211执行所述第一临时目录对应的任务的执行进度及完成度。
在所述zookeeper 22记录所述第一服务器211执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器判断所述任务是否与数据库有关。具体地,当任务涉及修改(包括新增或删除或修改)数据库的数据时,判定任务与数据库有关。
在所述任务与数据库有关时,所述第二服务器获取所述数据库中与所述任务有关的信息。其中,与任务有关的信息包括数据库记录的任务的执行进度及完成度,当然,还可以包括数据库中被修改的数据的信息(如被修改的数据的位置,是否被修改完成的描述等)。
所述第二服务器根据获取的所述数据库中与所述任务有关的信息验证所述zookeeper 22记录的任务的执行进度及完成度是否准确。具体地,当获取的数据库中与任务有关的信息仅为任务的执行进度及完成度时,则将数据库获取的任务的执行进度及完成度与zookeeper 22记录的任务的执行进度及完成度比较,若两者完全相同,则判定zookeeper记录的任务的执行进度及完成度是准确的,否则,判定zookeeper 22记录的任务的执行进度及完成度是不准确的。当获取的数据库中与任务有关的信息包括任务的执行进度及完成度,也包括数据库中被修改的数据的信息时,则首先根据数据库中被修改的数据的信息验证数据库中与任务有关的信息包括任务的执行进度及完成度是否准确,若准确,则继续将数据库获取的任务的执行进度及完成度与zookeeper 22记录的任务的执行进度及完成度比较,以进一步验证zookeeper 22记录的任务的执行进度及完成度是否准确。
在所述第二服务器验证出所述zookeeper 22记录的任务的执行进度及完成度准确时,根据所述zookeeper 22记录的任务的执行进度及完成度继续执行所述任务。在所述第二服务器验证出所述zookeeper 22记录的任务的执行进度及完成度不准确时,校正所述zookeeper 22记录的任务的执行进度及完成度,并根据校正后的所述zookeeper 22记录的任务的执行进度及完成度继续执行所述任务。
本发明实施例中,由于zookeeper保证并发只有唯一一台服务器执行任务,且当服务器故障时也能保证其他服务器接管任务继续执行,因此,不会出现多个服务器同时执行同一个任务的情况,从而减少了由于同时执行同一个任务导致的服务器故障。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明实施例各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种任务处理方法,其特征在于,包括:
在一个或多个服务器执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求;
所述zookeeper选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器;
所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录;
所述第一服务器执行所述第一临时目录对应的任务。
2.如权利要求1所述的任务处理方法,其特征在于,在所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录之后,包括:
所述第一服务器发送TCP心跳至所述zookeeper,以使所述zookeeper判断所述第一服务器是否能够正常通信;
在所述zookeeper判断出所述第一服务器不能够正常通信时,删除所述第一服务器创建的第一临时目录。
3.如权利要求1所述的任务处理方法,其特征在于,在所述第一服务器在所述zookeeper创建一个与所述任务唯一对应的第一临时目录之后,包括:
第二服务器向所述第一临时目录注册监听事件,以监听所述第一临时目录是否被删除;
在所述第一临时目录被删除时,所述第二服务器向所述zookeeper发送第二临时目录创建请求;
若接收到所述zookeeper发送的包含同意创建第二临时目录的信息,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务。
4.如权利要求3所述的任务处理方法,其特征在于,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录;
所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度;
在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。
5.如权利要求3所述的任务处理方法,其特征在于,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录;
所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度;
在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器判断所述任务是否与数据库有关;
在所述任务与数据库有关时,所述第二服务器获取所述数据库中与所述任务有关的信息;
所述第二服务器根据获取的所述数据库中与所述任务有关的信息验证所述zookeeper记录的任务的执行进度及完成度是否准确;
在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度准确时,根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务;在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度不准确时,校正所述zookeeper记录的任务的执行进度及完成度,并根据校正后的所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。
6.一种任务处理系统,其特征在于,包括:一个或多个服务器、zookeeper,其中,所述一个或多个服务器包括第一服务器;
所述一个或多个服务器用于在执行任务之前,向分布式应用程序协调服务zookeeper发送第一临时目录创建请求;
所述zookeeper用于选择一个服务器,向被选择的服务器发送包含同意创建第一临时目录的信息,所述被选择的服务器为第一服务器;
所述第一服务器用于在所述zookeeper创建一个与所述任务唯一对应的第一临时目录,并执行所述第一临时目录对应的任务。
7.如权利要求6所述的任务处理系统,其特征在于,
所述第一服务器还用于发送TCP心跳至所述zookeeper,以使所述zookeeper判断所述第一服务器是否能够正常通信;
所述zookeeper还用于在判断出所述第一服务器不能够正常通信时,删除所述第一服务器创建的第一临时目录。
8.如权利要求6所述的任务处理系统,其特征在于,所述任务处理系统包括第二服务器;
所述第二服务器用于向所述第一临时目录注册监听事件,以监听所述第一临时目录是否被删除;
在所述第一临时目录被删除时,所述第二服务器向所述zookeeper发送第二临时目录创建请求;
若接收到所述zookeeper发送的包含同意创建第二临时目录的信息,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务。
9.如权利要求8所述的任务处理系统,其特征在于,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录;
所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度;
在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。
10.如权利要求8所述的任务处理系统,其特征在于,所述第二服务器创建与所述任务对应的第二临时目录,并执行所述任务,包括:
所述第二服务器创建与所述任务对应的第二临时目录;
所述第二服务器判断所述zookeeper是否记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度;
在所述zookeeper记录所述第一服务器执行所述第一临时目录对应的任务的执行进度及完成度时,所述第二服务器判断所述任务是否与数据库有关;
在所述任务与数据库有关时,所述第二服务器获取所述数据库中与所述任务有关的信息;
所述第二服务器根据获取的所述数据库中与所述任务有关的信息验证所述zookeeper记录的任务的执行进度及完成度是否准确;
在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度准确时,根据所述zookeeper记录的任务的执行进度及完成度继续执行所述任务;在所述第二服务器验证出所述zookeeper记录的任务的执行进度及完成度不准确时,校正所述zookeeper记录的任务的执行进度及完成度,并根据校正后的所述zookeeper记录的任务的执行进度及完成度继续执行所述任务。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710299368.6A CN107168813A (zh) | 2017-04-28 | 2017-04-28 | 任务处理方法及系统 |
PCT/CN2017/090314 WO2018196154A1 (zh) | 2017-04-28 | 2017-06-27 | 任务处理方法、系统、终端及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710299368.6A CN107168813A (zh) | 2017-04-28 | 2017-04-28 | 任务处理方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107168813A true CN107168813A (zh) | 2017-09-15 |
Family
ID=59813731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710299368.6A Pending CN107168813A (zh) | 2017-04-28 | 2017-04-28 | 任务处理方法及系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN107168813A (zh) |
WO (1) | WO2018196154A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108366086A (zh) * | 2017-12-25 | 2018-08-03 | 聚好看科技股份有限公司 | 一种控制业务处理的方法及装置 |
CN112181583A (zh) * | 2019-07-05 | 2021-01-05 | 中国电信股份有限公司 | 虚拟化管理系统、方法和计算机可读存储介质 |
CN112866314A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中从节点的切换方法、主节点设备和存储介质 |
CN112860386A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中节点的切换方法 |
CN112860787A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中主节点的切换方法、主节点设备和存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103634280A (zh) * | 2012-08-23 | 2014-03-12 | 百度在线网络技术(北京)有限公司 | 一种网站安全扫描方法及装置 |
CN103744724A (zh) * | 2014-02-19 | 2014-04-23 | 互联网域名系统北京市工程研究中心有限公司 | 定时任务集群方法及其装置 |
CN103916481A (zh) * | 2014-04-17 | 2014-07-09 | 北京京东尚科信息技术有限公司 | 一种处理数据的方法和装置 |
CN104462400A (zh) * | 2014-12-10 | 2015-03-25 | 北京奇虎科技有限公司 | 在移动终端中进行文件下载的方法、装置和浏览器客户端 |
CN105100259A (zh) * | 2015-08-18 | 2015-11-25 | 北京京东尚科信息技术有限公司 | 一种分布式定时任务执行方法和系统 |
US20160275094A1 (en) * | 2015-03-17 | 2016-09-22 | Cloudera, Inc. | Compaction policy |
CN106059843A (zh) * | 2016-08-16 | 2016-10-26 | 深圳市华成峰数据技术有限公司 | 一种基于Zookeeper 的节点配置系统及方法 |
-
2017
- 2017-04-28 CN CN201710299368.6A patent/CN107168813A/zh active Pending
- 2017-06-27 WO PCT/CN2017/090314 patent/WO2018196154A1/zh active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103634280A (zh) * | 2012-08-23 | 2014-03-12 | 百度在线网络技术(北京)有限公司 | 一种网站安全扫描方法及装置 |
CN103744724A (zh) * | 2014-02-19 | 2014-04-23 | 互联网域名系统北京市工程研究中心有限公司 | 定时任务集群方法及其装置 |
CN103916481A (zh) * | 2014-04-17 | 2014-07-09 | 北京京东尚科信息技术有限公司 | 一种处理数据的方法和装置 |
CN104462400A (zh) * | 2014-12-10 | 2015-03-25 | 北京奇虎科技有限公司 | 在移动终端中进行文件下载的方法、装置和浏览器客户端 |
US20160275094A1 (en) * | 2015-03-17 | 2016-09-22 | Cloudera, Inc. | Compaction policy |
CN105100259A (zh) * | 2015-08-18 | 2015-11-25 | 北京京东尚科信息技术有限公司 | 一种分布式定时任务执行方法和系统 |
CN106059843A (zh) * | 2016-08-16 | 2016-10-26 | 深圳市华成峰数据技术有限公司 | 一种基于Zookeeper 的节点配置系统及方法 |
Non-Patent Citations (1)
Title |
---|
佚名: "ZooKeeper典型使用场景总结", 《HTTP://BLOG.CSDN.NET/DEREKJIANG/ARTICLE/DETAILS/8751100》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108366086A (zh) * | 2017-12-25 | 2018-08-03 | 聚好看科技股份有限公司 | 一种控制业务处理的方法及装置 |
CN112181583A (zh) * | 2019-07-05 | 2021-01-05 | 中国电信股份有限公司 | 虚拟化管理系统、方法和计算机可读存储介质 |
CN112866314A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中从节点的切换方法、主节点设备和存储介质 |
CN112860386A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中节点的切换方法 |
CN112860787A (zh) * | 2019-11-27 | 2021-05-28 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中主节点的切换方法、主节点设备和存储介质 |
CN112866314B (zh) * | 2019-11-27 | 2023-04-07 | 上海哔哩哔哩科技有限公司 | 分布式主从系统中从节点的切换方法、主节点设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2018196154A1 (zh) | 2018-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107168813A (zh) | 任务处理方法及系统 | |
CN108566290A (zh) | 服务配置管理方法、系统、存储介质和服务器 | |
CN109949111A (zh) | 电子票据标识分配方法、电子票据生成方法、装置及系统 | |
CN111338773A (zh) | 一种分布式定时任务调度方法、调度系统及服务器集群 | |
CN105487924A (zh) | 一种批处理控制方法及装置 | |
CN107273195A (zh) | 一种大数据的批处理方法、装置及计算机系统 | |
CN107741904A (zh) | 测试机自动配置方法、装置、设备及存储介质 | |
CN108733459A (zh) | 一种分布式定时的方法、服务器以及系统 | |
CN108123851A (zh) | 分布式系统中主从节点同步链路的存活检测方法及装置 | |
CN107544849A (zh) | 一种web服务器并发管理方法及系统 | |
CN109492181A (zh) | 页面跳转方法、装置、计算机设备和存储介质 | |
CN114661462A (zh) | 资源分配方法、系统、计算机可读存储介质及电子设备 | |
CN109358873A (zh) | 一种应用程序更新方法、存储介质和终端设备 | |
CN108965291A (zh) | 混合应用程序的注册登录方法、系统及计算机设备 | |
CN106681760A (zh) | 基于客户工程项目管理系统的事务处理方法和装置 | |
CN111130834B (zh) | 一种网络弹性策略的处理方法及装置 | |
CN109189415A (zh) | 部署服务器的装置、方法、系统及计算机可读存储介质 | |
CN107277896A (zh) | wifi热点管理方法、装置及终端设备 | |
CN113885971A (zh) | 一种基于自适应平台系统的状态管理方法及装置 | |
CN107666401A (zh) | 一种配置信息获取方法及终端 | |
CN110413310A (zh) | 程序升级方法及终端设备 | |
CN108920346A (zh) | web服务器接口耗时统计方法及装置 | |
CN106911810A (zh) | 一种接口调用方法和装置 | |
CN107092528A (zh) | 一种分布式任务调度方法、装置及系统 | |
CN110851166A (zh) | 用户无感知的应用程序更新方法、装置及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170915 |