CN114780593A - 一种定时任务的处理方法和装置 - Google Patents
一种定时任务的处理方法和装置 Download PDFInfo
- Publication number
- CN114780593A CN114780593A CN202210440224.9A CN202210440224A CN114780593A CN 114780593 A CN114780593 A CN 114780593A CN 202210440224 A CN202210440224 A CN 202210440224A CN 114780593 A CN114780593 A CN 114780593A
- Authority
- CN
- China
- Prior art keywords
- redis
- fragment
- lock
- task
- total number
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 12
- 239000012634 fragment Substances 0.000 claims abstract description 197
- 238000000034 method Methods 0.000 claims abstract description 78
- 238000012545 processing Methods 0.000 claims abstract description 43
- 230000004044 response Effects 0.000 claims abstract description 13
- 238000013467 fragmentation Methods 0.000 claims description 34
- 238000006062 fragmentation reaction Methods 0.000 claims description 34
- 238000004590 computer program Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 230000002035 prolonged effect Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000004083 survival effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种定时任务的处理方法和装置,涉及大数据技术领域。该方法的一具体实施方式包括:响应于接收到多机任务,确定本地缓存中是否存在与所述多机任务对应的远程字典服务Redis分片锁;响应于本地缓存中存在所述Redis分片锁,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,以执行所述多机任务;响应于本地缓存中不存在所述Redis分片锁,不执行所述多机任务。该实施方式支持利用Redis实现定时任务对应的数据的分片处理,多机并行执行,提高了处理能力,同时也支持单机定时任务的执行,依赖少、轻便,适用于本地化部署应用。
Description
技术领域
本发明涉及大数据技术领域,尤其涉及一种定时任务的处理方法和装置。
背景技术
定时任务是指可以在设定的时间执行的任务。比如,定时任务可以为定时处理数据库中的对应的数据。
现有技术中,基于Zookeeper(一个分布式的,开放源码的分布式应用程序协调服务)可以实现多台机器并行处理定时任务对应的数据,但该种方式需要部署较多的中间件,成本较高,不适用本地化部署的应用。
发明内容
有鉴于此,本发明实施例提供一种定时任务的处理方法和装置,该方法支持利用Redis实现定时任务中数据的分片处理,多机并行执行,提高了处理能力,同时也支持单机定时任务的执行,依赖少、轻便,适用于本地化部署的应用。
为实现上述目的,根据本发明实施例的一个方面,提供了一种定时任务的处理方法和装置的方法,包括:
响应于接收到多机任务,确定本地缓存中是否存在与多机任务对应的远程字典服务Redis分片锁;
响应于本地缓存中存在Redis分片锁,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,以执行所述多机任务;
响应于本地缓存中不存在Redis分片锁,不执行所述多机任务。
可选地,所述方法还包括:
在确定本地缓存中是否存在与多机任务对应的远程字典服务Redis分片锁之前,从Redis中获取分片锁总数,将所述分片锁总数保存至所述本地缓存,以所述本地缓存中保存的分片锁总数作为所述预设的分片锁总数;
根据所述本地缓存中保存的分片锁总数循环向Redis发送抢占锁请求,以获取Redis分片锁,将获取到的Redis分片锁保存至所述本地缓存。
可选地,所述方法还包括:
在将获取到的Redis分片锁保存至所述本地缓存之后,定时从所述Redis中获取分片锁总数;判断获取到的分片锁总数与所述本地缓存中保存的分片锁总数是否相等;若是,则不做处理;否则,根据获取到的分片锁总数更新所述本地缓存中保存的分片锁总数。
可选地,所述方法还包括:
在根据获取到的分片锁总数更新所述本地缓存中保存的分片锁总数之后,删除所述本地缓存中保存的Redis分片锁。
可选地,所述方法还包括:
若获取到的分片锁总数与所述本地缓存中保存的分片锁总数相等,则延长所述本地缓存中保存的Redis分片锁的生存时间。
可选地,从所述Redis中获取分片锁总数的操作间隔小于所述生存时间的延长时长。
可选地,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,包括:
遍历所述多机任务对应的数据表中的所有分片编码;
计算每个所述分片编码对所述预设的分片锁总数的取模结果;
将与所述Redis分片锁相等的取模结果对应的分片编码存储到分片列表中;
以所述分片列表中各个分片编码对应的数据作为所述待处理数据。
可选地,所述方法还包括:
响应于接收到单机任务,从所述Redis中获取所述单机任务的独占锁;判断是否获取到所述单机任务的独占锁;若是,则执行所述单机任务;否则不执行所述单机任务。
根据本发明实施例的再一个方面,提供了一种定时任务的处理装置,包括:
判断模块,响应于接收到多机任务,确定本地缓存中是否存在与多机任务对应的远程字典服务Redis分片锁;
执行模块,响应于所述本地缓存中存在所述Redis分布锁,则根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,以执行所述多机任务;响应于所述本地缓存中不存在所述Redis分片锁不执行所述多机任务。
根据本发明实施例的另一个方面,提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明提供的定时任务的处理方法。
根据本发明实施例的还一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明提供的定时任务的处理方法。
上述发明中的一个实施例具有如下优点或有益效果:本发明实施例的定时任务的处理方法,当接收到多机任务时,首先判断本地缓存中是否存在与多机任务对应的Redis分片锁,如果存在,则根据本地缓存的Redis分片锁和预设的分片锁总数确定待处理数据,执行定时任务,如果不存在,则不执行定时任务。该方法使用Redis实现定时任务中数据的多机并发执行、分片处理,依赖少,较为轻便,无需额外部署中间件,适用于本地化部署的应用。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的一种定时任务的处理方法的主要流程的示意图;
图2是根据本发明实施例的一种普通机和处理机的状态变化的示意图;
图3是根据本发明实施例的一种获取Redis分片锁的方法的流程示意图;
图4是根据本发明实施例的一种定时监测分片锁总数的方法的流程示意图;
图5是本发明实施例的一种定时任务处理的方法的流程示意图;
图6是根据本发明实施例的定时任务的处理装置的主要模块的示意图;
图7是本发明实施例可以应用于其中的示例性系统架构图;
图8是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明实施例的一种定时任务的处理方法的主要流程的示意图,如图1所示,该方法包括以下步骤:
步骤S101:响应于接收到多机任务,确定本地缓存中是否存在与该多机任务对应的Redis分片锁;若是,执行步骤S102;若否,执行步骤S103;
步骤S102:响应于本地缓存中存在该Redis分片锁,根据该Redis分片锁和预设的分片锁总数确定与该多机任务对应的待处理数据,以执行该多机任务;
步骤S103:响应于本地缓存中不存在该Redis分片锁,不执行该多机任务。
在本发明实施例中,Redis即远程字典服务,是一个开源的使用ANSIC语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,具有缓存功能,并能够提供多种语言的API。在本发明实施例的定时任务处理的方法除可以基于Redis实现外,也可以采用其他的具有缓存功能的NoSQL(非关系型)数据库实现。
在本发明实施例中,定时任务是按照设定时间定时启动执行,以处理数据。定时任务分为两种,单机任务和多机任务,单机任务为同一时间只能单台机器执行的任务;多机任务为同一时间多台机器并行处理的任务。可选地,定时任务使用sping scheduled(定时任务注解)注解的方式,通过增加自定义注解,可以区分定时任务是单机任务还是多机任务。即定时任务触发时,接收到定时任务,通过识别定时任务的注解即可判断出该定时任务是单机任务还是多机任务。
在本发明实施例中,当定时任务为多机任务时,若本地缓存中存在与该多机任务对应的Redis分片锁,则可以执行多机任务的;若本地缓存中不存在与该多机任务Redis分片锁,则不执行该多机任务,即不具有执行多机任务的权限。
在本发明实施例中,预设的分片锁总数可以为本地缓存中保存的分片锁总数,也可以为实时从Redis中获取的分片锁总数。可选地,在确定本地缓存中是否存在与该多机任务对应的Redis分片锁之前,包括:
从Redis中获取分片锁总数,将分片锁总数保存至本地缓存,以本地缓存中保存的分片锁总数作为预设的分片锁总数;
根据本地缓存中保存的分片锁总数循环向Redis发送抢占锁请求,以获取Redis分片锁,将获取到的Redis分片锁保存至本地缓存。
在本发明实施例中,从Redis中获取分片锁总数前,预先设置Redis分片锁总数,然后将预先设置的Redis分片锁总数存储到Redis中,可采用K-V格式存储。可选地,可以通过应用系统的管理页面预先设置Redis分片锁总数,后续可以根据定时任务的集群和定时任务对应的数据量情况修改Redis分片锁总数,并将修改后的Redis分片锁总数存储到Redis中。例如,当定时任务的数据量为1万时,Redis预设的分片锁总数设为10,当定时任务的数据量为5万时,可以将Redis分片锁总数修改为50。
当机器(定时任务处理的装置)启动时,从Redis中获取分片锁总数,然后将分片锁总数保存至本地缓存,根据本地缓存中保存的分片锁总数向Redis发送抢占锁请求,调用Redis中的setnx方法(Redis中一种分布式锁的调用方法),以获取(或抢占)Redis分片锁,并将获取到的Redis分片锁保存至本地缓存。例如,本地缓存的分片锁总数为10,分别取数值0-9(作为Redis分片锁),加前缀prefix作为key,循环调用Redis中的setnx方法,判断是否获取到Redis分片锁,若返回1,则说明获取Redis分片锁成功,则退出循环,所对应的数值即为Redis分片锁,并设置该Redis分片锁的生存时间,并将该Redis分片锁保存到本地缓存中;若返回0,则说明获取Redis分片锁失败,则继续循环,调用Redis中的setnx方法,直至获取到Redis分片锁,若循环结束,取0-9任一数值均没有抢到Redis分片锁,则此时本地缓存中不存在Redis分片锁,可在后续的定时监测Redis中分片锁总数的过程中获取。可选地,可以设置获取Redis分片锁的个数为1个。
如图2所示为本发明实施例的普通机与处理机的状态变化过程示意图,当机器启动时,开始抢占Redis分片锁,如抢占到Redis分片锁,则该机器状态变为处理机,具有执行多机任务的权限,机器停止,流程结束;其中,Redis分片锁可以用来标识处理机,如Redis分片锁可以为处理机序号,则Redis分片锁总数可以为处理机总数;当处理机总数即Redis分片锁总数变更后,本地缓存中删除保存的Redis分片锁,机器需要重新抢占Redis分片锁,如果没有抢到Redis分片锁,则机器状态变为普通机;机器停止,流程结束。本发明实施例的定时任务的处理方法可以在应用系统对应的所有机器上的每台机器上执行,每台机器的状态可以在普通机和处理机之间实现动态变化。
可选地,从Redis中获取分片锁总数,并将分片锁总数保存至本地缓存之后,包括:定时从Redis中获取分片锁总数;判断获取到的分片锁总数与本地缓存中保存的分片锁总数是否相等;若是,不做处理;否则,根据获取到的分片锁总数更新本地缓存中保存的分片锁总数。因为Redis中存储的分片锁总数可能为修改后的Redis分片锁总数,因此可能会导致从Redis中获取到的分片锁总数与本地缓存中保存的分片锁总数不相等,如果不相等,则更新本地缓存中保存的分片锁总数为从Redis中获取到的分片锁总数,如果相等,则不做处理,或者也可以循环执行上述过程,即:定时从Redis中获取分片锁总数,判断获取到的分片锁总数与本地缓存中保存的分片锁总数是否相等,若是,不做处理;否则,根据获取到的分片锁总数更新本地缓存中保存的分片锁总数。二者的分片锁总数相等,能够保证系统的平稳运行,且不会导致定时任务的数据漏处理或浪费系统资源。
可选地,若从Redis中获取的分片锁总数与本地缓存中保存的分片锁总数相等,则延长本地缓存中保存的Redis分片锁的生存时间。也就是说,若分片锁总数未发生变更,则判断本地缓存中是否保存有Redis分片锁;
若本地缓存中保存有Redis分片锁,则获取本地缓存Redis分片锁,然后延长本地缓存中Redis分片锁的生存时间,使得Redis分片锁可以继续保存在对应的本地缓存中,即该机器可以继续为处理机角色来执行多机任务。进一步可选地,可以执行expire(续期)操作延长Redis分片锁的生存时间,例如,将Redis分片锁加前缀prefix作为key发送延长生存时间请求至Redis,使得Redis更新保存的Redis分片锁的生存时间;
若本地缓存中不存在Redis分片锁,则根据本地缓存的分片锁总数循环向Redis发送抢占锁请求,即循环调用Redis的setnx方法,以获取Redis分片锁,直至循环结束;若获取到Redis分片锁,则将获取到的Redis分片锁保存至本地缓存,以执行多机任务,若没有获取到Redis分片锁,则不能执行多机任务。在本地缓存中不存在Redis分片锁的情况下,执行获取Redis分片锁的过程,能够增加系统的健壮性,适用于本地缓存中的Redis分片锁被误删的情形,或者适用于有处理机宕机的情况,宕机处理机的分片可以被其他处理机或普通机抢占到继续处理。可选地,可以设置每台机器获取一个或两个Redis分片锁。
可选地,在系统运行过程中,可能存在处理机宕机导致该处理机对应的待处理数据无法处理的情况,为防止处理机对应的数据出现漏处理的情况的发生,可以在延长本地缓存中保存的分片锁的生存时间之后,根据本地缓存的分片锁总数循环向Redis发送抢占锁请求,即循环调用Redis的setnx方法,以抢占Redis分片锁,直至循环结束,在这种情况下,可以设置每台机器的至多抢占两个Redis分片锁,即每台机器的本地缓存中至多保存有两个Redis分片锁,以处理宕机的处理机对应的待处理数据。
在本发明实施例中,将每台机器抢占的Redis分片锁设置为一个或两个Redis分片锁,能够将定时任务对应的数据较为均匀地分散到多台机器上处理,减少单台机器处理的压力,更好的利用集群资源;而设置为两个Redis分片锁,可以出现处理机宕机而导致宕机的处理机对应的数据无法处理时,通过重新抢占Redis分片锁,使得其他处理机抢占到该Redis分片锁,处理该Redis分片锁对应的数据。其中,每台机器可以抢占的Redis分片锁的数量可以根据集群和定时任务对应的数据量的大小设置,也可以结合Redis分片锁总数设置。
进一步可选地,从Redis中获取分片锁总数的操作间隔小于生存时间的延长时长,从而可以使得本地缓存中保存的Redis分片锁不会因为生存时间过期而被其他机器抢占。
在本发明实施例的一种可选地实施方式,在根据获取到的分片锁总数更新本地缓存中保存的分片锁总数之后,删除本地缓存中保存的Redis分片锁。也就是说,当分片锁总数发生变更后,需要清空本地缓存的Redis分片锁,以重新抢占Redis分片锁,即可以根据变更后的分片锁总数循环向Redis发送抢占锁请求,以获取Redis分片锁,将获取到的Redis分片锁保存至本地缓存。
在本发明实施例中,根据本地缓存的Redis分片锁和预设的分片锁总数确定与多机任务对应的待处理数据,以执行该多机任务,包括:遍历多机任务对应的数据表中的所有分片编码,计算每个分片编码对预设的分片锁总数的取模结果;将与Redis分片锁相等的取模结果对应的分片编码存储到分片列表中;以分片列表中各个分片编码对应的数据作为待处理数据,以执行该多机任务。
对于多机任务,定时任务的待处理数据表带有分片字段,当数据插入到数据库中时,每条数据随机分片。如多机执行的定时任务对应的数据表中总共有64个分片,可以设置分片编码或分片字段为0-63。例如,若本地缓存中的分片锁总数为10,本地缓存中保存的Redis分片锁的数值为9,遍历所有分片编码0-63,即从数值0-63循环64次,顺序取0-63的数值分别对Redis分片锁总数10取模,取模后的值与Redis分片锁的数值9进行比较,若相等,则将该分片编码存储到分片列表中,循环64次,则确定出分片列表中的所有分片编码(如0、9、19、29、39、19、59),根据该分片列表中的各个分片编码从数据库中获取根据该分片列表中各个分片编码对应的待处理数据,处理该待处理数据,执行多机任务。该种确定待处理的分片列表的方式能够使得各处理机均匀分散的处理待处理数据。
在本发明实施例中,该方法还包括:响应于接收到单机任务,从Redis中获取该单机任务的独占锁;判断是否获取到该单机任务的独占锁;若是,则执行该单机任务;否则不执行该单机任务。例如,当定时任务启动时,当该定时任务为单机任务时,向Redis发送抢占独占锁请求,如可以调用Redis的setnx方法获取独占锁,如果返回1,则说明获取独占锁成功,则立即执行该单机任务,如处理该定时任务对应的数据,当执行该单机任务结束后,释放独占锁,并删除存储在Redis中的Redis独占锁对应的Key;如果返回0,则说明获取独占锁失败,即独占锁被其他机器抢占,则不执行该单机任务。
如图3所示为一种获取Redis分片锁的方法的流程示意图,该方法包括:
步骤S301:从Redis中获取分片锁总数,并将分片锁总数保存至本地缓存;
步骤S302:根据分片锁总数循环向Redis发送抢占锁请求;
步骤S303:判断是否获取到Redis分片锁,若是,执行步骤S304,否则,执行步骤S305;
步骤S304:将获取到的Redis分片锁保存至本地缓存,结束流程;
步骤S305:判断是否循环结束(如循环次数等于分片锁总数),若否,执行步骤S302,若是,执行步骤S306;
步骤S306:确定抢占Redis分片锁失败,结束流程。
如图4所示为一种定时监测分片锁总数的方法的流程示意图,该方法包括:
步骤S401:定时从Redis中获取分片锁总数;
步骤S402:判断获取到的分片锁总数与本地缓存中保存的分片锁总数是否相等;若是,执行步骤S403;若否,执行步骤S410;
步骤S403:判断本地存中是否存在Redis分片锁;若是,执行步骤S404,若否,执行步骤S405;
步骤S404:延长本地缓存中保存的Redis分片锁的生存时间;然后执行步骤S405;
步骤S405:根据本地缓存的分片锁总数循环向Redis发送抢占锁请求;
步骤S406:判断是否获取到Redis分片锁,若是,执行步骤S407,否则,执行步骤S408;
步骤S407:将获取到的Redis分片锁保存至本地缓存,结束流程;
步骤S408:判断是否循环结束(如循环次数等于分片锁总数),若否,执行步骤S405,若是,执行步骤S409;
步骤S409:确定获取Redis分片锁失败,结束流程;
步骤S410:根据获取到的分片锁总数更新本地缓存中保存的分片锁总数,并删除本地缓存中保存的Redis分片锁,结束流程。
如图5所示为本发明实施例的一种定时任务处理的方法的流程示意图,该方法包括:
步骤S501:接收定时任务,判断定时任务是否为多机任务,若是,执行步骤S502;若否,执行步骤S506;
步骤S502:判断本地缓存中是否存在Redis分片锁;若是,执行步骤S503,若否,结束流程;
步骤S503:获取本地缓存中保存的Redis分片锁和分片锁总数;
步骤S504:根据本地缓存中保存的Redis分片锁和分片锁总数以及多机任务的分片总数确定待处理分片列表;
步骤S505:根据待处理分片列表获取待处理数据并进行处理,以执行多机任务,结束流程;
步骤S506:向Redis发送抢占独占锁请求;
步骤S507:判断是否获取到单机任务的独占锁,若是,执行步骤S508;若否,结束流程;
步骤S508:执行单机任务,当执行结束后,释放独占锁,然后结束流程。
本发明实施例所提供的定时任务的处理方法,基于Redis实现,当机器启动时,首先通过从Redis中获取分片锁总数,然后根据该分片锁总数向Redis发送抢占锁请求,通过获取Redis分片锁。当定时任务启动时,机器获取到定时任务时,首先判断获取到的定时任务为多机任务还是单机任务,当为多机任务时,则判断本地缓存中是否存在Redis分片锁,若存在,则可以根据Redis分片锁和分片锁总数确定待处理分片列表对应的待处理数据,以执行定时任务,若不存在,可以在定时获取Redis中的分片锁总数时,获取Redis分片锁;当为单机任务时,从Redis中获取单机任务的独占锁,若获取到独占锁,则执行单机任务。本发明实施例的方法通过Redis实现定时任务中数据的分片处理、多机并行执行,提高了处理能力,同时支持单机任务的执行,依赖少,较为轻便,不需要额外部署中间件和应用,也不需要建额外的数据库表,适用于本地化部署的应用,能够较为灵活的应对宕机情况发生。另外,该方法利用Redis实现分片锁和独占锁命令,以实现对分片锁和独占锁的获取,通过定时从Redis中获取分片锁总数,获取分片锁总数的变更情况,从而实现对数据的分片处理的动态变化。
如图6所示,本发明实施例的另一方面提供一种定时任务的处理装置600,包括:
判断模块601,响应于接收到多机任务,确定本地缓存中是否存在与多机任务对应的Redis分片锁;
执行模块602,响应于本地缓存中存在Redis分布锁,根据Redis分片锁和预设的分片锁总数确定与多机任务对应的待处理数据,以执行多机任务;响应于本地缓存中不存在Redis分片锁,不执行多机任务。
在本发明实施例中,该装置还包括获取模块,用于:在确定本地缓存中是否存在与多机任务对应的Redis分片锁之前,从Redis中获取分片锁总数,将分片锁总数保存至本地缓存,以本地缓存中的分片锁总数作为预设的分片锁总数;根据本地缓存中的分片锁总数循环向Redis发送抢占锁请求,以获取Redis分片锁,将获取到的Redis分片锁保存至本地缓存。
在本发明实施例中,获取模块,还用于:在将获取到的Redis分片锁保存至本地缓存之后,定时从Redis中获取分片锁总数;判断获取到的分片锁总数与本地缓存中保存的分片锁总数是否相等;若是,则不做处理;否则,根据获取到的分片锁总数更新本地缓存中保存的分片锁总数。
在本发明实施例中,获取模块,还用于:在根据获取到的分片锁总数更新本地缓存中保存的分片锁总数之后,删除本地缓存中保存的Redis分片锁。
在本发明实施例中,该装置还包括续期模块,用于:若获取到的分片锁总数与本地缓存中保存的分片锁总数相等,则延长本地缓存中保存的Redis分片锁的生存时间。
在本发明中实施例中,从Redis中获取分片锁总数的操作间隔小于生存时间的延长时长。
在本发明实施例中,执行模块602,进一步用于:遍历多机任务对应的数据表中的所有分片编码;计算每个分片编码对预设的分片锁总数的取模结果;将与Redis分片锁相等的取模结果对应的分片编码存储到分片列表中;以分片列表中各个分片编码对应的数据作为待处理数据。
在本发明实施例中,判断模块601,还用于:响应于接收到单机任务,从Redis中获取该单机任务的独占锁;判断是否获取到该单机任务的独占锁。执行模块602,还用于:若获取到单机任务的独占锁,则执行该单机任务;否则不执行该单机任务。
根据本发明实施例的另一个方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现本发明提供的定时任务的处理方法。
根据本发明实施例的还一个方面,提供了一种计算机可读介质,其上存储有计算机程序,程序被处理器执行时实现本发明提供的定时任务的处理方法。
图7示出了可以应用本发明实施例的定时任务的处理方法或定时任务的处理装置的示例性系统架构700。
如图7所示,系统架构700可以包括终端设备701、702、703,网络704和服务器705。网络704用以在终端设备701、702、703和服务器705之间提供通信链路的介质。网络704可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备701、702、703通过网络704与服务器705交互,以接收或发送消息等。终端设备701、702、703上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备701、702、703可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器705可以是提供各种服务的服务器,例如对用户利用终端设备701、702、703所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的定时任务的处理方法一般由服务器705执行,相应地,定时任务的处理装置一般设置于服务器705中。
应该理解,图7中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图8,其示出了适于用来实现本发明实施例的终端设备的计算机系统800的结构示意图。图8示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示,计算机系统800包括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有系统800操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
以下部件连接至I/O接口805:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括判断模块和执行模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,判断模块还可以被描述为“响应于接收到多机任务,确定本地缓存中是否存在与多机任务对应的Redis分片锁的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:响应于接收到多机任务,确定本地缓存中是否存在与多机任务对应的Redis分片锁;响应于本地缓存中存在该Redis分片锁,根据该Redis分片锁和预设的分片锁总数确定与多机任务对应的待处理数据,以执行多机任务;响应于本地缓存中不存在该Redis分片锁,则不执行多机任务。
根据本发明实施例的技术方案,本发明实施例所提供的定时任务的处理方法,基于Redis实现,当机器启动时,首先通过从Redis中获取分片锁总数,然后根据该分片锁总数向Redis发送抢占锁请求,通过获取Redis分片锁。当获取到定时任务时,首先判断获取到的定时任务为多机任务还是单机任务,当为多机任务时,则判断本地缓存中是否存在Redis分片锁,若存在,则可以根据Redis分片锁和分片锁总数确定待处理分片列表对应的待处理数据,以执行定时任务,若不存在,可以在定时获取Redis中的分片锁总数时,获取Redis分片锁;当为单机任务时,从Redis中获取单机任务的独占锁,若获取到独占锁,则执行单机任务。本发明实施例的方法通过Redis实现定时任务中数据的分片处理、多机并行执行,提高了处理能力;同时支持单机任务的执行,依赖少,较为轻便,不需要额外部署中间件和应用,也不需要建额外的数据库表,适用于本地化部署的应用,能够较为灵活的应对宕机情况发生。另外,该方法利用Redis实现分片锁和独占锁命令,以实现对分片锁和独占锁的获取,通过定时从Redis中获取分片锁总数,获取分片锁总数的变更情况,从而实现对数据的分片处理的动态变化。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种定时任务的处理方法,其特征在于,包括:
响应于接收到多机任务,确定本地缓存中是否存在与所述多机任务对应的远程字典服务Redis分片锁;
响应于本地缓存中存在所述Redis分片锁,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,以执行所述多机任务;
响应于本地缓存中不存在所述Redis分片锁,不执行所述多机任务。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在确定本地缓存中是否存在与所述多机任务对应的远程字典服务Redis分片锁之前,从Redis中获取分片锁总数,将所述分片锁总数保存至所述本地缓存,以所述本地缓存中保存的分片锁总数作为所述预设的分片锁总数;
根据所述本地缓存中保存的分片锁总数循环向Redis发送抢占锁请求,以获取Redis分片锁,将获取到的Redis分片锁保存至所述本地缓存。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
在将获取到的Redis分片锁保存至所述本地缓存之后,定时从所述Redis中获取分片锁总数;判断获取到的分片锁总数与所述本地缓存中保存的分片锁总数是否相等;若是,则不做处理;否则,根据获取到的分片锁总数更新所述本地缓存中保存的分片锁总数。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
在根据获取到的分片锁总数更新所述本地缓存中保存的分片锁总数之后,删除所述本地缓存中保存的Redis分片锁。
5.根据权利要求3所述的方法,其特征在于,所述方法还包括:
若获取到的分片锁总数与所述本地缓存中保存的分片锁总数相等,则延长所述本地缓存中保存的Redis分片锁的生存时间。
6.根据权利要求5所述的方法,其特征在于,从所述Redis中获取分片锁总数的操作间隔小于所述生存时间的延长时长。
7.根据权利要求1所述的方法,其特征在于,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,包括:
遍历所述多机任务对应的数据表中的所有分片编码;
计算每个所述分片编码对所述预设的分片锁总数的取模结果;
将与所述Redis分片锁相等的取模结果对应的分片编码存储到分片列表中;
以所述分片列表中各个分片编码对应的数据作为所述待处理数据。
8.根据权利要求1-7任一所述的方法,其特征在于,所述方法还包括:
响应于接收到单机任务,从所述Redis中获取所述单机任务的独占锁;判断是否获取到所述单机任务的独占锁;若是,则执行所述单机任务;否则不执行所述单机任务。
9.一种定时任务的处理装置,其特征在于,包括:
判断模块,响应于接收到多机任务,确定本地缓存中是否存在远程字典服务Redis分片锁;
执行模块,响应于所述本地缓存中存在所述Redis分片锁,根据所述Redis分片锁和预设的分片锁总数确定与所述多机任务对应的待处理数据,以执行所述多机任务;响应于所述本地缓存中不存在所述Redis分片锁,不执行所述多机任务。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210440224.9A CN114780593A (zh) | 2022-04-25 | 2022-04-25 | 一种定时任务的处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210440224.9A CN114780593A (zh) | 2022-04-25 | 2022-04-25 | 一种定时任务的处理方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114780593A true CN114780593A (zh) | 2022-07-22 |
Family
ID=82433044
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210440224.9A Pending CN114780593A (zh) | 2022-04-25 | 2022-04-25 | 一种定时任务的处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114780593A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040215791A1 (en) * | 2002-08-06 | 2004-10-28 | Tsao Sheng Ted Tai | Concurrent web based multi-task support for control management system |
US20180232259A1 (en) * | 2017-02-15 | 2018-08-16 | Ca, Inc. | Distributed processing of mixed serial and concurrent workloads |
CN109032796A (zh) * | 2018-07-18 | 2018-12-18 | 北京京东金融科技控股有限公司 | 一种数据处理方法和装置 |
CN113961330A (zh) * | 2021-11-04 | 2022-01-21 | 京东科技信息技术有限公司 | 分布式定时任务执行方法、装置、设备和计算机可读介质 |
-
2022
- 2022-04-25 CN CN202210440224.9A patent/CN114780593A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040215791A1 (en) * | 2002-08-06 | 2004-10-28 | Tsao Sheng Ted Tai | Concurrent web based multi-task support for control management system |
US20180232259A1 (en) * | 2017-02-15 | 2018-08-16 | Ca, Inc. | Distributed processing of mixed serial and concurrent workloads |
CN109032796A (zh) * | 2018-07-18 | 2018-12-18 | 北京京东金融科技控股有限公司 | 一种数据处理方法和装置 |
CN113961330A (zh) * | 2021-11-04 | 2022-01-21 | 京东科技信息技术有限公司 | 分布式定时任务执行方法、装置、设备和计算机可读介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109274731B (zh) | 基于多租户技术的web服务的部署、调用方法和装置 | |
CN105787077B (zh) | 数据同步方法和装置 | |
CN109032796B (zh) | 一种数据处理方法和装置 | |
CN110019123B (zh) | 一种数据迁移方法和装置 | |
CN112948498A (zh) | 一种分布式系统全局标识的生成方法和装置 | |
CN110321252B (zh) | 一种技能服务资源调度的方法和装置 | |
CN111478781B (zh) | 一种消息广播的方法和装置 | |
CN110572422A (zh) | 数据下载方法和装置 | |
CN116303608A (zh) | 一种应用服务的数据处理方法和装置 | |
CN113127923A (zh) | 管理权限的方法和装置 | |
CN113282589A (zh) | 一种数据获取方法和装置 | |
CN110798495A (zh) | 用于在集群架构模式下端到端的消息推送的方法和服务器 | |
CN113742376A (zh) | 一种同步数据的方法、第一服务器以及同步数据的系统 | |
CN111767126A (zh) | 分布式批量处理的系统和方法 | |
CN109284177B (zh) | 一种数据更新方法和装置 | |
CN109213815B (zh) | 控制执行次数的方法、装置、服务器终端以及可读介质 | |
CN112948138A (zh) | 一种处理消息的方法和装置 | |
CN112214500A (zh) | 数据对比的方法、装置、电子设备和存储介质 | |
CN112395337A (zh) | 一种数据导出方法和装置 | |
CN109144991B (zh) | 动态分表的方法、装置、电子设备和计算机可存储介质 | |
CN114756173A (zh) | 文件合并的方法、系统、设备和计算机可读介质 | |
CN114780593A (zh) | 一种定时任务的处理方法和装置 | |
CN113779048A (zh) | 一种数据处理方法和装置 | |
CN113779122A (zh) | 导出数据的方法和装置 | |
CN108833147B (zh) | 一种配置信息的更新方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |