CN111290846B

CN111290846B - 一种分布式任务调度方法及系统

Info

Publication number: CN111290846B
Application number: CN202010118928.5A
Authority: CN
Inventors: 陈亮
Original assignee: Hangzhou Tuya Information Technology Co Ltd
Current assignee: Hangzhou Tuya Information Technology Co Ltd
Priority date: 2020-02-26
Filing date: 2020-02-26
Publication date: 2023-08-18
Anticipated expiration: 2040-02-26
Also published as: CN111290846A

Abstract

本申请公开了一种分布式任务调度方法，包括：在缓存中设置n个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理；分别存储所述待处理任务至所述待处理任务存储区；分别读取所述待处理任务存储区内的任务至内存；运行所述内存中的所述待处理任务。其中，n为将任务处理周期分成n份子周期，且n为大于2的自然数。与现有技术相比本申请所提供的分布式任务调度方法通过分类任务，并由多个处理模块处理不同类别的任务，避免了一个处理模块处理所有任务而产生的任务延迟或排队的情况。

Description

一种分布式任务调度方法及系统

技术领域

本申请涉及物联网领域，具体而言，涉及一种分布式任务调度方法。

背景技术

定时任务调度系统需要准确高效的保证每天数百万计的定时任务的调度并触发设备执行。

传统的定时任务调度方案，将定时任务集中存储在数据库中，通过定时查询数据库的方式将要到期的任务取出并执行。随着业务的增长，上述系统会出现两个方面的问题。

第一：随着设备数量和设备定时任务几何倍数级的增加，对数据库的压力较大，需要进行复杂逻辑分库分表。

第二：由于业务的特殊性，在某些场景下，定时任务集中在某一个时间点，导致单节点的压力过大，任务延迟较高。

发明内容

本申请的主要目的在于提供一种分布式任务调度方法，包括：

在缓存中设置n个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理；

分别存储所述待处理任务至所述待处理任务存储区；

分别读取所述待处理任务存储区内的任务至内存；

运行所述内存中的所述待处理任务。

其中，n为将任务处理周期分成n份子周期，且n为大于2的自然数。

可选地，所述处理模块的数量为n个，且所述处理模块与所述子周期一一对应。

可选地，分布式任务调度方法，包括：

在缓存中设置10个所述待处理任务存储区；

所述待处理任务的处理时间以分钟为单位计算，按照所述处理时间的个位数从0至9分类，分别存储至第0-第9个所述待处理任务存储区；

读取所述处理时间的个位数与系统时间的分钟个位数相同的所述待处理任务存储区中的所述待处理任务至内存；

运行所述内存中的所述待处理任务。

可选地，读取所述处理时间的个位数与系统时间的分钟个位数相同的所述待处理任务存储区中的所述待处理任务至内存为：

提前第一预设时间读取所述处理时间的个位数与系统时间的分钟个位数相同的所述待处理任务存储区中的所述待处理任务至内存。

可选地，分别读取所述待处理任务存储区内的任务至内存包括：

读取并标识已经被读取的待处理任务；

当存储新任务至已被表示过的所述待处理任务存储区时，标识所述新任务；

根据标识，仅读取所述新任务。

可选地，运行所述内存中的所述待处理任务包括：

运行并标识已处理完的所述待处理任务；

当标识第一待处理任务为已处理，且开始处理时间先于所述第一待处理任务的所有第二待处理任务均标识为已处理时，删除所述第一待处理任务及所述第二待处理任务。

根据本申请的另一个方面，提供了一种分布式任务调度系统，包括：

设置模块，用于在缓存中设置n个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理；

存储模块，用于分别存储所述待处理任务至所述待处理任务存储区；

读取模块，用于分别读取所述待处理任务存储区内的任务至内存；

运行模块，用于运行所述内存中的所述待处理任务。

本申请还公开了一种计算机设备，包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序，所述处理器执行所述计算机程序时实现上述任一项所述的方法。

本申请还公开了一种计算机可读存储介质，非易失性可读存储介质，其内存储有计算机程序，所述计算机程序在由处理器执行时实现上述任一项所述的方法。

本申请还公开了一种计算机程序产品，包括计算机可读代码，当所述计算机可读代码由计算机设备执行时，导致所述计算机设备执行上述任一项所述的方法。

与现有技术相比本申请所提供的分布式任务调度方法通过分类任务，并由多个处理模块处理不同类别的任务，避免了一个处理模块处理所有任务而产生的任务延迟或排队的情况。

附图说明

构成本申请的一部分的附图用来提供对本申请的进一步理解，使得本申请的其它特征、目的和有益效果变得更明显。本申请的示意性实施例附图及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是根据本申请一个实施例的分布式任务调度方法的流程示意图；

图2A-2C是根据本申请一个实施例的分布式任务调度方法的示意图；

图3是根据本申请一个实施例的分布式任务调度方法的pending队列的示意图；

图4是根据本申请一个实施例的计算机设备的示意图；以及

图5是根据本申请一个实施例的计算机可读存储介质的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

请参照图1-图2，本申请一实施例提供了一种分布式任务调度方法，包括：

S2：在缓存中设置n个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理；

S4：分别存储所述待处理任务至所述待处理任务存储区；

S6：分别读取所述待处理任务存储区内的任务至内存；

S8：运行所述内存中的所述待处理任务。

例如，可以把待处理任务存储区类比成一个圆环。为便于理解：这个圆环的上的存储区相当于处理模块。不同的存储区对应的处理模块可以相同，也可以是彼此独立的处理模块，均属于本申请所要求保护的范围内。每个处理模块对应的一类的待处理任务。将所有的任务分类，然后将被分类之后的任务存储对应的存储区中。当读取任务时，在符合读取条件的相应的存储区中读取待处理任务，然后由对应的处理模块处理。这样，将任务分类，并由多个处理模块处理，避免了由于一个处理模块处理所有任务而任务排队的情况。

将待处理任务分类可以按照任何规律或种类分类，例如大小、属性、创建时间或者执行时间等。本申请中以按照执行时间为例进行说明。

按照上述逻辑，每个柱子均有两种状态：触发状态和非触发状态。其中触发状态意味着该存储区中的待处理任务正在被处理。非触发状态意味着该存储区中的待处理任务正在等待被处理或者已经被处理完成。

当存储区为触发状态时，将当前时刻(相同年月日小时分钟的时间段内)任务从redis加载到内存中，以内存数据为准，做触发操作，把下一次跨分钟的任务投递给对应存储区上，做异步回写redis持久化操作。处理管辖时间片的来自apiserver发来的实时操作(删除、禁用、修改)。触发状态存储区进入触发状态的条件为主机时间达到其负责的时间片；退出触发状态条件为：主机时间退出其负责时间片、同时所有内存加载的触发任务触发完毕。

当存储区为非触发状态(inactive)时，处理来自其他存储区传来的触发任务，检查是否是否属于自己的管辖时间片，如是则回写到redis，如不是则继续投递给负责的存储区。向时间绝对坐标过去时间扫描redis中的触发任务，发现后过期任务则重新加载、计算最近触发时间，并根据此时间投递到对应负责的存储区。负责向时间坐标未来，预加载pending状态的触发任务。处理管辖时间片的来自apiserver发来的实时操作(删除、禁用、修改)

本申请一实施例中，所述处理模块的数量为n个，且所述处理模块与所述子周期一一对应。

本申请一实施例中，分布式任务调度方法，包括：

在缓存中设置10个所述待处理任务存储区；

运行所述内存中的所述待处理任务。

存储区的个数来自apollo中sigmad.processor.number.per.partition配置项目设置，数量大于1。本实施例中以10个为例。假如现有11个任务，其运行时间分别为9:00、9:11、10:12、10:13、10:15、11:14、12:17、13:16、14:18、15:19和15:30。它们应该运行时间的分钟的个位数分别为0,1,2,3,5,4,7,6,8,9,0。而10个存储区所应该存储的任务的个位数为：存储区0存储时间个位数为0的所有任务，存储区1存储时间个位数为1的所有任务。以此类推，直到存储区9存储时间个位数为9的所有任务。即上述11个任务重的第1和第11个任务存储在存储区0中，第2个任务存储在存储区1中，第3个任务存储在存储区2中，第4个任务存储在存储区3中，第5个任务存储在存储区5中，第6个任务存储在存储区4中，第7个任务存储在存储区7中，第8个任务存储在存储区6中，第9个任务存储在存储区8中，第10个任务存储在存储区9中。

当系统时间的分钟的个位数为0时，例如9：00。则由一个处理模块运行存储区0内的所有任务，即运行第1个和第11个任务。当系统时间的分钟的个位数为5时，例如9：05。则由一个处理模块运行存储区5内的所有任务，即运行第5个任务。

本实施中，只要系统时间的分钟个位数与存储区的待处理任务的处理时间的分钟个位数相同，就开始运行该待处理任务。然而并不以此为限，在本申请其他实施例中，分布式任务调度方法还包括：忽略不是本运行周期内的待处理任务。即当系统时间的分钟个位数与待处理任务的处理时间的分钟个位数相同时，判断处理时间的分钟数与系统时间的差值是否大于周期时间。若大于周期时间，则忽略该任务。还以上述情况为例，上述的运行周期为10分钟。当系统时间为9:00时，此时存储区0内有两个待处理任务，即任务1和任务11。其运行时间分别为9:00和15:30。经过判断，任务11的运行时间与当前系统时间的差值大于10，因此忽略任务11而仅仅运行任务1。

在本申请其他实施例中，可以使用其他时间分类的方法。例如分为60份，即周期为60(即一小时)，每个存储区对应一小时内的某一分钟。或者分为24(一天分成24小时)，或者86400(每天分成86400)，均属于本申请所要求保护的范围内。

本申请一实施例中，读取所述处理时间的个位数与系统时间的分钟个位数相同的所述待处理任务存储区中的所述待处理任务至内存为：

为保证一分钟的第一秒任务能按时触发，本实施例中，向前推15s(但并不以此为限)，做数据预加载。即13:00:00分的任务，在12:59:45秒就由相应的处于trigger状态的存储区从redis中加载到内存。请参照图2A-2C，图2A中的红色珠子为已被触发状态，绿色珠子为违背触发状态。图2B中的上一个任务还没有处理完，因此颜色为红色，是以被触发状态，下一个任务已经提前15秒触发，因此也为红色。图2C中的上一个珠子内的任务已被处理完，因此变为珠子，下一个珠子正处于被触发状态，因此为红色。

本申请一实施例中，分别读取所述待处理任务存储区内的任务至内存包括：

读取并标识已经被读取的待处理任务；

根据标识，仅读取所述新任务。

如图3所示，为保证能实时处理新增的待调度任务，本实施例中给每一个圆环都配套了一个新增任务的pending队列，这样程序可以每200ms(不以此为限)获取pending队列长度，和内存中配套的pending队列结构的长度比较，来判断是否有新增任务，如发现redis里的pending队列长大于内存的配对队列长度，说明有新任务添加，这样程序只要读取未读过的任务即可，即保证了实时性、也降低了对redis操作的压力。

具体时间方法如下：

trigger状态的‘存储区’进入预加载流程，会从对应时间key的pending队列中获取全部数据，并开启一个定时协程每100ms轮询一次这个pengding队列。直到退出trigger状态，定时协程也退出。

任何存储区收到apiserver通过grpc方式来的实时请求(delete、disable、update)会先判断是否在pending队列里，如果存在pending队列中，会先加载对应key上的pending队列中所有任务，并单独提取出目标任务做对应的处理

为防止pending队列过长，导致grpc任务超时，apiserver在插pending队列的时候，检查长度，如果超过200，则自动发送一个consumer命令给对应的sigmad，要求做一次消费。

其实做预消费是消耗redis性能的操作，理想状态下：apiserver生产触发任务后，一直到任务触发前被预加载到内存，是redis消耗最小的理想场景。预先消费只是把触发任务从pending队列移动到时间滚轮中。

新增的reids的list结构(pending list)，用于专门处理增量触发任务(来自apiserver的新增触发任务、禁用后重新启用)，目的是不让sigmad再频繁全量获取时间滚轮中的全量数据、以期降低redis压力。设计这个结构的核心目的就是降低redis读写压力。

本申请一实施例中，运行所述内存中的所述待处理任务包括：

运行并标识已处理完的所述待处理任务；

例如，sigmad内存里会维护一个结构，保持和redis中pending队列一致状态的切片，每次只加载未被加载过的增量任务，一旦任务被处理或中间结果写入redis的时间滚轮后，就会在内存里设置标志位，并判断是否要删除pending队列头部连续区域(这些区域在内存中都是被处理的任务配置)，简单的说redis的pending队列消费的时候，只能弹头部数据。为防止头部有一个一直完成不了的任务，本实施例中，在数据区有一个pending任务生产时间，sigmad每次加载任务达到结束时间、或者生产时间大于触发时间且生产时间是一个运行周期前，则把任务移到死信队列中，便于排查且不堵塞pending队列。

本申请一实施例还提供了一种分布式任务调度系统，包括：

运行模块，用于运行所述内存中的所述待处理任务。

请参照图4，本申请还提供了一种计算机设备，包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序，所述处理器执行所述计算机程序时实现上述任一项所述的方法。

请参照图5，一种计算机可读存储介质，非易失性可读存储介质，其内存储有计算机程序，所述计算机程序在由处理器执行时实现上述任一项所述的方法。

一种计算机程序产品，包括计算机可读代码，当所述计算机可读代码由计算机设备执行时，导致所述计算机设备执行上述任一项所述的方法。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims

1.一种分布式任务调度方法，其特征在于，包括：

在缓存中设置10个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理，包括：

运行所述内存中的所述待处理任务；

分别存储所述待处理任务至所述待处理任务存储区；

分别读取所述待处理任务存储区内的任务至内存；

运行所述内存中的所述待处理任务；

其中，将任务处理周期分成10份子周期。

2.根据权利要求1所述的分布式任务调度方法，其特征在于，所述处理模块的数量为10个，且所述处理模块与所述子周期一一对应。

3.根据权利要求1所述的分布式任务调度方法，其特征在于，读取所述处理时间的个位数与系统时间的分钟个位数相同的所述待处理任务存储区中的所述待处理任务至内存为：

4.根据权利要求3所述的分布式任务调度方法，其特征在于，分别读取所述待处理任务存储区内的任务至内存包括：

读取并标识已经被读取的待处理任务；

根据标识，仅读取所述新任务。

5.根据权利要求4所述的分布式任务调度方法，其特征在于，运行所述内存中的所述待处理任务包括：

运行并标识已处理完的所述待处理任务；

6.一种分布式任务调度系统，其特征在于，包括：

设置模块，用于在缓存中设置10个待处理任务存储区，每个所述待处理任务存储区内的待处理任务由一个处理模块处理，包括：

运行所述内存中的所述待处理任务；

运行模块，用于运行所述内存中的所述待处理任务；

其中，将任务处理周期分成10份子周期。

7.一种计算机设备，包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-5中任一项所述的方法。

8.一种计算机可读存储介质，其内存储有计算机程序，其特征在于，所述计算机程序在由处理器执行时实现如权利要求1-5中任一项所述的方法。