CN114257551A - 一种分布式限流的方法及系统、存储介质 - Google Patents

Abstract

本发明公开了一种分布式限流的方法及系统、存储介质。通过接收到业务限流请求后，访问redis获取令牌信息；根据令牌信息判断实时令牌数是否大于预设值；若实时令牌数大于预设值，则正常执行请求的业务并将实时令牌数减1；若实时令牌数小于等于预设值，则不执行请求业务并返回失败结果，进而解决了相关技术中在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题，达到了在高并发情况下系统流量精准、高效的管控，有效的保护了系统稳定性的技术效果。

Description

一种分布式限流的方法及系统、存储介质

技术领域

本发明涉及流量管控技术领域，具体而言，涉及一种分布式限流的方法及系统、存储介质。

背景技术

目前互联网领域限流方案一般有如下两种方法：

漏桶算法，将每个请求视为水滴放入“漏桶”中存储，漏桶以固定速率向外漏出请求来执行如果漏桶空了则停止“漏水”；如果漏桶满了则多余的水滴会被直接丢弃。

令牌桶算法，令牌以固定速率生成；生成的令牌放入令牌桶中存放，如果令牌桶满了则多语的令牌会直接丢弃，当请求到达时，会尝试从令牌桶中取令牌，取到了令牌的请求可以执行；如果桶空了那么尝试取令牌的请求会被直接丢弃。

但是，上述两种方法无论系统能否承受住流量情况，都不会考虑到后台系统的请求处理情况。在后台系统已无法正常处理情况下，还会向后台系统继续发放流量，可能会导致系统崩溃。

针对相关技术中如何在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题，尚未存在较好的解决方案。

发明内容

本发明实施例提供了一种分布式限流的方法及系统、存储介质，以至少解决相关技术中在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题。

根据本发明实施例的一个方面，提供了一种分布式限流的方法，包括：

接收到业务限流请求后，访问redis获取令牌信息；

根据所述令牌信息判断实时令牌数是否大于预设值；

若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

若所述实时令牌数小于等于预设值，则不执行请求业务并返回失败结果。

根据本发明实施例的另一方面，还提供了一种分布式限流的系统，包括：

令牌获取模块，用于接收到业务限流请求后，访问redis获取令牌信息；

令牌判断模块，用于根据所述令牌信息判断实时令牌数是否大于预设值；

业务执行模块，用于若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

若所述实时令牌书小于等于预设值，则不执行请求业务并返回失败结果。

根据本发明实施例的又一方面，还提供了一种计算机可读的存储介质，该计算机可读的存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述分布式限流的方法。

根据本发明实施例的又一方面，还提供了一种电子设备，包括存储器和处理器，上述存储器中存储有计算机程序，上述处理器被设置为通过所述计算机程序执行上述分布式限流的方法。

在本发明实施例中，通过接收到业务限流请求后，访问redis获取令牌信息；根据令牌信息判断实时令牌数是否大于预设值；若实时令牌数大于预设值，则正常执行请求的业务并将实时令牌数减1；若实时令牌数小于等于预设值，则不执行请求业务并返回失败结果，进而解决了相关技术中在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题，达到了在高并发情况下系统流量精准、高效的管控，有效的保护了系统稳定性的技术效果。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的分布式系统限流的方法流程图；

图2是根据本发明实施例的分布式系统限流的系统结构框图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

根据本发明实施例的一个方面，提供了一种分布式限流的方法，可选地，作为一种可选的实施方式，本实施例中的分布式系统限流的方法可以通过计算机程序的方式执行，并且，可以应用在终端或者服务器或者类似的运算装置或者电子设备中。示例性的，该运算装置或者电子设备可以包括一个或多个处理器(处理器可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器，还可以包括用于通信功能的传输设备以及输入输出设备。还可以包括比前述更多或者更少的组件，或者具有与前述所示不同的配置。存储器可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的分布式系统限流的方法对应的计算机程序，处理器通过运行存储在存储器内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器可进一步包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至移动终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。传输装置用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端的通信供应商提供的无线网络。在一个实例中，传输装置包括一个网络适配器(Network Interface Controller，简称为NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置可以为射频(Radio Frequency，简称为RF)模块，其用于通过无线方式与互联网进行通讯。

示例性的，作为一种可选的实施方式，图1是根据本发明实施例的分布式系统限流的方法的流程图，如图1所示，该方法包括：

步骤S101，接收到业务限流请求后，访问redis获取令牌信息；

其中，在收到业务请求时会进行判断是否为限流业务，如果是，则会获取对应的令牌信息。

步骤S103，根据令牌信息判断实时令牌数是否大于预设值；

其中，通过获取令牌信息以确定实时令牌数；

此外，上述预设值在优选方式下设置为0，需要说明的是，设置为其他数值也同样适用于本方案，例如将预设值设置为1。

步骤S105，若实时令牌数大于预设值，则正常执行请求的业务并将实时令牌数减1；

其中，当实时令牌数大于预设值时，则正常处理执行的业务，以及可通过执行lua脚本发往redis进行实时令牌数减1。

步骤S107，若实时令牌数小于等于预设值，则不执行请求业务并返回失败结果。

其中，如果实时令牌数小于或等于预设值，则代表没有可用的令牌，则进入降级页面或者返回访问失败的结果。

在一个示例性的实施方式中，令牌信息包括：

交易码、实时令牌数、最大令牌数、数据版本号；

其中，数据版本号记录此批配置的数据版本，实时交易过程中会动态传入最新的数据版本号，如果版本号发生了变更，说明已经增加或者修改了令牌池，算法会根据变化动态设置最新的令牌池大小；

其中，交易码代表请求的唯一标识；

其中，最大令牌数有两个方面作用：

1、令牌归还时进行校验，保证总数不高于最大令牌数；

2、实时交易过程中动态传入redis，和redis中的最大令牌数进行比较，如果版本号变更前提下，会将redis中最大令牌数同步修改为最新传入的最大令牌数，且根据redis中实际令牌情况和传入的最大令牌数以及redis中的最大令牌数进行比较，然后进行令牌数配置更新。

在一个示例性的实施方式中，若所述数据版本号发生了变更，则对应调整最大令牌数；

其中，包括对外提供http接口，通过界面化配置进行修改配置和数据版本号，修改完成后触发任务机动态写入redis额外一块儿地址存储最新的数据版本号，应用服务器定时同步最新的数据版本号到内存，实时交易过程中拿着最新的数据版本号请求到redis中限流配置(数据版本号)，进行版本号比较，从而触发配置动态更新。

在一个示例性的实施方式中，在接收到限流请求之前，还包括：

判断业务请求是否为限流业务，若非限流业务则直接进行业务处理，不执行令牌数判断；

其中，交易配置在应用程序启动时存储相关信息，实时交易业务进入程序时从内存进行读取和判断，减少数据库访问

在一个示例性的实施方式中，在所述正常执行请求的业务后，还包括：

校验当前令牌数和最大令牌数的大小关系，若当前令牌数小于最大令牌数，则将实时令牌数加1；

具体地，可通过利用Spring redisTemplate发送lua脚本访问redis以实现上述方式。

通过上述步骤，通过接收到业务限流请求后，访问redis获取令牌信息；根据令牌信息判断实时令牌数是否大于预设值；若实时令牌数大于预设值，则正常执行请求的业务并将实时令牌数减1；若实时令牌数小于等于预设值，则不执行请求业务并返回失败结果，进而解决了相关技术中在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题，达到了在高并发情况下系统流量精准、高效的管控，有效的保护了系统稳定性的技术效果。

此外，本方案在实际应用中也获得了较佳的技术效果。目前已在线上零售线上渠道-集群限流项目在应用。该项目原有方案是不可动态配置的单机令牌池方案，对于后台系统保护能力不足，且不够灵活，经过改造优化后由原有的单机限流升级为集群限流，且无需重启应用服务器便可动态的修改限流配置大小，且对用户正常的操作无任何影响。

本发明实施例还提供了一种分布式系统限流的系统，该系统用于实现上述实施例及优选实施方式。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的系统较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图2是根据本发明实施例的分布式系统限流的系统结构框图，如图2所示，该系统包括：

令牌获取模块22，用于接收到业务限流请求后，访问redis获取令牌信息；

令牌判断模块24，用于根据令牌信息判断实时令牌数是否大于预设值；

业务执行模块26，用于若实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

若实时令牌书小于等于预设值，则不执行请求业务并返回失败结果。

在一个示例性的实施方式中，异常注入模块，所述令牌信息包括:

交易码、实时令牌数、最大令牌数、数据版本号；

其中，若所述数据版本号发生了变更，则对应调整最大令牌数。

在一个示例性的实施方式中，判断业务请求是否为限流业务，若非限流业务则直接进行业务处理，不执行令牌数判断。

在一个示例性的实施方式中，所述业务执行模块还包括：

校验当前令牌数和最大令牌数的大小关系，若当前令牌数小于最大令牌数，则将实时令牌数加1。

通过上述模块，通过接收到业务限流请求后，访问redis获取令牌信息；根据令牌信息判断实时令牌数是否大于预设值；若实时令牌数大于预设值，则正常执行请求的业务并将实时令牌数减1；若实时令牌数小于等于预设值，则不执行请求业务并返回失败结果，进而解决了相关技术中在高并发情况下仍然向后台系统继续发放流程可能导致系统处理异常甚至崩溃的技术问题，达到了在高并发情况下系统流量精准、高效的管控，有效的保护了系统稳定性的技术效果。

还需要说明的是，其他具备相同效果的实施方式也可适用于本方案，此处不再赘述。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

根据本发明实施例的又一个方面，还提供了一种用于实施上述分布式系统限流的方法的电子设备，该电子设备包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为通过计算机程序执行上述任一项方法实施例中的步骤。

可选地，在本实施例中，上述电子设备可以位于计算机网络的多个网络设备中的至少一个网络设备。

可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：

S1，接收到业务限流请求后，访问redis获取令牌信息；

S2，据所述令牌信息判断实时令牌数是否大于预设值；

S3，若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

S4，若所述实时令牌数小于等于预设值，则不执行请求业务并返回失败结果。

其中，存储器可用于存储软件程序以及模块，如本发明实施例中的分布式系统限流的方法和系统对应的程序指令/模块，处理器通过运行存储在存储器内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述方法。存储器可包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器可进一步包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。其中，存储器具体可以但不限于用于存储物品的样本特征与目标虚拟资源账号等信息。

可选地，上述的传输装置用于经由一个网络接收或者发送数据。上述的网络具体实例可包括有线网络及无线网络。在一个实例中，传输装置包括一个网络适配器(NetworkInterface Controller，NIC)，其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中，传输装置为射频(Radio Frequency，RF)模块，其用于通过无线方式与互联网进行通讯。

根据本发明的实施例的又一方面，还提供了一种计算机可读的存储介质，该计算机可读的存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

可选地，在本实施例中，上述计算机可读的存储介质可以被设置为存储用于执行以下步骤的计算机程序：

S1，接收到业务限流请求后，访问redis获取令牌信息；

S2，据所述令牌信息判断实时令牌数是否大于预设值；

S3，若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

S4，若所述实时令牌数小于等于预设值，则不执行请求业务并返回失败结果。

可选地，在本实施例中，本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：闪存盘、只读存储器(Read-Only Memory，ROM)、随机存取器(Random Access Memory，RAM)、磁盘或光盘等。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在上述计算机可读取的存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在存储介质中，包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种分布式限流的方法，其特征在于，包括：

接收到业务限流请求后，访问redis获取令牌信息；

根据所述令牌信息判断实时令牌数是否大于预设值；

若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

若所述实时令牌数小于等于预设值，则不执行请求业务并返回失败结果。

2.根据权利要求1所述的方法，其特征在于，所述令牌信息包括：

交易码、实时令牌数、最大令牌数、数据版本号。

3.根据权利要求2所述的方法，其特征在于，还包括：

若所述数据版本号发生了变更，则对应调整最大令牌数。

4.根据权利要求1所述的方法，其特征在于，在接收到限流请求之前，还包括：

判断业务请求是否为限流业务，若非限流业务则直接进行业务处理，不执行令牌数判断。

5.根据权利要求2所述的方法，其特征在于，在所述正常执行请求的业务后，还包括：

校验当前令牌数和最大令牌数的大小关系，若当前令牌数小于最大令牌数，则将实时令牌数加1。

6.一种分布式限流的系统，其特征在于，包括：

令牌获取模块，用于接收到业务限流请求后，访问redis获取令牌信息；

令牌判断模块，用于根据所述令牌信息判断实时令牌数是否大于预设值；

业务执行模块，用于若所述实时令牌数大于预设值，则正常执行请求的业务并将所述实时令牌数减1；

若所述实时令牌书小于等于预设值，则不执行请求业务并返回失败结果。

7.根据权利要求6所述的系统，其特征在于，所述令牌信息包括:

交易码、实时令牌数、最大令牌数、数据版本号；

其中，若所述数据版本号发生了变更，则对应调整最大令牌数。

8.根据权利要求6所述的系统，其特征在于，还包括:

判断业务请求是否为限流业务，若非限流业务则直接进行业务处理，不执行令牌数判断。

9.根据权利要求7所述的系统，其特征在于，所述业务执行模块还包括：

校验当前令牌数和最大令牌数的大小关系，若当前令牌数小于最大令牌数，则将实时令牌数加1。

10.一种计算机可读的存储介质，所述计算机可读的存储介质包括存储的程序，其中，所述程序运行时执行所述权利要求1至5任意一项中所述的方法。

Images