CN113765818A - 分布式限流方法、装置、设备、存储介质和系统 - Google Patents

Abstract

本发明实施例公开了一种分布式限流方法、装置、设备、存储介质和系统。该方法包括：获取待处理请求，并依据所述待处理请求，向限流服务端发送远程过程调用RPC请求，以使所述限流服务端依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求。通过上述技术方案，更加便捷且有效地实现分布式系统限流。

Description

分布式限流方法、装置、设备、存储介质和系统

技术领域

本发明实施例涉及计算机技术，尤其涉及一种分布式限流方法、装置、设备、存储介质和系统。

背景技术

由于应用程序接口(Application Programming Interface，API)无法控制调用方的行为，因此当遇到瞬时请求量激增时，会导致接口占用过多服务器资源，使得其他请求响应速度降低或是超时，更有甚者可能导致服务器宕机。因此，有必要对应用服务的请求进行限制，即限流(Rate limiting)，以此来保护服务器。

线上业务出于各种原因考虑，多是分布式系统。目前针对分布式系统的限流方法为：结合lua脚本和Redis缓存服务的方式来实现限流，例如采用编写Lua脚本运行的方式，将请求次数的运算和查询过程放在Redis端，使得对Redis进行一次请求就能完成限流的判断。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：Redis缓存服务+lua脚本的限流方案需要部署Redis缓存服务，并且需要掌握lua脚本，方案实现过程复杂、实现困难。

发明内容

本发明实施例提供一种分布式限流方法、装置、设备、存储介质和系统，以更加便捷且有效地实现分布式系统限流。

第一方面，本发明实施例提供了一种分布式限流方法，应用于分布式节点，包括：

获取待处理请求，并依据所述待处理请求，向限流服务端发送远程过程调用RPC请求，以使所述限流服务端依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求。

第二方面，本发明实施例还提供了一种分布式限流方法，应用于限流服务端，包括：

接收分布式节点发送的远程过程调用RPC请求，并依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点，以使所述分布式节点依据所述响应结果确定是否执行所述RPC请求对应的待处理请求。

第三方面，本发明实施例还提供了一种分布式限流装置，配置于分布式节点，该装置包括：

远程过程调用RPC请求发送模块，用于获取待处理请求，并依据所述待处理请求，向限流服务端发送远程过程调用RPC请求，以使所述限流服务端依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

请求处理模块，用于依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求。

第四方面，本发明实施例还提供了一种分布式限流装置，配置于限流服务端，该装置包括：

令牌获取模块，用于接收分布式节点发送的远程过程调用RPC请求，并依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

响应结果发送模块，用于将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点，以使所述分布式节点依据所述响应结果确定是否执行所述RPC请求对应的待处理请求。

第五方面，本发明实施例还提供了一种电子设备，该电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所提供的应用于分布式节点的分布式限流方法，或者应用于限流服务端的分布式限流方法。

第六方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现本发明任意实施例所提供的应用于分布式节点的分布式限流方法，或者应用于限流服务端的分布式限流方法。

第七方面，本发明实施例还提供了一种分布式限流系统，该系统包括：至少两个分布式节点和限流服务器，其中，

所述分布式节点，用于获取待处理请求，并依据所述待处理请求，向所述限流服务器发送远程过程调用RPC请求，以及依据所述限流服务器对所述RPC请求的响应结果，确定是否执行所述待处理请求；

所述限流服务器，独立于所述分布式节点，且与所述分布式节点远程通信连接，用于依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌，并将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点。

本发明实施例通过获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

附图说明

图1是本发明实施例一中的一种应用于分布式节点的分布式限流方法的流程图；

图2是本发明实施例二中的一种应用于分布式节点的分布式限流方法的流程图；

图3是本发明实施例三中的一种应用于限流服务端的分布式限流方法的流程图；

图4是本发明实施例四中的一种分布式限流系统的结构示意图；

图5是本发明实施例四中的一种分布式限流系统中分布式节点和限流服务器之间的交互过程示意图；

图6是本发明实施例五中的一种配置于分布式节点的分布式限流装置的结构示意图；

图7是本发明实施例六中的一种配置于限流服务端的分布式限流装置的结构示意图；

图8是本发明实施例七中的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

本实施例提供的应用于分布式节点的分布式限流方法，可适用于分布式系统的访问限流。该方法可以由配置于分布式节点中的分布式限流装置来执行，该装置可以由软件和/或硬件的方式实现，该装置可以集成在分布式系统中的节点对应的电子设备中，例如台式电脑或服务器等。参见图1，本实施例的应用于分布式节点的分布式限流方法具体包括：

S110、获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌。

其中，待处理请求是指分布式节点需要处理的外部请求。限流服务端是指提供限流服务的服务端，其布设于单机中。远程过程调用(Remote Procedure Call，RPC)请求是指远程调用限流服务的请求。这里的限流服务是指基于令牌桶算法的服务，即令牌获取服务，例如可以是Google开源工具包Guava提供的基于令牌桶算法的限流工具类RateLimiter所实现的限流服务。

相关技术中，利用令牌桶算法进行访问限流，尤其是利用Google开源工具包Guava提供的成熟的限流工具类RateLimiter。但是，限流工具类RateLimiter只适用于单机的限流，其无法适应分布式环境。如果要将令牌桶算法应用至分布式系统，就需要使用lua脚本自行实现，且需要部署Redis缓存服务。基于此，相关技术中不会将限流工具类RateLimiter用于分布式限流。但是，Redis缓存服务结合lua脚本的分布式限流实现起来比较复杂、困难，为了提高分布式限流的实现便捷性，本发明实施例中将限流工具类RateLimiter用于分布式限流。具体为：设置一个独立服务端(即限流服务端)，该限流服务端中利用限流工具类RateLimiter来实现令牌桶算法，用于生产令牌和提供令牌，并向外提供令牌获取服务。同时，分布式节点均注册远程过程调用RPC服务，以实现与限流服务端之间的远程调用功能。

基于上述分布式系统的限流部署，在一个分布式节点接收到待处理请求的情况下，先根据该待处理请求和限流服务端中令牌获取服务的调用规则(如调用方式、所需参数等)，生成远程过程调用RPC请求。然后，将该RPC请求发送至限流服务端。限流服务端接收到该RPC请求后，便调用令牌获取服务从令牌桶中获取请求的令牌。无论是否能够获取到请求的令牌，限流服务端均会向分布式节点反馈对RPC请求的响应结果。

示例性地，依据待处理请求，向限流服务端发送远程过程调用RPC请求包括：依据待处理请求的请求信息，确定请求令牌数；依据请求令牌数向限流服务端发送RPC请求。

其中，请求信息是指待处理请求的相关信息，例如可以是请求内容、请求类型、请求的数据包大小等。请求令牌数是指执行该待处理请求所需的令牌数。

令牌桶限流是利用匀速产生的令牌来控制请求的处理，如果获取到令牌则可执行请求，如果获取不到令牌则不执行请求。待处理请求对应的业务不同，请求内容也会不同，执行请求所需的令牌数也可能是不同的。基于此，在获取到待处理请求后，便需要根据待处理请求的请求信息来确定请求令牌数，进而根据该请求令牌数生成RPC请求，并将其发送至限流服务端。例如，可以根据待处理请求的数据包大小以及每个令牌对应的数据量来确定请求令牌数。这样设置的好处在于，避免将待处理请求的请求信息发送至限流服务端，既能提高待处理请求的安全性，又能减少RPC请求的数据量，提高远程调用效率，进而提高分布式节点的限流效率。

示例性地，依据待处理请求的请求信息，确定请求令牌数包括：依据待处理请求的目标请求类型、以及请求类型与令牌数的对应关系，确定请求令牌数。

待处理请求如果是与第三方服务之间的调用请求，而第三方服务约定了不同请求类型的请求所需的令牌数，那么便可构建请求类型与令牌数之间的对应关系。分布式节点在获取到待处理请求后，便可根据待处理请求的请求类型(即目标请求类型)，从上述对应关系中查询到待处理请求对应的令牌数，作为请求令牌数。例如，电商平台中物品获取任务(如购物订单)对应的任务生成请求(如生成订单的请求)，调用服务是第三方服务中的下单服务，请求类型为订单生成类型，而下单生成类型的请求对应的令牌数约定为2，那么请求令牌数便为2；又如，调用第三方服务中的订单查询服务，请求类型为订单查询类型，约定令牌数为1，那么请求令牌数便为1。这样设置的好处在于，在待处理请求为外部服务调用请求类型时，优先按照第三方服务约定确定请求令牌数，若无约定则按照数据包大小确定，一定程度上能够提高重要请求的执行率，进一步提高限流的智能化与合理化，从而进一步提高分布式限流效率。

S120、依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。

分布式节点在接收到限流服务端反馈的响应结果后，会根据该响应结果是否为所请求的令牌而确定是否执行待处理请求。

示例性地，S120包括：若响应结果为获取到请求令牌数的令牌，则执行待处理请求；若响应结果为设定时间内未获取到请求令牌数的令牌，则依据待处理请求对应的业务等级，确定对待处理请求的处理操作。

其中，设定时间是指预先设置的时间段。示例性地，设定时间为远程过程调用RPC请求的请求超时时间，或者RPC请求中的设定等待时间。请求超时时间是指远程调用的任一请求的超时时间，其在节点注册远程过程调用服务时设定。设定等待时间是RPC请求的一个请求参数，其在节点调用远程过程调用服务时给定。这样设置的好处在于，既能避免远程过程调用的长时间阻塞，又能灵活确定远程过程调用服务的调用阻塞时长，进一步提高分布式限流的灵活性。业务等级是指预先按照业务重要程度设定的级别，业务越重要，业务等级越高。

如果分布式节点接收到的响应结果为请求令牌数的令牌，那么就执行待处理请求。如果响应结果为因设定时间到达而反馈的未获取到令牌，那么无法执行待处理请求。此时，需要根据待处理请求对应的业务等级，确定是否继续向限流服务端发送RPC请求以继续获取请求令牌数的令牌。这样设置的好处在于，能够根据待处理请求的业务等级来确定是否继续获取令牌，区分了重要业务和非重要业务的限流流程，进一步提高了重要业务的执行率，从而进一步提高分布式限流的灵活性。

本实施例的技术方案，通过获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

实施例二

本实施例在上述实施例一的基础上，对“依据待处理请求对应的业务等级，确定对待处理请求的处理操作”进行了进一步优化。其中，与上述各实施例相同或相应的术语的解释在此不再赘述。

参见图2，本实施例提供的应用于分布式节点的分布式限流方法包括：

S210、获取待处理请求，并依据待处理请求的请求信息，确定请求令牌数。

S220、依据请求令牌数向限流服务端发送RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌。

限流服务端中的令牌桶算法模块采用Google开源工具包Guava提供的基于令牌桶算法的限流工具类RateLimiter实现，并且提供了两个调用接口，即double acquire(intpermits)以及tryAcquire(int permits,long timeout)，其中，permits表示请求令牌数，timeout表示设定等待时间。分布式节点可以根据业务需求(如远程调用阻塞的时间设置的灵活性)，以请求令牌数(和设定等待时间)为函数输入参数，调用接口函数acquire(intpermits)(或tryAcquire(int permits,long timeout))，生成并向限流服务端发送RPC请求。

S203、若响应结果为获取到请求令牌数的令牌，则执行待处理请求。

S204、若响应结果为设定时间内未获取到请求令牌数的令牌，则在确定待处理请求对应的业务等级为高等级的情况下，确定RPC请求次数是否超过预设次数。

其中，RPC请求次数是指向限流服务端发送RPC请求的次数。预设次数是指预先设定的远程过程调用的允许次数。

如果一次RPC请求的响应结果是未获取到令牌，那么需要根据待处理请求确定其对应的待处理业务的业务等级。如果业务等级是高等级，则该待处理请求是重要请求，需要尽量执行。此时，分布式节点需要判断该待处理请求对应的RPC请求的RPC请求次数是否超过预设次数。之后执行S250或S260。

S250、若RPC请求次数未超过预设次数，则返回执行S220。

如果RPC请求次数未超过预设次数，说明可以继续获取令牌，返回S220的步骤。

S260、若RPC请求次数超过预设次数，则缓存或者丢弃待处理请求。

如果RPC请求次数超过预设次数，说明远程过程调用限流服务的请求次数已达上限，不能再发送RPC请求，此时将待处理请求缓存或丢弃。若是缓存，则等待一段时间后，或者根据业务量继续请求获取令牌。

S270、若响应结果为设定时间内未获取到请求令牌数的令牌，则在待处理请求对应的业务等级为低等级的情况下，缓存或者丢弃待处理请求。

如果未获取到令牌，并且待处理请求对应的业务等级为低等级，说明该待处理请求不是重要请求，为了提高业务处理效率和限流效率，可直接缓存或者丢弃待处理请求，而不进行获取令牌的重复请求过程。

本实施例的技术方案，通过若响应结果为设定时间内未获取到请求令牌数的令牌，则在待处理请求对应的业务等级为低等级的情况下，缓存或者丢弃待处理请求。实现了低等级的待处理请求的处理操作，避免了不重要的待处理请求过多占用资源，提高了分布式节点的请求处理效率，且进一步提高了分布式限流效率。通过若响应结果为设定时间内未获取到请求令牌数的令牌，则在确定待处理请求对应的业务等级为高等级的情况下，确定RPC请求次数是否超过预设次数；若否，则返回执行依据待处理请求，向限流服务端发送远程过程调用RPC请求的步骤。实现了高等级的待处理请求的处理操作，尽可能地确保重要的待处理请求的执行，在提高了分布式限流的合理性的基础上，进一步兼顾请求处理的高效性。

实施例三

本实施例提供的应用于限流服务端的分布式限流方法，可适用于分布式系统的访问限流。该方法可以由配置于限流服务端中的分布式限流装置来执行，该装置可以由软件和/或硬件的方式实现，该装置可以集成在限流服务端对应的电子设备中，例如台式电脑或服务器等。其中，与上述各实施例相同或相应的术语的解释在此不再赘述。

参见图3，本实施例的应用于限流服务端的分布式限流方法具体包括：

S310、接收分布式节点发送的远程过程调用RPC请求，并依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌。

限流服务端中的令牌桶算法模块采用Google开源工具包Guava提供的基于令牌桶算法的限流工具类RateLimiter实现，例如通过RateLimiter rateLimiter＝RateLimiter.create(限流值)，实现com.google.common.util.concurrent.RateLimiter，构建添加令牌方法。这里的限流值是令牌桶中可存储令牌的上限值。

限流服务端在接收到分布式节点发送的RPC请求，如调用接口函数acquire(intpermits)而生成的RPC请求，便解析RPC请求获得请求令牌数。然后，限流服务端一直阻塞，调用令牌获取服务来获取令牌桶算法模块产生的令牌，直至获取到请求令牌数的令牌。如果请求超时时间达到之前获取到足够数量的令牌，则将请求令牌数的令牌返回至分布式节点，作为响应结果。如果阻塞时长达到远程过程调用的请求超时时间，但仍未获取到请求令牌数的令牌，那么限流服务端会向分布式节点反馈远程过程调用错误信息，该错误信息便作为RPC请求的响应结果，表示在设定时间内未获取到请求令牌数的令牌。需要说明的是，以开源分布式服务框架dubbo为例，请求超时时间的全局配置可示例为：<dubbo:consumertimeout＝“根据业务需求设定的请求超时时间”></dubbo:consumer>。

限流服务端在接收到分布式节点发送的RPC请求，如调用接口函数tryAcquire(int permits,long timeout)而生成的RPC请求，便解析RPC请求获得请求令牌数和设定等待时长。然后，限流服务端调用令牌获取服务来获取令牌桶算法模块产生的令牌。如果在设定等待时长内，获取到请求令牌数的令牌，则将令牌作为响应结果返回至分布式节点。如果设定等待时长达到，仍未获取到请求令牌数的令牌，那么限流服务端会向分布式节点反馈远程过程调用错误信息，该错误信息便作为RPC请求的响应结果，表示在设定时间内未获取到请求令牌数的令牌。

S320、将令牌获取结果作为对RPC请求的响应结果发送至分布式节点，以使分布式节点依据响应结果确定是否执行RPC请求对应的待处理请求。

本实施例的技术方案，通过接收分布式节点发送的远程过程调用RPC请求，并依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；将令牌获取结果作为对RPC请求的响应结果发送至分布式节点，以使分布式节点依据响应结果确定是否执行RPC请求对应的待处理请求。实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

实施例四

本实施例提供一种分布式限流系统，参见图4，该系统具体包括：至少两个分布式节点420和限流服务器410，其中，

分布式节点420，用于获取待处理请求，并依据待处理请求，向限流服务器发送远程过程调用RPC请求，以及依据限流服务器对RPC请求的响应结果，确定是否执行待处理请求；

限流服务器410，独立于分布式节点，且与分布式节点远程通信连接，用于依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌，并将令牌获取结果作为对RPC请求的响应结果发送至分布式节点。

参见图5，以一个分布式节点420与限流服务器410之间的交互为例，限流过程为：分布式节点420获取待处理请求后，便根据待处理请求生成RPC请求，并将其发送至限流服务器410。限流服务器410调用其内的令牌获取服务来获取令牌桶算法模块产生的令牌，执行获取令牌逻辑，并将令牌获取结果作为响应结果返回至分布式节点420。分布式节点420根据响应结果中是否包含请求令牌数的令牌来确定是否执行待处理请求。

可选地，分布式节点420包括：

请求令牌数确定模块，用于依据待处理请求的请求信息，确定请求令牌数；

RPC请求发送模块，用于依据请求令牌数向限流服务端发送RPC请求。

进一步地，请求令牌数确定模块具体用于：

依据待处理请求的目标请求类型、以及请求类型与令牌数的对应关系，确定请求令牌数。

可选地，分布式节点420包括：

请求执行模块，用于若响应结果为获取到请求令牌数的令牌，则执行待处理请求；

请求处理操作确定模块，用于若响应结果为设定时间内未获取到请求令牌数的令牌，则依据待处理请求对应的业务等级，确定对待处理请求的处理操作。

其中，设定时间为远程过程调用RPC请求的请求超时时间，或者RPC请求中的设定等待时间。

进一步地，请求处理操作确定模块具体用于：

在确定待处理请求对应的业务等级为高等级的情况下，确定RPC请求次数是否超过预设次数；

若否，则返回执行依据待处理请求，向限流服务端发送远程过程调用RPC请求的步骤。

可选地，请求处理操作确定模块具体用于：

在待处理请求对应的业务等级为低等级的情况下，缓存或者丢弃待处理请求。

通过本发明实施例四的一种分布式限流系统，实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

实施例五

本实施例提供一种分布式限流装置，配置于分布式节点，参见图6，该装置具体包括：

远程过程调用RPC请求发送模块610，用于获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

请求处理模块620，用于依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。

可选地，远程过程调用RPC请求发送模块610包括：

请求令牌数确定子模块，用于依据待处理请求的请求信息，确定请求令牌数；

RPC请求发送子模块，用于依据请求令牌数向限流服务端发送RPC请求。

进一步地，请求令牌数确定子模块具体用于：

依据待处理请求的目标请求类型、以及请求类型与令牌数的对应关系，确定请求令牌数。

可选地，请求处理模块620包括：

请求执行子模块，用于若响应结果为获取到请求令牌数的令牌，则执行待处理请求；

请求处理操作确定子模块，用于若响应结果为设定时间内未获取到请求令牌数的令牌，则依据待处理请求对应的业务等级，确定对待处理请求的处理操作。

其中，设定时间为远程过程调用RPC请求的请求超时时间，或者RPC请求中的设定等待时间。

进一步地，请求处理操作确定子模块具体用于：

在确定待处理请求对应的业务等级为高等级的情况下，确定RPC请求次数是否超过预设次数；

若否，则返回执行依据待处理请求，向限流服务端发送远程过程调用RPC请求的步骤。

可选地，请求处理操作确定子模块具体用于：

在待处理请求对应的业务等级为低等级的情况下，缓存或者丢弃待处理请求。

通过本发明实施例五的一种配置于分布式节点的分布式限流装置，实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

本发明实施例所提供的配置于分布式节点的分布式限流装置可执行本发明任意实施例所提供的应用于分布式节点的分布式限流方法，具备执行方法相应的功能模块和有益效果。

实施例六

本实施例提供一种配置于限流服务端的分布式限流装置，参见图7，该装置具体包括：

令牌获取模块710，用于接收分布式节点发送的远程过程调用RPC请求，并依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

响应结果发送模块720，用于将令牌获取结果作为对RPC请求的响应结果发送至分布式节点，以使分布式节点依据响应结果确定是否执行RPC请求对应的待处理请求。

可选地，令牌获取模块710具体用于：

依据RPC请求中的请求令牌数，在设定时间内，通过调用令牌获取服务来获取令牌桶算法模块产生的令牌。

其中，设定时间为远程过程调用RPC请求的请求超时时间，或者RPC请求中的设定等待时间。

可选地，令牌获取模块710还具体用于：

若在设定时间内获取到请求令牌数的令牌，则将令牌作为令牌获取结果；

若在设定时间内未获取到请求令牌数的令牌，则将远程过程调用错误信息作为令牌获取结果。

通过本发明实施例六的一种配置于限流服务端的分布式限流装置，实现了将只能适用于单机限流的令牌桶算法模块部署至独立的限流服务器中，进而应用于分布式系统的限流，使得分布式系统中的每个节点均通过RPC服务远程调用限流服务器中的令牌桶限流服务来获取令牌进行限流，不仅避免了Redis缓存服务的部署，而且无需自行编程实现限流方案，提高了分布式系统限流的高效性和便捷性。

本发明实施例所提供的配置于限流服务端的分布式限流装置可执行本发明任意实施例所提供的应用于限流服务端的分布式限流方法，具备执行方法相应的功能模块和有益效果。

值得注意的是，上述分布式限流装置/系统的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

实施例七

参见图8，本实施例提供了一种电子设备800，其包括：一个或多个处理器820；存储装置810，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器820执行，使得一个或多个处理器820实现本发明实施例所提供的应用于分布式节点的分布式限流方法，包括：

获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。

当然，本领域技术人员可以理解，处理器820还可以实现本发明任意实施例所提供的应用于分布式节点的分布式限流方法的技术方案。

图8显示的电子设备800仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图8所示，电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于：一个或者多个处理器820，存储装置810，连接不同系统组件(包括存储装置810和处理器820)的总线850。

总线850表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

电子设备800典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备800访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储装置810可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)811和/或高速缓存存储器812。电子设备800可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统813可以用于读写不可移动的、非易失性磁介质(图8未显示，通常称为“硬盘驱动器”)。尽管图8中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线850相连。存储装置810可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块815的程序/实用工具814，可以存储在例如存储装置810中，这样的程序模块815包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块815通常执行本发明所描述的任意实施例中的功能和/或方法。

电子设备800也可以与一个或多个外部设备860(例如键盘、指向设备、显示器870等)通信，还可与一个或者多个使得用户能与该电子设备800交互的设备通信，和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出接口(I/O接口)830进行。并且，电子设备800还可以通过网络适配器840与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图8所示，网络适配器840通过总线850与电子设备800的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备800使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理器820通过运行存储在存储装置810中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的应用于分布式节点的分布式限流方法。

本发明实施例还提供了另一电子设备，其包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现本发明实施例所提供的应用于限流服务端的分布式限流方法，包括：

接收分布式节点发送的远程过程调用RPC请求，并依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

将令牌获取结果作为对RPC请求的响应结果发送至分布式节点，以使分布式节点依据响应结果确定是否执行RPC请求对应的待处理请求。

当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的应用于限流服务端的分布式限流方法的技术方案。该电子设备的硬件结构以及功能可参见实施例七的内容解释。

实施例八

本实施例提供一种包含计算机可执行指令的存储介质，计算机可执行指令在由计算机处理器执行时用于执行一种应用于分布式节点的分布式限流方法，该方法包括：

获取待处理请求，并依据待处理请求，向限流服务端发送远程过程调用RPC请求，以使限流服务端依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

依据限流服务端对RPC请求的响应结果，确定是否执行待处理请求。

当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上的方法操作，还可以执行本发明任意实施例所提供的应用于分布式节点的分布式限流方法中的相关操作。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

本发明实施例还提供了另一种计算机可读存储介质，计算机可执行指令在由计算机处理器执行时用于执行一种应用于限流服务端的分布式限流方法，该方法包括：

接收分布式节点发送的远程过程调用RPC请求，并依据RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

将令牌获取结果作为对RPC请求的响应结果发送至分布式节点，以使分布式节点依据响应结果确定是否执行RPC请求对应的待处理请求。

当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上的方法操作，还可以执行本发明任意实施例所提供的应用于限流服务端的分布式限流方法中的相关操作。对存储介质的介绍可参见实施例八中的内容解释。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (13)

1.一种分布式限流方法，其特征在于，应用于分布式节点，包括：

获取待处理请求，并依据所述待处理请求，向限流服务端发送远程过程调用RPC请求，以使所述限流服务端依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求。

2.根据权利要求1所述的方法，其特征在于，依据所述待处理请求，向限流服务端发送远程过程调用RPC请求包括：

依据所述待处理请求的请求信息，确定请求令牌数；

依据所述请求令牌数向所述限流服务端发送所述RPC请求。

3.根据权利要求2所述的方法，其特征在于，依据所述待处理请求的请求信息，确定请求令牌数包括：

依据所述待处理请求的目标请求类型、以及请求类型与令牌数的对应关系，确定所述请求令牌数。

4.根据权利要求1所述的方法，其特征在于，依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求包括：

若所述响应结果为获取到请求令牌数的令牌，则执行所述待处理请求；

若所述响应结果为设定时间内未获取到所述请求令牌数的令牌，则依据所述待处理请求对应的业务等级，确定对所述待处理请求的处理操作。

5.根据权利要求4所述的方法，其特征在于，依据所述待处理请求对应的业务等级，确定对所述待处理请求的处理操作包括：

在确定所述待处理请求对应的业务等级为高等级的情况下，确定RPC请求次数是否超过预设次数；

若否，则返回执行所述依据所述待处理请求，向限流服务端发送远程过程调用RPC请求的步骤。

6.根据权利要求4所述的方法，其特征在于，依据所述待处理请求对应的业务等级，确定对所述待处理请求的处理操作包括：

在所述待处理请求对应的业务等级为低等级的情况下，缓存或者丢弃所述待处理请求。

7.根据权利要求4所述的方法，其特征在于，所述设定时间为远程过程调用RPC请求的请求超时时间，或者所述RPC请求中的设定等待时间。

8.一种分布式限流方法，其特征在于，应用于限流服务端，包括：

接收分布式节点发送的远程过程调用RPC请求，并依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点，以使所述分布式节点依据所述响应结果确定是否执行所述RPC请求对应的待处理请求。

9.一种分布式限流装置，其特征在于，配置于分布式节点，包括：

远程过程调用RPC请求发送模块，用于获取待处理请求，并依据所述待处理请求，向限流服务端发送远程过程调用RPC请求，以使所述限流服务端依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

请求处理模块，用于依据所述限流服务端对所述RPC请求的响应结果，确定是否执行所述待处理请求。

10.一种分布式限流装置，其特征在于，配置于限流服务端，包括：

令牌获取模块，用于接收分布式节点发送的远程过程调用RPC请求，并依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌；

响应结果发送模块，用于将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点，以使所述分布式节点依据所述响应结果确定是否执行所述RPC请求对应的待处理请求。

11.一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的应用于分布式节点的分布式限流方法，或者如权利要求8所述的应用于限流服务端的分布式限流方法。

12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述应用于分布式节点的分布式限流方法，或者如权利要求8所述的应用于限流服务端的分布式限流方法。

13.一种分布式限流系统，其特征在于，所述系统包括：至少两个分布式节点和限流服务器，其中，

所述分布式节点，用于获取待处理请求，并依据所述待处理请求，向所述限流服务器发送远程过程调用RPC请求，以及依据所述限流服务器对所述RPC请求的响应结果，确定是否执行所述待处理请求；

所述限流服务器，独立于所述分布式节点，且与所述分布式节点远程通信连接，用于依据所述RPC请求通过调用令牌获取服务来获取令牌桶算法模块产生的令牌，并将令牌获取结果作为对所述RPC请求的响应结果发送至所述分布式节点。

Images