CN109995669A - 分布式限流方法、装置、设备及可读存储介质 - Google Patents
分布式限流方法、装置、设备及可读存储介质 Download PDFInfo
- Publication number
- CN109995669A CN109995669A CN201910291836.4A CN201910291836A CN109995669A CN 109995669 A CN109995669 A CN 109995669A CN 201910291836 A CN201910291836 A CN 201910291836A CN 109995669 A CN109995669 A CN 109995669A
- Authority
- CN
- China
- Prior art keywords
- server
- current
- follower
- leader
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 238000003860 storage Methods 0.000 title claims abstract description 15
- 238000009826 distribution Methods 0.000 claims abstract description 77
- 230000008569 process Effects 0.000 claims abstract description 27
- 230000001360 synchronised effect Effects 0.000 claims abstract description 21
- 238000011010 flushing procedure Methods 0.000 claims description 10
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000012544 monitoring process Methods 0.000 abstract description 5
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 239000004744 fabric Substances 0.000 description 4
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 2
- 238000005315 distribution function Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 101150029234 Hes5 gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/20—Traffic policing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/215—Flow control; Congestion control using token-bucket
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种分布式限流方法，包括：在应用群集服务器启动时，确定领袖服务器；控制追随者服务器向领袖服务器汇报当前运行信息；控制领袖服务器基于当前运行信息将限流额度分配至各个追随者服务器；控制各个追随者服务器在接收到限流额度后，基于当前应用进程获取频次额度，将频次额度同步至本地缓存，并基于频次额度进行频次限流控制。本发明还公开了一种分布式限流装置、设备和一种存储介质。本发明通过领袖服务器进行限流额度分配，跟随者服务器只负责监听，所以在数据库Redis配置管理端无计算竞争消耗时长；跟随者服务器在执行控制的过程中无需每次访问数据库Redis配置管理端，相比一次一访问的方式网络开销要小很多。
Description
技术领域
本发明涉及金融科技(Finteh)技术领域，尤其涉及金融行业的分布式限流方法、装置、设备及可读存储介质。
背景技术
随着计算机技术的发展，越来越多的技术应用在金融领域，传统金融业正在逐步向金融科技(Finteh)转变，越来越多的技术应用于金融行业，但由于金融行业的安全性及实时性要求，也对技术提出的更高的要求。目前，采用多台计算机组成一个分布式服务系统可以为用户提供比传统的集中式系统更好的服务，特别是可以克服主机资源紧张和响应瓶颈的缺陷，更好地实现任务的分配与优化。可实现调用、监听服务、提供远程通信与信息交换的分布式系统很多，如阿里巴巴旗下开源的分布式服务框架dubbo、开源软件ApacheHadoop的分布式服务框架协调组件Zookeeper等，采用的框架均是Java版本的。
在多台相同的服务器需要执行一系列的任务方法时，这些方法往往作为生产者的身份而存在，这些生产者产生最新数据写入缓存服务器或消息队列，以供后续消费者进行消费。而往往在实际应用的过程中，由于生产者生产数据逻辑往往较为单一，导致这些生产者产生数据的速率往往会超过消费者消费的速率，为了使消费者端不至于过载，通常会使用限流方案。
现有的限流方案可以分为两种，一种是针对每个应用服务单独配置限流额度，每个应用限流额度加总为整体应用的限额度；另一种是使用分布式缓存中间件如数据库Redis，在数据库Redis中设置一个基于总限流额度的令牌桶，每个应用服务器在执行受控方法时去数据库Redis中获取一个或多个令牌，根据拿到的令牌数量来控制受控方法的执行次数。
然而，上述两种限流方式存在以下缺陷：
1、单机限流的方案存在静态配置的问题；相对于分布式的限流控制，纯单机的限流在配置上较为不灵活，往往都是做静态配置，也就是在项目部署时为每台应用服务器配置固定的额度，并且在应用运行过程中不易动态调整每台机器的限流额度；
2、基于数据库Redis等分布式中间件的令牌桶算法限流方案虽然能够动态调整每台机器的执行频率，并且能够精准的控制多台机器的执行频率，但是往往效率比单机限流低，一是存在分布式锁的高频竞争，二是获得令牌的网络开销较大。
发明内容
本发明的主要目的在于提出一种分布式限流方法、装置、设备及可读存储介质，旨在解决现有技术中动态调整每台服务器的执行频率时效率低，且网络开销大的问题。
为实现上述目的，本发明提供一种分布式限流方法，其特征在于，所述分布式限流方法包括如下步骤：
在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器；
控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
优选地，所述控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器的步骤包括：
控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
优选地，所述控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制的步骤包括：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
优选地，所述控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制的步骤之后，所述分布式限流方法还包括：
控制所述领袖服务器以第一预设时间间隔分配当前集群服务器的限流额度，并控制所述跟随者服务器以第二预设时间间隔刷新所述限流额度，其中所述第二预设时间间隔小于所述第一预设时间间隔；
或；
控制本地缓存由所述领袖服务器广播每个所述跟随者服务器当前限流额度配置。
优选地，所述控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制的步骤之后，所述分布式限流方法还包括：
通过配置管理注册任务；
控制所述跟随者服务器基于所述频次额度执行所述任务；
在所述任务执行完毕时，通过配置管理注销所述任务。
优选地，所述在应用群集服务器启动时，确定领袖服务器的步骤包括：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
优选地，所述基于所述频次额度进行频次限流控制的步骤包括：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
此外，为实现上述目的，本发明还提供一种分布式限流装置，所述分布式限流装置包括：
选举模块，用于在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
上传模块，用于控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
额度分配模块，用于控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器；
限流控制模块，用于控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
优选地，所述额度分配模块还包括：
第一转化单元，用于控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
额度分配单元，用于控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
优选地，所述限流控制模块还用于：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
优选地，所述选举模块还用于：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
优选地，所述限流控制模块还用于：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
此外，为实现上述目的，本发明还提供一种分布式限流设备，所述分布式限流设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的分布式限流程序，所述分布式限流程序被所述处理器执行时实现如上所述的分布式限流方法的步骤。
此外，为实现上述目的，本发明还提供一种可读存储介质，所述可读存储介质上存储有分布式限流程序，所述分布式限流程序被处理器执行时实现如上所述的分布式限流方法的步骤。
本发明提出的分布式限流方法，首先，通过在应用群集服务器中确定领袖服务器，通过领袖服务器进行限流额度分配，跟随者服务器只负责监听，所以在Redis配置管理端无计算竞争消耗时长；其次，跟随者服务器在执行控制的过程中无需每次访问Redis配置管理端，相比一次一访问的方式网络开销要小很多；再者，跟随者服务器的频次额度刷新使用异步线程更新，任务执行的线程将不会有这部分的网络开销延迟。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的设备结构示意图；
图2为本发明分布式限流方法第一实施例的流程示意图；
图3为本发明分布式限流方法第一实施例的的结构示意图；
图4为本发明实施例中当前运行信息的结构示意图；
图5为本发明实施例中第一配置结构的示意图；
图6为本发明实施例中第二配置结构的示意图；
图7为本发明分布式限流装置的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
如图1所示，图1是本发明实施例方案涉及的硬件运行环境的设备结构示意图。
本发明实施例终端可以是PC机或服务器设备。
如图1所示，该终端可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard)，可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解，图1中示出的设备结构并不构成对设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图1所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及分布式限流程序。
在图1所示的设备中，网络接口1004主要用于连接见证参与方节点，与见证参与方节点进行数据通信；用户接口1003主要用于连接客户端(用户端)，与客户端进行数据通信；而处理器1001可以用于调用存储器1005中存储的分布式限流程序，并执行下述分布式限流方法各个实施例中的操作。
基于上述硬件结构，提出本发明分布式限流方法实施例。
参照图2，图2为本发明分布式限流方法第一实施例的流程示意图，所述方法包括：
步骤S10，在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
本实施例分布式限流方法应用于Java平台，在应用群集服务器启动时，进行领袖服务器选举，当然，应用群集服务器中任一台应用服务器都能选举成为领袖服务器，并且，应用群集服务器中所有的应用服务器均为追随者服务器。
领袖服务器，即Leader服务器，主要负责限流额度的配置管理；跟随者服务器，即Follower服务器，主要负责监听最新的额度配置，根据领袖服务器给自己分配的额度进行单机的限流控制。
具体地，选举方式有两种，一种是基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器，另一种是基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。其中，Redis是一种基于内存的键值对存储数据库，因此，基于Redis分布式选举方式为基于内存的键值对存储数据库方式；Zookeeper是一种分布式的应用协调服务，可以提供诸如分布式服务配置以及分布式锁等功能。如图3所示，通过Redis或Zookeeper方式都能确定领袖服务器，将应用服务器1选举为领袖服务器，则应用服务器1、2和3均为跟随者服务器，各个跟随者服务器拉取数据源，处理后输出至本地缓存或消息队列中，消息队列是消息传输过程中保存消息的容器，是分布式系统的重要组件；并且，通过数据库Redis配置管理，实现领袖服务器对各个跟随者服务器的额度配置。
通过两种方式，均能在应用群集服务器中确定领袖服务器，负责限流额度的配置管理，且跟随者服务器只负责监听，因此，在Redis配置管理端无计算竞争消耗时长。
步骤S20，控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
该步骤中，在确定了领袖服务器之后，应用群集服务器中所有的应用服务器均为跟随者服务器，为了使领袖服务器能够知道集群中应用运行的状态统计，因此，控制各个追随者服务器主动汇报当前运行信息，当前运行信息包括当前应用编号、当前运行的任务数以及任务属性。
比如，有三台应用服务器1、2、3，并且有三种不同的优先级，且共享限流控制的任务1、2、3，三台应用服务器输出的总频控要求为30000次/秒，其中任务3优先级最高，任务1优先级最低，任务1、2和3最大占用限流频次为20000、20000和30000。如图4所示，假设当前时刻，当前运行信息具体为：任务1在应用1、2和3上的运行数量分别为15、5和5；任务2在应用1和应用2上的运行数量分别为10和10；任务3在应用1和应用3上的运行数量分别为10和5。
因此，跟随者服务器需要将上述当前运行信息主动上传给领袖服务器，使得领袖服务器能够得知上述当前运行信息，以便于领袖服务器能够根据当前运行信息进行限流额度分配。
步骤S30，控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器。
该步骤中，在跟随者服务器将上述当前运行信息主动汇报到领袖服务器时，领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器。
首先，领袖服务器根据上述当前运行信息将额度分配转化为第一配置结构，包括各个任务对应的跟随者服务器的频次分配。再者，领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
步骤S40，控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
该步骤中，在各个追随者服务器接收到限流额度后，根据当前应用进程获取自身的频次额度，同时，将自身的频次额度同步至本地缓存中，并且，基于频次额度进行频次限流控制。具体为：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
如图5所示，由于任务3的优先级最高，所述任务3会先占用其中的20000额度，并按照任务数量比例进行分配；任务2优先级次之，所以会占用剩下的10000额度，并且根据任务数量等分；任务1由于没有剩下的额度，所以暂时没有额度。频次额度在同步到本地缓存后，本地缓存会将第一配置结构转换为第二配置结构。
第二配置结构如图6所示，在应用服务器1的应用进程1中，任务1的频次为0，任务2的频次为5000，任务3的频次为13333；在应用服务器2的应用进程2中，任务1的频次为0，任务2的频次为5000；在应用服务器3的应用进程3中，任务1的频次为0，任务3的频次为6667。
本发明提出的分布式限流方法，首先，通过在应用群集服务器中确定领袖服务器，通过领袖服务器进行限流额度分配，跟随者服务器只负责监听，所以在Redis配置管理端无计算竞争消耗时长；其次，跟随者服务器在执行控制的过程中无需每次访问Redis配置管理端，相比一次一访问的方式网络开销要小很多；再者，跟随者服务器的频次额度刷新使用异步线程更新，任务执行的线程将不会有这部分的网络开销延迟。
进一步地，基于本发明分布式限流方法第一实施例，提出本发明分布式限流方法第二实施例。
在本实施例中，上述步骤S30可以包括：
控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
具体地，领袖服务器根据上述当前运行信息将额度分配转化为第一配置结构，包括各个任务对应的跟随者服务器的频次分配。再者，领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。如图5所示，由于任务3的优先级最高，所述任务3会先占用其中的20000额度，并按照任务数量比例进行分配；任务2优先级次之，所以会占用剩下的10000额度，并且根据任务数量等分；任务1由于没有剩下的额度，所以暂时没有额度。频次额度在同步到本地缓存后，本地缓存会将第一配置结构转换为第二配置结构。
通过领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构的方式，实现领袖服务器对各个跟随者服务器对应的限流额度的分配。
进一步地，基于本发明分布式限流方法第二实施例，提出本发明分布式限流方法第三实施例。
在本实施例中，上述步骤S40可以包括：获取所述目标文件对应的合法企业证书；
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
在本实施例中，控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构。
当前应用进程如图4所示，任务1在应用1、2和3的跟随者服务器上的运行数量分别为15、5和5；任务2在应用1和应用2上的运行数量分别为10和10；任务3在应用1和应用3上的运行数量分别为10和5。
如图5所示，由于任务3的优先级最高，所述任务3会先占用其中的20000额度，并按照任务数量比例进行分配；任务2优先级次之，所以会占用剩下的10000额度，并且根据任务数量等分；任务1由于没有剩下的额度，所以暂时没有额度。频次额度在同步到本地缓存后，本地缓存会将第一配置结构转换为第二配置结构。
第二配置结构如图6所示，在应用服务器1的应用进程1中，任务1的频次为0，任务2的频次为5000，任务3的频次为13333；在应用服务器2的应用进程2中，任务1的频次为0，任务2的频次为5000；在应用服务器3的应用进程3中，任务1的频次为0，任务3的频次为6667。
进一步地，步骤S40之后，本发明还可以包括：控制所述领袖服务器以第一预设时间间隔分配当前集群服务器的限流额度，并控制所述跟随者服务器以第二预设时间间隔刷新所述限流额度，其中所述第二预设时间间隔小于所述第一预设时间间隔；
或；
控制本地缓存由所述领袖服务器广播每个所述跟随者服务器当前限流额度配置。
在本实施例中，追随者服务器需要定期同步“Redis配置管理”中的由领袖服务器所维护的限流额度配置信息，用于更新本地的限流信息。可以使用如下两种模式：
一种是领袖服务器以T1的第一预设时间间隔定期分配当前集群的限流额度，追随者服务器以T2的第二预设时间间隔定期刷新限额额度配置，T2<T1；
另一种是使用本地缓存/消息队列由领袖服务器广播每个追随者服务器当前限流额度配置被更新。
上述这两种模式都将大大降低由分布式令牌桶限流模式所带来的令牌获取网络开销。
进一步地，步骤S40之后，本发明还可以包括：
通过配置管理注册任务；
控制所述跟随者服务器基于所述频次额度执行所述任务；
在所述任务执行完毕时，通过配置管理注销所述任务。
在本实施例中，当一个任务通过绑定一个线程运行时，在真正执行任务时向“数据库Redis配置管理”注册任务，并在任务结束时进行注销，即该线程开始运行的时候，会往数据库Redis发送一条记录，登记自己为运行状态，也就是数量+1。
进一步地，步骤10可以包括：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
本实施例中，选举方式有两种，一种是基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器，另一种是基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。其中，Redis是一种基于内存的键值对存储数据库，因此，基于数据库Redis分布式选举方式为基于内存的键值对存储数据库方式；Zookeeper是一种分布式的应用协调服务，可以提供诸如分布式服务配置以及分布式锁等功能。如图3所示，通过Redis或Zookeeper方式都能确定领袖服务器，将应用服务器1选举为领袖服务器，则应用服务器1、2和3均为跟随者服务器，各个跟随者服务器拉取数据源，处理后输出至本地缓存或消息队列中，消息队列是消息传输过程中保存消息的容器，是分布式系统的重要组件；并且，通过Redis配置管理，实现领袖服务器对各个跟随者服务器的额度配置。
进一步地，步骤S40还可以包括：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
在本实施例中，在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。实际的限流功能，如限流时是使用基于容器LongAdder的刷新策略还是使用基于限流工具RateLimiter的令牌桶策略；过载时是使用线程阻塞策略还是使用拒绝策略，其中，拒绝策略即如果任务发现受限而不能执行，则可以选择抛弃本次执行，向外抛出信息，或者选择等待直到可以执行为止。
令牌桶策略一种算法，是网络流量整形和速率限制中最常用的一种算法。典型情况下，令牌桶算法用来控制发送到网络上的数据的数目，并允许突发数据的发送。
以应用服务器1分配到100次/秒的执行频率为例，容器LongAdder是一种线程安全的Java类型，常用做高并发环境下的数量统计及累计的容器，具体为：任务首先检查执行开关是否打开，如果打开，则执行；任务每执行一次就向容器LongAdder中累加1次，由另一个辅助线程每100毫秒检查容器LongAdder是否超过100，如果超过，则执行开关关闭，直到下一秒打开开关；限流工具RateLimiter是谷歌开源的基于令牌桶算法的限流软件工具，具体为：将本地的限流工具RateLimiter设置为100次/秒，应用服务器1每执行一次任务动作，就向限流工具RateLimiter拿令牌，拿到则执行任务。
本发明还提供一种分布式限流装置。如图7所示，本发明所述分布式限流装置包括：
选举模块，负责应用集群中的领袖选举功能，用于在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
上传模块，用于控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
额度分配模块，负责限流额度的分配功能，包含额度分配的算法实现，用于控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器；
限流控制模块，负责实际的限流功能，如限流时是使用基于容器LongAdder的刷新策略还是使用基于限流工具RateLimiter的令牌桶策略；过载时是使用线程阻塞策略还是使用拒绝策略，用于控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
进一步地，第一转化单元，用于控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
额度分配单元，负责限流额度的分配功能，包含额度分配的算法实现，用于控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
进一步地，所述限流控制模块还用于：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
进一步地，所述分布式限流装置还包括：
健康汇报模块，负责应用集群中各应用实例的健康汇报以及保障整体功能不会因单点故障而崩溃，用于对所述当前应用进程进行实时健康汇报；
代理模块，用于通过配置管理注册任务，控制所述跟随者服务器基于所述频次额度执行所述任务，且在所述任务执行完毕时，通过配置管理注销所述任务。
线程/线程池模块：负责底层的线程基础功能，携带任务名称，总限流配额，优先级等属性，提供统一的线程运行环境以及每种类型任务的特殊线程池。并且将提供基本的任务注册和注销功能。
配置模块：负责初始化及运行时的各类参数配置功能，以及与spring框架的集成功能。
注解模块：提供各类即插即用的注解，用来为限流功能设置切面或字节码织入式的代理。
进一步地，选举模块包括中间适配件模块，负责与各类分布式中间件的适配功能，如选举时是使用数据库Redis还是使用协调组件Zookeeper；所述选举模块还用于：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
进一步地，所述限流控制模块还用于：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
本发明还提供一种计算机可读存储介质。
本发明计算机可读存储介质上存储有分布式限流程序，所述分布式限流程序被处理器执行时实现如上所述的分布式限流方法的步骤。
其中，在所述处理器上运行的分布式限流程序被执行时所实现的方法可参照本发明分布式限流方法各个实施例，此处不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。
Claims (14)
1.一种分布式限流方法，其特征在于，所述分布式限流方法包括如下步骤：
在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器；
控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
2.如权利要求1所述的分布式限流方法，其特征在于，所述控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器的步骤包括：
控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
3.如权利要求2所述的分布式限流方法，其特征在于，所述控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制的步骤包括：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
4.如权利要求3所述的分布式限流方法，其特征在于，所述控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制的步骤之后，所述分布式限流方法还包括：
控制所述领袖服务器以第一预设时间间隔分配当前集群服务器的限流额度，并控制所述跟随者服务器以第二预设时间间隔刷新所述限流额度，其中所述第二预设时间间隔小于所述第一预设时间间隔；
或；
控制本地缓存由所述领袖服务器广播每个所述跟随者服务器当前限流额度配置。
5.如权利要求3所述的分布式限流方法，其特征在于，所述控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制的步骤之后，所述分布式限流方法还包括：
通过配置管理注册任务；
控制所述跟随者服务器基于所述频次额度执行所述任务；
在所述任务执行完毕时，通过所述配置管理注销所述任务。
6.如权利要求1至5中任一项所述的分布式限流方法，其特征在于，所述在应用群集服务器启动时，确定领袖服务器的步骤包括：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
7.如权利要求1所述的分布式限流方法，其特征在于，所述基于所述频次额度进行频次限流控制的步骤包括：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
8.一种分布式限流装置，其特征在于，所述分布式限流装置包括：
选举模块，用于在应用群集服务器启动时，确定领袖服务器，其中，所述应用群集服务器中所有的服务器均为追随者服务器；
上传模块，用于控制所述追随者服务器向所述领袖服务器上传所述当前运行信息；
额度分配模块，用于控制所述领袖服务器基于当前运行信息将限流额度分配至各个所述追随者服务器；
限流控制模块，用于控制各个所述追随者服务器在接收到所述限流额度后，基于当前应用进程获取频次额度，将所述频次额度同步至本地缓存，并基于所述频次额度进行频次限流控制。
9.如权利要求8所述的分布式限流装置，其特征在于，所述额度分配模块还包括：
第一转化单元，用于控制所述领袖服务器基于所述当前运行信息将限流额度分配转化为第一配置结构；
额度分配单元，用于控制所述领袖服务器基于所述第一配置结构将所述限流额度分配至对应的所述跟随者服务器。
10.如权利要求9所述的分布式限流装置，其特征在于，所述限流控制模块还用于：
控制所述跟随者服务器在接收到所述限流额度后，基于所述当前应用进程获取所述频次额度，并将所述第一配置结构及所述频次额度同步至所述本地缓存；
控制所述本地缓存基于所述频次额度将所述第一配置结构转换为第二配置结构，以供各个所述跟随者服务器基于所述第二配置结构进行限流控制。
11.如权利要求8至10中任一项所述的分布式限流装置，其特征在于，所述选举模块还用于：
在所述应用群集服务器启动时，确定选举方式；
若选举方式为数据库Redis分布式选举方式，则基于数据库Redis分布式选举方式在所述群集服务器中产生所述领袖服务器；
若选举方式为协调组件Zookeeper分布式选举方式，则基于协调组件Zookeeper分布式选举方式在所述群集服务器中产生所述领袖服务器。
12.如权利要求8所述的分布式限流装置，其特征在于，所述限流控制模块还用于：
在各个所述追随者服务器获取各自的所述频次额度后，确定限流方式；
若所述限流方式为基于容器LongAdder的刷新策略，则基于容器LongAdder的刷新策略进行限流控制；
若所述限流方式为基于限流工具RateLimiter的令牌桶策略，则基于限流工具RateLimiter的令牌桶策略进行限流控制。
13.一种分布式限流设备，其特征在于，所述分布式限流设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的分布式限流程序，所述分布式限流程序被所述处理器执行时实现如权利要求1至7中任一项所述的分布式限流方法的步骤。
14.一种可读存储介质，其特征在于，所述可读存储介质上存储有分布式限流程序，所述分布式限流程序被处理器执行时实现如权利要求1至7中任一项所述的分布式限流方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910291836.4A CN109995669B (zh) | 2019-04-09 | 2019-04-09 | 分布式限流方法、装置、设备及可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910291836.4A CN109995669B (zh) | 2019-04-09 | 2019-04-09 | 分布式限流方法、装置、设备及可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109995669A true CN109995669A (zh) | 2019-07-09 |
| CN109995669B CN109995669B (zh) | 2024-05-03 |
Family
ID=67133449
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910291836.4A Active CN109995669B (zh) | 2019-04-09 | 2019-04-09 | 分布式限流方法、装置、设备及可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109995669B (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110471884A (zh) * | 2019-08-19 | 2019-11-19 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备、系统及计算机可读存储介质 |
| CN110554918A (zh) * | 2019-08-09 | 2019-12-10 | 北京字节跳动网络技术有限公司 | 限流方法、装置、电子设备和计算机可读存储介质 |
| CN110753005A (zh) * | 2019-10-17 | 2020-02-04 | 腾讯科技（深圳）有限公司 | 限速方法、装置及系统、电子设备和计算机可读存储介质 |
| CN110753131A (zh) * | 2019-11-04 | 2020-02-04 | 网易（杭州）网络有限公司 | 微服务分布式限流方法及装置、存储介质和电子设备 |
| CN111988355A (zh) * | 2020-06-29 | 2020-11-24 | 汉海信息技术(上海)有限公司 | 限流方法、装置、服务器及服务器集群 |
| CN113923216A (zh) * | 2021-09-29 | 2022-01-11 | 阿里巴巴（中国）有限公司 | 一种分布式集群限流系统及方法和分布式集群节点 |
| CN114338535A (zh) * | 2022-01-12 | 2022-04-12 | 平安壹钱包电子商务有限公司 | 基于zookeeper的集群限流方法、系统、设备及存储介质 |
| CN114584519A (zh) * | 2022-05-05 | 2022-06-03 | 飞狐信息技术（天津）有限公司 | 一种消息中间件的限流方法及消息中间件 |
| CN115002043A (zh) * | 2022-05-30 | 2022-09-02 | 重庆长安汽车股份有限公司 | 一种基于注册中心的分布式限流方法、设备及存储介质 |
Citations (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102833289A (zh) * | 2011-06-16 | 2012-12-19 | 宁波速腾电子有限公司 | 一种分布式云计算资源组织和任务分配方法 |
| CN103200225A (zh) * | 2013-02-25 | 2013-07-10 | 汉柏科技有限公司 | 一种服务器集群中服务的集中管理方法和系统 |
| CN103905537A (zh) * | 2014-03-20 | 2014-07-02 | 冶金自动化研究设计院 | 分布式环境下管理工业实时数据存储的系统 |
| CN104767689A (zh) * | 2014-01-07 | 2015-07-08 | 腾讯科技（深圳）有限公司 | 控制网络访问接入量的方法及服务器 |
| WO2016202201A1 (zh) * | 2015-06-17 | 2016-12-22 | 阿里巴巴集团控股有限公司 | 一种资源分配方法、装置和智能电视系统 |
| US20170272371A1 (en) * | 2016-03-21 | 2017-09-21 | Alibaba Group Holding Limited | Flow control in connection with an access request |
| CN107291545A (zh) * | 2017-08-07 | 2017-10-24 | 星环信息科技（上海）有限公司 | 计算集群中多用户的任务调度方法及设备 |
| CN107562522A (zh) * | 2017-10-12 | 2018-01-09 | 国电南瑞科技股份有限公司 | 一种基于ZooKeeper的分布式应用管理方法 |
| CN107623577A (zh) * | 2016-07-14 | 2018-01-23 | 深圳市远行科技股份有限公司 | 服务调用流量控制方法及装置 |
| CN108092915A (zh) * | 2017-12-01 | 2018-05-29 | 顺丰科技有限公司 | 一种用户服务质量流量控制方法及装置 |
| CN108173938A (zh) * | 2017-12-28 | 2018-06-15 | 泰康保险集团股份有限公司 | 服务器负载分流方法及装置 |
| CN108259376A (zh) * | 2018-04-24 | 2018-07-06 | 北京奇艺世纪科技有限公司 | 服务器集群业务流量的控制方法及相关设备 |
| CN108268314A (zh) * | 2016-12-31 | 2018-07-10 | 北京亿阳信通科技有限公司 | 一种多线程任务并发处理的方法 |
| CN108632170A (zh) * | 2017-03-15 | 2018-10-09 | 北京北大众志微系统科技有限责任公司 | 一种实现带宽分配的方法及装置 |
| CN109005125A (zh) * | 2018-08-24 | 2018-12-14 | 阿里巴巴集团控股有限公司 | 动态限流方法、装置及系统 |
| CN109067841A (zh) * | 2018-07-05 | 2018-12-21 | 武汉斗鱼网络科技有限公司 | 基于ZooKeeper的服务限流方法、系统、服务器及存储介质 |
| CN109327509A (zh) * | 2018-09-11 | 2019-02-12 | 武汉魅瞳科技有限公司 | 一种主/从架构的低耦合的分布式流式计算框架 |
| CN109450806A (zh) * | 2018-10-31 | 2019-03-08 | 中国联合网络通信集团有限公司 | 一种流量控制方法及装置、分布式集群 |
| CN109587068A (zh) * | 2018-12-03 | 2019-04-05 | 深圳前海微众银行股份有限公司 | 流量切换方法、装置、设备及计算机可读存储介质 |
-
2019
- 2019-04-09 CN CN201910291836.4A patent/CN109995669B/zh active Active
Patent Citations (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102833289A (zh) * | 2011-06-16 | 2012-12-19 | 宁波速腾电子有限公司 | 一种分布式云计算资源组织和任务分配方法 |
| CN103200225A (zh) * | 2013-02-25 | 2013-07-10 | 汉柏科技有限公司 | 一种服务器集群中服务的集中管理方法和系统 |
| CN104767689A (zh) * | 2014-01-07 | 2015-07-08 | 腾讯科技（深圳）有限公司 | 控制网络访问接入量的方法及服务器 |
| CN103905537A (zh) * | 2014-03-20 | 2014-07-02 | 冶金自动化研究设计院 | 分布式环境下管理工业实时数据存储的系统 |
| WO2016202201A1 (zh) * | 2015-06-17 | 2016-12-22 | 阿里巴巴集团控股有限公司 | 一种资源分配方法、装置和智能电视系统 |
| US20170272371A1 (en) * | 2016-03-21 | 2017-09-21 | Alibaba Group Holding Limited | Flow control in connection with an access request |
| CN107623577A (zh) * | 2016-07-14 | 2018-01-23 | 深圳市远行科技股份有限公司 | 服务调用流量控制方法及装置 |
| CN108268314A (zh) * | 2016-12-31 | 2018-07-10 | 北京亿阳信通科技有限公司 | 一种多线程任务并发处理的方法 |
| CN108632170A (zh) * | 2017-03-15 | 2018-10-09 | 北京北大众志微系统科技有限责任公司 | 一种实现带宽分配的方法及装置 |
| CN107291545A (zh) * | 2017-08-07 | 2017-10-24 | 星环信息科技（上海）有限公司 | 计算集群中多用户的任务调度方法及设备 |
| CN107562522A (zh) * | 2017-10-12 | 2018-01-09 | 国电南瑞科技股份有限公司 | 一种基于ZooKeeper的分布式应用管理方法 |
| CN108092915A (zh) * | 2017-12-01 | 2018-05-29 | 顺丰科技有限公司 | 一种用户服务质量流量控制方法及装置 |
| CN108173938A (zh) * | 2017-12-28 | 2018-06-15 | 泰康保险集团股份有限公司 | 服务器负载分流方法及装置 |
| CN108259376A (zh) * | 2018-04-24 | 2018-07-06 | 北京奇艺世纪科技有限公司 | 服务器集群业务流量的控制方法及相关设备 |
| CN109067841A (zh) * | 2018-07-05 | 2018-12-21 | 武汉斗鱼网络科技有限公司 | 基于ZooKeeper的服务限流方法、系统、服务器及存储介质 |
| CN109005125A (zh) * | 2018-08-24 | 2018-12-14 | 阿里巴巴集团控股有限公司 | 动态限流方法、装置及系统 |
| CN109327509A (zh) * | 2018-09-11 | 2019-02-12 | 武汉魅瞳科技有限公司 | 一种主/从架构的低耦合的分布式流式计算框架 |
| CN109450806A (zh) * | 2018-10-31 | 2019-03-08 | 中国联合网络通信集团有限公司 | 一种流量控制方法及装置、分布式集群 |
| CN109587068A (zh) * | 2018-12-03 | 2019-04-05 | 深圳前海微众银行股份有限公司 | 流量切换方法、装置、设备及计算机可读存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| M. SIRIVIANOS, D. WESTHOFF, F. ARMKNECHT AND J. GIRAO: "Non-Manipulable Aggregator Node Election Protocols for Wireless Sensor Networks", 2007 5TH INTERNATIONAL SYMPOSIUM ON MODELING AND OPTIMIZATION IN MOBILE, AD HOC AND WIRELESS NETWORKS AND WORKSHOPS * |
| 杨宏斌: "一种分布式系统动态流量控制方法", 电子技术与软件工程, no. 2016 * |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110554918A (zh) * | 2019-08-09 | 2019-12-10 | 北京字节跳动网络技术有限公司 | 限流方法、装置、电子设备和计算机可读存储介质 |
| CN110471884A (zh) * | 2019-08-19 | 2019-11-19 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备、系统及计算机可读存储介质 |
| CN110753005A (zh) * | 2019-10-17 | 2020-02-04 | 腾讯科技（深圳）有限公司 | 限速方法、装置及系统、电子设备和计算机可读存储介质 |
| CN110753131A (zh) * | 2019-11-04 | 2020-02-04 | 网易（杭州）网络有限公司 | 微服务分布式限流方法及装置、存储介质和电子设备 |
| CN111988355A (zh) * | 2020-06-29 | 2020-11-24 | 汉海信息技术(上海)有限公司 | 限流方法、装置、服务器及服务器集群 |
| CN113923216A (zh) * | 2021-09-29 | 2022-01-11 | 阿里巴巴（中国）有限公司 | 一种分布式集群限流系统及方法和分布式集群节点 |
| CN113923216B (zh) * | 2021-09-29 | 2023-12-15 | 阿里巴巴（中国）有限公司 | 一种分布式集群限流系统及方法和分布式集群节点 |
| CN114338535A (zh) * | 2022-01-12 | 2022-04-12 | 平安壹钱包电子商务有限公司 | 基于zookeeper的集群限流方法、系统、设备及存储介质 |
| CN114338535B (zh) * | 2022-01-12 | 2023-09-22 | 平安壹钱包电子商务有限公司 | 基于zookeeper的集群限流方法、系统、设备及存储介质 |
| CN114584519A (zh) * | 2022-05-05 | 2022-06-03 | 飞狐信息技术（天津）有限公司 | 一种消息中间件的限流方法及消息中间件 |
| CN115002043A (zh) * | 2022-05-30 | 2022-09-02 | 重庆长安汽车股份有限公司 | 一种基于注册中心的分布式限流方法、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109995669B (zh) | 2024-05-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109995669A (zh) | 分布式限流方法、装置、设备及可读存储介质 | |
| Zhang et al. | Online adaptive interference-aware VNF deployment and migration for 5G network slice | |
| CN110990138B (zh) | 资源调度方法、装置、服务器及存储介质 | |
| CN106815066B (zh) | 一种定时任务调度方法、装置及系统 | |
| CN104243405B (zh) | 一种请求处理方法、装置及系统 | |
| US9760587B2 (en) | Tool for managing computer resources and infrastructures and networks | |
| CN110493067A (zh) | 一种api网关服务更新的方法及装置 | |
| US20230007662A1 (en) | Dynamic slice priority handling | |
| CN110113387A (zh) | 一种基于分布式批量处理系统的处理方法、装置及系统 | |
| JP2015522996A (ja) | 接続サービス調整器 | |
| Nguyen et al. | Toward highly scalable load balancing in kubernetes clusters | |
| US20160315817A1 (en) | Tool for managing computer resources and infrastructures and networks | |
| CN110166524A (zh) | 数据中心的切换方法、装置、设备及存储介质 | |
| US20130132546A1 (en) | Tool for managing resources and computer infrastructures and networks | |
| CN113742111B (zh) | 一种微服务rpc自适应调度方法及相关装置 | |
| WO2021129862A1 (zh) | 容器集群节点资源池的管理方法和装置 | |
| CN115858083A (zh) | 容器cpu资源调度与隔离方法和装置、存储介质及电子设备 | |
| CN108376103A (zh) | 一种云平台的资源平衡控制方法及服务器 | |
| CN115915404A (zh) | 一种基于nfv-mano的网络切片部署系统和方法 | |
| Shifrin et al. | Optimal control of VNF deployment and scheduling | |
| US20210014135A1 (en) | Wan tunnel kpi/sla prediction and schedule recommender | |
| CN110727511B (zh) | 应用程序的控制方法、网络侧设备和计算机可读存储介质 | |
| CN109413117A (zh) | 分布式数据计算方法、装置、服务器及计算机存储介质 | |
| Valls et al. | An architecture of a quality of service resource manager middleware for flexible embedded multimedia systems | |
| Lu et al. | A QoE-aware resource distribution framework incentivizing context sharing and moderate competition |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |