CN114969112A - 一种针对分布式缓存系统的流控方法、装置及电子设备 - Google Patents

Abstract

本发明提供一种针对分布式缓存系统的流控方法、装置及电子设备。方法包括：监控分布式缓存系统中第一应用接口的请求量。在指定时长内第一应用接口的请求量超出第一应用接口对应的流控阈值时，确定分布式缓存系统中具有流控阈值下调空间的第二应用接口，第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限。调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。本发明的方案能够根据各应用接口的实际请求量，对各应用接口的流控阈值进行适当幅度的上下调整，从而充分调度系统资源处理指向应用接口的请求，可提高系统资源的利率用。

Description

一种针对分布式缓存系统的流控方法、装置及电子设备

技术领域

本文件涉及信息处理技术领域，尤其涉及一种针对分布式缓存系统的流控方法、装置及电子设备。

背景技术

一般为了保护计算机系统的资源(无论是系统本身的资源，还是服务资源)，在流量异常上涨时，都需要做相应的流控处理，以避免请求堆积而导致雪崩效应发生。

目前的控流方法主要是对应用进行分类，针对每种应用配置专属的策略以执行流控。但这种方式下每种应用的流控是固定不变的，没有对系统整体资源进行合理利用。举例来说，假设某种应用在单位时间内的请求量激增，触发了其对应的流控执行条件，即便是系统当前有空闲资源能够处理该应用的请求，也需要对该应用进行限流处理。

为此，如何能够充分利用资源实现流量控制是当前亟需解决的技术问题。

发明内容

本发明实施例目的是提供一种针对分布式缓存系统的流控方法、装置及电子设，能够根据各应用接口的实际请求量，对各应用接口的流控阈值进行适当幅度的上下调整，从而充分调度系统资源处理指向应用接口的请求，可提高系统资源的利率用。

为了实现上述目的，本发明实施例是这样实现的：

第一方面，提供一种针对分布式缓存系统的流控方法，包括：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

第二方面，提供一种针对分布式缓存系统的流控装置，包括：

流量监控模块，监控分布式缓存系统中第一应用接口的请求量；

平衡对象确定模块，在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

流控策略调整模块，调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

第三方面，提供一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

第四方面，提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下步骤：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

本发明实施例的方案可以监控分布式缓存系统中各应用接口的请求量，并根据监控情况，实时将有限的系统资源，灵活配置到不同应用级别的应用接口上，从而在尽可能保证高应用级别的请求得到处理的基础上，对系统资源进行接近最大化的合理利用。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的针对分布式缓存系统的流控方法的第一种流程示意图。

图2为本发明实施例提供的针对分布式缓存系统的流控方法的第二种流程示意图。

图3为本发明实施例提供的针对分布式缓存系统的流控装置的结构意图。

图4为本发明实施例提供的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

如前所述，现有的计算机系统的控流方法主要是对应用进行分类，针对每种应用配置专属的策略以执行流控。但这种方式下每种应用的流控是固定不变的，没有对系统整体资源进行合理利用。举例来说，假设某种应用在单位时间内的请求量激增，触发了其对应的流控执行条件，即便是系统当前有空闲资源能够处理该应用的请求(其他应用的请求量先对较少没有过多占据系统资源)，也需要对该应用进行限流处理。

针对上述问题，本文件旨在提供一种基于分布式缓存系统的动态流控方案，能够更加合理利用系统资源。

图1是本发明实施例针对分布式缓存系统的流控方法的流程图，包括如下步骤：

S102，监控分布式缓存系统中第一应用接口的请求量。

本发明实施例中，第一应用接口所对应的应用是指分布式缓存系统中的任意应用，对第一应用接口的请求量进行监控属于现有技术，这里本文不再详细赘述。

S104，在指定时长内第一应用接口的请求量超出第一应用接口对应的流控阈值时，确定分布式缓存系统中具有流控阈值下调空间的第二应用接口，第二应用接口对应的应用级别低于第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限。

应理解，第一应用接口的请求量超出第一应用接口对应的流控阈值表示：当前为第一应用接口分配的系统资源已经无法处理第一应用接口对应的请求。

其中，这里所述指定时长可以根据实际监控需求进行灵活设置。举例来说，指定时长可以是单位时长，也就是本步骤针以单位时长为粒度，监控第一应用接口的请求量超出第一应用接口对应的流控阈值；或者，指定时长也可以是连续的多个单位时长，也就是步骤以第一应用接口在连续多个单位时长的请求量作为参考，来判断当前为第一应用接口分配的系统资源是否能够处理第一应用接口对应的请求。

本发明实施例在确定第一应用接口分配的系统资源无法处理第一应用接口对应的请求后，需要尝试调高第一应用接口对应的流控阈值，从而为第一应用接口分配更多的系统资源以处理指向第一应用接口的请求。由于系统资源是有限的，如果调高第一应用接口对应的流控阈值，则必须要适应性调低其他应用接口的流控阈值。

因此，可以在分布式缓存系统中筛选出应用级别低于第一应用接口，且流控阈值具有流控阈值下调空间的第二应用接口来作为调整对象。

其中，具有流控阈值下调空间的第二应用接口可以指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第一预设比例阈值的第二应用接口。也就是说，第二应用接口当前的请求量尚不能充分占用为第二应用接口分配的系统资源。此外，通过设置请求量与流控阈值的比值低于第一预设比例阈值的筛选条件，可以进一步找到当前请求量远低于对应流控阈值的第二应用接口。显然，在一般情况下，调低这类第二应用接口的流控阈值并不会对处理指向第二应用接口的请求造成严重影响。

S106，调低第二应用接口的流控阈值，并基于第二应用接口的流控阈值的调低幅度，调高第一应用接口的流控阈值。

即，本步骤将为空闲的应用级别较低的第二应用接口配置的系统资源重新分配给第一应用接口，从而保证执行第一应用接口的请求能够得到及时处理。

基于上述内容可知，本发明实施例的方法可以监控分布式缓存系统中各应用接口的请求量，并根据监控情况，实时将有限的系统资源，灵活配置到不同应用级别的应用接口上，从而在尽可能保证高应用级别的请求得到处理的基础上，对系统资源进行接近最大化的合理利用。

此外，若指定时长内第一应用接口的请求量超出第一应用接口所对应的流控阈值时，分布式缓存系统中不存在具有流控阈值下调空间的第二应用接口，则本发明实施例的方法还可以在分布式缓存系统中筛选出应用级别高于第一应用接口，且流控阈值具有流控阈值下调空间的第三应用接口来作为调整对象。之后，调低第三应用接口的流控阈值，并基于第三应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

其中，具有流控阈值下调空间的第三应用接口可以指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第二预设比例阈值的第三应用接口。这里，考虑到第三应用接口的应用级别要高第一应用接口，如果将第三应用接口的流控阈值调低，以平衡第一应用接口的流控阈值，则有可能会对处理高应用级别的请求带来影响，显然应用级别越高则影响越大，因此可以适当将第三应用接口的筛选门槛设置高于上述第二应用接口的筛选门槛。即第二预设比例阈值小于第一预设比例阈值。也就是，只将当前请求量远低于对应流控阈值的第三应用接口作为调整对象。

进一步地，若指定时长内第一应用接口的请求量超出第一应用接口所对应的流控阈值时，分布式缓存系统中即不存在具有流控阈值下调空间的第二应用接口，又不存在具有流控阈值下调空间的第三应用接口，则说明此时系统资源以处于较高的利用率，没有空闲其他应用接口的系统可以提供给第一应用接口使用，针对对这一情况则可以对第一应用接口执行限流操作，以避免请求发生堆积。

此外，如果在调高所述第一应用接口的流控阈值后，在预设时间段(时长根据实际需求进行灵活设置)内第一应用接口的请求量未超出第一应用接口对应的初始状态的流控阈值，则可以将第一应用接口，以及因第一应用接口调低流控阈值的第二应用接口或第三应用接口重置为初始状态的流控阈值(分布式缓存系统中的每种应用接口都配置有初始状态的流控阈值)。一般情况下，第一应用接口的请求量超出其对应流控阈值一般属于突发情况，对其流控阈值调整是针对突发情况的紧急措施，若第一应用接口请求量恢复正常水平，则可以将流控阈值恢复回调整前，以避免长时间占用原本为其他应用接口分配的系统资源。

此外，还可以在分布式缓存系统处于闲时状态时(比如凌晨时)，将分布式缓存系统中的所有应用接口重置为初始状态的流控阈值。应理解，分布式缓存系统处于闲时状态的判断方式并不唯一，本文不作具体限定。

下面结合实际的应用场景，对本发明实施例的方法进行详细介绍。

本应用场景对分布式缓存系统中应用设置优先级，每种优先级的应用均对应配置有专属的流控阈值，作为初始状态的流控阈值。这里以优先级升序为例，对应用进行排序，应用i表示优先级顺序为i的应用，应用i的优先级低于应用i+1对应的优先级，Ri表示单位时间内应用i接口的请求量。

假设Ri初始状态的流控阈值为OCi，动态流控阈值为Ci，Ci初始值等于OCi，本方案适合于资源访问紧张和高并发场景下的动态调整，对应流程如下：

S1.对分布式缓存的RI进行监控。

S2.判断单位时间内Ri是否超Ci。是，则进入S3；否，则进入S7。

S3.判断是否存在比Ri对应优先级更低、且存在流控阈值下调空间的应用集A。是，则进入S4；否，则进入S5。

S4.将应用集A同比例调低x％，并等量提升Ci的取值，之后进入S7。

S5.断是否存在比Ri对应优先级更高、且存在流控阈值下调空间的应用集B；是，则进入S6；否，则进入S8。

S6.将应用集B同比例调低y％，并等量提升Ci的取值，之后进入S7。

S7.将应用i接口的请求放通进入upstream服务。

S8.对应用i接口的请求进行限流处理，拦截请求进入upstream服务。

此外，在上述基础之上，如果连续N个单位时间内Ri<OCi，则可以将Ci重置为OCi。

综上所述，本应用场景为每种优先级的应用接口配置有专属的流控策略，即确定初始的流控阈值。在动态流控过程中，一旦某一优先级的目标应用接口的请求量超出其对应的流控阈值，并不直接进行限流处理，而是先查询更低优先级的应用接口是否能够调低流控阈值，如果查询命中，则暂时调低更低优先级的应用接口的流控阈值，并等量提高目标应用接口的流控阈值，从而将低优先级的应用接口的部分系统资源分配给目标应用接口。如果查询未命中，则再查询更高优先级的应用接口是否能够调低流控阈值，并以同样方式将高优先级的应用接口的部分系统资源分配给目标应用接口。之后，当目标应用接口的请求量恢复为正常水平后，才将各应用接口变动的流控阈值恢复回初始状态。也就是说，整个方案在针对应用接口优先级设置的控流策略下，可以根据实际的请求量，对应用接口的流控阈值进行适当幅度的上下调整，从而合理调度系统资源处理指向应用接口的请求，可提高系统资源的利率用。

以上是对本说明书实施例的方法的介绍。应理解，在不脱离本文上述原理基础之上，还可以进行适当的变化，这些变化也应视为本说明书实施例的保护范围。

此外，对应于图1所示的方法，本发明实施例还提供一种针对分布式缓存系统的流控装置。图3是本发明实施例流控装置300的结构示意图，包括：

流量监控模块310，监控分布式缓存系统中第一应用接口的请求量。

平衡对象确定模块320，在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限。

流控策略调整模块330，调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

本发明实施例的装置可以监控分布式缓存系统中各应用接口的请求量，并根据监控情况，实时将有限的系统资源，灵活配置到不同应用级别的应用接口上，从而在尽可能保证高应用级别的请求得到处理的基础上，对系统资源进行接近最大化的合理利用。

可选地，若指定时长内所述第一应用接口的请求量超出所述第一应用接口所对应的流控阈值时，所述分布式缓存系统中不存在具有流控阈值下调空间的第二应用接口，则平衡对象确定模块320确定所述分布式缓存系统中具有流控阈值下调空间的第三应用接口，所述第三应用接口对应的应用级别高于所述第一应用接口；对应地，流控策略调整模块330调低所述第三应用接口的流控阈值，并基于所述第三应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

可选地，所述流控策略调整模块330还用于：在调高所述第一应用接口的流控阈值后，在预设时间段内所述第一应用接口的请求量未超出所述第一应用接口对应的初始状态的流控阈值时，将所述第一应用接口，以及因所述第一应用接口调低流控阈值的第二应用接口或第三应用接口重置为各自对应的初始状态的流控阈值。

其中，具有流控阈值下调空间的第二应用接口是指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第一预设比例阈值的第二应用接口。具有流控阈值下调空间的第三应用接口是指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第二预设比例阈值的第三应用接口，其中，所述第二预设比例阈值小于所述第一预设比例阈值。

可选地，所述流控策略调整模块330还用于：在所述分布式缓存系统处于闲时状态时，将所述分布式缓存系统中的所有应用接口重置为初始状态的流控阈值。

可选地，本发明实施例装置还包括：

限流模块，用于若指定时长内第一应用接口的请求量超出所述第一应用接口所对应的流控阈值时，所述分布式缓存系统中不存在具有流控阈值下调空间的第二应用接口和第三应用接口，则对所述第一应用接口执行限流操作。

应理解，本说明书实施例的流控装置可以作为图1所示方法的执行主体，因此能够实现图1和图2所示方法中的步骤和功能。由于原理相同，本文不再赘述。

图4是本说明书的一个实施例电子设备的结构示意图。请参考图4，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成流控装置。对应地，处理器，执行存储器所存放的程序，并具体用于执行以下操作：

监控分布式缓存系统中第一应用接口的请求量。

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限。

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

本发明实施例的电子设备可以监控分布式缓存系统中各应用接口的请求量，并根据监控情况，实时将有限的系统资源，灵活配置到不同应用级别的应用接口上，从而在尽可能保证高应用级别的请求得到处理的基础上，对系统资源进行接近最大化的合理利用。

上述如本说明书图1所示实施例揭示的流控方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

应理解，本发明实施例的电子设备可以使流控装置实现对应于图1和图2所示方法中的步骤和功能。由于原理相同，本文不再赘述。

当然，除了软件实现方式之外，本说明书的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

此外，本发明实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令。

其中，上述指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1所示方法的步骤，包括：

监控分布式缓存系统中第一应用接口的请求量。

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限。

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

以上仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。此外，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件的保护范围。

Claims (10)

1.一种针对分布式缓存系统的流控方法，其特征在于，包括：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

2.根据权利要求1所述的方法，其特征在于，

若指定时长内所述第一应用接口的请求量超出所述第一应用接口所对应的流控阈值时，所述分布式缓存系统中不存在具有流控阈值下调空间的第二应用接口，则所述方法还包括：

确定所述分布式缓存系统中具有流控阈值下调空间的第三应用接口，所述第三应用接口对应的应用级别高于所述第一应用接口；

调低所述第三应用接口的流控阈值，并基于所述第三应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

3.根据权利要求2所述的方法，其特征在于，

在调高所述第一应用接口的流控阈值后，所述方法还包括：

在预设时间段内所述第一应用接口的请求量未超出所述第一应用接口对应的初始状态的流控阈值时，将所述第一应用接口，以及因所述第一应用接口调低流控阈值的第二应用接口或第三应用接口重置为各自对应的初始状态的流控阈值。

4.根据权利要求2所述的方法，

具有流控阈值下调空间的第二应用接口是指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第一预设比例阈值的第二应用接口。

5.根据权利要求4所述的方法，

具有流控阈值下调空间的第三应用接口是指：指定时长内的请求量未超出自身对应的流控阈值，且请求量与流控阈值的比值低于第二预设比例阈值的第三应用接口，其中，所述第二预设比例阈值小于所述第一预设比例阈值。

6.根据权利要求1-5任一项所述的方法，还包括：

在所述分布式缓存系统处于闲时状态时，将所述分布式缓存系统中的所有应用接口重置为初始状态的流控阈值。

7.根据权利要求2所述的方法，

若指定时长内第一应用接口的请求量超出所述第一应用接口所对应的流控阈值时，所述分布式缓存系统中不存在具有流控阈值下调空间的第二应用接口和第三应用接口，则所述方法还包括：

对所述第一应用接口执行限流操作。

8.一种针对分布式缓存系统的流控装置，其特征在于，包括：

流量监控模块，监控分布式缓存系统中第一应用接口的请求量；

平衡对象确定模块，在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

流控策略调整模块，调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

9.一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述计算机程序被所述处理器执行：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

10.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如下步骤：

监控分布式缓存系统中第一应用接口的请求量；

在指定时长内所述第一应用接口的请求量超出所述第一应用接口对应的流控阈值时，确定所述分布式缓存系统中具有流控阈值下调空间的第二应用接口，所述第二应用接口对应的应用级别低于所述第一应用接口，流控阈值用于表征指定时长内应用接口的请求量上限；

调低所述第二应用接口的流控阈值，并基于所述第二应用接口的流控阈值的调低幅度，调高所述第一应用接口的流控阈值。

Images