CN113992596A - 一种接口限流方法、装置、设备、系统和存储介质 - Google Patents

一种接口限流方法、装置、设备、系统和存储介质 Download PDF

Info

Publication number
CN113992596A
CN113992596A CN202111210131.9A CN202111210131A CN113992596A CN 113992596 A CN113992596 A CN 113992596A CN 202111210131 A CN202111210131 A CN 202111210131A CN 113992596 A CN113992596 A CN 113992596A
Authority
CN
China
Prior art keywords
interface
determining
value
call
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111210131.9A
Other languages
English (en)
Inventor
张力也
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN202111210131.9A priority Critical patent/CN113992596A/zh
Publication of CN113992596A publication Critical patent/CN113992596A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2416—Real-time traffic
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/29—Flow control; Congestion control using a combination of thresholds

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明实施例公开了一种接口限流方法、装置、设备、系统和存储介质，该方法包括：确定系统各接口的调用量，并根据各调用量确定各接口的权重值；确定系统的最高负载值，并根据最高负载值确定系统的调用总量；根据调用总量和各接口的权重值确定各接口的限流值。上述技术方案，确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，根据调用总量以及各接口的权重值确定各接口的限流值，在系统的最高负载的情况下实现对接口限流，提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。

Description

一种接口限流方法、装置、设备、系统和存储介质
技术领域
本发明实施例涉及计算机技术，尤其涉及一种接口限流方法、装置、设备、系统和存储介质。
背景技术
在全球广域网(World Wide Web，web)应用中，通过接口的暴露来提供系统的远程服务是存在于系统间不可或缺的交互方式。在系统负载可承受范围内，系统在应对请求时可以高效处理，系统负载能力随系统收到的请求数量而递增；在突破系统负载瓶颈之后，系统无法承受超负荷的请求，响应请求时间会增长，导致系统负载能力随系统收到的请求数量而开始递减，严重时甚至导致服务异常或系统瘫痪。为了能更高效准确的提供服务，维护系统的稳定、保证请求响应的迅捷，需要对提供服务的接口进行限流，限制系统收到的请求数量。
现有技术中，基于限流令牌桶技术，在规定令牌桶容量和放入令牌速度的模型下，限制一定时间范围内系统调用的令牌总量，即可保持系统稳定性和可用性。
在实现本发明的过程中，发现现有技术中至少存在以下技术问题：
1、过分依赖于人工干涉且人为评估的系统调用总量不能使系统负载最大利率化，达不到精准对接口进行限流；
2、无法将系统的调用量精准控制在系统调用总量附近，若需要放大调用量，则需要人为调整令牌桶的大小和放入令牌的速度。
发明内容
本发明提供一种接口限流方法、装置、设备、系统和存储介质，在系统负载最大利率的情况下实现对接口限流，并提升接口限流的准确率和效率。
第一方面，本发明实施例提供了一种接口限流方法，包括：
确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
进一步地，确定系统各接口的调用量，包括：
如果所述接口为预设接口，则根据所述接口的实时流量值和配置值范围，确定所述调用量；
否则，根据所述接口的实时流量值确定所述调用量。
进一步地，所述预设接口包括重要接口和低重要性接口，所述配置值范围包括下限值和上限值，相应地，根据所述接口的实时流量值和配置值范围，确定所述调用量，包括：
如果所述预设接口为重要接口且所述实时流量小于所述下限值，则根据所述下限值确定所述调用量；
如果所述预设接口为低重要性接口且如果所述实时流量大于所述上限值，则根据所述上限值确定所述调用量。
进一步地，根据各所述调用量确定各所述接口的权重值，包括：
根据各所述调用量确定总调用量，并根据各所述调用量和所述总调用量确定各所述接口的权重值。
进一步地，确定所述系统的最高负载值，包括：
根据支持所述系统的硬件信息确定所述系统的所述最高负载值。
进一步地，根据所述最高负载值确定所述系统的调用总量，包括：
确定预测调用量和调整粒度；
基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件；
将所述系统负载值对应的所述预测调用量确定为所述调用总量。
进一步地，基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件，包括：
根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值；
如果所述系统负载值不满足预设条件，则基于预设方式更新所述调整粒度，并继续执行根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值，直至所述系统负载值满足预设条件。
进一步地，根据所述调用总量和各所述接口的权重值确定各所述接口的限流值，包括：
根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。
第二方面，本发明实施例还提供了一种接口限流装置，包括：
权重确定模块，用于确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
调用总量确定模块，用于确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
限流值确定模块，用于根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
第三方面，本发明实施例还提供了一种计算机设备，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面中任一所述的接口限流方法。
第四方面，本发明实施例还提供了一种处理系统，所述系统包括：至少一个接口，当各所述接口被调用时，基于第一方面中任一所述的接口限流方法确定各所述接口的限流值。
第五方面，本发明实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如第一方面中任一所述的接口限流方法。
上述发明中的实施例具有如下优点或有益效果：
本发明实施例提供一种接口限流方法，包括：确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。上述技术方案，首先可以确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，然后可以根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，其次可以根据调用总量以及各接口的权重值确定各接口的限流值，在使用了系统的最高负载的情况下实现对接口限流，并且提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。
附图说明
图1为本发明实施例一提供的一种接口限流方法的流程图；
图2为本发明实施例一提供的一种接口限流方法中接口调用量和系统负载在曲线示意图；
图3为本发明实施例二提供的一种接口限流方法的流程图；
图4为本发明实施例二提供的一种接口限流方法中确定系统负载值的示意图；
图5为本发明实施例二提供的一种接口限流方法中构建的接口限流模型的示意图；
图6为本发明实施例二提供的一种接口限流方法的实现流程图；
图7为本发明实施例三提供的一种接口限流装置的结构示意图；
图8为本发明实施例四提供的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
实施例一
图1为本发明实施例一提供的一种接口限流方法的流程图，本发明实施例适用于需要对系统的接口进行限流的情况。该方法可以由接口限流装置来执行，该装置可以由软件和/或硬件的方式来实现。可选的，该接口限流装置可配置于计算机设备中。如图1所述，该方法具体包括以下步骤：
步骤110、确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值。
其中，系统可以位于服务器中，包括至少一个接口，客户端通过接口接入系统以获取系统所提供的服务。系统所包含接口的数量可以根据系统所提供的服务以及实际需求进行确定，在此不做具体限定。
系统负载是衡量系统稳定性的因素之一，系统每秒钟能成功处理的请求数量，反应了系统负载的能力。可以根据系统所包含各接口当前时刻可处理的请求数量确定当前时刻各接口的调用量。
表1为接口和调用量所组成的接口需求表，具体地，实时获取当前时刻各接口的调用量，得到各接口对应于同一时刻的调用量，并基于接口需求表存储各接口和其对应的调用量。
表1接口需求表
接口 接口A 接口B 接口C 接口D 接口E
调用量 150 100 200 50 100
本发明实施例中，系统可以包括五个接口A、B、C、D、E，各接口在当前时刻的调用量分别为150、100、200、50、100，根据各接口的调用量可以确定当前时刻系统的总调用量为150+100+200+50+100＝600，进而可以根据各接口所对应的流量值和系统的总调用量确定各接口的流量比例，即权重值。例如，可以确定接口A的流量比例＝150/600＝25％，接口B的流量比例＝100/600＝16.7％，接口C的流量比例＝200/600＝33.3％，接口D的流量比例＝50/600＝8.3％，接口E的流量比例＝100/600＝16.7％。进而可以确定接口A的权重值为25％，接口B的权重值为16.7％，接口C的权重值为33.3％，接口D的权重值为8.3％，接口E的权重值为16.7％。
表2接口流量比例表
接口 接口A 接口B 接口C 接口D 接口E
调用量 150 100 200 50 100
流量比例\权重值 25％ 16.7％ 33.3％ 8.3％ 16.7％
表2为接口、调用量和流量比例所组成的接口流量比例表，具体地，在获取到当前时刻各接口的调用量之后，可以确定系统的总调用量，并根据各接口的调用量和系统的总调用量确定各接口的流量比例，进而基于接口流量比例表存储接口、调用量和流量比例。
本发明实施例中，可以实时获取当前时刻的调用量，并基于接口需求表存储各接口和对应的调用量，同时确定系统的总调用量，并根据各接口的调用量和系统的总调用量确定各接口的流量比例，进一步将各接口的流量比例确定为各接口的权重值。
需要说明的是，可以实时获取各接口的调用量，进一步确定各接口的实时权重值。当然，如果系统的接口较多，实时获取到的接口的调用量也较多，容易对服务器硬件设备或者网络造成影响。因此，可以按照预设周期采样各接口的调用量，并确定各接口在采样时间点的权重值。预设周期可以为5分钟、30分钟、1小时等，预设周期的具体数值在此不做具体限定，可以由硬件设备和网络等条件的稳定性进行设定。
步骤120、确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量。
其中，系统所处服务器的硬件信息，例如中央处理器(Central Processing Unit，CPU)，以及虚拟机的GC(垃圾回收机)次数等可以确定系统的最高负载。服务器的存储模块可以存储有硬件信息以及虚拟机的GC次数与系统的最高负载的对应关系表。在系统的负载为最高负载时，系统的接口可以支持的调用量可以为调用总量。
具体地，首先可以确定系统所处服务器的硬件信息和虚拟机的GC次数，进而可以在对应表中查找与硬件信息和虚拟机的GC次数对应的最高负载。图2为本发明实施例一提供的一种接口限流方法中接口调用量和系统负载在曲线示意图，如图2所示，系统负载在可承受范围0-X内时，系统可以高效处理请求，且系统的负载能力随系统收到的请求数量而递增；系统负载在突破系统最高负载值X之后，无法承受超负荷的请求，响应请求时间会增长，导致系统负载能力随系统收到的请求数量而开始递减，严重时甚至导致服务异常或系统瘫痪。因此可以使系统负载维持在临界点之下，确定此时系统接口的调用总量。
本发明实施例中，可以基于系统的最高负载值对单一接口进行限流调整，以确定该接口的调用总量，进而将确定的调用总量确定为系统所包含各接口的调用总量。
步骤130、根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
具体地，根据上述步骤可以得到系统最高负载时对应的调用总量，该调用总量可以为系统所包含各接口的调用总量，还可以得到系统所包含各接口的权重值，该权重值可以表明各接口的流量比例，进而可以根据系统的调用总量和各接口的流量比例，确定调用总量和各接口的流量比例的乘积，并将乘积值确定为各接口的限流值。如果调用总量为X1，各接口的权重值为W，进而可以确定各接口的限流值为X1*W，如接口A的限流值为X1*25％，接口B的限流值为X1*16.7％，接口C的限流值为X1*33.3％，接口D的限流值为X1*8.3％，接口E的限流值为X1*16.7％。
随着时间的变化，系统所处服务器的硬件信息在变化，进而系统的最高负载也在变化；系统所包含各接口的实时调用量在变化，进而各接口的权重值也在变化，因此可以根据系统的实时最高负载以及系统所包含各接口的实时权重值实时调整各接口的实时限流值，实现变更各接口限流配置，进一步实现对系统接口的限流，对系统负载高度利用的基础上提高系统的服务能力。
当然，每计算一次系统所包含各接口的调用量以及系统的最高负载值，需要重新计算一次接口的限流值，可以保证由系统的最高负载值的变化实时动态地生成系统的调用总量，且可以保证最大化利用系统负载的情况下实现接口的最大调用。
本发明实施例一提供的一种接口限流方法，包括：确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。上述技术方案，首先可以确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，然后可以根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，其次可以根据调用总量以及各接口的权重值确定各接口的限流值，在使用了系统的最高负载的情况下实现对接口限流，并且提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。
实施例二
图3为本发明实施例二提供的一种接口限流方法的流程图，本发明实施例适用于需要对系统的接口进行限流的情况。本实施例是在上述实施例的基础上进行具体化，其中与上述各实施例相同或相应的术语的解释在此不再赘述。参见图3，本发明实施例提供的接口限流方法包括：
步骤310、确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值。
一种实施方式中，确定系统各接口的调用量，包括：
如果所述接口为预设接口，则根据所述接口的实时流量值和配置值范围，确定所述调用量；否则，根据所述接口的实时流量值确定所述调用量。
在实际应用中，如果低重要性接口收到异常大量流量的请求，可能稀释重要接口的流量比例，因而需要设定重要接口的最低限流值及低重要性接口的最高限流值可以一定程度上保证重要接口的服务提供不受影响。
具体地，如果接口为预设接口，且该接口短时间可能会收到较多的请求，因此可能会存在短时较大的实时流量值，同时该接口为低重要性接口，则该接口可以预设有配置值范围，如果该接口的实时流量值超过配置值范围，则按照实时流量值和配置值范围确定该接口的调用量；如果接口为预设接口，且该接口因为另一短时间收到较多请求接口的影响可能会存在短时较小的实时流量值，同时该接口为重要接口，则该接口也可以预设有配置值范围，如果该接口的实时流量值跌出配置值范围，则按照实时流量值和配置值范围确定该接口的调用量。
一种实施方式中，所述预设接口包括重要接口和低重要性接口，所述配置值范围包括下限值和上限值，相应地，根据所述接口的实时流量值和配置值范围，确定所述调用量，包括：
如果所述预设接口为重要接口且所述实时流量小于所述下限值，则根据所述下限值确定所述调用量；如果所述预设接口为低重要性接口且如果所述实时流量大于所述上限值，则根据所述上限值确定所述调用量。
具体地，如果预设接口为重要接口且受到另一短时间收到较多请求接口的影响导致实时流量值小于对应配置值范围的下限值，则将配置值范围的下限值确定为调用量，以确保重要接口提供正常的服务；如果预设接口为低重要性接口且短时间收到较多请求导致实时流量大于对应配置值范围的上限值，则将配置值范围的上限值确定为调用量，在保证不影响重要接口提供正常的服务的情况下，使得低重要性接口也提供正常的服务。
例如，接口A为低重要性接口，其配置值范围为(100，150)，如果接口A的实时流量值为200，200大于配置值范围的上限值，则可以确定接口A的调用值为150。
一种实施方式中，根据各所述调用量确定各所述接口的权重值，包括：
根据各所述调用量确定总调用量，并根据各所述调用量和所述总调用量确定各所述接口的权重值。
具体地，对各接口的调用量进行求和运算，可以得到系统的总调用量，进而根据各接口的调用量与系统的总调用量确定各接口的流量比例，进而将各接口的流量比例确定为各接口的权重值。
本发明实施例中，首先可以根据各接口的实时流量值，或者实时流量值和配置值范围确定各接口的实时调用值，并对各实时调用值进行求和运算得到系统的实时总调用值，进一步根据各实时调用值和总实时调用值的比值确定各接口的实时权重值。
步骤320、确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量。
一种实施方式中，确定所述系统的最高负载值，包括：
根据支持所述系统的硬件信息确定所述系统的所述最高负载值。
具体地，服务器的存储模块可以存储有硬件信息以及虚拟机的GC次数与系统的最高负载的对应关系表。本发明实施例中，首先可以确定系统所处服务器的硬件信息和虚拟机的GC次数，进而可以在对应表中查找与硬件信息和虚拟机的GC次数对应的最高负载。
一种实施方式中，根据所述最高负载值确定所述系统接口的调用总量，包括：
确定预测调用量和调整粒度；基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件；将所述系统负载值对应的所述预测调用量确定为所述调用总量。
一种实施方式中，基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件，包括：
根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值；如果所述系统负载值不满足预设条件，则基于预设方式更新所述调整粒度，并继续执行根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值，直至所述系统负载值满足预设条件。
其中，系统可以预先存储有初始预测调用量和初始调整粒度。预设条件可以为系统负载值无限接近系统的最高负载值。
图4为本发明实施例二提供的一种接口限流方法中确定系统负载值的示意图，如图4所示，横向虚线表示系统的最高负载值X，纵向虚线表示系统在最高负载的情况下系统接口的最大调用量X1，如果接口的调用总量低于X1，则在系统负载层面上会产生资源浪费，因而可以在系统负载值无限接近系统负载的安全上限即最高负载值时，确定接口的调用总量。
具体地，初始化接口的调用量为初始预测调用量b0，调整粒度n，当接口的实时流量值为初始预测调用量时，系统负载值低于系统的最高负载值X；进而将预测调用量调整为b0+n，观测系统负载值的变化，若系统负载值仍低于的最高负载值X，则持续对预测调用量追加n，直到系统负载值超过系统的最高负载值X。为了避免线性的调整粒度变化导致预测调用量永远无法靠近最大调用量X1，有梯度地将调整粒度更新为
Figure BDA0003308615990000141
进而将预测调用量调整为
Figure BDA0003308615990000142
观测系统负载值变化，持续将预测调用量递减
Figure BDA0003308615990000143
直到系统负载值低于最高负载值X。进行下一轮变向逼近最高负载值X，有梯度地将调整粒度变更为
Figure BDA0003308615990000144
重复以上步骤，直到系统负载值无限逼近于最高负载值X，则此刻预测调用量无限逼近于最大调用量X1。
当然，还可以根据公式
Figure BDA0003308615990000145
Figure BDA0003308615990000146
确定最大调用量X1，其中，X1为最大调用量，b0为初始预测调用量，n、
Figure BDA0003308615990000147
和
Figure BDA0003308615990000148
为调整粒度，经过a次追加n系统负载值超过系统的最高负载值，经过b次递减
Figure BDA0003308615990000149
系统负载值低于系统的最高负载值，经过c次追加
Figure BDA00033086159900001410
系统负载值超过系统的最高负载值…经过i次追加/递减
Figure BDA00033086159900001411
系统负载值低于/超过系统的最高负载值，经过j次追加/递减
Figure BDA00033086159900001412
系统负载值超过/低于系统的最高负载值。
当然，在实际应用中，可以结合图4所示的确定系统负载值的示意图和公式
Figure BDA00033086159900001413
确定最大调用量X1。
本发明实施例中，可以基于预测调用量和调整粒度并结合确定系统负载值的示意图和公式
Figure BDA00033086159900001414
可以确定系统接口的最大调用量，并将该最大调用量确定为系统接口的调用总量。
步骤330、根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
一种实施方式中，步骤330具体可以包括：
根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。
具体地，前述步骤可以得到系统最高负载时对应的调用总量，该调用总量可以为系统所包含各接口的调用总量，还可以得到系统所包含各接口的权重值，该权重值可以表明各接口的流量比例，进而可以根据系统的调用总量和各接口的流量比例，确定调用总量和各接口的流量比例的乘积，并将乘积值确定为各接口的限流值。
图5为本发明实施例二提供的一种接口限流方法中构建的接口限流模型的示意图，如图5所示，在实际应用中，还可以构建接口限流模型，该模型内可以存储有接口需求表、接口流量比例表、初始预测调用量和调整粒度，并且可以执行前述步骤310-330，以实现根据采样时间点各接口的调用量、预设接口的配置值范围以及系统的最高负载值，确定系统所包含各接口的限流值，实现根据各时刻的各接口的调用量、预设接口的配置值范围以及系统的最高负载值对系统所包含各接口的限流值进行实时调整。
本发明实施例二提供的一种接口限流方法，包括：确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。上述技术方案，首先可以确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，然后可以根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，其次可以根据调用总量以及各接口的权重值确定各接口的限流值，在使用了系统的最高负载的情况下实现对接口限流，并且提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。
图6为本发明实施例二提供的一种接口限流方法的实现流程图，示例性的给出了其中一种实现方式。如图6所示，包括：
步骤610、判断接口是否为预设接口。
如果接口为预设接口，执行步骤611；否则，执行步骤612。
步骤611、根据所述接口的实时流量值和配置值范围，确定所述调用量。
步骤612、根据所述接口的实时流量值确定所述调用量。
步骤613、根据支持所述系统的硬件信息确定所述系统的所述最高负载值。
步骤614、确定预测调用量和调整粒度。
步骤615、根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值。
步骤616、确定系统负载值是否满足预设条件。
如果系统负载值满足预设条件，则执行步骤617；否则，执行步骤618。
步骤617、基于预设方式更新所述调整粒度，并返回执行步骤615，直至系统负载值满足预设条件。
步骤618、将所述系统负载值对应的所述预测调用量确定为所述调用总量。
步骤619、根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。
本发明实施例二提供的一种接口限流方法的实现方式，首先判断接口是否为预设接口；如果接口为预设接口，则根据所述接口的实时流量值和配置值范围，确定所述调用量；否则，根据所述接口的实时流量值确定所述调用量；根据支持所述系统的硬件信息确定所述系统的所述最高负载值；确定预测调用量和调整粒度；根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值；确定系统负载值是否满足预设条件；如果系统负载值满足预设条件，则基于预设方式更新所述调整粒度，并继续执行根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值，直至系统负载值满足预设条件；将所述系统负载值对应的所述预测调用量确定为所述调用总量；根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。上述技术方案，首先可以确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，然后可以根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，其次可以根据调用总量以及各接口的权重值确定各接口的限流值，在使用了系统的最高负载的情况下实现对接口限流，并且提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。
实施例三
图7为本发明实施例三提供的一种接口限流装置的结构示意图，该接口限流装置与上述各实施例的接口限流方法属于同一个发明构思，在接口限流装置的实施例中未详尽描述的细节内容，可以参考上述接口限流方法的实施例。
该接口限流装置的具体结构如图7所示，包括：
权重确定模块710，用于确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
调用总量确定模块720，用于确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
限流值确定模块730，用于根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
本发明实施例三提供的接口限流装置，通过确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。上述技术方案，首先可以确定系统所包含的各接口的调用量，并确定各接口的调用量基于所有接口的调用量的比例，即权重值，然后可以根据系统的硬件信息确定系统的最高负载，并根据最高负载确定系统可支持的调用总量，其次可以根据调用总量以及各接口的权重值确定各接口的限流值，在使用了系统的最高负载的情况下实现对接口限流，并且提升了确定各接口的限流值的效率和准确率，进一步提升接口限流的准确率和效率。
在上述实施例的基础上，权重确定模块710，具体用于：
如果所述接口为预设接口，则根据所述接口的实时流量值和配置值范围，确定所述调用量；
否则，根据所述接口的实时流量值确定所述调用量；
根据各所述调用量确定总调用量，并根据各所述调用量和所述总调用量确定各所述接口的权重值。
在上述实施例的基础上，所述预设接口包括重要接口和低重要性接口，所述配置值范围包括下限值和上限值，相应地，根据所述接口的实时流量值和配置值范围，确定所述调用量，包括：
如果所述预设接口为重要接口且所述实时流量小于所述下限值，则根据所述下限值确定所述调用量；
如果所述预设接口为低重要性接口且如果所述实时流量大于所述上限值，则根据所述上限值确定所述调用量。
在上述实施例的基础上，调用总量确定模块720，具体用于：
根据支持所述系统的硬件信息确定所述系统的所述最高负载值；
确定预测调用量和调整粒度；
基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件；
将所述系统负载值对应的所述预测调用量确定为所述调用总量。
在上述实施例的基础上，基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件，包括：
根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值；
如果所述系统负载值不满足预设条件，则基于预设方式更新所述调整粒度，并继续执行根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值，直至所述系统负载值满足预设条件。
在上述实施例的基础上，限流值确定模块730，具体用于：
根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。
本发明实施例所提供的接口限流装置可执行本发明任意实施例所提供的接口限流方法，具备执行接口限流方法相应的功能模块和有益效果。
值得注意的是，上述接口限流装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
实施例四
图8为本发明实施例四提供的一种计算机设备的结构示意图。图8示出了适于用来实现本发明实施方式的示例性计算机设备8的框图。图8显示的计算机设备8仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示，计算机设备8以通用计算计算机设备的形式表现。计算机设备8的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机设备8典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备8访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备8可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图8未显示，通常称为“硬盘驱动器”)。尽管图8中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备8也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该计算机设备8交互的设备通信，和/或与使得该计算机设备8能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，计算机设备8还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图8所示，网络适配器20通过总线18与计算机设备8的其它模块通信。应当明白，尽管图8中未示出，可以结合计算机设备8使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及页面显示，例如实现本发实施例所提供的接口限流方法，其中，该方法包括：
确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的接口限流方法的技术方案。
实施例五
本发明实施例五提供了一种处理系统，所述系统包括：至少一个接口，当各所述接口被调用时，基于实施例一和实施例二中任一所述的接口限流方法确定各所述接口的限流值。
实施例六
本发明实施例六提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现例如本发实施例所提供的接口限流方法，其中，该方法包括：
确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于：电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本领域普通技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个计算装置上，或者分布在多个计算装置所组成的网络上，可选地，他们可以用计算机装置可执行的程序代码来实现，从而可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件的结合。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (12)

1.一种接口限流方法，其特征在于，包括：
确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
2.根据权利要求1所述的接口限流方法，其特征在于，确定系统各接口的调用量，包括：
如果所述接口为预设接口，则根据所述接口的实时流量值和配置值范围，确定所述调用量；
否则，根据所述接口的实时流量值确定所述调用量。
3.根据权利要求2所述的接口限流方法，其特征在于，所述预设接口包括重要接口和低重要性接口，所述配置值范围包括下限值和上限值，相应地，根据所述接口的实时流量值和配置值范围，确定所述调用量，包括：
如果所述预设接口为重要接口且所述实时流量小于所述下限值，则根据所述下限值确定所述调用量；
如果所述预设接口为低重要性接口且如果所述实时流量大于所述上限值，则根据所述上限值确定所述调用量。
4.根据权利要求1所述的接口限流方法，其特征在于，根据各所述调用量确定各所述接口的权重值，包括：
根据各所述调用量确定总调用量，并根据各所述调用量和所述总调用量确定各所述接口的权重值。
5.根据权利要求1所述的接口限流方法，其特征在于，确定所述系统的最高负载值，包括：
根据支持所述系统的硬件信息确定所述系统的所述最高负载值。
6.根据权利要求1所述的接口限流方法，其特征在于，根据所述最高负载值确定所述系统的调用总量，包括：
确定预测调用量和调整粒度；
基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件；
将所述系统负载值对应的所述预测调用量确定为所述调用总量。
7.根据权利要求6所述的接口限流方法，其特征在于，基于所述调整粒度调整所述预测调用量，同时确定各所述预测调用量所对应的系统负载值，直至所述系统负载值满足预设条件，包括：
根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值；
如果所述系统负载值不满足预设条件，则基于预设方式更新所述调整粒度，并继续执行根据所述调整粒度调整所述预测调用量，并确定所述预测调用量所对应的所述系统负载值，直至所述系统负载值满足预设条件。
8.根据权利要求1所述的接口限流方法，其特征在于，根据所述调用总量和各所述接口的权重值确定各所述接口的限流值，包括：
根据所述调用总量和各所述接口的权重值的乘积，确定各所述接口的所述限流值。
9.一种接口限流装置，其特征在于，包括：
权重确定模块，用于确定系统各接口的调用量，并根据各所述调用量确定各所述接口的权重值；
调用总量确定模块，用于确定所述系统的最高负载值，并根据所述最高负载值确定所述系统的调用总量；
限流值确定模块，用于根据所述调用总量和各所述接口的权重值确定各所述接口的限流值。
10.一种计算机设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的接口限流方法。
11.一种处理系统，其特征在于，所述系统包括：至少一个接口，当各所述接口被调用时，基于权利要求1-8中任一所述的接口限流方法确定各所述接口的限流值。
12.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8中任一所述的接口限流方法。
CN202111210131.9A 2021-10-18 2021-10-18 一种接口限流方法、装置、设备、系统和存储介质 Pending CN113992596A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111210131.9A CN113992596A (zh) 2021-10-18 2021-10-18 一种接口限流方法、装置、设备、系统和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111210131.9A CN113992596A (zh) 2021-10-18 2021-10-18 一种接口限流方法、装置、设备、系统和存储介质

Publications (1)

Publication Number Publication Date
CN113992596A true CN113992596A (zh) 2022-01-28

Family

ID=79739146

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111210131.9A Pending CN113992596A (zh) 2021-10-18 2021-10-18 一种接口限流方法、装置、设备、系统和存储介质

Country Status (1)

Country Link
CN (1) CN113992596A (zh)

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120033567A1 (en) * 2010-08-05 2012-02-09 Fujitsu Limited Data transmission apparatus, data receiving apparatus, and data transmission method
CN106603427A (zh) * 2017-01-17 2017-04-26 汉柏科技有限公司 防火墙中实现软件bypass的方法及装置
CN107770088A (zh) * 2017-09-06 2018-03-06 阿里巴巴集团控股有限公司 一种流量控制方法及装置
CN108055203A (zh) * 2017-12-26 2018-05-18 杭州迪普科技股份有限公司 一种等价路由负载分担方法及装置
US20180349237A1 (en) * 2017-06-02 2018-12-06 International Business Machines Corporation Monitoring correctable errors on a bus interface to determine whether to redirect input/output request (i/o) traffic to another bus interface
CN111083060A (zh) * 2020-03-04 2020-04-28 郑州智利信信息技术有限公司 一种网络流量控制方法
CN111478857A (zh) * 2019-01-24 2020-07-31 北京嘀嘀无限科技发展有限公司 一种接口限流控制方法、装置以及电子设备
CN111970205A (zh) * 2020-08-21 2020-11-20 工银科技有限公司 网关接口流量控制方法及系统
CN112350952A (zh) * 2020-10-28 2021-02-09 武汉绿色网络信息服务有限责任公司 控制器分配方法、网络业务系统
US20210092063A1 (en) * 2019-09-25 2021-03-25 Juniper Networks, Inc. Apparatus, system, and method for determining traffic load distributions in connection with routes of hierarchical fowarding information bases
CN112583732A (zh) * 2020-12-03 2021-03-30 中国人寿保险股份有限公司 基于控制粒度池对接口调用的流量控制方法及相关设备
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技（深圳）有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
CN113179222A (zh) * 2021-04-30 2021-07-27 康键信息技术（深圳）有限公司 热点数据的限流控制方法、装置、设备及存储介质
CN113411269A (zh) * 2021-07-07 2021-09-17 杭州网易云音乐科技有限公司 限流控制方法、限流控制装置、存储介质及电子设备

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120033567A1 (en) * 2010-08-05 2012-02-09 Fujitsu Limited Data transmission apparatus, data receiving apparatus, and data transmission method
CN106603427A (zh) * 2017-01-17 2017-04-26 汉柏科技有限公司 防火墙中实现软件bypass的方法及装置
US20180349237A1 (en) * 2017-06-02 2018-12-06 International Business Machines Corporation Monitoring correctable errors on a bus interface to determine whether to redirect input/output request (i/o) traffic to another bus interface
CN107770088A (zh) * 2017-09-06 2018-03-06 阿里巴巴集团控股有限公司 一种流量控制方法及装置
CN108055203A (zh) * 2017-12-26 2018-05-18 杭州迪普科技股份有限公司 一种等价路由负载分担方法及装置
CN111478857A (zh) * 2019-01-24 2020-07-31 北京嘀嘀无限科技发展有限公司 一种接口限流控制方法、装置以及电子设备
US20210092063A1 (en) * 2019-09-25 2021-03-25 Juniper Networks, Inc. Apparatus, system, and method for determining traffic load distributions in connection with routes of hierarchical fowarding information bases
CN111083060A (zh) * 2020-03-04 2020-04-28 郑州智利信信息技术有限公司 一种网络流量控制方法
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技（深圳）有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
CN111970205A (zh) * 2020-08-21 2020-11-20 工银科技有限公司 网关接口流量控制方法及系统
CN112350952A (zh) * 2020-10-28 2021-02-09 武汉绿色网络信息服务有限责任公司 控制器分配方法、网络业务系统
CN112583732A (zh) * 2020-12-03 2021-03-30 中国人寿保险股份有限公司 基于控制粒度池对接口调用的流量控制方法及相关设备
CN113179222A (zh) * 2021-04-30 2021-07-27 康键信息技术（深圳）有限公司 热点数据的限流控制方法、装置、设备及存储介质
CN113411269A (zh) * 2021-07-07 2021-09-17 杭州网易云音乐科技有限公司 限流控制方法、限流控制装置、存储介质及电子设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
温馨;樊婧雯;王富强;: "基于OpenResty平台的API网关系统的设计与实现", 信息化研究, no. 03 *
祝恩国;窦健;韩霄汉;王朝亮;: "用电信息采集接口测试数据传输请求量动态调整策略", 济南大学学报(自然科学版), no. 04 *

Similar Documents

Publication Publication Date Title
CN110545246A (zh) 一种基于令牌桶的限流方法和装置
CN103763346B (zh) 一种分布式资源调度方法及装置
US9161064B2 (en) Auto-scaling management of web content
CN112445857A (zh) 一种基于数据库的资源配额管理方法和装置
CN112016794B (zh) 资源配额管理方法、装置和电子设备
US20220229701A1 (en) Dynamic allocation of computing resources
CN104243531A (zh) 一种数据处理的方法、装置及系统
CN112799824A (zh) 一种限流方法、装置、设备和存储介质
US20200142822A1 (en) Multi-tenant cloud elastic garbage collector
CN114564313A (zh) 负载调整方法、装置、电子设备及存储介质
US20150012398A1 (en) Credit optimization to minimize latency
CN109347982A (zh) 一种数据中心的调度方法及装置
CN111367667B (zh) 调度装置及其执行的资源分配方法、及分布式处理系统
CN108845860B (zh) 一种quota管理方法、装置及电子设备
CN113992596A (zh) 一种接口限流方法、装置、设备、系统和存储介质
CN113703945B (zh) 微服务集群的调度方法、装置、设备及存储介质
CN115421922A (zh) 一种分布式系统的限流方法、装置、设备、介质及产品
CN113285890B (zh) 网关流量的分配方法、装置、电子设备及存储介质
CN114090247A (zh) 用于处理数据的方法、装置、设备以及存储介质
CN114416357A (zh) 容器组的创建方法、装置、电子设备和介质
CN110719306B (zh) 一种网络请求限制方法、计算机设备、存储介质
CN112291326A (zh) 负载均衡方法、负载均衡装置、存储介质与电子设备
CN116680081A (zh) 任务处理方法、装置、电子设备及存储介质
CN114598705B (zh) 消息负载均衡方法、装置、设备和介质
US20170206012A1 (en) Provisioning storage allocation using prioritized storage system capabilities

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination