CN114039893A - 一种api网关限速方法及装置 - Google Patents

一种api网关限速方法及装置 Download PDF

Info

Publication number
CN114039893A
CN114039893A CN202111311725.9A CN202111311725A CN114039893A CN 114039893 A CN114039893 A CN 114039893A CN 202111311725 A CN202111311725 A CN 202111311725A CN 114039893 A CN114039893 A CN 114039893A
Authority
CN
China
Prior art keywords
physical resource
utilization rate
resource utilization
end server
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111311725.9A
Other languages
English (en)
Inventor
张天飒
赖新明
苏迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisino Corp
Original Assignee
Aisino Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisino Corp filed Critical Aisino Corp
Priority to CN202111311725.9A priority Critical patent/CN114039893A/zh
Publication of CN114039893A publication Critical patent/CN114039893A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876—Network utilisation, e.g. volume of load or congestion level
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/66—Arrangements for connecting between networks having differing types of switching systems, e.g. gateways
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/20—Traffic policing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2425—Traffic characterised by specific attributes, e.g. priority or QoS for supporting services specification, e.g. SLA
    • H04L47/2433—Allocation of priorities to traffic types

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本申请涉及流量控制技术领域，特别涉及一种API网关限流方法及装置。该方法包括：监控后端服务器的物理资源使用率；判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。

Description

一种API网关限速方法及装置
技术领域
本申请涉及流量控制技术领域，特别涉及一种API网关限速方法及装置。
背景技术
API(Application Programming Interface，应用程序编程接口)是一些预先定义的函数，应用将自身的服务能力封装成API，并通过API网关开放给用户访问。实际应用中，为了保护API网关的后台系统不会受到大流量冲击，需要对接入API网关的API访问请求进行限流。
API网关，可以部署在后端服务和前端客户端之间，在前后端的访问之间提供安全、鉴权、流量控制、过滤、缓存、计费、监控等API管理功能。
所谓API管理功能，一般由各种过滤器实现，在请求的传递过程中，过滤器对请求和响应做修改。过滤器有很多种，例如参数校验、权限校验、流量监控、日志输出、协议转换。多种过滤器可以前后串联起来使用，一条访问会陆续经过设置的多个过滤器，被一个过滤器处理完毕后，传递给下一个过滤器处理。
目前，API网关限流方法一般是根据访问路径、访问者ip或者token区分各个被限流对象，然后对各个限流对象的访问进行计数。如果单位时间限流对象的访问量不多，则用户正常访问；否则将执行限流操作，返回错误代码，要求用户稍后再访问。
然而，上述API限流方法并未考虑后端服务器的物理资源是否充足的情况，及可能出现后端服务器物理资源充足API网关却执行限流，或后端服务器物理资源不足而API网关不执行限流的问题。
发明内容
本申请提供了一种API网关限流方法及装置，用以解决现有技术中存在的无法根据后端服务器的负载来进行限流策略调整的问题。
第一方面，本申请提供了一种API网关限流方法，所述方法包括：
监控后端服务器的物理资源使用率；
判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；
若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。
可选地，监控后端服务器的物理资源使用率的步骤包括：
监控后端服务器的内存使用率和/或CPU使用率。
可选地，判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值的步骤包括：
判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
可选地，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值；
若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略的步骤包括：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略；
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
可选地，对一个业务的API请求执行限流策略的步骤包括：
统计该业务在单位时间内的API访问量；
判断该业务在单位时间内的API访问量是否超过设定阈值；
若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
第二方面本申请提供了一种API网关限流装置，所述装置包括：
监控单元，用于监控后端服务器的物理资源使用率；
判断单元，用于判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；
限流单元，若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则所述限流单元用于对不同业务对应的API请求执行不同的限流策略。
可选地，监控后端服务器的物理资源使用率时，所述监控单元具体用于：
监控后端服务器的内存使用率和/或CPU使用率。
可选地，判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值时，所述判断单元具体用于：
判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
可选地，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值；
若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略时，所述限流单元具体用于：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略；
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
可选地，对一个业务的API请求执行限流策略时，所述限流单元具体用于：
统计该业务在单位时间内的API访问量；
判断该业务在单位时间内的API访问量是否超过设定阈值；
若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
第三方面，本申请提供了一种API网关，该API网关包括：
存储器，用于存储程序指令；
处理器，用于调用所述存储器中存储的程序指令，按照获得的程序指令执行如上述第一方面中任一项所述的方法的步骤。
第四方面，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使所述计算机执行如上述第一方面中任一项所述方法的步骤。
综上可知，本申请实施例提供的API网关限流方法，监控后端服务器的物理资源使用率；判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。
采用本申请实施例提供的API网关限流方法，能够对服务器物理资源(如，CPU和内存)的监控，根据物理资源使用率对不同的API进行限流操作，增强了限流功能的实用性，避免了一般限流过滤器对服务器物理资源的浪费，而且当物理资源使用率较高时，可以设置对一般服务API的限流，进而保护重要服务API的运行。
附图说明
为了更加清楚地说明本申请实施例或者现有技术中的技术方案，下面将对本申请实施例或者现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据本申请实施例的这些附图获得其他的附图。
图1为本申请实施例提供的一种API网关限流方法的详细流程图；
图2为本申请实施例提供的另一种API网关限流方法的详细流程图；
图3为本申请实施例提供的一种API网关限流装置的结构示意图；
图4为本申请实施例提供的一种API网关的结构示意图。
具体实施方式
在本申请实施例使用的术语仅仅是出于描述特定实施例的目的，而非限制本申请。本申请和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其它含义。还应当理解，本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解，尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，此外，所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
示例性的，参阅图1所示，为本申请实施例提供的一种API网关限流方法的详细流程图，该方法包括以下步骤：
步骤100：监控后端服务器的物理资源使用率。
本申请实施例中，在监控后端服务器的物理资源使用率时，一种较佳的实现方式为：监控后端服务器的内存使用率和/或CPU使用率。
本申请实施例中，基于预设周期获取后端服务器的内存使用量和/或CPU使用率。即根据后端服务器的内存使用率和CPU使用率，可以判断当前后端服务器的运行状态。
实际应用中，若一个后端服务器的物理资源使用率低，则说明该后端服务器的负载低，若物理资源使用率高，则说明负载高。那么，可以依据一个后端服务器的内存使用率来判断该后端服务器的物理资源使用率，也可以依据一个后端服务器的CPU使用率来判断该后端服务器的物理资源使用率，当然，也可以依据一个后端服务器的内存使用率和CPU使用率来判断该后端服务器的物理资源使用率。
步骤110：判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值。
本申请实施例中，早判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值时，可以具体包括以下几种情况：
第一种情况为：判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值。
第二种情况为：判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值。
第三种情况为：判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
步骤120：若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。
本申请实施例中，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值。
例如，假设业务1的业务优先级较高，业务2和业务3的业务优先级较低，那么，针对业务1设置了第一物理资源使用率阈值(90％)，针对业务2和业务3设置了第二物理资源使用率阈值(70％)。
那么，本申请实施例中，在判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，对不同业务对应的API请求执行不同的限流策略时，一种较佳地实现方式为：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略。
例如，若判定所述后端服务器的物理资源使用率达到70％，则对业务2和业务3的API请求执行限流策略。此时，由于业务1的优先级较高，在物理资源使用率达到70％时，不会对业务1的API请求执行限流策略。
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
例如，若判定所述后端服务器的物理资源使用率达到90％，则对业务1的API请求执行限流策略。此时，由于业务2和业务3的优先级低，显然，在物理资源使用率达到90％时，也达到了70％，仍旧会对业务2和业务3的API请求执行限流策略。
本申请实施例中，对一个业务的API请求执行限流策略的步骤包括：
统计该业务在单位时间内的API访问量；判断该业务在单位时间内的API访问量是否超过设定阈值；若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
当然，也可以针对用户来进行API请求类型划分，即用户优先级较高，则针对该用户设置的物理资源使用率越大。这样，就可以实现对用户的流量进行针对性的限流。
示例性的，参阅图2所示，为本申请实施例提供的一种API网关限流方法的流程示意图；物理资源限流滤器，对后端服务器的物理资源监控，判断当前物理资源使用率是否超过阈值，若超过，则计数，接着判断单位时间访问量是否超过阈值，若超过，则拒绝访问或等待，若当前物理资源使用率未超过阈值，或者，单位时间访问量未超过阈值，则进入下一个过滤器或服务器。
基于与上述方法实施例同样的发明构思，示例性的，参阅图3所示，为本申请实施例提供的一种API网关限流装置的结构示意图，该装置包括：
监控单元30，用于监控后端服务器的物理资源使用率；
判断单元31，用于判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；
限流单元32，若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则所述限流单元用于对不同业务对应的API请求执行不同的限流策略。
可选地，监控后端服务器的物理资源使用率时，所述监控单元30具体用于：
监控后端服务器的内存使用率和/或CPU使用率。
可选地，判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值时，所述判断单元31具体用于：
判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
可选地，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值；
若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略时，所述限流单元32具体用于：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略；
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
可选地，对一个业务的API请求执行限流策略时，所述限流单元32具体用于：
统计该业务在单位时间内的API访问量；
判断该业务在单位时间内的API访问量是否超过设定阈值；
若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
综上可知，本申请实施例提供的API网关限流方法，监控后端服务器的物理资源使用率；判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。
采用本申请实施例提供的API网关限流方法，能够对服务器物理资源(如，CPU和内存)的监控，根据物理资源使用率对不同的API进行限流操作，增强了限流功能的实用性，避免了一般限流过滤器对服务器物理资源的浪费，而且当物理资源使用率较高时，可以设置对一般服务API的限流，进而保护重要服务API的运行。
以上这些单元可以是被配置成实施以上方法的一个或多个集成电路，例如：一个或多个特定集成电路(Application Specific Integrated Circuit，简称ASIC)，或，一个或多个微处理器(digital singnal processor，简称DSP)，或，一个或者多个现场可编程门阵列(Field Programmable Gate Array，简称FPGA)等。再如，当以上某个单元通过处理元件调度程序代码的形式实现时，该处理元件可以是通用处理器，例如中央处理器(CentralProcessingUnit，简称CPU)或其它可以调用程序代码的处理器。再如，这些单元可以集成在一起，以片上系统(system-on-a-chip，简称SOC)的形式实现。
进一步地，本申请实施例提供的API网关，从硬件层面而言，所述API网关的硬件架构示意图可以参见图4所示，所述API网关可以包括：存储器40和处理器41，
存储器40用于存储程序指令；处理器41调用存储器40中存储的程序指令，按照获得的程序指令执行上述方法实施例。具体实现方式和技术效果类似，这里不再赘述。
可选地，本申请还提供一种限流过滤器，包括用于执行上述方法实施例的至少一个处理元件(或芯片)。
可选地，本申请还提供一种程序产品，例如计算机可读存储介质，该计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令用于使该计算机执行上述方法实施例。
这里，机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置，可以包含或存储信息，如可执行指令、数据，等等。例如，机器可读存储介质可以是：RAM(RadomAccess Memory，随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等)，或者类似的存储介质，或者它们的组合。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机，计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且，这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上，使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。

Claims (10)

1.一种API网关限流方法，其特征在于，所述方法包括：
监控后端服务器的物理资源使用率；
判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；
若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略。
2.如权利要求1所述的方法，其特征在于，监控后端服务器的物理资源使用率的步骤包括：
监控后端服务器的内存使用率和/或CPU使用率。
3.如权利要求2所述的方法，其特征在于，判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值的步骤包括：
判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
4.如权利要求1-3任一项所述的方法，其特征在于，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值；
若判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略的步骤包括：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略；
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
5.如权利要求4所述的方法，其特征在于，对一个业务的API请求执行限流策略的步骤包括：
统计该业务在单位时间内的API访问量；
判断该业务在单位时间内的API访问量是否超过设定阈值；
若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
6.一种API网关限流装置，其特征在于，所述装置包括：
监控单元，用于监控后端服务器的物理资源使用率；
判断单元，用于判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值；
限流单元，若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则所述限流单元用于对不同业务对应的API请求执行不同的限流策略。
7.如权利要求6所述的装置，其特征在于，监控后端服务器的物理资源使用率时，所述监控单元具体用于：
监控后端服务器的内存使用率和/或CPU使用率。
8.如权利要求7所述的装置，其特征在于，判断所述后端服务器的物理资源使用率是否达到预设的物理资源使用率阈值时，所述判断单元具体用于：
判断所述后端服务器的内存使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的CPU使用率是否达到预设的物理资源使用率阈值；或者，
判断所述后端服务器的内存使用率和CPU使用率是否均达到预设的物理资源使用率阈值。
9.如权利要求6-8任一项所述的装置，其特征在于，基于各业务的业务优先级，针对不同优先级的业务设置有不同的物理资源使用率阈值，其中，高优先级业务对应的第一物理资源使用率阈值大于低优先级业务对应的第二第一物理资源使用率阈值；
若所述判断单元判定所述后端服务器的物理资源使用率达到所述物理资源使用率阈值，则对不同业务对应的API请求执行不同的限流策略时，所述限流单元具体用于：
若判定所述后端服务器的物理资源使用率达到所述第二物理资源使用率阈值，则对所述第二物理资源使用率阈值对应的业务的API请求执行限流策略；
若判定所述后端服务器的物理资源使用率达到所述第一物理资源使用率阈值，则对所述第一物理资源使用率阈值核所述第二物理资源使用率阈值对应的各业务的API请求执行限流策略。
10.如权利要求9所述的装置，其特征在于，对一个业务的API请求执行限流策略时，所述限流单元具体用于：
统计该业务在单位时间内的API访问量；
判断该业务在单位时间内的API访问量是否超过设定阈值；
若该业务在单位时间内的API访问量超过所述设定阈值，则拒绝接收该业务的API访问请求。
CN202111311725.9A 2021-11-08 2021-11-08 一种api网关限速方法及装置 Pending CN114039893A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111311725.9A CN114039893A (zh) 2021-11-08 2021-11-08 一种api网关限速方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111311725.9A CN114039893A (zh) 2021-11-08 2021-11-08 一种api网关限速方法及装置

Publications (1)

Publication Number Publication Date
CN114039893A true CN114039893A (zh) 2022-02-11

Family

ID=80143307

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111311725.9A Pending CN114039893A (zh) 2021-11-08 2021-11-08 一种api网关限速方法及装置

Country Status (1)

Country Link
CN (1) CN114039893A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115277863A (zh) * 2022-06-27 2022-11-01 中盈优创资讯科技有限公司 一种api路由的调度方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110838987A (zh) * 2019-10-08 2020-02-25 福建天泉教育科技有限公司 队列限流方法、存储介质
CN110996352A (zh) * 2019-12-20 2020-04-10 众安在线财产保险股份有限公司 一种流量控制方法、装置、计算机设备及存储介质
CN111475373A (zh) * 2020-03-10 2020-07-31 中国平安人寿保险股份有限公司 微服务下的服务控制方法、装置、计算机设备及存储介质
CN111767142A (zh) * 2020-06-23 2020-10-13 中国工商银行股份有限公司 服务节点的限流阈值设置方法和服务端设备
CN112286930A (zh) * 2020-09-29 2021-01-29 北京大米科技有限公司 redis业务方资源共享的方法、装置、存储介质及电子设备
CN112953840A (zh) * 2021-01-27 2021-06-11 上海金仕达成括信息科技有限公司 一种限流控制方法、网关设备及限流控制系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110838987A (zh) * 2019-10-08 2020-02-25 福建天泉教育科技有限公司 队列限流方法、存储介质
CN110996352A (zh) * 2019-12-20 2020-04-10 众安在线财产保险股份有限公司 一种流量控制方法、装置、计算机设备及存储介质
CN111475373A (zh) * 2020-03-10 2020-07-31 中国平安人寿保险股份有限公司 微服务下的服务控制方法、装置、计算机设备及存储介质
CN111767142A (zh) * 2020-06-23 2020-10-13 中国工商银行股份有限公司 服务节点的限流阈值设置方法和服务端设备
CN112286930A (zh) * 2020-09-29 2021-01-29 北京大米科技有限公司 redis业务方资源共享的方法、装置、存储介质及电子设备
CN112953840A (zh) * 2021-01-27 2021-06-11 上海金仕达成括信息科技有限公司 一种限流控制方法、网关设备及限流控制系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115277863A (zh) * 2022-06-27 2022-11-01 中盈优创资讯科技有限公司 一种api路由的调度方法
CN115277863B (zh) * 2022-06-27 2024-05-14 中盈优创资讯科技有限公司 一种api路由的调度方法

Similar Documents

Publication Publication Date Title
US10171632B2 (en) Controlling client access to a server application
EP3780541B1 (en) Identity information identification method and device
CN110768912B (zh) Api网关限流方法及装置
US8424007B1 (en) Prioritizing tasks from virtual machines
CN109525500B (zh) 一种自调整阈值的信息处理方法及信息处理装置
CN113726683B (zh) 访问限流方法、装置、设备、存储介质及计算机程序产品
CN111488135A (zh) 高并发系统的限流方法、装置、存储介质及设备
CN111045810B (zh) 一种任务调度处理方法及装置
CN108306874B (zh) 服务接口访问限流方法及装置
US10223536B2 (en) Device monitoring policy
CN115190078B (zh) 一种访问流量控制方法、装置、设备以及存储介质
CN111597040A (zh) 一种资源分配方法、装置、存储介质和电子设备
KR20140014285A (ko) 트래픽 제어 방법과 트래픽 제어 장치
CN106603256B (zh) 一种流量控制方法及装置
CN114039893A (zh) 一种api网关限速方法及装置
CN111935030A (zh) 一种多维度的流量控制方法及系统
CN110838987B (zh) 队列限流方法、存储介质
CN111385214B (zh) 一种流量控制方法、装置及设备
CN110351345B (zh) 用于业务请求处理的方法及装置
CN116467738A (zh) 一种数据处理方法及装置
CN111159129A (zh) 一种日志报表的统计方法及装置
CN113726673B (zh) 服务网关流控方法、装置、设备及存储介质
CN113783850A (zh) 一种网络防护方法、装置、设备及机器可读存储介质
CN111405000B (zh) 一种p2p网络资源共享方法和系统
CN116431327B (zh) 一种任务限流处理方法及堡垒机

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20220211