CN111817974B - 基于令牌桶的接口限流方法、装置、系统及可读存储介质 - Google Patents

基于令牌桶的接口限流方法、装置、系统及可读存储介质 Download PDF

Info

Publication number
CN111817974B
CN111817974B CN202010520643.4A CN202010520643A CN111817974B CN 111817974 B CN111817974 B CN 111817974B CN 202010520643 A CN202010520643 A CN 202010520643A CN 111817974 B CN111817974 B CN 111817974B
Authority
CN
China
Prior art keywords
interface
load
server
target adjustment
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010520643.4A
Other languages
English (en)
Other versions
CN111817974A (zh
Inventor
郑钦锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202010520643.4A priority Critical patent/CN111817974B/zh
Priority to PCT/CN2020/118251 priority patent/WO2021114829A1/zh
Publication of CN111817974A publication Critical patent/CN111817974A/zh
Application granted granted Critical
Publication of CN111817974B publication Critical patent/CN111817974B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/215Flow control; Congestion control using token-bucket
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Debugging And Monitoring (AREA)
  • Multi Processors (AREA)

Abstract

本发明涉及人工智能技术领域,提供一种基于令牌桶的接口限流方法、装置、系统及可读存储介质,所述方法包括以下步骤:监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;基于所述综合负载指标值,确定所述服务器的负载是否盈余;若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。本发明通过监测服务器的性能指标,在确定服务器的负载盈余时,对目标调整接口进行访问令牌数的调整,从而调整目标调整接口处理依赖访问令牌进行访问的访问请求数,实现对访问请求的灵活限流,提高限流的智能性。

Description

基于令牌桶的接口限流方法、装置、系统及可读存储介质
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于令牌桶的接口限流方法、装置、系统及计算机可读存储介质。
背景技术
在人工智能技术领域,大数据、大流量、高并发、分布式以及微服务都是当下的热点技术,数据量级的增加,必然导致软件系统架构的升级,让服务间的调用更加错综复杂,而服务间调用请求的积压很有可能导致服务雪崩,最终崩掉整个系统。
为解决上述技术问题,现有技术中一般采用接口限流的方式,其原理大体是使接口的请求量在服务器的承压范围之内。目前主流的限流方案有令牌桶和漏桶两种,其中,令牌桶是按照固定速率往桶中添加令牌,请求是否被处理需要看桶中令牌是否足够,当令牌数减为零时,则拒绝新的请求;而漏桶则是按照常量固定速率流出请求,流入请求速率任意,当流入的请求数累积到漏桶容量时,则新流入的请求被拒绝。
然而,令牌桶是按固定速率处理请求,如果此时服务器的负载盈余,那么就是浪费服务器的资源,而且若此时大量请求堆积过来,由于桶中没有多余令牌,还会造成请求拒绝。这使得,即使服务器的负载有盈余,请求依然会被拒绝、丢弃。漏桶也有类似的缺陷。当然,限流方案不止这两种,还有诸如基于计数器,redis(REmote DIctionary Server,key-value存储系统)的方案,但是它们也有着类似的缺陷。可见,现有限流方案智能性不足,无法进行灵活限流。
发明内容
本发明的主要目的在于提供一种基于令牌桶的接口限流方法、装置、系统及计算机可读存储介质,旨在提高限流的灵活性,实现智能限流。
为实现上述目的,本发明提供一种基于令牌桶的接口限流方法,所述基于令牌桶的接口限流方法包括以下步骤:
监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;
基于所述综合负载指标值,确定所述服务器的负载是否盈余;
若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
可选地,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述服务器对应的各接口的调整值;
基于所述调整值,确定所述服务器对应的目标调整接口,以及所述目标调整接口的目标调整值。
可选地,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值;
基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
可选地,所述性能指标包括负载指标,所述监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值的步骤包括:
遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度;
基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
可选地,所述基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标的步骤包括:
依次确定各所述接口对应的负载参数,并基于各所述接口的访问处理量,确定各所述接口的负载参数的负载值;
基于各所述接口的负载敏感度,确定各所述接口的负载参数的权重值;
基于所述负载值和所述权重值,依次计算各所述接口的负载指标。
此外,为实现上述目的,本发明还提供一种基于令牌桶的接口限流装置,所述基于令牌桶的接口限流装置包括:
计算模块,用于监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;
判断模块,用于基于所述综合负载指标值,确定所述服务器的负载是否盈余;
确定模块,用于若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
配置模块,用于基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述服务器对应的各接口的调整值;
基于所述调整值,确定所述服务器对应的目标调整接口,以及所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值;
基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
可选地,所述计算模块还用于:
遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度;
基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
可选地,所述计算模块还用于:
依次确定各所述接口对应的负载参数,并基于各所述接口的访问处理量,确定各所述接口的负载参数的负载值;
基于各所述接口的负载敏感度,确定各所述接口的负载参数的权重值;
基于所述负载值和所述权重值,依次计算各所述接口的负载指标。
此外,为实现上述目的,本发明还提供一种基于令牌桶的接口限流系统,所述基于令牌桶的接口限流系统包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的基于令牌桶的接口限流程序,其中所述基于令牌桶的接口限流程序被所述处理器执行时,实现如上述的基于令牌桶的接口限流方法的步骤。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有基于令牌桶的接口限流程序,其中所述基于令牌桶的接口限流程序被处理器执行时,实现如上述的基于令牌桶的接口限流方法的步骤。
本发明提供一种基于令牌桶的接口限流方法,监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;基于所述综合负载指标值,确定所述服务器的负载是否盈余;若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。本发明通过监测服务器的性能指标,在确定服务器的负载盈余时,对目标调整接口进行访问令牌数的调整,从而调整目标调整接口处理依赖访问令牌进行访问的访问请求数,实现对访问请求的灵活限流,提高限流的智能性。
附图说明
图1为本发明实施例方案中涉及的基于令牌桶的接口限流系统的硬件结构示意图;
图2为本发明基于令牌桶的接口限流方法第一实施例的流程示意图;
图3为本发明基于令牌桶的接口限流装置第一实施例的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例涉及的基于令牌桶的接口限流方法主要应用于基于令牌桶的接口限流系统,该基于令牌桶的接口限流系统可以包括PC、便携计算机、移动终端等具有显示和处理功能的设备。
参照图1,图1为本发明实施例方案中涉及的基于令牌桶的接口限流系统的硬件结构示意图。本发明实施例中,基于令牌桶的接口限流系统可以包括处理器1001(例如CPU),通信总线1002,用户接口1003,网络接口1004,存储器1005。其中,通信总线1002用于实现这些组件之间的连接通信;用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard);网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口);存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器,存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的硬件结构并不构成对基于令牌桶的接口限流系统的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
继续参照图1,图1中作为一种计算机可读存储介质的存储器1005可以包括操作系统、网络通信模块以及基于令牌桶的接口限流程序。
在图1中,网络通信模块主要用于连接服务器,与服务器进行数据通信;而处理器1001可以调用存储器1005中存储的基于令牌桶的接口限流程序,并执行本发明实施例提供的基于令牌桶的接口限流方法。
本发明实施例提供了一种基于令牌桶的接口限流方法。
参照图2,图2为本发明基于令牌桶的接口限流方法第一实施例的流程示意图。
本实施例中,所述基于令牌桶的接口限流方法包括以下步骤:
步骤S10,监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;
步骤S20,基于所述综合负载指标值,确定所述服务器的负载是否盈余;
步骤S30,若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
步骤S40,基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
本实施例的基于令牌桶的接口限流方法应用于基于令牌桶的接口限流系统,为描述方便,基于令牌桶的接口限流系统以限流系统简称,本实施例的限流系统在处理大数据调用的过程中,基于人工智能技术,对外暴露多个接口,外部系统若基于暴露的接口向服务器发起访问请求,限流系统则基于令牌桶技术对访问请求进行限流,避免访问请求过多,超过服务器的承压能力,引起服务器系统崩溃。
虽然现有技术有多种限流方案,但是都不尽如意,比如服务器上只有一个应用,该应用暴露出A、B两个接口,采用令牌桶的方案来进行基于令牌桶的接口限流:假设A桶(对应于A接口)每秒生成5个令牌,即A接口每秒只能处理5个访问请求;B桶(对应于B接口)每秒生成10个令牌,即B接口每秒只能处理10个访问请求,(假设A、B两个接口消耗服务器资源相等),此时服务器满负载。
若一段时间后,B接口的调用量降低至每秒5个请求,也即B接口当前只处理5个访问请求,此时,服务器的负载由于少处理5个访问请求而降低,即服务器不再满载,但若这段时间A接口的调用量上升到每秒10个请求,但是由于A桶每秒只能生成5个令牌,那么必然会造成A接口这边会因为缺少5个令牌而丢弃掉5个访问请求。可见,此时的服务器资源并没有得到最优化利用,访问请求也不能得到及时处理。
本实施例在现有令牌桶技术的基础上,通过监测服务器的性能指标,在确定服务器的负载盈余时,也即服务器还有资源可以处理其他事项时,确定对应的目标调整接口,并对目标调整接口进行访问令牌数的调整,使得目标调整接口处理访问请求的能力随访问令牌数改变,实现对访问请求的灵活限流,提高限流的智能性。
以下将对各个步骤进行详细的说明:
步骤S10,监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值。
在本实施例中,限流系统实时或者定时监测服务器的性能指标,其中,性能指标包括负载参数,如cpu,io,线程数量等,具体的,可通过开源框架,如Pinpoint(分布式性能监控工具)和Skywalking(分布式追踪系统)等,实时或者定时共聚服务器的性能指标。此外,还可以事先编写相应的agent(代理)脚本去监控服务器的性能指标,限流系统只需接收agent上报的服务器的性能指标即可。
然后,根据确定的服务器的性能指标,计算服务器的综合负载指标值,具体的,将确定的服务器的性能指标代入预设负载公式中。
其中,预设负载公式可为:
综合负载指标值=负载参数1*权重值1+负载参数2*权重值2+负载参数3*权重值3......
以性能指标包括cpu,io,线程数量等负载参数为例,预设负载公式可为:
综合负载指标值=cpu负载数据*50%+io负载数据*40%+线程数据*10%
因此,在具体实施时,只需将监测得到的负载参数代入预设负载公式中,即可计算得到服务器的综合负载指标值。
步骤S20,基于所述综合负载指标值,确定所述服务器的负载是否盈余。
在本实施例中,将计算得到的综合负载指标值与服务器满载时的综合负载指标值进行比较,若计算得到的综合负载指标值小于服务器满载时的综合负载指标值,则确定服务器的负载盈余,即服务器还有能力处理其他事项;若计算得到的综合负载指标值等于服务器满载时的综合负载指标值,则确定服务器的负载没有盈余,即服务器没有能力再处理其他事项。
可以理解的,服务器满载时的综合负载指标值可事先通过模拟测得。
步骤S30,若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值。
在本实施例中,若确定服务器的负载盈余,也即服务器有能力处理其他事项,则确定服务器对应的目标调整接口,也即确定需要对哪个接口进行调整,本实施例中,可从服务器对应的所有接口中,随机确定目标调整接口。
接着,确定服务器的负载盈余量,再根据负载盈余量确定目标调整接口的目标调整值,其中,负载盈余量指的是当前服务器相对满载时的服务器下降的负载百分比,在具体实施时,将服务器满载时的综合负载指标值减去计算得到的综合负载指标值,得到的差值除以服务器满载时的综合负载指标值,即为负载盈余量。最后,根据负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定目标调整接口的目标调整值。
其中,负载盈余量与调整值的关系曲线图指的是服务器在不同负载盈余量下,各接口的调整值的变化曲线图,具体可事先通过大量模拟测试得到,如当前有A和B两个接口,在服务器满载时,记录A接口和B接口的访问处理量,通过单一变量原则,依次保持A接口或者B接口不变,降低服务器的负载,如降低5个百分点,也即服务器的负载盈余量为5%,此时,再记录A接口或者B接口的访问处理量,将两次记录的A接口或者B接口的访问处理量进行相减,即可得到服务器的负载盈余量为5%时,A接口或者B接口的调整值,基于此原理,依次记录在不同负载盈余量下,服务器对应的接口的调整值,即可得到负载盈余量与调整值的关系曲线图。
因此,可通过当前服务器的负载盈余量,以及确定的目标调整接口,在负载盈余量与调整值的关系曲线图中,查找到对应的目标调整值。
进一步地,在一实施例中,步骤S30包括:
步骤a1,若盈余,则确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述服务器对应的各接口的调整值;
在一实施例中,若确定服务器的负载盈余,也即服务器有能力处理其他事项,则确定服务器的负载盈余量,再通过预构建的负载盈余量与调整值的关系曲线图,确定服务器对应的各接口的调整值,如当前有A和B接口,服务器的负载盈余量为5%,则确定A接口的调整值,如10,即服务器综合负载指标值每下降5个百分点,A接口可以多处理10个访问请求;B接口的调整值,如20,即服务器综合负载指标值每下降5个百分点B接口可以多处理20个访问请求等。
步骤a2,基于所述调整值,确定所述服务器对应的目标调整接口,以及所述目标调整接口的目标调整值。
在一实施例中,根据确定的服务器各接口的调整值,确定服务器对应的目标调整接口,具体的,可以调整值最大的接口作为服务器对应的目标调整接口,再确定目标调整接口的目标调整值,如上述例子,A接口的调整值为10,B接口的调整值为20,则将B接口确定为目标调整接口,将20确定为目标调整值。
也即,在一实施例中,在确定服务器有盈余量时,先确定各接口的调整幅度,然后将调整幅度最大的接口确定为目标调整接口,使得服务器可以处理更多的访问请求,提高处理效率。
步骤S40,基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
在本实施例中,基于目标调整值,更新配置目标调整接口的访问令牌数,也即,在确定了目标调整接口的目标调整值之后,对目标调整接口进行访问令牌数的调整,如A接口原来的访问令牌数是5个,也即A每秒只能处理5个访问请求,在服务器负载盈余时,A接口的目标调整值为10,则将A接口的访问令牌数更新配置为15个,使得A接口每秒可以处理15个访问请求。
本实施例提供一种基于令牌桶的接口限流方法,监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;基于所述综合负载指标值,确定所述服务器的负载是否盈余;若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。本发明通过监测服务器的性能指标,在确定服务器的负载盈余时,对目标调整接口进行访问令牌数的调整,从而调整目标调整接口处理依赖访问令牌进行访问的访问请求数,实现对访问请求的灵活限流,提高限流的智能性。
进一步地,基于第一实施例提出本发明基于令牌桶的接口限流方法的第二实施例。
基于令牌桶的接口限流方法的第二实施例与基于令牌桶的接口限流方法的第一实施例的区别在于,步骤S30包括:
步骤a3,若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口;
步骤a4,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
本实施例通过接口类型来确定服务器对应的目标调整接口,其中接口类型用于表征接口的重要程度,也即在确定服务器负载盈余时,优先将服务器的资源用于重要接口的处理上,提高限流的灵活性,实现智能限流。
以下将对各个步骤进行详细说明:
步骤a3,若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口。
在本实施例中,若确定服务器的负载盈余,也即服务器有能力处理其他事项,则确定服务器对应的各接口的接口类型,其中,接口类型包括业务接口,安全接口等,业务接口用于业务功能的调用,如银行等金融机构的信贷业务功能的调用等,安全接口用于安全功能的调用,如系统日志信息的调用等。
然后,根据接口类型,确定服务器对应的目标调整接口。在本实施例中,安全接口的优先级大于业务接口的优先级,因此,优先确定安全接口为目标调整接口,如A接口为安全接口,B接口为业务接口,则确定A接口为目标调整接口。
步骤a4,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
在本实施例中,在确定好服务器对应的目标调整接口之后,进一步确定服务器的负载盈余量,再根据负载盈余量,在预构建的负载盈余量与调整值的关系曲线图中,查找目标调整接口的目标调整值,具体过程与上述实施例类似,在此不再赘述。
也即,本实施例在确定服务器负载盈余时,根据接口类型为确定目标调整接口,而不用管负载盈余量或者接口的调整值,使得优先级较高的接口类型可以得到较快响应。
本实施例通过接口类型来确定服务器对应的目标调整接口,也即在确定服务器负载盈余时,优先将服务器的资源用于重要接口的处理上,提高限流的灵活性,实现智能限流。
进一步地,基于第一、第二实施例提出本发明基于令牌桶的接口限流方法的第三实施例。
基于令牌桶的接口限流方法的第三实施例与基于令牌桶的接口限流方法的第一、第二实施例的区别在于,步骤S30包括:
步骤a5,若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口;
步骤a6,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
本实施例通过服务器对应的各接口的访问请求量来确定服务器对应的目标调整接口,其中,访问请求量指的是外部系统基于接口发起的访问请求数,也即调用量,也即在确定服务器负载盈余时,优先将服务器的资源用于调用需求较大的接口的处理上,提高限流的灵活性,实现智能限流。
以下将对各个步骤进行详细说明:
步骤a5,若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口。
在本实施例中,若确定服务器的负载盈余,也即服务器有能力处理其他事项,则确定服务器对应的各接口的访问请求量,再根据访问请求量,确定哪个接口的调用需求较大。
在具体实施过程中,还可以各接口因访问令牌数不足而丢弃的访问请求数来确定服务器的目标调整接口,也即,丢弃的访问请求数最多的接口说明该接口的调用需求大,则将该接口确定为目标调整接口。
步骤a6,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
在本实施例中,在确定好服务器对应的目标调整接口之后,进一步确定服务器的负载盈余量,再根据负载盈余量,在预构建的负载盈余量与调整值的关系曲线图中,查找目标调整接口的目标调整值,具体过程与上述实施例类似,在此不再赘述。
也即,本实施例在确定服务器负载盈余时,根据各接口的访问请求量,也即调用需求,从中选择调用需求较大的接口作为目标调整接口,而不用管负载盈余量或者接口的调整值,使得调用需求较大的接口可以得到较快响应。
本实施例通过服务器对应的各接口的访问请求量来确定服务器对应的目标调整接口,也即在确定服务器负载盈余时,优先将服务器的资源用于调用需求较大的接口的处理上,提高限流的灵活性,实现智能限流。
进一步地,基于第一、第二、第三实施例提出本发明基于令牌桶的接口限流方法的第四实施例。
基于令牌桶的接口限流方法的第四实施例与基于令牌桶的接口限流方法的第一、第二、第三实施例的区别在于,步骤S30包括:
步骤a7,若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口;
步骤a8,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值;
步骤a9,基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
本实施例若确定服务器对应的目标调整接口有多个,则根据各目标调整接口的调整比值来确定对应的目标调整值,使得各接口得到均匀的调整,提高限流的灵活性,实现智能限流。
以下将对各个步骤进行详细说明:
步骤a7,若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口。
在本实施例中,若确定服务器的负载盈余,也即服务器有能力处理其他事项,则确定服务器对应的目标调整接口,具体过程可参见上述实施例,在此不再赘述目标调整接口的确定过程。
需要说明的是,本实施例的目标调整接口至少包括第一目标调整接口和第二目标调整接口,也即目标调整接口有多个的情况。
步骤a8,确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值。
在本实施例中,在确定服务器对应的目标调整接口有多个后,进一步确定服务器的负载盈余量,再根据负载盈余量,在预构建的负载盈余量与调整值的关系曲线图中,查找第一目标调整接口的第一调整值,以及第二目标调整接口的第二调整值,然后将第一调整值除以第二调整值,得到第一目标调整接口与第二目标调整接口的调整比值。
可以理解的,若目标调整接口有三个或以上,则也依次确定各目标调整接口的调整值,再将各目标调整接口的调整值进行比较,得到对应的调整比值。
步骤a9,基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
在本实施例中,基于服务器的负载盈余量。预构建的负载盈余量与调整值的关系曲线图和各目标调整接口的调整比值,确定各目标调整接口的目标调整值。
以A接口和B接口都为目标调整接口,服务器的负载盈余量为5%为例,假设在只有A接口的情况下,A接口在曲线关系图中的调整值为10,在只有B接口的情况下,B接口在曲线关系图中的调整值为20,则A接口与B接口的调整比值为1:2,则A接口最终的目标调整值为10*1/2=5,B接口最终的目标调整值为20*1/2=10。
也即,本实施例在确定服务器负载盈余,且目标调整接口有多个的情况下,将服务器的资源均匀的用于各目标调整接口的处理上,使得各目标调整接口都能得到较快响应。
本实施例若确定服务器对应的目标调整接口有多个,则根据各目标调整接口的调整比值来确定对应的目标调整值,使得各接口得到均匀的调整,提高限流的灵活性,实现智能限流。
进一步地,基于第一、第二、第三、第四实施例提出本发明基于令牌桶的接口限流方法的第五实施例。
基于令牌桶的接口限流方法的第五实施例与基于令牌桶的接口限流方法的第一、第二、第三、第四实施例的区别在于,所述性能指标包括负载指标,步骤S10包括:
步骤b1,遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度;
步骤b2,基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
本实施例通过计算各接口的负载指标来表示服务器的综合负载指标值,使得计算得到的综合负载指标值与各接口密切相关,以便后续对接口进行调整时,能更加准确。
以下将对各个步骤进行详细说明:
步骤b1,遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度。
在本实施例中,遍历确定服务器对应的各接口的访问处理量,也即当前各接口的调用压力,并确定各接口的负载敏感度,其中,负载敏感度指的是当前接口处理访问请求时,对负载参数,如cpu,io,线程数量等的敏感程度,具体以处理一个访问请求所引起的负载参数的负载变化值来衡量,即以当前接口处理访问请求前的负载值与当前接口处理访问请求后的负载值的差值来衡量,如当前接口处理访问请求前的cpu值与当前接口处理访问请求后的cpu值的差值,即为当前接口的负载敏感度。
步骤b2,基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
在本实施例中,基于各接口的访问处理量和负载敏感程度,依次计算各接口的负载指标,从而将各接口的负载指标相加,得到服务器的综合负载指标值。
具体的计算过程包括:
步骤b21,依次确定各所述接口对应的负载参数,并基于各所述接口的访问处理量,确定各所述接口的负载参数的负载值;
依次确定各接口对应的负载参数,也即确定各接口在处理访问请求时需要占用服务器的哪些性能,如A接口对应的负载参数为cpu,io,线程数量,说明A接口在处理访问请求时,会占用服务器的cpu、io和线程数量等性能,B接口对应的负载参数为cpu,io,说明B接口在处理访问请求时,会占用服务器的cpu和io等性能。
然后,根据各接口的访问处理量,确定各接口的负载参数的负载值,如A接口处理一个访问请求所需cpu为5,若此时A接口的访问处理量为10,则所需cpu为50,50即为cpu的负载值。
步骤b22,基于各所述接口的负载敏感度,确定各所述接口的负载参数的权重值;
基于各接口的负载敏感度,确定各接口的负载参数的权重值,如当前接口的负载敏感度分别为cpu为5,io为4,线程数量为1,则确定cpu,io和线程数量的权重值为5:4:1。
步骤b23,基于所述负载值和所述权重值,依次计算各所述接口的负载指标。
将负载参数的负载值和权重值,代入预设接口负载公式中,其中预设接口负载公式可为:
负载指标=负载值1*权重值1+负载值2*权重值2+负载值3*权重值3......
以当前接口的负载参数具体为cpu=20,io=33,线程数量=1为例,当前接口的负载指标=20*5+33*4+1*1=233。
最后,将各接口的负载指标相加,即可得到服务器的综合负载指标值。
本实施例通过计算各接口的负载指标来表示服务器的综合负载指标值,使得计算得到的综合负载指标值与各接口密切相关,以便后续对接口进行调整时,能更加准确。
此外,本发明实施例还提供一种基于令牌桶的接口限流装置。
参照图3,图3为本发明基于令牌桶的接口限流装置第一实施例的功能模块示意图。
本实施例中,所述基于令牌桶的接口限流装置包括:
计算模块10,用于监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值;
判断模块20,用于基于所述综合负载指标值,确定所述服务器的负载是否盈余;
确定模块30,用于若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
配置模块40,用于基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述服务器对应的各接口的调整值;
基于所述调整值,确定所述服务器对应的目标调整接口,以及所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
可选地,所述确定模块还用于:
若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值;
基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
可选地,所述计算模块还用于:
遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度;
基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
可选地,所述计算模块还用于:
依次确定各所述接口对应的负载参数,并基于各所述接口的访问处理量,确定各所述接口的负载参数的负载值;
基于各所述接口的负载敏感度,确定各所述接口的负载参数的权重值;
基于所述负载值和所述权重值,依次计算各所述接口的负载指标。
其中,上述基于令牌桶的接口限流装置中各个模块与上述基于令牌桶的接口限流方法实施例中各步骤相对应,其功能和实现过程在此处不再一一赘述。
此外,本发明实施例还提供一种计算机可读存储介质。
本发明计算机可读存储介质上存储有基于令牌桶的接口限流程序,其中所述基于令牌桶的接口限流程序被处理器执行时,实现如上述的基于令牌桶的接口限流方法的步骤。
其中,基于令牌桶的接口限流程序被执行时所实现的方法可参照本发明基于令牌桶的接口限流方法的各个实施例,此处不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于令牌桶的接口限流方法,其特征在于,所述基于令牌桶的接口限流方法包括以下步骤:
监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值,所述综合负载指标值为所述服务器的性能指标带入预设负载公式中得到的,所述预设负载公式为:综合负载指标值=负载参数1*权重值1+负载参数2*权重值2+负载参数3*权重值3......;
基于所述综合负载指标值,确定所述服务器的负载是否盈余;
若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
2.如权利要求1所述的基于令牌桶的接口限流方法,其特征在于,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述服务器对应的各接口的调整值;
基于所述调整值,确定所述服务器对应的目标调整接口,以及所述目标调整接口的目标调整值。
3.如权利要求1所述的基于令牌桶的接口限流方法,其特征在于,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的各接口的接口类型,并基于所述接口类型,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
4.如权利要求1所述的基于令牌桶的接口限流方法,其特征在于,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的各接口的访问请求量,并基于所述访问请求量,确定所述服务器对应的目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述目标调整接口的目标调整值。
5.如权利要求1所述的基于令牌桶的接口限流方法,其特征在于,所述若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值的步骤包括:
若盈余,则确定所述服务器对应的目标调整接口,所述目标调整接口至少包括第一目标调整接口和第二目标调整接口;
确定所述服务器的负载盈余量,并基于所述负载盈余量和预构建的负载盈余量与调整值的关系曲线图,确定所述第一目标调整接口与所述第二目标调整接口的调整比值;
基于所述负载盈余量、所述关系曲线图和所述调整比值,确定所述第一目标调整接口的第一目标调整值,以及所述第二目标调整接口的第二目标调整值。
6.如权利要求1至5任一项所述的基于令牌桶的接口限流方法,其特征在于,所述性能指标包括负载指标,所述监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值的步骤包括:
遍历确定所述服务器对应的各接口的访问处理量,以及各所述接口的负载敏感度;
基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标,并基于所述负载指标,计算所述服务器的综合负载指标值。
7.如权利要求6所述的基于令牌桶的接口限流方法,其特征在于,所述基于所述访问处理量和所述负载敏感度,依次计算各所述接口的负载指标的步骤包括:
依次确定各所述接口对应的负载参数,并基于各所述接口的访问处理量,确定各所述接口的负载参数的负载值;
基于各所述接口的负载敏感度,确定各所述接口的负载参数的权重值;
基于所述负载值和所述权重值,依次计算各所述接口的负载指标。
8.一种基于令牌桶的接口限流装置,其特征在于,所述基于令牌桶的接口限流装置包括:
计算模块,用于监测服务器的性能指标,并基于所述性能指标,计算所述服务器的综合负载指标值,所述综合负载指标值为所述服务器的性能指标带入预设负载公式中得到的,所述预设负载公式为:综合负载指标值=负载参数1*权重值1+负载参数2*权重值2+负载参数3*权重值3......;
判断模块,用于基于所述综合负载指标值,确定所述服务器的负载是否盈余;
确定模块,用于若盈余,则确定所述服务器对应的目标调整接口,并确定所述目标调整接口的目标调整值;
配置模块,用于基于所述目标调整值,更新配置所述目标调整接口的访问令牌数。
9.一种基于令牌桶的接口限流系统,其特征在于,所述基于令牌桶的接口限流系统包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的基于令牌桶的接口限流程序,其中所述基于令牌桶的接口限流程序被所述处理器执行时,实现如权利要求1至7中任一项所述的基于令牌桶的接口限流方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有基于令牌桶的接口限流程序,其中所述基于令牌桶的接口限流程序被处理器执行时,实现如权利要求1至7中任一项所述的基于令牌桶的接口限流方法的步骤。
CN202010520643.4A 2020-06-09 2020-06-09 基于令牌桶的接口限流方法、装置、系统及可读存储介质 Active CN111817974B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010520643.4A CN111817974B (zh) 2020-06-09 2020-06-09 基于令牌桶的接口限流方法、装置、系统及可读存储介质
PCT/CN2020/118251 WO2021114829A1 (zh) 2020-06-09 2020-09-28 基于令牌桶的接口限流方法、装置、系统及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010520643.4A CN111817974B (zh) 2020-06-09 2020-06-09 基于令牌桶的接口限流方法、装置、系统及可读存储介质

Publications (2)

Publication Number Publication Date
CN111817974A CN111817974A (zh) 2020-10-23
CN111817974B true CN111817974B (zh) 2022-11-15

Family

ID=72844850

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010520643.4A Active CN111817974B (zh) 2020-06-09 2020-06-09 基于令牌桶的接口限流方法、装置、系统及可读存储介质

Country Status (2)

Country Link
CN (1) CN111817974B (zh)
WO (1) WO2021114829A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112600760B (zh) * 2020-12-08 2022-06-14 厦门服云信息科技有限公司 一种应用层流量限速方法、终端设备及存储介质
CN113067875B (zh) * 2021-03-24 2023-06-02 厦门立林科技有限公司 基于微服务网关动态流控的访问方法和装置以及设备
CN113992596A (zh) * 2021-10-18 2022-01-28 北京沃东天骏信息技术有限公司 一种接口限流方法、装置、设备、系统和存储介质
CN114024908B (zh) * 2021-11-03 2024-10-29 蚂蚁胜信(上海)信息技术有限公司 实时自适应限流方法、限流服务系统和限流器
CN114844835B (zh) * 2022-07-04 2022-09-20 眉山环天智慧科技有限公司 一种自适应动态限流方法、设备
CN115314441A (zh) * 2022-08-02 2022-11-08 支付宝实验室(新加坡)有限公司 分布式集群的限流方法、装置和电子设备
CN115442432B (zh) * 2022-09-06 2024-06-07 上海浦东发展银行股份有限公司 一种控制方法、装置、设备及存储介质
CN115277577B (zh) * 2022-09-28 2023-04-28 平安银行股份有限公司 数据处理方法、装置、计算机设备和计算机可读存储介质
CN117061526B (zh) * 2023-10-12 2023-12-12 人力资源和社会保障部人事考试中心 一种基于全局与局部业务访问控制的访问高峰防拥塞方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107483351A (zh) * 2017-07-13 2017-12-15 中国银联股份有限公司 一种限流方法及装置
CN109842565A (zh) * 2018-12-15 2019-06-04 平安科技(深圳)有限公司 接口限流方法、装置、电子设备及存储介质
CN109861920A (zh) * 2019-01-16 2019-06-07 深圳市融汇通金科技有限公司 一种弹性限流的方法及装置
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120127864A1 (en) * 2010-11-22 2012-05-24 Avaya Inc. Performing policing operations in packet time
CN107222426B (zh) * 2016-03-21 2021-07-20 阿里巴巴集团控股有限公司 控流的方法、装置及系统
CN106201722A (zh) * 2016-07-12 2016-12-07 乐视控股(北京)有限公司 服务器的负载调整方法及系统
CN106603695B (zh) * 2016-12-28 2020-10-02 北京奇艺世纪科技有限公司 一种每秒查询率的调整方法及装置
CN107547433B (zh) * 2017-07-03 2020-12-22 创新先进技术有限公司 基于令牌漏桶进行限流的方法、装置和设备
CN108073465A (zh) * 2017-12-29 2018-05-25 中国平安人寿保险股份有限公司 动态限流方法、Nginx服务器、存储介质及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107483351A (zh) * 2017-07-13 2017-12-15 中国银联股份有限公司 一种限流方法及装置
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN109842565A (zh) * 2018-12-15 2019-06-04 平安科技(深圳)有限公司 接口限流方法、装置、电子设备及存储介质
CN109861920A (zh) * 2019-01-16 2019-06-07 深圳市融汇通金科技有限公司 一种弹性限流的方法及装置

Also Published As

Publication number Publication date
WO2021114829A1 (zh) 2021-06-17
CN111817974A (zh) 2020-10-23

Similar Documents

Publication Publication Date Title
CN111817974B (zh) 基于令牌桶的接口限流方法、装置、系统及可读存储介质
CN108776934B (zh) 分布式数据计算方法、装置、计算机设备及可读存储介质
US8301761B2 (en) Determining server load capacity with virtual users
US9336059B2 (en) Forecasting capacity available for processing workloads in a networked computing environment
US10783002B1 (en) Cost determination of a service call
US20080077652A1 (en) Method and system for providing an enhanced service-oriented architecture
CN109144700B (zh) 超时时长的确定方法、装置、服务器和数据处理方法
CN108683605B (zh) 一种服务调用的限流方法和装置
CN109257758B (zh) 一种网络扩容方法及装置
CN107295090A (zh) 一种资源调度的方法和装置
CN111324471B (zh) 服务调整方法、装置、设备及存储介质
CN113381944A (zh) 系统限流方法、装置、电子设备、介质和程序产品
CN111767142A (zh) 服务节点的限流阈值设置方法和服务端设备
CN109191287A (zh) 一种区块链智能合约的分片方法、装置及电子设备
US20210360058A1 (en) Job allocation support system and method
CN113377866A (zh) 一种虚拟化数据库代理服务的负载均衡方法及装置
CN115190010B (zh) 基于软件服务依赖关系的分布推荐方法和装置
Liao et al. A resource provision strategy for software-as-a-service in cloud computing
US20240249160A1 (en) Prediction apparatus, prediction method and prediction program
WO2020000724A1 (zh) 云平台主机间通信负载的处理方法、电子装置及介质
CN113392010B (zh) 公共组件测试方法、装置、电子设备及存储介质
CN115801791A (zh) 一种实现负载均衡的方法和负载均衡器
CN104899072A (zh) 基于虚拟化平台的细粒度资源调度系统及方法
CN111598390B (zh) 服务器高可用性评估方法、装置、设备和可读存储介质
CN114006907A (zh) 分布式服务器的服务降级方法、装置、电子设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant