CN114884889A - 一种关于分布式服务的组合限流方法 - Google Patents

一种关于分布式服务的组合限流方法 Download PDF

Info

Publication number
CN114884889A
CN114884889A CN202210808578.4A CN202210808578A CN114884889A CN 114884889 A CN114884889 A CN 114884889A CN 202210808578 A CN202210808578 A CN 202210808578A CN 114884889 A CN114884889 A CN 114884889A
Authority
CN
China
Prior art keywords
server
request
quota
current
client
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210808578.4A
Other languages
English (en)
Other versions
CN114884889B (zh
Inventor
孙超
刘会议
信文帅
党美
张建树
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanwei Xin'an Technology Co ltd
Original Assignee
Sanwei Xin'an Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanwei Xin'an Technology Co ltd filed Critical Sanwei Xin'an Technology Co ltd
Priority to CN202210808578.4A priority Critical patent/CN114884889B/zh
Publication of CN114884889A publication Critical patent/CN114884889A/zh
Application granted granted Critical
Publication of CN114884889B publication Critical patent/CN114884889B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/20—Traffic policing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0852—Delays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic
    • H04L63/1458—Denial of Service

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种关于分布式服务的组合限流方法，为涉及客户端SDK和服务端组合限制流量的方法，在一般的分布式限流方法基础上，重点解决了客户端的频繁访问或者限流配额巨大导致的服务端或者存储介质处理异常甚至崩溃的技术问题，对服务端和存储服务均进行了有效保护。

Description

一种关于分布式服务的组合限流方法
技术领域
本发明涉及分布式服务流量管控技术领域，更具体的说是涉及一种关于分布式服务的组合限流方法。
背景技术
目前，互联网流量管控技术领域的分布式服务限流方案一般都是在服务端采用某种固定限流算法实现。
但是，这种方案无法避免客户端对服务端的访问攻击，客户端的所有请求接收后都进行验证，不仅是对服务端性能的考验，对存储服务性能也是一种考验，而且无效的请求更是造成服务器流量的巨大浪费。当限流配额巨大时，每一个请求都访问存储服务，存储服务的性能未必可以达到限流配额，从而导致限流效果不理想。
因此，如何避免客户端对服务端的访问攻击，提高服务器限流效果是本领域技术人员亟需解决的问题。
发明内容
有鉴于此，本发明提供了一种关于分布式服务的组合限流方法，为涉及客户端SDK和服务端组合限制流量的方法，在一般的分布式限流方法基础上，重点解决了客户端的频繁访问或者限流配额巨大导致的服务端或者存储介质处理异常甚至崩溃的技术问题，对服务端和存储服务均进行了有效保护。
为了实现上述目的，本发明采用如下技术方案：
一种关于分布式服务的组合限流方法，包括以下步骤：
步骤1：设定每秒限流总配额P，根据限流总配额计算每次请求的限流配额；
限流配额p的表达式为：限流配额p=t/1000*P；
p表示限流配额；t表示固定时间；P表示每秒限流总配额；
步骤2：服务端记录服务器上次请求时间戳ST0和上次存储服务返回的服务器等待时间间隔st；
步骤3：SDK记录客户端上次请求时间戳CT0和上次服务端返回的客户端等待时间间隔ct；
步骤4：当客户端再次调用SDK后，SDK计算客户端请求时间间隔ct1，表示为：
客户端请求时间间隔ct1=客户端当前请求时间戳CT1-客户端上次请求时间戳CT0；
步骤5：若客户端请求时间间隔ct1小于客户端等待时间间隔ct，则直接拒绝；反之，SDK将请求发送服务端；
步骤6：服务端接收客户端发送的请求后，服务端计算服务器请求时间间隔st1，表示为:
服务器请求时间间隔st1=服务器当前请求时间戳ST1-服务器上次请求时间戳ST0；
步骤7：若服务器请求时间间隔st1小于服务器等待时间间隔st，则直接拒绝；反之，进入步骤8；
步骤8：若服务器请求时间间隔st1小于预设固定时间<t，且限流配额p大于0，则请求通过，同时限流配额p减1；反之，进入步骤9；
步骤9：服务端原子访问存储服务，获取固定时间t的限流配额p，，同时根据限流总配额和限流配额计算限流余额p’；
限流余额的表达式为：
p’=P-p；
p表示限流配额；P表示每秒限流总配额；p’表示限流余额；
步骤10：如果限流余额大于0，则限流配额p获取成功，请求通过，限流配额p减1；否则，限流配额p获取失败，则拒绝请求，存储服务响应新的服务器等待时间间隔st反馈至服务端，并且服务端重新记录服务器上次请求时间戳ST0，返回步骤4。
经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种关于分布式服务的组合限流方法，有效避免客户端对服务端的访问攻击；有效避免服务端对存储服务的访问攻击；在高频请求下，大幅度降低限流平均延迟；在高频请求下，大幅度提高限流处理性能。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1附图为本发明提供的关于分布式服务的组合限流方法流程图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例公开了一种关于分布式服务的组合限流方法，通过客户端SDK和服务端组合限制流量的方式，解决客户端的频繁访问或者限流配额巨大导致的服务端或者存储介质处理异常甚至崩溃的问题，对服务端和存储服务均进行有效保护。
实施例一
本例为SDF_GenerateRandom接口请求次数设定20万次/秒的限流示例：
S1：客户端调用SDK的对应接口后，SDK进行缓存判断：当请求频率高于20W次/秒时，假设此时服务器返回的该接口请求服务器等待时间间隔为60毫秒，则SDK进行缓存，在60毫秒内，客户端进行该接口请求都会拒绝，直到超过60毫秒。当频率低于20W次/秒时，请求通过此时服务器等待时间间隔始终为-1毫秒，表示无需等待，可发送给服务器；
S2：服务端接收该接口请求后，服务端进行第一层缓存判断：当请求频率高于20W次/秒时，假设此时存储服务返回的该接口请求等待时间为60毫秒，则服务端进行缓存，在60毫秒内，SDK进行该接口请求都会拒绝，直到超过60毫秒。当频率低于20W次/秒时，此时等待时间始终为-1毫秒，表示无需等待，可进行第二层缓存判断；
S3：服务端第二层缓存判断：当没有配额可用时，服务端请求存储服务获取2000的配额（10毫秒/1000毫秒*20万），若获取失败，则请求拒绝，缓存并返回超时等待时间；若获取成功，则缓存当前时间及获取配额2000，则此刻10毫秒内的2000个请求都会通过，当10毫秒内的第2001个请求到来时，服务端会再次请求存储服务获取2000的配额。如果10毫秒内的请求不足2000，假设第1500个请求时刚好超过10毫秒，则服务端不再使用原获取剩余配额500，会再次请求存储服务获取2000的配额。
实施例二
本例为SDF_ExchangeDigitEnvelopeBaseOnRSA接口请求带宽设定2GB/秒的限流示例：
S1：客户端调用SDK的对应接口后，SDK进行缓存判断：当请求带宽高于2GB/秒时，假设此时服务器返回的该接口请求等待时间为80毫秒，则SDK进行缓存，在80毫秒内，客户端进行该接口请求都会拒绝，直到超过80毫秒。当带宽低于2GB/秒时，此时等待时间始终为-1毫秒，表示无需等待，可发送给服务器；
S2：服务端接收该接口请求后，服务端进行第一层缓存判断：当请求带宽高于2GB/秒时，假设此时存储服务返回的该接口请求等待时间为80毫秒，则服务端进行缓存，在80毫秒内，SDK进行该接口请求都会拒绝，直到超过80毫秒。当带宽低于2GB/秒时，此时等待时间始终为-1毫秒，表示无需等待，可进行第二层缓存判断；
S3：服务端第二层缓存判断：当没有配额可用时，服务端请求存储服务获取20MB的配额（10毫秒/1000毫秒*2*1024*1024*1024B），若获取失败，则请求拒绝，缓存并返回超时等待时间；若获取成功，则缓存当前时间及获取配额20MB，则此刻10毫秒内的20MB带宽配额都会通过，当10毫秒内，超过20MB带宽请求时，服务端会再次请求存储服务获取20MB配额。如果10毫秒内的请求不足20MB，假设第1500个请求时刚好超过10毫秒，则服务端不再使用原获取剩余带宽配额，会再次请求存储服务获取20MB配额。
以上两种实施用例均为该发明在请求次数、请求带宽等限流配额巨大情况的组合限制优化方法，通过实施例一、二的S1，可实现避免单客户端频繁调用服务端，对服务端进行了有效保护；通过实施例一、二的S2，可实现避免上万个SDK同时调用服务端造成的频繁访问存储服务，对服务端和存储服务均进行了有效保护；通过实施例一、二的S3，可实现避免服务端频繁访问存储服务，若固定时间设置为10毫秒，优化后只需要调用100余次存储服务即可，而传统的方法则需要调用几十万次存储服务，对存储服务进行了强有力的保护。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (5)

1.一种关于分布式服务的组合限流方法，其特征在于，包括以下步骤：
步骤1：预设每秒限流总配额，根据限流总配额计算每次请求的限流配额；
步骤2：服务端记录服务器上次请求时间戳和上次存储服务返回的服务器等待时间间隔；
步骤3：SDK记录客户端上次请求时间戳和上次服务端返回的客户端等待时间间隔；
步骤4：在客户端再次调用SDK时，SDK根据客户端当前请求时间戳和客户端上次请求时间戳计算客户端请求时间间隔；
步骤5：若客户端请求时间间隔小于客户端等待时间间隔，则SDK直接拒绝客户端请求；否则，SDK将请求发送至服务端；
步骤6：服务端接收请求后，服务端根据服务器当前请求时间戳和服务器上次请求时间戳计算服务器请求时间间隔；
步骤7：若服务器请求时间间隔小于服务器等待时间间隔，则服务器直接拒绝请求；否则，进入步骤8；
步骤8：若服务器请求时间间隔小于预设固定时间，且限流配额大于0，则请求通过，同时限流配额减1；否则，进入步骤9；
步骤9：服务端原子访问存储服务，获取固定时间的限流配额，同时根据限流总配额和限流配额计算限流余额；
步骤10：如果限流余额大于0，则限流配额获取成功，请求通过，限流配额减1；否则，限流配额获取失败，则拒绝请求，存储服务响应新的服务器等待时间间隔反馈至服务端，并且服务端重新记录服务器上次请求时间戳，返回所述步骤4。
2.根据权利要求1所述的一种关于分布式服务的组合限流方法，其特征在于，客户端请求时间间隔为客户端当前请求时间戳与客户端上次请求时间戳的差值。
3.根据权利要求1所述的一种关于分布式服务的组合限流方法，其特征在于，服务器请求时间间隔为服务器当前请求时间戳与服务器上次请求时间戳的差值。
4.根据权利要求1所述的一种关于分布式服务的组合限流方法，其特征在于，限流配额的表达式为：
p=t/1000*P；
p表示限流配额；t表示固定时间；P表示每秒限流总配额。
5.根据权利要求1所述的一种关于分布式服务的组合限流方法，其特征在于，限流余额的表达式为：
p’=P-p；
p表示限流配额；P表示每秒限流总配额；p’表示限流余额。
CN202210808578.4A 2022-07-11 2022-07-11 一种关于分布式服务的组合限流方法 Active CN114884889B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210808578.4A CN114884889B (zh) 2022-07-11 2022-07-11 一种关于分布式服务的组合限流方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210808578.4A CN114884889B (zh) 2022-07-11 2022-07-11 一种关于分布式服务的组合限流方法

Publications (2)

Publication Number Publication Date
CN114884889A true CN114884889A (zh) 2022-08-09
CN114884889B CN114884889B (zh) 2022-10-14

Family

ID=82683070

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210808578.4A Active CN114884889B (zh) 2022-07-11 2022-07-11 一种关于分布式服务的组合限流方法

Country Status (1)

Country Link
CN (1) CN114884889B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060095965A1 (en) * 2004-10-29 2006-05-04 Microsoft Corporation Network security device and method for protecting a computing device in a networked environment
US20140143300A1 (en) * 2012-11-21 2014-05-22 Telefonaktiebolaget Lm Ericsson (Publ) Method and Apparatus for Controlling Utilization in a Horizontally Scaled Software Application
CN109379299A (zh) * 2018-12-18 2019-02-22 珠海天燕科技有限公司 一种数据流量的限制方法、装置和系统
CN110198275A (zh) * 2018-03-28 2019-09-03 腾讯科技（深圳）有限公司 一种流量控制方法、系统、服务器及存储介质
CN113347041A (zh) * 2021-06-21 2021-09-03 深圳壹账通智能科技有限公司 动态限流熔断配置方法、装置、设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060095965A1 (en) * 2004-10-29 2006-05-04 Microsoft Corporation Network security device and method for protecting a computing device in a networked environment
US20140143300A1 (en) * 2012-11-21 2014-05-22 Telefonaktiebolaget Lm Ericsson (Publ) Method and Apparatus for Controlling Utilization in a Horizontally Scaled Software Application
CN110198275A (zh) * 2018-03-28 2019-09-03 腾讯科技（深圳）有限公司 一种流量控制方法、系统、服务器及存储介质
CN109379299A (zh) * 2018-12-18 2019-02-22 珠海天燕科技有限公司 一种数据流量的限制方法、装置和系统
CN113347041A (zh) * 2021-06-21 2021-09-03 深圳壹账通智能科技有限公司 动态限流熔断配置方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN114884889B (zh) 2022-10-14

Similar Documents

Publication Publication Date Title
EP3331263B1 (en) Policy decision method and charging device
US6532214B1 (en) Controlling traffic congestion in intelligent electronic networks
US5778057A (en) Service control point congestion control method
CN112367268A (zh) 用于微服务的限流方法及装置
CN110166983B (zh) 一种事件订阅方法及网元设备
JP7108628B2 (ja) Ｏｃｓが非応答である間のオンライン課金機構
EP2509255B1 (en) Service processing method and apparatus
CN114884889B (zh) 一种关于分布式服务的组合限流方法
WO2020048532A1 (zh) Gx会话异常的处理方法及装置
WO2014071614A1 (zh) 策略控制方法、装置及系统
US7480241B2 (en) Method for processor overload control in a voice over internet protocol cable modem termination system
CN113475039A (zh) 基于开放信息的网络和/或管理功能适配的装置和方法
US20120131207A1 (en) Method, apparatus, and system for releasing resources
WO2007076668A1 (fr) Système, dispositif, et procédé pour effectuer une maintenance de fonctionnement sur un dispositif de réseau
US9806893B2 (en) Methods systems and computer readable media for providing real time data network usage information using subscription profile repository (SPR)
CN110225113A (zh) 一种服务监控方法及系统
CN114745328B (zh) 一种网关动态限流方法及其构成的实时限流方法
CN111193760B (zh) 一种信息发送方法、装置及存储介质
CN111580961B (zh) 访问请求处理方法、装置、服务器及存储介质
CN113760398A (zh) 接口调用方法、服务器、系统以及存储介质
CN116074384B (zh) 一种控制业务请求数量的方法及系统
JP2002300272A (ja) 輻輳中の着信者番号へ自動的に発信する交換機
CN110865895A (zh) 访问流量控制方法、装置、电子设备及存储介质
JP2000358068A (ja) インテリジェントネットワークの輻輳制御システム
CN117478600B (zh) 服务于高并发多中心业务中台的流量控制方法与系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant