CN112769657B - 一种流量控制方法及装置 - Google Patents

一种流量控制方法及装置 Download PDF

Info

Publication number
CN112769657B
CN112769657B CN202011570107.1A CN202011570107A CN112769657B CN 112769657 B CN112769657 B CN 112769657B CN 202011570107 A CN202011570107 A CN 202011570107A CN 112769657 B CN112769657 B CN 112769657B
Authority
CN
China
Prior art keywords
machine
current
current limiting
load
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011570107.1A
Other languages
English (en)
Other versions
CN112769657A (zh
Inventor
吴月菲
王永龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Duxiaoman Payment Technology Co ltd
Du Xiaoman Technology Beijing Co Ltd
Original Assignee
Du Xiaoman Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Du Xiaoman Technology Beijing Co Ltd filed Critical Du Xiaoman Technology Beijing Co Ltd
Priority to CN202011570107.1A priority Critical patent/CN112769657B/zh
Publication of CN112769657A publication Critical patent/CN112769657A/zh
Application granted granted Critical
Publication of CN112769657B publication Critical patent/CN112769657B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/22—Traffic shaping
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H04L12/2807—Exchanging configuration information on appliance services in a home automation network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Automation & Control Theory (AREA)
  • Feedback Control In General (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请提供了一种流量控制方法及装置，方法包括：每隔预设时间，执行一次限流阈值调整过程，限流阈值调整过程，包括：获取每台机器在当前时刻及当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使接入层在接收到外部请求时，基于接收到的全局限流阈值和每台机器的单机限流阈值，进行限流。在本申请中，通过以上方式可以提高限流的准确性。

Description

一种流量控制方法及装置
技术领域
本申请涉及流量管理技术领域，特别涉及一种流量控制方法及装置。
背景技术
随着应用的访问量越来越高，瞬时流量不可预估，当请求的流量超过服务的负载能力，很容易造成整个服务的瘫痪，为了保证服务对外的稳定性，可以采用限流的方式，为应用提供一道安全防火墙。
目前，常采用令牌桶的方式对单个机器进行限流。但是，采用令牌桶的方式存在限流策略固定，灵活性差的问题，导致限流的准确性低。
发明内容
为解决上述技术问题，本申请实施例提供一种流量控制方法及装置，以达到提高流量控制的准确性的目的，技术方案如下：
一种流量控制方法，包括：
每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；
将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
优选的，所述依据每台机器在当前时刻及当前时刻之前时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值，包括：
获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间；
利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数；
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数；
选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对；
利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值；
分别将每次计算得到平均响应时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对；
利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载；
将每台机器的第二最大可承受负载，分别作为单机限流阈值。
优选的，所述选取多个大于0且小于所述第一最大可承受负载数的负载值，包括：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为1至所述第一最大可承受负载数。
优选的，所述方法还包括：
在接收到外部请求时，获取降级配置信息；
将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则对所述外部请求进行降级处理，并返回降级响应信息。
优选的，所述方法还包括：
在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值；
若未超过所述第一机器的单机限流阈值，则将所述外部请求转发给所述第一机器的业务层进行处理；
若超过所述第一机器的单机限流阈值，则获取所述第一机器等待处理的请求的个数；
判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若超过所述第一机器的排队阈值，则返回限流响应信息；
若未超过所述第一机器的排队阈值，则控制所述外部请求等待转发。一种流量控制装置，包括：
限流阈值调整模块，用于每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；
发送模块，用于将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
优选的，所述限流阈值调整模块，具体用于：
获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间；
利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数；
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数；
选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对；
利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值；
分别将每次计算得到平均响应时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对；
利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载；
将每台机器的第二最大可承受负载，分别作为单机限流阈值。
优选的，所述限流阈值调整模块，具体用于：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为1至所述第一最大可承受负载数。
优选的，所述装置还包括：
降级模块，用于：
在接收到外部请求时，获取降级配置信息；
将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则对所述外部请求进行降级处理，并返回降级响应信息。
优选的，所述装置还包括：
限流模块，用于：
在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值；
若未超过所述第一机器的单机限流阈值，则将所述外部请求转发给所述第一机器的业务层进行处理；
若超过所述第一机器的单机限流阈值，则获取所述第一机器等待处理的请求的个数；
判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若超过所述第一机器的排队阈值，则返回限流响应信息；
若未超过所述第一机器的排队阈值，则控制所述外部请求等待转发。
与现有技术相比，本申请的有益效果为：
在本申请中，每隔预设时间，执行一次限流阈值调整过程，实现限流阈值的动态调整，并将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，使接入层能够基于符合系统性能的全局限流阈值及每台机器性能的单机限流阈值，进行限流，以此提高流量控制的准确性。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请提供的一种流量控制方法实施例1的流程图；
图2是本申请提供的一种流量控制方法实施例2的流程图；
图3是本申请提供的一种流量控制方法实施例3的流程图；
图4是本申请提供的一种流量控制方法实施例4的流程图；
图5是本申请提供的一种流量控制装置的逻辑结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
本申请实施例公开了一种流量控制方法，包括：每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。在本申请中，可以实现限流的准确性。
接下来对本申请实施例公开的流量控制方法进行介绍，如图1所示的，为本申请提供的一种限流及降级实施例1的流程图，可以包括以下步骤：
步骤S11、每隔预设时间，执行一次限流阈值调整过程。
本实施例中，预设时间可以根据需要进行灵活设置，在此不做限制。
本实施例中，所述限流阈值调整过程，可以包括：
S110、获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据。
本实施例中，表征请求处理性能的数据可以包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间。
S111、依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值。
单机限流阈值表示机器最多能够接收的请求的个数。比如，若，机器的单机限流阈值为20，当机器接收到第21个请求时，第21个请求会被限流。
本实施例中，依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值的过程，可以包括：
S1110、获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间。
本实施例中，可以分别对每台机器进行请求处理性能测试，具体可以分别每秒向每台机器发送设定个数的请求，记录每台机器每秒接收到的请求的个数及每台机器对每秒接收到的请求进行处理的耗时时间。
每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间组成第一数据对。
S1111、利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数。
S1112、将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数。
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数，可以理解为：
将设定的最大可忍受耗时时间输入到第一拟合负载响应曲线，得到设定的最大可忍受耗时时间＝anxn+an-1xn-1+...+a1x1+a0x0。由于an、an-1、...、a1和a0已知，因此可以求解出x，求解出的x作为第一最大可承受负载数。
S1113、选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对。
本实施例中，负载值，可以理解为：每秒接收到的请求的个数。
第二数据对，可以理解为：基于第一拟合负载响应曲线预测的数据对。
本实施例中，选取多个大于0且小于所述第一最大可承受负载数的负载值，可以包括：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为11至所述第一最大可承受负载数。
可以理解的是，可以从第一负载范围内任意一个负载值开始，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值。
现举例对从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值进行说明，例如，第一负载范围为0-100，设定个数为5，预设的数据间隔为10，则可以从1-100中选取5、15、25、35和45。
S1114、利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值。
本实施例中，利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，每滑动一次，计算一次所述矩形窗口内对每秒接收到的请求进行处理的耗时时间的平均值，及所述矩形窗口内每秒接收到的请求的个数的累加值。
基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，可以包括：
计算所述矩形窗口内对每秒接收到的请求进行处理的耗时时间的平均值，将计算得到的平均值作为平均耗时时间；
或，将矩形窗口内每个对每秒接收到的请求进行处理的耗时时间分别乘以各自对应的耗时权重的结果相加，相加的结果作为平均耗时时间。例如，矩形窗口内包括3个对每秒接收到的请求进行处理的耗时时间，分别为f(x1)、f(x2)和f(x3)，f(x1)对应的耗时权重为c1、f(x2)对应的耗时权重为c2，f(x3)对应的耗时权重为c3，则平均耗时时间等于f(x1)*c1+f(x2)*c2+f(x3)*c3。
S1115、分别将每次计算得到的平均耗时时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对。
本实施例中，第三数据对为依据实际产生的数据，确定实际场景下的数据对。
本实施例中，设定大小和设定步长可以根据需要进行灵活设置，在此不做限制。
S1116、利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载。本实施例中，将基于第一拟合负载响应曲线预测得到的多个第二数据对和每台机器实际运行时的多个第三数据对，再次进行多项式拟合，得到适用于每台机器的的第二拟合负载响应曲线。
S1117、将每台机器的第二最大可承受负载，分别作为单机限流阈值。
当然，本实施例中，除了采用S1110-S1117实现单机限流阈值的预测，还可以采用神经网络模型进行预测。具体，可以预先利用每台机器每秒接收到的请求的个数、对每秒接收到的请求进行处理的耗时时间及期望的单机处理请求的性能对神经网络模型进行训练，训练好的神经网络模型，可以对单机限流阈值进行预测。
S112、将每台机器的单机限流阈值相加，得到全局限流阈值。
全局限流阈值可以理解为：多台机器所属分布式系统的限流阈值。如，分布式系统包括：5台机器，每台机器的单机限流阈值均为20，则5台机器所属分布式系统的限流阈值即全局限流阈值为100。
全局限流阈值表示多台机器所属分布式系统最多能够接收的请求的个数。比如，若，全局限流阈值为100，当分布式系统接收到第101个请求时，第101个请求会被限流。
本实施例中，分布式系统可以包括但不局限于：金融服务分布式系统。
步骤S12、将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
由于每台机器的单机限流阈值是依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据确定的，因此，每台机器的单机限流阈值为符合机器处理请求的性能的限流阈值。
在本申请中，每隔预设时间，执行一次限流阈值调整过程，实现限流阈值的动态调整，并将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，使接入层能够基于符合每台机器性能的单机限流阈值，对单台机器进行限流，提高单台机器流量控制的准确性，并且在单台机器流量控制准确性提高的基础上，提高系统流量控制的准确性。
作为本申请另一可选实施例，参照图2，为本申请提供的一种流量控制方法实施例2的流程图，本实施例主要是对上述实施例1描述的流量控制方法的扩展方案，如图2所示，该方法可以包括但并不局限于以下步骤：
步骤S21、每隔预设时间，执行一次限流阈值调整过程。
所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值。
步骤S22、将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
步骤S21-S22的详细过程可以参见实施例1中步骤S11-S12的相关介绍，在此不再赘述。
步骤S23、在接收到外部请求时，获取降级配置信息。
降级配置信息可以理解为：降级规则，和/或，降级时应返回的业务信息的内容。
降级规则至少可以包括：对需要被降级的请求的描述信息，如，请求接口名、请求方式、请求参数等。
本实施例中，可以采用DSL(领域专用语言Domain Specific Language)，描述降级配置信息，保证能快速准确的完成降级配置信息的设定。
步骤S24、将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则执行步骤S25。
步骤S25、对所述外部请求进行降级处理，并返回降级响应信息。
降级响应信息可以依据降级配置信息中的降级规则和降级时应返回的业务信息的内容确定。依据降级配置信息中的降级规则和降级时应返回的业务信息的内容确定降级响应信息，可以实现针对不同请求返回不同结构、不同内容的降级响应信息，提升系统的友好性。
本实施例中，在接收到外部请求时，获取降级配置信息，并将外部请求的信息与降级配置信息中的降级规则匹配，可以保证准确的对外部请求进行降级处理，并针对不同请求返回不同结构、不同内容的降级响应信息，提升系统的友好性。
作为本申请另一可选实施例，参照图3，为本申请提供的一种流量控制方法实施例3的流程图，本实施例主要是对上述实施例1描述的流量控制方法的扩展方案，如图3所示，该方法可以包括但并不局限于以下步骤：
步骤S31、每隔预设时间，执行一次限流阈值调整过程。
所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值。
步骤S32、将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
步骤S31-S32的详细过程可以参见实施例1中步骤S11-S12的相关介绍，在此不再赘述。
步骤S33、在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多台所述机器组成。
本实施例中，分布式系统可以设置系统计数器，用于对系统接收到的外部请求的个数进行计数。相应地，可以从系统计数器中获取计数，获取到的计数作为分布式系统已接收到的外部请求的个数。
需要说明的是，分布式系统中每台机器分别设置有各自的限流配置信息。
限流配置信息可以理解为：限流规则、限流时应返回的业务信息的内容及单机限流阈值。
限流规则至少可以包括：对需要被限流的请求的描述信息，如，请求接口名、请求方式、请求参数等。
本实施例中，可以采用DSL(领域专用语言Domain Specific Language)，描述限流配置信息，保证能快速准确的完成限流配置信息的设定。
采用DSL描述的限流配置信息可以包括以下部分：uri指定的接口名；switch表示规则是否生效，用于快速变更执行预案；rate和burst为限流信息，即单机限流阈值和排队阈值；bottleneck用来标记瓶颈是在内部服务还是外部依赖，其可以用在使用缩容等减少局部资源的手段进行故障止损的场景中；resp代表命中限流规则后业务期望的返回；condition的含义是是否需要根据接口中其他信息来做精细化的区分，如请求方式是GET或POST、请求参数中某字段的值是否满足特定正则条件、各条规则之间的逻辑关系是与还是或，等等。
其中，bottleneck会参与限流阈值的设置，具体的参与过程可以理解为：
每台接入层机器均能确定以下数据：1.全局限流阈值；2.总机器数；3.实际工作机器数；4.瓶颈标记。其中，可以认为集群总阈值＝单机阈值*实际工作机器数。在进行缩容时，总机器数不变，实际工作机器数量减小，可知限流阈值有两种情况：
1.瓶颈在内部服务时，单机阈值＝全局限流阈值/集群总机器数，可知，集群总阈值＝全局限流阈值/集群总机器数*实际工作机器数，即集群总阈值会随缩容减少的机器数而减少。
2.瓶颈在外部依赖时，单机阈值＝全局限流阈值/集群实际工作机器数，可知，集群总阈值＝全局限流阈值。即，集群总阈值不受缩容的影响。
需要说明的是，外部依赖可以理解为需要使用第三方系统的服务。由于在进行缩容操作不影响外部系统，因而瓶颈在外部系统时，集群的限流总阈值不应该受影响。
需要说明的是，因为需要对uri相同但请求方式、请求参数不同的情况做不同的处理，所以对限流配置信息进行查找时，不能以uri为唯一索引。本实施例中，可以定义一个变量，将uri+变量作为限流配置信息的索引，具体可以为：每生成一个限流配置信息，该变量的值会自增，并将变量自增后的值与uri的组合作为限流配置信息的索引。
步骤S34、判断所述已接收到的外部请求的个数是否超过所述全局限流阈值。
若否，则执行步骤S35。
步骤S35、为所述外部请求分配第一机器，并将所述外部请求发送给第一机器。
在分布式系统已接收到的外部请求的个数未超过全局限流阈值的情况下，接入层为外部请求分配第一机器，并将所述外部请求发送给第一机器。
第一机器可以理解为：分布式系统中其中一台机器。
步骤S36、将所述外部请求的信息与所述第一机器限流配置信息中的限流规则匹配；
若匹配到，则执行步骤S37。
步骤S37、获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值。
本实施例中，第一机器可以设置单机计数器，用于对第一机器接收到的外部请求的个数进行计数。相应地，可以从单机计数器中获取计数，获取到的计数作为第一机器已接收到的外部请求的个数。
第一机器的单机限流阈值的确定过程如实施例1中步骤S1110-S1117介绍的过程，在此不再赘述。
若否，则执行步骤S38；若是，则执行步骤S39。
步骤S38、将所述外部请求转发给所述第一机器的业务层进行处理。
在未超过第一机器的单机限流阈值的情况下，说明第一机器有能力处理刚接收到的外部请求，因此，将外部请求转发给第一机器的业务层进行处理。
步骤S39、获取所述第一机器等待处理的请求的个数。
本实施例中，本实施例中，第一机器可以设置排队计数器，用于对第一机器等待处理的请求的个数进行计数。相应地，可以从排队计数器中获取计数，获取到的计数作为第一机器等待处理的请求的个数。
步骤S310、判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若是，则执行步骤S311；若否，则执行步骤S312。
排队阈值可以根据需要进行设置，在此不做限制。
步骤S311、返回限流响应信息。
在第一机器已接收到的请求的个数超过所述第一机器的单机限流阈值，且第一机器等待处理的请求的个数超过第一机器的排队阈值的情况下，表明第一机器暂时没有能力处理刚接收到的外部请求，则进行限流，并返回限流响应信息。
步骤S312、控制所述外部请求等待转发。
在第一机器已接收到的请求的个数超过所述第一机器的单机限流阈值，但第一机器等待处理的请求的个数未超过第一机器的排队阈值的情况下，表明刚接收到的外部请求可以排队等待转发，因此，接入层可以控制外部请求等待转发。
作为本申请另一可选实施例，参照图4，为本申请提供的一种流量控制方法实施例4的流程图，本实施例主要是对上述实施例1描述的流量控制方法的扩展方案，如图4所示，该方法可以包括但并不局限于以下步骤：
步骤S41、每隔预设时间，执行一次限流阈值调整过程。
所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值。
步骤S42、将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
步骤S41-S42的详细过程可以参见实施例1中步骤S11-S12的相关介绍，在此不再赘述。
步骤S43、在接收到外部请求时，获取降级配置信息；
步骤S44、将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则执行步骤S45；若未匹配到，则执行步骤S46。
步骤S45、对所述外部请求进行降级处理，并返回降级响应信息。
步骤S43-S45与实施例2中的步骤S23-S25相同，步骤S43-S45的详细过程可以参见实施例2中步骤S23-S25的相关介绍，在此不再赘述。
步骤S46、获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
步骤S47、判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则执行步骤S48。
步骤S48、为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
步骤S49、将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则执行步骤S410。
步骤S410、获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值。
若否，则执行步骤S411；若是，则执行步骤S412。
步骤S411、将所述外部请求转发给所述第一机器的业务层进行处理；
步骤S412、获取所述第一机器等待处理的请求的个数；
步骤S413、判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若是，则执行步骤S414；若否，则执行步骤S415。
步骤S414、返回限流响应信息。
步骤S415、控制所述外部请求等待转发。
步骤S46-S415的详细过程可以参见实施例3中步骤S34-S312的相关介绍，在此不再赘述。
接下来对本申请提供的流量控制装置进行介绍，下文介绍的流量控制装置与上文介绍的流量控制方法可相互对应参照。
请参见图5，流量控制装置包括：限流阈值调整模块11和发送模块12。
限流阈值调整模块11，用于每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；
发送模块12，用于将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流。
本实施例中，所述限流阈值调整模块，具体可以用于：
获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间；
利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数；
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数；
选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对；
利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值；
分别将每次计算得到平均响应时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对；
利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载；
将每台机器的第二最大可承受负载，分别作为单机限流阈值。
本实施例中，所述限流阈值调整模块，具体可以用于：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为1至所述第一最大可承受负载数。
本实施例中，上述流量控制装置还可以包括：
降级模块，用于：
在接收到外部请求时，获取降级配置信息；
将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则对所述外部请求进行降级处理，并返回降级响应信息。
本实施例中，上述流量控制装置还可以包括：
限流模块，用于：
在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值；
若未超过所述第一机器的单机限流阈值，则将所述外部请求转发给所述第一机器的业务层进行处理；
若超过所述第一机器的单机限流阈值，则获取所述第一机器等待处理的请求的个数；
判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若超过所述第一机器的排队阈值，则返回限流响应信息；
若未超过所述第一机器的排队阈值，则控制所述外部请求等待转发。
需要说明的是，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
以上对本申请所提供的一种流量控制方法及装置进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。

Claims (8)

1.一种流量控制方法，其特征在于，包括：
每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；
将每次执行所述限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流；
所述依据每台机器在当前时刻及当前时刻之前时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值，包括：
获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间；
利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数；
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数；
选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对；
利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值；
分别将每次计算得到平均响应时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对；
利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载；
将每台机器的第二最大可承受负载，分别作为单机限流阈值。
2.根据权利要求1所述的方法，其特征在于，所述选取多个大于0且小于所述第一最大可承受负载数的负载值，包括：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为1至所述第一最大可承受负载数。
3.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在接收到外部请求时，获取降级配置信息；
将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则对所述外部请求进行降级处理，并返回降级响应信息。
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值；
若未超过所述第一机器的单机限流阈值，则将所述外部请求转发给所述第一机器的业务层进行处理；
若超过所述第一机器的单机限流阈值，则获取所述第一机器等待处理的请求的个数；
判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若超过所述第一机器的排队阈值，则返回限流响应信息；
若未超过所述第一机器的排队阈值，则控制所述外部请求等待转发。
5.一种流量控制装置，其特征在于，包括：
限流阈值调整模块，用于每隔预设时间，执行一次限流阈值调整过程，所述限流阈值调整过程，包括：获取每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据；依据每台机器在当前时刻及所述当前时刻之前的至少一个时刻的表征请求处理性能的数据，确定每台机器在当前时刻的下一时刻的单机限流阈值；将每台机器的单机限流阈值相加，得到全局限流阈值；
发送模块，用于将每次执行限流阈值调整过程确定的全局限流阈值及每台机器的单机限流阈值发送给接入层，以使所述接入层在接收到外部请求时，基于接收到的所述全局限流阈值和每台机器的单机限流阈值，进行限流；
所述限流阈值调整模块，具体用于：
获取分别对每台机器进行请求处理性能测试得到的多个第一数据对，所述第一数据对包括：每秒接收到的请求的个数及对每秒接收到的请求进行处理的耗时时间；
利用多个所述第一数据对，进行多项式拟合，得到第一拟合负载响应曲线f(x)＝anxn+an-1xn-1+...+a1x1+a0x0，所述f(x)表示对x个请求进行处理的耗时时间，a表示x的权重，x表示每秒接收到的请求的个数；
将设定的最大可忍受耗时时间输入到所述第一拟合负载响应曲线，求解出第一最大可承受负载数；
选取多个大于0且小于所述第一最大可承受负载数的负载值，将多个所述负载值分别输入到所述第一拟合负载响应曲线，得到对应的耗时时间，将所述负载值与对应的耗时时间组成第二数据对，得到多个第二数据对；
利用设定大小的矩形窗口，以设定步长在所述每台机器在当前时刻及当前时刻之前至少一个时刻的表征请求处理性能的数据中滑动，并基于所述矩形窗口内对每秒接收到的请求进行处理的耗时时间，计算平均耗时时间，并计算所述矩形窗口内每秒接收到的请求的个数的累加值；
分别将每次计算得到平均响应时间和所述矩形窗口内每秒接收到的请求的个数的累加值组成第三数据对；
利用多个第二数据对和每台机器对应的多个第三数据对，进行多项式拟合，得到每台机器对应的第二拟合负载响应曲线g(x)＝bnxn+bn-1xn-1+...+b1x1+b0x0，将所述最大可忍受耗时时间分别输入到每台机器对应的第二拟合负载响应曲线，得到每台机器的第二最大可承受负载；
将每台机器的第二最大可承受负载，分别作为单机限流阈值。
6.根据权利要求5所述的装置，其特征在于，所述限流阈值调整模块，具体用于：
从第一负载范围内，每隔预设的数据间隔，选取一个负载值，直至选取到设定个数的负载值；
其中，所述第一负载范围为1至所述第一最大可承受负载数。
7.根据权利要求5所述的装置，其特征在于，所述装置还包括：
降级模块，用于：
在接收到外部请求时，获取降级配置信息；
将所述外部请求的信息与所述降级配置信息中的降级规则匹配；
若匹配到，则对所述外部请求进行降级处理，并返回降级响应信息。
8.根据权利要求5所述的装置，其特征在于，所述装置还包括：
限流模块，用于：
在接收到外部请求时，获取分布式系统已接收到的外部请求的个数，所述分布式系统由多个所述机器组成；
判断所述已接收到的外部请求的个数是否超过所述全局限流阈值；
若否，则为所述外部请求分配第一机器，并将所述外部请求发送给第一机器；
将所述外部请求的信息与限流配置信息中的限流规则匹配；
若匹配到，则获取所述第一机器已接收到的请求的个数，判断所述第一机器已接收到的请求的个数是否超过所述第一机器的单机限流阈值；
若未超过所述第一机器的单机限流阈值，则将所述外部请求转发给所述第一机器的业务层进行处理；
若超过所述第一机器的单机限流阈值，则获取所述第一机器等待处理的请求的个数；
判断所述第一机器等待处理的请求的个数是否超过所述第一机器的排队阈值；
若超过所述第一机器的排队阈值，则返回限流响应信息；
若未超过所述第一机器的排队阈值，则控制所述外部请求等待转发。
CN202011570107.1A 2020-12-26 2020-12-26 一种流量控制方法及装置 Active CN112769657B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011570107.1A CN112769657B (zh) 2020-12-26 2020-12-26 一种流量控制方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011570107.1A CN112769657B (zh) 2020-12-26 2020-12-26 一种流量控制方法及装置

Publications (2)

Publication Number Publication Date
CN112769657A CN112769657A (zh) 2021-05-07
CN112769657B true CN112769657B (zh) 2022-07-26

Family

ID=75695895

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011570107.1A Active CN112769657B (zh) 2020-12-26 2020-12-26 一种流量控制方法及装置

Country Status (1)

Country Link
CN (1) CN112769657B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113923216B (zh) * 2021-09-29 2023-12-15 阿里巴巴（中国）有限公司 一种分布式集群限流系统及方法和分布式集群节点
CN114079635A (zh) * 2021-11-17 2022-02-22 中国工商银行股份有限公司 基于多项式拟合的业务流量限流方法及装置
CN115242718B (zh) * 2022-06-21 2024-01-30 平安科技（深圳）有限公司 集群限流方法、装置、设备及介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886736A (zh) * 2019-01-28 2019-06-14 上海晶赞融宣科技有限公司 用于dsp平台的预算数据处理方法及装置、存储介质、终端
CN110120973A (zh) * 2019-04-28 2019-08-13 华为技术有限公司 一种请求控制方法、相关设备及计算机存储介质
CN110166371A (zh) * 2019-05-16 2019-08-23 北京达佳互联信息技术有限公司 流量控制方法、装置、电子设备及存储介质
CN110535779A (zh) * 2019-08-30 2019-12-03 百度在线网络技术（北京）有限公司 流量降级方法及装置
CN111262791A (zh) * 2020-01-08 2020-06-09 江苏满运软件科技有限公司 一种流量管控方法、装置、电子设备及存储介质
CN111786895A (zh) * 2020-03-16 2020-10-16 北京京东尚科信息技术有限公司 动态全局限流的方法和装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107222426B (zh) * 2016-03-21 2021-07-20 阿里巴巴集团控股有限公司 控流的方法、装置及系统
CN111367651B (zh) * 2018-12-26 2023-04-11 阿里巴巴集团控股有限公司 服务限流系统、方法、装置及电子设备
US11134028B2 (en) * 2019-04-26 2021-09-28 NM Nevada Trust Devices, systems and methods for optimizing workload performance of user facing web applications during high load events

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886736A (zh) * 2019-01-28 2019-06-14 上海晶赞融宣科技有限公司 用于dsp平台的预算数据处理方法及装置、存储介质、终端
CN110120973A (zh) * 2019-04-28 2019-08-13 华为技术有限公司 一种请求控制方法、相关设备及计算机存储介质
CN110166371A (zh) * 2019-05-16 2019-08-23 北京达佳互联信息技术有限公司 流量控制方法、装置、电子设备及存储介质
CN110535779A (zh) * 2019-08-30 2019-12-03 百度在线网络技术（北京）有限公司 流量降级方法及装置
CN111262791A (zh) * 2020-01-08 2020-06-09 江苏满运软件科技有限公司 一种流量管控方法、装置、电子设备及存储介质
CN111786895A (zh) * 2020-03-16 2020-10-16 北京京东尚科信息技术有限公司 动态全局限流的方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Fuzzy adaptive predictive flow control of ATM network traffic";Bor-Sen Chen, Yu-Shuang Yang, Bore-Kuen Lee and Tsern-Huei Lee;《in IEEE Transactions on Fuzzy Systems》;20030831;第568-581页 *

Also Published As

Publication number Publication date
CN112769657A (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
CN112769657B (zh) 一种流量控制方法及装置
DE602004004321T2 (de) Vorrichtung und Verfahren zur Echtzeitbeurteilung einer Netzverwaltungsregel
CN106454437B (zh) 一种流媒体业务速率预测方法及装置
CN106453549B (zh) 一种分布式软件版本发布方法及系统
CN109688589B (zh) 无线网络容量规划方法和装置
CN104580524A (zh) 一种云平台上的资源伸缩方法和一种云平台
CN110519069A (zh) 一种计费方法及设备
CN106161485B (zh) 一种基础服务集群的资源调度方法、装置和系统
CN103269493A (zh) 一种推送带宽业务的方法及设备
CN116450312A (zh) 面向流水线并行训练的调度策略确定方法及系统
WO2017075967A1 (zh) 在线媒体服务的带宽分配方法及系统
CN105450537A (zh) 确定节点负载信息及据此进行负载均衡和过载控制
CN103248622B (zh) 一种自动伸缩的在线视频服务质量保障方法及系统
Arapostathis et al. Infinite-horizon average optimality of the n-network in the halfin–whitt regime
CN107329700A (zh) 一种分布式集群数据存储方法及系统
Rui et al. Location‐dependent sensing data collection and processing mechanism in vehicular network
CN108847956B (zh) 一种电信网安全业务vnf的多维智能扩缩容方法和系统
JP6167052B2 (ja) 通信トラヒック予測装置およびプログラム
CN110807578A (zh) 服务订单分配方法及装置
CN109688171B (zh) 缓存空间调度方法、装置和系统
CN107071014B (zh) 一种资源调整方法及装置
CN106131187B (zh) 一种授权的控制方法及装置
CN108768886A (zh) 一种SaaS数据访问质量提升方法
CN115604263A (zh) 一种资源调度方法、装置、电子设备及存储介质
Reichl et al. Economics of quality of experience

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 401121 b7-7-2, Yuxing Plaza, No.5 Huangyang Road, Yubei District, Chongqing

Applicant after: Chongqing duxiaoman Youyang Technology Co.,Ltd.

Address before: 201800 room 307, 3 / F, building 8, 55 Huiyuan Road, Jiading District, Shanghai

Applicant before: SHANGHAI YOUYANG NEW MEDIA INFORMATION TECHNOLOGY Co.,Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20211213

Address after: 100193 Room 606, 6 / F, building 4, West District, courtyard 10, northwest Wangdong Road, Haidian District, Beijing

Applicant after: Du Xiaoman Technology (Beijing) Co.,Ltd.

Address before: 401121 b7-7-2, Yuxing Plaza, No.5 Huangyang Road, Yubei District, Chongqing

Applicant before: Chongqing duxiaoman Youyang Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240108

Address after: Room 301, 3rd Floor, Building 4, West District, No.10 Northwest Wangdong Road, Haidian District, Beijing, 100085

Patentee after: Beijing Duxiaoman Payment Technology Co.,Ltd.

Patentee after: Du Xiaoman Technology (Beijing) Co.,Ltd.

Address before: 100193 Room 606, 6 / F, building 4, West District, courtyard 10, northwest Wangdong Road, Haidian District, Beijing

Patentee before: Du Xiaoman Technology (Beijing) Co.,Ltd.