CN111277640B - 用户请求处理方法、装置、系统、计算机设备和存储介质 - Google Patents

用户请求处理方法、装置、系统、计算机设备和存储介质 Download PDF

Info

Publication number
CN111277640B
CN111277640B CN202010053169.9A CN202010053169A CN111277640B CN 111277640 B CN111277640 B CN 111277640B CN 202010053169 A CN202010053169 A CN 202010053169A CN 111277640 B CN111277640 B CN 111277640B
Authority
CN
China
Prior art keywords
quota
flow
traffic
load
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010053169.9A
Other languages
English (en)
Other versions
CN111277640A (zh
Inventor
俞晓鸣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202010053169.9A priority Critical patent/CN111277640B/zh
Publication of CN111277640A publication Critical patent/CN111277640A/zh
Application granted granted Critical
Publication of CN111277640B publication Critical patent/CN111277640B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/133—Protocols for remote procedure calls [RPC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种用户请求处理方法，所述方法包括：接收用户请求，确定当前的流量状态；在所述流量状态为未限流状态时，计算本地剩余流量配额；在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；根据所述流量配额处理所述用户请求。本公开提供的用户请求处理方法，只在本地剩余流量配额不足时，才主动去远端申请流量配额，达到了降低远程调用次数和处理延时的技术效果。本发明还公开了一种用户请求处理装置、用户请求处理系统、计算机设备和计算机可读存储介质。

Description

用户请求处理方法、装置、系统、计算机设备和存储介质
技术领域
本发明涉及数据处理技术领域，具体涉及一种用户请求处理方法、装置、系统、计算机设备和计算机可读存储介质。
背景技术
Nginx是一款高性能的HTTP服务器和反向代理服务器，如，Nginx可以作为一个HTTP服务器进行网站的发布处理，也可以作为反向代理服务器进行负载均衡的实现。Nginx有一个非常重要的功能就是流量控制，Nginx流量控制指的是在预定时间内限制Nginx处理HTTP请求的数量。
传统Nginx流量控制主要是基于全局计算器实现的分布式流控方案。具体为：对于一个Nginx集群而言，该Nginx集群共用一个全局计数器，全局计数器保存在外部存储服务器中，且全局技术器的上限值Nginx集群在预定时间内最大能处理的HTTP请求总数量。在Nginx集群中的任何一台Nginx处理任何一个HTTP请求时，Nginx均需要访问外部存储服务器以增加全局计数器当前统计的次数。现有技术的Nginx流量控制方法使得操作非常繁琐，而且还会增加不必要的处理延时。
发明内容
本发明的目的在于提供一种用户请求处理方法、装置、系统、计算机设备和计算机可读存储介质，能够解决现有技术中的上述缺陷。
本发明的一个方面提供了用户请求处理方法，所述方法包括：接收用户请求，确定当前的流量状态；在所述流量状态为未限流状态时，计算本地剩余流量配额；在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；根据所述流量配额处理所述用户请求。
可选地，向流量配额存储节点发送流量配额申请请求的步骤包括：请求获取流量配额申请锁，其中，所述流量配额申请锁用于表征允许向所述流量配额存储节点发送所述流量配额申请请求；在获取到所述流量配额申请锁时，向所述流量配额存储节点发送所述流量配额申请请求。
可选地，根据所述流量配额处理所述用户请求的步骤包括：判断所述流量配额是否大于第二流量配额阈值；在所述流量配额不大于所述第二流量配额阈值时，设置所述流量状态为限流状态，记录所述限流状态的限流时间，并丢弃所述用户请求；在所述流量配额大于所述第二流量配额阈值时，执行计算本地剩余流量配额的步骤，其中，在所述本地剩余流量配额大于等于所述第一流量配额阈值时，根据所述本地剩余流量配额处理所述用户请求。
可选地，在向流量配额存储节点发送流量配额申请请求的步骤之后，所述方法还包括：在未接收到所述流量配置存储节点返回的所述流量配额时，设置所述流量状态为存储失效状态，并记录所述存储失效状态的存储失效时间；判断当前时间距离所述存储失效时间的时间间隔是否超出预定时间阈值；若是，则执行向所述流量配额存储节点发送所述流量配额申请请求的步骤；若否，则判断当前的本地流量配额是否大于第三流量配额阈值；在所述当前的本地流量配额大于所述第三流量配额阈值时，丢弃所述用户请求；在所述当前的本地流量配额不大于所述第三流量配额阈值时，根据所述当前的本地流量配额处理所述用户请求。
可选地，所述流量配额存储节点根据所述流量配额申请请求和当前存储的流量总配额计算分配给请求处理节点的所述流量配额，并将所述流量配额返回至所述请求处理节点；所述请求处理节点在采样周期内统计所述请求处理节点的负载的平均值，作为第一平均负载，并将所述第一平均负载上报至管理控制节点；所述管理控制节点接收若干所述请求处理节点中每个所述请求处理节点上报的所述第一平均负载，得到若干所述第一平均负载，并根据若干所述第一平均负载计算若干所述请求处理节点的负载的平均值，作为第二平均负载，确定所述第二平均负载所属的负载范围，其中，不同的所述负载范围对应不同的流量总配额调整机制，然后根据所述负载范围对应的所述流量总配额调整机制计算新的流量总配额，将所述新的流量总配额存储至所述流量配额存储节点，以更新所述当前存储的流量总配额。
可选地，所述负载范围包括正常负载范围和异常负载范围，所述流量总配额调整机制为：在S负载∈ZS负载时，P′＝P×{1+(Zs-E)/Zs/H×R}；在S负载∈YS负载时，P′＝P×{1-(E-Yx)/(1-Yx)/H×R}；其中，S负载为所述第二平均负载，ZS负载为所述正常负载范围，YS负载为所述异常负载范围，P′为所述新的流量总配额，P为所述当前存储的流量总配额，E为所述第二平均负载，H为所述平滑周期，R为所述采样周期，Zs为正常负载上限值，Yx为异常负载范围下限值。
本发明的另一个方面提供了一种用户请求处理装置，所述装置包括：确定模块，用于接收用户请求，确定当前的流量状态；计算模块，用于在所述流量状态为未限流状态时，计算本地剩余流量配额；发送模块，用于在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；接收模块，用于接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；处理模块，用于根据所述流量配额处理所述用户请求。
本发明的再一个方面提供了一种用户请求处理系统，包括：若干请求处理节点、流量配额存储节点和管理控制节点，其中：所述请求处理节点用于：所述请求处理节点用于：接收于用户请求，确定当前的流量状态，在所述流量状态为未限流状态时，计算本地剩余流量配额，在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；所述流量配额存储节点用于：接收所述流量配额申请请求，根据当前存储的流量总配额计算分配给所述请求处理节点的流量配额，将所述流量配额返回至所述请求处理节点；所述请求处理节点还用于：接收所述流量配额，根据所述流量配额处理所述用户请求；所述请求处理节点还用于：在采样周期内，统计所述请求处理节点的负载的平均值，作为第一平均负载，将所述第一平均负载上报至所述管理控制节点；所述管理控制节点用于：接收每个所述请求处理节点上报的所述第一平均负载，得到若干所述第一平均负载，根据若干第一平均负载计算若干所述请求处理节点的负载的平均值，作为第二平均负载，确定所述第二平均负载所属的负载范围，其中，不同的所述负载范围对应不同的流量总配额调整机制，根据所述负载范围对应的所述流量总配额调整机制，计算新的流量总配额，将所述新的流量总配额存储至流量配额存储节点；所述流量配额存储节点还用于：接收所述新的流量总配额，以更新所述当前存储的流量总配额。
本发明的又一个方面提供了一种计算机设备，该计算机设备包括：存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的计算机程序，上述处理器执行上述计算机程序时实现上述任一实施例所述的用户请求处理方法。
本发明的又一个方面提供了一种计算机可读存储介质，其上存储有计算机程序，上述计算机程序被处理器执行时实现上述任一实施例所述的用户请求处理方法。
本发明提供了一种用户请求处理方法，在接收到用户请求之后，不会如现有技术那般每次用户请求都会额外触发一次对外部缓存服务器的远程调用，而是先确定当前流量状态，且在当前流量状态为未限流状态时，计算本地剩余流量配额，只有在剩余流量配额不足以处理目前存在的用户请求时，才会触发远程调用，即向流量配额存储节点发送流量配额申请请求，进而根据申请的流量配额处理用户请求。本公开通过本地剩余流量配额决定是否远端调用，只在本地剩余流量配额不足时，才主动去远端申请流量配额，达到了简化操作步骤、降低远程调用次数和降低处理延时的技术效果。
进一步，由于请求处理节点是根据自身实际处理用户请求情况主动申请流量配额，性能高的节点会比性能差的节点更多频次的申请流量配额，进而提高了整体处理性能。进一步，本发明还可以根据各请求处理节点上报的第一平均负载分析并实现动态调整流量总配额，从而达到更精准流控的目的。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示意性示出了根据本发明实施例的用户请求处理方法的流程图；
图2示意性示出了根据本发明实施例的动态调整流量总配额的流程图；
图3示意性示出了根据本发明另一实施例的用户请求处理方法的流程图；
图4示意性示出了根据本发明实施例的用户请求处理装置的框图；
图5示意性示出了根据本发明实施例的用户请求处理系统的架构图；
图6示意性示出了根据本发明实施例的适于实现用户请求处理方法的计算机设备的框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
本发明的实施例提供了一种用户请求处理方法，该用户请求处理方法可以应用于如下业务场景：请求处理集群包括若干请求处理节点，每个请求处理节点均可以执行该用户请求处理方法，在请求处理节点运行期间，可以主动向流量配额存储节点申请流量配额，并根据申请到的流量配额处理用户请求，由于本发明只有在本地剩余流量配额小于第一流量配额阈值时才会向外部的流量配额存储节点申请流量配额，因此有效的减少了现有技术中全局技术流控方案操作步骤，降低了远程调用次数和处理延时。具体地，图1示意性示出了根据本发明实施例的用户请求处理方法的流程图。如图1所示，该用户请求处理方法可以包括步骤S101～步骤S105，其中：
步骤S101，接收用户请求，确定当前的流量状态。
本实施例中，用户请求可以是任何一个HTTP请求，如，简单网站首页的GET请求，或者登录表单的POST请求等。请求处理节点可以为Nginx服务器，请求处理集群可以为由若干Nginx服务器组成的集群。本实施例的Nginx服务器在接收到用户请求之后，不会如现有技术那般直接访问外部缓存存储器以增加全局计数器当前统计的次数，而是先确定自身当前的流量状态，进而根据确定的流量状态执行对应的处理逻辑，其中，流量状态可以为：限流状态、未限流状态和存储失效状态中的一种，在确定出流量状态为未限流状态时，执行步骤S102。
步骤S102，在流量状态为未限流状态时，计算本地剩余流量配额。
本实施例中，可以统计当前存在的所有用户请求，预估这些用户请求需使用的流量配额，统计本地当前存储的流量配额，将本地当前存储的流量配额与预估的所有用户请求需使用的流量配额之间的差值作为本地剩余流量配额。其中，流量配额为用于处理用户请求的流量，本地当前存储的流量配额为本地当前存储的流量总额，这些流量总额也许足以处理当前存在的所有用户请求，也可能只能处理一部分用户请求，因此，本地剩余流量配额的值可能大于等于0，也可能小于0。
步骤S103，在本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求。
预设第一流量配额阈值，只要本地剩余流量配额小于第一流量配额阈值，则主动申请流量配额，其中，第一流量配额阈值例如为0。
流量配额存储节点存储有流量总配额，该流量配额存储节点用于根据当前存储的流量总配额计算分配给请求处理节点的流量配额。具体地，流量配额存储节点先确定本地当前存储的剩余流量总配额，然后根据以下公式计算分配给请求处理节点的流量配额：
Li＝P剩余/M/C
其中，Li为分配给请求处理节点的流量配额，P剩余为流量配额存储节点本地当前存储的剩余流量总配额，M为请求处理集群的节点总数量，C为配额周期切分度。其中，配额周期切分度可以通过压测观察的经验值得来，例如默认为10，用于避免每次为请求处理节点分配过多的流量配额，比如，若该请求处理节点未能处理足够多的用户请求，会导致流量配额的浪费。进一步，为了确保每次申请的流量配额不会因为剩余总配额变少而变得过小，可以设置流量配额申请下限，也即设置分配给请求处理节点的流量配额下限值，如根据如下公式计算流量配额下限值：
Li下限＝P/M/N
其中，Li下限为流量配额下限值，P为当前存储的流量总配额，N为最大申请次数，其中，最大申请次数也可以通过压测观察的经验值得来，例如默认为50，如果剩余流量总配额小于流量配额下限值，则此次申请不受限制，也即可以将此时剩余流量总配额全部分配给请求处理节点。
可选地，为了避免请求处理节点中同时有多个向外部的流量配额存储节点申请流量配额的请求，导致请求出现混乱，步骤S103中的“向流量配额存储节点发送流量配额申请请求”步骤可以包括步骤S1031和步骤S1032，其中：
步骤S1031，请求获取流量配额申请锁，其中，流量配额申请锁用于表征允许向流量配额存储节点发送流量配额申请请求；
步骤S1032，在获取到流量配额申请锁时，向流量配额存储节点发送流量配额申请请求。
本实施例中，可以预先设置一把流量配额申请锁，只有获取到该流量配额申请锁，才可以向流量配额存储节点发送流量配额申请请求。在未获取到配额申请锁，可以返回执行步骤S101中“判断当前的流量状态”的步骤。
步骤S104，接收流量配置存储节点返回的流量配额。
步骤S105，根据流量配额处理用户请求。
可选地，步骤S105可以包括步骤S1051～步骤S1053，其中：
步骤S1051，判断流量配额是否大于第二流量配额阈值；
步骤S1052，在流量配额不大于第二流量配额阈值时，设置流量状态为限流状态，记录限流状态的限流时间，并丢弃用户请求；
步骤S1053，在流量配额大于第二流量配额阈值时，执行计算本地剩余流量配额的步骤。
本实施例中，若是请求处理节点成功接收流量配额存储节点返回的流量配额，还需要再判断流量配额是否大于第二流量配额阈值，若否，则认为没有足够的资源去处理用户请求，此时可以将流量状态设置为限流状态，并记录限流状态的限流时间。另外，在限流状态下，不会处理任何新的请求，因此可以将该用户请求丢弃。若流量配额大于第二流量配额阈值，则表明有足够的资源去处理用户请求，此时可以返回执行计算本地剩余流量配额的步骤，以进一步确定是否还需要再次申请流量配额。其中，在本地剩余流量配额大于等于第一流量配额阈值时，可以根据本地剩余流量配额处理用户请求，不需要再申请流量配额。
可选地，在步骤S101之后，该用户请求处理方法还可以包括步骤A1～步骤A3，其中：
步骤A1，在流量状态为限流状态时，判断当前时间是否满足限流时间。
本实施例中，若是检测到当前的流量状态为限流状态，则需要进一步判断当前时间是否在限流时间内，因为有可能由于系统延迟或者其他原因导致流量状态未及时更新。
其中，在当前时间满足限流时间时，执行步骤A2；在当前时间不满足限流时间时，执行步骤A3。
步骤A2，执行丢弃用户请求的步骤。
步骤A3，执行向流量配额存储节点发送流量配额申请请求的步骤。
可选地，在步骤S103之后，该用户请求处理方法还可以步骤B1～步骤B4，其中：
步骤B1，在未接收到流量配置存储节点返回的流量配额时，设置流量状态为存储失效状态，并记录存储失效状态的存储失效时间。
本实施例中，若是未能接收到流量配置存储节点返回的流量配额，则表明流量配额存储节点存储失效，此时可以将流量状态设置为存储失效状态，并记录存储失效状态的存储失效时间。
步骤B2，判断当前时间距离存储失效时间的时间间隔是否超出预定时间阈值。
本实施例中，由于有可能因系统延迟或者其他原因导致流量状态未及时更新，因此及时执行步骤B2以判断是否可以执行后续操作。其中，在时间间隔超出预定时间阈值时，执行步骤B3，在时间间隔未超出预定时间阈值时，执行步骤B4。
例如，记录存储失效时间的起始时间为13:00，预估在60s后流量配额存储节点回复正常，即记录预定时间阈值为60s，则可以判断时间间隔是否超出预定时间间隔，比如可以判断时间间隔是否大于60s，若是则执行步骤B3，若否则执行步骤B4。
步骤B3，执行向流量配额存储节点发送流量配额申请请求的步骤。
步骤B4，判断当前的本地流量配额是否大于第三流量配额阈值。
需要说明的是，每个请求处理节点设置有一个第三流量配额阈值，可以根据该请求处理节点当前的本地流量配额是否超出第三流量配额阈值，判断是否需要限流。其中，在当前的本地流量配额大于第三流量配额阈值时，丢弃用户请求；在当前的本地流量配额不大于第三流量配额阈值时，根据当前的本地流量配额处理用户请求。
可选地，流量配额存储节点根据流量配额申请请求和当前存储的流量总配额计算分配给请求处理节点的流量配额，并将流量配额返回至请求处理节点；请求处理节点在采样周期内统计请求处理节点的负载的平均值，作为第一平均负载，并将第一平均负载上报至管理控制节点；管理控制节点接收若干请求处理节点中每个请求处理节点上报的第一平均负载，得到若干第一平均负载，并根据若干第一平均负载计算若干请求处理节点的负载的平均值，作为第二平均负载，确定第二平均负载所属的负载范围，其中，不同的负载范围对应不同的流量总配额调整机制，然后根据负载范围对应的流量总配额调整机制计算新的流量总配额，将新的流量总配额存储至流量配额存储节点，以更新当前存储的流量总配额。
可选地，负载范围包括正常负载范围和异常负载范围，流量总配额调整机制为：
在S负载∈ZS负载时，P′＝P×{1+(Zs-E)/Zs/H×R}；
在S负载∈YS负载时，P′＝P×{1-(E-Yx)/(1-Yx)/H×R)；
其中，S负载为第二平均负载，ZS负载为正常负载范围，YS负载为异常负载范围，P′为新的流量总配额，P为当前存储的流量总配额，E为第二平均负载，H为平滑周期，R为采样周期，Zs为正常负载上限值，Yx为异常负载范围下限值。
其中，平滑周期的作用是减小瞬间流量波动造成的影响，可以通过压测观察的经验值得来，例如默认为30。
本实施例中，可以在请求处理集群中选定一个中心节点，然后由该中心节点定期执行更新流量总配额的步骤；或者，额外配置一个用于管理请求处理集群的管理控制节点，由该管理控制节点定期执行更新流量总配额的步骤。
以管理控制节点定期执行更新流量总配额的步骤为例，针对每个请求处理节点，每隔预设时间采集本机CPU负载(称为Load)，如通过lua-resty-shell调用top命令采集，每隔采样周期计算本机负载的平均值，称为第一平均负载，并向管理控制节点上报第一平均负载，其中，采样周期大于预设时间。管理控制节点收集这些请求处理节点上报的若干第一平均负载，然后计算若干第一平均负载的总值与请求处理集群CPU总数之商得到请求处理集群的负载的平均值，作为第二平均负载。进一步，由于预先设定了多个负载范围，每个负载范围对应一个流量总配额调整机制，进而可以根据负载范围对应的流量总配额调整机制，计算新的流量总配额，然后将该新的流量总配额替换流量配额存储节点当前存储的流量总配额，以实现更新目的。
例如，如图2所示，预设时间为1s，采样周期为5s，每个请求处理节点每隔1秒采集本机CPU负载(Load)，每隔5秒计算平均CPU负载(即第一平均负载)，并上报第一平均负载。管理控制节点收集各个请求处理节点上报的第一平均负载，计算集群Load(即第二平均负载)。管理控制节点动态调整流量总配额，其中，负载取值范围为[0，1]，设定正常负载范围为[0，0.7)，异常负载范围为[0.8，1]，其他负载范围为[0.7，0.8)，则流量总配额调整机制为：
在S负载∈[0，0.7)时，P′＝P×{1+(Zs-E)/Zs/H×R}；
在S负载∈[0.8，1]时，P′＝P×{1-(E-Yx)/(1-Yx)/H×R}。
需要说明的是，在S负载∈[0.7，0.8)时，不更新P。
进一步，管理控制节点可以每隔1s生成下一周期的新的流量总配额，并调用流量配额存储节点实现远端存储。
图3示意性示出了根据本发明另一实施例的用户请求处理方法的流程图。
如图3所示，该用户请求处理方法可以包括步骤S301～步骤S316，其中：
步骤S301，接收用户处理请求。
步骤S302，确定当前流量状态，其中，在流量状态为未限流状态时，执行步骤S303，在流量状态为限流状态时，执行步骤S315，在流量状态为存储失效状态时，执行步骤S316。
步骤S303，扣减本地流量配额，得到本地剩余流量配额。
步骤S304，判断本地剩余流量配额是否小于第一流量配额阈值，若否则执行步骤S305，若是则执行步骤S306。
步骤S305，处理用户请求。
步骤S306，请求获取流量配额申请锁。
步骤S307，判断获取流量配额申请锁是否获取成功。若是则执行步骤S308，若否则执行步骤S316。
步骤S308，向流量配额存储节点发送流量配额申请请求。
步骤S309，判断流量配额申请请求返回结果，若返回成功且返回值>0，则执行步骤S303，若返回成功且返回值<0，则执行步骤S310，若返回失败，则执行步骤S312。
步骤S310，设置流量状态为限流状态，记录限流时间。
步骤S311，丢弃用户请求。
步骤S312，设置流量状态为存储失效状态，记录存储失效时间。
步骤S313，启用单机限流。
其中，单机限流可以获取预先设定的第三流量配额阈值，然后执行步骤S314，以判断后续该执行何种操作。
步骤S314，判断是否需要限流，若是则执行步骤S311，若否则执行步骤S305。
其中，步骤S314为：判断当前的本地流量配额是否大于第三流量配额阈值。
步骤S315，判断当前时间是否满足限流时间，其中，若是，则执行步骤S311，若否，则执行步骤S306。
步骤S316，判断当前时间是否满足存储失效时间，其中，若当前时间距离存储失效时间的时间间隔大于60s，则执行步骤S306，若当前时间距离存储失效时间的时间间隔小于等于60s，则执行步骤S313。
本发明的实施例还提供了一种用户请求处理装置，该用户请求处理装置与上述实施例提供的用户请求处理方法相对应，相应的技术特征和技术效果在本实施例中不再详述，相关之处可参考实施例。具体地，图4示意性示出了根据本发明实施例的用户请求处理装置的框图。如图4所示，该用户请求处理装置400可以包括确定模块401、计算模块402、发送模块403、接收模块404和处理模块405，其中：
确定模块401，用于接收用户请求，确定当前的流量状态；
计算模块402，用于在所述流量状态为未限流状态时，计算本地剩余流量配额；
发送模块403，用于在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；
接收模块404，用于接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；
处理模块405，用于根据所述流量配额处理所述用户请求。
可选地，发送模块在向流量配额存储节点发送流量配额申请请求时，还用于：请求获取流量配额申请锁，其中，所述流量配额申请锁用于表征允许向所述流量配额存储节点发送所述流量配额申请请求；在获取到所述流量配额申请锁时，向所述流量配额存储节点发送所述流量配额申请请求。
可选地，所述处理模块还用于：判断所述流量配额是否大于第二流量配额阈值；在所述流量配额不大于所述第二流量配额阈值时，设置所述流量状态为限流状态，记录所述限流状态的限流时间，并丢弃所述用户请求；在所述流量配额大于所述第二流量配额阈值时，使所述计算模块执行计算本地剩余流量配额的步骤，其中，在所述本地剩余流量配额大于等于所述第一流量配额阈值时，根据所述本地剩余流量配额处理所述用户请求。
可选地，所述装置还包括：第一判断模块，用于在判断当前的流量状态的步骤之后，在所述流量状态为所述限流状态时，判断当前时间是否满足所述限流时间；所述处理模块还用于：在当前时间满足所述限流时间时，执行丢弃所述用户请求的步骤；所述发送模块还用于：在当前时间不满足所述限流时间时，执行向流量配额存储节点发送流量配额申请请求的步骤。
可选地，所述装置还包括：第一设置模块，用于在向流量配额存储节点发送流量配额申请请求的步骤之后，在未接收到所述流量配置存储节点返回的所述流量配额时，设置所述流量状态为存储失效状态，并记录所述存储失效状态的存储失效时间；第二判断模块，用于判断当前时间距离所述存储失效时间的时间间隔是否超出预定时间阈值；所述发送模块还用于，用于在所述时间间隔超出所述预定时间阈值时，执行向所述流量配额存储节点发送所述流量配额申请请求的步骤；第三判断模块，用于在所述时间间隔未超出所述预定时间阈值时，判断当前的本地流量配额是否大于第三流量配额阈值；其中，所述处理模块还用于：在所述当前的本地流量配额大于所述第三流量配额阈值时，丢弃所述用户请求；在所述当前的本地流量配额不大于所述第三流量配额阈值时，根据所述当前的本地流量配额处理所述用户请求。
可选地，所述流量配额存储节点根据所述流量配额申请请求和当前存储的流量总配额计算分配给请求处理节点的所述流量配额，并将所述流量配额返回至所述请求处理节点；所述请求处理节点在采样周期内统计所述请求处理节点的负载的平均值，作为第一平均负载，并将所述第一平均负载上报至管理控制节点；所述管理控制节点接收若干所述请求处理节点中每个所述请求处理节点上报的所述第一平均负载，得到若干所述第一平均负载，并根据若干所述第一平均负载计算若干所述请求处理节点的负载的平均值，作为第二平均负载，确定所述第二平均负载所属的负载范围，其中，不同的所述负载范围对应不同的流量总配额调整机制，然后根据所述负载范围对应的所述流量总配额调整机制计算新的流量总配额，将所述新的流量总配额存储至所述流量配额存储节点，以更新所述当前存储的流量总配额。
可选地，所述负载范围包括正常负载范围和异常负载范围，所述流量总配额调整机制为：在S负载∈ZS负载时，P′＝P×{1+(Zs-E)/Zs/H×R}；在S负载∈YS负载时，P′＝P×{1-(E-Yx)/(1-Yx)/H×R}；其中，S负载为所述第二平均负载，ZS负载为所述正常负载范围，YS负载为所述异常负载范围，P′为所述新的流量总配额，P为所述当前存储的流量总配额，E为所述第二平均负载，H为所述平滑周期，R为所述采样周期，Zs为正常负载上限值，Yx为异常负载范围下限值。
本发明的实施例还提供了一种用户请求处理系统，该用户请求处理系统与上述实施例提供的用户请求处理方法相对应，相应的技术特征和技术效果在本实施例中不再详述，相关之处可参考实施例。具体地，图5示意性示出了根据本发明实施例的用户请求处理系统的架构图。如图5所示，该用户请求处理系统500可以包括若干请求处理节点501、流量配额存储节点502和管理控制节点503，其中：
请求处理节点501用于：接收用户请求，确定当前的流量状态，在流量状态为未限流状态时，计算本地剩余流量配额，在本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点502发送流量配额申请请求；
流量配额存储节点502用于：接收流量配额申请请求，根据当前存储的流量总配额计算分配给请求处理节点501的流量配额，将流量配额返回至请求处理节点501；
请求处理节点501还用于：接收流量配额，根据流量配额处理用户请求；
请求处理节点501还用于：在采样周期内，统计请求处理节点501的负载的平均值，作为第一平均负载，将第一平均负载上报至管理控制节点503；
管理控制节点503用于：接收每个请求处理节点501上报的第一平均负载，得到若干第一平均负载，根据若干第一平均负载计算若干请求处理节点501的负载的平均值，作为第二平均负载，确定第二平均负载所属的负载范围，其中，不同的负载范围对应不同的流量总配额调整机制，根据负载范围对应的流量总配额调整机制，计算新的流量总配额，将新的流量总配额存储至流量配额存储节点502；
流量配额存储节点502还用于：接收新的流量总配额，以更新当前存储的流量总配额。
在本实施例中，每个请求处理节点均可以向流量配额存储节点申请流量配额，流量配额存储节点根据当前存储的流量总配额计算分配给该请求处理节点的流量配额，请求处理节点根据申请到的流量配额处理用户请求。管理控制节点用于管理若干请求处理节点，每个请求处理节点定期向管理处理节点上报第一平均负载，管理控制节点根据这些请求处理节点上报的若干第一平均负载计算整体的第二平均负载，进而计算出新的流量总配额。进一步，管理控制节点将新的流量总配额发送至流量配额存储节点，流量配额存储节点将新的流量总配额存储在本地，以实现更新流量总配额的目的。需要说明的是，流量总配额的更新机制可以实时在线动态执行，不需要停机操作。
图6示意性示出了根据本发明实施例的适于实现用户请求处理方法的计算机设备的框图。本实施例中，计算机设备600可以是执行程序的智能手机、平板电脑、笔记本电脑、台式计算机、机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器，或者多个服务器所组成的服务器集群)等。如图6所示，本实施例的计算机设备600至少包括但不限于：可通过系统总线相互通信连接的存储器601、处理器602、网络接口603。需要指出的是，图6仅示出了具有组件601-603的计算机设备600，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
本实施例中，存储器603至少包括一种类型的计算机可读存储介质，可读存储介质包括包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器601可以是计算机设备600的内部存储单元，例如该计算机设备600的硬盘或内存。在另一些实施例中，存储器601也可以是计算机设备600的外部存储设备，例如该计算机设备600上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。当然，存储器601还可以既包括计算机设备600的内部存储单元也包括其外部存储设备。在本实施例中，存储器601通常用于存储安装于计算机设备600的操作系统和各类应用软件，例如用户请求处理方法的程序代码等。此外，存储器601还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器602在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器602通常用于控制计算机设备600的总体操作。例如执行与计算机设备600进行数据交互或者通信相关的控制和处理等的用户请求处理方法的程序代码。
在本实施例中，存储于存储器601中的用户请求处理方法还可以被分割为一个或者多个程序模块，并由一个或多个处理器(本实施例为处理器602)所执行，以完成本发明。
网络接口603可包括无线网络接口或有线网络接口，该网络接口603通常用于在计算机设备600与其他计算机设备之间建立通信链接。例如，网络接口603用于通过网络将计算机设备600与外部终端相连，在计算机设备600与外部终端之间的建立数据传输通道和通信链接等。网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communication，简称为GSM)、宽带码分多址(Wideband CodeDivision Multiple Access，简称为WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
本实施例还提供一种计算机可读存储介质，包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等，其上存储有计算机程序，所述计算机程序被处理器执行时实现用户请求处理方法。
显然，本领域的技术人员应该明白，上述的本发明实施例的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明实施例不限制于任何特定的硬件和软件结合。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种用户请求处理方法，其特征在于，所述方法包括：
接收用户请求，确定当前的流量状态；
在所述流量状态为未限流状态时，计算本地剩余流量配额；
在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；
接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；
根据所述流量配额处理所述用户请求；
在所述向流量配额存储节点发送流量配额申请请求的步骤之后，所述方法还包括：
在未接收到所述流量配置存储节点返回的所述流量配额时，设置所述流量状态为存储失效状态，并记录所述存储失效状态的存储失效时间；
判断当前时间距离所述存储失效时间的时间间隔是否超出预定时间阈值；
若是，则执行向所述流量配额存储节点发送所述流量配额申请请求的步骤；
若否，则判断当前的本地流量配额是否大于第三流量配额阈值；
在所述当前的本地流量配额大于所述第三流量配额阈值时，丢弃所述用户请求；
在所述当前的本地流量配额不大于所述第三流量配额阈值时，根据所述当前的本地流量配额处理所述用户请求。
2.根据权利要求1所述的方法，其特征在于，向流量配额存储节点发送流量配额申请请求的步骤包括：
请求获取流量配额申请锁，其中，所述流量配额申请锁用于表征允许向所述流量配额存储节点发送所述流量配额申请请求；
在获取到所述流量配额申请锁时，向所述流量配额存储节点发送所述流量配额申请请求。
3.根据权利要求1所述的方法，其特征在于，根据所述流量配额处理所述用户请求的步骤包括：
判断所述流量配额是否大于第二流量配额阈值；
在所述流量配额不大于所述第二流量配额阈值时，设置所述流量状态为限流状态，记录所述限流状态的限流时间，并丢弃所述用户请求；
在所述流量配额大于所述第二流量配额阈值时，执行计算本地剩余流量配额的步骤，其中，在所述本地剩余流量配额大于等于所述第一流量配额阈值时，根据所述本地剩余流量配额处理所述用户请求。
4.根据权利要求1所述的方法，其特征在于，所述流量配额存储节点根据所述流量配额申请请求和当前存储的流量总配额计算分配给请求处理节点的所述流量配额，并将所述流量配额返回至所述请求处理节点；所述请求处理节点在采样周期内统计所述请求处理节点的负载的平均值，作为第一平均负载，并将所述第一平均负载上报至管理控制节点；所述管理控制节点接收若干所述请求处理节点中每个所述请求处理节点上报的所述第一平均负载，得到若干所述第一平均负载，并根据若干所述第一平均负载计算若干所述请求处理节点的负载的平均值，作为第二平均负载，确定所述第二平均负载所属的负载范围，其中，不同的所述负载范围对应不同的流量总配额调整机制，然后根据所述负载范围对应的所述流量总配额调整机制计算新的流量总配额，将所述新的流量总配额存储至所述流量配额存储节点，以更新所述当前存储的流量总配额。
5.根据权利要求4所述的方法，其特征在于，所述负载范围包括正常负载范围和异常负载范围，所述流量总配额调整机制为：
在S负载∈ZS负载时，P′＝P×{1+(Zs-E)/Zs/H×R}；
在S负载∈YS负载时，P′＝P×{1-(E-Yx)/(1-Yx)/H×R}；
其中，S负载为所述第二平均负载，ZS负载为所述正常负载范围，YS负载为所述异常负载范围，P′为所述新的流量总配额，P为所述当前存储的流量总配额，E为所述第二平均负载，H为平滑周期，R为所述采样周期，Zs为正常负载上限值，Yx为异常负载范围下限值。
6.一种用户请求处理装置，其特征在于，所述装置包括：
确定模块，用于接收用户请求，确定当前的流量状态；
计算模块，用于在所述流量状态为未限流状态时，计算本地剩余流量配额；
发送模块，用于在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；
接收模块，用于接收所述流量配额存储节点根据所述流量配额申请请求返回的流量配额；
处理模块，用于根据所述流量配额处理所述用户请求；
第一设置模块，用于在向流量配额存储节点发送流量配额申请请求的步骤之后，在未接收到所述流量配置存储节点返回的所述流量配额时，设置所述流量状态为存储失效状态，并记录所述存储失效状态的存储失效时间；
第二判断模块，用于判断当前时间距离所述存储失效时间的时间间隔是否超出预定时间阈值；
所述发送模块还用于，在所述时间间隔超出所述预定时间阈值时，执行向所述流量配额存储节点发送所述流量配额申请请求的步骤；
第三判断模块，用于在所述时间间隔未超出所述预定时间阈值时，判断当前的本地流量配额是否大于第三流量配额阈值；
所述处理模块还用于，在所述当前的本地流量配额大于所述第三流量配额阈值时，丢弃所述用户请求；在所述当前的本地流量配额不大于所述第三流量配额阈值时，根据所述当前的本地流量配额处理所述用户请求。
7.一种用户请求处理系统，其特征在于，包括：若干请求处理节点、流量配额存储节点和管理控制节点，其中：
所述请求处理节点用于：接收用户请求，确定当前的流量状态，在所述流量状态为未限流状态时，计算本地剩余流量配额，在所述本地剩余流量配额小于第一流量配额阈值时，向流量配额存储节点发送流量配额申请请求；
所述流量配额存储节点用于：接收所述流量配额申请请求，根据当前存储的流量总配额计算分配给所述请求处理节点的流量配额，将所述流量配额返回至所述请求处理节点；
所述请求处理节点还用于：接收所述流量配额，根据所述流量配额处理所述用户请求；
所述请求处理节点还用于：在采样周期内，统计所述请求处理节点的负载的平均值，作为第一平均负载，将所述第一平均负载上报至所述管理控制节点；
所述管理控制节点用于：接收每个所述请求处理节点上报的所述第一平均负载，得到若干所述第一平均负载，根据若干第一平均负载计算若干所述请求处理节点的负载的平均值，作为第二平均负载，确定所述第二平均负载所属的负载范围，其中，不同的所述负载范围对应不同的流量总配额调整机制，根据所述负载范围对应的所述流量总配额调整机制，计算新的流量总配额，将所述新的流量总配额存储至流量配额存储节点；
所述流量配额存储节点还用于：接收所述新的流量总配额，以更新所述当前存储的流量总配额；
所述请求处理节点还用于：在所述向流量配额存储节点发送流量配额申请请求的步骤之后，在未接收到所述流量配置存储节点返回的所述流量配额时，设置所述流量状态为存储失效状态，并记录所述存储失效状态的存储失效时间；判断当前时间距离所述存储失效时间的时间间隔是否超出预定时间阈值；若是，则执行向所述流量配额存储节点发送所述流量配额申请请求的步骤；若否，则判断当前的本地流量配额是否大于第三流量配额阈值；在所述当前的本地流量配额大于所述第三流量配额阈值时，丢弃所述用户请求；在所述当前的本地流量配额不大于所述第三流量配额阈值时，根据所述当前的本地流量配额处理所述用户请求。
8.一种计算机设备，所述计算机设备包括：存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至5任一项所述方法的步骤。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时用于实现权利要求1至5任一项所述方法的步骤。
CN202010053169.9A 2020-01-17 2020-01-17 用户请求处理方法、装置、系统、计算机设备和存储介质 Active CN111277640B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010053169.9A CN111277640B (zh) 2020-01-17 2020-01-17 用户请求处理方法、装置、系统、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010053169.9A CN111277640B (zh) 2020-01-17 2020-01-17 用户请求处理方法、装置、系统、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN111277640A CN111277640A (zh) 2020-06-12
CN111277640B true CN111277640B (zh) 2022-03-01

Family

ID=71001046

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010053169.9A Active CN111277640B (zh) 2020-01-17 2020-01-17 用户请求处理方法、装置、系统、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN111277640B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113992586B (zh) * 2020-07-10 2023-11-24 腾讯科技（深圳）有限公司 流量控制方法、装置、计算机设备和存储介质
CN113839888B (zh) * 2021-09-22 2024-02-27 唯品会(广州)软件有限公司 一种限流方法、装置、设备及可读存储介质
CN114143325A (zh) * 2021-12-06 2022-03-04 北京字节跳动网络技术有限公司 Dns调度方法、装置、设备、存储介质和程序产品
CN114390058B (zh) * 2022-02-24 2024-03-08 百果园技术(新加坡)有限公司 服务管理系统、方法、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105897484A (zh) * 2016-06-01 2016-08-24 努比亚技术有限公司 一种流量管理装置、服务器和方法
CN106411558A (zh) * 2015-07-27 2017-02-15 阿里巴巴集团控股有限公司 一种数据流量限制的方法及系统
US9712443B1 (en) * 2004-06-25 2017-07-18 InMon Corp. Distributed traffic quota measurement and enforcement
CN107426055A (zh) * 2017-07-31 2017-12-01 努比亚技术有限公司 异常流量监测方法、装置及计算机可读存储介质
CN109683696A (zh) * 2018-12-25 2019-04-26 浪潮电子信息产业股份有限公司 服务器电源故障检测系统、方法、装置、设备及介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4400126B2 (ja) * 2003-08-08 2010-01-20 株式会社日立製作所 仮想一元化ネットワークストレージシステムにおける一元的なディスク使用量制御方法
DE102008022497A1 (de) * 2007-05-15 2008-11-20 Denso Corp., Kariya-shi Laststeuervorrichtung und zugehöriges Verfahren zur Verarbeitung eines Diagnosesignals
US8948191B2 (en) * 2011-12-09 2015-02-03 Telefonaktiebolaget L M Ericsson (Publ) Intelligent traffic quota management
US10178033B2 (en) * 2017-04-11 2019-01-08 International Business Machines Corporation System and method for efficient traffic shaping and quota enforcement in a cluster environment

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9712443B1 (en) * 2004-06-25 2017-07-18 InMon Corp. Distributed traffic quota measurement and enforcement
CN106411558A (zh) * 2015-07-27 2017-02-15 阿里巴巴集团控股有限公司 一种数据流量限制的方法及系统
CN105897484A (zh) * 2016-06-01 2016-08-24 努比亚技术有限公司 一种流量管理装置、服务器和方法
CN107426055A (zh) * 2017-07-31 2017-12-01 努比亚技术有限公司 异常流量监测方法、装置及计算机可读存储介质
CN109683696A (zh) * 2018-12-25 2019-04-26 浪潮电子信息产业股份有限公司 服务器电源故障检测系统、方法、装置、设备及介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Internet traffic description on a base of Markov-Additive Process of arrivals;Alexander Andronov 等;《IEEE》;20111231;全文 *
云环境下数据流量异常行为网络负载均衡设计;杨杨 等;《计算机仿真》;20161231;全文 *

Also Published As

Publication number Publication date
CN111277640A (zh) 2020-06-12

Similar Documents

Publication Publication Date Title
CN111277640B (zh) 用户请求处理方法、装置、系统、计算机设备和存储介质
US11601512B2 (en) System and method for throttling service requests having non-uniform workloads
CN108683720B (zh) 一种容器集群服务配置方法及装置
CN108776934B (zh) 分布式数据计算方法、装置、计算机设备及可读存储介质
JP6457447B2 (ja) データセンターのネットワークトラフィックスケジューリング方法及び装置
WO2020253111A1 (zh) 区块链节点的自动扩容方法、装置、运维终端及存储介质
CN106775936B (zh) 一种虚拟机的管理方法及装置
CN109962856B (zh) 资源分配方法、装置以及计算机可读存储介质
CN105656810B (zh) 一种更新应用程序的方法及装置
CN110933178B (zh) 调整集群系统内的节点配置的方法及服务器
CN108664321B (zh) 系统资源分配调整方法及装置
CA3044156C (en) Adaptive service timeouts
CN109117280B (zh) 电子装置及其限制进程间通信的方法、存储介质
CN112367269A (zh) 基于双指针的滑动窗口限流方法、装置、设备及存储介质
CN112367384A (zh) 基于Kafka集群的动态限速方法、装置以及计算机设备
CN114490078A (zh) 一种微服务的动态缩扩容方法、装置及设备
CN110839069A (zh) 一种节点数据部署方法、部署节点、系统及介质
CN109002381B (zh) 进程通信监控方法、电子装置及计算机可读存储介质
CN106933673B (zh) 调整组件逻辑线程数量的方法及装置
CN112416888B (zh) 用于分布式文件系统的动态负载均衡方法及系统
CN110347477B (zh) 一种云环境下服务自适应部署方法和装置
CN110347546B (zh) 监控任务动态调整方法、装置、介质及电子设备
CN112416568A (zh) 音视频转码任务的时长预估方法和时长预估装置
CN106533730B (zh) Hadoop集群组件指标的采集方法及装置
CN111143073B (zh) 一种虚拟化资源的管理方法、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant