CN107920027A - 一种流量控制方法及装置 - Google Patents

一种流量控制方法及装置 Download PDF

Info

Publication number
CN107920027A
CN107920027A CN201610881954.7A CN201610881954A CN107920027A CN 107920027 A CN107920027 A CN 107920027A CN 201610881954 A CN201610881954 A CN 201610881954A CN 107920027 A CN107920027 A CN 107920027A
Authority
CN
China
Prior art keywords
request
service
speed
equipment
rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610881954.7A
Other languages
English (en)
Other versions
CN107920027B (zh
Inventor
徐承杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201610881954.7A priority Critical patent/CN107920027B/zh
Publication of CN107920027A publication Critical patent/CN107920027A/zh
Application granted granted Critical
Publication of CN107920027B publication Critical patent/CN107920027B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/26—Flow control; Congestion control using explicit feedback to the source, e.g. choke packets
    • H04L47/263—Rate modification at the source after receiving feedback
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1025—Dynamic adaptation of the criteria on which the server selection is based

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明实施例提供一种流量控制方法及装置，其中的方法可包括：采用预置流量控制规则将请求设备的请求数据发送至服务设备；根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力；按照所述服务设备的服务能力动态调整所述预置流量控制规则。本发明能够根据服务设备的服务能力自适应调整流量控制规则，避免资源过载或资源浪费，提高资源利用率。

Description

一种流量控制方法及装置
技术领域
本发明涉及互联网技术领域，具体涉及流量控制技术领域，尤其涉及一种流量控制方法及装置。
背景技术
限流技术主要是用作控制网络接口收发数据的速率，可以用来优化性能、减少延迟和提高带宽。随着互联网技术的发展，限流技术在互联网领域的应用越来越广泛，例如：电商网站在双十一、双十二等时间推出大型促销活动时，或者购票网站在国庆、春节等假期来临前，为了避免突发流量超过服务器的处理负荷引起过载风险，通常需要制定一些流量控制规则对请求数据进行限流控制。目前，较为常用的流量控制规则是将请求速率固定在一个恒定速率上，即要求请求设备以恒定速率向服务设备发送请求数据，这样做虽然在一定程度上实现了限流控制，但是存在一些问题：首先如何确定恒定速率本身是一个难题；其次，由于服务设备的服务能力并非一成不变的，当服务能力产生变化时，恒定的请求速率与服务能力不匹配，从而造成资源过载或资源浪费。
发明内容
本发明实施例提供一种流量控制方法及装置，能够根据服务设备的服务能力自适应调整流量控制规则，避免资源过载或资源浪费，提高资源利用率。
本发明实施例第一方面提供一种流量控制方法，可包括：
采用预置流量控制规则将请求设备的请求数据发送至服务设备；
根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力；
按照所述服务设备的服务能力动态调整所述预置流量控制规则。
优选地，所述预置流量控制规则为流量控制算法；
所述流量控制算法至少包括以下参数：控制速率及统计周期；
所述服务设备的服务能力采用能力参数进行表示，所述能力参数包括以下至少一种：响应速率及成功响应速率。
优选地，所述采用预置流量控制规则将请求设备的请求数据发送至服务设备，包括：
确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率；
判断所述请求速率是否超过所述控制速率；
若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
优选地，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则，包括：
根据所述响应速率及成功响应速率计算请求成功率；
若所述请求成功率大于或等于预置阀值，获取成功请求时长；
若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率；
将所述控制速率调整为所述第一目标速率。
优选地，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则，还包括：
若所述请求成功率小于预设阀值，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率；
将所述控制速率调整为所述第二目标速率。
优选地，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则之后，还包括：
当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
本发明实施例第二方面提供一种流量控制装置，可包括：
控制单元，用于采用预置流量控制规则将请求设备的请求数据发送至服务设备；
确定单元，用于根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力；
调整单元，用于按照所述服务设备的服务能力动态调整所述预置流量控制规则。
优选地，所述预置流量控制规则为流量控制算法；
所述流量控制算法至少包括以下参数：控制速率及统计周期；
所述服务设备的服务能力采用能力参数进行表示，所述能力参数包括以下至少一种：响应速率及成功响应速率。
优选地，所述控制单元包括：
请求速率确定单元，用于确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率；
判断单元，用于判断所述请求速率是否超过所述控制速率；
发送单元，用于若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
优选地，所述调整单元包括：
成功率计算单元，用于根据所述响应速率及成功响应速率计算请求成功率；
时长获取单元，用于若所述请求成功率大于或等于预置阀值，获取成功请求时长；
第一计算单元，用于若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率；
第一调整单元，用于将所述控制速率调整为所述第一目标速率。
优选地，所述调整单元还包括：
第二计算单元，用于若所述请求成功率小于预设阀值，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率；
第二调整单元，用于将所述控制速率调整为所述第二目标速率。
优选地，所述控制单元还用于当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
本发明实施例中，可采用预置流量控制规则对请求数据进行限流控制，在限流控制过程中，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力，再按照所述服务设备的服务能力动态调整所述预置流量控制规则；由于依据服务设备的服务能力对预置流量控制规则进行动态调整，这可使得请求速率与服务能力相互匹配，从而充分利用服务能力，有效避免资源过载或资源浪费，提升资源利用率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种流量控制方法的流程图；
图2为本发明实施例提供的另一种流量控制方法的流程图；
图3为本发明实施例提供的一种流量控制装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
限流技术主要是用作控制网络接口收发数据的速率，可以用来优化性能、减少延迟和提高带宽。限流技术在互联网领域的应用较为广泛，例如：电商网站在双十一、双十二等时间推出大型促销活动时，为了避免突发流量超过电商网站的服务设备的处理负荷而引起资源过载风险，需要制定流量控制规则来对电商用户的请求数据进行限流控制；再如：在国庆、春节等假期来临前，为了避免突发流量超过购票网站的服务设备的处理负荷而引起资源过载风险，通常需要制定一些流量控制规则对购票用户的请求数据进行限流控制。
由于现有技术中的流量控制规则不够灵活，易产生请求速率与服务能力不匹配的问题，从而造成资源过载或资源浪费。为了解决现有技术的问题，本发明实施例提供了一种流量控制方案，具体在采用预置流量控制规则对请求数据进行限流控制的过程中，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力，再按照所述服务设备的服务能力动态调整所述预置流量控制规则；由于依据服务设备的服务能力对预置流量控制规则进行动态调整，这可使得请求速率与服务能力相互匹配，从而充分利用服务能力，有效避免资源过载或资源浪费，提升资源利用率。
需要说明的是，本发明实施例所提供的流量控制方案可以应用于互联网领域的各类场景中，例如：可以应用于网页爬虫系统中以控制页面爬取速度；再如：可以应用于对C(Client，客户端)-S(Server，服务器)之间的交互数据进行限流控制的场景；又如：可以应用于对服务设备的服务能力进行测试的场景中，等等。其中，请求设备是指发送请求数据的设备，其可以是PC(Personal Computer，个人计算机)、手机、PAD(平板电脑)、智能可穿戴设备等设备。服务设备是指对请求数据进行处理及响应的设备，其可以是服务器、PC、手机等设备。
基于上述描述，本发明实施例提供了一种流量控制方法，请参见图1，该方法可包括以下步骤S101-步骤S103。
S101，采用预置流量控制规则将请求设备的请求数据发送至服务设备。
预置流量控制规则是为了对请求数据进行限流控制而制定的规则，实质在于控制请求数据注入到服务设备的速率，即控制请求数据的请求速率以平滑网络上的突发流量，从而达到优化性能、减少延迟及提高带宽的目的。具体地，预置流量控制规则可以基于流量控制算法来实现，此处的流量控制算法可包括但不限于：令牌桶算法、漏桶算法等等。以预置流量控制规则为令牌桶算法为例，该令牌桶算法包含一控制速率，步骤S101中需要控制请求数据在该控制速率允许的范围内进行发送，具体地，如果请求数据的请求速率低于该控制速率，则允许将该请求数据发送至服务设备；如果请求数据的请求速率高于该控制速率，那么则不允许将该请求数据发送至服务设备。此处需要说明的是，请求速率是指单位时间内请求设备向服务设备所发送的请求数据的数量，此处的单位时间可以根据实际情况设定，例如：单位时间可以为1s、5s等等，则请求速率可以描述为：每秒发送100个请求数据，或者，每5秒发送100个请求数据等等。
S102，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力。
服务设备的服务能力是指对请求数据的实际处理能力，主要体现在处理速度、处理效率等方面。实际应用中，服务设备的服务能力通常会受各因素影响而产生动态变化，此处的影响因素可包括但不限于：服务设备自身系统版本的变更、服务设备内置软件所产生的干扰、服务设备的系统部署规模的变化、服务设备所依赖的其他服务能力产生变化、网络拥塞、网络时延变化、服务设备的系统故障等等。服务设备的服务能力的动态变化会影响服务设备的服务质量。服务设备的服务能力可以采用能力参数来进行表示，能力参数是指用于反映服务设备的服务能力的指标。其中，能力参数可包括但不限于以下至少一种：响应速率及成功响应速率。响应速率是指单位时间内服务设备向请求设备所发送的响应数据的数量；例如，响应速率可以描述为：每秒发送100个响应数据，或者，每5秒发送50个响应数据等等。成功响应速率是指单位时间内服务设备向请求设备所发送的响应数据中表示响应成功的响应数据的数量；例如，成功响应速率可以描述为：每秒成功发送50个响应数据，或者，每5秒成功发送50个响应数据等等。
由于能力参数能够直观地表示服务设备的服务能力，因此步骤S102中可通过确定服务设备的能力参数来确定服务设备的服务能力。本发明实施例中，能力参数的确定过程可以存在以下两种实施方式，在一种实施方式中：按照业务实现，请求设备向服务设备发送一个请求数据，正常情况下，服务设备会在规定的时间内向请求设备返回一个响应数据；那么，能力参数确定如下：
(1.1)响应速率的确定。在接收到请求数据之后，如果服务设备在规定的时间内返回了响应数据，则依据服务设备返回的响应数据统计响应速率，例如：服务设备每秒发送100个响应数据。
(1.2)成功响应速率的确定。在接收到请求数据之后，服务设备在规定的时间内返回了响应数据，但由于网络拥塞、延时等原因，某些响应数据在传输过程中被丢失而未成功到达请求设备，那么，依据成功到达请求设备的响应数据确定成功响应速率，例如：服务设备每秒共发送100个响应数据，其中仅50个响应数据成功到达请求设备，则成功响应速率确定为每秒成功发送50个响应数据。
在另一种实施方式中：按照业务实现，请求设备向服务设备发送一个请求数据后，服务设备会对该请求数据进行相应的数据处理获得处理结果，并在规定的时间内向请求设备返回一个响应数据，并在该响应数据内携带处理结果指示，处理结果包括成功或失败；那么，能力参数确定如下：
(2.1)响应速率的确定。在接收到请求数据之后服务设备进行数据处理获得处理结果，并在规定的时间内返回了携带处理结果指示的响应数据，则依据服务设备返回的响应数据统计响应速率，例如：服务设备每秒发送100个响应数据。
(2.2)成功响应速率的确定。在接收到请求数据之后服务设备进行数据处理获得处理结果，并在规定的时间内返回了携带处理结果指示的响应数据，则依据携带成功处理结果指示的响应数据统计成功响应速率，例如：服务设备每秒共发送100个响应数据，其中50个响应数据中携带成功处理结果，则成功响应速率确定为每秒成功发送50个响应数据。
S103，按照所述服务设备的服务能力动态调整所述预置流量控制规则。
本步骤主要是依据服务设备的能力参数动态调整预置流量控制规则中的控制速率，这样，可以依据服务设备的服务能力动态调整请求速率，避免产生资源浪费或资源过载的现象。具体地动态调整过程为：如果服务设备的服务能力较强，那么可以增大预置流量控制规则中的控制速率，以增大请求速率，避免资源浪费；反之，如果服务设备的服务能力较弱，那么可保持预置流量控制规则中的控制速率为低速率，避免资源过载。
本发明实施例的流量控制方法，可采用预置流量控制规则对请求数据进行限流控制，在限流控制过程中，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力，再按照所述服务设备的服务能力动态调整所述预置流量控制规则；由于依据服务设备的服务能力对预置流量控制规则进行动态调整，这可使得请求速率与服务能力相互匹配，从而充分利用服务能力，有效避免资源过载或资源浪费，提升资源利用率。
本发明实施例还提供了另一种流量控制方法，请参见图2，该方法可包括以下步骤S201-步骤S211。
S201，确定在统计周期内所述请求设备发送请求数据所采用的请求速率。
S202，判断所述请求速率是否超过控制速率。
S203，若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
本实施例的步骤S201-S203可以是图1所示实施例的步骤S101的具体细化步骤。本实施例以预置流量控制规则为令牌桶算法为例进行说明，该令牌桶算法至少包括以下参数：控制速率和统计周期。其中，控制速率用于控制请求速率，要求请求速率在控制速率允许的范围内进行。统计周期可表示为T，该参数用于保证短时间内请求速率的稳定性，并且确定对于请求速率进行控制调节的频度。具体实现中，令牌桶算法在限流控制过程中主要涉及以下几个阶段：
(1)启动阶段。此阶段发生在令牌桶算法初始运行时，为了避免短时间大量请求数据造成对服务设备的冲击，可以设定控制速率为v0，v0表示一个低速率，其值可以根据实际经验进行确定。
(2)稳定阶段。此阶段是采用令牌桶算法的各参数来对请求数据进行限流控制的过程。
(3)调整阶段。此阶段是指在限流控制的过程中不断试探服务设备的服务能力，并根据服务设备的服务能力动态调整令牌桶算法的控制速率的过程。
在步骤S201-S203中，确定在统计周期T内请求设备发送请求数据所采用的请求速率v；比较v与v0之间的大小，如果v＜v0，表明请求速率在控制速率所允许的范围内，那么允许将请求数据发送至服务设备。反之，v＞v0，表明请求速率已超出控制速率所允许的范围，如果发送该请求数据可能会超出服务设备的处理负荷引起资源过载，因此不允许将请求数据发送至服务设备，具体可以向请求设备输出提示信息以使请求设备放弃本次请求数据的发送。
S204，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力。
本实施例的步骤S204可以参见图1所示实施例的步骤S102，在此不赘述。
S205，根据所述响应速率及成功响应速率计算请求成功率；若所述请求成功率大于或等于预置阀值，转入执行步骤S206；若所述请求成功率小于预设阀值，转入执行步骤S209。
预置阀值是用于体现服务设备的服务质量的指标，其与服务质量要求成正比，也就是说，对服务质量要求越高，预置阀值应当设置越大；反之，对服务质量要求越低，预置阀值应当设置越小。具体实现中，预置阀值可以采用f表示。请求成功率可以采用以下公式进行计算获得：
上述公式(1)中，m表示请求成功率，其值小于1；r表示成功响应速率；R表示响应速率。
步骤S205中，需要比较m与f的值，如果m≥f则转入执行步骤S206；如果m＜f则转入执行步骤S209。
S206，获取成功请求时长。
成功请求时长是指当连续收到多个成功响应数据时，这些成功响应数据所对应的多个请求数据的请求时长，例如：请求设备在某时刻发送第一个请求数据并获得成功响应数据，之后的10s请求设备连续发送多个请求数据，并且每个请求数据均获得对应的成功响应数据，而在10s之后所发送的请求数据则未获得成功响应数据，那么，成功请求时长即为连续收到成功响应数据的这些请求数据的发送时长，即为10s。此处，成功请求时长可以采用t表示。
S207，若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率。
S208，将所述控制速率调整为所述第一目标速率；之后转入执行步骤S211。
步骤S207-S208中，预置增长率可以采用a表示，并且a＞0；预置增长率用于控制请求速率的增长速度。预置增长率越大，请求速率的增长速率的调节幅度越大。当请求速率接近服务设备的服务能力时，预置增长率越大，请求速率的波动越大；反之，当请求速率远小于服务设备的服务能力时，预置增长率越小，请求速率的波动越小。第一目标速率可以采用下述公式进行计算：
v1＝r*(1+a) (2)
上述公式(2)中，v1表示第一目标速率。上述公式(2)成立的条件在于m≥f并且t＞T，此成立条件表明请求成功率持续超过服务质量指标，表明当前的请求速率在服务设备的服务能力范围之内，可适当增大请求速率；因此，可将第一目标速率v1赋值给控制速率，即将令牌桶算法中的控制速率由v0提升至v1，以便更进一步的试探服务设备的最大服务能力，以利于充分利用服务能力。
S209，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率。
S210，将所述控制速率调整为所述第二目标速率。
步骤S209-S210中，第二目标速率可以采用下述公式进行计算：
v2＝max(r,v0) (3)
上述公式(3)中，v2表示第一目标速率；max()表示求取最大值运算。上述公式(3)成立的条件在于m＜f，此成立条件表明请求成功率未达到服务质量指标，表明为了避免引起资源过载，服务设备的当前服务能力仅支持请求速率最大能达到低速率v0或成功响应速率r中的最大值的情况；因此，可将第二目标速率v2赋值给控制速率，即将令牌桶算法中的控制速率由v0调整至v2，以便在充分利用服务能力的前提下，避免资源过载。
综上述，本实施例中预置流量控制规则为令牌桶算法，采用该算法对请求速率的动态调节公式可表示如下：
S211，当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
经过步骤S205-S209，预置流量控制规则所涉及的控制参数已根据服务设备的服务能力进行了自适应动态调整，那么当前的控制速率能够与服务能力相匹配，采用动态调整后的预置流量控制规则进行限流控制，则可以使得请求速率始终控制在服务设备的有效负荷范围内，降低了资源过载风险，同时能够最大限度利用服务设备的服务能力。具体实现中，步骤S211进行限流控制的过程可以参见步骤S201-S203的限流控制过程，在此不赘述。
本发明实施例的流量控制方法，可采用预置流量控制规则对请求数据进行限流控制，在限流控制过程中，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力，再按照所述服务设备的服务能力动态调整所述预置流量控制规则；由于依据服务设备的服务能力对预置流量控制规则进行动态调整，这可使得请求速率与服务能力相互匹配，从而充分利用服务能力，有效避免资源过载或资源浪费，提升资源利用率。
基于上述的流量控制方法，本发明实施例还提供了一种流量控制装置，该装置可以设置于请求设备中，或者可以设置于请求设备与服务设备之间的一个独立设备中。请参见图3，该装置可运行如下单元：
控制单元101，用于采用预置流量控制规则将请求设备的请求数据发送至服务设备。
确定单元102，用于根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力。
调整单元103，用于按照所述服务设备的服务能力动态调整所述预置流量控制规则。
具体实现中，所述控制单元101还可用于当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
具体实现中，所述预置流量控制规则为流量控制算法；所述流量控制算法至少包括以下参数：控制速率及统计周期；所述服务设备的服务能力采用能力参数进行表示，所述能力参数包括以下至少一种：响应速率及成功响应速率。
具体实现中，该装置在运行所述控制单元101的过程中，具体运行如下单元：
请求速率确定单元1001，用于确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率。
判断单元1002，用于判断所述请求速率是否超过所述控制速率。
发送单元1003，用于若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
具体实现中，该装置在运行所述调整单元103的过程中，具体运行如下单元：
成功率计算单元2001，用于根据所述响应速率及成功响应速率计算请求成功率。
时长获取单元2002，用于若所述请求成功率大于或等于预置阀值，获取成功请求时长。
第一计算单元2003，用于若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率。
第一调整单元2004，用于将所述控制速率调整为所述第一目标速率。
具体实现中，该装置在运行所述调整单元103的过程中，还运行如下单元：
第二计算单元2005，用于若所述请求成功率小于预设阀值，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率。
第二调整单元2006，用于将所述控制速率调整为所述第二目标速率。
由于流量控制装置用于执行图1-图2所示的流量控制方法，因此，图3所示的流量控制装置的各单元的功能可参见图1-图2所示的流量控制方法的各步骤的相关描述，在此不赘述。
与方法同理，本发明实施例的流量控制装置，可采用预置流量控制规则对请求数据进行限流控制，在限流控制过程中，根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力，再按照所述服务设备的服务能力动态调整所述预置流量控制规则；由于依据服务设备的服务能力对预置流量控制规则进行动态调整，这可使得请求速率与服务能力相互匹配，从而充分利用服务能力，有效避免资源过载或资源浪费，提升资源利用率。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。
以上所揭露的仅为本发明较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。

Claims (12)

1.一种流量控制方法，其特征在于，包括：
采用预置流量控制规则将请求设备的请求数据发送至服务设备；
根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力；
按照所述服务设备的服务能力动态调整所述预置流量控制规则。
2.如权利要求1所述的方法，其特征在于，所述预置流量控制规则为流量控制算法；
所述流量控制算法至少包括以下参数：控制速率及统计周期；
所述服务设备的服务能力采用能力参数进行表示，所述能力参数包括以下至少一种：响应速率及成功响应速率。
3.如权利要求2所述的方法，其特征在于，所述采用预置流量控制规则将请求设备的请求数据发送至服务设备，包括：
确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率；
判断所述请求速率是否超过所述控制速率；
若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
4.如权利要求2所述的方法，其特征在于，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则，包括：
根据所述响应速率及成功响应速率计算请求成功率；
若所述请求成功率大于或等于预置阀值，获取成功请求时长；
若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率；
将所述控制速率调整为所述第一目标速率。
5.如权利要求4所述的方法，其特征在于，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则，还包括：
若所述请求成功率小于预设阀值，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率；
将所述控制速率调整为所述第二目标速率。
6.如权利要求1-5任一项所述的方法，其特征在于，所述按照所述服务设备的服务能力动态调整所述预置流量控制规则之后，还包括：
当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
7.一种流量控制装置，其特征在于，包括：
控制单元，用于采用预置流量控制规则将请求设备的请求数据发送至服务设备；
确定单元，用于根据所述服务设备向所述请求设备反馈的响应数据确定所述服务设备的服务能力；
调整单元，用于按照所述服务设备的服务能力动态调整所述预置流量控制规则。
8.如权利要求7所述的装置，其特征在于，所述预置流量控制规则为流量控制算法；
所述流量控制算法至少包括以下参数：控制速率及统计周期；
所述服务设备的服务能力采用能力参数进行表示，所述能力参数包括以下至少一种：响应速率及成功响应速率。
9.如权利要求8所述的装置，其特征在于，所述控制单元包括：
请求速率确定单元，用于确定在所述统计周期内所述请求设备发送请求数据所采用的请求速率；
判断单元，用于判断所述请求速率是否超过所述控制速率；
发送单元，用于若未超过，则按照所述控制速率将所述请求数据发送至所述服务设备。
10.如权利要求8所述的装置，其特征在于，所述调整单元包括：
成功率计算单元，用于根据所述响应速率及成功响应速率计算请求成功率；
时长获取单元，用于若所述请求成功率大于或等于预置阀值，获取成功请求时长；
第一计算单元，用于若所述成功请求时长大于所述统计周期，根据所述成功响应速率及预置增长率计算第一目标速率；
第一调整单元，用于将所述控制速率调整为所述第一目标速率。
11.如权利要求10所述的装置，其特征在于，所述调整单元还包括：
第二计算单元，用于若所述请求成功率小于预设阀值，从所述成功响应速率和所述控制速率中选取值大者确定为第二目标速率；
第二调整单元，用于将所述控制速率调整为所述第二目标速率。
12.如权利要求7-11任一项所述的装置，其特征在于，所述控制单元还用于当检测到所述请求设备向所述服务设备再次发送请求数据时，采用调整后的预置流量控制规则控制所述请求数据的发送。
CN201610881954.7A 2016-10-08 2016-10-08 一种流量控制方法及装置 Active CN107920027B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610881954.7A CN107920027B (zh) 2016-10-08 2016-10-08 一种流量控制方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610881954.7A CN107920027B (zh) 2016-10-08 2016-10-08 一种流量控制方法及装置

Publications (2)

Publication Number Publication Date
CN107920027A true CN107920027A (zh) 2018-04-17
CN107920027B CN107920027B (zh) 2019-03-15

Family

ID=61892303

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610881954.7A Active CN107920027B (zh) 2016-10-08 2016-10-08 一种流量控制方法及装置

Country Status (1)

Country Link
CN (1) CN107920027B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108848037A (zh) * 2018-05-31 2018-11-20 平安医疗科技有限公司 业务请求处理方法、装置、计算机设备和存储介质
CN109818878A (zh) * 2019-01-25 2019-05-28 杭州天谷信息科技有限公司 多通道自适应流量控制方法和系统
CN110120973A (zh) * 2019-04-28 2019-08-13 华为技术有限公司 一种请求控制方法、相关设备及计算机存储介质
CN110572299A (zh) * 2019-08-30 2019-12-13 北京奇艺世纪科技有限公司 设备测试方法、系统、装置、网络节点、终端及存储介质
CN111291104A (zh) * 2020-01-20 2020-06-16 中国银联股份有限公司 一种基于异步应答的传输数据的方法及系统
CN112395053A (zh) * 2019-08-13 2021-02-23 阿里巴巴集团控股有限公司 数据处理方法及装置
CN113381944A (zh) * 2021-06-09 2021-09-10 中国工商银行股份有限公司 系统限流方法、装置、电子设备、介质和程序产品

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101005601A (zh) * 2007-01-18 2007-07-25 中兴通讯股份有限公司 用于电视会议系统的流控方法和装置
CN101505260A (zh) * 2008-02-04 2009-08-12 华为技术有限公司 消息流量的控制方法、系统及装置
CN101527659A (zh) * 2009-04-15 2009-09-09 腾讯科技（深圳）有限公司 一种数据传输监控方法、系统及网络传输装置
US20110205899A1 (en) * 2002-10-29 2011-08-25 Patrick Ahamad Hosein System and Method for Wireless Network Congestion Control
CN102420741A (zh) * 2010-09-28 2012-04-18 朗讯科技投资有限公司 在基于atca的设备中调度通信流量的方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110205899A1 (en) * 2002-10-29 2011-08-25 Patrick Ahamad Hosein System and Method for Wireless Network Congestion Control
CN101005601A (zh) * 2007-01-18 2007-07-25 中兴通讯股份有限公司 用于电视会议系统的流控方法和装置
CN101505260A (zh) * 2008-02-04 2009-08-12 华为技术有限公司 消息流量的控制方法、系统及装置
CN101527659A (zh) * 2009-04-15 2009-09-09 腾讯科技（深圳）有限公司 一种数据传输监控方法、系统及网络传输装置
CN102420741A (zh) * 2010-09-28 2012-04-18 朗讯科技投资有限公司 在基于atca的设备中调度通信流量的方法及装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108848037A (zh) * 2018-05-31 2018-11-20 平安医疗科技有限公司 业务请求处理方法、装置、计算机设备和存储介质
CN108848037B (zh) * 2018-05-31 2023-06-20 平安医疗科技有限公司 业务请求处理方法、装置、计算机设备和存储介质
CN109818878A (zh) * 2019-01-25 2019-05-28 杭州天谷信息科技有限公司 多通道自适应流量控制方法和系统
CN110120973A (zh) * 2019-04-28 2019-08-13 华为技术有限公司 一种请求控制方法、相关设备及计算机存储介质
CN112395053A (zh) * 2019-08-13 2021-02-23 阿里巴巴集团控股有限公司 数据处理方法及装置
CN110572299A (zh) * 2019-08-30 2019-12-13 北京奇艺世纪科技有限公司 设备测试方法、系统、装置、网络节点、终端及存储介质
CN111291104A (zh) * 2020-01-20 2020-06-16 中国银联股份有限公司 一种基于异步应答的传输数据的方法及系统
CN111291104B (zh) * 2020-01-20 2023-07-28 中国银联股份有限公司 一种基于异步应答的传输数据的方法及系统
CN113381944A (zh) * 2021-06-09 2021-09-10 中国工商银行股份有限公司 系统限流方法、装置、电子设备、介质和程序产品

Also Published As

Publication number Publication date
CN107920027B (zh) 2019-03-15

Similar Documents

Publication Publication Date Title
CN107920027B (zh) 一种流量控制方法及装置
Apostolopoulos et al. Risk-aware data offloading in multi-server multi-access edge computing environment
JP2009244945A (ja) 負荷分散プログラム、負荷分散方法、負荷分散装置およびそれを含むシステム
CN103929366B (zh) 流量控制方法、装置及设备
US8645545B2 (en) Balancing the loads of servers in a server farm based on an angle between two vectors
CN112929408A (zh) 动态负载均衡方法及装置
US20190387565A1 (en) Method and apparatus for web browsing on multihomed mobile devices
CN110247856A (zh) 服务器资源释放方法和装置
Aldmour et al. An approach for offloading in mobile cloud computing to optimize power consumption and processing time
Zhang et al. Task Offloading with Power Control for Mobile Edge Computing Using Reinforcement Learning‐Based Markov Decision Process
WO2024088079A1 (zh) 请求处理方法以及系统
CN109388655A (zh) 一种动态控制数据访问的方法和装置
CN117221326A (zh) 软件负载均衡调度方法、系统、电子设备和存储介质
WO2023231309A1 (zh) 一种终端设备日志请求控制方法、服务端和系统
CN114466365B (zh) 频谱资源获取方法、装置和计算机可读存储介质
CN110572851A (zh) 一种数据上传方法、系统、装置及计算机可读存储介质
CN105339915B (zh) 推送型信息发送设备、推送型信息发送方法以及程序
CN115776510A (zh) 心跳包的控制方法和装置、处理器及电子设备
CN102263797A (zh) 一种会话控制的方法及装置
CN106506660B (zh) 一种联机请求处理方法、服务器及系统
CN201571069U (zh) 接入设备及系统
CN115269145A (zh) 一种面向海上无人设备的高能效异构多核调度方法及装置
CN114710496A (zh) 一种多节点负载均衡方法及装置
Dong et al. Towards near optimal WiFi offloading with uncertain contact duration
WO2020107175A1 (zh) 频率处理方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant