CN104065586B - 一种流量控制方法和装置 - Google Patents
一种流量控制方法和装置 Download PDFInfo
- Publication number
- CN104065586B CN104065586B CN201310088303.9A CN201310088303A CN104065586B CN 104065586 B CN104065586 B CN 104065586B CN 201310088303 A CN201310088303 A CN 201310088303A CN 104065586 B CN104065586 B CN 104065586B
- Authority
- CN
- China
- Prior art keywords
- state
- stream control
- flow
- client device
- server end
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种流量控制方法和装置,避免带宽占用,减少网络资源消耗。应用于客户端设备的流量控制方法包括:接收并保存服务器端发送的流量状态包,流量状态包包括第一状态,所述第一状态用于指示客户端设备提高流控力度;基于第一状态的指示提高本地流控阈值;在客户端设备发送请求前,根据当前本地流控阈值判断是否允许发送请求。应用于服务器端的流量控制方法包括:统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,向客户端设备发送包括第一状态的流量状态包。采用本发明方法和装置,从客户端侧进行流量控制,防止服务器处理资源过度消耗,避免带宽占用,无需额外配置备用服务器,降低成本。
Description
技术领域
本发明涉及计算机网络领域,具体涉及一种流量控制方法和装置。
背景技术
C/S(Client/Server,客户端/服务端)模型的服务程序一般存在流量隐患。当流量过载时可能会影响正常服务。同时,在云计算平台上,流量控制也是重要的功能之一,不同的流量权限,不同的计费价格。
已知的一种实现方案为:在服务端统计流量后再拒绝请求;已知的另一种实现方案为:在服务端流量超限后,将用户的请求重定向到备用服务器。上述第一种方案存在以下问题1和问题2,上述第二种方案存在以下问题1和问题3:
1、虽然服务端不实际处理请求,但由于请求已经到达服务端,网络资源已经消耗,且解析包等操作,仍然消耗大量资源;
2、服务端直接拒绝请求,此时全部请求都可能失败,无过渡,实现上比较粗暴,对应用的损害较大;
3、只适用于可预知流量大小的场景,一方面设置备用服务器成本较高,另一方面备用服务器也可能流量过载。
发明内容
本发明要解决的技术问题是提供一种流量控制方法和装置,避免带宽占用,减少网络资源消耗。
为解决上述技术问题,本发明提供了一种流量控制方法,应用于客户端设备,所述方法包括:
接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态,所述第一状态用于指示客户端设备提高流控力度;
基于所述第一状态的指示提高本地流控阈值;
在客户端设备发送请求前,根据当前本地流控阈值判断是否允许发送所述请求。
进一步地,所述方法还包括:接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态,所述第二状态用于指示客户端设备维持流控力度;基于所述第二状态的指示保持当前本地流控阈值不变。
进一步地,所述方法还包括:定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,所述第三状态用于指示客户端设备降低流控力度,基于所述第三状态的指示降低当前本地流控阈值。
进一步地,所述根据当前本地流控阈值判断是否允许发送所述请求,包括:在本地流控阈值的取值范围内生成一随机数,判断所述随机数是否大于当前本地流控阈值,如果大于则允许发送所述请求,如果小于则不允许发送所述请求。
为解决上述技术问题,本发明还提供了一种流量控制方法,应用于服务器端,所述方法包括:
统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,所述第一状态用于指示客户端设备提高流控力度,向客户端设备发送包括第一状态的流量状态包。
进一步地,所述方法还包括:判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态,所述第二状态用于指示客户端设备维持流控力度,向客户端设备发送包括第二状态的流量状态包,所述第一警戒值大于所述第二警戒值。
进一步地,所述方法还包括:判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态,所述第三状态用于指示客户端设备降低流控力度。
为解决上述技术问题,本发明还提供了一种流量控制装置,应用于客户端设备,所述流量控制装置包括接收模块、流控阈值调整模块和流控模块,其中:
所述接收模块,用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态,所述第一状态用于指示客户端设备提高流控力度;
所述流控阈值调整模块,用于基于所述第一状态的指示提高本地流控阈值;
所述流控模块,用于在客户端设备发送请求前,根据当前本地流控阈值判断是否允许发送所述请求。
进一步地,所述接收模块,还用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态,所述第二状态用于指示客户端设备维持流控力度;
所述流控阈值调整模块,还用于基于所述第二状态的指示保持当前本地流控阈值不变。
进一步地,所述流控阈值调整模块,还用于定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,所述第三状态用于指示客户端设备降低流控力度,基于所述第三状态的指示降低当前本地流控阈值。
进一步地,所述流控模块根据当前本地流控阈值判断是否允许发送所述请求,包括:在本地流控阈值的取值范围内生成一随机数,判断所述随机数是否大于当前本地流控阈值,如果大于则允许发送所述请求,如果小于则不允许发送所述请求。
为解决上述技术问题,本发明还提供了一种流量控制装置,应用于服务器端,所述流量控制装置包括监控模块和发送模块,其中:
所述监控模块,用于统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,所述第一状态用于指示客户端设备提高流控力度;
所述发送模块,用于向客户端设备发送包括第一状态的流量状态包。
进一步地,所述监控模块,还用于判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态,所述第二状态用于指示客户端设备维持流控力度;
所述发送模块,还用于向客户端设备发送包括第二状态的流量状态包,所述第一警戒值大于所述第二警戒值。
进一步地,所述监控模块还用于判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态,所述第三状态用于指示客户端设备降低流控力度。
采用本发明方法和装置,通过客户端与服务端配合处理,从客户端侧进行流量控制,防止服务器处理资源过度消耗,避免带宽占用,减少网络资源消耗,且控制平滑,无需额外配置备用服务器,降低成本。
附图说明
图1为本发明实施例1客户端流控方法流程图;
图2为本发明实施例1客户端流控装置结构示意图;
图3为本发明实施例2客户端流控方法流程图;
图4为本发明实施例4服务器端流控方法流程图;
图5为本发明实施例4服务器端流控装置结构示意图;
图6为本发明实施例5服务器端流控方法流程图;
图7为本发明实施例6服务器端流控方法流程图;
图8为本发明应用示例1流控系统流程图;
图9为本发明应用示例1流量与流控力度关系曲线图;
图10为本发明应用示例2流量控制模块流程示意图;
图11为本发明应用示例3流量监控模块流程示意图;
图12为本发明应用示例4提高流控阈值流程图;
图13为本发明应用示例4降低流控阈值流程图;
图14为本发明应用示例5提高流控阈值状态下更新阈值流程图;
图15为本发明应用示例6周期性查询流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,下文中将结合附图对本发明的实施例进行详细说明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。
实施例1
本实施例介绍应用于客户端设备(以下简称客户端)的流量控制方法,本实施例方法针对需要限制请求的情况,如图1所示,包括以下步骤:
步骤101,接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态,所述第一状态用于指示客户端提高流控力度;
步骤102,基于所述第一状态的指示提高本地流控阈值;
步骤103,在客户端发送请求前,根据当前本地流控阈值判断是否允许发送所述请求。
上述步骤103中,根据当前本地流控阈值判断是否允许发送所述请求的一种优选方式是:在本地流控阈值的取值范围内生成一随机数,判断所述随机数是否大于当前本地流控阈值,如果大于则允许发送所述请求,如果小于则不允许发送所述请求。除此种优选方式外,还可以采用其他优选方式,例如将本地流控阈值作为衡量请求数量的标准,如果请求数量已超过本地流控阈值,则不允许发送,否则不允许;再例如,将本地流控阈值作为衡量请求优先级的标准,如果当前请求的优先级超过本地流控阈值,则允许发送,否则不允许。不论采用何种方式实现,只要服务器端要求提高流控力度,客户端则需要相应提高本地流控阈值,以此控制请求发送的数量,避免服务器端流量过载。
实现本实施例方法的流量控制装置如图2所示,包括:接收模块201、流控阈值调整模块202和流控模块203,其中:
所述接收模块201,用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态;
所述流控阈值调整模块202,用于基于所述第一状态的指示提高本地流控阈值;
所述流控模块203,用于在客户端发送请求前,根据当前本地流控阈值判断是否允许发送所述请求。
上述流控模块203根据本地流控阈值判断是否允许发送请求的方式参见上述方法流程中描述,此处不再赘述。
上述流量控制装置优选设置于客户端内。
在本实施例中,由客户端控制请求的发送,减少了请求发送到服务器端时需要耗费的流量,避免由于处理拒绝请求而消耗服务器端资源。另外,客户端侧可以自行调整控制力度,例如逐步增大控制力度,使控制更加平滑,带给用户更好的体验。
实施例2
本实施例介绍应用于客户端的流量控制方法,本实施例方法针对需要维持当前流量的情况,如图3所示,包括以下步骤:
步骤301,接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态,所述第二状态用于指示客户端设备维持流控力度;
步骤302,基于所述第二状态的指示保持当前本地流控阈值不变;
步骤303,同实施例1步骤103。
如果服务器端发送包含第二状态的流量控制包,说明当前流量处于服务器端能够承受的状态,对于客户端而言,只要保持当前本地流控阈值不变即可。
实现本实施例方法的流量控制装置结构同实施例1,区别在于,接收模块201还用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态;流控阈值调整模块202还用于基于所述第二状态的指示保持当前本地流控阈值不变。
实施例3
本实施例介绍应用于客户端的流量控制方法,本实施例方法针对不需要限制当前流量的情况。对于此种情况,一种处理方式是:服务器端可以主动向客户端发送流量状态包,状态包中包括第三状态,该第三状态用于指示客户端设备降低流控力度,客户端基于该第三状态降低本地流控阈值。另一种处理方式是,客户端定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,基于所述第三状态的指示降低当前本地流控阈值,采用第二种处理方式可以减少服务器端处理的资源消耗。第二种处理方式中的定期发送流量状态查询请求的一种实现方式是:设置流量状态查询时间间隔S1,只要当前时间距离上次流量状态查询时间超过该时间间隔S1,就发起流量状态查询。另一种实现方式是,设置流量状态查询时间间隔S2,只要当前时间距离上次调整本地流控阈值(提高或者降低)的时间超过该时间间隔S2,就发起流量状态查询。
不论采用上述第一种处理方式还是第二种处理方式,此后在客户端发送请求前,根据当前本地流控阈值判断是否允许发送所述请求,由于当前本地流控阈值已经降低,因此,将会有更多的请求被允许发送到服务器端。
为实现本实施例方法,上述实施例1或实施例2的流量控制装置中的流控阈值调整模块202还用于定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,基于该第三状态的指示降低当前本地流控阈值。
实施例4
本实施例介绍应用于服务器端的流量控制方法,本实施例方法针对需要限制请求的情况,如图4所示,包括以下步骤:
步骤401,统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,所述第一状态用于指示客户端提高流控力度;
步骤402,向客户端发送包括第一状态的流量状态包。
实现本实施例方法的流量控制装置如图5所示,包括监控模块501和发送模块502,其中:
所述监控模块501,用于统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态;
所述发送模块502,用于向客户端发送包括第一状态的流量状态包。
实施例5
本实施例介绍应用于服务器端的流量控制方法,本实施例方法针对需要维持当前流量的情况,如图6所示,包括以下步骤:
步骤601,统计当前流量,判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态,所述第二状态用于指示客户端维持流控力度;
上述第一警戒值大于所述第二警戒值;
步骤602,向客户端发送包括第二状态的流量状态包。
实现本实施例方法的流量控制装置结构同实施例4,不同之处在于,监控模块501用于统计当前流量,判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态;发送模块502用于向客户端发送包括第二状态的流量状态包。
实施例6
本实施例介绍应用于服务器端的流量控制方法,本实施例方法针对不需要限制当前流量的情况,如图7所示,包括以下步骤:
步骤701,统计当前流量,判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态,所述第三状态用于指示客户端降低流控力度;
上述第一警戒值大于所述第二警戒值;
步骤702,向客户端发送包括第三状态的流量状态包。
在一个优选实施例中,上述步骤702可以省略,即更新当前流量状态后不将当前流量状态发送给客户端,而是等待客户端主动查询。
实现本实施例方法的流量控制装置结构同实施例4,不同之处在于,监控模块501用于统计当前流量,判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态。
下面结合应用示例对上述各实施例方法进行说明。在不冲突的情况下,以下应用示例以及应用示例中的特征可以相互任意组合,以下应用示例以及应用示例中的特征也可以与上述实施例相互任意组合。
应用示例1
本示例描述客户端与服务器端交互的流程,本示例中客户端中的流量控制装置为流量控制模块,服务器端中的流量控制装置为流量监控模块,上述流量控制装置也可以与客户端或服务器端分开设置。如图8所示,包括以下步骤:
步骤801,客户端向流量控制模块发送请求,由流量控制模块判断是否需要进行流控,并返回判断结果,如果需要流控,则直接拒绝请求,客户端不发送请求,如果不需要流控,执行步骤802;
客户端在发送请求前,首先需要询问流量控制模块是否可以发送该请求,流控模块会根据相应算法,回答是否允许发送请求,若客户端得知不允许发送请求,则不会发送请求到服务端,以此来达到流控的效果。
在向流量控制模块发请求时,可在请求中携带目标地址。
步骤802,客户端向服务器端发送请求消息;
步骤803,流量监控模块获取流量信息;
步骤804,流量监控模块统计当前流量,判断是否超过设定的警戒值;
步骤805a,服务器端向客户端返回请求的处理结果;
步骤805b,流量监控模块判断当前流量如果超过设定的警戒值,则通过服务器端向流量控制模块发送流量状态;
若客户端的请求正常发送到服务器端,服务器端会处理该请求,同时计算此请求消耗的流量,累加给流量监控模块,流量监控模块根据用户事先配置的警戒值来决定发送何种流量状态给客户端。
步骤805b1,该流量控制模块根据流量状态更新流控阈值。
通过检测服务器的流量是否超标,若流量超标,则由客户端阻塞请求,从而实现流控。
在本示例中,流控系统支持三种流量状态,状态代码与含义为:
Up(提高流控阈值)状态:流量超出警戒值,需要客户端限制请求,客户端应该调高控制力度;
Keep(保持流控阈值)状态:流量已经低于警戒值,客户端可以维持当前流量,控制力度不变;
Down(降低流控阈值)状态:流量正常,客户端不需要限制请求。
初始状态为Down状态。
在本示例中,服务器端配置2个警戒值:Upper(第一警戒值),Lower(第二警戒值),具体地:
Upper为高水位,当流量大于Upper时,对应Up状态;
Lower为低水位,当流量从大于Upper的水位降低到Lower以上、Upper以下时,对应状态为Keep状态;
为了防止客户端对流控反应过于激烈,只有流量从Upper降低到Lower以下,才会恢复为Down状态;当流量从Lower以下上升到Upper以下、Lower以上时,状态不变,保持Down状态。
流量与流量状态(流控力度)的关系如图9所示,其中流控力度由流控阈值控制,流控阈值越高,拒绝的请求越多。
应用示例2
本示例描述客户端中流量控制模块如何判断是否允许发送请求,如图10所示,包括以下步骤:
步骤1001,接收客户端发送的请求数据;
步骤1002,在流控阈值的取值范围内生成一随机数(即Random()%MAX,其中MAX为流控阈值的最大取值);
流控阈值(var)的取值范围为[0,MAX],MAX越大,控制精度越高,例如MAX=1000。
步骤1003,根据随机数与流控阈值判断是否需要进行流控,如果不需要进行流控,执行步骤1004,如果需要进行流控执行步骤1005;
通过比较随机数与流控阈值的大小判断是否需要进行流控,例如,如果随机数小于流控阈值,则认为不需要进行流控,如果随机数大于流控阈值则认为需要流控。对于此种实现方式,当有询问到达时,流量控制模块会随机生成一个大于0小于MAX的数字,随机数小于等于var则拒绝请求发送,反之则允许发送请求,也就是说拒绝的比例为(100*var/MAX)%,var越接近MAX,流控力度越大。
步骤1004,回复客户端,允许发送请求;
步骤1005,判断连续拒绝次数是否小于N次,如果是,执行步骤1006,否则执行步骤1008;
步骤1006,判断距离上次发送流量状态查询请求的时间间隔是否大于S,如果是,执行步骤1007,否则执行步骤1008;
步骤1007,发送流量状态查询请求,执行步骤1008;
步骤1008,回复客户端,拒绝发送请求。
上述步骤1005和1006为优选执行步骤。
应用示例3
本示例描述服务器端中流量监控模块如何判断发送何种流量状态给客户端,以应用示例1中的流量状态为例进行说明,如图11所示,包括以下步骤:
步骤1101,收到客户端发送的请求消息;
步骤1102,计算当前的流量,设当前流量为C,前一刻的流量为P;
步骤1103,判断当前流量C是否大于第一警戒值Upper,如果是,执行步骤1104,否则执行步骤1105;
步骤1104,更新服务器当前流量状态STAT为UP状态,向流量控制模块发送流量状态包,其中包括当前流量状态,结束;
步骤1105,判断当前流量C是否小于等于第二警戒值Lower,如果是,执行步骤1106,否则执行步骤1107;
步骤1106,更新服务器当前流量状态STAT为DOWN状态,结束;
步骤1107,判断前一刻的流量是否大于Upper,如果是,执行步骤1108,否则执行步骤1109;
步骤1108,更新服务器当前流量状态STAT为KEEP状态,向流量控制模块发送流量状态包,其中包括当前流量状态,结束;
步骤1109,判断前一刻的流量是否小于Lower,如果是,执行步骤1106,否则执行步骤1110;
步骤1110,保持前一时刻的状态不变,例如,如果前一时刻流量状态为DOWN,则更新当前流量状态仍为DOWN状态,如果前一时刻流量状态为KEEP,则更新当前流量状态仍为KEEP状态,并向流量控制模块发送流量状态包,其中包括当前流量状态,结束。
应用示例4
本示例介绍流量控制模块如何通过维护变量var值的大小,实现流控力度的控制。
当流量控制模块收到UP状态通知时,调用以下提高流控阈值的流程,增大var。提高流控阈值的流程如图12所示,包括以下步骤:
步骤1201,接收到提高流控阈值的命令;
步骤1202,增加var;
增加var的方式有很多种,比如每次增加固定的步长,或者是采用以下公式:var=var+up_factor*(max-var),其中up_factor为预设提高因子,取值范围为(0,1),通过调整该提高因子可根据实际情况调整流控阈值每次提高的步长。此公式适合与期望var增大幅度是平稳的情况,var越接近max,幅度相对var比例越小,var的变化会相对平稳,那么流控也就越温和。
步骤1203,判断var是否大于最大取值max,如果是,执行步骤1204,否则,执行步骤1205;
步骤1204,取var为最大值,执行步骤1205;
步骤1205,输出当前var值。
流量控制模块如果不收到DOWN状态通知,则会每隔一定时间,尝试降低var。降低流控阈值的流程如图13所示,包括以下步骤:
步骤1301,接收到降低流控阈值的命令;
步骤1302,降低var;
降低var的方式有很多种,比如每次减少固定的步长,或者是采用以下公式:var=var-down_factor*var,其中down_factor为预设降低因子,取值范围为(0,1),通过调整该降低因子可根据实际情况调整流控阈值每次降低的步长。
步骤1303,判断var是否小于最小取值(本示例中为0),如果是,执行步骤1304,否则,执行步骤1305;
步骤1304,取var为最小值,执行步骤1305;
步骤1305,输出当前var值。
上述增加var和降低var的方式相比,var降低的变化程度较var的增大幅度更加剧烈,或者说,var的降低速率相对增大速率要大,这是考虑到降低var是因为当前服务器端处于down状态,所以期望能尽快降低var以避免服务器端长时间流量超负荷。总之var的改变宜采取渐进的方式,保证流量曲线的平滑。
当流量控制模块收到KEEP状态通知时,不改变流控阈值的大小,但是更新状态更新计数器,换句话说,虽然var值没有改动,但是仍然算作一次流控阈值调整。
应用示例5
客户端的流量控制模块可以在收到流量状态为UP状态的通知后即刻提高流控阈值,也可以进行一些判断操作,如图14所示,包括以下步骤:
步骤1401,接收到流量状态;
步骤1402,判断流量状态是否为UP状态,如果是,执行步骤1403,否则结束;
步骤1403,判断距离上次调整时间间隔是否大于S秒,如果是,提高流控阈值,执行步骤1404,否则,结束;
步骤1404,提高流控阈值,结束。
在本示例中,设置var值的更新周期为S秒,即每次var值的增加都需要一定时间间隔,以避免var值的频繁变化。
应用示例6
本示例针对服务器端不主动发送Down状态,由流量控制模块主动发起查询的场景,描述流量控制模块如何周期性发起查询的流程,如图15所示,包括以下步骤:
步骤1501,流量控制阈值重置;
步骤1502,判断距离上次调整间隔是否大于预设时间(本示例中为2S秒),如果是,执行步骤1503,否则执行步骤1504;
步骤1503,向流量监控模块发起查询流量状态,执行步骤1504;
步骤1504,等待S秒后执行步骤1501。
本示例中,S秒是状态调整的时间间隔,考虑到查询状态实际上主要是为了查询是否为Down状态,假如发现状态在S秒以内更新过,那么可以推断出当前服务器端的流量状态极大可能性仍是UP状态或者是KEEP状态,此时发送状态查询请求是不经济的。相反的考虑,当大于S秒的时间没有更新过,可以说明此时状态有极大可能性已经恢复到DOWN状态了。但如果等待时间过久又会导致DOWN状态恢复延迟,因此本示例中取S*2作为等待时间的经验值。
上述实施例以及应用示例的方法可以在分布式缓存中实现。缓存系统在内部有很多的应用共享同一组服务器。如果某个存在bug(漏洞)的外部应用出现了大量的重复调用,由于服务器是共享的,如果资源被占满,将影响大量业务运行。此时流控功能发挥作用,当发现流量过大,服务器端自动将状态更新为UP状态,客户端接收到该状态后,开始进行流控,服务器端的负载逐渐降低。当流量降低到一定程度后,服务器端状态更新为KEEP状态,此时流量稳定在一定范围内。当开发人员定位bug,回滚应用后,重复调用消失,此时服务器端的状态更新为DOWN状态,即恢复到初始状态,客户端查询到该状态后,逐步地降低流控力度,服务器端的负载逐渐升高,直到服务器端状态再次更新为KEEP状态。由于流控功能的存在,本次故障不会影响到其他业务产品。
上述流量并不局限于数据量,还可以扩展到其他类似的场景中。例如上述实施例以及应用示例的方法还可以应用于云计算平台,云计算平台一般都有计费的维度,比如容量或者调用量。资费标准越高,可以调用频率越高(该调用频率可以理解为广义的流量),通过本申请提供的流控功能可以将超出资费标准的调用拒绝掉。例如,某个用户购买XXX元的流量服务,此服务可以提供10MB/s的流量供应,服务端可以设置流量水位Lower为10MB,Upper为11MB,当用户使用时,流量为0-10.9MB以下时,正常。当流量15MB时,开始流控,额户端会随机拒绝请求,通过设置流控阈值,控制接受的请求量在10~11MB之间,直到用户增加了资费(如提高Lower为15MB,Upper为15.9MB),或者降低自身的请求小于10MB,则客户端不会再拒绝请求。同样,上述方法也适用于次数的统计(每秒的操作次数)。
本申请流控方案提供了一个反馈机制,当流量增大时,流控阈值也增大即控制力度增大,则会降低流量;假若控制力度过大,导致流量状态突然降低到DOWN状态,则流控力度也会随着时间减弱,从而使流量再次上升,直到稳定在KEEP状态时,表明控制力度合适,维持该控制力度。
本领域普通技术人员可以理解上述方法中的全部或部分步骤可通过程序来指令相关硬件完成,所述程序可以存储于计算机可读存储介质中,如只读存储器、磁盘或光盘等。可选地,上述实施例的全部或部分步骤也可以使用一个或多个集成电路来实现。相应地,上述实施例中的各模块/单元可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。本发明不限制于任何特定形式的硬件和软件的结合。
当然,本发明还可有其他多种实施例,在不背离本发明精神及其实质的情况下,熟悉本领域的技术人员当可根据本发明作出各种相应的改变和变形,但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。
Claims (12)
1.一种流量控制方法,应用于客户端设备,其特征在于,所述方法包括:
接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态,所述第一状态用于指示客户端设备提高流控力度;
基于所述第一状态的指示提高本地流控阈值;
在客户端设备发送请求前,根据当前本地流控阈值判断是否允许发送所述请求,包括:在本地流控阈值的取值范围内生成一随机数,判断所述随机数是否大于当前本地流控阈值,如果大于则允许发送所述请求,如果小于则不允许发送所述请求。
2.如权利要求1所述的方法,其特征在于:
所述方法还包括:接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态,所述第二状态用于指示客户端设备维持流控力度;基于所述第二状态的指示保持当前本地流控阈值不变。
3.如权利要求1所述的方法,其特征在于:
所述方法还包括:定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,所述第三状态用于指示客户端设备降低流控力度,基于所述第三状态的指示降低当前本地流控阈值。
4.一种流量控制方法,应用于服务器端,其特征在于,所述方法包括:
统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,向客户端设备发送包括第一状态的流量状态包;所述第一状态用于指示客户端设备提高流控力度,使客户端基于所述第一状态的指示提高本地流控阈值,并在客户端设备发送请求前根据当前本地流控阈值判断是否允许发送所述请求。
5.如权利要求4所述的方法,其特征在于:
所述方法还包括:判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态,所述第二状态用于指示客户端设备维持流控力度,向客户端设备发送包括第二状态的流量状态包,所述第一警戒值大于所述第二警戒值。
6.如权利要求4所述的方法,其特征在于:
所述方法还包括:判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态,所述第三状态用于指示客户端设备降低流控力度。
7.一种流量控制装置,应用于客户端设备,其特征在于,所述流量控制装置包括接收模块、流控阈值调整模块和流控模块,其中:
所述接收模块,用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第一状态,所述第一状态用于指示客户端设备提高流控力度;
所述流控阈值调整模块,用于基于所述第一状态的指示提高本地流控阈值;
所述流控模块,用于在客户端设备发送请求前,根据当前本地流控阈值判断是否允许发送所述请求,包括:在本地流控阈值的取值范围内生成一随机数,判断所述随机数是否大于当前本地流控阈值,如果大于则允许发送所述请求,如果小于则不允许发送所述请求。
8.如权利要求7所述的流量控制装置,其特征在于:
所述接收模块,还用于接收并保存服务器端发送的流量状态包,所述流量状态包包括第二状态,所述第二状态用于指示客户端设备维持流控力度;
所述流控阈值调整模块,还用于基于所述第二状态的指示保持当前本地流控阈值不变。
9.如权利要求7所述的流量控制装置,其特征在于:
所述流控阈值调整模块,还用于定期向服务器端发送流量状态查询请求,当查询所述服务器端当前流量状态为第三状态时,所述第三状态用于指示客户端设备降低流控力度,基于所述第三状态的指示降低当前本地流控阈值。
10.一种流量控制装置,应用于服务器端,其特征在于,所述流量控制装置包括监控模块和发送模块,其中:
所述监控模块,用于统计当前流量,判断服务器端当前流量高于第一警戒值时,更新当前流量状态为第一状态,所述第一状态用于指示客户端设备提高流控力度,使客户端基于所述第一状态的指示提高本地流控阈值,并在客户端设备发送请求前根据当前本地流控阈值判断是否允许发送所述请求;
所述发送模块,用于向客户端设备发送包括第一状态的流量状态包。
11.如权利要求10所述的流量控制装置,其特征在于:
所述监控模块,还用于判断服务器端的流量从高于第一警戒值降低到低于第一警戒值、高于第二警戒值时,更新当前流量状态为第二状态,所述第二状态用于指示客户端设备维持流控力度;
所述发送模块,还用于向客户端设备发送包括第二状态的流量状态包,所述第一警戒值大于所述第二警戒值。
12.如权利要求10所述的流量控制装置,其特征在于:
所述监控模块,还用于判断服务器端流量低于第二警戒值,或者从低于第二警戒值升高到低于第一警戒值时,更新当前流量状态为第三状态,所述第三状态用于指示客户端设备降低流控力度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310088303.9A CN104065586B (zh) | 2013-03-19 | 2013-03-19 | 一种流量控制方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310088303.9A CN104065586B (zh) | 2013-03-19 | 2013-03-19 | 一种流量控制方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104065586A CN104065586A (zh) | 2014-09-24 |
CN104065586B true CN104065586B (zh) | 2017-10-24 |
Family
ID=51553124
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310088303.9A Active CN104065586B (zh) | 2013-03-19 | 2013-03-19 | 一种流量控制方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104065586B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105721325B (zh) * | 2014-12-04 | 2019-05-10 | 中国移动通信集团广东有限公司 | 一种多用户虚拟机流量优化方法、装置、控制器及虚拟机 |
WO2016101285A1 (zh) * | 2014-12-27 | 2016-06-30 | 华为技术有限公司 | 网络接入的方法和设备 |
CN105282051B (zh) * | 2015-09-11 | 2018-10-26 | 广州华多网络科技有限公司 | 一种带宽调整方法及带宽服务器 |
CN105681073A (zh) * | 2015-12-25 | 2016-06-15 | 北京奇虎科技有限公司 | 一种更新应用程序的方法及装置 |
CN107181601B (zh) * | 2016-03-09 | 2019-12-06 | 中国移动通信集团湖南有限公司 | 一种流量提醒方法及装置 |
CN109495397B (zh) * | 2017-09-13 | 2022-09-09 | 北京国双科技有限公司 | 流量控制方法及装置 |
CN107844373B (zh) * | 2017-11-02 | 2021-11-19 | 郑州云海信息技术有限公司 | 一种请求发送方法、系统、介质及设备 |
CN108599997A (zh) * | 2018-04-04 | 2018-09-28 | 北京奇艺世纪科技有限公司 | 升级控制方法和装置 |
CN109660400B (zh) * | 2018-12-24 | 2021-06-25 | 思必驰科技股份有限公司 | 流控配置方法及系统 |
CN111901206A (zh) * | 2020-08-28 | 2020-11-06 | 杭州安恒信息技术股份有限公司 | 一种网卡测试方法、装置及相关设备 |
CN113179536B (zh) * | 2021-03-12 | 2023-05-30 | 中国雄安集团数字城市科技有限公司 | 基于NB-IoT窄带通信技术的流量控制方法及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3550648B2 (ja) * | 1999-07-26 | 2004-08-04 | 日本電信電話株式会社 | Atm信号送信方法およびatm信号装置 |
JP4526495B2 (ja) * | 2005-06-28 | 2010-08-18 | 日本電信電話株式会社 | パス容量増減判断方法および通信システム |
CN101166308A (zh) * | 2007-08-07 | 2008-04-23 | 中兴通讯股份有限公司 | 一种动态控制本端设备到对端设备信息流量的方法 |
CN101577671A (zh) * | 2008-05-07 | 2009-11-11 | 北京启明星辰信息技术股份有限公司 | 一种对等联网业务自动流量控制方法及系统 |
EP2200230B1 (en) * | 2008-12-16 | 2014-03-12 | Alcatel Lucent | Method and device for performing traffic control in telecommunication networks |
CN102025640A (zh) * | 2010-12-24 | 2011-04-20 | 北京星网锐捷网络技术有限公司 | 流量控制方法、装置及网络设备 |
-
2013
- 2013-03-19 CN CN201310088303.9A patent/CN104065586B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN104065586A (zh) | 2014-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104065586B (zh) | 一种流量控制方法和装置 | |
US9444752B2 (en) | Distributed caching systems with configurable extended caching optimization | |
US8914501B2 (en) | Method, apparatus, and system for scheduling distributed buffer resources | |
US11316792B2 (en) | Method and system of limiting traffic | |
US20120092442A1 (en) | Quality of Service Adjustments to Improve Network Utilization | |
US20100274893A1 (en) | Methods and apparatus for detecting and limiting focused server overload in a network | |
KR101415431B1 (ko) | 휴면 타이머 제어를 위한 방법, 장치 및 통신 시스템 | |
WO2019148569A1 (zh) | 一种发送数据资源的获取请求的方法和系统 | |
KR20160046667A (ko) | 글로벌 서버 로드 밸런서 장치 및 상기 장치에서의 동적 캐쉬 유효 기간 제어 방법 | |
CN105873022A (zh) | 移动终端下载方法及装置 | |
US11330027B1 (en) | Methods, systems, and computer readable media for hypertext transfer protocol (HTTP) stream tuning for load and overload | |
CN111291252B (zh) | 一种每秒查询率的调整方法、装置、电子设备及存储介质 | |
CN103905544A (zh) | 一种集群存储系统及集群存储系统中的节点分配方法 | |
WO2024088079A1 (zh) | 请求处理方法以及系统 | |
US20210152278A1 (en) | Interaction based thermal mitigation | |
CN111897659A (zh) | 业务处理频率的控制方法、系统、装置、电子设备 | |
CN114465872B (zh) | 一种边缘计算资源的调整方法、装置、设备及存储介质 | |
WO2020166364A1 (ja) | ゲートウェイ、通信システム及び通信方法 | |
CN116360981A (zh) | 资源管理方法以及装置 | |
CN111193760B (zh) | 一种信息发送方法、装置及存储介质 | |
JP6626602B2 (ja) | 適応型コンテンツ最適化 | |
CN115297057B (zh) | 基于信息管理平台的网络流量控制方法 | |
CN110636104A (zh) | 一种资源请求方法、电子设备及存储介质 | |
CN114500663B (zh) | 内容分发网络设备的调度方法、装置、设备及存储介质 | |
CN117527699A (zh) | 一种网络流量转发方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20211108 Address after: Room 516, floor 5, building 3, No. 969, Wenyi West Road, Wuchang Street, Yuhang District, Hangzhou City, Zhejiang Province Patentee after: Alibaba Dharma Institute (Hangzhou) Technology Co.,Ltd. Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands Patentee before: ALIBABA GROUP HOLDING Ltd. |