CN109818878A - 多通道自适应流量控制方法和系统 - Google Patents
多通道自适应流量控制方法和系统 Download PDFInfo
- Publication number
- CN109818878A CN109818878A CN201910073285.4A CN201910073285A CN109818878A CN 109818878 A CN109818878 A CN 109818878A CN 201910073285 A CN201910073285 A CN 201910073285A CN 109818878 A CN109818878 A CN 109818878A
- Authority
- CN
- China
- Prior art keywords
- channel
- response time
- time value
- flow rate
- rate threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种多通道自适应流量控制方法和系统,其中,方法包括:根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;获取数据流的请求信息,根据请求信息中的请求类型选择对应的子流量通道传输当前的数据流;在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。本发明能够根据请求类型对不同数据量的请求做了区分,利用对应的子通道传输数据流,从而提高流量分配的灵活性;并且能够实现自适应、最大化地压榨系统性能的流量控制,提高资源利用率。
Description
技术领域
本发明涉及流量控制技术领域,尤其涉及一种多通道自适应流量控制方法和系统。
背景技术
在一个分布式系统中,一组独立的计算机展现给用户的是一个统一的整体。系统拥有多种通用的物理和逻辑资源,可以动态的分配任务,分散的物理和逻辑资源通过计算机网络实现信息交换。而在分布式系统中,保持系统的稳定性尤为重要。传统采用单通道系统,在流量过大时为了保护本系统的可用性,需要对服务进行降级。服务的降级指的是即使在流量洪峰面前,也能够保证本系统能够提供有限的服务且不会被压垮。
传统的流量控制方式是对单通道系统设定流量指标,当流量超过设定的流量指标时,就直接拒绝提供更多的服务。但是这种方式缺陷在于,单通道系统在启动时设定的流量指标不能改变,不支持不重启的情况下加大流量限制指标,不能实现自适应调整。且单通道的流量控制方式,不能对不同的流量做区分,导致资源利用率低。
发明内容
本发明提供的多通道自适应流量控制方法和系统,其主要目的在于克服传统的流量控制方式,不能实现自适应调整,且不能对不同的流量做区分,导致资源利用率低的缺陷。
为解决上述技术问题,本发明采用如下技术方案:
一种多通道自适应流量控制方法,包括以下步骤;
根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;
获取数据流的请求信息,根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流;
在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
作为一种可实施方式,所述根据各子通道预设的流量分配比例将系统通道分为至少两个子流量通道,包括以下步骤;
根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;所述同步流量通道的流量占比为系统通道的当前流量阈值的70%,所述异步流量通道的占比为系统通道的当前流量阈值的30%。
作为一种可实施方式,所述根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流,包括以下步骤;
利用线程局部变量将所述请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。
作为一种可实施方式,所述根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整,包括以下步骤;
将所述平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
若所述平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,所述当前流量阈值保持不变;
若所述平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行上调;
若所述平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行下调。
作为一种可实施方式,本发明提供的多通道自适应流量控制方法,还包括以下步骤;
在系统启动时,获取与每个通道对应的通道信号量,所述通道信号量包括同步子通道信号量和异步子通道信号量;
根据所述同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。
相应的,一种多通道自适应流量控制系统,包括划分模块、选择传输模块以及动态调整模块;
所述划分模块,用于根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;
所述选择传输模块,用于获取数据流的请求信息,根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流;
所述动态调整模块,用于在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
作为一种可实施方式,所述划分模块还用于;
根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;所述同步流量通道的流量占比为系统通道的当前流量阈值的70%,所述异步流量通道的占比为系统通道的当前流量阈值的30%。
作为一种可实施方式,所述选择传输模块还用于;
利用线程局部变量将所述请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。
作为一种可实施方式,所述动态调整模块包括判断单元、保持单元、第一调整单元以及第二调整单元;
所述判断单元,用于将所述平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
所述保持单元,用于若所述平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,所述当前流量阈值保持不变;
所述第一调整单元,用于若所述平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行上调;
所述第二调整单元,用于若所述平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行下调。
作为一种可实施方式,本发明提供的多通道自适应流量控制系统,还包括限流调整模块;
所述限流调整模块,用于在系统启动时,获取与每个通道对应的通道信号量,所述通道信号量包括同步子通道信号量和异步子通道信号量;
根据所述同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。
与现有技术相比,本技术方案具有以下优点:
本发明提供的多通道自适应流量控制方法和系统,先根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;使得通道流量分配比例高的子流量通道数据流通优先级比通道流量分配比例低的子流量通道高;并根据数据流请求信息中的请求类型对不同数据量的请求做了区分,利用对应的子通道传输数据流,从而提高流量分配的灵活性;并且在系统运行时,能够根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时根据预设流量分配比例对调整后的系统通道进行重新分配,以实现自适应、最大化地压榨系统性能的流量控制,提高资源利用率。
附图说明
图1为本发明实施例一提供的多通道自适应流量控制方法的流程示意图;
图2为本发明实施例二提供的多通道自适应流量控制系统的结构示意图;
图3为图2中动态调整模块的结构示意图。
图中:100、划分模块;200、选择传输模块;300、动态调整模块;310、判断单元;320、保持单元;330、第一调整单元;340、第二调整单元。
具体实施方式
以下结合附图,对本发明上述的和另外的技术特征和优点进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的部分实施例,而不是全部实施例。
请参阅图1,本发明实施例一提供的多通道自适应流量控制方法,包括以下步骤;
S100、根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;
S200、获取数据流的请求信息,根据请求信息中的请求类型选择对应的子流量通道传输当前的数据流;
S300、在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
需要说明的是,在分布式系统每次启动时,都会根据预设的通道流量分配比例对系统通道进行划分。通道流量分配比例有几个就划分出多少个子流量通道。比如,通道流量分配比例为7:3,那么会划分出2个子流量通道。具体可以为,根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;同步流量通道的流量占比为系统通道的当前流量阈值的70%,异步流量通道的占比为系统通道的当前流量阈值的30%。如果通道流量分配比例为8:3,那么也会划分出2个子流量通道。具体可以为,根据预设的8:2的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;同步流量通道的流量占比为系统通道的当前流量阈值的80%,异步流量通道的占比为系统通道的当前流量阈值的20%。当然,通道流量分配比例为5:3:2,那么会划分出3个子流量通道。在此就不一一举例。
于本实施例中,通道流量分配比例之间至少有2个是不相同的,将流量分配比例较高的子流量通道能够通过更多的流量,也能接收更多的请求,即对于通道流量分配比例为7:3的来说,同步子流量通道的优先级比异步子流量通道的优先级高。当然,也可以每个数据量的请求业务也能自己定义优先级。每个数据流的请求信息中也包含了具有优先级相关的请求类型,将优先级高的请求类型与同步子流量通道对应;将优先级低的请求类型与异步子流量通道对应。比如,请求类型中的字段具有1表示同步请求,请求类型中的字段具有2表示异步请求。从而通过请求类型选择同步子流量通道或者异步子流量通道来传输。以对不同数据量的请求做了区分,利用对应的子通道传输数据流,从而提高流量分配的灵活性,将重要请求信息的请求类型为同步请求,以保障将重要请求信息被优先处理。
在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值。比如,12:30-12:40这10分钟中内的所有请求的响应时间的平均值,这里10分钟的时间间隔为时间窗口,12:30-12:40即为指定时间窗口。通常,时间窗口越大,平均值计算的越准确;时间窗口越小,平均值计算结果的实时性越高。响应时间(RT)可以认为是请求开始时间到请求结束时间的差值。计算方式为:RT=web请求结束时间–web请求开始时间。平均响应时间即为指定时间窗口内所有响应时间(RT)的平均值。而推荐响应时间值为预先设定的标准响应时间值,即大于或小于标准响应时间值时,均会对系统通道的当前流量阈值进行动态调整,同时根据预设流量分配比例对调整后的系统通道进行重新分配,以实现自适应、最大化地压榨系统性能的流量控制,提高资源利用率。于其他实施例中,可以将平均响应时间值乘以经验系数,经验系数可以为95%。经验系数是为了防止有些极端的网络延时导致的丢包和重试,而这些请求是不具备参考价值的(例如某个请求耗时1个小时,那么平均值将被拉大,从而失去平均值的意义),不能用作计算平均值的基准数据。
本发明提供的多通道自适应流量控制方法和系统,先根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;使得通道流量分配比例高的子流量通道数据流通优先级比通道流量分配比例低的子流量通道高;并根据数据流请求信息中的请求类型对不同数据量的请求做了区分,利用对应的子通道传输数据流,从而提高流量分配的灵活性;并且在系统运行时,能够根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时根据预设流量分配比例对调整后的系统通道进行重新分配,以实现自适应、最大化地压榨系统性能的流量控制,提高资源利用率。
进一步的,步骤S200包括以下步骤;
利用线程局部变量将请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。请求类型的设置可以通过在header里设置invoke Type字段。例如,请求类型中的invoke Type字段具有1表示同步请求,请求类型中的invoke Type字段具有2表示异步请求。在设置完成后,可以使用JDK1.8线程局部变量将请求信息中的请求类型存储调用的上下文本中。
进一步的,根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整,包括以下步骤;
将平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
若平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,当前流量阈值保持不变;
若平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将当前流量阈值按照预设指定值进行上调;
若平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将当前流量阈值按照预设指定值进行下调。
动态调整是一个循环判断的过程,只要平均响应时间值不等于推荐响应时间值时,均会对系统通道的当前流量阈值进行动态调整。也就是说在平均响应时间值小于推荐响应时间值时,将当前流量阈值按照预设指定值进行上调后,重新计算平均响应时间值再和推荐响应时间值判断,直到计算的平均响应时间值等于推荐响应时间值。同理,在平均响应时间值大于推荐响应时间值时,将当前流量阈值按照预设指定值进行下调;重新计算平均响应时间值和推荐响应时间值判断,直到计算的平均响应时间值等于推荐响应时间值。
于本实施例中,会启动定时任务,用于计算平均响应时间(RT)值;同时会读取使用方预先设置的推荐响应时间值。平均响应时间值小于推荐响应时间值,将当前流量阈值按照预设指定值进行上调后。例如,在启动时,使用方预先设置的系统通道流量阈值(信号量)为100,推荐响应时间值为500毫秒,同步子通道的通道流量分配比例为70%,异步子通道的流量分配比例为30%。定时任务计算出平均响应时间值为400毫秒。计算公式:RT avg=sumRT÷count。RT avg为平均响应时间值,sum RT为总响应时间值,请求数量。认为可以上调当前流量阈值,将在100的基础上增加指定值(指定值可以为使用方预先设置)。比如,指定值设定为10。那么,计算公式为:result=100+10;调整后的系统通道流量阈值为110。然后重新分配同步子通道和异步子通道的流量,同步子通道流量=110*70%,异步子通道流量为110*30%。从而完成流量阈值的提升和流量重新分配。
指定值通常为固定值。例如10%。那么当前流量阈值为70%,下调后变为60%。而指定值可以热更新。可以通过多种方式对指定值进行动态刷新,例如轮询配置数据库,或者使用监听配置中心方式进行回调更新。如果指定值热更新为20%,那么当前流量阈值为70%,更新后变成50%。
进一步的,本发明提供的多通道自适应流量控制方法,还包括以下步骤;
在系统启动时,获取与每个通道对应的通道信号量,通道信号量包括同步子通道信号量和异步子通道信号量;
根据同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。
于本实施例中,只有两个子通道。在系统启动时,会创建三个通道信号量,分别是系统通道信号量、同步子通道信号量以及异步子通道信号量。而限流事件包括两种情况,一种为同步请求发生限流事件;另外一种是异步请求发生限流事件。对于限流事件,在请求进入系统时,会尝试获取与每个通道对应的通道信号量;可以是获取一个原子变量(AtomicLong)。只有成功获取通道信号量的请求才能被正确处理,如果通道信号量不足,则视为发生了限流事件,系统将抛出限流异常。这个异常会被调控类捕获,调控类会进行处理。于其他实施例中,通道信号量的数量和限流事件发生时的调整方式原理也是一样的,对此并不进行限制。
限流事件包括两种情况,一种为同步请求发生限流事件;另外一种是异步请求发生限流事件。对于同步请求发生限流事件的处理方式:
当同步请求发生限流事件时,将无条件下调异步子通道的流量比例,以保障同步请求能够被尽可能优先处理,但是为了防止异步请求饿死,会留出10%的流量。如果该web请求是同步请求,说明此时同步子通道过于窄小,需要进行扩大。同时,将异步子通道对应的进行缩小。例如:同步子通道此时大小为70%,异步子通道为30%。当同步子通道发生限流异常,尝试将同步子通道增大10%,变成80%;同时相应地将异步子通道从30%减去10%变成20%,以实现流量分配的目的。假设系统通道信号量为100,那么此时同步子通道的信号量就为80,异步子通道的信号量为20;而且同步子通道能容纳更多的请求,也就是说,同步请求相比异步请求被正确处理的可能性更大。
当异步请求发生限流事件时,将有条件的下调同步子通道的流量比例,这里的条件是:判断当前同步子通道是否空闲。具体为统计同步子通道的当前时间窗口的吞吐量百分比。使用一个新的时间窗口用来统计同步调用次数,统计同步子通道的当前时间窗口的吞吐量百分比。如果小于当前指定百分比的70%,则认为同步子通道较为空闲。可以下调同步子通道的流量百分比。从而可以最大限度的利用通道流量的同时,保障同步子通道请求不会被异步干扰。如果异步请求无法获取到异步子通道信号量,例如,此时信号量值为30,同时已使用30,那么后面的请求都将会被拒绝。那么认定为异步请求发生限流事件。如果当前同步子通道的流量分配比例为80%。如果时间窗口(10秒)内统计出的调用量只占据百分之50%,小于当前指定百分比的70%,则认为同步子通道较为空闲。此时可以将同步子通道比例降低,同时将异步子通道比例增加。
基于同一发明构思,本发明实施例还提供一种多通道自适应流量控制系统,该系统的实施可参照上述方法的过程实现,重复之处不再冗述。
如图2所示,是本发明实施例二提供的多通道自适应流量控制系统的结构示意图,包括划分模块100、选择传输模块200以及动态调整模块300;划分模块100用于根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;选择传输模块200用于获取数据流的请求信息,根据请求信息中的请求类型选择对应的子流量通道传输当前的数据流;动态调整模块300用于在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
本发明提供的多通道自适应流量控制系统,先根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;使得通道流量分配比例高的子流量通道数据流通优先级比通道流量分配比例低的子流量通道高;并根据数据流请求信息中的请求类型对不同数据量的请求做了区分,利用对应的子通道传输数据流,从而提高流量分配的灵活性;并且在系统运行时,能够根据平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时根据预设流量分配比例对调整后的系统通道进行重新分配,以实现自适应、最大化地压榨系统性能的流量控制,提高资源利用率。
进一步的,划分模块100还用于;根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;同步流量通道的流量占比为系统通道的当前流量阈值的70%,异步流量通道的占比为系统通道的当前流量阈值的30%。
进一步的,选择传输模块200还用于;利用线程局部变量将请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。
如图3所示为动态调整模块300的结构示意图,包括判断单元310、保持单元320、第一调整单元330以及第二调整单元340;
判断单元310,用于将平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
保持单元320,用于若平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,当前流量阈值保持不变;
第一调整单元330,用于若平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将当前流量阈值按照预设指定值进行上调;
第二调整单元340,用于若平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将当前流量阈值按照预设指定值进行下调。
进一步的,本发明提供的多通道自适应流量控制系统,还包括限流调整模块;限流调整模块用于在系统启动时,获取与每个通道对应的通道信号量,通道信号量包括同步子通道信号量和异步子通道信号量;根据同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。限流调整模块与选择传输模块200连接,是限流调整。
本发明虽然已以较佳实施例公开如上,但其并不是用来限定本发明,任何本领域技术人员在不脱离本发明的精神和范围内,都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改,因此,凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化及修饰,均属于本发明技术方案的保护范围。
Claims (10)
1.一种多通道自适应流量控制方法,其特征在于,包括以下步骤;
根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;
获取数据流的请求信息,根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流;
在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
2.如权利要求1所述的多通道自适应流量控制方法,其特征在于,所述根据各子通道预设的流量分配比例将系统通道分为至少两个子流量通道,包括以下步骤;
根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;所述同步流量通道的流量占比为系统通道的当前流量阈值的70%,所述异步流量通道的占比为系统通道的当前流量阈值的30%。
3.如权利要求1所述的多通道自适应流量控制方法,其特征在于,所述根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流,包括以下步骤;
利用线程局部变量将所述请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。
4.如权利要求1所述的多通道自适应流量控制方法,其特征在于,所述根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整,包括以下步骤;
将所述平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
若所述平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,所述当前流量阈值保持不变;
若所述平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行上调;
若所述平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行下调。
5.如权利要求1所述的多通道自适应流量控制方法,其特征在于,还包括以下步骤;
在系统启动时,获取与每个通道对应的通道信号量,所述通道信号量包括同步子通道信号量和异步子通道信号量;
根据所述同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。
6.一种多通道自适应流量控制系统,其特征在于,包括划分模块、选择传输模块以及动态调整模块;
所述划分模块,用于根据预设的通道流量分配比例将系统通道分为至少两个子流量通道;
所述选择传输模块,用于获取数据流的请求信息,根据所述请求信息中的请求类型选择对应的子流量通道传输当前的数据流;
所述动态调整模块,用于在系统运行时,定时计算指定时间窗口内所有请求的平均响应时间值,并根据所述平均响应时间值和预设的推荐响应时间值对系统通道的当前流量阈值进行动态调整;同时,根据预设流量分配比例对调整后的系统通道进行重新分配。
7.如权利要求6所述的多通道自适应流量控制系统,其特征在于,所述划分模块还用于;
根据预设的7:3的通道流量分配比例将系统通道分为同步流量通道和异步流量通道;所述同步流量通道的流量占比为系统通道的当前流量阈值的70%,所述异步流量通道的占比为系统通道的当前流量阈值的30%。
8.如权利要求6所述的多通道自适应流量控制系统,其特征在于,所述选择传输模块还用于;
利用线程局部变量将所述请求信息中的请求类型放入调用的上下文本中,在数据流请求进入时,对文本中的请求类型进行判断,根据判断结果选择对应的子流量通道传输当前的数据流。
9.如权利要求6所述的多通道自适应流量控制系统,其特征在于,所述动态调整模块包括判断单元、保持单元、第一调整单元以及第二调整单元;
所述判断单元,用于将所述平均响应时间值和预设的推荐响应时间值进行比较,判断系统通道的当前流量阈值是否需要动态调整;
所述保持单元,用于若所述平均响应时间值等于推荐响应时间值,则系统通道的当前流量阈值不需要动态调整,所述当前流量阈值保持不变;
所述第一调整单元,用于若所述平均响应时间值小于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行上调;
所述第二调整单元,用于若所述平均响应时间值大于推荐响应时间值,则系统通道的当前流量阈值需要动态调整,将所述当前流量阈值按照预设指定值进行下调。
10.如权利要求6所述的多通道自适应流量控制系统,其特征在于,还包括限流调整模块;
所述限流调整模块,用于在系统启动时,获取与每个通道对应的通道信号量,所述通道信号量包括同步子通道信号量和异步子通道信号量;
根据所述同步子通道信号量和异步子通道信号量判断是否发生限流事件,在发生限流事件时,对通道流量分配比例进行调整;并根据调整后的流量分配比例对系统通道进行重新分配。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910073285.4A CN109818878A (zh) | 2019-01-25 | 2019-01-25 | 多通道自适应流量控制方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910073285.4A CN109818878A (zh) | 2019-01-25 | 2019-01-25 | 多通道自适应流量控制方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109818878A true CN109818878A (zh) | 2019-05-28 |
Family
ID=66605090
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910073285.4A Pending CN109818878A (zh) | 2019-01-25 | 2019-01-25 | 多通道自适应流量控制方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109818878A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111427616A (zh) * | 2020-04-16 | 2020-07-17 | 上海航天计算机技术研究所 | 流量控制数据下传的星载软件设置方法 |
CN111585888A (zh) * | 2020-05-21 | 2020-08-25 | 深圳前海移联科技有限公司 | 一种通用的多通道智能路由方法 |
CN112333281A (zh) * | 2020-11-16 | 2021-02-05 | 中国联合网络通信集团有限公司 | 一种数据传输方法及装置 |
CN113949666A (zh) * | 2021-11-15 | 2022-01-18 | 中国银行股份有限公司 | 流量控制方法、装置、设备及系统 |
CN114301846A (zh) * | 2021-12-28 | 2022-04-08 | 中国电信股份有限公司 | 通信方法、装置、存储介质以及处理器 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101252506A (zh) * | 2007-12-29 | 2008-08-27 | 中国建设银行股份有限公司 | 一种数据传输系统 |
CN101488942A (zh) * | 2008-01-18 | 2009-07-22 | 财团法人工业技术研究院 | 车载媒体导向系统传输网络中多媒体数据分享系统与方法 |
US20130111031A1 (en) * | 2011-10-26 | 2013-05-02 | Sap Ag | Adjustment of end user response times according to user expectations for server applications under load |
CN107920027A (zh) * | 2016-10-08 | 2018-04-17 | 腾讯科技(深圳)有限公司 | 一种流量控制方法及装置 |
CN108009006A (zh) * | 2016-11-02 | 2018-05-08 | 华为技术有限公司 | I/o请求的调度方法及装置 |
-
2019
- 2019-01-25 CN CN201910073285.4A patent/CN109818878A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101252506A (zh) * | 2007-12-29 | 2008-08-27 | 中国建设银行股份有限公司 | 一种数据传输系统 |
CN101488942A (zh) * | 2008-01-18 | 2009-07-22 | 财团法人工业技术研究院 | 车载媒体导向系统传输网络中多媒体数据分享系统与方法 |
US20130111031A1 (en) * | 2011-10-26 | 2013-05-02 | Sap Ag | Adjustment of end user response times according to user expectations for server applications under load |
CN107920027A (zh) * | 2016-10-08 | 2018-04-17 | 腾讯科技(深圳)有限公司 | 一种流量控制方法及装置 |
CN108009006A (zh) * | 2016-11-02 | 2018-05-08 | 华为技术有限公司 | I/o请求的调度方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111427616A (zh) * | 2020-04-16 | 2020-07-17 | 上海航天计算机技术研究所 | 流量控制数据下传的星载软件设置方法 |
CN111585888A (zh) * | 2020-05-21 | 2020-08-25 | 深圳前海移联科技有限公司 | 一种通用的多通道智能路由方法 |
CN112333281A (zh) * | 2020-11-16 | 2021-02-05 | 中国联合网络通信集团有限公司 | 一种数据传输方法及装置 |
CN113949666A (zh) * | 2021-11-15 | 2022-01-18 | 中国银行股份有限公司 | 流量控制方法、装置、设备及系统 |
CN113949666B (zh) * | 2021-11-15 | 2024-03-19 | 中国银行股份有限公司 | 流量控制方法、装置、设备及系统 |
CN114301846A (zh) * | 2021-12-28 | 2022-04-08 | 中国电信股份有限公司 | 通信方法、装置、存储介质以及处理器 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109818878A (zh) | 多通道自适应流量控制方法和系统 | |
RU2153240C2 (ru) | Динамическое распределение пропускной способности радиоканалов в системах с многостанционным доступом с временным разделением каналов | |
CN103687025B (zh) | 一种用于lte系统的资源配置方法 | |
CN102104974A (zh) | 上行预调度处理方法、装置和系统 | |
CN101184321A (zh) | 一种调整用户服务质量的方法、系统及装置 | |
CN101132622A (zh) | 一种随机接入时的服务质量控制方法 | |
CN103797874A (zh) | 用于分配多信道接入点中的无线信道的系统、方法和装置 | |
CN108494788A (zh) | 数据的传输方法、数据传输装置及计算机可读存储介质 | |
CN101965061B (zh) | 一种数据业务无线信道分配方法及其系统 | |
CN103782637B (zh) | 信道测量的处理方法、基站、和用户设备 | |
CN111262783B (zh) | 一种动态路由的方法及装置 | |
CN103874133B (zh) | 一种带宽控制的方法、装置及接入点设备 | |
CN112887107B (zh) | 带宽分配方法、系统以及光线路终端 | |
US7139830B2 (en) | Communication apparatus and congestion regulation control method | |
CN115426551A (zh) | 一种osu带宽调整方法及系统 | |
JP2003508992A (ja) | 周波数スペクトル資源分配のための方法及びシステム | |
CN103747432A (zh) | 上行预调度处理方法、装置和系统 | |
CN103987133B (zh) | Lte系统下基于客户端视频播放状态的资源分配方法 | |
CN107819701B (zh) | 流媒体应用快速缓冲的带宽分配方法及服务器 | |
CN100544344C (zh) | 一种下行共享信道资源调度方法 | |
JP3053356B2 (ja) | 帯域可変通信装置 | |
KR100960109B1 (ko) | 통합 시스템의 자원 할당 방법 | |
CN112738901B (zh) | 一种上行资源调度方法和装置 | |
CN116887083B (zh) | 选择波长的方法、装置、光网络单元onu和电子设备 | |
CN100563209C (zh) | 一种基于高速下行分组接入的流量分配方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190528 |
|
RJ01 | Rejection of invention patent application after publication |