CN115190078A - 一种访问流量控制方法、装置、设备以及存储介质 - Google Patents
一种访问流量控制方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN115190078A CN115190078A CN202210742471.4A CN202210742471A CN115190078A CN 115190078 A CN115190078 A CN 115190078A CN 202210742471 A CN202210742471 A CN 202210742471A CN 115190078 A CN115190078 A CN 115190078A
- Authority
- CN
- China
- Prior art keywords
- access
- tokens
- flow
- determining
- token pool
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000003860 storage Methods 0.000 title claims description 21
- 238000012545 processing Methods 0.000 claims abstract description 51
- 230000008569 process Effects 0.000 claims description 12
- 238000005111 flow chemistry technique Methods 0.000 claims description 3
- 238000012217 deletion Methods 0.000 claims description 2
- 230000037430 deletion Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 13
- 238000004590 computer program Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000036314 physical performance Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/215—Flow control; Congestion control using token-bucket
Abstract
本申请公开了一种访问流量控制方法，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。方法包括：响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
Description
技术领域
本申请涉及计算机技术领域，尤其涉及一种访问流量控制方法、装置、设备以及存储介质。
背景技术
随着互联网的飞速发展，网络上的各种应用层出不穷，客户端对网络应用的访问量呈爆炸式增长，尤其是各个网络的核心部分，其数据流量和计算强度都非常巨大。在这样的海量服务以及海量访问的大背景下，仅凭性能有限的单个服务器根本无法满足客户端的访问需求。
因而现有的网络应用(比如电商平台)往往都被设计成了多功能的分布式系统，后台服务器以集群的形式提供服务，整个系统运行所需的各类物理资源以及功能模块分散在不同的后台服务器上，分布式系统通过计算机网络使各服务器互联，管理协调各后台服务器的物理资源以及功能模块为用户提供服务。当系统接收到用户提交的访问请求后，系统可以根据用户需求在后台服务器集群中选择最合适的服务器(或者功能模块)来处理用户的访问请求。
如上所述，在一个分布式系统中，后台服务器各自分担部分流量，那么如何在完成同样功能的多个服务器之间实现合理的流量分配，避免出现一台服务器过忙、而别的服务器却未充分发挥处理能力的情况，就成了分布式系统所面临的一个主要问题。
为了解决这一问题，负载均衡机制应运而生。负载均衡，就是通过某种算法或者策略将来自客户端的访问合理地分配到集群中的每一台服务器上。然而现有的负载均衡机制是站在服务器(或者相关功能模块)的维度，以各台服务器的物理性能以及承载负荷为指标，来对业务访问流量进行控制分配的，该方案虽然可以很好的保证系统中各服务器的安全，但却未考虑各个访问流量所对应的业务优先级，导致系统无法根据业务对访问流量进行更为精准的调度。
由此可见，如何在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制，成为目前本领域相关技术人员亟待解决的问题。
发明内容
本申请实施例提供一种访问流量控制方法，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。
本申请实施例还提供一种访问流量控制装置，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。
本申请实施例还提供一种访问流量控制设备，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。
本申请实施例还提供一种计算机可读存储介质，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。
本申请实施例采用下述技术方案：
一种访问流量控制方法，包括：响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
一种访问流量控制装置，包括：访问流量接收单元，用于响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；访问优先级确定单元，用于根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；限流单元，用于确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；流量处理单元，用于当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
一种访问流量控制设备，包括：
处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行以下操作：响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下操作：响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：
采用本申请实施例提供的访问流量控制方法，在接收到客户端上传的访问流量后，首先可以确定该访问流量对应的目标访问应用以及待访问的业务类型；进而可以根据待访问的业务类型，确定该访问流量所对应的访问优先级，其中，访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示，在处理高优先级的访问流量时所需获取的访问令牌数量较少，而处理低优先级的访问流量时所需获取的访问令牌数量较多；接着可以确定与该访问流量对应的访问令牌池，并判断该访问令牌池中的访问令牌数量是否大于所述第一数量；当判断访问令牌池中的访问令牌数量大于处理该访问流量所需获取访问令牌的第一数量时，将该访问流量发送至所述目标访问应用，并对所访问流量进行处理，由于处理高优先级的访问流量时所需获取的访问令牌数量较少，因而相比于低优先级的访问流量，高优先级的访问流量更容易在访问令牌池中获取到符合数量要求的访问令牌，从而可以保证可以按照业务重要程度，优先保证系统对高优先业务对应的访问流量的处理。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本申请实施例提供的一种访问流量控制方法的具体流程示意图；
图2为本申请实施例提供的一种访问流量控制装置的具体结构示意图；
图3为本申请实施例提供的一种访问流量控制设备的具体结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
以下结合附图，详细说明本申请各实施例提供的技术方案。
本申请实施例提供的一种访问流量控制方法，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。
本申请实施例提供的访问流量控制方法的执行主体，可以但不限于为访问流量控制服务器、保单处理服务器、工单处理服务器、网络管理服务器以及网络优化服务器等中的至少一种；此外，该方法的执行主体还可以是在该些服务器上运行的应用程序(Application，APP)本身。
为便于描述，下文以该方法的执行主体为访问流量控制服务器为例，对该方法的实施方式进行介绍。可以理解，该方法的执行主体为访问流量控制服务器只是一种示例性的说明，并不应理解为对该方法的限定。
本申请所提供的访问流量控制方法的具体实现流程示意图如图1所示，主要包括下述步骤：
步骤11，响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；
其中，该访问流量可以是指用户在一定时间区间内通过客户端(比如手机或者个人电脑)向分布式网络中的任意一个服务器发送访问请求生成的访问流量，实际应用中，可将一个数据访问请求作为一个访问流量。
在本申请实施例中，可以通过接收访问流量对应的访问接口，来确定该访问流量所对应的目标访问应用以及待访问的业务类型。具体地，在一种实施方式中，针对分布式系统中各个功能模块(或者应用)，均设置有应用对应的业务(功能)名称、接口路径、访问地址、服务转发所需访问的接口参数等参数信息，比如该些参数信息可以保存在功能模块(或者应用)下的配置文件application-flowlimit.xml中。当应用启动时，应用将会使用该些参数信息进行应用初始化，进而集群系统可以在各个应用完成初始化后，保存各个访问接口与应用之间的对应关系。而当客户端响应于用户操作上传针对特定接口的访问流量后，服务器可以根据接收访问流量的访问接口信息，确定与该接口对应的应用，进而根据该应用确定该访问流量对应的待访问业务类型。
另外，这里还需要说明的是，访问流量控制服务器除了可以根据接收访问流量对应的访问接口信息确定访问流量对应的目标访问应用以及待访问业务类型以外，还可以根据访问请求中所携带的标识信息，来确定与该访问请求对应的访问流量的目标访问应用以及待访问业务类型，本申请实施例对确定访问流量的确定方法不做限定。
步骤12，根据所述待访问业务类型，确定所述访问流量对应的访问优先级；
其中，访问流量对应的访问优先级可以由处理该访问流量时所要获取的访问令牌的第一数量表示。
在一种实施方式中，访问流量控制服务器可以根据各业务的重要程度，为各业务设置访问优先级，进而访问流量控制服务器可以根据通过执行步骤11确定的访问流量所对应的待访问业务类型，确定该访问流量对应的访问优先级。
这里需要说明的是，为了优先保证系统对高优先业务对应的访问流量的处理，在本申请实施例中，访问流量控制服务器可以设置在处理高优先级的访问流量时所需获取的访问令牌数量较少，而处理低优先级的访问流量时所需获取的访问令牌数量较多，以保证高优先级的访问流量更容易在访问令牌池中获取到符合数量要求的访问令牌，从而可以保证可以按照业务重要程度，优先保证系统对高优先业务对应的访问流量的处理。
例如，访问流量控制服务器中记录有业务A、业务B以及业务C三个业务，且该三个业务的优先级分别为：
业务A：高优先级；
业务B：中优先级；
业务C：低优先级。
则访问流量控制服务器可以根据上述优先级，为访问流量对应的访问令牌数量进行设置：
1、设置处理业务A对应的访问流量是所需要获取的访问令牌数量为3；
2、设置处理业务B对应的访问流量是所需要获取的访问令牌数量为6；
3、设置处理业务C对应的访问流量是所需要获取的访问令牌数量为9。
即在接收到与业务A对应的访问流量后，访问流量控制服务器需要在于该访问流量对应的目标访问应用的访问令牌池中获取到3个访问令牌，才可以继续对该访问流量进行转发处理。其中，有关目标访问应用的访问令牌池的生成方式以及该访问令牌池中访问令牌数量的确定方式，详见下文描述，此处不再赘述。
步骤13，确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量，当判断结果为是时，则执行步骤14，当判断结果为否时，则执行步骤15；
其中，这里所说的访问流量对应的访问令牌池一般可以是指该访问流量对应的目标访问应用的访问令牌池。
在本申请实施例中，在功能模块(或者应用)下的配置文件application-flowlimit.xml中还可以保存有该应用对应的限流配置信息，比如限流开关、限流访问令牌池容量(为了便于描述，后文将限流访问令牌池简称为令牌桶，则限流访问令牌池容量可以简称为令牌桶容量)、以及访问令牌产生速率等参数。则当应用启动时，应用可以加载application-flowlimit.xml配置文件中的限流配置属性类FlowLimitAutoConfiguration，并根据限流配置信息进行令牌桶的初始化，在完成针对令牌桶的初始化后，令牌桶内访问令牌的数量为令牌桶容量的上限，每当应用在完成步骤13的判断，并开始对访问流量进行处理时，则会按照访问流量对应的第一数目，在该令牌桶中删除第一数目个访问令牌。
在一种实施方式中，令牌桶还可以按照访问令牌产生速率均匀产生访问令牌，并添加至令牌桶中，但是产生的令牌数加令牌桶内剩余的令牌数是不能大于该令牌桶容量的。具体地，当到达令牌添加周期时，可以根据令牌桶对应的桶容量，当前令牌桶内读取到的令牌数量，确定本次令牌添加数量，并在令牌桶中添加令牌。
这里需要说明的是，为了可以在兼顾各应用负载能力的情况下，优先保证系统对高优先业务对应的访问流量的处理，在一种实施方式中，访问流量控制服务器可以针对各个应用均设置两个访问令牌池(令牌桶)。
其中，第一访问令牌池(令牌桶)用于根据应用的负载能力对接收到的访问流量进行访问限流，第二访问令牌池(令牌桶)用于根据业务优先级对接收到的访问流量进行访问限流。
在一种实施方式中，该第一令牌桶的桶容量以及访问令牌产生速率均与该应用当前的负载数据(该负载数据可以由应用的CPU负载数据、应用对应硬件的磁盘I/O数据以及内存负载数据等数据计算得到，本申请实施例对计算负载数据的具体方式不做限定)相关，且为了保证根据第一令牌桶可以基于应用的负载能力对访问流量进行限制，在本申请实施例中，可以将第一令牌桶的桶容量以及访问令牌产生速率设置为与应用当前的负载数据成反比，即应用当前负载越高，则可以将第一令牌桶的桶容量以及访问令牌产生速率设置的越小。
则在本申请实施例中，具体可以根据如下方法确定第一令牌桶中所包含的访问令牌数量：确定所述目标访问应用当前负载数据；根据所述当前负载数据，确定该所述第一访问令牌池的第一令牌生成速率，根据所述令牌生成速率，确定所述第一访问令牌池当前所包含的访问令牌数量。
在本申请实施例中，步骤13的具体实现方式可以包括：确定与所述目标访问地址对应的第一访问令牌池，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述第一访问令牌池中的访问令牌数量大于所述第一数量时，确定与所述待访问业务类型对应的第二访问令牌池；判断所述第二访问令牌池中的访问令牌数量是否大于所述第一数量。
步骤14，当通过执行步骤13判断访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理；
当通过执行步骤13，确定第一访问令牌桶以及第二访问令牌桶当前所包含的访问令牌数量均大于处理该访问流量所需要获取的访问令牌的数量时，则访问流量控制服务器可以确定该应用当前具备处理该访问流量的能力，则访问流量控制服务器可以将该访问流量转发至该应用进行处理。
步骤15，当通过执行步骤13判断访问令牌池中的访问令牌数量小于所述第一数量时，则禁止所述访问流量对所述目标访问应用的访问。
这里需要说明的是，当通过执行步骤13判断访问令牌池中的访问令牌数量小于所述第一数量时，访问流量控制服务器可以向客户端发送“系统繁忙页面，请稍后再试”的提示信息，以提示用户当前未访问成功。
另外，访问流量控制服务器除了会向用户发送提示消息外，还可以根据预先设置的重定向策略，对该访问流量进行重定向，或者对该访问流量进行降级转发。
仍延续上例，假设访问流量控制服务器接到了两个用户上传的访问流量A以及访问流量B，通过执行步骤11确定访问流量A以及访问流量B对应的目标访问应用均为应用a，其中，访问流量A对应的业务类型为业务A，业务A为高优先级业务，对应的访问令牌数量为3；访问流量B对应的业务类型为业务C，业务A为低优先级业务，对应的访问令牌数量为9。假设应用a对应的第一令牌桶当前包含的访问令牌数量为50，第二令牌桶当前包含的访问令牌数量为7，通过执行上述步骤13，可以确定第一令牌桶内的访问令牌数量大于访问流量A以及访问流量B访问优先级所对应的访问令牌数量，则可以进一步判断该应用a第二令牌桶内当前包含的访问令牌数量是否大于访问流量A以及访问流量B访问优先级所对应的访问令牌数量，判断结果为第二令牌桶内访问令牌数量小于访问流量B访问优先级所对应的访问令牌数量，则访问流量控制服务器将禁止访问流量B对应用a的访问；而第二令牌桶内访问令牌数量大于访问流量A访问优先级所对应的访问令牌数量，则访问流量控制服务器可以将该访问流量A转发至该应用a进行处理。从而在保证应用负载的情况下，优先保证了对高优先级业务访问流量的处理。
采用本申请实施例提供的访问流量控制方法，在接收到客户端上传的访问流量后，首先可以确定该访问流量对应的目标访问应用以及待访问的业务类型；进而可以根据待访问的业务类型，确定该访问流量所对应的访问优先级，其中，访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示，在处理高优先级的访问流量时所需获取的访问令牌数量较少，而处理低优先级的访问流量时所需获取的访问令牌数量较多；接着可以确定与该访问流量对应的访问令牌池，并判断该访问令牌池中的访问令牌数量是否大于所述第一数量；当判断访问令牌池中的访问令牌数量大于处理该访问流量所需获取访问令牌的第一数量时，将该访问流量发送至所述目标访问应用，并对所访问流量进行处理，由于处理高优先级的访问流量时所需获取的访问令牌数量较少，因而相比于低优先级的访问流量，高优先级的访问流量更容易在访问令牌池中获取到符合数量要求的访问令牌，从而可以保证可以按照业务重要程度，优先保证系统对高优先业务对应的访问流量的处理。
在一种实施方式中，本申请实施例还提供了一种访问流量控制装置，用以解决采用现有流量控制方法，无法在兼顾系统服务器的负载能力以及业务优先级的情况下，实现对访问流量的精准调度控制的问题。该访问流量控制装置的具体结构示意图如图2所示，包括：访问流量接收单元21、访问优先级确定单元22、限流单元23以及流量处理单元24。
其中，访问流量接收单元21，用于响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；
访问优先级确定单元22，用于根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；
限流单元23，用于确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；
流量处理单元24，用于当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
在一种实施方式中，限流单元23，具体用于：确定与所述目标访问地址对应的第一访问令牌池，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述第一访问令牌池中的访问令牌数量大于所述第一数量时，确定与所述待访问业务类型对应的第二访问令牌池；判断所述第二访问令牌池中的访问令牌数量是否大于所述第一数量。
在一种实施方式中，限流单元23，还用于：根据所述第一数量，对所述访问令牌池中的访问令牌进行删除处理；确定执行所述删除处理后所述访问令牌池中的访问令牌数量。
在一种实施方式中，还包括负载确定单元，具体用于：确定所述目标访问应用当前负载数据；根据所述当前负载数据，确定该所述第一访问令牌池的第一令牌生成速率；则限流单元，具体用于：根据所述令牌生成速率，确定所述第一访问令牌池当前所包含的访问令牌数量；根据所述第一访问令牌池当前所包含的访问令牌数量，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量。
在一种实施方式中，流量处理单元24，还用于：当判断所述访问令牌池中的访问令牌数量小于所述第一数量时，则禁止所述访问流量对所述目标访问应用的访问。
采用本申请实施例提供的访问流量控制装置，在接收到客户端上传的访问流量后，首先可以确定该访问流量对应的目标访问应用以及待访问的业务类型；进而可以根据待访问的业务类型，确定该访问流量所对应的访问优先级，其中，访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示，在处理高优先级的访问流量时所需获取的访问令牌数量较少，而处理低优先级的访问流量时所需获取的访问令牌数量较多；接着可以确定与该访问流量对应的访问令牌池，并判断该访问令牌池中的访问令牌数量是否大于所述第一数量；当判断访问令牌池中的访问令牌数量大于处理该访问流量所需获取访问令牌的第一数量时，将该访问流量发送至所述目标访问应用，并对所访问流量进行处理，由于处理高优先级的访问流量时所需获取的访问令牌数量较少，因而相比于低优先级的访问流量，高优先级的访问流量更容易在访问令牌池中获取到符合数量要求的访问令牌，从而可以保证可以按照业务重要程度，优先保证系统对高优先业务对应的访问流量的处理。
图3是本申请的一个实施例电子设备的结构示意图。请参考图3，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图3中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成网络优化装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
上述如本申请图3所示实施例揭示的访问流量控制电子设备执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
当然，除了软件实现方式之外，本申请的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1所示实施例的方法，并具体用于执行以下操作：
响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种访问流量控制方法，其特征在于，包括：
响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；
根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；
确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；
当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
2.根据权利要求1所述的方法，其特征在于，确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量，具体包括：
确定与所述目标访问地址对应的第一访问令牌池，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量；
当判断所述第一访问令牌池中的访问令牌数量大于所述第一数量时，确定与所述待访问业务类型对应的第二访问令牌池；
判断所述第二访问令牌池中的访问令牌数量是否大于所述第一数量。
3.根据权利要求1所述的方法，其特征在于，当判断所述访问令牌池中的访问令牌数量大于所述第一数量后，所述方法还包括：
根据所述第一数量，对所述访问令牌池中的访问令牌进行删除处理；
确定执行所述删除处理后所述访问令牌池中的访问令牌数量。
4.根据权利要求2所述的方法，其特征在于，确定与所述目标访问应用对应的第一访问令牌池，所述方法还包括：
确定所述目标访问应用当前负载数据；
根据所述当前负载数据，确定该所述第一访问令牌池的第一令牌生成速率；
则判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量，具体包括：
根据所述令牌生成速率，确定所述第一访问令牌池当前所包含的访问令牌数量；
根据所述第一访问令牌池当前所包含的访问令牌数量，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量。
5.根据权利要求1所述的方法，其特征在于，还包括：
当判断所述访问令牌池中的访问令牌数量小于所述第一数量时，则禁止所述访问流量对所述目标访问应用的访问。
6.一种访问流量控制装置，其特征在于，包括：
访问流量接收单元，用于响应客户端上传的访问流量，确定所述访问流量对应的目标访问应用以及待访问业务类型；
访问优先级确定单元，用于根据所述待访问业务类型，确定所述访问流量对应的访问优先级；其中，所述访问优先级由处理所述访问流量时所要获取的访问令牌的第一数量表示；
限流单元，用于确定与所述访问流量对应的访问令牌池，判断所述访问令牌池中的访问令牌数量是否大于所述第一数量；
流量处理单元，用于当判断所述访问令牌池中的访问令牌数量大于所述第一数量时，将所述访问流量发送至所述目标访问应用，并对所访问流量进行处理。
7.根据权利要求6所述的装置，其特征在于，限流单元，具体用于：
确定与所述目标访问地址对应的第一访问令牌池，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量；
当判断所述第一访问令牌池中的访问令牌数量大于所述第一数量时，确定与所述待访问业务类型对应的第二访问令牌池；
判断所述第二访问令牌池中的访问令牌数量是否大于所述第一数量。
8.根据权利要求6所述的装置，其特征在于，还包括负载确定单元，具体用于：
确定所述目标访问应用当前负载数据；
根据所述当前负载数据，确定该所述第一访问令牌池的第一令牌生成速率；
则限流单元，具体用于：
根据所述令牌生成速率，确定所述第一访问令牌池当前所包含的访问令牌数量；
根据所述第一访问令牌池当前所包含的访问令牌数量，判断所述第一访问令牌池中的访问令牌数量是否大于所述第一数量。
9.一种访问流量控制设备，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至5中任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1至5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210742471.4A CN115190078A (zh) | 2022-06-28 | 2022-06-28 | 一种访问流量控制方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210742471.4A CN115190078A (zh) | 2022-06-28 | 2022-06-28 | 一种访问流量控制方法、装置、设备以及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115190078A true CN115190078A (zh) | 2022-10-14 |
Family
ID=83516042
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210742471.4A Pending CN115190078A (zh) | 2022-06-28 | 2022-06-28 | 一种访问流量控制方法、装置、设备以及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115190078A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116431327A (zh) * | 2023-03-06 | 2023-07-14 | 钛信(上海)信息科技有限公司 | 一种任务限流处理方法及堡垒机 |
| CN116800689A (zh) * | 2023-08-17 | 2023-09-22 | 浙江飞猪网络技术有限公司 | 一种流量控制方法、节点、分布式系统及存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100085874A1 (en) * | 2008-10-05 | 2010-04-08 | Contextream Ltd. | Bandwidth allocation method and apparatus |
| CN102035732A (zh) * | 2010-11-25 | 2011-04-27 | 华为技术有限公司 | 业务调度方法及装置 |
| CN109361733A (zh) * | 2018-09-14 | 2019-02-19 | 新华三技术有限公司成都分公司 | 服务质量控制方法及装置 |
| WO2020019743A1 (zh) * | 2018-07-27 | 2020-01-30 | 华为技术有限公司 | 流量控制方法及装置 |
| CN111447150A (zh) * | 2020-02-29 | 2020-07-24 | 中国平安财产保险股份有限公司 | 访问请求限流方法、服务器及存储介质 |
| CN112866136A (zh) * | 2021-03-31 | 2021-05-28 | 中国工商银行股份有限公司 | 业务数据处理方法和装置 |
-
2022
- 2022-06-28 CN CN202210742471.4A patent/CN115190078A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100085874A1 (en) * | 2008-10-05 | 2010-04-08 | Contextream Ltd. | Bandwidth allocation method and apparatus |
| CN102035732A (zh) * | 2010-11-25 | 2011-04-27 | 华为技术有限公司 | 业务调度方法及装置 |
| WO2020019743A1 (zh) * | 2018-07-27 | 2020-01-30 | 华为技术有限公司 | 流量控制方法及装置 |
| CN109361733A (zh) * | 2018-09-14 | 2019-02-19 | 新华三技术有限公司成都分公司 | 服务质量控制方法及装置 |
| CN111447150A (zh) * | 2020-02-29 | 2020-07-24 | 中国平安财产保险股份有限公司 | 访问请求限流方法、服务器及存储介质 |
| CN112866136A (zh) * | 2021-03-31 | 2021-05-28 | 中国工商银行股份有限公司 | 业务数据处理方法和装置 |
Non-Patent Citations (2)
| Title |
|---|
| 吕华辉;林志达;黄宏聪;: "业务优先级感知的网络流量调度机制", 电信科学, no. 07 * |
| 周忠豹;王宜怀;: "一种适应信道的WiMax分级调度架构", 微型电脑应用, no. 08 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116431327A (zh) * | 2023-03-06 | 2023-07-14 | 钛信(上海)信息科技有限公司 | 一种任务限流处理方法及堡垒机 |
| CN116431327B (zh) * | 2023-03-06 | 2023-11-07 | 钛信(上海)信息科技有限公司 | 一种任务限流处理方法及堡垒机 |
| CN116800689A (zh) * | 2023-08-17 | 2023-09-22 | 浙江飞猪网络技术有限公司 | 一种流量控制方法、节点、分布式系统及存储介质 |
| CN116800689B (zh) * | 2023-08-17 | 2024-01-09 | 浙江飞猪网络技术有限公司 | 一种流量控制方法、节点、分布式系统及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| AU2019101567A4 (en) | Method and apparatus for consensus verification | |
| CN115190078A (zh) | 一种访问流量控制方法、装置、设备以及存储介质 | |
| CN109787908B (zh) | 服务器限流方法、系统、计算机设备及存储介质 | |
| CN107547433B (zh) | 基于令牌漏桶进行限流的方法、装置和设备 | |
| CN109391512B (zh) | 一种服务发布方法、装置及电子设备 | |
| CN110768912A (zh) | Api网关限流方法及装置 | |
| CN111104664B (zh) | 一种电子设备的风险识别方法及服务器 | |
| CN109379299B (zh) | 一种数据流量的限制方法、装置和系统 | |
| CN104239156A (zh) | 一种外部服务的调用方法及系统 | |
| CN112153143A (zh) | Kubernetes集群的流量调度方法、装置及电子设备 | |
| CN106657182B (zh) | 云端文件处理方法和装置 | |
| CN110633900A (zh) | 一种虚拟资源的分配方法、装置及电子设备 | |
| CN111694519A (zh) | 一种裸金属服务器挂载云硬盘的方法、系统及服务器 | |
| CN110648125A (zh) | 一种打包交易方法、装置及电子设备 | |
| CN108920326B (zh) | 确定系统耗时异常的方法、装置及电子设备 | |
| CN114143327A (zh) | 集群资源配额分配方法、装置及电子设备 | |
| CN111949297B (zh) | 一种区块链智能合约升级方法、装置及电子设备 | |
| CN108124021B (zh) | 网际协议ip地址获取、网站访问的方法、装置及系统 | |
| CN111885184A (zh) | 高并发场景下热点访问关键字处理方法和装置 | |
| CN114124942A (zh) | 核心网资源调度方法、装置及电子设备 | |
| CN116489103A (zh) | 业务限流方法、装置及业务处理系统 | |
| CN111913792A (zh) | 一种业务处理方法和装置 | |
| CN111709748A (zh) | 一种具有业务属性的交易执行方法、装置及电子设备 | |
| CN110753006A (zh) | 一种数据处理方法、装置及电子设备 | |
| CN115129728A (zh) | 一种文件校验的方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |