CN113992587A - 流量控制方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请涉及一种流量控制方法、装置、计算机设备及存储介质，其中所述方法包括：客户端发送请求数据，判断请求队列是否满伍，如果是则让所述请入队到淘汰队列，返回失败结果给客户端，如果否请求数据入伍到请求队列；请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；设置限流转盘流转的规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；将序列化的请求数据对象从消费队列出列，转入服务程序。对客户端发送的请求数据进行限流，保持系统的可用性和稳定性，有效防止因流量突增而导致的系统运行缓慢或宕机的情况发生。

Description

流量控制方法、装置、计算机设备及存储介质

技术领域

本申请涉及流量控制技术领域，尤其涉及流量控制方法、装置、计算机设备及存储介质。

背景技术

限流器用于控制在网络上发送或接收的流量速率。可以用于在提供API服务下，流量突增对服务质量的影响，甚至可能造成服务中断，其可用性与可靠性，在大流量的情况下，就会大打折扣了；或者更糟的是，某个用户就发送大量请求，试图恶意冲垮服务器，导致系统服务无法处理请求，甚至瘫痪；或者发送大量数据请求的用户可能会影响其他用户的关键事务，从而占用系统服务大量计算资源和内存资源。

目前有几类常见限流器的实现方法：

其一、漏桶方法：我们可以把发请求的动作比作成注水到桶中，我们处理请求的过程可以比喻为漏桶漏水。我们往桶中以任意速率流入水，以一定速率流出水。当水超过桶流量则丢弃，因为桶容量是不变的，保证了整体的速率。实现方式会相对简单，准备一个队列用来保存请求，然后定期从队列中获取一个个请求来执行就好了。

其二、令牌桶方法：令牌桶方法和漏桶方法一样，不过现在桶里装的是令牌了，请求在被处理之前需要拿到一个令牌，请求处理完毕之后将这个令牌丢弃（删除）。我们根据限流大小，按照一定的速率往桶里添加令牌, 当桶中有足够的令牌则请求数据可以被继续发送下去，同时令牌桶中的令牌量按请求数据的数量做相应的减少；当令牌桶中的令牌不足时，请求数据将不能被发送，只有等到桶中生成了新的令牌，请求数据才可以发送。

发明内容

本申请的目的在于提出一种流量控制方法、装置、计算机设备及存储介质，以解决现有技术中客户端以大频率发送请求数据，而对请求数据限流不当，导致系统不稳定性、运行缓慢或宕机的问题。

为了解决上述技术问题，本申请提供一种流量控制方法，采用了如下所述的技术方案，包括下述步骤：

客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请求数据入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列；

请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；

设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；

将序列化的请求数据对象从消费队列出列，转入服务程序。

进一步的，在步骤设置限流转盘流转的规则之前还包括步骤：设置限流转盘的全局变量，所述限流转盘的全局变量包括：

当前容器数GS;

循环遍历节点的速度S；

当前正向指向序号格序号，指的是当前正向指针指向的序号格序号；

当前反向指向序号格序号，指的是当前反向指针指向的序号格序号；

客户端IP的映射Map，用于存储关键字Key-Value键值对的集合，其中Key是IP，Value是存放数量。

进一步的，所述设置限流转盘流转的规则，包括通行规则和淘汰规则具体包括：

判断限流转盘当前容量是否已满，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，否则进入下一步；

获取正向遍历指针指向的序号格序号N，判断该序号为N的序号格里的链表是否已满，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，如果否，把序列化的请求数据对象存入序号为N的序号格里的链表的链尾；

将当前容器数GS递增加1，将Value值递增加1；

将限流转盘进行流转，直到序号为N的序号格被反向遍历指针指向，当反向遍历指针指向的序号格序号R与正向遍历指针指向的序号格序号N一致，获取序号为R的序号格里的链表的链头，等待将其序列化的请求对象入队到消费队列；

判断消费列表是否满伍，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，如果否，数据入伍到消费队列，等待出列；

将当前容器数GS递减减1，将Value值递减减1。

进一步的，在所述客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列的步骤之前还包括：

创建限流转盘，所述限流转盘为双向循环链表，所述限流转盘设有序号格；

创建请求队列，所述请求队列为指定长度L的单向队列，用于接收客户端发送的请求数据，被所述限流转盘的序号格所消费；

创建消费队列，所述消费队列为指定长度L的单向队列，用于接收所述限流转盘获取的序列化的请求数据对象，被服务程序所消费。

创建淘汰队列，所述淘汰队列为不指定长度的单向队列。

进一步的，所述双向循环链表具体包括：

每个链节点的数据结构，包括一个正整数的序号，设为序列格的序号；一个固定长度LN的单向链表，用于存放序号格序列化的请求数据对象。

进一步的，所述请求数据包括预定操作内容，所述预定操作内容包括：

请求头键值；

请求IP，指的客户端IP；

时间戳，指的当前接收到所述请求数据的时间戳；

请求数据实体信息。

进一步的，在将序列化的请求数据对象从请求队列出列，转入限流转盘的步骤之后还包括：

执行业务逻辑处理；

服务程序执行完成后，将最后结果返回到客户端。

为了解决上述技术问题，本申请还提供一种流量控制装置，采用了如下所述的技术方案，包括：

入队模块，用于客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列；

序列化模块，用于请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；

限流转盘模块，用于设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；

出列模块，将序列化的请求数据对象从消费队列出列，转入服务程序。

为了解决上述技术问题，本申请还提供一种计算机设备，采用了如下所述的技术方案：

包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现上述的流量控制方法的步骤。

为了解决上述技术问题，本申请还提供一种计算机可读存储介质，采用了如下所述的技术方案：

所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现上述的流量控制方法的步骤。

与现有技术相比，本申请主要有以下有益效果：

通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是本申请的流量控制方法的一个实施例的流程图；

图3是本申请的淘汰多余请求的转盘已装满数据示意图；

图4是本申请的淘汰多余请求的转盘某个序号格满载示意图；

图5是本申请的淘汰多余请求的消费队列数据满伍示意图；

图6是本申请的淘汰多余请求的请求队列数据满伍示意图；

图7是图2中使用的淘汰多余请求的不符合加入序号格里链表条件示意图；

图8是本申请的流量控制方法的工作原理图；

图9是本申请的流量控制方法的又一个实施例的流程图；

图10是本申请的流量控制装置的一个实施例的结构示意图；

图11是本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请中的技术方案进行清楚、完整地描述。

实施例一

如图1所示，系统架构100可以包括第一终端设备101、第二终端设备102、第三终端设备103，网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用第一终端设备101、第二终端设备102、第三终端设备103通过网络104与服务器105交互，以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器( Moving Picture E流量控制perts Group Audio Layer III，动态影像专家压缩标准音频层面3 )、MP4( Moving Picture E流量控制perts Group Audio Layer IV，动态影像专家压缩标准音频层面4 )播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对第一终端设备101、第二终端设备102、第三终端设备103上显示的页面提供支持的后台服务器。

需要说明的是，本申请所提供的流量控制方法一般由服务器/终端设备执行，相应地，流量控制装置一般设置于服务器/终端设备中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

实施例二

继续参考图2，示出了本申请的流量控制方法的一个实施例的流程图。所述的流量控制方法，包括以下步骤：

步骤S201，客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列。

在所述客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请求数据入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列的步骤之前还包括：创建请求队列，所述请求队列为指定长度L的单向队列，用于接收客户端发送的请求数据，被限流转盘的序号格所消费；创建淘汰队列，所述淘汰队列为不指定长度的单向队列。请求队列长度L可以自定义设置，取决于请求数量可以存放多少在请求队列上，以保证机器对请求数的吞吐量加以限制。

使用请求队列的优点是：保证请求数据可以有序入列与有序出列，确保请求数据有条不紊地在网络中流转。创建淘汰队列为不指定长度的单向队列，不指定长度是为了当有大量的淘汰数据要入列，保证淘汰队列不会被满伍了，让限流转盘的各功能有堆积的淘汰数据，等待入列。

需要说明的是，请求数据，是用户通过客户端发送预定操作内容的请求数据，包括：请求头键值，客户端发送请求数据的请求头键值；请求IP，客户端的IP；时间戳，当前接收到请求数据的时间戳；请求数据实体信息，客户端发送的请求数据具体内容。

在本实施例中，流量控制方法运行于其上的电子设备(例如图1所示的服务器/终端设备)可以通过有线连接方式或者无线连接方式接收流量控制请求。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMA流量控制连接、Zigbee连接、UWB( ultra wideband )连接、以及其他现在已知或将来开发的无线连接方式。

步骤S202，请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象。用数据结构的方式，有利将请求数据分别指定对应的属性，然后传到最后的服务程序，也有利于服务程序容易读取属性值。而序列化为请求对象，可以压缩数据，相当打包数据，以一个整体的形式传输。

步骤S203，设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列。

在本实施例中，在所述客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列的步骤之前还包括：创建消费队列，所述消费队列为指定长度L的单向队列，用于接收所述限流转盘获取的序列化的请求数据对象，被服务程序所消费；创建限流转盘，所述限流转盘为双向循环链表，所述限流转盘设有序号格。

创建限流转盘为一个双向循环链表，其数据结构优点是正向与反向循环，两种方向读取链表的节点，符合限流转盘的操作要求。每个链节点的数据结构，包括一个正整数的序号，定义为序列格的序号；一个固定长度LN的单向链表，用于存放序号格序列化的请求数据对象。

创建限流转盘的全局变量，包括：

整个转盘的当前容量数;

当循环遍历节点速度S（就是一分钟内限流转盘的循环次数）；

当前正向指向序号格序号，指的是当前正向指针指向的序号格序号；

当前反向指向序号格序号，指的是当前反向指针指向的序号格序号；

客户端IP的映射Map，用于存储Key-Value键值对的集合，其中Key是IP，Value是存放数量；

限流转盘的容量数是M个序列格的序号乘以序列格里的链表长度O，即M×O＝L。需要说明的是：链表长度和单向链表的固定长度是不同的。

序号格的数据结构是序号格存放客户端发送请求数据的表现形式，其里面的每个字段最后以整体形式，序列化一个数据对象，存放在序号格的链表的最后一个节点。使用序列化数据对象的优点是，可以压缩数据，便于传输与方便解析其属性值。

需要说明的是，存放序号格的链表里，符合条件：

a) 客户端的IP，在限流转盘的全局变量客户端IP的映射Map，做匹配，如果已在限流转盘存放的数量大于P值，就不符合条件。

b) 请求数据的长度特别长，超出阈值范围F值，也判定不符合条件。

序号格的数据结构包括：

a) 请求头键值：客户端发送请求数据的请求头键值；因为请求数据的头信息包含其他额外的信息，最后接收的服务程序可以从请求头里读取这些信息处理。

b) 请求IP：客户端的IP；

c) 时间戳：当前接收到请求数据的时间戳，记录开始进入流转器的时间点，方便与打印日志或者溯源排查；

d) 请求数据：客户端发送的请求数据，这些数据为最后接收的服务程序读取，执行相应的逻辑处理。

限流转盘正向循环遍历是请求遍历，正向遍历指针指向的序号格，就是当前存放序列化的请求对象链表；限流转盘反向循环遍历是消费遍历，反向遍历指针指向的序号格，就是读取序列格的请求对象链表。

消费队列，一个指定长度为L的单向队列，用于接收限流转盘获取的序列化的请求数据对象，被服务程序所消费。其优点是保证请求数据可以有序入列与有序出列，保证不会有乱序或以及有效溯源，提高可靠性。

淘汰队列用于接收以下五种情况的请求数据，将符合这五种情况的数据视为淘汰请求数据。入队到淘汰队列，出列后按错误信息，返回给客户端。

图3是本申请的淘汰多余请求的转盘已装满数据示意图。如图3所示，情况一：限流转盘的总容量已满载，符合条件的请求数据不能存入任何一个序号格里的链表，这多余的请求数据，视为淘汰数据，入队到淘汰队列。

图4是本申请的淘汰多余请求的转盘某个序号格满载示意图。如图4所示，情况二：正向遍历指针指向的序号格，里面的链表已满伍，多余的请求数据，视为淘汰数据，入队到淘汰队列。

图5是本申请的淘汰多余请求的消费队列数据满伍示意图。如图5所示，情况三：消费队列满伍了，待等待加入的序列化的请求数据对象，视为淘汰数据，入队到淘汰队列；

图6是本申请的淘汰多余请求的请求队列数据满伍示意图。如图6所示，情况四：请求队列满伍了，待等待加入的请求数据，视为淘汰数据，入队到淘汰队列；

图7是图2中使用的淘汰多余请求的不符合加入序号格里链表条件示意图。如图7所示，情况五：不符合存放序号格的链表里的条件，视为淘汰数据，入队到淘汰队列。

步骤S204，将序列化的请求数据对象从消费队列出列，转入服务程序。

本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体（Read-Only Memory，ROM）等非易失性存储介质，或随机存储记忆体（Random Access Memory，RAM）等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

图8是本申请的流量控制方法的工作原理图。如图8所示，客户端发送请求数据，请求数据进入请求队列。请求数据在请求队列中有序存入序号大的格子，请求数据在这里开始分流，一部分符合淘汰规则的请求数据，进入淘汰队列，另一部分符合通行规则的请求数据进入限流转盘。限流转盘设有多个序号格。经过限流转盘的请求数据，获取序号小的数据入队到队列，这里进行二次分流，一部分符合通行规则的请求数据进入消费队列，另一部分通过淘汰，进入淘汰队列。达到消费队列的请求数据，被发送到服务程序，执行业务逻辑处理，服务程序执行完成后，将最后结果返回到客户端。进入淘汰队列的请求数据，返回失败结果给客户端。执行业务逻辑处理指的是：服务程序对接收到的请求数据，进行判定具体业务操作，比如查询、更新、修改、新增等逻辑处理。可见，请求数据最终会进入服务程序，由服务程序来进行处理。服务程序是指为了帮助用户使用与维护电脑，提供服务性手段并支持其他软件开发而编制的一类程序。服务程序是一类辅助性的程序，它提供各种运行所需的服务。可以在操作系统的控制下运行，也可以在没有操作系统的情况下独立运行，主要有工具软件、编辑程序、软件调试程序以及诊断程序等几种。如服务程序可以包括网站、系统服务、处理业务逻辑的应用程序等。

采用本实施例，通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

实施例三

图9是本申请的流量控制方法的又一个实施例的流程图。如图9所示，一种流量控制方法，包括步骤：

S301、客户端发送请求数据。

S302、判断请求队列是否满员，如果是，执行步骤S318，如果否，执行步骤S303。

S303、把请求头键值、请求IP、时间戳、请求数据保存成其数据结构，序列化请求数据对象。

S304、该请求数据是否满足加入序号格的条件，如果是，执行步骤S305，如果否，执行步骤S318。

S305、待加入转盘序号格的链表。

S306、判断限流转盘容量数是否已满，如果是，执行步骤S318，如果否，执行步骤S307。

S307、获取正向遍历指针指向的序号格序号。

S308、判断序号格的链表是否已满，如果是，执行步骤S318，如果否，执行步骤S309。

S309、把序列化请求对象存入到当前序号格的链表的链尾。

S310、转盘的当前容量数递增1，客户端IP的映射Map，映射Map是键映射到值的数据结构，用于记录客户端IP映射Value的结构，用于记录每个客户端IP在转盘的数量，并限制Value的数量，防止大量相同的客户端IP存入转盘里，key为客户端IP，Value递增1。这里用于统计当前容器数GS的数值，客户端IP的映射Map，方便统计在限流转盘里，有多少个客户端IP数量，且每个客户端IP存有多少个。

S311、转盘流转。将转盘进行流转，直到序号为N的序号格被反向遍历指针指向，当反向遍历指针指向的序号格序号R与正向遍历指针指向的序号格序号N一致，因为反向遍历指针与正向遍历指针的方向是相反，那它们两个指针各自遍历指向时，会有重合的情况，那就是它们都指向同一个序号格序号了，以这个条件，获取序号R里的链表的链头，等待将其序列化的请求对象入队到消费队列

S312、反向遍历指针指向的序号格序号，获取链表的链头，将其序列化请求对象入队到消费队列。

S313、判断消费队列是否满伍，如果是，执行步骤S318，如果否，执行步骤S314。

S314、加入消费队列。

S315、转盘的当前容量数递减1，客户端IP的映射Map，key为客户端IP，Value值递减1。这里用于统计当前容器数GS的数值，客户端IP的映射Map，方便统计在限流转盘里，有多少个客户端IP数量，且每个客户端IP存有多少个；记录每个客户端IP在转盘的数量，并限制Value的数量，防止大量相同的客户端IP存入转盘里。

S316、请求数据出列，发送到服务程序处理。

S317、返回处理后结果到客户端。

S318、加入淘汰队列。

S319、返回失败结果到客户端。

采用本实施例，通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

实施例四

进一步参考图10，作为对上述图2或者图9所示方法的实现，本申请提供了一种流量控制装置的一个实施例，该装置实施例与图2或者图9所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图10所示，本实施例所述的流量控制装置400包括：入队模块401、序列化模块402、限流转盘模块403以及出列模块404。其中：

入队模块401，用于客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列；

序列化模块402，用于请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；

限流转盘模块403，用于设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；

出列模块404，用于将序列化的请求数据对象从消费队列出列，转入服务程序。

在本实施例流量控制装置上执行实施例二和实施例三所示流量控制方法，具体执行方法请参考实施例二和实施例三，此处不再赘述。

采用本实施例，通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

实施例五

为解决上述技术问题，本申请还提供计算机设备。具体请参阅图11，图11为本实施例计算机设备基本结构框图。

所述计算机设备6包括通过系统总线相互通信连接存储器61、处理器62、网络接口63。需要指出的是，图中仅示出了具有组件存储器61、处理器62和网络接口63的计算机设备6，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器 (Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器61至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器（例如，SD或D流量控制存储器等）、随机访问存储器（RAM）、静态随机访问存储器（SRAM）、只读存储器（ROM）、电可擦除可编程只读存储器（EEPROM）、可编程只读存储器（PROM）、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器61可以是所述计算机设备6的内部存储单元，例如该计算机设备6的硬盘或内存。在另一些实施例中，所述存储器61也可以是所述计算机设备6的外部存储设备，例如该计算机设备6上配备的插接式硬盘，智能存储卡（Smart Media Card, SMC），安全数字（Secure Digital, SD）卡，闪存卡（Flash Card）等。当然，所述存储器61还可以既包括所述计算机设备6的内部存储单元也包括其外部存储设备。本实施例中，所述存储器61通常用于存储安装于所述计算机设备6的操作系统和各类应用软件，例如流量控制方法的计算机可读指令等。此外，所述存储器61还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器62在一些实施例中可以是中央处理器（Central Processing Unit，CPU）、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器62通常用于控制所述计算机设备6的总体操作。本实施例中，所述处理器62用于运行所述存储器61中存储的计算机可读指令或者处理数据，例如运行所述流量控制方法的计算机可读指令。

所述网络接口63可包括无线网络接口或有线网络接口，该网络接口63通常用于在所述计算机设备6与其他电子设备之间建立通信连接。

采用本实施例，通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

实施例六

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的流量控制方法的步骤。

采用本实施例，通过设置限流转盘，在一定的速率下，不停转动保存请求数据，一旦限流转盘的所有序号格数据装满数据，则可以淘汰请求数据、请求队列排队等待入队等处理；同时，消费队列设有指定的长度，提供二次保障，当消费队列满伍后，限流转盘里待消费请求数据，都被淘汰，消费队列充当缓冲角色，防止限流转盘在高速率情况下，大量请求数据到传输到系统服务处理。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质（如ROM/RAM、磁碟、光盘）中，包括若干指令用以使得一台终端设备（可以是手机，计算机，服务器，空调器，或者网络设备等）执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种流量控制方法，其特征在于，包括下述步骤：

客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请求数据入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列；

请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；

设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；

将序列化的请求数据对象从消费队列出列，转入服务程序。

2.根据权利要求1所述的流量控制方法，其特征在于，在步骤设置限流转盘流转的规则之前还包括步骤：设置限流转盘的全局变量，所述限流转盘的全局变量包括：

当前容器数GS;

循环遍历节点的速度S；

当前正向指向序号格序号，指的是当前正向指针指向的序号格序号；

当前反向指向序号格序号，指的是当前反向指针指向的序号格序号；

客户端IP的映射Map，用于存储关键字Key-Value键值对的集合，其中Key是IP，Value是存放数量。

3.根据权利要求2所述的流量控制方法，其特征在于，所述设置限流转盘流转的规则，包括通行规则和淘汰规则具体包括：

判断限流转盘当前容量是否已满，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，否则进入下一步；

获取正向遍历指针指向的序号格序号N，判断该序号为N的序号格里的链表是否已满，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，如果否，把序列化的请求数据对象存入序号为N的序号格里的链表的链尾，其中N≥1；

将当前容器数GS递增加1，将Value值递增加1；

将转盘进行流转，直到序号为N的序号格被反向遍历指针指向，当反向遍历指针指向的序号格序号R与正向遍历指针指向的序号格序号N一致，获取序号为R的序号格里的链表的链头，等待将其序列化的请求对象入队到消费队列；

判断消费列表是否满伍，如果是，将序列化的请求数据对象入队到淘汰队列，返回失败结果给客户端，如果否，数据入伍到消费队列，等待出列；

将当前容器数GS递减减1，将Value值递减减1。

4.根据权利要求1所述的流量控制方法，其特征在于，所述在所述客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列的步骤之前还包括：

创建限流转盘，所述限流转盘为双向循环链表，所述限流转盘设有序号格；

创建请求队列，所述请求队列为指定长度L的单向队列，用于接收客户端发送的请求数据，被所述限流转盘的序号格所消费；

创建消费队列，所述消费队列为指定长度L的单向队列，用于接收所述限流转盘获取的序列化的请求数据对象，被服务程序所消费；

创建淘汰队列，所述淘汰队列为不指定长度的单向队列。

5.根据权利要求4所述的流量控制方法，其特征在于，所述双向循环链表具体包括：

每个链节点的数据结构，包括一个正整数的序号，设为序列格的序号；一个固定长度LN的单向链表，用于存放序号格序列化的请求数据对象。

6.根据权利要求1所述的流量控制方法，其特征在于，所述请求数据包括预定操作内容，所述预定操作内容包括：

请求头键值；

请求IP，指的客户端IP；

时间戳，指的当前接收到所述请求数据的时间戳；

请求数据实体信息。

7.根据权利要求1至5任意一项所述的流量控制方法，其特征在于，在将序列化的请求数据对象从消费队列出列，转入服务程序的步骤之后还包括：

执行业务逻辑处理；

服务程序执行完成后，将最后结果返回到客户端。

8.一种流量控制装置，其特征在于，包括：

入队模块，用于客户端发送请求数据，判断请求队列是否满伍，如果是，则让所述请入队到淘汰队列，返回失败结果给客户端，如果否，请求数据入伍到请求队列；

序列化模块，用于请求数据从请求队列出列后，将请求数据存储为数据结构，然后序列化请求数据对象；

限流转盘模块，用于设置限流转盘流转的规则，包括通行规则和淘汰规则，让符合淘汰规则的序列化请求数据对象进入淘汰队列，返回失败结果给客户端，让符合通行规则的序列化请求数据对象进入消费队列；

出列模块，将序列化的请求数据对象从消费队列出列，转入服务程序。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的流量控制方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的流量控制方法的步骤。

Images