CN109194584B - 一种流量监控方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本发明公开了一种流量监控方法、装置、计算机设备及存储介质，所述方法包括：中心服务器获取用户的接口访问请求，根据接口访问请求中包含的该用户身份标识信息，获取该用户的接口访问权限余量，若访问请求数量满足接口访问权限余量的要求，则按照预设提取方式，从初始任务信息中提取目标任务信息，并发送给节点服务器执行，使用这种任务分摊的方式，节省了中心服务器的资源，节点服务器在接收到任务信息后，通过令牌桶的改进算法，计算出可处理的访问请求数量，若目标任务信息中的访问请求数量超出可处理的访问请求数量，则获取超出的访问请求，并发送给中心服务器进行处理，使得充分利用节点服务器的接口去处理访问请求，提高了接口的使用效率。

Description

一种流量监控方法、装置、计算机设备及存储介质

技术领域

本发明涉及计算机技术领域，尤其涉及一种流量监控方法、装置、计算机设备及存储介质。

背景技术

随着科技的进步和计算机网络技术的飞速发展，接口服务(Interface Service)的使用已经越来越广泛了，接口服务是一个自动化系统与另一个自动化系统或人之间的共享边界，其利用Web(World Wide Web，万维网)服务技术进行交互的应用只需遵从相应的Web服务接口,而不需考虑各自的内部实现,从而极大地降低了交互应用之间的耦合度,增加了企业应用的灵活性。

然后，由于业务应用系统的负载能力有限，当同一时间某接口访问请求过多时，非预期的访问请求对系统压力过大而拖垮业务应用系统，于是，面对大流量时，如何进行流量控制成了接口服务必须关注问题。

针对非预期的大流量给服务器带来的这些问题，一般会用服务接口的限流，但这使得接口服务无法保证高可用的特性，同时接口的使用效率低、服务器资源占用高。

发明内容

基于此，有必要针对上述技术问题，提供一种可以提高接口使用效率，同时降低服务器资源占用率的流量监控方法、装置、计算机设备及存储介质。

一种流量监控方法，包括：

获取用户的接口访问请求，其中，所述接口访问请求包括初始任务信息和所述用户的身份标识信息，所述初始任务信息包括访问请求的数量和每个所述访问请求的标识信息；

根据所述用户的身份标识信息，获取所述用户的接口访问权限余量；

若所述访问请求的数量满足所述接口访问权限余量的要求，则按照预设的提取方式，从所述初始任务信息中提取目标任务信息；

按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将所述目标任务信息分配给所述目标节点服务器执行，其中，所述节点服务器集合包含预设数量的节点服务器；

若接收到目标节点服务器发送的待处理访问请求，则按照所述负载均衡分配方式对所述待处理访问请求进行重新分配；

若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量。

一种流量监控方法，包括：

若接收到中心服务器发送的目标任务信息，则获取所述目标任务信息中的访问请求，并获取所述目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

获取补充令牌的时间点和当前时间点，并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt；

将所述时间间隔与预设间隔阈值T进行比较，得到比较结果；

按照所述比较结果对应的预设填充方式，计算可补充令牌数量M；

若M<A，则计算A与M的差值N，并从所述目标任务信息中选取N个访问请求作为待处理访问请求，将所述待处理访问请求发送给中心服务器，其中N为正整数；

从所述目标任务信息中移除所述待处理访问请求，得到更新后的目标任务信息；

根据更新后的所述目标任务信息进行M次令牌填充，依次执行所述目标任务信息中的访问请求，并在每个所述访问请求执行完成后向中心服务器发送该访问请求的标识信息。

一种流量监控装置，包括中心服务器，中心服务器包括：

请求获取模块，用于获取用户的接口访问请求，其中，所述接口访问请求包括初始任务信息和所述用户的身份标识信息，所述初始任务信息包括访问请求的数量和每个所述访问请求的标识信息；

余量确定模块，用于根据所述用户的身份标识信息，获取所述用户的接口访问权限余量；

条件判断模块，用于若所述访问请求的数量满足所述接口访问权限余量的要求，则按照预设的提取方式，从所述初始任务信息中提取目标任务信息；

任务分配模块，用于按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将所述目标任务信息分配给所述目标节点服务器执行，其中，所述节点服务器集合包含预设数量的节点服务器；

二次分配模块，用于若接收到目标节点服务器发送的待处理访问请求，则按照所述负载均衡分配方式对所述待处理访问请求进行重新分配；

余量更新模块，用于若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量。

一种流量监控装置，包括节点服务器，节点服务器包括：

信息获取模块，用于若接收到中心服务器发送的目标任务信息，则获取所述目标任务信息中的访问请求，并获取所述目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

间隔确定模块，用于获取补充令牌的时间点和当前时间点，并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt；

时间比较模块，用于将所述时间间隔与预设间隔阈值T进行比较，得到比较结果；

填充计算模块，用于按照所述比较结果对应的预设填充方式，计算可补充令牌数量M；

请求遣返模块，用于若M<A，则计算A与M的差值N，并从所述目标任务信息中选取N个访问请求作为待处理访问请求，将所述待处理访问请求发送给中心服务器，其中N为正整数；

任务更新模块，用于从所述目标任务信息中移除所述待处理访问请求，得到更新后的目标任务信息；

任务执行模块，用于根据更新后的所述目标任务信息进行M次令牌填充，依次执行所述目标任务信息中的访问请求，并在每个所述访问请求执行完成后向中心服务器发送该访问请求的标识信息。

一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述流量监控方法的步骤。

一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述流量监控方法的步骤。

上述流量监控方法、装置、计算机设备及存储介质，获取用户的接口访问请求，根据接口访问请求中包含的该用户的身份标识信息，获取该用户的接口访问权限余量，若访问请求的数量满足接口访问权限余量的要求，则按照预设的提取方式，从初始任务信息中提取目标任务信息，按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将目标任务信息分配给目标节点服务器执行，使用这种任务分摊的方式，节省了中心服务器的资源，降低了中心服务器资源的占用率，目标节点服务器在接收到中心服务器发送的目标任务信息后，通过令牌桶的改进算法，准确计算出当前节点服务器可补充的令牌数量，即可处理的访问请求数量，若目标任务信息中的访问请求数量超出节点服务器可处理的访问请求数量，则获取超出的访问请求，并发送给中心服务器，若中心服务器接收到目标节点服务器发送的待处理访问请求，则按照负载均衡分配方式对待处理访问请求进行重新分配，使得可以充分利用每个节点服务器的接口去处理访问请求，提高了接口的使用效率。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的流量监控方法的应用环境示意图；

图2是本发明实施例提供的流量监控方法的实现流程图；

图3是本发明实施例提供的流量监控方法中中心服务器对访问请求数量进行监控的实现流程图；

图4是本发明实施例提供的流量监控方法中步骤S18的实现流程图；

图5是本发明实施例提供的流量监控装置的示意图；

图6是本发明实施例提供的计算机设备的示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1，图1示出本发明实施例提供的流量监控方法的应用环境。该流量监控方法应用在分布式接口调用的流量监控场景中。该监控场景包括中心服务器、节点服务器和客户端，其中，中心服务器和客户端之间、中心服务器和节点服务器之间均通过网络进行连接，用户通过客户端发送接口调用请求到中心服务器，中心服务器通过对请求中的数据进行分析，将请求分成多个任务并发送到各个节点服务器，节点服务器执行任务并向中心服务器反馈相关任务信息，客户端具体可以但不限于是手机、平板电脑、个人计算机(Personal Computer，PC)等智能终端设备，中心服务器和节点服务器具体可以用独立的服务器或者多个服务器组成的服务器集群实现。

本发明实施例中的流量监控方法具体包括中心服务器执行的如下步骤：

获取用户的接口访问请求，其中，所述接口访问请求包括初始任务信息和所述用户的身份标识信息，所述初始任务信息包括访问请求的数量和每个所述访问请求的标识信息；

根据所述用户的身份标识信息，获取所述用户的接口访问权限余量；

若所述访问请求的数量满足所述接口访问权限余量的要求，则按照预设的提取方式，从所述初始任务信息中提取目标任务信息；

按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将所述目标任务信息分配给所述目标节点服务器执行，其中，所述节点服务器集合包含预设数量的节点服务器；

若接收到目标节点服务器发送的待处理访问请求，则按照所述负载均衡分配方式对所述待处理访问请求进行重新分配；

若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量。

本发明实施例中的流量监控方法具体包括节点服务器执行的如下步骤：

若接收到中心服务器发送的目标任务信息，则获取所述目标任务信息中的访问请求，并获取所述目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

获取补充令牌的时间点和当前时间点，并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt；

将所述时间间隔与预设间隔阈值T进行比较，得到比较结果；

按照所述比较结果对应的预设填充方式，计算可补充令牌数量M；

若M<A，则计算A与M的差值N，并从所述目标任务信息中选取N个访问请求作为待处理访问请求，将所述待处理访问请求发送给中心服务器，其中N为正整数；

从所述目标任务信息中移除所述待处理访问请求，得到更新后的目标任务信息；

根据更新后的所述目标任务信息进行M次令牌填充，依次执行所述目标任务信息中的访问请求，并在每个所述访问请求执行完成后向中心服务器发送该访问请求的标识信息。

请参阅图2，图2示出本发明实施例提供的一种流量监控方法，以该方法应用在图1中的中心服务器和节点服务器为例进行说明，详述如下：

S11：中心服务器获取用户的接口访问请求，其中，接口访问请求包括初始任务信息和该用户的身份标识信息，初始任务信息包括访问请求的数量和每个访问请求的标识信息。

具体地，用户通过客户端向中心服务器发送接口访问请求，中心服务器获取该接口访问请问，该接口访问请求包括初始任务信息和该用户的身份标识信息。

其中，用户的身份标识信息用于鉴别用户，中心服务器上存储有用户的身份标识信息，以及该身份标识信息对应的用户信息，用户信息包括但不限于：访问频率和接口访问权限余量等。

其中，初始任务信息包括访问请求的数量和每个访问请求的标识信息，接口访问请求一般包含多个访问请求，每个访问请求有唯一的标识信息。

S12：中心服务器根据用户的身份标识信息，获取该用户的接口访问权限余量。

具体地，中心服务器根据获取到的用户的身份标识信息，从存储的用户信息中找到该身份标识信息对应的接口访问权限余量，用接口访问权限余量对用户的访问权限进行验证，若当前用户的接口访问权限余量为零，则向该用户发送余量不足的提醒。

其中，用户的接口访问权限余量是指可执行该用户的访问请求次数。

S13：若访问请求的数量满足接口访问权限余量的要求，则中心服务器按照预设的提取方式，从初始任务信息中提取目标任务信息。

具体地，在本实施例中，预设的提取方式为根据初始任务信息中访问请求的数量，将初始任务信息分成相同的若干份，每一份作为一个目标任务信息。预设的提取方式可以根据实际需要进行，此处具体不做限制，若访问请求的数量满足接口访问权限余量的要求，即访问请求的数量不超过接口访问权限余量时，中心服务器按照预设的提取方式，从初始任务信息中提取目标任务信息。

例如，在一具体实施方式中，访问请求的数量为1000，接口访问权限余量15000，访问请求的数量满足接口访问权限余量的要求，此时将访问请求的数量平均分成10份，每一份包含100个访问请求，将每一份作为一个目标任务信息。

S14：中心服务器按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将目标任务信息分配给该目标节点服务器执行，其中，节点服务器集合包含预设数量的节点服务器。

具体地，中心服务器与节点服务器集合组成了一个集群，根据节点服务器集合中各个节点服务器的当前状态，中心服务器通过负载均衡(Load Balancing)的分配方式，将目标任务信息发送给各个节点服务器。

其中，负载均衡从其应用的地理结构上分为本地负载均衡(Local Load Balance)和全局负载均衡(Global Load Balance，也叫地域负载均衡)，本实施例中采用的方式可以为本地负载均衡，本地负载均衡通过灵活多样的均衡策略把访问请求合理地分配给集群内的节点服务器共同负担。即使是给现有节点服务器扩充升级，也只需简单地增加一个新的节点服务器到集群中，而不需改变现有网络结构、停止现有的服务，能有效地解决访问请求过多、网络负荷过重的问题，并且不需花费昂贵开支购置性能卓越的服务器，充分利用现有设备，避免节点服务器单点故障造成访问请求丢失的损失。

值得说明的是，在本实施例中，通过在中心服务器上搭载Redis来记录节点服务器的状态信息，以及分配到节点服务器的目标任务信息。

其中，Redis是一个高性能的Key-Value数据库。Redis支持主从同步，本实施例中的中心服务器作为组服务器，节点服务器作为从服务器，数据可以从中心服务器向任意数量的节点服务器上同步。这使得Redis可执行单层树复制，并对数据进行快速读写操作。由于完全实现了发布/订阅机制，使得节点服务器从数据库在任何地方同步树时，可订阅一个频道并接收中心服务器完整的消息发布记录。

以步骤S13中得到的10个目标任务信息为例，在节点服务器集合中有3个节点服务器，分别为第一节点服务器，第二节点服务器和第三节点服务器。其中第一节点服务器状态为空闲，第二节点服务器和第三节点服务器为正常，中心服务器按照负载均衡的方式，向第一节点服务器发送6个目标任务信息，向第二节点服务器和第三节点服务器分别发送2个目标任务信息。

S15：若节点服务器接收到中心服务器发送的目标任务信息，则获取该目标任务信息中的访问请求，并获取该目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数。

具体地，当节点服务器接收到中心服务器发送的目标任务信息时，获取该目标任务信息中的访问请求，并获取该目标任务信息包括的访问请求总数A和每个访问请求的标识信息。

节点服务器在执行目标任务信息中的访问请求之前，为避免访问请求过多导致节点服务器接口出现故障，需要进行限流，即进行访问请求数量控制。

其中，节点服务器的限流方式包括但不限于：计数算法、漏桶算法和令牌桶算法等。令牌桶算法是网络流量整形(Traffic Shaping)和速率限制(Rate Limiting)中最常使用的一种算法。

优选地，本实施例采用令牌桶算法的改进算法，具体实现过程详见步骤S16至步骤S18的内容。

其中，令牌桶算法用来控制执行访问请求的数量，其原理为：每个访问请求消耗固定的令牌数量，令牌桶的容量，即容纳令牌数量上限是固定的，令牌桶可自行以恒定的速率源源不断地产生令牌。如果令牌不被消耗，或者被消耗的速度小于产生的速度，令牌就会不断地增多，直到把桶填满。后面再产生的令牌就会从桶中溢出。最后桶中可以保存的令牌数量永远不会超过令牌桶的容量。

S16：节点服务器获取补充令牌的时间点和当前时间点，并计算当前时间点与补充令牌的时间点之间的时间间隔Δt。

具体地，节点服务器由于受到硬件配置、网络速度和技术瓶颈等的限制，其吞吐量具有上限，为保证节点服务器接口的正常使用，需要对接口的每秒查询率(Query PerSecond，QPS)进行限定，因此，在每次接收到中心服务器发送的目标任务信息之后，需要获取当前时间点与补充令牌的时间点之间的时间间隔。

其中，每秒查询率是指节点服务器在规定时间内所处理的访问请求数量。

其中，补充令牌的时间点为上一次补充令牌所对应的时间点。

例如，在一具体实施方式中，当前时间点为17:03:21，补充令牌的时间点为17:02:14，则对应的时间间隔为67秒。

S17：节点服务器将时间间隔与预设间隔阈值T进行比较，得到比较结果。

具体地，预设间隔阈值是预先设置的时间间隔的值，具体可以是按照固定的填充速率填满整个令牌桶所需要的时间，该填充速率具体可以根据节点服务器接口的每秒查询率和节点服务器的吞吐量设置，可以理解的，不同的节点服务器对应的填充速率可能不同。例如，预设间隔阈值可以设置为6秒，也可以根据实际情况进行设置，此处不作具体限制。

其中，比较结果为时间间隔Δt与预设间隔阈值T之间的大小结果，具体可以是时间间隔Δt大于或等于预设间隔阈值T，也可以是时间间隔Δt小于预设间隔阈值T。

S18：节点服务器按照比较结果对应的预设填充方式，计算可补充令牌数量M。

具体地，根据步骤S17中得到的比较结果，根据该比较结果对应的预设的填充方式，计算可补充令牌数量。

其中，根据不同的比较结果，可以设置不同的填充方式，填充方式的不同对节点服务器接口的使用效率有会影响，具体填充方式可以根据实际情形设置，此处不做具体限制。

例如，在一具体实施方式中，在比较结果为时间间隔Δt大于或等于预设间隔阈值T时，采用第一预设填充方式，将令牌桶填满，在比较结果为时间间隔Δt小于预设间隔阈值T时，计算时间间隔Δt与每秒查询率的乘积，将该乘积作为可补充令牌数量M。

值得说明的是，本实施例中的步骤S16至步骤S18是采用令牌桶算法的改进算法，将当前时间点与补充令牌的时间点的时间间隔，与预设间隔阈值进行比较，得出比较结果，进而根据该比较结果确定填充的数量，使得节点服务器的资源被充分利用的同时，也避免了超出节点服务器处理能力的访问请求导致节点服务器瘫痪的问题，保证了节点服务器接口高可用的特性。

S19：若M<A，则节点服务器计算A与M的差值N，并从目标任务信息中选取N个访问请求作为待处理访问请求，将待处理访问请求发送给中心服务器，其中N为正整数。

具体地，在节点服务器可补充令牌数量M小于目标任务信息包括的访问请求总数A，则说明该节点服务器当前状态无法处理掉目标任务信息中的所有访问请求，此时，通过计算可补充令牌数量与目标任务信息包括的访问请求总数的差值，来获取不能完成的访问请求的数量N，并从目标任务信息中选取N个访问请求作为待处理访问请求，发送给中心服务器处理。

值得说明的是，若节点服务器可补充令牌数量大于或等于目标任务信息包括的访问请求总数，则说明该节点服务器当前状态可以处理掉目标任务信息中的所有访问请求，此时，直接执行步骤S22。

S20：若中心服务器接收到目标节点服务器发送的待处理访问请求，则按照负载均衡分配方式对该待处理访问请求进行重新分配。

具体地，在中心服务器接收到目标节点服务器发送的待处理访问请求时，按照步骤S14中描述的负载均衡的方法，将该待处理访问请求发送到节点服务器集合的其他节点服务器执行。

S21：节点服务器从目标任务信息中移除待处理访问请求，得到更新后的目标任务信息。

具体地，节点服务器在将待处理的访问请求发送给中心服务器后，从目标任务信息中移除待处理访问请求，并将目标任务信息中剩余的访问请求更新为目标任务信息，使得更新后的目标任务信息为该节点服务器在预设间隔阈值内所能处理的最大访问请求的数量，提高了节点服务器接口的使用效率。

S22：节点服务器根据更新后的目标任务信息进行M次令牌填充，依次执行目标任务信息中的访问请求，并在每个访问请求执行完成后向中心服务器发送该访问请求的标识信息。

具体地，节点服务器根据可补充令牌的数量来进行令牌填充，并依次执行目标任务信息中的访问请求，在每次执行完一个访问请求后，将该访问请求的标识信息发送给中心服务器。

S23：若中心服务器接收到节点服务器发送的标识信息，则将该标识信息对应的访问请求标记为完成，并更新接口访问权限余量。

具体地，当中心服务器接收到节点服务器发送的标识信息时，该标识信息对应的访问请求已经被执行完毕，此时将该访问请求标记为完成，避免将该访问请求再次发送到节点服务器，同时，对用户的接口访问权限余量进行更新。

其中，对接口访问权限余量进行更新是通过Redis来完成，Redis包含一个内置的计数器，每次接收到标识信息之后，通过计数器将用户接口权限余量的数值减去一，并作为更新后的用户接口权限余量。

在本实施例中，获取用户的接口访问请求，根据接口访问请求中包含的该用户的身份标识信息，获取该用户的接口访问权限余量，若访问请求的数量满足接口访问权限余量的要求，则按照预设的提取方式，从初始任务信息中提取目标任务信息，按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将目标任务信息分配给目标节点服务器执行，使用这种任务分摊的方式，节省了中心服务器的资源，降低了中心服务器资源的占用率，目标节点服务器在接收到中心服务器发送的目标任务信息后，通过令牌桶的改进算法，准确计算出当前节点服务器可补充的令牌数量，即可处理的访问请求数量，若目标任务信息中的访问请求数量超出节点服务器可处理的访问请求数量，则获取超出的访问请求，并发送给中心服务器，若中心服务器接收到目标节点服务器发送的待处理访问请求，则按照负载均衡分配方式对待处理访问请求进行重新分配，使得可以充分利用每个节点服务器的接口去处理访问请求，提高了接口的使用效率。

在一实施例中，中心服务器限制权限余量为零的用户进行访问，在步骤S23之后，该流量监控方法还包括如下步骤：

若更新后的接口访问权限余量为零，则关闭用户的接口访问通道，并提示该用户可用访问次数不足。

具体地，在用户的接口访问权限余量更新后，对接口访问权限余量为零的用户，关闭用户的接口访问通道，并提示该用户可访问次数不足，同时，获取该用户的身份标识信息对应的目标任务信息，并基于Redis支持主从同步和快速读写的特性，向节点服务器发送终止该目标任务信息的指令，节点服务器在接收到终止该目标任务信息的指令后暂停对该目标任务信息的访问请求的处理。

在本实施例中，对用户的接口访问权限余量进行实时更新，并对接口访问权限余量为零的用户进行限制访问，避免用户滥用接口访问造成的中心服务器资源占用严重，有利于提高了中心服务器资源利用效率。

在一实施例中，中心服务器对用户在预设时间段内的访问请求数量进行监控，如图3所示，在步骤S11之后，在步骤S12之前，该流量监控方法还包括如下步骤：

S241：计算预设时间段T1内接口访问请求中包含的访问请求的数量之和H。

具体地，预设时间段T1可以根据时间需要进行设置，比如，在本实施例中预设时间段T1可设置为60秒，预设时间段T1内接收到的接口访问请求可以是只有一次，也可以是多次，每次接收到的接口访问请求中包含若干访问请求，对预设时间段内的访问请求数量进行统计，得到访问请求数量之和。

例如，在一具体实施方式中，预设的时间段为60秒，第一次接口访问请求是在11:36:07，第二次接口访问时间为11:36:33，在第二次接口访问时，需要统计第一次访问请求的数量和第二次访问请求的数量之和，用于对后续对短时间内流量进行监控管理，第三次接口访问时间为11:37:17，由于预设的时间段为60秒，因此只需对第二次和第三次访问请求的数量之和进行统计。

S242：获取用户的身份标识信息对应的访问频率Q，根据公式I＝Q×T1，计算用户在预设时间段内的有效访问请求的数量I。

具体地，每个用户的身份标识信息对应该用户的访问频率Q，并按照公式I＝Q×T1计算用户在预设时间段内最多可申请的访问请求数量，记为有效访问请求数量。

其中，访问频率Q是指在单位时间内能够处理的用户的访问请求的数量，例如，某用户的访问频率为30个/秒，即在1秒时间内最多可处理该用户的30个访问请求，超出30的部分将被延期执行。

值得说明的是，若有效访问请求的数量大于或等于预设时间段内访问请求的数量之和，则将预设时间段内的所有访问请求作为更新后的初始任务信息。

S243：使用公式J＝H-I计算延期访问请求的数量J，并从初始任务信息中选取J个访问请求作为延期访问请求，将剩余的访问请求作为更新后的初始任务信息。

具体地，当有效访问请求的数量小于预设时间段内访问请求的数量之和时，需要对超出部分进行延期访问，通过公式J＝H-I计算需要进行延期访问请求的数量J，并从预设时间段内的所有访问请求中随机选出J个访问请求作为延期访问请求，将剩余的访问请求作为更新后的初始任务信息。

例如，在一具体实施方式中，预设时间段内的访问请求数量之和为200个，有效访问请求数量为120个，则需要随机选取80个延期处理，剩下的120个作为更新后的初始任务信息。

S244：将延期访问请求延时至空闲时处理。

具体地，中心服务器将步骤S243中选出的延期访问请求放入缓存队列，并在监测到存在空闲的节点服务器时，将该延期访问请求更新为初始任务信息进行处理。

在本实施例中，计算预设时间段内接口访问请求中包含的访问请求的数量之和，并获取用户的身份标识信息对应的访问频率，通过该用户的访问频率计算该用户在预设时间段内的有效访问请求的数量，若访问请求的数量之和超过有效访问请求数量，则获取超出部分数量的访问请求作为延期访问请求，并将延期访问请求延时至空闲时处理，避免了用户短时间内发送大量访问请求造成的中心服务器资源过度占用，降低了中心服务器资源占用率。

在一实施例中，节点服务器通过采用令牌桶算法的改进算法来对节点进行限流，如图4所示，步骤S18中，即节点服务器按照比较结果对应的预设填充方式，计算可补充令牌数量M，具体包括如下步骤：

S181：若比较结果为Δt≥T，则获取当前令牌数量E与预设的令牌上限F，按公式M＝F-E计算可补充令牌数量M。

具体地，节点服务器按照固定的速率对令牌桶中的令牌进行填充，在当前时间点与补充令牌的时间点之间的时间间隔Δt大于或等于预设间隔阈值T时，节点服务器有充足的填充时间来填满令牌桶，此时，可补充令牌数量M即为令牌桶令牌上限F与当前令牌数量E的差值。

其中，当前令牌数量是指填充之前令牌桶内剩余的令牌数量，预设的令牌上限即步骤S15中提及的令牌桶的容量。

例如，在一具体实施方式中，预设间隔阈值为10秒，预设的令牌上限为150个，在某次接收到中心服务器发送的目标任务信息之后，需要对令牌桶的令牌进行补充，计算出当前时间与补充令牌的时间点的时间间隔为13秒，令牌桶内当前令牌数量为120个，容易理解地，由于两次补充令牌的时间间隔大于预设间隔阈值，因此，此次令牌补充会将令牌桶填满，此时可补充令牌数量为30个。

S182：若比较结果为Δt＜T，则按照如下公式计算可补充令牌数量M：

具体地，在当前时间点与补充令牌的时间点之间的时间间隔小于预设间隔阈值时，无法确定是否会将令牌桶填满，此时，计算该时间间隔Δt内，节点服务器在固定的速率

时最多能够补充的令牌数量

并计算此时令牌桶最多可以补充的令牌数量F-E，若

小于F-E，则可补充数量为

若

大于或等于F-E，则最多只能将令牌桶填满，即可补充数量为F-E。

值得说明的是，在时间间隔小于预设间隔阈值时，通过计算最多能够补充的令牌数量和最多可以补充的令牌数量，并将这两者进行比较，取其中值较小的一个作为可补充令牌数量，既充分利用了节点服务器的处理能力，又避免过多的非预期请求造成的异常。

以步骤S181中的节点服务器为例，在另一次接收到中心服务器发送的目标任务信息之后，计算出当前时间与补充令牌的时间点的时间间隔为4秒，令牌桶内当前令牌数量为120个，根据上述描述容易计算出最多能够补充的令牌数量为60个，最多可以补充的令牌数量为30个，因而，本次可补充令牌数量为30个。

在本实施例中，对步骤S17中得到的两种不同的比较结果，采用令牌桶的改进算法来进行限流，使得节点服务器资源可以被充分利用，同时也避免短时高频的访问对节点服务器接口造成异常，有利于维持节点服务器接口高可用的特征。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

在一实施例中，提供一种流量监控装置，该流量监控装置与上述实施例中流量监控方法一一对应。如图5所示，该流量监控装置包括中心服务器和节点服务器，为了便于说明，仅示出了与本实施例相关的部分。

请参阅图5，该流量监控装置的中心服务器包括：请求获取模块110、余量确定模块120、条件判断模块130、任务分配模块140、二次分配模块150和余量更新模块160。各功能模块详细说明如下：

请求获取模块110，用于获取用户的接口访问请求，其中，接口访问请求包括初始任务信息和该用户的身份标识信息，初始任务信息包括访问请求的数量和每个访问请求的标识信息；

余量确定模块120，用于根据用户的身份标识信息，获取该用户的接口访问权限余量；

条件判断模块130，用于若访问请求的数量满足接口访问权限余量的要求，则按照预设的提取方式，从初始任务信息中提取目标任务信息；

任务分配模块140，用于按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将目标任务信息分配给该目标节点服务器执行，其中，节点服务器集合包含预设数量的节点服务器；

二次分配模块150，用于若接收到目标节点服务器发送的待处理访问请求，则按照负载均衡分配方式对该待处理访问请求进行重新分配；

余量更新模块160，用于若接收到节点服务器发送的标识信息，则将该标识信息对应的访问请求标记为完成，并更新接口访问权限余量。

进一步地，该流量监控装置的中心服务器还包括：

限制访问模块170，用于若更新后的接口访问权限余量为零，则关闭用户的接口访问通道，并提示该用户可用访问次数不足。

进一步地，该流量监控装置的中心服务器还包括：

请求数量统计模块181，用于计算预设时间段T1内接口访问请求中包含的访问请求的数量之和H；

有效请求计算模块182，用于获取用户的身份标识信息对应的访问频率Q，根据公式I＝Q×T1，计算用户在预设时间段内的有效访问请求的数量I；

延期请求确定模块183，用于使用公式J＝H-I计算延期访问请求的数量J，并从初始任务信息中选取J个访问请求作为延期访问请求，将剩余的访问请求作为更新后的初始任务信息；

延期请求处理模块184，用于将延期访问请求延时至空闲时处理。

请继续参阅图5，该流量监控装置的节点服务器包括：信息获取模块210、间隔确定模块220、时间比较模块230、填充计算模块240、请求遣返模块250、任务更新模块260和任务执行模块270。各功能模块详细说明如下：

信息获取模块210，用于若接收到中心服务器发送的目标任务信息，则获取该目标任务信息中的访问请求，并获取该目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

间隔确定模块220，用于获取补充令牌的时间点和当前时间点，并计算当前时间点与补充令牌的时间点之间的时间间隔Δt；

时间比较模块230，用于将时间间隔与预设间隔阈值T进行比较，得到比较结果；

填充计算模块240，用于按照比较结果对应的预设填充方式，计算可补充令牌数量M；

请求遣返模块250，用于若M<A，则计算A与M的差值N，并从目标任务信息中选取N个访问请求作为待处理访问请求，将待处理访问请求发送给中心服务器，其中N为正整数；

任务更新模块260，用于从目标任务信息中移除待处理访问请求，得到更新后的目标任务信息；

任务执行模块270，用于根据更新后的目标任务信息进行M次令牌填充，依次执行目标任务信息中的访问请求，并在每个访问请求执行完成后向中心服务器发送该访问请求的标识信息。

进一步地，填充计算模块240包括：

第一计算单元241，用于若比较结果为Δt≥T，则获取当前令牌数量E与预设的令牌上限F，按公式M＝F-E计算可补充令牌数量M；

第二计算单元242，用于若比较结果为Δt＜T，则按照如下公式计算可补充令牌数量M：

关于流量监控装置的具体限定可以参见上文中对于流量监控方法的限定，在此不再赘述。上述流量监控装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。

在一个实施例中，提供了一种计算机设备，该计算机设备可以是中心服务器，也可以是节点服务器，其内部结构图可以如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储流量监控方法的用户信息与任务信息。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种流量监控方法。

在一个实施例中，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述实施例流量监控方法中中心服务器所执行的步骤，例如图2所示的步骤S11至步骤S23中中心服务器所执行的步骤，或者实现上述实施例流量监控方法中节点服务器所执行的步骤，例如图2所示的步骤S11至步骤S23中节点服务器所执行的步骤。或者，处理器执行计算机程序时实现上述实施例流量监控装置的各模块/单元的功能，例如图5所示中心服务器的模块110至模块160的功能，以及节点服务器的模块210至模块270的功能。为避免重复，这里不再赘述。

在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例流量监控方法的步骤，或者，计算机程序被处理器执行时实现上述实施例流量监控装置的各模块/单元的功能，为避免重复，这里不再赘述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本发明所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种流量监控方法，其特征在于，所述方法包括：

获取用户的接口访问请求，其中，所述接口访问请求包括初始任务信息和所述用户的身份标识信息，所述初始任务信息包括访问请求的数量和每个所述访问请求的标识信息；

根据所述用户的身份标识信息，获取所述用户的接口访问权限余量；

若所述访问请求的数量满足所述接口访问权限余量的要求，则按照预设的提取方式，从所述初始任务信息中提取目标任务信息；

按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将所述目标任务信息分配给所述目标节点服务器执行，其中，所述节点服务器集合包含预设数量的节点服务器；

若接收到目标节点服务器发送的待处理访问请求，则按照所述负载均衡分配方式对所述待处理访问请求进行重新分配；

若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量。

2.如权利要求1所述的流量监控方法，其特征在于，在所述若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量之后，所述方法还包括：

若更新后的所述接口访问权限余量为零，则关闭所述用户的接口访问通道，并提示所述用户可用访问次数不足。

3.如权利要求1所述的流量监控方法，其特征在于，在所述获取用户的接口访问请求之后，在所述根据所述身份标识信息，获取所述用户的接口访问权限余量之前，所述方法还包括：

计算预设时间段T1内接口访问请求中包含的访问请求的数量之和H；

获取所述用户的身份标识信息对应的访问频率Q，根据公式I＝Q×T1，计算所述用户在所述预设时间段内的有效访问请求的数量I；

使用公式J＝H-I计算延期访问请求的数量J，并从所述初始任务信息中选取J个访问请求作为所述延期访问请求，将剩余的访问请求作为更新后的初始任务信息；

将所述延期访问请求延时至空闲时处理。

4.一种流量监控方法，其特征在于，所述方法包括：

若接收到中心服务器发送的目标任务信息，则获取所述目标任务信息中的访问请求，并获取所述目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

获取补充令牌的时间点和当前时间点，并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt；

将所述时间间隔与预设间隔阈值T进行比较，得到比较结果；

按照所述比较结果对应的预设填充方式，计算可补充令牌数量M；

若M<A，则计算A与M的差值N，并从所述目标任务信息中选取N个访问请求作为待处理访问请求，将所述待处理访问请求发送给中心服务器，其中N为正整数；

从所述目标任务信息中移除所述待处理访问请求，得到更新后的目标任务信息；

根据更新后的所述目标任务信息进行M次令牌填充，依次执行所述目标任务信息中的访问请求，并在每个所述访问请求执行完成后向中心服务器发送该访问请求的标识信息。

5.如权利要求4所述的流量监控方法，其特征在于，所述按照所述比较结果对应的预设填充方式，计算可补充令牌数量M包括：

若比较结果为Δt≥T，则获取当前令牌数量E与预设的令牌上限F，按公式M＝F-E计算所述可补充令牌数量M；

若比较结果为Δt＜T，则按照如下公式计算所述可补充令牌数量M：

6.一种流量监控装置，其特征在于，所述流量监控装置包括中心服务器，所述中心服务器包括：

请求获取模块，用于获取用户的接口访问请求，其中，所述接口访问请求包括初始任务信息和所述用户的身份标识信息，所述初始任务信息包括访问请求的数量和每个所述访问请求的标识信息；

余量确定模块，用于根据所述用户的身份标识信息，获取所述用户的接口访问权限余量；

条件判断模块，用于若所述访问请求的数量满足所述接口访问权限余量的要求，则按照预设的提取方式，从所述初始任务信息中提取目标任务信息；

任务分配模块，用于按照预设的负载均衡分配方式，从节点服务器集合中选取目标节点服务器，并将所述目标任务信息分配给所述目标节点服务器执行，其中，所述节点服务器集合包含预设数量的节点服务器；

二次分配模块，用于若接收到目标节点服务器发送的待处理访问请求，则按照所述负载均衡分配方式对所述待处理访问请求进行重新分配；

余量更新模块，用于若接收到节点服务器发送的所述标识信息，则将所述标识信息对应的访问请求标记为完成，并更新所述接口访问权限余量。

7.如权利要求6所述的流量监控装置，其特征在于，所述中心服务器还包括：

请求数量统计模块，用于计算预设时间段T1内接口访问请求中包含的访问请求的数量之和H；

有效请求计算模块，用于获取所述用户的身份标识信息对应的访问频率Q，根据公式I＝Q×T1，计算所述用户在所述预设时间段内的有效访问请求的数量I；

延期请求确定模块，用于使用公式J＝H-I计算延期访问请求的数量J，并从所述初始任务信息中选取J个访问请求作为所述延期访问请求，将剩余的访问请求作为更新后的初始任务信息；

延期请求处理模块，用于将所述延期访问请求延时至空闲时处理。

8.一种流量监控装置，其特征在于，所述流量监控装置包括节点服务器，所述节点服务器包括：

信息获取模块，用于若接收到中心服务器发送的目标任务信息，则获取所述目标任务信息中的访问请求，并获取所述目标任务信息包括的访问请求总数A和每个访问请求的标识信息，其中，A为正整数；

间隔确定模块，用于获取补充令牌的时间点和当前时间点，并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt；

时间比较模块，用于将所述时间间隔与预设间隔阈值T进行比较，得到比较结果；

填充计算模块，用于按照所述比较结果对应的预设填充方式，计算可补充令牌数量M；

请求遣返模块，用于若M<A，则计算A与M的差值N，并从所述目标任务信息中选取N个访问请求作为待处理访问请求，将所述待处理访问请求发送给中心服务器，其中N为正整数；

任务更新模块，用于从所述目标任务信息中移除所述待处理访问请求，得到更新后的目标任务信息；

任务执行模块，用于根据更新后的所述目标任务信息进行M次令牌填充，依次执行所述目标任务信息中的访问请求，并在每个所述访问请求执行完成后向中心服务器发送该访问请求的标识信息。

9.一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至3任一项所述流量监控方法的步骤，或者所述处理器执行所述计算机程序时实现如权利要求4或5所述的流量监控方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至3任一项所述流量监控方法的步骤，或者，所述计算机程序被处理器执行时实现如权利要求4或5所述的流量监控方法的步骤。

Images