CN113472681A - 流量限速方法及装置 - Google Patents

Abstract

本发明公开一种流量限速方法及装置，涉及互联网技术领域，能够解决现有技术中限速效率低下和限速不准确的问题。本发明的方法主要包括：接收发送的待处理数据；判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。本发明主要适用于在多核系统下基于令牌桶进行流量控制的场景中。

Description

流量限速方法及装置

技术领域

本发明涉及互联网技术领域，特别是涉及一种流量限速方法及装置。

背景技术

令牌桶是一种常见的流量测量技术，常用于流量的限制和流量的整形，能够对流量的速率和突发进行测量。随着互联网技术的普及，互联网用户量大大增加，为了及时对用户发送的数据进行处理，服务端常常会采用多核并发系统来对流量进行限制。

目前在多核并发系统下，基于令牌桶进行流量限制时，通常采用如下两种方法：

(一)建立一个全局令牌桶，并对该全局令牌桶加锁，使得同一时间只允许一个内核更新全局令牌桶，以避免多个内核并发对全局令牌桶进行更新，而导致高频的数据写覆盖，使得限速不准确。但是，因为加入了锁机制，所以这种方法存在锁等待和cache回刷等待等问题，导致限速效率降低。

(二)分别针对每个内核建立一个令牌桶，并按特定的令牌添加速率向令牌桶投放令牌，供对应的内核使用。虽然该方法没有锁机制所存在的缺陷，但是由于待处理数据进入各个内核的速率并没有确定的规则，所以会导致待处理数据量大的内核早已经因为没有令牌而丢弃数据，而待处理数据量小的内核却还有大量令牌未使用，由此导致在整机层面限速非常不准确。

由此可知，如何提供一种限速效率和准确率都相对较高的限速方法是亟待解决的。

发明内容

有鉴于此，本发明提供的流量限速方法及装置，其目的在于解决现有技术限速效率低下和限速不准确的问题。

第一方面，本发明提供了一种流量限速方法，所述方法包括：

接收发送的待处理数据；

判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；

若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；

若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

可选的，在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，所述方法还包括：

判断全局连续丢包状态是否为打开状态；

所述判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数包括：

若所述全局连续丢包状态为关闭状态，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，若所述第一令牌总数大于所述第二令牌总数，则所述方法还包括：

将所述全局连续丢包状态设置为打开状态。

可选的，若所述全局连续丢包状态为打开状态，则所述方法还包括：

丢弃所述待处理数据。

可选的，若所述全局连续丢包状态为打开状态，则所述方法还包括：

若确定所述全局令牌桶进入下一个周期，且已针对所述下一个周期完成了令牌增加操作，则将所述全局连续丢包状态设置为关闭状态；

或者，当所述全局连续丢包状态为打开状态的持续时长为预设时长时，将所述全局连续丢包状态设置为关闭状态。

可选的，在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，所述方法还包括：

判断当前内核的子令牌桶内令牌数是否为M的倍数；M为正整数；

所述判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数包括：

若所述令牌数是M的倍数，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，若当前内核的子令牌桶内令牌数不是M的倍数，则所述方法还包括：

保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

可选的，所述方法还包括：

针对每个周期，判断所述第二令牌总数与所述第一令牌总数之差是否大于承诺突发尺寸；

若大于所述承诺突发尺寸，则更新所述全局令牌桶，使得所述全局令牌桶的第二令牌总数为所述第一令牌总数和所述承若突发尺寸之和；

若小于或等于所述承诺突发尺寸，则向所述全局令牌桶内增加N个令牌，所述N为所述承诺信息速率与所述周期之积。

可选的，所述子令牌桶和/或所述全局令牌桶的桶深为无限桶深。

第二方面，本发明提供了一种流量限速装置，所述装置包括：

接收单元，用于接收发送的待处理数据；

判断单元，用于判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；

丢弃单元，用于若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；

保留单元，用于若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据；

增加单元，用于若保留所述待处理数据，则向当前内核的子令牌桶内增加一个令牌。

可选的，所述判断单元，还用于在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，判断全局连续丢包状态是否为打开状态；若所述全局连续丢包状态为关闭状态，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，所述装置还包括：

第一设置单元，用于若所述第一令牌总数大于所述第二令牌总数，则将所述全局连续丢包状态设置为打开状态。

可选的，所述丢弃单元，还用于若所述全局连续丢包状态为打开状态，则丢弃所述待处理数据。

可选的，所述装置还包括：

第二设置单元，用于若所述全局连续丢包状态为打开状态，则若确定所述全局令牌桶进入下一个周期，且已针对所述下一个周期完成了令牌增加操作，则将所述全局连续丢包状态设置为关闭状态；或者，当所述全局连续丢包状态为打开状态的持续时长为预设时长时，将所述全局连续丢包状态设置为关闭状态。

可选的，所述判断单元，还用于在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，判断当前内核的子令牌桶内令牌数是否为M的倍数；M为正整数；若所述令牌数是M的倍数，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，所述保留单元，还用于若当前内核的子令牌桶内令牌数不是M的倍数，则保留所述待处理数据。

可选的，所述判断单元，还用于针对每个周期，判断所述第二令牌总数与所述第一令牌总数之差是否大于承诺突发尺寸；

所述增加单元，还用于若大于所述承诺突发尺寸，则更新所述全局令牌桶，使得所述全局令牌桶的第二令牌总数为所述第一令牌总数和所述承若突发尺寸之和；若小于或等于所述承诺突发尺寸，则向所述全局令牌桶内增加N个令牌，所述N为所述承诺信息速率与所述周期之积。

可选的，所述子令牌桶和/或所述全局令牌桶的桶深为无限桶深。

第三方面，本发明提供了一种存储介质，所述存储介质存储有多条指令，所述指令适用于由处理器加载并执行如第一方面所述的流量限速方法。

第四方面，本发明提供了一种电子设备，所述电子设备包括存储介质和处理器；

所述处理器，适于实现各指令；

所述存储介质，适于存储多条指令；

所述指令适于由所述处理器加载并执行如第一方面所述的命名实体的识别方法。

借由上述技术方案，本发明提供的流量限速方法及装置，能够先创建一个全局令牌桶以及分别为每个内核创建一个子令牌桶，然后周期性地向全局令牌桶中增加令牌，而对于每个子令牌桶，在当前内核接收待处理数据时，通过预设数量的子令牌桶的令牌总数(第一令牌总数)不能超过全局令牌桶的令牌总数(第二令牌总数)为限制条件，来确定当前内核的子令牌桶是否增加令牌(即若第一令牌总数大于第二令牌总数，则丢弃待处理数据，且不会向当前内核的子令牌桶内增加令牌，而若第一令牌总数小于或等于第二令牌总数，则保留待处理数据，并向当前内核的子令牌桶内增加一个令牌)，从而不会发生某个子令牌桶内未使用令牌远多于其他子令牌桶的现象，进而实现了对整机的均衡控制，提高了整机限速的准确率。并且由于没有使用锁机制，也不会存在锁机制所造成的锁等待和cache回刷等待问题，进而相比于使用锁机制的现有技术而言，大大提高了限速的效率，提高了系统性能。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了本发明实施例提供的一种流量限速方法的流程图；

图2示出了本发明实施例提供的另一种流量限速方法的流程图；

图3示出了本发明实施例提供的又一种流量限速方法的流程图；

图4示出了本发明实施例提供的再一种流量限速方法的流程图；

图5示出了本发明实施例提供的一种流量限速装置的组成框图；

图6示出了本发明实施例提供的另一种流量限速装置的组成框图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

为了提高限速效率和限速准确率，本发明实施例提供了一种全局令牌桶和各内核子令牌桶相结合，并使用全局令牌桶控制子令牌桶令牌数的流量限速方法，所述方法主要应用于单个内核侧，如图1所示，所述方法主要包括：

101、接收发送的待处理数据。

本发明实施例可以应用于任何一种网络项目中，该项目中可以设置具有安全限速功能的多核网络设备，并由该网络设备对外部发过来的待处理数据进行限速操作。其中，待处理数据在数据格式上可以为报文，也可以为数据包等，在内容上可以为请求，也可以为非请求，本发明实施例对交互的具体数据的格式以及数据内容不做限定。例如，在对报文进行处理领域，本发明实施例可以实现对报文发送频率进行限制，也可以实现对报文转发频率进行限制。

102、判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；若所述第一令牌总数大于所述第二令牌总数，则执行步骤103；若所述第一令牌总数小于或等于所述第二令牌总数，则执行步骤104。

其中，每个内核对应一个子令牌桶，且不同内核对应不同的子令牌桶。所述全局令牌桶内的令牌是周期性增加的(可以指定其中一个内核对全局令牌桶进行令牌增加操作)，而子令牌桶内的令牌是通过执行步骤101-104的方式增加的。全局令牌桶和/或子令牌桶的桶深可以为无限桶深，即令牌数只增不减，且可以无限增加。

为了使用全局令牌桶来控制子令牌桶的流量，从而提高限速效率和准确率，可以将预设数量的子令牌桶内累加的第一令牌总数和全局令牌桶内的第二令牌总数进行比较，并通过不同比较结果来确定待处理数据的丢弃与保留。在实际应用中，预设数量可以根据限速效率和限速准确率的需求而定。限速准确率要求越高，预设数量越多，例如当预设数量为所有子令牌桶的总和时的限速准确率比其他数量的限速准确率要高，但比其他数量的限速效率可能会低一些。在具体实施时，可以根据预设条件来确定需要进行累加得到第一令牌总数的子令牌桶。其中，预设条件包括但不限于令牌数大于预设阈值的子令牌桶、令牌数位于前N(N为正整数)名的子令牌桶。

对于统计预设数量的子令牌桶累加的第一令牌总数而言，可以在预设存储空间存储一个第一令牌总数，若某一子令牌桶增加了一个令牌，就更新一下该预设存储空间存储的第一令牌总数，当需要与第二令牌总数比较时，可以直接从该预设存储空间读取第一令牌总数。也可以创建一个临时令牌桶，子令牌桶增加一个令牌，就向该临时令牌桶中增加一个令牌，当需要与第二令牌总数比较时，就统计一下临时令牌桶中的令牌数作为第一令牌总数。

子令牌桶的令牌是根据发过来的待处理数据情况增加的，若长期没有待处理数据发送过来，或者长期接收到的待处理数据相对较少，而全局令牌桶的令牌会一直周期性增加，从而会造成全局令牌桶内的第二令牌总数远远大于预设数量的子令牌桶累加的第一令牌总数，此时若突然来大量的待处理数据，根据本发明实施例的判断机制，是允许保留这些待处理数据的，进而会造成内核负载突增而发生宕机等故障。为了避免发生该技术问题，可以采用如下方法对全局令牌桶进行周期性增加令牌：

针对每个周期，判断所述第二令牌总数与所述第一令牌总数之差是否大于承诺突发尺寸(Committed Burst Size，CBS)；若大于所述承诺突发尺寸，则更新所述全局令牌桶，使得所述全局令牌桶的第二令牌总数为所述第一令牌总数和所述承若突发尺寸之和；若小于或等于所述承诺突发尺寸，则向所述全局令牌桶内增加N个令牌，所述N为所述承诺信息速率(Committed Information Rate，CIR)与所述周期之积。

其中，承诺突发尺寸也称承诺突发量，是指在正常状态下和一定时间间隔内，网络允许在虚电路上传送的数据总量。本发明实施例通过控制全局令牌桶的第二令牌总数不超过所述第一令牌总数和所述承若突发尺寸之和，可以控制一段时间间隔内允许保留的待处理数据总量不会超过承若突发尺寸所表征的数据量，使得突发量得到限制，避免突增导致内核无法承受而发生故障。

承诺信息速率是由用户与网络双方约定的正常状态下的虚电路信息传送速率。若所述第二令牌总数与所述第一令牌总数之差小于或等于承诺突发尺寸，则可以按照承诺信息速率向全局令牌桶中增加令牌，即每个周期允许增加的令牌数N可以为承诺信息速率与周期之积。当承诺信息速率用CIR表示，周期用T表示时，N＝CIR*T。

需要补充的是，在为各内核的子令牌桶分配内存时，可以尽量隔开并解耦，以尽可能减少cache占用的冲突。

103、丢弃所述待处理数据。

若所述第一令牌总数大于所述第二令牌总数，则可以通过丢弃所述待处理数据，达到全局令牌桶控制子令牌桶的功能，从而实现对整机的限速。

104、保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

若所述第一令牌总数小于或者等于所述第二令牌总数，则此时预设数量的子令牌桶的令牌累加还未达到整机允许的上线，故可以将本次接收到的待处理数据保留下来，并通过向当前内核的子令牌桶内增加一个令牌，将增加的令牌分配给该待处理数据使用。其中，保留待处理数据的具体实现方式可以为将该待处理数据加入到当前内核所对应的缓存队列中，以便后续对其进行处理。

本发明实施例提供的流量限速方法，能够先创建一个全局令牌桶以及分别为每个内核创建一个子令牌桶，然后周期性地向全局令牌桶中增加令牌，而对于每个子令牌桶，在当前内核接收待处理数据时，通过预设数量的子令牌桶的令牌总数(第一令牌总数)不能超过全局令牌桶的令牌总数(第二令牌总数)为限制条件，来确定当前内核的子令牌桶是否增加令牌(即若第一令牌总数大于第二令牌总数，则丢弃待处理数据，且不会向当前内核的子令牌桶内增加令牌，而若第一令牌总数小于或等于第二令牌总数，则保留待处理数据，并向当前内核的子令牌桶内增加一个令牌)，从而不会发生某个子令牌桶内未使用令牌远多于其他子令牌桶的现象，进而实现了对整机的均衡控制，提高了整机限速的准确率。并且由于没有使用锁机制，也不会存在锁机制所造成的锁等待和cache回刷等待问题，进而相比于使用锁机制的现有技术而言，大大提高了限速的效率，提高了系统性能。

可选的，为了进一步提高限速效率，本发明实施例提供了如下三种方法：

方法一：如图2所示，所述方法主要包括：

201、接收发送的待处理数据。

本步骤的具体实现方式与上述步骤101相同，在此不再赘述。

202、判断全局连续丢包状态是否为打开状态。

其中，全局连续丢包状态是一种用于控制全局进行丢包的参数，即在被打开时，用于指示每个内核收到新的待处理数据后，都必须将其丢弃，也不用向子令牌桶中增加令牌。

由于全局连续丢包状态是全局参数，且当其为打开状态时，无论判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数，内核均需要丢弃新接收到的待处理数据，所以在接收到发送的待处理数据后，通过先判断全局连续丢包状态是否为打开状态，来避免浪费时间和资源进行令牌总数判断。

203、若所述全局连续丢包状态为打开状态，则丢弃所述待处理数据。

在全局连续丢包状态被打开状态后，新接收的待处理数据均会被丢弃，故子令牌桶也会停止增加令牌，但是全局令牌桶还会周期性地增加令牌，所以若全局连续丢包状态一直处于被打开状态，则会出现全局令牌桶内的第二令牌总数远远大于预设数量的子令牌桶累加的第一令牌总数的情况，由此会出现无法及时应对新数据突增的现象。为了解决问题，可以在特定条件下，再将全局连续丢包状态设置为关闭状态。其中，相对较佳的时机是：若确定所述全局令牌桶进入下一个周期，且已针对所述下一个周期完成了令牌增加操作，则将所述全局连续丢包状态设置为关闭状态。在对整机限速准确率影响不大的情况下，也可以选择其他时机将全局连续丢包状态设置为关闭状态，例如，可以在全局连续丢包状态为打开状态的持续时长达到预设时长时，就将所述全局连续丢包状态设置为关闭状态。

204、若所述全局连续丢包状态为关闭状态，则判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数。

若所述全局连续丢包状态为关闭状态，则全局没有对丢包进行强制控制，所以需要通过判断第一令牌总数与第二令牌总数的大小来确定是丢弃待处理数据，还是保留待处理数据。

205、若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据，将所述全局连续丢包状态设置为打开状态。

由于在全局令牌桶进行周期性增加令牌时，在一个周期内，可能是需要花费该周期的前一部分时间就可以完成本次令牌增加操作，而在该周期剩余时间内，全局令牌桶的第二令牌总数不会发生变化，所以在这段剩余时间内，一旦发生预设数量的子令牌桶累加的第一令牌总数大于所述第二令牌总数，则从该发生时刻(可称为第一发生时刻)起直至下次向全局令牌桶增加令牌之前，无论是否进行判断，得到的结论均是第一令牌总数大于第二令牌总数，均需要对待处理数据进行丢弃处理。为了节省判断资源和判断时间，可以将全局连续丢包状态设置为打开状态，以便后续接收到新的待处理数据时，可以直接根据全局连续丢包状态来进行丢弃处理。

其中，可以在首次判断结果为所述第一令牌总数大于所述第二令牌总数时，就将所述全局连续丢包状态设置为打开状态，也可以在第X(X大于1)次判断结果为所述第一令牌总数大于所述第二令牌总数时，才将所述全局连续丢包状态设置为打开状态，只要能够保证将所述全局连续丢包状态设置为打开状态的时机在所述第一发生时刻起直至下次向全局令牌桶增加令牌之前就可以在一定程度上节省判断资源和判断时间，进而在一定程度上提高限度效率。

206、若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

本步骤的具体实现方式与上述步骤104相同，在此不再赘述。

本发明实施例提供的流量限速方法，在图1所示的实施例的基础上，通过启用全局连续丢包状态，并且只有在全局连续丢包状态为关闭状态时，才进行丢/留决策，而在全局连续丢包状态为打开状态时，直接丢弃待处理数据，从而可以减少丢/留决策的判断次数，进而可以在提高整机限速的准确率基础上，进一步提高限速效率。

方法二：如图3所示，所述方法主要包括：

301、接收发送的待处理数据。

本步骤的具体实现方式与上述步骤101相同，在此不再赘述。

302、判断当前内核的子令牌桶内令牌数是否为M的倍数；若所述令牌数不是M的倍数，则执行步骤303；若所述令牌数是M的倍数，则执行步骤304。

其中，M为正整数，M的具体取值可以根据历史经验而定。

由于各内核的子令牌桶和全局令牌桶中的令牌数都是累加的，所以每隔M个待处理数据进行一次令牌总数判断(即丢/留决策)，而中间的待处理数据直接保留时，即使某个周期(M个数据为一个周期)多收了Y个数据，在之后的周期中也会因为第二令牌总数对第一令牌总数的限制，丢弃新来的数据，即之后的周期中也会减少Y个数据，所以对于整机来说，其限速准确率是几乎不变的。因此，在接收到待处理数据时，可以先判断当前内核的子令牌桶内令牌数是否为M的倍数，若不是，则可以直接将其保留，并向当前内核的子令牌桶内增加一个令牌(即步骤303)，若是，则再进行令牌总数判断，基于令牌总数判断结果对该待处理数据进行丢/留决策(即步骤304->305->303)。

303、保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

本步骤的具体实现方式与上述步骤104相同，在此不再赘述。

304、判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；若所述第一令牌总数大于所述第二令牌总数，则执行步骤305；若所述第一令牌总数小于或等于所述第二令牌总数，则执行步骤303。

305、丢弃所述待处理数据。

本发明实施例提供的流量限速方法，在图1所示的实施例的基础上，每隔M个待处理数据，进行一次丢/留决策，而对中间的待处理数据直接进行保留，可以减少丢/留决策的判断次数，从而可以在提高整机限速的准确率基础上，进一步提高限速效率。

方法三：由于方法一是从全局层面来提高限速效率，方法二是从单核层面来提高限速效率，且两者没有依赖和矛盾，所以可以将两者相结合形成方法三，来进一步提高限速效率，如图4所示，所述方法包括：

401、接收发送的待处理数据。

402、判断全局连续丢包状态是否为打开状态；若所述全局连续丢包状态为打开状态，则执行步骤403；若所述全局连续丢包状态为关闭状态，则执行步骤404。

403、丢弃所述待处理数据。

404、判断当前内核的子令牌桶内令牌数是否为M的倍数；若所述令牌数不是M的倍数，则执行步骤405；若所述令牌数是M的倍数，则执行步骤406。

405、保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

406、判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；若所述第一令牌总数大于所述第二令牌总数，则执行步骤407；若所述第一令牌总数小于或等于所述第二令牌总数，则执行步骤405。

407、丢弃所述待处理数据，将所述全局连续丢包状态设置为打开状态。

进一步的，依据上述方法实施例，本发明的另一个实施例还提供了一种流量限速装置，如图5所示，所述装置包括：

接收单元51，用于接收发送的待处理数据；

判断单元52，用于判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；

丢弃单元53，用于若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；

保留单元54，用于若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据；

增加单元55，用于若保留所述待处理数据，则向当前内核的子令牌桶内增加一个令牌。

可选的，所述判断单元52，还用于在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，判断全局连续丢包状态是否为打开状态；若所述全局连续丢包状态为关闭状态，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，如图6所示，所述装置还包括：

第一设置单元56，用于若所述第一令牌总数大于所述第二令牌总数，则将所述全局连续丢包状态设置为打开状态。

可选的，所述丢弃单元53，还用于若所述全局连续丢包状态为打开状态，则丢弃所述待处理数据。

可选的，如图6所示，所述装置还包括：

第二设置单元57，用于若所述全局连续丢包状态为打开状态，则若确定所述全局令牌桶进入下一个周期，且已针对所述下一个周期完成了令牌增加操作，则将所述全局连续丢包状态设置为关闭状态；或者，当所述全局连续丢包状态为打开状态的持续时长为预设时长时，将所述全局连续丢包状态设置为关闭状态。

可选的，所述判断单元52，还用于在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，判断当前内核的子令牌桶内令牌数是否为M的倍数；M为正整数；若所述令牌数是M的倍数，则判断所述第一令牌总数是否大于所述第二令牌总数。

可选的，所述保留单元54，还用于若当前内核的子令牌桶内令牌数不是M的倍数，则保留所述待处理数据。

可选的，所述判断单元52，还用于针对每个周期，判断所述第二令牌总数与所述第一令牌总数之差是否大于承诺突发尺寸；

所述增加单元55，还用于若大于所述承诺突发尺寸，则更新所述全局令牌桶，使得所述全局令牌桶的第二令牌总数为所述第一令牌总数和所述承若突发尺寸之和；若小于或等于所述承诺突发尺寸，则向所述全局令牌桶内增加N个令牌，所述N为所述承诺信息速率与所述周期之积。

可选的，所述子令牌桶和/或所述全局令牌桶的桶深为无限桶深。

本发明实施例提供的流量限速装置，能够先创建一个全局令牌桶以及分别为每个内核创建一个子令牌桶，然后周期性地向全局令牌桶中增加令牌，而对于每个子令牌桶，在当前内核接收待处理数据时，通过预设数量的子令牌桶的令牌总数(第一令牌总数)不能超过全局令牌桶的令牌总数(第二令牌总数)为限制条件，来确定当前内核的子令牌桶是否增加令牌(即若第一令牌总数大于第二令牌总数，则丢弃待处理数据，且不会向当前内核的子令牌桶内增加令牌，而若第一令牌总数小于或等于第二令牌总数，则保留待处理数据，并向当前内核的子令牌桶内增加一个令牌)，从而不会发生某个子令牌桶内未使用令牌远多于其他子令牌桶的现象，进而实现了对整机的均衡控制，提高了整机限速的准确率。并且由于没有使用锁机制，也不会存在锁机制所造成的锁等待和cache回刷等待问题，进而相比于使用锁机制的现有技术而言，大大提高了限速的效率，提高了系统性能。在此基础上，通过启用全局连续丢包状态，并且只有在全局连续丢包状态为关闭状态时，才进行丢/留决策，而在全局连续丢包状态为打开状态时，直接丢弃待处理数据，从而可以减少丢/留决策的判断次数，若每隔M个待处理数据，进行一次丢/留决策，而对中间的待处理数据直接进行保留，也可以减少丢/留决策的判断次数，进而可以在提高整机限速的准确率基础上，进一步提高限速效率。

进一步的，本发明的另一个实施例还提供了一种存储介质，所述存储介质存储有多条指令，所述指令适用于由处理器加载并执行如上所述的流量限速方法。

进一步的，本发明的另一个实施例还提供了一种电子设备，所述电子设备包括存储介质和处理器；

所述处理器，适于实现各指令；

所述存储介质，适于存储多条指令；

所述指令适于由所述处理器加载并执行如上所述的流量限速方法。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

可以理解的是，上述方法及装置中的相关特征可以相互参考。另外，上述实施例中的“第一”、“第二”等是用于区分各实施例，而并不代表各实施例的优劣。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的一个实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的流量限速方法及装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (12)

1.一种流量限速方法，其特征在于，所述方法包括：

接收发送的待处理数据；

判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；

若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；

若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

2.根据权利要求1所述的方法，其特征在于，在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，所述方法还包括：

判断全局连续丢包状态是否为打开状态；

所述判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数包括：

若所述全局连续丢包状态为关闭状态，则判断所述第一令牌总数是否大于所述第二令牌总数。

3.根据权利要求2所述的方法，其特征在于，若所述第一令牌总数大于所述第二令牌总数，则所述方法还包括：

将所述全局连续丢包状态设置为打开状态。

4.根据权利要求2所述的方法，其特征在于，若所述全局连续丢包状态为打开状态，则所述方法还包括：

丢弃所述待处理数据。

5.根据权利要求2所述的方法，其特征在于，若所述全局连续丢包状态为打开状态，则所述方法还包括：

若确定所述全局令牌桶进入下一个周期，且已针对所述下一个周期完成了令牌增加操作，则将所述全局连续丢包状态设置为关闭状态；

或者，当所述全局连续丢包状态为打开状态的持续时长为预设时长时，将所述全局连续丢包状态设置为关闭状态。

6.根据权利要求1所述的方法，其特征在于，在判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数之前，所述方法还包括：

判断当前内核的子令牌桶内令牌数是否为M的倍数；M为正整数；

所述判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数包括：

若所述令牌数是M的倍数，则判断所述第一令牌总数是否大于所述第二令牌总数。

7.根据权利要求6所述的方法，其特征在于，若当前内核的子令牌桶内令牌数不是M的倍数，则所述方法还包括：

保留所述待处理数据，并向当前内核的子令牌桶内增加一个令牌。

8.根据权利要求1所述的方法，其特征在于，所述方法还包括：

针对每个周期，判断所述第二令牌总数与所述第一令牌总数之差是否大于承诺突发尺寸；

若大于所述承诺突发尺寸，则更新所述全局令牌桶，使得所述全局令牌桶的第二令牌总数为所述第一令牌总数和所述承若突发尺寸之和；

若小于或等于所述承诺突发尺寸，则向所述全局令牌桶内增加N个令牌，所述N为所述承诺信息速率与所述周期之积。

9.根据权利要求1-8中任一项所述的方法，其特征在于，所述子令牌桶和/或所述全局令牌桶的桶深为无限桶深。

10.一种流量限速装置，其特征在于，所述装置包括：

接收单元，用于接收发送的待处理数据；

判断单元，用于判断预设数量的子令牌桶内的第一令牌总数是否大于全局令牌桶内的第二令牌总数；不同内核对应不同的子令牌桶，所述全局令牌桶内的令牌是周期性增加的；

丢弃单元，用于若所述第一令牌总数大于所述第二令牌总数，则丢弃所述待处理数据；

保留单元，用于若所述第一令牌总数小于或等于所述第二令牌总数，则保留所述待处理数据；

增加单元，用于若保留所述待处理数据，则向当前内核的子令牌桶内增加一个令牌。

11.一种存储介质，其特征在于，所述存储介质存储有多条指令，所述指令适用于由处理器加载并执行如权利要求1至9中任一项所述的流量限速方法。

12.一种电子设备，其特征在于，所述电子设备包括存储介质和处理器；

所述处理器，适于实现各指令；

所述存储介质，适于存储多条指令；

所述指令适于由所述处理器加载并执行如权利要求1至9中任意一项所述的命名实体的识别方法。

Images