CN110493145A - 一种缓存方法及装置 - Google Patents

Abstract

本公开公开了一种缓存方法和装置，应用于网络通信设备的共享缓存，所述方法包括如下步骤：将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型；根据报文队列的发送优先级，将所述报文队列发送到相应的缓存区。本公开在更合理高效的利用共享缓存资源的情况下，可以保证不同业务类型的队列优先级调度，即使在缓存总大小不多的情况下，也不让低优先级报文过多占用缓存挤占高优先级报文入队空间，正常保证QoS服务质量，给用户上网带来更好的体验。

Description

一种缓存方法及装置

技术领域

本公开涉及网络通信技术领域，具体涉及一种缓存方法及装置。

背景技术

WRED(Weighted Random Early Detection，加权随机早期检测)是一种通过监视网络资源(如队列或内存缓冲区)的使用情况，在拥塞有加剧的趋势时，主动丢弃报文，通过调整网络的流量来解除网络过载的流控机制。它的实现依靠缓存区的大小，现实情况下，不可能存在无限制的缓存区大小，一旦超过总的缓存区大小，WRED机制就会出现异常，同时WRED支撑的QoS(Quality of Service，服务质量)队列调度也会出现偏差。

正常转发的队列，基本上不会缓存报文，流量会按照特定的QoS优先级进行调度，如图1所示，每个队列会设置最大的缓存使用上限，也就是队列总长度，在没有拥塞的状态时，队列里的报文数目约等于0，偶尔有个别报文缓存，对于共享缓存的总大小来说不会造成影响，队列当前报文缓存的大小就是队列长度。如果出接口拥塞严重，造成大规格的队列报文缓存，就可能会耗尽所有的缓存，如图2所示，当整体缓存耗尽后，后续所有的报文都会按照整体缓存大小随机入队列，每个队列单独配置的WRED参数就形同虚设。

现有技术为解决高优先级无法优先调度的问题，有以下两种方案：

第一种方案：为高优先级报文预留缓存。设置队列单独共享缓存之外，在高优先级队列设置共享缓存之前的预留缓存，可以让某些特殊报文在全部队列缓存都耗尽的情况下，优先占用缓存区，更大可能性的入队转发，只要有报文缓存清空，就让预留缓存的队列先调度出去，这样可以让少量不可以丢包的协议报文保证可以入队调度出去。然而，第一种方案的缺点是：缓存预留，只能支持少部分的队列，无法解决WRED门限异常的问题，同时也没法有效地解决QoS调度失效的问题。

第二种方案：为了解决QoS调度失效的问题，可以配置单个队列的队列长度，不超过总的缓存大小/队列总数。这个方案可以解决QoS调度失效的问题，但是对缓存使用造成巨大的浪费，现网应用中，缓存是所有队列共享的，但是队列却不一定全部拥塞，如果只有一半队列拥塞，就会有一半的缓存资源不会被使用，所有队列拥塞的情况毕竟是少数，同时，如果总的共享缓存不大，平均分到每个队列上的缓存可能无法达到QoS调度的最低限度，也就是说，平均分配到所有队列的缓存后，仍然解决不了QoS调度失效的问题。

发明内容

本公开的目的是提出一种多队列聚合共享缓存的机制，让经常发生拥塞的队列不会耗尽所有的缓存，在总的缓存中，预留一定的缓存给高优先级队列使用。

第一方面，本公开实施例提供了一种缓存方法，包括如下步骤：将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型；根据报文队列的发送优先级，将所述报文队列发送到相应的缓存区。

进一步地，所述发送优先级包括：无丢包、高优先级、低优先级。

进一步地，所述多个缓存区至少为两个，分别用于缓存及转发相应发送优先级的报文队列。

进一步地，如果报文队列的长度与相应缓存区的容量之比低于低门限值，则转发所述报文队列；如果报文队列的长度与相应缓存区的容量之比高于低门限值但低于高门限值，则缓存所述低门限值的报文，并加权随机丢弃所述报文队列中的剩余报文；如果报文队列组的长度与相应缓存区的容量之比高于高门限值，则缓存高门限值的报文，并当缓存的报文高于所述高门限值后，丢弃所述报文队列中的剩余报文。

进一步地，所述第一缓存区、第二缓存区、第三缓存区占所述共享缓存的比例小于或等于100％。

进一步地，在将所述报文队列发送到相应的缓存区之前，进一步包括：判断当前报文队列的长度是否超过高门限值，如果是则丢弃超出所述高门限值的报文。

本公开缓存长度第二方面，本公开实施例提供了一种设备，包括处理器和机器可读存储介质，机器可读存储介质存储有能够被处理器执行的机器可执行指令，处理器被机器可执行指令促使，实现如第一方面所述的缓存方法。

第三方面，本公开实施例提供了一种机器可读存储介质，存储有机器可执行指令，在被处理器调用和执行时，机器可执行指令促使处理器实现上述第一方面的缓存方法。

本公开的优点在于：本公开在更合理高效的利用共享缓存资源的情况下，可以保证不同业务类型的队列优先级调度，即使在缓存总大小不多的情况下，也不让低优先级报文过多占用缓存挤占高优先级报文入队空间，正常保证QoS服务质量，给用户上网带来更好的体验。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本公开的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为在先技术中队列缓存实现方法示意图；

图2为在先技术中队列缓存满状态示意图；

图3为本公开实施例提供的缓存方法第一种流程示意图；

图4为本公开实施例提供的缓存方法第二种流程示意图；

图5为本公开实施例提供的缓存方法的报文入队流程图；

图6为本公开实施例提供的缓存装置结构示意图；

图7为本公开实施例提供的设备结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施方式。虽然附图中显示了本公开的示例性实施方式，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反，提供这些实施方式是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

目前缓存的使用规律是，不会丢包或者高优先级的队列占用缓存率非常小，只有队列拥塞的低优先级队列才会大量占用缓存，而这种低优先级队列挤占了高优先级队列的缓存，就会造成高优先级队列也丢包，本公开主要是提供一种多队列聚合共享缓存的机制，让经常发生拥塞的队列不会耗尽所有的缓存，在总的缓存中，预留一定的缓存给高优先级队列使用，从图1可以看出，只要总的缓存大小还留有一部分余地，就足够不拥塞的队列迅速调度报文到出接口了，QoS调度可以正常轮询发送报文。

实施例1

具体的，如图3所示，本公开实施例的具体方案流程如下：

一种缓存方法，包括如下步骤：

S1、将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型；。

其中，多个缓存区分别用于缓存及转发对应的报文队列，可以包括两个或者两个以上的缓存区。例如，包括三个缓存区，其中第一缓存区缓存无丢包报文队列，第二缓存区缓存高优先级队列，第三缓存区缓存低优先级队列。第一缓存区、第二缓存区、第三缓存区占共享缓存的比例小于或等于100％。

S2、根据报文队列的发送优先级，将报文队列发送到相应的缓存区。发送优先级可以包括例如：无丢包、高优先级、低优先级。

无丢包队列：这种队列数量不多，提供给设备内部协议报文使用，为了不造成协议震荡，这部分队列不能丢包，同时时延也不能太大，所以一般不参与QoS调度，报文只要入队都会按照绝对优先级发送，所以这部分报文基本上不会占用缓存，可以分配最小一部分缓存给它，只要足够每个队列缓存一个报文即可。

高优先级队列：这种业务队列带宽分配率高，主要提供给设备间协议报文和高优数据业务使用，比如语音流量，这种报文TOS(Type of Service，服务类型)值或者EXP值(实验字段)比较高，映射到设备内部本地优先级也比较高，在拥塞情况下，这种报文高优先级发送出去，占用的缓存也不会太大，分配小部分缓存给它们即可。服务类型字段用来表示所希望的服务质量，这是由构成Internet的网络进行服务选择时所提供的一组抽象而笼统的参数。该服务类型是路由器用来为特定网络、下一跳的网络和为网间数据选择路由的下一个路由器选择实际的传输参数。

低优先级队列：这种队列数量是最多的，也是最高概率拥塞的，提供给一般数据报文使用，比如上网流量，这种报文TOS值或EXP一般为0，本地优先级最低，在拥塞情况下，最容易丢包，也会在缓存保存大量报文，所以需要分配的缓存空间最大。

在步骤S2之后，如果报文队列的长度与相应缓存区的容量之比低于低门限值，则转发报文队列；如果报文队列的长度与相应缓存区的容量之比高于低门限值但低于高门限值，则缓存低门限值的报文，并加权随机丢弃报文队列中的剩余报文；如果报文队列组的长度与相应缓存区的容量之比高于高门限值，则缓存高门限值的报文，并当缓存的报文高于高门限值后，丢弃报文队列中的剩余报文。

优选的，在将所述报文队列发送到相应的缓存区之前，可以进一步包括：判断当前报文队列的长度是否超过高门限值，如果是则丢弃超出所述高门限值的报文。

本公开的缓存方法，在批量队列拥塞耗尽物理缓存或内存的时候，使用聚合缓存参数配置，对业务队列进行分类同时分类限制缓存使用率，预留一定百分比的缓存给高优先级业务队列，可以保证QoS优先级调度的准确性。

实施例2

具体的，如图4所示，本公开实施例的具体方案流程如下：

首先，将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型；然后，根据报文队列的发送优先级，将报文队列发送到相应的缓存区。根据队列优先级和可能发生的拥塞状态把队列的发送优先级区分为3种类型：无丢包队列，高优先级队列，低优先级队列。

无丢包队列：下表中设为队列聚合组Group A，这种队列数量不多，提供给设备内部协议报文使用，为了不造成协议震荡，这部分队列不能丢包，同时时延也不能太大，所以一般不参与QoS调度，报文只要入队都会按照绝对优先级发送，所以这部分报文基本上不会占用缓存，可以分配最小一部分缓存给它，只要足够每个队列缓存一个报文即可。

高优先级队列：下表中设为队列聚合组Group B，这种业务队列带宽分配率高，主要提供给设备间协议报文和高优数据业务使用，比如语音流量，这种报文TOS(Type ofService，服务类型)值或者EXP值(实验字段)比较高，映射到设备内部本地优先级也比较高，在拥塞情况下，这种报文高优先级发送出去，占用的缓存也不会太大，分配小部分缓存给它们即可。服务类型字段用来表示所希望的服务质量，这是由构成Internet的网络进行服务选择时所提供的一组抽象而笼统的参数。该服务类型是路由器用来为特定网络、下一跳的网络和为网间数据选择路由的下一个路由器选择实际的传输参数。

低优先级队列：下表中设为队列聚合组Group C，这种队列数量是最多的，也是最高概率拥塞的，提供给一般数据报文使用，比如上网流量，这种报文TOS值或EXP一般为0，本地优先级最低，在拥塞情况下，最容易丢包，也会在缓存保存大量报文，所以需要分配的缓存空间最大。

以上是对队列的群组分类，群组内单个队列也还是可以设置队列最大长度，同一个Group的队列共享缓存设置一个缓存占用最高门限，聚合缓存阈值到极限也会统一丢包，但是不会影响其它Group的队列转发，在实际应用中，可以按照应用需求不同，分配更多的缓存模块出来，以实现不同的QoS调度效果。

然后为三类队列设置聚合缓存，如表1所示：

表1 每个群组聚合WRED profile参数：

设置Group A所有队列总的缓存高门限为总缓存的5％，最低门限设置为总缓存的5％，丢弃概率默认为0，这种队列是一定不会丢包的，设置这个值只是为了确保缓存有5％的预留，可以避免对应的协议报文出现无法入队丢包的情况；

设置GroupB所有队列总的缓存高门限为总缓存的20％，最低门限设置为总缓存的15％，丢弃概率默认为10％，高优先级队列也会可能发生一定程度的拥塞，但是高优先级报文队列带宽相对对比低优先级队列要大很多，而且在接口拥塞时可以优先发送报文，这种队列发生拥塞的概率低很多，那占用缓存的大小也会小很多，分配20％可以保证队列拥塞的情况下也不会很快占满组内缓存；

设置GroupC所有队列总的缓存高门限为总缓存的75％，最低门限设置为总缓存的25％，丢弃概率设置为100％，高门限在3个Group中是最大的，这样提供给最容易拥塞的低优先级最多的缓存大小，高低门限差距大也让低优先级报文可以尽快随机丢包，让队列间的拥塞影响更小。

如图5所示，报文入队流程为：

S21、获取当前队列长度；队列的长度指的是每个队列中所含报文的数量。

S22、判断当前队列长度是否超过队列高门限，如果是则丢弃报文，如果否则进入步骤S23；

S23、获取当前队列组长度；队列组的长度指的是每个队列组中所含报文队列的数量。

S24、判断当前队列组长度是否超过组高门限，如果是则丢弃报文，如果否则转发报文。

这样在高低优先级报文一起进入接口队列时，低优先级队列全部拥塞也只能占75％的缓存大小，超过75％缓存后，低优先级报文已经提早丢弃了，在高优先级报文传输过来时就不会因为缓存没有空间而无法入队，QoS调度还是会优先调度高优先级流量。

通过如上参数配置，队列独立占用缓存数据和队列群组缓存占用数据均可以灵活配置，在共享缓存总数不大的情况下，也能把缓存大小对QoS调度的影响降至最低。

本公开的缓存方法，在批量队列拥塞耗尽物理缓存或内存的时候，使用聚合缓存参数配置，对业务队列进行分类同时分类限制缓存使用率，预留一定百分比的缓存给高优先级业务队列，可以保证QoS优先级调度的准确性。

实施例3

如图6所示，一种缓存装置，包括：

分区模块401，用于将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型。其中，多个缓存区分别用于缓存及转发对应的报文队列，其中，第一缓存区缓存无丢包报文队列，第二缓存区缓存高优先级队列，第三缓存区缓存低优先级队列。第一缓存区、第二缓存区、第三缓存区占共享缓存的比例小于或等于100％。

发送模块402，用于根据报文队列的发送优先级，将报文队列发送到相应的缓存区。发送优先级包括：无丢包、高优先级、低优先级。

如果报文队列的长度与相应缓存区的容量之比低于低门限值，则转发报文队列；如果报文队列的长度与相应缓存区的容量之比高于低门限值但低于高门限值，则缓存低门限值的报文，并加权随机丢弃报文队列中的剩余报文；如果报文队列组的长度与相应缓存区的容量之比高于高门限值，缓存高门限值的报文，并当缓存的报文高于高门限值后，丢弃报文队列中的剩余报文。

本公开的缓存装置，在批量队列拥塞耗尽物理缓存或内存的时候，使用聚合缓存参数配置，对业务队列进行分类同时分类限制缓存使用率，预留一定百分比的缓存给高优先级业务队列，可以保证QoS优先级调度的准确性。

实施例4

图7为本公开实施例提供的设备结构示意图，包括处理器701和机器可读存储介质702，机器可读存储介质702存储有能够被处理器701执行的机器可执行指令。处理器701被机器可执行指令促使实现如图3所示的缓存方法。

上述机器可读存储介质可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。另外，机器可读存储介质还可以是至少一个位于远离前述处理器的存储装置。

上述处理器可以是通用处理器，包括CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processing，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

相应于缓存方法，本公开实施例还提供了一种机器可读存储介质，存储有机器可执行指令，在被处理器调用和执行时，机器可执行指令促使处理器实现如图3所示的缓存方法。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于接入点加入云端管理的方法、AP、网关设备、云服务器、机器可读存储介质实施例而言，由于其基本相似于应用于接入点加入云端管理的方法实施例，所以描述的比较简单，相关之处参见应用于接入点加入云端管理的方法实施例的部分说明即可。

以上所述，仅为本公开较佳的具体实施方式，但本公开的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本公开揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本公开的保护范围之内。因此，本公开的保护范围应以所述权利要求的保护范围为准。

Claims (8)

1.一种缓存方法，应用于网络通信设备的共享缓存，其特征在于，包括如下步骤：

将所述共享缓存划分为多个缓存区，每个缓存区对应不同的优先级类型；

根据报文队列的发送优先级，将所述报文队列发送到相应的缓存区。

2.根据权利要求1所述的一种缓存方法，其特征在于，

所述发送优先级包括：无丢包、高优先级、低优先级。

3.根据权利要求2所述的一种缓存方法，其特征在于，

所述多个缓存区至少为两个，分别用于缓存及转发相应发送优先级的报文队列。

4.根据权利要求3所述的一种缓存方法，其特征在于，

如果报文队列的长度与相应缓存区的容量之比低于低门限值，则转发所述报文队列；

如果报文队列的长度与相应缓存区的容量之比高于低门限值但低于高门限值，则缓存所述低门限值的报文，并加权随机丢弃所述报文队列中的剩余报文；

如果报文队列组的长度与相应缓存区的容量之比高于高门限值，则缓存高门限值的报文，并当缓存的报文高于所述高门限值后，丢弃所述报文队列中的剩余报文。

5.根据权利要求4所述的一种缓存方法，其特征在于，

所述第一缓存区、第二缓存区、第三缓存区占所述共享缓存的比例小于或等于100％。

6.根据权利要求5所述的一种缓存方法，其特征在于，

在将所述报文队列发送到相应的缓存区之前，进一步包括：

判断当前报文队列的长度是否超过高门限值，如果是则丢弃超出所述高门限值的报文。

7.一种设备，其特征在于，包括处理器和机器可读存储介质，机器可读存储介质存储有能够被处理器执行的机器可执行指令，处理器被机器可执行指令促使，实现如权利要求1-6任意一项所述的缓存方法。

8.一种机器可读存储介质，其特征在于，存储有机器可执行指令，在被处理器调用和执行时，机器可执行指令促使处理器实现如权利要求1-7任意一项所述的缓存方法。