CN118368262A - 交换设备的缓存管理及交换设备 - Google Patents

Abstract

本发明实施例提供了一种交换设备的缓存管理方法及交换设备，该方法包括：在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存、以及片外缓存；定期轮询每个所述队列的片外缓存使用情况；对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用其片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中M和N为正整数，M小于或等于N。

Description

交换设备的缓存管理及交换设备

技术领域

本发明实施例涉及通信领域，具体而言，涉及交换设备的缓存管理方法及交换设备。

背景技术

一般情况下，交换机的片内和片外缓存分配遵循公平原则，初始化固定设置，这样片内共享缓存设置较大(如果较小，所有队列都容易搬移到片外缓存，搬移带宽容易不足)，如果正常转发没有问题，但是如果存在少数队列持续拥塞或者存在短时间环路等情况下，这时候的交换机转发，会导致出现以下的问题：

1、片内缓存共享部分被用满，很多队列只能用片内缓存的最小保证部分，少量的片内缓存共享部分，大量占用片外缓存部分，整体设备的转发网络时延加大。

2、大量报文转发都要用到片外缓存，大量的报文在片内片外来回搬移，导致内部转发的总线带宽不够，从而进行队列无差别丢包。

发明内容

本发明实施例提供了一种交换设备的缓存管理方法及交换设备，以至少解决相关技术中由于队列大量占用片外缓存所导致的缓存使用效率下降的问题。

根据本发明的一个实施例，提供了一种交换设备的缓存管理方法，包括：在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存、以及片外缓存；定期轮询每个所述队列的片外缓存使用情况；对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用其片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中M和N为正整数，M小于或等于N。

在一个示例性实施例中，该方法还包括：在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

根据本发明的另一个实施例，提供了一种交换设备，包括CPU和交换芯片，其中，所述CPU包括：执行模块，用于在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存、以及片外缓存；轮询模块，用于定期轮询每个所述队列的片外缓存使用情况；所述执行模块，还用于对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中N和M为正整数，M小于或等于N。

在一个示例性实施例中，所述执行模块，还用于在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

根据本发明的又一个实施例，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明的上述实施例，有效合理分配交换设备内的各个队列的最小保证缓存、片内共享缓存以及片外缓，使得报文转发尽可能使用片内缓存，同时对于持续占用片外缓存的队列，禁止其占用其片外缓存，从而尽可能少的占用片内外缓存的搬移带宽，避免了片内外缓存搬移带宽不够导致的丢包。

附图说明

图1是根据本发明实施例的方法流程图；

图2是根据本发明实施例的包括片外缓存的交换机逻辑示意图；

图3是根据本发明实施例的惩罚机制的方法流程图；

图4是根据本发明实施例的恢复机制的方法流程图；

图5是根据本发明实施例的交换设备的结构框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明的实施例。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

本发明涉及交换机路由器产品领域，提供了一种高效的交换机片内和片外缓存管理方法，交换芯片内部有缓存用于存储转发，目前的片内缓存一般为几M到几十M，但是为了应对少量突发流量特别大的场景，需要设备可以支持片外缓存。片内片外缓存通过内部总线通信，通信带宽除了成本考虑一般都有限制，无法满足所有物理口的流量都从片内缓存搬移到片外缓存，交换芯片处理完毕后再从片外缓存搬移到片内缓存，这样不可避免会出现丢包，而且使用片外缓存的转发时延会变大。

在本发明实施例中，通过有效合理分配交换芯片片内的各个队列的最小保证以及共享缓存，使得报文转发尽可能使用片内缓存，报文的转发时延较小；同时为了尽可能少的占用片内外缓存的搬移带宽。避免片内外缓存搬移带宽不够导致的丢包，需要充分控制片外缓存的必要使用以及高效使用，

通过本发明实施例提供的方法，可以尽量按需使用片内和片外缓存，有效规避片内和片外缓存带宽有限的实际情况，使得整体设备所有队列的应对突发能力达到系统理论最优，同时因为限制了相关持续拥塞队列的片内共享缓存数量，可以使得很多队列充分使用片内缓存，减少了搬移的导致的报文转发延时。

本实施例中提供了一种交换设备的缓存管理方法，图1是根据本发明实施例的方法流程图，如图1所示，该流程包括如下步骤：

步骤S102，在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存、以及片外缓存；

步骤S104，定期轮询每个所述队列的片外缓存使用情况；

步骤S106，对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用其片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中M和N为正整数，M小于或等于N。

在一实施例中，该方法还包括：在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

在一实施例中，在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态，包括：定期轮询所述第一队列的丢包情况；对于所述第一队列中连续K次轮询H次不存在丢包情况的所述第二队列，允许所述第二队列占用其片外缓存，并将所述第二队列的片内共享缓存的数量恢复至降低之前的值，其中，K和H为正整数，H小于或等于K。

在一实施例中，在一次轮询过程中，仅允许L个所述第二队列占用其片外缓存，并将所述L个第二队列的片内共享缓存的数量恢复至降低之前的值，其中L为大于或等于1的整数。

在一实施例中，该方法还包括：定期轮询所有禁止占用其片外缓存的队列的丢包情况，对于丢包次数最少的队列，在所有队列的片内共享缓存的大小数量之和小于第二预设比例的情况下，允许该队列占用其片外缓存，并将该队列的片内共享缓存的数量恢复至其降低之前的值。

为了便于对本发明所提供的技术方案的理解，下面将结合具体场景的实施例进行描述。

本发明如下实施例提供了一种高效的交换机片内和片外缓存管理方法。

在如下实施例中，在交换机初始化的时候合理分配各个队列片内缓存(包括最小保证片内缓存和共享片内缓存)和片外缓存，使得整体设备尽可能少的使用片外缓存，同时在突发流量很大的时候充分使用片外缓存。

设置初始化成功后CPU定期轮询各个队列的缓存使用情况。对于持续使用片外缓存的队列给予惩罚只能占用片内缓存，并且能够共享的片内缓存要给予严格控制，比如默认情况的四分之一，对于非持续占用片外缓存的队列，如果队列片外缓存占用时间超过监控时间的一定比例(比如一半时间)，那么根据片内外缓存搬移是否因为带宽不足存在丢包来判断是否需要进行惩罚。

被惩罚队列的恢复通过CPU定期轮询被惩罚队列有没有持续丢包，如果继续持续丢包继续惩罚，因为大量缓存是给队列突发使用，不是来解决持续拥塞的，持续拥塞情况下丢包是合理的，没有必要过多占用缓存。如果队列丢包概率较小，比如小于四分之一，那么可以逐个队列放开惩罚，加大片内缓存共享到默认值，同时可以采用片外缓存以应对突发流量。每次轮询只能放开一个队列，避免多个队列同时放开，片内外缓存搬移带宽又不够导致丢包。

在本发明实施例中，通过对于拥塞报文进行控制，避免过多占用片内的共享缓存，避免占用片外缓存。对于其它异常情况按照整体设备的片内外带宽丢包情况进行进一步管控，优先管控较多时间占用片外缓存的队列(比如某些队列新导入了大量的IPTV业务，如果超过设备能力，那么其它队列的业务不能收到影响)。使得整体设备的性能达到最优。

在本实施例中，交换机设备缓存初始化如下：

一般分配最小保证片内缓存为1-2个大包，共享片内缓存为片内缓存的5％-20％(考虑网络正常使用中，多个端口同时突发的概率，同时需要保证正常少量突发的情况下，报文无需使用片外缓存)，同时给予每个队列较大的片外共享缓存(因为片外缓存容量一般都是几个G，远大于片内缓存，可以给予每个队列5M-20M左右的缓存空间以应对队列最大的突发流量)。

在本实施例中，CPU监控交换芯片队列缓存流程如下：

CPU缓存监控任务定期轮询(比如10ms一次)各个队列的缓存使用情况，如果监控到某个队列连续10次都在使用片外缓存，那么对这个队列进行惩罚，这个队列停止使用片外缓存，并且减少片内缓存使用量到默认值的25％；如果所有持续丢包的队列都惩罚后，还能监控到系统存在片外缓存带宽不够丢包，那么需要对10个监控周期内使用片外缓存达到9次的队列进行惩罚，以此递减只到不存在片内外缓存带宽不足导致的丢包为止。

被惩罚队列的恢复通过CPU定期轮询(比如10s一次,这个周期可以大一些)被惩罚队列有没有持续丢包，如果继续持续丢包继续惩罚，如果10个周期内都没有丢包，那么可以逐个队列放开惩罚，加大片内缓存共享到默认值，同时可以采用片外缓存以应对突发流量。每次轮训只能放开一个队列，避免多个队列同时放开，片内外缓存搬移带宽又不够导致丢包，如果所有不丢包的队列放开后，监控到系统仍然不存在片外缓存带宽不够丢包，那么可以逐步放开10个周期内9个到1个周期内没有丢包的队列，同时需要保证内部共享缓存的利用率连续保持在75％以内，避免惩罚和取消惩罚形成震荡。

与现有技术相比，本实施例充分使用了片外缓存的吸收突发流量的能力，实时识别持续拥塞的流量，降低缓存的无效使用，解决了目前片内外缓存存在的带宽有限的缺陷，降低了报文转发的时延，尽可能的避免了丢包的情况。

图2是根据本发明实施例的包括片外缓存的交换机逻辑示意图，如图2所示，交换芯片负责报文硬件转发，内部有片内缓存支持存储转发，片内和片外缓存之间通过内部总线通信，当需要片外缓存处理时，报文从片内通过总线搬移到片外缓存，交换芯片处理完报文后，把报文从片外缓存再搬移到片内缓存从物理端口转发出去，交换芯片和CPU通过PCIE总线连接，作为报文的CPU收发，以及CPU对于交换芯片的配置通道。

假设交换芯片片内缓存32M，有物理量端口40个，设备初始化8M用于所有队列的最小保证，每个端口最小保证缓存200K，24M用于所有队列共享，每个队列最多共享6M,每个队列分配片外缓存20M。理论上每个队列应对突发能力最大为26.2M。

为了说明实施例所提供的惩罚机制和恢复机制的生效过程和步骤，下面分两种情况来进行说明。

情况1：假设队列1-5持续拥塞(10分钟)，由于5*6M＝30M>28M。所以此时片内共享缓存用光，如果此时其它端口有正常突发，如果设备内部不实时调整缓存，大量其它队列流量会由于片内外缓存搬移带宽不足而丢弃。但是本发明会触发持续拥塞流程的惩罚机制和恢复机制实现如下。

惩罚机制：

CPU 10ms一次轮询各个队列的缓存使用情况并且更新各个队列最新的10次片外缓存占用情况，发现1-5队列最近10次都占用片外缓存,CPU判断这些队列持续拥塞，设置1-5队列不能占用片外缓存，并且片内共享缓存数量降低到之前的25％即为1.5M。这样片内缓存的共享内存充足，整体设备转发正常，除了偶现的大突发需要用到片外缓存，基本不用片外缓存，转发时延少，除了持续拥塞的队列外，其它队列也没有丢包。

恢复机制(例如，10分钟后)：

CPU 10s一次轮询被惩罚的队列，

队列1-5连续十次都不丢包，队列解除惩罚，片内缓存共享恢复初始值6M，片外缓存使能为初始值20M，这些队列又恢复了26.2M的大突发吸纳能力。

情况2：由于网络业务切割错误，导致IPTV大量大突发的流量导入到本设备，本交换机设备多个端口的队列存在异常突发(比如队列10-20)，导致片内共享缓存用光，如果此时其它端口有正常突发，如果设备内部不实时调整缓存，大量其它队列流量会由于片内外缓存搬移带宽不足而丢弃。但是本发明会触发持续拥塞流程的惩罚机制和恢复机制实现如下。(20分钟后业务被割接走)

惩罚机制：

如图3所示，本实施例提供的惩罚机制包括如下步骤：

步骤S302，CPU 10ms一次轮询各个队列的缓存使用情况，并且更新各个队列最新的10次片外缓存占用情况。

步骤S304，如果发现队列10-20最近10次都占用片外缓存概率较大(队列10-15 10次占用片外9次，队列16-20 10次占用片外7次),CPU判断这些队列异常突发。

步骤S306，CPU在发现的第一个10ms发现片外缓存整体存在因为带宽不够丢包，设置队列10-15不能占用片外缓存，并且片内共享缓存数量降低到之前的25％，即为1.5M。

步骤S308，CPU在发现的第二个10ms发现仍然存在片外缓存整体存在因为带宽不够丢包，设置队列16-20不能占用片外缓存，并且片内共享缓存数量降低到之前的25％，即为1.5M。

这样片内缓存的共享内存充足，整体设备转发正常，除了偶现的大突发需要用到片外缓存，基本不用片外缓存，转发时延少，除了持续拥塞的队列外，其它队列也没有丢包。

恢复机制(例如，20分钟后)：

如图4所示，本实施例提供的恢复机制包括如下步骤：

步骤S402，CPU 10s一次轮询被惩罚的队列；

步骤S404，判断是否存在队列连续10次都不丢包；

步骤S406，如果发现队列10-20连续10次都不丢包，队列解除惩罚，片内缓存共享恢复初始值6M，片外缓存使能为初始值20M，这些队列又恢复了26.2M的大突发吸纳能力。

步骤S408，如果未发现队列连续10次都不丢包，遍历所有队列找到一个丢包次数最少的队列(例如，丢包次数在1-9次之间)，如果此时芯片内部共享缓存使用小于例如75％，那么将这个队列解除惩罚，片内缓存共享恢复初始值，片外缓存使能为初始值。

以上即完成整个设备片内片外缓存的实时调节过程。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

在本实施例中还提供了一种交换设备，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图5是根据本发明实施例的交换设备的结构框图，如图5所示，该交换设备100包括执行模块20和轮询模块40。

执行模块20，用于在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存、以及片外缓存；

轮询模块40，用于定期轮询每个所述队列的片外缓存使用情况；

所述执行模块20，还用于对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中N和M为正整数，M小于或等于N。

在本发明的另一实施例中，所述执行模块还用于在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

在本发明的另一实施例中，所述轮询模块还用于定期轮询所述第一队列的丢包情况。所述执行模块还用于对所述第一队列中连续K次轮询H次不存在丢包情况的第二队列，允许所述第二队列占用其片外缓存，并将所述第二队列的片内共享缓存的数量恢复至降低之前的值，其中，K和H为正整数，H小于或等于K。

在本发明的另一实施例中，在所述CPU的一次轮询过程中，仅允许L个所述第二队列占用其片外缓存，以及将所述L个第二队列的片内共享缓存的数量恢复至降低之前的值，其中L为大于或等于1的整数。

在本发明的另一实施例中，所述轮询模块还用于定期轮询所有不能占用片外缓存的队列的丢包情况；所述执行模块还用于对于丢包次数最少的队列，在所有队列的片内共享缓存的大小数量之和小于第二预设比例时，所述CPU允许该队列占用其片外缓存，并将该队列的片内共享缓存的数量恢复至其降低之前的值。

需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。

本发明的实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

在一个示例性实施例中，上述计算机可读存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

在一个示例性实施例中，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

本实施例中的具体示例可以参考上述实施例及示例性实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (12)

1.一种交换设备的缓存管理方法，其特征在于，包括：

在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存以及片外缓存；

定期轮询每个所述队列的片外缓存使用情况；

对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用其片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中M和N为正整数，M小于或等于N。

2.根据权利要求1所述的方法，其特征在于，还包括：

在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

3.根据权利要求2所述的方法，其特征在于，在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态，包括：

定期轮询所述第一队列的丢包情况；

对于所述第一队列中连续K次轮询H次不存在丢包情况的所述第二队列，允许所述第二队列占用其片外缓存，并将所述第二队列的片内共享缓存的数量恢复至降低之前的值，其中，K和H为正整数，H小于或等于K。

4.根据权利要求2所述的方法，其特征在于，其中，在一次轮询过程中，仅允许L个所述第二队列占用其片外缓存，并将所述L个第二队列的片内共享缓存的数量恢复至降低之前的值，其中L为大于或等于1的整数。

5.根据权利要求1所述的方法，其特征在于，还包括：

定期轮询所有禁止占用其片外缓存的队列的丢包情况，对于丢包次数最少的队列，在所有队列的片内共享缓存的大小数量之和小于第二预设比例的情况下，允许该队列占用其片外缓存，并将该队列的片内共享缓存的数量恢复至其降低之前的值。

6.一种交换设备，其特征在于，包括CPU和交换芯片，其中，所述CPU包括：

执行模块，用于在对所述交换设备进行初始化时，按照预设比例为所述交换设备的每个端口对应的队列分配片内最小保证缓存、片内共享缓存以及片外缓存；

轮询模块，用于定期轮询每个所述队列的片外缓存使用情况；

所述执行模块，还用于对于所述队列中连续N次轮询M次占用片外缓存的第一队列，禁止所述第一队列占用片外缓存，并将所述第一队列的片内共享缓存的数量降低至第一预设比例，其中N和M为正整数，M小于或等于N。

7.根据权利要求6所述的交换设备，其特征在于，

所述执行模块，还用于在监测到所述第一队列的丢包情况恢复正常后，通过恢复机制将所述第一队列的片内共享缓存以及片外缓存的设置恢复到正常状态。

8.根据权利要求6所述的交换设备，其特征在于，

所述轮询模块，还用于定期轮询所述第一队列的丢包情况；

所述执行模块，还用于对所述第一队列中连续K次轮询H次不存在丢包情况的第二队列，允许所述第二队列占用其片外缓存，并将所述第二队列的片内共享缓存的数量恢复至降低之前的值，其中，K和H为正整数，H小于或等于K。

9.根据权利要求8所述的交换设备，其特征在于，其中，在所述CPU的一次轮询过程中，仅允许L个所述第二队列占用其片外缓存，以及将所述L个第二队列的片内共享缓存的数量恢复至降低之前的值，其中L为大于或等于1的整数。

10.根据权利要求9所述的交换设备，其特征在于，

所述轮询模块，还用于定期轮询所有不能占用片外缓存的队列的丢包情况；

所述执行模块，还用于对于丢包次数最少的队列，在所有队列的片内共享缓存的大小数量之和小于第二预设比例时，所述CPU允许该队列占用其片外缓存，并将该队列的片内共享缓存的数量恢复至其降低之前的值。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被处理器执行时实现所述权利要求1至5任一项中所述的方法的步骤。

12.一种电子装置，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现所述权利要求1至5任一项中所述的方法的步骤。