CN106330760A - 一种缓存管理的方法和装置 - Google Patents

Abstract

本发明实施例公开了一种缓存管理的方法和装置，该方法可以包括：将缓存划分为常规区域和缓冲区，当常规区域的空闲空间下降至预设的第一门限时，获取接收到的第一数据包的所属队列及所属队列对应的优先级；当缓冲区的空闲空间小于预设的第二门限时，将第一数据包所属队列的优先级与缓冲区中所缓存队列的最低优先级进行比较；当第一数据包所属队列的优先级高于缓冲区中所缓存队列的最低优先级时，释放最低优先级队列中最后缓存至缓冲区的数据包，并将第一数据包分配至缓冲区中释放后的缓存。

Description

一种缓存管理的方法和装置

技术领域

本发明涉及网络通信技术，尤其涉及一种缓存管理的方法和装置。

背景技术

在数据通信网络中，对数据报文的缓存管理是流量管理中比较重要的环节，目前主流的缓存管理方案中，依据流队列可以分为独享方式、共享方式、独享加共享等方式。其中，独享加共享方式主要为：先将缓存整体划分出两块区域，如图1中的空白区域所示，独享区域按照各个队列平均分配，独立占用；剩下如图1中斜线阴影区域所示的是共享区域，尽管目前对于共享区域的管理方式多种多样，但是，如果流较多或者共享区域满配时，共享区域就基本上等同于独享区域，由于缓存的占用是通过先到先得的方式进行，从而导致在系统严重拥塞时，整个缓存被完全占用，会出现高优先级的报文无法抢占缓存，只能被动丢包，无法控制对缓存的分配和使用。

发明内容

为解决上述技术问题，本发明实施例期望提供一种缓存管理的方法和装置，能够在系统严重拥塞时，保证优先级高的报文优先进行数据传输。

本发明的技术方案是这样实现的：

第一方面，本发明实施例提供了一种缓存管理的方法，将缓存划分为常规区域和缓冲区，当所述常规区域的空闲空间下降至预设的第一门限时，所述方法包括：

获取接收到的第一数据包的所属队列及所属队列对应的优先级；

当所述缓冲区的空闲空间小于预设的第二门限时，将所述第一数据包所属队列的优先级与所述缓冲区中所缓存队列的最低优先级进行比较；

当所述第一数据包所属队列的优先级高于所述缓冲区中所缓存队列的最低优先级时，释放最低优先级队列中最后缓存至所述缓冲区的数据包，并将所述第一数据包分配至所述缓冲区中释放后的缓存。

在上述方案中，所述方法还包括：

当所述缓冲区的空闲空间大于预设的第二门限时，为所述第一数据包分配所述缓冲区缓存，并根据所述第一数据包的缓存区缓存标识更新所述第一数据包所属队列的占用链表及占用计数；其中，所述占用链表的首指针为第一数据包所属队列最后缓存至所述缓冲区的数据包的缓存标识，所述占用链表的尾指针为第一数据包所属队列最先缓存至所述缓冲区的数据包的缓存标识。

在上述方案中，所述释放最低优先级队列中最后缓存至所述缓冲区的数据包，具体包括：

将所述最低优先级队列的占用链表的首指针进行出链；

释放所述最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；

将所述最低优先级队列的的占用计数减一。

在上述方案中，将所述第一数据包分配至所述缓冲区中释放后的缓存后，还包括：

根据所述第一数据包的缓冲区缓存标识更新所述第一数据包所属队列的占用链表及占用计数。

在上述方案中，当所述缓冲区内的队列调度出队时，所述方法还包括：

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

在上述方案中，所述缓冲区中，最高优先级队列的数据包不被释放。

第二方面，本发明实施例提供了一种缓存管理装置，缓存包括常规区域和缓冲区，所述装置包括：监控单元、获取单元、分配单元、比较单元和释放单元；其中，

所述监控单元，用于监控所述常规区域的空闲空间，并且当所述常规区域的空闲空间下降至预设的第一门限时，触发所述获取单元；

所述获取单元，用于获取接收到的第一数据包的所属队列及所属队列对应的优先级；

所述监控单元，还用于监控所述缓冲区的空闲空间；并当所述缓冲区的空闲空间小于预设的第二门限时，触发所述比较单元；

所述比较单元，用于将所述第一数据包所属队列的优先级与所述缓冲区中所缓存队列的最低优先级进行比较；并且当所述第一数据包所属队列的优先级高于所述缓冲区中所缓存队列的最低优先级时触发所述释放单元；

所述释放单元，用于释放最低优先级队列中最后缓存至所述缓冲区的数据包；

所述分配单元，用于将所述第一数据包分配至所述缓冲区中释放后的缓存。

在上述方案中，所述装置还包括更新单元；

所述监控单元，还用于当所述缓冲区的空闲空间大于预设的第二门限时，触发所述分配单元和所述更新单元；

所述分配单元，还用于为所述第一数据包分配所述缓冲区缓存；

所述更新单元，用于根据所述第一数据包的缓冲区缓存标识更新所述第一数据包所属队列的占用链表及占用计数；其中，所述占用链表的首指针为第一数据包所属队列最后缓存至所述缓冲区的数据包的缓存标识，所述占用链表的尾指针为第一数据包所属队列最先缓存至所述缓冲区的数据包的缓存标识。

在上述方案中，所述释放单元，具体用于：

将所述最低优先级队列的占用链表的首指针进行出链；

释放所述最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；

将所述最低优先级队列的的占用计数减一。

在上述方案中，所述装置还包括调度出队单元，用于

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

在上述方案中，所述缓冲区中，最高优先级队列的数据包不被释放。

本发明实施例提供了一种缓存管理的方法和装置，通过将从缓存中额外划分出能够按照队列优先级进行缓存和调度出队的缓冲区，不仅提高了缓存的弹性，而且在网络负载压力较大的情况下，保证了重要业务数据，即优先级较高的数据包不会出现丢包的现象，保证了优先级高的报文优先进行数据传输。

附图说明

图1为现有技术中的缓存划分示意图；

图2为本发明实施例提供的一种缓存管理的方法流程示意图；

图3为本发明实施例提供的一种缓存划分示意图；

图4为本发明实施例提供的一种缓存管理的详细流程示意图；

图5为本发明实施例提供的一种缓存管理的装置结构示意图；

图6为本发明实施例提供的另一种缓存管理的装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。

实施例一

参见图2，其示出了本发明实施例提供的一种缓存管理的方法，该方法可以应用于如图3所示的划分为常规区域和缓冲区的缓存，缓冲区用虚线表示，可以理解地，在本发明实施例中，常规区域可以按照图1所示，分为共享区域和独享区域，本发明实施例对此不做具体限制；当常规区域的空闲空间下降至预设的第一门限时，该方法可以包括：

S201：获取接收到的第一数据包的所属队列及所属队列对应的优先级；

S202：当缓冲区的空闲空间小于预设的第二门限时，将第一数据包所属队列的优先级与缓冲区中所缓存队列的最低优先级进行比较；

S203：当第一数据包所属队列的优先级高于缓冲区中所缓存队列的最低优先级时，释放最低优先级队列中最后缓存至缓冲区的数据包，并将第一数据包分配至缓冲区中释放后的缓存。

需要说明的是，当常规区域的空闲空间超过预设的第一门限时，说明此时网络负载较轻，分配到独享或者共享区域的数据包可以立即等待调度。此时网络缓存的申请和释放都比较顺畅，总缓存内划分的独享区域加共享区域足以满足需求。

但是当网络稍有抖动或拥塞时，独享区域和共享区域都已经分配完毕，为了提高缓存的弹性，避免刚性的丢包或者向前级反压，本发明实施例通过启动缓冲区进行缓存的管理和分配，作为网络负载压力较大时的备用分配机制。

可以理解地，网络负载较轻时，对于常规区域的缓存分配和管理与现有技术的缓存管理和分配方法相同，在此不再赘述。当网络负载较大时，也就是当常规区域的空闲空间下降至预设的第一门限时，则需要对缓冲区进行缓存的管理和分配。

示例性地，当数据包进入缓冲区时，可以根据缓冲区的空闲空间与第二门限之间的比较来确定缓冲区的缓存压力。

可选地，当缓冲区的缓存压力较轻的时候，还可以通过步骤S204对数据包进行缓存；S204：当缓冲区的空闲空间大于预设的第二门限时，为第一数据包分配缓冲区缓存，并根据第一数据包的缓冲区缓存标识更新第一数据包所属队列的占用链表及占用计数；

其中，占用链表为一个逆序链表，占用链表的首指针为第一数据包所属队列最后缓存至缓冲区的数据包的缓存标识，占用链表的尾指针为第一数据包所属队列最先缓存至缓冲区的数据包的缓存标识。

可选地，当缓冲区的缓存压力较大时，通过S202至S203根据队列优先级的高低进行缓冲区的缓存；具体地，对于步骤S203来说，释放最低优先级队列中最后缓存至所述缓冲区的数据包，可以包括：

将最低优先级队列的占用链表的首指针进行出链；以及，

释放最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；以及，

将最低优先级队列的占用计数减一。

示例性地，步骤S203中，将所述第一数据包分配至所述缓冲区中释放后的缓存后，该方法还可以包括：

根据第一数据包的缓冲区缓存标识更新第一数据包所属队列的占用链表及占用计数。

上述过程描述的是在缓冲区中为数据包分配缓存的过程，可以理解地，当缓冲区的缓存压力较大的时候，可以通过数据包所在队列的优先级进行缓存，从而避免优先级低的队列占用优先极高的队列的缓存空间，保证了优先极高的队列的数据包不会丢失。可以理解地，在缓冲区中，最高优先级队列的数据包不被释放。从而保证了重要业务数据包不会出现丢包的情况。

当对队列进行调度出队时，仍然需要根据队列的优先级来确定调度方式，具体可以为：当缓冲区内的队列调度出队时，对于高优先级队列的数据包，立即进行调度出队；对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

本发明实施例提供了一种缓存管理的方法，通过将从缓存中额外划分出能够按照队列优先级进行缓存和调度出队的缓冲区，不仅提高了缓存的弹性，而且在网络负载压力较大的情况下，保证了重要业务数据，即优先级较高的数据包不会出现丢包的现象，保证了优先级高的报文优先进行数据传输。

实施例二

参见图4，其示出了本发明实施例提供的一种缓存管理的详细流程，该流程可以包括：当常规区域的空闲空间下降至预设的第一门限时，

S401：接收数据包a1，记录数据包a1所属的队列标识和对应的优先级；

在本实施例中，设定数据包a1所属的队列为A，优先级为1级；本实施例中，优先级最低为1级，最高为3级。

S402：当缓冲区的空闲空间大于预设的第二门限时，为数据包a1分配缓存，并根据数据包a1的缓冲区缓存标识更新数据包a1所属队列的占用链表及占用计数；

需要说明的是，设定数据包a1为队列A的第一个数据包，此时，数据包a1的缓冲区缓存标识可以为0001，则队列A的占用链表的首尾指针均为数据包a1的缓存标识0001，队列A的占用计数为1；

S403：接收数据包a2，记录数据包a2所属的队列标识和对应的优先级；

在本实施例中，设定数据包a2所属的队列为A，优先级为1级；

S404：为数据包a2分配缓存，并根据数据包a2的缓冲区缓存标识更新数据包a2所属队列的占用链表及占用计数；

需要说明的是，数据包a2为队列A的第二个数据包，此时，数据包a2的缓冲区缓存标识可以为0002，则队列A的占用链表的首尾指针分别为数据包a2的缓存标识0002和数据包a1的缓存标识0001，队列A的占用计数为2；从中可以看出，占用链表的首尾指针与缓存标识入链的顺序相反，从而可以使得当后续高优先级数据包进行分配时，能够从队列最后分配缓冲区缓存的数据包开始释放，从而保证了最先缓存的数据包不会出现丢包情况。

可以理解地，不断重复步骤S401至S404能够将队列的数据包缓存至缓冲区，本实施例中，缓冲区内队列A的占用链表的首尾指针为0009：0001；占用计数为9，队列A的优先级为1。随着缓冲区不断地进行分配，当缓冲区的空闲空间小于预设的第二门限时，说明此时缓冲区的缓存压力也较大，此时，当有高优先级队列的数据包进入缓冲区时，高优先级队列的数据包需要来抢占低优先级队列的数据包，具体过程如下所示：

S405：接收数据包b1，记录数据包a1所属的队列标识和对应的优先级；

在本实施例中，设定数据包b1所属的队列为B，优先级为2级。

S406：将数据包b1所属的队列B的优先级与队列A的优先级进行比较；

由于队列A的优先级为1级，为最低级；而队列B的优先级为2级；因此，队列B的优先级高于队列A的优先级，此时，数据包b1需要抢占队列A的数据包在缓冲区的缓存；具体过程可以包括：

S407：释放队列A的缓存标识为0009的数据包a9；

S408：将数据包b1分配至缓冲区中释放后的缓存；

需要说明的是，步骤S407具体可以包括：

将队列A的占用指针的首指针0009进行出链；以及，

释放数据包a9的缓存标识0009；以及，

将队列A的占用计数减一。

可以理解地，以此类推后续高优先级队列的数据包进入缓冲区时，可以通过步骤S405至S408抢占队列A的缓存。直到队列A所占用的缓冲区缓存全被抢占完毕，队列A的占用计数也清零，说明队列A不再占用缓冲区的缓存。

需要说明的是，在缓冲区中，最高优先级队列的数据包不被释放，也就是最高优先级队列的所占用的缓存不会被抢占。

还需要说明的是，通过步骤S408将数据包b1分配至缓冲区中释放后的缓存以后，还可以如步骤S404所述的，根据数据包b1的缓冲区缓存标识更新数据包b1所属队列B的占用链表及占用计数。

综上，通过步骤S401至S408阐述了缓冲区进行缓存分配的原则，也就是保证高优先级队列的缓存，从而在网络负载压力较大的情况下，保证了重要业务数据不会出现丢包的现象。

此外，对于缓冲区的队列调度出队原则，具体可以为：

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。从而保证了重要的数据业务不会中断。

本实施例提供了一种缓存管理的详细流程，通过将从缓存中额外划分出能够按照队列优先级进行缓存和调度出队的缓冲区，不仅提高了缓存的弹性，而且在网络负载压力较大的情况下，保证了重要业务数据，即优先级较高的数据包不会出现丢包的现象，保证了优先级高的报文优先进行数据传输。

实施例三

基于前述实施例相同的技术构思，参见图5，其示出了本发明实施例提供的一种缓存管理装置50，本实施例所述的缓存可以包括常规区域和缓冲区，该装置50可以包括：监控单元501、获取单元502、分配单元503、比较单元504和释放单元505；其中，

监控单元501，用于监控常规区域的空闲空间，并且当常规区域的空闲空间下降至预设的第一门限时，触发获取单元502；

获取单元502，用于获取接收到的第一数据包的所属队列及所属队列对应的优先级；

监控单元501，还用于监控缓冲区的空闲空间；并当缓冲区的空闲空间小于预设的第二门限时，触发比较单元504；

比较单元504，用于将第一数据包所属队列的优先级与缓冲区中所缓存队列的最低优先级进行比较；并且当第一数据包所属队列的优先级高于缓冲区中所缓存队列的最低优先级时触发释放单元505；

释放单元505，用于释放最低优先级队列中最后缓存至缓冲区的数据包；

分配单元503，用于将第一数据包分配至缓冲区中释放后的缓存。

示例性地，参见图6，装置50还可以包括更新单元506；

监控单元501，还用于当缓冲区的空闲空间大于预设的第二门限时，触发分配单元503和更新单元506；

分配单元503，还用于为第一数据包分配缓冲区缓存；

更新单元506，用于根据第一数据包的缓冲区缓存标识更新第一数据包所属队列的占用链表及占用计数；其中，占用链表的首指针为第一数据包所属队列最后缓存至缓冲区的数据包的缓存标识，占用链表的尾指针为第一数据包所属队列最先缓存至缓冲区的数据包的缓存标识。

示例性地，释放单元505，具体用于：

将最低优先级队列的占用链表的首指针进行出链；

释放最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；

将最低优先级队列的的占用计数减一。

示例性地，参见图6，装置50还可以包括调度出队单元507，用于

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

示例性地，缓冲区中，最高优先级队列的数据包不被释放。

本实施例提供了一种缓存管理的装置50，通过将从缓存中额外划分出能够按照队列优先级进行缓存和调度出队的缓冲区，不仅提高了缓存的弹性，而且在网络负载压力较大的情况下，保证了重要业务数据，即优先级较高的数据包不会出现丢包的现象，保证了优先级高的报文优先进行数据传输。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上，仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。

Claims (11)

1.一种缓存管理的方法，其特征在于，将缓存划分为常规区域和缓冲区，当所述常规区域的空闲空间下降至预设的第一门限时，所述方法包括：

获取接收到的第一数据包的所属队列及所属队列对应的优先级；

当所述缓冲区的空闲空间小于预设的第二门限时，将所述第一数据包所属队列的优先级与所述缓冲区中所缓存队列的最低优先级进行比较；

当所述第一数据包所属队列的优先级高于所述缓冲区中所缓存队列的最低优先级时，释放最低优先级队列中最后缓存至所述缓冲区的数据包，并将所述第一数据包分配至所述缓冲区中释放后的缓存。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当所述缓冲区的空闲空间大于预设的第二门限时，为所述第一数据包分配所述缓冲区缓存，并根据所述第一数据包的缓存区缓存标识更新所述第一数据包所属队列的占用链表及占用计数；其中，所述占用链表的首指针为第一数据包所属队列最后缓存至所述缓冲区的数据包的缓存标识，所述占用链表的尾指针为第一数据包所属队列最先缓存至所述缓冲区的数据包的缓存标识。

3.根据权利要求1所述的方法，其特征在于，所述释放最低优先级队列中最后缓存至所述缓冲区的数据包，具体包括：

将所述最低优先级队列的占用链表的首指针进行出链；

释放所述最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；

将所述最低优先级队列的的占用计数减一。

4.根据权利要求1所述的方法，其特征在于，将所述第一数据包分配至所述缓冲区中释放后的缓存后，还包括：

根据所述第一数据包的缓冲区缓存标识更新所述第一数据包所属队列的占用链表及占用计数。

5.根据权利要求1所述的方法，其特征在于，当所述缓冲区内的队列调度出队时，所述方法还包括：

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

6.根据权利要求1所述的方法，其特征在于，所述缓冲区中，最高优先级队列的数据包不被释放。

7.一种缓存管理装置，其特征在于，缓存包括常规区域和缓冲区，所述装置包括：监控单元、获取单元、分配单元、比较单元和释放单元；其中，

所述监控单元，用于监控所述常规区域的空闲空间，并且当所述常规区域的空闲空间下降至预设的第一门限时，触发所述获取单元；

所述获取单元，用于获取接收到的第一数据包的所属队列及所属队列对应的优先级；

所述监控单元，还用于监控所述缓冲区的空闲空间；并当所述缓冲区的空闲空间小于预设的第二门限时，触发所述比较单元；

所述比较单元，用于将所述第一数据包所属队列的优先级与所述缓冲区中所缓存队列的最低优先级进行比较；并且当所述第一数据包所属队列的优先级高于所述缓冲区中所缓存队列的最低优先级时触发所述释放单元；

所述释放单元，用于释放最低优先级队列中最后缓存至所述缓冲区的数据包；

所述分配单元，用于将所述第一数据包分配至所述缓冲区中释放后的缓存。

8.根据权利要求7所述的装置，其特征在于，所述装置还包括更新单元；

所述监控单元，还用于当所述缓冲区的空闲空间大于预设的第二门限时，触发所述分配单元和所述更新单元；

所述分配单元，还用于为所述第一数据包分配所述缓冲区缓存；

所述更新单元，用于根据所述第一数据包的缓冲区缓存标识更新所述第一数据包所属队列的占用链表及占用计数；其中，所述占用链表的首指针为第一数据包所属队列最后缓存至所述缓冲区的数据包的缓存标识，所述占用链表的尾指针为第一数据包所属队列最先缓存至所述缓冲区的数据包的缓存标识。

9.根据权利要求7所述的装置，其特征在于，所述释放单元，具体用于：

将所述最低优先级队列的占用链表的首指针进行出链；

释放所述最低优先级队列中最后缓存之所属缓冲区的数据包的缓存标识；

将所述最低优先级队列的的占用计数减一。

10.根据权利要求7所述的装置，其特征在于，所述装置还包括调度出队单元，用于

对于高优先级队列的数据包，立即进行调度出队；

对于较低优先级队列的数据包，当对应的较低优先级队列有缓存释放时进行出队调度。

11.根据权利要求7所述的装置，其特征在于，所述缓冲区中，最高优先级队列的数据包不被释放。