CN103595654B - 基于多核CPU的HQoS实现方法、装置及网络设备 - Google Patents

Abstract

本发明公开了一种基于多核CPU的HQoS实现方法、装置及网络设备，该方法包括：各个CPU并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁；按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁；按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送。该方案减少了并行开销，优化了性能。

Description

基于多核CPU的HQoS实现方法、装置及网络设备

技术领域

本发明涉及通信技术领域，尤指一种基于多核中央处理器（CentralProcessingUnit，CPU）的层次化服务质量（HierarchicalQualityofService，HQoS）实现方法、装置及网络设备。

背景技术

为了实现针对用户、用户组、用户群等较为精细的QoS控制，网络运营商提出了HQoS的建议。HQoS的实现过程可分两个阶段：第一阶段为分类，将接收到的报文进行分类，分类后可明确报文所属的用户队列、用户组队列、目的端口队列、优先级等信息；第二阶段为调度，将分类后的报文进行入队、丢弃、出队等调度处理，最终达到预期的QoS效果。在调度阶段，常用的是如图1所示的4级调度模型，即业务队列调度、用户队列调度、用户组队列调度和端口队列调度，其中，一个用户队列包含多个业务队列，一个业务队列归属一个用户队列，一个用户队列归属一个用户组队列，但同一个用户组队列中的报文可以转发到多个端口队列中参与调度。

HQoS可基于硬件实现，也可基于软件实现。由于硬件成本较高，在一些中低端路由器中，一般采用软件实现。随着多核CPU的快速发展，多核CPU在中低端路由器中得到了广泛应用。当中低端路由器中采用多核CPU实现HQoS时，为了保证调度处理的正确性，每个CPU在对各级队列进行访问时都需要加锁保护，当结束访问后还需要进行解锁，例如，当一个CPU对一个队列进行调度时，如果另有一个CPU也对该队列进行调度，就会导致两个CPU同时调度一个报文，从而产生混乱，因此，CPU在访问一个队列前，需要将该队列加锁，其他CPU没有权限访问该队列，从而保证最终调度处理是正确的。具体到如图1所示的4级调度模型中，共需要执行5次加锁/解锁操作，包括：将分类后的报文添加到各业务队列中、调度各个业务队列中的报文、调度各个用户队列的报文、调度各个用户组队列的报文和调度各个端口队列的报文，如此频繁地进行加锁/解锁操作，造成了很高的并行开销，多核CPU应有的高性能受到了很大限制。

发明内容

本发明实施例提供一种基于多核CPU的HQoS实现方法、装置及网络设备，用以解决现有的基于多核CPU的HQoS实现方法中存在的并行开销过高、性能受限的问题。

因此，根据本发明实施例，提供一种基于多核CPU的HQoS实现方法，包括：

各个中央处理器CPU并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁；

按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁；

按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送。

具体的，所述各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体包括：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类。

具体的，按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体包括：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照所述当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照所述当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中，其中，所述各级队列的设定规则包括报文优先级高低或者各级队列的权重大小。

具体的，将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体包括：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列。

具体的，按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体包括：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照所述当前第二调度器包括的端口设定规则发送各个端口队列中的报文，其中，所述端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

还提供一种基于多核CPU的HQoS实现装置，包括：

分类单元，用于并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁；

第一调度单元，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁；

第二调度单元，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送。

具体的，所述各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，所述分类单元，用于将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体用于：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类。

具体的，所述第一调度单元，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体用于：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照所述当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照所述当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中；其中，所述各级队列的设定规则包括报文优先级高低或者各级队列的权重大小。

具体的，所述第一调度单元，用于将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体用于：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将改第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列。

具体的，所述第二调度单元，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体用于：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照所述当前第二调度器包括的端口设定规则发送各个端口队列中的报文，其中，所述端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

还提供一种网络设备，包括上述基于多核CPU的HQoS实现装置。

本发明实施例提供的基于多核CPU的HQoS实现方法、装置及网络设备，各个CPU只是需要在各个第一调度器的队列和各个第二调度器的队列中添加报文前加锁、结束后解锁，共有2次加锁/解锁的操作，相对于现有技术中5次加锁/解锁的操作，减少了并行开销，优化了性能；并且，CPU只是在各个第一调度器的队列和各个第二调度器的队列中执行报文出队入队的，操作简单，耗时较短，同样可以提升性能。

附图说明

图1为现有技术中的4级调度模型的示意图；

图2为本发明实施例中基于多核CPU的HQoS实现方法的流程图；

图3为本发明实施例中的调度模型的示意图；

图4为本发明实施例中基于多核CPU的HQoS实现装置的结构示意图。

具体实施方式

针对现有的基于多核CPU的HQoS实现方法中存在的并行开销过高、性能受限的问题，本发明实施例提供一种基于多核CPU的HQoS实现方法，该方法的流程如图2所示，具体包括：

S20：各个CPU并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，并将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁。

在对报文进行分类时，各个CPU是可以并行处理的。

各个CPU在向各个第一调度器的队列中分发报文时，可能存在多个CPU同时向一个第一调度器队列中分发报文的情况，所以在分发报文前需要加锁、结束后解锁。

S21：按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列中，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁。

各个CPU只会逐级调度对应的第一调度器的队列中的报文，不存在第一调度器的队列中的报文同时被多个CPU调度的问题，因此，在调度各级队列中的报文时，无需加锁、解锁操作。

由于各个CPU在向各个第二调度器的队列中分发报文时，可能存在多个CPU同时向一个第二调度器队列中分发报文的情况，所以在分发报文前需要加锁、结束后解锁。

S22：按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送。

各个CPU只会逐级调度对应的第二调度器的队列中的报文，不存在第二调度器的队列中的报文同时被多个CPU调度的问题，因此，在调度第二调度器的队列中的报文时，无需加锁、解锁操作。

该方案中，各个CPU只是需要在各个第一调度器的队列和各个第二调度器的队列中添加报文前加锁、结束后解锁，共有2次加锁/解锁的操作，相对于现有技术中5次加锁/解锁的操作，减少了并行开销，优化了性能；并且，CPU只是在各个第一调度器的队列和各个第二调度器的队列中执行报文出队入队的，操作简单，耗时较短，同样可以提升性能。

具体的，各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，上述S20中的将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体包括：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类。

可以批量并行处理接收到的报文，首先确定报文所属的业务队列、用户队列和用户组队列，可以根据报文中携带的源端口、目的端口、源互联网协议（InternetProtocol，IP）地址、目的IP地址、协议类型和报文特征码等等信息确定，然后按照报文所属的用户组队列对应的第一调度器进行分类，同一第一调度器对应的用户组队列的报文分为一类。

第一调度器的个数可以根据设备的流量规划配置、负载均衡需求、处理器的资源情况等等因素进行创建。

如图3所示为本发明实施例中的调度模型的示意图，一个业务队列唯一归属一个用户队列，一个用户队列可以包括多个业务队列，一个用户队列唯一归属一个用户组队列，一个用户组队列可以包括多个用户队列，一个用户组队列唯一归属一个第一调度器，一个第一调度器可以调度至少一个用户组队列中的报文，一个第一调度器对应一个CPU，也就是说一个第一调度器的队列中的报文只能由一个CPU来处理，这样就可以保证在处理同一第一调度器的队列中的报文时候，不存在多个CPU同时并行处理一个第一调度器的队列中的报文的问题，从而无需进行加锁/解锁操作，节省了并行开销。

具体的，上述S21中的按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体包括：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中。

具体的，上述S21中的将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体包括：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列。

对于处理后的报文可以继续确定报文的目的端口，然后按照各个CPU对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列中。同一用户组队列的报文可能去往不同的目的端口，同一个第二调度器可以对应多个端口队列，但是一个端口队列唯一归属一个第二调度器，一个第二调度器对应一个CPU，也就是说一个第二调度器的队列中的报文只能由一个CPU来处理，这样就可以保证在处理同一第二调度器的队列中的报文时候，不存在多个CPU同时并行处理一个第二调度器的队列中的报文的问题，从而无需进行加锁/解锁操作，节省了并行开销。

在如图3所示为本发明实施例中的调度模型的示意图，第二调度器的个数可以根据设备的流量规划配置、负载均衡需求、处理器的资源情况等等因素进行创建。

具体的，上述S22中的按照各个第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体包括：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照当前第二调度器包括的端口设定规则发送各个端口队列中的报文。

具体的，上述各级队列的设定规则包括报文优先级高低或者各级队列的权重大小，端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

报文优先级可以根据报文中携带的协议类型和特征码等等信息确定，各级队列以及各个端口队列的权重大小可以根据HQoS的实际需要进行设定。

以上是以各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列为例进行说明的，其中最高级队列为用户组队列，当然各级队列也可以包括其他情况，例如，各级队列按照级别从低到高的顺序依次包括业务队列和用户队列，这时上述基于多核CPU的HQoS的实现过程中省去用户组队列的处理过程；再例如，各级队列按照级别从低到高的顺序依次包括用户队列和用户组队列，这时上述基于多核CPU的HQoS的实现过程中省去业务队列的处理过程。

基于同一发明构思，本发明实施例提供一种基于多核CPU的HQoS实现装置，该装置可以设置在网络设备中，网络设备可以为交换设备、路由设备等等，该装置的结构如图4所示，包括：

分类单元40，用于并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁。

第一调度单元41，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁。

第二调度单元42，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送。

具体的，各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，上述分类单元40，用于将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体用于：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类。

具体的，上述第一调度单元41，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体用于：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中；其中，各级队列的设定规则包括报文优先级高低或者各级队列的权重大小。

具体的，上述第一调度单元41，用于将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体用于：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列。

具体的，上述第二调度单元42，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体用于：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照当前第二调度器包括的端口设定规则发送各个端口队列中的报文，其中，端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

本发明是参照根据本发明实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明的可选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括可选实施例以及落入本发明范围的所有变更和修改。

显然，本领域的技术人员可以对本发明实施例进行各种改动和变型而不脱离本发明实施例的精神和范围。这样，倘若本发明实施例的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (3)

1.一种基于多核CPU的HQoS实现方法，其特征在于，包括：

各个中央处理器CPU并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁；

按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁；

按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送；

所述各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体包括：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类；

所述按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体包括：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照所述当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照所述当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中；其中，所述各级队列的设定规则包括报文优先级高低或者各级队列的权重大小；

所述将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体包括：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列；

所述按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体包括：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照所述当前第二调度器包括的端口设定规则发送各个端口队列中的报文，其中，所述端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

2.一种基于多核CPU的HQoS实现装置，其特征在于，包括：

分类单元，用于并行将接收到的报文按照所属的最高级队列对应的第一调度器进行分类后，将各类报文分发至对应的第一调度器的队列，其中，在向各个第一调度器的队列中分发报文前加锁、结束后解锁；

第一调度单元，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，将调度后的报文按照目的端口分发至对应的第二调度器的队列，其中，在向各个第二调度器的队列中分发报文前加锁、结束后解锁；

第二调度单元，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送；

所述各级队列按照级别从低到高的顺序依次包括业务队列、用户队列和用户组队列，所述分类单元，用于将接收到的报文按照所属的最高级队列对应的第一调度器进行分类，具体用于：

确定接收到的报文所属的业务队列、用户队列和用户组队列，其中，一个业务队列唯一归属一个用户队列，一个用户队列唯一归属一个用户组队列，一个用户组队列唯一归属一个第一调度器；

将归属于同一第一调度器对应的用户组队列的报文分为一类；

所述第一调度单元，用于按照对应的第一调度器包括的各级队列的设定规则逐级调度对应的第一调度器的队列中的报文，具体用于：

逐一将当前第一调度器的队列中的报文添加到所属的业务队列中；

按照所述当前第一调度器包括的业务队列的设定规则将各个业务队列中的报文添加到所属的用户队列中；

按照所述当前第一调度器包括的用户队列的设定规则将各个用户队列中的报文添加到所属的用户组队列中；其中，所述各级队列的设定规则包括报文优先级高低或者各级队列的权重大小；

所述第一调度单元，用于将调度后的报文按照目的端口分发至对应的第二调度器的队列，具体用于：

确定处理后的报文的目的端口；

按照对应的第一调度器包括的用户组队列的设定规则将该第一调度器对应的用户组队列中的报文发送至该报文的目的端口对应的第二调度器的队列；

所述第二调度单元，用于按照对应的第二调度器包括的端口设定规则逐级调度对应的第二调度器的队列中的报文并发送，具体用于：

逐一将当前第二调度器的队列中的报文添加到该报文的目的端口对应的端口业务队列中；

按照所述当前第二调度器包括的端口设定规则发送各个端口队列中的报文，其中，所述端口设定规则包括报文优先级高低或者各个端口队列的权重大小。

3.一种网络设备，其特征在于，包括如权利要求2所述的基于多核CPU的HQoS实现装置。