WO2012106906A1 - 多核处理器的流分发方法及装置 - Google Patents

Description

多核处理器的流分发方法及装置

技术领域

本发明实施例涉及通信技术领域， 尤其涉及一种多核处理器的流分发方法 及装置。 背景技术

在多核处理器的运行环境中， 网络业务流量往往由多核处理器的多个处 理单元并行处理。 报文在进入处理单元之前， 通常由多核处理器的分发模块 ( Dispatch ) 统一对报文进行识别、 分类， 然后根据分类结果分发至各个处 理单元。

分发模块对于流业务的处理通常为逐流分发， 也就是说不同的流一般情 况下是会被送到不同的处理单元中， 同一条流的报文只会进同一个处理单 元。 不同的处理单元收到分发模块分发的不同的流， 各处理单元维护各自的 流表空间， 从而避免流表操作互斥， 同时确保基于流的报文保序。

在实现本发明过程中， 发明人发现现有技术中至少存在如下问题： 多核处理器的各个处理单元的处理能力是等同的， 为了高效利用多核处 理器的资源， 分发模块会尽量将流量均分给各个处理单元。 如果流数目比较 少， 同时流量在各流之间分布不均时， 可能会出现有些处理单元过载而有些 处理单元空闲的状态， 造成多核处理器资源的浪费。 发明内容

本发明实施例提供一种多核处理器的流分发方法及装置， 用以解决现有技 术中可能存在的多核处理器资源利用不均衡的问题。

本发明实施例提供一种多核处理器的流分发方法， 包括：

多核处理器的流分发装置接收当前时刻待分发的流； 根据上一时刻多核处理器各处理单元的权重， 通过轮询的方式将所述当前 时刻待分发的流逐流分发给各处理单元， 分发给权重高的处理单元的流数目大 于分发给权重低的处理单元的流数目， 所述权重用于标识所述各处理单元可处 理的流量；

获得各处理单元在接收到当前时刻待分发的流之后更新的权重， 作为当前 时刻多核处理器各处理单元的权重。

本发明实施例还提供了一种多核处理器的流分发装置， 包括：

接收器， 用于接收当前时刻待分发的流；

分发器， 用于根据上一时刻多核处理器各处理单元的权重， 通过轮询的方 式将所述当前时刻待分发的流逐流分发给各处理单元， 分发给权重高的处理单 元的流数目大于分发给权重低的处理单元的流数目， 所述权重用于标识所述各 处理单元可处理的流量；

获得器， 用于获得各处理单元在接收到当前时刻待分发的流之后更新的权 重， 作为当前时刻多核处理器各处理单元的权重。

本发明实施例的多核处理器的流分发方法及装置， 通过根据上一时刻多 核处理器各处理单元的权重， 通过轮询的方式将当前时刻待分发的流逐流分 发给各处理单元， 分发给权重高的处理单元的流数目大于分发给权重低的处 理单元的流数目， 并获得各处理单元在接收到上述流之后更新的权重， 作为 当前时刻多核处理器各处理单元的权重， 实现了更加合理的流量分发， 更高 效地利用了多核处理器的资源。 附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案， 下面将对实施 例或现有技术描述中所需要使用的附图作一简单地介绍， 显而易见地， 下面描 述中的附图是本发明的一些实施例， 对于本领域普通技术人员来讲， 在不付出 创造性劳动的前提下， 还可以根据这些附图获得其他的附图。 图 1为本发明一个实施例提供的多核处理器的流分发方法的流程图； 图 2为本发明又一个实施例提供的多核处理器的流分发方法的流程图； 图 3 为本发明一个实施例提供的多核处理器的流分发装置的结构示意 图。 具体实施方式

为使本发明实施例的目的、 技术方案和优点更加清楚， 下面将结合本发明 实施例中的附图， 对本发明实施例中的技术方案进行清楚、 完整地描述， 显然， 所描述的实施例是本发明一部分实施例， 而不是全部的实施例。 基于本发明中 的实施例， 本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其 他实施例， 都属于本发明保护的范围。

图 1为本发明一个实施例提供的多核处理器的流分发方法的流程图，如图 1 所示， 该方法包括：

步骤 101 : 多核处理器的流分发装置接收当前时刻待分发的流；

其中， 流分发装置可以为多核处理器中的分发模块， 分发模块可以由软件 实现， 也可以由硬件可编程逻辑电路实现。 待分发的流可以是网络中的业务流， 每条业务流都可以由人为定义的一组规则来标识， 例如可以通过五元组来标识 一条流。 当前时刻待分发的流可以是一条也可以是多条。

步驟 102: 多核处理器的流分发装置根据上一时刻多核处理器各处理单元的 权重， 通过轮询的方式将当前时刻待分发的流分发给各处理单元， 分发给权重 高的处理单元的流数目大于分发给权重低的处理单元的流数目；

其中， 权重用于标识各处理单元在某一特定时刻可处理的流量。 多核处理 器各处理单元的权重可以通过如下方式获得： 各处理单元实时获得自身的负载 占用率， 或者通过流量统计装置实时获取当前时刻经过本处理单元的流量速率。 需要说明的是， 由于处理单元实际上处理的是二进制指令， 那么处理单元的负 载占用率可以理解为处理单元在当前时刻正在执行的二进制指令数相对于能够 执行的二进制指令数的比率。 负载占用率可以用于描述处理单元的工作状态， 换句话讲， 负载占用率越高， 说明处理单元的工作状态越忙碌， 则处理单元可 处理的流量， 即权重， 就越低。 当负载占用率超过一个预设门限（如 80% ) 时， 说明该处理单元非常忙碌， 不宜再处理更多的流。 这时该处理单元可以将自身 的状态值设置为 1 , 即表明该处理单元的负载占用率已超过预设门限， 多核处理 器的流分发装置需降低该处理单元的权重。 如果该处理单元在一段时间内负载 占用率持续超过预设门限， 则说明该处理单元严重过载， 多核处理器的流分发 装置可以将该处理单元的权重降为 0, 即不分发流给该处理单元。 如果该处理单 元的负载占用率未超过预设门限， 则可以将自身的状态值设置为 0， 即表明该处 理单元尚有处理更多流的能力， 多核处理器的流分发装置可以提高该处理单元 的权重。

流量统计装置可以通过专门的一种软件或者硬件实现， 单位时间内经过处 理单元的流量速率即可以理解为流量， 而处理单元能够处理的流量是一定的， 因此当前时刻正在处理的流量相对于能够处理的流量的比率， 仍然能够反映处 理单元的工作状态。 即单位时间内经过处理单元的流量速率越大， 该处理单元 的工作状态越忙碌， 则处理单元可处理的流量， 即权重， 就越低。 因此， 如果 待分发的流为多条， 则分发给权重高的处理单元的流数目就越大， 分发给权重 低的处理单元的流数目就越小。 一般情况下， 分发给权重高的处理单元的流数 目大于分发给权重低的处理单元的流数目。 如果待分发的流为一条， 则分发给 权重最高的处理单元。 如果某一个处理单元在上一个时刻的权重低于某一个预 设的值（如 0.2 ), 甚至达到了 0, 则表明此处理单元在上一时刻的某些流的流量 持续过大， 则不分发流给此处理单元。

步骤 103 : 多核处理器的流分发装置获得各处理单元在接收到当前时刻待分 发的流之后更新的权重， 作为当前时刻多核处理器各处理单元的权重。

其中， 由于各处理单元接收到的待分发的流的数目不同， 且每条待分发的 流的流量也不尽相同， 这就导致了各处理单元在接收到当前时刻的待分发的流 后， 其权重也可能会发生改变， 则各处理单元更新其自身的权重， 多核处理器 的流分发装置获得各处理单元更新的权重， 作为当前时刻多核处理器各处理单 元的权重， 并作为下一时刻流分发的权重参考值。 其中， 可以通过如下方式获 得各处理单元更新的权重： 第一种， 读取多核处理器共享内存中保存的各处理 单元更新的负载占用率、 或者流量速率、 或者状态值， 第二种， 接收各处理单 元发送的负载占用率、 或者流量速率、 或者状态值。

进一步的， 作为对步骤 102 的一种补充情况， 该方法还可以包括： 如果上 一时刻多核处理器各处理单元的权重均小于等于预设门限时， 将当前时刻待分 发的流逐包分发给各处理单元， 直至接收到的当前时刻更新的权重中至少一个 处理单元的权重大于预设门限后改为逐流分发。

图 2为本发明又一个实施例提供的多核处理器的流分发方法的流程图，图 2 所示的流程图为图 1 所示方法的一种具体实现形式， 并不用以限制本发明的保 护范围， 如图 2所示， 该方法包括：

步骤 201 : 多核处理器的各处理单元定期获取各自的工作情况， 并写入多核 处理器的共享内存；

其中， 处理单元的工作情况可以为负载占用率、 任意单位时间内经过本处 理单元的流量速率、 状态值等。

其中， 写入共享内存的各处理单元的工作情况可以但不限于如表 1所示： 表 1

其中， 如果处理单元处理的流量速率在单位时间内高于预设门限， 或者负 载占用率高于预设门限， 可以将状态值设为 1 , 如果处理单元处理的流量速率在 单位时间内低于预设门限， 或者负载占用率低于预设门限， 则使用状态值的默 认值为 0。 当然， 这里的 1和 0都是为了表达状态而设定的值， 并不用以限制本 发明的保护范围。 预设门限是本领域技术人员根据经验或者特定处理单元的处 理能力所设置的值， 通常处理单元的负载占用率超过 80%即可认为是超出自身 的负载能力， 则该预设门限可以为 80%。

步骤 202: 多核处理器的分发模块获取到各处理单元的工作情况； 需要说明的是， 分发模块既可以主动获取各处理单元的工作情况， 也可以 被动获取各处理单元的工作情况。 其中， 分发模块主动获取各处理单元的负载 状态可以为： 分发模块定期读取多核处理器共享内存中保存的各处理单元的工 作情况； 分发模块被动获取各处理单元的工作情况可以为： 多核处理器的各处 理单元在将各自的工作情况写入共享内存的同时， 将各自的工作情况同时发送 给分发模块； 或者分发模块通过流量统计装置获取任意单位时间经过各处理单 元的流量速率等。

步骤 203 : 多核处理器的分发模块根据各处理单元的工作情况向各处理单元 分发流。

第一种情况， 初始状态下， 各个处理单元的负载占用率、 流量速率可以为 相同的， 分发模块逐流分发给各处理单元。

第二种情况， 假设该多核处理器中的一个处理单元中接收到持续增大的一 条流量， 使得该处理单元的负载占用率或者单位时间内经过本处理单元的流量 速率等超出预设门限， 分发模块对该处理单元的过载情况进行记录， 并按一定 的顺序重新选择另一处理单元进行流量的分发。 这里处理单元的重新选择可以 但不限于是按照处理单元的标号顺序进行选择， 或者按照处理单元负载从小到 大的顺序进行选择。

第三种情况， 假设分发模块将全部的处理单元都选择完成后， 每一个处理 单元都存在了过载记录， 则将该持续增大的流量改为逐包分发， 由所有的处理 单元分担处理。 对于第三种情况需要说明的是， 逐包分发涉及到报文保序的问 题， 但由于目前主流的多核处理器都可以支持针对特定流的报文保序功能， 虽 然会对性能造成一些损耗， 但不会对多核处理器的工作造成太大的问题。

第四种情况， 假设分发模块感知到逐包分发的这一流量降下来后， 即各处 理单元中至少一个处理单元的负载占用率、 或者单位时间内经过本处理单元的 流量速率等低于预设门限， 则重新改为逐流分发。 这里需要说明的是， 如果各 处理单元的负载占用率、 流量速率降低到预设门限以下， 则分发模块可以将该 处理单元的过载记录进行删除。

本发明实施例提供的多核处理器的流分发方法， 通过根据处理单元的工作 情况动态调整分发策略， 实现了更加合理的流量分发， 更高效地利用了多核处 理器的资源。

图 3 为本发明一个实施例提供的多核处理器的流分发装置的结构示意图， 如图 3所示， 该装置包括： 接收器 301、 分发器 302和获得器 303。 其中的接收 器 301 , 用于接收当前时刻待分发的流； 分发器 302, 用于根据上一时刻多核处 理器各处理单元的权重， 通过轮询的方式将当前时刻待分发的流逐流分发给各 处理单元， 分发给权重高的处理单元的流数目大于分发给权重低的处理单元的 流数目， 权重用于标识各处理单元可处理的流量； 获得器 303 , 用于获得各处理 单元在接收到当前时刻待分发的流之后更新的权重， 作为当前时刻多核处理器 各处理单元的权重。

一种实施方式下， 分发器 302还可以用于： 当上一时刻多核处理器各处理 单元的权重均小于等于预设门限时， 将当前时刻待分发的流逐包分发给各处理 单元， 直至接收到当前时刻更新的权重中至少一个大于预设门限后改为逐流分 发。

又一种实施方式下， 该获得器 303 包括第一子单元， 用于读取多核处理器 的共享内存中保存的由各处理单元更新的负载占用率或单位时间内经过各处理 单元的流量速率或状态值； 或者， 第二子单元， 用于接收各处理单元发送的负 载占用率或单位时间内经过各处理单元的流量速率或状态值。

一种实施方式下， 该多核处理器的流分发装置可以为上述方法实施例中描 述的多核处理器的分发模块。

本领域普通技术人员可以理解： 实现上述方法实施例的全部或部分步骤可 以通过程序指令相关的硬件来完成， 前述的程序可以存储于一计算机可读取存 储介质中， 该程序在执行时， 执行包括上述方法实施例的步骤； 而前述的存储 介质包括： ROM、 RAM, 磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是： 以上实施例仅用以说明本发明的技术方案， 而非对其 限制； 尽管参照前述实施例对本发明进行了详细的说明， 本领域的普通技术 人员应当理解： 其依然可以对前述各实施例所记载的技术方案进行修改， 或 者对其中部分技术特征进行等同替换； 而这些修改或者替换， 并不使相应技 术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims

权 利 要 求

1、 一种多核处理器的流分发方法， 其特征在于， 包括：

多核处理器的流分发装置接收当前时刻待分发的流；

根据上一时刻多核处理器各处理单元的权重， 通过轮询的方式将所述当前 时刻待分发的流逐流分发给各处理单元， 分发给权重高的处理单元的流数目大 于分发给权重低的处理单元的流数目， 所述权重用于标识所述各处理单元可处 理的流量；

获得各处理单元在接收到当前时刻待分发的流之后更新的权重， 作为当前 时刻多核处理器各处理单元的权重。

2、根据权利要求 1所述的方法， 其特征在于， 当所述上一时刻多核处理器 各处理单元的权重均小于等于预设门限时， 所述方法还包括：

将所述当前时刻待分发的流逐包分发给各处理单元， 直至接收到的当前时 刻更新的权重中至少一个大于预设门限后改为逐流分发。

3、根据权利要求 1所述的方法， 其特征在于， 所述获得各处理单元在接收 到当前时刻待分发的流之后更新的权重， 包括：

读取共享内存中保存的由所述各处理单元更新的负载占用率或单位时间内 经过各处理单元的流量速率或状态值；

或者， 接收所述各处理单元发送的负载占用率或单位时间内经过各处理单 元的流量速率或状态值。

4、 一种多核处理器的流分发装置， 其特征在于， 包括：

接收器， 用于接收当前时刻待分发的流；

分发器， 用于根据上一时刻多核处理器各处理单元的权重， 通过轮询的方 式将所述当前时刻待分发的流逐流分发给各处理单元， 分发给权重高的处理单 元的流数目大于分发给权重低的处理单元的流数目， 所述权重用于标识所述各 处理单元可处理的流量；

获得器， 用于获得各处理单元在接收到当前时刻待分发的流之后更新的权

重， 作为当前时刻多核处理器各处理单元的权重。

5、 根据权利要求 4所述的流分发装置， 其特征在于， 所述分发器还用于： 当所述上一时刻多核处理器各处理单元的权重均小于等于预设门限时， 将所述 当前时刻待分发的流逐包分发给各处理单元， 直至接收到的当前时刻更新的权 重中至少一个大于预设门限后改为逐流分发。

6、 根据权利要求 5所述的流分发装置， 其特征在于， 所述获得器包括： 第 一子单元， 用于读取共享内存中保存的由所述各处理单元更新的负载占用率或 单位时间内经过各处理单元的流量速率或状态值；

或者， 第二子单元， 用于接收所述各处理单元发送的负载占用率或单位时 间内经过各处理单元的流量速率或状态值。

7、 根据权利要求 4至 6中任一项所述的流分发装置， 其特征在于， 所述 流分发装置为多核处理器的分发模块。

10