CN113626160A - 一种基于cavium处理器的网络数据包高并发处理方法与系统 - Google Patents

Abstract

本发明给出了一种基于cavium处理器的网络数据包高并发处理方法与系统，包括通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理。实现了业务核只负责处理业务，而分组任务和调度任务由cavium协处理器完成的会话处理结构，无需重新将任务发送至SSO调度器，极大简化了业务核处理流程。

Description

一种基于cavium处理器的网络数据包高并发处理方法与系统

技术领域

本发明涉及计算机网络应用技术领域，尤其是一种基于cavium处理器的网络数据包高并发处理方法与系统。

背景技术

OCTEON mips系列发展经历了三个阶段，OCTEON,OCTEON Plus和OCTEON2。包含CN3XXX、CN5XXX、CN6XXX、CN7XXX等等处理器。它们都具备高性能、高带宽、低功耗特点。OCTEON处理器可用于控制平台面应用，数据平台面应用，或两者的混合。网络收发产品、存储应用程序从100Mbps到100Gbps。

cavium公司的OCTEON mips系列处理器，提供了较高的报文收发能力，这对报文加工、处理带来巨大的挑战。以某款CN78XX为例，协处理器PKI、PKO可以达到100Gb/s的IO性能，CPU处理性能为48*1.6Ghz，想要达到3000万pps(packets per second)的处理速度，每个报文需要在2500个cycles之内处理完成。实际测试得出，在不计算等待消耗的情况下，一次spinlock加锁耗时需要200cycles左右，一次rwlock加锁耗时需要100-200cycles左右。因此，现有的基于cavium处理器的网络数据包处理方法中存在频繁加解锁的操作，无法满足更高的性能挑战。

发明内容

本发明提出了一种基于cavium处理器的网络数据包高并发处理方法与系统，以解决上文提到的现有技术的缺陷。

在一个方面，本发明提出了一种基于cavium处理器的网络数据包高并发处理方法，该方法包括以下步骤：

S1：通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；

S2：将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

以上方法通过配置SSO调度模块，让cavium处理器按照报文的哈希值来产生任务，再通过哈希值从SSO调度模块中获取各CPU核需要处理的任务，为cavium处理器中的各CPU核分配相应哈希值的会话报文；实现了业务核只负责处理业务，而分组任务和调度任务由cavium协处理器完成的会话处理结构，无需重新将任务发送至SSO调度器，极大简化了业务核处理流程。

在具体的实施例中，所述通过开启cavium处理器的tag计算配置开关，具体包括：

在cavium处理器中将CVMX_HELPER_INPUT_TAG_XX宏定义为1。

在具体的实施例中，所述S2中group＝input-ports*2^n，其中n为所述进行哈希计算得到相应的tag值时tag值所取的位数，n的最大值为32，input-ports为输入端口数。

在具体的实施例中，所述每个CPU核绑定的组的数量为group/core个。

在具体的实施例中，所述S2中还包括：

为cavium处理器中的每个CPU核分配一个会话表，所述会话表用0-255bits表示所述group个组，其中group的最大值为256。这使得每个CPU核通过创建独立的会话表以分配独立的资源，从而创建N个任务(N＝CPU核数)，此时同一个会话的数据将不可能在两个不同的任务中存在，因此实现了任务分离。

在具体的实施例中，所述S2中通过cvmx_pow_set_xgrp_mask(coreNum,grp_msk)配置寄存器，对CPU核与各CPU核对应的组进行绑定；其中uint 64_t grp_msk[4]＝{0,0,0,0}；且grp_msk包含256个bits，代表所述group个组中的第0–255组的编号，通过grp_msk获取编号为grp_msk的组，再通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务。

在具体的实施例中，所述通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务，具体包括：

每个CPU核调用cvmx_pow_work_request_sync(CVMX_POW_WAIT)获取所述编号为grp_msk的组中的任务，再通过cvmx_wqe_get_xgrp(pstWork)获取所述任务中的信息，校验所述任务的合法性。

根据本发明的第二方面，提出了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被计算机处理器执行时实施上述方法。

根据本发明的第三方面，提出一种基于cavium处理器的网络数据包高并发处理系统，该系统包括：

报文接收配置模块：配置用于通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；

会话绑核设置模块：配置用于将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

本发明通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理。实现了业务核只负责处理业务，而分组任务和调度任务由cavium协处理器完成的会话处理结构，无需重新将任务发送至SSO调度器，极大简化了业务核处理流程。

附图说明

包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点，因为通过引用以下详细描述，它们变得被更好地理解。通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性系统架构图；

图2是本发明的一个实施例的一种基于cavium处理器的网络数据包高并发处理方法的流程图；

图3是本发明的一个具体的实施例的会话绑定示意图；

图4是本发明的一个具体的实施例的CPU核与会话表的示意图；

图5是本发明的一个具体的实施例的会话分离后的任务处理示意图；

图6是本发明的一个实施例的一种基于cavium处理器的网络数据包高并发处理系统的框架图；

图7是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请实施例的一种基于cavium处理器的网络数据包高并发处理方法的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种应用，例如数据处理类应用、数据可视化类应用、网页浏览器应用等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上展示的报文提供支持的后台信息处理服务器。后台信息处理服务器可以对获取的tag值进行处理，并生成处理结果(例如会话表)。

需要说明的是，本申请实施例所提供的方法可以由服务器105执行，也可以由终端设备101、102、103执行，相应的装置一般设置于服务器105中，也可以设置于终端设备101、102、103中。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

根据本发明的一个实施例的一种基于cavium处理器的网络数据包高并发处理方法，图2示出了根据本发明的实施例的一种基于cavium处理器的网络数据包高并发处理方法的流程图。如图2所示，该方法包括以下步骤：

S201：通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中。

在具体的实施例中，所述通过开启cavium处理器的tag计算配置开关，具体包括：

在cavium处理器中将CVMX_HELPER_INPUT_TAG_XX宏定义为1。

以上操作具体包括在cavium处理器中开启以下开关：

#define CVMX_HELPER_INPUT_TAG_IPV6_SRC_IP1

#define CVMX_HELPER_INPUT_TAG_IPV6_DST_IP1

#define CVMX_HELPER_INPUT_TAG_IPV6_SRC_PORT1

#define CVMX_HELPER_INPUT_TAG_IPV6_DST_PORT1

#define CVMX_HELPER_INPUT_TAG_IPV6_NEXT_HEADER1

#define CVMX_HELPER_INPUT_TAG_IPV4_SRC_IP1

#define CVMX_HELPER_INPUT_TAG_IPV4_DST_IP1

#define CVMX_HELPER_INPUT_TAG_IPV4_SRC_PORT1

#define CVMX_HELPER_INPUT_TAG_IPV4_DST_PORT1

#define CVMX_HELPER_INPUT_TAG_IPV4_PROTOCOL1

#define CVMX_HELPER_INPUT_TAG_INPUT_PORT1

其中，CVMX_HELPER_INPUT_TAG_IPV4_SRC_IP的“IPV4_SRC_IP”代表该哈希值会根据报文的ipv4源ip计算得出；

以上配置使得cavium处理器会根据每个报文的五元组计算出tag值，该值保存在PKI(packets input报文接收模块)生成的数据结构cvmx_wqe_t中。

S202：将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

在具体的实施例中，所述S202中group＝input-ports*2^n，其中n为所述进行哈希计算得到相应的tag值时tag值所取的位数，n的最大值为32，input-ports为输入端口数。

在具体的实施例中，所述每个CPU核绑定的组的数量为group/core个。

图3示出了本发明的一个具体的实施例的会话绑定示意图，图中所示为：当input-ports(输入端口数)为3，n＝6时，总groups＝2^6*6＝384，每个核处理的groups＝384/48＝8。

在具体的实施例中，所述S202中还包括：

为cavium处理器中的每个CPU核分配一个会话表，所述会话表用0-255bits表示所述group个组，其中group的最大值为256。图4示出了本发明的一个具体的实施例的CPU核与会话表的示意图。

在具体的实施例中，所述S202中通过cvmx_pow_set_xgrp_mask(coreNum,grp_msk)配置寄存器，对CPU核与各CPU核对应的组进行绑定；其中uint64_tgrp_msk[4]＝{0,0,0,0}；且grp_msk包含256个bits，代表所述group个组中的第0–255组的编号，通过grp_msk获取编号为grp_msk的组，再通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务。

在具体的实施例中，所述通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务，具体包括：

每个CPU核调用cvmx_pow_work_request_sync(CVMX_POW_WAIT)获取所述编号为grp_msk的组中的任务，再通过cvmx_wqe_get_xgrp(pstWork)获取所述任务中的信息，校验所述任务的合法性。

图5示出了本发明的一个具体的实施例的会话分离后的任务处理示意图，会话分离使得每个CPU核通过创建独立的会话表以分配独立的资源，从而创建N个任务(N＝CPU核数)，此时同一个会话的数据将不可能在两个不同的任务中存在，因此实现了任务分离。

图6示出了本发明的一个实施例的一种基于cavium处理器的网络数据包高并发处理系统的框架图。该系统包括报文接收配置模块601和会话绑核设置模块602。

在具体的实施例中，报文接收配置模块601被配置用于通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；

会话绑核设置模块602被配置用于将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

本系统通过配置SSO调度模块，让cavium处理器按照报文的哈希值来产生任务，再通过哈希值从SSO调度模块中获取各CPU核需要处理的任务，为cavium处理器中的各CPU核分配相应哈希值的会话报文。实现了业务核只负责处理业务，而分组任务和调度任务由cavium协处理器完成的会话处理结构，无需重新将任务发送至SSO调度器，极大简化了业务核处理流程。

下面参考图7，其示出了适于用来实现本申请实施例的电子设备的计算机系统700的结构示意图。图7示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图7所示，计算机系统700包括中央处理单元(CPU)701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有系统700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，并且这些单元的名称在某种情况下并不构成对该单元本身的限定。

本发明的实施例还涉及一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被计算机处理器执行时实施上文中的方法。该计算机程序包含用于执行流程图所示的方法的程序代码。需要说明的是，本申请的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。

本发明通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理。实现了业务核只负责处理业务，而分组任务和调度任务由cavium协处理器完成的会话处理结构，无需重新将任务发送至SSO调度器，极大简化了业务核处理流程。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (9)

1.一种基于cavium处理器的网络数据包高并发处理方法，其特征在于，包括以下步骤：

S1：通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；

S2：将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

2.根据权利要求1所述的方法，其特征在于，所述通过开启cavium处理器的tag计算配置开关，具体包括：

在cavium处理器中将CVMX_HELPER_INPUT_TAG_XX宏定义为1。

3.根据权利要求1所述的方法，其特征在于，所述S2中group＝input-ports*2^n，其中n为所述进行哈希计算得到相应的tag值时tag值所取的位数，n的最大值为32，input-ports为输入端口数。

4.根据权利要求3所述的方法，其特征在于，所述每个CPU核绑定的组的数量为group/core个。

5.根据权利要求1所述的方法，其特征在于，所述S2中还包括：

为cavium处理器中的每个CPU核分配一个会话表，所述会话表用0-255bits表示所述group个组，其中group的最大值为256。

6.根据权利要求5所述的方法，其特征在于，所述S2中通过cvmx_pow_set_xgrp_mask(coreNum,grp_msk)配置寄存器，对CPU核与各CPU核对应的组进行绑定；其中uint64_tgrp_msk[4]＝{0,0,0,0}；且grp_msk包含256个bits，代表所述group个组中的第0–255组的编号，通过grp_msk获取编号为grp_msk的组，再通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务。

7.根据权利要求6所述的方法，其特征在于，所述通过CPU核获取所述编号为grp_msk的组中的任务并处理所述任务，具体包括：

每个CPU核调用cvmx_pow_work_request_sync(CVMX_POW_WAIT)获取所述编号为grp_msk的组中的任务，再通过cvmx_wqe_get_xgrp(pstWork)获取所述任务中的信息，校验所述任务的合法性。

8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被计算机处理器执行时实施权利要求1至7中任一项所述的方法。

9.一种基于cavium处理器的网络数据包高并发处理系统，其特征在于，包括：

报文接收配置模块：配置用于通过开启cavium处理器的tag计算配置开关，根据每个报文的五元组对每个报文进行哈希计算得到相应的tag值，将所述tag值保存在数据结构中；

会话绑核设置模块：配置用于将所有报文分为group个组，其中所述tag值相同的报文被分在同一个组中，再将所述group个组分为core个集合，将每个不同的集合中的组分配给cavium处理器中的core个CPU核，并将每个组与对应的CPU核进行绑定，每个CPU核对各自已绑定的组中的报文进行处理，其中core为CPU核的个数。

Images