CN109862023B - 一种嵌入式设备实现加速计算和高速网络数据传输方法 - Google Patents

Abstract

本发明提供一种嵌入式设备实现加速计算和高速网络数据传输方法，解决了在嵌入式设备的异构多核处理器实现高速率计算的情况下，为了满足加速计算的需求，通过设计一种网络传输方法来提高网卡的网络传输速率。其主要方法是嵌入式设备异构多核处理器的微处理器核负责接收加速计算的输入数据和参数数据，然后调用异构多核处理器的加速计算核进行加速计算，最后将计算好的结果数据通过以太网发送出去。本发明采用的方法直接以裸板的方式通过以太网发送和接收不包含TCP/IP包头的网络包，从而保证网络传输的速率与加速计算模块的计算速率相匹配，达到整体的性能提升。

Description

一种嵌入式设备实现加速计算和高速网络数据传输方法

技术领域

本发明涉及一种嵌入式设备实现加速计算和高速网络数据传输方法，尤其涉及一种嵌入式设备底层网络传输方法，属于网络开发领域。

背景技术

异构多核处理器是指在一个处理器芯片内集成了多个不同架构的处理器核。不同架构的处理器核完成不同类型的功能，且它们之间相互配合，从而使得整个处理器的效能得到较大的提升。

在嵌入式产品中，使用异构多核处理器有助于嵌入式产品的性能提升，拓宽了嵌入式产品的发展空间。包含嵌入式微处理器核和加速计算核的异构多核处理器可以通过嵌入式微处理器核来完成与网卡等外设的交互以及整个处理器的任务控制和调度，并通过加速计算核来进行加速计算，通过嵌入式微处理器核和加速计算核的配合工作，实现了处理器整体性能的提升。

目前，已经有很大范围的嵌入式产品中采用以太网网卡进行数据传输，基于操作系统的网络传输需要经过协议栈组网络包和拆网络包，相比而言，直接以裸板的方式通过以太网发送和接收不包含TCP/IP头的网络包可以节省协议栈组网络包和解析网络包的时间，从而保证网卡的传输速率尽可能接近物理层的传输速率，从而提升嵌入式设备的网络传输速率。

随着嵌入式设备异构多核处理器的加速计算核计算速率的不断提升，在嵌入式设备上基于操作系统等的网络传输，需要经过协议栈解析网络数据包，使得在这种时间要求比较高的条件下网络数据包的处理速度不能达到最优，拖慢了这种实时性要求比较高的嵌入式系统的整体速度。因此，对于需要完成加速计算和网络数据传输的嵌入式设备，为了使网络传输的速率与加速计算的速率匹配，需要一种不经过协议栈的网络传输方法来提高网络传输的速度。

目前有相关文献报导如下：

(1)CN1211746C:嵌入式系统与外部数据库进行数据交换的方法；

(2)CN205210648U:一种嵌入式数据处理和网络通信控制器；

(3)王再见，万婷等,一种嵌入式实时网络多媒体数据传输方法.系统仿真学报。

现有技术存在的缺点和不足：

专利号为CN1211746C的专利，是基于HTTP协议的网络传输方法，而HTTP协议又是基于操作系统和TCP/IP协议栈的，这两者在处理网络数据包时会带来较大的延迟，从而降低传输速率。专利号为CN205210648U的专利中的嵌入式控制器仅能够实现基本的控制功能，不支持加速计算。论文(3)中，采用的是FPGA实现的网络传输，受系统时钟的限制，传输速率较低。

发明内容

本发明要解决的技术问题是：克服现有技术的不足，提供一种嵌入式设备实现加速计算和高速网络数据传输方法，不经过协议栈的网络传输，提高了网络传输的速度。

为了解决上述技术问题，本发明采用的技术方案如下：一种嵌入式设备实现加速计算和高速网络数据传输方法；

嵌入式设备与主机设备之间通过底层网络发送和接收数据时，嵌入式设备部分主要包括由嵌入式微处理器核和加速计算核构成的异构多核处理器，包含输入buffer、参数buffer和输出buffer的存储器和网卡等。

嵌入式设备通过网络接收来自主机的原始数据，对接收到的数据进行加速计算，再将计算后的结果数据通过网络发送至主机；所述嵌入式设备对接收到的数据进行加速计算是指接收到原始数据包后，若原始数据包中的加速计算的标志信息有效，则调用异构多核处理器的加速计算核进行加速计算；

所述原始数据包括：来自主机的数据包、任务包和它们内部的标志信息，所述标志信息包括：从任务包中解析出数据存储到嵌入式设备中的存储地址、数据长度、发送或接收标志信息，及是否进行加速计算的标志信息。

所述嵌入式设备通过网络接收来自主机的原始数据包时，从接收到的原始数据包中拆出有效的原始数据并将数据存储至任务包指定的存储空间。

所述嵌入式设备通过网络发送计算好的结果数据到主机，是将处理好的结果数据进行组包，通过网络将组好的数据包发送至主机。

所述任务包和数据包均是裸包。

所述嵌入式设备一直轮询来自主机的任务包，根据不同的任务包处理不同的任务。

所述嵌入式设备在接收数据包时需要先发送一个握手包给主机。

所述嵌入式设备的网卡支持DMA功能。

完整的工作流程如下：

步骤1：嵌入式设备通过网卡从主机接收需要进行加速计算的输入数据包和参数数据包。

步骤2：嵌入式设备异构多核处理器的嵌入式微处理器核将网卡接收到的网络包拆包得到需要进行处理的输入数据和参数数据，并将输入数据存储至输入buffer，将参数数据存储至参数buffer。

步骤3：嵌入式设备异构多核处理器的加速计算核采用参数buffer中的参数数据对输入buffer中的输入数据进行加速计算，并将计算好的结果数据存储在输出buffer中。

步骤4：嵌入式设备处理器的嵌入式微处理器核将输出buffer中的结果数据取出来并封成裸包发送到网卡接口。

步骤5：主机接收来自嵌入式设备的网络包，并将接收到的网络包拆包得到处理好的结果数据。

一种基于异构多核处理器的嵌入式设备实现高速网络数据传输的方法，其步骤包括：

步骤1：嵌入式设备初始化网卡。

步骤2：嵌入式设备一直接收来自主机的任务包。

步骤3：若接收到任务包，则将接收到任务包的标志置1，否则，回到步骤2继续接收任务包。

步骤4：解析任务包，判断是发送任务还是接收任务，若为接收任务，则执行步骤5的相关操作；若为发送任务，则执行步骤7的相关操作；若既不是接收任务又不是发送任务，则回到步骤2。

步骤5：接收数据包，并将其中的原始数据信息存储到接收任务包指定的地址空间中。

步骤6：判断接收到的任务包中的标志信息来确定是否需要加速计算，若需要加速计算，则调用异构多核处理器的加速计算核进行计算并在计算完成后清除加速计算标志位，再回到步骤2；若不需要加速计算，则直接回到步骤2。

步骤7：判断加速计算标志是否被清除，若已经被清除，则执行步骤8；若未被清除，则返回继续查询加速计算标志是否被清除。

步骤8：将加速计算好的结果数据封装成数据包发送到主机，并回到步骤2。

进一步地，嵌入式设备接收到的接收任务包包含数据存储到嵌入式设备中的存储地址、数据长度、发送或接收标志信息、是否进行加速运算的标志信息。

进一步地，嵌入式设备接收到的发送任务包包含从嵌入式设备中读数据的存储地址、数据长度、发送或接收标志信息。

进一步地，嵌入式设备端运行的是裸机代码，原始数据无需通过协议栈解析，只需简单拆包后即可存储至任务包中指定好的嵌入式设备的存储空间。

进一步地，嵌入式设备在接收数据包时需要先发送一个握手包给主机。

本发明提出一种嵌入式设备实现加速计算和高速网络数据传输的方法，实现了嵌入式设备通过网络接收来自主机的原始数据；嵌入式设备对接收到的数据进行加速计算；嵌入式设备通过网络发送计算好的结果数据到主机。与现有技术相比，本发明的优点和有益效果如下：

(1)本发明采用底层网络传输方式，与采用操作系统的方式相比，无需经过协议栈解析，从而提高了网络收发速度。

(2)本发明中嵌入式设备采用异构多核处理器，通过提升网络传输的速率，使其与加速计算核的计算速率匹配，系统整体性能有了很大的提高。

附图说明

图1为本发明方法的示意图；

图2为本发明方法的模块图；

图3为本发明方法的整体工作流程图；

图4为本发明中嵌入式设备网络接口层接收操作的流程图；

图5为本发明中嵌入式设备端接收单组数据的流程图；

图6为本发明中嵌入式设备网络接口层发送操作的流程图；

图7为本发明中嵌入式设备发送单个数据包流程图。

具体实施方式

下面通过具体实施例和附图，对本发明做详细的说明。

图1、图2所示，为本发明中嵌入式设备与主机之间发送和接收数据的示意图和模块图。嵌入式设备部分主要包括嵌入式微处理器核和加速计算核构成的异构多核处理器、存储器和网卡，异构多核处理器和网卡通过总线访问存储器中的输入buffer、输出buffer和参数buffer。嵌入式设备和主机之间通过网卡收发数据。

完整的接收和发送工作流程如下：

步骤1：嵌入式设备通过网卡从主机接收需要进行加速计算的输入数据包和参数数据包。

步骤2：嵌入式设备的异构多核处理器的嵌入式微处理器核将网卡接收到的网络包拆包得到需要进行处理的输入数据和参数数据，并将输入数据存储至输入buffer，将参数数据存储至参数buffer。

步骤3：嵌入式设备异构多核处理器的加速计算核采用参数buffer中的参数数据对输入buffer中的输入数据进行加速计算，并将计算好的结果数据存储在输出buffer中。

步骤4：嵌入式设备异构多核处理器的嵌入式微处理器核过执行裸机程序将输出buffer中的结果数据取出来并封成裸包发送到网卡接口。

步骤5：主机接收来自嵌入式设备的网络包，并将接收到的网络包拆包得到处理好的结果数据。

图3是本实施例的一种嵌入式设备实现加速计算和高速网络数据传输的方法的整体工作流程图。该方案的主要流程是嵌入式设备一直轮询任务包，根据接收到的任务包确定执行发送任务还是接收任务，若为接收任务，则将接收到的数据包中的数据拆出来，然后再判断是否需要进行加速计算，若需进行加速计算则将接收到的数据存储到输入buffer并调用加速计算核进行加速计算，否则，将接收到的数据存储到参数buffer中；若为发送任务，则检查加速计算是否完成，若完成则直接将加速计算完成的结果数据从输出buffer取出来并发送到主机，否则等待加速计算完成后将加速计算的结果数据发送到主机。具体操作步骤如图3所示：

步骤1：嵌入式设备初始化网卡接口。

步骤2：嵌入式设备接收来自主机的任务包，接收任务包包含输入buffer或参数buffer的存储地址、数据长度、接收标志信息、是否进行加速运算的标志信息，发送任务包包含输出buffer的存储地址、数据长度、发送标志信息。

步骤3：若接收到任务包，则执行步骤4，否则，回到步骤2。

步骤4：将接收到任务包标志置1。

步骤5：判断接收到的任务包是否为接收任务包，若为接收任务包，则执行步骤6；否则，判断是否为发送任务包，若为发送任务包，则执行步骤12，否则，回到步骤2。

步骤6：接收数据包，将接收到的数据包拆包。

步骤7：判断是否需要进行加速计算，若需要进行加速计算，则执行步骤8，否则，跳到步骤11。

步骤8：将拆出的数据存储至输入buffer。

步骤9：调用加速计算核对接收到的输入buffer中的数据进行加速计算。

步骤10：清除加速计算标志，回到步骤2。

步骤11：将拆出的数据存储至参数buffer，回到步骤2。

步骤12：判断加速计算标志是否被清除，若加速计算标志被清除，则执行步骤13；否则，继续查询加速计算标志是否被清除。

步骤13：从输出buffer中取加速计算完成的数据来组数据包。

步骤14：将加速计算核计算完成的数据包发送到主机，并回到步骤2。

上述接收流程的具体实现如图4和图5所示，图4是嵌入式设备网络接口层的接收操作流程图，图5是嵌入式设备接收单组数据的操作流程图。上述发送流程的具体实现如图6和图7所示，图6是嵌入式设备网络接口层的发送操作流程图，图7是嵌入式设备发送单个网络包的操作流程图。

图4为本发明中嵌入式设备网络接口层接收操作的流程图，具体操作步骤如下：

步骤1：根据接收到的接收任务包中的数据长度信息和输入(参数)buffer的地址信息，计算要接收的输入数据所需的单个网络包的数据长度，单组网络包的数据长度，组数和最后一组剩余的数据长度。

步骤2：判断需要接收的数据包是否为最后一组，若不是最后一组数据包，则执行步骤3；否则，执行步骤8。

步骤3：嵌入式设备发送告知主机嵌入式设备网卡准备好的应答包到主机。

步骤4：嵌入式设备接收一组来自主机的网络数据包。

步骤5：嵌入式设备判断接收到的数据长度是否为0，若为0，则跳转到步骤14；否则执行步骤6。

步骤6：判断接收到的数据长度是否大于0，若大于0，则执行步骤7；否则，回到步骤2。

步骤7：输入buffer或参数buffer地址和接收到数据的长度增加一组数据包的数据长度，并回到步骤2继续执行。

步骤8：判断最后一组的数据长度是否大于0，若大于0，则执行步骤9；否则，跳转到步骤14。

步骤9：嵌入式设备发送告知主机嵌入式设备网卡准备好的应答包到主机。

步骤10：嵌入式设备接收剩下的最后一组不完整的数据包。

步骤11：判断接收到的数据长度是否为0，若为0，则跳转到步骤14；否则执行步骤12。

步骤12：判断接收到的数据长度是否大于0，若大于0，则执行步骤13；否则，跳转到步骤14。

步骤13：接收到的数据长度增加不完整组数据包的数据长度。

步骤14：退出。

图5为本发明中嵌入式设备端接收单组数据的流程图，具体操作步骤如下：

步骤1：将循环计数器的初始值设置为网卡的当前接收描述符id。

步骤2：判断循环计数器的当前值是否小于接收描述符的个数，若小于接收描述符的个数，则执行步骤3，否则，跳到步骤12执行。

步骤3：判断嵌入式设备的网卡当前使用的接收描述符是否为host拥有，若为host拥有，则执行步骤4，否则跳到步骤14执行。

步骤4：超时计数器清0。

步骤5：判断嵌入式设备接收到的是否为数据包，若是数据包，则执行步骤6；否则，跳到步骤17执行。

步骤6：从数据包中去掉包头，拆出数据并存储到接收任务包中指定好的输入(参数)buffer地址空间。

步骤7：输入(参数)buffer地址和接收到的数据长度增加一个数据包的数据长度。

步骤8：循环计数器加1。

步骤9：设置嵌入式设备网卡的当前接收描述符为网卡的DMA拥有。

步骤10：判断嵌入式设备当前接收到的文件长度是否达到指定的文件长度，若达到了指定的文件长度，则执行步骤11；否则，跳到步骤2执行。

步骤11：嵌入式设备的网卡当前使用的接收描述符id加1。

步骤12：判断当前嵌入式设备接收到的文件长度是否小于指定的文件长度，若小于指定的文件长度，则执行步骤13，否则，跳到步骤22。

步骤13：将嵌入式设备的网卡当前使用的接收描述符id置0，回到步骤1继续执行。

步骤14：超时计数器加1计数。

步骤15：判断超时计数器当前值是否达到最大值，若达到最大值，则执行步骤16；否则，回到步骤3执行。

步骤16：将接收到任务标志清0，并跳到步骤3执行。

步骤17：判断接收到的网络包是否为任务包，若为任务包，则执行步骤18；否则，跳到步骤8执行。

步骤18：嵌入式设备解析任务包，从任务包中提取嵌入式设备的输入(或参数或输出)buffer地址、数据长度、发送或接收标志信息和加速计算标志信息。

步骤19：设置嵌入式设备网卡的当前接收描述符为网卡的DMA拥有。

步骤20：循环计数器加1计数。

步骤21：将嵌入式设备网卡当前使用的接收描述符id加1。

步骤22：退出。

图6为嵌入式设备网络接口层发送操作的流程图，具体操作步骤如下：

步骤1：嵌入式设备根据接收到的发送任务包，提取出输出buffer的地址、数据长度、发送标志信息。

步骤2：计算发送时，单个包的数据长度、发送加速计算结果数据到主机时所需要的包个数以及最后一个包的数据长度。

步骤3：判断是否已经发送完最后一个完整网络包，若不为最后一个完整包，则执行步骤4；否则，跳到步骤7执行。

步骤4：从嵌入式设备的输出buffer地址取加速计算好的单个数据包长度的数据，并添加主机和嵌入式设备的MAC地址以及发送标志信息来组一个完整的数据包后将其发送到主机。

步骤5：嵌入式设备的输出buffer地址增加单个数据包的长度。

步骤6：已发送的包个数计数器加1计数，回到步骤3。

步骤7：判断尾包的数据长度是否大于0，若大于0，则执行步骤8；否则，跳到步骤9。

步骤8：从嵌入式设备的输出buffer地址取加速计算好的结果数据的尾包数据，并将其添加主机和嵌入式设备MAC地址以及发送标志信息来组包后再将其发送到主机。

步骤9：退出。

图7为嵌入式设备发送单个数据包流程图，具体操作步骤如下：

步骤1：嵌入式设备开始发送单个网络包。

步骤2：判断要发送的网络包是否为数据包，若为数据包，则执行步骤3，否则，跳转到步骤4执行。

步骤3：从嵌入式设备的输出buffer地址中取出加速计算完成的数据，添加主机和嵌入式设备的MAC地址、数据包标志信息来组数据包，并跳转到步骤5执行。

步骤4：根据主机和嵌入式设备的MAC地址以及应答包标志信息来组发送到主机的应答包。

步骤5：设置嵌入式设备网卡的当前发送描述符为网卡的DMA拥有。

步骤6：重新恢复网卡的DMA发送。

步骤7：将嵌入式设备网卡的当前发送描述符id加1。

步骤8：判断网卡的当前发送描述符id是否大于发送描述符个数，若大于发送描述符个数，则执行步骤9，否则，跳到步骤10执行。

步骤9：将网卡的当前发送描述符id设置为0。

步骤10：退出。

提供以上实施例仅仅是为了描述本发明的目的，而并非要限制本发明的范围。本发明的范围由所附权利要求限定。不脱离本发明的精神和原理而做出的各种等同替换和修改，均应涵盖在本发明的范围之内。

Claims (7)

1.一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备采用异构多核处理器，所述异构多核处理器包括嵌入式微处理器核和加速计算核；

嵌入式设备通过网络接收来自主机的原始数据，对接收到的数据进行加速计算，再将计算后的结果数据通过网络发送至主机；所述嵌入式设备对接收到的数据进行加速计算是指接收到原始数据包后，若原始数据包中的加速计算的标志信息有效，则调用异构多核处理器的加速计算核进行加速计算；

所述加速计算过程为：

步骤1：嵌入式设备通过网卡从主机接收需要进行加速计算的输入数据包和参数数据包；

步骤2：嵌入式设备异构多核处理器的嵌入式微处理器核将网卡接收到的网络包拆包得到需要进行处理的输入数据和参数数据，并将输入数据存储至输入buffer，将参数数据存储至参数buffer；

步骤3：嵌入式设备异构多核处理器的加速计算核采用参数buffer中的参数数据对输入buffer中的输入数据进行加速计算，并将计算好的结果数据存储在输出buffer中；

步骤4：嵌入式设备处理器的嵌入式微处理器核将输出buffer中的结果数据取出来并封成裸包发送到网卡接口；

步骤5：主机接收来自嵌入式设备的网络包，并将接收到的网络包拆包得到处理好的结果数据；

所述原始数据包括：来自主机的数据包、任务包及它们内部的标志信息，所述标志信息包括：从任务包中解析出数据存储到嵌入式设备中的存储地址、数据长度、发送或接收标志信息，及是否进行加速计算的标志信息。

2.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备通过网络接收来自主机的原始数据包时，从接收到的原始数据包中拆出有效的原始数据并将数据存储至任务包指定的存储空间。

3.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备通过网络发送计算好的结果数据到主机，是将处理好的结果数据进行组包，通过网络将组好的数据包发送至主机。

4.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述任务包和数据包均是裸包。

5.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备一直轮询来自主机的任务包，根据不同的任务包处理不同的任务。

6.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备在接收数据包时需要先发送一个握手包给主机。

7.根据权利要求1所述的一种嵌入式设备实现加速计算和高速网络数据传输方法，其特征在于：所述嵌入式设备的网卡支持DMA功能。

Images