CN111143276A - 一种异构计算系统及其计算方法 - Google Patents

Abstract

本申请公开了一种异构计算系统，包括本地服务器、第一根级加速卡、次级加速卡，其中第一根级加速卡为通过PCIE模块直接与本地服务器相连接的PHY异构加速卡，次级加速卡为通过MAC模块直接或间接地与第一根级加速卡相连接的PHY异构加速卡。可见，该异构计算系统中的第一根级加速卡不仅通过PCIE模块与本地服务器相连接，还通过MAC模块与次级加速卡相连接，因此，一方面使得PHY异构加速卡不再与CPU紧耦合，数量不再受到限制；另一方面，PHY异构加速卡之间的通信不再需要经过CPU，降低了本地服务器的资源占用率。此外，本申请还提供了一种异构计算方法，其技术效果与上述系统的技术效果相对应。

Description

一种异构计算系统及其计算方法

技术领域

本申请涉及计算机技术领域，特别涉及一种异构计算系统及其计算方法。

背景技术

目前，国内PHY云服务厂商几乎都是采用的单机单卡、单机多卡的绑定模式，即一台服务器上插一张卡，或者一台服务器上插多张卡。在该机卡绑定方式模式下，PHY与CPU紧耦合，用户只能通过主机端的CPU对PHY卡进行访问使用，并且每个用户可划分到的PHY板卡受所绑定板卡个数的限制，板卡与板卡间没有直接的数据通信链路，板卡间若有通信的需求，数据须经过CPU进行转发。

可见，当前PHY板卡与CPU紧耦合，一方面导致PHY数量受到限制，另一方面PHY板卡之间通信需要占用服务器计算资源。

发明内容

本申请的目的是提供一种异构计算系统，用以解决由于当前PHY板卡与CPU紧耦合，导致PHY数量受到限制，而且PHY板卡之间通信需要占用服务器计算资源的问题。

为解决上述技术问题，本申请提供了一种异构计算系统，包括：本地服务器、第一根级加速卡、次级加速卡，所述第一根级加速卡为通过PCIE模块直接与所述本地服务器相连接的PHY异构加速卡，所述次级加速卡为通过MAC模块直接或间接地与所述第一根级加速卡相连接的PHY异构加速卡；

其中，所述本地服务器用于向所述第一根级加速卡发送源操作数，所述第一根级加速卡用于将所述源操作数分配给所述次级加速卡以进行计算，并将各个所述次级加速卡的计算结果反馈至所述本地服务器。

优选的，所述次级加速卡设置于PHY盘柜中。

优选的，所述第一根级加速卡通过MAC模块经由以太网交换机与所述PHY盘柜中的所述次级加速卡相连接。

优选的，在所述本地服务器向所述第一根级加速卡发送源操作数时，所述本地服务器通过软件驱动识别所述第一根级加速卡，并以配置寄存器的方式控制所述第一根级加速卡从本地读取所述源操作数。

优选的，所述第一根级加速卡在从所述本地服务器读取所述源操作数时，确定所述源操作数的数据量，若所述源操作数的数据量超过预设阈值，则根据所述本地服务器侧的配置寄存器对所述源操作数进行封包，并将数据包发送至所述次级加速卡。

优选的，所述次级加速卡在接收到所述数据包之后，对所述数据包进行解包，若解包得到的源操作数的数据量超过所述预设阈值，则调用基于RTL实现的接口对所述解包得到的源操作数进行再次封包，并将再次封包得到的数据包发送至与自身连接的次级加速卡。

优选的，还包括第二根级加速卡，所述第二根级加速卡为通过MAC模块直接与所述本地服务器相连接的PHY异构加速卡。

优选的，在所述本地服务器向所述第二根级加速卡发送源操作数时，根据所述源操作数和目标网络层协议生成以太网数据帧，并将所述以太网数据帧发送至所述第二根级加速卡；所述第二根级加速卡根据所述目标网络层协议对所述以太网数据帧进行处理或转发。

优选的，还包括：远端服务器，所述远端服务器通过MAC模块与所述次级加速卡相连接。

此外，本申请还提供了一种异构计算方法，基于如上所述的异构计算系统实现，该方法包括：

本地服务器通过PCIE模块向第一根级加速卡发送源操作数；

所述第一根级加速卡通过MAC模块将所述源操作数分配给次级加速卡；

所述次级加速卡对所述源操作数进行计算，得到计算结果；

所述第一根级加速卡通过MAC模块获取各个所述次级加速卡的计算结果，并通过PCIE模块反馈至所述本地服务器。

本申请所提供的一种异构计算系统，包括本地服务器、第一根级加速卡、次级加速卡，其中第一根级加速卡为通过PCIE模块直接与本地服务器相连接的PHY异构加速卡，次级加速卡为通过MAC模块直接或间接地与第一根级加速卡相连接的PHY异构加速卡。在异构计算过程中，本地服务器用于向第一根级加速卡发送源操作数，第一根级加速卡进而将源操作数分配给次级加速卡以进行计算，并将各个次级加速卡的计算结果反馈至本地服务器。可见，该异构计算系统中的第一根级加速卡不仅通过PCIE模块与本地服务器相连接，还通过MAC模块与次级加速卡相连接，因此，一方面使得PHY异构加速卡不再与CPU紧耦合，数量不再受到限制；另一方面，PHY异构加速卡之间的通信不再需要经过CPU，降低了本地服务器的资源占用率。

此外，本申请还提供了一种异构计算方法，其技术效果与上述系统的技术效果相对应，这里不再赘述。

附图说明

为了更清楚的说明本申请实施例或现有技术的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请所提供的一种异构计算系统实施例的架构示意图图一；

图2为本申请所提供的一种异构计算系统实施例的架构示意图图二；

图3为本申请所提供的一种异构计算系统实施例的架构示意图图三；

图4为为本申请所提供的一种异构计算方法实施例的实现流程图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面结合附图和具体实施方式对本申请作进一步的详细说明。显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

随着PHY板卡在云数据中心应用的展开，PHY板卡开始大规模进行部署，当前的部署方式一般采集机卡绑定的方式，即每张PHY板卡都通过PCIE插槽直接插接到本地服务器的标准总线接口上，用户在申请使用PHY实例时，一般会为用户分配一套虚拟机的环境，用户在虚拟机下对板卡进行访问和使用。上述机卡绑定的架构，造成服务器与PHY板卡紧耦合，PHY板卡数量受到限制，若想增加PHY板卡就需配套服务器。并且由于PHY板卡间无直接通信的链路，无法满足业务弹性部署需求，更无法形成有效的分布式加速架构。

针对上述问题，本申请提供一种异构计算系统，使得PHY异构加速卡不再与CPU紧耦合，数量不再受到限制，并使得PHY异构加速卡之间的通信不再需要经过CPU，降低了本地服务器的资源占用率。

下面对本申请提供的一种异构计算系统实施例进行介绍，参见图1，该实施例包括：本地服务器、第一根级加速卡、次级加速卡，其中，第一根级加速卡为通过PCIE模块直接与所述本地服务器相连接的PHY异构加速卡，次级加速卡为通过MAC模块直接或间接地与所述第一根级加速卡相连接的PHY异构加速卡；

其中，所述本地服务器用于向所述第一根级加速卡发送源操作数，所述第一根级加速卡用于将所述源操作数分配给所述次级加速卡以进行计算，并将各个所述次级加速卡的计算结果反馈至所述本地服务器。

PHY异构加速卡能够利用PHY的高速计算能力，对CPU所发送的源操作数进行加速计算，并将计算后的结果返回给CPU，从而实现高性能的计算能力，完成诸如视频编解码、深度学习、科学计算以及图形处理等对计算能力要求较高的功能。

需要说明的是，本实施例中，各个PHY异构加速卡的硬件结构和软件框架相同，第一根级加速卡和次级加速卡仅仅用于区别两种连接关系，如图1所示，即通过PCIE模块直接与本地服务器连接的，以及通过MAC模块直接或间接与第一根级加速卡连接的。此外，本实施例不限定第一根级加速卡与次级加速卡的数量。

作为一种具体的实施方式，本实施例一方面保留机卡绑定的形式，另一方面引入BOX OF PHY(PHY盘柜)模式，如图2所示。在PHY盘柜存放次级加速卡，各个次级加速卡通过MAC模块相互连接。具体的，PHY盘柜可包括各类型的异构加速卡，如Intel芯片、PHY厂商芯片等。所述第一根级加速卡通过MAC模块经由以太网交换机与所述PHY盘柜中的所述次级加速卡相连接，以此解耦PHY与CPU的紧耦合。

在本地服务器向第一根级加速卡发送源操作数时，本地服务器通过软件驱动识别第一根级加速卡，并以配置寄存器的方式控制第一根级加速卡从本地读取所述源操作数。第一根级加速卡在从本地服务器读取源操作数时，首先确定源操作数的数据量，若源操作数的数据量超过预设阈值，则根据本地服务器侧的配置寄存器对所述源操作数进行封包，并将数据包发送至所述次级加速卡；若源操作数的数据量未超过预设阈值，则第一根级加速卡自行完成对源操作数的计算。次级加速卡在接收到数据包之后，对数据包进行解包，若解包得到的源操作数的数据量超过预设阈值，则调用基于RTL实现的接口对所述解包得到的源操作数进行再次封包，并将再次封包得到的数据包发送至与自身连接的次级加速卡；若解包得到的源操作数的数据量超过预设阈值，则对源操作数进行计算。

作为一种具体的实施方式，本实施例还包括远端服务器，如图3所示，所述远端服务器通过MAC模块与所述次级加速卡相连接。

下面对几种典型的数据传输路径进行说明：

当数据传输路径为远端服务器→次级加速卡时，远端服务器通过网络使用次级加速卡，其接口形式为MAC到MAC，该场景下需要软件驱动按格式进行封包，PHY按格式进行解包，并匹配包类型。

当数据传输路径为远端服务器→次级加速卡→次级加速卡/第一根级加速卡时，远端服务器通过网络使用次级加速卡进行加速数据分发，其接口形式为MAC到MAC再到MAC，该场景下需要软件驱动按格式进行封包，次级加速卡重新封MAC包并转发。

当数据传输路径为次级加速卡→远端服务器时，次级加速卡向远端服务器发送运算结果，其接口形式为MAC到MAC，该场景下需要次级加速卡按格式进行封包，软件驱动按格式进行解包。

当数据传输路径为远端服务器→第一根级加速卡时，本地或通过虚拟机passthrough的方式使用第一根级加速卡，其接口形式为PCIE，该场景下需要软件驱动识别本地板卡，以配置寄存器的方式使用板卡，数据直接传输。

当数据传输路径为远端服务器→第一根级加速卡→次级加速卡时，本地或通过虚拟机passthrough的方式使用第一根级加速卡进行数据转发，其接口形式为PCIe到MAC再到MAC，该场景下需要软件驱动识别本地板卡，以配置寄存器的方式控制第一根级加速卡进行数据转发，且第一根级加速卡需要按上述格式进行封包转发。

当数据传输路径为第一根级加速卡→远端服务器时，第一根级加速卡向本地服务器返回运算结果，其接口形式为PCIE，该场景下需要第一根级加速卡将结果直接返回本地服务器，软件驱动直接接收数据。

当数据传输路径为次级加速卡→第一根级加速卡时，次级加速卡将运算结果发送给第一根级加速卡，其接口形式为MAC到MAC，该场景下需要次级加速卡按上述格式封包。

作为一种具体的实施方式，如图3所示，本实施例还包括第二根级加速卡，所述第二根级加速卡为通过MAC模块直接与所述本地服务器相连接的PHY异构加速卡。

不同于第一根级加速卡，本实施例中，在所述本地服务器向所述第二根级加速卡发送源操作数时，根据所述源操作数和目标网络层协议生成以太网数据帧，并将所述以太网数据帧发送至所述第二根级加速卡；所述第二根级加速卡根据所述目标网络层协议对所述以太网数据帧进行处理或转发。

本实施例所提供一种异构计算系统，包括本地服务器、第一根级加速卡、次级加速卡，该异构计算系统中的第一根级加速卡不仅通过PCIE模块与本地服务器相连接，还通过MAC模块与次级加速卡相连接。在上述架构下，需要进行加速的应用可通过PCIE或者MAC两种方式，将数据传输给加速卡。并且用户可划分的PHY资源不在受主机的限制，使PHY资源能够更加灵活分配、部署，并无缝对接现有的服务器云生态环境。

下面开始详细介绍本申请提供的一种异构计算方法实施例，参见图4，该实施例基于如上文所述的异构计算系统实现，包括：

S401、本地服务器通过PCIE模块向第一根级加速卡发送源操作数；

S402、所述第一根级加速卡通过MAC模块将所述源操作数分配给次级加速卡；

S403、所述次级加速卡对所述源操作数进行计算，得到计算结果；

S404、所述第一根级加速卡通过MAC模块获取各个所述次级加速卡的计算结果，并通过PCIE模块反馈至所述本地服务器。

作为一种具体的实施方式，还包括：

远端服务器通过MAC模块向次级加速卡发送源操作数；

次级加速卡对所述源操作数进行计算，得到计算结果；

次级加速卡通过MAC模块将计算结果发送至所述远端服务器。

作为一种具体的实施方式，所述本地服务器向所述第一根级加速卡发送源操作数，包括：

所述本地服务器通过软件驱动识别所述第一根级加速卡，并以配置寄存器的方式控制所述第一根级加速卡从本地读取所述源操作数。

作为一种具体的实施方式，在所述次级加速卡在接收到所述数据包之后，包括：

次级加速卡对所述数据包进行解包，若解包得到的源操作数的数据量超过所述预设阈值，则调用基于RTL实现的接口对所述解包得到的源操作数进行再次封包，并将再次封包得到的数据包发送至与自身连接的次级加速卡。

作为一种具体的实施方式，还包括：

本地服务器根据所述源操作数和目标网络层协议生成以太网数据帧，并将所述以太网数据帧发送至所述第二根级加速卡；

所述第二根级加速卡根据所述目标网络层协议对所述以太网数据帧进行处理或转发。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

以上对本申请所提供的方案进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种异构计算系统，其特征在于，包括：本地服务器、第一根级加速卡、次级加速卡，所述第一根级加速卡为通过PCIE模块直接与所述本地服务器相连接的PHY异构加速卡，所述次级加速卡为通过MAC模块直接或间接地与所述第一根级加速卡相连接的PHY异构加速卡；

其中，所述本地服务器用于向所述第一根级加速卡发送源操作数，所述第一根级加速卡用于将所述源操作数分配给所述次级加速卡以进行计算，并将各个所述次级加速卡的计算结果反馈至所述本地服务器。

2.如权利要求1所述的系统，其特征在于，所述次级加速卡设置于PHY盘柜中。

3.如权利要求2所述的系统，其特征在于，所述第一根级加速卡通过MAC模块经由以太网交换机与所述PHY盘柜中的所述次级加速卡相连接。

4.如权利要求1所述的系统，其特征在于，在所述本地服务器向所述第一根级加速卡发送源操作数时，所述本地服务器通过软件驱动识别所述第一根级加速卡，并以配置寄存器的方式控制所述第一根级加速卡从本地读取所述源操作数。

5.如权利要求4所述的系统，其特征在于，所述第一根级加速卡在从所述本地服务器读取所述源操作数时，确定所述源操作数的数据量，若所述源操作数的数据量超过预设阈值，则根据所述本地服务器侧的配置寄存器对所述源操作数进行封包，并将数据包发送至所述次级加速卡。

6.如权利要求5所述的系统，其特征在于，所述次级加速卡在接收到所述数据包之后，对所述数据包进行解包，若解包得到的源操作数的数据量超过所述预设阈值，则调用基于RTL实现的接口对所述解包得到的源操作数进行再次封包，并将再次封包得到的数据包发送至与自身连接的次级加速卡。

7.如权利要求1-6任意一项所述的系统，其特征在于，还包括第二根级加速卡，所述第二根级加速卡为通过MAC模块直接与所述本地服务器相连接的PHY异构加速卡。

8.如权利要求7所述的系统，其特征在于，在所述本地服务器向所述第二根级加速卡发送源操作数时，根据所述源操作数和目标网络层协议生成以太网数据帧，并将所述以太网数据帧发送至所述第二根级加速卡；所述第二根级加速卡根据所述目标网络层协议对所述以太网数据帧进行处理或转发。

9.如权利要求1所述的系统，其特征在于，还包括：远端服务器，所述远端服务器通过MAC模块与所述次级加速卡相连接。

10.一种异构计算方法，其特征在于，基于如权利要求1-9任意一项所述的异构计算系统实现，该方法包括：

本地服务器通过PCIE模块向第一根级加速卡发送源操作数；

所述第一根级加速卡通过MAC模块将所述源操作数分配给次级加速卡；

所述次级加速卡对所述源操作数进行计算，得到计算结果；

所述第一根级加速卡通过MAC模块获取各个所述次级加速卡的计算结果，并通过PCIE模块反馈至所述本地服务器。

Images