CN114328362A - 一种支持不同gpu高速互联的方法及系统 - Google Patents

Abstract

本发明公开了一种支持不同GPU高速互联的方法及系统，其中，所述方法包括：获得GPU集合；判断所述GPU集合中各GPU的型号；基于所述各GPU的型号，通过GPU高速互联系统和各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。解决了现有技术兼容性差，无法实现不同厂商GPU之间的高速互联，导致同一台机器只能选择同一个厂商的GPU产品的技术问题。

Description

一种支持不同GPU高速互联的方法及系统

技术领域

本发明涉及互联通信领域，尤其涉及一种支持不同GPU高速互联的方法及系统。

背景技术

目前市面上的GPU厂商及产品非常多，例如Nvdia、AMD、寒武纪、百度昆仑、比特大陆等等，但是基于各家协议及市场等方面考虑，各个厂商的GPU卡相互之间不兼容，Nvdia、AMD、寒武纪的GPU只可以通过自己的高速通道实现自己产品的多GPU高速互联。

然而，发现上述技术至少存在如下技术问题：

现有技术兼容性差，无法实现不同厂商GPU之间的高速互联，导致同一台机器只能选择同一个厂商的GPU产品。

发明内容

本申请通过提供一种支持不同GPU高速互联的方法及系统，解决了现有技术兼容性差，无法实现不同厂商GPU之间的高速互联，导致同一台机器只能选择同一个厂商的GPU产品的技术问题，达到通过对不同厂商GPU高速互联协议的解包封包来实现不同GPU的高速通信，进而实现不同厂商GPU之间的互联协议兼容和高速互联的技术效果。

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的方法。

第一方面，本申请提供了一种支持不同GPU高速互联的方法，所述方法包括：获得GPU集合；判断所述GPU集合中各GPU的型号；基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

另一方面，本申请还提供了一种支持不同GPU高速互联的系统，所述系统包括：第一获得单元，所述第一获得单元用于获得GPU集合；第一判断单元，所述第一判断单元用于判断所述GPU集合中各GPU的型号；第二获得单元，所述第二获得单元用于基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；第一通信单元，所述第一通信单元用于根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

第三方面，本申请提供了一种电子设备，包括总线、收发器、存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述收发器、所述存储器和所述处理器通过所述总线相连，所述计算机程序被所述处理器执行时实现上述任意一项所述方法中的步骤。

第四方面，本申请还提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述方法中的步骤。

本申请中提供的一个或多个技术方案，至少具有如下技术效果或优点：

由于采用了根据接入的不同厂商GPU集合，判断接入GPU集合中各GPU的型号，并基于所述各GPU的型号，通过所述GPU高速互联系统和各GPU厂商的高速互联协议进行匹配，从而根据匹配后得到的高速互联协议，实现不同厂商GPU之间的高速互联的技术方案。进而达到通过对不同厂商GPU高速互联协议的解包封包来实现不同GPU的高速通信，进而实现不同厂商GPU之间的互联协议兼容和高速互联的技术效果。

上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，而可依照说明书的内容予以实施，并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂，以下特举本申请的具体实施方式。

附图说明

图1为本申请实施例一种支持不同GPU高速互联的方法的流程示意图；

图2为本申请实施例一种支持不同GPU高速互联的系统的结构示意图；

图3为本申请实施例示例性电子设备的结构示意图。

附图标记说明：第一判断单元11，第一初始单元12，第一获得单元13，第二获得单元14，第三获得单元15，第二初始单元16，第一启动单元17，总线1110，处理器1120，收发器1130，总线接口1140，存储器1150，操作系统1151，应用程序1152和用户接口1160。

具体实施方式

在本申请的描述中，所属技术领域的技术人员应当知道，本申请可以实现为方法、装置、电子设备及计算机可读存储介质。因此，本申请可以具体实现为以下形式：完全的硬件、完全的软件(包括固件、驻留软件、微代码等)、硬件和软件结合的形式。此外，在一些实施例中，本申请还可以实现为在一个或多个计算机可读存储介质中的计算机程序产品的形式，该计算机可读存储介质中包含计算机程序代码。

上述计算机可读存储介质可以采用一个或多个计算机可读存储介质的任意组合。计算机可读存储介质包括：电、磁、光、电磁、红外或半导体的系统、装置或器件，或者以上任意的组合。计算机可读存储介质更具体的例子包括：便携式计算机磁盘、硬盘、随机存取存储器、只读存储器、可擦除可编程只读存储器、闪存、光纤、光盘只读存储器、光存储器件、磁存储器件或以上任意组合。在本申请中，计算机可读存储介质可以是任意包含或存储程序的有形介质，该程序可以被指令执行系统、装置、器件使用或与其结合使用。

申请概述

本申请通过流程图和/或方框图描述所提供的方法、装置、电子设备。

应当理解，流程图和/或方框图的每个方框以及流程图和/或方框图中各方框的组合，都可以由计算机可读程序指令实现。这些计算机可读程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，从而生产出一种机器，这些计算机可读程序指令通过计算机或其他可编程数据处理装置执行，产生了实现流程图和/或方框图中的方框规定的功能/操作的装置。

也可以将这些计算机可读程序指令存储在能使得计算机或其他可编程数据处理装置以特定方式工作的计算机可读存储介质中。这样，存储在计算机可读存储介质中的指令就产生出一个包括实现流程图和/或方框图中的方框规定的功能/操作的指令装置产品。

也可以将计算机可读程序指令加载到计算机、其他可编程数据处理装置或其他设备上，使得在计算机、其他可编程数据处理装置或其他设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机或其他可编程数据处理装置上执行的指令能够提供实现流程图和/或方框图中的方框规定的功能/操作的过程。

下面结合本申请中的附图对本申请进行描述。

实施例一

如图1所示，本申请提供了一种支持不同GPU高速互联的方法，所述方法应用于一GPU高速互联系统，所述系统集成各GPU厂商的高速互联协议，所述方法包括：

步骤S100：获得GPU集合；

具体而言，GPU(graphics processing unit，图形处理器)，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上做图像和图形相关运算工作的微处理器。GPU使显卡减少了对CPU的依赖，并进行部分原本CPU的工作。目前市面上的GPU厂商及产品非常多，例如Nvdia、AMD、寒武纪、百度昆仑、比特大陆等等，但是基于各家协议及市场等方面考虑，各个厂商的GPU卡相互之间不兼容，Nvdia、AMD、寒武纪的GPU只可以通过自己的高速通道实现自己产品的多GPU高速互联。

本申请提供的方法应用于GPU高速互联系统，所述GPU高速互联系统类似于一个“高速GPU交换机”，内部集成了各个GPU厂商的高速互联协议，如Nvdia、AMD、寒武纪等厂商高速互联协议，是为实现GPU高速互联需要遵守的厂商协议。举例而言，Nvdia的GPU可以通过自己的Nvlink高速通道实现自己产品的多GPU高速互联；AMD的GPU可以通过自己的XGMI高速通道实现自己产品的多GPU高速互联；寒武纪的GPU可以通过自己的MLU-Link高速通道实现自己的多GPU高速互联。所述GPU集合是接入系统的不同GPU，是来自不同厂商的GPU集合，需要支持该集合的GPU高速互联。

步骤S200：判断所述GPU集合中各GPU的型号；

具体而言，GPU的型号不同，生产的厂商也可能不同，例如Nvdia厂商生产的GF9800GTX、GTX260、GF8600GT等型号；AMD厂商生产的HD3850、HD4650、HD4870等型号。通过系统自动判断GPU的型号，以匹配相应的生产厂商。

步骤S300：基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；

步骤S400：根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

具体而言，根据接入的不同GPU的型号，通过所述GPU高速互联系统来和集成的所述各GPU厂商的高速互联协议进行自动匹配，匹配得到不同GPU厂商的高速互联协议。根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信，即通过对不同厂商GPU高速互联协议的解包封包来实现不同厂商GPU的高速通信。解决上述Nvdia-NVLink、AMD-XGMI等不同高速通道之间的互联通信，从而实现不同厂商GPU之间的互联协议兼容和高速互联。

进一步而言，所述GPU高速互联系统通过主板上的PCIe Lan和CPU进行通信。

具体而言，所述GPU高速互联系统类似于一个“高速GPU交换机”，通过主板上的PCIe Lan实现跟CPU即中央处理器进行通信。PCIe是一种高速串行计算机扩展总线标准，属于高速串行点对点双通道高带宽传输，所连接的设备分配独享通道带宽，不共享总线带宽，主要支持主动电源管理，错误报告，端对端的可靠性传输，热插拔以及服务质量(QOS)等功能。PCIe的主要优势就是数据传输速率高，而且还有相当大的发展潜力，通过使用差分信号传输，相同内容通过一正一反镜像传输，干扰可以很快被发现和纠正，从而可以将传输频率大幅提升。这样一对差分信号组成一个PCIe Lane，也叫做x1通道，x1表示1个Lan,PCIE总线走差分信号，1个Lan4条线可接收也可发送，同理，x2表示2个Lan，以此类推，Lan数越多，数据传输的也越快，把n组绑定在一起，可以让PCIe设备大幅提高传输带宽。

进一步而言，所述GPU高速互联系统集成各厂商GPU的高速物理接口，所述GPU集合中的各GPU通过高速转接线连接所述高速物理接口。

具体而言，所述GPU高速互联系统集成各厂商GPU的高速物理接口，因此所述GPU高速互联系统系统物理硬件接口上支持不同厂商的GPU规格，各家厂商的GPU只需要通过一根高速转接线连接到该所述GPU高速互联系统即可，以实现不同厂商GPU之间的高速互联，解决当前不同厂商GPU高速互联无法兼容的问题。

进一步而言，本申请还包括：

步骤S510：基于客户需求，对所述GPU高速互联系统进行升级；

步骤S520：升级后的所述GPU高速互联系统支持功能卡集合。

进一步而言，所述GPU高速互联系统预留RDMA设备的接口。

具体而言，本申请提供的方法后续根据客户需求，如客户的联网需求、数据传输需求等，可以进一步升级该所述GPU高速互联系统，使其不仅能兼容GPU，还能支持其他的功能卡集合，如IB卡、HBA卡、网卡等卡。

进一步的，所述GPU高速互联系统预留其他RDMA设备的接口，用于实现功能卡集合的功能升级，RDMA(Remote Direct Memory Access)技术全称远程直接数据存取，是为了解决网络传输中服务器端数据处理的延迟而产生的，RDMA通过网络把资料直接传入计算机的存储区，将数据从一个系统快速移动到远程系统存储器中，而不对操作系统造成任何影响，这样就不需要用到多少计算机的处理功能。它减少了CPU占用，减少了内存带宽瓶颈，提供了很高的带宽利用率，因而能解放内存带宽和CPU周期用于改进应用系统性能，以备后续系统功能的进一步升级。

进一步而言，所述功能卡集合包括IB卡、HBA卡、网卡。

具体而言，根据客户需求，所述功能卡集合可以支持IB卡、HBA卡、网卡等卡。IB卡(InfiniBand，无限带宽)可应用于企业数据中心、高性能计算和嵌入式环境等领域，为服务器/存储的集群应用提供了高带宽、低延迟的解决方案；HBA卡(Host Bus Adapter，主机总线适配器)，是能插入计算机、服务器或大型主机的板卡，通过光纤信道或SCSI把计算机连接到存储器或存储器网，HBA减轻了主处理器在数据存储和检索任务的负担，能够提高服务器的性能；网卡是一块被设计用来允许计算机在计算机网络上进行通讯的计算机硬件，使得用户可以通过电缆或无线相互连接，主要功能包括数据的封装与解封、链路管理、数据编码与译码等。不同的卡实现不同的功能，从而满足客户需求，实现系统功能升级。

综上所述，本申请所提供的一种支持不同GPU高速互联的方法及系统具有如下技术效果：

由于采用了根据接入的不同厂商GPU集合，判断接入GPU集合中各GPU的型号，并基于所述各GPU的型号，通过所述GPU高速互联系统和各GPU厂商的高速互联协议进行匹配，从而根据匹配后得到的高速互联协议，实现不同厂商GPU之间的高速互联的技术方案。进而达到通过对不同厂商GPU高速互联协议的解包封包来实现不同GPU的高速通信，进而实现不同厂商GPU之间的互联协议兼容和高速互联的技术效果。

实施例二

基于与前述实施例中一种支持不同GPU高速互联的方法同样发明构思，本发明还提供了一种支持不同GPU高速互联的系统，如图2所示，所述系统包括：

第一获得单元11，所述第一获得单元11用于获得GPU集合；

第一判断单元12，所述第一判断单元12用于判断所述GPU集合中各GPU的型号；

第二获得单元13，所述第二获得单元13用于基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；

第一通信单元14，所述第一通信单元14用于根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

进一步的，所述系统还包括：

第一升级单元，所述第一升级单元用于基于客户需求，对所述GPU高速互联系统进行升级；

第一支持单元，所述第一支持单元用于升级后的所述GPU高速互联系统支持功能卡集合。

前述图1实施例一中的一种支持不同GPU高速互联的方法的各种变化方式和具体实例同样适用于本实施例的一种支持不同GPU高速互联的系统，通过前述对一种支持不同GPU高速互联的方法的详细描述，本领域技术人员可以清楚的知道本实施例中一种支持不同GPU高速互联的系统的实施方法，所以为了说明书的简洁，在此不再详述。

此外，本申请还提供了一种电子设备，包括总线、收发器、存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，该收发器、该存储器和处理器分别通过总线相连，计算机程序被处理器执行时实现上述控制输出数据的方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

示例性电子设备

具体的，参见图3所示，本申请还提供了一种电子设备，该电子设备包括总线1110、处理器1120、收发器1130、总线接口1140、存储器1150和用户接口1160。

在本申请中，该电子设备还包括：存储在存储器1150上并可在处理器1120上运行的计算机程序，计算机程序被处理器1120执行时实现上述控制输出数据的方法实施例的各个过程。

收发器1130，用于在处理器1120的控制下接收和发送数据。

本申请中，总线架构(用总线1110来代表)，总线1110可以包括任意数量互联的总线和桥，总线1110将包括由处理器1120代表的一个或多个处理器与存储器1150代表的存储器的各种电路连接在一起。

总线1110表示若干类型的总线结构中的任何一种总线结构中的一个或多个，包括存储器总线和存储器控制器、外围总线、加速图形端口、处理器或使用各种总线体系结构中的任意总线结构的局域总线。作为示例而非限制，这样的体系结构包括：工业标准体系结构总线、微通道体系结构总线、扩展总线、视频电子标准协会、外围部件互连总线。

处理器1120可以是一种集成电路芯片，具有信号处理能力。在实现过程中，上述方法实施例的各步骤可以通过处理器中硬件的集成逻辑电路或软件形式的指令完成。上述的处理器包括：通用处理器、中央处理器、网络处理器、数字信号处理器、专用集成电路、现场可编程门阵列、复杂可编程逻辑器件、可编程逻辑阵列、微控制单元或其他可编程逻辑器件、分立门、晶体管逻辑器件、分立硬件组件。可以实现或执行本申请中公开的各方法、步骤和逻辑框图。例如，处理器可以是单核处理器或多核处理器，处理器可以集成于单颗芯片或位于多颗不同的芯片。

处理器1120可以是微处理器或任何常规的处理器。结合本申请所公开的方法步骤可以直接由硬件译码处理器执行完成，或者由译码处理器中的硬件和软件模块组合执行完成。软件模块可以位于随机存取存储器、闪存、只读存储器、可编程只读存储器、可擦除可编程只读存储器、寄存器等本领域公知的可读存储介质中。所述可读存储介质位于存储器中，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

总线1110还可以将，例如外围设备、稳压器或功率管理电路等各种其他电路连接在一起，总线接口1140在总线1110和收发器1130之间提供接口，这些都是本领域所公知的。因此，本申请不再对其进行进一步描述。

收发器1130可以是一个元件，也可以是多个元件，例如多个接收器和发送器，提供用于在传输介质上与各种其他装置通信的单元。例如：收发器1130从其他设备接收外部数据，收发器1130用于将处理器1120处理后的数据发送给其他设备。取决于计算机装置的性质，还可以提供用户接口1160，例如：触摸屏、物理键盘、显示器、鼠标、扬声器、麦克风、轨迹球、操纵杆、触控笔。

应理解，在本申请中，存储器1150可进一步包括相对于处理器1120远程设置的存储器，这些远程设置的存储器可以通过网络连接至服务器。上述网络的一个或多个部分可以是自组织网络、内联网、外联网、虚拟专用网、局域网、无线局域网、广域网、无线广域网、城域网、互联网、公共交换电话网、普通老式电话业务网、蜂窝电话网、无线网络、无线保真网络以和两个或更多个上述网络的组合。例如，蜂窝电话网和无线网络可以是全球移动通信装置、码分多址装置、全球微波互联接入装置、通用分组无线业务装置、宽带码分多址装置、长期演进装置、LTE频分双工装置、LTE时分双工装置、先进长期演进装置、通用移动通信装置、增强移动宽带装置、海量机器类通信装置、超可靠低时延通信装置等。

应理解，本申请中的存储器1150可以是易失性存储器或非易失性存储器，或可包括易失性存储器和非易失性存储器两者。其中，非易失性存储器包括：只读存储器、可编程只读存储器、可擦除可编程只读存储器、电可擦除可编程只读存储器，或闪存。

易失性存储器包括：随机存取存储器，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的RAM可用，例如：静态随机存取存储器、动态随机存取存储器、同步动态随机存取存储器、双倍数据速率同步动态随机存取存储器、增强型同步动态随机存取存储器、同步连接动态随机存取存储器和直接内存总线随机存取存储器。本申请描述的电子设备的存储器1150包括但不限于上述和任意其他适合类型的存储器。

在本申请中，存储器1150存储了操作系统1151和应用程序1152的如下元素：可执行模块、数据结构，或者其子集，或者其扩展集。

具体而言，操作系统1151包含各种装置程序，例如：框架层、核心库层、驱动层等，用于实现各种基础业务和处理基于硬件的任务。应用程序1152包含各种应用程序，例如：媒体播放器、浏览器，用于实现各种应用业务。实现本申请方法的程序可以包含在应用程序1152中。应用程序1152包括：小程序、对象、组件、逻辑、数据结构和其他执行特定任务或实现特定抽象数据类型的计算机装置可执行指令。

此外，本申请还提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述控制输出数据的方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请披露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种支持不同GPU高速互联的方法，其特征在于，所述方法应用于一GPU高速互联系统，所述系统集成各GPU厂商的高速互联协议，所述方法包括：

获得GPU集合；

判断所述GPU集合中各GPU的型号；

基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；

根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

2.如权利要求1所述的方法，其特征在于，所述GPU高速互联系统通过主板上的PCIeLan和CPU进行通信。

3.如权利要求1所述的方法，其特征在于，所述GPU高速互联系统集成各厂商GPU的高速物理接口，所述GPU集合中的各GPU通过高速转接线连接所述高速物理接口。

4.如权利要求1所述的方法，其特征在于，所述方法包括：

基于客户需求，对所述GPU高速互联系统进行升级；

升级后的所述GPU高速互联系统支持功能卡集合。

5.如权利要求4所述的方法，其特征在于，所述GPU高速互联系统预留RDMA设备的接口。

6.如权利要求4所述的方法，其特征在于，所述功能卡集合包括IB卡、HBA卡、网卡。

7.一种支持不同GPU高速互联的系统，其特征在于，所述系统包括：

第一获得单元，所述第一获得单元用于获得GPU集合；

第一判断单元，所述第一判断单元用于判断所述GPU集合中各GPU的型号；

第二获得单元，所述第二获得单元用于基于所述各GPU的型号，通过所述GPU高速互联系统和所述各GPU厂商的高速互联协议进行匹配，获得匹配后的高速互联协议；

第一通信单元，所述第一通信单元用于根据所述匹配后的高速互联协议，实现所述GPU集合之间的高速互联通信。

8.一种支持不同GPU高速互联的电子设备，包括总线、收发器、存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述收发器、所述存储器和所述处理器通过所述总线相连，其特征在于，所述计算机程序被所述处理器执行时实现如权利要求1-6中任一项所述方法中的步骤。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-6中任一项所述方法中的步骤。

Images