CN220730805U - Ai扩展卡和服务器 - Google Patents

Abstract

本实用新型提供一种AI扩展卡和服务器，涉及电子通信技术领域，该AI扩展卡包括：E1.S接口、AI芯片和电源模块；E1.S接口的PCIe端口与AI芯片的数据交互接口连接，E1.S接口的第一电源端与电源模块的第一电源输入端连接，E1.S接口用于插接服务器的E1.S扩展口；电源模块的电源输出端与AI芯片的供电端连接，电源模块用于将第一电源端的第一电源电压转换为适配于AI芯片的电压。本实用新型提供的技术方案能够有效利用服务器E1.S扩展口的冗余空间，实现低成本的算力提升。

Description

AI扩展卡和服务器

技术领域

本实用新型涉及电子通信技术领域，尤其涉及一种AI扩展卡和服务器。

背景技术

随着电子通信技术的发展，特别是人工智能(Artificial Intelligence，AI)和大数据的迅速发展，对服务器的数据处理能力的要求也越来越高。为了满足人工智能应用对算力的需求，服务器可以通过外接集成AI芯片的AI扩展卡，即计算模块，来处理人工智能应用中的大量计算任务。

目前，服务器通过外围组件接口互联(Peripheral Component interconnectExpress，PCIe)标准接口外接计算模块，可扩展的计算模块较少，能达到的算力有限，而且，其计算模块和数据存储模块是相互隔离的，即计算模块和数据存储模块只能接于各自对应的接口上。比如目前逐渐成为主流配置的E1.S形态的固态硬盘(Solid State Disk，SSD)服务器，虽然提供了大量的E1.S接口，但目前的AI扩展卡只能通过PCIe接口接于服务器上，E1.S接口仅用于连接存储模块。这样，在需要既满足存储空间又满足足够算力的情况下，就需要有足够的PCIe接口外接足够的计算模块，而且通过PCIe接口连接的计算模块为标准卡制式，体积较大，导致服务器的体积增大，甚至需要更换扩容的服务器，成本较高。

实用新型内容

本实用新型提供一种AI扩展卡和服务器，用以解决现有技术中具有E1.S接口的服务器通过PCIe接口外接AI扩展卡来解决人工智能应用对算力的需求时，成本较高的问题，实现低成本的算力提升。

本实用新型提供一种AI扩展卡，包括E1.S接口、AI芯片和电源模块；

所述E1.S接口的PCIe端口与所述AI芯片的数据交互接口连接，所述E1.S接口的第一电源端与所述电源模块的第一电源输入端连接，所述E1.S接口用于插接服务器的E1.S扩展口；

所述电源模块的电源输出端与所述AI芯片的供电端连接，所述电源模块用于将所述第一电源端的第一电源电压转换为适配于所述AI芯片的电压。

根据本实用新型提供的一种AI扩展卡，还包括热插拔电路；

所述热插拔电路的第一串口与所述E1.S接口的第二串口连接，所述热插拔电路的供电使能端与所述电源模块的受控端连接，所述热插拔电路的第二电源输入端与所述E1.S接口的第二电源端连接，所述第二电源端用于向所述热插拔电路输入第二电源电压；

所述热插拔电路用于根据所述第二串口的串口信号控制所述电源模块向所述AI芯片供电或控制所述电源模块断开向所述AI芯片的供电。

根据本实用新型提供的一种AI扩展卡，所述热插拔电路包括热插拔保护电路和热插拔控制电路；

所述热插拔保护电路的第三串口作为所述第一串口，所述热插拔保护电路的受电端作为所述第二电源输入端，所述热插拔保护电路的第四串口分别与所述热插拔控制电路的第五串口和所述AI芯片的第六串口连接；所述热插拔保护电路用于对所述AI扩展卡进行电路保护，并向所述AI芯片和/或所述热插拔控制电路传输所述第一串口输入的串口信号；

所述热插拔控制电路的第一输出端作为所述供电使能端，所述热插拔控制电路用于根据所述第五串口接收到的串口信号控制所述电源模块向所述AI芯片供电或控制所述电源模块断开向所述AI芯片的供电。

根据本实用新型提供的一种AI扩展卡，所述热插拔控制电路的第二输出端与所述AI芯片的复位端连接；

所述热插拔控制电路还用于根据所述第五串口接收到的串口信号对所述AI芯片进行复位控制。

根据本实用新型提供的一种AI扩展卡，所述热插拔控制电路的第三输出端与所述AI芯片的中断控制端连接；

所述热插拔控制电路还用于根据所述第五串口接收到的串口信号对所述AI芯片进行中断控制。

根据本实用新型提供的一种AI扩展卡，所述热插拔电路还包括第一存储器模块，所述第一存储器模块与所述热插拔保护电路的第七串口连接；

所述第一存储器模块用于存储所述AI扩展卡的扩展卡信息。

根据本实用新型提供的一种AI扩展卡，所述第一电源电压为12V，所述第二电源电压为3.3V。

根据本实用新型提供的一种AI扩展卡，所述第一串口和所述第二串口为集成电路总线串口。

根据本实用新型提供的一种AI扩展卡，还包括与所述AI芯片连接的第二存储器模块；

所述第二存储器模块用于存储所述AI扩展卡的扩展卡信息。

本实用新型还提供一种服务器，包括E1.S扩展口和如上述任一种所述的AI扩展卡，所述AI扩展卡插接于所述E1.S扩展口。

本实用新型提供的AI扩展卡和服务器，其AI扩展卡包括E1.S接口、AI芯片和电源模块，E1.S接口的PCIe端口与AI芯片的数据交互接口连接，E1.S接口的第一电源端与电源模块的第一电源输入端连接，电源模块的电源输出端与AI芯片的供电端连接；电源模块可以用于将第一电源端的第一电源电压转换为适配于AI芯片的电压，以保证AI芯片的工作；E1.S接口用于插接服务器的E1.S扩展口。这样，可以通过E1.S接口将AI扩展卡插接于具有E1.S扩展口的服务器中，AI扩展卡和存储模块不再隔离，均可以使用服务器的E1.S扩展口，有效利用了服务器E1.S扩展口的冗余空间，在不改动服务器的前提下也可以实现算力的提升，降低了成本，从而实现了低成本的算力提升。

附图说明

为了更清楚地说明本实用新型或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本实用新型的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本实用新型实施例提供的AI扩展卡的结构示意图之一；

图2是本实用新型实施例提供的AI扩展卡的结构示意图之二；

图3是本实用新型实施例提供的AI扩展卡的结构示意图之三；

图4是本实用新型实施例提供的AI扩展卡中热插拔保护电路的结构示意图；

图5是本实用新型实施例提供的AI扩展卡的结构示意图之四；

图6是本实用新型提供的服务器的结构示意图。

具体实施方式

为使本实用新型的目的、技术方案和优点更加清楚，下面将结合本实用新型中的附图，对本实用新型中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本实用新型一部分实施例，而不是全部的实施例。基于本实用新型中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本实用新型保护的范围。

需要说明的是，本实用新型中为对象所编序号本身，例如“第一”、“第二”等，仅用于区分所描述的对象，不具有任何顺序或技术含义。

目前的AI扩展卡只能通过PCIe接口连接于服务器上，以满足人工智能应用对算力的需求。但服务器中可扩展的AI扩展卡较少，算力密度较低，且目前的AI扩展卡使用的是标准卡制式，体积较大，在既满足存储空间又满足算力的情况下，需要堆积大量的标准制式的AI扩展卡，导致服务器的体积增大，并且内部连接较为冗杂。而且，对于服务器而言，如果满配标准制式的AI扩展卡仍无法满足算力需求时，只能重新更换服务器进行扩容，成本较高。

E1.S是企业与数据中心标准外形规格(Enterprise and Datacenter StandardForm Factor，EDSFF)规定的一种1U制式的短规格标准。在E1.S形态的SSD服务器逐渐成为服务器主流配置的情境下，目前，E1.S接口在实际应用中仅连接存储模块，且大多并不满配，存在冗余空间。

基于此，本实用新型提供一种AI扩展卡，该AI扩展卡可以通过E1.S接口插接于服务器的E1.S扩展口，有效利用服务器E1.S扩展口的冗余空间，在不改动服务器的前提下即可以实现算力的提升，降低成本。

下面结合图1-图5对本实用新型的AI扩展卡进行描述。

图1示例性示出了本实用新型实施例提供的AI扩展卡的结构示意图之一，参照图1所示，该AI扩展卡可以包括E1.S接口10、AI芯片20和电源模块30，E1.S接口10的PCIe端口PA与AI芯片20的数据交互接口连接，E1.S接口10的第一电源端S1与电源模块30的第一电源输入端连接，电源模块30的电源输出端Power与AI芯片20的供电端G连接。

其中，电源模块30用于将第一电源端S1的第一电源电压转换为适配于AI芯片20的电压。E1.S接口10用于插接服务器的E1.S扩展口。

可以理解的是，AI扩展卡插接的服务器为具有E1.S扩展口的服务器，该服务器的主控模块，如处理器，可以通过X2、X4或X8的PCIe信号连接E1.S扩展口，该E1.S扩展口可以是E1.S连接器。同样的，AI扩展卡中E1.S接口10的PCIe端口PA也可以通过X2、X4或X8的PCIe信号与AI芯片20的数据交互接口连接。

例如，E1.S接口10可以支持X8带宽的PCIe，在第五代(GEN5)PCIe的速率下，其速率最大可达32GB/s。

示例地，第一电源端S1输出的第一电源电压可以是12V。

示例地，电源模块30可以包括多级电源子模块，每个电源子模块可以适配出相同或不同的输出电压，可以满足AI芯片20的不同电压需求。

根据图1所示的AI扩展卡，其可以通过E1.S接口10插接至服务器的E1.S扩展口，与服务器通过E1.S接口连接，作为服务器的一个计算模块，来提升服务器的算力，以满足人工智能应用对算力的需求。当AI扩展卡插接到服务器上时，可以通过E1.S接口10从服务器获取电能，E1.S接口10通过第一电源端S1向电源模块30提供第一电源电压，电源模块30将第一电源电压转换为适配于AI芯片20的电压后通过电源输出端Power输入给AI芯片20，AI芯片20即可上电工作。AI芯片20上电后，可以通过E1.S接口10与服务器进行PCIe通信。

本实用新型提供的AI扩展卡和服务器，其AI扩展卡包括E1.S接口、AI芯片和电源模块，E1.S接口的PCIe端口与AI芯片的数据交互接口连接，E1.S接口的第一电源端与电源模块的第一电源输入端连接，电源模块的电源输出端与AI芯片的供电端连接；电源模块可以用于将第一电源端的第一电源电压转换为适配于AI芯片的电压，以保证AI芯片的工作；E1.S接口用于插接服务器的E1.S扩展口。这样，可以通过E1.S接口将AI扩展卡插接于具有E1.S扩展口的服务器中，AI扩展卡和存储模块不再隔离，均可以使用服务器的E1.S扩展口，有效利用了服务器E1.S扩展口的冗余空间，在不改动服务器的前提下也可以实现算力的提升，降低了成本，从而实现了低成本的算力提升。而且，由于AI扩展卡采用了E1.S接口，其形态体积与E1.S的SSD尺寸一致，相比于标准卡，其体积减小了许多，既有效节省了占用空间，又满足了高密计算的需求。

基于图1对应实施例的AI扩展卡，图2示例性示出了本实用新型实施例提供的AI扩展卡的结构示意图之二，参照图2所示，该AI扩展卡还可以包括热插拔电路40。该热插拔电路40的第一串口P1与E1.S接口10的第二串口P2连接，热插拔电路40的供电使能端EN与电源模块30的受控端连接，热插拔电路40的第二电源输入端VCC2与E1.S接口10的第二电源端S2连接，该第二电源端S2用于向热插拔电路40输入第二电源电压。

其中，热插拔电路40用于根据第二串口P2的串口信号控制电源模块30向AI芯片20供电或控制电源模块30断开向AI芯片20的供电。

示例地，第二电源端S2向热插拔电路40输入第二电源电压小于第一电源电压，比如可以是3.3V。

示例地，第一串口P1和第二串口P2可以是集成电路总线(Inter Ic Bus，I2C)串口。

本示例实施例提供的AI扩展卡，通过热插拔电路可以实现AI扩展卡的热插拔和休眠，进而实现算力峰谷需求下的动态功耗调节和分配，降低功耗。而且，相较于PCIe接口的扩展卡，安装和维修较为简单，通过热插拔功能可以实现在线的维修。再者，通过E1.S接口可以提供双电源供电，比如可以通过第一电源端提供12V的电压、通过第二电源端提供3.3V的电压，能够适配于高功耗的AI芯片，满足高功耗AI芯片的用电需求。

基于图2对应实施例的AI扩展卡，图3示例性示出了本实用新型实施例提供的AI扩展卡的结构示意图之三，参照图3所示，在一种可选的实施例中，热插拔电路40可以包括热插拔保护电路41和热插拔控制电路42，热插拔保护电路41的第三串口作为第一串口P1与E1.S接口10的第二串口P2连接，热插拔保护电路41的受电端作为第二电源输入端VCC2与E1.S接口10的第二电源端S2连接，热插拔保护电路41的第四串口P4分别与热插拔控制电路42的第五串口P5和AI芯片20的第六串口P6连接；热插拔控制电路42的第一输出端作为供电使能端EN与电源模块30的受控端连接。

其中，热插拔保护电路41用于对AI扩展卡进行电路保护，比如进行静电保护、大电流防护和大电压防护等，同时可以用于向AI芯片20和/或热插拔控制电路42传输第一串口P1输入的串口信号。热插拔控制电路42用于根据第五串口P5接收到的串口信号控制电源模块向AI芯片20供电或控制电源模块30断开向AI芯片20的供电。

参照图3所示，在一种可选的实施例中，热插拔控制电路42还包括第二输出端A2，该第二输出端A2与AI芯片20的复位端RT连接。相应的，热插拔控制电路42还用于根据第五串口P5接收到的串口信号对AI芯片20进行复位控制。

参照图3所示，在一种可选的实施例中，热插拔控制电路42还包括第三输出端A3，该第三输出端A3与AI芯片20的中断控制端INT连接。相应的，热插拔控制电路42还用于根据第五串口P5接收到的串口信号对AI芯片20进行中断控制。

示例地，热插拔保护电路41可以是PCA9511芯片电路、NSi8101N芯片电路、NCA9511芯片电路或ADuM121N芯片电路等。

例如，以热插拔保护电路41是PCA9511芯片电路为例，图4示例性示出了本实用新型实施例提供的AI扩展卡中热插拔保护电路的结构示意图，参照图4所示，该热插拔保护电路可以包括PCA9511芯片411和电阻R1，PCA9511芯片411的第三串口(包括SCLIN引脚和SDAIN引脚)作为热插拔电路40的第一串口P1与E1.S接口10的第二串口P2连接，使能端ENABLE通过电阻R1与第二电源输入端VCC2连接；引脚READY与第二电源输入端VCC2连接；PCA9511芯片的SCLOUT引脚和SDAOUT引脚作为第四串口P4，分别与热插拔控制电路42的第五串口P5和AI芯片20的第六串口P6连接。

示例地，热插拔控制电路42可以是PCA9555芯片电路，可以将PCA9555芯片电路的不同输入/输出(Input/Output，IO)端子配置为供电使能端EN、第二输出端A2和第三输出端A3等。

参照图3所示，在一种可选的实施例中，热插拔电路40还包括第一存储器模块43，该第一存储器模块43与热插拔保护电路41的第七串口P7连接。第一存储器模块43用于存储AI扩展卡的扩展卡信息。

示例地，扩展卡信息可以包括AI芯片的标识信息和AI芯片的参数信息等。

根据图3所示的AI扩展卡，其可以通过E1.S接口10插接至服务器的E1.S扩展口。当AI扩展卡插接到服务器上时，热插拔电路40可以通过E1.S接口10的第二电源端S2从服务器获取第二电源电压，热插拔电路40开始工作，服务器可以通过第二串口P2访问第一存储器模块43，获取AI扩展卡的扩展卡信息，确定是否对AI芯片20上电。若确定需要对AI芯片20上电，则可以通过串口信号控制热插拔电路40的供电使能端EN使能电源模块30，电源模块30从E1.S接口10的第一电源端S1获取第一电源电压，并将该第一电源电压转换为适配于AI芯片20的电压后通过电源输出端Power输入给AI芯片20，AI芯片20即可上电工作。AI芯片20上电后，可以通过E1.S接口10与服务器进行PCIe通信。若确定不需要对AI芯片20上电，则不会驱动电源模块30工作。如此，可以通过E1.S接口10实现AI扩展卡的热插拔，方便AI扩展卡的更换和维修等。同时，通过E1.S接口10的PCIe端口PA或第二串口P2，可以实现AI扩展卡的休眠。

这样，在无需较大算力的场景下可以使与服务器连接的部分AI扩展卡进入低功耗模式，减少能耗。

其中，第一电源电压可以是12V，第二电源电压可以是3.3V，即AI扩展卡通过E1.S接口10可以实现双电源供电，能够满足高功率AI芯片的用电需求，满足AI芯片的迭代需求。

图3所示的AI扩展卡以存储模块与热插拔保护电路连接为例，在一种可选的实施例中，AI扩展卡的存储模块也可以直接与AI芯片连接。具体的，基于图1对应实施例的AI扩展卡，图5示例性示出了本实用新型实施例提供的AI扩展卡的结构示意图之四，参照图5所示，AI扩展卡还包括与AI芯片20连接的第二存储器模块50，该第二存储器模块50可以用于存储AI扩展卡的扩展卡信息。

本实用新型提供的AI扩展卡，一方面，AI扩展卡可以通过E1.S接口与具有E1.S接口的服务器连接，对于具有有E1.S接口的服务器，可以实现无改动的算力升级，降低了成本。另一方面，通过E1.S接口可以提供X8带宽速率的PCIe接口，数据交互的速度比较快，提高了数据访问和处理的效率。再者，AI扩展卡可以通过热插拔电路实现AI扩展卡的热插拔和休眠功能，能够实现算力峰谷需求下的动态功耗调节，实现算力的动态分配，减少能耗。另外，可以通过E1.S接口为AI扩展卡提供双电源供电，满足高功耗AI芯片的需求。

基于上述各实施例的AI扩展卡，本实用新型还提供一种服务器，图6示例性示出了本实用新型提供的服务器的结构示意图，参照图6所示，该服务器包括E1.S扩展口61和插接于E1.S扩展口61的AI扩展卡62。其中，AI扩展卡62可以是如上任一实施例的AI扩展卡。

可以理解的是，服务器中可以包括至少一个E1.S扩展口，该E1.S扩展口可以用于插接本实用新型实施例提供的AI扩展卡，也可以插接E1.S接口的存储模块，可以根据实际应用中对存储空间和算力的需求灵活的插接，能够满足多种不同场景的需求，适应性强。

最后应说明的是：以上实施例仅用以说明本实用新型的技术方案，而非对其限制；尽管参照前述实施例对本实用新型进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本实用新型各实施例技术方案的精神和范围。

Claims (10)

1.一种AI扩展卡，其特征在于，包括E1.S接口、AI芯片和电源模块；

所述E1.S接口的PCIe端口与所述AI芯片的数据交互接口连接，所述E1.S接口的第一电源端与所述电源模块的第一电源输入端连接，所述E1.S接口用于插接服务器的E1.S扩展口；

所述电源模块的电源输出端与所述AI芯片的供电端连接，所述电源模块用于将所述第一电源端的第一电源电压转换为适配于所述AI芯片的电压。

2.根据权利要求1所述的AI扩展卡，其特征在于，还包括热插拔电路；

所述热插拔电路的第一串口与所述E1.S接口的第二串口连接，所述热插拔电路的供电使能端与所述电源模块的受控端连接，所述热插拔电路的第二电源输入端与所述E1.S接口的第二电源端连接，所述第二电源端用于向所述热插拔电路输入第二电源电压；

所述热插拔电路用于根据所述第二串口的串口信号控制所述电源模块向所述AI芯片供电或控制所述电源模块断开向所述AI芯片的供电。

3.根据权利要求2所述的AI扩展卡，其特征在于，所述热插拔电路包括热插拔保护电路和热插拔控制电路；

所述热插拔保护电路的第三串口作为所述第一串口，所述热插拔保护电路的受电端作为所述第二电源输入端，所述热插拔保护电路的第四串口分别与所述热插拔控制电路的第五串口和所述AI芯片的第六串口连接；所述热插拔保护电路用于对所述AI扩展卡进行电路保护，并向所述AI芯片和/或所述热插拔控制电路传输所述第一串口输入的串口信号；

所述热插拔控制电路的第一输出端作为所述供电使能端，所述热插拔控制电路用于根据所述第五串口接收到的串口信号控制所述电源模块向所述AI芯片供电或控制所述电源模块断开向所述AI芯片的供电。

4.根据权利要求3所述的AI扩展卡，其特征在于，所述热插拔控制电路的第二输出端与所述AI芯片的复位端连接；

所述热插拔控制电路还用于根据所述第五串口接收到的串口信号对所述AI芯片进行复位控制。

5.根据权利要求3所述的AI扩展卡，其特征在于，所述热插拔控制电路的第三输出端与所述AI芯片的中断控制端连接；

所述热插拔控制电路还用于根据所述第五串口接收到的串口信号对所述AI芯片进行中断控制。

6.根据权利要求3所述的AI扩展卡，其特征在于，所述热插拔电路还包括第一存储器模块，所述第一存储器模块与所述热插拔保护电路的第七串口连接；

所述第一存储器模块用于存储所述AI扩展卡的扩展卡信息。

7.根据权利要求2所述的AI扩展卡，其特征在于，所述第一电源电压为12V，所述第二电源电压为3.3V。

8.根据权利要求2所述的AI扩展卡，其特征在于，所述第一串口和所述第二串口为集成电路总线串口。

9.根据权利要求1所述的AI扩展卡，其特征在于，还包括与所述AI芯片连接的第二存储器模块；

所述第二存储器模块用于存储所述AI扩展卡的扩展卡信息。

10.一种服务器，其特征在于，包括E1.S扩展口和如权利要求1至9任一项所述的AI扩展卡，所述AI扩展卡插接于所述E1.S扩展口。