CN112948316A - 一种基于网络互联的ai边缘计算一体机架构 - Google Patents
一种基于网络互联的ai边缘计算一体机架构 Download PDFInfo
- Publication number
- CN112948316A CN112948316A CN202110337881.6A CN202110337881A CN112948316A CN 112948316 A CN112948316 A CN 112948316A CN 202110337881 A CN202110337881 A CN 202110337881A CN 112948316 A CN112948316 A CN 112948316A
- Authority
- CN
- China
- Prior art keywords
- pcie
- card
- edge computing
- accelerator
- accelerator card
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 abstract description 3
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 4
- 239000010931 gold Substances 0.000 description 4
- 229910052737 gold Inorganic materials 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/17—Interprocessor communication using an input/output type connection, e.g. channel, I/O port
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/10—Program control for peripheral devices
- G06F13/102—Program control for peripheral devices where the programme performs an interfacing function, e.g. device driver
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/42—Bus transfer protocol, e.g. handshake; Synchronisation
- G06F13/4204—Bus transfer protocol, e.g. handshake; Synchronisation on a parallel bus
- G06F13/4221—Bus transfer protocol, e.g. handshake; Synchronisation on a parallel bus being an input/output bus, e.g. ISA bus, EISA bus, PCI bus, SCSI bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2213/00—Indexing scheme relating to interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F2213/0026—PCI express
Abstract
本发明公开了一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板和加速卡扩展底板，所述AI边缘计算控制板和AI加速卡扩展底板通过标准PCIE X4接口及金手指连接，所述加速卡扩展底板通过PCIE X16及PCIE X16金手指连有AI加速卡和网络交换卡。本发明针对现有技术存在的上述不足，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。
Description
技术领域
本发明涉及计算机技术领域，具体为一种基于网络互联的AI边缘计算一体机架构。
背景技术
目前市面上广泛使用的边缘计算服务器机柜扩展PCIE加速卡，小型工控整机AI加速卡方案大多数都采用标准PCIE X16接口及标准PCIE X16信号做为加速卡连接及扩展接口标准，存在以下弊端：
1.标准的服务器板载有限的PCIE X16接口，大多数只有1-4个PCIE X16扩展槽，一台服务器上可以用于扩展的PCIE X16加速卡数量有限，限制了边缘计算的算力；
2.标准的服务器PCIE X16接口服务器中央处理器及IO扩展PCIE控制器只有控制模式，不能作为END PORT被管理，不能用于直接连接另一个同样是只能配置成主模式加速卡，如果要实现两颗PCIE控制器的互联，需要在加速卡或服务器上增加PCIE非透明桥，成本比较高，并且非透明桥由于和服务器或加速卡使用的是非同源时钟，经常会造成数据传输不稳定问题，而且非透明桥价格非常贵，增加了成本；
3.以往如果要扩展大量的加速卡，用PCIE总线连接的方式，如果要扩展更多的加速卡计算单元的话需要用复杂的背板结构，PCIE总线速率非常高(2.5Gbps-16Gbps)，需要使用很多高速连接器和信号重建或信号放大芯片，价格非常贵，成本非常高。
发明内容
本发明就是针对现有技术存在的上述不足，提供一种基于网络互联的AI边缘计算一体机架构，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。
为实现上述目的，本发明提供如下技术方案：
一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板和加速卡扩展底板，所述AI边缘计算控制板和AI加速卡扩展底板通过标准PCIE X4接口及金手指连接，所述加速卡扩展底板通过PCIE X16及PCIE X16金手指连有AI加速卡和网络交换卡。
优选的，所述AI边缘计算控制板集成中央处理器及所属存储卡，AI边缘计算控制板至少板载一个1Gbps管理网口和一个10Gbps业务数据网口。
优选的，所述AI边缘计算控制板连接有内存接口、SATA/SAS硬盘接口、板载网卡芯片、USB 2.0/3.0接口和至少一个用于连接AI加速卡扩展底板的标准PCIE X4/X8/16扩展接口。
优选的，所述AI加速卡扩展底板通过标准PCIE X4总线在底板扩展1-2路10Gbps四通道SERDES信号，每一路10Gbps四通道SERDES信号在扩展底板上通过PCIE X16连接器及金手指连接一张具有一个万兆上行网络的网络交换卡。
优选的，所述网络交换卡有8个1GbpsMDI接口，每个MDI接口通过AI加速卡PCIEX16连接器及金手指连接1张AI边缘计算加速卡。
优选的，所述AI边缘计算加速卡通过PCIE X16及金手指引出的MDI信号连接网路交换卡。
优选的，所有AI边缘计算加速卡及网络交换卡通过AI加速卡扩展底板的PCIE X16接口供电。
与现有技术相比，本发明的有益效果是：
本发明针对现有技术存在的上述不足，解决了原来基于标准服务器的成本高、扩展的加速卡数量有限、算力有限的问题，提高了使用的灵活性，使用一台服务器作为AI服务器一体机控制核心的情况下，可以使扩展的加速卡数量提高64倍，并且使单个加速卡节省高速连接器、信号增强芯片、PCIE非通名桥器件，单卡成本大大减少。
附图说明
图1为本发明的结构示意图；
图2为AI边缘计算控制板的结构示意图；
图3为加速卡扩展底板的结构示意图。
图中：1-AI边缘计算控制板；2-加速卡扩展底板。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
如图1-3所示，一种基于网络互联的AI边缘计算一体机架构，包括AI边缘计算控制板1、AI加速卡扩展底板2，所述AI边缘计算控制板1通过PCIE X4/X8/X16连接及金手指和AI加速卡扩展底板2连接，所述加速卡扩展底板通过PCIE 16物理接口和网络交换卡及AI加速卡连接。
具体在信号传输层，AI边缘计算控制板通过PCIE信号和AI加速卡扩展底板2载万兆网卡相连；
AI加速卡扩展底板通过板载万兆网卡输出之4通道SERDES信号和网络交换机相连；
网络交换卡通过8个1Gbps下行MDI信号端口分别和8张AI加速卡相连。
所述AI边缘计算控制板至少板载一个1Gbps(千兆)管理网口，用于管理整个边缘一体机所属计算卡及外设；AI边缘计算控制板至少板载一个10Gbps(万兆)业务数据网口，用于和本地数据网络通讯及所要处理的数据的下发工作。AI边缘计算控制板连接有内存接口、SATA/SAS硬盘接口、板载网卡芯片、USB 2.0/3.0接口、至少一个标准PCIE X4/X8/16扩展接口用于连接AI加速卡扩展底板。
AI加速卡扩展底板通过标准PCIE X4总线在底板扩展1-2路10Gbps(万兆)四通道SERDES信号，每一路四通道SERDES信号在扩展底板上通过PCIE X16连接器及金手指连接一张具有一个万兆上行网络的网络交换卡。
一个网络交换卡有8个1Gbps(千兆)MDI接口，每个MDI接口通过AI加速卡PCIE X16连接器及金手指连接1张AI边缘计算加速卡。
AI边缘计算加速卡通过PCIE X16及金手指引出的MDI信号连接网路交换卡。
所有AI边缘计算加速卡及网络交换卡通过AI加速卡扩展底板的PCIE X16接口给网络交换卡及AI边缘计算加速卡供电。
其中，AI边缘计算控制板可以根据AI边缘计应用场景需求，选择不同成本及PCIE总线带宽的中央处理器，以用来扩展不同数量的AI计算卡。加速卡扩展底板通过PCIE X4金手指连接AI边缘计算控制板，连接信号为标准PCIE 2.0/PCIE 3.0/PCIE 4.0 4lane高速信号，加速卡扩展底板通过板载电源接口连接外部冗余电源，并通过PCIE X16接口给AI边缘计算加速卡及网络交换板提供供电和数据连接通道，加速卡扩展底板上部署有2个10Gbps万兆网卡，每个网卡通过PCIE X16接口连接一个网络交换板，每个网络交换板有8个千兆下行端口通过PCIE X16接口互联8张AI边缘计算加速卡。这种基于网络交换连接的AI边缘计算一体机架构解决了传统服务器使用PCIE总线连接AI加速卡的扩展数量有限、成本高的问题，提高了使用的灵活性。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。
Claims (7)
1.一种基于网络互联的AI边缘计算一体机架构，其特征在于：包括AI边缘计算控制板和加速卡扩展底板，所述AI边缘计算控制板和AI加速卡扩展底板通过标准PCIE X4接口及金手指连接，所述加速卡扩展底板通过PCIE X16及PCIE X16金手指连有AI加速卡和网络交换卡。
2.如权利要求1所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所述AI边缘计算控制板集成中央处理器及所属存储卡，AI边缘计算控制板至少板载一个1Gbps管理网口和一个10Gbps业务数据网口。
3.如权利要求1所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所述AI边缘计算控制板连接有内存接口、SATA/SAS硬盘接口、板载网卡芯片、USB 2.0/3.0接口和至少一个用于连接AI加速卡扩展底板的标准PCIE X4/X8/16扩展接口。
4.如权利要求1所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所述AI加速卡扩展底板通过标准PCIE X4总线在底板扩展1-2路10Gbps四通道SERDES信号，每一路10Gbps四通道SERDES信号在扩展底板上通过PCIE X16连接器及金手指连接一张具有一个万兆上行网络的网络交换卡。
5.如权利要求4所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所述网络交换卡有8个1Gbps MDI接口，每个MDI接口通过AI加速卡PCIE X16连接器及金手指连接1张AI边缘计算加速卡。
6.如权利要求5所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所述AI边缘计算加速卡通过PCIE X16及金手指引出的MDI信号连接网路交换卡。
7.如权利要求6所述的一种基于网络互联的AI边缘计算一体机架构，其特征在于：所有AI边缘计算加速卡及网络交换卡通过AI加速卡扩展底板的PCIE X16接口供电。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110337881.6A CN112948316A (zh) | 2021-03-30 | 2021-03-30 | 一种基于网络互联的ai边缘计算一体机架构 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110337881.6A CN112948316A (zh) | 2021-03-30 | 2021-03-30 | 一种基于网络互联的ai边缘计算一体机架构 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112948316A true CN112948316A (zh) | 2021-06-11 |
Family
ID=76227361
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110337881.6A Pending CN112948316A (zh) | 2021-03-30 | 2021-03-30 | 一种基于网络互联的ai边缘计算一体机架构 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112948316A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113868177A (zh) * | 2021-09-03 | 2021-12-31 | 中国科学院计算技术研究所 | 一种规模易扩展的嵌入式智能计算系统 |
| CN117435008A (zh) * | 2023-12-21 | 2024-01-23 | 深圳市吉方工控有限公司 | 一种具有防盗报警功能的边缘计算机装置 |
-
2021
- 2021-03-30 CN CN202110337881.6A patent/CN112948316A/zh active Pending
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113868177A (zh) * | 2021-09-03 | 2021-12-31 | 中国科学院计算技术研究所 | 一种规模易扩展的嵌入式智能计算系统 |
| CN117435008A (zh) * | 2023-12-21 | 2024-01-23 | 深圳市吉方工控有限公司 | 一种具有防盗报警功能的边缘计算机装置 |
| CN117435008B (zh) * | 2023-12-21 | 2024-03-26 | 深圳市吉方工控有限公司 | 一种具有防盗报警功能的边缘计算机装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN211427190U (zh) | 一种基于飞腾处理器2000+的服务器电路和主板 | |
| CN108255762A (zh) | 一种2u服务器硬盘背板方法 | |
| CN112948316A (zh) | 一种基于网络互联的ai边缘计算一体机架构 | |
| CN108090014A (zh) | 一种兼容NVMe的存储IO箱系统及其设计方法 | |
| CN1901530B (zh) | 一种服务器系统 | |
| CN206249150U (zh) | 一种存储服务器 | |
| CN108491039B (zh) | 复用型硬盘背板及服务器 | |
| CN110908475A (zh) | 一种申威1621cpu无ich2套片服务器主板 | |
| CN109033009A (zh) | 一种支持通用和机柜型服务器的电路板及系统 | |
| CN108959158A (zh) | 一种基于Whitley平台的处理器板 | |
| CN111913906A (zh) | 用于3U PXIe测控机箱扩展的级联板卡及扩展测控机箱的方法 | |
| CN215181829U (zh) | 一种基于申威3231处理器的服务器主板 | |
| CN207397268U (zh) | 一种usb接口复用系统 | |
| CN210954893U (zh) | 基于飞腾处理器的双路服务器主板及计算机 | |
| CN211427338U (zh) | 基于申威处理器的服务器主板 | |
| CN209248436U (zh) | 一种扩展板卡及服务器 | |
| CN209248518U (zh) | 一种固态硬盘扩展板卡及服务器 | |
| CN213545260U (zh) | 一种基于龙芯3b4000四路处理器服务器 | |
| CN213276461U (zh) | 一种双路服务器主板及服务器 | |
| CN210924562U (zh) | 一种背板通讯装置 | |
| CN113268445A (zh) | 一种基于vpx架构的国产双控混合存储控制模块实现方法 | |
| CN204189089U (zh) | 一种服务器 | |
| CN206805410U (zh) | 一种应用在服务器上的pcie扩展板卡 | |
| CN113434445A (zh) | 一种i3c访问dimm的管理系统和服务器 | |
| CN112306920A (zh) | 一种减少硬盘逻辑控制器的方法及服务器 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20210611 |
|
| WD01 | Invention patent application deemed withdrawn after publication |