TW202343594A - 高性能計算中用於記憶體分離之光學通信 - Google Patents

高性能計算中用於記憶體分離之光學通信 Download PDF

Info

Publication number
TW202343594A
TW202343594A TW112103768A TW112103768A TW202343594A TW 202343594 A TW202343594 A TW 202343594A TW 112103768 A TW112103768 A TW 112103768A TW 112103768 A TW112103768 A TW 112103768A TW 202343594 A TW202343594 A TW 202343594A
Authority
TW
Taiwan
Prior art keywords
hbm
optical
package
chiplet
die
Prior art date
Application number
TW112103768A
Other languages
English (en)
Inventor
霍利亞 亞歷山德魯 托瑪
佐偉 沈
宏 劉
柔政 沈
彪 賀
李在植
喬治斯 康斯坦蒂尼迪斯
澤圭 姜
伊戈爾 阿索夫斯基
蘇卡帕 畢斯瓦世
Original Assignee
美商谷歌有限責任公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商谷歌有限責任公司 filed Critical 美商谷歌有限責任公司
Publication of TW202343594A publication Critical patent/TW202343594A/zh

Links

Images

Classifications

    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L25/00—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof
    • H01L25/16—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof the devices being of types provided for in two or more different main groups of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. forming hybrid circuits
    • H01L25/167—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof the devices being of types provided for in two or more different main groups of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. forming hybrid circuits comprising optoelectronic devices, e.g. LED, photodiodes
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L25/00—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof
    • H01L25/03—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes
    • H01L25/04—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes the devices not having separate containers
    • H01L25/065—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes the devices not having separate containers the devices being of a type provided for in group H01L27/00
    • H01L25/0652—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes the devices not having separate containers the devices being of a type provided for in group H01L27/00 the devices being arranged next and on each other, i.e. mixed assemblies
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00—Digital computers in general; Data processing equipment in general
    • G06F15/76—Architectures of general purpose stored program computers
    • G06F15/78—Architectures of general purpose stored program computers comprising a single central processing unit
    • G06F15/7839—Architectures of general purpose stored program computers comprising a single central processing unit with memory
    • G06F15/7864—Architectures of general purpose stored program computers comprising a single central processing unit with memory on more than one IC chip
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00—Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/24—Coupling light guides
    • G02B6/42—Coupling light guides with opto-electronic elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00—Digital computers in general; Data processing equipment in general
    • G06F15/76—Architectures of general purpose stored program computers
    • G06F15/78—Architectures of general purpose stored program computers comprising a single central processing unit
    • G06F15/7807—System on chip, i.e. computer system on a single chip; System in package, i.e. computer system on one or more chips in a single package
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C5/00—Details of stores covered by group G11C11/00
    • G11C5/02—Disposition of storage elements, e.g. in the form of a matrix array
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L25/00—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof
    • H01L25/03—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes
    • H01L25/04—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes the devices not having separate containers
    • H01L25/065—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof all the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N, e.g. assemblies of rectifier diodes the devices not having separate containers the devices being of a type provided for in group H01L27/00
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L25/00—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof
    • H01L25/18—Assemblies consisting of a plurality of individual semiconductor or other solid state devices ; Multistep manufacturing processes thereof the devices being of types provided for in two or more different subgroups of the same main group of groups H01L27/00 - H01L33/00, or in a single subclass of H10K, H10N
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C2207/00—Indexing scheme relating to arrangements for writing information into, or reading information out from, a digital store
    • G11C2207/10—Aspects relating to interfaces of memory device to external buses
    • G11C2207/105—Aspects related to pads, pins or terminals
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1051—Data output circuits, e.g. read-out amplifiers, data output buffers, data output registers, data output level conversion circuits
    • G11C7/1054—Optical output buffers
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1078—Data input circuits, e.g. write amplifiers, data input buffers, data input registers, data input level conversion circuits
    • G11C7/1081—Optical input buffers
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L2225/00—Details relating to assemblies covered by the group H01L25/00 but not provided for in its subgroups
    • H01L2225/03—All the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/648 and H10K99/00
    • H01L2225/04—All the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/648 and H10K99/00 the devices not having separate containers
    • H01L2225/065—All the devices being of a type provided for in the same subgroup of groups H01L27/00 - H01L33/648 and H10K99/00 the devices not having separate containers the devices being of a type provided for in group H01L27/00
    • H01L2225/06503—Stacked arrangements of devices
    • H01L2225/06527—Special adaptation of electrical connections, e.g. rewiring, engineering changes, pressure contacts, layout
    • H01L2225/06531—Non-galvanic coupling, e.g. capacitive coupling
    • H01L2225/06534—Optical coupling

Landscapes

  • Engineering & Computer Science (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computing Systems (AREA)
  • Optical Couplings Of Light Guides (AREA)

Abstract

本技術大體係關於自一特殊應用積體電路(「ASIC」)封裝分離記憶體。例如，一高頻寬記憶體(「HBM」)光學模組封裝可經由一或多個光學連結連接至一ASIC封裝。該HBM光學模組封裝可包括HBM晶粒、HBM小晶片及一光學小晶片。該光學小晶片可經組態以將該HBM光學模組連接至一或多個光纖，其與該ASIC封裝之一或多個其他組件形成一光學連結。藉由在該HBM光學模組封裝中包括一光學小晶片，該HBM光學模組封裝可自一ASIC封裝分離。

Description

高性能計算中用於記憶體分離之光學通信
高性能計算可能需要複數個高頻寬記憶體(「HBM」)晶粒。與其他類型之記憶體相比，HBM可提供更大之頻寬，同時使用更小之功率。通常，HBM晶粒整合在特殊應用積體電路(「ASIC」)封裝中。隨著ASIC封裝之性能要求增加，可能需要額外HBM晶粒來提供頻寬及容量，以提高性能。然而，由於ASIC封裝之空間約束、ASIC封裝之功率約束及/或ASIC封裝之熱約束，整合在ASIC封裝中之HBM晶粒之數量可能受到限制。此外，對於具有整合式HBM晶粒之ASIC封裝，任何HBM晶粒中之缺陷都可能使整個ASIC封裝不可操作。因此，由於HBM晶粒之故障，包括ASIC晶粒之整個ASIC封裝可能必須更換，此可能係昂貴且浪費的。
本技術大體係關於自ASIC封裝分離記憶體。記憶體可為例如HBM。HBM晶粒可為光學連接至ASIC封裝之HBM光學模組封裝之一部分。HBM光學模組封裝可包括HBM晶粒、HBM小晶片及光學小晶片。光學小晶片可經組態以將HBM光學模組封裝光學連接至ASIC封裝。藉由將HBM光學模組封裝光學連接至ASIC封裝，HBM晶粒可自ASIC封裝分離。藉由將HBM晶粒自ASIC封裝分離，無論ASIC封裝之佔據面積大小、ASIC封裝之熱約束及/或ASIC封裝之功率約束如何，額外HBM晶粒都可連接至ASIC封裝。將HBM晶粒自ASIC封裝分離可另外或替代地提供減小之維修成本，因為與整個ASIC封裝相比，僅需更換HBM光學模組封裝上之有故障組件。
本技術之一個態樣係關於一種封裝，該封裝包含一或多個高頻寬記憶體(HBM)晶粒、連接至一或多個HBM模組之HBM小晶片及耦接至HBM小晶片且連接至一或多個光纖之光學小晶片。光學小晶片可經組態以經由該一或多個光纖將該一或多個HBM模組連接至單獨之光學組件。
單獨之光學組件可為特殊應用積體電路(ASIC)晶粒。該封裝可包括用於一或多個HBM晶粒、HBM小晶片及光學小晶片之各別插槽。該一或多個HBM晶粒、HBM小晶片及光學小晶片可可移除地耦接至封裝。HBM小晶片可包括第一晶粒對晶粒(D2D)，且光學小晶片包括第二D2D。HBM小晶片可經由第一D2D與第二D2D之間的D2D介面與光學小晶片通信。
本技術之另一態樣係關於一種系統，該系統包含第一封裝及與第一封裝光學耦接之第二封裝。第二封裝可包含一或多個高頻寬記憶體(HBM)晶粒、連接至一或多個HBM模組之HBM小晶片及耦接至HBM小晶片且連接至一或多個光纖之光學小晶片。光學小晶片可經組態以經由該一或多個光纖將第二封裝連接至第一封裝。
第一封裝可為特殊應用積體電路(ASIC)晶粒。ASIC晶粒可包括一或多個光學介面。該一或多個光學介面中之每一光學介面可經組態以連接至一或多個光纖。
光學小晶片可包括一或多個第一光纖埠，該一或多個第一光纖埠經組態以接收該一或多個光纖中之一個光纖之各別第一端，且該一或多個光學介面可包括一或多個第二光纖埠，該一或多個第二光纖埠經組態以接收該一或多個光纖之各別第二端。
第二封裝可包括一或多個HBM晶粒、HBM小晶片及光學小晶片之各別插槽。該一或多個HBM晶粒、HBM小晶片及光學小晶片可移除地耦接至第二封裝。HBM小晶片可包括第一晶粒對晶粒(D2D)，且光學小晶片包括第二D2D。HBM小晶片可經由第一D2D與第二D2D之間的D2D介面與光學小晶片通信。
相關申請案之交叉參考
本申請案主張於2022年4月25日提交之美國臨時專利申請案第63/334,395號之申請日的權益，該申請案之揭示內容特此以引用之方式併入本文中。
本技術大體係關於自特殊應用積體電路(「ASIC」)封裝分離記憶體。例如，高頻寬記憶體(「HBM」)光學模組封裝可經由一或多個光學連結連接至ASIC封裝。HBM光學模組封裝可包括HBM晶粒、HBM小晶片及光學小晶片。光學小晶片可經組態以將HBM光學模組封裝連接至一或多個光纖，其與ASIC封裝之一或多個其他組件形成光學連結。藉由在HBM光學模組封裝中包括光學小晶片，HBM晶粒可自ASIC封裝分離。
與HBM晶粒整合在ASIC封裝內之情況相比，HBM光學模組封裝與ASIC封裝之間的光學連結可允許HBM光學模組封裝及因此HBM晶粒與ASIC晶粒之位置明顯更遠。由於HBM光學模組封裝與ASIC封裝之間的連接為光學連接，因此即使HBM晶粒與ASIC封裝之間的距離增加，亦幾乎不導致性能下降。
如本文所使用，頻道範圍係指信號藉由光連接或電連接傳播之距離。光學連結之頻道範圍可比電連結之頻道範圍更遠。藉由分離HBM晶粒及將HBM晶粒併入HBM光學模組封裝中，系統設計者藉由利用光學連結提供之更長頻道範圍，獲得關於HBM晶粒相對於ASIC封裝之位置的更大靈活性。此外，由於HBM晶粒可位於ASIC封裝外部，因此可減小ASIC封裝尺寸。
隨著ASIC封裝之性能要求增加，可能需要更多HBM晶粒來提供記憶體頻寬及容量以提高性能。ASIC性能要求之增加可能限制可在ASIC封裝上置放多少HBM晶粒。可用封裝尺寸或ASIC佔據面積可能限制封裝上置放之HBM晶粒的數量。例如，封裝尺寸可基於亦必須連接至封裝之其他組件為HBM晶粒分配預定量之空間。因此，在不擴大封裝之情況下，可能限制HBM晶粒之空間量。置放在封裝上之HBM晶粒之數量可另外或替代地基於封裝之功率及熱約束而受到限制。例如，在封裝上包括額外HBM晶粒可能導致熱輸出增加。熱輸出之增加可能超過封裝之熱約束，且因此可能損壞封裝內之組件及/或封裝本身。
藉由將HBM晶粒併入HBM光學模組封裝中，HBM晶粒可自ASIC模組分離，且經由一或多個光纖連接。將HBM晶粒自ASIC模組分離可增加可連接至ASIC封裝之HBM晶粒之數量。
圖1自俯視圖說明HBM光學模組封裝。HBM光學模組封裝100可包括複數個組件，諸如HBM晶粒102、HBM小晶片104及光學小晶片116。儘管圖1展示具有一個HBM晶粒102、HBN小晶片104及光學小晶片116之實例HBM光學模組封裝100，但HBM光學模組封裝可包括任何數量之HBM晶粒102、HBN小晶片104及光學小晶片116。因此，圖1中所示之組態僅為一個實例，並不旨在進行限制。
HBM光學模組封裝100之每一組件都可連接至HBM光學模組封裝100內之一或多個基板，諸如電路板。例如，組件可經由一或多個插槽連接至主基板101或與主基板連接之子基板。在一些實例中，每一組件可以可移除地連接至基板。在此種組態中，每一組件都可用升級之組件更換。在一些實例中，若組件出現故障，則可更換每一組件。相比之下，具有整合式HBM之ASIC封裝可能需要在單個組件發生故障時更換整個ASIC封裝，或者需要困難且耗時之維修過程來更換故障組件。
HBM小晶片104可包括HBM實體介面(「PHY」) 106、HBM控制器108、配接器110、晶粒對晶粒(「D2D」)介面112、晶片管理器(「CM」)、測試設計(「DFT」)及通用輸入/輸出(「GPIO」) 114。
例如，HBM PHY 106可自HBM控制器108接收命令，且將命令發送給HBM晶粒102。例如，HBM控制器108可最佳化記憶體訊務，且提高HBM小晶片104、HBM晶粒102及/或HBM光學模組封裝100之整體性能。
配接器110可允許對HBM光學模組封裝100上之組件進行獨立測試。獨立測試可經由一或多個外部介面執行。根據一些實例，測試可為聯合測試行動小組(「JTAG」)測試及/或缺陷零件篩選。組件之獨立測試可減少因缺陷之組件及/或HBM光學模組封裝之總擁有成本而導致之任何停機時間。在一些實例中，若配接器110判定組件發生故障及/或有缺陷，則配接器110可發送識別出故障或有缺陷之組件之通知。該組件可自系統主板上之各別插槽中移除，並用正常工作之組件更換。在此實例中，與必須更換整個ASIC封裝或HBM光學模組封裝100相比，僅更換故障組件可節省時間及金錢。
根據一些實例，藉由識別故障或有缺陷之組件，與更換單片ASIC封裝相比，可減少更換或維修HBM光學模組封裝100之停機時間。在此實例中，停機時間可能限於自其各別插槽中移除故障組件並用新組件替換。另外或替代地，僅具有故障組件之HBM光學模組封裝100在維修期間可能經歷停機時間。相比之下，對於單片封裝，整個ASIC封裝可能經歷停機時間。此外，若單片封裝上之組件出現故障，則必須更換整個封裝，此代價高昂。
CM 114可組態及管理HBM小晶片104、HBM晶粒102及/或HBM光學模組封裝100。
HBM小晶片104可連接至HBM晶粒102及光學小晶片116。光學小晶片116可經由D2D介面118、112連接至HBM小晶片102。例如，HBM小晶片104之D2D 112可與光學小晶片116之D2D 118通信。D2D介面112、118可為高頻寬介面(「HBI」)。
光學小晶片116可包括D2D 118、一或多個光纖埠120及負載平衡(「LB」)實體介面(「PHY」) 130。每一光纖埠120可經組態以接收各別光纖122。光纖122可自光學小晶片116連接至單獨之組件。例如，光纖122可將光學小晶片116連接至ASIC封裝。藉由將光纖122耦接至光學小晶片116，HBM光學模組封裝100可與ASIC封裝分離。在此方面，與HBM晶粒與ASIC封裝之間的電連接相比，光纖122可擴大HBM光學模組封裝100與ASIC封裝之間的頻道範圍。
LB PHY 130可經組態以控制向ASIC封裝發送及/或自ASIC封裝接收之資料。
圖2說明實例系統，其中HBM與ASIC封裝分離。系統2000可包括ASIC封裝224及複數個HBM光學模組封裝200。每一HBM光學模組封裝200可包括HBM晶粒202、HBM小晶片204及光學小晶片216。如圖3所示，HBM小晶片204可包括HMB PHY 206、HBM控制器208、配接器210、D2D介面212及GPIO 214。HBM小晶片204可包括HMB PHY 206、HBM控制器208、配接器210、D2D介面212及GPIO 214，其等可類似於如圖1所說明之HBM PHY 106、HBM控制器108、配接器110、D2D介面112及GPIO 114。如圖3所示，光學小晶片216可包括D2D介面218、一或多個光纖埠220及LB PHY 230。D2D介面218、光纖埠220及LB PHY 230可實質上類似於如圖1所說明之D2D介面118、光纖埠120及LB PHY 130。每一HBM光學模組封裝200可藉由一或多個光纖222連接至ASIC封裝224。ASIC封裝224可為例如張量處理單元(「TPU」)。
ASIC封裝224可包括互連件226及複數個光學介面228。互連件226可為例如匯流排或互連介面(「ICI」)。互連件226可經組態以與另一ASIC封裝之互連件通信。互連件226可包括D2D介面。互連件226之D2D可連接至各別光學介面228之D2D介面。
光學介面228可包括負載平衡(「LB」)實體介面(「PHY」) 232。與HBM光學模組封裝100之LB PHY 130類似，LP PHY 232可經組態以控制向HBM光學模組封裝200發送及/或自HBM光學模組封裝200接收之資料量。另外或替代地，光學介面228可包括一或多個光纖埠234，如圖3所示。每一光纖埠234可經組態以接收各別光纖222。光纖222可將每一HBM光學模組封裝200連接至各別光學介面228。
圖3說明系統2000之部分300的放大方塊圖。部分300包括光學連接至光學介面228之HBM光學模組封裝200。光學介面可連接至互連件226。
複數個光纖222可將HBM光學模組封裝200上之每一光纖埠220延伸至介面228上之各別光纖埠234。雖然HBM光學模組封裝200及介面228上顯示十二個光纖埠220、234，但可存在任何數量之光纖埠。例如，可存在一個、五個、二十個等。因此，十二個光纖埠220、234僅僅為一個實例，並不旨在進行限制。此外，為了清楚起見，圖3說明在HBM光學模組封裝200上之光纖埠220與介面228上之光纖埠234之間延伸的四個光纖222。例如，可能存在自HBM光學模組封裝200上之每一光纖埠220延伸至介面228上之各別光纖埠234的光纖222。因此，在一些實例中，在HBM光學模組封裝200與介面228之間延伸的光纖222之數量可對應於光纖埠220、234之數量。在一些實例中，光纖222之數量可小於光纖埠220、234之數量，使得存在空光纖埠220、234。
光纖222將HBM光學模組封裝200連接至ASIC封裝224可擴大HBM光學模組封裝200與ASIC封裝224之間的頻道範圍。光學連結之頻道範圍可比電連結之頻道範圍更遠。例如，擴大HBM光學模組封裝200與ASIC封裝224之間的頻道範圍可提供關於HBM光學模組封裝200相對於ASIC封裝224位於何處之靈活性。例如，擴大之頻道範圍可允許HBM光學模組封裝200及因此HBM 204與ASIC封裝224分離。
除非另有說明，否則上述替代實例並非相互排斥，但可藉由各種組合實施，以達成獨特之優勢。由於可在不脫離申請專利範圍所限定之主題的情況下利用上述特徵之此等及其他變化及組合，因此應當藉由說明之方式而非藉由限制申請專利範圍所限定之主題的方式來對實例進行上述描述。另外，提供本文描述之實例及措辭為「例如」、「包括」等之句子不應被解釋為將申請專利範圍之主題限於特定實例；相反，此等實例僅用於說明許多可能實施中之一種。此外，不同附圖中之相同附圖標記可標識相同或類似之元件。
100:HBM光學模組封裝 101:主基板 102:HBM晶粒 104:HBM小晶片 106:HBM實體介面 108:HBM控制器 110:配接器 112:晶粒對晶粒(「D2D」)介面 114:通用輸入/輸出 116:光學小晶片 118:D2D介面 120:光纖埠 130:負載平衡(「LB」)實體介面 200:HBM光學模組封裝 202:HBM晶粒 204:HBM小晶片 216:光學小晶片 220:光纖埠 222:光纖 224:ASIC封裝 226:互連件 228:光學介面 232:負載平衡(「LB」)實體介面 234:光纖埠
圖1說明根據本發明之態樣之實例封裝。
圖2說明根據本發明之態樣之實例系統。
圖3說明根據本發明之態樣之圖2之實例系統的詳細部分。
100:HBM光學模組封裝
101:主基板
102:HBM晶粒
104:HBM小晶片
106:HBM實體介面
108:HBM控制器
110:配接器
112:晶粒對晶粒(「D2D」)介面
114:通用輸入/輸出
116:光學小晶片
118:D2D介面
120:光纖埠
130:負載平衡(「LB」)實體介面

Claims (15)

  1. 一種封裝，其包含： 一或多個高頻寬記憶體(HBM)晶粒； 一HBM小晶片，該HBM小晶片連接至該一或多個HBM晶粒；及 一光學小晶片，該光學小晶片耦接至該HBM小晶片且連接至一或多個光纖， 其中，該光學小晶片經組態以經由該一或多個光纖將該一或多個HBM晶粒連接至一單獨之光學組件。
  2. 如請求項1之封裝，其中，該單獨之光學組件為一特殊應用積體電路(ASIC)晶粒。
  3. 如請求項1之封裝，其中，該封裝包括用於該一或多個HBM晶粒、該HBM小晶片及該光學小晶片之一各別插槽。
  4. 如請求項1之封裝，其中，該一或多個HBM晶粒、該HBM小晶片及該光學小晶片可移除地耦接至該封裝。
  5. 如請求項1之封裝，其中，該HBM小晶片包括一第一晶粒對晶粒(D2D)，且該光學小晶片包括一第二D2D。
  6. 如請求項5之封裝，其中，該HBM小晶片經由該第一D2D與該第二D2D之間的一D2D介面與該光學小晶片通信。
  7. 一種系統，其包含： 一第一封裝；及 一第二封裝，該第二封裝光學耦接至該第一封裝，該第二封裝包含： 一或多個高頻寬記憶體(HBM)晶粒； 一HBM小晶片，該HBM小晶片連接至該一或多個HBM晶粒；及 一光學小晶片，該光學小晶片耦接至該HBM小晶片且連接至一或多個光纖， 其中，該光學小晶片經組態以經由該一或多個光纖將該第二封裝連接至該第一封裝。
  8. 如請求項7之系統，其中，該第一封裝為一特殊應用積體電路(ASIC)晶粒。
  9. 如請求項8之系統，其中，該ASIC晶粒包括一或多個光學介面。
  10. 如請求項9之系統，其中，該一或多個光學介面中之每一光學介面經組態以連接至該一或多個光纖。
  11. 如請求項9之系統，其中： 該光學小晶片包括一或多個第一光纖埠，該一或多個第一光纖埠經組態以接收該一或多個光纖中之一個光纖之一各別第一端，且 該一或多個光學介面包括一或多個第二光纖埠，該一或多個第二光纖埠經組態以接收該一或多個光纖之一各別第二端。
  12. 如請求項7之系統，其中，該第二封裝包括用於該一或多個HBM晶粒、該HBM小晶片及該光學小晶片之一各別插槽。
  13. 如請求項7之系統，其中，該一或多個HBM晶粒、該HBM小晶片及該光學小晶片可移除地耦接至該第二封裝。
  14. 如請求項7之系統，其中，該HBM小晶片包括一第一晶粒對晶粒(D2D)，且該光學小晶片包括一第二D2D。
  15. 如請求項13之系統，其中，該HBM小晶片經由該第一D2D與該第二D2D之間的一D2D介面與該光學小晶片通信。
TW112103768A 2022-04-25 2023-02-03 高性能計算中用於記憶體分離之光學通信 TW202343594A (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US202263334395P 2022-04-25 2022-04-25
US63/334,395 2022-04-25
US17/992,241 2022-11-22
US17/992,241 US20230343768A1 (en) 2022-04-25 2022-11-22 Optical Communication for Memory Disaggregation in High Performance Computing

Publications (1)

Publication Number Publication Date
TW202343594A true TW202343594A (zh) 2023-11-01

Family

ID=84980826

Family Applications (1)

Application Number Title Priority Date Filing Date
TW112103768A TW202343594A (zh) 2022-04-25 2023-02-03 高性能計算中用於記憶體分離之光學通信

Country Status (5)

Country Link
US (1) US20230343768A1 (zh)
EP (1) EP4270207A1 (zh)
KR (1) KR20230151435A (zh)
CN (1) CN115985900A (zh)
TW (1) TW202343594A (zh)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW202209323A (zh) * 2020-02-14 2022-03-01 美商爾雅實驗室公司 藉由單體式封裝光學i/o實施的遠端記憶體架構
US20210335393A1 (en) * 2021-07-09 2021-10-28 Intel Corporation Stacked memory chip solution with reduced package inputs/outputs (i/os)

Also Published As

Publication number Publication date
EP4270207A1 (en) 2023-11-01
US20230343768A1 (en) 2023-10-26
CN115985900A (zh) 2023-04-18
KR20230151435A (ko) 2023-11-01

Similar Documents

Publication Publication Date Title
TWI756488B (zh) 支援多模式及/或多速度之跨架構高速非揮發性記憶體裝置的系統與方法及儲存裝置
US6395565B1 (en) Multi-chip module system and method of fabrication
KR102384328B1 (ko) 플렉시블 스토리지 플랫폼을 위한 다중 프로토콜 io 인프라스트럭쳐
US10591544B2 (en) Programmable integrated circuits with in-operation reconfiguration capability
US9697167B2 (en) Implementing health check for optical cable attached PCIE enclosure
US8604593B2 (en) Reconfiguring through silicon vias in stacked multi-die packages
US9697156B2 (en) Detecting and configuring of external IO enclosure
US6275975B1 (en) Scalable mesh architecture with reconfigurable paths for an on-chip data transfer network incorporating a network configuration manager
US8630287B2 (en) Multiple core network device with core redundancy
TWI669612B (zh) PCIe織品連接性擴充卡
US8151011B2 (en) Input-output fabric conflict detection and resolution in a blade compute module system
US7596650B1 (en) Increasing availability of input/output (I/O) interconnections in a system
TW202343594A (zh) 高性能計算中用於記憶體分離之光學通信
KR100883005B1 (ko) 고가용성 대용량 저장 시스템 및 이의 생성 방법
US20070143520A1 (en) Bridge, computer system and method for initialization
US20120286818A1 (en) Assembly for optical backside failure analysis of wire-bonded device during electrical testing
US7656789B2 (en) Method, system and storage medium for redundant input/output access
US20070275577A1 (en) Circuit board
US20130176764A1 (en) Semiconductor apparatus
CN113806146B (zh) 测试转接卡设计系统及其方法
US10665515B1 (en) Selective per die performance binning
US20210278458A1 (en) Software and firmware support for device interface board configured to allow devices supporting multiple different standards to interface with the same socket
US6781363B2 (en) Memory sorting method and apparatus
JP2959542B2 (ja) 半導体装置
CN114138354A (zh) 一种支持multihost的板载OCP网卡系统及服务器