TWI757300B - 用於執行內部程序之記憶體裝置及其操作方法 - Google Patents

用於執行內部程序之記憶體裝置及其操作方法 Download PDF

Info

Publication number
TWI757300B
TWI757300B TW106118693A TW106118693A TWI757300B TW I757300 B TWI757300 B TW I757300B TW 106118693 A TW106118693 A TW 106118693A TW 106118693 A TW106118693 A TW 106118693A TW I757300 B TWI757300 B TW I757300B
Authority
TW
Taiwan
Prior art keywords
internal
data
memory
memory device
memory cell
Prior art date
Application number
TW106118693A
Other languages
English (en)
Other versions
TW201802692A (zh
Inventor
吳凜
柳濟民
卡西比哈特拉 帕文庫馬
Original Assignee
南韓商三星電子股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020170061636A external-priority patent/KR102345539B1/ko
Priority claimed from US15/607,699 external-priority patent/US10083722B2/en
Application filed by 南韓商三星電子股份有限公司 filed Critical 南韓商三星電子股份有限公司
Publication of TW201802692A publication Critical patent/TW201802692A/zh
Application granted granted Critical
Publication of TWI757300B publication Critical patent/TWI757300B/zh

Links

Images

Classifications

    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14—Handling requests for interconnection or transfer
    • G06F13/16—Handling requests for interconnection or transfer for access to memory bus
    • G06F13/1668—Details of memory controller
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1006—Data managing, e.g. manipulating data before writing or reading out, data bus switches or control circuits therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14—Handling requests for interconnection or transfer
    • G06F13/16—Handling requests for interconnection or transfer for access to memory bus
    • G06F13/1605—Handling requests for interconnection or transfer for access to memory bus based on arbitration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14—Handling requests for interconnection or transfer
    • G06F13/36—Handling requests for interconnection or transfer for access to common bus or bus system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659—Command handling arrangements, e.g. command buffers, queues, command scheduling
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C5/00—Details of stores covered by group G11C11/00
    • G11C5/02—Disposition of storage elements, e.g. in the form of a matrix array
    • G11C5/04—Supports for storage elements, e.g. memory modules; Mounting or fixing of storage elements on such supports
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1048—Data bus control circuits, e.g. precharging, presetting, equalising
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1051—Data output circuits, e.g. read-out amplifiers, data output buffers, data output registers, data output level conversion circuits
    • G11C7/106—Data output latches
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1078—Data input circuits, e.g. write amplifiers, data input buffers, data input registers, data input level conversion circuits
    • G11C7/1087—Data input latches

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Memory System (AREA)
  • Dram (AREA)

Abstract

一記憶體裝置包括具有對應多數獨立通道的多數記憶體胞元群組的一記憶體胞元陣列，及該裝置及其操作方法進行用於該等記憶體胞元群組的一內部資料處理操作。該記憶體裝置包括一內部指令產生器，經組配以產生一或多個內部指令以便回應於一指令的一接收而進行一內部資料處理操作，及用於一共用內部處理通道的一內部共用匯流排其係置放以由該等多數記憶體胞元群組分享及經組配以當進行該內部資料處理操作時形成該等多數記憶體胞元群組間之一資料發射路徑。

Description

用於執行內部程序之記憶體裝置及其操作方法 參考相關申請案
此申請案主張於韓國智慧財產局提申日期2016年6月8日的韓國專利申請案第10-2016-0071074號的權益，該案之揭示全文爰引於此並融入本說明書之揭示。
發明領域
本揭示係有關於記憶體裝置，及更明確言之，係有關於用於執行內部程序之記憶體裝置及其操作方法。
廣用於高效能電子系統的半導體記憶體裝置之容量及速度不斷增加。至於半導體記憶體裝置之一釋例，動態隨機存取記憶體(DRAM)其乃依電性記憶體，於其中資料係藉由儲存於電容器中之電荷改變而決定的一記憶體。
半導體記憶體裝置可通過一或多個通道而與外部記憶體控制器交換資料。舉例言之，依據從記憶體控制器提供的指令類型，可進行從記憶體控制器提供的資 料之處理操作，或可讀取儲存於其中的資料，進行用於讀取資料之處理操作，及然後處理後資料可提供給記憶體控制器。於此種情況下，因半導體記憶體裝置與記憶體控制器間之頻寬被占用，故可能出現其中通道之使用效率減低及功率消耗增加的問題。
發明概要
本發明構想係有關於記憶體裝置，及記憶體裝置之操作方法，其採用在至少兩個記憶體胞元群組間分享的一內部處理通道用於對該記憶體裝置之該等至少兩個記憶體胞元群組的該等記憶體胞元進行內部處理操作。
依據本發明構想之一態樣，提出一種記憶體裝置，其包含：具有一內部指令產生器的一緩衝器晶粒，該內部指令產生器經組配以從一外部記憶體控制器接收用於由該記憶體裝置進行至少一個內部資料處理操作的一第一外部指令，及回應於該接收來產生至少兩個內部指令，該等至少兩個內部指令係用於使得該記憶體裝置去執行對應的內部記憶體操作以進行該至少一個內部資料處理操作；與該緩衝器晶粒堆疊在一起的一第一核心晶粒及一第二核心晶粒，該等第一及第二核心晶粒之每一者具有複數個動態隨機存取記憶體(DRAM)胞元，該等DRAM胞元係經排列成至少該第一核心晶粒的一第一記憶體胞元群組及該第二核心晶粒的一第二記憶體胞元群組；延伸貫穿該等第一及第二核心晶粒之複數個貫穿矽通孔(TSV)因而連結 到該緩衝器晶粒；各自與該等第一及第二記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，該等至少兩個獨立通道各自包括一對應集合之該等TSV；及在該等第一及第二核心晶粒之該等第一及第二記憶體胞元群組間分享的一共用內部處理通道。
依據本發明構想之另一態樣，提出一種記憶體裝置，其包含：具有一內部指令產生器的一緩衝器晶粒，經組配以自一外部記憶體控制器接收用於由該記憶體裝置進行至少一個內部資料處理操作的一第一外部指令，及回應於此用以產生至少兩個內部指令，該等內部指令係用於使得該記憶體裝置執行對應內部記憶體操作以進行該至少一個內部資料處理操作；與該緩衝器晶粒堆疊的至少一個核心晶粒，該至少一個核心晶粒具有多數動態隨機存取記憶體(DRAM)胞元排列成多數記憶體胞元群組；延伸貫穿該至少一個核心晶粒之多數貫穿矽通孔(TSV)因而連結到該緩衝器晶粒；及各自與該等記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，該等至少兩個獨立通道各自包含一對應集合之該等TSV，其中當該記憶體裝置進行該至少一個內部資料處理操作時該等TSV中之至少部分係由該等多數記憶體胞元群組中之至少二者分享。
依據本發明構想之又一態樣，提出一種記憶體裝置，其包含：排列成多數記憶體胞元群組的多數動態隨機存取記憶體(DRAM)胞元；各自與該等多數記憶體胞元群組中之對應一者相關聯的多數獨立通道；一內部指 令產生器經組配以自一外部記憶體控制器接收至少一第一外部指令用於由該記憶體裝置進行至少一個內部資料處理操作，及回應於此用以產生至少兩個內部指令用於使得欲被執行的對應記憶體操作進行該至少一個內部資料處理操作；及在該等多數記憶體胞元群組間分享的一共用內部處理通道。
依據本發明構想之又另一態樣，提出一種方法包含：在一記憶體裝置接收一外部指令，該記憶體裝置包含排列成至少兩個記憶體胞元群組的多數動態隨機存取記憶體(DRAM)胞元，各自與該等至少兩個記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，及在該等至少兩個記憶體胞元群組間分享的一共用內部處理通道；回應於該外部指令，判定是否由該記憶體裝置進行至少一個內部資料處理操作；及當判定由該記憶體裝置進行該至少一個內部資料處理操作時：產生至少兩個內部指令用以使得欲被執行的對應記憶體操作進行該至少一個內部資料處理操作，及選擇該等多數記憶體胞元群組中之一或多者以進行該等記憶體操作。
依據本發明構想之又另一態樣，提出一種方法，其包含：在一記憶體裝置接收一外部指令，該記憶體裝置包含排列成至少兩個記憶體胞元群組的多數動態隨機存取記憶體(DRAM)胞元，各自與該等至少兩個記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，及在該等至少兩個記憶體胞元群組間分享的一共用內部處理通 道；回應於該外部指令，判定該外部指令是否為一正常指令或用於由該記憶體裝置進行至少一個內部資料處理操作的一指令；當判定由該記憶體裝置進行該至少一個內部資料處理操作時，通過由至少兩個記憶體胞元群組分享的一共用內部處理通道進行該至少一個內部資料處理操作；及當判定該外部指令是否為一正常指令時，透過各自與該等至少兩個記憶體胞元群組中之對應一者相關聯的多數獨立通道中之一者執行該正常指令。
10A、10C:記憶體系統
10B:資料處理系統
100A、100C、920:記憶體控制器
100B:應用處理器
110B:記憶體控制模組
120B:數據機處理器
130B:中央處理單元(CPU)
140B:嵌入式記憶體
150B:系統匯流排
200A、200B、200C、300A、300B、400、500、600、700、910:記憶體裝置
201C:記憶體模組
210A、210B:記憶體胞元陣列
220A、220B、320A、320B、350B、830:內部共用匯流排
230A、230B、330A、330B、411、840:內部指令產生器
311A-314A、311B-314B:記憶體胞元群組
340A、340B、421_2~424_2、526、536、850:資料處理器
410、510、610、800A:緩衝器晶粒
412、810:TSV區
413、820:實體(PHY)區
414:DA區
420、421-424、520、530、620、630:核心晶粒
421_1~424_1、522、532、622、632:指令解碼器
430:貫穿矽通孔(TSV)
511、611:記憶體中處理器(PIM)
512、612:介面
513、613:路徑控制器
514、524、534、614、624、634:讀取資料路徑
515、523、533、615、623、633:寫入資料路徑
516、616:閂鎖
521、531、621、631:記憶體胞元核心或群組
525、535、625、635:收發器
626、636、720、730:PIM功能區塊
900:半導體封裝
930:中介件
940:封裝基體
950:焊料球
A0、A1、B0、B1:開關
A2、B2:緩衝器
ADD:位址
Cell_CH1~4:記憶體胞元群組
CH:通道
CMD:指令
CON:記憶體控制器
DA:直接存取
DA BUS:內部共用匯流排
DATA:資料
HOST:主機
HBM:高頻寬記憶體
ICMD_1~4:內部指令
I/F:介面
I/O:輸入/輸出
Lat1-2、Lat A1-2、Lat B1-2:閂鎖
MUX、MUX A、MUX B:多工器
PHY:實體層
PIM:記憶體中處理器
RD:讀取
S11-17、S21-23、S31-34:步驟
TSV:貫穿矽通孔(TSV)
WR:寫入
本發明構想之實施例從結合附圖所做的後文詳細說明部分將更明白瞭解。
圖1為例示記憶體系統之一具體實施例的方塊圖。
圖2為例示記憶體系統之另一具體實施例的方塊圖。
圖3為例示圖2之應用處理器的一具體實施例的方塊圖。
圖4為例示記憶體系統之另一具體實施例的方塊圖。
圖5及6為例示記憶體裝置之具體實施例的組態之方塊圖。
圖7、8A、及8B為例示記憶體裝置之操作方法的一具體實施例的流程圖。
圖9為例示具有堆疊結構之一記憶體裝置 的方塊圖。
圖10為例示於圖9之記憶體裝置中之內部處理操作的一釋例之略圖。
圖11為例示於其中於記憶體裝置之一具體實施例中進行資料複製操作的一釋例之方塊圖。
圖12A及12B為例示於記憶體裝置之一具體實施例中於其中進行資料交換操作的一釋例之方塊圖。
圖13A、13B及13C為例示於記憶體裝置之一具體實施例中於其中進行讀取-修正-寫入(RMW)的一釋例之方塊圖。
圖14A及14B為例示於記憶體裝置之一具體實施例中，於其中在二或多個核心晶粒上同時進行RMW操作的一釋例之方塊圖。
圖15A及15B為例示於記憶體裝置之一具體實施例中於其中進行遮罩寫入的一釋例之方塊圖。
圖16為例示記憶體裝置之一可修正實施例的方塊圖。
圖17及18為例示涵括於記憶體裝置之一具體實施例中的緩衝器晶粒之一具體實施例的方塊圖。
圖19及20為詳細例示圖17及18中例示的前述緩衝器晶粒之具體實施例的略圖。
圖21及22為例示緩衝器晶粒的可修正具體實施例之方塊圖。
圖23及24為例示於圖21及22中例示之前 述緩衝器晶粒中之信號發射路徑釋例之方塊圖。
圖25為例示包括記憶體裝置之具體實施例的半導體封裝之一釋例的組態圖。
較佳實施例之詳細說明
後文中將參考附圖以細節描述例示本發明之構想的實施例。
圖1為例示記憶體系統之一具體實施例的方塊圖。
參考圖1，記憶體系統10A可包括記憶體控制器100A及記憶體裝置200A。記憶體控制器100A包括記憶體介面110A，及藉透過記憶體介面110A提供各型信號至記憶體裝置200A而控制記憶體操作，諸如寫入、讀取等。舉例言之，記憶體控制器100A藉提供指令CMD及位址ADD給記憶體裝置200A而存取記憶體胞元陣列210A的資料DATA。指令CMD可包括用於普通記憶體操作，諸如資料寫入、資料讀取等的指令。又復，指令CMD可包括一指令其請求記憶體裝置200A進行其可包括一串列之記憶體操作的內部資料處理操作。
記憶體控制器100A可根據來自主機HOST的請求而存取記憶體裝置200A。記憶體控制器100A可使用各項協定與主機通訊。舉例言之，記憶體控制器100A可使用介面協定與主機通訊，諸如周邊組件互連快速(PCI-E)、進階技術附接(ATA)、串列ATA(SATA)、並 列ATA(PATA)、或小型電腦系統介面(SCSI)(SAS)。此外，各種其它介面協定，諸如通用串列匯流排(USB)、多媒體卡(MMC)、加強式小型碟片介面(ESDI)、整合式驅動電子(IDE)等可施加至主機與記憶體控制器100A間之協定。
記憶體裝置200A可包括記憶體胞元陣列210A、內部共用匯流排220A、及內部指令產生器230A。又復，記憶體裝置200A可包括n個獨立通道，及於此種情況下，記憶體裝置200A可包括對應n個獨立通道的n個獨立介面。換言之，獨立通道可包括獨立介面，及因而獨立通道中之各者可以個別記憶體裝置之相同方式操作。
依據一個實施例，記憶體裝置200A可包括針對獨立通道中之各者的一獨立信號發射路徑，及因此針對獨立通道中之各者可具體實施遞送指令/位址的一獨立信號發射路徑，及針對獨立通道中之各者也可具體實施遞送資料的一獨立信號發射路徑。
記憶體胞元陣列210A可包括對應多數獨立通道的多數記憶體胞元群組。舉例言之，當記憶體裝置200A包括n個獨立通道時，記憶體胞元陣列210A可包括n個記憶體胞元群組Cell_CH1至Cell_CHn。
同時，當記憶體裝置200A具有其中堆疊多數層的結構時，記憶體裝置200A可包括各自包括記憶體胞元的一或多層。包括記憶體胞元的該層可稱作核心晶粒，及各個核心晶粒可包括分開的獨立通道或記憶體胞元群 組。又復，單一核心晶粒可包括二或多個獨立通道或記憶體胞元群組，及於此種情況下，該核心晶粒可包括對應多數獨立通道或記憶體胞元群組的多數獨立介面。
同時，記憶體裝置200A可以是動態隨機存取記憶體(DRAM)，諸如雙倍資料速率同步DRAM(DDR SDRAM)、低功率DDR(LPDDR)SDRAM、圖形DDR(GDDR)SDRAM、儲存器匯流排(Rambus)DRAM(RDRAM)等。然而，實施例並非受此所限，及舉例言之，記憶體裝置200A可具體實施為非依電性記憶體，諸如快閃記憶體、磁性RAM(MRAM)、鐵電RAM(FeRAM)、相變RAM(PRAM)、電阻式RAM(ReRAM)等。
同時，內部共用匯流排220A可包括由多數記憶體胞元群組分享的匯流排用於實現由多數記憶體胞元群組分享的共用內部處理通道。舉例言之，一或多型信號可透過由內部共用匯流排220A所提供的共用內部處理通道而提供給多數記憶體胞元群組。內部共用匯流排220A可包括共用資料匯流排，其共通地提供資料給多數記憶體胞元群組。又復，內部共用匯流排220A可包括共用指令匯流排，其共通地提供內部指令給多數記憶體胞元群組。依據一個實施例，任一個記憶體胞元群組的資料可通過由內部共用匯流排220A所提供的共用內部處理通道而提供給一或多個其它記憶體胞元群組。
依據一個實施例，當由多數記憶體胞元群 組分享的匯流排並非原已存在於記憶體裝置200A時，除了任何現有匯流排之外，內部共用匯流排220A可進一步添加用於遞送記憶體裝置200A中之指令/資料。另一方面，因具有直接存取(DA)方式的測試區塊可設於記憶體裝置200A中，故當由多數記憶體胞元群組分享的匯流排原已存在於測試區塊中時，內部共用匯流排220A可對應由多數記憶體胞元群組分享的現有匯流排中之部分。
內部指令產生器230A可產生與記憶體操作相關的各型內部指令，及透過共用內部處理通道而提供所產生的內部指令給記憶體裝置200A之記憶體胞元群組。舉例言之，各類型指令可在記憶體控制器100A與記憶體裝置200A間經界定，及請求進行普通記憶體操作，諸如寫入、讀取等的指令可經界定。依據一個實施例，於普通記憶體操作中，指令及位址可透過獨立通道中之對應者而獨立地遞送給記憶體裝置200A中之各個記憶體胞元群組。
同時，以特定指令CMD為例，記憶體裝置200A可進行內部資料處理操作，於其中多數記憶體操作可回應於特定指令串列進行。內部指令產生器230A可產生多數內部指令以便回應於自記憶體控制器100A接收到特定指令CMD而循序地進行多數記憶體操作。又復，當進行內部資料處理操作時，指令及資料中之至少一者可通過內部共用匯流排220A所提供的共用內部處理通道而遞送至記憶體胞元群組，及如此當內部資料處理操作進行時，內部共用匯流排220A可形成多數記憶體胞元群組間之內部指 令/資料的發射路徑。
為了改良記憶體裝置200A之效能，可進行各種類型的內部資料處理操作。舉例言之，因記憶體裝置200A之胞元區中出現分段，故記憶體胞元區之一部分變成小於用於寫入資料的最小單元，及因此記憶體胞元區之該部分無法被使用。於此種情況下，因進行資料複製操作，故於記憶體裝置200A之記憶體胞元區可獲得連續自由記憶體空間，及因此可獲得記憶體的更有效運用。
為了進行前述內部資料處理操作，可界定用於將儲存於記憶體裝置200A之一個位置的資料複製至另一位置的複製指令CMD。當記憶體裝置200A從記憶體控制器100A接收複製指令CMD時，內部指令產生器230A可產生用於資料複製的一串列之內部指令。當第一記憶體胞元群組Cell_CH1的資料複製入第二記憶體胞元群組Cell_CH2時，記憶體裝置200A可生成用於讀取第一記憶體胞元群組Cell_CH1的資料的內部指令及用於將所讀取的資料寫入第二記憶體胞元群組Cell_CH2的內部指令。又復，讀取自第一記憶體胞元群組Cell_CH1的資料可通過內部共用匯流排220A遞送至記憶體胞元群組Cell_CH2。
以習知方式，因記憶體裝置200A具有一般結構於其中針對各個記憶體胞元群組的各個獨立通道介面為獨立，為了進行資料複製操作，讀取自第一記憶體胞元群組Cell_CH1的資料必須通過對應記憶體胞元群組Cell_CH1的第一通道CH1之通訊路徑提供給記憶體控制 器100A，及記憶體控制器100A必須通過對應記憶體胞元群組Cell_CH2的第二通道CH2之通訊路徑將所接收的資料提供給記憶體裝置200A。另一方面，依據一實施例，用於資料複製之一串列的記憶體操作可通過記憶體裝置200A之內部資料處理操作進行而無記憶體控制器100A的介入。
據此，於記憶體系統10A中，資料處理頻寬及能源效率可經改良，及內部功耗及操作速度以及系統效能可經改良。
同時，資料複製操作係例示於前述實施例中，但實施例並非受此所限。舉例言之，於各型記憶體操作中，諸如資料移動、資料交換、讀取-修正-寫入(RMW)、遮罩寫入等，資料可在記憶體胞元群組間發射與接收，及如前文描述的記憶體操作可運用內部指令產生及由記憶體裝置200A的內部共用匯流排220A提供的共用內部處理通道通過內部資料處理操作進行。
圖2為例示記憶體系統之另一具體實施例的方塊圖。於圖2中，例示包括應用處理器100B及記憶體裝置200B的資料處理系統10B，及涵括於應用處理器100B及記憶體裝置200B的記憶體控制模組110B可組成記憶體系統。又復，記憶體裝置200B可包括記憶體胞元陣列210B、內部共用匯流排220B、及內部指令產生器230B。
應用處理器100B可發揮圖1中之主機的功能。又復，應用處理器100B可具體實施為單晶片系統 (SoC)。SoC可包括具有預定標準匯流排規格的協定施加其中的系統匯流排(未例示於圖中)，及可包括連結到系統匯流排的各型智慧財產(IP)核心。至於系統匯流排之標準規格，可應用進階RISC機器(ARM)控股公司的進階微控制器匯流排架構(AMBA)協定。進階高效能匯流排(AHB)、進階周邊匯流排(APB)、進階可擴延介面(AXI)、AXI4、AXI相干性擴延(ACE)等可涵括作為AMBA協定的一型匯流排。此外，可應用其它類型的協定，諸如美商芯網(Sonics Inc.)的uNetwork、IBM公司的CoreConnect、開放核心協定國際伙伴協會公司(OCP-IP)的開放核心協定。
記憶體控制模組110B可進行前述實施例中記憶體控制器之功能。又復，記憶體裝置200B可透過內部處理操作進行各型記憶體操作而無記憶體控制模組110B的介入。舉例言之，記憶體裝置200B可藉產生內部指令而進行資料的讀取及寫入操作，及資料可通過由內部共用匯流排220B提供的共用內部處理通道而在多數記憶體胞元群組間發射與接收。
圖3為例示圖2之應用處理器100B的一具體實施例的方塊圖。
參考圖2及3，應用處理器100B可包括通過系統匯流排150B連結的多數IP核心。應用處理器100B可包括例如，記憶體控制模組110B、數據機處理器120B、中央處理單元(CPU)130B、及嵌入式記憶體140B。CPU 130B可控制應用處理器100B內部的IP核心之各型操作，及數據機處理器120B為用來與基地台或其它通訊裝置進行無線通訊的處理器。
同時，記憶體控制模組110B可通過對應記憶體裝置200B之多數記憶體胞元群組Cell_CH1至Cell_CHn的多數獨立通道而與置放於應用處理器100B外部的記憶體裝置200B通訊。又，記憶體控制模組110B可通過系統匯流排150B而與嵌入式記憶體140B通訊。嵌入式記憶體140B也可以與依據前述實施例之記憶體裝置200B的相同或相似方式具體實施，及因此嵌入式記憶體140B可包括由內部共用匯流排(未例示於圖中)及內部指令產生器(未例示於圖中)所提供的共用內部處理通道。
圖4為例示記憶體系統之另一具體實施例的方塊圖。
參考圖4，記憶體系統10C可包括記憶體控制器100C及一或多個記憶體模組201C。記憶體模組201C中之各者包括一或多個記憶體裝置200C於其上的模組板。又復，記憶體模組201C可以單列記憶體模組(SIMM)形式或雙列記憶體模組(DIMM)形式具體實施。
前述獨立通道可以各種方式界定。依據一個實施例，一或多個記憶體模組201C可包括一或多個前述獨立通道。舉例言之，記憶體模組201C中之各者可包括該等獨立通道中之單一者。另外，多數記憶體裝置200C可安裝於記憶體模組201C中之各者上，及該等記憶體裝置 200C中之各者可包括該等獨立通道中之單一者。另外，該等記憶體裝置200C中之各者可包括多數記憶體胞元群組，及該等記憶體裝置200C中之各者可包括對應於該等多數記憶體胞元群組的多數獨立通道。
依據一個實施例，記憶體系統10C可包括用於實現共用內部處理通道的內部共用匯流排(未例示於圖中)。當記憶體模組201C中之各者包括針對單一記憶體胞元群組的該等獨立通道中之單一者時，可具體實施由多數記憶體模組201C分享的匯流排。另外，當該等記憶體裝置200C中之各者包括針對單一記憶體胞元群組的該等獨立通道中之單一者時，可於記憶體模組201C中之各者中具體實施由多數記憶體裝置200C分享的匯流排。另外，當該等記憶體裝置200C中之各者包括針對對應多數記憶體胞元群組的多數獨立通道時，由多數記憶體胞元群組分享的匯流排可在該等記憶體裝置200C中之各者內部具體實施。
圖5及6為例示記憶體裝置之具體實施例的組態之方塊圖。
參考圖5，記憶體裝置300A可包括針對對應多數記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A的多數獨立通道。記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A中之各者可以各種方式界定。舉例言之，記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A中之各者可包括一胞元區，且可經界定以進一步包括記憶體操作相關的一或多個組件。舉例言之，記憶體胞元群組 Cell_CH1 311A至Cell_CH4 314A中之各者可包括一列解碼器、一行解碼器、一感測放大器、一指令解碼器等。
又復，記憶體裝置300A可進一步包括用於實現共用內部處理通道的內部共用匯流排320A、內部指令產生器330A、及資料處理器340A。內部共用匯流排320A可具有由多數記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A分享的一信號發射路徑，且可遞送例如用於多數記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A的資料。舉例言之，第一記憶體胞元群組Cell_CH1 311A可輸出第一資料Data_1至內部共用匯流排320A，及該第一資料Data_1可通過由內部共用匯流排320A提供的共用內部處理通道而提供給另一記憶體胞元群組。同理，第四記憶體胞元群組Cell_CH4 314A可輸出第四資料Data_4至內部共用匯流排320A，及該第四資料Data_4可通過由內部共用匯流排320A提供的共用內部處理通道而提供給另一記憶體胞元群組。
內部指令產生器330A根據來自記憶體控制器的指令CMD可產生多數內部指令ICMD_1至ICMD_4。舉例言之，用於內部指令的獨立信號發射路徑可針對多數記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A具體實施，及因此內部指令產生器330A可通過獨立路徑而提供內部指令ICMD_1至ICMD_4至記憶體胞元群組Cell_CH1 311A至Cell_CH4 314A。
同時，資料處理器340A可連結到內部共用 匯流排320A，接收通過內部共用匯流排320A遞送的資料，及在所接收的資料上進行內部資料處理操作。舉例言之，資料處理器340A可對資料進行閂鎖操作、計算操作等，及輸出處理後之資料給內部共用匯流排320A。
內部指令產生器330A可產生各型內部指令ICMD_1至ICMD_4。舉例言之，內部指令產生器330A可產生用於進行內部位置的改變、內部位置的修改、比較操作等的內部指令ICMD_1至ICMD_4。又復，內部指令產生器330A可產生用於進行RMW、記憶體胞元群組間之資料交換、遮罩寫入等的內部指令ICMD_1至ICMD_4。
資料處理器340A可進行與前述內部資料處理操作相關的各類型功能。舉例言之，當進行資料複製操作或資料交換操作時，可進行暫時儲存讀取自任一個記憶體胞元群組的資料之功能。另外，當進行RMW操作或遮罩寫入操作時，可進行資料的位元比較操作，及該位元比較操作可於資料處理器340A中進行。
當記憶體裝置300A具有其中堆疊一緩衝器晶粒及多核心晶粒的結構時，內部共用匯流排320A可設在緩衝器晶粒且可在該等多數記憶體胞元群組間發射與接收資料。另外，用於電氣連結該緩衝器晶粒至該等核心晶粒的多數貫穿矽通孔(TSV)可置放，及內部共用匯流排320A可對應遞送資料的一或多個TSV。特別，在該等核心晶粒上的各個記憶體胞元群組可具有用來與其通訊的獨立通道，及該等獨立通道可各自包括一對應集合的TSV。
又復，內部指令產生器330A及資料處理器340A可以各種方式具體實施。舉例言之，內部指令產生器330A可涵括於緩衝器晶粒中。又復，資料處理器340A可涵括於緩衝器晶粒或核心晶粒中之各者。
同時，參考圖6，記憶體裝置300B可包括多數記憶體胞元群組Cell_CH1 311B至Cell_CH4 314B、第一及第二內部共用匯流排320B及350B、內部指令產生器330B、及資料處理器340B。由多數記憶體胞元群組Cell_CH1 311B至Cell_CH4 314B分享的匯流排，第一內部共用匯流排320B可對應一共用資料匯流排，及其也由多數記憶體胞元群組Cell_CH1 311B至Cell_CH4 314B分享的匯流排，第二內部共用匯流排350B可對應一共用資料匯流排。用於在內部指令產生器330B中產生的多數記憶體胞元群組Cell_CH1 311B至Cell_CH4 314B之內部指令ICMD<1：4>可通過第二內部共用匯流排350B遞送，及記憶體胞元群組Cell_CH1 311B至Cell_CH4 314B之資料Data<1：4>可通過第一內部共用匯流排320B遞送。第一及第二內部共用匯流排320B及350B一起可給記憶體裝置300B提供一共用內部處理通道。
於圖6中例示之實施例中，第二內部共用匯流排350B可以各種方式具體實施。舉例言之，第二內部共用匯流排350B可設置於緩衝器晶粒中，且可在多數記憶體胞元群組間發射與接收內部指令。另外，可置放用於電氣連接緩衝器晶粒及核心晶粒的多數TSV，及第二內部共 用匯流排350B可對應於遞送指令的一或多個TSV。
圖7、8A、及8B為例示記憶體裝置之操作方法的一具體實施例的流程圖。記憶體裝置可包括對應多數記憶體胞元群組的多數獨立通道，及由該等多數記憶體胞元群組分享的一共用內部處理通道。
參考圖7，記憶體裝置自一外部記憶體控制器接收一指令(S11)。各類型指令可在記憶體控制器與記憶體裝置間設定，及該等指令中之部分可對應使得記憶體裝置進行內部資料處理操作的指令，該操作可包括二或多個內部記憶體操作。
通過針對所接收指令的解碼操作，該記憶體裝置可判定是否需要進行預定內部資料處理操作(S12)。當判定不需要進行於其中多數記憶體操作係循序進行的該內部資料處理操作時，記憶體裝置可藉進行普通記憶體操作而完成針對該外部記憶體控制器之指令的操作(S13)。
另一方面，根據接收自記憶體控制器的特定指令，記憶體裝置可循序地產生二或多個內部指令(S14)。又復，該等多數記憶體胞元群組可根據內部指令進行彼此相異的記憶體操作，及因此記憶體裝置可產生對應於個別內部指令的記憶體胞元群組選擇信號(S15)。
於記憶體裝置中產生的內部指令及記憶體胞元群組選擇信號中之各者可提供給對應記憶體胞元群組。經選取的記憶體胞元群組可根據所接收的內部指令而 進行記憶體操作，及輸出根據記憶體操作的結果(例如，根據讀取操作的資料)(S16)。又復，根據記憶體操作的資料可通過由內部共用匯流排提供的共用內部處理通道而在該等記憶體胞元群組間發射與接收(S17)，及舉例言之，於任一個記憶體胞元群組中提供的資料可通過由內部共用匯流排提供的共用內部處理通道而提供給另一個記憶體胞元群組。接收資料的該記憶體胞元群組可根據內部指令使用所接收的資料進行記憶體操作。
圖8A及8B例示當記憶體裝置包括多數層時資料遞送之一釋例。
記憶體裝置可包括多數層，及該等層各自可以是對應不同記憶體胞元群組的一晶粒。舉例言之，記憶體裝置可包括單一緩衝器晶粒及多數核心晶粒。
根據接收自記憶體控制器的指令產生多數內部指令，及記憶體裝置根據內部指令進行內部資料處理操作。於其中資料係讀取自第一核心晶粒的操作可根據任一個內部指令進行(S21)。
為了進行各型內部處理程序，諸如資料複製、資料交換、RMW、遮罩寫入等，可進行針對讀取資料的內部資料處理操作(S22)。舉例言之，可進行針對讀取資料的暫時閂鎖操作作為該內部資料處理操作。另外，可進行有關讀取資料及各型資料諸如寫入資料、遮罩資料等的比較操作作為內部資料處理操作。用於處理資料的電路可以各種方式具體實施，及舉例言之，用於處理資料的 電路(例如，資料處理器)可於核心晶粒中分開實施，或藉於緩衝器晶粒中實施而由多數核心晶粒分享。
依據一個實施例，處理後資料可通過由內部共用匯流排提供的共用內部處理通道遞送，及處理後資料可遞送至另一核心晶粒(例如，第二核心晶粒)(S23)。換言之，該資料可通過由內部共用匯流排提供的共用內部處理通道而在不同的核心晶粒間發射與接收。
同時，參考圖8B，當內部資料處理操作係根據來自記憶體控制器的指令進行時，可進行於其中自第一核心晶粒讀取資料的操作(S31)。又，用於RMW、遮罩寫入等的寫入資料可接收自記憶體控制器(S32)，及記憶體裝置可使用來自第一核心晶粒的讀取資料及所接收的寫入資料而進行計算處理(S33)。類似前述實施例，使用讀取資料及所接收之寫入資料的計算處理可於第一核心晶粒、於另一核心晶粒、或於緩衝器晶粒中進行。
計算結果可通過由內部共用匯流排提供的共用內部處理通道而提供給第一核心晶粒，或提供給具有與第一核心晶粒不同的記憶體胞元群組之第二核心晶粒(S34)。根據前述操作，用於內部資料處理操作的一系列操作可於多數晶粒中進行，及計算處理之結果可通過由該等記憶體胞元群組所分享的由內部共用匯流排提供的共用內部處理通道發射與接收。
後文中，於其中記憶體裝置各自包括具有堆疊結構的多數層(例如，多數晶粒)之實施例，及於具有 堆疊結構的記憶體裝置中之各型內部資料處理操作之釋例將容後詳述。
圖9為例示具有堆疊結構的記憶體裝置之一具體實施例的方塊圖。於圖9中，例示呈高頻寬記憶體(HBM)形式的一記憶體裝置，其藉由涵括具有針對對應多數記憶體胞元群組的獨立介面之多數獨立通道而具有增加的頻寬。
參考圖9，記憶體裝置400可包括多數層。舉例言之，記憶體裝置400可包括緩衝器晶粒410及堆疊在緩衝器晶粒410上的一或多個核心晶粒420。於圖9之釋例中，雖然例示為提供第一至第四核心晶粒421至424，但核心晶粒之數目可各異地改變。
又，核心晶粒420各自可包括一或多個記憶體胞元群組。於圖9之釋例中，單一核心晶粒420包括兩個記憶體胞元群組，及因而例示於其中記憶體裝置400具有八個記憶體胞元群組Cell_CH1至Cell_CH8的釋例。舉例言之，第一核心晶粒421可包括第一記憶體胞元群組Cell_CH1及第三記憶體胞元群組Cell_CH3，第二核心晶粒422可包括第二記憶體胞元群組Cell_CH2及第四記憶體胞元群組Cell_CH4，第三核心晶粒423可包括第五記憶體胞元群組Cell_CH5及第七記憶體胞元群組Cell_CH7，及第四核心晶粒424可包括第六記憶體胞元群組Cell_CH6及第八記憶體胞元群組Cell_CH8。
緩衝器晶粒410可與記憶體控制器通訊， 自記憶體控制器接收指令、位址、及資料，及提供所接收之指令、位址、及資料給核心晶粒420。緩衝器晶粒410可透過形成於其外表面上的導電構件(未例示於圖中)諸如凸塊等而與記憶體控制器通訊。緩衝器晶粒410可緩衝指令、位址、及資料，及因此記憶體控制器可藉由只驅動緩衝器晶粒410之負載而與核心晶粒420介接。
又復，記憶體裝置400可包括貫穿該等層的多數TSV 430。TSV 430可對應於多數記憶體胞元群組Cell_CH1至記憶體胞元群組Cell_CH8置放，及當針對對應記憶體胞元群組的該等獨立通道各自具有128-位元頻寬時，TSV 430可包括用於輸入與輸出1024-位元資料的組件。
依據一個實施例，如於前述實施例中描述，TSV 430中之至少部分可被使用作為用於共用內部處理通道的內部共用匯流排。舉例言之，TSV 430可配置成貫穿第一至第四核心晶粒421至424，及第一至第四核心晶粒421至424各自可包括連結到TSV 430的發射器/接收器。當於其中針對各個記憶體胞元群組獨立進行資料的輸入及輸出的普通操作時，就TSV 430中之各者而言，只有任一個核心晶粒的發射器/接收器可被啟用，及如此TSV 430各自可只獨立地遞送任一個核心晶粒、任一個記憶體胞元群組的資料作為用於該一個核心晶粒或記憶體胞元群組的獨立通道。
同時，依據一實施例，當TSV 430被使用 作為前述用於共用內部處理通道的內部共用匯流排以進行內部資料處理操作，諸如資料複製、資料交換等時，就TSV430中之各者而言，二或多個核心晶粒之發射器/接收器可被循序地或同時啟用，及因而資料可在至少兩個記憶體胞元群組間發射與接收。
緩衝器晶粒410可包括一內部指令產生器411、一TSV區412、一實體(PHY)區413、及一DA區414。依據前述實施例，內部指令產生器411可產生內部指令及透過TSV 430提供所產生的內部指令給核心晶粒420。TSV區412為於其中用來與核心晶粒420通訊的TSV 430形成的一區。又，實體區413為包括多數輸入及輸出(IO)電路用來與外部記憶體控制器通訊的一區，及來自記憶體控制器的各型信號可通過實體區413提供給TSV區412，及通過TSV 430提供給核心晶粒420。
同時，DA區414可透過置放於記憶體裝置400外表面上的導電構件而與用於記憶體裝置400的於測試模式的外部測試器直接通訊。自測試器提供的各型信號可通過DA區414及TSV區412而提供給核心晶粒420。另外，作為可修正實施例，各型信號可自測試器通過DA區414、實體區413、及TSV區412而提供給核心晶粒420。
圖10為例示於圖9之記憶體裝置中之內部處理操作的一釋例之略圖。
參考圖9及10，緩衝器晶粒410包括內部指令產生器411，及來自內部指令產生器411的內部指令通過 針對各個記憶體胞元群組獨立地生成的指令TSV TSV_cmd而提供給核心晶粒420。緩衝器晶粒410可藉輸出內部指令而控制核心晶粒420的記憶體操作。
同時，核心晶粒420可分別地包括指令解碼器421_1至424_1其藉解碼內部指令而輸出內部控制信號，及資料處理器421_2至424_2其進行讀取資料及/或寫入資料的處理操作。
參考任一個核心晶粒(例如，第一核心晶粒421)，第一核心晶粒421可根據指令解碼器421_1的解碼結果而進行記憶體操作，及舉例言之，儲存於第一核心晶粒421內部的記憶體胞元區中之多數位元的資料可經讀取及提供給資料處理器421_2。資料處理器421_2可並列地處理多數位元之資料，及並列地輸出已並列地處理的資料給多數資料TSV TSV_data。
依據一型記憶體操作，資料處理器421_2可暫時儲存讀取資料，及將所儲存的資料輸出到資料TSV TSV_data。又，依據指令解碼器421_1之控制，來自資料處理器421_2之資料可通過資料TSV TSV_data提供給其它核心晶粒中之至少一者。當進行內部資料處理操作時，於其中第一核心晶粒421之資料被複製入第二核心晶粒422，來自資料處理器421_2之資料可通過資料TSV TSV_data提供給第二核心晶粒422。
圖11為例示於其中於記憶體裝置之一具體實施例中進行資料複製操作的一釋例之方塊圖。後文 中，為求描述的方便，例示單一緩衝器晶粒及兩個核心晶粒之操作。又，於如下實施例中例示的記憶體中處理器可進行於前述實施例中之指令解碼功能。又，記憶體中處理器可進一步提供一項功能，於其中依據內部資料處理操作提供用於記憶體胞元群組或晶片之選擇的一晶片選擇信號chip_select。依據一可修正實施例，於下列圖式中例示的晶片選擇信號chip_select可被實施為通過核心晶粒各自的指令解碼器生成。
參考圖11，記憶體裝置500可包括緩衝器晶粒510及第一及第二核心晶粒520及530。第一核心晶粒520可包括用於第A記憶體胞元核心或群組521的第A通道CH A，及第二核心晶粒530可包括用於第B記憶體胞元核心或群組531的第B通道CH B。
緩衝器晶粒510可與記憶體控制器通訊，回應於來自該記憶體控制器的特定指令而生成用於進行一串列之內部資料處理操作的內部指令，及提供該等內部指令給第一及第二核心晶粒520及530，同時改變用於選擇核心晶粒的晶片選擇信號chip_select。又，資料可在緩衝器晶粒510與第一及第二核心晶粒520及530間發射與接收，及用於發射與接收資料的資料TSV可常見地置放於緩衝器晶粒510及第一及第二核心晶粒520及530。
緩衝器晶粒510可包括多數輸入/輸出(I/O)電路以便獨立地進行介接用於第一及第二核心晶粒520及530的第A通道及第B通道。舉例言之，緩衝器晶 粒510可包括其介接第一核心晶粒520之針對用於第A記憶體胞元核心或群組521的第A通道CH A之I/O電路，及其介接第二核心晶粒530之針對用於第B記憶體胞元核心或群組531的第B通道CH B之I/O電路。設於該等I/O電路中之各者的各種組件可置放於緩衝器晶粒510的至少一區，及舉例言之，該等I/O電路中之各者的組件可置放於實體區。
緩衝器晶粒510可包括依據前述實施例用於生成內部指令的記憶體中處理器511。依據一個實施例，記憶體中處理器511可以是由多數記憶體胞元群組分享的一組件。又，對應於用於記憶體胞元群組中之各者的各個通道之I/O電路可包括介接記憶體控制器的一介面512、路徑控制器513、讀取資料路徑514、寫入資料路徑515、及一或多個閂鎖516。
記憶體中處理器511可順序輸出多數內部指令，因而進行根據來自記憶體控制器的指令的內部資料處理操作。又，核心晶粒中之各者可根據內部指令進行預定功能，及記憶體中處理器511可選擇於其中根據內部指令的功能將藉輸出一晶片選擇信號chip_select進行的該核心晶粒。第一及第二核心晶粒520及530可分別地包括收發器525及535，其通過資料TSV輸入及輸出資料，及該等核心晶粒中之各者的收發器可經控制以由晶片選擇信號chip_select啟用。
同時，第一核心晶粒520可包括涵括一胞元區的第A記憶體胞元核心或群組521、解碼內部指令的指令解碼器522、寫入資料路徑523、讀取資料路徑524、及收發器525。又，第一核心晶粒520可進一步包括用於針對寫入資料及/或讀取資料進行預定處理的一電路。舉例言之，進行控制資料的遞送或暫時儲存資料的處理操作之一資料處理器526係例示於圖11。資料處理器526可包括閂鎖，及用來控制與資料TSV的電氣連結之開關。
第二核心晶粒530可以第一核心晶粒520之相同的或相似的方式具體實施，及因此第二核心晶粒530可包括第B記憶體胞元核心或群組531、指令解碼器532、寫入資料路徑533、讀取資料路徑534、收發器535、及資料處理器536。資料處理器536也可包括閂鎖及開關。
根據來自外部記憶體控制器的指令，可進行用於將第二核心晶粒530之資料複製入第一核心晶粒520中之內部資料處理操作，及該內部處理程序可藉於記憶體裝置500內部生成內部指令進行而無記憶體控制器的介入。舉例言之，緩衝器晶粒510可提供內部指令給第二核心晶粒530，及第二核心晶粒530可回應於所接收的內部指令讀取資料，及通過用作為內部共用匯流排的資料TSV而提供所讀取的資料給第一核心晶粒520。又，緩衝器晶粒510可提供內部指令給第一核心晶粒520，及第一核心晶粒520可將回應於內部指令透過資料TSV接收的該資料寫入到第A記憶體胞元核心或群組521。如此，第 二核心晶粒530之資料可被複製入第一核心晶粒520之第A記憶體胞元核心或群組521。
依據一可修正實施例，讀取自第二核心晶粒530之資料可儲存於資料處理器536之閂鎖，及儲存於資料處理器536之閂鎖中之資料可通過資料TSV提供給第一核心晶粒520。
依據前述實施例，即便當進行於其中資料在不同的核心晶粒或記憶體胞元群組間移動的記憶體操作時，該等記憶體胞元群組間之資料的複製操作可通過記憶體裝置500之內部資料處理操作進行而無記憶體控制器的介入。
圖12A及12B為例示於記憶體裝置之一具體實施例中於其中進行資料交換操作的一釋例之方塊圖。因於圖12A中例示的記憶體裝置500之組件係與前述圖11之實施例中記憶體裝置500的組件相同或相似，故將刪除圖12A中例示之組件的重複描述。
參考圖12A及12B，根據來自外部記憶體控制器的指令，可進行用於交換第一核心晶粒520之資料與第二核心晶粒530之資料的內部資料處理操作，及緩衝器晶粒510可生成用於資料交換的一串列之內部指令且提供該串列之內部指令給第一及第二核心晶粒520及530。又，記憶體中處理器511可選擇一核心晶粒，其將藉輸出晶片選擇信號chip_select，根據內部指令進行一功能。
至於用於交換資料的內部資料處理操作之一釋例，參考圖12B，首先，對應第一通道CH A之第一核心晶粒520之資料，亦即第A記憶體胞元核心或群組521之資料係根據內部指令(CH A RD)讀取，及所讀取的資料儲存於第一核心晶粒520之資料處理器526的閂鎖。第一核心晶粒520之資料儲存於資料處理器526的閂鎖後，資料處理器526之開關可被關閉以便阻斷閂鎖與遞送資料的資料TSV之電氣連結(CH A lat_off)。
又，對應於第二通道CH B之第二核心晶粒530的資料，亦即第B記憶體胞元核心或群組531之資料，係根據內部指令(CH B RD)讀取，及讀取自第二核心晶粒530的資料通過用作為內部共用匯流排的資料TSV提供給第一核心晶粒520。又，提供給第一核心晶粒520的資料係根據內部指令(CH A WR)寫入第一核心晶粒520之第A記憶體胞元核心或群組521。然後，當第一核心晶粒520之資料處理器526的開關被打開時(CH A lat on)，讀取自第一核心晶粒520的資料通過用作為內部共用匯流排的資料TSV提供給第二核心晶粒530，及提供給第二核心晶粒530的資料係根據內部指令(CH B WR)寫入第二核心晶粒530之第B記憶體胞元核心或群組531。
如前文描述，即便當不同記憶體胞元群組的資料交換時，讀取自任一個記憶體胞元群組的資料可通過藉內部共用匯流排提供的共用內部處理通道提供給另一記憶體胞元群組而無記憶體控制器的介入，及因此該記憶 體胞元群組間之資料交換可透過記憶體裝置之內部資料處理操作進行而不會增加系統對記憶體裝置之存取頻率。
圖13A至13C為例示於記憶體裝置之一具體實施例中於其中進行RMW操作的一釋例之方塊圖。因於圖13A中例示的記憶體裝置600之組件係與前述圖11、12A及12B之實施例中記憶體裝置500的組件相同或相似，故將刪除圖13A中例示之組件各自的重複描述。
參考圖13A至13C，記憶體裝置600可包括緩衝器晶粒610及作為一或多個核心晶粒的第一及第二核心晶粒620及630，第一及第二核心晶粒620及630可包括不同通道，分別為通道A及通道B，及對應記憶體胞元核心或群組621及631，及緩衝器晶粒610可包括對應個別通道的I/O電路。緩衝器晶粒610可包括記憶體中處理器611，及該等I/O電路各自可包括介面612、路徑控制器613、讀取資料路徑614、寫入資料路徑615、及一或多個閂鎖616。記憶體中處理器611可進行內部資料處理操作相關的各項控制功能，及舉例言之，記憶體中處理器611可進行生成一內部指令的一操作。又，記憶體中處理器611可進一步生成用於選擇一核心晶粒的一晶片選擇信號chip_select，該核心晶粒將根據內部指令進行記憶體操作。
又，第一核心晶粒620可包括涵括一胞元區的記憶體胞元核心或群組621、解碼內部指令的指令解碼器622、寫入資料路徑623、讀取資料路徑624、及收 發器625。又，第一核心晶粒620可包括記憶體中處理器(PIM)功能區塊626，其對欲寫入資料及/或讀取資料進行計算處理。就多數位元而言，存取諸如資料寫入、資料讀取等至記憶體胞元核心或群組621可並列進行，及因此多數收發器625及對應多數收發器625的多數PIM功能區塊626可涵括於第一核心晶粒620中。
於一個實施例中，PIM功能區塊626之操作可根據各種方式控制，及舉例言之，PIM功能區塊626可根據內部指令之解碼結果而由PIM控制信號PIM_ctrl加以控制。
又，第二核心晶粒630可以第一核心晶粒620之相同或相似方式具體實施例，及如此第二核心晶粒630可包括記憶體胞元核心或群組631、指令解碼器632、寫入資料路徑633、讀取資料路徑634、收發器635、及PIM功能區塊636。根據提供給核心晶粒的內部指令類型，第一核心晶粒620之PIM功能區塊626及第二核心晶粒630之PIM功能區塊636可進行彼此不同的功能。
PIM功能區塊626及636可藉以各種方式具體實施而進行計算處理。依據一個實施例，PIM功能區塊626及636中之各者可包括進行布林函數的功能單元，及就資料而言進行諸如及(AND)、或(OR)、互斥或(XOR)、非(NOT)等函數。於一具體實施例中，如於圖13B中例示，PIM功能區塊626及636各自可包括一或多個開 關A0及A1、一或多個閂鎖Lat 1及Lat 2、功能單元、及緩衝器A2。功能單元可進行前述布林函數。
至於RMW操作之釋例，當資料被寫入記憶體胞元核心的一區中時，儲存於該區的資料經讀取，及然後讀取資料之一位元值與欲寫入資料的一位元值作比較。然後，根據比較結果，於其中讀取資料之該位元值係與欲寫入資料的該位元值不同的資料可被選擇性地選入記憶體胞元核心的該區中。
參考圖13C，當RMW操作係於第二核心晶粒630之記憶體胞元核心或群組631的一區進行時，於記憶體胞元核心或群組631之該區中之資料經讀取(CH B RD)，及讀取資料藉通過PIM功能區塊636的第一開關A0而儲存於閂鎖Lat 1。資料儲存於閂鎖Lat 1中之後，第一開關A0被關閉(A0 Off)及第二開關A1被打開(A1 On)。
又，欲寫入記憶體胞元核心或群組631之該區中的寫入資料係通過作為內部共用匯流排的資料TSV而提供給第二核心晶粒630(Data_WR)。因用於寫入資料的比較操作係在寫入資料被寫入胞元核心631之前進行，故接收器(或寫入緩衝器)可於關閉態(WR Buf Off)。寫入資料藉通過PIM功能區塊636的第二開關A1提供給功能單元。功能單元就讀取自記憶體胞元核心或群組631該區的資料及寫入資料進行比較操作。又復，比較結果暫時儲存於閂鎖Lat 2。
根據比較結果，只有寫入資料之若干位元可被選擇性地寫入記憶體胞元核心或群組631的該區中。第二開關A1可被關閉(A1 Off)，緩衝器A2可被啟用(A2 On)，及於其中讀取資料之該位元值係與欲寫入資料的該位元值不同的資料可通過緩衝器A2提供給記憶體胞元核心或群組631。據此，針對寫入資料之若干位元的寫入操作可被選擇性地進行(CH B WR)。
圖14A及14B為例示於記憶體裝置之一具體實施例中，於其中在二或多個記憶體核心晶粒上同時進行RMW操作的一釋例之方塊圖。因於圖14A中例示的記憶體裝置600之組件係與前述圖13A之實施例中記憶體裝置600的組件相同或相似，故將刪除圖14A中例示之組件各自的重複描述。
參考圖14A及14B，根據RMW操作，寫入資料可同時寫入第一及第二核心晶粒620及630中，及首先，可讀取於第二核心晶粒630之記憶體胞元核心或群組631該區中的資料(CH B RD)。讀取自記憶體胞元核心或群組631的資料藉通過PIM功能區塊636之第一開關A0(參考圖13B)而儲存於閂鎖Lat 1。資料儲存於閂鎖Lat 1中之後，第一開關A0被關閉(CH B A0 Off)。又，於第一核心晶粒620之記憶體胞元核心或群組621該區中的資料可經讀取(CH A RD)。讀取自記憶體胞元核心或群組621的資料藉通過PIM功能區塊626的第一開關A0而儲 存於閂鎖Lat 1，及資料儲存於閂鎖Lat 1中之後，第一開關A0被關閉(CH A A0 Off)。
然後，全部通道的第二開關A1可被開啟(All CH A1 On)，及全部通道的接收器(或寫入緩衝器)可被關閉(WR Buf Off)。又復，寫入資料透過用作為內部共用匯流排的資料TSV提供給第一核心晶粒620及第二核心晶粒630(Data_WR)。當寫入資料提供給功能單元時，有關讀取資料及寫入資料的比較操作可類似前述實施例般進行，及全部通道的第二開關A1可改變成關閉態(All CH A1 Off)。
然後，根據比較結果，寫入資料之至少若干位元可被寫入第一核心晶粒620及第二核心晶粒630中之各者。舉例言之，第一核心晶粒620之緩衝器A2經啟用(CH A A2 On)，及寫入資料之至少若干位元被寫入第一核心晶粒620之記憶體胞元核心或群組621中(CH A WR)。又，第二核心晶粒630之緩衝器A2被啟用(CH B A2 On)，及寫入資料之至少若干位元被寫入第二核心晶粒630之記憶體胞元核心或群組631中(CH B WR)。
依據該實施例，當就至少兩個核心晶粒進行RMW操作時，寫入資料可通過內部共用匯流排同時提供給至少兩個核心晶粒而無記憶體控制器的介入，如此可就兩個核心晶粒同時進行RMW操作。
圖15A及15B為例示於記憶體裝置之一具體實施例中於其中進行遮罩寫入的一釋例之方塊圖。於 圖15A及15B中，為求描述的方便，只例示涵括於記憶體裝置的核心晶粒中之PIM功能區塊。
當進行遮罩寫入時，記憶體控制器可提供寫入資料及對應於寫入資料的遮罩資料。舉例言之，對應於涵括於遮罩資料中之多數位元中之各者的遮罩資料之值可被設定為邏輯高或邏輯低，及寫入操作可選擇性地只針對遮罩資料之值為邏輯低的資料進行。又復，當進行遮罩寫入時，因有些資料塊根據遮罩資料值維持於先前寫入態，故在進行寫入操作之前可事先進行內部讀取操作。
參考圖15A及15B，記憶體裝置700可包括一緩衝器晶粒及一或多個核心晶粒(如前文描述未例示於圖中)，第一核心晶粒可包括第一PIM功能區塊720，及第二核心晶粒可包括第二PIM功能區塊730。第一PIM功能區塊720可包括一或多個開關A0及A1、一或多個閂鎖Lat A1及Lat A2、緩衝器A2、及多工器MUX A。又復，第二PIM功能區塊730可包括一或多個開關B0及B1、一或多個閂鎖Lat B1及Lat B2、緩衝器B2、及多工器MUX B。
例示一種情況於其中於對應通道B的第二核心晶粒中進行遮罩寫入。首先，當遮罩寫入指令接收自記憶體控制器時，根據記憶體裝置700之內部資料處理操作，資料可讀取自第二核心晶粒的一胞元核心(CH B RD)，及讀取的資料可儲存於第二PIM功能區塊730之閂 鎖Lat B1中。讀取資料儲存於閂鎖Lat B1中之後，第一開關B0可被關閉(CH B B0 Off)。
又，全部通道的接收器(或寫入緩衝器)被關閉(WR Buf Off)，及寫入資料提供給記憶體裝置(Data_WR)。寫入資料可通過對應內部共用匯流排的資料TSV提供給第一核心晶粒，及可儲存於第一PIM功能區塊720之閂鎖Lat A1中。讀取資料儲存於閂鎖Lat A1中之後，第一PIM功能區塊720之第一開關A0可被關閉(CH A A0 Off)。
又，全部通道的第二開關A1及B1可被打開(All CH A1,B1 On)，及來自記憶體控制器的遮罩資料可提供給記憶體裝置(Data_mask)。遮罩資料可通過第一PIM功能區塊720之多工器MUX A儲存於閂鎖Lat A2，及可通過第二PIM功能區塊730之多工器MUX B儲存於閂鎖Lat B2。依據一個實施例，藉顛倒於第一PIM功能區塊720中之遮罩資料的位元值，遮罩資料的各個位元可儲存於閂鎖Lat A2，及未顛倒於第二PIM功能區塊730中之遮罩資料的位元值，遮罩資料的各個位元可儲存於閂鎖Lat B2。
然後，根據遮罩資料的位元值，儲存於第一PIM功能區塊720中之寫入資料可提供給一寫入目標的第二核心晶粒之該記憶體胞元核心或群組，或儲存於第二PIM功能區塊730中之讀取資料可提供給一寫入目標的第二核心晶粒之該記憶體胞元核心或群組。舉例言之， 根據顛倒的遮罩資料的位元值，第一PIM功能區塊720之緩衝器A2可被啟用，及根據遮罩資料的位元值，第二PIM功能區塊730之緩衝器B2可被啟用。
當遮罩資料之位元具有邏輯高及寫入資料被阻擋不寫入記憶體胞元核心或群組中時，回應於遮罩資料具有邏輯高，第二PIM功能區塊730之緩衝器B2可被啟用，及因此儲存於第二PIM功能區塊730中之讀取資料被提供給該寫入目標的第二核心晶粒之該記憶體胞元核心或群組。換言之，對應於具有邏輯高的遮罩資料之寫入資料可被阻擋不提供給第二核心晶粒之該記憶體胞元核心或群組。
另一方面，當遮罩資料的位元具有邏輯低時，第一PIM功能區塊720之緩衝器A2被作動，及因此自記憶體控制器提供的寫入資料被提供給該寫入目標的第二核心晶粒之該記憶體胞元核心或群組。另一方面，因第二PIM功能區塊730之緩衝器B2被停用，故讀取資料可被阻擋不提供給該寫入目標的第二核心晶粒之該記憶體胞元核心或群組。
於前述實施例中，已經描述一釋例於其中讀取自該寫入目標的第二核心晶粒之資料係儲存於第二PIM功能區塊730中及寫入資料係儲存於第一PIM功能區塊720中，但實施例並非受此所限。舉例言之，在讀取自第二核心晶粒之資料係儲存於第一PIM功能區塊720中及寫入資料係儲存於第二PIM功能區塊730中之後，根 據遮罩資料的位元值，寫入資料或讀取資料可被選擇性地寫入第二核心晶粒之記憶體胞元核心或群組中。
依據前述實施例，遮罩寫入可通過記憶體裝置700中之內部資料處理操作進行而無記憶體控制器的介入。又復，使用於遮罩寫入的內部資料處理操作中之讀取資料及寫入資料可通過由內部共用匯流排提供的共用內部處理通道而在該等核心晶粒間發射與接收，及如此，根據系統對記憶體裝置之存取頻率的減低可改良資料頻寬效率。
圖16為例示記憶體裝置之一可修正實施例的方塊圖。於圖16中，於其中例示記憶體裝置其包括多數層的一釋例，該等多數層中之至少一者組成主晶粒，及至少其中另一者組成從屬晶粒。
舉例言之，主晶粒及從屬晶粒可堆疊於基體上，已堆疊的主晶粒及從屬晶粒可通過TSV發射與接收一信號。又，主晶粒及從屬晶粒可通過相同記憶體處理具體實施，及主晶粒及從屬晶粒中之各者可包括其儲存資料的記憶體胞元核心或群組。又，主晶粒可包括用來與外部記憶體控制器通訊的I/O電路。
依據一實施例，主晶粒可包括記憶體中處理器，其順序產生內部指令用於根據來自記憶體控制器的指令進行內部處理程序。又，從屬晶粒中之各者包括PIM功能區塊，及依據前述實施例藉記憶體裝置內部的PIM功能區塊可進行資料的各類型操作。又，形成於TSV區的多 數TSV中之至少部分可被使用作為內部共用匯流排，提供記憶體裝置內部的一共用內部處理通道，及使用內部共用匯流排通過共用內部處理通道，資料可在主晶粒及從屬晶粒間發射與接收。
後文中，將描述於其中內部共用匯流排係置放於緩衝器晶粒(或主晶粒)中之記憶體裝置的一具體實施例。
圖17及18為例示涵括於記憶體裝置之一具體實施例中的緩衝器晶粒之一具體實施例的方塊圖。
類似前述實施例，記憶體裝置包括多數層，及多數層中之任一者可以是與外部記憶體控制器通訊的緩衝器晶粒(或主晶粒)。舉例言之，記憶體裝置可具有HBM形式，及堆疊在緩衝器晶粒上的一或多個核心晶粒可包括彼此獨立的多數通道。又，舉例言之，核心晶粒各自可包括用於二或多個記憶體胞元群組的二或多個獨立通道。
緩衝器晶粒可包括介接記憶體控制器的一實體區，及一TSV區於其中形成多數TSB以與一或多個核心晶粒通訊。又，依據一個實施例，緩衝器晶粒可進一步包括由涵括於核心晶粒中之多數記憶體胞元群組分享的一內部共用匯流排。各類型信號可通過該內部共用匯流排提供給多數記憶體胞元群組，支援一共用內部處理通道，藉此可進行一或多個內部資料處理操作。
於一個實施例中，緩衝器晶粒可進一步包括一內部指令產生器及一資料處理器。舉例言之，內部指令產生器可具體實施為前述實施例中之記憶體中處理器，及資料處理器可具體實施為前述實施例中之PIM功能區塊。
回應於來自記憶體控制器之指令，緩衝器晶粒可產生用於內部資料處理操作的內部指令，及使用內部共用匯流排通過共用內部處理通道提供所產生的內部指令給記憶體胞元群組。又，資料處理器可進行對來自外部的寫入資料之一處理操作，及對讀取自一或多個核心晶粒的資料之一處理操作。處理前資料及/或處理後資料可使用內部共用匯流排通過共用內部處理通道提供給記憶體胞元群組。
內部共用匯流排可通過具有對應於多數記憶體胞元群組的I/O電路之一實體區而連結到一TSV區。相同於或相似於前述實施例，記憶體裝置可進行資料複製、資料交換、RMW、遮罩寫入等作為內部資料處理操作而無記憶體控制器的介入。又復，資料可使用內部共用匯流排通過共用內部處理通道而在多數記憶體胞元群組間發射與接收。
同時，於圖18之實施例中，例示於其中緩衝器晶粒的信號發射路徑具有實體區、TSV區、及內部共用匯流排之排序的一釋例。於此種情況下，來自內部指令產生器的內部指令或來自資料處理器的資料可通過內部 共用匯流排及TSV區之該等TSV提供給核心晶粒而未通過實體區。
圖19及20為詳細例示圖17及18中例示的前述緩衝器晶粒之具體實施例的略圖。
參考圖19，記憶體裝置之緩衝器晶粒800A可包括一TSV區810、一實體區820、及一內部共用匯流排830。TSV區810可包括具有用於多數記憶體胞元群組的獨立信號發射路徑的TSV，且通過用於各個記憶體胞元群組的不同指令TSV可提供例如一指令給核心晶粒，及通過用於各個記憶體胞元群組的不同資料TSV提供資料給核心晶粒。依據一個實施例，如於圖19中例示，TSV區810可包括TSV，其遞送與記憶體胞元群組之記憶體操作相關之信號，及可進一步包括用在分開測試(例如，功率測試)的額外TSV。
實體區820也可通過用於各個記憶體胞元群組的不同I/O電路而與外部記憶體控制器通訊，及來自用於各個記憶體胞元群組的不同I/O電路之信號可提供給該記憶體胞元群組的對應TSV。又，內部共用匯流排830可共通連結到對應實體區820之該等多數記憶體胞元群組的該等I/O電路。
內部指令產生器840可產生一串列之內部指令用於記憶體裝置中之內部資料處理操作，及可提供該串列之內部指令給內部共用匯流排830。內部指令通過實體區820及TSV區810提供給核心晶粒。又復，依據前 述實施例，資料處理器850可進行各型記憶體操作相關的資料處理操作，諸如資料複製、資料交換、RMW、遮罩寫入等。依據一個實施例，來自資料處理器850的資料提供給內部共用匯流排830，提供給內部共用匯流排830的資料通過實體區820及TSV區810提供給核心晶粒。又復，讀取自任一個核心晶粒的資料可通過內部共用匯流排830提供給資料處理器850，及來自資料處理器850的處理後資料可通過內部共用匯流排830提供給另一個核心晶粒。
同時，圖20中例示的記憶體裝置之緩衝器晶粒800B可具有與圖19中例示的前述緩衝器晶粒800A相似的組件，及可具有於其中內部共用匯流排830係連結到TSV區810的結構。於此種情況下，來自內部指令產生器840之內部指令或來自資料處理器850之資料可直接提供至TSV區810及遞送給核心晶粒。
圖21及22為例示依據若干實施例緩衝器晶粒的可修正具體實施例之方塊圖。於圖21及22中，例示的釋例於其中於緩衝器晶粒的DA區中遞送測試信號的匯流排被使用作為用於共用內部處理通道的一內部共用匯流排。
參考圖21，緩衝器晶粒可包括介接記憶體控制器的一實體區及於其中形成多數TSV以與一或多個核心晶粒通訊的一TSV區。又，緩衝器晶粒可進一步包括一DA區於其中置放與外部測試器直接通訊的匯流排，而 與記憶體控制器獨立無關。與提供給DA區的測試相關的信號可通過DA區中的匯流排遞送給TSV，及測試結果可通過TSV區及DA區提供給外部測試器。
使用DA區的測試操作可就多數記憶體胞元群組進行，及於此種情況下，測試相關的DA區中的匯流排可具體實施為由記憶體裝置之多數記憶體胞元群組分享。依據一個實施例，DA區中的匯流排可使用作為用於記憶體裝置之內部資料處理操作的內部共用匯流排。又，用於內部資料處理操作的內部指令產生器可產生內部指令，及將所產生的內部指令通過DA區中的匯流排而提供給核心晶粒。又，讀取自核心晶粒的資料可通過DA區中的匯流排而提供給資料處理器，及來自資料處理器的資料可通過DA區中的匯流排而提供給核心晶粒。
同時，參考圖22，緩衝器晶粒可包括一實體區及一TSV區，及涵括由多數記憶體胞元群組所分享的一匯流排的一DA區可置放相鄰實體區。DA區中的匯流排可被使用作為提供用於內部資料處理操作的一共用內部處理通道的內部共用匯流排。於前述圖21之釋例中，通過DA區中之內部共用匯流排發射信號可通過TSV區提供給核心晶粒而不通過實體區。另一方面，於圖22之本釋例中，通過內部共用匯流排遞送的內部指令及資料可通過實體區及TSV區提供給核心晶粒。
同時，於圖21及22例示之釋例中，內部指令產生器及資料處理器係例示為涵括於DA區，但實施 例並非受此所限。舉例言之，內部指令產生器及資料處理器可置放於緩衝器晶粒中之DA區外部。
圖23及24為例示於圖21及22中例示之前述緩衝器晶粒中之信號發射路徑釋例之方塊圖。
參考圖23，來自DA區中之內部共用匯流排DA BUS的內部指令及資料可提供給TSV區而不通過實體區。舉例言之，實體區包括針對各個記憶體胞元群組的獨立I/O電路，及因而有關記憶體胞元群組A的一信號通過於TSV區中對應記憶體胞元群組A的一TSV遞送至核心晶粒。同理，有關記憶體胞元群組B的一信號通過於TSV區中對應記憶體胞元群組B的一TSV遞送至核心晶粒，及有關記憶體胞元群組C的一信號通過於TSV區中對應記憶體胞元群組C的一TSV遞送至核心晶粒。
DA區中之內部共用匯流排DA BUS可經置放成由多數記憶體胞元群組分享，及用於選擇來自實體區的一信號及通過內部共用匯流排DA BUS遞送的一信號之選擇器(例如，多工器)可被涵括於緩衝器晶粒中。舉例言之，當內部指令/資料針對各個記憶體胞元群組獨立遞送時，來自實體區的內部指令及資料可經選取及通過TSV遞送給核心晶粒。另一方面，當內部指令或資料於內部資料處理操作中提供給核心晶粒時，內部指令或資料係經選取及通過TSV遞送給核心晶粒。
同時，於圖24中，例示於其中內部指令或處理後資料係通過實體區及TSV區提供給核心晶粒之釋例。
參考圖24，於DA區中之內部共用匯流排DA BUS可置放於實體區前端，及用於選擇針對各個記憶體胞元群組獨立提供的一信號及通過內部共用匯流排DA BUS遞送的一信號之選擇器(例如，多工器)可被置放於實體區前端。舉例言之，針對各個記憶體胞元群組獨立遞送的指令/資料可通過形成於記憶體裝置外表面上的凸塊接收。通過凸塊遞送的信號可於普通操作中選擇，於該操作中信號係透過對應獨立通道針對各個記憶體胞元群組獨立遞送，及通過內部共用匯流排DA BUS遞送的信號可經選擇用於前述實施例中之內部資料處理操作。
圖25為例示包括記憶體裝置之實施例的半導體封裝之一釋例的組態圖。
參考圖25，半導體封裝900可包括一或多個記憶體裝置910及一記憶體控制器920。記憶體裝置910及記憶體控制器920可安裝於中介件930上，及記憶體裝置910及記憶體控制器920安裝其上的該中介件930可安裝於封裝基體940上。記憶體控制器920可對應可進行記憶體控制功能的半導體裝置，及舉例言之，記憶體控制器920可具體實施為應用處理器(AP)。
記憶體裝置910可以各種形式具體實施，及依據一個實施例的記憶體裝置910可以是於其中堆疊多 數層的呈HBM形式之記憶體裝置。據此，依據一個實施例的記憶體裝置910可包括由對應獨立通道可存取的多數記憶體胞元群組，及一內部共用匯流排提供置放來由該等多數記憶體胞元群組分享的一共用內部處理通道。又，產生用於內部資料處理操作的內部指令之內部指令產生器，及進行處理用於寫入資料及/或讀取資料的資料處理器可涵括於記憶體裝置910中。
多數記憶體裝置910可安裝於中介件上，及記憶體控制器920可與多數記憶體裝置910通訊。舉例言之，記憶體裝置910及記憶體控制器920各自可包括一實體區，及通過該等實體區可在記憶體裝置910與記憶體控制器920間進行通訊。同時，當記憶體裝置910包括一DA區時，測試信號可通過安裝於封裝基體940及DA區下方的導電構件(例如，焊料球950)提供入記憶體裝置910。
此處，中介件可包括一嵌入式多晶粒互連橋(EMIB)，其為具有TSV形式或印刷電路板(PCB)形式的有機或非TSV方式。
於用於進行內部資料處理操作的記憶體裝置中，因根據來自記憶體控制器的指令之一串列的記憶體操作可通過記憶體裝置的內部資料處理操作進行而無記憶體控制器的介入，故系統對記憶體裝置的存取頻率可以減低，及因而有可改良資料頻寬效率的效果。
雖然本發明之構想已經參考於附圖中例示的具體實施例描述以便更進一步徹底瞭解本發明之構想，但須瞭解並非限制本發明之構想。又復，熟諳技藝人士顯然易知不背離本發明之構想的精髓及範圍可於其中做出各項變化及修改。
400‧‧‧記憶體裝置
410‧‧‧緩衝器晶粒
411‧‧‧內部指令產生器
412‧‧‧TSV區
413‧‧‧實體(PHY)區
414‧‧‧DA區
420、421-424‧‧‧核心晶粒
430‧‧‧貫穿矽通孔(TSV)

Claims (21)

  1. 一種記憶體裝置，其包含：具有一內部指令產生器的一緩衝器晶粒，該內部指令產生器經組配以從一外部記憶體控制器接收用於由該記憶體裝置進行至少一個內部資料處理操作的一第一外部指令，及回應於該接收來產生至少兩個內部指令，該等至少兩個內部指令係用於使得該記憶體裝置去執行對應的內部記憶體操作以進行該至少一個內部資料處理操作；與該緩衝器晶粒堆疊在一起的一第一核心晶粒及一第二核心晶粒，該等第一及第二核心晶粒之每一者具有複數個動態隨機存取記憶體(DRAM)胞元，該等DRAM胞元係經排列成至少該第一核心晶粒的一第一記憶體胞元群組及該第二核心晶粒的一第二記憶體胞元群組；延伸貫穿該等第一及第二核心晶粒之複數個貫穿矽通孔(TSV)因而連結到該緩衝器晶粒；各自與該等第一及第二記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，該等至少兩個獨立通道各自包括一對應集合之該等TSV；及在該等第一及第二核心晶粒之該等第一及第二記憶體胞元群組間分享的一共用內部處理通道。
  2. 如請求項1之記憶體裝置，其中該等至少兩個獨立通道之每一者包括用於該等第一及第二記憶體胞元群組之對應者的一對應獨立資料匯流排，及其中該共用內部處理通道包括其係在該等至少兩個記憶體胞元群組間 分享的一共用內部資料匯流排。
  3. 如請求項1之記憶體裝置，其中該等至少兩個獨立通道之每一者包括用於該等第一及第二記憶體胞元群組之對應者的一對應獨立指令/位址匯流排，及其中該共用內部處理通道包括其係在該等至少兩個記憶體胞元群組間分享的一共用內部指令/位址匯流排。
  4. 如請求項1之記憶體裝置，其中該等至少兩個獨立通道之每一者包括用於該等第一及第二記憶體胞元群組之對應者的一對應獨立指令/位址匯流排，及該記憶體裝置進一步包含各自與該等至少兩個記憶體胞元群組中之一者相關聯的至少兩個獨立內部指令/位址信號匯流排。
  5. 如請求項1之記憶體裝置，其中該共用內部處理通道包括該等TSV中之至少一些TSV，當該記憶體裝置進行該至少一個內部資料處理操作時，該共用內部處理通道之該等TSV係由該等記憶體胞元群組中之至少二者分享。
  6. 如請求項1之記憶體裝置，其中該第一核心晶粒包括與該第一記憶體胞元群組相關聯的至少一第一資料處理器，其中該第二核心晶粒包括與該第二記憶體胞元群組相關聯的至少一第二資料處理器，其中該等資料處理器係經組配以回應於由該內部指令產生器所提供的至少一個控制信號來進行該至少一個內部資料處理操作。
  7. 如請求項6之記憶體裝置，其中該至少一個內部資料處理操作包含一資料加法操作、一互斥或操 作、一資料減法操作、及一資料乘法操作中之至少一者。
  8. 如請求項1之記憶體裝置，其中當該記憶體裝置從該外部記憶體控制器接收為一正常指令之一第二外部指令時，則該正常指令係通過其相關聯的獨立通道而提供給該等記憶體胞元群組中之一者。
  9. 一種記憶體裝置，其包含：具有一內部指令產生器的一緩衝器晶粒，該內部指令產生器經組配以從一外部記憶體控制器接收用於由該記憶體裝置進行至少一個內部資料處理操作的一第一外部指令，及回應於該接收來產生至少兩個內部指令，該等至少兩個內部指令係用於使得該記憶體裝置去執行對應的內部記憶體操作以進行該至少一個內部資料處理操作；與該緩衝器晶粒堆疊在一起的至少一個核心晶粒，該至少一個核心晶粒具有複數個動態隨機存取記憶體(DRAM)胞元，該等複數個動態隨機存取記憶體(DRAM)胞元經排列成複數個記憶體胞元群組；延伸貫穿該至少一個核心晶粒之複數個貫穿矽通孔(TSV)因而連結到該緩衝器晶粒；及各自與該等記憶體胞元群組中之對應一者相關聯的至少兩個獨立通道，該等至少兩個獨立通道各自包含一對應集合之該等TSV，其中當該記憶體裝置進行該至少一個內部資料處理操作時，該等TSV中之至少一些TSV係由該等複數個記憶體胞元群組中之至少二者分享。
  10. 如請求項9之記憶體裝置，其中由該等複數個記憶體胞元群組中之至少二者分享的該等TSV中之至少一些TSV包含於該等複數個記憶體胞元群組間分享的一共用內部處理通道。
  11. 如請求項9之記憶體裝置，其中該第一外部指令包含一資料複製指令、一資料交換指令、一讀取-修正-寫入指令、及一遮罩-寫入指令中之至少一者。
  12. 如請求項9之記憶體裝置，其進一步包含複數個資料處理器，各個資料處理器係與該等記憶體胞元群組中之一者相關聯，及設置在與該相關聯的記憶體胞元群組相同的一核心晶粒上，其中該等資料處理器係經組配以回應於由該內部指令產生器提供的至少一個控制信號而進行該至少一個內部資料處理操作。
  13. 如請求項9之記憶體裝置，其中該至少一個內部資料處理操作包含一資料加法操作、一互斥或操作、一資料減法操作、及一資料乘法操作中之至少一者。
  14. 如請求項9之記憶體裝置，其中當該記憶體裝置從該外部記憶體控制器接收為一正常指令之一第二外部指令時，則該正常指令係通過其相關聯的獨立通道提供給該等複數個記憶體胞元群組中之一者。
  15. 一種記憶體裝置，其包含：排列成複數個記憶體胞元群組的複數個動態隨機存取記憶體(DRAM)胞元；各自與該等複數個記憶體胞元群組中之對應一者相 關聯的複數個獨立通道；一內部指令產生器，其經組配以從一外部記憶體控制器接收用於由該記憶體裝置進行至少一個內部資料處理操作之至少一第一外部指令，及回應於該接收來產生至少兩個內部指令，該等至少兩個內部指令用於使得對應記憶體操作被執行而進行該至少一個內部資料處理操作；及在該等複數個記憶體胞元群組間分享的一共用內部處理通道。
  16. 如請求項15之記憶體裝置，其中各自與該等至少兩個記憶體胞元群組中之對應一者相關聯的該等複數個獨立通道係經組配用於針對該等複數個記憶體胞元群組之該等DRAM胞元進行普通操作，及該共用內部處理通道係在該等至少兩個記憶體胞元群組間分享，用以針對該等至少兩個記憶體胞元群組之該等DRAM胞元進行內部資料處理操作。
  17. 如請求項15之記憶體裝置，其中該第一外部指令包含一資料複製指令、一資料交換指令、一讀取-修正-寫入指令、及一遮罩-寫入指令中之至少一者。
  18. 如請求項17之記憶體裝置，其進一步包含與該等記憶體胞元群組中之一者相關聯的複數個資料處理器，其中該等資料處理器係經組配以回應於由該內部指令產生器提供的至少一個控制信號而在針對該等複數個記憶體胞元群組之一相關聯者的資料上進行該至少一個內部資料處理操作。
  19. 如請求項18之記憶體裝置，其中該至少一個內部資料處理操作包含一資料加法操作、一互斥或操作、一資料減法操作、及一資料乘法操作中之至少一者。
  20. 如請求項15之記憶體裝置，其中當該記憶體裝置從該記憶體控制器接收為一正常指令之一第二外部指令時，則該正常指令係通過其相關聯的獨立通道提供給該等複數個記憶體胞元群組中之一者。
  21. 如請求項15之記憶體裝置，其中該等記憶體操作係串列地執行。
TW106118693A 2016-06-08 2017-06-06 用於執行內部程序之記憶體裝置及其操作方法 TWI757300B (zh)

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
KR20160071074 2016-06-08
KR10-2016-0071074 2016-06-08
??10-2016-0071074 2016-06-08
??10-2017-0061636 2017-05-18
KR1020170061636A KR102345539B1 (ko) 2016-06-08 2017-05-18 내부 프로세스를 수행하는 메모리 장치 및 그 동작방법
KR10-2017-0061636 2017-05-18
US15/607,699 US10083722B2 (en) 2016-06-08 2017-05-30 Memory device for performing internal process and operating method thereof
US15/607,699 2017-05-30

Publications (2)

Publication Number Publication Date
TW201802692A TW201802692A (zh) 2018-01-16
TWI757300B true TWI757300B (zh) 2022-03-11

Family

ID=60419960

Family Applications (1)

Application Number Title Priority Date Filing Date
TW106118693A TWI757300B (zh) 2016-06-08 2017-06-06 用於執行內部程序之記憶體裝置及其操作方法

Country Status (2)

Country Link
DE (1) DE102017112353A1 (zh)
TW (1) TWI757300B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111679785A (zh) * 2019-03-11 2020-09-18 三星电子株式会社 用于处理操作的存储器装置及其操作方法、数据处理系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103165186A (zh) * 2011-12-19 2013-06-19 三星电子株式会社 存储系统及其编程方法
US8843700B1 (en) * 2013-11-29 2014-09-23 NXGN Data, Inc. Power efficient method for cold storage data retention management
TWI493338B (zh) * 2012-06-28 2015-07-21 Intel Corp 用於記憶體的彈性命令定址的方法、堆疊記憶體裝置、儲存媒體及其系統
US20160012865A1 (en) * 2014-07-09 2016-01-14 Jaehyung Lee Semiconductor device having interconnection in package and method for manufacturing the same

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103165186A (zh) * 2011-12-19 2013-06-19 三星电子株式会社 存储系统及其编程方法
TWI493338B (zh) * 2012-06-28 2015-07-21 Intel Corp 用於記憶體的彈性命令定址的方法、堆疊記憶體裝置、儲存媒體及其系統
US8843700B1 (en) * 2013-11-29 2014-09-23 NXGN Data, Inc. Power efficient method for cold storage data retention management
US20160012865A1 (en) * 2014-07-09 2016-01-14 Jaehyung Lee Semiconductor device having interconnection in package and method for manufacturing the same

Also Published As

Publication number Publication date
DE102017112353A1 (de) 2017-12-14
TW201802692A (zh) 2018-01-16

Similar Documents

Publication Publication Date Title
CN107480077B (zh) 用于执行内部处理的存储器设备及其操作方法
US10642612B2 (en) Memory device performing parallel arithmetic processing and memory module including the same
CN109840223B (zh) 存储器装置、包括其的电子装置和电子装置的操作方法
US11094371B2 (en) Memory device for processing operation and method of operating the same
US11276459B2 (en) Memory die including local processor and global processor, memory device, and electronic device
US11599458B2 (en) Stacked memory device and operating method thereof
US11636885B2 (en) Memory device for supporting new command input scheme and method of operating the same
US11860803B2 (en) Memory device including processing circuit, and electronic device including system on chip and memory device
KR20200108768A (ko) 연산 처리를 수행하는 메모리 장치 및 메모리 장치의 동작방법
KR20210094446A (ko) 신규 커맨드 입력 방식을 지원하는 메모리 장치 및 그것의 동작 방법
TWI757300B (zh) 用於執行內部程序之記憶體裝置及其操作方法
CN116246687A (zh) 存储器件、存储系统和使用bist电路执行测试的方法
KR20230043619A (ko) 내부 프로세싱 동작에 대한 타이밍 파라미터들 및 전력 소모를 줄이는 메모리 장치 및 이를 구현하는 방법
KR102345539B1 (ko) 내부 프로세스를 수행하는 메모리 장치 및 그 동작방법
US20190096459A1 (en) Memory devices for performing multiple write operations and operating methods thereof
US12002543B2 (en) Memory device for supporting new command input scheme and method of operating the same
CN116153356A (zh) 存储器装置