TWI693610B - 用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法 - Google Patents

用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法 Download PDF

Info

Publication number
TWI693610B
TWI693610B TW107132513A TW107132513A TWI693610B TW I693610 B TWI693610 B TW I693610B TW 107132513 A TW107132513 A TW 107132513A TW 107132513 A TW107132513 A TW 107132513A TW I693610 B TWI693610 B TW I693610B
Authority
TW
Taiwan
Prior art keywords
memory cells
gate
rows
electrically connected
memory
Prior art date
Application number
TW107132513A
Other languages
English (en)
Other versions
TW201921349A (zh
Inventor
維平 蒂瓦里
恩漢 杜
Original Assignee
美商超捷公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商超捷公司 filed Critical 美商超捷公司
Publication of TW201921349A publication Critical patent/TW201921349A/zh
Application granted granted Critical
Publication of TWI693610B publication Critical patent/TWI693610B/zh

Links

Images

Classifications

    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C16/00—Erasable programmable read-only memories
    • G11C16/02—Erasable programmable read-only memories electrically programmable
    • G11C16/04—Erasable programmable read-only memories electrically programmable using variable threshold transistors, e.g. FAMOS
    • G11C16/0408—Erasable programmable read-only memories electrically programmable using variable threshold transistors, e.g. FAMOS comprising cells containing floating gate transistors
    • G11C16/0425—Erasable programmable read-only memories electrically programmable using variable threshold transistors, e.g. FAMOS comprising cells containing floating gate transistors comprising cells containing a merged floating gate and select transistor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065—Analogue means
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C16/00—Erasable programmable read-only memories
    • G11C16/02—Erasable programmable read-only memories electrically programmable
    • G11C16/06—Auxiliary circuits, e.g. for writing into memory
    • G11C16/24—Bit-line control circuits
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C5/00—Details of stores covered by group G11C11/00
    • G11C5/02—Disposition of storage elements, e.g. in the form of a matrix array
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1006—Data managing, e.g. manipulating data before writing or reading out, data bus switches or control circuits therefor
    • H—ELECTRICITY
    • H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10B—ELECTRONIC MEMORY DEVICES
    • H10B41/00—Electrically erasable-and-programmable ROM [EEPROM] devices comprising floating gates
    • H10B41/30—Electrically erasable-and-programmable ROM [EEPROM] devices comprising floating gates characterised by the memory core region
    • H—ELECTRICITY
    • H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10B—ELECTRONIC MEMORY DEVICES
    • H10B41/00—Electrically erasable-and-programmable ROM [EEPROM] devices comprising floating gates
    • H10B41/30—Electrically erasable-and-programmable ROM [EEPROM] devices comprising floating gates characterised by the memory core region
    • H10B41/35—Electrically erasable-and-programmable ROM [EEPROM] devices comprising floating gates characterised by the memory core region with a cell select transistor, e.g. NAND

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Molecular Biology (AREA)
  • Neurology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Non-Volatile Memory (AREA)
  • Semiconductor Memories (AREA)
  • Metal-Oxide And Bipolar Metal-Oxide Semiconductor Integrated Circuits (AREA)

Abstract

一種具有以列與行配置之記憶體單元的記憶體陣列。各記憶體單元包括源極及汲極區域，其具有在其間的一通道區域、經設置在一第一通道區域部分上方的一浮閘、及經設置在一第二通道區域部分上方的一第二閘極。複數個位元線，其等各沿著該等行的一者延伸，並經電氣連接至該行中的該等記憶體單元之一或多者之一第一群組的該等汲極區域，並與該行中的該等記憶體單元之一或多者之一第二群組的該等汲極區域電氣隔離。複數個源極線，其等各經電氣連接至該等行或該等列之一者中該記憶體單元的等源極區域。複數個閘極線，其等各電氣連接至該等行或該等列之一者中的記憶體單元的該等第二閘極。

Description

用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法 相關申請案
本申請案主張於2017年9月15日申請之美國專利臨時申請案第62/558,984號及於2018年8月21日申請之美國專利申請案第16/107,282號的優先權。
本發明係關於類神經網路。
人工類神經網路模仿生物神經網路(動物的中樞神經系統，特別係大腦)，其用以評估或近似可取決於大數目的輸入且通常已知的功能。人工類神經網路通常包括在彼此間交換訊息之互連的「神經元」的層。圖1繪示人工類神經網路，其中圓形表示神經元的輸入或層。連接(稱為突觸)係以箭頭表示，並具有可基於經驗調諧的數字權重。此使類神經網路適應輸入並能夠學習。一般而言，類神經網路包括多個輸入的一層。一般而言有一或多個神經元中間層，及提供類神經網路的輸出之一神經元輸出層。各級的神經元基於自突觸接收之資料個別地或共同地做決策。
用於高效能資訊處理的人工類神經網路之發展中的主要挑戰之一者係缺少適當的硬體技術。的確，實際的類神經網路依賴非常大數目的突觸，而在神經元之間實現高連接性，亦即，非常高的計算平行性。原理上，此種複雜性可以數位超級電腦或專用圖形處理單元叢集實現。然而，除了高成本以外，此等方法與生物網路相比時也苦於中等的能量效率，主要因為生物網路實施低精確度類比計算而消耗更少的能量。CMOS類比電路已用於人工類神經網路，但大多數CMOS實作的突觸在給定高數目的神經元及突觸情況下已過於龐大。
上述問題及需要係藉由複數個記憶體單元、位元線、源極線、及閘極線的記憶體陣列解決。該複數個記憶體單元經以列及行配置，其中該等記憶體單元之各者包括形成於一半導體基材中之間隔開的源極區域及汲極區域，其等具有延伸於其間的一通道區域；一浮閘，其經設置於該通道區域之一第一部分上方且與該第一部分絕緣；及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣。該複數條位元線，其等各沿著該等行的一對應者延伸，其中對於該等位元線之各者及其對應行，該位元線經電氣連接至該對應行中的該等記憶體單元之一或多者之一第一群組的該等汲極區域，且與該對應行中的該等記憶體單元之一或多者之一第二群組的該等汲極區域電氣隔離。該複數條源極線各經電氣連接至該等行的一者中或該等列的一者中之該等記憶體單元的至少一些者的該等源極區域。該複 數條閘極線各經電氣連接至該等行的一者中或該等列的一者中之該等記憶體單元的至少一些者的該等第二閘極。
一種記憶體陣列包括複數個記憶體單元、位元線、源極線、及閘極線。該複數個記憶體單元經以列及行配置，其中該等記憶體單元之各者包括形成於一半導體基材中之間隔開的源極區域及汲極區域，其等具有延伸於其間的一通道區域；一浮閘，其經設置於該通道區域之一第一部分上方且與該第一部分絕緣；及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣。複數個源極線，其等各沿著該等列或行的一對應者延伸，其中對於該等源極線之各者及其對應一列或行，該源極線經電氣連接至該對應一列或行中的該等記憶體單元之一或多者之一第一群組的該等源極區域，且與該對應一列或行中的該等記憶體單元之一或多者之一第二群組的該等源極區域電氣隔離。該複數條位元線各經電氣連接至該等行之一者中的該等記憶體單元之至少一些者的該等汲極區域。該複數條閘極線各經電氣連接至該等行的一者中或該等列的一者中之該等記憶體單元的至少一些者的該等第二閘極。
一種記憶體陣列包括複數個記憶體單元、位元線、源極線、及閘極線。該複數個記憶體單元經以列及行配置，其中該等記憶體單元之各者包括形成於一半導體基材中之間隔開的源極區域及汲極區域，其等具有延伸於其間的一通道區域；一浮閘，其經設置於該通道區域之一第一部分上方且與該第一部分絕緣；及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣。複數條閘 極線各沿著該等列或行的一對應者延伸，其中對於該等閘極線之各者及其對應一列或行，該閘極線經電氣連接至該對應一列或行中的該等記憶體單元之一或多者之一第一群組的該等第二閘極，且與該對應一列或行中的該等記憶體單元之一或多者之一第二群組的該等第二閘極電氣隔離。複數條位元線各經電氣連接至該等行之一者中的該等記憶體單元之至少一些者的該等汲極區域。複數條源極線各經電氣連接至該等行的一者中或該等列的一者中之該等記憶體單元的至少一些者的該等源極線。
本發明的其他目的與特徵將藉由檢視說明書、申請專利範圍、及隨附圖式而變得顯而易見。
10‧‧‧記憶體單元
10a‧‧‧記憶體單元/單元
10b‧‧‧記憶體單元
12‧‧‧基材
14‧‧‧源極區域/源極
14a‧‧‧源極線
16‧‧‧汲極區域/汲極/位元線
16a‧‧‧位元線
16a1‧‧‧位元線
16a2‧‧‧位元線
18‧‧‧通道區域
20‧‧‧浮閘
22‧‧‧控制閘
22a‧‧‧控制閘線/控制閘
22a1‧‧‧控制閘線
22a2‧‧‧控制閘線
22b‧‧‧部分
22c‧‧‧部分
24‧‧‧中間絕緣體
26‧‧‧閘極氧化物
28‧‧‧選擇閘
28a‧‧‧選擇閘線/輸入線/線
28a1‧‧‧選擇閘線/選擇線/線
28a2‧‧‧選擇閘線/線
30‧‧‧抹除閘
30a‧‧‧抹除閘線/抹除閘
31‧‧‧數位類比轉換器
32‧‧‧VMM
32a‧‧‧VMM
32b‧‧‧VMM
33‧‧‧非揮發性記憶體/記憶體陣列
34‧‧‧抹除閘及字線閘解碼器
35‧‧‧控制閘解碼器
36‧‧‧位元線解碼器
37‧‧‧源極線解碼器
38‧‧‧放大器
39‧‧‧啟動功能電路
40‧‧‧數位類比轉換器(DAC)
42‧‧‧電壓至電流轉換器V/I Conv
44‧‧‧電流比較器IComp
46‧‧‧電壓比較器VComp
48‧‧‧電流至電壓轉換器I/V Conv
50‧‧‧電流至電壓對數轉換器
52‧‧‧電壓至電流對數轉換器
54‧‧‧電流加算器
56‧‧‧電流加算器
60‧‧‧位元線接觸件
62‧‧‧源極線接觸件
64‧‧‧熔絲
66‧‧‧閘極線接觸件
C1‧‧‧特徵圖譜/層
CB1‧‧‧突觸
CB2‧‧‧突觸
CB3‧‧‧突觸
CB4‧‧‧突觸
CG‧‧‧控制閘線
D‧‧‧汲極區域
EG‧‧‧抹除閘線
Icellout‧‧‧記憶體單元電流輸出
Iout‧‧‧電流
Iout0‧‧‧輸出
Iout1‧‧‧輸出
Iout2‧‧‧輸出
Iout3‧‧‧輸出
lin0‧‧‧進入電流
lin1‧‧‧進入電流
lin2‧‧‧進入電流
lin3‧‧‧進入電流
lin4‧‧‧進入電流
lin5‧‧‧進入電流
lin7‧‧‧進入電流
P1‧‧‧啟動功能
P2‧‧‧啟動功能
S‧‧‧源極區域
S0‧‧‧輸入
S3‧‧‧輸出
V2out‧‧‧電壓
Vin‧‧‧輸入電壓
Vin0‧‧‧輸入電壓
Vin1‧‧‧輸入電壓
Vin2‧‧‧輸入電壓
Vin3‧‧‧輸入電壓
Vin4‧‧‧輸入電壓
Vin5‧‧‧輸入電壓
Vin6‧‧‧輸入電壓
Vin7‧‧‧輸入電壓
Vout‧‧‧電壓
WL‧‧‧字線
圖1係繪示人工類神經網路的圖。
圖2係習知的2閘極非揮發性記憶體單元的側截面圖。
圖3係繪示圖2之記憶體單元的習知陣列架構之圖。
圖4係習知的2閘極非揮發性記憶體單元的側截面圖。
圖5係繪示圖4之記憶體單元的習知陣列架構之圖。
圖6係習知的4閘極非揮發性記憶體單元的側截面圖。
圖7係繪示圖6之記憶體單元的習知陣列架構之圖。
圖8A係繪示均勻間隔之類神經網路權重等級分派的圖。
圖8B係繪示不均勻間隔之類神經網路權重等級分派的圖。
圖9係繪示雙向調諧演算法的流程圖。
圖10係繪示使用電流比較之權重映射的方塊圖。
圖11係繪示使用電壓比較之權重映射的方塊圖。
圖12係繪示利用非揮發性記憶體陣列的例示性類神經網路之不同級的圖。
圖13係繪示向量乘法器矩陣的方塊圖。
圖14係繪示向量乘法器矩陣之各種級的方塊圖。
圖15至圖16係繪示四閘極記憶體單元的陣列之第一架構的示意圖。
圖17至圖18係繪示四閘極記憶體單元的陣列之第二架構的示意圖。
圖19係繪示四閘極記憶體單元的陣列之第三架構的示意圖。
圖20係繪示四閘極記憶體單元的陣列之第四架構的示意圖。
圖21係繪示四閘極記憶體單元的陣列之第五架構的示意圖。
圖22係繪示四閘極記憶體單元的陣列之第六架構的示意圖。
圖23係繪示二閘極記憶體單元的陣列之第一架構的示意圖。
圖24係繪示二閘極記憶體單元的陣列之第二架構的示意圖。
圖25係繪示電流至電壓對數轉換器的示意圖。
圖26係繪示電壓至電流對數轉換器的示意圖。
圖27係繪示參考Gnd的電流加算器。
圖28係繪示參考Vdd的電流加算器。
圖29係繪示非揮發性記憶體陣列的N2個類神經網路輸入之使用的圖。
圖30係繪示非揮發性記憶體陣列的N2個類神經網路輸入之使用的圖。
圖31係繪示具有週期性移位輸入線之非揮發性記憶體陣列的類神經網路輸入之使用的圖。
圖32係繪示圖15之記憶體陣列架構的示意圖，但具有週期移位輸入線。
圖33係繪示圖20之記憶體陣列架構的示意圖，但具有週期移位輸入線。
圖34A係一對非揮發性記憶體單元的側截面圖，一記憶體單元具有一遺漏位元線接觸件。
圖34B係一對非揮發性記憶體單元的側截面圖，一記憶體單元具有一遺漏源極線接觸件。
圖34C係一對非揮發性記憶體單元的側截面圖，其中熔絲經電氣連接於汲極區域與位元線之間。
圖34D係一對非揮發性記憶體單元的側截面圖，其中熔絲經電氣連接於源極區域與源極線之間。
圖35A係一對非揮發性記憶體單元的側截面圖，一記憶體單元具有一遺漏閘極線接觸件。
圖35B係一對非揮發性記憶體單元的側截面圖，其中熔絲經電氣連接於閘極與閘極線之間。
圖36係繪示當實作具有1之步幅(stride)的4×4濾波器尺寸時所使用之該等記憶體單元的記憶體陣列的示意圖。
圖37係繪示當實作具有1之步幅的4×4濾波器尺寸時所使用之該等記憶體單元，及經停用的未使用記憶體單元之記憶體陣列的示意圖。
圖38係繪示當實作具有2之步幅的4×4濾波器尺寸時所使用之該等記憶體單元，及經停用的未使用記憶體單元之記憶體陣列的示意圖。
圖39係繪示當實作具有1之步幅的3×3濾波器尺寸時所使用之該等記憶體單元，及經停用的未使用記憶體單元之記憶體陣列的示意圖。
圖40係繪示當實作具有1之步幅的3×3濾波器尺寸時所使用之該等記憶體單元，及經停用的未使用記憶體單元之記憶體陣列的示意圖。
本發明的人工類神經網路利用CMOS技術與非揮發性記憶體陣列的組合。數位非揮發性記憶體係已知。例如，美國專利第5,029,130號(「'130專利」)揭示用於所有目的之分離閘極非揮發性 記憶體單元的陣列。該記憶體單元係顯示於圖2中。各記憶體單元10包括形成於一半導體基材12中之源極區域14與汲極區域16，其中一通道區域18於其間。一浮閘20形成於通道區域18之一第一部分上方且與該第一部分絕緣(且控制該第一部分的導電性)，並於汲極區域16的一部分上方。一控制閘22(亦即，第二通道控制閘)具有經設置於通道區域18之一第二部分上方且與該第二部分絕緣(且控制該第二部分的導電性)的一第一部分22b，及向上並於浮閘20上方延伸的一第二部分22c。浮閘20及控制閘22係藉由一閘極氧化物26與基材12絕緣。
藉由將一高正電壓置於控制閘22上來抹除記憶體單元(其中將電子自浮閘移除)，其導致浮閘20上的電子藉由Fowler-Nordheim穿隧自浮閘20穿隧通過中間絕緣體24至控制閘22。
藉由將一正電壓置於控制閘22上以及將一正電壓置於汲極16上來程式化記憶體單元(其中將電子置於浮閘上)。電子流將自源極14朝汲極16流動。當電子抵達控制閘22與浮閘20之間的間隙時，電子將加速且變熱。由於來自浮閘20的吸引靜電力，該等變熱電子的一些將通過閘極氧化物26注入至浮閘20上。
藉由將正讀取電壓置於汲極16及控制閘22上來讀取記憶體單元(其接通控制閘下方的通道區域)。若浮閘20帶正電荷(亦即電子經抹除並正耦合至汲極16)，則浮閘20下方的通道區域部分亦經接通，且電流將跨通道區域18流動，其係感測為經抹除或「1」狀態。若浮閘20帶負電荷(亦即以電子程式化)，則浮閘20下方的 通道區域部分係大部分或完全斷開，且電流將不會跨通道區域18流動(或將有少許流動)，其係感測為經程式化或「0」狀態。
記憶體陣列的架構顯示於圖3中。記憶體單元10經以列與行配置。在各行中，記憶體單元以鏡像方式端對端地配置，以使其等形成為成對的記憶體單元，各對共享一共用的源極區域14(S)，且各組相鄰的記憶體單元對共享一共用的汲極區域16(D)。用於任何給定之記憶體單元列的所有源極區域14係藉由一源極線14a電氣連接在一起。用於任何給定之記憶體單元行的所有汲極區域16係藉由一位元線16a電氣連接在一起。用於任何給定之記憶體單元列的所有控制閘22係藉由一控制閘線22a電氣連接在一起。因此，雖然記憶體單元可經個別地程式化及讀取，但記憶體單元之抹除係一列一列地執行(各列記憶體單元係藉由施加一高電壓在控制閘線22a上而一起抹除)。若欲抹除一特定記憶體單元，則也將相同列中的所有記憶體單元抹除。
所屬技術領域中具有通常知識者瞭解源極與汲極可互換，其中浮閘能於源極而非汲極上方部分延伸，如圖4所示。圖5最佳地繪示對應的記憶體單元架構，其包括記憶體單元10、源極線14a、位元線16a、及控制閘線22a。如由圖式明顯可見者，相同列的記憶體單元10共享相同的源極線14a及相同的控制閘線22a，而相同行之所有單元的汲極電氣連接至相同的位元線16a。該陣列設計係針對數位應用而最佳化，並例如藉由分別施加1.6V及7.6V至經選擇的控制閘線22a及源極線14a並將經選擇的位元線16a接地，來允許經選擇單元 之個別程式化。藉由在未經選取的位元線16a上施加一大於2伏的電壓並將其餘的線接地來避免干擾相同對中之非選取的記憶體單元。記憶體單元10無法個別地抹除，因為負責抹除的程序(電子自浮閘20至控制閘22之Fowler-Nordheim穿隧)僅受到汲極電壓(亦即，對在列方向中共享相同源極線14a的兩個相鄰單元而言唯一可係不同的電壓)的微弱影響。
具有多於兩個閘極之分離閘記憶體單元亦為已知。例如，記憶體單元具有源極區域14、汲極區域16、在通道區域18之第一部分上方的浮閘20、在通道區域18之第二部分上方的選擇閘28(亦即，第二通道控制閘)、在浮閘20上方的控制閘22、及在源極區域14上方的抹除閘30係已知，如圖6所示(參見例如美國專利第6,747,310號)。此處，除了浮閘20以外的所有閘係非浮閘，意指其等經電氣連接或可連接至電壓源。程式化係藉由變熱的電子自通道區域18將其本身注入至浮閘20上來顯示。抹除係藉由自浮閘20至抹除閘30之電子穿隧來顯示。
用於四閘極記憶體單元陣列的架構可依圖7所示者來組態。在此實施例中，各水平選擇閘線28a將用於彼列記憶體單元的所有選擇閘28電氣連接在一起。各水平控制閘線22a將用於彼列記憶體單元的所有控制閘22電氣連接在一起。各水平源極線14a將用於共享源極區域14之兩列記憶體單元的所有源極區域14電氣連接在一起。各位元線16a將用於彼行記憶體單元的所有汲極區域16電氣連接在一起。各抹除閘線30a將用於共享抹除閘30之兩列記憶體單元的所有抹 除閘30電氣連接在一起。正如先前架構，個別的記憶體單元可經獨立地程式化及讀取。然而，無法個別地抹除單元。抹除係藉由將一高正電壓置於抹除閘線30a上來執行，其導致同時抹除共享相同抹除閘線30a的兩列記憶體單元。例示性操作電壓可包括在下方表1中者(在此實施例中，選擇閘線28a可稱為字線WL)：
Figure 107132513-A0202-12-0011-51
為了將上述非揮發性記憶體陣列利用在類神經網路中，進行兩個修改。第一，該等線經重組態使得各記憶體單元可個別地程式化、抹除、及讀取而不會不利地影響陣列中之其他記憶體單元的記憶體狀態，如下文所進一步解釋者。第二，提供記憶體單元連續(類比)程式化。具體而言，陣列中的各記憶體單元的記憶體狀態(亦即，浮閘上的電荷)可獨立地且對其他記憶體單元的干擾最小地從完全抹除狀態連續地改變至完全程式化狀態，且反之亦然。此意指單元儲存係類比的或至少可儲存許多離散值之一者，其允許非常精確及個別的調諧記憶體陣列中的所有單元，且其使記憶體陣列非常適於儲存類神經網路的突觸權重並對該等突觸權重進行微調調整。
記憶體單元程式化及儲存
當儲存在記憶體單元中的類神經網路權重等級分配可經均勻地間隔(如圖8A所示)或經不均勻地間隔(如圖8B所示)。非揮發性記憶體單元的程式化可使用雙向調諧演算法實作，諸如圖9所示者。Icell係經程式化之目標單元的讀取電流，且Itarget係當該單元經理想地程式化時所欲的讀取電流。讀取目標單元讀取電流Icell(步驟1)，並與目標讀取電流Itarget比較(步驟2)。若目標單元讀取電流Icell大於目標讀取電流Itarget，實施程式化調諧程序(步驟3)以增加浮閘上的電子數目(其中查詢表係用以判定控制閘上所欲的程式化電壓VCG)(步驟3a至步驟3b)，其可依需要重複(步驟3c)。若目標單元讀取電流Icell小於目標讀取電流Itarget，實施抹除調諧程序(步驟4)以減少浮閘上的電子數目(其中查詢表係用以判定抹除閘上所欲的抹除電壓VEG)(步驟4a至步驟4b)，其可根據需要重複(步驟4c)。若程式化調諧程序過衝(overshoot)目標讀取電流，則實施抹除調諧程序(步驟3d並從步驟4a開始)，且反之亦然(步驟4d並從步驟3a開始)，直到達成目標讀取電流(在可接受的δ值內)。
非揮發性記憶體單元的程式化可替代地使用其使用程式化調諧的單向調諧演算法實作。以此演算法，記憶體單元最初係完全抹除，然後實施圖9中的程式化調諧步驟3a至3c，直到目標單元的讀取電流到達目標臨限值。替代地，非揮發性記憶體單元的調諧可使用其使用抹除調諧的單向調諧演算法實作。在此方法中，記憶體單元 最初係完全程式化，然後實施圖9中的抹除調諧步驟4a至4c，直到目標單元的讀取電流到達目標臨限值。
圖10係繪示使用電流比較之權重映射的圖。權重數位位元(例如，5位元權重用於各突觸，表示記憶體單元的目標數位權重)係輸入至數位類比轉換器(DAC)40，其將位元轉換至電壓Vout(例如64個電壓位準-5個位元)。Vout係藉由電壓至電流轉換器V/I Conv 42轉換至電流Iout(例如，64個電流位準-5個位元)。電流係供應至電流比較器IComp 44。程式化或抹除演算法啟用係輸入至記憶體單元10(例如，抹除：遞增EG電壓；或程式化：遞增CG電壓)。記憶體單元電流輸出Icellout(亦即，來自讀取操作)係供應至電流比較器IComp 44。電流比較器IComp 44比較記憶體單元電流Icellout與從權重數位位元導出的電流Iout，以產生指示儲存在記憶體單元10中之權重的信號。
圖11係繪示使用電壓比較之權重映射的圖。權重數位位元(例如，5位元權重用於各突觸)係輸入至數位類比轉換器(DAC)40，其將位元轉換至電壓Vout(例如，64個電壓位準-5個位元)。Vout係供應至電壓比較器VComp 46。程式化或抹除演算法啟用係輸入至記憶體單元10(例如，抹除：遞增EG電壓；或程式化：遞增CG電壓)。記憶體單元電流輸出Icellout係供應至電流至電壓轉換器I/V Conv 48，以用於轉換至電壓V2out(例如，64個電壓位準-5個位元)。電壓V2out係供應至電壓比較器VComp 46。電壓比較器 VComp 46比較電壓Vout與V2 out以產生指示儲存在記憶體單元10中之權重的信號。
採用非揮發性記憶體單元陣列的類神經網路
圖12概念性地繪示利用非揮發性記憶體陣列之類神經網路的非限制性實例。此實例將非揮發性記憶體陣列類神經網路使用於面部識別應用，但任何其他適當應用可使用基於非揮發性記憶體陣列的類神經網路實作。S0係輸入，針對此實例，其係具有5位元精確度之32×32像素的RGB影像(亦即，三個32×32像素陣列，一者用於各顏色R、G、及B，各像素係5位元精確度)。從S0到C1的突觸CB1具有二組不同的權重及共享權重，並以3×3像素重疊濾波器(核心)，將濾波器移位1個像素(或如模型所決定而多於1個像素)掃描輸入影像。具體而言，將影像之3×3部分中的9個像素(亦即，稱為濾波器或核心)的值提供至突觸CB1，藉此將此等9個輸入值乘以合適權重，且在對該乘法的輸出加總之後，由CB1的第一神經元判定並提供用於生成特徵圖譜(feature map)C1之該等層的一者之像素的單一輸出值。然後將3×3濾波器右移一個像素(亦即，在右邊加入三個像素之行，並在左邊丟棄三個像素之行)，藉此將此新定位濾波器中的9個像素值提供至突觸CB1，藉此將彼等乘以相同權重，並藉由關聯神經元判定第二單一輸出值。繼續此程序直到3×3濾波器針對所有三種顏色及所有位元(精確值)掃描整個32×32像素影像。然後使 用不同組的權重重複該程序，以生成C1之不同的特徵圖譜，直到層C1的所有特徵圖譜已計算。
在本實例中，在C1處，有各具有30×30個像素之16個特徵圖譜。各像素係從將輸入與核心相乘所擷取的新特徵像素，且因此各特徵圖譜係二維陣列，且因此在此實例中，突觸CB1構成二維陣列的16層(請記住本文中所提及的神經元層及陣列係邏輯關係，不一定係實體關係-亦即，陣列不一定以實體的二維陣列定向)。16個特徵圖譜之各者係由經施加至濾波器掃描之十六組不同的突觸權重之一者生成。C1特徵圖譜可全部關於相同影像特徵的不同態樣，諸如邊界識別。例如，第一圖譜(使用第一組權重生成，用於所有掃描所共享而用以生成此第一圖譜)可識別圓形邊緣，第二圖譜(使用與第一組權重不同的第二組權重生成)可識別矩形邊緣，或某些特徵的縱橫比，並依此類推。
啟動功能P1(彙整)係在從C1到S1之前施加，其彙整來自各特徵圖譜中之連續、非重疊2×2區域的值。彙整階段的目的係平均附近位置(或也能使用max函數)，以減少，例如，邊緣位置的相依性，並在進入下一階段之前減少資料大小。在S1處，有16個15×15特徵圖譜(亦即，各15×15像素的十六個不同陣列)。從S1到C2之CB2中的突觸及關聯神經元使用4×4濾波器，以1個像素的濾波器移位來掃描S1中的圖譜。在C2處，有22個12×12特徵圖譜。啟動功能P2(彙整)係在從C2到S2之前施加，其彙整來自各特徵圖譜中之連續、非重疊2×2區域的值。在S2處，有22個6×6特徵圖譜。 將啟動功能施加在從S2到C3的突觸CB3處，其中C3中的每個神經元連接至S2中的每個圖譜。在C3處，有64個神經元。從C3到輸出S3的突觸CB4將S3完全連接至C3。在S3處的輸出包括10個神經元，其中最高的輸出神經元判定類別。該輸出可例如指示原始影像之內容的識別或類別。
突觸的各級係使用非揮發性記憶體單元的陣列或陣列的一部分實作。圖13係包括非揮發性記憶體單元且係利用作為輸入層與次一層之間的突觸之向量矩陣乘法(vector-by-matrix multiplication,VMM)陣列的方塊圖。具體而言，VMM 32包括非揮發性記憶體33的陣列、抹除閘及字線閘解碼器34、控制閘解碼器35、位元線解碼器36、及源極線解碼器37，其等解碼記憶體陣列33的輸入。此實例中的源極線解碼器37也解碼記憶體單元陣列的輸出。記憶體陣列用作兩個目的。第一，其儲存將由VMM使用的權重。第二，記憶體陣列有效地將輸入乘以儲存在記憶體陣列中的權重以產生輸出，其將係至次一層的輸入或至最終層的輸入。藉由實施乘法功能，記憶體陣列否定對分開的乘法邏輯電路的需求，且也係有能源效率的。
將記憶體陣列的輸出供應至差分加總運算放大器38，其加總記憶體單元陣列的輸出以創建用於該卷積的單一值。然後將該經加總輸出值供應至整流輸出的啟動功能電路39。經整流輸出值變成作為次一層(例如，以上描述中的C1)之特徵圖譜的元素，然後經施加於次一突觸以產生次一特徵圖譜層或最終層。因此，在此實例中，記憶體陣列構成複數個突觸(其從神經元的先前層或從輸入層(諸如 影像資料庫)接收其等的輸入)，且加總運算放大器38及啟動功能電路39構成複數個神經元。
圖14係VMM之各種級的方塊圖。如圖14所示，輸入係由數位類比轉換器31來從數位轉換成類比，並提供至輸入VMM 32a。將由輸入VMM 32a生成的輸出提供作為至次一VMM(隱藏級1)32b的輸入，其繼而生成提供作為至次一VMM(隱藏級2)32c之輸入的輸出，並依此類推。VMM 32之各種層如卷積式類神經網路(CNN)之突觸及神經元的不同層而作用。各VMM可係獨立的非揮發性記憶體陣列，或多個VMM可利用相同的非揮發性記憶體陣列的不同部分，或多個VMM可利用相同的非揮發性記憶體陣列的重疊部分。
圖15繪示四閘極記憶體單元(亦即，諸如圖6所示者)的陣列，其經配置作為汲極加總矩陣乘法器。圖15之陣列的各種閘極及區域線與圖7中者相同(對於對應結構具有相同的元件編號)，除了抹除閘線30a垂直地而非水平地延行(亦即，各抹除閘線30a將用於記憶體單元之該行的所有抹除閘30連接在一起)以外，使得各記憶體單元10可獨立地經程式化、抹除、及讀取。在記憶體單元之各者以該單元的適當權重值程式化後，該陣列充當汲極加總矩陣乘法器。矩陣輸入係Vin0...Vin7，並係置放於選擇閘線28a上。圖15的陣列之輸出的矩陣Iout0...IoutN係產生在位元線16a上。對於該行中的所有單元，各輸出Iout係單元電流I乘以儲存在該單元中之權重W的和：Iout=Σ(Iij*Wij)
各記憶體單元(或記憶體單元對)充當具有表示為輸出電流Iout之權重值的單一突觸，該輸出電流藉由儲存在該行中之記憶體單元(或記憶體單元對)中的權重值之和決定。任何給定突觸的輸出係以電流的形式。因此，第一階段之後的各後續VMM階段較佳地包括用於將來自先前VMM階段的進入電流轉換成待使用作為輸入電壓Vin之電壓的電路系統。圖16繪示此種電流至電壓轉換電路系統的實例，該電流至電壓轉換電路系統係將進入電流Iin0...IinN對數轉換為輸入電壓Vin0...VinN之記憶體單元的經修改列。
本文中描述的記憶體單元以弱反轉偏壓，Ids=Io * e(Vg-Vth)/kVt=w * Io * e(Vg)/kVt對於使用記憶體單元以將輸入電流轉換成輸入電壓的I至V對數轉換器：Vg=k*Vt*log[Ids/wp*Io]對於使用作為向量矩陣乘法器VMM的記憶體陣列，輸出電流係：Iout=wa * Io * e(Vg)/kVt，即Iout=(wa/wp)* Iin=W * Iin
圖17及圖18繪示四閘極記憶體單元(亦即，諸如圖6所示者)之陣列的另一組態，其經配置作為汲極加總矩陣乘法器。圖17及圖18之陣列的線與圖15及圖16之陣列中者相同，除了源極線14a垂直地而非水平地延行(亦即，各源極線14a將記憶體單元之該 行的所有源極區域14連接在一起)，及抹除閘線30a水平地而非垂直地延行(亦即，各抹除閘線30a將記憶體單元對之該列的所有抹除閘30連接在一起)以外，使得各記憶體單元可獨立地經程式化、抹除、及讀取。矩陣輸入Vin0...VinN保留在選擇閘線28a上，且矩陣輸出Iout0...IoutN保留在位元線16a上。
圖19繪示四閘極記憶體單元(亦即，諸如圖6所示者)之陣列的另一組態，其經配置為閘極耦接/源極加總矩陣乘法器。圖19之陣列的線與圖15及圖16中者相同，除了選擇閘線28a垂直地延行且記憶體單元的各行有其等的二者。具體而言，記憶體單元的各行包括兩個選擇閘線：第一選擇閘線28a1將奇數列記憶體單元的所有選擇閘28連接在一起，且第二選擇閘線28a2將偶數列記憶體單元的所有選擇閘28連接在一起。
在圖19之頂部及底部的電路用以將輸入電流Iin0...IinN對數轉換成輸入電壓Vin0...VinN。顯示於此圖中的矩陣輸入係Vin0...Vin5並經置放於選擇閘線28a1及28a2上。具體而言，將輸入Vin0經置放於行1中之奇數單元的選擇閘線28a1上。Vin1係置放於行1中之偶數單元的選擇閘線28a2上。Vin2係置放於行2中之奇數單元的選擇閘線28a1上。Vin3係置放於行2中之偶數單元的選擇閘線28a2上，並依此類推。將矩陣輸出Iout0...Iout3提供在源極線14a上。位元線16a以固定偏壓電壓VBLrd而偏壓。對於記憶體單元之該列中的所有單元，各輸出Iout係單元電流I乘以儲存在該單元中之權重W的和。因此，對於此架構，記憶體單元的各列充當具有表示 為輸出電流Iout之權重值的單一突觸，該輸出電流藉由儲存在該列中之記憶體單元中的權重值之和決定。
圖20繪示四閘極記憶體單元(亦即，諸如圖6所示者)之陣列的另一組態，其經配置作為閘極耦接/源極加總矩陣乘法器。圖20之陣列的線與圖19中者相同，除了位元線16a垂直地延行且記憶體單元的各行有其等的二者。具體而言，記憶體單元的各行包括兩個位元線：將相鄰的雙記憶體單元(共享相同的位元線接觸件的二個記憶體單元)的所有汲極區域連接在一起之第一位元線16a1，及將次一相鄰的雙記憶體單元的所有汲極區域連接在一起之第二位元線16a2。矩陣輸入Vin0...VinN保留在選擇閘線28a1及28a2上，且矩陣輸出Iout0...IoutN保留在源極線14a上。所有第一位元線16a1的組係以一偏壓位準(例如，1.2v)來偏壓，且所有第二位元線16a2的組係以另一偏壓位準(例如，0v)來偏壓。源極線14a以虛擬偏壓位準(例如，0.6v)來偏壓。對於共享共同源極線14a的各對記憶體單元，輸出電流將係頂部單元減底部單元的差動輸出。因此，各輸出Iout係此等差動輸出的和：Iout=Σ(Iiju*Wiju-Iijd*Wijd)SL電壓~½ Vdd,~0.5v因此，對於此架構，成對記憶體單元的各列充當具有表示為輸出電流Iout之權重值的單一突觸，該輸出電流係由儲存在成對記憶體單元的該列中之記憶體單元中的權重值所決定之差動輸出的和。
圖21繪示四閘極記憶體單元(亦即，諸如圖6所示者)之陣列的另一組態，其經配置作為閘極耦接/源極加總矩陣乘法器。圖21之陣列的線與圖20中者相同，除了抹除閘線30a水平地延行，且控制閘線22a垂直地延行且記憶體單元的各行有其等的二者。具體而言，記憶體單元的各行包括兩個控制閘線：第一控制閘線22a1將奇數列記憶體單元的所有控制閘22連接在一起，且第二控制閘線22a2將偶數列記憶體單元的所有控制閘22a連接在一起。矩陣輸入Vin0...VinN保留在選擇閘線28a1及28a2上，且矩陣輸出Iout0...IoutN保留在源極線14a上。
圖22繪示四閘極記憶體單元(亦即，諸如圖6所示者)之陣列的另一組態，其經配置作為源極加總矩陣乘法器。圖22之陣列的線及輸入與圖17中者相同。然而，將其等提供在源極線14a上，而不是將輸出提供在位元線16a上。矩陣輸入Vin0...VinN保留在選擇閘線28a上。
圖23繪示二閘極記憶體單元(亦即，諸如圖1所示者)之陣列的組態，其經配置為汲極加總矩陣乘法器。圖23之陣列的線與圖5中者相同，除了水平源極線14a已以垂直源極線14a所置換。具體而言，各源極線14a經連接至記憶體單元之該行中的所有源極區域。矩陣輸入Vin0...VinN係置放於控制閘線22a上。矩陣輸出Iout0...IoutN係產生在位元線16a上。對於該行中的所有單元，各輸出Iout係單元電流I乘以儲存在該單元中之權重W的和。記憶體單元 的各行充當具有表示為輸出電流Iout之權重值的單一突觸，該輸出電流藉由儲存在該行中之記憶體單元中的權重值之和決定。
圖24繪示二閘極記憶體單元(亦即，諸如圖1所示者)之陣列的組態，其經配置為源極加總矩陣乘法器。圖24之陣列的線與圖5中者相同，除了控制閘線22a垂直地延行且記憶體單元的各行有其等的二者。具體而言，記憶體單元的各行包括兩個控制閘線：第一控制閘線22a1將奇數列記憶體單元的所有控制閘22a連接在一起，且第二控制閘線22a2將偶數列記憶體單元的所有控制閘22a連接在一起。
此組態的矩陣輸入係Vin0...VinN並經置放於控制閘線22a1及22a2上。具體而言，輸入Vin0係置放於行1中之奇數列單元的控制閘線22a1上。Vin1係置放於行1中之偶數列單元的控制閘線22a2上。Vin2係置放於行2中之奇數列單元的控制閘線22a1上。Vin3係置放於行2中之偶數列單元的控制閘線22a2上，並依此類推。矩陣輸出Iout0...IoutN係產生在源極線14a上。對於共享共同源極線14a的各對記憶體單元，輸出電流將係頂部單元減底部單元的差動輸出。因此，對於此架構，成對記憶體單元的各列充當具有表示為輸出電流Iout之權重值的單一突觸，該輸出電流係由儲存在成對記憶體單元的該列中之記憶體單元中的權重值所決定之差動輸出的和。
圖15至圖16、圖19、及圖20之實施例的例示性操作電壓包括：
Figure 107132513-A0202-12-0023-1
近似數值包括：
Figure 107132513-A0202-12-0023-52
圖17至圖18及圖22之實施例的例示性操作電壓包括：
Figure 107132513-A0202-12-0023-53
近似數值包括：
Figure 107132513-A0202-12-0024-54
圖25繪示與本發明使用之例示性電流至電壓對數轉換器50(WL=選擇閘線、CG=控制閘線、EG=抹除閘線)。記憶體係偏壓在弱反轉區中，Ids=Io * e(Vg-Vth)/kVt。圖26繪示與本發明使用的例示性電壓至電流對數轉換器52。記憶體係偏壓在弱反轉區中。圖27繪示與本發明使用的參考Gnd的電流加算器54。圖28以下繪示與本發明使用的參考Vdd的電流加算器56。負載的實例包括二極體、非揮發性記憶體單元、及電阻器。
上述記憶體陣列組態實作前饋的分類引擎。訓練係藉由將「權重」值儲存在記憶體單元(創建突觸陣列)中而完成，其意指個別單元的次臨限斜率因子已被修改。神經元係藉由加總突觸之輸出及取決於神經元臨限(例如，做決策)排除或不排除而實作。
以下步驟可用以處理輸入電流IE(例如，輸入電流直接來自用於影像識別之特徵計算的輸出)：
步驟1-轉換為更容易以非揮發性記憶體處理的對數尺度。
˙使用雙極電晶體的輸入電流至電壓轉換。雙極電晶體的偏壓電壓VBE與射極電流有對數關係。
˙VBE=a*lnIE-b → VBE
Figure 107132513-A0202-12-0025-55
lnIE-其中a(比率)及b(偏壓或偏移)係常數
˙生成VBE電壓使得記憶體單元將在次臨限區域中操作。
步驟2-將所生成的偏壓VBE施加至字線(在次臨限區域中)。
˙CMOS電晶體的輸出電流IDRAIN與輸入電壓(VGS)、熱電壓(UT)、及κ(k=Cox/(Cox+Cdep))有指數關係，其中Cox及Cdep線性取決於浮閘上的電荷。
˙IDRAIN
Figure 107132513-A0202-12-0025-56
Exp(kVBE/UT)，或
˙lnIDRAIN
Figure 107132513-A0202-12-0025-57
kVBE/UT
˙IDRAIN的對數與VBE的倍數及浮閘上的電荷(相關於κ)有線性關係，其中UT在指定溫度係常數。
˙輸出=輸入*權重的關係對於突觸存在。
單元之各者的輸出(IDRAIN)在讀取模式中可連結在一起以加總陣列或陣列之扇區中之各突觸的值。一旦IDRAIN已經加總，其可經饋送至電流比較器中，並取決於單一感知類神經網路的比較而輸出「邏輯」0或1。一感知(一扇區)已於上文描述。來自各感知的輸出可經饋送到用於多個感知的次一組扇區。
在基於記憶體的卷積式類神經網路中，一組輸入需要乘以某些權重以產生隱藏層或輸出層的所欲結果。如上文所解釋的，一種技術係使用MxM濾波器(核心)(例如，NxN矩陣掃描先前影像，該MxM濾波器在水平及垂直方向兩者中跨該影像移位X個像素)。只要有足夠的輸入至記憶體陣列，像素的掃描可至少部分地並行完成。例如，如圖29所示，可使用M=6的濾波器尺寸(亦即，36個像素的6×6陣列)以使用X=2的移位掃描N×N影像陣列。在該實例中，將濾波器中之第一列的六個像素提供至對N2個輸入之記憶體陣列的前6個輸入。然後，將濾波器中之第二列的六個像素提供至N2個輸入之第二N個輸入中的前6個輸入，並依此類推。此係表示在圖29中之圖的第一列中，其中該等點表示如上文所陳述之用於與輸入的乘法之儲存在記憶體陣列中的權重。然後，濾波器向右移位二個像素，並將已移位濾波器中之第一列的六個像素提供至第一N個輸入的第三至第八輸入，將第二列的六個像素提供至第二N個輸入的第三至第八輸入，並依此類推。一旦將濾波器完全移位到影像右側，濾波器係重定位回到左側，但向下移位二個像素，其中該程序再次重複，直到掃描整個N×N影像。各組水平移位掃描可以梯形形狀表示，該梯形形狀顯示N2個記憶體陣列輸入的何者具備用於乘法的資料。
據此，使用掃描間的二個像素移位及6×6的濾波器尺寸，N×N影像陣列的掃描需要N2個輸入及((N-4)/2))2列。圖30圖形地顯示梯形形狀，其指示記憶體陣列中的權重如何針對濾波器掃描儲存。各列的陰影區代表在一組水平掃描期間施加於輸入的權重。箭頭指示 記憶體陣列的線性輸入線(例如，在圖15中之接收輸入資料的輸入線28a以線性方式完全延伸跨記憶體陣列，各一者總是存取記憶體單元的相同列；在圖19之陣列的情況中，輸入線之各者總是存取記憶體單元的相同行)。白色區指示無資料提供給輸入之處。因此，白色區域指示記憶體單元陣列的無效率使用。
藉由如圖31所示地重組態記憶體陣列，可增加效率，並減少輸入的總數。具體而言，將記憶體陣列的輸入線週期地移位至另一列或行，因此減少陣列的未使用部分，並因此減少實施掃描所需之陣列上的重複輸入線的數目。具體而言，在本實例之移位X=2的情況中，箭頭指示各輸入線週期地移位兩列或兩行，將寬間隔記憶體單元利用梯形形狀轉換成緊密間隔記憶體單元利用矩形形狀。雖然在記憶體單元部分之間需要用於導線束的額外空間以實作此移位，但記憶體單元陣列中所需要的輸入數目大幅減少(僅5n+6)。
圖32繪示圖15的陣列，但對於使用為輸入線的線28a具有兩列的週期性移位。輸入線之列中的週期性移位可類似地實作在圖17、圖22、及圖23的陣列中。圖33繪示圖20的陣列，但對於使用作為輸入線的線28a1及28a2具有兩行的週期性移位。輸入線之行中的週期性移位可類似地實作在圖19、圖21、及圖24的陣列中。
上述卷積式類神經網路的二個關鍵參數係濾波器尺寸(亦即，2×2、3×3、4×4、5×5等)及濾波器步幅(在任何給定步驟中濾波器在x及y方向上移動的像素數目)。例如，參見相關於圖12及圖29至圖31的以上討論。此等二個關鍵參數係藉由快閃記憶體陣 列的設計而實作。用以製造快閃記憶體陣列的光微影術遮罩指定記憶體陣列組態、設計、及操作。一旦遮罩經製作，對記憶體陣列組態及操作的改變實際上係不可能。
對於一些應用，可能有改變關鍵參數(諸如濾波器尺寸及濾波器步幅)的需要。然而，此種變化將已實作在用以製作陣列的遮罩中。換言之，實作此種改變的唯一方式將係重設計記憶體陣列，及藉由創建新遮罩實作新設計。任何給定的記憶體陣列設計及已創建以製造其的遮罩不能用於具有不同濾波器尺寸及/或濾波器步幅的其他應用。
此問題的解決方案是以濾波器尺寸的一端及濾波器步幅範圍建立記憶體陣列，並提供一種方式以在產品製造的最後階段期間(亦即，最終測試排序期間)以濾波器尺寸及濾波器步幅將記憶體陣列程式化。此將允許相同遮罩用以產生具有不同濾波器尺寸及濾波器步幅的記憶體陣列類神經網路裝置。此程式化可藉由停用某些記憶體單元以選擇性地關閉彼等而實作。停用記憶體單元可以一或多種方式實作。用於停用記憶體單元的最可靠技術係將記憶體單元從收集其他單元之輸出的線斷開。例如，若該等單元輸出係在位元線上收集(亦即，加總)，則將記憶體單元的汲極區域從位元線斷開。此可藉由光微影術及蝕刻步驟以移除記憶體單元的位元線接觸件而完成。位元線接觸件係將記憶體單元的汲極連接至位元線的垂直連接器。蝕刻掉該接觸件意指在記憶體單元的汲極至任何位元線之間沒有任何電連接。若該等單元輸出係收集在源極線上，則將記憶體單元的源極區域從源 極線斷開，然而在一些實施方案中，可能較困難或不可行。替代地，對於各單元，熔絲可係置放於記憶體單元汲極與位元線之間，或於源極與源極線之間。任何經啟用記憶體單元的熔絲係在導電狀態中。任何經停用記憶體單元的熔絲係在非導電狀態中(亦即，其係熔斷開以將記憶體單元從位元線或源極線斷開)。參見顯示位元線16a與(從右方單元)移除的汲極16之間的位元線接觸件60的圖34A、顯示源極14與移除的升起源極線14a之間的源極線接觸件62的圖34B、顯示位元線接觸件60上的熔絲64的圖34C、及顯示源極線接觸件62上的熔絲64的圖34D。然而，應注意熔絲可替代地構成源極/汲極與源極/位元線之間的整個連接。位元線接觸件或源極線接觸件的移除或熔合可以利用圖6之四閘極單元結構的記憶體陣列類似地實作。
用於停用記憶體單元的第二技術係將記憶體單元之閘極的一或多者從(多個)關聯之閘極線斷開。例如，可實施光微影術及蝕刻步驟以移除閘極線接觸件。替代地，熔絲可係置放於記憶體單元閘極與閘極線之間，其經熔斷以斷開兩者。此將防止記憶體單元免於被抹除及稍後導通。參見顯示(從右方單元)移除的閘極線接觸件66的圖35A，及顯示閘極線接觸件66上之熔絲64的圖35B。然而，應注意熔絲可替代地構成閘極與閘極線之間的整個連接。閘極線接觸件的移除或熔合可以利用圖6之四閘極單元結構的記憶體陣列類似地實作，其中選擇閘、控制閘、及抹除閘的一或多者可係從其等的(多條)關聯閘極線斷開。因為經斷開的閘極將係浮接的，通過單元的一些洩漏可能發生。因此，此第二技術的可靠性可藉由以足夠的電子程式化 浮閘而增強，以在涉及未經停用之其他單元的後續操作期間防止此種洩漏。此程式化可在閘極線接觸件經移除及/或其上的熔絲熔斷之前發生。也可能組合用於停用經選定記憶體單元的第一及第二技術。
圖36繪示涉及在步幅1之4×4濾波器的掃描開始的記憶體單元，其在上述陣列組態之一者中或類似上述陣列組態之一者，其中輸入信號係置放於垂直延伸的線(例如，選擇閘線28a、控制閘線22a等)上，且輸出信號係生成在水平延伸線(例如，源極線14a等)上。掃描的初始部分需要第一列中的十六個記憶體單元(在虛線框內)。然後，以1之步幅，對於次一記憶體單元列有向右一個記憶體單元的移位，其中對於掃描的次一部分需要第二列中的16個記憶體單元(向右移位1)，並依此類推。在此組態中，藉由陣列中未用於掃描的記憶體單元的任何錯誤洩漏或電壓貢獻可對錯誤作出貢獻。為減少或消除可能的錯誤來源，將未用於掃描之各列中的記憶體單元停用。此顯示在圖37中，其中用於掃描的記憶體單元10a保持啟用，並未用於掃描的記憶體單元10b(以「X」標記)係使用上述之技術的一或二者而停用。防止經停用記憶體單元10b免於對相同列中之經啟用單元10a的輸出作出貢獻。
圖38繪示與圖37中者相同的組態，除了將1之步幅改變成2之步幅。圖39繪示與圖37中者相同的組態，除了掃描係對於3×3濾波器涉及陣列的每一列中之9個經啟用單元。
圖40繪示涉及在步幅1之3×3濾波器的掃描開始的記憶體單元，其在上述陣列組態之一者中或類似上述陣列組態之一者， 其中輸入信號係置放於水平延伸的線(例如，選擇閘線28a、控制閘線22a等)上，且輸出信號係生成在垂直延伸線(例如，源極線14a、位元線16a等)上。掃描的初始部分需要第一行中的九個記憶體單元(在虛線框內)。然後，以1之步幅，對次一記憶體單元行有一個記憶體單元的向下移位，其中掃描的次一部分需要第二行中的9個記憶體單元(向下移位1)，並依此類推。將未用於掃描之各行中的記憶體單元10b停用以防止對相同行中之經啟用單元10a的輸出作出貢獻。
如上文所展示者，相同的記憶體陣列架構可用以實施藉由相同的初始遮罩組及處理步驟形成之不同濾波器尺寸的掃描。其僅在製造程序的後期，或甚至在製造程序後，將某些記憶體單元停用以定制特定濾波器尺寸的性能，並防止未由該濾波器尺寸之掃描使用的經停用記憶體單元對來自經啟用記憶體單元的輸出信號作出貢獻。
須了解本發明並未受限於上文所述以及本文所說明之(一或多個)實施例，且涵括落在任一項申請專利範圍之範疇內的任一變體或全部變體。例如，本文中對本發明的引述並非意欲用以限制任何申請專利範圍或申請專利範圍用語之範疇，而僅是用以對可由一或多項請求項所涵蓋的一或多種技術特徵作出引述。上文描述之材料、程序及數值實例僅為例示性，且不應視為對申請專利範圍之限制。單一材料層可形成為多個具有此類或類似材料之層，且反之亦然。雖然各記憶體單元陣列的輸出在經傳送至次一神經元層之前係藉由濾波凝聚(filter condensation)操縱，但其等不需要如此。
應注意的是，如本文中所使用，「在...上方(over)」及「在...上(on)」之用語皆含括性地包括了「直接在...之上(directly on)」(無居中的材料、元件或間隔設置於其間)及「間接在...之上(indirectly on)」(有居中的材料、元件或間隔設置於其間)的含意。同樣地，「相鄰的(adjacent)」一詞包括了「直接相鄰的」(無居中的材料、元件或間隔設置於其間)及「間接相鄰的」(有居中的材料、元件或間隔設置於其間)的含意，「安裝於(mounted to)」一詞則包括了「直接安裝於(directly mounted to)」(無居中的材料、元件或間隔設置於其間)及「間接安裝於(indirectly mounted to)」(有居中的材料、元件或間隔設置於其間)的含意，以及「電耦接(electrically coupled)」一詞則包括了「直接電耦接(directly electrically coupled to)」(無居中的材料或元件於其間將各元件電性相連接)及「間接電耦接(indirectly electrically coupled to)」(有居中的材料或元件於其間將各元件電性相連接)的含意。舉例而言，「在基材上方(over a substrate)」形成元件可包括直接在基材上形成元件而其間無居中的材料/元件存在，以及間接在基材上形成元件而其間有一或多個居中的材料/元件存在。
10‧‧‧記憶體單元
14‧‧‧源極區域/源極
14a‧‧‧源極線
16‧‧‧汲極區域/汲極/位元線
16a‧‧‧位元線
20‧‧‧浮閘
22‧‧‧控制閘
60‧‧‧位元線接觸件
62‧‧‧源極線接觸件
64‧‧‧熔絲

Claims (16)

  1. 一種記憶體陣列，其包含：複數個記憶體單元，其等以列與行配置，其中該等記憶體單元之各者包括：間隔開的源極區域及汲極區域，其等經形成在具有延伸於其間的一通道區域之一半導體基材中，一浮閘，其經設置在該通道區域之一第一部分上方且與該第一部分絕緣，及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣；複數個位元線，其等各自沿著該等行的一對應者延伸，其中對於該等位元線之各者及其對應行，該位元線經電氣連接至該對應行中的該等記憶體單元之一或多者之一第一群組的該等汲極區域，且與該對應行中的該等記憶體單元之一或多者之一第二群組的該等汲極區域電氣隔離；複數個源極線，其等各自經電氣連接至該等行的一者中或該等列之一者中的該等記憶體單元之至少一些的該等源極區域；複數個閘極線，其等各自經電氣連接至該等行的一者中或該等列之一者中的該等記憶體單元之至少一些的該等第二閘極。
  2. 如請求項1之記憶體陣列，其中對於該等位元線之各者及其對應行，該記憶體陣列進一步包含： 複數個位元線接觸件，其等各自將該第一群組中的該等記憶體單元之一者的該汲極區域電氣連接至該位元線。
  3. 如請求項2之記憶體陣列，其中對於該等位元線之各者及其對應行，該第二群組中的該等記憶體單元之各者缺少將該汲極區域電氣連接至該位元線的一位元線接觸件。
  4. 如請求項1之記憶體陣列，其中對於該等位元線之各者及其對應行，該記憶體陣列進一步包含：複數個第一熔絲，其等各自經電氣連接於該第一群組中的該等記憶體單元之一者的該汲極區域與該位元線之間，其中該等第一熔絲之各者係在一導電狀態中；複數個第二熔絲，其等各自經電氣連接於該第二群組中的該等記憶體單元之一者的該汲極區域與該位元線之間，其中該等第二熔絲之各者係在一非導電狀態中。
  5. 如請求項1之記憶體陣列，其中：該等列的一第一者包括第一複數個記憶體單元，該第一複數個記憶體單元經定位成在一列方向上彼此相鄰，其中該第一複數個記憶體單元之各者的該汲極區域經電氣連接至該等位元線之一者；該等列的該第一者包括第二複數個記憶體單元，該第二複數個記憶體單元在該列方向上環繞該第一複數個記憶體單元，其中該第二複數個記憶體單元之各者的該汲極區域係未電氣連接至該等位元線之任何者； 該等列的一第二者相鄰於該等列的該第一者，且包括經定位成在該列方向上彼此相鄰的第三複數個記憶體單元，其中該第三複數個記憶體單元之各者的該汲極區域經電氣連接至該等位元線之一者；該等列的該第二者包括第四複數個記憶體單元，該第四複數個記憶體單元在該列方向上環繞該第三複數個記憶體單元，其中該第四複數個記憶體單元之各者的該汲極區域係未電氣連接至該等位元線之任何者；其中該第一複數個記憶體單元之一者與該第四複數個記憶體單元的一者在該相同行中。
  6. 如請求項5之記憶體陣列，其中該等位元線之一者經電氣連接至該第一複數個記憶體單元之一者的該汲極區域，且未電氣連接至該等列之該第二者中的該等記憶體單元的任何汲極區域。
  7. 一種記憶體陣列，其包含：複數個記憶體單元，其等以列與行配置，其中該等記憶體單元之各者包括：間隔開的源極區域及汲極區域，其等經形成在具有延伸於其間的一通道區域之一半導體基材中，一浮閘，其經設置在該通道區域之一第一部分上方且與該第一部分絕緣，及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣； 複數個源極線，其等各自沿著該等列或行的一對應者延伸，其中對於該等源極線之各者及其對應之一列或行，該源極線經電氣連接至該對應之一列或行中的該等記憶體單元之一或多者之一第一群組的該等源極區域，且與該對應之一列或行中的該等記憶體單元之一或多者之一第二群組的該等源極區域電氣隔離；複數個位元線，其等各自經電氣連接至該等行之一者中的該等記憶體單元之至少一些的該等汲極區域；複數個閘極線，其等各自經電氣連接至該等行的一者中或該等列之一者中的該等記憶體單元之至少一些的該等第二閘極。
  8. 如請求項7之記憶體陣列，其中對於該等源極線之各者及其對應之一列或行，該記憶體陣列進一步包含：複數個源極線接觸件，其等各自將該第一群組中的該等記憶體單元之一者的該源極區域電氣連接至該源極線。
  9. 如請求項8之記憶體陣列，其中對於該等源極線之各者及其對應之一列或行，該第二群組中的該等記憶體單元之各者缺少將該源極區域電氣連接至該源極線的一源極線接觸件。
  10. 如請求項7之記憶體陣列，其中對於該等源極線之各者及其對應之一列或行，該記憶體陣列進一步包含：複數個第一熔絲，其等各自經電氣連接於該第一群組中的該等記憶體單元之一者的該源極區域與該源極線之間，其中該等第一熔絲之各者係在一導電狀態中； 複數個第二熔絲，其等各自經電氣連接於該第二群組中的該等記憶體單元之一者的該源極區域與該源極線之間，其中該等第二熔絲之各者係在一非導電狀態中。
  11. 如請求項7之記憶體陣列，其中：該等列的一第一者包括第一複數個記憶體單元，該第一複數個記憶體單元經定位成在一列方向上彼此相鄰，其中該第一複數個記憶體單元之各者的該源極區域經電氣連接至該等源極線之一者；該等列的該第一者包括第二複數個記憶體單元，該第二複數個記憶體單元在該列方向上環繞該第一複數個記憶體單元，其中該第二複數個記憶體單元之各者的該源極區域係未電氣連接至該等源極線之任何者；該等列的一第二者相鄰於該等列的該第一者，且包括經定位成在該列方向上彼此相鄰的第三複數個記憶體單元，其中該第三複數個記憶體單元之各者的該源極區域經電氣連接至該等源極線之一者；該等列的該第二者包括第四複數個記憶體單元，該第四複數個記憶體單元在該列方向上環繞該第三複數個記憶體單元，其中該第四複數個記憶體單元之各者的該源極區域係未電氣連接至該等源極線之任何者；其中該第一複數個記憶體單元之一者與該第四複數個記憶體單元的一者在該相同行中。
  12. 一種記憶體陣列，其包含： 複數個記憶體單元，其等以列與行配置，其中該等記憶體單元之各者包括：間隔開的源極區域及汲極區域，其等經形成在具有延伸於其間的一通道區域之一半導體基材中，一浮閘，其經設置在該通道區域之一第一部分上方且與該第一部分絕緣，及一第二閘極，其經設置於該通道區域之一第二部分上方且與該第二部分絕緣；複數個閘極線，其等各自沿著該等列或行的一對應者延伸，其中對於該等閘極線之各者及其對應之一列或行，該閘極線經電氣連接至該對應之一列或行中的該等記憶體單元之一或多者之一第一群組的該等第二閘極，且與該對應之一列或行中的該等記憶體單元之一或多者之一第二群組的該等第二閘極電氣隔離；複數個位元線，其等各自經電氣連接至該等行之一者中的該等記憶體單元之至少一些的該等汲極區域；複數個源極線，其等各自經電氣連接至該等行的一者中或該等列之一者中的該等記憶體單元之至少一些的該等源極區域。
  13. 如請求項12之記憶體陣列，其中對於該等閘極線之各者及其對應之一列或行，該記憶體陣列進一步包含：複數個閘極線接觸件，其等各自將該第一群組中的該等記憶體單元之一者的該第二閘極電氣連接至該閘極線。
  14. 如請求項13之記憶體陣列，其中對於該等閘極線之各者及其對應之一列或行，該第二群組中的該等記憶體單元之各者缺少將該第二閘極電氣連接至該閘極線的一閘極線接觸件。
  15. 如請求項12之記憶體陣列，其中對於該等閘極線之各者及其對應之一列或行，該記憶體陣列進一步包含：複數個第一熔絲，其等各自經電氣連接於該第一群組中的該等記憶體單元之一者的該第二閘極與該閘極線之間，其中該等第一熔絲之各者係在一導電狀態中；複數個第二熔絲，其等各自經電氣連接於該第二群組中的該等記憶體單元之一者的該第二閘極與該閘極線之間，其中該等第二熔絲之各者係在一非導電狀態中。
  16. 如請求項12之記憶體陣列，其中：該等列的一第一者包括第一複數個記憶體單元，該第一複數個記憶體單元經定位成在一列方向上彼此相鄰，其中該第一複數個記憶體單元之各者的該第二閘極經電氣連接至該等閘極線之一者；該等列的該第一者包括第二複數個記憶體單元，該第二複數個記憶體單元在該列方向上環繞該第一複數個記憶體單元，其中該第二複數個記憶體單元之各者的該第二閘極係未電氣連接至該等閘極線之任何者；該等列的一第二者相鄰於該等列的該第一者，且包括經定位成在該列方向上彼此相鄰的第三複數個記憶體單元，其中該第三複數個記憶體單元之各者的該第二閘極經電氣連接至該等閘極線之一者； 該等列的該第二者包括第四複數個記憶體單元，該第四複數個記憶體單元在該列方向上環繞該第三複數個記憶體單元，其中該第四複數個記憶體單元之各者的該第二閘極係未電氣連接至該等閘極線之任何者；其中該第一複數個記憶體單元之一者與該第四複數個記憶體單元的一者在該相同行中。
TW107132513A 2017-09-15 2018-09-14 用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法 TWI693610B (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201762558984P 2017-09-15 2017-09-15
US62/558,984 2017-09-15
US16/107,282 2018-08-21
US16/107,282 US10580492B2 (en) 2017-09-15 2018-08-21 System and method for implementing configurable convoluted neural networks with flash memories
WOPCT/US18/47438 2018-08-22
PCT/US2018/047438 WO2019055182A1 (en) 2017-09-15 2018-08-22 SYSTEM AND METHOD FOR IMPLEMENTING CONVOLUTE NEURAL NETWORKS CONFIGURABLE WITH FLASH MEMOIRES
??PCT/US18/47438 2018-08-22

Publications (2)

Publication Number Publication Date
TW201921349A TW201921349A (zh) 2019-06-01
TWI693610B true TWI693610B (zh) 2020-05-11

Family

ID=65721171

Family Applications (1)

Application Number Title Priority Date Filing Date
TW107132513A TWI693610B (zh) 2017-09-15 2018-09-14 用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法

Country Status (7)

Country Link
US (1) US10580492B2 (zh)
EP (3) EP3665722B1 (zh)
JP (1) JP7250776B2 (zh)
KR (1) KR102307675B1 (zh)
CN (1) CN111095553B (zh)
TW (1) TWI693610B (zh)
WO (1) WO2019055182A1 (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6833873B2 (ja) 2016-05-17 2021-02-24 シリコン ストーリッジ テクノロージー インコーポレイテッドＳｉｌｉｃｏｎ Ｓｔｏｒａｇｅ Ｔｅｃｈｎｏｌｏｇｙ， Ｉｎｃ． 不揮発性メモリアレイを使用したディープラーニングニューラルネットワーク分類器
US10803943B2 (en) 2017-11-29 2020-10-13 Silicon Storage Technology, Inc. Neural network classifier using array of four-gate non-volatile memory cells
US11636325B2 (en) 2018-10-24 2023-04-25 Macronix International Co., Ltd. In-memory data pooling for machine learning
US11562229B2 (en) * 2018-11-30 2023-01-24 Macronix International Co., Ltd. Convolution accelerator using in-memory computation
US11934480B2 (en) 2018-12-18 2024-03-19 Macronix International Co., Ltd. NAND block architecture for in-memory multiply-and-accumulate operations
US11409352B2 (en) 2019-01-18 2022-08-09 Silicon Storage Technology, Inc. Power management for an analog neural memory in a deep learning artificial neural network
US11270763B2 (en) 2019-01-18 2022-03-08 Silicon Storage Technology, Inc. Neural network classifier using array of three-gate non-volatile memory cells
US11023559B2 (en) 2019-01-25 2021-06-01 Microsemi Soc Corp. Apparatus and method for combining analog neural net with FPGA routing in a monolithic integrated circuit
US11586898B2 (en) * 2019-01-29 2023-02-21 Silicon Storage Technology, Inc. Precision programming circuit for analog neural memory in deep learning artificial neural network
US10720217B1 (en) 2019-01-29 2020-07-21 Silicon Storage Technology, Inc. Memory device and method for varying program state separation based upon frequency of use
US11423979B2 (en) * 2019-04-29 2022-08-23 Silicon Storage Technology, Inc. Decoding system and physical layout for analog neural memory in deep learning artificial neural network
US20200349422A1 (en) * 2019-05-02 2020-11-05 Silicon Storage Technology, Inc. Output array neuron conversion and calibration for analog neural memory in deep learning artificial neural network
US11521658B2 (en) 2019-06-25 2022-12-06 Sandisk Technologies Llc Binary weighted voltage encoding scheme for supporting multi-bit input precision
US20210034953A1 (en) * 2019-08-02 2021-02-04 Applied Materials, Inc. Reconfigurable finfet-based artificial neuron and synapse devices
US11507816B2 (en) 2019-09-19 2022-11-22 Silicon Storage Technology, Inc. Precision tuning for the programming of analog neural memory in a deep learning artificial neural network
KR102514932B1 (ko) * 2021-04-16 2023-03-29 한국과학기술원 기계 학습용 아날로그 내적 연산기, 이를 이용한 기계 학습 프로세서 및 학습 방법
KR102590585B1 (ko) * 2021-08-10 2023-10-16 고려대학교 산학협력단 3 전극 대각 멤트랜지스터 시스템, 이를 이용한 컨볼루션 네트워크 연산 장치 및 방법

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5554874A (en) * 1995-06-05 1996-09-10 Quantum Effect Design, Inc. Six-transistor cell with wide bit-line pitch, double words lines, and bit-line contact shared among four cells
US20020089014A1 (en) * 2001-01-05 2002-07-11 Geeng-Chuan Chern Self aligned method of forming a semiconductor memory array of floating gate memory cells with floating gates having multiple sharp edges, and a memory array made thereby
TW200802735A (en) * 2006-04-13 2008-01-01 Sandisk Corp Methods of making flash memory cell arrays having dual control gates per memory cell charge storage element
US20080211007A1 (en) * 2004-11-23 2008-09-04 Yuan Jack H Self-Aligned Trenches With Grown Dielectric For High Coupling Ratio In Semiconductor Devices
TW200847430A (en) * 2007-05-22 2008-12-01 Chia-Hsing Chen A MOSFET device and its operation method
US20150255481A1 (en) * 2014-03-07 2015-09-10 Sandisk Technologies Inc. Metal Replacement Process For Low Resistance Source Contacts In 3D NAND
US20160254269A1 (en) * 2015-02-27 2016-09-01 Silicon Storage Technology, Inc. Array Of Non-volatile Memory Cells With ROM Cells
US9564451B1 (en) * 2015-11-06 2017-02-07 SK Hynix Inc. Semiconductor device and manufacturing method thereof

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5029130A (en) 1990-01-22 1991-07-02 Silicon Storage Technology, Inc. Single transistor non-valatile electrically alterable semiconductor memory device
US5146602A (en) 1990-12-26 1992-09-08 Intel Corporation Method of increasing the accuracy of an analog neural network and the like
US5138576A (en) 1991-11-06 1992-08-11 Altera Corporation Method and apparatus for erasing an array of electrically erasable EPROM cells
EP0562737B1 (en) 1992-03-26 1998-06-17 Hitachi, Ltd. Flash memory
US5264734A (en) 1992-05-19 1993-11-23 Intel Corporation Difference calculating neural network utilizing switched capacitors
US5256911A (en) 1992-06-10 1993-10-26 Intel Corporation Neural network with multiplexed snyaptic processing
JP2835272B2 (ja) 1993-12-21 1998-12-14 株式会社東芝 半導体記憶装置
KR0151623B1 (ko) 1994-12-07 1998-10-01 문정환 이이피롬 셀 및 그 제조방법
US6222777B1 (en) 1999-04-09 2001-04-24 Sun Microsystems, Inc. Output circuit for alternating multiple bit line per column memory architecture
US6563733B2 (en) 2001-05-24 2003-05-13 Winbond Electronics Corporation Memory array architectures based on a triple-polysilicon source-side injection non-volatile memory cell
US6747310B2 (en) 2002-10-07 2004-06-08 Actrans System Inc. Flash memory cells with separated self-aligned select and erase gates, and process of fabrication
US6822910B2 (en) 2002-12-29 2004-11-23 Macronix International Co., Ltd. Non-volatile memory and operating method thereof
TWI220560B (en) 2003-10-27 2004-08-21 Powerchip Semiconductor Corp NAND flash memory cell architecture, NAND flash memory cell array, manufacturing method and operating method of the same
US7072215B2 (en) * 2004-02-24 2006-07-04 Taiwan Semiconductor Manufacturing Company Array structure of two-transistor cells with merged floating gates for byte erase and re-write if disturbed algorithm
US7315056B2 (en) 2004-06-07 2008-01-01 Silicon Storage Technology, Inc. Semiconductor memory array of floating gate memory cells with program/erase and select gates
TWI270199B (en) 2005-01-31 2007-01-01 Powerchip Semiconductor Corp Non-volatile memory and manufacturing method and operating method thereof
US7304890B2 (en) 2005-12-13 2007-12-04 Atmel Corporation Double byte select high voltage line for EEPROM memory block
JP2010267341A (ja) 2009-05-15 2010-11-25 Renesas Electronics Corp 半導体装置
US8909576B2 (en) 2011-09-16 2014-12-09 International Business Machines Corporation Neuromorphic event-driven neural computing architecture in a scalable neural network
US8760955B2 (en) 2011-10-21 2014-06-24 Taiwan Semiconductor Manufacturing Company, Ltd. Electrical fuse memory arrays
US9275748B2 (en) 2013-03-14 2016-03-01 Silicon Storage Technology, Inc. Low leakage, low threshold voltage, split-gate flash cell operation
US10019470B2 (en) 2013-10-16 2018-07-10 University Of Tennessee Research Foundation Method and apparatus for constructing, using and reusing components and structures of an artifical neural network
US9299798B2 (en) * 2013-11-26 2016-03-29 Globalfoundries Singapore Pte. Ltd. Semiconductor device and methods for forming a semiconductor device
US20150213898A1 (en) 2014-01-27 2015-07-30 Silicon Storage Technololgy, Inc. Byte Erasable Non-volatile Memory Architecture And Method Of Erasing Same
US9286982B2 (en) 2014-08-08 2016-03-15 Silicon Storage Technology, Inc. Flash memory system with EEPROM functionality
US10312248B2 (en) 2014-11-12 2019-06-04 Silicon Storage Technology, Inc. Virtual ground non-volatile memory array
US10269440B2 (en) 2016-05-17 2019-04-23 Silicon Storage Technology, Inc. Flash memory array with individual memory cell read, program and erase
US10311958B2 (en) 2016-05-17 2019-06-04 Silicon Storage Technology, Inc. Array of three-gate flash memory cells with individual memory cell read, program and erase
JP6833873B2 (ja) * 2016-05-17 2021-02-24 シリコン ストーリッジ テクノロージー インコーポレイテッドＳｉｌｉｃｏｎ Ｓｔｏｒａｇｅ Ｔｅｃｈｎｏｌｏｇｙ， Ｉｎｃ． 不揮発性メモリアレイを使用したディープラーニングニューラルネットワーク分類器

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5554874A (en) * 1995-06-05 1996-09-10 Quantum Effect Design, Inc. Six-transistor cell with wide bit-line pitch, double words lines, and bit-line contact shared among four cells
US20020089014A1 (en) * 2001-01-05 2002-07-11 Geeng-Chuan Chern Self aligned method of forming a semiconductor memory array of floating gate memory cells with floating gates having multiple sharp edges, and a memory array made thereby
US20080211007A1 (en) * 2004-11-23 2008-09-04 Yuan Jack H Self-Aligned Trenches With Grown Dielectric For High Coupling Ratio In Semiconductor Devices
TW200802735A (en) * 2006-04-13 2008-01-01 Sandisk Corp Methods of making flash memory cell arrays having dual control gates per memory cell charge storage element
TW200847430A (en) * 2007-05-22 2008-12-01 Chia-Hsing Chen A MOSFET device and its operation method
US20150255481A1 (en) * 2014-03-07 2015-09-10 Sandisk Technologies Inc. Metal Replacement Process For Low Resistance Source Contacts In 3D NAND
US20160254269A1 (en) * 2015-02-27 2016-09-01 Silicon Storage Technology, Inc. Array Of Non-volatile Memory Cells With ROM Cells
US9564451B1 (en) * 2015-11-06 2017-02-07 SK Hynix Inc. Semiconductor device and manufacturing method thereof

Also Published As

Publication number Publication date
WO2019055182A1 (en) 2019-03-21
US10580492B2 (en) 2020-03-03
EP4235512A2 (en) 2023-08-30
CN111095553A (zh) 2020-05-01
CN111095553B (zh) 2023-09-01
KR20200036924A (ko) 2020-04-07
JP2020534686A (ja) 2020-11-26
TW201921349A (zh) 2019-06-01
EP4235513A2 (en) 2023-08-30
EP3665722A4 (en) 2021-10-27
JP7250776B2 (ja) 2023-04-03
EP3665722A1 (en) 2020-06-17
KR102307675B1 (ko) 2021-10-01
US20190088329A1 (en) 2019-03-21
EP4235513A3 (en) 2023-11-01
EP4235512A3 (en) 2023-11-01
EP3665722B1 (en) 2023-07-26

Similar Documents

Publication Publication Date Title
TWI693610B (zh) 用於以快閃記憶體實作可組態卷積式類神經網路的系統及方法
TWI694448B (zh) 用於人工類神經網路中之類比神經形態記憶體之高精確度及高效率調諧機制及演算法
US11972795B2 (en) Verification of a weight stored in a non-volatile memory cell in a neural network following a programming operation
TWI719757B (zh) 使用3-閘極非揮發性記憶體單元陣列之神經網路分類器
TWI705390B (zh) 使用堆疊式閘極非揮發性記憶體單元陣列之神經網路分類器
EP3459019A1 (en) Deep learning neural network classifier using non-volatile memory array
TWI705389B (zh) 使用4-閘極非揮發性記憶體單元陣列之神經網路分類器