JPH06125049A - 半導体装置 - Google Patents

半導体装置

Info

Publication number
JPH06125049A
JPH06125049A JP4170292A JP17029292A JPH06125049A JP H06125049 A JPH06125049 A JP H06125049A JP 4170292 A JP4170292 A JP 4170292A JP 17029292 A JP17029292 A JP 17029292A JP H06125049 A JPH06125049 A JP H06125049A
Authority
JP
Japan
Prior art keywords
neuron
floating gate
circuit
gate
mos transistor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4170292A
Other languages
English (en)
Other versions
JP3119392B2 (ja
Inventor
Sunao Shibata
直 柴田
Tadahiro Omi
忠弘 大見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP04170292A priority Critical patent/JP3119392B2/ja
Priority to PCT/JP1993/000750 priority patent/WO1993024958A1/ja
Priority to EP93913479A priority patent/EP0644597A4/en
Publication of JPH06125049A publication Critical patent/JPH06125049A/ja
Application granted granted Critical
Publication of JP3119392B2 publication Critical patent/JP3119392B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10BELECTRONIC MEMORY DEVICES
    • H10B69/00Erasable-and-programmable ROM [EPROM] devices not provided for in groups H10B41/00 - H10B63/00, e.g. ultraviolet erasable-and-programmable ROM [UVEPROM] devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Neurology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Semiconductor Memories (AREA)
  • Non-Volatile Memory (AREA)
  • Metal-Oxide And Bipolar Metal-Oxide Semiconductor Integrated Circuits (AREA)
  • Networks Using Active Elements (AREA)
  • Semiconductor Integrated Circuits (AREA)

Abstract

(57)【要約】 【目的】 本発明は、定常電流が全く流れることがな
く、正,負の重みを5V単一電流で実現でき、しかも自
己学習機能を持ったシナプス回路を実現できる半導体装
置を提供することを目的とする。 【構成】 高、低2つの電位を供給するそれぞれ第1、
第2の電源ラインと、第1のフローティングゲートを有
する第1のNMOSと、第2のフローティングゲートを
有する第2のPMOSとを有し、前記第1のNMOSの
ソース及びドレインが、それぞれ第3のNMOS及び第
4のPMOSを介してそれぞれ第2及び第1の電源ライ
ンに接続され、前記第2のPMOSのソース及びドレイ
ンが、それぞれ第5のPMOS及び第6のNMOSを介
してそれぞれ第1及び第2の電源ラインに接続され、前
記第1NMOS及び第2のPMOSのソースが、第3の
フローティングゲートと、それぞれ第1及び第2のコン
デンサーを介して接続されていることを特徴とする。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、半導体装置に係り、特
に高性能なニューラルネットワーク構成に適した半導体
装置に関する。
【0002】
【関連技術】半導体の集積回路技術は実に驚くべき速度
で進んでおり、例えばダイナミック・メモリを例にとる
なら、4メガビットから16メガビットがすでに量産体
制にあり、64メガビット以上の容量をもった超々高密
度メモリも研究レベルでは実現されつつある。64メガ
ビットメモリは、せいぜい1cm四方のシリコンチップ
上に実に約1億2000万個ものMOSトランジスタが
集積されている。このような超高集積化技術はメモリ回
路ばかりでなく論理回路にも応用され、32ビットから
64ビットのCPUをはじめとする、様々な高機能論理
集積回路が開発されている。
【0003】しかし、これらの論理回路はデジタル信
号、すなわち「1」と「0」という2値の信号を用いて
演算を行なう方式を採用しており、例えばコンピュータ
を構成する場合は、ノイマン方式といって、あらかじめ
決められたプログラムに従って1つ1つ命令を実行して
いく方式である。このような方式では単純な数値計算に
対しては非常に高速な演算が可能であるが、パタン認識
や画像処理といった演算には膨大な時間を要する。さら
に、連想、学習といったいわば人間が最も得意とする情
報処理に対しては非常に不得手であり、現在様々なソフ
トウェア技術の研究が行なわれているが、はかばかしい
成果は得られていないのが現状である。ここで、これら
の困難を一挙に解決するため、生物の脳の機能を研究
し、その機能を模倣した演算処理の行なえるコンピュー
タ、すなわち神経回路コンピュータ(ニューロンコンピ
ュータ)を開発しようというまた別の流れの研究があ
る。
【0004】このような研究は、1940年代より始ま
っているが、ここ数年来非常に活発に研究が展開される
ようになった。それはLSI技術の進歩にともない、こ
のようなニューロンコンピュータのハードウェア化が可
能となったことによる。
【0005】しかしながら、現状の半導体LSI技術を
用いてニューロンコンピュータをLSIチップ化するに
はまだまだ様々な問題があり、実用化のメドはほとんど
たっていないのが実情である。
【0006】LSI化における技術的な問題がどこにあ
るのかを以下に説明する。
【0007】人間の脳は極めて複雑な構造を有し、非常
に高度な機能を有しているが、その基本的な構成は非常
に単純である。すなわち、ニューロンと呼ばれる演算機
能をもった神経細胞と、その演算結果を他のニューロン
に伝える、いわば配線の役割を担った神経繊維とから構
成されている。
【0008】この脳の基本単位の構成を簡略化してモデ
ルで描いたのが図6である。901a,901b,90
1cはニューロンであり、902a,902b,902
cは神経繊維である。903a,903b,903cは
シナプス結合とよばれ、例えば神経繊維902aを伝わ
って来た信号にwaという重みをかけ、ニューロン90
1aに入力する。ニューロン901aは入力された信号
強度の線形和をとり、それらの合計値がある閾値をこえ
ると神経細胞が活性化し、神経繊維902bに信号を出
力する。合計値が閾値以下だとニューロンは信号を出力
しない。合計値が閾値以上になって、ニューロンが信号
を出すことを、そのニューロンが「発火した」と言う。
【0009】実際の脳では、これらの演算、信号の伝
搬、重みのかけ算等すべて電気化学現象によって行われ
ており、信号は電気信号として伝送・処理されている。
人間が学習する過程は、シナプス結合における重みが変
化していく過程としてとらえられている。すなわち、様
々な入力信号の組合せに対し、正しい出力が得られるよ
う重みが徐々に修正され、最終的に最適の値に落ち着く
のである。つまり人間の英知はシナプスの重みとして脳
に刻みつけられているのである。
【0010】数多くのニューロンがシナプスを介して相
互に接続され1つの層を形成している。これらが人間の
脳では、6層重ね合わされていることが分かっている。
このような構造、機能を半導体デバイスを用いてLSI
システムとして実現することが、ニューロンコンピュー
タ実現の最も重要な課題である。
【0011】図7(a)は、1つの神経細胞、すなわち
1個のニューロンの機能を説明する図面であり、194
3年にMcCullockとPitts(Bull:Math. Biophys. Vol.5,
p.115(1943))により数学的モデルとして提案されたもの
である。現在もこのモデルを半導体回路で実現し、ニュ
ーロンコンピュータを構成する研究が盛んに進められて
いる。V1,V2,V3,…,Vnは、例えば電圧の大きさ
として定義されるn個の入力信号であり、他のニューロ
ンから伝達された信号に相当している。w1、w2
3、…、wnはニューロン同士の結合の強さを表す係数
で、生物学的にはシナプス結合と呼ばれるものである。
ニューロンの機能は各入力Viに重みwi(i=1〜n)
をかけて線形加算した値Zが、ある所定の閾値VTH *
り大となったときに「1」を出力し、また閾値より小の
ときに「0」を出力するという動作である。 これを数
式で表せば、 として、 Vout=1(Z>VTH *) …(2) 0(Z<VTH *) …(3) となる。
【0012】図7(b)は、ZとVoutの関係を表した
ものであり、ZがVTH *より十分 大きいときは1、十分
小さいときは0を出力している。
【0013】さて、このようなニューロンをトランジス
タの組合せで実現しようと思えば、数多くのトランジス
タを必要とするばかりか、加算演算を各信号を電流値に
変換してこれを足し合わせることにより行うため、多く
の電流が流れ多大のパワーを消費することになる。これ
では高集積化は不可能である。この問題は、ニューロン
MOSFET(νMOSと略)の発明(発明者:柴田
直、大見忠弘、特願平1−141463号)により解決
された。
【0014】この発明はたった1つのトランジスタでニ
ューロンの働きの主要機能を果たすことができ、しかも
電圧信号をそのまま加算演算することができるため、ほ
とんど電力消費がないという画期的なものである。図8
(a)はνMOS断面構造の一例を簡略化して示したも
のであり、1101は例えばP型のシリコン基板、11
02,1103はN+拡散層で形成されたソース及びド
レイン、1104はチャネル領域上に設けられたゲート
絶縁膜(例えばSiO2など)、1106は電気的に絶
縁され電位的にフローティングの状態にあるフローティ
ングゲート、1107は例えばSiO2等の絶縁膜、1
108(G1,G2,G3,G4)は入力ゲートでありニュ
ーロンの入力に相当する。
【0015】図8(b)はその動作を説明するためにさ
らに簡略化した図面である。各入力ゲートとフローティ
ングゲート間の容量結合係数をCG、フローティングゲ
ートとシリコン基板間の容量結合係数をC0とすると、
フローティングゲートの電位Zは、 Z=−w(V1+V2+V3+V4) …(4) W≡CG/(CO+4CG) …(5) とあらわされる。但しここで、V1,V2,V3、V4はそ
れぞれ入力ゲートG1,G2,G3,G4に入力されている
電圧であり、シリコン基板の電位は0V、すなわちアー
スされているとした。
【0016】このνMOSはフローティングゲートをゲ
ート電極とみれば通常のNチャネルMOSトランジスタ
であり、このフローティングゲートからみた閾電圧(基
板表面に反転層が形成される電圧)をVTH *とすると、
Z>VTH *で上記νMOSはオンし、Z<VTH *ではオフ
する。つまりこのνMOS1109を1つ用いて例えば
同図(c)のようなインバータ回路を組めば簡単に1ヶ
のニューロンの機能が表現できるのである。1110,
1111はインバータを構成するための抵抗、1112
はNMOSトランジスタである。同図(d)は、
out1,Vout2をZの関数として示したものであり、Z
>VTH *の入力に対しVout2はVDDのハイレベルの電圧
を出力している。つまりニューロンが発火した状態を実
現している。
【0017】(4)式で示したように、ニューロンへの
入力が電圧レベルで加算され、その線形和が閾値以上に
なるとニューロンが発火するという基本的な動作がたっ
た1つのνMOSによって実現されているのである。電
圧モードの加算を行なうので、入力部で流れる電流はコ
ンデンサの充放電電流のみであり、その大きさは非常に
小さい。一方、インバータでは、ニューロン発火時に直
流電流が流れるが、これは、負荷として、抵抗1110
を用いているためであり、前記発明(特願平1−141
463号)によるCMOS構成のνMOSゲートを用い
れば、この直流電流はなくすことができる。
【0018】図9は、CMOS構成の一例を示す図面で
ある。図9(a)はCMOSニューロンゲートの断面構
造を模式的に表したものであり、1201はP型シリコ
ン基板、1202はn型のウェル、1203a,120
3bはそれぞれN+型のソース及びドレイン、1204
a,1204bはそれぞれP+型のソース及びドレイ
ン、1205はフローティングゲート、1206a〜d
はそれぞれ入力ゲートの電極である。1207,120
8は例えばSiO2等の絶縁膜、1209はフィールド
酸化膜である。同図(b)は1個のニューロン回路を構
成した例であり、1210は同図(a)のCMOSニュ
ーロンゲートを記号であらわしたものであり、符号を付
した部分は同図(a)の番号と対応している。1211
はCMOSのインバータであり、1212,1213は
それぞれNMOS及びPMOSのトランジスタである。
また、1214はニューロンの出力である。
【0019】以上の様に、少数の素子で1ヶのニューロ
ンが構成でき、しかもパワー消費が非常に少ないためν
MOSはニューロンコンピュータを実現する上で、不可
欠な素子となっているのである。
【0020】しかしながら、ニューロンコンピュータを
実現するには、ニューロン以外のもう1つ重要な要素、
すなわちシナプスも構成する必要がある。図10は、従
来技術で構成したシナプス結合も含むニューロン回路の
基本構成の一例である。
【0021】1301は例えば図8(c)に示したよう
なニューロン回路であり、1302は他のニューロンの
出力信号を伝える配線である。1303はシナプス結合
回路であり、入力信号に重みを付与するための回路であ
る。NMOSトランジスタ1304のソース1306に
負荷抵抗(R+Rx)を接続したソースフォロワー回路
となっている。従って、NMOSトランジスタのゲート
電極1305に発火したニューロンの出力電圧Vsが印
加されると、ソース1306には、Vs−VTHなる電圧
が出てくる(ここでVTHは、NMOSトランジスタ13
04の閾電圧である)。
【0022】例えば、VTH=0のMOSトランジスタを
用いたとすると、ソース1306の電位はVsと等しく
なり、この電圧が2つの抵抗R,Rxで分割されてシナ
プス結合回路の出力電圧となり、結線1307によって
ニューロン1301に伝えられる。この出力電圧は、V
S・Rx/(R+Rx)となり、Rx/(R+Rx)なる重
みが信号電圧VSに掛けられたことになる。Rxの値を
可変にすることにより重みを変更することができる。
【0023】図11(a)は可変抵抗の実現方法の一例
を示したものである。例えば、1つのMOSトランジス
タ1401のゲートに一定の電圧VGGを印加してやれ
ば、このトランジスタは1つの抵抗の働きをする。VGG
の値を変化させることによりその抵抗値を変化させるこ
とができる。
【0024】また、同図(b)は、VGGの値を制御する
回路の一例を示したもので、4ビットのバイナリーカウ
ンタ1402とD/Aコンバータ1403とから構成さ
れている。シナプスの結合強さは、4ビットの2進数で
表現され、それが、D/Aコンバータ1403によって
アナログ電圧に変換されVGGの値として出力される。シ
ナプス結合強度を強めるには、制御信号によりカウンタ
の値をカウントダウンさせ、VGGの値を小さくすればよ
い。逆にシナプス結合強度を弱めるには、カウントアッ
プさせ、VGGの値を大きくしてやればよい。
【0025】さて、図10及び図11に示したようなシ
ナプス結合回路を用いた場合の問題点を次に説明する。
【0026】まず、第1の問題点は図10で重みを発生
させるのに抵抗による電圧分割を用いている点である。
この方式ではこの抵抗に常に電流を流し続けることによ
って、重みを掛けた出力電圧を保持しているため、常時
S 2/(R+Rx)の電力を消費することになる。これ
では、たとえニューロン1301における消費電力をν
MOSの応用により減少させても回路全体としての消費
電力は決して小さくならない。一層がn個のニューロン
からなる2層の神経回路網を考えると、シナプス結合の
数はn2 個となりニューロンの数よりシナプスの数の方
が圧倒的に多いのである。従って、常時電流を流し続け
なければならないシナプス結合回路を用いる限り、実用
的な規模の神経回路網を構成することは消費電力が過大
となり、事実上設計不可能となっている。R+RXの値
を十分大きくすることにより消費電力を減少させること
はできなるが、こうした場合Cout を充放電するための
時定数が非常に大きくなり、シナプス回路の動作速度が
著しく劣化することになる。
【0027】第2の問題点は、結合の問題の重みを決め
る、図11(b)に示した回路が多数の素子を必要と
し、高集化できないという事実である。学習機能を有す
る神経回路網を構成するためには、各シナプス結合の強
さは適宜変更ができ、かつその変更した値を記憶してお
く必要がある。同図では、このために4ビットのバイナ
リーカウンターを用いているが、これだけでも最低30
個程度のMOSトランジスタを必要とする。さらにD/
Aコンバータを構成するためにも多くの素子を必要とす
る。さらにこれらの回路が、1つのシナプス結合当り、
さらに多くの電力を消費することになり、消費電力の面
からも不利となるのである。
【0028】シナプス構成に必要な素子数を低減させる
方法として、フローティングゲート型のEPROMやE
2 PROMの不揮発性メモリを用いる方法が提案されて
いる。これらのデバイスは、フローティングゲート内の
電荷の量によって、その閾値が変化するため、電荷の量
によってアナログ的に重みを記憶することができる。一
個のトランジスタで重みを記憶できるため1つ1つのシ
ナプス回路は、図11(b)の回路にくらべて小さくす
ることができる。しかしながら、これを重みとして読み
出し、前段のニューロンの出力に乗算するためには、や
はり相当複雑な回路を必要とする。例えば、2つのE2
PROMメモリセルを用いた差動増幅回路を構成し〔D.
Soo and R.Meyer,"A Four-Quadrant NMOS Analogue Mul
tiplier," IEEE J.Solid State Ciruits,Vol. sc-17,N
o.6,Dec. ,1982〕、重みを掛けた結果を電流信号として
読み出すことになる。回路の大幅な簡単化を達成できな
いばかりか、常時電流を流すことにより重みの掛け算を
行うため消費電力が非常に大きくなり、やはり大規模ニ
ューラルネットワーク構成には用いることができない。
【0029】さらに重大な問題点を図12に示す。
【0030】図12(a)はトンネル接合を有するE2
PROMセルの閾電圧(VTH) を、データ書き込み用の
パルスの数の関数として示したものである。プログラム
電圧は19.5Vであり、パルスの幅、5msecであ
る。プログラム用の制御電極に正のパルスを加えると電
子がフローティングゲート内に注入され閾値は正方向に
シフトする。逆に負のパルスを印加すると電子がフロー
ティングゲートから放出されて、閾値は負の方向にシフ
トする。図から明らかな様に、最初の一個のパルスによ
って閾値は大きくシフトし、その後のパルスによっては
非常にわずかしか変化していないことが分る。これで
は、閾値を細く変化させて、シナプスの重みを、数多く
のレベルに調整することは不可能である。
【0031】この原因は次の様に説明することができ
る。
【0032】図12(b)は、正のプログラム電圧をス
テップ関数的に印加したときの、フローティングゲート
に注入される電子の数(n)の時間変化の様子を示した
ものである。電圧印加の初期に数多くの電子が注入さ
れ、その後はほとんど増加しないことが分る。これは、
電荷注入の基本となっている。絶縁膜中を流れるFowler
-Nordheim Tunnelingという電流が、 I ∝ V2exp(−b/V) という式に従って、絶縁膜両端の電位差Vに依存するた
めである。即ち、初期のトンネル電流によってフローテ
ィングゲート内の電子の数が増加すると、これによって
フローティングゲートの電位が下り、Vが小さくなり、
その結果としてトンネル電流が指数関数的に減少してし
まうからである。トンネル電流を一定値に制御し、シナ
プス加重を精度よく変更するには、フローティングゲー
ト内の電荷の数に応じてパルス電圧の大きさやパルス幅
を精度よくコントロールする必要があり、さらに多くの
回路を要する結果となる。
【0033】要するに、従来知られた技術では、低消費
電力化、高集積化、さらにシナプス加重の精度のいずれ
の面からも神経回路網の構成はほとんど不可能と言わざ
るを得ない。従って、従来の技術ではニューロンコンピ
ュータを実現することはできないのである。
【0034】さらにシナプスは正、負の両方の重みを表
現する必要がある。
【0035】従来、この負の重みを実現するために、ア
ースとVDD(+5V)ライン以外に例えば−VDD(−5
V)の負の電源を必要とした。電源の数が増えること
は、LSIシステムとしては好ましくなく、できれば5
V単一電源で動くチップを実現することが強く要求され
ているが、いまだこのような回路は存在しない。さら
に、シナプスは、その重みを記憶すると同時に任意に変
更できなければならない。
【0036】図5に従って従来のシナプス回路の一例に
ついて説明する。
【0037】図はM.HOLLER他が1990年に発表したE
EPROMセルを用いたシナプス回路である。
【0038】図において1,2は電流源で、その電流値
はそれぞれE2 PROMセル3、4に書き込まれた電位
により決められる。5、6はいづれも差動増幅器であり
2つの入力電圧の差ΔVINにより2つの入力端子7,
7’あいは8,8’に流れる電流の値の差が決まる。結
局出力線、9,9’に流れる電流I+ ,I- の差は次式
で与えられる。
【0039】 ΔI=I+ − I- =AΔVIN・ΔVFG ここでAは比例定数である。ΔVINを前段ニューロンの
出力、ΔVFGをシナプスの重みとし、ΔIをシナプスの
出力とすると、前段ニューロンの出力にシナプスの重み
を乗じた結果がシナプスの出力となっており、うまくシ
ナプスの機能が実現されている。
【0040】しかしながら、このシナプス回路は電流モ
ードで働く回路であり、回路動作中は常に電流が流れて
いる。従って消費電力が大きくなるため高集積化は不可
能である。このような状況の中で、定常電流を流すこと
なく、シナプスの重みを実現することが可能な電圧モー
ドのシナプス回路が強く望まれている。
【0041】
【発明が解決しようとする課題】以上の状況に鑑み、本
発明は、定常電流が全く流れることがなく、正,負
の重みを5V単一電流で実現でき、しかも自己学習機
能を持ったシナプス回路を実現できる半導体装置を提供
することを目的とする。
【0042】
【課題を解決するための手段】本発明の半導体装置は、
高レベル及び低レベルの2つの電位を供給するそれぞれ
第1、及び第2の電源ラインと、第1のフローティング
ゲートを有するNチャネル型の第1のMOSトランジス
タと、第2のフローティングゲートを有するPチャネル
型の第2のMOSトランジスタを有し、前記第1のMO
Sトランジスタのソース及びドレインが、それぞれNチ
ャネル型の第3のMOSトランジスタ及びPチャネル型
の第4のMOSトランジスタを介してそれぞれ第2及び
第1の電源ラインに接続され、前記第2のMOSトラン
ジスタのソース及びドレインが、それぞれPチャネル型
の第5のMOSトランジスタ及びNチャネル型の第6の
MOSトランジスタを介してそれぞれ第1及び第2の電
源ラインに接続され、前記第1及び第2のMOSトラン
ジスタのソースが、第3のフローティングゲートと、そ
れぞれ第1及び第2のコンデンサーを介して接続されて
いることを特徴とする。
【0043】
【作用】本発明の半導体装置は、定常電流が全く流れる
ことなく、5V単一電流で、正,負両方の重みが実現で
き、且つ自己学習機能をもったシナプス回路が実現でき
るため、大規模なニューラルネットワークを実現するこ
とが初めて可能となる。
【0044】
【実施例】
(実施例1)本発明の第1の実施例を第1図(a)に示
す。図に於て、Viは、前段のニューロンからの出力信
号であり、そのニューロンの発火、非発火に従い、それ
ぞれVDD又は0Vとなる。
【0045】VD *はその反転信号である。101は、
フローティングゲートであり、NMOS102及びPM
OS103のゲート電極となっている。104,10
4’はNMOSトランジスタ、105,105’はPM
OSトランジスタである。VX,Vy はフローティング
ゲート101の電位を決めるための入力ゲートであり、
E は電荷の授受を行うための書き込み電極である。フ
ローティングゲート101と、書き込み電極107の間
には、例えば100Åの厚さのSiO2 膜が形成されて
おり両者の電位差が十分大きく例えば、10V程度にな
ったときファウラーノルドハイムトンネリング現象によ
って電流が流れ、フローティングゲート内の電荷量QF
が変化する。ここで、フローティングゲートの電位をφ
F Sとすると、 φF S=(Cxx+CYy+CE+QF)/(Cx+Cy+CE+C0) (6) となる。
【0046】ここで、Cx,Cyは,それぞれVx電極1
06,Vy電極106’とフローティングゲート101
の間の容量結合係数、CEは、VE電極107とフローテ
ィングゲート間の容量結合係数、C0は浮遊容量であ
る。V+,V-はそれぞれこの回路の2つの出力端子、1
08,108’にあらわれる出力電圧であり、コンデン
サC1,C2を介して、次段のニューロン109のフロー
ティングゲート110と容量結合している。109は、
ニューロン回路であり、例えばNチャネルニューロンM
OSトランジスタ(νMOS)111とPチャネルνM
OS112より構成されるCMOSνMOSインバータ
(113)と通常のインバター114で構成されてい
る。V0はニューロン回路の出力であり、このニューロ
ンのフローティングゲート110の電位をφFとする
と、φF>VTH *でVO=1となり、φFTH *でVO=0と
なる回路である。
【0047】次にこの回路の動作を説明する。まず前段
のニューロンが発火していないとき、即ち、Vi=0
(Vi *=VDD)のとき、NMOSと104’とPMOS
105はOFF、NMOS104とPMOS105’は
ONとなり、回路は、図1(b)と等価となる。出力端
子108,104’はそれぞれアース(0V)及びVDD
に直接接続されるため、それぞれ0及びVDDとなってい
る。一方、前段のニューロンが発火したときは、NMO
S104’とPMOS105がONし、NMOS104
とPMOS105’がOFFして回路は、図1(c)と
等価となる。このときV+端子は、NMOSトランジス
タ102を介して電源VDDより電流が流れ込むため電位
が上昇し、NMOSトランジスタがOFFするまで上昇
を続ける。従って、その最終値は、φF S−VTH *とな
る。ここで、VTH *はNMOSのフローティングゲート
からみた閾電圧である。また、V-の端子はPMOS1
03を介して電荷が放電されるため時間とともに電位が
下降し、最終値はφFS−VTP *となる。ここでVTP *はP
MOSのフローティングゲートからみた閾値である。
【0048】t=t1で前段のニューロンが発火した後
のV+,V-の弛緩の変化の様子を図示したのが第1図
(d)である。
【0049】V+,V-は、それぞれコンデンサC1,C2
を介して、次段ニューロンのフローティングゲート11
0と結合しているため、これは、C1+C2という1つの
コンデンサーを介してVEFFという電位を与えたのと同
じ効果をもつ(図1(e)参照)。ここでVEFFは、 VEFF=(C1++C2-)/(C1+C2) (7) で表される。
【0050】本実施例では、C1 =C2 =C/2と設定
したため、 VEFF=(V+ +V- )/2 (8) となり、この電位を大きさCのコンデンサを介してフロ
ーティングゲート110に結合させたのと等価となる。
【0051】図1(d)にはVEFFの時間変化も示し
た。以上まとめると図1(a)の回路は、前段ニューロ
ンが非発火(Vi=0)のときは、 VEFF=VDD/2 を出力し、発火したとき(Vi=VDDとなったとき)
は、 VEFF={2φF S−(VTn *+VTp *)}/2 を出力するシナプス回路となっている。
【0052】 特に、VTn *=|VTp *|(VTp *<0)の場合は、 VEFF=φF S 出力するシナプス回路となっている。
【0053】図1(f)は、同様のシナプス回路S1
2,……Snを介してニューロン109がn個のニュー
ロンを出力V1,V2,……Vnと結合している様子を模
式図で示したものである。このとき、ニューロン109
のフローティングゲート電位φFには、次式で与えられ
る。 TOT=nCとすると、 となる。
【0054】従って、各シナプスの重みは、実効的に、 Wi=(1/n)(φF S/VDD−1/2) (11) と表される。
【0055】φF S >(1/2)ならばWi>0となり、
興奮性のシナプス結合となり、φF S <1/2ならばWi
<0となり抑圧性のシナプスとなる。φF S は(6)式
で表されるから、例えばVx =Vy =VE =0としてや
ると、 φF S=Q/CTOT (12) (CTOT=Cx+Cy+CE+C0) となるから、QFの値によってφF Sの値、即ちWiの値を
正負の任意の値に設定できるのである。
【0056】たとえば、Vx=VE=VDD、Vy=0とし
て、CX+CE=(1/2)CTOTとしておくと(6)及
び(11)式よりWiは、 Wi=(1/n)(QF/CTOTDD) (13) と表され、QFが正か負かによってWiの正負が決まる。
つまり本シナプス回路では、VDDという1つの電源電圧
だけで正,負両極性の過電値が設定できるのである。ま
た図1(b),(C)よりも明らかなように、前段ニュ
ーロンの発火、非発火にかかわらずいづれかのトランジ
スタがOFFしており、いわゆる貫通電流は、定常的に
は流れないようになっている。従って消費電力が小さ
く、高集積化には理想的である。
【0057】次にフローティングゲート101内の電荷
F S の値をかえる方法について述べる。例えば(6)
式において、CX=Cyとし、簡単のためにCE,CO《C
X、Cy としてCE =CO =0と無視できるものとす
る。又、QF=0と仮定すると、Vx=Vy=VPPのとき
φF S=VPPとなるが、Vx、Vyのどちらか一方が0Vの
ときはφF S=VPP/2となる。また、Vx=Vy=0のと
きはもちろんφF S=0である。従ってVx=Vy=VPP
E=0としたシナプスのみ、トンネル酸化膜部115
にプログラム電圧VPP(例えば10V)かかるのでトン
ネリングが生じ電子がフローティングゲート内に注入さ
れ△QF<0となる。それ以外のセルでは、トンネリン
グは生じない。なぜならファウラーノルドハイムトンネ
ル電流は、電圧(電界)に対して指数関数的に減少する
からであり、(1/2)VPPでは流れないからである。
電子を放出する際は、Vx=Vy=0としVE=VPPとし
たシナプスでのみ電子放出が生じる。
【0058】例えば、Vx、Vyとそれぞれx方向、y方
向に送る配線として配置し、VPPの電位の与えられた配
線の交点に位置するシナプスでのみ重みの減少、あるい
は0Vを与えられた配線の交点に位置するシナプスのみ
重みの増加を行わせることができる。このときVEはチ
ップ全体で共通とする(図1g参照)。
【0059】たとえば、Vx=VPPとするのは、本来0
を出力すべきところを間違って1を出力したニューロン
に対応させたVxラインである。またVy=VPPとするの
は発火した前段のニューロンに対応するVyラインのみ
である。
【0060】こうすると間違って1を出したニューロン
に関し1を入力して、発火を助けていたシナプスのみ選
択的に電子を注入して重みを下げることができる。つま
りHebbのルールに従った学習がハードウェア自身で
できるのである。従来ニューラルネットの学習は外部の
大型コンピュータにより複雑な学習規則にもとづいた計
算をし、この計算結果にもとづいて、1つ1つのE2
ROMの内容をかきかえることで行っていたため学習に
多大な時間を要していたが本発明により大幅に学習時間
を短縮することができた。
【0061】選択的シナプス結合の増強、減少を行う
際、データの誤書込みが生じないようVx,Vy,VE
の値の設定が重要である。
【0062】(実施例2)図2は、本発明の第2の実施
例を説明する図で、誤書込み防止のタイミング回路を有
するニューラルネットワークにおけるVx、Vyの設置の
タイミングを表すタイムチャートである。
【0063】要するに、全シナプスに対し、VE=(1
/2)VDDに設定した後に所定のVx、VyのみVDDに設
定するのである。電子の注入及び放出はそれぞれVE
パルス的にVDDもしくは0にすることにより行うことが
できる。こうすれば全シナプスのトンネル部にかかる電
圧はデータ書込み時以外は常に(1/2)VDD以下とな
り誤動作は生じないのである。
【0064】(実施例3)図3は本発明の第3の実施例
である。
【0065】電荷注入部のフローティングゲート301
とトランジスタのフローティングゲート間を、抵抗Rで
つないだものである。このRは、トンネル部にトンネル
電流が流れる際の実効的な抵抗値にくらべ十分大きな値
としておくことにより、各パルス毎に注入(あるいは放
出)する電子の数をほぼ一定にすることができる。重み
を精度よく変化させるのに極めて有効である。
【0066】(実施例4)図4は第4の実施例を示す回
路図である。図1と異るのは、フローティングゲート1
01がそれぞれ独立のフローティングゲート401,4
02として分離されていること及びViは前段のニュー
ロン出力ではなく、システムのクロック信号となってい
る点である。またフローティングゲート403も必ずし
もニューロンの出力となっている訳ではなく一般のニュ
ーロンMOSトランジスタのフローティングゲートとな
っている。
【0067】クロック信号が0のときもVEFFとして
(1/2)VDDを出力し、クロックがVDDに立上ると、 を出力する回路である。従来の逆CMOS型の回路に比
較し、全く消費電力を使わないばかりか、出力が最終値
に落ちつくまでの時間もはやくなっている。
【0068】以上、VTn *>0,VTP *<0とフローティ
ングゲート型のNMOS,PMOSどちらもエンハンス
メント型の場合についてのみ述べたが、両方ともデプレ
ション型であってもよい。また用途に応じて片方がデプ
レッション、他方がエンハンスメント型であってももち
ろんよい。またVTn *=VTP *=0でもよい。
【0069】さらにすべてフローティングゲートはフロ
ーティングの場合についてのみ述べたが、これはスイッ
チングトランジスタを介して適当な電位に適宜接続させ
てやってもよい。そうすれば、必要なチャージを直接入
れることができフローティングゲートからみた閾値を実
効的に変更することができる。また第3の実施例で用い
た抵抗は、薄膜トランジスタで、データ書き込み時のみ
ゲートをオフして高抵抗としてやってもよい。
【0070】
【発明の効果】本発明により、定常電流が全く流れるこ
となく、5V単一電流で、正,負両方の重みが実現で
き、且つ自己学習機能をもったシナプス回路が実現でき
るため、大規模なニューラルネットワークを実現するこ
とが初めて可能となった。
【図面の簡単な説明】
【図1】本発明の第1の実施例を説明する回路図。
【図2】本発明の第2の実施例を説明する回路図。
【図3】本発明の第3の実施例を説明する回路図。
【図4】本発明の第4の実施例を説明する回路図。
【図5】従来のシナプス回路を示す回路図。
【図6】脳の基本単位の構成をモデル化した図。
【図7】図7(a)は1つの神経細胞、即ち1個のニュ
ーロンの機能を説明する概念図、図7(b)はZとVo
utの関係を表したグラフ。
【図8(a)】νMOS構造の一例を示す簡略化した概
念図。
【図8(b)】図8(a)の構造をさらに簡略化した
図。
【図8(c)】図8(a)のニューロン素子を用いたイ
ンバ−タ−回路図。
【図8(d)】図8(c)の回路におけるVout,Vin
をZの関数として示したグラフ。
【図9(a)】CMOSニューロンゲートの断面構造を
模式的に表した図。
【図9(b)】1個のニューロン回路を構成示す回路
図。
【図10】従来技術によるνMOSトランジスタを用い
たシナプス結合も含むニューロン回路の基本構成の一例
を示す回路図。
【図11】図11(a)は可変抵抗の実現方法の一例を
示し回路図、図11(b)はVGGの値を制御する一例を
示す回路図。
【図12】図12(a)はトンネル接合を有するE2
ROMセルの閾電圧(VTH)を、データ書き込み用のパ
ルスの数の関数として示したグラフであり、図12
(b)は正のプログラム電圧をステップ関数的に印加し
たときの、フローティングゲートに注入される電子の数
(n)の時間変化の様子を示したグラフ。
【符号の説明】 101 フローティングゲート 102、111 NチャネルνMOS 103、112 PチャネルνMOS 104,104’ NMOSトランジスタ 105,105’ PMOSトランジスタ 107 書き込み電極(VE電極) 106 Vx電極 106’ Vy電極 108,108’ 出力端子 109 次段のニューロン 110 ニューロン109のフローティングゲート 112 PチャネルνMOS 113 CMOSνMOSインバータ 114 インバーター 901a,901b,901c ニューロン 902a,902b,902c 神経繊維 903a,903b,903c シナプス結合 1101 シリコン基板、 1102,1103 ソース及びドレイン、 1104 ゲート絶縁膜、 1106 フローティングゲート、 1107 絶縁膜、 1108 入力ゲート、 1110,1111 インバータを構成するための抵
抗、 1112 NMOSトランジスタ、 1201 シリコン基板、 1202 ウェル、 1203a ソース、 1203b ドレイン、 1204a ソース、 1204b ドレイン、 1205 フローティングゲート、 1206a〜d 入力ゲートの電極、 1207,1208 絶縁膜、 1209 フィールド酸化膜、 1210 CMOSニューロンゲート、 1211 CMOSのインバータ、 1212 NMOSトランジスタ 1213 PMOSのトランジスタ、 1214 ニューロン回路の出力端子、 1301 ニューロン回路、 1302 他のニューロンの出力信号を伝える配線、 1303 シナプス結合回路、 1304 NMOSトランジスタ、 1305 ゲート電極、 1306 ソース、 1307 結線、 1401 MOSトランジスタ、 1402 バイナリーカウンタ、 1403 D/Aコンバータ。
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成5年11月25日
【手続補正1】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正内容】
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.5 識別記号 庁内整理番号 FI 技術表示箇所 H01L 29/792

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】 高レベル及び低レベルの2つの電位を供
    給するそれぞれ第1、及び第2の電源ラインと、第1の
    フローティングゲートを有するNチャネル型の第1のM
    OSトランジスタと、第2のフローティングゲートを有
    するPチャネル型の第2のMOSトランジスタを有し、
    前記第1のMOSトランジスタのソース及びドレイン
    が、それぞれNチャネル型の第3のMOSトランジスタ
    及びPチャネル型の第4のMOSトランジスタを介して
    それぞれ第2及び第1の電源ラインに接続され、前記第
    2のMOSトランジスタのソース及びドレインが、それ
    ぞれPチャネル型の第5のMOSトランジスタ及びNチ
    ャネル型の第6のMOSトランジスタを介してそれぞれ
    第1及び第2の電源ラインに接続され、前記第1及び第
    2のMOSトランジスタのソースが、第3のフローティ
    ングゲートと、それぞれ第1及び第2のコンデンサーを
    介して接続されていることを特徴とする半導体装置。
  2. 【請求項2】 前記第1及び第2のフローティングゲー
    トが電気的に接続されていることを特徴とする請求項1
    記載の半導体装置。
  3. 【請求項3】 前記第1,第2,第3のフローティング
    ゲートの少くとも1つが、MOSトランジスタを介して
    所定の電位を供給する信号線に接続されていることを特
    徴とする請求項1または2に記載の半導体装置。
  4. 【請求項4】 前記第3及び第4のMOSトランジスタ
    のゲート電極が互に接続され且つ前記第5及び第6のM
    OSトランジスタのゲート電極が互に接続されているこ
    とことを特徴とする請求項1乃至3のいずれか1項に記
    載の半導体装置。
  5. 【請求項5】 前記第3,第4のMOSトランジスタの
    ゲートに加えられる2値信号が、前記第5,第6のMO
    Sトランジスタのゲートに加えられる2値信号とが互に
    反転の関係にあることを特徴とする請求項1乃至4のい
    ずれか1項に記載の半導体装置。
JP04170292A 1992-06-03 1992-06-03 半導体装置 Expired - Fee Related JP3119392B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP04170292A JP3119392B2 (ja) 1992-06-03 1992-06-03 半導体装置
PCT/JP1993/000750 WO1993024958A1 (en) 1992-06-03 1993-06-03 Semiconductor device
EP93913479A EP0644597A4 (en) 1992-06-03 1993-06-03 SEMICONDUCTOR DEVICE.

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP04170292A JP3119392B2 (ja) 1992-06-03 1992-06-03 半導体装置

Publications (2)

Publication Number Publication Date
JPH06125049A true JPH06125049A (ja) 1994-05-06
JP3119392B2 JP3119392B2 (ja) 2000-12-18

Family

ID=15902259

Family Applications (1)

Application Number Title Priority Date Filing Date
JP04170292A Expired - Fee Related JP3119392B2 (ja) 1992-06-03 1992-06-03 半導体装置

Country Status (3)

Country Link
EP (1) EP0644597A4 (ja)
JP (1) JP3119392B2 (ja)
WO (1) WO1993024958A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995015580A1 (fr) * 1993-11-30 1995-06-08 Tadahiro Ohmi Dispositif a semi-conducteurs
US6150851A (en) * 1997-06-06 2000-11-21 Tadahiro Ohmi Charge transfer amplifier circuit, voltage comparator, and sense amplifier
US6199092B1 (en) 1997-09-22 2001-03-06 Tadahiro Ohmi Semiconductor arithmetic circuit
US6847071B2 (en) 2001-06-06 2005-01-25 Matsushita Electric Industrial Co., Ltd. Semiconductor device

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69501381T2 (de) * 1994-05-06 1998-06-25 Philips Electronics Nv Halbleitergerät
JPH10224224A (ja) * 1997-02-03 1998-08-21 Sunao Shibata 半導体演算装置
JPH10283793A (ja) * 1997-02-06 1998-10-23 Sunao Shibata 半導体回路
JPH10260817A (ja) 1997-03-15 1998-09-29 Sunao Shibata 半導体演算回路及びデ−タ処理装置
JPH10257352A (ja) 1997-03-15 1998-09-25 Sunao Shibata 半導体演算回路
EP3743857A4 (en) * 2018-01-23 2021-12-29 Anaflash Inc. Neural network circuits having non-volatile synapse arrays

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2662559B2 (ja) * 1989-06-02 1997-10-15 直 柴田 半導体装置
IT1242142B (it) * 1990-09-20 1994-02-16 Texas Instruments Italia Spa Resistore variabile non volatile, realizzato in circuito integrato, in particolare per la composizione di reti neuronali

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995015580A1 (fr) * 1993-11-30 1995-06-08 Tadahiro Ohmi Dispositif a semi-conducteurs
US5818081A (en) * 1993-11-30 1998-10-06 Tadahiro Ohmi Semiconductor device
US6150851A (en) * 1997-06-06 2000-11-21 Tadahiro Ohmi Charge transfer amplifier circuit, voltage comparator, and sense amplifier
US6199092B1 (en) 1997-09-22 2001-03-06 Tadahiro Ohmi Semiconductor arithmetic circuit
US6847071B2 (en) 2001-06-06 2005-01-25 Matsushita Electric Industrial Co., Ltd. Semiconductor device
US6949780B2 (en) 2001-06-06 2005-09-27 Matsushita Electric Industrial Co., Ltd. Semiconductor device

Also Published As

Publication number Publication date
EP0644597A4 (en) 1995-12-20
WO1993024958A1 (en) 1993-12-09
JP3119392B2 (ja) 2000-12-18
EP0644597A1 (en) 1995-03-22

Similar Documents

Publication Publication Date Title
JP3122756B2 (ja) 半導体装置
JP3289748B2 (ja) 半導体装置
JP3438241B2 (ja) 半導体神経回路装置
JP2662559B2 (ja) 半導体装置
Guo et al. Fast, energy-efficient, robust, and reproducible mixed-signal neuromorphic classifier based on embedded NOR flash memory technology
US7075827B2 (en) Function reconfigurable semiconductor device and integrated circuit configuring the semiconductor device
US11055610B2 (en) Circuit for CMOS based resistive processing unit
US10741611B1 (en) Resistive processing units with complementary metal-oxide-semiconductor non-volatile analog memory
Boahen et al. A heteroassociative memory using current-mode MOS analog VLSI circuits
JP3119392B2 (ja) 半導体装置
CN111194467A (zh) 差分忆阻电路
Molin et al. Low-power, low-mismatch, highly-dense array of VLSI Mihalas-Niebur neurons
JP3269659B2 (ja) 半導体装置
EP1118954A1 (en) Semiconductor computing unit
CN111639757B (zh) 一种基于柔性材料的模拟卷积神经网络
US5594372A (en) Source follower using NMOS and PMOS transistors
CN115458005A (zh) 数据处理方法和存算一体装置、电子设备
JP3578749B2 (ja) 半導体装置
JP3199707B2 (ja) 半導体演算回路及び演算装置
JPH06187472A (ja) アナログニューラルネットワーク
Shibata et al. A self-learning neural-network LSI using neuron MOSFETs
Kim et al. A programmable analog CMOS synapse for neural networks
JPH09237307A (ja) 半導体装置
JPH10224221A (ja) Da変換器
JPH0363996A (ja) 薄膜トランジスタによるプログラマブル連想メモリ

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees