JPH03144785A - ニューロ素子 - Google Patents

ニューロ素子

Info

Publication number
JPH03144785A
JPH03144785A JP28351389A JP28351389A JPH03144785A JP H03144785 A JPH03144785 A JP H03144785A JP 28351389 A JP28351389 A JP 28351389A JP 28351389 A JP28351389 A JP 28351389A JP H03144785 A JPH03144785 A JP H03144785A
Authority
JP
Japan
Prior art keywords
voltage
eeprom
weight
neurons
eeproms
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP28351389A
Other languages
English (en)
Inventor
Yoshiharu Teranishi
寺西 由春
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP28351389A priority Critical patent/JPH03144785A/ja
Publication of JPH03144785A publication Critical patent/JPH03144785A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Non-Volatile Memory (AREA)
  • Semiconductor Memories (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔概要〕 ニューロ素子に関し、 別途に記憶手段を要することなく、かつ、重みの書き換
えが自在で、しかも低コストのニューロ素子を提供する
ことを目的とし、 EEPROMを介してニューロン間を結合し、該EEP
ROMのトラップに蓄積した電荷量若しくはフローティ
ングゲートに蓄積した電荷量で、前記ニューロン間の結
合荷重を表わすことを特徴としている。
〔産業上の利用分野〕
本発明は、ニューロ素子、詳しくは、神経回路網いわゆ
るニューラル・ネットワークを構成するためのニューロ
素子に係り、ニューロン間の結合荷重(結合強度ともい
う)すなわち重みの設定自在性を向上したニューロ素子
に関する。
生物の脳機能を模倣したニューラル・ネット構成の情報
処理装置が注目されている。所定の学習アルゴリズムに
従って多数のニューロン(Neuron)間の結合強度
を変更することにより、ノイマン型コンピュータが不得
意とするあいまいな処理手順の解を得ることができる。
第4図は一つのニューロンをモデル化した図である0個
々のニューロンは他の多数の二“ニーロンから信号yi
を受は取り、yiの合計Xが所定のしきい値(例えばシ
グモイド関数で与えられる)を超えると、自らも興奮し
て信号Yを発し、このYを次のニューロンに伝達してい
くように動作する。一つのニューロンが別のニューロン
と接している部分を「シナプス」という、第4図中では
yiを伝える信号線の矢印先端の小穴がシナプスに相当
し、ニューロンからニューロンへと伝達される信号yi
は必ずシナプスを通る。シナプスには信号yiを通過し
やすくしたりあるいは通過しに<<シたりする特性、い
わゆる重みWiが与えられており、シナプスを通過する
信号yiはその通過特性(Wi)に従ってその信号レベ
ルが操作される。脳の学習機能は同じシナプスを何度も
信号が通過すると、信号を通しやすいようにそのシナプ
ス特性がだんだんと変化していくものと考えられる。こ
れは、「うまくいった」ときの信号系路中のシナプスに
与える重みWiを、増大側に変化させることに相当して
いる。
こうしたニューロンモデルをハードウェア化する場合の
重みの与え方としては、例えば以下のものが知られてい
る。
〔従来の技術および発明が解決しようとする課題〕MO
3による これは、ニューロン間の結合部にMO3I−ランジスタ
を介在させ、MOS)ランジスタのチャネル抵抗を重み
に対応させて変化させるもので、チャネル抵抗を大きく
すればニューロン間の信号伝達が抑制され、したがって
重みを小さくしたことになり、また、チャネル抵抗を小
さくすればニューロン間の信号伝達が許容され、したが
って重みを大きくしたことになる。
しかし、この方法では重みの大きさを保持しなければな
らないので、別途に記憶回路等の保持手段を要し、シス
テム規模の面で問題がある。
アモル  スSi   に る アモルファスSi :Hの解離反応、すなわちアモルフ
ァスSi:Hに電圧を印加すると発熱でHが解離して抵
抗値が不可逆的に変化する性質を利用するもので、別途
に記憶手段を要しない代りに、1回の重み設定しかでき
ず、学習の自在性の面で問題がある。また、製造プロセ
スが特殊で、−aのプロセスとの互換性がない。
MNOSに MNOS (Metal N1tride 0xide
 5ilicon )ゲート下のポテンシャル井戸の深
さを変更しポテンシャル井戸を介して転送される電荷量
を制御する。
COD (電荷結合素子)の原理を応用している。
重みの書き換えができるが、CODは雑音を充分に下げ
ようとするとエビ基板を必要とする等、コストの面で問
題がある。
そこで、本発明は、このような従来技術の各問題点に鑑
みてなされたもので、別途に記憶手段を要することなく
、かつ、重みの書き換えが自在で、しかも低コストのニ
ューロ素子を提供することを目的としている。
〔課題を解決するための手段〕
本発明は、上記目的を遺戒するために、EEPROM 
(Electrically f!rasable P
rograsmableROM)を介してニューロン間
を結合し、該EEPROMのトラップに蓄積した電荷量
若しくはフローティングゲートに蓄積した電荷量で、前
記ニューロン間の結合荷重を表わすことを特徴として構
成している。
〔作用〕
本発明では、ニューロン間の信号伝達がEEPROMを
介して行われる。ここで、EEPROMは、ゲートに印
加された電圧(書込み電圧)の大きさに応じてしきい値
が変化する特性を持つとともに、そのしきい値を保持す
る特性を持っている。
また、書込み電圧を一旦ゼロとした後で新たな書込み電
圧を印加すれば、その新たな電圧に応じたしきい値に変
更することもできる。
したがって、ニューロン間の信号伝達特性を上記しきい
値〈重みに対応)によって変化させることができるとと
もに、重みを自己記憶でき、かつ、書き換えを自在にで
きる。しかもEEPROMを作るのに特殊なプロセスを
要しないので、低コスト化を図ることができる。
〔実施例〕
以下、本発明を図面に基づいて説明する。
第1.2図は本発明に係るニューロ素子の一実施例を示
す図である。
第1図は1つのニューロ素子の要部を表わす図であり、
このニューロ素子を多数接続してニューラル・ネット構
成の情報処理装置を構成する。
第1図において、■1〜Il、は、複数のニューロ素子
からの信号(シナプス入力XI/%lX、)をそれぞれ
入力する同−構成の結合部である0代表してhを説明す
ると、結合部りは、興奮性回路IImおよび抑制性回路
11bを有している。興奮性回路■1は、ゲート電極に
シナプス人力x、を加えるとともに、ソース電極を接地
しドレイン電極に抵抗R6を介してバイアス電圧vll
を加えるEEPROM (T、)を備え、T、のドレイ
ン電極から興奮性信号y、を取り出している。また、抑
制性回路II、は、ゲート電極にシナプス人力!。
を加えるとともに、ソース電極を接地しドレイン電極に
抵抗R2を介してv8を加えたEEPROM (Tz 
)と、T2のドレイン電極の信号を反転し抑制性信号T
として出力する反転アンプAとを備える。なお、電圧v
1は、必要に応じて結合部!、に入力する重み設定のた
めの電圧で、このV、はTlのゲート側端子P、とドレ
イン側端子P、との間、およびT2のゲート側端子Pl
′とドレイン側端子P1との間に印加される。
一方、1は重み電圧生成回路であり、重み電圧生成回路
1は、所定の学習アルゴリズム(例えばバンクプロバゲ
ーシッンアルゴリズム)を実行する学習演算器2からの
学習結果データに従って、各結合部h〜■7ごとの重み
値に対するv1〜V、の電圧を生成する。3は加算部で
、各結合部h〜■7からの信号y1、T、・・・・・・
711%“y;を入力し、これらの信号の大きさを加算
(抑制性信号は減算)してその加算結果Xを出力する。
4はしきい値処理部で、しきい値処理部4は、加算部3
からのXを所定のしきい値(例えばシグモイド関数で与
えられるS字型のしきい値)と比較した結果を、そのニ
ューロ素子のシナプス出力Y。
として出力する。なお、このYlは次段のニューロ素子
のシナプス人力xi(ill、2.3・・・・・・)と
なる。
ここで、EEPROMのしきい値特性は、第2図のよう
に示される。この図において、縦軸はEEPROMのし
きい電圧Vい、横軸は書込み電圧を表わしている。書込
電圧をOVから増加していくと、この増加に伴ってしき
い電圧Vいも増大変化してい<、EEPROMのしきい
値電圧は、EEPROMの異種絶縁物界面のトラップに
蓄積された電荷量、若しくはフローティングゲートを有
するEEPROMであればそのフローティングゲートに
蓄積された電荷量に対応して変化し、蓄積電荷量は書込
み電圧の大きさに対応する。
このように、EEPROMのしきい電圧Vいは、書込み
電圧に応じて任意に設定できる特性であるから、本実施
例では以下のような作用が得られる。
すなわち、学習演算器2からの学習結果に基づいて、重
み電圧生成回路1でV、〜V7を生威し、これらのv1
〜■7を結合部!、−I、、に加えた場合、例えば、結
合部のhのT、およびTオのゲート、ドレイン間には、
それぞれ端子P+、Pg(P+  、Pg’)を介して
vlが印加され、このvlはT、およびT2に対する書
込み電圧となる。このため、T、およびT、のしきい電
圧vL、。
がvl (すなわち重み)に応じた値にセットされて保
持される結果、X、を出力する前段のニューロ素子と、
図示のニューロ素子との間の結合荷重を自己記憶的に設
定することができ、したがって、別途に記憶手段等を必
要としない。
また、vlを一旦ゼロ電圧にした後、新たな電圧のV、
を加えれば、その新たなりIに応じてT。
およびT2のしきい電圧Vいを再設定でき、新たな書込
みを行うことができ、したがって、学習の自在性を向上
できる。
さらにまた、EEPROMを作るのに特殊なプロセスを
要しないから、前述のMNOSによるCCDII戒に比
べて安価にすみ、コスト上の問題も解決できる。
なお、上記実施例では、EEPROMの書込み電圧(V
l−V、”)を、説明の便宜上、電圧変化として表現し
たが、これに限るものではなく、−殻内なパルス印加方
式、すなわち一定電圧のパルスのパルス幅やデユーティ
 (パルスのオン/オフ比)を重みに応じて変化させて
もよく、むしろ、耐圧の面からはこの方法の採用が好ま
しい。
また、上記実施例では、EEPROMのゲートにxiを
加えているが、第3図に他の態様例を示すように、EE
PROMのゲートにトランジスタがオンする程度の一定
電圧vXを印加し、ソースにxi  (前段ニューロ素
子からのシナプス入力)を加えるようにしてもよく、こ
のようにしても、xiが同じ電圧でもEEPROMのし
きい電圧Vいが違えばドレインから取り出されるシナプ
ス出力yiの大きさが異なるものとなり、xi とVい
(すなわち重み)とを掛は合わせたyiを得ることがで
きる。
〔発明の効果〕
本発明によれば、上記のように構成したので、別途に記
憶手段を要することなく、かつ、重みの書き換えが自在
で、しかも特殊なプロセスを必要とせずにコスト的に有
利なニューロ素子を実現できる。
【図面の簡単な説明】
第1.2図は本発明に係るニューロ素子の一実施例を示
す図であり、 第1図はその構成図、 第2図はそのEEPROMのしきい電圧特性を示す図、 第3図は他の実施態様例を示すその要部の構成図、 第4図は1つのニエーロンのモデルを示す図である。 1・・・・・・重み電圧生成回路、 2・・・・・・学習演算器、 3・・・・・・加算部、 4・・・・・・しきい値処理部、 l 〜■7・・・・・・結合部、 T。 t ・・・・・・EEPROM。 EEPROMのしきい電圧特性を示す間第2図 x 第 図

Claims (1)

    【特許請求の範囲】
  1. EEPROMを介してニューロン間を結合し、該EEP
    ROMのトラップに蓄積した電荷量若しくはフローティ
    ングゲートに蓄積した電荷量で、前記ニューロン間の結
    合荷重を表わすことを特徴とするニューロ素子。
JP28351389A 1989-10-31 1989-10-31 ニューロ素子 Pending JPH03144785A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28351389A JPH03144785A (ja) 1989-10-31 1989-10-31 ニューロ素子

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28351389A JPH03144785A (ja) 1989-10-31 1989-10-31 ニューロ素子

Publications (1)

Publication Number Publication Date
JPH03144785A true JPH03144785A (ja) 1991-06-20

Family

ID=17666512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28351389A Pending JPH03144785A (ja) 1989-10-31 1989-10-31 ニューロ素子

Country Status (1)

Country Link
JP (1) JPH03144785A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995015580A1 (fr) * 1993-11-30 1995-06-08 Tadahiro Ohmi Dispositif a semi-conducteurs
WO1995018488A1 (fr) * 1993-12-28 1995-07-06 Tadashi Shibata Circuit a semi-conducteurs
WO2008152908A1 (ja) 2007-06-14 2008-12-18 Sony Corporation 抵抗素子、ニューロン素子、及びニューラルネットワーク情報処理装置
JP2017049945A (ja) * 2015-09-04 2017-03-09 株式会社東芝 信号発生装置および伝送装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995015580A1 (fr) * 1993-11-30 1995-06-08 Tadahiro Ohmi Dispositif a semi-conducteurs
US5818081A (en) * 1993-11-30 1998-10-06 Tadahiro Ohmi Semiconductor device
WO1995018488A1 (fr) * 1993-12-28 1995-07-06 Tadashi Shibata Circuit a semi-conducteurs
US5973535A (en) * 1993-12-28 1999-10-26 Tadahiro Ohmi Semiconductor circuit using feedback to latch multilevel data
WO2008152908A1 (ja) 2007-06-14 2008-12-18 Sony Corporation 抵抗素子、ニューロン素子、及びニューラルネットワーク情報処理装置
JP2017049945A (ja) * 2015-09-04 2017-03-09 株式会社東芝 信号発生装置および伝送装置

Similar Documents

Publication Publication Date Title
Choi et al. A high-precision VLSI winner-take-all circuit for self-organizing neural networks
Zamarreño-Ramos et al. On spike-timing-dependent-plasticity, memristive devices, and building a self-learning visual cortex
US8275728B2 (en) Neuromorphic computer
US4951239A (en) Artificial neural network implementation
US11334787B2 (en) Neuron circuit
CN108268938B (zh) 神经网络及其信息处理方法、信息处理系统
US11238333B2 (en) STDP with synaptic fatigue for learning of spike-time-coded patterns in the presence of parallel rate-coding
Huayaney et al. Learning in silicon beyond STDP: a neuromorphic implementation of multi-factor synaptic plasticity with calcium-based dynamics
US5010512A (en) Neural network having an associative memory that learns by example
Zhao et al. Novel spike based reservoir node design with high performance spike delay loop
Kang et al. A spiking neural network with a global self-controller for unsupervised learning based on spike-timing-dependent plasticity using flash memory synaptic devices
US6876989B2 (en) Back-propagation neural network with enhanced neuron characteristics
KR102026332B1 (ko) 뉴런 모방 회로
Oh et al. Spiking neural networks with time-to-first-spike coding using TFT-type synaptic device model
Zhang et al. The framework and memristive circuit design for multisensory mutual associative memory networks
Aghnout et al. Modeling triplet spike timing dependent plasticity using a hybrid tft-memristor neuromorphic synapse
JPH03144785A (ja) ニューロ素子
JPH0318985A (ja) 情報処理装置
GB2267171A (en) Neural network employing absolute value calculating synapse
Hajiabadi et al. Memristor-based synaptic plasticity and unsupervised learning of spiking neural networks
US5075869A (en) Neural network exhibiting improved tolerance to temperature and power supply variations
Huayaney et al. A VLSI implementation of a calcium-based plasticity learning model
JPH02181284A (ja) ニューラルネットワーク
JP4181837B2 (ja) 演算回路およびこれを用いたニューラルネットワーク
Shibata et al. A self-learning neural-network LSI using neuron MOSFETs