JP7216436B2 - ニューラルネットワーク回路装置 - Google Patents

ニューラルネットワーク回路装置 Download PDF

Info

Publication number
JP7216436B2
JP7216436B2 JP2020509364A JP2020509364A JP7216436B2 JP 7216436 B2 JP7216436 B2 JP 7216436B2 JP 2020509364 A JP2020509364 A JP 2020509364A JP 2020509364 A JP2020509364 A JP 2020509364A JP 7216436 B2 JP7216436 B2 JP 7216436B2
Authority
JP
Japan
Prior art keywords
pulse
spike
post
neural network
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020509364A
Other languages
English (en)
Other versions
JPWO2019189895A1 (ja
Inventor
奕涛 馬
哲郎 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tohoku University NUC
Original Assignee
Tohoku University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tohoku University NUC filed Critical Tohoku University NUC
Publication of JPWO2019189895A1 publication Critical patent/JPWO2019189895A1/ja
Application granted granted Critical
Publication of JP7216436B2 publication Critical patent/JP7216436B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/54Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using elements simulating biological cells, e.g. neuron
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C14/00Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down
    • G11C14/0054Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down in which the volatile element is a SRAM cell
    • G11C14/0081Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down in which the volatile element is a SRAM cell and the nonvolatile element is a magnetic RAM [MRAM] element or ferromagnetic cell
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/02Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components specially adapted for rectifying, oscillating, amplifying or switching and having potential barriers; including integrated passive circuit elements having potential barriers
    • H01L27/04Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components specially adapted for rectifying, oscillating, amplifying or switching and having potential barriers; including integrated passive circuit elements having potential barriers the substrate being a semiconductor body
    • H01L27/10Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components specially adapted for rectifying, oscillating, amplifying or switching and having potential barriers; including integrated passive circuit elements having potential barriers the substrate being a semiconductor body including a plurality of individual components in a repetitive configuration
    • H01L27/105Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components specially adapted for rectifying, oscillating, amplifying or switching and having potential barriers; including integrated passive circuit elements having potential barriers the substrate being a semiconductor body including a plurality of individual components in a repetitive configuration including field-effect components
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10BELECTRONIC MEMORY DEVICES
    • H10B99/00Subject matter not provided for in other groups of this subclass
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N50/00Galvanomagnetic devices
    • H10N50/10Magnetoresistive devices
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C14/00Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down
    • G11C14/0009Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down in which the volatile element is a DRAM cell
    • G11C14/0036Digital stores characterised by arrangements of cells having volatile and non-volatile storage properties for back-up when the power is down in which the volatile element is a DRAM cell and the nonvolatile element is a magnetic RAM [MRAM] element or ferromagnetic cell

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Computer Hardware Design (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Semiconductor Memories (AREA)
  • Read Only Memory (AREA)
  • Hall/Mr Elements (AREA)
  • Mram Or Spin Memory Techniques (AREA)

Description

本発明は、ニューラルネットワーク回路装置に関する。
生体の脳の仕組みをモデルにしてコンピュータ上で情報処理を行うニューラルネットワークが知られている。また、ニューラルネットワークを、半導体素子等を用いて実現すべく、その構成素子及び回路に関する研究が進められている。ニューラルネットワーク回路装置は、種々のモデルが提案されている。例えば1つのモデルでは、ニューロン同士の結合に、その結合の強さを表すシナプス結合荷重を持たせ、1つのニューロンが他のニューロンから入力されるパルスの電圧と結合荷重との積算値が所定の閾値に達したときに、当該ニューロンが発火し、次のニューロンにパルスを伝達するものがある。このようなモデルの場合、シナプス結合荷重を記憶素子に記憶しておく必要がある。
不揮発性の記憶素子として、例えば電界誘起巨大抵抗変化により電気抵抗が変化する抵抗変化型記憶素子を備えたReRAM(Resistive Random Access Memory)、相変化メモリ(Phase Change Random Access Memory)等が知られている。このような不揮発性の記憶素子にシナプス結合荷重を記憶させるニューラルネットワーク回路装置が知られている(例えば、非特許文献1~3を参照)。
G. W. Burr, P. Narayanan, R. M. Shelby, S. Sidler, I. Boybat, C. di Nolfo, and Y. Leblebici, IEDM, pp. 4.4.1-4.4.4, 2015. M. Chu; B. Kim; S. Park; H. Hwang; M. Jeon; B.-H. Lee; B.-G. Lee, IEEE Trans. IE, Vol. 62, Issue 4, pp. 2410-2419, 2015. S. P. Adhikari; H. Kim; R. K. Budhathoki; C. Yang; L. O. Chua, IEEE Trans. CAS, Vol. 62, Issue 1, pp. 215-223, 2015.
ところで、非特許文献1~3に記載されるニューラルネットワーク回路装置は、シナプス結合荷重を不揮発性の記憶素子に記憶させるため、シナプス結合荷重の記憶を保持するための電力は必要としないが、十分に最適化されているとは言えず、より最適な構成のニューラルネットワーク回路装置が望まれている。
本発明は、上記事情を鑑みてなされたものであり、より最適化されたニューラルネットワーク回路装置を提供することを目的とする。
上記目的を達成するために、本発明は、シナプス結合荷重を記憶する複数のシナプス回路と、前記複数のシナプス回路に接続されたニューロン回路とを備えたニューラルネットワーク回路装置において、前記複数のシナプス回路は、不揮発的にシナプス結合荷重を記憶し、入力信号に応答して、記憶しているシナプス結合荷重に基づいた大きさの電圧信号を出力し、前記ニューロン回路は、フローティングゲートと、このフローティングゲートに容量結合し、前記複数のシナプス回路からの前記電圧信号がそれぞれ入力される複数の制御ゲートとを有するニューロン用MOSトランジスタと、前記ニューロン用MOSトランジスタのオンまたはオフにより、パルス信号を出力するパルス発生器とを有するものである。
また、本発明は、シナプス結合荷重を記憶する複数のシナプス回路と、前記複数のシナプス回路に接続されたニューロン回路とを備えたニューラルネットワーク回路装置において、前記ニューロン回路は、一方の電極が接地されたキャパシタと、前記キャパシタの他方の電極と電源との間に接続された負荷と、前記他方の電極の電位に基づきパルス信号を発生させるパルス発生器とを有し、前記複数のシナプス回路は、クロスカップルされ、それぞれが直列接続されたインバータ用MOSトランジスタと磁気トンネル接合素子とからなる一対のインバータと、記憶するシナプス結合荷重に基づいた書き込み電流を、前記一対のインバータの前記磁気トンネル接合素子にそれぞれ流すことにより、前記磁気トンネル接合素子を互いに異なる磁化状態にする書き込み部と、入力信号に応答して、前記一対のインバータを作動させ、一方のインバータの前記インバータ用MOSトランジスタを介して、前記キャパシタの前記他方の電極を放電させる電流を流す読み出し部とを有するものである。
本発明によれば、シナプス回路に記憶している結合荷重が電圧の大きさとしてニューロン回路に伝達されるので、ニューラルネットワーク回路装置を電力消費が低くなるように、より最適化された構成とすることができる。
本発明によれば、磁気トンネル接合素子の磁化状態を変化させるのに要する時間が短く、また結合荷重で重み付けした信号を出力するときに作動されるクロスカップルされた一対のインバータの動作が安定した状態に移行するまでの時間が短いので、ニューラルネットワーク回路装置を高速に動作するように、より最適化された構成とすることができる。
第1実施形態のニューラルネットワーク回路装置の概略を示すブロック図である。 第1ポストスパイクパルスと第1プレスパイクパルスとのパルス時間差ΔTと結合荷重の関係を示すグラフである。 シナプス回路の構成を示す回路図である。 ニューロン回路の本体部の要部構成を示すブロック図である。 認知モードにおける各種信号を示すタイミングチャートである。 第1プレスパイクパルスが先行する場合の学習モードにおける各種信号を示すタイミングチャートである。 第1ポストスパイクパルスが先行する場合の学習モードにおける各種信号を示すタイミングチャートである。 1個のMTJ素子を用いた荷重記憶部の例を示す回路図である。 図8の例における認知モードでの各種信号を示すタイミングチャートである。 図8の例における学習モードの各種信号を示すタイミングチャートである。 3端子型のMTJ素子を用いた荷重記憶部の例を示す回路図である。 第2実施形態の荷重記憶部を示す回路図である。 第2実施形態のニューロン回路の本体部の要部構成を示すブロック図である。
[第1実施形態]
図1において、第1実施形態に係るニューラルネットワーク回路装置10は、複数のシナプス回路11がマトリクス状に配列されて設けられている。各シナプス回路11は、荷重記憶部14と、選択部15とをそれぞれ有している。シナプス回路11の各列16には、その列方向(図1の上下方向)の端部にニューロン回路17がそれぞれ設けられている。ニューロン回路17は、本体部18とビット線ドライバ19とを有している。
シナプス回路11の各列16に対応して、列方向にビット線BL、BLB、第1ポストスパイク線POLa、第2ポストスパイク線POLbがそれぞれ延設されている。ビット線BL、BLBは、それが対応する列16内の各荷重記憶部14及びビット線ドライバ19に接続されている。第1ポストスパイク線POLa、第2ポストスパイク線POLbは、それが対応する列16内の各選択部15及び本体部18に接続されている。また、荷重記憶部14ごとに出力線OLが設けられており、各荷重記憶部14は、それが配された列16内のニューロン回路17の本体部18と出力線OLによってそれぞれ接続されている。
また、シナプス回路11の各行に対応して、行方向(図中左右)に、荷重記憶部14に電源電圧を供給する電源線PL、接地されたソース線SL、第1プレスパイク線PRLa、第2プレスパイク線PRLbが延設されており、それぞれが対応する行内の各荷重記憶部14に接続されている。電源線PLから供給される電圧は、後述するようにビット線BLとビット線BLBとの間に発生させるビット線電位差ΔVBの大きさの半分(=|ΔVB|/2)程度である。前段部20には、行ごとに入力回路20aが設けられている。各行の第1プレスパイク線PRLaは、インバータ20bを介して入力回路20aに接続され、第2プレスパイク線PRLbは入力回路20aに直接に接続されている。
ニューラルネットワーク回路装置10は、スパイクタイミング依存シナプス可塑性(Spike Timing Dependent Synaptic Plasticity(以下、STDPという))を有するシナプスのモデルを参考にしている。ニューラルネットワーク回路装置10における入力回路20aは前ニューロンに、ニューロン回路17は後ニューロンにそれぞれ相当し、入力回路20aは、プレスパイクパルスに相当する第1プレスパイクパルスを、またニューロン回路17は、ポストスパイクパルスに相当する第1ポストスパイクパルスをそれぞれ出力する。第1プレスパイクパルスは、前ニューロンの発火タイミングに相当するタイミングで出力されるものであり、第1ポストスパイクパルスは、後ニューロンの発火タイミングに相当するタイミングで出力されるものである。また、シナプス回路11は、前ニューロンと後ニューロンとをシナプス結合するシナプスにそれぞれ相当し、シナプス結合荷重(以下、単に結合荷重という)を記憶している。
上記STDPは、1つのシナプスに着目した場合に、そのシナプスの前後に接続された前ニューロン及び後ニューロンがそれぞれ発火してスパイクパルスを出力するタイミングに依存して、前ニューロンと後ニューロンの間に位置するシナプスとの結合荷重が変化する性質である。ニューラルネットワーク回路装置10では、第1ポストスパイクパルスと第1プレスパイクパルスとのパルス時間差ΔTが予め設定した規定時間Tw内である場合にシナプス回路11の結合荷重を更新し、かつ第1プレスパイクパルスと第1ポストスパイクパルスのうち前者が先行する場合には第1結合荷重とし、後者が先行する場合には第2結合荷重にする。
この例では、相対的に、第1結合荷重の重みが大きく、第2結合荷重の重みが小さい。すなわち、図2に示すように、シナプス回路11の結合荷重は、それが接続されたニューロン回路17から第1ポストスパイクパルスが出力された時点から時間1/2Tw以内の期間に第1プレスパイクパルスが入力された場合には、大きな第1結合荷重となり、また第1ポストスパイクパルスが出力された時点から遡って時間1/2Tw以内の期間に第1プレスパイクパルスが入力された場合には、小さな第2結合荷重となる。したがって、この例では、結合荷重を更新する場合において、パルス時間差ΔTの増加よって結合荷重を漸増ないし漸減させる一般的な対称型STDP及び非対称型STDPとは異なる。
上記ニューラルネットワーク回路装置10は、認知モードと学習モードとを有している。認知モードは、例えば画像認識などの処理対象となる画像に応じた信号を前段部20からニューラルネットワーク回路装置10に入力することによって、各ニューロン回路17から出力を画像認識の結果に応じた処理結果として得るモードであり、学習モードで各シナプス回路11に記憶された結合荷重を用いる。学習モードは、予め用意された画像に基づく信号を、前段部20からニューラルネットワーク回路装置10に入力することによって、各シナプス回路11に記憶されている結合荷重を更新する動作モードである。
前段部20の入力回路20aは、インバータ20bを介して第1プレスパイク線PRLaに第1プレスパイクパルスと、第1プレスパイクパルスに同期した第2プレスパイクパルスを第2プレスパイク線PRLbに出力する。第1プレスパイクパルスは、認知モードと学習モードの両方で出力されるが、第2プレスパイクパルスは、学習モードのみで出力される。第2プレスパイクパルスは、荷重記憶部14の結合荷重の書き込みタイミングの制御に用いられる。この第2プレスパイクパルスは、そのパルス幅が第1プレスパイクパルスよりも大きく、規定時間Twの1/2である。
シナプス回路11の荷重記憶部14は、第1プレスパイクパルスが入力されることに応答して、記憶している結合荷重で重み付けをしたプレスパイクパルスに相当する電圧信号Vpreを出力線OLを介してニューロン回路17の本体部18に出力する。
ニューロン回路17の本体部18は、それが配された列16内の各荷重記憶部14からの電圧信号Vpreの電圧レベルの総和が所定の閾値以上になることに応答して第1ポストスパイクパルスを発生する。本体部18は、認知モードでは、第1ポストスパイクパルスを第1ポストスパイク線POLaに出力し、学習モードでは、第1ポストスパイクパルスを出力するとともに、第1ポストスパイクパルスに同期した第2ポストスパイクパルスを第2ポストスパイク線POLbに出力する。第2ポストスパイクパルスは、第2プレスパイクパルスと同様に、結合荷重の更新タイミングの制御に用いられる。第2ポストスパイクパルスは、そのパルス幅が第1ポストスパイクパルスよりも大きく、規定時間Twの1/2である。
ニューロン回路17のビット線ドライバ19は、学習モードの際に、同じニューロン回路17内の本体部18の第1ポストスパイクパルスの発生に同期して、ビット線BL、BLBの電位を制御する。具体的には、ビット線ドライバ19は、第1ポストスパイクパルスと同時に、この第1ポストスパイクパルスのパルス幅とほぼ同じ期間、ビット線BLの電位VB1をビット線BLBの電位VB2よりも高く(ビット線電位差ΔVB(=VB1-VB2)を正)として、ビット線BLから荷重記憶部14を介してビット線BLBに向って電流が流れるようにし、その後の時間1/2Twの期間においてビット線BLBの電位VB2をビット線BLの電位VB1よりも高く(ビット線電位差ΔVBを負)として、ビット線BLBから荷重記憶部14を介してビット線BLに向って電流が流れるようにする。
シナプス回路11の選択部15は、学習モードの際に、第1プレスパイクパルス、第2プレスパイクパルス、第1ポストスパイクパルス、及び第2ポストスパイクパルスのタイミングに基づいて、第1ポストスパイクパルスと第1プレスパイクパルスとのパルス時間差ΔTが規定時間Tw内であるときに、選択信号を発生する。荷重記憶部14には、選択信号が入力されているタイミングにおけるビット線BL、BLBの電位差に基づく結合荷重が記憶される。
図3に示すように、シナプス回路11の荷重記憶部14は、インバータ21、22と、トランスファゲートとしての一対のMOSトランジスタ23、24、MOSトランジスタ25を有する。インバータ21は、直列に接続されたMTJ素子(磁気トンネル接合素子)31とMOSトランジスタ32とで構成され、インバータ22は、直列に接続されたMTJ素子33とMOSトランジスタ34とで構成される。MOSトランジスタ23、24、32、34は、N型MOSFETであり、MOSトランジスタ25はP型MOSFETである。この例では、MOSトランジスタ32、34がインバータ用MOSトランジスタであり、MOSトランジスタ25がパワーゲーティング用MOSトランジスタである。
MTJ素子31は、磁化固定層31aと磁化自由層31bとが絶縁膜31cを挟んで積層された構造を有する。磁化固定層31aは、その磁化方向が固定されている。磁化自由層31bは、MTJ素子31に所定の閾値以上の書き込み電流を流すことにより、その磁化方向を変えることができ、書き込み電流の向きによって磁化方向が決まる。周知のように、MTJ素子31は、磁化固定層31aと磁化自由層31bの磁化方向が一致する平行状態のときに抵抗値が小さい低抵抗になり、磁化固定層31aに対して磁化自由層31bの磁化方向が反対向きである反平行状態のときに抵抗値が大きい高抵抗になる。MTJ素子31は、磁化固定層31aから磁化自由層31bへの向きに書き込み電流を流すことにより、平行状態になり、逆向きに書き込み電流を流すことにより、反平行状態になる。
MTJ素子33についても、磁化固定層33a、磁化自由層33b、絶縁膜33cを積層した構成であり、MTJ素子31と同様に、書き込み電流によって磁化自由層33bの磁化方向を変化することができ、平行状態、反平行状態で抵抗値が変わる。
荷重記憶部14は、MTJ素子31、33により結合荷重を不揮発的に記憶する。MTJ素子31、33は、いずれか一方が平行状態のときに他方が反平行状態となる。この例では、第1結合荷重を記憶している場合には、MTJ素子31が平行状態、MTJ素子33が反平行状態であり、第2結合荷重を記憶している場合には、MTJ素子31が反平行状態、MTJ素子33が平行状態である。MTJ素子31、33は、他のReRAMや相変化メモリ等と比べて、最大書き換え回数がかなり大きく、学習の回数を多くできるといった観点からも有利な素子である。
インバータ21は、MTJ素子31の磁化自由層31bとMOSトランジスタ32のドレインとが接続され、インバータ22は、MTJ素子33の磁化自由層33bとMOSトランジスタ34のドレインとが接続されている。MTJ素子31、33の各磁化固定層31a、33aは、互いに接続され、MOSトランジスタ25を介して電源線PLに接続されている。MOSトランジスタ32、34の各ソースは、ソース線SLを介して接地されている。
インバータ21の出力端であるMTJ素子31とMOSトランジスタ32との接続ノードSNが、インバータ22の入力端であるMOSトランジスタ34のゲートに接続され、インバータ22の出力端であるMTJ素子33とMOSトランジスタ34との接続ノードSNBが、インバータ21の入力端であるMOSトランジスタ32のゲートに接続されている。これにより、インバータ21、22は、クロスカップルされてフリップフロップを構成するとともに、MOSトランジスタ32、34が差動対を構成する。
接続ノードSNは、MOSトランジスタ23を介してビット線BLに接続され、接続ノードSNBは、MOSトランジスタ24を介してビット線BLBに接続されている。MOSトランジスタ23、24の各ゲートは、選択部15に接続されており、この選択部15からの選択信号でオン、オフされる。選択部15と、MOSトランジスタ23、24とによって書き込み部が構成される。
ビット線電位差ΔVBが正のときに、MOSトランジスタ23、24がオンとなった場合には、ビット線BLから接続ノードSN、MTJ素子31、MTJ素子33、接続ノードSNBを経てビット線BLBに至る経路で書き込み電流が流れ、MTJ素子31が平行状態、MTJ素子33が反平行状態になる。逆に、ビット線電位差ΔVBが負のときに、MOSトランジスタ23、24がオンとなった場合には、ビット線BLBから接続ノードSNB、MTJ素子33、MTJ素子31、接続ノードSNを経てビット線BLに至る経路で書き込み電流が流れ、MTJ素子31が反平行状態、MTJ素子33が平行状態になる。
接続ノードSNの電位(電圧)が、コンデンサ36を介して電圧信号Vpreとして出力線OLに出力される。すなわち、コンデンサ36の一方の電極が接続ノードSNに接続され、他方の電極が出力線OLを介して本体部18内の制御ゲートCG(図4参照)に接続されている。コンデンサ36は、後述するように、制御ゲートCGを介して同一のフローティングゲートFG(図4参照)に対して容量結合される各シナプス回路11の荷重記憶部14の相互間での導通電流の発生を防止するために設けている。荷重記憶部14とフローティングゲートFGとの実質的な結合容量は、コンデンサ36の容量と、フローティングゲートFGに対する制御ゲートCGの結合容量とによって決まる。なお、荷重記憶部14とフローティングゲートFGとの実質的な結合容量を相違させることもでき、このようにすることで、例えば電圧信号Vpreに重み付けをすることができる。
MOSトランジスタ25は、電圧信号Vpreを出力させる読み出し部である。MOSトランジスタ25は、そのゲートが第1プレスパイク線PRLaに接続され、入力信号としての第1プレスパイクパルスが出力されているときにオンとなり、インバータ21、22すなわち差動対を構成するMOSトランジスタ32、34を作動させる。これにより、第1プレスパイクパルスに応答して、インバータ21の出力端である接続ノードSNの電圧を電圧信号Vpreとして出力線OLに出力する。電圧信号Vpreは、相対的にMTJ素子31が反平行状態、MTJ素子33が平行状態にある場合が低く、MTJ素子31が平行状態、MTJ素子33が反平行状態にある場合が高い。
選択部15は、論理回路15a~15cの組み合わせによって、第2ポストスパイクパルスが出力されている間に第1プレスパイクパルスが出力されたとき、または第1ポストスパイクパルスが出力されている間に第2プレスパイクパルスが出力されたときに選択信号をアクティブ(Hレベル)とする。これにより、第1ポストスパイクパルスと第1プレスパイクパルスとのパルス時間差ΔTが規定時間Tw内である場合にだけ、選択信号がアクティブとなり、MOSトランジスタ23、24がオンする。
図4において、本体部18は、P型のMOSFETであるMOSトランジスタ41、N型のMOSFETであるMOSトランジスタ42、パルス発生器43を有している。本体部18は、この他にも第2ポストスパイクパルス等を発生させるためのパルス発生器等を備えている。なお、本体部18のパルス発生器として、パルス波形、出力タイミング、遅延時間等が制御可能なパルス発生器を用いることができ、このようなパルス発生器で第1ポストスパイクパルス、第2ポストスパイクパルスを発生させてもよい。ニューロン用MOSトランジスタとしてのMOSトランジスタ41、42は、直列に接続されてインバータを構成する。すなわち、MOSトランジスタ41、42のドレイン同士が接続され、MOSトランジスタ41のソースが電源(電圧VDD)に接続され、MOSトランジスタ42のソースが接地されている。パルス発生器43は、その入力端がMOSトランジスタ41とMOSトランジスタ42の接続ノードに接続されており、その接続ノードが接地の電位(0V)となったときに、第1ポストスパイクパルス(パルス信号)を出力する。
上記MOSトランジスタ41、42は、フローティングゲートFGを共有している。また、MOSトランジスタ41、42は、フローティングゲートFGに容量結合した複数の制御ゲートCGが設けられている。本体部18の制御ゲートCGは、その本体部18が配された列16の各荷重記憶部14にそれぞれ対応して設けられ、各々の制御ゲートCGには対応する荷重記憶部14からの出力線OLが接続されている。MOSトランジスタ41、42は、フローティングゲートFGの電位でオン・オフが制御され、一方がオンのときに他方がオフとなる。
フローティングゲートFGの電位は、各制御ゲートCGに加えられる電圧信号Vpreの電圧と、各制御ゲートCGとフローティングゲートFGとの間の結合容量で決まる。この例では、フローティングゲートFGに対する各制御ゲートCGの結合容量が同じになっている。したがって、各制御ゲートCGに加える電圧の総和により、MOSトランジスタ41、42に一方をオン、他方をオフとするように制御できる。
次に上記構成の作用について説明する。認知モードでは、図5に示すように、前段部20の処理の内容に応じたタイミングで、各々の入力回路20aから、インバータ20bを介して第1プレスパイクパルスが第1プレスパイク線PRLaに出力される。なお、この認知モードにおいては、第2プレスパイクパルスは出力されないので、選択部15が選択信号を出力することはない。
1本の第1プレスパイク線PRLaに接続された1つのシナプス回路11に注目すると、第1プレスパイク線PRLaを介して第1プレスパイクパルスがシナプス回路11に入力されると、荷重記憶部14内のMOSトランジスタ25がオンになる。このMOSトランジスタ25のオンにより、電源線PLからの電流が、MTJ素子31及びMTJ素子33を介して流れ、インバータ21、22が作動する。
例えばシナプス回路11に記憶されている結合荷重が、第1結合荷重である場合、すなわちMTJ素子31が低抵抗であり、MTJ素子33が高抵抗である場合には、接続ノードSNの電位が接続ノードSNBの電位よりも高くなる電位差が生じる。この電位差は、クロスカップルされたインバータ21、22の作用により増幅され、電位差が大きくなった状態で安定する。逆に、シナプス回路11に記憶されている結合荷重が、第2結合荷重である場合、すなわちMTJ素子31が高抵抗であり、MTJ素子33が低抵抗である場合には、接続ノードSNの電位が接続ノードSNBの電位よりも低くなる電位差が生じ、その電位差がクロスカップルされたインバータ21、22の作用により増幅され、電位差が大きくなった状態で安定する。
接続ノードSNと接続ノードSNBとの電位差は、MOSトランジスタ32、34の差動対によって増幅されて安定するので、安定するまでに要する時間は、非常に短い。したがって、高速な動作が可能になる。
なお、MOSトランジスタ25がオンになることでMTJ素子31、33に流れる電流は、それらの磁化状態を変化させない大きさに調整されている。実際には、その電流が流れている間に、磁化自由層31b、33bの磁化方向に変化があるが、その変化は接続ノードSN、SNBに所望とする電位差を発生させるのには影響がない程度のきわめて僅かなものである。磁化自由層31b、33bの僅かな磁化方向は、電流を停止することで元の磁化方向に戻る。
上記のようにシナプス回路11に記憶されている結合荷重に応じて接続ノードSNの電位が変化する。この結果、接続ノードSNにコンデンサ36を介して接続された出力線OLには、シナプス回路11が第1結合荷重を記憶している場合には、高い電圧の電圧信号Vpreが出力され、第2結合荷重を記憶している場合には、低い電圧の電圧信号Vpreが出力される。このシナプス回路11からの電圧信号Vpreが出力線OLを介して本体部18の制御ゲートCGに加えられる。なお、MOSトランジスタ25がオフすると、コンデンサ36が放電して電圧信号Vpreの電圧が低下するが、コンデンサ36がMTJ素子31、33、MOSトランジスタ32、34等を通して放電するため電圧信号Vpreの電圧は漸減し、直ちに0Vになるわけではない。
1つのニューロン回路17に注目すると、それが配された列16内の各シナプス回路11から出力される電圧信号Vpreの電圧がそれぞれ対応する制御ゲートCGに加えられる。もちろん、第1プレスパイクパルスが入力されないシナプス回路11からは制御ゲートCGに電圧は加えられない。上記のように各制御ゲートCGに電圧信号Vpreの電圧が加えられて、フローティングゲートFGの電位が閾値に達すると、MOSトランジスタ41がオフとなり、MOSトランジスタ42がオンとなる。この結果、パルス発生器43から第1ポストスパイクパルスが出力される。フローティングゲートFGの電位が閾値に達しなければ、MOSトランジスタ41がオフ、MOSトランジスタ42がオンになることはないので、第1ポストスパイクパルスが出力されることはない。
上記のようにして、前段部20から各行の第1プレスパイク線PRLaに出力される第1プレスパイクパルスのタイミング及び各シナプス回路11に記憶されている結合荷重に応じて、列16ごとに設けられたニューロン回路17から第1ポストスパイク信号が出力される。
上記認知モードでは、荷重記憶部14から本体部18に対しては、プレスパイクに施される重み付けが電圧信号Vpreの電圧の大小として伝達され、その電圧の総和を容量結合された制御ゲートCG、フローティングゲートFGによって得ている。このため、結合荷重とプレスパイクパルスとの積和を演算する演算回路を設けることなく、積和演算の結果によるポストスパイクパルスに相当する第1ポストスパイクパルスが得られる。また、制御ゲートCG(実際にはコンデンサ36)を充電する極めて微小な電流が流れるだけなので、低電力での動作が可能である。また、荷重記憶部14では、2つのMTJ素子31、33は、必ず互いに逆の抵抗状態が書き込まれている。このため、電圧信号Vpreの出力時には、一方(高抵抗)のMTJ素子に電流が流れ、他方(低抵抗)のMTJ素子にはほとんど電流が流れない。そして、一方(高抵抗)のMTJ素子に流れる電流の向きは、そのMTJ素子を高抵抗にする書込み電流の向きである。したがって、高抵抗のMTJ素子も、低抵抗のMTJ素子も、電圧信号Vpreを出力する際に流れる電流によって磁化の向きが反転するようなリードディスターブが生じることがない。
学習モードでは、認知モードと同様に、各々の入力回路20aから前段部20の処理の内容に応じたタイミングで、第1プレスパイクパルスが第1プレスパイク線PRLaに出力される。この学習モードにおいても、第1プレスパイクパルスが出力されると、認知モードの場合と同様に、荷重記憶部14が動作して電圧信号Vpreが出力される。この学習モードでは、図6、図7に示すように、第1プレスパイクパルスに同期して、パルス幅が1/2Twの第2プレスパイクパルスが入力回路20aから第2プレスパイク線PRLbに出力される。なお、図6は、第1ポストスパイクパルスに対して第1プレスパイクパルスが先行する場合、図7は、第1プレスパイクパルスに対して第1ポストスパイクパルスが先行する場合をそれぞれ示している。
第1プレスパイク線PRLaを介して第1プレスパイクパルスが入力されたシナプス回路11は、認知モードの場合と同様に、それの荷重記憶部14が記憶している結合荷重に応じた電圧信号Vpreを、同じ列16に配されている本体部18に出力する。本体部18についても、制御ゲートCGに電圧信号Vpreの電圧が加えられて、フローティングゲートFGの電位が閾値に達すると、MOSトランジスタ41がオフとなり、MOSトランジスタ42がオンとなる。この結果、パルス発生器43から第1ポストスパイクパルスが第1ポストスパイク線POLaに出力される。また、第1ポストスパイクパルスが出力されると、これに同期してパルス幅が1/2Twの第2プレスパイクパルスが第2プレスパイク線PRLbに本体部18から出力される。
さらに、第1ポストスパイクパルスの出力と同時に、ビット線ドライバ19によって、第1ポストスパイクパルスのパルス幅とほぼ同じ期間においてビット線電位差ΔVBが正とされ、その後の時間1/2Twの期間においてビット線電位差ΔVBが負とされる。
例えば、図6に示されるように、上記の第1ポストスパイクパルスが出力されたタイミングから時間1/2Twだけ遡った期間内に、第1プレスパイクパルスが入力されたシナプス回路11では、その選択部15には、第2プレスパイクパルスの入力中に第1ポストスパイクパルスが入力される。このため、第1ポストスパイクパルスとほぼ同時に選択信号が荷重記憶部14に出力され、ビット線電位差ΔVBが正となっている期間に、その荷重記憶部14内のMOSトランジスタ23、24がそれぞれオンになる。
上記のようにMOSトランジスタ23、24がそれぞれオンになると、ビット線BLの電位がビット線BLBよりも高いので、書き込み電流が、ビット線BLからMOSトランジスタ23、MTJ素子31、MTJ素子33、MOSトランジスタ24を経てビット線BLBに至る経路で流れる。このときに、書き込み電流は、MTJ素子31の磁化自由層31bから磁化固定層31aへ流れ、またMTJ素子33の磁化固定層33aから磁化自由層33bへ流れるから、MTJ素子31は、低抵抗になり、MTJ素子33は、高抵抗になる。この結果、シナプス回路11は、第1結合荷重を記憶した状態になる。
なお、このようにパルス時間差ΔTが1/2Tw以下で、第1ポストスパイクパルスよりも第1プレスパイクパルスが先行する場合には、MOSトランジスタ23、24と同時にMOSトランジスタ25がオンになる。一方、上述のように電源線PLの電圧を|ΔVB|/2程度としている。このため、MOSトランジスタ23、24と同時にMOSトランジスタ25がオンになっても、ビット線BLと電源線PLとの間、及び電源線PLとビット線BLBとの間のいずれにも電位差を生じるため、上記のように書き込み電流が流れ、MTJ素子31、33によって第1結合荷重が記憶された状態になる。
一方、図7に示されるように、上記の第1ポストスパイクパルスが出力されてから時間1/2Twが経過するまでの期間内に、第1プレスパイクパルスが入力されたシナプス回路11では、その選択部15には、第2ポストスパイクパルスの入力中に第1プレスパイクパルスが入力される。このため、第1プレスパイクパルスとほぼ同時に選択信号が荷重記憶部14に出力されるので、ビット線電位差ΔVBが負となっている期間に、その荷重記憶部14内のMOSトランジスタ23、24がそれぞれオンになる。
上記のようにMOSトランジスタ23、24がそれぞれオンになると、ビット線BLBの電位がビット線BLよりも高いので、書き込み電流が、ビット線BLBからMOSトランジスタ24、MTJ素子33、MTJ素子31、MOSトランジスタ23を経てビット線BLに至る経路で流れる。このときに、書き込み電流は、MTJ素子31の磁化固定層31aから磁化自由層31bへ流れ、MTJ素子33の磁化自由層33bから磁化固定層33aへ流れるから、MTJ素子31は、高抵抗になり、MTJ素子33は、低抵抗になる。この結果、シナプス回路11は、第2結合荷重を記憶した状態になる。
上記のようにしてシナプス回路11は、その結合荷重が書き換えられ、書き換え後に第1プレスパイクパルスが入力されると、上記同様にして新たな結合荷重に応じた電圧信号Vpreをニューロン回路17に出力する。また、ニューロン回路17は、フローティングゲートFGの電位が閾値に達すると、上記同様に第1ポストスパイクパルス,第2ポストスパイクパルスを出力する。そして、各シナプス回路11では、第1ポストスパイクパルスが入力されたタイミングの前後の時間1/2Twの各期間内に第1プレスパイクパルスが入力されると、再び結合荷重が書き換えられる。以上のようにして、各シナプス回路11の結合荷重が更新されて,各シナプス回路11には最終的のものが保持される。
上記のように学習モードでは、書き込み電流を流してMTJ素子31、33の磁化状態を変化させているが、MTJ素子31、33を平行状態と反平行状態との相互に変化させるのに要する時間(以下、書き換え時間という)は、非常に短いため、高速な動作が可能である。例えば、MTJ素子31、33の書き換え時間は、ReRAMに対して1/10程度ある。
以上のように認知モード、学習モードのいずれにおいても、ニューラルネットワーク回路装置10は、高速かつ低電力で動作が可能であり、より最適な構成になっている。
上記の荷重記憶部は、それぞれがMTJ素子を含む一対のインバータをクロスカップルした構成であるが、MTJ素子を1個だけ用いた回路構成とすることもできる。図8に示す荷重記憶部14Aでは、MTJ素子51、N型MOSFETであるMOSトランジスタ52、53が設けられている。MTJ素子51は、MTJ素子31、33(図3参照)と同じく、磁化固定層51aと磁化自由層51bが絶縁膜51cを挟んで積層された構造を有する。荷重記憶部14Aは、MTJ素子51の抵抗の高低(磁化自由層51bの磁化の向き)によって結合荷重の大小を記憶する。
MTJ素子51は、磁化固定層51aがMOSトランジスタ52を介して電源線PLに接続され、磁化自由層51bがソース線SLに接続されている。MOSトランジスタ52は、そのゲートが行方向に延設されたプレスパイク線PRLに接続されている。プレスパイク線PRLには、前段部の入力回路からのプレスパイクパルスが出力される。この例においては、Hレベルのプレスパイクパルスがプレスパイク線PRLに出力される。ソース線SLは、その電位VSLが、例えば入力回路によって制御されている。学習モードにおいて、ソース線電位VSLは、通常、接地レベルとされているが、スパイクパルスが入力回路から出力されると、それに同期して変化する。なお、認知モードでは、ソース線電位VSLは、接地レベルに維持される。
MTJ素子51とMOSトランジスタ52との接続ノードは、MOSトランジスタ53を介して接地されている。MOSトランジスタ53のゲートは、列方向に延設されたポストスパイク線POLに接続されている。ニューロン回路17は、本体部18と遅延回路55とを有し、本体部18は遅延回路55を介してポストスパイクパルスをポストスパイク線POLに出力する。遅延回路55は、時間1/2Twだけポストスパイクパルスを遅延させる。
荷重記憶部14Aでは、MTJ素子51とMOSトランジスタ52との接続ノードの電位(電圧)が、コンデンサ36を介して電圧信号Vpreとして出力線OLに出力される。すなわち、コンデンサ36の一方の電極がMTJ素子51とMOSトランジスタ52との接続ノードに接続され、他方の電極が出力線OLを介して本体部18内の制御ゲートに接続されている。
上記構成によれば、認知モードにおいては、図9に示すように、ソース線電位VSLが継続的に接地レベル(0V)とされている。この状態で、前段部の入力回路からプレスパイクパルスが出力されて、MOSトランジスタ52がオンとなると、MTJ素子51を介して電源線PLからソース線SLに電流が流れる。これにより、MTJ素子51とMOSトランジスタ52との接続ノードから、MTJ素子51の抵抗値に応じた電圧降下に等しい電圧の電圧信号Vpreがコンデンサ36を介してニューロン回路17の本体部18に出力される。このように、荷重記憶部14Aは、プレスパイクパルスの入力に応答して、記憶している結合荷重に応じた電圧の電圧信号Vpreを出力する。例えば、MTJ素子51が平行状態(低抵抗)であるときには、電圧信号Vpreの電圧は低く、MTJ素子51が反平行状態(高抵抗)であるときには、電圧信号Vpreの電圧は高くなる。
学習モードにおいても、前段部の入力回路からプレスパイクパルスが出力されると、認知モードの場合と同様に、荷重記憶部14Aが動作して電圧信号Vpreが出力される。この学習モードでは、図10に示すように、プレスパイクパルスに同期して、ソース線電位VSLの制御が行われる。まず、プレスパイクパルスが立ち下がった時点から時間1/2Twの期間(以下、第1期間という)においてソース線電位VSLが接地レベルよりも高くされ、続く時間1/2Twの期間(以下、第2期間という)において、ソース線電位VSLが接地レベルよりも低くされる。このときの接地レベルに対するソース線電位VSLの大きさ(絶対値)は、MTJ素子51の磁化状態を変化させるのに必要な書き込み電流をMTJ素子51に流すことができるように決められている。
本体部18がポストスパイクパルスを出力すると、遅延回路55を介した当該ポストスパイクパルスにより、MOSトランジスタ53がオンとなる。これにより、MTJ素子51がソース線SLと接地との間に接続された状態になる。このため、ソース線電位VSLが制御されている期間中に、MOSトランジスタ53がオンとなれば、MTJ素子51には、ソース線電位VSLに応じた向きの書き込み電流が流れる。
上記のように遅延回路55は、時間1/2Twだけポストスパイクパルスの出力を遅延する。このため、例えば、図10に実線で示されるように、本体部18からのポストスパイクパルスと上記プレスパイクパルスとのパルス時間差ΔTが1/2Tw以下であってポストスパイクパルスが先行する場合では、第1期間内に遅延回路55からポストスパイクパルスが出力される。この場合には、ソース線電位VSLが接地レベルよりも高くなっているときにMOSトランジスタ53がオンになるから、MTJ素子51には、磁化自由層51bから磁化固定層51aに向って書き込み電流が流れる。この結果、MTJ素子51は、平行状態になる。
一方、図10に二点鎖線で示されるように、本体部18からのポストスパイクパルスと上記プレスパイクパルスとのパルス時間差ΔTが1/2Tw以下であって、プレスパイクパルスが先行する場合では、第2期間内に遅延回路55からポストスパイクパルスが出力される。この場合には、ソース線電位VSLが接地レベルよりも低くなっているときにMOSトランジスタ53がオンになるから、MTJ素子51には、磁化固定層51aから磁化自由層51bに向って書き込み電流が流れる。この結果、MTJ素子51は、反平行状態になる。
上記各例では、スピン注入磁化反転(spin transfer torque:STT)方式の二端子型のMTJ素子を用いて荷重記憶部を構成しているが、MTJ素子の磁化反転の方式、端子数などは、これに限定されない。例えば、スピン軌道トルク反転(SOT:Spin Orbital Torque)方式の三端子型のMTJ素子を用いることができる。
図11は、三端子型のMTJ素子57を用いた荷重記憶部14Bの例を示している。MTJ素子57は、磁化固定層57aと磁化自由層57bとを絶縁膜57cを挟んで積層した積層体をチャネル層57d上に設けた構造であり、積層体はチャネル層57d側から磁化自由層57b、絶縁膜57c、磁化固定層57aの順番で積層されている。磁化固定層57a、磁化自由層57bは、強磁性体で形成されている。絶縁膜57cは、非磁性の絶縁体で形成されている。チャネル層57dは、反強磁性体を含む導電層であり、チャネル層57dは、一方向に延びた板状に形成されている。このチャネル層57dの一方の面の中央部に積層体が設けられている。
磁化固定層57aは、例えばその膜面に垂直な方向(図11の上下方向)の一方の向きに磁化の向きが固定され、磁化自由層57bは、その膜面に垂直な方向に磁化容易軸を有し、磁化の向きが磁化固定層57aと同じ向きの平行状態と逆向きの反平行状態とのいずれかに変えることができる。なお、磁化固定層57a、磁化自由層57bの磁化方向は、膜面に平行な方向であってもよい。
上記MTJ素子57は、チャネル層57dの延びた方向に書き込み電流を流すことで生じるスピン軌道トルクの作用によって磁化自由層57bの磁化方向を変えることができる。磁化自由層57bの磁化方向は、書き込み電流の向きに応じたものとなる。すなわち、書き込み電流がチャネル層57dに流れることによって、チャネル層57dの内部に、その膜面に垂直な方向で、書き込み電流の向きに応じたスピン流が生じ、磁化自由層57bにスピン軌道トルクが作用する。このスピン軌道トルクが、チャネル層57dからの定常的な磁場が印加されている磁化自由層57bに作用することで、磁化自由層57bの磁化の向きが、スピン流の向きに応じて磁化固定層57aと同じ向き(平行状態)と逆向き(反平行状態)とのいずれかに変化する。
また、MTJ素子57は、積層体に読み出し電圧を印加して、それを貫通する方向の読み出し電流を流し、読み出し電圧と読み出し電流とからMTJ素子57(積層体)の抵抗の高低を判別することができる。この例では、上述の各例と同様に、MTJ素子57の磁化状態(抵抗値)に応じた電圧の電圧信号Vpreとして取り出す。
この例では、磁化固定層57aの上面(絶縁膜57cが形成された面とは反対側の面)と、チャネル層57dの延びた方向の一端及び他端とをそれぞれMTJ素子57の端子として、磁化固定層57aの上面がMOSトランジスタ52を介して電源線PLに接続され、チャネル層57dの一端がMOSトランジスタ53を介して接地され、他端がソース線SLに接続されている。
荷重記憶部14Bは、MOSトランジスタ52とのMTJ素子57(磁化固定層57aの上面)との接続ノードの電位(電圧)を、コンデンサ36を介して電圧信号Vpreとして出力線OLに出力する。すなわち、コンデンサ36の一方の電極がMTJ素子57とMOSトランジスタ52との接続ノードに接続され、他方の電極が出力線OLを介して本体部18内の制御ゲートに接続されている。なお、その他の回路構成、ソース線電位VSLの制御等は、図9の例と同じである。
上記の荷重記憶部14Bでは、プレスパイクパルスに応答して、MOSトランジスタ52がオンとなることにより、磁化固定層57aの上面から積層体を介して、チャネル層57dの他端に接続されたソース線SLに電流が流れる。これにより、MTJ素子57とMOSトランジスタ52との接続ノードから、MTJ素子57の抵抗値に応じた電圧降下に等しい電圧の電圧信号Vpreがコンデンサ36を介してニューロン回路17の本体部18に出力される。
また、パルス時間差ΔTが時間1/2Tw以下である場合に、MOSトランジスタ53が遅延回路55からポストスパイクパルスに応答してオンになると、ソース線SLと接地との間に接続されたチャネル層57dに書き込み電流が流れることにより、磁化自由層57bの磁化方向が更新される。このときにMOSトランジスタ53がオンとなるタイミング、すなわちポストスパイクパルスが先行するか、プレスパイクパルスが先行するかによって、チャネル層57dに流れる書き込み電流の向きが変わり、その書き込み電流の向きに応じた磁化自由層57bの磁化方向となる。
なお、図3に示される荷重記憶部14のように、クロスカップルされるインバータを三端子型のMTJ素子とMOSトランジスタとで構成してもよい。
不揮発的に結合荷重を記憶する記憶素子としては、MTJ素子に限定されない。このような記憶素子としては、電気抵抗の違いを利用してデータを記憶するものを好ましく用いることができる。例えば、相変化メモリ(PCRAM:Phase Change Random Access Memory)に用いられ、相変化材料層に電流を流した際に発生するジュール熱によって相変化材料の相状態を変化させてデータの書き換えを行う相変化素子、ReRAM(Resistive RAM, Resistive Random Access Memory)に用いられ、電圧パルスの印加によって荷重記憶部の酸化物層の抵抗値を変化させる抵抗変化素子等が挙げられる。また、不揮発的に結合荷重を記憶する記憶素子として、強誘電体メモリ(Ferroelectric Random Access Memory)に用いられる強誘電体キャパシタを有する強誘電体メモリ素子を用いることもできる。
[第2実施形態]
第2実施形態は、シナプス回路の結合荷重を電流の大小で表現したものである。なお、以下に説明する他は、第1実施形態と同様であり、同一の部材には同じ符号を付して、その詳細な説明を省略する。
図12に示すように、シナプス回路の荷重記憶部14Cは、インバータ21、22、トランスファゲートである一対のMOSトランジスタ23、24、パワーゲーティング用のMOSトランジスタ25を有し、インバータ21、22は、MTJ素子31、33、MOSトランジスタ32、34で構成されている。この例では、読み出し部として、MOSトランジスタ25とともにMOSトランジスタ65が設けられている。MOSトランジスタ65は、P型のMOSFETであり、インバータ22の出力端である接続ノードSNBにソースが接続され、ドレインが出力線OLに接続されている。このMOSトランジスタ65は、ゲートに第1プレスパイク線PRLaが接続されており、第1プレスパイクパルスによってMOSトランジスタ25とともにオンとなる。
図13において、ニューロン回路の本体部18Cは、キャパシタ67、負荷としてのMOSトランジスタ68、パルス発生器43を備えている。キャパシタ67は、互いに対向する電極67a、67bのうちの一方の電極67aが接地されている。また、キャパシタ67の他方の電極67bには、ニューロン回路が配された列内の各シナプス回路の荷重記憶部14Cと出力線OLを介して接続されている。また、電極67bは、パルス発生器43の入力端に接続されるとともに、MOSトランジスタ68を介して電源71に接続されている。
MOSトランジスタ68は、P型のMOSFETであり、ソースが電源71に接続され、ドレインが電極67bに接続されている。MOSトランジスタ68には、所定のゲート電圧が与えられており、キャパシタ67を充電するように電源71からの電流を流す。
上記構成によれば、認知モード及び学習モードのいずれにおいても、キャパシタ67は、電源71からの電流によって充電される。このため、荷重記憶部14Cに第1プレスパイクパルスが入力されていない状態では、電極67bは、電源の出力電位(出力電圧)と同じに維持される。
前段部の入力回路からの第1プレスパイクパルスが第1プレスパイク線PRLaを介して荷重記憶部14Cに入力されると、その荷重記憶部14CのMOSトランジスタ25、65がそれぞれオンになる。MOSトランジスタ25がオンになることにより、クロスカップルされたインバータ21、22が作動し、接続ノードSNと接続ノードSNBとの間に生じる電位差が増幅されて、電位差が大きくなった状態で安定する。例えば、シナプス回路の荷重記憶部14Cに記憶されている結合荷重が、第1結合荷重(MTJ素子31が低抵抗、MTJ素子33が高抵抗)である場合には、接続ノードSNの電位が接続ノードSNBの電位よりも高くなり、第2結合荷重(MTJ素子31が高抵抗、MTJ素子33が低抵抗)である場合には、接続ノードSNBの電位が接続ノードSNの電位よりも高くなる。
ところで、MOSトランジスタ34は、オンになっているMOSトランジスタ65及び出力線OLを介してキャパシタ67の電極67bにドレインが接続されており、またソースがソース線SLを介して接地されている。そして、MOSトランジスタ34のゲートに接続ノードSNの電位が与えられている。このため、MOSトランジスタ34は、接続ノードSNの電位に応じた大きさの放電電流Ipreで、キャパシタ67を放電する。なお、接続ノードSNの電位が接続ノードSNBの電位よりも低い場合であって、その電位がMOSトランジスタ34のゲート閾値電圧よりも低い場合に放電電流Ipreは流れない。
キャパシタ67は、電源71によって常に充電されるが、MOSトランジスタ34によって放電されることによって、その充電電圧、すなわち電極67bの電位が低下する。そして、放電電流Ipreが大きいほど、電極67bの電位の低下が大きい。
一方、MOSトランジスタ34による放電電流Ipreは、MOSトランジスタ34のゲート電圧が高いほど大きくなる。すなわち、接続ノードSNの電位が高いほど放電電流Ipreが大きくなる。上記のように接続ノードSNの電位は、相対的に第1結合荷重の場合が高く、第2結合荷重の場合に低い。したがって、1個のシナプス回路は、それが記憶している結合荷重が大きいほど、電極67bの電位を大きく低下させる。
電極67bに接続された他のシナプス回路についても同様に、前段部の入力回路からの第1プレスパイクパルスが入力されると、それに応答して記憶されている結合荷重に対応した放電電流Ipreを流す。この結果、各シナプス回路の放電電流Ipreの和に基づいた大きさで電極67bの電位の低下することになるが、この電極67bの電位の低下の大きさは、各シナプス回路の放電電流Ipreの和が変化することにともなって変化する。そして、放電電流Ipreの和が一定のレベル以上となって、パルス発生器43の閾値よりも電極67bの電位が下がったときにパルス発生器43から第1ポストスパイクパルスが出力される。なお、学習モード及び認知モードにおけるその他の動作は、第1実施形態と同じである。
第2実施形態のニューラルネットワーク回路装置は、第1実施形態と同様に、MTJ素子31、33の書き換え時間が非常に短いため、高速な動作が可能である。また、接続ノードSNと接続ノードSNBとの電位差がMOSトランジスタ32、34の差動対によって増幅されて安定するまでに要する時間が非常に短いため、高速な動作が可能になる。したがって、ニューラルネットワーク回路装置がより最適な構成となる。
シナプス回路が記憶する結合加重は、相対的に重みが大きい第1結合加重と小さい第2結合加重のいずれかとなる二値のものでも、重みが異なる3以上の結合加重のうちのいずれかとなる多値のものでもよい。
シナプス回路が記憶する結合加重を多値とする場合には、例えば各シナプス回路にそれぞれ、荷重記憶部と選択部とからなる記憶ユニットを複数設け、各荷重記憶部は、上記の各例と同様に、それぞれ第1結合荷重または第2結合荷重のいずれかを記憶するように構成する。1個のシナプス回路内における各選択部に入力される第2ポストスパイクパルスのパルス幅を時間1/2Tw(Twは規定時間)内で互いに異なるものとし、同様に第2プレスパイクパルスのパルス幅を時間1/2Tw(Twは規定時間)内で互いに異なるものとする。例えば、Mを2以上の整数として、シナプス回路に第1~第M記憶ユニットを設けた場合、第i(iは1、2・・・M)記憶ユニットの選択部に入力される第2プレスパイクパルス及び第2ポストスパイクパルスの各パルス幅を「1/2Tw-(i-1)(1/(2M))Tw」とすることができる。これにより、第1ポストスパイクパルスと第1プレスパイクパルスとのパルス時間差ΔT(絶対値)の長短に応じて、選択信号が入力される荷重記憶部が0個からM個の範囲で変化する。
1つのシナプス回路に注目すると、第1プレスパイクパルスが第1ポストスパイクパルスに先行する場合には、パルス時間差ΔTが小さいほど第1結合荷重が書き込まれる荷重記憶部の個数が多くなり、パルス時間差ΔTが大きいほど第1結合荷重が書き込まれる荷重記憶部の個数が少なくなる。逆に、第1ポストスパイクパルスが第1プレスパイクパルスに先行する場合には、時間差ΔTが小さいほど第2結合荷重が書き込まれる荷重記憶部の個数が多くなり、パルス時間差ΔTが大きいほど第2結合荷重が書き込まれる荷重記憶部の個数が少なくなる。パルス時間差ΔTが時間「1/2Tw」を超えた場合には、第1結合荷重または第2結合荷重が書き込まれる荷重記憶部は0個であり、結合荷重は変化しない(更新されない)。結果的に、1つのシナプス回路は、第1結合荷重を0個ないしM個の荷重記憶部に記憶した状態(第1結合荷重を記憶していない荷重記憶部には第2結合荷重が記憶される)に対応したM+1種類の結合荷重を記憶することができる。
この場合にも、各荷重記憶部は、入力信号としての第1プレスパイクパルスが出力されているときに、記憶している結合荷重に応じた電圧または電流を本体部にそれぞれ出力する。1個のシナプス回路からは、第1プレスパイクパルスの入力に応答して、その各荷重記憶部に記憶している結合荷重に応じた各電圧または各電流が本体部に出力される。本体部は、入力される各電圧または各電流の総和に基づいて動作するから、1つのシナプス回路からの各電圧または各電流についてもそれらの和に基づいて動作することになり、結果的にシナプス回路が記憶しているM+1種類の結合荷重のうちのいずれの結合荷重を本体部に出力することになる。
10 ニューラルネットワーク回路装置
11 シナプス回路
14、14A、14B、14C 荷重記憶部
17 ニューロン回路
18 本体部
21、22 インバータ
23~25、32、34、41、42、52、53、65 MOSトランジスタ
31、33、51、57 MTJ素子
36 コンデンサ
43 パルス発生器
55 遅延回路
67 キャパシタ
67a、67b 電極
68 MOSトランジスタ
71 電源
BL ビット線
BLB ビット線
CG 制御ゲート
FG フローティングゲート

Claims (11)

  1. シナプス結合荷重を記憶する複数のシナプス回路と、前記複数のシナプス回路に接続されたニューロン回路とを備えたニューラルネットワーク回路装置において、
    前記複数のシナプス回路は、
    不揮発的にシナプス結合荷重を記憶し、入力信号に応答して、記憶しているシナプス結合荷重に基づいた大きさの電圧信号を出力し、
    前記ニューロン回路は、
    フローティングゲートと、このフローティングゲートに容量結合し、前記複数のシナプス回路からの前記電圧信号がそれぞれ入力される複数の制御ゲートとを有するニューロン用MOSトランジスタと、
    前記ニューロン用MOSトランジスタのオンまたはオフにより、パルス信号を出力するパルス発生器と
    を有する
    ことを特徴とするニューラルネットワーク回路装置。
  2. 前記複数のシナプス回路は、2値または多値のシナプス結合荷重を記憶することを特徴とする請求項1に記載のニューラルネットワーク回路装置。
  3. 前記複数のシナプス回路は、シナプス結合荷重に基づいた磁化状態とされる磁気トンネル接合素子を有し、前記磁気トンネル接合素子の磁化状態によりシナプス結合荷重を不揮発的に記憶することを特徴とする請求項1または2に記載のニューラルネットワーク回路装置。
  4. 前記複数のシナプス回路は、クロスカップルされ、それぞれが直列接続されたインバータ用MOSトランジスタと磁気トンネル接合素子とからなる一対のインバータと、
    記憶するシナプス結合荷重に基づいた書き込み電流を前記一対のインバータの前記磁気トンネル接合素子にそれぞれ流すことにより、前記磁気トンネル接合素子を互いに異なる磁化状態にする書き込み部と、
    入力信号に応答して、前記一対のインバータを作動させ、一方のインバータの出力端のから前記電圧信号を出力させる読み出し部と
    を有することを特徴とする請求項1または2に記載のニューラルネットワーク回路装置。
  5. 前記複数のシナプス回路は、前記一方のインバータの出力端がコンデンサを介して前記制御ゲートに接続されていることを特徴とする請求項4に記載のニューラルネットワーク回路装置。
  6. 前記読み出し部は、前記電圧信号を出力するタイミングで、電源線と、前記磁気トンネル接合素子同士の接続ノードとを接続するパワーゲーティング用MOSトランジスタであることを特徴とする請求項5に記載のニューラルネットワーク回路装置。
  7. 前記一対のインバータの入力端にそれぞれ接続され、相互の電位差の正負が反転する一対のビット線を有し、
    前記書き込み部は、前記ビット線と前記一対のインバータの各入力端との間にそれぞれ接続され、記憶するシナプス結合荷重に基づくタイミングでオン、オフされる一対のトランスファゲートを有する
    ことを特徴とする請求項4ないし6のいずれか1項に記載のニューラルネットワーク回路装置。
  8. シナプス結合荷重を記憶する複数のシナプス回路と、前記複数のシナプス回路に接続されたニューロン回路とを備えたニューラルネットワーク回路装置において、
    前記ニューロン回路は、
    一方の電極が接地されたキャパシタと、
    前記キャパシタの他方の電極と電源との間に接続された負荷と、
    前記他方の電極の電位に基づきパルス信号を発生させるパルス発生器と
    を有し、
    前記複数のシナプス回路は、
    クロスカップルされ、それぞれが直列接続されたインバータ用MOSトランジスタと磁気トンネル接合素子とからなる一対のインバータと、
    記憶するシナプス結合荷重に基づいた書き込み電流を、前記一対のインバータの前記磁気トンネル接合素子にそれぞれ流すことにより、前記磁気トンネル接合素子を互いに異なる磁化状態にする書き込み部と、
    入力信号に応答して、前記一対のインバータを作動させ、一方のインバータの前記インバータ用MOSトランジスタを介して、前記キャパシタの前記他方の電極を放電させる電流を流す読み出し部と
    を有する
    ことを特徴とするニューラルネットワーク回路装置。
  9. シナプス結合荷重を不揮発的に記憶する複数のシナプス回路と、前記複数のシナプス回路に接続されたニューロン回路とを備えたニューラルネットワーク回路装置において、
    前記複数のシナプス回路は、
    入力信号に応答して、記憶しているシナプス結合荷重に基づいた大きさの電圧が一端に入力されるコンデンサを有し、
    前記ニューロン回路は、
    フローティングゲートと、このフローティングゲートに容量結合し、前記複数のシナプス回路の前記コンデンサの他端がそれぞれ接続されて電圧信号が入力される複数の制御ゲートとを有するニューロン用MOSトランジスタと、
    前記ニューロン用MOSトランジスタのオンまたはオフにより、パルス信号を出力するパルス発生器と
    を有する
    ことを特徴とするニューラルネットワーク回路装置。
  10. 前記ニューロン回路は、前記パルス信号としてパルス幅の異なる2種類のポストスパイクパルスを前記複数のシナプス回路に出力し、
    前記複数のシナプス回路は、前段の入力回路からのパルス幅の異なる2種類のプレスパイクパルスと前記2種類のポストスパイクパルスとのタイミングに基づき、結合荷重を記憶するための選択信号を発生する
    ことを特徴とする請求項1ないし9のいずれか1項に記載のニューラルネットワーク回路装置。
  11. 前記ニューロン回路は、前記パルス信号を第1ポストスパイクパルスとして出力するとともに、パルス幅が前記第1ポストスパイクパルスよりも大きい第2ポストスパイクパルスを前記第1ポストスパイクパルスの出力時から出力し、
    前記複数のシナプス回路は、
    選択信号に応答して荷重を記憶する荷重記憶と、
    前記第1ポストスパイクパルス及び前記第2ポストスパイクパルスが入力されるとともに、前段の入力回路からの第1プレスパイクパルス及びパルス幅が前記第1プレスパイクパルスよりも大きく、前記第1プレスパイクパルスの出力時より出力される第2プレスパイクパルスが入力され、前記第1ポストスパイクパルスと前記第2プレスパイクパルスとが同時に入力されたとき及び前記第2ポストスパイクパルスと前記第1プレスパイクパルスとが同時に入力されたときに、前記選択信号を出力する選択部と
    を有する
    ことを特徴とする請求項1ないし9のいずれか1項に記載のニューラルネットワーク回路装置。
JP2020509364A 2018-03-30 2019-03-29 ニューラルネットワーク回路装置 Active JP7216436B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018070165 2018-03-30
JP2018070165 2018-03-30
PCT/JP2019/014353 WO2019189895A1 (ja) 2018-03-30 2019-03-29 ニューラルネットワーク回路装置

Publications (2)

Publication Number Publication Date
JPWO2019189895A1 JPWO2019189895A1 (ja) 2021-07-15
JP7216436B2 true JP7216436B2 (ja) 2023-02-01

Family

ID=68058218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020509364A Active JP7216436B2 (ja) 2018-03-30 2019-03-29 ニューラルネットワーク回路装置

Country Status (3)

Country Link
US (1) US11829863B2 (ja)
JP (1) JP7216436B2 (ja)
WO (1) WO2019189895A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220075366A (ko) * 2019-10-02 2022-06-08 도호쿠 다이가쿠 시냅스 회로의 구동 방법
CN113646912B (zh) * 2020-02-27 2024-02-27 Tdk株式会社 运算电路及神经形态器件
JP6841393B1 (ja) * 2020-02-27 2021-03-10 Tdk株式会社 演算回路及びニューロモーフィックデバイス
KR102507770B1 (ko) * 2020-08-26 2023-03-07 국민대학교산학협력단 시냅스 및 시냅스 어레이와, 이를 이용한 컴퓨팅 시스템 및 그 구동 방법
KR102390388B1 (ko) * 2021-03-29 2022-04-25 한국과학기술연구원 뉴로모픽 장치
US11647684B2 (en) * 2021-03-30 2023-05-09 International Business Machines Corporation Nonvolatile tunable capacitive processing unit
US20240126616A1 (en) * 2021-06-18 2024-04-18 Tohoku University Computation processing device
CN117829224B (zh) * 2024-03-05 2024-05-28 南京大学 一种基于复合介质栅结构的仿生神经网络电路系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001196920A (ja) 2000-01-07 2001-07-19 Nippon Telegr & Teleph Corp <Ntt> 関数機能構成データ保持方法及びその方法を用いた集積回路
JP2010146514A (ja) 2008-12-22 2010-07-01 Sharp Corp 情報処理装置及びこれを用いたニューラルネットワーク回路
WO2015041305A1 (ja) 2013-09-20 2015-03-26 国立大学法人東北大学 メモリセル及び記憶装置
JP7161942B2 (ja) 2019-01-16 2022-10-27 ユニマテック株式会社 フェノチアジン誘導体を含有するカルボキシル基含有アクリルゴム組成物

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2595051B2 (ja) * 1988-07-01 1997-03-26 株式会社日立製作所 半導体集積回路
US5336937A (en) * 1992-08-28 1994-08-09 State University Of New York Programmable analog synapse and neural networks incorporating same
JP3438241B2 (ja) * 1992-10-29 2003-08-18 直 柴田 半導体神経回路装置
JP3289749B2 (ja) * 1993-12-02 2002-06-10 直 柴田 半導体集積回路
KR102230784B1 (ko) * 2013-05-30 2021-03-23 삼성전자주식회사 Stdp 동작을 위한 시냅스 회로 및 시냅스 회로를 포함하는 뉴로모픽 시스템
US9418333B2 (en) * 2013-06-10 2016-08-16 Samsung Electronics Co., Ltd. Synapse array, pulse shaper circuit and neuromorphic system
JP6602279B2 (ja) * 2016-09-20 2019-11-06 株式会社東芝 メムキャパシタ、ニューロ素子およびニューラルネットワーク装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001196920A (ja) 2000-01-07 2001-07-19 Nippon Telegr & Teleph Corp <Ntt> 関数機能構成データ保持方法及びその方法を用いた集積回路
JP2010146514A (ja) 2008-12-22 2010-07-01 Sharp Corp 情報処理装置及びこれを用いたニューラルネットワーク回路
WO2015041305A1 (ja) 2013-09-20 2015-03-26 国立大学法人東北大学 メモリセル及び記憶装置
JP7161942B2 (ja) 2019-01-16 2022-10-27 ユニマテック株式会社 フェノチアジン誘導体を含有するカルボキシル基含有アクリルゴム組成物

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
FLAK,Jacek,"CNN Cell with Memcapacitive Synapses and Threshold Control Circuit",2012 13th International Workshop on Cellular Nanoscale Networks and their Applications,IEEE,2012年10月18日,http://ieeexplore.ieee.org/document/6331414

Also Published As

Publication number Publication date
US11829863B2 (en) 2023-11-28
WO2019189895A1 (ja) 2019-10-03
JPWO2019189895A1 (ja) 2021-07-15
US20220198247A1 (en) 2022-06-23

Similar Documents

Publication Publication Date Title
JP7216436B2 (ja) ニューラルネットワーク回路装置
US10388350B2 (en) Memory system, semiconductor storage device, and signal processing system
US7221600B2 (en) Arithmetic circuit integrated with a variable resistance memory element
US9847132B1 (en) Ternary content addressable memories
CN112133339B (zh) 基于铁电晶体管的存内按位逻辑计算电路结构
CN104835519B (zh) 存储器电路及相关方法
EP3136398B1 (en) Ternary content addressable memory (tcam) with programmable resistive elements
US9053782B2 (en) Memory cell with volatile and non-volatile storage
JP2004103104A (ja) 薄膜磁性体記憶装置
US20090323396A1 (en) Semiconductor memory device
TWI635488B (zh) 存儲器單元和存儲裝置
US9368208B1 (en) Non-volatile latch using magneto-electric and ferro-electric tunnel junctions
US20190325933A1 (en) Resistive memory device having memory cell array and system including the same
JPH02310666A (ja) 半導体神経回路装置
US9576661B2 (en) Systems and methods for SRAM with backup non-volatile memory that includes MTJ resistive elements
US20200303003A1 (en) Multiplier-accumulator
US20170076773A1 (en) Nonvolatile semiconductor memory
CN112270409B (zh) 一种基于霍尔条的无监督学习突触单元电路
US20170069380A1 (en) Memory device
US20230013081A1 (en) Driving method of synapse circuit
US9653163B2 (en) Memory cell with non-volatile data storage
US9691499B1 (en) Semiconductor memory device
JP7114097B2 (ja) 抵抗変化型メモリ装置の読み出し回路及びその読み出し方法
JP6288643B2 (ja) 不揮発性ラッチ回路
US7894251B2 (en) Semiconductor memory device

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20200727

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230113

R150 Certificate of patent or registration of utility model

Ref document number: 7216436

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150