JP6747610B2 - 積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法 - Google Patents

積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法 Download PDF

Info

Publication number
JP6747610B2
JP6747610B2 JP2019562955A JP2019562955A JP6747610B2 JP 6747610 B2 JP6747610 B2 JP 6747610B2 JP 2019562955 A JP2019562955 A JP 2019562955A JP 2019562955 A JP2019562955 A JP 2019562955A JP 6747610 B2 JP6747610 B2 JP 6747610B2
Authority
JP
Japan
Prior art keywords
product
elements
magnetization
product operation
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019562955A
Other languages
English (en)
Other versions
JPWO2019131137A1 (ja
Inventor
竜雄 柴田
竜雄 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
TDK Corp
Original Assignee
TDK Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by TDK Corp filed Critical TDK Corp
Application granted granted Critical
Publication of JP6747610B2 publication Critical patent/JP6747610B2/ja
Publication of JPWO2019131137A1 publication Critical patent/JPWO2019131137A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/544Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices for evaluating functions by calculation
    • G06F7/5443Sum of products
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/50Testing of electric apparatus, lines, cables or components for short-circuits, continuity, leakage current or incorrect line connections
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/02Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using magnetic elements
    • G11C11/16Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using magnetic elements using elements in which the storage effect is based on magnetic spin effect
    • G11C11/161Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using magnetic elements using elements in which the storage effect is based on magnetic spin effect details concerning the memory cell structure, e.g. the layers of the ferromagnetic memory cell
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/02Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using magnetic elements
    • G11C11/16Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using magnetic elements using elements in which the storage effect is based on magnetic spin effect
    • G11C11/165Auxiliary circuits
    • G11C11/1653Address circuits or decoders
    • G11C11/1655Bit-line or column circuits
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/18Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using Hall-effect devices
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/54Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using elements simulating biological cells, e.g. neuron
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C13/00Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00
    • G11C13/0002Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00 using resistive RAM [RRAM] elements
    • G11C13/0021Auxiliary circuits
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C13/00Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00
    • G11C13/0002Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00 using resistive RAM [RRAM] elements
    • G11C13/0021Auxiliary circuits
    • G11C13/0023Address circuits or decoders
    • G11C13/0026Bit-line or column circuits
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C29/00Checking stores for correct operation ; Subsequent repair; Testing stores during standby or offline operation
    • G11C29/04Detection or location of defective memory elements, e.g. cell constructio details, timing of test signals
    • G11C29/50Marginal testing, e.g. race, voltage or current testing
    • G11C29/50008Marginal testing, e.g. race, voltage or current testing of impedance
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C7/00Arrangements for writing information into, or reading information out from, a digital store
    • G11C7/10Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
    • G11C7/1006Data managing, e.g. manipulating data before writing or reading out, data bus switches or control circuits therefor
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10BELECTRONIC MEMORY DEVICES
    • H10B61/00Magnetic memory devices, e.g. magnetoresistive RAM [MRAM] devices
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10BELECTRONIC MEMORY DEVICES
    • H10B63/00Resistance change memory devices, e.g. resistive RAM [ReRAM] devices
    • H10B63/80Arrangements comprising multiple bistable or multi-stable switching components of the same type on a plane parallel to the substrate, e.g. cross-point arrays
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N50/00Galvanomagnetic devices
    • H10N50/10Magnetoresistive devices
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N50/00Galvanomagnetic devices
    • H10N50/80Constructional details
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N50/00Galvanomagnetic devices
    • H10N50/80Constructional details
    • H10N50/85Magnetic active materials
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N59/00Integrated devices, or assemblies of multiple devices, comprising at least one galvanomagnetic or Hall-effect element covered by groups H10N50/00 - H10N52/00
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N70/00Solid-state devices without a potential-jump barrier or surface barrier, and specially adapted for rectifying, amplifying, oscillating or switching
    • H10N70/20Multistable switching devices, e.g. memristors
    • H10N70/231Multistable switching devices, e.g. memristors based on solid-state phase change, e.g. between amorphous and crystalline phases, Ovshinsky effect
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/50Testing of electric apparatus, lines, cables or components for short-circuits, continuity, leakage current or incorrect line connections
    • G01R31/52Testing for short-circuits, leakage current or ground faults

Description

本発明は、積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法に関する。本願は、2017年12月28日に、日本に出願された特願2017−254700号に基づき優先権を主張し、その内容をここに援用する。
従来から、RRAM(登録商標)ベースアナログニューロモーフィックシステムにおけるグレースケール画像認識のための最適化された学習スキームが知られている(例えば非特許文献1参照)。この文献には、アナログニューロモーフィックシステムが、組み立てられた抵抗スイッチングメモリアレイを基礎として開発される旨が記載されている。この文献では、新規なトレーニングスキームが、セグメント化されたシナプスの挙動を利用することによって、アナログシステムの性能を最適化するために提案される。また、この文献では、このスキームが、グレースケール画像認識に対して適用される。
また、神経系を模倣したニューラルネットワークを抵抗変化素子のアレイを用いて実現する研究が進められている。ニューロモーフィックデバイス(NMD)では、前段から次の段へとウエイトをかけて足し合わせる積和演算を行う。そこで、連続的に抵抗が変化する抵抗変化素子を複数組み合わせ、それぞれの抵抗値を重みとして入力信号に対する積演算を行い、そこから出力される電流の総和をとることで和演算を行う様々なタイプの積和演算器、およびそれを利用したNMDの開発がすすめられている。
国際公開第2017/183573号
Zhe Chen他著、「RRAMベースアナログニューロモーフィックシステムにおけるグレースケール画像認識のための最適化された学習スキーム(OptimizedLearning Scheme for Grayscale Image Recognition in a RRAM Based Analog Neuromorphic System)」、2015年、IEEE、p.17.7.1−p.17.7.4
ところで、非特許文献1では、ニューラルネットワークの性能を大きく損なうおそれがある故障を検知する手法について検討されていない。抵抗変化素子が故障し、抵抗が小さくなると、積和演算時に故障した抵抗変化素子の重みが大きくネットワークに影響してしまうおそれがある。したがって、ニューラルネットワークではショートによる抵抗変化素子の故障を正確に検知することは重要である。
上述した問題点に鑑み、本発明は、ニューラルネットワークに適用される場合に、素子故障が発生した際にニューラルネットワークの性能を大きく損なうおそれがある故障を正確に検知することができる積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法を提供することを目的とする。
本発明の一態様の積和演算器は、積演算部と、和演算部と、故障判断部とを備え、前記積演算部は、複数の積演算素子を備え、前記複数の積演算素子のそれぞれは、抵抗変化素子であり、前記和演算部は、前記複数の積演算素子からの出力の合計値を検出する出力検出器を備え、前記故障判断部は、前記出力検出器が検出した前記合計値が規定値を超えた場合に、故障が発生したと判断し、前記規定値は、前記複数の積演算素子のすべてが正常に動作する場合に前記出力検出器が検出し得る前記合計値の最大値以上の値である。
本発明の一態様の積和演算器では、前記抵抗変化素子は、書き込み端子と、共通端子と、読み出し端子とを有してもよい。
本発明の一態様の積和演算器では、前記抵抗変化素子は、磁気抵抗効果を示す磁気抵抗効果素子であり、前記磁気抵抗効果素子は、磁壁を有する磁化自由層と、磁化方向が固定された磁化固定層と、前記磁化自由層と前記磁化固定層とに挟まれた非磁性層とを有してもよい。
本発明の一態様の積和演算器では、前記積演算部は、少なくとも、複数の積演算素子を有する第1カラムと、複数の積演算素子を有する第2カラムとを備え、前記和演算部は、少なくとも、前記第1カラムの複数の積演算素子からの出力の合計値を検出する第1出力検出器と、前記第2カラムの複数の積演算素子からの出力の合計値を検出する第2出力検出器とを備え、前記第1カラムが故障したと前記故障判断部が判断した場合に、前記第1カラムの故障前に前記第1カラムの複数の積演算素子が行っていた積演算を、前記第2カラムの複数の積演算素子に行わせる機能置換部をさらに備えてもよい。
本発明の一態様の積和演算器は、前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、前記複数の積演算素子のうちの故障した積演算素子を特定する故障箇所特定部と、前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、前記故障した積演算素子に対する入力を遮断する入力遮断部とをさらに備え、前記故障箇所特定部は、前記複数の積演算素子の出力側から前記複数の積演算素子に対して信号を入力することによって、前記故障した積演算素子を特定してもよい。
本発明の一態様は、前記積和演算器を備えるニューロモーフィックデバイスである。
本発明の一態様のニューロモーフィックデバイスは、活性化関数を使用する隠れ層をさらに備え、前記活性化関数は、前記活性化関数への入力値が閾値以上の場合に、前記活性化関数からの出力値がゼロになるように、設定されてもよい。
本発明の一態様のニューロモーフィックデバイスは、前記積和演算器を備えるニューロモーフィックデバイスであって、前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、故障したと判断された前記複数の積演算素子からの出力を遮断する出力遮断部をさらに備えてもよい。
本発明の一態様のニューロモーフィックデバイスでは、正常動作時における前記複数の積演算素子のそれぞれの抵抗値と、故障時における前記複数の積演算素子のそれぞれの抵抗値とが3桁以上異なってもよい。
本発明の一態様のニューロモーフィックデバイスは、前記積和演算器を備えるニューロモーフィックデバイスであって、前記抵抗変化素子は、磁気抵抗効果を示す磁気抵抗効果素子であり、前記磁気抵抗効果素子は、磁壁を有する磁化自由層と、磁化方向が固定された磁化固定層と、前記磁化自由層と前記磁化固定層とに挟まれた非磁性層とを有し、前記非磁性層の厚みは、2.5nm以上であってもよい。
本発明の一態様のニューロモーフィックデバイスでは、前記磁化自由層は、Co/Pt多層膜、Co/Pd多層膜、及びCoCrPt合金膜からなる群から選択された垂直磁化膜であってもよい。
本発明の一態様のニューロモーフィックデバイスでは、前記出力検出器は、前記複数の積演算素子からの出力電流値を検出してもよい。
本発明の一態様のニューロモーフィックデバイスでは、前記出力検出器は、前記複数の積演算素子から出力される電荷を検出してもよい。
本発明の一態様は、積演算部と和演算部とを備える積和演算器の故障判断方法であって、前記積演算部は、複数の積演算素子を備え、前記複数の積演算素子のそれぞれは、抵抗変化素子であり、前記複数の積演算素子からの出力の合計値を検出する検出ステップと、前記検出ステップにおいて検出された前記合計値が規定値を超えた場合に、故障が発生したと判断する判断ステップとを備え、前記規定値は、前記複数の積演算素子のすべてが正常に動作する場合に検出され得る前記合計値の最大値以上の値である、積和演算器の故障判断方法である。
本発明によれば、ニューラルネットワークに適用される場合に、ニューラルネットワークの性能を大きく損なうおそれがある故障を正確に検知することができる積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法を提供することができる。
第1実施形態の積和演算器の一部の構成の一例を示す図である。 第1実施形態の積和演算器の全体構成の一例を示す図である。 出力検出器が検出した合計値および規定値を説明するための図である。 第1実施形態の積和演算器の複数の積演算素子のそれぞれを構成する磁気抵抗効果素子の一例を示す斜視図である。 第1実施形態の積和演算器の適用例を示す図である。 隠れ層において使用される活性化関数を説明するための図である。 第1実施形態の積和演算器によって実行される処理の一例を示すフローチャートである。 第2実施形態の積和演算器の一部の構成の一例を示す図である。
以下、図面を参照し、本発明の積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法の実施形態について説明する。
<第1実施形態>(抵抗変化素子が磁気抵抗効果素子)
図1は第1実施形態の積和演算器1の一部の構成の一例を示す図である。図2は第1実施形態の積和演算器1の全体構成の一例を示す図である。
図1および図2に示す例では、第1実施形態の積和演算器1が、積演算部10と、和演算部11と、故障判断部12と、機能置換部13と、故障箇所特定部14と、入力遮断部15と、出力遮断部16とを備えている。積演算部10は、カラム10Aと、カラム10Bとを備えている。
図1に示す例では、積演算部10が、2個のカラム10A、10Bを備えているが、1個のカラムだけでもよく、また、3個以上のカラム10A、10B、…を備えていてもよい。
図1に示す例では、カラム10Aが、積演算素子10AAと、積演算素子10ABと、積演算素子10ACとを備えている。カラム10Bが、積演算素子10BAと、積演算素子10BBと、積演算素子10BCとを備えている。
図1に示す例では、カラム10Aが3個の積演算素子10AA、10AB、10ACを備え、カラム10Bが3個の積演算素子10BA、10BB、10BCを備えているが、カラム10Aが、3個以外の複数の積演算素子を備え、カラム10Bが、3個以外の複数の積演算素子を備えてもよい。
図1に示す例では、複数の積演算素子10AA〜10AC、10BA〜10BCのそれぞれは、読み出し端子と、書き込み端子と、共通端子とを備える抵抗変化素子である。
積演算素子10AA、10BAの読み出し端子は、ラインL11に接続されている。積演算素子10AA、10BAの書き込み端子は、ラインL12に接続されている。
積演算素子10AB、10BBの読み出し端子は、ラインL21に接続されている。積演算素子10AB、10BBの書き込み端子は、ラインL22に接続されている。
積演算素子10AC、10BCの読み出し端子は、ラインL31に接続されている。積演算素子10AC、10BCの書き込み端子は、ラインL32に接続されている。
積演算素子10AA、10AB、10ACの共通端子は、ラインM1に接続されている。積演算素子10BA、10BB、10BCの共通端子は、ラインM2に接続されている。
和演算部11は、積演算素子10AA、10AB、10ACからの出力の合計値を検出する出力検出器11Aと、積演算素子10BA、10BB、10BCからの出力の合計値を検出する出力検出器11Bとを備えている。出力検出器11AはラインM1に配置されている。出力検出器11BはラインM2に配置されている。
図1に示す例では、出力検出器11Aが、積演算素子10AA、10AB、10ACからの出力電流値を検出し、出力検出器11Bが、積演算素子10BA、10BB、10BCからの出力電流値を検出する。他の例では、出力検出器11Aが、積演算素子10AA、10AB、10ACからの出力を電荷として検出し、出力検出器11Bが、積演算素子10BA、10BB、10BCからの出力を電荷として検出してもよい。
本発明において積演算素子として用いられる抵抗変化素子は、外部からの刺激(電流、電圧、磁場など)に対して可逆的に電気抵抗が変化する素子である。かかる抵抗変化素子としては例えば、抵抗変化型メモリ(RRAM)素子、相変化メモリ(PCRAM)素子、異方性磁気抵抗効果(AMR)素子、トンネル磁気抵抗効果(TMR)素子、巨大磁気抵抗効果(GMR)素子などが挙げられる。
故障判断部12は、出力検出器11Aが検出した合計値が規定値を超えた場合に、カラム10Aに含まれる複数の積演算素子10AA〜10ACの少なくとも1つに、出力電流が大きくなる故障が発生したと判断する。また、故障判断部12は、出力検出器11Bが検出した合計値が規定値を超えた場合に、カラム10Bに含まれる複数の積演算素子10BA〜10BCの少なくとも1つに、出力電流が大きくなる故障が発生したと判断する。
図3は出力検出器11Aが検出した合計値および規定値を説明するための図である。図3において、縦軸は、出力検出器11Aによって検出される複数の積演算素子10AA〜10ACの出力電流の合計値、規定値などを示す。横軸は、積演算素子10AA〜10ACの状態(抵抗値の大きさ)を示す。
複数の積演算素子10AA〜10ACの正常動作時であって、積演算素子10AA〜10ACの抵抗値が最も高い時には、出力検出器11Aによって検出される複数の積演算素子10AA〜10ACの出力電流の合計値が最小値Minになる。
複数の積演算素子10AA〜10ACの正常動作時には、積演算素子10AA〜10ACの抵抗値が低くなるに従って、出力検出器11Aによって検出される複数の積演算素子10AA〜10ACの出力電流の合計値が大きくなる。
複数の積演算素子10AA〜10ACの正常動作時であって、積演算素子10AA〜10ACの抵抗値が最も低い時には、出力検出器11Aによって検出される複数の積演算素子10AA〜10ACの出力電流の合計値が最大値Maxになる。
規定値は、最大値Max以上の値に設定されている。つまり、規定値は、複数の積演算素子10AA〜10ACのすべてが正常に動作する場合に出力検出器11Aが検出し得る合計値の最大値Max以上の値である。
図3に示す例において、点P1の状態では、出力検出器11Aが検出した積演算素子10AA〜10ACの出力電流の合計値が、規定値を超えない。そのため、故障判断部12は、カラム10Aに含まれる複数の積演算素子10AA〜10ACのいずれにも、出力電流が大きくなる故障が発生していないと判断する。
一方、点P2の状態では、出力検出器11Aが検出した積演算素子10AA〜10ACの出力電流の合計値が、規定値を超える。そのため、故障判断部12は、カラム10Aに含まれる複数の積演算素子10AA〜10ACの少なくとも1つに、出力電流が大きくなる故障が発生したと判断する。
詳細には、図1および図3に示す例では、積演算素子10AA〜10AC(および積演算素子10BA〜10BC)のそれぞれは、磁気抵抗効果を示す磁気抵抗効果素子である。また、正常動作時における複数の積演算素子10AA〜10ACのそれぞれの抵抗値と、故障時における複数の積演算素子10AA〜10ACのそれぞれの抵抗値とが3桁以上異なるものとすることができる。
図4は第1実施形態の積和演算器1の複数の積演算素子10AA〜10AC、10BA〜10BCのそれぞれを構成する磁気抵抗効果素子Aの一例を示す斜視図である。
図4に示す例では、磁気抵抗効果素子Aは、磁壁DWを有する磁化自由層A1と、磁化方向が固定された磁化固定層A2と、非磁性層A3とを有する。非磁性層A3は、磁化自由層A1と磁化固定層A2とに挟まれている。磁化自由層A1は、磁壁DWの一方の側に第1領域A11を有し、磁壁DWの他方の側に第2領域A12を有する。第1領域A11には、書き込み端子AAが設けられている。第2領域A12には、共通端子ABが設けられている。磁化固定層A2には、読み出し端子ACが設けられている。
磁壁DWの移動量(移動距離)は、書き込み端子AAと共通端子ABとの間に流す書き込み電流の大きさ、時間を調整することによって可変に制御することができる。書き込み電流の大きさ、時間は例えば、パルス数あるいはパルス幅によって磁壁DWの移動量(移動距離)を設定することもできる。磁壁DWの駆動(移動)によって磁化固定層A2と磁化自由層A1のそれぞれの磁化方向が平行な(あるいは反平行な)部分の面積が連続的に変化すると、磁化方向が平行な部分の面積率と磁化方向が反平行な部分の面積率との比が連続的に変化し、磁気抵抗効果素子において線形に近い抵抗変化が得られる。
また、データの読み出しは、読み出し端子ACと共通端子ABとの間に電流を流して、磁化方向が平行な部分の面積率と磁化方向が反平行な部分の面積率との比に応じた抵抗を検出することで行うことができる(例えば、特許文献1参照)。
[磁化固定層A2]
磁化固定層A2は、磁化が第1の方向(例えば図4の左向き)に配向し、固定された層である。ここで、磁化が固定されるとは、書き込み電流を用いた書き込み前後において磁化方向が変化しない(磁化が固定されている)ことを意味する。
図4に示す例では、磁化固定層A2は磁化が面内磁気異方性(面内磁化容易軸)を有する面内磁化膜である。磁化固定層A2は、面内磁化膜に限られず、垂直磁気異方性(垂直磁化容易軸)を有する垂直磁化膜であってもよい。
磁化固定層A2が面内磁化膜であると、高いMR比(磁気抵抗変化率)を有し、読み込み時にスピントランスファートルク(STT)による影響を受けにくく、読み取り電圧を大きくできる。一方、素子を微小化したい場合には磁気異方性が大きく、反磁界が小さい、垂直磁化膜を用いることが好ましい。
磁化固定層A2には、公知の材料を用いることができる。例えば、Cr、Mn、Co、Fe及びNiからなる群から選択される金属及びこれらの金属を1種以上含み強磁性を示す合金を用いることができる。またこれらの金属と、B、C、及びNの少なくとも1種以上の元素とを含む合金を用いることもできる。具体的には、Co−FeやCo−Fe−Bが挙げられる。
また磁化固定層A2には、CoFeSiなどのホイスラー合金を用いることもできる。ホイスラー合金は、XYZの化学組成をもつ金属間化合物を含み、Xは、周期表上でCo、Fe、Ni、あるいはCu族の遷移金属元素または貴金属元素であり、Yは、Mn、V、CrあるいはTi族の遷移金属でありXの元素種をとることもでき、Zは、III族からV族の典型元素である。例えば、CoFeSi、CoMnSiやCoMn1−aFeAlSi1−bなどが挙げられる。
また磁化固定層A2は強磁性層、非磁性層から成るシンセティック構造、あるいは反強磁性層、強磁性層、非磁性層から成るシンセティック構造であってもよい。後者においてはシンセティック構造において磁化固定層A2の磁化方向は反強磁性層によって強く保持される。そのため、磁化固定層A2の磁化が外部からの影響を受けにくくなる。
磁化固定層A2の磁化をXY面内に配向させる(磁化固定層A2を面内磁化膜にする)場合は、例えば、NiFeを用いることが好ましい。一方で磁化固定層A2の磁化をZ方向に配向させる(磁化固定層A2を垂直磁化膜にする)場合は、例えば、Co/Ni積層膜、Co/Pt積層膜等を用いることが好ましい。例えば、磁化固定層A2を[Co(0.24nm)/Pt(0.16nm)]/Ru(0.9nm)/[Pt(0.16nm)/Co(0.16nm)]/Ta(0.2nm)/FeB(1.0nm)とすると、垂直磁化膜となる。
[非磁性層A3]
非磁性層A3は、磁化固定層A2の下面に設けられている。磁気抵抗効果素子Aは、非磁性層A3を介して磁化固定層A2に対する磁化自由層A1の磁化状態の変化を抵抗値変化として読み出す。すなわち、磁化固定層A2、非磁性層A3及び磁化自由層A1は磁気抵抗効果素子Aとして機能し、非磁性層A3が絶縁体からなる場合はトンネル磁気抵抗(TMR)素子と似た構成であり、非磁性層2が金属からなる場合は巨大磁気抵抗効果(GMR)素子と似た構成である。
非磁性層A3の材料としては、磁気抵抗効果素子Aの非磁性層に用いることができる公知の材料を用いることができる。非磁性層A3が絶縁体からなる場合(トンネルバリア層である場合)、その材料としてAl、SiO、MgO、MgAl、ZnAl、MgGa、ZnGa、MgIn、ZnIn、及び、これらの材料の多層膜や混合組成膜等を用いることができる。またこれらの他にも、Al、Si、Mgの一部が、Zn、Be等に置換された材料等も用いることができる。これらの中でも、MgOやMgAlはコヒーレントトンネルが実現できる材料であるため、磁気抵抗比(MR比)を大きくとることができる。一方で、非磁性層2が金属からなる場合は、その材料としてCu、Al、Ag等を用いることができる。
非磁性層A3が絶縁体からなる場合(トンネルバリア層である場合)、その厚みは、例えば2.5nm以上である。
[磁化自由層A1]
磁化自由層A1は磁壁駆動型(移動型)MRAMの磁壁駆動層に相当する。
磁化自由層A1は強磁性体材料からなり、その内部の磁化の向きは反転可能である。磁化自由層A1は、磁化が磁化固定層A2と逆向きの第2の方向に配向した第1領域A11と、磁化が第1の方向と同じ向きに配向した第2領域A12と、これらの領域の界面をなす磁壁DWとを有する。磁壁DWを挟んで第1領域A11と第2領域A12の磁化の向きは反対である。磁壁DWは、磁化自由層A1における第1領域A11と第2領域A12の構成比率が変化することで移動する。
磁化自由層A1の材料には、公知の材料を用いることができ、特に軟磁性材料を適用できる。例えば、Cr、Mn、Co、Fe及びNiからなる群から選択される金属、これらの金属を1種以上含む合金、これらの金属とB、C、及びNの少なくとも1種以上の元素とが含まれる合金等を用いることができる。具体的には、Co−Fe、Co−Fe−B、Ni−Feが、磁化自由層A1の材料として挙げられる。
磁化自由層A1の材料には、飽和磁化が小さい材料を用いることもできる。例えば、(MnGa)Asや(InFe)As、あるいはCo/Tb多層膜やGdFeCoのように飽和磁化が小さい材料を用いると、小さい電流密度で磁化自由層A1の磁壁DWを駆動させることができる。また、これらの材料を用いると、磁壁DWの駆動速度が遅くなる。
NiFeのような磁気異方性が弱い材料は、磁壁DWの駆動速度が速く、100m/sec以上の速度で磁壁DWが動作する。つまり、磁壁DWは10nsecのパルスで、1μmの距離を移動する。したがって、磁化自由層A1を素子内でアナログ的に動かす場合には、高価な半導体回路を用いて微小なパルスを印加するか、集積度を犠牲にして磁化自由層を十分長くするなどの対応が必要となる。これに対し、磁壁DWの駆動速度が遅い材料の場合には、十分長いパルス電流を印加する場合や磁化自由層A1の長さが短い場合でも、アナログメモリを形成することが可能である。
磁化自由層A1を垂直磁化膜とする場合、Co/Pt多層膜、Co/Pd多層膜、及びCoCrPt合金膜からなる群から選択された垂直磁化膜が好ましい。また、MnX(X=Ga,Ge)の垂直磁化膜やCo/Niなどの多層膜による垂直磁化膜を用いることもできる。これらの材料は磁壁駆動のための電流密度が小さくても磁壁DWを駆動させることが可能である。
磁化自由層A1が長手方向に延在する長さは60nm以上であることが好ましい。60nm未満では単磁区になりやすく、磁化自由層A1内に磁壁DWが形成されにくい。
磁化自由層A1の厚さは磁壁駆動層として機能する限り、特に制限はないが、例えば、2nm〜60nmとすることができる。磁化自由層A1の厚さが60nm以上になると、積層方向に磁壁が形成される可能性が高まる。ただし、積層方向に磁壁が形成されるか否かは、磁化自由層A1の形状異方性とのバランスによって生じる。磁化自由層A1の厚さが60nm未満であれば、磁壁DWができることは考えにくい。
磁化自由層A1は、層の側面に磁壁DWの移動を止める磁壁ピン止め部を有してもよい。例えば、磁化自由層A1の磁壁DWの移動を止めたい位置に、凹凸、溝、膨らみ、くびれ、切り欠きなどを設けると、磁壁の移動を止める(ピンする)ことができる。磁壁ピン止め部を有すると、閾値以上の電流を流さないとそれ以上磁壁が移動しない構成とすることができ、出力信号をアナログ的ではなく、多値化し易くなる。
例えば、磁壁ピン止め部を所定の距離ごとに形成することにより、磁壁DWをより安定的に保持することができ、安定的な多値記録を可能にし、より安定的に多値化された出力信号を読み出すことを可能にする。
図4に示す例では、磁壁DWを形成するために、磁化自由層A1のうち、平面視において磁化固定層A2に重ならない両端部のそれぞれに、第1領域A11の磁化と同じ第1の方向の磁化を有する第1磁化供給層A4、及び、第2領域A12の磁化と同じ第2の方向の磁化を有する第2磁化供給層A5を有する。
第1磁化供給層A4及び第2磁化供給層A5の材料としては、磁化固定層A2に使える強磁性材料と同じ材料を用いることができる。
図4に示す例では、磁壁DWを形成するために、磁化自由層A1の両端部のいずれにも磁化が固定された層として第1磁化供給層A4及び第2磁化供給層A5を用いたが、いずれか一方又は両方に、磁化自由層A1に接すると共に磁化自由層A1の長手方向に対して交差する方向に延在するスピン軌道トルク(SOT)配線を用いてもよい。スピン軌道トルク配線は、電流が流れるとスピンホール効果によって純スピン流が生成される材料からなるものである。
かかる構成を有することにより、磁化が固定された層としての磁化供給層を設置することがなくても、スピン軌道トルク配線の両端に電流を流すことにより磁化自由層A1に磁壁を導入することができ、また、スピン軌道トルク配線を介して磁化自由層A1に電流を流すことで、磁壁を移動させることができる。
また、図4に示す例では、磁壁DWを形成するために、磁化自由層A1の両端部のいずれにも磁化が固定された層として第1磁化供給層A4及び第2磁化供給層A5を用いたが、いずれか一方又は両方に、磁化自由層A1と電気的に絶縁されていると共に、磁化自由層A1に対して交差する方向に延在する磁場印加配線を用いてもよい。磁場印加配線に電流を流すことによりアンペールの法則により磁場が発生する。磁場印加配線に流す電流の向きによって、発生する磁場の向きを逆向きにすることができる。そのため、磁化自由層A1の端部に面内磁化を供給可能に配置することによって、磁場印加配線に流す電流の向きに応じて磁化自由層A1の端部に互いに逆向きの面内磁化方向のうちの一方の面内磁化方向の磁化を供給することができる。また、磁化自由層A1の端部に垂直磁化を供給可能に配置することによって、磁場印加配線に流す電流の向きに応じて磁化自由層A1の端部に互いに逆向きの垂直磁化方向のうちの一方の垂直磁化方向の磁化を供給することができる。
また、図4に示す例では、磁壁DWを形成するために、磁化自由層A1の両端部のいずれにも磁化が固定された層として第1磁化供給層A4及び第2磁化供給層A5を用いたが、いずれか一方又は両方に、磁化自由層A1に絶縁層を介して接続された電圧印加端子を用いてもよい。磁化固定層A2と電圧印加端子との間に電圧を印加すると、磁化自由層A1の磁化の一部が電圧の影響を受ける。例えば、電圧印加端子から電圧をパルスで印加すると磁化の一部は、電圧印加時には磁化自由層A1の磁化の方向に対して直交する方向に配向し、電圧印加が止まったタイミングでは磁化自由層A1の磁化は第1の方向か又はその逆方向の第2の方向に配向する。この直交する方向に配向した磁化が第1の方向か又はその逆方向の第2の方向に倒れるかは等確率であり、パルス電圧を印加するタイミング、回数、周期を調整することで、磁化の一部を第1の方向から第2の方向に配向させることができる。
磁化自由層A1と非磁性層A3の間に磁気結合層を設置してもよい。磁気結合層とは、磁化自由層A1の磁化状態を転写する層である。磁化自由層A1の主たる機能は磁壁を駆動させるための層であり、磁化固定層A1と非磁性層A2を介して生じる磁気抵抗効果に適した材料を選択できるとは限らない。一般的に、非磁性層A2を用いたコヒーレントトンネル効果を生じさせるためには、磁化固定層A1や磁気結合層はBCC構造の強磁性材料が良いことが知られている。特に、磁化固定層A1や磁気結合層の材料として、Co−Fe−Bの組成の材料がスパッタによって作成した際に大きな出力が得られることが知られている。
図1および図2に示す例では、カラム10Aが故障したと故障判断部12が判断した場合に、機能置換部13は、カラム10Aの故障前にカラム10Aの複数の積演算素子10AA〜10ACが行っていた積演算を、カラム10Bの複数の積演算素子10BA〜10BCに行わせる。具体的には、例えば、機能置換部13は、カラム10Bの複数の積演算素子10BA〜10BCのそれぞれの抵抗値を、故障前のカラム10Aの複数の積演算素子10AA〜10ACのそれぞれの抵抗値に設定する。
また、カラム10Bが故障したと故障判断部12が判断した場合に、機能置換部13は、カラム10Bの故障前にカラム10Bの複数の積演算素子10BA〜10BCが行っていた積演算を、カラム10Aの複数の積演算素子10AA〜10ACに行わせる。具体的には、例えば、機能置換部13は、カラム10Aの複数の積演算素子10AA〜10ACのそれぞれの抵抗値を、故障前のカラム10Bの複数の積演算素子10BA〜10BCのそれぞれの抵抗値に設定する。
例えば、カラム10Aの複数の積演算素子10AA〜10ACのいずれかが故障したと故障判断部12が判断した場合に、故障箇所特定部14は、複数の積演算素子10AA〜10ACのうちのどの積演算素子が故障したかを特定する。詳細には、故障箇所特定部14は、複数の積演算素子10AA〜10ACの出力側(図1の下側)から複数の積演算素子10AA〜10ACに対して信号を入力することによって、どの積演算素子が故障したかを特定する。
カラム10Aの複数の積演算素子10AA〜10ACのいずれかが故障したと故障判断部12が判断し、例えば積演算素子10ABが故障したと故障箇所特定部14が特定した場合に、入力遮断部15は、故障した積演算素子10ABに対する入力を遮断する。その結果、積演算素子10ABを介してラインM1に過大な電流が出力されてしまうことを回避することができる。
積演算素子10ABに対する入力を遮断する入力遮断部15の一例では、入力遮断部15が、積演算素子10ABの読み出し端子AC(図4参照)とラインL21との間に配置されたスイッチによって構成される。積演算素子10ABに対する入力を遮断する入力遮断部15の他の例では、入力遮断部15が、積演算素子10AB、10BBへの入力をラインL21上において遮断するスイッチによって構成される。
故障した積演算素子10ABに対する入力を入力遮断部15が遮断する代わりに、出力遮断部16が、故障した積演算素子10ABを含む複数の積演算素子10AA〜10ACからの出力を例えばラインM1上において遮断してもよい。
同様に、カラム10Bの複数の積演算素子10BA〜10BCのいずれかが故障したと故障判断部12が判断した場合に、故障箇所特定部14は、複数の積演算素子10BA〜10BCのうちのどの積演算素子が故障したかを特定する。詳細には、故障箇所特定部14は、複数の積演算素子10BA〜10BCの出力側(図1の下側)から複数の積演算素子10BA〜10BCに対して信号を入力することによって、どの積演算素子が故障したかを特定する。
カラム10Bの複数の積演算素子10BA〜10BCのいずれかが故障したと故障判断部12が判断し、例えば積演算素子10BCが故障したと故障箇所特定部14が特定した場合に、入力遮断部15は、故障した積演算素子10BCに対する入力を遮断する。その結果、積演算素子10BCを介してラインM2に過大な電流が出力されてしまうことを回避することができる。
故障した積演算素子10BCに対する入力を入力遮断部15が遮断する代わりに、出力遮断部16が、故障した積演算素子10BCを含む複数の積演算素子10BA〜10BCからの出力を例えばラインM2上において遮断してもよい。
図5は第1実施形態の積和演算器1の適用例を示す図である。
図5に示す例では、第1実施形態の積和演算器1が、ニューロモーフィックデバイス100に適用されている。ニューロモーフィックデバイス100は、入力層101と、隠れ層102と、出力層103と、第1実施形態の積和演算器1と、積和演算器2とを備えている。積和演算器2は、図1に示す第1実施形態の積和演算器1と同様に複数の積演算素子を有する。
入力層101は、例えば4つのノード101A、101B、101C、101Dを備えている。隠れ層102は、例えば3つのノード102A、102B、102Cを備えている。出力層103は、例えば3つのノード103A、103B、103Cを備えている。
積和演算器1は、入力層101と隠れ層102との間に配置され、入力層101の4つのノード101A、101B、101C、101Dと、隠れ層102の3つのノード102A、102B、102Cとを接続する。積和演算器1は、図1に示す積演算素子10AA〜10AC、10BA〜10BCの抵抗値を変更することによって、重みを変更する。
隠れ層102と出力層103との間には、積和演算器2が配置されている。積和演算器2は、隠れ層102の3つのノード102A、102B、102Cと、出力層103の3つのノード103A、103B、103Cとを接続する。積和演算器2は、複数の積演算素子の抵抗値を変更することによって、重みを変更する。
隠れ層102は、活性化関数(例えばシグモイド関数)を使用する。
図6は隠れ層102において使用される活性化関数を説明するための図である。図6において、横軸は活性化関数への入力値を示しており、縦軸は活性化関数からの出力値を示している。
図6に示す例では、活性化関数は、活性化関数への入力値が閾値以上の場合に、活性化関数からの出力値がゼロになるように、設定されている。
つまり、図5および図6に示す例では、例えば積和演算器1の故障などにより、閾値(図6参照)以上の値が、積和演算器1から隠れ層102に入力される場合に、隠れ層102は、出力値としてゼロの値を出力する。そのため、例えば積和演算器1の故障などの影響が、積和演算器2や出力層103に及んでしまうおそれを抑制することができる。
図7は第1実施形態の積和演算器1によって実行される処理の一例を示すフローチャートである。
ステップS10では、積演算部10および和演算部11が、積和演算を実行する。
ステップS11では、出力検出器11Aが、積演算素子10AA、10AB、10ACからの出力電流値を検出し、出力検出器11Bが、積演算素子10BA、10BB、10BCからの出力電流値を検出する。
ステップS12では、故障判断部12は、出力検出器11Aが検出した合計値が規定値を超えたか否かを判定し、出力検出器11Bが検出した合計値が規定値を超えたか否かを判定する。出力検出器11Aが検出した合計値が規定値を超えた場合、または、出力検出器11Bが検出した合計値が規定値を超えた場合には、ステップS13に進む。出力検出器11Aが検出した合計値が規定値以下であり、かつ、出力検出器11Bが検出した合計値が規定値以下である場合には、図7に示す処理が終了する。
ステップS13では、故障判断部12は、カラム10Aに含まれる複数の積演算素子10AA〜10ACの少なくとも1つに、出力電流が大きくなる故障が発生したと判断するか、あるいは、カラム10Bに含まれる複数の積演算素子10BA〜10BCの少なくとも1つに、出力電流が大きくなる故障が発生したと判断する。
本発明者は、鋭意研究において、積和演算器1を構成する積演算素子10AA〜10AC、10BA〜10BCの特性が何らかの要因で変化すると(詳細には、積演算素子10AA〜10AC、10BA〜10BCが故障すると)、ニューロモーフィックデバイス100の機能が低下することを見い出した。
特に、積演算素子10AA〜10AC、10BA〜10BCがショートモードで故障した場合(つまり、出力電流が大きくなる故障が積演算素子10AA〜10AC、10BA〜10BCに発生した場合)に、積和演算器1の積和演算機能や、ニューラルネットワークとしての性能が大きく損なわれることを見い出した。
詳細には、本発明者は、鋭意研究において、出力電流が大きくなる故障が積演算素子10AA〜10AC、10BA〜10BCに発生した場合には、出力電流が小さくなる故障が積演算素子10AA〜10AC、10BA〜10BCに発生した場合よりも、積和演算器1の積和演算機能や、ニューラルネットワークとしての性能が損なわれる度合いが大きいことを見い出した。これは故障した積演算素子(抵抗変化素子)に電流が集中して大量に流れることによって、他の積演算素子の重み(他の積演算素子からの電流)が回路上で見えなくなるためである。
そこで、第1実施形態の積和演算器1では、上述したように、故障判断部12は、出力検出器11Aが検出した合計値が規定値を超えた場合に、抵抗変化素子である複数の積演算素子10AA〜10ACのいずれかに故障が発生したと判断し、出力検出器11Bが検出した合計値が規定値を超えた場合に、抵抗変化素子である複数の積演算素子10BA〜10BCのいずれかに故障が発生したと判断する。また、その規定値は、複数の積演算素子10AA〜10ACのすべてが正常に動作する場合に出力検出器11Aが検出し得る合計値の最大値以上の値であり、複数の積演算素子10BA〜10BCのすべてが正常に動作する場合に出力検出器11Bが検出し得る合計値の最大値以上の値である。
そのため、第1実施形態の積和演算器1によれば、ニューラルネットワークに適用される場合に、ニューラルネットワークの性能を大きく損なうおそれがある故障(つまり、出力電流が大きくなる故障)を正確に検知することができる。
また、第1実施形態の積和演算器1では、上述したように、複数の積演算素子10AA〜10AC、10BA〜10BCのそれぞれは、書き込み端子AAと、共通端子ABと、読み出し端子ACとを有し、磁気抵抗効果を示す磁気抵抗効果素子Aである。また、磁気抵抗効果素子Aは、磁壁DWを有する磁化自由層A1と、磁化方向が固定された磁化固定層A2と、磁化自由層A1と磁化固定層A2とに挟まれた非磁性層A3とを有する。
つまり、第1実施形態の積和演算器1では、複数の積演算素子10AA〜10AC、10BA〜10BCとして、正常動作時における抵抗値と、故障時(詳細には、出力電流が大きくなる故障時)における抵抗値との差が大きい素子が用いられる。
そのため、第1実施形態の積和演算器1によれば、正常動作時における抵抗値と、故障時(詳細には、出力電流が大きくなる故障時)における抵抗値との差が小さい素子が用いられる場合よりも、ニューラルネットワークの性能を大きく損なうおそれがある故障を正確に検知することができる。
また、第1実施形態の積和演算器1では、上述したように、カラム10Aが故障したと故障判断部12が判断した場合に、カラム10Aの故障前にカラム10Aの複数の積演算素子10AA〜10ACが行っていた積演算が、カラム10Bの複数の積演算素子10BA〜10BCによって行われる。また、カラム10Bが故障したと故障判断部12が判断した場合に、カラム10Bの故障前にカラム10Bの複数の積演算素子10BA〜10BCが行っていた積演算が、カラム10Aの複数の積演算素子10AA〜10ACによって行われる。
そのため、第1実施形態の積和演算器1によれば、カラム10Aが故障した場合、あるいは、カラム10Bが故障した場合であっても、ニューラルネットワークの性能を維持することができる。
また、第1実施形態の積和演算器1では、上述したように、複数の積演算素子10AA〜10ACのいずれかが故障したと故障判断部12が判断した場合に、複数の積演算素子10AA〜10ACのうちの故障した積演算素子が特定され、故障した積演算素子に対する入力が遮断される。
また、複数の積演算素子10BA〜10BCのいずれかが故障したと故障判断部12が判断した場合に、複数の積演算素子10BA〜10BCのうちの故障した積演算素子が特定され、故障した積演算素子に対する入力が遮断される。
そのため、第1実施形態の積和演算器1によれば、故障した積演算素子に対する入力が遮断されない場合よりも、ニューラルネットワークの性能が大きく損なわれるおそれを抑制することができる。
あるいは、第1実施形態の積和演算器1では、上述したように、複数の積演算素子10AA〜10ACのいずれかが故障したと故障判断部12が判断した場合に、故障したと判断された複数の積演算素子10AA〜10ACからの出力が遮断される。
また、複数の積演算素子10BA〜10BCのいずれかが故障したと故障判断部12が判断した場合に、故障したと判断された複数の積演算素子10BA〜10BCからの出力が遮断される。
そのため、第1実施形態の積和演算器1によれば、故障したと判断された複数の積演算素子10AA〜10AC、10BA〜10BCからの出力が遮断されない場合よりも、ニューラルネットワークの性能が大きく損なわれるおそれを抑制することができる。
また、第1実施形態の積和演算器1を備えるニューロモーフィックデバイス100では、上述したように、隠れ層102において使用される活性化関数は、活性化関数への入力値が閾値以上の場合に、活性化関数からの出力値がゼロになるように、設定されている。
そのため、第1実施形態の積和演算器1を備えるニューロモーフィックデバイス100によれば、例えば積和演算器1の故障などの影響が、積和演算器2や出力層103に及んでしまうおそれを抑制することができる。
<第2実施形態>(抵抗変化素子が一般的な可変抵抗)
以下、本発明の積和演算器の第2実施形態について説明する。
第2実施形態の積和演算器1は、後述する点を除き、上述した第1実施形態の積和演算器1と同様に構成されている。従って、第2実施形態の積和演算器1によれば、後述する点を除き、上述した第1実施形態の積和演算器1と同様の効果を奏することができる。
図8は第2実施形態の積和演算器1の一部の構成の一例を示す図である。
第1実施形態の積和演算器1では、積演算素子10AA〜10AC、10BA〜10BCが磁気抵抗効果素子によって構成されているが、第2実施形態の積和演算器1では、積演算素子10AA〜10AC、10BA〜10BCが一般的な抵抗変化素子(可変抵抗)によって構成されている。
詳細には、図1に示す例では、複数の積演算素子10AA〜10AC、10BA〜10BCのそれぞれが、読み出し端子と、書き込み端子と、共通端子とを備えているが、図8に示す例では、複数の積演算素子10AA〜10AC、10BA〜10BCのそれぞれが、第1端子と、第2端子とを備えている。
図8に示す例では、積演算素子10AA、10BAの第1端子は、ラインL11に接続されている。積演算素子10AB、10BBの第1端子は、ラインL21に接続されている。積演算素子10AC、10BCの第1端子は、ラインL31に接続されている。
積演算素子10AA、10AB、10ACの第2端子は、ラインM1に接続されている。積演算素子10BA、10BB、10BCの第2端子は、ラインM2に接続されている。
和演算部11は、積演算素子10AA、10AB、10ACの第2端子からの出力の合計値を検出する出力検出器11Aと、積演算素子10BA、10BB、10BCの第2端子からの出力の合計値を検出する出力検出器11Bとを備えている。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。上述した各実施形態に記載の構成を組み合わせてもよい。
例えば、以上に示した実施形態に係る各装置(例えば、積和演算器1)の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体(記憶媒体)に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、オペレーティング・システム(OS:Operating System)あるいは周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また、記録媒体としては、例えば、一時的にデータを記録する記録媒体であってもよい。
さらに、「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークあるいは電話回線等の通信回線を介してプログラムが送信された場合のサーバあるいはクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記のプログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)あるいは電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
コンピュータでは、例えば、CPU(Central Processing Unit)などのプロセッサがメモリに記憶されたプログラムを読み出して実行する。
1…積和演算器、2…積和演算器、10…積演算部、10A…カラム、10AA…積演算素子、10AB…積演算素子、10AC…積演算素子、10B…カラム、10BA…積演算素子、10BB…積演算素子、10BC…積演算素子、11…和演算部、11A…出力検出器、11B…出力検出器、12…故障判断部、13…機能置換部、14…故障箇所特定部、15…入力遮断部、16…出力遮断部、100…ニューロモーフィックデバイス、101…入力層、101A、101B、101C、101D…ノード、102…隠れ層、102A、102B、102C…ノード、103…出力層、103A、103B、103C…ノード、A…磁気抵抗効果素子、AA…書き込み端子、AB…共通端子、AC…読み出し端子、A1…磁化自由層、A11…第1領域、A12…第2領域、A2…磁化固定層、A3…非磁性層、DW…磁壁、L11…ライン、L12…ライン、L21…ライン、L22…ライン、L31…ライン、L32…ライン、M1…ライン、M2…ライン

Claims (14)

  1. 積演算部と、和演算部と、故障判断部とを備え、
    前記積演算部は、複数の積演算素子を備え、
    前記複数の積演算素子のそれぞれは、抵抗変化素子であり、
    前記和演算部は、前記複数の積演算素子からの出力の合計値を検出する出力検出器を備え、
    前記故障判断部は、前記出力検出器が検出した前記合計値が規定値を超えた場合に、故障が発生したと判断し、
    前記規定値は、前記複数の積演算素子のすべてが正常に動作する場合に前記出力検出器が検出し得る前記合計値の最大値以上の値である、
    積和演算器。
  2. 前記抵抗変化素子は、書き込み端子と、共通端子と、読み出し端子とを有する、
    請求項1に記載の積和演算器。
  3. 前記抵抗変化素子は、磁気抵抗効果を示す磁気抵抗効果素子であり、
    前記磁気抵抗効果素子は、
    磁壁を有する磁化自由層と、
    磁化方向が固定された磁化固定層と、
    前記磁化自由層と前記磁化固定層とに挟まれた非磁性層とを有する、
    請求項1または請求項2に記載の積和演算器。
  4. 前記積演算部は、少なくとも、複数の積演算素子を有する第1カラムと、複数の積演算素子を有する第2カラムとを備え、
    前記和演算部は、少なくとも、前記第1カラムの複数の積演算素子からの出力の合計値を検出する第1出力検出器と、前記第2カラムの複数の積演算素子からの出力の合計値を検出する第2出力検出器とを備え、
    前記第1カラムが故障したと前記故障判断部が判断した場合に、前記第1カラムの故障前に前記第1カラムの複数の積演算素子が行っていた積演算を、前記第2カラムの複数の積演算素子に行わせる機能置換部をさらに備える、
    請求項1から請求項3のいずれか一項に記載の積和演算器。
  5. 前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、前記複数の積演算素子のうちの故障した積演算素子を特定する故障箇所特定部と、
    前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、前記故障した積演算素子に対する入力を遮断する入力遮断部とをさらに備え、
    前記故障箇所特定部は、前記複数の積演算素子の出力側から前記複数の積演算素子に対して信号を入力することによって、前記故障した積演算素子を特定する、
    請求項1から請求項4のいずれか一項に記載の積和演算器。
  6. 請求項1から請求項5のいずれか一項に記載の積和演算器を備えるニューロモーフィックデバイス。
  7. 活性化関数を使用する隠れ層をさらに備え、
    前記活性化関数は、前記活性化関数への入力値が閾値以上の場合に、前記活性化関数からの出力値がゼロになるように、設定される、
    請求項6に記載のニューロモーフィックデバイス。
  8. 請求項1から請求項3のいずれか一項に記載の積和演算器を備えるニューロモーフィックデバイスであって、
    前記複数の積演算素子が故障したと前記故障判断部が判断した場合に、故障したと判断された前記複数の積演算素子からの出力を遮断する出力遮断部をさらに備える、
    ニューロモーフィックデバイス。
  9. 正常動作時における前記複数の積演算素子のそれぞれの抵抗値と、故障時における前記複数の積演算素子のそれぞれの抵抗値とが3桁以上異なる、
    請求項6から請求項8のいずれか一項に記載のニューロモーフィックデバイス。
  10. 請求項1または請求項2に記載の積和演算器を備えるニューロモーフィックデバイスであって、
    前記抵抗変化素子は、磁気抵抗効果を示す磁気抵抗効果素子であり、
    前記磁気抵抗効果素子は、
    磁壁を有する磁化自由層と、
    磁化方向が固定された磁化固定層と、
    前記磁化自由層と前記磁化固定層とに挟まれた非磁性層とを有し、
    前記非磁性層の厚みは、2.5nm以上である、
    ニューロモーフィックデバイス。
  11. 前記磁化自由層は、Co/Pt多層膜、Co/Pd多層膜、及びCoCrPt合金膜からなる群から選択された垂直磁化膜である、
    請求項10に記載のニューロモーフィックデバイス。
  12. 前記出力検出器は、前記複数の積演算素子からの出力電流値を検出する、
    請求項6から請求項11のいずれか一項に記載のニューロモーフィックデバイス。
  13. 前記出力検出器は、前記複数の積演算素子から出力される電荷を検出する、
    請求項6から請求項11のいずれか一項に記載のニューロモーフィックデバイス。
  14. 積演算部と和演算部とを備える積和演算器の故障判断方法であって、
    前記積演算部は、複数の積演算素子を備え、
    前記複数の積演算素子のそれぞれは、抵抗変化素子であり、
    前記複数の積演算素子からの出力の合計値を検出する検出ステップと、
    前記検出ステップにおいて検出された前記合計値が規定値を超えた場合に、故障が発生したと判断する判断ステップとを備え、
    前記規定値は、前記複数の積演算素子のすべてが正常に動作する場合に検出され得る前記合計値の最大値以上の値である、
    積和演算器の故障判断方法。
JP2019562955A 2017-12-28 2018-12-12 積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法 Active JP6747610B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017254700 2017-12-28
JP2017254700 2017-12-28
PCT/JP2018/045714 WO2019131137A1 (ja) 2017-12-28 2018-12-12 積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法

Publications (2)

Publication Number Publication Date
JP6747610B2 true JP6747610B2 (ja) 2020-08-26
JPWO2019131137A1 JPWO2019131137A1 (ja) 2020-09-24

Family

ID=67067068

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019562955A Active JP6747610B2 (ja) 2017-12-28 2018-12-12 積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法

Country Status (4)

Country Link
US (1) US11442695B2 (ja)
JP (1) JP6747610B2 (ja)
CN (1) CN111512311B (ja)
WO (1) WO2019131137A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6819799B2 (ja) 2017-12-28 2021-01-27 Tdk株式会社 積和演算器の使用方法
JP7147953B2 (ja) * 2019-02-25 2022-10-05 株式会社ニコン 半導体装置、pHセンサ及びバイオセンサ並びに半導体装置の製造方法
EP3757997A1 (en) * 2019-06-24 2020-12-30 IMEC vzw Spintronic device with a synthetic antiferromagnet hybrid storage layer

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8540493B2 (en) * 2003-12-08 2013-09-24 Sta-Rite Industries, Llc Pump control system and method
JP4140616B2 (ja) * 2005-04-05 2008-08-27 Tdk株式会社 トンネル磁気抵抗効果素子、薄膜磁気ヘッド、ヘッドジンバルアセンブリ及び磁気ディスク装置、並びに該トンネル磁気抵抗効果素子の製造方法、検査方法及び検査装置
EP2077580B1 (en) * 2006-11-17 2011-11-30 Panasonic Corporation Nonvolatile memory element, nonvolatile memory device, nonvolatile semiconductor device, and method for manufacturing nonvolatile memory element
JP5160304B2 (ja) * 2008-05-22 2013-03-13 シャープ株式会社 抵抗変化型可変抵抗素子を備えた積演算装置、及び積和演算装置、これらの装置を各ニューロン素子に備えるニューラルネットワーク、並びに積演算方法
JPWO2011068177A1 (ja) * 2009-12-02 2013-04-18 日本電気株式会社 二重化計算システム及び二重化計算方法
US8898516B2 (en) * 2011-12-09 2014-11-25 Toyota Jidosha Kabushiki Kaisha Fault-tolerant computer system
JP5289647B1 (ja) * 2012-01-23 2013-09-11 パナソニック株式会社 ニューラルネットワーク回路の学習方法
JP2014216345A (ja) * 2013-04-22 2014-11-17 旭化成株式会社 太陽電池用樹脂封止シート
JP6501146B2 (ja) * 2014-03-18 2019-04-17 パナソニックIpマネジメント株式会社 ニューラルネットワーク回路およびその学習方法
WO2017183573A1 (ja) 2016-04-21 2017-10-26 Tdk株式会社 磁壁利用型アナログメモリ素子および磁壁利用型アナログメモリ
KR102331382B1 (ko) 2016-08-19 2021-11-26 소니그룹주식회사 곱합 연산 장치
JP7149198B2 (ja) * 2019-02-07 2022-10-06 ルネサスエレクトロニクス株式会社 半導体装置

Also Published As

Publication number Publication date
US11442695B2 (en) 2022-09-13
JPWO2019131137A1 (ja) 2020-09-24
US20210034331A1 (en) 2021-02-04
CN111512311B (zh) 2023-10-13
WO2019131137A1 (ja) 2019-07-04
CN111512311A (zh) 2020-08-07

Similar Documents

Publication Publication Date Title
JP6721136B2 (ja) 積和演算器、ニューロモーフィックデバイスおよび積和演算器の使用方法
US10892009B2 (en) Magnetic wall utilization-analog memory element and magnetic wall utilization analog memory
JPWO2018189964A1 (ja) 磁壁利用型アナログメモリ素子、磁壁利用型アナログメモリ、不揮発性ロジック回路及び磁気ニューロ素子
US10600461B2 (en) Magnetic domain wall displacement type magnetic recording element and magnetic recording array
JP7013839B2 (ja) 磁壁利用型アナログメモリ、不揮発性ロジック回路及び磁気ニューロ素子
JP6747610B2 (ja) 積和演算器、ニューロモーフィックデバイスおよび積和演算器の故障判断方法
WO2017183574A1 (ja) 磁壁利用型スピンmosfetおよび磁壁利用型アナログメモリ
JP2015088669A (ja) 多値型磁気メモリ素子及び磁気メモリ装置
JP6819799B2 (ja) 積和演算器の使用方法
JP6773239B2 (ja) 積和演算器、ニューロモーフィックデバイスおよび積和演算器の使用方法
JP6876281B2 (ja) 積和演算器、ニューロモーフィックデバイスおよび積和演算器の使用方法
JP2011198416A (ja) 磁気メモリ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200514

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200514

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200720

R150 Certificate of patent or registration of utility model

Ref document number: 6747610

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150