JP7070190B2 - ニューラルネットワーク回路 - Google Patents

ニューラルネットワーク回路 Download PDF

Info

Publication number
JP7070190B2
JP7070190B2 JP2018134983A JP2018134983A JP7070190B2 JP 7070190 B2 JP7070190 B2 JP 7070190B2 JP 2018134983 A JP2018134983 A JP 2018134983A JP 2018134983 A JP2018134983 A JP 2018134983A JP 7070190 B2 JP7070190 B2 JP 7070190B2
Authority
JP
Japan
Prior art keywords
circuit
amplifier
switches
current
voltage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018134983A
Other languages
English (en)
Other versions
JP2020013319A (ja
Inventor
茂樹 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2018134983A priority Critical patent/JP7070190B2/ja
Priority to US16/449,932 priority patent/US11423294B2/en
Publication of JP2020013319A publication Critical patent/JP2020013319A/ja
Application granted granted Critical
Publication of JP7070190B2 publication Critical patent/JP7070190B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C11/00Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
    • G11C11/54Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using elements simulating biological cells, e.g. neuron
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M1/00Analogue/digital conversion; Digital/analogue conversion
    • H03M1/66Digital/analogue converters
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10NELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10N70/00Solid-state devices having no potential barriers, and specially adapted for rectifying, amplifying, oscillating or switching
    • H10N70/20Multistable switching devices, e.g. memristors
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C13/00Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00
    • G11C13/0002Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00 using resistive RAM [RRAM] elements
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11CSTATIC STORES
    • G11C2213/00Indexing scheme relating to G11C13/00 for features not covered by this group
    • G11C2213/70Resistive array aspects
    • G11C2213/77Array wherein the memory element being directly connected to the bit lines and word lines without any access device being used

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Computer Hardware Design (AREA)
  • Analogue/Digital Conversion (AREA)
  • Electronic Switches (AREA)

Description

本発明は、記憶素子としてのメモリスタを格子状に結合してなる記憶部を有するニューラルネットワーク回路に関する。
現在、メモリスタと称される、不揮発性でコンダクタンス値を可変できる2端子の素子をシナプスとして用い、ニューラルネットワーク回路を構成する研究が進められている。例えば、非特許文献1のFig.2に開示されているように、メモリスタを格子状に配置し、D/Aコンバータによりアナログ電圧を印加して電流を生成する。その合成電流をトランスインピーダンスアンプで電圧に変換し、A/Dコンバータでデジタルデータに変換する。それから、活性化関数による演算を行った後、必要に応じてプーリング等の信号処理を行う。その出力データを次の信号処理層のD/Aコンバータに送り、複数層での信号処理を行う。この時、メモリスタで構成されるクロスバー部では積和演算が実行される。
"Low Power Convolutional Neural Networks on a Chip" Circuits and Systems (ISCAS), 2016 IEEE
上記の回路構成を基に、画像認識を行う10層のCNN,畳込みニューラルネットワークを構成した例を図11に示す。同図には、各信号処理層に必要な入力DACと出力ADCのチャンネル数を示している。1層目の畳込み,Convolution層は入力が28ch,出力が96chで構成される。2層目は、入力が865ch,出力が96chで構成される。入力の865chは,1層目の出力96chの9個分のデータにバイアス1chを加えて、96×9+1=865chとなる。
この時、2層目の基本セル構成を入力96ch/出力96chのクロスバーと入力1ch/出力96chのクロスバーの組合わせとすると、入力96ch/出力96chの積和演算を9回と、入力1ch/出力96chの積和演算を1回した出力の和をとることで、入力865ch/出力96chのクロスバーと同じ演算結果が得られる。すなわち、バイアス用の1個のDACを除けば、出力ADCの個数と次段の入力ADCの個数を同じに出来る。しかしながら、このような構成をIC化する際には、消費電力と面積の観点からDAC及びADCを更に削減する必要がなる。
本発明は上記事情に鑑みてなされたものであり、その目的は、演算精度と信号処理速度とを維持しながら、回路規模を削減できるニューラルネットワーク回路を提供することにある。
請求項1記載のニューラルネットワーク回路によれば、可変抵抗素子であるメモリスタを記憶素子として、格子状に結合してなる複数の記憶部と、記憶部の複数の電圧入力端子に、信号電圧を印加するようにデータが入力される複数のD/Aコンバータと、複数のD/Aコンバータと前記複数の電圧入力端子との間に接続される複数の駆動アンプと、記憶部の電流出力端子に接続され、前記端子に流れる電流を電圧に変換して出力する複数のI/V変換アンプと、これら複数のI/V変換アンプを介して変換された信号電圧をA/D変換する複数のA/Dコンバータとを備える。
また、第1及び第2スイッチの直列回路を駆動アンプの帰還ループに配置し、第3及び第4スイッチの直列回路をI/V変換アンプの帰還ループに配置する。第1及び第2スイッチの共通接続点をメモリスタの一端に接続し、第3及び第4スイッチの共通接続点を前記メモリスタの他端に接続する。そして、A/Dコンバータは、I/V変換アンプの帰還抵抗の両端の電圧をA/D変換する。
記憶素子であるメモリスタの一端は、第1及び第2スイッチの直列回路を介して駆動アンプに接続され、他端は第3及び第4スイッチの直列回路を介してI/V変換アンプに接続される。このように構成すれば、第1~第4スイッチのオンオフを切り替えることで、記憶部の入力側にある駆動アンプと同出力側にあるI/V変換アンプとの接続を、記憶部毎に切り替えることができる。したがって、複数の記憶部を用いて大規模ネットワークを構成する際に、D/Aコンバータ及び駆動アンプ,並びにI/V変換アンプ及びA/Dコンバータを共用化でき、演算精度を維持しながら回路規模を削減できる。
請求項2記載のニューラルネットワーク回路によれば、駆動アンプの出力端子と反転入力端子との間に第5スイッチを接続し、I/V変換アンプの反転入力端子と帰還抵抗の一端との間に第6スイッチを接続する。
上述したように、入力側,出力側にある各アンプと記憶部との接続を第1~第4スイッチにより切り替える際に、その切り替えのタイミングやアンプの周波数特性によっては、アンプが一時的に開ループ状態になり、出力信号が電源電圧レベルやグランドレベルに張り付くおそれがある。一般にメモリスタは、1~2V程度の電圧書き込みや消去が行われるため、アンプの出力信号が電源電圧レベルやグランドレベルに変化すると、メモリスタに記憶されていたデータが書き換わってしまう可能性がある。そこで、第5,第6スイッチをオンにすれば各アンプによりボルテージフォロワが構成されるので、アンプが開ループ状態になることを回避できる。
具体的には、請求項3記載のニューラルネットワーク回路のように、切替え制御回路によって、第5及び第6スイッチをオンにした状態で第1~第4スイッチのオン,オフを切り替える。これにより、記憶部を構成するメモリスタに電圧ストレスが加わることを防止できる。
第1実施形態であり、ニューラルネットワーク回路を構成するクロスバー回路において、1つのメモリスタの周辺回路を示す図 ニューラルネットワーク回路の全体構成を示す図 想定従来構成を示す図(その1) 想定従来構成を示す図(その2) 第2実施形態であり、ニューラルネットワーク回路の全体構成を示す図 第3実施形態であり、ニューラルネットワーク回路の全体構成を示す図 第4実施形態であり、ニューラルネットワーク回路を構成するクロスバー回路において、1つのメモリスタの周辺回路を示す図 アンプのパワーオン時の動作手順を示すフローチャート アンプのパワーオフ時の動作手順を示すフローチャート クロスバー回路の切り替え動作手順を示すフローチャート 非特許文献1に示す回路を用いて、10層のCNNを構成した例を示す図
(第1実施形態)
以下、第1実施形態について説明する。図3は、図11に示す10層のCNNを、実際にクロスバー回路を用いて構成した場合の一例である。CNN回路1は、入力データをD/Aコンバータ2により電圧変換する。変換された電圧はドライブアンプ3を介してメモリスタクロスバー回路4に印加される。ドライブアンプ3は駆動アンプに相当する。メモリスタクロスバー回路4は、メモリスタを記憶素子とするもので、複数の記憶素子を格子状に配置して構成されており、記憶部に相当する。
クロスバー回路4からは、各記憶素子に設定されているコンダクタンス値に応じて電流が出力され、その電流はセンスアンプ5により電圧に変換される。センスアンプ5はI/V変換アンプに相当する。センスアンプ5の出力電圧はA/Dコンバータ6によりA/D変換され、デジタルデータとして出力される。尚、以下の説明では、A/DコンバータをADC,D/AコンバータをDACと表記することがある。
図3では、クロスバー回路4を2×2の4素子のみ示しており、それに対応してDAC2,ドライブアンプ3,センスアンプ5及びADC6をそれぞれ2個ずつ示している。クロスバー回路4は、2個以上存在している。2個以上のクロスバー回路4に対してDAC2及びADC6を共用することを想定すると、同図に示すように、DAC2の出力端子と各ドライブアンプ3の非反転入力端子との間に、例えばアナログスイッチのようなスイッチ7を挿入し、センスアンプ5の出力端子とADC6の入力端子との間にスイッチ8を挿入することが考えられる。
このように構成すると、各クロスバー回路4により実行されるアナログ積和演算の精度については問題ないが、各クロスバー回路4に付随するアンプ3及び5の個数が多くなり、回路面積が増大する。
次に、図4に示すように、ドライブアンプ3の出力端子と各クロスバー回路4との間にスイッチ7を挿入し、各クロスバー回路4とセンスアンプ5との間にスイッチ8を挿入する構成を想定する。この場合、アンプ3及び5の個数を、1つのクロスバー回路4に付随する数まで減らすことができる。しかしながらこの場合は、スイッチ7及び8のオン抵抗や配線の寄生抵抗等の影響によって、記憶素子であるメモリスタの両端に正確な電圧を印加することが困難となり、アナログ積和演算の結果に誤差が生じる可能性が有る。
そこで本実施形態では、図1に示す構成を採用する。ドライブアンプ3の帰還ループ内に第1スイッチSW1及び第2スイッチSW2の直列回路を配置する。また、センスアンプ5の帰還ループ内における帰還抵抗Rfと反転入力端子との間に、第3スイッチSW3及び第4スイッチSW4の直列回路を配置する。そして、スイッチSW1及びSW2の共通接続点をメモリスタの一端に接続し、スイッチSW3及びSW4の共通接続点をメモリスタの他端に接続する。これは、スイッチSW1,SW3側がフォース線,スイッチSW2,SW4側がセンス線となるケルビン接続である。
また、帰還抵抗Rfの両端は、高入力抵抗のバッファ9(+),9(-)を介して差動型のADC10の入力端子に接続する。これにより、帰還抵抗Rfに電流が流れた際の両端電圧を、ADC10によりA/D変換する。
図1に示す構成を、図3及び図4と同様に複数のクロスバー回路4について示すと図2のようになる。本実施形態のCNN回路11では、複数のクロスバー回路4に対して、入力側のDAC2,ドライブアンプ3と、出力側のセンスアンプ5及びADC10を共用する。そして、クロスバー回路4(1)においてアナログ積和演算を行う際には、クロスバー回路4(1)に接続されているスイッチSW1~SW4をオンして、その他のクロスバー回路4(2),…に接続されているスイッチSW1~SW4は全てオフにする。クロスバー回路4(1)においてアナログ積和演算を行う際には、クロスバー回路4(2)に接続されているスイッチSW1~SW4をオンして、その他のクロスバー回路4(1),…に接続されているスイッチSW1~SW4は全てオフにする。
上記のようにして、順次クロスバー回路4(1),4(2),…によるアナログ積和演算を時分割で行う。また、このような大規模演算に対応した構成に替えて、初期不良や経時変化による不具合対策として、複数のクロスバー回路4を予備用としても良い。
以上のように本実施形態によれば、CNN回路11に、メモリスタを記憶素子として、格子状に結合してなる複数のクロスバー回路4と、クロスバー回路4の複数の電圧入力端子に、信号電圧を印加するようにデータが入力される複数のD/Aコンバータ2と、複数のD/Aコンバータと前記複数の電圧入力端子との間に接続される複数のドライブアンプ3と、クロスバー回路4の電流出力端子に接続され、前記端子に流れる電流を電圧に変換して出力する複数のセンスアンプ5と、これら複数のセンスアンプ5を介して変換された信号電圧をA/D変換する複数のA/Dコンバータ10とを備える。
また、スイッチSW1及びSW2の直列回路をドライブアンプ3の帰還ループに配置し、スイッチSW3及びSW4の直列回路をセンスアンプ5の帰還ループに配置する。スイッチSW1及びSW2の共通接続点をメモリスタの一端に接続し、スイッチSW3及びSW4の共通接続点を前記メモリスタの他端に接続する。そして、A/Dコンバータ10は、センスアンプ5の帰還抵抗Rfの両端の電圧をA/D変換する。
このように構成すれば、第1~第4スイッチのオンオフを切り替えることで、クロスバー回路4の入力側にあるドライブアンプ3と同出力側にあるセンスアンプ5との接続を、クロスバー回路4毎に切り替えることができる。したがって、複数のクロスバー回路4を用いて大規模ネットワークを構成する際に、D/Aコンバータ2及びドライブアンプ3,並びにセンスアンプ5及びA/Dコンバータ10を共用化でき、演算精度を維持しながら回路規模を削減できる。
(第2実施形態)
以下、第1実施形態と同一部分には同一符号を付して説明を省略し、異なる部分について説明する。図5に示すように、第2実施形態のCNN回路21は、クロスバー回路4を差動出力で構成したもので、バッファ9の出力側に差動増幅回路22及びADC6を接続している。差動増幅回路22は、オペアンプ23に抵抗素子R1~R6及びスイッチSW11~SW16を加えて構成されている。スイッチSW11~SW16は、差動アンプ用スイッチに相当する。
バッファ9(1+)の出力端子は、抵抗素子R3及びスイッチSW13の直列回路を介してオペアンプ23の非反転入力端子に接続されている。バッファ9(2-)の出力端子は、抵抗素子R4及びスイッチSW14の直列回路を介して前記非反転入力端子に接続されている。また、前記非反転入力端子には、スイッチSW16及び抵抗素子R6の直列回路を介して基準電位Vrefが与えられている。
バッファ9(1-)の出力端子は、抵抗素子R1及びスイッチSW11の直列回路を介してオペアンプ23の反転入力端子に接続されている。バッファ9(2+)の出力端子は、抵抗素子R2及びスイッチSW12の直列回路を介して前記反転入力端子に接続されている。また、前記反転入力端子は、スイッチSW15及び抵抗素子R5の直列回路を介してオペアンプ23の出力端子に接続されている。
次に、第2実施形態の作用について説明する。クロスバー回路4におけるアナログ積和演算結果を差動出力で得るのみであれば、スイッチSW11~SW16は不要である。これらのSW11~SW16を備えることで、スイッチSW12及びSW14をオフにして、DAC2(1)の出力電圧Vdac1=Vrefとし、DAC2(2)の出力電圧Vdac2に電圧を印加すれば、メモリスタG12のみに流れた電流をADC6により測定できる。また、スイッチSW12及びSW14をオンにしてスイッチSW11及びSW13をオフにすれば、メモリスタG22のみに流れた電流をADC6により測定できる。
以上のように第2実施形態によれば、CNN回路21に、対を成す2つのセンスアンプ5(1),5(2)の帰還抵抗Rf1,Rf2の両端にそれぞれ接続されるバッファアンプ9(1+)~9(2-)と、これらのバッファアンプ9の出力側に接続される差動増幅回路22と、差動増幅回路22を構成するオペアンプ23の入力端子と抵抗素子R1~R6との間に挿入されるスイッチSW11~SW16とを備える。これにより、クロスバー回路4の出力が差動構成であっても、個別のメモリスタに流れる電流を測定することが可能になる。
(第3実施形態)
図6に示すように、第3実施形態のCNN回路31は、第2実施形態と同様にクロスバー回路4を差動出力で構成しており、センスアンプ5(1)については第1実施形態と同様である。センスアンプ5(2)については、帰還抵抗Rf2が無く帰還ループが構成されておらず、非反転入力端子がスイッチSW3に接続され、反転入力端子には基準電位Vrefが与えられている。
NチャネルMOSFET_M1及びM2は、カレントミラー回路32を構成しており、FET_M1及びM2のソースはグランドに接続されている。FET_M1のドレインはスイッチSW4に接続されている。FET_M2のドレインはスイッチSW17を介してセンスアンプ5(1)の帰還抵抗Rf1の一端,バッファ9(1+)の入力端子に接続されている。センスアンプ5(2)の出力端子は、FET_M1及びM2のゲートに接続されている。スイッチSW17は電流遮断スイッチに相当する。
次に、第3実施形態の作用について説明する。メモリスタG11,G12の出力電流をI1,メモリスタG21,G22の出力電流をI2とする。カレントミラー回路32は、電流I2をミラーさせた電流I3を、センスアンプ5(1)の帰還抵抗Rf1より引き出す。したがって、帰還抵抗Rf1には電流(I1-I3)が流れ、その端子電圧をADC10により測定する。
上記の測定においては、スイッチSW17が無くても支障はない。しかし、スイッチSW17をオフにすれば電流I3=0となるので、電流I1をADC10により測定できる。また、スイッチSW17をオンにして電流(I1-I3)を測定し、スイッチSW17をオフにして電流I1を測定すれば、これらの差より
I1-(I1-I3)=I3
が得られる。したがって、電流I2も個別に求めることができる。
以上のように第3実施形態によれば、CNN回路31は、クロスバー回路4において、対を成す電流I1,I2の内、電流I1が流れる出力端子にセンスアンプ5(1)を接続し、電流I2が流れる出力端子にカレントミラー回路32の主電流経路を接続する。カレントミラー回路32は、電流I2をミラーさせたミラー電流I3を、センスアンプ5(1)の帰還抵抗Rf1より引き出すように流す。そして、ミラー電流が流れる経路にスイッチSW17を挿入した。これにより、差電流(I1-I3)だけでなく、電流I1,I2も個別に測定できる。
(第4実施形態)
図7に示すように、第4実施形態のCNN回路41は、第1実施形態の構成に、第5及び第6スイッチSW5及びSW6を加えたものである。スイッチSW5は、ドライブアンプ3の出力端子と反転入力端子との間に接続され、スイッチSW6は、センスアンプ5の帰還抵抗Rf1の一端と、反転入力端子との間に接続されている。スイッチSW5及びSW6をオンすることでアンプ3及び5は何れも閉ループ状態となり、ボルテージフォロワが構成される。
次に、第4実施形態の作用について説明する。例えば第1実施形態の構成においてスイッチSW1~SW4のオンオフによりクロスバー回路4を切り替える際に、切り替えのタイミングやアンプ3,5の周波数特性によっては、一時的にアンプ3,5が開ループになり、出力レベルが電源電圧やグランドレベルに張り付くおそれがある。一般にメモリスタは、1~2V程度の電圧書き込みや消去が行われるため、アンプ3,5の出力信号が電源電圧レベルやグランドレベルに変化すると、メモリスタに記憶されていたデータが書き換わってしまう可能性がある。
そこで第4実施形態では、アンプ3及び5のオンオフ動作時と、クロスバー回路4の切り替え動作時とに、スイッチSW5及びSW6をオンしてアンプ3及び5を閉ループ状態にする。尚、アンプ3及び5のオフ時には、それらの出力信号がグランドレベルになることを前提とする。また、各スイッチSW1~SW6のオンオフやアンプ3及び5の電源投入制御は、図示しない切替え制御回路により行われる。
図8に示すアンプ3及び5のオン動作手順では、先ずスイッチSW5及びSW6をオンにし(S1)、続いて、全てのクロスバー回路4におけるメモリスタのスイッチSW1~SW4をオフにする(S2)。次に、センスアンプ3の基準電位Vrefを0Vに設定すると共に、DAC2の出力電圧Vdacを0Vに設定する(S3)。それから、アンプ3及び5に電源を投入,パワーオンして(S4)、センスアンプ3の基準電位Vrefを目標電圧に設定すると共に、DAC2の出力電圧Vdacを基準電位Vrefに設定する(S5)。
図9に示すアンプ3及び5のオフ動作手順では、先ずセンスアンプ3の基準電位Vrefを同電位Vrefに設定すると共に、DAC2の出力電圧Vdacを基準電位Vrefに設定する(S11)。続いて、ステップS1~S3と同様の処理を行う(S12~S14)。それから、アンプ3及び5に電源を遮断,パワーオフする(S15)。
図10に示すクロスバー回路4の切り替え動作手順では、先ずステップS11,S12と同様の処理を行い(S21,S22)、それから、クロスバー回路4におけるメモリスタのスイッチSW1~SW4を切り替える(S23)。そして、SW5及びSW6をオフにし(S24)、DAC2の出力電圧Vdacを目標電圧に設定し、ADC10により帰還抵抗Rfの電圧を測定する(S25)。
以上のように第4実施形態によれば、CNN回路41において、ドライブアンプ3の出力端子と反転入力端子との間に第5スイッチSW5を接続し、センスアンプ5の反転入力端子と帰還抵抗Rfの一端との間に第6スイッチSW6を接続する。これにより、スイッチSW5及びSW6をオンしてアンプ3及び5を閉ループ状態にすることで、ボルテージフォロワを構成できる。そして、切替え制御回路によって、スイッチSW5及びSW6をオンにした状態でスイッチSW1~SW4のオン,オフを切り替えることで、クロスバー回路4を構成するメモリスタに電圧ストレスが加わることを防止できる。
本開示は、実施例に準拠して記述されたが、本開示は当該実施例や構造に限定されるものではないと理解される。本開示は、様々な変形例や均等範囲内の変形をも包含する。加えて、様々な組み合わせや形態、さらには、それらに一要素のみ、それ以上、あるいはそれ以下、を含む他の組み合わせや形態をも、本開示の範疇や思想範囲に入るものである。
図面中、1はアナログ積和演算回路、2はD/Aコンバータ、3はドライブアンプ、4はメモリスタクロスバー回路、6はA/Dコンバータ、7はセンスアンプ、10はA/Dコンバータ、SW1~SW6,SW11~SW17はスイッチである。

Claims (5)

  1. 可変抵抗素子であるメモリスタを記憶素子として、前記記憶素子を格子状に結合してなる複数の記憶部(4)と、
    この記憶部の複数の電圧入力端子に、信号電圧を印加するようにデータが入力される複数のD/Aコンバータ(2)と、
    これら複数のD/Aコンバータと、前記複数の電圧入力端子との間に接続される複数の駆動アンプ(3)と、
    前記記憶部の電流出力端子に接続され、前記電流出力端子に流れる電流を電圧に変換して出力する複数のI/V変換アンプ(5)と、
    これら複数のI/V変換アンプを介して変換された信号電圧をA/D変換する複数のA/Dコンバータ(6,10)と、
    前記駆動アンプの帰還ループに配置される第1及び第2スイッチ(SW1,SW2)の直列回路と、
    前記I/V変換アンプの帰還ループに配置される第3及び第4スイッチ(SW3,SW4)の直列回路とを備え、
    前記第1及び第2スイッチの共通接続点は、前記メモリスタの一端に接続され、
    前記第3及び第4スイッチの共通接続点は、前記メモリスタの他端に接続されており、
    前記A/Dコンバータは、前記I/V変換アンプの帰還抵抗の両端の電圧をA/D変換するニューラルネットワーク回路。
  2. 前記駆動アンプの出力端子と反転入力端子との間に接続される第5スイッチ(SW5)と、
    前記I/V変換アンプの反転入力端子と前記帰還抵抗の一端との間に接続される第6スイッチ(SW6)とを備える請求項1記載のニューラルネットワーク回路。
  3. 前記第5及び第6スイッチをオンにした状態で、前記第1~第4スイッチのオン,オフを切り替える切替え制御回路を備える請求項2記載のニューラルネットワーク回路。
  4. 対を成す2つのI/V変換アンプ(5(1),5(2))の帰還抵抗(Rf1,Rf2)の両端にそれぞれ接続されるバッファアンプ(9(+),9(-))と、
    これらのバッファアンプの出力側に接続される差動増幅回路(22)と、
    この差動増幅回路を構成するアンプ(23)の入力端子と、前記差動増幅回路を構成する抵抗素子との間に挿入される差動アンプ用スイッチ(SW11~SW16)とを備える請求項1から3の何れか一項に記載のニューラルネットワーク回路。
  5. 対を成す2つの電流出力端子の一方に接続されるI/V変換アンプ(5(1),5(2))と、
    前記2つのうち他方の電流出力端子に主電流経路が接続され、前記電流出力端子に流れる電流をミラーさせたミラー電流を、前記I/V変換アンプの帰還抵抗より引き出すように流すカレントミラー回路(32)と、
    前記ミラー電流が流れる経路に挿入される電流遮断スイッチ(SW17)とを備える請求項1から3の何れか一項に記載のニューラルネットワーク回路。
JP2018134983A 2018-07-18 2018-07-18 ニューラルネットワーク回路 Active JP7070190B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018134983A JP7070190B2 (ja) 2018-07-18 2018-07-18 ニューラルネットワーク回路
US16/449,932 US11423294B2 (en) 2018-07-18 2019-06-24 Neural network circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018134983A JP7070190B2 (ja) 2018-07-18 2018-07-18 ニューラルネットワーク回路

Publications (2)

Publication Number Publication Date
JP2020013319A JP2020013319A (ja) 2020-01-23
JP7070190B2 true JP7070190B2 (ja) 2022-05-18

Family

ID=69163113

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018134983A Active JP7070190B2 (ja) 2018-07-18 2018-07-18 ニューラルネットワーク回路

Country Status (2)

Country Link
US (1) US11423294B2 (ja)
JP (1) JP7070190B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7093954B2 (ja) 2019-07-11 2022-07-01 公立大学法人福井県立大学 サバ由来のペプチドを有効成分とするpai-1阻害剤及び組成物

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10777566B2 (en) 2017-11-10 2020-09-15 Macronix International Co., Ltd. 3D array arranged for memory and in-memory sum-of-products operations
US10957392B2 (en) 2018-01-17 2021-03-23 Macronix International Co., Ltd. 2D and 3D sum-of-products array for neuromorphic computing system
US10719296B2 (en) 2018-01-17 2020-07-21 Macronix International Co., Ltd. Sum-of-products accelerator array
US11138497B2 (en) 2018-07-17 2021-10-05 Macronix International Co., Ltd In-memory computing devices for neural networks
US11636325B2 (en) 2018-10-24 2023-04-25 Macronix International Co., Ltd. In-memory data pooling for machine learning
US11562229B2 (en) 2018-11-30 2023-01-24 Macronix International Co., Ltd. Convolution accelerator using in-memory computation
US11934480B2 (en) 2018-12-18 2024-03-19 Macronix International Co., Ltd. NAND block architecture for in-memory multiply-and-accumulate operations
US11119674B2 (en) 2019-02-19 2021-09-14 Macronix International Co., Ltd. Memory devices and methods for operating the same
US10783963B1 (en) 2019-03-08 2020-09-22 Macronix International Co., Ltd. In-memory computation device with inter-page and intra-page data circuits
US11132176B2 (en) 2019-03-20 2021-09-28 Macronix International Co., Ltd. Non-volatile computing method in flash memory
US10910393B2 (en) 2019-04-25 2021-02-02 Macronix International Co., Ltd. 3D NOR memory having vertical source and drain structures
CN111478703B (zh) * 2020-04-14 2023-08-22 中国人民解放军国防科技大学 基于忆阻交叉阵列的处理电路及输出电流的补偿方法
CN116194815A (zh) * 2020-07-15 2023-05-30 沃扬光电公司 光学相控阵驱动器
CN112308223A (zh) * 2020-12-30 2021-02-02 成都科睿埃科技有限公司 一种基于忆阻器的深度神经网络
US11737274B2 (en) 2021-02-08 2023-08-22 Macronix International Co., Ltd. Curved channel 3D memory device
US11916011B2 (en) 2021-04-14 2024-02-27 Macronix International Co., Ltd. 3D virtual ground memory and manufacturing methods for same
US11710519B2 (en) 2021-07-06 2023-07-25 Macronix International Co., Ltd. High density memory with reference memory using grouped cells and corresponding operations

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006119670A (ja) 1999-02-19 2006-05-11 Toshiba Corp 表示装置の駆動回路及び液晶表示装置
WO2016064406A1 (en) 2014-10-23 2016-04-28 Hewlett Packard Enterprise Development Lp Memristive cross-bar array for determining a dot product
WO2018016176A1 (ja) 2016-07-20 2018-01-25 株式会社デンソー ニューラルネットワーク回路

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009117003A (ja) * 2007-11-09 2009-05-28 Toshiba Corp 不揮発性メモリ装置のデータ読み出し方法
US9152827B2 (en) * 2012-12-19 2015-10-06 The United States Of America As Represented By The Secretary Of The Air Force Apparatus for performing matrix vector multiplication approximation using crossbar arrays of resistive memory devices
KR102161739B1 (ko) * 2014-07-15 2020-10-05 삼성전자주식회사 저항성 메모리 장치 및 저항성 메모리 장치의 동작 방법
JP6702596B2 (ja) * 2016-01-18 2020-06-03 華為技術有限公司Huawei Technologies Co.,Ltd. 多層rramクロスバー・アレイに基づくメモリデバイス、およびデータ処理方法
WO2017139342A1 (en) * 2016-02-08 2017-08-17 Spero Devices, Inc. Analog co-processor
US9953728B2 (en) * 2016-07-21 2018-04-24 Hewlett Packard Enterprise Development Lp Redundant column or row in resistive random access memory
KR102634322B1 (ko) * 2016-10-10 2024-02-07 삼성전자주식회사 양방향 스위치를 갖는 가변 저항 메모리 장치, 메모리 시스템, 그리고 그것의 동작 방법
US10171084B2 (en) * 2017-04-24 2019-01-01 The Regents Of The University Of Michigan Sparse coding with Memristor networks
US11182670B2 (en) * 2017-11-16 2021-11-23 International Business Machines Corporation Thin-film large-area classifier

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006119670A (ja) 1999-02-19 2006-05-11 Toshiba Corp 表示装置の駆動回路及び液晶表示装置
WO2016064406A1 (en) 2014-10-23 2016-04-28 Hewlett Packard Enterprise Development Lp Memristive cross-bar array for determining a dot product
WO2018016176A1 (ja) 2016-07-20 2018-01-25 株式会社デンソー ニューラルネットワーク回路

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7093954B2 (ja) 2019-07-11 2022-07-01 公立大学法人福井県立大学 サバ由来のペプチドを有効成分とするpai-1阻害剤及び組成物

Also Published As

Publication number Publication date
US11423294B2 (en) 2022-08-23
US20200026993A1 (en) 2020-01-23
JP2020013319A (ja) 2020-01-23

Similar Documents

Publication Publication Date Title
JP7070190B2 (ja) ニューラルネットワーク回路
JP7124498B2 (ja) ニューラルネットワーク回路
US8717221B2 (en) Successive approximation register analog-to-digital converter
Wang et al. A charge domain SRAM compute-in-memory macro with C-2C ladder-based 8-bit MAC unit in 22-nm FinFET process for edge inference
US10505561B2 (en) Method of applying a dither, and analog to digital converter operating in accordance with the method
JP2000201077A (ja) Ad変換器とその制御方法
WO2018173473A1 (ja) ニューラルネットワーク回路
US20080100489A1 (en) Digital to analog converter architecture and method having low switch count and small output impedance
US5119095A (en) D/a converter for minimizing nonlinear error
JP2018050282A (ja) 逐次比較型ad変換器
CN110401450B (zh) 神经网络电路
US9819354B2 (en) Reference voltage generator and analog-to-digital converter
WO2024131396A1 (zh) 延时缓冲单元及其操作方法、计算装置及其操作方法
US9054660B1 (en) Amplifying system
WO2011104786A1 (ja) パイプライン型a/dコンバータおよびa/d変換方法、ならびにダイナミック型差動増幅器
CN114499424B (zh) 应用于两级模数转换器的差分放大器、校准电路及校准方法
JP4140528B2 (ja) A/d変換装置
JP2011015248A (ja) 差動チョッパ型コンパレータ及びそれを備えたa/d変換回路
WO2005122411A1 (ja) 電子回路装置
US10476513B1 (en) SAR ADC with high linearity
JP2001273786A (ja) サンプル・ホールド回路
TWI509996B (zh) 可編程放大輸入信號振幅之逐漸逼近式類比數位轉換器(sar adc)及其方法
CN101820285B (zh) 改进的n位管脚adc阅读器
CN114640350A (zh) 逐次逼近模数转换器、校准方法及工作方法
JP6996411B2 (ja) ニューラルネットワーク回路

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220418

R151 Written notification of patent or utility model registration

Ref document number: 7070190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151