JP7070190B2 - ニューラルネットワーク回路 - Google Patents
ニューラルネットワーク回路 Download PDFInfo
- Publication number
- JP7070190B2 JP7070190B2 JP2018134983A JP2018134983A JP7070190B2 JP 7070190 B2 JP7070190 B2 JP 7070190B2 JP 2018134983 A JP2018134983 A JP 2018134983A JP 2018134983 A JP2018134983 A JP 2018134983A JP 7070190 B2 JP7070190 B2 JP 7070190B2
- Authority
- JP
- Japan
- Prior art keywords
- circuit
- amplifier
- switches
- current
- voltage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims description 17
- 238000006243 chemical reaction Methods 0.000 claims description 19
- 239000000872 buffer Substances 0.000 claims description 11
- 238000013527 convolutional neural network Methods 0.000 description 14
- 101100067427 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) FUS3 gene Proteins 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 6
- 229920005994 diacetyl cellulose Polymers 0.000 description 5
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 101150044482 VDAC2 gene Proteins 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003071 parasitic effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 210000000225 synapse Anatomy 0.000 description 1
- 101150101430 vdac-1 gene Proteins 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C11/00—Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor
- G11C11/54—Digital stores characterised by the use of particular electric or magnetic storage elements; Storage elements therefor using elements simulating biological cells, e.g. neuron
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M1/00—Analogue/digital conversion; Digital/analogue conversion
- H03M1/66—Digital/analogue converters
-
- H—ELECTRICITY
- H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
- H10N—ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
- H10N70/00—Solid-state devices having no potential barriers, and specially adapted for rectifying, amplifying, oscillating or switching
- H10N70/20—Multistable switching devices, e.g. memristors
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C13/00—Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00
- G11C13/0002—Digital stores characterised by the use of storage elements not covered by groups G11C11/00, G11C23/00, or G11C25/00 using resistive RAM [RRAM] elements
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C2213/00—Indexing scheme relating to G11C13/00 for features not covered by this group
- G11C2213/70—Resistive array aspects
- G11C2213/77—Array wherein the memory element being directly connected to the bit lines and word lines without any access device being used
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Computer Hardware Design (AREA)
- Analogue/Digital Conversion (AREA)
- Electronic Switches (AREA)
Description
以下、第1実施形態について説明する。図3は、図11に示す10層のCNNを、実際にクロスバー回路を用いて構成した場合の一例である。CNN回路1は、入力データをD/Aコンバータ2により電圧変換する。変換された電圧はドライブアンプ3を介してメモリスタクロスバー回路4に印加される。ドライブアンプ3は駆動アンプに相当する。メモリスタクロスバー回路4は、メモリスタを記憶素子とするもので、複数の記憶素子を格子状に配置して構成されており、記憶部に相当する。
以下、第1実施形態と同一部分には同一符号を付して説明を省略し、異なる部分について説明する。図5に示すように、第2実施形態のCNN回路21は、クロスバー回路4を差動出力で構成したもので、バッファ9の出力側に差動増幅回路22及びADC6を接続している。差動増幅回路22は、オペアンプ23に抵抗素子R1~R6及びスイッチSW11~SW16を加えて構成されている。スイッチSW11~SW16は、差動アンプ用スイッチに相当する。
図6に示すように、第3実施形態のCNN回路31は、第2実施形態と同様にクロスバー回路4を差動出力で構成しており、センスアンプ5(1)については第1実施形態と同様である。センスアンプ5(2)については、帰還抵抗Rf2が無く帰還ループが構成されておらず、非反転入力端子がスイッチSW3に接続され、反転入力端子には基準電位Vrefが与えられている。
I1-(I1-I3)=I3
が得られる。したがって、電流I2も個別に求めることができる。
図7に示すように、第4実施形態のCNN回路41は、第1実施形態の構成に、第5及び第6スイッチSW5及びSW6を加えたものである。スイッチSW5は、ドライブアンプ3の出力端子と反転入力端子との間に接続され、スイッチSW6は、センスアンプ5の帰還抵抗Rf1の一端と、反転入力端子との間に接続されている。スイッチSW5及びSW6をオンすることでアンプ3及び5は何れも閉ループ状態となり、ボルテージフォロワが構成される。
Claims (5)
- 可変抵抗素子であるメモリスタを記憶素子として、前記記憶素子を格子状に結合してなる複数の記憶部(4)と、
この記憶部の複数の電圧入力端子に、信号電圧を印加するようにデータが入力される複数のD/Aコンバータ(2)と、
これら複数のD/Aコンバータと、前記複数の電圧入力端子との間に接続される複数の駆動アンプ(3)と、
前記記憶部の電流出力端子に接続され、前記電流出力端子に流れる電流を電圧に変換して出力する複数のI/V変換アンプ(5)と、
これら複数のI/V変換アンプを介して変換された信号電圧をA/D変換する複数のA/Dコンバータ(6,10)と、
前記駆動アンプの帰還ループに配置される第1及び第2スイッチ(SW1,SW2)の直列回路と、
前記I/V変換アンプの帰還ループに配置される第3及び第4スイッチ(SW3,SW4)の直列回路とを備え、
前記第1及び第2スイッチの共通接続点は、前記メモリスタの一端に接続され、
前記第3及び第4スイッチの共通接続点は、前記メモリスタの他端に接続されており、
前記A/Dコンバータは、前記I/V変換アンプの帰還抵抗の両端の電圧をA/D変換するニューラルネットワーク回路。
- 前記駆動アンプの出力端子と反転入力端子との間に接続される第5スイッチ(SW5)と、
前記I/V変換アンプの反転入力端子と前記帰還抵抗の一端との間に接続される第6スイッチ(SW6)とを備える請求項1記載のニューラルネットワーク回路。 - 前記第5及び第6スイッチをオンにした状態で、前記第1~第4スイッチのオン,オフを切り替える切替え制御回路を備える請求項2記載のニューラルネットワーク回路。
- 対を成す2つのI/V変換アンプ(5(1),5(2))の帰還抵抗(Rf1,Rf2)の両端にそれぞれ接続されるバッファアンプ(9(+),9(-))と、
これらのバッファアンプの出力側に接続される差動増幅回路(22)と、
この差動増幅回路を構成するアンプ(23)の入力端子と、前記差動増幅回路を構成する抵抗素子との間に挿入される差動アンプ用スイッチ(SW11~SW16)とを備える請求項1から3の何れか一項に記載のニューラルネットワーク回路。 - 対を成す2つの電流出力端子の一方に接続されるI/V変換アンプ(5(1),5(2))と、
前記2つのうち他方の電流出力端子に主電流経路が接続され、前記電流出力端子に流れる電流をミラーさせたミラー電流を、前記I/V変換アンプの帰還抵抗より引き出すように流すカレントミラー回路(32)と、
前記ミラー電流が流れる経路に挿入される電流遮断スイッチ(SW17)とを備える請求項1から3の何れか一項に記載のニューラルネットワーク回路。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018134983A JP7070190B2 (ja) | 2018-07-18 | 2018-07-18 | ニューラルネットワーク回路 |
US16/449,932 US11423294B2 (en) | 2018-07-18 | 2019-06-24 | Neural network circuit |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018134983A JP7070190B2 (ja) | 2018-07-18 | 2018-07-18 | ニューラルネットワーク回路 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020013319A JP2020013319A (ja) | 2020-01-23 |
JP7070190B2 true JP7070190B2 (ja) | 2022-05-18 |
Family
ID=69163113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018134983A Active JP7070190B2 (ja) | 2018-07-18 | 2018-07-18 | ニューラルネットワーク回路 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11423294B2 (ja) |
JP (1) | JP7070190B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7093954B2 (ja) | 2019-07-11 | 2022-07-01 | 公立大学法人福井県立大学 | サバ由来のペプチドを有効成分とするpai-1阻害剤及び組成物 |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10777566B2 (en) | 2017-11-10 | 2020-09-15 | Macronix International Co., Ltd. | 3D array arranged for memory and in-memory sum-of-products operations |
US10957392B2 (en) | 2018-01-17 | 2021-03-23 | Macronix International Co., Ltd. | 2D and 3D sum-of-products array for neuromorphic computing system |
US10719296B2 (en) | 2018-01-17 | 2020-07-21 | Macronix International Co., Ltd. | Sum-of-products accelerator array |
US11138497B2 (en) | 2018-07-17 | 2021-10-05 | Macronix International Co., Ltd | In-memory computing devices for neural networks |
US11636325B2 (en) | 2018-10-24 | 2023-04-25 | Macronix International Co., Ltd. | In-memory data pooling for machine learning |
US11562229B2 (en) | 2018-11-30 | 2023-01-24 | Macronix International Co., Ltd. | Convolution accelerator using in-memory computation |
US11934480B2 (en) | 2018-12-18 | 2024-03-19 | Macronix International Co., Ltd. | NAND block architecture for in-memory multiply-and-accumulate operations |
US11119674B2 (en) | 2019-02-19 | 2021-09-14 | Macronix International Co., Ltd. | Memory devices and methods for operating the same |
US10783963B1 (en) | 2019-03-08 | 2020-09-22 | Macronix International Co., Ltd. | In-memory computation device with inter-page and intra-page data circuits |
US11132176B2 (en) | 2019-03-20 | 2021-09-28 | Macronix International Co., Ltd. | Non-volatile computing method in flash memory |
US10910393B2 (en) | 2019-04-25 | 2021-02-02 | Macronix International Co., Ltd. | 3D NOR memory having vertical source and drain structures |
CN111478703B (zh) * | 2020-04-14 | 2023-08-22 | 中国人民解放军国防科技大学 | 基于忆阻交叉阵列的处理电路及输出电流的补偿方法 |
CN116194815A (zh) * | 2020-07-15 | 2023-05-30 | 沃扬光电公司 | 光学相控阵驱动器 |
CN112308223A (zh) * | 2020-12-30 | 2021-02-02 | 成都科睿埃科技有限公司 | 一种基于忆阻器的深度神经网络 |
US11737274B2 (en) | 2021-02-08 | 2023-08-22 | Macronix International Co., Ltd. | Curved channel 3D memory device |
US11916011B2 (en) | 2021-04-14 | 2024-02-27 | Macronix International Co., Ltd. | 3D virtual ground memory and manufacturing methods for same |
US11710519B2 (en) | 2021-07-06 | 2023-07-25 | Macronix International Co., Ltd. | High density memory with reference memory using grouped cells and corresponding operations |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119670A (ja) | 1999-02-19 | 2006-05-11 | Toshiba Corp | 表示装置の駆動回路及び液晶表示装置 |
WO2016064406A1 (en) | 2014-10-23 | 2016-04-28 | Hewlett Packard Enterprise Development Lp | Memristive cross-bar array for determining a dot product |
WO2018016176A1 (ja) | 2016-07-20 | 2018-01-25 | 株式会社デンソー | ニューラルネットワーク回路 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009117003A (ja) * | 2007-11-09 | 2009-05-28 | Toshiba Corp | 不揮発性メモリ装置のデータ読み出し方法 |
US9152827B2 (en) * | 2012-12-19 | 2015-10-06 | The United States Of America As Represented By The Secretary Of The Air Force | Apparatus for performing matrix vector multiplication approximation using crossbar arrays of resistive memory devices |
KR102161739B1 (ko) * | 2014-07-15 | 2020-10-05 | 삼성전자주식회사 | 저항성 메모리 장치 및 저항성 메모리 장치의 동작 방법 |
JP6702596B2 (ja) * | 2016-01-18 | 2020-06-03 | 華為技術有限公司Huawei Technologies Co.,Ltd. | 多層rramクロスバー・アレイに基づくメモリデバイス、およびデータ処理方法 |
WO2017139342A1 (en) * | 2016-02-08 | 2017-08-17 | Spero Devices, Inc. | Analog co-processor |
US9953728B2 (en) * | 2016-07-21 | 2018-04-24 | Hewlett Packard Enterprise Development Lp | Redundant column or row in resistive random access memory |
KR102634322B1 (ko) * | 2016-10-10 | 2024-02-07 | 삼성전자주식회사 | 양방향 스위치를 갖는 가변 저항 메모리 장치, 메모리 시스템, 그리고 그것의 동작 방법 |
US10171084B2 (en) * | 2017-04-24 | 2019-01-01 | The Regents Of The University Of Michigan | Sparse coding with Memristor networks |
US11182670B2 (en) * | 2017-11-16 | 2021-11-23 | International Business Machines Corporation | Thin-film large-area classifier |
-
2018
- 2018-07-18 JP JP2018134983A patent/JP7070190B2/ja active Active
-
2019
- 2019-06-24 US US16/449,932 patent/US11423294B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119670A (ja) | 1999-02-19 | 2006-05-11 | Toshiba Corp | 表示装置の駆動回路及び液晶表示装置 |
WO2016064406A1 (en) | 2014-10-23 | 2016-04-28 | Hewlett Packard Enterprise Development Lp | Memristive cross-bar array for determining a dot product |
WO2018016176A1 (ja) | 2016-07-20 | 2018-01-25 | 株式会社デンソー | ニューラルネットワーク回路 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7093954B2 (ja) | 2019-07-11 | 2022-07-01 | 公立大学法人福井県立大学 | サバ由来のペプチドを有効成分とするpai-1阻害剤及び組成物 |
Also Published As
Publication number | Publication date |
---|---|
US11423294B2 (en) | 2022-08-23 |
US20200026993A1 (en) | 2020-01-23 |
JP2020013319A (ja) | 2020-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7070190B2 (ja) | ニューラルネットワーク回路 | |
JP7124498B2 (ja) | ニューラルネットワーク回路 | |
US8717221B2 (en) | Successive approximation register analog-to-digital converter | |
Wang et al. | A charge domain SRAM compute-in-memory macro with C-2C ladder-based 8-bit MAC unit in 22-nm FinFET process for edge inference | |
US10505561B2 (en) | Method of applying a dither, and analog to digital converter operating in accordance with the method | |
JP2000201077A (ja) | Ad変換器とその制御方法 | |
WO2018173473A1 (ja) | ニューラルネットワーク回路 | |
US20080100489A1 (en) | Digital to analog converter architecture and method having low switch count and small output impedance | |
US5119095A (en) | D/a converter for minimizing nonlinear error | |
JP2018050282A (ja) | 逐次比較型ad変換器 | |
CN110401450B (zh) | 神经网络电路 | |
US9819354B2 (en) | Reference voltage generator and analog-to-digital converter | |
WO2024131396A1 (zh) | 延时缓冲单元及其操作方法、计算装置及其操作方法 | |
US9054660B1 (en) | Amplifying system | |
WO2011104786A1 (ja) | パイプライン型a/dコンバータおよびa/d変換方法、ならびにダイナミック型差動増幅器 | |
CN114499424B (zh) | 应用于两级模数转换器的差分放大器、校准电路及校准方法 | |
JP4140528B2 (ja) | A/d変換装置 | |
JP2011015248A (ja) | 差動チョッパ型コンパレータ及びそれを備えたa/d変換回路 | |
WO2005122411A1 (ja) | 電子回路装置 | |
US10476513B1 (en) | SAR ADC with high linearity | |
JP2001273786A (ja) | サンプル・ホールド回路 | |
TWI509996B (zh) | 可編程放大輸入信號振幅之逐漸逼近式類比數位轉換器(sar adc)及其方法 | |
CN101820285B (zh) | 改进的n位管脚adc阅读器 | |
CN114640350A (zh) | 逐次逼近模数转换器、校准方法及工作方法 | |
JP6996411B2 (ja) | ニューラルネットワーク回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210318 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220301 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220322 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220418 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7070190 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |