JP7465797B2 - リザーバー計算機 - Google Patents
リザーバー計算機 Download PDFInfo
- Publication number
- JP7465797B2 JP7465797B2 JP2020207523A JP2020207523A JP7465797B2 JP 7465797 B2 JP7465797 B2 JP 7465797B2 JP 2020207523 A JP2020207523 A JP 2020207523A JP 2020207523 A JP2020207523 A JP 2020207523A JP 7465797 B2 JP7465797 B2 JP 7465797B2
- Authority
- JP
- Japan
- Prior art keywords
- circuit
- analog
- output
- capacitance
- amplifier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000006243 chemical reaction Methods 0.000 claims description 101
- 210000002569 neuron Anatomy 0.000 claims description 67
- 230000015654 memory Effects 0.000 claims description 31
- 238000004364 calculation method Methods 0.000 claims description 27
- 238000005070 sampling Methods 0.000 claims description 27
- 238000012937 correction Methods 0.000 claims description 26
- 239000003990 capacitor Substances 0.000 claims description 19
- 125000004122 cyclic group Chemical group 0.000 claims description 13
- 238000009825 accumulation Methods 0.000 claims 2
- 238000013473 artificial intelligence Methods 0.000 description 16
- 230000003321 amplification Effects 0.000 description 13
- 238000003199 nucleic acid amplification method Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 238000013461 design Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 230000005856 abnormality Effects 0.000 description 5
- 238000000034 method Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 239000000523 sample Substances 0.000 description 4
- 101150071403 INP1 gene Proteins 0.000 description 3
- 101150016601 INP2 gene Proteins 0.000 description 3
- 101100396986 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) INN1 gene Proteins 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 210000004556 brain Anatomy 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000032683 aging Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Analogue/Digital Conversion (AREA)
Description
図1は、実施例のリザーバー計算機におけるリザーバー部のニューロン回路の構成を示している。ニューロン回路はアナログ集積回路により実装している。例えばFPGAなどの半導体技術を適用した回路を利用できる。また、電源ラインやグランドの雑音への耐性を高める目的と、信号振幅を2倍にして信号対雑音比を良くする目的で、差動回路として実装している。ただし、条件によっては、差動構成としなくてもよい場合もある。
図5は、本実施例のリザーバー計算機におけるリザーバー部のニューロン回路の構成を示している。本実施例では、第一の実施例におけるアナログデジタル変換回路106として、サイクリック型アナログデジタル変換回路を適用しており、それを、容量アレー回路部、非線形アンプ、バッファを流用して構成している。
図7は、本実施例のニューロン回路の構成を示す。第二の実施例と異なる点は、1ビットアナログデジタル変換部506を、1.5ビットアナログデジタル変換部(1.5b A/D)701に置換した点である。
本実施例では、第二の実施例における非線形アンプ兼バッファ502、および、バッファ505を、簡単なアナログ集積回路で実装している。非線形アンプ兼バッファ502は、非線形アンプとして動作する際は、一般的な完全差動のソース接地アンプとして動作する。また、バッファとして動作する際は、一般的な疑似差動のソースフォロワ回路として動作する。
前記の通り、リザーバー部401内のニューロン回路では、アナログデジタル変換を行う。サイクリック型のアナログデジタル変換を行う場合は、各サイクル毎に1ビットアナログデジタル変換部506から出力される2値のデジタル値を用いて、デジタル補正部513が補正演算を行い、アナログデジタル変換結果が得られる。補正演算では、補正用の係数のセットを用いる。本実施例では、適切な補正用の係数のセットをあらかじめ得るために、特に、WO-A1-2014/207870「アナログデジタル変換器」に開示された手段を用いる。
102: 非線形アンプ
103、104: 容量メモリ部
105: バッファ
106: アナログデジタル変換回路
201、202、203、204、205、206: 容量
207、208、209、210、211、212: スイッチ
213、214、215、216、217、218: スイッチ
219、220: スイッチ
301、304: 容量
302、303、305、306: スイッチ
401: リザーバー部
402: 出力層
501: 容量アレー回路部
502: 非線形アンプ兼バッファ
503、504: 容量メモリ部
505: バッファ
506: 1ビットアナログデジタル変換部
507、508: 容量
509、510、511、512: スイッチ
513: デジタル補正部
601、602、603、604、605、606: 単位容量
607、608、609、610、611、612: スイッチ
613、614、615、616、617、618: スイッチ
619: 接続制御部
701: 1.5ビットアナログデジタル変換部
801: 非線形アンプ兼プリアンプ
802: ラッチ回路
901、904: NMOSトランジスタ
902、905: NMOS電流源
903、906: 抵抗
907: スイッチ
908、910: PMOSトランジスタ
909、911: PMOS電流源
1001: 減衰回路
1101、1102、1103: 抵抗
1104、1105、1106、1107: スイッチ
Claims (13)
- 複数のニューロン回路を備えるリザーバー部と、出力層を備え、
前記ニューロン回路は、複数の入力と、アナログ出力と、デジタル出力を備え、
前記複数の入力の各々には、他のいずれかのニューロン回路の前記アナログ出力、または、自らの前記アナログ出力、または、外部からのアナログ入力信号が供給され、
前記ニューロン回路は、容量回路、アンプ、容量メモリ回路、バッファ回路、アナログデジタル変換回路を備え、
前記容量回路は、前記複数の入力と単一の出力の間に複数の容量を備え、前記アンプとともに、前記複数の入力に供給されたアナログ信号に対する積和演算を行い、
前記アンプの飽和特性を用いて、前記積和演算の結果に対して非線形演算を行い、
前記容量メモリ回路は、それぞれが保持用の容量とスイッチを備えたレーンを2つ備えており、
前記レーンのそれぞれは、前記アンプが出力する前記非線形演算の結果をサンプリングして、前記保持用の容量に電荷として保持するサンプリングと、保持された電荷にもとづく電圧を、前記バッファ回路に供給する電圧供給が可能であり、
前記容量メモリ回路は、2つの前記レーンの前記サンプリングと前記電圧供給の役割を交互に切り換え、
前記バッファ回路の出力は、前記ニューロン回路の前記アナログ出力であり、
前記アナログデジタル変換回路は、前記バッファ回路の出力に対して、アナログデジタル変換を行い、前記アナログデジタル変換の結果が、前記ニューロン回路の前記デジタル出力であり、
前記デジタル出力は、前記出力層に入力され、前記出力層が計算結果を出力することを特徴とする、リザーバー計算機。 - 前記容量回路は複数のスイッチを備え、該複数のスイッチは前記複数の入力と前記複数の容量の間にそれぞれ配置された第1のスイッチを含み、
前記積和演算中は前記第1のスイッチは常時オンになっていることを特徴とする、請求項1に記載のリザーバー計算機。 - 前記容量回路の前記複数のスイッチは、前記第1のスイッチよりしきい値電圧の高いMOSトランジスタにより実装した第2のスイッチを含み、前記第2のスイッチを用いて、前記容量回路の前記複数の容量のうちの少なくとも一つ以上の容量の電荷をリセットすることを特徴とする、請求項2に記載のリザーバー計算機。
- 前記アナログデジタル変換回路は、サイクリック型のアナログデジタル変換回路であることを特徴とする、請求項1に記載のリザーバー計算機。
- 前記アンプは、バッファアンプの構成に切り換えることができ、
前記サイクリック型のアナログデジタル変換回路は、前記容量回路の前記複数の容量のうちの少なくとも一つ以上の容量と、前記バッファアンプの構成と、前記バッファ回路と、所定ビットアナログデジタル変換器と、を用いて構成されることを特徴とする、請求項4に記載のリザーバー計算機。 - 前記容量回路の前記複数の容量は、同一の容量値の単位容量で構成され、
前記アンプが、バッファアンプの構成に切り換えられている間は、前記複数の容量に前記バッファ回路の出力を接続してサンプリングし、前記バッファ回路の出力を前記所定ビットアナログデジタル変換器でデジタル変換し、前記所定ビットアナログデジタル変換器の出力にもとづいて、前記単位容量のそれぞれに所定電位を接続し、
前記容量回路の出力は、前記バッファアンプの構成を介して、アナログデジタル変換用容量を充電し、該アナログデジタル変換用容量の電荷が前記バッファ回路に入力されることを特徴とする、請求項5に記載のリザーバー計算機。 - 前記所定ビットアナログデジタル変換器は、1ビットアナログデジタル変換器または1.5ビットアナログデジタル変換器であることを特徴とする、請求項5に記載のリザーバー計算機。
- 前記アナログデジタル変換回路は、逐次比較型のアナログデジタル変換回路であることを特徴とする、請求項1に記載のリザーバー計算機。
- 前記アンプは、比較回路用のプリアンプの構成に切り換えることができ、
前記逐次比較型のアナログデジタル変換回路は、前記容量回路の前記複数の容量のうちの少なくとも一つ以上の容量と、前記プリアンプの構成と、前記アンプの出力側に備えたラッチ回路を用いて構成することを特徴とする、請求項8に記載のリザーバー計算機。 - 前記アンプは、構成切り換え用のスイッチを備え、前記構成切り換え用のスイッチを用いて、前記積和演算を行う時は、ソース接地アンプの構成に切り換え、前記アナログデジタル変換を行う時は、前記バッファアンプの構成としてソースフォロワ回路の構成に切り換えることを特徴とする、請求項5に記載のリザーバー計算機。
- 前記アンプは、構成切り換え用のスイッチを備え、前記構成切り換え用のスイッチを用いて、前記積和演算を行う時は、ソース接地アンプの構成に切り換え、前記アナログデジタル変換を行う時は、前記プリアンプの構成に切り換えることを特徴とする、請求項9に記載のリザーバー計算機。
- 前記容量回路の前記複数の容量のうちの少なくとも一つ以上の容量と、前記バッファアンプの構成と、前記アンプの出力側に備えた減衰回路を用いて、一連の電圧を生成し、前記減衰回路は、複数の抵抗と複数のスイッチを備え、前記の生成された一連の電圧を用いて、前記アナログデジタル変換における補正演算を行うための係数のセットを探索することを特徴とする、請求項5に記載のリザーバー計算機。
- 前記バッファ回路は、ソースフォロワ回路であることを特徴とする、請求項1に記載のリザーバー計算機。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020207523A JP7465797B2 (ja) | 2020-12-15 | 2020-12-15 | リザーバー計算機 |
US17/499,930 US20220188617A1 (en) | 2020-12-15 | 2021-10-13 | Reservoir computer |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020207523A JP7465797B2 (ja) | 2020-12-15 | 2020-12-15 | リザーバー計算機 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022094567A JP2022094567A (ja) | 2022-06-27 |
JP7465797B2 true JP7465797B2 (ja) | 2024-04-11 |
Family
ID=81942574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020207523A Active JP7465797B2 (ja) | 2020-12-15 | 2020-12-15 | リザーバー計算機 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20220188617A1 (ja) |
JP (1) | JP7465797B2 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180285728A1 (en) | 2017-04-03 | 2018-10-04 | International Business Machines Corporation | Reservoir computing system |
WO2020149890A1 (en) | 2019-01-18 | 2020-07-23 | Silicon Storage Technology, Inc. | Power management for an analog neural memory in a deep learning artificial neural network |
-
2020
- 2020-12-15 JP JP2020207523A patent/JP7465797B2/ja active Active
-
2021
- 2021-10-13 US US17/499,930 patent/US20220188617A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180285728A1 (en) | 2017-04-03 | 2018-10-04 | International Business Machines Corporation | Reservoir computing system |
WO2020149890A1 (en) | 2019-01-18 | 2020-07-23 | Silicon Storage Technology, Inc. | Power management for an analog neural memory in a deep learning artificial neural network |
Also Published As
Publication number | Publication date |
---|---|
JP2022094567A (ja) | 2022-06-27 |
US20220188617A1 (en) | 2022-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3902778B2 (ja) | アナログディジタル変換回路 | |
JP5769178B2 (ja) | A/d変換器 | |
US20130076546A1 (en) | Charge compensation calibration for high resolution data converter | |
US10090852B2 (en) | Input circuit for a dynamic comparator | |
JP2945805B2 (ja) | A/d変換器 | |
US8223058B2 (en) | Switched-capacitor circuit having a capacitor array circuit, and analog-to-digital converter using said switched-capacitor circuit | |
JP2000201077A (ja) | Ad変換器とその制御方法 | |
JP2006115003A (ja) | サンプルホールド回路およびそれを用いたパイプラインad変換器 | |
US20190332927A1 (en) | Neural network circuit | |
Rabuske et al. | Charge-Sharing SAR ADCs for low-voltage low-power applications | |
WO2007088175A1 (en) | A/d converter comprising a voltage comparator device | |
WO2011104786A1 (ja) | パイプライン型a/dコンバータおよびa/d変換方法、ならびにダイナミック型差動増幅器 | |
US7830159B1 (en) | Capacitor mismatch measurement method for switched capacitor circuits | |
JP6944047B2 (ja) | 追加の能動回路を有さないsar adcにおける広入力コモンモード範囲を可能にするための方法及び装置 | |
WO2007029786A1 (ja) | ノイズキャンセル機能付きa/d変換器 | |
JP7465797B2 (ja) | リザーバー計算機 | |
Caselli et al. | Charge sharing and charge injection A/D converters for analog in-memory computing | |
US7839315B2 (en) | Converter and method for converting an analog signal and comparator for use in such conversion | |
KR100635311B1 (ko) | A/d 변환기 및 a/d 변환 방법 | |
WO2020075552A1 (ja) | スイッチトキャパシタアンプおよびad変換装置 | |
Rodríguez-Pérez et al. | Power efficient ADCs for biomedical signal acquisition | |
TW202131627A (zh) | 神經放大器、神經網路及感測器裝置 | |
JP2015088904A (ja) | アナログデジタル変換回路、アナログデジタル変換回路の制御方法 | |
CN113625034A (zh) | 采样电路、采样阵列、存算一体芯片以及电子设备 | |
JP4961159B2 (ja) | 増幅回路及びその応用回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230315 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240306 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240401 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7465797 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |