JP2023505822A - ニューラルアンプ、ニューラルネットワーク及びセンサ装置 - Google Patents
ニューラルアンプ、ニューラルネットワーク及びセンサ装置 Download PDFInfo
- Publication number
- JP2023505822A JP2023505822A JP2022535167A JP2022535167A JP2023505822A JP 2023505822 A JP2023505822 A JP 2023505822A JP 2022535167 A JP2022535167 A JP 2022535167A JP 2022535167 A JP2022535167 A JP 2022535167A JP 2023505822 A JP2023505822 A JP 2023505822A
- Authority
- JP
- Japan
- Prior art keywords
- amplifier
- stage
- neural
- differential
- charge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001537 neural effect Effects 0.000 title claims abstract description 105
- 238000013528 artificial neural network Methods 0.000 title claims description 60
- 238000005070 sampling Methods 0.000 claims abstract description 65
- 239000000872 buffer Substances 0.000 claims abstract description 62
- 238000003860 storage Methods 0.000 claims abstract description 52
- 230000004913 activation Effects 0.000 claims abstract description 41
- 230000014759 maintenance of location Effects 0.000 claims abstract description 22
- 239000003990 capacitor Substances 0.000 claims abstract description 21
- 230000010354 integration Effects 0.000 claims description 15
- 230000000306 recurrent effect Effects 0.000 claims description 11
- 230000003750 conditioning effect Effects 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 2
- 238000011144 upstream manufacturing Methods 0.000 claims description 2
- 230000008878 coupling Effects 0.000 claims 2
- 238000010168 coupling process Methods 0.000 claims 2
- 238000005859 coupling reaction Methods 0.000 claims 2
- 210000002569 neuron Anatomy 0.000 description 46
- 238000001994 activation Methods 0.000 description 29
- 230000006870 function Effects 0.000 description 20
- 238000002347 injection Methods 0.000 description 16
- 239000007924 injection Substances 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 101100462367 Aspergillus niger (strain CBS 513.88 / FGSC A1513) otaB gene Proteins 0.000 description 11
- 238000012546 transfer Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 9
- 101100462365 Aspergillus niger (strain CBS 513.88 / FGSC A1513) otaA gene Proteins 0.000 description 7
- 230000006872 improvement Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 230000035508 accumulation Effects 0.000 description 5
- 238000009825 accumulation Methods 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000003111 delayed effect Effects 0.000 description 4
- 230000001419 dependent effect Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000018109 developmental process Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 3
- 238000000034 method Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 210000004556 brain Anatomy 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000010791 quenching Methods 0.000 description 1
- 230000000171 quenching effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 210000000225 synapse Anatomy 0.000 description 1
- 230000026683 transduction Effects 0.000 description 1
- 238000010361 transduction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03F—AMPLIFIERS
- H03F3/00—Amplifiers with only discharge tubes or only semiconductor devices as amplifying elements
- H03F3/45—Differential amplifiers
- H03F3/45071—Differential amplifiers with semiconductor devices only
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Power Engineering (AREA)
- Amplifiers (AREA)
Abstract
Description
Qoff=Cs_total・Voff1。
Claims (16)
- 特にアナログ人工ニューラルネットワークに用いられる差動スイッチトキャパシタニューラルアンプであって、
- 複数の入力電圧を受信する複数の差動入力及び前記複数の入力電圧をサンプリングする少なくとも1対のデジタル調整可能な電荷蓄積部を含むサンプリングステージ(SMP)と、
- 前記サンプリングステージ(SMP)の下流に接続され、前記サンプリングされた複数の入力電圧による電荷を加算して加算信号を生成する加算ステージ(SM)と、
-前記加算信号に基づいて、活性化機能を適用し、かつ差動出力にバッファされた出力電圧を生成するバッファ及び活性化ステージ(ACB)と
を含む、ニューラルアンプ。 - 前記差動入力の数が、前記デジタル調整可能な電荷蓄積部の対の数に対応する、
請求項1に記載のニューラルアンプ。 - 前記サンプリングステージ(SMP)が、前記複数の差動入力を前記少なくとも1対のデジタル調整可能な電荷蓄積部に選択的に接続するマルチプレクサ(MUX)を少なくとも1つ含む、
請求項1に記載のニューラルアンプ。 - 前記マルチプレクサの数が、前記デジタル調整可能な電荷蓄積部の対の数に対応する、
請求項3に記載のニューラルアンプ。 - 前記加算ステージ(SM)が、作動積分アンプ(OTA1)の差動フィードバック経路に1対の積分電荷蓄積部(Cfb1a、Cfb1b)を有する前記作動積分アンプを含み、前記ニューラルアンプはさらに、
- 前記少なくとも1つのマルチプレクサのそれぞれについて、前記それぞれのマルチプレクサの出力と前記接続された1対の電荷蓄積部との間に結合された第1の差動チョッピングブロック(ch1)と、
- 前記フィードバック経路の第1の端部を前記積分アンプの入力側に結合する第2の差動チョッピングブロック(ch2)と、
- 前記フィードバック経路の第2の端部を前記積分アンプの出力側に結合する第3の差動チョッピングブロック(ch3)と、
を含む、請求項3又は4のいずれか1項に記載のニューラルアンプ。 - 前記加算ステージ(SM)の前記差動積分アンプが、前記積分アンプの前記入力側での第1のオフセット電圧及び前記バッファ及び活性化ステージ(ACB)の入力側での第2のオフセット電圧で前記1対の積分電荷蓄積部を選択的に充電するためのスイッチング回路を含み、特に、加算中に、前記積分アンプの前記出力側での前記積分アンプのオフセットが除去され及び前記バッファ及び活性化ステージ(ACB)のオフセットを相殺するために前記バッファ及び活性化ステージ(ACB)の前記オフセットが適用される、
請求項5に記載のニューラルアンプ。 - 前記バッファ及び活性化ステージ(ACB)が、容量性アンプのさらなる差動フィードバック経路にさらなる1対の電荷蓄積部(Cfb2a、Cfb2b)を有する前記作動容量性アンプ(OTA2)を含むバッファステージ(BUF)を含む、
請求項5又は6に記載のニューラルアンプ。 - 前記活性化機能が、前記容量性アンプ及び/または前記バッファステージの供給電圧を制限することで実現される、
請求項7に記載のニューラルアンプ。 - 前記バッファ及び活性化ステージ(ACB)が、前記バッファステージ(BUF)の上流又は下流に接続されたクリッピングステージをさらに含み、かつ前記活性化機能が、前記クリッピングステージによって実現される、
請求項7に記載のニューラルアンプ。 - 前記クリッピングステージ(ACT)が、
- 前記バッファステージ(BUF)の下流に接続され、
- かつ
- 前記バッファステージの出力での差動電圧を差動基準電圧と比較し、
- 前記バッファステージの前記出力での前記差動電圧が正又は負の方向のいずれかで前記差動基準電圧を超える場合に、前記差動出力での前記差動基準電圧を出力し、かつ
- そうでなければ、前記差動出力で、前記バッファステージの前記出力での前記差動電圧を出力するように構成される、
請求項9に記載のニューラルアンプ。 - 前記加算ステージ(SM)が、作動積分アンプの差動フィードバック経路の1対の積分電荷蓄積部(Cfb1a、Cfb1b)及び前記積分アンプの下流にスイッチ可能に接続される1対の二重サンプリング電荷蓄積部(CCDSa、CCDSb)、を有する前記作動積分アンプ(OTA1)を含み、前記ニューラルアンプはさらに、
-第1の二重サンプリング位相中に、特に、少なくとも1対のデジタル調整可能な電荷蓄積部をゼロ値に設定することにより、前記1対の二重サンプリング電荷蓄積部(CCDSa、CCDSb)上のゼロ入力信号をサンプルし、かつ
-前記サンプルされたゼロ入力信号から得られる前記電荷を前記1対の積分電荷蓄積部(Cfb1a、Cfb1b)に蓄積された電荷とともに前記バッファ及び活性化ステージ(ACB)に提供するように構成される、
請求項2-4のいずれか1項に記載のニューラルアンプ。 - 前記少なくとも1対のデジタル調整可能な電荷蓄積部の各デジタル調整可能な電荷蓄積部が、第1及び第2の充電端子、及び前記第1の充電端子に接続される第1の端部及びデジタル調整ワードに応じて前記第2の充電端子又は共通モード端子に選択的に接続される第2の端部を有する複数の重み付け電荷蓄積部を含む、
請求項1-11のいずれか1項に記載のニューラルアンプ。 - 前記ニューラルアンプのスイッチトキャパシタ機能を制御し及び/又は前記少なくとも1対のデジタル調整可能な電荷蓄積部を調整する制御回路をさらに含む、
請求項1-12のいずれか1項に記載のニューラルアンプ。 - 前記加算ステージが、アナログ領域における前記加算信号をアナログ加算信号として生成する、
請求項1-13のいずれか1項に記載のニューラルアンプ。 - リカレントニューラルネットワークであるアナログ人工ニューラルネットワークであって、
請求項1-14のいずれか1項に記載の複数のニューラルアンプを含み、少なくとも1つの前記ニューラルアンプの前記差動出力が、前記ニューラルアンプの同じ又は別の前記差動入力の1つに接続される、アナログ人工ニューラルネットワーク。 - センサ装置であって、
1つ又は複数のセンサと、請求項15に記載のアナログ人工ニューラルネットワークとを含み、前記1つ又は複数のセンサの出力信号が、前記ニューラルアンプの少なくとも1つに提供される、センサ装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19216510.8 | 2019-12-16 | ||
EP19216510.8A EP3839833A1 (en) | 2019-12-16 | 2019-12-16 | Neural amplifier, neural network and sensor device |
PCT/EP2020/082235 WO2021121820A1 (en) | 2019-12-16 | 2020-11-16 | Neural amplifier, neural network and sensor device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023505822A true JP2023505822A (ja) | 2023-02-13 |
JP7461477B2 JP7461477B2 (ja) | 2024-04-03 |
Family
ID=68917591
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022535167A Active JP7461477B2 (ja) | 2019-12-16 | 2020-11-16 | ニューラルアンプ、ニューラルネットワーク及びセンサ装置 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20230013459A1 (ja) |
EP (1) | EP3839833A1 (ja) |
JP (1) | JP7461477B2 (ja) |
CN (1) | CN115087990A (ja) |
DE (1) | DE112020006162T5 (ja) |
TW (1) | TW202131627A (ja) |
WO (1) | WO2021121820A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114745001B (zh) * | 2022-06-10 | 2023-04-07 | 芯海科技(深圳)股份有限公司 | 模数转换器、芯片、电子设备以及模数转换方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0561843A (ja) * | 1991-05-15 | 1993-03-12 | Wacom Co Ltd | ニユーラルネツトワーク装置 |
JPH08512421A (ja) * | 1994-05-06 | 1996-12-24 | フィリップス エレクトロニクス ネムローゼ フェンノートシャップ | 半導体装置 |
JP2001517341A (ja) * | 1997-03-26 | 2001-10-02 | ノキア・オーワイジェイ | 人工ニューラル・ネットワークにおける連想ニューロン |
WO2018034163A1 (ja) * | 2016-08-19 | 2018-02-22 | 国立大学法人 九州工業大学 | 積和演算装置 |
JP2018160007A (ja) * | 2017-03-22 | 2018-10-11 | 株式会社デンソー | ニューラルネットワーク回路 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3300251B1 (en) * | 2016-09-27 | 2020-11-18 | ams International AG | Integration circuit and method for providing an output signal |
EP3429083B1 (en) * | 2017-07-13 | 2020-09-02 | ams International AG | Method and circuit for current integration |
JP7306725B2 (ja) * | 2018-03-19 | 2023-07-11 | ミシック,インコーポレイテッド | 混合信号コンピューティングのためのシステムおよび方法 |
-
2019
- 2019-12-16 EP EP19216510.8A patent/EP3839833A1/en active Pending
-
2020
- 2020-11-16 JP JP2022535167A patent/JP7461477B2/ja active Active
- 2020-11-16 DE DE112020006162.0T patent/DE112020006162T5/de active Pending
- 2020-11-16 US US17/785,143 patent/US20230013459A1/en active Pending
- 2020-11-16 CN CN202080096375.6A patent/CN115087990A/zh active Pending
- 2020-11-16 WO PCT/EP2020/082235 patent/WO2021121820A1/en active Application Filing
- 2020-12-14 TW TW109144093A patent/TW202131627A/zh unknown
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0561843A (ja) * | 1991-05-15 | 1993-03-12 | Wacom Co Ltd | ニユーラルネツトワーク装置 |
JPH08512421A (ja) * | 1994-05-06 | 1996-12-24 | フィリップス エレクトロニクス ネムローゼ フェンノートシャップ | 半導体装置 |
JP2001517341A (ja) * | 1997-03-26 | 2001-10-02 | ノキア・オーワイジェイ | 人工ニューラル・ネットワークにおける連想ニューロン |
WO2018034163A1 (ja) * | 2016-08-19 | 2018-02-22 | 国立大学法人 九州工業大学 | 積和演算装置 |
JP2018160007A (ja) * | 2017-03-22 | 2018-10-11 | 株式会社デンソー | ニューラルネットワーク回路 |
Also Published As
Publication number | Publication date |
---|---|
JP7461477B2 (ja) | 2024-04-03 |
DE112020006162T5 (de) | 2022-09-29 |
CN115087990A (zh) | 2022-09-20 |
WO2021121820A1 (en) | 2021-06-24 |
US20230013459A1 (en) | 2023-01-19 |
EP3839833A1 (en) | 2021-06-23 |
TW202131627A (zh) | 2021-08-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7595666B2 (en) | Amplifier circuit for double sampled architectures | |
US7113116B2 (en) | Sample and hold apparatus | |
JP6703265B2 (ja) | ニューラルネットワーク装置及びニューラルネットワーク装置の制御方法 | |
US9973200B2 (en) | Configurable capacitor arrays and switched capacitor circuits | |
FR2604839A1 (fr) | Procede pour reduire les effets du bruit electrique dans un convertisseur analogique/numerique | |
EP2338231A2 (en) | Apparatus for and method of performing an analog to digital conversion | |
CN107835018B (zh) | 电路、模数转换器和方法 | |
US20130214944A1 (en) | Switched-capacitor mdac with common-mode hop regulation | |
WO2007072588A1 (ja) | 比較器及びa/d変換器 | |
EP3514952B1 (en) | Comparator circuitry | |
TW201349757A (zh) | 積分三角轉換器中用於將參考電流自輸入信號分隔開之方法及裝置 | |
JP2023505822A (ja) | ニューラルアンプ、ニューラルネットワーク及びセンサ装置 | |
US6377195B1 (en) | Offset compensation in parallel analogue-digital converters | |
US6838930B2 (en) | Switched capacitor amplifier with high throughput architecture | |
JP7376017B2 (ja) | 量子化器出力コードに基づくプリチャージを伴うデルタシグマコンバータ | |
US8471755B1 (en) | Dynamic biasing in switched capacitor stages using frame capacitors | |
CN112585622A (zh) | 开关式人工突触 | |
WO2007032110A1 (ja) | A/d変換器及びa/d変換方法 | |
RU2797777C1 (ru) | Нейронный усилитель, нейронная сеть и устройство датчика | |
US5889485A (en) | Charge-summing digital-to-analog converter | |
JP3731334B2 (ja) | 変調器およびオーバサンプル形a/d変換器 | |
WO2017032475A1 (en) | Shared circuit configurations for bootstrapped sample and hold circuits in a time-interleaved analog to digital converter | |
JP3916560B2 (ja) | キャパシタ切替えパイプライン・アナログデジタル変換器 | |
KR20190065025A (ko) | 기준 전압의 변화량을 입력 레벨에 관계없이 균등하게 만드는 스위치드 커패시터 회로 | |
JP3532080B2 (ja) | アナログ演算回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220804 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240322 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7461477 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |