JP7288047B2 - アナログ・クロスポイント・アレイにおいて対称点をゼロ重み点として一致させるためのアライメント方法、そのベクトル行列 - Google Patents
アナログ・クロスポイント・アレイにおいて対称点をゼロ重み点として一致させるためのアライメント方法、そのベクトル行列 Download PDFInfo
- Publication number
- JP7288047B2 JP7288047B2 JP2021516774A JP2021516774A JP7288047B2 JP 7288047 B2 JP7288047 B2 JP 7288047B2 JP 2021516774 A JP2021516774 A JP 2021516774A JP 2021516774 A JP2021516774 A JP 2021516774A JP 7288047 B2 JP7288047 B2 JP 7288047B2
- Authority
- JP
- Japan
- Prior art keywords
- array
- weight
- crosspoint
- wires
- vector matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Neurology (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Semiconductor Memories (AREA)
- Complex Calculations (AREA)
- Electronic Switches (AREA)
Description
均衡因子(BF)が0でない場合には、基準アレイ・コンダクタンスをコンダクタンス範囲の中心点においてセット・アップするための方略はもはや最善の解決策でなくなり、対称点はw!=0の点に配置されることになる。非ゼロの対称点のデバイスはネットワーク性能に影響を及ぼすことになる。クロスポイント・デバイスのためのBFは、実際には、まれにしかコンダクタンス範囲の中心にないため、これは問題になり得る。
Claims (13)
- アナログ・アレイ・ベースのベクトル行列であって、
導電行配線のセット、および導電行配線の前記セットと交差する導電列配線のセット、ならびに導電列配線の前記セットと導電行配線の前記セットとの交差点における最適化可能なクロスポイント・デバイスを有するクロスバー・アレイを各々含む、基準アレイに接続された重みアレイを備え、
前記重みアレイからのクロスポイント・デバイスごとのコンダクタンス値が前記基準アレイにコピーされる、ベクトル行列。 - 前記重みアレイ内の前記クロスポイント・デバイスの全てがそれらの独自の対称点にある、請求項1に記載のベクトル行列。
- 前記クロスポイント・デバイスが抵抗型処理ユニット(RPU)を含む、請求項1に記載のベクトル行列。
- 前記重みアレイ内の導電行配線の前記セットに接続された第1の電圧パルス発生器と、
前記重みアレイ内の導電列配線の前記セットに接続された第2の電圧パルス発生器と、
をさらに備える、請求項1に記載のベクトル行列。 - 電流積分器を介して前記重みアレイ内の導電列配線の前記セットに接続されたアナログ-デジタル変換器(ADC)をさらに備える、請求項1に記載のベクトル行列。
- アナログ・アレイ・ベースのベクトル行列演算のための方法であって、
導電行配線のセット、および導電行配線の前記セットと交差する導電列配線のセット、ならびに導電列配線の前記セットと導電行配線の前記セットとの交差点におけるクロスポイント・デバイスを有するクロスバー・アレイを各々含む、基準アレイに接続された重みアレイを準備するステップと、
前記重みアレイ内の前記クロスポイント・デバイスの全てがそれらの独自の対称点に収束するまで、繰り返し電圧パルスを前記重みアレイ内の前記クロスポイント・デバイスに印加するステップと、
前記重みアレイからのクロスポイント・デバイスごとのコンダクタンス値を前記基準アレイにコピーするステップと、
を含む方法。 - 前記重みアレイ内の前記クロスポイント・デバイスに印加される前記電圧パルスがアップおよびダウン電圧パルスを含む、請求項6に記載の方法。
- 前記アップおよびダウン電圧パルスが前記重みアレイ内の前記クロスポイント・デバイスにランダムに印加される、請求項7に記載の方法。
- 前記アップおよびダウン電圧パルスが前記重みアレイ内の前記クロスポイント・デバイスに交互の様態で印加される、請求項7に記載の方法。
- 前記基準アレイにコピーされる前記コンダクタンス値がゼロ重み値を含む、請求項6に記載の方法。
- 前記重みアレイの出力を前記基準アレイからのゼロ重み値によってゼロ点移動させるステップをさらに含む、請求項6に記載の方法。
- 同じ信号を前記重みアレイおよび前記基準アレイの両方に印加するステップと、
前記重みアレイの前記出力を前記基準アレイの出力から減算するステップと、
をさらに含む、請求項11に記載の方法。 - 前記クロスポイント・デバイスがRPUを含む、請求項6に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/158,056 US10831860B2 (en) | 2018-10-11 | 2018-10-11 | Alignment techniques to match symmetry point as zero-weight point in analog crosspoint arrays |
US16/158,056 | 2018-10-11 | ||
PCT/IB2019/058282 WO2020074996A1 (en) | 2018-10-11 | 2019-09-30 | Alignment techniques to match symmetry point as zero-weight point in analog crosspoint arrays |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022502760A JP2022502760A (ja) | 2022-01-11 |
JP7288047B2 true JP7288047B2 (ja) | 2023-06-06 |
Family
ID=70159520
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021516774A Active JP7288047B2 (ja) | 2018-10-11 | 2019-09-30 | アナログ・クロスポイント・アレイにおいて対称点をゼロ重み点として一致させるためのアライメント方法、そのベクトル行列 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10831860B2 (ja) |
JP (1) | JP7288047B2 (ja) |
CN (1) | CN112823327B (ja) |
DE (1) | DE112019005119T5 (ja) |
GB (1) | GB2592813B (ja) |
WO (1) | WO2020074996A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109146070B (zh) * | 2017-06-16 | 2021-10-22 | 华为技术有限公司 | 一种支撑基于rram的神经网络训练的外围电路及系统 |
US11443176B2 (en) * | 2018-05-17 | 2022-09-13 | International Business Machines Corporation | Acceleration of convolutional neural networks on analog arrays |
US11562249B2 (en) * | 2019-05-01 | 2023-01-24 | International Business Machines Corporation | DNN training with asymmetric RPU devices |
US11501023B2 (en) * | 2020-04-30 | 2022-11-15 | International Business Machines Corporation | Secure chip identification using resistive processing unit as a physically unclonable function |
TWI727814B (zh) * | 2020-05-28 | 2021-05-11 | 旺宏電子股份有限公司 | 記憶體裝置及其運算結果補償方法 |
US11133063B1 (en) * | 2020-06-22 | 2021-09-28 | International Business Machines Corporation | Suppressing undesired programming at half-selected devices in a crosspoint array of 3-terminal resistive memory |
KR20220148558A (ko) | 2021-04-29 | 2022-11-07 | 삼성전자주식회사 | 뉴로모픽 컴퓨팅 장치 및 그 설계 방법 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170091621A1 (en) | 2015-09-29 | 2017-03-30 | International Business Machines Corporation | Scalable architecture for implementing maximization algorithms with resistive devices |
US20170109628A1 (en) | 2015-10-20 | 2017-04-20 | International Business Machines Corporation | Resistive processing unit |
US20180005115A1 (en) | 2016-06-29 | 2018-01-04 | International Business Machines Corporation | Accelerated neural network training using a pipelined resistive processing unit architecture |
US20180253642A1 (en) | 2017-03-01 | 2018-09-06 | International Business Machines Corporation | Resistive processing unit with hysteretic updates for neural network training |
WO2018173472A1 (ja) | 2017-03-22 | 2018-09-27 | 株式会社デンソー | ニューラルネットワーク回路 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6502083B1 (en) | 1998-12-29 | 2002-12-31 | International Business Machines Corporation | Neuron architecture having a dual structure and neural networks incorporating the same |
JP3863484B2 (ja) | 2002-11-22 | 2006-12-27 | 株式会社東芝 | 磁気抵抗効果素子および磁気メモリ |
US8712940B2 (en) | 2011-05-31 | 2014-04-29 | International Business Machines Corporation | Structural plasticity in spiking neural networks with symmetric dual of an electronic neuron |
US9715655B2 (en) * | 2013-12-18 | 2017-07-25 | The United States Of America As Represented By The Secretary Of The Air Force | Method and apparatus for performing close-loop programming of resistive memory devices in crossbar array based hardware circuits and systems |
EP3221864B1 (en) * | 2014-11-18 | 2019-09-18 | Hewlett-Packard Enterprise Development LP | Memristive dot product engine with a nulling amplifier |
US10410716B2 (en) * | 2015-09-25 | 2019-09-10 | Hewlett Packard Enterprise Development Lp | Crossbar arrays for calculating matrix multiplication |
WO2017155544A1 (en) * | 2016-03-11 | 2017-09-14 | Hewlett Packard Enterprise Development Lp | Hardware accelerators for calculating node values of neural networks |
US9715656B1 (en) * | 2016-09-12 | 2017-07-25 | International Business Machines Corporation | Killing asymmetric resistive processing units for neural network training |
US9779355B1 (en) | 2016-09-15 | 2017-10-03 | International Business Machines Corporation | Back propagation gates and storage capacitor for neural networks |
US9852790B1 (en) | 2016-10-26 | 2017-12-26 | International Business Machines Corporation | Circuit methodology for highly linear and symmetric resistive processing unit |
WO2018106969A1 (en) | 2016-12-09 | 2018-06-14 | Hsu Fu Chang | Three-dimensional neural network array |
US11315009B2 (en) * | 2017-03-03 | 2022-04-26 | Hewlett Packard Enterprise Development Lp | Analog multiplier-accumulators |
-
2018
- 2018-10-11 US US16/158,056 patent/US10831860B2/en active Active
-
2019
- 2019-09-30 DE DE112019005119.9T patent/DE112019005119T5/de active Pending
- 2019-09-30 CN CN201980066637.1A patent/CN112823327B/zh active Active
- 2019-09-30 WO PCT/IB2019/058282 patent/WO2020074996A1/en active Application Filing
- 2019-09-30 GB GB2106235.1A patent/GB2592813B/en active Active
- 2019-09-30 JP JP2021516774A patent/JP7288047B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170091621A1 (en) | 2015-09-29 | 2017-03-30 | International Business Machines Corporation | Scalable architecture for implementing maximization algorithms with resistive devices |
US20170109628A1 (en) | 2015-10-20 | 2017-04-20 | International Business Machines Corporation | Resistive processing unit |
US20180005115A1 (en) | 2016-06-29 | 2018-01-04 | International Business Machines Corporation | Accelerated neural network training using a pipelined resistive processing unit architecture |
US20180253642A1 (en) | 2017-03-01 | 2018-09-06 | International Business Machines Corporation | Resistive processing unit with hysteretic updates for neural network training |
WO2018173472A1 (ja) | 2017-03-22 | 2018-09-27 | 株式会社デンソー | ニューラルネットワーク回路 |
Also Published As
Publication number | Publication date |
---|---|
JP2022502760A (ja) | 2022-01-11 |
CN112823327A (zh) | 2021-05-18 |
US20200117699A1 (en) | 2020-04-16 |
DE112019005119T5 (de) | 2021-07-22 |
GB2592813B (en) | 2022-05-11 |
WO2020074996A1 (en) | 2020-04-16 |
CN112823327B (zh) | 2022-12-13 |
US10831860B2 (en) | 2020-11-10 |
GB202106235D0 (en) | 2021-06-16 |
GB2592813A (en) | 2021-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7288047B2 (ja) | アナログ・クロスポイント・アレイにおいて対称点をゼロ重み点として一致させるためのアライメント方法、そのベクトル行列 | |
US10755170B2 (en) | Resistive processing unit with hysteretic updates for neural network training | |
JP7336819B2 (ja) | 抵抗処理ユニット・アレイのクロスポイント・デバイスに重みを記憶するための方法、そのクロスポイント・デバイス、ニューラル・ネットワークを実施するためのクロスポイント・アレイ、そのシステム、およびニューラル・ネットワークを実施するための方法 | |
US9779355B1 (en) | Back propagation gates and storage capacitor for neural networks | |
CN107924227B (zh) | 电阻处理单元 | |
US11087204B2 (en) | Resistive processing unit with multiple weight readers | |
JP7422782B2 (ja) | 非対称rpuデバイスによるdnnの訓練 | |
JP7357079B2 (ja) | 相変化メモリの閉ループ・プログラミング | |
US11488001B2 (en) | Neuromorphic devices using layers of ion reservoirs and ion conductivity electrolyte | |
US10832773B1 (en) | Architecture for enabling zero value shifting | |
US11195089B2 (en) | Multi-terminal cross-point synaptic device using nanocrystal dot structures | |
Yang et al. | On learning with nonlinear memristor-based neural network and its replication | |
Aghnout et al. | Modeling triplet spike-timing-dependent plasticity using memristive devices | |
JP2024514063A (ja) | ディープ・ニューラル・ネットワーク・トレーニング | |
CN115699028A (zh) | 模拟人工智能网络推理的逐行卷积神经网络映射的高效瓦片映射 | |
US11133063B1 (en) | Suppressing undesired programming at half-selected devices in a crosspoint array of 3-terminal resistive memory | |
JP2023547800A (ja) | Rpuクロスバー・アレイ上の重み反復 | |
KR20230087830A (ko) | 인공신경망을 구성하는 아날로그 시냅스 소자의 가중치 확정 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220222 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20220512 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230308 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230509 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230525 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7288047 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |