JP2017516180A - 複数の連想メモリを用いた神経形態学的グラフ圧縮の方法、システム、及びコンピュータプログラム製品 - Google Patents
複数の連想メモリを用いた神経形態学的グラフ圧縮の方法、システム、及びコンピュータプログラム製品 Download PDFInfo
- Publication number
- JP2017516180A JP2017516180A JP2016555836A JP2016555836A JP2017516180A JP 2017516180 A JP2017516180 A JP 2017516180A JP 2016555836 A JP2016555836 A JP 2016555836A JP 2016555836 A JP2016555836 A JP 2016555836A JP 2017516180 A JP2017516180 A JP 2017516180A
- Authority
- JP
- Japan
- Prior art keywords
- dendritic
- compartments
- activation
- inputs
- dendrites
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C15/00—Digital stores in which information comprising one or more characteristic parts is written into the store and in which information is read-out by searching for one or more of these characteristic parts, i.e. associative or content-addressed stores
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
Abstract
Description
電子デバイスのプロセッサにより実行された場合にプロセッサに
複数の樹状突起コンパートメントのうちのより近位の複数から、人工ニューロンの神経細胞体へ流れる末梢シナプス活性化としてコインシデンス検出を計算することと、
非ゼロの受容性を有する複数の樹状突起コンパートメントのうちの対応する1つで受信された非ゼロ活性化値入力に由来するコインシデンス検出に応答して樹状突起の活動電位を生成することと、
樹状突起の活動電位の生成に応答して、活性化値及び受容性を減らし、減らされた活性化値を複数の樹状突起コンパートメントのうちの次の1つに渡すことと、
を有する複数の動作を実行させるコンピュータ可読プログラムコードを格納する非一時的コンピュータ可読記憶媒体を備える。
Claims (24)
- 複数の樹状突起を備え、
前記複数の樹状突起のうちの複数は、複数の樹状突起コンパートメントを有し、
前記複数の樹状突起コンパートメントのそれぞれの1つが複数の入力のそれぞれの1つに一意に関連付けられ、
各樹状突起コンパートメントは、シナプス活性化強度に対応する第1重み値と、他の複数の活性化に対するそれぞれの前記樹状突起コンパートメントの受容性に対応する第2重み値とを有する、
人工ニューロン。 - 前記複数の樹状突起コンパートメントは、前記樹状突起の末梢端である先端から人工ニューロン加重点である神経細胞体へ線形に配置される、請求項1に記載の人工ニューロン。
- 前記複数の樹状突起のそれぞれは、それぞれの他の複数の人工ニューロンからの複数の入力を受信する前記複数の樹状突起コンパートメントの線形配列である、請求項1または2に記載の人工ニューロン。
- 前記複数の入力のうちの複数は、前記複数の樹状突起コンパートメントを経たカスケーディング・シナプス活性化を介して受信される、請求項3に記載の人工ニューロン。
- ゼロである複数の受容性値を有する複数の樹状突起コンパートメントは、前記複数の樹状突起コンパートメントのうちのより遠位の1つからの活性化入力を、前記複数の樹状突起コンパートメントのうちのより近位の1つに活性化出力として電子的に送信する、請求項1から4の何れか1項に記載の人工ニューロン。
- 前記複数の樹状突起コンパートメントのうちの複数の間で交差スイッチを生成する前記複数の入力に応答して、前記複数の樹状突起のうちの対応する1つは、前記樹状突起の先端に、追加された樹状突起コンパートメントを有する、請求項1から5の何れか1項に記載の人工ニューロン。
- 前記複数の樹状突起コンパートメントのうちの1つにおける前記第1重み値がゼロより大きく、前記複数の樹状突起コンパートメントのうちの前記1つにおける前記第2重み値がゼロより大きいことに応答して、前記複数の樹状突起コンパートメントのうちの前記1つは、人工ニューロン加重点である神経細胞体にコインシデンス・スパイク信号を送信する、請求項1から6の何れか1項に記載の人工ニューロン。
- 前記複数の樹状突起コンパートメントのうちの1つにおける前記第1重み値がゼロであることに応答して、前記複数の樹状突起コンパートメントのうちの前記1つに対する活性伝播が終わる、請求項1から7の何れか1項に記載の人工ニューロン。
- それぞれ複数の樹状突起コンパートメントを有する複数の樹状突起を備える人工ニューロンへの複数の入力を記憶する方法であって、
当該方法は、
前記複数の樹状突起コンパートメントのうちのより近位の複数から、人工ニューロン加重点である前記人工ニューロンの神経細胞体へ流れる末梢シナプス活性化としてコインシデンス検出を計算する段階を備える、方法。 - 前記複数の樹状突起コンパートメントのうちの、非ゼロの受容性値を有する対応する1つで受信された非ゼロ活性化値入力に由来する前記コインシデンス検出に応答して樹状突起の活動電位を生成する段階をさらに備える、請求項9に記載の方法。
- 前記樹状突起の活動電位の生成に応答して、当該方法は、
前記活性化値及び前記受容性値を減らす段階と、
減らされた前記活性化値を前記複数の樹状突起コンパートメントのうちの次の1つに渡す段階と、をさらに備える、請求項10に記載の方法。 - それぞれ複数の樹状突起コンパートメントを有する複数の樹状突起を備える人工ニューロンへの複数の入力を記憶する方法であって、
当該方法は、
前記複数の樹状突起コンパートメントのうちの遠位の複数から、または、前記複数の樹状突起コンパートメントのうちの近位の複数から、前記人工ニューロンの神経細胞体に段階的に生じるカスケーディング活性化を用いてコインシデンス検出を計算する段階を備える、方法。 - 交差構成の4スイッチを検出して回避する段階をさらに備える、請求項12に記載の方法。
- 複数の樹状突起を備え、
前記複数の樹状突起のうちの複数は、複数の樹状突起コンパートメントを有し、
前記複数の樹状突起コンパートメントのそれぞれの1つが複数の入力のそれぞれの1つに一意に関連付けられ、
前記複数の樹状突起コンパートメントのうちの複数は、前記複数の樹状突起コンパートメントのうちの対応する1つが第1受容性値を有し、非修正状態とは異なる修正状態にある場合、および、前記複数の樹状突起コンパートメントのうちの前記対応する1つが前記第1受容性とは異なる第2受容性を有する場合に、カスケーディング活性化を受信し、前記非修正状態で前記カスケーディング活性化を送信する、人工ニューロン。 - それぞれ複数の樹状突起コンパートメントを有する複数の樹状突起を備える人工ニューロンへの複数の入力を記憶するコンピュータプログラム製品であって、
電子デバイスのプロセッサにより実行された場合に前記プロセッサに
前記複数の樹状突起コンパートメントのうちのより近位の複数から、前記人工ニューロンの神経細胞体へ流れる末梢シナプス活性化としてコインシデンス検出を計算することと、
前記複数の樹状突起コンパートメントのうちの、非ゼロの受容性を有する対応する1つで受信された非ゼロ活性化値入力に由来する前記コインシデンス検出に応答して樹状突起の活動電位を生成することと、
前記樹状突起の活動電位の生成に応答して、前記活性化値及び前記受容性を減らし、減らされた前記活性化値を前記複数の樹状突起コンパートメントのうちの次の1つに渡すことと、
を有する複数の動作を実行させるコンピュータ可読プログラムコードを格納する非一時的コンピュータ可読記憶媒体を備える、コンピュータプログラム製品。 - それぞれ複数の樹状突起コンパートメントを有する複数の樹状突起を備える人工ニューロンへの複数の入力を記憶する方法であって、
当該方法は、
前記複数の樹状突起コンパートメントのうちの遠位の複数から、または、前記複数の樹状突起コンパートメントのうちの近位の複数から、前記人工ニューロンの神経細胞体に段階的に生じるカスケーディング活性化を用いてコインシデンス検出を計算する段階を備える、方法。 - 交差構成の複数の4スイッチを検出して回避する段階をさらに備える、請求項16に記載の方法。
- 前記複数の樹状突起コンパートメントは、前記複数の樹状突起のうちの対応する1つの末梢端である先端から前記複数の樹状突起のうちの前記対応する1つの人工ニューロン加重点である神経細胞体へ線形に配置される、請求項16または17に記載の方法。
- それぞれの他の複数の人工ニューロンから前記複数の樹状突起コンパートメントのうちの複数への複数の入力を受信する段階をさらに備える、請求項16から18の何れか1項に記載の方法。
- 前記複数の樹状突起のそれぞれは、前記それぞれの他の複数の人工ニューロンからの前記複数の入力を受信する前記複数の樹状突起コンパートメントの線形配列を有する、請求項19に記載の方法。
- それぞれの他の複数の人工ニューロンからの前記複数の樹状突起コンパートメントのうちの複数への複数の入力を受信する段階は、前記複数の樹状突起コンパートメントを経たカスケーディング・シナプス活性化を介して前記複数の入力を受信する段階を有する、請求項19または20に記載の方法。
- 前記複数の樹状突起コンパートメントのうちのより末梢の1つからの活性化入力を、前記複数の樹状突起コンパートメントのうちのより近位の1つに活性化出力として送信する段階をさらに備える、請求項16から21の何れか1項に記載の方法。
- 前記複数の樹状突起コンパートメントのうちの複数の間で交差スイッチを生成する前記複数の入力に応答して、樹状突起の先端において前記複数の樹状突起に別の樹状突起コンパートメントを設ける、請求項16から22の何れか1項に記載の方法。
- プロセッサと、
実行された場合に前記プロセッサに請求項9から13および16から23の何れか1項の複数の動作を実行させる、内部に格納された複数の命令を有するメモリと、
を備えるシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201461979601P | 2014-04-15 | 2014-04-15 | |
US61/979,601 | 2014-04-15 | ||
PCT/IB2015/052757 WO2015159242A1 (en) | 2014-04-15 | 2015-04-15 | Methods, systems and computer program products for neuromorphic graph compression using associative memories |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017516180A true JP2017516180A (ja) | 2017-06-15 |
JP6328787B2 JP6328787B2 (ja) | 2018-05-23 |
Family
ID=53039934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016555836A Expired - Fee Related JP6328787B2 (ja) | 2014-04-15 | 2015-04-15 | 複数の連想メモリを用いた神経形態学的グラフ圧縮の方法、システム、及びコンピュータプログラム製品 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10635967B2 (ja) |
EP (1) | EP3132389A1 (ja) |
JP (1) | JP6328787B2 (ja) |
KR (1) | KR101925905B1 (ja) |
CN (1) | CN106462798A (ja) |
WO (1) | WO2015159242A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230094395A (ko) * | 2021-12-21 | 2023-06-28 | 포항공과대학교 산학협력단 | 뉴로모픽 반도체 소자 및 동작 방법 |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10860759B2 (en) * | 2015-06-08 | 2020-12-08 | Microsoft Technology Licensing, Llc | System for reversible circuit compilation with space constraint, method and program |
US10268948B2 (en) * | 2015-07-23 | 2019-04-23 | The Boeing Company | Data driven classification and troubleshooting system and method using associative memory and a machine learning algorithm to improve the accuracy and performance of the associative memory |
US10733500B2 (en) * | 2015-10-21 | 2020-08-04 | International Business Machines Corporation | Short-term memory using neuromorphic hardware |
KR101806833B1 (ko) | 2015-12-31 | 2017-12-11 | 인천대학교 산학협력단 | 인공 신경망의 희소 활동을 활용하는 동기 직접 회로의 소비 전력 절감 장치 및 방법 |
US9767408B1 (en) | 2016-09-16 | 2017-09-19 | International Business Machines Corporation | Multi-memristive synapse with clock-arbitrated weight update |
US10748060B2 (en) | 2016-10-14 | 2020-08-18 | Intel Corporation | Pre-synaptic learning using delayed causal updates |
US10824937B2 (en) * | 2016-12-20 | 2020-11-03 | Intel Corporation | Scalable neuromorphic core with shared synaptic memory and variable precision synaptic memory |
US10867238B2 (en) * | 2016-12-20 | 2020-12-15 | Intel Corporation | Population-based connectivity architecture for spiking neural networks |
US10339444B2 (en) | 2017-01-20 | 2019-07-02 | International Business Machines Corporation | Monitoring potential of neuron circuits |
US10795836B2 (en) * | 2017-04-17 | 2020-10-06 | Microsoft Technology Licensing, Llc | Data processing performance enhancement for neural networks using a virtualized data iterator |
US10171084B2 (en) | 2017-04-24 | 2019-01-01 | The Regents Of The University Of Michigan | Sparse coding with Memristor networks |
WO2018227273A1 (en) * | 2017-06-15 | 2018-12-20 | Nuro Corp. | Neural operating system |
US10970630B1 (en) | 2017-06-15 | 2021-04-06 | National Technology & Engineering Solutions Of Sandia, Llc | Neuromorphic computing architecture with dynamically accessible contexts |
US10366322B2 (en) | 2017-10-06 | 2019-07-30 | DeepCube LTD. | System and method for compact and efficient sparse neural networks |
US11138493B2 (en) * | 2017-12-22 | 2021-10-05 | International Business Machines Corporation | Approaching homeostasis in a binary neural network |
WO2019216514A1 (en) | 2018-05-09 | 2019-11-14 | Samsung Electronics Co., Ltd. | Electronic apparatus for compression and decompression of data and compression method thereof |
US10943652B2 (en) | 2018-05-22 | 2021-03-09 | The Regents Of The University Of Michigan | Memory processing unit |
US20210295143A1 (en) * | 2018-08-07 | 2021-09-23 | Institute of Microelectronics, Chinese Academy of Sciences | Neuron circuit and neural network circuit |
EP3690752A1 (en) | 2019-01-31 | 2020-08-05 | Avatar Cognition Barcelona, SL | Fractal cognitive computing node and computer-implemented method for learning procedures |
CN110197114B (zh) * | 2019-04-04 | 2021-06-29 | 华中科技大学 | 一种全脑范围单神经元轴突突触结的自动识别方法及装置 |
US11009578B2 (en) * | 2019-07-17 | 2021-05-18 | GE Precision Healthcare LLC | Systems and methods for predicting B1+ maps from magnetic resonance calibration images |
CN114169511B (zh) * | 2021-11-11 | 2024-03-19 | 山东科技大学 | 一种基于实物忆阻器的联想记忆电路及方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08123885A (ja) * | 1994-10-24 | 1996-05-17 | Fujitsu Ltd | 神経細胞機能素子 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4660166A (en) | 1985-01-22 | 1987-04-21 | Bell Telephone Laboratories, Incorporated | Electronic network for collective decision based on large number of connections between signals |
US5255348A (en) | 1991-06-14 | 1993-10-19 | Nenov Valeriy I | Neural network for learning, recognition and recall of pattern sequences |
US6052679A (en) | 1997-09-11 | 2000-04-18 | International Business Machines Corporation | Artificial neural networks including Boolean-complete compartments |
US6581049B1 (en) | 1999-11-08 | 2003-06-17 | Saffron Technology, Inc. | Artificial neurons including power series of weights and counts that represent prior and next association |
EP1415273B1 (en) | 2001-08-10 | 2013-12-18 | Saffron Technology, Inc. | Artificial neurons including weights that define maximal projections |
US7657496B2 (en) * | 2006-06-26 | 2010-02-02 | Saffron Technology, Inc. | Nonlinear associative memories using linear arrays of associative memory cells, and methods of operating same |
US8352488B2 (en) | 2009-06-02 | 2013-01-08 | Saffron Technology, Inc. | Methods, systems and computer program products for providing a distributed associative memory base |
EP2259214B1 (en) * | 2009-06-04 | 2013-02-27 | Honda Research Institute Europe GmbH | Implementing a neural associative memory based on non-linear learning of discrete synapses |
US8510239B2 (en) * | 2010-10-29 | 2013-08-13 | International Business Machines Corporation | Compact cognitive synaptic computing circuits with crossbar arrays spatially in a staggered pattern |
US9147155B2 (en) * | 2011-08-16 | 2015-09-29 | Qualcomm Incorporated | Method and apparatus for neural temporal coding, learning and recognition |
US8914315B2 (en) * | 2012-01-27 | 2014-12-16 | International Business Machines Corporation | Multi-compartment neuron suitable for implementation in a distributed hardware model by reducing communication bandwidth |
-
2015
- 2015-04-15 EP EP15720120.3A patent/EP3132389A1/en not_active Ceased
- 2015-04-15 JP JP2016555836A patent/JP6328787B2/ja not_active Expired - Fee Related
- 2015-04-15 KR KR1020167025081A patent/KR101925905B1/ko active IP Right Grant
- 2015-04-15 US US14/687,063 patent/US10635967B2/en active Active
- 2015-04-15 WO PCT/IB2015/052757 patent/WO2015159242A1/en active Application Filing
- 2015-04-15 CN CN201580014704.7A patent/CN106462798A/zh active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08123885A (ja) * | 1994-10-24 | 1996-05-17 | Fujitsu Ltd | 神経細胞機能素子 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230094395A (ko) * | 2021-12-21 | 2023-06-28 | 포항공과대학교 산학협력단 | 뉴로모픽 반도체 소자 및 동작 방법 |
KR102634665B1 (ko) | 2021-12-21 | 2024-02-07 | 포항공과대학교 산학협력단 | 뉴로모픽 반도체 소자 및 동작 방법 |
Also Published As
Publication number | Publication date |
---|---|
US10635967B2 (en) | 2020-04-28 |
JP6328787B2 (ja) | 2018-05-23 |
CN106462798A (zh) | 2017-02-22 |
KR101925905B1 (ko) | 2019-01-28 |
EP3132389A1 (en) | 2017-02-22 |
US20150294217A1 (en) | 2015-10-15 |
KR20160119858A (ko) | 2016-10-14 |
WO2015159242A1 (en) | 2015-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6328787B2 (ja) | 複数の連想メモリを用いた神経形態学的グラフ圧縮の方法、システム、及びコンピュータプログラム製品 | |
Indiveri et al. | Artificial cognitive systems: From VLSI networks of spiking neurons to neuromorphic cognition | |
Almási et al. | Review of advances in neural networks: Neural design technology stack | |
Sporea et al. | Supervised learning in multilayer spiking neural networks | |
Davies et al. | A forecast-based STDP rule suitable for neuromorphic implementation | |
Kasabov et al. | Quantum-inspired particle swarm optimisation for integrated feature and parameter optimisation of evolving spiking neural networks | |
Cabessa et al. | Evolving recurrent neural networks are super-Turing | |
Ji et al. | Accuracy versus simplification in an approximate logic neural model | |
Zorins et al. | Artificial neural networks and human brain: Survey of improvement possibilities of learning | |
Munawar | Research developments in the field neurocomputing | |
Hadaeghi et al. | Unconventional Information Processing Systems, Novel Hardware: A Tour d'Horizon | |
Lynch et al. | Spiking neural networks: An algorithmic perspective | |
Nayak et al. | Optimizing a higher order neural network through teaching learning based optimization algorithm | |
Kim et al. | SPSNN: Nth order sequence-predicting spiking neural network | |
Tonelli et al. | Using a map-based encoding to evolve plastic neural networks | |
Lo et al. | Spiking Neural Network for Energy Efficient Learning and Recognition | |
Huynh et al. | Training single hidden layer feedforward neural networks by singular value decomposition | |
Khalid et al. | Cortico-hippocampal computational modeling using quantum-inspired neural networks | |
Shayanfar et al. | Deep recurrent neural networks in HIV-1 protease cleavage classification | |
Wu et al. | A simple probabilistic spiking neuron model with Hebbian learning rules | |
Yin et al. | Self-organizing reservior computing with dynamically regulated cortical neural networks | |
Gueorguieva et al. | Learning and data clustering with an RBF-based spiking neuron network | |
Cotteret et al. | Robust Spiking Attractor Networks with a Hard Winner-Take-All Neuron Circuit | |
Nwagbo et al. | REVIEW OF NEURONAL MULTIPLEXERS WITH BACK PROPAGATION ALGORITHM | |
Stroffek et al. | Short-term potentiation effect on pattern recall in sparsely coded neural network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170815 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171114 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180320 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180418 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6328787 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |