JP2017507435A - ニューラルウォッチドッグ - Google Patents
ニューラルウォッチドッグ Download PDFInfo
- Publication number
- JP2017507435A JP2017507435A JP2016560870A JP2016560870A JP2017507435A JP 2017507435 A JP2017507435 A JP 2017507435A JP 2016560870 A JP2016560870 A JP 2016560870A JP 2016560870 A JP2016560870 A JP 2016560870A JP 2017507435 A JP2017507435 A JP 2017507435A
- Authority
- JP
- Japan
- Prior art keywords
- neural network
- neural
- activity
- processor
- exception event
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001537 neural effect Effects 0.000 title claims description 98
- 238000013528 artificial neural network Methods 0.000 claims abstract description 105
- 230000000694 effects Effects 0.000 claims abstract description 74
- 238000000034 method Methods 0.000 claims abstract description 65
- 238000012544 monitoring process Methods 0.000 claims abstract description 38
- 210000002569 neuron Anatomy 0.000 claims description 111
- 238000004590 computer program Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 description 53
- 230000000946 synaptic effect Effects 0.000 description 36
- 230000006870 function Effects 0.000 description 27
- 210000000225 synapse Anatomy 0.000 description 26
- 239000012528 membrane Substances 0.000 description 19
- 230000008859 change Effects 0.000 description 17
- 230000001242 postsynaptic effect Effects 0.000 description 17
- 230000006399 behavior Effects 0.000 description 14
- 238000012421 spiking Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000000875 corresponding effect Effects 0.000 description 7
- 230000001419 dependent effect Effects 0.000 description 7
- 230000027928 long-term synaptic potentiation Effects 0.000 description 7
- 210000005215 presynaptic neuron Anatomy 0.000 description 7
- 230000002964 excitative effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000036982 action potential Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000010304 firing Methods 0.000 description 4
- 230000002401 inhibitory effect Effects 0.000 description 4
- 230000003956 synaptic plasticity Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 239000003990 capacitor Substances 0.000 description 3
- 210000004027 cell Anatomy 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000003518 presynaptic effect Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 240000002627 Cordeauxia edulis Species 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000007667 floating Methods 0.000 description 2
- 238000009472 formulation Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000005022 packaging material Substances 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000009534 synaptic inhibition Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000003376 axonal effect Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000002902 bimodal effect Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 210000005056 cell body Anatomy 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000004064 dysfunction Effects 0.000 description 1
- 210000004242 electrical synapse Anatomy 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000028161 membrane depolarization Effects 0.000 description 1
- 230000025350 membrane depolarization involved in regulation of action potential Effects 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 230000008062 neuronal firing Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
- G06F11/0751—Error or fault detection not based on redundancy
- G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
- G06F11/0757—Error or fault detection not based on redundancy by exceeding limits by exceeding a time limit, i.e. time-out, e.g. watchdogs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0208—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the configuration of the monitoring system
- G05B23/0213—Modular or universal configuration of the monitoring system, e.g. monitoring system having modules that may be combined to build monitoring program; monitoring system that can be applied to legacy systems; adaptable monitoring system; using different communication protocols
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Neurology (AREA)
- Quality & Reliability (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Image Analysis (AREA)
- Debugging And Monitoring (AREA)
- Retry When Errors Occur (AREA)
Abstract
Description
[0023]図1は、本開示のいくつかの態様による、複数のレベルのニューロンをもつ例示的な人工ニューラルシステム100を示す。ニューラルシステム100は、シナプス結合のネットワーク104(すなわち、フィードフォワード結合)を介してニューロンの別のレベル106に結合されたニューロンのあるレベル102を有し得る。簡単のために、図1には2つのレベルのニューロンのみが示されているが、ニューラルシステムには、より少ないまたはより多くのレベルのニューロンが存在し得る。ニューロンのいくつかは、ラテラル結合を介して同じ層の他のニューロンに結合し得ることに留意されたい。さらに、ニューロンのいくつかは、フィードバック結合を介して前の層のニューロンに戻る形で結合し得る。
[0035]ニューラルネットワークのハードウェアおよびソフトウェアモデルでは、シナプス関係機能の処理がシナプスタイプに基づき得る。シナプスタイプは、非塑性シナプス(non-plastic synapse)(重みおよび遅延の変化がない)と、可塑性シナプス(重みが変化し得る)と、構造遅延可塑性シナプス(重みおよび遅延が変化し得る)と、完全可塑性シナプス(重み、遅延および結合性が変化し得る)と、それの変形(たとえば、遅延は変化し得るが、重みまたは結合性の変化はない)とを含み得る。複数のタイプの利点は、処理が再分割され得ることである。たとえば、非塑性シナプスは、可塑性機能を実行すること(またはそのような機能が完了するのを待つこと)がない場合がある。同様に、遅延および重み可塑性は、一緒にまたは別々に、順にまたは並列に動作し得る動作に再分割され得る。異なるタイプのシナプスは、適用される異なる可塑性タイプの各々の異なるルックアップテーブルまたは式およびパラメータを有し得る。したがって、本方法は、シナプスのタイプについての関連する表、式、またはパラメータにアクセスする。様々なシナプスタイプの使用は、人工ニューラルネットワークに柔軟性と設定可能性を追加し得る。
[0037]神経可塑性(または単に「可塑性」)は、脳内のニューロンおよびニューラルネットワークがそれらのシナプス結合と挙動とを新しい情報、感覚上の刺激、発展、損傷または機能不全に応答して変える能力である。可塑性は、生物学における学習および記憶にとって、また計算論的神経科学およびニューラルネットワークにとって重要である。(たとえば、Hebb則理論による)シナプス可塑性、スパイクタイミング依存可塑性(STDP)、非シナプス可塑性、活性依存可塑性、構造可塑性および恒常的可塑性など、様々な形の可塑性が研究されている。
[0044]有用なスパイキングニューロンモデルを設計するための一般的原理がいくつかある。良いニューロンモデルは、2つの計算レジーム、すなわち、一致検出および関数計算の点で豊かな潜在的挙動を有し得る。その上、良いニューロンモデルは、時間コーディングを可能にするための2つの要素を有する必要がある。たとえば、入力の到着時間は出力時間に影響を与え、一致検出は狭い時間ウィンドウを有し得る。加えて、計算上魅力的であるために、良いニューロンモデルは、連続時間に閉形式解と、ニアアトラクター(near attractor)と鞍点とを含む安定した挙動とを有し得る。言い換えれば、有用なニューロンモデルは、実用的なニューロンモデルであり、豊かで、現実的で、生物学的に一貫した挙動をモデル化するために使用され得、神経回路のエンジニアリングとリバースエンジニアリングの両方を行うために使用され得るニューロンモデルである。
[0048]Hunzinger Coldニューロンモデルは、豊かな様々な神経挙動を再生し得る最小二重レジームスパイキング線形動的モデルである。モデルの1次元または2次元の線形ダイナミクスは2つのレジームを有することができ、時間定数(および結合)はレジームに依存し得る。しきい値下レジームでは、時間定数は、慣例により負であり、一般に生物学的に一貫した線形方式で静止状態に細胞を戻す役目を果たすリーキーチャネルダイナミクスを表す。しきい値上レジームにおける時間定数は、慣例により正であり、一般にスパイク生成のレイテンシを生じさせる一方でスパイク状態に細胞を駆り立てる反リーキーチャネルダイナミクスを反映する。
[0063]場合によっては、ニューラルネットワークに例外条件が発生し得る。例外条件は、たとえば、ネットワーク活性、学習機能、可塑性機能、および/または環境の影響によって引き起こされる、予期しない不安定性または不均衡であり得る。典型的なシステムは、例外条件に起因するデバッグシステム障害への制御されたデバッグ環境を提供し得る。デバッグ環境は例外条件の原因を決定するために有用であり得るが、デバッグ環境は例外条件に起因し得るシステム障害を緩和(たとえば、防止)しない。したがって、展開されたニューラルネットワークなどの非制御環境において、そのような状況を検出する、および/またはそのような状況から回復するためのシステムを提供することが望ましい。本出願において、例外条件は、潜在的にシステム障害につながる可能性があるイベントを指す点に留意されたい。例外条件は、条件と呼ばれ得る。
以下に、出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
ニューラルネットワークを監視する方法であって、前記方法は下記を備える、
第1のニューラルネットワークの活性を監視することと、
前記活性に基づいて条件を検出することと、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行すること。
[C2]
C1に記載の方法であって、前記例外イベントを実行することが、前記条件を検出することに応答して前記第1のニューラルネットワークの実行を補正することを含む、方法。
[C3]
C1に記載の方法であって、前記例外イベントを実行することが、前記第1のニューラルネットワークのブロックを再構成することを含む、方法。
[C4]
C1に記載の方法であって、前記例外イベントを実行することが、前記第1のニューラルネットワークのブロックを無効にすることを含む、方法。
[C5]
C1に記載の方法であって、前記例外イベントを実行することが、補正係数を適用することを含む、方法。
[C6]
C1に記載の方法であって、前記例外イベントを実行することが、ニューロンスパイクをドロップすることを含む、方法。
[C7]
C1に記載の方法であって、前記例外イベントを実行することが、前記条件を検出すると前記第1のニューラルネットワークの少なくとも一部をリセットすることを含む、方法。
[C8]
C1に記載の方法であって、前記例外イベントを実行することが、前記例外イベントの前に、ネットワークパラメータ、値、接続性、および/または前回の時間期間の履歴を読み出すことを含む、方法。
[C9]
C1に記載の方法であって、前記例外イベントを前記監視、検出、および/または実行することが、第2のニューラルネットワークを介して実行される、方法。
[C10]
ニューラル活性を監視するための装置であって、前記装置は下記を備える、
メモリユニットと、
前記メモリユニットに結合された少なくとも1つのプロセッサ、ここで、前記少なくとも1つのプロセッサが、
第1のニューラルネットワークの活性を監視し、
前記活性に基づいて条件を検出し、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行する、
ように構成される。
[C11]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、前記条件を検出することに応答して前記第1のニューラルネットワークの実行を補正するようにさらに構成される、装置。
[C12]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、前記第1のニューラルネットワークのブロックを再構成するようにさらに構成される、装置。
[C13]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、前記第1のニューラルネットワークのブロックを無効にするようにさらに構成される、装置。
[C14]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、補正係数を適用するようにさらに構成される、装置。
[C15]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、ニューロンスパイクをドロップするようにさらに構成される、装置。
[C16]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、前記条件を検出すると前記第1のニューラルネットワークの少なくとも一部をリセットするようにさらに構成される、装置。
[C17]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、前記例外イベントの前に、ネットワークパラメータ、値、接続性、および/または前回の時間期間の履歴を読み出すようにさらに構成される、装置。
[C18]
C10に記載の装置であって、前記少なくとも1つのプロセッサが、第2のニューラルネットワークを介して前記例外イベントを監視、検出、および/または実行するようにさらに構成される、装置。
[C19]
ニューラルネットワークを監視するための装置であって、前記装置は下記を備える、
前記ニューラルネットワークの活性を監視するための手段と、
前記活性に基づいて条件を検出するための手段と、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行するための手段。
[C20]
ニューラルネットワークを監視するためのコンピュータプログラム製品であって、
プログラムコードを記録した非一時的コンピュータ可読媒体を備え、前記プログラムコードが、
前記ニューラルネットワークの活性を監視するためのプログラムコードと、
前記活性に基づいて条件を検出するためのプログラムコードと、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行するためのプログラムコードと
を備える、コンピュータプログラム製品。
Claims (20)
- ニューラルネットワークを監視する方法であって、前記方法は下記を備える、
第1のニューラルネットワークの活性を監視することと、
前記活性に基づいて条件を検出することと、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行すること。 - 請求項1に記載の方法であって、前記例外イベントを実行することが、前記条件を検出することに応答して前記第1のニューラルネットワークの実行を補正することを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、前記第1のニューラルネットワークのブロックを再構成することを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、前記第1のニューラルネットワークのブロックを無効にすることを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、補正係数を適用することを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、ニューロンスパイクをドロップすることを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、前記条件を検出すると前記第1のニューラルネットワークの少なくとも一部をリセットすることを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを実行することが、前記例外イベントの前に、ネットワークパラメータ、値、接続性、および/または前回の時間期間の履歴を読み出すことを含む、方法。
- 請求項1に記載の方法であって、前記例外イベントを前記監視、検出、および/または実行することが、第2のニューラルネットワークを介して実行される、方法。
- ニューラル活性を監視するための装置であって、前記装置は下記を備える、
メモリユニットと、
前記メモリユニットに結合された少なくとも1つのプロセッサ、ここで、前記少なくとも1つのプロセッサが、
第1のニューラルネットワークの活性を監視し、
前記活性に基づいて条件を検出し、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行する、
ように構成される。 - 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、前記条件を検出することに応答して前記第1のニューラルネットワークの実行を補正するようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、前記第1のニューラルネットワークのブロックを再構成するようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、前記第1のニューラルネットワークのブロックを無効にするようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、補正係数を適用するようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、ニューロンスパイクをドロップするようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、前記条件を検出すると前記第1のニューラルネットワークの少なくとも一部をリセットするようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、前記例外イベントの前に、ネットワークパラメータ、値、接続性、および/または前回の時間期間の履歴を読み出すようにさらに構成される、装置。
- 請求項10に記載の装置であって、前記少なくとも1つのプロセッサが、第2のニューラルネットワークを介して前記例外イベントを監視、検出、および/または実行するようにさらに構成される、装置。
- ニューラルネットワークを監視するための装置であって、前記装置は下記を備える、
前記ニューラルネットワークの活性を監視するための手段と、
前記活性に基づいて条件を検出するための手段と、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行するための手段。 - ニューラルネットワークを監視するためのコンピュータプログラム製品であって、
プログラムコードを記録した非一時的コンピュータ可読媒体を備え、前記プログラムコードが、
前記ニューラルネットワークの活性を監視するためのプログラムコードと、
前記活性に基づいて条件を検出するためのプログラムコードと、
前記検出された条件に少なくとも部分的に基づいて例外イベントを実行するためのプログラムコードと
を備える、コンピュータプログラム製品。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/139,732 | 2013-12-23 | ||
US14/139,732 US9460382B2 (en) | 2013-12-23 | 2013-12-23 | Neural watchdog |
PCT/US2014/071639 WO2015100177A2 (en) | 2013-12-23 | 2014-12-19 | Neural watchdog |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017195121A Division JP2018041475A (ja) | 2013-12-23 | 2017-10-05 | ニューラルウォッチドッグ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017507435A true JP2017507435A (ja) | 2017-03-16 |
JP6275868B2 JP6275868B2 (ja) | 2018-02-07 |
Family
ID=52339301
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016560870A Active JP6275868B2 (ja) | 2013-12-23 | 2014-12-19 | ニューラルウォッチドッグ |
JP2017195121A Pending JP2018041475A (ja) | 2013-12-23 | 2017-10-05 | ニューラルウォッチドッグ |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017195121A Pending JP2018041475A (ja) | 2013-12-23 | 2017-10-05 | ニューラルウォッチドッグ |
Country Status (5)
Country | Link |
---|---|
US (1) | US9460382B2 (ja) |
EP (1) | EP3087538A2 (ja) |
JP (2) | JP6275868B2 (ja) |
CN (1) | CN105830036A (ja) |
WO (1) | WO2015100177A2 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9558442B2 (en) * | 2014-01-23 | 2017-01-31 | Qualcomm Incorporated | Monitoring neural networks with shadow networks |
US10552734B2 (en) * | 2014-02-21 | 2020-02-04 | Qualcomm Incorporated | Dynamic spatial target selection |
US20150242742A1 (en) * | 2014-02-21 | 2015-08-27 | Qualcomm Incorporated | Imbalanced cross-inhibitory mechanism for spatial target selection |
US9542645B2 (en) * | 2014-03-27 | 2017-01-10 | Qualcomm Incorporated | Plastic synapse management |
US10417554B2 (en) * | 2014-05-22 | 2019-09-17 | Lee J. Scheffler | Methods and systems for neural and cognitive processing |
CN108229325A (zh) * | 2017-03-16 | 2018-06-29 | 北京市商汤科技开发有限公司 | 人脸检测方法和系统、电子设备、程序和介质 |
DE102017212839A1 (de) | 2017-07-26 | 2019-01-31 | Robert Bosch Gmbh | Kontrollmodul für Künstliche Intelligenz |
US10324467B1 (en) | 2017-12-29 | 2019-06-18 | Apex Artificial Intelligence Industries, Inc. | Controller systems and methods of limiting the operation of neural networks to be within one or more conditions |
US10620631B1 (en) | 2017-12-29 | 2020-04-14 | Apex Artificial Intelligence Industries, Inc. | Self-correcting controller systems and methods of limiting the operation of neural networks to be within one or more conditions |
US10802489B1 (en) | 2017-12-29 | 2020-10-13 | Apex Artificial Intelligence Industries, Inc. | Apparatus and method for monitoring and controlling of a neural network using another neural network implemented on one or more solid-state chips |
US10795364B1 (en) | 2017-12-29 | 2020-10-06 | Apex Artificial Intelligence Industries, Inc. | Apparatus and method for monitoring and controlling of a neural network using another neural network implemented on one or more solid-state chips |
US10802488B1 (en) | 2017-12-29 | 2020-10-13 | Apex Artificial Intelligence Industries, Inc. | Apparatus and method for monitoring and controlling of a neural network using another neural network implemented on one or more solid-state chips |
US10672389B1 (en) | 2017-12-29 | 2020-06-02 | Apex Artificial Intelligence Industries, Inc. | Controller systems and methods of limiting the operation of neural networks to be within one or more conditions |
WO2019147939A1 (en) | 2018-01-26 | 2019-08-01 | Nvidia Corporation | Detection of hazardous driving using machine learning |
US10956807B1 (en) | 2019-11-26 | 2021-03-23 | Apex Artificial Intelligence Industries, Inc. | Adaptive and interchangeable neural networks utilizing predicting information |
US10691133B1 (en) * | 2019-11-26 | 2020-06-23 | Apex Artificial Intelligence Industries, Inc. | Adaptive and interchangeable neural networks |
US11367290B2 (en) | 2019-11-26 | 2022-06-21 | Apex Artificial Intelligence Industries, Inc. | Group of neural networks ensuring integrity |
US11366434B2 (en) | 2019-11-26 | 2022-06-21 | Apex Artificial Intelligence Industries, Inc. | Adaptive and interchangeable neural networks |
CN113496275B (zh) * | 2020-04-08 | 2023-07-25 | 北京地平线机器人技术研发有限公司 | 指令执行方法、装置和电子设备 |
US11507805B2 (en) | 2020-06-16 | 2022-11-22 | IntuiCell AB | Computer-implemented or hardware-implemented method of entity identification, a computer program product and an apparatus for entity identification |
GB2595539B (en) * | 2020-12-07 | 2023-04-19 | Antobot Ltd | Safety mechanisms for artificial intelligence units used in safety critical applications |
SE2151099A1 (en) * | 2021-09-03 | 2023-03-04 | IntuiCell AB | A computer-implemented or hardware-implemented method, a computer program product, an apparatus, a transfer function unit and a system for identification or separation of entities |
SE2151100A1 (en) * | 2021-09-03 | 2023-03-04 | IntuiCell AB | A computer-implemented or hardware-implemented method for processing data, a computer program product, a data processing system and a first control unit therefor |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07200702A (ja) * | 1994-01-06 | 1995-08-04 | Maisutaa Eng:Kk | ビル設備の異常診断システム |
JPH07271747A (ja) * | 1994-03-30 | 1995-10-20 | Ricoh Co Ltd | 情報処理装置 |
JP2007299387A (ja) * | 1994-10-13 | 2007-11-15 | Stephen L Thaler | 有用な情報の自律的発生装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2540654B2 (ja) | 1990-06-28 | 1996-10-09 | シャープ株式会社 | ニュ―ラルネットワ―クの学習装置 |
US5402519A (en) | 1990-11-26 | 1995-03-28 | Hitachi, Ltd. | Neural network system adapted for non-linear processing |
US5493631A (en) | 1993-11-17 | 1996-02-20 | Northrop Grumman Corporation | Stabilized adaptive neural network based control system |
GB2321364A (en) * | 1997-01-21 | 1998-07-22 | Northern Telecom Ltd | Retraining neural network |
JP2003058861A (ja) * | 2001-08-15 | 2003-02-28 | Communication Research Laboratory | データエラーの検出方法及び装置、ソフトウェア並びにその記憶媒体 |
US7546280B1 (en) | 2005-08-30 | 2009-06-09 | Quintura, Inc. | Use of neural networks for keyword generation |
US20080222065A1 (en) | 2007-03-05 | 2008-09-11 | Sharkbait Enterprises Llc | Learning and analysis systems and methods |
US8775341B1 (en) * | 2010-10-26 | 2014-07-08 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
US9460387B2 (en) * | 2011-09-21 | 2016-10-04 | Qualcomm Technologies Inc. | Apparatus and methods for implementing event-based updates in neuron networks |
US9218563B2 (en) * | 2012-10-25 | 2015-12-22 | Brain Corporation | Spiking neuron sensory processing apparatus and methods for saliency detection |
-
2013
- 2013-12-23 US US14/139,732 patent/US9460382B2/en active Active
-
2014
- 2014-12-19 EP EP14825236.4A patent/EP3087538A2/en not_active Withdrawn
- 2014-12-19 JP JP2016560870A patent/JP6275868B2/ja active Active
- 2014-12-19 CN CN201480070193.6A patent/CN105830036A/zh active Pending
- 2014-12-19 WO PCT/US2014/071639 patent/WO2015100177A2/en active Application Filing
-
2017
- 2017-10-05 JP JP2017195121A patent/JP2018041475A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07200702A (ja) * | 1994-01-06 | 1995-08-04 | Maisutaa Eng:Kk | ビル設備の異常診断システム |
JPH07271747A (ja) * | 1994-03-30 | 1995-10-20 | Ricoh Co Ltd | 情報処理装置 |
JP2007299387A (ja) * | 1994-10-13 | 2007-11-15 | Stephen L Thaler | 有用な情報の自律的発生装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6275868B2 (ja) | 2018-02-07 |
US20150178617A1 (en) | 2015-06-25 |
US9460382B2 (en) | 2016-10-04 |
WO2015100177A3 (en) | 2015-08-13 |
CN105830036A (zh) | 2016-08-03 |
JP2018041475A (ja) | 2018-03-15 |
WO2015100177A2 (en) | 2015-07-02 |
EP3087538A2 (en) | 2016-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6275868B2 (ja) | ニューラルウォッチドッグ | |
US9558442B2 (en) | Monitoring neural networks with shadow networks | |
JP6130056B2 (ja) | スパイキングネットワークの効率的なハードウェア実装 | |
JP2017509982A (ja) | 原位置ニューラルネットワークコプロセッシング | |
JP2017511936A (ja) | 現在の計算リソースへのニューラルネットワーク適応 | |
JP2017519268A (ja) | スパイキングニューラルネットワークにおけるグローバルスカラ値によって可塑性を調節すること | |
JP2017510890A (ja) | 一般的なニューロンモデルの効率的な実装のための方法および装置 | |
JP2017513108A (ja) | サブしきい値変調を介するアナログ信号再構築および認識 | |
JP2016538633A (ja) | 多次元範囲にわたって分離可能なサブシステムを含むシステムの評価 | |
JP2017509980A (ja) | 動的な空間ターゲット選択 | |
JP2016532216A (ja) | 人工神経システムにおけるブレークポイント決定ユニットを実現するための方法および装置 | |
JP2016537711A (ja) | スパイキングニューロンのネットワークにおける輻輳回避 | |
JP6193509B2 (ja) | 可塑性シナプス管理 | |
JP6219509B2 (ja) | シナプス遅延を動的に割り当てることおおよび検査すること | |
JP6096388B2 (ja) | ニューラルネットワークモデルにおけるドップラー効果処理 | |
WO2015023441A2 (en) | Post ghost plasticity | |
JP2017513110A (ja) | ニューロモーフィックモデル開発のためのコンテキストリアルタイムフィードバック | |
JP2017509956A (ja) | 値をスパイクに変換するための方法 | |
JP2016536676A (ja) | ニューラルモデル実行をリモートで制御および監視するための方法および装置 | |
US20150278684A1 (en) | Time synchronization of spiking neuron models on multiple nodes | |
JP2017509979A (ja) | 空間ターゲット選択のためのアンバランスな交差抑制メカニズム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170316 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170606 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171005 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20171016 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180110 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6275868 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |