JP2014535119A - 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル構成要素リプレイ - Google Patents
無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル構成要素リプレイ Download PDFInfo
- Publication number
- JP2014535119A JP2014535119A JP2014541347A JP2014541347A JP2014535119A JP 2014535119 A JP2014535119 A JP 2014535119A JP 2014541347 A JP2014541347 A JP 2014541347A JP 2014541347 A JP2014541347 A JP 2014541347A JP 2014535119 A JP2014535119 A JP 2014535119A
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- neurons
- afferent
- learning
- neuron
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
Abstract
Description
本特許出願は、主題によって、本明細書とともに出願され、本出願の譲受人に譲渡され、参照により明白に本明細書に組み込まれる、2011年11月9日に出願した「METHODS AND APPARATUS FOR UNSUPERVISED NEURAL REPLAY, LEARNING REFINEMENT, ASSOCIATION AND MEMORY TRANSFER: NEURAL COMPONENT MEMORY TRANSFER」と題する米国特許出願、2011年11月9日に出願した「METHODS AND APPARATUS FOR UNSUPERVISED NEURAL REPLAY, LEARNING REFINEMENT, ASSOCIATION AND MEMORY TRANSFER: NEURAL ASSOCIATIVE LEARNING, PATTERN COMPLETION, SEPARATION, GENERALIZATION AND HIERARCHICAL REPLAY」と題する米国特許出願、および2011年11月9日に出願した「METHODS AND APPARATUS FOR UNSUPERVISED NEURAL REPLAY, LEARNING REFINEMENT, ASSOCIATION AND MEMORY TRANSFER: STRUCTURAL PLASTICITY AND STRUCTURAL CONSTRAINT MODELING」と題する米国特許出願に関連する。
図1は、本開示のいくつかの態様による、複数のレベルのニューロンを含む例示的なニューラルシステム100を示す。ニューラルシステム100は、シナプス結合のネットワーク104を介して別のレベルのニューロン106に結合されたあるレベルのニューロン102を備え得る。簡単のために、図1には2レベルのニューロンのみが示されているが、代表的なニューラルシステムには、より少ないまたはより多くのレベルのニューロンが存在し得る。
前述のように、ニューラル発火パターンを正確にリプレイする従来の方法は、一般に知られていない。しかしながら、所与のパターンが記憶されている(または学習されている)パターンに適合するかどうかを判断することのみならず、記憶されているパターンが何であるかを直接求めることも必要とされている。加えて、パターンを最初に作成したニューロンを介して元の求心神経(入力)内のパターンを再生することが必要とされる。さらに、パターンリプレイを、パターンを学習したかまたは照合した(またはパターンと何らかの一致を有する)ニューロンと相関付けることが必要とされる。加えて、パターンを作成するための元の刺激を必要とすることなく、記憶されている(または学習されている)パターンの忠実なまたは高忠実度のリプレイを再生すること、ならびにリプレイを使用して、学習改善、関連付け、メモリ転送などの継続的処理を進めることが必要とされる。
図2は、本開示のいくつかの態様による、パターン照合ニューロンに結合された求心性ニューロンの一例200を示す。たとえば、原因または刺激が何であれ、外部または内部のいずれであれ、ニューロン202は、求心神経(入力)204のセット内のパターンを照合し得る。この状況は図2に示されており、そこでは、ニューロン202は、求心性ニューロン204の出力によって作成されるパターンを照合し得る(それらの発火パターン206に対応する、ここでx軸は、時間または発火速度または他のコーディング次元と考えられる)。この場合、求心神経という用語は、それがニューロン202への入力(すなわち、ニューロン202の観点からの求心神経)を表すこと以外は、処理の段階または層の観点から何らかの特定の意味を示すものではない。求心神経204は、単なる上流ニューロン(たとえば、ニューロン202の上流)、または感覚ニューロン、または処理の特定の段階もしくは層におけるニューロンであってよい。
理想的には、読出しパターンは、刺激の間に元のパターンを学習したニューロンによって認識されるのに十分に、元のパターンに忠実でなければならない。問題は、いかにして読出しパターンが、それを学習したニューロンがそれを認識し得るほどに十分に再生され得るかである。
機械学習は、学習のすべての側面が発生するのに十分なほど長い間、入力または刺激が存在することを必要とするので、元の刺激なしにパターンを正確にリプレイすることができないことが、機械学習に対する決定的な限界となり得る。けれども、学習は、下流処理ネットワークにおいて(またはさらに、フィードバックによる上流処理ネットワークにおいて)、または実時間で存在したのとは異なる順序において、複数の段階で発生する必要がある。問題は、元の刺激が終わった後、いかにして継続的学習、学習の改善、メモリ(学習)の転送、および他の様々な下流動作(または、上流動作もしくはフィードバック)が進行され得るかである。
第1に、人は、パターンを照合したニューロン(たとえば、図2のニューロン202)を単に刺激して再び発火する(出力をスパイクする)ことを考えるが、これは、他のニューロン(たとえば、図2のニューロン208および210)において同じ下流効果を再生するための方法を提供しないので、限定された使用を有する。これは、単に「あれはA氏である」と述べることによって宣言することがA氏を見ることのリプレイであるのといくぶん似ている。「あれはA氏である」と単に述べることによって、人は、A氏の特徴を考察すること、それらの特徴を比較すること、またはさらなる処理を続行することはできない。したがって、方法は、それらの同じ求心神経(他のニューロンではない)によって作成され、パターンに対する干渉のない、元のパターン(または、実質的に類似するパターン)をリプレイすることを必要とする。そうでない場合、下流効果は失われるかまたは不完全となる。したがって、刺激がほんの一時的にしか存在しない場合、内部応答パターンをリプレイし、かつエクスペリエンスを処理することを継続する機能が、機械学習のためにかなりの利点となる。
パターンは、どのニューロンがパターンを作成したかについてのみ意味を有する。類似性として、人が、数字のシーケンスを述べるとすると、シーケンスは、単に、どれだけ多くの数字がシーケンス内に存在するかおよびそれらの相対的順番に関するばかりでなく、具体的な数字が何であるかに関しても、意味を有する。第2の層を用いて第1の層の出力を学習し、次いで第3の層を用いて第2の層の出力を学習するによってメモリを「転送する」プロセスは、転送されている第1の層のパターンのメモリを表していない。第1の層のメモリを転送するために、第3の層もまた、第1の層の出力を学習する必要がある。元の刺激なしに、これは、第2の層ではなく第1の層のリプレイを必要とする。
パターンのリプレイの生物学的証拠は、生体内で、とりわけ海馬内で、視覚システムおよび他の脳の部位を観察してきた。そのようなリプレイは、順方向および逆方向に、時間的に圧縮および非圧縮で発生し得る。しかしながら、そのようなリプレイを引き起こすメカニズムは不明である。さらに、最近の証拠は、海馬の細胞が、「場所」または挙動のエピソード的側面に対応する上流パターンまたは状態に適合または対応するが、それらは後で「消去」またはリセットされ、メモリが保持され得ることを示した。1つの可能性は、そのようなメモリが、他のメモリまたはより長期間メモリに統合されることである。
本開示のいくつかの態様は、リプレイの方法、ならびに学習改善、関連付けおよびメモリ転送、他を含むさらなる処理の関連方法を支援する。
本開示で提案される構成要素リプレイの方法は、パターンリプレイの前述の問題を解決し得る。構成要素リプレイは、一般に、同じ求心神経を介して特定のニューロンによって実質的に参照される求心神経内のパターンのリプレイとして定義され得る。パターンを参照する特定のニューロン(基準ニューロン)は、パターンに関連して選択的に応答し、その選択性を学習することができる。集合的パターンまたはより大きいまたはより長いスケールのパターンは、構成要素リプレイを組み合わせることによってリプレイされ得る。したがって、構成要素リプレイは、ニューラルネットワークにおいて体系的リプレイを生成するために利用され得る。
図4は、そのようなテンポラルコーディングコンテキストにおける本開示の第1の例証的実施形態の例示的なニューラル結合性ダイヤグラム400を示す。ニューロン402および404は求心神経の代表であり、ニューロン406はパターン照合または学習ニューロンであり、ニューロン408および410は関係側面学習/照合ニューロンである。このテンポラルコーディングコンテキストにおいて、遅延が、様々な幅の矩形によって表され得る。矩形が水平方向に大きいほど、遅延は長い。ダイヤグラム400において、結合は、矢印が終端する所(すなわち、線が、単に別のものと交差するからではない)でのみ発生することにも留意されたい。同じ慣例は、他のニューラル結合性ダイヤグラムにおいて使用される。
図5に示す第2のリプレイ実施形態は、非反転パターンをリプレイする問題を二重反転によって解決し得る。事実上、図4に関連する前述の方法が繰り返されてよく、それにより、反転パターン、反転パターンの関係側面、および元の求心神経(ニューラル結合性ダイヤグラム502で示される)かあるいは関係側面学習ニューロンpおよびq(ニューラル結合性ダイヤグラム504で示される)かのいずれかを照合するために、第2の層2および層3(図5において層4および層5と呼ばれる)が追加される。したがって、提案される方法は、(図5に示す、パターン照合者xまたは反転パターン照合者x’のいずれかを制御することによって)反転パターンまたは順方向パターンのいずれかをリプレイすることができる。(反転レベルにおける関係学習に対して関係側面学習ニューロンを使用する)ダイヤグラム504の利点は、反転学習がオンラインで(すなわち、パターン学習と同時に)実行され得ることである。ニューラル結合性ダイヤグラム502によって、反転学習が、反転パターンを誘発することによって実行され得る。
1つのニューロン、ニューラルアレイ、または皮質領域から別のものに学習を転送することは、人口知能にとって重要な構成要素である。リプレイは、このプロセス内で重要な役割を受け持つ。これを説明するために、図5からのニューラル結合性ダイヤグラム502が考慮され得る。メモリ転送の側面を導入するために、図5の回路内のリプレイは元のパターンの反転であることは無視されてよい。メモリ転送およびさらなる処理側面の詳細な説明が、パターンの順方向バージョンをリプレイする回路とともに、以下でさらに与えられる。一方、以下の例が、さらなる処理を導入するように働く。
パターンリプレイに対する好ましい実施形態は、(すなわち、コンテキストまたはコンテンツまたはコーディング、層またはレベル、あるいは処理の段階にかかわらず)一般的な方法で使用され得、要望または必要性に応じてスケーリングされるという意味で、拡張性がある多岐にわたるタペストリまたは皮質構成を備えることができる。この特定の実施形態は、すべての利点を有し得、上述の不利点を何も持たない。正確なまたは類似するパターンは、元の求心神経を介して順方向または反転方向にリプレイされ得る。その上、それは、各関係側面学習ニューロンが複数のパターンを扱うことができるので、コンパクトで拡張性がある。その上、制御は、パターンを学習したニューロンを介して誘発され得、制御の同時性は必要とされない。求心性パターンはクリーンであり得る。パターン学習は、所望される場合、完全にオンラインであり得る(または、所望される場合、完全にオフラインであり得る)。図6のニューラル結合性ダイヤグラム600は、順方向リプレイに対する観念の基本的実装形態を略述する(反転リプレイは、上記の方法によってダイヤグラム600を拡張することによって達成され得る)。
いかにして忠実なリプレイ(所与の構成された遅延、結合性、および制御)が達成され得るかを説明したが、リプレイを学習するため、およびネットワーク内の学習を(自動的にまたは無監督で)制御するための方法もまた、説明される。無監督学習が詳細に説明されるが、監督された学習もまた使用され得る。学習リプレイを詳細に説明するために、説明は、(再びテンポラルコーディングを有し、)動的スパイキングニューロンおよび可塑性を有する好ましい拡張性がある実施形態のコンテキストにおいて与えられる。
前に説明したように、パターン学習ニューロンは、複数の求心神経(しかし必ずしもそれらのすべてであるとは限らない)内の1つのパターンを学習することができる。そのような結合性は、生物学的な意味において、クルーシエイト(cruciate)として構造的に説明され得(樹状突起は、求心神経の軸索と交差して伸びる)、求心神経を異なる潜在的遅延によってサンプリングする。また、それらは、互いに横方向に抑制するために互いに結合され(図9のスパイン902)、それにより、それらは、異なるパターンを学習するために競うことができる(これは、図示のように直接であってよく、または介在ニューロン、もしくは他の抑制もしくは競合機構を介してもよい)。この抑制は一般的(すなわち、ポストシナプス)であってよい。また、前述のように、関係側面学習ニューロンは、パターン学習ニューロンからの入力と、求心神経からの入力とを(一般に1対1で)受けることができる。構造的に、前者は、学習ニューロンの軸索(必ずしも1つだけとは限らない)に平行な基本的樹枝状プロセスとして説明され、後者は、(好ましくは)1つだけの求心神経の軸索と結合する頂点の樹状突起プロセスとして説明され得る。
シナプス重みは、スパイクタイミング依存可塑性(STDP)、またはヘブの法則(たとえば、OjaまたはBienenstock−Copper−Munro(BCM)の法則)のような他の法則などの方法を使用して学習され得る。説明された機構は、一般に、シナプス/遅延の数がこの点において制限的に抑制されない限り、求心神経または学習ニューロンの1つまたは複数のスパイクを学習するのに十分であることに留意されたい。好ましい機構は、修正されたSTDP学習法則を備えるが、入力周波数、またはプレ/ポストのスパイクの順番の考慮を組み込むなど、変形態もまた使用され得る。図9からのダイヤグラム900の一部分を表す図10のニューラル結合性ダイヤグラム1000で示されるように、学習関係は、ニューロンまたは層にわたって変化され得る。
関係側面学習を計算的に達成する1つの方法は、図12のグラフ1202に示すように、同じ入力軸索に結合している(または潜在的に結合している)異なる遅延を有する多くのシナプス(または潜在的シナプスサイト/スパイン)を有すること、および重みを調整するためにシナプス可塑性だけを使用することである。別の方法は、図12のグラフ1204に示すように、構造可塑性を有すること、およびシナプスが減衰する場合、同じ入力に対して異なる遅延を再割り当てされる(たとえば、樹状突起/軸索平行プロセスに沿ってスライドさせる)1つまたは少数のシナプスだけを有することである。両方法は、図12において例示的な構造1206に示される潜在的結合の範囲を表す。構造1206は、ニューロン1208の樹状突起およびニューロン1210の軸索の平行プロセスを備え得る。ダイヤグラム1202および1204は、すべてのシナプスの状態を、入力(x軸)、遅延(y軸)、および重み(z軸)によってネットワーク内に示す。プロット1202、1204上の関係側面学習ニューロンに属する点の位置(シナプスの状態)は、第1のケースでは多くの潜在的シナプスが存在し、第2のケースでは少数のシナプスが存在することを示している。しかしながら、両方のケースにおいて、1つまたは複数のシナプス重みが、正しい遅延においておよび正しい入力に対して強化され得る。
一見すると、パターン学習ニューロンは、学習の間、関係側面ニューロン発火時間を著しく変更しないことが必要とされる。関係側面ニューロンは、求心神経とパターン学習ニューロンの両方から入力を受けるので、入力のバランスが考慮される。実際には、求心神経または複数のパターン学習ニューロンは実質的に同時に発火する(効果は横方向抑制によって相殺される)ので、それらの結合に対する重みがそれらより著しく強くないならば、パターン学習ニューロンは、関係側面ニューロンのタイミングを著しく変更することはほとんどない。とにかく、これは、スパインまたはシナプスの制約(重み、遅延)によって回避または実質的に抑制され得る。構造可塑性(遅延変異樹状突起上のスパインの位置)と非古典的STDP(例えば、資源考慮)との組合せもまた、上記を起こりにくくすることができる。
学習されたパターンをリプレイするために、パターンを学習されたニューロン、たとえば、図17のネットワークダイヤグラム1700内のニューロンw、x、yまたはzを励起するために、制御が使用され得る。そのような制御は、単に、図17に示されるように、パターン照合/学習ニューロンへの別のシナプス入力であってよい。入力バランスに応じて、そのようなシナプスは、より強い重みを有し得、入力は刺激振動の間に駆動され得、刺激振動は、ニューロンの入力を効果的に増加させるかまたは(抑制振動を中断している間)発火閾値を減少させ得る。振動は不必要であるが、それは選択肢である。図18の例1800は、正弦波の刺激振動1802を示す。振動のピークは、学習ニューロン1804が、関係側面学習ニューロンを介して求心性パターンをスパイクし、誘発するように制御される時であることに留意されたい。
上記で説明した、シナプス可塑性および構造可塑性を有するテンポラルコーディングモデルを使用する、短いトレーニング期間の後の複数の(たとえば、5つの)パターンのリプレイが、図25に示される。リプレイは、ボックスの求心性セクション(L1 A)内に示される(刺激(S)はない)(明快のために関係側面学習ニューロン応答は図25に示されない)。第2のパターンの場合、2つのニューロンがパターンを学習したことに留意されたい。第2のパターンの再刺激が、より完全なパターン(より多くの求心神経)をリプレイし得る(「II」第2のボックスの下の「L1 A」内のパターン参照)。したがって、方法は、パターンを学習したニューロンのうちの1つまたは複数を刺激することによってより完全にパターンをリプレイし得ることに留意されたい。加えて、図21は、同じ構造が、同じニューロンを用いて、いかにして多重化する(I〜Vの複数のパターンを学習しかつリプレイする)ことができるかを示す。言い換えれば、構造は、非常に拡張性がある。
構成要素リプレイは、ニューロンによって学習されたパターン以上にリプレイし得ることに留意されたい。この点は、微妙に見えるが非常に有用である。重要な洞察は、学習を改善するために、方法は、何らかのエンティティーが学習の改善(または失われた部分を与えること)を受けるものによって学習されているものより良いパターンをリプレイすることを必要とする。しかしながら、これは、パターンが、何らかのエンティティーがパターンを学習したものより良いことを意味するものではない。
リプレイの方法が与えられると、メモリ転送の方法が説明される。図30は、意味のあるメモリ転送に対する重要な差異を指摘している。すなわち、元の求心神経を介するリプレイがないと、転送先が学習する何らかのものは、元の求心神経の側面ではないので、メモリの「転送」は、実際には発生し得ない。図30の例3002では、転送先は、パターン照合ニューロンの出力を学習することができる。重要な洞察は、有用な転送に対して、転送先は、後でパターンを認識するために、転送元に依拠する必要はないことである。図30の例3004において、これはその場合である。したがって、元の求心神経を介するリプレイは、メモリのオフライン(刺激を用いない)転送に対して必要とされる。これは、ニューラルネットワーク内のいずれかにおける構成要素リプレイによってもたらされる構成要素リプレイまたは体系的リプレイである。とにかく、パターン認識転送元は、リプレイのトリガリングに関与するが、転送先はそれに依拠しない。
パターン補完は、システムが、事前に、求心神経内に元のパターンを誘起する元の刺激に露出され、次いでその後、システムが、元のパターンの一部分だけを誘起する部分的刺激に露出され、その部分以外は、リプレイ方法がパターンを補完するプロセスである。言い換えれば、パターン補完の能力は、補完応答を用いて劣化入力に応答する能力を表す。
本開示のいくつかの態様は、パターン比較の方法をサポートする。パターン比較は、2つの記憶または学習されたパターンを比較する能力を表す。パターンは、必ずしも、1つの基準(パターン学習)ニューロン内に記憶されている必要はないが、それは、ニューロンの関係側面集団によって、または複数の基準ニューロンによって、またはそれらの組合せによって記憶される。たとえば、オフライン(すなわち、元の刺激を用いない)で比較される、2つ以上のそのような記憶されたパターンが存在するか、または1つの記憶されたパターンと、1つの、刺激によって現在発生するパターンとが存在する。本開示は、これらを比較する方法を提供する。
一態様では、特定の顔を見ることなど、特定の求心性パターンを引き起こす、感覚刺激が存在する。第1のパターン学習ニューロン(たとえば、第1の皮質領域内:視覚)が、上述の方法に従ってこのパターンを学習し得る。しかしながら、別の様式における同時(または近接した時点)の刺激、たとえば第2のパターン学習ニューロン(たとえば、第2の皮質領域内:聴覚)によって学習され得る大きな音のパターンが存在する。一態様では、第1のパターン学習ニューロンは、この第2の(聴覚の)感覚様式入力に結合されず、それによりそれは、この音をパターンの一部分として学習することはない。この状況が図46に示される。
刺激がもはや利用できなくなった後で、パターンの学習を改善することができる利点は、学習改善に関連して上記で説明された。しかしながら、本開示の方法は、さらに大きいポテンシャルを有する。上記の一般的な説明では、パターン学習(または少なくとも照合)ニューロンは、皮質構成の第2の層内で使用された。技術的には、このパターン学習ニューロンは、実際には、関係側面学習に対する参照である。発生していることは、各求心神経からのパターンの個別の要素を関連付けるために、関係側面学習が、パターン学習ニューロンの出力を使用していることである。その参照が、パターン学習ニューロンであるかまたは照合ニューロンであるかは、その目的に対しては重要ではない。言い換えれば、基準ニューロンは、パターン学習ニューロン(または照合ニューロン)以外のニューロンであってよい。一態様では、このニューロンは、求心神経に結合されることもない。参照は、図47のニューラル結合性ダイヤグラム4700のニューロンyによって示される。
本開示の一態様では、抑制が、手順のコースを方向付けるために使用され得る。手順という用語は、元の刺激、リプレイ、メモリ転送、または学習改善などを用いる関係側面学習などのプロセスに言及するために使用され得る。手順は、特定の制御もしくは入力(たとえば、刺激)によってトリガされるか、またはネットワークの振動の中の1つの状態である。とにかく、ひとたびトリガされると、プロセスは、図49の手順フロー4900で示されるように、内部動作(ネットワークの前の活動に基づく状態遷移)によるか、または外部制御(ローカルアレイまたはネットワーク領域の外部)によるか、またはそれらの組合せによって制御され得る。
本開示のいくつかの態様によれば、階層的および多層リプレイの概念は、ネットワークの複数の層において上記で説明したリプレイ構造の概念を適用し、1つまたは複数の層において階層的に、潜在的にリプレイする概念を表す。複数の層によって意味されるものは、ネットワーク内の一般化または抽象化の変化するレベルにおけるニューロンを備え得る。階層的リプレイによって意味されるものは、特定のパターン学習または参照層(ニューロン)においてリプレイを誘発することが、結果として、それらのパターン学習の求心神経または参照層ニューロン内の学習された/参照されたパターンのリプレイを誘発することである。したがって、リプレイは、層状ネットワーク内でトップダウンの順番で誘発される。
Claims (113)
- ニューラル構成要素リプレイの方法であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照することと、
1つまたは複数の関係側面ニューロンを用いて複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合することと、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発することとを備える、方法。 - 前記1つまたは複数の関係側面のそれぞれが、前記関係側面の学習ニューロンのうちの1つがペアにされる前記複数の求心性ニューロンのうちの1つに関係付けられた前記パターン内の要素と前記1つまたは複数の基準ニューロンの前記出力との間の関係を備える、請求項1に記載の方法。
- スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記1つまたは複数の関係側面を学習することと、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記参照されたパターンを学習することと、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記誘発された実質的に類似するパターンを学習することとをさらに備える、請求項1に記載の方法。 - 1つまたは複数の関係側面を前記照合することにおける前記パターンが、刺激に基づいており、
前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記刺激を用いないで達成される、請求項1に記載の方法。 - 前記参照されたパターンを学習することと同時に前記1つまたは複数の関係側面を学習することをさらに備える、請求項1に記載の方法。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、ペアにされた双方向性結合によって前記1つまたは複数の関係側面ニューロンから前記複数の求心性ニューロンのうちの1つまたは複数へのフィードバックに基づく、請求項1に記載の方法。
- 前記関係側面ニューロンおよび前記求心性ニューロンが、前記関係側面ニューロンのそれぞれが前記求心性ニューロンのうちの1つから入力を受け、その1つの求心性ニューロンだけにフィードバック結合を有するように、ペアワイズ方式で結合される、請求項1に記載の方法。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することを制御することをさらに備え、
前記制御することが、前記1つまたは複数の関係側面ニューロン、前記基準ニューロンのうちの前記1つまたは複数、または前記複数の求心性ニューロンのうちの1つまたは複数への入力に基づき、
前記入力が、別のニューロンからのシナプス入力か、膜または体細胞に全体的または1つまたは複数のシナプスに印加され、前記シナプスから前記体細胞までの個別の遅延によって遅延される振動か、または抑制性入力の抑圧のうちの少なくとも1つを備える、請求項1に記載の方法。 - 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、刺激が存在または不存在のとき、求心性ニューロン活動後の遅延、パターン照合ニューロンまたは関係側面照合ニューロンの活動後の遅延、または振動のうちの少なくとも1つに基づいて抑制または変調される、請求項1に記載の方法。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記求心性ニューロンのうちの1つまたは複数への関係側面照合ニューロン入力の、特定のプレシナプス抑制か、前記求心性ニューロンの1つまたは複数への関係側面照合ニューロン入力の、ポストシナプス抑制か、前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間の中間物結合の抑圧か、あるいは前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間に結合された1つまたは複数の中間物抑制介在ニューロンのうちの少なくとも1つに基づいて抑制または変調される、請求項1に記載の方法。
- 前記1つまたは複数の関係側面ニューロンが、多重化された刺激、一連の刺激、または複数の刺激のうちの少なくとも1つによって前記求心性ニューロン内の複数のパターンに関する複数の関係側面を学習し、
前記1つまたは複数の関係側面ニューロンのそれぞれが、前記求心性ニューロンのうちの1つと前記基準ニューロンとの間の前記複数の関係側面を学習する、請求項1に記載の方法。 - 前記基準ニューロンのうちの1つが、前記複数の求心性ニューロンのうちの1つまたは複数内で誘発された前記実質的に類似するパターンをさらに照合する、請求項1に記載の方法。
- 前記実質的に類似するパターンが、前記参照されたパターンの一時的反転バージョン、前記参照されたパターンの順方向時間スケールバージョン、前記参照されたパターンの逆方向時間スケールバージョン、前記参照されたパターンのサブセット、または前記参照されたパターンのスーパーセットのうちの少なくとも1つを備える、請求項1に記載の方法。
- 前記パターンが、スパイクタイミング、発火速度、またはスパイク同時発生のうちの少なくとも1つの組合せを備える、請求項1に記載の方法。
- 前記1つまたは複数の関係側面のそれぞれが、スパイク間の時間遅延、発火速度差、スパイクの同時発生における差、またはニューロン出力における他の差のうちの少なくとも1つを備える、請求項1に記載の方法。
- 基準ニューロン出力または関係側面ニューロン出力が、前記基準ニューロン出力を用いないで刺激による前記求心性ニューロンパターンを変更し、
前記基準ニューロンによって参照された前記パターンが、前記変更された求心性ニューロンパターンを備える、請求項1に記載の方法。 - 前記求心性ニューロンパターンが、感覚入力パターン、上流信号パターン、上流刺激入力または感覚入力の変換、感覚入力または上流刺激入力によって影響された動的パターン、あるいは前記基準ニューロンのうちの1つまたは前記関係側面ニューロンのうちの1つからのフィードバックのうちの少なくとも1つを備える、請求項1に記載の方法。
- 前記実質的に類似するパターンが、前記複数の求心性ニューロンからテンポラルスパイクパターンの窓内の最早スパイクを備える、請求項1に記載の方法。
- 前記スパイクタイミング依存可塑性を使用して学習することが、正の学習応答のテンポラル窓(temporal window)を狭くするホメオスタシス機能によって修正される、請求項3に記載の方法。
- 前記参照されたパターンと前記誘発されたパターンとの間の類似性が、前記パターンを備える信号のペアワイズ順序の一致、順序またはタイミングに関係なく保持される信号の断片、パターンの相互相関、または前記パターンを備えるそれぞれの信号間のテンポラル差に基づく統計値のうちの少なくとも1つを使用することによって測定される、請求項1に記載の方法。
- 前記基準ニューロンによって参照されたパターンの集合体のリプレイが、個別のパターンのリプレイを、より長い時間にわたって連続的に、求心神経のより大きいセットにわたって同時に、または前記関係側面ニューロンの集合を用いて前記リプレイを誘発することによってそれらの組合せで、組み合わせることによって達成される、請求項1に記載の方法。
- 前記実質的に類似するパターンが、ニューラルネットワーク内で下流挙動を再生する、請求項1に記載の方法。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するように構成された第1の回路と、
1つまたは複数の関係側面ニューロンを用いて複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するように構成された第2の回路と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するように構成された第3の回路とを備える、装置。 - 前記1つまたは複数の関係側面のそれぞれが、前記関係側面の学習ニューロンのうちの1つがペアにされる前記複数の求心性ニューロンのうちの1つに関係付けられた前記パターン内の要素と前記1つまたは複数の基準ニューロンの前記出力との間の関係を備える、請求項23に記載の装置。
- スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記1つまたは複数の関係側面を学習するように構成された第4の回路と、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記参照されたパターンを学習するように構成された第5の回路と、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記誘発された実質的に類似するパターンを学習するように構成された第6の回路とをさらに備える、請求項23に記載の装置。 - 1つまたは複数の関係側面を前記照合することにおける前記パターンが、刺激に基づいており、
前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記刺激を用いないで達成される、請求項23に記載の装置。 - 前記参照されたパターンを学習することと同時に前記1つまたは複数の関係側面を学習するように構成された第4の回路をさらに備える、請求項23に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、ペアにされた双方向性結合によって前記1つまたは複数の関係側面ニューロンから前記複数の求心性ニューロンのうちの1つまたは複数へのフィードバックに基づく、請求項23に記載の装置。
- 前記関係側面ニューロンおよび前記求心性ニューロンが、前記関係側面ニューロンのそれぞれが前記求心性ニューロンのうちの1つから入力を受け、その1つの求心性ニューロンだけにフィードバック結合を有するように、ペアワイズ方式で結合される、請求項23に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することを制御するように構成された第4の回路をさらに備え、
前記制御することが、前記1つまたは複数の関係側面ニューロン、前記基準ニューロンのうちの前記1つまたは複数、または前記複数の求心性ニューロンのうちの1つまたは複数への入力に基づき、
前記入力が、別のニューロンからのシナプス入力か、膜または体細胞に全体的または1つまたは複数のシナプスに印加され、前記シナプスから前記体細胞までの個別の遅延によって遅延される振動か、あるいは抑制性入力の抑圧のうちの少なくとも1つを備える、請求項23に記載の装置。 - 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、刺激が存在または不存在のとき、求心性ニューロン活動後の遅延、パターン照合ニューロンまたは関係側面照合ニューロンの活動後の遅延、または振動のうちの少なくとも1つに基づいて抑制または変調される、請求項23に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記求心性ニューロンのうちの1つまたは複数への関係側面照合ニューロン入力の、特定のプレシナプス抑制か、前記求心性ニューロンの1つまたは複数への関係側面照合ニューロン入力の、ポストシナプス抑制か、前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間の中間物結合の抑圧か、あるいは前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間に結合された1つまたは複数の中間物抑制介在ニューロンのうちの少なくとも1つに基づいて抑制または変調される、請求項23に記載の装置。
- 前記1つまたは複数の関係側面ニューロンが、多重化された刺激、一連の刺激、または複数の刺激のうちの少なくとも1つによって前記求心性ニューロン内の複数のパターンに関する複数の関係側面を学習し、
前記1つまたは複数の関係側面ニューロンのそれぞれが、前記求心性ニューロンのうちの1つと前記基準ニューロンとの間の前記複数の関係側面を学習する、請求項23に記載の装置。 - 前記基準ニューロンのうちの1つが、前記複数の求心性ニューロンのうちの1つまたは複数内で誘発された前記実質的に類似するパターンをさらに照合する、請求項23に記載の装置。
- 前記実質的に類似するパターンが、前記参照されたパターンの一時的反転バージョン、前記参照されたパターンの順方向時間スケールバージョン、前記参照されたパターンの逆方向時間スケールバージョン、前記参照されたパターンのサブセット、または前記参照されたパターンのスーパーセットのうちの少なくとも1つを備える、請求項23に記載の装置。
- 前記パターンが、スパイクタイミング、発火速度、またはスパイク同時発生のうちの少なくとも1つの組合せを備える、請求項23に記載の装置。
- 前記1つまたは複数の関係側面のそれぞれが、スパイク間の時間遅延、発火速度差、スパイクの同時発生における差、またはニューロン出力における他の差のうちの少なくとも1つを備える、請求項23に記載の装置。
- 基準ニューロン出力または関係側面ニューロン出力が、前記基準ニューロン出力を用いないで刺激による前記求心性ニューロンパターンを変更し、
前記基準ニューロンによって参照された前記パターンが、前記変更された求心性ニューロンパターンを備える、請求項23に記載の装置。 - 前記求心性ニューロンパターンが、感覚入力パターン、上流信号パターン、上流刺激入力または感覚入力の変換、感覚入力または上流刺激入力によって影響された動的パターン、あるいは前記基準ニューロンのうちの1つまたは前記関係側面ニューロンのうちの1つからのフィードバックのうちの少なくとも1つを備える、請求項23に記載の装置。
- 前記実質的に類似するパターンが、前記複数の求心性ニューロンからテンポラルスパイクパターンの窓内の最早スパイクを備える、請求項23に記載の装置。
- 前記スパイクタイミング依存可塑性を使用して学習することが、正の学習応答のテンポラル窓を狭くするホメオスタシス機能によって修正される、請求項25に記載の装置。
- 前記参照されたパターンと前記誘発されたパターンとの間の類似性が、前記パターンを備える信号のペアワイズ順序の一致、順序またはタイミングに関係なく保持される信号の断片、パターンの相互相関、または前記パターンを備えるそれぞれの信号間のテンポラル差に基づく統計値のうちの少なくとも1つを使用することによって測定される、請求項23に記載の装置。
- 前記基準ニューロンによって参照されたパターンの集合体のリプレイが、個別のパターンのリプレイを、より長い時間にわたって連続的に、求心神経のより大きいセットにわたって同時に、または前記関係側面ニューロンの集合を用いて前記リプレイを誘発することによってそれらの組合せで、組み合わせることによって達成される、請求項23に記載の装置。
- 前記実質的に類似するパターンが、ニューラルネットワーク内で下流挙動を再生する、請求項23に記載の装置。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するための手段と、
1つまたは複数の関係側面ニューロンを用いて複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するための手段と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するための手段とを備える、装置。 - 前記1つまたは複数の関係側面のそれぞれが、前記関係側面の学習ニューロンのうちの1つがペアにされる前記複数の求心性ニューロンのうちの1つに関係付けられた前記パターン内の要素と前記1つまたは複数の基準ニューロンの前記出力との間の関係を備える、請求項45に記載の装置。
- スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記1つまたは複数の関係側面を学習するための手段と、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記参照されたパターンを学習するための手段と、
スパイクタイミング依存可塑性、構造可塑性、ホメオスタシス、または構造制約モデリングのうちの少なくとも1つを使用して無監督方式で前記誘発された実質的に類似するパターンを学習するための手段とをさらに備える、請求項45に記載の装置。 - 1つまたは複数の関係側面を前記照合することにおける前記パターンが、刺激に基づいており、
前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記刺激を用いないで達成される、請求項45に記載の装置。 - 前記参照されたパターンを学習することと同時に前記1つまたは複数の関係側面を学習するための手段をさらに備える、請求項45に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、ペアにされた双方向性結合によって前記1つまたは複数の関係側面ニューロンから前記複数の求心性ニューロンのうちの1つまたは複数へのフィードバックに基づく、請求項45に記載の装置。
- 前記関係側面ニューロンおよび前記求心性ニューロンが、前記関係側面ニューロンのそれぞれが前記求心性ニューロンのうちの1つから入力を受け、その1つの求心性ニューロンだけにフィードバック結合を有するように、ペアワイズ方式で結合される、請求項45に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することを制御するための手段をさらに備え、
前記制御することが、前記1つまたは複数の関係側面ニューロン、前記基準ニューロンのうちの前記1つまたは複数、または前記複数の求心性ニューロンのうちの1つまたは複数への入力に基づき、
前記入力が、別のニューロンからのシナプス入力か、膜または体細胞に全体的または1つまたは複数のシナプスに印加され、前記シナプスから前記体細胞までの個別の遅延によって遅延される振動か、または抑制性入力の抑圧のうちの少なくとも1つを備える、請求項45に記載の装置。 - 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、刺激が存在または不存在のとき、求心性ニューロン活動後の遅延、パターン照合ニューロンまたは関係側面照合ニューロンの活動後の遅延、あるいは振動のうちの少なくとも1つに基づいて抑制または変調される、請求項45に記載の装置。
- 前記実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を前記誘発することが、前記求心性ニューロンのうちの1つまたは複数への関係側面照合ニューロン入力の、特定のプレシナプス抑制か、前記求心性ニューロンの1つまたは複数への関係側面照合ニューロン入力の、ポストシナプス抑制か、前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間の中間物結合の抑圧か、あるいは前記関係側面ニューロンのうちの1つと前記求心性ニューロンのうちの1つまたは複数との間に結合された1つまたは複数の中間物抑制介在ニューロンのうちの少なくとも1つに基づいて抑制または変調される、請求項45に記載の装置。
- 前記1つまたは複数の関係側面ニューロンが、多重化された刺激、一連の刺激、または複数の刺激のうちの少なくとも1つによって前記求心性ニューロン内の複数のパターンに関する複数の関係側面を学習し、
前記1つまたは複数の関係側面ニューロンのそれぞれが、前記求心性ニューロンのうちの1つと前記基準ニューロンとの間の前記複数の関係側面を学習する、請求項45に記載の装置。 - 前記基準ニューロンのうちの1つが、前記複数の求心性ニューロンのうちの1つまたは複数内で誘発された前記実質的に類似するパターンをさらに照合する、請求項45に記載の装置。
- 前記実質的に類似するパターンが、前記参照されたパターンの一時的反転バージョン、前記参照されたパターンの順方向時間スケールバージョン、前記参照されたパターンの逆方向時間スケールバージョン、前記参照されたパターンのサブセット、あるいは前記参照されたパターンのスーパーセットのうちの少なくとも1つを備える、請求項45に記載の装置。
- 前記パターンが、スパイクタイミング、発火速度、またはスパイク同時発生のうちの少なくとも1つの組合せを備える、請求項45に記載の装置。
- 前記1つまたは複数の関係側面のそれぞれが、スパイク間の時間遅延、発火速度差、スパイクの同時発生における差、またはニューロン出力における他の差のうちの少なくとも1つを備える、請求項45に記載の装置。
- 基準ニューロン出力または関係側面ニューロン出力が、前記基準ニューロン出力を用いないで刺激による前記求心性ニューロンパターンを変更し、
前記基準ニューロンによって参照された前記パターンが、前記変更された求心性ニューロンパターンを備える、請求項45に記載の装置。 - 前記求心性ニューロンパターンが、感覚入力パターン、上流信号パターン、上流刺激入力または感覚入力の変換、感覚入力または上流刺激入力によって影響された動的パターン、あるいは前記基準ニューロンのうちの1つまたは前記関係側面ニューロンのうちの1つからのフィードバックのうちの少なくとも1つを備える、請求項45に記載の装置。
- 前記実質的に類似するパターンが、前記複数の求心性ニューロンからテンポラルスパイクパターンの窓内の最早スパイクを備える、請求項45に記載の装置。
- 前記スパイクタイミング依存可塑性を使用して学習することが、正の学習応答のテンポラル窓を狭くするホメオスタシス機能によって修正される、請求項47に記載の装置。
- 前記参照されたパターンと前記誘発されたパターンとの間の類似性が、前記パターンを備える信号のペアワイズ順序の一致、順序またはタイミングに関係なく保持される信号の断片、パターンの相互相関、あるいは前記パターンを備えるそれぞれの信号間のテンポラル差に基づく統計値のうちの少なくとも1つを使用することによって測定される、請求項45に記載の装置。
- 前記基準ニューロンによって参照されたパターンの集合体のリプレイが、個別のパターンのリプレイを、より長い時間にわたって連続的に、求心神経のより大きいセットにわたって同時に、または前記関係側面ニューロンの集合を用いて前記リプレイを誘発することによってそれらの組合せで、組み合わせることによって達成される、請求項45に記載の装置。
- 前記実質的に類似するパターンが、ニューラルネットワーク内で下流挙動を再生する、請求項45に記載の装置。
- コンピュータ可読媒体を備えるニューラル構成要素リプレイのためのコンピュータプログラム製品であって、前記コンピュータ可読媒体が、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照し、
1つまたは複数の関係側面ニューロンを用いて複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合し、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するためのコードを備える、コンピュータプログラム製品。 - ニューラル構成要素学習改善および高速学習の方法であって、
1つまたは複数のパターン学習ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照することと、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合することと、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発することと、
前記誘発された実質的に類似するパターンを使用して前記1つまたは複数のパターン学習ニューロンによる学習を改善することとを備える、方法。 - 前記実質的に類似するパターンが、刺激の間に前記1つまたは複数のパターン学習ニューロンによって学習されるよりも多くの、前記パターンの要素を備える、請求項68に記載の方法。
- 刺激が、前記パターンの初期の参照および前記1つまたは複数の関係側面の照合の間に存在するが、前記誘発および前記学習の間に不在である、請求項68に記載の方法。
- 1つまたは複数の転送先ニューロンへの転送の間の前記学習の改善が、
刺激を用いないで転送先パターン照合ニューロンによって前記実質的に類似するパターンを学習することと、
前記刺激を用いないで前記実質的に類似するパターンを第2のパターンと比較することと、
前記実質的に類似するパターンの学習を改善することと、
ネットワークの下流で別のパターンのリプレイを作成することと、
前記複数の求心性ニューロンの前記元のパターンへの応答と実質的に類似する方式で、ネットワークの下流において前記実質的に類似するパターンに応答することとのうちの少なくとも1つを備える、請求項68に記載の方法。 - 前記パターンを参照することが、
刺激の間に前記パターンに関連する前記1つまたは複数のパターン学習ニューロンによって一貫した出力を生成することを備える、請求項68に記載の方法。 - ニューラル構成要素学習改善および高速学習のための装置であって、
1つまたは複数のパターン学習ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するように構成された第1の回路と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するように構成された第2の回路と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するように構成された第3の回路と、
前記誘発された実質的に類似するパターンを使用して前記1つまたは複数のパターン学習ニューロンによる学習を改善するように構成された第4の回路とを備える、装置。 - 前記実質的に類似するパターンが、刺激の間に前記1つまたは複数のパターン学習ニューロンによって学習されるよりも多くの、前記パターンの要素を備える、請求項73に記載の装置。
- 刺激が、前記パターンの初期の参照および前記1つまたは複数の関係側面の照合の間に存在するが、前記誘発および前記学習の間に不在である、請求項73に記載の装置。
- 1つまたは複数の転送先ニューロンへの転送の間の前記学習の改善が、
刺激を用いないで転送先パターン照合ニューロンによって前記実質的に類似するパターンを学習することと、
前記刺激を用いないで前記実質的に類似するパターンを第2のパターンと比較することと、
前記実質的に類似するパターンの学習を改善することと、
ネットワークの下流で別のパターンのリプレイを作成することと、
前記複数の求心性ニューロンの前記元のパターンへの応答と実質的に類似する方式で、ネットワークの下流において前記実質的に類似するパターンに応答することとのうちの少なくとも1つを備える、請求項73に記載の装置。 - 前記第1の回路がまた、
刺激の間に前記パターンに関連する前記1つまたは複数のパターン学習ニューロンによって一貫した出力を生成するように構成される、請求項73に記載の装置。 - ニューラル構成要素学習改善および高速学習のための装置であって、
1つまたは複数のパターン学習ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するための手段と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するための手段と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するための手段と、
前記誘発された実質的に類似するパターンを使用して前記1つまたは複数のパターン学習ニューロンによる学習を改善するための手段とを備える、装置。 - 前記実質的に類似するパターンが、刺激の間に前記1つまたは複数のパターン学習ニューロンによって学習されるよりも多くの、前記パターンの要素を備える、請求項78に記載の装置。
- 刺激が、前記パターンの初期の参照および前記1つまたは複数の関係側面の照合の間に存在するが、前記誘発および前記学習の間に不在である、請求項78に記載の装置。
- 1つまたは複数の転送先ニューロンへの転送の間の前記学習の改善が、
刺激を用いないで転送先パターン照合ニューロンによって前記実質的に類似するパターンを学習することと、
前記刺激を用いないで前記実質的に類似するパターンを第2のパターンと比較することと、
前記実質的に類似するパターンの学習を改善することと、
ネットワークの下流で別のパターンのリプレイを作成することと、
前記複数の求心性ニューロンの前記元のパターンへの応答と実質的に類似する方式で、ネットワークの下流において前記実質的に類似するパターンに応答することとのうちの少なくとも1つを備える、請求項78に記載の装置。 - 前記パターンを参照するための前記手段が、
刺激の間に前記パターンに関連する前記1つまたは複数のパターン学習ニューロンによって一貫した出力を生成するための手段を備える、請求項78に記載の装置。 - コンピュータ可読媒体を備えるニューラル構成要素学習改善および高速学習のためのコンピュータプログラム製品であって、前記コンピュータ可読媒体が、
1つまたは複数のパターン学習ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照し、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合し、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発し、
前記誘発された実質的に類似するパターンを使用して前記1つまたは複数のパターン学習ニューロンによる学習を改善するためのコードを備える、コンピュータプログラム製品。 - ニューラル学習改善の方法であって、
刺激を用いて入力のセット内のパターンのサブセットを学習することと、
前記パターンの要素と前記パターンの前記サブセットとの間の関係側面を学習することと、
刺激を用いないで前記学習された関係側面を使用して入力の前記セット内の前記パターンをリプレイすることと、
前記刺激を用いないで入力の前記セット内の前記パターンの学習を改善することとを備える、方法。 - パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの共通の1つを使用して達成される、請求項84に記載の方法。
- パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの異なるニューロンを使用して達成される、請求項84に記載の方法。
- ニューラル学習改善のための装置であって、
刺激を用いて入力のセット内のパターンのサブセットを学習するように構成された第1の回路と、
前記パターンの要素と前記パターンの前記サブセットとの間の関係側面を学習するように構成された第2の回路と、
刺激を用いないで前記学習された関係側面を使用して入力の前記セット内の前記パターンをリプレイするように構成された第3の回路と、
刺激を用いないで入力の前記セット内の前記パターンの学習を改善するように構成された第4の回路とを備える、装置。 - パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの共通の1つを使用して達成される、請求項87に記載の装置。
- パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの異なるニューロンを使用して達成される、請求項87に記載の装置。
- ニューラル学習改善のための装置であって、
刺激を用いて入力のセット内のパターンのサブセットを学習するための手段と、
前記パターンの要素と前記パターンの前記サブセットとの間の関係側面を学習するための手段と、
前記刺激を用いないで前記学習された関係側面を使用して入力の前記セット内の前記パターンをリプレイするための手段と、
刺激を用いないで入力の前記セット内の前記パターンの学習を改善するための手段とを備える、装置。 - パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの共通の1つを使用して達成される、請求項90に記載の装置。
- パターンの前記サブセットを学習することおよび前記学習を改善することが、前記パターン学習ニューロンのうちの異なるニューロンを使用して達成される、請求項90に記載の装置。
- コンピュータ可読媒体を備えるニューラル学習改善のためのコンピュータプログラム製品であって、前記コンピュータ可読媒体が、
刺激を用いて入力のセット内のパターンのサブセットを学習し、
前記パターンの要素と前記パターンの前記サブセットとの間の関係側面を学習し、
前記刺激を用いないで前記学習された関係側面を使用して入力の前記セット内の前記パターンをリプレイし、
前記刺激を用いないで入力の前記セット内の前記パターンの学習を改善するためのコードを備える、コンピュータプログラム製品。 - ニューラル構成要素リプレイの方法であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照することと、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合することと、
前記1つまたは複数の関係側面ニューロンによって前記出力をバーストすることによって、前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するために、前記複数の求心性ニューロンのうちの1つまたは複数を誘発することとを備える、方法。 - 前記求心性ニューロンおよび前記基準ニューロンがバーストせず、
前記関係側面ニューロンが、前記関係側面の学習または照合の間にバーストしない、請求項94に記載の方法。 - 前記1つまたは複数の関係側面ニューロンから前記求心性ニューロンへのフィードバックが、バースティングがなければ前記求心性ニューロンの発火を誘発するために、単独では不十分である、請求項94に記載の方法。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するように構成された第1の回路と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するように構成された第2の回路と、
前記1つまたは複数の関係側面ニューロンによって前記出力をバーストすることによって、前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するために、前記複数の求心性ニューロンのうちの1つまたは複数を誘発するように構成された第3の回路とを備える、装置。 - 前記求心性ニューロンおよび前記基準ニューロンがバーストせず、
前記関係側面ニューロンが、前記関係側面の学習または照合の間にバーストしない、請求項94に記載の装置。 - 前記1つまたは複数の関係側面ニューロンから前記求心性ニューロンへのフィードバックが、バースティングがなければ前記求心性ニューロンの発火を誘発するために、単独では不十分である、請求項94に記載の装置。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するための手段と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するための手段と、
前記1つまたは複数の関係側面ニューロンによって前記出力をバーストすることによって、前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するための手段とを備える、装置。 - 前記求心性ニューロンおよび前記基準ニューロンがバーストせず、
前記関係側面ニューロンが、前記関係側面の学習または照合の間にバーストしない、請求項100に記載の装置。 - 前記1つまたは複数の関係側面ニューロンから前記求心性ニューロンへのフィードバックが、バースティングがなければ前記求心性ニューロンの発火を誘発するために、単独では不十分である、請求項100に記載の装置。
- コンピュータ可読媒体を備えるニューラル構成要素リプレイのためのコンピュータプログラム製品であって、前記コンピュータ可読媒体が、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照し、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合し、
前記1つまたは複数の関係側面ニューロンによって前記出力をバーストすることによって、前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するためのコードを備える、コンピュータプログラム製品。 - ニューラル構成要素リプレイの方法であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照することと、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合することと、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発することとを備え、
前記求心性ニューロンのうちの少なくとも1つ、前記1つまたは複数の基準ニューロン、または前記1つまたは複数の関係側面ニューロンの間のシグナリングが、高速スパイクシーケンスまたは独立スパイクのうちの少なくとも一方を備える、方法。 - 前記高速スパイクシーケンスが、前記パターンをリプレイすることに関連付けられた回路の内部の結合上でのみ発生する、請求項104に記載の方法。
- 前記高速スパイクシーケンスが、他の結合と比較して低減された可塑性を有する結合のうちの少なくとも1つ、または成長の間に求められた結合上でのみ発生する、請求項104に記載の方法。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するように構成された第1の回路と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するように構成された第2の回路と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するように構成された第3の回路とを備え、
前記求心性ニューロンのうちの少なくとも1つ、前記1つまたは複数の基準ニューロン、または前記1つまたは複数の関係側面ニューロンの間のシグナリングが、高速スパイクシーケンスまたは独立スパイクのうちの少なくとも一方を備える、装置。 - 前記高速スパイクシーケンスが、前記パターンをリプレイすることに関連付けられた回路の内部の結合上でのみ発生する、請求項107に記載の装置。
- 前記高速スパイクシーケンスが、他の結合と比較して低減された可塑性を有する結合のうちの少なくとも1つ、または成長の間に求められた結合上でのみ発生する、請求項107に記載の装置。
- ニューラル構成要素リプレイのための装置であって、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照するための手段と、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合するための手段と、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するための手段とを備え、
前記求心性ニューロンのうちの少なくとも1つ、前記1つまたは複数の基準ニューロン、または前記1つまたは複数の関係側面ニューロンの間のシグナリングが、高速スパイクシーケンスまたは独立スパイクのうちの少なくとも一方を備える、装置。 - 前記高速スパイクシーケンスが、前記パターンをリプレイすることに関連付けられた回路の内部の結合上でのみ発生する、請求項110に記載の装置。
- 前記高速スパイクシーケンスが、他の結合と比較して低減された可塑性を有する結合のうちの少なくとも1つ、または成長の間に求められた結合上でのみ発生する、請求項110に記載の装置。
- コンピュータ可読媒体を備えるニューラル構成要素リプレイのためのコンピュータプログラム製品であって、前記コンピュータ可読媒体が、
1つまたは複数の基準ニューロンを用いて複数の求心性ニューロン出力内のパターンを参照し、
1つまたは複数の関係側面ニューロンを用いて前記複数の求心性ニューロン出力内の前記パターンと前記1つまたは複数の基準ニューロンの出力との間の1つまたは複数の関係側面を照合し、
前記1つまたは複数の基準ニューロンによって前記参照されたパターンと実質的に類似するパターンを出力するように前記複数の求心性ニューロンのうちの1つまたは複数を誘発するためのコードを備え、
前記求心性ニューロンのうちの少なくとも1つ、前記1つまたは複数の基準ニューロン、または前記1つまたは複数の関係側面ニューロンの間のシグナリングが、高速スパイクシーケンスまたは独立スパイクのうちの少なくとも一方を備える、コンピュータプログラム製品。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/292,167 | 2011-11-09 | ||
US13/292,167 US9424511B2 (en) | 2011-11-09 | 2011-11-09 | Methods and apparatus for unsupervised neural component replay by referencing a pattern in neuron outputs |
PCT/US2012/064521 WO2013071164A1 (en) | 2011-11-09 | 2012-11-09 | Methods and apparatus for unsupervised neural replay, learning refinement, association and memory transfer: neural component replay |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014535119A true JP2014535119A (ja) | 2014-12-25 |
JP5989793B2 JP5989793B2 (ja) | 2016-09-07 |
Family
ID=47428967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014541347A Expired - Fee Related JP5989793B2 (ja) | 2011-11-09 | 2012-11-09 | 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル構成要素リプレイ |
Country Status (7)
Country | Link |
---|---|
US (1) | US9424511B2 (ja) |
EP (1) | EP2776987A1 (ja) |
JP (1) | JP5989793B2 (ja) |
KR (1) | KR101616660B1 (ja) |
CN (1) | CN103930908B (ja) |
IN (1) | IN2014CN03033A (ja) |
WO (1) | WO2013071164A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9424513B2 (en) | 2011-11-09 | 2016-08-23 | Qualcomm Incorporated | Methods and apparatus for neural component memory transfer of a referenced pattern by including neurons to output a pattern substantially the same as the referenced pattern |
US9443190B2 (en) | 2011-11-09 | 2016-09-13 | Qualcomm Incorporated | Methods and apparatus for neural pattern sequence completion and neural pattern hierarchical replay by invoking replay of a referenced neural pattern |
US9015091B2 (en) * | 2011-11-09 | 2015-04-21 | Qualcomm Incorporated | Methods and apparatus for unsupervised neural replay, learning refinement, association and memory transfer: structural plasticity and structural constraint modeling |
US9652711B2 (en) | 2014-03-12 | 2017-05-16 | Qualcomm Incorporated | Analog signal reconstruction and recognition via sub-threshold modulation |
CN104778202B (zh) * | 2015-02-05 | 2018-08-14 | 北京航空航天大学 | 基于关键词的事件演化过程的分析方法及系统 |
CN106650922B (zh) * | 2016-09-29 | 2019-05-03 | 清华大学 | 硬件神经网络转换方法、计算装置、软硬件协作系统 |
CN109002647B (zh) * | 2018-08-17 | 2019-06-07 | 郑州轻工业学院 | 一种具有延时学习功能的忆阻联想记忆神经网络电路 |
US11790245B2 (en) * | 2019-01-22 | 2023-10-17 | International Business Machines Corporation | Cognitive machine learning for semantic network |
EP3953868A4 (en) * | 2019-04-10 | 2023-01-11 | Cornell University | NEUROMORPHIC ALGORITHM FOR RAPID ONLINE LEARNING AND SIGNAL RESTORATION |
CN110222387B (zh) * | 2019-05-24 | 2021-01-12 | 北京化工大学 | 基于混合漏积分crj网络的多元钻井时间序列预测方法 |
US11742901B2 (en) * | 2020-07-27 | 2023-08-29 | Electronics And Telecommunications Research Institute | Deep learning based beamforming method and apparatus |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5583964A (en) | 1994-05-02 | 1996-12-10 | Motorola, Inc. | Computer utilizing neural network and method of using same |
US7089218B1 (en) | 2004-01-06 | 2006-08-08 | Neuric Technologies, Llc | Method for inclusion of psychological temperament in an electronic emulation of the human brain |
JP3647584B2 (ja) | 1996-12-26 | 2005-05-11 | 富士通株式会社 | 学習型自己定位装置 |
US6041322A (en) | 1997-04-18 | 2000-03-21 | Industrial Technology Research Institute | Method and apparatus for processing data in a neural network |
WO2004097733A2 (en) | 2003-04-30 | 2004-11-11 | Darwinian Neural Network Industries Ltd | Neural networks |
JP2005190429A (ja) | 2003-12-26 | 2005-07-14 | Hiroshima Univ | 参照データ認識・学習方法及びパターン認識システム |
US20080243741A1 (en) * | 2004-01-06 | 2008-10-02 | Neuric Technologies, Llc | Method and apparatus for defining an artificial brain via a plurality of concept nodes connected together through predetermined relationships |
EP2360629A3 (en) | 2005-05-07 | 2012-04-11 | Stephen L. Thaler | Device for the autonomous bootstrapping of useful information |
JP4201012B2 (ja) | 2006-04-06 | 2008-12-24 | ソニー株式会社 | データ処理装置、データ処理方法、およびプログラム |
EP2259214B1 (en) | 2009-06-04 | 2013-02-27 | Honda Research Institute Europe GmbH | Implementing a neural associative memory based on non-linear learning of discrete synapses |
US20120117012A1 (en) * | 2010-04-08 | 2012-05-10 | Neurosciences Research Foundation, Inc. | Spike-timing computer modeling of working memory |
WO2012138761A1 (en) * | 2011-04-04 | 2012-10-11 | Sheepdog Sciences, Inc. | Apparatus, system, and method for modulating consolidation of memory during sleep |
US9147155B2 (en) | 2011-08-16 | 2015-09-29 | Qualcomm Incorporated | Method and apparatus for neural temporal coding, learning and recognition |
US9443190B2 (en) | 2011-11-09 | 2016-09-13 | Qualcomm Incorporated | Methods and apparatus for neural pattern sequence completion and neural pattern hierarchical replay by invoking replay of a referenced neural pattern |
US9015091B2 (en) | 2011-11-09 | 2015-04-21 | Qualcomm Incorporated | Methods and apparatus for unsupervised neural replay, learning refinement, association and memory transfer: structural plasticity and structural constraint modeling |
US9424513B2 (en) | 2011-11-09 | 2016-08-23 | Qualcomm Incorporated | Methods and apparatus for neural component memory transfer of a referenced pattern by including neurons to output a pattern substantially the same as the referenced pattern |
US8909575B2 (en) | 2012-02-29 | 2014-12-09 | Qualcomm Incorporated | Method and apparatus for modeling neural resource based synaptic placticity |
WO2014081671A1 (en) | 2012-11-20 | 2014-05-30 | Qualcomm Incorporated | Dynamical event neuron and synapse models for learning spiking neural networks |
-
2011
- 2011-11-09 US US13/292,167 patent/US9424511B2/en not_active Expired - Fee Related
-
2012
- 2012-11-09 WO PCT/US2012/064521 patent/WO2013071164A1/en active Application Filing
- 2012-11-09 CN CN201280055203.XA patent/CN103930908B/zh active Active
- 2012-11-09 EP EP12805810.4A patent/EP2776987A1/en not_active Withdrawn
- 2012-11-09 JP JP2014541347A patent/JP5989793B2/ja not_active Expired - Fee Related
- 2012-11-09 KR KR1020147015333A patent/KR101616660B1/ko not_active IP Right Cessation
- 2012-11-09 IN IN3033CHN2014 patent/IN2014CN03033A/en unknown
Non-Patent Citations (2)
Title |
---|
JPN6015038204; 佐村 俊和 外1名: '"記憶の洗練機能を実現する海馬神経回路網モデル"' 電子情報通信学会技術研究報告 第103巻,第92号, 20030522, pp.7-12, 社団法人電子情報通信学会 * |
JPN6015044605; 伊藤 真 外4名: '"海馬-連合野モデルによる時系列パターンの長期記憶形成"' 電子情報通信学会技術研究報告 第100巻,第126号, 20000615, pp.25-32, 社団法人電子情報通信学会 * |
Also Published As
Publication number | Publication date |
---|---|
WO2013071164A1 (en) | 2013-05-16 |
KR101616660B1 (ko) | 2016-04-28 |
US9424511B2 (en) | 2016-08-23 |
KR20140092881A (ko) | 2014-07-24 |
CN103930908B (zh) | 2017-06-27 |
US20130117210A1 (en) | 2013-05-09 |
JP5989793B2 (ja) | 2016-09-07 |
IN2014CN03033A (ja) | 2015-07-03 |
EP2776987A1 (en) | 2014-09-17 |
CN103930908A (zh) | 2014-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5934378B2 (ja) | 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:構造可塑性および構造制約モデリング | |
JP5989791B2 (ja) | 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル連想学習、パターン補間、分離、一般化および階層的リプレイ | |
JP5989793B2 (ja) | 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル構成要素リプレイ | |
JP5989792B2 (ja) | 無監督ニューラルリプレイ、学習改善、関連付け、およびメモリ転送のための方法および装置:ニューラル構成要素メモリ転送 | |
TW201626293A (zh) | 由知識圖譜偏置的資料分類 | |
WO2014081639A1 (en) | Method and apparatus for designing emergent multi-layer spiking networks | |
US20150212861A1 (en) | Value synchronization across neural processors | |
US9549118B2 (en) | Blink and averted gaze avoidance in photographic images | |
US9652711B2 (en) | Analog signal reconstruction and recognition via sub-threshold modulation | |
JP2017507397A (ja) | 自動エラー訂正のための同時レイテンシおよびレートコーディング | |
US9269045B2 (en) | Auditory source separation in a spiking neural network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151110 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20160210 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160229 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160712 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160810 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5989793 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |