JP2010092491A - 学習および表現の機能を有するニューラルネットワーク - Google Patents
学習および表現の機能を有するニューラルネットワーク Download PDFInfo
- Publication number
- JP2010092491A JP2010092491A JP2009253296A JP2009253296A JP2010092491A JP 2010092491 A JP2010092491 A JP 2010092491A JP 2009253296 A JP2009253296 A JP 2009253296A JP 2009253296 A JP2009253296 A JP 2009253296A JP 2010092491 A JP2010092491 A JP 2010092491A
- Authority
- JP
- Japan
- Prior art keywords
- neuron
- neurons
- neural network
- artificial neural
- activation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 177
- 210000002569 neuron Anatomy 0.000 claims abstract description 872
- 230000004913 activation Effects 0.000 claims description 89
- 238000000034 method Methods 0.000 claims description 68
- 230000015654 memory Effects 0.000 claims description 42
- 238000012545 processing Methods 0.000 claims description 21
- 230000006870 function Effects 0.000 claims description 19
- 210000001044 sensory neuron Anatomy 0.000 claims description 17
- 210000002161 motor neuron Anatomy 0.000 claims description 16
- 230000000946 synaptic effect Effects 0.000 claims description 15
- 210000000225 synapse Anatomy 0.000 claims description 11
- 230000000007 visual effect Effects 0.000 claims description 9
- 230000002441 reversible effect Effects 0.000 claims description 8
- 230000002457 bidirectional effect Effects 0.000 claims description 7
- 241000700605 Viruses Species 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 238000013144 data compression Methods 0.000 claims description 3
- 238000001514 detection method Methods 0.000 claims 6
- 238000012544 monitoring process Methods 0.000 claims 3
- 238000005728 strengthening Methods 0.000 claims 2
- 238000012549 training Methods 0.000 abstract description 13
- 238000001994 activation Methods 0.000 description 47
- 230000001537 neural effect Effects 0.000 description 41
- 230000008569 process Effects 0.000 description 25
- 210000004556 brain Anatomy 0.000 description 16
- 210000004205 output neuron Anatomy 0.000 description 12
- 238000010304 firing Methods 0.000 description 9
- 210000002364 input neuron Anatomy 0.000 description 7
- 230000001953 sensory effect Effects 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 5
- 206010011469 Crying Diseases 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 108020003175 receptors Proteins 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 3
- 241000282326 Felis catus Species 0.000 description 2
- 208000003098 Ganglion Cysts Diseases 0.000 description 2
- 208000005400 Synovial Cyst Diseases 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000004118 muscle contraction Effects 0.000 description 2
- 230000001242 postsynaptic effect Effects 0.000 description 2
- 210000005215 presynaptic neuron Anatomy 0.000 description 2
- 230000004936 stimulating effect Effects 0.000 description 2
- 150000001413 amino acids Chemical class 0.000 description 1
- 210000003926 auditory cortex Anatomy 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000027455 binding Effects 0.000 description 1
- 238000009739 binding Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 210000000478 neocortex Anatomy 0.000 description 1
- 210000000929 nociceptor Anatomy 0.000 description 1
- 108091008700 nociceptors Proteins 0.000 description 1
- 210000000608 photoreceptor cell Anatomy 0.000 description 1
- 108091008695 photoreceptors Proteins 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 102000004169 proteins and genes Human genes 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 235000019615 sensations Nutrition 0.000 description 1
- 210000000697 sensory organ Anatomy 0.000 description 1
- 230000008786 sensory perception of smell Effects 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 210000000857 visual cortex Anatomy 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/10—Interfaces, programming languages or software development kits, e.g. for simulating neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
Abstract
【解決手段】複数のニューロンを含むニューラルネットワークであって、その複数のニューロンのうちの任意の1つのニューロン41と、自身またはその複数のニューロンのうちの別のニューロン43とが、その複数のニューロンのうちのさらに別のニューロン42との活性結合を介して関連付けられることが可能であるニューラルネットワーク。
【選択図】図4
Description
1.所定のまたは所望の出力目標に基づく事前トレーニングが必要である、すなわち、学習しない。
2.トレーニングで用いられた入力状態とよく似た入力状態(オブジェクト)しか認識できない。
3.計算が高度であるため、低速である。
4.計算上の制約から、比較的少数のニューロンしか表すことができない。
6.別のオブジェクトを認識するためには再トレーニングが必要である。
7.出力ニューロンに刺激を与えて入力オブジェクトを表現または再現することができない。
8.すべての入力ニューロンが同時に刺激されることが前提である。
9.創造的でなく、イベントを表現または再現することができない。トレーニングで用いられたイベントしか識別/認識できない。
10.同時に発火するか、短い間隔で連続して発火するニューロンがシナプスでリンクされることを前提としているが、個々のニューロン、またはニューロンの発火順序を識別しない。
11.隠れ層の各ニューロンが複数の入力ニューロンからの入力を同時に受信する可能性がある。
1.要素ニューロン。これは、要素刺激、感覚ニューロンまたは運動ニューロン、または必要に応じてそのような要素データを表すことが可能である。これらは、ニューラルネットワークを構築する基になる要素ニューロンまたはルートニューロンである。表される経験、イベントまたは情報のタイプに応じて、様々なタイプの要素ニューロンを定義することが可能である。たとえば、聴覚皮質を表す場合、要素ニューロンは、個々の異なる音を表すことになりうる。要素ニューロンは、いくつかの異なるタイプの要素ニューロンを組み込むことが可能である。そのようなものとしては、たとえば、音のエネルギーまたは音の強度(ボリューム)を表すセットや、音の周波数を表す別のセットなどがある。
(a)16ビットのポインタアドレスアーキテクチャは、216個のニューロンまで可能である。これは、6.4×103個のニューロンである。
(b)32ビットのポインタアドレスアーキテクチャは、232個のニューロンまで可能である。これは、4.1×109個のニューロンである。
(c)48ビットのポインタアドレスアーキテクチャは、248個のニューロンまで可能である。これは、2.7×1014個のニューロンである。
(d)64ビットのポインタアドレスアーキテクチャは、264個のニューロンまで可能である。これは、1.8×1019個のニューロンである。
P1−起動ニューロン(すなわち、ニューロンA)へのポインタ
P2−関連付けの形成に参加する他方のニューロン(すなわち、ニューロンB)へのポインタ
P3−ニューロンCを起動ニューロンとする、より深いレベルのニューロンのリストへのポインタ(LsC)(ニューロンCの、後続ニューロンへのポインタ)
P4−ニューロンAを起動ニューロンとする、次のニューロンへのポインタ(LA)(ニューロンAの「次の後続ニューロンへの」ポインタ)
P5−ニューロンCを被関連付けニューロンとする、より深いレベルのニューロンのリストへのポインタ(LpC)(先行ニューロンへのポインタ)
P6−ニューロンBを被関連付けニューロンとする、リスト内の次のニューロンへのポインタ(LB)(「次の先行ニューロンへの」ポインタ)
1.アルファベットの大文字の26個の文字。
2.アルファベットの小文字の26個の文字。
3.10個の数字
4.標準的な英数字キーボードにおける32個の区切り文字および同様の文字
5.必要になる可能性がある、他の任意の特殊文字(たとえば、ギリシャ文字など)
「TH」、「E^」、「CA」、「T^」、「SA」、「ON」、および「MA」
その他の結合も可能である。たとえば、次の結合が可能である。
「TH」、「HE」、「E^」、「CA」、「AT」、「T^」、「ON」、「N^」、および「MA」
1,024 レベル0
512 レベル1
256 レベル2
128 レベル3
64 レベル4
32 レベル5
16 レベル6
8 レベル7
4 レベル8
2 レベル9
1 レベル10
要素イベントの全シーケンスが表される。
LUCY^IS^CRYING^UNDER^THE^TABLE^.
JOHN^IS^PLAYING^IN^THE^PARK^.
PETER^IS^READING^IN^THE^CHAIR^.
MARY^IS^SLEEPING^UNDER^THE^TREE^.
JOHN^IS^RUNNING^IN^THE^RACE^.
PETER^IS^PLAYING^ON^THE^SWING^.
MARY^IS^TALKING^ON^THE^PHONE^.
IS CRYING
IS RUNNING
IS READING
IS SLEEPING
IS PLAYING
IS TALKING
UNDER THE TABLE
UNDER THE TREE
IN THE PARK
IN THE CHAIR
IN THE RACE
ON THE SWING
ON THE PHONE
LUCY IS CRYING
LUCY IS RUNNING
LUCY IS READING
LUCY IS SLEEPING
LUCY IS PLAYING
LUCY IS TALKING
LUCY IS IS CRYING
JOHN IS IS RUNNING
MARY IS IS READING
LUCY IS IS SLEEPING
PETER IS IS PLAYING
IS TALKING
ON THE THE TABLE
IN THE THE PARK
UNDER THE THE CHAIR
THE TREE
THE RACE
THE SWING
THE PHONE
これらは、すべてが構文としては正しいが、意味論的にはすべてが正しいとは言えない性質の21(3×7)個の句/節を生成する可能性を与える。
{*} IS {*} (*) THE {*}.
・学習が可能である。
・表現機能がある。
・データではなく関連付けを格納する。
・コンピュータのメモリおよびストレージの空間を効率よく使用する。
・計算効率がよい。
Claims (89)
- 人工ニューラルネットワークであって、
(a)複数のニューロンを含み、
(b)複数のニューロンそれぞれが、メモリを有するプロセッサであると共に配列をなし、
(c)複数のニューロンが、複数の要素ニューロンと複数の構造ニューロンとを含み、
(d)全ての要素ニューロン及び構造ニューロンが、他の要素及び構造ニューロンと活性結合を介して関連付けられるように構成され、
(e)要素ニューロンそれぞれが、
(i)人工ニューラルネットワークへの一意な入力値を表し、一意な値が、刺激と、イベントと、パターン内のシーケンスと、イベントのシーケンスと、要素刺激と、定義済み要素パターンと、定義済み要素データ要素と、基本入力刺激と、処理中の情報の出力刺激とからなる群から選択される少なくとも一つであり、
(ii)構造ニューロンによって活性化されたときの出力として一意な値を表すように構成され、
(f)構造ニューロンそれぞれが、
(i)それが関連付けニューロンとして有する、複数のニューロンのうちのニューロンのペアから入力を受け取り、
(ii)表現のためのニューロンのペアを活性化するために、ニューロンのペアへの出力として、入力を表現するように構成される人工ニューラルネットワーク。 - 複数のニューロンのうちのいずれか一つのニューロンが、複数のニューロンのうちのニューロンと、複数のニューロンのうちの更に別にニューロンとの活性結合を介して関連付けられることができ、更に別のニューロンが、複数の構造ニューロンのうちの一つである、請求項1に記載の人工ニューラルネットワーク。
- それぞれの構造ニューロンが、それが関連付けているニューロンのペアによるパターンの結合された情報を表現し、構造ニューロンがニューロンのペアから入力を受け取る請求項1に記載の人工ニューラルネットワーク。
- 複数の要素ニューロンが、ニューラルネットワークのルートレベルにある請求項1に記載の人工ニューラルネットワーク。
- ニューロンのペアが、要素ニューロン及び要素ニューロンと、要素ニューロン及び構造ニューロンと、構造ニューロン及び要素ニューロンと、構造ニューロン及び構造ニューロンとからなる群から選択される少なくとも一つを含む請求項1に記載の人工ニューラルネットワーク。
- 複数のニューロンのそれぞれが、起動ニューロンと、被関連付けニューロンと、関連付けニューロンとからなる群から選択される一つまたは複数であり、起動ニューロンが、関連付けニューロンへの結合を介して被関連付けニューロンと関連付けられる請求項1に記載の人工ニューラルネットワーク。
- 起動ニューロンと、被関連付けニューロンと、関連付けニューロンとが、処理される入力の時間と空間と強度と規模と相対位置とのうちの少なくとも一つである近接特性に基づいて結合される請求項6に記載の人工ニューラルネットワーク。
- 複数のニューロンのペアを形成するために、それぞれの起動ニューロンが複数の被関連付けニューロンと関連付けられることができる請求項6に記載の人工ニューラルネットワーク。
- 複数のニューロンのペアを形成するために、それぞれの被関連付けニューロンが複数の起動ニューロンと関連付けられることができる請求項6に記載の人工ニューラルネットワーク。
- 起動ニューロンが入力を受け取り、被関連付けニューロンが入力を受け取り、入力が全ての、起動ニューロン及び被関連付けニューロンの関連付けニューロンに送信され、起動ニューロン及び被関連付けニューロンの両方の関連付けニューロンがそのとき活性化されて出力を生成することができる請求項6に記載の人工ニューラルネットワーク。
- 被関連付けニューロンが活性化され、起動ニューロンと同時と起動ニューロンの後とからなる群から選択される方法で出力を生成することができる請求項10に記載の人工ニューラルネットワーク。
- 起動ニューロン及び被関連付けニューロンの活性化又は出力の生成も近接特性に基づく請求項10に記載の人工ニューラルネットワーク。
- 起動ニューロン及び被関連付けの近接活性化又は起動ニューロン及び被関連付けの出力の生成によって、起動ニューロンと新たな関連付けニューロンとの間及び被関連付けニューロンと新たな関連付けニューロンとの間の新たな結合と共に存在するものがなければ新たな関連付けニューロンを生成することと、起動ニューロンと関連付けニューロンとの間及び被関連付けニューロンと関連付けニューロンとの間に存在する結合を強化することと、関連付けニューロンを強化することとからなる群から選択される少なくとも一つが行われる請求項12に記載の人工ニューラルネットワーク。
- 強化が、関連付けニューロンがどの程度、起動ニューロンと被関連付けニューロンとから入力を受け取るかの頻度数を保持することによる請求項13に記載の人工ニューラルネットワーク。
- 関連付けニューロンが、起動ニューロンと被関連付けニューロンとによって表されるものの和を表す請求項6に記載の人工ニューラルネットワーク。
- 一度、関連付けニューロンが結果を表すと、結果は別のニューロンで生成される必要がない請求項6に記載の人工ニューラルネットワーク。
- 複数の要素ニューロンが人工ニューラルネットワークへの全ての入力を受け取り、人工ニューラルネットワークからの全ての出力を提供する請求項1に記載の人工ニューラルネットワーク。
- 全てのニューロンが値、情報及びパターンのうちの少なくとも一つを表し、
処理がニューロンの関連付け、構造ニューロンが関連付けたニューロンのペアの表現、及び要素ニューロンによって表される値、情報又はパターンの表現のうちの少なくとも一つである、請求項1に記載の人工ニューラルネットワーク。 - 表現時に、ニューラルネットワークが表す要素ニューロンを表現するためにより多くのステップが必要である場合に、ニューラルネットワークのレベルがニューラルネットワーク構造内のより深いレベルになる請求項1に記載の人工ニューラルネットワーク。
- ニューロンのペアの関連付けを行うことが学習であり、ニューロンのペアの表現を行うことが表現である請求項1に記載の人工ニューラルネットワーク。
- 学習を行うフォワードモードと表現を行うリバースモードとを有する双方向性である請求項19に記載の人工ニューラルネットワーク。
- 入力データではなく関連付けを保存して、関連付けのパターンの中でパターンを表現する請求項1に記載の人工ニューラルネットワーク。
- それぞれの要素ニューロンが、感覚ニューロンと運動ニューロンとからなる群から選択される請求項1に記載の人工ニューラルネットワーク。
- それぞれの構造ニューロンが、複数の要素ニューロンを表す請求項1に記載の人工ニューラルネットワーク。
- 複数のニューロンそれぞれが、表現されることができる請求項1に記載の人工ニューラルネットワーク。
- 記憶のために必要な要素ニューロン及び構造ニューロンの数が、処理される入力の性質によって決まる請求項1に記載の人工ニューラルネットワーク。
- 記憶が、受け取られた入力の頻度を保存することである請求項1に記載の人工ニューラルネットワーク。
- それぞれのニューロンが、配列をなすノードであり、それぞれのノードが、複数のポインタを有する請求項6に記載の人工ニューラルネットワーク。
- 複数のポインタが、表現するための2つのポインタと、関連付けを表す更なるポインタを含む請求項28に記載の人工ニューラルネットワーク。
- それぞれのノード内のそれぞれのポインタが、別のニューロンのアドレスと、要素ニューロンの要素値と、頻度数とからなる群から選択される少なくとも一つを含む請求項28に記載の人工ニューラルネットワーク。
- ポインタの数が、人工ニューラルネットワークによって実行される機能に依存し、それぞれのニューロンについてのポインタの数が少なくとも2である請求項28に記載の人工ニューラルネットワーク。
- ニューロンへのそれぞれのポインタの機能が、起動と、関連付けと、後続と、起動ニューロンの次の後続と、先行と、関連付けニューロンの次の先行とからなる群から選択される請求項28に記載の人工ニューラルネットワーク。
- 要素ニューロンのための少なくとも一つのポインタが、要素値を表す請求項28に記載の人工ニューラルネットワーク。
- 全てのニューロンが、配列をなす、固定長のアドレス可能なノードである請求項28に記載の人工ニューラルネットワーク。
- 株価動向の監視および予測、インターネットの監視、インターネットセキュリティ、コンピュータウィルスの検出、コンピュータスパムの検出、音声およびテキスト内の句の認識、音声およびテキスト内の節の認識、盗用の検出、バイオインフォマティクス(生物情報学)、視覚認識、セマンティクス解析、データオントロジの表現、ロボット工学、およびデータ圧縮からなる群から選択される少なくとも一つに用いられる請求項1に記載の人工ニューラルネットワーク。
- 人工ニューラルネットワークであって、
(a)複数のニューロンを含み、
(b)複数のニューロンそれぞれが、メモリを有するプロセッサであると共に配列をなし
(c)複数のニューロンが、複数の要素ニューロンと複数の構造ニューロンとを含み、
(d)全ての要素ニューロン及び構造ニューロンが、他の要素及び構造ニューロンと活性結合を介して関連付けられるように構成され、
(e)要素ニューロンそれぞれが
(i)人工ニューラルネットワークシステムへ入力されることができる一意な値を表し、一意な値が、刺激と、イベントと、パターン内のシーケンスと、イベントのシーケンスとからなる群から選択される少なくとも一つであり、
(ii)出力として一意の値を表現するように構成され、
(f)それぞれの構造ニューロンが、それが関連付けている、複数のニューロンのうちのニューロンのペアから入力を受け取り、ニューロンのペアが、両方の要素ニューロンと、両方の構造ニューロンと、1つの構造ニューロン及び1つの要素ニューロンと、1つの要素ニューロンと1つの構造ニューロンとからなる群から選択されるように構成される人工ニューラルネットワーク。 - 複数の要素ニューロンが、ニューラルネットワークのルートレベルにあり、それぞれの要素ニューロンが、一意な値を表し、一意な値が、刺激と、イベントと、パターン内のシーケンスと、イベントのシーケンスと、要素刺激と、定義済み要素パターンと、定義済み要素データ要素と、基本入力刺激と、処理中の情報の出力刺激とからなる群から選択される少なくとも一つである請求項36に記載の人工ニューラルネットワーク。
- それぞれの要素ニューロンが、感覚ニューロンと運動ニューロンとからなる群から選択される請求項36に記載の人工ニューラルネットワーク。
- 全てのニューロンが、値、情報及びパターンの少なくとも一つを表し、処理が、ニューロンの関連付け、構造ニューロンによって関連付けられたニューロンのペアの表現、及び要素ニューロンによって表される値、情報又はパターンの表現の少なくとも一つである請求項36に記載の人工ニューラルネットワーク。
- ニューロンの関連付けが、複数のより深いより深いレベルで表され、複数のより深いレベルでのレベルの数が、処理又は表現されるパターンの範囲によって決まり、構造ニューロンが、複数の要素ニューロンを表す請求項36に記載の人工ニューラルネットワーク。
- 記憶を表すために必要な要素ニューロン及び構造ニューロンの数が、処理される入力の性質によって決まる請求項40に記載の人工ニューラルネットワーク。
- 複数のニューロンのうちのいずれか一つが、複数のニューロンのうちのニューロンと、複数のニューロンのうちのさらに別のニューロンとの活性結合を介して関連付けられることができ、さらに別のニューロンが、複数の構造ニューロンのうちの一つである請求項36に記載の人工ニューラルネットワーク。
- 学習であるフォワードモード、及び表現であるリバースモードを有する双方向性である請求項36に記載の人工ニューラルネットワーク。
- 入力データではなく関連付けを保存し、関連付けのパターンの中でパターンを表現する請求項36に記載の人工ニューラルネットワーク。
- 複数のニューロンそれぞれが、表現されることができる請求項36に記載の人工ニューラルネットワーク。
- 人工ニューラルネットワークであって、
(a)複数のニューロンを含み、
(b)複数のニューロンそれぞれが、メモリを有するプロセッサであると共に配列をなし、
(c)複数のニューロンが、複数の要素ニューロンと複数の構造ニューロンとを含み、
(d)全ての要素ニューロン及び構造ニューロンが、他の要素及び構造ニューロンと活性結合を介して関連付けられるように構成され、
(e)要素ニューロンそれぞれが、
(i)人工ニューラルネットワークシステムへの入力としえる一意な値を表し、一意な値が、刺激と、イベントと、パターン内のシーケンスと、イベントのシーケンスと、要素刺激と、定義済み要素パターンと、定義済み要素データ要素と、基本入力刺激と、処理中の情報の出力刺激とからなる群から選択される少なくとも一つであり、
(ii)出力として一意な値を表すように構成され、
(f)複数の構造ニューロン全てが、当該複数の構造ニューロンが導出され、又は表される要素ニューロンにおいて、表現されえるように構成される人工ニューラルネットワーク。 - 学習であるフォワードモード、及び表現であるリバースモードを有する双方向性である請求項46に記載の人工ニューラルネットワーク。
- 入力データではなく関連付けを保存し、関連付けのパターンの中でパターンを認識する請求項46に記載の人工ニューラルネットワーク。
- それぞれの要素値を表現しえる全ての要素ニューロンとそれらが関連付けるニューロンのペアを表現しえる全ての構造ニューロンとを有する双方向性である請求項46に記載の人工ニューラルネットワーク。
- 人工ニューラルネットワークであって、
(a)複数のニューロンを含み、
(b)複数のニューロンそれぞれが、メモリを有するプロセッサであると共に配列におけるノードであり、
(c)複数のニューロンが、複数の要素ニューロンと複数の構造ニューロンとを含み、
(d)全ての要素ニューロン及び構造ニューロンが、他の要素及び構造ニューロンと結合を介して関連付けられるように構成され、
(e)双方向性であって、構造ニューロンが要素ニューロンからの入力イベントから生成されるフォワードモードと、入力イベントが要素ニューロンから表現されるリバースモードとで動作可能な人工ニューラルネットワーク。 - フォワードモードが学習であり、リバースモードが表現である請求項50に記載の人工ニューラルネットワーク。
- 入力データではなく関連付けを保存する請求項50に記載の人工ニューラルネットワーク。
- 関連付けのパターンの中でパターンを表現して認識する請求項50に記載の人工ニューラルネットワーク。
- 複数のニューロンを含む人工ニューラルネットワークを構築する方法であって、複数のニューロンが、複数の要素ニューロンと複数の構造ニューロンとを含み、
要素ニューロンが表す一意なイベントを定義し、
全ての定義済みイベントについて表される一意な値の総数に対して、必要な数の要素ニューロンを作成し、一意な値が、刺激と、イベントと、パターン内のシーケンスと、イベントのシーケンスと、要素刺激と、定義済み要素パターンと、定義済み要素データ要素と、基本入力刺激と、処理中の情報の出力刺激とからなる群から選択される少なくとも一つであり、
複数の要素ニューロンが、人工ニューラルネットワークへの全ての入力を受け取り、人工ニューラルネットワークからの全ての出力が、複数の要素ニューロンからであり、
複数の構造ニューロンを生成し、構造ニューロンそれぞれが、複数のニューロンのペアの関連付けによって生成され、
複数の構造ニューロンそれぞれが、ニューロンのペアによる活性化についての出力を生成するように構成され、ニューロンのペアが、起動ニューロンと被関連付けニューロンとを含み、複数のニューロンの関連付けが、近接特性に基づいたものであり、
複数の構造ニューロンそれぞれが、ニューロンのペアを表現するように構成される方法。 - 複数のニューロンのうちのいずれか一つが、複数のニューロンのうちのニューロンと、複数のニューロンのうちのさらに別のニューロンとの活性結合を介して関連付けられることができ、さらに別のニューロンが、複数の構造ニューロンのうちの一つである請求項54に記載の方法。
- 全ての要素ニューロンが、それぞれの要素値を表現することができ、全ての構造ニューロンが、それらが関連付けるニューロンのペアを表現することができる請求項54に記載の方法。
- ニューロンのペアが、要素ニューロンを有する要素ニューロンと、構造ニューロンを有する要素ニューロンと、要素ニューロンを有する構造ニューロンと、構造ニューロンを有する構造ニューロンとからなる群から選択される請求項56に記載の方法。
- 複数のニューロンのそれぞれが、起動ニューロンと、被関連付けニューロンと、関連付けニューロンとからなる群から選択される一つまたは複数であり、起動ニューロンが、関連付けニューロンへの結合を介して被関連付けニューロンと関連付けられる請求項54に記載の方法。
- 起動ニューロンと、被関連付けニューロンと、関連付けニューロンとが、処理される入力の時間と空間と強度と規模と相対位置とからなる群から選択される近接特性に基づいて結合される請求項58に記載の方法。
- 再現時に、要素ニューロンを表現するためにより多くのステップが必要である場合に、ニューラルネットワークのレベルが、人工ニューラルネットワーク構造内のより深いレベルである請求項54に記載の方法。
- 起動ニューロンが入力を受け取り、被関連付けニューロンが入力を受け取り、入力が、起動ニューロン及び被関連付けニューロンそれぞれの全ての関連付けニューロンに送信され、起動ニューロン及び被関連付けニューロン両方の関連付けニューロンが、その際活性化され、出力を生成することができる請求項58に記載の方法。
- 被関連付けニューロンが活性化され、又は起動ニューロンと同時と起動ニューロンの後とからなる群から選択される方法で出力を生成する請求項61に記載の方法。
- 起動ニューロンの活性化、又は起動ニューロンからの出力の生成、並びに被関連付けニューロンの活性化、又は被関連付けニューロンからの出力の生成が、近接特性に基づく請求項61に記載の方法。
- 起動ニューロン及び被関連付けニューロンの近接活性化、又は起動ニューロン及び被関連付けニューロンからの出力の生成によって、起動ニューロンと新たな関連付けニューロンとの間及び被関連付けニューロンと新たな関連付けニューロンとの間の新しいシナプス結合を含む新たな関連付けニューロンの生成、起動ニューロンと関連付けニューロンとの間及び被関連付けニューロンと関連付けニューロンとの間の既存のシナプスシナプス結合の強化、並びに関連付けニューロンの強化からなる群から選択される少なくとも一つが行われる請求項63に記載の方法。
- 強化が、関連付けニューロンがどの程度、起動ニューロンと被関連付けニューロンとから入力を受け取るかの頻度数を保持することによる請求項64に記載の方法。
- 関連付けニューロンが、起動ニューロンと被関連付けニューロンとによって表されるものの和を表す請求項58に記載の方法。
- 記憶が、複数の要素刺激を表し、それぞれの要素刺激が、要素ニューロンによって直接表される請求項54に記載の方法。
- 記憶を表すために必要な要素ニューロンの数が、処理される入力の性質によって決まる請求項54に記載の方法。
- それぞれのニューロンが、配列をなす、固定長のアドレス可能なノードであり、それぞれのノードが、複数のポイントを有する請求項54に記載の方法。
- 複数の要素ニューロンが、ニューラルネットワークのルートレベルにある請求項54に記載の方法。
- 複数のニューロンのペアを形成するために、それぞれの起動ニューロンが複数の被関連付けニューロンと関連付けられることができる請求項58に記載の方法。
- 複数のニューロンのペアを形成するために、それぞれの被関連付けニューロンが複数の起動ニューロンと関連付けられることができる請求項58に記載の方法。
- 一度、関連付けニューロンが結果を表すと、結果は別のニューロンで生成される必要がない請求項58に記載の方法。
- 複数の要素ニューロンが人工ニューラルネットワークへの全ての入力を受け取り、人工ニューラルネットワークからの全ての出力を提供する請求項54に記載の方法。
- 全てのニューロンが値、情報及びパターンのうちの少なくとも一つを表し、
処理がニューロンの関連付け、構造ニューロンが関連付けたニューロンのペアの表現、及び要素ニューロンによって表される値、情報又はパターンの表現のうちの少なくとも一つである、請求項54に記載の方法。 - ニューロンのペアの関連付けを行うことが学習であり、ニューロンのペアの表現を行うことが表現である請求項54に記載の方法。
- 人工ニューラルネットワークが、学習を行うフォワードモードと表現を行うリバースモードとを有する双方向性である請求項76に記載の方法。
- 人工ニューラルネットワークが、入力データではなく関連付けを保存して、関連付けのパターンの中でパターンを表現する請求項54に記載の方法。
- それぞれの要素ニューロンが、感覚ニューロンと運動ニューロンとからなる群から選択される請求項54に記載の方法。
- それぞれの構造ニューロンが、複数の要素ニューロンを表す請求項54に記載の方法。
- 複数のニューロンそれぞれが、表現されることができる請求項54に記載の方法。
- 複数のポインタが、表現するための2つのポインタと、関連付けを表す更なるポインタを含む請求項69に記載の方法。
- それぞれのノード内のそれぞれのポインタが、別のニューロンのアドレスと、要素ニューロンの要素値と、頻度数とからなる群から選択される少なくとも一つを含む請求項82に記載の方法。
- ポインタの数が、人工ニューラルネットワークによって実行される機能に依存し、それぞれのニューロンについてのポインタの数が少なくとも2である請求項82に記載の方法。
- ニューロンへのそれぞれのポインタの機能が、起動と、関連付けと、後続と、起動ニューロンの次の後続と、先行と、関連付けニューロンの次の先行とからなる群から選択される請求項82に記載の方法。
- 要素ニューロンのための少なくとも一つのポインタが、要素値を表す請求項82に記載の方法。
- 全てのニューロンが、配列をなす、固定長のアドレス可能なノードである請求項82に記載の方法。
- 人工ニューラルネットワークが、株価動向の監視および予測、インターネットの監視、インターネットセキュリティ、コンピュータウィルスの検出、コンピュータスパムの検出、音声およびテキスト内の句の認識、音声およびテキスト内の節の認識、盗用の検出、バイオインフォマティクス(生物情報学)、視覚認識、セマンティクス解析、データオントロジの表現、ロボット工学、およびデータ圧縮からなる群から選択される少なくとも一つに用いられる請求項54に記載の方法。
- 請求項54に記載の方法を実施するために、1つまたは複数の機能を1つまたは複数のプロセッサ及び/又はメモリに実行させるように構成されたコンピュータプログラムコードを含む、コンピュータで使用可能な媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
MYPI20032400A MY138544A (en) | 2003-06-26 | 2003-06-26 | Neural networks with learning and expression capability |
MYPI20032400 | 2003-06-26 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006516581A Division JP4943146B2 (ja) | 2003-06-26 | 2004-06-21 | 学習および表現の機能を有するニューラルネットワーク |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010092491A true JP2010092491A (ja) | 2010-04-22 |
JP5165664B2 JP5165664B2 (ja) | 2013-03-21 |
Family
ID=33536493
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006516581A Expired - Fee Related JP4943146B2 (ja) | 2003-06-26 | 2004-06-21 | 学習および表現の機能を有するニューラルネットワーク |
JP2009253296A Active JP5165664B2 (ja) | 2003-06-26 | 2009-11-04 | 学習および表現の機能を有するニューラルネットワーク |
JP2011067438A Active JP5430597B2 (ja) | 2003-06-26 | 2011-03-25 | 学習および表現の機能を有するニューラルネットワーク |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006516581A Expired - Fee Related JP4943146B2 (ja) | 2003-06-26 | 2004-06-21 | 学習および表現の機能を有するニューラルネットワーク |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011067438A Active JP5430597B2 (ja) | 2003-06-26 | 2011-03-25 | 学習および表現の機能を有するニューラルネットワーク |
Country Status (9)
Country | Link |
---|---|
US (2) | US7412426B2 (ja) |
EP (6) | EP2472443A3 (ja) |
JP (3) | JP4943146B2 (ja) |
CN (2) | CN101470813B (ja) |
AU (2) | AU2004250403C1 (ja) |
IL (2) | IL172201A (ja) |
MY (1) | MY138544A (ja) |
SG (1) | SG153700A1 (ja) |
WO (1) | WO2004114145A1 (ja) |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7925492B2 (en) | 2004-01-06 | 2011-04-12 | Neuric Technologies, L.L.C. | Method for determining relationships through use of an ordered list between processing nodes in an emulated human brain |
US7089218B1 (en) * | 2004-01-06 | 2006-08-08 | Neuric Technologies, Llc | Method for inclusion of psychological temperament in an electronic emulation of the human brain |
MY138544A (en) * | 2003-06-26 | 2009-06-30 | Neuramatix Sdn Bhd | Neural networks with learning and expression capability |
US8473449B2 (en) * | 2005-01-06 | 2013-06-25 | Neuric Technologies, Llc | Process of dialogue and discussion |
US7475072B1 (en) | 2005-09-26 | 2009-01-06 | Quintura, Inc. | Context-based search visualization and context management using neural networks |
US7620607B1 (en) | 2005-09-26 | 2009-11-17 | Quintura Inc. | System and method for using a bidirectional neural network to identify sentences for use as document annotations |
US7437370B1 (en) * | 2007-02-19 | 2008-10-14 | Quintura, Inc. | Search engine graphical interface using maps and images |
US8112372B2 (en) * | 2007-11-20 | 2012-02-07 | Christopher D. Fiorello | Prediction by single neurons and networks |
US8190543B2 (en) | 2008-03-08 | 2012-05-29 | Tokyo Electron Limited | Autonomous biologically based learning tool |
US8396582B2 (en) | 2008-03-08 | 2013-03-12 | Tokyo Electron Limited | Method and apparatus for self-learning and self-improving a semiconductor manufacturing tool |
US8725667B2 (en) * | 2008-03-08 | 2014-05-13 | Tokyo Electron Limited | Method and system for detection of tool performance degradation and mismatch |
US8180754B1 (en) * | 2008-04-01 | 2012-05-15 | Dranias Development Llc | Semantic neural network for aggregating query searches |
US8219539B2 (en) * | 2009-04-07 | 2012-07-10 | Microsoft Corporation | Search queries with shifting intent |
EP2531959B1 (en) | 2010-02-05 | 2017-07-26 | Ecole Polytechnique Fédérale de Lausanne (EPFL) | Organizing neural networks |
US11651277B2 (en) | 2010-03-15 | 2023-05-16 | Numenta, Inc. | Sparse distributed representation for networked processing in predictive system |
EP2548096B1 (en) * | 2010-03-15 | 2017-10-25 | Numenta, Inc. | Temporal memory using sparse distributed representation |
US8676734B2 (en) * | 2010-07-07 | 2014-03-18 | Qualcomm, Incorporated | Methods and systems for replaceable synaptic weight storage in neuro-processors |
US20130346150A1 (en) * | 2012-06-21 | 2013-12-26 | Data Ventures, Inc. | System, method, and computer program product for forecasting sales |
EP3028201A4 (en) * | 2013-08-02 | 2017-03-22 | Auckland Uniservices Limited | System for neurobehavioural animation |
US10339447B2 (en) | 2014-01-23 | 2019-07-02 | Qualcomm Incorporated | Configuring sparse neuronal networks |
US9484022B2 (en) | 2014-05-23 | 2016-11-01 | Google Inc. | Training multiple neural networks with different accuracy |
KR102445468B1 (ko) | 2014-09-26 | 2022-09-19 | 삼성전자주식회사 | 부스트 풀링 뉴럴 네트워크 기반의 데이터 분류 장치 및 그 데이터 분류 장치를 위한 뉴럴 네트워크 학습 방법 |
CN105894086A (zh) * | 2014-12-23 | 2016-08-24 | 中国传媒大学 | 一种大规模大脑模拟中神经元链接的表示方法 |
CN106485321B (zh) * | 2015-10-08 | 2019-02-12 | 上海兆芯集成电路有限公司 | 具有架构神经网络执行单元的处理器 |
CN106372721B (zh) * | 2016-08-29 | 2018-08-21 | 中国传媒大学 | 大规模神经网络的3d可视化方法 |
US11615285B2 (en) * | 2017-01-06 | 2023-03-28 | Ecole Polytechnique Federale De Lausanne (Epfl) | Generating and identifying functional subnetworks within structural networks |
CN108009636B (zh) * | 2017-11-16 | 2021-12-07 | 华南师范大学 | 深度学习神经网络进化方法、装置、介质和计算机设备 |
US11468024B2 (en) * | 2018-03-27 | 2022-10-11 | Sap Se | Structural data matching using neural network encoders |
US11893471B2 (en) | 2018-06-11 | 2024-02-06 | Inait Sa | Encoding and decoding information and artificial neural networks |
US11663478B2 (en) | 2018-06-11 | 2023-05-30 | Inait Sa | Characterizing activity in a recurrent artificial neural network |
RU2699396C1 (ru) * | 2018-11-19 | 2019-09-05 | Общество С Ограниченной Ответственностью "Инвек" | Нейронная сеть для интерпретирования предложений на естественном языке |
US11551093B2 (en) * | 2019-01-22 | 2023-01-10 | Adobe Inc. | Resource-aware training for neural networks |
US11569978B2 (en) | 2019-03-18 | 2023-01-31 | Inait Sa | Encrypting and decrypting information |
US11652603B2 (en) | 2019-03-18 | 2023-05-16 | Inait Sa | Homomorphic encryption |
US11681922B2 (en) | 2019-11-26 | 2023-06-20 | Numenta, Inc. | Performing inference and training using sparse neural network |
US11816553B2 (en) | 2019-12-11 | 2023-11-14 | Inait Sa | Output from a recurrent neural network |
US11797827B2 (en) | 2019-12-11 | 2023-10-24 | Inait Sa | Input into a neural network |
US11651210B2 (en) | 2019-12-11 | 2023-05-16 | Inait Sa | Interpreting and improving the processing results of recurrent neural networks |
US11580401B2 (en) | 2019-12-11 | 2023-02-14 | Inait Sa | Distance metrics and clustering in recurrent neural networks |
US11568267B2 (en) | 2020-03-12 | 2023-01-31 | International Business Machines Corporation | Inducing creativity in an artificial neural network |
CN117688969A (zh) * | 2022-09-02 | 2024-03-12 | 深圳忆海原识科技有限公司 | 端口模型对象组织方法、系统、平台、智能装置及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05165799A (ja) * | 1991-12-16 | 1993-07-02 | G D S:Kk | 空間情報の再配置装置 |
EP1073012A1 (en) * | 1999-07-30 | 2001-01-31 | Eidgenössische Technische Hochschule Zürich | A method and circuit for neuron-like processing of data |
WO2001069410A1 (en) * | 2000-03-16 | 2001-09-20 | Yuan Yan Chen | Apparatus and method for fuzzy analysis of statistical evidence |
US20030163436A1 (en) * | 2002-01-11 | 2003-08-28 | Jost Seifert | Neuronal network for modeling a physical system, and a method for forming such a neuronal network |
Family Cites Families (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0634236B2 (ja) * | 1985-11-02 | 1994-05-02 | 日本放送協会 | 階層型情報処理方法 |
CA1294119C (en) | 1985-11-04 | 1992-01-14 | The Procter & Gamble Company | Absorbent article having an expanding overwrap |
DE3853488T2 (de) | 1987-01-20 | 1995-11-09 | At & T Corp | Assoziatives Rechnernetzwerk. |
US5093899A (en) | 1988-09-17 | 1992-03-03 | Sony Corporation | Neural network with normalized learning constant for high-speed stable learning |
JP2703010B2 (ja) * | 1988-12-23 | 1998-01-26 | 株式会社日立製作所 | ニユーラルネツト信号処理プロセツサ |
JPH0738186B2 (ja) * | 1989-03-13 | 1995-04-26 | シャープ株式会社 | 自己拡張形ニユーラル・ネットワーク |
GB8929146D0 (en) | 1989-12-22 | 1990-02-28 | British Telecomm | Neural networks |
JPH03288258A (ja) | 1990-04-04 | 1991-12-18 | Takayama:Kk | データ処理装置の学習方法 |
JPH03288285A (ja) | 1990-04-04 | 1991-12-18 | Takayama:Kk | データ処理装置の学習方法 |
DE69120854T2 (de) | 1990-04-24 | 1996-11-21 | Yozan Inc | Lernverfahren fÜr Datenverarbeitungssystem |
KR950001601B1 (ko) * | 1990-07-09 | 1995-02-27 | 니폰 덴신 덴와 가부시끼가시야 | 뉴-럴 네트워크 회로 |
US5182794A (en) * | 1990-07-12 | 1993-01-26 | Allen-Bradley Company, Inc. | Recurrent neural networks teaching system |
US5065040A (en) * | 1990-08-03 | 1991-11-12 | Motorola Inc. | Reverse flow neuron |
US5671335A (en) * | 1991-05-23 | 1997-09-23 | Allen-Bradley Company, Inc. | Process optimization using a neural network |
JPH05274288A (ja) * | 1992-03-26 | 1993-10-22 | Sony Corp | 学習機能を有する外部信号処理装置 |
US5438629A (en) | 1992-06-19 | 1995-08-01 | United Parcel Service Of America, Inc. | Method and apparatus for input classification using non-spherical neurons |
DE69328596T2 (de) | 1992-08-11 | 2001-01-04 | Hitachi Europ Ltd | Optimierung eines Neuralnetzwerks mit Vorwärtskopplung |
JP2737583B2 (ja) * | 1992-11-26 | 1998-04-08 | 松下電器産業株式会社 | ニューラルネットワーク回路 |
GB9226192D0 (en) * | 1992-12-16 | 1993-02-10 | Univ London | Neural network architecture |
EP0602717B1 (fr) | 1992-12-16 | 1997-10-01 | Laboratoires D'electronique Philips S.A.S. | Dispositif neuronal et procédé pour le construire |
DE4307026C2 (de) * | 1993-03-05 | 1995-08-03 | Siemens Ag | Speicherorientiertes neuronales Netz |
DE4307027C2 (de) * | 1993-03-05 | 1995-07-20 | Siemens Ag | Speicherorientiertes neuronales Netz |
US5446829A (en) * | 1993-06-24 | 1995-08-29 | The United States Of America As Represented By The Department Of Health And Human Services | Artificial network for temporal sequence processing |
JPH07129535A (ja) * | 1993-11-08 | 1995-05-19 | Mitsubishi Electric Corp | 学習制御方法 |
US5712953A (en) | 1995-06-28 | 1998-01-27 | Electronic Data Systems Corporation | System and method for classification of audio or audio/video signals based on musical content |
US5845271A (en) * | 1996-01-26 | 1998-12-01 | Thaler; Stephen L. | Non-algorithmically implemented artificial neural networks and components thereof |
US6018728A (en) | 1996-02-09 | 2000-01-25 | Sarnoff Corporation | Method and apparatus for training a neural network to learn hierarchical representations of objects and to detect and classify objects with uncertain training data |
JPH09231189A (ja) * | 1996-02-26 | 1997-09-05 | Fuji Xerox Co Ltd | 連想記憶装置および連想記憶方法 |
US6324532B1 (en) | 1997-02-07 | 2001-11-27 | Sarnoff Corporation | Method and apparatus for training a neural network to detect objects in an image |
US6052679A (en) * | 1997-09-11 | 2000-04-18 | International Business Machines Corporation | Artificial neural networks including Boolean-complete compartments |
US6195622B1 (en) | 1998-01-15 | 2001-02-27 | Microsoft Corporation | Methods and apparatus for building attribute transition probability models for use in pre-fetching resources |
US6826556B1 (en) * | 1998-10-02 | 2004-11-30 | Ncr Corporation | Techniques for deploying analytic models in a parallel |
US6442286B1 (en) * | 1998-12-22 | 2002-08-27 | Stmicroelectronics, Inc. | High security flash memory and method |
US6456993B1 (en) | 1999-02-09 | 2002-09-24 | At&T Corp. | Alternating tree-based classifiers and methods for learning them |
US6751343B1 (en) | 1999-09-20 | 2004-06-15 | Ut-Battelle, Llc | Method for indexing and retrieving manufacturing-specific digital imagery based on image content |
US6468069B2 (en) | 1999-10-25 | 2002-10-22 | Jerome H. Lemelson | Automatically optimized combustion control |
US6581049B1 (en) * | 1999-11-08 | 2003-06-17 | Saffron Technology, Inc. | Artificial neurons including power series of weights and counts that represent prior and next association |
NZ503882A (en) | 2000-04-10 | 2002-11-26 | Univ Otago | Artificial intelligence system comprising a neural network with an adaptive component arranged to aggregate rule nodes |
AU2001283397A1 (en) | 2000-08-16 | 2002-02-25 | Research Foundation Of State University Of New York | Neural network device for evolving appropriate connections |
ES2169009B1 (es) | 2000-12-14 | 2003-11-01 | Alma Bioinformatics S L | Algoritmo auto-organizativo de datos de expresion genica |
US6801655B2 (en) * | 2001-05-10 | 2004-10-05 | The United States Of America As Represented By The Secretary Of The Navy | Spatial image processor |
US7095875B2 (en) * | 2001-05-15 | 2006-08-22 | Lockheed Martin Corporation | Method and system for address result arbitration |
EP1415273B1 (en) * | 2001-08-10 | 2013-12-18 | Saffron Technology, Inc. | Artificial neurons including weights that define maximal projections |
AU2002356946A1 (en) * | 2001-11-16 | 2003-06-10 | Joseph Chen | Pausible neural network with supervised and unsupervised cluster analysis |
US7364846B2 (en) * | 2002-10-11 | 2008-04-29 | Molecular Devices Corporation | Gene expression profiling from FFPE samples |
MY138544A (en) * | 2003-06-26 | 2009-06-30 | Neuramatix Sdn Bhd | Neural networks with learning and expression capability |
JP3987013B2 (ja) | 2003-09-01 | 2007-10-03 | 本田技研工業株式会社 | 車両周辺監視装置 |
US20060184462A1 (en) | 2004-12-10 | 2006-08-17 | Hawkins Jeffrey C | Methods, architecture, and apparatus for implementing machine intelligence and hierarchical memory systems |
US7454435B2 (en) * | 2005-05-03 | 2008-11-18 | Microsoft Corporation | Systems and methods for granular changes within a data storage system |
US7739208B2 (en) | 2005-06-06 | 2010-06-15 | Numenta, Inc. | Trainable hierarchical memory system and method |
-
2003
- 2003-06-26 MY MYPI20032400A patent/MY138544A/en unknown
-
2004
- 2004-06-21 EP EP12156406A patent/EP2472443A3/en not_active Withdrawn
- 2004-06-21 EP EP04737088.7A patent/EP1639494B1/en active Active
- 2004-06-21 US US10/560,666 patent/US7412426B2/en active Active
- 2004-06-21 JP JP2006516581A patent/JP4943146B2/ja not_active Expired - Fee Related
- 2004-06-21 SG SG200719019-2A patent/SG153700A1/en unknown
- 2004-06-21 EP EP12156393.6A patent/EP2472441B1/en active Active
- 2004-06-21 EP EP12156467.8A patent/EP2472444B1/en active Active
- 2004-06-21 CN CN2009100015129A patent/CN101470813B/zh active Active
- 2004-06-21 CN CN200480017847A patent/CN100576197C/zh active Active
- 2004-06-21 WO PCT/IB2004/002119 patent/WO2004114145A1/en active Application Filing
- 2004-06-21 EP EP12156468.6A patent/EP2472445B1/en active Active
- 2004-06-21 EP EP12156398.5A patent/EP2472442B1/en active Active
- 2004-06-21 AU AU2004250403A patent/AU2004250403C1/en not_active Ceased
-
2005
- 2005-11-27 IL IL172201A patent/IL172201A/en not_active IP Right Cessation
-
2008
- 2008-07-09 US US12/170,335 patent/US7778946B2/en not_active Expired - Fee Related
- 2008-11-30 IL IL195610A patent/IL195610A/en not_active IP Right Cessation
-
2009
- 2009-06-25 AU AU2009202547A patent/AU2009202547B2/en not_active Ceased
- 2009-11-04 JP JP2009253296A patent/JP5165664B2/ja active Active
-
2011
- 2011-03-25 JP JP2011067438A patent/JP5430597B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05165799A (ja) * | 1991-12-16 | 1993-07-02 | G D S:Kk | 空間情報の再配置装置 |
EP1073012A1 (en) * | 1999-07-30 | 2001-01-31 | Eidgenössische Technische Hochschule Zürich | A method and circuit for neuron-like processing of data |
WO2001069410A1 (en) * | 2000-03-16 | 2001-09-20 | Yuan Yan Chen | Apparatus and method for fuzzy analysis of statistical evidence |
US20030163436A1 (en) * | 2002-01-11 | 2003-08-28 | Jost Seifert | Neuronal network for modeling a physical system, and a method for forming such a neuronal network |
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5165664B2 (ja) | 学習および表現の機能を有するニューラルネットワーク | |
Tienson | Introduction to connectionism | |
Singh et al. | Artificial intelligence, cognitive robotics and nature of consciousness | |
Flusberg et al. | Connectionism and the emergence of mind | |
Oudeyer | The self-organization of combinatoriality and phonotactics in vocalization systems | |
Gong et al. | Computational modeling on language emergence: A coevolution model of lexicon, syntax and social structure | |
Wright et al. | The connectionist simulation of aphasic naming | |
Bouissac | Syntactic iconicity and connectionist models of language and cognition | |
Lisovskaya et al. | Processing of Neural System Information with the Use of Artificial Spiking Neural Networks | |
Routh | Cortical thought theory: a working model of the human Gestalt mechanism | |
Abidi | Neural networks and child language development: a simulation using a modular neural network architecture | |
Nyamapfene | Unsupervised multimodal neural networks | |
Donaldson | Predictive learning and cognitive momentum: a foundation for intelligent, autonomous systems | |
Dorffner | A sub-symbolic connectionist model of basic language functions | |
Hawkins | An Investigation of Adaptive Behavior Towards a Theory of Neocortical Function | |
Molnar | The Replicator Theory of Knowledge: A Restatement and Extension | |
Graesser et al. | and Susan R. Goldman | |
Veale et al. | Semantic memory in a computer: A synthetic model proposal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121105 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121127 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121219 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151228 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5165664 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |