JP2007536610A - 実世界環境において使用するためのモバイル頭脳ベースデバイス - Google Patents

実世界環境において使用するためのモバイル頭脳ベースデバイス Download PDF

Info

Publication number
JP2007536610A
JP2007536610A JP2007508501A JP2007508501A JP2007536610A JP 2007536610 A JP2007536610 A JP 2007536610A JP 2007508501 A JP2007508501 A JP 2007508501A JP 2007508501 A JP2007508501 A JP 2007508501A JP 2007536610 A JP2007536610 A JP 2007536610A
Authority
JP
Japan
Prior art keywords
neural
visual
brain
nerve
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007508501A
Other languages
English (en)
Other versions
JP5175089B2 (ja
Inventor
アニル ケイ セス
ジェフリー エル マッキンストリー
ジェラルド エム エデルマン
ジェフリー エル クリクマー
Original Assignee
ニューロサイエンシーズ リサーチ ファンデーション インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ニューロサイエンシーズ リサーチ ファンデーション インコーポレイテッド filed Critical ニューロサイエンシーズ リサーチ ファンデーション インコーポレイテッド
Publication of JP2007536610A publication Critical patent/JP2007536610A/ja
Application granted granted Critical
Publication of JP5175089B2 publication Critical patent/JP5175089B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Neurology (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Dermatology (AREA)
  • Neurosurgery (AREA)
  • Human Computer Interaction (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Image Analysis (AREA)
  • Eye Examination Apparatus (AREA)

Abstract

【課題】センサ及びエフェクタ(神経的に組織されたモバイル適応デバイス、又は、NOMAD)を装備したモバイルベースを含んでおり、視覚的処理、決定マーキング、報酬、運動反応に対して要求される脳の皮質及び皮質下の類似物である擬似神経システムによって導かれるモバイル頭脳ベースデバイスBBDを提供する。
【解決手段】これらの擬似皮質及び皮質下領域は、再入可能に結合され、各領域は、平均活動レベルとニューロングループの活動の関連タイミングとの両方を表現する神経ユニットを含む。この頭脳ベースデバイスBBDは、共通する視覚的特徴を有する複数のオブジェクトの中から区別することを学習し、「目標」物体に、本質的に好ましい聴覚的な合図を連合させる。再入可能な神経構造によって抑制され、行動とシナプシス可塑性とによって変調されたこれらの回路は、結果として物体の識別に成功する。
【選択図】図2

Description

(優先権主張)
米国特許仮出願番号60/562,376、発明名称「実世界環境において使用するためのモバイル頭脳ベースデバイス」、発明者、出願日2004年4月15日(代理人管理番号NSRF-01000US0)、及び、米国特許出願番号11/___,___、発明名称「実世界環境において使用するためのモバイル頭脳ベースデバイス」、発明者、出願日2005年4月13日(代理人管理番号NSRF-01000US1)。
(著作権通告)
本特許明細書の開示部分は、著作権保護を受ける資料を含む。著作権者は、それが特許商標庁のファイル又は記録において発行される限りは、特許明細書又は特許開示の何れによる複製転載に関して異議はないが、それ以外については、如何なるものであれ全著作権を所有する。
本発明は、実世界環境におけるデバイスの行動を導くための、擬似的な神経システムを有する頭脳ベースデバイス分野に関する。
頭脳ベースデバイスは、受信した情報に対する感知システムと、そのデバイスが動き回ることを可能にするエフェクタと、感知システムからの入力に反応してエフェクタの動きを制御し、実世界環境における頭脳ベースデバイスの行動を導く擬似神経システムとを有するデバイスである。この感知システムは、そのデバイスが移動する実世界環境からの映像情報及び音声情報を受信する映像センサ及び音声センサを含むことができる。この擬似神経システムは、頭脳ベースデバイスに入力する映像情報及び聴覚情報を受信及び処理し、この環境におけるデバイスの行動を制御するためのエフェクタに対する命令を出力するコンピュータベースシステムとして実装することができる。
この擬似神経システムは、コンピュータベースシステムに実装されているが、一組の精密な実効命令を典型的に追跡する、或いは、コンピュータ操作を実行するプログラムされたコンピュータではなく、人間の頭脳をエミュレートする。つまり、この頭脳は、コンピュータではなく、その構造においてコンピュータ上よりむしろ神経生物学的な原理に追従する。この頭脳は、かかる一組の精密な命令を追跡する、又は、プログラムされたコンピュータの方法において計算されるアイデアから構成されるものとは考えられていない、特別な特徴又は組織、そして機能を有している。頭脳が受信する信号とコンピュータが受信するそれとを比較すると、頭脳に特有の特徴がいくつか見られる。例えば、プログラムされたコンピュータに対して提供される曖昧さのない一連の信号を蓄積するデータ記憶媒体のように、実世界が頭脳に対して与えられることはない。にもかかわらず、この頭脳により、人間(及び動物)は、その環境を感知し、多種多様な可変信号の中からパターンを分類し、動作を開始する。視界、音等についての異なる信号の知覚分類を実行し、事前配置されたコードなしにこれらを明りょうな部類に配分するためのこの神経システムの能力は、人工知能(AI)原理に基づくか、ニューラルネットワーク構造に基づくかに関わらず、現行のコンピュータのもとでは特別で不調和なものとなっている。
頭脳の視覚システムは、異なる視覚的特徴に特化された多様な皮質領域を含む。例えば、ある領域は物体の色に反応し、分離された他の領域はその物体の形状に反応し、一方で、他の領域はさらにその物体の何れかの動作に反応する。例えば、ともに青い空を背景に移動する灰色の雲からの赤い飛行機といったように、この頭脳によって、人は景色において見ることができ、区別することができる。さらに、色と形状と動作とに対応して色と形状と動作とに反応する頭脳の単一領域は存在しないので、我々は単一物体を区別してみることができ(例えば、赤い飛行機)、これを景色における他の物体(例えば、雲及び空)から区別することができる。
頭脳において、かかる単一の上位制御領域が存在しないという事実は、「結合問題」として知られる問題を提示する。どのようにして、個々の物体に属する特徴を連合するために、頭脳のこれら特徴的で分離された領域をそれらの活動に対応付け、異なる物体から区別すればよいのであろうか?それは、我々の実世界環境において、異なる物体を連合及び区別して我々に動き回ることを可能にする、この頭脳の能力である。それゆえ、実世界の豊かな環境においてデバイスの行動を制御することができる擬似神経システムを有するモバイル頭脳ベースデバイスには、多くの利点及び効用がある。
「結合問題」を解決するために提案される仕組みは、一般的に、1又は2の部類に収まる。すなわち、(i)頭脳の「より高い」注目の仕組みの影響を通じての結合、及び(ii)頭脳において動的に形成されたニューロングループの「発生(発火)」の選択的同期、である。(i)において、頭脳は、その頭頂又は前頭領域を通して、実行メカニズムによって物体を「結合」すると信じられており、例えば、青い空の背景に対する赤い飛行機又は灰色の雲といったような、空間において単一の位置に現れる視覚的特徴を結合する注目のスポットライトである。(ii)において、頭脳は、ニューロンの発生(発火)の選択的同期によってリンクされるニューロンのグループを通して、自動的、動的及び事前に配慮された処理において物体を「結合」するものと信じられている。これら同期された神経グループは、頭脳の中で、知覚カテゴリに対応する活動のグローバルパターン又は回路を形成する。これにより、我々は見ることができ、例えば、単一の物体としての赤い飛行中の飛行機が、灰色の動いている雲といった他の物体から区別される。
コンピュータベースの視覚結合の計算モデルは、擬似神経システムを有する物理的なモバイル頭脳ベースデバイスとともに知られており、さらに、いずれも、コンピュータモデル又は物理的な頭脳ベースデバイスの擬似神経システムにおいて緊急の回路を与え、実世界環境、特に、景色における多くの中から1つの物体に向かう選択的な行動が要求される環境における、豊富で多様な行動を伴ったデバイスの提供に寄与する。例えば、モバイル頭脳ベースデバイスを環境内において動き回らせることが望ましく、かつ、オンボードカメラを介してその物体の画像を取得し、オンボードグリッパーを介してその物体を選択することができるように、多くの中で1つの物体へ向かう選択的な行動を行うことが望ましい。
1つの先行する計算コンピュータモデルは、頭脳における視覚システムの9つの皮質領域に類似した9つの神経領域を表現することにより、その神経システムをシミュレートした。それは、また、神経システムの「報酬」及び動作システムをもシミュレートした。そのモデルは、9つの異なった皮質領域間に「再入可能な結合」又は回路を有しており、それらは皮質領域が互いに相互作用することを可能にする。この計算機モデルは結合結果に対する再入可能回路の能力を示したが、しかし、この計算機モデルはいくつかの制限を有していた。モデル化された神経システムの中の刺激は、制限された予め定められた擬似物体形状の組からもたらされ、これらは同一のスケールであり、実世界環境において見出されるものと反対である。さらに、結果としてモデル化した行動は、実世界において行動する有機体によって経験された、豊かで雑音のある環境においては出現しないものであった。この計算機モデルについてのより詳細な記述は、Tononi及びEdelmanによる論文「再入及び複数の皮質領域統合の課題:視覚システムにおけるダイナミック統合のシミュレーション」(大脳皮質,1992年7/8月)に詳しい。
先行する物理的な、擬似的神経システムを有するモバイル頭脳ベースデバイスは、その環境を探検し、この経験を通して、適応的な行動を発達させることを学習する。かかる先行するモバイル頭脳ベースデバイスは、コンピュータシステム上に実装された擬似神経システムによって導かれるこの神経システムのシミュレーションは、脊椎神経システムの解剖学及び生理学に基づくものであったが、何れの擬似神経システムをもってしても、多くは頭脳において見出されるものよりもニューロン数がずっと少なく、アーキテクチャも簡単なものであった。この物理的な、モバイル頭脳ベースデバイスによって、神経システムは、皮質及び皮質下の頭脳領域に類似する6つの主要な神経領域から構成されるものであった。これら6つの主要な領域は、聴覚システム、視覚システム、味覚システム、行動を誘発することができる運動システム、視覚的追跡システム、そして、評価システムを含むものであった。このモバイル頭脳ベースデバイスの詳細な記述は、Krichmar及びEdelmanによる論文「機械心理学:頭脳ベースデバイスにおける自律行動、知覚分類、及び条件付け」(大脳皮質,2002年8月)に詳しい。この頭脳ベースデバイスは、実世界環境において作動するものではあったが、他の多くのものの中で、再入可能な結合を実装していないので、視覚的に導かれる行動と実世界環境における物体識別とに従事する能力が制限されていた。
本発明は、実世界環境における豊富な探求及び選択的な行動においてデバイスを導くための擬似神経システムを有する、物理的なモバイル頭脳ベースデバイス(「BBD」)である。このデバイスの擬似神経システムは、視覚追跡(神経領域C)と評価システム(領域S)を有する神経領域とに影響を与え、神経領域V1、V2、V4、そしてITとして知られる頭脳の視覚システムの下面の流れに類似する、擬似神経領域を含む。これらの神経領域は、互いの内部及び間において再入可能な結合を有し、運動活動におけるバイアスを上昇させ、風景内の視覚的物体識別を可能にするモバイルデバイスにおいて、順番に行動反応を喚起する。
各神経領域は、多くの神経ユニットからなる。そして、神経活動の相対的なタイミングを表現するために、各神経領域における神経ユニットは、可変の発生(発火)率及び可変の位相によって記述され、ここでは、類似の位相は同期発生(発火)をもたらす。それゆえ、本発明における結合問題は、再入可能な結合及び同期神経発生(発火)の原則による入力に基づいて解決される。
この物理的な、本発明のモバイルデバイスは、条件付け又は訓練段階において実世界の中を移動及び相互作用するので、その環境において如何なる物体が存在するかを学習する。つまり、物体は、シミュレーションにおいて予め定義されたデータとして与えられない。従って、本発明の頭脳ベースデバイスは、所定の環境において、例えば、緑のひし形、花はどれか、どれが壁か等の、どれが特定の物体かを学習する。さらに、この環境における移動及び相互作用を通じたこの学習の結果、頭脳ベースデバイスは不変の物体認識を有することとなる。これは、訓練段階中に、例えば、いったん、何が緑のひし形かを物体として学習すれば、テスト段階において、その物体が部屋を隔ててデバイスの向かい側にある場合、デバイスの真正面にある場合、デバイスの左に離れている場合、装置の右に離れている場合等であっても、その実世界環境を動き回るデバイスとして、その物体を認識するであろうということを意味する。
本発明の側面は、同じ参照は同様の要素を示す添付図の図面のおいて、限定としてではなく、例示として説明されている。本開示における「ある」、「一つの」、そして「多様な」実施形態への参照は、必ずしも同一の実施形態に必要なものではなく、かかる参照は少なくとも一つを意味する。以下の記述において、本発明の記述を通して与えられるよう、多くの具体的詳細が記載されている。しかしながら、当業者であれば、これらの具体的な詳細なしでも本発明が実施可能であることは明らかである。他の事例において、既知の特徴については、本発明を不明確にしないために、詳細には記載していない。
図1に、自身の環境内を探検し、それを経験しながら適応性のある行動を発達させる、物理的に例示されたモバイル神経組織モバイル適応デバイス(NOMAD)10を含む、本発明の頭脳ベースデバイス(BBD)の描写図を示す。この頭脳ベースデバイスBBDは、また、その実世界環境においてNOMAD10を導くための、擬似神経システム12(図2)も含んでいる。一実施形態において、この擬似神経システム12は、さらに記述するように、NOMAD10から離れたコンピュータワークステーション(図13参照)のクラスタ上を走行できる。この環境において、NOMAD10及びコンピュータワークステーションは、無線通信を介して互いに通信し、それゆえ、NOMAD10は、つなぎ無しに探検が可能となっている。
NOMAD10は、擬似神経システム12を使用して、その環境について学習することにより自身の行動を発達もしくは適応させる。NOMAD10が、その環境内を自律的に移動するとき、例えば同じ色などの視覚的特徴を共有する複数の物体に接近し、見ることができ、そして、例えば赤い四角対赤い三角といった視覚的な形状を識別する。NOMAD10は、その視野内の風景の、赤い四角及び緑のひし形といった、正解以外の複数の選択肢又は非目標物体から、例えば赤いひし形などの1つの目標物体を選択するための経験学習を通して、条件付けされる。NOMAD10は、可聴音に反応して目標物体へ向かって自分自身で順応することによって、その環境内で移動している間にこの行動上の選択を学習する。
NOMAD10は、視覚のためのCCDカメラ16と、カメラ16の両側のマイク18、20とを有しており、これらは、移動のためのエフェクタ又はホイール22と同様に、擬似神経システムへの視覚的及び聴覚的知覚入力を与えることができる。NOMAD10の前面には、移動する物体表面の反射性の相違を検知することによる障害回避のための、そして、その環境内におけるNOMAD10の反射的な回転を引き起こすための赤外線(IR)センサ24も備えている。NOMAD10は、また、擬似神経システム12を介してニューラルシミュレーションを実行するコンピュータワークステーションに状態、赤外線センサ情報、聴覚情報を送信するための、そして、エフェクタ22を制御するために擬似神経システム12から運動コマンドを受信するための無線モデムも含む。カメラ16からの映像出力は、RF送信を介してコンピュータワークステーションへ送信することができる。NOMAD10の全行動の活動は、赤外線反射回転を除いて、擬似神経システム12から受信される信号によって引き起こされる。
図2は、その環境においてNOMAD10の行動を導く擬似神経システム12の、領域的及び機能的神経構造の概念図である。擬似神経システム12は、哺乳類の神経システムの解剖学及び生理学に基づいてモデル化されているが、認識できるように、ニューロン数はずっと少なく、アーキテクチャの複雑性もずっと低い。擬似神経システム12は、人間の頭脳の類似する皮質及び皮質下領域に従ってラベル付けされた、いくつかの神経領域を含む。このように、図2に、その活動はNOMAD10の追跡を制御する、それぞれ、V1V2V4ITA−左マイク−左A−右マイク−右、そして、としてラベル付けされた神経領域を示す。V1V2等の各神経領域は、異なる類型の神経ユニットを含み、それぞれは、ニューロンの局所的な個体群を表現する。図2に示された各省略記号(「追跡」を除く)は、異なる神経領域を表しており、かかる領域のそれぞれは、多くの神経ユニットを有している。対応する哺乳類の神経システムの領域から、モデル化された若しくは擬似化された神経領域を識別するために、擬似的な領域は、例えば、ITと罫線を引いて表すこととする。
図2の神経構造は、また、擬似神経システム12の全体にわたる、図式的な種々の投射を示す。投射は、例えば、神経領域V1から神経領域V2への投射P1などのように、ある神経領域から別の神経領域への「フィードフォワード」である。投射は、また、例えば、神経領域ITから神経領域V4への再入可能投射P2、及び、神経領域V4から神経領域V2への再入可能投射P4などのように、神経領域間で「再入可能」でもある。「X」の印がある再入可能投射は、さらに記述するような「障害」経験中は、擬似神経システム12から取り除かれている。さらに、投射は、(1)「興奮性電圧独立」、(2)「興奮性電圧従属」、(3)「可塑性」、(4)「抑制」、(5)「評価従属」といった、図2における凡例によって示された属性を有している。
図2に示された、擬似神経システム12は、視覚システム、追跡システム、聴覚システム、そして、評価システムの4システムからなる。
[図2−視覚システム− 神経領域V1V2V4IT
視覚システムは、霊長類の後頭側頭もしくは下面の皮質経路に基づいてモデル化されており、V1V2V4ITの神経領域を含み、連続した領域におけるこれらのニューロンは、下側頭連合野における、ほぼ全体の視覚野をカバーする受容野までの、累進的に大きな受容野を有している。NOMAD10のCCDカメラ16からの視覚イメージは、色及びエッジについてフィルタがかけられ、このフィルタされた出力は、V1領域におけるニューラル活動に直接影響を与える。V1は、選択的に、緑(V1−緑)、赤(V1−赤)、水平ラインセグメント(V1−水平)、垂直ラインセグメント(V1−垂直)、45度ライン(V1−対角線−右)、そして、135度ライン(V1−対角線−左)に反応する神経ユニットをそれぞれ有する、サブ領域(不図示)に分割される。この視覚システムは、この視覚システム内及び視覚システムと他の皮質領域との間の高いレベルの相互作用を解析するための、計算機上の取り扱いやすい基盤を与える。
神経領域V1のサブ領域は、対応する神経領域V2のサブ領域に地勢図的に投射する。領域V2の神経ユニットの受容野は、狭く、CCDカメラ16のイメージからの画素に密接に対応する。神経領域V2は、そのサブ領域の中及び間に、興奮性及び抑制性の両方の再入可能結合を有している。各V2サブ領域は、対応するV4サブ領域に地勢図的に、しかし、広域的に投射するので、神経領域V4の受容野は、神経領域V2のそれよりも大きくなる。神経領域V4サブ領域は、非地勢図的な再入可能結合を伴って、対応する神経領域V2サブ領域に折り返し投射する。領域V4のサブ領域内及び間の再入可能結合は、V2領域のそれに類似している。V4は、順番に、非地勢的に神経領域ITに投射するので、神経領域ITにおける各神経ユニットは、3つの異なるV4サブ領域からランダムに選択された、3つのV4神経ユニットからの入力を受信する。このように、ITにおける神経ユニットは、視覚的入力の組み合わせに反応するが、所定のIT神経ユニットへのシナプシス入力のレベルは、かなり均一であり、このために、個々のIT神経ユニットの活動が、全体的な活動パターンを支配できなくなる。IT神経ユニットは、可塑性結合を通じて他のIT神経ユニットへ投射し、非地勢的な再入可能結合を通して神経領域V4へ折り返し投射する。
[図2−追跡システム− 神経領域
本追跡システムにより、NOMAD10は、聴覚及び視覚刺激に対して適応することができる。神経領域(上丘に類似する)の活動は、NOMAD10がそのカメラ凝視を向けるところを命令する。NOMAD10における追跡は、領域における神経ユニットの活動のベクトル和に基づいて、ホイール22への信号によって実現される。領域における各神経ユニットは、その好適な指示に一致する受容野を有しており、この領域は、もし活動が領域の左側上で優位を占めるならば左へ曲がることを誘発する信号がNOMAD10のホイール22に対して出されるような、地勢図的な配置を有している。聴覚の神経領域(A−左、及び、A−右)は、NOMAD10を音源に順応させる領域のそれぞれ同側に対して、強い興奮性の投射を有する。神経領域V4は、領域へ地勢的に投射し、その活動により、NOMAD10は、視覚物体(例えば、赤い三角)上への凝視を集中させることができる。神経領域IT及び視覚システムは、共に領域へ投射し、活動のバイアスを生成することによってITおよびITの経路における可塑性結合が目標選択を促進し、突出した知覚分野をもたらす(後述の評価システムを参照)。以下で述べるように、NOMAD10は、バイアスの欠如のために、条件付け又は訓練段階に先行して環境内における2つの物体の間に優先的にその凝視を向ける(例えば、赤い三角及び赤い四角)。適切な視覚物体(例えば、赤い三角)を学習した後は、可塑的結合の強度を変えて、選択された物体の位置に対応する領域のこれらの部分における活動を、より活発化させることとなる。
[図2−聴覚システム− 神経領域マイク−左マイク−右A−左A−右
本システムは、マイクロホン16、18からの入力を、擬似的な神経ユニット活動に変換する。神経領域マイク−左及びマイク−右は、それぞれ、対応するマイクロホン16、18が、所定の周波数帯域内の十分に増幅された音を検知する度に活発になる。マイク−左マイク−右は、領域A−左A−右における神経ユニットに投射する。一方からの音は、NOMAD10をその音源に順応させる領域の同側上の活動を順番に生成する、その聴覚システムの同側の活動をもたらす。
[図2−評価システム− 神経領域
擬似的な評価システムにおける活動は、顕著な知覚事象の発生を合図し、この活動は、IT及びITの経路における結合の強さの調節に寄与する。はじめに、以下に述べる学習段階において、神経領域は、聴覚システムによって検知された音によって活発にされる(神経システム12のA−左、及び、A−右を参照)。顕著な事象によって引き起こされる点、擬似神経システムの大きな領域に影響を及ぼす点(シナプシス可塑性の節で後述する)、そして、いくつかのサイクルを持続させる点で、領域における活動は、上昇するニューロン調節システムのそれに類似している。加えて、追跡領域へ投射によって、領域は、実世界環境におけるNOMAD10の行動に直接影響を及ぼす。
図2に示した各神経領域V1V2内の神経ユニットの、所定のパラメータ値の詳細が、後述する表1に与えられている。神経領域V1V2等の神経ユニットの解剖学的投射及び結合形式の詳細が、後述の表2に与えられている。知られているように、神経ユニットは、シナプス前又は後と呼ばれる(シナプス、並びに、シナプシス前及び後ニューロンの記載については、「意識の世界」Edelman及びTonori著、2000年ベーシックブックス、図4.3参照)。後述の実験で使用される擬似神経システム12は、28の神経領域V1V2等と、53450の神経ユニットと、約170万のシナプシス結合とを含んでいる。
[神経ユニット− 一般]
一実施形態において、擬似神経システム12の神経領域V1V2等の中の神経ユニットは、平均発生(発火)率モデルによってシミュレートされる。各神経ユニットの状態は、平均発生(発火)率変数(σ)及び位相変数(P)の両方によって決定される。各神経ユニットの平均発生(発火)率変数は、約100ミリ秒の時間間隔における、概ね100ニューロンのグループの平均活動又は発生(発火)率に対応する。発生(発火)活動の相対的タイミングを特定する位相変数は、実時間における個々のニューロンのスパイク活動のモデリングに関連するコンピュータ上のコストを背負うことなく、時間的な特異性を与える(下記の神経ユニット活動及び位相を参照)。
[シナプシス結合− 一般]
一実施形態において、神経ユニット間のシナプシス結合は、所定の神経領域の中(例えばV1又は)と、神経領域の間(例えば、V2V4又はV4)との両方で、図2の凡例によって示されるように、電圧独立又は電圧依存の何れか、位相独立又は位相依存の何れか、そして、可塑性又は非可塑性の何れかになるになるようにセットされる。電圧独立結合は、ニューロンのシナプシス後状態にも関わらず、シナプシス入力をシナプシス後ニューロンへ与える。電圧依存結合は、シナプシス後減極を活発にさせるよう要求するレセプタタイプ(例えば、NMDAレセプタ)の寄与を表す。換言すると、シナプシス前ニューロンは、シナプシス後ニューロンへのシナプスを通って自身の神経突起に沿って信号を送信する。このシナプシス後ニューロンは、この信号を受信し、これを他のシナプシス前ニューロンから受信している他の信号とともに統合する。
電圧独立結合とは、もしシナプシス前ニューロンが高い率で発生(発火)しているならば、シナプスを介して結合しているシナプシス後ニューロンが高い率で発生(発火)するというものである。
電圧依存結合は、別のものである。もし、シナプシス前ニューロン信号を受信したとき、シナプシス後ニューロンが既にある率で発生(発火)しているとするならば、この電圧依存結合によって、シナプシス後ニューロンは、もっと発生(発火)する。シナプシス後ニューロンはアクティブ、つまり、発生(発火)しているので、このニューロンは、ある閾値レベルにある。それゆえ、シナプシス前結合は、シナプシス後ニューロンが同等以上に発生(発火)するように調節するのである。この電圧依存結合は、シナプシス前ニューロンがどんなに活動していても、後者が閾値を上回らない場合には、シナプシス後ニューロンに影響を与えることはない。つまり、シナプシス後ニューロンは、電圧依存シナプシス結合によって反応又は調節されるために、いくつかの所定の活動の閾値を持つ必要がある。
図2の擬似神経システム12において、全てのニューラル内部領域興奮性結合、及び、全てのニューラル間領域再入可能な興奮性結合は、電圧依存である(図2及び表2を参照)。これらの電圧依存結合は、上述したように、神経ダイナミクスにおいて調節的な役割を果たすこととなる。
位相独立シナプシス結合は、その活動にだけ影響を与えるのに対し、位相依存シナプシス結合は、両方の活動、つまり、発火率とシナプシス後神経ユニットの位相とに影響を与える。擬似神経システム12における全てのシナプシス経路は、運動出力(表2:A−左A−右参照)又は知覚入力(表2:マイク−左マイク−右A−左A−右A−左A−右V1V2)に含まれるものを除き、位相依存である。これらのインタフェースでの信号は、規模によってのみ定義されるからである。可塑性結合は、後述するように、評価独立か評価依存かの何れかである。
[シンプルネットワークモデルにおける神経同時性]
図3A−3Eに、神経ユニット間の再入可能結合が、如何にして上で示したような位相パラメータを伴った平均発火率モデルにおいて神経同時性へ導かれるかを示し、それによって、上述した「結合問題」の解決を容易にする。図3Aに、3つの神経ユニット(n1−n3)からなる簡単なネットワークモデルを示す。ユニットn1及びn2は、それぞれ、絶え間ない位相独立入力(実線の入力矢印)を受信し、個々の電圧依存結合を介して第3の神経ユニットn3(実線の入力矢印)へ投射する。再入可能な電圧依存結合(点線矢印で図示)を介して、ユニットn1及びn2は、互いに投射し合い、そして、ユニットn3は、ユニットn1及びn2の両方へ折り返し投射する。
図3Bは、位相対サイクルのグラフであり、この簡単なモデルにおける全ての神経ユニットn1−n3は、10シミュレーションサイクル内で同期するということを示している。対照的に、フィードフォワード投射だけが残るよう(図3Aの残りの実線)、もし再入可能な結合が取り除かれるならば(図3Aの点線矢印が「障害」を受けている)、図3Cのグラフによって示すように、同時性は実現されない。明りょうのために、図3B−3Cには、最初の15シミュレーションサイクルしか示さないが、これらのサイクルは、10000サイクルといった長期間を通して、NOMAD10の実世界におけるネットワークの行動の代表的なものである。
図3D及び3Eは、シナプシス後位相が各神経ユニットに対して選択される様子を示す、確率分布である。再入可能結合完全(図3D)では、全てのニューロンn1−n3に対する分布は、同位相でピークになる。再入可能結合不在では、つまり、再入なし(「障害のある」ネットワーク、図3E)では、神経ユニットn1及びn2に対する確率分布は、それらの位相独立入力によって平坦になっており、ユニットn3に対する分布は、時間とともにランダムに変化する。
結合の強さのシナプシス属性がネットワークの行動とって重要であるかどうかを調査するために、上記分析が、異なる乱数の根を使用して何回か繰り返され、ネットワークは、全ての重みが平均値(1.45)に設定されて比較される。10000サイクル後は、図3B−3Eに示したような、質的に同一の結果が生じる。結合可塑性の特性の影響を調査するために、ネットワークに対して上記が繰り返され、この中で、評価独立の可塑性が、神経ユニットn1n3、及び、n2n3(実線矢印)に対するフィードフォワード投射に対して作動可能(enable)にされる。前の通り、ネットワークは、全ての重みを平均値(1.45)にセットされたネットワークと同様に、ランダムに選択された重みを伴って分析される。これらの場合の両方において、完全な再入可能ネットワークにおける同時性と障害のあるネットワークにおける非同時性とが発生する。さらに、シナプシス前及び後神経ユニットは、活動及び位相において相関し、その完全なネットワークにおける可塑性結合は、1000サイクルを通じて100%近い強度にまで増大されるのである。しかしながら、障害のあるネットワークにおいては、シナプシス前及び後ユニットは互いに同相ではなく、これらの結合は、上記と同じ期間を通じて初期値の約10%にまで落ち込んでしまう。
上記は、「結合問題」に対する、再入可能結合の重要性を示している。つまり、図3Aのこの縮小モデルからの結果は、再入可能結合の存在は神経領域の間の同時性活動を助長するということ、この同時性は特定又は異なる結合の強さには依存しないということ、そして、再入の欠如はシナプシス可塑性によっては補償されないということを示している。本発明の擬似神経システム12は、図3Aのこの縮小モデルとは異なる3つの大きな点を有している。システム12は、概略的には図2、そして、詳細には以下の表1及び表2に示した脊椎動物の視覚皮質に基づいた、大規模な再入可能な神経構造を有している。システム12は、評価独立及び評価依存のシナプシス可塑性を含む。そして、システム12により、NOMAD10が実世界環境において自律的に行動することが可能となる。
[神経ユニット活動及び位相− 詳細]
多様な実施形態において、各神経ユニットの平均発火率(s)は、0(静止中)から1(最大発火)までの連続的な範囲に及ぶ。位相(p)は、0から2πの範囲の角度によって神経ユニットの活動の関連タイミングを表現する、32の離散バイナリに分割される。神経ユニットの状態は、その現在の状態と、電圧独立、電圧依存からの寄与と、位相独立シナプシス結合との関数として更新される。ユニットjから神経ユニットiへの電圧独立入力cは、
Figure 2007536610
ここで、sj(t)は、ユニットjの活動を示し、cijは、ユニットjからユニットiへの結合の強さを示す。ユニットjへの電圧独立のシナプシス後影響は、この値を全ての位相上のコサイン−チューニング曲線へたたみ込むことにより計算され、
Figure 2007536610
ここで、Mは、異なる、解剖学的に定義された結合タイプの数である(表2参照)。Nlは、神経ユニットiへ投射するタイプMの結合数であり、Pj(t)は、時間tにおける神経ユニットjの位相であり、twはチューニング幅であり、これは一実施形態においては、このチューニング曲線が比較的鋭くなるように10に設定される(〜5位相バイナリ)。
神経ユニットiへのユニットjからの電圧依存の入力は、
Figure 2007536610
ここで、σi νdepは、電圧依存結合が影響を与えない、以下のシナプシス後活動に対する閾値である(表1参照)。
ユニットiへの、電圧依存シナプシス後影響は、次式によって与えられる。
Figure 2007536610
ユニットiへのユニットjからの位相独立活性化は、
Figure 2007536610
ユニットiへの、位相独立シナプシス後影響は、位相バイナリの数によって分割された(32)、全位相独立入力に基づいた一様分布である。
Figure 2007536610
新しい位相pi(t+1)及び活動si(t+1)は、神経ユニットiへのシナプシス後影響を線形的に合計することによって生成された分布に基づいて選択される(図4A−Eを参照)。
Figure 2007536610
神経ユニットの位相閾値σi phaseは、分布POSTiから減じられ、新しい位相pi(t+1)は、結果の分布に比例する確率によって算出される(図4E)。もし、結果の分布がゼロより低い領域を有しているならば(つまり、位相閾値を上回る入力がない)、新しい位相pi(t+1)は、ランダムに選択される。神経ユニットに対する新しい活動は、新たに選択された位相での活動レベルであり、以下の活動関数に従う。
Figure 2007536610
ここで、ωは、1つのサイクルからその次へのユニット活動の持続性を決定し、giはスケーリング因子であり、そして、σi fireはユニット固有の発火閾値である。
神経ユニットに対する固有のパラメータ値は表1に与えられ、シナプシス結合は表2に明記されている。
(表1)
(神経ユニットパラメータ)
Figure 2007536610
表1に示したように、領域V1は、入力神経領域であり、その活動は、図1のカメラ16のイメージに基づいてセットされる。神経領域V1V2、そして、V4は、色(例えば、赤及び緑)及び進路方向(例えば、0、45、90及び135度)に対する選択的な神経ユニットをそれぞれ伴った6つのサブ領域を有している。神経領域マイク−左、及び、マイク−右は、入力神経領域であり、それらの活動はマイクロホン18、20からの入力に基づいてセットされる(図1)。
表1は、また、各神経領域又はサブ領域の神経ユニット数も示している(「Size」欄)。神経領域V1マイク−左マイク−右を除く、各領域における神経ユニットは、特定の発火閾値(σ−fire)と、位相閾値(σ−phase)とを有し、電圧依存結合を上回る閾値は、作用(σ−vdep)と持続パラメータ(ω)とスケーリング因子(g)とを有しうる。表1のアスタリスクは、障害を起こす再入可能結合を伴った擬似神経システム12(図2)に対して1.0にセットされた値をマークしている(表2を参照)。
(表2)
(解剖学上の投射及び結合タイプの属性)
Figure 2007536610
表2に、擬似神経システム12の解剖学的な投射及び結合タイプの属性を示す。シナプシス前神経ユニットは、所定の確率(P)と所定の投射形状(Arbor)とを伴ったシナプシス後神経ユニットに結合する。この樹枝状部形状は、高さ及び幅(h×w)を伴った矩形“[]”、内部及び外部半径(r1,r2)によって抑制された形状を伴ったドーナツ状の“Θ”、シナプシス後領域の左(右)側への投射のみ行うシナプシス前神経ユニットを伴った、Left−only(right−only)、或いは、シナプシス前及びシナプシス後神経ユニットの何れの対も結合される確率を与えられているところの非地勢的なもの(“non−topo”)、をとりうる。初期結合強度であるCij(O)は、最小値及び最大値(min,max)によって所定の範囲内でランダムにセットされる。Cij(O)に対する負の値は、抑制結合を示す。“intra”の印がある結合は、視覚サブ領域内の結合を表し、“inter”の印がある結合は、視覚サブ領域間の結合を表す。抑制“inter”投射は、視覚サブ領域応答側を、形状のみ又は色のみに結合し(例えば、V4−赤V4−緑V4−水平V4−垂直)、興奮性“inter”投射は、形状サブ領域を、色サブ領域(例えば、V4−赤V4−垂直)に結合する。#の印がある投射は、評価依存である。結合タイプは、位相独立/電圧独立(PI)、位相依存/電圧独立(VI)、或いは、位相依存/電圧依存(VD)でありうる。η、θ1、θ2、k1、及びk2に対する非ゼロ値は、可塑性の結合を意味する。V4からITへの結合は、領域ITにおいて所定の神経ユニットが3つの異なるV4サブ領域からランダムに選択された3つの神経ユニットに結合された、という点で特別である。“X”の印がある投射は、障害実験の間は取り除かれていた。
神経ユニットのこのモデルにおいて、シナプシス後位相は、最も強い活動シナプシス前入力の位相に相関する傾向がある。この神経ユニットモデルは、シンプルネットワーク(上記図3Aのシンプルネットワークモデルにおける神経同期を参照)における、そして、完全な擬似的神経システム(図2)における、同期的な活動神経回路の発生を促進し、ここでは、かかる発生は、再入可能な結合、可塑性、そして行動によって強要された追加の抑制が含まれる。
(シナプシス可塑性)
シナプシス強度は、シナプシス前及び後神経ユニットの位相及び活動に依存するシナプシス規則による変更の影響を受ける。可塑性のシナプシス結合は、評価独立(図2のITITを参照)又は評価従属(図2のITITを参照)の何れかである。これら規則は、両方とも修正されたBCM学習規則に基づいており、ここでは、閾値は機能低下の領域を定義し、増強は、シナプシス前及びシナプシス後神経ユニット間の位相相違の関数である(図2の図内挿入図を参照)。図2に示した図式的な挿入図は、既知のBCM規則の形式を示し、ここでは、シナプシス変化(ΔCij)は、シナプシス後及び前神経ユニット(ΔP)と2つの閾値(Θ1及びΘ2)との間の位相相違の関数である。
強い相関をもった発火位相を伴った神経ユニット間のシナプスは増強され、弱い相関をもった位相を伴った神経ユニット間のシナプスは弱められ、その変化の大きさは、シナプシス前及び後活動によって同様に決定される。この学習規則は、ジッターのある(jittered)スパイク列に適用される、スパイク時間依存可塑性規則と類似し、ここでは、増強の領域は高いピークと薄い裾(thin tail)とを有し、低下の領域は比較的低いピークと太い裾(fat tail)とを有する。
ijにおける評価独立のシナプシス変化は、次式で与えられる。
Figure 2007536610
ここで、si(t)及びsj(t)は、それぞれ、シナプシス後及び前ユニットの活動であり、ηは、固定の学習率であり、
Figure 2007536610
である。
ここで、pi(t)及びpj(t)は、シナプシス後及び前ユニットの位相である(0.0≦Δp≦1.0)。1.0に近いΔpの値は、シナプシス前及び後ユニットが類似の位相を有していることを示し、0.0に近いΔpの値は、シナプシス前及び後ユニットが同調しないということを示している。関数BCMは、区分的線形関数として実装され、入力としてΔpを取得し、2つの閾値(θ1,θ2ラジアン)と方向(k1,k2)と飽和パラメータρとによって決定される(終始、ρ=6)。
Figure 2007536610
良好なスケールシナプシス調合に対する具体的なパラメータ設定が、表2に与えられている。
評価依存シナプシス可塑性に対する規則は、評価システム(神経領域)の活動及び位相に基づいて、追加の期間がシナプシス強度変化を調整するという点で、評価独立規則とは異なる。評価システムと同調する、神経ユニット上のシナプシス結合終端は強化され、評価システムと同調しない、ユニット上の結合終端は弱められる。
評価依存のシナプシス可塑性に対するシナプシス変化は、次式で与えられる。
Figure 2007536610
ここで、V(t)は、時間tにおける評価領域の平均活動レベルである。ここで、BCMν関数は、領域とシナプシス後神経ユニットとの間の位相相違を入力として使用しているという点で、上記のBCM関数とは少々異なるということに留意すべきである。
Figure 2007536610
ここで、pv(t)は、領域における平均位相である。BCM及びBCMνの両方が負の数を返すとき、BCMνは1にセットされて、シナプシス前神経ユニット及び評価システム(神経領域)の両方がシナプシス後神経ユニットと同調しないときにシナプシス結合が増強されないことを保証する。
[擬似サイクル計算]
擬似神経システム12の各シミュレーションサイクルの間、知覚入力が処理され、全ての神経ユニットの状態が計算されて、全ての可塑性結合の結合強度が決定され、運動出力が生成される。以下に記載する実験においては、各シミュレーションされたサイクルの遂行は、およそ100ミリ秒の実時間が要求される。
[実験条件]
図5Aに、NOMAD10の環境図を示す。この環境は、黒い壁で囲まれた領域からなっている。緑のひし形、緑の正方形、赤いひし形、赤い正方形からなる集合からの様々な形状の対が、2つの向かい側の壁に掛けられている。床は、不透明な黒いプラスティックパネルで覆われ、反射性のある工作用紙で作られた境界を含んでいる。この境界が、NOMADの前面に取り付けられた赤外線(IR)探知器12によって探知されて床に向かい合うと、NOMAD10は、次の2つの反射的動作のうちの1つを行う:(i)、もし、物体がその視野中にあるならば、後退し、停止し、そして、およそ180度回転する、(ii)もし、その視野中に物体が存在しないならば、NOMAD10は、およそ90度回転し、このようにして、視覚刺激なしに壁から離れる向きをとる。視覚形状を含む壁の境界近くで、部屋の片側上の赤外線エミッタ(IR)が、他方の側上のスピーカを含むIRセンサと組にされて(図5Aに示したように)、IRビームが生成される。もし、NOMAD10の動作が何れかのIRビームを遮断すると、音がスピーカによって放出される。NOMAD10による音の探知は、擬似神経システム12を介して音源へ向かう適応動作を導き出す。
[実験規約− 図6A〜6B]
図6A及び6Bに、NOMAD10についての実験の配置を示す。NOMAD10は、約「90対66」の、領域の2壁面上の物体を観察する。実験は、図6A及び6Bに示したように、訓練及びテストの2つの段階に分けられる。両方の段階の間、V1V2等の領域の、全ての神経ユニットの活動及び位相反応は、分析のために記録される。
図6Aに示したような訓練の間、NOMAD10は、示された多様な物体の対へのおよそ24アプローチに一致する、約10000シミュレーションサイクルの囲い込み探検を行う。スピーカによって出された音(聴覚の合図)への反応は、NOMAD10を、この例では赤いひし形である目標に向かわせる。目標以外の選択肢は、緑のひし形及び赤い正方形であり、これらは、NOMAD10の左右適応が目標関係を混同しないということを保証するために、各6回目のアプローチ前に交換される。図6Bに示したように、テストにおいて、スピーカは消されて、NOMAD10は、15000シミュレーションサイクルの環境探検を行うことができる。これら15000サイクルに対して目標物体が継続的に与えられている間に、目標以外の選択肢は5000サイクル毎に取り替えられる。
[訓練段階詳細− 図6A]
図6Aに示した訓練段階において、NOMAD10は、15〜20分の実時間と、赤いひし形及び赤い正方形(図6Aの左)そして赤いひし形及び緑のひし形(図6Aの右の)といった視覚形状の様々な対への概ね24のアプローチとに相当する、10000シミュレーションサイクルの囲い込み探検を自律的に行う。このようにして、各対は、「目標」の形状(赤いひし形)と「目標以外の選択肢」の形状(緑のひし形又は赤い正方形)とを含むことになる。目標以外の選択肢は、目標と属性を共有するよう故意に設計される。例えば、赤いひし形が目標である場合には、赤いひし形/赤い正方形の対が一方の壁の上に掛けられ(図6Aの左側に示されている)、赤いひし形/緑のひし形の対が他方の壁の上に掛けられている(図6Aの右側に示されている)。その部屋の何れか片側上の赤いひし形は、図示したように、両方の場合ともスピーカに最近接している。目標と目標以外の選択肢との対における形状の左右適応(例えば、左の上の赤い正方形、右の上の緑のひし形)が目標選択を混同しないということを保証するために、目標以外の選択肢の側は、6回の対の観察ごとに取り替えられる。この訓練段階の間、スピーカへの反応は、NOMAD10を目標に向かわせる。
[テスト段階詳細− 図6B]
図6Bに示したように、訓練の間、スピーカは消され(それゆえ、図示しない)、NOMAD10は、15000シミュレーションサイクルの囲い込み探検を自律的に行うことを許可される。はじめの10000サイクルには、図6Aの訓練段階の間に所定の同一の目標及び目標以外の選択肢との遭遇も含まれている。最後の5000サイクルには、目標と、その目標とは何れの特徴も共有しない4つの形状の組(左及び右)の単一の形状との遭遇が含まれる(例えば、目標としての「赤いひし形」と、目標以外の選択肢としての「緑の正方形」との組)。
訓練及びテストは、ターゲットとしての4形状のそれぞれを使用して、頭脳ベースデバイスBBDの3つの異なる「主題」を伴って繰り返される(合計で、12の訓練及びテスト期間となる)。それぞれのBBD「主題」は、NOMAD10の同じ物理デバイスを有しているが、それぞれは、固有の擬似神経システム24を備えている。「主題」の間の変動性は、個々の神経ユニット間の結合性の微視的な細部と、これら神経ユニット間の初期結合強度との両方におけるランダム初期化の結果である。神経ユニット間の全体的な結合性は、異なる「主題」間で類似のままであるが、これがゆえに、結合性は、シナプシス経路、樹枝状部パターン、そして初期結合強度の範囲によって抑制されるのである(詳細は、図2及び表2を参照)。
[目標追跡行動− 通常− 図7A〜7B]
頭脳ベースBBDの各「主題」の識別行動は、図7A−7Bに示したような、条件付け又は訓練に続く聴覚合図がない場合において、その「主題」が目標物体に向かって如何にうまく追跡されるかによって評価される。これは、図6Bに示す視覚物体の対への各アプローチの間に、目標がカメラ16を介してNOMAD10の視界の中心に置かれるための時間の分数として計算される。3つの別々の「主題」は、4つの目標形状又は物体、つまり、赤いひし形(rd)、赤い正方形(rs)、緑の正方形(gs)、及び緑のひし形(gd)のうちの、好ましい1つに条件付けされる。神経領域V2における活動は、NOMAD10の視野が、そのカメラ16を介して特定の視覚形状を中心においた時間の割合を評価するために使用される。図7A及び7Bの棒グラフは、標準偏差を意味するエラーバーを伴った、追跡時間平均割合を表す。図7Aに示したように、完全な再入可能結合子を伴ったBBD「主題」は、全てのアプローチを平均して、各目標形状に対する目標以外の選択肢(灰色のバー)以上の著しい追従があった(白いバー)。図7Bに示したように、完全な再入可能結合を伴った「主題」(白いバー)は、テスト中のみ「障害」を受けた「主題」(明るい灰色のバー)、及び、訓練中とテスト中の両方において障害をうけた主題(黒いバー)よりも、著しく良好に目標に追跡した(*は、ランクサム(RankSum)テストを使用して、p<0.01であることを示す)。
図7Aは、全ての「主題」が、4つの異なる目標を80%以上の時間うまく追跡している様子を示している。これは、NOMAD10がその環境を探検したときに、目標と目標以外の選択肢とが、多くの異なった位置に多くの異なるスケールでカメラ16の視野にあらわれるという事実にもかかわらず、の結果である(変化しない物体認識については、後述する)。加えて、NOMAD10は、たとえ属性が共有されていることが原因で(例えば、同一の色又は同一の形状)、色又は形状のみに基づいては目標以外の選択肢から目標を区別できないとしても、この処理を成し遂げる。
この頭脳ベースデバイスBBDの多様な「主題」における再入可能な結合の存在の重要性を調査するために、ある内部領域の再入可能な結合が、実験的な典型例の異なった段階で障害を受けた場合の結果ついて、図7Bに示す。1つの場合においては、事前に訓練された「主題」は、障害後に再テストされている。2番目の場合においては、再入可能な結合は、訓練及びテスト段階の両方において障害を受けている。障害は、擬似神経システム12を視覚処理の「フィードフォワード」モデルに変換する効果を有する、内部領域の興奮性の再入可能な結合のサブセットに加えられる(図2及び表2における「X」でマークされた投射を参照)。これら障害による活動の低下を補償するために、領域V2及びV4における神経ユニット出力が増幅される(表1参照)。図7Bは、完全な再入可能結合を伴った「主題」は、障害を受けた何れのグループよりも、著しく良好な作動をすることを示す。再入可能な結合子がない場合に観察される作動における減少は、目標識別作業における、機会以上に、行動に対する再入可能な結合が重要であることを示す。
[行動中のニューラルダイナミクス− 図8]
環境におけるNOMAD10の行動の間、同期的に活動する神経グループからなる回路が、擬似神経システム12における異なる神経領域の全体にわたって分配される。典型的な行動の実行中の、ニューラル反応のスナップショットを図8に与える。このスナップショットは、訓練セッションの(図6A)の修了に向けて、赤いひし形である目標及び緑のひし形である目標以外の選択肢にアプローチ中のNOMAD10を示す。描かれた神経領域V2V4IT及びにおける各画素は、各所定の神経領域内部の単一神経ユニットの活動及び位相を表す。このように、例えば、図8は、神経領域V2及びV4、特に、色(赤、緑)及び線方向(垂直、対角)についてのニューラルサブ領域に対する反応を示している。この位相は各ピクセルの色によって示され、その活動はピクセルの輝度によって示される(黒は活動なし:非常に明るいものは最大の活動)。
図8に、異なった位相によって差別化され、赤いひし形及び緑のひし形の刺激によってそれぞれ誘発された、2つのニューラル回路を示す。この図で示したように、NOMAD10は、音を放出するための、その環境におけるスピーカへの引き金となるIRビームにはまだ到達していない(図6Aを参照)。それにも関わらず、神経領域(評価システム)の活動は、目標に対応する神経領域V2及びV4における活動と同調し、それゆえ、目標の特徴性又は評価の予測となる。領域ITは、2つの活動パターンを有し、2つの知覚カテゴリを反映する2つの異なる位相色によって表される。これらのパターンは、この環境内におけるNOMAD10の動作中に生成された、カメラ16からの視覚入力によって引き起こされたものである。最終的に、神経領域は、目標の方向へ、NOMAD10の方向付けを助長する側上で、より大きな活動を有することとなる(すなわち、赤いひし形)。
[ニューラル反応のダイナミクス− 図9A及び9B]
これらニューラル反応のダイナミクスを分析するために、テストセッションにおける目標−目標以外の選択肢の対へのアプローチ中に、活動的な神経ユニットの位相分布が検査される。図9Aに、完全な「主題」(再入可能な結合を伴った)によって、赤い正方形をした目標以外の選択肢に直面した赤いひし形の目標へアプローチする間の、様々な神経領域における神経の位相の分布を示す。図9Aは、ニューラルサブ領域V4R(赤)、V4H(水平)、V4D(対角)における位相分布の間の、整合的な相関を示す。ニューラルサブ領域V4Rにおける二方向性の分布は、NOMAD10の環境における2つの赤い形状(ひし形、正方形)の存在を反映している。1つの形跡は、ニューラルサブ領域V4D(対角)に確実に相関し、それゆえ、赤いひし形に関連付けることができ、他方は確実にサブ領域V4H(水平)に相関し、それゆえ、赤い正方形に関連付けることができる(この期間中、非活発のままであった領域V4Gは不図示)。赤いひし形を選ぶためにテストフェーズの間に事前に条件付けすることによってもたらされるシナプシスの変化に影響を及ぼす、赤い正方形である目標以外の選択肢とは対照的に、領域IT及びにおける、活発な神経ユニットの位相は、赤いひし形の目標に強く相関される。このように、ネットワーク活動のグローバルパターンは、目標のほうを選んで、バイアスされた位相分布を表示する。
[位相分布に基づく定量化− 図9A〜9C;表3]
このバイアスを定量化し、一般性を評価するために、テスト中の目標に関連する領域IT及びにおける神経ユニットの割合を、目標以外の選択肢に関連する割合と共に図6Bに示す。表3に、全ての「主題」と全4つの目標形状との上に計算されるこれら割合の平均値を示す。



(表3)
(目標と目標以外の選択肢の物体とに対応する機能的回路の神経構成及び平均活動)
Figure 2007536610
目標以外の選択肢に関連する回路においてよりも顕著に大きな割合の神経ユニットが、目標に関連する機能的回路の部分となっている。加えて、目標に関連するこれら神経ユニットは、目標以外の選択肢に関連する回路における神経ユニットよりも顕著に高い発火率を有している。
上記は、擬似神経システム12の、ローカル及びグローバルな神経回路処理の統一性の取れた(coherent)相互作用によって、再入可能な結合により媒介されたときに、NOMAD10による知覚分類及び視覚的な物体識別が可能になるということを示す。グローバル処理が、別個の、しかし擬似神経システム12を通して現れる、分配された機能的回路に対応するのに対し、ローカル処理は、各神経領域における活動に対応する。これらの相互作用は、図9Aに明らかであり、ここでは、各ローカル領域における活動は、赤いひし形の目標のほうを選んで、グローバルバイアスに強い影響を及ぼす(表3も参照)。
[ニューラルダイナミクス上の再入の影響]
再入可能な結合の障害は、上記のローカル及びグローバルな処理の間の相互作用を著しく妨げる。非常に簡単なネットワークモデルにおいてでさえ、再入可能な結合の除去は、ニューラル同期の出現を防ぐことができる(図3A−3Eを参照)。より大きなスケール上では、図9Bに、内部領域における興奮性再入可能結合の障害後の、図9Aに示したのと同一のNOMAD10の「主題」による、同一の目標/目標以外の選択肢の対へのアプローチを示す。いくつかの個々の領域は、その位相分布においてピークを示し続けるが(例えば、ニューラルサブ領域V4R)、多くはそうではなく、神経領域間の位相相関は、激しく減少する。この現象は、多様なV4神経領域の間のみならず(図2)、領域V4及び領域IT及びの間でも発生する。完全な「主題」においてはっきりと明らかな、動的に形成され、グローバルに統一性の取れた(coherent)回路は、障害のある「主題」においてはほとんど完全に欠如している。例えば、図9Bは、領域における活動は、もはや領域V4における単一の形跡には独自に相関せず、代わって、2つの異なる状態の間を交替する。神経領域IT及びにおける優勢な形跡の欠如も示されている。
神経領域間の位相相関は、何れかの障害グループにおける「主題」に対してよりも、完全な再入可能結合を伴った「主題」に対して、より高い重要性を有する。全般的な中央値順位相関係数は、完全な「主題」に対しては、0.36であり、テスト段階中においてのみ障害を伴う「主題」に対しては、0.21であり、訓練及びテストの両方の段階において障害を伴う「主題」に対しては、0.17であった。また、テスト中のみ障害を伴う「主題」は、訓練中及びテスト中の両方において障害を伴う「主題」よりも、かなり高い相関係数を有する。これは、訓練期間中のグローバル回路の形成への、再入可能結合の寄与を反映している(図6A)。これら調査結果の全ては、再入可能結合の欠如における行動実績の低下と一致している(図7を参照)。
[神経領域間の位相相関− 赤いひし形に条件付けされた単一の「主題」]
図10A−10Cは、赤いひし形目標を選択するよう条件付けした後の「主題」に対する神経領域間の位相相関の地勢的な表現を示す。図は、色を付けてコード化されて(暗い青は相関が無いことを意味し、暗い赤は高い相関を意味する)、各色付けされた領域は、神経領域の所定の対の、中間位相間の相関係数を示す。図10Aは、再入可能結合が完全であるときの相関係数を示す。図9に示したデータに従って、特定の目標機能(V4D及びV4R)と、これらの領域間と、領域IT及びとに関連する領域間には強い位相相関が見られる。テスト中に障害を受けた再入可能結合を伴った場合(図10B)、そして、条件付け中及びテスト中の両方において障害を受けた再入可能結合を伴った場合(図10C)の同一の「主題」に対する神経領域間の相関は、共に非常に弱い。視覚的に示したように、目標に関連する神経領域V1V2等の間の結合は、何れの障害ケース(図10B及び10C)におけるものよりも、再入可能結合が完全である場合(図10A)に、より高いものとなる。
[不変の物体認識− 図11A及び11B]
図11A及び11Bは、異なった位置及び異なったスケールでの、NOMAD10の視覚野における目標物体に対するニューラル評価領域の応答を示す図である。平均値は、標準誤差を示すエラーバーを伴って、全ての目標物体に対するNOMAD10の「主題」による全てのアプローチに対して計算されている。図11Aは、視覚野(135°)内の目標位置の機能としての平均反応を示す。図11Bは、視覚8°〜27°の範囲で識別できる目標サイズとしての平均反応を示す。図11A及び11Bの挿入物は、正方形の目標が、極端な位置及びスケールにおいて、NOMAD10の視野にどのように現れるかを示している。
NOMAD10がその囲い込みを探検するとき、視覚物体のイメージは、サイズ及び位置がかなり変化するので、好結果をもたらす識別は、不変の物体認識を要求する。この能力を分析するために、評価システム、つまり神経領域は、条件付けの後、ITへの経路における可塑性によって、目標以外の選択肢に対して目標物体に優先的に反応したのは何れかを検査される。典型的なアプローチにおいては、NOMAD10は環境の一方の側から他方の側へ移動するので、神経領域は活発に反応し、その目標の特性に対応する領域V2V4及びITにおける神経ユニットに同調する。全ての「主題」及びすべての目標形状上の平均値を計算して、領域は、視野の中心から120°以内にあらわれ(視野の範囲は、おおよそ±35°)、そして、8°から27°までの範囲の視覚で識別できる目標サイズとしてあらわれる目標イメージに、確実に反応するということが見出された。このように、その環境内の自律的な動作中の、本発明の頭脳ベースデバイスBBDの物体認識は、位置及びスケール不変性の両方である。
[条件付けの間の評価システム(神経領域)活動− 図12A及び12B]
目標形状への単一アプローチの間の神経領域IT及びに対する、単一の「主題」のための条件付け中のニューラル活動について、早期段階(左パネル、タイムステップ750〜1165)を図12Aに、条件付けの遅延段階(右パネル、タイムステップ6775から7170)を図12Bに示す。各パネルは、時間を通じた、対応神経領域における神経ユニット位相の分布を示している。図9と同様に、グレースケールは、特定の位相での各神経領域における神経ユニットの割合を示す。各パネルの下部の濃密な線は、スピーカからの音が与えられたタイムステップを示す(図6Aを参照)。早期の条件付け訓練期間(左パネル)においては、領域は、音の開始までは(すなわち、可聴活動)不活性であり、ここでは、目標に関連する領域IT及びの両方における上部形跡と同調して強く活性化される。目標以外の選択肢に対応する領域IT及びにおける下部形跡は、同時刻においては比較的抑制されている。条件付けの後半においては(右パネル)、領域IT及びは、音の開始より充分前には、目標(下部形跡)に対応する視覚システム活動に同調し、目標以外の選択肢に関連する活動は、音の開始より充分前には、相対的に抑制されている。
条件付けの間の、評価依存シナプシス可塑性(つまり、シナプシス結合の可塑性が評価に依存している)の結果として、目標物体の視覚的な特性は、評価の前兆となる。図12Aに示したように、早期に条件付けしている間、領域は、UCS(無条件刺激、つまり、音)が与えられるまでは活性化しない。このUCSは、また、これらの領域における初期の双峰位相分布の急速な廃止によって示されたように、領域IT及びにおけるバイアスをも引き起こす。
条件付けの後半段階では、CS(条件刺激、つまり目標の視覚的特性)は、今度は領域における活動がUCSの開始に先行するような評価に関連するようになる(図12Bを参照)。領域は、NOMAD10の視野に刺激が現れるとすぐに、目標刺激に反応する。そして、領域における活動は、図12A−12Bにおいて示したように、UCSの開始より充分前の各領域における単一位相分布ピークの出現によって、領域IT及びにおけるバイアスを助長する。早期トライアルの聴覚UCS(つまり、聴覚入力が評価を与える)によって引き起こされる活動から、遅延トライアルにおける視覚的CS(つまり、今度は視覚的入力が評価を与える)によって引き起こされる活動への、評価関連活動のタイミングにおけるこのシフトは、条件付け中の第1腹側被蓋において見られる、ドーパミン作用性のニューラル活動におけるシフトに類似している。また、評価依存のシナプシス可塑性は、条件刺激が評価予測になるという点で、「一時的な相違」学習に類似している。
[コンピュータシステム及びフローチャート]
図13は、本発明の多様な実施形態によるシステムの例示的説明である。この図は、論理的に区分されたコンポーネントで描かれているが、かかる描画は、ただ説明目的のために過ぎない。この図に表現されたコンポーネントを任意に結合することができ、又は、別々のソフトウェア、ファームウェア及び/又はハードウェアコンポーネントに分割することができるということは、当業者にとって明らかである。さらに、かかるコンポーネントがどのように結合又は分割されようとも、同じコンピューティングデバイス上で実行することができ、あるいは、1又は複数のネットワーク又は他の適当な通信手段に接続された、異なるコンピューティングデバイスの中に分散することができるということも、当業者にとって明らかである。
多くの実施形態において、図13に図解されたコンポーネントは、1又は複数のプログラミング言語で実装可能である(例えば、C,C++,JavaTM、そして他の適切な言語)。コンポーネントは、メッセージパッシングインタフェース(MPI)、あるいは、これに限定されるものではないが、共有メモリ、分散オブジェクト、シンプルオブジェクトアクセスプロトコル(SOAP)を含む、他の適当な通信手段を使用して通信可能である。MPIは、コンピューティングデバイス(又はノード)間の情報通信のための業界標準プロトコルである。一実施形態において、このシステムは、Beowulfクラスタのような(これに限定されるものではない)、マルチプロセッサコンピュータアーキテクチャ上に展開することができる。Beowulfクラスタは、典型的には、イーサネット(登録商標)又は他のいくつかのネットワークを介して接続された、商品ハードウェアコンポーネントから構成される(例えば、Linuxオペレーティングシステムが動作するパーソナルコンピュータ)。この開示は、並列コンピューティングアーキテクチャの何れの特定形式にも限定されない。他の多くの同様のアークテクチャが可能であり、完全に本開示の範囲及び趣旨内にある。
図13を参照すると、マスターコンポーネント1302は、クライアント1304から受信したコマンドによって他のコンポーネントの活動を条件付けすることができる。一実施形態において、このクライアントは、スクリプト、あるいは、他のシナリオによって、及び/又は、マスターから受信したクライアント情報(例えば、ニューラル活動、センサの読み取り、及びカメラ入力)への反応において、マスターをプログラム的に制御するスタンドアロン処理であってもよい。クライアントコマンドは、頭脳ベースデバイスBBD実験の開始又は修了、データストア1312への実験状態の保存、当該データストアからの実験状態の読み出し、実験が実行される動作時間/サイクルの設定、ニューラルシミュレータ1310のパラメータの設定をマスターに対して指示することができる。
他の実施形態において、クライアントは、マスターからの情報を受信するユーザインタフェースであり、ユーザは、双方向にシステムを制御することができる。非限定的な例として、ユーザインタフェースには、次の1又は複数を含めることができる。1)グラフィカルユーザインタフェース(GUI)(例えば、ハイパーテキストマークアップランゲージで表現されたもの)、2)音及び/又はボイスコマンドに反応する能力、3)遠隔制御デバイスからの入力に反応する能力(例えば、携帯電話、PDA、或いは他の適当な遠隔制御)、4)ジェスチャに反応する能力(顔面及びその他)、5)同一又は別のコンピューティングデバイス上の処理からのコマンドに反応する能力、6)コンピュータマウス及び/又はキーボードからの入力に反応する能力。この開示は、何れの特定UIにも限定されない。当業者であれば、他の多くのユーザインタフェースが可能であり、完全に本開示の範囲及び趣旨内にあるということが認識するであろう。
各神経領域(例えば、V1V2V4ITマイク−左マイク−右A−右)に対する神経ユニットは、それぞれニューラルシミュレータ1310に割り当てられる。各ニューラルシミュレータ1310は、割り当てられた神経ユニットの活動を計算する責任を担っている。所定の神経領域の神経ユニットは、1又は複数のニューラルシミュレータ1310に分配される。多くの実施形態において、Beowulfノード当り、1つのニューラルシミュレータが存在し得る。性能を最適化するために、ニューラルシミュレータ上の平均的な数のシナプシス結合が略同じになるように、神経ユニットはニューラルシミュレータの間で分配される。他の実施形態において、ニューラルシミュレータ当りの平均的な数の神経ユニットが略同じになるように、神経ユニットは分配される。ニューラルシミュレータは、周期的又は継続的に、他のニューラルシミュレータ及びマスターとの間で、神経ユニットの活動度の計算結果をやり取りする。この情報は、他のニューラルシミュレータ上の神経ユニットが最新のシナプシス前入力を有するために必要である。マスターは、このニューラルシミュレータから受信したニューラル活動に基づいて、NOMADへアクチュエータコマンドを与える。
マスターは、イメージグラッバー1306からのイメージデータを周期的に受信し、これを、ニューラルシミュレータとクライアントとに分配する。一実施形態において、このイメージは、320×240画素RGBビデオイメージを送信するNOMAD10にマウントされたCCDカメラ16から、RF送信機を介して、ImageNationPXC200イメージグラッバーへ取り込まれる。そして、このイメージは、80×60画素イメージを生成するために、空間的に平均化される。垂直、水平、そして対角(45及び135度)の方向(簡単に上記したような)のエッジを検出するために、Gaborフィルタを使用することができる。Gabor関数の出力は、対応するV1サブ領域の神経ユニット上に直接マップされる。カラーフィルタ(緑のネガの囲いを伴った赤いポジの中心、又は、緑のポジの囲いを伴った赤いネガの中心)もまた、このイメージに適用される。このカラーフィルタの出力は、V1−赤及びV1−緑の神経ユニット上に直接マップされる。V1神経ユニットは、神経領域V2の神経ユニットへ網膜局所的に投射される。
マスターコンポーネントは、また、NOMAD10コンポーネント1308からセンサデータを周期的に獲得し、これをニューラルシミュレータに分配する。一実施形態においては、NOMAD10に内蔵されたマイクロコントローラ(PIC17C756A)がセンサからの入力及び状態をサンプルし、NOMADベースとマスターとの間のRS−232通信を制御する。先に述べたビデオ及びオーディオ情報に加えて、センサ情報には、グリッパー(gripper)状態、カメラ位置、赤外線探知器、触針偏差(whisker deflection)、ホイール速度及び方向、走行距離計カウント、マイクロホン入力を含めることができる。一実施形態において、二乗平均平方根(RMS)チップは、マイクロホン入力信号の増幅を測定し、コンパレータチップは、周波数を測定可能な方形波を生成する。NOMAD10上のマイクロコントローラは、先行する3つの測定値とともに現行の信号増幅測定値を平均化することによって、全体のマイクロホン振幅を定期的に計算する。マイクロコントローラは、最後の8つの方形波の平均期間の逆数をとることによって、各時間点でのマイクロホン信号の周波数を計算する。神経領域マイク−左及びマイク−右は、最大値の少なくとも40%の振幅を有する、2.9から3.5KHzの間の音に反応する。神経領域マイク−左又はマイク−右における神経ユニットの活動は、次式で与えられる。
Figure 2007536610
ここで、Si mic(t)は、マイク−左又はマイク−右における神経ユニットiの前の値であり、ai micは、マイクロホン出力の現在の振幅である。
図14は、本発明の多様な実施形態による、ニューラルシミュレータ初期化のフローチャートである。この図は、説明目的のために特定の順序で機能的段階を表現しているが、この処理は、何れの特定順序又は配置の段階によっても必ずしも限定されない。当業者であれば、この図に表現された多くの段階が、様々な方法で、削除、再配置、並行処理、結合及び/又は適合することができるということを認識するであろう。段階1402において、クライアント1304からのコマンドに基づいて、保存された実験がデータストア1312から取り出されるべきかどうか、或いは、新しい実験をスタートされるべきかが判断される。もし、実験がデータストアから取り出されるべきであるならば、これは、段階1410において実行される。多様な実施形態において、この実験状態は、拡張マークアップ言語(XML)ドキュメント、プレーンテキスト、又はバイナリファイルとして保存可能である。さもなければ、段階1404において、神経ユニットが、表1に所定のパラメータに従って作成される。次に、段階1406において、表2のパラメータによる神経回路の間にシナプシス結合が形成される。最後に、段階1408において、各神経ユニットがニューラルシミュレータに割り当てられる。
図15は、本発明の多様な実施形態によるマスターコンポーネントのフローチャートである。この図は、説明目的のために特定の順序で機能的段階を表現しているが、この処理は、何れの特定順序又は配置の段階によっても必ずしも限定されない。当業者であれば、この図に表現された多くの段階が、様々な方法で、削除、再配置、並行処理、結合及び/又は適合することができるということを認識するであろう。
段階1502において、マスターは、イメージグラッバー及びNOMAD10から取得されたイメージ及びセンサデータを、ニューラルシミュレータ及びクライアントにブロードキャストする。段階1504において、マスターは、そのニューラルシミュレータに関して受信した何れかのコマンドをブロードキャストする。段階1506において、クライアントがマスターに実験を終了するよう指示したかどうかが判断される。もし、そうならば、マスターは実験を中止する(ここには、実験の状態をデータストアに保存することが含まれる)。さもなければ、段階1508において、更新された情報がクライアントに提供されて、GUIを更新するのに役立てることができる。段階1510において、ニューラルシミュレータからの神経ユニット活動は、全コンポーネント間で共有される(例えば、MPIを介して)。この神経活動は、クライアント情報の一部として、クライアントにいくつかの形式で提供される。最後に、何れかの残りのサイクルがシミュレーションにおいて存在するかどうかが判断される。もし、存在しなければ実験は終了する。さもなければ、マスターは、段階1502に復帰する。
図16に、本発明の多様な実施形態によるニューラルシミュレータのフローチャートを示す。この図は、説明目的のために特定の順序で機能的段階を表現しているが、この処理は、何れの特定順序又は配置の段階によっても必ずしも限定されない。当業者であれば、この図に表現された多くの段階が、様々な方法で、削除、再配置、並行処理、結合及び/又は適合することができるということを認識するであろう。
段階1602において、ニューラルシミュレータは、マスターによってブロードキャストされたイメージ及びセンサデータを受け取る。段階1604において、マスターによってブロードキャストされるクライアントコマンドが受理される。段階1606において、クライアントがマスターに実験を終了するよう指示すべきか否かが判断される。もし、そうならば、ニューラルシミュレータはその遂行を完了する。さもなければ、段階1608において、そのニューラルシミュレータを割り当てられる神経ユニットの評価が計算される。段階1610において、可塑性結合の強度が計算される。段階1612において、局所神経ユニット活動が、他のニューラルシミュレータ及びマスターと共有される。加えて、他のニューラルシミュレータからの神経活動が取得されて、局所評価をリフレッシュするために使用される。最後に、段階1614において、何れかの残りのサイクルがシミュレーションにおいて存在していないかどうかが判断される。もし、存在しなければ実験を終了する。さもなければ、ニューラルシミュレータは、段階1602に復帰する。
コンピュータ技術における当業者にとっては明らかなように、本開示の教示に従ってプログラムされた、従来の汎用又は特定のディジタルコンピュータ若しくはマイクロプロセッサを使用して、多様な実施形態を実施することができる。ソフトウェア技術における当業者にとっては明らかなように、適切なソフトウェアコーディングは、本開示の教示に基づいて、技術を持ったプログラマによって容易に準備可能である。また、当業者にとってすぐに明らかなように、本発明は、集積回路の準備によって、或いは、従来のコンポーネント回路の適切なネットワークの相互接続によって、実施することもできる。
多様な実施形態には、ここで与えられた何れの機能をも実行するために、汎用又は特定のコンピューティングプロセッサ/デバイスをプログラム制御するよう使用され、その上(中)に命令を有する記憶媒体(メディア)であるコンピュータプログラム製品が含まれる。記憶媒体には、これに限定されるものではないが、次の1又は複数のものが含まれる。つまり、フロッピディスク、光ディスク、DVD、CD−ROM、マイクロデバイス、磁気光ディスク、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、フラッシュメモリデバイス、磁気又は光カード、ナノシステム(分子的なメモリICを含む)を含むあらゆる形式の物理メディア、そして、あらゆる形式の命令及び/又はデータを蓄積するために適切なメディア又はデバイスである。多様な実施形態には、1又は複数のパブリック又はプライベートネットワーク上で送信され得るコンピュータプログラム製品が含まれ、ここで、この送信には、本明細書において所定のあらゆる機能を実行するコンピューティングデバイスをプログラム制御するために使用される命令が含まれる。
蓄積された1又は複数のコンピュータ読み取り可能媒体(メディア)、本開示は、汎用/特定のコンピュータ又はマイクロプロセッサの両方のハードウェアを制御するためのソフトウェアと、人間のユーザ若しくは本発明の結果を使用する他の機械と相互に作用し合うことをコンピュータ又はマイクロプロセッサに可能とするためのソフトウェアと、を含む。かかるソフトウェアには、これに限定されるものではないが、デバイスドライバ、オペレーティングシステム、実行環境/コンテナ、そしてアプリケーションが含まれる。
[まとめ]
擬似神経システム12によって制御されるNOMAD10を含み、異なった刺激の視覚特性を結合する頭脳ベースデバイス(BBD)について述べた。頭脳ベースデバイスBBDにおける結合は、再入可能な神経構造(図2、表1及び表2)、神経グループの動的な同期、そして、シナプシス可塑性及び環境内を動くNOMAD10の自律的な行動によって生成される相関を含む、多階層の相互作用の結果として発生する。具体的には、視覚的物体へのアプローチの間、同期的に活性する神経回路の構成が、NOMAD10の視野における各物体に対して発生する。神経領域V1V2等の内部及び間の再入可能結合によって作動可能になるこれらの回路は、順番にNOMAD10の識別的な行動を引き起こす、運動領域活動を活性化させる。これは、有効な視覚的物体認識の根底にある、頭脳、体、及び行動の間の複雑で動的な相互作用の中に洞察を与えるものである。
本発明の頭ベースデバイスBBDは、本来的な特定の行動(つまり、聴覚又は視覚刺激に向かって追跡する)と、特定の環境信号(例えば、音についての正の値)に対する本来的な特定評価又は特徴性とを持っている。BBDは、自律的に学習して、音の評価を、その音源に最も近い視覚的な刺激の特性に関連付け、そして、視覚特性基づいて、単独でその目標物体の方へうまく方向付けする(図7Aを参照)。
頭脳ベースデバイスの物理的な実施形態は、位置の変動、視覚的イメージのスケール及び光度、音の反射、そして移動中のすべり量といった、この物体の識別作業の多くの挑戦的側面を組み入れるために重要である。精巧なコンピュータへの依存は、エージェントとその環境との間の相互作用を支配する暗黙の命令の形で論理的なバイアスを導くという危険を負担する。しかしながら、実世界環境の使用により、かかるバイアスを導くリスクを回避するだけではなく、高度に複雑な擬似的環境の構築についての要求も取り除くことができる。
本発明の擬似神経システム12は、報償又は評価システム(領域)が放散上行性神経調節システムに類似するのと同様に、視覚システム(領域V2V4,及びIT)、運動システム(領域)の腹側後頭−側頭部ストリームに類似する皮質領域を含む。しかしながら、これらの特定領域の何れも、また、情報フロー(例えば、「トップダウン」又は「ボトムアップ」)の選択的な指示も、それ自体で視覚物体の特徴の結合に充分であるというものはない。むしろ、頭脳ベースデバイスBBDにおける視覚的結合は、ローカル処理(つまり、それぞれの擬似的な神経領域における活動)と、グローバル処理(つまり、擬似神経システム12を通じて分配された同期活動によって特徴付けられた突発的な機能回路)との相互作用を通じて達成される。分配された神経領域V1V2等の間の再入可能結合は、これら回路(図9、10及び12を参照)の形成にとって、また、共有された特徴を伴った複数の物体間での区別を要求する作業における好結果の作動にとって(図7を参照)、きわめて重要であることが分かる。本発明のこの頭脳ベースデバイスBBDは、豊かな実世界環境における自己生成又は自律的な動作から生じる、視野における信頼性のおける識別を達成する(図11を参照)。
擬似神経システム12における各神経ユニットの状態は、発火率変動及び位相変動の両方によって記述したが、ここでは、シナプシス後位相は、最も強く活性化するシナプシス前入力の位相に相関されるという傾向がある。このモデリング戦略は、個々のニューロンのスパイク活動のモデリングに関する計算コストを負担することなしに、ニューラル同期を表現するのに必要な時間精度を与える。正確なスパイクタイミングは、特定の神経相互作用をモデリングするために必要であるが、本開示のモデルは、視覚的結合のための仕組みを説明する目的のためには、かかる詳細は要求されないということを示唆している。また、記述したモデルにおける位相は、可能性のある根本的な振動活動を反映するものとして意図されたものではなく、特に、特定の周波数での通常の脳振動が結合のニューラルな仕組みの重要なコンポーネントであることを意味するものと考えるべきではない、ということを強調することも重要である。
擬似神経システム12における局所領域は、その入力及び結合性に基づいた分離した機能を持っているが、物体認識及び物体識別行動は、何れの個々の領域のものでもなく、システム全体の突発的な特性である。目標へ向かって行動を方向付けする間の頭脳ベースデバイスBBDのニューラル反応は、異なる神経領域における神経ユニットの動的なセットの間の同期活動に関しての、このグローバルな特性を示す(図8及び9Aを参照)。2つの物体が同時に見えることは、その擬似神経システム12を通して分配され、その活動の関連タイミングにおける相違によって識別される、2つの異なる回路セットをはっきりと引き起こす。神経領域V1V2等の間の再入可能結合が、擬似的な障害を介して取り除かれたとき、これら神経領域間の統一性の取れた相互作用は、分断されて(図9B、図10B、図10Cを参照)、物体知覚分類及び物体識別行動の両方において失敗する結果となる(図7Bを参照)。
実験及び評価の両方は、擬似神経システム12のグローバルな属性を形成する。このことは、図12に明りょうに示されており、ここでは、早期の訓練の間、領域は活性しておらず、領域は聴覚合図の開始まで目標物体へ向かうバイアス、つまり評価を示していない。訓練の後半においては、領域ITから領域への評価依存の可塑性結合、すなわち視覚刺激の評価の結果として、領域は、聴覚合図の充分前に活性化する。それゆえ、領域における活性は、無条件刺激(つまり、聴覚音)の予測となる。領域ITから領域への評価依存可塑性結合と、領域から領域への興奮性の結合とは、目標以外の選択肢に優先して目標へ向かう動作を好む領域の活動におけるバイアスを結果として生じる、評価関連の活動のタイミングシフトを確実にする。このことは、適応性のある行動を保証する分配されたニューラル結合の効率変更における、評価システムの役割を重要視するものである。視覚野における物体の間の物体識別作業における好結果の作動は、ニューラル同期の補完的な活動、及び、ニューラル発火率における実験依存の変化を要求する(表3を参照)。類似の位相を共有する神経ユニットのグループによって示される神経同期は、視界における各物体に対応する複数のグローバル回路の形成に必要である。同時に、これら回路内部の神経ユニットの活動は、NOMAD10に目標以外の選択肢よりも目標物体を好むようにさせる領域V4IT及びにおける活動レベルに影響を与える。これらの観測によれば、平均発火率「コード」及び同期ベース「コード」は、神経機能の相互排他的な意味として考慮する必要がないということが示唆されている。
神経ユニットがニューロンの小さなグループの活動を表現する、記述されたモデルの予測は、個々のニューロン間のゼロ位相遅延というよりは、知覚結合のために十分な、グループレベルのそのニューラル同期である。いくつかの単一ユニット記録学習は、刺激を伴うことによって活性化されたニューロンは刺激を伴わずに活性化されたニューロンよりも多く同期するということを示すが、単一ユニット間の同期活動は、結合を要求する作業において検出が困難である。さらに、霊長類の前頭葉前部皮質からのマイクロ電極記録は、興奮性の長期レンジのピラミッド状ニューロン間よりも、ローカルな抑制ニューロン間において、より高い相関発火のレベルを示した。一方で、両眼の対立中の、人間の主題の神経磁気的な記録は、意識して知覚されたのではない刺激と比較して、知覚的に支配的な刺激に関連する信号の内部及び外部半球状の一様性を増加させる。しかしながら、神経磁気的な信号は、単一ニューロン間の再入可能関係を反映せず、むしろ、巨大な神経集合間の平均を表現する。それゆえ、これは、単一ニューロンレベル上と同様に神経グループレベル上でも同期が作動可能であるという示唆において、上述した本発明のモデルと一致する。
より高い頭脳の機能は、その形態学、そのダイナミクス、本体と環境との間の相互作用をもたらす神経システム全体の協調活動に依存している。同期を通じた結合の重要性を協調する理論的観点と一致して、本発明の頭脳ベースデバイスBBDは、視覚的結合及び物体識別は、ローカル処理(特定の神経領域の活動)とグローバル処理(同期的な活動及び広く分配されたニューラル回路)との間の相互作用に課される制約再入及び行動の結果として引き起こされる、ということを示す。これらの処理間の相互作用は、重要であり、何れの特定の領域も、情報フローの決定性の優先的方向も、それ自体では、視覚結合を達成するのに充分でない。
本発明の好適な実施形態についての上述の記載は、説明及び解説を目的として与えられたものである。本発明を、開示された厳密な形式に網羅もしくは限定する意図ではない。当業者にとって、多くの修正及び変形が明らかであろう。実施形態は、本発明の原則とその実践的な適用とを最良に説明するために、選択及び記載されており、それゆえ、他の当業者にも、特定用途を熟考するために適した多様な修正を伴って、本発明、多様な実施形態を理解することができる。本発明の範囲は、以下の特許請求の範囲及びその均等物によって規定されるものと解釈される。
物理的なモバイル頭脳ベースデバイスの外観図を示す。 図1の頭脳ベースデバイスの擬似神経システムの局所的及び機能的神経構造の概略図を示す。 図2に示した本発明の神経構造を説明するために使用される3つの神経ユニットの簡単なネットワークを示す。 神経ユニットの活動対位相の関係を示すグラフである。 図1及び2の行動をもつモバイル頭脳ベースデバイスが存在する実世界環境の試験的なセットアップの様子を、それぞれ概略的及び写真撮影的に示す。 図1及び2の行動をもつモバイル頭脳ベースデバイスが存在する実世界環境の試験的なセットアップの様子を、それぞれ概略的及び写真撮影的に示す。 図1及び2の頭脳ベースデバイスの訓練及びテスト規約をそれぞれ説明する。 図1及び2の頭脳ベースデバイスの訓練及びテスト規約をそれぞれ説明する。 条件付けに従う図1及び2の頭脳ベースデバイスの行動を説明するグラフである。 条件付けに従う図1及び2の頭脳ベースデバイスの行動を説明するグラフである。 行動試験中の図1及び2の頭脳ベースデバイスの神経ユニット活動のスナップショットである。 条件付けに従う図1及び2の頭脳ベースデバイスにおいて、再入結合をそれぞれ伴う場合と伴わない場合の位相反応を示す。 条件付けに従う図1及び2の頭脳ベースデバイスにおいて、再入結合をそれぞれ伴う場合と伴わない場合の位相反応を示す。 赤いひし形を単一の目標物体として選択もしくは識別するよう条件付けされた、図1及び2の頭脳ベースデバイスに対する神経領域の間の位相相関関係を説明する説明図である。 異なる実世界位置及び異なるスケールにおける目標物体へのニューラル評価領域Sの反応を説明する説明図である。 異なる実世界位置及び異なるスケールにおける目標物体へのニューラル評価領域Sの反応を説明する説明図である。 神経領域S,IT及びCに対する図1及び2の頭脳ベースデバイスの、条件付け中及び訓練中のニューラル活動を示す。 本発明の多様な実施形態によるシステムを例示する図である。 ニューラルシミュレータ初期化のフローチャートである。 本発明の多様な実施形態によるマスターコンポーネントのフローチャートである。 本発明の多様な実施形態によるニューラルシミュレータのフローチャートである。
符号の説明
10 神経組織モバイル適応デバイス(NOMAD)
12 擬似神経システム
16 CCDカメラ
18、20 マイク
22 エフェクタ(ホイール)
24 赤外線(IR)センサ

Claims (15)

  1. 視覚的場面を統合するように実世界環境において行動するモバイル頭脳ベースデバイスであって、
    a)
    i)視覚情報を受信するための視覚入力センサと、
    ii)聴覚情報を受信するための聴覚入力センサと、
    iii)モバイル適応デバイスの運動を可能にするためのエフェクタと、
    を有するモバイル適応デバイスと、
    b)前記視覚的場面内の物体の異なる視覚的特徴を結合するための、人間の脳の皮質領域に対応するコンピュータベース擬似神経システムと、
    を備え、前記擬似神経システムは、
    i)視覚システムを形成し、前記視覚入力センサからの視覚入力に反応して視覚刺激を生成するものであって、視覚刺激を生成するための前記頭脳の下面皮質経路に対応する第1の神経領域と、
    ii)聴覚システムを形成し、前記聴覚入力センサからの聴覚入力に反応して聴覚刺激を生成する第2の神経領域と、
    iii)上昇神経調節系に類似するものであって、上記実世界環境において移動している間に前記モバイル頭脳ベースデバイスが経験する実世界の顕著な事象に反応して評価刺激を生成する第3の神経領域と、
    iv)頭脳の上位の小隆起に対応するものであって、追跡システムを形成し、前記聴覚刺激、視覚刺激、及び評価刺激に反応して、前記モバイル適応デバイスを前記モバイル適応デバイスへの前記聴覚入力情報及び視覚入力情報に向けるように前記エフェクタを制御する第4の神経領域と、
    を含み、
    c)視覚的結合は、前記モバイル適応デバイスの実世界移動の間に、
    前記第1、第2、第3、及び第4の各神経領域内における神経ユニットの再入接続可能性、
    前記第1、第2、第3、及び第4の神経領域間の再入接続可能性、及び、
    前記第1、第2、第3、及び第4の各神経領域内での活動である局部的処理と、前記実世界における動作の間に形成され前記第1、第2、第3、及び第4神経領域の間で同期活動する機能的神経回路を生成するグローバル処理との相互作用、
    を通して実現されることを特徴とするデバイス。
  2. 請求項1に記載のモバイル頭脳ベースデバイスにおいて、前記第1、第2、第3、及び第4の各神経領域における各神経ユニットは、そのタイミングが発生率変数によって表される相対的な神経活動を有し、この神経活動の相対的タイミングは位相変数によって表され、複数の神経ユニットの発生位相が類似することは同期活動を反映するものであることを特徴とするデバイス。
  3. 請求項1に記載のモバイル頭脳ベースデバイスにおいて、前記評価刺激は、前記第1、第2、第3、及び第4の神経領域間のシナプシス結合の強さを修正して、実世界環境におけるモバイル頭脳ベースデバイスの適応的行動を与えることを特徴とするデバイス。
  4. 請求項1に記載のモバイル頭脳ベースデバイスにおいて、前記第1の神経領域は、垂直皮質経路V1→V2→V4→ITに対応することを特徴とするデバイス。
  5. 請求項4に記載のモバイル頭脳ベースデバイスにおいて、前記神経領域V1は、視覚的物体の色及びラインセグメントに反応する神経ユニットを有するサブ領域に分割されることを特徴とするデバイス。
  6. 請求項4に記載のモバイル頭脳ベースデバイスにおいて、前記神経領域V2は、その各領域が前記視覚的知覚入力の画素に対応する神経ユニットを有することを特徴とするデバイス。
  7. 請求項1に記載のモバイル頭脳ベースデバイスにおいて、前記第1、第2、第3、及び第4の各神経領域内の神経ユニットは、それら自身の間で興奮性のシナプシス結合を有し、前記興奮性のシナプシス結合のそれぞれは、電圧依存であることを特徴とするデバイス。
  8. 請求項7に記載のモバイル頭脳ベースデバイスにおいて、前記第1、第2、第3、及び第4の神経領域は、前記領域間で再入可能な興奮性結合を有し、前記全ての再入可能な興奮性結合は電圧依存であることを特徴とするデバイス。
  9. 請求項1に記載のモバイル頭脳ベースデバイスにおいて、前記評価刺激は、前記第1の神経領域から前記第3の神経領域へと、前記第1の神経領域から前記第4の神経領域へとのニューラル経路におけるシナプシス結合の強さの調節に寄与することを特徴とするデバイス。
  10. 所定の視覚的物体を、視覚的特徴を共有する他の視覚的物体から識別するために実世界環境において学習するモバイル頭脳ベースデバイスであって、
    a)その視野における前記視覚的物体についての視覚情報を受信するためのカメラと、音声情報を受信するための音声レシーバと、前記カメラから受信した視覚的刺激と前記音声レシーバから受信した音声刺激に向かって方向付けするための追跡システムとを備えるモバイル適応デバイスと、
    b)視覚的物体に対する結び付けを行う人間の皮質及び皮質下の頭脳領域に対応するものであって、前記視覚及び聴覚刺激に反応して前記追跡システムを制御する擬似的な大規模再入可能神経構造システムと、
    を備え、前記神経構造システムは、それぞれが神経ユニットからなる複数の神経領域を有し、前記神経領域には、前記複数の神経領域間の再入可能なシナプシス結合と前記各神経領域内の神経ユニット間の再入可能なシナプシス結合とが存在し、前記再入可能なシナプシス結合は、前記シナプシス再入可能結合の強さとは独立して前記複数の神経領域間の同期活動を助長するものであり、評価独立及び評価依存のシナプシス可塑性を有し、前記擬似的な大規模再入可能神経神経構造システムは、前記モバイル頭脳ベースデバイスの自律した行動を与えることを特徴とするデバイス。
  11. 請求項10に記載のモバイル頭脳ベースデバイスにおいて、前記擬似的な大規模再入可能神経構造システムは、前記視野内の各物体に対する前記各神経領域における、前記複数の神経領域間と神経ユニット間とに、異なるアクティブ再入可能な神経回路を形成することを特徴とするデバイス。
  12. 請求項11に記載のモバイル頭脳ベースデバイスにおいて、前記異なるアクティブ再入可能な神経回路は、前記回路の相対的な活動のタイミングにおいて差異を有することを特徴とするデバイス。
  13. 請求項10に記載のモバイル頭脳ベースデバイスにおいて、前記擬似的な大規模再入可能神経構造システムは、視覚システム、追跡システム、聴覚システム、及び評価システムを含む神経領域の4システムからなることを特徴とするデバイス。
  14. 請求項13に記載のモバイル頭脳ベースデバイスであって、擬似的な大規模再入可能神経構造を実装するコンピュータシステムをさらに含み、ここにおいて、前記コンピュータシステムは、構造上の投射の属性テーブルと前記再入可能神経構造の結合形式とを蓄積し、前記テーブルは、前記モバイル適応デバイスを、該デバイスがその環境内を移動する間制御するために使用される頭脳の神経構造をあらわすことを特徴とするデバイス。
  15. 請求項14に記載のモバイル頭脳ベースデバイスにおいて、前記各神経領域は、神経ユニットからなり、前記コンピュータシステムは、その1つが前記各神経領域のサイズを規定する別個のパラメータテーブルを蓄積することを特徴とするデバイス。
JP2007508501A 2004-04-15 2005-04-14 実世界環境において使用するためのモバイル頭脳ベースデバイス Expired - Fee Related JP5175089B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US56237604P 2004-04-15 2004-04-15
US60/562,376 2004-04-15
US11/105,019 US7519452B2 (en) 2004-04-15 2005-04-13 Mobile brain-based device for use in a real world environment
US11/105,019 2005-04-13
PCT/US2005/012541 WO2005106762A2 (en) 2004-04-15 2005-04-14 Mobile brain-based device for use in a real world environment

Publications (2)

Publication Number Publication Date
JP2007536610A true JP2007536610A (ja) 2007-12-13
JP5175089B2 JP5175089B2 (ja) 2013-04-03

Family

ID=35242324

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007508501A Expired - Fee Related JP5175089B2 (ja) 2004-04-15 2005-04-14 実世界環境において使用するためのモバイル頭脳ベースデバイス

Country Status (5)

Country Link
US (4) US7519452B2 (ja)
EP (2) EP1763811A4 (ja)
JP (1) JP5175089B2 (ja)
CN (1) CN1981296B (ja)
WO (1) WO2005106762A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024100995A1 (ja) * 2022-11-11 2024-05-16 ソフトバンク株式会社 情報処理装置、プログラム、及び情報処理方法

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7765029B2 (en) * 2005-09-13 2010-07-27 Neurosciences Research Foundation, Inc. Hybrid control device
WO2007094830A1 (en) 2005-11-10 2007-08-23 In Silico Biosciences, Inc. Method and apparatus for computer modeling the human brain for predicting drug effects
US7827124B2 (en) * 2005-12-28 2010-11-02 Neurosciences Research Foundation, Inc. Brain-based device having a cerebellar model for predictive motor control
EP2024901A2 (en) 2006-05-25 2009-02-18 Elminda Ltd. Neuropsychological spatiotemporal pattern recognition
US20080004749A1 (en) * 2006-06-30 2008-01-03 Honeywell International, Inc. System and method for generating instructions for a robot
US8103602B2 (en) 2006-12-29 2012-01-24 Neurosciences Research Foundation, Inc. Solving the distal reward problem through linkage of STDP and dopamine signaling
US20140214730A9 (en) * 2007-02-05 2014-07-31 Goded Shahaf System and method for neural modeling of neurophysiological data
US20110004412A1 (en) * 2007-11-29 2011-01-06 Elminda Ltd. Clinical applications of neuropsychological pattern analysis and modeling
US8473436B2 (en) * 2009-11-18 2013-06-25 The Intellisis Corporation Neural segmentation of an input signal and applications using simulated neurons, and a phase modulator
US9405975B2 (en) 2010-03-26 2016-08-02 Brain Corporation Apparatus and methods for pulse-code invariant object recognition
US9129220B2 (en) * 2010-07-07 2015-09-08 Qualcomm Incorporated Methods and systems for digital neural processing with discrete-level synapes and probabilistic STDP
US9906838B2 (en) 2010-07-12 2018-02-27 Time Warner Cable Enterprises Llc Apparatus and methods for content delivery and message exchange across multiple content delivery networks
US8860787B1 (en) 2011-05-11 2014-10-14 Google Inc. Method and apparatus for telepresence sharing
US9256711B2 (en) * 2011-07-05 2016-02-09 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for providing health information to employees via augmented reality display
US8862764B1 (en) * 2012-03-16 2014-10-14 Google Inc. Method and Apparatus for providing Media Information to Mobile Devices
US20130297539A1 (en) * 2012-05-07 2013-11-07 Filip Piekniewski Spiking neural network object recognition apparatus and methods
US9129221B2 (en) * 2012-05-07 2015-09-08 Brain Corporation Spiking neural network feedback apparatus and methods
US9224090B2 (en) * 2012-05-07 2015-12-29 Brain Corporation Sensory input processing apparatus in a spiking neural network
US9412041B1 (en) 2012-06-29 2016-08-09 Brain Corporation Retinal apparatus and methods
US9186793B1 (en) 2012-08-31 2015-11-17 Brain Corporation Apparatus and methods for controlling attention of a robot
US9311594B1 (en) 2012-09-20 2016-04-12 Brain Corporation Spiking neuron network apparatus and methods for encoding of sensory data
US9218563B2 (en) 2012-10-25 2015-12-22 Brain Corporation Spiking neuron sensory processing apparatus and methods for saliency detection
US9275326B2 (en) 2012-11-30 2016-03-01 Brain Corporation Rate stabilization through plasticity in spiking neuron network
US9904889B2 (en) 2012-12-05 2018-02-27 Applied Brain Research Inc. Methods and systems for artificial cognition
US9436908B2 (en) * 2013-02-22 2016-09-06 Qualcomm Technologies Inc. Apparatus and methods for rate-modulated plasticity in a neuron network
US9436909B2 (en) 2013-06-19 2016-09-06 Brain Corporation Increased dynamic range artificial neuron network apparatus and methods
US9239985B2 (en) 2013-06-19 2016-01-19 Brain Corporation Apparatus and methods for processing inputs in an artificial neuron network
US9552546B1 (en) 2013-07-30 2017-01-24 Brain Corporation Apparatus and methods for efficacy balancing in a spiking neuron network
CA3231419A1 (en) 2013-08-02 2015-02-05 Soul Machines Limited System for neurobehavioural animation
US10552734B2 (en) * 2014-02-21 2020-02-04 Qualcomm Incorporated Dynamic spatial target selection
US9987743B2 (en) 2014-03-13 2018-06-05 Brain Corporation Trainable modular robotic apparatus and methods
US9533413B2 (en) 2014-03-13 2017-01-03 Brain Corporation Trainable modular robotic apparatus and methods
US9881349B1 (en) 2014-10-24 2018-01-30 Gopro, Inc. Apparatus and methods for computerized object identification
FR3028743B1 (fr) * 2014-11-21 2021-02-19 Univ Centre Hospitalier Dispositif pour la mesure des signaux de l'activite cerebrale d'un individu
US9840003B2 (en) 2015-06-24 2017-12-12 Brain Corporation Apparatus and methods for safe navigation of robotic devices
WO2018200541A1 (en) 2017-04-24 2018-11-01 Carnegie Mellon University Virtual sensor system
US11151440B2 (en) 2017-11-08 2021-10-19 International Business Machines Corporation Neural response human detector
CN109376853B (zh) * 2018-10-26 2021-09-24 电子科技大学 回声状态神经网络输出轴突电路
WO2021023724A1 (en) * 2019-08-05 2021-02-11 Université de Montréal System simulating a decisional process in a mammal brain about motions of a visually observed body
EP4100893A4 (en) * 2020-02-03 2024-03-20 Strong Force TX Portfolio 2018, LLC SELECTION AND CONFIGURATION OF ARTIFICIAL INTELLIGENCE
CN111338482B (zh) * 2020-03-04 2023-04-25 太原理工大学 一种基于监督自编码的脑控字符拼写识别方法及系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5136687A (en) * 1989-10-10 1992-08-04 Edelman Gerald M Categorization automata employing neuronal group selection with reentry
US6507828B1 (en) * 1998-06-19 2003-01-14 Jason Leonard Neuron circuit and related techniques
WO2002015125A2 (en) * 2000-08-16 2002-02-21 Research Foundation Of State University Of New York Neural network device for evolving appropriate connections
JP2002301674A (ja) * 2001-04-03 2002-10-15 Sony Corp 脚式移動ロボット及びその運動教示方法、並びに記憶媒体
US6999953B2 (en) * 2002-07-03 2006-02-14 Energy Conversion Devices, Inc. Analog neurons and neurosynaptic networks
US20040138780A1 (en) * 2002-11-15 2004-07-15 Lewis Murray Anthony Certain principles of biomorphic robots

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
CSNG200000815003; 安野 卓 他: '人間の状況判断機能と操縦スキルを模擬した自律型移動ロボットの走行制御' 電気学会論文誌 Vol.118-C No.12, 19981201, 第1698-1705頁 *
JPN6011039171; Krichmar, J.L., Edelman, G.M.: 'Brain-based devices: intelligent systems based on principles of the nervous system' Proceedings. 2003 IEEE/RSJ International Conference on Intelligent Robots and Systems , 20031027, 第940-945頁 *
JPN6011039173; 安野 卓 他: '人間の状況判断機能と操縦スキルを模擬した自律型移動ロボットの走行制御' 電気学会論文誌 Vol.118-C No.12, 19981201, 第1698-1705頁 *
JPN7012005113; Jeffrey L. Krichmar and James A. Snook: 'A Neural Approach to Adaptive Behavior and Multi-Sensor Action Selection in a Mobile Device' Proceedings of the 2002 IEEE International Conference on Robotics and Automation vol.4, 200205, p.3864-3869. *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024100995A1 (ja) * 2022-11-11 2024-05-16 ソフトバンク株式会社 情報処理装置、プログラム、及び情報処理方法

Also Published As

Publication number Publication date
EP2437205A1 (en) 2012-04-04
US7519452B2 (en) 2009-04-14
CN1981296B (zh) 2012-03-14
WO2005106762A2 (en) 2005-11-10
WO2005106762A3 (en) 2007-02-22
EP1763811A2 (en) 2007-03-21
CN1981296A (zh) 2007-06-13
JP5175089B2 (ja) 2013-04-03
US20120173020A1 (en) 2012-07-05
US20050261803A1 (en) 2005-11-24
EP1763811A4 (en) 2010-04-21
US20130274919A1 (en) 2013-10-17
US20110184556A1 (en) 2011-07-28

Similar Documents

Publication Publication Date Title
JP5175089B2 (ja) 実世界環境において使用するためのモバイル頭脳ベースデバイス
Ursino et al. Neurocomputational approaches to modelling multisensory integration in the brain: a review
AU2015248794C1 (en) System, method and computer program product for handling humanoid robot interaction with human
Paulun et al. A retinotopic spiking neural network system for accurate recognition of moving objects using neucube and dynamic vision sensors
CN109765991A (zh) 社交互动系统、用于帮助用户进行社交互动的系统及非暂时性计算机可读存储介质
Velásquez An emotion-based approach to robotics
Grossberg Attention: Multiple types, brain resonances, psychological functions, and conscious states
CN109376621A (zh) 一种样本数据生成方法、装置以及机器人
Lacquaniti et al. How long did it last? You would better ask a human
Grossberg Developmental designs and adult functions of cortical maps in multiple modalities: Perception, attention, navigation, numbers, streaming, speech, and cognition
Rucci et al. Integrating robotics and neuroscience: brains for robots, bodies for brains
Yücel et al. Head pose and neural network based gaze direction estimation for joint attention modeling in embodied agents
Samuelson et al. Grounding word learning in space and time
Iqbal et al. Detecting and synthesizing synchronous joint action in human-robot teams
D'Angelo A bio-inspired attentive model to predict perceptual saliency in natural scenes
Ma et al. Neural mechanisms underlying temporal aspects of conscious visual perception
Salah et al. Head pose and gaze direction estimation for joint attention modeling in embodied agents
Berthoz Simplexity in Perception
NGUYEN Bio-inspired retinal optic flow perception in robotic navigation
Lins An embodied account of spatial language grounding
Parisi et al. A Deep Neural Model for Emotion-Driven Multimodal Attention
Wang The time dimension for neural computation
Ravulakollu et al. Stimuli localization: An integration methodology inspired by the superior colliculus for audio and visual attention
CA3193435A1 (en) Event representation in embodied agents
KR20220117671A (ko) 몰입도-추론 기반 교감-유도형 dht 생성 방법 및 이를 적용하는 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20111101

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20111109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120201

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121010

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20121025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130104

R150 Certificate of patent or registration of utility model

Ref document number: 5175089

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees