JP2016530630A - ニューラルデバイスのトレーニングを調節するための方法および装置 - Google Patents
ニューラルデバイスのトレーニングを調節するための方法および装置 Download PDFInfo
- Publication number
- JP2016530630A JP2016530630A JP2016534596A JP2016534596A JP2016530630A JP 2016530630 A JP2016530630 A JP 2016530630A JP 2016534596 A JP2016534596 A JP 2016534596A JP 2016534596 A JP2016534596 A JP 2016534596A JP 2016530630 A JP2016530630 A JP 2016530630A
- Authority
- JP
- Japan
- Prior art keywords
- neural
- training
- adjusting
- neural device
- training parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Feedback Control In General (AREA)
- Image Analysis (AREA)
Abstract
Description
[0001]本出願は、2013年8月13日に出願された米国仮特許出願第61/865,439号、および2013年11月13日に出願された米国特許出願第14/079,181号の利益を主張し、その両方は、参照により全体が本明細書に組み込まれる。
例示的なニューラルシステム
[0036]図1は、本開示のいくつかの態様による、複数のレベルのニューロンをもつ例示的なニューラルシステム100を示す。ニューラルシステム100は、シナプス結合のネットワーク104(すなわち、フィードフォワード結合)を介してニューロンの別のレベル106に結合されたニューロンのあるレベル102を備え得る。簡単のために、図1には2つのレベルのニューロンのみが示されているが、典型的なニューラルシステムには、より少ないまたはより多くのレベルのニューロンが存在し得る。ニューロンのいくつかは、ラテラル結合(lateral)を介して同じ層の他のニューロンに結合し得ることに留意されたい。さらに、ニューロンのいくつかは、フィードバック結合を介して前の層のニューロンに戻る形で結合し得る。
シナプスタイプ
[0048]ニューラルネットワークのハードウェアおよびソフトウェアモデルでは、シナプス関係機能の処理がシナプスタイプに基づき得る。シナプスタイプは、非塑性シナプス(non-plastic synapse)(重みおよび遅延の変化がない)と、可塑性シナプス(重みが変化し得る)と、構造遅延可塑性シナプス(重みおよび遅延が変化し得る)と、完全可塑性シナプス(重み、遅延および結合性が変化し得る)と、それの変形(たとえば、遅延は変化し得るが、重みまたは結合性の変化はない)とを備え得る。これの利点は、処理が再分割され得ることである。たとえば、非塑性シナプスは、可塑性機能を実行すること(またはそのような機能が完了するのを待つこと)を必要とし得ない。同様に、遅延および重み可塑性は、一緒にまたは別々に、順にまたは並列に動作し得る動作に再分割され得る。異なるタイプのシナプスは、適用される異なる可塑性タイプの各々の異なるルックアップテーブルまたは式およびパラメータを有し得る。したがって、本方法は、シナプスのタイプの関係するテーブルにアクセスすることになる。
シナプス可塑性の決定
[0050]神経可塑性(または単に「可塑性」)は、脳内のニューロンおよびニューラルネットワークがそれらのシナプス結合と挙動とを新しい情報、感覚上の刺激、発展、損傷または機能不全に応答して変える能力である。可塑性は、生物学における学習および記憶にとって、また計算論的神経科学およびニューラルネットワークにとって重要である。(たとえば、Hebb則理論による)シナプス可塑性、スパイクタイミング依存可塑性(STDP)、非シナプス可塑性、活性依存可塑性、構造可塑性および恒常的可塑性など、様々な形の可塑性が研究されている。
ニューロンモデルおよび演算
[0057]有用なスパイキングニューロンモデルを設計するための一般的原理がいくつかある。良いニューロンモデルは、2つの計算レジーム、すなわち、一致検出および関数計算の点で豊富な潜在的な挙動を有し得る。その上、良いニューロンモデルは、テンポラル・コーディングを可能にするための2つの要素を有する必要がある。すなわち、入力の到着時間は出力時間に影響を与え、一致検出は狭い時間ウィンドウを有し得る。最後に、計算上魅力的であるために、良いニューロンモデルは、連続時間において閉形式(closed-form)の解を有し得、ニアアトラクター(near attractor)と鞍点とを含む安定した挙動を有し得る。言い換えれば、有用なニューロンモデルは、実用的なニューロンモデルであり、豊富な、現実的で、生物学的に一貫した挙動をモデル化するために使用され得、神経回路のエンジニアリングとリバースエンジニアリングの両方を行うために使用され得るニューロンモデルである。
Hunzinger Coldモデル
[0061]Hunzinger Coldニューロンモデルは、豊富な様々な神経挙動を再生し得る最小二重レジームスパイキング線形動的モデルである。モデルの1次元または2次元の線形ダイナミクスは2つのレジームを有することができ、時間定数(および結合)はレジームに依存し得る。しきい値下レジームでは、時間定数は、慣例により負であり、一般に生物学的に一貫した線形方式で静止状態に細胞を戻す役目を果たすリーキーチャネルダイナミクスを表す。しきい値上レジームにおける時間定数は、慣例により正であり、一般にスパイク生成のレイテンシを生じさせる一方でスパイク状態に細胞を駆り立てる反リーキーチャネルダイナミクスを反映する。
[0070]瞬時結合の原理によって、状態について(また、単一の指数項による)だけではなく、特定の状態に到達するために必要とされる時間についても、閉形式の解が可能である。閉形式の状態解は、次のとおりである。
ニューラルコーディング
[0076]図1の人工ニューロン102、106から構成されるニューラルネットワークモデルなどの有用なニューラルネットワークモデルは、コインシデンス・コーディング(coincidence coding)、テンポラル・コーディング(temporal coding)またはレート・コーディング(rate coding)など、様々な好適なニューラルコーディング方式のうちのいずれかを介して情報を符号化することができる。コインシデンス・コーディングでは、情報は、ニューロン集団の活動電位(スパイキング活動)の一致(または時間的近接度)で符号化される。テンポラル・コーディングでは、ニューロンは、絶対時間であるか相対時間であるかを問わず、活動電位(すなわち、スパイク)の正確なタイミングを通して情報を符号化する。したがって、情報は、ニューロン集団の間でスパイクの相対的タイミングで符号化され得る。対照的に、レート・コーディングは、発火レートまたは集団発火レートでニューラル情報をコーディングすることを伴う。
到着時間
[0078]良いニューロンモデルでは、入力の到着の時間は、出力の時間に影響を与えるはずである。シナプス入力は、ディラックのデルタ関数であるか、成形シナプス後電位(PSP:shaped post-synaptic potential)であるかを問わず、興奮性(EPSP)であるか、抑制性(IPSP)であるかを問わず、到着の時間(たとえば、デルタ関数またはステップもしくは他の入力関数の開始もしくはピークの時間)を有し、これは入力時間と呼ばれ得る。ニューロン出力(すなわち、スパイク)は、(細胞体、軸索に沿ったポイント、または軸索の端部など、どこで測定される場合でも)発生の時間を有し、これは出力時間と呼ばれ得る。出力時間は、スパイクのピークの時間、スパイクの開始の時間、または出力波形に関係する任意の他の時間であり得る。支配的な原則は、出力時間が入力時間に依存することである。
入力
[0080]ニューロンモデルへの入力はディラックのデルタ関数、たとえば電流としての入力または伝導性ベースの入力を含み得る。後者の場合、ニューロン状態への寄与は連続的または状況依存的であり得る。
ニューラルデバイスの例示的なトレーニング
[0089]人工神経系を利用するデバイス(たとえば、複数の人工ニューロンを備える神経形態学的プロセッサ)が現在開発されている。これらのニューラルデバイスは、動物の脳のような処理を模倣して、意思決定機能のための人工神経系を活用する。そのようなニューラルデバイスは、典型的には、所望のタスクを実行する前にトレーニングを必要とする。
Claims (108)
- 人工神経系を有するニューラルデバイスをトレーニングするための方法であって、
トレーニング環境内の前記ニューラルデバイスを観察することと、
前記観察することに少なくとも部分的に基づいて、少なくとも1つのトレーニングパラメータを調節することと、
を備える、方法。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、前記ニューラルデバイスの時間が反応することを可能にすること、
をさらに備える、請求項1に記載の方法。 - 前記観察すること、前記調節すること、および前記可能にすることを1回または複数回繰り返すこと、
をさらに備える、請求項2に記載の方法。 - 前記少なくとも1つのトレーニングパラメータは、前記トレーニング環境の少なくとも1つの環境ファクタを備える、請求項1に記載の方法。
- 前記少なくとも1つの環境ファクタは、オブジェクトの周囲の仮想境界を備える、請求項4に記載の方法。
- 前記少なくとも1つのトレーニングパラメータを調節することは、前記オブジェクトの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整すること、
を備える、請求項5に記載の方法。 - 前記仮想境界は前記オブジェクトの形状に適合する、請求項5に記載の方法。
- 前記オブジェクトの周囲の前記仮想境界は、それに関連付けられるノイズファクタを有する、請求項5に記載の方法。
- 前記観察することに少なくとも部分的に基づいて、前記仮想境界に関連付けられる前記ノイズファクタを調整すること、
をさらに備える、請求項8に記載の方法。 - 前記少なくとも1つのトレーニングパラメータを調節することは、前記ニューラルデバイスによる感知に影響を与えるために、前記少なくとも1つの環境ファクタを調整すること、
を備える、請求項4に記載の方法。 - 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスの少なくとも1つの学習ファクタを備える、請求項1に記載の方法。
- 前記少なくとも1つの学習ファクタは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項11に記載の方法。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項11に記載の方法。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスの周囲の仮想境界を備える、請求項11に記載の方法。
- 前記ニューラルデバイスの周囲の前記仮想境界は、前記ニューラルデバイスの表面から均一な間隔を有する、請求項14に記載の方法。
- 前記少なくとも1つのトレーニングパラメータを調節することは、前記ニューラルデバイスの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整すること
を備える、請求項14に記載の方法。 - 前記少なくとも1つのトレーニングパラメータを調節することは、前記トレーニング環境における前記ニューラルデバイスの周囲およびオブジェクトの周囲の仮想境界間の重複の深度、領域、量、またはレートに少なくとも部分的に基づく、請求項11に記載の方法。
- 前記少なくとも1つのトレーニングパラメータを調節することは、
前記観察すること、または前記ニューラルデバイスからのセンサーデータのうちの少なくとも1つに少なくとも部分的に基づいて、第1の報酬利得を生成することと、
前記第1の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節することと、
を備える、請求項1に記載の方法。 - 制御コマンドを受信することと、
前記制御コマンドに少なくとも部分的に基づいて、第2の報酬利得を生成すること、ここにおいて、前記調節することは、前記第1および第2の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節する、と、
を備える、請求項18に記載の方法。 - 前記観察することは、前記トレーニング環境内の前記ニューラルデバイスあるいは1つまたは複数のオブジェクトの位置、時間、または速度のうちの少なくとも1つを監視することを備える、請求項1に記載の方法。
- 同じトレーニング環境内の別のニューラルデバイスを観察することと、
前記別のニューラルデバイスの前記観察に少なくとも部分的に基づいて、前記別のニューラルデバイスの少なくとも1つの学習ファクタを調節することと、
をさらに備える、請求項1に記載の方法。 - 人工神経系を有するニューラルデバイスをトレーニングするための装置であって、
トレーニング環境内の前記ニューラルデバイスを観察して、
前記観察することに少なくとも部分的に基づいて、少なくとも1つのトレーニングパラメータを調節する、
ように構成された処理システムと、
前記処理システムに結合されたメモリと、
を備える、装置。 - 前記処理システムは、前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、前記ニューラルデバイスの時間が反応することを可能にするようにさらに構成される、請求項22に記載の装置。
- 前記処理システムは、前記観察すること、前記調節すること、および前記可能にすることを1回または複数回繰り返すようにさらに構成される、請求項23に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、前記トレーニング環境の少なくとも1つの環境ファクタを備える、請求項22に記載の装置。
- 前記少なくとも1つの環境ファクタは、オブジェクトの周囲の仮想境界を備える、請求項25に記載の装置。
- 前記処理システムは、前記オブジェクトの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整することによって、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項26に記載の装置。
- 前記仮想境界は、前記オブジェクトの形状に適合する、請求項26に記載の装置。
- 前記オブジェクトの周囲の前記仮想境界は、それに関連付けられるノイズファクタを有する、請求項26に記載の装置。
- 前記処理システムは、前記観察することに少なくとも部分的に基づいて、前記仮想境界に関連付けられる前記ノイズファクタを調整するように、さらに構成される、請求項29に記載の装置。
- 前記処理システムは、前記ニューラルデバイスによる感知に影響を与えるために、前記少なくとも1つの環境ファクタを調整することによって、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項25に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスの少なくとも1つの学習ファクタを備える、請求項22に記載の装置。
- 前記少なくとも1つの学習ファクタは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項32に記載の装置。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項32に記載の装置。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスの周囲の仮想境界を備える、請求項32に記載の装置。
- 前記ニューラルデバイスの周囲の前記仮想境界は、前記ニューラルデバイスの表面から均一な間隔を有する、請求項35に記載の装置。
- 前記処理システムは、前記ニューラルデバイスの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整することによって、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項35に記載の装置。
- 前記処理システムは、前記トレーニング環境における前記ニューラルデバイスの周囲およびオブジェクトの周囲の仮想境界間の重複の深度、領域、量、またはレートに少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項32に記載の装置。
- 前記処理システムは、
前記観察すること、または前記ニューラルデバイスからのセンサーデータのうちの少なくとも1つに少なくとも部分的に基づいて、第1の報酬利得を生成することと、
前記第1の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節することと、
によって、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項22に記載の装置。 - 前記処理システムは、
制御コマンドを受信し、
前記制御コマンドに少なくとも部分的に基づいて、第2の報酬利得を生成し、ここにおいて、前記処理システムは、前記第1および第2の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節する、
ように構成される、請求項39に記載の装置。 - 前記処理システムは、前記トレーニング環境内の前記ニューラルデバイスあるいは1つまたは複数のオブジェクトの位置、時間、または速度のうちの少なくとも1つを監視することによって、前記ニューラルデバイスを観察するように構成される、請求項22に記載の装置。
- 前記処理システムは、
同じトレーニング環境内の別のニューラルデバイスを観察し、
前記別のニューラルデバイスの前記観察に少なくとも部分的に基づいて、前記別のニューラルデバイスの少なくとも1つの学習ファクタを調節する、
ようにさらに構成される、請求項22に記載の装置。 - 人工神経系を有するニューラルデバイスをトレーニングするための装置であって、
トレーニング環境内の前記ニューラルデバイスを観察するための手段と、
前記観察することに少なくとも部分的に基づいて、少なくとも1つのトレーニングパラメータを調節するための手段と、
を備える、装置。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、前記ニューラルデバイスの時間が反応することを可能にするための手段、
をさらに備える、請求項43に記載の装置。 - 前記観察すること、前記調節すること、および前記可能にすることを1回または複数回繰り返すための手段、
をさらに備える、請求項44に記載の装置。 - 前記少なくとも1つのトレーニングパラメータは、前記トレーニング環境の少なくとも1つの環境ファクタを備える、請求項43に記載の装置。
- 前記少なくとも1つの環境ファクタは、オブジェクトの周囲の仮想境界を備える、請求項46に記載の装置。
- 前記少なくとも1つのトレーニングパラメータを調節するための前記手段は、前記オブジェクトの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整するように構成される、請求項47に記載の装置。
- 前記仮想境界は、前記オブジェクトの形状に適合する、請求項47に記載の装置。
- 前記オブジェクトの周囲の前記仮想境界は、それに関連付けられるノイズファクタを有する、請求項47に記載の装置。
- 前記観察することに少なくとも部分的に基づいて、前記仮想境界に関連付けられる前記ノイズファクタを調整するための手段、
をさらに備える、請求項50に記載の装置。 - 前記少なくとも1つのトレーニングパラメータを調節するための前記手段は、前記ニューラルデバイスによる感知に影響を与えるために、前記少なくとも1つの環境ファクタを調整するように構成される、請求項46に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスの少なくとも1つの学習ファクタを備える、請求項43に記載の装置。
- 前記少なくとも1つの学習ファクタは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項53に記載の装置。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項53に記載の装置。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスの周囲の仮想境界を備える、請求項53に記載の装置。
- 前記ニューラルデバイスの周囲の前記仮想境界は、前記ニューラルデバイスの表面から均一な間隔を有する、請求項56に記載の装置。
- 前記少なくとも1つのトレーニングパラメータを調節するための前記手段は、前記ニューラルデバイスの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整するように構成される、請求項56に記載の装置。
- 前記少なくとも1つのトレーニングパラメータを調節するための前記手段は、前記トレーニング環境における前記ニューラルデバイスの周囲およびオブジェクトの周囲の仮想境界間の重複の深度、領域、量、またはレートに少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節するように構成される、請求項53に記載の装置。
- 前記少なくとも1つのトレーニングパラメータを調節するための前記手段は、
前記観察することまたは前記ニューラルデバイスからのセンサーデータのうちの少なくとも1つに少なくとも部分的に基づいて、第1の報酬利得を生成し、
前記第1の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節する、
ように構成される、請求項43に記載の装置。 - 制御コマンドを受信するための手段と、
前記制御コマンドに少なくとも部分的に基づいて、第2の報酬利得を生成するための手段、ここにおいて、調節するための前記手段は、前記第1および第2の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節するように構成される、と、
をさらに備える、請求項60に記載の装置。 - 観察するための前記手段は、前記トレーニング環境内の前記ニューラルデバイスあるいは1つまたは複数のオブジェクトの位置、時間、または速度のうちの少なくとも1つを監視するように構成される、請求項43に記載の装置。
- 同じトレーニング環境内の別のニューラルデバイスを観察するための手段と、
前記別のニューラルデバイスの前記観察に少なくとも部分的に基づいて、前記別のニューラルデバイスの少なくとも1つの学習ファクタを調節するための手段と、
をさらに備える、請求項43に記載の装置。 - 人工神経系を有するニューラルデバイスをトレーニングするためのコンピュータプログラム製品であって、
トレーニング環境内の前記ニューラルデバイスを観察し、
前記観察することに少なくとも部分的に基づいて、少なくとも1つのトレーニングパラメータを調節する、
ための実行可能な命令を有する非一時的コンピュータ可読媒体を備える、コンピュータプログラム製品。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、前記ニューラルデバイスの時間が反応することを可能にする、
ための実行可能な命令をさらに備える、請求項64に記載のコンピュータプログラム製品。 - 前記観察すること、前記調節すること、および前記可能にすることを1回または複数回繰り返す、
ための実行可能な命令をさらに備える、請求項65に記載のコンピュータプログラム製品。 - 前記少なくとも1つのトレーニングパラメータは、前記トレーニング環境の少なくとも1つの環境ファクタを備える、請求項64に記載のコンピュータプログラム製品。
- 前記少なくとも1つの環境ファクタは、オブジェクトの周囲の仮想境界を備える、請求項67に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータを調節することは、前記オブジェクトの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整することを備える、請求項68に記載のコンピュータプログラム製品。
- 前記仮想境界は、前記オブジェクトの形状に適合する、請求項68に記載のコンピュータプログラム製品。
- 前記オブジェクトの周囲の前記仮想境界は、それに関連付けられるノイズファクタを有する、請求項68に記載のコンピュータプログラム製品。
- 前記観察することに少なくとも部分的に基づいて、前記仮想境界に関連付けられる前記ノイズファクタを調整する、
ための実行可能な命令をさらに備える、請求項71に記載のコンピュータプログラム製品。 - 前記少なくとも1つのトレーニングパラメータを調節することは、前記ニューラルデバイスによる感知に影響を与えるために、前記少なくとも1つの環境ファクタを調整することを備える、請求項67に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスの少なくとも1つの学習ファクタを備える、請求項64に記載のコンピュータプログラム製品。
- 前記少なくとも1つの学習ファクタは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項74に記載のコンピュータプログラム製品。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項74に記載のコンピュータプログラム製品。
- 前記少なくとも1つの学習ファクタは、前記ニューラルデバイスの周囲の仮想境界を備える、請求項74に記載のコンピュータプログラム製品。
- 前記ニューラルデバイスの周囲の前記仮想境界は、前記ニューラルデバイスの表面から均一な間隔を有する、請求項77に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータを調節することは、前記ニューラルデバイスの周囲の前記仮想境界の大きさまたは形状のうちの少なくとも1つを調整することを備える、請求項77に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータを調節することは、前記トレーニング環境における前記ニューラルデバイスの周囲およびオブジェクトの周囲の仮想境界間の重複の深度、領域、量、またはレートに少なくとも部分的に基づく、請求項74に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータを調節することは、
前記観察すること、または前記ニューラルデバイスからのセンサーデータのうちの少なくとも1つに少なくとも部分的に基づいて、第1の報酬利得を生成することと、
前記第1の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節することと、
を備える、請求項64に記載のコンピュータプログラム製品。 - 制御コマンドを受信し、
前記制御コマンドに少なくとも部分的に基づいて、第2の報酬利得を生成し、
ここにおいて、前記調節することは、前記第1および第2の報酬利得に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節することを備える、
ための実行可能な命令をさらに備える、請求項81に記載のコンピュータプログラム製品。 - 前記観察することは、前記トレーニング環境内の前記ニューラルデバイスあるいは1つまたは複数のオブジェクトの位置、時間、または速度のうちの少なくとも1つを監視することを備える、請求項64に記載のコンピュータプログラム製品。
- 同じトレーニング環境内の別のニューラルデバイスを観察し、
前記別のニューラルデバイスの前記観察に少なくとも部分的に基づいて、前記別のニューラルデバイスの少なくとも1つの学習ファクタを調節する、
ために実行可能な命令をさらに備える、請求項64に記載のコンピュータプログラム製品。 - 人工神経系を有するニューラルデバイスをトレーニングするための方法であって、
前記ニューラルデバイスで、前記ニューラルデバイスの少なくとも1つのトレーニングパラメータを調節するための命令を受信することと、
前記受信された命令に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節することと、
を備える、方法。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、トレーニング環境内で1つまたは複数の行動を取ること、
をさらに備える、請求項85に記載の方法。 - 前記ニューラルデバイスで、トレーニング環境についてのデータを感知することと、
前記ニューラルデバイスの外部のトレーニング装置に前記データを送信することと、
をさらに備える、請求項85に記載の方法。 - 前記命令は前記トレーニング装置から受信される、請求項87に記載の方法。
- 前記少なくとも1つのトレーニングパラメータは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項85に記載の方法。
- 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項85に記載の方法。
- 処理システムであって、
装置の少なくとも1つのトレーニングパラメータを調節するための命令を受信し、
前記受信された命令に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節する、
ように構成された処理システムと、
前記処理システムに結合されたメモリと、
を備える、人工神経系を有する装置。 - 前記処理システムは、前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、トレーニング環境内で1つまたは複数の行動を取るようにさらに構成される、請求項91に記載の装置。
- 前記処理システムは、
トレーニング環境についてのデータを感知して、
トレーニング装置に前記データを送信する、
ようにさらに構成される、請求項91に記載の装置。 - 前記命令は前記トレーニング装置から受信される、請求項93に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項91に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、前記装置のためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項91に記載の装置。
- 装置の少なくとも1つのトレーニングパラメータを調節するための命令を受信するための手段と、
前記受信された命令に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節するための手段と、
を備える、人工神経系を有する装置。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、トレーニング環境内で1つまたは複数の行動を取るための手段、
をさらに備える、請求項97に記載の装置。 - トレーニング環境についてのデータを感知するための手段と、
トレーニング装置に前記データを送信するための手段と、
をさらに備える、請求項97に記載の装置。 - 前記命令は前記トレーニング装置から受信される、請求項99に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項97に記載の装置。
- 前記少なくとも1つのトレーニングパラメータは、前記装置のためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項97に記載の装置。
- 人工神経系を有するニューラルデバイスをトレーニングするためのコンピュータプログラム製品であって、
前記ニューラルデバイスで、前記ニューラルデバイスの少なくとも1つのトレーニングパラメータを調節するための命令を受信し、
前記受信された命令に少なくとも部分的に基づいて、前記少なくとも1つのトレーニングパラメータを調節する、
ためのコードを有する非一時的コンピュータ可読媒体を備える、コンピュータプログラム製品。 - 前記調節された少なくとも1つのトレーニングパラメータに少なくとも部分的に基づいて、トレーニング環境内で1つまたは複数の行動を取る、
ためのコードをさらに備える、請求項103に記載のコンピュータプログラム製品。 - 前記ニューラルデバイスで、トレーニング環境についてのデータを感知し、
前記ニューラルデバイスの外部のトレーニング装置に前記データを送信する、
ためのコードをさらに備える、請求項103に記載のコンピュータプログラム製品。 - 前記命令は前記トレーニング装置から受信される、請求項105に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータは、スパイキングレート、学習速度、神経調節の量または効果、シナプス可塑性のための能力、センサーの感度、モータ制御の利得、制御信号の利得、前記人工神経系に含まれる人工ニューロンの数、または前記人工神経系におけるシナプス結合数のうちの少なくとも1つを備える、請求項103に記載のコンピュータプログラム製品。
- 前記少なくとも1つのトレーニングパラメータは、前記ニューラルデバイスのためのニューラルモデルにおける時定数、前記ニューラルモデルの状態、前記ニューラルモデルの1つまたは複数の係数、あるいは前記ニューラルモデルの1つまたは複数の式のうちの少なくとも1つを備える、請求項103に記載のコンピュータプログラム製品。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201361865439P | 2013-08-13 | 2013-08-13 | |
US61/865,439 | 2013-08-13 | ||
US14/079,181 US9542644B2 (en) | 2013-08-13 | 2013-11-13 | Methods and apparatus for modulating the training of a neural device |
US14/079,181 | 2013-11-13 | ||
PCT/US2014/048605 WO2015023425A2 (en) | 2013-08-13 | 2014-07-29 | Methods and apparatus for modulating the training of a neural device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016530630A true JP2016530630A (ja) | 2016-09-29 |
JP2016530630A5 JP2016530630A5 (ja) | 2017-03-09 |
JP6227783B2 JP6227783B2 (ja) | 2017-11-08 |
Family
ID=52467560
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016534596A Active JP6227783B2 (ja) | 2013-08-13 | 2014-07-29 | ニューラルデバイスのトレーニングを調節するための方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9542644B2 (ja) |
EP (1) | EP3033718A2 (ja) |
JP (1) | JP6227783B2 (ja) |
CN (1) | CN105531724B (ja) |
WO (1) | WO2015023425A2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112292690A (zh) * | 2018-06-14 | 2021-01-29 | 奇跃公司 | 增强现实深度手势网络 |
JP2021033415A (ja) * | 2019-08-19 | 2021-03-01 | 株式会社東芝 | スパイキングニューラルネットワーク装置およびその学習方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104657777B (zh) * | 2015-03-16 | 2017-06-16 | 长春工业大学 | 基于混沌小波神经网络的车用电线挤塑工艺参数优化方法 |
US9805770B1 (en) | 2016-07-22 | 2017-10-31 | Hewlett Packard Enterprise Development Lp | Memristor access transistor controlled non-volatile memory programming methods |
US11263521B2 (en) | 2016-08-30 | 2022-03-01 | International Business Machines Corporation | Voltage control of learning rate for RPU devices for deep neural network training |
US10197971B1 (en) | 2017-08-02 | 2019-02-05 | International Business Machines Corporation | Integrated optical circuit for holographic information processing |
CN108197698B (zh) * | 2017-12-13 | 2022-10-14 | 中国科学院自动化研究所 | 基于多模态融合的多脑区协同自主决策方法 |
CN109146071A (zh) * | 2017-12-28 | 2019-01-04 | 上海智位机器人股份有限公司 | 基于神经网络的智能传感器装置及处理方法 |
CN110389649B (zh) * | 2018-04-18 | 2023-09-26 | 北京京东尚科信息技术有限公司 | 用于环境感知的训练方法和系统 |
ES2966999T3 (es) * | 2018-08-03 | 2024-04-25 | Siemens Healthcare Diagnostics Inc | Procedimiento y dispositivo para entrenar una rutina de aprendizaje automático para el control de un sistema técnico |
CN111406706B (zh) * | 2019-01-04 | 2022-01-04 | 温州医科大学 | 脑机接口行为学模型的构建方法 |
US11621269B2 (en) | 2019-03-11 | 2023-04-04 | Globalfoundries U.S. Inc. | Multi-level ferroelectric memory cell |
US20210049839A1 (en) * | 2019-08-12 | 2021-02-18 | Micron Technology, Inc. | Automotive predictive maintenance |
CN113483885B (zh) * | 2021-07-06 | 2022-05-31 | 吉林大学 | 一种基于蝎子毛缝耦合定位机理的复合脉冲振源定位方法 |
CN116797851B (zh) * | 2023-07-28 | 2024-02-13 | 中国科学院自动化研究所 | 图像分类模型的类脑连续学习方法、图像分类方法和装置 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69433074D1 (de) * | 1993-07-02 | 2003-10-02 | Siemens Corp Res Inc | Hintergrundrückgewinnung in monokularer Bildverarbeitung |
KR100426088B1 (ko) * | 2002-01-31 | 2004-04-06 | 삼성전자주식회사 | 자가구축 학습페트리넷 |
WO2005072461A2 (en) | 2004-01-27 | 2005-08-11 | New School Technologies, Llc | Synthetic nervous system for robotics |
EP1650672A3 (en) | 2004-10-21 | 2006-08-23 | HONDA MOTOR CO., Ltd. | A neural network element with reinforcement/attenuation learning |
EP1691572B8 (en) | 2005-02-09 | 2019-09-11 | Oticon A/s | Method and system for training a hearing aid using a self-organising map |
US8103602B2 (en) * | 2006-12-29 | 2012-01-24 | Neurosciences Research Foundation, Inc. | Solving the distal reward problem through linkage of STDP and dopamine signaling |
US8290885B2 (en) | 2008-03-13 | 2012-10-16 | Sony Corporation | Information processing apparatus, information processing method, and computer program |
US8095485B2 (en) | 2009-01-14 | 2012-01-10 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | System and method for embedding emotion in logic systems |
US8620419B2 (en) | 2009-09-11 | 2013-12-31 | Lockheed Martin Corporation | Multi purpose criteria based adaptive training system |
KR101778028B1 (ko) * | 2010-12-20 | 2017-09-13 | 삼성전자주식회사 | 로봇 및 로봇의 경로 생성 방법 |
US9213937B2 (en) * | 2011-09-21 | 2015-12-15 | Brain Corporation | Apparatus and methods for gating analog and spiking signals in artificial neural networks |
CN102662039A (zh) * | 2012-04-17 | 2012-09-12 | 戴会超 | 一种基于bp神经网络的水体溶解氧饱和度预测方法 |
US9384443B2 (en) * | 2013-06-14 | 2016-07-05 | Brain Corporation | Robotic training apparatus and methods |
-
2013
- 2013-11-13 US US14/079,181 patent/US9542644B2/en active Active
-
2014
- 2014-07-29 WO PCT/US2014/048605 patent/WO2015023425A2/en active Application Filing
- 2014-07-29 EP EP14753360.8A patent/EP3033718A2/en not_active Withdrawn
- 2014-07-29 JP JP2016534596A patent/JP6227783B2/ja active Active
- 2014-07-29 CN CN201480044808.8A patent/CN105531724B/zh active Active
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112292690A (zh) * | 2018-06-14 | 2021-01-29 | 奇跃公司 | 增强现实深度手势网络 |
JP2021527876A (ja) * | 2018-06-14 | 2021-10-14 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 拡張現実深層ジェスチャネットワーク |
US11776242B2 (en) | 2018-06-14 | 2023-10-03 | Magic Leap, Inc. | Augmented reality deep gesture network |
JP2021033415A (ja) * | 2019-08-19 | 2021-03-01 | 株式会社東芝 | スパイキングニューラルネットワーク装置およびその学習方法 |
JP7118930B2 (ja) | 2019-08-19 | 2022-08-16 | 株式会社東芝 | スパイキングニューラルネットワーク装置およびその学習方法 |
Also Published As
Publication number | Publication date |
---|---|
CN105531724A (zh) | 2016-04-27 |
WO2015023425A3 (en) | 2015-05-14 |
US20150052093A1 (en) | 2015-02-19 |
US9542644B2 (en) | 2017-01-10 |
JP6227783B2 (ja) | 2017-11-08 |
EP3033718A2 (en) | 2016-06-22 |
CN105531724B (zh) | 2018-09-11 |
WO2015023425A2 (en) | 2015-02-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6227783B2 (ja) | ニューラルデバイスのトレーニングを調節するための方法および装置 | |
JP6130056B2 (ja) | スパイキングネットワークの効率的なハードウェア実装 | |
US9558442B2 (en) | Monitoring neural networks with shadow networks | |
JP2016538632A (ja) | 教師あり学習を使用してクラスにタグ付けするための方法および装置 | |
JP2016539414A (ja) | スパイキングニューラルネットワークにおいてリプレーを使用するシナプス学習を実装すること | |
JP2017509982A (ja) | 原位置ニューラルネットワークコプロセッシング | |
JP2017511936A (ja) | 現在の計算リソースへのニューラルネットワーク適応 | |
JP2016536679A (ja) | ニューラルシミュレータ用の共有メモリアーキテクチャ | |
US20160260012A1 (en) | Short-term synaptic memory based on a presynaptic spike | |
KR20160123309A (ko) | 확률적 스파이킹 베이지안망들에 대한 이벤트-기반 추론 및 학습 | |
JP2017510890A (ja) | 一般的なニューロンモデルの効率的な実装のための方法および装置 | |
JP2017513108A (ja) | サブしきい値変調を介するアナログ信号再構築および認識 | |
JP2017519268A (ja) | スパイキングニューラルネットワークにおけるグローバルスカラ値によって可塑性を調節すること | |
JP2016536657A (ja) | ニューラルモデルのためのグループタグの実装のための方法および装置 | |
KR20160047581A (ko) | 인공 신경 시스템에서 브레이크포인트 결정 유닛을 구현하기 위한 방법들 및 장치 | |
JP6193509B2 (ja) | 可塑性シナプス管理 | |
JP2016537711A (ja) | スパイキングニューロンのネットワークにおける輻輳回避 | |
JP6219509B2 (ja) | シナプス遅延を動的に割り当てることおおよび検査すること | |
JP6096388B2 (ja) | ニューラルネットワークモデルにおけるドップラー効果処理 | |
JP6133517B2 (ja) | 座標変換のための位相コーディング | |
US9418332B2 (en) | Post ghost plasticity | |
JP2017513110A (ja) | ニューロモーフィックモデル開発のためのコンテキストリアルタイムフィードバック | |
JP2016536676A (ja) | ニューラルモデル実行をリモートで制御および監視するための方法および装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170206 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170206 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20170206 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20170207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170314 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20170614 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170912 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171011 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6227783 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |