JP2017514215A - スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現 - Google Patents

スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現 Download PDF

Info

Publication number
JP2017514215A
JP2017514215A JP2016558790A JP2016558790A JP2017514215A JP 2017514215 A JP2017514215 A JP 2017514215A JP 2016558790 A JP2016558790 A JP 2016558790A JP 2016558790 A JP2016558790 A JP 2016558790A JP 2017514215 A JP2017514215 A JP 2017514215A
Authority
JP
Japan
Prior art keywords
reference feature
neuron
spike
orientation
neurons
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016558790A
Other languages
English (en)
Other versions
JP2017514215A5 (ja
Inventor
アグラワル、プルキット
マジュムダル、ソムデブ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2017514215A publication Critical patent/JP2017514215A/ja
Publication of JP2017514215A5 publication Critical patent/JP2017514215A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • G06F18/24137Distances to cluster centroïds
    • G06F18/2414Smoothing the distance, e.g. radial basis function networks [RBFN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/10Interfaces, programming languages or software development kits, e.g. for simulating neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための方法は、スパイクシーケンスによってオブジェクトを表現することを含む。本方法はまた、オブジェクト表現の基準特徴を決定することを含む。本方法は、基準特徴に基づいて、オブジェクト表現を標準形に変換することをさらに含む。【選択図】図10

Description

[0001]本開示のいくつかの態様は、一般にニューラルシステムエンジニアリングに関し、より詳細には、スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現のためのシステムおよび方法に関する。
[0002]人工ニューロン(すなわち、ニューロンモデル)の相互結合されたグループを備え得る人工ニューラルネットワークは、計算デバイスであるか、または計算デバイスによって実行される方法を表す。人工ニューラルネットワークは、生物学的ニューラルネットワークにおける対応する構造および/または機能を有し得る。しかしながら、人工ニューラルネットワークは、従来の計算技法が厄介、実行不可能または不適切であるいくつかの適用例に革新的で有用な計算技法を提供することができる。人工ニューラルネットワークは観測から関数を推測することができるので、そのようなネットワークは、タスクまたはデータの複雑さが従来の技法による関数の設計を煩わしくする用途において、特に有用である。
[0003]本開示のある態様では、スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための方法が開示される。本方法は、スパイクシーケンスによってオブジェクトを表現することを含む。本方法はまた、オブジェクト表現の基準特徴を決定することを含む。本方法は、基準特徴に基づいて、オブジェクト表現を標準形に変換することをさらに含む。
[0004]本開示の別の態様では、スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置が開示される。本装置は、メモリと、メモリに結合された少なくとも1つのプロセッサとを含む。本プロセッサは、スパイクシーケンスによってオブジェクトを表現するように構成される。本プロセッサはまた、オブジェクト表現の基準特徴を決定するように構成される。本プロセッサは、基準特徴に基づいて、オブジェクト表現を標準形に変換するようにさらに構成される。
[0005]別の態様では、スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置が開示される。本装置は、スパイクシーケンスによってオブジェクトを表現するための手段を含む。本装置はまた、オブジェクト表現の基準特徴を決定するための手段を有する。本装置は、基準特徴に基づいて、オブジェクト表現を標準形に変換するための手段をさらに有する。
[0006]本開示の別の態様では、コンピュータプログラム製品が開示される。本コンピュータプログラム製品は、プログラムコードを符号化した非一時的コンピュータ可読媒体を含む。本プログラムコードは、スパイクシーケンスによってオブジェクトを表現するためのプログラムコードを含む。本プログラムコードはまた、オブジェクト表現の基準特徴を決定するためのプログラムコードを有する。さらに、本プログラムコードは、基準特徴に基づいて、オブジェクト表現を標準形に変換するためのプログラムコードを含む。
[0007]これは、以下の詳細な説明がより良く理解され得るために、本開示の特徴および技術的利点をかなり広く概説した。本開示の追加の特徴および利点は、以下で説明される。この開示は、本開示と同じ目的を実行するための他の構造を修正または設計するための基礎として容易に変更され得ることが、当業者によって理解されるべきである。また、添付の特許請求の範囲に記載されるように、そのような等価な構成は本開示の教示から逸脱しないことが、当業者によって理解されるべきである。本開示の特徴と考えられる新規な特徴は、その構成と動作の方法との両方に関して、さらなる目的および利点とともに、添付の図面と関連して考慮されるとき以下の説明からより良く理解されるであろう。しかしながら、図面の各々は単に例示および説明の目的のために提供されているにすぎず、本開示の制限の定義として意図されていないことが、明確には理解されるべきである。
[0008]本開示の特徴、性質、および利点は、同様の参照文字が全体を通して相応して識別する図面を考慮した場合、以下に示される詳細な説明から、より明らかになるだろう。
本開示のいくつかの態様によるニューロンの例示的なネットワークを示す図。 本開示のいくつかの態様による、計算ネットワーク(ニューラルシステムまたはニューラルネットワーク)の処理ユニット(ニューロン)の一例を示す図。 本開示のいくつかの態様によるスパイクタイミング依存可塑性(STDP)曲線の一例を示す図。 本開示のいくつかの態様による、ニューロンモデルの挙動を定義するための正レジームおよび負レジームの一例を示す図。 本開示のある態様による、汎用プロセッサを使用してニューラルネットワークを設計することの例示的な実装形態を示す図。 本開示のいくつかの態様による、メモリが個々の分散処理ユニットとインターフェースされ得るニューラルネットワークを設計する例示的な実装形態を示す図。 本開示のいくつかの態様による、分散メモリおよび分散処理ユニットに基づいてニューラルネットワークを設計する例示的な実装形態を示す図。 本開示のいくつかの態様による、ニューラルネットワークの例示的な実装形態を示す図。 本開示の態様による、不変オブジェクト表現のための例示的なネットワーク構造を示すブロック図。 本開示の態様による、不変オブジェクト表現を提供するためのスパイキングニューラルネットワークの例示的な回路を示すブロック図。 本開示の態様による、中継セルの例示的な構成を示す図。 本開示の態様による、オブジェクトの配向を示す図。 本開示の態様による、オブジェクトの配向を示す図。 本開示の態様による、オブジェクトの配向を示す図。 本開示の態様による、例示的なヒストグラムレイヤを示す図。 本開示の態様による、例示的なヒストグラムレイヤを示す図。 本開示の態様による、中継セルの変調ポテンシャルを示す例示的な図。 本開示のある態様による、スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現のための方法を示す流れ図。 本開示のある態様による、スパイキングニューラルネットワークを使用してヒストグラムを生成するための方法を示す流れ図。
[0025]添付の図面に関連して以下に示される詳細な説明は、様々な構成の説明として意図されたものであり、本明細書において説明される概念が実現され得る唯一の構成を表すことを意図されるものではない。詳細な説明は、様々な概念の完全な理解を提供する目的で、具体的な詳細を含む。しかしながら、これらの概念がこれらの具体的な詳細なしで実施され得ることは、当業者にとっては明らかであろう。いくつかの事例では、よく知られている構造および構成要素が、そのような概念を曖昧にするのを避けるために、ブロック図形式で示される。
[0026]本教示に基づいて、本開示の範囲は、本開示の任意の他の態様とは無関係に実装されるにせよ、本開示の任意の他の態様と組み合わされるにせよ、本開示のいかなる態様をもカバーするものであることを、当業者なら諒解されたい。たとえば、記載される態様をいくつ使用しても、装置は実装され得、または方法は実施され得る。さらに、本開示の範囲は、記載される本開示の様々な態様に加えてまたはそれらの態様以外に、他の構造、機能、または構造および機能を使用して実施されるそのような装置または方法をカバーするものとする。開示する本開示のいずれの態様も、請求項の1つまたは複数の要素によって実施され得ることを理解されたい。
[0027]「例示的」という単語は、本明細書では「例、事例、または例示の働きをすること」を意味するために使用される。「例示的」として本明細書で説明するいかなる態様も、必ずしも他の態様よりも好ましいまたは有利であると解釈されるべきであるとは限らない。
[0028]本明細書では特定の態様について説明するが、これらの態様の多くの変形および置換は本開示の範囲内に入る。好ましい態様のいくつかの利益および利点が説明されるが、本開示の範囲は特定の利益、使用、または目的に限定されるものではない。むしろ、本開示の態様は、様々な技術、システム構成、ネットワーク、およびプロトコルに広く適用可能であるものとし、そのうちのいくつかを例として図および好ましい態様についての以下の説明で示す。発明を実施するための形態および図面は、本開示を限定するものではなく説明するものにすぎず、本開示の範囲は添付の特許請求の範囲およびそれの均等物によって定義される。
例示的なニューラルシステム、トレーニングおよび動作
[0029]図1は、本開示のいくつかの態様による、複数のレベルのニューロンをもつ例示的な人工ニューラルシステム100を示す。ニューラルシステム100は、シナプス結合のネットワーク104(すなわち、フィードフォワード結合)を介してニューロンの別のレベル106に結合されたニューロンのあるレベル102を有し得る。簡単のために、図1には2つのレベルのニューロンのみが示されているが、ニューラルシステムには、より少ないまたはより多くのレベルのニューロンが存在し得る。ニューロンのいくつかは、ラテラル結合を介して同じレイヤの他のニューロンに結合し得ることに留意されたい。さらに、ニューロンのいくつかは、フィードバック結合を介して前のレイヤのニューロンに戻る形で結合し得る。
[0030]図1に示すように、レベル102における各ニューロンは、前のレベル(図1に図示せず)のニューロンによって生成され得る入力信号108を受信し得る。信号108は、レベル102のニューロンの入力電流を表し得る。この電流は、膜電位を充電するためにニューロン膜上に蓄積され得る。膜電位がそれのしきい値に達すると、ニューロンは、発火し、ニューロンの次のレベル(たとえば、レベル106)に転送されるべき出力スパイクを生成し得る。いくつかのモデリング手法では、ニューロンは、信号をニューロンの次のレベルに継続的に転送し得る。この信号は、典型的には膜電位の関数である。そのような挙動は、以下で説明するものなどのアナログおよびデジタル実装形態を含むハードウェアおよび/またはソフトウェアでエミュレートまたはシミュレートされ得る。
[0031]生物学的ニューロンでは、ニューロンが発火するときに生成される出力スパイクは、活動電位と呼ばれる。電気信号は、約100mVの振幅と約1msの持続時間とを有する比較的急速で、一時的な神経インパルスである。一連の結合されたニューロンを有するニューラルシステムの特定の実施形態(たとえば、図1におけるあるレベルのニューロンから別のレベルのニューロンへのスパイクの転送)では、あらゆる活動電位が基本的に同じ振幅と持続時間とを有するので、信号における情報は、振幅によってではなく、スパイクの周波数および数、またはスパイクの時間によってのみ表され得る。活動電位によって搬送される情報は、スパイク、スパイクしたニューロン、および他の1つまたは複数のスパイクに対するスパイクの時間によって決定され得る。以下で説明するように、スパイクの重要性は、ニューロン間の接続に適用される重みによって決定され得る。
[0032]図1に示されるように、ニューロンのあるレベルから別のレベルへのスパイクの移動は、シナプス結合(または、単純に「シナプス」)104のネットワークを介して達成され得る。シナプス104に関して、レベル102のニューロンはシナプス前ニューロンと考えられ得、レベル106のニューロンはシナプス後ニューロンと考えられ得る。シナプス104は、レベル102のニューロンから出力信号(すなわち、スパイク)を受信して、調整可能なシナプスの重み
Figure 2017514215
に応じてそれらの信号をスケーリングすることができ、上式で、Pはレベル102のニューロンとレベル106のニューロンとの間のシナプス結合の総数であり、iはニューロンレベルの指標である。図1の例では、iはニューロンレベル102を表し、i+1は、ニューロンレベル106を表す。さらに、スケーリングされた信号は、レベル106における各ニューロンの入力信号として合成され得る。レベル106におけるあらゆるニューロンは、対応する合成された入力信号に基づいて、出力スパイク110を生成し得る。出力スパイク110は、シナプス結合の別のネットワーク(図1には図示せず)を使用して、別のレベルのニューロンに転送され得る。
[0033]生物学的シナプスは、シナプス後ニューロンにおける興奮性活動または抑制性(過分極化)活動のいずれかを調停することができ、ニューロン信号を増幅する役目を果たすことができる。興奮性信号は、膜電位を脱分極する(すなわち、休止電位に対して膜電位を増加させる)。しきい値を超えて膜電位を脱分極するために十分な興奮性信号が一定の時間期間内に受信された場合、シナプス後ニューロンに活動電位が生じる。対照的に、抑制性信号は一般に、膜電位を過分極する(すなわち、低下させる)。抑制性信号は、十分に強い場合、興奮性信号のすべてを相殺し、膜電位がしきい値に達するのを防止することができる。シナプス興奮を相殺することに加えて、シナプス抑制は、自然に活発なニューロンに対して強力な制御を行うことができる。自然に活発なニューロンは、たとえば、それのダイナミクスまたはフィードバックに起因するさらなる入力なしにスパイクするニューロンを指す。これらのニューロンにおける活動電位の自然な生成を抑圧することによって、シナプス抑制は、一般にスカルプチャリングと呼ばれる、ニューロンの発火のパターンを形成することができる。様々なシナプス104は、望まれる挙動に応じて、興奮性シナプスまたは抑制性シナプスの任意の組合せとして働き得る。
[0034]ニューラルシステム100は、汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)もしくは他のプログラマブル論理デバイス(PLD)、個別ゲートもしくはトランジスタ論理、個別ハードウェア構成要素、プロセッサによって実行されるソフトウェアモジュール、またはそれらの任意の組合せによってエミュレートされ得る。ニューラルシステム100は、たとえば画像およびパターン認識、機械学習、モータ制御、および似ているなど、かなりの適用範囲において利用され得る。ニューラルシステム100における各ニューロンは、ニューロン回路として実装され得る。出力スパイクを開始するしきい値まで充電されるニューロン膜は、たとえば、そこを通って流れる電流を積分するキャパシタとして実装され得る。
[0035]一態様では、キャパシタは、ニューロン回路の電流積分デバイスとして除去され得、その代わりにより小さいメモリスタ(memristor)要素が使用され得る。この手法は、ニューロン回路において、ならびにかさばるキャパシタが電流積分器として利用される様々な他の適用例において適用され得る。さらに、シナプス104の各々は、メモリスタ要素に基づいて実装され得、シナプス重みの変化は、メモリスタ抵抗の変化に関係し得る。ナノメートルの特徴サイズのメモリスタを用いると、ニューロン回路およびシナプスの面積が大幅に低減され得、それによって、大規模なニューラルシステムハードウェア実装形態の実装がより実用的になり得る。
[0036]ニューラルシステム100をエミュレートするニューラルプロセッサの機能は、ニューロン間の結合の強さを制御し得る、シナプス結合の重みに依存し得る。シナプス重みは、パワーダウン後にプロセッサの機能を維持するために、不揮発性メモリに記憶され得る。一態様では、シナプス重みメモリは、主たるニューラルプロセッサチップとは別個の外部チップ上に実装され得る。シナプス重みメモリは、交換可能メモリカードとしてニューラルプロセッサチップとは別個にパッケージ化され得る。これは、ニューラルプロセッサに多様な機能を提供することができ、特定の機能は、ニューラルプロセッサに現在取り付けられているメモリカードに記憶されたシナプス重みに基づき得る。
[0037]図2は、本開示のいくつかの態様による、計算ネットワーク(たとえば、ニューラルシステムまたはニューラルネットワーク)の処理ユニット(たとえば、ニューロンまたはニューロン回路)202の例示的な図200を示す。たとえば、ニューロン202は、図1のレベル102のニューロンおよび106のニューロンのうちのいずれかに対応し得る。ニューロン202は、ニューラルシステムの外部にある信号、または同じニューラルシステムの他のニューロンによって生成された信号、またはその両方であり得る、複数の入力信号2041〜204Nを受信し得る。入力信号は、電流、コンダクタンス、電圧、実数値および/または複素数値であり得る。入力信号は、固定小数点表現または浮動小数点表現をもつ数値を備え得る。これらの入力信号は、調整可能なシナプス重み2061〜206N(w1〜wN)に従って信号をスケーリングするシナプス結合を通してニューロン202に伝えられ得、Nはニューロン202の入力接続の総数であり得る。
[0038]ニューロン202は、スケーリングされた入力信号を合成し、合成された、スケーリングされた入力を使用して、出力信号208(すなわち、信号y)を生成し得る。出力信号208は、電流、コンダクタンス、電圧、実数値および/または複素数値であり得る。出力信号は、固定小数点表現または浮動小数点表現をもつ数値であり得る。出力信号208は、次いで、同じニューラルシステムの他のニューロンへの入力信号として、または同じニューロン202への入力信号として、またはニューラルシステムの出力として伝達され得る。
[0039]処理ユニット(ニューロン)202は電気回路によってエミュレートされ得、それの入力接続および出力接続は、シナプス回路をもつ電気接続によってエミュレートされ得る。処理ユニット202ならびにそれの入力接続および出力接続はまた、ソフトウェアコードによってエミュレートされ得る。処理ユニット202はまた、電気回路によってエミュレートされ得るが、それの入力接続および出力接続はソフトウェアコードによってエミュレートされ得る。一態様では、計算ネットワーク中の処理ユニット202はアナログ電気回路であり得る。別の態様では、処理ユニット202はデジタル電気回路であり得る。さらに別の態様では、処理ユニット202は、アナログ構成要素とデジタル構成要素の両方をもつ混合信号電気回路であり得る。計算ネットワークは、上述の形態のいずれかにおける処理ユニットを含み得る。そのような処理ユニットを使用した計算ネットワーク(ニューラルシステムまたはニューラルネットワーク)は、たとえば画像およびパターン認識、機械学習、モータ制御など、かなりの適用範囲において利用され得る。
[0040]ニューラルネットワークをトレーニングする過程で、シナプス重み(たとえば、図1の重み
Figure 2017514215
および/または図2の重み2061〜206N)がランダム値により初期化され得、学習ルールに従って増加または減少し得る。学習ルールの例は、これに限定されないが、スパイクタイミング依存可塑性(STDP)学習ルール、Hebb則、Oja則、Bienenstock−Copper−Munro(BCM)則等を含むことを当業者は理解するだろう。いくつかの態様では、重みは、2つの値のうちの1つに安定または収束し得る(すなわち、重みの双峰分布)。この効果が利用されて、シナプス重みごとのビット数を低減し、シナプス重みを記憶するメモリとの間の読取りおよび書込みの速度を上げ、シナプスメモリの電力および/またはプロセッサ消費量を低減し得る。
シナプスタイプ
[0041]ニューラルネットワークのハードウェアおよびソフトウェアモデルでは、シナプス関係機能の処理がシナプスタイプに基づき得る。シナプスタイプは、非塑性シナプス(non-plastic synapse)(重みおよび遅延の変化がない)、可塑性シナプス(重みが変化し得る)、構造遅延可塑性シナプス(重みおよび遅延が変化し得る)、完全可塑性シナプス(重み、遅延および結合性が変化し得る)、およびそれの変形(たとえば、遅延は変化し得るが、重みまたは結合性の変化はない)であり得る。複数のタイプの利点は、処理が再分割され得ることである。たとえば、非塑性シナプスは、可塑性機能を使用しないで実行される場合がある(またはそのような機能が完了するのを待つ)。同様に、遅延および重み可塑性は、一緒にまたは別々に、順にまたは並列に動作し得る動作に再分割され得る。異なるタイプのシナプスは、適用される異なる可塑性タイプの各々の異なるルックアップテーブルまたは式およびパラメータを有し得る。したがって、本方法は、シナプスのタイプについての関連する表、式、またはパラメータにアクセスする。
[0042]スパイクタイミング依存構造可塑性がシナプス可塑性とは無関係に実行され得るという事実のさらなる含意がある。構造可塑性は、重みの大きさに変化がない場合(たとえば、重みが最小値または最大値に達したか、あるいはそれが何らかの他の理由により変更されない場合)s構造可塑性(すなわち、遅延量の変化)は前後スパイク時間差(pre-post spike time difference)の直接関数であり得ても実行され得る。代替的に、構造可塑性は、重み変化量に応じて、または重みもしくは重み変化の限界に関係する条件に基づいて設定され得る。たとえば、重み変化が生じたとき、または重みが最大値になるのではなく、重みがゼロに達した場合のみ、シナプス遅延が変化し得る。しかしながら、これらのプロセスが並列化され、メモリアクセスの数および重複を低減し得るように、独立した機能を有することが有利であり得る。
シナプス可塑性の決定
[0043]神経可塑性(または単に「可塑性」)は、脳内のニューロンおよびニューラルネットワークがそれらのシナプス結合と挙動とを新しい情報、感覚上の刺激、発展、損傷または機能不全に応答して変える能力である。可塑性は、生物学における学習および記憶にとって、また計算論的神経科学およびニューラルネットワークにとって重要である。(たとえば、Hebb則理論による)シナプス可塑性、スパイクタイミング依存可塑性(STDP)、非シナプス可塑性、活性依存可塑性、構造可塑性および恒常的可塑性など、様々な形の可塑性が研究されている。
[0044]STDPは、ニューロン間のシナプス結合の強さを調整する学習プロセスである。結合強度は、特定のニューロンの出力スパイクおよび受信入力スパイク(すなわち、活動電位)の相対的タイミングに基づいて調整される。STDPプロセスの下で、あるニューロンに対する入力スパイクが、平均して、そのニューロンの出力スパイクの直前に生じる傾向がある場合、長期増強(LTP)が生じ得る。その場合、その特定の入力はいくらか強くなる。一方、入力スパイクが、平均して、出力スパイクの直後に生じる傾向がある場合、長期抑圧(LTD)が生じ得る。その場合、その特定の入力はいくらか弱くなるので、「スパイクタイミング依存可塑性」と呼ばれる。したがって、シナプス後ニューロンの興奮の原因であり得る入力は、将来的に寄与する可能性がさらに高くなる一方、シナプス後スパイクの原因ではない入力は、将来的に寄与する可能性が低くなる。結合の初期セットのサブセットが残る一方で、その他の部分の影響がわずかなレベルまで低減されるまで、このプロセスは続く。
[0045]ニューロンは一般に出力スパイクを、それの入力の多くが短い期間内に生じる(すなわち、出力をもたらすのに十分な累積がある)ときに生成するので、通常残っている入力のサブセットは、時間的に相関する傾向のあった入力を含む。さらに、出力スパイクの前に生じる入力は強化されるので、最も早い十分に累積的な相関指示を提供する入力は結局、ニューロンへの最終入力となる。
[0046]STDP学習ルールは、シナプス前ニューロンのスパイク時間tpreとシナプス後ニューロンのスパイク時間tpostとの間の時間差(すなわち、t=tpost−tpre)に応じて、シナプス前ニューロンをシナプス後ニューロンに結合するシナプスのシナプス重みを効果的に適合させ得る。STDPの通常の公式化は、時間差が正である(シナプス前ニューロンがシナプス後ニューロンの前に発火する)場合にシナプス重みを増加させ(すなわち、シナプスを増強し)、時間差が負である(シナプス後ニューロンがシナプス前ニューロンの前に発火する)場合にシナプス重みを減少させる(すなわち、シナプスを抑制する)ことである。
[0047]STDPプロセスでは、経時的なシナプス重みの変化は通常、以下の式によって与えられるように、指数関数的減衰を使用して達成され得る。
Figure 2017514215
ここで、k+およびk-τsign(Δt)はそれぞれ、正の時間差および負の時間差の時間定数であり、a+およびa-は対応するスケーリングの大きさであり、μは正の時間差および/または負の時間差に適用され得るオフセットである。
[0048]図3は、STDPによる、シナプス前スパイクおよびシナプス後スパイクの相対的タイミングに応じたシナプス重み変化の例示的な図300を示す。シナプス前ニューロンがシナプス後ニューロンの前に発火する場合、グラフ300の部分302に示すように、対応するシナプス重みは増加し得る。この重み増加は、シナプスのLTPと呼ばれ得る。グラフ部分302から、シナプス前スパイク時間とシナプス後スパイク時間との間の時間差に応じて、LTPの量がほぼ指数関数的に減少し得ることが観測され得る。グラフ300の部分304に示すように、発火の逆の順序は、シナプス重みを減少させ、シナプスのLTDをもたらし得る。
[0049]図3のグラフ300に示すように、STDPグラフのLTP(原因)部分302に負のオフセットμが適用され得る。x軸の交差306のポイント(y=0)は、レイヤi−1からの原因入力の相関を考慮して、最大タイムラグと一致するように構成され得る。フレームベースの入力(すなわち、スパイクまたはパルスを備える特定の持続時間のフレームの形態である入力)の場合、オフセット値μは、フレーム境界を反映するように計算され得る。直接的にシナプス後電位によってモデル化されるように、またはニューラル状態に対する影響の点で、フレームにおける第1の入力スパイク(パルス)が経時的に減衰することが考慮され得る。フレームにおける第2の入力スパイク(パルス)が特定の時間フレームと相関したまたはに関連したものと考えられる場合、フレームの前および後の関連する時間は、その時間フレーム境界で分離され、関連する時間の値が異なり得る(たとえば、1つのフレームよりも大きい場合は負、1つのフレームよりも小さい場合は正)ように、STDP曲線の1つまたは複数の部分をオフセットすることによって、可塑性の点で別様に扱われ得る。たとえば、曲線が、フレーム時間よりも大きい前後の時間で実際にゼロよりも下になり、結果的にLTPの代わりにLTDの一部であるようにLTPをオフセットするために負のオフセットμが設定され得る。
ニューロンモデルおよび演算
[0050]有用なスパイキングニューロンモデルを設計するための一般的原理がいくつかある。良いニューロンモデルは、2つの計算レジーム、すなわち、一致検出および関数計算の点で豊かな潜在的挙動を有し得る。その上、良いニューロンモデルは、時間コーディングを可能にするための2つの要素を有する必要がある:入力の到着時間は出力時間に影響を与え、一致検出は狭い時間ウィンドウを有し得る。最終的に、計算上魅力的であるために、良いニューロンモデルは、連続時間に閉形式解と、ニアアトラクター(near attractor)と鞍点とを含む安定した挙動とを有し得る。言い換えれば、有用なニューロンモデルは、実用的なニューロンモデルであり、豊かで、現実的で、生物学的に一貫した挙動をモデル化するために使用され得、神経回路のエンジニアリングとリバースエンジニアリングの両方を行うために使用され得るニューロンモデルである。
[0051]ニューロンモデルは事象、たとえば入力の到着、出力スパイク、または内部的であるか外部的であるかを問わず他の事象に依存し得る。豊かな挙動レパートリーを実現するために、複雑な挙動を示すことができる状態機械が望まれ得る。入力寄与(ある場合)とは別個の事象の発生自体が状態機械に影響を与え、事象の後のダイナミクスを制限し得る場合、システムの将来の状態は、単なる状態および入力の関数ではなく、むしろ状態、事象および入力の関数である。
[0052]一態様では、ニューロンnは、下記のダイナミクスによって決定される膜電圧νn(t)によるスパイキングリーキー積分発火ニューロンとしてモデル化され得る。
Figure 2017514215
ここでαおよびβは、パラメータであり、wm,nは、シナプス前ニューロンmをシナプス後ニューロンnに結合するシナプスのシナプス重みであり、ym(t)は、ニューロンnの細胞体に到着するまでΔtm,nに従って樹状遅延または軸索遅延によって遅延し得るニューロンmのスパイキング出力である。
[0053]シナプス後ニューロンへの十分な入力が達成された時間からシナプス後ニューロンが実際に発火する時間までの遅延があることに留意されたい。イジケヴィッチの単純モデルなど、動的スパイキングニューロンモデルでは、脱分極しきい値νtとピークスパイク電圧νpeakとの間に差がある場合、時間遅延が生じ得る。たとえば、単純モデルでは、電圧および復元のための1対の微分方程式、すなわち、
Figure 2017514215
によってニューロン細胞体ダイナミクス(neuron soma dynamics)が決定され得る。ここでνは膜電位であり、uは、膜復元変数であり、kは、膜電位νの時間スケールを記述するパラメータであり、aは、復元変数uの時間スケールを記述するパラメータであり、bは、膜電位νのしきい値下変動に対する復元変数uの感度を記述するパラメータであり、νrは、膜休止電位であり、Iは、シナプス電流であり、Cは、膜のキャパシタンスである。このモデルによれば、ニューロンはν>νpeakのときにスパイクすると定義される。
Hunzinger Coldモデル
[0054]Hunzinger Coldニューロンモデルは、豊かな様々な神経挙動を再生し得る最小二重レジームスパイキング線形動的モデルである。モデルの1次元または2次元の線形ダイナミクスは2つのレジームを有することができ、時間定数(および結合)はレジームに依存し得る。しきい値下レジームでは、時間定数は、慣例により負であり、一般に生物学的に一貫した線形方式で休止状態に細胞を戻す役目を果たすリーキーチャネルダイナミクスを表す。しきい値上レジームにおける時間定数は、慣例により正であり、一般にスパイク生成のレイテンシを生じさせる一方でスパイク状態に細胞を駆り立てる反リーキーチャネルダイナミクスを反映する。
[0055]図4に示すように、モデル400のダイナミクスは2つの(またはそれよりも多くの)レジームに分割され得る。これらのレジームは、負のレジーム(negative regime)402(leaky−integrate−and−fire(LIF)ニューロンモデルと混同されないように、交換可能にLIFレジームとも呼ばれる)、および正のレジーム(positive regime)404(anti−leaky−integrate−and−fire(ALIF)ニューロンモデルと混同されないように、交換可能にALIFレジームとも呼ばれる)と呼ばれ得る。負レジーム402では、状態は将来の事象の時点における休止(ν-)の傾向がある。この負レジームでは、モデルは一般に、時間的入力検出特性と他のしきい値下挙動とを示す。正レジーム404では、状態はスパイキング事象(νs)の傾向がある。この正レジームでは、モデルは、後続の入力事象に応じてスパイクにレイテンシを生じさせるなどの計算特性を示す。事象の点からのダイナミクスの公式化およびこれら2つのレジームへのダイナミクスの分離は、モデルの基本的特性である。
[0056]線形二重レジーム2次元ダイナミクス(状態νおよびuの場合)は、慣例により次のように定義され得る。
Figure 2017514215
ここでqρおよびrは、結合のための線形変換変数である。
[0057]シンボルρは、ダイナミクスレジームを示すためにここで使用され、特定のレジームの関係を論述または表現するときに、それぞれ負レジームおよび正レジームについて符号「−」または「+」にシンボルρを置き換える慣例がある。
[0058]モデル状態は、膜電位(電圧)νおよび復元電流uによって定義される。基本形態では、レジームは基本的にモデル状態によって決定される。正確で一般的な定義の微妙だが重要な側面があるが、差し当たり、モデルが、電圧νがしきい値(ν+)を上回る場合に正レジーム404にあり、そうでない場合に負レジーム402にあると考える。
[0059]レジーム依存時間定数は、負レジーム時間定数であるτ-と正レジーム時間定数であるτ+とを含む。復元電流時間定数τuは通常、レジームから独立している。便宜上、τuと同様に、指数およびτ+が一般に正となる正レジームの場合に、電圧発展(voltage evolution)に関する同じ表現が使用され得るように、減衰を反映するために負の量として負レジーム時間定数τ-が一般に指定される。
[0060]2つの状態要素のダイナミクスは、事象において、ヌルクラインから状態をオフセットする変換によって結合され得、ここで変換変数は、
Figure 2017514215
であり、δ、ε、βおよびν-、ν+はパラメータである。νρのための2つの値は、2つのレジームのための参照電圧のベースである。パラメータν-は、負レジームのためのベース電圧であり、膜電位は一般に、負レジームにおいてν-に減衰する。パラメータν+は、正レジームのためのベース電圧であり、膜電位は一般に、正レジームにおいてν+から離れる傾向となる。
[0061]νおよびuのためのヌルクラインは、それぞれ変換変数qρおよびrの負によって与えられる。パラメータδは,uヌルクラインの傾きを制御するスケール係数である。パラメータεは通常、−ν-に等しく設定される。パラメータβは、両方のレジームにおいてνヌルクラインの傾きを制御する抵抗値である。τρ時間定数パラメータは、指数関数的減衰だけでなく、各レジームにおいて別個にヌルクラインの傾きを制御する。
[0062]モデルは、電圧νが値νsに達したときにスパイクするように定義され得る。続いて、状態は(スパイク事象と同じ1つのものであり得る)リセット事象でリセットされ得る。
Figure 2017514215
ここで、
Figure 2017514215
およびΔuはパラメータである。リセット電圧
Figure 2017514215
は通常、ν-にセットされる。
[0063]瞬時結合の原理によって、状態について(また、単一の指数項による)だけではなく、特定の状態に到達するための時間についても、閉形式解が可能である。閉形式状態解は、次のとおりである。
Figure 2017514215
[0064]したがって、モデル状態は、入力(シナプス前スパイク)または出力(シナプス後スパイク)などの事象に伴ってのみ更新され得る。また、演算が(入力があるか、出力があるかを問わず)任意の特定の時間に実行され得る。
[0065]その上、瞬時結合原理によって、反復的技法または数値解法(たとえば、オイラー数値解法)なしに、特定の状態に到達する時間が事前に決定され得るように、シナプス後スパイクの時間が予想され得る。前の電圧状態ν0を踏まえ、電圧状態νfに到達するまでの時間遅延は、次の式によって与えられる。
Figure 2017514215
[0066]スパイクが、電圧状態νがνsに到達する時間に生じると定義される場合、電圧が所与の状態νにある時間から測定されたスパイクが生じるまでの時間量、または相対的遅延に関する閉形式解は、次のとおりである。
Figure 2017514215
ここで、
Figure 2017514215
は通常、パラメータν+にセットされるが、他の変形も可能であり得る。
[0067]モデルダイナミクスの上記の定義は、モデルが正レジームにあるか、それとも負レジームにあるかに依存する。上述のように、結合およびレジームρは、事象に伴って計算され得る。状態の伝搬のために、レジームおよび結合(変換)変数は、最後の(前の)事象の時間における状態に基づいて定義され得る。続いてスパイク出力時間を予想するために、レジームおよび結合変数は、次の(最新の)事象の時間における状態に基づいて定義され得る。
[0068]Coldモデルの、適時にシミュレーション、エミュレーションまたはモデルを実行するいくつかの可能な実装形態がある。これは、たとえば、事象更新モード、ステップ事象更新モード、およびステップ更新モードを含む。事象更新は、(特定の瞬間における)事象または「事象更新」に基づいて状態が更新される更新である。ステップ更新は、間隔(たとえば、1ms)をおいてモデルが更新される更新である。これは必ずしも、反復的技法または数値解法を利用するとは限らない。また、事象がステップもしくはステップ間で生じる場合または「ステップ事象」更新によってモデルを更新するのみによって、ステップベースのシミュレータにおいて限られた時間分解能で事象ベースの実装形態が可能である。
スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現
[0069]本開示の態様は、スパイキングニューラルネットワークにおける画像の不変オブジェクト表現を対象とする。
[0070]機械学習またはコンピュータビジョンシステムにおけるオブジェクト表現の望ましい特性は、不変性である。コンピュータビジョンシステムの典型的な例は、画像分類および画像認識システムを含む。そのようなシステムの一般的な機能は、それらがシステムに提示される特定の空間構成にかかわらず、異なるオブジェクトを認識または分類することである。たとえば、人間の顔を認識するようにトレーニングされたシステムは、様々な角度から、様々な距離で、および視覚的なフレーム内の異なる位置に提示されたときに、確実に顔を確実に検出することができるべきである。
[0071]ニューラルネットワークは、機械学習を実行することもでき、オブジェクトを認識することもできる。具体的には、スパイキングニューラルネットワークは、オブジェクトを認識するために使用され得る。これらのネットワークは、学習レイヤに続く1つまたは複数の特徴抽出レイヤによって特徴付けられ得る。たとえば、各レイヤ内のノード(たとえば、ニューロン)は、特徴を時間的スパイクパターンの形態に符号化し得る。特徴を復号するために使用される共通のメトリクスは、スパイク率とスパイク間隔とを含む。
[0072]これらのネットワークは、場所コード(すなわち、ニューロンスパイキングの特定のサブセットにおける同じオブジェクト結果の特定の構成)であることに悩まされる。したがって、学習レイヤまで送られたスパイキングパターンは、同じオブジェクトの異なる構成を区別することができない場合がある。
[0073]回転、大きさ、およびずれに対する不変性を達成するための標準的な技法は、特徴抽出レイヤの出力に再インデックス付けする別の方法を含む。回転のためのそのような方式を使用するために、関心のあるオブジェクトの中心だけでなく、回転の程度が導出される。また、再インデックス付け行列が維持される。したがって、標準的な技法は、メモリ制約がある大規模なシステムを十分にスケーリングしない。
[0074]本開示の態様は、着信画像の不変変換を対象とする。変換レイヤは、オブジェクトの特定の大きさ、位置、または配向にかかわらず同様の出力を生成するように設計されている。これによって、学習レイヤがオブジェクトの特定の構成にとらわれないままであることが可能になり、したがって、大きさ、回転、およびずれに対して同時に不変であることが可能になる。
[0075]図5は、本開示のいくつかの態様による、汎用プロセッサ502を用いる上述の画像の不変オブジェクト表現の例示的な実装形態500を示す。計算ネットワーク(ニューラルネットワーク)、遅延、周波数ビン情報、スパイクレイテンシ情報、およびヒストグラム情報に関連付けられる変数(ニューラル信号)、シナプス重み、システムパラメータは、メモリブロック504に記憶され得、汎用プロセッサ502で実行される命令はプログラムメモリ506からロードされ得る。本開示のある態様では、汎用プロセッサ502にロードされた命令は、スパイクシーケンスによってオブジェクトを表現して、オブジェクト表現の基準特徴を決定して、および/または、基準特徴に基づいてオブジェクト表現を標準形に変換するためのコードを備え得る。
[0076]図6は、本開示のいくつかの態様による、メモリ602が相互接続ネットワーク604を介して計算ネットワーク(ニューラルネットワーク)の個々の(分散型)処理ユニット(ニューラルプロセッサ)606とインターフェースされ得る、上述の画像の不変オブジェクト表現の例示的な実装形態600を示している。計算ネットワーク(ニューラルネットワーク)遅延、周波数ビン情報、およびヒストグラム情報に関連付けられる、変数(ニューラル信号)、シナプス重み、システムパラメータはメモリ602に記憶され得、相互接続ネットワーク604の接続を介してメモリ602から各処理ユニット(ニューラルプロセッサ)606にロードされ得る。本開示のある態様では、処理ユニット606は、スパイクシーケンスによってオブジェクトを表現して、オブジェクト表現の基準特徴を決定して、および/または基準特徴に基づいてオブジェクト表現を標準形に変換するように構成され得る。
[0077]図7は、上述の画像の不変オブジェクト表現の例示的な実装形態700を示している。図7に示されるように、1つのメモリバンク702は、計算ネットワーク(ニューラルネットワーク)の1つの処理ユニット704に直接インターフェースされ得る。各メモリバンク702は、対応する処理ユニット(ニューラルプロセッサ)704遅延、周波数ビン情報、およびヒストグラム情報に関連付けられる、変数(ニューラル信号)、シナプス重み、および/またはシナプスパラメータを記憶し得る。本開示のある態様では、処理ユニット704は、スパイクシーケンスによってオブジェクトを表現して、オブジェクト表現の基準特徴を決定して、および/または基準特徴に基づいてオブジェクト表現を標準形に変換するように構成され得る。
[0078]図8は、本開示のいくつかの態様による、ニューラルネットワーク800の例示的な実装形態を示す。図8に示すように、ニューラルネットワーク800は、本明細書に説明した方法の様々な動作を実行し得る複数のローカル処理ユニット802を有することができる。各ローカル処理ユニット802は、ニューラルネットワークのパラメータを記憶する、ローカルステートメモリ804およびローカルパラメータメモリ806を備え得る。また、ローカル処理ユニット802は、ローカルモデルプログラムを記憶するためのローカル(ニューロン)モデルプログラム(LMP)メモリ808、ローカル学習プログラムを記憶するためのローカル学習プログラム(LLP)メモリ810、およびローカル接続メモリ812を有し得る。さらに、図8に示されるように、各ローカル処理ユニット802は、ローカル処理ユニットのローカルメモリの構成を提供するための構成プロセッサユニット814と、またローカル処理ユニット802間のルーティングを提供するルーティングユニット816とインターフェースされ得る。
[0079]一構成では、ニューロンモデルは、スパイクシーケンスによってオブジェクトを表現して、オブジェクト表現の基準特徴を決定して、および/または基準特徴に基づいてオブジェクト表現を標準形に変換するために構成される。ニューロンモデルは、表現手段と、決定手段と、変換手段とを含む。一態様では、検出手段、決定手段、および/または変換手段は、記載される機能を実行するように構成された汎用プロセッサ502、プログラムメモリ506、メモリブロック504、メモリ602、相互接続ネットワーク604、処理ユニット606、処理ユニット704、ローカル処理ユニット802、およびまたはルーティング接続処理要素816であり得る。別の構成では、上述の手段は、上記の手段によって記載された機能を実行するように構成された任意のモジュールまたは任意の装置であり得る。
[0080]別の構成では、ニューロンモデルは、スパイクをカウントする、および/またはヒストグラムを生成するために構成される。ニューロンモデルは、カウンティング手段と、生成手段とを含む。一態様では、カウンティング手段、および/または生成手段は、記載される機能を実行するように構成された汎用プロセッサ502、プログラムメモリ506、メモリブロック504、メモリ602、相互接続ネットワーク604、処理ユニット606、処理ユニット704、ローカル処理ユニット802、およびまたはルーティング接続処理要素816であり得る。別の構成では、上述の手段は、上記の手段によって記載された機能を実行するように構成された任意のモジュールまたは任意の装置であり得る。
[0081]本開示のいくつかの態様によれば、各ローカル処理ユニット802は、ニューラルネットワークの所望の1つまたは複数の機能的特徴に基づいてニューラルネットワークのパラメータを決定して、決定されたパラメータがさらに適応され、同調され、更新されるにつれて、所望の機能的特徴に向けて1つまたは複数の機能的特徴を開発するように構成され得る。
[0082]図9は、本開示の態様による、不変オブジェクト表現のための例示的なネットワーク構造900を示すブロック図である。図9を参照すると、ネットワーク構造900は、配向レイヤ902と、不変レイヤ904と、ヒストグラムレイヤ906と、時間的学習レイヤ908とを含み得る。
[0083]配向レイヤ902は、1つまたは複数のセルあるいはニューロンを含み得、アライメントの主軸または検討中のオブジェクトの基準配向を決定するために使用され得る。不変レイヤ904は、その大きさ、空間フィールド内の位置、および回転の程度にかかわらず、正規表現にオブジェクトをマッピングし得る計算のセットを実行する。いくつかの態様では、不変レイヤ904は、アライメントの主軸に関するフィードバックを受け取って、たとえば、オブジェクト表現を備える画素または画素のグループの不変配向を符号化することによって、オブジェクト表現を修正するために使用され得る。ヒストグラムレイヤ906は、オブジェクトのレイテンシ符号化表現に関連付けられるスパイクをカウントすることによって配向のヒストグラムを構築するために使用され得る。時間的学習レイヤ908は、その主軸に関して画像内の配向のヒストグラムを認識するようにトレーニングされ得る。ヒストグラムレイヤ906の出力は、着信画像の様々な構成について実質的に同一であり得る。このように、時間的学習レイヤ908は、従来の学習レイヤでもよく、任意の他の学習レイヤでもよい。
[0084]エッジフィルタなどの技法を使用することによって、たとえば、特定の位置での局所的配向が計算され得る。不変性を達成するためには、オブジェクトが面内回転を通じて変換されるときに、オブジェクト上で定義された任意の軸に対して測定された局所的配向が一定のままであることが十分であり得る。これは、すべての剛性オブジェクトのために当てはまり得る非常に一般的な条件である。
[0085]図10は、本開示の態様による、不変オブジェクト表現を提供するための、スパイキングニューラルネットワークの例示的な配向レイヤ回路1000を示すブロック図である。配向レイヤ回路1000は、局所的配向セル1002a、1002b、1002c、および1002d(集合的に、局所的配向セル1002と呼ばれ得る)、グローバル配向セル1004a、1004b、1004c、および1004d(集合的に、グローバル配向セル1004と呼ばれ得る)、ならびに中継セル1006a(A)、1006b(B)、1006c(C)、および1006d(D)(集合的に、中継セル1006と呼ばれ得る)を含む。上述のセルの各々は、いくつかの態様では、ニューロンを備える。
[0086]説明を容易にするために、配向レイヤ回路1000は、4つの局所的配向セル1002、4つのグローバル配向セル1004、および4つの中継セル1006で示されている。しかしながら、これは単なる例示であり、任意の数のそのようなセルまたはニューロンが代替で使用され得る。また、配向レイヤ回路1000は、たとえば、オブジェクト表現システムの各グリッド位置(たとえば、画素)で提供され得る。いくつかの態様では、配向レイヤ回路1000は、画像サブサンプリングを有効にするために、各N個のグリッド位置ごとに提供され得る。
[0087]局所的配向セル1002は、シナプスのネットワーク(図示せず)を介してグローバル配向セル1004に結合されている。局所的配向セル1002は、グリッド位置でオブジェクトの存在を検出するように構成され得る。グリッド位置は、たとえば、オブジェクト表示システムの画素または画素のグループ、あるいは事前定義された領域またはエリアであり得る。いくつかの態様では、オブジェクトは、スパイクまたはスパイクのシーケンスとして表され得る。たとえば、スパイクは、ディスプレイのグリッド位置(たとえば、画素)におけるオブジェクトの存在に基づいて生成され得る。
[0088]局所的配向セル1002の各々は、特定の局所的配向セル(1002a、1002b、1002c、または1002d)の空間的視野内のオブジェクトの局所的角度または配向の存在を検出するように構成され得る。たとえば、局所的配向セル1002aは、空間的視野内のオブジェクトに対して0度の局所的配向の存在を検出し得る。同様に、局所的配向セル1002bは45度の局所的配向を検出し得、局所的配向セル1002cは90度の局所的配向を検出し得、局所的配向セル1002dは135度の局所的配向を検出し得る。
[0089]局所的配向セル1002は、対応するグローバル配向セル1004に、オブジェクトの検出された局所的角度または配向に関する情報を供給し得る。グローバル配向セル1004は、局所的配向セル1002の複数のセットからの出力をプールして、基準特徴を識別するために使用され得る。たとえば、いくつかの態様では、基準特徴は、オブジェクトのアライメントの主軸を備え得る。
[0090]いくつかの態様では、局所的配向セル1002とグローバル配向セル1004とは、セット内に強い側方抑制を有し得る。すなわち、唯一の局所的配向セル1002(すなわち、1002a、1002b、1002c、または1002dのうちの1つ)と、1つのグローバル配向セル1004(すなわち、1004a、1004b、1004c、または1004dのうちの1つ)とは、特定の時間に画素ごとにアクティブであり得る。オブジェクトが提示されると、各グリッド位置で、単一の局所的配向セル1002は、その位置でのエッジ配向に応じてスパイクし得る。エッジが存在しない場合、局所的配向セル1002は、スパイクしない場合がある。
[0091]特定の配向の局所的配向セル1002は、同じ配向のグローバル配向セル1004に投射する。グローバル配向セル1004のスパイク時間は、たとえば、着信スパイクの数に依存し得る。1つの例示的な態様では、スパイク時間は、着信スパイクの数が所定のしきい値を上回るか否かに依存し得る(たとえば、しきい値は、ニューロンのALIFモデルにおける休止電位とサブしきい値電位との間の電圧ギャップに対応し得る)。いくつかの態様では、着信スパイクの数がより多いほど、グローバル配向セル(ニューロン)1004のスパイク時間はより短い。異なるタイプのグローバル配向セル1004(たとえば、1004a、1004b、1004c、および1004d)は、同じ空間領域にわたって存在する局所的配向セル1002からの投射を受け得る。したがって、その配向がその視野内に存在する基準配向(たとえば、支配的配向)に最も近いグローバル配向セル1004がまずスパイクし得、プロセスにおいて他のタイプのグローバル配向セル1004を阻害する。たとえば、グローバル配向セル1004bが、その視野内に存在する基準配向に最も近い場合、グローバル配向セル1004bがまずスパイクし得、したがってグローバル配向セル(1004a、1004c、および1004d)を阻害する。したがって、このグローバル配向セル1004の配向は、基準配向/特徴として役立ち得る。
[0092]中継セル1006は、それぞれ、シナプス(1008a、1008b、1008c、1008d)を介して局所的配向セル1002から入力を受け取る。また、中継セル1006は、それぞれシナプス1010を介してグローバル配向セル1004のすべてから入力を受け取る。このように、中継セル1006は、グローバル方向セル1004と局所的配向セル1002から配向情報を受け取ることができる。受け取った情報に基づいて、中継セル1006は、任意の配向(たとえば、0度、45度、90度、または135度)の存在を信号で伝え得る。たとえば、中継セルA1006aは0度を信号で伝え得、中継セルB(1006b)は45度の存在を信号で伝え得、中継セルC1006cは90度を信号で伝え得、中継セルD(1006d)は135度の存在を信号で伝え得る。受け取った情報に基づいて、いくつかの態様では、中継セル1006は、局所的配向セル1002とグローバル配向セル1004とによって決定された配向間の相対的配向の測定を信号で伝え得る。たとえば、90度の局所的配向セル(1002c)と45度のグローバル配向セル(1004b)がスパイクすると、中継セルは、90度−45度=45度を信号で伝え得る。
[0093]いくつかの態様では、局所的配向セル1002のプールされた出力に基づいてオブジェクトの配向の主軸を識別したグローバル配向セル1004は、局所的配向セル1002からのスパイクが到着する前に中継セル1006の休止電位を変調し得る。このように、中継セル1006は、オブジェクト表現を標準形に変換し得る。
[0094]次に、中継セル1006は、シナプス1014a、1014b、1014c、および1014d(集合的にシナプス1014と呼ばれ得る)を介して読出しニューロン(R)1020に投射する。中継セル1006と読出しニューロン1020とは、マルチプレクサと同様の方法で機能するように構成され得る配向レイヤ回路1000の中継回路を備え得る。
[0095]読出しニューロン1020は、局所的配向セル1002のグリッド位置/視野の配向を符号化し得る。いくつかの態様では、読出しニューロン1020は、スパイク遅延またはレイテンシに従って配向を符号化し得る。たとえば、スパイクレイテンシは、中継セルを介して受け取られるまで、特定のグリッド/位置(たとえば、画素)での画像の提示の時間から測定され得る。いくつかの態様では、スパイクレイテンシは、スパイク間隔(ISI)(すなわち、スパイキングまでの画像の提示からの時間)に従って測定され得る。一例では、1秒のスパイクレイテンシは30度の配向を参照し得るのに対し、2秒のスパイクレイテンシは60度の配向を参照し得る。
[0096]また、読出しニューロン1020はミラーニューロンとして作用し得る。すなわち、読出しニューロンは、そのシナプス前先行(presynaptic predecessor)と同じ遅延でスパイクし得る。たとえば、中継セル1006が1秒のレイテンシでスパイクすると、読出しニューロン1020も1秒の遅延でスパイクし得る。
[0097]したがって、局所的配向セル1002、グローバル配向セル1004、中継セル1006、およびヒストグラムレイヤ(たとえば、906)は、画像のあらかじめ指定された位置に配置され得る。たとえば、完全な画像は4×4のそのような領域に分割され得、16個の位置(グローバル位置)を有する。各位置は、多くのグリッド位置(たとえば、画素)に分割され得る。各グリッド位置で、局所的配向セルと中継セルとのセットが提供され得る。グローバル配向セルは、特定のグローバル位置のグリッド位置のそれぞれに含まれる局所的配向セルからプールし得る。
[0098]図11は、本開示の態様による、中継セル1006の例示的な構成を示す図1100である。この例示的な構成では、中継セル1006の休止電位は、1102(A−0.44V)、1104(B−0.94V)、1106(C−1.44V)、および1108(D−1.94V)に示されている。対照的に、局所的配向セル1002およびグローバル配向セル1004の休止電位は0Vである。中継セル1006のスパイキング電圧は5Vであり得、しきい値電圧は3Vであり得る。二重矢印1110は、シナプス前エンド(presynaptic end)でスパイクを受け取ると、中継セル1006の状態変化を表す。
[0099]いくつかの態様では、中継セル1006の休止電位は、たとえば、特定のグリッド位置での画像の提示の時間から測定され得るスパイクレイテンシに対応し得る。すなわち、着信スパイクを受け取ると、異なる休止電位がニューロンをALIF領域の異なる電圧レベルで終了させ得るので、異なる休止電位は異なるスパイクレイテンシを有するニューロンのスパイキングに対応し得る。たとえば、0.09秒のスパイクレイテンシは0度を表現し得、0.21秒のスパイクレイテンシは45度を表現し得、0.34秒のスパイクレイテンシは90度を表現し得、0.49秒のスパイクレイテンシは135度を表現し得る。このように、中継セル1006は、発火のそのレイテンシにおけるオブジェクト表現(たとえば、配向)を符号化するように構成され得る。
[00100]グローバル配向セル1004は、決定された基準特徴(たとえば、配向の主軸)に基づいて中継セルの休止電位を変調し得る。表1は、各グローバル配向セル(1004)が中継セル(1006)に適用し得る例示的な変調を表示する。本質的に、グローバル配向セル(1004)から中継セル(1006)への各シナプス(1010)は、興奮性シナプスまたは抑制性シナプスのいずれかとして作用し得、抑制(または興奮)の強度はシナプス接続の重みにおいて符号化され得る。
Figure 2017514215
[00101]図12A〜図12Cは、本開示の態様による、オブジェクトの配向を示している。図12A〜図12Cに示されるように、オブジェクト、文字「K」は異なる配向で示されている。図12Aは、標準的なKを表現し得るオブジェクト1200を示している。オブジェクト1200は、セグメント1(1202)、セグメント2(1204)、およびセグメント3(1206)の3つのセグメントに分割され得る。この例では、角度は反時計回りの方法でx軸から測定され得る。このように、文字Kの軸は、x軸に整列され得る(セグメント1(1202)参照)。図12Bでは、オブジェクト1210(文字K)が45度回転される。したがって、セグメント1(1202)、セグメント2(1204)、およびセグメント3(1206)は、それぞれ45度回転される。45度はKの基準配向としてアクティブであるため、すべてのセグメントに対してアクティブであるグローバル配向セル1004は45度である。図12Cでは、オブジェクト1200(文字K)が90度回転される。したがって、セグメント1(1202)、セグメント2(1204)、およびセグメント3(1206)は、それぞれ90度回転される。
[00102]各シナプスは関連付けられる遅延を有する。図12Bの例を考慮すると、グローバル配向セル(たとえば、1004)と中継セル(たとえば、1006)との間の遅延は、たとえば0.5秒であり得るのに対し、局所的配向セル(たとえば、1002)と中継セル(たとえば、1006)との間の遅延は1秒であり得る。たとえば、セグメント1(1202)に沿って、45度の局所的配向セル1002は、t=1秒でスパイクを放出し得、中継セルB(1006b)によって受け取られる。このように、いくつかの態様では、グローバル配向セル(たとえば、1004)からのスパイクは、局所的配向セル(たとえば、1002)からのスパイクの前に、中継セル(たとえば、1006)に到達し得る。
[00103]上記に示したように、図12Bの例示的な図では、文字Kの基準配向は45度である。このように、45度に対応するグローバル配向セルはアクティブである。図11を参照すると、中継セルBの休止電位は−0.94Vである。表1から、45度のグローバル配向セル(1004b)によって影響を受ける変調は+0.5Vである。したがって、t=0.5秒(グローバル配向セルと中継セルとの間の遅延)で、休止電位は−0.44V(−0.94V+0.5V)であろう。局所的配向セル(1002)から1秒で到着するスパイクは、中継セルB(1006b)に、−0.44Vの休止電位に対応する(中継セル(A)に対応する)スパイクレイテンシで発火させ、次に0度の配向に対応する。したがって、セルおよび/またはシナプスパラメータを介してタイミング情報を符号化することによって、グローバルな計算ではなく局所的な計算が実行され得るように、クロックを使用せずに動作を実現し得る。
[00104]図12Bの例に戻ると、基準配向が45度であるため、中継セル(たとえば、1006b)は、この基準配向に関して局所的配向セル(たとえば、1004b)によって検出されるように配向を変換し得る。いくつかの態様では、この変換は、グローバル配向セル(1004)を介して中継セル(たとえば、1006)の休止電位を変調することによって影響を受ける可能性がある。
[00105]図14は、本開示の態様による、中継セルの変調ポテンシャルを示す例示的な図である。中継セル(A、B、C、およびD)の電位は、初期状態(たとえば、休止状態)で提供され得る。初期状態では、中継セルの各々は、休止電位であり得る(たとえば、図11に示されるように)。グローバル配向セル(たとえば、1004)は、中継セルの休止電位を変調し得る。たとえば、中継セルA(1214)の休止電位が低下され得、中継セルB、C、およびDの休止電位(それぞれ1216、1218、1220)が増加され得る。
[00106]いくつかの態様では、中継セルの休止電位が局所的配向セルによって変調され得る。たとえば、図14に示されるように、中継セルBは45度の局所的セルからのスパイクによって影響を受ける場合があり、次に中継セルBをALIF領域に送る。中継セルBは、局所的配向セルの配向と基準配向とに基づいて、時間遅延を伴ってスパイクし得る。たとえば、中継セルBは、局所的配向と基準配向との間の差に基づいて、時間遅延でスパイクし得る(たとえば、局所的配向セル配向(45度)−基準配向(45度)=0度、これは、たとえば0.09秒のレイテンシに対応し得る(上述のように)。
[00107]図13A〜図13Bは、本開示の態様による、例示的なヒストグラムレイヤを示す図1300、1350である。図13Aの図1300を参照すると、ヒストグラムレイヤは、各々が中継セル(たとえば、1006)と読出しニューロン(R)(たとえば、1020)とのセットを備える中継回路1302を含み得る。ヒストグラムレイヤはまた、カウンティングニューロン(C)1304a、1304b、1304c、1304d、1304e(集合的に、カウンティングニューロン(C)1304と呼ばれ得る)を含む。
[00108]図13Bの図1350に示されるように、カウンティングニューロン(C)1304の各々は、読出しニューロン(R)(たとえば、1020)とトリガニューロン(T)1320の各々に結合される。カウンティングニューロン(C)1304は、所与のスパイクレイテンシで入力の数を検出する(配向が、読出しニューロン(R)(たとえば、1020)の発火のレイテンシにおいて符号化される)。トリガニューロン(T)1320は、特定のレイテンシに対応するスパイクが予想され得るときにそれを最上の興奮性にするために、カウンティングニューロン(C)1304の膜電位を変調し得る。たとえば、45度のカウンティング配向のカウンティングニューロン(C)1304は、0.21秒のスパイクレイテンシで最上の興奮性であり得るのに対し、90度を担当するカウンティングニューロン(C)1304は、スパイクレイテンシ0.34秒で最上の興奮性であり得る。
[00109]トリガニューロン(T)1320は、カウンティングニューロン(C)1304ごとに提供され得る。トリガニューロンT1320は、グローバル配向ニューロン1004から入力を受け取る。いくつかの態様では、トリガニューロン(T)1320は、カウンティングニューロン(C)1304への興奮性シナプス1312で構成され得る。いくつかの態様では、各トリガニューロン(T)1320は、タイマとして作用し得る。グローバル配向セル1004の発火は、トリガニューロン(T)の基準時点として作用し得る。グローバル配向セル1004から入力スパイクを受け取ると、トリガニューロン(T)1320はALIF領域に入り得、またパラメータ(Tau+)もそのように構成されるので、トリガニューロン(T)1320は、対応するカウンティングニューロン(C)を活性化するためにタイミングでスパイクする。このように、トリガニューロン(T)1320は、カウントを開始するためにカウンティングニューロン(C)1304を活性化し得る。いくつかの態様では、カウンティングニューロン(C)1304は、その対応するトリガニューロン(T)1320のスパイキングの前に、その入力のすべてを無視し得る。トリガニューロン(T)1320がスパイクした後、カウンティングニューロン(C)1304はカウンタとして作用し得る。各カウンティングニューロン(C)1304はヒストグラムのビンを表現し得る。したがって、カウンティングニューロン(C)1304の各々がカウントすると、それらは配向1308のヒストグラムを計算し得る。いくつかの態様では、カウンティングニューロン(C)1304は、配向1310の累積ヒストグラムを計算し得る。
[00110]1つの例示的な態様では、カウンティングニューロン(C)は、累積周波数モードでカウントするように構成され得る。累積周波数モードでは、カウンティングニューロン(C)は、トリガニューロン(T)からスパイクを受け取る前に受け取ったすべての入力を無視し得る。一例では、スパイク時間(0.09秒、0.21秒、0.34秒、0.49秒)は、それぞれ0度、45度、90度、および135度の配向に対応し得る。この例では、カウンティングニューロン(C)は、スパイク時間ごとに提供され得る。このように、0.09秒のカウンティングニューロンは、0.09秒の遅延でスパイクの到着に対応する時間で活性化され得、したがって、0.09秒の遅延で、またはその後に到着するすべてのスパイク(すべてのスパイクであり得る)をカウントし得る。同様に、0.21秒のカウンティングニューロン(C)は、0.21秒の遅延を有するスパイクで、またはその後に到着するすべてのスパイクをカウントし得る。このように、累積ヒストグラムが取得され得る。
[00111]別の例示的な態様では、カウンティングニューロン(C)は、実際の周波数モードでカウントするように構成され得る。実際の周波数モードでは、カウンティングニューロン(C)は、トリガニューロン(T)からスパイクを受け取る前にすべての入力を無視し得、また次のスパイクのセットが予測される前にスパイクする。たとえば、0度の配向に対応するカウンティングニューロン(C)は、約0.09秒の遅延を有するスパイクが予測される時間にカウンティングを開始し得、事前に指定された数以上のスパイクがある場合は0.21秒前に決定的にスパイクし得る。したがって、0.21秒のレイテンシを有するスパイクが到着する場合、0度の配向に対応するカウンティングニューロン(C)はカウンティングに参加しない。これによって、各カウンティングニューロンが、(0.09秒〜0.21秒)、(0.21秒〜0.34秒)、(0.34秒〜0.49秒)等の、事前に指定された遅延間隔間のスパイクの数をカウントすることが可能になる。
[00112]1つの例示的な態様では、ヒストグラムレイヤは以下のように動作し得る。グローバル配向セル(たとえば、1004)の発火は、トリガニューロン(T)1320を反リーキー積分発火(A−LIF)領域に送ることができる。上記に示したように、グローバル配向は強い側方抑制を有し得る。このように、唯一のグローバル配向セル(たとえば、1004)は、任意の時点で発生する。トリガニューロン(T)1320は、どのグローバル配向セルが発火したかについて無関心であり得、代わりに、トリガニューロン(T)1320は基準時点を単に使用し得る。
[00113]トリガニューロン(T)1320の反リーキー積分発火(A−LIF)時定数は、それがいつ発火するか、したがって対応するカウンティングニューロン(C)1304がいつ最上の興奮性であり得るかを決定し得る。
[00114]中継セル(ニューロン)(R)(たとえば、1006)からカウンティングニューロン(C)1304へのシナプス重みは、いくつかの態様では、たとえすべての中継ニューロン(たとえば、1006)が同じレイテンシで発火しても、カウンティングニューロン(C)1304のいずれもスパイクし得ず、または反リーキー積分発火(A−LIF)領域に移動し得ず、その休止電位に非常に迅速に戻るように構成され得る。代わりに、この態様では、中継セル(ニューロン)(R)(たとえば、1006)がカウンティングニューロン(C)1304のスパイキングを生じさせ得るのは、トリガニューロン(T)1320がカウンティングニューロン(C)1304を興奮性にした時だけであり得る。
[00115]いくつかの態様では、時間的学習レイヤ908(図9で参照される)は、画像の主軸に関して画像内の配向1308のヒストグラムを認識するようにトレーニングされ得る。
[00116]スケーリングは、画像内のすべての配向エッジの比例する増加または減少を含み得る。スケーリングは、その主軸に関するオブジェクトの任意のセグメントの相対的配向を維持するので、それはヒストグラムレイヤ906で表される配向の相対的分布に影響を与えない場合がある。したがって、時間的学習レイヤ908は、スケール変換にとらわれない場合がある。
[00117]同様に、翻訳された画像では、主軸に関するエッジの相対的配向は変わらない場合がある。したがって、ヒストグラムレイヤ906出力も変化しない場合があり、いくつかの態様では、時間的学習レイヤ908において並進不変性を生成し得る。
[00118]さらに、配向が測定され得、異なる角度でエッジを検出することを意味し得るので、また、エッジを検出することは差を取ることを含み得るので、いくつかの態様では、輝度の絶対値も不変であり得る。
[00119]すべての不変タイプを可能にする重要な概念は、配向領域のヒストグラムにおいて、場所コードが使用されないことである。したがって、オブジェクトはその相対的配向によって識別される。
[00120]図15は、スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための方法1500を示している。ブロック1502で、ニューロンモデルはスパイクシーケンスによってオブジェクトを表現する。ブロック1504で、ニューロンモデルは、オブジェクト表現の基準特徴を決定する。さらに、ブロック1506で、ニューロンモデルは、基準特徴に基づいて、オブジェクト表現を標準形に変換する。
[00121]図16は、スパイキングニューラルネットワークにおいてヒストグラムを生成するための方法1600を示している。ブロック1602で、ニューロンモデルは、オブジェクトのレイテンシ符号化表現に関連付けられるスパイクをカウントする。さらに、ブロック1604で、ニューロンモデルは、スパイクカウントに基づいてヒストグラムを生成する。
[00122]上述した方法の様々な動作は、対応する機能を実行することが可能な任意の好適な手段によって実行され得る。それらの手段は、限定はしないが、回路、特定用途向け集積回路(ASIC)、またはプロセッサを含む、様々なハードウェアおよび/またはソフトウェア構成要素および/またはモジュールを含み得る。概して、図に示されている動作がある場合、それらの動作は、同様の番号をもつ対応するカウンターパートのミーンズプラスファンクション構成要素を有し得る。
[00123]本明細書で使用する「決定」という用語は、多種多様なアクションを包含する。たとえば、「決定」は、計算すること、算出すること、処理すること、導出すること、調査すること、ルックアップすること(たとえば、テーブル、データベースまたは別のデータ構造においてルックアップすること)、確認することなどを含み得る。さらに、「決定」は、受信すること(たとえば、情報を受信すること)、アクセスすること(たとえば、メモリ中のデータにアクセスすること)などを含み得る。さらに、「決定」は、解決すること、選択すること、選定すること、確立することなどを含み得る。
[00124]本明細書で使用する、項目のリスト「のうちの少なくとも1つ」を指す句は、単一のメンバーを含む、それらの項目の任意の組合せを指す。一例として、「a、b、またはcのうちの少なくとも1つ」は、a、b、c、a−b、a−c、b−c、およびa−b−cを包含するものとする。
[00125]本開示に関連して説明した様々な例示的な論理ブロック、モジュール、および回路は、汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ信号(FPGA)または他のプログラマブル論理デバイス(PLD)、個別ゲートまたはトランジスタ論理、個別ハードウェア構成要素、あるいは本明細書で説明した機能を実行するように設計されたそれらの任意の組合せを用いて実装または実行され得る。汎用プロセッサはマイクロプロセッサであり得るが、代替として、プロセッサは、任意の市販のプロセッサ、コントローラ、マイクロコントローラまたは状態機械であり得る。プロセッサはまた、コンピューティングデバイスの組合せ、たとえば、DSPとマイクロプロセッサとの組合せ、複数のマイクロプロセッサ、DSPコアと連携する1つまたは複数のマイクロプロセッサ、あるいは任意の他のそのような構成として実装され得る。
[00126]本開示に関連して説明した方法またはアルゴリズムのステップは、ハードウェアで直接実施されるか、プロセッサによって実行されるソフトウェアモジュールで実施されるか、またはその2つの組合せで実施され得る。ソフトウェアモジュールは、当技術分野で知られている任意の形式の記憶媒体で存在し得る。使用され得る記憶媒体のいくつかの例は、ランダムアクセスメモリ(RAM)、読出し専用メモリ(ROM)、フラッシュメモリ、消去可能プログラマブル読出し専用メモリ(EPROM)、電気的消去可能プログラマブル読出し専用メモリ(EEPROM(登録商標))、レジスタ、ハードディスク、リムーバブルディスク、CD−ROMなどを含む。ソフトウェアモジュールは、単一の命令、または多数の命令を備えることができ、いくつかの異なるコードセグメント上で、異なるプログラム間で、複数の記憶媒体にわたって分散され得る。記憶媒体は、プロセッサがその記憶媒体から情報を読み取ることができ、その記憶媒体に情報を書き込むことができるように、プロセッサに結合され得る。代替として、記憶媒体はプロセッサと一体化され得る。
[00127]本明細書で開示する方法は、説明した方法を達成するための1つまたは複数のステップまたはアクションを備える。本方法のステップおよび/またはアクションは、特許請求の範囲から逸脱することなく互いに交換され得る。言い換えれば、ステップまたはアクションの特定の順序が指定されない限り、特定のステップおよび/またはアクションの順序および/または使用は、特許請求の範囲から逸脱することなく変更され得る。
[00128]説明した機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。ハードウェアで実装される場合、例示的なハードウェア構成はデバイス中に処理システムを備え得る。処理システムは、バスアーキテクチャを用いて実装され得る。バスは、処理システムの特定の適用例および全体的な設計制約に応じて、任意の数の相互接続バスとブリッジとを含み得る。バスは、プロセッサと、機械可読媒体と、バスインターフェースとを含む様々な回路を互いにリンクし得る。バスインターフェースは、ネットワークアダプタを、特に、バスを介して処理システムに接続するために使用され得る。ネットワークアダプタは、信号処理機能を実装するために使用され得る。いくつかの態様では、ユーザインターフェース(たとえば、キーパッド、ディスプレイ、マウス、ジョイスティックなど)もバスに接続され得る。バスはまた、タイミングソース、周辺機器、電圧調整器、電力管理回路などの様々な他の回路にリンクし得るが、それらは当技術分野でよく知られており、したがってこれ以上は説明されない。
[00129]プロセッサは、機械可読媒体に記憶されたソフトウェアの実行を含む、バスおよび一般的な処理を管理することを担当し得る。プロセッサは、1つまたは複数の汎用および/または専用プロセッサを用いて実装され得る。例としては、マイクロプロセッサ、マイクロコントローラ、DSPプロセッサ、およびソフトウェアを実行し得る他の回路を含む。ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語などの名称にかかわらず、命令、データ、またはそれらの任意の組合せを意味すると広く解釈されたい。機械可読媒体は、一例として、ランダムアクセスメモリ(RAM)、フラッシュメモリ、読出し専用メモリ(ROM)、プログラマブル読出し専用メモリ(PROM)、消去可能プログラマブル読出し専用メモリ(EPROM)、電気的消去可能プログラム可能読出し専用メモリ(EEPROM)、レジスタ、磁気ディスク、光ディスク、ハードドライブ、または他の任意の適切な記憶媒体、あるいはそれらの任意の組合せを含み得る。機械可読媒体はコンピュータプログラム製品において実施され得る。コンピュータプログラム製品はパッケージング材料を備え得る。
[00130]ハードウェア実装形態では、機械可読媒体は、プロセッサとは別個の処理システムの一部であり得る。しかしながら、当業者なら容易に理解するように、機械可読媒体またはその任意の部分は処理システムの外部にあり得る。例として、機械可読媒体は、すべてバスインターフェースを介してプロセッサによってアクセスされ得る、伝送線路、データによって変調された搬送波、および/またはデバイスとは別個のコンピュータ製品を含み得る。代替的に、または追加で、機械可読媒体またはその任意の部分は、キャッシュおよび/または汎用レジスタファイルがそうであり得るように、プロセッサに統合され得る。論じた様々な構成要素は、ローカル構成要素などの特定の位置を有するものとして説明され得るが、それらはまた、分散コンピューティングシステムの一部として構成されているいくつかの構成要素などの様々な方法で構成され得る。
[00131]処理システムは、すべて外部バスアーキテクチャを介して他のサポート回路と互いにリンクされる、プロセッサ機能を提供する1つまたは複数のマイクロプロセッサと、機械可読媒体の少なくとも一部分を提供する外部メモリとをもつ汎用処理システムとして構成され得る。あるいは、処理システムは、本明細書に記載のニューロンモデルとニューラルシステムのモデルとを実装するための1つまたは複数のニューロモルフィックプロセッサを備え得る。別の代替として、処理システムは、プロセッサを有する特定用途向け集積回路(ASIC)と、バスインターフェースと、ユーザインターフェースと、サポート回路と、単一のチップに統合された機械可読媒体の少なくとも一部とを用いて、あるいは1つまたは複数のフィールドプログラマブルゲートアレイ(FPGA)、プログラマブル論理デバイス(PLD)、コントローラ、状態機械、ゲート論理、個別ハードウェア構成要素、または他の任意の適切な回路、あるいは本開示全体を通じて説明した様々な機能を実行し得る回路の任意の組合せを用いて実装され得る。当業者なら、特定の適用例と、全体的なシステムに課される全体的な設計制約とに応じて、どのようにしたら処理システムについて説明した機能を最も良く実装し得るかを理解されよう。
[00132]機械可読媒体はいくつかのソフトウェアモジュールを備え得る。ソフトウェアモジュールは、プロセッサによって実行されたときに、処理システムに様々な機能を実行させる命令を含む。ソフトウェアモジュールは、送信モジュールと受信モジュールとを含み得る。各ソフトウェアモジュールは、単一の記憶デバイス中に常駐するか、または複数の記憶デバイスにわたって分散され得る。例として、トリガイベントが発生したとき、ソフトウェアモジュールがハードドライブからRAMにロードされ得る。ソフトウェアモジュールの実行中、プロセッサは、アクセス速度を高めるために、命令のいくつかをキャッシュにロードし得る。次いで、1つまたは複数のキャッシュラインが、プロセッサによる実行のために汎用レジスタファイルにロードされ得る。以下でソフトウェアモジュールの機能に言及する場合、そのような機能は、そのソフトウェアモジュールからの命令を実行したときにプロセッサによって実装されることが理解されよう。
[00133]ソフトウェアで実装される場合、機能は、1つまたは複数の命令またはコードとしてコンピュータ可読媒体上に記憶されるか、あるいはコンピュータ可読媒体を介して送信され得る。コンピュータ可読媒体は、ある場所から別の場所へのコンピュータプログラムの転送を可能にする任意の媒体を含む、コンピュータ記憶媒体と通信媒体の両方を含む。記憶媒体は、コンピュータによってアクセスされ得る任意の利用可能な媒体であり得る。限定ではなく例として、そのようなコンピュータ可読媒体は、RAM、ROM、EEPROM、CD−ROMまたは他の光ディスクストレージ、磁気ディスクストレージまたは他の磁気記憶デバイス、あるいは命令またはデータ構造の形態の所望のプログラムコードを搬送または記憶するために使用され得、コンピュータによってアクセスされ得る、任意の他の媒体を備えることができる。さらに、いかなる接続もコンピュータ可読媒体を適切に名づけられる。たとえば、ソフトウェアが、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者回線(DSL)、または赤外線(IR)、無線、およびマイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波などのワイヤレス技術は、媒体の定義に含まれる。本明細書で使用するディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピー(登録商標)ディスク(disk)、およびBlu−ray(登録商標)ディスク(disc)を含み、ディスク(disk)は、通常、データを磁気的に再生し、ディスク(disc)は、データをレーザーで光学的に再生する。したがって、いくつかの態様では、コンピュータ可読媒体は非一時的コンピュータ可読媒体(たとえば、有形媒体)を備え得る。さらに、他の態様では、コンピュータ可読媒体は一時的コンピュータ可読媒体(たとえば、信号)を備え得る。上記の組合せもコンピュータ可読媒体の範囲内に含まれるべきである。
[00134]したがって、いくつかの態様は、本明細書で提示する動作を実行するためのコンピュータプログラム製品を備え得る。たとえば、そのようなコンピュータプログラム製品は、本明細書で説明する動作を実行するために1つまたは複数のプロセッサによって実行可能である命令を記憶した(および/または符号化した)コンピュータ可読媒体を備え得る。いくつかの態様では、コンピュータプログラム製品はパッケージング材料を含み得る。
[00135]さらに、本明細書で説明した方法および技法を実行するためのモジュールおよび/または他の適切な手段は、適用可能な場合にユーザ端末および/または基地局によってダウンロードされ、および/または他の方法で取得され得ることを諒解されたい。たとえば、そのようなデバイスは、本明細書で説明した方法を実施するための手段の転送を可能にするためにサーバに結合され得る。代替的に、本明細書で説明した様々な方法は、ユーザ端末および/または基地局が記憶手段をデバイスに結合または提供すると様々な方法を得ることができるように、記憶手段(たとえば、RAM、ROM、コンパクトディスク(CD)またはフロッピーディスクなどの物理記憶媒体など)によって提供され得る。その上、本明細書で説明した方法および技法をデバイスに与えるための任意の他の好適な技法が利用され得る。
[00136]特許請求の範囲は、上記で示した厳密な構成および構成要素に限定されないことを理解されたい。上記で説明した方法および装置の構成、動作および詳細において、特許請求の範囲から逸脱することなく、様々な改変、変更および変形が行われ得る。
[00136]特許請求の範囲は、上記で示した厳密な構成および構成要素に限定されないことを理解されたい。上記で説明した方法および装置の構成、動作および詳細において、特許請求の範囲から逸脱することなく、様々な改変、変更および変形が行われ得る。
以下に、出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための方法であって、
スパイクシーケンスによって前記オブジェクトを表現することと、
前記オブジェクト表現の基準特徴を決定することと、
前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換することと
を備える、方法。
[C2]
前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記オブジェクト表現のニューロンに補正係数を適用するために前記基準特徴を使用することをさらに備える、
C1に記載の方法。
[C3]
前記基準特徴を前記決定することは、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとを備える、
C1に記載の方法。
[C4]
前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
C3に記載の方法。
[C5]
前記基準特徴は、前記オブジェクトの配向を備える、
C1に記載の方法。
[C6]
前記基準特徴は、前記オブジェクトの大きさを備える、
C1に記載の方法。
[C7]
スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置であって、
メモリと、
前記メモリに結合された少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
スパイクシーケンスによって前記オブジェクトを表現することと、
前記オブジェクト表現の基準特徴を決定することと、
前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換することと
を行うように構成される、装置。
[C8]
前記少なくとも1つのプロセッサは、前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記オブジェクト表現のニューロンに補正係数を適用するために前記基準特徴を使用することを行うようにさらに構成される、
C7に記載の装置。
[C9]
前記少なくとも1つのプロセッサは、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとによって、前記基準特徴を決定することを行うようにさらに構成される、
C7に記載の装置。
[C10]
前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
C9に記載の装置。
[C11]
前記基準特徴は、前記オブジェクトの配向を備える、
C7に記載の装置。
[C12]
前記基準特徴は、前記オブジェクトの大きさを備える、
C7に記載の装置。
[C13]
スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置であって、
スパイクシーケンスによって前記オブジェクトを表現するための手段と、
前記オブジェクト表現の基準特徴を決定するための手段と、
前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換するための手段と
を備える、装置。
[C14]
前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現のニューロンに補正係数を適用するための手段をさらに備える、
C13に記載の装置。
[C15]
前記基準特徴を決定するための前記手段は、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとによって前記基準特徴を決定する、
C13に記載の装置。
[C16]
前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
C15に記載の装置。
[C17]
前記基準特徴は、前記オブジェクトの配向を備える、
C13に記載の装置。
[C18]
前記基準特徴は、前記オブジェクトの大きさを備える、
C13に記載の装置。
[C19]
スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するためのコンピュータプログラム製品であって、
プログラムコードを符号化した非一時的コンピュータ可読媒体を備え、前記プログラムコードは、
スパイクシーケンスによって前記オブジェクトを表現するためのプログラムコードと、
前記オブジェクト表現の基準特徴を決定するためのプログラムコードと、
前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換するためのプログラムコードと
を備える、コンピュータプログラム製品。
[C20]
前記結果として得られるスパイクシーケンスは、前記オブジェクト表現の前記変換に対して不変であるように、前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現のニューロンに補正係数を適用するためのプログラムコードをさらに備える、
C19に記載のコンピュータプログラム製品。
[C21]
前記オブジェクトのセクションを分析して、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することによって、前記基準特徴を決定するためのプログラムコードをさらに備える、
C19に記載のコンピュータプログラム製品。
[C22]
前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
C21に記載のコンピュータプログラム製品。
[C23]
前記基準特徴は、前記オブジェクトの配向を備える、
C19に記載のコンピュータプログラム製品。
[C24]
前記基準特徴は、前記オブジェクトの大きさを備える、
C19に記載のコンピュータプログラム製品。

Claims (24)

  1. スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための方法であって、
    スパイクシーケンスによって前記オブジェクトを表現することと、
    前記オブジェクト表現の基準特徴を決定することと、
    前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換することと
    を備える、方法。
  2. 前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記オブジェクト表現のニューロンに補正係数を適用するために前記基準特徴を使用することをさらに備える、
    請求項1に記載の方法。
  3. 前記基準特徴を前記決定することは、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとを備える、
    請求項1に記載の方法。
  4. 前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
    請求項3に記載の方法。
  5. 前記基準特徴は、前記オブジェクトの配向を備える、
    請求項1に記載の方法。
  6. 前記基準特徴は、前記オブジェクトの大きさを備える、
    請求項1に記載の方法。
  7. スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置であって、
    メモリと、
    前記メモリに結合された少なくとも1つのプロセッサと
    を備え、前記少なくとも1つのプロセッサは、
    スパイクシーケンスによって前記オブジェクトを表現することと、
    前記オブジェクト表現の基準特徴を決定することと、
    前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換することと
    を行うように構成される、装置。
  8. 前記少なくとも1つのプロセッサは、前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記オブジェクト表現のニューロンに補正係数を適用するために前記基準特徴を使用することを行うようにさらに構成される、
    請求項7に記載の装置。
  9. 前記少なくとも1つのプロセッサは、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとによって、前記基準特徴を決定することを行うようにさらに構成される、
    請求項7に記載の装置。
  10. 前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
    請求項9に記載の装置。
  11. 前記基準特徴は、前記オブジェクトの配向を備える、
    請求項7に記載の装置。
  12. 前記基準特徴は、前記オブジェクトの大きさを備える、
    請求項7に記載の装置。
  13. スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するための装置であって、
    スパイクシーケンスによって前記オブジェクトを表現するための手段と、
    前記オブジェクト表現の基準特徴を決定するための手段と、
    前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換するための手段と
    を備える、装置。
  14. 前記結果として得られるスパイクシーケンスが前記オブジェクト表現の前記変換に対して不変であるように、前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現のニューロンに補正係数を適用するための手段をさらに備える、
    請求項13に記載の装置。
  15. 前記基準特徴を決定するための前記手段は、前記オブジェクトのセクションを分析することと、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することとによって前記基準特徴を決定する、
    請求項13に記載の装置。
  16. 前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
    請求項15に記載の装置。
  17. 前記基準特徴は、前記オブジェクトの配向を備える、
    請求項13に記載の装置。
  18. 前記基準特徴は、前記オブジェクトの大きさを備える、
    請求項13に記載の装置。
  19. スパイキングニューラルネットワークを使用してオブジェクトを不変に表現するためのコンピュータプログラム製品であって、
    プログラムコードを符号化した非一時的コンピュータ可読媒体を備え、前記プログラムコードは、
    スパイクシーケンスによって前記オブジェクトを表現するためのプログラムコードと、
    前記オブジェクト表現の基準特徴を決定するためのプログラムコードと、
    前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現を標準形に変換するためのプログラムコードと
    を備える、コンピュータプログラム製品。
  20. 前記結果として得られるスパイクシーケンスは、前記オブジェクト表現の前記変換に対して不変であるように、前記基準特徴に少なくとも部分的に基づいて、前記オブジェクト表現のニューロンに補正係数を適用するためのプログラムコードをさらに備える、
    請求項19に記載のコンピュータプログラム製品。
  21. 前記オブジェクトのセクションを分析して、前記セクション内のスパイキングニューロンのカウントに基づいて前記基準特徴を選択することによって、前記基準特徴を決定するためのプログラムコードをさらに備える、
    請求項19に記載のコンピュータプログラム製品。
  22. 前記カウントは、所与のスパイクレイテンシで入力の数を検出するカウンティングニューロンによって維持される、
    請求項21に記載のコンピュータプログラム製品。
  23. 前記基準特徴は、前記オブジェクトの配向を備える、
    請求項19に記載のコンピュータプログラム製品。
  24. 前記基準特徴は、前記オブジェクトの大きさを備える、
    請求項19に記載のコンピュータプログラム製品。
JP2016558790A 2014-03-27 2015-03-23 スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現 Pending JP2017514215A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/228,065 US20150278641A1 (en) 2014-03-27 2014-03-27 Invariant object representation of images using spiking neural networks
US14/228,065 2014-03-27
PCT/US2015/021991 WO2015148369A2 (en) 2014-03-27 2015-03-23 Invariant object representation of images using spiking neural networks

Publications (2)

Publication Number Publication Date
JP2017514215A true JP2017514215A (ja) 2017-06-01
JP2017514215A5 JP2017514215A5 (ja) 2018-04-05

Family

ID=52829347

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016558790A Pending JP2017514215A (ja) 2014-03-27 2015-03-23 スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現

Country Status (6)

Country Link
US (1) US20150278641A1 (ja)
EP (1) EP3123403A2 (ja)
JP (1) JP2017514215A (ja)
KR (1) KR20160138042A (ja)
CN (1) CN106133755A (ja)
WO (1) WO2015148369A2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9195903B2 (en) * 2014-04-29 2015-11-24 International Business Machines Corporation Extracting salient features from video using a neurosynaptic system
US9373058B2 (en) 2014-05-29 2016-06-21 International Business Machines Corporation Scene understanding using a neurosynaptic system
US9798972B2 (en) 2014-07-02 2017-10-24 International Business Machines Corporation Feature extraction using a neurosynaptic system for object classification
US10115054B2 (en) 2014-07-02 2018-10-30 International Business Machines Corporation Classifying features using a neurosynaptic system
KR102565273B1 (ko) * 2016-01-26 2023-08-09 삼성전자주식회사 뉴럴 네트워크에 기초한 인식 장치 및 뉴럴 네트워크의 학습 방법
US11157798B2 (en) 2016-02-12 2021-10-26 Brainchip, Inc. Intelligent autonomous feature extraction system using two hardware spiking neutral networks with spike timing dependent plasticity
US20170236027A1 (en) * 2016-02-16 2017-08-17 Brainchip Inc. Intelligent biomorphic system for pattern recognition with autonomous visual feature extraction
US11151441B2 (en) 2017-02-08 2021-10-19 Brainchip, Inc. System and method for spontaneous machine learning and feature extraction
KR102607864B1 (ko) * 2018-07-06 2023-11-29 삼성전자주식회사 뉴로모픽 시스템 및 그것의 동작 방법
CN109978019B (zh) * 2019-03-07 2023-05-23 东北师范大学 图像模式识别模拟与数字混合忆阻设备及制备,实现stdp学习规则和图像模式识别方法
EP3944489A4 (en) * 2019-03-19 2022-05-04 Panasonic Intellectual Property Management Co., Ltd. ENGINE CONTROL METHOD, ENGINE CONTROL MODEL CONVERSION METHOD, ENGINE CONTROL SYSTEM, ENGINE CONTROL MODEL CONVERSION SYSTEM AND ENGINE CONTROL MODEL CONVERSION PROGRAM
KR102416924B1 (ko) 2020-01-28 2022-07-04 인하대학교 산학협력단 영상 영역 분할 방법, 영상 영역 분할 장치 및 영상 영역 분할 프로그램
US11282221B1 (en) * 2020-09-22 2022-03-22 Varian Medical Systems, Inc. Image contouring using spiking neural networks
KR102615194B1 (ko) * 2021-01-21 2023-12-19 한국과학기술연구원 시간 임베디드 부동 소수점 산술을 이용한 개선된 뉴런 코어

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120308136A1 (en) * 2010-03-26 2012-12-06 Izhikevich Eugene M Apparatus and methods for pulse-code invariant object recognition

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1964036A4 (en) * 2005-12-23 2010-01-13 Univ Sherbrooke ROOM-TIME PATTERN RECOGNITION USING A NEURONAL SPIKING NETWORK AND PROCESSING THEREOF FOR A PORTABLE AND / OR DISTRIBUTED COMPUTER
US7606777B2 (en) * 2006-09-01 2009-10-20 Massachusetts Institute Of Technology High-performance vision system exploiting key features of visual cortex
US8315305B2 (en) * 2010-03-26 2012-11-20 Brain Corporation Systems and methods for invariant pulse latency coding
US9122994B2 (en) * 2010-03-26 2015-09-01 Brain Corporation Apparatus and methods for temporally proximate object recognition
US9412064B2 (en) * 2011-08-17 2016-08-09 Qualcomm Technologies Inc. Event-based communication in spiking neuron networks communicating a neural activity payload with an efficacy update
US20130325766A1 (en) * 2012-06-04 2013-12-05 Csaba Petre Spiking neuron network apparatus and methods
US9111226B2 (en) * 2012-10-25 2015-08-18 Brain Corporation Modulated plasticity apparatus and methods for spiking neuron network

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120308136A1 (en) * 2010-03-26 2012-12-06 Izhikevich Eugene M Apparatus and methods for pulse-code invariant object recognition

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JOO-HEON SHIN ET AL.: "Recognition of Partially Occluded and Rotated Images With a Network of Spiking Neurons", IEEE TRANSACTION ON NEURAL NETWORKS, vol. 21, no. 11, JPN5017003933, November 2010 (2010-11-01), pages 1697 - 1709 *
RAMIN PICHEVAR: "The Oscillatory Dynamic Link Matcher for Spiking-Neuron-Based Pattern Recognition", NEUROCOMPUTING, vol. Vol.69, Iss.16-18, JPN5017003935, 7 June 2006 (2006-06-07), pages 1837 - 1849 *
TIMOTHEE MASQUELIER AND SIMON J. THORPE: "Unsupervised Learning of Visual Features through Spike Timing Dependent Plasticity", PLOS COMPUTATIONAL BIOLOGY, vol. Vol.3, Iss.2, e31, JPN5017003932, 16 February 2007 (2007-02-16) *

Also Published As

Publication number Publication date
EP3123403A2 (en) 2017-02-01
KR20160138042A (ko) 2016-12-02
CN106133755A (zh) 2016-11-16
WO2015148369A3 (en) 2015-12-10
US20150278641A1 (en) 2015-10-01
WO2015148369A2 (en) 2015-10-01

Similar Documents

Publication Publication Date Title
JP2017514215A (ja) スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現
JP6275868B2 (ja) ニューラルウォッチドッグ
JP2017516192A (ja) ニューラルネットワークにおける差分符号化
JP2017525038A (ja) ニューラルネットワークにおける畳込み演算の分解
JP2017509951A (ja) スパースニューラルネットワークを構成すること
JP2017509982A (ja) 原位置ニューラルネットワークコプロセッシング
JP2017509978A (ja) 確率論的スパイキングベイジアンネットワークに関する事象に基づく推論および学習
JP2017513127A (ja) スパイキング深層信念ネットワーク(dbn)におけるトレーニング、認識、および生成
JP2017515205A (ja) Coldニューロンスパイクタイミングバックプロバゲーション
JP2016538632A (ja) 教師あり学習を使用してクラスにタグ付けするための方法および装置
JP2017509952A (ja) シャドウネットワークでニューラルネットワークを監視すること
WO2015112713A2 (en) Value synchronization across neural processors
JP2017511936A (ja) 現在の計算リソースへのニューラルネットワーク適応
JP2017519268A (ja) スパイキングニューラルネットワークにおけるグローバルスカラ値によって可塑性を調節すること
WO2015148254A2 (en) Invariant object representation of images using spiking neural networks
JP2017509980A (ja) 動的な空間ターゲット選択
JP2017513108A (ja) サブしきい値変調を介するアナログ信号再構築および認識
JP2017507397A (ja) 自動エラー訂正のための同時レイテンシおよびレートコーディング
JP6193509B2 (ja) 可塑性シナプス管理
JP6219509B2 (ja) シナプス遅延を動的に割り当てることおおよび検査すること
JP6096388B2 (ja) ニューラルネットワークモデルにおけるドップラー効果処理
JP6133517B2 (ja) 座標変換のための位相コーディング
WO2015023441A2 (en) Post ghost plasticity
US9342782B2 (en) Stochastic delay plasticity
JP2017513110A (ja) ニューロモーフィックモデル開発のためのコンテキストリアルタイムフィードバック

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161128

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190903