JP6050105B2 - スパイクニューロン基盤のワーキングメモリ装置 - Google Patents

Description

本発明の技術分野は、スパイクニューロン（spiking neuron）から構成されたワーキングメモリ（working memory）装置に関する。

スパイクニューラルネットワーク（spiking neural network）及び神経形態学的（neuromorphic）な技術は、生体頭脳を構成する神経細胞を模倣して認知及び推論可能な知能を有する神経回路を実現しようとする技術である。この分野の核心技術は、神経細胞のニューロンの核心動作を適切に模写する技術とニューロンを連結して特定機能を行う回路を実現する技術がある。ニューロン回路技術として、従来にはニューロンを階層的に連結してパターンを分類する構造が多く提案された。しかし、時間に応じて入力パターンが常に変化する空間−時間（spatio-temporal）パターンの場合、このような構造のニューロン回路を用いて認識及び推論を行うことはできない。そのためには時間に伴って変化するパターンを臨時的に所望する時間に格納するためのニューロン回路が必要である。

本発明の目的は、スパイクニューロン基盤のワーキングメモリ装置を提供することにある。

一実施形態において、入力スパイク信号を一定形態のバースト構造のスパイク信号であるバースト信号に変換して出力する入力部と、前記入力部から出力される前記バースト信号に対応する特徴値を格納する２つ以上の格納部とを備え、前記格納部は、前記入力部から出力される前記バースト信号の順に応じて順次に１つの格納部に１つのバースト信号に対応する特徴値を格納し、格納した特徴値に対応するスパイク信号を持続的に出力することを特徴とするスパイクニューロン基盤のワーキングメモリ装置が提供される。

ここで、前記格納部は、前記バースト信号に対応する特徴値が格納されている場合、非活性化されて次の順序の格納部を活性化してもよい。

ここで、前記格納部は、前記バースト信号が格納されている場合、初期化信号によって初期化されるまで前記入力値に対応するスパイク信号を持続的に出力してもよい。

ここで、前記入力部は、入力に受信できる特徴値ごとに、入力されるスパイク信号を時間幅が一定のバースト構造に変更する活性ニューロンと、前記活性ニューロンで変更されたバースト構造のスパイク信号が一定のサイズを有するように前記活性ニューロンを抑制してバースト信号を生成する活性ニューロンとを含んでもよい。

ここで、前記入力部は、入力に受信できる特徴値ごとに、前記入力されるスパイク信号をノイズ除去ニューロンに伝達する短期的な促進特性を有するシナプスと、前記シナプスによって入力されたスパイク信号からノイズを除去して前記活性ニューロンに伝達する前記ノイズ除去ニューロンとをさらに含んでもよい。

ここで、前記格納部それぞれは、活性化されれば、前記入力部から受信する前記バースト信号を持続部に伝達するゲートニューロンと、前記バースト信号が入力された場合、前記バースト信号に対応する前記特徴値に対応する少なくとも１つのニューロンを活性化させて、初期化信号が入力されるまで持続的に前記特徴値に対応するスパイク信号を出力する前記持続部と、前記ゲートニューロンを活性化したり抑制する前記制御ニューロンとを含んでもよい。

ここで、前記制御ニューロンは、以前順序の格納部からアイドル（Idle）信号を受信したり、または、前記持続部から前記特徴値に対応するスパイク信号を受信すれば前記ゲートニューロンを抑制し、入力される信号がなければ、前記ゲートニューロンを活性化してもよい。

ここで、前記ゲートニューロンは、前記入力部で受信する入力に対応する特徴値の種類だけ存在してもよい。

ここで、前記持続部は、前記バースト信号を受信した場合、前記特徴値に該当するスパイク信号を持続的に出力するそれぞれの特徴値ごとの持続ニューロンと、初期化信号によりアイドリング状態であることを示すアイドル信号を出力する少なくとも１つの遊休ニューロンと、前記持続ニューロンと前記遊休ニューロンを抑制し、一回に一種類のスパイク信号だけが出力されるようにする少なくとも１つの抑制ニューロンとを含んでもよい。

一実施形態によると、入力スパイク信号を一定形態のバースト構造のスパイク信号であるバースト信号に変換して出力する入力部と、前記バースト信号を予め設定した値を有する多重化されたバースト信号に変えて出力するマルチプレクサと、前記マルチプレクサから出力される多重化されたバースト信号が入力された場合、次の順序の格納部を選択する活性化信号を出力する順次選択部と、前記順次選択部で出力する前記活性化信号を受信した場合、前記入力部から出力される前記バースト信号に対応する特徴値を格納し、前記特徴値に対応するスパイク信号を持続的に出力する格納部を２つ以上備えることを特徴とするスパイクニューロン基盤のワーキングメモリ装置が提供される。

ここで、前記順次選択部は、外部から前記格納部のいずれか１つを選択する外部選択信号を受信した場合、前記活性化信号を選択された格納部に出力してもよい。

ここで、前記格納部は、前記バースト信号が格納されている場合、初期化信号によって初期化されるまで前記特徴値に対応するスパイク信号を持続的に出力してもよい。

ここで、前記入力部は、入力に受信できる特徴値ごとに、入力されるスパイク信号を時間幅が一定のバースト構造に変更する活性ニューロンと、前記活性ニューロンで変更されたバースト構造のスパイク信号が一定のサイズを有するように前記活性ニューロンを抑制してバースト信号を生成する抑制ニューロンとを含んでもよい。

ここで、前記入力部は、入力に受信できる特徴値ごとに、前記入力されるスパイク信号をノイズ除去ニューロンに伝達する短期的な促進特性を有するシナプスと、前記シナプスによって入力されたスパイク信号からノイズを除去して前記活性ニューロンに伝達する前記ノイズ除去ニューロンとをさらに含んでもよい。

ここで、前記格納部それぞれは、前記順次選択部によって活性化された場合、前記入力部から受信する前記バースト信号を持続部に伝達するゲートニューロンと、前記バースト信号が入力された場合、前記特徴値に対応する少なくとも１つのニューロンを活性化させて、初期化信号が入力されるまで持続的に前記特徴値に対応するスパイク信号を出力する前記持続部とを備えてもよい。

ここで、前記ゲートニューロンは、前記入力部に受信する入力に対応する特徴値の種類だけ存在してもよい。

ここで、前記持続部は、前記バースト信号を受信した場合、前記特徴値に該当するスパイク信号を持続的に出力するそれぞれの特徴値ごとの持続ニューロンと、前記持続ニューロンと前記アイドルニューロンを抑制して一回に一種類のスパイク信号だけが出力されるようにする少なくとも１つの抑制ニューロンとを含んでもよい。

ここで、前記抑制ニューロンは、初期化信号を受信した場合、前記持続部を初期化して持続的に出力した前記スパイク信号を遮断してもよい。

ここで、前記順次選択部は、活性化された場合、対応する前記格納部に含まれたゲートニューロンを活性化する活性化信号を持続的に出力する選択ニューロンと、前記マルチプレクサから前記多重化されたバースト信号を受信した場合、次の順序の選択ニューロンを活性化させる順次選択ニューロンと、前記選択ニューロンを抑制して前記選択ニューロンのいずれか１つの選択ニューロンだけが前記活性化信号を出力するようにする少なくとも１つの抑制ニューロンと、前記順次選択ニューロンを抑制する信号を持続的に出力する制御ニューロンとを含んでもよい。

ここで、前記選択ニューロンのうち第１順序の選択ニューロンは、前記初期化信号を受信し、前記初期化信号が受信された場合、前記活性化信号を第１順序の格納部に含まれたゲートニューロンに持続的に送信してもよい。

ここで、前記制御ニューロンは、前記格納部それぞれに含まれたゲートニューロンを抑制する信号を持続的に出力してもよい。

本発明によると、スパイクニューロン基盤のワーキングメモリ装置を提供することができる。

一実施形態に係るワーキングメモリ装置の構成を示す図である。 一実施形態に係るワーキングメモリ装置で入力部の構成を示す図である。 入力部でノイズ除去ニューロンの入出力例を示す図である。 シナプスが有し得る短期可塑性（STP: Short Term Plasticity）の種類を示す図である。 ワーキングメモリ装置で入力信号のスパイク比率による入力部の入出力例を示す図である。 入力を持続させる結合された回帰ネットワークの構造を示す図である。 入力を持続させる回帰ネットワークの構造を示す図である。 一実施形態に係るワーキングメモリ装置で格納部の構成を示す図である。 スパイクニューロンを用いて構成された一実施形態に係るワーキングメモリ装置の構成を示す図である。 図９の動作中で入力部の入出力例を示す図である。 図９の動作中で格納部の出力例を示す図である。 図１１に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。 他の実施形態に係るワーキングメモリ装置の構成を示す図である。 他の実施形態に係るワーキングメモリ装置でマルチプレクサの構成を示す図である。 図１４のマルチプレクサの入出力例を示す図である。 他の実施形態に係るワーキングメモリ装置で順次選択部の構成を示す図である。 図１６の順次選択部の入出力例を示す図である。 他の実施形態に係るワーキングメモリ装置で格納部の構成を示す図である。 図１８の格納部の入出力例を示す図である。 スパイクニューロンを用いて構成された他の実施形態に係るワーキングメモリ装置の構成を示す図である。 図２０の動作中で入力部とマルチプレクサの入出力例を示す図である。 図２０の動作中で順次選択部の入出力例を示す図である。 図２０の動作中で格納部の出力例を示す図である。 図２０に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。 図２０の動作中で格納部が選択された場合、入力部とマルチプレクサの入出力例を示す図である。 図２０の動作中で格納部が選択された場合、順次選択部の入出力例を示す図である。 図２０の動作中で格納部が選択された場合、格納部の出力例を示す図である。 図２７に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。

以下、本発明の実施形態について添付の図面を参照しながら詳細に説明する。

以下の説明で、神経回路を用いて時間に応じて変化するパターンを臨時的に所望する時間中に格納する装置をワーキングメモリ装置という。

図１は、一実施形態に係るワーキングメモリ装置の構成を示す図である。

図１に示すように、ワーキングメモリ装置１００は、入力インタフェース１１０、複数の格納部（ME: Memory Element）１２０、１３０、１４０を備える。

入力インタフェース１１０は、複数のニューロンから入力される入力スパイク信号（Input spikes）を一定形態のバーストスパイク形態に変わって出力する。入力インタフェース１１０は、入力スパイク信号の列をスパイク比率及び長さに関わらず時間幅が一定のバースト構造に変える。

格納部１２０、１３０、１４０は順次活性化され、活性化された格納部は入力インタフェース１１０から出力されるバーストスパイク信号（Burst spikes）に対応する特徴値を格納する。以下では、バーストスパイク信号をバースト信号と称する。

格納部１２０、１３０、１４０は、バースト信号に対応する特徴値が格納されている場合に非活性化され、次の順序の格納部を活性化する。すなわち、第０格納部１２０を除いた格納部１３０、１４０は、前の順序の格納部によって活性化される。

格納部１２０、１３０、１４０はバースト信号に対応する特徴値が格納されている場合、初期化信号によって初期化されるまで入力値に該当するスパイク信号を持続的に出力する。

図２は、一実施形態に係るワーキングメモリ装置で入力部の構成を示す図である。

図２に示すように、入力インタフェース１１０は、入力当たり２つの活性ニューロン（excitedry neuron）と１つの抑制ニューロン（inhibitory neuron）を含んで構成される。ここで、入力側にあるノイズを除去するための活性ニューロン２１１、２１２、２１３を省略してもよく、以下の説明では、ノイズを除去するための活性ニューロンをノイズ除去ニューロンであると称する。ノイズ除去ニューロン２１１、２１２、２１３が省略される場合、入力インタフェース１１０は、入力当たり１つの活性ニューロンと１つの抑制ニューロンから構成される。

ノイズ除去ニューロン２１１、２１２、２１３が含まれる場合、ノイズ除去のために入力とノイズ除去ニューロンの間は短期的な促進（STF: Short Term Facilitation）機能を有するシナプスに連結されている。シナプスの特性は、下記の図４を参照して後述することにする。

図４は、シナプスが有し得る短期可塑性の種類を示す図である。シナプスの短期可塑性とは、シナプスが伝達する連続するスパイク信号の強度変化を示す。図４に示すように、シナプスは大きく、促進（facilitation）、降下（depression）及び静的（static）のうち１つの特徴を有する。

促進は、連続するスパイク信号が入力されれば、最初には小さいサイズで伝達して徐々に大きいサイズに伝達する特性を示す。

降下は、連続するスパイク信号が入力される最初には大きいサイズで伝達して徐々に小さいサイズに伝達する特性を示す。静的は、連続するスパイク信号を一定のサイズに伝達する特性を示す。

再び、図２に示すように、ノイズ除去ニューロン２１１、２１２、２１３は短期的な促進の特性を有するシナプスによって入力されるスパイク信号を用いて、図３に示すノイズを除去する。

図３は、入力インタフェースでノイズ除去ニューロンの入出力例を示す図である。図３に示すように、およそ２個のスパイクからなる入力がある場合、短期的な促進特性を有するシナプスとノイズ除去ニューロン２１１、２１２、２１３によって除去され、複数のスパイクからなる信号のみが出力されることが確認される。

入力インタフェース１１０は、入力当たり１つの活性ニューロン２２１、２２２、２２３と１つの抑制ニューロン２３１、２３２、２３３を用いて連続して入力されるスパイク信号をスパイク比率及び長さに関わらず、時間幅が一定のバースト構造のバースト信号に変換させて出力する。

より詳細に説明すると、活性ニューロン２２１、２２２、２２３は、入力されるスパイク信号を時間幅が一定のバースト構造に変更する。そして、抑制ニューロン２３１、２３２、２３３は、活性ニューロン２２１、２２２、２２３で生成するバースト構造のバースト信号が一定のサイズを有するように活性ニューロン２２１、２２２、２２３を抑制する。

入力インタフェース１１０は、バーストモードで動作するニューロンを用いる場合、入力に対応する特徴値ごとに１つのニューロンから構成することができる。

一方、入力インタフェース１１０は長さの長い入力が入ってくる場合、図５に示すように、適当な時間間隔ごとにバースト信号を出力することで入力が持続されることを示す。

図５は、ワーキングメモリ装置で入力信号のスパイク比率による入力インタフェースの入出力例を示す図である。図５に示すように、入力インタフェース１１０は長さの長い入力が入ってくる場合、時間間隔ごとにバースト信号を出力することによって入力が持続されていることを示す。ここで、入力されるスパイクのスパイク比率が高い場合（すなわち、時間当り入力されるスパイク数が多い場合）は、バースト信号が出力される時間間隔が短くし、スパイク比率が低い場合は、バースト信号が出力される時間間隔を増やす、ことで長い入力のスパイク比率に関する情報が示される。

図１に示す格納部１２０、１３０、１４０を説明する前に、一度活性化すれば入力がなくても活性化された状態を保持するネットワーク構造について図６および図７を参照して説明する。

図６は、入力を持続させる結合された回帰ネットワークの構造を示す図である。図６に示すように、（ａ）は結合された回帰ネットワークの構造を示し、（ｂ）は結合された回帰ネットワークの構造を単に表したものである。その後、図面で結合された回帰ネットワークの構造を（ｂ）の形態に表したものである。

結合された回帰ネットワークは２つの回帰ネットワークの結合から構成される。２つの回帰ネットワークはそれぞれグループＸ（Group X）とグループＹ（Group Y）に分類される。

グループＸの回帰ネットワークは少なくとも１つの抑制ニューロン６４１と複数の活性ニューロン６１１、６２１、６３１から構成され、グループＹの回帰ネットワークは少なくとも１つの抑制ニューロン６４２と複数の活性ニューロン６１２、６２２、６３２から構成される。

グループＸの活性ニューロン６１１、６２１、６３１とグループＹの活性ニューロン６１２、６２２、６３２は互いに対をなして結合し、スパイク信号が入力されれば、対をなす活性ニューロンとスパイク信号を交番に出力して入力されたスパイク信号を持続する。

結合された回帰ネットワークで活性ニューロンのシナプスは、ＡＭＰＡ（α-amono-3-hydroxy-5-methylisozazole-4-propionic acid）受容体で構成される。ここで、ＡＭＰＡ受容体から構成された新しいシナプススパイク信号に対する反応速度は略１ｍｓ〜５ｍｓ間の値を有する。

図７は、入力を持続させる回帰ネットワークの構造を示す図である。図７に示すように、回帰ネットワークは、少なくとも１つの抑制ニューロン７４０と複数の活性ニューロン７１０、７２０、７３０から構成され、回帰ネットワークだけで入力されたスパイク信号を持続させるために活性ニューロン７１０、７２０、７３０の回帰接続（自己にループバックする接続）されたシナプスを反応速度の極めて遅いシナプスを用いてもよい。反応速度の遅いシナプスではＮＭＰＡ（N−Mrthyl-D-aspartic acid）受容体から構成されたシナプスがある。ここで、ＮＭＰＡ受容体から構成されたシナプスは、スパイク信号に対する反応速度が略８０ｍｓ以上の値を有する。

図８は、一実施形態に係るワーキングメモリ装置で格納部の構成を示す図である。図８に示すように、図１の格納部１２０、１３０、１４０は制御を行う活性ニューロン８１０（以下、制御ニューロンと称する）、ゲートの役割を行う活性ニューロン８２１、８２２、８２３（以下、ゲートニューロンと称する）及び持続部８３０を備える。

ゲートニューロン８２１、８２２、８２３は、制御ニューロン８１０の制御によって抑制されたり、活性化されるニューロンに入力されるバースト信号を持続部８３０の該当入力に該当するニューロンに伝達する。ここで、ゲートニューロン８２１、８２２、８２３は、入力インタフェース１１０で受信される入力の数だけ存在する。すなわち、ゲートニューロンは入力ごとに１つずつ存在する。

持続部８３０は、バースト信号が入力されれば、該当入力に対応する少なくとも１つのニューロンを活性化させて初期化信号が入力されるまで持続的にスパイク信号を出力する。

持続部８３０は、２つの回帰ネットワーク（Group X, Group Y）が結合された形態の結合された回帰ネットワークで構成される。

回帰ネットワーク（Group X）は、各入力に該当する活性ニューロン８４１、８５１、８６１（以下、持続ニューロンと称する）、初期化信号によりアイドリング状態であることを出力する活性ニューロン８７１（以下、アイドルニューロンと称する）及び持続ニューロン８４１、８５１、８６１とアイドルニューロン８７１のいずれか１つでもスパイク信号を出力した場合、持続ニューロン８４１、８５１、８６１とアイドルニューロン８７１の全てを抑制する抑制ニューロン８８１を含む。

そして、回帰ネットワーク（Group X）と結合する回帰ネットワーク（Group Y）は、持続ニューロン８４２、８５２、８６２、アイドルニューロン８７２及び抑制ニューロン８８２を含む。

持続部８３０は、初期化信号が入力された場合、アイドルニューロン８７１、８７２が交代しながら活性化されつつ、次の順序の格納部を非活性化するアイドル信号を次の順序の格納部に出力する。

持続部８３０は、ゲートニューロン８２１、８２２、８２３のいずれか１つによってバースト信号を受信すれば、持続ニューロン８４１、８５１、８６１、８４２、８５２、８６２から入力に該当する持続ニューロンの対を用いて交番にスパイク信号を出力し、出力が持続できるようにする。ここで、持続部８３０は、抑制ニューロン８８１、８８２により一対の持続ニューロンによってのみ出力が持続される。

持続部８３０の持続ニューロン８４１、８５１、８６１、８４２、８５２、８６２による出力は制御ニューロン８１０の入力に提供される。

図８に示す持続部８３０は、図６に示す結合された回帰ネットワークの形態から構成されたが、図７に示すような回帰ネットワークにも構成されてもよい。

制御ニューロン８１０は、ゲートニューロン８２１、８２２、８２３を活性化するか抑制して格納部を活性化するか非活性化してもよい。制御ニューロン８１０は、前の順序の格納部の遊休ニューロンから遊休信号を受信した場合、ゲートニューロン８２１、８２２、８２３を抑制して非活性化する。

そして、制御ニューロン８１０は、前の順序の格納部にバースト信号が格納されて前の順序の格納部から遊休信号の出力が中止された場合、持続ニューロン８４１、８５１、８６１、８４２、８５２、８６２の抑制を中止することによって格納部を活性化する。

その後、制御ニューロン８１０は、持続部８３０の持続ニューロン８４１、８５１、８６１、８４２、８５２、８６２の１つからスパイク信号を受信した場合、ゲートニューロン８２１、８２２、８２３を抑制して非活性化する。

すなわち、制御ニューロン８１０は、前の順序の格納部の遊休ニューロンから遊休信号を受信したり、持続部８３０の持続ニューロン８４１、８５１、８６１、８４２、８５２、８６２の１つからスパイク信号を受信した場合、ゲートニューロン８２１、８２２、８２３を抑制して非活性化し、入力される信号がなければゲートニューロン８２１、８２２、８２３を活性化する。

図９は、スパイクニューロンを用いて構成された一実施形態に係るワーキングメモリ装置の構成を示す図である。

図１に示すワーキングメモリ装置を図２及び図８を参照して説明したニューロンに実現すれば、図９に示すように構成される。図９で表現された各装置の細部構成に対する説明は、図２及び図８と同様であるため、その詳細な説明は省略する。

図９に示すワーキングメモリ装置に７、４、６、１、０、３の値が順次入力されるときの各装置の入出力例を図１０、図１１及び図１２を参照して説明する。

図１０は、図９に示す動作中で入力部の入出力例を示す図である。図１０において、Resetは格納部１２０、１３０、１４０を初期化するスパイク信号であり、Inputは入力インタフェース１１０に入力されるスパイク信号であり、In Intfは入力インタフェース１１０から出力されるバースト信号である。図１０に示すように、入力されたスパイク信号が時間幅の一定のバースト信号に変わって出力されたことが確認される。

図１１は、図９に示す動作中で格納部の出力例を示す図である。図１１において、Resetは格納部１２０、１３０、１４０を初期化するスパイク信号であり、Inputは入力インタフェース１１０に入力されるスパイク信号であり、ＭＥ０〜ＭＥ５は、第０格納部から第５格納部に出力するスパイク信号を示し、ＭＥ０からＭＥ５の出力において
（外１）
に表示された出力はアイドル信号を示す。

図１１に示すように、ＭＥ０からＭＥ５にスパイク信号による入力値が順次格納され、初期化信号が入力されるまで持続的に格納された入力に該当するスパイク信号を出力することが確認される。

図１２は、図１１に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。

図１１を参照して各時間ｔ０〜ｔ５において、記憶格納部の活性化状態について説明すると、時間に応じて変化する空間−時間のスパイク信号のパターンを空間のパターンに変えるワーキングメモリの特性を確認することができる。

図１３は、他の実施形態に係るワーキングメモリ装置の構成を示す図である。図１３に示すように、ワーキングメモリ装置１３００は、入力インタフェース１３１０、マルチプレクサ１３２０、順次選択部１３３０及び複数の格納部１３４０、１３５０、１３６０を備える。

入力インタフェース１３１０は、複数のニューロンから入力される入力スパイク信号を一定形態のバーストスパイク形態に変えて出力する。入力インタフェース１１０は、入力スパイク信号の列をスパイク比率及び長さに関わらず、時間幅が一定のバースト構造に変える。入力インタフェース１３１０は、図１に示す入力インタフェース１１０と同一に構成されてもよい。

マルチプレクサ１３２０は入力インタフェース１３１０から出力されれば、バースト信号を予め設定した値のバーストスパイ信号に多重化して順次選択部１３３０へ提供する。

順次選択部１３３０は、格納部１３４０、１３５０、１３６０のうち入力インタフェース１３１０から出力されれば、バースト信号が格納される格納部を選択し、選択された格納部を活性化する活性化信号を出力する。

順次選択部１３３０は、２種類の方法により格納部を選択する。第１の方法は、マルチプレクサ１３２０から多重化されたバースト信号を受信するたびに次の順序の格納部を選択する方法である。第２の方法は、外部選択信号Ｓ０、Ｓ１、ＳＭを受信すれば、選択信号に対応する格納部を選択する方法である。ここで、外部選択信号の種類は格納部の数だけ存在し得る。

格納部１３４０、１３５０、１３６０は、順次選択部１３３０の選択によって活性化され、活性化された格納部は入力部１３１０から出力されるバースト信号を格納する。

格納部１３４０、１３５０、１３６０はバースト信号が格納されている場合、初期化信号によって初期化されるまで入力値に該当するスパイク信号を持続的に出力する。

図１４は、他の実施形態に係るワーキングメモリ装置でマルチプレクサの構成を示す図である。図１４に示すように、マルチプレクサ１３２０は、活性ニューロン１４１０と抑制ニューロン１４２０を用いて入力される全てのバースト信号を予め設定した値を時間幅の一定なバースト信号に変換して順次選択部１３３０に出力する。

より詳細に説明すると、活性ニューロン１４１０は、入力されるバースト信号を予め設定した値のバースト構造に変更する。そして、抑制ニューロン１４２０は、活性ニューロン１４１０で生成するバースト構造のスパイク信号が一定のサイズを有するように活性ニューロン１４１０を抑制する。

ここで、活性ニューロン１４１０でバースト構造のスパイク信号を生成するために、活性ニューロン１４１０と活性ニューロン１４１０を接続するシナプスの短期可塑性は降下特性を有してもよい。

図１５は、図１４のマルチプレクサの入出力例を示す図である。図１５に示すように、マルチプレクサ１３２０の入力で０、１、２、３、４の値を有するバースト信号が入力された場合であっても、０．０の値を有するバースト信号に多重化されて出力されることが確認される。

図１６は、他の実施形態に係るワーキングメモリ装置で順次選択部の構成を示す図である。図１６に示すように、順次選択部１３３０は、図７に示す結合された回帰ネットワークに基づいて構成されたものである。順次選択部１３３０は、結合された回帰ネットワークの入力によって活性化された特定のニューロングループが入力がなくなった後にも継続して活性化された状態を保持する特性を用いて、図１６に示すように構成して格納部１３４０、１３５０、１３６０を順次活性化してもよい。

順次選択部１３３０は、持続的に抑制スパイク信号を出力する抑制ニューロン１６１０（以下、制御ニューロンと称する）、Ｇｒｏｕｐ Ｘ、Ｇｒｏｕｐ Ｙ及びＧｒｏｕｐ ｔを含んで構成される。

制御ニューロン１６１０は、グループｔに含まれたニューロンを抑制する信号を持続的に出力する。また、制御ニューロン１６１０は、各格納部１３４０、１３５０、１３６０に含まれたゲートニューロンを抑制する信号を持続的に出力する。

Ｇｒｏｕｐ Ｘは、格納部１３４０、１３５０、１３６０それぞれを選択する活性ニューロン１６２１、１６３１、１６５１（以下、選択ニューロンと称する）及び選択ニューロン１６２１、１６３１、１６５１のいずれか１つでもスパイク信号が出力された場合、選択ニューロン１６２１、１６３１、１６５１を全て抑制する抑制ニューロン１６６１を含む。

そして、Ｇｒｏｕｐ Ｘと結合するＧｒｏｕｐ Ｙは選択ニューロン１６２２、１６３２、１６５２及び抑制ニューロン１６６２を含む。

Ｇｒｏｕｐ ｔは、マルチプレクサ１３２０から多重化されたバースト信号を受信してＧｒｏｕｐ Ｙの選択ニューロンからスパイク信号を受信した場合、Ｇｒｏｕｐ Ｘに含まれた次の順序の選択ニューロンにスパイク信号を出力する活性ニューロン１６２３、１６３３、１６４３、１６５３（以下、順次選択ニューロンと称する）から構成される。

順次選択部１３３０は、初期化信号がＧｒｏｕｐ Ｘの０番の選択ニューロン１６２１に入力された場合、一対であるＧｒｏｕｐ Ｙの０番の選択ニューロン１６２２と共に交代しながら活性化され、第０格納部１３４０を活性化するスパイク信号を持続的に出力する。ここで、Ｇｒｏｕｐ Ｘの選択ニューロンと対応するＧｒｏｕｐ Ｙの選択ニューロンをグルーピングして選択ニューロングループという。

その後、順次選択部１３３０は、マルチプレクサ１３２０から多重化されたバースト信号が受信されるたびにＧｒｏｕｐ ｔに含まれた順次選択ニューロン１６２３、１６３３、１６４３、１６５３の１つによってスパイク信号を出力する選択ニューロングループを変更する。すなわち、順次選択部１３３０は０→１→２→．．→Ｍ番の選択ニューロングループを活性化した後、再び０番の選択ニューロングループを活性化する。活性化された選択ニューロングループは、持続的にスパイク信号を出力して対応する格納部を活性化する。

順次選択部１３３０は、マルチプレクサ１３２０から入る多重化されたバースト信号のみならず、別途の外部選択信号Ｓ０、Ｓ１、ＳＭによって特定選択ニューロングループが活性化されるようにする。すなわち、順次選択部１３３０は、Ｇｒｏｕｐ Ｘの選択ニューロン１６２１、１６３１、１６５１の１つに外部選択信号Ｓ０、Ｓ１、ＳＭが入力された場合、外部選択信号が入力された選択ニューロングループを活性化する。

図１７は、図１６に示す順次選択部の入出力例を示す図である。図１７において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputはマルチプレクサ１３２０から入力される多重化されたバースト信号であり、ＧｘはＧｒｏｕｐ Ｘに含まれた選択ニューロン１６２１、１６３１、１６５１及び抑制ニューロン１６６１の出力を示し、ＧｙはＧｒｏｕｐ Ｙに含まれた選択ニューロン１６２２、１６３２、１６５２及び抑制ニューロン１６６２の出力を示し、ＧｔはＧｒｏｕｐ ｔに含まれた順次選択ニューロン１６２３、１６３３、１６４３、１６５３の出力を示す。図１７に示すように、マルチプレクサ１３２０からの入力によって順次増加することが確認される。

図１８は、他の実施形態に係るワーキングメモリ装置における格納部の構成を示す図である。図１８を参照すると、格納部１３４０、１３５０、１３６０はゲートニューロン１８２１、１８２２、１８２３と持続部１８３０を備える。

ゲートニューロン１８２１、１８２２、１８２３は、順次選択部１３３０から一定の間隔持続的に受信される制御信号によって抑制され、入力インタフェース１３１０からのバースト信号と順次選択部１３３０からの活性化スパイク信号を共に受信する場合、入力インタフェース１３１０から入力されるバースト信号を持続部１８３０の該当入力に該当するニューロンへ伝達する。

持続部１８３０は、バースト信号が入力された場合、該当入力に対応する少なくとも１つのニューロンを活性化させ、初期化信号が入力されるまで持続的にスパイク信号を出力する。

持続部１８３０は、２つの回帰ネットワーク（Ｇｒｏｕｐ Ｘ、Ｇｒｏｕｐ Ｙ）が結合された形態の結合された回帰ネットワークで構成される。

回帰ネットワーク（Ｇｒｏｕｐ Ｘ）は、各入力に該当する持続ニューロン１８４１、１８５１、１８６１及び持続ニューロン１８４１、１８５１、１８６１のいずれか１つでもスパイク信号が出力されれば、持続ニューロン１８４１、１８５１、１８６１を抑制する抑制ニューロン１８７１を含む。また、抑制ニューロン１８７１は初期化信号を受信すれば、持続ニューロン１８４１、１８５１、１８６１を抑制する。

そして、回帰ネットワーク（Ｇｒｏｕｐ Ｘ）と結合する回帰ネットワーク（Ｇｒｏｕｐ Ｙ）は、持続ニューロン１８４２、１８５２、１８６２及び抑制ニューロン１８７２を含む。

持続部１８３０は、ゲートニューロン１８２１、１８２２、１８２３のいずれか１つによってバースト信号を受信した場合、持続ニューロン１８４１、１８５１、１８６１、１８４２、１８５２、１８６２のうち入力に該当する持続ニューロンの対を用いて、交番にスパイク信号を出力して出力が持続されるようにする。ここで、持続部１８３０は、抑制ニューロン１８７１、１８７２によって一対である持続ニューロンによってのみ出力が持続される。そして、持続部１８３０は、抑制ニューロン１８７１、１８７２に初期化信号が受信されれば、非活性化される。

図８に示す格納部１２０と図１８の格納部１３４０を比較したとき、図１８の格納部１３４０は図８の格納部１２０においてアイドリング状態を示すアイドルニューロングループを省略し、格納部を活性化して非活性化する信号を内部の制御ニューロンではない順次選択部１３３０から受信する信号を用いる。

図１８に示す格納部１３４０でアイドルニューロングループは省略されているため、全ての持続ニューロングループは初期状態に全て非活性化されている。

図１９は、図１８に示す格納部の入出力例を示す図である。図１９において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０から入力されるバースト信号であり、S.selは順次選択部１３３０の活性化信号であり、Ｇｔは順次選択部１３３０のＧｒｏｕｐ ｔに含まれた順次選択ニューロン１６２３、１６３３、１６４３、１６５３の出力を示し、Ｇｘは格納部のＧｒｏｕｐ Ｘに含まれた持続ニューロン１８４１、１８５１、１８６１及び抑制ニューロン１８７１の出力を示し、Ｇｙは格納部のＧｒｏｕｐ Ｙに含まれた持続ニューロン１８４２、１８５２、１８６２及び抑制ニューロン１８７２の出力を示す。

図１９は、８種類の入力を有する格納部で０と４の入力が入るとき、順次選択部１３３０によって活性化が行われて０番と４番の格納部が順次活性化されることを示す図である。

図１９に示すように、格納部は最初には非活性化されているものの、順次選択部１３３０によって活性化された状態で０が入る瞬間、格納部は０に該当するスパイク信号を出力する。その後、１、２、３の入力では順次選択部１３３０による活性化されないため格納部の状態は変わらない。すなわち、順次選択部１３３０によって活性化される場合には該当入力が格納部に格納されるものの、活性化されない場合には入力が入っても格納部の状態は変わらない。順次選択部１３３０によって活性化されている状態で新しい入力４がある場合、格納部は４に該当するスパイク信号に変えて出力する。また、７００ｍｓで発生した初期化信号によって格納部は非活性化の状態に戻る。

図２０は、スパイキングニューロンを用いて構成された他の実施形態に係るワーキングメモリ装置の構成を示す図である。

図１３に示すワーキングメモリ装置を図２、図１４、図１６及び図１８を参照して説明したニューロンで実現する場合、図２０に示すように構成することが考えられる。図２０で表現された各装置の細部構成の説明は、図２、図１４、図１６及び図１８と同一であるため、その詳細な説明は省略する。

図２０に示す作業記憶装置に７、４、６、１、０、３の値が順次入力されるときの各装置の入出力例について、下記の図２１から図２４を参照して説明する。

図２１は、図２０に示す動作中で入力部とマルチプレクサの入出力例を示す図である。図２１において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０に入力されるスパイク信号であり、In Intfは入力部１３１０から出力されるバースト信号であり、Multiplexerはマルチプレクサ１３２０から出力される多重化されたバースト信号である。

図２１に示すように、入力されたスパイク信号が時間幅が一定のバースト信号に変わって出力されることが確認される。また、マルチプレクサ１３２０は、一定の値を有するバースト信号を出力することが確認される。

図２２は、図２０の動作中で順次選択部の入出力例を示す図である。図２２において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０から入力されるスパイク信号であり、SS_Gｘは順次選択部１３２０のＧｒｏｕｐ Ｘに含まれた選択ニューロン１６２１、１６３１、１６５１及び抑制ニューロン１６６１の出力を示し、SS_Gyは順次選択部１３２０のＧｒｏｕｐ Ｙに含まれた選択ニューロン１６２２、１６３２、１６５２及び抑制ニューロン１６６２の出力を示し、順次選択部１３２０のSS_GtはＧｒｏｕｐ ｔに含まれた順次選択ニューロン１６２３、１６３３、１６４３、１６５３の出力を示す。

図２２に示すように、入力インタフェース１３１０に７、４、６、１、０、３の値が順次入力されるたびにSS_Gtの値が順次増加し、SS_Gtの順次的増加によりSS_GxとSS_Gyの値が順次増加し、格納部が順次選択されることが確認される。

図２３は、図２０の動作中で格納部の出力例を示す図である。図２３において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０に入力されるスパイク信号であり、ＭＥ０からＭＥ５は第０格納部から第５格納部に出力するスパイク信号を示す。

図２３に示すように、ＭＥ０からＭＥ５にスパイク信号による入力値が順次格納され、初期化信号が入力されるまで持続的に格納された入力に該当するスパイク信号を出力することが確認され。

図２４は、図２０に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。

図２３を参照して各時間ｔ０〜ｔ５で記憶格納部の活性化状態について説明すると、時間に応じて変化する空間−時間のスパイク信号のパターンを空間のパターンに変えるワーキングメモリの特性を確認することができる。

図２０に示すワーキングメモリ装置に７、４、６、１、０、３の値が順次入力された後に順次選択部１３２０によって第３格納部ＭＥ３が選択され、２、５、０が順次入力されるときの各装置の入出力例については図２５から図２８を参照して説明することにする。

図２５は、図２０の動作中で格納部が選択された場合、入力インタフェースとマルチプレクサの入出力例を示す図である。図２５において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０に入力されるスパイク信号であり、In Intfは入力インタフェース１３１０から出力されるバースト信号であり、Multiplexerはマルチプレクサ１３２０から出力される多重化されたバースト信号であり、Selectは順次選択部１３２０に入力される選択信号である。

図２５に示すように、入力されたスパイク信号が時間幅が一定のバースト信号に変わって出力され、マルチプレクサ１３２０は一定の値を有するバースト信号を出力することが確認される。

図２６は、図２０の動作中で格納部が選択された場合、順次選択部の入出力例を示す図である。図２６において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０から入力されるスパイク信号であり、SS_Gxは順次選択部１３２０のＧｒｏｕｐ Ｘに含まれた選択ニューロン１６２１、１６３１、１６５１及び抑制ニューロン１６６１の出力を示し、SS_Gyは順次選択部１３２０のＧｒｏｕｐ Ｙに含まれた選択ニューロン１６２２、１６３２、１６５２及び抑制ニューロン１６６２の出力を示し、順次選択部１３２０のSS_GtはＧｒｏｕｐ ｔに含まれた順次選択ニューロン１６２３、１６３３、１６４３、１６５３の出力を示し、Selectは順次選択部１３２０に入力される選択信号である。

図２６に示すように、入力インタフェース１３１０に７、４、６、１、０、３の値が順次入力されるたびにSS_Gtの値が順次増加し、SS_Gtの順次的増加によってSS_GxとSS_Gyの値が順次増加し、格納部が順次選択されることが確認される。

そして、SelectにＭＥ３の選択信号が入力されれば、SS_Gtの値が３に変わり、これによってSS_GxとSS_Gyの値ＭＥ３を選択する。ＭＥ３が選択された後２、５、０が入力されるたびにSS_Gt、SS_Gx及びSS_Gyの値は順次増加されることが確認される。

図２７は、図２０の動作中で格納部が選択された場合、格納部の出力例を示す図である。

図２３において、Resetは格納部１３４０、１３５０、１３６０を初期化するスパイク信号であり、Inputは入力インタフェース１３１０に入力されるスパイク信号であり、ＭＥ０からＭＥ５は第０格納部から第５格納部に出力するスパイク信号を示し、Selectは順次選択部１３２０に入力される選択信号である。

図２７に示すように、ＭＥ０からＭＥ５にスパイク信号による入力値が順次格納されて持続的に出力される。そして、SelectにＭＥ３の選択信号が入力されて順次格納部に２、５、０が入力されれば、ＭＥ３、ＭＥ４、ＭＥ５に格納された１、０、３の値は２、５、０に変更されて格納されることで持続的に出力されることが確認される。

図２８は、図２７に表示された各時間における格納部の活性化ニューロンのパターンを示す図である。

図２７で定義された時間ｔｘ、ｔｙにおける各格納部の活性化状態を示したものである。ｔｘ、ｔｙにおける各格納部の活性化状態を比較したとき、ＭＥ−３、ＭＥ−４、ＭＥ−５の状態が更新されたことが確認される。

入力スパイク信号を一定形態のバースト構造のスパイク信号であるバースト信号に変わって出力する入力インタフェース、及び入力インタフェースから出力されるバースト信号の順に応じて順次に１つの格納部に１つのバースト信号を格納し、入力値に対応するスパイク信号を持続的に出力する少なくとも２つ以上の格納部を備えるスパイクニューロン基盤のワーキングメモリ装置に関し、時間に応じて変化する入力パターンを臨時的に所望する期間中に格納することで多様なパターン認識を可能にする。

上述したように本発明は、たとえ限定された実施形態と図面によって説明されたが、本発明は前述の実施形態に限定されるもことなく、本発明が属する分野で通常の知識を有する者であれば、このような記載から多様な修正及び変形が可能である。

したがって、本発明の範囲は説明された実施形態に限定されて決定されてはならず、後述する特許請求の範囲だけではなく、この特許請求の範囲と均等なものなどによって決まらなければならない。

１００：ワーキングメモリ装置
１１０：入力インタフェース
１２０：第０格納部
１３０：第１格納部
１４０：第Ｍ格納部
１３００：ワーキングメモリ装置
１３１０：入力インタフェース
１３２０：マルチプレクサ
１３３０：順次選択部
１３４０：第０格納部
１３５０：第１格納部
１３６０：第Ｍ格納部

Claims (21)

1. 入力スパイク信号を一定形態のバースト構造のスパイク信号であるバースト信号に変換して出力する入力部と、
   前記入力部から出力される前記バースト信号に対応する特徴値を格納する２つ以上の格納部と、を備え、
   前記格納部は、前記入力部から出力される前記バースト信号の順に応じて順次に１つの格納部に１つのバースト信号に対応する特徴値を格納し、格納した特徴値に対応するスパイク信号を持続的に出力する、
   ことを特徴とするスパイクニューロン基盤のワーキングメモリ装置。
2. 前記格納部は、前記バースト信号に対応する特徴値が格納されている場合、非活性化されて次の順序の格納部を活性化する、
   ことを特徴とする請求項１記載のスパイクニューロン基盤のワーキングメモリ装置。
3. 前記格納部は、前記バースト信号が格納されている場合、初期化信号によって初期化されるまで入力値に対応するスパイク信号を持続的に出力する、
   ことを特徴とする請求項１記載のスパイクニューロン基盤のワーキングメモリ装置。
4. 前記入力部は、
   入力に受信できる特徴値ごとに、入力されるスパイク信号を時間幅が一定のバースト構造に変更する活性ニューロンと、
   前記活性ニューロンで変更されたバースト構造のスパイク信号が一定のサイズを有するように前記活性ニューロンを抑制してバースト信号を生成する抑制ニューロンと、
   を含むことを特徴とする請求項１乃至３の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
5. 前記入力部は、
   入力に受信できる特徴値ごとに、前記入力されるスパイク信号をノイズ除去ニューロンに伝達する短期的な促進特性を有するシナプスと、
   前記シナプスによって入力されたスパイク信号からノイズを除去して前記活性ニューロンに伝達する前記ノイズ除去ニューロンと、
   をさらに含むことを特徴とする請求項４に記載のスパイクニューロン基盤のワーキングメモリ装置。
6. 前記格納部それぞれは、
   活性化された場合、前記入力部から受信する前記バースト信号を持続部に伝達するゲートニューロンと、
   前記バースト信号が入力された場合、前記バースト信号に対応する前記特徴値に対応する少なくとも１つのニューロンを活性化させて、初期化信号が入力されるまで持続的に前記特徴値に対応するスパイク信号を出力する前記持続部と、
   前記ゲートニューロンを活性化したり抑制する制御ニューロンと、
   を含むことを特徴とする請求項１乃至５の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
7. 前記制御ニューロンは、以前順序の格納部からアイドル信号を受信したり、または、前記持続部から前記特徴値に対応するスパイク信号を受信した場合に、前記ゲートニューロンを抑制し、
   入力される信号がない場合、前記ゲートニューロンを活性化する、
   ことを特徴とする請求項６記載のスパイクニューロン基盤のワーキングメモリ装置。
8. 前記ゲートニューロンは、前記入力部で受信する入力に対応する特徴値の種類だけ存在する、
   ことを特徴とする請求項６又は７記載のスパイクニューロン基盤のワーキングメモリ装置。
9. 前記持続部は、
   前記バースト信号を受信した場合、前記特徴値に該当するスパイク信号を持続的に出力するそれぞれの特徴値ごとの持続ニューロンと、
   初期化信号によりアイドリング状態であることを示すアイドル信号を出力する少なくとも１つのアイドルニューロンと、
   前記持続ニューロンと前記アイドルニューロンを抑制し、一回に一種類のスパイク信号だけが出力されるようにする少なくとも１つの抑制ニューロンと、
   を含むことを特徴とする請求項６乃至８の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
10. 入力スパイク信号を一定形態のバースト構造のスパイク信号であるバースト信号に変換して出力する入力部と、
    前記バースト信号を予め設定した値を有する多重化されたバースト信号に変えて出力するマルチプレクサと、
    前記マルチプレクサから出力される多重化されたバースト信号が入力された場合、次の順序の格納部を選択する活性化信号を出力する順次選択部と、
    前記順次選択部で出力する前記活性化信号を受信した場合、前記入力部から出力される前記バースト信号に対応する特徴値を格納し、前記特徴値に対応するスパイク信号を持続的に出力する格納部を２つ以上備える、
    ことを特徴とするスパイクニューロン基盤のワーキングメモリ装置。
11. 前記順次選択部は、外部から前記格納部のいずれか１つを選択する外部選択信号を受信した場合、前記活性化信号を選択された格納部に出力する、
    ことを特徴とする請求項１０記載のスパイクニューロン基盤のワーキングメモリ装置。
12. 前記格納部は、前記バースト信号が格納されている場合、初期化信号によって初期化されるまで前記特徴値に対応するスパイク信号を持続的に出力する、
    ことを特徴とする請求項１０又は１１に記載のスパイクニューロン基盤のワーキングメモリ装置。
13. 前記入力部は、
    入力に受信できる特徴値ごとに、入力されるスパイク信号を時間幅が一定のバースト構造に変更する活性ニューロンと、
    前記活性ニューロンで変更されたバースト構造のスパイク信号が一定のサイズを有するように前記活性ニューロンを抑制してバースト信号を生成する抑制ニューロンと、
    を含むことを特徴とする請求項１０乃至１２の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
14. 前記入力部は、
    入力に受信できる特徴値ごとに、前記入力されるスパイク信号をノイズ除去ニューロンに伝達する短期的な促進特性を有するシナプスと、
    前記シナプスによって入力されたスパイク信号からノイズを除去して前記活性ニューロンに伝達する前記ノイズ除去ニューロンと、
    をさらに含むことを特徴とする請求項１３に記載のスパイクニューロン基盤のワーキングメモリ装置。
15. 前記格納部それぞれは、
    前記順次選択部によって活性化された場合、前記入力部から受信する前記バースト信号を持続部に伝達するゲートニューロンと、
    前記バースト信号が入力された場合、前記特徴値に対応する少なくとも１つのニューロンを活性化させて、初期化信号が入力されるまで持続的に前記特徴値に対応するスパイク信号を出力する前記持続部と、
    を備えることを特徴とする請求項１０乃至１４の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
16. 前記ゲートニューロンは、前記入力部に受信する入力に対応する特徴値の種類だけ存在する、
    ことを特徴とする請求項１５記載のスパイクニューロン基盤のワーキングメモリ装置。
17. 前記持続部は、
    前記バースト信号を受信した場合、前記特徴値に該当するスパイク信号を持続的に出力するそれぞれの特徴値ごとの持続ニューロンと、
    前記持続ニューロンを抑制して一回に一種類のスパイク信号だけが出力されるようにする少なくとも１つの抑制ニューロンと、
    を含むことを特徴とする請求項１５又は１６記載のスパイクニューロン基盤のワーキングメモリ装置。
18. 前記抑制ニューロンは、初期化信号を受信した場合、前記持続部を初期化して持続的に出力した前記スパイク信号を遮断する、
    ことを特徴とする請求項１７記載のスパイクニューロン基盤のワーキングメモリ装置。
19. 前記順次選択部は、
    活性化された場合、対応する前記格納部に含まれたゲートニューロンを活性化する活性化信号を持続的に出力する選択ニューロンと、
    前記マルチプレクサから前記多重化されたバースト信号を受信した場合、次の順序の選択ニューロンを活性化させる順次選択ニューロンと、
    前記選択ニューロンを抑制して前記選択ニューロンのいずれか１つの選択ニューロンだけが前記活性化信号を出力するようにする少なくとも１つの抑制ニューロンと、
    前記順次選択ニューロンを抑制する信号を持続的に出力する制御ニューロンと、
    を含むことを特徴とする請求項１０乃至１８の何れか記載のスパイクニューロン基盤のワーキングメモリ装置。
20. 前記選択ニューロンのうち第１順序の選択ニューロンは、前記初期化信号を受信し、前記初期化信号が受信された場合、前記活性化信号を第１順序の格納部に含まれたゲートニューロンに持続的に送信する、
    ことを特徴とする請求項１５に従属する場合の請求項１９に記載のスパイクニューロン基盤のワーキングメモリ装置。
21. 前記制御ニューロンは、前記格納部それぞれに含まれたゲートニューロンを抑制する信号を持続的に出力する、
    ことを特徴とする請求項１９又は２０に記載のスパイクニューロン基盤のワーキングメモリ装置。