JP7694246B2 - 演算装置、ニューラルネットワークシステム、ニューロンモデル装置、演算方法およびプログラム - Google Patents

Description

本発明は、演算装置、ニューラルネットワークシステム、ニューロンモデル装置、演算方法およびプログラムに関する。

ニューラルネットワークの１つに、スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）がある。例えば、特許文献１には、スパイキングニューラルネットワークをニューロモーフィックコンピューティング（Neuromorphic Computing）デバイス上に実装するニューロモーフィイックコンピューティングシステムが記載されている。
スパイキングニューラルネットワークでは、ニューロンモデルが膜電位と呼ばれる内部状態を有し、膜電位の時間発展に基づいてスパイクと呼ばれる信号を出力する。

特開２０１８－１３６９１９号公報

スパイキングニューラルネットワークがデータ処理を効率的に行えることが好ましい。

本発明の目的の一例は、上述の課題を解決することのできる演算装置、ニューラルネットワークシステム、ニューロンモデル装置、演算方法およびプログラムを提供することである。

本発明の第１の態様によれば、演算装置は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、を備えるスパイキングニューロンモデルを備える。

本発明の第２の態様によれば、ニューラルネットワークシステムは、スパイキングニューラルネットワーク本体と、学習手段とを備え、前記スパイキングニューラルネットワーク本体は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、を備えるスパイキングニューロンモデルを備え、前記学習手段は、前記信号に対する重み係数の学習を行う。

本発明の第３の態様によれば、ニューロンモデル装置は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、を備える。

本発明の第４の態様によれば、演算方法は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させることと、前記指標値に関する所定の事象の発生タイミングを検出することと、前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力することと、を含む。

本発明の第５の態様によれば、プログラムは、プログラミング可能な装置に、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させることと、前記指標値に関する所定の事象の発生タイミングを検出することと、前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力することと、を実行させるためのプログラムである。

本発明によれば、スパイキングニューラルネットワークがデータ処理を効率的に行うことができる。

実施形態に係るニューラルネットワーク装置の構成の例を示す図である。 実施形態に係るニューラルネットワーク装置が備えるスパイキングニューラルネットワークの構成の例を示す図である。 スパイク信号の出力タイミングが制限されていないスパイキングニューロンモデルにおける膜電位の時間変化の例を示す図である。 スパイキングニューロンモデルのスパイク信号の出力タイミングが制限されていない場合の、スパイキングニューラルネットワークにおけるスパイキングニューロンモデルのスパイク信号の出力タイミングの例を示す図である。 実施形態に係るニューラルネットワーク装置における層毎のデータ処理のタイミングの例を示す図である。 実施形態に係るニューラルネットワーク装置のより具体的な構成の第１例を示す図である。 実施形態に係る切替部および統合部の構成の例を示す図である。 実施形態に係るニューラルネットワーク装置におけるニューロンモデル間のスパイク信号の受け渡しのタイミングの例を示す図である。 実施形態に係るニューラルネットワーク装置における副層の構成の例を示す図である。 実施形態に係るニューラルネットワーク装置におけるデータ処理のタイミングの例を示す図である。 実施形態に係るクリップ関数の第１例を示す図である。 実施形態に係るクリップ関数の第２例を示す図である。 実施形態に係る第ｌ層のｉ番目のニューロンモデルが、第ｄデータを処理する際のタイミングを示す関数の第１例を示す図である。 実施形態に係る第ｌ層のｉ番目のニューロンモデルが、第ｄデータを処理する際のタイミングを示す関数の第２例を示す図である。 実施形態に係る第ｌ層のｉ番目のニューロンモデルが、第ｄデータを処理する際のタイミングを示す関数の第３例を示す図である。 実施形態に係る演算装置のより具体的な構成の第２例を示す図である。 学習時における実施形態に係るシステム構成の例を示す図である。 実施形態に係るニューラルネットワークシステムにおける信号の入出力の例を示す図である。 運用時の実施形態に係るニューラルネットワーク装置における信号の入出力の例を示す図である。 実施形態に係る演算装置の構成例を示す図である。 実施形態に係るニューラルネットワークシステムの構成例を示す図である。 実施形態に係るニューロンモデル装置の構成例を示す図である。 実施形態に係る演算方法における処理手順の例を示すフローチャートである。 少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。

以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図１は、実施形態に係るニューラルネットワーク装置の構成の例を示す図である。図１に示す構成で、ニューラルネットワーク装置１０は、ニューロンモデル１００を備える。ニューロンモデル１００は、指標値計算部１１０と、検出部１２０と、遅延部１３０と、信号出力部１４０とを備える。

ニューラルネットワーク装置１０は、スパイキングニューラルネットワークを用いてデータ処理を行う。データ処理を演算とも称する。ニューラルネットワーク装置１０は、演算装置の例に該当する。
ここでいうニューラルネットワーク装置は、ニューラルネットワークが実装された装置である。スパイキングニューラルネットワークが、専用のハードウェアを用いてニューラルネットワーク装置１０に実装されていてもよい。例えば、スパイキングニューラルネットワークが、ＡＳＩＣ（Application Specific Integrated Circuit）またはＦＰＧＡ（Field Programmable Gate Array）を用いてニューラルネットワーク装置１０に実装されていてもよい。あるいは、スパイキングニューラルネットワークが、コンピュータ等を用いてソフトウェア的に、ニューラルネットワーク装置１０に実装されていてもよい。

ＡＳＩＣを備える装置、ＦＰＧＡを備える装置、および、コンピュータの何れも、プログラミング可能な装置の例に該当する。ＡＳＩＣおよびＦＰＧＡでは、ハードウェア記述言語を用いてハードウェアを記述し、記述したハードウェアをＡＳＩＣまたはＦＰＧＡ上に実現することが、プログラミングの例に該当する。ニューラルネットワーク装置１０がコンピュータを用いて構成されている場合、スパイキングニューラルネットワークの機能をプログラミングによって記述し、得られたプログラムをコンピュータに実行させるようにしてもよい。

ここでいうスパイキングニューラルネットワークは、ニューロンモデルが、ニューロンモデル自らへの信号の入力状況に応じて時間変化する、膜電位（Membrane Potential）と呼ばれる状態量に基づくタイミングで信号を出力する、ニューラルネットワークである。膜電位を、信号出力の指標値、または単に指標値とも称する。
ここでいう時間変化は、時間に応じて変化することである。

スパイキングニューラルネットワークにおけるニューロンモデルを、スパイキングニューロンモデルとも称する。スパイキングニューロンモデルが出力する信号を、スパイク信号またはスパイクとも称する。スパイキングニューラルネットワークでは、スパイク信号として二値信号を用いることができ、スパイク信号の伝達タイミング、または、スパイク信号の個数などによってスパイキングニューロンモデル間の情報伝達を行うことができる。
ニューロンモデル１００の場合、指標値計算部１１０がニューロンモデル１００へのスパイク信号の入力状況に基づいて膜電位を計算する。信号出力部１４０は、膜電位の時間変化に応じたタイミングでスパイク信号を出力する。

ニューラルネットワーク装置１０におけるスパイク信号として、パルス信号を用いるようにしてもよいし、ステップ信号を用いるようにしてもよいが、これらに限定されない。
以下では、ニューラルネットワーク装置１０によるスパイキングニューラルネットワークにおけるニューロンモデル１００間の情報伝達方式として、スパイク信号の伝達タイミングで情報を伝達する時間方式を用いる。

ニューラルネットワーク装置１０が行う処理は、スパイキングニューラルネットワークを用いて実行可能ないろいろな処理とすることができる。例えば、ニューラルネットワーク装置１０が、画像認識、生体認証または数値予測を行うようにしてもよいが、これらに限定されない。

ニューラルネットワーク装置１０が、１つの装置として構成されていてもよいし、複数の装置を組み合わせて構成されていてもよい。例えば、個々のニューロンモデル１００が装置として構成され、これら個々のニューロンモデル１００を構成する装置を信号伝達経路で接続してスパイキングニューラルネットワークが構成されていてもよい。

図２は、ニューラルネットワーク装置１０が備えるスパイキングニューラルネットワークの構成の例を示す図である。ニューラルネットワーク装置１０が備えるスパイキングニューラルネットワークを、ニューラルネットワーク１１とも表記する。また、ニューラルネットワーク１１をニューラルネットワーク本体とも称する。

図２の例で、ニューラルネットワーク１１は、順伝播型４層スパイキングニューラルネットワークとして構成されている。具体的には、ニューラルネットワーク１１は、入力層２１と、２つの中間層２２－１および２２－２と、出力層２３とを含む。２つの中間層２２－１および２２－２を総称して、中間層２２とも表記する。中間層を隠れ層とも称する。入力層２１と、中間層２２と、出力層２３とを総称して層２０とも表記する。

入力層２１は、入力ノード３１を含む。中間層２２は、中間ノード３２を含む。出力層２３は、出力ノード３３を含む。入力ノード３１と、中間ノード３２と、出力ノード３３とを総称して、ノード３０とも表記する。

入力ノード３１は、例えば、ニューラルネットワーク１１への入力データをスパイク信号に変換する。あるいは、ニューラルネットワーク１１への入力データがスパイク信号で示されている場合、入力ノード３１としてニューロンモデル１００が用いられていてもよい。

中間ノード３２および出力ノード３３として、何れもニューロンモデル１００が用いられていてもよい。また、出力ノード３３では、後述するスパイク信号出力タイミングに対する制約条件が中間ノードの場合よりも緩和されているなど、中間ノード３２と出力ノード３３とでニューロンモデル１００の動作が異なっていてもよい。

ニューラルネットワーク１１の４つの層２０は、信号伝達における上流側から、入力層２１、中間層２２－１、中間層２２－２、出力層２３の順で配置されている。隣接する２つの層２０間で、ノード３０が伝達経路４０で接続されている。伝達経路４０は、上流側の層２０のノード３０から下流側の層２０のノード３０へスパイク信号を伝達する。

ただし、ニューラルネットワーク１１が順伝播型スパイキングニューラルネットワークとして構成される場合の層数は、４層に限定されず２層以上であればよい。また、各層が備えるニューロンモデル１００の個数は特定の個数に限定されず、各層が１つ以上のニューロンモデル１００を備えていればよい。各層が同じ個数のニューロンモデル１００を備えていてもよいし、層によって異なる個数のニューロンモデル１００を備えていてもよい。また、各層からのスパイク信号の伝達先は、次の層に限定されない。ある層の出力が、任意の個数の層を越えて、より後段の層へと伝達されるようになっていてもよい。

また、ニューラルネットワーク１１が、全結合型に構成されていてもよいが、これに限定されない。図２の例で、隣り合う層における前段側の層２０の全てのニューロンモデル１００と後段側の層２０の全てのニューロンモデル１００とが伝達経路４０で結合されていてもよいが、隣り合う層におけるニューロンモデル１００同士で、伝達経路４０で結合されていないものがあってもよい。

以下では、スパイク信号の伝達における遅延時間を無視できるものとし、スパイク信号出力側のニューロンモデル１００のスパイク信号出力時刻と、スパイク信号入力側のニューロンモデル１００へのスパイク信号入力時刻とが同じであるものとして説明する。スパイク信号の伝達における遅延時間を無視できない場合は、スパイク信号出力時刻に遅延時間を加えた時刻を、スパイク信号入力時刻として用いるようにしてもよい。

一般的なスパイキングニューロンモデルでは、スパイク信号の出力タイミングが制限されておらず、時間変化する膜電位が閾値に達したタイミングでスパイク信号を出力する。スパイク信号の出力タイミングが制限されていないスパイキングニューロンモデルによるスパイキングニューラルネットワークでは、処理対象のデータが複数ある場合に、スパイキングニューラルネットワークが入力データの入力を受けて演算結果を出力するまで、次の入力データのスパイキングニューラルネットワークへの入力を待つ必要がある。

図３は、スパイク信号の出力タイミングが制限されていないスパイキングニューロンモデルにおける膜電位の時間変化の例を示す図である。図３のグラフの横軸は時刻を示す。縦軸は膜電位を示す。
図３は、第ｌ層のｉ番目のノードのスパイキングニューロンモデルの膜電位の例を示している。第ｌ層のｉ番目のノードのスパイキングニューロンモデルの時刻ｔにおける膜電位を、ｖ_ｉ ^（ｌ）（ｔ）と表記する。図３の説明で、第ｌ層のｉ番目のノードのスパイキングニューロンモデルを対象モデルとも称する。

図３の例で、対象モデルは３つのスパイキングニューロンモデルからのスパイク信号の入力を受けている。
時刻ｔ_２ ^{＊（ｌ－１）}は、第ｌ－１層の２番目のスパイキングニューロンモデルからのスパイク信号の入力時刻を示す。時刻ｔ_１ ^{＊（ｌ－１）}は、第ｌ－１層の１番目のスパイキングニューロンモデルからのスパイク信号の入力時刻を示す。時刻ｔ_３ ^{＊（ｌ－１）}は、第ｌ－１層の３番目のスパイキングニューロンモデルからのスパイク信号の入力時刻を示す。
また、対象モデルは、時刻ｔ_ｉ ^＊（ｌ）にスパイク信号を出力している。スパイキングニューロンモデルがスパイク信号を出力することを発火と称する。スパイキングニューロンモデルが発火した時刻を発火時刻と称する。

図３の例では、膜電位の初期値を０としている。膜電位の初期値は、静止膜電位に相当する。
対象モデルの発火前は、スパイク信号の入力後、対象モデルの膜電位ｖ_ｉ ^（ｌ）（ｔ）が、スパイク信号の伝達経路毎に設定されている重みに応じた変化率（変化速度）で変化し続ける。また、スパイク信号の入力毎の膜電位の変化率は線形的に加算される。図３の例における膜電位ｖ_ｉ ^（ｌ）（ｔ）の微分方程式は、式（１）のように表される。

ｗ_ｉｊ ^（ｌ）は、第ｌ－１層のｊ番目のスパイキングニューロンモデルから対象モデルへのスパイク信号の伝達経路に設定されている重みを示す。重みｗ_ｉｊ ^（ｌ）は学習の対象となる。
θはステップ関数であり、式（２）のように示される。

時刻ｔ_ｉ ^＊（ｌ）に、対象モデルの膜電位ｖ_ｉ ^（ｌ）（ｔ）が発火閾値Ｖ_ｔｈに達し、対象モデルが発火している。発火によって対象モデルの膜電位ｖ_ｉ ^（ｌ）（ｔ）が０になり、その後は対象モデルがスパイク信号の入力を受けても膜電位は変化していない。

図４は、スパイキングニューロンモデルのスパイク信号の出力タイミングが制限されていない場合の、スパイキングニューラルネットワークにおけるスパイキングニューロンモデルのスパイク信号の出力タイミングの例を示す図である。
図４の横軸は、時刻を、スパイキングニューラルネットワークへのデータ入力開始時からの経過時間で示す。縦軸は、入力層、第１層、第２層および出力層のそれぞれにおけるノード番号を示す。層毎のノード番号は、層内におけるスパイキングニューロンモデルを識別する識別番号として用いられる。

図４の例で、入力層のスパイキングニューロンモデルは、スパイキングニューラルネットワークへのデータ入力開始時から５ミリ秒程度の時間内に発火している。これに対し、第１層のスパイキングニューロンモデルの発火タイミングは、スパイキングニューラルネットワークへのデータ入力開始からの経過時間で、約１０ミリ秒から約１２０ミリ秒までの範囲に散らばっている。第２層のスパイキングニューロンモデルの発火タイミングは、スパイキングニューラルネットワークへのデータ入力開始からの経過時間で、約２０ミリ秒から約７０ミリ秒までの範囲に散らばっている。

一般に、スパイキングニューラルネットワークの発火タイミング、および、第１層および第２層のスパイキングニューロンモデルの発火のうちどれが出力層のスパイキングニューロンモデルの発火に影響しているかを、スパイキングニューラルネットワークの処理実行時にリアルタイムで知ることは困難である。

このため、スパイキングニューラルネットワークの方式にもよるが、少なくとも出力層で最初にスパイキングニューロンモデルが発火するまでの時間Ｔ１１の間、次の入力データをスパイキングニューラルネットワークに入力せずに待つ必要がある。
これに対し、入力データが複数ある場合、１つの入力データに対する演算結果を得られる前に、次の入力データをスパイキングニューラルネットワークに入力できれば、最初の入力データをスパイキングニューラルネットワークに入力してから最後の入力データに対する演算結果を得られるまでの時間を比較的短くすることができ、この点で、スパイキングニューラルネットワークのスループットを高めることができる。

そこで、ニューラルネットワーク装置１０では、ニューロンモデル１００のデータ処理時間を設定し、ニューロンモデル１００がデータ処理時間内に所定の処理を完了するようにする。
具体的には、指標値計算部１１０が、所定の時間区間毎に、スパイク信号の形式で入力される入力データに基づいて膜電位を計算する。この時間区間の時間幅が、データ処理時間の例に該当する。そして、検出部１２０が、時間区間毎に、指標値計算部１１０が計算する膜電位に関する所定の事象の発生タイミングを検出する。遅延部１３０は、検出部１２０が事象の発生タイミングを検出する毎に、そのタイミングが含まれる時間区間の次の時間区間内で、スパイク信号の出力タイミングを決定する。信号出力部１４０は、時間区間毎に、遅延部１３０が決定するタイミングで、スパイク信号を出力する。信号出力部１４０が出力するスパイク信号は、ニューロンモデル１００からの出力データに該当する。
これにより、ニューロンモデル１００は、時間区間毎にデータの入力を受け付ける。そして、ニューロンモデル１００は、時間区間２つ分の時間で入力データを順次処理し、時間区間毎にデータを出力する。

図５は、ニューラルネットワーク装置１０における層毎のデータ処理のタイミングの例を示す図である。図５では、図２に示される４層構成の場合を例に、入力層２１、中間層の第１層（中間層２２－１）、中間層の第２層（中間層２２－２）、出力層２３のそれぞれのノード３０がデータを処理するタイミングを示している。第１層および第２層の何れでも、ノード３０としてニューロンモデル１００が用いられる。

図５の横軸は、時刻を、ニューラルネットワーク装置１０へのデータ入力開始時からの経過時間で示す。
図５の例で、横軸が示す時間は、時間幅Ｔ毎の時間区間に分割されている。
ニューラルネットワーク装置１０は、全てのニューロンモデル１００に同じ時間幅の時間区間が同じタイミングで設定されるように、ニューロンモデル１００間で同期をとって同じ時間区間を設定する。

あるいは、スパイク信号の伝達における遅延時間を無視できない場合、ニューラルネットワーク装置１０が層毎に、層内の全てのニューロンモデル１００間で同期をとって同じ時間区間を設定し、相関では、スパイク信号の伝達における遅延時間分だけずらして時間区間を設定するようにしてもよい。

入力層２１のノード３０は、時間区間毎にデータをスパイク信号の形式で第１層のノード３０へ出力する。図５の例では、入力層２１のノード３０は、第１データ、第２データおよび第３データの３つのデータを第１層のノード３０へ出力している。ただし、入力層２１のノード３０が出力するデータの個数は、特定の個数に限定されない。

第１層のノード３０は、入力層２１のノード３０からデータの入力を受ける毎に、データの入力を受けた時間区間の次の時間区間に、そのデータの処理のための中間データをスパイク信号の形式で第２層のノード３０に出力する。例えば、第１層のノード３０は、時刻０からＴまでの時間区間に第１データの入力を受け、時刻Ｔから２Ｔまでの時間区間に、第１データの処理のための中間データを第２層のノード３０へ出力する。

第２層のノード３０は、第１層のノード３０からデータの入力を受ける毎に、データの入力を受けた時間区間の次の時間区間に、そのデータの処理のための中間データをスパイク信号の形式で出力層のノード３０に出力する。例えば、第２層のノード３０は、時刻Ｔから２Ｔまでの時間区間に第１データの処理のための中間データの入力を受け、時刻２Ｔから３Ｔまでの時間区間に、第１層のノード３０からのデータにさらに処理を加えた中間データを出力層のノード３０へ出力する。

出力層のノード３０は、第２層のノード３０からデータの入力を受ける毎に、そのデータにさらに処理を加えた出力データをスパイク信号の形式で出力する。
出力層のノード３０からの出力データは、さらにノードに入力されるものではないため、図５の例で、出力層のノード３０は、データの入力を受けた時間区間にデータを出力している。

このように、ニューラルネットワーク装置１０では、データ処理を行う時間区間が決まっていることで、１つのデータの処理の完了を待たずに次のデータの処理を開始することができる。
また、ニューラルネットワーク装置１０では、第１層および第２層の例のように、ニューロンモデル１００は、スパイク信号の入力を受けた時間区間の次の時間区間にスパイク信号を出力する。これにより、ニューロンモデル１００は、時間区間内におけるスパイク信号出力のタイミングを調整することができる。スパイク信号出力のタイミングを調整することで、ニューラルネットワーク装置１０では、例えば、信号伝達における下流側の層でスパイク信号の入力のタイミングが時間区間内の後ろのほう（その時間区間の終了時付近）に偏ることを回避できる。

図５に例示されるタイミングでデータ処理を行うために、ニューロンモデル１００は、上述したように、時間区間毎のスパイク信号の入力状況に応じて、その次の時間区間にてスパイク信号を出力する。
以下では、式（１）および式（２）を参照してスパイキングニューラルネットワークについて説明したのと同様、第ｌ層のｉ番目のノードのニューロンモデル１００を対象モデルと称し、対象モデルの膜電位をｖ_ｉ ^（ｌ）（ｔ）と表記する。また、第ｌ－１層のｊ番目のスパイキングニューロンモデルから対象モデルへのスパイク信号の伝達経路に設定されている重みをｗ_ｉｊ ^（ｌ）と表記する。

指標値計算部１１０は、時間区間毎に、その時間区間におけるスパイク信号のニューロンモデル１００への入力状況に基づいて膜電位を変化させる。指標値計算部１１０は、指標値計算手段の例に該当する。
指標値計算部１１０は、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達するまで、または、時間区間が終了するまでの何れか早い方の事象が発生するまで、微分方程式が式（１）のように表される膜電位ｖ_ｉ ^（ｌ）（ｔ）を計算する。膜電位ｖ_ｉ ^（ｌ）（ｔ）は、式（３）のように表される。

指標値計算部１１０が、式（３）に基づいて膜電位を計算するようにしてもよい。
一方、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達したタイミング、または、時間区間が終了したタイミングで、指標値計算部１１０は、膜電位ｖ_ｉ ^（ｌ）（ｔ）の値を０にリセットする。指標値計算部１１０は、次の時間区間の開始時まで膜電位ｖ_ｉ ^（ｌ）（ｔ）の値を０に維持する。これにより、指標値計算部１１０は、各時間区間における膜電位ｖ_ｉ ^（ｌ）（ｔ）の計算を、膜電位ｖ_ｉ ^（ｌ）（ｔ）の値が０の状態から開始する。

膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達する時刻をｔ_ｉ ^{（ｌ，ｖｔｈ）}と表記して式（３）の時刻ｔに代入すると、式（４）を得られる。

Γ_ｉ ^（ｌ）は、ｔ_ｊ ^{＊（ｌ－１）}＜ｔ_ｉ ^{（ｌ，ｖｔｈ）}となるインデックスｊの集合を表す。
ニューラルネットワーク装置１０では、発火時刻が出力時間区間内に制限されるため、発火時刻ｔ_ｉ ^＊（ｌ）が、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達する時刻よりも後の時刻になる場合がある。このように、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達する時刻と発火時刻ｔ_ｉ ^＊（ｌ）とが異なる場合があることから、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達する時刻をｔ_ｉ ^{（ｌ，ｖｔｈ）}と表記している。膜電位が閾値に達する時刻を、閾値到達時刻とも称する。
式（４）より、閾値到達時刻ｔ_ｉ ^{（ｌ，ｖｔｈ）}は、式（５）のように表される。

検出部１２０は、膜電位に関する所定の事象の発生タイミングを検出する。検出部１２０は、検出手段の例に該当する。
ここでいう膜電位に関する所定の事象は、膜電位が所定の閾値に達したこと、または、データ処理時間の終了時までに膜電位が所定の閾値に到達しないことであってもよい。ここでいう膜電位に関する所定の事象の発生タイミングは、膜電位が所定の閾値に達したタイミング、または、データ処理時間の終了時であってもよい。

検出部１２０が検出する、膜電位に関する所定の事象の発生タイミングを、事象発生タイミングとも称する。時間区間内に膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達した場合、検出部１２０は、膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達したタイミングを、事象発生タイミングとして検出する。一方、時間区間内に膜電位ｖ_ｉ ^（ｌ）（ｔ）が閾値Ｖ_ｔｈに達しない場合、検出部１２０は、その時間区間の終了時を、事象発生タイミングとして検出する。

遅延部１３０は、ニューロンモデル１００がスパイク信号を出力するタイミングを決定する。特に、遅延部１３０は、時間区間毎に、その前の時間区間における事象発生タイミングに基づいて、ニューロンモデル１００がスパイク信号を出力するタイミングを決定する。

具体的には、遅延部１３０は、事象発生タイミングから所定の条件の分の時間だけ遅延したタイミングを検出する。遅延部１３０が検出する、事象発生タイミングから所定の条件の分の時間だけ遅延したタイミングを、遅延後タイミングとも称する。

遅延後タイミングが事象発生タイミングと同じ時間区間に含まれる場合、遅延部１３０は、その時間区間の次の時間区間の開始時を、ニューロンモデル１００がスパイク信号を出力するタイミングに決定する。
遅延後タイミングが含まれる時間区間が、事象発生タイミングが含まれる時間区間の次の時間区間である場合、遅延部１３０は、遅延後タイミングを、ニューロンモデル１００がスパイク信号を出力するタイミングに決定する。
事象発生タイミングが含まれる次の時間区間中までに遅延後タイミングを検出しない場合、遅延部１３０は、事象発生タイミングが含まれる次の時間区間の終了時を、ニューロンモデル１００がスパイク信号を出力するタイミングに決定する。

信号出力部１４０は、遅延部１３０が決定するタイミングで、スパイク信号を出力する。これにより信号出力部１４０は、時間区間のうち第１時間区間内のタイミング、かつ、第１時間区間よりも過去の時間区間である第２時間区間における所定の事象の発生タイミングに応じたタイミングで、スパイク信号を出力する。ここでは、第１時間区間は、ニューロンモデル１００スパイク信号を出力する時間区間である。第２時間区間は、ニューロンモデル１００が、第１時間区間でのスパイク信号出力タイミングを決定する元となるスパイク信号の入力を受ける時間区間である。
信号出力部１４０は、信号出力手段の例に該当する。

図６は、ニューラルネットワーク装置のより具体的な構成の第１例を示す図である。
図６に示す構成で、ニューラルネットワーク装置１０ａは、ニューロンモデル１００ａを備える。ニューロンモデル１００ａは、第１サブモデル２１０－１と、切替部２２０ａと、第２サブモデル２１０－２と、第３サブモデル２１０－３と、統合部２３０とを備える。第１サブモデル２１０－１は、第１指標値計算部２１１－１と、第１検出部２１２－１と、第１信号出力部２１３－１とを備える。第２サブモデル２１０－２は、第２指標値計算部２１１－２と、第２検出部２１２－２と、第２信号出力部２１３－２とを備える。第３サブモデル２１０－３は、第３指標値計算部２１１－３と、第３検出部２１２－３と、第３信号出力部２１３－３とを備える。

第１サブモデル２１０－１と、第２サブモデル２１０－２と、第３サブモデル２１０－３とを総称してサブモデル２１０とも表記する。第２サブモデル２１０－２と、第３サブモデル２１０－３とを総称して遅延用サブモデル２１０ｆとも表記する。
第１指標値計算部２１１－１と、第２指標値計算部２１１－２と、第３指標値計算部２１１－３とを総称して指標値計算部２１１とも表記する。第２指標値計算部２１１－２と、第３指標値計算部２１１－３とを総称して遅延用指標値計算部２１１ｆとも表記する。

第１検出部２１２－１と、第２検出部２１２－２と、第３検出部２１２－３とを総称して検出部２１２とも表記する。第２検出部２１２－２と、第３検出部２１２－３とを総称して遅延用検出部２１２ｆとも表記する。
第１信号出力部２１３－１と、第２信号出力部２１３－２と、第３信号出力部２１３－３とを総称して信号出力部２１３とも表記する。第２信号出力部２１３－２と、第３信号出力部２１３－３とを総称して遅延用信号出力部２１３ｆとも表記する。

サブモデル２１０は、スパイキングニューロンモデルとして構成されている。具体的には、指標値計算部２１１は、サブモデル２１０へのスパイク信号の入力状況に基づいて、膜電位を時間変化させる。第１サブモデル２１０－１は、第１スパイキングニューロンモデルの例に該当する。２つの遅延用サブモデル２１０ｆは、２つの第２スパイキングニューロンモデルの例に該当する。

検出部２１２は、膜電位に関する所定の事象の発生タイミングを検出する。
具体的には、第１検出部２１２－１は、膜電位と所定の閾値とを比較する。時間区間内で膜電位が閾値に達する場合、第１検出部２１２－１は、膜電位が閾値に達するタイミングを検出する。膜電位が閾値に達しないまま時間区間が終了する場合、第１検出部２１２－１は、その時間区間の終了タイミングを検出する。

遅延用サブモデル２１０ｆでは、時間区間が、遅延用サブモデル２１０ｆがスパイク信号の入力を受ける時間区間と、遅延用サブモデル２１０ｆがスパイク信号を出力する時間区間とに分けられる。遅延用サブモデル２１０ｆがスパイク信号の入力を受ける時間区間を、入力時間区間とも称する。遅延用サブモデル２１０ｆがスパイク信号を出力する時間区間を、出力時間区間とも称する。
入力時間区間は、遅延用サブモデル２１０ｆが第１サブモデル２１０－１からのスパイク信号の入力を受ける時間区間である。出力時間区間は、入力時間区間の次の時間区間である。

遅延用検出部２１２ｆは、膜電位と所定の閾値とを比較する。出力時間区間内で膜電位が閾値に達する場合、検出部２１２は、膜電位が閾値に達するタイミングを検出する。膜電位が閾値に達しないまま出力時間区間が終了する場合、検出部２１２は、その時間区間の終了タイミングを検出する。
また、入力時間区間内に膜電位が閾値に達する場合、遅延用検出部２１２ｆは、その次の時間区間の開始タイミングを検出する。この場合、「その次の時間区間」は、出力時間区間に該当する。

信号出力部２１３は、検出部１２０が検出する所定の事象の発生タイミングで、スパイク信号を出力する。
例えば、第１信号出力部２１３－１は、第１検出部２１２－１が検出する、膜電位が閾値に達するタイミング、または、膜電位が閾値に達しないまま時間区間が終了する場合の、その時間区間の終了タイミングにて、スパイク信号を出力する。

また、遅延用信号出力部２１３ｆは、遅延用検出部２１２ｆが検出する、出力時間区間内で膜電位が閾値に達するタイミング、膜電位が閾値に達しないまま出力時間区間が終了する場合の、その時間区間の終了タイミング、または、入力時間区間内に膜電位が閾値に達する場合の、その次の時間区間の開始タイミングにて、スパイク信号を出力する。

切替部２２０ａは、第１サブモデル２１０－１からのスパイク信号の伝達先を、２つの遅延用サブモデル２１０ｆの何れかに切り替える。
統合部２３０は、２つの遅延用サブモデル２１０ｆそれぞれから出力されるスパイク信号を統合する。

ここでのスパイク信号を統合することは、２つの遅延用サブモデル２１０ｆそれぞれから出力されるスパイク信号のｏｒをとることであってもよい。具体的には、時間区間毎に、２つの遅延用サブモデル２１０ｆのうち何れか一方の遅延用サブモデル２１０ｆが、スパイク信号を出力する。統合部２３０は、時間区間毎に、何れか一方の遅延用サブモデル２１０ｆが出力するスパイク信号を、ニューロンモデル１００ａの出力として出力する。

ニューラルネットワーク装置１０ａは、ニューラルネットワーク装置１０の例に該当する。
第１指標値計算部２１１－１は、指標値計算部１１０の例に該当する。第１指標値計算部２１１－１は、指標値計算手段の例にも該当する。
第１検出部２１２－１は、検出部１２０の例に該当する。第１検出部２１２－１は、検出手段の例にも該当する。

遅延用指標値計算部２１１ｆと遅延用検出部２１２ｆとの組み合わせは、遅延部１３０の例に該当する。遅延用指標値計算部２１１ｆと遅延用検出部２１２ｆとの組み合わせは、遅延手段の例にも該当する。
遅延用信号出力部２１３ｆは、信号出力部１４０の例に該当する。遅延用信号出力部２１３ｆは、信号出力手段の例にも該当する。

図７は、切替部２２０ａおよび統合部２３０の構成の例を示す図である。
図７の例で、切替部２２０ａは、スイッチ２２１を含んで構成される。切替部２２０ａは、入力されるクロック信号に基づいて、時間区間毎にスイッチ２２１を切り替える。これにより、切替部２２０ａは、第１サブモデル２１０－１からのスパイク信号の出力先の遅延用サブモデル２１０ｆを時間区間毎に切り替える。
切替部２２０ａは、切替手段の例に該当する。

統合部２３０は、スイッチ２３１とインバータ２３２とを含んで構成される。統合部２３０は、入力されるクロック信号をインバータ２３２で反転させ、反転後のクロック信号に基づいて、時間区間毎にスイッチ２３１を切り替える。これにより、統合部２３０は、スパイク信号を出力する遅延用サブモデル２１０ｆを、時間区間毎に、第１サブモデル２１０－１からのスパイク信号の入力を受けない方の遅延用サブモデル２１０ｆに切り替える。
ただし、切替部２２０ａおよび統合部２３０の構成は、図７に例示される構成に限定されない。

図８は、ニューラルネットワーク装置１０ａにおけるニューロンモデル１００ａ間のスパイク信号の受け渡しのタイミングの例を示す図である。図８は、１つのニューロンモデル１００ａにおける第１サブモデル２１０－１および２つの遅延用サブモデル２１０ｆの間のスパイク信号の受け渡し、および、２つの遅延用サブモデル２１０ｆと、それらの遅延用サブモデル２１０ｆからのスパイク信号の入力を受けるニューロンモデル１００ａの第１サブモデル２１０－１との間のスパイク信号の受け渡しの例を示している。

図８のグラフの横軸は、時刻を、図８中でスパイク信号を出力する側のニューロンモデル１００ａに最初の入力データが入力されてからの経過時間で示す。縦軸は、第１サブモデル２１０－１、第２サブモデル２１０－２、第３サブモデル２１０－３、遅延用サブモデル２１０ｆからのスパイク信号の入力を受ける第１サブモデル２１０－１それぞれの膜電位を示す。
図５の例でニューラルネットワーク装置１０について説明したのと同様、図８の横軸に示される時間は、時間幅Ｔ毎の時間区間に分割されている。

第１サブモデル２１０－１は、時間区間の開始時には膜電位が０にリセットされた状態になっている。第１指標値計算部２１１－１が第１サブモデル２１０－１の発火時に膜電位を０に設定し、次の時間区間の開始時まで膜電位を０とする設定を維持するようにしてもよい。
時間区間の開始時から第１サブモデル２１０－１の発火時まで、第１指標値計算部２１１－１は、時間区間内に受けるスパイク信号の取得状況に応じて膜電位を時間変化させる。
第１サブモデル２１０－１は、膜電位が閾値に到達したタイミングで発火する。時間区間内に膜電位が閾値に達しない場合、第１サブモデル２１０－１は、時間区間の終了時に発火する。
膜電位が閾値に達していない状態での発火を強制発火とも称する。

第１サブモデル２１０－１からのスパイク信号は、２つの遅延用サブモデル２１０ｆの何れかに入力される。例えば、奇数番目のデータの処理におけるスパイク信号が、第２サブモデル２１０－２に入力され、偶数番目のデータ処理におけるスパイク信号が、第３サブモデル２１０－３に入力されるようにしてもよい。上記のように、切替部２２０ａが、第１サブモデル２１０－１からのスパイク信号を、２つの遅延用サブモデル２１０ｆの何れかに振り分ける。

遅延用サブモデル２１０ｆは、第１サブモデル２１０－１からのスパイク信号の入力を受けた時間区間の次の時間区間にてスパイク信号を出力する。
上記のように、遅延用サブモデル２１０ｆがスパイク信号の入力を受ける時間区間を入力時間区間とも称する。遅延用サブモデル２１０ｆがスパイク信号を出力する時間区間を出力時間区間とも称する。第２サブモデル２１０－２と第３サブモデル２１０－３とで入力時間区間と出力時間区間とが逆になる。すなわち、第２サブモデル２１０－２における時間区間が入力時間区間であるときは、第３サブモデル２１０－３における時間区間は出力時間区間となっている。第２サブモデル２１０－２における時間区間が出力時間区間であるときは、第３サブモデル２１０－３における時間区間は入力時間区間となっている。

入力時間区間の開始時には、遅延用サブモデル２１０ｆの膜電位は０にリセットされた状態になっている。遅延用サブモデル２１０ｆの指標値計算部２１１が遅延用サブモデル２１０ｆの発火時に膜電位を０に設定し、次の時間区間の開始時まで膜電位を０とする設定を維持するようにしてもよい。遅延用サブモデル２１０ｆの発火は出力時間区間にて行われ、ここでの「次の時間区間」は入力時間区間になる。

遅延用サブモデル２１０ｆは、遅延用サブモデル２１０ｆ自らが含まれるニューロンモデル１００ａと同じニューロンモデル１００ａに含まれる１つの第１サブモデル２１０－１のみからのスパイク信号の入力を受ける。
第１サブモデル２１０－１からのスパイク信号の入力を受けると、遅延用指標値計算部２１１ｆは、スパイク信号の伝達経路に設定されている重みに応じた変化率（変化速度）で膜電位を増加させる。

入力時間区間内で膜電位が閾値に達した場合、遅延用信号出力部２１３ｆは、出力時間区間の開始時にスパイク信号を出力する。例えば、膜電位が閾値に達してから出力時間区間の開始時まで、遅延用指標値計算部２１１ｆが、膜電位を閾値と同じ値で維持する。そして、出力時間区間の開始時に、遅延用検出部２１２ｆが、膜電位が閾値に達していることを検出し、遅延用信号出力部２１３ｆが、遅延用検出部２１２ｆの検出結果に基づいてスパイク信号を出力する。発火後、遅延用指標値計算部２１１ｆは、膜電位を０に設定する。

出力時間区間内で膜電位が閾値に達した場合、遅延用検出部２１２ｆが、膜電位が閾値に達していることを検出し、遅延用信号出力部２１３ｆが、遅延用検出部２１２ｆの検出結果に基づいてスパイク信号を出力する。発火後、遅延用指標値計算部２１１ｆは、膜電位を０に設定する。

出力時間区間終了までに膜電位が閾値に達しなかった場合、遅延用信号出力部２１３ｆは、強制発火にてスパイク信号を出力する。例えば、出力時間区間の終了時までに膜電位が一度も閾値に達していない場合、遅延用検出部２１２ｆが、膜電位が閾値に達したとするダミーの判定結果を遅延用信号出力部２１３ｆに出力するようにしてもよい。そして、遅延用信号出力部２１３ｆが、遅延用検出部２１２ｆのダミーの判定結果に基づいて、出力時間区間の終了時にスパイク信号を出力するようにしてもよい。発火後、遅延用指標値計算部２１１ｆは、膜電位を０に設定する。

図９は、ニューラルネットワーク装置１０ａにおける副層（Sublayer）の構成の例を示す図である。
ニューラルネットワーク装置１０ａが備えるスパイキングニューラルネットワークを、ニューラルネットワーク１１ａとも表記する。ニューラルネットワーク１１ａは、ニューラルネットワーク１１の例に該当する。

図９の例で、ノード３０としてニューロンモデル１００ａを含む層２０が、副層を含んで構成されている。第１サブモデル２１０－１を含む副層を演算層と称し、符号２５－１を付加する。第２サブモデル２１０－２を含む副層を第１遅延層と称し、符号２５－２を付加する。第３サブモデル２１０－３を含む副層を第２遅延層と称し、符号２５－３を付加する。
副層が第ｉ層（ｉは正の整数）に含まれる場合、演算層を第ｉ演算層とも称し、第１遅延層を第ｉ－１遅延層とも称し、第２遅延層を第ｉ－２遅延層とも称する。

第１サブモデル２１０－１がスパイク信号を出力すると、切替部２２０ａが、第１サブモデル２１０－１からのスパイク信号を、２つの遅延用サブモデル２１０ｆの何れかに伝送する。第１サブモデル２１０－１からのスパイク信号の入力を受けた遅延用サブモデル２１０ｆが、その次の時間区間に出力するスパイク信号は、統合部２３０を経由して次の層２０のノード３０に入力される。

図１０は、ニューラルネットワーク装置１０ａにおけるデータ処理のタイミングの例を示す図である。図１０の横軸は、時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。図１０の例では、横軸に示される時間が、時間Ｔ毎の時間区間に区切られている。

また、図１０は、ニューラルネットワーク１１ａが、入力層、第１層、第２層および出力層の４層で構成され、、第１データ、第２データ、および、第３データの３つのデータを処理する場合の例を示している。層毎または副層毎に、その層または副層で各データを処理する時間区間を示している。

図１０の例で、入力層のノード３０は、１つの時間区間で１つのデータを第１演算層のノード３０に出力する。
演算層では、第１サブモデル２１０－１が、データの入力を受けた時間区間内でそのデータに対する処理を行い、遅延層の遅延用サブモデル２１０ｆへスパイク信号にてデータを出力する。第１サブモデル２１０－１におけるデータ処理は、発火タイミングを決定する処理であってもよい。

遅延層では、遅延用サブモデル２１０ｆが、入力時間区間にデータの入力を受ける。遅延用サブモデル２１０ｆは、入力時間区間の次の時間区間である出力時間区間のうち、入力時間区間でデータの入力を受けたタイミングに応じたタイミングでスパイク信号を出力することで、次の層のノードへデータを出力する。遅延用サブモデル２１０ｆは、入力時間区間にて入力を受けたスパイク信号を、出力時間区間まで遅延させて出力するものといえる。
出力層のノード３０は、データの入力を受けた時間区間内でそのデータに対する処理を行い、処理結果のデータをスパイク信号にて出力する。

このように、各層について１つのデータの処理時間が定められていることで、ニューラルネットワーク装置１０ａでは、１つのデータの処理の終了を待たずに、パイプライン処理方式で次のデータ処理を開始することができる。
また、遅延用サブモデル２１０ｆが、入力時間区間にてスパイク信号の入力を受け、次の時間区間である出力時間区間まで遅らせてスパイク信号を出力することで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。例えば、データの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。
また、１つの第１サブモデル２１０－１に対して２つの遅延用サブモデル２１０ｆが設けられていることで、遅延用サブモデル２１０ｆの各々が１つのデータの処理を２つの時間区間にわたって行っても（おこなっても）、第１サブモデル２１０－１は、時間区間毎にデータを遅延用サブモデル２１０ｆへ出力することができる。

第ｌ層のｉ番目のニューロンモデル１００の第１サブモデル２１０－１の発火前の膜電位ｖ_ｉ＿１ ^（ｌ）（ｔ）は、式（６）のように表すことができる。

この第１サブモデル２１０－１における閾値到達時刻をｔ_ｉ＿１ ^{（ｌ，ｖｔｈ）}とすると、式（７）を得られる。

Γ_ｉ＿１ ^（ｌ）は、ｔ_ｊ ^{＊（ｌ－１）}＜ｔ_ｉ＿１ ^{（ｌ，ｖｔｈ）}となるインデックスｊの集合を表す。
閾値到達時刻ｔ_ｉ＿１ ^{（ｌ，ｖｔｈ）}は、式（８）のように表される。

この第１サブモデル２１０－１がｄ番目のデータを処理する際の発火時刻ｔ_ｉ＿１ ^＊（ｌ）は、式（９）のように表すことができる。

関数ｃｌｉｐは、式（１０）のように示される。

式（１０）に示される関数ｃｌｉｐをクリップ関数とも称する。
図１１は、クリップ関数の第１例を示す図である。図１１は、第ｌ層のｉ番目のニューロンモデル１００の第１サブモデル２１０－１が、第ｄデータを処理する際のクリップ関数の例を示す。
図１１のグラフの横軸は、膜電位が閾値に達する時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。縦軸は、第１サブモデル２１０－１の発火時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。

時刻（ｌ＋ｄ－２）Ｔから（ｌ＋ｄ－１）Ｔまでの時間は、第ｌ層のｉ番目のニューロンモデル１００の第１サブモデル２１０－１が、第ｄデータを処理する時間区間に該当する。この時間区間内に膜電位が閾値に達した場合、第１検出部２１２－１が、膜電位が閾値に達したことを検出すると、第１信号出力部２１３－１がスパイク信号を出力する。
一方、この時間区間内に膜電位が閾値に達しない場合は、時刻（ｌ＋ｄ－１）Ｔ以降に膜電位が閾値に達するものとして捉えることができる。この場合、第１信号出力部２１３－１は、この時間区間の終了時である時刻（ｌ＋ｄ－１）Ｔにスパイク信号を出力する。

第ｌ層のｉ番目のニューロンモデル１００の遅延用サブモデル２１０ｆの発火前の膜電位ｖ_ｉ＿ｆ ^（ｌ）（ｔ）は、式（１１）のように表すことができる。

ｗ_ｆは、第１サブモデル２１０＿１から遅延用サブモデル２１０ｆへのスパイク信号の伝達経路に設定されている重みを示す。ｗ_ｆが学習の対象となっていてもよい。
この遅延用サブモデル２１０ｆにおける閾値到達時刻をｔ_ｉ＿ｆ ^{（ｌ，ｖｔｈ）}とすると、式（１２）を得られる。

閾値到達時刻ｔ_ｉ＿ｆ ^{（ｌ，ｖｔｈ）}は、式（１３）のように表される。

この遅延用サブモデル２１０ｆがｄ番目のデータを処理する際の発火時刻ｔ_ｉ＿ｆ ^＊（ｌ）は、式（１４）のように表すことができる。

図１２は、クリップ関数の第２例を示す図である。図１２は、第ｌ層のｉ番目のニューロンモデル１００の遅延用サブモデル２１０ｆが、第ｄデータを処理する際のクリップ関数の例を示す。
図１２のグラフの横軸は、膜電位が閾値に達する時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。縦軸は、遅延用サブモデル２１０ｆの発火時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。

時刻（ｌ＋ｄ－２）Ｔから（ｌ＋ｄ－１）Ｔまでの時間は、第ｌ層のｉ番目のニューロンモデル１００の遅延用サブモデル２１０ｆが、第ｄデータを処理する場合の入力時間区間に該当する。時刻（ｌ＋ｄ－１）Ｔから（ｌ＋ｄ）Ｔまでの時間は、第ｌ層のｉ番目のニューロンモデル１００の遅延用サブモデル２１０ｆが、第ｄデータを処理する場合の出力時間区間に該当する。
入力時間区間内に膜電位が閾値に達した場合、遅延用信号出力部２１３ｆは、この入力時間区間の次の時間区間である出力時間区間の開始時に、スパイク信号を出力する。

出力時間区間内に膜電位が閾値に達した場合、遅延用検出部２１２ｆが、膜電位が閾値に達したことを検出すると、遅延用信号出力部２１３ｆがスパイク信号を出力する。
出力時間区間の終了時までに膜電位が閾値に達しない場合は、時刻（ｌ＋ｄ）Ｔ以降に膜電位が閾値に達するものとして捉えることができる。この場合、遅延用信号出力部２１３ｆは、出力時間区間の終了時である時刻（ｌ＋ｄ）Ｔにスパイク信号を出力する。

図１３は、第ｌ層のｉ番目のニューロンモデル１００ａが、第ｄデータを処理する際のタイミングを示す関数の第１例を示す図である。
図１３のグラフの横軸は、第１サブモデル２１０－１の膜電位が閾値に達する時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。縦軸は、遅延用サブモデル２１０ｆの発火時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。
第１サブモデル２１０－１の膜電位が閾値に達する時刻は、第１サブモデル２１０－１の発火時刻と同じ時刻として扱うことができる。また、第１サブモデル２１０－１の膜電位が閾値に達する時刻は、遅延用サブモデル２１０ｆがスパイク信号の入力を受ける時刻と同じ時刻として扱うことができる。

図１３は、遅延用サブモデル２１０ｆがスパイク信号の入力を受けてからスパイク信号を出力するまでの時間がＴである場合の例を示している。遅延用サブモデル２１０ｆがスパイク信号の入力を受けてからスパイク信号を出力するまでの時間を、遅延用サブモデル２１０ｆによる遅延時間とも称する。

遅延用サブモデル２１０ｆによる遅延時間がＴである場合、遅延用サブモデル２１０ｆは、入力時間区間内でのスパイク信号の入力を受けたタイミングと同様の、出力時間区間内におけるタイミングで、スパイク信号を出力する。ここでいう、２つの時間区間内における同じタイミングとは、それぞれの時間区間の開始時からの経過時間が同じであることであってもよい。

図１３では、時刻（ｌ＋ｄ－２）Ｔから第１サブモデル２１０－１における閾値到達時刻までの経過時間と、時刻（ｌ＋ｄ－１）Ｔから遅延用サブモデル２１０ｆの発火時刻までの経過時間とが等しくなっている。
ここで、時刻（１＋ｄ－２）Ｔは、入力時間区間の開始時である。時刻（１＋ｄ－１）Ｔは、出力時間区間の開始時である。また、第１サブモデル２１０－１の膜電位が閾値に達してから、遅延用サブモデル２１０ｆがスパイク信号の入力を受けるまでの遅延時間は無視できるものとする。
したがって、図１３は、遅延用サブモデル２１０ｆが、入力時間区間内でのスパイク信号の入力を受けたタイミングと同様の、出力時間区間内におけるタイミングで、スパイク信号を出力する場合を示している。

遅延用サブモデル２１０ｆによる遅延時間が時間区間の時間幅に等しい場合、時間区間内における第１サブモデル２１０－１の膜電位が閾値に達するタイミングが、出力時間区間内における遅延用サブモデル２１０ｆが発火するタイミングに、そのまま反映される。この点で、情報が失われていないといえる。

図１４は、第ｌ層のｉ番目のニューロンモデル１００ａが、第ｄデータを処理する際のタイミングを示す関数の第２例を示す図である。
図１４のグラフの横軸は、第１サブモデル２１０－１の膜電位が閾値に達する時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。縦軸は、遅延用サブモデル２１０ｆの発火時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。

図１４は、遅延用サブモデル２１０ｆによる遅延時間がＴよりも短い場合の例を示している。
遅延用サブモデル２１０ｆによる遅延時間がＴよりも短い場合、出力時間区間内における遅延用サブモデル２１０ｆが発火するタイミングが、時間区間内における第１サブモデル２１０－１が発火するタイミングよりも早くなる。
図１４の例で、時刻（ｌ＋ｄ－２）Ｔから（ｌ＋ｄ－２＋ｃ１）Ｔまでの間に第１サブモデル２１０－１の膜電位が閾値に達した場合、遅延用サブモデル２１０ｆは、出力時間区間の開始時である時刻（ｌ＋ｄ－１）Ｔに発火する。

また、時刻（ｌ＋ｄ－２＋ｃ１）Ｔから（ｌ＋ｄ－１）Ｔまでの間に第１サブモデル２１０－１の膜電位が閾値に達した場合、遅延用サブモデル２１０ｆは、時間Ｔ－ｃ１経過後に発火する。時間区間内におけるタイミングで見ると、出力時間区間内における遅延用サブモデル２１０ｆが発火するタイミングは、時間区間内における第１サブモデル２１０－１が発火するタイミングよりも、時間ｃ１だけ早くなる。
このようにタイミングが早まることで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。例えば、データの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。

図１５は、第ｌ層のｉ番目のニューロンモデル１００ａが、第ｄデータを処理する際のタイミングを示す関数の第３例を示す図である。
図１５のグラフの横軸は、第１サブモデル２１０－１の膜電位が閾値に達する時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。縦軸は、遅延用サブモデル２１０ｆの発火時刻を、ニューラルネットワーク１１ａへのデータ入力開始時からの経過時間で示す。

図１５は、遅延用サブモデル２１０ｆによる遅延時間がＴよりも長い場合の例を示している。
遅延用サブモデル２１０ｆによる遅延時間がＴよりも長い場合、出力時間区間内における遅延用サブモデル２１０ｆが発火するタイミングが、時間区間内における第１サブモデル２１０－１が発火するタイミングよりも遅くなる。

図１５の例で、時刻（ｌ＋ｄ－２）Ｔから（ｌ＋ｄ－１－ｃ２）Ｔまでの間に第１サブモデル２１０－１の膜電位が閾値に達した場合、遅延用サブモデル２１０ｆは、時間Ｔ＋ｃ２経過後に発火する。時間区間内におけるタイミングで見ると、出力時間区間内における遅延用サブモデル２１０ｆが発火するタイミングは、時間区間内における第１サブモデル２１０－１が発火するタイミングよりも、時間ｃ２だけ遅くなる。
また、時刻（ｌ＋ｄ－１－ｃ２）Ｔから（ｌ＋ｄ－１）Ｔまでの間に第１サブモデル２１０－１の膜電位が閾値に達した場合、遅延用サブモデル２１０ｆは、出力時間区間の終了時である時刻（１＋ｄ）Ｔに発火する。

図１６は、ニューラルネットワーク装置のより具体的な構成の第２例を示す図である。
図１６に示す構成で、ニューラルネットワーク装置１０ｂは、ニューロンモデル１００ｂを備える。ニューロンモデル１００ｂは、指標値計算部１１０と、検出部１２０と、遅延部１３０ｂと、信号出力部１４０と、切替部２２０ｂとを備える。

図１６の各部のうち図１の各部に対応して同様の機能を有する部分には同一の符号（１１０、１２０、１４０）を付し、ここでは詳細な説明を省略する。
ニューラルネットワーク装置１０ｂはニューラルネットワーク装置１０の例に該当し、ニューロンモデル１００ｂはニューロンモデル１００の例に該当する。図１６では、ニューロンモデル１００ｂの構成として、図１のニューロンモデル１００の構成の遅延部１３０に代えて遅延部１３０ｂが示され、さらに切替部２２０ｂが示されている。

切替部２２０ｂは、検出部１２０からの、膜電位が閾値に達したことを示す信号の伝達先を、２つの遅延部１３０ｂの何れかに切り替える。切替部２２０ｂでは、膜電位が閾値に達したことを示す信号がスパイク信号に限定されない点で、ニューラルネットワーク装置１０ａの切替部２２０ａと異なる。膜電位が閾値に達したことを示す信号としてスパイク信号が用いられる場合は、切替部２２０ｂは切替部２２０ａと同様である。切替部２２０ａは、切替部２２０ｂの例に該当する。切替部２２０ｂは、切替手段の例に該当する。

遅延部１３０ｂは、検出部１２０からの、膜電位が閾値に達したことを示す信号の入力を受けた時間区間の次の時間区間において、検出部１２０からの信号の入力を受けたタイミングに応じたタイミングで、発火を指示する信号を信号出力部１４０へ出力する。
これにより信号出力部１４０は、上記のように、時間区間のうち第１時間区間内のタイミング、かつ、第１時間区間よりも過去の時間区間である第２時間区間における所定の事象の発生タイミングに応じたタイミングで、スパイク信号を出力する。
遅延部１３０ｂは、遅延部１３０の例に該当する。遅延部１３０ｂは、遅延手段の例にも該当する。

２つの遅延部１３０ｂが出力する信号のｏｒをとった信号が、信号出力部１４０に入力される。したがって、２つの遅延部１３０ｂのうち何れが発火を指示する信号を出力した場合も、信号出力部１４０はスパイク信号を出力する。
遅延部１３０ｂがスパイキングニューロンモデルを用いて構成される場合、遅延部１３０ｂはサブモデル２１０と同様である。サブモデル２１０は、遅延部１３０ｂの例に該当する。一方、遅延部１３０ｂの構成は、スパイキングニューロンモデルを用いる構成に限定されない。例えば、遅延部１３０ｂがタイマを備えて構成され、信号の入力を受けてから信号を出力するまでの時間をタイマを用いて測定するようにしてもよい。

信号出力部１４０は、遅延部１３０ｂからの発火を指示する信号に応じてスパイク信号を出する。遅延部１３０ｂからの信号がスパイク信号である場合、信号出力部１４０が、遅延部１３０ｂからのスパイク信号をそのまま出力するようにしてもよい。
検出部１２０が事象の発生を検出した時刻に所定の遅延時間を加えた時刻が、検出部１２０が事象の発生を検出した時間区間と同じ時間区間に含まれる場合に、信号出力部１４０が次の時間区間の開始時にスパイク信号を出力するようにする処理を、遅延部１３０ｂが行うようにしてもよいし、信号出力部１４０が行うようにしてもよい。

検出部１２０が事象の発生を検出した時刻に所定の遅延時間を加えた時刻が、検出部１２０が事象の発生を検出した時間区間の次の時間区間よりも遅い時刻になる場合に、信号出力部１４０が、検出部１２０が事象の発生を検出した時間区間の次の時間区間の終了時にスパイク信号を出力するようにする処理を、遅延部１３０ｂが行うようにしてもよいし、信号出力部１４０が行うようにしてもよい。

図１に示す構成で、遅延部１３０が、複数の時刻に信号の入力を受けて、それぞれの時刻から遅延させた時刻に信号を出力可能である。例えば、図１６の切替部２２０ｂと、２つの遅延部１３０ｂとの組み合わせは、遅延部１３０の例に該当する。
あるいは、遅延部１３０が、複数の信号を受け入れ可能な経路を備えていてもよい。例えば、遅延部１３０がシフトレジスタを備え、信号の入力を受けたときにシフトレジスタの再下位ビットを１に設定して所定のクロック周期毎にシフトレジスタをシフトアップさせるようにしてもよい。そして、シフトレジスタの最上位ビット１になったときに、遅延部１３０が、信号出力部１４０に対して発火を指示する信号を出力するようにしてもよい。

図１に示す構成で、検出部１２０が事象の発生を検出した時刻に所定の遅延時間を加えた時刻が、検出部１２０が事象の発生を検出した時間区間と同じ時間区間である場合に、信号出力部１４０が次の時間区間の開始時にスパイク信号を出力するようにする処理を、遅延部１３０が行うようにしてもよいし、信号出力部１４０が行うようにしてもよい。

図１に示す構成で、検出部１２０が事象の発生を検出した時刻に所定の遅延時間を加えた時刻が、検出部１２０が事象の発生を検出した時間区間の次の時間区間よりも遅い時刻になる場合に、信号出力部１４０が、検出部１２０が事象の発生を検出した時間区間の次の時間区間の終了時にスパイク信号を出力するようにする処理を、遅延部１３０ｃが行うようにしてもよいし、信号出力部１４０が行うようにしてもよい。

図１７は、学習時におけるシステム構成の例を示す図である。図１７に示す構成で、ニューラルネットワークシステム１は、ニューラルネットワーク装置１０と、学習装置５０とを備える。ニューラルネットワーク装置１０と学習装置５０とが１つの装置として一体的に構成されていてもよい。あるいは、ニューラルネットワーク装置１０と学習装置５０とが別々の装置として構成されていてもよい。
上述したように、ニューラルネットワーク装置１０が構成するニューラルネットワーク１１を、ニューラルネットワーク本体とも称する。

図１８は、ニューラルネットワークシステム１における信号の入出力の例を示す図である。
図１８の例で、入力データと、その入力データに対する正解を示す教師ラベルとがニューラルネットワークシステム１に入力される。ニューラルネットワーク装置１０が入力データの入力を受け、学習装置５０が、教師ラベルの入力を受けるようにしてもよい。入力データと教師ラベルとの組み合わせは、教師有り学習における訓練データの例に該当する。
また、ニューラルネットワーク装置１０は、クロック信号を取得する。ニューラルネットワーク装置１０がクロック回路を備えるようにしてもよい。あるいは、ニューラルネットワーク装置１０が、ニューラルネットワーク装置１０の外部からのクロック信号の入力を受けるようにしてもよい。

ニューラルネットワーク装置１０は、入力データの入力を受けて、その入力データに基づく推定値を出力する。推定値を算出する際、ニューラルネットワーク装置１０は、クロック信号を用いて層間の時間区間の同期、および、同一層内のニューロンモデル１００間の時間区間の同期をとる。

学習装置５０は、ニューラルネットワーク装置１０の学習を行う。ここでいう学習は、機械学習アルゴリズムによって学習モデルのパラメータ値を調整することである。学習装置５０は、ニューロンモデル１００に入力されるスパイク信号に対する重み係数の学習を行う。式（４）の重みＷ_ｉｊ ^（ｌ）が、学習装置５０が学習によって値を調整する重み係数の例に該当する。

学習装置５０が、ニューラルネットワーク装置１０が出力する推定値と、教師ラベルが示す正解値との誤差に対する評価を示す評価関数を用いて、推定値と正解値との誤差の大きさが小さくなるように、重み係数の学習を行うようにしてもよい。
学習装置５０は、学習手段の例に該当する。学習装置５０は、例えば、コンピュータを用いて構成される。

学習装置５０が行う学習の手法として、例えば誤差逆伝播法（Backpropagation）などの既存の学習手法を、入力時間区間および出力時間区間が設定されていることに応じてアレンジした手法を用いることができる。
例えば、学習装置５０が誤差逆伝播法をアレンジした手法を用いて学習を行う場合、重みＷ_ｉｊ ^（ｌ）を、式（１５）で示される変化量ΔＷ_ｉｊ ^（ｌ）だけ変化させるように、重みＷ_ｉｊ ^（ｌ）を更新するようにしてもよい。

ηは、学習率を示す定数である。
Ｃは、式（１６）のように表される。

Ｃは、ニューラルネットワーク装置１０が出力する推定値と、教師ラベルが示す正解値との誤差に対する評価を示す評価関数の例に該当する。Ｃは、誤差が小さいほど小さい値を出力する損失関数として設定されている。
Ｍは、出力層（最終層）を示すインデックス値を表す。Ｎ^（Ｍ）は、出力層に含まれるニューロンモデル１００の個数を表す。

κ_ｉは、教師ラベルを表す。ここでは、ニューラルネットワーク装置１０が、クラスの個数がＮ^（Ｍ）個のクラス分類を行うものとし、教師ラベルがワンホットベクトル（One-hot Vector）で示されるものとする。インデックスｉの値が正解クラスを示す場合にκ_ｉ＝１であり、それ以外の場合はκ_ｉ＝０であるものとする。

ｔ^{（ｒｅｆ）}は、参照スパイク（Reference Spike）を表す。
「γ／２（ｔ_ｉ ^＊（Ｍ）－ｔ^{（ｒｅｆ）}）^２」は、学習困難性を回避するために設けられた項である。この項をテンポラル罰則項（Temporal Penalty Term）とも称する。テンポラル罰則項により、出力層の発火タイミングは参照スパイク周辺に分布することになり、結果として出力ニューロンが安定して発火するようになる。γは、テンポラル罰則項の影響度合いを調整するための定数であり、γ＞０である。γをテンポラル罰則係数とも称する。
Ｓ_ｉは、ソフトマックス関数であり、式（１７）のように表される。

σ_ｓｏｆｔは、出力層の発火タイミングが変化したときに、ソフトマックス関数Ｓ_ｉの値がどの程度変化するかを調整するためのスケール因子（Scale Factor）として設けられた定数であり、σ_ｓｏｆｔ＞０である。このスケール因子が、出力時間区間と同程度(１０分の１から１０倍程度)の値を持つことで安定した学習が可能になる。
式（１７）では、出力層のｉ番目のスパイク発火時刻ｔ_ｉ ^＊（Ｍ）が０≦ｔ_ｉ ^＊（Ｍ）≦１で示されるものとする。例えば、出力層のスパイク発火時刻が、クラス毎に、入力データが示す分類対象がそのクラスに分類される確率を示すようにしてもよい。κ_ｉ＝１となるｉについて、ｔ_ｉ ^＊（Ｍ）の値が１に近いほど「－Σ_ｉ＝１ ^Ｎ（Ｍ）（κ_ｉｌｎ（Ｓ_ｉ（ｔ^＊（Ｍ））））」の項の値が小さくなり、学習装置５０は、損失（評価関数Ｃの値）を小さく計算する。
ただし、ニューラルネットワーク装置１０が行う処理は、クラス分類に限定されない。

重みＷ_ｉｊ ^（ｌ）に加えて、あるいは代えて、式（１１）に示される重みｗ_ｆが、学習によって値を調整する重みの対象になっていてもよい。
例えば、重みｗ_ｆの値がニューロンモデル１００毎に設定可能になっていてもよい。この場合の、第ｌ層のｉ番目のニューロンモデル１００における重みｗ_ｆをｗ_ｉ＿ｆ ^（ｌ）と表記する。学習装置５０が誤差逆伝播法をアレンジした手法を用いて学習を行う場合、重みＷ_ｉ＿ｆ ^（ｌ）を、式（１８）で示される変化量ΔＷ_ｉ＿ｆ ^（ｌ）だけ変化させるように、重みＷ_ｉ＿ｆ ^（ｌ）を更新するようにしてもよい。

図１９は、運用時のニューラルネットワーク装置１０における信号の入出力の例を示す図である。
図１９に示される運用時と同様、学習時も、ニューラルネットワーク装置１０は、入力データの入力を受け、また、クロック信号を取得する。ニューラルネットワーク装置１０がクロック回路を備えるようにしてもよい。あるいは、ニューラルネットワーク装置１０が、ニューラルネットワーク装置１０の外部からのクロック信号の入力を受けるようにしてもよい。
ニューラルネットワーク装置１０は、入力データの入力を受けて、その入力データに基づく推定値を出力する。推定値を算出する際、ニューラルネットワーク装置１０は、クロック信号を用いて層間の時間区間の同期、および、同一層内のニューロンモデル１００間の時間区間の同期をとる。

なお、ニューラルネットワーク１１の種類は、特定の種類に限定されない。例えば、ニューラルネットワーク１１が、スパイキングニューラルネットワークによる畳み込みニューラルネットワーク（Convolutional neural network；ＣＮＮ）として構成されていてもよい。

上述したように、ニューラルネットワーク１１が順伝播型のスパイキングニューラルネットワークとして構成される場合、ニューラルネットワーク１１の層数は２層以上であればよく、特定の層数に限定されない。また、各層が備えるニューロンモデル１００の個数は特定の個数に限定されず、各層が１つ以上のニューロンモデル１００を備えていればよい。各層が同じ個数のニューロンモデル１００を備えていてもよいし、層によって異なる個数のニューロンモデル１００を備えていてもよい。また、ニューラルネットワーク１１が全結合型になっていてもよいし、全結合型でなくてもよい。

また、ニューロンモデル１００の発火後の膜電位は、上述した電位０から変化しないものに限定されない。例えば、発火から所定時間経過後は、スパイク信号の入力に応じて膜電位が変化するようにしてもよい。ニューロンモデル１００の各々の発火回数も、入力データ毎に１回に限定されない。

スパイキングニューロンモデルとしてのニューロンモデル１００の構成も、特定の構成に限定されない。例えば、ニューロンモデル１００が、スパイク信号の入力を受けてから次のスパイク信号の入力を受けるまでの変化速度が一定でなくてもよい。
ニューラルネットワーク１１の学習方法は、教師あり学習に限定されない。学習装置５０が、ニューラルネットワーク１１の学習を教師無し学習で行うようにしてもよい。

以上のように、指標値計算部１１０は、時間区間毎に、その時間区間におけるスパイク信号の入力状況に基づいて、スパイク信号出力の指標値である膜電位を時間変化させる。
検出部１２０は、膜電位に関する所定の事象の発生タイミングを検出する。具体的には、検出部１２０は、膜電位が閾値に達したタイミング、および、膜電位が閾値に達せずに時間区間が終了するタイミングを検出する。
信号出力部１４０は、時間区間のうち出力時間区間内のタイミング、かつ、出力時間区間よりも過去の時間区間である入力時間区間における所定の事象の発生タイミングに応じたタイミングで、スパイク信号を出力する。

このように、ニューロンモデル１００が、時間区間毎にスパイク信号の入力を受け付け、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、ニューラルネットワーク１１は、時間区間毎にデータの入力を受け付けて、入力された各データを処理することができる。
ニューラルネットワーク装置１０によればこの点で、スパイキングニューラルネットワークであるニューラルネットワーク１１がデータ処理を効率的に行うことができる。
また、ニューロンモデル１００が、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。ニューラルネットワーク装置１０では、例えば、ニューラルネットワーク１１におけるデータの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。

また、遅延部１３０は、検出部１２０が検出する上記のタイミングから所定時間後のタイミングに基づいて、信号出力部１４０にスパイク信号を出力させるタイミングを決定する。切替部２２０は、２つの遅延部１３０のうち前記検出部１２０の検出結果を入力する遅延部１３０を、前記時間区間毎に切り替える。
ニューラルネットワーク装置１０ｂでは、２つの遅延部１３０と切替部２２０とを用いた比較的簡単な構成で、信号出力部１４０がスパイク信号を出力する時間区間と、指標値計算部１１０が次のデータに関するスパイク信号の入力を受ける時間区間とが重なることに対応することができる。

また、第１検出部２１２－１が膜電位に関する所定の事象の発生タイミングを検出すると、第１サブモデル２１０－１が遅延用サブモデル２１０ｆへスパイク信号を出力する。遅延用検出部２１２ｆは、遅延用信号出力部２１３ｆにスパイク信号を出力させるタイミングを、出力時間区間内のタイミング、かつ、入力時間区間にて第１サブモデル２１０－１からスパイク信号の入力を受けたタイミングから所定時間後のタイミングに基づくタイミングに決定する。

ニューラルネットワーク装置１０ａでは、スパイキングニューロンモデルを第１サブモデル２１０－１および遅延用サブモデル２１０ｆとして用いて、ニューロンモデル１００ａを構成することができる。信号の出力を遅延させる手段をスパイキングニューロンモデルと別に設計する必要が無い点で、設計者がニューラルネットワーク装置１０ａを設計する負担が比較的軽いことが期待される。また、スパイキングニューロンモデルを多数用いることで、スパイキングニューロンモデルの１個当たりの生産コストが安くなり、ニューラルネットワーク装置１０ａ全体の生産コストが比較的安いことが期待される。

図２０は、実施形態に係る演算装置の構成例を示す図である。図２０に示す構成で、演算装置６１０は、ニューロンモデル６１１を備える。ニューロンモデル６１１は、指標値計算部６１２と、検出部６１３と、信号出力部６１４とを備える。
かかる構成で、指標値計算部６１２は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる。検出部６１３は、指標値に関する所定の事象の発生タイミングを検出する。信号出力部６１４は、時間区間のうち第１時間区間内のタイミング、かつ、第１時間区間よりも過去の時間区間である第２時間区間における所定の事象の発生タイミングに応じたタイミングで、信号を出力する。
指標値計算部６１２は、指標値計算手段の例に該当する。検出部６１３は、検出手段の例に該当する。信号出力部６１４は、信号出力手段の例に該当する。

このように、ニューロンモデル６１１が、時間区間毎にスパイク信号の入力を受け付け、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、ニューロンモデル６１１を用いるスパイキングニューラルネットワークとして機能する演算装置６１０は、時間区間毎にデータの入力を受け付けて、入力された各データを処理することができる。
演算装置６１０によればこの点で、スパイキングニューラルネットワークがデータ処理を効率的に行うことができる。

また、ニューロンモデル６１１が、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。演算装置６１０では、例えば、スパイキングニューラルネットワークにおけるデータの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。

図２１は、実施形態に係るニューラルネットワークシステムの構成例を示す図である。
図２１に示す構成で、ニューラルネットワークシステム６２０は、ニューラルネットワーク本体６２１と、学習部６２６とを備える。ニューラルネットワーク本体６２１は、ニューロンモデル６２２を備える。ニューロンモデル６２２は、指標値計算部６２３と、検出部６２４と、信号出力部６２５とを備える。

かかる構成で、指標値計算部６２３は、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる。検出部６２４は、指標値に関する所定の事象の発生タイミングを検出する。信号出力部６２５は、時間区間のうち第１時間区間内のタイミング、かつ、第１時間区間よりも過去の時間区間である第２時間区間における所定の事象の発生タイミングに応じたタイミングで、信号を出力する。学習部６２６は、信号に対する重み係数の学習を行う。

指標値計算部６２３は、指標値計算手段の例に該当する。信号出力部６２５は、信号出力手段の例に該当する。学習部６２６は、学習手段の例に該当する。
ニューラルネットワークシステム６２０では、これにより、学習によって重み係数を調整することができ、ニューラルネットワーク本体６２１による推定精度を向上させることができる。

図２２は、実施形態に係るニューロンモデル装置の構成例を示す図である。図２２に示す構成で、ニューロンモデル装置６３０は、指標値計算部６３１と、検出部６３２と、信号出力部６３３とを備える。
かかる構成で、指標値計算部６３１は、時間区間毎に、その時間区間におけるスパイク信号の入力状況に基づいてスパイク信号出力の指標値を変化させる。検出部６３２は、指標値に関する所定の事象の発生タイミングを検出する。信号出力部６３３は、時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、スパイク信号を出力する。

このように、ニューロンモデル装置６３０が信号の入力を受け付ける入力時間区間、および、ニューロンモデル装置６３０がスパイク信号を出力する出力時間区間を設定することで、指標値計算部６３１が指標値を計算するべき時間を、入力時間区間の開始時から出力時間区間の終了時までの時間に限定することができる。他の時間では、ニューロンモデル装置６３０は、他のデータに対する処理を行うことができる。
ニューロンモデル装置６３０によれば、この点で、スパイキングニューラルネットワークがデータ処理を効率的に行うことができる。

また、ニューロンモデル装置６３０が、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。ニューロンモデル装置６３０によれば、例えば、スパイキングニューラルネットワークにおけるデータの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。

図２３は、実施形態に係る演算方法における処理手順の例を示すフローチャートである。図２３に示す演算方法は、指標値を変化させること（ステップＳ６１１）と、事象発生タイミングを検出すること（ステップＳ６１２）と、信号を出力すること（ステップＳ６１３）とを含む。
指標値を変化させること（ステップＳ６１１）では、時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる。事象発生タイミングを検出すること（ステップＳ６１２）では、指標値に関する所定の事象の発生タイミングを検出する。信号を出力すること（ステップＳ６１３）では、時間区間のうち第１時間区間内のタイミング、かつ、第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する。

図２３に示す演算方法で、時間区間毎にスパイク信号の入力を受け付け、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、スパイキングニューラルネットワークは、時間区間毎にデータの入力を受け付けて、入力された各データを処理することができる。
図２３に示す演算方法によればこの点で、スパイキングニューラルネットワークがデータ処理を効率的に行うことができる。

また、図２３に示す演算方法では、スパイク信号の入力を受けた時間区間の次の時間区間でスパイク信号を出力することで、時間区間内におけるスパイク信号の出力タイミングを調整することができる。図２３に示す演算方法によれば、例えば、スパイキングニューラルネットワークにおけるデータの流れの下流側の層で、スパイク信号の入力が時間区間の最後付近に集中することを回避し得る。

図２４は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
図２４に示す構成で、コンピュータ７００は、ＣＰＵ７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０と、不揮発性記録媒体７５０とを備える。

上記のニューラルネットワーク装置１０、学習装置５０、演算装置６１０、ニューラルネットワークシステム６２０、および、ニューロンモデル装置６３０のうち何れか１つ以上またはその一部が、コンピュータ７００に実装されてもよい。その場合、上述した各処理部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。また、ＣＰＵ７１０は、プログラムに従って、上述した各記憶部に対応する記憶領域を主記憶装置７２０に確保する。各装置と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って通信を行うことで実行される。

ニューラルネットワーク装置１０がコンピュータ７００に実装される場合、ニューラルネットワーク装置１０およびその各部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。

また、ＣＰＵ７１０は、プログラムに従って、ニューラルネットワーク装置１０の処理のための記憶領域を主記憶装置７２０に確保する。ニューラルネットワーク装置１０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。ニューラルネットワーク装置１０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを備え、ＣＰＵ７１０の制御に従って各種画像の表示を行い、ユーザ操作を受け付けることで実行される。

学習装置５０がコンピュータ７００に実装される場合、学習装置５０の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。

また、ＣＰＵ７１０は、プログラムに従って、学習装置５０の処理のための記憶領域を主記憶装置７２０に確保する。学習装置５０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。学習装置５０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを備え、ＣＰＵ７１０の制御に従って各種画像の表示を行い、ユーザ操作を受け付けることで実行される。

演算装置６１０がコンピュータ７００に実装される場合、演算装置６１０およびその各部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。

また、ＣＰＵ７１０は、プログラムに従って、演算装置６１０の処理のための記憶領域を主記憶装置７２０に確保する。演算装置６１０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。演算装置６１０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを備え、ＣＰＵ７１０の制御に従って各種画像の表示を行い、ユーザ操作を受け付けることで実行される。

ニューラルネットワークシステム６２０がコンピュータ７００に実装される場合、ニューラルネットワークシステム６２０およびその各部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。

また、ＣＰＵ７１０は、プログラムに従って、ニューラルネットワークシステム６２０の処理のための記憶領域を主記憶装置７２０に確保する。ニューラルネットワークシステム６２０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。ニューラルネットワークシステム６２０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを備え、ＣＰＵ７１０の制御に従って各種画像の表示を行い、ユーザ操作を受け付けることで実行される。

なお、ニューラルネットワーク装置１０、学習装置５０、演算装置６１０、ニューラルネットワークシステム６２０、および、ニューロンモデル装置６３０が行う処理の全部または一部を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。

１、６２０ ニューラルネットワークシステム
１０ ニューラルネットワーク装置
１１ ニューラルネットワーク
５０ 学習装置
１００、６１１、６２２ ニューロンモデル
１１０、２１１、６１２、６２３、６３１ 指標値計算部
１２０、２１２、６１３、６２４、６３２ 検出部
１３０、１３０ｂ 遅延部
１４０、２１３、６１４、６２５、６３３ 信号出力部
２１０ サブモデル
２１０ｆ 遅延用サブモデル
２１０－１ 第１サブモデル
２１０－２ 第２サブモデル
２１０－３ 第３サブモデル
２１１ｆ 遅延用指標値計算部
２１１－１ 第１指標値計算部
２１１－２ 第２指標値計算部
２１１－３ 第３指標値計算部
２１２ｆ 遅延用検出部
２１２－１ 第１検出部
２１２－２ 第２検出部
２１２－３ 第３検出部
２１３ｆ 遅延用信号出力部
２１３－１ 第１信号出力部
２１３－２ 第２信号出力部
２１３－３ 第３信号出力部
２２０ａ、２２０ｂ 切替部
２２１、２３１ スイッチ
２３０ 統合部
２３２ インバータ
６１０ 演算装置
６２１ ニューラルネットワーク本体
６２６ 学習部
６３０ ニューロンモデル装置

Claims (7)

1. 時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、
   前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、
   前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、
   を備えるスパイキングニューロンモデル
   を備える演算装置。
2. 前記検出手段が検出する前記タイミングから所定時間後のタイミングに基づいて、前記信号出力手段に信号を出力させるタイミングを決定する遅延手段と、
   ２つの前記遅延手段のうち前記タイミングを決定させる前記遅延手段を、前記時間区間毎に切り替える切替手段と、
   をさらに備える、
   請求項１に記載の演算装置。
3. 前記指標値計算手段および前記検出手段を備える第１スパイキングニューロンモデルと、前記遅延手段および前記信号出力手段を備える２つの第２スパイキングニューロンモデルとをさらに備え、
   前記検出手段が前記所定の事象の発生タイミングを検出すると、前記第１スパイキングニューロンモデルが前記第２スパイキングニューロンモデルへ前記信号を出力し、
   前記遅延手段は、前記信号出力手段に前記信号を出力させるタイミングを、前記第１時間区間内のタイミング、かつ、前記第２時間区間にて前記第１スパイキングニューロンモデルから前記信号の入力を受けたタイミングから所定時間後のタイミングに基づくタイミングに決定する、
   請求項２に記載の演算装置。
4. スパイキングニューラルネットワーク本体と、学習手段とを備え、
   前記スパイキングニューラルネットワーク本体は、
   時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、
   前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、
   前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、
   を備えるスパイキングニューロンモデルを備え、
   前記学習手段は、前記信号に対する重み係数の学習を行う、
   ニューラルネットワークシステム。
5. 時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させる指標値計算手段と、
   前記指標値に関する所定の事象の発生タイミングを検出する検出手段と、
   前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力する信号出力手段と、
   を備えるニューロンモデル装置。
6. 時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させることと、
   前記指標値に関する所定の事象の発生タイミングを検出することと、
   前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力することと、
   を含む演算方法。
7. プログラミング可能な装置に、
   時間区間毎に、その時間区間における信号の入力状況に基づいて信号出力の指標値を変化させることと、
   前記指標値に関する所定の事象の発生タイミングを検出することと、
   前記時間区間のうち第１時間区間内のタイミング、かつ、前記第１時間区間よりも過去の時間区間である第２時間区間における前記所定の事象の発生タイミングに応じたタイミングで、信号を出力することと、
   を実行させるためのプログラム。

Images