JPH04217014A - 光ニューラルコンピュータ - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 【０００１】 【産業上の利用分野】本発明は、人間の脳の働きを模倣
することによって、知的な情報処理をハードウェアで行
なうことを可能にした光ニューラルコンピュータに係わ
り、特に、大規模な学習の効率化を図るための改良に関
する。 【０００２】 【従来の技術】図３および図４は従来技術を説明するた
めの図であり、図３は時分割多重処理あるいは周波数多
重処理を使用しない光ニューラルコンピューの一例を示
す構成図である。 【０００３】図３において、符号１１は初期状態ベクト
ル生成部もしくは記憶部、１２はエレメント数ｎの発光
素子、１３はエレメント数ｎ×ｎの空間光変調器（以下
、ＳＬＭと称する）、１４はＳＬＭ駆動装置、１５は結
合行列Ｔの生成部あるいは結合行列Ｔを記憶しておくメ
モリ部、１６はｎ×ｎ次元の結合行列Ｔ、１７はエレメ
ント数ｎの受光素子、１８はｎ次元のベクトルＵ、１９
はしきい値処理部、１１０は処理出力、１１１は出力を
示している。 【０００４】この光ニューラルコンピュータの機能の概
略を説明すると、発光素子１２が状態ベクトルに対応し
た信号光を発し、その信号光が横方向に広げられ、ＳＬ
Ｍ１３を透過する。その際に信号光は結合行列Ｔにより
重み付けされ、さらに縦方向に集光されて受光素子１７
により受光される。この受光されたベクトルＵ（１８）
はしきい値処理部１９によりしきい値処理されて、ｎ次
元の状態ベクトルの処理出力Ｖ（１１０）を得る。この
処理出力Ｖは、新たに入力として発光素子１２に供給さ
れ発光素子１２で表示される。この一連の処理を繰り返
すことにより、処理出力Ｖが定常的となったところで出
力１１１とする。 【０００５】詳細な説明は以下の通りである。結合行列
Ｔにはあるパターンまたは教師信号等が記憶されている
。記憶されている形態は、ｎ次元のベクトルで表される
データであり、基本的に複数のベクトルである。この装
置は、入力されたベクトルが、この結合行列Ｔに記憶さ
れたベクトルのどれに近いかを決定し、そのベクトルを
出力する。 【０００６】すなわち、このニューラルコンピュータは
、不完全な入力ベクトル（通常、何等かのエラー等によ
る欠損、またはデータ化け等に起因する）を与えた場合
に、記憶されていた完全な出力を想起し出力するもので
あり、入力ベクトルが完全であればそのまま出力される
。 【０００７】初期状態ベクトル生成部もしくは記憶部１
１は、初期状態ベクトル、つまりこの系に入ってくる、
おそらくは不完全な入力ベクトルを得る所である。この
入力ベクトルは、各種装置から作っても良いし、他の記
憶装置に記憶されたデータを使用したり、あるいはＣＣ
Ｄカメラ等からの信号をそのまま入力として用いてもよ
い。この明細書では、何等かの入力情報を与える部分と
して、「初期状態ベクトル生成部もしくは記憶部」（以
下、簡略化して初期状態ベクトル発生部と称する）とし
た。　　 【０００８】初期状態ベクトル発生部１１からの入力信
号は、エレメント数ｎの発光素子１２により光に転換さ
れる。この光は水平方向に広げられ、エレメント数ｎ×
ｎの空間光変調器１３　（ＳＬＭ）に入射される。この
ＳＬＭ１３の各エレメントの光透過度は、駆動装置１４
により制御されるようになっている。 【０００９】駆動装置１４には、結合行列Ｔの生成部あ
るいは結合行列Ｔを記憶しておくメモリ部１５からデー
タが入力され、ＳＬＭ１３に結合行列Ｔの内容が表示さ
れる。結合行列Ｔは、符号１６に示すようにｎ×ｎの行
列である。 【００１０】ＳＬＭ１３を通過し、結合行列Ｔに基づい
て重み付けをされた透過光は、今度は垂直方向に集光さ
れ、エレメント数ｎの受光素子１７によって受光され、
符号１８に示すｎ次元ベクトルの信号Ｕを得る。この信
号Ｕは、しきい値処理部１９によりしきい値処理され、
通常、各要素の０，１の二値情報の処理出力ベクトルＶ
を得る。この処理出力は再び発光素子１２の入力として
用いられ、同様の処理が繰り返し行なわれる。この処理
出力が、定常すなわち安定な信号になったところで出力
１１１とし、これにより連想・想起が行なわれる。 【００１１】上述した連想・想起に関して、ニューロン
数、すなわちこの場合のエレメント数ｎが大きい系にお
いては、発光素子アレイ１２、ＳＬＭ素子１３、受光素
子アレイ１７の構造が複雑化して実現が難しいうえ、た
とえ各素子が実現しても系が大きくなるため、光学系の
構成が複雑化して高精度が要求され、実質的には実施困
難である。また、前述した構成では各素子の使用効率（
特にＳＬＭ１３）があまり高くなく、徒に高次元の系を
構成するのは必ずしも適切ではない。 【００１２】そこで、比較的低次元の小規模な系を用い
つつ、高次元のニュートラルネットを構成する手法が模
索され、その方法として時分割多重処理・周波数多重処
理が提案されている。 【００１３】図４は、時分割多重処理を用いた光ニュー
ラルコンピュータの一例を示している。この例では、ｎ
次元のベクトル入力の処理を、ｎより低次であるｐ次元
の系で行なうものである。以下の説明ではｎがｐで割り
切れるものとして、整数ｓ＝ｎ／ｐを定義しているが、
ｎがｐで割り切れない場合でも、以下の議論は同様に可
能である。 【００１４】図４中、符号２１は初期状態ベクトルつま
りこの系に入って来るおそらくは不完全な入力を得る所
である。２２はエレメント数ｐの発光素子である。２３
はエレメント数ｐ×ｐのＳＬＭである。このＳＬＭはＳ
ＬＭ駆動装置２４により駆動される。ＳＬＭ２３が表示
するのは、符号２５に示す、結合行列Ｔの部分小行列Ｄ
ｉｊである。この部分小行列Ｄｉｊは、符号２６に示す
ように全体でＴを構成する。２７はエレメント数ｐの受
光素子である。２８は時間積分処理部、２９はしきい値
処理部、２１０は状態ベクトル記憶部であり、２１１は
出力である。 【００１５】この装置の動作原理の概略を述べると以下
の通りである。まず、本来はｎ次元のデータＴをｐ次元
のベクトルｓ個に分割し、初期状態ベクトル生成部２１
では、ｐ次元の入力を発光素子２２に与える。処理出力
Ｖの成分であるｐ個分のベクトル分の計算を光学系２２
，２３，２７に行なわせ、時分割と時間積分部２８によ
る時間積分によりｐ個分の計算結果を出し、しきい値処
理部２９でしきい値処理した後、状態ベクトル記憶部２
１０に各処理結果を記憶しておく。 【００１６】上記の操作をｓ（＝ｎ／ｐ）回行ない、最
終的に処理出力Ｖを構成する全ての成分（ｎ個分）の処
理結果を得て、状態ベクトル記憶部２１０に記憶する。 このようにすることによりエレメント数ｐ×ｐの光学系
で同ｎ×ｎの系の処理が可能である。 【００１７】次に、上記の時分割処理を詳細に説明する
。この処理の目的は、入力として与えた状態ベクトルＶ
ｔ（本来はｎ次元）と結合行列Ｔ　（ｎ×ｎ次元）の間
で、次式（数１）に示す計算を小規模なｐ×ｐの系を用
いて行ない、ベクトルＶｔ＋１を得ることにある。 【００１８】 【数１】 数１の各項を書き直すと、 【００１９】 【数２】 同様に、 【００２０】 【数３】 また、Ｔに関しては、 【００２１】 【数４】 したがって、数１の計算を実行してから、ＶｔからＶｔ
＋１を求めるには、まずｐ次元のベクトルＵｋ，ｔ＋１
（ｋ＝１，・・・，ｓ）を求めることになる。そしてそ
の各項Ｕｋ，ｔ＋１（ｍ）は、 【００２２】 【数５】 となっている。数５中のΣＵｉ，ｔ（ｌ，ｍ）・Ｄｋ，
ｉ（ｌ）は、ｐ次元の発光素子アレイ、ｐ×ｐ次元のＳ
ＬＭ、ｐ次元の受光素子アレイからなる光学系で処理で
きる。すなわち、エレメント数ｎ×ｎの光学系を使用す
ることなく、ｐ×ｐの光学系で処理できることになる。 その代わり、数５中の外側のｉに関するΣ計算は別途、
行わねばならない。 【００２３】時間多重の方法は、前記数５のように問題
を考えることにより、ｐ×ｐ次元の系でΣＵｉ，ｔ（ｌ
，ｍ）・Ｄｋ，ｉ（ｌ）を、ｉを１からｓまで時間的に
順次変えて計算を実行し、得られた結果を時間的に積分
して、数５のｉに関する積算（積分）を行なうものであ
る。これらのことから、図４に示す系でｎ×ｎの処理が
できることになる。 【００２４】図４の構成では、時間積分処理部２８が上
述したΣ計算を行なう。さらに、しきい値処理部２９ま
での過程でＵｋ，ｔ＋１のみが求められるが、Ｖｔ＋１
全体は求めることができないため、計算結果を状態ベク
トル記憶部２１０に記憶しておく。 【００２５】以上の例では、出力を連想する過程を説明
したが、学習過程に本方法を使用し、重みの行列である
結合行列Ｔを、教師信号から得る過程にも用いることが
できる。ここでは詳細は述べないが、その場合には教師
信号Ｖを装置に与え、結合行列Ｔを順次変えていき、最
終的に重みの行列　（シナプスの重み付けの行列）Ｔを
得る。この場合にも、上記の手法と同様にｎ×ｎの処理
がｐ×ｐの系で実現できる。 【００２６】 【発明が解決しようとする課題】ところで、上記時間多
重処理を用いた光ニューラルコンピュータでは、次のよ
うな問題があった。 【００２７】（ａ）　　上記従来技術では、時間多重処
理を実施するにあたり、前記数５中のΣ計算を時分割し
、積分器などで電気的に行なう構成になっており、その
積算結果をしきい値処理する電子素子・論理素子に入力
している。このため、これらの過程ではメモリが必要で
ある。この様に従来の方法では、分割された小さなベク
トル演算｛ΣＵｉ，ｔ（ｌ，ｍ）・Ｄｋ，ｉ（ｌ）｝の
みを光学的に行ない、他の演算は電気的に行なっている
ため、系が複雑になり、電気系で演算速度が律速される
。 【００２８】（ｂ）　　光系における光の並列性とのマ
ッチングを高めるためには、しきい値素子を並列に並べ
るか、あるいは演算結果を一旦書き込むためにメモリを
並列に設ける等の構成が必要になり、全体としての処理
過程が煩雑になるうえ、このような素子を並列に設けた
構成は実施困難である。 【００２９】（ｃ）　　電気出力でフィードバックして
いたが、もしこれを光で並列に高速にしたいという場合
は、電気・光変換を行わなければならず、２度手間であ
るため高速化には不利であるほか、系の複雑化（この場
合は電気的な時間積分・しきい値処理も当然別途あるわ
けである）を伴っている。従来技術にみられた電気的な
時間積分とスレッシュホルド処理と言うのは、専用の処
理回路を別途設けなければならない。そして、並列に扱
う場合には特に構成が複雑になる。 【００３０】本発明は、上記の問題を改善するためにな
されたもので、ある特徴を持つ光書き込み型の空間光変
調器を使用することにより、従来は電気的に処理されて
いた部分を光演算化し、系全体の単純化および高速化が
図れる光ニューラルコンピュータを提供することにある
。 【００３１】 【課題を解決する手段】本発明の光ニューラルコンピュ
ータは、学習信号を、時分割多重処理、周波数多重処理
、あるいは時分割多重処理と周波数多重処理とを併用し
た多重処理を行なうことにより、該多重処理の多重数に
応じて仮想的に前記学習信号よりも低次元の小部分学習
信号に分割する、初期状態ベクトル生成部あるいは記憶
部と、前記初期状態ベクトル生成部あるいは記憶部から
の前記小部分学習信号を受け、この小部分学習信号に対
応した光信号を発する発光素子と、前記発光素子が発す
る光信号が透過される複数のエレメントを有し、各エレ
メントを透過する個々の光の重み付けを行なう第１の空
間光変調器と、前記学習信号と等しい次元の結合信号を
、前記各小部分信号と対応して分割してなる小部分結合
信号に基づき、前記マスクの対応する各エレメントを作
動させ、前記重み付けを制御する駆動装置とを具備し、
前記第１の空間光変調器の透過光から光学的に得られた
評価関数を加算し、前記多重処理により得られた値に対
してしきい値を算出し、このしきい値からシナプスの結
合係数を決定する光ニューラルコンピュータにおいて、
前記第１の空間光変調器の透過光を受ける位置には、前
記透過光から評価関数の信号を光学的に得る第２の空間
光変調器が設けられ、この第２の空間光変調器は、前記
第１の空間光変調器を通して有限時間内に入射された光
の時間、光強度、あるいは波長により定まる固有の定数
値を有し、前記入射光の特性がこの定数値を越えると読
み出し光源から照射される読み出し光の偏光を変調し、
入射光が定数値を越えていないと前記偏光を変調しない
特性、あるいは逆に入射光が定数値を越えていると前記
読み出し光の偏光を変調せずに、入射光が定数値を越え
ていないと読み出し光の偏光を変調する特性（スレッシ
ュホルド特性）を有するものであることを特徴としてい
る。 【００３２】なお、前記第２の空間光変調器は、ＧａＡ
ｓを用いたｐｉｎ構造の素子であることを特徴とする請
求項１記載の光ニューラルコンピュータ。 【００３３】 【実施例】以下、図１を用いて本発明に係わる光ニュー
ラルコンピュータの実施例を説明する。図１において、
符号３１は、初期状態ベクトル、すなわちこの系に入っ
てくるおそらくは不完全な入力を得る、初期状態ベクト
ル生成部もしくは記憶部（以下、「初期ベクトル生成部
」と称する）である。また、３２はエレメント数ｐの発
光素子、３３はエレメント数ｐ×ｐのＳＬＭであり、こ
のＳＬＭ３３はＳＬＭ駆動装置３４によって駆動される
。 ＳＬＭ３３は、図中３６に示す結合行列Ｔの部分小行列
Ｄｉｊを表示する。部分小行列Ｄｉｊは、３６に示すよ
うに、全体で結合行列Ｔを構成する。 【００３４】ＳＬＭ３３を透過した光は、蓄積機能とし
きい値機能を有する反射型ＳＬＭ３７に入光するように
なっている。このＳＬＭ３７としては、ｐ個以上の画素
を持っているか、またはそれに相当する分解能を持って
いるものが使用される。例えばＧａＡｓを用いたｐｉｎ
構造のスイッチング素子などが高速性の点で好適である
。 ＳＬＭ３７の裏面には、ハーフミラー３９を介して読み
だし用光源３８からの読み出し光が照射される。なお、
この例は、ＳＬＭ３７として反射型ＳＬＭを使用した例
であるが、透過型ＳＬＭを使用した場合にもほぼ同様の
光学系となる。ＳＬＭ３７で反射された読み出し光は、
ハーフミラー３９を透過して受光素子３１０に入り、電
気信号に転換される。この電気信号は、状態ベクトル記
憶部３１１に入力され、この状態ベクトル記憶部３１１
から出力３１２が出力される。 【００３５】図１において時間積分処理部２８およびし
きい値処理部２９を除いた部分と、図３において３７〜
３１０を除いた部分は同一であって、同様にｐ×ｐの系
の処理を行なう。図１の実施例では、時間積分処理部２
８としきい値処理部２９に対応する処理を、蓄積機能と
しきい値機能を有するＳＬＭ３７が行ない、系全体とし
て図３の装置と同じ機能を果たす。 【００３６】蓄積機能としきい値機能を有するＳＬＭと
しては、ある有限時間内にいくつかの光（通常はパルス
光）が入射された場合に、これら入射光の光量　（＝光
強度×照射時間）を積算して、この積算値がある値を越
えているか否かにより、０または１を出力する光書き込
み型のＳＬＭ等が挙げられる。通常、光書き込みＳＬＭ
はバイアスを与える駆動部の制御下にあり、ある有限な
時間だけ書き込みが許されるようになっているため、前
記の有限時間が規定される。この実施例では、図中破線
の囲いで示したように、図４の系と比較して光学的な処
理部が多くなっている。 【００３７】従来技術では、光学的に得た小規模での光
学的演算結果を、電気的に時間積分し、その結果をスレ
ッシュホルド処理して、その系が収束して安定な連想結
果を得るまで、この結果のフィードバックを繰り返して
いた。この実施例の装置では、時間的な積分およびスレ
ッシュホルドの部分を、小規模な系を用いる点では同じ
でありながら実質的に光レベルで処理しているため、系
全体の単純化および高速化が図れる。 【００３８】次に、図２を用いて本発明の第２実施例を
説明する。符号４１ないし４９は図１に示した前記第１
実施例の符号３１ないし３９にそれぞれ対応している。 図１の装置では、ＳＬＭ３７の読み出し光を受光素子３
１０で電気信号に変換した後に、この電気信号を発光素
子４２への入力にフィードバックしているのに対し、図
２の装置では、ＳＬＭ４７の読み出し光をそのまま、Ｓ
ＬＭ４３への入射光に加えている点を特徴とする。 【００３９】この構成によれば、ＳＬＭ４７を光メモリ
としても使用しているため、図１の実施例では必要だっ
た電気的な状態ベクトル記憶部３１１が不必要になる。 したがって、この例では光学系が図１の装置に比して若
干複雑になるものの、電気的な処理部・記憶部がなく、
系の一層の光演算化および高速化が図れる。 【００４０】 【発明の効果】本発明に係わる光ニューラルコンピュー
タによれば、次のような優れた効果が得られる。 【００４１】（１）　　学習能力を有し、高度な連想記
憶モデルである高次連想記憶光ニューラルコンピュータ
を、時分割あるいは周波数多重化技術を用い、仮想的な
ユニット空間を構築することにより小規模なハードウェ
アで実現するに際し、電気的に行なっていた光学的演算
部の結果の多重処理を、空間光変調器を用い光で行なっ
ているので、系全体の単純化および高速化が図れる。ま
た、従来別途に設けていた時間積分器およびしきい値処
理装置を省くことができ、系のハードウェアの軽減が大
きく、さらに系の光化により高密度化および高速化が期
待できる。 【００４２】（２）　　従来技術にみられた電気的な時
間積分とスレッシュホルド処理においては、専用の処理
回路を別途設けなければならず、また並列に扱おうとし
た場合には特に構成が複雑になるのに対し、本発明の光
ニューラルコンピュータでは、時間積分処理部と、スレ
ッシュホルド処理部とを、一つの光並列入力型の空間光
変調器で行なうため、系が単純化できる。 【００４３】（３）　　光化の部分まで含んだ光学素子
の採用により、光並列出力を得ることができ、この光並
列出力を入力側にフィードバックすることも可能であり
、その場合には、系を極めて高速化かつ単純化できる。

【図面の簡単な説明】

【図１】本発明の第１実施例の光ニューラルコンピュー
タを示す構成図である。

【図２】本発明の第２実施例の光ニューラルコンピュー
タを示す構成図である。

【図３】時分割あるいは周波数多重処理を使用しない、
従来の光ニューラルコンピュータの構成図である。

【図４】時分割多重処理を用いた従来の光ニューラルコ
ンピュータの構成図である。

【符号の説明】

３１　　初期状態ベクトル生成部もしくは記憶部３２　
　エレメント数ｐの発光素子 ３３　　エレメント数ｐ×ｐのＳＬＭ（空間光変調器）
３４　　ＳＬＭ駆動装置 ３５　　結合行列Ｔの部分小行列Ｄｉｊ３６　　結合行
列Ｔの全体 ３７　　蓄積機能としきい値機能を有するＳＬＭ（空間
光変調器） ３８　　読み出し用光源 ３９　　ハーフミラー ３１０　　受光素子 ３１１　　状態ベクトル記憶部 ３１２　　出力 ４１　　初期状態ベクトル生成部もしくは記憶部４２　
　エレメント数ｐの発光素子 ４３　　エレメント数ｐ×ｐのＳＬＭ ４４　　ＳＬＭ駆動装置 ４５　　結合行列Ｔの部分小行列Ｄｉｊ４６　　結合行
列Ｔの全体 ４７　　蓄積機能としきい値機能を有するＳＬＭ４８　
　読み出し用の光源 ４９　　ハーフミラー ４１０　　出力

Claims (2)

【特許請求の範囲】
1. 【請求項１】　　学習信号を、時分割多重処理、周波数
   多重処理、あるいは時分割多重処理と周波数多重処理と
   を併用した多重処理を行なうことにより、該多重処理の
   多重数に応じて仮想的に前記学習信号よりも低次元の小
   部分学習信号に分割する、初期状態ベクトル生成部ある
   いは記憶部と、前記初期状態ベクトル生成部あるいは記
   憶部からの前記小部分学習信号を受け、この小部分学習
   信号に対応した光信号を発する発光素子と、前記発光素
   子が発する光信号が透過される複数のエレメントを有し
   、各エレメントを透過する個々の光の重み付けを行なう
   第１の空間光変調器と、前記学習信号と等しい次元の結
   合信号を、前記各小部分信号と対応して分割してなる小
   部分結合信号に基づき、前記マスクの対応する各エレメ
   ントを作動させ、前記重み付けを制御する駆動装置とを
   具備し、前記第１の空間光変調器の透過光から光学的に
   得られた評価関数を加算し、前記多重処理により得られ
   た値に対してしきい値を算出し、このしきい値からシナ
   プスの結合係数を決定する光ニューラルコンピュータに
   おいて、前記第１の空間光変調器の透過光を受ける位置
   には、前記透過光から評価関数の信号を光学的に得る第
   ２の空間光変調器が設けられ、この第２の空間光変調器
   は、前記第１の空間光変調器を通して有限時間内に入射
   された光の時間、光強度、あるいは波長により定まる固
   有の定数値を有し、前記入射光の特性がこの定数値を越
   えると読み出し光源から照射される読み出し光の偏光を
   変調し、入射光が定数値を越えていないと前記偏光を変
   調しない特性、あるいは逆に入射光が定数値を越えてい
   ると前記読み出し光の偏光を変調せずに、入射光が定数
   値を越えていないと読み出し光の偏光を変調する特性（
   スレッシュホルド特性）を有するものであることを特徴
   とする光ニューラルコンピュータ。
2. 【請求項２】　　前記第２の空間光変調器は、ＧａＡｓ
   を用いたｐｉｎ構造の素子であることを特徴とする請求
   項１記載の光ニューラルコンピュータ。