JPH06251176A - 光ニューラルネットワーク - Google Patents

Abstract

(57)【要約】 【目的】 高速化・大規模化に適した光ニューラルネッ
トワークを提供する。 【構成】 基板２１上に入力信号２９を電気／光変換す
る電気／光変換部３１及び該電気／光変換部３１と閾値
回路２７を介して電気接続される光／電気変換部３３を
設けるとともに、基板２２上に電気／光変換部３１から
の光信号３５を光／電気変換する光／電気変換部３４及
び該光／電気変換部３４と閾値回路２８を介して電気接
続される電気／光変換部３２を設け、該電気／光変換部
３２からの光信号３６を光／電気変換部３３に入射させ
ることにより、電気的な配線を設けることなく複数回の
マトリクス演算を実行可能とした。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、光信号を用いたニュー
ラルネットワークの改良に関するものである。

【０００２】

【従来の技術】ニューラルネットワークは、生物の神経
細胞間の情報伝達・処理機構を模倣することにより、従
来のノイマン型のコンピュータが不得意としてきた連想
記憶や認識処理等を効率良く行わせるようにしたもの
で、現在、そのための研究が活発に行われている。

【０００３】前記ニューラルネットワークは、閾値処理
を行う複数のニューロンと、各ニューロンの出力を他の
複数のニューロンへそれぞれ異なる重みを付加して接続
する結線部とにより構成されるが、その重み付けの制御
方法や結線部の形態には多くの種類のものが提案されて
おり、自己想起型のホップフィールド型ニューラルネッ
トワークや多層構造を持つフィードフォワード型ニュー
ラルネットワーク等が良く知られている。これらのニュ
ーラルネットワークは複数回のマトリクス演算及び閾値
演算を実行することにより実現できる。

【０００４】図２は従来のニューラルネットワークの一
例、ここではホップフィールド型ニューラルネットワー
クの概略構成を示すもので、図中、１はマトリクス演算
回路、２は閾値回路、３はフィードバック配線、４は入
力信号、５は出力信号である。

【０００５】この回路では、ｎ個の並列な入力信号４、
即ちＥ₁ ，Ｅ₂ ，……Ｅ_n に対してマトリクス演算回路
１で重み付けを行い、その演算結果を閾値回路２及びフ
ィードバック配線３を介して再度入力することによりマ
トリクス演算を複数回行い、ｎ個の並列な出力信号５、
即ちＶ₁ ，Ｖ₂ ，……Ｖ_n を得る仕組みになっている。

【０００６】マトリクス演算回路１ではｎ×ｎ個のマト
リクス要素に対応したｎ×ｎ個の重み付加回路６により
演算機能を実現している。即ち、マトリクス演算回路１
に入力信号Ｅ_j （ｊ＝１，２，……ｎ）が並列入力され
ると、その入力信号Ｅ_j の各々に対し、重み付加回路６
による重みが付加された後、結線に従って加算され、出
力信号Ｖ_i （ｉ＝１，２，……ｎ）として並列出力され
る。

【０００７】この時、各重み付加回路６による重みをＴ
_ijとすると、マトリクス演算回路１内の入力と出力との
関係は、 と表される。

【０００８】図２に示したニューラルネットワークは、
マトリクス要素である各重み付加回路６を適当に設定す
ることにより、ｎ入力−ｎニューロン−ｎ出力のホップ
フィールド型ニューラルネットワークとして用いること
ができる。また、フィードフォワード型ニューラルネッ
トワークは、図２においてフィードバック配線３を除い
たものを多段に接続することにより実現される。

【０００９】このようにニューラルネットワークでは、
複数回のマトリクス演算を実行する必要がある。一般
に、ニューラルネットワークの処理能力を向上させるた
めには多数のニューロンを必要とする。例えば、人間の
脳のニューロンの数は１００億〜１０００億個程度であ
り、これを模倣するには大規模なマトリクス演算回路が
必要となる。

【００１０】しかしながら、マトリクス演算回路内の結
線数はニューロンの数の二乗に比例するため、大規模な
マトリクス演算回路では結線の輻輳や結線部での遅延及
びクロストークが回路の処理速度を著しく制限してしま
うという問題がある。

【００１１】このような問題を克服するため、ニューロ
ン間の結線を光信号により行うようになした光ニューラ
ルネットワークが提案されている（例えば、電子情報通
信学会論文誌、７４〔２９〕（１９９１）ｐ．３７７−
３８７参照）。

【００１２】図３は前述した従来の光ニューラルネット
ワークを示すもので、ここでは図２の回路におけるマト
リクス演算回路に対応する部分のみを示している。図
中、７，８は基板、９は発光素子、１０は感度可変受光
素子、１１は入力信号、１２は出力信号である。

【００１３】前記基板７及び８上にはそれぞれ多数の発
光素子９及び感度可変受光素子１０が碁盤の目状に配置
されている。多数の発光素子９のうち、行方向の発光素
子９は互いに直列に電気接続されて複数の入力信号１１
にそれぞれ対応した電気／光変換部１３を構成し、ま
た、多数の感度可変受光素子１０のうち、列方向の感度
可変受光素子１０は互いに直列に電気接続されて複数の
出力信号１２にそれぞれ対応した光／電気変換部１４を
構成する。そして、２枚の基板７，８は発光素子９及び
感度可変受光素子１０が互いに向い合うように配置され
ている。

【００１４】感度可変受光素子１０は、外部から入力す
るバイアス電圧を変えることにより感度、即ち光信号を
電気信号に変換する際の変換量を制御できるという特徴
があり、個々の感度可変受光素子１０が、図２中のマト
リクス演算回路１における各マトリクス要素、即ち重み
付加回路６に相当する。なお、図３では感度を制御する
ための構成は省略したが、感度可変受光素子１０として
はＭＳＭ（Metal-Semiconductor-Metal ）形フォトダイ
オードを用いることができる。

【００１５】前記光ニューラルネットワークにおいて、
複数の並列な入力（電気）信号１１は各電気／光変換部
１３にそれぞれ入力され、各電気／光変換部１３を構成
する発光素子９全部を共通に駆動する。これにより、各
入力信号１１は光信号に変換される。一の電気／光変換
部１３を構成する複数の発光素子９からの光信号はそれ
ぞれ各光／電気変換部１４の一の感度可変受光素子１０
に入力され電流に変換され、同様に他の電気／光変換部
１３を構成する複数の発光素子９からの光信号もそれぞ
れ各光／電気変換部１４の他の感度可変受光素子１０に
入力され電流に変換される。

【００１６】各光／電気変換部１４を構成する感度可変
受光素子１０の光入力に対する感度はマトリクス演算に
対応して外部から制御されており、これによって発光素
子９からの光信号の電流への変換量を調節する。該変換
された電流は各光／電気変換部１４毎に加算され、複数
の並列な出力（電気）信号１２として出力される。

【００１７】

【発明が解決しようとする課題】ところで、前述した光
ニューラルネットワークによりホップフィールド型ニュ
ーラルネットワークを構成する場合、図２の回路で示し
た閾値回路及びフィードバック配線は回路の外部に形成
する必要がある。また、前述した光ニューラルネットワ
ークを複数個用いてフィードフォワード型ニューラルネ
ットを構成する場合、光／電気変換部の出力を次段の電
気／光変換部へ入力するための配線が回路の外部に必要
となる。光ニューラルネットワークが高速化・大規模化
してくると、これらの回路の外部に形成される配線の輻
輳や該配線による遅延、配線間クロストークが無視でき
なくなるという問題があった。

【００１８】本発明は前記従来の問題点に鑑み、高速化
・大規模化に適した光ニューラルネットワークを提供す
ることを目的とする。

【００１９】

【課題を解決するための手段】本発明では前記目的を達
成するため、請求項１として、複数の電気信号を該複数
の電気信号に対応して設けられた複数の電気／光変換部
にそれぞれ入力して光信号に変換し、該複数の電気／光
変換部のそれぞれから出射される光信号を複数の光／電
気変換部の全てに分配して入射し、この際、該分配され
た全ての光信号に対して個別の重み付けを施して電気信
号に変換し、該電気信号を複数の各光／電気変換部毎に
加算し、これらをそれぞれ複数の閾値処理部に入力して
閾値処理を行う光ニューラルネットワークにおいて、２
枚の基板上にそれぞれ前記複数の電気／光変換部、複数
の光／電気変換部及び複数の閾値処理部を設け、一方の
基板上の複数の電気／光変換部のそれぞれから出射され
る光信号が他方の基板上の複数の光／電気変換部の全て
に分配して入射される如く、前記２枚の基板を対向して
配置するとともに、各基板上の複数の閾値処理部を同一
基板上の複数の電気／光変換部にそれぞれ電気接続した
光ニューラルネットワークを提案する。

【００２０】また、請求項２として、複数の電気信号を
該複数の電気信号に対応して設けられた複数の電気／光
変換部にそれぞれ入力して光信号に変換し、該複数の電
気／光変換部のそれぞれから出射される光信号を複数の
光／電気変換部の全てに分配して入射し、この際、該分
配された全ての光信号に対して個別の重み付けを施して
電気信号に変換し、該電気信号を複数の各光／電気変換
部毎に加算し、これらをそれぞれ複数の閾値処理部に入
力して閾値処理を行う光ニューラルネットワークにおい
て、２枚の基板上にそれぞれ前記複数の電気／光変換
部、複数の光／電気変換部及び複数の閾値処理部を複数
組設け、各組の一方の基板上の複数の電気／光変換部の
それぞれから出射される光信号が他方の基板上の複数の
光／電気変換部の全てに分配して入射される如く、前記
２枚の基板を対向して配置するとともに、各基板上の各
組の複数の閾値処理部を同一基板上の他の組の複数の電
気／光変換部にそれぞれ電気接続した光ニューラルネッ
トワークを提案する。

【００２１】

【作用】本発明の請求項１によれば、一方の基板上の複
数の電気／光変換部のそれぞれから出射された光信号は
他方の基板上の複数の光／電気変換部の全てに分配して
入射され、個別の重み付けが施されて電気信号に変換さ
れ、複数の各光／電気変換部毎に加算される。これらの
電気信号は複数の各閾値処理部に入力されて閾値処理さ
れ、該他方の基板上の複数の電気／光変換部にそれぞれ
入力され、光信号に変換されて出射され、一方の基板上
の複数の光／電気変換部の全てに分配して入射され、個
別に重み付けが施されて電気信号に変換され、複数の各
光／電気変換部毎に加算され、前記一方の基板上の複数
の電気／光変換部にそれぞれ入力、即ちフィードバック
される。

【００２２】また、請求項２によれば、一方の基板上の
一の組の複数の電気／光変換部のそれぞれから出射され
た光信号は他方の基板上の対応する一の組の複数の光／
電気変換部の全てに分配して入射され、個別の重み付け
が施されて電気信号に変換され、複数の各光／電気変換
部毎に加算される。これらの電気信号は複数の各閾値処
理部に入力されて閾値処理され、該他方の基板上の他の
組の複数の電気／光変換部にそれぞれ入力され、光信号
に変換されて出射され、一方の基板上の対応する他の組
の複数の光／電気変換部の全てに分配して入射され、個
別に重み付けが施されて電気信号に変換され、複数の各
光／電気変換部毎に加算され、一方の基板上のさらに他
の組の複数の電気／光変換部にそれぞれ入力され、以
下、同様に多段処理される。

【００２３】

【実施例】図１は本発明の光ニューラルネットワークの
第１の実施例を示すもので、図中、２１，２２は基板、
２３，２４は発光素子、２５，２６は感度可変受光素
子、２７，２８は閾値回路、２９は入力信号、３０は出
力信号である。

【００２４】前記基板２１上には発光素子２３及び感度
可変受光素子２５がそれぞれ４×４個配置され、また、
基板２２上にも発光素子２４及び感度可変受光素子２６
がそれぞれ４×４個配置されている。

【００２５】前記発光素子２３のうち、行方向の４個の
発光素子２３は互いに直列に電気接続されて４つの入力
信号２９にそれぞれ対応した４つの電気／光変換部３１
を構成している。また、発光素子２４のうち、列方向の
４個の発光素子２４は互いに直列に電気接続されて４つ
の電気／光変換部３２を構成している。また、感度可変
受光素子２５のうち、行方向の４個の感度可変受光素子
２５は互いに直列に電気接続されて４つの光／電気変換
部３３を構成し、閾値回路２７を介して前記各電気／光
変換部３１に電気接続されている。また、感度可変受光
素子２６のうち、列方向の４個の感度可変受光素子２６
は互いに直列に電気接続され、さらに閾値回路２８に電
気接続されて４つの出力信号３０にそれぞれ対応した４
つの光／電気変換部３４を構成するとともに前記各電気
／光変換部３２に電気接続されている。

【００２６】そして、２枚の基板２１，２２は、各発光
素子２３及び各感度可変受光素子２５、並びに各発光素
子２４及び各感度可変受光素子２６が互いに向い合うよ
うに配置されている。なお、電気／光変換部３１，３２
は複数の発光素子を直列に接続する外、１個の帯状の発
光素子を用いて構成しても良い。

【００２７】前記構成において、複数の並列な入力（電
気）信号２９は各電気／光変換部３１にそれぞれ入力さ
れ、各電気／光変換部３１を構成する発光素子２３全部
を共通に駆動する。これにより、各入力信号２９は４×
４の光信号３５に変換される。一の電気／光変換部３１
を構成する複数の発光素子２３からの光信号はそれぞれ
各光／電気変換部３４の一の感度可変受光素子２６に入
力され電流に変換され、同様に他の電気／光変換部３１
を構成する複数の発光素子２３からの光信号もそれぞれ
各光／電気変換部３４の他の感度可変受光素子２６に入
力され電流に変換される。

【００２８】各光／電気変換部３４を構成する感度可変
受光素子２６の光入力に対する感度は従来例の場合と同
様、マトリクス演算に対応して外部から制御されてお
り、これによって発光素子２３からの光信号の電流への
変換量、即ち重みを調節する。これはマトリクス演算に
おける積算に相当する。なお、重み付けを行う手段とし
ては感度可変受光素子を用いる外、可変透過率フィルタ
を受光面の前面に配置した受光素子を用いたり、電気信
号に変換した後、可変減衰器等で電気信号強度を変える
ようになしても良い。

【００２９】一の光／電気変換部３４の各感度可変受光
素子２６で発生した電流はその接続配線により合成さ
れ、同様に他の光／電気変換部３４の各感度可変受光素
子２６で発生した電流もそれぞれその接続配線により合
成される。これはマトリクス演算における和算に相当す
る。この結果、４×４の光信号３５は４つの光／電気変
換部３４により４つの並列な電気信号に変換される。

【００３０】前記４つの電気信号はそれぞれ閾値回路２
８による閾値処理の後、同一基板２２上の４つの電気／
光変換部３２へそれぞれ入力され、各電気／光変換部３
２を構成する発光素子２４全部を共通に駆動する。これ
により、各電気信号は４×４の光信号３６に変換され
る。なお、閾値回路２８は合成された電気信号の大きさ
が所定の閾値より大きい場合のみ、該電気信号を通過さ
せる働きを備えている。

【００３１】一の電気／光変換部３２を構成する複数の
発光素子２４からの光信号はそれぞれ各光／電気変換部
３３の一の感度可変受光素子２５に入力され電流に変換
され、同様に他の電気／光変換部３２を構成する複数の
発光素子２４からの光信号もそれぞれ各光／電気変換部
３３の他の感度可変受光素子２５に入力され電流に変換
される。各光／電気変換部３３を構成する感度可変受光
素子２５の光入力に対する感度は感度可変受光素子２６
の場合と同様、マトリクス演算に対応して外部から制御
されており、これによって発光素子２４からの光信号の
電流への変換量、即ち重みを調節する。

【００３２】一の光／電気変換部３３の各感度可変受光
素子２５で発生した電流はその接続配線により合成さ
れ、同様に他の光／電気変換部３３の各感度可変受光素
子２５で発生した電流もそれぞれその接続配線により合
成される。この結果、４×４の光信号３６は４つの光／
電気変換部３３により４つの並列な電気信号に変換され
る。前記４つの電気信号はそれぞれ閾値回路２７による
閾値処理の後、同一基板２１上の４つの電気／光変換部
３１へそれぞれ入力、即ちフィードバックされる。

【００３３】このようにして、複数回、マトリクス演算
処理された後の最終的な４つの出力信号３０が基板２２
から取り出される。なお、出力信号は基板２１から取り
出すこともできるが、複数回のフィードバックにより出
力信号が定常値になる場合は一方から取れば十分であ
る。

【００３４】前述したように発光素子と受光素子との双
方を同一基板上に配置する手段としては、電気／光変換
部３１（３２）、光／電気変換部３３（３４）、閾値回
路２７（２８）及び電気配線を実装基板上に配置する方
法や、１枚の基板上に全てをモノリシックで造る方法等
がある。

【００３５】本実施例によれば、回路の大規模化、高速
化の妨げとなる基板外配線を用いることなく、複数回の
マトリクス演算を実行し得るニューラルネットワークを
実現することができる。

【００３６】図４は本発明の第２の実施例を示すもの
で、ここでは第１の実施例において空間光変調素子を用
いてマトリクス演算の重み付けをするようになした例を
示す。即ち、図中、３７は空間光変調素子アレイであ
り、基板２１ａ及び２２ａに配置された多数の発光素子
及び受光素子に対応した多数の液晶素子等の空間光変調
素子からなっており、該基板２１ａ及び２２ａ間に配置
されている。なお、基板２１ａ及び２２ｂは感度可変受
光素子２５，２６の代わりに通常の受光素子２５ａ，２
６ａを配置した点を除いて第１の実施例の基板２１及び
２２とほぼ同様である。

【００３７】本実施例によれば、空間光変調素子アレイ
は大規模２次元アレイ化が容易であり、且つ、光の透過
方向や光信号の速度に関係なく透過光の制御が可能なた
め、より大規模で高速なニューラルネットワークを実現
できる。なお、その他の構成・動作は第１の実施例と同
様である。

【００３８】図５は本発明の第３の実施例を示すもの
で、ここではフィードフォワード型ニューラルネットワ
ークを構成した例を示す。即ち、図中、４１，４２は基
板であり、該基板４１及び４２上には発光素子４３及び
４４がそれぞれ２×２個、２か所に配置され、行方向及
び列方向に互いに直列に電気接続され、電気／光変換部
４５，４６，４７，４８を構成している。また、基板４
１及び４２上には感度可変受光素子４９及び５０がそれ
ぞれ２×２個、２か所に配置され、行方向及び列方向に
互いに直列に電気接続され、光／電気変換部５１，５
２，５３，５４を構成している。

【００３９】光／電気変換部５１は閾値回路５５を介し
て電気／光変換部４６に電気接続され、光／電気変換部
５２は閾値回路５５に電気接続されている。また、光／
電気変換部５３，５４は閾値回路５６を介して電気／光
変換部４７，４８にそれぞれ電気接続されている。そし
て、２枚の基板４１，４２は、電気／光変換部４５，４
６，４７，４８と光／電気変換部５３，５４，５１，５
２とが互いに向い合うように配置されている。

【００４０】前記構成において、２つの入力信号５７は
電気／光変換部４５に入力され、光信号に変換されて光
／電気変換部５３に伝達され、重み付けがなされ、さら
に閾値回路５６により閾値処理された後、電気／光変換
部４７に電気的に伝達される。該電気／光変換部４７に
伝達された電気信号は前記同様に光信号に変換され、光
／電気変換部５１に伝達され、以下同様に閾値回路５
５、電気／光変換部４６、光／電気変換部５４、閾値回
路５６、電気／光変換部４８、光／電気変換部５２及び
閾値回路５５経て２つの出力信号５８として出力され
る。

【００４１】本実施例によれば、高速動作可能で多層且
つ大規模なフィードフォワード型ニューラルネットワー
クを構成することができる。

【００４２】

【発明の効果】以上説明したように本発明によれば、２
枚の基板上にそれぞれ複数の電気／光変換部、光／電気
変換部及び閾値処理部を設け、これらを対向配置させる
とともに閾値処理部を同一基板上の電気／光変換部に電
気接続したため、閾値処理部やフィードバックのための
配線を回路の外部に形成することなく、基板間の光結線
のみを用いて複数回のマトリクス演算を実行でき、これ
によって、電気配線の輻輳や該配線による遅延、配線間
クロストーク等の問題を解決でき、大規模且つ高速な光
ニューラルネットワークを実現できる。

【図面の簡単な説明】

【図１】本発明の光ニューラルネットワークの第１の実
施例を示す構成図

【図２】従来のホップフィールド型ニューラルネットワ
ークの一例を示す構成図

【図３】従来の光ニューラルネットワークの一例を示す
構成図

【図４】本発明の光ニューラルネットワークの第２の実
施例を示す構成図

【図５】本発明の光ニューラルネットワークの第３の実
施例を示す構成図

【符号の説明】

２１，２２，２１ａ，２２ａ，４１，４２…基板、２
３，２４，４３，４４…発光素子、２５，２６，４９，
５０…感度可変受光素子、２５ａ，２６ａ…受光素子、
２７，２８，５５，５６…閾値回路、２９，５７…入力
信号、３０，５８…出力信号、３１，３２，４５，４
６，４７，４８…電気／光変換部、３３，３４，５１，
５２，５３，５４…光／電気変換部、３５，３６…光信
号、３７…空間光変調素子アレイ。

Claims (4)

【特許請求の範囲】
1. 【請求項１】 複数の電気信号を該複数の電気信号に対
   応して設けられた複数の電気／光変換部にそれぞれ入力
   して光信号に変換し、該複数の電気／光変換部のそれぞ
   れから出射される光信号を複数の光／電気変換部の全て
   に分配して入射し、この際、該分配された全ての光信号
   に対して個別の重み付けを施して電気信号に変換し、該
   電気信号を複数の各光／電気変換部毎に加算し、これら
   をそれぞれ複数の閾値処理部に入力して閾値処理を行う
   光ニューラルネットワークにおいて、 ２枚の基板上にそれぞれ前記複数の電気／光変換部、複
   数の光／電気変換部及び複数の閾値処理部を設け、 一方の基板上の複数の電気／光変換部のそれぞれから出
   射される光信号が他方の基板上の複数の光／電気変換部
   の全てに分配して入射される如く、前記２枚の基板を対
   向して配置するとともに、 各基板上の複数の閾値処理部を同一基板上の複数の電気
   ／光変換部にそれぞれ電気接続したことを特徴とする光
   ニューラルネットワーク。
2. 【請求項２】 複数の電気信号を該複数の電気信号に対
   応して設けられた複数の電気／光変換部にそれぞれ入力
   して光信号に変換し、該複数の電気／光変換部のそれぞ
   れから出射される光信号を複数の光／電気変換部の全て
   に分配して入射し、この際、該分配された全ての光信号
   に対して個別の重み付けを施して電気信号に変換し、該
   電気信号を複数の各光／電気変換部毎に加算し、これら
   をそれぞれ複数の閾値処理部に入力して閾値処理を行う
   光ニューラルネットワークにおいて、 ２枚の基板上にそれぞれ前記複数の電気／光変換部、複
   数の光／電気変換部及び複数の閾値処理部を複数組設
   け、 各組の一方の基板上の複数の電気／光変換部のそれぞれ
   から出射される光信号が他方の基板上の複数の光／電気
   変換部の全てに分配して入射される如く、前記２枚の基
   板を対向して配置するとともに、 各基板上の各組の複数の閾値処理部を同一基板上の他の
   組の複数の電気／光変換部にそれぞれ電気接続したこと
   を特徴とする光ニューラルネットワーク。
3. 【請求項３】 互いに直列に電気接続された複数の発光
   素子により電気／光変換部を構成し、 互いに直列に電気接続され且つそれぞれが重み付加手段
   を有する複数の受光素子により光／電気変換部を構成
   し、 一方の基板上の一の電気／光変換部を構成する複数の発
   光素子からの光信号が他方の基板上の複数の光／電気変
   換部に含まれる一の受光素子へそれぞれ入射される如
   く、各発光素子及び受光素子を配置したことを特徴とす
   る請求項１又は２記載の光ニューラルネットワーク。
4. 【請求項４】 互いに直列に電気接続された複数の発光
   素子により電気／光変換部を構成し、 互いに直列に電気接続された複数の受光素子により光／
   電気変換部を構成し、 前記発光素子又は受光素子の総数に対応した数の空間光
   変調素子により重み付加手段を構成し、 一方の基板上の一の電気／光変換部を構成する複数の発
   光素子からの光信号が空間光変調素子を介して他方の基
   板上の複数の光／電気変換部に含まれる一の受光素子へ
   それぞれ入射される如く、各発光素子、空間光変調素子
   及び受光素子を配置したことを特徴とする請求項１又は
   ２記載の光ニューラルネットワーク。