JPH03110614A - 光―電気ハイブリツド型多層ニユーラル・ネツトワーク・システム - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】

【産業上の利用分野】

本発明は、光−電気ハイブリッド型多層ニューラル・ネ
ットワーク・システムに係り、特に、光の並列性を利用
して、学習及び想起のための演算時間を大幅に短縮する
ことが可能な、光−電気ハイブリッド型の多層ニューラ
ル・ネットワーク・システムに関するものである。

【従来の技術】

近年、従来のフォノ・ノイマン型のコンピュータのアー
キテクチャとは違って、人間の脳の情報処理様式のモデ
ルであるニューラル・ネットワーク・モデルに基づいた
新しい処理アーキテクチャを実現しようとする研究が盛
んに行われている。 このニューラル・ネットワーク・モデルは、神経細胞モ
デルを基本単位とする大規模並列処理モデルであり、情
報処理機能を自律的に自己組織可能である点に特徴があ
る。 従って、このニューラル・ネットワーク・モデルの構造
を本質的に実現しようとする場合には、演算機構、ネッ
トワーク、入出力等、全ての処理機構に関して完全並列
処理を行う必要がある。 しかしながら、従来のコンピュータは、逐次処理に基本
をおいており、ニューラル・ネツトワ−りの元来持つ並
列性をうまく生かすのが難しいシステムであった。特に
、ニューロン数ｎの増加に関しては、計算量が０２で増
大していくことになり、大規模ニューラル・ネットワー
クの実現は困難であった。 一方、前記完全並列処理を実現するべく、原理的に高い
空間的並列性を有する光を情報の媒体として利用する光
演算並びに光接続が注目されている。この光を用いる方
法によれば、大規模並列演算並びに高密度の並列接続が
実現可能であるため、ニューラル・ネットワーク・モデ
ルの大規模並列性を実現するのに効果的なハードウェア
として期待が持たれている。 ニューラル・ネットワーク・モデルの中でも、とりわけ
連想記憶モデルは、演算構造が均質な並列性を持つため
、光演算の特徴を生かして高密度の演算構造を実現でき
る可能性がある。 そこで発明者らは、１９８８年７月７日に開催された電
子情報通信学会や、特開昭６４−７８４９１．６３−３
０７４３７等で、光アソシアトロンと呼ぶ、学習様能を
導入した光連想記憶システムを提案している。この光ア
ソシアトロンは、空間光変調管のアナログの並列演算・
記憶機能を利用し、直交学習法を導入することにより、
適応性の高い連想記憶を光演算により実現したものであ
る。又、光アソシアトロン以外にも、光の持つ大規模並
列性を用いて連想記憶方式を実現しようとする例は多く
みられる（例えば特開平１−１１２２２５やホップフィ
ールドモデル）。 ここで、連想記憶方式とは、記憶装置にいくつものパタ
ーンを重複させて記憶させておき、必要なパターンの一
部分のみを演算装置に与えることによって、必要なパタ
ーンだけを記憶装置から分離して取り出すことのできる
一種の検索方式である。この連想記憶方式を採用するこ
とによって、従来のコンピュータが不得手である、曖昧
な入力からの連想処理が実現できると共に、演算時間の
大幅な短縮が可能となる。

【発明が達成しようとする課題】

しかしながら、光演算をニューラル・ネットワ−りに用
いた従来のシステムは、いずれも、入力層と出力層が直
結され、中間層が存在しない、１層のニューラル・ネッ
トワーク・モデルを実現しているにとどまっていた。そ
のため、排他的論理和が処理できない等の限界が指摘さ
れており、これから、多層のニューラル・ネットワーク
への期待が集っていた。 本発明は、前記従来の課題を考慮してなされたもので、
光−電気ハイブリッド型の多層ニューラル・ネットワー
ク・システムを提供することを課題とする。

【課題を達成するための手段】

本発明は、光−電気ハイブリッド型多層ニューラル・ネ
ットワーク・システムを、第１図（Ａ）に示す如く、入
力パターンを、多重化して表示する第１の入力パターン
変換装置１２と、該第１の入力パターン変換装置１２及
び後出箱１の記憶行列演算器２２からの信号のアダマー
ル積を光演算する第１の相関演算器１４と、該第１の相
関演算器１４出力の部分和を電気的に並列演算する第１
の部分和演算器１６と、該第１の部分和演算器１６から
の出力に対して出力関数を施して中間層出力パターンを
得る第１の出力関数演算器１８と、該中間層出力パター
ンと入力パターン及び出力パターンよりエラー信号を計
算する第１のエラー信号演算器２ｏと、該第１のエラー
信号演算器２０から表示される信号に従い、入力層−中
間層用の記憶行列を演算・保持する第１の記憶行列演算
器２２と、前記入力パターン及び中間層出力パターンを
多重化して表示する第２の入力パターン変換装置３２と
、該第２の入力パターン変換装＠３２及び後出箱２の記
憶行列演算器４２からの信号のアダマール積を光演算す
る第２の相関演算器３４と、該第２の相関演算器３４出
力の部分和を電気的に並列演算する第２の部分和演算器
３６と、該第２の部分和演算器３６からの出力に対して
出力関数を施して出力パターンを得る第２の出力関数演
算器３８と、該出力パターンと前記入力パターンを比較
してエラー信号を計算する第２のエラー信号演算器４０
と、該第２のエラー信号演算器４０から表示される信号
に従い、中間層−出力層用の記憶行列を演算・保持する
第２の記憶行列演算器４２とを用いて構成することによ
り、前記課題を達成したものである。 本発明は、又、光−電気ハイブリッド型多層ニューラル
・ネットワーク・システムを、第１図（Ｂ）に示す如く
、入力パターン及び中間層出力パターンを多重化して表
示する入力パターン変換装置５２と、該入力パターン変
換装置５２及び後出記憶行列演算器６２からの信号の７
ダマール積を光演算する相関演算器５４と、該相関演算
器５４出力の部分和を電気的に並列演算する部分和演算
器５６と、該部分和演算器５６からの出力に対して出力
関数を施して中間層及び出力層の出力パターンを得る出
力関数演算器５８と、該出力関数演算器５８から得られ
る出力パターンと入力パターンを比較してエラー信号を
計算するエラー信号演算器６０と、該エラー信号演算器
６０から表示される信号に従い、記憶行列を中間層用と
出力層用に分割して演算・保持する記憶行列演算器６２
とを用いて構成することにより、前記課題を達成したも
のである。

【作用及び効果】

本発明は、例えば第２図に示すような入力層−中間層−
出力層から成る多層（第２図では２層）型ニューラル・
ネットワーク・システムを、光−電気ハイブリッド形式
で構成したものである。出力結果の誤りを逆に入力側に
送り、それを元にして入力信号の重み付は量の変更を繰
り返すことによって正解を出力するネットワークを形成
するバックプロパゲーションを始めとするニューラル・
ネットワーク・システムは、積和演算、出力関数演算等
の単純な演算から構成され、均質性の良い演算であるた
め光演算に相性が良く、連想、認識処理を可能とするこ
とができる。本発明においては、特に、均質性及び並列
性の高い積の部分の演算を並列的に行う相関演算器１４
．３４．５４の周辺を光学システムとしたので、効率が
良く、光の並列性を利用することによって、学習及び想
起のための演算時間を大幅に短縮できる。又、光−電気
ハイブリッド方式を用いているので、全光方式に比べて
構成が容易である。 特に、光演算に際して、単層の光学系を分割して中間層
用と出力層用に割当てた場合には、簡単な光学系で多層
ニューラル・ネットワーク・システムを実現できる。

【実施例】

以下図面を参照して、バックプロパゲーションによって
学習が行われる多層ニューラル・ネットワーク・システ
ムに適用した、本発明の実施例を詳細に説明する。 本発明の第１実施例は、第３図に示す如く、第１図（Ａ
）に示した前記第１の入力パターン変換装置１２の一部
を構成する発光ダイオード（ＬＥＤ）アレイ７０、レン
ズ７２及び入力パターン変換用空間光変調管（ＭＳＬＭ
）７４と、前記第１の記憶行列演算器２２を構成するＬ
ＥＤアレイ７６、レンズ７８及び記憶行列用ＭＳＬＭ８
０と、前記第１の相関演算器１４を構成するレーザ光源
８２、コリメータレンズ８４、ハーフミラ−８６，８８
、検光子９０．９２及びフォトトランジスタ（ＰＴＲ）
アレイ９４と、前記第２の入力パターン変換装置３２の
一部を構成するＬＥＤアレイ１００、レンズ１０２及び
入力パターン変換用ＭＳＬＭ１０４と、前記第２の記憶
行列演算器４２を構成するＬＥＤアレイ１０６、レンズ
１０８及び記憶行列用ＭＳＬＭ１１０と、前記第２の相
関演算器３４を構成するレーザ光源１１２、コリメータ
レンズ１１４、ハーフミラ−１１６，１１８、検光子１
２０，１２２及びＰＴＲアレイ１２４と、前記第１及び
第２の部分和演算器１６．３６を構成する並列アナログ
電気回路１３０と、前記第１及び第２の出力関数演算器
１８．３８、第１及び第２のエラー信号演算器２０．４
０．第１及び第２の記憶行列演算器２２．４２の一部、
及び、第１及び第２の入力パターン変換装置１３．３２
の一部（入力パターンの多重化部分）を構成すると共に
、各装置の制御を行うコンピュータ１３２と、から構成
されている。 前記ＭＳ　ＬＭ　７４．８０．１０４．１１０は、例え
ば第４図に示す如く、レンズ（例えば７２）を介して入
射される入力像を光電子像に変換するための光電陰極７
４Ａと、該光電陰極７４Ａから放出される光電子像を増
倍するためのマイクロチャンネルプレート（ＭＣＰ）７
４Ｂと、該ＭＣＰ７４Ｂで増倍された光電子を加速する
ためのメツシュ電極７４Ｃと、該メツシュ電極７４Ｃを
通過した電子によって、図の左側の電荷蓄積面７４Ｄに
電荷パターンが形成される電気光学結晶７４Ｅとから構
成されている。 このＭＳＬＭ（例えば７４）においては、入力像に応じ
て電気光学結晶７４Ｅの電荷蓄積面７４Ｄに電荷パター
ンが形成され、この電荷パターンに応じて電気光学結晶
７４Ｅを横切る電界が変化し、ポッケルス効果によって
電気光学結晶７４Ｅの屈折率が変化する。従って、直線
偏向のレーザ光を電気光学結晶７４Ｅに図の右側から照
射すると、電荷蓄積面７４Ｄからの反射光は、該電気光
学結晶７４Ｅの複回折性により偏向状態が変化している
ので、検光子（例えば９２）を通過させれば、入力像の
光強度に対応した光強度を持つ出力像が得られる。 このＭＳＬＭは、インコヒーレント光→コヒーレント光
変換機能や記憶機能に加えて、電荷を適当な条件で制御
することにより、加減算機能、実ＦＲｗＩ閾値動作機能
、ＡＮＤ演算機能等の優れた機能を有しており、この機
能を利用した光連想記憶装置が、例えば、特開昭６３−
３０７４３７、特開昭６４−７８４９１等に開示されて
いる。 前記ＬＥＤアレイ７０．７６．１００．１０６は、それ
ぞれ対応するＭＳＬＭ７４．８０．１０４．１１０の光
電陰極７４Ａに入力パターン又は記憶行列を書込むため
のものである。 又、前記レーザ光源８２．１１４は、それぞれＭＳ　Ｌ
Ｍ　７４と８０、又はＭＳＬＭ１０４と１１０を並列的
に読み出すためのものであり、前記ＰＴＲアレイ９４．
１２４は、その光演算結果を検出するためのものである
。 なお本実施例においては、コンピュータ１３２で電気的
に多重パターンを形成しているが、多重パターンを形成
する方法はこれに限定されず、例えば、レンズ７２．７
８．１０２．１０８の代わりに回折格子等を用いて、こ
こで光学的に多重化することも可能である。 以下、第２図に示した如く、入力口細胞が２、中間層細
胞が２、出力層細胞が２のネットワークを例にとって、
本実施例の作用を説明する。 なお、学習入力パターンを（ｘｏｌ　ｘｌ）、中間届出
力パターンを（ＵＯ，Ｕｌ）、想起比カバターンを（ｙ
ｌ、Ｖｚ）と表わしている。 １回の学習は、以下のように、 ■入力層−中間層の想起 ■中間層−出力層の想起 ■中間層−出力層の学習 ■入力層−中間層の学習 から構成される。 ■入力層−中間層の想起（第２図の想起１）第５図（Ａ
）に示すような学習入力パターンＸ（Ｘｏｌ　Ｘｔ）が
、コンピュータ１３２において、第５図（Ｂ）に示すよ
うに多重化されてＬＥＤアレイ７０に提示され、入力パ
ターン変換用ＭＳＬＭ７４に書込まれる。このとき、記
憶行列用ＭＳＬＭ８０には、コンピュータ１３２の出力
に応じて、第５図（Ｃ）に示すような入力層−中間層間
の重みＷｏ　＋　（０）　〜Ｗｏ　１（３）　　（学習
信号１）を示す記憶行列Ｍｏ１が提示されている。 想起過程では、まず入力パターン変換用ＭＳＬＭ７４に
提示されている入力パターンＸ（ＸｏｌＸｌ）と、記憶
行列用ＭＳＬＭ８０に提示されている重み（Ｗｏｔ（ｆ
））を示す記憶行列Ｍｏ１を、レーザ光源８４により光
学的に読み出すことによって、第５図（Ｄ）に示す如く
、各点毎のアダマール積が並列的に演算される。従って
、並列アナログ電気回路１３０でこれの部分和をとるこ
とによって、次式の演算を行う。 ｎｅｔｏ＝　ＷＱ　＋　　（０）＊　ＸＯ＋　ＷＯｌ　
　（１）＊ｘ１　　　　　　　　　　　・・・（１）ｎ
ｅｊ＋　””　ｗｏ　１−（２）＊　Ｘｏ　＋　Ｗｏ　
１（３）＊ｘ１　　　　　　　　　　　・・・（２）従
って、第５図（Ｅ）に示すような中間層出力Ｕは、次式
で表わされる。 ＵＱ　−ｆ（ｎｅｊｏ　）　　　　−（３）ｕｌ−ｆ（
ｎｅｔｔ　）　　　　−（４）ここで、ｆは出力関数で
ある。この出力関数ｆは、例えば第６図に示すようなシ
グモイド関数や第７図に示すような閾値関数とされ、コ
ンピュータ１３２内で計算された結果、中間層出力Ｕ（
Ｕｏｔｕｔ）を得ることができる。 ■中間層−出力層の想起（第２図の想起２）■で得られ
た中間層出力Ｕ（ｕｏ、ｕｌ）は、コンピュータ１３２
で多重化された後、ＬＥＤアレイ１００に送られ、中間
層−出力層についても、■と同様の演算が行われる。即
ち、第５図（Ｆ）に示すような中間層出力Ｕ及び入力Ｘ
が、コンピュータ１３２によって多重化され、第５図（
Ｇ）に示すようなパターンがＬＥＤアレイ１００に提示
される。又、記憶行列用ＭＳＬＭ１１０には、第５図（
Ｈ）に示すような記憶行列Ｍ２（ＷＯ２、ｗ１２）が記
憶されている。これによって、次式の演算が行われて、
第５図（１）に示すようなＰＴＲアレイ１２４上のパタ
ーンを経て、第５図（Ｊ）に示すような想起出力Ｙ（Ｙ
ｏｌ　Ｖｌ）が得られる。 Ｖｏ＝　　ｆ（Ｗｏ　２　（０）＊　Ｘｏ＋　Ｗｏ　２
　（１）＊　Ｘ１＋　Ｖ１１２　（０）　＊　Ｄ。 ＋　Ｉｌｈ　２　（１）＊　Ｉｔ）　　　”（５）Ｖｌ
−ｆ（Ｗｏ　２　（２）＊　Ｘｏ＋　Ｗｏ　２　（３）
＊　Ｘ１＋　Ｗ１２　（２）＊　Ｄ。 ＋　Ｗｌ　２　（３）＊　ｕｔ　）　　　＝　（６）■
中間層−出力層の学習（第２図の学習１）学習は、前記
想起結果ｙを用いて、バックプＯバゲーション方式によ
り、最終層（中間層−出力層）の重みから、順に修正を
行う。修正パターンは、次式によって表わされる。 ｄｗ（ｉ）−ａ＊Δ（ｉ　）＊　ｙ（ｉ　）　　　−（
７）ここで、 Δ（ｉ　）−”　（ｔ（ｉ　）　−Ｖ（＋　）　）＊　
ｆ’　　（ｎｅｔ（ｉ　）　）　　　　・・・（８）ｔ
（ｉ　）　：学習教師パターン ｙ（ｉ　＞　：想起出力パターン ａ：学習ゲイン このエラー信号演算を前記コンピュータ１３２内で行い
、ＬＥＤアレイ１０６から修正信号ｄｗを加減すること
によって、記憶行列用ＭＳＬＭ１１０に蓄積されている
記憶行列Ｍ　Ｏ２％　Ｍ　１２の各要素（Ｗｏｚ（ｉ）
、Ｗ１２（ｉ））を、次式のように修正する。 Ｗｌｚ　（ｉ　）−’１１１２　（ｆ　）＋６ｗ（ｉ　
）・・・（９）Ｗｅ　２　（ｉ　）−Ｗｏ　２　（ｉ　
）＋６ｗ（ｉ　）ｍ　（１０）■入力層−中間層の学習
（第２の学習２）この入力層−中間層の学習は、次式で
表わされる。 ｄｗｏ　１　　（＋　　＞−ａ＊Δ（ｉ　　）＊　　Ｖ
（ｉ　　）・−（１１）ここで、 Δ（ｉ　　）−Ｉｆ’　　（ｎｅｔ（ｉ　　）＊　（Σ
　（Δ　（ｋ　　）＊　’１１１２　（ｋ　）））　　
　　　”（１２）Δ（ｋ）：中間層−出力層の修正信号 Ｗ１２（ｋ）：中層層−出力層の重み これに従って、■と同様にして、記憶行列Ｍｅ１（Ｗｏ
ｌ　（ｆ　））が修正される。 複数のパターン対（（Ｘｏ、　　Ｘｌ）−（Ｖｏ、ｙｌ
）の一対が１パターン）に対して、■から■を繰返すこ
とによって、バックプロパゲーション方式の学習が進む
。このようにして学習された記憶行列Ｍｏ１を用いるこ
とによって、パターン認識や分類等の処理機能を実現す
ることができる。 次に、本発明の第２実施例を詳細に説明する。 この第２実施例は、第８図に示す如く、第１図（Ｂ）に
示した前記入力パターン変換装置５２の一部を構成する
ＬＥＤアレイ１５０ルンズ１５２及び入力パターン変換
用ＭＳＬＭ１５４と、前記記憶行列演算器６２を構成す
るＬＥＤアレイ１５６、レンズ１５８及び記憶行列用Ｍ
ＳＬＭ１６０と、前記相関演算器５４を構成するレーザ
光源１６２、ハーフミラ−１６４，１６６、検光子１６
８．１７０及びＰＴＲアレイ１７２と、前記部分和演算
器５６を構成する並列アナログ電気回路１７４と、前記
出力関数演算器５８、エラー信号演算器６０．記憶行列
演算器６２の一部及び入力パターン変換装置５２の一部
（入力パターンの多重化部分）を構成すると共に、各装
置の制御を行うコンピュータ１７６と、から構成されて
いる。 この第２実施例における光学システムの概要は第９図に
示す如くであり、記憶行列を４種の重み付け（ｗｒ→ｈ
ｑ”ｉ→ｏ１　Ｗｈ−４ｈ（一般に０）Ｗｈ４０：添字
１は入力層、ｈは中間層、Ｏは出力層を示す）に分割し
て使用している。即ち、本実施例においては、入力パタ
ーンを、第１０図（Ａ＞に示す如く、上段の学習入力パ
ターンＸ（Ｘｏｌ　Ｘｔ）と下段の中間届出力パターン
Ｕ（ｕｏ、ｕｔ）を合成したものとし、コンピュータ１
７６において、第１０図（Ｂ）に示す如く多重化してＬ
ＥＤアレイ１５０に提示する。一方、記憶行列用のＭＳ
ＬＭ１６０には、第１０図（Ｃ）に示す如く、各層間の
重みが上下に分割されて提示されている。従って、ＰＴ
Ｒアレイ１７４上に得られるパターンは、第１０図（Ｄ
）に示す如く、上段が中間層の７ダマール積、下段が出
力層のアダマール積となり、ＰＴＲアレイ１７４後で電
流和がとられた後、コンピュータ１７６による出力関数
演算を経て得られる出力は、第１０図（Ｅ）に示す如く
、上段が中間層出力ｕ１上下が想起出力ｙとなる。 本実施例においては、入力パターン及び中間届出力パタ
ーンや記憶行列を上下で分割して、それぞれ単一のＭＳ
ＬＭ１５４．１６０に提示しているので、構成が簡略で
ある。 なお前記実施例においては、いずれも入力層細胞が２、
中間ｔｒｉｍ胞が２、出力層細胞が２のネットワークを
例にとって説明していたが、層数やそれぞれの層の細胞
数が増加した場合でも、記憶行列と入力の配置を調和さ
せることにより、演算速度の増加なしで対応が可能であ
る。 又、前記実施例においては、パックプロパゲーション方
式による学習が採用されていたが、本発明の対象となる
学習方式はこれに限定されない。 例えば、標本同士を互いに競合させることにより、標本
の中から１つを選択するカウンタープロパゲーションや
、閾値論理操作（ＡＤＡＬ　ＩＮＥ）を複数用いたＭＡ
ＤＡＬＩＮＨに対しても対応可能である。特に、本実施
例においては、エラー信号の演算をコンピュータで行っ
ているので、コンピュータ内での変更によって容易に対
応できる。 又、前記実施例においては、いずれも、２次元の光メモ
リ、光演算器としてＭＳＬＭを用いていたが、記憶行列
のダイナミックレンジ及び線形性が連想能力に影響する
ため、特に線形性の良い２次元アナログ光デバイスが必
要である。 従って、ＭＳＬＭを用いる場合には、学習出力パターン
ｔの設定に際して、複数の信号から形成される入力学習
パターン×　（例えば、物体認識システムにおける多種
のセンサからの信号）に対して出力パターンｔを設定す
る場合、各学習出力パターンｔの平均値を記憶行列Ｍの
ダイナミックレンジの平均値に合せて設定することによ
り、記憶行列Ｍの飽和を少くすることが可能である。 又、学習開始時の記憶行列の初期値Ｍ（０）を、記憶行
列Ｍのダイナミックレンジの中心に持っていくことによ
り、記憶行列Ｍの飽和を少なくすることもできる。 又、ＭＳＬＭは、入力−出力関数特性に、５ｉｎ２の関
係を有する。しかしながら、学習においては、線形性の
高いほうが、収束時の歪みが少ないために都合がよい。 そこで、入力パターン表示用。 のＭＳＬＭ７４．１０４．１５４及び記憶行列用のＭＳ
ＬＭ８０，１１０．１６０の動作電圧（電気光学結晶へ
の印加電圧Ｖｂ）を、第１１図に示す如く、ダイミック
レンジを最大とするための通常の設定電圧である（Ｖｂ
ｗｌ（消去時）、Ｖｂｅ１（書込み時））の組合せから
、（Ｖｂｗ２、Ｖｂｅ２）の組み合せに変更して、線形
性の良い中心部を使用し、線形性の良い入出力特性を得
ることができる。 なお、光デバイスとしては、前記ＭＳＬＭの他、液晶ラ
イトパルプＬＣＬＶやＢＳＯ光変調器ＰＲＯＭ等を用い
ることが可能である。

【図面の簡単な説明】

第１図（Ａ＞、（Ｂ）は、本発明の基本的な構成を示す
ブロック線図、 第２図は、多層ネットワークシステムの基本構成を示す
ブロック線図、 第３図は、本発明の第１実施例の構成を示す光路図、 第４図は、第１実施例で用いられている空間光変調器の
基本的な構成を示す断面口、 第５図は、第１実施例の作用を説明するための線図、 第６図、第７図は、第１実施例で用いられている出力関
数の例を示す線図、 第８図は、本発明の第２実施例の構成を示す光路図、 第９図は、第２実施例における光学システムの基本構成
を示す斜視図、 第１０図は、第２実施例の作用を説明するための線図、 第１１図は、前記実施例の変形例における、線形性を重
視した空間光変調管の電圧設定例を示す線図である。 １２．３２．５２・・・入力パターン変換装置、１４．
３４．５４・・・相関演算器、 １６．３６．５６・・・部分和演算器、１８．３８．５
８・・・出力関数演算器、２０．４０．６０・・・エラ
ー信号演算器、２２．４２．６２・・・記憶行列演算器
、７０．７６．１００．１０６．１５０．１５６・・・
発光ダイオード（ＬＥＤ）アレイ、７４．８０．１０４
．１１０．１５４．１６０・・・空間光変調管（ＭＳＬ
Ｍ５． ８２．１１２．１６２、・・・レーザ光源、９４．１２
４．１７２ ・・・フォトトランジスタ（ＰＴＲ）アレイ、１３０．
１７４−・・並列アナログ電気回路、１３２．１７６・
・・コンピュータ、 Ｘ・・・入力パターン、 Ｕ・・・中間履出力パターン、 Ｕ・・・想起比カバターン、 Ｍｏ　ｔ　、Ｍｏ　２、Ｍｌｚ−記憶行列。

Claims (2)

【特許請求の範囲】
1. （１）入力パターンを多重化して表示する第１の入力パ
   ターン変換装置と、 該第１の入力パターン変換装置及び後出第１の記憶行列
   演算器からの信号のアダマール積を光演算する第１の相
   関演算器と、 該第１の相関演算器出力の部分和を電気的に並列演算す
   る第１の部分和演算器と、 該第１の部分和演算器からの出力に対して出力関数を施
   して中間層出力パターンを得る第１の出力関数演算器と
   、 該中間層出力パターンと入力パターン及び後出出力パタ
   ーンよりエラー信号を計算する第１のエラー信号演算器
   と、 該第１のエラー信号演算器から表示される信号に従い、
   入力層−中間層用の記憶行列を演算・保持する第１の記
   憶行列演算器と、 前記入力パターン及び中間層出力パターンを多重化して
   表示する第２の入力パターン変換装置と、該第２の入力
   パターン変換装置及び後出第２の記憶行列演算器からの
   信号のアダマール積を光演算する第２の相関演算器と、 該第２の相関演算器出力の部分和を電気的に並列演算す
   る第２の部分和演算器と、 該第２の部分和演算器からの出力に対して出力関数を施
   して出力パターンを得る第２の出力関数演算器と、 該出力パターンと前記入力パターンを比較してエラー信
   号を計算する第２のエラー信号演算器と、該第２のエラ
   ー信号演算器から表示される信号に従い、中間層−出力
   層用の記憶行列を演算・保持する第２の記憶行列演算器
   と、 を含むことを特徴とする光−電気ハイブリッド型多層ニ
   ューラル・ネットワーク・システム。
2. （２）入力パターン及び中間層出力パターンを多重化し
   て表示する入力パターン変換装置と、該入力パターン変
   換装置及び後出記憶行列演算器からの信号のアダマール
   積を光演算する相関演算器と、 該相関演算器出力の部分和を電気的に並列演算する部分
   和演算器と、 該部分和演算器からの出力に対して出力関数を施して中
   間層及び出力層の出力パターンを得る出力関数演算器と
   、 該出力関数演算器から得られる出力パターンと入力パタ
   ーンを比較してエラー信号を計算するエラー信号演算器
   と、 該エラー信号演算器から表示される信号に従い、記憶行
   列を中間層用と出力層用に分割して演算・保持する記憶
   行列演算器と、 を含むことを特徴とする光−電気ハイブリッド型多層ニ
   ューラル・ネットワーク・システム。