JPH04148212A - 光ニューラルプロセッサ - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 ［産業上の利用分野］ 本発明は、光学系および電気系の両方を利用して構成し
た光ニューラルプロセッサに関するものである。

［従来の技術］ 脳の機能の一部をモデル化したニューラルネットは、現
在、様々な形のモデルか提案され、装置化されている。

モデルの一例としては、第６図（ａ）に示すような入力
層、中間層、出力層からなる３層構造のニューラルネッ
トがある。入力層に入力された信号は、中間層の各ニュ
ーロンに分配されて処理された後、出力層に出力される
。ニューロンは、第６図（ｂ）に示すように、入力を加
算する加算器と、しきい値処理を行うリミタ−とからな
る。

ニューロンの動作を決める要因は、このリミタ−の持つ
非線形関数と、各層のニューロンを結ぶニューロンの重
みづけ、すなわち結合荷重である。

ニューラルネットに所望の動作をさせるためには、これ
らの要因を決定する必要がある。この要因決定のたぬの
方法が、１学習“と呼ばれるものである。学習は、ニュ
ーラルネットに、ある入カバターンを入力し、その時に
出力された出カバターンを、あるべき出カバターンに近
付けるように上記要因を修正することであり、この入出
カバターンを多数提示することによって、徐々に上記要
因を決定していくものである。

ニューラルネットを実現する手段としては、計算機上の
ソフトウェアにて計算機ンユミレーションによる方法か
ある。この方法は、種々の要因変化に伴うニューラルネ
ットの動作解析には威力を発揮するが、動作速度および
並列性の点では十分でない。

一方、ニューラルネットあるいはニューロンをハード的
に実現した物が、ニューラルプロセッサと呼ばれるもの
である。ニューラルプロセッサは、実時間処理に近い動
作速度が得られる点で、特に注目されている。

ニューラルプロセッサを構成する方法としては、大略、
全てを電気系で構成する方法、全てを光学系にて実現す
る方法、あるいは光学系と電気系とを組み合わせて構成
する方法がある。

全てを電気系で構成する方法としては、常置可能な数十
〜数百ニューロンのＬＳＩがある。また、全てを光学系
で構成する方法としては、レンズおよび光学結晶を用い
て、ニューロンとシナプスと学習に必要が演算を、別々
の光学系で単独に構成した例がある。

［発明が解決しようとする課題］ ところで、ある程度複雑な認識機能を備えたニューラル
プロセッサを構成するに当たって、数万個ないし数１０
万個のニューロンを相互に接続することが必要である。

前記のように、ニューラルプロセッサの全てを電気系で
構成した場合、ニューロン間を接続する結合荷重を適宜
変えることのできるシナプスを実現するためには、膨大
な数の配線が必要となる。

そのため、配線による遅延時間や相互の電気的な干渉な
どの問題が生じ、並列性を上げることができないという
問題がある。また、並列度を向上するために、結合荷重
を固定したものもあるが、これでは、ニューラルプロセ
ッサ本来の特徴である学習機能および並列性を十分に活
かすことができないという問題がある。

本発明は、このような事情に鑑みてなされたものであっ
て、電気系および光学系の両方の特質を活かして構成し
、高速動作が可能でがっ十分な学習機能と並列性を備え
たニューラルプロセッサを提供することを目的としてい
る。

［課題を解決するための手段］ 本発明では、ニューロンを電気系によって構成するとと
もに、シナプスを、各ニューロン間の結合荷重を可変可
能とする光学系によって構成し、かっこの結合荷重を決
定するための学習を行う手段を、光学系と積分手段によ
って構成したことを解決手段とした。

［作用コ 本発明の光ニューラルプロセッサによれば、各ニューロ
ン間の接続を行うシナプスを光学系によって構成したこ
とによって、電気系のみで構成した場合の種々の問題、
例えば配線に伴う遅延時間や電気的干渉などを解消し、
動作速度を向上させることができる。また、学習手段を
光学系と積分手段とによって構成したことによって、光
二二一うルプロセッサの本来の特徴である学習機能およ
び並列性を十分に発揮することかできる。

［実施例］ 以下、実施例を示し、図面を参照して、本発明の光ニュ
ーラルプロセッサについて説明する。

第１図は、本発明の光ニューラルプロセッサの一実施例
を示す図である。この光ニューラルプロセッサは、学習
機能を実現する学習の過程と、想起機能を実現する想起
の過程を存している。学習の過程は、次の２つの過程（
ａ）、（ｂ）から成る。

過程（ａ）は、次式に示すように、入力Ｖｉに対してニ
ューロンの出力Ｏｊを計算する過程である。

０ｊ＝ｆ（Σｗｉｊ　−Ｖｉ） （ｗｉｊハシナプス荷重、ｆはニューロンのしきい関数
） この過程（ａ）は、積分器１０１と、この積分器１０１
に記憶されている荷重信号１０１１　（ｗｉＤを光信号
１０２１に変換するＥ１０変換器１０２ｂと、この光信
号１０２１と入力＋００１に加えられた信号Ｖｉとを入
力して、これらの積ｗｉコ・Ｖｉを光学的に計算し、光
信号１０３１として出力する光学乗算器１０３ａと、光
信号１０３１　（ｖｉｊ・Ｖｉ）を入力してｉについて
の加算Σｗｉｊ−Ｖｉを行った後、電気信号＋０４１と
して出力する加算機能を持つＯ／Ｅ変換器１０４ａと、
その信号！０４１にしきい値処理を施して出力信号１０
５１（Ｏｊ）として出力するリミタ−１０５とを有して
いる。

また、ンナプス荷重を更新する過程（ｂ）は、次式に示
すように、過程（ａ）の出力をもとに、ンナプス荷重を
更新する過程である。

ｖ＋ｊ＝　５コｗｉｊｄｔ Δｖｉｊ＝　（Ｔ　ｊ　−Ｏｊ）　・Ｖ　ｉこの過程（
ｂ）は、教師人力１０７１に加えられた信号Ｔｊを入力
して、出力電気信号１０５１（０コ）との差を計算し、
出力電気信号１０６１（ＴｊＯｊ）として出力する引算
器１０６と、この電気信号１０６１を光信号１０２３に
変換するＥ１０変換器１０２ａと、光信号１０２３に光
学的にＶｌ・（Ｔｊ−Ｖｊ）の演算を施した後に光信号
１０３２として出力する光学乗算器１０３ｂと、信号１
０３２を電気信号１０４３に変換するＯ／Ｅ変換器＋０
４ｂと、積分計算を施し゛で既に記憶されている荷重ｖ
ｉｊを更新する積分器＋０１とを有している。

一方、想起の過程は、入力＋００１には不完全な信号Ｖ
１であるＶｉ’　を入力し、 ０ｊ＝ｆ（Σ窃ｉＪ−■１′〕 を計算する過程である。

具体的には、前記過程（ａ）とほぼ同様の構成を有し、
積分器１０１に記憶されている荷重信号１０１１　（ｗ
ｉｊ）を、Ｅ１０変換器１０２ｂで光信号１０２１とし
た後、光学乗算器１０３によって光学的に入力ｖｉ′　
との積　ｖｉｊ−Ｖｉ′　の演算を行い、その出力信号
１０３１（ｗ１０３１（’　）を受けたＯ／Ｅ変換器１
０４ａによって、ｉについての加算Σｗｉｊ−Ｖｉ′を
行って信号１０４１として出力し、さらにリミタ−１０
５によってしきい値処理を施した後に、出力＋０２（Ｏ
ｊ）として出力するというものである。

第２図に、この光ニューラルプロセッサの具体的な構成
例を示す。

図中符号２０は、リミタ−１０５、引算器１０６、Ｅ１
０変換器１０２ａ、および加算機能を持つＯ／Ｅ変換器
１０４ａを含む光電気回路である。

符号２１は、光学乗算器１０３ａおよびｌ０３ｂを含む
光制御素子である。符号２２は、Ｅ１０変換器１０°２
ｂ、Ｏ／Ｅ変換器１０４ｂおよび積分器１０１を含む光
電気回路である。−例を挙げると、前記光電気回路２０
および２２は光電気集積回路によって、また光制御素子
２２は液晶空間光変調器によってそれぞれ実現可能であ
る。

光電気回路２０中のＥ１０変換器１０２ａはストライブ
状の発光素子、０／Ｅ変換器１０４ａは加算機能を持つ
ストライブ状の受光素子である。

この光電気回路２０は、これらＥ１０変換器１０２ａお
よびＯ／Ｅ変換器１０４ａと、リミタ−１０５、引算器
＋０６を有する光０ＥＩＣであり、出力１０５１を持つ
。光制御素子２１は、入力１００１に応じて、符号１０
３で示されているストライブ部分の透過率か変化する透
過率可制御光学素子で、光学的に乗算を実現する光学乗
算器である。

光電気回路２２中の０／Ｅ変換器１０４ｂは受光素子、
Ｅ１０変換器＋０２ｂは発光素子である。

次に、第３図を示して、この先ニューラルプロセッサの
動作について説明する。

学旨時には、先に述べたようなニューロンの出力を計算
する過程（ａ）とノナブス荷重を更新する過程（ｂ）を
交互に繰り返す。

ニューロンの出力を計算する過程（ａ）では、光電気回
路２２に記憶されている荷重信号が、発光素子１０２ｂ
によって光信号１０２１に変換され、光制御素子２１に
よって、光学的にｖｉｊ−Ｖｉの演算が行われ、光信号
１０３１とされる。光信号１０３１は、ストライブ状の
受光素子！０４ａによって受光され、同時に１について
の総和Σｖ１ｊ−Ｖｉの演算が行なわれる。これは、光
電気回路２０の内部にてしきい値処理され、出力１０５
＋（Ｏｊ）として出力される。

過程（ｂ）においては、教師入力１０７１に入力されｆ
コ教師信号Ｔｊは、光電気回路２０Ｊ）内部にて（Ｔｊ
−ＯＪ）に変換され、ストライプ状発光素子１０２ａに
よって光信号１０２３に変換される。

光信号１０２３は、光制御素子２１によって、入力信号
Ｖｉとの積である信号１０３２（Ｖｉ・［Ｔｊ−Ｏｊ〕
）か光学的に計算される。信号１０３２は、光電気回路
２２中の受光素子１０４ｂによって受光され、光電気回
路２２内部の荷重か更新される。

このような動作が繰り返されることによって学習が進み
、Ｔｊ−Ｏｊ＝０となるまで繰り返される。

また想起時には、光電気回路２２に記憶されている荷重
信号が発光素子１０２ｂによって光信号１０２１に変換
され、光制御素子２１によって不完全な入力Ｖｉ′　と
の積が光学的に計算されて、光信号１０３１が得られる
。光信号１０３１が、光電気回路２０中のストライプ状
の受光素子１０４ａによって受光され、同時にｌについ
ての総和Σｖｉｊ−Ｖ　ｉ′の演算が行なわれる。これ
か、光電気回路２０内部においてしきい値処理され、出
力１０５１とされる。

第４図に学習時の動作例、第５図に想起時の動作例を説
明する概念図をそれぞれ示す。

学習時には、学習させたい入力４０１と出力４０２の組
を、それぞれ入力ｌ００１および教師人力１０７１に人
力することによって想起の動作を行う。学習の初期には
、出力４０３のような不完全な出力を得る。この不完全
な出力４０３と教師人力１０７１との差を、引算器１０
６によって計算し、荷重を更新させる。この一連の操作
を、出力が４０３のように教師人力１０７１と同じにな
るまで続ける。これによって学習が完了するのである。

想起時には、先の学習によって学習させたパターンに近
いが不完全な入力５０１を人力する。すると、荷重に記
憶されているパターンと最も似ているパターンと組にな
って記憶されている出力５０２を、この想起過程によっ
て出力するのである。

［発明の効果］ 以上説明したように、本発明の光ニューラルプロセッサ
によれば、各ニューロン間の接続を行うンナブスを光学
系によって構成したことによって、電気系のみで構成し
た場合の種々の問題、例えば配線に伴う遅延時間や電気
的干渉などを解消し、動作速度を向上させることができ
る。また、学習手段を光学系と積分手段とによって構成
したことによって、光ニューラルプロセッサの本来の特
徴である学習機能および並列性を十分に発揮することが
できる。

【図面の簡単な説明】

第１図は、本発明の光ニューラルプロセッサの一実施例
を示すブロック図、第２図はその具体的な構成を示す図
、第３図はその動作を説明する図、第４図は学習時の動
作を説明する概念図、第５図は想起時の動作を説明する
概念図であり、第６図は、従来のニューラルネットの一
例を示す概念図である。 ２０．２２・・・・・・光電気回路（電気系）、２１・
・・・光制御素子（光学系）、 １０１・・・・積分器（積分手段）、 　２ａ　１ ０３ａ、１ ０４　ａ　１ ０５・・ ０２ｂ・・・発光素子（Ｅ１０変換器）、０３ｂ・・・
光学乗算器、 ０４ｂ・・・・・・受光素子（０／Ｅ変換器）、リミタ
−１０６・・・・・引算器。 入力 出力４０２ 入力４０ 出力４０３ 入力５０ 出力５０２ 第６図 中間層 （ｂ）ニューロン ０＝ｆ（＞ｗ＋

Claims (1)

1. 【特許請求の範囲】 入力の総和をとって非線形処理を施し出力するニューロ
   ンと、これらのニューロン間の接続を行うシナプスとを
   備えた光ニューラルプロセッサであって、 ニューロンを電気系によって構成するとともに、シナプ
   スを、各ニューロン間の結合荷重を可変可能とする光学
   系によって構成し、かつこの結合荷重を決定するための
   学習を行う手段を、光学系と積分手段によって構成した
   ことを特徴とする光ニューラルプロセッサ。