JPH0391878A - 1次処理を用いた光ニユーラルネツトワーク装置 - Google Patents

1次処理を用いた光ニユーラルネツトワーク装置

Info

Publication number
JPH0391878A
JPH0391878A JP1229637A JP22963789A JPH0391878A JP H0391878 A JPH0391878 A JP H0391878A JP 1229637 A JP1229637 A JP 1229637A JP 22963789 A JP22963789 A JP 22963789A JP H0391878 A JPH0391878 A JP H0391878A
Authority
JP
Japan
Prior art keywords
optical
image
input
neural network
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP1229637A
Other languages
English (en)
Inventor
Haruyoshi Toyoda
晴義 豊田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP1229637A priority Critical patent/JPH0391878A/ja
Priority to US07/575,431 priority patent/US5080464A/en
Publication of JPH0391878A publication Critical patent/JPH0391878A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/067Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
    • G06N3/0675Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/067Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/88Image or video recognition using optical means, e.g. reference filters, holographic masks, frequency domain filters or spatial domain filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 【産業上の利用分野】
本発明は、1次処理を用いた光ニューラルネットワーク
装置に係り、特に、光ニューラルネットワーク装置の入
力に1次処理を用いて入力情報の特徴を抽出することに
よって、限定されていた入力の範囲を拡大することが可
能であり、且つ、入出力間係に異なった物を用いる相互
想起型連想記憶方式にも容易に対応可能な光ニューラル
ネットワージ装置に関するものである.
【従来の技術】
近年、従来のフオン・ノイマン型のコンピュータのアー
キテクチャとは違って、人間の脳の情報処理様式のモデ
ルであるニューラル・ネットワーク・モデルに基づいた
新しい処理アーキテクチャを実現しようとする研究が盛
んに行われている.このニューラル・ネットワーク・モ
デルは、神経細胞モデルを基本単位とする大規模並列処
理モデルであり、情報処理機能を自律的に自己組織可能
である点に特徴がある. 従って、このニューラル・ネットワーク・モデルの構造
を本質的に実現しようとする場合には、演3EIm構、
ネットワーク、入出力等、全ての処理m構に関して完全
並列処理を行う必要がある.この完全並列処理を実現す
るべく、原理的に高い空間的並列性を有する光を情報の
媒体として利用する光演算並びに光接続が注目されてい
る.この光を用いる方法によれば、大規模並列演算並び
に高密度の並列接続が実現可能であるため、ニューラル
・ネットワーク・モデルの大規模並列性を実現するのに
効果的なハードウエアとして期待が持たれている. ニューラル・ネットワーク・モデルの中でも、とりわけ
連想記憶モデルは、演X構遣が均質な並列性を持つため
、光演算の特徴を生かして高密度の演算構造を実現でき
る可能性がある。 そこで発明者らは、1988年7月7日に開催された電
子情報通信学会や、特開昭64−78491、63−3
07437等で、光アソシアトロンと呼ぶ、学習機能を
導入した光連想記憶システムを提案している.この光ア
ソシアトロンは、空間光変調管のアナログの並列演算・
記憶機能を利用し、直交学習法を導入することにより、
適応性の高い連想記憶を光演算により実現したものであ
る.又、光アソシアトロン以外にも、光の持つ大規模並
列性を用いて連想記憶方式を実現しようとする例は多く
みられる(例えば特開平1−112225). ここで、連想記憶方式とは、記憶装置にいくつものパタ
ーンを重複させて記憶させておき、必要なパターンの一
部分のみを演算装置に与えることによって、必要なパタ
ーンだけを記憶装置から分離して取り出すことのできる
一種の検索方式である.この連想記憶方式を採用するこ
とによって、従来のコンピュータが不得手である、曖昧
な入力からの連想処理が実現できると共に、演算時間の
大幅な短縮が可能となる.
【発明が達成しようとする課題】
しかしながら、従来のシステムは、入力細胞数が小数,
前記の光アソシアトロンでは4X4の16個と限られて
いるため、2次元画像をそのままの形では入力できず、
入力の範囲が限定されるという問題点を有していた.又
、従来の光アソシアトロンは、入出力関係に同じ物を用
いる自己想起型連想記憶方式を用いており、幅広い入出
力関係の学習・連想ができないという問題もあった.一
方、入力情報を1次処理する手法は広く使われており、
例えば入力情報として画像データを例にとると、エッジ
抽出や細線化、拡大、縮小、回転等が1次処理として行
われている.ス、光学系を用いた1次処理も行われてお
り、2次元コヒーレントWJ像をレンズを通過させるこ
とによって、その焦点平面には原画像の光学的フーリエ
変換像をリアルタイムで得ることができる.従って従来
から、1次処理の光演算への応用が考えられていたが、
光演算(例えばフーリエ変換)は並列性が高いため高速
であるものの、光学系の持つ精度の低さや、1次処理画
像が曖昧さを含んでいる場合は、論理的な処理しか対応
できない次段のコンピュータへのマッチングの問題があ
って、扱いが難しく、ほとんど利用されていない状況で
あった.本発明は、前記従来の問題点を解消するべくな
されたもので、従来は論理的な情報しか扱えなかった1
次処理を、光ニューラルネットワーク装置を用いること
により、曖昧さを含む入力情報であつても処理可能とし
、一方、光ニューラルネットワーク装置の入力に1次処
理を用いることによって、限定されていた入力の範囲が
拡大され、高度の処理が可能な光ニューラルネットワー
ク装置を提供することを目的とする.
【課題を達成するための手段】
本発明呻、光ニューラルネットワーク装置において、第
1図にその要旨構成を示す如く、2次元画像入力情報を
1次処理して、対象パターンの特徴を抽出する1次処理
装置10と、該圧縮された情報を適応的に光演算で並列
処理する光ニューラルネットワーク装置20とを備える
ことにより、前記課題を達或したものである. 又、前記1次処理装置10として、2次元入力画像をコ
ヒーレント像に変換する画像変換装置と、該コヒーレン
ト像を光学的にフーリエ変換する2次元フーリエ変換光
学装置と、該フーリエ像を記憶する特徴量記憶装置を含
む光フーリエ変換装置を用い、前記光ニューラルネット
ワーク装置20として、前記特徴量記憶装置から読出さ
れたフーリエ像を多重化して結像する多重結像系と、該
多重結像された像を保持する入力パターン変換装置と、
入力パターンと想起出力パターンの相互相関に応じた記
憶行列を保持する記憶行列保持装置と、前記入力パター
ン変換装置及び記憶行列保持装置にそれぞれ保持された
画像を連続的に読出すことによって形成された画像を局
所結像して、部分和演算を光演算で行うための局所結像
系と、該局所結像された像に対して出力間数を光演算に
より施して想起出力とする出力関数演算装置と、記憶し
たい入力パターンに対する学習出力パターン又は想起出
力パターンを拡大して結像する拡大結像系と、該拡大結
像された像と前記入力パターン変換装置で多重結像され
た像を用いて、前記記憶行列を光演算により学習する学
習演算装置とを含む光連想記憶装置を用いたものである
【作用及び効果】
本発明においては、2次元画像をその.tま光ニューラ
ルネットワーク装置20に入力するのではなく、1次処
理装置10を用いて、対象パターンの特徴を抽出した後
、その結果としての圧縮された情報を、適応的に光演算
で並列処理する、金光方式の光ニューラルネットワーク
装置20の入力の1点1点に入力するようにしている.
従って、従来は論理的な入力情報しか扱えなかった1次
処理装置10が、光ニューラルネットワーク装置20を
後段に用いることによって、曖昧さを含む入力情報であ
っても処理可能となる.一方では、光ニューラルネット
ワーク装置20の前段に1次処理装置10を用いること
によって、その入力の1点1点に原画像から特徴抽出を
行った結果を入力することにより、限定されていた光ニ
ューラルネットワーク装置20の入力の範囲を拡大して
高度な処理を行うことが可能となる.更に、計算量を軽
減して効率の良い処理を行うことができ、光の持つ並列
性を生かしつつ、高速で柔軟な演算を行うことが可能と
なり、相互想起型の連想記憶への対応も可能となる.又
、金光方式の光ニューラルネットワーク装置20を用い
ているので、特に、1次処理として光演算を用いた場合
には、後段の光連想記憶装置に、光信号のまま情報伝達
が可能である.又、入力情報が並列に光演算され、入力
の数によって処理速度が遅くなることがなく、入力情報
が曖昧さを持っていたり、入力情報間の関連付けが論理
的に記述し難い場合においても、入力と出力の関係を学
習によって処理できる.従って、学習や連想想起に要す
る時間を大幅に短縮することができる.
【実施例】
以下図面を参照して、本発明の実施例を詳細に説明する
. 本実施例は、第2図に示す如く、前記1次処理装置とし
ての光フーリエ変換装置100と、前記光ニューラルネ
ットワーク装置としての光連想記憶装置200とから構
威されている. 前記光フーリエ変換装置100は、2次元入力画像を後
出空間光変調器118の光電陰極118A上に結像する
ためのレンズ116と、該インコヒーレントな入力画像
の電荷像を電気光学結晶(又は液晶セル)118E上に
形成し、該電気光学結晶118Eにレーザ光源(例えば
ヘリウムネオンレーザ)120からハーフミラー121
、122を介してレーザ光を照射し、検光子(偏光板)
124を通すことによって、その電荷分布に応じたコヒ
ーレント像に変換するための、画像変換装置としての空
間光変調管118と、該コヒーレント像を集光し、その
焦点面にフーリエ像を得ることによって、光学的なフー
リエ変換を行うためのフーリエ変換(FT)レンズ13
2と、該FTレンズ132によって空間周波数領域に変
換された特徴抽出パターンを光電陰@134A上に形成
し、電気光学結晶1 3 4− E上に電荷像として記
憶するための、特徴量記憶装置としての空間光変調管1
34と、画像読出し時に、前記レーザ光源120からの
レーザ光を該空間光変調管134の電気光学結晶134
Eに照射するためのハーフミラー121、136、13
8と、によって構成されている. 前記光連想記憶装置200は、前記光フーリエ変換装置
100の空間光変調管134から続出された特徴抽出画
像の多重像を形或するための、例えばマルチレンズアレ
イや回折格子からなる多重結像系210と、該多重結像
系210によって光電陰極212A上に形成された多重
像を、電気光学結晶212E上に電荷像として記憶する
ための、入力パターン変換装置としての空間光変調管2
12と、入力パターンXと想起出力パターンyの相互相
関に応じた記憶行列Mを電気光学結晶220E上に電荷
像として保持する記憶行列保持装置としての空間光変調
管220と、記憶したい入力パターンに対する学習出力
パターン(教師パターンと称する)t又は想起出力パタ
ーンyを拡大して結像する拡大結像系230と、該拡大
結像系230によって光電陰極232A上に形成された
拡大像を、電気光学結晶232E上に電荷像として保持
し、該拡大像を用いて前記記憶行列Mを光演算により学
習する学習演算装置としての空間光変調管232と、シ
ャツタ234と236を切換えることにより、前記空間
光変調管220に保持された記憶行列と前記空間光変調
管212に保持された多重化入力画像の間、及び、前記
空間光変調管232に保持された拡大像と前記空間光変
調管212に保持された多重化入力画像の間で、空間光
変調管220と212、空間光変調管232と212を
順次連続的に読出すことによって、対応する2つの要素
が並列に強度変調されることを利用してアダマール積を
光演算するための、レーザ光源240、ハーフミラー2
42、244、246、248、250、252及び検
光子254、256、258と、該光演算結果を局所的
に結像するための、例えばマルチレンズアレイや回折格
子からなる局所結像系260と、該局所結像系260に
よって形或された像に対して、出力関数を施して出力演
算を行うための出力演算装置としての空間光変調管26
2と、前記レーザ光源240によって該空間光変調管2
62の電気光学結晶262Eに形成された電荷像を読出
して想起出力yとするための、ハーフミラー264、2
66及び検光子268と、前記教師パターンtを必要に
応じて前記空間光変調管232に入射するためのシャツ
タ270及びハーフミラー272と、前記想起出力yを
必要に応じて前記空間光変調管232に入射するための
、ハーフミラー274、276及びシャツタ278と、
前記空間光変調管220に記憶行列の書込みを行うため
のハーフミラー280、282、284とから構成され
ている.前記光連想記憶装置200のシャッタ234、
236、270、278は、図示しない制御用コンピュ
ータによって制御されている.ここで、前記シャツタ2
34と236は、学習過程と想起過程のモード切換えを
行い、前記シャツタ270と278は、学習過程におけ
る学習パターンと途中想起パターンの入力切換えを行う
ためのものである. 前記空間光変調管118、134、212、220、2
32、262は、例えば第3図に示す如く、レンズ(例
えば116)を介して入射される入力像を光電子像に変
換するための光電陰極118Aと、該光電陰極118A
から放出される光電子像を増倍するためのマイクロチャ
ンネルプレート(MCP)1 18Bと、該MCP11
8Bで増倍された光電子を加速するためのメッシュ電極
118Cと、該メッシュt極118Cを通過した電子に
よって、図の左側の電荷蓄積面118Dに電荷パターン
が形成される電気光学結晶118Eとから構成されてい
る. この空間光変調管(例えば118〉においては、入力像
に応じて電気光学結晶118Eの電荷蓄積面118Dに
電荷パターンが形成され、この電荷パターンに応じて電
気光学結晶118Eを横切る電界が変化し、ボツケルス
効果によって結晶118Eの屈折率が変化する.従って
、直線偏向のレーザ光を電気光学結晶118Eに図の右
圓から照射すると、電荷蓄積面118Dからの反射光は
、該電気光学結晶118Eの複屈折性により偏向状態が
変化しているので、検光子(例えば124)を通過させ
れば、入力像の光強度に対応した光強度を持つ出力像が
得られる. この空間光変調管は、インコヒーレント光→コヒーレン
ト光変換機能や記憶機能に加えて、電荷を適当な条件で
制御することにより、加減算m能、実時間間値動作8l
能、AND演算機能等の優れた機能を有しており、この
機能を利用した光連想記憶装置が、例えば、特開昭63
−307437、特開昭64−78491等に開示され
ている,以下実施例の作用を説明する. まず、光フーリエ変換装置1 0’Oの動作について説
明する. 入力画像である2次元画像は、コヒーレント像に変換す
るための画像変換装置である空間光変調管118に入力
され、該空間光変調管118に電′R像として蓄積され
る.この空間光変調管118に蓄積された電荷像に、読
出し側(図の上ffl!)からレーザ光を当てることに
より、電荷分布に応じたコヒーレント像が得られる.こ
のコヒーレント像をFTレンズ132によって集光し、
その焦点面にフーリエ像を得る.この光フーリエ変換に
よって空間周波数領域に変換されたパターンは、特徴量
記憶装置である空間光変調管134にアナログの特徴量
として記憶される.この時、空間光変調管134の持つ
演算機能を利用して、閾値処理、積分処理、微分処理等
により、更に簡単な1次処理を行うこともできる.この
結果は、次段の光連想記憶装i1i!200への入力と
なる.次に、光連想記憶装置200の動作について説明
する. この光連想記憶装置200における、記+all能、減
X機能、拡大結像系、多重結像系、局所結像系(逆多重
結像系)等の基本演算に関しては、前記特開昭63−3
07437等に詳細な説明がなされているので、ここで
の詳細な説明は省略する.この光連想記憶装置200は
、アナログの入力データに対して、相互想起型の連想記
憶装置を金光方式で実現するものである. まず、相互想起型の連想記憶の原理について説明する.
連想記憶を実現する方法として、ここでは相互相関行列
を用いており、記憶したいパターン対(学習したい入力
パターン×とそれに対する学習出力パターンt)の相互
相関により、記憶行列Mを形成する.逐次計算法の場合
、学習時の演算処理は、次式のようになる, M(  n+1>=M(n  )十−(Z  (  t
−φ (M (n  )XX))XT    ・・・〈
1〉 ここで、×は記憶したい学習入力パターン、tはそれに
対応する学習出力パターン(教師パターン)、Mは記憶
行列、αは学習ゲイン、φは出力関数、Tは転置行列で
ある. 記憶行列M(n+1)は、n回目のMnによって想起さ
れた結果であるφ(M (n )・×〉と学習出力パタ
ーンtとの差により示される誤差成分と、入力パターン
×との相関に、学習ゲインαを掛けたものによって、記
憶行列Mを修正することによって得られる.こうして、
(1)式の演算処理を繰返し行うことにより、分離能力
を持った相関行列Mが求められる.記憶したいパターン
対の相互相関により記憶行列Mを形成し、想起時には、
この記憶行列Mとの相関をとることによって、多少ノイ
ズを含んだパターンからでも記憶したパターンが想起で
きるようになる. 前記光連想記憶装置200の動作は、大きく学習と想起
に分けることができるので、以下、それぞれについて詳
しく説明する. 1.想起 こΦ想起動作を、式で表わすと、次のようになる. Y=φ(M (n ) ・xu2t ) Jloc  
・(2)ここで、xnJ2 tは入力パターンXの多重
結像、Jlocは局所結像を示す. この想起過程においては、まず、前段の光フーリエ変換
装置1−00から送られてくる入力Xを、多重結像系2
10により変換し、この多重結像×m1tを、前記入力
パターン変換用の空間光変調管212に書き込む.記憶
行列Mは、前記空間光変調管220に保持されている.
従って、シャツタ234を開き、シャツタ236を閉じ
て、レーザ光源240により発生されたレーザ光を、該
空間光変調管220及び212に、順次連続的に当て、
これらに保持されている像を読出すことによって、各点
毎の掛算(アダマール積)を並列的に行う.即ち、各点
毎に、M − XIIJ tの光演算が行われる.この
演算結果を局所結像系260を通すことによって局所結
像{OCシて、部分和演算を行う.次いで、前記出力関
数用の空間光変調管262で出力関数φを施して、想起
出力yとする.なお、出力開数φとしては、閾値演算や
sin’演算を行うことができる. 次に、学習動作について説明する. ここで言う学習とは、記憶行列Mを作ることを意味する
.この学習動作は、次式で実現される.M ( n+1
 ) =M (n ) +a (tnaq・xift 
)−a (yllag−xmft )−(3 )初期状
態では、記憶行列用の空間光変調管220には、何も記
憶されていない状態、即ち、M(0)=Oである. 従って、まず、シャッタ278を閉じ、シャッタ270
を開いて、記憶したい入力パターンXに対する学習出力
パターンtを、拡大結像系230により拡大結像して拡
大像tnagとし、前記学習演算用の空間光変調管23
2に書き込む.一方、前記入力パターン変換用の空間光
変調管212には、想起時と同様にして入力パターンX
の多重像XIIJ2tを書き込む.この状態で、シャッ
タ234を閉じ、シャツタ236を開いて、前記レーザ
光源240から、空間光変調管232及び212に順次
レーザ光を照射し、これらに蓄積された画像を順次読出
して、拡大された教師パターンtnagと入力パターン
の多重像xnf! tのアダマール積( tla(1・
Xll,1)を演算し、前記記憶行列用の空間光変調管
220に加算を行う.続いて、シャツタ270を閉じ、
シャッタ278を開いて、出力関数用の空間光変調管2
62に蓄積された想起結果yを、拡大結像系230を通
して空間光変調管232にyIIagの形で書き込む.
次いで、空間光変調管232及び212を連続で読出す
ことにより、アダマール積’71aQ・xnJtを演算
し、前記記憶行列用の空間光変調管220に対して減算
を行う.この時、学習ゲインαは、空間光変調管220
への書き込み時間制御又は電圧制御によって行うことが
できる. この操作を繰返すことによって学習が進み、記憶行列M
の連想能力が増すことになる.このようにして学習され
た記憶行列M(2次元のアナログ値を保持)を用いるこ
とで、パターン認識や分類等の処理機能を実現すること
ができる.本実施例においては、入力パターン及び学習
出力パターンの表示、そして入力一出力間の重みを示す
記憶行列が、演算の基本となり、並列度の高い演算であ
る入力と記憶行列間の演算が光演算で行われる. なお、「赤いjという言葉から「リンゴ』を連想するよ
うな、ある対象からの情報に対してシンボルの関連づけ
を行う相互想起型連想記憶を、前記実施例のような光演
算を用いた連想記憶装置で実現する際には、光強度を用
いる演算であるため、負の量の表現が難しいこと、透A
率を用いているため上限が存在すること等の理由で記憶
行列Mの飽和が生ずると、連想能力が低下したり、学習
が収束しない場合がある.このような場合には、次のよ
うにして、学習出力パターンの設定や、空間光変調管の
設定電圧を工夫することができる.即ち、学習出力パタ
ーンtの設定に際しては、複数の信号から形或される入
力学習パターンX(例えば、物体認識システムにおける
多種のセンサからの信号)に対して出力パターンtを設
定する場合には、各学習出力パターンtの平均値を記憶
行列Mのダイナミックレンジの平均値に合せて設定する
ことにより、記憶行列Mの飽和を少くすることが可能で
ある. 又、学習開始時の記憶行列の初期値M(0)を、記憶行
列Mのダイナミックレンジの中心に持っていくことによ
り、記憶行列Mの飽和を少なくすることもできる. 又、学習動作に際しては、例えば第4図に示す如く、学
習ゲインαの設定値によって、学習の収束速度及び記憶
行列の飽和時期が大きく変化する.即ち、α=0.1の
場合には、収束は遅いが安定した学習が実現される.α
=0.3の場合には、収束が速く想起時の分離もよい.
α=0.5となると、安定性が悪くなる.従って、記憶
行列Mの飽和を防ぐには、記憶行列の収束が振動しない
で行われる学習ゲインを選択すれば良い.又、前記空間
光変調管は、入力一出力関数特性に、sin’の閤係を
有する.しかしながら、学習においては、線形性の高い
ほうが、収束時の歪みが少ないために都合がよい.そこ
で、入力パターン表示用の空間光変調管212及び記憶
行列用の空間光変調管220の動作電圧(電気光学結晶
212E、220Eへの印加電圧vb )を、第5図に
示す如く、通常の設定電圧であるVbwl、Vbe1の
組合せから、Vbw2、Vbe2の組合せに変更して、
線形性の良い入出力特性を得ることができる. 本実施例においては、1次処理装置として光フーリエ変
換装置100を用い、光ニューラルネットワーク装置と
して光連想記憶装置200を用いて、全ての処理を光演
算で行うようにしているので、高速の演算が可能である
.なお、1次処理装置と光ニューラルネットワーク装置
の組合わせはこれに限定されず、例えば1次処理として
、エッジ抽出、細線化、回転、拡大・縮小、重心等の2
次元画像特徴抽出処理や、センサ出力処理や、相関出力
等、多種多様の情報圧縮技術があり、それを次段の光ニ
ューラルネットワーク装置に送ることによって、認識処
理を行うことができる.例えば、2次元画像特徴抽出処
理は、空間光変調管の持つ演X機能や、電子レンズ系に
よって光演算が可能である.一方、センサ出力や相関出
力については、1次処理側からの出力を光信号に変換し
て、後段の光ニューラルネットワーク装置の入力とする
ことができる. 又、前記実施例においては、光ニューラルネットワーク
装置として、相互想起型光連想記憶装置を用いていたが
、光ニューラルネットワーク装置の種類もこれに限定さ
れず、バックプロバゲーション等による多層型連想記憶
装置、双方向連想記憶装置、ホップフィールド型連想記
憶装置等、他の連想記憶装置や、一般の光ニューラルネ
ットワーク装置を用いることも可能である.
【図面の簡単な説明】
第1図は、本発明の基本的な構成を示すプロツク!l図
、 第2図は、本発明の実施例の構成を示す光路図、第3図
は、前記実施例で用いられている空間光変調管の基本的
な構成を示す断面図、 第4図は、前記実施例における学習ゲインαの違いによ
る収束状態の違いを示すための線図、第5図は、前記実
施例の変形例における、線形性を重視した空間光変調管
の電圧設定例を示す線図である. 0・・・1次処理装置、 0・・・光ニューラルネットワーク装置、00・・・光
フーリエ変換装置、 18・・・画像変換用空間光変調管、 20、240・・・レーザ光源、 32・・・フーリエ変換(FT)レンズ、34・・・特
徴量記憶用空間光変調管、00・・・光連想記憶装置、 10・・・多重結像系、 12・・・入力パターン変換用空間光変調管、220・
・・記憶行列用空間光変調管、230・・・拡大結像系
、 232・・・学習演算用空間光変調管、260・・・局
所結像系、 262・・・出力演算用空間光変調管、X・・・入力パ
ターン、 y・・・想起出力、 t・・・教師パターン.

Claims (2)

    【特許請求の範囲】
  1. (1)2次元画像入力情報を1次処理して、対象パター
    ンの特徴を抽出する1次処理装置と、該圧縮された情報
    を適応的に光演算で並列処理する光ニューラルネットワ
    ーク装置と、 を含むことを特徴とする1次処理を用いた光ニューラル
    ネットワーク装置。
  2. (2)請求項1において、前記1次処理装置が、2次元
    入力画像をコヒーレント像に変換する画像変換装置と、
    該コヒーレント像を光学的にフーリエ変換する2次元フ
    ーリエ変換光学装置と、該フーリエ像を記憶する特徴量
    記憶装置を含む光フーリエ変換装置であり、 前記光ニューラルネットワーク装置が、前記特徴量記憶
    装置から読出されたフーリエ像を多重化して結像する多
    重結像系と、該多重結像された像を保持する入力パター
    ン変換装置と、入力パターンと想起出力パターンの相互
    相関に応じた記憶行列を保持する記憶行列保持装置と、
    前記入力パターン変換装置及び記憶行列保持装置にそれ
    ぞれ保持された画像を連続的に読出すことによつて形成
    された画像を局所結像して、部分和演算を光演算で行う
    ための局所結像系と、該局所結像された像に対して出力
    関数を光演算により施して想起出力とする出力関数演算
    装置と、記憶したい入力パターンに対する学習出力パタ
    ーン又は想起出力パターンを拡大して結像する拡大結像
    系と、該拡大結像された像と前記入力パターン変換装置
    で多重結像された像を用いて、前記記憶行列を光演算に
    より学習する学習演算装置とを含む光連想記憶装置であ
    ることを特徴とする1次処理を用いた光ニューラルネッ
    トワーク装置。
JP1229637A 1989-09-05 1989-09-05 1次処理を用いた光ニユーラルネツトワーク装置 Pending JPH0391878A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP1229637A JPH0391878A (ja) 1989-09-05 1989-09-05 1次処理を用いた光ニユーラルネツトワーク装置
US07/575,431 US5080464A (en) 1989-09-05 1990-08-30 Optical neural network apparatus using primary processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP1229637A JPH0391878A (ja) 1989-09-05 1989-09-05 1次処理を用いた光ニユーラルネツトワーク装置

Publications (1)

Publication Number Publication Date
JPH0391878A true JPH0391878A (ja) 1991-04-17

Family

ID=16895319

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1229637A Pending JPH0391878A (ja) 1989-09-05 1989-09-05 1次処理を用いた光ニユーラルネツトワーク装置

Country Status (2)

Country Link
US (1) US5080464A (ja)
JP (1) JPH0391878A (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5412755A (en) * 1991-11-26 1995-05-02 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Optical implementation of inner product neural associative memory
US5155606A (en) * 1991-12-06 1992-10-13 Lockheed Missiles & Space Company, Inc. Glint suppression technique
US5995954A (en) * 1992-03-18 1999-11-30 Loos; Hendricus G. Method and apparatus for associative memory
JP2774738B2 (ja) * 1992-05-27 1998-07-09 シャープ株式会社 画像符号化復元システム
JPH06148710A (ja) * 1992-09-18 1994-05-27 Hamamatsu Photonics Kk 光デジタル装置
DE4330847A1 (de) * 1993-09-11 1995-03-16 Sel Alcatel Ag Vorrichtung und Verfahren zur Datenverarbeitung
US5528389A (en) * 1994-01-04 1996-06-18 At&T Corp. Optical holographic system for parallel to serial and serial to parallel conversion of optical data
US5668647A (en) * 1994-01-04 1997-09-16 Lucent Technologies Inc. Method and apparatus and for processing ultrafast optical signals
JP3583535B2 (ja) * 1994-12-12 2004-11-04 ゼロックス コーポレイション 光学的にアドレスされたニューラルネットワーク
US6529614B1 (en) 1998-08-05 2003-03-04 California Institute Of Technology Advanced miniature processing handware for ATR applications
WO2000072267A1 (en) * 1999-05-19 2000-11-30 Lenslet, Ltd. Image compression
AU5061001A (en) * 2000-04-10 2001-10-23 Jtc 2000 Development (Delaware), Inc. Input configuration for shearing processor
US11615297B2 (en) 2017-04-04 2023-03-28 Hailo Technologies Ltd. Structured weight based sparsity in an artificial neural network compiler
US11544545B2 (en) 2017-04-04 2023-01-03 Hailo Technologies Ltd. Structured activation based sparsity in an artificial neural network
US11551028B2 (en) 2017-04-04 2023-01-10 Hailo Technologies Ltd. Structured weight based sparsity in an artificial neural network
US11238334B2 (en) 2017-04-04 2022-02-01 Hailo Technologies Ltd. System and method of input alignment for efficient vector operations in an artificial neural network
US10387298B2 (en) 2017-04-04 2019-08-20 Hailo Technologies Ltd Artificial neural network incorporating emphasis and focus techniques
US11392830B2 (en) * 2018-04-13 2022-07-19 The Regents Of The University Of California Devices and methods employing optical-based machine learning using diffractive deep neural networks
CN109343363B (zh) * 2018-10-30 2020-09-22 清华大学 基于光计算的运动测控系统
US20220300796A1 (en) * 2019-06-03 2022-09-22 Sri International Photonic neural network
US11263077B1 (en) 2020-09-29 2022-03-01 Hailo Technologies Ltd. Neural network intermediate results safety mechanism in an artificial neural network processor
US11237894B1 (en) 2020-09-29 2022-02-01 Hailo Technologies Ltd. Layer control unit instruction addressing safety mechanism in an artificial neural network processor
US11811421B2 (en) 2020-09-29 2023-11-07 Hailo Technologies Ltd. Weights safety mechanism in an artificial neural network processor
US11874900B2 (en) 2020-09-29 2024-01-16 Hailo Technologies Ltd. Cluster interlayer safety mechanism in an artificial neural network processor
US11221929B1 (en) 2020-09-29 2022-01-11 Hailo Technologies Ltd. Data stream fault detection mechanism in an artificial neural network processor

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4833637A (en) * 1986-08-21 1989-05-23 Teledyne Industries, Inc. Acousto-optic multi-channel space integrating correlator
US4809193A (en) * 1987-03-16 1989-02-28 Jourjine Alexander N Microprocessor assemblies forming adaptive neural networks
JPS63292495A (ja) * 1987-05-25 1988-11-29 Agency Of Ind Science & Technol 光−電気ハイブリット型連想記憶装置
JPH0731337B2 (ja) * 1987-06-10 1995-04-10 浜松ホトニクス株式会社 光学的連想記憶装置
JPH067240B2 (ja) * 1987-06-10 1994-01-26 浜松ホトニクス株式会社 光学的連想記憶装置
JPS6478491A (en) * 1987-06-10 1989-03-23 Hamamatsu Photonics Kk Associative storage device
JPH01112225A (ja) * 1987-10-23 1989-04-28 Nec Corp 光演算装置

Also Published As

Publication number Publication date
US5080464A (en) 1992-01-14

Similar Documents

Publication Publication Date Title
JPH0391878A (ja) 1次処理を用いた光ニユーラルネツトワーク装置
Situ Deep holography
Jutamulia et al. Use of electron trapping materials in optical signal processing. 2: two-dimensional associative memory
JP2774331B2 (ja) 全光型多層ニユーラル・ネツトワーク・システム
CN116597144A (zh) 一种基于事件相机的图像语义分割方法
Shi et al. Focus for free in density-based counting
CN115496654A (zh) 基于自注意力机制的图像超分辨率重建方法、设备及介质
Khalil et al. A multi-layer capsule-based forensics model for fake detection of digital visual media
Bryndin Unambiguous Identification of Objects in Different Environments and Conditions Based on Holographic Machine Learning Algorithms
EP4260026A1 (en) Totagraphy: coherent diffractive/digital information reconstruction by iterative phase recovery using special masks
Stojanović et al. Deep Features in Correlation Filters for Thermal Image Tracking
Yin et al. Microscopy image formation, restoration, and segmentation
Dutta Seeing Objects in Dark with Continual Contrastive Learning
Li et al. Low-Light Image Enhancement Method for Consistency Judgment of Multi-view Multi-target for UAV Swarm
JPH03108193A (ja) 光フーリエ変換を用いた2次元画像光連想記憶装置
Hsu Optical neural computing for associative memories
Jutamulia et al. Optical pattern recognition and associative memory using electron trapping materials
JP3100167B2 (ja) パターンマッチング装置
Zhang Coded Illumination for Lensless Imaging
Nadar Hybrid phase-only matched filter for optical pattern recognition
Kilpeläinen Deep Learning for Phase Retrieval in Lensless Imaging
Paek et al. VanderLugt correlator and neural networks
CN117454949A (zh) 全光学卷积神经网络装置
Wu et al. Nonlinear holographic image inpainting via deep learning
Zhang et al. Object Texture Transform Based on Improved CycleGAN