JPH01179132A - 光ニューラル・コンピュータ - Google Patents
光ニューラル・コンピュータInfo
- Publication number
- JPH01179132A JPH01179132A JP272588A JP272588A JPH01179132A JP H01179132 A JPH01179132 A JP H01179132A JP 272588 A JP272588 A JP 272588A JP 272588 A JP272588 A JP 272588A JP H01179132 A JPH01179132 A JP H01179132A
- Authority
- JP
- Japan
- Prior art keywords
- noise
- matrix
- light emitting
- optical neural
- minimum point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003287 optical effect Effects 0.000 title claims abstract description 20
- 230000001537 neural effect Effects 0.000 title claims abstract description 18
- 239000011159 matrix material Substances 0.000 claims abstract description 29
- 238000013528 artificial neural network Methods 0.000 claims description 4
- 229940050561 matrix product Drugs 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 238000002834 transmittance Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000000034 method Methods 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
〔産業上の利用分野〕
この発明は光ニューラル・コンピュータに関し、特に光
ニューラル・コンピュータのハードウェアに関するもの
である。
ニューラル・コンピュータのハードウェアに関するもの
である。
第４図は例えばアプライド・オブティクス誌、１９８５
年５月１５日、第２４巻第１０号１４６９頁〜１４７５
頁（Ａｐｐｌｉｅｄ ０ｐｔｉｃｓ、 Ｖｏｌ、２４．
Ｎｏ。
年５月１５日、第２４巻第１０号１４６９頁〜１４７５
頁（Ａｐｐｌｉｅｄ ０ｐｔｉｃｓ、 Ｖｏｌ、２４．
Ｎｏ。
１０ Ｐ、１４６９〜１４７５．Ｍａｙ １５．１９８
５）に示された従来の光ニューラル・コンピュータ装置
を示す概念図である。図において、１は不完全情報入力
、２はＬＥＤアレイなどのアレイ化発光素子、３は情報
蓄積マトリックス（ネットワークマトリックス。
５）に示された従来の光ニューラル・コンピュータ装置
を示す概念図である。図において、１は不完全情報入力
、２はＬＥＤアレイなどのアレイ化発光素子、３は情報
蓄積マトリックス（ネットワークマトリックス。
Ｔ目マトリックス）、４はＰＤアレイなどのアレイ化受
光素子、５はしきい値処理、フィードバック及びゲイン
等の処理を行うしきい値化負帰還増幅回路、６は完全情
報出力である。
光素子、５はしきい値処理、フィードバック及びゲイン
等の処理を行うしきい値化負帰還増幅回路、６は完全情
報出力である。
次に動作について説明する。
不完全情報人力１よりアレイ化発光素子２に与えられた
初期入力値ｙ、 （ｍｅ）と情報蓄積マトリックスＴ！
Ｊ３とのベクトル・マトリックス積、Ｕ！ ＝ΣＴ！
Ｊ Ｖ Ｊ（１）６）ｊ はアレイ化受光素子４に出力され、しきい値化負の演算
をした後、再び入力情報に帰還され、アレイ化発光素子
２に与えられる。この過程を繰り返すうちに、蓄積され
た情報ｙ％＋ａ）のうちから、最もｖ、 １ｓＯ１に近
いものを出力とする。これは、状ａ（ｓｔａｔｅ ）
ｍのエネルギーＥ（１） を、で記述すれば、常にΔＥ
（ｍｌ ＜ Ｑであることが示され、系は極小点へ“と
収束していく（ジェイ、ジェイ、ホンフフィールド著、
「ナチュラル ネットワークス アンド フィジカルシ
ステムズ ウィズ イマージェント コレクティブ コ
ンビニ−ティシラン アビリイティーズ」プロシイーデ
インダス ナシツナルアカブミックサイエンス誌、１９
８２年、ＵＳＡ ７９．２５５４頁（Ｊ、Ｊ、Ｈｏ−
−ｐｆｉｅｌｄ、 Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ
ａｎｄ Ｐｈｙｓｉｃａｌ Ｓｙｓｔｅｍｓｗｉｔｈ
Ｅｍｅｒｇｅｎｔ Ｃｏ１）ｅｃｔｉｖｅ Ｃｏｍｐ
ｕｔａｔｉｏｎ Ａｂｉｌｉｔｉｅｓ、”Ｐｒｏｃ、
Ｎａｔｌ、 Ａｃａｄ、 Ｓｃｉ、 ＵＳＡ ７９．２
５５４（１９８２）） 。
初期入力値ｙ、 （ｍｅ）と情報蓄積マトリックスＴ！
Ｊ３とのベクトル・マトリックス積、Ｕ！ ＝ΣＴ！
Ｊ Ｖ Ｊ（１）６）ｊ はアレイ化受光素子４に出力され、しきい値化負の演算
をした後、再び入力情報に帰還され、アレイ化発光素子
２に与えられる。この過程を繰り返すうちに、蓄積され
た情報ｙ％＋ａ）のうちから、最もｖ、 １ｓＯ１に近
いものを出力とする。これは、状ａ（ｓｔａｔｅ ）
ｍのエネルギーＥ（１） を、で記述すれば、常にΔＥ
（ｍｌ ＜ Ｑであることが示され、系は極小点へ“と
収束していく（ジェイ、ジェイ、ホンフフィールド著、
「ナチュラル ネットワークス アンド フィジカルシ
ステムズ ウィズ イマージェント コレクティブ コ
ンビニ−ティシラン アビリイティーズ」プロシイーデ
インダス ナシツナルアカブミックサイエンス誌、１９
８２年、ＵＳＡ ７９．２５５４頁（Ｊ、Ｊ、Ｈｏ−
−ｐｆｉｅｌｄ、 Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ
ａｎｄ Ｐｈｙｓｉｃａｌ Ｓｙｓｔｅｍｓｗｉｔｈ
Ｅｍｅｒｇｅｎｔ Ｃｏ１）ｅｃｔｉｖｅ Ｃｏｍｐ
ｕｔａｔｉｏｎ Ａｂｉｌｉｔｉｅｓ、”Ｐｒｏｃ、
Ｎａｔｌ、 Ａｃａｄ、 Ｓｃｉ、 ＵＳＡ ７９．２
５５４（１９８２）） 。
従って、Ｖム（ｍｅ）が蓄積された情報とハミング距離
とが大きくなければ、正しい出力を得ることができる。
とが大きくなければ、正しい出力を得ることができる。
従来の光ニューラル・コンピュータは以上のように構成
されているので、−皮糸が局所極小点にトラップされて
しまうとそこで演算は終了してしまい、偽りの答えを出
力することになる。また、蓄積する情報量が増大するに
つれて、このような局所極小点は増えるために、蓄積情
報量を増やせないという問題点があ４た。
されているので、−皮糸が局所極小点にトラップされて
しまうとそこで演算は終了してしまい、偽りの答えを出
力することになる。また、蓄積する情報量が増大するに
つれて、このような局所極小点は増えるために、蓄積情
報量を増やせないという問題点があ４た。
この発明は上記のような問題点を解消するためになされ
たもので、トラップされた局所極小点から系を解放し、
より安定した解へと収束することができるとともに、従
来の決定論的光コンピュータよりも蓄積情報量を増やす
ことのできる光ニューラル・コンピュータを提供するこ
とを目的とする。
たもので、トラップされた局所極小点から系を解放し、
より安定した解へと収束することができるとともに、従
来の決定論的光コンピュータよりも蓄積情報量を増やす
ことのできる光ニューラル・コンピュータを提供するこ
とを目的とする。
この発明に係る光ニューラル・コンピュータは、統計的
ノイズを外部からネットワークマトリックス透過レベル
に或いはしきい値レベルに加する手段を設けることによ
り、しきい値レベル或いはネットワークマトリックス透
過率レベルに、ある確率分布を持たせたものである。
ノイズを外部からネットワークマトリックス透過レベル
に或いはしきい値レベルに加する手段を設けることによ
り、しきい値レベル或いはネットワークマトリックス透
過率レベルに、ある確率分布を持たせたものである。
この発明における光ニューラル・コンピュータは、統計
的ノイズを外部からネットワークマトリックス透過率レ
ベル或いはしきい値レベルに加えたので、ネットワーク
マトリックス透過レベルあるいはしきい値レベルの確率
分布が、系のエネルギー状態に摂動を与え、それにより
、局所極小点からの解放が達成される。
的ノイズを外部からネットワークマトリックス透過率レ
ベル或いはしきい値レベルに加えたので、ネットワーク
マトリックス透過レベルあるいはしきい値レベルの確率
分布が、系のエネルギー状態に摂動を与え、それにより
、局所極小点からの解放が達成される。
以下、この発明の一実施例を図について説明する。
第１図はこの発明の第１の実施例による光ニューラル・
コンピュータの概念図である０図において、第４図と同
一符号は同一部分を示し、７は空間的時間的にランダム
な強度をもつノイズ光源で、これをＴ目マトリックス３
上に照射することにより、Ｔｌｊマトリックス３に統計
的なノイズを与え・るためのものである。
コンピュータの概念図である０図において、第４図と同
一符号は同一部分を示し、７は空間的時間的にランダム
な強度をもつノイズ光源で、これをＴ目マトリックス３
上に照射することにより、Ｔｌｊマトリックス３に統計
的なノイズを与え・るためのものである。
また第２図は本発明の第２の実施例である光ニューラル
・コンピュータを示す概念図である。図において、８は
ネットワークマトリックスマスク３の前に置かれた、透
過率の時間的かつ空間的な確率分布をもつノイズ付加用
マトリックスマスクである０本実施例ではこのノイズ付
加用マトリックスマスク８により、ネットワークマトリ
ックスマスク３にノイズを印加してネットワークマトリ
ックスマスク３の透過率に確率分布を持たせるようにし
たものである。なお、このノイズ付加用マスク８はマス
ク３の後ろに設置してもよい。
・コンピュータを示す概念図である。図において、８は
ネットワークマトリックスマスク３の前に置かれた、透
過率の時間的かつ空間的な確率分布をもつノイズ付加用
マトリックスマスクである０本実施例ではこのノイズ付
加用マトリックスマスク８により、ネットワークマトリ
ックスマスク３にノイズを印加してネットワークマトリ
ックスマスク３の透過率に確率分布を持たせるようにし
たものである。なお、このノイズ付加用マスク８はマス
ク３の後ろに設置してもよい。
次に第１．第２の実施例の動作について説明する。
情報蓄積マトリックス３には、ノイズ光源７あるいはノ
イズ付加用マトリックスマスク８からノイズが加えられ
、 Ｔｉｊ ″ Ｔ！ｊ＋ ε ｉＪとなる。ここで
εｉＪはノイズである。このようにノイズを重畳したＴ
ｉ、マトリックス３とアレイ化発光素子２に与えられた
初期入力値Ｖム（′″０）とのベクトル・マトリックス
積である、 Σ （Ｔムｊ＋ ε 五、） ｙｊ （＠（１）はア
レイ化受光素子４に出力され、しきい値化負帰還増幅回
路５で、 の演算をした後、再び入力情報に帰還されアレイ化発光
素子２に入力として与えられる。この時の状Ｑ （ｓｔ
ａｔｅ ） ｍのエネルギーＥｌｌｌ）は、で、 ΔＢ、（＠）＝−ΔＶ＋ （ΣＴ、、Ｖ、 ＋Σｇ
ｉｊＶｔ）Ｊ南ｉ Ｊｌ＋五 となり、第２項がノイズ成分として働く、ここで、εｌ
ｊの確率分布を適当に決めることにより、局所極小点の
束縛エネルギーよりもΔＥ％ｌｌｌ を大きくすること
が統計的に可能となり、系は局所極小点から脱出し、よ
り安定な極小点へと収束することができる。
イズ付加用マトリックスマスク８からノイズが加えられ
、 Ｔｉｊ ″ Ｔ！ｊ＋ ε ｉＪとなる。ここで
εｉＪはノイズである。このようにノイズを重畳したＴ
ｉ、マトリックス３とアレイ化発光素子２に与えられた
初期入力値Ｖム（′″０）とのベクトル・マトリックス
積である、 Σ （Ｔムｊ＋ ε 五、） ｙｊ （＠（１）はア
レイ化受光素子４に出力され、しきい値化負帰還増幅回
路５で、 の演算をした後、再び入力情報に帰還されアレイ化発光
素子２に入力として与えられる。この時の状Ｑ （ｓｔ
ａｔｅ ） ｍのエネルギーＥｌｌｌ）は、で、 ΔＢ、（＠）＝−ΔＶ＋ （ΣＴ、、Ｖ、 ＋Σｇ
ｉｊＶｔ）Ｊ南ｉ Ｊｌ＋五 となり、第２項がノイズ成分として働く、ここで、εｌ
ｊの確率分布を適当に決めることにより、局所極小点の
束縛エネルギーよりもΔＥ％ｌｌｌ を大きくすること
が統計的に可能となり、系は局所極小点から脱出し、よ
り安定な極小点へと収束することができる。
ここで、上記第１．第２の実施例においては、ともにネ
ットワークマトリックスマスク３にノイズを印加する手
段としては、光を用いたものを例に示したが、これは電
気的に行うようなものでもよ（、その場合においても上
記実施例と同様の効果を奏する。
ットワークマトリックスマスク３にノイズを印加する手
段としては、光を用いたものを例に示したが、これは電
気的に行うようなものでもよ（、その場合においても上
記実施例と同様の効果を奏する。
なお、上記第１．第２実施例はともに、ノイズ印加手段
によってネットワークマトリックスマスクの透過率レベ
ルに確率分布をもたせるようにしたものであるが、しき
い値化処理回路にノイズを印加してしきい値レベルに確
率分布をもたせるように構成してもよく、その構成を第
３の実施例として第３図に示す、第３図において、９は
ノイズ源、１０はしきい値化処理回路である。
によってネットワークマトリックスマスクの透過率レベ
ルに確率分布をもたせるようにしたものであるが、しき
い値化処理回路にノイズを印加してしきい値レベルに確
率分布をもたせるように構成してもよく、その構成を第
３の実施例として第３図に示す、第３図において、９は
ノイズ源、１０はしきい値化処理回路である。
不完全情報人力−よりアレイ化発光素子２に与えられた
初期入力値ｙ、 （＋ｍｏ）と情報蓄積マトリックスＴ
＝ ｊ３とのベクトル・マトリックス積、Ｕ！ ＝Σ
Ｔｉ、ｙ ｊ （＋ａｏｌがアレイ化受光素子４に出力
される。次に、しきい値化処理回路１０で演算を行うの
であるが、しきい値化処理回路１０にはノイズ源９より
ノイズεｉｊが印加されているので、しきい値化処理回
路１０のしきい値レベルが確率分布をもち、次のような
演算になる。
初期入力値ｙ、 （＋ｍｏ）と情報蓄積マトリックスＴ
＝ ｊ３とのベクトル・マトリックス積、Ｕ！ ＝Σ
Ｔｉ、ｙ ｊ （＋ａｏｌがアレイ化受光素子４に出力
される。次に、しきい値化処理回路１０で演算を行うの
であるが、しきい値化処理回路１０にはノイズ源９より
ノイズεｉｊが印加されているので、しきい値化処理回
路１０のしきい値レベルが確率分布をもち、次のような
演算になる。
この演算をした後、再び入力情報に帰還され、アレイ化
発光素子２に与えられる。
発光素子２に与えられる。
以上のように本実施例は、上記第１．第２の実施例とは
異なり、ネットワークマトリックスマスク３にノイズを
印加するのではなく、ノイズ源９によってしきい値化処
理回路１０に電気的な統計的ノイズを印加するもので、
これによりしきい値レベルに確率分布をもたせるように
したものであり、このような第３の実施例においても、
上記第１、第２の実施例と同様に、系を局所極小点から
解放でき、より安是な極小点へと収束させることができ
る。
異なり、ネットワークマトリックスマスク３にノイズを
印加するのではなく、ノイズ源９によってしきい値化処
理回路１０に電気的な統計的ノイズを印加するもので、
これによりしきい値レベルに確率分布をもたせるように
したものであり、このような第３の実施例においても、
上記第１、第２の実施例と同様に、系を局所極小点から
解放でき、より安是な極小点へと収束させることができ
る。
また、受光手段であるアレイ化受光素子としきい値化負
帰還増幅回路は一体化して設けられていてもよく、ある
いは発光手段であるアレイ化発光素子としきい値化負帰
還増幅回路が一体化して設けられていてもよい。
帰還増幅回路は一体化して設けられていてもよく、ある
いは発光手段であるアレイ化発光素子としきい値化負帰
還増幅回路が一体化して設けられていてもよい。
以上のようにこの発明によれば、従来の光ニューラル・
コンピュータに統計的ノイズを外部からネットワークマ
トリックス透過率レベル、あるいはしきい値レベルに加
えたので、系を局所極小点から解放でき、より安定な極
小点へと収束させることが可能となり、従来の光ニュー
ラル・コンピュータよりも連想の確度を高めることがで
き、しかも蓄積情報量の増やすことができる効果もある
。
コンピュータに統計的ノイズを外部からネットワークマ
トリックス透過率レベル、あるいはしきい値レベルに加
えたので、系を局所極小点から解放でき、より安定な極
小点へと収束させることが可能となり、従来の光ニュー
ラル・コンピュータよりも連想の確度を高めることがで
き、しかも蓄積情報量の増やすことができる効果もある
。
第１図はこの発明の第１の実施例による光ニューラル・
コンピュータを示す概念図、第２図は本発明の第２の実
施例である光ニューラル・コンピュータを示す概念図、
第３図は本発明の第３の実施例である光ニューラル・コ
ンピュータを示す概念図、第４図は従来の光ニューラル
・コンピュータを示す概念図である。 １は不完全情報入力、２はアレイ化発光素子、３は情報
蓄積マトリックス、４はアレイ化受光素子、５はしきい
値化負帰還増幅回路、６は完全情報出力、７はノイズ光
源、８はノイズ付加用マトリックスマスク、９はノイズ
源、１０は−しきい値化処理回路である。 なお図中同一符号は同−又は相当部分を示す。
コンピュータを示す概念図、第２図は本発明の第２の実
施例である光ニューラル・コンピュータを示す概念図、
第３図は本発明の第３の実施例である光ニューラル・コ
ンピュータを示す概念図、第４図は従来の光ニューラル
・コンピュータを示す概念図である。 １は不完全情報入力、２はアレイ化発光素子、３は情報
蓄積マトリックス、４はアレイ化受光素子、５はしきい
値化負帰還増幅回路、６は完全情報出力、７はノイズ光
源、８はノイズ付加用マトリックスマスク、９はノイズ
源、１０は−しきい値化処理回路である。 なお図中同一符号は同−又は相当部分を示す。
Claims (1)
- （１）入力信号を受け、光を発光する発光手段と、該発
光手段からの光を受ける、あらかじめ情報を蓄積してい
るネットワークマトリックスマスクと、 該ネットワークマトリックスマスクからの光を受ける受
光手段と、 該受光手段からの光をしきい値処理して上記発光手段に
加えるしきい値処理手段とを備え、上記入力信号に対し
連想・推論を行うニューラルネットワークシステムを構
成する光ニューラル・コンピュータにおいて、 外部から上記システムに対し、統計的ノイズを加えるノ
イズ印加手段を備えたことを特徴とする光ニューラル・
コンピュータ。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP272588A JPH01179132A (ja) | 1988-01-09 | 1988-01-09 | 光ニューラル・コンピュータ |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP272588A JPH01179132A (ja) | 1988-01-09 | 1988-01-09 | 光ニューラル・コンピュータ |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH01179132A true JPH01179132A (ja) | 1989-07-17 |
Family
ID=11537288
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP272588A Pending JPH01179132A (ja) | 1988-01-09 | 1988-01-09 | 光ニューラル・コンピュータ |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH01179132A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03188429A (ja) * | 1989-10-18 | 1991-08-16 | Internatl Business Mach Corp <Ibm> | 複数のデータ処理部材間でデータを共有するためのスイツチおよびその方法 |
| US9488182B2 (en) | 2010-05-27 | 2016-11-08 | Borgwarner Inc. | Control shaft seal |
-
1988
- 1988-01-09 JP JP272588A patent/JPH01179132A/ja active Pending
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH03188429A (ja) * | 1989-10-18 | 1991-08-16 | Internatl Business Mach Corp <Ibm> | 複数のデータ処理部材間でデータを共有するためのスイツチおよびその方法 |
| JP2612637B2 (ja) * | 1989-10-18 | 1997-05-21 | インターナショナル・ビジネス・マシーンズ・コーポレーション | マルチプロセッシング環境の下でデ−タを共有する装置 |
| US9488182B2 (en) | 2010-05-27 | 2016-11-08 | Borgwarner Inc. | Control shaft seal |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20210201125A1 (en) | On-chip training of memristor crossbar neuromorphic processing systems | |
| Farhat | Optoelectronic analogs of self-programming neural nets: architecture and methodologies for implementing fast stochastic learning by simulated annealing | |
| US20210304005A1 (en) | Trace-based neuromorphic architecture for advanced learning | |
| US8655813B2 (en) | Synaptic weight normalized spiking neuronal networks | |
| Fisher et al. | Optical implementations of associative networks with versatile adaptive learning capabilities | |
| Zhou et al. | Noisy machines: Understanding noisy neural networks and enhancing robustness to analog hardware errors using distillation | |
| JP3707804B2 (ja) | 光学情報処理装置 | |
| JP2013546065A (ja) | シミュレーションを使用して学習されるシナプス重みを用いるニューロモーフィック／シナプトロニック・スパイキング・ニューラル・ネットワークのための方法、デバイス、および回路 | |
| US11042715B2 (en) | Electronic system for performing a multiplication of a matrix and vector | |
| KR930018399A (ko) | 분산된 신경세포를 구비한 신경신호처리장치 | |
| McCulloch et al. | Of digital computers called brains | |
| Sardi et al. | Brain experiments imply adaptation mechanisms which outperform common AI learning algorithms | |
| King | Quantum mechanics, chaos and the conscious brain | |
| JPH01179132A (ja) | 光ニューラル・コンピュータ | |
| JP2530404B2 (ja) | 光ニュ―ラルネットワ―クシステム | |
| Gutiérrez-Naranjo et al. | Hebbian learning from spiking neural P systems view | |
| JP2621378B2 (ja) | ニューロコンピュータ | |
| EP0382230B1 (en) | Neural network processing system | |
| Cuéllar et al. | Fast parallel computation of reduced row echelon form to find the minimum distance of linear codes | |
| Simpkins | Design, modeling, and simulation of a compact optoelectronic neural coprocessor | |
| Gutiérrez-Naranjo et al. | A spiking neural P system based model for Hebbian learning | |
| Winrich | Training and source code generation for artificial neural networks | |
| Gutiérrez Naranjo et al. | A first model for Hebbian learning with spiking neural P systems | |
| Clark et al. | Connectionist statistical inference | |
| Kashefi | Rapidly training device for fiber-optic neural network |