JP2530404B2 - 光ニュ―ラルネットワ―クシステム - Google Patents

光ニュ―ラルネットワ―クシステム

Info

Publication number
JP2530404B2
JP2530404B2 JP4036650A JP3665092A JP2530404B2 JP 2530404 B2 JP2530404 B2 JP 2530404B2 JP 4036650 A JP4036650 A JP 4036650A JP 3665092 A JP3665092 A JP 3665092A JP 2530404 B2 JP2530404 B2 JP 2530404B2
Authority
JP
Japan
Prior art keywords
light
element array
spatial light
weight
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP4036650A
Other languages
English (en)
Other versions
JPH05233859A (ja
Inventor
勝美 海津
悟 吉田
正 曽根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP4036650A priority Critical patent/JP2530404B2/ja
Publication of JPH05233859A publication Critical patent/JPH05233859A/ja
Application granted granted Critical
Publication of JP2530404B2 publication Critical patent/JP2530404B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Optical Modulation, Optical Deflection, Nonlinear Optics, Optical Demodulation, Optical Logic Elements (AREA)
  • Optical Communication System (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、光ニューラルネットワ
ークシステムの改良に関するものである。
【0002】
【従来の技術】ニューラルネットワークシステムは、神
経細胞間の情報伝達の動作を模擬することにより、従来
の計算機では不得意とされる認識処理や連想処理を行わ
せようとするもので、現在、そのための研究が活発に行
われている。
【0003】このようなニューラルネットワークシステ
ムの一つとして、信号の伝搬及び信号同士の積和演算を
光の空間伝搬特性を用いて行う光ニューラルネットワー
クシステムがある。
【0004】図2は従来の光ニューラルネットワークシ
ステムの一例、例えばOptics Letters,Vol.12,No.6
に示された従来の学習形光ニューロコンピュータシステ
ムの構成例を示すもので、図中、1は発光素子アレイ、
2は空間光変調素子アレイ、3は受光素子アレイ、4は
コンピュータである。
【0005】次に、このシステムの学習動作について説
明するが、発光素子アレイ1のi番目の素子から発した
光は空間光変調素子アレイ2のi行目を均一に照射する
ものとし、また、空間光変調素子アレイ2のj列目を透
過した光は受光素子アレイ3のj番目の素子に全て集光
されるものとする。
【0006】コンピュータ4は、始めに学習させようと
するデータOi を発光素子アレイ1の発光強度として、
また、神経細胞間の結合強度に相当する重みWijを空間
光変調素子アレイ2の光の透過率として設定する。これ
により、受光素子アレイ3から出力されるデータI
j は、 となる。
【0007】次に、コンピュータ4は受光素子アレイ3
からの出力データIj と、発光素子アレイ1に入力した
データOi に対する出力の期待値(教師データ)とを比
較し、その誤差δj を求めるとともに、受光素子アレイ
3からの出力データをこれに近づけるよう、空間光変調
素子アレイ2の各セル(素子)に設定する新たな重みW
ij(new) を、 Wij(new) =Wij+ηOi δj ……(2) (但し、ηは重みの更新の度合いを決める係数)により
計算し、この値を空間光変調素子アレイ2の各セルへ転
送する。
【0008】前述した操作を学習すべき複数のデータに
対して繰返し実施することにより、最終的に出力データ
を教師データとほぼ一致させることが可能となる。
【0009】
【発明が解決しようとする課題】しかしながら、前述し
た光ニューラルネットワークシステムでは、重みWij
算出が外部のコンピュータ4で行われるため、システム
内の結合数が増加すると、これに比例して計算時間が増
加する。また、計算した重みを空間光変調素子アレイの
各セルへ転送する処理に要する時間も必要となる。
【0010】例えば、250個の重みからなる光ニュー
ラルネットワークシステムで8個のデータを学習する場
合、1回の学習で2000回の重みの演算と転送が必要
となる。一般に、学習が集束するためには104 程度の
学習回数が必要となるため、この場合の演算回数は2×
107 回となる。1回の重みの演算と転送に必要な時間
を2msとすると、総学習時間は4×104 秒(約11時
間)となり、必ずしも光の並列演算性、並列伝達性を有
効に活用しているとはいえず、効率的な学習が不可能で
あった。
【0011】本発明は前述した従来の問題点に鑑み、光
の並列演算性、並列伝達性を有効に活用し、学習処理に
要する時間を大幅に短縮し得る光ニューラルネットワー
クシステムを提供することを目的とする。
【0012】
【課題を解決するための手段】本発明では前記目的を達
成するため、複数の入力信号に対応した複数の光を発生
する入力部と、該入力部からの複数の光に対して光の透
過率を変化させることにより所定の演算を行わせる中間
部と、該中間部を透過した複数の光を複数の出力信号に
変換する出力部とからなる光ニューラルネットワークシ
ステムにおいて、前記中間部を、入力部からの複数の光
に対して出力信号と教師信号との誤差を設定する複数の
空間光変調素子からなる空間光変調素子アレイと、該空
間光変調素子アレイを透過した光の一部を受光し電気信
号に変換する受光部、該電気信号に基いて重みを計算す
る計算部及び該計算した重みを光の透過率として設定す
る空間光変調部を備えた複数の重み設定素子からなる重
み設定素子アレイとを用いて構成した光ニューラルネッ
トワークシステムを提案する。
【0013】
【作用】本発明によれば、入力部からの複数の光に対し
て出力信号と教師信号との誤差を設定する複数の空間光
変調素子からなる空間光変調素子アレイにより、重みの
更新に必要な誤差情報を光を用いて伝達でき、また、空
間光変調素子アレイを透過した光の一部を受光し電気信
号に変換する受光部、該電気信号に基いて重みを計算す
る計算部及び該計算した重みを光の透過率として設定す
る空間光変調部を備えた複数の重み設定素子からなる重
み設定素子アレイにより、光による誤差情報に基いて重
みの更新を全セルで同時に実行できる。
【0014】
【実施例】図1は本発明の光ニューラルネットワークシ
ステムの一実施例を示すもので、図中、5は入力データ
を設定する空間光変調素子アレイ、6は出力データと教
師データとの誤差を設定する空間光変調素子アレイ、7
は重み設定素子アレイ、8は演算結果を得る受光素子ア
レイ、9は出力データと教師データとの誤差を求める外
部の演算回路、例えばコンピュータである。
【0015】空間光変調素子アレイ5は入力光に対して
縦方向に均一な光変調ができる複数のストライプ状の空
間光変調素子の集合体であり、また、空間光変調素子ア
レイ6は入力光に対して横方向に均一な光変調ができる
複数のストライプ状の空間光変調素子の集合体である。
受光素子アレイ8は横1列の光を同時に受光し加算して
出力する複数のストライプ状の光電変換素子からなって
いる。
【0016】重み設定素子アレイ7は、空間光変調素子
アレイ5,6を透過した光の一部を受光し電気信号に変
換する受光部と、該電気信号に基いて重みを計算する計
算部と、該計算した重みを光の透過率として設定する空
間光変調部とを備えた複数の重み設定素子からなってい
る。
【0017】次に、本システムをニューラルネットワー
クにおける学習方法の一つであるバックプロパゲーショ
ンによる学習に適用した場合の動作について説明する。
説明に当って、光源(図示せず)の光量は「1」に正規
化されているものとする。
【0018】図1に示す如く、入力データにOi 、これ
に対する教師データとしてRj が設定されていると仮定
する。また、重み設定素子アレイ7の位置(i,j)の
セルには初期値としてWijなる重みが設定されているも
のとする。
【0019】バックプロパゲーションによる学習処理
は、(1) ニューラルネットワーク演算、(2) 演算結果に
対する誤差の逆伝搬、(3) 誤差の値を基にした新しい重
みの生成、の3つの処理に分けられる。
【0020】(1) ニューラルネットワーク演算 空間光変調素子アレイ5には入力データOi 、空間光変
調素子アレイ6には誤差伝搬のタイミングではないので
「1」が設定される。従って、受光素子アレイ8のj番
目のセルからは、 なる値が出力される。
【0021】(2) 誤差の逆伝搬 誤差δj は、コンピュータ9により δj =Ij −Rj ……(4) で計算され、その結果が空間光変調素子アレイ6に設定
される。この結果、重み設定素子アレイ7の位置(i,
j)のセルで受光される値はOi δj となる。
【0022】(3) 重みの更新 重み設定素子アレイ7の位置(i,j)のセル内では受
光された値Oi δj を基にして、 Wij(new) =Wij+ηOi δj ……(4) (但し、ηは重みの更新の度合いを決める係数)により
新しい重みWij(new) の演算が行われる。この演算は重
み設定素子アレイ7の各セルでそれぞれが受光した値を
基にして同時に実行される。
【0023】前述した演算を実行する重み設定素子アレ
イ7中の1つのセルの詳細を図3に示す。図中、71は
空間光変調素子アレイ6を透過した光を受光し電気信号
に変換する受光素子、72は乗算回路、73は加算回
路、74は計算した新しい重みを記憶する記憶回路、7
5は1つ前の重みを記憶する記憶回路、76は計算した
重みを光の透過率として設定する空間光変調素子であ
る。なお、1つのセルはその大部分の領域が空間光変調
素子76で占められ、受光素子71は例えば、その中央
部の一部分に設けられる。また、他の回路は各セル間も
しくはアレイ周辺に設けられる。
【0024】ここまでは説明を簡単にするため、正の誤
差による重みの正方向への更新について述べたが、空間
光変調素子アレイ6の列を二分し、正負それぞれの誤差
を設定し、重み設定素子アレイ7にも正負の誤差信号を
独立して受光する受光部を設けることにより、前記構成
を適用した重みの加減算が可能となる。
【0025】このように前記実施例によれば、重みの更
新は全てのセルで同時に実行されるため、重み更新時間
はニューラルネットワークの規模によらず一定となり、
高速処理が実現できる。また、外部のコンピュータで実
施される誤差の演算数は重み設定素子アレイ7のセルの
数、即ちニューラルネットワークの規模の1/2乗とな
るため、コンピュータにおける計算時間も短時間で済
む。さらに、前記誤差の演算は非常に単純であることか
ら、各セル毎に専用の演算回路を設け並列処理を行うこ
とにより、さらに高速化を図ることも可能である。
【0026】
【発明の効果】以上説明したように本発明によれば、入
力部からの複数の光に対して出力信号と教師信号との誤
差を設定する複数の空間光変調素子からなる空間光変調
素子アレイと、該空間光変調素子アレイを透過した光の
一部を受光し電気信号に変換する受光部、該電気信号に
基いて重みを計算する計算部及び該計算した重みを光の
透過率として設定する空間光変調部を備えた複数の重み
設定素子からなる重み設定素子アレイとを用いたため、
重みの更新に必要な誤差情報を光を用いて伝達でき、ま
た、該光による誤差情報に基いて重みの更新を全セルで
同時に実行できるので、従来のように外部で重みの演算
を行い、これを電気的に転送する必要がなくなり、学習
に要する時間を飛躍的に短縮させることが可能となる。
【図面の簡単な説明】
【図1】本発明の光ニューラルネットワークシステムの
一実施例を示す構成図
【図2】従来の光ニューラルネットワークシステムの一
例を示す構成図
【図3】重み設定素子アレイ中の1つのセルの詳細を示
す構成図
【符号の説明】 5,6…空間光変調素子アレイ、7…重み設定素子アレ
イ、8…受光素子アレイ、9…コンピュータ、71…受
光素子、72…乗算回路、73…加算回路、74,75
…記憶回路、76…空間光変調素子。

Claims (1)

    (57)【特許請求の範囲】
  1. 【請求項1】 複数の入力信号に対応した複数の光を発
    生する入力部と、該入力部からの複数の光に対して光の
    透過率を変化させることにより所定の演算を行わせる中
    間部と、該中間部を透過した複数の光を複数の出力信号
    に変換する出力部とからなる光ニューラルネットワーク
    システムにおいて、 前記中間部を、 入力部からの複数の光に対して出力信号と教師信号との
    誤差を設定する複数の空間光変調素子からなる空間光変
    調素子アレイと、 該空間光変調素子アレイを透過した光の一部を受光し電
    気信号に変換する受光部、該電気信号に基いて重みを計
    算する計算部及び該計算した重みを光の透過率として設
    定する空間光変調部を備えた複数の重み設定素子からな
    る重み設定素子アレイとを用いて構成したことを特徴と
    する光ニューラルネットワークシステム。
JP4036650A 1992-02-24 1992-02-24 光ニュ―ラルネットワ―クシステム Expired - Fee Related JP2530404B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4036650A JP2530404B2 (ja) 1992-02-24 1992-02-24 光ニュ―ラルネットワ―クシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4036650A JP2530404B2 (ja) 1992-02-24 1992-02-24 光ニュ―ラルネットワ―クシステム

Publications (2)

Publication Number Publication Date
JPH05233859A JPH05233859A (ja) 1993-09-10
JP2530404B2 true JP2530404B2 (ja) 1996-09-04

Family

ID=12475736

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4036650A Expired - Fee Related JP2530404B2 (ja) 1992-02-24 1992-02-24 光ニュ―ラルネットワ―クシステム

Country Status (1)

Country Link
JP (1) JP2530404B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3602155A1 (en) 2017-03-21 2020-02-05 Corning Research & Development Corporation Fiber optic cable assembly with thermoplastically overcoated fusion splice, and related method and apparatus
US10976492B2 (en) 2018-09-07 2021-04-13 Corning Incorporated Cable with overcoated non-coplanar groups of fusion spliced optical fibers, and fabrication method
US11360265B2 (en) 2019-07-31 2022-06-14 Corning Research & Development Corporation Fiber optic cable assembly with overlapping bundled strength members, and fabrication method and apparatus
US11886009B2 (en) 2020-10-01 2024-01-30 Corning Research & Development Corporation Coating fusion spliced optical fibers and subsequent processing methods thereof
US11808983B2 (en) 2020-11-24 2023-11-07 Corning Research & Development Corporation Multi-fiber splice protector with compact splice-on furcation housing
US11867947B2 (en) 2021-04-30 2024-01-09 Corning Research & Development Corporation Cable assembly having routable splice protectors

Also Published As

Publication number Publication date
JPH05233859A (ja) 1993-09-10

Similar Documents

Publication Publication Date Title
CN109784486B (zh) 一种光学神经网络处理器及其训练方法
Kosko Adaptive bidirectional associative memories
US11544539B2 (en) Hardware neural network conversion method, computing device, compiling method and neural network software and hardware collaboration system
CN109784485B (zh) 一种光学神经网络处理器及其计算方法
Motamarri et al. GMPPT by using PSO based on Lévy flight for photovoltaic system under partial shading conditions
CN109376855B (zh) 一种光神经元结构和包含该结构的神经网络处理系统
JP2530404B2 (ja) 光ニュ―ラルネットワ―クシステム
Cai et al. Antenna selection for multiple-input multiple-output systems based on deep convolutional neural networks
CN115545173A (zh) 用于信号处理的光调制神经元及全光衍射神经网络方法
US5479569A (en) Intelligence information processing method
Wei et al. Accurate visible light positioning technique using extreme learning machine and meta-heuristic algorithm
US5220642A (en) Optical neurocomputer with dynamic weight matrix
CN116596056A (zh) 基于混合变异策略遗传算法的深度光学神经网络训练方法及系统
CN111667064B (zh) 基于光电计算单元的混合型神经网络及其运算方法
JP2648386B2 (ja) 光ニューロコンピュータ
US11527059B2 (en) Reservoir computing
JP3171897B2 (ja) 知識情報処理装置
Simpkins Design, modeling, and simulation of a compact optoelectronic neural coprocessor
EL KHAOUAT¹ et al. A systematic literature review on prediction models in microgrids
CN110910164A (zh) 产品销售预测方法、系统、计算机设备和存储介质
US20220036185A1 (en) Techniques for adapting neural networks to devices
Kashefi Rapidly training device for fiber-optic neural network
CN116842988A (zh) 基于萤火虫算法的深度光学神经网络训练方法及系统
JP2843066B2 (ja) 光―電気ハイブリツド型多層ニユーラル・ネツトワーク・システム
US6854004B2 (en) Irregular optical interconnections to compensate for non-uniformities in analog optical processors

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees