JPH1196140A - 内積演算装置 - Google Patents

Abstract

(57)【要約】 【課題】 高速のみならず、入力ベクトルに対して高精
度に内積演算を行える光計算機及びそれを利用した情報
処理装置。 【解決手段】 入力ベクトルにその入力ベクトルに応じ
た変換を施してベクトルを出力する入力ベクトル変換手
段３６と、入力ベクトル変換手段３６から出力されたベ
クトルに基づいて行列を出力する行列変換手段３３と、
入力ベクトル変換手段３６から出力されたベクトルと行
列変換手段３３から出力された行列との積である内積演
算を行う光学的ベクトル行列演算手段３７とで構成さ
れ、入力ベクトル変換手段３６により、入力されるデー
タｘに対し、全ての成分からスカラー数βを減じた後、
スカラー数α倍した、 α（ｘ−βＩ） （Ｉ＝ ^t（１ ,１ ,・・・・・ ,
１）） なる変換を施してから内積演算を行う。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、ニューラルネット
ワークやベクトル量子化等の基本演算となる内積演算を
高精度に行う内積演算装置に関する。

【０００２】

【従来の技術】増大する情報を処理する上では、現在の
ノイマン型の電子計算機には限界があり、別のアーキテ
クチャーを持つ並列計算機が盛んに研究開発されてい
る。しかし、この並列計算機にも、発熱や配線遅延等を
始めとする電子技術特有の限界が露呈し始めており、こ
れらの問題を解決する１つの方法として、光を用いたア
プローチがなされている。それらアプローチの中の１つ
が、内積演算を並列に行う光計算機である。内積演算と
は、ニューラルネットワークやベクトル量子化の基本演
算であり、これを用いれば、画像処理、画像認識、画像
判断、画像理解、画像圧縮等の広い分野でのアプリケー
ションに適応可能な情報処理装置を構成できる。また、
その際には、高速かつ高精度に演算可能なことが要求さ
れる。

【０００３】次に、内積演算を並列に行い、高速性を可
能とした従来の光計算機の１例として、下記のような光
学的ベクトル行列演算装置を説明する。

【０００４】光学的ベクトル行列演算装置の第１の例を
図１に模式的に示す。光学的ベクトル行列演算装置１
は、発光素子アレイ２、光学的マスク３、受光素子アレ
イ４とからなり、発光素子アレイ２は光学的マスク３の
列方向に平行に配列され、受光素子アレイ４は光学的マ
スク３の行方向に平行に配列されており、発光素子アレ
イ２で表現される入力ベクトルｓに対し、ｓと光学的マ
スク３上に表現される行列Ａとの積ｔ＝Ａｓを出力す
る。発光素子アレイ２中の発光素子２ａ、２ｂ、…は入
力ベクトルｓの成分ｓ₁ ，ｓ₂ ，…の値に比例した光強
度で発光する。これらの出力光は、レンズ系（図中では
省略。具体例としては、母線が発光素子アレイ２の配列
方向に伸びる正のシリンドリカルレンズを用いる。）に
より光路が変換され、光学的マスク３を照射する。この
際、第ｊ番目の発光素子の出力光が、光学的マスク３の
第ｊ行成分のみを一様に照射するように光路変換され
る。光学的マスク３は、その（ｉ，ｊ）成分の透過率
が、行列Ａの（ｉ，ｊ）成分Ａ_ijであるように作られて
いる。その結果、光学的マスク３の（ｉ，ｊ）成分の透
過光強度はその積Ａ_ijｓ_j に比例した強度となる。光学
的マスク３からの透過光は、レンズ系（図中では省略。
具体例としては、母線が受光素子アレイ４の配列方向に
伸びる正のシリンドリカルレンズを用いる。）により光
路が変換されて、受光素子アレイ４で受光される。この
際、第ｉ番目の受光素子には、光学的マスク３の第ｉ列
成分の透過光のみが全て受光されるように光路変換され
る。この結果、第ｉ番目の受光素子の出力は、出力ベク
トルｔの第ｉ成分である内積値ｔ_i ＝Σ_j Ａ_ijｓ_j に比
例にした値となる。したがって、受光素子アレイ４中の
受光素子４ａ、４ｂ、…からはそれぞれ出力ベクトルｔ
の各成分である内積値ｔ₁ ，ｔ₂，…に比例した出力が
並列に得られることになる。この系では、入力ベクトル
ｓ及び行列Ａの全ての成分が正又は０の場合に計算が可
能である。

【０００５】なお、この装置において、光学的マスク３
を空間光変調器等で書き換え可能にすれば、学習可能な
ニューラルネットワーク等も実現できる。

【０００６】ベクトルｓ及び行列Ａの成分に負の値が含
まれる場合においても、以下に述べるような方法で内積
演算を並列に行う光学的ベクトル行列演算装置を構成す
ることができる。光学的ベクトル行列演算装置の第２の
例を図２に模式的に示す。光学的ベクトル行列演算装置
１１は、入力ベクトル正値化手段１２と、発光素子アレ
イ１３と、光学的マスク１４と、受光素子アレイ１５
と、差分回路アレイ１６とからなり、入力ｓに対し、ｓ
と行列Ａとの積ｔ＝Ａｓを出力する。

【０００７】入力ベクトル正値化手段１２は、入力ベク
トルｓを成分の全ての値が正である２つのベクトル
ｓ ⁺ ，ｓ ^- に、ｓ＝ｓ ⁺ −ｓ ^- となるように変換し、新
たなベクトルｓ’＝ ^t（ｓ⁺ ₁ ，ｓ^- ₁ ，ｓ⁺ ₂ ，ｓ^-
₂ ，・・・）を作り、出力する。ｓ ⁺ ，ｓ ^- を与える方
法の１つの例は、 ｓ⁺ _j ＝ｓ_j ，ｓ_j ^- ＝０ （ｓ_j ≧０） ｓ⁺ _j ＝０，ｓ_j ^- ＝−ｓ_j （ｓ_j ＜０） ・・・（イ） とすることである。

【０００８】発光素子アレイ１３中の発光素子１３ａ、
１３ｂ、…はベクトルｓ’の各成分ｓ’₁ ，ｓ’₂ ，…
の値に比例した光強度で発光する。これらの出力光は、
レンズ系（図中では省略。具体例としては、母線が発光
素子アレイ１３の配列方向に伸びる正のシリンドリカル
レンズを用いる。）により光路を変換され、光学的マス
ク１４を照射する。この際、第ｊ番目の発光素子の出力
光が、光学的マスク１４の第ｊ行成分のみを一様に照射
するように光路変換される。

【０００９】行列Ａは予め以下のような方法で、行列正
値化手段１４’により行列Ａ’に変換されている。行列
Ａは、全ての成分が正であるような２つの行列Ａ⁺ ，Ａ
^- に、Ａ’＝Ａ⁺ −Ａ^- となるように変換され、新たな
行列、 を作る。ここで、 は行列を表す。Ａ⁺ ，Ａ^- を与える方法の１つの例は、 Ａ⁺ _ij＝Ａ_ij，Ａ^- _ij＝０ （Ａ_ij≧０） Ａ⁺ _ij＝０，Ａ^- _ij＝−Ａ_ij （Ａ_ij＜０） ・・・（ロ） とすることである。

【００１０】光学的マスク１４は、その（ｉ，ｊ）成分
の透過率が行列Ａ’の（ｉ，ｊ）成分Ａ’_ijであるよう
に作られている。その結果、光学的マスク１４の（ｉ，
ｊ）成分の出力光強度はＡ’_ijｓ’_j に比例した強度と
なる。光学的マスク１４からの出力光は、レンズ系（図
中では省略。母線が受光素子アレイ１５の配列方向に伸
びる正のシリンドリカルレンズを用いる。）により光路
を変換されて、受光素子アレイ１５を照射する。この
際、第ｉ番目の受光素子には、光学的マスク１４の第ｉ
列成分の出力光のみが全て照射されるように光路変換さ
れる。この結果、第ｉ番目の受光素子の出力ｔ’_i は、 に比例した出力となる。

【００１１】受光素子アレイ１５中の受光素子１５ａと
１５ｂ、１５ｃと１５ｄ、…からの出力は、それぞれ差
分回路アレイ１６中の差分回路１６ａ、１６ｂ、…に入
力され、それぞれの差分が計算される。その結果、差分
回路アレイ１６の出力は、 のように、内積値にそれぞれ比例することになる。

【００１２】

【発明が解決しようとする課題】上述の光学的ベクトル
行列演算装置１あるいは１１に類する内積演算を並列に
行う従来の光計算機においては、入力ベクトルの各成分
の値は対応する発光素子、重みベクトルや量子化代表ベ
クトル等の比較対象となるベクトル群を表す行列の各成
分の値は対応するマスクや空間光変調素子でそれぞれ表
現される。しかし、これら発光素子や空間光変調素子に
は、定格電流や定格電圧、あるいは、しきい値電流や飽
和電圧等の適正動作範囲を規定する制限が存在するの
で、上記各成分値をこの適正動作範囲を超えて表現する
ことはできない。もしこの範囲を超えて表現すると、計
算誤差が非常に大きくなる。また、光量として計算結果
を検出する受光素子には、通常、迷光等によるノイズや
その他電気的ノイズ等が重畳されるので、このノイズレ
ベルより小さな光量の違いは分解できない。したがっ
て、上記発光素子や空間光変調素子で表現でき、しかも
正確に検出できる成分の階調数は、この適正動作範囲と
ノイズレベルで規定され、実際にはさほど取れない。従
来技術では、この点の考察と解決方法が示されておら
ず、正確な内積演算が行われているとは言い難い。

【００１３】本発明は従来技術のこのような問題点に鑑
みてなされたものであり、その目的は、高速のみなら
ず、入力ベクトルに対して高精度に内積演算を行える内
積演算装置を提供することにある。

【００１４】

【課題を解決するための手段】上記目的を達成する本発
明の内積演算装置は、入力されたベクトルに対し、その
全ての成分からスカラー数を減じた後、スカラー数を乗
じる変換を施す入力ベクトル変換手段と、前記入力ベク
トル変換手段から出力されたベクトルに基づいて行列を
求める行列変換手段と、前記入力ベクトル変換手段から
のベクトルと前記行列変換手段からの行列を構成する各
ベクトルとの内積を求めるベクトル行列演算手段と、を
備えることを特徴とするものである。

【００１５】これは、後述する実施形態１及び２が対応
する。この入力ベクトル変換手段によれば、後述するよ
うに、広い範囲に成分値が分布している一般的な情報を
狭い範囲に変換できるので、階調数に制限がある場合で
も、正確な内積演算が可能となる。

【００１６】上述の内積演算装置においては、減じるべ
きスカラー数は、入力ベクトル変換手段に入力されたベ
クトルの成分の平均値であることより好ましい。

【００１７】これは後述する実施形態１及び２が対応す
る。この入力ベクトル変換手段によれば、後述するよう
に、広い範囲に成分値が分布している一般的な情報をよ
り狭い範囲に変換できるので、階調数に制限がある場合
でも、より正確な内積演算が可能となる。

【００１８】また、上述の内積演算装置においては、乗
じるべきスカラー数は、入力ベクトル変換手段に入力さ
れたベクトルの各成分からスカラー数を減じた後のベク
トルの各成分の２乗和に基づいて数であることがより好
ましい。

【００１９】これは後述する実施形態１及び２が対応す
る。この入力ベクトル変換手段によれば、後述するよう
に、変換後のデータの多くの部分を適切な範囲内に収め
られ、さらに正規化の効果もあり、階調数に制限がある
場合でも、より正確な内積演算が可能となる。

【００２０】さらに、上記内積演算装置においては、乗
じるべきスカラー数は、入力ベクトル変換手段に入力さ
れたベクトルの各成分からカラー数を減じた後のベクト
ルの各成分の２乗和の平方根の逆数に所定の定数を乗算
した数であることがより好ましい。

【００２１】これは後述する実施形態１及び２が対応す
る。この入力ベクトル変換手段によれば、後述するよう
に、変換後のデータのより多くの部分を適切な範囲内に
収められる上、正規化の効果もあり、階調数に制限があ
る場合でも、より正確な内積演算が可能となる。

【００２２】さらに、上記内積演算装置においては、行
列変換手段は、求められた行列を正規化する正規化手段
をさらに有することがより好ましい。

【００２３】これは後述する実施形態１及び２が対応す
る。この行列変換手段によれば、後述するように、行列
内のベクトルデータをより汎用性の高いものとすること
ができる上に、正規化の効果もあり、より正確な内積演
算が可能となる。

【００２４】さらに、上記内積演算装置においては、ベ
クトル行列演算手段は、入力ベクトル変換手段において
変換された後のベクトルの各成分に対応した光源と、行
列変換手段から出力された行列の各成分の値に対応した
透過率又は反射率を有する光学的マスクと、その光源か
らの光束がその光学的マスクを透過した光束を受光する
受光手段とを有することが好ましい。

【００２５】これは後述する実施形態１及び２が対応す
る。このようにベクトル行列演算手段を構成することに
より、演算時間が短く、かつ正確な内積演算が可能な内
積演算装置を提供することができる。

【００２６】さらに、上記内積演算装置においては、ベ
クトル行列演算手段は、入力ベクトル変換手段で変換さ
れたベクトルの各成分を正値化するベクトル正値化手段
と、行列変換手段から出力された行列の各成分を正値化
する行列正値化手段と、受光手段からの出力を受けて所
定の２つの受光素子の差分に対応した値を出力する差分
回路アレイとをさらに有することがより好ましい。

【００２７】これは後述する実施形態１及び２が対応す
る。このように構成することにより、光学的なベクトル
行列演算手段を構成した場合であっても、負の値を扱う
ことができる。

【００２８】上記目的を達成するため、本発明の内積演
算装置は、ベクトル行列演算手段からの出力を受けて、
その最大の出力を与える行列を構成するベクトルを求め
る最大値検出手段をさらに有することができる。

【００２９】これは後述する実施形態１及び２が対応す
る。上述の内積演算装置は、上述の構成により正確な内
積演算が可能となっているので、これらを用い最大値検
出手段で判断すれば、入力ベクトルに対し、行列中のベ
クトルから最も内積値の大きなベクトルの指標を正確に
出力し、各種アプリケーションが実行可能な情報処理が
実現できる。

【００３０】また、上記内積演算装置においては、行列
変換手段は、最大値検出手段からの出力を受けて競合ア
ルゴリズムに従って行列に変換するベクトルを決定する
手段をさらに有することがより好ましい。

【００３１】これは後述する実施形態２が対応する。こ
の内積演算装置では、上述のように、入力ベクトルに対
し、行列中の重みベクトルから最も内積値の大きなベク
トルの指標を正確に出力することが可能となるので、ニ
ューラルネットワークの機能を実現し、認識や判断を正
確に行う情報処置が可能となる。

【００３２】

【発明の実施の形態】以下、本発明の内積演算装置及び
それを利用した情報処理の第１及び第２実施形態につい
て説明する。 〔第１実施形態〕図３に本発明の第１の実施形態の構成
を示す。この実施形態は、本発明の内積演算装置を光学
的に実現した光計算機を用いた情報処理装置の応用とし
て、情報の圧縮を正確かつ高速に行えるベクトル量子化
装置に関するものである。

【００３３】この実施形態のベクトル量子化装置３１
は、光計算機３２と、平均値計算手段３４と、利得計算
手段３５と、最大値検出手段３８とからなり、入力ベク
トルｘ（図面中では、ベクトルは文字の上に矢印を付け
て示す。）に対して、２乗歪み測度最小とする量子化代
表ベクトルの指標ｉと、ｇ＝ｘ・ｖ ⁱ ／ｃ² で与えられ
る利得ｇ、及び、ｍ＝（ｘ・Ｉ）／Ｋ＝（１／Ｋ）×Σ
_j ｘ_j で与えられる平均値ｍとを出力する、平均値分離
正規化型と利得波形型の性質を合わせ持つベクトル量子
化を可能にするものである。

【００３４】ここで、ベクトル量子化について説明す
る。ベクトル量子化では、Ｋ次元の入力ベクトルｘに対
して、有限個（Ｎ）の量子化代表ベクトル（ｙ ⁰ ，
ｙ ¹ ，・・・，ｙ ⁱ ，・・・，ｙ ^N-1 ）からなるコード
ブックを用意し、入力ベクトルｘを最も近い量子化代表
ベクトルｙ ⁱ の指標ｉで符号化する。その際の類似度の
判断（比較演算）は、以下の２乗歪み測度が一般に用い
られる。

【００３５】 これを画像圧縮に適用する最も単純な方法は、画像をＫ
画素からなるブロックで分割し、この１ブロック中に含
まれる情報をＫ次元の入力ベクトルとみなして順にベク
トル量子化を行うものである。平均値分離正規化型ベク
トル量子化とは、このベクトル量子化の変形例の１つで
ある。

【００３６】この平均値分離正規化型ベクトル量子化に
おいては、入力ベクトルｘは、そのベクトル内平均値μ
と標準偏差σを次式で求め、 μ＝（１／Ｋ）×Σ_j ｘ_j ・・・（２） σ＝｛（１／Ｋ）×Σ_j （ｘ_j ーμ）² ｝^1/2 ・・・（３） 入力ベクトルｘをこのμとσで平均値分離正規化する。
つまり、 ｘ’＝（１／σ）×（ｘーμＩ）， ここで、Ｉ＝ ^t（１ ,１ ,・・・・・ ,１） ・・・（４） であり、ｔは転置を表す。また、コードブック（ｖ ⁰ ，
ｖ ¹ ，・・・，ｖ ⁱ ，・・・，ｖ ^N-1 ）を、全てのｉに
ついて、｜ｖ ⁱ ｜² ＝ｃ² （ｃはｉによらない定数）、
かつ、Σ_j ｖⁱ _j ＝０となるように、種々の画像からサ
ンプリングした入力ベクトルを平均値分離正規化した上
述のｘ’を多数用いて予め作っておく。この場合、量子
化代表ベクトルの判断基準である２乗歪み測度（１）式
は次式のように変形される。

【００３７】 この式（５）が最小になるようなｉの条件は、（５）式
の第１項及び第２項が正規化により一定値であることを
考えれば、内積ｘ’・ｖ ⁱ を最大にするものであること
が分かる。

【００３８】さらに、この（５）式により選ばれた量子
化代表ベクトルｖ ⁱ の指標ｉと、利得ｇ及び平均値ｍを
用いて利得波形型のベクトル量子化を行う。その際、２
乗歪み測度は、 Ｅ＝｜ｘ−（ｇｖ ⁱ ＋ｍＩ）｜² ・・・（６） となる。この式を最も小さくする利得ｇ、平均値ｍは、
ここで、 ∂Ｅ／∂ｍ＝２ｍＫ−２ｘ・Ｉ＝０ ・・・（７） ∂Ｅ／∂ｇ＝２ｇ｜ｖ ⁱ ｜² −２ｘ・ｖ ⁱ ＝０ ・・・（８） から求められ、それぞれ次のようになる。

【００３９】 ｍ＝（ｘ・Ｉ）／Ｋ ・・・（９） ｇ＝ｘ・ｖ ⁱ ／ｃ² ・・・（10） とすればよい。

【００４０】上述のベクトル量子化装置３１を構成する
光計算機３２は、入力ベクトル変換手段３６と、光学的
ベクトル行列演算装置３７と、行列変換手段３３とで構
成されている。

【００４１】入力ベクトル変換手段３６は、入力として
ベクトルｘを受け取り、全ての成分からスカラー数βを
減じた後、スカラー数α倍したｘ’＝α（ｘ−βＩ）
（ここで、Ｉ＝ ^t（１ ,１ ,・・・・・ ,１））を出力
する装置である。スカラー数α及びβは、入力ベクトル
ｘに応じて以下のような方法で決定される。

【００４２】ここで、一般的な画像について、その各画
素の取る成分値の分布範囲を考察してみる。２５６×２
５６画素で８ビットの異なる８枚の画像について、その
各画素の取る成分値をヒストグラムで表したのが図４で
ある。広い範囲に成分値が分布している（大きな階調数
が必要である）ことが分かる。前述のように、ノイズ等
の影響を考えれば、階調数がこれ程大きいと正確な計算
はできない。

【００４３】そこで、本発明では、入力ベクトル変換手
段３６において、スカラー数βを入力ベクトルｘの成分
の平均値（１／Ｋ）×Σ_j ｘ_j （Ｋ：入力ベクトルｘの
次元数）で与え、入力ベクトルｘをまずｕ＝ｘーβＩに
変換する。上記８枚の画像についてこの変換後のベクト
ルｕを求め、同様にその成分値をヒストグラムで表した
のが図５である。０を中心に非常に狭い範囲に成分値を
変換できていることが分かる。この程度の階調数であれ
ば、正確な計算が可能となることは言うまでもない。

【００４４】さらに、変換後の入力ベクトルｕの成分の
最大値と最小値をそれぞれｕ _max 、ｕ _min とし、光学的
ベクトル行列演算装置３７中の発光素子（図２中の１３
ａ、１３ｂ、…。後述）の発光強度を、使用可能な最大
の発光強度で発光させるベクトルの成分の値をｈ_max と
するとき、スカラー数αをα＝２ｈ_max ／（ｕ _max −ｕ
_min ）で与えると、発光素子の飽和を防止し、かつ、出
力ベクトルｚの成分間の差は最大に拡大され、外来ノイ
ズ等の影響による量子化代表ベクトルの判別誤りの発生
を減らすことができる。

【００４５】しかし、ｕ _max 、ｕ _min には、分布からか
け離れたものも存在する場合も多々あるので、ｕ _max 、
ｕ _min を使って変換後のベクトルｕの全てを表現するよ
り、実際には分布の多い部分を発光素子の適正範囲内に
収めた方が、計算精度が確保できる場合が多い。その場
合には、分散σ² ＝（１／Ｋ）×Σ_j （ｘ_j ーβ）²＝
（１／Ｋ）×（ｘーβＩ）² ＝（１／Ｋ）×｜ｕ｜² や
標準偏差σ等、分布の状態を表す量でスカラー数αを規
定するのがよい。これらの中、標準偏差σは変換後のベ
クトルｕのＬ２ノルムの係数倍となるので、正規化の効
果も同時にあり、内積演算を最も正確に行うことが可能
となる上、元々の平均値分離正規化型のベクトル量子化
を正確に表現するものである。この場合、スカラー数α
はα＝ｈ_max ／ｋσ（ｋは任意の数）で与えられる。画
像によっても異なるが、このｋは１〜３程度であると最
も効果が高かった。

【００４６】なお、ｈ_max は、発光素子の電気入力−光
出力特性を予め別の測定装置で測定して、その特性の線
形領域あるいは近似的に線形な領域にあり、系全体から
見て使用可能な最大の発光強度で発光させる電気的入力
（電流値）の値をｈ_max と設定すればよい。

【００４７】行列変換手段３３は、予め入力ベクトル変
換手段３６で変換されたベクトルｘ’＝α（ｘ−βＩ）
を多数用いて、全てその成分の平均値Σ_j ｖⁱ _j が０と
なるように、また、全てその大きさが定数ｃとなるよう
に規格化されている量子化代表ベクトルの集合であるコ
ードブック（ｖ ⁰ ，ｖ ¹ ，・・・，ｖ ⁱ ，・・・，ｖ
^N-1 ）を作成する。このコードブックを構成する量子化
代表ベクトルから作られた行列Ｃをコードブック行列と
呼ぶことにする。

【００４８】光学的ベクトル行列演算装置３７は、入力
ベクトル変換手段３６の出力であるｘ’＝α（ｘ−β
Ｉ）を入力として受け取り、このｘ’と、行列変換手段
３３で作られたコードブック行列Ｃとの積、 ｚ＝αＣ（ｘ−βＩ）＝α ^t（ｖ ¹ ・（ｘ−βＩ），ｖ ² ・（ｘ−βＩ）， ・・・，ｖ ^N ・（ｘ−βＩ）） ・・・（11） を出力する。

【００４９】本実施形態に用いられる光学的ベクトル行
列演算装置３７は、光学的ベクトル行列演算装置１１の
入力ベクトルｓの代わりに入力ベクトル変換装置３６の
出力ベクトルｘ’＝α（ｘ−βＩ）を、行列Ａの代わり
にコードブック行列Ｃを、それぞれ用いることにより、
出力ベクトルｔの代わりに出力ベクトルｚが出力され
る。

【００５０】本実施形態に用いられる光学的ベクトル行
列演算装置３７は、上記の光学的ベクトル行列演算装置
１１に類する形態のものは全て用いることができる。す
なわち、入力ベクトルの値に応じた強度で発光する発光
素子アレイ、若しくは、透過率を可変にできる空間光変
調素子と光源の組み合わせによる光源アレイと、行列の
各成分に対応した透過率を持つ光学的マスクあるいは空
間光変調素子、若しくは、行列の各成分に対応した回折
強度を持つホログラムと、出力ベクトルに応じた強度を
出力する受光素子アレイと、受光素子アレイの出力の
中、決められた２つの受光素子の差分に比例した値を出
力する差分回路アレイと、ベクトル正値化手段と、行列
正値化手段とを具備した光学的ベクトル行列演算装置
は、全てこれに該当する。

【００５１】最大値検出手段３８は、上記光計算機３２
内の光学的ベクトル行列演算装置３７からの出力ベクト
ルｚの成分の中から最大のものｚ_i を検出し、その指標
ｉを出力する装置である。コードブック中の量子化代表
ベクトルｖ ⁱ が全て等しい大きさｃに規格化されている
場合には、入力ベクトルｘと量子化代表ベクトルｖ ⁱの
内積が最大となる量子化代表ベクトルが最適な（最も類
似した）量子化代表ベクトルであるので、最大値検出手
段３８は最適な量子化代表ベクトルの指標ｉを出力する
ことになる。

【００５２】この結果、光計算機３２は、入力ベクトル
変換手段３６により入力ベクトルｘをｘ’＝α（ｘ−β
Ｉ）に変換し、光学的ベクトル行列演算装置３７によ
り、行列変換手段３３によって得られるコードブック行
列Ｃとの積つまり内積を計算した後、後段の最大値検出
手段３８により、最適な量子化代表ベクトルの指標ｉを
検出し出力する。

【００５３】入力ベクトルｘの成分が全て同じ値である
場合には、ｕ _max −ｕ _min ＝０又は｜ｘ−βＩ｜＝０と
なるため、上記の式は適用できない。しかし、ほとんど
の応用例においては、入力ベクトルｘの全ての成分が同
じ値であるような場合には、これに別の符号を割り当て
る等の例外処理を行うことにより、問題なく回避するこ
とができる。

【００５４】スカラー数βとしては、平均値以外の数、
少なくともｘ _max からｘ _min （入力ベクトルｘの成分の
最大値と最小値をそれぞれｘ _max 、ｘ _min とする。）ま
での範囲の数は変換の効果がある、例えばβ＝ｘ _min に
設定すれば、入力ベクトルｘを全ての成分が正の値とな
るように変換して計算を行うことも可能である。この場
合にも、図２の光学的ベクトル行列演算装置１１を用い
て光計算機３２を構成することができるが、前述した図
１の光学的ベクトル行列演算装置１を用いた方が素子の
利用効率上望ましい。

【００５５】平均値計算手段３４は、入力ベクトルｘの
成分の平均値（１／Ｋ）×Σ_j ｘ_jを出力する。利得計
算手段３５は、最大値検出手段３８からの出力である指
標ｉと、入力ベクトルｘを入力として受け取り、コード
ブック３３を参照してｖ ⁱ の値を取り出し、利得ｇ＝ｘ
・ｖ ⁱ ／ｃ² を計算し出力する。

【００５６】平均値分離正規化型のベクトル量子化装置
３１は、入力ベクトルｘに対して、光計算機３２により
コードブックとの内積を正確に計算し、その中から最大
値検出手段３８により最適な量子化代表ベクトルｖ ⁱ を
判別し、平均計算装置３４により、平均値ｍを計算し、
利得計算装置３５により、最大値検出手段３８からの出
力である指標ｉと入力ベクトルｘとから利得ｇを計算
し、コードブック中の最適な量子化代表ベクトルの指標
ｉと、平均値ｍと、利得ｇを出力する。この際、最大値
検出手段３８からの出力である指標ｉを用いて利得ｇを
計算しているため、利得の計算は１回のみでよく、計算
時間をほとんど増大させない。

【００５７】（具体例）本実施形態を持つ具体例を以下
に示す。本具体例では、濃淡画像を４×４画素ずつのブ
ロック単位で１６次元のベクトルとして入力し、１２８
種の量子化代表ベクトルからなるコードブックを用いて
画像圧縮するためのベクトル量子化装置を実現した。

【００５８】まず、光計算機３２について述べる。入力
ベクトル変換手段３６は、入力ベクトルｘを受け取り、
全ての成分からスカラー数βを減じた後、スカラー数α
倍したｘ’＝α（ｘ−βＩ）を出力する装置であるが、
ここではスカラー数αは入力ベクトルｘの標準偏差σを
用いて、α＝ｈ_max ／σ、βは入力ベクトルｘの成分の
平均値とした。また電気回路や光回路での実現も考えら
れるが、ここでは計算コストを考慮して、入力ベクトル
ｘをコンピュータ内に入力した上で、コンピュータ内で
数値演算して光学的ベクトル行列演算装置３７と行列変
換手段３３に演算結果ｘ’を送るようにした。

【００５９】また、光学的ベクトル行列演算装置３７と
しては、図２に示した従来例の光学的ベクトル行列演算
装置１１を用いた。ここでは、入力ベクトル正値化手段
１２は計算機内のプログラムで、発光素子アレイ１３は
高輝度の赤色ＬＥＤを１次元に３２個並べたもので、光
学的マスク１４は３２×２５６の配列で、行列変換手段
３３によって決定され行列正値化手段１４’により全て
の成分が前述の（ロ）式のように正値に変換されたそれ
ぞれの成分値を、６４段階の開口の大きさで表現した銀
蒸着の窓を持つ石英基板で、受光素子アレイ１５は２５
６個のフォトディテクタを１次元に並べ、それぞれにオ
ペアンプによる電流電圧変換回路を２５６個接続したも
ので、差分回路アレイ１６は、受光素子アレイ１５から
のプラス成分とマイナス成分に対応させて配置してある
オペアンプによる差動増幅回路を１２８個並べたものと
２個のシリンドリカルレンズとで構成してある。また、
制御用の付加品として、入力ベクトル正値化手段１２に
より変換されたデータをアナログ信号に変換するための
ＡＤ変換ボードと、発光素子アレイ１３用のドライバも
用いている。

【００６０】行列変換手段３３は、入力ベクトル変換手
段３６によって変換されたベクトルｘ’を用いてコード
ブックを作成するものであるが、ここでは計算機内で実
現している。最適化のアルゴリズムとしてＬＢＧアルゴ
リズムを用い、８種類の濃淡画像から３２７６８個の学
習系列を作った上で最適化し、１６次元１２８種類の量
子化代表ベクトルからなるコードブックを決定し、さら
に前述の（ロ）式の変換を行列正値化手段１４’により
施し、このデータを基に前述の光学的マスク１４を予め
銀蒸着の窓を持つ石英基板として作成した上で、光学的
ベクトル行列演算装置３７内に設置した。なお、極端に
画像の成分が異なる場合（例えば、自然画像と病理画像
の場合等）は、別のコードブックの必要が生じることが
有るが、本具体例では、予め行列変換手段３３と行列正
値化手段１４’でオフライン的に作成する光学的マスク
であるので、その場合、交換の必要が有るが、もしマス
クの代わりにＳＬＭを用い、このコンピュータで作った
データをＳＬＭのドライバに送り表示させるようにすれ
ば、光学系を再調整せずに異なったコードブックを表示
することができ、取り扱いが楽になる。

【００６１】以上の構成により、本具体例の光計算機３
２は、コンピュータ内に入力されたベクトルｘを、この
コンピュータ内に実現されている入力ベクトル変換手段
３６によりｘ’に変換し、さらに入力ベクトル正値化手
段１２により正値のプラス成分とマイナス成分に変換
後、ＡＤ変換ボードと、発光素子アレイ１３のドライバ
を介して、高輝度の赤色ＬＥＤからなる発光素子アレイ
１３を、プラス成分とマイナス成分に分離して発光させ
る。ここで発光した光束に乗った変換データは、従来例
で説明したのと同様な作用を光学系と光学マスク１４に
よって受け、さらに受光素子アレイ１５と差分回路アレ
イ１６を経ることで、光学マスク１４上のコードブック
行列中の１２８種の量子化代表ベクトルとの内積値に比
例した電圧値となって出力される。この際、前述のよう
に、生の画像データを直接処理するのではなく、値の範
囲をハードウエアに合わせ適切に変換してから処理して
いるので、正確な内積が計算できる。

【００６２】次に、この光計算機３２を用いた、ベクト
ル量子化装置３１について述べる。本具体例のベクトル
量子化装置３１では、さらに、光計算機３２からの出力
である内積値から、最大のものを最大値検出手段３８で
検出しそのインデックスを出力する。この最大値検出手
段３８は、１２８組のオペアンプとトランジスタとダイ
オードで構成される最大値回路と、その直後の１２８個
のフォトカプラで、光計算機３２からの１２８の出力中
最大のもののみＬｏｗのディジタル出力を出力し、さら
には３−ｓｔａｔｅのプライオリティエンコーダ１８個
を用いて、このＬｏｗ出力フォトカプラのインデックス
を７ビットのディジタル出力に変換し出力するようにな
っており、このインデックスが量子化代表ベクトルのイ
ンデックスと一致しているので、入力ベクトルに最も類
似する量子化代表ベクトルのインデックスが選択され出
力されることになる。

【００６３】本具体例のベクトル量子化装置３１では、
その他の平均値計算手段３４及び利得計算手段３５もコ
ンピュータ内の数値計算にて求め出力するようになって
いる。本具体例では、平均値計算手段３４は入力ベクト
ル変換手段３６と共用となっており、また、最大値検出
手段３８からの出力もディジタルＩＯを介してコンピュ
ータ内に入力されるようにしてあるため、所望のインデ
ックスｉ、平均値ｍ及び利得ｇはコンピュータ内で数値
として揃うことになる。実際の画像圧縮では、順次画像
から４×４画素ずつ切り出して、本ベクトル量子化装置
３１でこのｉ、ｍ及びｇを求め、その順にデータ列を作
れば圧縮データは完成する。このデータは、このまま記
憶装置に保存することも、イーサネット等を介して通信
することも可能である。圧縮画像の解凍は、順に ｘ＝ｇｖ ⁱ ＋ｍＩ なる式に当てはめて画素値を復元して行けばよい。この
処理は計算機内の処理でも十分高速に行える。

【００６４】なお、本具体例においては、現状の計算コ
ストを優先させたために、光学的ベクトル行列演算装置
３７及び最大値検出手段３８以外の部分は、計算機内の
数値計算により処理を行う部分が多いが、もちろん電子
回路や光回路でも構成することは可能であり、デバイス
技術が進展すれば、それらを用いるメリット（特に高速
性における）が出てくる。また、カラー画像の圧縮につ
いても、例えばＲ，Ｇ，Ｂの３原色からなる濃淡画像に
分解し同様に処理すれば可能である。

【００６５】以上の構成により、内積演算の計算精度が
向上した光計算機３２を用いることにより、高速演算が
可能で、かつ、最適な量子化代表ベクトルの判別誤りが
少ない高性能な平均値分離正規化型のベクトル量子化装
置３１を構成することができる。

【００６６】〔第２実施形態〕本実施形態の情報処理装
置は、図６にその構成を示すように、光計算機４２と、
最大値検出手段４８とで構成され、情報の認識及び判断
等を高速に行う競合学習型のニューラルネットワーク装
置４１に関するものである。

【００６７】本実施形態では、１例として、ニューラル
ネットワークの競合学習に自己組織化特徴マップを用い
る場合を例にあげたので、まずこの自己組織化特徴マッ
プの学習アルゴリズムについて、以下に簡単に説明す
る。自己組織化特徴マップ（以下、ＳＯＭと表記す
る。）は、図７に示すように、２次元に並ぶ素子群の層
ＭＬ（以下、マップ層と表記する。）とデータを入力す
る入力層ＩＬから構成される。このマップ層ＭＬは、図
７では２次元に並ぶ素子を示したが、１次元に並ぶ素子
を用いてもよい。入力層ＩＬはマップ層ＭＬの全ての素
子と結合しており、入力データをマップ層ＭＬの全ての
素子に与えることできる。入力データは、スカラーでも
ベクトルでもかまわないが、ここでは一般的にベクトル
Ｘ（Ｋ次元）とおく。マップ層ＭＬの素子ｉ（ｉはマッ
プ上の順番とし、全素子数をＮ個とする。）は全て重み
ベクトルｍ ⁱ （Ｋ次元）を持つことにする。ＳＯＭのア
ルゴリズムは、入力ベクトルＸと各素子の重みベクトル
ｍ ⁱ との類似性から更新すべき重みベクトルを決定する
＜類似性マッチング＞と、その重みベクトルｍ ⁱ を入力
ベクトルＸの方に近付ける＜更新＞とに分けられる。そ
して、両者の作用を繰り返すことにより、入力ベクトル
Ｘの分布を反映する重みベクトルｍ ⁱ （１≦ｉ≦Ｎ）を
生成するものである。＜類似性マッチング＞と＜更新＞
の具体的な表式を以下に示す。

【００６８】 ＜類似性マッチング＞ ｘ・ｍ ^c ＝max ｘ・ｍ ⁱ ・・・（12） ＜更新＞ ｍ ⁱ （ｔ＋１）＝ｍ ⁱ （ｔ）＋γ（ｔ）｛Ｘ（ｔ）−ｍ ⁱ （ｔ）｝ ｉ∈Ｎ_c ｍ ⁱ （ｔ＋１）＝ｍ ⁱ （ｔ） その他 ・・・（13） ここで、ＣはＸとｍ ⁱ の内積値が最も大きかった素子
（勝利素子）、Ｎ_c はその勝利素子Ｃのマップ層ＭＬで
の近傍、γ（ｔ）は正の定数、ｔは時刻を示す。更新を
繰り返しながら、Ｎ_c とγ（ｔ）の大きさを徐々に小さ
くする。また、γ（ｔ）は、勝利素子Ｃから離れるに従
い小さくなるように選ぶこともできる。

【００６９】次に、ニューラルネットワーク装置４１を
構成する光計算機４２について説明する。この光計算機
４２は、入力ベクトル変換手段４６と、光学的ベクトル
行列演算装置４７と、行列変換手段４３とで構成されて
いる。

【００７０】入力ベクトル変換手段４６については、第
１実施形態と同一に構成したので、変換による同様の効
果が有る。

【００７１】行列変換手段４３では、学習課程において
は、上記アルゴリズムによる学習更新則に従って、入力
ベクトル変換手段４６によって変換された入力ベクトル
ｘ’と最大値検出手段４８から出力される指標ｉとを基
に、重みベクトルの更新を行い、これを一定値で正規化
した重みベクトルの集合（ｍ ¹ ，ｍ ² ，・・，ｍ ⁱ ，・
・，ｍ ^N ）を作成する。これを重み行列Ｍと呼ぶことに
する。なお、この正規化では、ベクトルｘ’のＬ２ノル
ムによる正規化の方が、内積演算をより高精度にでき
る。また、認識・判断過程においては、学習課程によっ
て獲得した重み行列Ｍを出力する。

【００７２】光学的ベクトル行列演算装置４７は、入力
ベクトル変換手段４６の出力であるｘ’＝α（ｘ−β
Ｉ）を入力として受け取り、このｘ’と、行列変換手段
４３で作られた重み行列Ｍとの積、 ｚ＝Ｍｘ’＝α ^t（ｍ ¹ ・（ｘ−βＩ），ｍ ² ・（ｘ−βＩ）， ・・・，ｍ ^N ・（ｘ−βＩ）） ・・・（14） を出力する。

【００７３】本実施形態の光学的ベクトル行列演算装置
４７により内積演算が計算される過程を図８を用いて説
明する。（１２）式の内積演算部分は、入力ベクトル
Ｘ’を要素数Ｋ＝Ｓ×Ｓの２次元に展開し、重みベクト
ルを、要素数Ｓ×ＳのサブマトリックスをＮ＝Ｔ×Ｔ個
（ニューラルネットの素子数に対応）並べたものに展開
すれば、各成分毎に次式のように書き直せる。

【００７４】 ここでは、説明を簡単にするために、（１５）式におい
て、Ｓ＝３、Ｔ＝２とする。この光学系を模式的に示す
と図８（ａ）のようになる。ＬＥＤアレイ９３３０は、
図８（ｂ）のように、特徴ベクトル検出伝送装置より送
られてくる特徴ベクトルＸ’の成分Ｘ’_ij（Ｘ’_ij；ｉ
＝１〜３，ｊ＝１〜３：何れも整数）の成分数３×３と
同数のＬＥＤで構成され、個々のＬＥＤは特徴ベクトル
Ｘ’の成分Ｘ’_ijの値に比例した量の光量をそれぞれ発
光する。それぞれのＬＥＤから発光した光束は、重みベ
クトルｍ _klの成分ｍ_klijを表すマスクアレイ９３３１中
の対応するマスクを照射する。ここで、図８（ｃ）に示
すように、マスクアレイ９３３１は、ｍ_klijの中でｉ，
ｊの値が等しい成分を配列したベクトルを１つのマスク
として配列してある。つまり、ここでは、１つのマスク
の成分数は２×２となり、マスクアレイ９３３１中のマ
スクの個数はＬＥＤと同等の３×３となる。さらに、
Ｘ’_ijを表す個々のＬＥＤが照射する領域は、マスクア
レイ９３３１中の同じｉ，ｊを表すマスクの領域とす
る。具体的には、図８（ｂ）において、斜線で示すＸ’
₁₁に対して発光するＬＥＤは、図８（ｃ）中の斜線部で
示した領域のみを照射して、そのマスクを読み出す。次
に、Ｘ’_ijに対応した個々のＬＥＤで読み出されたそれ
ぞれのマスクは、レンズアレイ９３３２の対応するレン
ズと結像レンズ９３３３により、フォトディテクターア
レイ９３３４の受光面で２×２の領域に重なり合って結
像される。１例として、図８（ｄ）に示すｋ＝１，ｌ＝
１の領域では、図８（ｃ）に示す各マスクパターンでの
ｋ＝１，ｌ＝１の領域（図８（ｃ）では太い破線でくく
られた領域）からの光束が入射する。このｍ_11ij｛ｉ＝
１〜３，ｊ＝１〜３：何れも整数｝は、それぞれｉ，ｊ
が等しいＸ’_ijの情報を乗せ発光するＬＥＤによって読
み出されるので、ｋ＝１，ｌ＝１の領域に集光する光束
は、結果として、 の計算を行ったことになる。

【００７５】また、負の値の取り扱いについては、光学
的ベクトル行列演算装置１１で説明した方法をそのまま
使える。上記光学系では、簡単のためＳ＝３，Ｔ＝２の
場合について説明したが、上記光学系では、レンズアレ
イ、入力ベクトルの配列、重みベクトルの配列等は任意
に選定でき、この場合、（１５）式を満足することは明
らかである。

【００７６】また、本実施形態に用いられる光学的ベク
トル行列演算装置４７は、上記の光学的ベクトル行列演
算装置の他、従来例で示した光学的ベクトル行列演算装
置１１等、類似する形態のものは全て用いることができ
る。すなわち、入力ベクトルの値に応じた強度で発光す
る発光素子アレイ、若しくは、透過率を可変にできる空
間光変調素子と光源の組み合わせによる光源アレイと、
行列の各成分に対応した透過率を持つ光学的マスク、あ
るいは、空間光変調素子、若しくは、行列の各成分に対
応した回折強度を持つホログラムと、出力ベクトルに応
じた強度を出力する受光素子アレイと、受光素子アレイ
の出力の中、決められた２つの受光素子の差分に比例し
た値を出力する差分回路アレイと、ベクトル正値化手段
と、行列正値化手段とを具備した光学的ベクトル行列演
算装置は、第１実施形態同様、全てこれに該当する。

【００７７】以上より、本実施形態の光計算機４２は、
入力ベクトル変換手段４６と、光学的ベクトル行列演算
装置４７と、行列変換手段４３とで構成され、入力ベク
トル変換手段４６により変換されたｘ’＝α（ｘ−β
Ｉ）を入力として受け取り、このｘ’と、行列変換手段
４３で作られた重み行列Ｍとの積ｚ、つまり内積演算の
結果を出力する。この内積演算の計算結果が従来例より
正確に行えることは、第１実施形態の説明より明らかで
ある。

【００７８】さらに、後段の最大値検出装置手段４８
は、上記光計算機４２内の光学的ベクトル行列演算装置
４７からの出力ベクトルｚの成分の中から最大のものｚ
_i を検出し、その指標ｉを出力する装置である。重み行
列Ｍ中の重みベクトルｍ ⁱ が全て等しい大きさに規格化
されている場合には、入力ベクトルｘと重みベクトルｍ
ⁱ の内積が最大となる重みベクトルが最も類似性の高い
重みベクトルであるので、最大値検出手段４８はこの最
も類似性の高い重みベクトルの指標ｉを出力することに
なる。

【００７９】この結果、本発明のニューラルネットワー
ク装置４１では、入力ベクトル変換手段４６により、入
力ベクトルｘをα（ｘ−βＩ）に変換し、光学的ベクト
ル行列演算装置４７により、重み行列Ｍとの積つまり内
積を計算した後、後段の最大値検出手段４８により、最
も類似性の高い重みベクトルの指標ｉを検出し出力す
る。

【００８０】本装置では、競合学習課程において、入力
ベクトルに対し変換を加えた上で、（１２）式に基づく
内積の類似性マッチングを行って勝利素子を決定し、さ
らに、（１３）式に基づく重みベクトルの更新をすれば
よいことが分かる。この競合学習課程においては、繰り
返し対象ベクトルを入力し、順次、上記の重みベクトル
の更新を行っていけば、適当な所で重みベクトルは収
束、安定するので、そこで学習を止めればよい。また、
学習後の認識・判断課程においては、重みベクトルを固
定したまま識別対象のベクトルを入力し、出力される指
標ｉによって認識や判断を行えばよい。例えば素子数Ｎ
が３６だとすれば、個々の素子毎に３６種類認識するよ
うにしてもよいし、３０個と６個の２つのグループに分
け２種類に分類判断してもよい。対象に合わせて自由に
設定すればよい。

【００８１】（具体例）本実施形態を持つ具体例を以下
に示す。本具体例では、画像を１６次元の特徴空間に変
換した上で、これを１画素ずつ１６次元のベクトルとし
て入力し、１２８個の素子からなるＳＯＭにより画像を
分類するためのニューラルネットワーク装置を実現し
た。

【００８２】まず、光計算機４２について述べる。入力
ベクトル変換手段４６は、前実施形態の具体例と同様に
構成した。また、光学的ベクトル行列演算装置４７とし
ては、図８に示した従来例の光学的ベクトル行列演算装
置を負の値をも扱えるようにして用いた。ここでは、Ｓ
＝６，Ｔ＝１６とする。

【００８３】発光素子アレイ９３３０は高輝度の赤色Ｌ
ＥＤを２次元に６×６で計３６個並べたものの中の四隅
の４個を除く３２個で、光学的マスク９３３１は９６×
９６の２次元配列で１成分当たり５×５画素割り当てた
６４０×４８０画素の透過型液晶空間光変調素子で、行
列変換手段４３によって決定され後述の行列正値化手段
により正値化されたたそれぞれの成分値を、空間光変調
素子に印加する電圧の制御により６４段階の透過率とし
て表現するように、受光素子アレイ９３３４は１６×１
６の２次元配列で計２５６個のフォトディテクタそれぞ
れに、オペアンプによる電流電圧変換回路を２５６個接
続したもので、レンズアレイ９３３２は同一のレンズを
６×６で計３６個２次元に並べたものをその前側焦点位
置に光学的マスク９３３１としての液晶空間光変調器の
表示面が一致するように、結像レンズ９３３３はその後
側焦点位置が受光素子アレイ９３３４の各フォトディテ
クタの受光面と一致し、しかもその光軸がレンズアレイ
９３３２の各レンズの光軸と平行になるように構成し、
さらには負の値をも扱うために、計算機内のプログラム
で実現する入力ベクトル正値化手段と行列正値化手段、
さらには受光素子アレイ９３３４からのプラス成分とマ
イナス成分に対応させて配置してあるオペアンプによる
差動増幅回路を１２８個並べた差分回路アレイを付加し
た。また、制御用の付加品として、入力ベクトル正値化
手段により変換されたデータをアナログ信号に変換する
ためのＡＤ変換ボード、このデータを受け発光素子アレ
イ９３３０を発光させる発光素子アレイ用のドライバ、
及び、行列正値化手段を介して入力された行列変換手段
４３からのデータを透過率として表現するための液晶空
間光変調素子用のドライバも用いている。

【００８４】行列変換手段４３は、入力ベクトル変換手
段４６によって変換されたベクトルｘ’と最大値検出手
段４８からの出力ｉを用いて前述のＳＯＭのアルゴリズ
ムに基づいて重みベクトルを作成するものであるが、こ
こでは計算機内で実現している。また、精度向上のた
め、この際重みベクトルをこの重みベクトルのＬ２ノル
ムで正規化している。

【００８５】以上の構成により、本具体例の光計算機４
２は、コンピュータ内に入力された１６次元の特徴空間
ベクトルｘを、このコンピュータ内に実現されている入
力ベクトル変換手段４６により、ｘ’に変換し、さら
に、入力ベクトル正値化手段により正値のプラス成分と
マイナス成分に変換後、ＡＤ変換ボードと、発光素子ア
レイ９３３０のドライバを介して、高輝度の赤色ＬＥＤ
からなる発光素子アレイ９３３０を、プラス成分とマイ
ナス成分に分離して発光させる。ここで発光した光束に
乗った変換データは、従来例で説明したのと同様な作用
を光学系９３３１及び９３３３と、行列正値化手段によ
って前述の（ロ）式のように正値のプラス成分とマイナ
ス成分に変換された重みベクトルを表示させた光学マス
ク９３３１によって受け、さらに、受光素子アレイ９３
３４と差分回路アレイを経ることで、光学マスク９３３
１上に表現された１２８個の素子の重みベクトルとの内
積値に比例した電圧値となって出力される。この際、前
述のように、生の画像データを直接処理するのではな
く、値の範囲をハードウエアに合わせ適切に変換してか
ら処理しているので、正確な内積が計算できる。

【００８６】次に、この光計算機４２を用いた、ニュー
ラルネットワーク装置４１について述べる。本具体例の
ニューラルネットワーク装置４１では、さらに、光計算
機４２からの出力である内積値から、最大のものを最大
値検出手段４８で検出しそのインデックスを出力する。
この最大値検出手段４８も前実施形態の具体例中の最大
値検出手段３８と同一に構成した。

【００８７】以上の構成により、本具体例のニューラル
ネットワーク装置４１では、競合学習課程において、光
計算器４２で入力ベクトルに対し変換を加えた上で、
（１２）式に基づく内積の類似性マッチングを行い勝利
素子を決定し、そのインデックスｉを出力し、さらに
（１３）式に基づく重みベクトルの更新をする。この競
合学習課程においては、繰り返し対象ベクトルを入力
し、順次上記の重みベクトルの更新を行い、重みベクト
ルが収束、安定した所で学習を止めるが、１００００回
から３００００回程度行えば十分であった。また、学習
後の認識・判断課程においては、重みベクトルを固定し
たまま分類対象画像のベクトルを入力し、出力される指
標ｉによって分類を行う。この分類としては、例えば病
理画像を入力し、正常細胞と異常細胞とその中間に分類
する、あるいは、プリント基板の画像を入力し、欠陥の
有無やその種類を分類する等、様々な用途への応用が考
えられる。また、分類結果のデータは、そのまま保存し
て後に解析するのに利用したり、異常部分だけ表示した
り、異常部分を特定の色で表現し元の画像に重ねて表示
したり、他にも様々な利用形態が考えられる。

【００８８】なお、本具体例においても、現状の計算コ
ストを優先させたために、光学的ベクトル行列演算装置
４７及び最大値検出手段４８以外の部分は、計算機内の
数値計算により処理を行う部分が多いが、もちろん、電
子回路や光回路でも構成することは可能であり、デバイ
ス技術が進展すれば、それらを用いるメリット（特に高
速性における）が出てくる。

【００８９】以上の構成により、内積演算の計算精度が
向上した光計算機４２を用いることにより、高速演算が
可能で、かつ、最も類似性の高い重みベクトルの判別誤
りが少なく、したがって、最終的な認識や判断が高速か
つ正確に可能な高性能なニューラルネットワーク装置４
１を構成することができる。

【００９０】以上、本発明の内積演算装置及びそれを応
用した情報処理装置について説明してきたが、本発明は
これら実施形態に限定されず種々の変形、あるいは、他
のアプリケーションへの転用が可能である。また、光を
中心に説明したが、本発明の手法は、電気素子による内
積演算やソフトウエアによる内積演算にも利用が可能な
ものである。

【００９１】なお、電気素子で内積演算を行った場合に
は、その素子で扱うことのできるビット数等の制限やそ
の素子自体の特性上の制限に合わせた適正範囲内で演算
を行うことができ、高精度な内積演算を行うことができ
る。

【００９２】さらに、内積演算をソフトウエア上で実行
した場合には、入力ベクトルの各成分の値を適正範囲内
に収めることができるため、プログラムの簡略化や処理
時間の短縮を図ることも可能となる。

【００９３】

【発明の効果】以上の説明から明らかなように、本発明
によれば、高速性のみならず、入力ベクトルに対して高
精度に内積演算を行える内積演算装置を提供することが
できる。

【図面の簡単な説明】

【図１】本発明において利用可能な光学的ベクトル行列
演算装置の１例の構成を模式的に示す図である。

【図２】本発明において利用可能な光学的ベクトル行列
演算装置の別の例の構成を模式的に示す図である。

【図３】本発明の光計算機を用いた情報処理装置の第１
実施形態の構成を示す図である。

【図４】一般的な画像の画素の取る成分値をヒストグラ
ムで表した図である。

【図５】本発明に基づいてベクトル変換した後の図４の
画像の成分値をヒストグラムで表した図である。

【図６】本発明の光計算機を用いた情報処理装置の第２
実施形態の構成を示す図である。

【図７】自己組織化特徴マップの構成を示す図である。

【図８】第２実施形態の光学的ベクトル行列演算装置に
より内積演算が計算される過程を説明するための図であ
る。

【符号の説明】

１…光学的ベクトル行列演算装置 ２…発光素子アレイ ３…光学的マスク ４…受光素子アレイ ２ａ、２ｂ・・・…発光素子 ４ａ、４ｂ・・・…受光素子 １１…光学的ベクトル行列演算装置 １２…入力ベクトル正値化装置 １３…発光素子アレイ １４…光学的マスク １４’…行列正値化手段 １５…受光素子アレイ １６…差分回路アレイ １３ａ、１３ｂ、１３ｃ、１３ｄ・・・…発光素子 １５ａ、１５ｂ、１５ｃ、１５ｄ・・・…受光素子 １６ａ、１６ｂ・・・差分回路 ３１…ベクトル量子化装置 ３２…光計算機 ３３…行列変換手段 ３４…平均値計算手段 ３５…利得計算手段 ３６…入力ベクトル変換手段 ３７…光学的ベクトル行列演算装置 ３８…最大値検出手段 ４１…ニューラルネットワーク装置 ４２…光計算機 ４３…行列変換手段 ４６…入力ベクトル変換手段 ４７…光学的ベクトル行列演算装置 ４８…最大値検出手段 ９３３０…ＬＥＤアレイ ９３３１…マスクアレイ ９３３２…レンズアレイ ９３３３…結像レンズ ９３３４…フォトディテクターアレイ ＭＬ…マップ層 ＩＬ…入力層

Claims (3)

【特許請求の範囲】
1. 【請求項１】 入力されたベクトルに対し、その全ての
   成分からスカラー数を減じた後、スカラー数を乗じる変
   換を施す入力ベクトル変換手段と、 前記入力ベクトル変換手段から出力されたベクトルに基
   づいて行列を求める行列変換手段と、 前記入力ベクトル変換手段からのベクトルと前記行列変
   換手段からの行列を構成する各ベクトルとの内積を求め
   るベクトル行列演算手段と、を備えることを特徴とする
   内積演算装置。
2. 【請求項２】 前記ベクトル行列演算手段からの出力を
   受けて、その最大の出力を与える行列を構成するベクト
   ルを求める最大値検出手段をさらに有することを特徴と
   する請求項１記載の内積演算装置。
3. 【請求項３】 前記行列変換手段は、前記最大値検出手
   段からの出力を受けて競合アルゴリズムに従って行列に
   変換するベクトルを決定する手段をさらに有することを
   特徴とする請求項２記載の内積演算装置。