JPH05108828A

JPH05108828A - パターン識別方法

Info

Publication number: JPH05108828A
Application number: JP3263936A
Authority: JP
Inventors: Yasuhiro Takemura; 竹村安弘; Toshiji Takei; 武居利治
Original assignee: Sumitomo Cement Co Ltd
Current assignee: Sumitomo Cement Co Ltd
Priority date: 1991-10-11
Filing date: 1991-10-11
Publication date: 1993-04-30

Abstract

(57)【要約】（修正有）【目的】多くのパターンを複数の参照パターンの類似性
を元に識別する。【構成】入力ベクトルの要素をｘ_i、ｊ番目の識別クラ
ス或いはサブクラスに対する基準ベクトルの要素を
ａ_ji、これらのベクトルの要素数をｎとし、これと等し
い要素数を持つｊ番目の識別クラス、サブクラスに対す
る重みベクトルの要素をｋ_jiとし、ｃ₁、ｃ₂を定数と
し、ｆ（）を単調非減少の関数としたとき、各々の識別
クラス、サブクラスに対する次式より求めた値ｙ_jに基づいて入力パターンの属するクラ
スを識別し、基準ベクトルは、要素ａ_jiの任意の初期値
に対して、ｄ_jをｊ番目の識別クラス、サブクラスに対
する理想的出力、ｍを識別クラス数、サブクラス数とし
たとき、入力パターンの提示毎に、初期値からの増減量
Δａ_jiを、次式より求め、この値を基にして、基準ベクトルの対応する
要素の増減を求める。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、文字、画像、音声、そ
の他あらゆる信号のパターンを識別するパターン識別方
法に関し、特に、多くの画像パターンを、複数の参照パ
ターンとの類似性を元に識別するパターン識別方法に関
する。

【０００２】

【従来の技術】画像パターン等のパターンの識別を行な
うとき、その代表的手法として、ニューラルネットワー
クを用いた識別方法が盛んに研究されている。ニューラ
ルネットワーク等の識別手法を用いる場合、画像パター
ンや、音声パターン等のパターンの識別では、先ず、入
力パターンから複数のパラメータによる特徴量を抽出
し、次に、その特徴量の集合に対して、何らかの演算を
施して、識別出力を得るのが、一般的手順である。この
特徴量のパラメータの数をｎとして、これらの特徴量を
要素とする位置ベクトルを考え、このベクトル（入力パ
ターンに固有のベクトルであるから、これを入力ベクト
ルと呼ぶ）を含むｎ次元空間を、特徴空間と呼ぶことと
する。例えば、２次元画像パターンにおいて、これをＮ
×Ｍの小領域に分割し、各領域における濃度の平均値を
特徴量として用いることができる。この場合の特徴空間
は、Ｎ×Ｍ次元空間となり、一般の画像パターンの場
合、非常に大きな次元となる。

【０００３】このような特徴空間において、入力パター
ンを識別するために、大きく分けて、２つの方法が考え
られる。１つは、特徴空間を各々のクラス、或いはサブ
クラス毎に分割して、その特徴空間において、入力ベク
トルが含まれる領域の示すクラスにより識別する方法で
あり、もう１つは、特徴空間内の各クラスの基礎となる
位置を用意しておいて、入力パターンとこれらの基準と
のノルム（距離）のうちで、最も短いもののクラスによ
り識別する方法である。この場合のノルムの計算におい
ては、各座標軸毎にデータのバラツキ具合が異なる場合
があるので、各座標軸の寄与を一律に計算せずに、その
座標軸におけるデータの分散値を用いて寄与率の補正を
行なっても良い。

【０００４】前者の方法の代表例は、現在盛んに研究さ
れている、誤差逆伝搬法による学習を用いた多層パーセ
プトロンであり、入力パターンの分布に特別の前提を持
たない長所がある反面、学習による特徴空間の分割が確
実に行なわれるとは限らず、また、多層パーセプトロン
の構造の決定に試行錯誤が必要である等の欠点があっ
た。特に、複雑な形状の部分空間を作ろうとすると、必
要な素子数や層数が大きくなり、学習及びハードウエア
化が非常に困難となっていた。

【０００５】後者の方法の代表例としては、ガウシアン
識別装置(Gaussian maximum likelihood classifier)と
呼ばれる方法が提案されている。この方法は、本発明の
パターン識別方法の１実施例と共通の部分があるので、
図面を用いて詳細に説明する。

【０００６】図２は、ガウシアン識別装置によるパター
ンの識別方法を示す説明図である。本例では、説明を簡
単にするために、特徴空間を２次元としている。従っ
て、入力ベクトル、基準ベクトル共に、２次元の位置ベ
クトルとなる。基準ベクトルは、１つの識別クラスに対
して１つを設け、その位置は、そのクラスに属するサン
プルパターンの平均値とする。図２では、３つのクラス
に対する各々の基準ベクトルが×印により示されてい
る。ここで、入力パターンによる入力ベクトルが、＋印
の位置であったとする。ガウシアン識別装置では、この
入力ベクトルと、各々の基準ベクトルとの距離に関係す
る評価値として、Ｄ₁、Ｄ₂、Ｄ₃を、（４）式に基づい
て計算し、最も評価値の大きいクラスを識別クラスとし
て採用する。

【０００７】

【数４】但し、Ｄ_n：クラスｎに対する評価値ｘ_i：入力ベクトルのｉ番目の要素Ｍ_ni：クラスｎの基準ベクトルのｉ番目の要素 σ_i ²：特徴空間のｉ番目の座標軸に関する入力データの
分散値Ｎ：入力ベクトルの要素数

【０００８】ガウシアン識別装置では、このようにして
入力パターンの識別が可能であるが、その評価値を正当
に比較するためには、各々のクラスにおける各座標軸に
対応する分散値が等しくなければならない。即ち、σ_i ²
＝σ_1i ²＝σ_2i ²＝σ_ni ² という前提条件があり、この前
提条件がガウシアン識別装置の有効な応用範囲を限定す
るという問題点があった。

【０００９】また、これらの手法においては、識別装置
に形成されたいずれの識別領域にも属さないパターン
が、入力された場合に、それが何らかのクラスに属する
ものとして、判断されてしまい、未知パターンと既知パ
ターンとの区別が、つかないという問題点もあった。

【００１０】また、前記いずれの方法のおいても、入力
パターンの情報量が増えるにつれて、処理系の規模や演
算量が膨大になり、特に、画像パターンを扱うような場
合には、それをそのままピクセルデータとして取り扱う
ことは不可能となっていた。

【００１１】

【発明が解決しようとする課題】本発明は、上記の問題
点を解決するために為されたもので、多くのパターンの
識別に適し、類似したパターンの識別も可能で、入力パ
ターンが複雑になっても、処理系の規模がいたずらに大
きくならず、識別領域を作成するための学習が短時間で
確実に遂行され、入力パターンの分布に特別の前提条件
を必要とせず、未知のパターンと既知のパターンとの区
別が、可能なパターン識別方法を提供することを目的と
する。

【００１２】

【課題を解決するための手段】本発明は、上記の技術的
な課題の解決のために成されたもので、識別したい入力
パターンからｎ個の特徴量を検出するための、ｎ種類の
パラメータを座標軸とするｎ次元特徴空間内の、該入力
パターンに対して検出した該各特徴量を、要素とする位
置ベクトル（以後、入力ベクトルと称する）と、各識別
クラス或いは該クラスの一部を成すサブクラス毎に設定
された該特徴空間内の各基準位置ベクトル（以後基準ベ
クトルと称する）との位置関係に基づいた量により識別
を行なうパターン識別方法において、前記入力ベクトル
の要素を、ｘ_iとし、ｊ番目の前記識別クラス或いはサ
ブクラスに対する基準ベクトルの要素を、ａ_jiとし、こ
れらのベクトルの要素数をｎとして、これと等しい要素
数を持つｊ番目の前記識別クラス或いはサブクラスに対
する重みベクトルの要素を、ｋ_jiとして、ｃ₁、ｃ₂を
定数とし、ｆ（）を単調非減少の関数としたときに、前
記の各々の識別クラス或いはサブクラスに対する式
（１）により求めた値ｙ_j

【数１】値ｙ_jに基づいて入力パターンの属するクラスを識別
し、前記基準ベクトルは、要素ａ_jiの任意の初期値に対
して、ｄ_jをｊ番目の前記識別クラス或いはサブクラス
に対する理想的出力、ｍを前記識別クラス数或いはサブ
クラス数としたときに、入力パターンの提示毎に、前記
初期値からの増減量Δａ_jiを、

【数２】の式（２）により求め、この値を基にして、基準ベクト
ルの対応する要素の増減を求め、前記重みベクトルは、
各クラス或いはサブクラス毎に適当なベクトルを使用す
ることを特徴とする前記パターン識別方法を提供する。

【００１３】また、識別したい入力パターンからｎ個の
特徴量を検出するための、ｎ種類のパラメータを座標軸
とするｎ次元特徴空間内の、該入力パターンに対して検
出した該各特徴量を、要素とする位置ベクトル（以後、
入力ベクトルと称する）と、各識別クラス或いは該クラ
スの一部を成すサブクラス毎に設定された該特徴空間内
の各基準位置ベクトル（以後基準ベクトルと称する）と
の位置関係に基づいた量により識別を行なうパターン識
別方法において、前記入力ベクトルの要素を、ｘ_iと
し、ｊ番目の前記識別クラス或いはサブクラスに対する
基準ベクトルの要素を、ａ_jiとし、これらのベクトルの
要素数をｎとして、これと等しい要素数を持つｊ番目の
前記識別クラス或いはサブクラスに対する重みベクトル
の要素を、ｋ_jiとして、ｃ₁、ｃ₂を定数とし、ｆ（）
を単調非減少の関数としたときに、前記の各々の識別ク
ラス或いはサブクラスに対する式（１）により求めた値
ｙ_j

【数２】の式（２）により求め；この値を基にして、基準ベクト
ルの対応する要素の増減を求め；前記重みベクトルは、
要素ｋ_jiの任意の初期値に対して、入力パターンの提示
毎に、前記初期値からの増減量Δｋ_jiを、

【数３】の式（３）により求め、この値を基にして、重みベクト
ルの対応する要素の増減を求めることを特徴とする前記
パターン識別方法をも提供する。

【００１４】また、前記関数ｆ（）は、シグモイド関数
とするものが好適である。そして、前記ａ_ji、ｘ_i、ｋ
_jiは、各々、１次元或いは２次元の光学マスクアレイの
各開口強度透過率として表し、ｋ_ji（ｘ_iーａ_ji）²の演
算を光学的に行ない、前記演算の結果を光量として検出
することが好適である。また、前記入力ベクトルは、入
力パターンと複数の参照パターンとの各々の光学的相互
相関に基づいた検出量を、その要素とすることが好適で
ある。

【００１５】

【作用】上記の手段により、本発明のパターン識別方法
においては、任意の１つのクラス或いはサブクラスに対
応した重みを掛けたものの各要素についての和の値を基
に、入力パターンがそのクラス或いはサブクラスに属す
るかどうかの判定を行なう。即ち、この値が大きければ
大きい程、入力パターンと基準パターンの差が大きく、
式（１）のｙ_jの値は、小さくなり、入力パターンがそ
のｊ番目のクラス或いはサブクラスに属する程度は、小
さいとすることができる。

【００１６】このときの基準ベクトル及び重みベクトル
は、当初、ランダムな要素を持つベクトル等の任意のベ
クトルを与えておき、サンプルの入力パターンの提示と
それに対応した理想出力の提示により、理想出力と実際
の出力の各要素の誤差の２乗和を求め、前記誤差の２乗
和の値が小さくなるように、前記初期ベクトルを逐次修
正して求める。ここで、前記誤差２乗和を前記各々のベ
クトルの要素で、偏微分すれば、その要素の座標軸にお
ける前記誤差２乗和を減少させる方向が得られるから、
その方向に前記要素を修正することにより、前記誤差２
乗和を逐次修正することができ、各クラス或いはサブク
ラスに属する適当な入力パターンを逐次入力して、前記
各々のベクトルの修正を繰り返すことにより、各々の基
準ベクトル及び重みベクトルを適当な値に収束させるこ
とができる。尚、式（２）及び（３）により、求めた値
に比例した値を、そのまま修正量として使用する方法
は、最急降下法と呼ばれている。

【００１７】このようにしてできた識別領域は、多層パ
ーセプトロンによって、超平面で仕切った領域とは異な
り、１つ１つのクラス或いはサブクラスの領域が、各々
１つの基準ベクトルと重みベクトルとにより決定される
ので、多層パーセプトロンの様に中間層ユニット数を試
行錯誤で求める必要がない。

【００１８】また、多層パーセプトロンでは、識別領域
を構成する組合わせが無数にあるために、必ずしも有効
な識別領域に収束しないことが多いが、本発明のパター
ン識別方法によれば、必ず、１つのクラス或いはサブク
ラスを囲む領域が決定されることになる。然も、１つの
基準ベクトルに１つの領域を割り当てているので、多層
パーセプトロンの様に、１つの領域を作るのに、いくつ
もの中間層ユニットを用いる必要がなく、ネットワーク
がいたずらに大規模になるのに防ぐことができる。

【００１９】また、ガウシアン識別装置では、入力パタ
ーンの分布がガウス分布をしており、しかも、各特徴
量、即ち、入力ベクトルの各要素に対する分散が一定で
あるという前提条件が必要であったのに対して、本発明
のパターン識別方法によれば、実際のサンプルの入力パ
ターンを用いて、それらが各領域に入るように学習を行
なうために、前記の前提条件が必要なくなる。

【００２０】更に、ガウシアン識別装置では、入力ベク
トルと各基準ベクトルとの距離（ノルム）の最も小さい
クラス或いはサブクラスを選んでいたために、入力パタ
ーンが、予め想定されていたパターンと全く異なるパタ
ーンでも、必ずいずれかのクラス或いはサブクラスに判
定されてしまったのに対して、本発明のパターン識別方
法では、式（１）のｙ_jの値に適当な基準を設けること
により、入力パターンを未知のパターンと既知のパター
ンとに分けることができる。

【００２１】ところで、前記重みベクトルは、これを固
定して学習（即ち修正）を行なわず、基準ベクトルのみ
を学習して、識別領域を作成することも可能である。例
えば、重みベクトルをすべての要素が１の単位ベクトル
とすれば、入力ベクトルと基準ベクトルとの距離（ノル
ム）が、そのまま評価され、超球状の識別領域が形成さ
れる。また、重みベクトルが単位ベクトルでなくても、
それに応じた基準ベクトルが形成される。

【００２２】尚、このとき、関数ｆ（）として、ｘを変
数、ｃ₃を任意の定数として、ｆ（ｘ）＝１／{１＋exp
(−ｘ／ｃ₃)}で表されるシグモイド関数を用いると、そ
の微分が元の関数を用いて、ｆ’(ｘ)＝ｆ(ｘ)・{１−ｆ
(ｘ)}／ｃ₃のように表されるので、計算上都合が良い。

【００２３】更に、本発明のパターン識別方法において
は、入力ベクトル、基準ベクトル、重みベクトルを各
々、１次元或いは２次元の光学マスクアレイとして、表
現すると、高速に大容量の識別が可能な装置化を行なう
ことができる。即ち、各ベクトルの各要素を光学的マス
クアレイの各開口の強度透過率として、入力ベクトルに
対応したマスクアレイ、各基準ベクトルに対応したマス
クアレイ、各重みベクトルに対応したマスクアレイを作
成し、各々のマスクアレイのベクトルの各要素の配置
は、各々対応した位置となるようにし、入力ベクトルと
基準ベクトルとの光学的差演算及びその結果の光量と重
みベクトルとの積演算を行ない、その出力光量を各ベク
トルに対応した出力毎に検出して関数ｆ（）の入力とす
る。尚、光学的差演算は、その代表例として、現在、位
相共役鏡と干渉計とを組合わせた方法が提案されてお
り、２つの画像の差の２乗の出力が比較的に安定して得
られる。また、積演算については、各々の要素が対応し
た位置にあるマスクを光が通過することにより、積演算
が行なわれる。

【００２４】尚、本発明のパターン識別方法において
は、入力パターンの特徴量として、複数の参照パターン
と入力パターンとの光学的相互相関に基づいた検出量を
とると、都合が良い。このような光学的相互相関に基づ
いた特徴量の検出を行なうと、類似した入力パターンに
対する入力ベクトルには、必然的に特徴空間内の近い領
域に位置することになり、１つのクラス或いはサブクラ
スを１つの領域で囲み易くなる。本発明における入力パ
ターンと参照パターンとの相互相関に関わる量の検出に
は、光学的相関演算手法として良く知られている、合同
フーリエ変換(JointTransform) 法、マッチドフィルタ
法のどちらかも適用可能である。これらの方法では、そ
の相互相関出力として、２次元の光強度分布である相関
パターンを得ることができる。この相関パターンには、
単にピーク強度だけでなく、その強度分布を観測するこ
とにより、相関をとった２つのパターンの相互の位置関
係における類似性の情報も含まれている。従って、複数
の受光素子を用いてパターン中の各部位の光強度を検出
することにより、多くの特徴量を得ることができる。

【００２５】また、この光学的相互相関に基づいた検出
量は、厳密に相互相関である必要はなく、光学的演算で
疑似相関量としてしばしば用いられる。２つのパターン
の畳み込み積分から得られた検出量でもかまわない。従
って、前記の方法の他にも、入力パターンと参照パタ−
ンとを透過率マスクで表し、それら２つのマスクを重ね
て、両方のマスクを透過してきた光量を測定することに
より、疑似的に相関出力を得る影絵の相関と呼ばれる方
法も適用可能である。この方法では、インコヒーレント
光を用いて、簡易に疑似的相関出力を得ることができる
ので、装置化し易いメリットがある。また、相関を取る
２つのパターンの一方のフーリエ変換パターンを、他方
のフーリエ変換面上に配置した空間光変調器上に表示し
て、フーリエ変換面で影絵の相関を行なうこともでき
る。この場合は、入力パターンと参照パターンの相関検
出が、シフトインバリアントを行なえるので、都合が良
い。

【００２６】特に、従来相関検出によるパターン識別
は、類似パターンの識別が困難なことが、大きな問題点
であったが、本発明のパターン識別方法に従って、複数
の相関出力を組合わせて、その領域を作成することによ
り、類似のパターンの識別も可能となる。

【００２７】尚、本発明のパターン識別方法では、１つ
のクラス或いはサブクラスを１つの領域で表すものとし
たが、すべてのクラスが各々類似した入力ベクトルで表
したパターンで構成されている場合には、各々１つの領
域で各々のクラスを表すことができる。然し乍ら、全
く、特徴量の異なる入力パターン同志を同じクラスとし
て識別したい場合には、各々の特徴量の類似した入力パ
ターン毎にサブクラスを設定し、各々のサブクラス毎に
識別領域を作成して、これらのサブクラスのまとまりを
クラスとして、識別するように、サブクラスの組合わせ
を予め与えておけば良い。

【００２８】次に、本発明のパターン識別方法を具体的
に実施例により説明するが、本発明はそれらによって限
定されるものではない。

【００２９】

【実施例１】図１は、本発明の１実施例の特徴空間と、
特徴空間内に設定された識別領域における基準ベクトル
を示す説明図であり、各識別領域の中心の×印は、各々
の識別領域における基準ベクトルを示す。説明を簡単に
するために、入力ベクトルの要素数を２、即ち、２次元
の特徴空間を考える。この場合の特徴量は、何らかのセ
ンサ出力でも良いし、参照パターンと入力パターンとの
相関ピーク出力でも良い。このような特徴量は、その入
力パターンにより、種々のものが考えられる。ここで、
領域識別のための閾値θ_jを用いて、関数ｆ（ｘ）＝１
（ｘ≦θ_jのとき）、０（ｘ＞θ_jのとき）とすれば、
例えば、図１の識別領域Ａ１、識別領域Ｂ２、識別領域
Ｃ３の各々に対応する基準ベクトルを中心とする破線で
囲まれた関数ｆ（ｘ）が、出力１を持つ領域を式（１）
に基づいて設定することができる。

【００３０】即ち、入力ベクトルを式（１）に適用する
と、重みベクトルの２つの要素の値が、等しい場合に
は、識別領域Ｂ２のように、円形の領域に入力ベクトル
が入った場合には、その入力パターンは、識別領域Ｂ２
に対応するクラスに属するものと判定することができ
る。また、各々の識別領域に対応する重みベクトルが、
各々の一般的な要素の値を持つ場合には、識別領域Ａ１
や識別領域Ｃ３に示すように、各々に対応した基準ベク
トルを中心とした一般に楕円形の識別領域が形成され、
入力ベクトルがその領域に入ったか否かで対応するクラ
スの識別が行なわれる。このような式（１）の演算は、
特徴空間の次元数が低く、識別クラス数も少なければ、
パーソナルコンピュータ等を用いたソフトウエア処理を
行なうことが適当であるが、特徴空間の次元数や識別ク
ラス数が増えるに従って、大規模な計算機や専用のハー
ドウエアが必要となる。

【００３１】なお、本実施例における基準ベクトル及び
重みベクトルの学習は、作用の項で述べたように、当初
ランダムな値のベクトルを設定して、入力サンプルデー
タの提示毎に、式（２）或いは式（３）に示す修正量を
元に修正していくことが可能であるが、特に、本実施例
では、関数ｆ（）として、閾値関数を用いたので、その
微分演算が不便である。然し乍ら、この場合には、関数
ｆ（）を、シグモイド関数や、線形関数として、その微
分を用いても大きな不都合は無い。

【００３２】また、重みベクトルの学習を行なわない場
合には、重みベクトルとして、任意のベクトルを設定す
ることが可能であるが、そのような場合には、すべての
要素が１の単位ベクトルを設定するのが最も適当であ
り、このことは、実質的に重みベクトルを用いないこと
と等価である。尚、これらの基準ベクトル及び重みベク
トルの修正計算は、電子計算機を用いて行なうのが、最
も簡便である。

【００３３】

【実施例２】本発明のパターン識別方法は、実施例１に
おいて、述べたように、電子計算機を用いて、実施する
ことができる。然し乍ら、式（１）の演算の主要部分
は、光学的に演算を行なうことができ、それにより、識
別速度を大幅に向上させることができる。

【００３４】本実施例は、識別速度を向上させる方法の
１つであり、図４（ａ）、（ｂ）、（ｃ）は、各々、入
力ベクトル、基準ベクトル、重みベクトルを強度透過率
で表した光学的マスクを示す説明図である。図３におい
て、各々、入力ベクトル、基準ベクトル、重みベクトル
は、光学的マスクである空間光変調器Ａ５１、空間光変
調器Ｂ５２、空間光変調器Ｃ５３上に透過率分布で表さ
れており、入力ベクトルは、空間光変調器Ａにおいて、
基準ベクトル或いは重みベクトルに対応して、それらの
数だけ複製して、各ベクトルに対応した位置に表示され
ている。本実施例では、各ベクトルの要素数は４で、従
って、４次元の特徴空間が形成されていることになり、
この各要素の値は、各々、２×２のマトリックスに並べ
られた各々の領域の強度透過率で表される。

【００３５】また、基準ベクトルは、空間光変調器Ｂ５
２上に入力ベクトルと同様に２×２のマトリックスを各
識別領域に対応する１つのベクトルとして、表示されて
いる。この２×２のマトリックスが識別領域の数だけ、
並んで表示されることとなる。更に、重みベクトルも、
基準ベクトルと同様に、空間光変調器Ｃ５３上の各基準
ベクトルに対応した位置に強度透過率分布として表示さ
れる。尚、ここで用いた空間光変調器は、具体的にはマ
トリックス状に対向電極を配した液晶パネルや、液晶パ
ネルに光導電膜を組合わせた光アドレス型の液晶ライト
バルブ等が用いられる。また、入力パターンは、常に新
しいパターンが入力されるので、時間的な変調が可能な
空間光変調器を用いる必要があるが、基準ベクトル及び
重みベクトルについては、学習が終了してしまえば、必
ずしも、時間的な変調は必要なく、銀塩感光材料等を用
いることもできる。

【００３６】ここで、入力ベクトルと基準ベクトルとの
差の２乗の演算は、例えば、オプチカルエンジニアリ
ング(Optical Engineering) Vol.27,No.5,pp385〜392(1
988)に提案されている干渉計と位相共役鏡を組合わせた
方法により、実現することができる。図５は、この方法
に基づいて光学的差算を行なう光学系の概念図であり、
その構成について、簡単に説明を加える。アルゴンレー
ザ３１を出射した光束は、ビームエキスパンダ３２によ
り、その光束径を適当に広げられ、ビームスプリッター
３３により、２つの方向に進行する光束に分けられる。
ビームスプリッター３３を透過した光束は、図４に示す
ように、空間光変調器上に表示された入力パターン３６
の変調を受け、ミラー３８で反射されて、レンズ３４を
通り、その焦点面に配置されたBaTiO₃結晶４１に入射す
る。このBaTiO₃は、位相共役鏡として機能し、入射した
光束の時間反転波が発生して、元、来た光路を戻って行
く。

【００３７】一方、ビームスプリッター３３で反射され
た光束は、図４に示したように空間光変調器上に表示さ
れた基準パターン群３７で変調を受け、ミラー３９で反
射されて、レンズを通り、更にミラー４０で反射されて
ビームスプリッター３３を透過した光束と同様に、レン
ズ３５の焦点面に配置されたBaTiO₃４１に入射し、その
時間反転波が発生して、元来た光路を戻って行く。これ
ら２つの時間反転波は、ビームスプリッター３３で合成
され、レンズ４２により、出力パターン４３として結像
する。この時、得られた出力パターン４３の強度分布
は、ビームスプリッター３３の透過率と反射率が等し
く、BaTiO₃４１による位相共役鏡の反射率が入射した２
つの光束に対して、等しければ、入力パターン３６と基
準パターン３７の差の２乗になることが、ストークスの
方程式から導かれる。従って、図６の光学的積演算を示
す説明図に示すように、この出力パターン４３を、ビデ
オカメラ６０により撮像して液晶パネル６１に表示する
か、図７の他の光学的積演算を示す説明図に示すよう
に、直接光アドレス型液晶ライトバルブに結像させるこ
とにより、この差算の出力と、重みベクトルとの積演算
を行なうことができる。

【００３８】図６においては、液晶パネル６１に前記の
ように、複製して並べた入力ベクトルと基準ベクトル群
との差の２乗パターンを表示し、これを光束６２で照射
し、これと同じ光軸上に、重みベクトル群を表示する空
間光変調器である液晶パネル６３を配置する。すると、
各ベクトルの要素毎に透過率の積演算が実施されるの
で、こをを各ベクトル毎にレンズアレイ６４の各レンズ
により集光して、光電検出器アレイ６５の各検出器によ
り受光すれば、各ベクトル毎の積和の値、即ち、式
（１）の積和演算の項に対応した値を検出することがで
きる。

【００３９】また、出力パターン４３の表示に光アドレ
ス型の液晶ライトバルブを用いる場合は、図７に示すよ
うに、出力パターン４３を図５のレンズ４２により液晶
ライトバルブ７１の書き込み面に直接結像させ、この液
晶ライトバルブ７１の読み出し面にハーフミラー７２を
介して、光束７０を入射させる。この光束により、液晶
ライトバルブ７１の読み出し面に表示された出力パター
ン４３に応じたパターンは、結像レンズ７３を介して重
みベクトルを表示した液晶パネル６３上に結像する。そ
こで、液晶パネル６３を透過してきた光束を、フィール
ドレンズ７４、レンズアレイ６４により、各々、ベクト
ル毎に光電検出器アレイ６５に導けば、図６に示したと
同様に、式（１）の積和演算の項を実施することができ
る。

【００４０】尚、学習のときにも、この光学系を用い
て、式（１）を計算し、逐次、基準ベクトル及び重みベ
クトルの修正を行なえば、光学系の演算誤差を含んだ状
態で識別が行なわれるように、学習が成されるので、光
学系にある程度のバラツキが見込まれる場合にも、有効
な識別が行なわれるようになる。

【００４１】また、重みベクトルとして、適当な固定値
を用いて、重みベクトルの学習をしない場合は、液晶パ
ネル６３は、銀塩材料等により作成したベクトルパター
ンの固定マスクとしても良い。然し乍ら、重みベクトル
の学習をしないのであれば、重みベクトルはすべての要
素が１の単位ベクトルと考え、図６及び図７に示すよう
な光学系を用いずに、図５の光学系により、差の２乗の
出力を、そのまま、式（１）の積和演算項に対応した値
として用いるのが適当である。

【００４２】

【実施例３】ところで、入力ベクトルの要素である、入
力パターンの特徴量に、各々、要素毎に異なる参照パタ
ーンと入力パターンとの光学的相互相関量を用いる場合
には、その光学的相互相関量の検出方法として、前記の
ようにマッチドフィルタ法、合同フーリエ変換法、影絵
の相関法等が知られている。そのどれもが、本発明に適
用可能であるが、ここでは、比較的に装置し易い合同フ
ーリエ変換法について説明を加える。

【００４３】図３は、合同フーリエ変換法を用いた相関
検出装置の１例を示す概念図である。入力パターンと参
照パターンとは、コンピュータ２０により合成され、液
晶パネル１５上に並んで表示される。光源は、空間的に
コヒーレントな光源であれば、何でも良いが、ここで
は、ＨｅーＮｅレーザ１１を用いている。ＨｅーＮｅレ
ーザ１１を出射した光束３０は、ビームエキスパンダ１
２でその光束を適当な径に広げられ、ミラー１３及びビ
ームスプリッター１４で反射されて、液晶パネル１５に
入射する。液晶パネル１５を出射した光束は、入力パタ
ーンと参照パターンによる複素振幅分布の変調を受け、
フーリエ変換レンズ１６を通って、スクリーン１８上に
は、液晶パネル１５で与えられた複素振幅分布のフーリ
エ変換の２乗の強度分布（フーリエ変換パターン）が得
られる。尚、拡大レンズ１７は、得られるフーリエ変換
パターンの大きさを調整するために設けられている。こ
のフーリエ変換パターンは、ビデオカメラ１９により撮
像されて、その像が液晶パネル２２上に表示される。こ
こで、ビームスプリッター１４を透過した光束３０は、
ミラー２１で反射されて液晶パネル２２に入射する。こ
の液晶パネル２２により、前記のような入力パターンと
参照パターンとの合同フーリエ変換パターンに基づいた
複素振幅分布の変調を受けた光束３０は、フーリエ変換
レンズ２３を通り、拡大レンズ２４を通って、スクリー
ン２５上にスクリーン１８上で得られたパターンのフー
リエ変換パターンを形成する。

【００４４】このパターン中には、液晶パネル１５に表
示された入力パターンと参照パターンとの相対的位置に
基づいた位置に、この両者の相互相関パターンが得ら
れ、この強度或いは強度分布を測定することにより、入
力パターンと参照パターンとの相互相関に基づいた量が
得られる。ここで、この相互相関パターン全体の強度を
とって、識別装置の特徴量としても良いし、ピーク値の
みをとって特徴量としても良い。また、相互相関パター
ンを空間的に分割された検出器で受光して、１つのパタ
ーンから複数の特徴量を取り出しても良い。ここで、相
関検出手段としては、作用の項で述べた他の３つの手段
を用いることもできる。

【００４５】尚、本発明のパターン識別方法において
は、どのような光学的相関検出手法も、適用可能である
旨を述べたが、特に、本発明の方法では、相関出力とし
て、厳密な相関出力を要求しないので、前記のような影
絵の相関や、フーリエ変換面における影絵の相関による
畳込み積分的なマッチング出力を得る手段と組合わせて
も十分に有効であることは、有利な特徴である。従っ
て、これらの手法について、図面を用いて、簡単に説明
を加える。

【００４６】図８は、影絵の相関の光学系を示す概念図
である。空間光変調器Ｄ７６に入力パターン或いは参照
パターンの一方のパターンを表示し、空間光変調器Ｅ７
７に他方のパターンを表示する。この両者を、透過した
光束７５を集光レンズ７８で集光して、受光素子７９で
受光し、疑似相関出力Ｐi を得る。

【００４７】更に、図９は、フーリエ変換面における影
絵の相関を用いた疑似相関検出光学系の１例を示す。空
間光変調器Ｆ８１に表示された入力パターン８２は、フ
ーリエ変換レンズ８３により光学的にフーリエ変換され
て、その強度分布がＣＣＤ受光素子８４により検出され
る。検出された強度分布に基づいた透過率分布パターン
は、空間光変調器Ｈ８８に表示され、空間光変調器Ｇ８
５上に表示された各々の参照パターン８６のフーリエ変
換レンズ８７によるフーリエ変換パターンが、この空間
光変調器Ｅ８８の透過率分布により変調され、更に、フ
ーリエ変換レンズ８９により分割受光素子９０上に各参
照パターンが分離して結像する。

【００４８】このときの分割受光素子の各要素に到達し
た光量は、参照パターンのフーリエ変換パターンと入力
パターンのフーリエ変換パターンとの一致度が大きい程
大きくなり、疑似的に相関出力とみなすことができる。
しかも、この出力は、入力パターン８２の表示位置が空
間光変調器Ａ８１上で変化しても、ＣＣＤ受光素子８４
上に現れる強度パターンが、変化しないので、不変であ
るから、シフトインバリアントな検出を行なうことがで
き、入力パターンの柔軟な識別に、大きな効果を発揮す
る。

【００４９】

【発明の効果】以上説明したように、本発明のパターン
識別方法により、前記のような効果が得られた。それら
をまとめると、次のような顕著な技術的効果となる。即
ち、第１に、簡易な光学的相関検出手法を用いて、多く
のパターンの識別が可能であり、しかも、類似度の高い
パターン識別も可能で、入力パターンが複雑になって
も、処理系の規模がいたずらに大きくならず、なお且
つ、パターンの位置ズレにも強い識別を行なうことがで
きる。

【００５０】第２に、更に、その識別領域を作成するた
めの学習は、確実に、短時間で遂行され、入力パターン
の分布に特別の前提条件を必要とせずに、未知のパター
ンと既知のパターンとの区別が、可能なパターン識別方
法を提供することができた。

【図面の簡単な説明】

【図１】本発明の光学的パターン識別方法の識別領域を
説明する模式構成図である。

【図２】従来のガウシアン識別装置の識別過程を示す構
成図である。

【図３】本発明に従って、合同フーリエ変換法に基づい
た相関検出装置の１例を示す概念構成図である。

【図４】本発明に使用される、入力ベクトル、基準ベク
トル、重みベクトルに対する各々の光学的マスクを示す
説明図である。

【図５】本発明に従って、光学的差の２乗演算の１方法
を示す光学系の概念図である。

【図６】本発明に従って、光学的積和演算の１方法を示
す光学系の概念図である。

【図７】本発明に従って、光学的積和演算の他の方法を
示す光学系の概念図である。

【図８】本発明で行なわれる、影絵の相関光学系の１例
を説明する概念図である。

【図９】本発明で行なわれる、フーリエ変換面における
影絵の相関光学系の１例を説明する概念図である。

【符号の説明】

１識別領域Ａ２識別領域Ａ３識別領域Ａ１１ＨｅーＮｅレー
ザ１４、３３ビームスプリッ
ター１５、２２、６１、６３液晶パネル１６、２３、５３、５７、５９、８７、８９フー
リエ変換レンズ１８、２５スク
リーン１９、２６、６０ビデ
オ・カメラ２０コンピュータ３１Ａｒレーザ３６、８２入力パターン３７基準パターン４１レンズ４３出力パターン５１空間光変調器Ａ５１ａ入力ベクトル５２ａ、５２ｂ、５２ｃ基準ベクトル５３ａ、５３ｂ、５３ｃ重みベクトル５２空間光変調器Ｂ５３空間光変調器Ｃ６４レンズアレイ６５光電検出器アレ
イ７１液晶タイトバル
ブ７３結像レンズ７６空間光変調器Ｄ７７空間光変調器Ｅ７８集光レンズ７９受光素子８１空間光変調器Ｆ８４ＣＣＤ受光素子８５空間光変調器Ｇ８６参照パターン８８空間光変調器Ｈ９０分割受光素子

Claims

【特許請求の範囲】

【請求項１】識別したい入力パターンからｎ個の特徴量
を検出するための、ｎ種類のパラメータを座標軸とする
ｎ次元特徴空間内の、該入力パターンに対して検出した
該各特徴量を、要素とする位置ベクトル（以後、入力ベ
クトルと称する）と、各識別クラス或いは該クラスの一
部を成すサブクラス毎に設定された該特徴空間内の各基
準位置ベクトル（以後基準ベクトルと称する）との位置
関係に基づいた量により識別を行なうパターン識別方法
において、前記入力ベクトルの要素を、ｘ_iとし、ｊ番目の前記識
別クラス或いはサブクラスに対する基準ベクトルの要素
を、ａ_jiとし、これらのベクトルの要素数をｎとして、
これと等しい要素数を持つｊ番目の前記識別クラス或い
はサブクラスに対する重みベクトルの要素を、ｋ_jiとし
て、ｃ₁、ｃ₂を定数とし、ｆ（）を単調非減少の関数
としたときに、前記の各々の識別クラス或いはサブクラ
スに対する式（１）により求めた値ｙ_j 【数１】値ｙ_jに基づいて入力パターンの属するクラスを識別
し、前記基準ベクトルは、要素ａ_jiの任意の初期値に対し
て、ｄ_jをｊ番目の前記識別クラス或いはサブクラスに
対する理想的出力、ｍを前記識別クラス数或いはサブク
ラス数としたときに、入力パターンの提示毎に、前記初
期値からの増減量Δａ_jiを、【数２】の式（２）により求め、この値を基にして、基準ベクト
ルの対応する要素の増減を求め、前記重みベクトルは、各クラス或いはサブクラス毎に適
当なベクトルを使用することを特徴とする前記パターン
識別方法。
【請求項２】識別したい入力パターンからｎ個の特徴量
を検出するための、ｎ種類のパラメータを座標軸とする
ｎ次元特徴空間内の、該入力パターンに対して検出した
該各特徴量を、要素とする位置ベクトル（以後、入力ベ
クトルと称する）と、各識別クラス或いは該クラスの一
部を成すサブクラス毎に設定された該特徴空間内の各基
準位置ベクトル（以後基準ベクトルと称する）との位置
関係に基づいた量により識別を行なうパターン識別方法
において、前記入力ベクトルの要素を、ｘ_iとし、ｊ番目の前記識
別クラス或いはサブクラスに対する基準ベクトルの要素
を、ａ_jiとし、これらのベクトルの要素数をｎとして、
これと等しい要素数を持つｊ番目の前記識別クラス或い
はサブクラスに対する重みベクトルの要素を、ｋ_jiとし
て、ｃ₁、ｃ₂を定数とし、ｆ（）を単調非減少の関数
としたときに、前記の各々の識別クラス或いはサブクラ
スに対する式（１）により求めた値ｙ_j 【数１】値ｙ_jに基づいて入力パターンの属するクラスを識別
し、前記基準ベクトルは、要素ａ_jiの任意の初期値に対し
て、ｄ_jをｊ番目の前記識別クラス或いはサブクラスに
対する理想的出力、ｍを前記識別クラス数或いはサブク
ラス数としたときに、入力パターンの提示毎に、前記初
期値からの増減量Δａ_jiを、【数２】の式（２）により求め、この値を基にして、基準ベクト
ルの対応する要素の増減を求め、前記重みベクトルは、要素ｋ_jiの任意の初期値に対し
て、入力パターンの提示毎に、前記初期値からの増減量
Δｋ_jiを、【数３】の式（３）により求め、この値を基にして、重みベクト
ルの対応する要素の増減を求めることを特徴とする前記
パターン識別方法。
【請求項３】前記関数ｆ（）は、シグモイド関数とする
ことを特徴とする請求項１或いは２に記載のパターン識
別方法。
【請求項４】前記ａ_ji、ｘ_i、ｋ_jiは、各々、１次元或
いは２次元の光学マスクアレイの各開口強度透過率とし
て表し、ｋ_ji（ｘ_iーａ_ji）²の演算を光学的に行ない、
前記演算の結果を光量として検出すること特徴とする請
求項１〜３のいずれかに記載のパターン識別方法。
【請求項５】前記入力ベクトルは、入力パターンと複数
の参照パターンとの各々の光学的相互相関に基づいた検
出量を、その要素とすることを特徴とする請求項１〜４
のいずれかに記載のパターン識別方法。