JPH103545A - 特徴抽出装置 - Google Patents
特徴抽出装置Info
- Publication number
- JPH103545A JPH103545A JP17725596A JP17725596A JPH103545A JP H103545 A JPH103545 A JP H103545A JP 17725596 A JP17725596 A JP 17725596A JP 17725596 A JP17725596 A JP 17725596A JP H103545 A JPH103545 A JP H103545A
- Authority
- JP
- Japan
- Prior art keywords
- feature
- vector
- feature vector
- distance
- eigenvectors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
Abstract
(57)【要約】
【課題】 紛らわしいデータの識別をロバストに行なう
ことを可能にするための特徴を標本集合から抽出する特
徴抽出装置を提供する。 【解決手段】 特徴ベクトルの標本集合を統計的に解析
することにより、パターン識別の際の指標となる特徴を
算出する特徴抽出装置101において、特徴ベクトルを入
力する特徴ベクトル入力手段102と、入力された特徴ベ
クトルを記憶する記憶手段103と、前記記憶手段に記憶
されている特徴ベクトルに対して近い距離にある特徴ベ
クトル、すなわち近傍ベクトルを前記記憶手段に記憶さ
れている特徴ベクトルの中から選出する近傍ベクトル選
出手段105と、特徴ベクトルをそこに直交射影した時
に、局所的な散在性が最も大きくなるような部分ベクト
ル空間を出力する特徴ベクトル空間生成手段109を備え
ている。
ことを可能にするための特徴を標本集合から抽出する特
徴抽出装置を提供する。 【解決手段】 特徴ベクトルの標本集合を統計的に解析
することにより、パターン識別の際の指標となる特徴を
算出する特徴抽出装置101において、特徴ベクトルを入
力する特徴ベクトル入力手段102と、入力された特徴ベ
クトルを記憶する記憶手段103と、前記記憶手段に記憶
されている特徴ベクトルに対して近い距離にある特徴ベ
クトル、すなわち近傍ベクトルを前記記憶手段に記憶さ
れている特徴ベクトルの中から選出する近傍ベクトル選
出手段105と、特徴ベクトルをそこに直交射影した時
に、局所的な散在性が最も大きくなるような部分ベクト
ル空間を出力する特徴ベクトル空間生成手段109を備え
ている。
Description
【０００１】
【発明の属する技術分野】本発明は、特徴抽出装置に関
し、特に特徴ベクトルの標本集合を統計的に解析するこ
とにより、パターン識別の際の指標となる特徴を算出す
る特徴抽出装置に関するものであり、本装置の出力結果
に基づき識別を行なうことにより、従来より、より高精
度な識別が可能となる。
し、特に特徴ベクトルの標本集合を統計的に解析するこ
とにより、パターン識別の際の指標となる特徴を算出す
る特徴抽出装置に関するものであり、本装置の出力結果
に基づき識別を行なうことにより、従来より、より高精
度な識別が可能となる。
【０００２】パターン識別は、例えばセキュリティシス
テムなどへの応用から最近重要視されている顔識別シス
テム等、様々な応用分野があり、本発明によりそれらの
システムの識別能力を飛躍的に向上させることができ
る。
テムなどへの応用から最近重要視されている顔識別シス
テム等、様々な応用分野があり、本発明によりそれらの
システムの識別能力を飛躍的に向上させることができ
る。
【０００３】
【従来の技術】特徴ベクトルの標本集合から、パターン
識別のための特徴を抽出する方法としては、ＫＬ（Karh
unen−Loeve）展開を用いる方法が有名である。
識別のための特徴を抽出する方法としては、ＫＬ（Karh
unen−Loeve）展開を用いる方法が有名である。
【０００４】この方法によれば、パターン認識の指標と
なる特徴として、特徴ベクトルの標本集合の分散に基づ
き決定される正規直交基底（固有ベクトル）と、各基底
方向の特徴ベクトルの分散を表す値（固有値）を得るこ
とができる。以下にＫＬ展開の基本的な性質を述べる。
なる特徴として、特徴ベクトルの標本集合の分散に基づ
き決定される正規直交基底（固有ベクトル）と、各基底
方向の特徴ベクトルの分散を表す値（固有値）を得るこ
とができる。以下にＫＬ展開の基本的な性質を述べる。
【０００５】ＫＬ展開は、最小平均２乗誤差基準の下で
最適な直交展開である。すなわち、Ｎ次元の特徴ベクト
ルのサンプル集合からＫＬ展開によって得られる正規直
交基底を、固有値の大きい順にＭ（≦Ｎ）個とって生成
される部分空間Ｕ（Ｍ）は、特徴ベクトルとの平均２乗
誤差を最小にするＭ次元部分ベクトル空間になってい
る。またＵ（Ｍ）は、射影された特徴ベクトル間の２乗
距離の期待値が最も大きくなるようなＭ次元部分空間と
しても特徴付けることができる。これらの内容は、例え
ば、Keinosuke Fukunaga「Statistical Pattern Rec
ognition（SecondEdition）Academic Press 1990」の
９章に詳しく述べられている。
最適な直交展開である。すなわち、Ｎ次元の特徴ベクト
ルのサンプル集合からＫＬ展開によって得られる正規直
交基底を、固有値の大きい順にＭ（≦Ｎ）個とって生成
される部分空間Ｕ（Ｍ）は、特徴ベクトルとの平均２乗
誤差を最小にするＭ次元部分ベクトル空間になってい
る。またＵ（Ｍ）は、射影された特徴ベクトル間の２乗
距離の期待値が最も大きくなるようなＭ次元部分空間と
しても特徴付けることができる。これらの内容は、例え
ば、Keinosuke Fukunaga「Statistical Pattern Rec
ognition（SecondEdition）Academic Press 1990」の
９章に詳しく述べられている。
【０００６】また、実際にＫＬ展開の結果得られた特徴
を使って識別を行なうには、以下の様な距離を使って、
基準データの中で入力特徴ベクトルに最も近い特徴ベク
トルを選べばよい。すなわち、前記の部分ベクトル空間
Ｕ（Ｍ）に特徴ベクトルを直交射影し、Ｕ（Ｍ）上での
距離をはかる。
を使って識別を行なうには、以下の様な距離を使って、
基準データの中で入力特徴ベクトルに最も近い特徴ベク
トルを選べばよい。すなわち、前記の部分ベクトル空間
Ｕ（Ｍ）に特徴ベクトルを直交射影し、Ｕ（Ｍ）上での
距離をはかる。
【０００７】その際に用いる距離としては、次式１
【数１】 で定義されるEuclid距離や、次式６
【数６】 で定義される距離がある。ここで、前記数式６の距離
は、バイアスσが０の時maharanobis距離に一致してい
る。
は、バイアスσが０の時maharanobis距離に一致してい
る。
【０００８】ＫＬ展開を利用した特徴抽出を行なってい
る特許としては、Face RecognitionSystem（米国特許第
５，１６４，９９２号明細書）がある。
る特許としては、Face RecognitionSystem（米国特許第
５，１６４，９９２号明細書）がある。
【０００９】この特許では、以下の図２に示す２つの構
成要素によってパターン識別のための特徴を抽出してい
る。一つは、顔画像獲得入力部201で、もう一つは、Ｋ
Ｌ展開実行部202である。顔画像獲得入力部201は顔画像
を各画素毎の濃淡値の集まり（ｎ次元特徴ベクトル（但
し、ｎは画像の全画素数））として獲得し、ＫＬ展開実
行部202に渡す。ＫＬ展開実行部202は顔画像獲得入力部
201から渡されたＮ枚の顔画像からＫＬ展開により正規
直交基底を算出し、そのうち固有値の大きい順にＭ（≦
ｎ、Ｎ）個の基底を選び、それに対応するベクトルの座
標値と固有値を保存する。
成要素によってパターン識別のための特徴を抽出してい
る。一つは、顔画像獲得入力部201で、もう一つは、Ｋ
Ｌ展開実行部202である。顔画像獲得入力部201は顔画像
を各画素毎の濃淡値の集まり（ｎ次元特徴ベクトル（但
し、ｎは画像の全画素数））として獲得し、ＫＬ展開実
行部202に渡す。ＫＬ展開実行部202は顔画像獲得入力部
201から渡されたＮ枚の顔画像からＫＬ展開により正規
直交基底を算出し、そのうち固有値の大きい順にＭ（≦
ｎ、Ｎ）個の基底を選び、それに対応するベクトルの座
標値と固有値を保存する。
【００１０】
【発明が解決しようとする課題】しかしながらＫＬ展開
は、最小平均２乗誤差を小さくしたり、データの散在性
を大きくする目的に対しては最適な直交展開であるが、
パターン識別のための特徴を抽出するという目的に対し
て最適であるとは言い難い。すなわち、パターン識別の
際に最も重要となるのは、互いの距離が近くて紛らわし
い特徴ベクトルをいかにして正しく識別するかというこ
とであり、そのためにはすべてのデータについてお互い
の散在性を大きくするのではなく、距離が近いデータ間
のみの散在性を大きくするような直交展開が望ましい。
従って、ＫＬ展開をそのまま使って特徴抽出を行なう従
来の構成では、紛らわしいデータの識別が困難であると
いう課題を有していた。
は、最小平均２乗誤差を小さくしたり、データの散在性
を大きくする目的に対しては最適な直交展開であるが、
パターン識別のための特徴を抽出するという目的に対し
て最適であるとは言い難い。すなわち、パターン識別の
際に最も重要となるのは、互いの距離が近くて紛らわし
い特徴ベクトルをいかにして正しく識別するかというこ
とであり、そのためにはすべてのデータについてお互い
の散在性を大きくするのではなく、距離が近いデータ間
のみの散在性を大きくするような直交展開が望ましい。
従って、ＫＬ展開をそのまま使って特徴抽出を行なう従
来の構成では、紛らわしいデータの識別が困難であると
いう課題を有していた。
【００１１】本発明は、前記従来の課題を解決するもの
で、紛らわしいデータの識別を従来よりロバストに行な
うことを可能にする特徴抽出装置を提供することを目的
とする。
で、紛らわしいデータの識別を従来よりロバストに行な
うことを可能にする特徴抽出装置を提供することを目的
とする。
【００１２】
【課題を解決するための手段】この課題を解決するため
に本発明の特徴抽出装置は、特徴ベクトルの近傍ベクト
ルを選出する近傍ベクトル選出手段と、特徴ベクトルを
そこに直交射影した時に局所的な散在性が最も大きくな
るような部分ベクトル空間を見つけ出す特徴ベクトル空
間生成手段を設けたものである。
に本発明の特徴抽出装置は、特徴ベクトルの近傍ベクト
ルを選出する近傍ベクトル選出手段と、特徴ベクトルを
そこに直交射影した時に局所的な散在性が最も大きくな
るような部分ベクトル空間を見つけ出す特徴ベクトル空
間生成手段を設けたものである。
【００１３】本発明の特徴抽出装置によれば、距離が近
いデータ間のみの散在性を大きくするような部分ベクト
ル空間を見つけ出すことが可能となり、特徴ベクトルを
この部分ベクトル空間に射影した後識別を行なうことに
より、紛らわしいデータの識別を従来よりロバストに行
なうことができる。
いデータ間のみの散在性を大きくするような部分ベクト
ル空間を見つけ出すことが可能となり、特徴ベクトルを
この部分ベクトル空間に射影した後識別を行なうことに
より、紛らわしいデータの識別を従来よりロバストに行
なうことができる。
【００１４】
【発明の実施の形態】本発明の請求項１記載の発明は、
特徴ベクトルの標本集合を統計的に解析することによ
り、パターン識別の際の指標となる特徴を算出する特徴
抽出装置において、特徴ベクトルを入力する特徴ベクト
ル入力手段と、入力された特徴ベクトルを記憶する記憶
手段と、前記記憶手段に記憶されている特徴ベクトルに
対して近い距離にある特徴ベクトル、すなわち近傍ベク
トルを前記記憶手段に記憶されている特徴ベクトルの中
から選出する近傍ベクトル選出手段と、特徴ベクトルを
そこに直交射影した時に、それらの局所的な散在性が最
も大きくなるような部分ベクトル空間を出力する特徴ベ
クトル空間生成手段を設けるようにしたものであり、従
来のように特徴ベクトル全体の散在性を大きくするよう
な直交展開を行なうのではなく、距離が近いデータの散
在性を大きくする直交展開を行なって部分ベクトル空間
を生成することにより、紛らわしいデータの識別を従来
よりロバストに行なうことができるという作用を有す
る。
特徴ベクトルの標本集合を統計的に解析することによ
り、パターン識別の際の指標となる特徴を算出する特徴
抽出装置において、特徴ベクトルを入力する特徴ベクト
ル入力手段と、入力された特徴ベクトルを記憶する記憶
手段と、前記記憶手段に記憶されている特徴ベクトルに
対して近い距離にある特徴ベクトル、すなわち近傍ベク
トルを前記記憶手段に記憶されている特徴ベクトルの中
から選出する近傍ベクトル選出手段と、特徴ベクトルを
そこに直交射影した時に、それらの局所的な散在性が最
も大きくなるような部分ベクトル空間を出力する特徴ベ
クトル空間生成手段を設けるようにしたものであり、従
来のように特徴ベクトル全体の散在性を大きくするよう
な直交展開を行なうのではなく、距離が近いデータの散
在性を大きくする直交展開を行なって部分ベクトル空間
を生成することにより、紛らわしいデータの識別を従来
よりロバストに行なうことができるという作用を有す
る。
【００１５】また、本発明の請求項２記載の発明は、前
記記憶手段に記憶されている特徴ベクトルをＶｉ（１≦
ｉ≦Ｎ）、それら特徴ベクトルの次元をｎとする時、前
記近傍ベクトル選出手段が、数式１によって定まる距離
を使って、各特徴ベクトルに近いＭ（≦Ｎ）個の特徴ベ
クトルを選出し、また前記特徴ベクトル空間生成手段が
数式２で定まる局所共分散行列の固有値問題を解いて固
有ベクトルを求め、それらの中から対応する固有値の大
きい順にｍ（≦Ｎ，ｎ）個選出し、局所的な散在性を最
大にする部分ベクトル空間の基底として出力するように
したものであり、局所的な散在性を最大にするベクトル
空間の基底を、数式２で定まる局所共分散行列の固有値
によって表すことができるという作用を有する。
記記憶手段に記憶されている特徴ベクトルをＶｉ（１≦
ｉ≦Ｎ）、それら特徴ベクトルの次元をｎとする時、前
記近傍ベクトル選出手段が、数式１によって定まる距離
を使って、各特徴ベクトルに近いＭ（≦Ｎ）個の特徴ベ
クトルを選出し、また前記特徴ベクトル空間生成手段が
数式２で定まる局所共分散行列の固有値問題を解いて固
有ベクトルを求め、それらの中から対応する固有値の大
きい順にｍ（≦Ｎ，ｎ）個選出し、局所的な散在性を最
大にする部分ベクトル空間の基底として出力するように
したものであり、局所的な散在性を最大にするベクトル
空間の基底を、数式２で定まる局所共分散行列の固有値
によって表すことができるという作用を有する。
【００１６】また、本発明の請求項３記載の発明は、前
記近傍ベクトル選出手段が、数式１に代えて、数式３に
よって定まる相関値を使って、各特徴ベクトルに近いＭ
（≦Ｎ）個の特徴ベクトルを選出するようにしている。
記近傍ベクトル選出手段が、数式１に代えて、数式３に
よって定まる相関値を使って、各特徴ベクトルに近いＭ
（≦Ｎ）個の特徴ベクトルを選出するようにしている。
【００１７】また、本発明の請求項４記載の発明は、前
記近傍ベクトル選出手段が、数式１を使って距離を算出
する代わりに、先ず数式４によって得られる共分散行列
の固有値問題を解き、固有値の大きいｌ個の固有ベクト
ルｅｉ（１≦ｉ≦ｌ）を選び、次いで数式５によって距
離を算出するようにしている。
記近傍ベクトル選出手段が、数式１を使って距離を算出
する代わりに、先ず数式４によって得られる共分散行列
の固有値問題を解き、固有値の大きいｌ個の固有ベクト
ルｅｉ（１≦ｉ≦ｌ）を選び、次いで数式５によって距
離を算出するようにしている。
【００１８】また、本発明の請求項５記載の発明は、前
記近傍ベクトル選出手段が、数式１を使って距離を算出
する代わりに、先ず数式４によって得られる共分散行列
の固有値問題を解き、固有値の大きいｌ個の固有ベクト
ルｅｉ（１≦ｉ≦ｌ）を選び、次いで数式６によって距
離を算出するようにしている。
記近傍ベクトル選出手段が、数式１を使って距離を算出
する代わりに、先ず数式４によって得られる共分散行列
の固有値問題を解き、固有値の大きいｌ個の固有ベクト
ルｅｉ（１≦ｉ≦ｌ）を選び、次いで数式６によって距
離を算出するようにしている。
【００１９】また、本発明の請求項６記載の発明は、前
記特徴ベクトル空間生成手段が、ｍ個の固有ベクトルの
他にそれぞれに対応する固有値を出力するようにしたも
のであり、識別の際の距離として、これらの固有値を使
って数式６で定まる距離を計算することができるという
作用を有する。
記特徴ベクトル空間生成手段が、ｍ個の固有ベクトルの
他にそれぞれに対応する固有値を出力するようにしたも
のであり、識別の際の距離として、これらの固有値を使
って数式６で定まる距離を計算することができるという
作用を有する。
【００２０】また、本発明の請求項７記載の発明は、前
記特徴ベクトル空間生成手段が、ｍ個の固有ベクトルの
他にそれらの固有ベクトルに対応して数式７で定まる分
散値を出力するようにしたものである。
記特徴ベクトル空間生成手段が、ｍ個の固有ベクトルの
他にそれらの固有ベクトルに対応して数式７で定まる分
散値を出力するようにしたものである。
【００２１】以下、本発明の実施の形態について、図１
を用いて説明する。図１には、本発明の特徴抽出装置10
1と、特徴抽出装置101の出力結果に基づき特徴パターン
の識別を行なうパターン識別装置110が示されている。
を用いて説明する。図１には、本発明の特徴抽出装置10
1と、特徴抽出装置101の出力結果に基づき特徴パターン
の識別を行なうパターン識別装置110が示されている。
【００２２】本発明の特徴抽出装置101は、特徴ベクト
ルを入力する特徴ベクトル入力部102と、特徴ベクトル
入力部102から入力された各特徴ベクトルを標本集合と
して格納する標本特徴ベクトルメモリ103と、指定され
た２つの特徴ベクトル間の距離を出力する距離算出部10
4と、指定された特徴ベクトルと標本特徴ベクトルメモ
リ103に記憶されている各特徴ベクトルの距離を距離算
出部104に要求して獲得し、指定された特徴ベクトルの
予め指定しておいた距離内にある特徴ベクトル、すなわ
ち近傍ベクトルを全て出力する近傍ベクトル出力部105
と、標本特徴ベクトルメモリ103に記憶されているすべ
ての特徴ベクトルに対してその近傍ベクトルを近傍ベク
トル出力部105に要求して獲得し、局所共分散行列を生
成する局所共分散行列生成部106と、局所共分散行列生
成部106によって生成された行列の固有値問題を解いて
固有ベクトルとその固有値を出力する固有値・固有ベク
トル生成部107と、固有値・固有ベクトル生成部107によ
って生成される固有ベクトルのうち対応する固有値の大
きいものから順に予め指定された個数分の固有ベクトル
を出力する局所分散化固有空間生成部108を備えてい
る。
ルを入力する特徴ベクトル入力部102と、特徴ベクトル
入力部102から入力された各特徴ベクトルを標本集合と
して格納する標本特徴ベクトルメモリ103と、指定され
た２つの特徴ベクトル間の距離を出力する距離算出部10
4と、指定された特徴ベクトルと標本特徴ベクトルメモ
リ103に記憶されている各特徴ベクトルの距離を距離算
出部104に要求して獲得し、指定された特徴ベクトルの
予め指定しておいた距離内にある特徴ベクトル、すなわ
ち近傍ベクトルを全て出力する近傍ベクトル出力部105
と、標本特徴ベクトルメモリ103に記憶されているすべ
ての特徴ベクトルに対してその近傍ベクトルを近傍ベク
トル出力部105に要求して獲得し、局所共分散行列を生
成する局所共分散行列生成部106と、局所共分散行列生
成部106によって生成された行列の固有値問題を解いて
固有ベクトルとその固有値を出力する固有値・固有ベク
トル生成部107と、固有値・固有ベクトル生成部107によ
って生成される固有ベクトルのうち対応する固有値の大
きいものから順に予め指定された個数分の固有ベクトル
を出力する局所分散化固有空間生成部108を備えてい
る。
【００２３】なお、局所共分散行列生成部106と固有値
・固有ベクトル生成部107と局所分散化固有空間生成部1
08でもって特徴ベクトル空間生成部109が形成される。
・固有ベクトル生成部107と局所分散化固有空間生成部1
08でもって特徴ベクトル空間生成部109が形成される。
【００２４】またパターン識別装置110は、本発明の特
徴抽出装置101の局所分散化固有空間生成部108から出力
される固有ベクトルを記憶する固有空間メモリ111と、
入力された２つの特徴パターンの間の距離をそれらのパ
ターンを固有空間メモリ111に記憶されている固有ベク
トルによって張られるベクトル空間に射影した後に算出
する固有空間距離算出部112と、被識別パターンを入力
する被識別パターン入力部113と、基準パターンを入力
する基準パターン入力部114と、入力された基準パター
ンを記憶する基準パターンメモリ115と、被識別パター
ン入力部113から入力された特徴パターンと基準パター
ンメモリ115に格納されている全ての特徴パターンとの
距離を固有空間距離算出部112に要求し獲得し、最も距
離の近い特徴パターンを基準パターンメモリ115から選
出する識別部116を備えている。
徴抽出装置101の局所分散化固有空間生成部108から出力
される固有ベクトルを記憶する固有空間メモリ111と、
入力された２つの特徴パターンの間の距離をそれらのパ
ターンを固有空間メモリ111に記憶されている固有ベク
トルによって張られるベクトル空間に射影した後に算出
する固有空間距離算出部112と、被識別パターンを入力
する被識別パターン入力部113と、基準パターンを入力
する基準パターン入力部114と、入力された基準パター
ンを記憶する基準パターンメモリ115と、被識別パター
ン入力部113から入力された特徴パターンと基準パター
ンメモリ115に格納されている全ての特徴パターンとの
距離を固有空間距離算出部112に要求し獲得し、最も距
離の近い特徴パターンを基準パターンメモリ115から選
出する識別部116を備えている。
【００２５】本発明の特徴抽出装置101の距離算出部104
は、前記数式１によって入力された２つの特徴ベクトル
の間の距離を算出し出力する。また、距離算出部104
は、前記数式１に代えて次の数式３を使って距離を算出
しても良い。
は、前記数式１によって入力された２つの特徴ベクトル
の間の距離を算出し出力する。また、距離算出部104
は、前記数式１に代えて次の数式３を使って距離を算出
しても良い。
【数３】
【００２６】また、距離算出部104は、標本特徴ベクト
ルメモリ103に記憶されている特徴ベクトルＶｉを使っ
てまず次の数式４から得られる共分散行列の固有値問題
を解き、固有値の大きいｌ個の固有ベクトルｅｉ（１≦
ｉ≦ｌ）を選び、次いで次の数式５によって距離を算出
してもよい。
ルメモリ103に記憶されている特徴ベクトルＶｉを使っ
てまず次の数式４から得られる共分散行列の固有値問題
を解き、固有値の大きいｌ個の固有ベクトルｅｉ（１≦
ｉ≦ｌ）を選び、次いで次の数式５によって距離を算出
してもよい。
【数４】
【数５】
【００２７】また、距離算出部104は、標本特徴ベクト
ルメモリ103に記憶されている特徴ベクトルＶｉを使っ
てまず前記数式４から得られる共分散行列の固有値問題
を解き、固有値の大きいｌ個の固有ベクトルｅｉ（１≦
ｉ≦ｌ）を選び、次いで前記数式６によって距離を算出
してもよい。
ルメモリ103に記憶されている特徴ベクトルＶｉを使っ
てまず前記数式４から得られる共分散行列の固有値問題
を解き、固有値の大きいｌ個の固有ベクトルｅｉ（１≦
ｉ≦ｌ）を選び、次いで前記数式６によって距離を算出
してもよい。
【００２８】本発明の特徴抽出装置101の近傍ベクトル
出力部105は、特徴ベクトルが入力されるとその特徴ベ
クトルと標本特徴ベクトルメモリ103に記憶されている
各特徴ベクトルとの距離を距離算出部104に要求して獲
得し、入力された特徴ベクトルの近傍内にあるベクトル
を全て出力する。この際、近傍の大きさをあらわす距離
は予め近傍ベクトル出力部105に指定しておく必要があ
る。
出力部105は、特徴ベクトルが入力されるとその特徴ベ
クトルと標本特徴ベクトルメモリ103に記憶されている
各特徴ベクトルとの距離を距離算出部104に要求して獲
得し、入力された特徴ベクトルの近傍内にあるベクトル
を全て出力する。この際、近傍の大きさをあらわす距離
は予め近傍ベクトル出力部105に指定しておく必要があ
る。
【００２９】本発明の特徴抽出装置101の局所共分散行
列生成部106は、標本特徴ベクトルメモリ103に記憶され
ている各特徴ベクトルＶｉ（１≦ｉ≦Ｎ）の近傍ベクト
ルを近傍ベクトル出力部105に要求して獲得し、次の数
式２によって定まる局所共分散行列を生成する。但し、
ｎ（ｉ）は特徴ベクトルＶｉの近傍ベクトルとして近傍
ベクトル出力部105から出力されるベクトルの個数であ
る。
列生成部106は、標本特徴ベクトルメモリ103に記憶され
ている各特徴ベクトルＶｉ（１≦ｉ≦Ｎ）の近傍ベクト
ルを近傍ベクトル出力部105に要求して獲得し、次の数
式２によって定まる局所共分散行列を生成する。但し、
ｎ（ｉ）は特徴ベクトルＶｉの近傍ベクトルとして近傍
ベクトル出力部105から出力されるベクトルの個数であ
る。
【数２】
【００３０】本発明の特徴抽出装置101の固有値・固有
ベクトル生成部107は、局所共分散行列生成部106から出
力される局所分散化行列の固有値問題を解き、固有ベク
トルとそれに対応する固有値を出力する。
ベクトル生成部107は、局所共分散行列生成部106から出
力される局所分散化行列の固有値問題を解き、固有ベク
トルとそれに対応する固有値を出力する。
【００３１】本発明の特徴抽出装置101の局所分散化固
有空間生成部108は、固有値・固有ベクトル生成部107か
ら出力される固有ベクトルのうち対応する固有値が大き
いものから順にｍ個選んで出力する。この際ｍの値は予
め、１≦ｍ≦Ｎ，ｎなる整数を一つ選んで指定しておく
必要がある。
有空間生成部108は、固有値・固有ベクトル生成部107か
ら出力される固有ベクトルのうち対応する固有値が大き
いものから順にｍ個選んで出力する。この際ｍの値は予
め、１≦ｍ≦Ｎ，ｎなる整数を一つ選んで指定しておく
必要がある。
【００３２】また、局所分散化固有空間生成部108は、
固有ベクトルの他に、それぞれの固有ベクトルに対応す
る固有値を出力しても良い。
固有ベクトルの他に、それぞれの固有ベクトルに対応す
る固有値を出力しても良い。
【００３３】また、局所分散化固有空間生成部108は、
固有ベクトルの他に、それぞれの固有ベクトル上の標本
特徴ベクトルの分散を表す次の数式７で定まる値を出力
してもよい。
固有ベクトルの他に、それぞれの固有ベクトル上の標本
特徴ベクトルの分散を表す次の数式７で定まる値を出力
してもよい。
【数７】
【００３４】パターン識別装置110の固有空間距離算出
部112は、固有空間メモリ111に記憶されている固有ベク
トルｅｉ（１≦ｉ≦ｌ）を使って、入力された２つの特
徴ベクトルｘとｙの間の距離を前記数式５によって計算
する。
部112は、固有空間メモリ111に記憶されている固有ベク
トルｅｉ（１≦ｉ≦ｌ）を使って、入力された２つの特
徴ベクトルｘとｙの間の距離を前記数式５によって計算
する。
【００３５】パターン識別装置110の識別部116は、被識
別パターン入力部113から入力された特徴パターンと基
準パターンメモリ115に格納されている全ての特徴パタ
ーンとの距離を固有空間距離算出部112に要求し獲得
し、最も距離の近い特徴パターンを基準パターンメモリ
115から選出する。
別パターン入力部113から入力された特徴パターンと基
準パターンメモリ115に格納されている全ての特徴パタ
ーンとの距離を固有空間距離算出部112に要求し獲得
し、最も距離の近い特徴パターンを基準パターンメモリ
115から選出する。
【００３６】また、パターン識別装置110の固有空間距
離算出部112は、本発明の特徴抽出装置101の局所分散化
固有空間生成部108が、固有ベクトルの他にそれぞれの
固有ベクトルに対応する固有値を出力する場合、前記数
式６によって距離を算出しても良い。
離算出部112は、本発明の特徴抽出装置101の局所分散化
固有空間生成部108が、固有ベクトルの他にそれぞれの
固有ベクトルに対応する固有値を出力する場合、前記数
式６によって距離を算出しても良い。
【００３７】また、パターン識別装置110の固有空間距
離算出部112は、本発明の特徴抽出装置101の局所分散化
固有空間生成部108が、固有ベクトルの他にそれぞれの
固有ベクトルｅｉ上の標本特徴ベクトルの分散を表す前
記数式７で定まる値σ（ｅｉ）を出力する場合、次の数
式８によって距離を算出しても良い。
離算出部112は、本発明の特徴抽出装置101の局所分散化
固有空間生成部108が、固有ベクトルの他にそれぞれの
固有ベクトルｅｉ上の標本特徴ベクトルの分散を表す前
記数式７で定まる値σ（ｅｉ）を出力する場合、次の数
式８によって距離を算出しても良い。
【数８】
【００３８】
【発明の効果】以上の説明から明かなように、本発明の
特徴抽出装置は標本特徴ベクトル間の距離が局所的に最
も散在するベクトル空間を生成することに意義がある。
特徴抽出装置は標本特徴ベクトル間の距離が局所的に最
も散在するベクトル空間を生成することに意義がある。
【００３９】従来は、標本ベクトル全体のお互いの距離
が最も散在するような空間に射影して識別を行なってい
たため、紛らわしいデータの識別をうまく行なうことが
できなかった。これに対し、特徴ベクトルを本発明で生
成されるベクトル空間に射影した後に識別を行なえば、
紛らわしいデータの識別も従来より精度良く行なうこと
が可能になる。したがって、本発明を用いれば非常に精
度のよいパターン識別装置を構成することができる。
が最も散在するような空間に射影して識別を行なってい
たため、紛らわしいデータの識別をうまく行なうことが
できなかった。これに対し、特徴ベクトルを本発明で生
成されるベクトル空間に射影した後に識別を行なえば、
紛らわしいデータの識別も従来より精度良く行なうこと
が可能になる。したがって、本発明を用いれば非常に精
度のよいパターン識別装置を構成することができる。
【図１】本発明の特徴抽出装置を用いた、パターン識別
装置の構成を示す図、
装置の構成を示す図、
【図２】従来手法の特徴抽出装置の構成を示す図であ
る。
る。
101 特徴抽出装置 102 特徴ベクトル入力部 103 標本特徴ベクトルメモリ 104 距離算出部 105 近傍ベクトル出力部 106 局所共分散行列生成部 107 固有値固有ベクトル生成部 108 局所分散化固有空間生成部 109 特徴ベクトル空間生成部 110 パターン識別装置 111 固有空間メモリ 112 固有空間距離算出部 113 被識別パターン入力部 114 基準パターン入力部 115 基準パターンメモリ 116 識別部 201 顔画像獲得入力部 202 ＫＬ展開実行部
Claims (7)
- 【請求項１】 特徴ベクトルの標本集合を統計的に解析
することにより、パターン識別の際の指標となる特徴を
算出する特徴抽出装置において、特徴ベクトルを入力す
る特徴ベクトル入力手段と、入力された特徴ベクトルを
記憶する記憶手段と、前記記憶手段に記憶されている特
徴ベクトルに対して近い距離にある特徴ベクトル、すな
わち近傍ベクトルを前記記憶手段に記憶されている特徴
ベクトルの中から選出する近傍ベクトル選出手段と、特
徴ベクトルをそこに直交射影した時に、局所的な散在性
が最も大きくなるような部分ベクトル空間を出力する特
徴ベクトル空間生成手段を備えることを特徴とする特徴
抽出装置。 - 【請求項２】 前記記憶手段に記憶されている特徴ベク
トルをＶｉ（１≦ｉ≦Ｎ）、それら特徴ベクトルの次元
をｎとする時、前記近傍ベクトル選出手段が、次式１ 【数１】 によって定まる距離ｄ（ｘ，ｙ）（但しｘ，ｙは特徴ベ
クトルを表す）を使って、各特徴ベクトルに近いＭ（≦
Ｎ）個の特徴ベクトルを選出し、 また前記特徴ベクトル空間生成手段が、次式２ 【数２】 で定まる局所共分散行列の固有値問題を解いて固有ベク
トルを求め、それらの中から対応する固有値の大きい順
にｍ（≦Ｎ，ｎ）個選出し、局所的な散在性を最大にす
る部分ベクトル空間の基底として出力することを特徴と
する請求項１記載の特徴抽出装置。 - 【請求項３】 前記近傍ベクトル選出手段が、前記数式
１に代えて、次式３ 【数３】 によって定まる相関値ｃｏｒ（ｘ，ｙ）（但し、ｘ，ｙ
は特徴ベクトルを表す）を使って、各特徴ベクトルに近
いＭ（≦Ｎ）個の特徴ベクトルを選出することを特徴と
する請求項２記載の特徴抽出装置。 - 【請求項４】 前記近傍ベクトル選出手段が、前記数式
１を使って距離を算出する代わりに、まず次式４ 【数４】 によって得られる共分散行列の固有値問題を解き、固有
値の大きいｌ個の固有ベクトルｅｉ（１≦ｉ≦ｌ）を選
び、次いで次式５ 【数５】 によって距離ｋｌ（ｘ，ｙ）（但し、ｘ，ｙは特徴ベク
トルを表す）を算出することを特徴とする請求項２記載
の特徴抽出装置。 - 【請求項５】 前記近傍ベクトル選出手段が、前記数式
１を使って距離を算出する代わりに、まず前記数式４に
よって得られる共分散行列の固有値問題を解き、固有値
の大きいｌ個の固有ベクトルｅｉ（１≦ｉ≦ｌ）を選
び、次いで次式６ 【数６】 によって距離ｍａｈ（ｘ，ｙ）（但し、ｘ，ｙは特徴ベ
クトルを表す）を算出することを特徴とする請求項２記
載の特徴抽出装置。 - 【請求項６】 前記特徴ベクトル空間生成手段が、ｍ個
の固有ベクトルの他にそれぞれに対応する固有値を出力
することを特徴とする請求項２記載の特徴抽出装置。 - 【請求項７】 前記特徴ベクトル空間生成手段が、ｍ個
の固有ベクトルの他にそれらの固有ベクトルｅｉに対応
して次式７ 【数７】 で定まる分散値σ（ｅｉ）を出力することを特徴とする
請求項２記載の特徴抽出装置。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP17725596A JP3841481B2 (ja) | 1996-06-18 | 1996-06-18 | 特徴抽出装置及びそれを用いたパターン識別装置 |
| US08/764,546 US5901244A (en) | 1996-06-18 | 1996-12-12 | Feature extraction system and face image recognition system |
| US09/290,256 US6430307B1 (en) | 1996-06-18 | 1999-04-13 | Feature extraction system and face image recognition system |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP17725596A JP3841481B2 (ja) | 1996-06-18 | 1996-06-18 | 特徴抽出装置及びそれを用いたパターン識別装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH103545A true JPH103545A (ja) | 1998-01-06 |
| JP3841481B2 JP3841481B2 (ja) | 2006-11-01 |
Family
ID=16027885
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP17725596A Expired - Fee Related JP3841481B2 (ja) | 1996-06-18 | 1996-06-18 | 特徴抽出装置及びそれを用いたパターン識別装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3841481B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002174603A (ja) * | 2000-12-08 | 2002-06-21 | Olympus Optical Co Ltd | 欠陥分類方法 |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5361664B2 (ja) | 2009-10-30 | 2013-12-04 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
-
1996
- 1996-06-18 JP JP17725596A patent/JP3841481B2/ja not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002174603A (ja) * | 2000-12-08 | 2002-06-21 | Olympus Optical Co Ltd | 欠陥分類方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP3841481B2 (ja) | 2006-11-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5901244A (en) | Feature extraction system and face image recognition system | |
| US7224823B2 (en) | Parameter estimation apparatus and data matching apparatus | |
| JP4589625B2 (ja) | カーネルフィッシャーフェイスを使用した顔認識 | |
| JP4292837B2 (ja) | パターン特徴抽出方法及びその装置 | |
| US9691003B2 (en) | Keypoint descriptor generation by complex wavelet analysis | |
| JP4321350B2 (ja) | パラメタ推定方法、パラメタ推定装置および照合方法 | |
| US8526679B2 (en) | Image processing apparatus and image processing method | |
| EP3361413B1 (en) | Method and apparatus of selecting candidate fingerprint image for fingerprint recognition | |
| US11244475B2 (en) | Determining a pose of an object in the surroundings of the object by means of multi-task learning | |
| US9576222B2 (en) | Image retrieval apparatus, image retrieval method, and recording medium | |
| JP3729581B2 (ja) | パターン認識・照合装置 | |
| US20160292529A1 (en) | Image collation system, image collation method, and program | |
| US7171048B2 (en) | Pattern matching system utilizing discrete curve matching with a mapping operator | |
| JP4477439B2 (ja) | 画像分割処理システム | |
| JPH103545A (ja) | 特徴抽出装置 | |
| JP4238537B2 (ja) | 画像処理装置 | |
| JP4228031B1 (ja) | 画像解析装置、画像登録装置および画像検索装置 | |
| US20240104890A1 (en) | Image processing device, recording medium, and image processing method | |
| CN112464699A (zh) | 用于面部分析的图像归一化方法、系统和可读介质 | |
| Wuhrer et al. | Posture invariant gender classification for 3D human models | |
| US20220392164A1 (en) | Non-transitory computer-readable recording medium, feature value calculation method, and information processing apparatus | |
| Hahmann et al. | Eye localization using the discriminative generalized hough transform | |
| Zhou et al. | Scale-adaptive eigeneye for fast eye detection in wild web images | |
| JP2004062721A (ja) | 画像識別装置 | |
| JP3435286B2 (ja) | テンプレートマッチング方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060425 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060530 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060712 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060808 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060808 |
|
| R150 | Certificate of patent (=grant) or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090818 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100818 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110818 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |