JP2008217803A - 画像認識システム及びその認識方法並びにプログラム - Google Patents

Abstract

【課題】 入力画像の照明変動、オクルージョンの状態に関係なく、入力画像を正しく分類すること。
【解決手段】 入力画像部分領域抽出手段２は入力画像の部分領域を抽出する。パターン間距離算出手段３はこの部分領域と、予め辞書格納手段５に格納した登録画像の部分領域とのパターン間距離を各部分領域について算出する。領域距離値統合手段１０は各部分領域について得られたパターン間距離を統合する。これを各カテゴリの登録画像について行う。識別手段４はその統合したパターン間距離のうちの最小値を求め、その最小値がしきい値よりも小さい場合にその最小距離を持つカテゴリを認識結果として出力する。
【選択図】 図１

Description

本発明は画像を用いた画像認識システム及びその認識方法並びにプログラムに関し、特に画像に撮影された対象物体が、辞書に登録された物体かどうかを識別する、あるいは辞書に登録された複数のカテゴリ中の一つに分類する画像認識システム及びその認識方法並びにプログラムに関する。

従来の画像による認識システムの一例として、顔画像照合装置（たとえば、特許文献１参照）がある。これは人間の顔画像を照合するものであり、画像全体をフーリエ解析したフーリエスペクトルパタンの固有ベクトルを用いて照合を行う。

また、パターン認識装置およびその方法（たとえば、特許文献２参照）には複数の入力画像から求められる部分空間と、登録された画像によって張られる部分空間との角度（相互部分空間類似度）によって照合を行う手法が述べられている。図２９に従来の画像認識システムの一例の構成図を示す。従来の画像認識システムの一例は画像入力部２１０と、部分空間間の角度計算部２１１と、認識部２１２と、辞書記憶部２１３とから構成されている。

このような構成を有する従来の画像認識システムはつぎのように動作する。すなわち、画像入力部２１０によって、複数方向で撮影された複数の画像を入力する。次に部分空間間の角度計算部２１１において、部分空間間の角度を計算する。

まず入力画像群をＮ次元部分空間で表現する。具体的には画像全体を１次元特徴データとみなして主成分分析し、Ｎ個の固有ベクトルを抽出する。辞書記憶部２１３には、あらかじめＭ次元の部分空間で表現された辞書データが、カテゴリごとに用意されている。部分空間間の角度計算部２１１において、さらに入力画像のＮ次元部分空間と辞書のＭ次元部分空間との角度を、カテゴリごとに計算する。認識部２１２は、部分空間間の角度計算部２１１において算出された角度を比較し、角度が最も小さいカテゴリを認識結果として出力する。

辞書部分空間の基底ベクトルをΦｍ（ｍ＝１，…．Ｍ）とし、入力部分空間の基底ベクトルをΨｎ（ｎ＝１，…Ｎ）とすると、式（１）または式（２）のｘｉｊを要素に持つ行列Ｘを計算する。

部分空間間の角度Θの、余弦の二乗は、行列Ｘの最大固有値として求められる。角度が小さいということは、余弦の２乗が大きいことを意味する。すなわち余弦の２乗はパターンの類似度と言い換えることができる。従来の画像認識システムでは行列Ｘの最大固有値を類似度とし、類似度が最大のカテゴリに分類する。

これら従来の画像認識システムに共通するのは、照合時の類似度計算あるいは距離計算を、画像全体から抽出した特徴を用いて一度だけ行うという点である。

また、２次元画像と３次元データとの照合に関する発明が特許文献３に開示されている。これは予め登録された個人の３次元データを用いて照明変動および姿勢変動処理を行うものである。また、この種の他の画像認識システムの例が特許文献４〜９に開示されている。

特開平０５−０２０４４２号公報 特開平１０−１９９１２８号公報 特開２００１−２８３２１６号公報 特開平０３−０４３８７７号公報 特開平０７−２８７７５３号公報 特開２０００−２５９８３８号公報 特開２００１−０５２１８２号公報 特開２００１−２３６５０８号公報 特開平１０−２３２９３８号公報

しかし、対象画像が照明変動によって一部が黒つぶれしている場合や、オクルージョンが発生した場合（対象物体の一部が物陰に隠れている場合）には、画像全体から取得した特徴量が異常になり、正確に照合できないという問題があった。

一方、特許文献３に開示の発明は照明変動および姿勢変動処理の公知例であるが、本発明では１枚の画像から標準３次元データを用いて複数の変動画像群を生成しているので、特許文献３に開示の発明は認識システムとしては本発明と全く異なる発明である。また、特許文献４〜９のいずれにも上記本発明の構成は開示されていない。

そこで本発明の目的は、照明変動やオクルージョンの状態に関係なく、入力画像を正しく分類する画像認識システムを提供することにある。

前記課題を解決するため本発明による画像認識システムは、入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出手段と、前記複数のパターン間距離に基づき前記入力画像を識別する識別手段を含む画像認識システムであって、１枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成手段を持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とする。

又、本発明による画像認識方法は、入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法であって、１枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成ステップを持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とする。

又、本発明によるプログラムは、コンピュータに、入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法を実行させるためのプログラムであって、１枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成ステップを持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とする。

本発明によれば、照明変動やオクルージョンの状態に関係なく、入力画像を正しく分類することが可能となる。

以下、本発明の実施の形態について添付図面を参照しながら説明する。図１は本発明に係る画像認識システムの第１の実施の形態の構成図である。同図を参照すると、画像認識システムは、入力画像から対象を認識する照合部１と、照合に用いる辞書を格納する辞書格納手段５と、画像から部分領域を抽出するための位置情報を格納した部分領域情報記憶手段６と、登録画像から辞書を生成する登録部７とを含んで構成されている。入力画像の一例として人間の顔画像が挙げられる。この場合、顔パターンの画像中の位置、大きさはあらかじめ一定であることが望ましい。

なお、ここで述べる入力画像とは、実世界を撮影した自然画像だけでなく、空間フィルタを作用させたものやコンピュータグラフィクスで生成されたものを含む２次元のパターン全般を含んでいる。

次に照合部１の動作について説明する。照合部１は、入力画像部分領域抽出手段２と、パターン間距離算出手段３と、領域距離値統合手段１０と、識別手段４とから構成されている。入力された画像に対し、入力画像部分領域抽出手段２において、Ｐ個（Ｐは２以上の整数）の部分領域を設定し、それぞれの部分領域に属する画素値を元に特徴ベクトルを算出する。これを領域別入力特徴ベクトルと呼ぶ。領域別入力特徴ベクトルの一例として、画素値を要素とする特徴ベクトルがあげられる。その他の領域別入力特徴ベクトルを生成する例については後述する。

部分領域の設定に際しては部分領域情報記憶手段６から各部分領域の位置と大きさと形状に関する情報を取得する。

次に部分領域の抽出について説明する。図２は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３００は、Ｐ個の矩形の部分領域に均等に分割されている（部分領域分割結果３０２参照）。部分領域分割結果３０２は、一例として横５個、縦４個の、均等に配置された大きさの等しい２０個の部分領域である。部分領域の形状は矩形ではなく、楕円形や、任意の閉曲線で定義することができる。またそれぞれの大きさは均一である必要はない。また、それぞれの部分領域が一部重なり合うように定義することが可能である。部分領域分割結果３０２のように、均一の大きさの矩形が、画像全体に均等に配置された部分領域が定義されているときは、画像処理が簡潔になり高速化されるという利点がある。

部分領域に含まれる画素数は少なくとも２画素以上が必要である。なぜならば、１画素の部分領域とは、所詮１画素に過ぎず、従来の方法と原理的に同等となり、性能向上が図れないからである。実験的な結果からは部分領域の画素数は１６画素程度以上が望ましい。

次にパターン間距離算出手段３の動作について説明する。パターン間距離算出手段３においては、部分領域に分割して得られた領域別入力特徴ベクトルを用いて、登録された各カテゴリの部分領域ごとの辞書データとの間のパターン間距離を算出する。辞書データは辞書格納手段５から読み取る。パターン間距離算出手段３は、Ｐ個の部分領域ごとにパターン間距離値ｄｐ（ｐ＝１，…Ｐ）を算出する。

パターン間距離算出手段３の一例として、図３に示すパターン間距離算出手段４０がある。同図を参照すると、パターン間距離算出手段４０はノルム算出手段４１を含んで構成されている。ノルム距離算出手段４１は、部分領域ごとに、入力特徴ベクトルｘ（ｉ）と辞書特徴ベクトルｙ（ｉ）との差分のノルムを算出する。ノルムの例としてＬ２ノルムがある。Ｌ２ノルムによる距離はユークリッド距離であり、算出方法を式（３）に示す。ただしベクトルの次元数をｎとする。

ノルムのもう一つの例としてＬ１ノルムがある。Ｌ１ノルムによる距離の算出方法を式（４）に示す。Ｌ１ノルムによる距離は市街地距離と呼ばれる。

次に図２を用いてパターン間距離算出手段４０における部分領域ごとの照合について説明する。同図を参照すると、入力画像３００は識別対象として入力された画像である。登録画像３０１はあらかじめ辞書として登録されている画像である。入力画像３００はＰ個の部分領域に分割され、入力画像領域分割結果３０２が得られる。登録画像３０１も同じＰ個の部分領域に分割され、登録画像領域分割結果３０３が得られる。

入力画像３００の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別入力特徴ベクトル３０９として記憶される。Ｐ個の中の一つである部分領域Ａに注目すると、部分領域Ａ入力画像３０４が１次元ベクトルとして部分領域Ａ入力特徴ベクトル３０７に変換される。

同様に登録画像３０１の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別辞書特徴ベクトル３１０として記憶される。Ｐ個の中の一つである部分領域A に注目すると、部分領域Ａ登録画像３０５が１次元ベクトルとして部分領域Ａ辞書特徴ベクトル３０８に変換される。

パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力特徴データ３０７は、部分領域Ａ辞書特徴ベクトル３０８と比較され、ノルム距離を算出する。このように、Ｐ個すべての部分領域についてノルム距離が独立に算出される。

パターン間距離算出手段３の他の一例として、図４のパターン間距離算出手段５０がある。同図を参照すると、パターン間距離算出手段５０は部分空間投影距離算出手段５１を含んで構成されている。部分空間投影距離算出手段５１は、部分領域ごとに、部分空間投影距離を算出する。

部分空間投影距離によるパターンマッチングは部分空間法と呼ばれており、例えば文献１（前田、村瀬、“カーネル非線形部分空間法によるパターン認識”、電子情報通信学会論文誌，Ｄ−ＩＩ，Ｖｏｌ．Ｊ８２−Ｄ−ＩＩ，Ｎｏ．４，ｐｐ．６００−６１２，１９９９）などに記載されている。部分空間投影距離は、辞書登録された特徴データ群が張る部分空間と、入力特量ベクトルとの距離値を定義したものである。部分空間投影距離の算出方法の例について述べる。入力特徴ベクトルをＸとする。辞書登録された特徴ベクトル群の平均ベクトルをＶとする。辞書登録された特徴ベクトル群を主成分分析し、固有値の大きなＫ個の固有ベクトルを列とする行列をΨｉ（ｉ＝１、、、Ｋ）とする。本文では、この平均ベクトルＶとＫ個の固有ベクトルによる行列Ψｉを合わせたものを主成分データと呼ぶ。このとき部分空間投影距離ｄｓは式（５）によって算出される。

次に、パターン間距離算出手段５０における部分領域ごとの照合について説明する。図５は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３４０は識別対象として入力された画像である。登録画像シーケンス３４１は、あらかじめ辞書として登録された、ある１つのカテゴリに属する画像シーケンスである。登録画像シーケンス３４１はＪ個（Ｊは２以上の整数）の登録画像からなる。入力画像３４０はＰ個の部分領域に分割され、入力画像領域分割結果３４２が得られる。登録画像シーケンス３４１も同様にＰ個の部分領域に分割され、登録画像領域分割結果３４３が得られる。

入力画像３４０の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別入力特徴ベクトル３４９として記憶される。Ｐ個の中の一つである部分領域Ａに注目すると、部分領域Ａ入力画像３４４が１次元ベクトルとして部分領域Ａ入力特徴ベクトル３４７に変換される。

登録画像シーケンス３４１のＪ個の画像から、それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＪ個の特徴ベクトルから主成分データを算出し、領域別辞書主成分データ３５０として記憶される。Ｐ個の領域の一つである部分領域Ａに注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ登録シーケンス３４５を用いて、部分領域Ａ辞書主成分データ３４８を算出する。

パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力特徴データ３４７は、部分領域Ａ辞書主成分ベクトル３４８と比較されて、部分空間投影距離が算出される。このように、Ｐ個すべての部分領域について部分空間投影距離が独立に算出される。

次に領域距離値統合手段１０において、カテゴリごとにＰ個の距離値を用いて、ある関数Ｆ（ｄ１，ｄ２，ｄ３…ｄｐ）を作用させ、一つの統合距離値を算出する。

距離値統合手段１０の一例として、図６の領域距離値統合手段７０がある。領域距離値統合手段は加重平均値算出手段７１を含んで構成されている。領域距離値統合手段７０は、Ｐ個の部分領域の距離値が与えられると、加重平均値算出手段７１は、Ｐ個の距離値の加重平均値Ｄｗを計算して統合距離値として出力する。加重平均値Ｄｗの計算式を式（６）に示す。

各領域に対応する重み値ｗはあらかじめ決められた値を用いることができるし、領域内の画像データに適当な関数を作用させて求めても良い。

次に、距離値統合手段１０の一例として、図７に示すの領域距離値統合手段８０がある。領域距離値統合手段は、距離値ソート手段８２と、距離値上位平均算出手段８１から構成されている。領域距離値統合手段８０は、Ｐ個の部分領域の距離値が与えられると、距離値ソート手段８２においてＰ個の距離値を小さい順にソートし、距離値上位平均算出手段８１において距離値の小さいＰ´個（Ｐ´はＰ未満の整数）の平均値Ｄｐを計算し、統合距離値として出力する。Ｐ´の値については、Ｐの値に応じて予め決めておく方法がある。またＰ´を各部分領域の距離値の関数として定義することにより、Ｐ´の値を動的に変化させる方法がある。また画像全体の明るさ、コントラストに応じてＰ´の値を可変にすることができる。

また、距離値統合手段１０の一例として、Ｐ個の部分領域の距離値の中で予め与えられたしきい値よりも小さいＰ´個（Ｐ´はＰ未満の整数）の平均値を算出するものがある。

次に、距離値統合手段８０で、部分領域の距離値が小さいものだけを用いて統合距離を算出する方法の利点について図８を用いて説明する。図８は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。入力画像４００と、登録画像４０１を比較することを考える。登録画像４０１は照明の影響で左側に影があり、左側の画像パターンが大きく異なっている。部分領域ごとに距離値を計算した結果を濃淡値で図示すると、部分領域距離値マップ４０４が得られる。黒い領域は距離値が大きく（照合スコアは低い）、白い領域は距離値が小さい（照合スコアは高い）。登録画像左側の影が写った部分領域の照合スコアは低くなっている。直感的に、不明瞭な左側の部分領域を無視して右側の部分領域だけで照合するほうが、より正確な照合結果が得られることがわかる。よって距離値統合手段８０のように、照合スコアの高い（距離値の低い）部分領域のみを考慮した距離値統合手段が有効である。

次に、識別手段４は、距離値統合手段１０から得られた各カテゴリとの統合距離値を比較し、最終的に入力画像が属するカテゴリを出力する。識別手段４の一例として図９に示す識別手段９０がある。同図を参照すると、識別手段９０は、最小値算出手段９１と、しきい値処理手段９２とを含んで構成される。まず最小値算出手段９１において、各カテゴリとの統合距離値の最小値を算出する。次にしきい値処理手段９２において最小値をしきい値と比較し、しきい値よりも小さいときは、最小値が得られたカテゴリを識別結果として出力する。しきい値よりも大きいときは、辞書には存在しないという結果を出力する。

次に登録部７の動作について説明する。登録部７は、登録画像部分領域抽出手段９と、辞書データ生成手段８とを含んで構成されている。登録部７へは登録画像と対応するカテゴリのＩＤ（Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ）とが入力される。この画像はカテゴリＩＤによって指定されたカテゴリに属するものとする。登録画像に対し、登録画像部分領域抽出手段９は、部分領域情報６を参照して、Ｐ個の部分領域を設定し、それぞれの部分領域に属する画素値を元に領域別辞書特徴ベクトルを生成する。領域別辞書特徴ベクトルの一例として、画素値を要素とする特徴ベクトルがあげられる。その他の領域別辞書特徴ベクトルを生成する例については後述する。

そして辞書データ生成手段８では領域別辞書特徴ベクトルを、適切な保存形式に変換し、辞書格納手段５に出力する。辞書として主成分データが必要な場合は、辞書特徴ベクトル群の主成分分析を行う。保存形式の一例が図１０に示されている。

辞書データ生成手段８の一例として、図２７の辞書データ生成手段１９０がある。辞書データ生成手段１９０は主成分データ生成手段１９１を含む。主成分データ生成手段１９１は、入力された複数の領域別辞書特徴ベクトル群の主成分分析を行い、領域別主成分データを生成する。

図１０に辞書格納手段５の一例である辞書格納手段１００の構成図を示す。図１０（Ａ）は辞書格納手段１００の全体構成図、図１０（Ｂ）はレコード記憶部１０１の構成図である。辞書格納手段１００はＣ個のレコード記憶部１０１を持ち、各レコードには、レコード番号１０２、領域別辞書データ１０３、カテゴリＩＤ１０４を記憶することができる。領域別辞書データは、Ｐ個の部分領域別の辞書データからなっている。辞書格納手段１００は、同じカテゴリＩＤを持つ複数の辞書レコードを格納することが可能である。領域別辞書データ１０３の具体的なデータは、パターン間距離算出手段３の距離計算方式に依存し、例えばパターン間距離算出手段４０を用いるときは１次元の特徴ベクトルとなり、パターン間距離算出手段５０やパターン間距離算出手段６０を用いるときは、平均ベクトルＶとＫ個の固有ベクトルからなる主成分データとなる。

図１１に、ビデオシーケンスなどの複数枚の入力画像から対象を認識する実施例である照合部２１の構成を示す。本実施例の入力としては、ビデオ映像などの動画像や、同じ物体を撮影した複数枚の静止画像が含まれている。なお、図１と同様の構成部分には同一番号を付し、その説明を省略する。照合部２１は、入力画像列を平均化し、１枚の入力画像を生成する入力画像列平滑化手段２２と、入力画像部分領域抽出手段２と、パターン間距離算出手段３と、識別手段４とを含んで構成されている。照合部２１は、はじめにＮ枚（Ｎは２以上の整数）の入力画像が入力されると、画素ごとにＮ枚の平均を取り、１枚の入力平均画像を生成する。この入力平均画像を入力画像として照合部１と同等の動作を行う。

図１２に、ビデオシーケンスなどの複数枚の入力画像から対象を認識するもう一つの実施例である照合部３１の構成を示す。本実施例の入力としては、ビデオ映像などの動画像や、同じ物体を撮影した複数枚の静止画像が含まれている。なお、図１と同様の構成部分には同一番号を付し、その説明を省略する。照合部３１は、入力画像部分領域抽出手段２と、入力主成分生成部３２と、パターン間距離算出手段３３と、識別手段４とを含んで構成されている。照合部３１は、Ｎ枚の入力画像が入力されると、各画像に対し、入力画像部分領域抽出手段２において、Ｐ個の部分領域を設定し、それぞれの部分領域に属する画像データを抽出する。部分領域の設定に際しては部分領域情報記憶手段６から各部分領域の位置と大きさと形状に関する情報を取得する。次に入力主成分生成部３２において、部分領域ごとの入力主成分データである領域別入力主成分データを算出する。パターン間距離算出手段３３では、得られたＰ個の入力主成分データと、辞書データとを用いて、各カテゴリとの距離値を計算する。各カテゴリとの距離値を元に識別手段において、入力画像列が、どのカテゴリに属するかを判断し、認識結果を出力する。

パターン間距離算出手段３３の例として、図１３に示すパターン間距離算出手段６０がある。パターン間距離算出手段６０は、部分空間間距離算出手段６１とから構成されている。部分空間間距離算出手段６１は、領域別入力主成分データと領域別辞書主成分データを入力として、部分領域ごとに距離値を算出する。

部分空間間距離算出手段６１の実現方法として、部分空間同士の距離を求める方法がある。一例を以下に述べる。辞書主成分データは、辞書平均ベクトルＶ１とＫ個の辞書固有ベクトルΨｉとからなる。入力主成分データは、入力平均ベクトルＶ２とＬ個の入力固有ベクトルΦｉとからなる。まず入力平均ベクトルＶ２と辞書固有ベクトルで張られる部分空間との距離値ｄＭ１を式（７）によって算出する。

次に辞書平均ベクトルＶ１と、入力固有ベクトルで張られる部分空間との距離値ｄＭ２を式（８）によって算出する。

入力と辞書の部分空間同士の距離は、ｄＭ１とｄＭ２の関数Ｇ（ｄＭ１，ｄＭ２）によって算出される。

関数Ｇの一例として式（９）などがある。

ただしαは定数である。

次に、図１４を用いてパターン間距離算出手段６０における部分領域ごとの照合について説明する。図１４は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３２０は識別対象として入力された画像シーケンスである。登録画像シーケンス３２１は、あらかじめ辞書として登録された、ある１つのカテゴリに属する画像シーケンスである。入力画像シーケンスはＮ枚、登録画像シーケンス３２１はＪ枚の登録画像からなる。入力画像シーケンス３２０の各画像はＰ個の部分領域に分割され、入力画像領域分割結果３２２が得られる。登録画像シーケンス３４１も同様にＰ個の部分領域に分割され、登録画像領域分割結果３２３が得られる。

入力画像シーケンス３２０の、Ｎ枚の画像から、Ｐ個それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＮ個の特徴ベクトルから主成分データを算出し、領域別入力主成分データ３２９として記憶される。Ｐ個の領域の一つである部分領域A に注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ入力シーケンス３２４を用いて、部分領域Ａ入力主成分データ３２６が算出される。

一方、登録画像シーケンス３２１のＪ枚の画像から、Ｐ個それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＪ個の特徴ベクトルから主成分データを算出し、領域別辞書主成分データ３３０として記憶される。Ｐ個の領域の一つである部分領域Ａに注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ登録シーケンス３２５を用いて、部分領域A 辞書主成分データ３２７が算出される。

パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力主成分データ３２６は、部分領域Ａ辞書主成分データ３２７と比較され、部分空間間距離が例えば式（９）によって算出される。Ｐ個すべての部分領域について部分空間間距離が独立に算出される。

次に、入力画像部分領域抽出手段２について詳細に説明する。入力画像部分領域抽出手段３の一例として、図１８の入力画像部分領域抽出手段１１０がある。入力画像部分領域抽出手段１１０は、部分画像取得手段１１１と、特徴抽出手段１１２とを含んでいる。部分画像取得手段１１１は、部分領域情報記憶手段６に格納された部分領域情報を参照し、部分画像の画素値を取得する。特徴抽出手段１１２は、得られた部分画像データを１次元特徴ベクトルに変換する。特徴抽出手段１１２の例として、部分画像の画素値を要素とするベクトルを生成するものがある。また特徴抽出手段１１２の例として、部分画像の画素値に対し、画素値の濃度正規化、ヒストグラム平坦化、フィルタリング等の補正処理を加えたものを特徴ベクトルとするものがある。また、フーリエ変換、ＤＣＴ、ウェーブレット変換を利用した周波数特徴を抽出するものがある。周波数特徴は一般に位置ずれに頑強である。なお周波数特徴への変換は画素値ベクトルに対するフィルタリングの一種である。

周波数特徴を出力する特徴抽出手段１１２の一例として、図１９に示す特徴抽出手段１３０がある。特徴抽出手段１３０は、フーリエスペクトル変換手段１３１を含む。フーリエスペクトル変換手段１３１は、部分領域の画素値のベクトルに対し離散フーリエ変換を施す。特徴抽出手段１３０は、画素値の離散フーリエ変換係数を要素とする特徴ベクトルを出力する。

入力画像部分領域抽出手段２の他の一例として、図２０の入力画像部分領域抽出手段１２０がある。入力画像部分領域抽出手段１２０は、姿勢補正手段１２１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。入力画像部分領域抽出手段１２０は、姿勢補正手段１２１によって、特徴を抽出する前に入力画像中の物体の姿勢を適切に補正する。画像中の物体の姿勢を補正するというのは、具体的には、入力画像中の物体が、予め定められた固定方向からカメラで観察した状態になるように、入力画像データ自身を変換することである。姿勢補正手段１２１によって、一定の姿勢に変換された画像データに対し、部分画像取得手段１１１と特徴抽出手段１１２を用いて、領域別入力特徴ベクトルを生成する。入力画像の姿勢を補正することにより、画像中の物体の姿勢変化による照合精度の劣化を改善することができる。また登録側の画像を、入力と同じパラメータの姿勢に補正することで、照合精度を向上させることができる。

図２１を参照して、姿勢補正方法について説明する。一般に姿勢補正のパラメータは、ＸＹＺ軸に沿った移動とＸＹＺ軸回りの回転の合計６個である。図２１では顔画像を例として、様々な方向を向いた顔画像を入力画像として示している。入力画像Ａ１４０は上向き、入力画像Ｂ１４１は右向き、入力画像Ｃ１４２は下向き、入力画像Ｄ１４３は左向きである。それに対して姿勢補正画像１４４は、前記入力画像を、正面向き画像に変換したものである。

前記姿勢補正画像１４４への変換のような姿勢補正方法の一例として、画像データをアフィン変換する方法がある。アフィン変換によって物体の姿勢補正する方法は、たとえば特開２０００−９０１９０号公報に示されている。

また、その他の姿勢補正方法の一例として、図２２及び図２３に示す３次元モデルを使用する方法がある。図２２及び図２３には、人間の顔を想定した３次元モデルが示されており、図２２が楕円体モデル１５１、図２３が標準３次元顔モデル１５２である。標準３次元顔モデルは標準的な人間の顔の形状を表す３次元モデルであり、３次元ＣＡＤソフトや、レンジファインダーによる測定を利用して得ることができる。姿勢補正は、入力画像を３次元モデル上にテクスチャマッピングした後、３次元モデルを移動回転させることによって実現することができる。

次に、登録画像部分領域抽出手段９について詳細に説明する。登録部分領域抽出手段９の一例として、図２４の登録部分領域抽出手段１６０がある。登録部分領域抽出手段１６０は、部分画像取得手段１１１と、特徴抽出手段１１２とを含んでいる。部分画像取得手段１１１と特徴抽出手段１１２の動作についてはすでに述べた。登録部分領域抽出手段１６０は登録画像から領域別辞書特徴ベクトルを生成する。

登録画像部分領域抽出手段９の他の一例として、図２５の登録画像部分領域抽出手段１７０がある。登録画像部分領域抽出手段１７０は、姿勢補正手段１２１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。登録画像部分領域抽出手段１７０は、姿勢補正手段１２１によって特徴を抽出する前に登録画像中の物体の姿勢を適切に補正する。

姿勢補正手段１２１によって一定の姿勢に変換された画像データに対し、部分画像取得手段１１１と特徴抽出手段１１２を用いて、領域別辞書特徴ベクトルを生成する。登録画像の姿勢を補正することにより、画像中の物体の姿勢変化による照合精度の劣化を改善することができる。

登録画像部分領域抽出手段９の他の一例として、図２６の登録画像部分領域抽出手段１８０がある。登録画像部分領域抽出手段１８０は、変動画像生成手段１８１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。変動画像生成手段１８１は、入力された登録画像を、それ自身を含む複数の変動画像に変換する。変動画像は、入力された画像に対し、姿勢変動、照明変動など、様々な要因によって起こる対象物の見えの変化をシミュレートして変換した画像である。

図２８に、人間の顔を対象とした変動画像の例を示す。入力画像２５０に対し、それ自身を含む７種類の変動画像が生成されている。姿勢変動画像Ａ２５１は、顔を上向きに変換した画像である。姿勢変動画像Ｂ２５２は、顔を右向きに変換した画像である。姿勢変動画像Ｃ２５３は、顔を下向きに変換した画像である。姿勢変動画像Ｄ２５４は、顔を左向きに変換した画像である。これらの姿勢変動画像は、前記姿勢補正手段１２１に用いられた方法を利用して変換することができる。照明変動画像２５５は、入力画像２５０に対して照明による明暗の変化を付加した画像であり、例えば入力画像２５０の画素値を全体的に明るく、または暗くする方法で実現することができる。表情変動画像２５６は、顔の表情を変化させて笑顔に変換した画像である。変換方法は、例えば両方の口もとを上にあげて両目を細くするなどの変形を加えることで実現することができる。元画像２５７は入力画像そのままのデータである。

また変動画像生成手段１８１は、同じ変動でもパラメータを複数段階に変化させたものを複数出力することができる。例えば右向きの姿勢変動の場合には、右１５度回転と右３０度回転と右４５度回転の３種類の変換画像を同時に出力することができる。また、姿勢変動と照明変動など、異なる変動要因を組み合わせた変換を施した画像を出力することができる。

変動画像生成手段１８１によって生成された複数の変動画像群は、部分画像取得手段１１１と特徴抽出手段１１２によって、領域別辞書特徴ベクトル群に変換される。

登録画像部分領域抽出手段１８０によって生成された領域別辞書特徴ベクトル群は、辞書データ生成手段８によって複数の辞書レコードに変換されるか、あるいは図２７に示す辞書データ生成手段１９０によって、主成分データが生成される。主成分データが生成された場合は、図５の概念図に示された方法によって入力画像を照合する。

辞書登録側で変動画像を生成しておくことにより、入力画像中の物体の姿勢や照明環境が変化しても、登録側にあらかじめ想定された変動画像が登録されているため、正確に照合することができる。

次に、図１５を参照して本実施形態の全体の動作について詳細に説明する。図１５は本発明に係る画像認識システムの全体の動作を示すフローチャートである。まず、識別対象の入力画像データを入力する（ステップＡ１）。次に入力画像をＰ個の部分領域に分割し、部分領域ごとに特徴ベクトルの抽出を行う（ステップＡ２）。次に辞書データを参照し、部分領域ごとに登録画像との距離を算出する（ステップＡ３）。次に、Ｐ個の部分領域ごとの距離値を用いて、１つの統合距離値を算出する（ステップＡ４）。登録カテゴリの中で最小の距離値を算出する（ステップＡ５）。次に最小距離がしきい値より小さいかどうかを判定する（ステップＡ６）。最小距離がしきい値よりも小さいときは、最小距離を持つカテゴリを認識結果として出力する（ステップＡ７）。最小距離がしきい値よりも大きいときは、該当カテゴリなしを出力する（ステップＡ８）。

次に図１６を参照して本実施形態の辞書データ学習の動作について説明する。図１６は辞書データ学習の動作を示すフローチャートである。登録画像データと対応するカテゴリＩＤを入力する（ステップＢ１）。次に登録画像をＰ個の部分領域に分割する（ステップＢ２）。次に各部分領域に属する画像データを用いて、部分領域ごとに辞書データを生成する（ステップＢ３）。辞書データを辞書データ格納手段に保存する（ステップＢ４）。以上の動作を必要なだけ繰り返す。

次に、本発明の第２の実施の形態について図面を参照して詳細に説明する。図１７は本発明の第２の実施の形態の構成図である。本発明の第２の実施の形態は、プログラム制御により動作するコンピュータ２００と、画像認識プログラムを記録した記録媒体２０１と、カメラ２０４と、操作卓２０２と、表示装置２０３とから構成されている。この記録媒体２０１は磁気ディスク、半導体メモリその他の記録媒体であってよい。

コンピュータ２００は、照合部１と登録部７と辞書格納手段５と部分領域情報記憶手段６とを実現するプログラムをロードして実行する。プログラムは記憶媒体２０１に保存され、コンピュータ２００は記憶媒体２０１からプログラムを読み出して実行する。プログラムは図１５と図１６のフローチャートに示す動作を行う。本実施例では入力画像はカメラ２０４から入力され、認識結果は表示装置２０３に表示される。認識の指示、学習の指示は操作卓２０２からオペレータが行う。

本発明による画像認識システムによれば、前記入力画像の部分領域とこれと対応する前記登録画像の部分領域とのパターン間距離を算出し、各部分領域の前記パターン間距離に基づき前記入力画像を識別する照合手段を含むため、照明変動や、オクルージョンの状態に関係なく、入力画像を正しく分類することが可能となる。又、本発明による画像認識方法及びプログラムも上記画像認識システムと同様の効果を奏する。

具体的に説明すると、本発明の効果は、画像中の複数の部分領域を独立に照合し、それらの結果を統合することにより、照明変動や、オクルージョンの影響を低減し、入力画像を正しく識別できることである。その理由は、照明変動やオクルージョンによってスコアが異常となる部分領域を、距離値統合時に排除することができるからである。

本発明に係る画像認識システムの第１の実施の形態の構成図である。 本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。 パターン間距離算出手段４０の構成図である。 パターン間距離算出手段５０の構成図である。 本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。 領域距離値統合手段７０の構成図である。 領域距離値統合手段８０の構成図である。 本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。 識別手段９０の構成図である。 辞書格納手段１００の構成図である。 照合部２１の構成図である。 照合部３１の構成図である。 パターン間距離算出手段６０の構成図である。 本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。 本発明に係る画像認識システムの全体の動作を示すフローチャートである。 辞書データ学習の動作を示すフローチャートである。 本発明の第２の実施の形態の構成図である。 入力画像部分領域抽出手段１１０の構成図である。 特徴抽出手段１３０の構成図である。 入力画像部分領域抽出手段１２０の構成図である。 姿勢補正方法を示す概念図である。 楕円体モデルの一例を示す図である。 標準３次元顔モデルの一例を示す図である。 登録画像部分領域抽出手段１６０の構成図である。 登録画像部分領域抽出手段１７０の構成図である。 登録画像部分領域抽出手段１８０の構成図である。 辞書データ生成手段１９０の構成図である。 変動画像生成方法を示す概念図である。 従来の画像認識システムの一例の構成図である。

符号の説明

１ 照合部
２ 入力画像部分領域抽出手段
３ パターン間距離算出手段
４ 識別手段
５ 辞書格納手段
６ 部分領域情報記憶手段
７ 登録部
８ 登録画像部分領域抽出手段
９ 辞書データ生成手段
１０ 領域距離値統合手段
２１ 照合部
２２ 入力画像列平滑化部
３１ 照合部
３２ 入力主成分生成部
３３ パターン間距離算出手段
４０ パターン間距離算出手段
４１ ノルム算出手段
５０ パターン間距離算出手段
５１ 部分空間投影距離算出手段
６０ パターン間距離算出手段
６１ 部分空間間距離算出手段
７０ 領域距離値統合手段
７１ 加重平均値算出手段
８０ 領域距離値統合手段
８１ 距離値ソート手段
８２ 距離値上位平均算出手段
９０ 識別手段
９１ 最小値算出手段
９２ しきい値処理手段
１００ 辞書格納手段
１０１ レコード記憶部
１０２ レコード番号
１０３ 領域別辞書データ
１０４ カテゴリＩＤ
１１０ 入力画像部分領域抽出手段
１１１ 部分画像取得手段
１１２ 特徴抽出手段
１２０ 入力画像部分領域抽出手段
１２１ 姿勢補正手段
１３０ 特徴抽出手段
１３１ フーリエスペクトル変換手段
１４０ 入力画像Ａ
１４１ 入力画像Ｂ
１４２ 入力画像Ｃ
１４３ 入力画像Ｄ
１４４ 姿勢補正画像
１５０ 楕円体モデル
１５１ 標準３次元顔モデル
１６０ 登録画像部分領域抽出手段
１７０ 登録画像部分領域抽出手段
１８０ 登録画像部分領域抽出手段
１８１ 変動画像生成手段
１９０ 辞書データ生成手段
１９１ 主成分データ生成手段
２００ コンピュータ
２０１ 記憶媒体
２０２ 操作卓
２０３ 表示装置
２０４ カメラ
２１０ 画像入力部
２１１ 部分空間間の角度計算部
２１２ 認識部
２１３ 辞書記憶部
２５０ 入力画像
２５１ 姿勢変動画像Ａ
２５２ 姿勢変動画像Ｂ
２５３ 姿勢変動画像Ｃ
２５４ 姿勢変動画像Ｄ
２５５ 照明変動画像
２５６ 表情変動画像
２５７ 元画像
３００ 入力画像
３０１ 登録画像
３０２ 入力画像領域分割結果
３０３ 登録画像領域分割結果
３０４ 部分領域Ａ入力画像
３０５ 部分領域Ａ登録画像
３０６ 照合対
３０７ 部分領域Ａ入力特徴ベクトル
３０８ 部分領域Ａ辞書特徴ベクトル
３０９ 領域別入力特徴ベクトル
３１０ 領域別辞書特徴ベクトル
３２０ 入力画像シーケンス
３２１ 登録画像シーケンス
３２２ 入力画像領域分割結果
３２３ 登録画像領域分割結果
３２４ 部分領域Ａ入力シーケンス
３２５ 部分領域Ａ登録シーケンス
３２６ 部分領域Ａ入力主成分データ
３２７ 部分領域Ａ辞書主成分データ
３２８ 照合対
３２９ 領域別入力主成分データ
３３０ 領域別辞書主成分データ
３４０ 入力画像
３４１ 登録画像シーケンス
３４２ 入力画像領域分割結果
３４３ 登録画像領域分割結果
３４４ 部分領域Ａ入力画像
３４５ 部分領域Ａ登録シーケンス
３４６ 照合対
３４７ 部分領域Ａ入力特徴ベクトル
３４８ 部分領域Ａ辞書主成分データ
３４９ 領域別入力特徴ベクトル
３５０ 領域別辞書主成分データ
４００ 入力画像
４０１ 登録画像
４０２ 低照合スコア部分領域群
４０３ 高照合スコア部分領域群
４０４ 部分領域距離値マップ

Claims (12)

1. 入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出手段と、
   前記複数のパターン間距離に基づき前記入力画像を識別する識別手段を含む画像認識システムであって、
   １枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成手段を持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とする画像認識システム。
2. 入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出手段と、
   前記複数のパターン間距離に基づき前記入力画像を識別する識別手段とを含む画像認識システムであって、
   前記入力画像および登録画像が、それぞれ同一の対象を撮影した複数画像からなる画像シーケンスからなり、
   前記パターン間距離算出手段が、入力画像シーケンスによって生成される領域別入力部分空間と、登録画像シーケンスによって生成される領域別登録部分空間とを用いて距離を算出することを特徴とする画像認識システム。
3. 前記入力画像シーケンスとして、１枚の入力画像を姿勢変化および照明変化させた複数の変動画像群を用い、前記登録画像シーケンスとして、１枚の登録画像を姿勢変化及び照明変化させた複数の変動画群を用いることを特徴とする請求項１または２記載の画像認識システム。
4. 認識対象が人間の顔であることを特徴とする請求項１から３いずれかに記載の画像認識システム。
5. 入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
   前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法であって、
   １枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成ステップを持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とする画像認識方法。
6. 入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
   前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法であって、
   前記入力画像および登録画像が、それぞれ同一の対象を撮影した複数画像からなる画像シーケンスからなり、
   前記パターン間距離算出ステップが、入力画像シーケンスによって生成される領域別入力部分空間と、登録画像シーケンスによって生成される領域別登録部分空間とを用いて距離を算出することを特徴とする画像認識方法。
7. 前記入力画像シーケンスとして、１枚の入力画像を姿勢変化および照明変化させた複数の変動画像群を用い、前記登録画像シーケンスとして、１枚の登録画像を姿勢変化及び照明変化させた複数の変動画群を用いることを特徴とする請求項５または６記載の画像認識方法。
8. 認識対象が人間の顔であることを特徴とする請求項５から７いずれかに記載の画像認識方法。
9. コンピュータに、入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
   前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法を実行させるためのプログラムであって、
   １枚の画像を、姿勢変化および照明変化させた複数の変動画像に変換する変画像生成ステップを持ち、前記変動画像から生成される領域別の部分空間を用いて入力画像を識別することを特徴とするプログラム。
10. 入力画像における複数の部分領域と、登録画像の該当する部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
    前記複数のパターン間距離に基づき前記入力画像を識別する識別ステップとを含む画像認識方法をコンピュータに実行させるためのプログラムであって、
    前記入力画像および登録画像が、それぞれ同一の対象を撮影した複数画像からなる画像シーケンスからなり、
    前記パターン間距離算出ステップが、入力画像シーケンスによって生成される領域別入力部分空間と、登録画像シーケンスによって生成される領域別登録部分空間とを用いて距離を算出することを特徴とするプログラム。
11. 前記入力画像シーケンスとして、１枚の入力画像を姿勢変化および照明変化させた複数の変動画像群を用い、前記登録画像シーケンスとして、１枚の登録画像を姿勢変化及び照明変化させた複数の変動画群を用いることを特徴とする請求項９または１０記載のプログラム。
12. 認識対象が人間の顔であることを特徴とする請求項９から１１いずれかに記載のプログラム。

Images