JP2008217589A - 学習装置及びパターン認識装置 - Google Patents

Abstract

【課題】識別性能を向上させるパターン認識装置を提供する。
【解決手段】パターン認識装置５０は、局所特徴計算部５２、入力部５４、特徴量子化部５６、識別部５８、統合部６０、最終識別部６２、出力部６４から構成され、参照ウィンドウ内の部分画像から得られる局所特徴に加えて、近傍ウィンドウの予測ラベルから空間的な配置に関する配置特徴を研鑽し、これらの複数の特徴の中から識別に有効な組合せを逐次選択する。
【選択図】 図２

Description

本発明は、入力画像から特定のパターンを検出したり、入力画像を既知の識別クラス毎に領域分割するための学習装置及びパターン認識装置に関する。

入力画像に含まれる特定のパターンを検出したり、複数のパターンを既知のクラスに識別する技術は、パターン認識（あるいは識別）技術と呼ばれる。

パターン認識は、まず帰属クラスが既知のサンプルデータをうまく識別できるような識別関数を学習することが必要となる。そうした学習方式の１つであるＡｄａＢｏｏｓｔでは、識別性能の低い識別器（弱識別器）を複数個学習し、それらを統合することにより高い識別性能を持つ識別器（強識別器）を構成する。ＡｄａＢｏｏｓｔによるパターン認識は、認識性能が高く、かつ、計算コストも実用的であることから広く用いられている（例えば、非特許文献１参照）。

非特許文献１の方法では、識別に用いる特徴量としては、高速に計算可能な複数の矩形領域の明度差を採用し、各弱識別器は単一の特徴量に基づいて識別を行う。

各弱識別器につき単一の特徴量を用いると、特徴同士の相関を有効に評価できず識別性能が低くなる場合があるが、特願２００５−５４７８０では、各弱識別器で複数の特徴の組合せに基づいて識別を行う方法が開示されている。
P.Viola and M.Jones,「Rapid Object Detection using a Boosted Cascade of Simple Features 」, IEEE conf. on Computer Vision and PatternRecognition (CVPR),2001

上記の２つの方法を含む従来方法では、入力画像に所定の大きさの矩形（参照ウィンドウと呼ぶ）を設定し、参照ウィンドウ内の部分画像から計算される特徴量を用いて識別を行う。このため、極めて局所的な情報から識別することになり識別性能が上がらない場合がある。また、識別に有用と考えられる近傍の点の識別結果は従来方式では考慮されていない。さらに、一般の物体認識を考えると、「机の近くには椅子があることが多い」、といった識別に有効と考えられる識別クラス間の相互関係を上記の方法では組み込むことができず、識別精度の向上に限界があるという問題点がある。

そこで本発明は上記問題点に鑑み、識別性能を向上させる学習装置、及び、その学習装置を用いて得られた識別器を用いたパターン認識装置を提供することを目的とする。

本発明は、対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習装置において、
学習のための複数のサンプル画像を格納するサンプル画像蓄積部と、
前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算部と、
前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成部と、
を有し、
前記弱識別器生成部は、
（Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記 注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
（２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算部と、
（Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択部と、
（Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算部と、
を有する学習装置である。

また、本発明は、対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識装置において、前記対象画像を入力する入力部と、前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算部と、前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算部と、前記Ｔ個の配置情報計算部のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算部から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別部と、を有するパターン認識装置である。

本発明によれば、従来より精度の高いパターン認識が可能である。言い換えれば、従来よりも低い計算コストで同等の性能を得ることができる。

以下で図１〜図６を参照しながら、本発明の一実施形態の学習装置１０、及びその学習装置１０で生成した識別器を用いたパターン認識装置５０を説明する。

なお、本実施形態では２クラスの識別問題、例えば、車に搭載した画像から、道路領域を抽出する問題、すなわち、入力画像を対象画像として、この対象画像に写っている道路と非道路とを２つの領域に分割する問題を想定している。

まず、学習装置１０について説明し、次に、パターン認識装置５０について説明する。

（学習装置１０）
本実施形態の学習装置１０について図１、図３〜図６を参照して説明する。

学習装置１０は学習アルゴリズムとしてＡｄａＢｏｏｓｔを採用する。ＡｄａＢｏｏｓｔは逐次的に学習サンプルの重みを変化させながら異なる識別器（弱識別器と呼ぶ）を生成し、これら複数の弱識別器を組合せて精度の高い識別器（強識別器と呼ぶ）を構成する学習方法である。

（１）学習装置１０の構成
図１は、学習装置１０のブロック図である。

学習装置１０は、図１に示すように、データ蓄積部１２、重み初期化部１４、局所特徴計算部１６、配置特徴計算部１８、弱識別器選択部２０、記憶部２２、重み更新部２４を備えており、弱識別器選択部２０はさらに量子化部２６、組合せ生成部２８、確率分布計算部３０、組合せ選択部３２から構成される。

各部１２〜３２の各機能は、コンピュータの記録媒体に格納されたプログラムによっても実現可能である。

なお、数１から数１２ではベクトル量を太字で表し、スカラー量を標準字で表すが、明細書では太字は表現できないため、ベクトル量を示すときは、「ベクトルｘ」「ベクトルｌ」「ベクトルｇ」のように表現する。また、スカラー量は「ｘ」「ｙ」「ｉ」「ｌ」のように表現する。

（２）データ蓄積部１２
データ蓄積部１２は認識対象が含まれるサンプル画像を多数格納する。例えば、道路が撮影されている画像をサンプル画像として格納する。

ここでは切り出された部分画像をクラス毎に保存するのではなく、元画像をサンプル画像として保持する。サンプル画像には通常、複数の識別対象が混在しているため、各点（各画素）がどの識別クラスに属するかを示すクラスラベルを輝度と共に蓄積しておく。各点のクラスラベルは適当な手段で与える。例えば手動で与える。

以下の説明においては、データ蓄積部１２に蓄積されたサンプル画像から得たＮ個の学習サンプル（ベクトルｘ_１ ，ｙ_１ ），（ベクトルｘ_２ ，ｙ_２ ）・・・，（ベクトルｘ_Ｎ ，ｙ_Ｎ ）を訓練データとして、これらに付加した重みを変化させながらＴ個の弱識別器ｈ_１(ベクトルｘ），ｈ_２(ベクトルｘ），・・・，ｈ_Ｔ （ベクトルｘ）を逐次学習し、学習した弱識別器で構成される強識別器Ｈ（ベクトルｘ）を求めるものとする。

ここでｉは全サンプル画像の各点に通して割り当てられたインデックス番号であり、ベクトルｘ_ｉ ( ｉ＝１，２，・・・，Ｎ）は後に説明する特徴ベクトル、ｙ_ｉ ( ｉ＝１，２，・・・，Ｎ）はそのクラスラベルである。２つの識別クラスのラベルを−１、＋１とすると、ｙ_ｉ ( ｉ＝１，２，・・・，Ｎ）が取り得る値は−１または＋１であり、各弱識別器、強識別器の出力値はいずれもクラスラベルであるから、これらの取り得る値も−１か＋１である。

（３）重み初期化部１４
重み初期化部１４は個々の学習サンプルの重みを初期化する。この重みとは、一つの弱識別器で識別する場合に学習サンプルの重要度を表す係数である。

例えば、全ての学習サンプルに対して均一な重みを設定する場合には、ｉ番目の学習サンプルの重みは、

Ｄ_１(ｉ）＝１／Ｎ （１）

により与えられる。この重みは第１の弱識別器ｈ_１(ベクトルｘ）を学習する際に用いられ、後に説明する重み更新部２４で逐次更新される。

（４）局所特徴計算部１６
局所特徴計算部１６は、データ蓄積部１２に蓄積されたサンプル画像上の点毎に、その点を中心とする図４に示すような矩形ウィンドウを用いて、パターン認識に必要な局所情報である複数の局所特徴を抽出する。

ここで計算する局所特徴は、その点の２次元の画像座標（ｕ，ｖ）、ウィンドウ内の輝度平均、ウィンドウ内の輝度分散、ウィンドウ内の輝度勾配の平均、ウィンドウ内の輝度勾配の分散、その他、識別に有効と予想される特徴量を計算する。

後に説明する識別処理で、ある特徴が識別にとって無効であると分かれば、パターン認識装置５０ではその特徴の計算を省けばよいので、ここでは識別に有効である可能性のある特徴量をできるだけ多く計算する。

その特徴の総数をＬ個とし、これらをまとめてＬ次元ベクトルｌは、

ベクトルｌ＝（ｌ_１ ，ｌ_２ ・・・ｌ_Ｌ ） （２）

で表す。このベクトルを局所特徴ベクトルと呼ぶ。局所特徴計算部１６は、データ蓄積部１２に蓄積された全ての画像の各点ｉに対してｌ_ｉ を計算し、Ｎ本の局所特徴ベクトルを出力する。

（５）配置特徴計算部１８
配置特徴計算部１８は、データ蓄積部１２に蓄積されたサンプル画像上の画素毎、すなわち、点毎に配置情報である配置特徴を計算する。配置特徴とは、上記従来の問題点で説明したように局所的な情報だけでは識別精度の向上に限界があるため、注目点を中心としてその周囲の領域の識別クラスに関する情報も前記注目点の識別に用いるものである。言い換えれば、配置情報、すなわち、配置特徴とは、注目点の周囲の領域の識別クラスを特定している。

配置特徴は各点の近傍の点のクラスラベルから計算する。図３を用いて配置特徴を説明する。

図３左に４近傍の配置特徴の例を示す。４近傍の配置特徴は注目点の上下左右のクラスラベルから計算する。クラスラベルは−１か＋１であるが、配置特徴計算部１８においては処理の簡単化のため−１を０と置き換える。この例では（１１００）_２ ＝１２が４近傍の配置特徴量となる。

図３右は８近傍の配置特徴の例であり、この場合の配置特徴量は（０１１００１０１）_２ ＝１０９となる。

識別クラス数が２の場合の４近傍及び８近傍の配置特徴量は各々４ビット、８ドット階調で表現される。一般化すると識別クラス数がＮの場合には、Ｆ近傍配置特徴量はＦ桁のＮ進数で表現される。

なお、同一の配置であっても０と１をどの順序で２進数表現するかによって値が異なる。例えば、図３の４近傍配置特徴量は（上左右下）の順序で２進表現しているが、この順序を変えると値が異なる。このため、各配置に対して予め定めた順序を用いることとし、パターン認識装置５０においても同一の順序を用いる。この順序が位置関係、すなわち、配置を特定している。

配置特徴計算部１８は上記の４近傍や８近傍などのＧ種類の配置特徴量を計算する。これらＧ個の配置特徴量をまとめてＧ次元の配置特徴ベクトルｇは、

ベクトルｇ＝（ｇ_１ ，ｇ_２ ・・・ｇ_Ｇ ） （３）

で表す。

配置特徴計算部１８では、データ蓄積部１２に蓄積された画像の各点ｉに対してｇ_ｉ を計算する。

なお、ここでは４近傍と８近傍の例を説明したが、上下や左右の２点で配置特徴を定義したり、上や下の１点だけで定義してもよい。また、配置を定義する点が自身の近傍に限定される必要もなく任意の配置であってよい。

局所特徴計算部１６で計算した局所特徴ベクトルと、配置特徴計算部１８で計算した配置特徴ベクトルをまとめて、

ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｌ_１ ，ｌ_２ ・・・ｌ_Ｌ ，ｇ_１ ，ｇ_２ ・・・ｇ_Ｇ ）
＝（ｘ_１ ，ｘ_２ ・・・ｘ_ｄ ） （４）

とし、このｄ次元のベクトルｘを特徴ベクトルｘと呼ぶ。なお、ｄ＝Ｌ＋Ｇである。ベクトルｘとそのクラスラベルｙ（識別クラスの真値）を合わせた（ベクトルｘ，ｙ）が前記した学習サンプルである。

なお、上記では配置特徴計算の際に学習サンプルに与えられたクラスラベルを用いたが、既に求められた弱識別器によって推定されるクラスラベルｙ^’ _ｉ を用いることもできる。例えば、ｔ番目の弱識別器の学習を開始する時点で１，２，・・・ｔ−１番目の弱識別器は既知であるから、それらの弱識別器から学習サンプルのベクトルｘ_ｉ のクラスラベルｙ^’ _ｉ を推定し、

ｙ^’ _ｉ （ｉ＝１，２，・・・，Ｎ）を用いて配置特徴を計算して、ｔ番目の弱識別器の学習の際に用いてもよい。クラスラベルｙ_ｉ （ｉ＝１，２，・・・，Ｎ）は定数であるが、予測ラベルｙ^’ _ｉ （ｉ＝１，２，・・・，Ｎ）は学習の過程で変化する。

なお、予測ラベルｙ^’ _ｉ （ｉ＝１，２，・・・，Ｎ）はそれまでに学習した弱識別器を用いるので第１の弱識別器を学習する際には用いることはできない。

（６）弱識別器選択部２０
弱識別器選択部２０は、図１に示すように、量子化部２６、組合せ生成部２８、確率分布計算部３０、組合せ選択部３２から構成され、Ｎ個の学習サンプルのベクトルｘ_ｉ （ｉ＝１，２，・・・，Ｎ）とそれに付加された重みＤ_ｔ （ｉ）を考慮して、弱識別器ｈ_ｔ （ベクトルｘ）を選択する。以下その詳細について説明する。

（６−１）量子化部２６
量子化部２６でまず最初に各特徴量（特徴ベクトルの各要素）の確率分布を識別クラス毎に求める。この確率分布は学習サンプルの個数ではなく、重みに基づいて計算する。図５に確率分布の例を示す。１本の曲線が１つの識別クラスの確率分布に対応しており、本実施形態では２クラスの識別問題を想定しているので、１つの特徴に対して２つの確率分布を求めることとなる。

次に、この確率分布に基づいて各特徴量を量子化する。識別誤り率を最小にする閾値を１つ求めて２段階に量子化する場合を示す。識別誤り率は、確率分布をある閾値で分割した時の狭い方の領域（図５でクラス１の分布では点線で示した閾値の右側の領域、クラス２の分布では左側の領域）の面積に一致するので、それら２つの面積の和が最小となる境界を求める。

このようにして求めた閾値を用いて、各特徴量を量子化する。すなわち、各特徴量が閾値よりも小さい場合は０、大きい場合は１というように閾値に対する大小関係を表す符号で特徴量を置き換える。

なお、ここでは１つの閾値と大小関係によって量子化する方法について説明したが、２つの閾値で上限と下限を設定し、その範囲内ならば０、それ範囲外ならば１、等としてもよい。また３つ以上の段階で量子化してもよい。

（６−２）組合せ生成部２８
組合せ生成部２８では特徴の組合せを生成する。

組合せを生成する方法としては、まず第１に、全ての組合せを生成する方法が考えられる。この場合の組合せの総数Ｋは、全部でｄ個の特徴から１，２，・・・，ｄ個の特徴を抽出して得られる組合せの総数なので次式で与えられる。

この組合せの総数Ｋは、特に特徴数ｄが大きい場合に非常に大きな数字となり、大幅に計算回数が増加する。これを回避するための何個かの特徴を組み合わせるかを予め決めておいたり、組み合わせる特徴の数に上限や下限を設定しておいてもよい。また、量子化部２６で各特徴量を符号化する際に識別誤り率が求められているので、これに基づいて特徴量を識別性能が高い（識別誤り率が低い）順にソートし、識別性能が高い特徴を優先的に用いて一定数の組合せを生成してもよい。

（６−３）確率分布計算部３０
確率分布計算部３０では、組合せ生成部２８で生成したＫ種類の特徴の組合せ各々から組合せ特徴量を求め、組合せ特徴量の確率分布を識別クラス毎に求める。

Ｋ個の特徴の組合せをｃ_ｋ （ｋ＝１，２，・・・，Ｋ）とし、各ｃ_ｋ について下記の計算を行う。

（６−３−１）ステップ１
ｃ_ｋ の構成要素がｆ個の特徴量ｖ_１,ｖ_２ ，・・・ｖ_ｆ であるとする。これらｆ個の特徴量は量子化部２６で量子化された符号である。各々異なる段階で量子化されている可能性があるが、説明の簡素化のため全て２段階で量子化されているものとする。この場合、全ての特徴量は０か１の２値符号であるから、そのｆ個の組合せはｆビット階調のスカラー量φで表現できる。このスカラー量φを組合せ特徴量と呼ぶ。

（６−３−２）ステップ２
組合せ特徴量φの確率分布を識別クラス毎に求める。本実施形態では識別クラス数は２だから２つの分布Ｗ_１ ^ｋ （φ），Ｗ_２ ^ｋ （φ）を次式により求める。

（６−３−３）ステップ３
Ｗ_１ ^ｋ （φ），Ｗ_２ ^ｋ （φ）は各々全体の総和が１になるように正規化しておく。

図６上の確率分布の例を示す。ある組合せ特徴量φが得られた時、この確率分布を参照することによって（つまりＷ_１ ^ｋ （φ）とＷ_２ ^ｋ （φ）の大小関係によって）、特徴量φがどちらかのクラスに属する確率が高いかを判定することができる。

なお、２つの確率分布から、図６下に示すような比較結果（クラスラベル）をテーブルとして作成してもよい。以下ではこれを比較テーブルと呼び、Ｗ_０ ^ｋ （φ）と表現する。

（６−４）組合せ選択部３２
組合せ選択部３２では、生成されたＫ種類の組合せ各々の識別誤り率を求め、識別誤り率が最小となる組合せとして選択する。

但し、ｈ_ｋ （ｘ）＝ｓｉｇｎ（Ｗ_１ ^ｋ （φ）−Ｗ_２ ^ｋ （φ））である。

（７）記憶部２２
記憶部２２は学習が終了した弱識別器に関する識別パラメータを逐次記憶する。

具体的には、特徴量の量子化の際に用いた閾値、選択された特徴量の組合せｃ_ｋ 、及びその確率分布Ｗ_１ ^ｋ （φ），Ｗ_２ ^ｋ （φ）等が識別パラメータとなる。また、識別パラメータとして、比較テーブルＷ_０ ^ｋ （φ）を記憶してもよい。

以下ではｔ番目の弱識別器に対応する識別パラメータという意味でｃ_ｔ ，Ｗ_１ ^ｔ （φ）−Ｗ_２ ^ｔ （φ），Ｗ_０ ^ｔ （φ）と表記する。

（８）データ重み更新部２４
データ重み更新部２４では各学習サンプルの重みを更新する。ｉ番目の学習サンプル（ｘ_ｉ ，ｙ_ｉ ）の重みは次式により与えられる。

α_ｔ は次式により与えられる。

で与えられる。また、Ｚ_ｔ は重みの総和を１とするための正規化係数であり、次式により与えられる。

Ｄ_ｔ （ｉ）の初期値Ｄ_１(ｉ）は式（１）で求められている。

重み更新部２４が、弱識別器ｈ_ｔ （ｘ）によって正しく識別されなかったサンプルデータの重みを大きく、正しく認識されたデータに対しては重みを小さくすることにより、次の弱識別器ｈ_ｔ＋１(ｘ）が前回識別できなかったサンプルデータに対する識別性能が高いものとなり、これら複数の弱識別器を統合することで全体として高性能の識別器を得る。最終的な識別器はＴ個の弱識別器ｈ_ｔ （ｘ）（ｔ＝１，２，・・・，Ｔ）を式（１１）で与えられる信頼度α_ｔ で重み付けて多数決をとった

となる。

（パターン認識装置５０）
次に本実施形態のパターン認識装置５０について図面を参照して説明する。

（１）パターン認識装置５０の構成
図２は、本実施形態におけるパターン認識装置５０のブロック図を示すもので、局所特徴計算部５２、入力部５４、特徴量子化部５６、識別部５８、統合部６０、最終識別部６２、出力部６４から構成されている。

図２の点線矩形内の、複数の特徴量子化部５６と識別部５８をまとめて弱識別器６６と呼び、上から順に第１弱識別器６６−１、第２弱識別器６６−２、・・・、第Ｔ弱識別器６６−Ｔとする。ここで符号６６を付けて弱識別器を説明する場合は装置の意味であり、ｈ（ｘ）を付けて弱識別器を説明する場合は識別関数としての意味である。これらの弱識別器ｈ（ｘ）は前述の学習装置１０により学習されたものであり、処理の際に必要な閾値等の識別パラメータは既に求められているものとする。

（２）局所特徴計算部５２
局所特徴計算部５２は、入力された画像上を原点位置から所定のステップ幅で走査し、各点に対して局所特徴を求める。この局所特徴は、前述の学習装置１０の局所特徴計算部１６で用いたＬ個の局所特徴ｌ_１ ，ｌ_２ ・・・ｌ_Ｌ と同一のものである。学習装置１０と同様にＬ次元のベクトルｌは、

ベクトルｌ＝（ｌ_１ ，ｌ_２ ・・・ｌ_Ｌ ） （１５）

と表記する。

この局所特徴ベクトルｌは入力画像上で識別を行う点毎に計算するものであり、識別を行う点がＮ個存在する場合には、Ｎ本の局所特徴ベクトルｌ_ｉ （ｉ＝１，２，・・・，Ｎ）が局所特徴計算部５２から出力される。

なお、これらの特徴に基づいて識別計算を行うが、Ｌ個の局所特徴の中に、どの弱識別器においても使われない特徴が存在する場合には、その特徴は識別にとって無効であり、以下の処理では不要であるので計算せず、適当なデフォルト値を代入しておく。これにより計算コストを削減することができる。

（３）入力部５４
入力部５４は、図２に示すように各弱識別器６６に対して備えられており、局所特徴計算部５２で計算したＮ本のＬ次元局所特徴ベクトルｌと、統合部６０で算出されるＧ次元の配置特徴ベクトルｇを各弱識別器６６にそれぞれ入力する。

配置特徴ベクトルｇは基本的には前述の学習装置１０で使用したものと同一であるが、パターン認識装置５０では後に説明する統合部６０で算出される。

学習装置１０では各学習サンプルのクラスラベルが既知であるから、その既知ラベルから配置特徴を計算することもできたが、パターン認識装置５０においてはクラスラベルが未知であるから、逐次推定されるラベルを用いて配置特徴を計算する。これら２種類のベクトルはいずれもＮ本生成されており、各々から１本ずつ入力していく。学習装置１０と同様に、局所特徴ベクトルと空間配置ベクトルから生成されるｄ次元のベクトルｘを特徴ベクトルとし、ベクトルｘが弱識別器６６に入力されるものとする。

ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｌ_１ ，ｌ_２ ・・・ｌ_Ｌ ，ｇ_１ ，ｇ_２ ・・・ｇ_Ｇ ）
＝（ｘ_１ ，ｘ_２ ・・・ｘ_ｄ ） （１６）

但し、ｄ＝Ｌ＋Ｇである。

なお、第１弱識別器６６−１への入力は局所特徴ベクトルｌのみであるが、この場合には空間配置ベクトルの各要素を適当なデフォルト値、例えば−１で初期化しておく。すなわち、

ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｘ_１ ，ｘ_２ ・・・ｘ_ｄ ，−１，−１，・・・，−１）
（１７）

とする。

以下では全ての弱識別器６６にｄ次元の特徴ベクトルｘ＝（ｘ_１ ，ｘ_２ ・・・ｘ_ｄ ）が入力されると考える。

（４）弱識別器６６
以下に各弱識別器６６について説明する。

Ｔ個の弱識別器６６は識別に用いる特徴の組合せ、量子化の際に用いる閾値等は各々異なるが、その基本的な動作は共通である。

（４−１）特徴量子化部５６
各弱識別器６６が具備する複数の特徴量子化部５６は、各弱識別器６６内では互いに異なる特徴に対応しており、対応する特徴を複数の段階に量子化する。各特徴量子化部５６が量子化する特徴や量子化の際に用いる閾値、何段階に量子化するかは、前述の学習装置１０によって求められている。

例えば、ある特徴量子化部５６が閾値ｔｈｒで特徴量を２段階に量子化する場合の出力値θは次式で計算される。

特徴量子化部５６の個数をＦとするとそれらからＦ個の出力θ_ｆ （ｆ＝１，２，・・・，Ｆ）が求められる。

（４−２）識別部５８
識別部５８は、Ｆ個の量子化特徴θ_ｆ （ｆ＝１，２，・・・，Ｆ）を入力し、識別結果を出力する。

本実施形態では２クラスの識別問題を考えており、出力値は−１か＋１の２値である。

まず、識別は、Ｆ個の量子化特徴θ_ｆ （ｆ＝１，２，・・・，Ｆ）の組合せから前述の学習装置１０で説明した組合せ特徴量φを計算する。

次に、組合せ特徴量φが各識別クラスから観測される確率を、前述の学習装置１０の記憶部２２で記憶した各識別クラスの確率分布Ｗ_１ ^ｔ （φ），Ｗ_２ ^ｔ （φ）を参照し、その大小関係によって識別クラスを決定する。

なお、２つの確率分布の代わりに比較テーブルＷ_０ ^ｔ （φ）を参照してもよい。

（５）統合部６０
統合部６０では各弱識別器６６から出力される識別結果を順次統合し、各点の配置特徴ｇを計算する。

例えば、第ｔ弱識別器６６−ｔ、（但し、１＝＜ｔ＝＜Ｔである）の処理が終了した時点を考える。

まず、学習が終了したｔ個の弱識別器ｈ_ｉ （ベクトルｘ）（ｉ＝１，２，・・・，ｔ）から次式により統合値ｓ（ベクトルｘ）を求める。

α_ｉ （ｉ＝１，２，・・・，ｔ）は弱識別器６６毎に定められたパラメータであり、各弱識別器６６の信頼度を表す。このパラメータは前述の学習装置１０により求められている。

次に、統合値ｓ（ｘ）からデータｘのクラスラベルβ（ベクトルｘ）を推定する。例えば、ｓ（ベクトルｘ）の正負でβ（ベクトルｘ）を推定する。Ｎ本の特徴ベクトルｙ（ベクトルｘ_ｉ ）（ｉ＝１，２，・・・，Ｎ）について推定すると、Ｎ個のクラスラベルβ（ｘ_ｉ ）（ｉ＝１，２，・・・，Ｎ）を得る。このＮ個のクラスラベルβ（ベクトルｘ_ｉ ）（ｉ＝１，２，・・・，Ｎ）から前述の学習装置１０で用いた配置特徴を計算する。

なお、局所特徴の計算と同様に、いずれの弱識別器６６においても使用されない配置特徴が存在する場合には、その配置特徴は識別にとって無効な特徴であるから計算する必要はない。

第Ｔ弱識別器６６−Ｔからの識別結果が入力されると、各特徴ベクトルに対する統合値を最終識別部６２に出力する。

（６）最終識別部６２
最終識別部６２は、各点の最終統合値ｓ_Ｔ （ベクトルｘ）から各点の識別クラスを最終判断する。２クラスの識別の場合は通常、ｓ_Ｔ （ベクトルｘ）の正負でクラスラベルを決定する。

（７）出力部６４
出力部６４は最終的に識別された各点のクラスラベル値を出力する。

（８）効果
以上のようにして、複数の局所特徴と配置特徴の組合せに基づいて識別処理を行うことにより、従来より精度の高いパターン認識が可能となる。換言すれば、本実施形態によって従来よりも低い計算コストで同等の識別性能を得ることができる。

（変更例）
本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。その他、本発明の要旨を逸脱しない範囲で変形を実施できる。

（１）変更例１
本実施形態では２クラスの識別問題を想定したが、例えば、複数の強識別器を組み合わせることにより、一般の他のクラスの識別問題に適用することも可能である。

（２）変更例２
上記実施形態では学習アルゴリズムとしてＡｄａＢｏｏｓｔを採用したが、他のＢｏｏｓｔｉｎｇ手法を用いることもできる。

例えば、非特許文献２（R.E.Schapire and Y.Singer,「Improved Boosting Algorithms Using Confidence-rated Predictions 」, Machine Learning,37,pp.297-336,1999）に記載されているＲｅａｌ ＡｄａＢｏｏｓｔと呼ばれる方法を用いてもよい。

本発明の一実施形態の学習装置のブロック図である。 同じくパターン認識装置のブロック図である。 空間配置特徴を説明するための図である。 局所特徴を説明するための図である。 閾値の決定方法を説明するための図である。 確率分布と比較テーブルの関係を説明するための図である。

符号の説明

１０ 学習装置
１２ データ蓄積部
１４ 重み初期化部
１６ 局所特徴計算部
１８ 配置特徴計算部
２０ 弱識別器選択部
２２ 記憶部
２４ 重み更新部
２６ 量子化部
２８ 組合せ生成部
３０ 確率分布計算部
３２ 組合せ選択部
５０ パターン認識装置
５２ 局所特徴計算部
５４ 入力部
５６ 特徴量子化部
５８ 識別部
６０ 統合部
６２ 最終識別部
６４ 出力部
６６ 弱識別器

Claims (15)

1. 対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習装置において、
   学習のための複数のサンプル画像を格納するサンプル画像蓄積部と、
   前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算部と、
   前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成部と、
   を有し、
   前記弱識別器生成部は、
   （Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記 注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
   （２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算部と、
   （Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択部と、
   （Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算部と、
   を有する学習装置。
2. 前記格納された各サンプル画像の各領域の識別クラスを格納する識別クラス蓄積部と、
   前記各サンプル画像の各領域と前記各領域の識別クラスとから構成された学習サンプルに対し、前記弱識別器で識別する場合に前記学習サンプルの重要度を表す重みを前記一つの弱識別器毎に設定する重み設定部と、
   を有し、
   前記識別パラメータ計算部は、前記組合せ情報と前記重みに基づいて、前記弱識別器の識別パラメータを計算する、
   請求項１記載の学習装置。
3. 前記組合せ情報生成部は、前記複数の組合せ情報の中で、前記サンプル画像に対する識別誤り率が最も小さい前記一つの組合せ情報を選択する、
   請求項１記載の学習装置。
4. 前記局所情報計算部は、前記領域毎に複数種類の前記局所情報を計算する、
   請求項１記載の学習装置。
5. 前記配置情報計算部は、前記注目領域に対してそれぞれ異なる位置にある複数の周囲領域を用いて、複数種類の前記配置情報を計算する、
   請求項１記載の学習装置。
6. 前記配置情報計算部は、前記サンプル画像の領域毎に真値として予め与えられた識別クラスを用いて前記配置情報を計算する、
   請求項１記載の学習装置。
7. 前記配置情報計算部は、既に生成された弱識別器から出力された出力値を用いて前記配置情報を計算する、
   請求項１記載の学習装置。
8. 対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識装置において、
   前記対象画像を入力する入力部と、
   前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算部と、
   前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算部と、
   前記Ｔ個の配置情報計算部のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算部から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
   前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別部と、
   を有するパターン認識装置。
9. 前記弱識別器の識別パラメータは、
   （１）前記対象画像を識別するためのサンプル画像の領域毎の前記局所情報と、（２）前記サンプル画像の領域毎の配置情報とを組み合わせた組合せ情報に基づいて生成されている、
   請求項８記載のパターン認識装置。
10. 前記Ｔ個の弱識別器の中の第ｔ（但し、１＜ｔ＝＜Ｔである）弱識別器で用いる第ｔ配置情報を計算する際に、前記第ｔ弱識別器以外の弱識別器の出力値を統合して前記第ｔ配置情報とする、
    請求項８記載のパターン認識装置。
11. 前記Ｔ個の弱識別器の中の第ｔ（但し、１＜ｔ＝＜Ｔである）弱識別器で用いる第ｔ配置情報を計算する際に、前記第１〜第（ｔ−１）弱識別器の統合結果から前記第ｔ配置情報を計算し、
    前記最終識別部は、前記Ｔ個の弱識別器の出力値を統合して最終的な識別クラスとする、
    請求項８記載のパターン認識装置。
12. 対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習方法において、
    学習のための複数のサンプル画像を格納するサンプル画像蓄積ステップと、
    前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算ステップと、
    前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成ステップと、
    を有し、
    前記弱識別器生成ステップは、
    （Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記 注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
    （２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算ステップと、
    （Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択ステップと、
    （Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算ステップと、
    を有する学習方法。
13. 対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識方法において、
    前記対象画像を入力する入力ステップと、
    前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算ステップと、
    前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算ステップと、
    前記Ｔ個の配置情報計算ステップのそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算ステップから入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
    前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別ステップと、
    を有するパターン認識方法。
14. 対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習プログラムにおいて、
    学習のための複数のサンプル画像を格納するサンプル画像蓄積機能と、
    前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算機能と、
    前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成機能と、
    をコンピュータによって実現し、
    前記弱識別器生成機能は、
    （Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記 注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
    （２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算機能と、
    （Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択機能と、
    （Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算機能と、
    を実現する学習プログラム。
15. 対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識プログラムにおいて、
    前記対象画像を入力する入力機能と、
    前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算機能と、
    前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算機能と、
    前記Ｔ個の配置情報計算機能のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算機能から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
    前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別機能と、
    をコンピュータによって実現する認識プログラム。

Images