JP5076956B2 - 目標物検出システム - Google Patents

Description

本発明は、画像中から目的とするパターンを検出するための技術に関し、特にパンクロマチック衛星画像に対して好適なパターン検出技術に関する。

QuickBird（米国DigitalGlobe）、ALOS“だいち”（日本ＪＡＸＡ）、TERRA/ASTER（日本ERSDAC）など陸域観測・地球観測衛星は高度約450ｋｍ上空で地球を極軌道で周回しており、高分解能な光学センサや合成開口レーダ(SAR)を搭載し、地上を連続的にスキャニングし、定時的に地球局に画像データを伝送している。主として３種類の画像が活用され、光学センサのマルチスペクトラル・モード（カラー写真）は、可視光のＲＧＢバンドに近赤外を加えた４バンド構成で夜間も撮影でき、地上の資源探索や大規模災害などの状況を収集するのに有効である。ＳＡＲ画像は電波によるレーダ画像で、雲がかかっていても透過するため、天候が悪いときでも画像を収集でき、ドップラー効果を用いて航行中の船舶を計測することもできる（特許文献１参照）。中でも、光学センサのパンクロマチック・モード（モノクロ写真）は地上の乗用車を識別できる１ｍ弱(世界最高分解能QuickBird 0.6m)の分解能をもち、交通状況の監視などに有益である。交通状況の監視については、地上に設置された監視カメラやヘリコプター・航空機による航空写真の方が鮮明な画像が得られるが、広域を同時観測することが難しいのと、建築物などの陰に隠れた死角が必ず発生するという問題から、近年衛星画像が注目されている。

また、目標物を航空機と船舶に特化したテンプレートマッチングによる検出方法（特許文献２参照）、テンプレートをあらかじめ準備し、画像データの先頭画素から順次スキャンしながらテンプレートと同サイズの画素ブロックを抽出し、テンプレートと照合する手法（特許文献３参照）なども提案されている。
特許第３８６３０１４号 特許第３９７８９７９号 特開２００１−６７４７０号公報

しかしながら、上記特許文献２の手法では、マッチング判定基準は検索漏れが無いように予め甘く設定しているため、検索結果に検索ノイズが多く含まれるという問題がある。また、上記特許文献３の手法でも、最適な判定基準を設定するのが難しいという問題がある。

そこで、本発明は、目標物を含んだテンプレート画像を用いて、衛星画像等の探索対象とする画像から目標物を抽出する際に、テンプレート画像と目標物が類似しているかどうかを判定する判定基準値の設定を適切に行うことが可能な目標物検出システムを提供することを課題とする。

上記課題を解決するため、本発明第１の態様では、目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、前記テンプレート画像を記憶したテンプレート記憶手段と、目標物のサンプルを含むサンプル画像上で指定された画素位置から所定範囲内の各画素位置において、前記各テンプレート画像と同一サイズの画素ブロックを前記サンプル画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値に所定の値を演算した値を判定基準値として設定する判定基準値設定手段と、前記探索対象画像に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、前記類似性判断手段により類似性ありと判断された場合に、その際の前記探索対象画像上における画素ブロックの位置を特定する画素位置を出力する探索結果出力手段と、を有し、前記判定基準値設定手段、類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する階調変動ヒストグラムを算出し、双方の階調変動ヒストグラム同士のユークリッド距離を、前記類似性評価値として算出することを特徴とする目標物検出システムを提供する。

本発明第１の態様によれば、目標物を含むテンプレート画像と探索対象画像中の画素ブロックとの比較により探索対象画像から目標物を検出するにあたり、比較の際に用いる類似性評価値の判定基準値を、事前にサンプル画像との比較により得た類似性評価値に基づいて設定するようにしたので、テンプレート画像と目標物が類似しているかどうかを判定する判定基準値の設定を適切に行うことが可能となる。

また、本発明第２の態様では、本発明第１の態様における前記テンプレート画像に多角形形状の有効画像領域を設定しており、前記判定基準値設定手段および前記類似性判断手段は、前記テンプレート画像内の有効画像領域に含まれる画素群と、前記画素ブロック内の前記有効画像領域内部に対応する画素群とに基づいて、前記類似性評価値を算出するようにしていることを特徴とする。本発明第２の態様によれば、前記テンプレート画像に含まれる有効画像領域の周辺画素が、本発明第１の態様における類似性評価値の算出の対象外となるため、高精度な算出が行える。

本発明第３の態様では、本発明第１、第２の態様における判定基準値設定手段、類似性判断手段において、類似性評価値は複数算出されるとともに、各類似性評価値に対応する判定基準値が設定され、前記類似性判断手段では、１つの類似性評価値で類似性なしと判断された場合に、他の類似性評価値に関する判断を行うことなく類似性なしと判断することを特徴とする。本発明第３の態様によれば、類似性評価値を複数算出し、１つの類似性評価値で類似性なしと判断された場合に、全体としても類似性なしと判断するようにし、他の類似性評価値に関する判断を行わないようにしたため、全体として処理が高速化される。

本発明によれば、目標物を含むテンプレート画像と探索対象画像中の画素ブロックとの比較により探索対象画像から目標物を検出するにあたり、テンプレート画像と目標物が類似しているかどうかを判定する判定基準値の設定を適切に行うことが可能となる。

以下、本発明の実施形態について図面を参照して詳細に説明する。
（１．システム構成）
まず、本発明に係る目標物検出システムの構成について説明する。図１は本発明に係る目標物検出システムの構成図である。図１において、１０は探索対象画像記憶部、２０はテンプレート準備部、３０はテンプレート記憶部、４０は目標物探索部、５０は探索結果記憶部である。

探索対象画像記憶部１０は、探索対象となる画像である探索対象画像、および目標物のサンプルを記憶したサンプル画像を記憶したものである。探索対象画像上に探索対象とする目標物が多数存在していれば、その内の１つをサンプルとして用いることも可能である。この場合、探索対象画像はサンプル画像としての役割も果たすことになる。また、本実施形態では、人工衛星により撮影された画像である衛星画像を探索対象画像として記憶している。テンプレート準備部２０は、サンプル画像に対して対話的に設定を行い、テンプレート画像を準備するものであり、テンプレート作成手段２１、判定基準値設定手段２２、テンプレート更新手段２３を有している。テンプレート記憶部３０は、テンプレート準備部２０により準備されたテンプレート画像を記憶するものである。目標物探索部４０は、探索対象画像中の所定の領域とテンプレート画像を比較することにより、目標物を探索するものであり、角度非依存類似性判断手段４１、角度依存類似性判断手段４２、探索結果出力手段４３を有している。探索結果記憶部５０は、目標物探索部４０により探索された結果を記憶するものである。図１に示した目標物検出システムは、現実には汎用のコンピュータに専用のプログラムを組み込むことにより実現される。また、各記憶部は、コンピュータに内蔵または接続されたハードディスク等の記憶装置で実現される。

（２．テンプレート画像の準備）
次に、図１に示した目標物検出システムの処理動作について説明する。まず、探索対象画像記憶部１０には、人工衛星により撮影された衛星画像が探索対象画像として記憶される。本実施形態では、衛星画像として、Ａｄｏｂｅ社ＴＩＦＦ規格準拠のＧｅｏ−ＴＩＦＦ形式であり、画像データに地理情報（緯度経度情報など）が付加されたものを採用する。

目標物検出システムが起動されると、まず、テンプレート準備部２０は探索対象画像記憶部１０に記憶された探索対象画像をソース画像の形式からワーク画像の形式に変換する。これは、探索の効率を上げるために行われるものである。具体的には、公知のヒストグラム平坦化技術を用いてワーク画像の形式に変換する。本実施形態では、ワーク画像をＲＸＹ形式で作成する。テンプレート準備部２０は、この探索対象画像をサンプル画像として用いる。

続いて、テンプレート準備部２０は、ワーク画像形式に変換したサンプル画像としての探索対象画像を画面に表示し、テンプレート画像作成のための画像領域の指定を利用者に促す。これに対して、利用者は、画面に表示された探索対象画像において、多角形形状（本実施形態では４頂点で構成される自由な四角形形状）の画像領域の輪郭を指定する。これは、マウス操作により、四角形形状の４つの頂点を指定することにより行われる。例えば、船舶を目的物とする場合、利用者は、衛星画像に写っている船舶を見つけ、その船舶を含む有効画像領域を指定することになる。具体的には画面上に初期状態として正方形形状の四角形を表示し、利用者はいずれかの頂点を画面上で選択し、前記頂点を所望の位置までドラッギングさせることにより頂点を指示し、４つの頂点に対して順次同様な操作を行なう。このとき、図２に示されるように、指定された四角形の外側に四角形を３６０度回転させても、はみ出さないように外接する正方形形状（図２の外側正方形形状）を同時に自動生成させる。従って、初期状態では画面上に２重の正方形が表示されており、利用者が内側の正方形形状を所望の四角形に変形させると、それに連動して外側正方形形状が正方形を維持しながら変化する。

利用者が、表示された探索対象画像内において、所定の四角形の有効画像領域の指定を完了すると、テンプレート作成手段２１は、探索対象画像内から指定された有効画像領域の外側に定義された正方形形状に基づいてトリミングする。この結果、正方形サイズのテンプレート画像が得られ、同時にテンプレート画像内で利用者が定義した四角形領域の外側部分をマスクするような情報が付加される。具体的には、図２に示されるように、テンプレート画像の各画素値は０から２５５の８ビットの値をもつが、利用者が定義した四角形領域の内側は１から２５５の画素値をもたせ、外側は全て０の画素値をもたせるようにしている。

さらに、多角形形状およびその内部だけを所定の角度で回転させたパターンも登録する。本実施形態では、角度を４５度単位で回転させ、８つの異なる傾き角度に従ったテンプレート画像を作成する。角度が異なる８つのテンプレート画像を図３に示す。このとき、外側の正方形形状は利用者が指定した多角形を３６０度回転させても、はみ出さないように定義しているため、前記８種類の角度の多角形は同一サイズのテンプレート画像で表現することができる。本実施形態では、角度を異ならせたパターンは同一のテンプレート画像として同一のテンプレートＩＤで登録する。したがって、図３に示したテンプレート画像は、全て同一のテンプレートＩＤを持ち、各パターンは、その角度で特定する。本実施形態では、テンプレートＩＤを８個登録可能となっている。この場合、８個のテンプレート画像について、それぞれ８つの角度で登録されるので、全部で６４パターンが登録されることになる。

テンプレート画像が登録されたら、テンプレート準備部２０は、探索対象画像上の適合とすべき対象物を指定するように促す。利用者が、適合とすべき対象物を指定すると、指定された位置付近の画素値を利用して、判定基準値の算出およびテンプレート画像の更新を行う。この判定基準値の算出およびテンプレート画像の更新について図４のフローチャートを用いて説明する。

まず、利用者は、画面に表示された探索対象画像の内容を見て、探索対象に含めたいと考える対象物を見つけ、その対象物上の点を指定する（Ｓ１０１）。図５（ａ）は、対象物を指定する際の探索対象画像の様子を示す図である。探索対象画像中で、利用者が探索対象に含めたい対象物上の点を指定すると、図５（ａ）に示すように、テンプレート画像の正方形状の外枠および有効画像領域を示す多角形状が表示される。例えば、衛星画像の中から船舶を検出したい場合、衛星画像中の１つの船舶の上の点を指定する。

続いて、指定された位置を基点にしてテンプレート画像とのマッチング処理を行う（Ｓ１０２）。この処理を行う理由は、図５（ａ）のように、利用者が画面上で指定した点は視覚的な判断によるもので曖昧性に富むため、この点を基にそのまま判定基準値を算出すると、不適切な探索が行なわれる可能性が高いためである。そこで、本処理では利用者が指示した点を最適な位置に補正するものである。具体的には、図５（ｂ）に示すように、指定された探索対象画像上の基点（Ｘｃ、Ｙｃ）とテンプレート画像の中心位置を合わせ、そこからテンプレート画像をｘ方向，ｙ方向に１画素単位で、設定された範囲内において移動させながら、マッチング処理を行う。このマッチング処理の詳細については後述する。同一位置において、角度を変えた８通りのテンプレート画像に対してマッチング処理を行い、最も類似度の高い角度のテンプレート画像を選出するとともにその探索対象画像の画素位置を最適位置として特定する。

次に、探索対象画像上の対象物が適合判定されるように判定基準値の設定を行う（Ｓ１０３）。判定基準値の設定が終わったら、最適位置における探索対象画像の画素ブロックとテンプレート画像を合成し、その合成画像でテンプレート画像を更新する（Ｓ１０４）。

次に、上記Ｓ１０２におけるマッチング処理の詳細について、図６のフローチャートを用いて説明する。マッチング処理を行う際は、まず、類似性評価値となる各変数の初期化を行う。具体的には、輝度ヒストグラムの差分の最小値、階調変動ヒストグラムの差分の最小値、重心間距離の最小値、慣性モーメント差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の６つの変数を初期化する。本実施形態では、これら６つの変数は全て０〜１０００の値をとり、正規化相関係数については、初期値を最小値０とし、他の５つの変数については、初期値を最大値１０００とする。

各変数の初期化が終わったら、輝度ヒストグラムの照合を行う（Ｓ２０１）。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)（0〜255）、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy)(1〜255)とする。S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応するVt(x,y) >0となる画素(x,y)において、V(x,y)/16の値に基づく探索対象画像の１６階調の輝度ヒストグラムH(v) (0≦v≦15)、およびVt(x,y)/16の値に基づくテンプレート画像の１６階調の輝度ヒストグラムHt(v) (0≦v≦15)を算出する。さらに、以下の〔数式１〕に従った処理を実行して輝度ヒストグラム差分を算出する。

〔数式１〕
（輝度ヒストグラム差分）＝１０００・Σ _v=0,15｜H(v)−Ht(v)｜／ Σ _v=0,15（H(v)+Ht(v)）

続いて、階調変動ヒストグラムの照合を行う（Ｓ２０２）。具体的には、Ｓ２０１と同様、テンプレート画像のサイズをS×Sとし、S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応するVt(x,y) >0となる画素(x,y)において、V(x,y)%16（16で割った余り）の値に基づく探索対象画像の１６階調の階調変動ヒストグラムHD(v) (0≦v≦15)、およびVt(x,y)%16の値に基づくテンプレート画像の１６階調の階調変動ヒストグラムHDt(v) (0≦v≦15)を算出する。HD(v)は各画素の下位４ビット、HDt(v)は各画素の上位４ビットに基づく階調変動ヒストグラムである。さらに、以下の〔数式２〕に従った処理を実行して階調変動ヒストグラム差分、すなわち階調変動ヒストグラム同士のユークリッド距離を算出する。

〔数式２〕
（階調変動ヒストグラム差分）＝１０００・Σ _v=0,15｜HD(v)−HDt(v)｜／ Σ _v=0,15（HD(v)+HDt(v)）

次に、重心間距離の算出を行う（Ｓ２０３）。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)（0〜255）、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート画像の位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (1〜255)とする。S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応する Vt(x,y) >0となる画素(x,y)を用いて、探索対象画像の重心（Ｘｇ，Ｙｇ）とテンプレート画像の重心（Ｘｇｔ，Ｙｇｔ）を以下の〔数式３〕に従った処理を実行して算出する。

〔数式３〕
Ｘｇ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y)≠0} V(x+Xc+dx,y+Yc+dy)・x
／ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)
Ｙｇ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)・y
／ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)
Ｘｇｔ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)・x／ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)
Ｙｇｔ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)・y／ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)

さらに、以下の〔数式４〕に従った処理を実行して重心間距離を算出する。

〔数式４〕
（重心間距離）＝１０００・｛（Ｘｇ−Ｘｇｔ）（Ｘｇ−Ｘｇｔ）＋（Ｙｇ−Ｙｇｔ）（Ｙｇ−ｙｇｔ）｝^1/2／ Ｓ

次に、慣性モーメントの照合を行う（Ｓ２０４）。具体的には、まず、Ｓ２０３で求めた探索対象画像の重心(Xg,Yg)およびテンプレート画像の重心(Xgt,Ygt)を用いて、S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応する Vt(x,y) >0となる画素(x,y)を用いて、探索対象画像の慣性モーメントM、 およびテンプレート画像の慣性モーメントMtを以下の〔数式５〕に従った処理を実行して算出する。

〔数式５〕
Ｍ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)・[(x-Xg)(x-Xg)+(y-Yg)(y-Yg)]
／Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)
Ｍｔ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)・[(x-Xgt)(x-Xgt)+(y-Ygt)(y-Ygt)]
／Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)

さらに、以下の〔数式６〕に従った処理を実行して慣性モーメント差分を算出する。

〔数式６〕
（慣性モーメント差分）＝１０００・｜Ｍ−Ｍｔ｜／ （Ｍ＋Ｍｔ）

上記Ｓ２０１〜Ｓ２０４は、角度に依存しない処理である。したがって、各テンプレート画像について１回だけ行えばよい。Ｓ２０１〜Ｓ２０４の処理は、いずれの角度のテンプレート画像を用いても良いため、本実施形態では、代表して０度のテンプレート画像を用いている。ここからのＳ２０５、Ｓ２０６は、角度に依存する処理であるため、同一ＩＤをもつテンプレート画像についても、角度別に処理を行う。まず、グレー階調画素差分の算出を行う（Ｓ２０５）。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y) （0〜255）、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (1〜255)とする。ここで、シャドウ側をハイライト側に上げ、中間調部をシャドウ側に落とすような以下の階調変換を施す。Vt(x,y)≧128のとき、Vt'(x,y)=Vt(x,y)-128、 Vt(x,y)<128のとき、Vt'(x,y)=127-Vt(x,y) V(x,y) ≧128のとき、V'(x,y)=V(x,y)-128、 V(x,y)<128のとき、V'(x,y)=127-V(x,y) S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応する Vt(x,y) >0となるＣ個の画素(x,y)を用いて、以下の〔数式７〕に従った処理を実行して探索対象画像とテンプレート画像の画素差分であるグレー階調画素差分を算出する。

〔数式７〕
（グレー階調画素差分）＝ １０００・Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} ｜V'(x+Xc+dx,y+Yc+dy)−Vt'(x,y)｜
／ （ V'(x+Xc+dx,y+Yc+dy)＋Vt'(x,y) ）

次に、正規化相関係数の算出を行う（Ｓ２０６）。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y) （0〜255）、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (1〜255)とする。S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応する Vt(x,y) >0となるＣ個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを以下の〔数式８〕に従った処理を実行して算出する。

〔数式８〕
Ｖａ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} V(x+Xc+dx,y+Yc+dy)／ Ｃ
Ｖａｔ＝ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} Vt(x,y)／ Ｃ
C= Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} １

そして、S×S 画素の範囲内で、図２で示した有効画像領域内の画素に対応する Vt(x,y) >0となる画素(x,y)を用いて、周知の計算式に基づいて正規化相関係数を以下の〔数式９〕に従った処理を実行して算出する。ただし、正規化相関係数が負値（負の相関）となる場合は０（相関無し）として扱う。

〔数式９〕
（正規化相関係数）＝ １０００・Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} (V(x+Xc+dx,y+Yc+dy)-Va)・(Vt(x,y)-Vat)
／[Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} (V(x+Xc+dx,y+Yc+dy)-Va)²・ Σ _y=0,S-1 Σ _{x=0,S-1 | Vt(x,y) ≠0} (Vt(x,y)-Vat)²]^1/2

続いて、各変数の更新を行う（Ｓ２０７）。具体的には、Ｓ２０１において算出した輝度ヒストグラム差分が、現在設定されている輝度ヒストグラム差分の最小値より小さく、かつＳ２０６において算出した正規化相関係数が現在設定されている正規化相関係数の最大値より大きい場合、輝度ヒストグラムの差分の最小値、階調変動ヒストグラムの差分の最小値、重心間距離の最小値、慣性モーメント差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の６つの変数を今回算出した値に置き換える。そして、位置、テンプレートＩＤ、角度の値を、このときの位置、テンプレートＩＤ、角度の値で更新する。

各変数の更新が終わったら、１つのテンプレート画像について、全ての角度のパターンの処理が終わったかどうかを判断する（Ｓ２０８）。全ての角度のパターンについて処理が終わっていない場合は、Ｓ２０５に戻って、角度に依存するグレー階調画素差分の算出、正規化相関係数の算出を行う。全ての角度のパターンについて処理が終わった場合は、Ｓ２０９に進む。したがって、本実施形態では、１つのテンプレート画像につき、８通りの角度について、Ｓ２０５〜Ｓ２０７の処理が繰り返される。

１つのテンプレート画像の全角度について処理が終わったら、全てのテンプレート画像について処理が終わったかどうかを判断する（Ｓ２０９）。全てのテンプレート画像について処理が終わっていない場合は、Ｓ２０１〜Ｓ２０８の処理を繰り返す。全てのテンプレート画像について処理が終わった場合は、Ｓ２１０に進む。したがって、本実施形態では、１つの画素位置につき、８個のテンプレート画像について、Ｓ２０１〜Ｓ２０８の処理が繰り返される。

全てのテンプレート画像について処理が終わったら、全ての画素位置について処理が終わったかどうかを判断する（Ｓ２１０）。全ての画素位置とは、指定された基点（Ｘｃ、Ｙｃ）からｘ軸、ｙ軸方向にそれぞれ所定画素の範囲に含まれる画素の位置を意味する。所定画素の範囲としては、テンプレート画像のｘ軸、ｙ軸方向のそれぞれ５％程度が設定されている。例えば、テンプレート画像が１００×１００画素である場合、５×５の計２５画素の位置について、図５に示した処理が繰り返される。全ての画素位置について処理が終わっていない場合は、Ｓ２０１〜Ｓ２０９の処理を繰り返す。全ての画素位置について処理が終わった場合は、各変数を出力して、マッチング処理を終了する。各変数は、各テンプレート画像単位で出力される。

次に、Ｓ１０３の判定基準値の設定の詳細について説明する。判定基準値は、マッチング処理において出力された各変数に所定の値を乗じることにより設定される。本実施形態では、正規化相関係数については、出力された正規化相関係数の最大値に０．９を乗じた値を判定基準値とし、他の５つの変数については、出力された値に１．１を乗じた値を判定基準値としている。具体的には、以下の〔数式１０〕に従った処理を実行して算出する。

〔数式１０〕
（輝度ヒストグラム差分の判定基準値）＝（輝度ヒストグラム差分の最小値）×１．１
（階調変動ヒストグラム差分の判定基準値）＝（階調変動ヒストグラム差分の最小値）×１．１
（重心間距離の判定基準値）＝（重心間距離の最小値）×１．１
（慣性モーメント差分の判定基準値）＝（慣性モーメント差分の最小値）×１．１
（グレー階調画素差分の判定基準値）＝（グレー階調画素差分の最小値）×１．１
（正規化相関係数の判定基準値）＝（正規化相関係数の最大値）×０．９

続いて、Ｓ１０４のテンプレートの更新の詳細について説明する。Ｓ１０４では、各テンプレート画像を更新する。具体的には、各テンプレート画像の最適位置における探索対象画像上の画素ブロックを用いて、各テンプレート画像の各角度の画像を更新する。まず、各テンプレート画像のうち、最適角度のものと探索対象画像上の画素ブロックの合成を行う。テンプレート画像においてマスク領域は合成を行わないので、テンプレート画像中の多角形領域内部についてのみ合成を行う。

合成の具体的な手法としては、多角形領域内部の各画素単位で整数の擬似乱数を順次発生させ、所定の数が出たら、探索対象画像上の画素ブロックの対応する画素の値に置き換える。例えば、奇数が出たら、探索対象画像上の画素ブロックの対応する画素に置き換えるように設定しておけば、約半分の確率で多角形領域内部の画素が探索対象画像の画素に置き換えられる。図７は、探索対象画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。図７の例では、説明の便宜のため、画像サイズを５×５画素に簡略化している。図７（ｂ）はテンプレート画像であり、Ｔは有効画像領域（多角形領域）内部の画素を示し、空白はマスク領域の画素を示している。図７（ａ）はテンプレート画像に対して最適位置と判断された探索対象画像上の画素ブロックであり、Ｗは探索対象画像上の画素を示している。この２つの画像に上述のような合成処理を施した結果、図７（ｃ）に示すように、テンプレート画像の有効画像領域の画素Ｔのうち約半数が探索対象画像の画素Ｗに置き換えられた合成画像が得られる。この合成画像が、更新されたテンプレート画像として登録される。なお、乱数の発生方式は処理を行う度に異なる系列になるように、シーズを毎回変更する。

最適角度のパターンについて、更新処理が終わったら、他の角度のパターンについても更新を行う。他の角度のパターンについては、最適角度との角度の差を求め、その角度だけ探索対象画像上の画素ブロックを回転し、多角形領域内部の各画素単位を回転した探索対象画像上の画素ブロックの対応する画素に置き換える。このようにして、全ての角度についてテンプレート画像が更新される。あらかじめ用意した全てのテンプレート画像に対して同様の処理を行うことにより、全てのテンプレート画像を更新する。図８はテンプレート画像の更新の様子を示す図である。図８に示すように、探索対象画像上における最適位置の画素ブロックを用いて、全ての角度の画像を更新する。

（３．探索処理）
以上のようにして、テンプレート画像の準備が完了したら、準備されたテンプレート画像を用いて、目標物探索部４０が目標物の探索を行う。この目標物の探索処理について図９のフローチャートを用いて説明する。利用者が目標物探索処理を指示すると、目標物探索部４０の角度非依存類似性判断手段４１、角度依存類似性判断手段４２が連携して、順次マッチング処理を行う（Ｓ３０１）。具体的には、探索対象画像中の始点画素位置から順次パターンマッチング処理を実行し、類似判定する位置を見つける。

図１０は、順次マッチング処理の概略を示す図である。順次マッチング処理は、最初に、探索対象画像中の始点画素位置（０，０）を起点として（Ｓ−１，Ｓ−１）までの正方形状の画素ブロックと、テンプレート画像との比較を行い、（１，０）を起点とする正方形領域、（２，０）を起点とする正方形領域…というように、Ｘ方向スキャン範囲に１画素づつ移動させて比較を行っていき、ｘ軸方向について終了したら、Ｙ方向スキャン範囲に１画素分移動し、（０，１）を起点とする正方形領域、（１，１）を起点とする正方形領域…というように順次探索対象画像全体についてテンプレート画像との比較を行っていく。

各画素位置におけるマッチング処理は、まず、同一ＩＤのテンプレート画像のうちの１つとのマッチングを行う角度非依存テンプレートマッチングと、同一ＩＤのテンプレート画像のうちの全８個とのマッチングを行う角度依存テンプレートマッチングとに分けて行われる。角度非依存テンプレートマッチングで不適合と判断された場合は、角度依存テンプレートマッチングを行うことなく、次の画素位置に移動する。

画素位置を特定した場合の順次マッチング処理の詳細を図１１のフローチャートに示す。まず、Ｓ１０２のマッチング処理と同様、類似性評価値となる各変数の初期化を行う。具体的には、輝度ヒストグラムの差分の最小値、階調変動ヒストグラムの差分の最小値、重心間距離の最小値、慣性モーメント差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の６つの変数を初期化する。探索処理で用いる６つの類似性評価値も全て０〜１０００の値をとり、正規化相関係数については、初期値を最小値０とし、他の５つの変数については、初期値を最大値１０００とする。続いて、輝度ヒストグラムの照合を行う（Ｓ４０１）。具体的には、上記Ｓ２０１と同様に、〔数式１〕に従った処理を実行して輝度ヒストグラム差分を算出する。そして、この輝度ヒストグラム差分と、Ｓ１０３で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合とは、類似性がないことを意味する。不適合となった場合は、現在利用しているテンプレート画像では適合しないと判断し、全てのテンプレート画像との処理を終えたかどうかを判断する（Ｓ４０９）。全てのテンプレート画像との処理が終了していない場合は、別のテンプレート画像に変更して（Ｓ４１０）、Ｓ４０１に戻る。

Ｓ４０１において、輝度ヒストグラム差分が判定基準値より小さい場合は、階調変動ヒストグラムの照合を行う（Ｓ４０２）。具体的には、上記Ｓ２０２と同様に、〔数式２〕に従った処理を実行して階調変動ヒストグラム差分を算出する。そして、この階調変動ヒストグラム差分と、Ｓ１０３で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、Ｓ４０１で不適合となった場合と同様である。

Ｓ４０２において、階調変動ヒストグラム差分が判定基準値より小さい場合は、重心間距離の算出を行う（Ｓ４０３）。具体的には、上記Ｓ２０３と同様に、〔数式３〕〔数式４〕に従った処理を実行して重心間距離を算出する。そして、この重心間距離と、Ｓ１０３で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、Ｓ４０１で不適合となった場合と同様である。

Ｓ４０３において、重心間距離が判定基準値より小さい場合は、慣性モーメントの照合を行う（Ｓ４０４）。具体的には、上記Ｓ２０４と同様に、〔数式５〕〔数式６〕に従った処理を実行して慣性モーメント差分を算出する。そして、この慣性モーメント差分と、Ｓ１０３で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、Ｓ４０１で不適合となった場合と同様である。Ｓ４０１〜Ｓ４０４の処理は、角度に依存しない処理であるため、それぞれテンプレート画像と照合して１回でも不適合であれば、別のテンプレート画像との処理に移行することになる。

Ｓ４０４において、慣性モーメント差分が判定基準値より小さい場合は、グレー階調画素差分の算出を行う（Ｓ４０５）。具体的には、上記Ｓ２０５と同様に、〔数式７〕に従った処理を実行してグレー階調画素差分を算出する。グレー階調画素差分の算出処理においては、Ｓ４０１〜Ｓ４０４の処理とは異なり、同一のテンプレート画像について全ての角度に対して処理を行う。グレー階調画素差分は、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対してグレー階調画素差分の算出が終わったら（Ｓ４０６）、最小となったグレー階調画素差分と、Ｓ１０３で設定した判定基準値の比較を行い、グレー階調画素差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、Ｓ４０１で不適合となった場合と同様である。

グレー階調画素差分が判定基準値より小さい場合は、正規化相関係数の算出を行う（Ｓ４０７）。具体的には、上記Ｓ２０６と同様に、〔数式８〕〔数式９〕に従った処理を実行して正規化相関係数を算出する。正規化相関係数の算出処理においても、Ｓ４０５におけるグレー階調画素差分の算出処理と同様、同一のテンプレート画像について全ての角度に対して処理を行う。正規化相関係数は、最大のものに更新され、そのときの角度が記録される。そして、全ての角度に対して正規化相関係数の算出が終わった場合の処理は、Ｓ４０１で不適合となった場合と同様である。

全テンプレート画像について処理が終わったら、正規化相関係数の照合を行う（Ｓ４１１）。具体的には、最大となった正規化相関係数と、Ｓ１０３で設定した判定基準値の比較を行い、正規化相関係数が判定基準値より大きい場合は、適合となる。正規化相関係数が適合となった場合は、全項目すなわち６つの類似性評価値全てが適合であるテンプレートがあるかどうかを判断する（Ｓ４１２）。全項目が適合であるテンプレートがある場合は、全項目が適合であるテンプレートと、その角度が一致するかどうかを判断する（Ｓ４１３）。すなわち、Ｓ４０５およびＳ４０６におけるグレー階調画素差分の算出処理において最小値を与えるテンプレートおよび角度と、Ｓ４０７およびＳ４０８における正規化相関係数の算出処理において最大値を与えるテンプレートおよび角度とが各々一致し、前記一致するテンプレートがＳ４０１、Ｓ４０２、Ｓ４０３、Ｓ４０４、Ｓ４０６およびＳ４１１において全て適合すると判断された場合は、適合終了となり、各変数、すなわちテンプレートＩＤ、画素位置（Ｘｃ、Ｙｃ）、角度、６つの類似性評価値を出力する。いずれかにおいて、不適合となる場合は、不適合終了となり、次の画素位置に対して、順次マッチング処理を行う。

図１１に示した順次マッチング処理においては、Ｓ４０１の輝度ヒストグラムの照合、Ｓ４０２の階調変動ヒストグラムの照合、Ｓ４０３の重心間距離の算出、Ｓ４０４の慣性モーメントの照合、Ｓ４０５、Ｓ４０６のグレー階調画素差分の算出、Ｓ４０７、Ｓ４０８の正規化相関係数の算出の６つの適合性判定処理が行われるが、これらの適合性判定処理は、処理負荷が小さいものから順に行われるように設定されている。すなわち、本実施形態では、輝度ヒストグラムの照合が最も処理負荷が小さく、正規化相関係数の算出が最も処理負荷が大きい。これは、１つの処理で不適合と判定された場合に、全体としても不適合と判断するという条件とすると、処理負荷が小さいものから先に行った方が効率が良いからである。特に、グレー階調画素差分の算出、正規化相関係数の算出については、各角度について実行するため、１つの角度についてのみ実行する輝度ヒストグラムの照合、階調変動ヒストグラムの照合、重心間距離の算出、慣性モーメントの照合に比べて処理負荷は格段に大きくなる。

Ｓ３０１の順次マッチング処理が適合終了となったら、目標物探索部４０は、次に、局所マッチング処理を行う（Ｓ３０２）。Ｓ３０１の順次マッチング処理は、探索対象画像全体における目標物の大まかな位置を探索するのに対し、Ｓ３０２の局所マッチング処理は、目標物の詳細な位置を探索する。具体的には、順次マッチング処理で最適と判断された位置（Ｘｃ、Ｙｃ）を起点に、画素スキャン進行方向（右方向、下方向）に所定の微小幅（ΔＸ、ΔＹ）だけ動かしながらテンプレートマッチングを実行し、６つの類似性評価値を最小値、最大値に更新し、そのときのテンプレートＩＤ、画素位置（Ｘｍ、Ｙｍ）、角度Ａｍを出力する。マッチング処理の詳細は、図１１に示した順次マッチング処理とは異なり図４のＳ１０２のマッチング処理、具体的には図６に示される処理と同じである。順次マッチング処理はある位置（Ｘｃ，Ｙｃ）で適合するか否かだけを判定すれば良かったが、局所マッチング処理は適合判定される微小範囲内で、更に最良の条件で適合する位置を探索する必要があるためである。

局所マッチング処理が終了したら、目標物探索部４０の探索結果出力手段４３は、次に、探索結果の出力を行う（Ｓ３０３）。具体的には、テンプレートＩＤ、位置（Ｘｍ、Ｙｍ）、角度Ａｍ、および６つの類似性評価値をリスト出力する。

続いて、目標物探索部４０は、検出領域の消去を行う（Ｓ３０４）。具体的には、探索対象画像において、最適位置におけるテンプレート画像の図２で示した有効画像領域内部に相当する部分を消去する。すなわち、有効画像領域内部に位置する探索対象画像上の画素の値を全て０にする。図１２は、探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。探索の結果、探索対象画像上の目標物に対して、図１２（ａ）に示すような位置がテンプレート画像の有効画像領域の最適位置となった場合、図１２（ｂ）に示すように、探索対象画像上における有効画像領域に相当する部分が消去される。ただし、本探索処理終了後に探索位置を探索対象画像上でグラフィカルに表示する要求に応えるため、消去前のオリジナルの探索対象画像はバックアップ保存されている。

Ｓ３０１〜Ｓ３０４の処理は、探索対象画像上の全画素に対して行われる。その際、Ｓ３０４において、適合した領域の内部が消去されるため、その付近の画素に対して順次マッチング処理を行っても適合となることはなく、１つの目標物を重複して見つけてしまうことを防ぐことができる。

Ｓ３０３において出力された結果は、探索結果として出力される。この段階では、探索された箇所が全て消去されているため、グラフィカルに探索位置を表示する場合はバックアップ保存されたオリジナルの探索対象画像を再ロードする必要がある。Ｓ３０４の処理を行っても、重複する結果が存在する場合には、人手により１つを残して他は削除するような操作が行なわれる。

本発明に係る目標物検出システムの構成図である。 テンプレート画像領域と多角形形状の関係を示す図である。 角度が異なる８つのテンプレート画像を示す図である。 判定基準値の算出およびテンプレート画像の更新の処理概要を示すフローチャートである。 探索対象画像上における処理の様子を示す図である。 マッチング処理の詳細を示すフローチャートである。 探索対象画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。 テンプレート画像の更新の様子を示す図である。 探索処理の概要を示すフローチャートである。 順次マッチング処理の概略を示す図である。 順次マッチング処理の詳細を示すフローチャートである。 探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。

符号の説明

１０・・・探索対象画像記憶部
２０・・・テンプレート準備部
２１・・・テンプレート作成手段
２２・・・判定基準値設定手段
２３・・・テンプレート更新手段
３０・・・テンプレート記憶部
４０・・・目標物探索部
４１・・・角度非依存類似性判断手段
４２・・・角度依存類似性判断手段
４３・・・探索結果出力手段
５０・・・探索結果記憶部

Claims (12)

1. 目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、
   前記テンプレート画像を記憶したテンプレート記憶手段と、
   目標物のサンプルを含むサンプル画像上で指定された画素位置から所定範囲内の各画素位置において、前記各テンプレート画像と同一サイズの画素ブロックを前記サンプル画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値に所定の値を演算した値を判定基準値として設定する判定基準値設定手段と、
   前記探索対象画像に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、
   前記類似性判断手段により類似性ありと判断された場合に、その際の前記探索対象画像上における画素ブロックの位置を特定する画素位置を出力する探索結果出力手段と、を有し、
   前記判定基準値設定手段、類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する階調変動ヒストグラムを算出し、双方の階調変動ヒストグラム同士のユークリッド距離を、前記類似性評価値として算出することを特徴とする目標物検出システム。
2. 請求項１において、
   前記探索結果出力手段は、さらにテンプレート画像のＩＤを出力することを特徴とする画像データにおける目標物検出システム。
3. 請求項１または請求項２において、
   前記テンプレート画像には多角形形状の有効画像領域が設定されており、前記判定基準値設定手段および前記類似性判断手段は、前記テンプレート画像内の有効画像領域に含まれる画素群と、前記画素ブロック内の前記有効画像領域内部に対応する画素群とに基づいて、前記類似性評価値を算出するようにしていることを特徴とする目標物検出システム。
4. 請求項１から請求項３のいずれかにおいて、
   前記判定基準値設定手段、類似性判断手段において、類似性評価値は複数算出されるとともに、各類似性評価値に対応する判定基準値が設定され、前記類似性判断手段では、１つの類似性評価値で類似性なしと判断された場合に、他の類似性評価値に関する判断を行うことなく類似性なしと判断するものであることを特徴とする目標物検出システム。
5. 請求項４において、
   前記判定基準値設定手段、類似性判断手段における類似性評価値は、前記テンプレート画像の角度を回転させず、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して、角度に依存せずに算出する類似性評価値と、前記テンプレート画像を所定の角度で回転させながら、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して、角度に依存させて算出する類似性評価値の２種類が存在することを特徴とする目標物検出システム。
6. 請求項４または請求項５において、
   前記判定基準値設定手段、類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々の階調値を重みとした重心位置を算出し、双方の重心間距離および双方の慣性モーメントの差分値を類似性評価値として用いるものであることを特徴とする目標物検出システム。
7. 請求項４から請求項６のいずれかにおいて、
   前記判定基準値設定手段、類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の階調値の差分値を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
8. 請求項４から請求項６のいずれかにおいて、
   前記判定基準値設定手段、類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の階調値に基づく正規化相関係数を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
9. 請求項１から請求項８のいずれかにおいて、
   前記階調変動ヒストグラム同士のユークリッド距離は、各画素値から抽出した上位ビットに基づく階調変動ヒストグラムと下位ビットに基づく階調変動ヒストグラム同士のユークリッド距離であることを特徴とする目標物検出システム。
10. 請求項１から請求項９のいずれかにおいて、
    前記サンプル画像から指定された所定の多角形領域を切り出してテンプレート画像の有効画像領域を定義し、前記有効画像領域を任意の角度に回転させても包含するように定義された正方形形状のテンプレート画像を作成し、当該テンプレート画像を前記定義された有効画像領域の情報とともに、前記テンプレート記憶手段に記憶させるテンプレート作成手段をさらに有することを特徴とする目標物検出システム。
11. 請求項１０において、
    前記探索結果出力手段は、前記類似性判断手段により類似性ありと判断された場合に、その際のテンプレート画像のＩＤ、前記探索対象画像上における画素ブロックの位置を特定する画素位置、前記テンプレート画像の回転角度に対応したテンプレート画像の有効画像領域の輪郭線を、前記探索対象画像上に重ねて出力することを特徴とする目標物検出システム。
12. コンピュータを、請求項１から請求項１１のいずれかに記載の目標物検出システムとして機能させるためのプログラム。

Images