<対象物検出装置の構成>
対象物検出装置100は、図1に示すように、撮影部2(第一撮影部2a,第二撮影部2b)、制御部3及び表示部4を含んで構成される。
対象物検出装置100は、部屋6(第一の部屋6a及び第二の部屋6b)に設置され、第一の部屋6a及び第二の部屋6bを撮影した画像から背景情報を生成し、それを利用して対象物を検出する処理を行う。
第一の部屋6a及び第二の部屋6bは、扉5の戸板15及び壁で仕切られる。戸板15は蝶番等により変位可能に設置される。扉5が、閉鎖状態のときに戸板15は定常位置に留まり、戸板15が定常位置から変位することによって扉5は開放状態となる。
第一撮影部2aは、第一の部屋6aに設置される。第一撮影部2aは、第一の視点から所定時間おきに第一の部屋6a側の空間を撮影し、撮影した画像(第一画像)を制御部3へ出力する。第二撮影部2bは、第二の部屋6bに設置される。第二撮影部2bは、第二の視点から所定時間おきに第二の部屋6b側の空間を撮影し、撮影した画像(第二画像)を制御部3へ出力する。本実施の形態では、第一撮影部2a及び第二撮影部2bは、それぞれ第一の部屋6a及び第二の部屋6bの天井に下に向けて配置される。後述するように背景情報の取得の精度と安定性の観点から、扉5が開放状態のときに第一撮影部2aの視野(画角)に含まれる第二の部屋6bの背景が床9となるように第一撮影部2aを設置することが好ましい。例えば、第一撮影部2aを扉5の近傍の天井に俯角が大きくなるように設置するとよい。
ここで、第一撮影部2a及び第二撮影部2bの撮影のタイミングは同期させることが好適である。
扉5が閉鎖状態では、第一撮影部2aの視点(第一の視点)から遮蔽空間7を含む第二の部屋6bの空間は撮影されない。つまり、変位可能な遮蔽物である戸板15が変位していないとき、遮蔽空間7は、戸板15によって第一の視点から遮蔽されて撮影されない。ただし、扉5が閉鎖状態の位置にあるときも遮蔽空間7は第一撮影部2aとは別の第二撮影部2bにより第二の視点から撮影される。一方、扉5の開放により開口部8が生じると、第一撮影部2aから開口部8越しに遮蔽空間7の一部又は全部が撮影されてしまう。その結果、第一撮影部2aにより撮影された第一画像上では、扉5が閉鎖状態のときは戸板15が背景であった領域に第二の部屋6bの床9が背景として出現してしまう。このように、戸板15が変位したときに第一画像上に遮蔽空間7が背景として急に現われることによって、人物等の対象物を検出し難くなる。ちなみに、扉5が開放状態となったときに遮蔽空間7は第一撮影部2aの視野及び第二撮影部2bの視野に共通する共通視野となる。
図2は、戸板15が変位したときに撮影される第一画像の例を示す。開口領域11は、戸板15が変位したときに第二の部屋6bの一部が撮影される領域である。戸板領域12は、戸板15が撮影される領域である。扉外領域13は、第一画像のうち開口領域11及び戸板領域12を除いた領域である。扉5や床9、壁等は検出対象外の背景であり、これに対し検出対象物である人物10(移動物体)は前景である。人物10が現われている人物領域14は、開口領域11、戸板領域12、扉外領域13のいずれか又は複数の領域に跨って重なり得る。
開口領域11では、戸板15の変位によって写り込む背景が大きく変化する。また、戸板領域12でも戸板15の変位に伴い生じる陰影の変化によって背景が変化する。なお、戸板15が変位していないとき、開口領域11は現われない。
また、第二視点背景取得領域311は、第一画像における開口領域11と対応する第二画像内の領域である。すなわち、第二画像における第二視点背景取得領域311は第一画像における開口領域11の背景情報を取得する領域である。カメラパラメータ310を用いた予めの計算により、第一画像の開口領域11を第一撮影部2a及び第二撮影部2bに共通する共通座標系(ワールド座標系)の基準面である床に逆投影し、さらに開口領域11の逆投影を第二画像に投影することで第二視点背景取得領域311を求めて記憶部3に記憶させておく。図1の床9の領域が開口領域11の逆投影の例であり、図2の第二視点背景取得領域311が開口領域11の逆投影を第二画像に投影した例である。
カメラパラメータ310は、第一撮影部2a及び第二撮影部2bの内部パラメータ及び外部パラメータである。事前のキャリブレーション(校正)作業により計測されたこれらの値が第一撮影部2a及び第二撮影部2bの撮影部IDと対応付けて記憶部31に予め記憶されている。内部パラメータは、焦点距離、レンズの光学中心位置等の情報である。外部パラメータは、ワールド座標系における位置及び姿勢等の情報である。カメラパラメータ310にピンホールカメラモデルなどを適用することで、第一撮影部2aと第二撮影部2bとの共通視野において対応する座標間の座標変換が可能となる。
なお、戸板15が変位すると第二画像上にも開口領域が現われる。第二画像における開口領域と対応する第二画像内の第一視点背景取得領域も予め求めて記憶部31に記憶させておく。
対象物検出装置100は、制御部3であるコンピュータが対象物検出プログラムを実行することによって実現される。制御部3は、第一撮影部2a、第二撮影部2b及び表示部4と接続され、第一撮影部2a及び第二撮影部2bから順次入力される画像を処理して第一撮影部2aの第一画像及び第二撮影部2bの第二画像に現われた人物領域14を抽出し、抽出結果から人物10の位置を追跡する。抽出結果や追跡結果は表示部4に表示される。表示部4は、液晶ディスプレイやCRT等のモニター、これらのデータを受信する通信インターフェースを含む。
図3は、制御部3によって実現される各機能の機能ブロック図である。制御部3は、画像取得部30、記憶部31、画像処理部32及び出力部33として機能する。
画像取得部30は、第一撮影部2a、第二撮影部2bが撮影した画像を順次受信し、画像処理部32へ出力する通信インターフェースを含む。記憶部31は、ROM(Read Only Memory)、RAM(Random Access Memory)等のメモリ装置を含んで構成される。記憶部31は、カメラパラメータ310、第二視点背景取得領域311、扉パターン312、扉外/全体背景情報313、開口部背景情報314、戸板部背景情報315及び色変換関数を含む各種データや画像処理部32の処理を規定した対象物検出プログラム等を記憶する。画像処理部32は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、MCU(Micro Control Unit)等の演算装置を含んで構成される。画像処理部32は、記憶部31から対象物検出プログラムを読み出し、実行することにより扉状態検出部320、背景情報生成部321、人物領域抽出部322、人物追跡部323の各部での処理を実行する。出力部33は、画像処理部32で処理された情報を表示部4へ出力する通信インターフェースを含む。
以下、図4のフローチャートに沿って、対象物検出プログラムによって実現される対象物検出処理について説明する。対象物検出処理は、監視空間である第一の部屋6a及び第二の部屋6b内に人物は存在していないことを確認したうえで開始される。対象物検出処理では、画像を取得するたびに以下のステップS1〜S9を繰り返す。
ステップS1では、第一撮影部2a及び第二撮影部2bから第一画像及び第二画像が取得される。第一撮影部2a及び第二撮影部2bでは所定の周期で第一画像及び第二画像を撮影して画像取得部30へ出力する。画像取得部30は、第一画像及び第二画像を受けて、記憶部31に記憶させる。
ステップS2では、扉5の状態が検出される。扉状態検出部320は、第一画像と扉パターン312とのパターンマッチングを行って戸板15の開度を検出する。
扉パターン312は、戸板15が定常位置であるとき及び変位中であるときに開口領域11と戸板領域12がとり得る形状特徴を表す画像パターンである。扉パターン312として、戸板15の開度毎の形状特徴を予め登録しておく(記憶部31に記憶させておく)。具体的には、扉パターン312は、戸板15の各開角度における開口領域11の輪郭画素の位置、戸板領域12の輪郭画素の位置を示したパターン画像と開口領域11に属する画素及び戸板領域12に属する画素を示したパターン画像を含む。例えば、図5に示すように、0度(定常位置)から120度(完全開放)まで10度毎に13段階の画像パターンが登録される。扉パターン312は、扉5を模した3次元モデルを用いたシミュレーションなどにより事前に作成され、予め登録される。また、開口領域11の形状特徴と戸板領域12の形状特徴を別々に分けて登録してもよい。扉状態検出部320は、各開角度の形状特徴と現フレームの第一画像とを比較し、形状特徴が最も一致する開角度を扉状態として検出する。具体的には、扉状態検出部320は、第一画像からエッジ画像を生成して各開角度の扉パターン312とエッジ画像のパターンマッチングを行って、一致度が最大である開角度を検出する。これにより、現フレームの第一画像に現れている扉5の状態に一致する戸板15の変位状態を検出できる。扉状態検出部320は、検出した開角度を背景情報生成部321及び人物領域抽出部322に出力すると共に、次フレームでの処理のために記憶部31に記憶させる。
また、扉状態は、第二画像と扉パターン312とのパターンマッチングにより検出してもよい。この場合、扉パターン312は、第二画像に対して戸板15の各開角度において予め登録しておけばよい。第一画像と第二画像における開角度は共通であるから、ステップS2の処理はいずれか一方に対して行えばよい。
ステップS3では、第一画像及び第二画像の各画素に領域属性が設定される。扉状態検出部320は、検出された開角度の扉パターン312に設定されている領域属性に従って第一画像及び第二画像上に開口領域11と戸板領域12とそれ以外の扉外領域13を設定する。
例えば、開角度が0度以外であれば、第一画像及び第二画像の各画素には開口領域11、戸板領域12及び扉外領域13のいずれかの領域属性が設定され、第一画像及び第二画像はそれぞれ3領域に区分される。開角度が0度なら、第一画像及び第二画像には戸板領域12及び扉外領域13の領域属性が設定され、第一画像及び第二画像はそれぞれ2領域に区分される。
このように、扉状態検出部320(変位検出部)は、戸板15(遮蔽物)の変位により第一画像において遮蔽空間7が現われている開口領域11(遮蔽解除領域)を予め登録されている開口領域11の形状特徴(扉パターン312)との比較から検出する。これにより、第一画像において戸板15の変位に伴って生じる開口領域11の形状変化に追従できる。そのため、第一画像において開口部背景情報314を適用すべき開口領域11が正確に得られるので高精度な背景情報の生成と高精度な人物領域の検出が可能となる。
また、扉状態検出部320(変位検出部)は、第二画像において変位中の戸板15が現われている戸板領域12(遮蔽物領域)を予め登録されている戸板領域12の形状特徴(扉パターン312)との比較から検出する。これにより、第二画像において生じる戸板領域12の形状変化に追従できる。そのため、第二画像において第二視点背景取得領域311から除外すべき戸板領域12が正確に得られるので高精度な背景情報の生成と高精度な人物領域の検出が可能となる。
ステップS4では、第一画像及び第二画像から人物領域が抽出される。まず、人物領域抽出部322は、図6に示すフローチャートに沿って第一画像を処理する。ステップS30〜S40では、各画素を順次注目画素に設定して第一画像の全画素に対するループ処理を行う。
ステップS30では、第一画像中に注目画素が設定される。すなわち、人物領域抽出部322は、ステップS30に処理が戻ってくる度に第一画像に含まれる1画素を順次選択して注目画素に設定する。
ステップS31では、扉5の状態が開放状態であるか否かが確認される。人物領域抽出部322は、扉状態検出部320が検出した開角度が0度でなければ扉5の状態が開放状態であるとして(ステップS31にてYES)、ステップS32に処理を移行させ、そうでなければステップS38に処理を移行させる(ステップS31にてNO)。
ステップS32では、注目画素が開口領域11であるか否かが判定される。人物領域抽出部322は、ステップS4にて扉状態検出部320が判定した各画素の領域属性を参照して、注目画素の領域属性が開口領域11である場合にはステップS33に処理を移行させ(ステップS32にてYES)、そうでない場合にはステップS36に処理を移行させる(ステップS32にてNO)。
ステップS33〜S35では、人物領域抽出部322は開口領域11おける第二画像の各画素を開口部背景情報314と比較して、当該画素の開口部背景情報314に対する相違の程度を表わす指標である人物尤度(相違するほど値が大きくなる)を算出する。
開口部背景情報314は、第一画像及び第二画像における開口領域11の背景情報である。各画素の開口部背景情報314は、開口領域11の色ヒストグラム(開口部色ヒストグラム)と開口領域11の各画素に対応する背景画素値(開口部背景画素値)の2種類を含む情報であり、記憶部31に記憶される。開口部色ヒストグラムは、例えばYUV各8ビンの3次元配列とされる。開口部背景情報314は、背景情報生成部321により生成され、適宜更新される。開口部背景情報314の生成処理については後述する。
ステップS33では、注目画素の背景画素値が既に生成されているか否かが判定される。人物領域抽出部322は、開口部背景情報314に既に背景画素値が記憶されている場合にはステップS35に処理を移行させ(ステップS33にてYES)、そうでない場合にはステップS34へ処理を移行させる(ステップS33にてNO)。
ステップS34では、開口部色ヒストグラムに対する注目画素の人物尤度が算出される。人物領域抽出部322は、開口部背景情報314から第一画像の開口部色ヒストグラムH
0、人物情報316から扉5付近の人物の色ヒストグラムH
Pをそれぞれ読み出し、数式(1)及び(2)にしたがって注目画素xの人物尤度L
O(x)を算出する。
ここで、xは注目画素、PO(x)は注目画素xの人物確率、cxは注目画素xの色、HO(cx)は開口部色ヒストグラムにおける色cxのビンの頻度、HP(cx)は人物情報316から読みだした色ヒストグラムにおける色cxのビンの頻度、LO(x)は注目画素xの人物尤度、βO1は予めの実験を通じ適切に調整した定数である。人物尤度LO(x)は、人物確率PO(x)に対して単調増加する。よって、開口部色ヒストグラムにおいて注目画素の画素値の頻度が低いほど人物尤度は高くなる。
このように人物領域抽出部322は、第一画像における開口領域11の各画素が開口部色ヒストグラムと相違するほど当該画素の人物尤度を高く算出する。また、人物領域抽出部322は、第一画像における開口領域11の各画素が人物情報316と類似するほど当該画素の人物尤度を高く算出する。
ここで、人物情報316とは、監視空間に存在する各人物(すなわち追跡中の人物)の人物領域14の画像特徴量及び位置の履歴を示す情報である。各人物には当該人物を一意に識別する人物IDが付与され、人物IDに人物領域と画像特徴量と位置の履歴が対応付けて記憶部31に記憶される。ここで、画像特徴量は、色ヒストグラムであり、例えばYUV各8ビンの3次元配列で表される。また、人物領域14は、第一画像を構成する各画素において人物が存在することの尤もらしさを表す尤度で表される。人物領域の情報は、共通座標系における3次元形状モデルの形式で記憶される。3次元形状モデルとは、頭部、胴部及び足部を回転楕円体で近似したデータとすることができる。3次元形状モデルは、カメラパラメータ310を用いて画像の座標系に投影することで人物のマスク画像となる。
ステップS35では、開口部背景画素値に対する注目画素の人物尤度が算出される。人物尤度は、数式(3)を用いて算出される。具体的には、人物領域抽出部322は、注目画素の画素値I(x)と背景画素値B
O(x)との背景差分を算出し、差分値(I(x)−B
O(x))を人物尤度L
O(x)に変換する。
ここで、βO2は予めの実験を通じ適切に調整した定数である。
人物尤度LO(x)は、差分値(I(x)−B0(x))に対して単調増加する。よって、注目画素の画素値と開口部背景画素値の差が大きいほど人物尤度は高くなる。
このように人物領域抽出部322は、第一画像における開口領域11の各画素が開口部背景情報314と相違するほど当該画素の人物尤度を高く算出する。
ステップS36,S37では、人物領域抽出部322は、戸板領域における第一画像の各画素を戸板部背景情報315と比較して、当該画素が背景情報と相違する程度を表わす指標である人物尤度を算出する。
ここで、戸板部背景情報315は、第一画像及び第二画像における戸板領域12の背景情報であり、色ヒストグラム(戸板部色ヒストグラム)で表される。各画像の戸板部色ヒストグラムは、例えばYUV各8ビンの3次元配列で表され、記憶部31に記憶される。戸板部背景情報315は、戸板15の変位が検出されている間、背景情報生成部321により生成され、適宜更新される
ステップS36では、注目画素が戸板領域12であるか否かが判定される。人物領域抽出部322は、注目画素の領域属性が戸板領域12である場合(ステップS36にてYES)にはステップS37に処理を移行させ、そうでない場合(ステップS36にてNO)にはステップS38へ処理を移行させる。
ステップS37では、戸板部色ヒストグラムに対する注目画素の人物尤度が算出される。人物領域抽出部322は、注目画素xの色すなわち画素値を第一画像の戸板部色ヒストグラム及び扉5付近の人物の色ヒストグラムと比較して、数式(4)及び(5)にしたがって注目画素xの人物尤度L
D(x)を算出する。
ここで、PD(x)は注目画素xの人物確率、HD(cx)は戸板部色ヒストグラムにおける色cxのビンの頻度、LD(x)は注目画素xの人物尤度、βDは予めの実験を通じ適切に調整した定数である。人物尤度LD(x)は、人物確率PD(x)に対して単調増加する。
すなわち、人物領域抽出部322は、第一画像における戸板領域12の各画素が戸板部背景情報315と相違するほど当該画素の人物尤度を高く算出する。また、人物領域抽出部322は、第一画像の戸板領域12を構成する画素が人物情報316と類似するほど当該画素の人物尤度を高く算出する。
ステップS38では、開口領域11及び変位中の戸板領域12のいずれでもない注目画素について扉外/全体背景画素値に対する人物尤度が算出される。人物領域抽出部322は、扉外/全体背景情報313から注目画素xに対応する背景輝度値B
G(x)を読み出し、注目画素xの画素値I(x)と背景画素値B
G(x)との差分値(I(x)−B
G(x))を算出して人物尤度L
G(x)に変換する。具体的には、数式(6)により人物尤度L
G(x)を算出する。
ここで、LG(x)は注目画素xの人物尤度、βGは予めの実験を通じ適切に調整した定数である。人物尤度LG(x)は、差分値(I(x)−BG(x))に対して単調増加する。よって、注目画素の画素値と全体背景画素値又は扉外背景画素値の差が大きいほど人物尤度は高くなる。
このように、人物領域抽出部322は、戸板15が変位していないときは第一画像の画素総てに対して当該画素の人物尤度を全体背景画素値と相違するほど高く算出し、戸板15が変位しているときは扉外領域13における第一画像の各画素の人物尤度を当該画素が扉外背景画素値と相違するほど高く算出する。
ここで、扉外/全体背景情報313は、第一画像全体における背景情報及び第二画像全体における背景情報である。扉外/全体背景情報313としては第一画像の各画素に対応する背景画素値及び第二画像の各画素に対応する背景画素値が記憶部31に記憶される。扉外/全体背景情報313は、背景情報生成部321により生成され、適宜更新される。戸板15が変位していないときは全画素の背景画素値が全体背景画素値として利用され、戸板15が変位中のときは扉外領域13の画素に対応する背景画素値が扉外背景画素値として利用される。
ステップS39では、第一画像の全画素について人物尤度の算出処理が終了したか否かが判定される。人物領域抽出部322は、第一画像の全画素について処理が終了していればステップS40に処理を移行させ、そうでなければステップS30に処理を戻して、次の注目画素について人物尤度の算出を行う。ここまでの処理によって、第一画像の全画像について算出された人物尤度を各画素の値とした人物尤度画像が得られる。
こうして得られた人物尤度画像が人物領域を表す情報となる。すなわち、人物尤度の高い画素が人型に密集している領域が人物領域14として得られる。ステップS40では、人物尤度画像から人物領域14を決定する処理が行われる。
具体的には、人物領域抽出部322は、人物尤度が高い画素が人型に密集している領域を通行領域に決定する。人物領域抽出部322は、人物尤度画像上の各位置に3次元人物形状モデルを投影して人型のマスク画像を生成し、マスク画像内の画素に設定された人物尤度の合計値が検出閾値T1以上であるときに当該位置のマスク画像が示す領域を人物領域14として抽出する。または、人物尤度画像の各画素を所定の検出閾値T2と比較し、人物尤度が検出閾値T2以上である画素が人物サイズの範囲で互いに隣接している領域を人物領域14として抽出してもよい。
なお、上記サブルーチンでは第一画像内に含まれる人物領域14の抽出処理のみを説明したが、第二画像内に含まれる人物領域14も同様に求める。すなわち人物領域抽出部322は、第二画像の各画素に対する人物尤度を算出して第二画像に対応する人物尤度画像を生成し、人物尤度の高い画素が人型に密集している領域を通行領域に決定する。このとき、人物領域抽出部322は、戸板15が変位中であれば、開口領域11における第二画像の画素を開口部背景情報314と比較して人物尤度を算出し、戸板領域12における第二画像の画素を戸板部背景情報315と比較して人物尤度を算出し、扉外領域13における第二画像の画素を扉外/全体背景情報313と比較して人物尤度を算出する。また人物領域抽出部322は、戸板15が変位していなければ、第二画像の全画素を扉外/全体背景情報313と比較して人物尤度を算出する。
上記人物領域抽出部322における処理が終了するとメインルーチンのステップS5に処理が戻される。
ステップS5では、人物の追跡処理が行われる。人物追跡部323は、各人物領域14の位置及び人物領域14における第一画像の色ヒストグラムを当該人物の特徴量として抽出し、抽出した特徴量と人物情報316に記憶された各人物の特徴量との照合を行う。人物追跡部323は、この照合により一致が得られた人物領域を人物情報316の人物と同一と判定して対応付ける。第二画像から抽出した人物領域についても同様に人物情報との同定を行う。さらに、人物追跡部323はカメラパラメータ310を用いて第一画像から抽出した人物領域14と第二画像から抽出した人物領域14のうち、ワールド座標系において位置が対応する人物領域を同一人物と対応付ける。人物追跡部323は、人物情報316の色ヒストグラムを対応が得られた人物領域14の色ヒストグラムにより更新し、当該人物の人物情報316の位置履歴に一致が得られた人物領域14の位置を追記する。また、対応が得られなかった人物領域に対して新規人物の人物情報316を生成し、対応が得られなかった人物情報316は消失したとして削除する。
なお、人物の追跡処理はこれらに限定されるものではなく、既存の種々の画像追跡処理を適用することができる。
ステップS6では、人物領域14の画素から人物の色ヒストグラムを生成する。扉5の近辺に存在するK人の人物のヒストグラムH
1〜H
Kを足し合わせ、正規化したものを人物の色ヒストグラムH
Pとして人物情報316に含めて記憶部31に記憶させる。
ステップS7では、図7のフローチャートに沿って、扉外/全体背景情報313の生成処理が行われる。背景情報生成部321は、現フレームの第一画像の各画素を順次注目画素に設定して(ステップS50)、ステップS50〜S55のループ処理を実行する。
ステップS51では、扉5の状態が開放状態であるか否かが確認される。背景情報生成部321は、扉状態検出部320が検出した開角度が0度以外なら扉5が開放状態であるとしてステップS52に処理を移行させ(ステップS51にてYES)、そうでなければステップS53に処理を移行させる(ステップS51にてNO)。
ステップS52では、注目画素の領域属性が扉外領域13であるか否かが確認される。背景情報生成部321は、扉状態検出部320が注目画素に対して設定した領域属性が扉外領域13であればステップS53に処理を移行させ(ステップS52にてYES)、そうでなければステップS55に処理を移行させる(ステップS52にてNO)。
ステップS53では、注目画素が人物領域14の画素か否かが確認される。背景情報生成部321は、人物領域抽出部322が第一画像から抽出した人物領域14を参照して、注目画素が人物領域14の画素であればステップS55に処理を移行させ(ステップS53にてYES)、そうでなければステップS54に処理を移行させる(ステップS53にてNO)。
ステップS54では、背景情報生成部321は、現フレームの注目画素の画素値で扉外/全体背景情報313に記憶している注目画素の背景画素値を更新する。
具体的には、背景情報生成部321は、式(8)にしたがって、現フレームの注目画素の画素値I(x)と扉外/全体背景情報313の背景画素値B
G(x,t−1)をα
G:(1−α
G)の割合で重み付け平均した背景画素値B
G(x,t)を求めて扉外/全体背景情報313に書き込む。
ただし0<α
G<1であり、例えばα
G=0.3と設定する
ステップS55では、背景情報生成部321は、第一画像の全画素を注目画素として処理したか確認する。全画素を処理していなければ、次の画素を処理するために処理をステップS50に戻す(ステップS55にてNO)。全画素を注目画素として処理すると図7の処理は終了する。
以上のように、背景情報生成部321は、人物領域14、開口領域11及び変位中の戸板領域12を除いた領域について、現フレームの第一画像を用いて第一の視点での扉外/全体背景情報313を生成・更新する。
また、背景情報生成部321は、第二画像に対しても同様にして扉外/全体背景情報313を生成する。すなわち、背景情報生成部321は、扉が開放状態であれば、現フレームの第二画像において人物が検出されなかった扉外領域13の画素値と扉外/全体背景情報313の対応する背景画素値との重み付け平均値を第二画像における開口領域11の新たな背景画素値として記憶部31に書き込む。また、背景情報生成部321は、扉5が閉鎖状態であれば、現フレームの第二画像において人物が検出されなかった領域の画素値と扉外/全体背景情報313の対応する背景画素値との重み付け平均値を第二画像に対する新たな背景画素値として記憶部31に書き込む。この処理が第二視点背景生成部での処理に相当する。
扉外/全体背景情報313が生成されると、処理は図4のステップS8に進み、背景情報生成部321は開口部背景情報314の生成を行う。
ステップS8では、図8及び図9に示すフローチャートに沿って開口部背景情報の生成処理が行われる。
まず、背景情報生成部321は、図8のフローチャートに従い、第二画像を用いて第一画像における開口部色ヒストグラムを生成する。
ステップS60〜S64のループ処理では、現フレームの第二視点背景取得領域311における色ヒストグラムが生成される。ステップS60では、現フレームの第二画像の各画素が順次注目画素に設定される。すなわち、背景情報生成部321は、ステップS50に処理が戻ってくる度に第二画像に含まれる画素を順次選択して注目画素に設定する。また、ループ処理開始にあたり、背景情報生成部321は現フレームの色ヒストグラムを蓄積する記憶領域を用意し、各ビンの度数を0に初期化する。
ステップS61では、注目画素が第二視点背景取得領域311の画素であるか否かが確認される。背景情報生成部321は、注目画素が第二画像に対して設定された第二視点背景取得領域311の画素であればステップS62に処理を移行させ(ステップS61にてYES)、そうでなければステップS66へ処理を移行させる(ステップS61にてNO)。
ステップS62では、注目画素が戸板領域12の画素か否かが確認される。背景情報生成部321は、注目画素が戸板領域12内にあればステップS66に処理を移行させ(ステップS62にてYES)、そうでなければステップS63へ処理を移行させる(ステップS62にてNO)。この判定により、背景情報生成部321は、第二視点からみて扉5が手前開きの場合に第二視点背景取得領域311からこれに重なった戸板領域12を除外する。この除外によって戸板15が背景に混入しなくなるので、開口部色ヒストグラムの精度を高く維持することができる。
ステップS63では、注目画素が人物領域14内の画素か否かが確認される。背景情報生成部321は、人物領域抽出部322が第二画像から抽出した人物領域14を参照して、注目画素が人物領域14内にあればステップS66に処理を移行させ(ステップS63にてYES)、そうでなければステップS64へ処理を移行させる(ステップS63にてNO)。
ステップS64では、色変換処理が行われる。背景情報生成部321は、第二画像の平均輝度値及び分散を第一画像の平均輝度値及び分散と一致させるように予め設定された色変換関数を用いて第二画像の注目画素の画素値を変換する。
ステップS65では、注目画素の値が現フレームの色ヒストグラムに蓄積される。背景情報生成部321は、記憶部31に用意した現フレームの色ヒストグラムにおいて注目画素の色と対応するビンの度数を1だけ増加させる。
ステップS66では、背景情報生成部321は、第二画像の全画素を注目画素として処理したか確認する。全画素を処理していなければ次の画素を処理するために処理をステップS60に戻し(ステップ66にてNO)、処理が終わっていればステップS67に処理を移行させる。
ステップS67では、背景情報生成部321は、現フレームの色ヒストグラムを用いて開口部背景情報314に記憶している色ヒストグラムを更新する。具体的には背景情報生成部321は、現フレームの色ヒストグラムを処理対象とした画素数で正規化し、式(9)にしたがって現フレームの色ヒストグラムHの各ビンの値と開口部背景情報314の色ヒストグラムH
O(t−1)の対応するビンの値をα
O1:(1−α
O1)の割合で重み付け平均した色ヒストグラムH
O(t)を求めて背景情報生成部321に書き込む。
ただし0<α
O1<1であり、例えばα
O1=0.3と設定する。
なお、開口部背景情報314に色ヒストグラムが記憶されていない起動直後の場合は、現フレームの色ヒストグラムHをそのままHOとして記憶させる。
第二画像から遮蔽空間7の背景情報を生成するステップS60〜S66は第二視点背景生成部の処理に該当し、この背景情報から第一画像で用いる開口部色ヒストグラムを生成するステップS67は第一視点背景生成部の処理に該当する。このように、戸板15(遮蔽物)が変位していないときも第二視点背景生成部が遮蔽空間7の背景情報を生成することにより遮蔽空間7の照明変動に適応でき、この背景情報を利用して第一視点背景生成部が開口部色ヒストグラムを生成することにより戸板15が変位してそれまで第一視点から撮影されていなかった遮蔽空間7が第一画像の開口領域11(遮蔽解除領域)が第一視点から撮影されるようになっても照明変動に適応した開口部色ヒストグラムを用いて高精度に人物10(移動物体)の領域を検出し続けることができる。また、遮蔽空間7の背景情報を画素単位の情報とせず、領域単体の情報(ヒストグラム)としたことで、カメラパラメータ310や色変換関数の誤差が希釈されて精度低下を防止できる。
次に、背景情報生成部321は、図9のフローチャートに従い、第一画像における開口部背景画素値を生成する。
ステップS70では、扉5が開放状態であるか否かが確認される。背景情報生成部321は、扉状態検出部320が検出した開角度が0度以外であれば扉5が開放状態であるとしてステップS71に処理を移行させ(ステップS70にてYES)、そうでなければステップS76に処理を移行させる(ステップS70にてNO)。
ステップS71では、背景情報生成部321は、現フレームの第一画像の各画素を順次注目画素に設定する。ステップS71〜75のループ処理では、現フレームの第一画像により開口部背景画素値が生成・更新される。
ステップS72では、注目画素が開口領域11の画素か否かが確認される。背景情報生成部321は、扉状態検出部320が第一画像に対して設定した注目画素の領域属性が開口領域11であればステップS73に処理を移行させ(ステップS72にてYES)、そうでなければステップS75に処理を移行させる(ステップS72にてNO)。
ステップS73では、注目画素が人物領域14の画素か否かが確認される。背景情報生成部321は、人物領域抽出部322が第一画像から抽出した人物領域14を参照して、注目画素が人物領域14の画素にあればステップS75に処理を移行させ(ステップS73にてYES)、そうでなければステップS74へ処理を移行させる(ステップS73にてNO)。
ステップS74では、注目画素の背景画素値が更新される。背景情報生成部321は、現フレームの注目画素の画素値で開口部背景情報314に記憶している注目画素の背景画素値を更新する。具体的には、背景情報生成部321は、式(10)にしたがって現フレームの注目画素の画素値I(x)と開口部背景情報314の背景画素値B
O(x,t−1)をα
O2:(1−α
O2)の割合で重み付け平均した背景画素値B
O(x,t)を求めて開口部背景情報314に書き込む。
ただし0<α
O2<1であり、例えばα
O2=0.3と設定する。
ステップS75では、第一画像の全画素を注目画素として処理したかが確認される。背景情報生成部321は、全画素を処理していなければ次の画素を処理するために処理をステップS71に戻し(ステップS75にてNO)、そうでなければ図4のステップS7へと処理を戻す(ステップS75にてYES)。ステップS71〜S75の処理により開口領域11において人物が現れていない部分では遮蔽空間7の背景画素値が生成され、色ヒストグラムに代えて利用可能となる。
ステップS76では、扉5が開放状態から閉鎖状態に変化したか否かが確認される。背景情報生成部321は、記憶部31に記憶されている1フレーム前の開角度が0度以外であり且つ現フレームの開角度が0度であれば、扉5の状態が現フレームにおいて開放状態から閉鎖状態に変化したとしてステップS77へ処理を移行させ(ステップS76にてYES)、そうでなければ処理を図4のステップS8に移行させる(ステップS76にてNO)。
ステップS77では、開口部背景画素値がクリアされる。背景情報生成部321は、開口部背景情報314の背景画素値を総てクリアする。これにより、遮蔽空間7の背景情報が座標変換や色変換の誤差なく最新の状態に更新できるので照明変動に対応したより高精度な対象物の検出が可能となる。つまり、ステップS70にて扉5が閉鎖状態であると判定された場合、開口領域11における最新の背景画素値が第一画像から得られなくなり、閉鎖状態の間の照明変動に対応できなくなるため、閉鎖状態が継続している間においては、背景情報生成部321は、開口領域11における背景画素値の生成を行わず、さらに開口部背景画素値をクリアして開口部背景画素値を扉5が開放状態にある間だけ利用可能とする。
また、背景情報生成部321は、第二画像における開口領域11に対しても同様にして開口部背景情報314を生成する。すなわち、背景情報生成部321は、扉5が開放状態であれば、現フレームの第一画像において人物が検出されなかった開口領域11の画素から現フレームの色ヒストグラムを算出して、当該色ヒストグラムと開口部背景情報314に記憶されている色ヒストグラムとの重み付け平均値を第二画像における開口領域11の新たな色ヒストグラムとして記憶部31に書き込む。また、背景情報生成部321は、扉5が開放状態であれば、現フレームの第二画像において人物が検出されなかった開口領域11の画素値と開口部背景情報314の対応する背景画素値との重み付け平均値を第二画像における開口領域11の新たな背景画素値として記憶部31に書き込む。また、背景情報生成部321は、現フレームにおいて扉5が開放状態から閉鎖状態に変化した場合に開口部背景情報314の背景画素値をクリアする。
開口部背景情報314が生成されると、処理は図4のステップS9に進み、背景情報生成部321は戸板部背景情報315の生成を行う。背景情報生成部321は、ステップS80〜S84のループ処理を実行し、現フレームの戸板領域12における色ヒストグラムを生成する。
ステップS80では、背景情報生成部321は、現フレームの第一画像の各画素を順次注目画素に設定する。また、背景情報生成部321は、現フレームの色ヒストグラムを蓄積する記憶領域を用意し、各ビンの度数を0に初期化する。
ステップS81では、背景情報生成部321は、注目画素が第一画像に対して設定された戸板領域12の画素であるか否かを確認する。注目画素が戸板領域12内にあればステップS82に処理を移行させ(ステップS81にてYES)、そうでなければステップS84へ処理を移行させる(ステップS81にてNO)。
ステップS82では、背景情報生成部321は、人物領域抽出部322が第一画像から抽出した人物領域14を参照して、注目画素が人物領域14内の画素か否かを確認する。注目画素が人物領域14内にあればステップS84に処理を移行させ(ステップS82にてYES)、そうでなければステップS83へ処理を移行させる(ステップS82にてNO)。
ステップS83では、背景情報生成部321は、注目画素を色ヒストグラム生成の対象とし、注目画素の色と対応するビンの度数を1だけ増加させることで現フレームの色ヒストグラムHを記憶部31に蓄積する。
ステップS84では、背景情報生成部321は、第一画像の全画素を注目画素として処理したか確認する。全画素を処理していなければ次の画素を処理するために処理をステップS80に戻し(ステップS84にてNO)、そうでなければステップS85に処理を移行させる(ステップS84にてYES)。
ステップS85では、背景情報生成部321は、現フレームの色ヒストグラムを用いて戸板部背景情報315に記憶している色ヒストグラムを更新する。具体的には、背景情報生成部321は、現フレームの色ヒストグラムを処理対象とした画素数で正規化し、式(11)にしたがって現フレームの色ヒストグラムHの各ビンの値と戸板部背景情報315の色ヒストグラムH
D(t−1)の対応するビンの値をα
D1:(1−α
D1)の割合で重み付け平均した色ヒストグラムH
D(t)を求めて戸板部背景情報315に書き込む。なお、戸板部背景情報315に色ヒストグラムが記憶されていない起動直後の場合は、現フレームの色ヒストグラムHをそのままH
Dとして記憶させる。
ただし0<α
D<1であり、例えばα
D=0.3と設定する。
また、背景情報生成部321は、第二画像における戸板領域に対しても同様にして戸板部背景情報315を生成する。すなわち、背景情報生成部321は、現フレームの第二画像において人物が検出されなかった戸板領域12の画素から現フレームの色ヒストグラムを算出して、当該色ヒストグラムと戸板部背景情報315に記憶されている色ヒストグラムとの重み付け平均値を第二画像における戸板領域12の新たな色ヒストグラムとして記憶部31に書き込む。
以上の処理を終えると、処理は図4のステップS1へと戻され、次のフレームの処理が行われる。
なお、図8のフローチャートに代えて、図11のフローチャートに沿って第二画像を用いて第一画像における開口部色ヒストグラムを生成してもよい。
ステップS90〜S94では、第二画像から生成した扉外/全体背景情報313の各画素を順次注目画素に設定して全画素に対するループ処理により開口部色ヒストグラムが生成される。ステップS90では、背景情報生成部321は、現フレームの第二画像から生成した扉外/全体背景情報313の背景画素値を順次注目画素値に設定する。また、ループ処理開始にあたり、背景情報生成部321は開口部色ヒストグラムの各ビンの度数を0に初期化する。
ステップS91では、注目画素が第二視点背景取得領域の画素であるかが確認される。ステップS93では、開口部色ヒストグラムが生成される。注目背景画素値の色と対応するビンの度数を1だけ増加させることで開口部色ヒストグラムを生成する。
背景情報生成部321は、注目画素値が第二画像に対して設定された第二視点背景取得領域311の画素値であればステップS92に処理を移行させ(ステップS91にてYES)、そうでなければステップS94に処理を移行させる(ステップS91にてNO)。
ステップS92では、色変換が行われる。背景情報生成部321は、第二画像から第一画像への色変換関数を用いて注目背景画素値を変換する。
ステップS94では、第二画像から生成した扉外/全体背景情報313の全画素を注目画素として処理したか確認する。全画素を処理していなければ次の画素を処理するために処理をステップS90に戻し(ステップ94にてNO)、処理が終わっていれば背景情報生成部321は、開口部色ヒストグラムを正規化し、ステップS70に処理を移行させる。
図11のフローチャートに従う場合、第二画像から遮蔽空間7の背景情報を生成する第二視点背景生成部の処理は扉外/全体背景情報313を生成する図7に準じた処理が該当し、第二画像の扉外/全体背景情報313から開口部色ヒストグラムを生成する図11の処理が第一視点背景生成部の処理に該当する。
以上のように、本実施の形態によれば、扉などの変位可能な遮蔽物が設置された空間にて人物等の対象物を検出する際に、遮蔽物の変位に伴って遮蔽されていた空間が写り込んだ背景情報を適切に更新することができる。これによって、背景差分処理を施したときに開口部全体が変化領域となることを防ぐことができ、開口部に一部または全体が写っている対象物を適切に検出することができる。また、遮蔽されていた空間での照明変動等の環境の変化があった場合であっても開口部の背景情報を適切に更新することができ、対象物を検出することが可能となる。さらに、開口部を対象物が通過している間も追跡を継続することが可能となり、対象物の追跡処理を確実に行うことが可能となる。
なお、本実施の形態では、手前に開く開き戸の例を示したが、扉パターン312を適合させることで奥に開く開き戸、引き戸、折戸など各種の扉に適用可能である。さらに、扉の他に物品庫のコンテナ、操車場の列車などの遮蔽物に対しても適用可能である。
また、本実施の形態では、対象物検出装置の各部の機能を1つのコンピュータで実現する態様を説明したがこれに限定されるものではない。対象物検出装置の各部の機能は一般的なコンピュータをプログラムにより制御することによって実現できるものであり、これらの装置の各機能を適宜組み合わせて1つのコンピュータで処理させてもよいし、各機能をネットワーク等で接続された複数のコンピュータで分散処理させてもよい。