JP2010049296A - 移動物体追跡装置 - Google Patents

移動物体追跡装置 Download PDF

Info

Publication number
JP2010049296A
JP2010049296A JP2008210279A JP2008210279A JP2010049296A JP 2010049296 A JP2010049296 A JP 2010049296A JP 2008210279 A JP2008210279 A JP 2008210279A JP 2008210279 A JP2008210279 A JP 2008210279A JP 2010049296 A JP2010049296 A JP 2010049296A
Authority
JP
Japan
Prior art keywords
hypothesis
moving object
imaging unit
unit
likelihood
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008210279A
Other languages
English (en)
Other versions
JP5180733B2 (ja
Inventor
Takaharu Kurokawa
高晴 黒川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2008210279A priority Critical patent/JP5180733B2/ja
Publication of JP2010049296A publication Critical patent/JP2010049296A/ja
Application granted granted Critical
Publication of JP5180733B2 publication Critical patent/JP5180733B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】移動物体追跡装置において、移動物体の位置の予測精度が低下したりオクルージョンが発生した場合に、追跡が困難となり易い。
【解決手段】複数の撮像部2が互いに異なる視点から監視空間を撮影する。追跡手段50は、移動物体それぞれについて、現時刻における予測位置と単一の撮像部2との組み合わせを表した仮説406を設定する。仮説406には、組み込まれた撮像部2が異なるものが設定される。尤度算出手段504は仮説406毎に、それに組み込まれた撮像部2の監視画像の予測位置に対応する部分について、記憶部4に記憶された移動物体の画像特徴との比較を行って、当該仮説406の尤度を算出する。物体位置判定手段506は、所定値を超える尤度が得られた仮説406に基づいて、現時刻における移動物体の位置を求める。
【選択図】図1

Description

本発明は、撮像部により撮像された画像を用いて移動物体を追跡する移動物体追跡装置に関し、特に複数の撮像部により撮像された画像を用いて移動物体を追跡する移動物体追跡装置に関する。
複数の移動物体が存在する監視空間にて、移動物体の追跡を行う場合、追跡中の移動物体が他の移動物体等と交錯して遮蔽され、いわゆるオクルージョンが発生するという問題がある。このオクルージョンが起こると、見かけ上で物体像の分岐や併合が生じるので、物体像を追跡していくことが非常に困難となる。
このオクルージョンの問題を複数のカメラを用いて解決する構成が提案されている。従来提案されている構成には、複数のカメラのそれぞれと移動物体との位置関係に基づいて、オクルージョンが生じにくいカメラを選択し、当該カメラにより撮像した画像を選択的に用いて移動物体の追跡を行うものがある。
下記特許文献1には、複数のカメラのうち、追跡対象の移動物体及び他の移動物体それぞれに対するカメラからの視線がなす角度が、大きいものを当該追跡対象の担当として選択する技術が提案されている。
特開2001−094975号公報
しかしながら、移動物体の隠蔽状態や運動が急変し、追跡に好適なカメラや監視画像の切り換え処理が間に合わない場合が起こり得る。従来は、追跡対象に対応付けられるカメラ又は監視画像は一意に設定され、そのため、上述のような急な状況の変化等により移動物体の位置の予測精度が低下したりオクルージョンが発生してカメラ等の選択が不適切となると移動物体を見失いやすいという問題があった。また、一度見失うと回復することが困難であり追跡を継続できなくなるという問題があった。
本発明は、上記問題を解決するためになされたものであり、移動物体の位置の予測精度が低下したりオクルージョンが発生した場合でも、精度の高い追跡を継続することができる移動物体追跡装置を提供することを目的とする。
本発明に係る移動物体追跡装置は、複数の撮像部それぞれがお互いに異なる視点から監視空間を撮影した時系列の監視画像に基づいて、前記監視空間内の1又は複数の移動物体を追跡する追跡部と、前記移動物体毎に画像特徴及び過去の位置情報を記憶する記憶部とを備えたものであって、前記追跡部が、前記移動物体毎の少なくとも過去の前記位置情報から現時刻における複数の予測位置を求める位置予測手段と、前記移動物体毎に、前記撮像部の一つを特定した特定撮像部と一つの前記予測位置とを対応付けて仮説とする仮説設定手段と、前記仮説毎に、当該仮説の特定撮像部が撮影した現時刻の前記監視画像における当該仮説の前記予測位置での画像特徴を抽出し、当該画像特徴と前記記憶部に記憶された当該移動物体の前記画像特徴とを比較し、当該仮説の尤度を算出する尤度算出手段と、所定値を超える前記尤度が得られた前記複数の仮説に基づいて、現時刻における当該移動物体の現在位置を求める物体位置判定手段と、を有する。
他の本発明に係る移動物体追跡装置においては、前記記憶部が、前記撮像部それぞれの撮像範囲を記憶し、前記仮説設定手段は、前記複数の撮像部のうち現時刻における前記予測位置を前記撮像範囲に含む監視可能撮像部を求め、当該監視可能撮像部を前記特定撮像部として、前記仮説を設定する。
別の本発明に係る移動物体追跡装置においては、前記仮説設定手段が、前記監視可能撮像部のうちに直前時刻の前記特定撮像部に含まれていない新規特定撮像部が存在する前記移動物体に対して、少なくとも前記新規特定撮像部を用いた前記仮説を設定する。
さらに別の本発明に係る移動物体追跡装置においては、現時刻にて設定される前記仮説が、前記新規特定撮像部を用いて設定される新規仮説を除き、直前時刻にて設定された複数の前記仮説それぞれの前記予測位置を更新して設定される更新仮説であり、前記仮説設定手段が、前記新規仮説を設定する場合には、前記更新仮説のうち直前時刻での前記尤度が低い順に、前記新規仮説の設定個数に相当する個数を削除する。
さらに別の本発明に係る移動物体追跡装置においては、前記仮説設定手段が、前記移動物体それぞれについて、現時刻における前記仮説の前記特定撮像部別の設定個数に関する比率を、直前時刻における前記仮説の前記尤度に関する前記特定撮像部別の累積値に応じて設定する。この移動物体追跡装置において、前記仮説設定手段は、前記移動物体それぞれについての前記仮説のうち所定割合の設定個数分に関してのみ、前記累積値に応じて前記特定撮像部別の前記設定個数の比率を設定する構成とすることができる。
さらに別の本発明に係る移動物体追跡装置においては、前記尤度算出手段が、前記仮説毎の前記画像特徴に関する比較について、当該仮説にて組み合わされている前記特定撮像部と前記予測位置との距離に応じた信頼度を算出する信頼度算出手段を有し、前記信頼度を加味して前記尤度を算出する。
本発明によれば、各時刻において、移動物体と撮像部との組み合わせは、予め一意には選択されておらず、当該組み合わせは複数の撮像部について設定される。そして、各時刻にて、それら複数種類の組み合わせ(仮説)の中から、各移動物体の追跡に適したものを選択して追跡を行う。よって、いずれかの仮説が表す状態にて、移動物体の位置の予測精度が低下したりオクルージョンが発生した場合でも、精度の高い追跡を継続することができる。
また、仮説にて移動物体に対応付けられる撮像部を、当該移動物体を撮像範囲に含む監視可能撮像部に限定することで、追跡精度の向上を図ることができる。
また、累積尤度に応じて、移動物体の追跡に適した仮説の密度を高くすることで追跡精度の向上が図られる。一方、累積尤度に応じた仮説の設定に際して、移動物体の追跡に適しているとはされなかった撮像部に係る仮説もある程度、残存させることで、仮説の多様性を確保し、隠蔽状態や運動の急変への耐性を維持することができる。
また、移動物体に近い撮像部ほど移動物体の画像特徴を鮮明に捉えることができ、追跡に適している。これを考慮して尤度を算出することで、追跡精度の向上を図ることができる。
以下、本発明の実施の形態(以下実施形態という)である移動物体追跡装置1について、図面に基づいて説明する。移動物体追跡装置1は、例えば、ビルのエントランスや金融機関のATMコーナー等の監視空間において移動物体である人を追跡することにより長時間滞留する不審人物を検出する。
図1は、実施形態に係る移動物体追跡装置1の概略のブロック構成図である。移動物体追跡装置1は、撮像部2、操作部3、記憶部4、制御部5及び出力部6を含んで構成される。
撮像部2は、監視カメラであり、監視空間に複数台が設置される。なお、図面や説明を簡潔とするため、本実施形態は撮像部2が3台の場合を示しているが、移動物体追跡装置1における撮像部2の台数は任意の複数台とすることができる。各撮像部2は当該監視空間を所定の時間間隔にて撮像して画像を順次、制御部5へ出力する。以下、撮像部2の撮像タイミングを時刻と称する。複数の撮像部2のうち、少なくとも隣り合う2台の撮像部2は互いに有効撮像範囲の一部を共有できる距離間隔で設置され、共有する有効撮像範囲内において同一の移動物体を互いに異なる視点から同時に撮像する。
ここで、撮像部の視野の縁部においては移動物体の像が十分な解像度で得られない。また、撮像部の視野には、壁や柱等の建築物、什器等の設備といった障害物で遮られて死角が生じている場合がある。有効撮像範囲は、これらの点を考慮した撮像範囲である。すなわち、有効撮像範囲は、撮像部2の画角等から定まる視野ではなく、撮像部2の視野内であって追跡処理に有効な画像情報が得られる範囲であり、視野縁部や死角を除いた範囲である。
図2は、本装置における撮像部2の配置を示す模式図である。図2に示す配置では、複数の撮像部2-1〜2-3それぞれが監視空間である建物の天井部に、それぞれの光軸70-1〜70-3を鉛直下方へ向けて設置される。光軸70を鉛直下方へ向けて撮像部2を設置するのは、光軸70を傾けた場合に比べ画像上で移動物体間の隠蔽(オクルージョン)が生じにくいためである。
撮像部2は、隣り合う撮像部2-1,2-2それぞれの有効撮像範囲71-1,71-2が一部重複し、隣り合う撮像部2-2,2-3それぞれの有効撮像範囲71-2,71-3が一部重複するように設置される。ちなみに、図2では、有効撮像範囲71-3が障害物72により変形している様子が示されている。
なお、監視空間は、X,Y,Z軸からなる右手直交座標系で表し、床面に平行にX軸、Y軸が設定され、鉛直上方がZ軸の正方向に設定される。
操作部3は、管理者が制御部5に対して各種設定を行うための入力手段であり、例えば、タッチパネルディスプレイ等のユーザインターフェース装置である。
記憶部4は、RAM、ROM、ハードディスク等の記憶装置であり、制御部5に接続される。記憶部4は、制御部5で使用されるプログラムやデータを記憶する。これに記憶されるデータには、各種データには、物体情報40、カメラパラメータ42が含まれる。
物体情報40は、監視空間内に検出された移動物体毎の情報であり、物体モデル400、テンプレート402、移動軌跡404及び仮説406を含む。
物体モデル400は、移動物体毎の形状を近似した3次元形状を記述したデータである。追跡対象とする移動物体が立位の人である本実施形態では、物体モデル400は、立位の人を頭部、胴部及び脚部の3つの部分で捉え、各部分の立体形状を、鉛直軸を回転軸とする回転楕円体で近似し、これらを上から順に鉛直方向に整列した3次元形状に設定する。回転楕円体で近似される各部分の中心間の距離の比率及び各部分の短軸半径の比率、各部の長軸半径の比率は全移動物体に共通とする。基準面から頭部中心までの高さh、胴部の最大幅w(胴部短軸直径)は移動物体毎に設定する。また、脚部下端が床面又は地表面等の基準面(Z=0)に接地するという拘束条件を与える。なお、撮像部2との位置関係から、頭部は他の構成部分に隠蔽されにくく、監視画像に良好に現れることから、頭部中心を物体モデル400の座標の基準点としている。物体モデル400は、より単純化して、例えば、1つの回転楕円体で近似してもよい。
テンプレート402は、各移動物体を特徴付ける画像特徴の情報であり、移動物体毎、及び移動物体を撮影する撮像部2毎に記憶される。移動物体の追跡処理において、前後する時刻の監視画像からそれぞれ抽出された移動物体の像を同定するために用いられる。画像特徴量は、追跡処理の過程で移動物体の画像を分析することにより得られる。例えば、本実施形態では画像特徴量として色ヒストグラムを用いる。しかし、画像特徴量は、色ヒストグラムに限られず、輝度ヒストグラム、エッジ強度のヒストグラム、エッジ方向のヒストグラム、テクスチャ、又はこれらのうち複数を組み合わせるなど種々の画像特徴を採用することができる。また、物体モデル400の構成部分毎の画像特徴量をテンプレート402とすることができる。
移動軌跡404は、移動物体毎の位置(物体位置)の履歴を表す情報である。物体位置は頭部中心の座標とする。
仮説406は、移動物体それぞれについて、現時刻における予測位置といずれか1つの撮像部(特定撮像部)との組み合わせを表した情報であり、追跡処理にて移動物体の同定の判定対象とされる1つの状態(仮説)を表す。予測位置は、各時刻において移動物体の存在が予測される位置であり、各移動物体について1又は複数設定される。ここでは各移動物体の予測位置の数をNで表す。移動物体の追跡精度を確保する上では、Nは多いほどよいが、追跡処理を行う時刻間での処理量には限りがあるため、例えば、数百程度に設定される。本実施形態では、仮説406は、複数の予測位置それぞれに対応して設定され、N個の仮説406が設定される。また、N個の仮説406には、それを構成する特定撮像部が異なるものが設定される。
第i番(1≦i≦N)の仮説hは、3次元座標である予測位置P(x,y,z)と撮像部2の識別符号を表す変数cとからなる4次元ベクトル(x,y,z,c)で表される。
仮説hは、「追跡中の移動物体は座標Pに存在し、撮像部cにより撮像された画像を用いて追跡するのが好適である」ことを意味する。N個の仮説それぞれについて、尤もらしさを表す指標値である尤度が算出され、それらの中で最も尤もらしい仮説が物体位置の判定に用いられる。
なお、過去の仮説に基づき現時刻の仮説を設定するために記憶部4には過去複数の時刻(例えば5時刻)の仮説が記憶される。
カメラパラメータ42は、撮像部2が監視空間を透視投影した監視画像を撮影する際の投影条件に関する情報を含む。例えば、実際の監視空間における撮像部2の設置位置及び撮像方向といった外部パラメータ、撮像部2の焦点距離、画角、レンズ歪みその他のレンズ特性や、撮像素子の画素数といった内部パラメータを含む。実際に計測するなどして得られたこれらのパラメータが、移動物体追跡装置1の使用に際して予め操作部3から入力され、記憶部4に格納される。
カメラパラメータ42は、監視空間に仮想的に置かれた物体モデル400を任意の撮像部2の撮像面に投影する処理に用いられる。図3は、当該投影を説明する模式図である。例えば、公知のピンホールカメラモデル等のカメラモデルにカメラパラメータ42を適用して、監視空間の各位置を撮像部2の撮像面76に投影するための座標変換式を得ることができる。図3は、XYZ座標系で定義される仮想空間75に物体モデル400を配置し、物体モデル400を上記座標変換式により撮像部2の撮像面76に投影する様子を示しており、物体モデル400は撮像面76-1〜76-3上の2次元の投影像77-1〜77-3に変換される。
有効撮像範囲44は、撮像部2それぞれの有効撮像範囲を表す情報であり、追跡処理に先立って操作部3から入力され、記憶部4に記憶される。
制御部5は、DSP(Digital Signal Processor)、MCU(Micro Control Unit)等の演算装置を用いて構成され、撮像部2、記憶部4及び出力部6と接続される。制御部5は、記憶部4からプログラムを読み出して実行し、追跡手段50、異常判定手段52等として機能する。そして、撮像部2から入力される監視画像を画像処理して物体の追跡、不審者の検出等を行い、不審者を検出すると異常信号を出力部6へ出力する。
追跡手段50は、撮像部2により撮像された画像から各時刻における移動物体毎の物体位置を追跡する。追跡手段50は、物体像抽出手段500、仮説設定手段502、尤度算出手段504、物体位置判定手段506、物体情報更新手段508を含んでなる。
物体像抽出手段500は、撮像部2により撮影された監視画像から移動物体の物体像を抽出し、抽出された物体像の情報を物体情報更新手段508へ出力する。具体的には、物体像抽出手段500は、監視空間に移動物体が存在しないときに各撮像部2により撮像された画像を背景画像に設定し、記憶部4に格納する。そして、物体像抽出手段500は、各撮像部2から監視画像を入力されると、当該監視画像と、対応する撮像部2の背景画像との差分処理を行い、背景画像に存在しない像を撮像部2毎に検出し、検出した像のうち所定値以上の大きさを有する像を物体像として抽出する。ここで、所定値はノイズによる像を除去するための閾値であり、予め設定される。
仮説設定手段502は、移動物体のそれぞれについて、各時刻において移動物体の存在が予測されるN個の予測位置のそれぞれに撮像部2のいずれか1つを所定基準に従い関連付けて、予測位置と撮像部2を組み合わせたN個の仮説を設定する。時刻tにおける第i番の予測位置Pi,tは過去の物体位置又は過去の予測位置に基づき、次の3つの方法のいずれかにより設定することができる。
〔第1方法〕
一時刻前の物体位置Qt−1を中心に予測位置Pi,tを分布させる方法であり、次式で表される。
i,t=Qt−1+Δ0 ………(1)
Δ0は、平均値を0、分散値をσ0とする3次元正規分布に従う確率にてランダムに生成される拡散量である。σ0のx成分及びy成分には、一時刻に移動物体が移動し得る範囲を考慮して後述するσ1のx成分及びy成分より大きな値が設定される。σ0のz成分には移動物体の上下動を考慮した小さめの値が設定される。
この方法では、Qt−1を中心とし、Qt−1に近いほど密に分布したPi,tが設定される。
〔第2方法〕
現在の物体位置を予測した予測値qを中心に予測位置Pi,tを分布させる方法であり、次式で表される。
i,t=q+Δ1 ………(2)
予測値qは、移動軌跡404として記憶されている過去の複数の物体位置に等速運動モデル等の運動モデル、又はカルマンフィルタ等の予測フィルタを適用することで算出できる。例えば、等速運動モデルを適用した場合、過去の複数の物体位置を平均演算して一時刻前の移動物体の速度Vt−1を算出し、次式に示すように、一時刻前の物体位置Qt−1に速度Vt−1を加算して予測値qを算出することができる。
=Qt−1+Vt−1 ………(3)
Δ1は、平均値を0、分散値をσ1とする3次元正規分布に従う確率にてランダムに生成される拡散量である。σ1には予測値qの算出誤差を考慮した値が設定される。
この方法では、qを中心とし、qに近いほど密に分布したPi,tが設定される。
〔第3方法〕
過去の予測位置から現在の予測位置を予測する方法である。仮説406として記憶されている過去の複数の予測位置に上記運動モデル、又は上記予測フィルタを適用して予測値qi,tを算出し、次式に示すように、予測値qi,tに拡散量Δ2を加算することで算出される。
i,t=qi,t+Δ2 ………(4)
等速運動モデルを適用した場合、過去の複数の予測位置を平均演算して一時刻前の予測位置の速度Vi,t−1を算出し、一時刻前の予測位置Pi,t−1に速度Vi,t−1を加算して予測値qi,tを算出することができる。
i,t=Pi,t−1+Vi,t−1 ………(5)
拡散量Δ2は平均値を0、分散値をσ2とする3次元正規分布に従う確率にてランダムに生成される。拡散量Δ2はPi,t−1とPj,t−1とが同一であってもPi,tとPj,tとが同一となることを避けるために設定されている。σ2の各成分には上述したσ1の対応する成分より小さい値が設定される。
以上、予測位置の設定について3種類の方法を説明した。次に仮説406における撮像部2の設定について述べる。撮像部2の中にはその有効撮像範囲内に処理対象の移動物体を含まず、当該移動物体の追跡に関して無意味な撮像部2が存在し得る。有限個の仮説406の中に無意味な仮説が含まれれば意味のある仮説の密度が低下し、追跡精度が低下する。また無駄な処理が発生する。
そこで、記憶部4に設定された有効撮像範囲44に基づいて、移動物体の予測位置Pi,tと各撮像部2の有効撮像範囲とを比較して当該予測位置Pi,tを自身の有効撮像範囲に含む撮像部2、すなわち現時刻において当該移動物体を観測可能な撮像部2(監視可能撮像部)を求める。そして、監視可能撮像部のいずれか1つを特定撮像部として当該予測位置Pi,tに関連付けて、仮説406を設定する。
すなわち、予測位置Pi,tの分布範囲と各有効撮像範囲44とを比較して、分布範囲と重複する有効撮像範囲44を全て列挙する。そして、列挙された有効撮像範囲44に対応する撮像部2の中から予測位置Pi,tと関連付ける撮像部ci,tを選出する。
なお、撮像部ci,tの選出に際しては、予測位置Pi,tと各撮像部2の有効撮像範囲44とを直接比較してもよい。また、上述した現在の物体位置の予測値qを中心とする予め設定された大きさの円を分布範囲とみなして、当該円の範囲と各有効撮像範囲44とを比較してもよい。
これにより、移動物体のそれぞれに対し現に当該移動物体を観測可能な撮像部cが組み込まれた仮説hが設定されるので、追跡精度の向上を図ることができ、また無駄な処理を省くことができる。
ここで、設定できる仮説の数は有限であることから、当該移動物体の追跡に適した撮像部2が組み込まれた仮説の密度を高く維持することが望ましい。そこで、移動物体それぞれについて、直前時刻に設定されているN個の仮説406の尤度を算出する。そして、移動物体それぞれについて、現時刻における仮説の特定撮像部別の設定個数に関する比率を、直前時刻における仮説の尤度に関する特定撮像部別の累積値(累積尤度)に応じて設定する。すなわち、現時刻における特定撮像部別の当該仮説の設定個数が、直前時刻の仮説についての特定撮像部別の累積尤度に比例するように、現時刻の仮説についての特定撮像部が設定される。これにより、各移動物体について、高い尤度が算出された撮像部2が組み込まれた仮説406が増加する(増幅される)ので、追跡の精度を高く維持できる。
図4は、この累積尤度に応じた特定撮像部の変更についての説明図である。図4(a)に基づいて、当該変更処理を説明する。まず、処理対象の移動物体に設定されている全仮説h〜hに対して算出された尤度L〜Lを順次累積し、L〜L(1≦k≦N)の累積値SLをこれらの尤度の総和、すなわちSLで除して境界値bを設定する。境界値bは1となる。なお、境界値bは0であるとする。
次に、変更対象の各仮説hに対して(0,1]の範囲で一様性乱数を生成し、当該乱数を(bj−1,b]に含むこととなるインデックスjを検索する。これにより、仮説hに対し尤度に比例した確率で抽選を行い、仮説hが当選したことになる。この抽選結果に基づいて、変更対象の仮説hの撮像部を表す変数cの値を、当選した仮説hの撮像部を表す変数cに設定されている値で変更する。
なお、変更後の撮像部2の決定は図4(b)に示すように、尤度L〜Lを、対応する仮説に組み込まれた撮像部2毎に順次累積して撮像部2毎の境界値を設定し、撮像部2を直接抽選することによっても同様に行うことができる。図4(b)の例では、変更対象の仮説hに関する処理で発生させた乱数が(b,b]の範囲であり、これに対応してhの現時刻におけるcは撮像部2-2を示す値に更新される。
なお、このとき追跡に適した撮像部2に一斉に更新すると、隠蔽状態の変化や予期せぬ運動の変化などにより移動物体を見失い、以降のリカバーが困難となる。そこで、移動物体毎に設定されている複数の仮説406のうち一定の割合Rの仮説に対しては上記更新を行わず、一時刻前に設定された撮像部2との関連付けを維持する。具体的には、仮説h〜hのそれぞれに対して(0,1]の範囲で一様性乱数を生成し、生成された乱数が(0,R]の範囲ならば、直前時刻の特定撮像部の設定を維持し、乱数が(R,1]の範囲ならば、変更対象の仮説に設定し、上述の特定撮像部の更新処理を施す。これにより、割合Rの仮説に慣性が付与され、追跡に適しているとされなかった撮像部2が組み込まれた仮説が適度に残る。そのため、隠蔽状態や運動の変化があっても追跡を継続することが容易となる。例えば、Rは(0,0.5)の範囲で予め設定することができる。
以上では、直前時刻において組み込まれていた撮像部2に基づいて現時刻において組み込むべき撮像部2を決定する処理を説明した。
しかし、移動物体と撮像部2との位置関係は物体の移動に伴い時々刻々と変化する。この変化への対応として、移動物体それぞれについて、直前時刻にて設定されている仮説406を参照し、当該移動物体の現時刻での監視可能撮像部の中に、直前時刻の仮説のいずれとも関連付けられていない未関連の撮像部2が含まれる移動物体を検出する。そして、検出された移動物体に対しては、未関連の撮像部2(新規特定撮像部)との関連付けを含んだ仮説を追加する。
なお、未関連の撮像部2が複数存在する場合は、それぞれの撮像部2を特定撮像部として含んだ仮説を等分に追加する。これにより、移動物体の移動に合わせて現に観測可能な撮像部cが組み込まれた仮説hが追加設定されるので、精度の高い追跡を継続することができる。追加する仮説の予測位置は、上述の第2方法である(2)式により設定することができる。
ここで、単に仮説を追加するだけでは負荷が増大して処理遅延又は処理不能の原因となるため、既に設定されている仮説の一部との入れ替えにより追加を行う。ただし、このとき、入れ替え対象を無作為に選ぶと、隠蔽が少ないとか距離が近いなど追跡に適した撮像部2が組み込まれた仮説が不用意に減少して追跡精度の低下を招く。そこで、未関連の撮像部2の存在が検出された移動物体について、直前時刻の予測位置から現時刻の予測位置を求めて設定されるN個の仮説のうち、尤度算出手段504により算出された尤度が低い順にM(>0)個を削除する。そして、削除した数と同じM個だけ、未関連の撮像部2との関連付けを含んだ仮説を追加する。このように尤度が低い仮説406を優先的に淘汰して追加を行うことで追跡精度の低下と負荷の増大とを防ぐことができる。
削除されずに残った(N−M)個の仮説の予測位置は上述の第3方法である(4)式により設定することができる。また、これらの仮説に組み込む撮像部2は上述した特定撮像部の更新処理(増幅及び慣性付与)により設定できる。
尤度算出手段504は、移動物体の予測位置と撮像部2との組み合わせを入力されると、入力された撮像部2により撮像された画像の当該予測位置における画像特徴と当該移動物体のテンプレート402と比較して尤度を算出し、算出された尤度を出力する。仮説設定手段502により設定された仮説が尤度算出手段504に入力された場合には、当該仮説の尤度が算出され、算出された尤度は当該仮説の評価尺度となる。なお、仮説設定手段502により設定される仮説は、予測位置と撮像部2とが1対1に関連付けられているため、仮説毎の尤度は1つの撮像部2により撮像された画像情報から算出される。そのため、各尤度には隠蔽状態や移動物体との距離が異なる複数の撮像部2についての比較結果が混じり合わず、先鋭な尤度が得られるので、当該尤度により物体位置の判定を精度よく行なうことができる。
図5は尤度算出処理の説明図である。図5を用いて、尤度算出の具体的な処理について説明する。まず、監視空間を模した仮想空間75において、予測位置Pに物体モデル400を配置し、配置した物体モデル400を撮像部cの撮像面76に投影して観測領域77を算出する(図5(a))。観測領域77は、予測位置Pに移動物体が存在するならば撮像部cによる監視画像において当該移動物体が視認可能に投影される領域である。
次に、実際に撮像部cにより撮影された監視画像から、観測領域77に対応する部分の画像特徴を抽出する。続いて、抽出された画像特徴と、テンプレート402として記憶されている移動物体の画像特徴との類似度uを算出し、類似度uに応じた尤度Lを算出する。移動物体の予測位置Pが真の物体位置であれば、観測領域77における画像情報は当該移動物体に関するもののみとなり、高い尤度Lが算出される。一方、予測位置Pが真の物体位置からずれるほど、その観測領域77には背景や他の移動物体に関する画像情報が含まれて、尤度Lは低下する。
ここで、処理対象の移動物体について抽出できる画像特徴の質又は量は当該移動物体の位置又は他の移動物体との位置関係によって異なり、画像特徴の比較結果の信頼性は抽出された画像特徴の質又は量により変動する。そこで、尤度算出手段504は予測位置に応じて類似度uの信頼度を算出する信頼度算出手段504aを備え、算出された信頼度が高いほど高い尤度Lを算出する。これにより、質又は量の面で優れた画像特徴を撮像する撮像部2が組み込まれた仮説hの尤度Lがより高く算出されるので、当該仮説が物体位置の判定に用いられやすくなり、ひいては追跡精度の向上につながる。
撮像部2から予測位置までの距離が近くなるほど移動物体の像は大きく、解像度は高いため類似度uの信頼性は高くなる。逆に距離が遠いほど像は小さく、解像度は低いため類似度uの信頼性は低くなる。そこで、信頼度算出手段504aは、仮説406にて予測位置Pに関連付けられた撮像部cから当該予測位置までの距離dを算出し、距離dが短いほど高い信頼度g(d)を算出することができる。すなわち、この場合、信頼度g(d)は距離dの減少関数によって算出することができる。次式は当該減少関数の一例であり、α、βはα>0,β≧0なる定数である。
(d)=−α・d+β ………(6)
複数の移動物体が存在する監視空間では、他の移動物体に隠蔽されることにより処理対象の移動物体の一部が観測できない場合がある。そこで、信頼度算出手段504aは、撮像部cと予測位置Pとの位置関係に基づいて、当該撮像部cによる監視画像において処理対象の移動物体のそれぞれが他の移動物体により隠蔽される度合いである隠蔽度eを算出し、隠蔽度eが低いほど高い信頼度g(e)を算出する。まず、仮想空間75において、他の移動物体のうち処理対象の予測位置より撮像部cに近い移動物体の物体位置に物体モデルを配置し、配置した物体モデルを撮像部cの撮像面76に投影して、処理対象の移動物体を隠蔽し得る他の移動物体の領域78(以下、隠蔽領域)を算出する。次に、処理対象の移動物体の観測領域77から隠蔽領域78を除去して、補正された観測領域79を算出する(図5(b))。他の移動物体が複数該当する場合は各移動物体についての隠蔽領域78を全て除去する。続いて、観測領域77の面積S1、及び補正された観測領域79の面積S2を計測し、次式により隠蔽度eを求める。面積S1,S2は、それぞれの領域内の画素数を計数して求めることができる。
=|S1−S2|/S1 ………(7)
信頼度g(e)は隠蔽度eの減少関数によって算出することができる。次式は当該減少関数の一例であり、α、βはα>0,β≧0なる定数である。
(e)=−α・e+β ………(8)
さらにテンプレート402を作成したときの隠蔽度(eとする)を画像特徴とともにテンプレート402として記憶させておき、隠蔽度eの影響を考慮して、信頼度g(e)を次の(9)式又は(10)式に基づいて算出することもできる。
(e)=−α・max(e,e)+β ………(9)
(e)=−α・|e−e|+β ………(10)
以上の信頼度を加味した尤度Lは次式で表される。
=g(d)・g(e)・u ………(11)
物体位置判定手段506は、仮説hと当該仮説について算出された尤度Lとの組を入力されると、所定基準を満たす尤度Lが得られた予測位置Pに基づいて、現時刻における移動物体の物体位置を算出する。具体的には、各移動物体について最大の尤度を選出するとともに当該尤度を予め設定された閾値と比較し、最大の尤度が閾値以上であれば当該尤度と組をなしている予測位置を物体位置と判定する。最大尤度が上記閾値未満である移動物体については物体位置なしと判定する。なお、閾値以上の尤度を複数選出し、又は尤度の高い順に上位所定個数の尤度を選出し、選出された尤度と組をなしている予測位置の平均値を物体位置と判定することもできる。このとき、尤度を重みとする重み付き平均値を算出してもよい。
物体情報更新手段508は、追跡中の物体について、移動軌跡404やテンプレート402を更新する処理を行うと共に、新規移動物体の存在を判定し、当該新規移動物体について物体情報40を登録する処理、及び消失物体についての処理を行う。以下、追跡中の物体についての処理、新規物体についての処理、及び消失物体についての処理を順次、説明する。
〔追跡中の物体〕
物体位置判定手段506により物体位置が判定された移動物体について、当該移動物体の移動軌跡404に、当該判定された物体位置を追加記憶させ、当該移動物体のテンプレート402を現時刻の画像特徴により更新する。更新に用いる画像特徴は、仮想空間において当該物体位置に物体モデル400を配置し、更新対象の移動物体に設定されている仮説に含まれている全ての撮像部2の撮像面へ物体モデル400を投影して観測領域を算出し、各撮像部2により撮像された画像の観測領域における画像情報から抽出する。更新は、抽出された画像特徴を、記憶されている画像特徴と置き換えてもよいし、抽出された画像特徴と記憶されている画像特徴とを重み付け平均してもよい。
〔新規物体〕
物体位置判定手段506により物体位置が判定された全ての移動物体の物体モデル400を仮想空間に配置し、全ての撮像部2の撮像面へ物体モデル400を投影して観測領域を算出する。算出された観測領域を物体像抽出手段500にて抽出された物体像から除去して、残余の物体像が移動物体(人)として有効な面積を有していれば、残余の物体像に新規移動物体が存在すると判定する。
当該物体像内に物体位置の候補を複数設定する。また標準的な移動物体の高さ及び幅を基準にして設定される所定範囲内で、物体モデル400の高さ及び幅の候補を複数設定する。候補として設定した高さ及び幅を有する物体モデルを、候補として設定した物体位置に配置して全ての撮像部2の撮像面へ投影する。そして、投影像と物体像との形状を比較し、最も形状が一致する物体位置と、高さ及び幅とを探索的に決定する。また、当該探索により決定された投影像と重なる物体像の領域から画像特徴を抽出する。
こうして得た物体位置、画像特徴、高さ及び幅を新規移動物体の移動軌跡404の初期値、テンプレート402、物体モデル400のパラメータとして記憶部4に登録する。
〔消失物体〕
物体位置判定手段506により物体位置なしと判定された場合、当該移動物体の物体情報40を削除する。
異常判定手段52は、記憶部4に記憶されている移動軌跡404を分析し、長時間滞留している移動物体(不審者)が存在すれば、異常と判定して出力部6へ異常信号を出力する。具体的には、滞留時間を、追跡中の移動物体の移動軌跡404に時刻毎に追加される物体位置の数に基づいて判断し、その数が所定時間(例えば、10分間)以上に相当する移動軌跡404があれば異常と判定する。
出力部6は、センタ装置等の外部装置と通信線により接続され、外部装置へ異常信号を送信する通信回路を備える。
次に、移動物体追跡装置1の動作について説明する。図6は、移動物体追跡装置1の動作の概略のフロー図である。
監視空間が無人であることを確認した管理者が電源を投入すると各部、各手段が動作を始め、制御部5は、記憶部4にカメラパラメータ42及び有効撮像範囲44が記憶されているか否かを確認し(S10)、記憶されていなければ操作部3からこれらのパラメータの入力を受け付け、入力されたパラメータを記憶部4に記憶させる(S15)。
その後、撮像部2から画像が入力されるたびにS20〜S85の一連の処理が繰り返される。
まず、制御部5が撮像部2のそれぞれが新たに撮像した画像(現時刻の画像)を取得すると(S20)、制御部5の物体像抽出手段500は背景画像が記憶部4に記憶されているか否かを確認する(S25)。起動直後であって背景画像が記憶されていなければ(S25にてNO)、制御部5の物体像抽出手段500は、現時刻の各画像を背景画像として記憶部4に記憶させて背景画像を初期化する(S30)。初期化後、処理はS20へ戻される。
一方、背景画像が記憶されていれば(S25にてYES)、制御部5の物体像抽出手段500は現時刻の各画像を対応する背景画像と比較して移動物体の物体像を抽出する(S35)。
物体像が抽出された移動物体に対して、制御部5の仮説設定手段502により移動物体毎にその予測位置を含む仮説が設定され(S40)、また、仮説が検証されて移動物体毎の位置が判定される(S45)。仮説検証処理S45では、制御部5の尤度算出手段504により各移動物体に設定された仮説の尤度が算出され、制御部5の物体位置判定手段506により、基準を満たす尤度が算出された仮説に含まれる予測位置に基づき物体位置が判定される。ちなみにいずれの仮説も基準を満たさなかった移動物体については物体位置なしと判定される。仮説設定処理S40及び仮説検証処理S45の詳細は後述する。
仮説が設定され検証されると、制御部5の物体情報更新手段508は、S45にて物体位置が判定された移動物体、すなわち追跡継続中の移動物体について、移動軌跡404に物体位置を追記し、次時刻に備え現時刻の画像情報を用いてテンプレート402を更新する(S50)。また、制御部5の物体情報更新手段508は、仮説検証処理S45にて物体位置なしが判定された移動物体すなわち監視空間から消失した移動物体の物体情報40を記憶部4から削除する(S50)。さらに、制御部5の物体情報更新手段508は、処理S35にて抽出された物体像と仮説検証処理S45にて判定された物体位置との整合性を確認して新規物体の検出を行い(S55)、新規物体が検出されると(S60にてYES)、現時刻の各画像の情報に基づいて当該新規物体の物体情報40を登録する(S65)。
一方、制御部5の物体像抽出手段500は次時刻に備えて背景画像の更新を行う(S70)。すなわち、処理S35にて物体像が抽出されなかった現画像を用いて記憶部4の背景画像を更新する。更新は現画像による置き換えでもよいし、両画像の荷重平均画像による置き換えでもよい。また、物体像が抽出されなかった領域を部分的に更新してもよい。
こうして追跡が進捗すると、制御部5の異常判定手段52は、更新された移動軌跡404を分析して不審者を検出し(S75)、不審者が検出されれば(S80にてYES)出力部6へ異常信号を出力する(S85)。異常信号が入力された出力部6は該信号をセンタ装置へ送信する。異常信号を受信したセンタ装置は監視員に異常を報知し、表示を見た監視員は不審者の排除などの対処を行う。
以上の処理が終了すると、制御部5は処理を再び処理S20へ戻す。
図7は、仮説設定処理S40の概略のフロー図である。図7を参照して制御部5の仮説設定手段502による仮説設定処理(S40)を説明する。
仮説設定手段502は、各移動物体を順次、処理対象に設定して(S400)、追跡中の全ての移動物体に関して、以下の一連の処理を繰り返す(S412)。
まず、仮説設定手段502は、処理対象の移動物体が新規物体であるか否かを確認する(S401)。当該移動物体の移動軌跡404に含まれる物体位置がただ1つであれば新規物体と判定され(S401にてYES)、仮説設定手段502は以下に述べる仮説の初期化(S402)を行う。まず、仮説設定手段502は、(1)式により移動軌跡404に含まれている一時刻前の物体位置Qt−1の周辺にN個の予測位置Pi,tを設定し、予測位置Pi,tと有効撮像範囲44とを比較して、予測位置Pi,tの分布範囲を観測可能である撮像部2を特定する。次に、仮説設定手段502は、特定された撮像部2と物体位置Qt−1との距離を算出し、また、処理対象の移動物体及び他の移動物体の物体モデル400をそれぞれの一時刻前の物体位置に配置して射影することで処理対象の移動物体の隠蔽度を算出し、例えば、(11)式で表される、距離と隠蔽度との関数である尤度を、特定された撮像部2毎に算出する。続いて、仮説設定手段502は、算出された尤度を用い、例えば、図4(b)を参照して説明したような撮像部2の抽選に基づいて、撮像部2を予測位置Pi,tと関連付けてN個の仮説を設定する。こうして、仮説の初期化が完了すると、処理はS412へ進む。
一方、新規物体でない場合(S401にてNO)、処理はS403へ進み、予測位置の増幅処理(S403)が行われる。すなわち、仮説設定手段502は、一時刻前の仮説h1,t−1〜hN,t−1に対して算出された尤度を用い、図4(a)を参照して説明した仮説の抽選を行って、当選した仮説hj,t−1に組み込まれていた予測位置Pj,t−1を仮説hi,t−1に複製する。ちなみに、この複製処理では、撮像部の変数cj,t−1及び尤度Lは複製されないことに留意する。複数回当選した仮説に組み込まれていた予測位置は増幅され、一度も当選しなかった仮説に組み込まれていた予測位置は淘汰される。
続いて、仮説設定手段502は、S403の処理を経た予測位置Pi,t−1に(4)式及び(5)式を適用して、現時刻の予測位置Pi,tを算出して、当該予測位置を現時刻の仮説hi,tに書き込む(S404)。これにより予測位置は更新されたが、この段階では未だ撮像部ci,tは関連付けられていない。
続いて、仮説設定手段502は、更新処理S404にて算出された予測位置Pi,tを有効撮像範囲44と比較して現時刻の移動物体を観測可能な撮像部2を特定し(S405)、一時刻前の仮説h1,t−1〜hN,t−1を参照して特定された撮像部2の中からいずれの仮説にも組み込まれていない撮像部2を検出し(S406)、検出結果を確認する(S407)。
未関連の撮像部2が検出されなかった場合(S407にてNO)、処理はS408へ進み、撮像部に対する慣性の付与と変更とが行われる。まず、仮説設定手段502は、仮説h1,t〜hN,tの中からR×N個の仮説をランダムに選び、選ばれた仮説hi,tの撮像部ci,tとして、それぞれに対応する一時刻前の仮説hi,t−1に組み込まれていた撮像部ci,t−1を設定することで慣性を付与する(S408)。次に、仮説設定手段502は、処理S408にて選ばれなかった仮説hi,tの撮像部ci,tを一時刻前の仮説h1,t−1〜hN,t−1に対して算出された尤度の撮像部2毎の和に応じた確率にて抽選して設定する(S409)。
一方、未関連の撮像部2が検出された場合(S407にてYES)、処理はS410へ進み、仮説の淘汰と追加が行われる。まず、仮説設定手段502は、一時刻前の仮説h1,t−1〜hN,t−1に対して算出された尤度を参照して、尤度が低い順にM個の仮説を削除することで低尤度の仮説を淘汰する(S410)。また、削除されずに残った(N−M)個の仮説hi,tの撮像部ci,tを処理S408及びS409と同様の処理(慣性付与及び増幅)により設定する。次に、仮説設定手段502は、淘汰処理S410にて削除され欠番となっている仮説の予測位置Pi,tを(2)式によりM個設定し、これらの予測位置に処理S406にて検出された未関連の撮像部2を関連付けてM個の仮説を設定する(S411)。このとき、未関連の撮像部2が複数台(m>1)検出されている場合は、M個のうちM/m個ずつの仮説に順に、検出された撮像部2のそれぞれを関連付ける。
以上の処理を終えると(S412にてYES)、追跡中の全ての移動物体について現時刻の仮説の設定が完了する。その後、制御部5は処理を図6のS45へ戻す。
図8は、仮説検証処理S45の概略のフロー図である。図8を参照して制御部5の仮説設定手段502による仮説検証処理(S45)を説明する。
仮説の検証は追跡中の各移動物体について行われるが、近接する移動物体間では予測位置が重なって分布するため、制御部5の尤度算出手段504は観測領域の算出精度向上を図るべく、撮像部2を順次、処理対象に設定し、全ての撮像部2に関して繰り返すループ処理(S450〜S460)の中で、予測位置と撮像部2との距離順に順次仮説を処理するループ(S453〜S459)を設定する。すなわち、撮像部2に関してのループ処理の中で、制御部5の尤度算出手段504は処理対象の撮像部2が組み込まれている仮説を全て抽出して(S451)、処理対象の撮像部2とこれらの仮説に組み込まれている予測位置との距離をそれぞれ算出し(S452)、算出された距離の昇順で仮説を順次、処理対象に設定して(S453)、設定された全ての仮説に関して繰り返すループ処理を行う。
仮説に関するループ処理の中で、制御部5の尤度算出手段504はまず観測領域を算出する(S454)。すなわち処理対象の仮説に組み込まれている予測位置に物体モデル400を配置して処理対象の撮像部2の撮像面に射影することで全体領域を算出し、既にS458の処理により物体位置が判定されている移動物体があれば当該物体位置に物体モデル400を配置して処理対象の撮像部2の撮像面に射影することで隠蔽領域を算出し、これらの領域から観測領域を算出する。
続いて、制御部5の尤度算出手段504は処理対象の撮像部2により撮像された画像から観測領域内の画像特徴を抽出する(S455)。さらに上記全体領域と観測領域とを用いて隠蔽度を算出する(S456)。また、処理対象の仮説が設定されている移動物体について、処理対象の撮像部2に対応付けて記憶されているテンプレート402と抽出された画像特徴とを比較して類似度を算出する。そして、当該類似度、処理S456にて算出された隠蔽度、及び処理S452にて算出された距離を用いて尤度を算出する(S457)。
続く処理S458にて、制御部5の物体位置判定手段506は、移動物体毎に、既に尤度が算出されている仮説を用いて、当該移動物体の物体位置を判定する。なお、各移動物体に対して設定されたN個の仮説全てについて尤度が算出されるまでは暫定的な判定結果となることに留意する。
以上の処理を全ての撮像部2について終えると(S460にてYES)、全ての移動物体に対して物体位置の最終的な判定が完了した状態となる。その後、制御部5は処理を図6のS50へ戻す。
図9、図10は仮説設定処理S40を説明する模式図である。
図9(a)は、有効撮像範囲71及び仮説406の分布の一例を、監視空間を真上から見た平面図で表している。破線の円は仮説406の分布範囲を表しており、当該円内の点がそれぞれ仮説406に関連付けられた予測位置を表す。図中の(t−5)〜tは時刻を表し、時刻(t−5)は注目している移動物体が新規出現した時刻である。時刻(t−5)において拡散量Δ0により広範囲に分布していた仮説406は、時刻が進むにつれS403の処理により適正範囲に収束する。ちなみに、時刻(t−5)においては当該時刻の分布範囲は有効撮像範囲71-1だけに存在し、これに対応して、時刻(t−5)の仮説406には、撮像部2-1だけが組み込まれる
図9(b)は、予測位置の更新処理S404の一部分の例を示す模式的な平面図であり、仮説h,hそれぞれの時刻(t−1)から時刻tへの更新を示している。○印は予測位置を表しており、当該○の中心が予測位置に対応する。また○印の中に示した数字「1」や「2」は、仮説406において当該予測位置と関連付けられている撮像部cの識別符号であり、「1」を包含した○印で表す仮説h1,t−1は、撮像部2-1が組み込まれており、「2」を包含した○印で表す仮説h2,t−1は、撮像部2-2が組み込まれている。一方、数字を包含しない○印は、撮像部cが未だ組み込まれていないことを表している。
図9(b)に示す予測位置の更新は、(4)式及び(5)式に基づく上述の第3方法によるものである。
図9(c)は、撮像部に対する慣性付与の処理S408の一例を示す模式図である。この例は時刻(t−1)の仮説406に基づいて、時刻tの仮説406を設定する場合を示しており、時刻tの仮説群は、処理S408直後の状態を表しており、一部の仮説だけが、S408により撮像部cが決定された状態である。ちなみに、ここに示す例は、N=20,R=0.3の場合であり、20個の仮説のうち、6個の仮説について「慣性」が付与され、時刻(t−1)と同一の撮像部cが組み込まれる。
ここで、図9(a)に示すように予測位置Pi,tは撮像部2-1の有効撮像範囲71-1から外れた領域にも設定されるが、「慣性」により当該領域にも撮像部2-1が組み込まれた仮説が適度に残る。これにより、注目している移動物体と撮像部2-2との間(図9(a)の△の位置)に他の移動物体が現れ、撮像部2-2の監視画像において注目移動物体が隠蔽されて撮像部2-1の方が追跡に好適となる場合や、注目移動物体がUターンして撮像部2-1の方が追跡に好適となる変化が生じる場合など、状況変化があっても精度の高い追跡を継続できる。
図9(d)は、高尤度撮像部の増幅処理S409の一例を示す模式図であり、図9(c)に示した慣性付与後、さらに増幅処理S409を行った結果を示している。時刻(t−1)では撮像部2-2との距離が近く、撮像部2-2が組み込まれた仮説の尤度が全体的に高い。この結果を受け、撮像部2-2が組み込まれた仮説が増幅され、支配的となる。急激な状況変化がなければこの増幅により追跡の精度が高く維持される。
図10(a)は、有効撮像範囲71及び仮説406の分布の他の例を、監視空間を真上から見た平面図で表している。この例は、時刻(t−1)から時刻tへの変化にて、予測位置Pi,tが撮像部2-3の有効撮像範囲71-3へ進入した場合を示している。
図10(b)は、低尤度撮像部の淘汰処理S410の一例を示す模式図である。この例は、図10(a)の時刻(t−1)から時刻tへの時刻変化にて、M=8とした場合であり、仮説hi,tの設定に際し、時刻(t−1)で尤度の低かった8個の仮説に対応するものが削除されている。
図10(c)は未関連撮像部を含む仮説の追加処理S411の一例を示す模式図である。この例は、図10(b)に示した淘汰処理S410後、追加処理S411を行った結果を示している。時刻tでは、処理S405にて撮像部2-2と撮像部2-3が観測可能な撮像部2として特定される。一方、時刻(t−1)の仮説に組み込まれていた撮像部2は撮像部2-1と撮像部2-2であり、処理S406にて撮像部2-3が未関連の撮像部2として検出される。これに対応して、処理S411により、撮像部2-3が組み込まれた8個の仮説が追加される。注目移動物体は未だ撮像部2-2に近いが、注目移動物体と撮像部2-2との間に他の移動物体が現れるなどの急激な状況変化があっても撮像部2-3が組み込まれた仮説が追加されたので精度の高い追跡を継続できる。
なお、上述の実施形態では、予測位置と撮像部2とを1対1の組にして予測位置と同数の仮説を設定した。別の実施形態では、一つ一つの予測位置に対して、互いに異なる複数の撮像部2を組み合わせ、予測位置と撮像部2とが1対1で組み合わされた、(予測位置の数)×(撮像部2の数)個の仮説を網羅的に設定する。
また、上述の実施形態では、一時刻前に組み込まれていた撮像部2に基づき現時刻に組み込む撮像部2を決定することを基礎とし、未関連の撮像部2が検出されたときに当該撮像部2を組み合わせた仮説を追加した。別の実施形態では、一時刻前に組み込まれていた撮像部2とは関係なく、各時刻において移動物体を観測可能な撮像部2を仮説に組み込む。このような組み込み方は、観測可能な撮像部2が毎時刻変わるような高速の移動物体を追跡する際に有効である。
また、上述の実施形態では、低い尤度が算出されたM個の仮説を削除したときに、慣性付与(S408)及び増幅(S409)を行うことで、残りの(N−M)個の仮説に組み込む撮像部2を設定した(S410)。別の実施形態では、これら(N−M))個の仮説に対し、各仮説と対応する一時刻前の仮説に組み込まれていた撮像部2を組み込む。既に低尤度の仮説は淘汰されており、高尤度の仮説が優先的に残る。そのため、この実施形態によっても追跡の精度を高く維持できる。
本発明の実施形態に係る移動物体追跡装置の概略のブロック構成図である。 監視空間における撮像部の配置を示す模式図である。 監視空間に仮想的に置かれた物体モデルを任意の撮像部の撮像面に投影する処理を説明する模式図である。 累積尤度に応じた特定撮像部の変更についての説明図である。 尤度算出処理の説明図である。 本発明の実施形態に係る移動物体追跡装置の動作の概略のフロー図である。 仮説設定処理の概略のフロー図である。 仮説検証処理の概略のフロー図である。 仮説設定処理を説明する模式図である。 仮説設定処理を説明する模式図である。
符号の説明
1 移動物体追跡装置、2 撮像部、3 操作部、4 記憶部、5 制御部、6 出力部、40 物体情報、42 カメラパラメータ、44 有効撮像範囲、50 追跡手段、52 異常判定手段、400 物体モデル、402 テンプレート、404 移動軌跡、406 仮説、500 物体像抽出手段、502 仮説設定手段、504 尤度算出手段、504a 信頼度算出手段、506 物体位置判定手段、508 物体情報更新手段。

Claims (7)

  1. 複数の撮像部それぞれがお互いに異なる視点から監視空間を撮影した時系列の監視画像に基づいて、前記監視空間内の1又は複数の移動物体を追跡する追跡部と、前記移動物体毎に画像特徴及び過去の位置情報を記憶する記憶部とを備えた移動物体追跡装置であって、
    前記追跡部は、
    前記移動物体毎の少なくとも過去の前記位置情報から現時刻における複数の予測位置を求める位置予測手段と、
    前記移動物体毎に、前記撮像部の一つを特定した特定撮像部と一つの前記予測位置とを対応付けて仮説とする仮説設定手段と、
    前記仮説毎に、当該仮説の特定撮像部が撮影した現時刻の前記監視画像における当該仮説の前記予測位置での画像特徴を抽出し、当該画像特徴と前記記憶部に記憶された当該移動物体の前記画像特徴とを比較し、当該仮説の尤度を算出する尤度算出手段と、
    所定値を超える前記尤度が得られた前記複数の仮説に基づいて、現時刻における当該移動物体の現在位置を求める物体位置判定手段と、
    を有することを特徴とする移動物体追跡装置。
  2. 請求項1に記載の移動物体追跡装置において、
    前記記憶部は、前記撮像部それぞれの撮像範囲を記憶し、
    前記仮説設定手段は、前記複数の撮像部のうち現時刻における前記予測位置を前記撮像範囲に含む監視可能撮像部を求め、当該監視可能撮像部を前記特定撮像部として、前記仮説を設定すること、
    を特徴とする移動物体追跡装置。
  3. 請求項2に記載の移動物体追跡装置において、
    前記仮説設定手段は、前記監視可能撮像部のうちに直前時刻の前記特定撮像部に含まれていない新規特定撮像部が存在する前記移動物体に対して、少なくとも前記新規特定撮像部を用いた前記仮説を設定すること、
    を特徴とする移動物体追跡装置。
  4. 請求項3に記載の移動物体追跡装置において、
    現時刻にて設定される前記仮説は、前記新規特定撮像部を用いて設定される新規仮説を除き、直前時刻にて設定された複数の前記仮説それぞれの前記予測位置を更新して設定される更新仮説であり、
    前記仮説設定手段は、前記新規仮説を設定する場合には、前記更新仮説のうち直前時刻での前記尤度が低い順に、前記新規仮説の設定個数に相当する個数を削除すること、
    を特徴とする移動物体追跡装置。
  5. 請求項2から請求項4のいずれか1つに記載の移動物体追跡装置において、
    前記仮説設定手段は、前記移動物体それぞれについて、現時刻における前記仮説の前記特定撮像部別の設定個数に関する比率を、直前時刻における前記仮説の前記尤度に関する前記特定撮像部別の累積値に応じて設定すること、
    を特徴とする移動物体追跡装置。
  6. 請求項5に記載の移動物体追跡装置において、
    前記仮説設定手段は、前記移動物体それぞれについての前記仮説のうち所定割合の設定個数分に関してのみ、前記累積値に応じて前記特定撮像部別の前記設定個数の比率を設定すること、
    を特徴とする移動物体追跡装置。
  7. 請求項1から請求項6のいずれか1つに記載の移動物体追跡装置において、
    前記尤度算出手段は、
    前記仮説毎の前記画像特徴に関する比較について、当該仮説にて組み合わされている前記特定撮像部と前記予測位置との距離に応じた信頼度を算出する信頼度算出手段を有し、
    前記信頼度を加味して前記尤度を算出すること、
    を特徴とする移動物体追跡装置。
JP2008210279A 2008-08-19 2008-08-19 移動物体追跡装置 Expired - Fee Related JP5180733B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008210279A JP5180733B2 (ja) 2008-08-19 2008-08-19 移動物体追跡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008210279A JP5180733B2 (ja) 2008-08-19 2008-08-19 移動物体追跡装置

Publications (2)

Publication Number Publication Date
JP2010049296A true JP2010049296A (ja) 2010-03-04
JP5180733B2 JP5180733B2 (ja) 2013-04-10

Family

ID=42066352

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008210279A Expired - Fee Related JP5180733B2 (ja) 2008-08-19 2008-08-19 移動物体追跡装置

Country Status (1)

Country Link
JP (1) JP5180733B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102156989A (zh) * 2011-02-25 2011-08-17 崔志明 视频帧中车辆遮挡检测与分割方法
CN102176285A (zh) * 2011-02-28 2011-09-07 江苏怡和科技股份有限公司 视频流中的车辆行为模式判定方法
JP2012108798A (ja) * 2010-11-18 2012-06-07 Secom Co Ltd 移動物体追跡装置
JP2012159957A (ja) * 2011-01-31 2012-08-23 Secom Co Ltd 移動物体追跡装置
JP2012159958A (ja) * 2011-01-31 2012-08-23 Secom Co Ltd 移動物体追跡装置
WO2012133058A1 (ja) * 2011-03-28 2012-10-04 株式会社ニコン 電子機器及び情報伝達システム
JP2012205240A (ja) * 2011-03-28 2012-10-22 Nikon Corp 電子機器及び情報伝達システム
JP2012205242A (ja) * 2011-03-28 2012-10-22 Nikon Corp 電子機器及び情報伝達システム
JP2013058132A (ja) * 2011-09-09 2013-03-28 Kddi Corp 被写体3次元領域推定方法およびプログラム
JP2013522747A (ja) * 2010-03-17 2013-06-13 アイシス イノベーション リミテッド ビデオデータ中のターゲットの追跡方法
WO2013108686A1 (ja) * 2012-01-17 2013-07-25 ソニー株式会社 情報処理装置および方法、並びにプログラム
JPWO2013001704A1 (ja) * 2011-06-30 2015-02-23 日本電気株式会社 解析エンジン制御装置
JP2016518664A (ja) * 2013-04-26 2016-06-23 ユニヴエルシテ・ピエール・エ・マリー・キウリー・パリ・シス 対象物の視覚追跡
JP2017073071A (ja) * 2015-10-09 2017-04-13 富士通株式会社 同一判定プログラム、同一判定装置、および同一判定方法
US10445887B2 (en) 2013-03-27 2019-10-15 Panasonic Intellectual Property Management Co., Ltd. Tracking processing device and tracking processing system provided with same, and tracking processing method
WO2021210299A1 (ja) * 2020-04-15 2021-10-21 ソニーグループ株式会社 情報処理装置と情報処理方法およびプログラム
US20220051013A1 (en) * 2020-08-11 2022-02-17 Disney Enterprises, Inc. Item location tracking via image analysis and projection

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116437989A (zh) * 2020-11-03 2023-07-14 涛普高尔夫瑞典公司 使用由一个或多个传感器登记的未经验证的检测进行三维物体跟踪

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002522980A (ja) * 1998-08-07 2002-07-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 複数カメラシステム中の画像追跡
JP2002218449A (ja) * 2001-01-17 2002-08-02 Atr Media Integration & Communications Res Lab 移動物体追跡装置
JP2007249309A (ja) * 2006-03-13 2007-09-27 Toshiba Corp 障害物追跡装置及びその方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002522980A (ja) * 1998-08-07 2002-07-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 複数カメラシステム中の画像追跡
JP2002218449A (ja) * 2001-01-17 2002-08-02 Atr Media Integration & Communications Res Lab 移動物体追跡装置
JP2007249309A (ja) * 2006-03-13 2007-09-27 Toshiba Corp 障害物追跡装置及びその方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200600075006; 麻生 英樹: 'パーティクルフィルタを用いたベイズ推論のユーザインタフェースへの応用' 電子情報通信学会技術研究報告 第105巻 第342号, 20051011, pp.31-36, 社団法人電子情報通信学会 *
JPN6012028484; 麻生 英樹: 'パーティクルフィルタを用いたベイズ推論のユーザインタフェースへの応用' 電子情報通信学会技術研究報告 第105巻 第342号, 20051011, pp.31-36, 社団法人電子情報通信学会 *

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013522747A (ja) * 2010-03-17 2013-06-13 アイシス イノベーション リミテッド ビデオデータ中のターゲットの追跡方法
JP2012108798A (ja) * 2010-11-18 2012-06-07 Secom Co Ltd 移動物体追跡装置
JP2012159957A (ja) * 2011-01-31 2012-08-23 Secom Co Ltd 移動物体追跡装置
JP2012159958A (ja) * 2011-01-31 2012-08-23 Secom Co Ltd 移動物体追跡装置
CN102156989A (zh) * 2011-02-25 2011-08-17 崔志明 视频帧中车辆遮挡检测与分割方法
CN102176285A (zh) * 2011-02-28 2011-09-07 江苏怡和科技股份有限公司 视频流中的车辆行为模式判定方法
WO2012133058A1 (ja) * 2011-03-28 2012-10-04 株式会社ニコン 電子機器及び情報伝達システム
JP2012205240A (ja) * 2011-03-28 2012-10-22 Nikon Corp 電子機器及び情報伝達システム
JP2012205242A (ja) * 2011-03-28 2012-10-22 Nikon Corp 電子機器及び情報伝達システム
CN103460718A (zh) * 2011-03-28 2013-12-18 株式会社尼康 电子设备以及信息传递系统
JPWO2013001704A1 (ja) * 2011-06-30 2015-02-23 日本電気株式会社 解析エンジン制御装置
US9607008B2 (en) 2011-06-30 2017-03-28 Nec Corporation Analysis engine control device
JP2013058132A (ja) * 2011-09-09 2013-03-28 Kddi Corp 被写体3次元領域推定方法およびプログラム
CN104041017A (zh) * 2012-01-17 2014-09-10 索尼公司 信息处理设备和方法及程序
JPWO2013108686A1 (ja) * 2012-01-17 2015-05-11 ソニー株式会社 情報処理装置および方法、並びにプログラム
US9412180B2 (en) 2012-01-17 2016-08-09 Sony Corporation Information processing apparatus, information processing method, and program
WO2013108686A1 (ja) * 2012-01-17 2013-07-25 ソニー株式会社 情報処理装置および方法、並びにプログラム
CN104041017B (zh) * 2012-01-17 2017-08-11 索尼公司 信息处理设备和方法
US10445887B2 (en) 2013-03-27 2019-10-15 Panasonic Intellectual Property Management Co., Ltd. Tracking processing device and tracking processing system provided with same, and tracking processing method
JP2016518664A (ja) * 2013-04-26 2016-06-23 ユニヴエルシテ・ピエール・エ・マリー・キウリー・パリ・シス 対象物の視覚追跡
JP2017073071A (ja) * 2015-10-09 2017-04-13 富士通株式会社 同一判定プログラム、同一判定装置、および同一判定方法
WO2021210299A1 (ja) * 2020-04-15 2021-10-21 ソニーグループ株式会社 情報処理装置と情報処理方法およびプログラム
US20220051013A1 (en) * 2020-08-11 2022-02-17 Disney Enterprises, Inc. Item location tracking via image analysis and projection
US12051239B2 (en) * 2020-08-11 2024-07-30 Disney Enterprises, Inc. Item location tracking via image analysis and projection

Also Published As

Publication number Publication date
JP5180733B2 (ja) 2013-04-10

Similar Documents

Publication Publication Date Title
JP5180733B2 (ja) 移動物体追跡装置
CN109076198B (zh) 基于视频的对象跟踪遮挡检测系统、方法和设备
US10417503B2 (en) Image processing apparatus and image processing method
US9743014B2 (en) Image recognition system, image recognition apparatus, image recognition method, and computer program
JP6464337B2 (ja) シーン解析を使用する交通カメラキャリブレーション更新
JP5603403B2 (ja) 対象物計数方法、対象物計数装置および対象物計数プログラム
US8965050B2 (en) Behavior analysis device
JP5459674B2 (ja) 移動物体追跡システムおよび移動物体追跡方法
JP5687082B2 (ja) 移動物体追跡装置
CN104966062B (zh) 视频监视方法和装置
JP5027741B2 (ja) 画像監視装置
US10692225B2 (en) System and method for detecting moving object in an image
CN112633096B (zh) 客流的监测方法、装置、电子设备及存储介质
CN103679742B (zh) 对象跟踪方法和装置
WO2019220589A1 (ja) 映像解析装置、映像解析方法、及びプログラム
KR20170092662A (ko) 이미지 처리 방법
JP5027758B2 (ja) 画像監視装置
KR101840042B1 (ko) 복합 가상 팬스 라인 설정 방법 및 이를 이용한 침입 감지 시스템
WO2020065852A1 (ja) 認証システム、認証方法、及び、記憶媒体
KR101469099B1 (ko) 사람 객체 추적을 통한 자동 카메라 보정 방법
JP4610005B2 (ja) 画像処理による侵入物体検出装置および方法およびプログラム
CN110580708B (zh) 一种快速移动检测方法、装置及电子设备
JP2012079340A (ja) 不審対象検知システム、不審対象検知装置、不審対象検知方法及びプログラム
JP7243372B2 (ja) 物体追跡装置および物体追跡方法
CN108111802A (zh) 视频监控方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130111

R150 Certificate of patent or registration of utility model

Ref document number: 5180733

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees