JP5053136B2 - 移動物体追跡装置 - Google Patents

移動物体追跡装置 Download PDF

Info

Publication number
JP5053136B2
JP5053136B2 JP2008064795A JP2008064795A JP5053136B2 JP 5053136 B2 JP5053136 B2 JP 5053136B2 JP 2008064795 A JP2008064795 A JP 2008064795A JP 2008064795 A JP2008064795 A JP 2008064795A JP 5053136 B2 JP5053136 B2 JP 5053136B2
Authority
JP
Japan
Prior art keywords
viewpoint
moving object
feature
moving
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008064795A
Other languages
English (en)
Other versions
JP2009223434A (ja
Inventor
秀紀 氏家
賢二 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2008064795A priority Critical patent/JP5053136B2/ja
Publication of JP2009223434A publication Critical patent/JP2009223434A/ja
Application granted granted Critical
Publication of JP5053136B2 publication Critical patent/JP5053136B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理により移動物体を追跡する移動物体追跡装置に関し、特に移動物体の見え方が変化しても正確な追跡を続けることができる移動物体追跡装置に関する。
監視空間に長時間滞留している不審人物等を監視するために、移動物体を画像処理により追跡することが行われている。追跡は、過去の物体像から得られた画像特徴をテンプレートとして保存し、新たに得られた物体像を画像特徴が一致するテンプレートと対応付けることで行われるが、画像内における移動物体の見え方は刻々と変化するため、1つのテンプレートでは移動物体を追跡し続けることが困難となる。
従来、時刻の異なる複数のテンプレート画像を保存してテンプレート画像それぞれについてマッチング処理を行い、入力画像中の対象物体像との一致度が最大あるいは所定値以上であるテンプレート画像に基づき対象物体を追跡することにより、移動物体の見え方が変化しても追跡を続けられるようにしていた。
特開2001−60269号公報
しかしながら、従来技術においては、複数の移動物体が存在する監視空間において対応付けを誤り、追跡に失敗する問題があった。
すなわち、従来技術では保存した複数のテンプレート画像のそれぞれについてマッチングを行うため、複数のテンプレート画像のいずれかが別の物体と一致する機会が多くなる。
例えば白いシャツにグレーの上着を羽織った人物Aがカメラに向かって進んできた状態から進行方向を変え、カメラに対して背を向けた状態で、白いシャツを着た人物Bとすれ違うと、進行方向を変える前に保存された人物Aのテンプレート画像が人物Bに一致してしまい追跡に失敗する。
また、複数のテンプレート画像のそれぞれについてマッチングを行うので、テンプレート画像の数に応じた処理負荷がかかってしまっていた。
本発明は、上記課題を解消するためになされたものであり、移動物体の見え方が変化しても誤った対応付けが発生しにくい移動物体追跡装置の提供を目的とする。
かかる課題を解決するために、本発明の移動物体追跡装置は、監視空間を順次撮像して移動物体を含む監視画像を出力する撮像手段と、監視画像から移動物体の物体像及び位置を抽出する物体像抽出手段と、物体像の特徴量を抽出する特徴量抽出手段と、前後する時刻に抽出された物体像のうち特徴量が類似する物体像を対応付けることにより移動物体の位置を追跡する追跡手段と、を備えた移動物体追跡装置において、追跡手段は、前後する時刻に抽出された移動物体の位置から当該移動物体の移動方向を算出する方向算出手段と、各時刻における移動物体の位置及び前記移動方向に基づき、当該時刻における撮像手段から当該移動物体への視点を判定する視点判定手段と、過去に抽出された特徴量を視点ごとに記憶する視点別特徴量記憶手段と、視点判定手段により判定された現時刻における視点に応じた特徴量を視点別特徴量記憶手段から取得する特徴量取得手段と、特徴量取得手段が取得した特徴量と特徴量抽出手段が抽出した特徴量とを比較して物体像を当該移動物体に対応付ける対応付け手段と、を備えたことを特徴とする。
かかる構成によれば、移動物体への視点に応じた特徴量を用いて対応付けを行うので、見え方が変化する複数の移動物体が混在する環境下において誤った対応付けが生じることなく追跡を続行することができる。
好適には、上記移動物体追跡装置において、視点判定手段は、移動方向を撮像手段から移動物体の位置への方位を基準とした相対移動方向に変換し、当該相対移動方向に対して予め設定された視点を判定しても良い。
また、好適には、上記移動物体追跡装置において、視点判定手段は、移動物体の位置及び移動方向の組み合わせから当該移動物体の視点を判定しても良い。
また、上記移動物体追跡装置において、特徴量取得手段は、相対移動方向が視点別特徴量記憶手段にて特徴量を記憶している複数の視点の中間方向である場合に、当該複数の視点の特徴量を相対移動方向に応じた割合で合成しても良い。
かかる構成によれば、現時刻の視点と一致する視点の物体像が過去に出現していなくても、記憶している複数の特徴量を合成して現時刻の視点に応じた特徴量を取得できる。
また、上記移動物体追跡装置において、一時刻前に抽出された特徴量を記憶する前時刻特徴記憶手段、をさらに備え、方向算出手段は前後する時刻に抽出された移動物体の位置から当該移動物体の速さをさらに算出し、特徴量取得手段は、速さが所定値未満である場合は前時刻特徴記憶手段に記憶されている特徴量を取得しても良い。
かかる構成によれば、移動物体の向きが不定で視点が不明となる停止状態乃至低速状態の場合に視点別の特徴量に代えて一時刻前の特徴量を取得する。そのため、視点が不明であっても追跡を続けることができる。
また、上記移動物体追跡装置において、通信網により接続されて他の移動物体追跡装置との通信を行う通信手段と、対応付け手段にて対応付けできない新規移動物体の物体像が存在する場合に当該物体像の情報を含む特徴量要求信号を他の移動物体追跡装置へ送信し、他の移動物体追跡装置から特徴量要求信号を受信した場合に当該特徴量要求信号に含まれる物体像の情報に基づいて視点別特徴量記憶手段に記憶している特徴量の中から新規移動物体の特徴量を選択して返信し、他の移動物体追跡装置から新規移動物体の特徴量を受信した場合に受信した特徴量を視点別特徴量記憶手段に追加記憶する特徴量交換手段と、をさらに備えても良い。
かかる構成によれば、未だ収集できていない新規移動物体の視点別の特徴量を、既に収集している他の移動物体追跡装置から取得できる。そのため、視点別の特徴量を用いた高精度な追跡処理が短期間で開始可能となる。
本発明によれば、移動物体への視点が変化しても誤った対応付けが発生しにくく、正確な追跡を続けることができる。
本発明の原理は、人物等の移動物体が移動中は専ら移動方向に前面を向けているとモデル化できること、このモデルでは監視空間を撮像した監視画像における移動物体の位置及び移動方向を基に撮像部から移動物体への視点、すなわち監視画像において移動物体のどの面が撮像されているかを判定できることにある。この原理に基づいて移動物体への視点を判定し、視点ごとに特徴量を記憶するとともに、記憶した特徴量の中から視点に応じた特徴量を選択的に用いて対応付けを行うことで誤った対応付けを大幅に減少させることができる。
以下、本発明の好適な実施形態として、上記視点判定を行ないつつ監視空間内を移動する人物を追跡し、長時間滞留する不審人物を検知する移動物体追跡装置の例について説明を行う。
<第一の実施形態>
本発明の第一の実施形態として、監視カメラを天井に設置して人物を追跡する移動物体追跡装置1について説明する。
[第一の実施形態の構成]
図1は、移動物体追跡装置1の構成を示したものである。
移動物体追跡装置1は、監視カメラ装置である撮像部2、ROM、RAM等のメモリ装置である記憶部3、DSP(ディジタル・シグナル・プロセッサ)等の演算装置である制御部4、LANインターフェース回路等の通信装置である通信部5を含んで構成される。制御部4は撮像部2、記憶部3及び通信部5と接続され、通信部5は更に通信網6を介してセンタ装置等の外部装置と接続される。
まず、撮像部2と監視画像について説明する。
撮像部2は、テナントビルのエントランス等の監視空間の天井に光軸を鉛直下方に向けて設置され、監視空間を所定時間間隔で撮像し、撮像した監視画像を順次、制御部4へ出力する。撮像部2のレンズは等距離射影型の魚眼レンズである。以下、上記所定時間間隔で刻まれる時間の単位を時刻と称する。
図2は、監視画像200のイメージ図である。監視空間は半径Rの円形の領域内に映される。監視画像200の中心に原点を、横方向にX軸を、縦方向にY軸を設定する。
図2は、白いシャツと黒い上着を着用した人物が監視空間内の様々な位置で移動している様子を表している。物体前面には白色が多く含まれ、物体背面には黒色が多く含まれる。物体像251,257は物体前面への視点で撮像され、物体像252,256は物体上面への視点で撮像され、物体像253,255は物体背面への視点で撮像され、物体像254,258は物体側面への視点で撮像されている。図中の矢印261,262,263,264,265,266,267,268は、移動物体の移動方向を表している。
図2(a)内での各物体像の対比から、移動方向が同じであっても、撮像部2から移動物体への視点は移動物体の位置(以下、物体位置と称する)によって異なる場合があると分かる。
また、図2(a)の物体像251と図2(b)の物体像255の対比、図2(a)の物体像253と図2(b)の物体像257の対比から、物体位置が同じであっても撮像部2から移動物体への視点は移動方向によって異なる場合があると分かる。
図3は、図2の相対移動方向θと視点の関係を説明する図である。図中の点271,273,274,275,277,278は、物体位置(重心)を表している。また、図中の矢印281,283,284,285,287,288は、撮像部2から物体位置への方位を表している。
方位は、撮像部2を通る鉛直軸回りどの方向に移動物体が存在するかを表す値である。本形態では、撮像部2が真下に向けられているため、監視画像の原点と物体位置とを結んだ直線がX軸となす角度として方位を求めることができる。
ここで、図2と図3を対比すると、方位と移動方向と視点には一定の関係があることが分かる。すなわち、物体前面への視点で撮像されている物体像251,257についてはいずれも方位に対し移動方向が180°の角度を成し、物体背面への視点で撮像されている物体像253,255についてはいずれも方位に対し移動方向が0°の角度を成し、物体側面への視点で撮像されている物体像254,258についてはいずれも方位に対し移動方向が90°の角度を成している。
方位は撮像部2から移動物体への視線方向に対応し、移動方向は移動物体が向いている方向に対応する。相対移動方向θは撮像部2の視線方向が移動物体の前面からどの程度傾いているかを表しており、相対移動方向θから移動物体が鉛直軸周りにどの程度回転した向き(姿勢)で撮像されているかを判定することができる。
つまり、移動物体の姿勢の変化により変わる撮像部2から移動物体への視点は、当該移動物体の移動方向を撮像部2から当該移動物体の物体位置への方位を基準にして変換した相対移動方向θにより判定することができる。
また、撮像部2が監視空間の上方に設置されている場合、物体位置が撮像部2に近づくほど物体像において物体上面の特徴量が支配的となる現象が生じる。そこで、物体上面への視点を考慮することで更に精密な視点判定ができる。
そこで、物体上面の特徴量が殆ど寄与しない領域に移動物体が位置する場合に、相対移動方向θのみによる視点判定を行うものとする。この領域を画像中心からの距離がR2以上の領域とする。
一方、移動物体が撮像部2から十分近い領域に位置する場合は物体上面への視点と判定できる。この領域を画像中心からの距離がR1未満の領域とする。図2の物体像252と物体像256を対比すると、物体上面への視点は、移動方向とは関係なく物体位置のみから判定できることが分かる。
尚、画像中心からの距離がR1以上R2未満の領域は中間的な視点となる。
以下、移動物体追跡装置1を構成する残りの各部について説明する。
記憶部3は、各種プログラム及び各種データを記憶することができ、制御部4からの要求に応じてこれらの情報を読み書きする。
各種データとしては、追跡中の移動物体の移動軌跡30、視点別特徴量32及び前時刻特徴量34などがある。同一の移動物体に係る移動軌跡30、視点別特徴量32及び前時刻特徴量34には共通の識別子が付与され、情報間の対応付けが可能となっている。
移動軌跡30は、移動物体ごとの物体位置の履歴である。
視点別特徴量32は、移動物体を特徴付ける特徴量を視点ごと移動物体ごとに記憶した情報である。本形態では、物体前面、物体背面、物体側面、物体上面の4つの代表的な視点での特徴量を記憶する。
前時刻特徴量34は、一時刻前に得られた移動物体ごとの特徴量である。
図4は、記憶部3に記憶している特徴量を例示する図である。
移動物体#1,#2は一時刻前までに物体前面、物体背面、物体側面、物体上面への各視点で撮像されて4つの視点での視点別特徴量32が記憶されている。移動物体#3は一時刻前までに物体背面、物体側面の視点で撮像されたが物体前面、物体上面への視点では撮像されておらず物体前面、物体上面への視点での視点別特徴量32は未だ記憶されていない。移動物体#4は一時刻前に新規出現した移動物体であり視点別特徴量32は未だ記憶されていない。前時刻特徴量34は全ての移動物体について記憶されている。
制御部4は、撮像部2からの監視画像を画像処理することにより人物を追跡して不審人物を検知し、不審人物が検出されると通信部5に異常信号を出力する。
制御部4は、物体像抽出手段40、特徴量抽出手段42、追跡手段44、異常判定手段46等の動作を記述したプログラムを記憶部3から読み出して実行することにより、各種の処理を行う手段として動作する。以下、これらの各手段について説明する。
物体像抽出手段40は、監視画像から移動物体の像である物体像を抽出し、物体像の情報を特徴量抽出手段42と追跡手段44に出力する。
そのために、物体像抽出手段40は、起動直後を含む移動物体が存在しないときに入力された監視画像を背景画像として記憶部3に記憶させ、新たに入力された監視画像と背景画像との差分処理により背景画像に存在しない像を検出し、検出した像のうち予め設定された大きさを超える像を物体像として抽出する。また、物体位置として物体像の重心を算出する。
特徴量抽出手段42は、物体像抽出手段40で抽出されたそれぞれの物体像を画像処理して当該物体像を特徴付ける特徴量を計算し、追跡手段44に出力する。特徴量抽出手段42が抽出する特徴量には色ヒストグラムが含まれる。
色ヒストグラムは、物体像内の色分布を表す特徴量であり、物体像内の各ピクセルの輝度値の度数を計数し、計数した度数を全ピクセル数で割って正規化することで計算される。監視画像が各ピクセルにY成分、U成分、V成分の3成分を持つYUV表色系の画像情報であれば、色ヒストグラムはY軸、U軸、V軸を軸とする色空間のヒストグラムとなる。
追跡手段44は、前後する時刻に抽出された物体像のうち、特徴量が類似する物体像を対応付けることにより物体位置を追跡する。一時刻前までに物体像から抽出された特徴量は記憶部3に記憶されており、現時刻の物体像の特徴量は特徴量抽出手段42により抽出されている。追跡手段44はこれらの特徴量を比較して最も類似する物体像同士を対応付ける。対応付けられた現時刻の物体像の物体位置は移動軌跡30に加えられる。
このとき、追跡手段44は記憶部3の特徴量の中から現時刻の移動物体への視点に応じた特徴量を用いて対応付けを行う。
追跡手段44は、方向算出手段440、位置予測手段441、視点判定手段442、特徴量取得手段444、対応付け手段446及び特徴量更新手段448を含む。
方向算出手段440は、時系列の物体位置が入力されると、入力された物体位置を分析して移動方向ψと速さvを算出し、算出結果を出力する。具体的には、入力された物体位置に公知の移動平均法などを適用することで速度ベクトルが算出され、速度ベクトルの大きさとして速さvが算出され、速度ベクトルの向きとして移動方向ψが算出される。
位置予測手段441は、移動物体の一時刻前の物体位置、当該移動物体の移動方向ψと速さvが入力されると、現時刻の物体位置の予測値である予測位置を算出して出力する。予測位置は一時刻前の物体位置に向きψ大きさvを有するベクトル(速度ベクトル)を加算することで算出される。
視点判定手段442は、移動物体の位置、移動方向ψ及び速さvが入力されると、これらの情報に基づき、撮像部2から各移動物体への視点を判定し、判定結果である視点情報を出力する。
視点情報は、視点種別、相対移動方向θ及び距離rを含む。
相対移動方向θは、移動物体の移動方向ψを、撮像部2から物体位置への方位ξを基準とした相対的な方向に変換した値である。方位ξは物体位置(x,y)から下式1によって算出され、相対移動方向θは移動方向ψと方位ξから下式2によって算出される。
ξ=arctan(y/x) (式1)
θ=ψ−ξ (式2)
尚、相対移動方向θは原点から物体位置へのベクトルをC、速度ベクトルをVとしたときに次式によっても算出できる。
θ=arccos(C・V/|C||V|) (式3)
距離rは、撮像部2から移動物体までの距離であり、物体位置(x,y)から算出される。距離rは物体位置が撮像部2に十分に近いか、遠いかを判定するために用いられる。
視点判定手段442が判定する視点種別は、前述した「物体上面への視点」「物体背面への視点」「物体側面への視点」「物体前面への視点」の4種類に「中間視点」「視点不明」の2種類を加えた計6種類である。
視点種別は、相対移動方向θ、距離r及び速さvを基に次のようにして判定される。
(1)0≦r<R1なら物体上面への視点と判定
(2)速さv≦Tvなら視点不明と判定
(3)1,2を満たさず、0≦θ≦15かつr≧R2なら物体背面への視点と判定
(4)1,2を満たさず、75≦θ≦105かつr≧R2なら物体側面への視点と判定
(5)1,2を満たさず、165≦θ≦180かつr≧R2なら物体前面への視点と判定
(6)1〜5を満たさないなら中間視点と判定
判定(1)及び(3)〜(5)において角度に幅を持たせており、これは特定の視点の特徴量の収集を促進する効果がある。上記幅は一例であり、ほぼ特定の視点として近似できる幅を実験的に設定すればよい。
判定(2)は、移動物体が停止状態又は低速状態にある場合には任意の姿勢をとり得ることからこれらの状態を視点不明とするものであり、不確定要素を排除して移動物体の追跡精度を確保する効果がある。Tvは例えば0.4m/secなどに設定する。
尚、距離rの代わりに、撮像部2から移動物体を垂直方向に見込む角度(πr/2R)を用いることもできる。
図5は、監視画像200において速さv、移動方向ψ≒130度で移動する物体像が、原点からの距離r>R2、方位ξ≒45度の位置に撮像されている状態を例示したものである。相対移動方向θは85度と算出され、視点は「物体側面への視点」と判定される。
特徴量取得手段444は、視点判定手段442からの視点情報、方向算出手段440にて算出された移動物体の速さvに基づき、記憶部3に記憶されている特徴量の中から各移動物体の対応付けに最適な特徴量を取得して、対応付け手段446へ出力する。
最適な特徴量は次のようにして選択する。
(1)視点種別が視点不明なら前時刻特徴量34を取得。
(2)視点種別が物体上面への視点、物体背面への視点、物体側面への視点、又は物体前面への視点なら視点別特徴量32から各視点種別と対応付けて記憶されている特徴量を取得。但し、該当する視点の特徴量が未だ記憶されていない場合は前時刻特徴量34を取得。
(3)視点種別が中間視点なら視点別特徴量32として記憶されている複数の特徴量を相対移動方向θ及び距離rに応じた合成比率にて合成することで特徴量を取得。但し、合成に必要な特徴量が未だ記憶されていない場合は前時刻特徴量34を取得。
上記(3)に記載した中間視点の特徴量を合成する合成処理について説明する。
合成比率は、視点別特徴量32として記憶されている各視点の特徴量が中間視点の特徴量に対して寄与する割合であり、この割合は事前の実験等を通じて分析することにより適宜に設定され、予め記憶部3に記憶される。
物体上面への視点に対応する特徴量の合成比率は距離rの関数として設定され、物体背面、側面、前面への視点に対応する特徴量の合成比率はそれぞれ相対移動方向θの関数として設定される。
本形態における色ヒストグラムの合成比率を図6に示す。
図6(a)は物体上面への視点に対応する色ヒストグラムhh(y,u,v)の合成比率whである。whは移動物体が撮像部2の真下に位置するr=0のときに最大となり、移動物体が撮像部2から離れるほど、すなわちrが大きくなるほど小さくなり、r≧R2で0となる。
図6(b)は物体前面への視点に対応する色ヒストグラムhf(y,u,v)の合成比率wfである。wfは移動物体が撮像部2に対し真正面を向くθ=180のときに最大となり、θが小さくなるほど小さくなり、θ≦90のときに0となる。
図6(c)は物体背面への視点に対応する色ヒストグラムhb(y,u,v)の合成比率wbである。wbは移動物体が撮像部2に対し真後ろを向くθ=0のときに最大となり、θが大きくなるほど小さくなり、θ≧90のときに0となる。
図6(d)は物体側面への視点に対応する色ヒストグラムhs(y,u,v)の合成比率wsである。wsは移動物体が撮像部2に対し真横を向くθ=90のときに最大となり、θが90から離れるほど小さくなり、θ≦45及びθ≧135のときに0となる。
特徴量取得手段444は、上述した各関数に従い、相対移動方向θ及び距離rに応じた合成比率を算出し、次式によって色ヒストグラムh(y,u,v)を合成する。
h(y,u,v)=wh×hh(y,u,v)
+(1−wh)×wf/(wf+wb+ws)×hf(y,u,v)
+(1−wh)×wb/(wf+wb+ws)×hb(y,u,v)
+(1−wh)×ws/(wf+wb+ws)×hs(y,u,v) (式4)
つまり、4つの視点に関する合成比率の合計が1になるように各合成比率正規化した上で、正規化された合成比率に応じた配分で4つの視点の特徴量を合成する。
このように記憶部3に記憶されている視点別特徴量32を相対移動方向θに応じて合成して中間視点に対応する特徴量を取得するので、あらゆる視点の特徴量を記憶する必要がない。このことは、現時刻の視点と一致する視点で撮像された物体像が過去に出現していなくても現時刻の視点に対応した特徴量を取得できることを意味し、視点別特徴量32を用いた高精度な追跡処理を行う機会を増大させる。また、記憶容量の節約にもなる。
対応付け手段446は、特徴量取得手段444にて取得された追跡中の各移動物体の特徴量と特徴量抽出手段42にて抽出された現時刻の物体像の特徴量との類似性を比較することにより、現時刻の物体像を追跡中の移動物体と対応付ける。
そのために、対応付け手段446は、現時刻の物体像と追跡中の移動物体の全ての組み合わせについて色ヒストグラムの類似度を算出し、追跡中の移動物体ごとに類似度が最大かつ類似度が所定値以上である物体像を選出して、当該移動物体に対応付ける。
尚、対応付けができなかった追跡中の移動物体については消失した(視野外へ移動した)として追跡対象から除外し、対応付けができなかった現時刻の物体像については新規出現したとして新たに追跡対象に加える。
尚、類似度に位置の類似性を考慮し、現時刻の物体位置と一時刻前の物体位置の距離を求め、距離が近いほど大きく、距離が遠いほど小さくなるような指標を色ヒストグラムの類似度に加算したり乗算したりしても良い。
特徴量更新手段448は、追跡中の各移動物体の視点別特徴量32及び前時刻特徴量34を、対応付け手段446により当該移動物体と対応づけられた物体像の特徴量により更新する。
すなわち、特徴量更新手段448は、追跡中の各移動物体について次の処理を行う。
(1)記憶部3に記憶されている前時刻特徴量34を対応づけられた物体像の特徴量に置き換える
(2)視点情報が物体上面への視点、物体背面への視点、物体側面への視点、物体前面への視点のいずれかであれば、記憶部3に記憶されている視点別特徴量32のうちそれぞれの視点に対応する特徴量を現時刻の特徴量で置き換える。視点に対応する特徴量が記憶部3に記憶されていなかった場合は新規に記憶する。
尚、(2)において視点別特徴量32を現時刻の特徴量で置き換える更新を例示したが、視点別特徴量32として記憶されている特徴量と現時刻の特徴量との平均値で置き換える更新とすることもできる。
異常判定手段46は、記憶部3に記憶されている移動軌跡30を分析して長時間滞留する移動物体(不審者)が存在すれば異常と判定して通信部5に異常信号を出力する。具体的には、異常判定手段46は、移動軌跡30の夫々に含まれる物体位置の数を計数して所定数以上(例えば10分間相当以上)の物体位置を含む移動軌跡30があれば異常と判定する。
通信部5は、制御部4からの異常信号をセンタ装置へ送出し、また、外部装置からの信号を受信して制御部4へ出力する。
[第一の実施形態の動作]
移動物体追跡装置1の動作を説明する。
まず、図7のフローチャートを参照して、移動物体追跡処理の全体の流れを説明する。
監視空間が無人であることを確認した管理者が電源を投入すると各部、各手段が動作を始め、所定の初期化が行われる(S10)。このとき、制御部4の物体像抽出手段40は撮像部2からの監視画像を背景画像として記憶部3に記憶させる。
その後、撮像部2から制御部4 へ監視画像が新たに入力されるたびにS15〜S90の一連の処理が繰り返される。
まず、制御部4は、撮像部2が新たに撮像した監視画像を取得し(S15)、取得した監視画像を物体像抽出手段40に入力する。物体像抽出手段40は、入力された監視画像を背景画像と比較して物体像を抽出し、また、現時刻の物体位置として物体像の重心を算出する(S20)。
次に、物体像抽出手段40はS20の処理で1以上の物体像が抽出されたか否かを判定する(S25)。物体像が抽出されなかった場合、物体像抽出手段40はS15で取得された監視画像を新たな背景画像として記憶部3に記憶させる更新を行う(S30)。この更新は背景画像の時間変化に適応するために行う処理である。更新後、制御部4は処理をS15へ戻す。
一方、S25において1以上の物体像が抽出されたと判定された場合、制御部4は、特徴量抽出手段42にS20の処理で抽出された各物体像を入力し、物体像のそれぞれから色ヒストグラムなどの特徴量を抽出させる(S35)。
こうして現時刻の物体像とその特徴量が抽出されると、特徴量に基づき現時刻の物体像を追跡中の移動物体に対応付ける追跡処理が始まる。まず、記憶部3に記憶している追跡中の移動物体の特徴量の中から現時刻の物体像への視点に応じた特徴量が取得される。
そのために、制御部4は、追跡中の各移動物体について、方向算出手段440に移動軌跡30に含まれる最新5個の物体位置を入力して移動方向ψ及び速さvを算出させる(S40)。この時点で移動軌跡30には一時刻前までの物体位置が記憶されており、これを基に算出された移動方向ψと速さvは現時刻の移動物体に関する予測値となる。
次に、制御部4は、追跡中の各移動物体について、位置予測手段441に移動軌跡30に含まれる一時刻前の物体位置、S40で算出された移動方向ψ及び速さvを入力して予測位置を算出させる(S45)。
続いて、制御部4は、追跡中の各移動物体について、視点判定手段442に予測位置、S40で算出された移動方向ψ及び速さvを入力して視点を判定させる(S50)。詳細は後述する。
続いて、制御部4は、追跡中の各移動物体について、特徴量取得手段444にS50で判定された視点及びS25で算出された速さvを入力して視点に応じた特徴量を記憶部3から取得させる(S55)。詳細は後述する。
こうして取得された特徴量を用いて対応付けが行われる。
まず、制御部4は、対応付け手段446にS35で抽出された各物体像の特徴量とその位置、S55で視点に応じて取得された移動物体の特徴量、及びS45で算出された予測位置を入力して、現時刻の物体像を追跡中の移動物体と対応付けさせる(S60)。対応付け手段446は特徴量及び物体位置の類似度に基づき対応付けを行い、対応関係及び追跡中の移動物体の現在位置を求める。
そして、対応付け手段446は、S60で求められた移動物体の現在位置を移動軌跡30に追加する更新を行う(S65)。尚、新規出現の移動物体については移動軌跡30を新規作成することになる。また、消失した移動物体の移動軌跡30についてはフラグを付すなどして追跡中の移動物体のそれとは区別し、予め定めた保存期間の経過後に削除する。
こうして物体像が対応付けられると、次時刻の対応付けに備え、記憶部3の特徴量の更新が行われる。
まず、ステップS70にて制御部4は、方向算出手段440に追跡中の各移動物体の移動軌跡30に含まれる最新2個の物体位置を入力し、各移動物体の移動方向ψ及び速さvを再算出させる。算出された移動方向ψと速さvは現時刻の移動物体に関する実測値となる。
次に、制御部4は、追跡中の各移動物体について、視点判定手段442にS60で求められた現在位置、S70で再算出された移動方向ψ及び速さvを入力して視点を再判定させる(S75)。
続いて、制御部4は、特徴量更新手段448にS35で抽出された各物体像の特徴量、S60で求められた対応関係及びS75で再判定された視点を入力し、追跡中の各移動物体の前時刻特徴量34と視点別特徴量32を物体像の特徴量で更新する(S80)。詳細は後述する。
こうして追跡処理により得られた最新の移動軌跡30を基に異常判定が判定される。
すなわち、制御部4は、異常判定手段46に移動軌跡30を分析させて異常な移動軌跡30を有する移動物体が存在するか否かを判定させる(S85)。
S85で異常が判定された場合(S90にてYES)、異常判定手段46は通信部5に異常を判定された移動物体の位置及び監視画像を含む異常信号を出力する(S95)。異常信号が入力された通信部5は該信号をセンタ装置へ送信する。センタ装置は異常信号に含まれる情報を表示して監視員へ異常を報知し、表示を見た監視員は不審者の排除などの対処を行う。
一方、S85で異常が判定されない場合(S90にてNO)、S95はスキップされる。
以上の処理が終了すると、制御部4は処理を再びS15へ戻す。
次に、図8のフローチャートを参照して、視点判定手段442による視点判定処理(図7のS50)、及び視点再判定処理(図7のS75)を説明する。
上述したように視点判定処理のときは視点判定手段442に追跡中の移動物体の位置、移動方向ψ及び速さvの予測値が入力され、視点再判定処理のときはこれらの実測値が入力されるが、視点判定手段442はこれらを区別することなく共通の動作を行うので、以下では特に予測値と実測値を区別せずに説明する。
まず、視点判定の基礎情報として、原点から物体位置までの距離rが算出され(S500)、物体位置及び移動方向ψに式1,2を適用することにより相対移動方向θが算出される(S501)。
続いて、算出された値に基づき視点種別が判定される。
距離rがR1以下であれば(S502にてYES)、視点種別は「物体上面への視点」と判定される(S503)。
距離rがR1以上であれば、速さvがしきい値Tvと比較される(S504)。速さvがしきい値Tv以下であれば、視点種別は「視点不明」と判定される(S505)。
一方、速さvがTvより大きければ、距離rがR2と比較される(S506)。距離rがR2未満であれば、視点種別は「中間視点」と判定される(S513)。
距離rがR2以上であれば処理はS507へ進み、相対移動方向θの評価が始まる。
相対移動方向θが15度以下であれば(S507にてYES)視点種別は「物体背面への視点」と判定され(S508)、相対移動方向θが75度以上105度以下であれば(S509にてYES)視点種別は「物体側面への視点」と判定され(S510)、相対移動方向θが165度以上であれば(S511にてYES)視点種別は「物体前面への視点」と判定される(S512)。
相対移動方向θが上記条件のいずれにも合致しなければ視点種別は「中間視点」と判定される(S513)。
視点判定手段442は、以上で判定した視点種別、算出した相対移動方向θ及び距離rからなる視点情報を出力して視点判定処理又は視点判定処理を終える。
次に、図9のフローチャートを参照して、特徴量取得手段444による図7のS55の特徴量取得処理を説明する。上述したように特徴量取得手段444には視点情報(視点種別、相対移動方向θ、距離r)及び速さvが入力されている。
視点種別が「視点不明」であれば(S550にてYES)前時刻特徴量34が記憶部3から読み出され(S551)、視点種別が「物体前面への視点」であれば(S552にてYES)視点別特徴量32のうち物体前面への視点に対応する特徴量が記憶部3から読み出され(S553)、視点種別が「物体背面への視点」であれば(S554にてYES)視点別特徴量32のうち物体背面への視点に対応する特徴量が記憶部3から読み出され(S555)、視点種別が「物体側面への視点」であれば(S556にてYES)視点別特徴量32のうち物体側面への視点に対応する特徴量が記憶部3から読み出され(S557)、視点種別が「物体上面への視点」であれば(S558にてYES)視点別特徴量32のうち物体上面への視点に対応する特徴量が記憶部3から読み出される(S559)。
上記条件のいずれにも合致しなければ視点種別は「中間視点」であり、特徴量の合成処理が行われる。
まず、合成処理に必要となる視点別特徴量32が記憶部3に既に記憶されているか否か、すなわち、次の条件を満たすか否かが確認される(S560)。
・物体上面への視点に対応する特徴量が記憶されていること
・θ<45であれば物体背面への視点に対応する特徴量が記憶されていること
・45≦θ<90であれば物体背面及び物体側面への視点に対応する特徴量が記憶されていること
・90≦θ≦135であれば物体前面及び物体側面への視点に対応する特徴量が記憶されていること
・θ<135であれば物体前面への視点に対応する特徴量が記憶されていること
S560で合成処理に必要な特徴量が記憶されていないと確認されると、前時刻特徴量34が記憶部3から読み出される(S561)。
一方、合成処理に必要な特徴量が既に記憶されていれば、相対移動方向θ及び距離rに応じた合成比率が算出され、算出された合成比率及び視点別特徴量32が式4に適用されて中間視点の特徴量が合成される(S562)。
特徴量取得手段444は、以上のステップで読み出した特徴量又は合成した特徴量を出力して特徴量取得処理を終える。
次に、図10のフローチャートを参照して、特徴量更新手段448による図7のS80の特徴量更新処理を説明する。上述したように特徴量更新手段448には物体像の特徴量、物体像と追跡中の移動物体の対応関係、及び再判定された視点情報(視点種別、相対移動方向θ、距離r)が入力されている。
まず、入力された物体像の特徴量が当該物体像と対応付けられた移動物体の前時刻特徴量34に上書きされる(S800)。この更新は視点種別によらず行われる。更新された特徴量は次時刻の処理において一時刻前の特徴量として利用される。
続いて、入力された物体像の特徴量が当該物体像と対応付けられた移動物体の視点別特徴量32に視点種別に応じて上書きされる。
視点種別が「物体前面への視点」であれば(S801にてYES)視点別特徴量32のうち物体前面への視点に対応する特徴量に物体像の特徴量が上書きされ(S802)、視点種別が「物体背面への視点」であれば(S803にてYES)視点別特徴量32のうち物体背面への視点に対応する特徴量に物体像の特徴量が上書きされ(S804)、視点種別が「物体側面への視点」であれば(S805にてYES)視点別特徴量32のうち物体側面への視点に対応する特徴量に物体像の特徴量が上書きされ(S806)、視点種別が「物体上面への視点」であれば(S807にてYES)視点別特徴量32のうち物体上面への視点に対応する特徴量に物体像の特徴量が上書きされる(S808)。
視点種別が「中間視点」又は「視点不明」の場合、視点別特徴量32は更新されない。
このようにして特徴量更新手段448が更新した視点別特徴量32は次時刻以降の処理において一時刻前までに得られた特徴量として利用される。
以上の説明では、特徴量として色ヒストグラムを例示したが、これに代えてエッジ方向の分布、輝度ヒストグラムなどの領域内の分布量、色や輝度の平均値や分散などいった人物像内の統計情報などを特徴量として利用することもできる。
また、以上の説明では、位置予測手段441が予測した現在位置を特徴量取得手段444に入力する例を示したが、これに代えて物体像抽出手段40が算出した物体像の位置を入力することもできる。この場合、物体像抽出手段40が算出した物体像の位置の夫々に追跡中の移動物体が移動したと仮定し、方向算出手段440が追跡中の移動物体と物体像抽出手段40が抽出した物体像の組み合わせについて移動方向ψ及び速さvを算出し、特徴量取得手段444がこれらの組み合わせごとに特徴量を取得すればよい。
また、以上の説明では、光軸を鉛直下方に向けて設置される撮像部2を例示したが、本発明は撮像部2の光軸が鉛直軸に対して傾けて設置される場合にも適用することができる。この場合、監視画像を水平面に射影する変換を物体位置に施し、水平面での移動方向と方位から相対移動方向を算出すればよい。
以上により、記憶した特徴量のうち現時刻の移動物体の視点に応じた特徴量を選択的に用いて対応付けを行うので、見え方が変化する複数の移動物体が混在する環境下において誤った対応付けを大幅に減じることがきる。
<第二の実施形態>
本発明の第二の実施形態として、撮像部2がインターホンの子機に設置され、宅前に長時間滞留する不審人物を検知する移動物体追跡装置1について説明する。
本形態の構成及び動作を、第一の実施形態と共通する図1の構成図及び図7のフローチャートにより説明する。尚、以下では第一の実施形態と共通する箇所を省略して説明する。
本形態において、撮像部2は、光軸を水平方向に向けて1メートル数十センチ程度の高さに設置され、監視空間である宅前路上を通行する人物を撮像する。レンズは一般的な広角レンズである。
図11(a)(b)は、本形態における監視画像のイメージ図である。監視空間は矩形の領域701内に映される。監視画像の中心に原点を、横方向にX軸を、縦方向にY軸を設定する。撮像部2の光軸は原点と一致している。
また、X座標がXL未満の領域L、X座標がXL以上XR以下の領域C、X座標がXRより大きい領域Rの3つの領域を定義する。
図11(a)は、左方向(X軸の負方向)へ移動する人物が領域L,C,Rに位置するときの監視画像を表す図である。領域Lに位置する物体像702への視点は物体斜め背面への視点、領域Cに位置する物体像703への視点は物体側面への視点、領域Rに位置する物体像704への視点は物体斜め前面への視点となっている。
図11(b)は、左方向(X軸の正方向)へ移動する人物が領域L,C,Rに位置するときの監視画像を表す図である。領域Lに位置する物体像705への視点は物体斜め前面への視点、領域Cに位置する物体像706への視点は物体側面への視点、領域Rに位置する物体像707への視点は物体斜め背面への視点となっている。
図11(c)は以上に示した領域、移動方向に対する視点の関係をまとめた表である。
このように、監視画像における物体位置と移動方向によって視点が規則的に変化するので、物体位置と移動方向の組み合わせから視点を判定することができる。
本形態においては、第一の実施形態のように移動物体が真上から観測されることはなく、移動物体の姿勢変化のみを考慮する。また、Y方向(奥行き方向)の移動に対する感度は低いので、X方向の位置及び速度のみを考慮する。
方向算出手段440は、記憶部3に記憶されている移動軌跡のX成分を分析して、X方向の移動方向(右向きか左向きか)及びX方向の速さを算出する。
記憶部3は、視点別特徴量32として各移動物体について、物体斜め前面、物体側面、物体斜め背面の3つの視点に分類して特徴量を記憶する。
視点判定手段442は、まず、物体位置のX座標がXL未満であれば当該移動物体は領域Lに位置し、同X座標がXL以上XR以下であれば当該移動物体は領域Cに位置し、同X座標がXRより大きければ当該移動物体は領域Rに位置するものとして、物体位置を分類する。続いて視点判定手段442は位置の分類及び図11(c)の表に従い次のように視点判定を行う。
(1)速さv≦Tvなら視点不明と判定
(2)1を満たさず、物体位置が領域Lかつ移動方向が右向き、又は物体位置が領域Rかつ移動方向が左向きなら物体斜め前面への視点と判定
(3)1を満たさず、物体位置が領域Cなら物体側面への視点と判定
(4)1を満たさず、物体位置が領域Lかつ移動方向が左向き、又は物体位置が領域Rかつ移動方向が右向きなら物体斜め背面への視点と判定
図7の視点判定処理(S50)及び視点再判定処理(S75)は上記(1)〜(4)に従った処理となる。
特徴量取得手段444は、次のようにして各移動物体の対応付けに最適な特徴量を取得する。
(1)視点不明なら前時刻特徴量34を取得。
(2)物体斜め前面への視点、物体側面への視点、又は物体斜め背面なら視点別特徴量32から各視点と対応付けて記憶されている特徴量を取得。
但し、該当する視点の特徴量が未だ記憶されていない場合は、前時刻特徴量34を取得。
図7の特徴量取得処理(S55)は上記(1),(2)に従った処理となる。
特徴量更新手段448は、次のようにして視点別特徴量32、前時刻特徴量34を更新する。
(1)前時刻特徴量34を現時刻の特徴量に置き換える
(2)視点情報が物体斜め前面への視点、物体側面への視点、又は物体斜め背面のいずれかであれば、記憶部3に記憶されている視点別特徴量32のうちそれぞれの視点に対応する特徴量を現時刻の特徴量で置き換える。視点に対応する特徴量が記憶部3に記憶されていなかった場合は新規に記憶する。
図7の特徴量更新処理(S80)は上記(1),(2)に従った処理となる。
物体像抽出手段40、特徴量抽出手段42、異常判定手段46、追跡手段44を構成する対応付け手段446は第一の実施形態と同様である。
尚、上記説明では物体位置を3つに分類したが、3以上に細分類することも可能である。
本形態では、相対移動方向θを算出するまでもなく、物体位置と移動方向の組み合わせから簡易に視点を判定できる。また、合成処理を伴う中間視点を採用しておらず第一の実施形態で例示した特徴量以外にも物体像の形状やテクスチャなど、より多くの特徴量を採用できる。
<第三の実施形態>
次に、本発明の第三の実施形態として、互いに隣接して設置された複数の移動物体追跡装置が特徴量を交換することで、より広い監視空間を効率的に監視する例を説明する。
図12は設置例である。移動物体追跡装置1a,1b,…のそれぞれは、第一の実施形態と同様に撮像部2の光軸を鉛直下方に向け、天井に設置される。但し、隣り合う移動物体追跡装置1の撮像部2は互いに視野の一部を共有する程度の間隔で設置される。また、移動物体追跡装置1a,1b,…は通信網6を介して互いに通信可能である。
本形態における移動物体追跡装置1の構成は、特徴量更新手段448に特徴量交換手段を含む点、記憶部3に自装置及び隣り合う他装置の設置情報、通信網6における自装置及び隣り合う他装置のアドレスを記憶している点が第一の実施形態と異なり、その余の構成は第一の実施形態と共通する。これらの相違点について説明する。
設置情報は、撮像部2の設置位置、設置高さ、設置角度(鉛直軸周り、水平軸周り)及び画角である。尚、設置情報の各値は装置間で共通するよう世界座標系の値とする。また、設置情報は事前に決定或いは計測され、予め記憶部3に記憶される。
特徴量交換手段は、新規出現した移動物体が存在する場合に他の移動物体追跡装置1へ当該移動物体の視点別特徴量32の送信を要求する特徴量要求信号を通信部5へ送出し、通信部5が他の移動物体追跡装置1からの特徴量要求信号を受信した場合に特徴量要求信号により要求される移動物体の視点別特徴量32を記憶部3から読み出して返信し、通信部5が他の移動物体追跡装置1からの視点別特徴量32を受信した場合に記憶部3に受信した視点別特徴量32を追加記憶する。
視野を共有する移動物体追跡装置1の間では物体位置により特徴量の交換対象となる移動物体を特定することができる。特徴量交換手段は、特徴量要求信号に新規出現した移動物体の位置を含めて送信し、受信した特徴量要求信号に含まれる物体位置を記憶部3に記憶している移動軌跡30と比較して物体位置が合致する移動物体を特徴量要求信号により要求されている移動物体として識別する。
本形態における移動物体追跡装置1の動作について説明する。図7〜10に示したフローチャートに係る動作は第一の実施形態と共通し、図10に示した特徴量更新処理のフローチャートの最後(S809の手前)に図13に示す特徴量交換手段の処理が挿入される。
以下、図13を参照して特徴量交換手段の処理を説明する。
S810〜S814は、特徴量の送信要求に係る処理である。
まず、処理対象の移動物体が新規出現した移動物体であるか否かが判定される(S810)。すなわち当該移動物体の移動軌跡30が1つの物体位置のみで構成されているか否かが判定される。新規出現した移動物体でなければ送信要求は行われず処理はS820へ進む。
一方、S810で新規出現した移動物体と判定されれば、移動軌跡30に含まれる物体位置が世界座標系の座標に変換される(S811)。ピンホールカメラモデルなどのカメラモデルに、自装置の設置情報を適用して変換式を構成し、該変換式により物体位置を変換すればよい。
次に、変換された物体位置を視野に含む他の移動物体追跡装置1が選定される(S812)。隣り合う移動物体追跡装置1の視野は、上記カメラモデルに当該装置の設置情報を適用することで算出できる。
自装置が一番端に設置されているなど設置位置の関係から該当する他装置が選定できないことがある。S812にて該当する他装置が選定できなければ、送信要求は行われず処理はS820へ進む。
一方、S812にて該当する他装置が選定できれば(S813にてYES)、自装置のアドレスを送信元、S812にて選定された移動物体追跡装置1のアドレスを送信先とし、S811にて変換された物体位置及び新規出現した移動物体の識別子を含めた特徴量要求信号が生成されて、該特徴量要求信号が通信部5へ出力される(S814)。通信部5は特徴量要求信号を通信網6へ送出する。
S820〜S823は、特徴量の返信に係る処理である。
まず、通信部5が他の移動物体追跡装置1から特徴量要求信号を受信しているか否かが確認される(S820)。受信していなければ特徴量の返信は行われず、処理はS830へ進む。
一方、特徴量要求信号の受信が確認されれば、追跡中の各移動物体の移動軌跡30における最新の物体位置がS811と同様の変換式により世界座標系に変換され、変換された各物体位置と受信した特徴量要求信号に含まれる物体位置とが比較され、合致する物体位置を含んだ移動軌跡30を有する移動物体が要求されている移動物体として識別される(S821)。識別できなければ特徴量の返信は行われず、処理はS830へ進む。
S821にて移動物体が識別できれば(S822にてYES)、自装置のアドレスを送信元、特徴量要求信号の送信元を送信先とし、S821にて識別された移動物体の視点別特徴量32及び特徴量要求信号に含まれていた移動物体の識別子を含む特徴量応答信号が生成されて、該応答信号が通信部5へ出力される(S823)。通信部5は特徴量応答信号を通信網6へ送出する。
S830,S831は、特徴量の受信及び更新に係る処理である。
まず、通信部5が他の移動物体追跡装置1から特徴量応答信号を受信しているか否かが確認される(S830)。受信していなければ特徴量の更新は行われず、処理は図10のS809へ進む。
一方、特徴量応答信号の受信が確認されると、特徴量応答信号に含まれている特徴量を記憶部3の視点別特徴量32に書き込む更新を行う(S831)。このとき更新対象となる視点別特徴量32は特徴量応答信号に含まれている移動物体の識別子により特定することができる。その後、処理は図10のS809へ進む。
以上のように特徴量交換手段を備えることで、未だ十分な視点別特徴量32が収集できていない新規出現の移動物体に関し、他の移動物体追跡装置1から当該移動物体の視点別特徴量32を取得することができる。そのため、視点別特徴量32を用いた正確な追跡処理が短期間で開始可能となる。
<第四の実施形態>
本発明の第四の実施形態は、撮像部2の間で視野を共有する第三の実施形態に対し、各撮像部2が互いに視野を共有できないほど離れた間隔で設置される例である。
視野を共有しない本形態においては、要求されている移動物体を物体位置により識別することは困難である。そのため、本形態においては、要求されている移動物体を移動物体の特徴量により識別する。
本形態における移動物体追跡装置1の動作について説明する。図7〜10に示したフローチャートに係る動作は第一の実施形態と共通し、図10に示した特徴量更新処理のフローチャートの最後(S809の手前)に図14に示す特徴量交換手段の処理が挿入される。
以下、図14を参照して本形態における特徴量交換手段の処理について説明する。
S840〜S844は、特徴量の送信要求に係る処理である。
まず、移動軌跡30が5つの物体位置で構成されているか否かを判定することで、新規出現した移動物体であるか否かが判定される(S840)。5時刻分の遅れを持たせるのは当該移動物体の移動方向ψを必要とするためである。新規出現した移動物体でなければ送信要求は行われず、処理はS850へ進む。
次に、新規出現した移動物体の移動方向ψが世界座標系の移動方向に変換され(S841)、変換された移動方向を180度回転させた移動元方向に視野を有する他の移動物体追跡装置1が選定される(S842)。図13のS812で説明したようにして世界座標系での他の移動物体追跡装置の視野を算出し、世界座標系での新規出現した物体位置を基点に上記移動元方向に伸びる直線を算出し、この直線と交わる視野を有する移動物体追跡装置1を選定すればよい。尚、複数選定される場合は物体位置から最も短い距離で交わる移動物体追跡装置1が選定される。
移動元方向に他装置が設置されておらず、S842にて該当する他装置が選定できなければ、送信要求は行われず処理はS850へ進む。
一方、S842にて該当する他装置が選定されると(S843にてYES)、自装置のアドレスを送信元、S842にて選定された移動物体追跡装置1のアドレスを送信先とし、処理対象の移動物体の現時刻における特徴量、視点情報(視点種別、相対移動方向θ、距離r)及び当該移動物体の識別子を含めた特徴量要求信号が生成されて、該特徴量要求信号が通信部5へ出力される(S844)。通信部5は特徴量要求信号を通信網6へ送出する。
S850〜S854は、特徴量の返信に係る処理である。
まず、通信部5が他の移動物体追跡装置1から特徴量要求信号を受信しているか否かが確認される(S850)。受信していなければ特徴量の返信は行われず、処理はS860へ進む。
一方、特徴量要求信号の受信が確認されると(S850にてYES)、既に消失したとされている移動物体について特徴量要求信号に含まれる視点情報と対応する特徴量を取得する(S851)。視野を共有しない場合、複数の移動物体追跡装置1の視野に同時に同一移動物体が存在することはないので、識別候補を消失物体に絞り込むことで誤った特徴量の交換が抑制される。視点情報に対応する特徴量は特徴量要求信号に含まれる視点情報を特徴量取得手段444に入力することで取得できる。
次に、既に消失したとされている移動物体全てについて、S851で取得された特徴量と、特徴量要求信号に含まれる特徴量の類似度が算出され、類似度が最大かつ該類似度が所定値以上である移動物体が要求されている移動物体として識別される(S852)。識別できなければ特徴量の返信は行われず、処理はS860へ進む。
一方、S852にて移動物体が識別されると(S853にてYES)、自装置のアドレスを送信元、特徴量要求信号の送信元を送信先とし、S852において識別された移動物体の視点別特徴量32及び特徴量要求信号に含まれていた移動物体の識別子を含む特徴量応答信号が生成されて、該応答信号が通信部5へ出力される(S854)。通信部5は特徴量応答信号を通信網6へ送出する。
S860,S861は、特徴量の受信及び更新に係る処理である。
まず、通信部5が他の移動物体追跡装置1から特徴量応答信号を受信しているか否かが確認される(S860)。受信していなければ特徴量の更新は行われず、処理は図10のS809へ進む。
一方、特徴量応答信号の受信が確認されると(S860にてYES)、特徴量応答信号に含まれている特徴量が記憶部3の視点別特徴量32に書き込まれる(S861)。このとき更新対象となる視点別特徴量32は特徴量応答信号に含まれている移動物体の識別子により特定することができる。その後、処理は図10のS809へ進む。
以上のように特徴量交換手段を備えることで、視野を共有しない場合でも他の移動物体追跡装置1から新規出現の移動物体の視点別特徴量32を取得することができる。そのため、視点別の特徴量を用いた正確な追跡処理が短期間で開始可能となる。
また、視点別の特徴量を用いた照合により交換すべき特徴量を正確に特定することできる。
移動物体追跡装置1の構成を示す図である。 第一の実施形態において物体位置と移動方向と視点の関係を示す図である。 第一の実施形態において移動物体の相対移動方向と視点の関係を示す図である。 記憶部3に記憶されている特徴量を示す図である。 第一の実施形態において視点判定に用いられる各パラメータを示す図である。 特徴量の合成比率を示す図である。 移動物体追跡処理のフローチャートを示す図である。 第一の実施形態における視点判定処理及び視点再判定処理のフローチャートを示す図である。 第一の実施形態における特徴量取得処理のフローチャートを示す図である。 第一の実施形態における特徴量更新処理のフローチャートを示す図である。 第二の実施形態において物体位置と移動方向と視点の関係を示す図である。 第三の実施形態における撮像部2の設置の様子を示す図である。 第三の実施形態における特徴量交換処理のフローチャートを示す図である。 第四の実施形態における特徴量交換処理のフローチャートを示す図である。
符号の説明
1 移動物体追跡装置、2 撮像部、3 記憶部、4 制御部、5 通信部、30 移動軌跡、32 視点別特徴量、34 前時刻特徴量、40 物体像抽出手段、42 特徴量抽出手段、44 追跡手段、46 異常判定手段、440 方向算出手段、441 位置予測手段、442 視点判定手段、444 特徴量取得手段、446 対応付け手段、448 特徴量更新手段。

Claims (6)

  1. 監視空間を順次撮像して移動物体を含む監視画像を出力する撮像手段と、前記監視画像から移動物体の物体像及び位置を抽出する物体像抽出手段と、前記物体像の特徴量を抽出する特徴量抽出手段と、前後する時刻に抽出された前記物体像のうち前記特徴量が類似する物体像を対応付けることにより移動物体の位置を追跡する追跡手段と、を備えた移動物体追跡装置において、
    前記追跡手段は、
    前後する時刻に抽出された移動物体の位置から当該移動物体の移動方向を算出する方向算出手段と、
    各時刻における移動物体の位置及び前記移動方向に基づき、当該時刻における前記撮像手段から当該移動物体への視点を判定する視点判定手段と、
    過去に抽出された前記特徴量を前記視点ごとに記憶する視点別特徴量記憶手段と、
    前記視点判定手段により判定された現時刻における前記視点に応じた特徴量を前記視点別特徴量記憶手段から取得する特徴量取得手段と、
    前記特徴量取得手段が取得した特徴量と前記特徴量抽出手段が抽出した特徴量とを比較して前記物体像を当該移動物体に対応付ける対応付け手段と、
    を備えたことを特徴とする移動物体追跡装置。
  2. 請求項1に記載の移動物体追跡装置であって、
    前記視点判定手段は、前記移動方向を前記撮像手段から移動物体の位置への方位を基準とした相対移動方向に変換し、当該相対移動方向に対する視点を判定する移動物体追跡装置。
  3. 請求項1に記載の移動物体追跡装置において、
    前記視点判定手段は、移動物体の位置及び前記移動方向の組み合わせから当該移動物体の前記視点を判定する移動物体追跡装置。
  4. 請求項2に記載の移動物体追跡装置において、
    前記特徴量取得手段は、前記相対移動方向が前記視点別特徴量記憶手段にて前記特徴量を記憶している複数の視点の中間方向である場合に、当該複数の視点の特徴量を前記相対移動方向に応じた割合で合成する移動物体追跡装置。
  5. 請求項1乃至4に記載の移動物体追跡装置において、
    一時刻前に抽出された特徴量を記憶する前時刻特徴記憶手段、をさらに備え、
    前記方向算出手段は前後する時刻に抽出された移動物体の位置から当該移動物体の速さをさらに算出し、
    前記特徴量取得手段は、前記速さが所定値未満である場合は前記前時刻特徴記憶手段に記憶されている特徴量を取得する移動物体追跡装置。
  6. 請求項1乃至5に記載の移動物体追跡装置において、
    通信網により接続されて他の移動物体追跡装置との通信を行う通信手段と、
    前記対応付け手段にて対応付けできない新規移動物体の前記物体像が存在する場合に当該物体像の情報を含む特徴量要求信号を他の移動物体追跡装置へ送信し、他の移動物体追跡装置から前記特徴量要求信号を受信した場合に当該特徴量要求信号に含まれる前記物体像の情報に基づいて前記視点別特徴量記憶手段に記憶している特徴量の中から前記新規移動物体の特徴量を選択して返信し、他の移動物体追跡装置から前記新規移動物体の特徴量を受信した場合に受信した特徴量を前記視点別特徴量記憶手段に追加記憶する特徴量交換手段と、をさらに備えた移動物体追跡装置。

JP2008064795A 2008-03-13 2008-03-13 移動物体追跡装置 Active JP5053136B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008064795A JP5053136B2 (ja) 2008-03-13 2008-03-13 移動物体追跡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008064795A JP5053136B2 (ja) 2008-03-13 2008-03-13 移動物体追跡装置

Publications (2)

Publication Number Publication Date
JP2009223434A JP2009223434A (ja) 2009-10-01
JP5053136B2 true JP5053136B2 (ja) 2012-10-17

Family

ID=41240176

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008064795A Active JP5053136B2 (ja) 2008-03-13 2008-03-13 移動物体追跡装置

Country Status (1)

Country Link
JP (1) JP5053136B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5642410B2 (ja) * 2010-03-30 2014-12-17 パナソニック株式会社 顔認識装置及び顔認識方法
KR101268102B1 (ko) 2011-07-21 2013-05-29 인하대학교 산학협력단 비디오 감시 시스템 및 방법
JP6420605B2 (ja) * 2014-09-24 2018-11-07 Kddi株式会社 画像処理装置
JP7243372B2 (ja) * 2019-03-27 2023-03-22 オムロン株式会社 物体追跡装置および物体追跡方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4025100B2 (ja) * 2002-03-14 2007-12-19 株式会社日立製作所 映像利用遠隔認識配信方法及びその実施システム並びにその処理プログラム
JP2006229450A (ja) * 2005-02-16 2006-08-31 Matsushita Electric Ind Co Ltd ネットワーク型監視カメラ装置及び制御プログラム並びに監視カメラシステム
WO2008035411A1 (fr) * 2006-09-20 2008-03-27 Fujitsu Limited Dispositif de détection d'informations de corps mobile, procédé de détection d'informations de corps mobile et programme de détection d'informations de corps mobile

Also Published As

Publication number Publication date
JP2009223434A (ja) 2009-10-01

Similar Documents

Publication Publication Date Title
US11710322B2 (en) Surveillance information generation apparatus, imaging direction estimation apparatus, surveillance information generation method, imaging direction estimation method, and program
Xu et al. An occupancy grid mapping enhanced visual SLAM for real-time locating applications in indoor GPS-denied environments
JP4478510B2 (ja) カメラシステム、カメラ、及びカメラの制御方法
JP6872128B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20170337701A1 (en) Method and system for 3d capture based on structure from motion with simplified pose detection
EP4127773A1 (en) Integrated camera and ultra- wideband location devices and related systems
JP5147761B2 (ja) 画像監視装置
JP5470111B2 (ja) 監視カメラ端末
US10600206B2 (en) Tracking system and method thereof
WO2022193508A1 (zh) 位姿优化方法、装置、电子设备、计算机可读存储介质、计算机程序及程序产品
JP5053136B2 (ja) 移動物体追跡装置
JP7107596B2 (ja) 駅監視システム及び駅監視方法
Qian et al. Wearable-assisted localization and inspection guidance system using egocentric stereo cameras
US11076264B2 (en) Localization of a mobile device based on image and radio words
CN115112123A (zh) 基于视觉-imu融合的多移动机器人协同定位方法及系统
Glas et al. SNAPCAT-3D: Calibrating networks of 3D range sensors for pedestrian tracking
JP2003329448A (ja) 現場の3次元情報生成システム
KR102374357B1 (ko) 밀집 통제를 위한 영상 감시 장치
JP7107597B2 (ja) 駅監視装置、駅監視方法及びプログラム
JP2021093151A (ja) オブジェクト認識システム、装置、方法及びプログラム
US20210187744A1 (en) Space monitoring robot by 360-degree image photographing for space
JP2021103410A (ja) 移動体及び撮像システム
JP7444292B2 (ja) 検出システム、検出方法、及びプログラム
KR102196683B1 (ko) 3d 투어 촬영 장치 및 방법
JP4552018B2 (ja) 動画像処理装置及び動画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120724

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120725

R150 Certificate of patent or registration of utility model

Ref document number: 5053136

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150803

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250