JP2015191261A - 状態推定装置、プログラムおよび集積回路 - Google Patents

状態推定装置、プログラムおよび集積回路 Download PDF

Info

Publication number
JP2015191261A
JP2015191261A JP2014065876A JP2014065876A JP2015191261A JP 2015191261 A JP2015191261 A JP 2015191261A JP 2014065876 A JP2014065876 A JP 2014065876A JP 2014065876 A JP2014065876 A JP 2014065876A JP 2015191261 A JP2015191261 A JP 2015191261A
Authority
JP
Japan
Prior art keywords
image
probability distribution
new object
unit
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014065876A
Other languages
English (en)
Other versions
JP2015191261A5 (ja
JP6295122B2 (ja
Inventor
健太 永峰
Kenta Nagamine
健太 永峰
長谷川 弘
Hiroshi Hasegawa
弘 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips Corp filed Critical MegaChips Corp
Priority to JP2014065876A priority Critical patent/JP6295122B2/ja
Priority to US14/614,800 priority patent/US9792697B2/en
Publication of JP2015191261A publication Critical patent/JP2015191261A/ja
Publication of JP2015191261A5 publication Critical patent/JP2015191261A5/ja
Application granted granted Critical
Publication of JP6295122B2 publication Critical patent/JP6295122B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

【課題】観測データから尤度を求めることによって、観測対象の内部状態を適切に推定し、例えば、動画像上において、適切に複数の物体を追跡するとともに、適切に、新規物体(新規オブジェクト)を発見し、追跡対象に追加することができる状態推定装置を実現する。【解決手段】状態推定装置1000では、ラベル設定部2が観測データ画像から、閉領域を検出し、当該閉領域にラベル番号を付したラベル画像を生成し、尤度取得部3が追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を生成する。そして、状態推定装置1000では、ラベル番号に基づいて、新規物体発見用の消去画像を用いて、新規物体を発見する処理を実行するので、新規物体発見用の消去処理画像において、追跡中の物体に対応する領域であって、消去処理により消去できず残存した領域を、新規物体に対応する領域であると誤判定することを適切に防止することができる。【選択図】図1

Description

本発明は、時系列フィルタを用いて観測可能な事象の状態推定を行う技術に関し、例えば、時系列フィルタを用いて動画像上の物体を追跡する技術に関する。
時々刻々変化する観測対象の内部状態を推定する技術として、時系列フィルタを用いた技術がある。時系列フィルタとは、時刻tにおける対象の内部状態を状態ベクトルxとし、時刻tにおいて観測された特徴を観測ベクトルyとしたとき、観測された観測ベクトルyから、直接観測できない対象の内部状態xを推定する手法である。
つまり、時系列フィルタとは、以下の状態空間モデル、すなわち、
システムモデル:x〜f(x|xt−1
観測モデル:y〜h(y|x
から、観測系列(時刻tまでの観測ベクトルの集合)y1:t={y,y,・・・,y}が与えられたとき、状態系列x0:t={x,x,・・・,x}の条件付確率分布p(x|y1:t)を求める手法である。
システムノイズをvとし、観測ノイズをwとすると、対象の内部状態のシステムモデルおよび対象を観測した時の観測モデルは、以下のように表すことができる。
対象の内部状態のシステムモデル:x=f(xt−1,v
対象を観測した時の観測モデル:y=h(x,w
f(xt−1,v):時刻t−1と時刻tとの状態変化を表す状態遷移関数
h(x,w):状態xのときに得られる観測ベクトルを表す関数
このとき、1期先予測は、
であり、ベイズ則により、時刻tにおける事後確率分布p(x|y1:t)は、
となる。なお、h(y|x)は尤度(状態xのときに、観測ベクトルyを得る確率)であり、p(x|y1:t−1)は予測確率分布である。
時系列フィルタの実装の一手法としてパーティクルフィルタがある。パーティクルフィルタでは、観測対象の内部状態の確率分布をパーティクルの分布で表現し、現時刻における状態の事後確率分布を次時刻における状態の事前確率分布とする。そして、パーティクルフィルタでは、当該事前確率分布を表すパーティクル(当該事前確率分布に従って生成されたサンプル集合)の状態から推定されたテンプレートの観測(予測サンプル)と、次時刻における実際の画像(実際の観測)とを比較することで尤度を求める。
そして、パーティクルフィルタでは、求めた尤度と事前確率分布とからパーティクルの事後確率分布を推定する。
次時刻以降、前述の処理を繰り返すことで、パーティクルフィルタでは、動的に変化する観測対象(例えば、追跡対象)の状態が逐次的に推定される。
パーティクルフィルタでは、粒子数(パーティクルの数)をM(M:自然数)とし、1≦i≦M(i:整数)としたとき、以下の(1)〜(4)の処理を行う。
(1)粒子生成(1期先予測)
以下の数式に相当する処理により、各サンプル(各パーティクル)について、時刻tにおける予測サンプルを生成する。つまり、時刻t−1の事後確率分布(時刻t−1の観測対象の内部状態の確率分布)から、システムモデル(状態遷移関数)により予測した確率分布を取得する。具体的には、システムモデルfに従って、時刻t−1の各サンプル(各パーティクル)を遷移させて予測サンプルを生成する。
xa (i)〜f(x|xt−1 (i)
xa={xa (1),xa (2),xa (3),・・・,xa (M)
xa:状態遷移関数f()による状態ベクトルxの予測(推定)ベクトル
(2)重みの計算(尤度計算)
以下の数式に相当する処理により、処理(1)で生成された各予測サンプルについて、重み(尤度)を算出する。つまり、観測モデルhに従って、観測ベクトルyを得る確率(尤度)を推定する。
wa (i)〜h(y|xa (i)
wa={wa (1),wa (2),wa (3),・・・,wa (M)
wa:関数h()による重み(尤度)wの予測(推定)ベクトル(尤度の予測値の集合)
(3)リサンプリング
重み(尤度)wa (i)に比例する割合でM個の粒子を復元抽出する(粒子xa (i)を抽出する)。このようにして復元抽出されたM個の粒子の分布から、時刻tの事後確率分布(時刻tの観測対象の内部状態の確率分布)を取得する。
(4)時刻tを進めて(1)に戻る。このとき、処理(3)で取得した事後確率分布(時刻tでの事後確率分布)を、次の時刻(時刻t+1)の事前確率分布とする。
このように、パーティクルフィルタとは、観測対象の状態を表すパラメータの事前確率分布の予測と、事後確率分布の計算とを繰り返し行うことで、時々刻々変化する、観測対象の状態を表すパラメータを推定するものである。このようなパーティクルフィルタは、例えば、動画像上の物体(オブジェクト)の位置の追跡に利用される。パーティクルフィルタを用いて物体(オブジェクト)の位置追跡処理を行う場合、追跡対象(観測対象の一例)の状態を表すパラメータは、例えば、物体の位置を表すパラメータである。この場合、パーティクルフィルタでは、物体の位置を表すパラメータから推定される観測(予測サンプル)と、実際の観測(例えば、カメラ等により撮像される画像)とを比較することによって尤度を算出し、算出した尤度に基づいて、粒子のリサンプリングを行うことで、観測対象の状態を表すパラメータの事後確率分布を取得することができる(例えば、特許文献1)。
このようなパーティクルフィルタを用いて、例えば、複数のオブジェクト(対象物)を追跡する技術も開発されている。例えば、非特許文献1には、パーティクルフィルタを用いて、複数のオブジェクト(対象物)を精度良く追跡する技術についての開示がある。
特開2012−234466号公報
N.Ikoma、H.Hasegawa、Y.Haraguchi、"Multi−target tracking in video by SMC−PHD filter with elimination of other targets and state dependent multi−modal likelihoods"、Information Fusion (FUSION)、2013 16th International Conference、2013年7月、p.588−595
非特許文献1の技術では、複数のオブジェクトを精度良く追跡するために、追跡するオブジェクト(オブジェクト)ごとに、粒子(パーティクル)を区別して割り当てる。例えば、オブジェクト番号1の物体を追跡する粒子には、当該オブジェクト番号1を示す整数ラベルを付与し、オブジェクト番号2の物体(オブジェクト)を追跡する粒子には、当該オブジェクト番号2を示す整数ラベルを付与する。つまり、非特許文献1の技術では、オブジェクト番号k(k:整数)のオブジェクトを追跡する場合、オブジェクト番号kを示す整数ラベルを有する粒子を用いて、上記パーティクルフィルタ処理により、オブジェクト番号kのオブジェクトを追跡する。なお、非特許文献1の技術では、追跡中のオブジェクトについては、「0」以外の整数値をオブジェクト番号として付与する。
そして、非特許文献1の技術では、オブジェクト番号が「0」の粒子を追加し、追加したオブジェクト番号0の粒子を用いて、パーティクルフィルタ処理を行うことで、新規オブジェクトを発見する。具体的には、非特許文献1の技術では、追跡中のオブジェクト(「0」以外の整数値のオブジェクト番号を有する粒子により追跡されているオブジェクト)が占める画像上の領域を消去した画像を生成し、当該画像に対して、オブジェクト番号0の粒子を用いたパーティクルフィルタ処理を実行することで、新規オブジェクトを検出する。この処理について、図19を用いて説明する。
図19は、例えば、撮像画像から、画像特徴量を赤色度合いとして抽出した画像(画像特徴量抽出画像)に対して、パーティクルフィルタ処理により赤い物体を追跡・発見する処理を実行する場合について説明するための図である。具体的には、図19(a)は、赤色度合いの高い領域を有する2つの物体(赤い物体)を、粒子(パーティクル)を用いて追跡する処理を説明するための図であり、図19(b)は、現在追跡中の物体に対応する画像領域を消去した画像(消去処理画像)に対して、新規オブジェクト(新規の物体)を、粒子(パーティクル)を用いて発見する処理を説明するための図である。
図19(a)に示すように、非特許文献1の技術では、物体(オブジェクト)TG1を追跡するための粒子Prtcl(TG1)と、物体(オブジェクト)TG2を追跡するための粒子Prtcl(TG2)と、が用意される。図19(a)では、粒子(パーティクル)を小さな円として示しており、領域Re1内に存在する粒子(粒子群)を、「Prtcl(TG1)」と表記しており、この粒子Prtcl(TG1)が、オブジェクトTG1を追跡するための粒子である。また、図19(a)において、領域Re2内に存在する粒子群を、「Prtcl(TG2)」と表記しており、この粒子Prtcl(TG2)が、オブジェクトTG2を追跡するための粒子である。
非特許文献1の技術では、時刻tにおいて、図19(a)に示した粒子Prtcl(TG1)の分布(時刻tでの事後確率分布)に基づいて、オブジェクトTG1の検出領域Re1を決定する。また、同様に、オブジェクトTG2についても、図19(a)に示した粒子Prtcl(TG2)の分布(時刻tでの事後確率分布)に基づいて、オブジェクトTG2の検出領域Re2を決定する。そして、非特許文献1の技術では、領域Re1、Re2を消去することで、消去処理画像を生成する。そして、非特許文献1の技術では、生成した消去処理画像に対して、オブジェクト番号0の粒子Prtcl(TG0)を用いたパーティクルフィルタ処理を実行し、新規オブジェクトを検出する。
図19(b)では、図19(a)のオブジェクトTG1が示す領域から、領域Re1を消去して残った領域R1_rest上に、新規オブジェクト検出用の粒子Prtcl(TG0)が存在する。このため、非特許文献1の技術では、領域R1_restが、新規オブジェクトに相当する領域であると、誤判定してしまう。つまり、非特許文献1の技術では、追跡中の物体(オブジェクト)領域を完全に消去できない場合、図19(b)に示すように、追跡中の物体の領域を、新規オブジェクトに相当する領域であると、誤判定してしまう。図19(b)の場合では、オブジェクトTG1の領域の一部であるR1_restが、新規オブジェクト(新たに発見した物体)に相当する領域であると誤判定されてしまう。
そこで、本発明は、上記問題点に鑑み、観測データから尤度を求めることによって、観測対象の内部状態を適切に推定し、例えば、動画像上において、適切に複数の物体を追跡するとともに、適切に、新規物体(新規オブジェクト)を発見し、追跡対象に追加することができる状態推定装置、プログラムおよび集積回路を実現することを目的とする。
上記課題を解決するために、第1の発明は、複数の物体を追跡する状態推定装置であって、観測取得部と、ラベル設定部と、オブジェクト情報管理部と、予測部と、尤度取得部と、事後確率分布推定部と、事前確率分布出力部と、を備える。
観測取得部は、観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する。
ラベル設定部は、観測取得部により取得された観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得する。
オブジェクト情報管理部は、追跡対象の物体にオブジェクト番号を付し、付されたオブジェクト番号を管理する。
予測部は、追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する。
尤度取得部は、前時刻t−1において追跡中であると判定された物体ごとに、予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の消去対象領域を消去した新規物体発見用の消去画像を取得する。
また、尤度取得部は、新規物体検出用のパーティクルを生成し、消去画像に対して、新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した新オブジェクト候補領域と、ラベル画像とに基づいて、新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定する。
また、尤度取得部は、時刻tにおいて追跡対象であると判定された物体ごとに、消去画像に対して、予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した最終尤度に基づいて、予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する。
事後確率分布推定部は、時刻tにおいて追跡対象であると判定された物体ごとに、尤度取得部により取得された更新確率分布データと、最終尤度とから、事象の状態の事後確率分布データを推定する。
事前確率分布出力部は、事後確率分布推定部により推定された事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する。
この状態推定装置では、ラベル設定部が観測データ画像から、閉領域を検出し、当該閉領域にラベル番号を付したラベル画像を生成し、尤度取得部が追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を生成する。そして、この状態推定装置では、ラベル番号に基づいて、新規物体発見用の消去画像を用いて、新規物体を発見する処理を実行するので、新規物体発見用の消去処理画像において、追跡中の物体に対応する領域であって、消去処理により消去できず残存した領域を、新規物体に対応する領域であると誤判定することを適切に防止することができる。
また、この状態推定装置では、追跡対象物体をオブジェクト番号により管理し、例えば、オブジェクト番号ごとに割り当てた粒子(パーティクル)によりパーティクルフィルタ処理を実行することで、適切に複数の物体を追跡する処理を実行することができる。
したがって、この状態推定装置では、適切に複数の物体を追跡するとともに、適切に、新規物体(新規オブジェクト)を発見し、追跡対象に追加することができる。
なお、「閉じた領域」とは、例えば、画像上において、所定の画像特徴量が類似している領域であり、クラスタリング処理等により、他の領域と分離可能なまとまった閉領域を含む概念である。
第2の発明は、第1の発明であって、尤度取得部は、消去部と、尤度算出部と、新オブジェクト候補領域検出部と、重心検出部と、新オブジェクト検出部と、追跡オブジェクト決定部と、最終決定部と、を備える。
消去部は、前時刻t−1において追跡中であると判定された物体ごとに、予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の消去対象領域を消去した追跡中物体用の消去画像、あるいは、追跡中の物体の全ての物体の消去対象領域を消去した新規物体発見用の消去画像を取得する。
尤度算出部は、前時刻t−1において追跡中であると判定された物体ごとに、予測確率分布データに基づくパーティクルを取得し、取得したパーティクルを、追跡中物体用の消去画像に適用することで、追跡中物体についての尤度を算出する。
また、尤度算出部は、新規物体検出用のパーティクルを生成し、新規物体発見用の消去画像に対して、新規物体検出用のパーティクルを適用することで、新規物体についての尤度を算出する。
新オブジェクト候補領域検出部は、新規物体発見用の消去画像に対して、新規物体検出用のパーティクルを適用することで新オブジェクト候補領域を取得する。
重心検出部は、新オブジェクト候補領域の重心を検出する。
そして、新オブジェクト検出部は、重心検出部により検出された新オブジェクト候補領域の重心と、ラベル画像とに基づいて、新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定する。
また、追跡オブジェクト決定部は、新オブジェクト検出部の判定結果に基づいて、時刻tにおける追跡対象とする物体を決定する。
最終決定部は、時刻tにおいて追跡対象であると判定された物体ごとに、消去画像に対して、予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した最終尤度に基づいて、予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する。
この状態推定装置では、新オブジェクト候補領域検出部が、新規物体検出用のパーティクルを適用することで新オブジェクト候補領域を取得し、新オブジェクト検出部が、新オブジェクト候補領域の重心と、ラベル画像とに基づいて、新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定する。
したがって、この状態推定装置では、ラベル画像と、新オブジェクト候補領域の重心とに基づいて、精度良く、新規物体を発見する処理を実行することができる。
第3の発明は、第2の発明であって、追跡オブジェクト決定部は、前時刻t−1で追跡中の物体であって、かつ、時刻tにおいて算出された尤度の和が所定の値を超える物体について、追跡用の消去画像上おいて、当該物体に相当する画像領域をラベル判定領域として取得し、ラベル画像において、ラベル判定領域に相当する領域にラベル番号が付されているか否かを判定し、ラベル番号が付されている場合、当該物体のオブジェクト番号と、当該ラベル番号とを対応付けたオブジェクト情報として、オブジェクト情報管理部に出力する。
オブジェクト情報管理部は、オブジェクト情報を保持する。
新オブジェクト検出部は、ラベル画像において、新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在するか否かを判定する。
(A)新オブジェクト検出部は、ラベル画像において、新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在する場合、当該ラベル番号を第1ラベル番号として取得し、第1ラベル番号が、オブジェクト情報管理部により保持されているオブジェクト情報に含まれているオブジェクト番号であるか否かを判定する。
オブジェクト検出部は、
(A1)第1ラベル番号がオブジェクト情報に含まれているオブジェクト番号と一致する場合、新規物体は発見されなかったと判定し、
(A2)第1ラベル番号がオブジェクト情報に含まれているオブジェクト番号と一致しない場合、新オブジェクト候補領域は、新規物体の領域の候補とする。
また、新オブジェクト検出部は、
(B)ラベル画像において、新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在しない場合、重心を含む所定の大きさの領域である探索領域を設定し、ラベル画像上の探索領域に相当する領域において、オブジェクト情報管理部により保持されているオブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域があるか否かを判定する探索処理を行い、ラベル画像上の探索領域に相当する領域において、オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域があると判定された場合、新規物体は発見されなかったと判定する。
追跡オブジェクト決定部は、新オブジェクト検出部により、新オブジェクト候補領域が、新規物体の領域の候補であると判定された場合、新規物体発見用の消去画像に対して、新規物体検出用のパーティクルを適用することで取得した尤度の和を算出し、尤度の和が所定の閾値を超える場合、新規物体が発見されたと判定する。
最終決定部は、追跡オブジェクト決定部により、新規物体が発見されたと判定された場合、新規物体発見用の消去画像に対して、新規物体検出用のパーティクルを適用することで取得した尤度を新規物体についての尤度として、最終尤度の算出処理に用い、新規物体発見用の消去画像に対して、新規物体検出用のパーティクルを適用することで取得した確率分布データを新規に追跡対象とする物体の確率分布データとして、更新確率分布データの取得処理に用いる。
この状態推定装置では、オブジェクト検出部が、新オブジェクト候補領域の重心を含む探索領域を設定し、ラベル画像の当該探索領域に相当する領域において、ラベル番号が付与されている領域を探索するので、高速かつ高精度に、新規物体を発見する処理を実行することができる。
第4の発明は、第3の発明であって、新オブジェクト検出部は、重心を含み、かつ、新オブジェクト候補領域を含む領域を、探索領域に設定する。
これにより、この状態推定装置では、探索処理での探索ミスが発生する可能性を低減させることができる。
第5の発明は、第3の発明であって、新オブジェクト検出部は、重心を含む楕円状の領域を、探索領域に設定する。
これにより、この状態推定装置では、重心を含む楕円状の領域を、探索領域に設定することができる。
なお、「楕円上の領域」は、円状の領域を含む概念である。
また、楕円の長径、短径、あるいは、円の半径は、追跡中の物体、あるいは、追跡対象となりうる物体が所定の大きさであることが分かっている場合、当該追跡中の物体、あるいは、追跡対象となりうる物体の標準的な大きさや、平均の大きさ、上限の大きさ等に基づいて、設定されるものであってもよい。
第6の発明は、第3の発明であって、新オブジェクト検出部は、重心を含む矩形状の領域を、探索領域に設定する。
これにより、この状態推定装置では、重心を含む矩形状の領域を、探索領域に設定することができる。
なお、矩形の大きさは、追跡中の物体、あるいは、追跡対象となりうる物体が所定の大きさであることが分かっている場合、当該追跡中の物体、あるいは、追跡対象となりうる物体の標準的な大きさや、平均の大きさ、上限の大きさ等に基づいて、設定されるものであってもよい。
第7の発明は、第3から第6のいずれかの発明であって、新オブジェクト検出部は、探索領域において、重心の位置を探索処理の起点とし、重心からの距離が小さい画像領域から、重心からの距離が大きい画像領域へと順番に、探索処理の対象となる画像領域を設定する。
これにより、新オブジェクト候補領域の重心からの距離が近い画像領域から探索処理が実行されるので、効率良く探索処理を実行することができる。
第8の発明は、第7の発明であって、新オブジェクト検出部は、ラベル画像上の探索領域に相当する領域において、オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域を発見した場合、探索処理を終了させる。
これにより、オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域を発見されるとすぐに探索処理が終了されるので、探索処理を高速することができ、無駄な探索処理が継続されることを適切に防止することができる。
第9の発明は、複数の物体を追跡する状態推定方法をコンピュータに実行させるためのプログラムである。状態推定方法は、観測取得ステップと、ラベル設定ステップと、オブジェクト情報管理ステップと、予測ステップと、尤度取得ステップと、事後確率分布推定ステップと、事前確率分布出力ステップと、を備える。
観測取得ステップは、観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する。
ラベル設定ステップは、観測取得ステップにより取得された観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得する。
オブジェクト情報管理ステップは、追跡対象の物体にオブジェクト番号を付し、付されたオブジェクト番号を管理する。
予測ステップは、追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する。
尤度取得ステップは、前時刻t−1において追跡中であると判定された物体ごとに、予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の消去対象領域を消去した新規物体発見用の消去画像を取得する。
また、尤度取得ステップは、新規物体検出用のパーティクルを生成し、消去画像に対して、新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した新オブジェクト候補領域と、ラベル画像とに基づいて、新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定する。
また、尤度取得ステップは、時刻tにおいて追跡対象であると判定された物体ごとに、消去画像に対して、予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した最終尤度に基づいて、予測ステップにより取得された予測確率分布データを更新することで更新確率分布データを取得する。
事後確率分布推定ステップは、時刻tにおいて追跡対象であると判定された物体ごとに、尤度取得ステップにより取得された更新確率分布データと、最終尤度とから、事象の状態の事後確率分布データを推定する。
事前確率分布出力ステップは、事後確率分布推定ステップにより推定された事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する。
これにより、第1の発明と同様の効果を奏する複数の物体を追跡する状態推定方法をコンピュータに実行させるためのプログラムを実現することができる。
第10の発明は、複数の物体を追跡する状態推定処理用の集積回路であって、観測取得部と、ラベル設定部と、オブジェクト情報管理部と、予測部と、尤度取得部と、事後確率分布推定部と、事前確率分布出力部と、を備える。
観測取得部は、観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する。
ラベル設定部は、観測取得部により取得された観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得する。
オブジェクト情報管理部は、追跡対象の物体にオブジェクト番号を付し、付されたオブジェクト番号を管理する。
予測部は、追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する。
尤度取得部は、前時刻t−1において追跡中であると判定された物体ごとに、予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の消去対象領域を消去した新規物体発見用の消去画像を取得する。
また、尤度取得部は、新規物体検出用のパーティクルを生成し、消去画像に対して、新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した新オブジェクト候補領域と、ラベル画像とに基づいて、新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定する。
また、尤度取得部は、時刻tにおいて追跡対象であると判定された物体ごとに、消去画像に対して、予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した最終尤度に基づいて、予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する。
事後確率分布推定部は、時刻tにおいて追跡対象であると判定された物体ごとに、尤度取得部により取得された更新確率分布データと、最終尤度とから、事象の状態の事後確率分布データを推定する。
事前確率分布出力部は、事後確率分布推定部により推定された事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する。
これにより、第1の発明と同様の効果を奏する集積回路を実現することができる。
本発明によれば、観測データから尤度を求めることによって、観測対象の内部状態を適切に推定し、例えば、動画像上において、適切に複数の物体を追跡するとともに、適切に、新規物体(新規オブジェクト)を発見し、追跡対象に追加することができる状態推定装置、プログラムおよび集積回路を実現することができる。
第1実施形態に係る状態推定装置1000の概略構成図。 第1実施形態に係るラベル設定部2、尤度取得部3およびオブジェクト情報管理部4の概略構成図。 時刻tにおける観測データを模式的に示す図。 ラベル画像Img_Lを示す図。 画像特徴量抽出画像Img1において、オブジェクト番号#1の物体に相当する領域TG1と、オブジェクト番号#2の物体に相当する領域TG2と、物体#1の予測確率分布データSt−1(#1)に基づいて生成されたパーティクル群Prtcl(#1)と、物体#2の予測確率分布データSt−1(#2)に基づいて生成されたパーティクル群Prtcl(#2)(パーティクル群)と、模式的に追加して示した図。 消去処理画像Img1_e(#1)を示す図。 尤度算出処理および事後確率分布データを取得する処理を説明するための図。 消去処理画像Img1_e(#0)を示す図。 消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図。 画像特徴量抽出画像Img2を示す図。 ラベル画像Img2_Lを示す図。 消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図。 探索処理について説明するための図(図12の一部を拡大して示した図)。 探索領域s_area1(一例)、探索領域s_area2(一例)を示す図。 探索領域s_area3(一例)を示す図。 画像特徴量抽出画像Img3を示す図。 ラベル画像Img3_Lを示す図。 消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図。 例えば、撮像画像から、画像特徴量を赤色度合いとして抽出した画像(画像特徴量抽出画像)に対して、パーティクルフィルタ処理により赤い物体を追跡・発見する処理を実行する場合について説明するための図。
[第1実施形態]
第1実施形態について、図面を参照しながら、以下、説明する。
<1.1:状態推定装置の構成>
図1は、第1実施形態に係る状態推定装置1000の概略構成図である。
図2は、第1実施形態に係るラベル設定部2、尤度取得部3およびオブジェクト情報管理部4の概略構成図である。
状態推定装置1000は、図1に示すように、観測取得部1と、ラベル設定部2と、尤度取得部3と、オブジェクト情報管理部4と、事後確率分布推定部5と、事前確率分布出力部6と、初期状態設定部7と、予測部8と、を備える。
観測取得部1は、観測データを取得し、取得した観測データをラベル設定部2と、尤度取得部3とに出力する。観測取得部1は、例えば、撮像装置により撮像された画像(撮像画像)から、所定の画像特徴量を抽出した画像特徴量抽出画像を観測データとして取得する。
ラベル設定部2は、観測取得部1から出力される観測データ(例えば、画像特徴量抽出画像)を入力し、観測データ(例えば、画像特徴量抽出画像)において、検出された物体にラベル(ラベル番号)を付して、区別可能なデータを生成する。例えば、ラベル設定部2は、観測データが画像特徴量抽出画像である場合、クラスタリング処理等により、画像特徴量抽出画像上において、例えば、複数の物体に相当する領域を検出し、検出した領域に、所定のラベル番号を付与する。例えば、クラスタリング処理等により、2つの物体が検出された場合、ラベル設定部2は、一方の物体に相当する画像領域に含まれる画素の画素値を「1」とし、もう一方の物体に相当する画像領域に含まれる画素の画素値を「2」とし、物体が検出されていない画像領域の画素の画素値を「0」として、ラベル画像(ラベル番号を画素値として付与して生成した画像)を生成する。そして、ラベル設定部2は、生成したラベル画像を尤度取得部3に出力する。
なお、以下では、説明便宜のため、ラベル設定部2が生成して出力するデータが、上記ラベル画像であるものとして、説明する。
尤度取得部3は、図2に示すように、消去部31と、尤度算出部32と、新オブジェクト候補領域検出部33と、重心検出部34と、新オブジェクト検出部35と、セレクタ36と、追跡オブジェクト決定部37と、最終決定部38と、を備える。
消去部31は、観測取得部1から出力される観測データと、予測部8から出力される予測確率分布データと、オブジェクト情報管理部4から出力されるオブジェクト情報と、を入力とする。消去部31は、オブジェクト情報および予測確率分布データに基づいて、処理対象のオブジェクト(オブジェクト番号#i(i:0以外の整数)のオブジェクト)以外のオブジェクトに相当する画像領域(データ)を、観測データ(例えば、特徴量抽出画像)から、消去し、消去処理後データ(消去処理画像)D1(#i)を取得する。そして、消去部31は、取得した消去処理後データ(消去処理画像)D1(#i)を尤度算出部32に出力する。
なお、「D1(#i)」は、オブジェクト番号#i以外のオブジェクトに相当する領域を消去した消去処理後データ(消去処理画像)を表すものとする。例えば、消去部31は、観測データ画像において、オブジェクト番号#i以外のオブジェクトに相当する画像領域の画素の画素値を「0」に置換することで、消去処理画像D1(#i)を生成する。
また、消去部31は、オブジェクト情報管理部4から出力されるオブジェクト情報に含まれるオブジェクト番号が「#0」である場合、新規オブジェクトの発見処理のために、追跡中のオブジェクトに相当する領域を消去した消去処理後データ(消去処理画像)D1(#0)を生成し、生成した消去処理後データ(消去処理画像)D1(#0)を尤度算出部32に出力する。さらに、消去部31は、オブジェクト番号が「#0」である場合、消去処理後データ(消去処理画像)D1(#0)を最終決定部38に出力する。
尤度算出部32は、消去部31から出力される消去処理後データ(消去処理画像)と、予測部8から出力される予測確率分布データと、オブジェクト情報管理部4から出力されるオブジェクト情報と、を入力する。尤度算出部32は、消去処理後データ(消去処理画像)を用いて、処理対象のオブジェクト(オブジェクト番号#i(i:0以外の整数)のオブジェクト)についての尤度を算出する。
具体的には、尤度算出部32は、オブジェクト情報と、予測確率分布データとに基づいて、オブジェクト番号#iに割り当てられた粒子(パーティクル)の分布を取得し、消去処理後データ(消去処理画像)に対して、オブジェクト番号#iに割り当てられた粒子(パーティクル)の分布に基づいて、尤度w(#i)を算出する。
そして、尤度算出部32は、算出した尤度w(#i)を、追跡オブジェクト決定部37に出力する。
なお、尤度算出部32は、オブジェクト情報管理部4から出力されるオブジェクト情報に含まれるオブジェクト番号が「#0」である場合、新規オブジェクトの発見処理のために、例えば、乱数を用いて、新たに粒子(オブジェクト番号#0の粒子)を生成する。この新たな粒子は、例えば、消去処理画像上で、各粒子の位置が一様分布となるように生成される。
そして、尤度算出部32は、消去処理後データ(消去処理画像)D1(#0)に対して、オブジェクト番号#0の粒子の分布に基づいて、尤度w(#0)を算出する。尤度算出部32は、算出した尤度w(#0)を新オブジェクト候補領域検出部33およびセレクタ36に出力する。
新オブジェクト候補領域検出部33は、尤度算出部32から出力される尤度w(#0)を入力する。新オブジェクト候補領域検出部33は、尤度w(#0)に基づいて、新規物体(新オブジェクト)の候補領域を検出し、その検出結果det_regionを重心検出部34に出力する。
重心検出部34は、新オブジェクト候補領域検出部33から出力される新オブジェクト候補領域を示すデータdet_regionを入力する。重心検出部34は、データdet_regionに基づいて、新オブジェクト候補領域の重心位置(画像上の重心位置)を算出する。そして、重心検出部34は、算出した重心位置を示すデータCoを新オブジェクト検出部35に出力する。
新オブジェクト検出部35は、重心検出部34から出力される重心位置を示すデータCoと、ラベル設定部2から出力されるラベル番号についてのデータ(ラベル画像)と、オブジェクト情報管理部4で管理されている追跡中のオブジェクトおよび当該オブジェクトに対応付けられているラベル番号についてのラベル情報L_infoと、を入力する。新オブジェクト検出部35は、新オブジェクト候補領域の重心位置を示すデータCoおよびラベル画像に基づいて、新オブジェクト候補領域が、新規のオブジェクトの領域であるか、あるいは、追跡中のオブジェクトの消し残りの領域かを判定し、判定結果を示すデータdet_newをセレクタ36と、追跡オブジェクト決定部37とに出力する。
なお、判定結果データdet_newは、(1)新オブジェクト候補領域が、新規のオブジェクトの領域であると判定した場合、「1」に設定され、(2)新オブジェクト候補領域が、新規のオブジェクトの領域ではないと判定した場合、「0」に設定されるものとする。
セレクタ36は、尤度算出部32から出力される尤度w(#0)と、新オブジェクト検出部35から出力される判定結果データdet_newとを入力とする。セレクタ36は、(1)新オブジェクト検出部35から出力される判定結果データdet_newが「1」である場合、尤度w(#0)を追跡オブジェクト決定部37に出力し、(2)新オブジェクト検出部35から出力される判定結果データdet_newが「0」である場合、値「0」を追跡オブジェクト決定部37に出力する。
なお、上記(2)の場合、セレクタ36は、追跡オブジェクト決定部37に何も出力しないようにしてもよい。
追跡オブジェクト決定部37は、尤度算出部32から出力される尤度w(#i)と、セレクタ36からの出力と、新オブジェクト検出部35から出力される判定結果データdet_newと、オブジェクト情報管理部4から出力されるオブジェクト情報と、予測部8から出力される予測確率分布データと、ラベル設定部2から出力されるラベル画像を入力とする。
追跡オブジェクト決定部37は、入力された尤度w(#i)、または、尤度w(#i)および尤度w(#0)の合計が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度(これを「w_all」と表記する。)を用いて、オブジェクト番号ごとに、尤度の和を算出する。
そして、追跡オブジェクト決定部37は、(1)算出した尤度の和が所定の閾値th1を超える場合、当該オブジェクト番号のオブジェクトに対する追跡処理を継続させるために、ステータスを「Survive」に設定し、(2)算出した尤度の和が所定の閾値thを超えない場合、当該オブジェクト番号のオブジェクトに対する追跡処理を停止させるために、ステータスを「Discard」に設定する。また、追跡オブジェクト決定部37は、ラベル設定部2から出力されるラベル画像(ラベル番号)を参照し、追跡処理を継続させると判定したオブジェクトと、ラベル番号との対応付けを行うことでラベル情報L_infoを取得する。そして、追跡オブジェクト決定部37は、取得したラベル情報L_infoをオブジェクト情報管理部4に出力する。
また、追跡オブジェクト決定部37は、判定結果データdet_newが「1」である場合、(1)尤度w(#0)を正規化した尤度w’(#0)の和が所定の閾値th2を超える場合、新規オブジェクトを発見したと判断し、ステータスを「FoundNewTarget」に設定し、(2)尤度w(#0)を正規化した尤度w’(#0)の和が所定の閾値th2を超えない場合、新規オブジェクトは発見されなかったと判断し、ステータスを「NotFound」に設定する。
追跡オブジェクト決定部37は、上記のようにして、オブジェクト番号ごとに、設定したステータスをオブジェクト情報管理部4に出力する。
また、追跡オブジェクト決定部37は、上記により正規化した後の尤度w_allを最終決定部38に出力する。
最終決定部38は、消去部31から出力される消去処理後データ(消去処理画像)D1(#0)と、予測部8から出力される予測確率分布データと、追跡オブジェクト決定部37から出力される正規化後の尤度w_allと、オブジェクト情報管理部4から出力される新オブジェクト情報とを入力とする。最終決定部38は、新オブジェクト情報に基づいて、正規化後の尤度w_allから、追跡するオブジェクト(新規に追跡を開始するオブジェクトを含む。)についての尤度のみを残し、さらに、残した尤度の和が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度を用いて、オブジェクト番号ごとに、最終の尤度を決定する。そして、最終決定部38は、決定した最終の尤度を事後確率分布推定部5に出力する。
また、最終決定部38は、新オブジェクト情報に基づいて、予測確率分布データ追跡するオブジェクト(新規に追跡を開始するオブジェクトを含む。)についての予測確率分布データのみが残るように、予測確率分布データを更新する。そして、最終決定部38は、更新した予測確率分布データを、更新確率分布データとして、事後確率分布推定部5に出力する。
オブジェクト情報管理部4は、追跡オブジェクト決定部37から出力されるステータスに関する情報を入力し、入力されたステータスを、オブジェクトごと(オブジェクト番号ごと)に管理する。また、オブジェクト情報管理部4は、消去部31と、尤度算出部32と、追跡オブジェクト決定部37とに、オブジェクトに関する情報を出力する。また、オブジェクト情報管理部4は、追跡オブジェクト決定部37から入力したステータス情報に基づいて、追跡対象とするオブジェクトを決定し、決定したオブジェクトに関する情報を、新オブジェクト情報として、最終決定部38に、出力する。
事後確率分布推定部5は、尤度取得部3から出力される、オブジェクト番号ごとの尤度(尤度データ)と、オブジェクト番号ごとの更新確率分布データ(更新された予測後確率分布データ)とを入力する。事後確率分布推定部5は、オブジェクト番号ごとに、尤度(尤度データ)と更新確率分布データとに基づいて、事後確率分布(事後確率分布データ)を推定(取得)する。そして、事後確率分布推定部5は、オブジェクト番号ごとに取得した事後確率分布(事後確率分布データ)を、事前確率分布出力部6に出力する。
事前確率分布出力部6は、初期状態設定部7から出力される初期状態の設定データと、事後確率分布推定部5から出力される事後確率分布(事後確率分布データ)とを入力する。事前確率分布出力部6は、初期状態では、初期状態設定部7から出力される初期状態の設定データに基づいて、事前確率分布(事前確率分布データ)を生成し、生成した事前確率分布(事前確率分布データ)を予測部8に出力する。なお、事前確率分布(事前確率分布データ)は、オブジェクト番号ごとに生成される。
また、事前確率分布出力部6は、初期状態以外の状態では、事後確率分布推定部5から出力される、時刻tにおける事後確率分布(事後確率分布データ)を、次の時刻t+1において、事前確率分布(事前確率分布データ)として、予測部8に出力する。
初期状態設定部7は、初期状態における事前確率分布(事前確率分布)を生成するためのデータ(初期値)を保持しており、当該データ(初期値)を事前確率分布出力部6に出力する。
予測部8は、事前確率分布出力部6から出力される事前確率分布データ(オブジェクト番号ごとの事前確率分布データ)を入力とする。予測部8は、オブジェクト番号ごとに、オブジェクト番号ごとの事前確率分布データから、システムモデル(状態遷移関数)により予測した確率分布データを取得する。そして、予測部8は、取得した確率分布データを尤度取得部3に出力する。
<1.2:状態推定装置の動作>
以上のように構成された状態推定装置1000の動作について、以下、説明する。
なお、以下では、2つの赤色の物体を追跡する処理を例に説明する。
図3は、時刻tにおける観測データを模式的に示す図である。具体的には、図3は、時刻tにおいて、観測取得部1により取得された赤色度合いの高い領域を抽出した画像Img1(画像特徴量抽出画像Img1)である。画像Img1において、領域TG1は、1つ目の赤色の物体(オブジェクト)に相当する画像領域であり、領域TG2は、2つ目の赤色の物体(オブジェクト)に相当する画像領域である。なお、以下では、領域TG1に対応するオブジェクトのオブジェクト番号を「#1」とし、領域TG2に対応するオブジェクトのオブジェクト番号を「#2」として説明する。
観測取得部1では、例えば、各画素がRGB成分を有する撮像画像から、赤色度合いの高い領域を抽出した画像Img1(画像特徴量抽出画像Img1)を生成する。例えば、観測取得部1は、撮像画像の各画素のR成分値、G成分値、および、B成分値を用いて、
Dout=R×(255−G)×(255−B)/(1+R+G+B)
Dout:出力画素値
R:R成分値
G:G成分値
B:B成分値
により取得した出力画素値を各画素の画素値とすることで、赤色度合いの高い領域を抽出した画像Img1(画像特徴量抽出画像Img1)を生成する。なお、撮像画像が8ビット画像データであり、各画素のR成分値、G成分値、および、B成分値は、それぞれ、0〜255の値をとるものとする。
また、観測対象(追跡対象)であるオブジェクト番号#i(i:整数)の物体の時刻tの内部状態を示す状態ベクトルをx(#i)とし、時刻tにおいて観測された特徴を観測ベクトルy(#i)とし、事前確率分布p(x(#i)|yt−1(#i))に従って生成されたサンプル集合(パーティクルの集合)St|t−1(#i)を
t|t−1(#i)={st|t−1 (1)(#i),st|t−1 (2)(#i),・・・,st|t−1 (M)(#i)}
とし、事後確率分布p(x(#i)|y(#i))に従って生成されたサンプル集合(パーティクルの集合)St|t(#i)を
t|t={st|t (1)(#i),st|t (2)(#i),・・・,st|t (M)(#i)}
とする。
また、サンプル集合(パーティクルの集合)St|t(#i)のj番目のサンプル(パーティクル)st|t (j)(#i)は、j番目のサンプル(パーティクル)の画像上の座標位置(Xt(j)(#i),Yt(j)(#i))と、当該座標位置を中心とする円状の画像領域の半径Rt(j)(#i)を内部変数とするベクトルデータであるものとする。つまり、サンプル(パーティクル)st|t (j)(#i)は、
t|t (j)(#i)=(Xt(j)(#i),Yt(j)(#i),Rt(j)(#i))
であるものとする。
なお、状態推定装置1000において、時刻t−1(例えば、時刻tの1フレーム前の時刻)においても、オブジェクト番号#1の物体と、オブジェクト番号#2の物体とが、追跡されているものとする。つまり、時刻t−1の画像特徴量抽出画像においても、オブジェクト番号#1の物体と、オブジェクト番号#2の物体とが、検出されており、追跡処理の対象となっているものとする。
(時刻t0の処理):
(1.2.1:ラベル設定処理)
時刻tにおいて、図3に示す画像特徴量抽出画像Img1が、ラベル設定部2に入力される。
ラベル設定部2では、クラスタ処理(クラスタリング)等により、画像特徴量抽出画像Img1に含まれるまとまった画像領域(閉じた領域)を検出する。そして、検出した画像領域にラベル番号を付与する。図3の画像特徴量抽出画像Img1では、領域TG1と領域TG2とが、ラベル設定部2により検出される。そして、ラベル設定部2は、領域TG1にラベル番号L1を付与し、領域TG2にラベル番号L2を付与する。例えば、ラベル設定部2は、領域TG1に含まれる画素の画素値を「1」(ラベル番号L1を示す値)とし、領域TG2に含まれる画素の画素値を「2」(ラベル番号L2を示す値)とし、それ以外の領域の画素の画素値を「0」(ラベル番号が付与されていないことを示す値)にしたラベル画像を生成し、当該ラベル画像を尤度取得部3に出力する。このようにして生成されたラベル画像Img1_Lを、図4に示す。なお、図4では、ラベル番号L1を付した画像領域の重心Co(L1)およびラベル番号L2を付した画像領域の重心Co(L2)も図示している。
なお、ラベル番号を付与したデータの形式は、上記ラベル画像によるものには限定されないが、以下では、説明便宜のため、ラベル設定部2が、上記ラベル画像を生成し、当該ラベル画像を尤度取得部3に出力する場合について、説明する。
時刻tにおいて、事前確率分布出力部6は、時刻t−1におけるオブジェクト番号1の物体(以下、「物体#1」という。)の事後確率分布データを、時刻tにおける物体#1の事前確率分布(事前確率分布データ)として、予測部8に出力する。また、事前確率分布出力部6は、時刻t−1におけるオブジェクト番号2の物体(以下、「物体#2」という。)の事後確率分布データを、時刻tにおける物体#2の事前確率分布(事前確率分布データ)として、予測部8に出力する。
予測部8では、オブジェクト番号ごとに、予測処理が実行される。
具体的には、予測部8では、オブジェクト番号ごとに、事前確率分布出力部6により生成された時刻t−1における事前確率分布(事前確率分布データ)に従うパーティクルの集合st−1|t−1(#i)に基づいて、予測処理を行い、予測処理後のパーティクルの集合st|t−1(#i)を取得する。
例えば、時刻t−1における物体#i(オブジェクト番号#iの物体)の事前確率分布(事前確率分布データ)に従うパーティクルの集合St−1|t−1(#i)(これを「事前確率分布データSt−1|t−1(#i)」と表記する。)に含まれる各パーティクルの状態に対して、ランダムウォークのダイナミクスを仮定したガウシアンノイズを重畳させることで、予測処理後のパーティクルの集合St|t−1(#i)(これを「予測確率分布データSt|t−1(#i)」と表記する。)を取得する。つまり、v (j)(#i)がガウス分布に従うシステムノイズとし、
t|t−1 (i)(#i)=f(st−1|t−1 (j)(#i),v (j)(#i))
f():時刻t−1と時刻tとの状態変化を表す状態遷移関数
(j):システムノイズ
により、予測処理後のパーティクルの集合St|t−1(#i)を取得する。
具体的には、時刻t−1における物体#iの事前確率分布(事前確率分布データ)に従う、j番目のパーティクルの内部状態は、(Xt−1|t−1 (j)(#i),Yt−1|t−1 (j)(#i),Rt−1|t−1 (j)(#i))であり、予測処理後のj番目のパーティクルの内部状態は、(Xt|t−1 (j)(#i),Yt|t−1 (j)(#i),Rt|t−1 (j)(#i))であるので、
t−1|t (j)(#i)=Xt−1|t−1 (j)(#i)+ΔX(j)(#i)
t−1|t (j)(#i)=Yt−1|t−1 (j)(#i)+ΔY(j)(#i)
t−1|t (j)(#i)=Rt−1|t−1 (j)(#i)+ΔR(j)(#i)
により、予測部8は、物体#iの予測処理後のパーティクルの集合st|t−1(#i)を取得する。なお、ΔX(j)(#i)、ΔY(j)(#i)、ΔR(j)(#i)は、それぞれ、ガウス分布に従う。
このようにして取得された、オブジェクト番号ごとの予測処理後のパーティクルの集合st|t−1(#i)は、物体#iの予測確率分布データとして、予測部8から尤度取得部3に出力される。
尤度取得部3の消去部31では、観測取得部1から入力される観測データ(画像特徴量抽出画像)に対して、消去処理が実行される。この処理について、図5を用いて説明する。
図5は、画像特徴量抽出画像Img1において、オブジェクト番号#1の物体に相当する領域TG1と、オブジェクト番号#2の物体に相当する領域TG2と、物体#1の予測確率分布データSt|t−1(#1)に基づいて生成されたパーティクル群Prtcl(#1)と、物体#2の予測確率分布データSt|t−1(#2)に基づいて生成されたパーティクル群Prtcl(#2)(パーティクル群)と、模式的に追加して示した図である。
オブジェクト情報管理部4は、消去部31に対して、処理対象のオブジェクト番号が、#1、#2であることを示すオブジェクト情報を出力し、消去部31は、当該オブジェクト情報に基づいて、物体#1、#2についての消去処理を実行する。
(1.2.2:追跡中の物体についての処理)
追跡中の物体についての処理として、物体#1に対する処理を例に、以下、説明する。
消去部31は、オブジェクト番号#1以外の物体に相当する画像領域を消去する。つまり、消去部31は、オブジェクト番号#1以外の物体に相当する画像領域の画素の画素値を「0」に置換する。
具体的には、図5に示す場合、オブジェクト番号#1以外の物体は、物体#2のみであるので、消去部31は、オブジェクト番号#2のパーティクルの和集合で示される領域を消去する。消去部31は、例えば、オブジェクト番号#2のパーティクル群Prtcl(#2)に含まれる各パーティクルが画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を消去対象領域と決定する。図5の消去領域Re2は、このようにして決定された、物体#2の消去対象領域である。
図6に、図5の画像特徴量抽出画像Img1から、オブジェクト番号#1以外の物体に相当する画像領域を消去して生成した消去処理画像Img1_e(#1)を示す。
図6から分かるように、物体#2の領域TG2は、完全に消去されている。
消去部31は、上記のようにして生成した物体#1の消去処理画像を、データD1(#1)として、尤度算出部32に出力する。
尤度算出部32では、物体#1の予測確率分布データSt|t−1(#1)と、消去部31から出力されたデータD1(#1)(消去処理画像Img1_e(#1))とを用いて、物体#1の尤度w(#1)が算出される。この処理について、図7を用いて説明する。
図7は、尤度算出処理および事後確率分布データを取得する処理を説明するための図である。
図7(a)は、図6の物体#1の領域TG1と、物体#1のパーティクル群Prtcl(#1)とを抽出して示した図に、図7(a)のラインA1上に存在するパーティクルに適用される消去処理後観測データ(データD1(#1))と、尤度w(#1)と、事後確率分布データSt|t(#1)とを示した図を追加した図である。
図7(b)は、事後確率分布データSt|t(#1)に基づくパーティクル群Prtcl(#1)を模式的に示した図である。
図7(a)のラインA1上に5つのパーティクルが存在している。ここでは、説明便宜のため、この5つのパーティクルを用いて、尤度算出部32が尤度を算出する場合について、説明する。
尤度算出部32は、図7(a)の中段に示した消去処理後の観測データ(赤色度合いを示す画像特徴量抽出画像の消去処理後の画像のラインA1に相当するデータ)と、パーティクルの分布とに基づいて、尤度を算出する。つまり、尤度算出部32は、各パーティクルが占める画像領域内の消去処理後観測データの値(消去処理画像において、各パーティクルが占める画像領域内の画素の画素値)を積算し、その積算値を尤度とする。このようにして算出された、ラインA1上の5つのパーティクルの尤度は、図7(a)の下段の図(尤度w(#1)の部分の図)において、黒い丸として示している。なお、黒い丸の大きさが大きい程、尤度の値が大きいことを示している。図7(a)の下段の図から分かるように、中央付近の尤度が大きな値となっていることが分かる。
このようにして、尤度算出部32は、予測確率分布データSt|t−1(#1)と、消去処理後観測データD1(#1)(消去処理画像Img1_e(#1))と、を用いて、尤度w(#1)を算出する。
そして、算出された尤度w(#1)は、追跡オブジェクト決定部37に出力される。
追跡オブジェクト決定部37は、物体#1の予測確率分布データSt|t−1(#1)と、尤度算出部32により算出された尤度w(#1)とに基づいて、物体#1の事後確率分布データSt|t(#1)(物体#1の事後確率分布に従うパーティクル集合St|t(#1))を取得する。
そして、追跡オブジェクト決定部37は、物体#1の事後確率分布データSt|t(#1)に基づいて生成されるパーティクル群Prtcl(#1)に含まれる各パーティクルが画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を、ラベル判定領域RL(#1)として、決定する。また、追跡オブジェクト決定部37は、ラベル画像を参照し、同一ラベル番号が付された領域(閉じた領域)の重心を求める。そして、追跡オブジェクト決定部37は、ラベル判定領域RL(#1)内に、ラベル画像において検出された同一ラベル番号が付された領域(閉じた領域)の重心が含まれるか否かを判定する。この処理について、図7を用いて説明する。
図7(a)の下段の図に示すように、追跡オブジェクト決定部37は、物体#1の予測確率分布データSt|t−1(#1)と、尤度w(#1)とに基づいて、物体#1の事後確率分布データSt|t(#1)を取得する。追跡オブジェクト決定部37は、各パーティクルの尤度w(j)(#1)が大きい程、多数のパーティクルが割り当てられるように、パーティクルを復元抽出する。したがって、追跡オブジェクト決定部37は、図7(a)の下段の図に示すように、領域TGの中心から遠い位置のパーティクルが消滅し、領域TGの中心付近にパーティクルが多く割り当てられるように、物体#1の事後確率分布データSt|t(#1)を取得する。
これにより、図7(b)に示すように、領域TG1の中心付近に多くのパーティクルが集中するように、物体#1の事後確率分布データSt|t(#1)が取得される。
そして、追跡オブジェクト決定部37は、ラベル判定領域RL(#1)を、図7(b)に示す領域RL(#1)として取得し、さらに、ラベル画像の閉じた領域の重心が、当該領域RL(#1)に存在するか否かを判定する。図7(b)の場合、ラベル設定部2により検出された閉じた領域が領域TG1と一致しており、当該領域にラベル番号L1が付されている。そして、当該領域の重心は、図7(b)にバツ印で示した位置(Co(L1))である。
この場合、追跡オブジェクト決定部37は、ラベル判定領域RL(#1)内にラベル番号L1が付された領域の重心Co(L1)があると判定し、当該判定結果を示す情報、すなわち、物体#1に対応するラベル番号がL1であることを示す情報を、ラベル情報L_infoとして、オブジェクト情報管理部4に出力する。そして、オブジェクト情報管理部4は、追跡オブジェクト決定部37から出力された上記判定結果を示すラベル情報L_infoを保持する。
なお、上記処理は、尤度算出部32により算出された尤度の和(各パーティクルにより算出された尤度の和)が所定の閾値よりも大きい場合のみ実行されることが好ましい。
物体#2についても、上記の物体#1についての処理と同様の処理が実行される。
つまり、尤度算出部32は、予測確率分布データSt|t−1(#2)と、消去処理後観測データD1(#2)(消去処理画像Img1_e(#2))と、を用いて、尤度w(#2)を算出する。
そして、算出された尤度w(#2)は、追跡オブジェクト決定部37に出力される。
追跡オブジェクト決定部37は、上記と同様にして、物体#2の事後確率分布データSt|t(#2)から取得したラベル判定領域RL(#2)内に、ラベル設定部2により、ラベル番号が付された領域の重心があるか否かを判定する。なお、ここでは、ラベル設定部2により、領域TG2にラベル番号L2が付され、その重心Co(L2)が、領域TG2の中心位置と一致しているものとする。この場合、追跡オブジェクト決定部37は、ラベル判定領域RL(#2)内に、ラベル番号L2が付された領域の重心Co(L2)があると判定し、当該判定結果を示す情報、すなわち、物体#2に対応するラベル番号がL2であることを示す情報を、ラベル情報L_infoとして、オブジェクト情報管理部4に出力する。そして、オブジェクト情報管理部4は、追跡オブジェクト決定部37から出力された上記判定結果を示すラベル情報L_infoを保持する。
なお、上記処理は、尤度算出部32により算出された尤度の和(各パーティクルにより算出された尤度の和)が所定の閾値よりも大きい場合のみ実行されることが好ましい。
(1.2.3:新規オブジェクトの発見処理(図9の場合))
次に、新規オブジェクトの発見処理について説明する。
オブジェクト情報管理部4は、処理対象の物体のオブジェクト番号が「#0」であることを示すオブジェクト情報を、消去部31に出力する。
そして、消去部31は、オブジェクト情報管理部4からのオブジェクト情報に基づいて、新規オブジェクトの発見処理のための消去処理を実行する。
消去部31は、新規オブジェクトの発見処理のために、追跡中のオブジェクトに相当する領域を消去した消去処理後データ(消去処理画像)D1(#0)を生成する。具体的には、消去部31は、観測データである画像特徴量抽出画像Img1から、追跡中の物体#1、#2に相当する領域TG1、TG2を消去した画像(消去画像)を生成する。
消去部31は、オブジェクト番号#1、#2の物体に相当する画像領域の画素の画素値を「0」に置換する。
つまり、オブジェクト番号#1、#2のパーティクルの和集合で示される領域を消去する。消去部31は、例えば、オブジェクト番号#1のパーティクル群Prtcl(#1)およびオブジェクト番号#2のパーティクル群Prtcl(#2)に含まれる各パーティクルが画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を消去対象領域と決定する。図5の消去領域Re1は、このようにして決定された、物体#1の消去対象領域であり、図5の消去領域Re2は、このようにして決定された、物体#2の消去対象領域である。
図8に、図5の画像特徴量抽出画像Img1から、オブジェクト番号#1、#2の物体(追跡中の全ての物体)に相当する画像領域を消去して生成した消去処理画像Img1_e(#0)を示す。
図8から分かるように、物体#2の領域TG2は、完全に消去されているが、物体#1の領域TG1には、消去されずに残っている領域R1_restが存在する。
消去部31は、上記のようにして生成した新規物体発見処理用の消去処理画像Img1_e(#0)を、データD1(#0)として、尤度算出部32に出力する。
尤度算出部32は、新規物体発見用の粒子(パーティクル)を追加し、当該パーティクルを用いて、尤度を算出する。例えば、尤度算出部32は、乱数を用いて、新たに粒子(オブジェクト番号#0の粒子)を生成し、新規物体発見用の粒子とする。この新たな粒子は、例えば、消去処理画像上で、各粒子の位置が一様分布となるように生成される。
そして、尤度算出部32は、消去処理画像Img1_e(#0)を観測データ(観測モデル)として、新規物体発見用の粒子(パーティクル)により尤度w(#0)を算出する。つまり、尤度算出部32は、消去処理画像Img1_e(#0)と、新規物体発見用の粒子(パーティクル)の分布とに基づいて、尤度w(#0)を算出する。
尤度算出部32により算出された尤度w(#0)は、新オブジェクト候補領域検出部33に出力される。
新オブジェクト候補領域検出部33では、尤度w(#0)に基づいて、新規オブジェクトの候補領域が検出される。この処理について、図9を用いて、説明する。
図9は、消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図である。
図9では、尤度算出部32により所定の値以上の尤度として算出された尤度を導出したパーティクルのみを示している(パーティクル群Prtcl(#0)として示している)。つまり、図9に描かれているパーティクル以外のパーティクルは、消去処理画像の画素値が「0」であるため、当該パーティクルに基づいて、算出される尤度は「0」となる。一方、領域R1_rest上に配置されたパーティクルは、消去処理画像の画素値が「0」ではないため、当該パーティクルに基づいて、算出される尤度は「0」にはならない(正の値を有する)。
新オブジェクト候補領域検出部33は、図9に示したパーティクルと、そのパーティクルにより算出された尤度とに基づいて、新オブジェクト候補領域Rnew(#0)を検出する。
具体的には、新オブジェクト候補領域検出部33は、正の値の尤度を導出したパーティクル(図9に小さな丸で示したパーティクル)が画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を、新オブジェクト候補領域Rnew(#0)として、決定(検出)する。図9では、このようにして決定(検出)された新オブジェクト候補領域を、領域Rnew(#0)として、示している。
新オブジェクト候補領域検出部33は、上記のようにして決定(検出)した新オブジェクト候補領域Rnew(#0)についての情報をdet_regionとして、重心検出部34に出力する。
重心検出部34は、新オブジェクト候補領域検出部33により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))を検出する。そして、重心検出部34は、検出した重心位置Co(Rnew(#0))についての情報を新オブジェクト検出部35に出力する。
新オブジェクト検出部35は、ラベル画像において、重心検出部34により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))と同じ座標位置において、追跡中の物体のラベル番号が付されているか否かを判定する。
図9の場合、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))は、図9のバツ印で示した位置であり、当該位置と同じ座標位置におけるラベル画像Img1_L(図4に示したラベル画像Img1_L)の画素の画素値は、「1」(ラベル番号L1が付されていることを示す値)である。つまり、新オブジェクト候補領域Rnew(#0)は、ラベル番号L1が付されている追跡中の物体#1の消去処理後に残った領域である。したがって、この場合、新オブジェクト検出部35は、新オブジェクト候補領域Rnew(#0)は、新規オブジェクトに対応する領域ではないと判定し、判定結果データdet_newを「0」に設定し、当該判定結果データdet_newを追跡オブジェクト決定部37およびセレクタ36に出力する。つまり、この場合(図9の場合)、新オブジェクト検出部35により、新規オブジェクトは発見されていないと正しく判定することができる。
セレクタ36は、新オブジェクト検出部35からの判定結果データdet_newが「0」であるので、追跡オブジェクト決定部37に、「0」を出力する。なお、セレクタ36は、新オブジェクト検出部35からの判定結果データdet_newが「0」である場合、追跡オブジェクト決定部37に、何も出力しないようにしてもよい。
(1.2.4:追跡オブジェクト決定処理)
追跡オブジェクト決定部37は、新オブジェクト検出部35からの判定結果データdet_newが「0」であるので、新規オブジェクトは発見されていないと判断し、追跡中の物体#1、#2を現時刻t以降においても追跡対象とすべきか否かの最終判定を行う。そして、追跡オブジェクト決定部37は、追跡対象とした物体を追跡するために、正規化後の尤度w_allを取得する。この処理について、具体的に説明する。
追跡オブジェクト決定部37は、入力された尤度w(#1)と尤度w(#2)との合計が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度w_allを用いて、オブジェクト番号ごとに、尤度の和を算出する。
そして、追跡オブジェクト決定部37は、(1)算出した尤度の和が所定の閾値th1を超える場合、当該オブジェクト番号のオブジェクトに対する追跡処理を継続させるために、ステータスを「Survive」に設定し、(2)算出した尤度の和が所定の閾値th1を超えない場合、当該オブジェクト番号のオブジェクトに対する追跡処理を停止させるために、ステータスを「Discard」に設定する。
観測データが図3の画像特徴量抽出画像Img1である場合、オブジェクト番号#1の正規化後の尤度の和も、オブジェクト番号#2の正規化後の尤度の和も、ともに、閾値th1を超えるので、追跡オブジェクト決定部37は、物体#1のステータスを「Survive」に設定し、物体#2のステータスを「Survive」に設定する。なお、観測データが図3の画像特徴量抽出画像Img1である場合、閾値th1は、オブジェクト番号#1の正規化後の尤度の和よりも大きく、かつ、オブジェクト番号#2の正規化後の尤度の和よりも大きな値に設定されているものとする。
また、追跡オブジェクト決定部37は、ラベル設定部2から出力されるラベル画像(ラベル番号)を参照し、上記判定処理により追跡処理を継続させると判定したオブジェクトと、ラベル番号との対応付けを示すラベル情報L_infoを生成し、オブジェクト情報管理部4に出力する。つまり、上記の場合、追跡オブジェクト決定部37は、物体#1のステータスが「Survive」であり、物体#1のラベル番号が「L1」であることを示す情報と、物体#2のステータスが「Survive」であり、物体#2のラベル番号が「L2」であることを示す情報とをオブジェクト情報管理部4に出力する。
そして、オブジェクト情報管理部4は、追跡オブジェクト決定部37から出力される上記情報に基づいて、時刻tにおいて追跡対象となった物体についての情報である新オブジェクト情報を生成し、当該新オブジェクト情報を保持する。
また、追跡オブジェクト決定部37は、正規化後の尤度w_allを最終決定部38に出力する。
最終決定部38は、オブジェクト情報管理部4から新オブジェクト情報を入力し、当該新オブジェクト情報に基づいて、正規化後の尤度w_allから、追跡するオブジェクト(新規に追跡を開始するオブジェクトを含む。)についての尤度のみを残し、さらに、残した尤度の和が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度を用いて、オブジェクト番号ごとに、最終の尤度を決定する。
観測データが図3の画像特徴量抽出画像Img1である場合、正規化後の尤度w_allは、追跡対象と判定された物体#1の尤度および物体#2の尤度のみを含むので(追跡オブジェクト決定部37で「Discard」と判定されたオブジェクト番号の物体(画像特徴量抽出画像Img1上の領域)が存在しないので)、最終決定部38で決定される最終の尤度は、最終決定部38に入力される尤度w_allと同じになる。
そして、最終決定部38は、決定した最終の尤度を事後確率分布推定部5に出力する。
また、最終決定部38は、新オブジェクト情報に基づいて、予測確率分布データ追跡するオブジェクト(新規に追跡を開始するオブジェクトを含む。)についての予測確率分布データのみが残るように、予測確率分布データを更新する。なお、この更新された予測確率分布データを「更新確率分布データ」という。
観測データが図3の画像特徴量抽出画像Img1である場合、最終決定部38は、最終決定部38から出力される予測確率分布データを、追跡対象と判定された物体#1の予測確率分布データSt|t−1(#1)、および、追跡対象と判定された物体#2の予測確率分布データSt|t−1(#2)のみを含むデータとする。
上記のようにして取得された、オブジェクト番号ごとの、尤度と予測確率分布データとは、最終決定部38から事後確率分布推定部5に出力される。
事後確率分布推定部5では、オブジェクト番号ごとに、尤度取得部3により取得された、尤度と、更新確率分布データとに基づいて、リサンプリングが実行される。
つまり、事後確率分布推定部5は、時刻tにおける最終決定部38から出力される物体#1の尤度をw (j)(#1)とすると、尤度w (j)(#1)に比例する割合でM1個のパーティクル(粒子)を復元抽出する(パーティクルxa (j)(#1)(物体#1のj番目の粒子)を抽出する)。このようにして復元抽出されたM1個のパーティクルの分布から、時刻tの事後確率分布p(x(#1)|y(#1))に従って生成されたサンプル集合(パーティクルの集合)St|t(#1)、すなわち、
t|t(#1)={st|t (1)(#1),st|t (2)(#1),・・・,st|t (M1)(#1)}
を取得する。
また、事後確率分布推定部5は、時刻tにおける最終決定部38から出力される物体#2の尤度をw (j)(#2)とすると、尤度w (j)(#2)に比例する割合でM2個のパーティクル(粒子)を復元抽出する(パーティクルxa (j)(#2)(物体#2のj番目の粒子)を抽出する)。このようにして復元抽出されたM2個のパーティクルの分布から、時刻tの事後確率分布p(x(#2)|y(#2))に従って生成されたサンプル集合(パーティクルの集合)St|t(#2)、すなわち、
t|t(#2)={st|t (1)(#2),st|t (2)(#2),・・・,st|t (M2)(#2)}
を取得する。
なお、物体#1について復元抽出される粒子数M1と、物体#1について復元抽出される粒子数M2とは、その合計値(M1+M2)が一定値となるように設定されている。
以上のようにして取得された追跡中の物体ごと(オブジェクト番号ごとの)事後確率分布データ(St|t(#1)、St|t(#2))は、状態推定装置1000から出力されるとともに、事前確率分布出力部6に出力される。
事前確率分布出力部6は、事後確率分布推定部5から入力された時刻tにおける事後確率分布(事後確率分布データ)を、次の時刻t+1において、事前確率分布(事前確率分布データ)として、予測部8に出力する。
そして、以降、上記と同様の処理を繰り返すことで、状態推定装置1000では、複数の物体を適切に追跡する。
(1.2.5:新規オブジェクトの発見処理(図10〜図11の場合))
次に、ラベル画像において、新オブジェクト候補領域検出部33により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))と同じ座標位置に、追跡中の物体のラベル番号が付与されていない場合の新規オブジェクトの発見処理について、図10〜図15を用いて説明する。
図10は、時刻tにおける観測データを模式的に示す図である。具体的には、図10は、時刻tにおいて、観測取得部1により取得された赤色度合いの高い領域を抽出した画像Img2(画像特徴量抽出画像Img2)である。画像Img2において、領域TG1は、赤色の物体(オブジェクト)に相当する画像領域である。なお、以下では、領域TG1に対応するオブジェクトのオブジェクト番号を「#1」として説明する。
図11は、ラベル設定部2が、図10の画像特徴量抽出画像Img2から生成したラベル画像Img2_Lである。図11では、ラベル番号L1を付した画像領域の重心Co(L1)も図示している。
図12は、消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図である。説明便宜のため、消去部31により消去処理が実行された後、残った領域が、図12に示す領域R1_rest1および領域R1_rest2であるものとして、以下、説明する。また、図12では、消去処理後の残存領域との位置関係を明確にするため、物体#1に対応する領域TG1を破線で示している。
また、図12では、尤度算出部32により所定の値以上の尤度として算出された尤度を導出したパーティクルのみを示している(パーティクル群Prtcl(#0)として示している)。つまり、図12に描かれているパーティクル以外のパーティクルは、消去処理画像の画素値が「0」であるため、当該パーティクルに基づいて、算出される尤度は「0」となる。一方、領域R1_rest1および領域R1_rest2上に配置されたパーティクルは、消去処理画像の画素値が「0」ではないため、当該パーティクルに基づいて、算出される尤度は「0」にはならない(正の値を有する)。
新オブジェクト候補領域検出部33は、図12に示したパーティクルと、そのパーティクルにより算出された尤度とに基づいて、新オブジェクト候補領域Rnew(#0)を検出する。
具体的には、新オブジェクト候補領域検出部33は、正の値の尤度を導出したパーティクル(図12に小さな丸で示したパーティクル)が画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を、新オブジェクト候補領域Rnew(#0)として、決定(検出)する。図12では、このようにして決定(検出)された新オブジェクト候補領域を、領域Rnew(#0)として、示している。なお、検出されえた領域Rnew(#0)は、図12から分かるように、2つの分断された領域となっている。
新オブジェクト候補領域検出部33は、上記のようにして決定(検出)した新オブジェクト候補領域Rnew(#0)についての情報をdet_regionとして、重心検出部34に出力する。
重心検出部34は、新オブジェクト候補領域検出部33により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))を検出する。そして、重心検出部34は、検出した重心位置Co(Rnew(#0))についての情報を新オブジェクト検出部35に出力する。図12の場合、領域Rnew(#0)は、2つに分断された領域であるので、その重心位置Co(Rnew(#0))は、図12に示したバツ印の位置となる。
新オブジェクト検出部35は、ラベル画像において、重心検出部34により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))と同じ座標位置において、追跡中の物体のラベル番号が付されているか否かを判定する。
図12の場合、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))は、図12のバツ印で示した位置であり、当該位置と同じ座標位置におけるラベル画像Img1_L(図11に示したラベル画像Img1_L)の画素の画素値は、「0」(ラベルが付されていないことを示す値)である。
この場合、新オブジェクト検出部35は、探索処理を実行し、新オブジェクト候補領域Rnew(#0)が、新規オブジェクトに相当する領域であるのか、それとも、追跡中の物体の消去処理後の残存領域であるのかを判定する。この探索処理について、図13を用いて説明する。
図13は、探索処理について説明するための図であり、図12の一部を拡大して示した図である。
新オブジェクト検出部35は、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))におけるラベル画像Img1_Lの画素値が「0」(付与されているラベル番号がないことを示す画素値)である場合、すなわち、
Label(Co(Rnew(#0)))=0
Label(x):点xのラベル番号を取得する関数
である場合、所定の大きさの探索領域s_areaを設定する。そして、新オブジェクト検出部35は、ラベル画像Img1_Lの当該探索領域に相当する領域内に、「0」ではないラベル番号であって追跡オブジェクト決定部37により追跡中の物体と対応付けられているラベル番号を有する画素が存在するか否かを判定する。
図13のように、探索領域s_areaが円状の領域として設定された場合、新オブジェクト検出部35は、ラベル画像Img1_Lにおいて、新オブジェクト候補領域Rnew(#0)の重心Co(Rnew(#0))との距離が小さい画素から順に(例えば、図13に示すらせん状の矢印dir1が示す方向にある画素を順番に)画素を探索して、探索領域s_area内に、「0」ではないラベル番号を有する画素が存在するか否かを判定する。
新オブジェクト検出部35が、探索処理により、最初にラベル番号が「0」ではない画素を検出した点を図13の点det_pとした場合、新オブジェクト検出部35は、探索処理により、点det_pのラベル番号を取得し、点det_Pにおけるラベル番号がL1(ラベル画像Img1_L上の点det_pの画素値が「1」)である、つまり、
Label(Co(Rnew(#0)))=L1
であることを検出する。ラベル番号L1の物体は、物体#1であり、追跡中の物体であるので、新オブジェクト検出部35は、上記検出結果により、新オブジェクト候補領域Rnew(#0)は、物体#1(ラベル番号L1)の消去処理後の残存領域であると判定する。そして、新オブジェクト検出部35は、上記判定結果を示す判定結果データdet_newを「0」にして、セレクタ36および追跡オブジェクト決定部37に出力する。
そして、追跡オブジェクト決定部37および最終決定部38において、上記で説明したのと同様の処理(図9の場合の処理の説明)が実行される。
これにより、図10〜図13の場合において、状態推定装置1000が、追跡中の物体の消去処理後の残存領域を、新規物体の領域であると(新規物体が発見されたと)誤判定することがない。
なお、新オブジェクト検出部35は、探索処理における探索領域を、上記のように所定の半径を有する円状の領域(探索開始点(点Co(Rnew(#0)))からの距離が一定以下の領域)として設定してもよいし、あるいは、新オブジェクト候補領域Rnew(#0)を含むように設定される円状の領域(例えば、図14の領域s_area1)や、楕円状の領域(例えば、図14の領域s_area2)や、矩形状の領域(例えば、図15の矩形領域s_area3)として設定してもよい。
また、新オブジェクト検出部35は、探索処理における探索領域を、追跡中の物体の平均的な大きさに基づいて、設定するようにしてもよい。この場合、追跡オブジェクト決定部37が、追跡中の物体の大きさを、例えば、ラベル判定エリアに基づいて決定し、決定した物体の大きさについての情報をオブジェクト情報管理部4が保持する。そして、新オブジェクト検出部35は、オブジェクト情報管理部4が保持している追跡中の物体の大きさについての情報を取得し、追跡中の物体の大きさの平均値を算出し、算出した値により、探索領域を設定するようにしてもよい。新オブジェクト検出部35は、追跡中の物体の大きさの平均値に基づいて、円状、楕円上、あるいは、矩形状の領域を設定し、当該領域を探索領域としてもよい。
(1.2.6:新規オブジェクトの発見処理(図16〜図17の場合))
次に、新規物体(新規オブジェクト)が現れた場合の動作について、図16〜図18説明する。
図16は、時刻tにおける観測データを模式的に示す図である。具体的には、図16は、時刻tにおいて、観測取得部1により取得された赤色度合いの高い領域を抽出した画像Img3(画像特徴量抽出画像Img3)である。画像Img3において、領域TG1、TG2、TG3_newは、それぞれ、赤色の物体(オブジェクト)に相当する画像領域である。なお、以下では、領域TG1に対応する物体のオブジェクト番号を「#1」とし、領域TG2に対応する物体のオブジェクト番号を「#2」とする。そして、物体#1および物体#2は、追跡中の物体であるものとする。そして、領域TG3_newに対応する物体が新規物体(新たに現れた物体)であるものとする。
図17は、ラベル設定部2が、図16の画像特徴量抽出画像Img3から生成したラベル画像Img3_Lである。図17では、追跡中の物体#1に対応する領域として領域R(L1)が検出されており、当該領域にラベル番号L1が付されており、追跡中の物体#2に対応する領域として領域R(L2)が検出されており、当該領域にラベル番号L2が付されており、新規物体(画像特徴量抽出画像Img3no領域TG3_newに対応する物体)に対応する領域として領域R(L3)が検出されており、当該領域にラベル番号L3が付されているものとして、以下、説明する。また、図17では、領域R(L1)、領域R(L2)、および、領域R(L3)の重心を、それぞれ、Co(L1)、Co(L2)、および、Co(L3)として図示している。
図18は、消去処理画像Img1_e(#0)に対して、新規オブジェクトの候補領域を検出する処理を説明するための図である。説明便宜のため、消去部31により消去処理が実行された後、残った領域が、図18に示す領域R3_restであるものとして、以下、説明する。
また、図18では、尤度算出部32により所定の値以上の尤度として算出された尤度を導出したパーティクルのみを示している(パーティクル群Prtcl(#0)として示している)。つまり、図18に描かれているパーティクル以外のパーティクルは、消去処理画像の画素値が「0」であるため、当該パーティクルに基づいて、算出される尤度は「0」となる。一方、領域R3_rest上に配置されたパーティクルは、消去処理画像の画素値が「0」ではないため、当該パーティクルに基づいて、算出される尤度は「0」にはならない(正の値を有する)。
新オブジェクト候補領域検出部33は、図18に示したパーティクルと、そのパーティクルにより算出された尤度とに基づいて、新オブジェクト候補領域Rnew(#0)を検出する。
具体的には、新オブジェクト候補領域検出部33は、正の値の尤度を導出したパーティクル(図18に小さな丸で示したパーティクル)が画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を、新オブジェクト候補領域Rnew(#0)として、決定(検出)する。図18では、このようにして決定(検出)された新オブジェクト候補領域を、領域Rnew(#0)として、示している。
新オブジェクト候補領域検出部33は、上記のようにして決定(検出)した新オブジェクト候補領域Rnew(#0)についての情報をdet_regionとして、重心検出部34に出力する。
重心検出部34は、新オブジェクト候補領域検出部33により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))を検出する。そして、重心検出部34は、検出した重心位置Co(Rnew(#0))についての情報を新オブジェクト検出部35に出力する。図18の場合、領域Rnew(#0)の重心位置Co(Rnew(#0))は、図18に示したバツ印の位置となる。
新オブジェクト検出部35は、ラベル画像において、重心検出部34により検出された新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))と同じ座標位置において、追跡中の物体のラベル番号が付されているか否かを判定する。
図18の場合、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))は、図18のバツ印で示した位置であり、当該位置と同じ座標位置におけるラベル画像Img1_L(図17に示したラベル画像Img1_L)の画素の画素値は、「3」(ラベルL3が付されていることを示す値)である。
この場合、新オブジェクト検出部35は、ラベル番号L3が、オブジェクト情報管理部4により保持されているオブジェクト情報により、追跡中の物体に付されているラベル番号と重複するか否かを判定する。追跡中の物体である物体#1および#2に付されているラベル番号は、それぞれ、L1およびL2であるので、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))のラベル番号L3は、追跡中の物体に付されているラベル番号と重複しない。
したがって、新オブジェクト検出部35は、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))のラベル番号L3は、新規物体に相当するラベル番号であると判定する。つまり、新オブジェクト検出部35は、新オブジェクト候補領域Rnew(#0)が新規物体に対応する領域であると判定する。
なお、このとき、新オブジェクト検出部35は、上記で説明した探索処理を行い、新オブジェクト候補領域Rnew(#0)の重心位置Co(Rnew(#0))の近傍に、追跡中の物体である物体#1および#2に付されているラベル番号を有する領域がないかを判定し、その判定の結果、追跡中の物体である物体#1および#2に付されているラベル番号を有する領域がないと判定された場合に、新オブジェクト候補領域Rnew(#0)が新規物体に対応する領域であると判定するようにしてもよい。
そして、新オブジェクト検出部35は、上記判定結果(新規物体が発見されたことを示す判定結果)を示す判定結果データdet_newを「1」にして、セレクタ36および追跡オブジェクト決定部37に出力する。
セレクタ36は、判定結果データdet_newが「1」であるので、尤度算出部32により取得された尤度w(#0)を追跡オブジェクト決定部37に出力する。
追跡オブジェクト決定部37は、新オブジェクト検出部35からの判定結果データdet_newが「1」であるので、新規オブジェクトが発見されたと判断し、追跡中の物体#1、#2、および、新規物体#0を現時刻t以降においても追跡対象とすべきか否かの最終判定を行う。そして、追跡オブジェクト決定部37は、追跡対象とした物体および新規物体を追跡するために、正規化後の尤度w_allを取得する。この処理について、具体的に説明する。
追跡オブジェクト決定部37は、入力された尤度w(#1)、尤度w(#2)、尤度w(#0)との合計が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度w_allを用いて、オブジェクト番号ごとに、尤度の和を算出する。
そして、追跡オブジェクト決定部37は、追跡中の物体#1および物体#2について、(1)算出した尤度の和が所定の閾値th1を超える場合、当該オブジェクト番号のオブジェクトに対する追跡処理を継続させるために、ステータスを「Survive」に設定し、(2)算出した尤度の和が所定の閾値th1を超えない場合、当該オブジェクト番号のオブジェクトに対する追跡処理を停止させるために、ステータスを「Discard」に設定する。
観測データが図16の画像特徴量抽出画像Img3である場合、オブジェクト番号#1の正規化後の尤度の和も、オブジェクト番号#2の正規化後の尤度の和も、ともに、閾値th1を超えるので、追跡オブジェクト決定部37は、物体#1のステータスを「Survive」に設定し、物体#2のステータスを「Survive」に設定する。なお、観測データが図16の画像特徴量抽出画像Img3である場合、閾値th1は、オブジェクト番号#1の正規化後の尤度の和よりも大きく、かつ、オブジェクト番号#2の正規化後の尤度の和よりも大きな値に設定されているものとする。
そして、追跡オブジェクト決定部37は、上記のようにして設定したステータスを、オブジェクト情報管理部4に出力する。
また、追跡オブジェクト決定部37は、新規物体#0について、(1)算出した尤度の和が所定の閾値th2を超える場合、新規物体が発見されたと判断し、当該新規物体に対する追跡処理を開始させるために、ステータスを「FoundNewTarget」に設定し、(2)算出した尤度の和が所定の閾値th2を超えない場合、新規物体(物体#0)は発見されなかったと判断し、ステータスを「NotFound」に設定する。
観測データが図16の画像特徴量抽出画像Img3である場合、オブジェクト番号#0の正規化後の尤度の和は、閾値th2を超えるので、新規物体#0が発見された判定し、追跡オブジェクト決定部37は、物体#0のステータスを「FoundNewTarget」に設定する。なお、観測データが図16の画像特徴量抽出画像Img3である場合、閾値th2は、オブジェクト番号#0の正規化後の尤度の和よりも大きな値に設定されているものとする。
追跡オブジェクト決定部37は、上記の場合、ステータス「FoundNewTarget」をオブジェクト情報管理部4に出力する。
オブジェクト情報管理部4は、ステータス「FoundNewTarget」が入力された場合、追跡中の物体のオブジェクト番号の最大値に「1」を足した値を、新規物体のオブジェクト番号とする。上記の場合、追跡中の物体のオブジェクト番号は、#1、#2であるので、オブジェクト情報管理部4は、オブジェクト番号の最大値に「1」を足した値「3」(#3)を、新規物体のオブジェクト番号とする。
また、追跡オブジェクト決定部37は、正規化後の尤度w_allを最終決定部38に出力する。
最終決定部38は、オブジェクト情報管理部4から新オブジェクト情報を入力し、当該新オブジェクト情報により、追跡対象の物体が、物体#1〜#3であることを認識する。そして、最終決定部38は、新オブジェクト情報に基づいて、正規化後の尤度w_allから、追跡するオブジェクト(物体#1〜#3)についての尤度のみを残し、さらに、残した尤度の和が所定の値(例えば、「1」)となるように正規化し、正規化後の尤度を用いて、オブジェクト番号ごとに、最終の尤度を決定する。
観測データが図16の画像特徴量抽出画像Img3である場合、正規化後の尤度w_allは、追跡対象と判定された物体#1の尤度、物体#2の尤度および物体#3(新規に発見され、追跡対象となった物体)のみを含むので(追跡オブジェクト決定部37で「Discard」あるいは「NotFound」と判定されたオブジェクト番号の物体(画像特徴量抽出画像Img3上の領域)が存在しないので)、最終決定部38で決定される最終の尤度は、最終決定部38に入力される尤度w_allと同じになる。
そして、最終決定部38は、決定した最終の尤度を事後確率分布推定部5に出力する。
また、最終決定部38は、新オブジェクト情報に基づいて、予測確率分布データ追跡するオブジェクト(物体#1〜#3)についての予測確率分布データのみが残るように、予測確率分布データを更新する。なお、この更新された予測確率分布データを「更新確率分布データ」という。
観測データが図16の画像特徴量抽出画像Img16である場合、最終決定部38は、最終決定部38から出力される予測確率分布データを、追跡対象と判定された物体#1の予測確率分布データSt|t−1(#1)、追跡対象と判定された物体#2の予測確率分布データSt|t−1(#2)、および、新たに追跡対象と判定された物体#3の予測確率分布データSt|t−1(#3)(追跡中の物体の領域を消去した消去画像に対して、新規物体検出用のパーティクルを適用して取得される確率分布データSt|t−1(#3))を含むデータとする。
上記のようにして取得された、オブジェクト番号ごとの、尤度と予測確率分布データとは、最終決定部38から事後確率分布推定部5に出力される。
そして、これ以降については、観測データが図3の画像特徴量抽出画像Img1である場合に説明したのと同様の処理が実行される。
以上のように、状態推定装置1000は、ラベル番号に基づいて、新規物体を発見する処理を実行するので、消去処理画像において、追跡中の物体に対応する領域であって、消去処理により消去できず残存した領域を、新規物体に対応する領域であると誤判定することを適切に防止することができる。
また、状態推定装置1000では、追跡対象物体をオブジェクト番号により管理し、オブジェクト番号ごとに割り当てた粒子(パーティクル)によりパーティクルフィルタ処理を実行するので、適切に複数の物体を追跡する処理を実行することができる。
このように、状態推定装置1000では、適切に複数の物体を追跡するとともに、適切に、新規物体(新規オブジェクト)を発見し、追跡対象に追加することができる。
[他の実施形態]
上記実施形態では、追跡中の物体が2つである場合について説明したが、これに限定されることはなく、追跡中の物体の数は、「2」以外の数であっても良い。
また、上記実施形態において、説明するために用いた図面であって、画像を模式的に示した図において、画像の大きさ、粒子の大きさ、粒子の数等は、説明便宜のために設定したものであり、これらに限定されない。
また、上記実施形態において、新オブジェクト候補領域検出部33が、新オブジェクト候補領域Rnew(#0)を決定する場合、正の値の尤度を導出したパーティクルが画像上で占める領域、あるいは、当該領域を所定の大きさだけ拡張した領域を設定し、当該領域の和集合をとった領域を、新オブジェクト候補領域Rnew(#0)として、決定(検出)する、として説明を行ったが、これに限定されることはない。例えば、新オブジェクト候補領域Rnew(#0)は、対応するパーティクルにより算出された尤度に基づいて、決定されるものであってもよい。なお、パーティクルに基づいて設定(決定)される領域については、上記と同様に、対応するパーティクルにより算出された尤度に基づいて、その拡張領域を決定するようにしてもよい。
また、上記実施形態において、画像特徴量抽出画像は、赤色度合いを示すものを一例として説明したが、これに限定されることはなく、画像特徴量抽出画像は、他の画像特徴量を抽出した画像であってもよい。
また、上記実施形態において、サンプル集合(パーティクルの集合)St|t(#i)のj番目のサンプル(パーティクル)st|t (j)(#i)は、j番目のサンプル(パーティクル)の画像上の座標位置(Xt(j)(#i),Yt(j)(#i))と、当該座標位置を中心とする円状の画像領域の半径Rt(j)(#i)を内部変数とするベクトルデータであるものであるとして、説明したが、これに限定されることはなく、上記内部変数は、半径の代わりに、j番目のサンプル(パーティクル)を中心とする矩形領域の縦方向の幅と横方向の幅としてもよい。また、他の内部変数を用いるようにしてもよい。
また、上記実施形態で説明した状態推定装置において、各ブロックは、LSIなどの半導体装置により個別に1チップ化されても良いし、一部又は全部を含むように1チップ化されても良い。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
また、上記各実施形態の各機能ブロックの処理の一部または全部は、プログラムにより実現されるものであってもよい。そして、上記各実施形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置(CPU)により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。
また、上記実施形態における処理方法の実行順序は、必ずしも、上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
前述した方法をコンピュータに実行させるコンピュータプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここで、コンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、大容量DVD、次世代DVD、半導体メモリを挙げることができる。
上記コンピュータプログラムは、上記記録媒体に記録されたものに限られず、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク等を経由して伝送されるものであってもよい。
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
1000 状態推定装置
1 観測取得部
2 ラベル設定部
3 尤度取得部
31 消去部
32 尤度算出部
33 新オブジェクト候補領域検出部
34 重心検出部
35 新オブジェクト検出部
36 セレクタ
37 追跡オブジェクト決定部
38 最終決定部
4 オブジェクト情報管理部
5 事後確率分布推定部
6 事前確率分布出力部
7 初期状態設定部

Claims (10)

  1. 複数の物体を追跡する状態推定装置であって、
    観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、前記観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する観測取得部と、
    前記観測取得部により取得された前記観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得するラベル設定部と、
    追跡対象の物体にオブジェクト番号を付し、付された前記オブジェクト番号を管理するオブジェクト情報管理部と、
    追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する予測部と、
    前時刻t−1において追跡中であると判定された物体ごとに、前記予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、前記画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の前記消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を取得し、
    新規物体検出用のパーティクルを生成し、前記消去画像に対して、前記新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した前記新オブジェクト候補領域と、前記ラベル画像とに基づいて、前記新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定するとともに、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記消去画像に対して、前記予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した前記最終尤度に基づいて、前記予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する尤度取得部と、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記尤度取得部により取得された前記更新確率分布データと、前記最終尤度とから、前記事象の状態の事後確率分布データを推定する事後確率分布推定部と、
    前記事後確率分布推定部により推定された前記事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する事前確率分布出力部と、
    を備える状態推定装置。
  2. 前記尤度取得部は、
    前時刻t−1において追跡中であると判定された物体ごとに、前記予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、前記画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の前記消去対象領域を消去した追跡中物体用の消去画像、あるいは、追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を取得する消去部と、
    前時刻t−1において追跡中であると判定された物体ごとに、前記予測確率分布データに基づくパーティクルを取得し、取得したパーティクルを、前記追跡中物体用の消去画像に適用することで、追跡中物体についての尤度を算出するとともに、
    新規物体検出用のパーティクルを生成し、前記新規物体発見用の消去画像に対して、前記新規物体検出用のパーティクルを適用することで、新規物体についての尤度を算出する尤度算出部と、
    前記新規物体発見用の消去画像に対して、前記新規物体検出用のパーティクルを適用することで前記新オブジェクト候補領域を取得する新オブジェクト候補領域検出部と、
    前記新オブジェクト候補領域の重心を検出する重心検出部と、
    前記重心検出部により検出された前記新オブジェクト候補領域の重心と、前記ラベル画像とに基づいて、前記新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定する新オブジェクト検出部と、
    前記新オブジェクト検出部の判定結果に基づいて、時刻tにおける追跡対象とする物体を決定する追跡オブジェクト決定部と、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記消去画像に対して、前記予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した前記最終尤度に基づいて、前記予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する最終決定部と、
    を備える、
    請求項1に記載の状態推定装置。
  3. 前記追跡オブジェクト決定部は、
    前時刻t−1で追跡中の物体であって、かつ、時刻tにおいて算出された尤度の和が所定の値を超える物体について、前記追跡用の消去画像上おいて、当該物体に相当する画像領域をラベル判定領域として取得し、前記ラベル画像において、前記ラベル判定領域に相当する領域にラベル番号が付されているか否かを判定し、ラベル番号が付されている場合、当該物体のオブジェクト番号と、当該ラベル番号とを対応付けたオブジェクト情報として、オブジェクト情報管理部に出力し、
    前記オブジェクト情報管理部は、前記オブジェクト情報を保持し、
    前記新オブジェクト検出部は、
    前記ラベル画像において、前記新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在するか否かを判定し、
    (A)前記ラベル画像において、前記新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在する場合、当該ラベル番号を第1ラベル番号として取得し、
    前記第1ラベル番号が、前記オブジェクト情報管理部により保持されている前記オブジェクト情報に含まれているオブジェクト番号であるか否かを判定し、
    (A1)前記第1ラベル番号が前記オブジェクト情報に含まれているオブジェクト番号と一致する場合、新規物体は発見されなかったと判定し、
    (A2)前記第1ラベル番号が前記オブジェクト情報に含まれているオブジェクト番号と一致しない場合、前記新オブジェクト候補領域は、新規物体の領域の候補とし、
    (B)前記ラベル画像において、前記新オブジェクト候補領域の重心と同じ座標位置の画素に付されているラベル番号が存在しない場合、前記重心を含む所定の大きさの領域である探索領域を設定し、前記ラベル画像上の前記探索領域に相当する領域において、前記オブジェクト情報管理部により保持されている前記オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域があるか否かを判定する探索処理を行い、前記ラベル画像上の前記探索領域に相当する領域において、前記オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域があると判定された場合、新規物体は発見されなかったと判定し、
    前記追跡オブジェクト決定部は、
    前記新オブジェクト検出部により、前記新オブジェクト候補領域が、新規物体の領域の候補であると判定された場合、前記新規物体発見用の消去画像に対して、前記新規物体検出用のパーティクルを適用することで取得した尤度の和を算出し、前記尤度の和が所定の閾値を超える場合、新規物体が発見されたと判定し、
    前記最終決定部は、
    前記追跡オブジェクト決定部により、新規物体が発見されたと判定された場合、前記新規物体発見用の消去画像に対して、前記新規物体検出用のパーティクルを適用することで取得した尤度を新規物体についての尤度として、前記最終尤度の算出処理に用い、前記新規物体発見用の消去画像に対して、前記新規物体検出用のパーティクルを適用することで取得した確率分布データを新規に追跡対象とする物体の確率分布データとして、前記更新確率分布データの取得処理に用いる、
    請求項2に記載の状態推定装置。
  4. 前記新オブジェクト検出部は、
    前記重心を含み、かつ、前記新オブジェクト候補領域を含む領域を、前記探索領域に設定する、
    請求項3に記載の状態推定装置。
  5. 前記新オブジェクト検出部は、
    前記重心を含む楕円状の領域を、前記探索領域に設定する、
    請求項3に記載の状態推定装置。
  6. 前記新オブジェクト検出部は、
    前記重心を含む矩形状の領域を、前記探索領域に設定する、
    請求項3に記載の状態推定装置。
  7. 前記新オブジェクト検出部は、
    前記探索領域において、前記重心の位置を前記探索処理の起点とし、前記重心からの距離が小さい画像領域から、前記重心からの距離が大きい画像領域へと順番に、前記探索処理の対象となる画像領域を設定する、
    請求項3から6のいずれかに記載の状態推定装置。
  8. 前記新オブジェクト検出部は、
    前記ラベル画像上の前記探索領域に相当する領域において、前記オブジェクト情報に含まれているオブジェクト番号と一致するラベル番号が付された画像領域を発見した場合、前記探索処理を終了させる、
    請求項7に記載の状態推定装置。
  9. 複数の物体を追跡する状態推定方法であって、
    観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、前記観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する観測取得ステップと、
    前記観測取得ステップにより取得された前記観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得するラベル設定ステップと、
    追跡対象の物体にオブジェクト番号を付し、付された前記オブジェクト番号を管理するオブジェクト情報管理ステップと、
    追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する予測ステップと、
    前時刻t−1において追跡中であると判定された物体ごとに、前記予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、前記画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の前記消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を取得し、
    新規物体検出用のパーティクルを生成し、前記消去画像に対して、前記新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した前記新オブジェクト候補領域と、前記ラベル画像とに基づいて、前記新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定するとともに、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記消去画像に対して、前記予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した前記最終尤度に基づいて、前記予測ステップにより取得された予測確率分布データを更新することで更新確率分布データを取得する尤度取得ステップと、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記尤度取得ステップにより取得された前記更新確率分布データと、前記最終尤度とから、前記事象の状態の事後確率分布データを推定する事後確率分布推定ステップと、
    前記事後確率分布推定ステップにより推定された前記事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する事前確率分布出力ステップと、
    を備える状態推定方法をコンピュータに実行させるためのプログラム。
  10. 複数の物体を追跡する状態推定処理用の集積回路であって、
    観測可能な事象から得られる観測データである観測データ画像を、任意の時間間隔で取得し、前記観測データ画像から所定の特徴量を抽出した画像特徴量抽出画像を取得する観測取得部と、
    前記観測取得部により取得された前記観測データ画像から、画像データ上において閉じた領域を抽出し、抽出した領域にラベル番号を付したラベル画像を取得するラベル設定部と、
    追跡対象の物体にオブジェクト番号を付し、付された前記オブジェクト番号を管理するオブジェクト情報管理部と、
    追跡中の物体ごとに、前時刻t−1に取得された観測対象の内部状態の確率分布である事後確率分布データに対して予測処理を行い、現時刻tにおける観測対象の内部状態の確率分布である予測確率分布データを取得する予測部と、
    前時刻t−1において追跡中であると判定された物体ごとに、前記予測確率分布データに基づくパーティクルを取得し、取得したパーティクルに基づいて、消去対象領域を決定し、前記画像特徴量抽出画像から、追跡中の物体のうち処理対象とする物体以外の物体の前記消去対象領域を消去した追跡用の消去画像、あるいは、追跡中の物体の全ての物体の前記消去対象領域を消去した新規物体発見用の消去画像を取得し、
    新規物体検出用のパーティクルを生成し、前記消去画像に対して、前記新規物体検出用のパーティクルを適用することで、新オブジェクト候補領域を取得し、取得した前記新オブジェクト候補領域と、前記ラベル画像とに基づいて、前記新オブジェクト候補領域が、現時刻tにおいて新たに追跡対象とする新規物体に対応する領域であるか否かを判定し、時刻tにおける追跡対象とする物体を決定するとともに、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記消去画像に対して、前記予測確率分布データに基づいて取得されたパーティクルを適用することで取得された尤度に基づいて、最終尤度を算出し、算出した前記最終尤度に基づいて、前記予測部により取得された予測確率分布データを更新することで更新確率分布データを取得する尤度取得部と、
    時刻tにおいて追跡対象であると判定された物体ごとに、前記尤度取得部により取得された前記更新確率分布データと、前記最終尤度とから、前記事象の状態の事後確率分布データを推定する事後確率分布推定部と、
    前記事後確率分布推定部により推定された前記事後確率分布データに基づく事前確率分布データを、次時刻t+1において、事前確率分布データとして出力する事前確率分布出力部と、
    を備える集積回路。
JP2014065876A 2014-03-27 2014-03-27 状態推定装置、プログラムおよび集積回路 Active JP6295122B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014065876A JP6295122B2 (ja) 2014-03-27 2014-03-27 状態推定装置、プログラムおよび集積回路
US14/614,800 US9792697B2 (en) 2014-03-27 2015-02-05 State estimation apparatus, state estimation method, and integrated circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014065876A JP6295122B2 (ja) 2014-03-27 2014-03-27 状態推定装置、プログラムおよび集積回路

Publications (3)

Publication Number Publication Date
JP2015191261A true JP2015191261A (ja) 2015-11-02
JP2015191261A5 JP2015191261A5 (ja) 2017-04-27
JP6295122B2 JP6295122B2 (ja) 2018-03-14

Family

ID=54190833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014065876A Active JP6295122B2 (ja) 2014-03-27 2014-03-27 状態推定装置、プログラムおよび集積回路

Country Status (2)

Country Link
US (1) US9792697B2 (ja)
JP (1) JP6295122B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11682188B2 (en) 2020-08-14 2023-06-20 Fujitsu Limited Image processing apparatus and computer-readable storage medium for storing screen processing program

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6366999B2 (ja) * 2014-05-22 2018-08-01 株式会社メガチップス 状態推定装置、プログラムおよび集積回路
WO2016025507A1 (en) * 2014-08-12 2016-02-18 Joseph Cole Harper System and method for accurately analyzing sensed data
US10339708B2 (en) * 2016-11-01 2019-07-02 Google Inc. Map summarization and localization
CN106772401A (zh) * 2016-12-23 2017-05-31 浙江大学 基于概率假设密度粒子滤波算法的鱼群数量估计方法
US10339471B2 (en) * 2017-01-17 2019-07-02 International Business Machines Corporation Ensemble based labeling
CN107480786B (zh) * 2017-08-07 2021-04-30 复旦大学 基于输出状态限制的循环神经网络轨迹似然概率计算方法
US11669724B2 (en) 2018-05-17 2023-06-06 Raytheon Company Machine learning using informed pseudolabels
CN109948455B (zh) * 2019-02-22 2020-12-18 中科创达软件股份有限公司 一种遗留物体检测方法及装置
US11068747B2 (en) * 2019-09-27 2021-07-20 Raytheon Company Computer architecture for object detection using point-wise labels
US11676391B2 (en) 2020-04-16 2023-06-13 Raytheon Company Robust correlation of vehicle extents and locations when given noisy detections and limited field-of-view image frames
US11562184B2 (en) 2021-02-22 2023-01-24 Raytheon Company Image-based vehicle classification

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007328746A (ja) * 2006-06-09 2007-12-20 Sony Computer Entertainment Inc 対象物追跡装置および対象物追跡方法
JP2009042910A (ja) * 2007-08-07 2009-02-26 Sony Corp 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6999599B2 (en) * 2002-06-07 2006-02-14 Microsoft Corporation System and method for mode-based multi-hypothesis tracking using parametric contours
US8229164B2 (en) * 2006-07-10 2012-07-24 Synthesis Corporation Pedestrian tracking method and pedestrian tracking device
US20090030683A1 (en) * 2007-07-26 2009-01-29 At&T Labs, Inc System and method for tracking dialogue states using particle filters
JP4991595B2 (ja) * 2008-02-21 2012-08-01 株式会社東芝 パーティクルフィルタを使用する追跡システム
JP5213486B2 (ja) * 2008-03-14 2013-06-19 株式会社ソニー・コンピュータエンタテインメント 対象物追跡装置および対象物追跡方法
US9031279B2 (en) * 2008-07-09 2015-05-12 Disney Enterprises, Inc. Multiple-object tracking and team identification for game strategy analysis
JP4730431B2 (ja) * 2008-12-16 2011-07-20 日本ビクター株式会社 目標追尾装置
US8616971B2 (en) * 2009-07-27 2013-12-31 Obscura Digital, Inc. Automated enhancements for billiards and the like
US8908912B2 (en) * 2009-09-24 2014-12-09 Hewlett-Packard Development Company, L.P. Particle tracking methods
JP5528151B2 (ja) * 2010-02-19 2014-06-25 パナソニック株式会社 対象物追跡装置、対象物追跡方法、および対象物追跡プログラム
JP5488076B2 (ja) * 2010-03-15 2014-05-14 オムロン株式会社 対象物追跡装置、対象物追跡方法、および制御プログラム
US8565538B2 (en) * 2010-03-16 2013-10-22 Honda Motor Co., Ltd. Detecting and labeling places using runtime change-point detection
GB201004488D0 (en) * 2010-03-17 2010-05-05 Isis Innovation A method of tracking targets in video data
US9117147B2 (en) * 2011-04-29 2015-08-25 Siemens Aktiengesellschaft Marginal space learning for multi-person tracking over mega pixel imagery
JP5674550B2 (ja) 2011-05-09 2015-02-25 日本電信電話株式会社 状態追跡装置、方法、及びプログラム
JP5919665B2 (ja) * 2011-07-19 2016-05-18 日本電気株式会社 情報処理装置、物体追跡方法および情報処理プログラム
JP2013191163A (ja) * 2012-03-15 2013-09-26 Sony Corp 情報処理装置、情報処理方法、及び、プログラム
JP5964108B2 (ja) * 2012-03-30 2016-08-03 株式会社メガチップス 物体検出装置
FR3003065B1 (fr) * 2013-03-05 2015-02-27 Commissariat Energie Atomique Procede de suivi d'une cible dans une sequence d'images avec prise en compte de la dynamique de la cible
JP6194450B2 (ja) * 2013-04-15 2017-09-13 株式会社メガチップス 状態推定装置、プログラムおよび集積回路
US9269012B2 (en) * 2013-08-22 2016-02-23 Amazon Technologies, Inc. Multi-tracker object tracking
US9405974B2 (en) * 2013-11-13 2016-08-02 Xerox Corporation System and method for using apparent size and orientation of an object to improve video-based tracking in regularized environments
NO337304B1 (no) * 2014-06-03 2016-03-07 Q Free Asa Påvisning av et avgiftsobjekt i et GNSS-system med partikkelfilter

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007328746A (ja) * 2006-06-09 2007-12-20 Sony Computer Entertainment Inc 対象物追跡装置および対象物追跡方法
JP2009042910A (ja) * 2007-08-07 2009-02-26 Sony Corp 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11682188B2 (en) 2020-08-14 2023-06-20 Fujitsu Limited Image processing apparatus and computer-readable storage medium for storing screen processing program

Also Published As

Publication number Publication date
JP6295122B2 (ja) 2018-03-14
US9792697B2 (en) 2017-10-17
US20150278601A1 (en) 2015-10-01

Similar Documents

Publication Publication Date Title
JP6295122B2 (ja) 状態推定装置、プログラムおよび集積回路
US10740652B2 (en) Image processing apparatus, image processing system, image processing method, and storage medium
Lee et al. Multi-class multi-object tracking using changing point detection
JP6458394B2 (ja) 対象追跡方法及び対象追跡装置
WO2020107716A1 (zh) 目标图像分割方法、装置及设备
EP3191989B1 (en) Video processing for motor task analysis
US9811721B2 (en) Three-dimensional hand tracking using depth sequences
JP2019036009A (ja) 制御プログラム、制御方法、及び情報処理装置
Joo et al. A multiple-hypothesis approach for multiobject visual tracking
JP2017529582A (ja) タッチ分類
CN111080673B (zh) 一种抗遮挡目标跟踪方法
JP6024658B2 (ja) 物体検出装置、物体検出方法及びプログラム
WO2013012091A1 (ja) 情報処理装置、物体追跡方法およびプログラム記憶媒体
JP2015079490A (ja) フレームを選択する方法、装置、及びシステム
JP6511986B2 (ja) プログラム生成装置、プログラム生成方法および生成プログラム
CN110852349A (zh) 一种图像处理方法、检测方法、相关设备及存储介质
JP6366999B2 (ja) 状態推定装置、プログラムおよび集積回路
JP2016191966A (ja) クラスタリング装置及び機械学習装置
JP2019512821A (ja) 画像処理装置、画像処理方法、及びプログラム
CN110060278A (zh) 基于背景减法的运动目标的检测方法及装置
US8879831B2 (en) Using high-level attributes to guide image processing
US8611657B2 (en) Robust fitting of surfaces from noisy data
JP2015228188A (ja) 画像処理装置、画像処理方法及びプログラム
JP6539720B1 (ja) 画像処理装置
KR102102181B1 (ko) 부호화된 방향성 네트워크에서의 표현 학습 방법 및 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170313

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180219

R150 Certificate of patent or registration of utility model

Ref document number: 6295122

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250