JP2008181187A - 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム - Google Patents

動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム Download PDF

Info

Publication number
JP2008181187A
JP2008181187A JP2007012410A JP2007012410A JP2008181187A JP 2008181187 A JP2008181187 A JP 2008181187A JP 2007012410 A JP2007012410 A JP 2007012410A JP 2007012410 A JP2007012410 A JP 2007012410A JP 2008181187 A JP2008181187 A JP 2008181187A
Authority
JP
Japan
Prior art keywords
objective function
image
vector
hierarchical
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007012410A
Other languages
English (en)
Other versions
JP4486974B2 (ja
Inventor
Hidetomo Sakaino
英朋 境野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2007012410A priority Critical patent/JP4486974B2/ja
Publication of JP2008181187A publication Critical patent/JP2008181187A/ja
Application granted granted Critical
Publication of JP4486974B2 publication Critical patent/JP4486974B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

【課題】輝度変動を生ずる画像から移動対象の動きベクトルを推定する精度の安定化と高精度化を行う。
【解決手段】拡散現象を示す拡散量q1および減衰現象を示す減衰量q2を輝度変動量とし、輝度変動量qと拡散量q1および減衰量q2との差分を誤差とする誤差関数εを導き、この誤差関数εをロバスト統計学に基づくロバスト関数に代入した目的関数Eを導出して、この目的関数Eの誤差が収束するまで繰り返し計算して動きベクトル(υ,ν)を推定する。
【選択図】図1

Description

本発明は、輝度変動が著しい連続する時系列画像から移動対象の動きベクトルを安定かつロバストに推定する技術に関する。
現在、時系列画像から物体の動き(オプティカルフロー)を推定する研究は、コンピュータビジョン分野において重要な位置を占めており、日々盛んに研究が進められている。
動きを検出する最も基本的な方法は、連続する2枚の画像間における高い類似性を利用する相互相関法(CC法)であり、MPEGに代表される符号化の分野において良く知られている。具体的には、画像間の類似性を相互相関関数などにより評価して類似する領域を画像間の移動距離(ベクトル)とみなす方法である。推定精度を向上するために、画像を複数のブロックに分割してサブブロック単位で移動距離を求める方法も用いられている。
この相互相関法は、2枚の時系列画像間において輝度変動が発生しないことを前提条件としている。即ち、画像の一定領域内における流量の出入が保存されること、つまり、突発的に発生する輝度変化を考慮することなく、画像の動きは常に滑らかであると仮定し、輝度変動は一定であることを条件に計算する方法である。
しかしながら、移動対象の表面の輝度は、自然環境下において、例えば、太陽光,月光,雲の流れ,陰影,拡散反射,鏡面反射などの外的要因によって、画像間で変動している。
そこで、コンピュータビジョン分野では、オプティカルフロー法を利用して動きを検出する方法が知られている(非特許文献1参照)。このオプティカルフロー法は、動画像から各点の動きを求める手法の一つで、画像輝度の空間的変化と時間的変化を調べ、各点がどちらへどんな速さで移動したかを求める方法である。
ここで、オプティカルフロー法を用いた従来の動きベクトル推定方法について具体的に説明する。最初に、2枚の連続した時系列画像間の輝度変動を一定と仮定し、時点tにおけるカメラ座標上の位置(x,y)における輝度をI(x,y,t)とすると、微小時間δt経過した後の対応する位置の輝度をI(x+δx,y+δy,t+δt)は、位置及び時間に対するテイラー展開を1次オーダまで行うことにより、式(1)で表現される。
次に、時系列画像間における輝度変動の発生を考慮すると、微小時間δtにおける対応位置間の動きに伴った輝度の差(輝度変動量)qは、式(2)で表現される。なお、υ,νは、単位時間あたりのx軸およびy軸の速度ベクトルを意味している。
そして、式(2)を一般的に表現すると、輝度変動量qは、式(3)で表現することができる。
J.L. Barron、外2名、「Performance of Optical Flow Techniques」、IJCV、1994、vol.12、no.1、p.43-77 中川 徹、外1名、「最小二乗法による実験データ解析」、東京大学出版会、1995、p.168-169
式(3)は輝度変動を一応考慮しているが、その輝度変動を最も簡単な線形方程式として表現しているに留まり、非線形な関係ではないので、複雑な自然環境下における輝度変動の要因の一端のみを考慮しているにすぎない。
つまり、前述の如く、自然環境下では、太陽光,月光,雲の流れ,陰影,拡散反射,鏡面反射,など複数の外的要因によって、移動する対象の表面の輝度が時系列画像間で変動するが、式(3)ではこれらの影響を一まとめにしているので、具体的な物理現象が考慮されていないので、不連続性やオクルージョンによる影響を吸収できず、オプティカルフロー法における動きベクトルの推定精度が低下するという問題があった。
本発明は、上記を鑑みてなされたものであり、輝度変動を生ずる画像から移動対象の動きベクトルを推定する精度の安定化と高精度化を行うことを課題とする。
第1の本発明に係る動きベクトル検出装置は、移動対象を含む画像を入力する画像入力手段と、入力された前記画像を時系列に蓄積する画像蓄積手段と、蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する階層画像生成手段と、拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、前記輝度変動量と前記拡散量および前記減衰量との差分を誤差とする誤差関数を導き、当該誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して目的関数格納手段に格納する目的関数導出手段と、格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の速度ベクトルを仮推定して仮速度ベクトル格納手段に格納する速度ベクトル仮推定手段と、格納された前記目的関数と仮推定された前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の前記速度ベクトルを本推定して速度ベクトル格納手段に格納する速度ベクトル本推定手段と、を有することを特徴とする。
本発明にあっては、拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、輝度変動量と拡散量および減衰量との差分を誤差とする誤差関数を導き、この誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して、この目的関数の誤差が収束するまで繰り返し計算して速度ベクトルを推定するので、拡散現象および減衰現象を伴う輝度変動がある場合であっても、移動対象の動きベクトルを安定的かつ高精度に推定することができる。
本発明にあっては、異なる空間解像度を有する複数の階層画像を連続する2枚の画像に対してそれぞれ生成し、生成された複数の階層画像のうち空間解像度の低い2枚の階層画像を用いて速度ベクトルを仮推定し、この速度ベクトルと次に空間解像度の高い2枚の階層画像とを用いて速度ベクトルを本推定するので、階層画像の面積および空間解像度を低くして計算量を減らすことができ、速度ベクトルの収束計算の速度を向上し、確実に収束させることができる。
第2の本発明に係る動きベクトル検出装置は、前記速度ベクトル本推定手段が、前記速度ベクトル格納手段に格納された前記速度ベクトルと当該速度ベクトル本推定手段で用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする。
本発明にあっては、速度ベクトル本推定手段により推定された速度ベクトルと速度ベクトル本推定手段で用いた2枚の階層画像の次に空間解像度の高い2枚の階層画像の濃淡値とを用いて速度ベクトルを推定することを繰り返すことにより、画像間の移動対象の速度ベクトルを推定するので、上記と同様に、階層画像の面積および空間解像度を低くして計算量を減らすことができ、速度ベクトルの収束計算の速度を向上させることができる。
第3の本発明に係る動きベクトル検出装置は、前記速度ベクトル仮推定手段および前記速度ベクトル本推定手段が、前記目的関数を演算する際に用いる前記ロバスト関数として、ローレンツ関数を用いることを特徴とする。
本発明にあっては、ロバスト関数としてローレンツ関数を用いることにより、速度ベクトルの収束計算の速度をより高速に行うことができる。
第4の本発明に係る動きベクトル検出方法は、移動対象を含む画像を入力する第1ステップと、入力された前記画像を時系列に蓄積する第2ステップと、蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する第3ステップと、拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、前記輝度変動量と前記拡散量および前記減衰量との差分を誤差とする誤差関数を導き、当該誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して目的関数格納手段に格納する第4ステップと、格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の速度ベクトルを仮推定して仮速度ベクトル格納手段に格納する第5ステップと、格納された前記目的関数と仮推定された前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の前記速度ベクトルを本推定して速度ベクトル格納手段に格納する第6ステップと、を有することを特徴とする。
第5の本発明に係る動きベクトル検出方法は、前記第6ステップが、前記速度ベクトル格納手段に格納された前記速度ベクトルと当該第6ステップで用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする。
第6の本発明に係る動きベクトル検出方法は、前記第5ステップおよび前記第6ステップが、前記目的関数を演算する際に用いる前記ロバスト関数として、ローレンツ関数を用いることを特徴とする。
第7の本発明に係る移動ベクトル検出プログラムは、上記動きベクトル検出方法に記載の移動ベクトル検出方法における各ステップをコンピュータによって実行させることを特徴とする。
本発明によれば、輝度変動を生ずる画像から移動対象の動きベクトルを推定する精度の安定化と高精度化を行うことができる。
以下、本発明の実施の形態について図面を用いて説明する。
図1は、本発明の実施の形態に係る動きベクトル検出装置10を示した構成図である。動きベクトル検出装置10は、移動対象を含む画像を入力する画像入力部100、入力された画像を時系列に蓄積する画像蓄積部110、蓄積された画像を読み出して、画像毎に異なる空間解像度を有する複数の階層画像を生成して階層画像蓄積部121に蓄積する階層画像生成部120、目的関数を導出して目的関数格納部131に格納する目的関数導出部130、速度ベクトルを仮推定して仮速度ベクトル格納部141に格納する速度ベクトル仮推定部140、速度ベクトルを本推定して速度ベクトル格納部151に格納する速度ベクトル本推定部150、及び、本推定された速度ベクトルを移動対象の動きベクトルとして表示する動きベクトル表示部160を備えた構成である。
なお、動きベクトル検出装置10は、コンピュータ本体を構成するCPU,メモリ,ハードディスクなどにより実現される。また、次に説明する各ステップS1〜S7の動作処理はプログラムで実行され、階層画像蓄積部121,目的関数格納部131,仮速度ベクトル格納部141,及び,速度ベクトル格納部151は、メモリまたはハードディスクにより構成される。
続いて、動きベクトル検出装置10を構成する各部100〜160の処理について説明する。なお、画像の輝度値,強度値または濃淡値の意味するところは全て等価であり、計算する際に使用される画像データは画像の濃淡値として以下説明する。
最初に、画像入力部100には、移動対象が記録された複数の画像が入力される(ステップS1)。この移動対象とは、例えば、街頭などに設置されたカメラにより撮影された車などの並進運動を行うものであって、この画像には霧や煙などの自然環境下における外的要因も含まれている。
次に、画像蓄積部110は、画像入力部100で入力された複数の画像を時系列に蓄積する(ステップS2)。時系列とは、時間とともに変動する現象の観測値を時間とともに記録した並びを意味するものである。
続いて、階層画像生成部120は、画像蓄積部110により蓄積された複数の時系列画像のうち、連続する2枚の蓄積画像を読み出して、その2枚の蓄積画像それぞれに対して、蓄積画像よりも空間解像度の低い(粗い)複数の階層画像を生成し、階層画像蓄積部121に蓄積する(ステップS3)。
この階層画像生成について、図2を用いて説明する。同図は、ある時間tにおける蓄積画像200と時間tに連続する時間t+1における蓄積画像210とにおける階層画像を示した模式図である。階層画像生成部120は、蓄積画像200を用いて、この蓄積画像200よりも空間解像度の低い解像度を有する縮小された階層画像201を生成し、さらに、階層画像201よりも空間解像度の低い解像度を有する縮小された階層画像202を生成する。蓄積画像210についても同様に、階層画像生成部120は、この蓄積画像210よりも空間解像度の低い解像度を有する縮小された階層画像211を生成し、さらに、階層画像211よりも空間解像度の低い解像度を有する縮小された階層画像212を生成する。なお、1つの蓄積画像から3つ以上の階層画像を生成することも可能である。
図1に戻り、目的関数導出部130は、拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、輝度変動量と拡散量および減衰量との差分を誤差とする誤差関数を導き、この誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して、目的関数格納部131に格納する(ステップS4)。
なお、目的関数の具体的な導出方法については後述する。なお、ここで説明したステップS4は、ステップS3の後の動作に限られるものではなく、ステップS1〜S3のいずれかの間もしくはステップS1より前であってもよい。
その後、速度ベクトル仮推定部140は、目的関数格納部131から目的関数を読み出して、階層画像蓄積部121に蓄積された階層画像のうち空間解像度の低い連続する2枚の階層画像の濃淡値をその目的関数に代入し、その目的関数の誤差が収束するまで繰り返し計算することで移動対象の速度ベクトルを仮推定し、仮速度ベクトル格納部141に格納する(ステップS5)。
そして、速度ベクトル本推定部150は、目的関数格納部131から目的関数を読み出し、かつ、仮速度ベクトル格納部141から仮推定された速度ベクトルとを読み出して、その速度ベクトルと次に空間解像度の高い連続する2枚の階層画像の濃淡値をその目的関数に代入し、その目的関数の誤差が収束するまで繰り返し計算することで移動対象の速度ベクトルを本推定し、速度ベクトル格納部151に格納する(ステップS6)。
なお、1つの蓄積画像から3つ以上の階層画像が生成される場合であっても、最も空間解像度の低い2枚の階層画像(図2の場合、階層画像202および階層画像212)から順番に、階層画像を生成した元の2枚の画像(図2の場合、蓄積画像200および蓄積画像210)を用いて速度ベクトルを推定するまで同様の計算を繰り返し行うことにより、連続する2枚の画像間における移動対象の速度ベクトルを推定することができる。
最後に、動きベクトル表示部160は、速度ベクトル本推定部150により推定された速度ベクトルを用いて、移動対象の動きベクトルを矢印記号として画面に表示する(ステップS7)。
次に、ステップS4で説明した目的関数の具体的な導出方法について説明する。式(3)で表現された線形方程式に対して、次に説明する2つの典型的な物理現象を取り入れる。1つは、大気,煙,光の拡散反射,熱の伝達などの拡散現象である。この拡散現象の拡散量を示す拡散方程式q1は式(4)で表現することができる。この式(4)は、ある画像における濃淡値Iが、x軸及びy軸の空間方向に時間とともに初期の濃淡値を薄めていくように、その面積を広げていくことを表現している。なお、λは拡散係数である。
2つ目は、霧の中や光路上の光の減衰などの減衰現象である。減衰現象は、空気中に浮遊する微小な液体または固体の粒子であるエアロゾルにより光が乱反射し、光が進行する距離に従ってエネルギーが分散,消散するために発生する。この減衰現象の減衰量は指数関数的に減衰するので、減衰方程式q2は式(5)で表現することができる。なお、κは、減衰係数である。
次に、式(3)〜(5)で表現された未知数(υ,ν,λ,κ)を推定するための定式化を行う。通常、拡散現象および減衰現象は混在する可能性が高いので、拡散現象を示す拡散量q1および減衰現象を示す減衰量q2を輝度変動量qとする。即ち、輝度変動量を示す式(3)を式(6)のように拡張して複数の要因を加味させる。なお、ωは各要因の重み付け係数である。
次に、式(6)を用いて、輝度変動量qと拡散量q1および減衰量q2との差分を誤差とする誤差関数εを作成し、この誤差関数εをロバスト統計学に基づくロバスト関数ρに代入した式(7)を目的関数Eとする。なお、ロバスト統計学に基づくロバスト推定法については、非特許文献2に開示された技術内容である。
式(7)を最小化することで得られる未知数υが、拡散現象と減衰現象との物理現象を考慮したx軸方向の速度ベクトルになり、未知数νはy軸方向の速度ベクトルとなる。即ち、未知数(υ,ν)は、時系列画像に含まれた移動対象の動きベクトルとして推定される。
目的関数Eを最小化する方法として、ここでは差分法に従って離散化し、未知数(υ,ν,λ,κ)を計算する。具体的には、式(8)を用いて離散化を行う。IまたはIは、濃淡値Iのx軸方向またはy軸方向の1次微分値であり、Iは(n+1)次とn次とにおける時間差分を表現している。なお、(i,j)は、画像のx軸およびy軸における画素の位置を示している。
従い、式(8)を用いて式(7)の最小化を計算することになるが、ここで、式(7)は非線形関数なので、未知数(υ,ν,λ,κ)について初期値ゼロを与えて、エネルギー最小値を探索する方法として一般的に利用される最急降下法で使用される式(9)を用いて、目的関数Eの誤差が収束するまで反復計算する。なお、θは未知数(υ,ν,λ,κ)であり、μは調整パラメータである。また、pは反復回数を意味している。
拡散現象を示す重み付け係数ω1および減衰現象を示す重み付け係数ω2は、例えば、それら2つの比率を0.5とし、和を1.0とする。また、調整パラメータμは、空間解像度の異なる階層画像、即ち、サブブロックの大きさに応じて、0.1から10のマイナス8乗までの中から安定に収束する値とする。なお、4つの未知数(υ,ν,λ,κ)のそれぞれは、(i,j)で示された画素ごとに離散化されるので、画素ごとに異なる組となる。
例えば、未知数(ν,λ,κ)について初期値ゼロを与えて、未知数υについて反復計算する場合、式(9)は式(10)となる。
ここで、調整パラメータμを10のマイナス3乗とすると、式(10)を収束させる収束判定式は、式(11)で表される。
式(11)の条件を満たすまで繰り返し計算して反復誤差を小さくすることで、未知数υであるx軸方向の速度ベクトルを推定する。例えば、空間解像度の低い3×3のサブブロックを有する2枚の時系列の階層画像を用いて未知数を仮推定し、この仮推定された未知数と次に空間解像度の高い25×25のサブブロックを有する階層画像とを用いて、x軸方向の速度ベクトルυおよびy軸方向の速度ベクトルνを本推定する。
図3は、連続した2枚の時系列画像間で拡散現象を生じた場合における本実施の形態と従来法とで推定した動きベクトルの比較を示す比較図である。連続した2枚の時系列画像間において、拡散しながら並進運動する移動対象が存在している。本実施の形態で推定した移動対象の動きベクトルは、画像300に示すように、拡散による面積の拡大の影響を受けることなく並進ベクトルを推定することができる。一方、従来法の場合、式(3)を用いて推定した動きベクトルは、画像310に示すように、移動対象自身による拡散の影響により、並進運動に加えて発散するような動きベクトルが推定されている。更に、この場合における減衰係数κは、ほとんどゼロとなる推定結果が得られており、拡散現象と減衰現象との混合モデルの効果も示されている。即ち、拡散モデルが有効に働いたため、拡散しながら並進運動する移動対象の動きをより正確に推定することが可能であることを確認することができる。
図4は、連続した2枚の時系列画像間で減衰現象を生じた場合における本実施の形態と従来法とで推定した動きベクトルの比較を示す比較図である。連続した2枚の時系列画像間において、面積が現象するとともに濃淡値が低下する減衰現象を示しながら並進運動する対象が存在している。本実施の形態で推定した動きベクトルは、画像400に示すように、減衰による面積の縮小の影響を受けることなく並進ベクトルを推定することができる。一方、従来法の場合、式(3)を用いて推定した動きベクトルは、画像410に示すように、移動対象自身による減衰の影響により、並進運動に加えて収束するような動きベクトルが推定されている。更に、この場合における拡散係数λは、ほとんどゼロとなる推定結果が得られており、拡散現象と減衰現象との混合モデルの効果も示されている。即ち、減衰モデルが有効に働いたため、減衰しながら並進運動する移動対象の動きをより正確に推定することが可能であることを確認することができる。
図5は、ロバスト関数の効果を示す図である。同図では、左側から右側方向へ並進運動する移動対象が存在している。木の枝や幹がオクルージョンとなり、不連続性が存在する場合であっても、式(7)に示すロバスト関数を用いて動きベクトルを推定することで、そのオクルージョンの影響を受けることなく、その移動対象の並進運動を正確に推定することを可能としている(画像500参照)。一方、ロバスト関数を介在させない式(3)を用いて動きベクトルを推定する場合、木の枝の動きの影響を受けることにより、並進運動が正確に推定されていない(画像510参照)。
図6は、輝度変動量に対する動きベクトルの誤差を示す図である。人工的に作成された輝度変動を有する2枚の画像を用いて、本実施の形態と従来法との動きベクトルを計算し、正しいと推定された動きベクトルとの平均誤差を示している。同図より、本実施の形態の場合は、従来法よりも動きベクトルの誤差が小さく、一定の範囲内での誤差に抑制されていることが確認することができる。また、従来法では、ある輝度変動量(q−1)において、急速に測定精度が低下することも確認できる。
図7は、不連続性に対する動きベクトルの誤差を示す図である。人工的に作成された不連続性を有する2枚の画像を用いて、本実施の形態と従来法との動きベクトルを計算し、不連続パターンの密度を横軸方向に上げた場合における、正しいと推定された動きベクトルとの平均誤差を示している。同図より、本実施の形態における動きベクトルの誤差は、従来法の半分以下に抑えていることを確認することができる。
即ち、図6および図7の測定結果により、本実施の形態における動きベクトルの推定方法は、推定精度の安定化および高精度化を実現することを確認することができる。
なお、目的関数を演算する際に用いる非線形なロバスト関数として、ローレンツ関数を用いることにより、速度ベクトルの収束計算の速度をより高速に行うことも可能である。
本実施の形態によれば、拡散現象を示す拡散量q1および減衰現象を示す減衰量q2を輝度変動量qとし、輝度変動量qと拡散量q1および減衰量q2との差分を誤差とする誤差関数εを導き、この誤差関数εをロバスト統計学に基づくロバスト関数ρに代入した目的関数Eを導出して、この目的関数Eの誤差が収束するまで繰り返し計算して動きベクトル(υ,ν)を推定するので、拡散現象および減衰現象を伴う輝度変動がある場合であっても、移動対象の動きベクトルを安定的かつ高精度に推定することができる。
本実施の形態によれば、異なる空間解像度を有する複数の階層画像を連続する2枚の画像に対してそれぞれ生成し、生成された複数の階層画像のうち空間解像度の低い2枚の階層画像を用いて速度ベクトルを仮推定し、この速度ベクトルと次に空間解像度の高い2枚の階層画像とを用いて速度ベクトルを本推定するので、階層画像の面積および空間解像度を低くして計算量を減らすことができ、動きベクトルの収束計算の速度を向上し、確実に収束させることができる。
本実施の形態によれば、速度ベクトル本推定部150により推定された速度ベクトルと速度ベクトル本推定部150で用いた2枚の階層画像の次に空間解像度の高い2枚の階層画像の濃淡値とを用いて動きベクトル(υ,ν)を推定することを繰り返すことにより、画像間の移動対象の動きベクトル(υ,ν)を推定するので、上記と同様に、階層画像の面積および空間解像度を低くして計算量を減らすことができ、動きベクトルの収束計算の速度を向上させることができる。
本実施の形態によれば、ローレンツ関数をロバスト関数として適用することにより、速度ベクトルの収束計算の速度をより高速に行うことができる。
最後に、本発明は、自然環境の分野だけでなく、動き解析を必要とする流体力学,医学,航空力学分野においても適用することができる。
本発明の実施の形態に係る動きベクトル検出装置を示した構成図である。 ある時間tにおける蓄積画像200と時間tに連続する時間t+1における蓄積画像210とにおける階層画像を示した模式図である。 連続した2枚の時系列画像間で拡散現象を生じた場合における本実施の形態と従来法とで推定した動きベクトルの比較を示す比較図である。 連続した2枚の時系列画像間で減衰現象を生じた場合における本実施の形態と従来法とで推定した動きベクトルの比較を示す比較図である。 ロバスト関数の効果を示す図である。 輝度変動量に対する動きベクトルの誤差を示す図である。 不連続性に対する動きベクトルの誤差を示す図である。
符号の説明
10…動きベクトル検出装置
100…画像入力部
110…画像蓄積部
120…階層画像生成部
121…階層画像蓄積部
130…目的関数導出部
131…目的関数格納部
140…速度ベクトル仮推定部
141…仮速度ベクトル格納部
150…速度ベクトル本推定部
151…速度ベクトル格納部
160…動きベクトル表示部
200,210…蓄積画像
201,202,211,212…階層画像
300,310,400,410,500,510…画像
S1〜S7…ステップ

Claims (7)

  1. 移動対象を含む画像を入力する画像入力手段と、
    入力された前記画像を時系列に蓄積する画像蓄積手段と、
    蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する階層画像生成手段と、
    拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、前記輝度変動量と前記拡散量および前記減衰量との差分を誤差とする誤差関数を導き、当該誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して目的関数格納手段に格納する目的関数導出手段と、
    格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の速度ベクトルを仮推定して仮速度ベクトル格納手段に格納する速度ベクトル仮推定手段と、
    格納された前記目的関数と仮推定された前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の前記速度ベクトルを本推定して速度ベクトル格納手段に格納する速度ベクトル本推定手段と、
    を有することを特徴とする動きベクトル検出装置。
  2. 前記速度ベクトル本推定手段は、前記速度ベクトル格納手段に格納された前記速度ベクトルと当該速度ベクトル本推定手段で用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする請求項1に記載の動きベクトル検出装置。
  3. 前記速度ベクトル仮推定手段および前記速度ベクトル本推定手段は、前記目的関数を演算する際に用いる前記ロバスト関数として、ローレンツ関数を用いることを特徴とする請求項1又は2に記載の動きベクトル検出装置。
  4. 移動対象を含む画像を入力する第1ステップと、
    入力された前記画像を時系列に蓄積する第2ステップと、
    蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する第3ステップと、
    拡散現象を示す拡散量および減衰現象を示す減衰量を輝度変動量とし、前記輝度変動量と前記拡散量および前記減衰量との差分を誤差とする誤差関数を導き、当該誤差関数をロバスト統計学に基づくロバスト関数に代入した目的関数を導出して目的関数格納手段に格納する第4ステップと、
    格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の速度ベクトルを仮推定して仮速度ベクトル格納手段に格納する第5ステップと、
    格納された前記目的関数と仮推定された前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の誤差が収束するまで繰り返し計算することで前記移動対象の前記速度ベクトルを本推定して速度ベクトル格納手段に格納する第6ステップと、
    を有することを特徴とする動きベクトル検出方法。
  5. 前記第6ステップは、前記速度ベクトル格納手段に格納された前記速度ベクトルと当該第6ステップで用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする請求項4に記載の動きベクトル検出方法。
  6. 前記第5ステップおよび前記第6ステップは、前記目的関数を演算する際に用いる前記ロバスト関数として、ローレンツ関数を用いることを特徴とする請求項4又は5に記載の動きベクトル検出方法。
  7. 請求項4乃至6のいずれか1項に記載の動きベクトル検出方法における各ステップをコンピュータによって実行させることを特徴とする動きベクトル検出プログラム。
JP2007012410A 2007-01-23 2007-01-23 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム Active JP4486974B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007012410A JP4486974B2 (ja) 2007-01-23 2007-01-23 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007012410A JP4486974B2 (ja) 2007-01-23 2007-01-23 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム

Publications (2)

Publication Number Publication Date
JP2008181187A true JP2008181187A (ja) 2008-08-07
JP4486974B2 JP4486974B2 (ja) 2010-06-23

Family

ID=39725067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007012410A Active JP4486974B2 (ja) 2007-01-23 2007-01-23 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム

Country Status (1)

Country Link
JP (1) JP4486974B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012142836A (ja) * 2011-01-05 2012-07-26 Nippon Hoso Kyokai <Nhk> 復号装置及びそのプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0374782A (ja) * 1989-08-16 1991-03-29 Nippon Telegr & Teleph Corp <Ntt> 2次元動き場推定処理方法
JPH0561975A (ja) * 1991-08-31 1993-03-12 Sony Corp 信号マツチング装置
JP2003256844A (ja) * 2002-02-28 2003-09-12 Nippon Telegr & Teleph Corp <Ntt> パターン推定方法、パターン推定装置、パターン推定方法のプログラムおよびこのプログラムを記録した記録媒体
JP2007286690A (ja) * 2006-04-12 2007-11-01 Nippon Telegr & Teleph Corp <Ntt> 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0374782A (ja) * 1989-08-16 1991-03-29 Nippon Telegr & Teleph Corp <Ntt> 2次元動き場推定処理方法
JPH0561975A (ja) * 1991-08-31 1993-03-12 Sony Corp 信号マツチング装置
JP2003256844A (ja) * 2002-02-28 2003-09-12 Nippon Telegr & Teleph Corp <Ntt> パターン推定方法、パターン推定装置、パターン推定方法のプログラムおよびこのプログラムを記録した記録媒体
JP2007286690A (ja) * 2006-04-12 2007-11-01 Nippon Telegr & Teleph Corp <Ntt> 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012142836A (ja) * 2011-01-05 2012-07-26 Nippon Hoso Kyokai <Nhk> 復号装置及びそのプログラム

Also Published As

Publication number Publication date
JP4486974B2 (ja) 2010-06-23

Similar Documents

Publication Publication Date Title
Plyer et al. Massively parallel Lucas Kanade optical flow for real-time video processing applications
Weng et al. Homography‐based structural displacement measurement for large structures using unmanned aerial vehicles
US8532367B2 (en) System and method for 3D wireframe reconstruction from video
Roth et al. Moving Volume KinectFusion.
Bitterli et al. Beyond points and beams: Higher-dimensional photon samples for volumetric light transport
US20120194644A1 (en) Mobile Camera Localization Using Depth Maps
Falquez et al. Inertial aided dense & semi-dense methods for robust direct visual odometry
WO2013005815A1 (ja) 物体検出装置、物体検出方法及びプログラム
CN112840378A (zh) 在路径追踪中使用共享光照贡献进行相互作用的全局照明
US20140085462A1 (en) Video-assisted target location
US9171393B2 (en) Three-dimensional texture reprojection
TWI722638B (zh) 一種點雲融合方法、電子設備和電腦儲存介質
KR101705072B1 (ko) 영상 처리 장치 및 방법
CN104268323A (zh) 基于光线跟踪的激光雷达场景仿真方法
JP5592039B2 (ja) 信頼度スコアに基づいた3次元モデルの併合
CN111693729A (zh) 基于全局优化的粒子图像测速方法及装置
JP4486974B2 (ja) 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム
Liu et al. Geometrically stable tracking for depth images based 3D reconstruction on mobile devices
Houston et al. A unified approach for modeling complex occlusions in fluid simulations
JP2014119882A (ja) 解析方法、解析装置およびプログラム
WO2016178825A1 (en) Rendering via ray-depth field intersection
Ge et al. Depth estimation using a sliding camera
JP2008257382A (ja) 動き検出装置、動き検出方法、及び、動き検出プログラム
Genovese et al. Virtual environment for synthetic smoke clouds generation
KR102087076B1 (ko) 무인기 항공 측량시 폐색 영역 발생에 대한 예측 시스템 및 이를 이용한 무인기의 최적 항공 경로 결정 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091215

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100323

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100329

R150 Certificate of patent or registration of utility model

Ref document number: 4486974

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130402

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140402

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350