JP2007286690A - 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム - Google Patents

移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム Download PDF

Info

Publication number
JP2007286690A
JP2007286690A JP2006110090A JP2006110090A JP2007286690A JP 2007286690 A JP2007286690 A JP 2007286690A JP 2006110090 A JP2006110090 A JP 2006110090A JP 2006110090 A JP2006110090 A JP 2006110090A JP 2007286690 A JP2007286690 A JP 2007286690A
Authority
JP
Japan
Prior art keywords
objective function
vector
image
velocity vector
hierarchical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006110090A
Other languages
English (en)
Other versions
JP4538426B2 (ja
Inventor
Hidetomo Sakaino
英朋 境野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2006110090A priority Critical patent/JP4538426B2/ja
Publication of JP2007286690A publication Critical patent/JP2007286690A/ja
Application granted granted Critical
Publication of JP4538426B2 publication Critical patent/JP4538426B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】輝度変動を生ずる映像から移動対象の動き(速度)ベクトルを推定する精度の安定化と高精度化を行う。
【解決手段】輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、当該輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから目的関数を導出する。そして、連続する2枚の画像に対する階層画像のうち空間解像度の低い2枚の階層画像の濃淡値をこの目的関数に代入し、当該目的関数の発散度の誤差および渦度の誤差が収束するまで繰り返し演算することで移動対象の速度ベクトルを仮推定する。その後、当該速度ベクトルと次に空間解像度の高い2枚の階層画像の濃淡値とを目的関数に代入して当該目的関数の発散度の誤差および渦度の誤差が収束するまで繰り返し演算することで移動対象の速度ベクトルを推定する。
【選択図】図1

Description

本発明は、輝度変動が著しい連続する時系列画像から移動対象の移動ベクトルを安定かつロバストに推定する技術に関する。
現在、時系列画像から物体の動き(オプティカルフロー)を推定する研究は、コンピュータビジョン分野において重要な位置を占めており、日々盛んに研究が進められている。
動きを検出する最も基本的な方法は、連続する2枚の画像間における高い類似性を利用する相互相関法(CC法)であり、MPEGに代表される符号化の分野において良く知られている。具体的には、2枚の時系列画像において輝度変化がないことを前提とし、画像間の類似性を相互相関関数などにより評価して類似する領域を画像間の移動ベクトルとみなす方法である。推定精度を向上させるために、画像を複数のブロックに分割してサブブロック単位で移動ベクトルを求める方法も用いられている。
一方、コンピュータビジョン分野では、オプティカルフロー法を利用して動きを検出する方法が知られている。このオプティカルフロー法は、動画像から各点の動きを求める手法の一つで、画像輝度の空間的変化と時間的変化を調べ、各点がどちらへどんな速さで移動したかを求める方法である。具体的には、連続する2枚以上の画像から正則化と呼ばれる枠組みで対象の動き速度を推定する方法であり、2枚の時系列画像に基づいて目的関数として定義された式から変分法(もしくは、オイラー・ラグランジュ法)に従って非線形連立方程式を得る。この非線形連立方程式を計算する動作を緩和法により反復誤差が小さくなるまで繰り返す。このようにして収束した解が、2枚の画像間における移動対象の速度ベクトルとなる。なお、画像の輝度値,強度値または濃淡値の意味するところは全て等価であり、計算する際に使用される画像データは画像の濃淡値である。
従来のオプティカルフロー法では、画像の一定領域内における流量の出入が保存されること、つまり、輝度変動は一定であることを前提に式(1)を導き、この式(1)を計算することにより速度ベクトルが求められていた。
式(1)中、Eは2次元画像(x,y)の時間tにおける輝度(濃淡)を表すものである。vは速度ベクトルである。左辺第一項は、微小時間における輝度変化の関数、第二項は、輝度の発散量の関数を示すものであり、右辺をゼロとすることで輝度変動を一定とすることを表している。
次に、この式(1)を微分演算の規則により展開することで、式(2)を得ることができる。
さらに、画像中の流動体の移動変位ベクトルdは、離散時間幅Δtと速度ベクトルvにより、式(3)で定義することができる。
式(2)および式(3)を用いて、時間に関する積分計算を行うことにより、式(4)および式(5)を容易に得ることができる。
式(4)は、時間に関する一次微分方程式であり、この式(4)を解析的に解くことにより一般解である式(5)を得ることができる。なお、式(4)の右側に記述された式(∀u∈(t,t+Δt))は、離散時間Δtの間にx軸方向の速度uが全て含まれていることを表している。
この式(5)に対し、テイラー展開を通じて輝度に関する輝度変動方程式が式(6)のように導かれる。この式(6)を最小化問題として収束計算することにより、速度ベクトルを推定する。
しかしながら、式(6)のみによる計算では解を収束させることができないので、式(6)に対して一定の条件を導入して計算を行う。ここで、流体力学的な拘束条件として、発散度および渦度を考慮した拘束条件を式(7)で定義する。
右辺の第一項および第二項が発散度方程式であり、第一項のξおよび第二項は収束計算を行うための発散度に関する誤差を考慮したものである。右辺の第三項と第四項が渦度方程式であり、第三項のζおよび第四項は収束計算上を行うための渦度に関する誤差を考慮したものである。
式(6)および式(7)から目的関数を式(8)を導出する。αは、正則化パラメータである。なお、d=(u,v)の式における左辺のdは移動速度ベクトルであり、右辺の(u,v)は単位時間あたりのx軸およびy軸の速度ベクトルである。
従い、速度ベクトル(u,v)は、式(8)の発散度の誤差ξ,および渦度の誤差ζが小さくなるまで収束計算を行うことで計算することができる。
具体的には、式(8)は汎関数であるので、変分法の枠組みによりオイラー・ラグランジュ方程式を介して3つの変数(Δd,ξ,ζ)についての非線形連立方程式を容易に得ることができる。ここで、離散化された計算格子として、2次元画像の画素の位置を(i,j)で定義した場合、発散度および渦度は、有限差分法により離散化された式(9)で記述することができる。
また、この非線形連立方程式を計算する際に用いる非線形ロバスト関数として、Leclerc関数を用いる。これは、急峻な輝度変化による不安定な計算を抑制するためである。σは分散を表している。
故に、速度ベクトル(u,v)は、上述した非線形連立方程式,式(9),式(10),および2次元画像の位置(i,j)における画像の濃淡値を利用することにより、誤差ξ,ζが小さくなるまで収束計算を行うことで計算することができる。計算効率上、3つの変数(Δd,ξ,ζ)の初期値をいずれもゼロと設定し、これら3つのうち1つを変数、残り2つを固定値とみなして繰り返し収束計算をすることで、速度ベクトル(u,v)を推定する。
なお、ここで用いている定式化は、非特許文献1乃至3に従っている。
J.L. Barron、他2名、「Performance of Optical Flow Techniques」、IJCV、1994、vol.12、no.1、p.43-77 Richard P. Wildes、他3名、「Recovering Estimates of Fluid Flow from Image Sequence Data」、CVIU、2000、vol.80、p.246-266 Thomas Corpetti、他2名、「Dense Estimation of Fluid Flows」、IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE、2002年3月、vol.24、no.3、p.365-381
オプティカルフロー法を用いて動きを検出する場合、上記にて説明したように、一般的には輝度変動を一定とする前提条件を考慮した場合が多い。つまり、突発的に発生する輝度変化を考慮することなく、画像の動きは常に滑らかであると仮定し、速度の1次微分や2次微分が近似的にゼロになるように設定して動きを推定している。
しかしながら、我々の周辺に存在する実際の環境では、オクルージョンや陰影による局所的な輝度変動や、気象レーダパターンおよび衛星画像パターンから観測される雲や雨などの急峻な発達,衰退,分裂,融合,消失など複雑な輝度変動が常に発生している。
つまり、従来のオプティカルフロー法では、渦度や発散度と呼ばれる数値流体力学の分野で定式化されている方程式を拘束条件として適用しているが、渦の発達や衰退といった流体本来の特徴を有する輝度変動を考慮していないので、気象レーダパターンから推測される雲などの動きは不自然な乱れとして検出され、動きを推定する精度は低いという問題がある。
また、衛星画像のような流体状パターンでは、気象レーダパターンと比べて流体のエッジ構造が明瞭ではなく、画像間の輝度変動は比較的小さいので、渦などが観測された場合であっても一定の動きに対しては一定の精度を得ることができるが、集中豪雨や雷雲などのように対流現象の周期が極めて短い場合には大きな輝度変化が発生するので、輝度変動が常に発生しないと仮定して流体状の動きを推定すると、上記と同様に不自然なものとなり、結果として推定精度が低いという問題がある。
本発明は、上記を鑑みてなされたものであり、輝度変動を生ずる映像から移動対象の動き(速度)ベクトルを推定する精度の安定化と高精度化を行うことを課題とする。
第1の本発明に係る移動ベクトル検出装置は、移動対象を含む画像を入力する画像入力手段と、入力された前記画像を時系列に蓄積する画像蓄積手段と、蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する階層画像生成手段と、輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、当該輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから速度ベクトルと発散度の誤差と渦度の誤差に関する目的関数を導出して目的関数格納手段に格納する目的関数導出手段と、格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の速度ベクトルを仮推定して速度ベクトル格納手段に格納する速度ベクトル仮推定手段と、格納された前記目的関数と前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の前記速度ベクトルを推定して速度ベクトル格納手段に格納する速度ベクトル推定手段と、を有することを特徴とする。
本発明にあっては、輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導いて速度ベクトルを推定するので、実環境を映像でセンシングした時に観測される渦などの強い非線形な動きと大きな輝度変動を伴っている場合であっても、移動対象の動きを確実に追随することができ、その動き(速度)ベクトルの安定化かつ高精度化を実現することができる。
また、異なる空間解像度を有する複数の階層画像を連続する2枚の画像に対してそれぞれ生成し、生成された複数の階層画像のうち空間解像度の低い2枚の階層画像を用いて速度ベクトルを仮推定し、この速度ベクトルと次に空間解像度の高い2枚の階層画像とを用いて速度ベクトルを推定する。これにより、階層画像の面積および空間解像度を低くして計算量を減らすことができるので、速度ベクトルの収束計算の速度を向上させることができ、確実に収束させることができる。
上記移動ベクトル検出装置において、前記速度ベクトル推定手段は、当該速度ベクトル推定手段により格納された前記速度ベクトルと前記速度ベクトル推定手段で用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする。
本発明にあっては、速度ベクトル推定手段により推定された速度ベクトルと速度ベクトル推定手段で用いた2枚の階層画像の次に空間解像度の高い2枚の階層画像の濃淡値とを用いて速度ベクトルを推定することを繰り返すことにより、画像間の移動対象の速度ベクトルを推定することができるので、上記と同様に、階層画像の面積および空間解像度を低くして計算量を減らすことができ、速度ベクトルの収束計算の速度を向上させることができる。
上記移動ベクトル検出装置において、前記速度ベクトル仮推定手段および前記速度ベクトル推定手段は、前記目的関数を演算する際に用いる非線形ロバスト関数として、ローレンツ関数を用いることを特徴とする。
本発明にあっては、ローレンツ関数を非線形ロバスト関数として適用することにより、速度ベクトルの収束計算の速度をより高速に行うことができる。
第2の本発明に係る移動ベクトル検出方法は、移動対象を含む画像を画像入力手段により入力する第1ステップと、入力された前記画像を画像蓄積手段により時系列に蓄積する第2ステップと、蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像生成手段により階層画像蓄積手段に蓄積する第3ステップと、輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、当該輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから速度ベクトルと発散度の誤差と渦度の誤差に関する目的関数を導出して目的関数導出手段により目的関数格納手段に格納する第4ステップと、格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の速度ベクトルを仮推定して速度ベクトル仮推定手段により速度ベクトル格納手段に格納する第5ステップと、格納された前記目的関数と前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の前記速度ベクトルを推定して速度ベクトル推定手段により速度ベクトル格納手段に格納する第6ステップと、を有することを特徴とする。
上記移動ベクトル検出方法において、前記第6ステップは、前記速度ベクトル推定手段により格納された前記速度ベクトルと前記第6ステップで用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル推定手段により前記速度ベクトル格納手段に格納することを特徴とする。
上記移動ベクトル検出方法において、前記第5ステップおよび前記第6ステップは、前記目的関数を演算する際に用いる非線形ロバスト関数として、ローレンツ関数を用いることを特徴とする。
第3の本発明に係る移動ベクトル検出プログラムは、上記移動ベクトル検出方法に記載の移動ベクトル検出方法における各ステップをコンピュータによって実行させることを特徴とする。
本発明によれば、輝度変動を生ずる映像から移動対象の動き(速度)ベクトルを推定する精度の安定化と高精度化を行うことができる。
以下、本発明の実施の形態について図面を用いて説明する。
図1は、本発明の実施の形態に係る移動ベクトル検出装置を示した構成図である。図1に示すように、移動ベクトル検出装置10は、画像を入力する画像入力部100、画像を時系列画像として蓄積する画像蓄積部110、画像毎に異なる空間解像度を有する複数の階層画像を生成する階層画像生成部120、目的関数を導出する目的関数導出部130、速度ベクトルを推定する速度ベクトル推定部140、および移動ベクトル表示部150を備えた構成である。
上記移動ベクトル検出装置10は、コンピュータ本体を構成するCPU,メモリ,ハードディスクなどにより実現される。また、次に説明する各ステップ(S1〜S6)の動作処理はプログラムで実行され、画像蓄積部110,階層画像蓄積部,目的関数格納部,および速度ベクトル格納部は、メモリまたはハードディスクにより構成される。
上記にて説明した移動ベクトル検出装置10の動作処理について説明する。
最初に、画像入力部100には、移動対象が記録された複数の画像が入力される(S1)。この移動対象とは、例えば、気象レーダなどにより撮影された雲などの流動体を示すものである。
次に、画像蓄積部110には、画像入力部100により入力された複数の画像が時系列に蓄積される(S2)。時系列とは、時間とともに変動する現象の観測値を時間とともに記録した並びを意味するものである。
続いて、階層画像生成部120は、画像蓄積部110により蓄積された複数の時系列画像のうち、連続する2枚の蓄積画像を画像蓄積部110から読み出して、その2枚の蓄積画像それぞれに対して、蓄積画像よりも空間解像度の低い(粗い)複数の階層画像を生成し、階層画像蓄積部に蓄積する(S3)。
この階層画像生成について、図2を用いて説明する。図2は、ある時間tにおける蓄積画像200と時間tに連続する時間t+1における蓄積画像210とにおける階層画像を示した模式図である。階層画像生成部120は、蓄積画像200を用いて、この蓄積画像200よりも空間解像度の低い解像度を有する縮小された階層画像201を生成し、さらに、階層画像201よりも空間解像度の低い解像度を有する縮小された階層画像202を生成する。蓄積画像210についても同様に、階層画像生成部120は、この蓄積画像210よりも空間解像度の低い解像度を有する縮小された階層画像211を生成し、さらに、階層画像211よりも空間解像度の低い解像度を有する縮小された階層画像212を生成する。なお、1つの蓄積画像から3つ以上の階層画像を生成することも可能である。
そして、目的関数導出部130は、輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、この輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから速度ベクトルと発散度の誤差と渦度の誤差に関する目的関数を導出し、目的関数格納部に格納する(S4)。目的関数の具体的な導出方法については後述する。なお、ここで説明したS4は、S3の後の動作に限られるものではなく、上記S1〜S3の間もしくはS1より前であってもよい。
その後、速度ベクトル推定部140は、目的関数格納部から目的関数を読み出して、階層画像生成部120により生成された複数の階層画像をその目的関数に代入することで速度ベクトルを推定し、速度ベクトル格納部に格納する(S5)。
具体的には、初期値をゼロとする速度ベクトルと複数の階層画像のうち最も空間解像度の低い階層画像202および階層画像212とを用いて速度ベクトルを仮推定する。これにより仮推定されたその速度ベクトルと次に空間解像度の高い階層画像201および階層画像211とを用いて第1の速度ベクトルを推定する。そして、この第1の速度ベクトルと階層画像を生成する元の画像である蓄積画像200および蓄積画像210を用いて、第2の速度ベクトルを推定する。この第2の本速度ベクトルが、連続する画像間における移動対象の速度ベクトルとなる。
なお、1つの蓄積画像から3つ以上の階層画像が生成される場合であっても、最も空間解像度の低い2枚の階層画像から順番に、上記と同様に、階層画像を生成した元の2枚の画像(上記の場合、蓄積画像200および蓄積画像210)を用いて速度ベクトルを推定するまで同様の計算を繰り返し行うことにより、連続する2枚の画像間における移動対象の速度ベクトルを推定することができる。なお、具体的な速度ベクトルの推定方法については後述する。
最後に、移動ベクトル表示部150は、速度ベクトル推定部140により推定された速度ベクトルを用いて、移動対象の移動ベクトルを矢印記号として画面に表示する(S6)。
次に、本実施の形態におけるオプティカルフロー法を用いた速度ベクトルの推定方法について説明する。
本来、背景技術にて説明した式(1)の右辺はゼロではなく、単位流量Qとして定義されている。つまり、従来の推定方法の場合、対流セルに見られるような発達と衰退を考慮しているが、一定領域内での流量の出入が保存されることを前提とする不自然なものであり、急峻に発達と衰退のそれぞれの量が異なる場合でのモデル化とはなっていないものであった。
ここで、流動体の急峻な発達と衰退は、時系列的に連続する画像上の移動対象の輝度変化に相当すること仮定することができる。つまり、従来の推定方法は、式(1)の右辺をゼロとする輝度変化一定モデルであったが、本実施の形態は、式(1)に代えて、自己回帰モデルを適用する式(11)、または、多項式モデルを適用する式(12)を利用して明瞭に画像間の輝度変動を表現することにより速度ベクトルを推定する。
αは自己回帰定数、βは多項式回帰定数、εは残差である。式(11)に対し、テイラー展開を通じて輝度に関する輝度変動方程式が式(13)のように導かれる。この式(13)を最小化問題として解析することにより、速度ベクトルを推定する。
式(13)は、従来の式(6)に相当するものであり、この式(13)と式(7)の拘束条件式から式(8)の目的関数を導出する。速度ベクトル(u,v)は、式(8)の発散度の誤差ξ,および渦度の誤差ζが小さくなるまで収束計算を行うことで計算することができる。式(8)を用いた具体的な計算方法については、背景技術にて説明した方法と同様であるので、ここでは説明を省略する。但し、従来において用いられていた非線形ロバスト関数としてのLeclerc関数の式(10)を、ローレンツ関数の式(14)に代えて収束計算を行う。
次に、連続した2枚の時系列画像における画像パターンの変化について説明する。図3は、気象レーダにより撮影された国内上空の反射強度の時系列画像を示した図である。ある時間tにおける画像300の画像パターンおよび時間tに連続する時間t+1における画像310の画像パターンは、ともに流体状の模様を有しており、時間tから時間t+1への時間経過にともない、輪郭および模様が不定形に著しく変化している。なお、画像310に示された矢印は、本実施の形態における移動ベクトル検出装置10により、画像300から画像310へ変化する際の移動ベクトルを推定したものである。
図4は、従来の速度ベクトルの推定方法を用いた場合(a)と本実施の形態の速度ベクトルの推定方法を用いた場合(b)の流動体の移動ベクトルを示した比較図である。本来、両画像の中心付近に存在する流動体は、衰退するとともに右回転しているが、図4(a)に示す従来の推定方法を用いた場合には渦成分の移動ベクトルが検出されず、流動体の中心から外側に衰退する成分を移動ベクトルとして推定する不自然なものとなっている。一方、図4(b)に示す本実施の形態の推定方法を用いた場合は、渦による右回転の回転ベクトルについても正しく検出されており、中心付近の流動体は右回転をしながら外側に衰退する移動ベクトルをより正確に表示している。
図5は、従来の速度ベクトルの推定方法を用いた場合(破線)と本実施の形態の速度ベクトルの推定方法を用いた場合(実線)の移動ベクトルの推定精度の評価結果を示した図である。図5(a)は、横軸を輝度変動量とし、縦軸を流動体の動き誤差とする測定結果を示したものであり、図5(b)は、横軸を渦度および発散度とし、縦軸を流動体の動き誤差とする測定結果を示したものである。図5は、気象レーダにより観測された時系列に連続する人工衛星画像を用いて、従来の速度ベクトルの推定方法を用いた場合と本実施の形態の速度ベクトルの推定方法を用いた場合との輝度変動量もしくは渦度および発散度に対する移動ベクトルを測定し、その測定結果と人工衛星画像から得られる実際の移動ベクトルとの差異を動き誤差として表示したものである。図5(a)および図5(b)から、従来の場合と比較して本実施の形態の場合の動き誤差は小さいと認識することができる。従い、この測定結果により、本実施の形態における速度ベクトルの推定方法における推定精度は従来の方法に比べてより高精度であり、本実施の形態における移動ベクトル検出装置10は有効なものであることが示されている。
図6は、本実施の形態を用いた場合の血管内部に流れる血流の流れの移動ベクトルを示した図である。本実施の形態による移動ベクトル検出装置10によれば、血管の内部に小さい血栓が存在する場合、その血栓の周辺には血流の乱れや渦度が発生していることを検出することができる。
本実施形態によれば、輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導いて速度ベクトルを推定するので、実環境を映像でセンシングした時に観測される渦などの強い非線形な動きと大きな輝度変動を伴っている場合であっても、移動対象の動きを確実に追随することができ、その動き(速度)ベクトルの安定化かつ高精度化を実現することができる。
これにより、例えば、血流の流れを移動ベクトルとして可視化し、渦度や発散度といった特異点を自動的に解析することで、血栓などによる血流の不規則な流れを容易に把握することができ、診断時における病巣の見逃しを防ぐことができる。医学の分野においては、超音波画像による血流の流れの可視化が行われているが、超音波画像から血栓周辺の不規則な血流の流れを瞬時に判断することは難しいため経験者による診察が中心であるが、実務経験が比較的浅い医者などであっても容易に病巣を把握することができる。その他、流体実験における粒子を流し込むことによる流れの可視化を通じて、動き解析を必要とする流体力学,医学,航空力学分野においても適用することができる。
また、異なる空間解像度を有する複数の階層画像を連続する2枚の画像に対してそれぞれ生成し、生成された複数の階層画像のうち空間解像度の低い2枚の階層画像を用いて速度ベクトルを仮推定し、この速度ベクトルを次に空間解像度の高い階層画像を用いて速度ベクトルを推定する。この速度ベクトルの推定を、階層画像を生成した元の画像である2枚の蓄積画像を用いるまで繰り返すことにより、連続する2枚の画像間における移動対象の速度ベクトルを推定する。これにより、階層画像の面積および空間解像度を低くして計算量を減らすことができるので、速度ベクトルの収束計算の速度を向上させることができ、確実に収束させることができる。例えば、非線形連立方程式を計算する際の演算量は、画像の面積にほぼ比例するので、階層画像の1辺が蓄積画像の半分である場合には、約4(2×2)倍で高速演算することが可能となる。
さらに、目的関数を演算する際に用いる非線形ロバスト関数として、ローレンツ関数を用いることにより、速度ベクトルの収束計算の速度をより高速に行うことができる。
本発明の実施の形態に係る移動ベクトル検出装置を示した構成図である。 ある時間tにおける蓄積画像と時間tに連続する時間t+1における蓄積画像とにおける階層画像を示した模式図である。 気象レーダにより撮影された国内上空の反射強度の時系列画像を示した図である。 従来の速度ベクトルの推定方法を用いた場合と本実施の形態の速度ベクトルの推定方法を用いた場合の流動体の移動ベクトルを示した比較図である。 従来の速度ベクトルの推定方法を用いた場合と本実施の形態の速度ベクトルの推定方法を用いた場合の移動ベクトルの推定精度の評価結果を示した図である。 本実施の形態を用いた場合の血管内部に流れる血流の流れの移動ベクトルを示した図である。
符号の説明
10…移動ベクトル検出装置
100…画像入力部
110…画像蓄積部
120…階層画像生成部
130…目的関数導出部
140…速度ベクトル推定部
150…表示ベクトル推定部
200,210…蓄積画像
201,202,211,212…階層画像
300,310…画像
S1〜S6…ステップ

Claims (7)

  1. 移動対象を含む画像を入力する画像入力手段と、
    入力された前記画像を時系列に蓄積する画像蓄積手段と、
    蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像蓄積手段に蓄積する階層画像生成手段と、
    輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、当該輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから速度ベクトルと発散度の誤差と渦度の誤差に関する目的関数を導出して目的関数格納手段に格納する目的関数導出手段と、
    格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の速度ベクトルを仮推定して速度ベクトル格納手段に格納する速度ベクトル仮推定手段と、
    格納された前記目的関数と前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の前記速度ベクトルを推定して速度ベクトル格納手段に格納する速度ベクトル推定手段と、
    を有することを特徴とする移動ベクトル検出装置。
  2. 前記速度ベクトル推定手段は、当該速度ベクトル推定手段により格納された前記速度ベクトルと前記速度ベクトル推定手段で用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル格納手段に格納することを特徴とする請求項1に記載の移動ベクトル検出装置。
  3. 前記速度ベクトル仮推定手段および前記速度ベクトル推定手段は、前記目的関数を演算する際に用いる非線形ロバスト関数として、ローレンツ関数を用いることを特徴とする請求項1又は2に記載の移動ベクトル検出装置。
  4. 移動対象を含む画像を画像入力手段により入力する第1ステップと、
    入力された前記画像を画像蓄積手段により時系列に蓄積する第2ステップと、
    蓄積された前記画像を読み出して、前記画像毎に異なる空間解像度を有する階層画像を生成して階層画像生成手段により階層画像蓄積手段に蓄積する第3ステップと、
    輝度変動量を自己回帰モデルまたは多項式回帰モデルとする方程式から輝度変動方程式を導き、当該輝度変動方程式と発散度に関する発散度方程式と渦度に関する渦度方程式とから速度ベクトルと発散度の誤差と渦度の誤差に関する目的関数を導出して目的関数導出手段により目的関数格納手段に格納する第4ステップと、
    格納された前記目的関数を読み出して、連続する2枚の前記画像に対する前記階層画像のうち空間解像度の低い2枚の前記階層画像の濃淡値を前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の速度ベクトルを仮推定して速度ベクトル仮推定手段により速度ベクトル格納手段に格納する第5ステップと、
    格納された前記目的関数と前記速度ベクトルとを読み出して、当該速度ベクトルと次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入し、当該目的関数の前記発散度の誤差および前記渦度の誤差が収束するまで繰り返し演算することで前記移動対象の前記速度ベクトルを推定して速度ベクトル推定手段により速度ベクトル格納手段に格納する第6ステップと、
    を有することを特徴とする移動ベクトル検出方法。
  5. 前記第6ステップは、前記速度ベクトル推定手段により格納された前記速度ベクトルと前記第6ステップで用いた前記2枚の階層画像の次に空間解像度の高い2枚の前記階層画像の濃淡値とを前記目的関数に代入して前記速度ベクトルを推定することを繰り返し、当該速度ベクトルを前記速度ベクトル推定手段により前記速度ベクトル格納手段に格納することを特徴とする請求項4に記載の移動ベクトル検出方法。
  6. 前記第5ステップおよび前記第6ステップは、前記目的関数を演算する際に用いる非線形ロバスト関数として、ローレンツ関数を用いることを特徴とする請求項4又は5に記載の移動ベクトル検出方法。
  7. 請求項4乃至6のいずれか1項に記載の移動ベクトル検出方法における各ステップをコンピュータによって実行させることを特徴とする移動ベクトル検出プログラム。

JP2006110090A 2006-04-12 2006-04-12 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム Active JP4538426B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006110090A JP4538426B2 (ja) 2006-04-12 2006-04-12 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006110090A JP4538426B2 (ja) 2006-04-12 2006-04-12 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム

Publications (2)

Publication Number Publication Date
JP2007286690A true JP2007286690A (ja) 2007-11-01
JP4538426B2 JP4538426B2 (ja) 2010-09-08

Family

ID=38758430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006110090A Active JP4538426B2 (ja) 2006-04-12 2006-04-12 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム

Country Status (1)

Country Link
JP (1) JP4538426B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008181187A (ja) * 2007-01-23 2008-08-07 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム
JP2010128711A (ja) * 2008-11-26 2010-06-10 Nippon Telegr & Teleph Corp <Ntt> 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0561975A (ja) * 1991-08-31 1993-03-12 Sony Corp 信号マツチング装置
JPH1123726A (ja) * 1997-07-02 1999-01-29 Nippon Telegr & Teleph Corp <Ntt> 対流場変化予測推定装置
JP2000339475A (ja) * 1999-05-03 2000-12-08 Thomson Multimedia Sa 2枚のフレーム間の優勢な動きの推定方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0561975A (ja) * 1991-08-31 1993-03-12 Sony Corp 信号マツチング装置
JPH1123726A (ja) * 1997-07-02 1999-01-29 Nippon Telegr & Teleph Corp <Ntt> 対流場変化予測推定装置
JP2000339475A (ja) * 1999-05-03 2000-12-08 Thomson Multimedia Sa 2枚のフレーム間の優勢な動きの推定方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008181187A (ja) * 2007-01-23 2008-08-07 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム
JP4486974B2 (ja) * 2007-01-23 2010-06-23 日本電信電話株式会社 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム
JP2010128711A (ja) * 2008-11-26 2010-06-10 Nippon Telegr & Teleph Corp <Ntt> 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム
JP4722178B2 (ja) * 2008-11-26 2011-07-13 日本電信電話株式会社 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム

Also Published As

Publication number Publication date
JP4538426B2 (ja) 2010-09-08

Similar Documents

Publication Publication Date Title
Choi et al. Pose2mesh: Graph convolutional network for 3d human pose and mesh recovery from a 2d human pose
Chen et al. Self-supervised learning with geometric constraints in monocular video: Connecting flow, depth, and camera
US10225473B2 (en) Threshold determination in a RANSAC algorithm
Newcombe et al. Kinectfusion: Real-time dense surface mapping and tracking
JP4668360B2 (ja) 移動体検出方法及び移動体検出装置
WO2012106068A2 (en) Mobile camera localization using depth maps
JPWO2010050110A1 (ja) 移動体検出方法及び移動体検出装置
RU2739711C1 (ru) Оценка электромеханических параметров с помощью цифровых изображений и методов фильтрации, основанных на использовании модели
US10229508B2 (en) Dynamic particle filter parameterization
Lv et al. A point tracking method of TDDM for vibration measurement and large-scale rotational motion tracking
CN117710416B (zh) 一种面向复杂光照变化场景的流体光流测速方法及系统
JP2010108496A (ja) データをあらわす属性を選択する方法、コンピューター読み取り可能な媒体、生成モデルを形成する方法および生成モデルを形成するシステム
Richter et al. Image based reconstruction of liquids from 2d surface detections
Hassan et al. BubbleML: a multi-physics dataset and benchmarks for machine learning
JP4538426B2 (ja) 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム
Shao et al. Out-of-plane full-field vibration displacement measurement with monocular computer vision
Cai et al. Vision-based automatic structural motion estimation in presence of 3D camera motion effects
Álvarez et al. A new energy-based method for 3D motion estimation of incompressible PIV flows
Xu et al. CUAHN-VIO: Content-and-Uncertainty-Aware Homography Network for Visual-Inertial Odometry
Manickathan et al. A lightweight neural network designed for fluid velocimetry
JP2007018269A (ja) 映像中の動き確率計算方法、映像中の動き確率マップ計算方法、変化検出方法、及びプログラム
JP2021117635A (ja) オブジェクト追跡装置及びオブジェクト追跡方法
Bodnariuc et al. Adaptive dictionary-based spatio-temporal flow estimation for Echo PIV
Xie et al. Gaussian Splatting LK
JP3390975B2 (ja) 画像流速推定方法、装置および画像流速推定プログラムを記録した記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100316

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100615

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130625

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4538426

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140625

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350