JP4317201B2 - 映像動きパターン解析装置、その方法及びプログラム - Google Patents

映像動きパターン解析装置、その方法及びプログラム Download PDF

Info

Publication number
JP4317201B2
JP4317201B2 JP2006114596A JP2006114596A JP4317201B2 JP 4317201 B2 JP4317201 B2 JP 4317201B2 JP 2006114596 A JP2006114596 A JP 2006114596A JP 2006114596 A JP2006114596 A JP 2006114596A JP 4317201 B2 JP4317201 B2 JP 4317201B2
Authority
JP
Japan
Prior art keywords
motion vector
metadata
time
estimated
series image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006114596A
Other languages
English (en)
Other versions
JP2007286963A (ja
Inventor
英朋 境野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2006114596A priority Critical patent/JP4317201B2/ja
Publication of JP2007286963A publication Critical patent/JP2007286963A/ja
Application granted granted Critical
Publication of JP4317201B2 publication Critical patent/JP4317201B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

本発明は、画像処理技術に関し、特に、流体変化を伴った自然現象を、映像を通じて可視化して解析する分野、映像センシングで遠隔の情報を知るサーベイランスの分野などの画像処理技術に関する。
実環境の状況変化を、映像を通じて把握するときに、雲の流れ、雪の舞などを通じて気流の変化を知ることができるようになれば、気象レーダーや各種センサでは捉えきれない気象現象をセンシングできる。
従来、流体変化を伴った自然現象を対象とした映像の動きのパターンを解析する方法としては、流体力学実験などでトレーサと呼ばれる粒子を流し込んで、気体中をトレーサが舞う様子を撮影し、撮影した映像の連続した時系列画像間でパターンマッチングを行い、トレーサの流速変化や渦の具合を解析して、速度の大きさや渦度、発散度などを計算する(例えば、非特許文献1を参照)。
可視化情報学会/編「PIVハンドブック」森北出版、2002年7月(まえがき、詳細目次)
しかしながら、映像シーンにおいて速度変化のばらつきが多いような場合、データのばらつきに起因したはずれ値の影響により、モデルパラメータを精度よく推定することができず、安定かつ精度ある解析が困難であった。このため、例えば、ライブカメラの映像を通じて、遠隔地における複数のサイトの状況を判断するためには、携帯やPCでリンク先の各サイトにアクセスしてそれぞれの映像を時間をかけてダウンロードする必要があるという問題があった。
本発明は、上記問題点に鑑み、自然現象を対象とした映像の動きパターンを安定且つ高精度に解析し、時々刻々と変化する映像シーンの状況を認識可能とすることを課題とする。
第1の本発明に係る映像動きパターン解析装置は、自然現象を対象とした時系列画像の入力を受け付け、受け付けた時系列画像を記憶手段に記憶しておく画像データ受付手段と、オプティカルフロー法により時系列画像の動きベクトルを推定し、推定した動きベクトルを記憶手段に格納する動きベクトル推定手段と、動きベクトル推定手段が推定した動きベクトルと、線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定によりシステムパラメータを推定し、推定したシステムパラメータを記憶手段に格納するパラメータ推定手段と、パラメータ推定手段が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合には当該条件式に対応したパターンに動きベクトルを分類し、分類した動きベクトルのパターンを記憶手段に格納する動きベクトル分類手段と、動きベクトル分類手段が分類した動きベクトルのパターンに基づいてその動きベクトルの特徴を示すメタデータを生成し、生成したメタデータを記憶手段に格納するメタデータ生成手段と、メタデータ生成手段が生成したメタデータを表示するメタデータ表示手段と、を備えることを特徴とする。
本発明にあっては、オプティカルフロー法により推定した自然現象を対象とした時系列画像の動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定により動きベクトルのシステムパラメータを推定するようにしたことで、動きベクトルのばらつきに起因したはずれ値の影響が抑制されシステムパラメータを精度良く推定することができ、システムパラメータにより分類した動きベクトルのパターンに基づいて、動きベクトルの特徴を示したメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になる。
上記映像動きパターン解析装置は、時系列画像は、流体変化を伴う自然現象を対象とした時系列画像であって、動きベクトル推定手段が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正し、補正した動きベクトルを記憶手段に格納する動きベクトル補正手段を更に備えることを特徴とする。
本発明にあっては、時系列画像の対象が流体を伴う自然現象であり、例えばボールなどとは違って重心がなく形状不定などの点で類似性が高いことから、流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用してオプティカルフロー法により推定した動きベクトルを補正することが可能になる。
上記映像動きパターン解析装置において、メタデータ生成手段が生成したメタデータをURLで記述して外部からリンク可能とし、そのリンクを通じて時系列画像を配信するメタデータ配信手段を更に備えることを特徴とする。
本発明にあっては、メタデータをURLで記述して外部からリンク可能とし、そのリンクを通じて時系列画像を配信するようにしたことで、外部から通信回線を介してアクセス可能な端末にはURLで記述されたメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になると共に、必要に応じてリンクを通じて時系列画像をダウンロードさせることができる。
第2の本発明に係る映像動きパターン解析方法は、画像データ受付手段により、自然現象を対象とした時系列画像の入力を受け付け、受け付けた時系列画像を記憶手段に記憶しておくステップと、動きベクトル推定手段により、オプティカルフロー法により時系列画像の動きベクトルを推定し、推定した動きベクトルを記憶手段に格納するステップと、パラメータ推定手段により、動きベクトル推定手段が推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定によりシステムパラメータを推定し、推定したシステムパラメータを記憶手段に格納するステップと、動きベクトル分類手段により、パラメータ推定手段が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合にはその条件式に対応したパターンに動きベクトルを分類し、分類した動きベクトルのパターンを記憶手段に格納するステップと、メタデータ生成手段により、パターン分類手段が分類した動きベクトルのパターンに基づいて当該動きベクトルの特徴を示すメタデータを生成し、生成したメタデータを記憶手段に格納するステップと、メタデータ表示手段により、前記メタデータ生成手段が生成したメタデータを表示するステップと、を有することを特徴とする。
上記映像動きパターン解析方法における時系列画像は、流体変化を伴う自然現象を対象とした時系列画像であって、動きベクトル補正手段により、前記動きベクトル推定手段が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正し、補正した動きベクトルを記憶手段に格納するステップを更に有することを特徴とする。
上記記載の映像動きパターン解析方法においては、メタデータ配信手段により、前記メタデータ生成手段が生成したメタデータをURLで記述して外部からリンク可能とし、当該リンクを通じて前記時系列画像を配信するステップを更に有することを特徴とする。
第3の本発明に係る映像動きパターン解析プログラムは、上記いずれかに記載の映像動きパターン解析方法における各ステップをコンピュータシステムに実行させることを特徴とする。
本発明によれば、自然現象を対象とした映像の動きパターンを安定且つ高精度に解析し、時々刻々と変化する映像シーンを認識可能になる。
以下、本発明の一実施の形態について、図面を用いて説明する。
図1は、一実施の形態に係る映像パターン解析装置を利用したシステムの概略構成図ある。同図に示すように、映像パターン解析装置100は、例えばビデオカメラ300などの映像入力装置により撮影された映像シーンを解析して、ネットワークを介して接続されたユーザー端末200に解析結果を配信する。
図2の構成図に示すように、映像パターン解析装置100は、画像データ受付部1と、動きベクトル推定部2と、動きベクトル補正部3と、パラメータ推定部4と、動きベクトル分類部5と、メタデータ生成部6と、メタデータ配信部8と、メタデータ配信部8と、時系列画像とその解析結果を格納しておくメモリ9とを備える。
画像データ受付部1は、自然現象を対象とした時系列画像の入力を受け付け、受け付けた時系列画像をメモリ9に記憶しておく。ここで時系列画像は、流体変化を伴う自然現象を対象とした時系列画像であって、例えば監視カメラ・お天気カメラによる一般画像(例:木々の画像、河川・波の画像、煙の画像、雲の流れ・雪の舞いの画像)、衛星レーダーによる画像、落雷強度・落雷数・落雷電流の3つの要素を含んだ雷レーダによる画像などが対象となる。
動きベクトル推定部2は、オプティカルフロー法により時系列画像の動きベクトルを推定し、推定した動きベクトルを解析結果としてメモリ9に格納する。
動きベクトル補正部3は、動きベクトル推定部2が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正する。ここでは時系列画像の対象が流体を伴う自然現象であり、例えばボールなどとは違って重心がなく形状不定などの点で類似性が高いことから、流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用してオプティカルフロー法により推定した動きベクトルを補正することが可能になる。動きベクトル補正部3は、このようにして補正した動きベクトルを解析結果としてメモリ9に格納する。
パラメータ推定部4は、動きベクトル補正部3が補正した動きベクトルと、線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定によりシステムパラメータを推定し、推定したシステムパラメータを解析結果としてメモリ9に格納する。
動きベクトル分類部5は、パラメータ推定部4が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合にはその条件式に対応したパターンに動きベクトルを分類し、分類した動きベクトルのパターンを解析結果としてメモリ9に格納する。
メタデータ生成部6は、動きベクトル分類部5が分類した動きベクトルのパターンに基づいてその動きベクトルの特徴を示すメタデータを生成し、生成したメタデータを解析結果としてメモリ9に格納する。
メタデータ表示部7は、メタデータ生成部6が生成したメタデータを表示する。ここでは例えば、液晶ディスプレイなどの表示装置であって、メモリ9に格納されたメタデータを読み出して、メタデータを表示する。
メタデータ配信部8は、メタデータ生成部6が生成したメタデータをURLで記述して外部からリンク可能とし、そのリンクを通じて時系列画像を配信する。ここではメモリ9に格納されたメタデータを読み出してURLで記述すると共に外部からリンク可能とし、そのリンクを通じて、ネットワークを介して時系列画像を配信する。
次に、映像パターン解析装置100の処理について図3〜5を用いて具体的に説明する。図3は、処理の流れを示すフローチャートである。
ステップ1:画像データ受付部1により、自然現象を対象とした時系列画像の入力を受
け付ける。時系列画像は、図4の上段に示すように、例えば、ビデオカメラ300により川の流れを撮影した映像データのうち、時間的に連続する2枚の画像データとする。ここでは時系列画像Aを、例えば面積の等しい正方形の領域で区画された9つのサブ画像A1〜A9に分割し、各サブ画像の画素数を10×10とする。このようにして受け付けた時系列画像Aを解析結果としてメモリ9に記憶しておく。
ステップ2:動きベクトル推定部2により、オプティカルフロー法により時系列画像の動きベクトルを推定する。推定された動きベクトルは、図4の中段の画像中における矢印のように示される。尚、「オプティカルフロー法により時系列画像の動きベクトルを推定する」方法の詳細については、「T.Corpetti, E.Memin, and P.Perez,"Dense estimation of fluid flows",IEEE Trans. PAMI, vol.24,no.3,pp.365-381,2002.」が参考技術として挙げられる。このようにして推定した動きベクトルを解析結果としてメモリ9に格納する。
ステップ3:動きベクトル補正部3により、動きベクトル推定部2が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正する。補正された動きベクトルは、図4の下段の画像中における矢印のように示される。尚、「動きベクトルに対して流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正するための数値的な解法」の詳細については「荒川忠一,“数値流体工学”,東京大学出版会、1995.」が参考技術として挙げられる。このようにして補正した動きベクトルを解析結果としてメモリ9に格納する。
ステップ4:パラメータ推定部4により、動きベクトル推定部2が推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定によりシステムパラメータを推定する。
以下、パラメータ推定部4による具体的な処理について更に詳細に説明する。ここでは説明のため、まず、P,Qで示される一般的な時変システムを次式(1)のように定義する。尚、x,yは位置座標である。
Figure 0004317201
また、理論上の特異点を求めるには次式(2)に示すように時間変化をゼロとして停留点を求める。
Figure 0004317201
ここで特異点の座標成分をx,yとし、一般的な時変システムP,Qを線形モデルに適用してシステムパラメータa,b,c,dで記述すると次式(3)のようになる。
Figure 0004317201
式(1)〜式(3)で示したように動きベクトルF,Gに対して線形モデルを適用してシステムパラメータで記述すると次式(4)のようになる。
Figure 0004317201
ここでシステムパラメータa,b,c,dが推定されるべき未知数である。
また、動きベクトルF,Gの進行方向の角度θ、大きさmは次式(5)、(6)のように表される。
Figure 0004317201
Figure 0004317201
ここで式(5)を変形して動きベクトルの進行方向の角度θのタンジェントをξとして次式(7)で表す。
Figure 0004317201
式(7)を次式(8)のように変形する。
Figure 0004317201
式(8)から動きベクトル推定部2が推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルF,Gとの誤差関数zとして次式(9)を定義する。
Figure 0004317201
更に、式(9)の誤差関数zに式(10)に示される非線形なローレンツ型ロバスト関数を適用し、式(11)で示される目的関数Eを設定する。式(11)においてnは、時系列画像Aを9分割したサブ画像A1〜A9のそれぞれの画素数10×10に対応する。
Figure 0004317201
Figure 0004317201
非線形関数である式(10)を適用した目的関数Eもまた非線形関数であるので、目的関数Eを最小化するために次式(12)のような拘束条件を課し、非線形最小二乗推定によりシステムパラメータa,b,c,dを推定する。ここではサブ画像毎にシステムパラメータを推定する。
Figure 0004317201
上記のような非線形最小二乗推定を行うに際して、ここでは最小化アルゴリズムとして最急降下法を使用する。次式のように4つのパラメータa,b,c,dを反復計算により推定する。例えば、4つのパラメータの初期値はゼロとする。
Figure 0004317201
このような非線形システム理論はシステム系の安定性などを評価する場合に、システム工学、制御の分野で用いられている。最近ではカオスなどの非線形モデルの解析に適用されている。パラメータ推定部4は、このようにして推定したシステムパラメータa,b,c,dを解析結果としてメモリ9に格納する。これにより、動きベクトルのばらつきに起因したはずれ値の影響が抑制されシステムパラメータを精度良く推定することができる。
ステップ5:動きベクトル分類部5により、パラメータ推定部4が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合にはその条件式に対応したパターンに動きベクトルを分類する。
以下、動きベクトル分類部5による具体的な処理について更に詳細に説明する。
まず、動きベクトルをVとして、式(4)は、行列A、位置ベクトルX、一列のパラメータを用いて次式(4)’のように表すことができる。
Figure 0004317201
ここでステップ4で推定した動きベクトルVのシステムパラメータa,b,c,dから動きベクトルVの渦度curl(V)、発散度div(V)、行列式def(V)を計算し、予め定められた以下の6つの条件式に代入する。
Figure 0004317201
システムパラメータa,b,c,dがパターン1〜パターン6のいずれかの条件式を満たす場合にはその条件式に対応したパターンに動きベクトルを分類する。図5は、分類する動きベクトルの6つのパターンを示した図である。6つの条件式で示したパターン1〜パターン6のそれぞれは、同図のP1〜P6にそれぞれ対応している。
図6は、映像パターン解析装置100のメモリ9に格納される解析結果の一例である。同図に示すように、ここでは時系列画像Aのサブ画像A1〜A9に対応して動きベクトルが分類パターン6(同図ではP6)に分類されて格納されている。
ステップ6:メタデータ生成部6により、動きベクトル分類部5が分類した動きベクトルのパターンに基づいて動きベクトルの特徴を示すメタデータを生成する。まず、メタデータを生成するための第1の条件として、予め川の流れを撮影した時系列画像Aにおいては、例えば9枚のサブ画像A1〜A9のうち渦状のパターン6に分類されたサブ画像が多い場合には川の流れが乱れており、川面に発生する波の形状から「低気圧」が近づいてきているというようにメタデータ(1)を割り当てるように設定しておく。
次に、メタデータを生成する第2の条件として、例えば、ステップ4において推定されたシステムパラメータから動きベクトルVの渦度curl(V)、発散度div(V)、行列式def(V)を計算する際に、これらの値の定量的な変化から「強い」、「弱い」などの程度を示すメタデータ(2)を割り当てるように設定しておく。
その結果、時系列画像Aに対応して生成されたメタデータは、図6の解析結果に示すように、メタデータ(1)は「低気圧」、メタデータ(2)は「強い」となる。メタデータ生成部6は、このように時系列画像Aに対応して生成したメタデータをメモリ9に格納する。
ステップ7:メタデータ表示部7により、メモリ9に格納されたメタデータを読み出して、ネットワークを介して接続されたユーザー端末200の表示装置に表示する。
図7は、動きベクトルを解析した時系列画像の状況を表示した一例である。同図に示すように、ユーザー端末200の画面上には『「強い」「低気圧」が接近中』というように画像Aの状況が表示され、状況に応じて解析結果が反映され表示された文字が変化する。このようにシステムパラメータにより分類した動きベクトルのパターンに基づいて、動きベクトルの特徴を示したメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になる。
更に、メタデータ配信部8により、メモリ9に格納されたメタデータを読み出してURLで記述すると共に外部からリンク可能とし、そのリンクを通じて時系列画像を配信し、ネットワークを介してユーザー端末200に表示する。
例えば、ユーザーは、図7に示したようにユーザー端末200の画面上に表示された画像Aに関する文字情報『「強い」「低気圧」が接近中』を画面上でクリックすると、図8に示すように時系列画像Aをダウンロードすることができ、ユーザー端末200上で直接時系列画像を閲覧できる。ここでは実際の画像Aと共に画像Aのオプティカルフローも画像情報としてダウンロードされ、画面上に表示されている。
このように外部からネットワークを介してアクセス可能な端末にはURLで記述されたメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になると共に、必要に応じてリンクを通じて時系列画像をダウンロードさせることができる。
したがって、本実施の形態によれば、オプティカルフロー法により推定した自然現象を対象とした時系列画像の動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定により動きベクトルのシステムパラメータを推定するようにしたことで、動きベクトルのばらつきに起因したはずれ値の影響が抑制されシステムパラメータを精度良く推定することができ、システムパラメータにより分類した動きベクトルのパターンに基づいて、動きベクトルの特徴を示したメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になる。これにより、自然現象を対象とした映像の動きパターンを安定且つ高精度に解析し、時々刻々と変化する映像シーンを認識可能になる。
また、本実施の形態においては、時系列画像の対象が流体を伴う自然現象であり、例えばボールなどとは違って重心がなく形状不定などの点で類似性が高いことから、流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用してオプティカルフロー法により推定した動きベクトルを補正することが可能になる。
また、本実施の形態においては、メタデータをURLで記述して外部からリンク可能とし、そのリンクを通じて時系列画像を配信するようにしたことで、外部から通信回線を介してアクセス可能な端末にはURLで記述されたメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になると共に、必要に応じてリンクを通じて時系列画像をダウンロードさせることができる。
[比較例]
ここで本実施の形態の理解を容易にするために比較例を挙げて説明する。ここでは推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数の二乗和が最小となるような最小二乗推定によりシステムパラメータを推定する。すなわち式(8)から次式(14)を記述し、拘束条件として次式(15)、重みとして次式(16)を与え、与えられるデータ数n個から線形最小二乗法により、4つの未知数であるシステムパラメータを推定する。
Figure 0004317201
具体的な解法として、例えば、ラグランジュの未定乗数法を使用して、次式(17)のように未知数を含む2つのベクトルとラグランジュ乗数λに関して目的関数Γを最小化するための必要条件を課して式を整理すると連立方程式を得ることができ、4つのシステムパラメータを計算することができる。
Figure 0004317201
尚、ここで説明した「推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数の二乗和が最小となるような最小二乗推定によりシステムパラメータを推定する」技術の詳細については「Chiao-Fe Shu and Ramesh C. Jain,"Vector Field Analysis for Oriented Patterns",IEEE Trans. PAMI, vol.16,no.9,pp.946-950,1994.」が参考技術として挙げられる。
しかしながら、上記のような「線形最小二乗推定法では、データのばらつきに起因したはずれ値の影響により、モデルパラメータを精度よく推定することができない。」といった問題点が一般的には指摘される。このような問題に関する記載については参考文献として「中川徹,小柳義夫,“最小二乗法による実験データ解析”,東京大学出版会,1995.」が挙げられる。
そこで、本実施の形態によれば、オプティカルフロー法により推定した自然現象を対象とした時系列画像の動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、その目的関数を最小とする最小二乗推定により動きベクトルのシステムパラメータを推定するようにしたことで、動きベクトルのばらつきに起因したはずれ値の影響が抑制されシステムパラメータを精度良く推定することができる。これにより、システムパラメータにより分類した動きベクトルのパターンに基づいて、動きベクトルの特徴を示したメタデータを表示し、時系列画像に応じて時々刻々と変化させることが可能になる。
また、本実施の形態においては、映像パターン解析装置100による解析結果を、ネットワークを介して接続されたユーザー端末200上に表示、または画像情報を直接配信するような場合について説明したが、映像パターン解析装置100において直接解析結果を閲覧してもよい。
尚、本実施の形態における映像パターン解析装置100は、動きベクトル推定部2,動きベクトル補正部3,パラメータ推定部4,動きベクトル分類部5,メタデータ生成部6などの各部をコンピュータシステムにおいてメモリ9にロードされたプログラムを実行することでも実現可能とする。
一実施の形態に係る映像パターン解析装置を利用したシステムの概略構成図ある。 上記映像パターン解析装置の概略的な構成図である。 上記映像パターン解析装置による処理の流れを示すフローチャートである。 上記フローチャートのステップ1〜ステップ3で入力された時系列画像に対して算出される動きベクトルを概略的に示した図である。 上記フローチャートのステップ5において分類する動きベクトルの6つのパターンを示した図である。 上記映像パターン解析装置に格納された解析結果の一例である。 上記映像パターン解析装置により解析された時系列画像の状況をユーザー端末の画面上に表示した例である。 上記映像パターン解析装置により解析された時系列画像を配信しユーザー端末の画面上に表示した例である。
符号の説明
1…画像データ受付部
2…動きベクトル推定部
3…動きベクトル補正部
4…パラメータ推定部
5…動きベクトル分類部
6…メタデータ生成部
7…メタデータ表示部
8…メタデータ配信部
9…メモリ
100…映像パターン解析装置
200…ユーザー端末
300…ビデオカメラ

Claims (7)

  1. 自然現象を対象とした時系列画像の入力を受け付け、受け付けた時系列画像を記憶手段に記憶しておく画像データ受付手段と、
    オプティカルフロー法により前記時系列画像の動きベクトルを推定し、推定した動きベクトルを記憶手段に格納する動きベクトル推定手段と、
    前記動きベクトル推定手段が推定した動きベクトルと、線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、当該目的関数を最小とする最小二乗推定により前記システムパラメータを推定し、推定したシステムパラメータを記憶手段に格納するパラメータ推定手段と、
    前記パラメータ推定手段が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合には当該条件式に対応したパターンに動きベクトルを分類し、分類した動きベクトルのパターンを記憶手段に格納する動きベクトル分類手段と、
    前記動きベクトル分類手段が分類した動きベクトルのパターンに基づいて当該動きベクトルの特徴を示すメタデータを生成し、生成したメタデータを記憶手段に格納するメタデータ生成手段と、
    前記メタデータ生成手段が生成したメタデータを表示するメタデータ表示手段と、
    を備えることを特徴とする映像動きパターン解析装置。
  2. 前記時系列画像は、流体変化を伴う自然現象を対象とした時系列画像であって、
    前記動きベクトル推定手段が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正し、補正した動きベクトルを記憶手段に格納する動きベクトル補正手段を更に備えることを特徴とする請求項1に記載の映像動きパターン解析装置。
  3. 前記メタデータ生成手段が生成したメタデータをURLで記述して外部からリンク可能とし、当該リンクを通じて前記時系列画像を配信するメタデータ配信手段を更に備えることを特徴とする請求項1又は2に記載の映像動きパターン解析装置。
  4. 画像データ受付手段により、自然現象を対象とした時系列画像の入力を受け付け、受け付けた時系列画像を記憶手段に記憶しておくステップと、
    動きベクトル推定手段により、オプティカルフロー法により前記時系列画像の動きベクトルを推定し、推定した動きベクトルを記憶手段に格納するステップと、
    パラメータ推定手段により、前記動きベクトル推定手段が推定した動きベクトルと線形モデルを適用してシステムパラメータで記述された動きベクトルとの誤差関数に非線形なロバスト関数を適用した目的関数を設定し、当該目的関数を最小とする最小二乗推定により前記システムパラメータを推定し、推定したシステムパラメータを記憶手段に格納するステップと、
    動きベクトル分類手段により、前記パラメータ推定手段が推定した動きベクトルのシステムパラメータを予め定められた条件式に代入し、システムパラメータが条件式を満たす場合には当該条件式に対応したパターンに動きベクトルを分類し、分類した動きベクトルのパターンを記憶手段に格納するステップと、
    メタデータ生成手段により、前記パターン分類手段が分類した動きベクトルのパターンに基づいて当該動きベクトルの特徴を示すメタデータを生成し、生成したメタデータを記憶手段に格納するステップと、
    メタデータ表示手段により、前記メタデータ生成手段が生成したメタデータを表示するステップと、
    を有することを特徴とする映像動きパターン解析方法。
  5. 前記時系列画像は、流体変化を伴う自然現象を対象とした時系列画像であって、
    動きベクトル補正手段により、前記動きベクトル推定手段が推定した動きベクトルに流体力学の理論に基づいたナビエ・ストークス方程式と連続方程式を適用して動きベクトルを補正し、補正した動きベクトルを記憶手段に格納するステップを更に有することを特徴とする請求項4に記載の映像動きパターン解析方法。
  6. メタデータ配信手段により、前記メタデータ生成手段が生成したメタデータをURLで記述して外部からリンク可能とし、当該リンクを通じて前記時系列画像を配信するステップを更に有することを特徴とする請求項4又は5に記載の映像動きパターン解析方法。
  7. 請求項4乃至6のいずれかに記載の映像動きパターン解析方法における各ステップをコンピュータシステムに実行させることを特徴とする映像動きパターン解析プログラム。


JP2006114596A 2006-04-18 2006-04-18 映像動きパターン解析装置、その方法及びプログラム Active JP4317201B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006114596A JP4317201B2 (ja) 2006-04-18 2006-04-18 映像動きパターン解析装置、その方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006114596A JP4317201B2 (ja) 2006-04-18 2006-04-18 映像動きパターン解析装置、その方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2007286963A JP2007286963A (ja) 2007-11-01
JP4317201B2 true JP4317201B2 (ja) 2009-08-19

Family

ID=38758669

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006114596A Active JP4317201B2 (ja) 2006-04-18 2006-04-18 映像動きパターン解析装置、その方法及びプログラム

Country Status (1)

Country Link
JP (1) JP4317201B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4653154B2 (ja) * 2007-12-13 2011-03-16 日本電信電話株式会社 状況変化配信表示装置およびその方法
JP2009203873A (ja) * 2008-02-27 2009-09-10 Tokyo Electric Power Co Inc:The 飛来物検知システム、風力発電装置およびコンピュータプログラム
JP4729632B2 (ja) * 2009-05-12 2011-07-20 日本電信電話株式会社 消失点推定装置、消失点推定方法及び消失点推定プログラム
JP5961589B2 (ja) * 2013-07-10 2016-08-02 日本電信電話株式会社 映像生成装置、方法及びプログラム
US10242581B2 (en) * 2016-10-11 2019-03-26 Insitu, Inc. Method and apparatus for target relative guidance
CN108537209B (zh) * 2018-04-25 2021-08-27 广东工业大学 一种基于视觉注意理论的自适应下采样方法及装置

Also Published As

Publication number Publication date
JP2007286963A (ja) 2007-11-01

Similar Documents

Publication Publication Date Title
US20230326213A1 (en) Surveillance information generation apparatus, imaging direction estimation apparatus, surveillance information generation method, imaging direction estimation method, and program
CN103703758B (zh) 移动增强现实系统
US11222471B2 (en) Implementing three-dimensional augmented reality in smart glasses based on two-dimensional data
JP4317201B2 (ja) 映像動きパターン解析装置、その方法及びプログラム
CN111174799A (zh) 地图构建方法及装置、计算机可读介质、终端设备
US20130278633A1 (en) Method and system for generating augmented reality scene
JP6688088B2 (ja) 情報処理装置およびその制御方法
CN109740571A (zh) 图像采集的方法、图像处理的方法、装置和电子设备
CN102708355A (zh) 信息处理装置、信息处理方法及程序
Ye et al. Faster voxelpose: Real-time 3d human pose estimation by orthographic projection
US20150002663A1 (en) Systems and Methods for Generating Accurate Sensor Corrections Based on Video Input
CN111612852A (zh) 用于验证相机参数的方法和装置
CN109211277A (zh) 视觉惯性里程计的状态确定方法、装置和电子设备
US8154548B2 (en) Information processing apparatus and information processing method
JP2016039390A (ja) 画像生成方法および装置
CN114298982B (zh) 图像标注方法、装置、计算机设备和存储介质
US20160034607A1 (en) Video-assisted landing guidance system and method
Basori et al. Fast markerless tracking for augmented reality in planar environment
CN113610702B (zh) 一种建图方法、装置、电子设备及存储介质
Sun et al. Three-dimensional structural displacement measurement using monocular vision and deep learning based pose estimation
US20220215576A1 (en) Information processing device, information processing method, and computer program product
CN116524088B (zh) 珠宝虚拟试戴方法、装置、计算机设备和存储介质
CN111127661B (zh) 一种数据处理方法、装置及电子设备
KR101909994B1 (ko) 나노블럭을 이용한 3d 증강현실 서비스 제공 방법
KR101910931B1 (ko) 고유코드를 이용한 푸드 3d 증강현실 서비스 제공 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090424

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090521

R150 Certificate of patent or registration of utility model

Ref document number: 4317201

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120529

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130529

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140529

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350