JP7120582B2 - オプティカルフロー映像処理を利用する河川流速測定装置および方法 - Google Patents

オプティカルフロー映像処理を利用する河川流速測定装置および方法 Download PDF

Info

Publication number
JP7120582B2
JP7120582B2 JP2020565899A JP2020565899A JP7120582B2 JP 7120582 B2 JP7120582 B2 JP 7120582B2 JP 2020565899 A JP2020565899 A JP 2020565899A JP 2020565899 A JP2020565899 A JP 2020565899A JP 7120582 B2 JP7120582 B2 JP 7120582B2
Authority
JP
Japan
Prior art keywords
velocity
image
pixel
analysis
river
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020565899A
Other languages
English (en)
Other versions
JP2021531450A (ja
Inventor
ジュン キム,ソ
マン ユン,ビョン
ジュン ユ,ホ
ス キム,ドン
ソン ジョン,テ
スン ジュ,ジェ
ソク チェ,ヒョン
Original Assignee
ハイドロセム
リパブリック オブ コリア(ナショナル ディザスター マネジメント リサーチ インスティチュート)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ハイドロセム, リパブリック オブ コリア(ナショナル ディザスター マネジメント リサーチ インスティチュート) filed Critical ハイドロセム
Publication of JP2021531450A publication Critical patent/JP2021531450A/ja
Application granted granted Critical
Publication of JP7120582B2 publication Critical patent/JP7120582B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P5/00Measuring speed of fluids, e.g. of air stream; Measuring speed of bodies relative to fluids, e.g. of ship, of aircraft
    • G01P5/26Measuring speed of fluids, e.g. of air stream; Measuring speed of bodies relative to fluids, e.g. of ship, of aircraft by measuring the direct influence of the streaming fluid on the properties of a detecting optical wave
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/269Analysis of motion using gradient-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/66Analysis of geometric attributes of image moments or centre of gravity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30192Weather; Meteorology

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Analysis (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Algebra (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Geometry (AREA)
  • Indicating Or Recording The Presence, Absence, Or Direction Of Movement (AREA)
  • Measuring Volume Flow (AREA)
  • Image Analysis (AREA)

Description

本発明は河川流速測定に関し、具体的には現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法に関する。
一般的に河川に流れる流水の流速を測定するために、平水時にはプロペラ流速計、カップ型流速計、または電磁流速計などの検知器を利用する方法が、洪水時には浮子観測法が多く利用されている。
平水時の流速測定に利用される流速計は専ら一点での流速のみを測定できるだけであって、渦流の形成や流向 の分析などが困難な問題を有している。
したがって、万一、河川の全幅にかけての流速を測定しようとする場合、多くの時間、努力、および費用がかかることになる。
一方、河川に洪水が発生する場合、流速が速く水深が深いため、接近するのに多くの危険が伴われる。このため、プロペラ流速計や電磁流速計などの検知器を水中に入れなければならない従来の流速計は洪水の時には使い難い短所がある。
反面、洪水時に多く利用される浮子観測法は人員の問題、機敏性の欠如(尖頭流量の欠測可能性が高い点)、連続観測が不可能な点、浮子が流れの流速を正確について行くかという追随性の問題、浮子の長さ選択の問題などによって、高正確度の観測を期待できないのが現実である。
特に、小河川は国家および地方河川と異なって、流域面積が小さく、傾斜が急であるため尖頭到達時間が非常に短く、流れなどが複雑であるため浮子を利用した計測方法は信頼度が落ちる。併せて、小河川では浮子を利用するほどの一定の長さの直線区間と計測のための安全場所を探すことが困難であるため、小河川で活用可能な非接触式計測技術が要求される。
現在韓国には22,823個の小河川が全国各地に分布しているにも関わらず、これを管理できる公務員の数は絶対的に足りないのが実情である。
このような理由から、現在まで政府が直接管理する国家河川でのみ計測が行われたが、生活の質の向上による地域共同体の小河川の洪水の被害低減の要求が増加しており、少ない人員によっても計測が可能な自動化計測技術が要求される。
したがって、このような計測を自動化したり容易にする方法が多様に摸索されてきた。その中で表面映像流速測定法は従来方法の多様な問題点を解消できる可能性が高い方法である。
表面映像流速測定法とは、河川の表面を撮影した航空写真やビデオ映像などで河川の表面映像を抽出して流速を算定することである。
表面映像流速測定法は大きく映像パーティクル一致法(template pattern matching)を利用する方法と時空間映像(STI、spatio-temporal image)を利用する方法に分けることができる。
映像パーティクル一致法は粒子映像流速計測法(PIV、Particle Image Velocimetry)に基づいて、一対の映像を利用して河川の表面の2次元流速分布を計測する方法である。
このような映像パーティクル一致法はフレームを一定の大きさのブロックに分け、現在のブロックと最も類似する明暗値を有するブロックを次のフレームで探して移動距離を計算する方法であり、移動距離ベクター推定の正確度を高めるためにはブロック周辺のすべての変位に対して平均絶対値の差を計算しなければならないが、この時、ウインドウの大きさが大きくなるほど多くの演算時間が要求されてリアルタイム流速の測定が難しい。
一方、時空間映像分析法は多数枚の連続した映像(時空間映像)を一度に分析してその時間の間の平均流速を分析することである。
時空間映像を利用する例としては、時空間映像流速計測法(STIV、Space-Time Image Velocimetry)が挙げられる。
ただし、STIVは実用性を高めるために計測対象を主流方向成分のみに限定して流速の横断分布を計測する問題点を有している。
また、時空間映像分析法は映像内の連続する多くのピクセルの明暗値が時間により変化するのを計算して流速を算定する方法であって、一定時間の間のピクセルの明暗値を求めなければならないため、時間平均した流速を計算するには優秀であるが河川の水面の波紋が多い場合、雑音が多く発生して正確度が落ち得る。
特に、明暗値を時間平均しなければならないため計算量が多く、リアルタイム流速の測定に適用するには限界がある。
このような従来技術の流速測定方法は映像獲得および映像の分析過程が複雑であり、参照点の測量が必要であるためリアルタイム自動流速測定が難しい。
特に、従来技術での映像獲得および映像の分析過程での映像変換には2次元投影座標変換法および3次元投影座標変換法が使われている。
2次元投影座標変換法は水面と同じ高さの参照点が最小4個必要であり、水位の変化により参照点の高さを再設定することが必要であるが、参照点の再設定が難しいため誤差が多く発生する問題がある。
また、3次元投影座標変換法は高さが異なる参照点6個と水面と同じ高さの参照点1個か必要であり、水位の変化により新しいマッピング係数の適用が必要である。
このような3次元投影座標変換法は、高さが異なる6個の参照点より水位が上昇する場合には適用が不可能であり、参照点が多いため測量誤差による正確度の低下問題がある。
したがって、新しい映像処理方法を活用して河川の流速を測定できる技術の開発が要求されている。
本発明はこのような従来技術の河川流速測定技術の問題を解決するためのもので、現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法を提供することにその目的がある。
本発明は映像変換時に実際の座標と映像座標間の関係式をマトリックス形態で保存し、ピクセル流速で算定された流速をマトリックスを活用して実際流速に変換して流速算定の正確性を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法を提供することにその目的がある。
本発明はあらかじめ指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列(マトリックス)宣言をして映像を配列に保存し、映像間分析を格子点の個数だけ繰り返して表面流速場算定の正確度を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法を提供することにその目的がある。
本発明はピクセル流速算定をし、格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをして地点流速算定の正確度を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法を提供することにその目的がある。
本発明は河川の水位の変化を考慮した映像歪み補正のための方法を適用して、水位が変わってもカメラが見る参照点の映像座標が変わらないようにして、測量した実際の座標と変換結果の誤差が発生しないようにして正確な映像歪み補正が可能であるようにした、オプティカルフロー映像処理を利用する河川流速測定装置および方法を提供することにその目的がある。
本発明の目的は以上で言及した目的に制限されず、言及されていないさらに他の目的は下記の記載から当業者に明確に理解され得るであろう。
このような目的を達成するための本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置は、河川流速測定現場の連続映像を獲得する映像撮影部;映像撮影部の映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析部;分析地点の分析領域を抽出する分析領域抽出部;分析領域抽出部で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定部;ピクセル流速算定部で算定されたピクセル流速を実際流速に換算する実際流速算定部;を含むことを特徴とする。
ここで、映像変換分析部は、ホモグラフィ(Homography)算定のために、入力点の平均X座標とY座標を算定して該当座標を原点に移動させ、入力点と平均X座標とY座標間の距離を変換して映像データを正規化(Normalize)することを特徴とする。
そして、ピクセル流速算定部はオプティカルフローを適用した表面流速場算定のために、指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列宣言をして映像を配列に保存し、映像間分析を格子点の個数だけ繰り返して表面流速場算定をすることを特徴とする。
そして、ピクセル流速算定部は地点流速算定のために、映像と格子点変数宣言をし、格子点の位置から映像抽出をしてピクセル流速算定をし、格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをして地点流速算定をすることを特徴とする。
そして、映像撮影部で撮影される映像歪み補正のために、水位が変わってもカメラが見る参照点の映像座標が変わらないように4個の参照点を堤防高さに設置し、カメラの実際の座標(Xc、Yc、H)、カメラと水面までの高さ(H)および堤防上の参照点(A)の実際の座標(X、Y、Z)を利用して水の表面と同じ高さの点A’の実際の座標(X’、Y’、Z’)を求めることを特徴とする。
他の目的を達成するための本発明に係るオプティカルフロー映像処理を利用する河川流速測定方法は、河川流速測定現場の連続映像を獲得する映像撮影段階;映像撮影段階で獲得された映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析段階;分析地点の分析領域を抽出する分析領域抽出段階;分析領域抽出段階で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定段階;ピクセル流速算定段階で算定されたピクセル流速を実際流速に換算する実際流速算定段階;を含むことを特徴とする。
このような本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置および方法は次のような効果を有する。
第1に、現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めることができる。
第2に、映像変換時に実際の座標と映像座標間の関係式をマトリックス形態で保存し、ピクセル流速で算定された流速をマトリックスを活用して実際流速に変換して流速算定の正確性を高める。
第3に、あらかじめ指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列(マトリックス)宣言をして映像を配列に保存し、映像間分析を格子点の個数だけ繰り返して表面流速場算定の正確度を高めることができる。
第4に、ピクセル流速算定をし、格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをして地点流速算定の正確度を高める。
第5に、河川の水位の変化を考慮した映像歪み補正のための方法を適用して、水位が変わってもカメラが見る参照点の映像座標が変わらないようにして、測量した実際の座標と変換結果の誤差が発生しないようにして正確な映像歪み補正を可能にする。
本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置の構成図。 映像変換座標の一例を示した構成図。 本発明に係るオプティカルフローを活用した表面流速場算定方法を示したフローチャート。 本発明に係る地点流速算定のための方法を示したフローチャート。 本発明に係るピクセル流速算定のための方法を示したフローチャート。 本発明に係るピクセル流速算定時の微分関数。 本発明に係るピクセル流速算定時の微分関数。 河川の水位の変化を考慮した映像歪み補正のための方法を示した構成図。 河川の水位の変化を考慮した映像歪み補正のための方法を示した構成図。 河川の水位の変化を考慮した映像歪み補正のための方法を示した構成図。
以下、本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置および方法の好ましい実施例に関して詳細に説明すると次の通りである。
本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置および方法の特徴および利点は、以下での各実施例に対する詳細な説明を通じて明白になるであろう。
図1は本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置の構成図であり、図2は映像変換座標の一例を示した構成図である。
本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置および方法は、現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めることができるようにしたものである。
本発明によるオプティカルフロー映像処理は一フレームの特定の位置の明暗値分布と次のフレームでの明暗値分布が最もよくマッチングされる個所を探して移動距離を計算するものである。
このように映像内の各ピクセルの明暗値を利用して移動距離を計算するため時間が非常に短いという長所があり、河川での急激な流量変化時にもリアルタイム流速を非常に短い時間に計算できるためLSPIVとSTIV方法で遂行できない河川のリアルタイム流速の測定に効果的に適用され得る。
このために本発明は映像変換時に実際の座標と映像座標間の関係式をマトリックス形態で保存し、ピクセル流速で算定された流速をマトリックスを活用して実際流速に変換する構成を含むことができる。
本発明はあらかじめ指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列(マトリックス)宣言をして映像を配列に保存し、映像間分析を格子点の個数だけ繰り返して表面流速場算定の正確度を高める構成を含むことができる。
本発明はピクセル流速算定をし、格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをする構成を含むことができる。
本発明は表面流速を計測するために2次元投影座標変換プログラムと相互相関法を使うものであって、歪んだ映像を正射映像に変換する映像変換構成および、相互相関法(相関領域の大きさ内の明暗値分布の類似性を探索して追跡者群の変位を計算)プログラムで表面流速を計測する映像分析、計測された流速資料のうち相関係数が低い結果を除去するフィルタリング、計測された流速資料を時間平均して計測結果として保存する構成を含むことができる。
本発明は河川の水位の変化を考慮した映像歪み補正のための方法を適用して、水位が変わってもカメラが見る参照点の映像座標が変わらないようにして、測量した実際の座標と変換結果の誤差が発生しないようにして正確な映像歪み補正を可能にする構成を含むことができる。
本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置は、図1のように、河川流速測定現場の連続映像を獲得する映像撮影部10と、映像撮影部10の映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析部20と、分析地点の分析領域を抽出する分析領域抽出部30と、分析領域抽出部30で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定部40と、ピクセル流速算定部40で算定されたピクセル流速を実際流速に換算する実際流速算定部50を含む。
ここで、映像変換分析部20は回転、スケール、平行性保存は原点[0、0]を基準として発生するため、ホモグラフィ(Homography)算定のために映像データを正規化(Normalize)するものである。
映像データの正規化は図2でのように、入力点の平均X座標とY座標を算定して該当座標を原点に移動させ、入力点と平均X座標とY座標間の距離を変換することである。
ホモグラフィ(Homography)算定を具体的に説明すると次の通りである。
数学式1はホモジーニアス(Homogeneous)形態を示したものである。
Figure 0007120582000001
ここで、x、yは映像変換前の座標であり、x’、y’は映像変換後の座標、h11、h12、h13、h21、h22、h23、h31、h32は映像変換に必要な媒介変数である。
数学式2および数学式3はホモグラフィ(Homography)算定のための形態を示したものである。
Figure 0007120582000002
Figure 0007120582000003
そして、ピクセル流速算定部40はオプティカルフローを適用した表面流速場算定のために、あらかじめ指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列(マトリックス)宣言をして映像を配列に保存し、映像間分析を格子点の個数だけ繰り返して表面流速場算定の正確度を高める。
そして、ピクセル流速算定部40は地点流速算定のために、映像と格子点変数宣言をし、格子点の位置から映像抽出をしてピクセル流速算定をし、格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをして地点流速算定の正確度を高める。
本発明は分析地点を中心にした分析領域の映像を通じてピクセル流速を算定するために次のようなピクセル流速算出構成を含む。
客体の明るさ値は短い時間が過ぎても変わらないという仮定と各映像の動きは非常に小さいためピクセル流速算定のための式を数学式4でのように定義することができる。
Figure 0007120582000004
ここで、Iは映像内ピクセルの明暗値、xはX方向座標、yはY方向座標、tは時間、δtは時間の変化量である。
数学式4の右項をテイラー展開をすると、
Figure 0007120582000005

で整理される。
数学式4と数学式5を同時に満足するためには数学式5の右項の微分式の合計が0にならなければならない。
Figure 0007120582000006
したがって、ピクセル流速算定のための式は次のように定義される。
Figure 0007120582000007
ここで、Iは映像のX方向微分行列、Iは映像のY方向微分行列、VはX方向ピクセル速度、VはY方向ピクセル速度、Iは映像の時間微分行列である。
数学式7を通じてピクセル速度を求めるためには数学式8のような行列式の形態に変換して解く。
Figure 0007120582000008
ここで、
Figure 0007120582000009
はn番目のピクセル、nは映像のピクセル個数である。
そして、実際流速算定部50でピクセル流速を実際流速に換算する過程は数学式9のように定義される。
Figure 0007120582000010
ここで、Vγは実際流速であり、Vはピクセル流速、LPPはピクセル当たりの距離、Kはスケールファクターである。
そして、ピクセル当たりの距離は数学式10のように定義される。
Figure 0007120582000011
ここで、LPPはピクセル当たりの距離、Nは映像変換の参照点の個数、Lγは映像変換の隣り合う両参照点がなす物理距離、Lは映像変換の隣り合う両参照点がなすピクセル距離である。
そして、スケールファクターは数学式11のように定義される。
Figure 0007120582000012
ここで、Kはスケールファクター、Dはセンサと映像変換の参照点間の初期平均標高差、Dはセンサと映像変換の参照点間の平均標高差である。
このような構成を有する本発明に係るオプティカルフロー映像処理を利用する流速測定装置を利用した実際流速算定方法を具体的に説明すると次の通りである。
図3は本発明に係るオプティカルフローを活用した表面流速場算定方法を示したフローチャートであり、図4は本発明に係る地点流速算定のための方法を示したフローチャートである。
本発明に係るオプティカルフロー映像処理を利用する流速測定方法は、大きく河川流速測定現場の連続映像を獲得する映像撮影段階と、映像撮影段階で獲得された映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析段階と、分析地点の分析領域を抽出する分析領域抽出段階と、分析領域抽出段階で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定段階と、ピクセル流速算定段階で算定されたピクセル流速を実際流速に換算する実際流速算定段階を含む。
ここで、ピクセル流速算定段階はオプティカルフローを適用した表面流速場算定のために、図3でのように、まずM個の個数を有する分析する点で構成された格子変数を定義する。(S301)
引き続き、あらかじめ指定された格子設定を呼び出して(S302)分析する映像の個数(N)と分析結果を保存する配列(マトリックス)を宣言する。(S303)
そして、カメラを通じて映像を配列に保存する。(S304)
映像間分析を格子点の個数だけ繰り返して分析結果を配列に保存する。(S305)
そして、ピクセル流速算定段階は地点流速算定のために、図4でのように、映像と格子点変数宣言をし(S401)、格子点の位置から映像抽出をする。(S402)
引き続き、オプティカルフローピクセル流速算定アルゴリズムを適用し(S403)、格子点位置とピクセル流速、フィルタ係数変数宣言をして(S404)格子点位置とピクセル流速を実際流速に変換する。(S405)
算定された流速誤差がフィルタ係数より大きいとフィルタリングをし、そうでなければ流速算定結果を出力して地点流速算定の正確度を高める。(S406)
そして、図5は本発明に係るピクセル流速算定のための方法を示したフローチャートであり、図6と図7は本発明に係るピクセル流速算定時の微分関数を示したものである。
ピクセル流速算定段階は図5でのように、映像変数宣言をし(S501)、X方向、Y方向、時間微分変数宣言をする。(S502)
そして、X方向映像微分(S503)、Y方向映像微分(S504)、時間方向映像微分をして(S505)ピクセル流速を算定する。(S506)
このような構成を有する本発明に係るオプティカルフロー映像処理を利用する流速測定装置および方法は、河川の水位の変化を考慮した映像歪み補正のための方法を適用して、水位が変わってもカメラが見る参照点の映像座標が変わらないようにして、測量した実際の座標と変換結果の誤差が発生しないようにして正確な映像歪み補正を可能にする。
図8~図10は、河川の水位の変化を考慮した映像歪み補正のための方法を示した構成図である。
4個の参照点を利用して簡便かつ正確に映像歪みを補正することがで水位の変化を考慮するために4個の参照点を図8でのように堤防高さに設置して堤防高さの参照点がすべて撮影されるように映像撮影をする。
このような構成によって図9でのように水位が変わってもカメラが見る参照点の映像座標が変わらない。
図10でのようにカメラの実際の座標(Xc、Yc、H)、カメラと水面までの高さ(H)および堤防上の参照点(A)の実際の座標(X、Y、Z)を利用して水の表面と同じ高さの点A’の実際の座標(X’、Y’、Z’)を求めることができる。
Figure 0007120582000013
ここで、
Figure 0007120582000014
である。
以上で説明した本発明に係るオプティカルフロー映像処理を利用する河川流速測定装置および方法は、現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めることができるようにしたものである。
本発明は表面流速を計測するために2次元投影座標変換プログラムと相互相関法を使うものであって、歪んだ映像を正射映像に変換する映像変換構成および、相互相関法(相関領域の大きさ内の明暗値分布の類似性を探索して追跡者群の変位を計算)プログラムで表面流速を計測する映像分析、計測された流速資料のうち相関係数が低い結果を除去するフィルタリング、計測された流速資料を時間平均して計測結果として保存するものである。
本発明によるオプティカルフロー映像処理は一フレームの特定の位置の明暗値分布と次のフレームでの明暗値分布が最もよくマッチングされる個所を探して移動距離を計算するものである。
このように映像内の各ピクセルの明暗値を利用して移動距離を計算するため時間が非常に短いという長所があり、河川での急激な流量変化時にもリアルタイム流速を非常に短い時間に計算できるためLSPIVとSTIV方法で遂行できない河川のリアルタイム流速の測定に効果的に適用され得る。
以上での説明でのように、本発明の本質的な特性から逸脱しない範囲で変形された形態で本発明が具現されていることが理解できるであろう。
したがって、明示された実施例は限定的な観点ではなく説明的な観点で考慮されるべきであり、本発明の範囲は前述した説明ではなく特許請求の範囲に示されており、それと同等な範囲内にあるすべての差異点は本発明に含まれるものと解釈されるべきである。
産業上利用の可能性
本発明は現場の断面情報、分析時間、分析間隔、分析領域に対してカメラが収集した連続映像からピクセル流速を算出し、これを実際の物理的な流速に換算して流速測定の効率性および正確性を高めた、オプティカルフロー映像処理を利用する河川流速測定装置および方法に関する。

Claims (18)

  1. 河川流速測定現場の連続映像を獲得する映像撮影部;
    映像撮影部の映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析部;
    分析地点の分析領域を抽出する分析領域抽出部;
    分析領域抽出部で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定部;
    ピクセル流速算定部で算定されたピクセル流速を実際流速に換算する実際流速算定部;を含み、
    前記映像変換分析部は、
    前記ホモグラフィ(Homography)算定のために、入力点の平均X座標とY座標を算定して該当座標を原点に移動させ、入力点と平均X座標とY座標間の距離を変換して映像データを正規化(Normalize)することを特徴とする、オプティカルフロー映像処理を利用する河川流速測定装置。
  2. ピクセル流速算定部はオプティカルフローを適用した表面流速場算定のために、
    指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列宣言をして映像を配列に保存し、
    映像間分析を格子点の個数だけ繰り返して表面流速場算定をすることを特徴とする、請求項1に記載のオプティカルフロー映像処理を利用する河川流速測定装置。
  3. ピクセル流速算定部は地点流速算定のために、
    映像と格子点変数宣言をし、格子点の位置から映像抽出をしてピクセル流速算定をし、
    格子点位置とピクセル流速、フィルタ係数変数を定めて、地点流速算定時に算定された誤差がフィルタ係数より大きいとフィルタリングをして地点流速算定をすることを特徴とする、請求項1に記載のオプティカルフロー映像処理を利用する河川流速測定装置。
  4. 映像撮影部で撮影される映像歪み補正のために、
    水位が変わってもカメラが見る参照点の映像座標が変わらないように4個の参照点を堤防高さに設置し、
    カメラの実際の座標(Xc、Yc、H)、カメラと水面までの高さ(H)および堤防上の参照点(A)の実際の座標(X、Y、Z)を利用して水の表面と同じ高さの点A’の実際の座標(X’、Y’、Z’)を求めることを特徴とする、請求項1に記載のオプティカルフロー映像処理を利用する河川流速測定装置。
  5. 河川流速測定現場の連続映像を獲得する映像撮影段階;
    映像撮影段階で獲得された映像データを正規化するために動的に連続映像のフレームを抽出し、抽出されたフレームを映像変換してホモグラフィ(Homography)算定をする映像変換分析段階;
    分析地点の分析領域を抽出する分析領域抽出段階;
    分析領域抽出段階で抽出された分析地点の分析領域映像を通じてピクセル流速を算定するピクセル流速算定段階;
    ピクセル流速算定段階で算定されたピクセル流速を実際流速に換算する実際流速算定段階;を含み、
    前記映像変換分析段階は、
    前記ホモグラフィ(Homography)算定のために、入力点の平均X座標とY座標を算定して該当座標を原点に移動させ、入力点と平均X座標とY座標間の距離を変換して映像データを正規化(Normalize)することを特徴とする、オプティカルフロー映像処理を利用する河川流速測定方法。
  6. ホモグラフィ(Homography)算定のためのホモジーニアス(Homogeneous)形態は、
    Figure 0007120582000015

    で定義され、
    ここで、x、yは映像変換前の座標であり、x’、y’は映像変換後の座標、h11、h12、h13、h21、h22、h23、h31、h32は映像変換に必要な媒介変数であることを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  7. ホモグラフィ(Homography)算定のための形態は、
    Figure 0007120582000016

    で定義されることを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  8. ピクセル流速算定段階でオプティカルフローを適用した表面流速場算定のために、
    M個の個数を有する分析する点で構成された格子変数を定義する段階と、
    あらかじめ指定された格子設定を呼び出して分析する映像の個数(N)と分析結果を保存する配列を宣言する段階と、
    カメラを通じて映像を配列に保存する段階と、
    映像間分析を格子点の個数だけ繰り返して分析結果を配列に保存する段階を含むことを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  9. ピクセル流速算定段階で地点流速算定のために、
    映像と格子点変数宣言をし、格子点の位置から映像抽出をする段階と、
    オプティカルフローピクセル流速算定アルゴリズムを適用して、格子点位置とピクセル流速、フィルタ係数変数宣言をして格子点位置とピクセル流速を実際流速に変換する段階と、
    算定された流速誤差がフィルタ係数より大きいとフィルタリングをし、そうでなければ流速算定結果を出力する段階を含むことを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  10. ピクセル流速算定段階に、
    映像変数宣言をし、X方向、Y方向、時間微分変数宣言をする段階と、
    X方向映像微分、Y方向映像微分、時間方向映像微分をしてピクセル流速を算定する段階を含むことを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  11. ピクセル流速算定段階で、
    ピクセル流速算定のための式が
    Figure 0007120582000017

    で定義され、
    ここで、Iは映像のピクセル値、xはX方向座標、yはY方向座標、tは時間、δxはX方向座標の変化量、δyはY方向座標の変化量、δtは時間の変化量であることを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  12. ピクセル流速算定のための式が、
    Figure 0007120582000018

    の右項をテイラー展開した
    Figure 0007120582000019

    で整理され、
    右項の微分式の合計が0にならなければならないことを利用してピクセル流速算定のための式は
    Figure 0007120582000020

    で定義され、
    ここで、Iは映像のX方向微分行列、Iは映像のY方向微分行列、VはX方向ピクセル速度、VはY方向ピクセル速度、Iは映像の時間微分行列であることを特徴とする、請求項11に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  13. ピクセル流速算定のための式は、
    Figure 0007120582000021

    で定義され、
    ここで、
    Figure 0007120582000022

    はn番目のピクセル、nは映像のピクセル個数であることを特徴とする、請求項12に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  14. 実際流速算定段階で実際流速は、
    Figure 0007120582000023

    であり、
    ここで、Vγは実際流速であり、Vはピクセル流速、LPPはピクセル当たりの距離、Kはスケールファクターであることを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  15. ピクセル当たりの距離は、
    Figure 0007120582000024

    であり、
    ここで、LPPはピクセル当たりの距離、Nは映像変換の参照点の個数、Lγは映像変換の隣り合う両参照点がなす物理距離、Lは映像変換の隣り合う両参照点がなすピクセル距離であることを特徴とする、請求項14に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  16. スケールファクターは、
    Figure 0007120582000025

    であり、
    ここで、Kはスケールファクター、Dはセンサと映像変換の参照点間の初期平均標高差、Dはセンサと映像変換の参照点間の平均標高差であることを特徴とする、請求項14に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  17. 映像撮影段階で撮影される映像歪み補正のために、
    水位が変わってもカメラが見る参照点の映像座標が変わらないように4個の参照点を堤防高さに設置してカメラの実際の座標(Xc、Yc、H)、カメラと水面までの高さ(H)および堤防上の参照点(A)の実際の座標(X、Y、Z)を利用して水の表面と同じ高さの点A’の実際の座標(X’、Y’、Z’)を求めることを特徴とする、請求項に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
  18. 水の表面と同じ高さの点A’の実際の座標(X’、Y’、Z’)を、
    Figure 0007120582000026

    で求め、
    Figure 0007120582000027

    ここで、
    Figure 0007120582000028

    であることを特徴とする、請求項17に記載のオプティカルフロー映像処理を利用する河川流速測定方法。
JP2020565899A 2018-11-13 2018-11-29 オプティカルフロー映像処理を利用する河川流速測定装置および方法 Active JP7120582B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2018-0139088 2018-11-13
KR1020180139088A KR101996992B1 (ko) 2018-11-13 2018-11-13 옵티컬 플로우 영상 처리를 이용하는 하천 유속 측정 장치 및 방법
PCT/KR2018/014983 WO2020101103A1 (ko) 2018-11-13 2018-11-29 옵티컬 플로우 영상 처리를 이용하는 하천 유속 측정 장치 및 방법

Publications (2)

Publication Number Publication Date
JP2021531450A JP2021531450A (ja) 2021-11-18
JP7120582B2 true JP7120582B2 (ja) 2022-08-17

Family

ID=67255815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020565899A Active JP7120582B2 (ja) 2018-11-13 2018-11-29 オプティカルフロー映像処理を利用する河川流速測定装置および方法

Country Status (5)

Country Link
US (1) US11200684B2 (ja)
JP (1) JP7120582B2 (ja)
KR (1) KR101996992B1 (ja)
PH (1) PH12020551777A1 (ja)
WO (1) WO2020101103A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021142441A1 (en) * 2020-01-10 2021-07-15 Marquette University Systems and methods for remote sensing of river velocity using video and an optical flow algorithm
CN111798386B (zh) * 2020-06-24 2022-03-22 武汉大学 一种基于边缘识别与最大序列密度估计的河道流速测量方法
CN112242000B (zh) * 2020-10-22 2022-07-26 上海交通大学 基于丝网探针的气液两相流场特征重构方法、系统及介质
KR102462351B1 (ko) 2020-11-13 2022-11-02 단국대학교 산학협력단 옵티컬 플로우를 활용한 상호상관법의 탐색영역 결정방법
KR102504280B1 (ko) * 2020-11-13 2023-02-27 단국대학교 산학협력단 옵티컬 플로우를 활용한 초분광영상의 영상정합 방법
CN113012195B (zh) * 2021-03-04 2024-02-06 西安电子科技大学 基于光流计算的河流表面流速估计的方法和可读存储介质
KR102677913B1 (ko) 2021-08-13 2024-06-26 재단법인 한국수자원조사기술원 드론을 이용한 tm 좌표 기반의 유량 측정 장치 및 방법
CN113781528A (zh) * 2021-08-26 2021-12-10 山东新一代信息产业技术研究院有限公司 一种基于光流计算的河流表面流速测算方法
CN113804917A (zh) * 2021-09-17 2021-12-17 山东新一代信息产业技术研究院有限公司 一种基于点扩散估计的河流表面流速测量方法
CN114034348B (zh) * 2021-10-27 2022-07-12 中国水利水电科学研究院 一种基于多信源信息的生态流量监测系统及其监测方法
CN114885097B (zh) * 2022-03-31 2024-02-06 浙江大华技术股份有限公司 一种智能相机监测水流的方法、装置及存储介质
KR102492866B1 (ko) * 2022-04-27 2023-01-30 주식회사세오 3차원 모델링을 이용한 침수 표시 방법 및 시스템
KR102485817B1 (ko) * 2022-07-07 2023-01-09 주식회사 하이드로셈 11변수 좌표변환 알고리즘을 이용한 하천 영상 왜곡 보정 시스템 및 방법
KR102614029B1 (ko) * 2023-06-22 2023-12-13 정혜린 축적된 데이터를 활용한 소하천 스마트 예측 관리 시스템 및 그 방법
CN117074717B (zh) * 2023-08-14 2024-09-24 北京科技大学 一种基于粒子识别的固液两相流图像测速方法和系统
CN116843725B (zh) * 2023-08-30 2024-01-05 武汉大水云科技有限公司 一种基于深度学习光流法的河流表面流速测量方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004219179A (ja) 2003-01-10 2004-08-05 Public Works Research Institute 非接触型流速計を用いた開水路流量観測方法及びその装置
JP2006258575A (ja) 2005-03-16 2006-09-28 Takuwa Corp 河川流速計測方法、河川流量計測方法、河川流速計測システム、及び河川流量計測システム
CN104297516A (zh) 2014-11-06 2015-01-21 中国科学院、水利部成都山地灾害与环境研究所 一种流体表面二维流速场测量方法
JP2016169968A (ja) 2015-03-11 2016-09-23 古野電気株式会社 表層潮流推定装置、レーダ装置、表層潮流推定方法、及び表層潮流推定プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070280507A1 (en) * 2006-06-01 2007-12-06 Beddhu Murali Apparatus and Upwind Methods for Optical Flow Velocity Estimation
KR100817907B1 (ko) 2006-07-27 2008-03-31 명지대학교 산학협력단 표면 영상 분석에 의한 하천의 표면 유속 측정 방법
JP2008058264A (ja) * 2006-09-04 2008-03-13 Kobe Univ 実河川を対象とした流速観測装置、流速観測方法,および流速観測プログラム
KR101305305B1 (ko) 2012-06-12 2013-09-06 동의대학교 산학협력단 시공간 영상의 상관 분석을 이용한 표면 유속 측정 시스템 및 방법
KR101512690B1 (ko) 2014-06-27 2015-04-17 동의대학교 산학협력단 영상 처리를 이용한 표면 유속 측정 방법 및 휴대용 측정 장치
KR20160100788A (ko) * 2015-02-16 2016-08-24 한국전자통신연구원 이동체의 이동속도 측정장치 및 그 방법
KR101753360B1 (ko) * 2015-12-04 2017-07-03 광운대학교 산학협력단 시점 변화에 강인한 특징점 정합 방법
KR101741501B1 (ko) * 2016-02-01 2017-05-30 아주대학교산학협력단 카메라와 객체 간 거리 추정 장치 및 그 방법
KR101813244B1 (ko) 2016-04-21 2017-12-29 동의대학교 산학협력단 열영상을 이용한 실시간 표면영상유속계 및 그의 측정 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004219179A (ja) 2003-01-10 2004-08-05 Public Works Research Institute 非接触型流速計を用いた開水路流量観測方法及びその装置
JP2006258575A (ja) 2005-03-16 2006-09-28 Takuwa Corp 河川流速計測方法、河川流量計測方法、河川流速計測システム、及び河川流量計測システム
CN104297516A (zh) 2014-11-06 2015-01-21 中国科学院、水利部成都山地灾害与环境研究所 一种流体表面二维流速场测量方法
JP2016169968A (ja) 2015-03-11 2016-09-23 古野電気株式会社 表層潮流推定装置、レーダ装置、表層潮流推定方法、及び表層潮流推定プログラム

Also Published As

Publication number Publication date
JP2021531450A (ja) 2021-11-18
US20210327075A1 (en) 2021-10-21
PH12020551777A1 (en) 2021-05-31
KR101996992B1 (ko) 2019-07-08
WO2020101103A1 (ko) 2020-05-22
US11200684B2 (en) 2021-12-14

Similar Documents

Publication Publication Date Title
JP7120582B2 (ja) オプティカルフロー映像処理を利用する河川流速測定装置および方法
JP7120581B2 (ja) Cctv映像基盤のリアルタイム自動流量計側システムおよび方法
KR102523451B1 (ko) 드론 영상 기반의 하천 유속 측정을 위한 장치 및 방법
KR100817907B1 (ko) 표면 영상 분석에 의한 하천의 표면 유속 측정 방법
CN111160210B (zh) 一种基于视频的水流速检测方法及系统
CN104297516B (zh) 一种流体表面二维流速场测量方法
KR101305305B1 (ko) 시공간 영상의 상관 분석을 이용한 표면 유속 측정 시스템 및 방법
KR101868483B1 (ko) 영상 대조에 따른 두개의 에지 블러 파라미터 예측 방법
CN116758136B (zh) 一种货物体积实时在线识别方法、系统、设备以及介质
JP6682409B2 (ja) 河川監視装置、河川監視方法及びプログラム
CN115761563A (zh) 一种基于光流测算的河流表面流速的计算方法及系统
Chen et al. A color-guided, region-adaptive and depth-selective unified framework for Kinect depth recovery
Boutelier TecPIV—A MATLAB-based application for PIV-analysis of experimental tectonics
CN109781191A (zh) 一种利用无人机影像快速反演河道流量的方法
Huang et al. A photogrammetry-based variational optimization method for river surface velocity measurement
Lv et al. A point tracking method of TDDM for vibration measurement and large-scale rotational motion tracking
Hilgersom et al. How image processing facilitates the rising bubble technique for discharge measurement
Lee et al. The measurement of discharge using a commercial digital video camera in irrigation canals
Osorio-Cano et al. A method for extracting surface flow velocities and discharge volumes from video images in laboratory
Cao et al. River surface velocity estimation using optical flow velocimetry improved with attention mechanism and position encoding
Lenzano et al. Detecting glacier surface motion by optical flow
KR102687641B1 (ko) 하천 표면의 시공간 영상의 분석을 통한 유속 측정 방법
KR102462351B1 (ko) 옵티컬 플로우를 활용한 상호상관법의 탐색영역 결정방법
KR101237128B1 (ko) 토모그래픽 피티브이를 이용한 유동장 해석방법
CN114757848A (zh) 基于人工智能的相机果冻效应检测方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220727

R150 Certificate of patent or registration of utility model

Ref document number: 7120582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150