JP2008269097A - 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム - Google Patents

水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム Download PDF

Info

Publication number
JP2008269097A
JP2008269097A JP2007108577A JP2007108577A JP2008269097A JP 2008269097 A JP2008269097 A JP 2008269097A JP 2007108577 A JP2007108577 A JP 2007108577A JP 2007108577 A JP2007108577 A JP 2007108577A JP 2008269097 A JP2008269097 A JP 2008269097A
Authority
JP
Japan
Prior art keywords
wave
water surface
spectrum distribution
velocity vector
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007108577A
Other languages
English (en)
Other versions
JP4527747B2 (ja
Inventor
Hidetomo Sakaino
英朋 境野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2007108577A priority Critical patent/JP4527747B2/ja
Publication of JP2008269097A publication Critical patent/JP2008269097A/ja
Application granted granted Critical
Publication of JP4527747B2 publication Critical patent/JP4527747B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】水面波を捉えた画像から水面波の挙動を検出することを課題とする。
【解決手段】水面波を含む画像を入力する画像入力部100と、入力された画像を時系列に蓄積する画像蓄積部110と、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、当該輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する目的関数導出部120と、連続する2枚の画像を画像蓄積部110から読み出して、この2枚の画像の強度値を目的関数に代入し、速度ベクトルを推定するオプティカルフロー推定部130と、推定された速度ベクトルを表示する表示部140とを備える。
【選択図】図1

Description

本発明は、水面波の挙動を検出する技術に関する。
川や海などでは、水害事故を防止する為、水位センサや水量センサなどを用いて、特異な現象を事前に察知する環境センシングが行われている。特に、海では、ミリ波レーダを用いて、海面に浮かばせたブイからの反射波に基づき、波の状態を把握する観測方法も採用されている。
最近では、監視カメラの導入が急増しており、監視員や管理人が監視センターで川や海の様子を目視する方法も利用されている。監視カメラの設置台数は増加傾向にあるものの、人件費に係る費用を抑制するため、必ずしも監視員等の増員には至っていない。そのため、川や海の水面の状態を映像や画像から検出し、自動で認識可能な観測方法が切望されている。
その一つが画像処理を用いた観測方法である。例えば、MPEG(Moving Picture Experts Group)に代表される符号化の分野で用いられている相互相関法(「CC法」、「パターンマッチング法」とも称される)が知られている。CC法は、連続する2枚の画像間の類似性を相互相関関数等により評価して、類似する領域を画像間の移動距離(ベクトル)とみなす方法である。しかしながら、CC法は、画像間で輝度変動がないことを前提条件とする測定方法であるため、輝度変動が激しい水面観測には適用性に乏しい。そこで、以下のような様々な観測方法や推定方法が利用されている。
非特許文献1では、カメラで撮影した映像や画像の輝度変動を利用して、オプティカルフロー法に基づく動き推定方法が試みられている。
また、非特許文献2では、ビデオ映像から動きに関するいくつかの物理パラメータを推定するための枠組みが提案されている。具体的には、例えば、映像中の揺れる木や浮かんでいるヨットの動きを解析することによって、風力による外力から調和振動方程式を構成する各パラメータを求めている。
更に、非特許文献3では、河川工学や海洋工学の分野において、川や海に関する様々な波の動きモデルが提案されている。
J.L. Barron、外2名、「Performance of Optical Flow Techniques」、IJCV、1994、vol.12、no.1、p.43-77 M. Sun、外2名、「Video input driven animation (VIDA)」、IEEE International Conference on Compute Vision (ICCV’03)、2003、vol.1、p.96-103 堀川 清司、「湾岸工学」、東京大学出版会、1991、p.42-81
しかしながら、非特許文献1に記載されたオプティカルフロー法は、映像や画像の輝度変動のみ用いて動きを検出する方法であり、波動現象に関する動きモデルが考慮されていないため、水面波の挙動を検出できないという問題があった。
また、非特許文献2に記載された推定方法によれば、推定結果から風と波数を間接的に推定できるものの、規則的な波動を前提とする波モデルであるため、振幅や位相などの波に関する固有の動き物理パラメータ、即ち、波の不規則性が検出されないという問題があった。
更に、非特許文献3で提案された波生成方程式は、不規則性を表現する為に多くの線形和で表現されているため、各パラメータを演算する時間が膨大になるという問題があった。
本発明は、上記を鑑みてなされたものであり、水面波を捉えた画像から水面波の挙動を検出することを課題とする。
第1の本発明に係る水面波挙動検出装置は、水面波を含む画像を入力する画像入力手段と、入力された前記画像を時系列に蓄積する画像蓄積手段と、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、当該輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する目的関数導出手段と、連続する2枚の画像を前記画像蓄積手段から読み出して、当該2枚の画像の強度値を前記目的関数に代入し、前記速度ベクトルを推定するオプティカルフロー推定手段と、推定された当該速度ベクトルを表示する表示手段と、を有することを要旨とする。
本発明にあっては、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、この輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出し、連続する2枚の画像の強度値をこの目的関数に代入して速度ベクトルを推定するため、輝度変動に基づくオプティカルフロー法を用いて、水面波を捉えた画像から不規則な水面波の挙動を検出することができる。
第2の本発明に係る水面波挙動検出装置は、前記波生成式が、波の振幅,波数,周波数,及び,位相を変数とする波生成式の数を項数とした場合に、当該項数の総和で示された波生成式であって、前記オプティカルフロー推定手段は、前記2枚の画像を複数のサブブロックにそれぞれ分割する分割手段と、当該2枚の画像において同じ場所に位置するサブブロックの強度値を前記目的関数に代入して、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第1の推定手段と、所定の前記項数の範囲で前記第1の推定手段の推定を繰り返し、推定された前記周波数に基づいて波のスペクトル分布を求め、当該波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第2の推定手段と、を有することを要旨とする。
本発明にあっては、2枚の画像を複数のサブブロックにそれぞれ分割し、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第1の推定手段と、所定の項数の範囲で第1の推定手段の推定を繰り返し、推定された周波数に基づいて波のスペクトル分布を求め、この波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第2の推定手段とを有するため、水面波の挙動をより正確に検出することができる。即ち、第1の推定手段で推定された局所的な速度ベクトルは、隣接するサブブロック間の連続性を考慮していないが、第2の推定手段において、推定された周波数から波のスペクトル分布を求め、この波のスペクトル分布と所定のスペクトル分布との類似度を判定し、所定の項数の範囲で最も類似度の高いスペクトル分布の速度ベクトル推定するため、画像全体の連続性を考慮した水面波の挙動を検出することが可能となる。
第3の本発明に係る水面波挙動検出装置は、前記第2の推定手段が、前記波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定することを要旨とする。
本発明にあっては、波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定するため、より正確に水面波の挙動を検出することができる。
第4の本発明に係る水面波挙動検出装置は、前記第2の推定手段が、前記速度拘束値及び/又は前記サブブロックの大きさを更に変化させて前記第1の推定手段の推定を繰り返し、最も類似度の高いスペクトル分布の速度ベクトルを推定することを要旨とする。
本発明にあっては、項数に加えて、速度拘束値及び/又はサブブロックの大きさを更に変化させて速度ベクトルなどを推定し、類似度の高いスペクトル分布の速度ベクトルを推定するため、より正確に水面波の挙動を検出することができる。
第5の本発明に係る水面波挙動検出装置は、前記所定のスペクトル分布が、ブレットシュナイダーのスペクトル分布であることを要旨とする。
本発明にあっては、波の統計分布として信頼性の高いブレットシュナイダーのスペクトル分布を用いて類似度を判定するため、信頼性の高い水面波の挙動を検出することができる。
第6の本発明に係る水面波挙動検出装置は、前記波生成式が、振幅を前記項数で除算し、波数,周波数,及び,位相を前記項数で乗算した波生成式であることを要旨とする。
本発明にあっては、振幅を項数で除算し、波数,周波数,及び,位相を項数で乗算した波生成式であるため、高い周波数の波を少数項でも確実に得ることができる。
第7の本発明に係る水面波挙動検出装置は、前記オプティカルフロー推定手段が、共役勾配法を用いて前記速度ベクトルを推定すること要旨とする。
本発明にあっては、共役勾配法を用いて速度ベクトルを推定するため、目的関数の最小化をより効率的に計算することができる。
第8の本発明に係る水面波挙動検出装置は、前記目的関数導出手段が、前記ロバスト関数に対してローレンツ関数を用いることを要旨とする。
本発明にあっては、ロバスト関数に対してローレンツ関数を用いるため、目的関数の計算速度を向上することができる。
第9の本発明に係る水面波挙動検出方法は、水面波を含む画像を入力する第1のステップと、入力された前記画像を時系列に画像蓄積手段に蓄積する第2のステップと、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、当該輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する第3のステップと、連続する2枚の画像を前記画像蓄積手段から読み出して、当該2枚の画像の強度値を前記目的関数に代入し、前記速度ベクトルを推定する第4のステップと、推定された当該速度ベクトルを表示する第5のステップと、を有することを要旨とする。
第10の本発明に係る水面波挙動検出方法は、前記波生成式が、波の振幅,波数,周波数,及び,位相を変数とする波生成式の数を項数とした場合に、当該項数の総和で示された波生成式であって、前記第4のステップは、前記2枚の画像を複数のサブブロックにそれぞれ分割する第6のステップと、当該2枚の画像において同じ場所に位置するサブブロックの強度値を前記目的関数に代入して、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第7のステップと、所定の前記項数の範囲で前記第7のステップの推定を繰り返し、推定された前記周波数に基づいて波のスペクトル分布を求め、当該波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第8のステップと、を有することを要旨とする。
第11の本発明に係る水面波挙動検出方法は、前記第8のステップが、前記波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定することを要旨とする。
第12の本発明に係る水面波挙動検出方法は、前記第8のステップが、前記速度拘束値及び/又は前記サブブロックの大きさを更に変化させて前記第7のステップの推定を繰り返し、最も類似度の高いスペクトル分布の速度ベクトルを推定することを要旨とする。
第13の本発明に係る水面波挙動検出方法は、前記所定のスペクトル分布が、ブレットシュナイダーのスペクトル分布であることを要旨とする。
第14の本発明に係る水面波挙動検出方法は、前記波生成式が、振幅を前記項数で除算し、波数,周波数,及び,位相を前記項数で乗算した波生成式であることを要旨とする。
第15の本発明に係る水面波挙動検出方法は、前記第4のステップが、共役勾配法を用いて前記速度ベクトルを推定することを要旨とする。
第16の本発明に係る水面波挙動検出方法は、前記第3のステップが、前記ロバスト関数に対してローレンツ関数を用いることを要旨とする。
第17の本発明に係る水面波挙動検出プログラムは、請求項9乃至16のいずれか1項に記載の水面波挙動検出方法における各ステップをコンピュータによって実行させることを要旨とする。
本発明によれば、水面波を捉えた画像から水面波の挙動を検出することができる。
以下、本発明の実施の形態について図面を用いて説明する。
〔水面波挙動検出装置の構成及び処理の流れについて〕
図1は、本発明の実施の形態に係る水面波挙動検出装置10を示した構成図である。水面波挙動検出装置10は、水面波を含む画像を入力する画像入力部100と、入力された画像を時系列に蓄積する画像蓄積部110と、目的関数を導出する目的関数導出部120と、速度ベクトルを推定するオプティカルフロー推定部130と、推定された速度ベクトルを表示する表示部140とを備えた構成である。
なお、水面波挙動検出装置10は、コンピュータ本体を構成するCPU,メモリ,ハードディスクなどにより実現され、以下に説明する各ステップの処理はプログラムで実行される。
続いて、水面波挙動検出装置10を構成する各部の処理の流れについて説明する。なお、画像の輝度値,強度値または濃淡値の意味するところは全て等価であり、計算する際に使用される画像データは画像の強度値として以下説明する。
最初に、画像入力部100には、水面波が記録された複数の画像が入力される(ステップS1)。この水面波とは、例えば、海上の波や、川の波などであり、入力される画像とは、例えば、図2(a)で示すような画像である。
次に、画像蓄積部110は、画像入力部100で入力された複数の画像を時系列に蓄積する(ステップS2)。時系列とは、時間とともに変動する現象の観測値を時間とともに記録した並びを意味するものである。
続いて、目的関数導出部120は、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、導出した輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する(ステップS3)。
なお、上記波生成式とは、波の振幅,波数,周波数,及び,位相を変数とする波生成式の数を項数とした場合に、この項数の総和で示された波生成式である。目的関数の具体的な導出方法については後述する。
そして、オプティカルフロー推定部130は、連続する2枚の画像を画像蓄積部110から読み出して、読み出した2枚の画像の強度値をステップS3で導出した目的関数に代入し、速度ベクトルを推定する(ステップS4)。
オプティカルフロー推定部130は、画像をサブブロックに分割する分割部131、速度ベクトルを局所的に推定する第1の推定部132、速度ベクトルを大局的に推定する第2の推定部133を備えている。
まず、分割部131は、画像蓄積部110から読み出した連続する2枚の画像を、図2(b)に示すように、複数のサブブロックにそれぞれ分割する。
次に、第1の推定部132は、分割された2枚の画像において、同じ場所に位置するサブブロックの強度値を目的関数に代入して、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する。
そして、第2の推定部133は、所定の項数の範囲で第1の推定部132の推定を繰り返し、推定された周波数に基づいて波のスペクトル分布を求め、求めた波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する。
なお、第2の推定部133は、所定の項数の範囲のみではなく、後述する速度拘束値やサブブロックの大きさを更に変化させて、その変化させた範囲内で最も類似度の高い速度ベクトルを推定することも可能である。オプティカルフロー推定部130に関するより詳細な処理の流れについては後述する。
最後に、表示部140は、ステップ4で推定された速度ベクトルを、水面波の動きベクトルとして矢印記号で画面に表示する(ステップS5)。
〔目的関数の導出方法について〕
次に、ステップS3で説明した目的関数の具体的な導出方法について、その理由を踏まえながら説明する。
最初に、波生成モデルについて説明する。波生成式は、流体力学や海洋工学において数多くモデル化されている不規則で多方向に変化しながら動く波の基本特性を記述する式であって、多方向性および不規則性の波生成(MIWG:Multidirectionality-Irregularity-Wave-Generation)式を適用する。このMIWG方程式は、線形理論に基づいているので、他のモデルと組み合わせを行う上で数理的に都合がよく、実際に、港湾設計や沖合いの波浪のシュミレーションなどに用いられている。
MIGW方程式は、振幅a,波数k,周波数f,及び,位相θを用いて、式(1)で表現することができる。
式(1)の左辺であるηは、時間tにおける画像の2次元位置(x,y)の波の高さである。また、右辺のMは、いわゆる波らしさを表現するものであり、右辺のΣを除いた波生成式の総和の項数である。
まず、式(1)についての項数を決定する必要がある。通常、波生成のシュミレーションにおける項数は100前後又はそれ以上である。しかしながら、本実施の形態では、(i)低解像度の画像を用いており、(ii)波の統計的な特性として利用する後述のB−スペクトラム分布は単一のピークを持ち、そのピークは低周波数側に存在し、(iii)波における相対的な振幅は、高周波数,高い波数ほど小さいことが知られているため、3〜10の項数で十分に波を近似することができる。項数を大幅に減らすことで計算効率の向上することができる。
ここで、特に上記(iii)の理由から、式(1)を式(2)で再定義(近似)する。
式(2)は、式(1)の波生成式において、振幅aを項数mで除算し、且つ、波数k,周波数f,及び,位相θを項数mで乗算したものである。これにより、例えば、cosθがcos4θになるので、項数mが大きくなると、高周波数の波が現れることになる。即ち、式(1)では、高周波の項が得られるまでランダムに多くの項数を用いる必要があるが、式(2)を用いることで、高い周波数の波が少数項でも確実に得ることができる。
次に、光学反射モデルについて説明する。画像間の水面変化に伴い、透明,白波など、多くの要因が輝度変化を生じさせている。特に、太陽光と水面との間の鏡面反射と陰影との影響を考慮した場合、この光学反射は局所的に急激な変化をもたらすことになる。故に、式(3)で示す水面の輝度の指数関数を更に適用する必要がある。
なお、κは指数係数、Iは2次元画像、δtはサンプリング時間である。
続いて、画像から速度ベクトルを推定するため、輝度変動の拘束条件として、式(4)で示す輝度拘束条件式を用いて、上記にて説明した波生成モデルと光学反射モデルとを統合する。
なお、∇は空間1次微分、uはオプティカルフローの速度ベクトル、Iは時間1次微分である。また、qは物理現象の数を意味している。
そして、式(2)〜式(4)に基づいて、式(2)の時間差分を計算して、式(5)に示す輝度変動方程式を導出する。
なお、(u,v)は、オプティカルフローの2次元成分であるx軸方向およびy軸方向の速度ベクトルである。
式(5)を用いて速度ベクトル,振幅,波数,周波数,及び,位相を推定する際に、項数Mに加えて、波の物理的な性質を加味する必要がある。特に、波は、波数kと角周波数ωとの関係を、式(6)で示す分散関係式で表現できることが知られている。
なお、ω=2πf,k,h,gは、角振動数,波数,水深,重力加速度である。また、fは周波数,T=1/fである。式(6)は、波長L=2π/k毎で、波の速度u(=L/T=ω/k)が異なることを示している。
また、波の時系列画像には、その他、様々な複雑な動き成分が含まれている。そこで、流体と波との基本的な特性に基づき、速度に対して拘束条件を課すことで、式(5)の計算を安定化させることができる。具体的には、波の粘性の影響により、波の高周波成分が急速に減衰する傾向があるので、式(7)で示す速度と周波数との反比例関係の速度拘束条件式を更に用いて、式(5)の計算を行う。
なお、uは速度、γは速度拘束値、fは周波数である。
以上説明した式(4)〜式(7)に基づいて、オプティカルフローの速度ベクトル(u,v)と、5つの物理パラメータ(振幅a,波数k,周波数f,位相θ,指数係数κ)とを推定するため、式(8)に示すように、輝度変動項(img_var)と速度拘束条件(vel_constraint)の2つの項からなる目的関数を導出する。
なお、ρはロバスト統計学で用いられているロバスト関数である。また、σは分散である。ロバスト関数ρには、ローレンツ関数∂ρ/∂eを用いることも可能であり、これにより目的関数の計算速度を向上することができる。
最後に、式(8)で示された目的関数を用いて速度ベクトルを推定する際の最小化計算について説明する。この目的関数は非線形方程式なので、最急勾配法(SG法)や、Fletcher−Reevesの共役勾配法(CG法)を用いて最小化計算をすることができる。
CG法を用いて計算する際、速度ベクトルと5つの物理パラメータとに対する偏微分方程式を導出し、時間tと時間t+1との2枚の時系列画像の強度値をそれぞれ入力して、反復回数をpとする式(9)を用いて反復計算を繰り返す。
なお、CG法を用いて計算する方法は、SG法よりも少ない数回で収束し、極小値が小さい値となる利点を持つので、目的関数の最小化をより効率的に計算することができる。
〔オプティカルフロー推定部の処理の流れについて〕
図3は、オプティカルフロー推定部130の処理の流れを示すフロー図である。式(9)を用いて最小化計算を行う際に、項数M,速度拘束値γ,サブブロックの大きさのそれぞれを決定する必要がある。項数Mの大きさを変えることは波の高周波数を変えることになり、サブブロックの大きさを変えることは動き(フロー)の平滑化に関係することになる。また、速度拘束値γについては、フローの急な変化(不連続性)に関係することになる。
最初に、オプティカルフロー推定部130は、式(9)に項数M=1,速度拘束値γ=0.0の初期値を代入する(ステップS4−1)。
次に、分割部131において、画像蓄積部110から読み出した連続する2枚の画像を、例えば、3×3の大きさのサブブロックにそれぞれ分割する(ステップS4−2)。
続いて、第1の推定部132において、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する(ステップS4−3)。
ステップS4−3により、各サブブロックにおける局所的な速度ベクトルが推定されるので、サブブロックごとに細かい波の動きを推定することができる。しかしながら、実際の環境における波の現象は複雑であり、隣接するサブブロック同士の波の連続性を把握できない可能性がある。
そこで、波の統計分布として知られたブレットシュナイダー(Bretschneider)のスペクトル分布(以降、「B−スペクトル分布」と称する)と比較して類似度を検討し、全体としての動きを大局的に捉える必要がある。B−スペクトル分布は式(10)で示され、単一のピークを持つガンマ関数に近い分布を有している。
なお、有義波とは、波群中、波高の大きい方から数えて、全体の波の数の1/3の数の波を選び出したものである。
即ち、第2の推定部133において、ステップS4−3で推定された周波数の値を式(10)に代入し、図2(c)に示すように全てのサブブロックにおける波のスペクトル分布を求め、求めた波のスペクトル分布をEst(f)M,γ,subblockとした場合に、求めた波のスペクトル分布とB−スペクトル分布との類似度を式(11)を用いて計算する。そして、例えば、項数Mを1〜10の範囲、速度拘束値γを0.0〜3.0の範囲、サブブロックの大きさを3×3〜20×20の範囲でそれぞれ変化させて同様に類似度を計算し、式(11)の値が最小となる項数M,速度拘束値γ,サブブロックの大きさのスペクトル分布を最も類似度が高いスペクトル分布と判定し、そのスペクトル分布の速度ベクトルを推定する。(ステップS4−4)。
これにより、画像全体の連続性を考慮した水面波の挙動を検出することが可能となる。
更に、B−スペクトル分布は、前述したように、単一のピークを持ち、そのピークは低周波数側に存在するという特性を利用して、次に説明する方法で制限された範囲で速度ベクトルを推定することも可能である。
まず、第2の推定部133は、上記ステップS4−3で推定された周波数の値を用いて全てのサブブロックのスペクトル分布を求め、求めた波のスペクトル分布の面積を1になるように正規化する。
その後、第2の推定部133は、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の第1角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の第2角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布を有する速度ベクトルを推定する。
なお、上記第1角度,第2角度とは、B−スペクトル分布におけるピーク値に対応するX軸の値を基準値とした場合に、その基準値からX軸方向に所定の距離だけ離れた場所におけるB−スペクトル曲線の接線と、X軸とのなす角度である。ここでは角度を例に説明したが、上記基準値からの所定の距離を有効範囲とするものであってもよい。
〔他の速度拘束条件式について〕
式(7)を用いて説明した速度拘束条件式の他に、例えば、式(12)で示す拘束条件を用いることもできる。即ち、周波数fが所定の閾値としての1.0より大きい場合には、速度ベクトル(u,v)をWeightで除算することで小さくするように重み付けを行い、1.0より小さい場合には、速度ベクトルをWeightで乗算することで大きくするように重み付けを行う。
〔推定結果について〕
図4は、3種類の波の画像を示す図である。図4(a)は、弱い波の画像であり、図4(b)は、穏やかな波の画像であり、図4(c)は、強い波の画像である。これらの画像は、3次元世界が2次元画像座標系へ投影された画像であり、水面に対して斜め上方向からの画像は、波の山と谷との検出を可能とする。
図5は、図4で示す3種類の波の画像を第1の従来法で推定した速度ベクトルを矢印で表示した図である。この第1の従来法は、流体力学で用いる連続方程式を輝度変動方程式の代わりに適用し、速度拘束条件式に発散(divergence)と回転(curl)を適用した方法である。
図6は、図4で示す3種類の波の画像を第2の従来法で推定した速度ベクトルを矢印で表示した図である。この第2の従来法は、流体力学で用いる連続方程式のみを適用した方法である。
図7は、図4で示す3種類の波の画像を本実施の形態で推定した速度ベクトルを矢印で表示した図である。また、図8は、図4(c)で示す強い波の場合における本実施の形態で推定した指数係数,波数,周波数,位相,振幅の2次元分布を示した図である。更に、図9は、図4で示す3種類の波の画像に対する本実施の形態で推定した振幅の2次元分布を示した図である。
図5及び図6で示された全ての波は、全体が滑らかな動きで表現されており、波の山や谷といった特徴を把握することができない。一方、図7で示された水面波は、いずれの波についても、上下運動を中心に、はっきりとした波の動きを確認することができる。また、図8では、強い波の特徴が明確に把握することはできる。更に、図9では、弱い波,穏やかな波,強い波の順に、波の特徴が表現されていることがはっきりと確認できる。
図10(a)は、B−スペクトル分布を示す分布図である。図10(a)では、自然界における波のスペクトル分布が示されており、低周波数側に一つのピークが存在し、高周波数側に広がりを有することを特徴としている。また、図10(b)で示す分布図は、異なる項数における強い波のスペクトル分布図であって、全てのサブブロックの周波数を面積が1になるように正規化した結果である。実線210で示す分布の方が、破線220で示す分布よりもB−スペクトル分布に類似していることが確認することができる。また、実線210および破線220で示す分布は、共に、低周波数側にピークがあり、更に、1つのピークを有する分布図であるが、実線210の方が、ピークから低周波数側の分布特性が急な角度で下降し、且つ、ピークから高周波数側の分布特性が緩やかな角度で下降しているので、図10(b)の場合には、実線210の項数を有する速度ベクトルを用いた水面波が検出されることになる。
本実施の形態によれば、波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、この輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出し、連続する2枚の画像の強度値をこの目的関数に代入して速度ベクトルを推定するので、輝度変動に基づくオプティカルフロー法を用いて、水面波を捉えた画像から不規則な水面波の挙動を検出することができる。
本実施の形態によれば、2枚の画像を複数のサブブロックにそれぞれ分割し、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第1の推定部132と、所定の項数の範囲で第1の推定部132の推定を繰り返し、推定された周波数に基づいて波のスペクトル分布を求め、この波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第2の推定部133とを有するので、水面波の挙動をより正確に検出することができる。即ち、第1の推定部132で推定された局所的な速度ベクトルは、隣接するサブブロック間の連続性を考慮していないが、第2の推定部133において、推定された周波数から波のスペクトル分布を求め、この波のスペクトル分布と所定のスペクトル分布との類似度を判定し、所定の項数の範囲で最も類似度の高いスペクトル分布の速度ベクトル推定するため、画像全体の連続性を考慮した水面波の挙動を検出することが可能となる。
本実施の形態によれば、波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定するので、より正確に水面波の挙動を検出することができる。
本実施の形態によれば、項数に加えて、速度拘束値及び/又はサブブロックの大きさを更に変化させて速度ベクトルなどを推定し、類似度の高いスペクトル分布の速度ベクトルを推定するので、より正確に水面波の挙動を検出することができる。
本実施の形態によれば、波の統計分布として信頼性の高いブレットシュナイダーのスペクトル分布を用いて類似度を判定するので、信頼性の高い水面波の挙動を検出することができる。
本実施の形態によれば、振幅を項数で除算し、波数,周波数,及び,位相を項数で乗算した波生成式であるので、高い周波数の波を少数項でも確実に得ることができる。
本実施の形態によれば、共役勾配法を用いて速度ベクトルを推定するので、目的関数の最小化をより効率的に計算することができる。
本実施の形態によれば、ロバスト関数に対してローレンツ関数を用いるので、目的関数の計算速度を向上することができる。
本発明の実施の形態に係る水面波挙動検出装置を示した構成図である。 本発明の実施の形態に係る水面波挙動検出装置の処理の流れを示すフロー図である。 オプティカルフロー推定部の処理の流れを示すフロー図である。 3種類の波の画像を示す図である。 図4で示す3種類の波の画像を第1の従来法で推定した速度ベクトルを矢印で表示した図である。 図4で示す3種類の波の画像を第2の従来法で推定した速度ベクトルを矢印で表示した図である。 図4で示す3種類の波の画像を本実施の形態で推定した速度ベクトルを矢印で表示した図である。 図4(c)で示す強い波の場合における本実施の形態で推定した指数係数,波数,周波数,位相,振幅の2次元分布を示した図である。 図4で示す3種類の波の画像に対する本実施の形態で推定した振幅の2次元分布を示した図である。 スペクトル分布を示す分布図である。
符号の説明
10…動きベクトル検出装置
100…画像入力部
110…画像蓄積部
120…目的関数導出部
130…オプティカルフロー推定部
131…分割部
132…第1の推定部
133…第2の推定部
140…表示部
210…実線
220…破線
S1〜S4,S4−1〜S4−4…ステップ

Claims (17)

  1. 水面波を含む画像を入力する画像入力手段と、
    入力された前記画像を時系列に蓄積する画像蓄積手段と、
    波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、当該輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する目的関数導出手段と、
    連続する2枚の画像を前記画像蓄積手段から読み出して、当該2枚の画像の強度値を前記目的関数に代入し、前記速度ベクトルを推定するオプティカルフロー推定手段と、
    推定された当該速度ベクトルを表示する表示手段と、
    を有することを特徴とする水面波挙動検出装置。
  2. 前記波生成式は、波の振幅,波数,周波数,及び,位相を変数とする波生成式の数を項数とした場合に、当該項数の総和で示された波生成式であって、
    前記オプティカルフロー推定手段は、
    前記2枚の画像を複数のサブブロックにそれぞれ分割する分割手段と、
    当該2枚の画像において同じ場所に位置するサブブロックの強度値を前記目的関数に代入して、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第1の推定手段と、
    所定の前記項数の範囲で前記第1の推定手段の推定を繰り返し、推定された前記周波数に基づいて波のスペクトル分布を求め、当該波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第2の推定手段と、
    を有することを特徴とする請求項1に記載の水面波挙動検出装置。
  3. 前記第2の推定手段は、前記波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定することを特徴とする請求項2に記載の水面波挙動検出装置。
  4. 前記第2の推定手段は、前記速度拘束値及び/又は前記サブブロックの大きさを更に変化させて前記第1の推定手段の推定を繰り返し、最も類似度の高いスペクトル分布の速度ベクトルを推定することを特徴とする請求項2又は3に記載の水面波挙動検出装置。
  5. 前記所定のスペクトル分布は、ブレットシュナイダーのスペクトル分布であることを特徴とする請求項2乃至4のいずれか1項に記載の水面波挙動検出装置。
  6. 前記波生成式は、振幅を前記項数で除算し、波数,周波数,及び,位相を前記項数で乗算した波生成式であることを特徴とする請求項2乃至5のいずれか1項に記載の水面波挙動検出装置。
  7. 前記オプティカルフロー推定手段は、共役勾配法を用いて前記速度ベクトルを推定することを特徴とする請求項1乃至6のいずれか1項に記載の水面波挙動検出装置。
  8. 前記目的関数導出手段は、前記ロバスト関数に対してローレンツ関数を用いることを特徴とする請求項1乃至7のいずれか1項に記載の水面波挙動検出装置。
  9. 水面波を含む画像を入力する第1のステップと、
    入力された前記画像を時系列に画像蓄積手段に蓄積する第2のステップと、
    波の不規則性を示す波生成式と水面の輝度を示す指数関数とに基づいて速度ベクトルを変数とする輝度変動方程式を導出し、当該輝度変動方程式と波数及び角周波数で表された分散関係式と所定の速度拘束値で波の速度を拘束する速度拘束条件式とに基づいて、ロバスト統計学で用いるロバスト関数を介した目的関数を導出する第3のステップと、
    連続する2枚の画像を前記画像蓄積手段から読み出して、当該2枚の画像の強度値を前記目的関数に代入し、前記速度ベクトルを推定する第4のステップと、
    推定された当該速度ベクトルを表示する第5のステップと、
    を有することを特徴とする水面波挙動検出方法。
  10. 前記波生成式は、波の振幅,波数,周波数,及び,位相を変数とする波生成式の数を項数とした場合に、当該項数の総和で示された波生成式であって、
    前記第4のステップは、
    前記2枚の画像を複数のサブブロックにそれぞれ分割する第6のステップと、
    当該2枚の画像において同じ場所に位置するサブブロックの強度値を前記目的関数に代入して、全てのサブブロックに対する速度ベクトル,振幅,波数,周波数,及び,位相を推定する第7のステップと、
    所定の前記項数の範囲で前記第7のステップの推定を繰り返し、推定された前記周波数に基づいて波のスペクトル分布を求め、当該波のスペクトル分布と所定のスペクトル分布との類似度を判定し、最も類似度の高いスペクトル分布の速度ベクトルを推定する第8のステップと、
    を有することを特徴とする請求項9に記載の水面波挙動検出方法。
  11. 前記第8のステップは、前記波のスペクトル分布の面積を1になるように正規化し、正規化された全てのスペクトル分布において、低周波数側にピークがあるスペクトル分布のみを残し、且つ、複数のピークを有するスペクトル分布を排除したスペクトル分布のうち、ピークから低周波数側の分布特性が所定の角度よりも急な角度で下降し、且つ、ピークから高周波数側の分布特性が所定の角度よりも緩やかな角度で下降しているスペクトル分布に該当するスペクトル分布のうち、最も類似度の高いスペクトル分布の速度ベクトルを推定することを特徴とする請求項10に記載の水面波挙動検出方法。
  12. 前記第8のステップは、前記速度拘束値及び/又は前記サブブロックの大きさを更に変化させて前記第7のステップの推定を繰り返し、最も類似度の高いスペクトル分布の速度ベクトルを推定することを特徴とする請求項10又は11に記載の水面波挙動検出方法。
  13. 前記所定のスペクトル分布は、ブレットシュナイダーのスペクトル分布であることを特徴とする請求項10乃至12のいずれか1項に記載の水面波挙動検出方法。
  14. 前記波生成式は、振幅を前記項数で除算し、波数,周波数,及び,位相を前記項数で乗算した波生成式であることを特徴とする請求項10乃至13のいずれか1項に記載の水面波挙動検出方法。
  15. 前記第4のステップは、共役勾配法を用いて前記速度ベクトルを推定することを特徴とする請求項9乃至14のいずれか1項に記載の水面波挙動検出方法。
  16. 前記第3のステップは、前記ロバスト関数に対してローレンツ関数を用いることを特徴とする請求項9乃至15のいずれか1項に記載の水面波挙動検出方法。
  17. 請求項9乃至16のいずれか1項に記載の水面波挙動検出方法における各ステップをコンピュータによって実行させることを特徴とする水面波挙動検出プログラム。
JP2007108577A 2007-04-17 2007-04-17 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム Expired - Fee Related JP4527747B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007108577A JP4527747B2 (ja) 2007-04-17 2007-04-17 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007108577A JP4527747B2 (ja) 2007-04-17 2007-04-17 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム

Publications (2)

Publication Number Publication Date
JP2008269097A true JP2008269097A (ja) 2008-11-06
JP4527747B2 JP4527747B2 (ja) 2010-08-18

Family

ID=40048544

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007108577A Expired - Fee Related JP4527747B2 (ja) 2007-04-17 2007-04-17 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム

Country Status (1)

Country Link
JP (1) JP4527747B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066184A (ja) * 2014-09-24 2016-04-28 日本電信電話株式会社 物理的な動き推定方法および装置
JP2018152106A (ja) * 2018-05-02 2018-09-27 株式会社日立国際電気 水上侵入検知システムおよびその方法
WO2020195231A1 (ja) * 2019-03-25 2020-10-01 株式会社デンソー 車両における路面状態判定装置、運転支援システムおよび路面状態判定方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0281183A (ja) * 1988-09-16 1990-03-22 Nippon Telegr & Teleph Corp <Ntt> 2次元速度推定方法
JPH1049044A (ja) * 1996-07-30 1998-02-20 Toyo Constr Co Ltd 造波方法
JPH10325765A (ja) * 1997-05-23 1998-12-08 Yokohama Rubber Co Ltd:The 湾水振動を考慮した波浪強制力の測定方法
JP2000266863A (ja) * 1999-03-17 2000-09-29 Port & Harbour Res Inst Ministry Of Transport 短波海洋レーダによる波浪方向スペクトル抽出法
JP2003256844A (ja) * 2002-02-28 2003-09-12 Nippon Telegr & Teleph Corp <Ntt> パターン推定方法、パターン推定装置、パターン推定方法のプログラムおよびこのプログラムを記録した記録媒体
JP2003288603A (ja) * 2002-03-28 2003-10-10 Nippon Telegr & Teleph Corp <Ntt> 映像シーン予測方法、装置、プログラム、および記録媒体
US20050018882A1 (en) * 2003-06-30 2005-01-27 Iowa University Research Foundation Controlled surface wave image velocimetry
JP2005250708A (ja) * 2004-03-03 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> 道具動作認識装置および道具動作認識方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0281183A (ja) * 1988-09-16 1990-03-22 Nippon Telegr & Teleph Corp <Ntt> 2次元速度推定方法
JPH1049044A (ja) * 1996-07-30 1998-02-20 Toyo Constr Co Ltd 造波方法
JPH10325765A (ja) * 1997-05-23 1998-12-08 Yokohama Rubber Co Ltd:The 湾水振動を考慮した波浪強制力の測定方法
JP2000266863A (ja) * 1999-03-17 2000-09-29 Port & Harbour Res Inst Ministry Of Transport 短波海洋レーダによる波浪方向スペクトル抽出法
JP2003256844A (ja) * 2002-02-28 2003-09-12 Nippon Telegr & Teleph Corp <Ntt> パターン推定方法、パターン推定装置、パターン推定方法のプログラムおよびこのプログラムを記録した記録媒体
JP2003288603A (ja) * 2002-03-28 2003-10-10 Nippon Telegr & Teleph Corp <Ntt> 映像シーン予測方法、装置、プログラム、および記録媒体
US20050018882A1 (en) * 2003-06-30 2005-01-27 Iowa University Research Foundation Controlled surface wave image velocimetry
JP2005250708A (ja) * 2004-03-03 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> 道具動作認識装置および道具動作認識方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016066184A (ja) * 2014-09-24 2016-04-28 日本電信電話株式会社 物理的な動き推定方法および装置
JP2018152106A (ja) * 2018-05-02 2018-09-27 株式会社日立国際電気 水上侵入検知システムおよびその方法
WO2020195231A1 (ja) * 2019-03-25 2020-10-01 株式会社デンソー 車両における路面状態判定装置、運転支援システムおよび路面状態判定方法

Also Published As

Publication number Publication date
JP4527747B2 (ja) 2010-08-18

Similar Documents

Publication Publication Date Title
Fedele et al. Space–time measurements of oceanic sea states
JP5213486B2 (ja) 対象物追跡装置および対象物追跡方法
Labati et al. Wildfire smoke detection using computational intelligence techniques enhanced with synthetic smoke plume generation
CN104200236A (zh) 基于dpm的快速目标检测方法
WO2008050320A2 (en) Blind restoration of images degraded by isotropic blur
CN109815865A (zh) 一种基于虚拟水尺的水位识别方法及系统
JP6785751B2 (ja) モデル生成装置、生成方法、及びプログラム
CN109632808A (zh) 棱边缺陷检测方法、装置、电子设备及存储介质
Chuang et al. Green water velocity due to breaking wave impingement on a tension leg platform
Chen et al. A wavelet based deep learning method for underwater image super resolution reconstruction
Alvise et al. Space-time extreme wind waves: Analysis and prediction of shape and height
JP4527747B2 (ja) 水面波挙動検出装置、水面波挙動検出方法、及び、水面波挙動検出プログラム
Sun et al. Video input driven animation (vida)
Kandaurov et al. Average velocity field of the air flow over the water surface in a laboratory modeling of storm and hurricane conditions in the ocean
CN103489201A (zh) 基于运动模糊信息的目标跟踪方法
JP4553915B2 (ja) 動き検出装置、動き検出方法、及び、動き検出プログラム
JP5709255B2 (ja) 画像処理方法および監視装置
Spencer et al. Determining scale and sea state from water video
Chen et al. Evolution of breaking waves on sloping beaches
Shen et al. Video-based vibration measurement for large structure: A spatiotemporal disturbance-adaptive morphological component analysis
CN114119670A (zh) 一种基于智能手机获取河流视频的流速测量方法
CN108959355A (zh) 一种船只分类方法、装置及电子设备
Fazekas et al. Dynamic texture recognition using optical flow features and temporal periodicity
Jeon et al. Multi-point measurement of structural vibration using pattern recognition from camera image
Sokołowski et al. Wind Turbines Modeling as the Tool for Developing Algorithms of Processing their Video Recordings

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100330

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100518

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100603

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140611

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees