JP5162412B2 - トンネル壁面撮影装置 - Google Patents

トンネル壁面撮影装置 Download PDF

Info

Publication number
JP5162412B2
JP5162412B2 JP2008278287A JP2008278287A JP5162412B2 JP 5162412 B2 JP5162412 B2 JP 5162412B2 JP 2008278287 A JP2008278287 A JP 2008278287A JP 2008278287 A JP2008278287 A JP 2008278287A JP 5162412 B2 JP5162412 B2 JP 5162412B2
Authority
JP
Japan
Prior art keywords
wall surface
tunnel wall
image
tunnel
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008278287A
Other languages
English (en)
Other versions
JP2010106495A (ja
Inventor
望 長峯
正人 鵜飼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Railway Technical Research Institute
Original Assignee
Railway Technical Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Railway Technical Research Institute filed Critical Railway Technical Research Institute
Priority to JP2008278287A priority Critical patent/JP5162412B2/ja
Publication of JP2010106495A publication Critical patent/JP2010106495A/ja
Application granted granted Critical
Publication of JP5162412B2 publication Critical patent/JP5162412B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正し、適正なトンネル壁面画像を得るトンネル壁面撮影装置に関する。
特開平6−42300号公報(特許文献1)には、撮影対象のトンネル内の線路上を走行する車両上に設置された1台のラインセンサカメラで撮影してトンネル周方向のラインデータとし、このラインデータを移動距離に応じて並べることにより、トンネル壁面の展開画像を得るトンネル壁面撮影装置であって、曲面鏡に映されたトンネル壁面を前記1台のラインセンサカメラで撮影することを特徴とするトンネル壁面撮影装置が記載されている。
特開平11−289800号公報(特許文献2)には、撮影対象のトンネル内の線路上を走行する車両上に設置され、前記トンネルの周方向に沿ったラインを複数に分割した分割ラインのそれぞれに対応付けて設置され、その対応付けられた分割ラインを撮影して分割ラインデータとして出力する複数のラインセンサカメラを備えたトンネル壁面撮影装置が記載されている。
特開2001−43353号公報(特許文献3)には、撮影対象のトンネル内の線路上を走行する車両上に設置され、前記トンネルの周方向に沿ったラインを複数に分割した分割ラインのそれぞれに対応付けて設置され、その対応付けられた分割ラインを撮影して分割ラインデータとして出力する複数のラインセンサカメラと、所定のタイミングごとに前記複数のラインセンサカメラが出力した分割ラインデータを取り込むデータ取得手段と、前記データ取り込み手段によって取り込まれた各分割ラインデータにつき、分割ラインデータを構成する各画素の位置をラインセンサカメラの結像面上からトンネル壁面上に変換し、該変換後の位置間隔を求め、その位置間隔に応じて分割ラインデータの画素間隔を補正する画素間隔補正手段と、前記画素間隔補正手段による補正後の分割ラインデータに基づいて前記トンネル壁面の展開画像を作成する展開画像作成手段とを備えたことを特徴とするトンネル壁面撮影装置が記載されている。
ところで、上述のいずれのトンネル画像撮影装置においても、撮影対象のトンネル内の線路上を走行する車両の移動速度が一定でなかった場合には、得られたトンネル壁面画像は実際のトンネル壁面を適正に表示したものではなくなってしまう。撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影してトンネル壁面画像を得るトンネル壁面撮影装置においては、車両の移動速度を一定に保つことは現実的には不可能である。線路のカーブ等のように路面にはカント(傾斜角度)があり、線路には勾配があり、更に運転士の不適切な操作も起こり得るからである。
一般的なラインセンサカメラは画像の取り込みタイミングが一定なので、撮影対象のトンネル内の線路上を走行する車両の移動速度が一定でなかった場合、トンネル壁面撮影装置で得られたトンネル壁面画像は車両の移動速度に対応して伸び縮みし、適正な画像でなくなってしまう。そこで、撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正し、進行方向に対して歪のないトンネル壁面画像を得ることが求められる。
特開平6−42300号公報 特開平11−229800号公報 特開2001−43353号公報
本発明が解決しようとする第1の課題は、撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正し、歪のないトンネル壁面画像を得るトンネル壁面撮影装置を提供することである。
本発明が解決しようとする第2の課題は、撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正し、歪のないトンネル壁面画像を得るトンネル壁面撮影装置であって、前記速度データを非接触で取得することである。
上記課題を解決するために、撮影対象のトンネル内の線路上を走行する車両に搭載されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正するトンネル壁面撮影装置において、前記車両の進行方向の速度データを、トンネル壁面に向けて前記車両に設置されたビデオカメラで前記ラインセンサカメラによるトンネル壁面撮影と同時に撮影したビデオ画像を信号処理装置で処理して得るようにした。
本発明により、撮影対象のトンネル内の線路上を走行する車両上に設置されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正し、歪のないトンネル壁面画像が得られるトンネル壁面撮影装置において、作業性に優れ、且つ価格も安いトンネル壁面撮影装置が提供された。
即ち、補正された画像はトンネルの進行方向に対する画素間の距離が正しく正規化されているので、画像から直接ひび割れなどの変状の位置、幅、長さを精密に計測でき、歪のないトンネル壁面画像が得られるようになった。
また、速度データを非接触で取得できるので、撮影の都度、トンネル壁面撮影装置を搭載する車両を改造する必要がなくなった。
更にまた、ビデオ画像を信号処理して速度データを非接触で取得するようにしたので、トンネル壁面撮影装置に新たに速度センサを取り付ける必要がなくなった。
本発明は、トンネル内の線路上を走行する車両に搭載されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正するトンネル壁面撮影装置であって、前記車両の進行方向の速度データをトンネル壁面に向けて前記車両に設置されたビデオカメラで前記ラインセンサカメラによるトンネル壁面撮影と同時に撮影したビデオ画像を信号処理装置で処理して得るようにしたことを特徴とするものである。
本発明に係るトンネル壁面撮影装置は、車両速度検出装置1とラインセンサカメラ画像データ補正装置2とで構成されている。車両速度検出装置1は、図1に示す如く、信号処理装置10とビデオカメラ15及び距離計16で構成されている。信号処理装置10は、プログラムに従って所定の演算を行う制御部11、各種プログラムと各種データが記憶された記憶部12、モニター13及びプリンタ14で構成されている。信号処理装置10において、制御部11は、ビデオカメラ15で撮影されたトンネル壁面のビデオ画像データを記憶部12に記憶する。また、制御部11は、距離計16から入力された距離データを記憶部12に記憶する。前記距離データは、ビデオカメラ12とトンネル壁面までの距離データである。
ラインセンサカメラ画像データ補正装置2は、図1に示す如く、信号処理装置20とラインセンサカメラ25で構成されている。信号処理装置20は、プログラムに従って所定の演算を行う制御部21、各種プログラムと各種データが記憶された記憶部22、モニター23及びプリンタ24で構成されている。信号処理装置20において、制御部21は、ラインセンサカメラ25で撮影されたトンネル壁面の画像データを記憶部22に記憶する。
次に、本発明に係るトンネル壁面撮影装置の動作について説明する。トンネル壁面撮影装置が搭載された車両の速度(以下、車両速度と記載する。)を取得するためには、トンネルの壁面に向けてビデオカメラ15を設置し、ラインセンサカメラ25によるトンネル壁面撮影と同時に、ビデオカメラ15でトンネル壁面を撮影する。ビデオカメラ15の映像は一般的に30分の1秒間隔の静止画と考えられるので、隣接するフレーム画像間の画像相関を取り画素移動量を算出する。
画像相関の取得に当たっては、図2に示す如く、或る時間tにおけるフレーム画像(A)の中から、注目領域として例えば100×100ピクセルの矩形領域を切り出し、続いて、t+1秒後のフレーム画像(B)の中から前記注目領域と一致する領域がどこかを特定する探索を車両速度検出装置の信号処理装置10で行う。フレーム画像(A)とフレーム画像(B)は隣接するフレーム画像である。
(画像相関の求め方)
信号処理装置10による前記探索は、輝度差の二乗和を求める数式1、又は差分絶対値総和ε(d)を求める数式2を用いて、或いは、正規化相互相関r(d)を求める数式3を用いて行われる。但し、これらの数式において、Iは画像の輝度、xは画像中のピクセルの位置、dは画素移動量、εは残差、rは相関値を表す。
Figure 0005162412
Figure 0005162412
Figure 0005162412
(画素移動量dの求め方)
数式1又は数式2を用いて、或る時間tにおけるフレーム画像と隣接する時間t+1におけるフレーム画像を比較したとき、上述の注目領域が一致したときには、輝度差の二乗和又は差分絶対値総和ε(d)は最小になる。従って、輝度差の二乗和又は差分絶対値総和ε(d)が最小になる距離d、即ち画素移動量dを求めることができる。
車両速度検出装置の信号処理装置10による前記処理は、例えば図4のフローチャートに従って行われる。即ち、ビデオカメラ15によるトンネル壁面撮影画像が信号処理装置10の記憶部12に記憶される(101)と、制御部11はプログラムに従って数式1の処理を行う。先ず、制御部11は、iに1を代入する(102)。続いて、制御部11はiが全てのフレーム画像数になったか否かを判定する(103)。ステップ103の判定でNoならば、制御部11はdに1を代入する(104)。続いて、制御部11はdが横幅に達したか否か判定する(105)。ステップ105の判定でNoならば、制御部1は、iフレームとi+1フレームに対してd画素ずらした画像相関ε(d)を求める(106)。ステップ106の処理は、dが横幅に達するまで続く。ステップ105の判定結果がYesになると、制御部11は、画像相関値ε(d)が一番小さい値を出力した「ずらし画素量d」を「画素移動量d」として記憶部12に保存する。ステップ104からステップ107の処理は、iが全フレーム画像数になるまで行われる。
(距離Lの求め方)
一方、車両速度検出装置は、距離計16を用いて、ビデオカメラ15からトンネル壁面までの距離計測を行い(108)、距離データLを記憶部12に記憶する。距離計16には、ステレオカメラを用いた距離計、レーザー距離計、超音波距離計が利用できる。また、距離データLは、距離計16を用いずに、既存のトンネル断面図面を用いて算出して取得し、予め記憶部12に予め記憶しておいたものを利用することもできる。
(車両速度の算出)
全フレーム画像の画素移動量dが得られ、且つビデオカメラ15からトンネル壁面までの距離計測が終了すると、車両速度検出装置は、実移動量を算出し、車両速度を算出する。即ち、制御部11はiが全フレーム画像数になったと判定したときには、記憶部12に保存されている画素移動量d、即ち得られた全フレーム画像の画素移動量dと、ビデオカメラ15からトンネル壁面までの距離データLに基づいて実移動量Dを算出し(109)、この実移動量から車両速度を算出する(110)。
即ち、実移動量から車両速度を算出する処理は、より詳細に説明すれば、算出された画素移動量dから、1画素当たりの実際の大きさである画像解像度を用いて、実際の移動量Dを取得し(109)、最後に、ビデオカメラ15のビデオフレームレート、ここでは30分の1秒を用いて、車両速度に換算する(110)処理である。
上記画像解像度の取得に当たっては、ビデオカメラ15のCCDの大きさ(横幅)w、焦点距離f、ビデオカメラ15から対象物である壁面までの距離Lから、撮影される実際の長さ(横幅)Wを(=wL/f)から求める。ビデオカメラ15のCCDの横方向の画素数が640であれば、その画像解像度は、W/640(=wL/640f)となる。すると、30分の1秒の間に車両が移動した実移動量Dは画素移動量dに画像解像度を乗じて、dwL/640fとなる。従って、車両が1秒間に移動した距離は30D(=30wL/640f)、1時間に移動した距離[km]は3600/1000を乗じて、108L/640fとなる。即ち、車両速度V[km/h]は108L/640f[km/h]となる。以上の処理により、ビデオカメラ15を搭載した車両の実際の移動速度が求まる。
ところで、画像解像度は、本発明に係るトンネル壁面撮影装置が搭載された車両に、2点間の距離が既知の平行レーザーポインタを設置し、この平行レーザーポインタを撮影対象のトンネル壁面に照射して求める方法がある。即ち、この方法によれば、撮影対象の「トンネル壁面には距離が既知の2つのレーザーポイントが現れることになる。従って、ビデオカメラ15が撮影したトンネル壁面のビデオ画像中の2つのレーザーポイント間の距離から、30分の1秒の間に実際に移動した距離が算出でき、画像解像度を求めることも出来る。この解像度算出方法によれば、ビデオカメラ15のCCDの大きさ(横幅)wと焦点距離fを考慮する必要がなく、またビデオカメラ15から対象物である壁面までの距離Lを求める距離計16も不要になる。
(画像補正のしかた)
次に、ラインセンサカメラ25が撮影したトンネル壁面影画像を車両速度で補正する方法の一例を説明する。車両速度によるラインセンサカメラ25のトンネル壁面画像の補正処理は、図5の流れに従って行われる。ラインセンサカメラ25は、上述のビデオカメラ15と同時に撮影対象のトンネル壁面を撮影し、そのトンネル壁面画像データは記憶部22に記憶されている(201)。
ラインセンサカメラ画像データ補正装置の信号処理装置20において、制御部21は、プログラムに従って記憶部22からトンネル壁面画像データを読み出し(202)、次いで車両速度検出装置1から車両速度データを取得する(203)、そして、トンネル壁面画像データを車両速度データで補正する(204)。トンネル壁面画像データを車両速度データで補正する処理は、例えば、フレーム画像の間引きと内挿を行うことである。これによって、ラインセンサ画像を車両の進行方向に対して、車両速度で補正される。
一例として、実際の車両の速度を
V [km/h]、欲しい解像度を A [mm/pixel]、実際のカメラのラインレートをN [Hz]とすると、速度Vの時に解像度Aで撮影するための目標ラインレートM [Hz]は数式3の如くとなる。
Figure 0005162412
ここで、実際のラインセンサカメラ25のラインレートをN [Hz]とすると、M/Nだけ間引き若しくは内挿を行うことにより、車両速度によるトンネル壁面画像データの補正が行える。なお、ラインレートとはラインセンサが1秒間に取得する映像ラインの数のことである。
具体的には、速度36km/hで、欲しい解像度1mm/pixelとすると、目標ラインレートMは、M= (1000×36)/ (3.6×1)
= 10000 [Hz]となる。ここで、実際のカメラのラインレートを5000[Hz]だとすると、M/N
= 10000/5000 =
2となり、2倍のライン数になるように内挿すればよいこととなる。即ち、1ラインごとに1ライン挿入すれば画像の補正ができる。
この例の場合で、速度が18km/hの時はM = 5000[Hz]となり、M/N = 1であるため、間引き若しくは内挿は行わなくてもよい。速度が9km/hの場合にはM = 2500[Hz]となり、M/N = 1/2であるためにライン数を半分に間引く必要がある。
本発明の実施例1のトンネル壁面撮影装置のブロック構成図の一例である。 本発明の実施例1のトンネル壁面撮影装置におけるビデオカメラのトンネル壁面画像の隣り合うフレーム画像の一例を模式的に示した図である。 本発明の実施例1のトンネル壁面撮影装置における画像解像度の求め方の一例を説明するための図である。 本発明の実施例1のトンネル壁面撮影装置におけるビデオカメラのトンネル壁面画像を利用した車両速度の算出処理の流れを示すフローチャートの一例である。 本発明の実施例1のトンネル壁面撮影装置におけるラインセンサカメラのトンネル壁面画像を、車両速度で補正する処理の流れを示すフローチャートの一例である。
符号の説明
1 車両速度検出装置
2 ラインセンサカメラ画像データ補正装置
10 信号処理部
11 制御部
12 記憶部
13 モニター
14 プリンタ
15 ビデオカメラ
16 距離計
20 信号処理部
21 制御部
22 記憶部
23 モニター
24 プリンタ
25 ラインセンサカメラ








Claims (7)

  1. 撮影対象のトンネル内の線路上を走行する車両に搭載されたラインセンサカメラで撮影して得られたトンネル壁面画像を前記車両の進行方向の速度データによって補正するトンネル壁面撮影装置において、
    前記車両の進行方向の速度データは、トンネル壁面に向けて前記車両に設置されたビデオカメラで前記ラインセンサカメラによるトンネル壁面撮影と同時に撮影したビデオ画像を信号処理装置で処理して得られたものであること、及び、
    前記信号処理装置の処理は、前記ビデオ画像の各フレーム画像間で画像相関を取って画素移動量を算出するステップ、算出された画素移動量から画像解像度を用いて実際の移動量を取得するステップ、及びビデオフレームレートを用いて車両速度に変換して速度データを取得するステップからなることを特徴とするトンネル壁面撮影装置。
  2. 前記画像解像度は、前記ビデオカメラのCCDの大きさ並びに焦点距離、及び前記ビデオカメラからトンネル壁面までの距離から求められるものであることを特徴とする請求項1に記載のトンネル壁面撮影装置。
  3. 前記距離は、ステレオカメラを用いて取得されたものであることを特徴とする請求項2に記載のトンネル壁面撮影装置。
  4. 前記距離は、レーザー距離計を用いて取得されたものであることを特徴とする請求項2に記載のトンネル壁面撮影装置。
  5. 前記距離は、超音波距離計を用いて取得されたものであることを特徴とする請求項2に記載のトンネル壁面撮影装置。
  6. 前記距離は、トンネル断面図面を用いて取得されたものであることを特徴とする請求項2に記載のトンネル壁面撮影装置。
  7. 前記画像解像度は、前記車両に設置された2点間の距離が既知の平行レーザーポインタをトンネル壁面に照射し、前記ビデオカメラのビデオ画像中の2つのレーザーポイント間の距離から算出して求められるものであることを特徴とする請求項1に記載のトンネル壁面撮影装置。
JP2008278287A 2008-10-29 2008-10-29 トンネル壁面撮影装置 Expired - Fee Related JP5162412B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008278287A JP5162412B2 (ja) 2008-10-29 2008-10-29 トンネル壁面撮影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008278287A JP5162412B2 (ja) 2008-10-29 2008-10-29 トンネル壁面撮影装置

Publications (2)

Publication Number Publication Date
JP2010106495A JP2010106495A (ja) 2010-05-13
JP5162412B2 true JP5162412B2 (ja) 2013-03-13

Family

ID=42296208

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008278287A Expired - Fee Related JP5162412B2 (ja) 2008-10-29 2008-10-29 トンネル壁面撮影装置

Country Status (1)

Country Link
JP (1) JP5162412B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9053561B2 (en) * 2012-03-23 2015-06-09 Specialty Minerals (Michigan) Inc. System and method for workpiece measurement during forging by image processing
KR101200917B1 (ko) 2012-07-24 2012-11-13 (주)대우건설 계측 장치를 구비하는 프로텍터
JP2015049765A (ja) * 2013-09-03 2015-03-16 公益財団法人鉄道総合技術研究所 トンネル覆工面画像の歪みを補正する方法
JP6196896B2 (ja) * 2013-12-05 2017-09-13 公益財団法人鉄道総合技術研究所 列車速度計測方法および列車位置特定方法並びにそれらの装置
CN110888423A (zh) * 2018-09-06 2020-03-17 刘春梅 一种用于隧道的智能巡检系统
CN114113118B (zh) * 2021-12-01 2023-10-13 同济大学 一种地铁隧道衬砌裂缝渗漏水病害快速检测装置及其检测方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2963284B2 (ja) * 1992-07-24 1999-10-18 財団法人鉄道総合技術研究所 トンネル検査装置
JP2003178309A (ja) * 2001-10-03 2003-06-27 Toyota Central Res & Dev Lab Inc 移動量推定装置

Also Published As

Publication number Publication date
JP2010106495A (ja) 2010-05-13

Similar Documents

Publication Publication Date Title
JP4193886B2 (ja) 画像表示装置
JP5162412B2 (ja) トンネル壁面撮影装置
EP2500748B1 (en) Stereo camera apparatus and method of obtaining image
JP5429291B2 (ja) 画像処理装置及び画像処理方法
US20140198184A1 (en) Stereo assist with rolling shutters
KR101097119B1 (ko) 비전센서 시스템의 터널 내부면 손상검사 방법
JP6070206B2 (ja) 位置座標変換システム、位置座標変換方法、車載装置、世界座標計測装置および位置座標変換プログラム
JP5494286B2 (ja) 架線位置測定装置
JP6594180B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
US11528411B2 (en) Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
WO2021070813A1 (ja) 誤差推定装置、誤差推定方法、誤差推定プログラム
JP5938327B2 (ja) 路面撮影システム及びトンネル壁面撮影システム
JP2000011157A (ja) 撮像装置
JP2015220623A (ja) 移動体撮像システム
US20090244275A1 (en) Compound eye photographing apparatus, control method therefor, and program
US20230274444A1 (en) Measuring device, moving device, measuring method, and storage medium
JP5881246B2 (ja) ラインセンサカメラを用いた撮影装置
JP2011033428A (ja) パンタグラフ高さ測定装置
JP6207435B2 (ja) 移動体搭載撮影システム
JP6602089B2 (ja) 画像処理装置及びその制御方法
JP2009239391A (ja) 複眼撮影装置およびその制御方法並びにプログラム
JP2006337270A (ja) 断面形状の測定方法及びその装置
JP2010157910A (ja) 画像表示装置
JP2021012155A (ja) 状態計測装置及び状態計測方法
JP6611687B2 (ja) 画像補正装置および画像補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121217

R150 Certificate of patent or registration of utility model

Ref document number: 5162412

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees