JP4751991B2 - 管渠内部の欠陥検出・判別方法及び装置 - Google Patents

管渠内部の欠陥検出・判別方法及び装置 Download PDF

Info

Publication number
JP4751991B2
JP4751991B2 JP2005209677A JP2005209677A JP4751991B2 JP 4751991 B2 JP4751991 B2 JP 4751991B2 JP 2005209677 A JP2005209677 A JP 2005209677A JP 2005209677 A JP2005209677 A JP 2005209677A JP 4751991 B2 JP4751991 B2 JP 4751991B2
Authority
JP
Japan
Prior art keywords
image
pipe
tube
correlation
axis direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005209677A
Other languages
English (en)
Other versions
JP2007024746A (ja
Inventor
アリレザ アハラリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kitakyushu Foundation for Advancement of Industry Science and Technology
Original Assignee
Kitakyushu Foundation for Advancement of Industry Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kitakyushu Foundation for Advancement of Industry Science and Technology filed Critical Kitakyushu Foundation for Advancement of Industry Science and Technology
Priority to JP2005209677A priority Critical patent/JP4751991B2/ja
Publication of JP2007024746A publication Critical patent/JP2007024746A/ja
Application granted granted Critical
Publication of JP4751991B2 publication Critical patent/JP4751991B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、下水道管等の管渠内部の欠陥の有無、状況を自動検査するための方法及びそのための装置に関する。
下水道管内やトンネル等の内部の欠陥の有無、程度を早期に検出し必要な処置を的確に施すことは、インフラ構造の安全性を確保・維持する上で重要である。たとえば、トンネル内部壁面に発生する析出物、湧水、浮き、ひび割れといった異常部分を発見するための検査を行う場合、検査員がトンネル内に入り、ライトで内壁面を照らし、目視によって異常部分を検出するという方法によっている。また、レール上を走行する車両にライト及びビデオを搭載し、内壁面の状況を撮影してこの画像によって検査することも行われている。
一方、トンネル内部等の広い空間の画像を取得すべく、図9に示すように、多数のカメラをレール上を走行する台車に搭載して撮像し、その画像を合成してトンネル内壁面のひび割れを検出する方法が提案されている(たとえば、特許文献1参照)。図9において、110はひび割れ検出装置、120は内部壁面、121はトンネル、130は撮像装置、131はカメラ、132は照明装置、133は画像記憶媒体、140は移動装置、141は台車である。この先行技術による場合、取得された画像データは、図10および図11に示すように、小区分に分割され濃度変化処理を施されてさらに、欠陥線の特徴処理を施される。これによって欠陥認知を行う。なお、図10および図11において、134は画像、135は連続画像、170は分布図、171は広範囲分布図、ROは画像データ、P1〜Piはファイルである。このトンネル内のひび割れ検出方法は、すべてのデータを解析することを前提としている処から、連続画像を分析するには多大の時間を要していた。
特開2001−141660号公報
前述のように、特許文献1に開示されている発明によるときは、多くのカメラ(特許文献1における図1乃至図3に示される処では、4台のカメラ)で撮像されたすべての画像を処理する必要がある処から、多大の画像処理時間を必要とし、欠陥検出・判別のリアルタイム性に欠ける問題があった。
本発明は、上記従来技術における問題を解決し、要処理画像データ量を格段に減少せしめ、下水道管等の内部欠陥の検出・判別をリアルタイムに行い得る管渠内部の欠陥検出・判別方法及びそのための装置を提供することを目的とする。
上記課題を解決するための請求項1に記載の発明は、a.管内部を無線又は有線で自動走行する管内走行装置に搭載され魚眼レンズを装着した1台の撮像装置で、管内部の画像を取得するステップ、
b.輝度変化が大きな管継目部に注目してエッジ抽出を行った後、管継目部の管軸方向前後に亘る領域の画像の切り出しを、予め用意したマスクによって関心領域外の画像をマスクした後に行うステップ、
c.該切り出された画像を分割し、分割された各部の輝度画像変換を行い、平均画像と各部の個別画像箇所との相関を演算算出し、一定の閾値以下の相関を示した画像箇所部に欠陥ありとリアルタイムで判定するステップ
とを有する管渠内部の欠陥検出・判別方法である。
請求項2に記載の発明は、管内部を無線又は有線で自動走行する管内走行装置と、該管内走行装置に搭載され管内を管軸方向に移動自在な、魚眼レンズを装着した1台の撮像装置と、該撮像装置によって取得された原画像における輝度変化が大きな管継目部のエッジ抽出を行った後、管継目部の管軸方向前後に亘る領域の画像の切り出しを、予め用意したマスクによって関心領域外の画像をマスクした後に行うとともに該切り出された画像を分割し分割された各部の輝度変換を行う画像処理手段と、各部の個別画像と平均画像との相関を演算算出し、一定の閾値以下の相関を示す画像箇所部分を欠陥部として検出・判別する演算手段とを有する管渠内部の欠陥検出・判別装置である。
本発明によれば、自動走行する管内走行装置に搭載された、魚眼レンズを装着した1台のカメラで下水道管等の内部を撮像するようにしたから、カメラが1台で済むとともに撮像領域を変えるための移動機構および/または首振り機構も不要となる。
また、下水道管の場合、その欠陥は殆ど管の周方向に延在する管継ぎ目部に存在する。而して、撮像画像の輝度変化が大きな管継ぎ目部のエッジ抽出を行った後、管継ぎ目部の管軸方向における所定領域を除く部分をマスクして画像の切り出しを行うようにしたから、1台のカメラのみでの撮像と相俟って要処理画像データ量を大きく低減せしめ得る。従って、従来技術に比し、画像データ処理時間を約1/10とすることができ、リアルタイム性のある欠陥検出・判別システムを構築できる。
さらに、管継ぎ目部の管軸方向における所定領域のみの画像を切り出すようにし、それ以外の領域をマスクするようにしたから、魚眼レンズによる撮像の場合に不可避な、原画像のコア部および周縁部における歪み部分を取り除くことができ、魚眼レンズによる撮像における画像の歪みの問題も併せ解決することができる。而して、シンプルな管内欠陥の検出・判別システムを構成することができる。
本発明において、魚眼レンズを装着した1台のカメラを搭載する管内走行装置としては、出願人が特願2005−017384号にて提案した、図7および図8に示す管内走行装置を好適に用いることができる。この管内走行装置は、図7および図8に示すように、フレーム2と、フレーム2の前部右側、前部左側、後部右側および後部左側に設けられた回動軸18〜21に軸支されて水平面内で回動自在な第1乃至第4のアーム3〜6と、第1乃至第4のアーム3〜6の一端に軸支されて水平面内で回転駆動される第1乃至第4の駆動輪11〜14と、第1乃至第4のアーム3〜6に回動軸18〜21回りの復元力を印加する第1および第2のばね15、16を備えた構成になる。
上記構成になる管内走行装置は、複雑な操舵機構や外部制御機構を用いることなく、彎曲した管路、内径の変化する管路、分岐のある管路等を自在に走行できるので、各種配管、わけても地中に埋設された上下水道配管、ガス配管の内部を検査する検査装置用として有用である。
本発明における管内撮像システムは、上記管内走行装置に搭載される、魚眼レンズを装着した1台のカメラで構成される。管内走行装置(ロボット)は、魚眼レンズを装着したカメラ(撮像装置)を1台搭載して下水道管等の管渠内を自律的に移動し、管内を魚眼レンズを装着したカメラで撮像して取得した画像データを、管内走行装置(ロボット)本体内に配設されたハードディスク等(図示せず)の記憶装置に格納するか或いは外部のコンピュータに伝送する。
而して本発明の管渠内部の欠陥検出・判別装置は、管渠内部を無線又は有線で自動走行する管内走行装置と、該管内走行装置に搭載され管内を管軸方向に移動自在な、魚眼レンズを装着した1台の撮像装置と、該撮像装置によって取得された原画像における輝度変化が大きな管継目部のエッジ抽出を行った後、管継目部の管軸方向前後に亘る領域の画像の切り出しを、予め用意したマスクによって関心領域外の画像をマスクした後に行うとともに該切り出された画像を分割し分割された各部の輝度変換を行う画像処理手段と、各部の個別画像と平均画像との相関を演算算出し、一定の閾値以下の相関を示す画像箇所部分を欠陥部として検出・判別する演算手段とから構成される。
本発明で対象とする下水道管等の場合、欠陥はその殆どが管の周方向に延在する管継ぎ目部に存在する。而して、魚眼レンズを装着したカメラで下水道管等の管渠内の画像を得、特に輝度変化が大きな管継ぎ目部に注目してエッジ抽出を行う。即ち、取得した画像に対しエッジ強度を算出することによって管継ぎ目部分の抽出が可能となる。然る後、管継ぎ目部の管軸方向前後に亘る所定領域、たとえば管継ぎ目部の上流方向に10cm、下流方向に10cm、合計20cmの領域Xの画像の切り出しを、該所定領域以外の部分を予め用意したマスクによってマスキングした後に行う。管継ぎ目部の管軸方向前後に亘る所定領域Xを大きくすれば広範囲でラフな欠陥検出・判別となり、小さくすれば狭範囲で詳細な欠陥検出・判別が可能となる。而してこの管継ぎ目部の管軸方向前後に亘る所定領域Xは必要に応じて適宜選択される。なお、上記マスキングは、コンピュータにおけるソフトウェア上で行うことができる。
こうして切り出された画像を、欠陥部を検出しやすいように、パノラマ展開し欠陥部強調処理を施す。欠陥部強調処理は、エッジ強度算出→輝度画像変換→画像の平滑化をパノラマ画像に施すことによってなされる。然る後、パノラマ画像を任意の部分に分割し、分割された個別画像と平均画像との相関を演算算出し、一定の閾値以下の相関を示した画像箇所部に欠陥ありと判定する。
図1に、魚眼レンズを装着したカメラで対象の画像を取得するときの視野を示す。図1に示すように、魚眼レンズの前面360°の視野を撮像対象とすることができる。図2および図3に、図7および図8に示す管内走行装置31に魚眼レンズ33を装着したカメラ(撮像装置)32を搭載した状態を示す。図2は側面図、図3は正面図である。
管内走行装置31は管内を自律的に移動し、カメラ32で撮像された画像データを管内走行装置(ロボット)31本体内に配設されたハードディスク(図示せず)の記憶装置に格納するか或いは外部のコンピュータに伝送する。
こうして取得された画像データを、以下のように処理する。
処理手順1) 画像の切り出し
取得されたビデオ画像から、特に輝度変化が大きな管継ぎ目部分を抽出する。管継ぎ目部分の抽出は、管継ぎ目部のエッジ強度を算出することによってなされる。次いで、図4(b)に示す、幅Xの環状部のコアおよび外周より外側部に予め用意したマスクを入力画像にかけ、図4(a)に示す、管継ぎ目部34の管軸方向における所定領域Xに相当する環状部分の切り出しを行う。本発明においては、下水道管等における欠陥の殆どは管の継ぎ目部に存在しているとの発明者の知見から、幅Xの環状部のコアおよび外周より外側部にマスクを入力画像にかけることによって、うまくこの管継ぎ目部34の管軸方向における所定領域Xに相当する環状部分の領域を抽出している。マスクの設定に際しては、管継ぎ目部34の管軸方向における前後20cm(図4(a)におけるXの領域)の画像を分析すれば必要十分である処から、図4(b)に示すように、管継ぎ目部34を中心とするX領域以外がマスクされるように、マスクの設定を行う。
処理手順2) パノラマ展開
管継ぎ目部34近傍の管内壁のみの情報を抽出するために、得られた切り出し画像から図5に示すように、図5における斜線部分の画像のみを抽出する。図5における領域rは図5のパノラマ展開図において、領域rとして表示される。パノラマ展開図において、図5におけるX部分は、高さXとして表示される。
処理手順3) 欠陥部強調処理
管内の欠陥部をより検出しやすいように、パノラマ展開した画像を、エッジ強度算出→輝度画像変換→画像の平滑化のプロセスによって欠陥部強調処理を施す。本発明においては、欠陥部には大きな輝度変化が起きているとの発明者の知見に基づいて、前記欠陥部強調処理を施す。
a.エッジ強度算出
エッジ強度の算出に際しては、エッジ抽出に利用するオペレータとして、ラプラシアンオペレータ、Sobelオペレータ、Prewittオペレータ等を適用することができる。
b.輝度画像変換
カラー画像として得られるパノラマ画像における各画素の(R、G、B)値を、輝度情報Yへ置き換える。この実施例においては、アルゴリズム
Y=0.3R+0.6G+0.1Bによって変換している。
c.画像の平滑化
ガウシアンフィルタによる輝度画像の平滑化を行う。これによって、ノイズを除去したり、軟調化したりする効果がある。
処理手順4) 欠陥部の判別
上記処理を施したパノラマ画像を、図6に示すように、任意の部分に分割する。この分割は、処理時間と欠陥箇所の位置精度との関連で適宜設定される。ここで、欠陥がない下水道管は、分割されたどの部分を切り出しても同じような画像であると仮定できる。そこで、下水道管内壁部の分割部分の平均画像を求めてこれをテンプレート画像とし、分割されたパノラマ画像の各分割部分との相関値を、たとえば次式によって算出する。
Figure 0004751991
,t:取得された画像の幅および高さ
x:原画像の水平軸における画素の座標
平均画像Iaverageは、次式によって算出される。
Figure 0004751991
N=942−50,t=50,t=50
N:テンプレート画像作成に用いられた画素の数
而して、予め設定した閾値以下の相関を示す画像分割部分がある場合は、その部分が欠陥部であると判別される。なお、前記閾値は、欠陥検出率(欠陥があることを検出できる確率)と誤検出率(欠陥ではないのに、欠陥であると判別する確率)との関係によって適宜設定される。下水道管等の内部欠陥がリアルタイムで検出・判別できることによって、欠陥部をその場でより詳細に撮像し、施すべき処置を的確に判断するのに資する。
本発明の管渠内部の欠陥検出・判別方法および装置は、下水道管等において、殆どの欠陥が発生する管継ぎ目のように、欠陥部位を特定できる場合に、画像の要処理量を大幅に減少せしめ得、欠陥検出・判別のリアルタイム性を確実ならしめる点で、特に有効である。しかし、トンネル等欠陥発生部位を特定できない場合であっても、魚眼レンズを装着した1台のカメラ(撮像装置)のみの画像取得で足りるから、画像処理時間の短縮に大きな効果を奏する。
本発明の一実施例に係る、魚眼レンズを装着したカメラで撮像するときの視野を示す平面図 本発明の一実施例に係る、魚眼レンズを装着したカメラを管内走行装置(ロボット)に搭載した状態を示す側面図 本発明の一実施例に係る、魚眼レンズを装着したカメラを管内走行装置(ロボット)に搭載した状態を示す正面図 本発明の一実施例に係る、下水道管等の画像切り出し領域である管継ぎ目部の、管軸方向における所定領域Xを示す模式図 (a)は正面図(b)は管軸方向から見た画像切り出し領域およびマスク領域を示す模式図 本発明の一実施例に係る、画像切り出し領域X(斜線部分)およびマスク領域mならびに画像切り出し領域におけるある領域rをパノラマ展開図上に対応させて示す模式図 本発明の一実施例に係る、パノラマ展開図における画像分割部分を示す模式図 本発明の一実施例に係る、管内走行装置(ロボット)を示す平面図 本発明の一実施例に係る、管内走行装置(ロボット)を示す正面図 従来の、トンネル内部壁面のひび割れ検出装置を示す正面図 図9に示すトンネル内部壁面のひび割れ検出装置におけるカメラの相対位置を示す説明図 図9に示すトンネル内部壁面のひび割れ検出装置における画像処理の状況を示す説明図
符号の説明
1 管内走行装置
2 フレーム
3 第1のアーム
4 第2のアーム
5 第3のアーム
6 第4のアーム
7 第1の駆動モータ
8 第2の駆動モータ
9 第3の駆動モータ
10 第4の駆動モータ
11 第1の駆動輪
12 第2の駆動輪
13 第3の駆動輪
14 第4の駆動輪
15 第1のばね
16 第2のばね
17 ペイロード
18 回動軸
19 回動軸
20 回動軸
21 回動軸
22 主管
31 管内走行装置(ロボット)
32 カメラ(撮像装置)
33 魚眼レンズ
34 管継ぎ目部
X 管継ぎ目部を含む管軸方向における所定領域
r 領域
110 ひび割れ検出装置
120 内部壁面
121 トンネル
130 撮像装置
131 カメラ
132 照明装置
133 画像記憶媒体
134 画像
135 連続画像
140 移動装置
141 台車
170 分布図
171 広範囲分布図
RO 画像データ
P1〜Pi ファイル

Claims (2)

  1. a.管内部を無線又は有線で自動走行する管内走行装置に搭載され魚眼レンズを装着した撮像装置で、管内部の画像を取得するステップ、
    b.管継目部に注目してエッジ抽出を行った後、管継目部の管軸方向前後に亘る所定領域の画像の切り出しを、予め用意したマスクによって関心領域外の画像をマスクした後に行うステップ、
    c.該切り出された画像を分割し、分割された各部の輝度画像変換を行い、平均画像と各部の個別画像箇所との相関を演算算出し、一定の閾値以下の相関を示した画像箇所部に欠陥ありとリアルタイムで判定するステップ
    とを有することを特徴とする管渠内部の欠陥検出・判別方法。
  2. 管内部を無線又は有線で自動走行する管内走行装置と、該管内走行装置に搭載され管内を管軸方向に移動自在な、魚眼レンズを装着した撮像装置と、該撮像装置によって取得された原画像における管継目部のエッジ抽出を行った後、管継目部の管軸方向前後に亘る所定領域の画像の切り出しを、予め用意したマスクによって関心領域外の画像をマスクした後に行うとともに該切り出された画像を分割し分割された各部の輝度変換を行う画像処理手段と、各部の個別画像と平均画像との相関を演算算出し、一定の閾値以下の相関を示す画像箇所部分を欠陥部として検出・判別する演算手段とを有することを特徴とする管渠内部の欠陥検出・判別装置。
JP2005209677A 2005-07-20 2005-07-20 管渠内部の欠陥検出・判別方法及び装置 Expired - Fee Related JP4751991B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005209677A JP4751991B2 (ja) 2005-07-20 2005-07-20 管渠内部の欠陥検出・判別方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005209677A JP4751991B2 (ja) 2005-07-20 2005-07-20 管渠内部の欠陥検出・判別方法及び装置

Publications (2)

Publication Number Publication Date
JP2007024746A JP2007024746A (ja) 2007-02-01
JP4751991B2 true JP4751991B2 (ja) 2011-08-17

Family

ID=37785698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005209677A Expired - Fee Related JP4751991B2 (ja) 2005-07-20 2005-07-20 管渠内部の欠陥検出・判別方法及び装置

Country Status (1)

Country Link
JP (1) JP4751991B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013180759A1 (en) * 2012-06-01 2013-12-05 Electro Scan, Inc. Electro-scan integration into video pipe inspection vehicle

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103345745B (zh) * 2013-06-21 2016-08-10 宁波成电泰克电子信息技术发展有限公司 一种碱性电池尾端缺陷检测的快速二次图像分割方法
NO343149B1 (no) 2014-04-22 2018-11-19 Vision Io As Fremgangsmåte for visuell inspeksjon og logging
JP6548857B1 (ja) * 2017-09-08 2019-07-24 三菱電機株式会社 変状検出装置および変状検出方法
JP2019190973A (ja) * 2018-04-24 2019-10-31 株式会社ザクティ 管路内撮像システム
CN108344550B (zh) * 2018-04-25 2024-02-02 广西大学 一种隧道振动台试验结构模型渐进式开裂破坏观测装置
CN110826588A (zh) * 2019-08-29 2020-02-21 天津大学 一种基于注意力机制的排水管道缺陷检测方法
CN114708226B (zh) * 2022-04-01 2024-06-21 辽宁中科力勒检测技术服务有限公司 一种基于光照影响的铜管内壁裂纹检测方法
CN115950892B (zh) * 2023-03-14 2023-05-26 江阴市华昌不锈钢管有限公司 基于图像识别不锈钢管外表面微裂纹自动化喷淋检测装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06281586A (ja) * 1993-03-25 1994-10-07 Osaka Gas Co Ltd 管内駆動台車
JPH09161056A (ja) * 1995-12-08 1997-06-20 Fuji Electric Co Ltd 円形容器内面検査方法
US7164476B2 (en) * 2000-05-30 2007-01-16 Oyo Corporation U.S.A. Apparatus and method for detecting pipeline defects
JP2002168617A (ja) * 2000-12-01 2002-06-14 Shinei Denshi Keisokki Kk トンネル等の管状物計測装置及びシステム
JP3870864B2 (ja) * 2002-07-16 2007-01-24 村田機械株式会社 管内探査装置
JP2004264237A (ja) * 2003-03-04 2004-09-24 Matsushita Electric Ind Co Ltd 亀裂検出装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013180759A1 (en) * 2012-06-01 2013-12-05 Electro Scan, Inc. Electro-scan integration into video pipe inspection vehicle
US9143740B2 (en) 2012-06-01 2015-09-22 Electro Scan, Inc. Electro-scan integration into video pipe inspection vehicle

Also Published As

Publication number Publication date
JP2007024746A (ja) 2007-02-01

Similar Documents

Publication Publication Date Title
JP4751991B2 (ja) 管渠内部の欠陥検出・判別方法及び装置
JP5175528B2 (ja) トンネル覆工のひび割れ検査装置
WO2019026785A1 (ja) 付着物検出装置、および、それを備えた車両システム
CN111667470B (zh) 一种基于数字图像的工业管道探伤内壁检测方法
JP5169336B2 (ja) 帯状体の穴・割れ欠陥検出装置
JP2009157929A (ja) 関心領域分割方法および関心領域分割装置
KR102043316B1 (ko) 2d 영상 기반의 용접 비드 인식 장치 및 그것을 이용한 그을음 제거 방법
JP2001091247A (ja) 距離データの検査方法およびその検査装置
Li et al. Detection algorithm of defects on polyethylene gas pipe using image recognition
CN112800974A (zh) 一种基于机器视觉的地铁轨道障碍物检测系统及方法
JP2020126636A (ja) 自動駐車システム内のセマンティックセグメンテーションを利用した駐車領域を検出するための方法及び装置
JPH11351862A (ja) 前方車両検出方法及び装置
JP2016206071A (ja) 検査装置及び検査方法
US9955136B2 (en) Distance measuring device and vehicle provided therewith
JP2014020926A (ja) 表面欠陥検査装置及び表面欠陥検査方法
JP6701327B2 (ja) グレア検出方法及び装置
JP2008160635A (ja) カメラ状態検出方法
KR101802207B1 (ko) 배관 내부 검사장비용 라인 인지 및 위치 검출 시스템 및 방법
CN113516608A (zh) 轮胎的缺陷检测方法和检测装置、轮胎检测设备
JP2005227055A (ja) 管渠内画像中のクラック抽出方法
JP4680659B2 (ja) 製品タイヤの外観検査方法と製品タイヤの外観検査補助装置
JP2011180049A (ja) パンタグラフ監視装置
JP2008171142A (ja) シミ欠陥検出方法及び装置
JP4863050B2 (ja) 色ムラ欠陥検査方法及び装置
JP6348020B2 (ja) 画像処理装置、画像処理方法およびそれを用いた検査方法。

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080711

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101216

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110118

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110318

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees