JP4516554B2 - 管内壁面画像展開システム - Google Patents

管内壁面画像展開システム Download PDF

Info

Publication number
JP4516554B2
JP4516554B2 JP2006273882A JP2006273882A JP4516554B2 JP 4516554 B2 JP4516554 B2 JP 4516554B2 JP 2006273882 A JP2006273882 A JP 2006273882A JP 2006273882 A JP2006273882 A JP 2006273882A JP 4516554 B2 JP4516554 B2 JP 4516554B2
Authority
JP
Japan
Prior art keywords
image data
image
sampling
line
svp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006273882A
Other languages
English (en)
Other versions
JP2008090782A (ja
Inventor
信男 磯貝
Original Assignee
ノザワ電子工業株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ノザワ電子工業株式会社 filed Critical ノザワ電子工業株式会社
Priority to JP2006273882A priority Critical patent/JP4516554B2/ja
Publication of JP2008090782A publication Critical patent/JP2008090782A/ja
Application granted granted Critical
Publication of JP4516554B2 publication Critical patent/JP4516554B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、上下水道管などの管状物の内壁面を撮影した画像から、管内壁面を管の長手方向に平面状に展開した展開画像を作成する管内壁面画像展開システムに関するものである。
上下水道管、給排気管、トンネル、ケーブル埋設管などの管状物、特に下水道管はヒビや亀裂等の損傷、その他の異常を発見するために、定期的な内壁面の調査、点検が必要である。そして、これらの調査においては管状物の内壁面を管の長手方向に切り開いて平面状に展開したような展開図の作成が行われてきた。近年、この展開図の作成は、従来の人間による手作業に代わり、管状物内部を管状物に沿って移動するカメラなどを用いて管状物の内壁面を撮影し、その撮影した画像データに画像処理を施すなどして行うことが多い。このような、管状物の内壁面の撮影画像から展開図としての展開画像を作成する従来の管内壁面画像展開システムの一例としては次の図7、図8に示すようなものがある。
図7に示す、従来の管内壁面画像展開システムの画像撮影手段20は、下水道管などの管状物10の内部に管状物10の中心軸13と画像撮影手段20の撮影画像の中心とがほぼ一致するように配置される。また、画像撮影手段20は管状物10の内壁面を撮影することができると共に、管状物10に沿って移動することが可能である。尚、図7、図8では便宜的に管状物10の上方向をA、下方向をC、右方向をB、左方向をDとし、画像撮影手段20による撮影画像の上方向をA’、下方向をC’、右方向をB’、左方向をD’として説明を行うものとする。
画像撮影手段20によって取得される管状物10の内壁面の画像データは、モニタ等の画面上では、図8(a)に示す内壁面画像34のように、管状物10の中心軸13が内壁面画像34のほぼ中心に位置するとともに、例えば内壁面画像34の上下左右方向A’、B’、C’、D’が管状物10の上下左右方向A、B、C、Dとに対応した円形の画像となる。この内壁面画像34から展開画像を作成するにあたっては、先ず図8(a)の破線で示す、内壁面画像34上に位置及び大きさが固定されたサンプリングライン30上の画像データを、例えばサンプリング開始点A’’からサンプリングライン30に沿って一周するようにサンプリングする。そして、サンプリングした画像データを縦1列の直線状に配列する画像展開処理を行う。その後、画像撮影手段20は次のサンプリング位置まで管状物10に沿って移動し、管状物10の内壁面の撮影を行う。ここで得られる内壁面画像34に対して、同様にサンプリングライン30上の画像データをサンプリングし、前に配列された展開画像の右列に縦一列の直線状に配列する画像展開処理を行う。これらの作業を繰り返すことにより、図8(b)に示すように、例えば管状物10の内壁面が画面上の上方向A’で切り開かれて平面状に広げられたような展開画像が作成される。ここで、仮に管状物10の内壁面に亀裂11やヒビ12などの異常等が存在していれば、図8(b)に示す展開画像を確認することでその異常の位置、寸法、形状等を正確に把握することができる。
このような管内壁面画像展開システムにおいて展開画像作成作業の高速化、効率化を図るためには、サンプリング位置間隔と画像撮影手段20の撮影間隔とが合致するように画像撮影手段20の移動速度を設定し、画像撮影手段20を管状物10に沿って一定速度で移動させながら、連続して管状物10の内壁面の撮影を行い、撮影された内壁面画像34に対して随時画像展開処理を行うことが望ましい。
しかしながら、1つのフレームの画像データから1箇所のサンプリング位置の画像展開処理を行う上記の管内壁面画像展開システムでは、画像の走査速度の関係上、その高速化には限度がある。
また、画像撮影手段20が何らかの障害により所定の移動速度より遅くなった場合には、その部分の展開画像は管状物10の長手方向に伸びた画像となり、逆に画像撮影手段20が所定の移動速度より速くなった場合には、その部分の展開画像は管状物10の長手方向に縮んだ画像となる。このように、歪みの生じた展開画像では異常の位置、寸法、形状等を正確に把握することはできない。このため、画像撮影手段20は一定の移動速度になるよう高精度に制御される必要がある。しかしながら、特に下水道管のように内壁の表面状態が場所ごとに変化するような管状物10内で、画像撮影手段20の移動速度を一定に制御することは難しく、このことが更に展開画像作成作業の高速化、効率化の妨げとなっている。
この問題に対して、下記[特許文献1]に開示された発明では、先ず、管状物10の内壁面を連続して撮影し記録媒体中に記録する。そして、記録された画像データについて1フレームごとに画像展開処理を行い展開画像を作成する。次に、作成された展開画像とその前のフレームの展開画像とから、展開画像の運動量及び運動方向を算出する。次に、算出された運動量に基づく幅で展開画像を短冊状に切り出すとともに、算出された運動方向に基づいて短冊状の展開画像を所定の位置に貼り付けることで、繋ぎ目のない連続した管状物の内壁面展開画像を作成している。
[特許文献1]に開示された発明によれば、展開画像から得られる展開画像の運動量に対応して展開画像の切り出す幅を調整するため、画像撮影手段20(特許文献1におけるカメラ)の速度を一定に制御しなくとも歪みの無い連続した管状物10の内壁面の展開画像を作成することができる。
特開2003−032674号公報
しかしながら[特許文献1]に開示された発明では、前後フレームの展開画像から運動量及び運動方向を算出するなど処理が極めて複雑なことに加え、1フレームごとに展開画像を作成するため、最終的な展開画像の作成に膨大な時間を要するという問題点がある。
本発明は上記事情を鑑みてなされたものであり、画像撮影手段の移動速度を一定に制御することなく、画像撮影手段により撮影された管状物の内壁面の画像データから、歪みの無い展開画像を短時間で作成する管内壁面画像展開システムを提供することを目的とする。
本発明は、
(1)管状物10の内部を当該管状物10に沿って移動しかつ、管状物10内の全天画像を撮影する画像撮影手段20からの全天画像データを基に、展開画像を作成する管内壁面画像展開システムにおいて、
前記画像撮影手段20からの取得した全天画像データ(画像データSv)中に全天画像データ(画像データSv)取得時の位置情報Spをデジタル信号として挿入する信号挿入部22と、
前記信号挿入部22により全天画像データ(画像データSvp)に挿入された位置情報Spから、当該全天画像データ(画像データSvp)が、管状物10の長手方向に等間隔に設定されたサンプリング位置に対してどこの位置で撮影されたものかを判断し、この判断結果に基づき前記管状物10の内形と相似形でかつ大きさの異なる複数のサンプリングライン300から、管状物10のサンプリング位置に対して最も近い位置に相当するサンプリングラインを選択し、選択されたサンプリングラインに沿って所定のサンプリング開始点から前記全天画像データ(画像データSvp)に対するサンプリングを、サンプリングされた画像データの総数が一定となるようにサンプリングライン毎に設定された間隔にて行い、更にサンプリングされた線画像データを一列の直線状にして配列することにより画像展開処理する画像処理部24と、
を備えたことを特徴とする管内壁面画像展開システムを提供することにより、上記課題を解決する。
(2)画像処理部24が、全天画像データ(画像データSvp)に挿入された位置情報Spを確認し、
全天画像データ(画像データSvp)が所定のサンプリング位置に到達しない位置で撮影されものと判断した場合に次の全天画像データ(画像データSvp)が入力するまで待機し、
全天画像データ(画像データSvp)が所定のサンプリング位置と合致する位置で撮影されたものと判断した場合に位置基準となるサンプリングラインを選択して線画像データのサンプリングを行い、
全天画像データ(画像データSvp)が所定のサンプリング位置を通過した位置で撮影されたものと判断した場合に通過したサンプリング位置に最も近い位置に相当するサンプリングラインを選択して順次線画像データのサンプリングを行うことを特徴とする上記(1)記載の管内壁面画像展開システムを提供することにより、上記課題を解決する。
(3)サンプリングされる個々の画素の画像データは、当該画素の近傍に位置する画素の画像データを、サンプリングラインを構成する理想サンプリング点の位置に基づいた比率で合成して取得されることを特徴とする上記(1)又は(2)記載の管内壁面画像展開システムを提供することにより、上記課題を解決する。
(4)前記信号挿入部22により位置情報Spが挿入された全天画像データ(画像データSvp)を偶数フィールドの全天画像データ(画像データSvp’)と奇数フィールドの全天画像データ(画像データSvp’)とに分割し、
分割された全天画像データ(画像データSvp’)中にそれぞれに挿入された位置情報Spに基づいて、サンプリングラインの選択を行うことを特徴とする上記(1)乃至(3)のいずれかに記載の管内壁面画像展開システムを提供することにより、上記課題を解決する。
本発明に係る管内壁面画像展開システムは、上記の構成により、
(1)画像データ撮影時の画像撮影手段の位置情報を撮影した画像データに挿入し、その位置情報に基づいて複数のサンプリングラインからサンプリング位置に対して最も近い位置に相当するサンプリングラインを選択して画像展開処理を行うため、画像撮影手段の移動速度を一定とせずとも歪みの無い展開画像を作成することができる。
(2)1つのフレームの画像データから、複数のサンプリング位置の画像展開処理を行うことも可能となるため、展開画像作成作業の高速化と効率化を図ることができる。
(3)1つのフレームの画像データを偶数フィールドの画像データと奇数フィールドの画像データとに分割し、それぞれの画像データに対して上記の処理を行うことで、1つのフレームの画像データから2箇所の撮影位置の画像データを取得することができるため、より展開画像作成作業の高速化と効率化を図ることができる。
本発明に係る管内壁面画像展開システムの実施の形態について図面に基づいて説明する。図1は本発明に係る管内壁面画像展開システムの概要を示すブロック図である。図2は本発明に係る管内壁面画像展開システムにおける画像データの表示画面の概略図である。図3は本発明に係る管内壁面画像展開システムの画像処理の第2の形態を説明するフローチャートである。図4は画像データのサンプリングを説明する概念図である。図5は姿勢検知手段を有する本発明に係る管内壁面画像展開システムの概要を示すブロック図である。図6は姿勢検知手段を有する本発明に係る管内壁面画像展開システムの動作を説明する図である。尚、従来の技術に係る図7、図8と同様の部材等に関しては同符号にて示す。
図1は本発明に係る管内壁面画像展開システムの概要を示すブロック図である。尚、図1においては、本発明と直接関係のない、画像撮影手段20の駆動装置や制御装置、遠隔操作の構成などに関するブロックについては記載及び説明を省略するものとする。
本発明に係る管内壁面画像展開システムは、画像撮影手段20からの画像データSvと位置情報取得手段26からの位置情報Spが入力され画像データSvpとして画像処理部24に出力する信号挿入部22と、入力された画像データSvpから展開画像データSfを作成する画像処理部24を有している。
画像撮影手段20は、管状物10の内壁面の全天画像を撮影する撮影部41を備えており、撮影部41により撮影された全天画像を画像データSvとして信号挿入部22に出力する。また、画像撮影手段20は、上下水道管、給排気管、トンネル、ケーブル埋設管などの管状物10の内部に配置され、管状物10に沿って自走あるいはケーブルなどにより牽引されて移動する。尚、画像撮影手段20は、画像撮影手段20の撮影画像との中心と管状物10の中心軸13とがほぼ合致するように管状物10の内部に配置されることが好ましい。画像撮影手段20の移動手段には車輪等が用いることが一般的であるが、管状物10に水が溜まっている場合には、画像撮影手段20に浮体等をつけて水に浮かせて移動させることも可能である。更に、画像撮影手段20には図示しない照明装置を備えており、管状物10内部を照らすことができる。
撮影部41としてはCCDカメラ、CMOSなどの周知の画像撮影装置を用いることができる。また、撮影部41に光ファイバを用いれば、管状物10の大きさが小さい場合でも管状物10の内壁面を撮影することが可能となる。撮影部41のレンズとしては管状物10内壁面の長手方向の全天画像を撮影するために広角レンズを用いることが好ましく、中でもレンズの光軸に対して略直角(対角180°)以上の撮影角度を有する超広角レンズを用い、撮影部41の周囲の内壁面を含むように管状物10内を撮影することが好ましい。また、撮影部41の撮影方向に所定の角度もしくは曲率を有する反射鏡を設けて、間接的に撮影部41の周囲の内壁面を撮影するようにしても良い。
位置情報取得手段26は画像撮影手段20の位置を取得し、位置情報Spとして信号挿入部22に出力する。位置情報取得手段26としては、レーザ光や電波を用いたものなど、周知の位置検知システムを用いることが可能である。中でも画像撮影手段20に接続されたケーブル、ワイヤ等を弛まないよう保持し、そのケーブル、ワイヤ等の送り出し量から画像撮影手段20の位置を検知し位置情報Spを取得するものが好ましい。尚、位置情報取得手段26による画像撮影手段20の位置の検知精度は、管状物10のサンプリング位置間隔の数分の1から数十分の1であることが好ましい。
信号挿入部22には、位置情報取得手段26からの位置情報Spが常に入力されており、信号挿入部22は画像撮影手段20から画像データSvが入力されたときの位置情報Spをデジタル信号として画像データSvに挿入することで、画像データSvを取得したときの画像撮影手段20の位置情報Spを、画像データSvに挿入することができる。信号挿入部22にて位置情報Spが挿入された画像データSvは画像データSvpとして画像処理部24に出力される。また、画像データSvpを記録媒体などに記録しておき、記録された画像データSvpを画像処理部24に入力して後述する一連の処理を行うことも可能である。尚、画像データSvもしくは画像データSvpを図示しないモニタ等で表示するようにして、作業者が画像撮影手段20が撮影した画像を観察できるようにしても良い。
画像処理部24に入力された画像データSvpは、画像データSvpの位置情報Spに基づいて後述するサンプリングライン選択処理及び、画像展開処理を行い、管状物10の内壁面が平面状に広げられたような展開画像データSfとして出力手段45に出力する。ここでの、出力手段45とは記録媒体などに記録する記録機器、紙等に印刷するプリンタ、画面に表示するモニタなどであり、出力手段45により展開画像データSfは記録、印字、もしくは表示等がされる。尚、出力手段45は複数設けても良い。
ここで仮に、位置情報Spと画像データSvとを個別の信号として処理部に入力して画像処理を行う場合を考える。この場合、処理部は画像データSvとその画像データSvが取得されたときの位置情報Spとを同期する必要がある。しかしながら、処理部はこの同期処理以外にも他の複数の処理を並行して行う場合が多く、このような場合にはこの同期処理に遅延時間が生じる。この遅延時間は処理部が並行して行っている処理の数、内容等によって左右されるものであることから、この一定でない遅延時間を補正して画像データSvと位置情報Spとの同期を正確にとるためには極めて複雑な処理を要する。本発明の管内壁面画像展開システムは、前述のように信号挿入部22により画像データSvに位置情報Spを挿入するため、それぞれの画像データSvpに挿入された位置情報Spは画像データSvp毎に確定したものとなり変化することが無い。そして、画像処理部24はそれぞれの画像データSvpに挿入された位置情報Spに基づいて後述するサンプリングライン選択処理及び、画像展開処理を行うため、複雑な処理を行わなくとも、常に画像データSvと位置情報Spとは一致するのである。
次に、画像処理部24のサンプリングライン選択処理及び、画像展開処理に関して詳しく説明する。
図2は画像データSvpをモニタなどに表示したときの画面の概略を示した図である。画像処理部24に入力される画像データSvpには、管状物10の内壁面を撮影した画像データSvからの内壁面画像34とともに、デジタル信号として挿入された位置情報Spが、画面の走査方向と平行な明暗(一般的なディスプレイでは白黒)のドット列32として表示される。尚、図2においては、位置情報Spの挿入位置が画面上部、即ち画像データSvの先頭部分に挿入した例を用いたが、特に先頭部分に挿入する必要はなく、画像データSvの末尾部分や途中部分に挿入しても良い。ただし、管状物10の内壁面画像34に大きく影響を与えない部位に挿入されることが好ましい。
内壁面画像34には、図2中の破線で示す、中心点が同一で大きさが異なる複数のサンプリングライン300が設けられる。サンプリングライン300の数は特に限定は無く、例えば5、10、50、100、200個とすることができ、特に100個程度が好ましい。図2においてはサンプリングライン300の数が10個の例を示しており、大きさの小さい内側のサンプリングラインから順にサンプリングライン301、302、・・・、310とした。尚、図2では管状物10が円形の例を用いているためにサンプリングライン300も管状物10の内形と相似形である円形となる。また、このサンプリングライン300は概念的なものであり、図2中では便宜上破線にて示しているが、サンプリングライン300による画像データSvpのサンプリングは実際には画像処理部24の内部で行われるため、特に画面上に表示しなくとも良い。
尚、図2では管状物10が円形の例を用いておりサンプリングライン300も円形となるため、以降は管状物10の大きさ及び、サンプリングライン300の大きさを径と記載するものとする。
各サンプリングライン300の径は、それぞれの隣り合うサンプリングラインの径の差が、管状物10の長手方向の距離に対して等間隔になるように設定することが好ましい。例えば、管状物10の長手方向の距離に対して0.5mm間隔でサンプリングライン300を形成したい場合には、それぞれの隣り合うサンプリングライン301と302、サンプリングライン302と303、・・・サンプリングライン309と310の径の差が、管状物10の長手方向の距離に対して0.5mmに相当するように各サンプリングラインの径を設定する。尚、いくつかのサンプリングライン、例えばサンプリングライン301、305、及び310の径の差を管状物10の長手方向の距離に対して等間隔になるように設定し、その間に位置するサンプリングラインの径は、設定されたサンプリングライン301、305及び、サンプリングライン305、310の径に対し画面上で等間隔になるように近似して設定しても良い。
画像処理部24にて管内壁面の展開画像の作成を行うためには、予め管状物10のサンプリング位置の間隔と管状物10の径を入力する。管状物10の径が入力されることで、隣り合うサンプリングライン、例えばサンプリングライン301とサンプリングライン302との径の差が管状物10の長手方向の距離のいくつに相当するかが算出される。尚、サンプリングライン300の数や、隣り合うサンプリングラインの径の差を任意に設定できるようにすれば、管状物10の大きさや、管状物10の調査目的に則した展開画像をより効率良く作成することができる。
ここで、画像処理部24におけるサンプリングライン選択処理及び、画像展開処理の第1の形態を、画像撮影手段20が管状物10に沿って手前側から奥側に向かって前進し、管状物10のサンプリング位置間隔を長手方向に1mm、隣り合うサンプリングラインの径の差が管状物10の長手方向の距離の0.5mmに相当する場合を例として説明する。この場合、画面上の最内周のサンプリングライン301が画像撮影手段20の進行方向の一番遠い位置のサンプリングラインとなり、最外周のサンプリングライン310が画像撮影手段20の進行方向の一番手前に位置するサンプリングラインとなる。
先ず、開始位置にて画像撮影手段20が管状物10の内壁面を撮影し、得られた画像データSvを信号挿入部22に出力する。出力された画像データSvは信号挿入部22にて位置情報Spが挿入され、画像データSvpとして画像処理部24に出力される。画像処理部24は画像データSvpの位置情報Spから開始位置を認識すると共に、位置基準となる最内周のサンプリングライン301上の画像データを例えばサンプリング開始点A’’からサンプリングし、縦1列の直線状に配列する画像展開処理を行う。
次に、画像撮影手段20は管状物10に沿って前進しながら、連続して管状物10の内壁面を撮影し、画像データSvを取得する。取得された画像データSvは同様にして、信号挿入部22にて位置情報Spが挿入され画像データSvpとして画像処理部24に出力される。前述のように画像処理部24にはサンプリング位置間隔が予め入力されているため、画像処理部24は入力された画像データSvpの位置情報Spから、画像データSvpの画像がサンプリング位置に対してどこの位置で撮影されたものかを判断することが可能となる。
画像処理部24に入力された画像データSvpが、次のサンプリング位置に到達しない位置で撮影された画像データSvpと判断された場合、画像処理部24は画像展開処理は行わず、次の画像データSvpが入力されるまで待機する。
画像処理部24に入力された画像データSvpが、次のサンプリング位置と合致する位置で撮影された画像データSvpと判断された場合、画像処理部24は最内周のサンプリングライン301を選択し、サンプリングライン301上の画像データをサンプリング開始点A’’からサンプリングする。その後、前に縦1列に配列された展開画像の右の画素列に、新たにサンプリングされた画像データを縦1列の直線状に配列することで画像展開処理を行う。
画像処理部24に入力された画像データSvpが、次のサンプリング位置を0.5mm過ぎた位置で撮影された画像データSvpであると判断された場合、画像処理部24は位置基準となるサンプリングライン301から0.5mm手前の位置に相当するサンプリングライン302を選択し、同様にしてサンプリングライン302上の画像データをサンプリングし、前に縦1列に配列された展開画像の右の画素列に縦1列の直線状に配列する画像展開処理を行う。尚、この際のサンプリングは、各サンプリングラインでサンプリングされる画像データの総数が一定となるようにサンプリングライン毎に設定された間隔にて行う。このため、得られる展開画像に歪みが生じることはない。
画像処理部24に入力された画像データSvpが、次のサンプリング位置を2.5mm過ぎた位置で撮影された画像データSvpであると判断された場合、画像処理部24は先ず位置基準となるサンプリングライン301から2.5mm手前の位置に相当するサンプリングライン306を選択し、サンプリングライン306上の画像データをサンプリングライン毎に設定された間隔でサンプリングし、同様な画像展開処理を行う。次に、画像処理部24は位置基準となるサンプリングライン301から1.5mm手前の位置に相当するサンプリングライン304を選択し、サンプリングライン304上の画像データをサンプリングライン毎に設定された間隔でサンプリングし、同様な画像展開処理を行う。次に、画像処理部24は位置基準となるサンプリングライン301から0.5mm手前の位置に相当するサンプリングライン302を選択し、サンプリングライン302上の画像データをサンプリングライン毎に設定された間隔でサンプリングし、同様な画像展開処理を行う。よってこの場合には、1つの画像データSvpから3箇所のサンプリング位置の画像展開処理が外側のサンプリングラインから順次行われることとなる。
尚、サンプリング位置と合致するサンプリングライン300が存在しない場合には、サンプリング位置に対して最も近い位置に相当するサンプリングラインを選択し、同様な処理を行う。
これらの作業を繰り返すことで、管状物10の内壁面の展開画像が作成され、展開画像データSfとして出力手段45に出力される。尚、展開画像データSfの出力は画像展開処理毎に随時行うこともできる。
尚、隣り合うサンプリングラインの径の差を小さくし、管状物10のサンプリング位置間により多くのサンプリングラインを設けるようにすれば、実際のサンプリング位置と合致する理想サンプリングラインにより近い位置のサンプリングラインを選択することが可能となるため、更に精度の高い正確な展開画像の作成が可能となる。サンプリング位置間に設けるサンプリングラインの数は、管状物10の大きさ、調査目的にもよるが、概ね5個〜10個程度とすることが好ましい。
画像撮影手段20がケーブルで牽引される等などして後退しながら管状物10の内壁面を撮影する場合には、位置基準となるサンプリングラインを最外周のサンプリングライン310とし、1つの画像データSvpから複数のサンプリング位置のサンプリングが行われる際には、内側のサンプリングラインから順に処理を行う。また、サンプリングされた画像データは、展開画像の左の画素列に順次配列するようにする。
尚、位置基準となるサンプリングラインは、必ずしも最内周もしくは最外周のサンプリングライン301、310でなくとも良く、最内周のサンプリングライン301と最外周のサンプリングライン310間に位置する任意のサンプリングラインを位置基準としても良い。この場合には、画像処理部24に入力された画像データSvpが、サンプリング位置に到達しない位置で撮影された画像データSvpであっても画像展開処理を行うことが可能となる。
また、上記の例ではサンプリングされた画像データを縦方向(画面の走査線に垂直な方向)に配列した例を示したが、画面の走査線に平行な方向に配列するようにしても良い。
次に、画像処理部24におけるサンプリングライン選択処理及び、画像展開処理の第2の形態を、図3に示すフローチャートを用いて説明する。尚、日本のTV画像の表示方式はインタレース方式を採用しており、1フレームの画像は偶数フィールドの画像と奇数フィールドの画像とで構成され、偶数フィールドの画像と奇数フィールドの画像とを交互に表示することで動画を形成している。本発明の第2の形態は、1フレームの画像データSvpを偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’とに分割して、それぞれのフィールドの画像データSvp’に対して、本発明の第1の形態と同様のサンプリングライン選択処理及び、画像展開処理を行い、管状物10の管内壁面の展開画像を作成するものである。よって、図3に示すフローチャートのうち、ステップS102及び、ステップS105〜S108を除き、ステップS103にて画像データSvpから開始位置を設定し、ステップS104の次にサンプリングライン選択処理及び、画像展開処理であるステップS200〜S204を行うものが本発明の第1の形態に相当する。
先ず、第1の形態同様、ステップS100にてサンプリング位置間隔と管状物10の大きさなどを入力する。次に、ステップS101にて開始位置の画像データSvpが入力されるまで待機する。開始位置の画像データSvpが入力されるとステップS102にて画像データSvpを偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’に分割する。尚、偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’とは撮影位置が異なるため、挿入されている位置情報Spも偶数フィールドと奇数フィールドで異なるものとなる。次に、ステップS103にて偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’のそれぞれの位置情報Spを確認し、管状物10の奥側(画像撮影手段20の進行方向側)のフィールドの画像データSvp’を開始位置として設定した後、ステップS104に進む。
ステップS104にて画像データSvpが入力されるとステップS105にて画像データSvpを偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’とに分割する。次に、ステップS106にて偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’のそれぞれの位置情報Spを確認し、それぞれの画像データSvp’が撮影されたときの画像撮影手段20の位置が、画像撮影手段20の進行方向に対して手前側か奥側かを判別する。次に、ステップS107にて画像撮影手段20の進行方向手前側で撮影されたフィールドの画像データSvp’に対して、ステップS200〜S204のフローに沿ってサンプリングライン選択処理及び、画像展開処理を行う。次いで、ステップS108にて画像撮影手段20の進行方向奥側で撮影されたフィールドの画像データSvp’に対して、ステップS200〜S204のフローに沿ってサンプリングライン選択処理及び、画像展開処理を行う。
次に、ステップS109にて作業終了か否かを判断し、終了であればステップS110にて所定の終了処理を行う。また、作業が終了でなければステップS104に戻り上記の処理を繰り返す。尚、作業終了の判断はモニタ等に表示された画像撮影手段20からの画像を作業者が確認して送信する作業終了を指示する信号の有無から行っても良いし、画像データSvpもしくはフィールド分割後の画像データSvp’の位置情報Spが予め設定された作業終了位置を通過したか否かから判断するようにしても良い。
次に、ステップS200〜S204で示されるサンプリングライン選択処理及び、画像展開処理のフローを説明する。先ず、ステップS200にて手前側もしくは奥側のフィールドの画像データSvp’が未処理のサンプリング位置を通過しているか否かを画像データSvp’に挿入されている位置情報Spから判断する。画像データSvp’が未処理のサンプリング位置を通過していなければサンプリングライン選択処理及び、展開処理は終了となり、手前側フィールドの画像データSvp’処理時にはステップS108へ、奥側フィールドの画像データSvp’処理時にはステップS109へと進む。
画像データSvp’が未処理のサンプリング位置を通過していれば、ステップS201にて未処理のサンプリング位置のうち一番手前側のサンプリング位置について、そのサンプリング位置に対して最も近い位置に相当するサンプリングラインを画像データSvp’に挿入されている位置情報Spを基に選択する。次に、ステップS202にて選択されたサンプリングライン上の画像データをサンプリングする。次に、ステップS203にてサンプリングされた画像データを、前に縦1列に配列された展開画像の右の画素列に縦一列の直線状に配列する画像展開処理を行う。これにより、上記の一番手前側の未処理のサンプリング位置は処理済となる。次に、ステップS204にて再度、この画像データSvp’が未処理のサンプリング位置を通過しているか否かを画像データSvp’に挿入されている位置情報Spから判断する。画像データSvp’が未処理のサンプリング位置を通過していなければサンプリングライン選択処理及び、展開処理は終了となり手前側フィールドの画像データSvp’処理時にはステップS108へ、奥側フィールドの画像データSvp’処理時にはステップS109へと進む。画像データSvp’が未処理のサンプリング位置を通過していれば、ステップS201に戻り同様のサンプリングライン選択処理及び、画像展開処理を行う。
尚、図3に示すフローチャートは、画像撮影手段20が管状物10に沿って手前側から奥側へと前進するときの例であり、画像撮影手段20が管状物10の奥側から手前側に後退するような場合には、奥側フィールドと手前側フィールドとがすべて逆となる。
上記の第2の形態のサンプリングライン選択処理及び、画像展開処理によれば、1枚の画像データSvpを偶数フィールドの画像データSvp’と奇数フィールドの画像データSvp’とに分割して処理することで、1枚の画像データSvpから2箇所の撮影画像を得ることができる。このため、画像撮影手段20の移動速度を約2倍とすることが可能で、更なる展開画像作成作業の高速化を図ることができる。
尚、前記の第1の形態及び、第2の形態における画像データのサンプリングに際しては、以下に説明するように近傍に位置する画素の画像データを、サンプリングラインを構成する理想サンプリング点の位置に基づいた比率で合成し、サンプリングした画像データとしても良い。
図4は画像データのサンプリングを説明する概念図である。図4の実線で囲まれた四角は画像データSvp、Svp’が画面上に表示されたときの画面の画素を示し、ここでは便宜的に縦方向に8番目〜10番目の走査線及び、横方向にそれらの走査線の4番目〜8番目の画素を表すものとする。ここで、選択されたサンプリングラインによって画像データをサンプリングする際に、サンプリングラインを構成する個々の点である理想サンプリング点R1、R2は、図4に示すように、常にサンプリングする画素の中心に位置するわけではない。
仮に、8番目の走査線αの中心を8.0とし5番目の画素列の中心を5.0としたときに、理想サンプリング点R1の座標が(5.2,8.3)の位置に仮想的に存在した場合を考える。当然のことながら走査線αの5番目の画素α5は1つの画像データしか有しておらず、理想サンプリング点R1が画素α5のどこの位置に存在しようとも1つの画像データしか提供することはできない。このような場合には、画像処理部24は画素α5の近傍に位置する走査線αの6番目の画素α6、走査線βの5番目及び6番目の画素β5、β6の画像データを理想サンプリング点R1の位置に基づいた比率で合成し、その合成した画像データをサンプリングした画像データとする。
即ち、理想サンプリング点R1の横方向の座標は5.2であるから、画素α5の画像データを80%、画素α6の画像データを20%の比率で合成する。同様に画素β5の画像データを80%、画素β6の画像データを20%の比率で合成する。また、理想サンプリング点R1の縦方向の座標は8.3であるから、合成された走査線αの画像データを70%、合成された走査線βの画像データを30%の比率で合成する。つまり、理想サンプリング点R1にてサンプリングされる画像データは、画素α5の画像データを56%、画素α6の画像データを14%、画素β5の画像データを24%、画素β6の画像データを6%の比率で合成されたものとなる。
また、画像データSvpを偶数フィールドと奇数フィールドとの画像データSvp’に分割して処理する第2の形態では、画像データSvp’は交互に画像データ無しの走査線が存在することとなる。ここで、図4の走査線βを画像データ無しの走査線とし、理想サンプリング点R1とR2のうち理想サンプリング点R2が画像データ無しの走査線βの6番目の画素β6の座標(6.1,9.2)の位置に仮想的に存在した場合を考える。この場合、画像処理部24は画素β6の近傍に位置する走査線αの6番目及び7番目の画素α6、画素α7、走査線γの6番目及び7番目の画素γ6、γ7の画像データを理想サンプリング点R2の位置に基づいた比率で合成し、その合成した画像データをサンプリングした画像データとする。即ち、画素α6の画像データを90%、画素α7の画像データを10%の比率で合成し、同様に画素γ6の画像データを90%、画素γ7の画像データを10%の比率で合成し、合成された走査線αの画像データを40%、合成された走査線γの画像データを60%の比率で合成する。つまり、理想サンプリング点R2にてサンプリングされる画像データは、画素α6の画像データを36%、画素α7の画像データを4%、画素γ6の画像データを54%、画素γ7の画像データを6%の比率で合成されたものとなる。
また走査線βが画像データ無しの走査線の場合には、理想サンプリング点R1でサンプリングされる画像データは画素α5、画素α6、及び走査線γの画素γ5、γ6の画像データを理想サンプリング点R1の位置に基づいた比率で合成したものとなる。即ち、画素α5の画像データを80%、画素α6の画像データを20%の比率で合成し、同様に画素γ5の画像データを80%、画素γ6の画像データを20%の比率で合成し、合成された走査線αの画像データを85%、合成された走査線γの画像データを15%の比率で合成する。つまり、理想サンプリング点R1にてサンプリングされる画像データは、画素α5の画像データを68%、画素α6の画像データを17%、画素γ5の画像データを12%、画素γ6の画像データを3%の比率で合成されたものとなる。
このように、理想サンプリング点の近傍に位置する画素の画像データを理想サンプリング点の位置に基づいた比率で合成し、これをサンプリングした画像データとすることで、より滑らかで正確な展開画像を作成することが可能となる。
更に、本発明に係る管内壁面画像展開システムは図5に示すように、画像撮影手段20にジャイロセンサやピアゾ式3次元加速度センサなどの周知の姿勢検知手段28を備えることができる。画像撮影手段20に備えられた姿勢検知手段28は、画像撮影手段20のX軸、Y軸、Z軸方向の姿勢の変化を姿勢情報Sdとして信号挿入部22aに出力する。信号挿入部22aは位置情報取得手段26からの位置情報Spに加え、姿勢検知手段28からの姿勢情報Sdをデジタル信号として画像撮影手段20からの画像データSvに挿入し、画像データSvpdとして画像処理部24aに出力する。画像処理部24aは入力された画像データSvpdの姿勢情報Sdに基づいて画面上のサンプリングライン300の形状、位置、及びサンプリング開始点A’’の位置を補正した後に、位置情報Spに基づいて前述したサンプリングライン選択処理及び、画像展開処理を行う。
図5に示す管内壁面画像展開システムによれば、例えば、図6に示すように、画像撮影手段20の姿勢が管状物10内を移動中に変化し、当初合致していた内壁面画像34の中心13’と管状物10の中心軸13との間にずれが生じた場合には、画像処理部24aは姿勢情報Sdに基づいて、サンプリングライン300の位置、隣り合うサンプリングラインの間隔、サンプリングライン300の形状を補正して、管状物10の所定のサンプリング位置において管状物10の中心軸と直角方向の内壁面に相当する画像データをサンプリングする。更に補正されたサンプリングラインによるサンプリング間隔も姿勢情報Sdに基づいて補正するようにしても良い。
また、画像撮影手段20が管状物10内を移動中に管状物10の長手方向に回転して、当初合致していた内壁面画像34の上下左右方向A’、B’、C’、D’と実際の管状物10の上下左右方向A、B、C、Dとにずれが生じた場合には、画像処理部24aは姿勢情報Sdに基づいて、サンプリング開始点A’’を管状物10に対して常に一定の方向となるような補正を行う。
これらの補正により、画像撮影手段20の姿勢が管状物10の内部を移動中に変化したとしても、得られる展開画像に歪みが生じることはない。よって、管状物10の内壁面撮影中の画像撮影手段20の姿勢を維持することが不要となり、画像撮影手段20による管状物10の内壁面の撮影をより容易に効率良く行うことができる。
以上のことから、本発明に係る管内壁面画像展開システムによれば、画像データSvp、Svp’、Svpdに挿入された画像撮影手段20の位置情報Spに基づいて、大きさの異なる複数のサンプリングライン300から、サンプリング位置に対して最も近い位置に相当するサンプリングラインを選択して画像データのサンプリングを行うため、画像撮影手段20の移動速度を一定に制御しなくとも、歪みの無い展開画像を作成することができる。また、画像データSvp、Svp’、Svpdから複数のサンプリング位置のサンプリングも可能となるため、短時間で効率良く展開画像を作成することができる。また更に、位置情報Spは画像データSvp、Svp’、Svpdにデジタル信号として挿入されるため、文字認識等の画像処理が不要で、正確かつ短時間の画像処理が可能となる。
更に、画像データSvpを偶数フィールドと奇数フィールドの画像データSvp’とに分割し、それぞれの画像データSvp’に対してサンプリングライン選択処理及び、画像展開処理を行うことで、画像撮影手段20の移動速度を上げることが可能となり、更なる展開画像作成作業の高速化を図ることができる。
更にまた、画像撮影手段20に姿勢検知手段28を設け、姿勢検知手段28からの姿勢情報Sdを位置情報Spとともに画像データSvに挿入し、姿勢情報Sdに基づいてサンプリングライン300の形状、位置、及びサンプリング開始点A’’の位置の補正を行うことで、画像撮影手段20による管状物10の内壁面の撮影がより容易に効率良く行うことができる。
尚、本発明は本発明の要旨を逸脱しない範囲で変更して実施することができる。
本発明に係る管内壁面画像展開システムの概要を示すブロック図である。 本発明に係る管内壁面画像展開システムにおける画像データの表示画面の概略図である。 本発明に係る管内壁面画像展開システムの画像処理の第2の形態を説明するフローチャートである。 画像データのサンプリングを説明する概念図である。 姿勢検知手段を有する本発明に係る管内壁面画像展開システムの概要を示すブロック図である。 姿勢検知手段を有する本発明に係る管内壁面画像展開システムの動作を説明する図である。 従来の管内壁面画像展開システムを説明するための図である。 従来の管内壁面画像展開システムの画像展開処理を説明するための図である。
符号の説明
20 画像撮影手段
22、22a 信号挿入部
24、24a 画像処理部
26 位置情報取得手段
28 姿勢検知手段
300、301〜310 サンプリングライン
32 ドット列
34 内壁面画像
41 撮影部
Sd 姿勢情報
Sf 展開画像データ
Sp 位置情報
Sv、Svp、Svpd 画像データ
Svp’ フィールド分割された画像データ

Claims (4)

  1. 管状物の内部を当該管状物に沿って移動しかつ、管状物内の全天画像を撮影する画像撮影手段からの全天画像データを基に、展開画像を作成する管内壁面画像展開システムにおいて、
    前記画像撮影手段から取得した全天画像データ中に全天画像データ取得時の位置情報をデジタル信号として挿入する信号挿入部と、
    前記信号挿入部により全天画像データに挿入された位置情報から、当該全天画像データが、管状物の長手方向に等間隔に設定されたサンプリング位置に対してどこの位置で撮影されたものかを判断し、この判断結果に基づき前記管状物の内形と相似形でかつ大きさの異なる複数のサンプリングラインから、管状物のサンプリング位置に対して最も近い位置に相当するサンプリングラインを選択し、選択されたサンプリングラインに沿って所定のサンプリング開始点から前記全天画像データに対するサンプリングを、サンプリングされた画像データの総数が一定となるようにサンプリングライン毎に設定された間隔にて行い、更にサンプリングされた線画像データを一列の直線状にして配列することにより画像展開処理する画像処理部と、
    を備えたことを特徴とする管内壁面画像展開システム。
  2. 画像処理部が、全天画像データに挿入された位置情報を確認し、
    全天画像データが所定のサンプリング位置に到達しない位置で撮影されものと判断した場合に次の全天画像データが入力するまで待機し、
    全天画像データが所定のサンプリング位置と合致する位置で撮影されたものと判断した場合に位置基準となるサンプリングラインを選択して画像データのサンプリングを行い、
    全天画像データが所定のサンプリング位置を通過した位置で撮影されたものと判断した場合に通過したサンプリング位置に最も近い位置に相当するサンプリングラインを選択して順次画像データのサンプリングを行うことを特徴とする請求項1記載の管内壁面画像展開システム。
  3. サンプリングされる個々の画素の画像データは、当該画素の近傍に位置する画素の画像データを、サンプリングラインを構成する理想サンプリング点の位置に基づいた比率で合成して取得されることを特徴とする請求項1又は請求項2記載の管内壁面画像展開システム。
  4. 前記信号挿入部により位置情報が挿入された全天画像データを偶数フィールドの全天画像データと奇数フィールドの全天画像データとに分割し、
    分割された全天画像データ中にそれぞれに挿入された位置情報に基づいて、サンプリングラインの選択を行うことを特徴とする請求項1乃至請求項3のいずれかに記載の管内壁面画像展開システム。
JP2006273882A 2006-10-05 2006-10-05 管内壁面画像展開システム Active JP4516554B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006273882A JP4516554B2 (ja) 2006-10-05 2006-10-05 管内壁面画像展開システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006273882A JP4516554B2 (ja) 2006-10-05 2006-10-05 管内壁面画像展開システム

Publications (2)

Publication Number Publication Date
JP2008090782A JP2008090782A (ja) 2008-04-17
JP4516554B2 true JP4516554B2 (ja) 2010-08-04

Family

ID=39374831

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006273882A Active JP4516554B2 (ja) 2006-10-05 2006-10-05 管内壁面画像展開システム

Country Status (1)

Country Link
JP (1) JP4516554B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009272778A (ja) * 2008-05-01 2009-11-19 Canon Inc 画像伝送システム及び画像伝送方法
JP5330778B2 (ja) * 2008-09-09 2013-10-30 積水化学工業株式会社 管路内作業装置モニタシステム
JP2010145253A (ja) * 2008-12-18 2010-07-01 Sigma Kk 筒表面を撮影し方形平面画像を取得する方法
JP6851296B2 (ja) * 2017-10-03 2021-03-31 株式会社豊田中央研究所 画像処理装置、画像処理制御プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998034195A1 (en) * 1997-01-30 1998-08-06 Yissum Research Development Company Of The Hebrew University Of Jerusalem Generalized panoramic mosaic
JP2000013664A (ja) * 1998-06-22 2000-01-14 Logistics:Kk デジタルスリット画像形成システムおよびトンネル壁面調査装置
JP2003032674A (ja) * 2001-07-16 2003-01-31 Emaki:Kk 管状物内壁のビデオ画像から連続した展開静止画像を自動生成するシステム
JP3415000B2 (ja) * 1997-08-26 2003-06-09 東京都下水道サービス株式会社 管渠内面展開図化装置
JP3420734B2 (ja) * 1999-03-12 2003-06-30 東京都下水道サービス株式会社 管渠内面画像の処理方法
JP2004509321A (ja) * 2000-05-30 2004-03-25 オーヨー コーポレーション,ユーエスエー パイプラインの欠陥を検出する装置および方法
JP2005077352A (ja) * 2003-09-03 2005-03-24 Hitachi Ltd 管内撮影装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998034195A1 (en) * 1997-01-30 1998-08-06 Yissum Research Development Company Of The Hebrew University Of Jerusalem Generalized panoramic mosaic
JP2001510585A (ja) * 1997-01-30 2001-07-31 イサム・リサーチ・デベロツプメント・カンパニー・オブ・ザ・ヘブルー・ユニバーシテイ・オブ・エルサレム 一般化されたパノラマ式モザイク
JP3415000B2 (ja) * 1997-08-26 2003-06-09 東京都下水道サービス株式会社 管渠内面展開図化装置
JP2000013664A (ja) * 1998-06-22 2000-01-14 Logistics:Kk デジタルスリット画像形成システムおよびトンネル壁面調査装置
JP3420734B2 (ja) * 1999-03-12 2003-06-30 東京都下水道サービス株式会社 管渠内面画像の処理方法
JP2004509321A (ja) * 2000-05-30 2004-03-25 オーヨー コーポレーション,ユーエスエー パイプラインの欠陥を検出する装置および方法
JP2003032674A (ja) * 2001-07-16 2003-01-31 Emaki:Kk 管状物内壁のビデオ画像から連続した展開静止画像を自動生成するシステム
JP2005077352A (ja) * 2003-09-03 2005-03-24 Hitachi Ltd 管内撮影装置

Also Published As

Publication number Publication date
JP2008090782A (ja) 2008-04-17

Similar Documents

Publication Publication Date Title
US8591401B2 (en) Endoscope apparatus displaying information indicating gravity direction on screen
JPH067289A (ja) 内視鏡画像処理装置
JPH09161068A (ja) 画像撮影方法とそれを用いた画像編集装置
JP4516554B2 (ja) 管内壁面画像展開システム
JP2007323615A (ja) 画像処理装置及びその処理方法
JPWO2007139187A1 (ja) 3次元画像構築装置及び方法並びにプログラム
WO2011033569A1 (ja) 画像処理装置及び画像処理方法
JPH05108819A (ja) 画像処理装置
JP6141084B2 (ja) 撮像装置
JP4839183B2 (ja) 画像処理装置
JP2000331168A (ja) 管渠内面画像の処理装置及びその方法
CN110915201B (zh) 图像显示系统以及方法
JP2007026255A (ja) 画像中の変状点の進展状況を抽出する方法
JPWO2017057362A1 (ja) 図面作成装置及び図面作成方法
JP2010218132A (ja) 管内壁面画像展開システム
JP2003304561A (ja) ステレオ画像処理装置
CN106991701A (zh) 一种用于全景拍摄设备参数的标定系统及方法
JP5162412B2 (ja) トンネル壁面撮影装置
JP4851240B2 (ja) 画像処理装置及びその処理方法
JPH1166316A (ja) 管渠内面展開図化装置
JP5067847B2 (ja) 車線認識装置及びナビゲーション装置
JP4447080B2 (ja) 内視鏡装置
JP2007292545A (ja) 経路案内装置及び経路案内方法
JP4317440B2 (ja) 画像撮影装置および画像撮影方法
JP3924576B2 (ja) 写真測量による3次元計測方法及び装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100511

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100514

R150 Certificate of patent or registration of utility model

Ref document number: 4516554

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140521

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250