JP6120037B1 - 点検装置、及び点検方法 - Google Patents

点検装置、及び点検方法 Download PDF

Info

Publication number
JP6120037B1
JP6120037B1 JP2016233108A JP2016233108A JP6120037B1 JP 6120037 B1 JP6120037 B1 JP 6120037B1 JP 2016233108 A JP2016233108 A JP 2016233108A JP 2016233108 A JP2016233108 A JP 2016233108A JP 6120037 B1 JP6120037 B1 JP 6120037B1
Authority
JP
Japan
Prior art keywords
image
adjacent
current
image acquisition
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016233108A
Other languages
English (en)
Other versions
JP2018090982A (ja
Inventor
元気 高橋
元気 高橋
中村 和弘
和弘 中村
加藤 哲
哲 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Airport Facilities Co Ltd
Original Assignee
Kokusai Kogyo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kokusai Kogyo Co Ltd filed Critical Kokusai Kogyo Co Ltd
Priority to JP2016233108A priority Critical patent/JP6120037B1/ja
Application granted granted Critical
Publication of JP6120037B1 publication Critical patent/JP6120037B1/ja
Publication of JP2018090982A publication Critical patent/JP2018090982A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Bridges Or Land Bridges (AREA)

Abstract

【課題】本願発明の課題は、画像を取得したその場で隣接する画像との重複の適否を判定し、複数の画像を結合し得る程度の適切な重複率をもった画像を取得することで、この画像をもとに点検することのできる点検装置、及び点検方法を提供することにある。【解決手段】本願発明の点検装置は、画像取得手段と、画像記憶手段、画像判定手段を備えたものである。画像判定手段は、画像取得手段で撮影して「今回画像」を取得したときに、その今回画像の適否判定を行う手段である。重複率算出手段は、今回画像と隣接画像との特徴点に基づいて今回画像と隣接画像の位置関係を求め、さらに今回画像と隣接画像の重複率を算出する。画像判定手段は、重複率が重複率閾値を上回るときは今回画像を適合と判定し、下回るときは不適合と判定する。【選択図】図6

Description

本願発明は、対象物の点検技術に関するものであり、より具体的には、点検するための複数の画像からなる結合画像を得るに当たって、適切な重複率をもった個々の画像を取得することができる装置と方法に関するものである。
高度経済成長期に集中的に整備されてきた建設インフラストラクチャー(以下、「建設インフラ」という。)は、既に相当な老朽化が進んでいることが指摘されている。平成26年には「道路の老朽化対策の本格実施に関する提言(社会資本整備審議会)」がとりまとめられ、平成24年の笹子トンネルの例を挙げて「近い将来、橋梁の崩落など人命や社会装置に関わる致命的な事態を招くであろう」と警鐘を鳴らし、建設インフラの維持管理の重要性を強く唱えている。
このような背景のもと、国は道路法施行規則の一部を改正する省令を公布し、具体的な建設インフラの点検方法、主な変状の着目箇所、判定事例写真などを示した定期点検要領を策定している。この定期点検要領では、約70万橋に上るといわれる橋長2.0m以上の橋を対象としており、供用開始後2年以内に初回点検、以降5年に1回の頻度で定期点検を行うこととしている。
建設インフラの点検では、コンクリートのひび割れをはじめとする損傷箇所を検出し、後に確認できるようその結果を記録する。例えば、橋梁のコンクリート床版のひび割れを検出する場合、ひび割れの程度(長さや幅等)などの詳細情報だけでなく、そのひび割れがどこに発生しているかも記録しなければならない。そして従来の点検では、ひび割れを目視で検出するとともに、そのひび割れの配置を、あらかじめ用意した構造物の図面に現地で記入していくこともあった。
しかしながら、橋梁床版(特に下面)を目視で点検することは、それほど容易ではない。通常、橋梁に近づくためには足場を組み立てることになるが、著しく桁下高が高い場合は相当な規模の足場が必要となるうえ、河川を越える橋梁であれば河川内に足場を組み立てることになり、跨道橋や跨線橋であれば道路や線路上に足場を組み立てることになり、現実的には足場を構築できないケースさえある。また、ひび割れ位置を足場上で図面に記入していくことも容易ではない。現地にて、足場上の位置と図面を照らし合わせる作業は考える以上に難しく、長大橋などでは図面そのものが大きくなるため、現地に持ち込むことも、これを広げて記入することも、相当に煩雑な作業となる。
そこで近年では、画像を用いた点検作業も行われるようになった。取得した画像から損傷箇所を確認することができるため、場所や時間を限定されることなく損傷を検出できる上、点検者以外の者も判断できることからより客観的に損傷を検出できるわけである。さらに、適当な撮影範囲で画像を取得すれば、ひび割れ等の損傷位置も記録することができ、図面を用意する手間も、現地で図面に記入する手間も省くことができる。例えば特許文献1では、橋面上を移動する台車と、この台車に取り付けられたアームを利用して点検する手法を提案しており、アームの先端を橋梁下面に配置するとともに、アーム先端につながれた飛行体が橋梁下面をカメラで撮影するという技術を提案している。
特開2016−79684号公報
特許文献1のように橋梁下面に近接して撮影する場合に限らず、下方から望遠レンズで撮影を行う場合を含め、画像を用いた点検作業では足場を組み立てる必要がない上に、損傷箇所を現地で図面に記入する手間が省ける点で極めて好適である。ただし、画像からひび割れ等の損傷を検出するためには、相当の解像度をもった画像を取得しなければならない。ところが画像を取得したその場でその解像度を確認することは容易なことではなく、仮に後日確認した画像の解像度が十分でなければ、改めて現地に出向いて適切な解像度の画像を取得する結果となる。
また、ひび割れ等の配置を記録するためには、点検対象(例えば、橋梁床版)全体の画像(いわゆる、全景写真)を得る必要があるところ、相当の解像度を得るため限られた範囲の画像を取得せざるを得ないという制約がある。したがって、個々の画像をつなぎ合わせることで全体画像を得ることが考えられるが、この場合は隣接する画像同士を相当程度に重複(ラップ)させる必要がある。ところが画像を取得したその場で重複の程度を確認することは困難であり、仮に後日確認した画像の重複が十分でなければ、改めて現地に出向いて適度に重複する画像を取得する結果となる。
本願発明の課題は、画像を取得したその場で隣接する画像との重複の適否を判定し、複数の画像を結合し得る程度の適切な重複率をもった画像を取得することで、この画像をもとに点検することのできる点検装置、及び点検方法を提供することにある。
本願発明は、画像を取得したその場で隣接する画像同士の重複率を算出する、という従来にはなかった発想に基づいてなされた発明である。
本願発明の点検装置は、画像を利用して対象物の点検を行う装置であり、画像取得手段と、画像記憶手段、画像判定手段を備えたものである。このうち画像判定手段は、画像取得手段で撮影して「今回画像」を取得したときに、その今回画像の適否判定を行う手段であり、画像読出し手段と重複率算出手段を有している。画像読出し手段は、「隣接画像(今回画像の撮影範囲に隣接する範囲を取得した画像)」を画像記憶手段から読み出し、重複率算出手段は、今回画像と隣接画像に共通する複数の特徴点を抽出するとともに、この特徴点に基づいて今回画像と隣接画像の位置関係を求め、さらに今回画像と隣接画像の重複率を算出する。そして画像判定手段は、重複率算出手段で算出された重複率が、あらかじめ定めた重複率閾値を上回るときは今回画像を適合と判定し、重複率閾値を下回るときは今回画像を不適合と判定する。
本願発明の点検装置は、結合画像作成手段とひび割れ抽出手段をさらに備えたものとすることもできる。結合画像作成手段は、今回画像(画像判定手段が適合と判定したもの)と隣接画像を特徴点に基づいて結合して結合画像を作成する手段であり、ひび割れ抽出手段は、結合画像から対象物のひび割れを抽出する手段である。
本願発明の点検装置は、重複率算出手段が今回画像と隣接画像の重複面積に基づいて重複率を算出するものとすることもできる。
本願発明の点検装置は、重複率算出手段が隣接画像に重なる今回画像の外周線の長さ(今回画像に重なる隣接画像の外周線の長さ)に基づいて重複率を算出するものとすることもできる。
本願発明の点検装置は、重複率算出手段が今回画像と隣接画像の重複領域の図心から今回画像の外周線までの長さ(図心から隣接画像の外周線までの長さ)に基づいて重複率を算出するものとすることもできる。
本願発明の点検装置は、測距手段と、姿勢測定手段、解像度推定手段、画像取得判定手段をさらに備えたものとすることもできる。測距手段は、画像取得手段から対象物までの距離を測定するもので、姿勢測定手段は、画像取得手段の姿勢を測定するものである。また解像度推定手段は、「画像取得手段から対象物までの距離」と「画像取得手段の姿勢」に基づいて、取得される画像の解像度を推定するもので、画像取得判定手段は、解像度推定手段が推定した解像度が解像度閾値を上回るときは画像取得を肯定し、解像度閾値を下回るときは画像取得を否定するものである。この場合、画像判定手段は、画像取得判定手段が肯定して取得した今回画像に対して適否判定を行う。
本願発明の点検方法は、画像取得手段によって対象物の画像を取得して、その対象物の点検を行う方法であり、画像取得工程と、重複率算出工程、画像判定工程を備えた方法である。このうち、画像取得工程では、画像取得手段で対象物を撮影して今回画像を取得する。重複率算出工程では、今回画像と隣接画像(今回画像の撮影範囲に隣接する範囲を取得した画像)に共通する複数の特徴点を抽出するとともに、この特徴点に基づいて今回画像と隣接画像の位置関係を求め、さらに今回画像と隣接画像の重複率を算出する。また画像判定工程では、重複率算出工程で算出された重複率が重複率閾値を上回るときは今回画像を適合と判定し、解像度閾値を下回るときは今回画像を不適合と判定すする。そして、今回画像(画像判定手段が適合と判定したもの)と隣接画像を特徴点に基づいて結合した結合画像によって対象物の点検を行う。
本願発明の点検方法は、測距工程と、姿勢測定工程、解像度推定工程、画像取得判定工程をさらに備えた方法とすることもできる。このうち測距工程では、画像取得手段から対象物までの距離を測定し、姿勢測定工程では、画像取得手段の姿勢を測定し、解像度推定工程では、「画像取得手段から対象物までの距離」と「画像取得手段の姿勢」に基づいて取得される画像の解像度を推定する。また、画像取得判定工程では、解像度推定工程で推定した画像の解像度が解像度閾値を上回るときは画像取得を肯定し、解像度閾値を下回るときは画像取得を否定する。この場合、画像取得工程では、判定工程で画像取得が肯定されたとき、対象物の画像を取得する。
本願発明の点検装置、及び点検方法には、次のような効果がある。
(1)画像による点検作業であるから、足場を組み立てる必要がない上に、損傷箇所を現地で図面に記入する手間を省くことができる。
(2)重複率の適否を判断したうえで画像を取得するため、十分な重複率をもった画像を取得することができ、個々の画像をつなぎ合わせた全体画像を容易に作成することができる。この結果、点検対象全体のうちどこに損傷が生じているか(損傷位置)を容易に把握することができる。
道路橋を示す縦断面図。 1径間の床版を下方から見た図であり、1つのパネルに相当する床版下面を示す平面図。 1つのパネルを示す部分平面図。 本願発明の主な処理や工程の流れを示すフロー図。 手持ちした画像取得手段で床版下面を撮影する状況を示す側面図。 本願発明の主な構成を示すブロック図。 (a)は第1分割領域を対象として第1分割画像を取得する状況を示す説明図、(b)は第1分割画像を取得した後に第2分割領域を対象として第2分割画像を取得する状況を示す説明図、(c)は第2分割画像を取得した後に第3分割領域を対象として第3分割画像を取得する状況を示す説明図、(d)は第3分割画像を取得した後に第4分割領域を対象として第4分割画像を取得する状況を示す説明図。 (a)は重複面積に基づいて求める重複率を説明するモデル図、(b)は外周線の長さに基づいて求める重複率を説明するモデル図、(c)は図心から外周線までの長さに基づいて求める重複率を説明するモデル図。 第1分割画像〜第4分割画像を結合して結合画像を得る過程を示すモデル図。 解像度の是非を判定する装置の処理の主な流れと、解像度の是非を判定する方法の主な工程の流れを示すフロー図。 三脚上の画像取得手段と床版下面との距離を測り、画像取得手段で床版下面を撮影する状況を示す側面図。 解像度の是非を判定する装置の主な構成を示すブロック図。
本願発明の点検装置、及び点検方法の実施形態の一例を、図に基づいて説明する。なお本願発明の点検装置、及び点検方法は、コンクリート構造物をはじめあらゆるものを点検の対象(以下、「対象物」という。)とすることができるが、ここでは便宜上、図1に示す道路橋のコンクリート床版の下面(以下、単に「床版下面」という。)を対象物とし、さらに床版下面に生じたひび割れの状況を把握する橋梁点検の例で説明する。
床版下面の点検を行う場合、あらかじめ床版全体を複数のパネルに分割したうえで実施される。パネルは点検範囲の1単位であり、橋軸方向を横桁や対傾構などで区切り、橋軸直角方向を主桁で区切ることで設定される。例えば図2では、橋軸方向を1径間で区切り、橋軸直角方向を主桁で区切って、パネルPNを設定している。
図3は、1つのパネルPNを示す部分平面図である。長期にわたって供用されてきた道路橋のコンクリート床版(特にRC床版)には、この図に示すように多数のひび割れが生じていることも珍しくなく、しかもそのひび割れが徐々に伸長しているケースも少なくない。このひび割れの発生状況、そしてひび割れの位置(分布状況)を把握することができれば、適切な時期に適切な対策を施すことができ、その結果、不測の事故を防ぐことができると同時に、橋梁の長寿命化を図ることができるわけである。
本願発明は、対象物を撮影して取得した画像を用いて点検を行うことを1つの特徴としている。画像に基づく点検作業では、場所や時間を限定されることなく損傷を検出できる上、点検者以外の者も判断できることからより客観的に損傷を検出できるのは、既に説明したとおりである。ただし、1回の撮影で取得できる画像の範囲(以下、「画像範囲」という。)は限定的であり、そのため例えば1つのパネルPNの画像を得るためには、パネルPN範囲を分割して複数回の撮影を行う必要がある。また、それぞれの分割領域を撮影して得られた個々の画像ではパネルPN全体の状況を把握することが難しいため、通常は個々の画像を互いに結合した1つの画像(以下、「結合画像」という。)が作成される。このとき、隣接する(隣あう)2つの画像が相当程度重複(ラップ)していないと、これらの画像を結合することは難しい。そこで本願発明は、画像を取得したその場で、隣接する画像との重複の程度を適否判定することも特徴の1つとしている。
以下、図4を参照しながら、本願発明の点検装置の処理の主な流れ、及び点検方法の主な工程の流れについてさらに詳しく説明する。図4は、処理や流れを示すフロー図であり、中央の列に実施する処理や工程を示し、左列にはその処理や工程に必要な入力情報を、右列にはその処理や工程から生まれる出力情報を示している。
はじめに、床版下面のパネルPNを区分した分割領域の画像を、画像取得手段101によって取得する(Step110)。このとき取得した画像が、隣接する画像と十分重複していれば採用され、そうでなければ再度撮影することとなる。つまり、今まさに取得した画像が判定対象になるわけであり、判定対象とされるこの画像のことをここでは便宜上、「今回画像」ということとする。
画像取得手段101は、画像を取得することができるものであり、デジタルカメラを代表的な例として挙げることができる。画像を取得する際、この画像取得手段101を三脚などの支持台上で固定したうえで撮影することもできるし、図5に示すように固定することなく手持ちした画像取得手段101で撮影することもできる。取得された今回画像は、図6に示すようにひとまず画像記憶手段102に記憶される。図6は、本願発明の点検装置100の主な構成を示すブロック図である。
今回画像が取得できると、図6に示す画像読出し手段103によって画像記憶手段102から、今回画像と、この今回画像に隣接する画像(以下、「隣接画像」という。)を読み出す(図4:Step120)。ここで、図7を参照しながら今回画像と隣接画像について説明する。図7は、床版下面のパネルPNを4区分した分割領域SR(第1分割領域SR1と、第2分割領域SR2、第3分割領域SR3、第4分割領域SR4)を、それぞれ順に撮影する状況を示す説明図であり、(a)は第1分割領域SR1を対象として第1分割画像PH1を取得する状況を、(b)は第1分割画像PH1を取得した後に第2分割領域SR2を対象として第2分割画像PH2を取得する状況を、(c)は第2分割画像PH2を取得した後に第3分割領域SR2を対象として第3分割画像PH3を取得する状況を、(d)は第3分割画像PH3を取得した後に第4分割領域SR4を対象として第4分割画像PH4を取得する状況を示している。
図7に示すように、隣接する分割画像PHどうしはある程度重複しながら取得される。したがって、これから取得しようとする今回画像は、既に取得された隣接画像とある程度重複させながら取得される。例えば図7(b)では、第2分割画像PH2が今回画像であり、既に取得した第1分割画像PH1が隣接画像となり、第1分割画像PH1(隣接画像)とある程度重複した状態で第2分割画像PH2(今回画像)が取得される。同様に図7(c)では、第3分割画像PH3が今回画像、第1分割画像PH1が隣接画像となり、第1分割画像PH1(隣接画像)とある程度重複した状態で第3分割画像PH3(今回画像)が取得され、図7(d)では、第4分割画像PH4が今回画像、第2分割画像PH2や第3分割画像PH3が隣接画像となり、第2分割画像PH2や第3分割画像PH3(隣接画像)とある程度重複した状態で第4分割画像PH4(今回画像)が取得される。このように隣接画像は、今回画像の撮影範囲に隣接する範囲を取得した画像であって、既に取得され、画像記憶手段102に記憶されたものである。そして、今般取得した今回画像も、後に取得された今回画像にとっては隣接画像となりうるわけである。
画像読出し手段103によって今回画像と隣接画像が読み出されると、図6に示す重複率算出手段104により今回画像と隣接画像の重複率が算出される(図4:Step130)。ここで、図8を参照しながら重複率について説明する。図8は、今回画像と隣接画像の重複率を示すモデル図であり、(a)は重複面積に基づいて求める重複率を説明するモデル図、(b)は外周線の長さに基づいて求める重複率を説明するモデル図、(c)は図心から外周線までの長さに基づいて求める重複率を説明するモデル図である。
今回画像と隣接画像の重複率は、図8(a)に示すように今回画像と隣接画像が重なった重複領域の面積、つまり重複面積に基づいて求めることができる。具体的には、今回画像の面積のうち重複面積が占める割合(百分率)を重複率とするわけである。あるいは、隣接画像の面積のうち重複面積が占める割合を重複率とすることもできるし、今回画像と隣接画像の総和面積のうち重複面積が占める割合を重複率とすることもできる。
また、今回画像と隣接画像の重複率は、図8(b)に示すように外周線の長さに基づいて求めることもできる。なお、この図に示すように、今回画像や隣接画像の外周を形成する境界線が「外周線」であり、特に重複領域にある外周線のことを「重複外周線」ということとする。具体的には、今回画像の重複外周線の長さを今回画像の外周線の長さで除した値から重複率を算出する。あるいは、隣接画像の重複外周線の長さを隣接画像の外周線の長さで除した値や、今回画像と隣接画像の重複外周線の総長を今回画像と隣接画像の外周線の総長で除した値から、重複率を求めることもできる。
さらに、今回画像と隣接画像の重複率は、図8(c)に示すように重複領域の図心から外周線までの長さに基づいて求めることもできる。具体的には、重複領域の図心から今回画像の外周線までの長さ(以下、「縁距離」という。)を求め、この縁距離を今回画像や隣接画像の外周線の長さで除した値から重複率を算出する。縁距離は、図心から今回画像(隣接画像)の外周線のまでの最短距離としたり、短辺の外周線までの垂線の足の長さ(以下、「垂線長」という。)としたり、あるいは長辺の外周線までの垂線長とすることができ、さらに縁距離を除す長さは、今回画像(隣接画像)の短辺の外周線の長さとしたり、今回画像(隣接画像)の長辺の外周線の長さとしたり、今回画像(隣接画像)の外周線の全周長さとすることができる。
ところで、今回画像と隣接画像では、その撮影位置も異なるうえ、撮影方向も異なることから、たとえ一部が重複しているとはいえ単純に両者を重ね合わせることはできない。そこで、今回画像と隣接画像に共通する複数の特徴点を抽出し、これら特徴点に基づいて今回画像と隣接画像の位置関係を求めることとなる。具体的には、今回画像を自動認識することによって特徴点を抽出するとともに、隣接画像を自動認識することによって特徴点を抽出し、両者の特徴点どうしの相関を求めることで共通の特徴点か否かを判断する。この画像認識は、画像上の輝度や色(色相、彩度、及び明度)の相違に基づいて自動判別する手法など、公知の技術を用いて行うことができる。例えば、画素間の輝度差と距離から勾配値を求め、特異な勾配値を示す画素が一定程度集合したものを特徴点として認定する。
今回画像と隣接画像の位置関係を明確にするには、一方の画像座標系(例えば今回画像)から他方の画像座標系(例えば隣接画像)に変換できればよい。この変換は、例えば下式に示す射影変換によって行うことができる。


Figure 0006120037
さらに、式1を基に下記に示す行列式を得ることができる。
Figure 0006120037
一方(例えば今回画像)の画像座標系における4つの特徴点の座標をG1(x1,y1)〜G4(x4,y4)とし、これに対応する他方(例えば隣接画像)の画像座標系における4つの特徴点の座標をP1(X1,Y1,Z1)〜P4(X4,Y4,Z4)とすると、式2を解くことで係数b1〜b8を求めることができる。したがって、今回画像と隣接画像に共通する特著点は少なくとも4点が必要となる。
今回画像と隣接画像の位置関係が明確となり、今回画像と隣接画像の重複率が算出されると、今回画像の重複率の適否判定を行う(図4:Step140)。図6に示すように、画像取得判定手段105が、あらかじめ定めた重複率の閾値(以下、「重複率閾値」という。)を重複率閾値記憶手段106から読み出すとともに、この解像度閾値と算出した重複率を照らし合わせることでその重複率の適否を判定する。具体的には、算出した重複率が重複率閾値を上回るときはその重複率を適合と判定し、算出した重複率が重複率閾値を下回るときはその重複率を不適合と判定する。ここで画像取得判定手段105が判定した結果(重複率の適否)は、ディスプレイや音声出力器などの出力手段107に出力することもできる。
画像取得判定手段105が今回画像の重複率に対して不適合と判定した場合(Step140:No)は、前回よりも重複するように心がけて再度分割領域の画像取得し(Step110)、改めて算出したうえで今回画像の重複率の適否判定を行う(Step140)。なお、その重複率に対して不適合と判定された今回画像は、画像記憶手段102は削除しておくとよい。一方、画像取得判定手段105が今回画像の重複率に対して適合と判定した場合(Step140:Yes)は、その画像を今回画像(後続の処理等では隣接画像)として画像記憶手段102に記憶させる(図4:Step150)。
対象となる範囲、例えば図7に示すパネルPNの第1分割領域SR1〜第4分割領域SR4すべてについて、今回画像の取得(Step110)〜今回画像の記憶(Step150)の処理(工程)を繰り返し実行する(図4:Step160)。そして、それぞれ第1分割領域SR1〜第4分割領域SR4に対して取得した分割画像PH(第1分割画像PH1〜第4分割画像PH4)を、図6に示す画像結合手段108によって結合する。具体的には、既述した共通する特徴点を利用して隣接する分割画像PHを結合していき、図9に示すようにパネルPN全体を表す1つの結合画像を作成する(図4:Step170)。
図9は、第1分割画像PH1〜第4分割画像PH4を結合して結合画像を得る過程を示すモデル図である。なお、図9のうち破線で示す範囲は、隣接する分割画像どうしの重複領域を示している。ここで得られた結合画像は、画像記憶手段102に記憶される。
画像が取得できると、その画像からひび割れを抽出する(図4:Step180)。図9では、結合画像から抽出されたひび割れを示している。このとき、人が画像から目視判読することによってひび割れを抽出してもよいし、図6に示すひび割れ抽出手段109によって自動的にひび割れを抽出することもできる。具体的には、画像記憶手段102から結合画像を読み出したひび割れ抽出手段109が、その画像を自動認識することによってひび割れを抽出する。この画像認識は、画像上の輝度や色(色相、彩度、及び明度)の相違に基づいて自動判別する手法など、公知の技術を用いて行うことができる。例えば、ひび割れに対してあらかじめ設定された輝度や色と近似する(又は一致する)画素を画像中から検出し、その検出された画素が所定数(閾値以上)を超えて連続する場合、これをひび割れとして抽出する。
ところで、画像からひび割れ等の損傷を検出するためには、相当の解像度をもった画像を取得しなければならないことは既に説明した。十分な重複率で分割画像PHを取得し、適切に結合画像が得られたとしても、その解像度が十分でないことが後日判明すれば、改めて現地に出向いて十分な重複率と適切な解像度をもった画像を取得しなければならない。そこで本願発明の点検装置と点検方法は、分割画像PHの重複率の適否を判定するとともに、その解像度の是非を判定したうえで、作成した結合画像からひび割れを抽出することもできる。より詳しくは、今回画像を取得する(図4:Step110)にあたって、取得されるはずの今回画像の解像度を推定し、その推定された解像度が肯定されたときにはじめて今回画像が取得され(Step110)、その今回画像に対して後続の処理等(Step120〜Step180)が実行される。以下、図11を参照しながら、解像度の是非を判定する装置(以下、「解像度判定装置」という。)の処理の主な流れと、解像度の是非を判定する方法(以下、「解像度判定方法」という。)の主な工程の流れについて詳しく説明する。図10は、処理や流れを示すフロー図であり、中央の列に実施する処理や工程を示し、左列にはその処理や工程に必要な入力情報を、右列にはその処理や工程から生まれる出力情報を示している。
はじめに、床版下面を見通せる位置に画像取得装置101を設置する(Step210)。この場合、画像取得手段101は、図12に示すように三脚202などの支持台上で固定して設置される。なお、後に説明するように、三脚102上に載置した可動式の雲台に画像取得装置101を設置することもできる。なお、この時点ではまだ画像を取得する必要はない。
画像取得手段101が設置できると、画像取得手段101から床版下面(対象物)までの距離(以下、この距離のことを「対象距離」という。)を測距手段203で計測し(Step220)、画像取得手段101の姿勢(以下、「撮影姿勢」という。)を姿勢測定手段204で測定する(Step230)。なお図10では、対象距離を計測した後に撮影姿勢を測定するように示しているが、この場合に限らず、撮影姿勢を測定した後に対象距離を計測してもよいし、対象距離の計測と撮影姿勢の測定を並行して行ってもよい。
対象距離を計測する測距手段203は、2点間の距離を測ることができるものであれば従来から使用されている種々の技術を利用することができ、例えばレーザー計測の技術を利用することができる。レーザー計測は、計測したい対象物に対して照射したレーザー光の反射信号を受けて計測するものであり、照射時刻と受信時刻の時間差から2点間の距離を測ることができる。図11では、レーザー計測器(測距手段203)で対象距離を計測する状況を示しており、図中の矢印はレーザー計測器から照射されたレーザー光を示している。このとき、画像取得手段101のレンズ中心から床版下面までの距離を計測するとよい。実際には、図11に示すように、レンズ中心を通る方向(視線方向)を若干量平行移動したレーザー光によって、画像取得手段101のレンズ中心から床版下面までの距離を近似的に計測する。
撮影姿勢を測定する姿勢測定手段204は、姿勢を測ることができるものであれば従来から使用されている種々の技術を利用することができる。なお、ここでいう姿勢とは画像取得手段101が向いている方向であり、対象物(この場合は、床版下面)に対する傾きのことを意味する。例えば、床版下面が水平面であれば、画像取得手段101の仰角(水平面となす角)や鉛直角(鉛直軸となす角)を測ることで床版下面に対する傾き、すなわち撮影姿勢を得ることができる。姿勢測定手段204としては、傾斜計や、地磁気センサ(電子コンパス)、加速度センサが代表的であるが、その他ジャイロセンサなどの技術、あるいはこれらを組み合わせた技術を利用することができる。電子コンパスと加速度センサの両方を内蔵した、いわゆる6軸センサ内蔵の端末器も市販されているので、この端末器を利用してもよい。
また、姿勢測定手段204をレーザー計測器からなるものとし、つまりレーザー計測器により画像取得手段101の姿勢を取得することもできる。レーザー計測器と画像取得手段101の位置関係(光軸からの傾斜角も含む)を明確にした上で、床版下面にレーザー光を照射すると、床版下面で反射した点の座標が取得できる。この座標は、画像取得手段101の中心を原点とし光軸を含む3軸からなる任意の座標系を設定したとき、この座標系で表される相対的な座標となる。したがって3点以上を照射して床版下面の3点以上の座標を取得すれば、よく知られている空間上の平面の計算式を適用することで、画像取得手段101に対する床版下面の傾き、すなわち撮影姿勢を得ることができる。この場合のレーザー計測器は、レーザー光を照射する手段(以下、「レーザー光照射手段」という。)を3台以上の搭載したものとしてもよいし、可動する1台(又は2台)のレーザー照射手段を搭載したものとしてもよい。なお、姿勢測定手段204をレーザー計測器からなるものとした場合、平面の方程式から床版下面と画像取得手段との位置関係(距離を含む)を得ることができ、すなわち対象距離を得ることができることから、測距手段203を代用することもできる。言い換えると、3台以上のレーザー光照射手段、あるいは可動する1台(又は2台)のレーザー光照射手段を搭載したレーザー計測器を姿勢測定手段204とした場合、対象距離を計測する測距手段203、及び撮影姿勢を測定する姿勢測定手段204を同時に備えたことになるわけである。
測距手段203で計測した対象距離と、姿勢測定手段204で測定した撮影姿勢は、図12に示すように空間情報記憶手段205に記憶される。図12は、解像度判定装置の主な構成を示すブロック図である。
対象距離と撮影姿勢が得られると、解像度推定手段206で今回画像の解像度を推定する(図10:Step240)。ただし、この時点ではまだ実際に今回画像を取得する必要はない。すなわち、ここまでに得られた対象距離と撮影姿勢で撮影すれば取得されるはずの今回画像に対して、解像度を(あくまで)推定するわけである。具体的には、図12に示すように、空間情報記憶手段205から対象距離と撮影姿勢を読み出した解像度推定手段206が、画像取得手段101の諸元(画角、画面距離など)を基に取得されるはずの今回画像の解像度を推定する。対象距離と撮影姿勢と画像取得手段101の諸元が得られると、図11の破線で示すように、画像取得手段101が取得する床版下面の画像範囲が算出できる。画像取得手段101の画素数はあらかじめ分かっているため、この画素数と画像範囲との関係から画像の解像度を推定することができるわけである。
取得される今回画像の解像度が推定されると、実際に画像取得を行ってもよいか否かの判定を行う(図10:Step250)。図12に示すように、画像取得判定手段207が、あらかじめ定めた解像度の閾値(以下、「解像度閾値」という。)を解像度閾値記憶手段208から読み出すとともに、この解像度閾値と推定した解像度を照らし合わせることで画像取得の是非を判定する。具体的には、推定した解像度が解像度閾値を上回るときは画像取得を肯定し、推定した解像度が解像度閾値を下回るときは画像取得を否定する。なお、図11からも分かるように、1つの画像内の解像度が一様ではないケースもある。この場合、推定した解像度のうち最も低い値と解像度閾値を比較してもよいし、平均値や中央値といった統計的に処理した値と解像度閾値を比較してもよい。ここで画像取得判定手段207が判定した結果(画像取得の肯定/否定)は、ディスプレイや音声出力器などの出力手段109に出力することもできる。
画像取得判定手段207が画像取得を肯定すると、実際に画像取得手段101で今回画像を取得する(図4:Step110)。このとき、人が画像取得手段101を操作して今回画像を取得してもよいし、画像取得判定手段207の結果に応じて自動撮影することもできる。具体的には、画像取得判定手段207が画像取得を肯定すると、その情報を受け取った撮影制御手段(図示しない)が画像取得手段101に対して信号を送り、この信号を受信した画像取得手段101が自動的に画像を取得する。したがってこの場合、画像取得判定手段207と撮影制御手段、そして画像取得手段101は、それぞれ情報や信号を送受信することでのできる手段を有しており、さらにそれぞれは無線又は有線による通信手段で接続されている。なお、解像度推定手段206と画像取得判定手段207、撮影制御手段は、図11に示すコンピュータPCによって実行させるとよい。
一方、画像取得判定手段207が画像取得を否定した場合、その設置状態(位置と姿勢)における画像取得手段101では画像を取得せずに、画像取得手段101の設置位置や設置姿勢を調整する(図10:Step270)。そして、あらためて対象距離を計測し(Step220)、撮影姿勢を測定し(Step230)、取得される画像の解像度を推定して(Step240)、画像取得判定手段207に画像取得の是非を判定させる(Step250)。
画像取得判定手段207が画像取得を否定したときに行う画像取得手段101の調整作業は人による手動とすることもできるし、自動的に調整することもできる。この場合、図12に示す演算手段209が画像取得手段101の適正な設置位置や設置姿勢を算出し、この適正な設置位置と設置姿勢に基づいて調整制御手段210が可動式の雲台211に対して移動等するよう指令を送る。具体的には、画像取得判定手段207が画像取得を否定したという情報を受け取った演算手段209が、現状の対象距離と撮影姿勢、推定した解像度、解像度閾値といった情報を基に、適正な(つまり、解像度閾値を上回る解像度の画像を得ることができる)対象距離と撮影姿勢を求め、適正な設置位置と設置姿勢を算定し、さらに現状から適正な設置位置となるまでの移動量と移動方向、現状から適正な設置姿勢となるまでの移動傾斜角を算出する。この情報を受けた調整制御手段210が、可動式の雲台211に対して適正な設置位置や設置姿勢となるための調整量(移動量と移動方向、移動傾斜角)とともに調整すべき旨の指令を送り、これに応じて雲台211が移動し、傾斜する。したがってこの雲台211は、三脚202上で画像取得手段101を固定するものであって、電力などを動力とし、画像取得手段101を固定したまま移動し得るものであり、さらに画像取得手段101を固定したまま姿勢を変更(傾斜)し得るものである。またこの場合、画像取得判定手段207と、演算手段209、調整制御手段210、そして雲台211は、それぞれ情報や信号を送受信することでのできる手段を有しており、さらにそれぞれは無線又は有線による通信手段で接続されている。なお、演算手段209と、調整制御手段210、雲台211は、図11に示すコンピュータPCによって実行させるとよい。
あらかじめ床版全体を複数のパネルPNに分割したうえで点検を行うことは既述したとおりである。したがって、橋梁床版を構成する全パネルPNに対して一連の処理(工程)を繰り返し行うことで当該橋梁床版の点検が完了する。
本願発明の点検装置、及び点検方法は、道路橋、鉄道橋、管路橋など種々の用途の橋梁に利用でき、さらに橋梁のほか様々な建設インフラに利用することができる。本願発明によれば、供用中の建設インフラの劣化状況が把握でき、その劣化状況に応じた補修、補強対策が可能となり、ひいては建設インフラの長寿命化につながることを考えれば、産業上利用できるばかりでなく社会的にも大きな貢献を期待し得る発明といえる。
100 本願発明の点検装置
101 画像取得手段
102 画像記憶手段
103 画像読出し手段
104 重複率算出手段
105 画像取得判定手段
106 重複率閾値記憶手段
107 出力手段
108 画像結合手段
109 ひび割れ抽出手段
202 三脚
203 測距手段
204 姿勢測定手段
205 空間情報記憶手段
206 解像度推定手段
207 画像取得判定手段
208 解像度閾値記憶手段
209 演算手段
210 調整制御手段
211 雲台
PC コンピュータ
PH 分割画像
PH1 第1分割画像
PH2 第2分割画像
PH3 第3分割画像
PH4 第4分割画像
PN パネル
SR 分割領域
SR1 第1分割領域
SR2 第2分割領域
SR3 第3分割領域
SR4 第4分割領域

Claims (8)

  1. 画像を利用して対象物の点検を行う装置において、
    前記対象物の画像を取得する画像取得手段と、
    前記画像取得手段で取得した画像を記憶する画像記憶手段と、
    前記画像取得手段で撮影して今回画像を取得すると、該今回画像の適否判定を行う画像判定手段と、を備え、
    前記画像判定手段は、
    前記今回画像の撮影範囲に隣接する範囲を取得した隣接画像を、前記画像記憶手段から読み出す画像読出し手段と、
    前記今回画像と前記隣接画像に共通する複数の特徴点を抽出するとともに、該特徴点に基づいて該今回画像と該隣接画像の位置関係を求め、該今回画像と該隣接画像の重複率を算出する重複率算出手段と、を有し、
    さらに前記画像判定手段は、前記重複率算出手段で算出された前記重複率が、あらかじめ定めた重複率閾値を上回るときは前記今回画像を適合と判定し、該重複率閾値を下回るときは前記今回画像を不適合と判定する、
    ことを特徴とする対象物の点検装置。
  2. 前記画像判定手段が適合と判定した前記今回画像と、前記隣接画像と、を前記特徴点に基づいて結合した結合画像を作成する結合画像作成手段と、
    前記結合画像から、前記対象物のひび割れを抽出するひび割れ抽出手段と、をさらに備えた、
    ことを特徴とする請求項1記載の対象物の点検装置。
  3. 前記重複率算出手段は、前記今回画像と前記隣接画像の重複面積に基づいて重複率を算出する、
    ことを特徴とする請求項1又は請求項2記載の対象物の点検装置。
  4. 前記重複率算出手段は、前記隣接画像に重なる前記今回画像の外周線の長さ、及び/又は前記今回画像に重なる前記隣接画像の外周線の長さに基づいて重複率を算出する、
    ことを特徴とする請求項1又は請求項2記載の対象物の点検装置。
  5. 前記重複率算出手段は、前記今回画像と前記隣接画像の重複領域の図心を求めるとともに、該図心から前記今回画像の外周線までの長さ、及び/又は該図心から前記隣接画像の外周線までの長さに基づいて重複率を算出する、
    ことを特徴とする請求項1又は請求項2記載の対象物の点検装置。
  6. 前記画像取得手段から前記対象物までの距離を測定する測距手段と、
    前記画像取得手段の姿勢を測定する姿勢測定手段と、
    前記画像取得手段から前記対象物までの距離と、前記画像取得手段の姿勢と、に基づいて、取得される画像の解像度を推定する解像度推定手段と、
    前記解像度推定手段が推定した前記解像度が、あらかじめ定めた解像度閾値を上回るときは画像取得を肯定し、該解像度閾値を下回るときは画像取得を否定する画像取得判定手段と、をさらに備え、
    前記画像判定手段は、前記画像取得判定手段が肯定して取得した前記今回画像に対して適否判定を行う、
    ことを特徴とする請求項1乃至請求項5のいずれかに記載の対象物の点検装置。
  7. 画像取得手段によって対象物の画像を取得して、該対象物の点検を行う方法において、
    前記画像取得手段で前記対象物を撮影して今回画像を取得する画像取得工程と、
    前記今回画像と、該今回画像の撮影範囲に隣接する範囲を取得した隣接画像と、に共通する複数の特徴点を抽出するとともに、該特徴点に基づいて該今回画像と該隣接画像の位置関係を求め、該今回画像と該隣接画像の重複率を算出する重複率算出工程と、
    前記重複率算出工程で算出された前記重複率が、あらかじめ定めた重複率閾値を上回るときは前記今回画像を適合と判定し、該重複率閾値を下回るときは前記今回画像を不適合と判定する画像判定工程と、を備え、
    前記画像判定工程で適合と判定された前記今回画像と、前記隣接画像と、を前記特徴点に基づいて結合した結合画像によって、前記対象物の点検を行うことを特徴とする対象物の点検方法。
  8. 前記画像取得手段から前記対象物までの距離を測定する測距工程と、
    前記画像取得手段の姿勢を測定する姿勢測定工程と、
    前記画像取得手段から前記対象物までの距離と、前記画像取得手段の姿勢と、に基づいて、取得される画像の解像度を推定する解像度推定工程と、
    前記解像度推定工程で推定した画像の解像度が、あらかじめ定めた解像度閾値を上回るときは画像取得を肯定し、該解像度閾値を下回るときは画像取得を否定する画像取得判定工程と、をさらに備え、
    前記画像取得工程では、前記画像取得判定工程で画像取得が肯定されたとき、前記対象物の画像を取得する、
    ことを特徴とする請求項7記載の対象物の点検方法。
JP2016233108A 2016-11-30 2016-11-30 点検装置、及び点検方法 Active JP6120037B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016233108A JP6120037B1 (ja) 2016-11-30 2016-11-30 点検装置、及び点検方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016233108A JP6120037B1 (ja) 2016-11-30 2016-11-30 点検装置、及び点検方法

Publications (2)

Publication Number Publication Date
JP6120037B1 true JP6120037B1 (ja) 2017-04-26
JP2018090982A JP2018090982A (ja) 2018-06-14

Family

ID=58666491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016233108A Active JP6120037B1 (ja) 2016-11-30 2016-11-30 点検装置、及び点検方法

Country Status (1)

Country Link
JP (1) JP6120037B1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101926561B1 (ko) * 2018-03-13 2018-12-07 연세대학교 산학협력단 블랙박스 영상을 이용한 딥러닝 기반의 패치 단위 도로 크랙 검출 장치 및 그 방법, 그리고 이 방법을 실행시키기 위해 컴퓨터가 판독 가능한 기록매체에 저장된 컴퓨터 프로그램
JP2019211415A (ja) * 2018-06-08 2019-12-12 アズビル株式会社 外観検査装置および方法
CN111524091A (zh) * 2019-02-04 2020-08-11 佳能株式会社 信息处理装置、信息处理方法和存储介质
CN111783672A (zh) * 2020-07-01 2020-10-16 哈尔滨工业大学 一种提高桥梁动位移精度的图像特征辨识方法
CN112385207A (zh) * 2018-07-03 2021-02-19 富士胶片株式会社 拍摄计划提示装置及方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020039470A1 (ja) * 2018-08-20 2020-02-27 ダットジャパン株式会社 画像処理システム
WO2020054584A1 (ja) * 2018-09-12 2020-03-19 富士フイルム株式会社 合成処理システム、合成処理装置、及び合成処理方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0993431A (ja) * 1995-09-26 1997-04-04 Canon Inc パノラマ画像合成装置
JPH11102430A (ja) * 1997-09-25 1999-04-13 Sharp Corp 画像処理装置
JP2001124522A (ja) * 1999-10-25 2001-05-11 Nikon Corp 画像処理を用いたひび割れ評価装置
JP2004021578A (ja) * 2002-06-17 2004-01-22 Nikon Gijutsu Kobo:Kk 画像処理方法
JP2011065371A (ja) * 2009-09-16 2011-03-31 Olympus Corp 画像生成方法及び画像生成装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0993431A (ja) * 1995-09-26 1997-04-04 Canon Inc パノラマ画像合成装置
JPH11102430A (ja) * 1997-09-25 1999-04-13 Sharp Corp 画像処理装置
JP2001124522A (ja) * 1999-10-25 2001-05-11 Nikon Corp 画像処理を用いたひび割れ評価装置
JP2004021578A (ja) * 2002-06-17 2004-01-22 Nikon Gijutsu Kobo:Kk 画像処理方法
JP2011065371A (ja) * 2009-09-16 2011-03-31 Olympus Corp 画像生成方法及び画像生成装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101926561B1 (ko) * 2018-03-13 2018-12-07 연세대학교 산학협력단 블랙박스 영상을 이용한 딥러닝 기반의 패치 단위 도로 크랙 검출 장치 및 그 방법, 그리고 이 방법을 실행시키기 위해 컴퓨터가 판독 가능한 기록매체에 저장된 컴퓨터 프로그램
JP2019211415A (ja) * 2018-06-08 2019-12-12 アズビル株式会社 外観検査装置および方法
JP7034840B2 (ja) 2018-06-08 2022-03-14 アズビル株式会社 外観検査装置および方法
CN112385207A (zh) * 2018-07-03 2021-02-19 富士胶片株式会社 拍摄计划提示装置及方法
CN112385207B (zh) * 2018-07-03 2022-04-12 富士胶片株式会社 拍摄计划提示装置及方法
US11528411B2 (en) 2018-07-03 2022-12-13 Fujifilm Corporation Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
US11895396B2 (en) 2018-07-03 2024-02-06 Fujifilm Corporation Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
CN111524091A (zh) * 2019-02-04 2020-08-11 佳能株式会社 信息处理装置、信息处理方法和存储介质
US11928805B2 (en) 2019-02-04 2024-03-12 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium for defect inspection and detection
CN111524091B (zh) * 2019-02-04 2024-07-09 佳能株式会社 信息处理装置、信息处理方法和存储介质
CN111783672A (zh) * 2020-07-01 2020-10-16 哈尔滨工业大学 一种提高桥梁动位移精度的图像特征辨识方法

Also Published As

Publication number Publication date
JP2018090982A (ja) 2018-06-14

Similar Documents

Publication Publication Date Title
JP6120037B1 (ja) 点検装置、及び点検方法
JP6472894B2 (ja) メンテナンス計画立案支援システム、方法およびプログラム
JP6734583B2 (ja) 橋梁などの構造物を検査するための画像処理システム、画像処理方法及びプログラム
KR101569193B1 (ko) 원거리용 균열 측정장치 및 이를 이용하는 균열 측정방법
JP6576474B2 (ja) 撮影支援装置及び撮影支援方法
JP6412658B2 (ja) 点検計画立案支援システム、方法およびプログラム
CN109931889B (zh) 基于图像识别技术的偏差检测系统及方法
CN110763697A (zh) 一种使用飞行器检测工程结构表面裂缝的方法
KR20170126148A (ko) 무인 항공기를 이용한 도로 균열 탐지 장치 및 방법
JP6213754B1 (ja) 点検装置、及び点検方法
JP2004309491A (ja) 建築および土木構造物計測・解析システム
KR101306583B1 (ko) 곡선형 스프링 검사장치 및 검사방법
JP6132221B1 (ja) 画像取得方法、及び画像取得装置
JP6354054B1 (ja) 撮影支援装置、及び撮影方法
JP7060934B2 (ja) 撮影画像補正システム
JP7314466B2 (ja) 無人航空機、画像撮像システム、及びプログラム
JP6132222B1 (ja) 画像補正方法、及び画像補正装置
JP2004309492A (ja) 建築および土木構造物計測・解析システム
JP7044331B2 (ja) 橋梁などの構造物を効率的に検査するための画像処理システム、画像処理方法及びプログラム
JP7249828B2 (ja) ひび割れ抽出システム、及びひび割れ抽出方法
JP2021012141A (ja) 異常点検システム、異常点検装置、異常点検方法および異常点検プログラム
JP7165800B2 (ja) 撮影画像補正方法
JP6503132B1 (ja) 画像を利用した点検方法
KR102504743B1 (ko) 시설물의 모델링을 기반으로 하는 점검 드론의 위치 보정장치 및 보정방법
JP7326537B1 (ja) 昇降機座標軸設定方法及び昇降機形状計測装置

Legal Events

Date Code Title Description
A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170210

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170314

R150 Certificate of patent or registration of utility model

Ref document number: 6120037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250