JP6576473B2 - ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム - Google Patents

ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム Download PDF

Info

Publication number
JP6576473B2
JP6576473B2 JP2017562519A JP2017562519A JP6576473B2 JP 6576473 B2 JP6576473 B2 JP 6576473B2 JP 2017562519 A JP2017562519 A JP 2017562519A JP 2017562519 A JP2017562519 A JP 2017562519A JP 6576473 B2 JP6576473 B2 JP 6576473B2
Authority
JP
Japan
Prior art keywords
crack information
damage
label
crack
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017562519A
Other languages
English (en)
Other versions
JPWO2017126367A1 (ja
Inventor
樹彦 苅部
樹彦 苅部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2017126367A1 publication Critical patent/JPWO2017126367A1/ja
Application granted granted Critical
Publication of JP6576473B2 publication Critical patent/JP6576473B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/888Marking defects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20096Interactive definition of curve of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)

Description

本発明は、ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラムに関し、特に、構造物のひび割れに関するひび割れ情報を編集するためのひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラムに関する。
橋梁、トンネル、道路、及びビル等の構造物には各種の損傷が発生し、時間と共に損傷が大きくなってゆくため、構造物の安全を確保するには、損傷の状況に応じて補修を行う必要がある。従来、損傷の検査は作業員による目視あるいは器具を用いた検査により行われてきたが、検査時間及びコスト、作業場所の環境等の問題により、近年は撮像装置及び/または画像処理装置により電子的な処理が行われるようになってきている。
特許文献1によると、ひび割れの検知装置が、画素値に関する特徴量選定とニューラルネット収束演算により、ひび割れ候補画像を生成する。候補画像におけるひび割れ判定では、ひび割れ候補画像の決定と、その近傍範囲内にある画素の連結判定を行っている。また、隣接画素のユークリッド距離に基づき、飛び地であってひび割れではないとする判定を行う。
特許文献2には、連結する黒画素(または白画素)の塊に対して同じラベル(番号)を割り当て、異なる連結成分どうしは異なるラベル(番号)を割り当てるラベリング処理が記載されており、これにより、ひび割れ等の損傷領域のラベル、汚れなどのラベルに分けることができる。
また、ラベリング処理されたラベリング画像は、”1”の集合、すなわち”1”の塊に対して、「A」、「B」及び「C」というラベルを割り当てたものであり、ラベル「A」はひび割れ部分のラベルで、ラベル「B」及び「C」は汚れなどに対する塊部分であることが識別できるようになっている。また、ラベルとして記号を付したが、番号であっても良いものとしている。さらに、画像上に現れたひび割れ部分にラベルを割り当て、そのラベリング画像からひび割れ部分の画素数を計測し、画素数及び分解能からひび割れ幅及び長さを計測する。
特開2011-242365号公報 特開2002-174601号公報
ひび割れは不連続な形状であることが多く、断続的な線群を1本のひび割れと判定することが難しい。
この点、特許文献1では、ユークリッド距離で連結判定をしており、1本のひび割れが適切に接続されない可能性がある。すなわち、ユークリッド距離が離れていても、人間の目から見て一本のひび割れと認識されるものもあり、ユークリッド距離のみを基準とするひび割れの接続は、実運用上のひび割れの接続と相いれない可能性がある。
このため、特許文献1のような自動的なひび割れ検出結果に対し、ユーザが特定のひび割れのみを指定する操作を行うことで、自動的なひび割れ検出結果を編集することも考えられる。例えば、誤検出と判断してひび割れを1本丸ごと削除する場合などである。
もっとも、コンクリートに生じるひび割れは、進行するほどその形状が複雑になるため、画像上に密集したひび割れから所望のひび割れのみを指定する際、適切な位置をポインティングするのは時間のかかる作業であり、間違いも起こりやすい。
また、各ひび割れの位置や領域が事前に分かっていないと、位置や領域の選択に時間がかかり、形状の複雑さから間違いが起こりやすい。特に、ひび割れは断続的な形状であり、検出結果もその形状に従って不連続になるため、領域選択は容易でない。ひび割れが密集していると、領域選択の難易度はさらに高まる。
しかし、特許文献2の技術では、ひび割れと汚れをラベルで識別することはできるが、ラベルによりひび割れ等の欠陥情報を指定したり、その指定した欠陥情報を削除(編集等)することはできない。
本発明はこのような問題点に鑑みてなされたもので、その目的は、不連続なひび割れを適切にラべリングすることで、1本のひび割れを簡単に指定して編集できるようにすることにある。
上記の課題を解決するため、本願発明の第1態様に係るひび割れ情報編集装置は、構造物の表面画像の画像解析により検出される構造物のひび割れについてのひび割れ情報を取得するひび割れ情報取得部と、ひび割れ情報取得部が取得したひび割れ情報に基づいて、ひび割れ情報を識別するラべルを付与するラべリング部と、ひび割れ情報を示す映像を表面画像に重畳して表示するとともに、ラべリング部の付与したラべルを示す映像を、ひび割れ情報を示す映像に関連づけて表示する表示部と、表示部の表示したラベルの中から、任意のラべルの選択を受け付け可能なラべル選択部と、ラべル選択部が選択を受け付けたラべルに関連づけられたひび割れ情報の編集を受け付けるひび割れ情報編集部と、を備える。
この態様に係るひび割れ情報編集装置は、ラべル選択により、選択されたラベルに関連づけられたひび割れ情報の編集を受け付けることができる。このため、ユーザ操作によるひび割れ情報の選択と編集が容易である。
本願発明の第2態様に係るひび割れ情報編集装置において、ひび割れ情報編集部が受け付けるひび割れ情報の編集は、ひび割れ情報を削除すること、任意に選択された複数のラベルに関連づけられた複数の不連続なひび割れ情報同士を1つの連続したひび割れ情報に結合すること、または複数の不連続なひび割れ情報同士の結合を解除することを含む。
ラべル選択により、選択されたラベルに関連づけられたひび割れ情報の削除、結合、結合の解除を受け付けることができる。このため、ユーザ操作によるひび割れ情報の編集が容易である。
本願発明の第3態様に係るひび割れ情報編集装置において、ラべリング部は、ひび割れ情報の編集に応じ、ひび割れ情報取得部が取得したひび割れ情報のラべルを更新し、表示部は、ひび割れ情報の編集に応じ、ひび割れ情報を示す映像とラべルを示す映像を更新する。
これにより、選択したラベルに関連するひび割れ情報の編集結果が視覚的に容易に確認できる。
本願発明の第4態様に係るひび割れ情報編集装置において、ひび割れ情報の削除がひび割れ情報編集部によって受け付けられた場合、ラべリング部は、選択されたラべルを削除し、表示部は、選択されたラべルに対応するひび割れ情報を示す映像の表示を停止する。
これにより、選択したラベルに関連するひび割れ情報の削除結果が視覚的に容易に確認できる。
本願発明の第5態様に係るひび割れ情報編集装置において、複数のひび割れ情報同士の結合がひび割れ情報編集部によって受け付けられた場合、ラべリング部は、結合が受け付けられた複数のひび割れ情報同士に共通のラべルを付与し、表示部は、共通のラベルを示す映像を結合した複数のひび割れ情報同士を示す映像に関連づけて表示する。
これにより、選択したラベルに関連するひび割れ情報の結合結果が視覚的に容易に確認できる。
本願発明の第6態様に係るひび割れ情報編集装置において、複数のひび割れ情報同士の結合の解除がひび割れ情報編集部によって受け付けられた場合、ラべリング部は、結合の解除が受け付けられた複数のひび割れ情報同士を互いに区別可能なラべルを複数のひび割れ情報のそれぞれに付与し、表示部は、複数のひび割れ情報のそれぞれを示す映像に区別可能なラべルのそれぞれを関連づけて表示する。
これにより、選択したラベルに関連するひび割れ情報の結合の解除結果が視覚的に容易に確認できる。
本願発明の第7態様に係るひび割れ情報編集装置において、表示部は、ひび割れ情報を示す映像外の位置に、ラべリング部の付与したラべルを示す映像を表示する。
これにより、ラベルとひび割れ情報の映像が干渉せず視認性が向上する。
本願発明の第8態様に係るひび割れ情報編集装置において、ラべルを示す映像は、ひび割れ情報取得部が取得したひび割れ情報ごとのラベルを個別に含む吹き出しまたはひび割れ情報取得部が取得したひび割れ情報のラベルを複数含む一覧表である。
ひび割れ情報のラベルを含む吹き出し、またはひび割れ情報のラベルを複数含む一覧表から任意のラベルを選択できるので、ラベルの選択が容易である。
本願発明の第9態様に係るひび割れ情報編集装置において、表示部は、選択されたラべルに関連づけられたひび割れ情報の映像を強調表示する。
これにより、選択されたラベルに関連するひび割れ情報の識別が容易である。
本願発明の第10態様に係るひび割れ情報編集装置において、ひび割れ情報取得部は、クラスカル法、プリム法、ニューラルネット収束演算、パーコレイション法などにより、構造物のひび割れについてのひび割れ情報を取得する。
本願発明の第11態様に係るひび割れ情報編集装置において、ひび割れ情報は、ひび割れの幅、長さ、および向きを含むベクトルデータである。
本願発明の第12態様に係るひび割れ情報編集方法は、コンピュータが、構造物の表面画像の画像解析により検出される構造物のひび割れについてのひび割れ情報を取得するステップと、取得したひび割れ情報に基づいて、ひび割れ情報を識別するラべルを付与するステップと、ひび割れ情報を示す映像を表面画像に重畳して表示するとともに、付与したラべルを示す映像を、ひび割れ情報を示す映像に関連づけて表示するステップと、表示したラベルの中から、任意のラべルの選択を受け付けるステップと、選択を受け付けたラべルに関連づけられたひび割れ情報の編集を受け付けるステップと、を実行する。
上記に記載のひび割れ情報編集方法をコンピュータに実行させるためのひび割れ情報編集プログラムも本願発明の態様に含まれる。
本発明によると、ラべル選択により、選択されたラベルに関連づけられたひび割れ情報の編集を受け付けることができる。このため、ユーザ操作によるひび割れ情報の選択と編集が容易である。
図1は、構造物の例である橋梁を示す図である。 図2は、本発明の一実施形態に係る損傷情報処理装置の構成を示すブロック図である。 図3は、本発明の一実施形態に係る損傷情報処理方法の手順を示すフローチャートである。 図4は、曲線状の損傷を分割して複数の損傷ベクトルを生成する様子を示す図である。 図5は、損傷ベクトルの始点を決める様子を説明するための図である。 図6は、損傷ベクトルの始点を決める様子を説明するための他の図である。 図7は、分離した損傷ベクトルの連結を示す図である。 図8は、分離した損傷ベクトルの連結を示す他の図である。 図9は、階層構造情報に含まれる画像情報を示す表である。 図10は、階層構造情報に含まれる損傷ベクトルの情報の例(階層決定手法の例1に対応)を示す図である。 図11Aは、損傷ベクトルとラベルの表示例を説明するための図である。 図11Bは、損傷ベクトルとラベルの表示例を説明するための図である。 図12は、損傷ベクトルの階層決定手法の例2を説明するための他の図である。 図13は、階層決定手法の例2に対応した階層構造情報(損傷ベクトル情報)の例を示す表である。 図14は、損傷ベクトルの階層決定手法の例3を説明するための図である。 図15は、損傷ベクトルの階層決定手法の例3を説明するための他の図であり、図14よりも時間的に後に撮影した画像を示す図である。 図16は、損傷ベクトルの階層決定手法の例3を説明するためのさらに他の図であり、図15よりも時間的に後に撮影した画像を示す図である。 図17は、階層決定手法の例3に対応した階層構造情報(損傷ベクトル情報)の例を示す表である。 図18は、損傷ベクトルの階層決定手法の例4を説明するための図である。 図19は、階層決定手法の例4に対応した階層構造情報(損傷ベクトル情報)の例を示す表である。 図20は、C1−3のラベルが選択され、このラベルに対応する損傷ベクトルに削除指示入力が行われる様子を示す図である。 図21は、C1−3のラベルに対応する損傷ベクトルに削除指示入力が行われた結果、C1−3のラベルの表示が削除されかつC1−3のラベルに対応する損傷ベクトルの表示が削除された更新表示例を示す図である。 図22は、当該削除指示入力が行われた結果、C1−3のラベルに対応する損傷ベクトルの削除操作フラグに”1”が割り当てられている階層構造情報の一例を示す図である。 図23は、C1−5およびC8−1のラベルが選択され、これらのラベルに対応する損傷ベクトル同士の結合指示入力が行われている様子を示す図である。 図24は、当該結合指示入力が行われた結果、C1−5およびC8−1のラベルに対応する損傷ベクトルを結合した損傷ベクトルの線分および当該追加損傷ベクトルに付与されたラベル“C1−5+C8−1”の更新表示例を示す図である。 図25は、C1−5およびC8−1のラベルに対応する損傷ベクトルの追加操作フラグに”2”が割り当てられている階層構造情報の更新例を示す図である。 図26は、追加損傷ベクトルに対応する“C1−5+C8−1”のラベルが選択され、これらのラベルに対応する損傷ベクトル同士の結合解除指示入力が行われている様子を示す図である。 図27は、当該結合解除指示入力が行われた結果、C1−5およびC8−1のラベルの損傷ベクトル同士の結合が解除された表示例を示す図である。 図28は、C1−5およびC8−1のラベルに対応する損傷ベクトルの追加操作フラグに”0”が割り当てられている階層構造情報の一例を示す図である。
以下、添付図面を参照しつつ、本発明に係るひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラムの実施形態について説明する。
<第1の実施形態>
図1は、本発明に係るひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラムが適用される構造物の例である橋梁1(構造物、コンクリート構造物)の構造を示す斜視図である。図1に示す橋梁1は主桁3を有し、主桁3は接合部3Aで接合されている。主桁3は橋台及び/または橋脚の間に渡され、床版2上の車輌等の荷重を支える部材である。また主桁3の上部には、車輌等が走行するための床版2が打設されている。床版2は鉄筋コンクリート製のものとする。なお橋梁1は、床版2及び主桁3の他に図示せぬ横桁、対傾構、及び横構等の部材を有する。
<画像の取得>
橋梁1の損傷を検査する場合、検査員はデジタルカメラ104(図2参照)を用いて橋梁1を下方から撮影し(図1のC方向)、検査範囲について表面画像を取得する。撮影は、橋梁1の延伸方向(図1のA方向)及びその直交方向(図1のB方向)に適宜移動しながら行う。なお橋梁1の周辺状況により検査員の移動が困難な場合は、橋梁1に沿って移動可能な移動体にデジタルカメラ104を設置して撮影を行ってもよい。このような移動体には、デジタルカメラ104の昇降機構及び/またはパン・チルト機構を設けてもよい。なお移動体の例としては車輌、ロボット、及び飛翔体を挙げることができるが、これらに限定されるものではない。
<損傷情報処理装置の構成>
図2は、本発明のひび割れ情報編集装置に係る実施形態である損傷情報処理装置100の概略構成を示すブロック図である。損傷情報処理装置100は、損傷情報取得部102(ひび割れ情報取得部に対応)、損傷ベクトル生成部110(ラべリング部に対応)、階層構造情報生成部112、損傷ベクトル抽出部114、階層構造情報記録部116(ひび割れ情報編集部に対応)、表示部118(表示部に対応)、及び操作部120(ラべル選択部に対応)を備え、互いに接続されていて、必要な情報を互いに送受信できるようになっている。
各部の機能は、例えばCPU(Central Processing Unit)等の制御デバイスがメモリに記憶されたプログラムを実行することで実現できる。また、損傷情報取得部102は無線通信用アンテナ及び入出力インタフェース回路を含み、階層構造情報記録部116はHDD(Hard Disk Drive)等の非一時的記録媒体を含んで構成される。また表示部118は液晶ディスプレイ等の表示デバイスを含み、操作部120はキーボード等の入力デバイスを含む。なおこれらは本発明に係る損傷情報処理装置の構成の一例を示すものであり、他の構成を適宜採用し得る。
上述のようにデジタルカメラ104を用いて撮影された画像は、無線通信により画像取得部106に入力されて、画像処理部108により損傷情報が取得される。デジタルカメラ104、画像取得部106、及び画像処理部108は損傷情報取得部102を構成する。損傷ベクトル生成部110は、損傷情報取得部102が取得した損傷情報から画像解析により損傷ベクトル(ひび割れベクトル)を生成し、また空間的に分離した損傷ベクトルを連結させる。階層構造情報生成部112は損傷ベクトル生成部110が生成した損傷ベクトルに基づいて階層構造情報を生成し、生成された階層構造情報は階層構造情報記録部116に記録される。損傷ベクトル抽出部114は、階層構造情報を参照して、損傷ベクトルの所属階層等の指定された条件を満たす損傷ベクトルを抽出する。表示部118は、入力した画像、生成あるいは抽出した損傷ベクトル、階層構造情報等の全部または一部を重畳して、あるいはこれらを単独で表示する。表示部118はまた、損傷ベクトルの情報から線分の画像を生成する等、表示の際に必要な画像処理を行う。操作部120は、損傷ベクトル及び階層構造情報の抽出条件並びに表示条件の設定、及び階層構造情報の編集等に関するユーザの指示入力を受け付ける。
<損傷情報処理の手順>
次に、上述した構成の損傷情報処理装置100を用いた損傷情報処理(本発明のひび割れ情報編集方法に対応)について説明する。図3は本実施形態に係る損傷情報処理の手順を示すフローチャートである。なお、本実施形態では損傷が床版2に生じたひび割れである場合について説明し、損傷を適宜「ひび割れ」と記載するが、本発明が適用可能な損傷はひび割れに限らず、遊離石灰等他の損傷でもよい。この処理を損傷情報処理装置100により実行させるためのプログラム(本発明のひび割れ情報編集プログラムに対応)は、損傷情報処理装置100に内蔵のフラッシュメモリなどのコンピュータ読み取り可能な非一時的有形媒体に記録されている。
<損傷情報取得工程>
まず、上述のようにデジタルカメラ104で撮影した橋梁1の画像を、無線通信により画像取得部106に入力する(ステップS100;画像入力工程)。橋梁1の画像は検査範囲に応じて複数入力され、また入力する画像には、デジタルカメラ104により撮影日時の情報が付加されている。なお入力画像の撮影日時は必ずしも全ての画像において同一である必要はなく、複数日に亘っていてもよい。画像は複数の画像を一括して入力してもよいし、一度に1つの画像を入力するようにしてもよい。なお、橋梁1の画像は無線通信でなく各種メモリカード等の非一時的記録媒体を介して入力するようにしてもよいし、既に撮影され記録されている画像のデータをネットワーク経由で入力してもよい。なおステップS100で入力する橋梁1の画像は、撮影画像そのままでもよいし、撮影画像に前処理を施したものでもよい。
<損傷抽出工程>
次に、画像処理部108は、入力した画像から損傷(ひび割れ)を抽出する(ステップS110;損傷抽出工程)。ステップS100の画像入力工程及びステップS110の損傷抽出工程は、本発明の損傷情報処理方法における損傷情報取得工程を構成する。なおステップS110では、ステップS100で入力した画像から損傷が抽出されていれば、即ち画像における損傷の領域が識別されていれば損傷情報が取得できたものと考えてよく、損傷の詳細な特徴が把握されることまでは要しない。
ステップS110における損傷の抽出は種々の手法により行うことができるが、例えば特許4006007号公報に記載されたひび割れ検出方法を用いることができる。この方法は、対比される2つの濃度に対応したウェーブレット係数を算定すると共に、該2つの濃度をそれぞれ変化させた場合のそれぞれのウェーブレット係数を算定してウェーブレット係数テーブルを作成し、ひび割れ検出対象であるコンクリート表面を撮影した入力画像をウェーブレット変換することによってウェーブレット画像を作成する工程と、ウェーブレット係数テーブル内において、局所領域内の近傍画素の平均濃度と注目画素の濃度に対応するウェーブレット係数を閾値として、注目画素のウェーブレット係数と該閾値とを比較することによりひび割れ領域とひび割れでない領域を判定する工程とからなるひび割れ検出方法である。
なおステップS110における損傷の抽出は、ステップS100で入力した画像に必要な前処理を施してから行うようにしてもよい。
<損傷ベクトルの生成>
ステップS110で損傷が抽出されると(損傷情報が取得されると)、損傷ベクトル生成部110が、取得した損傷情報をベクトル化して損傷ベクトル(ひび割れベクトル)を生成する(ステップS120;損傷ベクトル生成工程)。ベクトル化に際しては、抽出した損傷(ひび割れ)を必要に応じ2値化及び/または細線化する。なお「ベクトル化」とは、損傷に対し始点及び終点で定まる線分を求めることであり、損傷(ひび割れ)が曲線状の場合、曲線と線分の距離が閾値以下になるように損傷を複数の区間に分割し、複数の区間のそれぞれについて損傷ベクトルを生成する。図4の例では、曲線状の損傷Crを4つの区間Cr1〜Cr4に分割し、それぞれの区間について損傷ベクトルCv1〜Cv4を生成することで、区間Cr1〜Cr4における損傷と損傷ベクトルCv1〜Cv4との距離d1〜d4が閾値以下になるようにしている。
損傷ベクトルの生成に際しては、例えば床版2の特徴点を座標系の原点とし、損傷ベクトルのグループ(ベクトルグループ)について、原点からの距離が最小になる端点を第1の始点とし、以下損傷ベクトルの走行方向に沿って順次終点、始点を決定することができる。図5の例では、床版2上の点P0を座標系の原点、図の右方向及び下方向をそれぞれ座標系のX軸方向、Y軸方向としたときに、ベクトルグループC7の点P13,P14,P15,P16のうち点P0からの距離dが最も短くなる点P13を損傷ベクトルC7−1の始点とし、以下、点P14を損傷ベクトルC7−1の終点(かつ損傷ベクトルC7−2,C7−3の始点)、点P15,P16をそれぞれ損傷ベクトルC7−2,C7−3の終点とすることができる。
しかしながら、同様の手法でベクトルグループC8の始点を決定すると、点P17が損傷ベクトルC8−1の始点、点P18が損傷ベクトルC8−2,C8−3の始点となり、損傷ベクトルC8−3の走行方向(点P18から点P20へ向かう方向)が損傷ベクトルC8−1の走行方向と逆行してしまう。そこでこのような場合は、図6に示すように点P19を損傷ベクトルC8A−1の始点とし、以下、点P18を損傷ベクトルC8A−1の終点(かつ損傷ベクトルC8A−2,C8A−3の始点)、点P17,P20をそれぞれ損傷ベクトルC8A−2,C8A−3の終点とするようにしてもよい。なおこの場合の損傷ベクトルの集合体をベクトルグループC8Aと表記する。このような処理は損傷ベクトル生成部110がユーザの指示入力を介さずに行うようにしてもよいし、操作部120を介したユーザの指示入力に基づいて損傷ベクトル生成部110が行うようにしてもよい。
<分離した損傷ベクトルの連結>
上述のようにして損傷ベクトルを生成する場合、損傷が床版2の内部では連続しているが表面では分離していると、分離した損傷ベクトルとして認識されてしまう可能性がある。そこで本実施形態に係る損傷情報処理装置100では、そのような複数の損傷ベクトルを連結して1または複数のベクトルを生成する。
図7は損傷ベクトルの連結の例を示す図であり、損傷ベクトルC3−1(点P21、点P22がそれぞれ始点、終点)を含むベクトルグループC3と、損傷ベクトルC4−1(点P23、点P24がそれぞれ始点、終点)を含むベクトルグループC4とが抽出された状況を示している。また、損傷ベクトルC3−1が点P22及び点P23を結ぶ線分となす角をα1とし、点P22及び点P23を結ぶ線分が損傷ベクトルC4−1となす角をα2とする。このとき、角α1及び角α2が共に閾値以下ならば、損傷ベクトルC3−1及びC4−1を連結し、またベクトルグループC3及びC4を融合させる。具体的には、図8に示すように新たな損傷ベクトルC5−2を生成してその他の損傷ベクトルC5−1(損傷ベクトルC3−1と同一)及びC5−3(損傷ベクトルC4−1と同一)と連結させ、これら損傷ベクトルC5−1,C5−2,及びC5−3を含む新たなベクトルグループをベクトルグループC5とする。
なお上述の手法は損傷ベクトル連結手法の一例であり、他の方法を用いてもよい。また、上述のように損傷ベクトル同士を連結させるか否かは、ユーザの指示入力によらずに損傷ベクトル生成部110が判断するようにしてもよいし、操作部120を介したユーザの指示入力に基づいて損傷ベクトル生成部110が判断するようにしてもよい。
このように本実施形態に係る損傷情報処理装置100では、空間的に(床版2の表面で)分離した損傷ベクトルを適宜連結させることにより、損傷ベクトル同士の連結関係を正確に把握することができる。
<階層構造情報の生成>
ステップS120で損傷ベクトルが生成されると、生成した損傷ベクトルに基づいて、階層構造情報生成部112が階層構造情報を生成する(ステップS130;階層構造情報生成工程)。階層構造情報は損傷ベクトル同士の連結関係を階層的に表現した情報であり、画像情報(図9を参照)及び損傷ベクトル情報(図10,13,17,及び19を参照)により構成される。これら画像情報及び損傷ベクトル情報は、損傷ベクトル(ひび割れベクトル)の集合体であるベクトルグループを介して関連づけられている。したがって損傷の画像からベクトルグループのID(Identification)を参照して損傷ベクトルを抽出することもできるし、逆に損傷ベクトルに基づいて画像を抽出することもできる。なお、階層構造情報は損傷ベクトルが所属する階層(レベル)によらず同一の項目及び形式で生成されるので(図10,13,17,及び19を参照)、ユーザは階層構造情報を容易に認識及び把握することができる。
<画像情報>
上述した画像情報とは、損傷が撮像された撮影画像についての情報であり、損傷ベクトルのグループについて、撮影画像の識別情報(ID)及び画像データ、画像取得日時等を規定したものである。図9は画像情報の例を示す表であり、ベクトルグループC1(図11A参照)について、画像のID、画像データ、取得日時、画像の幅及び高さ、チャンネル数、ビット/ピクセル、解像度が規定されている。チャンネル数はRGB(R:赤、G:緑、B:青)カラー画像なら3チャンネルであり、モノクロ画像なら1チャンネルである。なお図9ではベクトルグループC1についてのみ記載しているが、ベクトルグループが複数存在する場合は、各グループについて同様の情報が生成される。
<損傷ベクトル情報>
図10は、損傷ベクトル情報の例である。損傷ベクトル情報は、損傷ベクトルが所属するベクトルグループの情報と、各損傷ベクトルの固有情報と、ベクトルグループ内において各損傷ベクトルに連結する他の損傷ベクトルの情報と、付加情報と、から構成される。
ベクトルグループ(図10の表の場合ベクトルグループC1;図11A参照)の情報はグループのラベル(識別情報)を含む。損傷ベクトルの固有情報は、損傷ベクトルのラベル(識別情報)、階層(レベル;所属階層情報)、始点及び終点(点番号及び位置座標)、及び長さを含む。ここで階層(レベル)は、レベル1が最上位であり、数字が大きくなるほど下位の階層になる。具体的な階層の決定方法については詳細を後述する。他の損傷ベクトルの情報は、以下に説明するように親ベクトル、兄弟ベクトル、及び子ベクトルのラベル(識別情報)を含む。付加情報は、損傷の幅、削除操作フラグ、追加操作フラグ、点検日、及び補修情報を含む。
<親ベクトル、兄弟ベクトル、及び子ベクトル>
本実施形態において、一の損傷ベクトルの終点が他の損傷ベクトルの始点となっている場合、そのような一の損傷ベクトルを「親ベクトル」といい、他の損傷ベクトルを「子ベクトル」という。親ベクトルは1つの損傷ベクトルについてゼロまたは1つとなるように決めるものとするが、子ベクトルは1つの親ベクトルに対しゼロ以上の任意の数だけ存在していてよい。また、親ベクトルの終点が複数の子ベクトルの始点となっている場合、それら複数の子ベクトルは互いに「兄弟ベクトル」という。兄弟ベクトルも、ゼロ以上の任意の数だけ存在していてよい。
このように、本実施形態では階層構造情報に親ベクトル、兄弟ベクトル、及び子ベクトルのラベル(識別情報)が含まれるので、任意の損傷ベクトルに基づいて、ベクトルのIDを参照して親ベクトル、兄弟ベクトル、及び子ベクトルを順次特定することができる。例えば、ある損傷ベクトルの親ベクトルを特定し、その親ベクトルの親ベクトルをさらに特定することができる。このようにして本実施形態に係る損傷情報処理装置100では、損傷ベクトル同士の連結関係を容易に把握でき、また損傷ベクトルの分析及び検索を容易に行うことができる。
<付加情報>
付加情報に含まれる「幅」は、各損傷ベクトルに対応するひび割れの幅を示す。削除操作フラグは削除操作が行われたベクトルであるかどうかを示し、削除操作が行われた場合は“1”、行われていない場合は“0”である。この削除操作フラグを参照して、損傷ベクトルの表示と非表示とを切り替えることができる。追加操作フラグは、損傷ベクトルの検出態様に関連しており、自動で検出されたベクトルである場合は“0”、手動で(ユーザの指示入力により)追加されたベクトルである場合は“1”、手動で追加され異なるラベルのベクトルを接続して生成されたベクトルである場合は“2”である。
「点検日」には損傷の画像を撮像した日を設定するが、操作部120を介したユーザの指示入力により編集することもできる。また「補修」の情報は、操作部120を介したユーザの指示入力(補修の種類及び補修日)に基づいて生成することができる。補修の種類は例えば、セメントで埋める、樹脂で埋める、放置(経過観察)など(図10の表ではそれぞれR1,R2,R3と記載している)がある。
<損傷ベクトルの階層>
次に、損傷ベクトルが所属する階層(レベル)について説明する。損傷ベクトルの階層は、例えば以下の例1〜4で説明するように、種々の手法で決定することができる。
<階層決定手法(例1)>
図11Aは、ベクトルグループC1を示す図である。ベクトルグループC1は、損傷ベクトルC1−1〜C1−6により構成されており、これら損傷ベクトルは点P1〜P7を始点または終点としている。このような状況において例1では、損傷ベクトルが分岐する(ある損傷ベクトルの終点が他の複数の損傷ベクトルの始点となっている)ごとに階層が下位になるとしている。具体的には損傷ベクトルC1−1の階層を最も上位の“レベル1”として、損傷ベクトルC1−1の終点である点P2を始点とする損傷ベクトルC1−2及びC1−3の階層は、損傷ベクトルC1−1よりも下位である“レベル2”とする。同様に、損傷ベクトルC1−3の終点である点P4を始点とする損傷ベクトルC1−5及びC1−6の階層は、損傷ベクトルC1−3よりも下位である“レベル3”とする。一方、損傷ベクトルC1−2の終点である点P3は損傷ベクトルC1−4の始点であるが、点P3を始点とする損傷ベクトルは損傷ベクトルC1−4だけであり分岐はないので、損傷ベクトルC1−4の階層はC1−2と同じ“レベル2”とする。このようにして決定した各損傷ベクトルの階層は、図10の表に示すように階層構造情報に含まれる。
また図11Aに示すように、各損傷ベクトルに個別のラベルは、対応する各損傷ベクトルの始点、終点、またはこれらを結ぶ線分の近傍の任意の位置を起点とする吹き出しの映像によって、各損傷ベクトルと関連付けて表示部118にて表示される。このほか、各損傷ベクトルのラベルは、対応する各損傷ベクトルの線分近傍の任意の位置を起点とする旗、帯、プレート、ボックス、線、表などの映像、あるいはこれらの全部または一部の組み合わせによって、各損傷ベクトルと関連付けて表示されてもよい。吹き出しは、損傷ベクトルの映像外に配置し、損傷ベクトルそのものと重複を避ける位置にするとよい。
また、ラベルの表示位置や表示形式も任意である。図11Aでは、損傷ベクトルの近傍にラベルを配置しているが、図11Bのように、損傷ベクトルと重複しない画面の空白部分に複数のラベルを含むラベル群を一覧表にて表示し、各ラベルと各損傷ベクトルとを一対一で結ぶ線で関連づけることで両者の対応を示してもよい。なお、吹き出しなどで示された個々のラベルまたはラベルの一覧表は、同一グループの損傷ベクトルとの重複表示が回避されればよく、異なるグループに対応する損傷ベクトルとは重複して表示されてもよい。
<階層決定手法(例2)>
図12は、ベクトルグループC1(損傷ベクトル同士の連結関係は図11Aに示すものと同一)を示す図である。例2では、連結する損傷ベクトルのうち他の損傷ベクトルとなす角度が閾値以下であるもの(木構造における「幹」に相当する損傷ベクトル)は同一の階層に属するものとしている。具体的には図12の点線内(参照符号Lv1で示す範囲)に存在する損傷ベクトルC1−1,C1−2,及びC1−4は同一の階層である“レベル1”(最上位)とする。また、それ以外の損傷ベクトルC1−3,C1−5,及びC1−6については、例1と同様に損傷ベクトルが分岐するごとに階層が下位になるとしており、損傷ベクトルC1−3(木構造における「枝」に相当)を“レベル2”、損傷ベクトルC1−5及びC1−6(木構造における「葉」に相当)を“レベル3”としている。このようにして決定した各損傷ベクトルの階層及び種別(幹、枝、あるいは葉)は、図13の表に示すように、階層構造情報に含まれる。
<階層決定手法(例2の変形例)>
上述した階層決定手法(例2)の変形例について説明する。階層決定手法(例2)のように損傷ベクトルを木構造における幹、枝、及び葉に相当するものとして階層を決定するに際して、一般に「枝」は「幹」よりも短いと考えられるため、最長の損傷ベクトルを「幹」(レベル1)とし、その他の損傷ベクトルを「枝」または「葉」として階層を決定するようにしてもよい。この場合、例えば図13の表に示す損傷ベクトル情報では、長さ100mmの損傷ベクトルC1−1が「幹」(レベル1)となる。損傷ベクトルC1−2及びC1−3は「枝」(レベル2)とし、損傷ベクトルC1−4は「枝」(レベル2)または「葉」(レベル3)、損傷ベクトルC1−5,及び6は「葉」(レベル3)とすることができる。
なお、「最長の損傷ベクトル」ではなく「最長のひび割れ」を構成する損傷ベクトルを「幹」(レベル1)とし、「幹」から分岐しているひび割れに対応する損傷ベクトルを「枝」または「葉」としてもよい。この場合、「最長のひび割れ」とは「太いひび割れも細いひび割れも全て繋がった状態において、ひび割れとして最長である」ことを意味するものとする。
また、損傷ベクトルの長さに加え幅(損傷ベクトルに対応する損傷の幅)をも考慮して種別(幹、枝、及び葉)及び階層を決定するようにしてもよい。例えば、「長さ×幅」が最大になる損傷ベクトルを「幹」とし、その他の損傷ベクトルを「枝」または「葉」として階層を決定するようにしてもよい。この場合、例えば図13の表に示す損傷ベクトル情報では、「長さ×幅」が最大(100mm)である傷ベクトルC1−1が「幹」となる。損傷ベクトルC1−2及びC1−3は「枝」(レベル2)とし、損傷ベクトルC1−4は「枝」(レベル2)または「葉」(レベル3)、損傷ベクトルC1−5,及び6は「葉」(レベル3)とすることができる。
上述した変形例のように損傷ベクトルの長さ、または「長さ×幅」を考慮して損傷ベクトルの階層を決定することで、階層化の精度を向上させることができる。
<階層決定手法(例3)>
図14〜16は、ベクトルグループC1(損傷ベクトル同士の連結関係は図11A,12に示すものと同一)を示す図である。例3では、損傷ベクトルが生じた時間の先後を橋梁1の画像の撮影日時に基づいて判断し、損傷ベクトルが時間的に後に生じたものであるほど下位の階層に属するものとしている。図14〜16の場合、最初に撮影した画像では損傷ベクトルC1−1を含むベクトルグループC1Aが生じており(図14)、次に撮影した画像では損傷ベクトルC1−2及びC1−3が新たに発生してベクトルグループC1Bとなり(図15)、最後に撮影した画像ではさらに損傷ベクトルC1−4,C1−5,及びC1−6が発生してベクトルグループC1となった(図16)ものとする。
このような状況において例3では、最初の画像で生じている損傷ベクトルC1−1(図14において参照符号Lv1で示す範囲)を最も上位の“レベル1”とし、次の画像で生じている損傷ベクトルC1−2及びC1−3(図15において参照符号Lv2で示す範囲)を“レベル2”とし、最後の画像で生じている損傷ベクトルC1−4,C1−5,及びC1−6(図16において参照符号Lv3で示す範囲)を“レベル3”とする。
このようにして決定した各損傷ベクトルの階層は、図17の表に示すように階層構造情報に含まれる。
<階層決定手法(例4)>
図18は、ひび割れC2A及びこれに対応するベクトルグループC2を示す図である。例4では、一の損傷ベクトルに連結している他の損傷ベクトルが1つのみである場合、そのような他の1つの損傷ベクトルは一の損傷ベクトルと同じ階層に属するものとしている。具体的には、図18に示すように一本の曲線状のひび割れC2Aが複数のひび割れC2A−1〜C2A−4に分割されており、これらひび割れが点P8〜点P12を始点または終点とする損傷ベクトルC2−1〜C2−4にそれぞれ対応している場合を考えると、損傷ベクトルC2−1〜C2−3の終点にはそれぞれ1つの損傷ベクトル(損傷ベクトルC2−2〜C2−4)しか連結していない。このような場合、例4では損傷ベクトルC2−1〜C2−4(図18において参照符号Lv1で示す範囲)は実質的に1つであると考え、全て同一の階層である“レベル1”(最上位)に属するものとする。
このようにして決定した各損傷ベクトルの階層は、図19の表に示すように階層構造情報に含まれる。
以上、損傷ベクトルの所属階層決定手法の例1〜4について説明したが、これらの手法は具体的な損傷の態様に応じて適宜使い分けることができ、また必要に応じて複数の手法を組み合わせて用いてもよい。例えば連結のパターンが複雑な損傷ベクトルのグループに対し、ある部分は例1を用いて階層を決定し、他の部分は例4を用いて階層を決定するようにしてもよい。このような階層手法の組合せは階層構造情報生成部112が判断して行うようにしてもよいし、操作部120を介したユーザの指示入力に基づいて行うこともできる。
<階層構造情報の項目及び形式>
本実施形態では、図10,13,17,及び19の表に示すように階層構造情報が損傷ベクトルの属する階層によらず同一の項目及び形式なので、損傷ベクトル同士の連結関係を迅速かつ容易に把握することができる。
<損傷ベクトルの抽出>
次に、損傷ベクトルの抽出について説明する。本実施形態において、階層構造情報には損傷ベクトルが所属するベクトルグループ、損傷ベクトルのラベル、所属階層、連結する他の損傷ベクトル(親ベクトル、兄弟ベクトル、及び子ベクトル)のラベル等が含まれているので(図10,13,17,及び19参照)、これらの項目について所望の条件を指定して損傷ベクトルを抽出することができる。指定する条件としては、例えば「損傷ベクトルが所属する階層」及び「特定のベクトルを親ベクトル、兄弟ベクトル、あるいは子ベクトルとするベクトル」を挙げることができるが、指定しうる条件はこれらの例に限定されるものではない。
例えば図10に示す損傷ベクトル情報の場合、「損傷ベクトルの階層(レベル)がレベル2」を条件として指定すると、階層構造情報の「階層(レベル)」の欄を参照して損傷ベクトルC1−2,C1−3,及びC1−4が抽出され、「損傷ベクトルC1−2と連結し、損傷ベクトルC1−2よりも上位の階層に属する損傷ベクトル」を条件として指定すると、損傷ベクトルC1−1(親ベクトル)が抽出される。また、「損傷ベクトルC1−2と連結し、損傷ベクトルC1−2と同じ階層に属する損傷ベクトル」を条件として指定すると、損傷ベクトルC1−3(兄弟ベクトル)及び損傷ベクトルC1−4(子ベクトル)が抽出され、「損傷ベクトルC1−3と連結し、損傷ベクトルC1−3よりも下位の階層に属する損傷ベクトル」を条件として指定すると、損傷ベクトルC1−5及びC1−6(子ベクトル)が抽出される。このような損傷ベクトルの抽出は、操作部120を介したユーザの指示入力に基づいて、損傷ベクトル抽出部114が階層構造情報記録部116を参照して行うことができる。
このように、本実施形態に係る損傷情報処理装置100では損傷ベクトルの検索、分析、及び評価を容易に行うことができる。なお抽出した損傷ベクトルは、個々の情報及び/または線画の形式で表示することができる(後述)。
<損傷ベクトル及び階層構造情報の表示>
ステップS140では、ステップS130で生成された階層構造情報を表示部118に表示する(表示工程)。階層構造情報の表示は、例えば図9,10,13,17,及び19に示す表の形式で行ったり、それらの表から抽出した一部の情報により行ったりすることができる。そのような「一部の情報」の一例としては、「指定した条件で抽出した損傷ベクトルの情報」及び「点検日及び/または補修日等、特定の項目についての情報」を挙げることができる。
また、階層構造情報に基づいて損傷ベクトルを示す線画を描画し、表示部118に表示するようにしてもよい。図10,13,17,19の表に示すように、階層構造情報には損傷ベクトルの始点及び終点、並びに連結する他の損傷ベクトルの情報が含まれているので、これらの情報に基づいて損傷ベクトルを示す線画(例えば図11A,11B,12,14〜16を参照)を描画し、表示することができる。損傷ベクトルを示す線画には、損傷ベクトルの向き(始点から終点へ向かう方向)が識別できるように矢印を付してもよい(図11A,11B,12,14〜16を参照)。損傷ベクトルの線画を描画及び表示する場合、階層構造情報に含まれる全ての損傷ベクトルを描画及び表示してもよいし、一部の損傷ベクトル(例えば、上述のように指定された条件で抽出したもの)のみを表示するようにしてもよい。
なお、損傷ベクトルを示す線画を表示する場合、その線画の近傍に、対応するラベルの映像を配置したり、階層構造情報に含まれる情報のうち特定の情報に応じて損傷ベクトルの色、太さ、及び線種(実線、点線等)等の表示条件を変えるようにしてもよい。そのような情報としては、例えば損傷ベクトルの階層(レベル)、種別(幹、枝、葉)、発生日時、削除操作フラグ、及び追加操作フラグの値等を挙げることができ、階層構造情報に含まれる項目のうちから適宜設定してよい。このように損傷ベクトルの特徴に応じた態様で表示することにより、損傷ベクトル同士の連結関係及び/または時間変化の様子を容易に把握することができる。
上述した損傷ベクトルの線画と階層構造情報とは、いずれか一方を表示するようにしてもよいし、両方を同時に表示するようにしてもよい。また、上述の表示において損傷(ひび割れ)を撮像した画像(例えば図9の表に示す画像“img_2015-001”)を損傷ベクトルの線画と重畳して(重ね合わせて)、あるいは並べて表示し、両者が比較できるようにしてもよい(例えば図18を参照)。
本実施形態では、このようにして損傷ベクトル及び/または階層構造情報を表示するので、損傷ベクトルの情報及び損傷ベクトル同士の連結関係を容易に把握することができる。
<損傷ベクトル及び階層構造情報の記録>
ステップS150では、階層構造情報を階層構造情報記録部116に記録する(記録工程)。階層構造情報記録部116に記録された階層構造情報は、損傷の分析及び評価などの目的に使用することができる。なお階層構造情報から一部の情報(例えば指定した条件を満たす損傷ベクトル)を抽出した場合、そのようにして抽出した情報は全て元の階層構造情報に含まれるため、抽出結果は必ずしも記録しておかなくてもよいが、抽出結果についても階層構造情報記録部116に記録しておくことで、必要に応じ迅速に参照することができる。
<損傷ベクトル及び階層構造情報の編集>
ステップS160では、操作部120を介したユーザの編集指示入力に基づいて、階層構造情報生成部112が階層構造情報記録部116に記録された階層構造情報を修正する(編集工程)。また、この編集指示入力に基づいて、表示部118による損傷ベクトルとラベルの表示が更新される。
この編集指示入力は以下のものを含む。
(1)任意に選択されたラベルに対応する損傷ベクトルを削除すること。この編集指示入力が行われた場合、削除された損傷ベクトルの削除操作フラグに”1”が割り当てられる。
損傷ベクトルの削除指示入力は、次のようにして行うことができる。例えば、任意のラベルがクリック選択されると、選択されたラベルおよび当該選択されたラベルに対応する損傷ベクトルの線画が強調表示される。強調表示は、ラベルや損傷ベクトルの線画のデザインの変更(着色、点線化、太線化、輝度の変化など)によって行われる。また、選択されたラベルの近傍に、損傷ベクトルについて行うことが可能な編集操作「削除」を実行するか否かを確認するダイアログボックスが表示され、そのダイアログボックスから「削除」の実行を可とする選択がされると、選択されたラベルに対応する損傷ベクトルの削除操作フラグに”1”が割り当てられ、削除指示入力が完了する。
図20は、C1−3のラベルが選択され、このラベルに対応する損傷ベクトルに削除指示入力が行われる様子を示す。図21では、C1−3のラベルに対応する損傷ベクトルに削除指示入力が行われた結果、C1−3のラベルの表示が削除されかつC1−3のラベルに対応する損傷ベクトルの線画の表示が停止された更新表示例を示す。また図22は、当該削除指示入力が行われた結果、C1−3のラベルに対応する損傷ベクトルの削除操作フラグに”1”が割り当てられた階層構造情報の編集結果の一例である。なお、損傷ベクトルに削除指示入力が行われても、その損傷ベクトルに対応する階層構造情報は削除しない。これは後述のように、機械学習に使用するためである。
(2)任意に選択されたラベルに対応する損傷ベクトルに対し、当該損傷ベクトルを構成する領域を加除(部分的追加または部分的除去)すること。この編集指示入力が行われた場合、選択されたラベルに対応する削除操作フラグまたは追加操作フラグに”1”が割り当てられる。また、加除領域に対応して、階層構造情報に記録された損傷ベクトルの始点、終点、長さ、幅の値が更新される。
(3)任意に選択された複数のラベルに関連づけられた複数の不連続な損傷ベクトル同士を1つの連続した損傷ベクトルに結合する損傷ベクトルを追加すること。この編集指示入力が行われた場合、結合された各損傷ベクトルの各追加操作フラグにそれぞれ”2”が割り当てられる。
損傷ベクトルの追加指示入力は、次のようにして行うことができる。例えば、任意の2つのラベルがクリック選択されると、その選択されたラベルおよび対応する損傷ベクトルの線画が強調表示されるとともに、ラベルの近傍に、対応する損傷ベクトルについて行うことが可能な編集操作「結合」を実行するか否かを確認するダイアログボックスが表示され、そのダイアログボックスから「結合」の実行を可とする選択がされると、選択されたラベルに対応する各損傷ベクトルの各追加操作フラグに”2”が割り当てられ、損傷ベクトルの追加指示入力が完了する。
図23は、C1−5およびC8−1のラベルが選択され、これらのラベルに対応する損傷ベクトル同士を結合する損傷ベクトルの追加指示入力が行われている様子を示す。図24は、当該指示入力が行われた結果、C1−5およびC8−1のラベルに対応する損傷ベクトルを結合する追加の損傷ベクトルの線画と、当該追加の損傷ベクトルによって結合した損傷ベクトルに付与された共通のラベル“C1−5+C8−1”の更新表示例を示す。なお、図示は省略するが、C1−5およびC8−1のラベルに対応する損傷ベクトルが一直線に結合される場合は、点P6、P17の表示を消去してもよい。図25は、C1−5およびC8−1のラベルに対応する損傷ベクトルの追加操作フラグに”2”が割り当てられている階層構造情報の更新例である。結合した損傷ベクトルのラベルは、他の損傷ベクトルと区別可能であれば何でもよい。また、結合した損傷ベクトルのベクトルグループは、結合された損傷ベクトルのいずれかのベクトルグループ(例えば長い方または短い方の損傷ベクトルの属するベクトルグループ)と同じでもよいし、別の新たなベクトルグループを生成してもよい。これは<分離した損傷ベクトルの連結>で説明したのと同様に行われる。
なお、この更新された階層構造情報では、先に選択されたラベルC1−5の損傷ベクトルを親ベクトルとし、後に選択されたラベルC8−1の損傷ベクトルを子ベクトルとしている。ラベルC8−1が先に選択され、ラベルC1−5が後に選択された場合は、ラベルC8−1の損傷ベクトルを親ベクトルとし、ラベルC5−1の損傷ベクトルを子ベクトルとする。いずれにせよ、追加操作フラグに”2”が割り当てられた複数の損傷ベクトルC1−5およびC8−1と、これらのいずれか一方を親ベクトルとしかつ他方を子ベクトルとして結合する追加の損傷ベクトルとは、これらが一直線に結合される場合は、まとめて1つの連続した結合損傷ベクトルとなり、この1つの連続した結合損傷ベクトルには新たなラベル“C1−5+C8−1”が付与される。
(4)複数のラベルに関連づけられた複数の不連続な損傷ベクトル同士の結合を解除すること。この結合の解除指示入力が行われた場合、結合が解除された各損傷ベクトルの各追加操作フラグにそれぞれ“0”が割り当てられる。
損傷ベクトル同士の結合の解除指示入力は、次のようにして行うことができる。例えば、上記(3)による結合損傷ベクトルのラベルの中から、任意のラベルが選択されると、その選択されたラベルおよび対応する結合損傷ベクトルの線画が強調表示され、なおかつその選択されたラベルの近傍に、当該結合損傷ベクトルについて行うことが可能な編集操作「結合解除」を実行するか否かを確認するダイアログボックスが表示され、そのダイアログボックスから「結合解除」の実行を可とする選択がされると、選択されたラベルに対応する結合損傷ベクトルによって結合された各損傷ベクトルの各追加操作フラグが”2”から”0”に変更されるとともに、両者の親ベクトル・子ベクトル関係が削除され、結合解除指示入力が完了する。
図26は、結合損傷ベクトルに対応する“C1−5+C8−1”のラベルが選択され、このラベルに対応する結合損傷ベクトルによる結合の解除指示入力が行われている様子を示す。図27は、当該結合の解除指示入力が行われた結果、C1−5およびC8−1のラベルの損傷ベクトル同士の結合が解除された表示例を示す。図28は、C1−5およびC8−1のラベルに対応する損傷ベクトルの追加操作フラグに”0”が割り当てられた階層構造情報の更新例である。なお、結合が解除された損傷ベクトル間の親ベクトルおよび子ベクトルの関係も削除されるよう階層構造情報が更新される。
結合される前のラベルと同じラベルを、結合解除後の各損傷ベクトルのそれぞれに再割り当てする代わりに、結合解除後の各損傷ベクトルのそれぞれを区別可能なラベルを新たに割り当ててもよい。ただし、特定の損傷ベクトル同士の結合が誤りであり、手動で結合を解除したことを機械学習するには、結合される前のラベルと同じラベルを、結合解除後の各損傷ベクトルのそれぞれに再割り当てする方がよい。
また、結合の解除の対象となる損傷ベクトルは、手動で指定されたものに限らない。例えば、図8に示したような損傷ベクトル連結手法によってC3−1とC4−1を結合した、損傷ベクトルC5−2の解除を行うこともできる。この場合、損傷ベクトルC5−2のラベル選択と、結合解除の指示によって、結合前のベクトルグループC3、C4と、それらに属する損傷ベクトルの前のラベルC3−1、C4−1が復活する。これを実現するためには、損傷ベクトル連結手法の実施前のベクトルグループC3、C4と、ラベルC3−1、C4−1を、連結前の履歴として階層構造情報に記録しておかなければならない。
(5)ベクトルグループに対応するラベルの表示および選択と、その選択したラベルに対応するベクトルグループの削除、結合、および結合の解除。これは個々の損傷ベクトルに対応するラベルの表示および選択などと同様にして行うことができる。
以上説明したように、本実施形態に係る損傷情報処理装置100及び損傷情報処理方法によれば、損傷ベクトル同士の連結関係を容易に把握でき、また階層構造情報により損傷ベクトルの分析及び/または検索を容易に行うことができる。
また、ラベルの選択により、損傷ベクトルの削除、結合、結合の解除が行えるため、複雑な形状の損傷ベクトルの位置を正確に指定しなくても、容易に階層構造情報を編集することができる。
以上で本発明の例に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。
例えば、ステップS100〜S150の工程は、上記の方法以外にも、グラフ理論で重み付き連結グラフの最小全域木を求める最適化問題のアルゴリズムであるプリム法で実行することができる。
すなわち、例えば、グラフ理論の考え方に従って、検出結果の画素間にコストが設定できるとする。コストは損傷ベクトル(ひび割れ)の方向や幅や距離などの基準値を用いた計算結果であり、コストが最も小さい画素間を接続するものとする。コスト計算の概念として、損傷ベクトル同士の距離が離れるほどコストが大きくなるが、損傷ベクトル同士の方向が互いに一致するほどコストが小さくなるような計算方法が考えられる。距離は遠くとも他の基準で1本のひび割れらしさが大きい場合に、その情報を反映した接続結果を得ることができる。もし、周辺で画素間のコストが十分大きいものしかなければ、損傷ベクトル同士を接続する必要はない。また、接続した結果、不自然な角度(例えば90°以下の鋭角)で折れ曲がるような形状になったり、不自然な幅の差が生じたりする(例えば接続された損傷ベクトル同士に5画素以上の幅の段差が生じる)場合は、接続しないような条件にしてもよい。このように、損傷ベクトル同士の距離、角度、幅の差について、両者の距離が小さい、角度が小さい、幅の差が小さいと、コストが小さくなるよう設定できる。
あるいは、プリム法により損傷ベクトルを抽出する場合、編集指示入力の完了に応じて、損傷ベクトルの距離、方向、幅に関するコストの算出基準値を変更することで、損傷ベクトルの抽出基準を修正してもよい。
例えば図8の損傷ベクトルC5−2に対する削除操作によって、損傷ベクトルC5−2の削除フラグ“1”が記録された場合、角α1及び角α2の閾値を所定の量(例えば5°)だけ減らす。これにより、接続される損傷ベクトル同士のなす角度が鋭角であるほど両者の間の方向に関するコストが大きくなる。
あるいは、図23に示すように、異なるベクトルグループに属する損傷ベクトルC1−5、C8−1同士の方向が一致しており、これらが接続操作された場合は、同一方向の損傷ベクトル同士を接続する距離の閾値を所定の量(例えば10画素)だけ増やす。これにより、同一方向の損傷ベクトル間の距離に関するコストは小さくなり、離れていても方向が同じ損傷ベクトル同士は自動的に接続されやすくなる。
そのほか、特許文献1と同様のニューラルネット収束演算などの各種の機械学習や、本出願人による特願2015−195769号に記載のパーコレイション法、クラスカル法など、各種の手法、あるいは、プリム法、ニューラルネット収束演算、パーコレイション法、クラスカル法など、各種の手法の一部または全部の組み合わせ、あるいはこれら一部または全部の組み合わせの1以上の反復により、1本の損傷ベクトルの抽出を精度よく行うことができる。
1 橋梁
2 床版
3 主桁
3A 接合部
100 損傷情報処理装置
102 損傷情報取得部
104 デジタルカメラ
106 画像取得部
108 画像処理部
110 損傷ベクトル生成部
112 階層構造情報生成部
114 損傷ベクトル抽出部
116 階層構造情報記録部
118 表示部
120 操作部
S100 画像入力工程
S110 損傷抽出工程
S120 損傷ベクトル生成工程
S130 階層構造情報生成工程
S140 表示工程
S150 記録工程
S160 編集工程

Claims (13)

  1. 構造物の表面画像の画像解析により検出される構造物のひび割れについてのひび割れ情報を取得するひび割れ情報取得部と、
    前記ひび割れ情報取得部が取得したひび割れ情報に基づいて、ひび割れ情報を識別するラべルを付与するラべリング部と、
    前記ひび割れ情報を示す映像を前記表面画像に重畳して表示するとともに、前記ラべリング部の付与したラべルを示す映像を、前記ひび割れ情報を示す映像に関連づけて表示する表示部と、
    前記表示部の表示したラベルの中から、任意のラべルの選択を受け付け可能なラべル選択部と、
    前記ラべル選択部が選択を受け付けたラべルに関連づけられたひび割れ情報の編集を受け付けるひび割れ情報編集部と、
    を備えるひび割れ情報編集装置。
  2. 前記ひび割れ情報編集部が受け付けるひび割れ情報の編集は、前記ひび割れ情報を削除すること、任意に選択された複数のラベルに関連づけられた複数の不連続なひび割れ情報同士を1つの連続したひび割れ情報に結合すること、または前記複数の不連続なひび割れ情報同士の結合を解除することを含む請求項1に記載のひび割れ情報編集装置。
  3. 前記ラべリング部は、前記ひび割れ情報の編集に応じ、前記ひび割れ情報取得部が取得したひび割れ情報のラべルを更新し、
    前記表示部は、前記ひび割れ情報の編集に応じ、前記ひび割れ情報を示す映像と前記ラべルを示す映像を更新する請求項2に記載のひび割れ情報編集装置。
  4. 前記ひび割れ情報の削除が前記ひび割れ情報編集部によって受け付けられた場合、
    前記ラべリング部は、前記選択されたラべルを削除し、
    前記表示部は、前記選択されたラべルに対応するひび割れ情報を示す映像の表示を停止する請求項3に記載のひび割れ情報編集装置。
  5. 前記複数のひび割れ情報同士の結合が前記ひび割れ情報編集部によって受け付けられた場合、
    前記ラべリング部は、前記結合が受け付けられた複数のひび割れ情報同士に共通のラべルを付与し、
    前記表示部は、前記共通のラベルを示す映像を前記結合した複数のひび割れ情報同士を示す映像に関連づけて表示する請求項3に記載のひび割れ情報編集装置。
  6. 前記複数のひび割れ情報同士の結合の解除が前記ひび割れ情報編集部によって受け付けられた場合、
    前記ラべリング部は、前記結合の解除が受け付けられた複数のひび割れ情報同士を互いに区別可能なラべルを前記複数のひび割れ情報のそれぞれに付与し、
    前記表示部は、前記複数のひび割れ情報のそれぞれを示す映像に前記区別可能なラべルのそれぞれを関連づけて表示する請求項3に記載のひび割れ情報編集装置。
  7. 前記表示部は、前記ひび割れ情報を示す映像外の位置に、前記ラべリング部の付与したラべルを示す映像を表示する請求項1〜6のいずれか1項に記載のひび割れ情報編集装置。
  8. 前記ラべルを示す映像は、前記ひび割れ情報取得部が取得したひび割れ情報ごとのラベルを個別に含む吹き出しまたは前記ひび割れ情報取得部が取得したひび割れ情報のラベルを複数含む一覧表である請求項1〜7のいずれか1項に記載のひび割れ情報編集装置。
  9. 前記表示部は、前記選択されたラべルに関連づけられたひび割れ情報の映像を強調表示する請求項1〜8のいずれか1項に記載のひび割れ情報編集装置。
  10. 前記ひび割れ情報取得部は、クラスカル法、プリム法、ニューラルネット収束演算、およびパーコレイション法のうち少なくとも1つにより、前記構造物のひび割れについてのひび割れ情報を取得する請求項1〜9のいずれか1項に記載のひび割れ情報編集装置。
  11. 前記ひび割れ情報は、ひび割れの幅、長さ、および向きを含むベクトルデータである請求項1〜10のいずれか1項に記載のひび割れ情報編集装置。
  12. コンピュータが、
    構造物の表面画像の画像解析により検出される構造物のひび割れについてのひび割れ情報を取得するステップと、
    前記取得したひび割れ情報に基づいて、ひび割れ情報を識別するラべルを付与するステップと、
    前記ひび割れ情報を示す映像を前記表面画像に重畳して表示するとともに、前記付与したラべルを示す映像を、前記ひび割れ情報を示す映像に関連づけて表示するステップと、
    前記表示したラベルの中から、任意のラべルの選択を受け付けるステップと、
    前記選択を受け付けたラべルに関連づけられたひび割れ情報の編集を受け付けるステップと、
    を実行するひび割れ情報編集方法。
  13. 請求項12に記載のひび割れ情報編集方法をコンピュータに実行させるためのひび割れ情報編集プログラム。
JP2017562519A 2016-01-22 2017-01-10 ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム Active JP6576473B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016010709 2016-01-22
JP2016010709 2016-01-22
PCT/JP2017/000502 WO2017126367A1 (ja) 2016-01-22 2017-01-10 ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム

Publications (2)

Publication Number Publication Date
JPWO2017126367A1 JPWO2017126367A1 (ja) 2018-10-11
JP6576473B2 true JP6576473B2 (ja) 2019-09-18

Family

ID=59361559

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017562519A Active JP6576473B2 (ja) 2016-01-22 2017-01-10 ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム

Country Status (5)

Country Link
US (1) US10776910B2 (ja)
EP (1) EP3407054A4 (ja)
JP (1) JP6576473B2 (ja)
CN (1) CN108474748B (ja)
WO (1) WO2017126367A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6833356B2 (ja) * 2016-06-16 2021-02-24 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
WO2019130827A1 (ja) * 2017-12-25 2019-07-04 キヤノン株式会社 画像処理装置およびその制御方法
JP7058585B2 (ja) * 2017-12-25 2022-04-22 キヤノン株式会社 画像処理装置およびその制御方法
CN108876780B (zh) * 2018-06-26 2020-11-10 陕西师范大学 一种复杂背景下桥梁裂缝图像裂缝检测方法
JP7391504B2 (ja) * 2018-11-30 2023-12-05 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
EP3896435A4 (en) * 2018-12-13 2022-01-26 FUJIFILM Corporation DEVICE FOR DAMAGE GENERATING ASSISTANT, METHOD FOR DAMAGE GENERATING SUPPORT, DAMAGE GENERATING SUPPORT PROGRAM AND DAMAGE GENERATING SUPPORT SYSTEM
JP7225810B2 (ja) 2019-01-11 2023-02-21 富士通株式会社 ひび線抽出装置、ひび線抽出方法、及び、ひび線抽出プログラム
JP7344692B2 (ja) * 2019-07-22 2023-09-14 キヤノン株式会社 情報処理装置及び情報処理方法及びプログラム
JP7256271B2 (ja) * 2019-07-23 2023-04-11 富士フイルム株式会社 ひび割れ評価装置、ひび割れ評価方法、及びひび割れ評価プログラム
CN110807216B (zh) * 2019-09-26 2022-12-06 杭州鲁尔物联科技有限公司 一种基于图像的桥梁bim模型裂纹可视化的创建方法
JPWO2021200675A1 (ja) * 2020-04-01 2021-10-07
WO2021225084A1 (ja) * 2020-05-07 2021-11-11 富士フイルム株式会社 損傷評価装置、方法及びプログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07111735B2 (ja) * 1989-10-25 1995-11-29 東京電力株式会社 ひび割れ測定システム
JPH07111735A (ja) 1993-10-07 1995-04-25 Nippondenso Co Ltd 電気自動車用補機バッテリ充電システム
JP2002174601A (ja) 2000-12-05 2002-06-21 Matsushita Electric Ind Co Ltd 壁面損傷検出方法及び装置
JP4588901B2 (ja) * 2001-03-02 2010-12-01 株式会社竹中工務店 コンクリートの欠陥検査方法およびコンクリートの欠陥検査装置
JP2002310920A (ja) * 2001-04-19 2002-10-23 Keisoku Kensa Kk コンクリート壁のひび割れ検出方法およびその装置
JP4149179B2 (ja) * 2002-03-05 2008-09-10 東京都下水道サービス株式会社 管渠内検査診断支援装置、管渠内検査診断支援方法及び管渠内検査診断支援プログラムを記憶した記憶媒体
JP4006007B2 (ja) 2004-11-10 2007-11-14 大成建設株式会社 ひび割れ検出方法
US8477154B2 (en) * 2006-03-20 2013-07-02 Siemens Energy, Inc. Method and system for interactive virtual inspection of modeled objects
US8713009B2 (en) * 2008-09-25 2014-04-29 Yahoo! Inc. Associating objects in databases by rate-based tagging
JP5384429B2 (ja) 2010-05-21 2014-01-08 日本電信電話株式会社 コンクリート構造物画像のひび割れ検知装置、ひび割れ検知方法及びそのプログラム
CN104063368B (zh) * 2010-12-01 2018-09-04 百度在线网络技术(北京)有限公司 在线编辑时引文标记展示方法与装置
JP6029870B2 (ja) * 2012-06-27 2016-11-24 公益財団法人鉄道総合技術研究所 コンクリート表面の変状検出方法及び装置
JP6171671B2 (ja) * 2013-07-24 2017-08-02 富士通株式会社 情報処理装置、位置指定方法および位置指定プログラム
JP5688533B1 (ja) * 2014-01-23 2015-03-25 デ・ファクト・スタンダード合同会社 コンクリート構造物維持管理システム
JP6283247B2 (ja) 2014-04-02 2018-02-21 キユーピー株式会社 菓子
JP2015232746A (ja) 2014-06-09 2015-12-24 パナソニックIpマネジメント株式会社 皺検出装置および皺検出方法
US9279773B2 (en) * 2014-07-18 2016-03-08 Process Metrix Crack detection and measurement in a metallurgical vessels
JP2016050887A (ja) * 2014-09-01 2016-04-11 関西工事測量株式会社 クラック計測システム
SG11201709275YA (en) * 2015-05-26 2017-12-28 Mitsubishi Electric Corp Detection apparatus and detection method
WO2017014288A1 (ja) * 2015-07-21 2017-01-26 株式会社東芝 ひび割れ解析装置、ひび割れ解析方法及びひび割れ解析プログラム

Also Published As

Publication number Publication date
CN108474748A (zh) 2018-08-31
EP3407054A1 (en) 2018-11-28
WO2017126367A1 (ja) 2017-07-27
CN108474748B (zh) 2021-12-28
EP3407054A4 (en) 2019-01-02
US20180300874A1 (en) 2018-10-18
US10776910B2 (en) 2020-09-15
JPWO2017126367A1 (ja) 2018-10-11

Similar Documents

Publication Publication Date Title
JP6576473B2 (ja) ひび割れ情報編集装置、ひび割れ情報編集方法およびひび割れ情報編集プログラム
JP6682561B2 (ja) ひび割れ情報検出装置、ひび割れ情報検出方法およびひび割れ情報検出プログラム
JP7102569B2 (ja) 損傷情報処理装置、損傷情報処理方法、及び損傷情報処理プログラム
JP4616120B2 (ja) 画像処理装置及び検査装置
JP2022000646A (ja) サーバ装置、画像処理方法、及び画像処理システム
US20180300867A1 (en) Measurement support apparatus and measurement support method
JP2018185146A (ja) 損傷図作成装置及び損傷図作成方法
CN110892255B (zh) 从图像检测缺陷的图像处理装置、方法和存储介质
US11144590B2 (en) Similar damage search device and a similar damage search method
JP2018036226A (ja) 画像処理プログラム、画像処理方法および画像処理装置
EP3709264B1 (en) Information processing apparatus and accumulated images selecting method
CN113012096B (zh) 显示屏子像素定位及亮度提取方法、设备以及存储介质
WO2021014754A1 (ja) ひび割れ評価装置、ひび割れ評価方法、及びひび割れ評価プログラム
JP2017224196A (ja) 情報処理装置、情報処理方法及びプログラム
CN113160169A (zh) 隧道裂隙图像识别方法和系统
JPH07311014A (ja) 画像解析方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180618

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190820

R150 Certificate of patent or registration of utility model

Ref document number: 6576473

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250