JP2023168548A - 点検支援装置、方法及びプログラム - Google Patents

点検支援装置、方法及びプログラム Download PDF

Info

Publication number
JP2023168548A
JP2023168548A JP2023172856A JP2023172856A JP2023168548A JP 2023168548 A JP2023168548 A JP 2023168548A JP 2023172856 A JP2023172856 A JP 2023172856A JP 2023172856 A JP2023172856 A JP 2023172856A JP 2023168548 A JP2023168548 A JP 2023168548A
Authority
JP
Japan
Prior art keywords
damage
types
inspection support
image
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023172856A
Other languages
English (en)
Inventor
修平 堀田
Shuhei Hotta
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JP2023168548A publication Critical patent/JP2023168548A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/9515Objects of complex shape, e.g. examined with use of a surface follower device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】構造物から2種類以上の損傷が検出され、特に構造物の同一又は近似する位置から2種類以上の損傷が検出された場合に、その損傷検出結果を良好に出力することができる点検支援装置、方法及びプログラムを提供する。【解決手段】点検支援装置のプロセッサは、点検対象の構造物を撮影した画像を取得し、取得した画像に基づいて構造物の損傷を検出する。構造物の2種類以上の損傷(ひび割れBと線状の遊離石灰C2)が検出された場合(図16(A))、プロセッサは、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定する。プロセッサは、損傷検出結果(損傷画像、損傷図等)を出力する際に、ひび割れBと線状の遊離石灰C2とが同一又は近接する位置から検出されたことが判定されると、損傷種類の優先順位にしたがって線状の遊離石灰C2の損傷検出結果を優先させて出力する(図16(B))。【選択図】 図16

Description

本発明は点検支援装置、方法及びプログラムに係り、特に構造物の点検を支援する技術に関する。
橋梁などの社会インフラ構造物は、維持管理及び補修を行うために定期点検する必要がある。
特許文献1には、トンネルの内部壁面をカメラで撮影し、撮影した画像を画像処理することにより内部壁面の小区分毎にひび割れの抽出・定量化を行い、小区分毎にひび割れ情報を表示するひび割れ検出方法及びその表示方法が開示されている。例えば、小区分毎のひび割れの程度に応じて、小区分毎にひび割れを色分けして表示し、これにより、ひび割れの程度を把握しやすいようにしている。
特開2002-188998号公報
ところで、構造物の損傷には、ひび割れ以外にも多くの種類の損傷が存在する。例えば、構造物のコンクリート部位では、ひび割れの他に、漏水、遊離石灰、錆汁、剥離、鉄筋露出等の多項目の損傷があり、同様に構造物の鋼部材では、亀裂、腐食、防食機能の劣化等の多項目の損傷がある。
特許文献1には、小区分毎のひび割れの程度に応じて、小区分毎にひび割れを色分けして表示する記載があるが、構造物から2種類以上(多項目)の損傷を検出する記載がなく、多項目の損傷の検出結果の出力方法についても記載されていない。
本発明はこのような事情に鑑みてなされたもので、構造物から2種類以上の損傷が検出され、特に構造物の同一又は近接する位置から2種類以上の損傷が検出された場合に、その損傷検出結果を良好に出力することができる点検支援装置、方法及びプログラムを提供することを目的とする。
上記目的を達成するために第1態様に係る発明は、プロセッサを備えた点検支援装置であって、プロセッサは、点検対象の構造物を撮影した画像を取得する画像取得処理と、取得した画像に基づいて構造物の損傷を検出する損傷検出処理と、損傷検出処理により構造物の2種類以上の損傷が検出された場合に、2種類以上の損傷のうち、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定する判定処理と、損傷検出処理により検出された損傷検出結果を出力する出力処理であって、判定処理により、同一又は近接する位置から2種類以上の損傷がされたことが判定されると、損傷種類の優先順位にしたがって損傷検出結果を出力する出力処理と、を行う。
本発明の第1態様によれば、点検対象の構造物を撮影した画像に基づいて構造物の2種類以上の損傷が検出され、特に構造物の同一又は近似する位置から2種類以上の損傷が検出された場合には、損傷検出結果として優先順位にしたがって損傷検出結果を出力する。これにより、構造物の同一又は近接する位置から2種類以上の損傷が検出された場合には、損傷種類の優先順位にしたがって損傷検出結果を出力することで、構造物の同一又は近接する位置から2種類以上の損傷が検出された場合に対応することができる。尚、2種類以上の損傷が構造物の同一又は近接する位置にない場合には、2種類以上の損傷検出結果はそのまま出力することができる。
本発明の第2態様に係る点検支援装置において、損傷検出処理は、画像に基づいて損傷領域及び損傷領域毎の損傷種類を検出し、判定処理は、損傷検出処理により、同一又は近接する損傷領域で2種類以上の損傷種類が検出されたか否かを判定し、出力処理は、判定処理により、同一又は近接する損傷領域で2種類以上の損傷種類が検出されたことが判定されると、同一又は近接する損傷領域の損傷検出結果として最も優先順位が高い損傷種類の損傷検出結果を出力することが好ましい。構造物の同一又は近接する位置から2種類以上の損傷が検出された場合、最も優先順位が高い損傷種類の損傷検出結果を出力し、ユーザ等に報知することが有効だからである。
本発明の第3態様に係るにおいて、近接する位置は、2種類以上の損傷間の距離が閾値以下になる位置であることが好ましい。
本発明の第4態様に係る点検支援装置において、損傷検出処理は、画像を入力すると、損傷領域及び損傷領域毎の損傷種類を認識結果として出力する学習済みモデルが実行することが好ましい。
本発明の第5態様に係る点検支援装置において、出力処理は、損傷種類が線状損傷の場合と、損傷種類が面状損傷の場合とで、異なる描画パターンを出力することが好ましい。
本発明の第6態様に係る点検支援装置において、出力処理は、損傷種類が線状損傷の場合、線状損傷を閉じない線を示す損傷図を出力し、損傷種類が面状損傷の場合、面状損傷を囲む閉じた線を示す損傷図を出力することが好ましい。線画の描画パターンで損傷図を出力する場合、線状損傷の場合、線状損傷を閉じない線を示す損傷図とし、損傷種類が面状損傷の場合、面状損傷を囲む閉じた線を示す損傷図とする。
本発明の第7態様に係る点検支援装置において、出力処理は、損傷種類が線状損傷の場合、少なくとも線状損傷を塗り潰した損傷画像を出力し、損傷種類が面状損傷の場合、少なくとも面状損傷を塗り潰した損傷画像を出力することが好ましい。
本発明の第8態様に係る点検支援装置において、出力処理は、損傷検出結果をディスプレイに出力して表示させ、又は損傷検出結果をファイルにしてメモリに保存させることが好ましい。
本発明の第8態様に係る点検支援装置において、損傷種類の優先順位は、損傷の重大度に応じて予め設定された優先順位であることが好ましい。
本発明の第9態様に係る点検支援装置において、損傷種類として、線状の遊離石灰、及びひび割れを含む線状損傷の場合、線状の遊離石灰は、ひび割れよりも優先順位が高い。
本発明の第10態様に係る点検支援装置において、損傷種類として、鉄筋露出、剥離、
錆汁、面状の遊離石灰、及び漏水を含む面状損傷の場合、鉄筋露出、剥離、錆汁、面状の遊離石灰、及び漏水の順に優先順位が低く設定される。
本発明の第12態様に係る点検支援装置において、プロセッサは、ユーザにより操作される操作部から構造物の損傷種類の優先順位を受け付ける優先順位受付処理を行い、損傷種類の優先順位は、ユーザから操作部を介して受け付けた優先順位である。
本発明の第13態様に係る点検支援装置において、プロセッサは、ユーザにより操作される操作部から損傷検出結果の編集指示を受け付ける編集指示受付処理と、受け付けた編集指示にしたがって損傷検出結果を編集する編集処理と、を行うことが好ましい。
本発明の第14態様に係る点検支援装置において、損傷検出結果は、損傷識別情報、損傷種類及びサイズの項目を有し、検出した損傷毎に各項目に対応する情報が記載された損傷数量表を含むことが好ましい。
第15態様に係る発明は、プロセッサにより点検対象の構造物の点検支援を行う点検支援方法であって、プロセッサの各処理は、点検対象の構造物を撮影した画像を取得するステップと、取得した画像に基づいて構造物の2種類以上の損傷を検出するステップと、検出された構造物の2種類以上の損傷のうち、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定するステップと、検出された損傷検出結果を出力するステップであって、判定するステップにより、同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると、損傷種類の優先順位にしたがって損傷検出結果を出力するステップと、を含む。
第16態様に係る発明は、点検対象の構造物の点検支援を行う方法をコンピュータに実行させる点検支援プログラムであって、方法は、点検対象の構造物を撮影した画像を取得するステップと、取得した画像に基づいて構造物の2種類以上の損傷を検出するステップと、検出された構造物の2種類以上の損傷のうち、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定するステップと、検出された損傷検出結果を出力するステップであって、判定するステップにより、同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると、損傷種類の優先順位にしたがって損傷検出結果を出力するステップと、を含む。
本発明によれば、構造物から2種類以上の損傷が検出され、特に構造物の同一又は近接する位置から2種類以上の損傷が検出された場合に、その損傷検出結果を良好に出力することができる。
図1は、構造物の損傷の一例を示す図である。 図2は、線状の遊離石灰の一例を示す図である。 図3は、面状の遊離石灰の一例を示す図である。 図4は、損傷の種類に応じた損傷の表現方法の種類を示す図であり、図4(A)は、ひび割れを含む画像を示し、図4(B)は、ひび割れに沿ったポリラインが描画された画像を示す図である。 図5は、損傷の種類に応じた損傷の表現方法の種類を示す図であり、図5(A)は、剥離及び鉄筋露出を含む画像を示し、図5(B)は、剥離及び鉄筋露出の領域を囲むポリゴンが描画された画像を示す図である。 図6は、損傷の種類に応じた損傷の表現方法の種類を示す図であり、図6(A)は、面状の遊離石灰を含む画像を示し、図6(B)は、面状の遊離石灰の領域を囲むポリゴンが描画された画像を示す図である。 図7は、線状損傷であるひび割れと線状の遊離石灰とが検出された場合の各々のポリラインを示す図である。 図8は、図7に示した線状損傷であるひび割れと線状の遊離石灰との近接判断を説明するために用いた図である。 図9は、本発明に係る点検支援装置のハードウエア構成の一例を示すブロック図である。 図10は、CPU等により構成された損傷検出処理部の実施形態を示す概念図である。 図11は、点検対象の橋梁の一例を示す斜視図である。 図12は、橋梁の点検単位の一つである格間に対応するオルソ画像の一例を示す図である。 図13は、図12に示したオルソ画像に基づいて検出された損傷検出結果の一例を示す図である。 図14は、格間に対応する損傷図が重畳されたオルソ画像の一例を示す図である。 図15は、損傷検出結果に含まれる損傷数量表の一例を示す図表である。 図16は、損傷検出処理部によるひび割れ及び線状の遊離石灰の損傷検出結果と、その出力処理との一例を示す模式図である。 図17は、損傷検出処理部によるひび割れ及び線状の遊離石灰の損傷検出結果と、その出力処理との他の例を示す模式図である。 図18は、損傷検出処理部による面状の遊離石灰及び線状の遊離石灰の損傷検出結果と、その出力処理との一例を示す模式図である。 図19は、損傷検出処理部による面状の遊離石灰及び線状の遊離石灰の損傷検出結果と、その出力処理との他の例を示す模式図である。 図20は、損傷検出処理部による錆汁、面状の遊離石灰及び漏水の損傷検出結果と、その出力処理との一例を示す模式図である。 図21は、損傷検出処理部による錆汁、面状の遊離石灰及び漏水の損傷検出結果と、その出力処理との他の例を示す模式図である。 図22は、損傷検出結果出力の第2実施形態を示すGUIを示すイメージ図であり、表示部に表示される画面の一例を示す図である。 図23は、損傷検出結果出力の第2実施形態を示すGUIを示すイメージ図であり、表示部に表示される画面の他の例を示す図である。 図24は、損傷検出結果出力の第3実施形態を示すGUIのイメージ図であり、図24(A)は、損傷画像の塗り潰し色の透明度として、「10」が設定されている場合を示し、図24(B)は、構造物を撮影した画像上に透明度「10」の損傷画像が重畳表示された合成画像を示す図である。 図25は、損傷検出結果出力の第3実施形態を示すGUIのイメージ図であり、図25(A)は、損傷画像の塗り潰し色の透明度として、「50」が設定されている場合を示し、図25(B)は、構造物を撮影した画像上に透明度「50」の損傷画像が重畳表示された合成画像を示す図である。 図26は、損傷検出結果出力の第3実施形態を示すGUIのイメージ図であり、図26(A)は、損傷画像の塗り潰し色の透明度として、「100」が設定されている場合を示し、図26(B)は、構造物を撮影した画像上に透明度「100」の損傷画像が重畳表示された合成画像を示す図である。 図27は、損傷の領域を囲むポリゴンに頂点を追加する方法を示す図である。 図28は、損傷の領域を囲むポリゴンから頂点を削除する方法を示す図である。 図29は、本発明係る点検支援方法の実施形態を示すフローチャートである。
以下、添付図面に従って本発明に係る点検支援装置、方法及びプログラムの好ましい実施形態について説明する。
[本発明の概要]
図1は、構造物の損傷の一例を示す図であり、特に構造物を構成するコンクリート部材の損傷に関して示している。
図1(A)は、コンクリート部材の損傷が原因で発生した現象の一つである漏水Aを示している。漏水Aは、コンクリート部材の損傷(ひび割れ、打ち継ぎ目のひび割れ、目地材の不良等)が原因で、その損傷部分から水が漏れ出たものである。
図1(B)は、コンクリート部材に発生したひび割れB、遊離石灰C、及び錆汁Dを示している。遊離石灰Cとは、漏水等によりコンクリート部材内から流れ出し、水分が蒸発する際に石灰成分が表面に出る現象をいう。また、錆汁Dは、コンクリート部材の内部の鉄筋等の鋼材が腐食して、茶色の腐食生成物がコンクリート表面に滲み出たものをいう。
図1(C)は、コンクリート部材に発生した剥離E及び鉄筋露出Fを示している。剥離Eとは、浮き状態にあったコンクリート片が剥がれ落ちた状態をいい、鉄筋露出Fとは、剥離Eの結果、コンクリート内の鉄筋が露出した状態をいう。
また、図示しないが、構造物を構成する鋼部材の損傷としては、亀裂、腐食、破断、防食機能の劣化等の損傷の種類がある。
図2は、線状の遊離石灰の一例を示す図であり、図3は、面状の遊離石灰の一例を示す図である。
図2(A)及び(B)に示す線状の遊離石灰Cは、コンクリート部材に発生したひび割れに石灰成分が詰まっている状態のものである。したがって、線状の遊離石灰Cとひび割れとは略同じ形状であり、線状の遊離石灰Cには、その線状の遊離石灰Cと同一の位置(領域)にひび割れが発生している。
図3(A)に示す面状の遊離石灰は、水平方向に延びるひび割れからの漏水にしたがってひび割れの下方に拡がっている。図3(B)に示す面状の遊離石灰Cは、打ち継ぎ目のひび割れを中心に拡がっており、図3(C)に示す面状の遊離石灰Cは、コンクリートひび割れを中心に拡がっている。
本発明の一態様は、点検対象の構造物を撮影した画像から構造物の損傷を検出し、検出した損傷の種類にしたがって損傷検出結果を出力する。
図4から図6は、損傷の種類に応じた損傷の表現方法の種類を示す図である。
図4に示すように、ひび割れが検出された場合(図4(A))、ひび割れを表現する方法として、ひび割れに沿った閉じない線(ポリライン)による描画パターンで表現する(図4(B))。ひび割れのように線状の損傷の場合、長さの定量化が必要だからである。
したがって、図2に示したように線状の遊離石灰が検出された場合も、線状の遊離石灰を表現する方法としては、線状の遊離石灰に沿ったポリラインの描画パターンで出力する。また、ひび割れと線状の遊離石灰とは、いずれも線状の損傷であるが、損傷の種類が異なるため、線種(例えば、色)が異なるポリラインで識別可能に表現することが好ましい。
図5に示すように、剥離E及び鉄筋露出Fが検出された場合(図5(A))、剥離E及び鉄筋露出Fを表現する方法として、面状損傷の領域を囲む閉じた線(ポリゴン)による描画パターンで表現する(図5(B))。剥離E等の面状損傷の場合、面積の定量化が必要だからである。
図6に示すように、面状の遊離石灰Cが検出された場合(図6(A))、面状の遊離石灰Cを表現する方法として、面状損傷の領域を囲む閉じた線(ポリゴン)による描画パターンで表現する(図6(B))。
尚、面状の遊離石灰C、剥離E、及び鉄筋露出Fは、いずれも面状の損傷であるが、損傷の種類が異なるため、線種(例えば、色)が異なるポリゴンで識別可能に表現することが好ましい。
本発明の一態様では、同じ損傷と分類されるものであっても、損傷の形状が異なる場合には損傷の種類が異なるものとし、その形状に応じて異なる描画パターンで表現する。例えば、線状の遊離石灰は、ポリラインで表現し、面状の遊離石灰は、ポリゴンで表現する。
また、構造物(画像)上で、同一又は近接する位置から2種類以上の損傷が検出さる場合がある。ここで、近接する位置とは、2種類以上の損傷間の距離が閾値以下になる位置をいう。閾値は、デフォルトで決められていてもよいし、ユーザが設定してもよい。
例えば、線状の遊離石灰の場合、線状の遊離石灰とコンクリートひび割れとが重なり、同一の位置に2つの損傷が検出されることになる。また、図5に示したように剥離Eと鉄筋露出Fの場合、鉄筋露出Fは、剥離E内に存在する。したがって、鉄筋露出Fと剥離Eの2つの損傷間の距離は閾値以下となり、両者は近接する位置の損傷である。
図7は、線状損傷であるひび割れと線状の遊離石灰とが検出された場合の各々のポリラインを示す図である。
図7において、Xは、ひび割れを示すポリラインであり、Yは、線状の遊離石灰を示すポリラインである。
図8は、図7に示した線状損傷であるひび割れと線状の遊離石灰との近接判断を説明するために用いた図である。
以下、図8を参照にして、ひび割れと線状の遊離石灰の2つの損傷の「近接」の判定例について説明する。
図8(A)に示すように、ひび割れを示すポリラインXの注目点P1(ポリラインXの端点である1番目の頂点)と、線状の遊離石灰のポリラインとの最短距離をL1とする。
同様にして図8(B)に示すように、ポリラインXの注目点P2(2番目の頂点)と、ポリラインYとの最短距離をL2とし、図8(C)に示すように、ポリラインXの注目点P3(3番目の頂点)と、ポリラインYとの最短距離をL3とする。
また、図8(D)~(F)に示すように、2つのポリラインX、Yにおける各最短距離をそれぞれL4,L5,L6とする。尚、最短距離L4は、ポリラインYの注目点4(ポリラインYの端点である頂点)における最短距離であり、最短距離L5は、ポリラインX、Yの注目点5(注目点4と注目点6の中間の注目点)における最短距離であり、最短距離L6は、ポリラインXの注目点6(ポリラインXの他の端点である頂点)における最短距離である。
そして、L1,L2,L3>閾値を満たし、L4,L5,L6≦閾値を満たす場合、L4~L6の範囲において、2つのポリラインY、X(2つの損傷)は「近接」していると判定する。尚、注目点P1~P6の個数は、上記の例に限らない。
また、上記の例は、2種類の線状損傷の間の距離について説明したが、線状損傷と面状損傷と間の距離も同様にポリラインの各注目点とポリゴンとの最短距離を求めて、「近接」の判定を行うことができる。
本発明の一態様では、損傷の種類に応じて優先順位を定義しておき、同一又は近接する位置から2種類以上の損傷が検出される場合には、優先順位にしたがった損傷の表現を行う。尚、優先順位にしたがった損傷の表現方法の詳細については、後述する。
[点検支援装置のハードウエア構成]
図9は、本発明に係る点検支援装置のハードウエア構成の一例を示すブロック図である。
図1に示す点検支援装置10としては、パーソナルコンピュータ又はワークステーションを使用することができる。本例の点検支援装置10は、主として画像取得部12と、画像データベース14と、記憶部16と、操作部18と、CPU(Central Processing Unit)20と、RAM(Random Access Memory)22と、ROM(Read Only Memory)24と、表示制御部26とから構成されている。
画像取得部12は、入出力インターフェースに相当し、本例では点検対象の構造物を撮影した撮影画像等を取得する。点検対象の構造物は、例えば、橋梁、トンネル等の構造物を含む。
画像取得部12が取得する画像は、例えば、カメラを搭載したドローン(無人飛行体)やロボット、又は人手により構造物を撮影した多数の画像(撮影画像群)である。撮影画像群は、構造物の全体を網羅するものであり、かつ隣接する各撮影画像は、重複していることが好ましい。
画像取得部12により取得した撮影画像群は、画像データベース14に格納される。
記憶部16は、ハードディスク装置、フラッシュメモリ等から構成されるメモリであり、記憶部16には、オペレーティングシステム、点検支援プログラムの他、損傷種類の優先順位を示す情報、構造物を示すCAD(computer-aided design)データ、及びファイル化された損傷点検結果等が記憶される。損傷点検結果は、損傷の種類毎に異なるレイアで損傷情報として記憶することができる。尚、損傷情報は、損傷図を含む。
CADデータは、点検対象の構造物のCADデータが存在する場合には、それを使用することができる。構造物のCADデータが存在しない場合には、画像データベース14に保存された撮影画像群を元に自動的に作成することができる。
画像データベース14に格納された撮影画像群が、ドローンに搭載されたカメラで撮影されている場合、撮影画像群の互いに重複する撮影画像間の特徴点を抽出し、抽出した特徴点に基づいて、ドローンに搭載されたカメラの位置及び姿勢を推定し、また、カメラの位置及び姿勢の推定結果から同時に特徴点の3次元位置を推定した3次元点群モデルを生成することができる。
ドローンによりカメラの撮影位置が動いていく撮影画像群の中から、多数の特徴点の動きをトラッキングし、構造物の3次元構造(Structure)とカメラ姿勢(Motion)とを同時に推定するStructure from Motion(SfM)手法がある。近年、bundle adjustmentという最適化計算法が開発され、高精度な出力を出せるようになっている。
尚、SfM手法を適用する場合に必要なカメラのパラメータ(焦点距離、イメージセンサの画像サイズ、画素ピッチ等)は、記憶部16に記憶させたものを使用することができる。また、生成した3次元点群モデルに基づいて構造物のCADデータを生成することができる。
操作部18は、コンピュータに有線接続又は無線接続されるキーボード及びマウス等を含み、コンピュータの通常の操作指示を行う操作部として機能する他に、構造物を撮影した画像に基づいて検出された構造物の損傷検出結果をユーザ操作により編集し、また、構造物の複数の損傷種類の優先順位をユーザ操作により設定する操作部として機能する。尚、損傷検出結果の編集及び損傷種類の優先順位の設定等の詳細については後述する。
CPU20は、記憶部16又はROM24等に記憶された各種のプログラムを読み出し、各部を統括制御するとともに、構造物を撮影した画像に基づいて構造物の損傷(2種類以上の損傷)を検出する損傷検出処理、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定する判定処理、及び損傷検出処理により検出された損傷検出結果を出力する出力処理等を行う。
構造物を撮影した画像に基づいて2種類以上の損傷を検出する損傷検出処理は、人工知能(AI:artificial intelligence)により行うことができる。
AIとしては、例えば、畳み込みニューラルネットワーク(CNN:Convolution Neural Network)による学習済みモデルを使用することができる。
図10は、CPU等により構成された損傷検出処理部の実施形態を示す概念図である。
図10において、損傷検出処理部21は、複数種類の損傷に対応した複数(本例では3つ)の学習済みモデル21A、21B、及び21Cから構成されている。
各学習済みモデル21A、21B、及び21Cは、入力層と中間層と出力層とを備え、各層は複数の「ノード」が「エッジ」で結ばれる構造となっている。
CNNの入力層には、構造物を撮影した画像13が入力される。中間層は、畳み込み層とプーリング層とを1セットとする複数セットを有し、入力層から入力した画像から特徴を抽出する部分である。畳み込み層は、前の層で近くにあるノードにフィルタ処理し(フィルタを使用した畳み込み演算を行い)、「特徴マップ」を取得する。プーリング層は、畳み込み層から出力された特徴マップを縮小して新たな特徴マップとする。「畳み込み層」は、画像からのエッジ抽出等の特徴抽出の役割を担い、「プーリング層」は抽出された特徴が、平行移動などによる影響を受けないようにロバスト性を与える役割を担う。
CNNの出力層は、中間層により抽出された特徴を示す特徴マップを出力する部分である。本例の学習済みモデル21A、21B,21Cの出力層は、例えば、画像に写っている構造物の損傷毎の領域をピクセル単位、もしくはいくつかのピクセルを一塊にした単位で領域分類(セグメンテーション)した推論結果を、損傷検出結果27A,27B,27Cとして出力する。
例えば、学習済みモデル21Aは、漏水・面状遊離石灰・錆汁の損傷を検出するように機械学習された学習済みモデルであり、漏水・面状遊離石灰・錆汁のそれぞれの損傷領域及び損傷領域毎の損傷種類を損傷検出結果(認識結果)27Aとして出力する。学習済みモデル21Bは、剥離・鉄筋露出の損傷を検出するように機械学習された学習済みモデルであり、剥離・鉄筋露出のそれぞれの損傷領域及び損傷領域毎の損傷種類を損傷検出結果27Bとして出力する。学習済みモデル21Cは、ひび割れ・線状遊離石灰の損傷を検出するように機械学習された学習済みモデルであり、ひび割れ・線状遊離石灰のそれぞれの損傷領域及び損傷領域毎の損傷種類を損傷検出結果27Cとして出力する。
尚、損傷検出処理部21は、上記の実施形態に限らず、例えば、損傷種類毎に個別の学習済モデルを有し、各学習済みモデルがそれぞれの損傷種類に対応した損傷領域を損傷検出結果として出力するように構成してもよい。この場合、点検対象の損傷種類の数と同数の学習済みモデルを備えることになる。また、全損傷種類に対応できる一つの学習済モデルを有し、損傷領域と損傷領域ごとの損傷種類を損傷検出結果として出力するように構成してもよい。
図9に戻って、CPU20は、損傷検出処理により検出された損傷検出結果を、表示制御部26を介して表示部(ディスプレイ)30に出力して表示させ、又は損傷検出結果をファイルにして記憶部(メモリ)16に保存させる。
RAM22は、CPU20の作業領域として使用され、読み出されたプログラムや各種のデータを一時的に記憶する記憶部として用いられる。
表示制御部26は、表示部30に表示させる表示用データを作成し、表示部30に出力する部分であり、本例ではCPU20による検出された損傷検出結果を表示部30に表示させ、操作部18からのユーザ操作に基づく損傷検出結果の編集用の画面等を表示部30に表示させる。
表示部30は、コンピュータに接続可能な液晶モニタ等の各種のディスプレイが用いられ、表示制御部26から入力する構造物を撮影した画像とともに、画像から検出された損傷検出結果等を表示し、また、操作部18とともにユーザインターフェースの一部として使用される。
上記構成の点検支援装置10のCPU20を含むプロセッサは、記憶部16又はROM24に記憶されている点検支援プログラムを読み出し、点検支援プログラムを実行することで、上記の各処理を行う。
<点検支援装置の作用>
次に、図9に示した点検支援装置10の作用について、構造物として橋梁を例に説明する。
図11は、点検対象の橋梁の一例を示す斜視図である。
図11に示すように橋梁1は、橋脚7の間に渡された主桁2と、主桁2と直交する方向に設けられ、主桁間を連結する横桁3と、主桁2を相互に連結する対傾構4及び横構5とを含む各種の部材から構成され、主桁等の上部には、車輌等が走行するための床版6が打設されている。床版6は、鉄筋コンクリート製のものが一般的である。
床版6は、通常、主桁2と横桁3とにより画成された矩形形状の格間が基本単位となっており、床版の損傷(ひび割れ、コンクリート剥離など)を点検する場合、格間単位で行われる。
床版の各格間は、構造物(橋梁)を構成する部材(点検単位)の一つである。尚、橋梁の点検単位は、床版(格間)の他に、構造物を構成する部位・部材区分(主桁2、横桁3、対傾構4、横構5、橋脚7(柱部・壁部、梁部、隅角部・接合部))などがある。
点検支援装置10のCPU20、記憶部16に記憶された点検支援プログラム、RAM22及びROM24、表示制御部26等はプロセッサを構成し、プロセッサは、以下に示す各種の処理を行う。
プロセッサは、画像データベース14に格納されている点検対象の構造物(橋梁1)を撮影した複数の画像の中から、点検単位の画像を取得する画像取得処理を行う。
図12は、橋梁の点検単位の一つである格間に対応するオルソ画像の一例を示す図である。
オルソ画像は、構造物(格間)を撮影した画像を、格間の面に正射影された画像である。1つの格間のオルソ画像は、画像データベース14に格納された撮影画像群から、その格間に対応する複数の画像を抽出し、抽出した複数の画像をパノラマ合成し、パノラマ合成した画像を、格間の面に射影変換することで作成することができる。
図10に示した損傷検出処理部21は、格間のオルソ画像(画像13)を入力すると、入力した画像13に基づいて格間における損傷を検出し、その損傷検出結果27A~27Cを出力する。
図13は、図12に示したオルソ画像に基づいて検出された損傷検出結果の一例を示す図である。
図13に示す損傷検出結果は、点検対象の格間の損傷を示す損傷図を示している。
図13に示す損傷図には、5本のひび割れC1~C5、コンクリートの剥離H1が図示されている。
図13に示す損傷図は、オルソ画像上で検出された各ひび割れC1~C5(線状損傷)に沿ったポリラインによる描画パターンと、剥離H1(面状損傷)の領域を囲むポリゴンによる描画パターン、又はポリゴン内を塗り潰した画像で表現されている。
図14は、格間に対応する損傷図が重畳されたオルソ画像の一例を示す図である。
図14に示す損傷図が重畳されたオルソ画像は、図12に示したオルソ画像に図13に示した損傷図を重畳することで作成することができる。
損傷図は、損傷種類に応じた色を損傷箇所に付して作成することができ、オルソ画像に損傷図を重畳することで、損傷箇所を容易に視認することができる。
図15は、損傷検出結果に含まれる損傷数量表の一例を示す図表である。
図15に示す損傷数量表には、損傷識別情報(ID:identification)、損傷種類、サイズ(幅)、サイズ(長さ)、サイズ(面積)の項目を有し、損傷毎に各項目に対応する情報が記載されている。
線状損傷であるひび割れの場合、各ひび割れC1~C5の長さや幅の定量化を行い、面状損傷である剥離の場合、剥離H1の領域の面積の定量化を行い、損傷数量表には、これらの情報が、損傷IDに関連付けられて記載される。
[損傷検出結果出力の第1実施形態]
図16は、損傷検出処理部によるひび割れ及び線状の遊離石灰の損傷検出結果と、その出力処理との一例を示す模式図である。
図16(A)は、図10に示した損傷検出処理部21(学習済みモデル21C)に画像13が入力され、学習済みモデル21Cによりひび割れBと線状の遊離石灰Cのそれぞれの損傷領域及び損傷領域毎の損傷種類を示す損傷検出結果が検出された場合に関して示している。この場合、CPU20は、これらのひび割れBと線状の遊離石灰Cとが、それぞれ同一又は近接する位置から検出されたか否かを判定する判定処理を行う。
図16(A)に示す例では、ひび割れBと線状の遊離石灰Cとは、便宜上、並んで図示されているが、線状の遊離石灰Cは、コンクリート部材に発生したひび割れBに石灰成分が詰まっている状態のものである。したがって、線状の遊離石灰Cとひび割れBとは略同じ形状であり、線状の遊離石灰Cには、その線状の遊離石灰Cと同一の位置(領域)にひび割れBが発生している。
図16(A)に示すひび割れBと線状の遊離石灰Cの場合、CPU20は、ひび割れBと線状の遊離石灰Cとが、それぞれ同一又は近接する位置から検出されたものと判定する。そして、ひび割れBと線状の遊離石灰Cとが、それぞれ同一又は近接する位置から検出されたもの判定すると、CPU20は、損傷種類の優先順位にしたがって損傷検出結果を出力する出力処理を行う。
本例では、損傷種類の優先順位として、ひび割れBよりも線状の遊離石灰Cの優先順位が高く設定されているため、CPU20は、図16(B)に示すように線状の遊離石灰Cの領域を塗り潰した損傷画像を表示制御部26を介して表示部30に表示させ、あるいは線状の遊離石灰Cのポリラインを示す損傷図のCADデータをファイル出力する。損傷図のCADデータのファイルは、損傷が検出された画像と関連付けて、記憶部16に記憶させることが好ましい。
図17は、損傷検出処理部によるひび割れ及び線状の遊離石灰の損傷検出結果と、その出力処理との他の例を示す模式図である。
図17(A)に示す例では、ひび割れBと線状の遊離石灰Cとが検出され、ひび割れBの一部と線状の遊離石灰Cの一部とが、同一の位置に発生している。
この場合、CPU20は、ひび割れBの一部と線状の遊離石灰Cの一部とが、それぞれ同一位置から検出されたものと判定する。そして、CPU20は、ひび割れBの一部と線状の遊離石灰Cとの重複する部分については、CPU20は、図17(B)に示すように線状の遊離石灰Cの領域を塗り潰した損傷画像を、表示制御部26を介して表示部30に表示させ、あるいは線状の遊離石灰Cのポリラインを示す損傷図のCADデータをファイル出力する。
尚、CPU20は、線状の遊離石灰Cと重複していないひび割れBの残りの部分は、そのままひび割れBの領域を塗り潰した損傷画像を表示制御部26を介して表示部30に表示させ、あるいはひび割れBのポリラインを示す損傷図のCADデータをファイル出力する。また、ひび割れBを示す損傷画像及びCADデータと、線状の遊離石灰Cを示す損傷画像及びCADデータとは、例えば、線種(例えば、色)を変えて識別できるようにすることが好ましい。
図18は、損傷検出処理部による面状の遊離石灰及び線状の遊離石灰の損傷検出結果と、その出力処理との一例を示す模式図である。
図18(A)は、図10に示した損傷検出処理部21(学習済みモデル21A,21C)にそれぞれ画像13が入力され、学習済みモデル21Aにより面状の遊離石灰Cの損傷領域が検出され、学習済みモデル21Cにより線状の遊離石灰Cの損傷領域が検出された場合に関して示している。この場合、CPU20は、これらの面状の遊離石灰Cと線状の遊離石灰Cとが、それぞれ同一又は近接する位置から検出されたか否かを判定する。
図18(A)に示す例では、面状の遊離石灰Cと線状の遊離石灰Cとの一部が互いに重なって発生しているため、CPU20は、面状の遊離石灰Cと線状の遊離石灰Cとは、それぞれ同一又は近接する位置から検出されたものと判定する。そして、面状の遊離石灰Cと線状の遊離石灰Cとが、それぞれ同一又は近接する位置から検出されたもの判定すると、CPU20は、損傷種類の優先順位にしたがって損傷検出結果を出力する。
図18に示す例では、面状の遊離石灰C、線状の遊離石灰Cの順に優先順位が低くなるように設定されているため、CPU20は、図18(B)に示すように面状の遊離石灰Cと線状の遊離石灰Cとが重複する部分については面状の遊離石灰Cを優先させ、面状の遊離石灰Cの損傷領域を特定の色で塗り潰した損傷画像を、表示制御部26を介して表示部30に表示させるとともに、重複していない線状の遊離石灰Cの一部の領域を塗り潰した損傷画像を、表示制御部26を介して表示部30に表示させる。また、CPU20は、図18(C)に示すように面状の遊離石灰Cと線状の遊離石灰Cとが重複する部分については、面状の遊離石灰Cの損傷領域を囲むポリゴンのCADデータとともに、重複していない線状の遊離石灰Cの一部のポリラインのCADデータをファイル出力する。
図19は、損傷検出処理部による面状の遊離石灰及び線状の遊離石灰の損傷検出結果と、その出力処理との他の例を示す模式図である。
図19に示す例は、図18に示した例と比較して、面状の遊離石灰Cの優先順位と線状の遊離石灰Cの優先順位との順番が逆転して設定されており、線状の遊離石灰Cの優先順位が面状の遊離石灰Cの優先順位よりも高くなっている。
図19(A)に示すように面状の遊離石灰Cと線状の遊離石灰Cとの一部が互いに重なっている場合、CPU20は、図19(B)に示すように面状の遊離石灰Cと線状の遊離石灰Cとが重複する部分については、線状の遊離石灰Cの領域を塗り潰した損傷画像を優先させて表示させ、同様に線状の遊離石灰CのポリラインのCADデータを優先させてファイル出力する。この場合、面状の遊離石灰Cについては、損傷画像もCADデータも出力されないことになる。
図20は、損傷検出処理部による錆汁、面状の遊離石灰及び漏水の損傷検出結果と、その出力処理との一例を示す模式図である。
図20(A)は、図10に示した損傷検出処理部21(学習済みモデル21A)に画像13が入力され、学習済みモデル21Aにより錆汁D、面状の遊離石灰C及び漏水Aの損傷領域が検出された場合に関して示している。この場合、CPU20は、これらの錆汁D、面状の遊離石灰C及び漏水Aが、それぞれ同一又は近接する位置から検出されたか否かを判定する。
図20(A)に示す例では、漏水Aの領域の内側に面状の遊離石灰Cが発生し、面状の遊離石灰Cの内側に錆汁Dが発生しているため、これらの損傷は、損傷の全部又は一部が互いに重なっている。
図20(A)に示す錆汁D、面状の遊離石灰C及び漏水Aの場合、CPU20は、これらの損傷は、それぞれ同一又は近接する位置から検出されたものと判定する。そして、錆汁D、面状の遊離石灰C及び漏水Aが、それぞれ同一又は近接する位置から検出されたもの判定すると、CPU20は、損傷種類の優先順位にしたがって損傷検出結果を出力する。
図20に示す例では、錆汁D、面状の遊離石灰C、及び漏水Aの順に優先順位が低くなるように設定されているため、CPU20は、図20(B)に示すように漏水Aの領域の上に面状の遊離石灰Cの領域を重ね、更に面状の遊離石灰Cの領域の上に錆汁Dの領域を重ね、それぞれ損傷種類毎に異なる色で各領域を塗り潰した損傷画像を、表示制御部26を介して表示部30に表示させる。また、CPU20は、図20(C)に示すように錆汁D、面状の遊離石灰C、及び漏水Aの各領域を囲むポリゴンのCADデータをファイル出力する。
図21は、損傷検出処理部による錆汁、面状の遊離石灰及び漏水の損傷検出結果と、その出力処理との他の例を示す模式図である。
図21に示す例は、図20に示した例と比較して、錆汁D、面状の遊離石灰C、及び漏水Aの優先順位が逆転して設定されており、漏水A、面状の遊離石灰C、及び錆汁Dの順に優先順位が低くなるように設定されている。
図21(A)に示すように錆汁D、面状の遊離石灰C、及び漏水Aの全部又は一部が互いに重なっている場合、CPU20は、図21(B)に示すように優先順位が最も高い漏水Aの領域を塗り潰した損傷画像を優先させて表示させる。この場合、漏水Aの領域の内側に存在する錆汁D、面状の遊離石灰Cの損傷画像は表示されなくなる。また、CPU20は、図21(C)に示すように優先順位が最も高い漏水Aの領域を囲むポリゴンのCADデータを優先させてファイル出力する。この場合、漏水Aの領域の内側に存在する錆汁D、面状の遊離石灰Cを囲むポリゴンのCADデータは出力されないことになる。
尚、損傷種類の優先順位は、上記の例に限定されないが、損傷の重大度(より損傷が進行しているもの)に応じて優先順位を設定することが好ましい。例えば、損傷種類として、線状の遊離石灰、及びひび割れを含む線状損傷の場合、線状の遊離石灰は、ひび割れよりも優先順位を高くする。また、損傷種類として、鉄筋露出、剥離、錆汁、面状の遊離石灰、及び漏水を含む面状損傷の場合、鉄筋露出、剥離、錆汁、面状の遊離石灰、及び漏水の順に優先順位を低く設定する。
また、損傷種類の優先順位は、操作部18を使用してユーザが適宜設定できるようにしてもよい。この場合、CPU20は、ユーザにより操作される操作部18から構造物の損傷種類の優先順位を受け付ける優先順位受付処理を行い、受け付けた優先順位を記憶部16等に保存しておき、必要に応じて記憶部16から優先順位を読み出して使用することができる。
[損傷検出結果出力の第2実施形態]
図22及び図23は、それぞれ損傷検出結果出力の第2実施形態を示すGUI(Graphical User Interface)のイメージ図である。
図22は、表示部30に表示される画面40の一例を示す図である。
この画面40には、構造物を撮影した画像上に損傷画像を重畳した合成画像、表示させる損傷種類を選択するためのチェックボックス42、及び編集等に使用する種々のアイコンボタン類が表示されている。尚、構造物を撮影した画像に基づいて損傷検出処理部21により検出された損傷種類毎の損傷検出結果は、損傷種類毎の損傷領域を示すレイヤー構造のCADデータとして保持することができる。
図22に示す例では、チェックボックス42において、漏水、遊離石灰、錆汁、剥離、及び鉄筋露出の5つの損傷種類の全てにチェックが入っている(5つの損傷種類が選択されている)ため、画面40に表示される構造物の画像上には、上記5つの損傷種類の損傷画像が重畳表示される。
ここで、損傷種類に対応する損傷画像は、その損傷種類に対応するレイヤーのCADデータに基づいて損傷領域を損傷種類に応じた色で塗り潰して作成することができる。損傷種類に応じた色は、予め損傷種類に応じて設定された色、又はユーザが設定した色を使用することができる。
図23は、表示部30に表示される画面40の他の例を示す図である。
図23に示す例では、図22に示した例と比較して、画面40に表示する損傷画像が異なっている。
図23に示す画面40では、チェックボックス42において、漏水、錆汁、及び鉄筋露出の3つの損傷種類にチェックが入っているため、画面40に表示される構造物の画像上には、上記3つの損傷種類の損傷画像が重畳表示される。
したがって、図23に示す画面40では、図22に示した画面40と比較して、遊離石灰及び剥離に対応する損傷画像が消去されている点で相違する。
上記の損傷検出結果出力の第2実施形態によれば、ユーザが所望の1乃至複数の損傷種類を選択することで、選択した損傷種類の損傷を示す損傷画像を表示させることができる。尚、チェックボックス42には、画像から検出された1乃至複数の損傷種類のみを表示することが好ましい。また、損傷種類毎の損傷領域の表示方法は、図22及び図23に示した実施形態に限定されない。
[損傷検出結果出力の第3実施形態]
図24から図26は、それぞれ損傷検出結果出力の第3実施形態を示すGUIのイメージ図である。
図24(A)は、各種の設定を行う設定画面44の一例を示す図である。
図24(A)に示す設定画面44では、損傷等の色を設定する「タブ」が選択されており、この設定画面を使用することで、ユーザは、図22等に示した損傷種類に応じた損傷画像の色を設定することができる。
また、図24(A)に示す設定画面44には、損傷画像の色(塗り潰し色)の透明度を設定する場合に使用するつまみ45Aと、透明度を表示するダイアログボックス45Bとが設けられている。
図24(A)に示す例では、損傷画像の塗り潰し色の透明度として、「10」が設定されている。尚、本例では、不透明の場合の透明度は「0」であり、完全な透明の場合の透明度は「100」である。
図24(B)は、構造物を撮影した画像上に透明度「10」の損傷画像が重畳表示された合成画像を示す図である。
図24(B)に示す合成画像は、図24(A)に示す設定画面にて透明度「10」が設定された後、設定画面を閉じることで表示することができる。
図25(A)は、透明度が「50」に設定された設定画面を示し、図25(B)は、構造物を撮影した画像上に透明度「50」の損傷画像が重畳表示された合成画像を示す図である。
また、図26(A)は、透明度が「100」に設定された設定画面を示し、図26(B)は、構造物を撮影した画像上に透明度「100」の損傷画像が重畳表示された合成画像を示す図である。
尚、図26(B)では、塗り潰し色の透明度が「100」であるため、塗り潰し色は、完全に透明であるが、損傷種類毎の損傷領域を囲む閉じたポリゴンは、損傷種類に応じて設定された色で表示されている。
このようにして損傷画像を塗り潰す色の透明度を設定して損傷画像を表示することで、ユーザは、損傷画像により覆われている構造物の画像(損傷)を視認することができる。
尚、損傷検出結果出力の第2実施形態と第3実施形態とは組み合わせて使用することができる。
[損傷検出結果の編集]
図10に示した損傷検出処理部21は、構造物を撮影した画像13を入力すると、損傷種類及び損傷種類毎の損傷領域を損傷検出結果として出力するが、損傷検出結果は、誤って検出され、又は不正確に検出される場合がある。
例えば、損傷領域は、ピクセル単位、もしくはいくつかのピクセルを一塊にした単位で領域分類されるため、正確性に欠ける場合がある。また、2本のひび割れとして検出されたひび割れは、1本のひび割れとして連結した方がよい場合がある。コンクリート内部でひび割れが繋がっていると類推できる場合があるからである。
そこで、CPU20は、ユーザにより操作される操作部18(例えば、マウス)での操作を通じて損傷検出結果の編集指示を受け付ける編集指示受付処理を行い、受け付けた編集指示にしたがって損傷検出結果を編集する編集処理を行う。
損傷検出結果の編集例としては、同じ種類の線状損傷で、ポリラインの端点同士が近い線状損傷の場合には、端点同士を連結する編集が考えられる。この場合の編集は、損傷検出処理後に同じ種類の線状損傷のポリラインの端点同士の距離を測定し、測定した距離が閾値以下の場合には、端点同士を自動で連結してもよいし、ユーザの指示により自動で連結してもよい。閾値は、デフォルトの値を使用してもよいし、ユーザが設定できるようにしてもよい。
また、線状損傷の長さや幅に対する閾値や、面状損傷の面積に対する閾値を設けて、閾値より小さい損傷検出結果を自動で削除するようにしてもよい。この損傷検出結果の削除は、損傷検出処理後に自動で削除してもよいし、ユーザの指示により削除してもよい。閾値は、デフォルトの値を使用してもよいし、ユーザが設定できるようにしてもよい。
図27及び図28は、それぞれ損傷検出結果の編集例を示す図である。尚、損傷検出結果の編集を行う場合には、損傷検出結果出力の第3実施形態で示したように、損傷画像を塗り潰す色の透明度を高く設定し、構造物の画像が視認し易い状態にすることが好ましい。
図27は、損傷の領域を囲むポリゴンに頂点を追加する方法を示す図である。
ポリゴンは、損傷の領域に沿った複数の頂点(図27では、四角で示した頂点)を結んで描画されている。
このポリゴンに頂点を追加する場合には、図27(A)に示すように頂点を追加したいポリゴンの線上にマウスのカーソルを合わせ、マウスを右クリックし、コンテキストメニューで[追加]を選択する。これにより、図27(B)に示すようにポリゴンの線上に新たな頂点を追加することができる。
そして、追加した頂点をドラッグし、本来の損傷の領域のエッジに移動させることで、損傷の領域を囲むポリゴンを編集することができる。
図28は、損傷の領域を囲むポリゴンから頂点を削除する方法を示す図である。
このポリゴンから頂点を削除する場合には、図28(A)に示すように削除したい頂点にマウスのカーソルを合わせ、マウスで右クリックし(頂点を選択状態にし)、コンテキストメニューで[削除]を選択する。これにより、図28(B)に示すようにポリゴンから頂点を削除することができる。
図28(B)に示すようにポリゴンから頂点が削除されると、削除された頂点の前後の頂点の間でポリゴンの線が結ばれ、これにより損傷の領域を囲むポリゴンが編集される。
上記の編集例は、面状損傷のポリゴンにおける頂点の追加、削除等の編集について説明したが、線状損傷のポリラインにおける頂点の追加、削除等の編集も同様に行うことができる。
また、編集機能として、ポリラインまたはポリゴン全体を、頂点を結ぶ線をクリックする等により選択状態にし、ポリラインまたはポリゴンの全体の一括削除する機能や、損傷の検出漏れ箇所に対し、手動でポリラインまたはポリゴンを新たに追加する機能等を有する。
[点検支援方法]
図29は、本発明係る点検支援方法の実施形態を示すフローチャートである。
図29に示す各ステップの処理は、例えば、図9に示した点検支援装置10のCPU20等により構成されるプロセッサにより行われる。
図29において、プロセッサは、点検対象の構造物を撮影した画像を画像取得部12又は画像データベース14等から取得する(ステップS10)。
損傷検出処理部21(図10)は、ステップS10で取得した画像に基づいて構造物の損傷を検出する(ステップS12)。
プロセッサは、ステップS12で行われる損傷検出により、損傷が検出されたか否かを判別し(ステップS14)、損傷が検出されている場合(「Yes」の場合)には、2種類以上の損傷が検出されたか否かを判別する(ステップS16)。
ステップS16により2種類以上の損傷が検出されたことが判別されると(「Yes」の場合)、プロセッサは、更にその2種類以上の損傷のうち、同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定する(ステップS18)。
そして、ステップS18により、同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると(「Yes」の場合)、プロセッサは、損傷種類の優先順位にしたがって損傷検出結果を出力する(ステップS20)。損傷検出結果の出力は、例えば、画像上に損傷画像を重畳し、又は損傷画像単独で表示部に表示し、又は損傷図を示すCADデータをファイル出力することにより行われる。
一方、ステップS16で2種類以上の損傷が検出されない場合(「No」の場合)、即ち、1種類の損傷のみが検出された場合、あるいはステップS18で2種類以上の損傷が、同一又は近接する位置から検出されていないと判定された場合(「No」の場合)には、ステップS22に遷移し、ステップS22では、1乃至2種類以上の損傷検出結果をそのまま出力する。
[その他]
本発明に係る点検支援装置を実現するハードウエアは、各種のプロセッサ(processor)で構成できる。各種プロセッサには、プログラムを実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device;PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。点検支援装置を構成する1つの処理部は、上記各種プロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサで構成されてもよい。例えば、1つの処理部は、複数のFPGA、あるいは、CPUとFPGAの組み合わせによって構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip;SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウエア的な構造として、上記各種プロセッサを1つ以上用いて構成される。更に、これらの各種のプロセッサのハードウエア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
また、本発明は、コンピュータにインストールされることにより、コンピュータを本発明に係る点検支援装置として機能させる点検支援プログラム、及びこの点検支援プログラムが記録された記憶媒体を含む。
更にまた、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1 橋梁
2 主桁
3 横桁
4 対傾構
5 横構
6 床版
7 橋脚
10 点検支援装置
12 画像取得部
13 画像
14 画像データベース
16 記憶部
18 操作部
20 CPU
21 損傷検出処理部
21A 学習済みモデル
22 RAM
24 ROM
26 表示制御部
27A~27C 損傷検出結果
30 表示部
40 画面
42 チェックボックス
44 設定画面
45A つまみ
45B ダイアログボックス
A 漏水
B、C1~C5 ひび割れ
遊離石灰(面状)
遊離石灰(線状)
D 錆汁
E 剥離
F 鉄筋露出
H1 剥離
L1~L6 最短距離
P1~P6 注目点
S10~S22 ステップ
X,Y ポリライン

Claims (16)

  1. プロセッサを備えた点検支援装置であって、
    前記プロセッサは、
    点検対象の構造物を撮影した画像に基づいて前記構造物の損傷を検出する損傷検出処理と、
    同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定する判定処理と、
    前記判定処理により、前記同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると、損傷種類の優先順位に基づく出力方法で損傷検出結果を出力する出力処理と、
    を行う点検支援装置。
  2. 前記損傷検出処理は、前記画像に基づいて損傷領域及び損傷領域毎の損傷種類を検出し、
    前記判定処理は、同一又は近接する損傷領域で2種類以上の損傷種類が検出されたか否かを判定し、
    前記出力処理は、前記判定処理により、同一又は近接する損傷領域で2種類以上の損傷種類が検出されたことが判定されると、前記同一又は近接する損傷領域の損傷検出結果として最も優先順位が高い損傷種類の損傷検出結果をユーザが視認可能に出力する、
    請求項1に記載の点検支援装置。
  3. 前記近接する位置は、前記2種類以上の損傷間の距離が閾値以下になる位置である、請求項1又は2に記載の点検支援装置。
  4. 前記損傷検出処理は、前記画像を入力すると、損傷領域及び損傷領域毎の損傷種類を認識結果として出力する学習済みモデルが実行する、
    請求項1から3のいずれか1項に記載の点検支援装置。
  5. 前記出力処理は、前記損傷種類が線状損傷の場合と、前記損傷種類が面状損傷の場合とで、異なる描画パターンを出力する、
    請求項1から4のいずれか1項に記載の点検支援装置。
  6. 前記出力処理は、前記損傷種類が線状損傷の場合、前記線状損傷を閉じない線を示す損傷図を出力し、前記損傷種類が面状損傷の場合、前記面状損傷を囲む閉じた線を示す損傷図を出力する、
    請求項5に記載の点検支援装置。
  7. 前記出力処理は、前記損傷種類が線状損傷の場合、少なくとも前記線状損傷を塗り潰した損傷画像を出力し、前記損傷種類が面状損傷の場合、少なくとも前記面状損傷を塗り潰した損傷画像を出力する、
    請求項5に記載の点検支援装置。
  8. 前記出力処理は、前記損傷検出結果をディスプレイに出力して表示させ、又は前記損傷検出結果をファイルにしてメモリに保存させる、
    請求項1から7のいずれか1項に記載の点検支援装置。
  9. 前記損傷種類の優先順位は、損傷の重大度に応じて予め設定された優先順位である、請求項1から8のいずれか1項に記載の点検支援装置。
  10. 前記損傷種類として、線状の遊離石灰、及びひび割れを含む線状損傷の場合、線状の遊離石灰は、ひび割れよりも優先順位が高い、
    請求項9に記載の点検支援装置。
  11. 前記損傷種類として、鉄筋露出、剥離、錆汁、面状の遊離石灰、及び漏水を含む面状損傷の場合、鉄筋露出、剥離、錆汁、面状の遊離石灰、及び漏水の順に優先順位が低く設定される、
    請求項9又は10に記載の点検支援装置。
  12. 前記プロセッサは、ユーザにより操作される操作部から構造物の損傷種類の優先順位を受け付ける優先順位受付処理を行い、
    前記損傷種類の優先順位は、ユーザから前記操作部を介して受け付けた優先順位である、
    請求項1から11のいずれか1項に記載の点検支援装置。
  13. 前記プロセッサは、
    ユーザにより操作される操作部から前記損傷検出結果の編集指示を受け付ける編集指示受付処理と、
    前記受け付けた編集指示にしたがって前記損傷検出結果を編集する編集処理と、を行う、
    請求項1から12のいずれか1項に記載の点検支援装置。
  14. 前記損傷検出結果は、損傷識別情報、損傷種類及びサイズの項目を有し、前記検出した損傷毎に各項目に対応する情報が記載された損傷数量表を含む、
    請求項1から13のいずれか1項に記載の点検支援装置。
  15. プロセッサにより点検対象の構造物の点検支援を行う点検支援方法であって、
    前記プロセッサの各処理は、
    前記点検対象の構造物を撮影した画像に基づいて前記構造物の損傷を検出するステップと、
    同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定するステップと、
    前記判定するステップにより、前記同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると、損傷種類の優先順位に基づく出力方法で損傷検出結果を出力するステップと、
    を含む点検支援方法。
  16. 点検対象の構造物の点検支援を行う方法をコンピュータに実行させる点検支援プログラムであって、前記方法は、
    前記点検対象の構造物を撮影した画像に基づいて前記構造物の損傷を検出するステップと、
    同一又は近接する位置から2種類以上の損傷が検出されたか否かを判定するステップと、
    前記判定するステップにより、前記同一又は近接する位置から2種類以上の損傷が検出されたことが判定されると、損傷種類の優先順位に基づく出力方法で損傷検出結果を出力するステップと、
    を含む点検支援プログラム。
JP2023172856A 2020-03-31 2023-10-04 点検支援装置、方法及びプログラム Pending JP2023168548A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2020064083 2020-03-31
JP2020064083 2020-03-31
JP2022511672A JP7364786B2 (ja) 2020-03-31 2021-03-01 点検支援装置、方法及びプログラム
PCT/JP2021/007649 WO2021199830A1 (ja) 2020-03-31 2021-03-01 点検支援装置、方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022511672A Division JP7364786B2 (ja) 2020-03-31 2021-03-01 点検支援装置、方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2023168548A true JP2023168548A (ja) 2023-11-24

Family

ID=77927742

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022511672A Active JP7364786B2 (ja) 2020-03-31 2021-03-01 点検支援装置、方法及びプログラム
JP2023172856A Pending JP2023168548A (ja) 2020-03-31 2023-10-04 点検支援装置、方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2022511672A Active JP7364786B2 (ja) 2020-03-31 2021-03-01 点検支援装置、方法及びプログラム

Country Status (5)

Country Link
US (1) US20230003663A1 (ja)
EP (1) EP4131157A4 (ja)
JP (2) JP7364786B2 (ja)
CN (1) CN115315625A (ja)
WO (1) WO2021199830A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7401478B2 (ja) * 2021-03-12 2023-12-19 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
CN117095294B (zh) * 2023-08-24 2024-06-25 中建安装集团黄河建设有限公司 一种预制楼板施工质量诊断方法、介质及系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4515627B2 (ja) * 2000-12-08 2010-08-04 オリンパス株式会社 撮像装置
JP2002188998A (ja) 2001-10-03 2002-07-05 Keisoku Kensa Kk トンネルの内部壁面のひび割れ検出方法及びその表示方法
JP4305361B2 (ja) * 2004-10-15 2009-07-29 株式会社日立製作所 道路管理システム
JP4344312B2 (ja) * 2004-12-17 2009-10-14 新日本製鐵株式会社 帯状体又は柱状体の表面疵検査方法およびその装置
CN108139335B (zh) * 2015-09-30 2020-09-25 富士胶片株式会社 图像登录装置、图像登录方法、图像登录系统及摄像终端
CN108463717B (zh) * 2016-01-26 2021-05-25 富士胶片株式会社 龟裂信息检测装置、龟裂信息检测方法及存储介质
WO2018165753A1 (en) * 2017-03-14 2018-09-20 University Of Manitoba Structure defect detection using machine learning algorithms
JP2019132637A (ja) * 2018-01-30 2019-08-08 株式会社日立ハイテクノロジーズ 欠陥観察装置

Also Published As

Publication number Publication date
JPWO2021199830A1 (ja) 2021-10-07
EP4131157A4 (en) 2023-06-14
CN115315625A (zh) 2022-11-08
WO2021199830A1 (ja) 2021-10-07
JP7364786B2 (ja) 2023-10-18
US20230003663A1 (en) 2023-01-05
EP4131157A1 (en) 2023-02-08

Similar Documents

Publication Publication Date Title
Kim et al. Automated dimensional quality assessment for formwork and rebar of reinforced concrete components using 3D point cloud data
JP2023168548A (ja) 点検支援装置、方法及びプログラム
Ribeiro et al. Remote inspection of RC structures using unmanned aerial vehicles and heuristic image processing
Barazzetti et al. BIM from laser scans… not just for buildings: NURBS-based parametric modeling of a medieval bridge
Alsadik et al. Automated camera network design for 3D modeling of cultural heritage objects
WO2006049174A1 (ja) コンクリート構造物のクラック検査装置及びクラック検査方法
JP7146013B2 (ja) サーバ装置、画像処理方法、及びプログラム
JP6807459B2 (ja) 損傷図作成方法、損傷図作成装置、損傷図作成システム、及び記録媒体
Perera et al. Cycle graph analysis for 3D roof structure modelling: Concepts and performance
JP7344692B2 (ja) 情報処理装置及び情報処理方法及びプログラム
Pantoja-Rosero et al. Damage-augmented digital twins towards the automated inspection of buildings
JPWO2019021719A1 (ja) 損傷データ編集装置、損傷データ編集方法、およびプログラム
US20230260098A1 (en) Structure inspection assistance apparatus, structure inspection assistance method, and program
Kim et al. Automated damage localization and quantification in concrete bridges using point cloud-based surface-fitting strategy
US11423511B2 (en) Image composition method, image composition device, and recording medium
JP6894361B2 (ja) コンクリート表面上のひび割れ方向特定方法、ひび割れ方向特定装置、ひび割れ方向特定システム及びプログラム
Choi et al. Semi-automated visualization method for visual inspection of buildings on BIM using 3D point cloud
JP2022062915A (ja) 情報処理装置、情報処理方法及びプログラム
US20220406018A1 (en) Three-dimensional display device, three-dimensional display method, and three-dimensional display program
US20220130030A1 (en) Information display apparatus, information display method, and information display program
Mansuri et al. Artificial intelligence for heritage conservation: a case study of automatic visual inspection system
WO2022070734A1 (ja) 構造物の点検支援装置、構造物の点検支援方法、及びプログラム
JP7429774B2 (ja) 損傷評価装置、方法及びプログラム
WO2020116279A1 (ja) 構造物の点検支援装置及び方法
JP7326446B2 (ja) 画像表示装置、方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240624