JP7066082B1 - 情報処理装置、情報処理方法、および情報処理プログラム - Google Patents

情報処理装置、情報処理方法、および情報処理プログラム Download PDF

Info

Publication number
JP7066082B1
JP7066082B1 JP2022510220A JP2022510220A JP7066082B1 JP 7066082 B1 JP7066082 B1 JP 7066082B1 JP 2022510220 A JP2022510220 A JP 2022510220A JP 2022510220 A JP2022510220 A JP 2022510220A JP 7066082 B1 JP7066082 B1 JP 7066082B1
Authority
JP
Japan
Prior art keywords
unit
parameter
image
bonded
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022510220A
Other languages
English (en)
Other versions
JPWO2023084644A1 (ja
Inventor
啓太 吉田
徹平 藤原
高之 天見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7066082B1 publication Critical patent/JP7066082B1/ja
Publication of JPWO2023084644A1 publication Critical patent/JPWO2023084644A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

情報処理装置は、データ取得部と、輝度補正部と、画像貼り合わせ部と、変状検出部と、パラメータ決定部とを備える。データ取得部は、複数の撮像装置で対象物を撮像して得られる複数の画像のデータを取得する。輝度補正部は、複数の画像の各々の輝度を補正する。画像貼り合わせ部は、輝度補正部によって輝度の補正が行われた複数の画像を貼り合わせた画像である貼り合わせ画像を生成する。変状検出部は、貼り合わせ画像から対象物の変状箇所を検出する学習モデルを用いて、対象物の変状箇所を検出する。パラメータ決定部は、変状検出部による変状箇所の検出精度に基づいて、輝度の補正に用いられるパラメータを決定する。

Description

本開示は、複数の撮像装置で対象物を撮像して得られる複数の画像の輝度を補正するために用いられるパラメータを決定する情報処理装置、情報処理方法、および情報処理プログラムに関する。
従来、トンネルなどの対象物の点検を行うために撮像方向が互いに異なる複数の撮像装置が搭載され走行しながらこれら複数の撮像装置によって対象物を撮像する計測車両が知られている。かかる計測車両では、フォーカスまたはアイリスなどといった撮像対象に対する撮像条件が撮像装置毎に切り替えられる。
特許文献1には、撮像条件を自動で調整する技術として、トンネルの有無、高架の有無、道路勾配、日時、天候、および車両の向きなどの情報を含む走行環境情報に基づいて車両に搭載された撮像装置の露光条件を調整する技術が提案されている。
特開2006-222844号公報
しかしながら、複数の撮像装置で対象物を撮像して得られる複数の画像の輝度を補正した後に貼り合わせた画像である貼り合わせ画像から対象物の変状箇所を検出する場合、輝度の補正によって変状箇所の検出精度が低下する場合がある。
本開示は、上記に鑑みてなされたものであって、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータを適切に決定することができる情報処理装置を得ることを目的とする。
上述した課題を解決し、目的を達成するために、本開示の情報処理装置は、データ取得部と、輝度補正部と、画像貼り合わせ部と、変状検出部と、パラメータ決定部とを備える。データ取得部は、複数の撮像装置で対象物を撮像して得られる複数の画像のデータを取得する。輝度補正部は、複数の画像の各々の輝度を補正する。画像貼り合わせ部は、輝度補正部によって輝度の補正が行われた複数の画像を貼り合わせた画像である貼り合わせ画像を生成する。変状検出部は、貼り合わせ画像から対象物の変状箇所を検出する学習モデルを用いて、対象物の変状箇所を検出する。パラメータ決定部は、変状検出部による変状箇所の検出精度に基づいて、輝度の補正に用いられるパラメータを決定する。
本開示によれば、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータを適切に決定することができる、という効果を奏する。
実施の形態1にかかる計測処理システムの構成の一例を示す図 実施の形態1にかかる計測車両が備える計測装置の構成の一例を示す図 実施の形態1にかかる計測装置における複数の撮像装置の配置の一例を示す図 実施の形態1にかかる情報処理装置の構成の一例を示す図 実施の形態1にかかる撮像画像データ記憶部に記憶される撮像画像データテーブルの一例を示す図 実施の形態1にかかるパラメータ候補記憶部に記憶されるパラメータ候補テーブルの一例を示す図 実施の形態1にかかるパラメータ記憶部に記憶されるパラメータテーブルの一例を示す図 実施の形態1にかかる情報処理装置の処理部によって実行されるパラメータ決定処理の一例を示す図 実施の形態1にかかる情報処理装置の輝度補正部によって実行されるガンマ補正を説明するための図 実施の形態1にかかる情報処理装置の輝度補正部によって実行される局所的ヒストグラム平坦化法を説明するための図 実施の形態1にかかる情報処理装置の輝度補正部によって実行されるハイパスフィルタリングを説明するための図 実施の形態1にかかる情報処理装置の画像貼り合わせ部による撮像画像貼り合わせ処理の一例を説明するための図 実施の形態1にかかる情報処理装置の評価部による再現率、適合率、およびF値の算出方法を説明するための図 実施の形態1にかかる情報処理装置の点検画像生成部によって生成される点検画像の一例を示す図 実施の形態1にかかる情報処理装置の処理部による処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置の処理部によるパラメータ決定処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置の処理部による変状検出精度評価処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置の処理部による手動モード処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置の処理部による自動モード処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置の処理部による点検画像生成処理の一例を示すフローチャート 実施の形態1にかかる情報処理装置のハードウェア構成の一例を示す図
以下に、実施の形態にかかる情報処理装置、情報処理方法、および情報処理プログラムを図面に基づいて詳細に説明する。
実施の形態1.
図1は、実施の形態1にかかる計測処理システムの構成の一例を示す図である。図1に示すように、実施の形態1にかかる計測処理システム100は、情報処理装置1と、計測車両2とを備える。計測車両2は、車両本体60と、車両本体60に搭載された計測装置70とを備える。計測装置70は、車両本体60が走行中に周囲に存在する対象物を計測対象として繰り返し撮像する。
図1に示す例では、計測装置70による計測対象となる対象物は、トンネル4およびガードレール5などであるが、かかる例に限定されず、例えば、道路、看板、信号機、橋梁、またはその他の構造物などであってもよい。なお、計測車両2は、図1に示す例では走行路を走行する車両であり、道路を走行路として走行する自動車であるが、レールを走行路として走行する鉄道車両であってもよい。
計測装置70は、対象物を撮像した画像のデータを含む撮像画像データを生成する。計測装置70は、ネットワーク3を介して情報処理装置1との間でデータの送受信が可能であり、撮像画像データを含む計測データを情報処理装置1へ送信する。ネットワーク3は、例えば、インターネットなどのWAN(Wide Area Network)であるが、LAN(Local Area Network)であってもよく、その他のネットワークであってもよい。
図2は、実施の形態1にかかる計測車両が備える計測装置の構成の一例を示す図である。図2に示すように、計測車両2が備える計測装置70は、撮像装置71a,71b,71cと、位置姿勢速度検出部72と、処理部73と、通信部74とを備える。
撮像装置71a,71b,71cは、車両本体60の進行方向と直交する方向であってそれぞれ異なる向きに撮像方向を有している。図3は、実施の形態1にかかる計測装置における複数の撮像装置の配置の一例を示す図である。図3に示す例では、撮像装置71aの撮像方向は、左斜め上の方向であり、撮像装置71bの撮像方向は、上方向であり、撮像装置71cの撮像方向は、右斜め上の方向である。
図3に示す例では、複数の撮像装置71a,71b,71cによってトンネル4の内壁面が撮像される。撮像装置71a,71b,71cは、例えば、カラーラインセンサであり、車両本体60の走行時に内壁面4aのうち一部が重複する互いに異なる領域を繰り返し撮像する。以下において、撮像装置71a,71b,71cの各々を個別に区別せずに示す場合、撮像装置71と記載する場合がある。
撮像装置71は、撮像パラメータの設定変更により対象物に対する撮像条件の切り替えが行われる。撮像パラメータの設定変更の内容は、例えば、トンネル4の状態、時間帯、天気、および季節などの撮像環境の状態に応じて予め設定されるが、撮像パラメータは、撮像環境の状態に応じて自動的に設定変更が行われてもよい。撮像パラメータは、例えば、フォーカス、アイリス、ゲインコントロール、およびダイナミックレンジなどのうちの少なくとも1つである。
なお、撮像装置71は、カラーラインセンサに代えて、カラーエリアセンサであってもよく、モノクロセンサであってもよい。また、計測装置70に設けられる撮像装置71の数は、3つに限定されず、例えば、2つ以下であってもよく、4つ以上であってもよい。
図2に示す位置姿勢速度検出部72は、GPS(Global Positioning System)受信機と、慣性センサと、速度センサとを備えており、車両本体60の位置、姿勢、および速度を検出する。処理部73は、例えば、車両本体60の位置、姿勢、および速度に基づいて、複数の撮像装置71を制御して、複数の撮像装置71に対象物の撮像を繰り返し実行させる。
また、処理部73は、例えば、車両本体60の位置、姿勢、および速度に基づいて、各撮像装置71から繰り返し撮像された複数の画像を撮像装置71毎に車両本体60の走行方向で繋ぎ合わせた撮像画像のデータである撮像装置71毎の撮像画像データを生成する。
処理部73は、撮像装置71毎の撮像画像データを含む計測データを通信部74へ出力する。通信部74は無線によってネットワーク3に接続されており、処理部73から取得した計測データを情報処理装置1へネットワーク3を介して送信する。
情報処理装置1は、計測車両2から取得される計測データに基づいて、複数の撮像画像を車両本体60の走行方向と直交する方向で貼り合わせた貼り合わせ画像を生成し、生成した貼り合わせ画像に基づいて、対象物の変状箇所を検出する。変状箇所は、変状が発生している箇所である。変状は、例えば、対象物がトンネル4である場合、トンネル4の内壁面4aのひび割れ、剥離、汚れ、または漏れ水などである。
情報処理装置1は、検出した変状箇所を示す情報を貼り合わせ画像上に配置する処理を行って点検画像を生成し、生成した点検画像を表示したり印刷したりする。かかる点検画像によって、情報処理装置1の利用者は、点検作業者として、対象物の変状箇所を容易に把握することができ、また点検画像を帳票などに貼り付けることができる。
互いに異なる撮像条件で各々対応する撮像装置71から得られる複数の撮像画像は、互いに輝度差が生じている場合があり、これら複数の撮像画像をそのまま貼り合わせて貼り合わせ画像を生成した場合、貼り合わせ画像内での輝度ムラによって、貼り合わせ画像の視認性が悪くなる場合がある。また、複数の撮像画像のコントラストが悪い場合や輝度が低い場合などにおいても、貼り合わせ画像の視認性が悪くなる場合がある。
そこで、情報処理装置1は、貼り合わせ画像を生成する前に、複数の撮像画像の輝度を補正し、輝度を補正した複数の画像を貼り合わせて貼り合わせ画像を生成する。これにより、輝度を補正することなく複数の画像を貼り合わせた貼り合わせ画像に比べて、点検画像における貼り合わせ画像の視認性を向上させることができる。
貼り合わせ対象となる複数の撮像画像に対する輝度の補正のためのパラメータPを利用者が任意に設定したり、貼り合わせ対象となる各撮像画像のヒストグラム形状から自動的に輝度の補正を行ったりすると、輝度の補正処理を行わない場合に比べて、貼り合わせ画像から変状箇所を検出する検出精度が低下する可能性がある。例えば、輝度の補正によって貼り合わせ画像の変状箇所に白飛びまたは黒飛びが生じてしまい、変状箇所の検出ができなくなって、変状箇所を検出する検出精度が低下する可能性がある。
そこで、情報処理装置1は、輝度を補正した複数の撮像画像を貼り合わせた画像である貼り合わせ画像からの変状箇所の検出精度に基づいて、輝度を補正するためのパラメータPを決定する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPを適切に決定する。以下、情報処理装置1の構成について具体的に説明する。
図4は、実施の形態1にかかる情報処理装置の構成の一例を示す図である。図4に示すように、情報処理装置1は、通信部10と、入力部11と、表示部12と、記憶部13と、処理部14とを備える。
通信部10は、ネットワーク3に有線または無線によって通信可能に接続され、ネットワーク3を介して計測装置70、不図示のプリンタ、または端末装置などの外部装置との間で情報の送受信を行う。
入力部11は、例えば、マウスおよびキーボードなどを含むが、タッチパッドであってもよい。表示部12は、例えば、液晶ディスプレイ、有機EL(ElectroLuminescence)ディスプレイ、またはプロジェクターなどである。なお、図4に示す例では、入力部11と表示部12とが情報処理装置1に含まれるが、入力部11および表示部12は、情報処理装置1の外部装置として情報処理装置1に接続されてもよい。
記憶部13は、撮像画像データ記憶部20と、パラメータ候補記憶部21と、パラメータ記憶部22とを含む。撮像画像データ記憶部20は、計測装置70から送信される計測データに含まれる撮像装置71単位の撮像画像データを含む撮像画像データテーブルを記憶する。
図5は、実施の形態1にかかる撮像画像データ記憶部に記憶される撮像画像データテーブルの一例を示す図である。図5に示す撮像画像データテーブルは、「対象物ID(IDentifier)」、「撮像装置ID」、および「撮像画像データ」を撮像画像データ毎に含む。
「対象物ID」は、対象物毎に固有の識別情報である。「撮像装置ID」は、撮像装置71毎に固有の識別情報である。「撮像画像データ」は、撮像画像データまたは撮像画像データの格納位置を示す情報である。
図5に示す撮像画像データテーブルでは、対象物ID「M1」の対象物の撮像画像データとして、撮像装置ID「DE1」,「DE2」,「DE3」の撮像装置71a,71b,71cによって撮像された画像に基づいて生成された撮像画像データが撮像画像データIMD1,IMD2,IMD3であることが示されている。
図4に示すパラメータ候補記憶部21は、輝度の補正処理に用いられるパラメータPの候補となる複数のパラメータ候補を含むパラメータ候補テーブルを記憶する。図6は、実施の形態1にかかるパラメータ候補記憶部に記憶されるパラメータ候補テーブルの一例を示す図である。
図6に示すパラメータ候補テーブルは、「対象物ID」および「パラメータ候補」を含む。「対象物ID」は、図5に示す「対象物ID」と同じである。「パラメータ候補」は、輝度の補正処理に用いられるパラメータPの候補であるパラメータ候補の情報である。
図6に示すパラメータ候補テーブルでは、対象物ID「M1」の対象物に対するパラメータ候補として、パラメータ候補Pc1,Pc2,・・・,Pcnが含まれる。nは、例えば、4以上の整数である。また、対象物ID「M2」の対象物に対するパラメータ候補として、パラメータ候補Pc2などが含まれる。以下、パラメータ候補Pc1,Pc2,・・・,Pcnの各々を個別に区別せずに示す場合、パラメータ候補Pcと記載する場合がある。なお、パラメータ候補テーブルは、対象物IDに代えてまたは加えて、対象物の種類に固有の識別情報を含んでいてもよい。
図4に示すパラメータ記憶部22は、輝度の補正処理に用いられるパラメータPを含むパラメータテーブルを記憶する。図7は、実施の形態1にかかるパラメータ記憶部に記憶されるパラメータテーブルの一例を示す図である。
図7に示すパラメータテーブルは、「対象物ID」および「パラメータ」を含む。「対象物ID」は、図5に示す「対象物ID」と同じである。「パラメータ」は、輝度の補正処理に用いられるパラメータPの情報である。図7に示すパラメータテーブルでは、対象物ID「M1」の対象物に対するパラメータPとして、パラメータ候補Pc2が設定され、対象物ID「M2」の対象物に対するパラメータPとして、パラメータ候補Pcnが設定されている。なお、パラメータテーブルは、対象物IDに代えてまたは加えて、対象物の種類に固有の識別情報を含んでいてもよい。
図4に戻って、情報処理装置1の説明を続ける。図4に示す処理部14は、情報処理装置1の利用者による入力部11への入力操作によってパラメータ決定要求を受け付けた場合に、輝度の補正のパラメータPを決定するパラメータ決定処理を行う。図8は、実施の形態1にかかる情報処理装置の処理部によって実行されるパラメータ決定処理の一例を示す図である。
図8では、複数の撮像画像として、撮像画像A,B,Cを貼り合わせる例を示している。撮像画像Aは、例えば、上述した撮像画像データIMD1で表される撮像画像であり、撮像画像Bは、例えば、上述した撮像画像データIMD2で表される撮像画像であり、撮像画像Cは、例えば、上述した撮像画像データIMD3で表される撮像画像である。
処理部14は、輝度の補正に用いられるパラメータ候補Pc1,Pc2,・・・,Pcnに基づいて、撮像画像A,B,Cの各々の輝度を補正する輝度補正処理をパラメータ候補Pc単位で行う。これにより、例えば、パラメータ候補Pc1で輝度の補正を行った撮像画像A,B,C、パラメータ候補Pc2で輝度の補正を行った撮像画像A,B,C、パラメータ候補Pcnで輝度の補正を行った撮像画像A,B,Cなどが生成される。
次に、処理部14は、輝度の補正を行った撮像画像A,B,Cを貼り合わせた画像である貼り合わせ画像をパラメータ候補Pc単位で生成する貼り合わせ処理を行う。これにより、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnが生成される。
貼り合わせ画像ICPc1は、パラメータ候補Pc1で輝度の補正を行った撮像画像A,B,Cを貼り合わせた画像であり、貼り合わせ画像ICPc2は、パラメータ候補Pc2で輝度の補正を行った撮像画像A,B,Cを貼り合わせた画像である。また、貼り合わせ画像ICPcnは、パラメータ候補Pcnで輝度の補正を行った撮像画像A,B,Cを貼り合わせた画像である。以下において、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnの各々を個別に区別せずに示す場合、貼り合わせ画像ICPcと記載する場合がある。
次に、処理部14は、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnの各々から変状箇所を検出する変状検出処理を行う。これにより、処理部14は検出した結果である変状検出結果RSPc1,RSPc2,・・・,RSPcnを生成する。
変状検出結果RSPc1は、パラメータ候補Pc1を用いて得られる貼り合わせ画像ICPc1から検出された変状箇所のデータである変状データを含む。変状検出結果RS c2は、パラメータ候補Pc2を用いて得られる貼り合わせ画像ICPc2から検出された変状箇所のデータである変状データを含む。また、変状検出結果RSPcnは、パラメータ候補Pcnを用いて得られる貼り合わせ画像ICPcnから検出された変状箇所のデータである変状データを含む。以下において、変状検出結果RSPc1,RSPc2,・・・,RSPcnの各々を個別に区別せずに示す場合、変状検出結果RSPcと記載する場合がある。
次に、処理部14は、変状検出結果RSPc1,RSPc2,・・・,RSPcnに基づいて、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnに対する変状検出精度の評価値VRPc1,VRPc2,・・・,VRPcnを算出する検出結果評価処理を行う。
例えば、処理部14は、変状検出結果RSPc1に基づいて、貼り合わせ画像ICPc に対する変状検出精度の評価値VRPc1を算出し、変状検出結果RSPc2に基づいて、貼り合わせ画像ICPc2に対する変状検出精度の評価値VRPc2を算出する。また、処理部14は、変状検出結果RSPcnに基づいて、貼り合わせ画像ICPcnに対する変状検出精度の評価値VRPcnを算出する。以下において、評価値VRPc1,VRPc2,・・・,VRPcnの各々を個別に区別せずに示す場合、評価値VRPcと記載する場合がある。評価値VRPcは、変状検出精度が高いほど大きな値になる。
次に、処理部14は、評価値VRPc1,VRPc2,・・・,VRPcnに基づいて、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正するためのパラメータPを決定する。例えば、処理部14は、評価値VRPc1,VRPc2,・・・,VRPcnのうち最も大きい評価値VRPcに対応するパラメータ候補Pcを、輝度を補正するためのパラメータPとして決定するパラメータ決定処理を行う。
また、処理部14は、変状箇所の検出精度に加えて、貼り合わせ画像ICPcの視認性に基づいて、輝度を補正するためのパラメータPとして決定することもできる。処理部14は、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnの各々の視認性の評価値VVPc1,VVPc2,・・・,VVPcnを算出する。以下、評価値VVPc1,VVPc2,・・・,VVPcnの各々を個別に区別せずに示す場合、評価値VVPcと記載する場合がある。
評価値VVPcは、貼り合わせ画像ICPcのコントラストおよびエッジ強度などに基づいて算出される。例えば、処理部14は、コントラストが高いほど評価値VVPcを大きくし、エッジ強度が大きいほど評価値VVPcを大きくする。
処理部14は、評価値VRPcと評価値VVPcとを重み付けして加算した結果のうち最も大きい結果に対応するパラメータ候補PcをパラメータPとして決定する。例えば、処理部14は、評価値VRPc1と評価値VVPc1とを重み付けして加算した値を総合評価値VTPc1として算出し、評価値VRPc2と評価値VVPc2とを重み付けして加算した値を総合評価値VTPc2として算出する。
また、処理部14は、評価値VRPcnと評価値VVPcnとを重み付けして加算した値を総合評価値VTPcとして算出する。処理部14は、総合評価値VTPc1,VT c2,・・・,VTPcnのうち最も大きい評価値に対応するパラメータ候補PcをパラメータPとして決定する。以下、総合評価値VTPc1,VTPc2,・・・,VTPc の各々を個別に区別せずに示す場合、総合評価値VTPcと記載する場合がある。
処理部14は、総合評価値VTPcに基づいて、パラメータPを決定することで、変状箇所の検出精度に加えて、貼り合わせ画像ICPcの視認性に基づいて、輝度を補正するためのパラメータPを決定することができる。処理部14は、決定したパラメータPを用いて撮像画像A,B,Cの各々の輝度を補正し、輝度を補正した撮像画像A,B,Cを貼り合わせて貼り合わせ画像ICを生成する。
そして、処理部14は、貼り合わせ画像ICから変状箇所を検出し、貼り合わせ画像IC上に検出した変状箇所の情報を重畳した点検画像を生成する。これにより、処理部14は、貼り合わせ画像ICの視認性を向上させつつ、貼り合わせ画像ICからの変状箇所の検出精度の低下を抑制することができる。以下、処理部14の構成について具体的に説明する。
図4に示すように、情報処理装置1の処理部14は、入力受付部30と、データ取得部31と、輝度補正部32と、画像貼り合わせ部33と、変状検出部34と、パラメータ決定部35と、表示処理部36と、点検画像生成部37と、データ出力部38とを備える。
入力受付部30は、利用者による入力部11への入力操作を受け付ける。例えば、入力受付部30は、入力部11を介して利用者からのパラメータ決定要求を受け付ける。パラメータ決定要求には、例えば、パラメータ決定対象となる対象物の対象物IDなどの情報が含まれる。
また、入力受付部30は、入力部11を介して利用者からの点検画像生成要求を受け付ける。点検画像生成要求には、例えば、パラメータ決定対象となる対象物の対象物IDなどの情報が含まれる。また、入力受付部30は、入力部11を介して利用者からの出力要求を受け付ける。
データ取得部31は、通信部10を介して外部装置からデータを取得し、取得したデータを記憶部13に記憶させたり、処理部14が記憶部13に記憶されているデータを用いた処理を行う場合に記憶部13に記憶されているデータを取得したりする。
例えば、データ取得部31は、計測装置70からネットワーク3を介して通信部10で受信された計測データを通信部10から取得し、取得した計測データのうち撮像画像データを撮像画像データ記憶部20に記憶させる。
また、データ取得部31は、入力受付部30によってパラメータ決定要求が受け付けられた場合、パラメータ決定要求に含まれる対象物IDに関連付けられた複数の撮像画像データおよび複数のパラメータ候補Pcを記憶部13から取得する。入力受付部30によってパラメータ決定要求が受け付けられた場合、処理部14の動作モードがパラメータ決定モードになる。
なお、データ取得部31は、入力受付部30によってパラメータ決定要求が受け付けられた場合において、パラメータ決定要求に含まれる対象物IDの対象物の種類に関連付けられた複数のパラメータ候補Pcを記憶部13から取得することもできる。
また、データ取得部31は、入力受付部30によって点検画像生成要求が受け付けられた場合、点検画像生成要求に含まれる対象物IDに関連付けられた複数の撮像画像データおよびパラメータPを記憶部13から取得する。入力受付部30によって点検画像生成要求が受け付けられた場合、処理部14の動作モードが点検画像生成モードになる。データ取得部31は、パラメータ決定部35によって決定されたパラメータPをパラメータ決定部35から取得してパラメータ記憶部22に記憶させる。
輝度補正部32は、動作モードとしてパラメータ決定モードと点検画像生成モードとを有する。まず、動作モードがパラメータ決定モードである場合の輝度補正部32の動作について説明する。
輝度補正部32は、動作モードがパラメータ決定モードである場合、データ取得部31によって取得された複数の撮像画像データで表される複数の撮像画像の各々の輝度を、データ取得部31によって取得された複数のパラメータ候補Pcを用いて、パラメータ候補Pc単位で補正する。
輝度補正部32は、例えば、ガンマ補正によって複数の撮像画像の各々の輝度を補正する。輝度補正部32は、例えば、下記式(1)の演算によって、ガンマ補正を行う。下記式(1)において、「x」は、入力であり、「y」は、出力であり、「γ」は、補正のパラメータである。
f(x,y)=255×(x/255)1/γ・・・(1)
ガンマ補正の場合、パラメータ候補Pc1,Pc2,・・・,Pcnは、パラメータγに代入する値である。輝度補正部32は、パラメータ候補Pcを上記式(1)の「γ」に代入し、撮像画像の各画素の輝度値を入力xとすることで、複数の撮像画像の各々の輝度をパラメータ候補Pc単位で補正する。
図9は、実施の形態1にかかる情報処理装置の輝度補正部によって実行されるガンマ補正を説明するための図である。図9に示すように、パラメータγが1よりも小さい場合、入力xが大きくなるほど、出力yの増加率が大きくなり、パラメータγが1よりも大きい場合、入力xが大きくなるほど、出力yの増加率が小さくなる。
輝度補正部32は、局所的ヒストグラム平坦化法によって複数の撮像画像の各々の輝度をパラメータ候補Pc単位で補正することもできる。局所的ヒストグラム平坦化法は、撮像画像を分割し、それぞれの分割領域で輝度値の分布を修正することでコントラストを改善する方法である。
局所的ヒストグラム平坦化法の場合、パラメータ候補Pc1,Pc2,・・・,Pcnは、撮像画像の分割方法および分割領域の結合方法のうちの少なくとも一方を特定するパラメータである。
図10は、実施の形態1にかかる情報処理装置の輝度補正部によって実行される局所的ヒストグラム平坦化法を説明するための図である。図10に示すように、局所的ヒストグラム平坦化法では、撮像画像を分割し、それぞれの分割領域で輝度値の分布を修正することで、コントラストが改善される。
輝度補正部32は、ハイパスフィルタによって複数の撮像画像の各々の輝度をパラメータ候補Pc単位で補正することもできる。輝度補正部32は、例えば、撮像画像を離散フーリエ変換することで、撮像画像の周波数成分を抽出し、抽出した周波数成分のうち低周波成分のみを除去し、低周波成分のみを除去した撮像画像の周波数成分を逆フーリエ変換することで、輝度を補正した撮像画像を生成する。輝度補正部32では、低周波成分の除去によって画像の均一化またはエッジの抽出などが可能である。
ハイパスフィルタの場合、パラメータ候補Pc1,Pc2,・・・,Pcnは、撮像画像の周波数成分から除去する周波数帯を特定するパラメータである。図11は、実施の形態1にかかる情報処理装置の輝度補正部によって実行されるハイパスフィルタリングを説明するための図である。
図11に示す例では、パラメータ候補Pc1は、除去周波数帯fg1を特定するパラメータであり、パラメータ候補Pc2は、除去周波数帯fg2を特定するパラメータである。また、パラメータ候補Pc3は、除去周波数帯fg3を特定するパラメータであり、パラメータ候補Pc4は、除去周波数帯fg4を特定するパラメータである。除去周波数帯fg2は、除去周波数帯fg1よりも高く、除去周波数帯fg3は、除去周波数帯fg2よりも高く、除去周波数帯fg4は、除去周波数帯fg3よりも高い。
次に、動作モードが点検画像生成モードである場合の輝度補正部32の動作について説明する。輝度補正部32は、動作モードが点検画像生成モードである場合、データ取得部31によって取得された複数の撮像画像データで表される複数の撮像画像の各々の輝度をデータ取得部31によって取得されたパラメータPを用いて補正する。
例えば、輝度補正部32は、パラメータPを用いて、ガンマ補正、局所的ヒストグラム平坦化法、またはハイパスフィルタによって複数の撮像画像の各々の輝度を補正する。
なお、輝度補正部32による輝度の補正方法は、ガンマ補正、局所的ヒストグラム平坦化法、およびハイパスフィルタに限定されず、種々の輝度補正方法を適用することができ、また、独自に開発された輝度補正方法であってもよい。
輝度補正部32は、利用者による入力部11への入力操作で補正方法を変更したり、対象物の種類に応じて補正方法を変更したりすることができる。例えば、輝度補正部32は、対象物の種類に対応する補正方法を示す補正情報を有しており、かかる補正情報に基づいて、対象物毎の補正方法または対象物の種類に対応する補正方法で複数の撮像画像の各々の輝度を補正することができる。対象物の種類は、例えば、トンネル4、ガードレール5、道路、橋梁などといった構造物の種類である。また、輝度補正部32は、補正方法を撮像画像データが得られた時間帯、季節、天気などに基づいて変更することもできる。
次に、図4に示す画像貼り合わせ部33について説明する。画像貼り合わせ部33は、輝度補正部32によって輝度が補正された複数の撮像画像を貼り合わせた画像である貼り合わせ画像ICPc,ICを生成する。画像貼り合わせ部33は、動作モードとしてパラメータ決定モードと点検画像生成モードとを有する。まず、動作モードがパラメータ決定モードである場合の画像貼り合わせ部33の動作について説明する。
画像貼り合わせ部33は、動作モードがパラメータ決定モードである場合、パラメータ候補Pcを用いて輝度が補正された複数の撮像画像をパラメータ候補Pc単位で貼り合わせた画像である貼り合わせ画像ICPcを生成する。
例えば、図8に示す例では、画像貼り合わせ部33は、パラメータ候補Pc1,Pc2,・・・,Pcnで輝度が補正された複数の撮像画像A,B,Cをパラメータ候補Pc単位で貼り合わせた画像である貼り合わせ画像ICPc1,ICPc2,・・・,ICPc を生成する。
図12は、実施の形態1にかかる情報処理装置の画像貼り合わせ部による撮像画像貼り合わせ処理の一例を説明するための図である。図12に示す例では、画像貼り合わせ部33は、パラメータ候補Pcによって輝度が補正された複数の撮像画像A,B,Cが貼り合わせて貼り合わせ画像ICPcを生成する。図12に示す撮像画像A,B,Cは、トンネル4の内壁面4aの画像である。
画像貼り合わせ部33は、動作モードが点検画像生成モードである場合、パラメータPを用いて輝度補正部32によって輝度が補正された複数の撮像画像を貼り合わせた画像である貼り合わせ画像ICを生成する。
なお、画像貼り合わせ部33は、貼り合わせ画像ICPcまたは貼り合わせ画像ICを生成する処理において、撮像画像A,B間の重複部分および撮像画像B,C間の重複部分は削除する。
次に、図4に示す変状検出部34について説明する。変状検出部34は、貼り合わせ画像ICPc,ICから対象物の変状箇所を検出する学習モデルを用いて、対象物の変状箇所を検出する。学習モデルは、畳み込みニューラルネットワークまたは回帰型ニューラルネットワークなどのニューラルネットワークであり、深層学習(Deep Learning)によって生成される。変状検出部34の学習モデルは、例えば、セマンティックセグメンテーションを行う学習モデルである。
変状検出部34は、動作モードとしてパラメータ決定モードと点検画像生成モードとを有する。まず、動作モードがパラメータ決定モードである場合の変状検出部34の動作について説明する。
変状検出部34は、動作モードがパラメータ決定モードである場合、画像貼り合わせ部33によって生成された貼り合わせ画像ICPcを学習モデルに入力し、学習モデルから出力される各画素のクラスラベル毎のスコアに基づいて、変状箇所を検出する。
クラスラベルは、対象物がトンネル4である場合、例えば、ひび割れを示すクラスラベル、剥離を示すクラスラベル、汚れを示すクラスラベル、または漏れ水を示すクラスラベルなどである。画素におけるクラスラベルのスコアは、例えば、0~1の値であり、変状検出部34は、例えば、スコアが0.5以上のクラスラベルの画素がある場合、かかる画素が変状の画素であり、変状の種類が、スコアが0.5以上のクラスラベルに対応する変状であると判定する。
例えば、図8に示す例では、変状検出部34は、貼り合わせ画像ICPc1,ICPc ,・・・,ICPcnの各々から変状箇所を検出し、検出した結果である変状検出結果RSPc1,RSPc2,・・・,RSPcnを生成する。
変状検出部34は、動作モードが点検画像生成モードである場合、画像貼り合わせ部33によって生成された貼り合わせ画像ICを学習モデルに入力し、学習モデルから出力される各画素のクラスラベル毎のスコアに基づいて、変状箇所を検出する。
学習モデルは、セマンティックセグメンテーションを行う学習モデルに代えて、貼り合わせ画像ICPc,IC全体の属性をラベリングして生成される学習モデルであってもよい。また、学習モデルは、ニューラルネットワーク以外のネットワークモデルであってもよく、線形回帰またはロジスティック回帰などといった深層学習以外の機械学習によって生成される計算モデルであってもよい。
次に、図4に示すパラメータ決定部35について説明する。パラメータ決定部35は、動作モードがパラメータ決定モードである変状検出部34によって検出された変状箇所の検出精度に基づいて、パラメータPを決定する。
例えば、図8に示す例では、パラメータ決定部35は、変状検出結果RSPcに基づいて、貼り合わせ画像ICPcに対する変状検出精度の評価値VRPcをパラメータ候補Pc単位で算出する。そして、パラメータ決定部35は、パラメータ候補Pc単位の評価値VRPcに基づいて、パラメータPを決定する。これにより、パラメータ決定部35は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPを決定することができる。
また、パラメータ決定部35は、変状箇所の検出精度に加えて、貼り合わせ画像IC の視認性に基づいて、輝度を補正するためのパラメータPとして決定することもできる。パラメータ決定部35は、貼り合わせ画像ICPcの視認性の評価値VVPcをパラメータ候補Pc単位で算出する。
そして、パラメータ決定部35は、変状検出精度の評価値VRPcと視認性の評価値VVPcと基づいて、総合評価値VTPcをパラメータ候補Pc単位で算出し、算出したパラメータ候補Pc単位の総合評価値VTPcに基づいて、パラメータPを決定する。これにより、パラメータ決定部35は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータとしてパラメータPを精度よく決定することができる。
パラメータ決定部35は、図4に示すように、真値情報取得部40と、評価部41と、決定部42とを備える。真値情報取得部40は、貼り合わせ画像ICPcの画素毎に変状の有無を示す真値を含む真値情報を取得する。真値情報は、変状の種類が複数ある場合、変状の種類毎に変状の有無を示す真値を含む。
真値情報取得部40は、手動モードに設定されている場合、例えば、貼り合わせ画像ICPcを表示部12に表示させる処理を表示処理部36に実行させる。真値情報取得部40は、利用者から入力された真値情報が入力受付部30によって受け付けられた場合、データ取得部31を介して入力受付部30で受け付けられた真値情報を取得する。
また、真値情報取得部40は、自動モードに設定されている場合、輝度補正部32によって輝度補正が行われていない複数の撮像画像を貼り合わせた貼り合わせ画像を画像貼り合わせ部33に生成させる。そして、真値情報取得部40は、輝度補正が行われていない複数の撮像画像を貼り合わせた貼り合わせ画像から変状箇所を変状検出部34に検出させ、変状検出部34によって検出された変状箇所の情報から真値情報を取得する。
評価部41は、動作モードがパラメータ決定モードである変状検出部34によって検出された変状箇所の情報と真値情報取得部40によって取得された真値情報とに基づいて、貼り合わせ画像ICPcからの変状箇所の検出精度の評価値VRPcを算出する。
評価部41は、再現率、適合率、およびF値のうちの少なくとも1つを評価値VRPcとして算出したり、再現率、適合率、およびF値のうちの少なくとも2つを重み付けして加算した値を評価値VRPcとして算出したりすることができる。
ここで、再現率、適合率、およびF値について説明する。図13は、実施の形態1にかかる情報処理装置の評価部による再現率、適合率、およびF値の算出方法を説明するための図である。
図13に示す例では、変状検出部34によって変状であると検出された画素のうち実際に変状である画素の数をTP(True Positive)とし、変状検出部34によって変状であると検出された画素のうち実際には背景である画素の数をTN(True Negative)としている。
また、図13に示す例では、変状検出部34によって背景であると検出された画素のうち実際には変状である画素の数をFN(False Negative)とし、変状検出部34によって変状と検出された画素のうち背景である画素の数をFP(False Positive)としている。背景の画素は、変状以外を示す画素である。
なお、評価部41は、変状の種類が複数ある場合、例えば、同じ種類でない変状の画素は背景の画素として扱い、TP,TN,FN,FPを変状毎に算出して合算することで、TP,TN,FN,FPを算出する。
評価部41は、図13に示す式の演算によって再現率、適合率、およびF値のうちの少なくとも1つを評価値VRPcとして算出することができる。また、評価部41は、再現率、適合率、およびF値のうちの少なくとも2つを重み付けして加算した値を評価値VRPcとして算出することもできる。
また、評価部41は、変状検出部34の学習モデルから出力されるスコアと実際の画素の種別に対応する値との差を画素毎に算出し、算出した結果を合算した値を評価値VR とすることもできる。画素の種別に対応する値は、画素の種別が変状である場合、「1」であり、画素の種別が背景である場合、「0」である。
また、評価部41は、変状箇所の検出精度に加えて、貼り合わせ画像ICPcの視認性に基づいて、貼り合わせ画像ICPcの視認性の評価値VVPcを算出することもできる。評価値VVPcは、貼り合わせ画像ICPcのコントラストおよびエッジ強度などに基づいて算出される。例えば、評価部41は、コントラストが高いほど評価値VVPcを大きくし、エッジ強度が大きいほど評価値VVPcを大きくする。
図8に示す例では、評価部41は、貼り合わせ画像ICPc1,ICPc2,・・・,ICPcnの各々の視認性の評価値VVPc1,VVPc2,・・・,VVPcnを算出する。
そして、評価部41は、例えば、評価値VRPc1と評価値VVPc1とを重み付けして加算した値を総合評価値VTPc1として算出し、評価値VRPc2と評価値VVPc とを重み付けして加算した値を総合評価値VTPc2として算出する。また、評価部41は、評価値VRPcnと評価値VVPcnとを重み付けして加算した値を総合評価値VTPcnとして算出する。
図4に示す決定部42は、評価部41によって算出された複数の評価値VRPcまたは複数の評価値VVPcに基づいて、パラメータPを決定する。これにより、決定部42は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPを決定することができる。
例えば、決定部42は、評価部41によって算出された複数の評価値VRPcのうち最も大きい評価値VRPcに対応するパラメータ候補PcをパラメータPとして決定する。例えば、評価部41によって評価値VRPc1,VRPc2,・・・,VRPcnが算出され、評価値VRPc1,VRPc2,・・・,VRPcnのうち評価値VRPc2が最も大きいとする。この場合、決定部42は、評価値VRPc2に対応するパラメータ候補Pc2をパラメータPとして決定する。
また、決定部42は、評価部41によって算出された複数の総合評価値VTPcのうち最も大きい総合評価値VTPcに対応するパラメータ候補PcをパラメータPとして決定する。例えば、評価部41によって総合評価値VTPc1,VTPc2,・・・,VT cnが算出され、総合評価値VTPc1,VTPc2,・・・,VTPcnのうち総合評価値VTPcnが最も大きいとする。この場合、決定部42は、総合評価値VTPcnに対応するパラメータ候補PcnをパラメータPとして決定する。決定部42によって決定されたパラメータPは、上述したようにデータ取得部31によってパラメータ記憶部22に記憶される。
表示処理部36は、入力受付部30による受け付け結果に基づいて、記憶部13に記憶されている情報を表示部12に表示させたり、処理部14によって処理された情報を表示部12に表示させたりする。例えば、表示処理部36は、画像貼り合わせ部33によって生成された貼り合わせ画像ICPcを表示部12に表示させたり、点検画像生成部37によって生成された点検画像を表示部12に表示させたりする。
点検画像生成部37は、画像貼り合わせ部33によって生成された貼り合わせ画像ICと、貼り合わせ画像ICから変状検出部34によって検出された変状箇所の情報を重畳した点検画像を生成する。変状箇所の情報は、例えば、変状の形状を示す線図、または変状の箇所を囲む枠などである。
図14は、実施の形態1にかかる情報処理装置の点検画像生成部によって生成される点検画像の一例を示す図である。図14に示すように、点検画像生成部37によって生成される点検画像は、貼り合わせ画像IC上に、変状検出部34によって検出された変状を強調表示する情報が重畳される。なお、図14では、貼り合わせ画像ICを無地で示しているが、貼り合わせ画像ICは対象物の画像を含む。
変状の強調表示は、変状を示す線の太さまたは色などを貼り合わせ画像ICと区別可能な太さまたは色とすることによって行われる。点検画像生成部37は、例えば、変状の種類および対象物の種類によって強調表示の方法を変更することもできる。なお、点検画像生成部37は、変状箇所の情報が重畳されていない貼り合わせ画像ICを点検画像として出力することもできる。
図4に示すデータ出力部38は、入力受付部30によって利用者からの出力要求が受け付けられた場合、利用者の入力部11への入力操作に応じた情報または処理部14によって処理された情報を外部装置へ通信部10を介して出力する。
例えば、データ出力部38は、パラメータ決定部35によって決定されたパラメータP、および点検画像生成部37によって生成された撮像画像のデータなどを外部装置へ通信部10を介して出力する。
パラメータ決定部35によって決定されたパラメータPが送信される外部装置は、例えば、パラメータ決定部35、パラメータ決定モード、およびパラメータ候補記憶部21を有していない情報処理装置などである。かかる外部装置は、計測車両2の計測装置70などから複数の撮像画像データを取得し、取得した複数の撮像画像データで表される複数の撮像画像の各々の輝度の補正を行った後、これら複数の撮像画像を貼り合わせた貼り合わせ画像ICを生成する。そして、外部装置は、貼り合わせ画像ICから変状箇所を検出し、検出した変状箇所の情報を貼り合わせ画像ICに重畳した点検画像を生成する。
つづいて、フローチャートを用いて情報処理装置1の処理部14による処理を説明する。図15は、実施の形態1にかかる情報処理装置の処理部による処理の一例を示すフローチャートである。
図15に示すように、情報処理装置1の処理部14は、計測車両2の計測装置70などから出力される計測データを、通信部10を介して取得したか否かを判定する(ステップS10)。処理部14は、計測データを取得したと判定した場合(ステップS10:Yes)、計測データに含まれる撮像画像データを記憶部13に記憶させる(ステップS11)。
処理部14は、ステップS11の処理が終了した場合、または計測データを取得していないと判定した場合(ステップS10:No)、パラメータ決定タイミングになったか否かを判定する(ステップS12)。処理部14は、例えば、利用者からパラメータ決定要求がある場合、または撮像画像データが記憶部13に記憶された場合に、パラメータ決定タイミングになったと判定する。
処理部14は、パラメータ決定タイミングになったと判定した場合(ステップS12:Yes)、パラメータ決定処理を行う(ステップS13)。ステップS13の処理は、図16に示すステップS20~S26の処理であり、後で詳述する。
処理部14は、ステップS13の処理が終了した場合、またはパラメータ決定タイミングになっていないと判定した場合(ステップS12:No)、点検画像生成タイミングになったか否かを判定する(ステップS14)。処理部14は、例えば、利用者から点検画像生成要求がある場合、またはステップS13の処理によってパラメータPが決定された後、決定されたパラメータPに対応する対象物の撮像画像データが記憶部13に記憶された場合に点検画像生成タイミングになったと判定する。
処理部14は、点検画像生成タイミングになったと判定した場合(ステップS14:Yes)、点検画像生成処理を実行する(ステップS15)。ステップS15の処理は、図20に示すステップS60~S65の処理であり、後で詳述する。
処理部14は、ステップS15の処理が終了した場合、または点検画像生成タイミングになっていないと判定した場合(ステップS14:No)、出力要求があるか否かを判定する(ステップS16)。
処理部14は、出力要求があると判定した場合(ステップS16:Yes)、出力処理を行う(ステップS17)。ステップS17の出力処理において、処理部14は、例えば、ステップS13のパラメータ決定処理で決定したパラメータP、またはステップS15の点検画像生成処理で生成した点検画像のデータを外部装置へ通信部10を介して出力する。
処理部14は、ステップS17の処理が終了した場合、または出力要求がないと判定した場合(ステップS16:No)、動作終了のタイミングになったか否かを判定する(ステップS18)。処理部14は、例えば、情報処理装置1の不図示の電源がオフされたと判定した場合または入力部11への動作終了の操作が行われたと判定した場合に、動作終了のタイミングになったと判定する。
処理部14は、動作終了のタイミングになっていないと判定した場合(ステップS18:No)、処理をステップS10へ移行し、動作終了のタイミングになったと判定した場合(ステップS18:Yes)、図15に示す処理を終了する。
図16は、実施の形態1にかかる情報処理装置の処理部によるパラメータ決定処理の一例を示すフローチャートである。図16に示すように、処理部14は、パラメータ決定処理の対象となる対象物の複数の撮像画像データを記憶部13から取得する(ステップS20)。
また、処理部14は、パラメータ決定処理の対象となる対象物の種類または対象物に対応する複数のパラメータ候補Pcを記憶部13から取得する(ステップS21)。そして、処理部14は、各パラメータ候補Pcを用いて、複数の撮像画像データで表される複数の撮像画像の輝度を補正する(ステップS22)。
次に、処理部14は、ステップS22で輝度を補正した複数の撮像画像をパラメータ候補Pc単位で貼り合わせて、貼り合わせ画像ICPcをパラメータ候補Pc単位で生成する(ステップS23)。
次に、処理部14は、貼り合わせ画像ICPcからパラメータ候補Pc単位で変状箇所を検出する(ステップS24)。そして、処理部14は、変状検出精度評価処理を実行する(ステップS25)。ステップS25の処理は、図17に示すステップS30~S32の処理であり、後で詳述する。
次に、処理部14は、変状検出精度評価処理で算出されたパラメータ候補Pc単位の評価値VRPcまたは総合評価値VTPcに基づいて、輝度補正処理に用いるパラメータPを決定し(ステップS26)、図16に示す処理を終了する。
図17は、実施の形態1にかかる情報処理装置の処理部による変状検出精度評価処理の一例を示すフローチャートである。図17に示すように、処理部14は、輝度補正処理が手動モードに設定されているか否かを判定する(ステップS30)。
処理部14は、輝度補正処理が手動モードに設定されていると判定した場合(ステップS30:Yes)、手動モード処理を実行する(ステップS31)。ステップS31の処理は、図18に示すステップS40~S43の処理であり、後で詳述する。
また、処理部14は、輝度補正処理が手動モードではなく自動モードに設定されていると判定した場合(ステップS30:No)、自動モード処理を実行する(ステップS32)。ステップS32の処理は、図19に示すステップS50~S56の処理であり、後で詳述する。
処理部14は、ステップS31の処理が終了した場合、またはステップS32の処理が終了した場合、図17に示す処理を終了する。
図18は、実施の形態1にかかる情報処理装置の処理部による手動モード処理の一例を示すフローチャートである。図18に示すように、処理部14は、利用者からの変状箇所の真値を受け付ける(ステップS40)。
次に、処理部14は、ステップS24での検出結果とステップS40で受け付けた真値とを画素毎に比較する処理をパラメータ候補Pc単位で行い、検出精度の評価値VRPcをパラメータ候補Pc単位で算出する(ステップS41)。
次に、処理部14は、貼り合わせ画像ICPcの視認性の評価値VVPcをパラメータ候補Pc単位で算出する(ステップS42)。そして、処理部14は、検出精度の評価値VRPcと視認性の評価値VVPcとに基づいて、パラメータ候補Pc単位で総合評価値VTPcを算出し(ステップS43)、図18に示す処理を終了する。
図19は、実施の形態1にかかる情報処理装置の処理部による自動モード処理の一例を示すフローチャートである。図19に示すように、処理部14は、ステップS20で取得した複数の撮像画像データと同じ複数の撮像画像データを記憶部13から取得する(ステップS50)。
次に、処理部14は、ステップS50で取得した複数の撮像画像データで表される複数の撮像画像を輝度補正なしで貼り合わせた貼り合わせ画像を生成する(ステップS51)。そして、処理部14は、ステップS51で生成した貼り合わせ画像から変状箇所を検出する(ステップS52)。
次に、処理部14は、ステップS52での変状箇所の検出結果から真値の情報を取得する(ステップS53)。処理部14は、ステップS24で検出した結果である検出結果とステップS53で取得した真値とを画素毎に比較する処理をパラメータ候補Pc単位で行い、検出精度の評価値VRPcをパラメータ候補Pc単位で算出する(ステップS54)。
次に、処理部14は、貼り合わせ画像ICPcの視認性の評価値VVPcをパラメータ候補Pc単位で算出する(ステップS55)。そして、処理部14は、検出精度の評価値VRPcと視認性の評価値VVPcとに基づいて、パラメータ候補Pc単位で総合評価値VTPcを算出し(ステップS56)、図19に示す処理を終了する。
図20は、実施の形態1にかかる情報処理装置の処理部による点検画像生成処理の一例を示すフローチャートである。図20に示すように、処理部14は、点検画像生成処理の対象となる対象物の複数の撮像画像データを記憶部13から取得する(ステップS60)。
次に、処理部14は、点検画像生成処理の対象となる対象物の種類または対象物のパラメータPを記憶部13から取得する(ステップS61)。処理部14は、ステップS61で取得したパラメータPを用いて、ステップS60で取得した複数の撮像画像データで表される複数の撮像画像の輝度を補正する(ステップS62)。
次に、処理部14は、輝度を補正した複数の撮像画像を貼り合わせて貼り合わせ画像ICを生成する(ステップS63)。そして、処理部14は、ステップS63で生成した貼り合わせ画像ICから変状箇所を検出する(ステップS64)。
次に、処理部14は、ステップS63で生成した貼り合わせ画像IC上にステップS64で検出した変状箇所の情報を重畳した点検画像を生成し(ステップS65)、図20に示す処理を終了する。
図21は、実施の形態1にかかる情報処理装置のハードウェア構成の一例を示す図である。図21に示すように、情報処理装置1は、プロセッサ101と、メモリ102と、通信装置103と、入力装置104と、表示装置105と、バス106とを備えるコンピュータを含む。
プロセッサ101、メモリ102、通信装置103、入力装置104、および表示装置105は、例えば、バス106によって互いに情報の送受信が可能である。記憶部13は、メモリ102によって実現される。通信部10は、通信装置103で実現される。入力部11は、入力装置104によって実現される。表示部12は、表示装置105によって実現される。
プロセッサ101は、記録媒体ドライブにセットされた記録媒体から情報処理プログラムを読み出し、読み出した情報処理プログラムをメモリ102にインストールする。記録媒体ドライブは、例えば、CD(Compact Disc)-ROMドライブ、DVD(Digital Versatile Disc)-ROMドライブ、またはUSBドライブであり、記録媒体は、例えば、CD-ROM、DVD-ROM、または不揮発性の半導体メモリなどである。
プロセッサ101は、メモリ102に記憶されたプログラムを読み出して実行することによって、処理部14の機能を実行する。プロセッサ101は、例えば、処理回路の一例であり、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、およびシステムLSI(Large Scale Integration)のうち1つ以上を含む。
メモリ102は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、およびEEPROM(登録商標)(Electrically Erasable Programmable Read Only Memory)のうち1つ以上を含む。なお、情報処理装置1は、ASIC(Application Specific Integrated Circuit)およびFPGA(Field Programmable Gate Array)などの集積回路を含んでいてもよい。
なお、情報処理装置1は、クライアント装置で構成されてもよく、サーバ装置で構成されてもよく、クライアント装置とサーバ装置とで構成されてもよい。情報処理装置1が2以上の装置で構成される場合、2以上の装置の各々は、例えば、図21に示すハードウェア構成を有する。なお、2以上の装置間の通信は、通信装置103を介して行われる。また、情報処理装置1は、2以上のサーバ装置で構成されてもよい。例えば、情報処理装置1は、処理サーバと、データサーバとで構成されてもよい。
また、パラメータ決定部35は、貼り合わされる複数の撮像画像の各々に対して個別にパラメータPを決定することもできる。この場合、輝度補正部32において、貼り合わされる複数の撮像画像の各々に対して異なるパラメータ候補Pcの組み合わせで輝度が補正される。
以上のように、実施の形態1にかかる情報処理装置1は、データ取得部31と、輝度補正部32と、画像貼り合わせ部33と、変状検出部34と、パラメータ決定部35とを備える。データ取得部31は、複数の撮像装置71a,71b,71cで対象物を撮像して得られる複数の画像のデータを取得する。輝度補正部32は、複数の画像の各々の輝度を補正する。画像貼り合わせ部33は、輝度補正部32によって輝度の補正が行われた複数の画像を貼り合わせた画像である貼り合わせ画像ICPcを生成する。変状検出部34は、貼り合わせ画像ICPcから対象物の変状箇所を検出する学習モデルを用いて、対象物の変状箇所を検出する。パラメータ決定部35は、変状検出部34による変状箇所の検出精度に基づいて、輝度の補正に用いられるパラメータPを決定する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPを適切に決定することができる。
また、輝度補正部32は、複数の画像の各々の輝度を複数のパラメータ候補Pcの各々を用いて補正する。画像貼り合わせ部33は、輝度補正部32によってパラメータ候補Pc単位で輝度が補正された複数の画像をパラメータ候補Pc単位で貼り合わせた画像である貼り合わせ画像ICPcを生成する。変状検出部34は、パラメータ候補Pc単位の貼り合わせ画像ICPcから対象物の変状箇所をパラメータ候補Pc単位で検出する。パラメータ決定部35は、変状検出部34によるパラメータ候補Pc単位の変状箇所の検出精度に基づいて、複数のパラメータ候補Pcの中から選択したパラメータ候補PcをパラメータPとして決定する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPをより適切に決定することができる。
また、パラメータ決定部35は、評価部41と、決定部42とを備える。評価部41は、変状検出部34によるパラメータ候補Pc単位の変状箇所の検出精度の評価値VRPcを算出する。決定部42は、評価部41によって算出された評価値VRPcに基づいて、複数のパラメータ候補Pcの中からパラメータPとして用いられるパラメータ候補Pcを決定する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPをより適切に決定することができる。
また、評価部41は、パラメータ候補Pc単位の貼り合わせ画像ICの視認性の評価値VVPcをさらに算出し、検出精度の評価値VRPcと視認性の評価値VVPcとに基づく総合評価値VTPcをパラメータ候補Pc単位で算出する。決定部42は、評価部41によって評価された総合評価値VTPcに基づいて、複数のパラメータ候補Pcの中からパラメータPとするパラメータ候補Pcを決定する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができるパラメータPをより適切に決定することができる。
また、輝度補正部32は、複数の撮像装置71a,71b,71cで対象物を撮像して得られる複数の画像の各々の輝度をパラメータ決定部35によって決定されたパラメータPを用いて補正する。画像貼り合わせ部33は、輝度補正部32によってパラメータPで輝度が補正された複数の画像を貼り合わせた画像である貼り合わせ画像ICを生成する。変状検出部34は、パラメータPで輝度が補正された貼り合わせ画像ICから対象物の変状箇所を検出する。これにより、情報処理装置1は、対象物の変状箇所の検出精度の低下を抑制しつつ輝度を補正することができる。
以上の実施の形態に示した構成は、一例を示すものであり、別の公知の技術と組み合わせることも可能であるし、要旨を逸脱しない範囲で、構成の一部を省略、変更することも可能である。
1 情報処理装置、2 計測車両、3 ネットワーク、4 トンネル、4a 内壁面、5 ガードレール、10,74 通信部、11 入力部、12 表示部、13 記憶部、14,73 処理部、20 撮像画像データ記憶部、21 パラメータ候補記憶部、22
パラメータ記憶部、30 入力受付部、31 データ取得部、32 輝度補正部、33
画像貼り合わせ部、34 変状検出部、35 パラメータ決定部、36 表示処理部、37 点検画像生成部、38 データ出力部、40 真値情報取得部、41 評価部、42 決定部、60 車両本体、70 計測装置、71,71a,71b,71c 撮像装置、72 位置姿勢速度検出部、100 計測処理システム、101 プロセッサ、102 メモリ、103 通信装置、104 入力装置、105 表示装置、106 バス。

Claims (7)

  1. 複数の撮像装置で対象物を撮像して得られる複数の画像のデータを取得するデータ取得部と、
    前記複数の画像の各々の輝度を補正する輝度補正部と、
    前記輝度補正部によって輝度の補正が行われた前記複数の画像を貼り合わせた画像である貼り合わせ画像を生成する画像貼り合わせ部と、
    前記貼り合わせ画像から前記対象物の変状箇所を検出する学習モデルを用いて、前記対象物の変状箇所を検出する変状検出部と、
    前記変状検出部による前記変状箇所の検出精度に基づいて、前記輝度の補正に用いられるパラメータを決定するパラメータ決定部と、を備える
    ことを特徴とする情報処理装置。
  2. 前記輝度補正部は、
    前記複数の画像の各々の輝度を複数のパラメータ候補の各々を用いて補正し、
    前記画像貼り合わせ部は、
    前記輝度補正部によって前記パラメータ候補単位で輝度が補正された前記複数の画像を前記パラメータ候補単位で貼り合わせた画像である貼り合わせ画像を生成し、
    前記変状検出部は、
    前記パラメータ候補単位の前記貼り合わせ画像から前記対象物の変状箇所を前記パラメータ候補単位で検出し、
    前記パラメータ決定部は、
    前記変状検出部による前記パラメータ候補単位の前記変状箇所の検出精度に基づいて、前記複数のパラメータ候補の中から選択したパラメータ候補を前記パラメータとして決定する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記パラメータ決定部は、
    前記変状検出部による前記パラメータ候補単位の前記変状箇所の検出精度の評価値を算出する評価部と、
    前記評価部によって算出された前記評価値に基づいて、前記複数のパラメータ候補の中から前記パラメータとして用いられるパラメータ候補を決定する決定部と、を備える
    ことを特徴とする請求項2に記載の情報処理装置。
  4. 前記評価部は、
    前記パラメータ候補単位の前記貼り合わせ画像の視認性の評価値をさらに算出し、前記検出精度の評価値と前記視認性の評価値とに基づく総合評価値を前記パラメータ候補単位で算出し、
    前記決定部は、
    前記評価部によって評価された前記総合評価値に基づいて、前記複数のパラメータ候補の中から前記パラメータとするパラメータ候補を決定する
    ことを特徴とする請求項3に記載の情報処理装置。
  5. 前記輝度補正部は、
    前記複数の撮像装置で対象物を撮像して得られる複数の画像の各々の輝度を前記パラメータ決定部によって決定された前記パラメータを用いて補正し、
    前記画像貼り合わせ部は、
    前記輝度補正部によって前記パラメータで前記輝度が補正された前記複数の画像を貼り合わせた画像である貼り合わせ画像を生成し、
    前記変状検出部は、
    前記パラメータで前記輝度が補正された前記貼り合わせ画像から前記対象物の変状箇所を検出する
    ことを特徴とする請求項1から4のいずれか1つに記載の情報処理装置。
  6. コンピュータが実行する情報処理方法であって、
    複数の撮像装置で対象物を撮像して得られる複数の画像のデータを取得するデータ取得ステップと、
    前記複数の画像の各々の輝度を補正する輝度補正ステップと、
    前記輝度補正ステップによって輝度の補正が行われた前記複数の画像を貼り合わせた画像である貼り合わせ画像を生成する画像貼り合わせステップと、
    前記貼り合わせ画像から前記対象物の変状箇所を検出する学習モデルを用いて、前記対象物の変状箇所を検出する変状検出ステップと、
    前記変状検出ステップによる前記変状箇所の検出精度に基づいて、前記輝度の補正に用いられるパラメータを決定するパラメータ決定ステップと、を含む
    ことを特徴とする情報処理方法。
  7. 複数の撮像装置で対象物を撮像して得られる複数の画像のデータを取得するデータ取得ステップと、
    前記複数の画像の各々の輝度を補正する輝度補正ステップと、
    前記輝度補正ステップによって輝度の補正が行われた前記複数の画像を貼り合わせた画像である貼り合わせ画像を生成する画像貼り合わせステップと、
    前記貼り合わせ画像から前記対象物の変状箇所を検出する学習モデルを用いて、前記対象物の変状箇所を検出する変状検出ステップと、
    前記変状検出ステップによる前記変状箇所の検出精度に基づいて、前記輝度の補正に用いられるパラメータを決定するパラメータ決定ステップと、をコンピュータに実行させる
    ことを特徴とする情報処理プログラム。
JP2022510220A 2021-11-10 2021-11-10 情報処理装置、情報処理方法、および情報処理プログラム Active JP7066082B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/041367 WO2023084644A1 (ja) 2021-11-10 2021-11-10 情報処理装置、情報処理方法、および情報処理プログラム

Publications (2)

Publication Number Publication Date
JP7066082B1 true JP7066082B1 (ja) 2022-05-12
JPWO2023084644A1 JPWO2023084644A1 (ja) 2023-05-19

Family

ID=81584938

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022510220A Active JP7066082B1 (ja) 2021-11-10 2021-11-10 情報処理装置、情報処理方法、および情報処理プログラム

Country Status (2)

Country Link
JP (1) JP7066082B1 (ja)
WO (1) WO2023084644A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11242737A (ja) * 1998-02-26 1999-09-07 Ricoh Co Ltd 画像処理方法及び装置並びに情報記録媒体
JP2002310920A (ja) * 2001-04-19 2002-10-23 Keisoku Kensa Kk コンクリート壁のひび割れ検出方法およびその装置
JP2010038881A (ja) * 2008-08-08 2010-02-18 Nikon Corp 画像処理装置、画像処理方法およびプログラム
JP2010081090A (ja) * 2008-09-24 2010-04-08 Olympus Corp 画像処理装置及び画像処理プログラム
JP2017049311A (ja) * 2015-08-31 2017-03-09 沖電気工業株式会社 情報処理装置、情報処理方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11242737A (ja) * 1998-02-26 1999-09-07 Ricoh Co Ltd 画像処理方法及び装置並びに情報記録媒体
JP2002310920A (ja) * 2001-04-19 2002-10-23 Keisoku Kensa Kk コンクリート壁のひび割れ検出方法およびその装置
JP2010038881A (ja) * 2008-08-08 2010-02-18 Nikon Corp 画像処理装置、画像処理方法およびプログラム
JP2010081090A (ja) * 2008-09-24 2010-04-08 Olympus Corp 画像処理装置及び画像処理プログラム
JP2017049311A (ja) * 2015-08-31 2017-03-09 沖電気工業株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
WO2023084644A1 (ja) 2023-05-19
JPWO2023084644A1 (ja) 2023-05-19

Similar Documents

Publication Publication Date Title
WO2020253827A1 (zh) 评估图像采集精度的方法及装置、电子设备和存储介质
CN106920245B (zh) 一种边界检测的方法及装置
KR102015706B1 (ko) 콘크리트 표면 균열 측정 장치 및 방법
CN103868471B (zh) 三维形状测量装置及其控制方法
JP2012002531A (ja) ひび割れ検出方法
JP6875836B2 (ja) ワイヤロープ計測装置及び方法
JP2006276454A (ja) 画像補正方法、およびこれを用いたパターン欠陥検査方法
JP2010014503A (ja) 画像検査処理装置、画像検査処理方法、プログラム、及び、記録媒体
JP7066082B1 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP2015215199A (ja) 自発光材料画像処理装置及び自発光材料画像処理方法
JP4074624B2 (ja) パターン検査方法
US20200348166A1 (en) Vibration measurement apparatus, vibration measurement method, and computer-readable recording medium
KR101692159B1 (ko) 에지 위치 검출 장치 및 에지 위치 검출 방법
JP5294891B2 (ja) 凹凸文字抽出のための画像処理方法
KR101793091B1 (ko) 불량화소의 검출방법 및 검출장치
JP5087165B1 (ja) 表面検査装置を調整するためのデータを出力する調整装置、調整データ出力方法及びプログラム
JP4530723B2 (ja) パターンマッチング方法、パターンマッチング装置、および電子部品実装方法
JP4380371B2 (ja) 半導体装置等の実装基板のバンプ像を抽出する方法、バンプ像の検査方法、それらの方法のプログラム、そのプログラムを記録した記録媒体及びバンプの検査装置
JP7017966B2 (ja) 解析装置、解析方法、プログラム、及び記憶媒体
CN112334732B (zh) 预测装置及预测方法
JP2000121333A (ja) 外観検査装置及び外観検査方法
JP2006038543A (ja) テンプレートヒストグラム生成方法およびパターン検査装置
JPH07220076A (ja) 画像処理装置
JP4121628B2 (ja) 画面検査方法及びその装置
JP2002250625A (ja) レーザ墨出し器の光線評価方法及びその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220216

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220426

R150 Certificate of patent or registration of utility model

Ref document number: 7066082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150