以下に、実施の形態にかかる画像処理装置、画像処理方法、および画像処理プログラムを図面に基づいて詳細に説明する。
実施の形態1.
図1は、実施の形態1にかかる画像処理装置によって実行される画像処理方法の一例を示す図である。図1に示す画像処理装置1は、構造物の画像から構造物に生じている特定種類の変状を検出対象として検出する。かかる画像処理装置1は、機械学習によって生成された検出モデルを用いて、構造物の画像のうち検出対象の変状を検出しない領域である非検出領域を検出し、検出した非検出領域をマスキングする。そして、画像処理装置1は、非検出領域をマスキングした構造物の画像から特定種類の変状を検出対象として検出する。
画像処理装置1によって処理される構造物の画像は、例えば、トンネルの内壁面の展開画像、橋梁の表面の画像、道路の表面の画像、または建物の表面の画像である。なお、画像処理装置1によって画像が処理される構造物は、トンネル、橋梁、道路、および建物以外の構造物であってもよい。以下においては、画像処理装置1によって処理される構造物の画像は、トンネルの内壁面の画像であるものとして説明する。
また、画像処理装置1によって検出対象として検出される特定種類の変状は、ひび割れであるが、ひび割れに加え、漏れ水などを含んでいてもよい。また、マスキングされる非検出領域は、例えば、照明の領域、ボルトの領域、ケーブルの領域、遊離石灰の領域、汚れがある領域、型枠痕の領域、または補修痕の領域である。以下、照明、ボルト、ケーブル、遊離石灰、汚れ、型枠痕、および補修痕の各々を非検出対象と記載する場合がある。
図1を参照して、画像処理装置1によって実行される画像処理方法を説明する。図1に示すように、画像処理装置1には、構造物の画像の情報が入力される。かかる構造物の画像は、トンネルの内壁の表面を2次元平面に展開したと仮定した場合におけるトンネルの内壁面の展開画像である。かかるトンネルの内壁面の展開画像は、例えば、複数のカメラを搭載する計測車両がトンネル内を走行している状態で複数のカメラの各々によって複数回撮像された画像を貼り合わせることで得られる画像である。図1に示すトンネルの展開画像には、補修痕、照明、およびひび割れの画像が含まれる。トンネルの展開画像は、輝度で表されるモノクロ画像であるが、カラー画像であってもよい。
画像処理装置1は、構造物の画像に対して検出処理を行う。かかる検出処理は、マスキングされる非検出対象の領域を検出するための処理であり、機械学習によって生成される検出モデルを用いて実行される処理である。検出モデルは、機械学習によって生成され且つ画像から非検出対象の領域を検出する計算モデルであり、構造物の画像が入力されると、非検出対象の領域の情報を出力する。なお、構造物の画像に非検出対象の領域が含まれない場合、検出モデルの出力には、非検出対象の領域がないことを示す情報が含まれる。かかる検出モデルは、例えば、ディープラーニングによって生成される。
画像処理装置1は、非検出対象の種類毎に生成された検出モデルを用いて、非検出対象の領域を検出する。例えば、画像処理装置1は、照明を検出するための検出モデルを用いて照明の領域を検出し、ボルトを検出するための検出モデルを用いてボルトの領域を検出し、ケーブルを検出するための検出モデルを用いてケーブルの領域を検出する。また、画像処理装置1は、遊離石灰を検出するための検出モデルを用いて遊離石灰の領域を検出し、汚れを検出するための検出モデルを用いて汚れの領域を検出し、型枠痕を検出するための検出モデルを用いて型枠痕の領域を検出する。
また、画像処理装置1は、補修痕を検出するための検出モデルを用いて補修痕の領域を検出する。なお、画像処理装置1は、全ての非検出対象に共通の検出モデルを用いて各非検出対象を検出する構成であってもよく、2以上の非検出対象に共通の検出モデルを用いて非検出対象を検出する構成であってもよい。
画像処理装置1は、検出処理によって非検出対象の領域を検出した後、構造物の画像のうち非検出対象の領域を非検出領域としてマスキングする。画像処理装置1によるマスキングは、例えば、構造物の画像のうち非検出対象の領域を予め設定された画像に置き換えることによって行う。予め設定された画像は、例えば、黒画像または白画像などの単色の画像である。なお、予め設定された画像は、検出対象の変状が検出されない画像であればよく、単色の画像に限定されない。また、画像処理装置1によるマスキングは、構造物の画像のうち非検出対象の領域を示す情報を構造物の画像の情報に関連付けることによって行うこともできる。
画像処理装置1は、マスキングを施した構造物の画像から特定種類の変状を検出する変状検出処理を行う。画像処理装置1は、非検出対象の領域を示す情報を構造物の画像の情報に関連付けている場合、非検出対象の領域を示す情報に基づいて、非検出対象の領域以外の領域に対して特定種類の変状を検出する処理を行う。
このように、画像処理装置1は、機械学習によって生成される検出モデルを用いて構造物の画像のうち非検出対象の領域を検出する。そのため、画像処理装置1は、しきい値または数値範囲の調整を行うことなく、非検出対象の領域をマスキングすることができ、特定種類の変状を精度よく検出することができる。以下、画像処理装置1についてさらに詳細に説明する。
図2は、実施の形態1にかかる画像処理装置の構成の一例を示す図である。図2に示すように、実施の形態1にかかる画像処理装置1は、通信部10と、入力部11と、記憶部12と、処理部13とを備える。
通信部10は、例えば、LAN(Local Area Network)またはWAN(Wide Area Network)などのネットワークに接続され、外部装置とネットワークを介して情報の送受信を行う。入力部11は、例えば、マウス、キーボード、またはタッチパネルであり、画像処理装置1のユーザによって操作される。
記憶部12は、画像情報記憶領域20と、非検出対象情報記憶領域21と、変状情報記憶領域22と、学習用情報記憶領域23とを含む。画像情報記憶領域20には、通信部10を介して外部装置から処理部13によって取得された構造物の画像である構造物画像の情報が記憶される。
図3は、実施の形態1にかかる構造物画像の一例を示す図である。図3に示す構造物画像2には、ひび割れ31,32,33,34,35の画像と、照明41,42,43,44,45,46,47,48の画像と、ボルト51,52の画像と、ケーブル6の画像と、遊離石灰7の画像と、汚れ8の画像と、補修痕91,92,93,94,95の画像とが含まれる。なお、図3には示していないが、構造物画像2には、型枠痕も含まれる。
以下、ひび割れ31,32,33,34,35の各々を個別に区別せずに示す場合、ひび割れ3と記載する場合がある。また、照明41,42,43,44,45,46,47,48の各々を個別に区別せずに示す場合、照明4と記載する場合がある。また、ボルト51,52の各々を個別に区別せずに示す場合、ボルト5と記載する場合がある。また、補修痕91,92,93,94,95の各々を個別に区別せずに示す場合、補修痕9と記載する場合がある。
図2に戻って、記憶部12の説明を続ける。非検出対象情報記憶領域21には、処理部13によって構造物画像2から検出された非検出対象の情報である非検出対象情報が記憶される。変状情報記憶領域22には、処理部13によって構造物画像2から検出された特定種類の変状の情報である変状情報が記憶される。学習用情報記憶領域23には、構造物画像2のうち非検出対象の領域を検出する検出モデルを生成するための学習用情報が記憶される。
学習用情報は、非検出対象の複数の画像と非検出対象以外の複数の画像とを非検出対象毎に含む。例えば、学習用情報は、照明4を検出するための検出モデルを生成するための情報として、照明4の複数の画像と照明4以外の複数の画像とを含む。また、学習用情報は、補修痕9を検出するための検出モデルを生成するための情報として、補修痕9の複数の画像と補修痕9以外の複数の画像とを含む。
非検出対象の画像は、例えば非検出対象を囲みつつ非検出対象に外接する矩形である外接矩形で囲まれる領域の画像である。なお、非検出対象の画像は、外接矩形で囲まれる領域の画像でなくてもよく、例えば、矩形以外の枠で囲まれる領域の画像であってもよい。
また、各非検出対象の学習用情報には、トンネルの内壁面の色、トンネルの工法の種類、およびトンネルの内壁に設けられるパネルの有無の各々について、非検出対象の複数の画像の情報と非検出対象以外の複数の画像の情報とが含まれる。
処理部13は、取得部30と、学習部31と、情報受付部32と、非検出対象検出部33と、マスキング部34と、変状検出部35とを備える。取得部30は、不図示の外部装置から送信され通信部10で受信された情報を通信部10から取得し、取得した情報を記憶部12に記憶させる。
例えば、取得部30は、不図示の外部装置から送信され通信部10で受信された構造物画像2の情報を通信部10から取得し、取得した構造物画像2の情報を画像情報記憶領域20に記憶させる。また、取得部30は、不図示の外部装置から送信され通信部10で受信された学習用情報を通信部10から取得し、取得した学習用情報を学習用情報記憶領域23に記憶させる。
学習部31は、記憶部12の学習用情報記憶領域23から学習用情報を読み出し、読み出した学習用情報に基づいて、各非検出対象を検出する検出モデルを、構造物の表面色、構造物の工法、および構造物におけるパネルの有無の各々について生成する。以下、構造物がトンネルであるものとして説明する。
非検出対象は、照明4、ボルト5、ケーブル6、遊離石灰7、汚れ8、型枠痕、または補修痕9であるが、これら以外の対象を非検出対象としてもよく、これらの一部を非検出対象としてもよい。トンネルは、金網または充填剤で補修される。トンネルが金網で補修される場合、補修痕9は金網であり、トンネルが充填剤で補修される場合、補修痕9は充填剤である。
学習部31は、照明4、ボルト5、ケーブル6、遊離石灰7、汚れ8、型枠痕、または補修痕9の各々の検出モデルを、トンネルの内壁面の色、トンネルの工法の種類、およびトンネルの内壁に設けられるパネルの有無の各々について生成する。これにより、照明4の検出モデル、ボルト5の検出モデル、ケーブル6の検出モデル、遊離石灰7の検出モデル、汚れ8の検出モデル、型枠痕の検出モデル、および補修痕9の検出モデルの各々が、トンネルの内壁面の色、トンネルの工法の種類、およびトンネルの内壁に設けられるパネルの有無の各々について生成される。
トンネルの内壁面の色は、構造物の表面色の一例であり、トンネルの工法は、構造物の工法の一例であり、トンネルの内壁に設けられるパネルは、構造物におけるパネルの一例である。なお、各非検出対象を検出する検出モデルは、構造物の表面色の情報、構造物の工法の情報、および構造物におけるパネルの有無の情報のうちいずれか1つまたは2つについて生成されてもよい。また、各非検出対象を検出する検出モデルは、構造物の表面色の情報、構造物の工法の情報、および構造物におけるパネルの有無の情報によって分けずに、1つであってもよい。また、学習部31は、全ての非検出対象に共通の検出モデルを生成することもできる。
トンネルの内壁面の色の種類は、例えば、ライトグレー、グレー、またはダークグレーなどである。なお、トンネルの内壁面の色の種類は、2つであってもよく、4つ以上であってもよい。トンネルの内壁面の色毎に検出モデルが生成されるため、非検出対象検出部33は、非検出対象を精度よく検出することができる。
構造物の工法の種類は、例えば、シールド工法、TBM(Tunnel Boring Machine)工法、または山岳工法である。工法の種類によって構造物に発生する変状が異なる場合がある。学習部31において構造物の工法毎に検出モデルが生成されるため、非検出対象検出部33は、非検出対象を精度よく検出することができる。なお、構造物の工法の種類は、これらの工法以外の工法を含んでいてもよい。
構造物におけるパネルは、例えば、トンネルの内壁面に設けられる内装パネルである。また、かかる内装パネルの表面には、例えば、光を反射する反射板または反射テープなどの反射部材が設けられている。学習部31においてトンネルの内壁に設けられるパネルがある場合の検出モデルとトンネルの内壁に設けられるパネルがない場合の検出モデルと生成されるため、非検出対象検出部33は、非検出対象を精度よく検出することができる。
なお、上述した補修痕9の検出モデルには、例えば、金網の検出モデルと、充填剤の検出モデルとが含まれる。金網の検出モデルは、金網で補修された領域を検出する検出モデルである。充填剤の検出モデルは、充填剤で補修された領域を検出する検出モデルである。
学習部31によって生成される検出モデルは、機械学習によって生成され且つ画像から検出対象のひび割れ3とは異なる対象である非検出対象の領域を検出する計算モデルであり、例えば、ディープラーニングによって生成される。なお、検出モデルは、畳み込みニューラルネットワークなどのニューラルネットワークであるが、線形回帰、またはロジスティック回帰などの学習アルゴリズムで生成される計算モデルであってもよく、サポートベクターマシンなどの計算モデルであってもよい。
なお、学習部31によって生成される非検出対象の検出モデルは、検出した非検出対象の領域の情報を出力するが、検出した非検出対象の領域の情報に加えて、検出した非検出対象のラベルを出力する構成であってもよい。非検出対象のラベルは、非検出対象の種別を示す情報であり、例えば、照明4の検出モデルの場合、非検出対象が照明4であることを示す情報である。
情報受付部32は、構造物に関する情報である構造物情報を受け付ける。例えば、情報受付部32は、ユーザによる入力部11への操作によって、構造物情報を受け付ける。また、情報受付部32は、不図示の外部装置から送信され通信部10で受信される構造物情報を受け付ける。構造物情報は、例えば、構造物の表面色の情報、構造物の工法の情報、および構造物におけるパネルの有無の情報のうち少なくとも1つの情報を含む。また、構造物情報は、構造物の補修方法の情報を含む場合がある。補修方法の種類には、金網による補修と、充填剤による補修とが含まれる。
非検出対象検出部33は、機械学習によって生成され且つ画像から非検出対象の領域を検出する複数の検出モデルのうち情報受付部32によって受け付けられた構造物情報に対応する複数の検出モデルを用いて、構造物画像2から非検出対象の領域を検出する。
例えば、情報受付部32によって受け付けられた構造物情報に、トンネルの内壁面の色がライトグレーであることを示す情報、トンネルの工法がシールド工法であることを示す情報、トンネルを構成する構成物としてパネルがあることを示す情報が含まれているとする。この場合、非検出対象検出部33は、ライトグレー、シールド工法、およびパネルありの組み合わせに対応付けられた複数の検出モデルを用いて、構造物画像2から非検出対象の領域を検出する。
また、非検出対象検出部33は、構造物情報にトンネルの補修方法の情報が含まれている場合、構造物情報に含まれる特定されるトンネルの補修方法に対応する検出モデルを用いて、構造物画像2のうち補修痕9の領域を検出する。
例えば、非検出対象検出部33は、構造物情報に含まれる補修方法が金網による補修である場合、金網の検出モデルを用いて、金網によって補修された領域である補修痕9の領域を検出する。また、非検出対象検出部33は、構造物情報に含まれる補修方法が充填剤による補修である場合、充填剤の検出モデルを用いて、充填剤によって補修された領域である補修痕9の領域を検出する。
なお、非検出対象検出部33は、構造物情報にトンネルの補修方法の情報が含まれていない場合、金網によって補修された領域と充填剤によって補修された領域とをいずれも検出可能な検出モデルを用いて、補修痕9の領域を検出することができる。かかる検出モデルも学習部31によってトンネルの工法の種類、およびトンネルの内壁に設けられるパネルの有無の各々について生成される。
構造物情報に対応する複数の検出モデルは、照明4の検出モデル、ボルト5の検出モデル、ケーブル6の検出モデル、遊離石灰7の検出モデル、汚れ8の検出モデル、型枠痕の検出モデル、および補修痕9の検出モデルを含む。
非検出対象検出部33は、照明4、ボルト5、ケーブル6、遊離石灰7、汚れ8、型枠痕、および補修痕9の各々の領域を複数の検出モデルのうち対応する検出モデルを用いて検出する。非検出対象検出部33は、検出した非検出対象の情報である非検出対象情報をマスキング部34へ出力し、さらに、非検出対象情報を非検出対象情報記憶領域21に記憶させる。
非検出対象情報は、検出した非検出対象のID(Identifier)の情報と、検出した非検出対象の種類を示す情報と、構造物画像2のうち検出した非検出対象の領域が存在する座標の情報とを含む。非検出対象のIDは、変状検出部35によって付されるIDであり、非検出対象毎に異なるIDである。座標は、例えば、構造物画像2の4つの隅のうちの1つを原点とする直交座標系の座標である。非検出対象の領域は、例えば、矩形の領域であり、非検出対象の領域が存在する座標の情報は、例えば、矩形の4つの角のうち対向する2つの対角の座標の情報、または矩形の4つの角の座標の情報である。
例えば、非検出対象検出部33は、照明4を検出した場合、非検出対象のIDと、非検出対象が照明4であることを示す情報と、構造物画像2のうち照明4の領域が存在する座標の情報とを含む非検出対象情報をマスキング部34へ出力し且つ非検出対象情報記憶領域21に記憶させる。また、非検出対象検出部33は、補修痕9を検出した場合、非検出対象のIDと、非検出対象が補修痕9であることを示す情報と、構造物画像2のうち補修痕9の領域が存在する座標の情報とを含む非検出対象情報をマスキング部34へ出力し且つ非検出対象情報記憶領域21に記憶させる。
図4は、実施の形態1にかかる画像処理装置によって検出される各非検出対象の領域の一例を示す図である。図4に示すように、非検出対象検出部33は、照明4の領域41と、ボルト5の領域42と、ケーブル6の領域43と、遊離石灰7の領域44と、汚れ8の領域45と、補修痕9の領域46とを検出する。非検出対象検出部33が検出する領域41,42,43,44,45,46の各々は矩形の領域である。非検出対象検出部33は、例えば、非検出対象を囲みつつ非検出対象に外接する矩形で囲まれる領域を非検出対象の領域として検出する。なお、図4に示す例では、型枠痕の領域が図示されていないが、非検出対象検出部33は、型枠痕の領域も同様に検出する。
なお、上述した例では、非検出対象検出部33は、構造物情報からトンネルの内壁面の色の情報を取得するが、構造物画像2からトンネルの内壁面の色を検出し、検出したトンネルの内壁面の色に対応する複数の検出モデルを用いて、非検出対象を検出することもできる。
また、上述した例では、構造物情報には、トンネルの工法の種類を示す情報が含まれるが、構造物情報は、トンネルの形状を示す情報であってもよい。この場合、非検出対象検出部33は、トンネルの形状を示す情報からトンネルの工法の種類を判定し、判定したトンネルの工法の種類に対応する複数の検出モデルを用いて、非検出対象を検出する。
マスキング部34は、記憶部12の画像情報記憶領域20から構造物画像2の情報である構造物画像情報を読み出し、読み出した構造物画像情報と非検出対象検出部33で検出された非検出対象の情報とに基づいて、構造物画像2のうち非検出対象の領域をマスキングする。
マスキング部34によるマスキングは、例えば、構造物画像2のうち非検出対象の領域を予め設定された画像に置き換えることによって行う。予め設定された画像は、例えば、黒画像または白画像などの単色の画像である。なお、予め設定された画像は、検出対象の変状が検出されない画像であればよく、単色の画像に限定されない。また、マスキング部34によるマスキングは、構造物画像2のうち非検出対象の領域を示す情報である非検出対象情報を構造物画像2の情報に関連付けることによって行うこともできる。例えば、マスキング部34は、構造物画像2のIDと各非検出対象のIDとを関連付けることによってマスキングを行う。
変状検出部35は、マスキングを施した構造物画像2から特定種類の変状としてひび割れ3を検出する。変状検出部35は、検出したひび割れ3の座標、長さ、および幅を検出する。変状検出部35は、検出したひび割れ3の座標、長さ、および幅の情報と、検出したひび割れ3のIDの情報とを含む変状情報を変状情報記憶領域22に記憶させる。ひび割れ3のIDは、変状検出部35によって付されるIDであり、ひび割れ3毎に異なるIDである。なお、変状検出部35によって検出される変状は、ひび割れに加え、漏れ水などを含んでいてもよい。
なお、上述した例では、画像処理装置1によって検出モデルを生成するが、画像処理装置1の非検出対象検出部33で用いられる検出モデルは、画像処理装置1とは異なる学習装置で行われてもよい。この場合、画像処理装置1の取得部30は、画像処理装置1とは異なる学習装置が生成した複数の検出モデルを、かかる学習装置から通信部10を介して取得することができる。取得部30は、取得した複数の検出モデルを非検出対象検出部33へ出力する。非検出対象検出部33は、取得部30から出力された複数の検出モデルに基づいて、構造物画像2から非検出対象の領域を検出する。
つづいて、フローチャートを用いて画像処理装置1の処理部13による処理を説明する。図5は、実施の形態1にかかる画像処理装置の処理部による処理の一例を示すフローチャートである。画像処理装置1の処理部13は、図5に示す処理を繰り返し実行する。
図5に示すように、処理部13は、学習処理を行う(ステップS1)。ステップS1の学習処理は、図6に示すステップS10〜S15の処理であり、後で詳述する。また、処理部13は、ひび割れ検出処理を行う(ステップS2)。ステップS2のひび割れ検出処理は、図7に示すステップS20〜S29の処理であり、後で詳述する。処理部13は、ステップS1,S2の処理が終了した場合、図5に示す処理を終了する。
図6は、実施の形態1にかかる画像処理装置の処理部による学習処理の一例を示すフローチャートである。図6に示すように、処理部13の取得部30は、不図示の外部装置から学習用情報を取得したか否かを判定する(ステップS10)。取得部30は、学習用情報を取得したと判定した場合(ステップS10:Yes)、取得した学習用情報を記憶部12に記憶させる(ステップS11)。
処理部13の学習部31は、ステップS11の処理が終了した場合、または取得部30が学習用情報を取得していないと判定した場合(ステップS10:No)、学習タイミングになったか否かを判定する(ステップS12)。ステップS12の処理において、処理部13の学習部31は、例えば、記憶部12に学習用情報が記憶された場合、入力部11への操作などによって学習要求があった場合に、学習タイミングになったと判定する。
学習部31は、学習タイミングになったと判定した場合(ステップS12:Yes)、記憶部12から学習用情報を取得する(ステップS13)。学習部31は、ステップS13で取得した学習用情報に基づいて、非検出対象毎の検出モデルを生成する(ステップS14)。学習部31は、生成した非検出対象毎の検出モデルの情報を非検出対象検出部33へ出力する(ステップS15)。ステップS15の処理において、学習部31は、例えば、トンネルの内壁面の色、トンネルの工法の種類、およびトンネルの内壁に設けられるパネルの有無の各々について複数の検出モデルを生成する。
処理部13は、ステップS15の処理が終了した場合、または学習タイミングになっていないと判定した場合(ステップS12:No)、図6に示す処理を終了する。
図7は、実施の形態1にかかる画像処理装置の処理部によるひび割れ検出処理の一例を示すフローチャートである。図7に示すように、処理部13の取得部30は、不図示の外部装置から構造物画像2の情報を取得したか否かを判定する(ステップS20)。取得部30は、構造物画像2の情報を取得したと判定した場合(ステップS20:Yes)、取得した構造物画像2の情報を記憶部12に記憶させる(ステップS21)。
処理部13の情報受付部32は、ステップS21の処理が終了した場合、または構造物画像2の情報を取得していないと判定した場合(ステップS20:No)、構造物情報を受け付けたか否かを判定する(ステップS22)。ステップS22の処理において、情報受付部32は、ユーザによる入力部11への操作が構造物情報の入力操作である場合、構造物情報を受け付けたと判定する。
処理部13の非検出対象検出部33は、情報受付部32によって構造物情報が受け付けられたと判定した場合(ステップS22:Yes)、情報受付部32によって受け付けられた構造物情報に応じた複数の検出モデルを選択する(ステップS23)。非検出対象検出部33は、選択した複数の検出モデルを用いて、構造物画像2のうち非検出対象の領域を検出する(ステップS24)。
処理部13の非検出対象検出部33は、検出した各非検出対象の情報を記憶部12に記憶させる(ステップS25)。処理部13のマスキング部34は、検出された各非検出対象の情報に基づいて、構造物画像2のうち非検出対象の領域をマスキングする(ステップS26)。処理部13の変状検出部35は、マスキングを施した構造物画像2からひび割れ3の領域を検出する(ステップS27)。
変状検出部35は、検出したひび割れ3の座標、長さ、および幅を検出し(ステップS28)、検出したひび割れ3の情報を記憶部12に記憶させる(ステップS29)。処理部13は、ステップS29の処理を終了した場合、または情報受付部32によって構造物情報が受け付けられていないと判定した場合(ステップS22:No)、図7に示す処理を終了する。
図8は、実施の形態1にかかる画像処理装置のハードウェア構成の一例を示す図である。図8に示すように、画像処理装置1は、プロセッサ101と、メモリ102と、入力装置103と、通信装置104とを備えるコンピュータを含む。
プロセッサ101、メモリ102、入力装置103、および通信装置104は、例えば、バス105によって互いに情報の送受信が可能である。通信部10は、通信装置104で実現される。入力部11は、入力装置103によって実現される。記憶部12は、メモリ102によって実現される。プロセッサ101は、メモリ102に記憶されたプログラムを読み出して実行することによって、取得部30、学習部31、情報受付部32、非検出対象検出部33、マスキング部34、および変状検出部35などの機能を実行する。プロセッサ101は、例えば、処理回路の一例であり、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、およびシステムLSI(Large Scale Integration)のうち一つ以上を含む。
メモリ102は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、およびEEPROM(登録商標)(Electrically Erasable Programmable Read Only Memory)のうち一つ以上を含む。また、メモリ102は、コンピュータが読み取り可能なプログラムが記録された記録媒体を含む。かかる記録媒体は、不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルメモリ、光ディスク、コンパクトディスク、およびDVD(Digital Versatile Disc)のうち一つ以上を含む。なお、画像処理装置1は、ASIC(Application Specific Integrated Circuit)およびFPGA(Field Programmable Gate Array)などの集積回路を含んでいてもよい。
以上のように、実施の形態1にかかる画像処理装置1は、取得部30と、非検出対象検出部33と、マスキング部34とを備える。取得部30は、構造物画像2の情報を取得する。非検出対象検出部33は、機械学習によって生成され且つ画像から検出対象の変状とは異なる対象である非検出対象の領域を検出する1以上の検出モデルを用いて、取得部30で取得された構造物画像2から非検出対象の領域を検出する。マスキング部34は、構造物画像2のうち非検出対象検出部33によって検出された非検出対象の領域をマスキングする。これにより、画像処理装置1は、しきい値または数値範囲の調整を行うことなく、非検出領域をマスキングすることができる。
また、画像処理装置1は、構造物に関する情報である構造物情報を受け付ける情報受付部32を備える。非検出対象検出部33は、機械学習によって生成され且つ画像から非検出対象の領域を検出する複数の検出モデルのうち情報受付部32によって受け付けられた構造物情報に対応する1以上の検出モデルを用いて、構造物画像2から非検出対象の領域を検出する。これにより、画像処理装置1は、構造物情報によってより適切な検出モデルを絞り込むことができ、非検出対象の領域を精度よく検出することができる。
また、構造物情報は、構造物の表面色の情報、構造物の工法の情報、および構造物におけるパネルの有無の情報のうち少なくとも1つの情報を含む。これにより、画像処理装置1は、構造物の表面色の情報、構造物の工法の情報、およびパネルの有無の情報のうち少なくとも1つで適切な検出モデルを絞り込むことができ、非検出対象の領域を精度よく検出することができる。
また、構造物情報は、構造物の補修方法の情報を含む。非検出対象検出部33は、複数の検出モデルのうち構造物情報で特定される構造物の補修方法で補修された領域を非検出対象として検出する1以上の検出モデルを用いて、非検出対象の領域を検出する。これにより、画像処理装置1は、補修方法に応じた適切な検出モデルを用いることができ、補修痕9の領域を精度よく検出することができる。
また、画像処理装置1は、学習用情報に基づいて、1以上の検出モデルを機械学習によって生成する学習部31を備える。これにより、画像処理装置1は、検出モデルを生成することができる。
実施の形態2.
実施の形態2にかかる画像処理装置は、検出された非検出対象の領域の位置を示す情報を含む構造物の図面の情報を出力し、非検出対象の領域の位置が変更された場合に、検出モデルの再学習を行う点で、実施の形態1にかかる画像処理装置1と異なる。以下においては、実施の形態1と同様の機能を有する構成要素については同一符号を付して説明を省略し、実施の形態1の画像処理装置1と異なる点を中心に説明する。
図9は、実施の形態2にかかる画像処理装置の構成の一例を示す図である。図9に示すように、実施の形態2にかかる画像処理装置1Aは、表示部14を備えるとともに、記憶部12および処理部13に代えて、記憶部12Aおよび処理部13Aを備える点で、画像処理装置1と異なる。
表示部14は、例えば、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)、またはIELD(Inorganic Electro-Luminescence Display)である。
記憶部12Aは、図面情報記憶領域25をさらに有する点で、記憶部12と異なる。図面情報記憶領域25には、構造物の図面の情報が記憶される。構造物の図面の情報は、例えば、トンネルの展開図の情報である。
処理部13Aは、学習部31に代えて学習部31Aを備え、さらに、図面情報生成部36と、図面情報出力部37と、図面情報変更部38とを備える点で、処理部13と異なる。図面情報生成部36は、入力部11への入力操作によって画像処理装置1Aのユーザから図面表示要求があった場合、構造物図面の情報である構造物図面情報を生成する。
構造物図面情報は、非検出対象検出部33によって検出された各非検出対象の領域の位置を示す情報と非検出対象の種別を示す情報を含む構造物の図面の情報である。非検出対象の種別を示す情報は、例えば、照明4の名称を示す情報、ボルト5の名称を示す情報、ケーブル6の名称を示す情報、遊離石灰7の名称を示す情報、汚れ8の名称を示す情報、型枠痕の名称を示す情報、または補修痕9の名称を示す情報である。
図面情報生成部36は、非検出対象検出部33によって検出された各非検出対象の領域の位置および種別の各々を示す情報を非検出対象情報記憶領域21から取得し、構造物の図面の情報を図面情報記憶領域25から取得する。図面情報生成部36は、例えば、各非検出対象の領域の位置および種別の各々を示す情報を構造物の図面に重畳することによって、構造物図面情報を生成する。
図面情報出力部37は、図面情報生成部36によって生成された構造物図面情報を表示部14へ出力し、表示部14に構造物図面を表示させる。図10は、実施の形態2にかかる画像処理装置の表示部に表示される構造物図面の一例を示す図である。図10に示す構造物図面50には、非検出対象検出部33によって検出された各非検出対象の領域を示す矩形枠の画像と、各枠に対応付けられた各非検出対象の名称を示す情報とが含まれる。
図10に示す構造物図面50には、照明4、ボルト5、ケーブル6、遊離石灰7、汚れ8、および補修痕9の各々の位置を示す矩形枠の画像と名称とが含まれている。なお、図面情報生成部36によって生成される構造物図面情報は、構造物の図面に構造物画像2と図10に示す画像とを重畳した画像の情報であってもよい。
画像処理装置1Aのユーザは、入力部11への入力操作によって、表示部14に表示されている構造物図面50に含まれる非検出対象の領域の位置を変更することができる。図面情報変更部38は、構造物図面50に含まれる非検出対象の領域の位置を変更する要求があった場合に、非検出対象検出部33によって検出された非検出対象の領域の位置を変更する。図面情報変更部38は、入力部11への入力操作によって画像処理装置1Aのユーザから図面修正要求があった場合に、構造物図面50に含まれる非検出対象の領域の位置を変更する要求があったと判定する。
非検出対象の領域の位置の変更は、非検出対象情報記憶領域21に記憶された非検出対象情報を変更することによって行われる。例えば、図面情報変更部38は、構造物図面50においてケーブル6の位置を変更する要求がある場合、非検出対象情報記憶領域21に記憶された非検出対象情報のうちケーブル6の位置を示す情報を含む非検出対象情報を変更する。
また、図面情報変更部38は、非検出対象検出部33によって検出された非検出対象の領域の位置を変更した場合、構造物画像2から変更後の非検出対象の領域の位置の画像を抽出し、抽出した画像を正解画像として変更した非検出対象に対応する学習用情報に追加する。例えば、図面情報変更部38は、ケーブル6の位置を変更した場合、構造物画像2から変更後のケーブル6の位置の画像を抽出し、抽出したケーブル6の画像を正解画像としてケーブル6の検出モデルを生成するための学習用情報に追加する。
学習部31Aは、図面情報変更部38によって更新された学習用情報を用いて検出モデルの再学習を行うことができる。これにより、画像処理装置1Aは、検出モデルの精度を向上させることができる。
なお、図面情報生成部36は、例えば、変状検出部35によって検出された変状の領域の位置を示す情報と各非検出対象の領域の位置を示す情報とを構造物の図面の情報に重畳することによって、構造物図面情報を生成することもできる。この場合、図面情報生成部36は、変状情報を変状情報記憶領域22から取得する。そして、図面情報変更部38は、例えば、構造物図面50に含まれる検出対象のひび割れの座標、長さ、および幅を変更する要求があった場合に、変状検出部35によって検出されたひび割れの座標、長さ、および幅を変更する。
つづいて、フローチャートを用いて画像処理装置1Aの処理部13Aによる処理を説明する。図11は、実施の形態2にかかる画像処理装置の処理部による処理の一例を示すフローチャートである。画像処理装置1Aの処理部13Aは、図11に示す処理を繰り返し実行する。図11に示すステップS30,S31の処理は、図5に示すステップS1,S2の処理と同じであるため、説明を省略する。
図11に示すように、画像処理装置1Aの処理部13Aは、図面修正処理を行う(ステップS32)。ステップS32の処理は、図12に示すステップS40〜S44の処理であり、後で詳述する。また、処理部13Aは、再学習処理を行う(ステップS33)。ステップS33の処理は、図13に示すステップS50〜S52の処理であり、後で詳述する。処理部13Aは、ステップS33の処理が終了した場合、図11に示す処理を終了する。
図12は、実施の形態2にかかる画像処理装置の処理部による図面修正処理の一例を示すフローチャートである。図12に示すように、画像処理装置1Aの処理部13Aは、画像処理装置1Aのユーザから図面表示要求があるか否かを判定する(ステップS40)。処理部13Aは、図面表示要求があると判定した場合(ステップS40:Yes)、構造物図面情報を生成し、生成した構造物図面情報に基づいて、構造物図面50を表示部14に表示させる(ステップS41)。
処理部13Aは、ステップS41の処理が終了した場合、または図面表示要求がないと判定した場合(ステップS40:No)、画像処理装置1Aのユーザから図面修正要求があるか否かを判定する(ステップS42)。処理部13Aは、図面修正要求があると判定した場合(ステップS42:Yes)、図面修正要求に基づいて、非検出対象情報を更新する(ステップS43)。また、処理部13Aは、更新した非検出対象情報に基づいて学習用情報を更新する(ステップS44)。
処理部13Aは、ステップS44の処理が終了した場合、または、図面修正要求がないと判定した場合(ステップS42:No)、図12に示す処理を終了する。
図13は、実施の形態2にかかる画像処理装置の処理部による再学習処理の一例を示すフローチャートである。図13に示すように、画像処理装置1Aの処理部13Aは、再学習タイミングになったか否かを判定する(ステップS50)。ステップS50の処理において、処理部13Aは、ステップS44の処理で学習用情報が更新されている場合に、再学習タイミングになったと判定する。なお、処理部13Aは、学習用情報の更新でのタイミングに代えて、入力部11へのユーザの操作によって、再学習要求があったと判定した場合に、再学習タイミングになったと判定することもできる。
処理部13Aは、再学習タイミングになったと判定した場合(ステップS50:Yes)、更新された学習用情報を記憶部12Aから取得し(ステップS51)、取得した学習用情報に基づいて、非検出対象の検出モデルを生成する(ステップS52)。処理部13Aは、ステップS52の処理が終了した場合、または再学習タイミングになっていないと判定した場合(ステップS50:No)、図13に示す処理を終了する。
実施の形態2にかかる画像処理装置1Aのハードウェア構成例は、図8に示す画像処理装置1のハードウェア構成と同じである。プロセッサ101は、メモリ102に記憶されたプログラムを読み出して実行することによって、取得部30、学習部31A、情報受付部32、非検出対象検出部33、マスキング部34、変状検出部35、図面情報生成部36、図面情報出力部37、および図面情報変更部38の機能を実行することができる。
以上のように、実施の形態2にかかる画像処理装置1Aは、図面情報生成部36と、図面情報出力部37と、図面情報変更部38とを備える。図面情報生成部36は、非検出対象検出部33によって検出された非検出対象の領域の位置を示す情報を含む構造物図面50の情報である構造物図面情報を生成する。図面情報出力部37は、図面情報生成部36によって生成された構造物図面情報を出力する。図面情報変更部38は、構造物図面情報に含まれる非検出対象の領域の位置を変更する要求があった場合に、非検出対象検出部33によって検出された非検出対象の領域の位置を変更する。学習部31Aは、構造物画像2のうち図面情報変更部38によって変更された非検出対象の領域の画像の情報に基づいて、1以上の検出モデルの再学習を行う。これにより、画像処理装置1Aは、検出モデルの精度を向上させることができる。
以上の実施の形態に示した構成は、一例を示すものであり、別の公知の技術と組み合わせることも可能であるし、実施の形態同士を組み合わせることも可能であるし、要旨を逸脱しない範囲で、構成の一部を省略、変更することも可能である。