JP6031490B2 - 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム - Google Patents

摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム Download PDF

Info

Publication number
JP6031490B2
JP6031490B2 JP2014231715A JP2014231715A JP6031490B2 JP 6031490 B2 JP6031490 B2 JP 6031490B2 JP 2014231715 A JP2014231715 A JP 2014231715A JP 2014231715 A JP2014231715 A JP 2014231715A JP 6031490 B2 JP6031490 B2 JP 6031490B2
Authority
JP
Japan
Prior art keywords
image
wear
degree
feature
patch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014231715A
Other languages
English (en)
Other versions
JP2016095235A (ja
Inventor
和彦 村崎
和彦 村崎
数藤 恭子
恭子 数藤
行信 谷口
行信 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2014231715A priority Critical patent/JP6031490B2/ja
Publication of JP2016095235A publication Critical patent/JP2016095235A/ja
Application granted granted Critical
Publication of JP6031490B2 publication Critical patent/JP6031490B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラムに係り、特に、画像に写る凹凸模様を持つ物体表面の摩耗を推定するための摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラムに関する。
金属製の床や階段などには、滑り止めのために凹凸模様を設けることが一般的である。しかし、こうした滑り止めのための凹凸模様は経年劣化によって日々摩耗が進み、いずれスリップ事故などを引き起こす可能性がある。そうした事故を未然に防ぐためには、凹凸模様の摩耗度を点検し適宜交換する必要がある。しかし、人手によって逐一摩耗度の点検を行うことは多大な労力を要する。
点検作業を効率的に行うための手段として、カメラ画像を用いたコンピュータによる自動点検が考えられる。従来方法として、カメラ画像によって自動的にコンクリート表面の劣化検知を行う方法がある(非特許文献1)。また、カメラから路面の凹凸深さの推定を行う方法もある(非特許文献2)。
H. Oliveira, P. Correia "Automatic road crack detection and characterization" Intelligent Transportation Systems, IEEE Transactions on, vol.14, no.1, pp.155-168, 2013 R. Elunai, V. Chandran, E. Gallagher, "Asphalt concrete surfaces macrotexture determination from still images" Intelligent Transportation Systems, IEEE Transactions on , vol.12, no.3, pp.857-869, 2011
しかし、非特許文献1に記載の方法では、カメラ画像による点検によって作業者の点検コストを減らし、簡易で網羅的な点検を実現できるが、非特許文献1に記載のひび割れ検知のアプローチは画像中の細線領域をひび割れとして検知するため、そのまま摩耗検知に適用することは難しいという問題がある。
また、非特許文献2に記載の方法では、画像内の境界線量を用いることで凹凸量の推定を行っているが、当該手法では照明条件や撮影環境の変化に強く影響を受け、また凹凸自体は残っていてもエッジ部分がなまってしまっている場合に境界線情報と凹凸量との相関が弱まるなどの問題がある。
また、非特許文献2に記載の方法では、撮影場所によって凹凸量推定のための最適なパラメータが異なっており、撮影対象や撮影時間、天候の変化による対象物の見えの変化によって推定精度が強く影響を受けることがわかる。屋外での摩耗検知の適用を考えると、こうした環境変化に対して頑健に精度良く摩耗を検知することが課題となる。すなわち、照明環境や撮影角度といった様々な環境変化のなかで、凹凸模様の高さを示す要素を精度良く抽出することが課題となる。
本発明では、上記問題点を解決するために成されたものであり、推定対象物の摩耗度を精度よく推定することができる摩耗推定装置、方法、及びプログラムを提供することを目的とする。
また、推定対象物の摩耗度を精度よく推定するための摩耗推定器のパラメータを学習することができる摩耗推定器学習装置、方法、及びプログラムを提供することを目的とする。
また、推定対象物の摩耗度を精度よく推定するためのパターンを抽出することができる画像特徴選択装置、方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、第1の発明に係る摩耗度推定装置は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、第5の発明の画像特徴選択装置によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出する画像特徴抽出部と、前記パッチ画像の各々について、前記画像特徴抽出部により抽出された、前記パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、前記パッチ画像に対応する部分の摩耗度を推定する局所摩耗度推定部と、を含んで構成されている。
第2の発明に係る摩耗度推定方法は、画像特徴抽出部と、局所摩耗度推定部と、を含む摩耗度推定装置における摩耗度推定方法であって、前記画像特徴抽出部は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、第6の発明の画像特徴選択方法によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出し、前記局所摩耗度推定部は、前記パッチ画像の各々について、前記画像特徴抽出部により抽出された、前記パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、前記パッチ画像に対応する部分の摩耗度を推定する。
第1及び第2の発明によれば、画像特徴抽出部により、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像毎に、パッチ画像に含まれる画素の各々について取得される、予め定められた凹凸の摩耗度と関連する局所的なテクスチャパターンと、パッチ画像に含まれる画素の各々について取得される正規化した輝度値から算出される正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、局所摩耗度推定部により、パッチ画像の各々について、画像特徴抽出部により抽出された、パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、パッチ画像に対応する部分の摩耗度を推定する。
このように、入力された、推定対象物を表す画像内のパッチ画像毎に、予め定められた凹凸の摩耗度と関連する局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々について、パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、パッチ画像に対応する部分の摩耗度を推定することにより、精度よく摩耗度を推定することができる。
第3の発明に係る摩耗度推定器学習装置は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、第5の発明の画像特徴選択装置によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出する画像特徴抽出部と、前記画像特徴抽出部により抽出された前記パッチ画像の各々についての画像特徴と、前記パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶する摩耗度推定器学習部と、を含んで構成されている。
第4の発明に係る摩耗度推定器学習方法は、画像特徴抽出部と、摩耗度推定器学習部と、を含む摩耗度推定器学習装置における摩耗度推定器学習方法であって、前記画像特徴抽出部は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、第6の発明の画像特徴選択方法によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出し、前記摩耗度推定器学習部は、前記画像特徴抽出部により抽出された前記パッチ画像の各々についての画像特徴と、前記パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶する。
第3及び第4の発明によれば、画像特徴抽出部により、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、パッチ画像に含まれる画素の各々について取得される、予め定められた凹凸の摩耗度と関連する局所的なテクスチャパターンと、パッチ画像に含まれる画素の各々について取得される正規化した輝度値から算出される正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、摩耗度推定器学習部により、画像特徴抽出部により抽出されたパッチ画像の各々についての画像特徴と、パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶する
このように、入力された、推定対象物を表す画像内のパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々についての画像特徴と、パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶することにより、精度よく摩耗度を推定することができるパラメータを学習することができる。
第5の発明に係る画像特徴選択装置は、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、前記画像に含まれる画素の各々について局所的なテクスチャパターンを抽出するテクスチャ特徴抽出部と、前記複数の画像に対し、前記テクスチャ特徴抽出部において前記画像から抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出する支配的特徴抽出部と、前記凹凸の摩耗度が近傍となる画像集合の各々に対し、前記画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する前記局所的なテクスチャパターンとして抽出する選択特徴統合部と、を含んで構成されている。
第6の発明の係る画像特徴選択方法は、テクスチャ特徴抽出部と、支配的特徴抽出部と、選択特徴統合部と、を含む画像特徴選択装置における画像特徴選択方法であって、前記テクスチャ特徴抽出部は、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、前記画像に含まれる画素の各々について局所的なテクスチャパターンを抽出し、前記支配的特徴抽出部は、前記複数の画像に対し、前記テクスチャ特徴抽出部において前記画像から抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、前記選択特徴統合部は、前記凹凸の摩耗度が近傍となる画像集合の各々に対し、前記画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する前記局所的なテクスチャパターンとして抽出する。
第5及び第6の発明によれば、テクスチャ特徴抽出部により、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、画像に含まれる画素の各々について局所的なテクスチャパターンを抽出し、支配的特徴抽出部により、複数の画像に対し、テクスチャ特徴抽出部において画像から抽出された局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、選択特徴統合部により、凹凸の摩耗度が近傍となる画像集合の各々に対し、画像集合から抽出された支配的特徴セットで共通する局所的なテクスチャパターンを取り出し、画像集合の各々に対して取り出された局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する局所的なテクスチャパターンとして抽出する。
このように、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、局所的なテクスチャパターンを抽出し、複数の画像に対し、局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、凹凸の摩耗度が近傍となる画像集合の各々に対し、支配的特徴セットで共通する局所的なテクスチャパターンを取り出し、取り出された局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する局所的なテクスチャパターンとして抽出することにより、精度よく摩耗度を推定するためのパターンを抽出することができる。
また、本発明のプログラムは、コンピュータを、上記の摩耗度推定装置、摩耗度推定器学習装置及び画像特徴選択装置を構成する各部として機能させるためのプログラムである。
以上説明したように、本発明の摩耗推定装置、方法、及びプログラムによれば、入力された、推定対象物を表す画像内のパッチ画像毎に、予め定められた凹凸の摩耗度と関連する局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々について、パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、パッチ画像に対応する部分の摩耗度を推定することにより、精度よく摩耗度を推定することができる。
また、本発明の摩耗推定器学習装置、方法、及びプログラムによれば、入力された、推定対象物を表す画像内のパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々についての画像特徴と、パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶することにより、精度よく摩耗度を推定することができるパラメータを学習することができる。
また、本発明の画像特徴選択装置、方法、及びプログラムによれば、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、局所的なテクスチャパターンを抽出し、複数の画像に対し、局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、凹凸の摩耗度が近傍となる画像集合の各々に対し、支配的特徴セットで共通する局所的なテクスチャパターンを取り出し、取り出された局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する局所的なテクスチャパターンとして抽出することにより、精度よく摩耗度を推定するためのパターンを抽出することができる。
本発明の実施の形態に係る画像特徴選択装置の機能的構成を示すブロック図である。 LBP特徴を算出する例を示す図である。 特徴選択パラメータGを抽出する例を示す図である。 本発明の実施の形態に係る摩耗度推定器学習装置の機能的構成を示すブロック図である。 パッチ画像を取得する例を示す図である。 本発明の実施の形態に係る摩耗度推定装置の機能的構成を示すブロック図である。 本発明の実施の形態に係る画像特徴選択装置における画像特徴選択処理ルーチンのフローチャートを示す図である。 本発明の実施の形態に係る摩耗度推定器学習装置における摩耗度推定器学習処理ルーチンのフローチャートを示す図である。 本発明の実施の形態に係る摩耗度推定装置における摩耗度推定処理ルーチンのフローチャートを示す図である。 実施例の結果の例を示す図である。 凹凸模様領域を目視により抽出する例を示す図である。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
<本発明の原理>
まず、本実施の形態に係る画像特徴選択装置、摩耗度推定器学習装置、及び摩耗度推定装置についての原理について説明する。
本実施の形態では、画像特徴の設計によって上述の課題を解決する。滑り止めのような人工的に設けられた凹凸模様高さを推定するための手掛かりとなる要素として、凹凸形状の上面・底面・壁面や凹凸形状の輪郭線、なかでも山折り線・谷折り線・遮蔽境界といった要素がそれぞれどういった割合で構成されているかを抽出することは有用である。
非特許文献2では、こうした要素をまとめて境界線検出としているが、理想的にはより細分化された特徴要素を得られることが望ましい。こうした局所的なテクスチャ情報を弁別する画像特徴の出現頻度を手掛かりとして摩耗度の推定を実現する。局所的なテクスチャを識別するための頑健な画像特徴として例えばLocal Binary Pattern (LBP)画像特徴(非特許文献3:Y. Guo, G. Zhao, M. Pietikaeinen, “Discriminative features for texture description” Pattern Recognition, 45(10), 3834-3843, 2012)やHaar-like画像特徴が知られている。
しかし、LBP特徴表現のような局所テクスチャ表現は膨大なパターン数を持つため、これらのパターンから推定に有用なパターンのみを取り出すため、本実施の形態においては、凹凸模様高さとの関連が強いパターンのみを抽出する。また、局所的なテクスチャ表現特徴は局所的な明度の関係性のみを抽出するため、本実施の形態においては、段差による影などの大域的な手がかりを捉えるために正規化明度ヒストグラムによる画像特徴を合わせて用いる。そして、得られた画像特徴からk近傍法などの機械学習手法を用いた摩耗度の推定を行う。
加えて、推定対象が繰り返しパターンであれば画像を細かい領域に分割することでより高精度かつ高分解能で摩耗度を推定することができる。これは、同一画像のなかでも場所によって劣化度合いが異なるため、局所的に摩耗度を推定することで、より厳密な推定ができるからである。本実施の形態においては、画像からパッチを切り出し、パッチ毎に推定を行うことで、精度良く摩耗度を推定し、かつ画像中の一部の摩耗領域を検出する。
推定に有用なテクスチャパターンの抽出に関しては、例えばLBP特徴を用いて識別クラス毎に支配的なLBP特徴を抽出する手法が存在しているが、(非特許文献3)、本実施の形態においては、このアプローチを連続値の推定である摩耗度推定に適用することで、摩耗度推定に有用なパターンのみを推定に用いる。各画像サンプルは識別クラスを持たないため、ある一定の摩耗度の範囲における支配的なパターンを抽出し、選択された特徴として活用する。
本実施の形態における新規性は、凹凸模様の摩耗度推定における局所的なテクスチャパターンを弁別する画像特徴及び大域的な正規化明度ヒストグラムの利用、画像からのパッチ切り出しに基づく摩耗度推定、連続値データを用いた支配的テクスチャパターンの抽出、の4つであり、これらの効果によって環境変化に頑健な摩耗度推定を実現する。
次に、本実施の形態に係る画像特徴選択装置、摩耗度推定器学習装置、及び摩耗度推定装置の構成について説明する。本実施の形態においては、特に、マンホール鉄蓋画像の摩耗推定に際して画像特徴選択装置、摩耗度推定器学習装置、及び摩耗度推定装置を適用する場合について説明し、推定対象となる摩耗度には鉄蓋の凹凸模様高さ(mm)を用いる。また、本実施の形態においては、局所的なテクスチャパターンを取り出す画像特徴としては、例えば、LBP画像特徴を用いる。
次に、本発明の実施の形態に係る画像特徴選択装置、摩耗度推定器学習装置、及び摩耗度推定装置の構成について説明する。画像特徴選択装置においては、凹凸模様の画像と当該画像に対応する凹凸模様の摩耗度のデータを合わせて入力とし、摩耗度推定器学習装置においては、凹凸模様の画像と当該画像の部分毎に対応する凹凸模様の摩耗度のデータを合わせて入力とし、データに対応した特徴選択及び摩耗度推定器の学習を行う。画像特徴選択装置では、多数のLBP特徴の中から凹凸模様高さをより良く識別するためのLBP特徴を選択する。摩耗度推定器学習装置では、選択されたLBP特徴及び正規化明度ヒストグラムを凹凸模様画像から抽出し、対応する摩耗度の値と共に記憶したものを摩耗度推定器として学習する。最後に摩耗度推定装置では、摩耗度が未知の凹凸模様画像に対して画像特徴を抽出し、学習された摩耗度推定器によって摩耗度を推定する。
<本発明の実施の形態に係る画像特徴選択装置の構成>
まず、本発明の実施の形態に係る画像特徴選択装置の構成について説明する。図1に示すように、本発明の実施の形態に係る画像特徴選択装置100は、CPUと、RAMと、後述する画像特徴選択処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この画像特徴選択装置100は、機能的には図1に示すように入力部10と、演算部20と、出力部90とを備えている。
入力部10は、凹凸模様の画像の集合を受け付け、画像記憶部22に記憶する。また、入力部10は、画像集合に含まれる画像i(1〜A)の各々に対応した凹凸の摩耗度(凹凸模様の高さ)を凹凸模様摩耗データとして受け付け、凹凸模様摩耗データ記憶部32に記憶する。なお、凹凸模様摩耗データ記憶部32に記憶されている凹凸模様摩耗データの各々は、対応する画像iの各々と対応づけられて記憶されている。また、本実施の形態において画像集合に含まれる画像の総数はAとする。
演算部20は、画像記憶部22と、凹凸領域抽出部24と、テクスチャ特徴抽出部28と、支配的特徴抽出部30と、凹凸模様摩耗データ記憶部32と、選択特徴統合部34と、特徴選択パラメータ記憶部36と、を備えている。
画像記憶部22には、入力部10において受け付けた、凹凸模様の画像の集合が記憶されている。
凹凸領域抽出部24は、画像記憶部22に記憶されている画像iの各々について、当該画像iから推定対象物の領域となる凹凸模様領域を抽出する。本実施の形態については、既知の各種物体検出手法や、前景抽出手法を用いて、自動的に推定対象物を表す凹凸模様領域を抽出する。
画像正規化部26は、凹凸領域抽出部24において取得した、画像i毎の凹凸模様領域の各々について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整する。具体的には、推定対象物であるマンホールの鉄蓋の直径は既知であることから、当該画像iの凹凸模様領域を一定のサイズに拡縮することにより、正規化を行う。
テクスチャ特徴抽出部28は、画像正規化部26において正規化された、画像毎の凹凸模様領域の各々について、LBP特徴ヒストグラムを算出する。ここで、LBP特徴は、図2に示すような周辺画素との輝度値の比較を2値のコード化したものであり、局所的なテクスチャパターンである。具体的には、まず、画像iにおける凹凸模様領域の各画素について、その周辺画素との関係から1つのLBP特徴を下記(1)式に従って算出する。
ここで、cは注目画素であり、gは注目画素の輝度である。また、pは参照画素であり、gは参照画素の輝度値である。Pは参照点数であり、Rは半径を示し、参照画素pは、半径Rの円周上をP点に分割した画素として取得する。なお、p=0となる画素の位置と、pの値が増加する方向、及び位置とは予め定められているものとする。また、注目画素cの周辺画素としてP個の参照画素が存在しない場合には、当該注目画素cについては、LBP特徴を算出しない。
次に、画像iにおける凹凸模様領域の各画素について取得されたLBP特徴に基づいて、LBP特徴のヒストグラムを作成し、当該LBP特徴のヒストグラムを画像iのLBP特徴ヒストグラムとする。
支配的特徴抽出部30は、画像i毎に、テクスチャ特徴抽出部28において、当該画像iについて取得されたLBP特徴ヒストグラムに基づいて、頻出しているLBP特徴の組み合わせを抽出する。具体的には、当該画像iについてのLBP特徴ヒストグラムにおいて、LBP特徴の検出量が大きい順に支配的特徴に加えていき、加算した値の総和が全体の一定割合に到達したところで加算を終了し、取得されたLBP特徴の組み合わせを当該画像iの支配的特徴Dとする。
ここで、LBP特徴には様々な形態があり、そのパラメータによっていくつかの種類のLBP特徴を設計することができるが、この支配的特徴抽出は設計されたLBP特徴毎に独立して実行する。ここで画像iから得られた支配的特徴をDとする。DはLBP特徴の集合である。
凹凸模様摩耗データ記憶部32には、入力部10において受け付けた画像集合に含まれる画像iの各々に対応した凹凸模様摩耗データが、画像iに対応づけられて記憶されている。本実施の形態においては、当該画像iにおける平均の凹凸模様の高さ(mm)を当該画像iに対応する凹凸模様摩耗データとする。
選択特徴統合部34は、図3に示すように、支配的特徴抽出部30により取得された各画像iの支配的特徴Dから、摩耗度推定に有用な特徴であるLBP特徴を特徴選択パラメータGとして抽出する。具体的には、まず、凹凸模様摩耗データ記憶部32に記憶されている画像iの各々に対応づけられ凹凸模様摩耗データに基づいて、画像iの凹凸の高さの順に、支配的特徴抽出部30において取得した画像iの支配的特徴Dを並べる。次に、各画像iについて、各画像の凹凸模様摩耗データに基づいて、当該画像iとの凹凸の高さの差がT以下となる画像の集合に含まれる画像j各々の支配的特徴Dを、当該画像iの近傍支配的特徴セットとして取得する。次に、画像i各々について、取得した近傍支配的特徴セットに基づいて、下記(2)式に従って、当該近傍支配的特徴セットにおいて共通するLBP特徴を画像iの周辺共通特徴セットLとして算出する。
ここで、N(i)は、画像iと凹凸高さが近傍の画像集合を示す。そして、下記(3)式に従って、画像iの各々について取得した周辺共通特徴セットLの論理和を取り、取得した論理和を摩耗度の推定に用いる特徴選択パラメータGとして取得し、出力部90に出力すると共に、特徴選択パラメータ記憶部36に記憶する。なお、特徴選択パラメータGは、凹凸の摩耗度と関連する局所的なテクスチャパターンの集合である。
<本発明の実施の形態に係る摩耗度推定器学習装置の構成>
次に、本発明の実施の形態に係る摩耗度推定器学習装置の構成について説明する。図4に示すように、実施の形態に係る摩耗度推定器学習装置200は、CPUと、RAMと、後述する摩耗度推定器学習処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この摩耗度推定器学習装置200は、機能的には図4に示すように入力部210と、演算部220と、出力部290とを備えている。
入力部210は、推定対象物を表す凹凸模様の画像の集合を受け付け、画像記憶部222に記憶する。また、入力部210は、画像集合に含まれる画像i(1〜A)の各々の部分毎に対応した凹凸模様の高さのデータを凹凸模様摩耗データとして受け付け、凹凸模様摩耗データ記憶部234に記憶する。なお、凹凸模様摩耗データ記憶部234に記憶されている凹凸模様摩耗データの各々は、対応する画像iの各々の部分毎と対応づけられて記憶されている。また、凹凸模様摩耗データは、対応する部分の凹凸の高さとする。また、本実施の形態において画像集合に含まれる画像の総数はAとする。
演算部220は、画像記憶部222と、凹凸領域抽出部224と、画像正規化部226と、パッチ抽出部228と、特徴選択パラメータ記憶部230と、画像特徴抽出部232と、凹凸模様摩耗データ記憶部234と、摩耗度推定器学習部236と、摩耗度推定器記憶部238と、を備えている。
画像記憶部222には、入力部210において受け付けた、凹凸模様の画像の集合が記憶されている。
凹凸領域抽出部224は、本実施の形態に係る画像特徴選択装置100の凹凸領域抽出部24と同様に、画像記憶部222に記憶されている画像iの各々について、当該画像iから推定対象となる領域の凹凸模様領域を抽出する。
画像正規化部226は、本実施の形態に係る画像特徴選択装置100の画像正規化部26と同様に、凹凸領域抽出部224において取得した、画像i毎の凹凸模様領域の各々について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整し正規化する。
パッチ抽出部228は、画像iの各々について、図5に示すように、当該画像iの凹凸模様領域から、局所的に摩耗度を推定するための一定サイズのパッチ画像の各々を網羅的に取得する。
特徴選択パラメータ記憶部230には、本実施の形態に係る画像特徴選択装置100の特徴選択パラメータ記憶部36に記憶されている特徴選択パラメータGと同一の特徴選択パラメータGが記憶されている。
画像特徴抽出部232は、画像i毎に、パッチ抽出部228において取得したパッチ画像の各々について、特徴選択パラメータ記憶部230に記憶されている特徴選択パラメータGに応じたLBP特徴ヒストグラム及び正規化明度ヒストグラムを当該画像iの画像特徴として算出する。
まず、LBP特徴ヒストグラムの算出から説明する。具体的には、まず、画像iのパッチ画像の各々について、本実施の形態に係る画像特徴選択装置100のテクスチャ特徴抽出部28と同様に、LBP特徴ヒストグラムを取得する。次に、取得したLBP特徴ヒストグラムから、特徴選択パラメータ記憶部230に記憶されている特徴選択パラメータGに含まれるLBP特徴に対応するLBP特徴の頻度のみを取得することで、特徴選択パラメータGに応じたLBP特徴ヒストグラムを取得する。
次に、正規化明度ヒストグラムの算出について説明する。具体的には、まず、画像iのパッチ画像の各々について、下記(4)式に従って、当該パッチ画像内の全画素の輝度値をヒストグラム化する。
ここで、I^が当該パッチ画像の輝度値を並べたベクトル、mが当該パッチ画像の輝度値を並べたベクトルの平均値、sが標準偏差を示すパラメータである。また、I^が正規化された輝度値ベクトルであり、当該正規化された輝度値ベクトルI^に基づいて、一定幅の正規化明度ヒストグラムを算出する。ここで、一定幅とは、予め定められた一定の範囲の正規化された輝度値を表す。なお、記号の後ろに「^」がついている記号はベクトルを表す。
凹凸模様摩耗データ記憶部234には、入力部210において受け付けた画像集合に含まれる画像iの各々の部分毎に対応した凹凸模様摩耗データが、画像iに対応づけられて記憶されている。
摩耗度推定器学習部236は、画像i毎に、当該画像iに含まれるパッチ画像の各々について、凹凸模様摩耗データ記憶部234に記憶されている当該画像iのパッチ画像部分に対応する凹凸模様摩耗データと、画像特徴抽出部232において取得した、当該パッチ画像の特徴選択パラメータGに応じたLBP特徴ヒストグラム及び正規化明度ヒストグラムとを対応づけて、出力部290に出力すると共に、摩耗度推定器記憶部238に記憶する。なお、パッチ画像部分に対応する凹凸模様摩耗データを、画像iの部分毎の凹凸模様摩耗データのうち、最もパッチ画像と近い部分の凹凸模様摩耗データとする。また、摩耗度推定器記憶部238に記憶されているパッチ画像毎の、当該パッチ画像部分に対応する凹凸模様摩耗データと、LBP特徴ヒストグラム及び正規化明度ヒストグラムとの組み合わせの集合を摩耗度推定器のパラメータとする。なお、LBP特徴ヒストグラム及び正規化明度ヒストグラムとの組み合わせを特徴ベクトルとする。
摩耗度推定器記憶部238には、摩耗度推定器学習部236により取得した摩耗度推定器のパラメータが記憶されている。
<本発明の実施の形態に係る摩耗度推定装置の構成>
次に、本発明の実施の形態に係る摩耗度推定装置の構成について説明する。図6に示すように、本実施の形態に係る摩耗度推定装置300は、CPUと、RAMと、後述する摩耗度推定処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この摩耗度推定装置300は、機能的には図6に示すように入力部310と、演算部320と、出力部390とを備えている。
入力部310は、摩耗度を推定する対象物となるマンホールの画像を受け付ける。
演算部320は、凹凸領域抽出部322と、画像正規化部324と、パッチ抽出部326と、特徴選択パラメータ記憶部328と、画像特徴抽出部330と、摩耗度推定器記憶部332と、局所摩耗度推定部334と、大域統合部336と、を備えている。
凹凸領域抽出部322は、本実施の形態に係る画像特徴選択装置100の凹凸領域抽出部24と同様に、入力部310において受け付けた画像について、当該画像から推定対象物を表す凹凸模様領域を抽出する。
画像正規化部324は、本実施の形態に係る画像特徴選択装置100の画像正規化部26と同様に、凹凸領域抽出部322において取得した、画像の凹凸模様領域について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整し正規化する。
パッチ抽出部326は、本実施の形態に係る摩耗度推定器学習装置200のパッチ抽出部228と同様に、入力部310において受け付けた画像について、当該画像の凹凸模様領域から、局所的に摩耗度を推定するための一定サイズのパッチ画像の各々を網羅的に取得する。
特徴選択パラメータ記憶部328には、本実施の形態に係る画像特徴選択装置100の特徴選択パラメータ記憶部36に記憶されている特徴選択パラメータGと同一の特徴選択パラメータGが記憶されている。
画像特徴抽出部330は、入力部310において受け付けた画像のパッチ抽出部326において取得したパッチ画像の各々について、特徴選択パラメータ記憶部328に記憶されている特徴選択パラメータGに応じたLBP特徴ヒストグラム及び正規化明度ヒストグラムを特徴として算出する。
摩耗度推定器記憶部332には、第2の実施の形態に係る摩耗度推定器記憶部238に記憶されている、摩耗度推定器のパラメータと同一の摩耗度推定器のパラメータが記憶されている。
局所摩耗度推定部334は、入力部310において受け付けた画像のパッチ画像の各々について、画像特徴抽出部330において取得した当該パッチ画像の特徴選択パラメータGに応じたLBP特徴ヒストグラム及び正規化明度ヒストグラムと、摩耗度推定器記憶部332に記憶されている摩耗度推定器のパラメータとに基づいて、k近傍法などのパターン認識手法を用いて、当該パッチ画像の凹凸の摩耗度を算出する。
大域統合部336は、局所摩耗度推定部334において取得された、各パッチ画像の凹凸の摩耗度に基づいて、入力部310において受け付けた画像の凹凸の摩耗度を算出する。具体的には、各パッチ画像の凹凸の摩耗度の画像全体での平均を算出し、算出した値を画像全体の凹凸の摩耗度とする。
<本発明の実施の形態に係る画像特徴選択装置の作用>
次に、本発明の実施の形態に係る画像特徴選択装置100の作用について説明する。まず、入力部10において、推定対象物を表す凹凸模様の画像iの集合を受け付け、画像記憶部22に記憶する。また、入力部10において、画像iの各々に対応した凹凸模様摩耗データを受け付け、凹凸模様摩耗データ記憶部32に記憶する。そして、画像特徴選択装置100は、画像記憶部22から画像集合を読み込むと、図7に示す画像特徴選択処理ルーチンを実行する。
まず、ステップS100では、凹凸模様摩耗データ記憶部32に記憶されている、画像iの各々に対応する凹凸模様摩耗データの各々を読み込む。
次に、ステップS102では、読み込んだ画像集合に含まれる画像から処理対象となる画像iを決定する。
次に、ステップS104では、処理対象となる画像iについて、推定対象物の領域となる凹凸模様領域を抽出する。
次に、ステップS106では、ステップS104において取得した、処理対象となる画像iの凹凸模様領域について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整し、正規化する。
次に、ステップS108では、処理対象となる画像iの、ステップS106において取得した正規化された凹凸模様領域に含まれる画素の内、処理対象となる画素を決定する。
次に、ステップS110では、処理対象となる画素について、上記(1)式に従って、LBP特徴を算出する。
次に、ステップS112では、処理対象となる画素の全てについてステップS110の処理を終了したか否かを判定する。処理対象となる画素の全てについてステップS110の処理を終了している場合には、ステップS114へ移行する。一方、処理対象となる画素の全てについてステップS110の処理を終了していない場合には、ステップS108へ移行し、処理対象となる別の画素を決定し、ステップS110〜ステップS112の処理を繰り返す。
次に、ステップS114では、ステップS110において取得した画素の各々についてのLBP特徴に基づいて、処理対象となる画像iのLBP特徴ヒストグラムを作成する。
次に、ステップS116では、ステップS114において取得した、処理対象となる画像iのLBP特徴の総和を算出する。
次に、ステップS118では、ステップS114において取得したLBP特徴ヒストグラムの内、ステップS120の処理対象となっておらず、かつ、LBP特徴の検出量が一番大きいLBP特徴を、処理対象となるLBP特徴として決定する。
次に、ステップS120では、ステップS118において取得したLBP特徴の検出量の値を初期値0、又は前回のステップS120において取得した値に加算する。
次に、ステップS122では、ステップS120において取得した値が、ステップS116において取得したLBP特徴の検出量の総和の一定割合を超えたか否かを判定する。ステップS120において取得した値が、ステップS116において取得したLBP特徴の検出量の総和の一定割合を超えた場合には、ステップS124へ移行する。一方、ステップS120において取得した値が、ステップS116において取得したLBP特徴の検出量の総和の一定割合未満である場合には、ステップS118へ移行し、処理対象となる別のLBP特徴を決定し、ステップS120〜ステップS122の処理を繰り返す。
次に、ステップS124では、ステップS118において決定したLBP特徴の各々をまとめて、当該画像iの支配的特徴Dと決定する。
次に、ステップS126では、処理対象となる全ての画像iについてステップS102〜ステップS124までの処理を終了したか否かを判定する。処理対象となる全ての画像iについてステップS102〜ステップS124までの処理を終了している場合には、ステップS128へ移行する。一方、処理対象となる全ての画像iについてステップS102〜ステップS124までの処理を終了していない場合には、ステップS102へ移行し、処理対象となる別の画像iを決定し、ステップS104〜ステップS126までの処理を繰り返す。
次に、ステップS128では、ステップS100において取得した画像iの各々についての凹凸模様摩耗データに基づいて、画像iの各々の凹凸の高さの順に、ステップS124において取得した画像iの各々の支配的特徴Dを整列する。
次に、ステップS130では、処理対象となる画像iを決定する。
次に、ステップS132では、ステップS128において取得した整列された支配的特徴Dと、ステップS100において取得した画像iの各々についての凹凸模様摩耗データとに基づいて、処理対象となる画像iに対して、凹凸の高さの差がT以下となる画像の集合に含まれる画像jの各々の支配的特徴Dを、処理対象となる画像iの近傍支配的特徴セットとして取得する。
次に、ステップS134では、処理対象となる画像iの近傍支配的特徴セットに基づいて、上記(2)式に従って、周辺共通特徴セットLを算出する。
次に、ステップS136では、処理対象となる全ての画像についてステップS134の処理を終了したか否かを判定する。処理対象となる全ての画像についてステップS134の処理を終了している場合には、ステップS138へ移行する。一方、処理対象となる全ての画像についてステップS134の処理を終了していない場合には、ステップSS132へ移行し、処理対象となる別の画像iを決定し、ステップS134〜ステップS136の処理を繰り返す。
次に、ステップS138では、各画像iのステップS134において取得した周辺共通特徴セットLに基づいて、上記(3)式に従って、特徴選択パラメータGを算出する。
次に、ステップS140では、ステップS138において取得した特徴選択パラメータGを特徴選択パラメータ記憶部36に記憶する。
次に、ステップS142では、ステップS138において取得した特徴選択パラメータGを出力部90に出力して特徴選択処理ルーチンを終了する。
<本発明の実施の形態に係る摩耗度推定器学習装置の作用>
次に、本発明の実施の形態に係る摩耗度推定器学習装置200の作用について説明する。事前に、入力部210において、画像特徴選択装置100において取得した特徴選択パラメータGを受け付け、特徴選択パラメータ記憶部230に記憶しておく。そして、入力部210において、凹凸模様の画像iの集合を受け付け、画像記憶部222に記憶する。次に、入力部210において、画像iの各々の部分毎に対応した凹凸模様摩耗データを受け付け、凹凸模様摩耗データ記憶部234に記憶する。次に、摩耗度推定器学習装置200は、画像記憶部222から画像集合を読み込むと、図8に示す摩耗度推定器学習処理ルーチンを実行する。
まず、ステップS200では、凹凸模様摩耗データ記憶部234に記憶されている、画像iの各々の部分毎に対応する凹凸模様摩耗データの各々を読み込む。
次に、ステップS202では、特徴選択パラメータ記憶部230に記憶されている特徴選択パラメータGを読み込む。
次に、ステップS204では、読み込んだ画像集合に含まれる画像から処理対象となる画像iを決定する。
次に、ステップS206では、処理対象となる画像iについて、推定対象物を表す凹凸模様領域を抽出する。
次に、ステップS208では、ステップS206において取得した、処理対象となる画像iの凹凸模様領域について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整し、正規化する。
次に、ステップS210では、ステップS208において取得した、処理対象となる画像iの正規化された凹凸模様領域から、一定サイズのパッチ画像の各々を網羅的に取得する。
次に、ステップS212では、ステップS210において取得した画像iのパッチ画像の各々から、処理対象となるパッチ画像を決定する。
次に、ステップS214では、処理対象となるパッチ画像の内、処理対象となる画素を決定する。
次に、ステップS216では、処理対象となる画素について、上記(1)式に従って、LBP特徴を算出する。
次に、ステップS218では、処理対象となる画素の全てについてステップS216の処理を終了したか否かを判定する。処理対象となる画素の全てについてステップS216の処理を終了している場合には、ステップS220へ移行する。一方、処理対象となる画素の全てについてステップS216の処理を終了していない場合には、ステップS214へ移行し、処理対象となる別の画素を決定し、ステップS216〜ステップS218の処理を繰り返す。
次に、ステップS220では、ステップS216において取得した画素の各々についてのLBP特徴に基づいて、処理対象となるパッチ画像のLBP特徴ヒストグラムを作成する。
次に、ステップS222では、ステップS220において取得したLBP特徴ヒストグラムから、ステップS202において取得した特徴選択パラメータGに含まれるLBP特徴に該当するLBP特徴の頻度のみを抽出したLBP特徴ヒストグラムを取得する。
次に、ステップS224では、処理対象となるパッチ画像に含まれる画素の輝度値を並べたベクトルI^を取得する。
次に、ステップS226では、ステップS224において取得したベクトルI^に基づいて、ベクトルI^の平均値mを取得する。
次に、ステップS228では、ステップS224において取得したベクトルI^と、ステップS226において取得したベクトルI^の平均値mとに基づいて、ベクトルI^の標準偏差sを取得する。
次に、ステップS230では、ステップS224において取得したベクトルI^と、ステップS226において取得した平均値mと、ステップS228において取得した標準偏差sとに基づいて、上記(4)式に従って、正規化された輝度値ベクトルI^を算出する。
次に、ステップS232では、ステップS230において取得した正規化された輝度値ベクトルI^と、予め定められた一定の範囲の値と、に基づいて、正規化明度ヒストグラムを算出する。
次に、ステップS234では、処理対象となるパッチ画像の全てについてステップS214〜ステップS232の処理を終了したか否かを判定する。処理対象となるパッチ画像の全てについてステップS214〜ステップS232の処理を終了している場合には、ステップS236へ移行する。一方、処理対象となるパッチ画像の全てについてステップS214〜ステップS232の処理を終了していない場合には、ステップS212へ移行し、処理対象となる別のパッチ画像を決定し、ステップS214〜ステップS234の処理を繰り返す。
次に、ステップS236では、処理対象となる画像の全てについてステップS206〜ステップS234の処理を終了したか否かを判定する。処理対象となる画像の全てについてステップS206〜ステップS234の処理を終了している場合には、ステップS236へ移行する。一方、処理対象となる画像の全てについてステップS206〜ステップS234の処理を終了していない場合には、ステップS204へ移行し、処理対象となる別の画像iを決定し、ステップS206〜ステップS236の処理を繰り返す。
次に、ステップS238では、ステップS222において取得した、画像iの各々のパッチ画像毎のLBP特徴ヒストグラム、及びステップS232において取得した、画像iの各々のパッチ画像毎の正規化明度ヒストグラムと、ステップS200において取得した画像iの各々のパッチ画像に対応する凹凸模様摩耗データとの組み合わせの各々を摩耗度推定器のパラメータとして学習する。
次に、ステップS240では、ステップS238で取得した摩耗度推定器のパラメータを摩耗度推定器記憶部238に記憶する。
次に、ステップS242では、ステップS238で取得した摩耗度推定器を出力部290に出力して摩耗度推定器学習処理ルーチンを終了する。
<本発明の実施の形態に係る摩耗度推定装置の作用>
次に、本発明の実施の形態に係る摩耗度推定装置300の作用について説明する。まず、事前に入力部310において、画像特徴選択装置100において取得した特徴選択パラメータGを受け付け、特徴選択パラメータ記憶部328に記憶し、また、入力部310において、摩耗度推定器学習装置200において取得した摩耗度推定器のパラメータを受け付け、摩耗度推定器記憶部332に記憶する。そして、入力部310において、検出対象となる画像を受け付けると、摩耗度推定装置300は、図9に示す摩耗度推定処理ルーチンを実行する。
まず、ステップS300では、摩耗度推定器記憶部332に記憶されている摩耗度推定器のパラメータを読み込む。
次に、ステップS302では、特徴選択パラメータ記憶部328に記憶されている特徴選択パラメータGを読み込む。
次に、ステップS304では、受け付けた画像について、推定対象物を表す凹凸模様領域を抽出する。
次に、ステップS306では、ステップS304において取得した、受け付けた画像の凹凸模様領域について、推定対象物であるマンホールの鉄蓋の大きさに合わせて画像サイズを調整し、正規化する。
次に、ステップS308では、ステップS306において取得した、受け付けた画像の正規化された凹凸模様領域から、一定サイズのパッチ画像の各々を網羅的に取得する。
次に、ステップS310では、ステップS308において取得した画像のパッチ画像の各々から、処理対象となるパッチ画像を決定する。
次に、ステップS312では、処理対象となるパッチ画像の内、処理対象となる画素を決定する。
次に、ステップS314では、処理対象となる画素について、上記(1)式に従って、LBP特徴を算出する。
次に、ステップS316では、処理対象となる画素の全てについてステップS314の処理を終了したか否かを判定する。処理対象となる画素の全てについてステップS314の処理を終了している場合には、ステップS318へ移行する。一方、処理対象となる画素の全てについてステップS314の処理を終了していない場合には、ステップS312へ移行し、処理対象となる別の画素を決定し、ステップS314〜ステップS316の処理を繰り返す。
次に、ステップS318では、ステップS314において取得した画素の各々についてのLBP特徴に基づいて、処理対象となるパッチ画像のLBP特徴ヒストグラムを作成する。
次に、ステップS320では、ステップS318において取得したLBP特徴ヒストグラムから、ステップS302において取得した特徴選択パラメータGに含まれるLBP特徴に該当するLBP特徴の頻度のみを抽出したLBP特徴ヒストグラムを取得する。
次に、ステップS322では、処理対象となるパッチ画像に含まれる画素の輝度値を並べたベクトルI^を取得する。
次に、ステップS324では、ステップS322において取得したベクトルI^に基づいて、ベクトルI^の平均値mを取得する。
次に、ステップS326では、ステップS322において取得したベクトルI^と、ステップS324において取得したベクトルI^の平均値mとの基づいて、ベクトルI^の標準偏差sを取得する。
次に、ステップS328では、ステップS322において取得したベクトルI^と、ステップS324において取得した平均値mと、ステップS326において取得した標準偏差sとに基づいて、上記(4)式に従って、正規化された輝度値ベクトルI^を算出する。
次に、ステップS330では、ステップS328において取得した正規化された輝度値ベクトルI^と、予め定められた一定の範囲の値と、に基づいて、正規化明度ヒストグラムを算出する。
次に、ステップS332では、処理対象となるパッチ画像の全てについてステップS312〜ステップS330の処理を終了したか否かを判定する。処理対象となるパッチ画像の全てについてステップS312〜ステップS330の処理を終了している場合には、ステップS334へ移行する。一方、処理対象となるパッチ画像の全てについてステップS312〜ステップS330の処理を終了していない場合には、ステップS310へ移行し、処理対象となる別のパッチ画像を決定し、ステップS312〜ステップS332の処理を繰り返す。
次に、ステップS334では、ステップS320において取得した、受け付けた画像のパッチ画像毎のLBP特徴ヒストグラム、及びステップS330において取得した、受け付けた画像のパッチ画像毎の正規化明度ヒストグラムと、ステップS300において取得した摩耗度推定器のパラメータとに基づいて、パッチ画像毎の凹凸の摩耗度を算出する。
次に、ステップS336では、ステップS320において取得した、パッチ画像毎の凹凸の摩耗度の平均値を、受け付けた画像全体の凹凸の摩耗度として算出する。
次に、ステップS338では、ステップS336で取得した凹凸の摩耗度を結果として、出力部390に出力して摩耗度推定処理ルーチンを終了する。
<実験例>
図10に、マンホールの鉄蓋画像に、本実施の形態に係る摩耗度推定装置300を適用した結果を示す。図10の摩耗度が白から黒の色マップで表されているが、摩耗したマンホールは全体が黒っぽく推定されていることがわかる。
以上説明したように、本実施の形態に係る画像特徴選択装置によれば、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、局所的なテクスチャパターンを抽出し、複数の画像に対し、局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、凹凸の摩耗度が近傍となる画像集合の各々に対し、支配的特徴セットで共通する局所的なテクスチャパターンを取り出し、取り出された局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する局所的なテクスチャパターンとして抽出することにより、精度よく摩耗度を推定するためのパターンを抽出することができる。
また、本実施の形態に係る摩耗度推定器学習装置によれば、入力された、推定対象物を表す画像内のパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々についての画像特徴と、パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶することにより、精度よく摩耗度を推定することができるパラメータを学習することができる。
また、本実施の形態に係る摩耗推定装置によれば、入力された、推定対象物を表す画像内のパッチ画像毎に、予め定められた凹凸の摩耗度と関連する局所的なテクスチャパターンと、正規化明度ヒストグラムとを、パッチ画像の画像特徴として抽出し、パッチ画像の各々について、パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、パッチ画像に対応する部分の凹凸の摩耗度を推定することにより、精度よく凹凸の摩耗度を推定することができる。
また、現在実用に堪える画像ベースの摩耗検知技術として、屋外での雑多な撮影環境において頑健に凹凸の摩耗度が推定できる。
また、撮影画像の凹凸模様領域のうち一部が摩耗しているという場合においても、適切な推定結果を出力することができるため、画像中の部分的な摩耗領域の検出に関しても解決することができる。
また、デジタルカメラによって屋外において撮影された凹凸模様を持つ物体に対して、その凹凸部分の摩耗度を頑健かつ高精度に推定することができる。また、撮影領域のうち一部分が摩耗している場合にも適切に部分的な摩耗を検知することができる。これによって、凹凸模様の摩耗に関する設備の劣化点検作業を大幅に効率化することができる。
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
例えば、本実施の形態においては、推定対象がマンホールの場合について説明したが、摩耗度の推定対象はこれに限定されるものではない。
また、本実施の形態においては、画像に対応した凹凸の摩耗度(凹凸模様の高さ)を凹凸模様摩耗データとする場合について説明したが、これに限定されるものではない。例えば、画像に対応した凹凸の摩耗の度合いを示す値を凹凸模様摩耗データとしてもよい。
また、本実施の形態においては、推定対象物を表す凹凸模様領域を抽出する際に、既知の各種物体検出手法や、前景領域抽出手法を用いる場合について説明したが、これに限定されるものではない。例えば、図11に示すように、画像に対して目視による領域選択をすることによって領域抽出をしてもよい。
また、本実施の形態においては、選択特徴統合部34において、画像i毎に、周辺共通特徴セットLを取得し、当該周辺共通特徴セットLに基づいて特徴選択パラメータGを取得する場合について説明したが、これに限定されるものではない。例えば、選択特徴統合部34における統合処理において、摩耗度データを一定区間に区切ることで疑似的なクラス分けを構成し、クラスごとの論理積を算出した後に全体の論理和を算出してもよい。
また、本実施の形態においては、式(4)におけるパラメータsについて、標準偏差を用いる場合について説明したが、これに限定されるものではない。例えば、パラメータsに固定値を用いてもよい。
また、本実施の形態においては、画像からパッチ画像を取得する際に、画像内の画素が重複しないようにパッチ画像を取得する場合について説明したが、これに限定されるものではない。例えば、画像内の画素が重複してパッチ画像を取得してもよい。
また、本実施の形態においては、画像全体の凹凸の摩耗度を算出する際に、当該画像から取得されたパッチ画像の各々の凹凸の摩耗度の平均値を、当該画像全体の凹凸の摩耗度とする場合について説明したが、これに限定されるものではない。例えば、当該画像から取得されたパッチ画像の各々の凹凸の摩耗度に当該パッチ画像の位置に応じた重みづけをした値の平均値を、当該画像全体の凹凸の摩耗度としてもよい。
また、本実施の形態において、画像全体の凹凸の摩耗度を算出する場合について説明したが、これに限定されるものではない。例えば、画像中の部分的な凹凸の摩耗度を把握したい場合、画像全体におけるパッチ画像の凹凸の摩耗度の統合は行わず、把握したい画像の一部の領域に属するパッチ画像の凹凸の摩耗度に限定して平均値を算出してもよい。
また、本実施の形態においては、画像特徴選択装置100、摩耗度推定器学習装置200、及び摩耗度推定装置300を別々の装置として構成する場合について説明したが、これに限定されるものではない。例えば、画像特徴選択装置100と摩耗度推定器学習装置200とを併せて摩耗度推定器学習装置として構成してもよく、画像特徴選択装置100、摩耗度推定器学習装置200、及び摩耗度推定装置300を1つの摩耗度推定装置として構成してもよい。
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能であるし、ネットワークを介して提供することも可能である。
10 入力部
20 演算部
22 画像記憶部
24 凹凸領域抽出部
26 画像正規化部
28 テクスチャ特徴抽出部
30 支配的特徴抽出部
32 凹凸模様摩耗データ記憶部
34 選択特徴統合部
36 特徴選択パラメータ記憶部
90 出力部
100 画像特徴選択装置
200 摩耗度推定器学習装置
210 入力部
220 演算部
222 画像記憶部
224 凹凸領域抽出部
226 画像正規化部
228 パッチ抽出部
230 特徴選択パラメータ記憶部
232 画像特徴抽出部
234 凹凸模様摩耗データ記憶部
236 摩耗度推定器学習部
238 摩耗度推定器記憶部
290 出力部
300 摩耗度推定装置
310 入力部
320 演算部
322 凹凸領域抽出部
324 画像正規化部
326 パッチ抽出部
328 特徴選択パラメータ記憶部
330 画像特徴抽出部
332 摩耗度推定器記憶部
334 局所摩耗度推定部
336 大域統合部
390 出力部

Claims (7)

  1. 入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、前記画像に含まれる画素の各々について局所的なテクスチャパターンを抽出するテクスチャ特徴抽出部と、
    前記複数の画像に対し、前記テクスチャ特徴抽出部において前記画像から抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出する支配的特徴抽出部と、
    前記凹凸の摩耗度が近傍となる画像集合の各々に対し、前記画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する前記局所的なテクスチャパターンとして抽出する選択特徴統合部と、
    を含む、画像特徴選択装置。
  2. 入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、請求項1記載の画像特徴選択装置によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出する画像特徴抽出部と、
    前記パッチ画像の各々について、前記画像特徴抽出部により抽出された、前記パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、前記パッチ画像に対応する部分の摩耗度を推定する局所摩耗度推定部と、
    を含む、摩耗度推定装置。
  3. 入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、請求項1記載の画像特徴選択装置によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出する画像特徴抽出部と、
    前記画像特徴抽出部により抽出された前記パッチ画像の各々についての画像特徴と、前記パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶する摩耗度推定器学習部と、
    を含む、摩耗度推定器学習装置。
  4. テクスチャ特徴抽出部と、支配的特徴抽出部と、選択特徴統合部と、を含む画像特徴選択装置における画像特徴選択方法であって、
    前記テクスチャ特徴抽出部は、入力された、凹凸の摩耗度が予め付与され、かつ、推定対象物を表す複数の画像に対し、前記画像に含まれる画素の各々について局所的なテクスチャパターンを抽出し、
    前記支配的特徴抽出部は、前記複数の画像に対し、前記テクスチャ特徴抽出部において前記画像から抽出された前記局所的なテクスチャパターンのうち、頻出する局所的なテクスチャパターンの各々を支配的特徴セットとして抽出し、
    前記選択特徴統合部は、前記凹凸の摩耗度が近傍となる画像集合の各々に対し、前記画像集合から抽出された支配的特徴セットで共通する前記局所的なテクスチャパターンを取り出し、前記画像集合の各々に対して取り出された前記局所的なテクスチャパターンの和集合を、凹凸の摩耗度と関連する前記局所的なテクスチャパターンとして抽出する、
    画像特徴選択方法。
  5. 画像特徴抽出部と、局所摩耗度推定部と、を含む摩耗度推定装置における摩耗度推定方法であって、
    前記画像特徴抽出部は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、請求項4記載の画像特徴選択方法によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出し、
    前記局所摩耗度推定部は、前記パッチ画像の各々について、前記画像特徴抽出部により抽出された、前記パッチ画像の画像特徴と、予め学習された、凹凸の摩耗度を推定するための摩耗度推定器のパラメータと、に基づいて、前記パッチ画像に対応する部分の摩耗度を推定する、
    摩耗度推定方法。
  6. 画像特徴抽出部と、摩耗度推定器学習部と、を含む摩耗度推定器学習装置における摩耗度推定器学習方法であって、
    前記画像特徴抽出部は、入力された、推定対象物を表す画像内の予め定められたサイズのパッチ画像であって、かつ、凹凸の摩耗度が予め付与されたパッチ画像毎に、前記パッチ画像に含まれる画素の各々について取得される、請求項4記載の画像特徴選択方法によって抽出された、前記凹凸の摩耗度と関連する局所的なテクスチャパターンの頻度を表す特徴ヒストグラムと、前記パッチ画像に含まれる画素の各々について取得される、前記パッチ画像の画素の輝度値の平均値及び標準偏差を用いて正規化した輝度値から算出される正規化明度ヒストグラムとを、前記パッチ画像の画像特徴として抽出し、
    前記摩耗度推定器学習部は、前記画像特徴抽出部により抽出された前記パッチ画像の各々についての画像特徴と、前記パッチ画像に付与された凹凸の摩耗度との組み合わせを、凹凸の摩耗度を推定するための摩耗度推定器のパラメータとして記憶する、
    摩耗度推定器学習方法。
  7. コンピュータを、請求項1記載の画像特徴選択装置、請求項記載の摩耗度推定装置、又は請求項記載の摩耗度推定器学習装置を構成する各部として機能させるためのプログラム。
JP2014231715A 2014-11-14 2014-11-14 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム Active JP6031490B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014231715A JP6031490B2 (ja) 2014-11-14 2014-11-14 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014231715A JP6031490B2 (ja) 2014-11-14 2014-11-14 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2016095235A JP2016095235A (ja) 2016-05-26
JP6031490B2 true JP6031490B2 (ja) 2016-11-24

Family

ID=56069921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014231715A Active JP6031490B2 (ja) 2014-11-14 2014-11-14 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6031490B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7092989B2 (ja) * 2018-02-26 2022-06-29 日本電信電話株式会社 異常判定装置、異常判定方法及び異常判定プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4206952B2 (ja) * 2004-03-30 2009-01-14 能美防災株式会社 タイヤ損傷検出システム
JP4984434B2 (ja) * 2005-05-25 2012-07-25 横浜ゴム株式会社 レースタイヤ摩耗予測装置
JP2015191572A (ja) * 2014-03-28 2015-11-02 株式会社パスコ マンホール検出装置、マンホール検出方法及びプログラム
JP2015197376A (ja) * 2014-04-01 2015-11-09 日本電信電話株式会社 摩耗検出装置、方法、及びプログラム

Also Published As

Publication number Publication date
JP2016095235A (ja) 2016-05-26

Similar Documents

Publication Publication Date Title
US9269155B2 (en) Region growing method for depth map/color image
JP6099457B2 (ja) 画像処理装置、領域決定方法及びコンピュータプログラム
JP2008286725A (ja) 人物検出装置および方法
CN109816645B (zh) 一种钢卷松卷的自动检测方法
US20130342694A1 (en) Method and system for use of intrinsic images in an automotive driver-vehicle-assistance device
EP2743861A2 (en) Method and device for detecting continuous object in disparity direction based on disparity map
CN107274452B (zh) 一种痘痘自动检测方法
JP6473844B1 (ja) ひび割れ検出装置、ひび割れ検出方法およびひび割れ検出プログラム
JP6338429B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
CN112561890A (zh) 图像清晰度的计算方法、装置和计算机设备
JP2015197376A (ja) 摩耗検出装置、方法、及びプログラム
CN106530273B (zh) 高精度fpc直线线路检测与缺陷定位方法
JP6031490B2 (ja) 摩耗推定装置、摩耗推定器学習装置、画像特徴選択装置、方法、及びプログラム
JP2017500662A (ja) 投影ひずみを補正するための方法及びシステム
JP6274876B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20060007505A1 (en) Bound document scanning method and apparatus
KR102444544B1 (ko) 영상의 전처리 방법 및 장치
JP2007272457A5 (ja)
JP4941843B2 (ja) 路面標示画像処理装置、路面標示画像処理方法並びに路面標示画像処理プログラム
WO2017188960A1 (en) Extracting a document page image from an electronically scanned image having a non-uniform background content
KR101380329B1 (ko) 영상의 변화를 검출하는 방법
Ross et al. A method to quantify a descriptor's illumination variance
CN110532993B (zh) 一种人脸防伪方法、装置、电子设备及介质
US11308624B2 (en) Adhered substance detection apparatus
CN114022856A (zh) 一种非结构化道路可行驶区域识别方法、电子设备及介质

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160412

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161024

R150 Certificate of patent or registration of utility model

Ref document number: 6031490

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150