JPWO2020145004A1 - 撮影ガイド装置 - Google Patents

撮影ガイド装置 Download PDF

Info

Publication number
JPWO2020145004A1
JPWO2020145004A1 JP2020565638A JP2020565638A JPWO2020145004A1 JP WO2020145004 A1 JPWO2020145004 A1 JP WO2020145004A1 JP 2020565638 A JP2020565638 A JP 2020565638A JP 2020565638 A JP2020565638 A JP 2020565638A JP WO2020145004 A1 JPWO2020145004 A1 JP WO2020145004A1
Authority
JP
Japan
Prior art keywords
image
shooting
registered
candidate
dimensional shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020565638A
Other languages
English (en)
Inventor
巡 高田
中野 学
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020145004A1 publication Critical patent/JPWO2020145004A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/247Aligning, centring, orientation detection or correction of the image by affine transforms, e.g. correction due to perspective effects; Quadrilaterals, e.g. trapezoids
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01HMEASUREMENT OF MECHANICAL VIBRATIONS OR ULTRASONIC, SONIC OR INFRASONIC WAVES
    • G01H17/00Measuring mechanical vibrations or ultrasonic, sonic or infrasonic waves, not provided for in the preceding groups
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M99/00Subject matter not provided for in other groups of this subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/02Recognising information on displays, dials, clocks

Abstract

撮影ガイド装置は、検出手段と出力手段とを有する。検出手段は、構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、撮影候補位置と所定の撮影位置との位置の差を検出する。出力手段は、検出手段によって検出された位置の差を示す情報を出力する。

Description

本発明は、撮影ガイド装置、撮影ガイド方法、および記録媒体に関する。
橋梁などの構造物を撮像装置で撮影した画像を解析して、構造物の健全性の診断を行う技術が、種々提案されている(例えば、特許文献1、2参照)。
また、特許文献3に、前回測定点の位置の特定を迅速、正確、容易に行えるようにする診断装置が提案されている。具体的には、診断装置は、測定する位置を検出して、コンピュータに入力するGPS受信機を備える。また診断装置は、測定位置情報、測定データ、測定条件等をデータベースに格納して一元管理する。また診断装置は、GPS受信機で測定した現在位置を中心として、所定範囲内にある過去の測定点情報をデータベースから検索して表示し、測定者が前回測定位置を特定する作業を支援する。
特開2006−162477号公報 特許6379475号公報 特開2003−194757号公報 再表2015/159469
ところで、カメラ等の計測装置群に長期耐候性を付与することは一般に困難である。また、コスト軽減のために同じ計測装置群を複数の構造物の点検・診断で共用しなければならないことがある。そのため、橋梁などの構造物に計測装置群を常設することができないことがある。そのような状況では、数か月に1度といった周期でオペレータが計測装置群を診断対象となる構造物の近くまで運んで設置し、計測を実施することになる。その場合、経年変化による劣化診断を精度良く実施するためには、毎回、同じ撮影位置から構造物の同じ箇所を撮影する必要がある。しかしながら、GPSで計測される位置にはある程度の誤差が含まれている。また橋梁などの構造物の近傍ではGPSの精度が劣化する。そのため、構造物を毎回同じ撮影位置から撮影するのは困難であった。
本発明の目的は、上述した課題を解決する撮影ガイド装置を提供することにある。
本発明の一形態に係る撮影ガイド装置は、
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する検出手段と、
前記検出された位置の差を示す情報を出力する出力手段と、
を含む。
また本発明の他の形態に係る撮影ガイド方法は、
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出し、
前記検出された位置の差を示す情報を出力する。
また本発明の他の形態に係るコンピュータ読み取り可能な記録媒体は、
コンピュータに、
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する処理と、
前記検出された位置の差を示す情報を出力する処理と、
を行わせるためのプログラムを記録する。
本発明は上述した構成を有することにより、構造物を毎回同じ撮影位置から撮影することができる。
本発明の第1の実施形態に係る診断装置の構成例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの構成の一例を示すブロック図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの診断箇所データベースに記憶されている診断箇所情報のフォーマットの一例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの診断結果データベースに記憶されている診断結果情報のフォーマットの一例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータのマッチング成功時の画像マッチング結果に含まれる合成画像の幾つかの例を示す図である。 本発明の第1の実施形態に係る診断装置の動作の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される初期画面の例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータが実行する新規診断処理の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される新規診断画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータが実行する継続診断処理の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される診断箇所選択画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される撮影位置・撮影方向ガイド画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置が撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。 本発明の第2の実施形態に係る診断装置の構成例を示す図である。 本発明の第2の実施形態に係る診断装置におけるコンピュータの構成の一例を示すブロック図である。 本発明の第2の実施形態に係る診断装置におけるコンピュータの診断箇所データベースに記憶されている診断箇所情報のフォーマットの一例を示す図である。 本発明の第2の実施形態に係る診断装置におけるコンピュータのマッチング成功時のひび割れ画像マッチング結果に含まれる合成画像の幾つかの例を示す図である。 本発明の第2の実施形態に係る診断装置が撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。 本発明の第3の実施形態に係る診断装置の構成例を示す図である。 本発明の第3の実施形態に係る診断装置におけるコンピュータの構成の一例を示すブロック図である。 本発明の第3の実施形態に係る診断装置におけるコンピュータの診断箇所データベースに記憶されている診断箇所情報のフォーマットの一例を示す図である。 本発明の第3の実施形態に係る診断装置におけるコンピュータのマッチング成功時の3次元形状マッチング結果に含まれる合成画像の幾つかの例を示す図である。 本発明の第3の実施形態に係る診断装置が撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。 本発明の第4の実施形態に係る撮影ガイド装置のブロック図である。
次に本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施形態]
図1は、本発明の第1の実施形態に係る診断装置100の構成例を示す図である。図1を参照すると、診断装置100は、コンピュータ110とこれにケーブル120を介して接続されたカメラ130とから構成されている。
カメラ130は、診断対象である構造物140の表面に存在する部分領域141を所定のフレームレートで撮影する撮像装置である。構造物140は、例えば橋梁などである。部分領域141は、例えば橋梁の主桁や橋脚の診断箇所となる部分である。部分領域141のサイズは、例えば数十センチメートル乃至数メートル四方である。カメラ130は、任意の方向にカメラの撮影方向を固定できるように三脚150上の雲台151に取り付けられている。カメラ130は、例えば、数百万画素程度の画素容量を有するCCD(Charge−Coupled Device)イメージセンサやCMOS(Complementary MOS)イメージセンサを備えたハイスピードカメラであってよい。またカメラ130は、可視光かつ白黒カメラであってもよいし、赤外線カメラやカラーカメラであってもよい。またカメラ130は、カメラの位置を測定するGPS受信機を備えている。またカメラ130は、カメラの撮影方向を測定する方位センサおよび加速度センサを備えている。
コンピュータ110は、カメラ130によって撮影された構造物140の画像を取り込み、所定の画像処理を行って構造物140の健全度を判定し、その判定結果を出力する診断機能を有している。また、コンピュータ110は、数か月に1度といった所定の周期で実施する診断において、毎回、同じ撮影位置から構造物140の同じ部分領域141を撮影できるようにオペレータを支援するガイド機能を有している。
図2は、コンピュータ110の構成の一例を示すブロック図である。図2を参照すると、コンピュータ110は、カメラI/F(インターフェース)部111と、通信I/F部112と、操作入力部113と、画面表示部114と、音声出力部115と、記憶部116と、演算処理部117とから構成されている。
カメラI/F部111は、ケーブル120を通じてカメラ130に接続され、カメラ130と演算処理部117との間でデータの送受信を行うように構成されている。カメラ130は、イメージセンサや光学系などを含むメインユニット131と、前述したGPS受信機132、方位センサ133、および加速度センサ134を備えている。カメラI/F部111は、上記メインユニット131、GPS受信機132、方位センサ133、および加速度センサ134と演算処理部117との間でデータの送受信を行うように構成されている。
通信I/F部112は、データ通信回路から構成され、有線または無線を介して接続された図示しない外部装置との間でデータ通信を行うように構成されている。操作入力部113は、キーボードやマウスなどの操作入力装置から構成され、オペレータの操作を検出して演算処理部117に出力するように構成されている。画面表示部114は、LCD(Liquid Crystal Display)などの画面表示装置から構成され、演算処理部117からの指示に応じて、メニュー画面などの各種情報を画面表示するように構成されている。音声出力部115は、スピーカなどの音響出力装置から構成され、演算処理部117からの指示に応じて、ガイドメッセージなどの各種音声を出力するように構成されている。
記憶部116は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部117における各種処理に必要な処理情報およびプログラム1161を記憶するように構成されている。プログラム1161は、演算処理部117に読み込まれて実行されることにより各種処理部を実現するプログラムであり、通信I/F部112などのデータ入出力機能を介して図示しない外部装置や記録媒体から予め読み込まれて記憶部116に保存される。記憶部116に記憶される主な処理情報には、撮影位置1162、撮影方向1163、撮影画像1164、画像マッチング結果1165、診断箇所データベース1166、診断結果データベース1167がある。
撮影位置1162は、GPS受信機132で測定されたカメラの位置を表す緯度、経度、および高度と、現在時刻とを含むデータである。
撮影方向1163は、カメラ130に設けられた方位センサ133および加速度センサ134で測定されたデータに基づいて算出されたカメラ130の撮影方向を表すデータである。撮影方向1163は、カメラ130の姿勢を表すピッチ、ロール、ヨーの3つの角度から構成されている。
撮影画像1164は、カメラ130で撮影された画像である。この撮影画像1164は、カメラ130で撮影された構造物140の部分領域141の動画を構成するフレーム画像であってよい。
画像マッチング結果1165は、撮影画像1164と診断箇所データベース1166に記憶されている画像(登録画像)との間のマッチング結果を表すデータである。
診断箇所データベース1166は、過去の診断箇所に係る情報を記憶する記憶部である。図3は、診断箇所データベース1166に記憶されている診断箇所情報11661のフォーマットの一例を示す。この例の診断箇所情報11661は、診断箇所ID11662、登録日時11663、登録撮影位置11664、登録撮影方向11665、登録撮影画像11666から構成される。
診断箇所ID11662は、診断箇所を一意に識別する識別情報である。登録日時11663は、診断箇所情報11661を登録した日時である。登録撮影位置11664は、診断を行ったときのカメラ130の位置を表す緯度、経度、高度である。登録撮影方向11665は、診断を行ったときのカメラ130の姿勢を表すピッチ、ロール、ヨーの3つの角度である。登録撮影画像11666は、登録撮影位置11664から登録撮影方向11665で構造物140の部分領域141をカメラ130で撮影した画像である。
診断結果データベース1167は、診断結果に係る情報を記憶する記憶部である。図4は、診断結果データベース1167に記憶されている診断結果情報11671のフォーマットの一例を示す。この例の診断結果情報11671は、診断箇所ID11672、診断日時11673、診断結果11674から構成される。診断箇所ID11672は、診断箇所を一意に識別する識別情報である。診断日時11673は、診断を行った日時である。診断結果11674は、診断の結果を表す情報である。
演算処理部117は、MPUなどのプロセッサとその周辺回路を有し、記憶部116からプログラム1161を読み込んで実行することにより、上記ハードウェアとプログラム1161とを協働させて各種処理部を実現するように構成されている。演算処理部117で実現される主な処理部は、撮影位置取得部1171、撮影方向取得部1172、撮影画像取得部1173、画像マッチング部1174、診断部1175、制御部1176である。
撮影位置取得部1171は、カメラI/F部111を通じてGPS受信機132で測定されているカメラ130の位置および現在時刻を定期的に取得し、取得した位置で記憶部116の撮影位置1162を更新するように構成されている。
撮影方向取得部1172は、カメラI/F部111を通じて方位センサ133および加速度センサ134で測定されている方位角および縦横高さの三方向の加速度を定期的に取得するように構成されている。また撮影方向取得部1172は、取得した方位角および加速度からカメラ130の姿勢、即ち撮影方向を表すピッチ、ロール、ヨーの3つの角度を計算し、その計算結果で記憶部116の撮影方向1163を更新するように構成されている。
撮影画像取得部1173は、カメラI/F部111を通じてメインユニット131からカメラ130で撮影されている画像を取得し、取得した画像で記憶部116の撮影画像1164を更新するように構成されている。
画像マッチング部1174は、撮影画像1164と診断箇所データベース1166に記憶されている画像(登録画像)を比較し、カメラ130の位置と登録画像を取得した際のカメラ130の位置との位置の差、およびカメラ130の撮影方向と登録画像を取得した際のカメラ130の撮影方向との方向の差を検出するように構成されている。画像マッチングの具体的な手法は特に限定されない。例えば、画像類似度に基づくマッチング手法、特徴点抽出と特徴点対応付けによるマッチング手法など、任意のマッチング手法を使用することができる。以下では、画像マッチング部1174の一例を説明する。
例えば、画像マッチング部1174は、特徴点の抽出、特徴点の対応付け、幾何学的変換行列の一種であるホモグラフィ行列の推定、位置および方向の差の算出、ホモグラフィ行列に基づく画像変換、画像合成、画像マッチング結果出力をその順に実施する。
即ち、まず画像マッチング部1174は、SIFT(Scale Invariant Feature Transform)、Random等、任意の手法を用いて、撮影画像および登録画像から複数の特徴点を抽出する。次に画像マッチング部1174は、撮像画像から抽出した特徴点とそれに類似する登録画像から抽出した特徴点とを特徴点ペアとして対応付ける。所定個数以上の特徴点ペアが得られない場合、画像マッチング部1174はマッチング失敗と判断し、マッチング失敗を示す画像マッチング結果1165を記憶部116に保存して処理を終了する。所定個数以上の特徴点ペアが得られた場合、画像マッチング部1174は、対応付けられた複数の特徴点のペアに基づいて、撮影画像と登録画像間のホモグラフィ行列を算出する。
次に画像マッチング部1174は、ホモグラフィ行列から、カメラ130の位置と登録撮影位置との位置の差、およびカメラ130の撮影方向と登録撮影方向との方向の差を検出する。一般に、ホモグラフィ行列Gは、次式のように書ける。
G=dR+tnT …(1)
式1において、Rはx軸、y軸、z軸周りの3つの回転角から計算することができる回転行列、nは部分領域141の平面の法線ベクトル、tはカメラ130と登録撮影画像を撮影した際のカメラとの相対距離ベクトル、カメラと部分領域141の平面までの距離である。ホモグラフィ行列Gが推定されているので、式1からd、R、t、nを求めることができる。画像マッチング部1174は、式1から求めたtを、カメラ130の位置と登録撮影位置との位置の差として検出する。また画像マッチング部1174は、式1から求めた回転行列Rの3つの回転角を、カメラ130の撮影方向と登録撮影方向との方向の差として検出する。
次に画像マッチング部1174は、ホモグラフィ行列Gに基づき登録撮影画像を変換する。次に画像マッチング部1174は、変換後の登録撮影画像と撮影画像1164とを合成する。次に画像マッチング部1174は、マッチング成功と判断し、上記合成した画像、検出した位置および方向の差を含むマッチング成功を示す画像マッチング結果1165を作成して記憶部116に保存する。
図5は、マッチング成功時の画像マッチング結果1165に含まれる合成画像の幾つかの例を示す。それぞれの合成画像中、実線は撮影画像1164、破線は登録撮影画像を示す。
合成画像MAは、撮影画像1164の全体に適合するように同サイズの登録撮影画像が合成されている。このような合成画像は、カメラ130の位置および撮影方向が登録撮影画像のときのカメラ130の位置および撮影方向と一致していることを表している。
合成画像MBは、撮影画像1164に、相似形状かつ大サイズの登録撮影画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130の位置より構造物側に接近し過ぎていることを表している。
合成画像MCは、撮影画像1164に、相似形状かつ小サイズの登録撮影画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130の位置より構造物から遠ざかっていることを表している。
合成画像MDは、撮影画像1164に、右辺が左辺より短い登録撮影画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130より左寄りであり、且つ、その分だけ撮影方向が右寄りになっていることを表している。
上記の合成画像は一例である。カメラ130の位置および撮影方向によっては、合成画像MEに示すように、撮影画像1164および登録撮影画像のそれぞれに登録撮影画像および撮影画像1164に一致しない領域が生じることがある。
以上が、画像マッチング部1174の一構成例である。
診断部1175は、カメラ130で撮影された構造物140の画像に基づいて、構造物140の劣化診断を行うように構成されている。劣化診断の手法は特に限定されない。例えば、診断部1175は、車両の通行などにより励振された橋梁などの構造物140の部分領域141をカメラ130で高速撮影した動画を解析して表面の振動を計測し、その振動のパターンから、ひび割れ・剥離・空洞などの内部劣化状態を推定するように構成されている。また診断部1175は、推定した診断結果に係る情報を診断結果データベース1167に記憶するように構成されている。
制御部1176は、診断装置100の主たる制御を司るように構成されている。
図6は診断装置100の動作の一例を示すフローチャートである。以下、各図を参照して、構造物140の劣化診断を行う際の診断装置100の動作を説明する。
オペレータが、構造物140の劣化診断を行うために、コンピュータ110およびカメラ130などの計測装置群を現場に設置し、操作入力部113から起動指示を入力すると、制御部1176による制御が開始される。
先ず、制御部1176は、図7に示すような初期画面を画面表示部114に表示する(ステップS1)。初期画面には、新規診断ボタンと継続診断ボタンとが表示されている。新規診断ボタンは、新たに診断対象となった構造物140に対して初回の診断を行うときに選択するボタンである。これに対して継続診断ボタンは、同じ構造物140の同じ箇所に対して2回目以降の診断を行うときに選択するボタンである。以下、新規診断時の動作を説明し、その後に継続診断時の動作を説明する。
<新規診断>
オペレータが初期画面上の新規診断ボタンをオンすると、制御部1176は、そのことを検出し(ステップS2)、新規診断処理を実行する(ステップS3)。図8は新規診断処理の一例を示すフローチャートである。制御部1176は、先ず、新規診断画面を画面表示部114に表示する(ステップS11)。
図9は新規診断画面の一例を示す。この例の新規診断画面は、カメラ130で撮影されている画像を表示するモニタ画面と、登録ボタンと、診断ボタンと、終了ボタンとを有する。カメラ130で撮影されている最新の画像は、撮影画像取得部1173によってカメラ130から取得され、記憶部116に撮影画像1164として記憶されている。制御部1176は、記憶部116から撮影画像1164を取得して新規診断画面のモニタ画面に表示する。オペレータは、構造物140の診断箇所を決定し、決定した診断箇所を部分領域141とする。そして、新規診断画面のモニタ画面に部分領域141の画像が適切なサイズで表示されるように、三脚150の設置場所を調整し、また雲台151によってカメラ130の撮影方向を調整する。本実施形態ではカメラ130の画角、倍率は固定されている。そのため、オペレータは、部分領域141の画像サイズが小さい場合、三脚150を構造物140により近い位置に移動することにより、部分領域141の画像サイズを拡大する。反対に部分領域141の画像サイズが大きい場合、オペレータは、三脚150を構造物140からより遠い位置に移動することにより、部分領域141の画像サイズを縮小する。また、診断のためには部分領域141を真正面から撮影することが望ましい。
オペレータは、カメラ130の位置および撮影方向の調整を終えると、その位置と撮影方向の情報を登録する場合、登録ボタンをオンする。また、オペレータは、調整を終えた位置および撮影方向で診断を実施する場合、診断ボタンをオンする。また、オペレータは、新規診断を終了する場合には、終了ボタンをオンする。制御部1176は、終了ボタンがオンされたことを検出すると(ステップS14)、図8の処理を終える。
また制御部1176は、登録ボタンがオンされたことを検出すると(ステップS12)、新たな診断箇所情報11661を作成して診断箇所データベース1166に登録する(ステップS15)。カメラ130の現在位置および現在時刻は、撮影位置取得部1171によってGPS受信機132から取得され、記憶部116に撮影位置1162として記憶されている。またカメラ130の撮影方向は、方位センサ133および加速度センサ134から取得された方位および加速度に基づいて撮影方向取得部1172で算出され、記憶部116に撮影方向1163として記憶されている。さらにカメラ130で撮影されている画像は、撮影画像取得部1173によってカメラ130から取得され、記憶部116に撮影画像1164として記憶されている。制御部1176は、記憶部116から撮影位置1162、撮影方向1163、および撮影画像1164を取得し、それらの情報に基づいて診断箇所情報11661を作成し、診断箇所データベース1166に登録する。その際、制御部1176は、診断箇所情報11661の診断箇所ID11662に新たに採番したIDを設定し、登録日時11663には現在時刻を設定する。
また制御部1176は、診断ボタンがオンされたことを検出すると(ステップS13)、診断部1175を起動し、診断の実行を行う(ステップS16)。診断部1175は、例えば、前述したように構造物140の部分領域141をカメラ130で高速撮影した動画を解析して表面の振動を計測し、その振動のパターンから、ひび割れ・剥離・空洞などの内部劣化状態を推定する。そして、診断部1175は、推定した診断結果に係る情報を診断結果データベース1167に記憶する。制御部1176は、診断部1175の診断結果を診断結果データベース1167から読み出し、画面表示部114に表示し、または/および通信I/F部112を通じて外部の端末へ出力する(ステップS17)。
<継続診断>
オペレータが初期画面上の継続診断ボタンをオンすると、制御部1176は、そのことを検出し(ステップS4)、継続診断処理を実行する(ステップS5)。図10は継続診断処理の一例を示すフローチャートである。制御部1176は、先ず、診断箇所選択画面を画面表示部114に表示する(ステップS21)。
図11は診断箇所選択画面の一例を示す。この例の診断箇所選択画面は、マップと、選択ボタンと、終了ボタンとを有する。マップには、カメラ130の現在位置を示す現在位置アイコン(図の丸印)と、過去の撮影位置を示す過去位置アイコン(図の×印)とが表示されている。制御部1176は、カメラ130の現在位置をキーに診断箇所データベース1166を検索することにより、現在位置から所定距離内の位置を登録撮影位置11664に有する診断箇所情報11661を診断箇所データベース1166から取得する。そして、制御部1176は、取得した診断箇所情報11661の登録撮影位置11664が示す位置に過去位置アイコンを表示する。オペレータは、過去の診断箇所と同じ箇所の診断を行う場合、所望の過去位置アイコンにマウスカーソルを当てて選択ボタンをオンする。また、オペレータは、診断箇所の選択を終了する場合、終了ボタンをオンする。制御部1176は、終了ボタンがオンされたことを検出すると(ステップS22)、図10の処理を終了する。
また制御部1176は、選択ボタンがオンされたことを検出すると(ステップS23)、選択された過去位置アイコンに対応する診断箇所情報11661に基づいて撮影位置・撮影方向ガイド画面を作成し、画面表示部114に表示する(ステップS24)。
図12は撮影位置・撮影方向ガイド画面の一例を示す。この例の撮影位置・撮影方向ガイド画面は、モニタ画面と、診断箇所IDの表示欄と、撮影位置・撮影方向ガイド情報の表示欄と、診断ボタンと、終了ボタンとを有する。モニタ画面は、カメラ130の撮影画像をモニタ表示する。またモニタ画面は、カメラ130の撮影画像と登録撮影画像とのマッチング成功時には画像マッチング結果1165に含まれる前述した合成画像を表示する。撮影位置・撮影方向ガイド情報の表示欄は、カメラ130の位置と登録撮影画像を撮影したときのカメラ130の位置との位置の差、およびカメラ130の撮影方向と登録撮影画像を撮影したときのカメラ130の撮影方向との方向の差に係る情報を表示する。また制御部1176は、撮影位置・撮影方向ガイド情報の表示欄に表示した情報を音声に変換して、音声出力部115から出力する。例えば、「位置および撮影方向とも良好です」、「近づきすぎなので、後ろに下がって下さい」、「位置が右寄りなので、左に移動して下さい」、「撮影方向が右寄りなので、左に向けて下さい」といったガイドメッセージを出力する。
オペレータは、表示および音声出力された撮影位置・撮影方向ガイド情報により、カメラ130の位置および撮影方向が適切であるか否かを認識することができる。またオペレータは、表示および音声出力された撮影位置・撮影方向ガイド情報により、カメラ130の位置および撮影方向をどのように変更すればよいかを判断することができる。
制御部1176は、撮影位置・撮影方向ガイド画面の表示後、終了ボタンがオンされたかどうか(ステップS25)、診断ボタンがオンされたかどうか(ステップS26)を検出し、何れのボタンもオンされない場合、ステップS24に戻る。そのため、カメラ130の位置および撮影方向がオペレータによって変更されると、その変更に応じて撮影位置・撮影方向ガイド画面が再作成・再描画されることになる。そして、制御部1176は、診断ボタンがオンされると、診断部1175を起動し、診断の実行を行う(ステップS27)。また診断部1175の診断が終了すると、制御部1176は、診断部1175の診断結果を診断結果データベース1167から読み出し、画面表示部114に表示し、または/および通信I/F部112を通じて外部の端末へ出力する(ステップS28)。そして制御部1176は、ステップS24に戻る。他方、終了ボタンがオンされると、制御部1176は、図10の処理を終える。
図13は、図9のステップS24の詳細を示すフローチャートである。制御部1176は、先ず、選択された過去位置アイコンに対応する診断箇所情報11661から診断箇所ID、登録撮影位置、登録撮影方向、登録撮影画像を取得する(ステップS31)。次に制御部1176は、記憶部116から撮影位置1162、撮影方向1163、撮影画像1164を取得する(ステップS32)。次に制御部1176は、撮影位置1162および撮影方向1163と登録撮影位置および登録撮影方向とを比較し、両者の位置の差および方向の差を検出する(ステップS33)。次に制御部1176は、撮影画像1164と登録撮影画像との比較を画像マッチング部1174に行わせる(ステップS34)。次に制御部1176は、記憶部116から画像マッチング結果1165を取得し、マッチングに成功したか否かを判定する(ステップS35)。
次に制御部1176は、マッチングに成功した場合、画像マッチング結果1165に含まれる合成画像をモニタ画像として作成し、また画像マッチング結果1165に含まれるカメラ130の位置と登録撮影画像を撮影したときのカメラ130の位置との位置の差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラ130の撮影方向との方向の差に基づいて、撮影位置・撮影方向ガイド情報を作成する(ステップS36)。また制御部1176は、マッチングに失敗した場合、撮影画像1164をモニタ画面として作成し、ステップS33で検出した位置の差および方向の差に基づいて、撮影位置・撮影方向ガイド情報を作成する(ステップS37)。次に制御部1176は、上記作成したモニタ画面、撮影位置・撮影方向ガイド情報と、その他の画面要素とから撮影位置・撮影方向ガイド画面を組み立てて画面表示部114に表示する(ステップS38)。
以上のような処理により撮影位置・撮影方向ガイド画面が作成される。そのため、カメラ130で登録撮影画像と同じ箇所が撮影されておらずマッチングに成功しない状況では、撮影位置・撮影方向ガイド情報には、GPS受信機132で検出されたカメラ130の位置と登録撮影位置との差の情報が表示される。また、撮影位置・撮影方向ガイド情報には、方位センサ133および加速度センサ134で検出された方位および加速度によって算出されたカメラ130の撮影方向と登録撮影方向との差の情報が表示される。このような情報によって、オペレータは、カメラ130の位置と撮影方向を大まかに調整することができる。
また、カメラ130で登録撮影画像と同じ箇所が撮影されておりマッチングに成功している状況では、モニタ画面には、推定されたホモグラフィ行列を登録撮影画像に適用して変換した画像と撮影画像とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定されたホモグラフィ行列に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報に基づいて作成した撮影位置・方向ガイド情報が表示される。さらに、作成した撮影位置・方向ガイド情報が音声に変換されて出力される。そのため、オペレータは、カメラ130の位置と撮影方向を正しく微調整して、構造物140の部分領域141を登録撮影画像と正確に同じ位置から同じ撮影方向で撮影することができる。
[第2の実施形態]
次に、本発明の第2の実施形態に係る診断装置200について説明する。
図14は、本実施形態に係る診断装置200の構成例を示す図である。図14において、図1と同一符号は同一部分を示し、210はコンピュータである。コンピュータ210は、第1の実施形態における方法と同様な方法でカメラの撮影位置・方向と過去の診断箇所の位置・方向との差を検出すると共に、カメラ130で撮影した構造物140の部分領域141の画像から構造物140上のひび割れを強調したひび割れ画像を生成し、そのひび割れ画像と予め記憶している登録ひび割れ画像とを比較することにより、カメラの撮影位置・方向と過去の診断箇所の位置・方向との差を検出するように構成されている。
図15は、コンピュータ210の構成の一例を示すブロック図である。図15を参照すると、コンピュータ210は、カメラI/F部211と、通信I/F部212と、操作入力部213と、画面表示部214と、音声出力部215と、記憶部216と、演算処理部217とから構成されている。そのうち、カメラI/F部211、通信I/F部212、操作入力部213、画面表示部214、および、音声出力部215は、図1のカメラI/F部111、通信I/F部112、操作入力部113、画面表示部114、および、音声出力部115と同じである。
記憶部216は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部217における各種処理に必要な処理情報およびプログラム2161を記憶するように構成されている。プログラム2161は、演算処理部217に読み込まれて実行されることにより各種処理部を実現するプログラムであり、通信I/F部212などのデータ入出力機能を介して図示しない外部装置や記録媒体から予め読み込まれて記憶部216に保存される。記憶部216に記憶される主な処理情報には、撮影位置2162、撮影方向2163、撮影画像2164、画像マッチング結果2165、診断箇所データベース2166、診断結果データベース2167、ひび割れ画像2168、ひび割れ画像マッチング結果2169がある。そのうち、撮影位置2162、撮影方向2163、撮影画像2164、画像マッチング結果2165、診断結果データベース2167は、図2の撮影位置1162、撮影方向1163、撮影画像1164、画像マッチング結果1165、診断結果データベース1167と同じである。
ひび割れ画像2168は、カメラ130で撮影した構造物140の部分領域141の画像(撮影画像)から構造物140上のひび割れを強調した画像である。
ひび割れ画像マッチング結果2169は、カメラ130で撮影した構造物140の部分領域141の画像(撮影画像)から作成したひび割れ画像と診断箇所データベース2166に記憶されているひび割れ画像(登録ひび割れ画像)との間のマッチング結果を表すデータである。
診断箇所データベース2166は、診断箇所に係る情報を記憶する記憶部である。図16は、診断箇所データベース2166に記憶されている診断箇所情報21661のフォーマットの一例を示す。この例の診断箇所情報21661は、診断箇所ID21662、登録日時21663、登録撮影位置21664、登録撮影方向21665、登録撮影画像21666、登録ひび割れ画像21667から構成される。そのうち、診断箇所ID21662、登録日時21663、登録撮影位置21664、登録撮影方向21665、登録撮影画像21666は、図3の診断箇所ID11662、登録日時11663、登録撮影位置11664、登録撮影方向11665、登録撮影画像11666と同じである。登録ひび割れ画像21667は、登録撮影位置21664から登録撮影方向21665で構造物140の部分領域141をカメラ130で撮影した画像から生成したひび割れ画像である。
演算処理部217は、MPUなどのプロセッサとその周辺回路を有し、記憶部216からプログラム2161を読み込んで実行することにより、上記ハードウェアとプログラム2161とを協働させて各種処理部を実現するように構成されている。演算処理部217で実現される主な処理部は、撮影位置取得部2171、撮影方向取得部2172、撮影画像取得部2173、画像マッチング部2174、診断部2175、制御部2176、ひび割れ画像作成部2177、ひび割れ画像マッチング部2178である。そのうち、撮影位置取得部2171、撮影方向取得部2172、撮影画像取得部2173、画像マッチング部2174、診断部2175は、図2の撮影位置取得部1171、撮影方向取得部1172、撮影画像取得部1173、画像マッチング部1174、診断部1175と同じである。
ひび割れ画像作成部2177は、カメラ130で撮影した構造物140の部分領域141の画像(撮影画像)から構造物140上のひび割れを強調した画像を生成するように構成されている。撮影画像からひび割れ画像を生成する手法は任意である。例えば、ひび割れ画像作成部2177は、特許文献4に記載される方法、即ち、構造物上の複数の測定点における位置の変化を検出し、その検出した各測定点の位置の変化に基づいてひび割れを検出し、その検出したひび割れ部分を例えば値1、非ひび割れ部分を値0とする2値画像を生成するように構成されていてよい。またひび割れ画像作成部2177は、診断部2175における方法と同様な方法で撮影画像からひび割れを検出し、その検出したひび割れ部分を例えば値1、非ひび割れ部分を値0とする2値画像を生成するように構成されていてよい。
ひび割れ画像マッチング部2178は、ひび割れ画像2168と診断箇所データベース2166に記憶されている登録ひび割れ画像を比較し、カメラ130の位置と登録撮影画像を撮影したときのカメラ130の位置との位置の差、およびカメラ130の撮影方向と登録撮影画像を撮影したときのカメラ130の撮影方向との方向の差を検出するように構成されている。ひび割れ画像のマッチング手法は特に限定されない。例えば、画像類似度に基づくマッチング手法、特徴点抽出と特徴点対応付けによるマッチング手法など、任意のマッチング手法を使用することができる。以下では、ひび割れ画像マッチング部2178の構成例を説明する。
例えば、ひび割れ画像マッチング部2178は、特徴点の抽出、特徴点の対応付け、ホモグラフィ行列の推定、位置および方向の差の算出、ホモグラフィ行列に基づく画像変換、画像合成、画像マッチング結果出力をその順に実施する。
即ち、先ず、ひび割れ画像マッチング部2178は、SIFT、Random等、任意の手法を用いて、ひび割れ画像2168および登録ひび割れ画像から複数の特徴点を抽出する。次にひび割れ画像マッチング部2178は、ひび割れ画像2168から抽出した特徴点とそれに類似する、登録ひび割れ画像から抽出した特徴点とを特徴点ペアとして対応付ける。所定個数以上の特徴点ペアが得られない場合、ひび割れ画像マッチング部2178はマッチング失敗と判断し、マッチング失敗を示すひび割れ画像マッチング結果2169を記憶部216に保存して処理を終了する。所定個数以上の特徴点ペアが得られた場合、ひび割れ画像マッチング部2178は、対応付けられた複数の特徴点のペアに基づいて、ひび割れ画像と登録ひび割れ画像間のホモグラフィ行列を算出する。
次にひび割れ画像マッチング部2178は、ホモグラフィ行列から、カメラ130の位置と登録撮影位置との位置の差、およびカメラ130の撮影方向と登録撮影方向との方向の差を検出する。次にひび割れ画像マッチング部2178は、ホモグラフィ行列に基づき登録ひび割れ画像を変換する。次にひび割れ画像マッチング部2178は、変換後の登録ひび割れ画像とひび割れ画像2168とを合成する。次にひび割れ画像マッチング部2178は、マッチング成功と判断し、上記合成した画像、検出した位置および方向の差を含むマッチング成功を示すひび割れ画像マッチング結果2165を作成して記憶部216に保存する。
図17は、マッチング成功時のひび割れ画像マッチング結果2169に含まれる合成画像の幾つかの例を示す。それぞれの合成画像中、実線はひび割れ画像2168、破線は登録ひび割れ画像を示す。
合成画像NAは、ひび割れ画像2168の全体に適合するように同サイズの登録ひび割れ画像が合成されている。このような合成画像は、カメラ130の位置および撮影方向が登録撮影画像のときのカメラ130の位置および撮影方向と一致していることを表している。
合成画像NBは、ひび割れ画像2168に、相似形状かつ大サイズの登録ひび割れ画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130の位置より構造物側に接近し過ぎていることを表している。
合成画像NCは、ひび割れ画像2168に、相似形状かつ小サイズの登録ひび割れ画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130の位置より構造物から遠ざかっていることを表している。
合成画像NDは、ひび割れ画像2168に、右辺が左辺より短い登録ひび割れ画像が合成されている。このような合成画像は、カメラ130の位置が登録撮影画像のときのカメラ130より左寄りであり、且つ、その分だけ撮影方向が右寄りになっていることを表している。
上記の合成画像は一例である。カメラ130の位置および撮影方向によっては、合成画像NEに示すように、ひび割れ画像2168および登録ひび割れ画像のそれぞれに登録ひび割れ画像およびひび割れ画像2168に一致しない領域が生じることがある。
以上が、ひび割れ画像マッチング部2178の構成例である。
制御部2176は、診断装置200の主たる制御を司るように構成されている。
以下、構造物140の劣化診断を行う際の診断装置200の動作を説明する。診断装置200は、以下の動作が診断装置100と相違し、それ以外は診断装置100と同じである。
(1)診断箇所情報を作成する動作
(2)撮影位置・撮影方向ガイド画面を作成する動作
(1)診断箇所情報を作成する動作
オペレータが、カメラ130の位置および撮影方向の情報を次回以降の診断に利用するために新規診断画面の登録ボタンをオンすると、制御部2176は、新たな診断箇所情報21661を作成して診断箇所データベース2166に登録する。このとき、ひび割れ画像作成部2177は、カメラ130で撮影された構造物140の部分領域141の画像から構造物140のひび割れを強調した画像を作成し、ひび割れ画像2168として記憶部216に記憶する。制御部2176は、記憶部216から撮影位置2162、撮影方向2163、撮影画像2164、および、ひび割れ画像2168を取得し、それらの情報に基づいて図16に示したような診断箇所情報21661を作成し、診断箇所データベース2166に登録する。
(2)撮影位置・撮影方向ガイド画面を作成する動作
図18は、撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。制御部2176は、先ず、選択された過去位置アイコンに対応する診断箇所情報21661から診断箇所ID、登録撮影位置、登録撮影方向、登録撮影画像、登録ひび割れ画像を取得する(ステップS41)。次に制御部2176は、記憶部216からカメラ130の撮影位置2162、撮影方向2163、撮影画像2164、ひび割れ画像2168を取得する(ステップS42)。次に制御部2176は、図13のステップS33〜S34と同様のステップS43〜S44を実行する。
次に制御部2176は、ひび割れ画像2168と登録ひび割れ画像とのマッチングをひび割れ画像マッチング部2178に行わせる(ステップS45)。次に制御部2176は、記憶部216からひび割れ画像マッチング結果2169を取得し、マッチングに成功したか否かを判定する(ステップS46)。制御部2176は、ひび割れ画像のマッチングに成功した場合、ひび割れ画像マッチング結果2169に含まれる合成画像をモニタ画像として作成し、またひび割れ画像マッチング結果2169に含まれるカメラ130の位置と登録ひび割れ画像が得られた際のカメラ130の位置との位置の差、および、カメラ130の撮影方向と登録ひび割れ画像が得られた際のカメラ130の撮影方向との方向の差に基づいて撮影位置・撮影方向ガイド情報を作成する(ステップS47)。また制御部2176は、ひび割れ画像のマッチングに失敗した場合、記憶部216から画像マッチング結果2165を取得し、マッチングに成功したか否かを判定する(ステップS48)。制御部2176は、画像マッチングに成功した場合、図13のステップS36と同様なステップS49を実行する。また制御部2176は、画像マッチングに失敗した場合、図13のステップS37と同様なステップS50を実行する。次に制御部2176は、上記作成したモニタ画面、撮影位置・撮影方向ガイド情報と、その他の画面要素とから撮影位置・撮影方向ガイド画面を組み立てて画面表示部214に表示する(ステップS51)。
以上のような処理により撮影位置・撮影方向ガイド画面が作成される。そのため、カメラ130で登録撮影画像と同じ箇所が撮影されておらずマッチングに成功しない状況では、撮影位置・撮影方向ガイド情報には、GPS受信機132で検出されたカメラ130の位置と登録撮影位置との差、および方位センサ133および加速度センサ134で検出された方位および加速度によって算出されたカメラ130の撮影方向と登録撮影方向との差の情報が表示される。このような情報によって、オペレータは、カメラ130の位置と撮影方向を大まかに調整することができる。
また、カメラ130で登録撮影画像と同じ箇所が撮影されており、且つ、ひび割れ画像のマッチングに成功している状況では、モニタ画面には、推定されたホモグラフィ行列を登録ひびわれ画像に適用して変換した画像と今回撮影されたひび割れ画像とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定されたホモグラフィ行列に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報が表示される。そのため、オペレータは、カメラ130の位置と撮影方向を正しく微調整して、構造物140の部分領域141を登録撮影画像と正確に同じ位置から同じ撮影方向で撮影することができる。ひび割れ画像のマッチングは、撮影画像のマッチングと比較して、経年の表面汚れ、照明変化等によるミスマッチが少ない利点がある。
また、カメラ130で登録撮影画像と同じ箇所が撮影されているが、ひび割れが全く存在しないか極めて少ない場合、ひび割れ画像のマッチングに失敗することになる。しかし、そのような状況であっても、カメラ130で登録撮影画像と同じ箇所が撮影されていれば、撮影画像のマッチングには成功する。そして、撮影画像のマッチングに成功している状況では、モニタ画面には、推定されたホモグラフィ行列を登録撮影画像に適用して変換した画像と今回撮影されたひび画像とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定されたホモグラフィ行列に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報が表示される。そのため、オペレータは、カメラ130の位置と撮影方向を正しく微調整して、構造物140の部分領域141を登録撮影画像と正確に同じ位置から同じ撮影方向で撮影することができる。
本実施形態では、画像マッチング部2174による画像マッチングとひび割れ画像マッチング部2178によるひび割れ画像マッチングとを常に行うようにした。しかし、本実施形態の変形例として、登録ひび割れ画像中のひび割れの多寡に応じて、何れか一方のマッチングのみ実行するようにしてもよい。すなわち、ひび割れが所定量以上あるときはひび割れ画像マッチング部2178のみ実行し、ひび割れが所定量未満のときは画像マッチング部2174のみ実行するようにしてもよい。
[第3の実施形態]
次に、本発明の第3の実施形態に係る診断装置300について説明する。
図19は、本実施形態に係る診断装置300の構成例を示す図である。図19において、図1と同一符号は同一部分を示し、310はコンピュータ、160は3次元形状計測器、121はコンピュータ310と3次元形状計測器160とを接続するケーブルである。
3次元形状計測器160は、カメラ130の周辺環境に存在する3次元形状を計測するセンサである。3次元形状計測器160は、カメラ130と一定の位置関係を保つようにカメラ130あるいは雲台151に装着されている。例えば、3次元形状計測器160のスキャニング角の中心が向いている方向(以下、3次元形状計測方向と呼ぶ)がカメラ130の撮影方向と一致するように、3次元形状計測器160がカメラ130に装着されている。3次元形状計測器160は、例えばLIDAR(Light Detection and Ranging)、ステレオカメラ、Structure−from−Motionなどを使用して構成することができる。計測する3次元形状は、構造物140およびそれ以外の3次元形状であってよい。
コンピュータ310は、第2の実施形態における方法と同様な方法でカメラの撮影位置・方向と過去の診断箇所の位置・方向との差を検出すると共に、3次元形状計測器160で計測した構造物140の3次元形状と予め記憶している登録3次元形状とを比較することにより、カメラ130の撮影位置・方向と過去の診断箇所の位置・方向との差を検出するように構成されている。
図20は、コンピュータ310の構成の一例を示すブロック図である。図20を参照すると、コンピュータ310は、カメラI/F部311と、通信I/F部312と、操作入力部313と、画面表示部314と、音声出力部315と、記憶部316と、演算処理部317と、計測器I/F部160とから構成されている。そのうち、カメラI/F部311、通信I/F部312、操作入力部313、画面表示部314、および、音声出力部315は、図15のカメラI/F部211、通信I/F部212、操作入力部213、画面表示部214、および、音声出力部215と同じである。計測器I/F部160は、3次元形状計測器160と演算処理部317との間のデータの授受を行うように構成されている。
記憶部316は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部317における各種処理に必要な処理情報およびプログラム3161を記憶するように構成されている。プログラム3161は、演算処理部317に読み込まれて実行されることにより各種処理部を実現するプログラムであり、通信I/F部312などのデータ入出力機能を介して図示しない外部装置や記録媒体から予め読み込まれて記憶部316に保存される。記憶部316に記憶される主な処理情報には、撮影位置3162、撮影方向3163、撮影画像3164、画像マッチング結果3165、診断箇所データベース3166、診断結果データベース3167、ひび割れ画像3168、ひび割れ画像マッチング結果3169、3次元形状316A、3次元形状マッチング結果316Bがある。そのうち、撮影位置3162、撮影方向3163、撮影画像3164、画像マッチング結果3165、診断結果データベース3167、ひび割れ画像3168、ひび割れ画像マッチング結果3169は、図15の撮影位置2162、撮影方向2163、撮影画像2164、画像マッチング結果2165、診断結果データベース2167、ひび割れ画像3168、ひび割れ画像マッチング結果2169と同じである。
3次元形状316Aは、3次元形状計測器160で計測した周辺環境に存在する3次元形状を表すデータである。3次元形状316Aは、点群、ポリゴン、テクスチャの何れであってもよい。
3次元形状マッチング結果316Bは、3次元形状316Aと診断箇所データベース3166に記憶されている登録3次元形状との間のマッチング結果を表すデータである。
診断箇所データベース3166は、診断箇所に係る情報を記憶する記憶部である。図21は、診断箇所データベース3166に記憶されている診断箇所情報31661のフォーマットの一例を示す。この例の診断箇所情報31661は、診断箇所ID31662、登録日時31663、登録撮影位置31664、登録撮影方向31665、登録撮影画像31666、登録ひび割れ画像31667、登録3次元形状31668から構成される。そのうち、診断箇所ID31662、登録日時31663、登録撮影位置31664、登録撮影方向31665、登録撮影画像31666、登録ひび割れ画像31667は、図16の診断箇所ID21662、登録日時21663、登録撮影位置21664、登録撮影方向21665、登録撮影画像21666、登録ひび割れ画像21667と同じである。登録3次元形状31668は、3次元形状計測器160で計測した、登録撮影画像を撮影したときのカメラ130の位置周辺の3次元形状を示すデータである。
演算処理部317は、MPUなどのプロセッサとその周辺回路を有し、記憶部316からプログラム3161を読み込んで実行することにより、上記ハードウェアとプログラム3161とを協働させて各種処理部を実現するように構成されている。演算処理部317で実現される主な処理部は、撮影位置取得部3171、撮影方向取得部3172、撮影画像取得部3173、画像マッチング部3174、診断部3175、制御部3176、ひび割れ画像作成部3177、ひび割れ画像マッチング部3178、3次元形状取得部3179、3次元形状マッチング部317Aである。そのうち、撮影位置取得部3171、撮影方向取得部3172、撮影画像取得部3173、画像マッチング部3174、診断部3175、ひび割れ画像作成部3177、ひび割れ画像マッチング部3178は、図15の撮影位置取得部2171、撮影方向取得部2172、撮影画像取得部2173、画像マッチング部2174、診断部2175、ひび割れ画像作成部2177、ひび割れ画像マッチング部2178と同じである。
3次元形状取得部3179は、3次元形状計測器160から3次元物体の計測データを取得し、3次元形状316Aとして記憶部316に記憶するように構成されている。
3次元形状マッチング部317Aは、3次元形状316Aと診断箇所データベース3166に記憶されている登録3次元形状を比較し、3次元形状計測器160の位置と登録3次元形状を計測したときの3次元形状計測器160の位置の差、および3次元形状計測器160の計測方向の中心と登録3次元形状を計測したときの3次元形状計測器160の計測方向の中心との方向の差を検出するように構成されている。3次元形状のマッチング手法は特に限定されない。例えば、画像類似度に基づくマッチング手法、ICP(Iterative Closest Point:点群位置合わせ)などの任意のマッチング手法を使用することができる。以下では、ICPを使用した場合の3次元形状マッチング部317Aの動作の例を説明する。
3次元形状マッチング部317Aは、3次元形状316Aを一方の点群、登録3次元形状31668を他方の点群とし、2つの点群間の最近傍点を対応点として求め、対応点の距離を縮小する幾何変換行列を推定する処理を繰り返すことで、2つの点群の位置合わせを行う。3次元形状マッチング部317Aは、マッチングに失敗した場合、その旨を示す3次元形状マッチング結果316Bを記憶部316に保存して処理を終了する。
また3次元形状マッチング部317Aは、マッチングに成功した場合、推定した幾何変換行列に基づき登録3次元形状を変換する。次に3次元形状マッチング部317Aは、変換後の登録3次元形状と3次元形状316Aとを合成する。次に3次元形状マッチング部317Aは、推定した幾何変換行列に基づいて、3次元形状計測器160の位置と登録3次元形状を計測したときの3次元形状計測器160の位置との位置の差、および、3次元形状計測器160の3次元形状計測方向と登録3次元形状を計測したときの3次元形状計測器160の3次元形状計測方向との方向の差を、カメラ130の位置と登録撮影画像を撮影したときのカメラ130の位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラ130の撮影方向との方向の差として検出する。次に3次元形状マッチング部317Aは、上記合成した画像、検出した位置および方向の差を含むマッチング成功を示す3次元形状マッチング結果316Bを作成して記憶部316に保存する。
図22は、マッチング成功時の3次元マッチング結果316Bに含まれる合成画像の幾つかの例を示す。合成画像中、実線は3次元形状316A、破線は登録3次元形状を示す。
合成画像LAは、3次元形状326Aの全体に適合するように同サイズの登録3次元形状が合成されている。このような合成画像は、カメラ130の位置および撮影方向が登録撮影画像と同じ位置および撮影方向である場合に生成される。
合成画像LBは、3次元形状326Aの中央部分に、3次元形状326Aより小サイズの登録3次元形状が合成されている。このような合成画像は、登録撮影画像の撮影位置より近い位置から同じ撮影方向で撮影画像が取得された場合に生成される。
合成画像LCは、3次元形状326Aに、大サイズの登録3次元形状が合成されている。このような合成画像は、登録撮影画像の撮影位置より遠い位置から同じ撮影方向で撮影画像が取得された場合に生成される。
合成画像LDは、3次元形状326Aの中央部分に、右辺が左辺より短い登録3次元形状が合成されている。このような合成画像は、登録撮影画像の撮影位置より左に寄った位置から右よりの撮影方向で撮影画像が取得された場合に生成される。
上記の合成画像は一例である。カメラ130の位置および撮影方向によっては、合成画像LHに示すように、3次元形状および登録3次元形状のそれぞれに登録3次元形状および3次元形状に一致しない領域が生じることがある。
以上が、3次元形状マッチング部317Aの構成例である。
制御部3176は、診断装置300の主たる制御を司るように構成されている。
以下、構造物140の劣化診断を行う際の診断装置300の動作を説明する。診断装置300は、以下の動作が診断装置200と相違し、それ以外は診断装置200と同じである。
(1)診断箇所情報を作成する動作
(2)撮影位置・撮影方向ガイド画面を作成する動作
(1)診断箇所情報を作成する動作
オペレータが、カメラ130の位置および撮影方向の情報を次回以降の診断に利用するために新規診断画面の登録ボタンをオンすると、制御部3176は、新たな診断箇所情報31661を作成して診断箇所データベース3166に登録する。このとき、3次元形状取得部3179は、3次元形状計測器160から3次元物体の計測データを取得し、3次元形状316Aとして記憶部316に記憶する。制御部3176は、記憶部316から撮影位置3162、撮影方向3163、撮影画像3164、ひび割れ画像3168、3次元形状316Aを取得し、それらの情報に基づいて図21に示したような診断箇所情報31661を作成し、診断箇所データベース3166に登録する。
(2)撮影位置・撮影方向ガイド画面を作成する動作
図23は、撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。制御部3176は、先ず、選択された過去位置アイコンに対応する診断箇所情報31661から診断箇所ID、登録撮影位置、登録撮影方向、登録撮影画像、登録ひび割れ画像、3次元形状を取得する(ステップS61)。次に制御部3176は、3次元形状計測器160から3次元物体の計測データを取得し、3次元形状316Aとして記憶部316に記憶する(ステップS75)。次に制御部3176は、図18のステップS42〜S45と同様なステップS62〜S65を実行する。
次に制御部3176は、3次元形状316Aと登録3次元形状とのマッチングを3次元形状マッチング部317Aに行わせる(ステップS66)。次に制御部3176は、記憶部316からひび割れ画像マッチング結果3169を取得し、マッチングに成功したか否かを判定する(ステップS67)。制御部3176は、ひび割れ画像のマッチングに成功した場合、図18のステップS47と同様なステップS68を実行する。また制御部3176は、ひび割れ画像のマッチングに失敗した場合、記憶部316から画像マッチング結果3165を取得し、マッチングに成功したか否かを判定する(ステップS69)。制御部3176は、画像マッチングに成功した場合、図18のステップS49と同様なステップS70を実行する。また制御部3176は、画像マッチングに失敗した場合、記憶部316から3次元形状マッチング結果316Bを取得し、マッチングに成功したか否かを判定する(ステップS71)。制御部3176は、3次元形状のマッチングに成功した場合、3次元形状マッチング結果316Bに含まれる合成画像をモニタ画像として作成し、また3次元形状マッチング結果316Bに含まれるカメラ130の位置と登録撮影画像が得られた際のカメラ130の位置との位置の差、および、カメラ130の撮影方向と登録撮影画像が得られた際のカメラ130の撮影方向との方向の差に基づいて撮影位置・撮影方向ガイド情報を作成する(ステップS72)。また制御部3176は、3次元形状のマッチングに失敗した場合、図18のステップS50と同様なステップS73を実行する。次に制御部3176は、上記作成したモニタ画面、撮影位置・撮影方向ガイド情報と、その他の画面要素とから撮影位置・撮影方向ガイド画面を組み立てて画面表示部314に表示する(ステップS74)。
以上のような処理により撮影位置・撮影方向ガイド画面が作成される。そのため、カメラ130で登録撮影画像と同じ箇所が撮影されておらずマッチングに成功しない状況であっても、3次元形状のマッチングに成功している場合には、モニタ画面には、推定された幾何変換を登録3次元形状に適用して変換した3次元形状と今回測定された3次元形状とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定された幾何変換に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報が表示される。そのため、オペレータは、構造物140の部分領域141を登録撮影画像と同じ位置から同じ撮影方向で撮影するようにカメラ130の位置と撮影方向を調整することができる。3次元形状のマッチングは、撮影画像のマッチングと比較して、広範囲の視野のマッチングが可能である。広範囲の視野の中には特徴的な形状を有する物体や部材が含まれる可能性が高いため、コンクリート壁などの一部分である部分領域141のような特徴の少ない局部的な画像マッチングに比べてミスマッチが少ない利点がある。
また、3次元形状のマッチングに失敗している場合には、撮影位置・撮影方向ガイド情報には、GPS受信機132で検出されたカメラ130の位置と登録撮影位置との差、および方位センサ133および加速度センサ134で検出された方位および加速度によって算出されたカメラ130の撮影方向と登録撮影方向との差の情報が表示される。このような情報によって、オペレータは、カメラ130の位置と撮影方向を大まかに調整することができる。
また、カメラ130で登録撮影画像と同じ箇所が撮影されており、且つ、ひび割れ画像のマッチングに成功している状況では、モニタ画面には、推定されたホモグラフィ行列を登録ひびわれ画像に適用して変換した画像と今回撮影されたひび割れ画像とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定されたホモグラフィ行列に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報が表示される。そのため、オペレータは、カメラ130の位置と撮影方向を正しく微調整して、構造物140の部分領域141を登録撮影画像と正確に同じ位置から同じ撮影方向で撮影することができる。ひび割れ画像のマッチングは、撮影画像のマッチングと比較して、経年の表面汚れ、照明変化等によるミスマッチが少ない利点がある。
また、カメラ130で登録撮影画像と同じ箇所が撮影されているが、ひび割れが全く存在しないか極めて少ない場合、ひび割れ画像のマッチングに失敗することになる。しかし、そのような状況であっても、カメラ130で登録撮影画像と同じ箇所が撮影されていれば、撮影画像のマッチングには成功する。そして、撮影画像のマッチングに成功している状況では、モニタ画面には、推定されたホモグラフィ行列を登録撮影画像に適用して変換した画像と今回撮影されたひび画像とを合成した合成画像が表示されている。また、撮影位置・撮影方向ガイド情報には、推定されたホモグラフィ行列に基づいて検出した、カメラ130の位置と登録撮影画像を撮影したときのカメラの位置との差、および、カメラ130の撮影方向と登録撮影画像を撮影したときのカメラの撮影方向との差の情報が表示される。そのため、オペレータは、カメラ130の位置と撮影方向を正しく微調整して、構造物140の部分領域141を登録撮影画像と正確に同じ位置から同じ撮影方向で撮影することができる。
本実施形態では、画像マッチング部3174による画像マッチングとひび割れ画像マッチング部3178によるひび割れ画像マッチングとを常に行うようにした。しかし、本実施形態の変形例として、登録ひび割れ画像中のひび割れの多寡に応じて、何れか一方のマッチングのみ実行するようにしてもよい。例えば、ひび割れが所定量以上あるときはひび割れ画像マッチング部3178のみ実行し、ひび割れが所定量未満のときは画像マッチング部3174のみ実行ようにしてもよい。
[第4の実施形態]
図24を参照すると、本発明の第4の実施形態に係る撮影ガイド装置400は、検出手段401と出力手段402とを含んで構成されている。
検出手段401は、構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、上記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、上記撮影候補位置と上記所定の撮影位置との位置の差を検出するように構成されている。検出手段401は、例えば、図2の画像マッチング部1174と同様に構成することができるが、それに限定されない。
また出力手段402は、検出手段401によって検出された位置の差を示す情報を出力するように構成されている。出力手段402は、例えば、図2の制御部1176と同様に構成することができるが、それに限定されない。
このように構成された撮影ガイド装置400は、以下のように動作する。すなわち、先ず、検出手段401は、構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、上記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、上記撮影候補位置と上記所定の撮影位置との位置の差を検出する。次に、出力手段402は、検出手段401によって検出された位置の差を示す情報を出力する。
このように本実施形態によれば、検出手段401が構造物を撮影候補位置から撮影候補方向で撮影した候補画像と上記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、上記撮影候補位置と上記所定の撮影位置との位置の差を検出し、出力手段402が検出手段401によって検出された位置の差を示す情報を出力するため、オペレータは出力される位置の差が小さくなるように撮影候補位置を変更することにより、構造物を毎回同じ撮影位置から撮影することができる。
以上、上記各実施形態を参照して本発明を説明したが、本発明は、上述した実施形態に限定されるものではない。本発明の構成や詳細には、本発明の範囲内で当業者が理解しうる様々な変更をすることができる。
なお、本発明は、日本国にて2019年1月10日に特許出願された特願2019−002501の特許出願に基づく優先権主張の利益を享受するものであり、当該特許出願に記載された内容は、全て本明細書に含まれるものとする。
本発明は、橋梁などの構造物を撮像装置で撮影した画像を解析して構造物の健全性の診断を定期的に実施する場合などに利用できる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する検出手段と、
前記検出された位置の差を示す情報を出力する出力手段と、
を含む撮影ガイド装置。
[付記2]
前記検出手段は、更に、前記撮影候補方向と前記所定の撮影方向との方向の差を検出し、
前記出力手段は、更に、前記検出された方向の差を示す情報を出力する、
付記1に記載の撮影ガイド装置。
[付記3]
前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記方向の差を検出する、
付記2に記載の撮影ガイド装置。
[付記4]
前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記位置の差を検出する、
付記1乃至3の何れかに記載の撮影ガイド装置。
[付記5]
前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づき前記登録画像を変換し、該変換後の前記登録画像と前記候補画像とを合成した合成画像を生成する、
付記1乃至4の何れかに記載の撮影ガイド装置。
[付記6]
前記検出手段は、更に、前記候補画像から前記構造物上のひび割れを強調したひび割れ画像を生成し、前記生成したひび割れ画像と、前記登録画像から生成され予め記憶している登録ひび割れ画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する、
付記1または2に記載の撮影ガイド装置。
[付記7]
前記検出手段は、更に、前記候補画像から前記構造物上のひび割れを強調したひび割れ画像を生成し、前記生成したひび割れ画像と、前記登録画像から生成され予め記憶している登録ひび割れ画像とを比較することにより、前記撮影候補方向と前記所定の撮影方向との方向の差を検出する、
付記5に記載の撮影ガイド装置。
[付記8]
前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記方向の差を検出する、
付記7に記載の撮影ガイド装置。
[付記9]
前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記位置の差を検出する、
付記6乃至8の何れかに記載の撮影ガイド装置。
[付記10]
前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づき前記登録ひび割れ画像を変換し、該変換後の前記登録ひび割れ画像と前記ひび割れ画像とを合成した合成画像を生成する、
付記6乃至9の何れかに記載の撮影ガイド装置。
[付記11]
前記検出手段は、更に、前記撮影候補位置から周辺環境の3次元形状を計測した候補3次元形状と、前記所定の撮影位置から周辺環境の3次元形状を計測し予め事前に記憶している登録3次元形状とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する、
付記1または2に記載の撮影ガイド装置。
[付記12]
前記検出手段は、更に、前記撮影候補位置から周辺環境の3次元形状を計測した候補3次元形状と、前記所定の撮影位置から周辺環境の3次元形状を計測し予め事前に記憶している登録3次元形状とを比較することにより、前記撮影候補方向と前記所定の撮影方向との方向の差を検出する、
付記11に記載の撮影ガイド装置。
[付記13]
前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づいて、前記方向の差を検出する、
付記12に記載の撮影ガイド装置。
[付記14]
前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づいて、前記位置の差を検出する、
付記11乃至13の何れかに記載の撮影ガイド装置。
[付記15]
前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づき前記登録3次元形状を変換し、該変換後の前記登録3次元形状と前記候補3次元形状とを合成した合成画像を生成する、
付記11乃至14の何れかに記載の撮影ガイド装置。
[付記16]
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出し、
前記検出された位置の差を示す情報を出力する、
撮影ガイド方法。
[付記17]
コンピュータに、
構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する処理と、
前記検出された位置の差を示す情報を出力する処理と、
を行わせるためにプログラム。
100…診断装置
110…コンピュータ
111…カメラI/F部
112…通信I/F部
113…操作入力部
114…画面表示部
115…音声出力部
116…記憶部
117…演算処理部
120…ケーブル
130…カメラ
140…構造物
141…部分領域
150…三脚
151…雲台

Claims (17)

  1. 構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する検出手段と、
    前記検出された位置の差を示す情報を出力する出力手段と、
    を含む撮影ガイド装置。
  2. 前記検出手段は、更に、前記撮影候補方向と前記所定の撮影方向との方向の差を検出し、
    前記出力手段は、更に、前記検出された方向の差を示す情報を出力する、
    請求項1に記載の撮影ガイド装置。
  3. 前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記方向の差を検出する、
    請求項2に記載の撮影ガイド装置。
  4. 前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記位置の差を検出する、
    請求項1乃至3の何れかに記載の撮影ガイド装置。
  5. 前記検出手段は、前記候補画像と前記登録画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づき前記登録画像を変換し、該変換後の前記登録画像と前記候補画像とを合成した合成画像を生成する、
    請求項1乃至4の何れかに記載の撮影ガイド装置。
  6. 前記検出手段は、更に、前記候補画像から前記構造物上のひび割れを強調したひび割れ画像を生成し、前記生成したひび割れ画像と、前記登録画像から生成され予め記憶している登録ひび割れ画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する、
    請求項1または2に記載の撮影ガイド装置。
  7. 前記検出手段は、更に、前記候補画像から前記構造物上のひび割れを強調したひび割れ画像を生成し、前記生成したひび割れ画像と、前記登録画像から生成され予め記憶している登録ひび割れ画像とを比較することにより、前記撮影候補方向と前記所定の撮影方向との方向の差を検出する、
    請求項5に記載の撮影ガイド装置。
  8. 前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記方向の差を検出する、
    請求項7に記載の撮影ガイド装置。
  9. 前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づいて、前記位置の差を検出する、
    請求項6乃至8の何れかに記載の撮影ガイド装置。
  10. 前記検出手段は、前記ひび割れ画像と前記登録ひび割れ画像のホモグラフィ行列を推定し、前記ホモグラフィ行列に基づき前記登録ひび割れ画像を変換し、該変換後の前記登録ひび割れ画像と前記ひび割れ画像とを合成した合成画像を生成する、
    請求項6乃至9の何れかに記載の撮影ガイド装置。
  11. 前記検出手段は、更に、前記撮影候補位置から周辺環境の3次元形状を計測した候補3次元形状と、前記所定の撮影位置から周辺環境の3次元形状を計測し予め事前に記憶している登録3次元形状とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する、
    請求項1または2に記載の撮影ガイド装置。
  12. 前記検出手段は、更に、前記撮影候補位置から周辺環境の3次元形状を計測した候補3次元形状と、前記所定の撮影位置から周辺環境の3次元形状を計測し予め事前に記憶している登録3次元形状とを比較することにより、前記撮影候補方向と前記所定の撮影方向との方向の差を検出する、
    請求項11に記載の撮影ガイド装置。
  13. 前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づいて、前記方向の差を検出する、
    請求項12に記載の撮影ガイド装置。
  14. 前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づいて、前記位置の差を検出する、
    請求項11乃至13の何れかに記載の撮影ガイド装置。
  15. 前記検出手段は、前記候補3次元形状と前記登録3次元形状の幾何変換行列を推定し、前記幾何変換行列に基づき前記登録3次元形状を変換し、該変換後の前記登録3次元形状と前記候補3次元形状とを合成した合成画像を生成する、
    請求項11乃至14の何れかに記載の撮影ガイド装置。
  16. 構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出し、
    前記検出された位置の差を示す情報を出力する、
    撮影ガイド方法。
  17. コンピュータに、
    構造物を撮影候補位置から撮影候補方向で撮影した候補画像と、前記構造物を所定の撮影位置から所定の撮影方向で撮影し予め事前に記憶している登録画像とを比較することにより、前記撮影候補位置と前記所定の撮影位置との位置の差を検出する処理と、
    前記検出された位置の差を示す情報を出力する処理と、
    を行わせるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2020565638A 2019-01-10 2019-12-10 撮影ガイド装置 Pending JPWO2020145004A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019002501 2019-01-10
JP2019002501 2019-01-10
PCT/JP2019/048300 WO2020145004A1 (ja) 2019-01-10 2019-12-10 撮影ガイド装置

Publications (1)

Publication Number Publication Date
JPWO2020145004A1 true JPWO2020145004A1 (ja) 2021-10-28

Family

ID=71520724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020565638A Pending JPWO2020145004A1 (ja) 2019-01-10 2019-12-10 撮影ガイド装置

Country Status (3)

Country Link
US (1) US20220076399A1 (ja)
JP (1) JPWO2020145004A1 (ja)
WO (1) WO2020145004A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116348735A (zh) * 2020-11-24 2023-06-27 住友重机械工业株式会社 信息处理装置、信息处理方法、程序
KR102618069B1 (ko) * 2023-08-01 2023-12-27 대한민국 지상조사 로봇의 점군 자료와 시각정보를 이용한 실내건물 재난정보 분석 방법 및 장치

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011223250A (ja) * 2010-04-08 2011-11-04 Nec Corp 撮影支援装置、撮影支援方法並びにそのプログラム
JP2012156640A (ja) * 2011-01-24 2012-08-16 Olympus Imaging Corp 画像表示装置及び撮影装置
JP2013074376A (ja) * 2011-09-27 2013-04-22 Sony Corp 撮像ガイド装置、撮像装置、撮像ガイド方法、プログラム
JP2015082830A (ja) * 2013-10-24 2015-04-27 富士通株式会社 ガイド方法、情報処理装置およびガイドプログラム
WO2015098155A1 (ja) * 2013-12-24 2015-07-02 国立大学法人大阪大学 操作教示装置および経頭蓋磁気刺激装置
US20180220083A1 (en) * 2014-06-03 2018-08-02 Epitomyze Inc. In-time registration of temporally separated image acquisition
WO2018143263A1 (ja) * 2017-02-06 2018-08-09 富士フイルム株式会社 撮影制御装置、撮影制御方法及びプログラム
US20180302553A1 (en) * 2017-04-13 2018-10-18 Institute For Information Industry Camera system and image-providing method

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4345426B2 (ja) * 2003-10-07 2009-10-14 ソニー株式会社 画像照合方法、プログラム、および画像照合装置
JP6015756B2 (ja) * 2012-07-02 2016-10-26 日本電気株式会社 位置管理装置、位置管理システム、位置管理方法、及び、位置管理プログラム
JP6387782B2 (ja) * 2014-10-17 2018-09-12 ソニー株式会社 制御装置、制御方法及びコンピュータプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011223250A (ja) * 2010-04-08 2011-11-04 Nec Corp 撮影支援装置、撮影支援方法並びにそのプログラム
JP2012156640A (ja) * 2011-01-24 2012-08-16 Olympus Imaging Corp 画像表示装置及び撮影装置
JP2013074376A (ja) * 2011-09-27 2013-04-22 Sony Corp 撮像ガイド装置、撮像装置、撮像ガイド方法、プログラム
JP2015082830A (ja) * 2013-10-24 2015-04-27 富士通株式会社 ガイド方法、情報処理装置およびガイドプログラム
WO2015098155A1 (ja) * 2013-12-24 2015-07-02 国立大学法人大阪大学 操作教示装置および経頭蓋磁気刺激装置
US20180220083A1 (en) * 2014-06-03 2018-08-02 Epitomyze Inc. In-time registration of temporally separated image acquisition
WO2018143263A1 (ja) * 2017-02-06 2018-08-09 富士フイルム株式会社 撮影制御装置、撮影制御方法及びプログラム
US20180302553A1 (en) * 2017-04-13 2018-10-18 Institute For Information Industry Camera system and image-providing method

Also Published As

Publication number Publication date
US20220076399A1 (en) 2022-03-10
WO2020145004A1 (ja) 2020-07-16

Similar Documents

Publication Publication Date Title
JP5745178B2 (ja) 3次元測定方法、装置及びシステム、並びに画像処理装置
US8451335B2 (en) Imaging device
JP5715735B2 (ja) 3次元測定方法、装置、及びシステム、並びに画像処理装置
JP6513207B2 (ja) 撮像支援システム及び装置及び方法、並びに撮像端末
JP2008310446A (ja) 画像検索システム
CN106534662A (zh) 信息处理装置、信息处理装置的控制方法和存储了信息处理程序的非暂时存储介质
CN108432227A (zh) 摄影辅助装置及摄影辅助方法
JP4077385B2 (ja) 画像処理を用いたグローバル座標取得装置
JP2019095876A (ja) 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体
JP2005016991A (ja) 赤外線構造物診断システム
JPWO2020145004A1 (ja) 撮影ガイド装置
JP2005016995A (ja) 赤外線構造物診断方法
CN114726978A (zh) 信息处理装置、信息处理方法以及程序
JP2005310044A (ja) データ処理装置、データ処理方法、及びデータ処理プログラム
JPH11337322A (ja) 2次元画像比較による外観の測定方法および装置
KR102458559B1 (ko) 휴대용 단말기를 이용한 건설 분야 시공 관리 시스템 및 방법
KR102127135B1 (ko) 시설물 정밀점검 시스템 및 방법
JP6989036B2 (ja) 画像処理装置
JP2010230423A (ja) 変位量測定装置及び同測定方法
JP7113997B1 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
WO2021039088A1 (ja) 撮像パラメータ出力方法、及び、撮像パラメータ出力装置
JP2007299219A (ja) 撮影画像におけるゆがみの較正方法
US20230260159A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
JP5670092B2 (ja) 地形表示システム、携帯端末、地形表示方法およびプログラム
JP2010281685A (ja) 位置計測システム及び位置計測方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210609

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221011

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230404