JP6989036B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP6989036B2
JP6989036B2 JP2020569324A JP2020569324A JP6989036B2 JP 6989036 B2 JP6989036 B2 JP 6989036B2 JP 2020569324 A JP2020569324 A JP 2020569324A JP 2020569324 A JP2020569324 A JP 2020569324A JP 6989036 B2 JP6989036 B2 JP 6989036B2
Authority
JP
Japan
Prior art keywords
time
deflection
amount
image
partial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020569324A
Other languages
English (en)
Other versions
JPWO2020157973A1 (ja
Inventor
遊哉 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020157973A1 publication Critical patent/JPWO2020157973A1/ja
Application granted granted Critical
Publication of JP6989036B2 publication Critical patent/JP6989036B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/16Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/30Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8861Determining coordinates of flaws
    • G01N2021/8864Mapping zones of defects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • G01N2021/8893Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques providing a video image and a processed signal for helping visual decision

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Traffic Control Systems (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、撮影画像の向きを判定する画像処理装置、画像処理方法、および記録媒体に関する。
橋梁などの構造物を撮像装置で撮影した画像を解析して、構造物の健全性の診断を行う技術が、種々提案されている(例えば、特許文献1参照)。
WO2016/152076号公報
橋梁などの大規模な構造物では、複数の診断箇所を設定し、それぞれの診断箇所を撮像装置で撮影した画像を解析して健全性の診断を行う。また、同じ構造物を数か月に1度といった周期で診断を繰り返すことがある。このように同時期または異なる時期に複数の診断箇所を撮影する場合、診断結果の比較などの便宜を図るために、全ての診断箇所の撮影画像の向きを合わせるのが一般的である。しかし、橋梁などの床版を下から撮影するような状況などでは、撮影画像自体から画像の向きを判定することは困難である。その理由は、画像の向きを特定できる形状や模様などの被写体が床版などの被写体に存在しないことが多いためである。
本発明の目的は、上述した課題、すなわち、画像の向きを特定できる形状や模様などの被写体が画像に写っていない場合、画像自体から画像の向きを判定するのは困難である、という課題を解決する画像処理装置を提供することにある。
本発明の一形態に係る画像処理装置は、
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する分割手段と、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する計測手段と、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する比較手段と、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する判定手段と、
を備える。
本発明の他の形態に係る画像処理方法は、
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成し、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測し、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較し、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する。
本発明の他の形態に係るコンピュータ読み取り可能な記録媒体は、
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する処理と、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する処理と、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する処理と、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する処理と、を
コンピュータに行わせるためにプログラムを記録する。
本発明は上述した構成を有することにより、画像の向きを特定できる形状や模様などの被写体が画像に写っていなくても、画像自体から画像がどの方向を向いているのかを判定することができる。
本発明の第1の実施形態に係る診断装置の構成例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの構成の一例を示すブロック図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの診断箇所データベースに記憶されている診断箇所情報のフォーマットの一例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータの診断結果データベースに記憶されている診断結果情報のフォーマットの一例を示す図である。 本発明の第1の実施形態に係る診断装置の動作の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される初期画面の例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータが実行する新規診断処理の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される新規診断画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置におけるコンピュータが実行する継続診断処理の一例を示すフローチャートである。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される診断箇所選択画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置の画面表示部に表示される撮影位置・撮影方向ガイド画面の一例を示す図である。 本発明の第1の実施形態に係る診断装置が撮影位置・撮影方向ガイド画面を作成して表示する動作の詳細を示すフローチャートである。 本発明の第1の実施形態に係る診断装置における画像の向き判定部の構成例を示す図である。 本発明の第1の実施形態における分割前の時系列画像と分割後の部分時系列画像の関係の一例を示す図である。 本発明の第1の実施形態における部分時系列画像の部分領域のたわみ量の時間的な変化の一例を示す模式図である。 本発明の第1の実施形態における2つの部分領域のたわみ量の時間的な変化の例を示すグラフである。 本発明の第1の実施形態における2つの部分領域のたわみ量の差の時間的な変化の例を示すグラフである。 本発明の第1の実施形態において撮影画像の横方向が橋軸方向と平行になっているときの左上ブロック、左下ブロック、右上ブロック、右下ブロックの配列状態を示す図である。 本発明の第1の実施形態における部分時系列画像の部分領域のたわみ量の時間的な変化のバリエーションを示す図である。 本発明の第1の実施形態において橋軸方向に平行に並ぶ2つのブロックのたわみ量の差の時間的な変化の例を示すグラフである。 本発明の第1の実施形態において橋軸方向に垂直に並ぶ2つのブロックのたわみ量の差の時間的な変化の例を示すグラフである。 本発明の第1の実施形態において撮影画像の横方向が橋軸方向と垂直になっているときの左上ブロック、左下ブロック、右上ブロック、右下ブロックの配列状態を示す図である。 本発明の第1の実施形態において撮影画像の横方向が橋軸方向に対して時計回り方向に45度傾いているときの左上ブロック、左下ブロック、右上ブロック、右下ブロックの配列状態を示す図である。 本発明の第1の実施形態において撮影画像の横方向が橋軸方向に対して反時計回り方向に45度傾いているときの左上ブロック、左下ブロック、右上ブロック、右下ブロックの配列状態を示す図である。 本発明の第2の実施形態に係る画像処理装置のブロック図である。
[第1の実施形態]
図1は、本発明の第1の実施形態に係る診断装置100の構成例を示す図である。図1を参照すると、診断装置100は、コンピュータ110とこれにケーブル120を介して接続されたカメラ130とから構成されている。
カメラ130は、診断対象である構造物140の表面に存在する領域141を所定のフレームレートで撮影する撮像装置である。構造物140は、本実施形態の場合、橋梁である。領域141は、本実施形態の場合、橋梁の診断箇所となる床版の一部分である。但し、構造物140は橋梁に限定されない。構造物140は、高速道路や鉄道の高架構造物などであってもよい。領域141のサイズは、例えば数十センチメートル四方である。カメラ130は、任意の方向にカメラの撮影方向を固定できるように三脚150上の雲台151に取り付けられている。カメラ130は、例えば、数百万画素程度の画素容量を有するCCD(Charge−Coupled Device)イメージセンサやCMOS(Complementary MOS)イメージセンサを備えたハイスピードカメラであってよい。またカメラ130は、可視光かつ白黒カメラであってもよいし、赤外線カメラやカラーカメラであってもよい。またカメラ130は、カメラの位置を測定するGPS受信機を備えている。またカメラ130は、カメラの撮影方向を測定する方位センサおよび加速度センサを備えている。
コンピュータ110は、カメラ130によって撮影された構造物140の画像を取り込み、所定の画像処理を行って構造物140の健全度を判定し、その判定結果を出力する診断機能を有している。また、コンピュータ110は、数か月に1度といった所定の周期で実施する診断において、毎回、同じ撮影位置から構造物140の同じ領域141を同じ向きで撮影できるようにオペレータを支援するガイド機能を有している。
図2は、コンピュータ110の構成の一例を示すブロック図である。図2を参照すると、コンピュータ110は、カメラI/F(インターフェース)部111と、通信I/F部112と、操作入力部113と、画面表示部114と、音声出力部115と、記憶部116と、演算処理部117とから構成されている。
カメラI/F部111は、ケーブル120を通じてカメラ130に接続され、カメラ130と演算処理部117との間でデータの送受信を行うように構成されている。カメラ130は、イメージセンサや光学系などを含むメインユニット131と、前述したGPS受信機132、方位センサ133、および加速度センサ134を備えている。カメラI/F部111は、メインユニット131、GPS受信機132、方位センサ133、および加速度センサ134と演算処理部117との間でデータの送受信を行うように構成されている。
通信I/F部112は、データ通信回路から構成され、有線または無線を介して接続された図示しない外部装置との間でデータ通信を行うように構成されている。操作入力部113は、キーボードやマウスなどの操作入力装置から構成され、オペレータの操作を検出して演算処理部117に出力するように構成されている。画面表示部114は、LCD(Liquid Crystal Display)などの画面表示装置から構成され、演算処理部117からの指示に応じて、メニュー画面などの各種情報を画面表示するように構成されている。音声出力部115は、スピーカなどの音響出力装置から構成され、演算処理部117からの指示に応じて、ガイドメッセージなどの各種音声を出力するように構成されている。
記憶部116は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部117における各種処理に必要な処理情報およびプログラム1161を記憶するように構成されている。プログラム1161は、演算処理部117に読み込まれて実行されることにより各種処理部を実現するプログラムであり、通信I/F部112などのデータ入出力機能を介して図示しない外部装置や記録媒体から予め読み込まれて記憶部116に保存される。記憶部116に記憶される主な処理情報には、撮影位置1162、撮影方向1163、時系列画像1164、画像の向き判定結果1165、診断箇所データベース1166、診断結果データベース1167がある。
撮影位置1162は、GPS受信機132で測定されたカメラの位置を表す緯度、経度、および高度と、現在時刻とを含むデータである。
撮影方向1163は、カメラ130に設けられた方位センサ133および加速度センサ134で測定されたデータに基づいて算出されたカメラ130の撮影方向を表すデータである。撮影方向1163は、カメラ130の姿勢を表すピッチ、ロール、ヨーの3つの角度から構成されている。
時系列画像1164は、カメラ130で撮影された時系列画像である。この時系列画像1164は、カメラ130で撮影された構造物140の領域141の動画を構成する複数のフレーム画像であってよい。
画像の向き判定結果1165は、時系列画像1164に基づいて判定された撮影画像の向きを表すデータである。撮影画像の向きは、例えば構造物140である橋梁の橋軸方向と撮影画像の横方向との関係を表している。勿論、撮影画像の向きは上記に限定されない。例えば撮影画像の向きは、橋軸方向と撮影画像の縦方向との関係を表すものであってもよい。
診断箇所データベース1166は、過去の診断箇所に係る情報を記憶する記憶部である。図3は、診断箇所データベース1166に記憶されている診断箇所情報11661のフォーマットの一例を示す。この例の診断箇所情報11661は、診断箇所ID11662、登録日時11663、登録撮影位置11664、登録撮影方向11665、登録時系列画像11666から構成される。
診断箇所ID11662は、診断箇所を一意に識別する識別情報である。登録日時11663は、診断箇所情報11661を登録した日時である。登録撮影位置11664は、診断を行ったときのカメラ130の位置を表す緯度、経度、高度である。登録撮影方向11665は、診断を行ったときのカメラ130の姿勢を表すピッチ、ロール、ヨーの3つの角度である。登録時系列画像11666は、登録撮影位置11664から登録撮影方向11665で構造物140の領域141をカメラ130で撮影した時系列画像である。
診断結果データベース1167は、診断結果に係る情報を記憶する記憶部である。図4は、診断結果データベース1167に記憶されている診断結果情報11671のフォーマットの一例を示す。この例の診断結果情報11671は、診断箇所ID11672、診断日時11673、診断結果11674から構成される。診断箇所ID11672は、診断箇所を一意に識別する識別情報である。診断日時11673は、診断を行った日時である。診断結果11674は、診断の結果を表す情報である。
演算処理部117は、MPUなどのプロセッサとその周辺回路を有し、記憶部116からプログラム1161を読み込んで実行することにより、上記ハードウェアとプログラム1161とを協働させて各種処理部を実現するように構成されている。演算処理部117で実現される主な処理部は、撮影位置取得部1171、撮影方向取得部1172、時系列画像取得部1173、画像の向き判定部1174、診断部1175、制御部1176である。
撮影位置取得部1171は、カメラI/F部111を通じてGPS受信機132で測定されているカメラ130の位置および現在時刻を定期的に取得し、取得した位置で記憶部116の撮影位置1162を更新するように構成されている。
撮影方向取得部1172は、カメラI/F部111を通じて方位センサ133および加速度センサ134で測定されている方位角および縦横高さの三方向の加速度を定期的に取得するように構成されている。また撮影方向取得部1172は、取得した方位角および加速度からカメラ130の姿勢、即ち撮影方向を表すピッチ、ロール、ヨーの3つの角度を計算し、その計算結果で記憶部116の撮影方向1163を更新するように構成されている。なお、本実施形態では、撮影方向を表すロールは、方位センサ133および加速度センサ134で取得されている方位角および三方向の加速度に基づいて計算した。しかし、他の実施形態として、撮影方向を表すロールは、画像の向き判定部1174で判定される画像の向きとしてもよい。
時系列画像取得部1173は、カメラI/F部111を通じてメインユニット131からカメラ130で撮影されている時系列画像を取得し、取得した時系列画像で記憶部116の時系列画像1164を更新するように構成されている。時系列画像取得部1173は、構造物140の領域141上を少なくとも1台の車両が通過する前後の時系列画像を取得するように構成されている。例えば、時系列画像取得部1173は、領域141あたりの橋梁部分を車両が通過する前にオペレータの指示あるいは通過予定車両を機械的に検出する図示しないセンサの出力によって時系列画像の取得を開始し、領域141あたりの橋梁部分を車両が通過した後にオペレータの指示あるいは通過車両を機械的に検出する図示しないセンサの出力によって時系列画像の取得を終了するように構成されていてよい。或いは、時系列画像取得部1173は、車両が橋梁を通過するタイミングとは無間系に、その時間枠内には少なくとも1台の車両が橋梁を通過すると考えられる時間枠の時間だけの時系列画像を取得するようにしてもよい。
画像の向き判定部1174は、時系列画像1164に基づいて撮影画像の向きを判定するように構成されている。画像の向き判定部1174の詳細は後述する。
診断部1175は、カメラ130で撮影された構造物140の画像に基づいて、構造物140の劣化診断を行うように構成されている。劣化診断の手法は特に限定されない。例えば、診断部1175は、車両の通行などにより励振された橋梁などの構造物140の領域141をカメラ130で高速撮影した動画を解析して表面の振動を計測し、その振動のパターンから、ひび割れ・剥離・空洞などの内部劣化状態を推定するように構成されている。また診断部1175は、推定した診断結果に係る情報を診断結果データベース1167に記憶するように構成されている。
制御部1176は、診断装置100の主たる制御を司るように構成されている。
図5は診断装置100の動作の一例を示すフローチャートである。以下、各図を参照して、構造物140の劣化診断を行う際の診断装置100の動作を説明する。
オペレータが、構造物140の劣化診断を行うために、コンピュータ110およびカメラ130などの計測装置群を現場に設置し、操作入力部113から起動指示を入力すると、制御部1176による制御が開始される。
先ず、制御部1176は、図6に示すような初期画面を画面表示部114に表示する(ステップS1)。初期画面には、新規診断ボタンと継続診断ボタンとが表示されている。新規診断ボタンは、新たに診断対象となった構造物140に対して初回の診断を行うときに選択するボタンである。これに対して継続診断ボタンは、同じ構造物140の同じ箇所に対して2回目以降の診断を行うときに選択するボタンである。以下、新規診断時の動作を説明し、その後に継続診断時の動作を説明する。
<新規診断>
オペレータが初期画面上の新規診断ボタンをオンすると、制御部1176は、そのことを検出し(ステップS2)、新規診断処理を実行する(ステップS3)。図7は新規診断処理の一例を示すフローチャートである。制御部1176は、先ず、新規診断画面を画面表示部114に表示する(ステップS11)。
図8は新規診断画面の一例を示す。この例の新規診断画面は、カメラ130で撮影されている画像を表示するモニタ画面と、画像の向きガイド情報と、登録ボタンと、診断ボタンと、終了ボタンとを有する。カメラ130で撮影されている最新の時系列画像は、撮影画像取得部1173によってカメラ130から取得され、記憶部116に時系列画像1164として記憶されている。制御部1176は、記憶部116から時系列画像1164を取得して新規診断画面のモニタ画面に表示する。オペレータは、構造物140の診断箇所を決定し、決定した診断箇所を領域141とする。そして、新規診断画面のモニタ画面に領域141の画像が適切なサイズで表示されるように、三脚150の設置場所を調整する。本実施形態ではカメラ130の画角、倍率は固定されている。そのため、オペレータは、領域141の画像サイズが小さい場合、三脚150を構造物140により近い位置に移動することにより、領域141の画像サイズを拡大する。反対に領域141の画像サイズが大きい場合、オペレータは、三脚150を構造物140からより遠い位置に移動することにより、領域141の画像サイズを縮小する。
また、制御部1176は、画像の向きガイド情報の表示欄に、撮影画像の横方向が構造物140である橋梁の橋軸方向に対してどの程度傾いているかを示すテキストあるいはイラスト図形を表示する。さらに制御部1176は、画像の向きガイド情報の表示欄に表示した情報を音声に変換して、音声出力部115から出力する。例えば、「撮影画像の横方向が橋軸方向に平行になっています」、「撮影画像の横方向が橋軸方向に垂直になっています」、「撮影画像の横方向が橋軸方向に対して時計回り方向に45度傾いています」といったガイドメッセージを出力する。
オペレータは、表示および音声出力された画像の向きガイド情報により、カメラ130の位置および撮影方向が適切であるか否かを認識することができる。またオペレータは、表示および音声出力された画像の向きガイド情報により、カメラ130の撮影画像の横方向と所定の向き(橋軸方向)との差が例えば時計回り方向に45度程度の差があることを判断することができる。最終的にオペレータは、画像の向きガイド情報を参考にして、カメラ130の撮影画像の向きが事前に定められた向きになるように、雲台151によってカメラ130の撮影方向を調整する。例えば、オペレータは、撮影画像の横方向が橋軸と平行になるように調整する。
オペレータは、カメラ130の位置および撮影方向の調整を終えると、その位置と撮影方向の情報を登録する場合、登録ボタンをオンする。また、オペレータは、調整を終えた位置および撮影方向で診断を実施する場合、診断ボタンをオンする。また、オペレータは、新規診断を終了する場合には、終了ボタンをオンする。制御部1176は、終了ボタンがオンされたことを検出すると(ステップS14)、図7の処理を終える。
また制御部1176は、登録ボタンがオンされたことを検出すると(ステップS12)、新たな診断箇所情報11661を作成して診断箇所データベース1166に登録する(ステップS15)。カメラ130の現在位置および現在時刻は、撮影位置取得部1171によってGPS受信機132から取得され、記憶部116に撮影位置1162として記憶されている。またカメラ130の撮影方向は、方位センサ133および加速度センサ134から取得された方位および加速度に基づいて撮影方向取得部1172で算出され、記憶部116に撮影方向1163として記憶されている。さらにカメラ130で撮影されている画像は、撮影画像取得部1173によってカメラ130から取得され、記憶部116に時系列画像1164として記憶されている。制御部1176は、記憶部116から撮影位置1162、撮影方向1163、および時系列画像1164を取得し、それらの情報に基づいて診断箇所情報11661を作成し、診断箇所データベース1166に登録する。その際、制御部1176は、診断箇所情報11661の診断箇所ID11662に新たに採番したIDを設定し、登録日時11663には現在時刻を設定する。
また制御部1176は、診断ボタンがオンされたことを検出すると(ステップS13)、診断部1175を起動し、診断の実行を行う(ステップS16)。診断部1175は、例えば、前述したように構造物140の領域141をカメラ130で高速撮影した動画を解析して表面の振動を計測し、その振動のパターンから、ひび割れ・剥離・空洞などの内部劣化状態を推定する。そして、診断部1175は、推定した診断結果に係る情報を診断結果データベース1167に記憶する。制御部1176は、診断部1175の診断結果を診断結果データベース1167から読み出し、画面表示部114に表示し、または/および通信I/F部112を通じて外部の端末へ出力する(ステップS17)。
<継続診断>
オペレータが初期画面上の継続診断ボタンをオンすると、制御部1176は、そのことを検出し(ステップS4)、継続診断処理を実行する(ステップS5)。図9は継続診断処理の一例を示すフローチャートである。制御部1176は、先ず、診断箇所選択画面を画面表示部114に表示する(ステップS21)。
図10は診断箇所選択画面の一例を示す。この例の診断箇所選択画面は、マップと、選択ボタンと、終了ボタンとを有する。マップには、カメラ130の現在位置を示す現在位置アイコン(図の丸印)と、過去の撮影位置を示す過去位置アイコン(図の×印)とが表示されている。制御部1176は、カメラ130の現在位置をキーに診断箇所データベース1166を検索することにより、現在位置から所定距離内の位置を撮影位置11664に有する診断箇所情報11661を診断箇所データベース1166から取得する。そして、制御部1176は、取得した診断箇所情報11661の撮影位置11664が示す位置に過去位置アイコンを表示する。オペレータは、過去の診断箇所と同じ箇所の診断を行う場合、所望の過去位置アイコンにマウスカーソルを当てて選択ボタンをオンする。また、オペレータは、診断箇所の選択を終了する場合、終了ボタンをオンする。制御部1176は、終了ボタンがオンされたことを検出すると(ステップS22)、図9の処理を終了する。
また制御部1176は、選択ボタンがオンされたことを検出すると(ステップS23)、選択された過去位置アイコンに対応する診断箇所情報11661に基づいて撮影位置・撮影方向ガイド画面を作成し、画面表示部114に表示する(ステップS24)。
図11は撮影位置・撮影方向ガイド画面の一例を示す。この例の撮影位置・撮影方向ガイド画面は、モニタ画面と、診断箇所IDの表示欄と、撮影位置・撮影方向ガイド情報の表示欄と、診断ボタンと、終了ボタンとを有する。モニタ画面は、カメラ130の撮影画像をモニタ表示する。撮影位置・撮影方向ガイド情報の表示欄は、カメラ130の位置と登録撮影画像を撮影したときのカメラ130の位置との位置の差、およびカメラ130の撮影方向と登録撮影画像を撮影したときのカメラ130の撮影方向との方向の差に係る情報を表示する。また制御部1176は、撮影位置・撮影方向ガイド情報の表示欄に表示した情報を音声に変換して、音声出力部115から出力する。例えば、「位置および撮影方向とも良好です」、「近づきすぎなので、後ろに下がって下さい」、「位置が右寄りなので、左に移動して下さい」、「撮影方向が右寄りなので、左に向けて下さい」といったガイドメッセージを出力する。
オペレータは、表示および音声出力された撮影位置・撮影方向ガイド情報により、カメラ130の位置および撮影方向が適切であるか否かを認識することができる。またオペレータは、表示および音声出力された撮影位置・撮影方向ガイド情報により、カメラ130の位置および撮影方向をどのように変更すればよいかを判断することができる。
制御部1176は、撮影位置・撮影方向ガイド画面の表示後、終了ボタンがオンされたかどうか(ステップS25)、診断ボタンがオンされたかどうか(ステップS26)を検出し、何れのボタンもオンされない場合、ステップS24に戻る。そのため、カメラ130の位置および撮影方向がオペレータによって変更されると、その変更に応じて撮影位置・撮影方向ガイド画面が再作成・再描画されることになる。そして、制御部1176は、診断ボタンがオンされると、診断部1175を起動し、診断の実行を行う(ステップS27)。また診断部1175の診断が終了すると、制御部1176は、診断部1176の診断結果を診断結果データベース1167から読み出し、画面表示部114に表示し、または/および通信I/F部112を通じて外部の端末へ出力する(ステップS28)。そして制御部1176は、ステップS24に戻る。他方、終了ボタンがオンされると、制御部1176は、図9の処理を終える。
図12は、図8のステップS24の詳細を示すフローチャートである。制御部1176は、先ず、選択された過去位置アイコンに対応する診断箇所情報11661から診断箇所ID、登録撮影位置、登録撮影方向を取得する(ステップS31)。次に制御部1176は、記憶部116から撮影位置1162、撮影方向1163、時系列画像1164を取得する(ステップS32)。次に制御部1176は、撮影位置1162および撮影方向1163と登録撮影位置および登録撮影方向とを比較し、両者の位置の差および方向の差を検出する(ステップS33)。次に制御部1176は、時系列画像1164に基づいてモニタ画面を作成し、ステップS33で検出した位置の差および方向の差に基づいて、撮影位置・撮影方向ガイド情報を作成する(ステップS34)。次に制御部1176は、上記作成したモニタ画面、撮影位置・撮影方向ガイド情報と、その他の画面要素とから撮影位置・撮影方向ガイド画面を組み立てて画面表示部114に表示する(ステップS35)。
以上のように撮影位置・撮影方向ガイド情報には、GPS受信機132で検出されたカメラ130の位置と登録撮影位置との差の情報が表示される。また、撮影位置・撮影方向ガイド情報には、方位センサ133および加速度センサ134で検出された方位および加速度によって算出されたカメラ130の撮影方向と登録撮影方向との差の情報が表示される。このような情報によって、オペレータは、カメラ130の位置と撮影方向を初回診断時と同じカメラ位置および撮影方向に調整することができる。従って、初回診断時にカメラの撮影画像の横方向を橋軸方向と平行になるように調整していたのであれば、2回目以降の診断時もカメラの撮影画像の向きを初回と同じ向きに調整することができる。
続いて、画像の向き判定部1174の構成例について説明する。
図13は、画像の向き判定部1174の一例を示すブロック図である。図13を参照すると、画像の向き判定部1174は、分割部11741と、計測部11742と、比較部11743と、判定部11744とを含んで構成される。
分割部11741は、構造物140の領域141を撮影した時系列画像1164を、複数の領域に空間的に分割して、複数の部分領域に対応する複数の部分時系列画像を生成するように構成されている。図14は、分割前の時系列画像1164と分割後の部分時系列画像の関係の一例を示す図である。この例では、分割前の時系列画像1164は、時刻順に配列されたn枚のフレーム画像から構成されている。またフレーム画像は、左上ブロック、左下ブロック、右上ブロック、右下ブロックに4等分される。左上ブロック、左下ブロック、右上ブロック、右下ブロックのそれぞれは1つの部分領域を構成する。また、左上ブロックと左下ブロックを結合したブロックを左側ブロック、右上ブロックと右下ブロックを結合したブロックを右側ブロック、左上ブロックと右上ブロックを結合したブロックを上側ブロック、左下ブロックと右下ブロックを結合したブロックを下側ブロックと呼ぶ。左側ブロック、右側ブロック、上側ブロック、下側ブロックのそれぞれは1つの部分領域を構成する。
分割後の部分時系列画像は合計8つある。1つの部分時系列画像は、左上ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を左上部分時系列画像BG1と呼ぶ)。他の1つの部分時系列画像は、左下ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を左下部分時系列画像BG2と呼ぶ)。他の1つの部分時系列画像は、右上ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を右上部分時系列画像BG3と呼ぶ)。他の1つの部分時系列画像は、右下ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を右下部分時系列画像BG4と呼ぶ)。他の1つの部分時系列画像は、左側ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を左側部分時系列画像GB5と呼ぶ)。他の1つの部分時系列画像は、右側ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を右側部分時系列画像GB6と呼ぶ)。他の1つの部分時系列画像は、上側ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を上側部分時系列画像GB7と呼ぶ)。最後の1つの部分時系列画像は、下側ブロックを時刻順に配列したn枚の部分フレーム画像の集合から構成される(この部分時系列画像を下側部分時系列画像GB8と呼ぶ)。
計測部11742は、分割部11741によって生成された部分時系列画像の部分領域のそれぞれから、構造物140の表面のたわみ量の時間的な変化を計測するように構成されている。橋梁の床版を下方向からカメラで撮影する場合、交通荷重による橋梁の床版に生じるたわみ量δによって、カメラから床版間の撮影距離Lが短くなる。そのため、撮影画像はカメラの光軸を中心として拡大され、たわみによるみかけの変位δiが発生する。撮影距離をL、変位をδi、たわみ量をδ、変位算出位置のカメラ光軸からの距離をx、カメラの焦点距離をfとすると、δi=xf{1/(L-δ)−1/L}なる関係がある。そのため、部分領域のフレーム毎の変位δiをデジタル画像相関法などによって検出することにより、上記式から、部分領域のフレーム毎のたわみ量を算出することができる。なお、撮影距離Lは例えばレーザ距離計によって事前に計測することができ、距離xは分割前の画像の変位算出位置とカメラ光軸とから求めることができ、Fは撮像装置毎に既知である。
図15は、一つの部分時系列画像の部分領域のたわみ量の時間的な変化の一例を示す模式図である。縦軸はたわみ量、横軸は時間である。この例では、最初のたわみ量はほぼ零であり、その後、たわみ量が徐々に増大し、時刻tの時点でたわみ量が最大になり、その後、徐々に減少して再び零に戻っている。このような特性は、時系列画像の最初の画像フレームから最後の画像フレームまでの時間内に、当該部分領域の真上あるいは近傍を1台の車両が通過したときに得られる。
比較部11743は、計測部11742によって計測された部分領域毎の構造物140の表面のたわみ量の時間的な変化を互いに異なる部分領域どうしで比較するように構成されている。2つの部分領域のたわみ量の時間的な変化を比較する方法として、本実施形態では、同じ時刻における双方の部分領域のたわみ量の差を求める方法を使用する。すなわち、1つの部分領域の時刻t1、t2、…、tnにおけるたわみ量をδ11、δ12、…、δ1nとし、他の1つの部分領域の時刻t1、t2、…、tnにおけるたわみ量をδ21、δ22、…、δ2nとすると、時刻t1、t2、…、tnにおけるたわみ量の差をδ11−δ21、δ12−δ22、…、δn1−δn2として算出する。また本実施形態では、互いに比較する部分領域は以下の4つの組み合わせとする。
(A)左側ブロックと右側ブロックの組み合わせ(この組み合わせを組み合わせAと呼ぶ)
(B)上側ブロックと下側ブロックの組み合わせ(この組み合わせを組み合わせBと呼ぶ)
(C)左上ブロックと右下ブロックの組み合わせ(この組み合わせを組み合わせCと呼ぶ)
(D)左下ブロックと右上ブロックの組み合わせ(この組み合わせを組み合わせDと呼ぶ)
図16は、2つの部分領域のたわみ量の時間的な変化の例を示すグラフの例である。また図17は、2つの部分領域のたわみ量の差の時間的な変化の例を示すグラフの例である。一方の部分領域のたわみ量の時間的な変化が図16のグラフの実線で示され、他方の部分領域のたわみ量の時間的な変化が図16のグラフの破線で示されている。その場合、一方の部分領域のたわみ量から他方の部分領域のたわみ量を減算して求めた両者のたわみ量の差の時間的な変化は、図17のグラフの実線で示されるようになる。図示の例では、たわみ量の差は、最初は零であるが、徐々に正の方向に増大し、時刻t1の時点で最大となり、その後、徐々に減少していき、時刻t2の時点で最小となり、その後、徐々に零に近づいている。このたわみ量の差の最大値と最小値の絶対値を加算した値を、たわみ量の差の最大値と定義する。
判定部11744は、比較部11743による各組み合わせの比較結果に基づいて、交通荷重の通過方向に対する撮影画像の向きを判定するように構成されている。ここで、車両は橋軸方向に移動するため、交通荷重の通過方向と橋軸方向は一致する。本実施形態では、判定部11744は、橋軸方向に対して撮像画像の横方向が平行か否か、垂直か否かを判定する。また判定部11744は、平行・垂直でない場合、橋軸方向に対して撮影画像の横方向がどの程度傾いているかを判定する。
例えば、判定部11744は、組み合わせAのたわみ量の差の最大値が予め定められた閾値THmax以上であり、かつ、組み合わせBのたわみ量の差の最大値が予め定められた閾値THmin(<THmax)以下であるとき(この条件を以下、条件1と呼ぶ)、撮影画像の横方向が橋軸方向に平行であると判定する。ここで、閾値THminは、0または0に近い正の値に設定される。また閾値THmaxは、例えば橋梁を1台の車両(例えば自家用車)だけが通過した際に観測される床版の最大のたわみ量に設定される。但し、閾値THmin、THmaxは上記の例に限定されない。また閾値THmin、THmaxは固定値であってもよいし、個々の構造物の状況に応じて変化する可変値であってもよい。上記のように判定する理由を以下説明する。
撮影画像の横方向が橋軸方向に平行になっているとき、例えば図18に一例を示すように、組み合わせAの左側ブロック(G11、G12)と右側ブロック(G13、G14)は橋軸方向に平行に並び、組み合わせBの上側ブロック(G11、G13)と下側ブロック(G12、G14)は橋軸方向に垂直に並ぶ。橋梁を通過する車両は橋軸方向に平行に移動するため、左側ブロックと右側ブロックのたわみ量の時間的な変化は、例えば図19のグラフの実線と破線に示すように互いに時間的にずれることになる。そのため、両者のたわみ量の差の時間的な変化は図20のグラフの実線に示すような特性になり、たわみ量の差の最大値は閾値THmax以上となる。一方、上側ブロックと下側ブロックのたわみ量の時間的な変化は、例えば図19のグラフの一点鎖線に示すように互いに等しくなる。そのため、両者のたわみ量の差の時間的な変化は、ほぼ等しくなって図21のグラフの実線に示すような特性になる。その結果、たわみ量の差の最大値は閾値THmin以下となる。
また判定部11744は、組み合わせBのたわみ量の差の最大値が閾値THmax以上であり、かつ、組み合わせAのたわみ量の差の最大値が閾値THmin以下であるとき(この条件を以下、条件2と呼ぶ)、撮影画像の横方向が橋軸方向と垂直であると判定する。上記のように判定する理由は以下の通りである。
撮影画像の横方向が橋軸方向と垂直になっているとき、例えば図22に一例を示すように、組み合わせBの上側ブロック(G11、G13)と下側ブロック(G12、G14)は橋軸方向に平行に並び、組み合わせAの左側ブロック(G11、G12)と右側ブロック(G13、G14)は橋軸方向に垂直に並ぶ。橋梁を通過する車両は橋軸方向に平行に移動するため、上側ブロックと下側ブロックのたわみ量の時間的な変化は、図19のグラフの実線と破線に示すように互いに時間的にずれる。そのため、両者のたわみ量の差の時間的な変化は図20のグラフの実線に示すようになり、たわみ量の差の最大値は閾値THmax以上となる。一方、左側ブロックと右側ブロックのたわみ量の時間的な変化は、例えば図19のグラフの一点鎖線に示すように互いにほぼ等しくなる。そのため、両者のたわみ量の差の時間的な変化は図21のグラフの実線に示すようになり、たわみ量の差の最大値は閾値THmin以下となる。
判定部11744は、条件1および条件2の何れも成立しない場合、撮影画像の横方向は橋軸方向に平行でなく、また垂直でもないと判定する。また判定部11744は、そのように判定した場合、撮像画像の横方向が橋軸方向に対してどの程度傾いているかを判定する。
例えば判定部11744は、組み合わせDのたわみ量の差の最大値が閾値THmax以上であり、かつ、組み合わせCのたわみ量の差の最大値が閾値THmin以下であるとき(この条件を以下、条件3と呼ぶ)、撮影画像の横方向が橋軸方向に対して時計回り方向に45度傾いていると判定する。上記のように判定する理由は以下の通りである。
撮影画像の横方向が橋軸方向に対して時計回り方向に45度傾いているとき、例えば図23に一例を示すように、組み合わせDの左下ブロックG12と右上ブロックG13は橋軸方向に平行に並び、組み合わせCの左上ブロックG11と右下ブロックG14は橋軸方向に垂直に並ぶ。橋梁を通過する車両は橋軸方向に平行に移動するため、左下ブロックG12と右上ブロックG13のたわみ量の時間的な変化は、例えば図19のグラフの実線および破線に示すように互いに時間的にずれる。そのため、両者のたわみ量の差の時間的な変化は図20に示すようになり、たわみ量の差の最大値は閾値THmax以上となる。一方、左上ブロックG11と右下ブロックG14のたわみ量の時間的な変化は、例えば図19のグラフの一点鎖線に示すように互いにほぼ等しくなる。そのため、両者のたわみ量の差の時間的な変化は図21のグラフの実線に示すようになり、たわみ量の差の最大値は閾値THmin以下となる。
また判定部は、組み合わせCのたわみ量の差の最大値が閾値THmax以上であり、かつ、組み合わせDのたわみ量の差の最大値が閾値THmin以下であるとき(この条件を以下、条件4と呼ぶ)、撮影画像の横方向が橋軸方向に対して反時計回り方向に45度傾いていると判定する。上記のように判定する理由は以下の通りである。
撮影画像の横方向が橋軸方向に対して反時計回り方向に45度傾いているとき、例えば図24に一例を示すように、組み合わせCの左上ブロックG11と右下ブロックG14は橋軸方向に平行に並び、組み合わせDの左下ブロックG12と右上ブロックG13は橋軸方向に垂直に並ぶ。橋梁を通過する車両は橋軸方向に平行に移動するため、左上ブロックG11と右下ブロックG14のたわみ量の時間的な変化は、例えば図19のグラフの実線および破線に示すように互いに時間的にずれる。そのため、両者のたわみ量の差の時間的な変化は図20のグラフの実線に示すようになり、たわみ量の差の最大値は閾値THmax以上となる。一方、左下ブロックG12と右上ブロックG13のたわみ量の時間的な変化は、例えば図19のグラフの一点鎖線に示すように互いにほぼ等しくなる。そのため、両者のたわみ量の差の時間的な変化は図21のグラフの実線に示すようになり、たわみ量の差の最大値は閾値THmin以下となる。
また判定部11744は、条件1乃至条件4の何れも成立しない場合、組み合わせAのたわみ量の差の最大値と組み合わせBのたわみ量の差の最大値とを比較し、どちらの方が大きいかを判定する。次に判定部11744は、組み合わせAのたわみ量の差の最大値が組み合わせBのたわみ量の差の最大値よりも大きければ(この条件を以下、条件5と呼ぶ)、撮影画像の横方向が橋軸方向に対して±45度以内で傾いていると判定する。その理由は、組み合わせAのたわみ量の差の最大値が組み合わせBのたわみ量の差の最大値よりも大きくなるのは、ブロックG11〜G14が図18に示す状態から時計回りに45度回転させた図23に示す状態に至るまでの何れかの状態であるか、あるいは、図18に示す状態から反時計回りに45度回転させた図24に示す状態に至るまでの何れかの状態であるためである。一方、判定部11744は、組み合わせBのたわみ量の差の最大値が組み合わせAのたわみ量の差の最大値よりも大きければ(この条件を以下、条件6と呼ぶ)、撮影画像の横方向が橋軸方向に垂直な方向に対して±45度以内で傾いていると判定する。
また判定部11744は、条件5が成立する場合、組み合わせCのたわみ量の差の最大値と組み合わせDのたわみ量の差の最大値とを比較する。そして判定部11744は、組み合わせCのたわみ量の差の最大値が、組み合わせDのたわみ量の差の最大値より大きければ、撮影画像の横方向が橋軸方向に対して反時計回り方向に45度以内で傾いていると判定する。その理由は、組み合わせCのたわみ量の差の最大値が組み合わせDのたわみ量の差の最大値より大きくなるのは、ブロックG11〜G14が図18に示す状態から反時計回りに45度回転させた図24に示す状態に至るまでの何れかの状態であるためである。また判定部11744は、組み合わせDのたわみ量の差の最大値が、組み合わせCのたわみ量の差の最大値より大きければ、撮影画像の横方向が橋軸方向に対して時計回り方向に45度以内で傾いていると判定する。
また判定部11744は、条件6が成立する場合、組み合わせCのたわみ量の差の最大値と組み合わせDのたわみ量の差の最大値とを比較する。そして判定部11744は、組み合わせCのたわみ量の差の最大値が、組み合わせDのたわみ量の差の最大値より大きければ、撮影画像の横方向が橋軸方向に垂直な方向に対して時計回り方向に45度以内で傾いていると判定する。また判定部11744は、組み合わせDのたわみ量の差の最大値が、組み合わせCのたわみ量の差の最大値より大きければ、撮影画像の横方向が橋軸方向に垂直な方向に対して反時計回り方向に45度以内で傾いていると判定する。
以上が、画像の向き判定部1174の一例である。
上記説明では、画像の向き判定部1174は、フレーム画像全体を4等分した。しかし、フレーム画像を複数のブロックに分割する方法は上記に限定されない。例えば、フレーム画像全体でなく、周辺部を除いた中央部分などの画像の一部分を複数のブロックに分割してもよい。また、分割された個々のブロックは他のブロックと接していなくてもよい。また、分割数は4に限定されず、4より少ない数、すなわち、2または3であってもよいし、4より大きな数であってもよい。
また、たわみ量の時間的な変化を互いに比較する部分領域の組み合わせは、上記の例に限定されない。例えば、左側ブロックと右側ブロックの組み合わせの代わりに、左上ブロックと右上ブロックの組み合わせ、または、左下ブロックと右下ブロックの組み合わせを使用してもよい。また、上側ブロックと下側ブロックの組み合わせの代わりに、左上ブロックと左下ブロックの組み合わせ、または、右上ブロックと右下ブロックの組み合わせを使用してもよい。
また、比較部11743は、2つの部分領域のたわみ量の時間的な変化を比較するために、一方の部分領域のたわみ量と他方の部分領域のたわみ量とを同じ時刻で比較して、両者のたわみ量の差を求めるようにした。しかし、比較方法は上記方法に限定されない。例えば、比較部11743は、一方の部分領域のたわみ量の時間的な変化パターンを第1の変化パターン、他方の部分領域のたわみ量の時間的な変化パターンを第2の変化パターンとして、第1の変化パターンと第2の変化パターンとが一番良くマッチするために必要な第1の変化パターンに対するシフト時間の最小値を、上述したたわみ量の差の最大値として算出するようにしてもよい。
以上説明したように、本実施形態によれば、橋梁の床版を下方向から撮影した画像中に画像の向きを特定できる被写体が写っていなくても、画像自体から画像の向きを判定することができる。その理由は、橋梁を交通荷重の通過中に撮影した時系列画像を複数の部分領域に空間的に分割して複数の部分時系列画像を生成し、その複数の部分時系列画像から部分領域毎の橋梁のたわみ量の時間的な変化を計測し、その部分領域毎の橋梁のたわみ量の時間的な変化を比較して、交通荷重の通過方向に対する画像の向きを判定するためである。
また本実施形態によれば、判定した画像の向きを視覚的あるいは音声によってオペレータに通知するため、オペレータは橋梁の診断箇所となる領域を撮影するカメラの画像を所定方向、すなわち橋軸と平行な方向あるいは垂直な方向に正しく調整することができる。
また、上記説明では、カメラ130で撮影した画像の向きを判定した結果をオペレータに提示するようにした。しかし、本発明によって判定した撮影画像の向きは、オペレータに提示する以外に各種の目的で利用することができる。例えば、制御部1176は、図2の診断箇所データベース1166に記録されている登録時系列画像11666の画像の向きを画像の向き判定部1174によって判定し、所定の向き(例えば画像の横方向が橋軸方向と平行になる向き)に統一されるように登録時系列画像11666の画像の向きを変換し、全ての診断箇所情報11661の登録時系列画像11666の向きを、事後的に所定の向きに位置合わせするようにしてもよい。このとき制御部1176は、位置合わせ手段として機能することになる。
[第2の実施の形態]
次に、本発明の第2の実施形態について図25を参照して説明する。図25は、本実施形態に係る画像処理装置のブロック図である。なお、本実施形態は、本発明の画像処理装置の概略を説明する。
図25を参照すると、本実施形態に係る画像処理装置200は、分割手段201と計測手段202と比較手段203と判定手段204とを含んで構成されている。
分割手段201は、構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成するように構成されている。分割手段201は、例えば図13の分割部11741と同様に構成することができるが、それに限定されない。
計測手段202は、分割手段201によって生成された複数の部分時系列画像から、部分領域毎の構造物のたわみ量の時間的な変化を計測するように構成されている。計測手段202は、例えば図13の計測部11742と同様に構成することができるが、それに限定されない。
比較手段203は、計測手段202によって計測された複数の部分領域毎の構造物のたわみ量の時間的な変化を比較するように構成されている。比較手段203は、例えば図13の比較部11743と同様に構成することができるが、それに限定されない。
判定手段204は、比較手段203による比較の結果に基づいて、交通荷重の通過方向に対する時系列画像の向きを判定するように構成されている。判定手段204は、例えば図13の判定部11744と同様に構成することができるが、それに限定されない。
このように構成された画像処理装置200は以下のように動作する。即ち、分割手段201は、構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する。次に計測手段202は、分割手段201によって生成された複数の部分時系列画像から、部分領域毎の構造物のたわみ量の時間的な変化を計測する。次に比較手段203は、計測手段202によって計測された複数の部分領域毎の構造物のたわみ量の時間的な変化を比較する。次に判定手段204は、比較手段203による比較の結果に基づいて、交通荷重の通過方向に対する時系列画像の向きを判定する。
本実施形態は以上のように構成され動作することにより、構造物の面を撮影した画像中に画像の向きを特定できる被写体が写っていない場合であっても、画像自体から画像の向きを判定することができる。その理由は、構造物の表面を交通荷重が通過する際の部分領域毎のたわみ量の時間的な変化の違いに基づいて、交通荷重の通過方向に対する画像の向きを判定するためである。
以上、上記各実施形態を参照して本発明を説明したが、本発明は、上述した実施形態に限定されるものではない。本発明の構成や詳細には、本発明の範囲内で当業者が理解しうる様々な変更をすることができる。
本発明は、橋梁などの構造物の表面を撮影した画像の向きを判定する場合などに利用できる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する分割手段と、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する計測手段と、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する比較手段と、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する判定手段と、
を備える画像処理装置。
[付記2]
前記判定の結果を出力する出力手段を、さらに備える、
付記1に記載の画像処理装置。
[付記3]
前記時系列画像の向きと、所定の向きとの差を検出し、前記検出した差を示す情報を出力する出力手段を、さらに備える、
付記1または2に記載の画像処理装置。
[付記4]
前記判定の結果に基づいて、前記時系列画像の位置合わせを行う位置合わせ手段を、さらに備える、
付記1乃至3の何れかに記載の画像処理装置。
[付記5]
前記比較手段は、1つの前記部分領域の構造物の表面の各時刻のたわみ量と他の1つの前記部分領域の構造物の表面の各時刻のたわみ量との各時刻におけるたわみ量の差の最大値を算出するように構成されている、
付記1乃至4の何れかに記載の画像処理装置。
[付記6]
前記比較手段は、1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第1のパターンと、他の1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第2のパターンとが一番良くマッチするために必要な前記第1のパターンに対するシフト時間の最小値を算出するように構成されている、
付記1乃至4の何れかに記載の画像処理装置。
[付記7]
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成し、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測し、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較し、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する、
画像処理方法。
[付記8]
前記判定の結果を出力する、
付記7に記載の画像処理方法。
[付記9]
前記時系列画像の向きと、所定の向きとの差を検出し、前記検出した差を示す情報を出力する、
付記7または8に記載の画像処理方法。
[付記10]
前記判定の結果に基づいて、前記時系列画像の位置合わせを行う、
付記7乃至9の何れかに記載の画像処理方法。
[付記11]
前記比較では、1つの前記部分領域の構造物の表面の各時刻のたわみ量と他の1つの前記部分領域の構造物の表面の各時刻のたわみ量との各時刻におけるたわみ量の差の最大値を算出する、
付記7乃至10の何れかに記載の画像処理方法。
[付記12]
前記比較では、1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第1のパターンと、他の1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第2のパターンとが一番良くマッチするために必要な前記第1のパターンに対するシフト時間の最小値を算出する、
付記7乃至10の何れかに記載の画像処理方法。
[付記13]
構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する処理と、
前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する処理と、
前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する処理と、
前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する処理と、を
コンピュータに行わせるためにプログラムを記録したコンピュータ読み取り可能な記録媒体。
100…診断装置
110…コンピュータ
111…カメラI/F部
112…通信I/F部
113…操作入力部
114…画面表示部
115…音声出力部
116…記憶部
117…演算処理部
120…ケーブル
130…カメラ
140…構造物
141…部分領域
150…三脚
151…雲台
200…画像処理装置
201…分割手段
202…計測手段
203…比較手段
204…判定手段

Claims (10)

  1. 構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する分割手段と、
    前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する計測手段と、
    前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する比較手段と、
    前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する判定手段と、
    を備える画像処理装置。
  2. 前記判定の結果を出力する出力手段を、さらに備える、
    請求項1に記載の画像処理装置。
  3. 前記時系列画像の向きと、所定の向きとの差を検出し、前記検出した差を示す情報を出力する出力手段を、さらに備える、
    請求項1または2に記載の画像処理装置。
  4. 前記判定の結果に基づいて、前記時系列画像の位置合わせを行う位置合わせ手段を、さらに備える、
    請求項1乃至3の何れかに記載の画像処理装置。
  5. 前記比較手段は、1つの前記部分領域の構造物の表面の各時刻のたわみ量と他の1つの前記部分領域の構造物の表面の各時刻のたわみ量との各時刻におけるたわみ量の差の最大値を算出するように構成されている、
    請求項1乃至4の何れかに記載の画像処理装置。
  6. 前記比較手段は、1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第1のパターンと、他の1つの前記部分領域の構造物の表面のたわみ量の時間的な変化を示す第2のパターンとが一番良くマッチするために必要な前記第1のパターンに対するシフト時間の最小値を算出するように構成されている、
    請求項1乃至4の何れかに記載の画像処理装置。
  7. 構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成し、
    前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測し、
    前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較し、
    前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する、
    画像処理方法。
  8. 前記判定の結果を出力する、
    請求項7に記載の画像処理方法。
  9. 前記時系列画像の向きと、所定の向きとの差を検出し、前記検出した差を示す情報を出力する、
    請求項7または8に記載の画像処理方法。
  10. 構造物の表面を交通荷重の通過中に撮影した時系列画像を、複数の部分領域に空間的に分割して、複数の部分時系列画像を生成する処理と、
    前記複数の部分時系列画像から、前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を計測する処理と、
    前記部分領域毎の前記構造物の表面のたわみ量の時間的な変化を比較する処理と、
    前記比較の結果に基づいて、前記交通荷重の通過方向に対する前記時系列画像の向きを判定する処理と、を
    コンピュータに行わせるためプログラム。
JP2020569324A 2019-02-01 2019-02-01 画像処理装置 Active JP6989036B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/003696 WO2020157973A1 (ja) 2019-02-01 2019-02-01 画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2020157973A1 JPWO2020157973A1 (ja) 2021-11-25
JP6989036B2 true JP6989036B2 (ja) 2022-01-05

Family

ID=71841983

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020569324A Active JP6989036B2 (ja) 2019-02-01 2019-02-01 画像処理装置

Country Status (3)

Country Link
US (1) US20220113260A1 (ja)
JP (1) JP6989036B2 (ja)
WO (1) WO2020157973A1 (ja)

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0618223A (ja) * 1992-02-04 1994-01-25 Inter Detsuku:Kk 遠隔物体の光学的測定方法
JP3247334B2 (ja) * 1998-03-10 2002-01-15 国際航業株式会社 熱映像による構造物変状診断システム及び診断方法
CN101726357B (zh) * 2008-10-14 2014-01-08 能美防灾株式会社 烟检测装置
JP4948660B2 (ja) * 2010-05-14 2012-06-06 西日本旅客鉄道株式会社 構造物変位量測定方法
JP5914430B2 (ja) * 2013-08-12 2016-05-11 復建調査設計株式会社 橋梁における活荷重無載荷状態時の標高計測方法
JP6707258B2 (ja) * 2014-08-21 2020-06-10 公立大学法人大阪 応力可視化装置および力学物性値可視化装置
JP6652060B2 (ja) * 2014-09-25 2020-02-19 日本電気株式会社 状態判定装置および状態判定方法
JP2016084579A (ja) * 2014-10-23 2016-05-19 国立研究開発法人産業技術総合研究所 構造物のたわみ量分布監視方法及び監視装置
US10371510B2 (en) * 2015-03-20 2019-08-06 Nec Corporation Structure status determination device, status determination system, and status determination method
JP6570909B2 (ja) * 2015-07-24 2019-09-04 株式会社Ttes データ生成装置、データ生成方法、プログラム及び記録媒体
JP6507911B2 (ja) * 2015-07-29 2019-05-08 日本電気株式会社 抽出システム、抽出サーバ、抽出方法、および抽出プログラム
JP6686354B2 (ja) * 2015-10-02 2020-04-22 セイコーエプソン株式会社 計測装置、計測方法、計測システム、およびプログラム
WO2017179535A1 (ja) * 2016-04-15 2017-10-19 日本電気株式会社 構造物の状態判定装置と状態判定システムおよび状態判定方法
US11282201B2 (en) * 2016-11-02 2022-03-22 Sony Corporation Information processing device, information processing method and information processing system
JP6696693B2 (ja) * 2017-01-04 2020-05-20 株式会社東芝 回転ずれ量検出装置、物体検知センサ、回転ずれ量検出システム、回転ずれ量検出方法及び回転ずれ量検出プログラム

Also Published As

Publication number Publication date
US20220113260A1 (en) 2022-04-14
WO2020157973A1 (ja) 2020-08-06
JPWO2020157973A1 (ja) 2021-11-25

Similar Documents

Publication Publication Date Title
US10198796B2 (en) Information processing apparatus, control method of information processing apparatus, and non-transitory storage medium storing information processing program
JPWO2020179188A1 (ja) 構造物の変位量計測装置
JP6577852B2 (ja) 動きベクトル検出装置およびその制御方法
WO2020194539A1 (ja) 構造物の変位計測装置
US10432843B2 (en) Imaging apparatus, control method of imaging apparatus, and non-transitory recording medium for judging an interval between judgement targets
US11895396B2 (en) Imaging plan presentation apparatus and method for updating and re-generating an imaging plan
JP5108392B2 (ja) 軌道変位測定システム
WO2020145004A1 (ja) 撮影ガイド装置
JP6989036B2 (ja) 画像処理装置
CN114616820B (zh) 摄像支援装置、摄像装置、摄像系统、摄像支援系统、摄像支援方法及存储介质
JP7504688B2 (ja) 画像処理装置、画像処理方法およびプログラム
WO2020183549A1 (ja) 構造物のたわみ計測装置
JP4479396B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP7067668B2 (ja) 変位・重量対応付け装置
JP2010230423A (ja) 変位量測定装置及び同測定方法
JPWO2020174833A1 (ja) 変位‐重量対応付け装置
WO2021039088A1 (ja) 撮像パラメータ出力方法、及び、撮像パラメータ出力装置
JP7511147B2 (ja) 撮像パラメータ出力方法、及び、撮像パラメータ出力装置
US20220148208A1 (en) Image processing apparatus, image processing method, program, and storage medium
JP2010281685A (ja) 位置計測システム及び位置計測方法
US20230012208A1 (en) Imaging apparatus
JP4988479B2 (ja) 文字情報合成装置および文字情報合成方法
WO2019093062A1 (ja) 計測装置、計測装置の制御方法、計測プログラムおよび記録媒体
JP2018173976A (ja) 3次元侵入検知システムおよび3次元侵入検知方法
JP2008281527A (ja) 距離測定装置、距離測定プログラム及び方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210714

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211115

R150 Certificate of patent or registration of utility model

Ref document number: 6989036

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150