JPWO2018143263A1 - 撮影制御装置、撮影制御方法及びプログラム - Google Patents

撮影制御装置、撮影制御方法及びプログラム Download PDF

Info

Publication number
JPWO2018143263A1
JPWO2018143263A1 JP2018565602A JP2018565602A JPWO2018143263A1 JP WO2018143263 A1 JPWO2018143263 A1 JP WO2018143263A1 JP 2018565602 A JP2018565602 A JP 2018565602A JP 2018565602 A JP2018565602 A JP 2018565602A JP WO2018143263 A1 JPWO2018143263 A1 JP WO2018143263A1
Authority
JP
Japan
Prior art keywords
image
photographing
unit
feature points
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018565602A
Other languages
English (en)
Other versions
JP6712330B2 (ja
Inventor
修平 堀田
修平 堀田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2018143263A1 publication Critical patent/JPWO2018143263A1/ja
Application granted granted Critical
Publication of JP6712330B2 publication Critical patent/JP6712330B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Accessories Of Cameras (AREA)
  • Image Analysis (AREA)

Abstract

撮影対象物の同一平面上の経時的な変化を低コストで的確に把握することを可能にする撮影制御装置、撮影制御方法及びプログラムを提供する。第1の撮影装置によって過去に撮影された第1の画像及び第2の撮影装置によって撮影された第2の画像からそれぞれ特徴点を抽出する特徴点抽出部(24)であって、第1の画像及び第2の画像における撮影対象物の同一平面上の特徴点を抽出する特徴点抽出部(24)と、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係を取得する対応関係取得部(26)と、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、第1の画像を撮影した場合の第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる第2の撮影装置の位置及び姿勢の変位量を算出する変位量算出部と、を備える。

Description

本発明は、撮影対象物の同一平面上の経時的な変化を低ハードウエアコストで的確に把握することを可能にする撮影制御装置、撮影制御方法及びプログラムに関する。
従来、撮影を制御する各種の技術が提案又は提供されてきた。
特許文献1には、非固定設置のカメラによって定点撮影を行う場合に、GPS(global positioning system)センサ、地磁気センサ及び加速度センサを用いてカメラの現在の位置、撮影方位及び撮影傾斜角度を示す現在情報を取得し、且つ情報メモリからカメラの過去の位置、撮影方位及び撮影傾斜角度を示す過去情報を取得し、現在情報と過去情報との比較結果を撮影者に対して表示することが、記載されている。撮影者は、その表示を参照してカメラの現在の位置、撮影方位及び撮影傾斜角度を調整することにより、過去の撮影時と同一の視点から現在の撮影対象物を撮影することができる。
また社会的なインフラストラクチャーとして、橋梁、建築物といった構造物が多数存在する。これらの構造物には損傷が発生し、その損傷は進行する性質を持つため、構造物を定期的に点検する必要がある。このような点検の結果の正確性を期するため、構造物を定期的に撮影することにより構造物の損傷状態を的確に把握することが求められている。
特許文献2には、橋梁の下面近傍に張り渡された二本のケーブルに沿ってロボットを移動させて、そのロボットに搭載されたカメラによって橋梁の下面を撮影する場合に、ケーブルの回転駆動をモニタリングすることによりロボットの現在位置を測定し、ロボットを過去の撮影時の位置まで移動させることが、記載されている。
特許文献3には、二台のカメラが搭載されたロボットが自由に移動する場合に、ロボットの前方視野を連続撮像して静止物体を判断し、その静止物体の位置を基準にしてロボットの現在位置を検出することが、記載されている。また特許文献4には、回動自在なカメラが搭載されたロボットを移動させながら外観検査の対象物体を連続撮像する場合に、カメラを回動させて各画像の中心に対象物体像を位置合わせすることが、記載されている。
特開2010−183150号公報 特開2015−111111号公報 特開2002−48513号公報 特開平3−252883号公報
特許文献1に記載された技術は、カメラの位置、撮影方位及び撮影傾斜角度を取得するために、各種のセンサ(例えばGPSセンサ、地磁気センサ、及び加速度センサ)をカメラごとに用意する必要がある。従って、ハードウエアのコスト及びサイズが増大してしまう問題がある。
特許文献2に記載された技術は、ロボットの移動方向がケーブルの長手方向に限定されるため、ケーブルの回転駆動をモニタリングするだけでロボットの現在位置を測定できるが、カメラの位置を二次元的に自在に制御可能な場合又はカメラの撮影方位若しくは撮影傾斜角度を自在に制御可能な場合には、適用が困難である。つまり、カメラの位置、撮影方位又は撮影傾斜角度を自在に制御可能な場合には、特許文献1に記載のように、各種のセンサを追加する必要があり、ハードウエアのコスト及びサイズが増大してしまう、と考えられる。
特許文献3は、前方視野の連続撮像により静止物体を判断してロボットの現在位置を検出する技術を開示しているが、撮影対象物の同一平面上の経時的な変化を的確に把握するための好適な構成については開示及び示唆がない。また特許文献4は、対象物体を連続撮像しながら画像の中心に対象物体像を位置合わせする技術を開示しているが、撮影対象物の同一平面上の経時的な変化を的確に把握するための好適な構成については開示及び示唆がない。そもそも特許文献3及び特許文献4は、撮影対象物の経時的な変化を平面ごとに把握することに関する記載がないといえる。
本発明は、撮影対象物の同一平面上の経時的な変化を低コストで的確に把握することを可能にする撮影制御装置、撮影制御方法及びプログラムを提供することを目的とする。
上述した目的を達成するため、本発明の第1の態様に係る撮影制御装置は、第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得する第1の画像取得部と、第2の撮影装置によって撮影対象物を撮影して生成された第2の画像を取得する第2の画像取得部と、第1の画像及び第2の画像からそれぞれ特徴点を抽出する特徴点抽出部であって、第1の画像及び第2の画像における撮影対象物の同一平面上の特徴点を抽出する特徴点抽出部と、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係を取得する対応関係取得部と、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、第1の画像を撮影した場合の第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる第2の撮影装置の位置及び姿勢の変位量を算出する変位量算出部と、を備える。
本態様によれば、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係が取得され、その取得された対応関係に基づいて、第1の画像を撮影した場合の第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる第2の撮影装置の位置及び姿勢の変位量が算出されるので、撮影装置の位置及び姿勢を検出するための各種のセンサ(例えば、GPSセンサ、地磁気センサ、加速度センサ)を省略又は少なくすることが可能であり、且つ撮影対象物の経時的な変化であって撮影対象物の同一平面上の変化を把握することが可能になる。また、第1の画像及び第2の画像の両方に存在する特徴点のみの対応関係に基づいて変位量が算出されるので、撮影対象物に新たな損傷が生じても、その新たな損傷は無視されて、的確な変位量が算出されることになる。つまり、撮影対象物の同一平面上の経時的な変化を低コストで的確に把握することが可能になる。
本発明の第2の態様に係る撮影制御装置は、変位量算出部によって算出された変位量に応じて、第2の撮影装置の位置及び姿勢の変位を制御する変位制御部を備える。
本発明の第3の態様に係る撮影制御装置は、第1の画像と第2の画像との一致度を算出する一致度算出部と、一致度を基準値と比較して、第2の撮影装置を変位させるか否かを判定する判定部と、を備え、変位制御部は、判定部によって第2の撮影装置を変位させると判定された場合には第2の撮影装置を変位させる。
本発明の第4の態様に係る撮影制御装置では、一致度算出部は、対応関係取得部によって対応付けされた特徴点同士の第1の画像における位置と第2の画像における位置との差に基づいて一致度を算出する。
本発明の第5の態様に係る撮影制御装置では、判定部によって第2の撮影装置を変位させると判定された場合には変位量を算出する。
本発明の第6の態様に係る撮影制御装置では、変位制御部によって第2の撮影装置を変位させた場合、第2の画像取得部による画像の取得、特徴点抽出部による特徴点の抽出、対応関係取得部による対応関係の取得、及び一致度算出部による一致度の算出を繰り返す。
本発明の第7の態様に係る撮影制御装置では、第1の画像及び第2の画像は、ステレオ画像であり、ステレオ画像に基づいて、第1の画像及び第2の画像における撮影対象物の平面領域を特定する平面特定部を備える。
本発明の第8の態様に係る撮影制御装置では、撮影対象物の三次元情報を取得する三次元情報取得部と、三次元情報に基づいて、第1の画像及び第2の画像における撮影対象物の平面領域を特定する平面特定部と、を備える。
本発明の第9態様に係る撮影制御装置では、平面特定部は、第1の画像における撮影対象物の平面領域を特定する第1の平面方程式と第2の画像における撮影対象物の平面領域を特定する第2の平面方程式とを算出し、対応関係取得部は、第1の平面方程式及び第2の平面方程式を用いて、撮影対象物の同一平面上の特徴点同士の対応関係を取得する。
本発明の第10の態様に係る撮影制御装置は、第1の画像及び第2の画像から撮影対象物の損傷像を検出する損傷検出部を備え、変位量算出部は、第1の画像に非存在であり且つ第2の画像に存在する損傷像が検出された場合、損傷像を第2の画像取得部により取得される第3の画像の特定の位置に合わせる変位量を算出する。
本発明の第11の態様に係る撮影制御装置は、表示部と、第1の画像と第2の画像とを並べて又は重ね合わせて表示部に表示させる表示制御部と、を備える。
本発明の第12の態様に係る撮影制御方法は、第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得するステップと、第2の撮影装置によって撮影対象物を撮影して生成された第2の画像を取得するステップと、第1の画像及び第2の画像からそれぞれ特徴点を抽出するステップであって、第1の画像及び第2の画像における撮影対象物の同一平面上の特徴点を抽出するステップと、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係を取得するステップと、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、第1の画像を撮影した場合の第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる第2の撮影装置の位置及び姿勢の変位量を算出するステップと、を含む。
本発明の第13の態様に係るプログラムは、第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得するステップと、第2の撮影装置によって撮影対象物を撮影して生成された第2の画像を取得するステップと、第1の画像及び第2の画像からそれぞれ特徴点を抽出するステップであって、第1の画像及び第2の画像における撮影対象物の同一平面上の特徴点を抽出するステップと、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係を取得するステップと、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、第1の画像を撮影した場合の第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる第2の撮影装置の位置及び姿勢の変位量を算出するステップと、をコンピュータに実行させる。
本発明よれば、撮影対象物の同一平面上の経時的な変化を低コストで的確に把握することが可能になる。
図1は、第1の実施形態における撮影制御装置の構成例を示すブロック図である。 図2は、変位量の算出の説明に用いる説明図である。 図3は、第1の実施形態における撮影制御処理例の流れを示すフローチャートである 図4は、一定範囲の説明に用いる説明図である。 図5は、第2の実施形態における撮影制御装置の構成例を示すブロック図である。 図6は、第2の実施形態における撮影制御処理例の流れを示すフローチャートである。 図7は、損傷像が非存在の第1の画像と損傷像を含む第2の画像の説明に用いる説明図である。 図8は、特徴点抽出の説明に用いる説明図である。 図9は、特徴点同士の対応付けの説明に用いる説明図である。 図10は、第3の実施形態における撮影制御装置の構成例を示すブロック図である。 図11は、第3の実施形態における撮影制御処理例の流れを示すフローチャートである。 図12は、第1の画像の特徴点群の位置の修正、及び第2の画像の損傷像を第3の画像の中心位置に来させる変位量の算出の説明に用いる説明図である。 図13は、撮影対象物の一例である橋梁の外観を示す斜視図である。 図14は、ロボット装置の外観を示す斜視図である。 図15は、図14に示したロボット装置の要部断面図である。 図16は、撮影装置の一例であるステレオカメラの外観を示す斜視図である。 図17は、点検システムの全体構成を示す図である。 図18は、図17に示したロボット装置100及び端末装置300の要部構成例を示すブロック図である。 図19は、ステレオカメラにより平面領域を有する撮影対象物を撮影して生成された画像を示す図である。 図20は、平面領域の特定の説明に用いる画像である。
以下、添付図面に従って、本発明に係る撮影制御装置、撮影制御方法及びプログラムを実施するための形態について説明する。
[第1の実施形態]
図1は、第1の実施形態における撮影制御装置の構成例を示すブロック図である。
本実施形態の撮影制御装置10Aは、過去の撮影対象物を示す第1の画像(以下「過去の画像」ともいう)を取得する第1の画像取得部12と、現在の撮影対象物を示す第2の画像(以下「現在の画像」ともいう)を取得する第2の画像取得部14と、第1の画像及び第2の画像における撮影対象物の平面領域を特定する平面特定部22と、第1の画像及び第2の画像からそれぞれ特徴点を抽出する特徴点抽出部24であって第1の画像及び第2の画像における撮影対象物の同一平面上の特徴点を抽出する特徴点抽出部24と、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係を取得する対応関係取得部26と、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、撮影装置60の位置及び姿勢の変位量を算出する変位量算出部28と、変位量算出部28によって算出された変位量に応じて、撮影装置60の位置及び姿勢の変位を制御する変位制御部30と、各部を統括して制御する統括制御部38(「判定部」の一形態である)と、各種の情報を記憶する記憶部40と、を含んで構成される。
「第1の画像」は、過去に撮影対象物を撮影して生成された画像である。「第2の画像」は、現在の撮影対象物を撮影して生成された画像である。過去の撮影対象物の撮影に用いられた撮影装置(つまり第1の画像を生成した撮影装置)と、現在の撮影対象物の撮影に用いる撮影装置(つまり第2の画像を生成した撮影装置)とは、同一である必要はなく、異なってよい。本明細書では、過去の撮影対象物の撮影と現在の撮影対象物の撮影とで撮影装置が同じであるか異なるかに関わらず、過去の撮影対象物の撮影に用いた撮影装置60を「第1の撮影装置」といい符号60Aで表し、現在の撮影対象の撮影に用いる撮影装置60を「第2の撮影装置」といい符号60Bで表すことがある。更に第1の撮影装置60Aと第2の撮影装置60Bとは、同じ機種である必要はなく、異なる機種でもよい。また「過去の撮影対象物」と「現在の撮影対象物」とは、同一の物体であるが、損傷等に因り状態が変化している可能性がある。
また本例において「第1の画像」及び「第2の画像」は、ステレオ画像であり、それぞれ左眼画像(第1眼画像)と右眼画像(第2眼画像)とからなる。つまり本例において第1の撮影装置60A及び第2の撮影装置60Bは、ステレオカメラである。
本例の第1の画像取得部12は、データベース50から、第1の画像を取得する。データベース50は、第1の撮影装置60Aによって過去の撮影対象物を撮影して生成された第1の画像を、撮影対象物の撮影箇所に関連付けて、記憶する。第1の画像取得部12は、例えば、ネットワークを介してデータベース50にアクセスする通信デバイスによって構成される。
本例の第2の画像取得部14は、第2の撮影装置60Bから、第2の画像を取得する。つまり本例の第2の画像取得部14は、第2の撮影装置60Bによって現在の撮影対象物を撮影して生成された第2の画像を、第2の撮影装置60Bから取得する。第2の画像取得部14は、例えば、有線又は無線の通信を行う通信デバイスによって構成される。
本例の平面特定部22は、第1の画像を構成するステレオ画像に基づいて、第1の画像における撮影対象物の平面領域を特定する第1の平面方程式を算出し、第2の画像を構成するステレオ画像に基づいて、第2の画像における撮影対象物の平面領域を特定する第2の平面方程式を算出する。平面領域の特定の具体例は、後に詳細に説明する。
本例の特徴点抽出部24は、第1の画像と第2の画像とで撮影対象物の同一平面上の特徴点を抽出する。本例の特徴点抽出技術として、SIFT(scale invariant feature transform)、SURF(speeded up robust features)、FAST(features from accelerated segment test)などの公知技術を用いることができる。
本例の対応関係取得部26は、公知のマッチング技術を用いて、撮影対象物の同一平面上の特徴点同士の対応関係を取得する。
また本例の対応関係取得部26は、平面特定部22によって算出された第1の平面方程式及び第2の平面方程式を用いて、撮影対象物の同一平面上の特徴点同士の対応関係を取得する。
本例の変位量算出部28は、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、射影変換(ホモグラフィ)行列を算出することにより、第2の撮影装置60Bの位置及び姿勢の変位量を算出する。尚、対応関係取得部26による特徴点間のマッチングと、変位量算出部28による変位量の算出とを、同時に行ってもよい。
変位量算出部28は、図2に例示するように、第1の画像IMG1から抽出された特徴点と第2の画像IMG2から抽出された特徴点との対応関係であって撮影対象物OBJの同一平面上の特徴点同士の対応関係に基づいて、三次元空間における第1の撮影装置60Aの位置CP1と第2の撮影装置60Bの位置CP2との差分(CP2−CP1)と、第1の撮影装置60Aの姿勢を示す撮影傾斜角度CA1と第2の撮影装置60Bの姿勢を示す撮影傾斜角度CA2との差分(CA2−CA1)とを、算出する。尚、図2に示す例では、目標となる第1の撮影装置60Aの撮影傾斜角度(CA1)が90度であるため撮影方位を無視し、撮影傾斜角度の差分(CA2−CA1)のみを姿勢の差分として算出している。第1の撮影装置60Aの撮影傾斜角度(CA1)が90度でない場合には、撮影方位の差分も算出して、その撮影方位の差分も姿勢の差分に含める。変位量算出部28は、位置の差分(CP2−CP1)に基づいて第2の撮影装置60Bの位置の変位量を決定し、姿勢の差分(本例ではCA2−CA1)に基づいて第2の撮影装置60Bの姿勢の変位量を決定することができる。変位制御部30は、例えば、第2の撮影装置60Bの位置CP2及び姿勢(本例では撮影傾斜角度CA2)を、第1の撮影装置60Aの位置CP1及び姿勢(本例では撮影傾斜角度CA1)に近づける制御を行う。尚、目標となる位置及び姿勢が決まっても、その目標と全く同じ位置及び姿勢に変位させることが難しい場合がある。従って、目標となる位置及び姿勢との差を一定範囲内に収めさせる変位量を算出すればよい。本例の変位量算出部28は、第1の撮影装置60Aの位置及び姿勢(第1の撮影装置60Aによって過去の撮影対象物を撮影して第1の画像を生成した場合の第1の撮影装置60Aの位置及び姿勢である)との差を一定範囲内に収めさせる、第2の撮影装置60Bの位置及び姿勢の変位量を算出する。
ここで位置及び姿勢の「一定範囲」は、例えば、図4に示すように、三次元空間における第1の撮影装置60Aの位置CP1と第2の撮影装置60Bの変位後の位置CP3との差(CP3−CP1)の絶対値が閾値以内であり、且つ第1の撮影装置60Aの姿勢を示す角度CA1と第2の撮影装置60Bの姿勢を示す角度CA3との差(CA3−CA1)の絶対値が閾値以内である場合である。
本例の変位制御部30は、変位量算出部28によって算出された変位量に応じて、変位駆動部70を用いて、第2の撮影装置60Bの位置及び姿勢の変位を制御する。本例の変位駆動部70は、三次元空間における撮影装置60の位置を変えることができる。また本例の変位駆動部70は、撮影装置60の撮影方位及び撮影傾斜角度をそれぞれ撮影装置60のパン及び撮影装置60のチルトにより変化させることができる。本明細書では、撮影装置60の三次元空間における位置の変化、及び撮影装置60の姿勢(撮影方位及び撮影傾斜角度)の変化を、総称して「変位」という。変位駆動の具体例は、後に詳細に説明する。
本例の統括制御部38は、プログラムに従って、撮影制御装置10Aの各部を制御する。
本例の変位制御部30、平面特定部22、特徴点抽出部24、対応関係取得部26、変位量算出部28、変位制御部30、及び統括制御部38は、CPU(central processing unit)によって構成されている。
本例の記憶部40は、一時的記憶デバイス及び非一時的記憶デバイスによって構成されている。一時的記憶デバイスは、例えば、RAM(random access memory)である。非一時的記憶デバイスは、例えば、ROM(read only memory)、EEPROM(electrically erasable programmable read only memory)である。非一時的記憶デバイスは、プログラムを記憶する。
表示部42は、各種の表示を行う。表示部42は、液晶表示デバイス等の表示デバイスによって構成される。
指示入力部44は、ユーザから指示の入力を受け付ける。指示入力部44は、各種の入力デバイスを用いることができる。
表示制御部46は、例えばCPUによって構成されており、表示部42を制御する。本例の表示制御部46は、第1の画像と第2の画像とを並べて又は重ね合わせて表示部42に表示させる。
図3は、第1の実施形態における撮影制御処理例の流れを示すフローチャートである。本例の撮影制御処理は、統括制御部38等を構成するCPUの制御により、プログラムに従って実行される。
まず、第1の画像取得部12によって、過去の撮影対象物を示す第1の画像がデータベース50から取得される(ステップS2)。
また、第2の画像取得部14によって、現在の撮影対象物を示す第2の画像が撮影装置60から取得される(ステップS4)。
次に、平面特定部22によって、第1の画像における撮影対象物の平面領域が特定され、且つ第2の画像における撮影対象物の平面領域が特定される(ステップS6)。
次に、特徴点抽出部24によって、第1の画像及び第2の画像から撮影対象物の同一平面上の特徴点が抽出される(ステップS8)。つまり、第1の画像及び第2の画像からそれぞれ特徴点を抽出する際に、撮影対象物の同一平面に対応する第1の画像の平面領域及び第2の画像の平面領域からそれぞれ特徴点を抽出する。
次に、対応関係取得部26によって、第1の画像から抽出された特徴点と第2の画像から抽出された特徴点との対応関係であって、撮影対象物の同一平面上の特徴点同士の対応関係が取得される(ステップS10)。
次に、変位量算出部28によって、撮影対象物の同一平面上の特徴点同士の対応関係に基づいて、第2の撮影装置60Bの位置及び姿勢と第1の画像を撮影時の第1の撮影装置60Aの位置及び姿勢との差を一定範囲内に収めさせる、第2の撮影装置60Bの位置及び姿勢の変位量が算出される(ステップS22)。
次に、変位制御部30によって、算出された変位量に応じて撮影装置60の位置及び姿勢を変位させる(ステップS24)。
[第2の実施形態]
図5は、第2の実施形態における撮影制御装置10Bの構成例を示すブロック図である。尚、図1に示した第1の実施形態における撮影制御装置10Aと同様の構成要素には、同じ符号を付してあり、既に説明した内容を以下では省略する。
本実施形態の撮影制御装置10Bは、過去の撮影対象物を示す第1の画像と現在の撮影対象物を示す第2の画像との一致度を算出する一致度算出部32を備える。
本例の一致度算出部32は、対応関係取得部26によって対応付けされた特徴点同士の第1の画像における位置と第2の画像における位置との差に基づいて一致度を算出する。
本例の統括制御部38(「判定部」の一形態である)は、一致度算出部32によって算出された一致度を基準値と比較して、第2の撮影装置60Bを変位させるか否かを判定する。
本例の変位量算出部28は、統括制御部38(判定部)によって第2の撮影装置60Bを変位させると判定された場合には変位量を算出し、統括制御部38(判定部)によって第2の撮影装置60Bを変位させないと判定された場合には変位量を算出しない。
本例の変位制御部30は、統括制御部38(判定部)によって第2の撮影装置60Bを変位させると判定された場合には第2の撮影装置60Bを変位させ、統括制御部38(判定部)によって第2の撮影装置60Bを変位させないと判定された場合には第2の撮影装置60Bを変位させない。
図6は、第2の実施形態における撮影制御処理例の流れを示すフローチャートである。本例の撮影制御処理は、統括制御部38を構成するCPUの制御により、プログラムに従って実行される。尚、図3に示した第1の実施形態のフローチャートと同様のステップには、同じ符号を付してあり、既に説明した内容を以下では省略する。
ステップS2〜ステップS10は、第1の実施形態と同様である。
図7に示すように、ステップS2で取得された第1の画像IMG1にひび割れ像CR(損傷像)が存在せず、ステップS4で取得された第2の画像IMG2にひび割れ像CR(損傷像)が存在するものとする。ステップS8の特徴点抽出において、図8に示すように、第1の画像IMG1から特徴点P11〜P17が抽出され、第2の画像IMG2から特徴点P21〜P30が抽出されたものとする。ステップS10の対応関係取得において、図9に示すように、第1の画像IMG1と第2の画像IMG2とで対応する特徴点群(G11とG21、G12とG22)の特徴点同士の対応関係が取得され、第2の画像IMG2にのみ存在するひび割れ像CR(損傷像)は無視される。
ステップS12において、一致度算出部32により、第1の画像と第2の画像との一致度が算出される。本例の一致度算出部32は、次式に従って、評価値MVを一致度として算出する。
Figure 2018143263
数1において、Xri及びYriは、第1の画像IMG1の各特徴点P11〜P17の第1の画像IMG1における位置を示す座標である。Xsi及びYsiは、第2の画像IMG2の各特徴点P21〜P30のうちひび割れ像CR(損傷像)の特徴点P28〜P30を除く特徴点P21〜P27(対応関係取得部26によって第1の画像IMG1の各特徴点P11〜P17と対応付けされた特徴点である)の第2の画像IMG2における位置を示す座標である。nは、対応する特徴点の数(対応点数)である。iは、特徴点の識別番号であり、1からnまでの整数である。
評価値MVとして、次式を用いてもよい。
Figure 2018143263
つまり、評価値MVとして、対応する特徴点ごと(対応点ごと)のずれ(差分)の最大値を算出する。
対応する特徴点の数が一定である場合、次式を用いてもよい。
Figure 2018143263
尚、数1、数2及び数3で示した評価値MVは、値が小さいほど二つの画像が一致していることを示す。ただし、本発明はこのような場合に限定されず、値が大きいほど二つの画像が一致していることを示す評価値を用いてもよい。
次に、統括制御部38によって、第1の画像と第2の画像との一致度が収束したか否かが判定される(ステップS14)。
本例の「基準値」は、第1の画像と第2の画像とで対応する特徴点群間の画像中の位置の一致の誤差の許容値を示す閾値である。例えば、図9において、第1の画像の特徴点群G11及びG12と第2の画像の特徴点群G21、G22との画像中の位置の一致の程度を示す評価値MVと基準値とが比較される。
本例の評価値(数1、数2又は数3の評価値MV)は値が小さいほど二つの画像が一致していることを示すので、一致度算出部32によって算出された評価値MVが基準値未満であると判定された場合(ステップS14でYesの場合)、本処理を終了する。つまり、所望の位置に達したとして終了する。
ステップS14で一致度が収束していないと判定された場合には、変位量算出部28によって第2の撮影装置60Bの位置及び姿勢の変位量が算出され(ステップS22)、変位制御部30によって第2の撮影装置60Bの位置及び姿勢が変位させられ(ステップS24)、ステップS4に戻る。つまり、第2の画像取得部14による画像の取得(ステップS4)、平面特定部22による平面領域の特定(ステップS6)、特徴点抽出部24による特徴点の抽出(ステップS8)、対応関係取得部26による第1の画像と第2の画像との特徴点の対応関係の取得(ステップS10)、及び一致度算出部32による一致度の算出(ステップS12)を、繰り返す。平面領域の特定(ステップS6)及び特徴点の抽出(ステップS8)は、現在の撮影対象物を示す第2の画像のみ行えばよい。尚、ステップS22及びステップS24は、第1の実施形態と同様である。
尚、一致度として、値が大きいほど二つの画像が一致していることを示す評価値を用いた場合には、評価値と基準値との大小関係が逆になることに注意する。つまりステップS14において、一致度を示す評価値が基準値以上である場合には一致度が収束したと判定され(ステップS14でYes)、一致度を示す評価値が基準値未満である場合には収束していないと判定される(ステップS14でNo)。
[第3の実施形態]
図10は、第3の実施形態における撮影制御装置10Cの構成例を示すブロック図である。尚、図1に示した第1の実施形態における撮影制御装置10Aと同様の構成要素には、同じ符号を付してあり、既に説明した内容を以下では省略する。
本実施形態の撮影制御装置10Cは、過去の撮影対象物を示す第1の画像及び現在の撮影対象物を示す第2の画像から、撮影対象物の損傷像を検出する損傷検出部34を備える。
本例の変位量算出部28は、過去の撮影対象物を示す第1の画像に非存在であり且つ現在の撮影対象物を示す第2の画像に存在する損傷像が検出された場合、その検出された損傷像を第2の画像取得部14により新たに取得される画像(以下「第3の画像」という)の特定の位置に合わせる変位量を算出する。
図11は、第3の実施形態における撮影制御処理例の流れを示すフローチャートである。本例の撮影制御処理は、統括制御部38等を構成するCPUの制御により、プログラムに従って実行される。尚、図3に示した第1の実施形態のフローチャートと同様のステップには、同じ符号を付してあり、既に説明した内容を以下では省略する。
ステップS2〜ステップS6は、第1の実施形態と同様である。
ステップS7において、損傷検出部34により、図7に示した第1の画像IMG1及び第2の画像IMG2から、撮影対象物のひび割れ像CR(損傷像)を検出する。図7に示した例では、第1の画像IMG1から損傷像が検出されず、第2の画像IMG2から損傷像が検出される。
ステップS8及びステップS10は、第1の実施形態と同様である。
ステップS16において、統括制御部38により、第1の画像IMG1に非存在であり且つ第2の画像IMG2に存在する損傷像が検出されたか否かを判定し、検出された場合にはステップS18を実行する。
ステップS18において、変位量算出部28によって、図12に示すように、過去の撮影対象物を示す第1の画像IMG1の特徴点群の位置を修正し、ステップS22にて、検出されたひび割れ像CRを第2の画像取得部14により新たに取得される画像(第3の画像)の特定の位置に合わせる変位量を算出している。図12に示す例では、ひび割れ像CR(損傷像)が第3の画像IMG3の左右の中心位置(撮影装置60の画角の中心に対応する位置である)に来るように、変位量を算出する。尚、図12において、斜線部分は第1の画像IMG1には含まれない部分を示し、この斜線部分は変位量の算出に使用しない。
「撮影対象物の例」
図13は、撮影対象物の一例である橋梁の外観を示す斜視図である。図13に示す橋梁1は、主桁2、横桁3、対傾構4、及び横構5を含んで構成されている。主桁2等の上部には、コンクリート製の部材である床版6が打設されている。主桁2は、床版6上の車輌等の荷重を支える部材である。横桁3、対傾構4及び横構5は、主桁2を連結する部材である。
なお、本発明における「撮影対象物」は、橋梁に限定されない。撮影対象物は、例えば、建築物、工業製品でもよい。
[変位駆動の例]
図14は、撮影装置の一例であるステレオカメラを搭載したロボット装置の外観を示す斜視図であり、橋梁1の主桁2間に設置されている状態に関して示している。また、図15は、図14に示したロボット装置の要部断面図である。
図14及び図15に示すロボット装置100は、ステレオカメラ202を搭載し、ステレオカメラ202の位置(以下「撮影位置」ともいう)を制御するとともに、ステレオカメラ202の姿勢(撮影方位及び撮影傾斜角度)を制御し、ステレオカメラ202に橋梁1を撮影させる。
ロボット装置100は、主フレーム102と、垂直伸延アーム104と、筐体106とを含んで構成される。筐体106の内側には、筐体106をX方向(本例では主フレーム102の長手方向、即ち主桁2の長手方向と直交する方向である)に移動させることにより、ステレオカメラ202をX方向において変位させるX方向駆動部108(図18)と、ロボット装置100全体をY方向(本例では主桁2の長手方向である)に移動させることにより、ステレオカメラ202をY方向において変位させるY方向駆動部110(図18)と、垂直伸延アーム104をZ方向(本例では垂直方向である)に伸縮させることにより、ステレオカメラ202をZ方向において変位させるZ方向駆動部112(図18)とが、設けられている。
X方向駆動部108は、主フレーム102の長手方向(X方向)に配設されたボールネジ108Aと、筐体106に配設されたボールナット108Bと、ボールネジ108Aを回転させるモータ108Cとから構成され、モータ108Cによりボールネジ108Aを正転又は逆転させることにより、筐体106をX方向に移動させる。
Y方向駆動部110は、主フレーム102の両端にそれぞれ配設されたタイヤ110A、110Bと、タイヤ110A、110B内に配設されたモータ(図示せず)とから構成され、タイヤ110A、110Bをモータ駆動することによりロボット装置100全体をY方向に移動させる。
尚、ロボット装置100は、主フレーム102の両端のタイヤ110A、110Bが、2箇所の主桁2の下フランジ上に載置され、かつ主桁2を挟む態様で設置される。これにより、ロボット装置100は、主桁2の下フランジに懸垂して、主桁2に沿って移動(自走)することができる。また、主フレーム102は、主桁2の間隔に合わせて長さが調整可能に構成されている。
垂直伸延アーム104は、ロボット装置100の筐体106に配設されており、筐体106とともにX方向及びY方向に移動する。また、垂直伸延アーム104は、筐体106内に設けられたZ方向駆動部112(図18)によりZ方向に伸縮する。
図16に示すように、垂直伸延アーム104の先端には、カメラ設置部104Aが設けられており、カメラ設置部104Aには、パンチルト機構120によりパン方向(パン軸P回りの方向)及びチルト方向(チルト軸T回りの方向)に回動可能なステレオカメラ202が設置されている。
ステレオカメラ202は、視差の異なる二枚の画像(左眼画像及び右眼画像)からなるステレオ画像を撮影する第1の撮像部202Aと第2の撮像部202Bとを有し、ステレオカメラ202による撮影範囲に対応する撮影対象物(本例では橋梁1)の第1の空間情報であって、ステレオカメラ202を基準にしたローカル座標系(カメラ座標系)における橋梁1の第1の空間情報を取得する第1の空間情報取得部の一部として機能し、また撮影される2つの画像のうちの少なくとも一方の画像を、点検調書に添付する「点検画像」として取得する。
また、ステレオカメラ202は、パンチルト駆動部206(図18)から駆動力が加えられるパンチルト機構120により垂直伸延アーム104と同軸のパン軸Pを中心に回動し、あるいは水平方向のチルト軸Tを中心に回動する。これにより、ステレオカメラ202は任意の姿勢の撮影(任意の撮影方位の撮影及び任意の撮影傾斜角度の撮影)を行うことができる。
本例のステレオカメラ202の第1の撮像部202Aの光軸Lと、第2の撮像部202Bの光軸Lとはそれぞれ平行である。また、パン軸Pは、チルト軸Tと直交している。更に、ステレオカメラ202の基線長(即ち、第1の撮像部202Aと第2の撮像部202Bとの設置間隔)は既知である。
また、ステレオカメラ202を基準にしたカメラ座標系は、パン軸Pとチルト軸Tとの交点を原点Orとし、チルト軸Tの方向をx軸方向、パン軸Pの方向をz軸方向、x軸及びy軸にそれぞれ直交する方向をy軸方向とする。
<点検システムの構成例>
図17は、本発明に係る撮影制御装置を適用した点検システムの全体構成例を示す。図17に示すように本例の点検システムは、データベース50と、ステレオカメラ202(撮影装置60の一形態である)を搭載したロボット装置100と、端末装置300と、操作コントローラ400とを含んで構成されている。
図18は、図17に示したロボット装置100及び端末装置300の要部構成例を示すブロック図である。
図18に示すように、ロボット装置100は、X方向駆動部108、Y方向駆動部110、Z方向駆動部112及び位置制御部130と、パンチルト駆動部206及び姿勢制御部210と、カメラ制御部204と、ロボット側通信部230と、を含んで構成されている。
ロボット側通信部230は、端末側通信部310との間で双方向の無線通信を行い、端末側通信部310から送信される各種の指令(例えば、ステレオカメラ202の位置制御を指令する位置制御指令、ステレオカメラ202の姿勢制御を指令する姿勢制御指令、ステレオカメラ202の撮影を制御する撮影指令)を受信し、その受信した指令をそれぞれ対応する制御部に出力する。尚、端末装置300の詳細については後述する。
位置制御部130は、ロボット側通信部230から入力する位置制御指令に基づいてX方向駆動部108、Y方向駆動部110、及びZ方向駆動部112を制御し、ロボット装置100のX方向及びY方向に移動させるとともに、垂直伸延アーム104をZ方向に伸縮させる(図14参照)。
姿勢制御部210は、ロボット側通信部230から入力する姿勢制御指令に基づいてパンチルト駆動部206を介してパンチルト機構120をパン方向及びチルト方向に動作させ、ステレオカメラ202を所望の方向にパンチルトさせる(図16参照)。
カメラ制御部204は、ロボット側通信部230から入力する撮影指令に基づいてステレオカメラ202の第1の撮像部202A及び第2の撮像部202Bにライブビュー画像、又は点検用画像の撮影を行わせる。
橋梁1の点検時にステレオカメラ202の第1の撮像部202A及び第2の撮像部202Bにより撮影された視差の異なる左眼画像iL及び右眼画像iRを示す画像データは、ロボット側通信部230を介して端末側通信部310に送信される。
端末装置300は、端末側通信部310(第1の画像取得部12及び第2の画像取得部14の一形態である)と、端末制御部320(平面特定部22、特徴点抽出部24、対応関係取得部26、変位量算出部28、一致度算出部32、損傷検出部34、統括制御部38、及び表示制御部46の一形態である)と、指示入力部330と、表示部340と、記憶部350とを含んで構成されている。端末装置300として、例えば、パーソナルコンピュータ、又はタブレット端末を用いることができる。
端末側通信部310は、ロボット側通信部230との間で双方向の無線通信を行い、ロボット側通信部230が入力する各種の情報(第1の撮像部202A及び第2の撮像部202Bにより撮影された画像を受信するとともに、端末制御部320を介して入力する指示入力部330での操作に応じた各種の指令をロボット側通信部230に送信する。
端末制御部320は、端末側通信部310を介して受信した画像を表示部340に出力し、表示部340の画面に画像を表示させる。指示入力部330は、ステレオカメラ202の位置をX方向、Y方向及びZ方向において変化させる位置制御指令、ステレオカメラ202の姿勢(撮影方位及び撮影傾斜角度)を変化させる姿勢制御指令、及びステレオカメラ202による画像の撮影を指令する撮影指令を出力する。点検者は、表示部340に表示される画像を見ながら指示入力部330を手動操作する。指示入力部330は、点検者による操作に応じてステレオカメラ202の位置制御指令、姿勢制御指令、及び撮影指令等の各種の指令を端末制御部320に出力する。端末制御部320は、指示入力部330に入力される各種の指令を端末側通信部310を介してロボット側通信部230に送信する。
また、端末制御部320は、記憶部350に記憶された情報に基づいて画像に含まれる撮影対象物(本例では橋梁1)を構成する各部材を特定する部材識別情報を取得する機能を有する。
[平面領域の特定例]
本例の第1の画像及び第2の画像はステレオ画像であり、平面特定部22は、ステレオ画像に基づいて視差を算出し、画素位置及び視差に基づいて平面領域を特定することができる。特徴点抽出部24は、第1の画像及び第2の画像のそれぞれから、平面特定部22の平面特定結果に基づいて撮影対象物の同一平面における特徴点を抽出することができる。
平面領域の特定は、例えば、RANSAC(RANDom Sample Consensus)アルゴリズムを用いて行うことができる。RANSACアルゴリズムは、ランダムなサンプリングと、モデルパラメータ(平面を表すパラメータである)の算出と、算出したモデルパラメータの正しさの評価とを、最適な評価値が得られるまで繰り返すアルゴリズムである。以下、具体的な手順を説明する。
図19は、ステレオカメラ202により平面領域を有する撮影対象物を撮影して生成されたステレオ画像のうち左眼画像iLの一例を示す。
三つの平面領域(第1の平面領域G1、第2の平面領域G2、第3の平面領域G3)は、それぞれ橋梁1(撮影対象物の一例である)の平面領域である。橋梁1を構成する部材ごとに平面領域が存在する場合があり、また一つの部材が二以上の平面領域を含む場合もある。
(ステップS101)
まず、画像から、ランダムに代表点を抽出する。例えば、図20の点f1(u,v,w),点f2(u,v,w),及び点f3(u,v,w)を抽出したものとする。ここで抽出された代表点は、各平面領域(幾何領域の一形態である)の平面方程式(幾何方程式の一形態である)を決定するための点であり、代表点の数が多いほど精度(信頼性)の高い平面方程式を求めることができる。尚、画像の水平方向座標をu,垂直方向座標をv,視差(距離相当)をwで表す(iは点番号を表す1以上の整数)。
(ステップS102)
次に、抽出した点f1,f2,f3から平面方程式を決定する。3次元空間(u,v,w)における平面方程式Fは一般に次式で表される(a,b,c,dは定数)。
[数4]
F=a×u+b×v+c×w+d
(ステップS103)
画像の全ての画素(u,v,w)について、数4の式の平面方程式Fで表される平面までの距離を算出する。距離が閾値以下なら、その画素は平面方程式Fで表される平面上に存在すると判断する。
(ステップS104)
平面方程式Fで表される平面上に存在する画素数が現在の最適解についての画素数よりも多ければ、平面方程式Fを最適解とする。
(ステップS105)
ステップS101〜S104を決められた回数繰り返す。
(ステップS106)
得られた平面方程式を解として1つの平面を決定する。
(ステップS107)
ステップS106までで決定した平面上の画素を処理対象(平面の抽出対象)から除外する。
(ステップS8)
ステップS101〜S107を繰り返し、抽出した平面が一定数を超えるか、残った画素が規定数より少なくなれば終了する。
上述の手順により、ステレオ画像から平面領域を特定することができる。図19の例では、3つの平面領域G1,G2,及びG3が特定される。本例では、このように異なる平面領域を識別することにより、高精度に撮影装置の変位量を算出することができる。
[バリエーション]
前述の実施形態では、撮影装置としてステレオカメラを用い、ステレオ画像(二視点画像)を撮影する場合を例に説明したが、本発明はこのような場合に限定されない。撮影装置として非ステレオカメラを用い、単視点画像を撮影する場合にも本発明を適用可能である。
第1の画像及び第2の画像が単視点画像である場合、撮影制御装置10(10A、10B、10C)に、撮影対象物の三次元情報を取得する三次元情報取得部(例えば深度センサ)を設け、平面特定部22は、三次元情報取得部によって取得された三次元情報に基づいて、第1の画像及び第2の画像における撮影対象物の平面領域を特定する。
また前述の第2の実施形態及び第3の実施形態を組み合わせて、実施してよい。
また前述の実施形態では、撮影対象物に取り付けたロボットにおいて撮影装置の位置及び姿勢を変位させる場合を例に説明したが、本発明はこのような場合に限定されない。例えば、ドローン(無人飛行体)に撮影装置を搭載し、ドローンを制御することにより撮影装置の位置及び姿勢を変位させてもよい。
また前述の実施形態において、図1、図5及び図10に示した、平面特定部22、特徴点抽出部24、対応関係取得部26、変位量算出部28、変位制御部30、一致度算出部32、損傷検出部34、統括制御部38、及び表示制御部46は、次に示すような各種のプロセッサ(processor)によって構成することができる。各種のプロセッサには、ソフトウエア(プログラム)により各種の処理を実行する汎用的なプロセッサであるCPU(central processing unit)、FPGA(field programmable gate array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(programmable logic device:PLD)、ASIC(application specific integrated circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。前述の実施形態において、撮影制御装置10(10A、10B、10C)の機能は、これら各種のプロセッサのうちの1つで実現されてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で実現されてもよい。また、複数の機能を1つのプロセッサで実現してもよい。複数の機能を1つのプロセッサで実現する例としては、システムオンチップ(system on chip:SoC)などに代表されるように、複数の機能を含むシステム全体の機能を1つのIC(integrated circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウエア的な構造として、上述した各種のプロセッサを1つ以上用いて実現される。さらに、これらの各種のプロセッサのハードウエア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
以上、本発明を実施するための形態に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の主旨を逸脱しない範囲で種々の変形が可能である。
1 橋梁
2 主桁
3 横桁
4 対傾構
5 横構
6 床版
10(10A、10B、10C) 撮影制御装置
12 第1の画像取得部
14 第2の画像取得部
22 平面特定部
24 特徴点抽出部
26 対応関係取得部
28 変位量算出部
30 変位制御部
32 一致度算出部
34 損傷検出部
38 統括制御部(「判定部」の一形態である)
40 記憶部
42 表示部
44 指示入力部
46 表示制御部
50 データベース
60 撮影装置
60A 第1の撮影装置
60B 第2の撮影装置
70 変位駆動部
100 ロボット装置
102 主フレーム
104 垂直伸延アーム
104A カメラ設置部
106 筐体
108 X方向駆動部
108A ボールネジ
108B ボールナット
108C モータ
110 Y方向駆動部
110A、110B タイヤ
112 Z方向駆動部
120 パンチルト機構
130 位置制御部
202 ステレオカメラ
202A 第1の撮像部
202B 第2の撮像部
204 カメラ制御部
206 パンチルト駆動部
210 姿勢制御部
230 ロボット側通信部
300 端末装置
310 端末側通信部
320 端末制御部
330 指示入力部
340 表示部
350 記憶部
400 操作コントローラ
CA1 撮影傾斜角度
CA2 撮影傾斜角度
CR ひび割れ像
G1 第1の平面領域
G2 第2の平面領域
G3 第3の平面領域
iL 左眼画像
IMG1 第1の画像
IMG2 第2の画像
IMG3 第3の画像
iR 右眼画像
L1、L2 光軸
OBJ 撮影対象物
P パン軸
P11〜F17、F21〜F30 特徴点
T チルト軸

Claims (13)

  1. 第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得する第1の画像取得部と、
    第2の撮影装置によって前記撮影対象物を撮影して生成された第2の画像を取得する第2の画像取得部と、
    前記第1の画像及び前記第2の画像からそれぞれ特徴点を抽出する特徴点抽出部であって、前記第1の画像及び前記第2の画像における前記撮影対象物の同一平面上の特徴点を抽出する特徴点抽出部と、
    前記第1の画像から抽出された特徴点と前記第2の画像から抽出された特徴点との対応関係であって前記撮影対象物の同一平面上の特徴点同士の対応関係を取得する対応関係取得部と、
    前記撮影対象物の同一平面上の特徴点同士の前記対応関係に基づいて、前記第1の画像を撮影した場合の前記第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる前記第2の撮影装置の位置及び姿勢の変位量を算出する変位量算出部と、
    を備える撮影制御装置。
  2. 前記変位量算出部によって算出された前記変位量に応じて、前記第2の撮影装置の位置及び姿勢の変位を制御する変位制御部を備える、
    請求項1に記載の撮影制御装置。
  3. 前記第1の画像と前記第2の画像との一致度を算出する一致度算出部と、
    前記一致度を基準値と比較して、前記第2の撮影装置を変位させるか否かを判定する判定部と、を備え、
    前記変位制御部は、前記判定部によって前記第2の撮影装置を変位させると判定された場合には前記第2の撮影装置を変位させる、
    請求項2に記載の撮影制御装置。
  4. 前記一致度算出部は、前記対応関係取得部によって対応付けされた前記特徴点同士の前記第1の画像における位置と前記第2の画像における位置との差に基づいて前記一致度を算出する、
    請求項3に記載の撮影制御装置。
  5. 前記変位量算出部は、前記判定部によって前記第2の撮影装置を変位させると判定された場合には前記変位量を算出する、
    請求項3又は4に記載の撮影制御装置。
  6. 前記変位制御部によって前記第2の撮影装置を変位させた場合、前記第2の画像取得部による画像の取得、前記特徴点抽出部による前記特徴点の抽出、前記対応関係取得部による前記対応関係の取得、及び前記一致度算出部による前記一致度の算出を繰り返す、
    請求項3から5のうちいずれか一項に記載の撮影制御装置。
  7. 前記第1の画像及び前記第2の画像は、ステレオ画像であり、
    前記ステレオ画像に基づいて、前記第1の画像及び前記第2の画像における前記撮影対象物の平面領域を特定する平面特定部を備える、
    請求項1から6のうちいずれか一項に記載の撮影制御装置。
  8. 前記撮影対象物の三次元情報を取得する三次元情報取得部と、
    前記三次元情報に基づいて、前記第1の画像及び前記第2の画像における前記撮影対象物の平面領域を特定する平面特定部と、を備える、
    請求項1から6のうちいずれか一項に記載の撮影制御装置。
  9. 前記平面特定部は、前記第1の画像における前記撮影対象物の平面領域を特定する第1の平面方程式と前記第2の画像における前記撮影対象物の平面領域を特定する第2の平面方程式とを算出し、
    前記対応関係取得部は、前記第1の平面方程式及び前記第2の平面方程式を用いて、前記撮影対象物の同一平面上の特徴点同士の対応関係を取得する、
    請求項7又は8に記載の撮影制御装置。
  10. 前記第1の画像及び前記第2の画像から前記撮影対象物の損傷像を検出する損傷検出部を備え、
    前記変位量算出部は、前記第1の画像に非存在であり且つ前記第2の画像に存在する損傷像が検出された場合、当該損傷像を前記第2の画像取得部により取得される第3の画像の特定の位置に合わせる変位量を算出する、
    請求項1から9のうちいずれか一項に記載の撮影制御装置。
  11. 表示部と、
    前記第1の画像と前記第2の画像とを並べて又は重ね合わせて前記表示部に表示させる表示制御部と、を備える、
    請求項1から10のうちいずれか一項に記載の撮影制御装置。
  12. 第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得するステップと、
    第2の撮影装置によって前記撮影対象物を撮影して生成された第2の画像を取得するステップと、
    前記第1の画像及び前記第2の画像からそれぞれ特徴点を抽出するステップであって、前記第1の画像及び前記第2の画像における前記撮影対象物の同一平面上の特徴点を抽出するステップと、
    前記第1の画像から抽出された特徴点と前記第2の画像から抽出された特徴点との対応関係であって前記撮影対象物の同一平面上の特徴点同士の対応関係を取得するステップと、
    前記撮影対象物の同一平面上の特徴点同士の前記対応関係に基づいて、前記第1の画像を撮影した場合の前記第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる前記第2の撮影装置の位置及び姿勢の変位量を算出するステップと、
    を含む撮影制御方法。
  13. 第1の撮影装置によって撮影対象物を撮影して生成された第1の画像を取得するステップと、
    第2の撮影装置によって前記撮影対象物を撮影して生成された第2の画像を取得するステップと、
    前記第1の画像及び前記第2の画像からそれぞれ特徴点を抽出するステップであって、前記第1の画像及び前記第2の画像における前記撮影対象物の同一平面上の特徴点を抽出するステップと、
    前記第1の画像から抽出された特徴点と前記第2の画像から抽出された特徴点との対応関係であって前記撮影対象物の同一平面上の特徴点同士の対応関係を取得するステップと、
    前記撮影対象物の同一平面上の特徴点同士の前記対応関係に基づいて、前記第1の画像を撮影した場合の前記第1の撮影装置の位置及び姿勢との差を一定範囲内に収めさせる前記第2の撮影装置の位置及び姿勢の変位量を算出するステップと、
    をコンピュータに実行させるプログラム。
JP2018565602A 2017-02-06 2018-01-31 撮影制御装置、撮影制御方法及びプログラム Active JP6712330B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017019599 2017-02-06
JP2017019599 2017-02-06
PCT/JP2018/003180 WO2018143263A1 (ja) 2017-02-06 2018-01-31 撮影制御装置、撮影制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2018143263A1 true JPWO2018143263A1 (ja) 2020-01-09
JP6712330B2 JP6712330B2 (ja) 2020-06-17

Family

ID=63040647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018565602A Active JP6712330B2 (ja) 2017-02-06 2018-01-31 撮影制御装置、撮影制御方法及びプログラム

Country Status (3)

Country Link
US (1) US20190355148A1 (ja)
JP (1) JP6712330B2 (ja)
WO (1) WO2018143263A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020225843A1 (ja) * 2019-05-07 2020-11-12

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109600400A (zh) * 2017-09-29 2019-04-09 索尼公司 无线通信系统中的电子设备、方法和无线通信系统
JP7058585B2 (ja) * 2017-12-25 2022-04-22 キヤノン株式会社 画像処理装置およびその制御方法
WO2019130827A1 (ja) * 2017-12-25 2019-07-04 キヤノン株式会社 画像処理装置およびその制御方法
DE102018209898A1 (de) * 2018-06-19 2019-12-19 Robert Bosch Gmbh Verfahren zur Bestimmung von zueinander korrespondierenden Bildpunkten, SoC zur Durchführung des Verfahrens, Kamerasystem mit dem SoC, Steuergerät und Fahrzeug
JP7169130B2 (ja) * 2018-09-03 2022-11-10 川崎重工業株式会社 ロボットシステム
JP7217451B2 (ja) * 2018-11-30 2023-02-03 東京電力ホールディングス株式会社 ボルト検出方法
JPWO2020145004A1 (ja) * 2019-01-10 2021-10-28 日本電気株式会社 撮影ガイド装置
JP7238612B2 (ja) * 2019-06-04 2023-03-14 村田機械株式会社 カメラの姿勢ずれ評価方法及びカメラシステム
CN110971803B (zh) * 2019-12-18 2021-10-15 维沃移动通信有限公司 一种拍摄方法、装置、电子设备及介质
WO2021200675A1 (ja) * 2020-04-01 2021-10-07 富士フイルム株式会社 3次元表示装置、3次元表示方法、及びプログラム
CN112150558B (zh) * 2020-09-15 2024-04-12 阿波罗智联(北京)科技有限公司 用于路侧计算设备的障碍物三维位置获取方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5434745B2 (ja) * 2010-03-31 2014-03-05 アイシン・エィ・ダブリュ株式会社 基準パターン情報生成装置、方法、プログラムおよび一般車両位置特定装置
JP2012078105A (ja) * 2010-09-30 2012-04-19 Mitsubishi Heavy Ind Ltd 姿勢制御装置、制御方法及びプログラム
JP2014035198A (ja) * 2012-08-07 2014-02-24 Nikon Corp 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
US9129355B1 (en) * 2014-10-09 2015-09-08 State Farm Mutual Automobile Insurance Company Method and system for assessing damage to infrastructure
JP6218893B2 (ja) * 2016-06-29 2017-10-25 株式会社キーエンス 計測顕微鏡装置、これを用いた計測方法及び操作プログラム並びにコンピュータで読み取り可能な記録媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020225843A1 (ja) * 2019-05-07 2020-11-12

Also Published As

Publication number Publication date
US20190355148A1 (en) 2019-11-21
JP6712330B2 (ja) 2020-06-17
WO2018143263A1 (ja) 2018-08-09

Similar Documents

Publication Publication Date Title
JP6712330B2 (ja) 撮影制御装置、撮影制御方法及びプログラム
US10909721B2 (en) Systems and methods for identifying pose of cameras in a scene
CN109658457B (zh) 一种激光与相机任意相对位姿关系的标定方法
JP5586765B2 (ja) カメラキャリブレーション結果検証装置および方法
JP3880702B2 (ja) 画像のオプティカルフロー検出装置及び移動体の自己位置認識システム
EP3421930B1 (en) Three-dimensional shape data and texture information generation system, photographing control program, and three-dimensional shape data and texture information generation method
CN110910459B (zh) 一种对摄像装置的标定方法、装置及标定设备
JP4132068B2 (ja) 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム
WO2017119202A1 (ja) 構造物の部材特定装置及び方法
JP2014529727A (ja) 自動シーン較正
WO2017126368A1 (ja) 撮影支援装置及び撮影支援方法
CN109099889B (zh) 近景摄影测量系统和方法
CN113409285A (zh) 一种沉管隧道接头三维变形的监测方法、系统
JP2018036769A (ja) 画像処理装置、画像処理方法および画像処理用プログラム
CN111627070B (zh) 一种对旋转轴进行标定的方法、装置和存储介质
Moore et al. A stereo vision system for uav guidance
JP7008736B2 (ja) 画像キャプチャ方法および画像キャプチャ装置
CN114554030B (zh) 设备检测系统以及设备检测方法
CN112304250B (zh) 一种移动物体之间的三维匹配设备及方法
WO2021138856A1 (zh) 相机控制方法、设备及计算机可读存储介质
JP2005186193A (ja) ロボットのキャリブレーション方法および三次元位置計測方法
JP2004020398A (ja) 空間情報獲得方法、空間情報獲得装置、空間情報獲得プログラム、及びそれを記録した記録媒体
JP5409451B2 (ja) 3次元変化検出装置
KR20160082659A (ko) 다채널 연속 촬영 영상을 이용한 구조물의 입체적인 진동 자동 측정 방법
Lee et al. Automated Pan-Tilt-Zoom Camera Control to Enable Long-Range Visual Assessment and Localization

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190805

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200529

R150 Certificate of patent or registration of utility model

Ref document number: 6712330

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250