JPWO2017002511A1 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JPWO2017002511A1
JPWO2017002511A1 JP2017526228A JP2017526228A JPWO2017002511A1 JP WO2017002511 A1 JPWO2017002511 A1 JP WO2017002511A1 JP 2017526228 A JP2017526228 A JP 2017526228A JP 2017526228 A JP2017526228 A JP 2017526228A JP WO2017002511 A1 JPWO2017002511 A1 JP WO2017002511A1
Authority
JP
Japan
Prior art keywords
imaging
unit
angle
pan
inspection object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017526228A
Other languages
English (en)
Other versions
JP6284688B2 (ja
Inventor
渡辺 幹夫
幹夫 渡辺
史憲 入江
史憲 入江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP6284688B2 publication Critical patent/JP6284688B2/ja
Publication of JPWO2017002511A1 publication Critical patent/JPWO2017002511A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0008Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings of bridges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0091Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by using electromagnetic excitation or detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/9515Objects of complex shape, e.g. examined with use of a surface follower device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8861Determining coordinates of flaws
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

本発明は、撮像装置の姿勢が不明であっても撮像装置の撮像方向と検査対象物の平面の法線方向とのなす角度を算出することができ、検査対象物に対する撮像装置の撮像方向を適正に制御可能な撮像装置及び撮像方法を提供する。本発明の態様では、第1の撮像部(202A)及び第2の撮像部(202B)を有する撮像ユニット(202)により視差をもつ第1の画像及び第2の画像を取得し、取得した第1の画像及び第2の画像に基づいて撮像ユニット(202)の撮像方向と平面を有する検査対象物の平面の法線方向とのなす角度を算出する。撮像ユニット(202)はパンチルト制御部(210)によりパンチルトが制御されるが、算出された角度が許容角度範囲内の角度に制御されたときに、撮像ユニットにより検査対象物を示す検査用画像の撮像を行わせ、検査用画像を取得する。

Description

本発明は撮像装置及び撮像方法に係り、特に橋梁等の検査対象物の点検やセンシング等を行う撮像装置及び撮像方法に関する。
従来、平面を有する壁面(検査対象物)を撮像し、撮像した画像から壁面に生じたクラックの幅を計測するクラック幅計測システムが提案されている(特許文献1)。
特許文献1に記載のクラック幅計測システムは、カメラを備えた床下点検ロボット(移動体)と、床下点検ロボットを遠隔操作するロボット操作装置とから構成され、床下点検ロボットは、ロボット操作装置からの指令により床下の床面上を走行可能であり、カメラは、床下点検ロボットに対してパン方向及びチルト方向に回動可能になっている。
また、特許文献1には、カメラが壁面のクラックを捕捉したときに、カメラの光軸が、壁面に対して許容角度範囲内に入るように床下点検ロボットの車体を移動制御する記載がある。この場合、壁面とカメラの光軸とのパン角度は、壁面と床下点検ロボットの車体方向との角度を、車体に配設された左右一対の距離センサにより測定した壁面までの距離に基づいて算出し、この算出した角度と車体に対するカメラのパン角度とに基づいて算出している(特許文献1の図22参照)。
更に、特許文献1に記載のクラック幅計測システムは、撮像した画像からクラック幅を測定できるように、撮像された画像にクラックスケール画像を合成する技術が記載されている。
特開2009−85785号公報
特許文献1に記載の床下点検ロボットは、前述したように壁面に対する床下点検ロボットの車体方向の角度と、車体に対するカメラのパン角度とに基づいて壁面とカメラの光軸とのパン角度を算出し、算出したパン角度と車体に対するカメラのチルト角度とに基づいてカメラの光軸と壁面との角度を算出しているが、このカメラの光軸と壁面と角度の算出は、床下点検ロボットが走行する床面と壁面とが直交していることが前提になっている。即ち、床下点検ロボットが走行する床面(走行面)と壁面(検査対象物)とが直交していない場合には、検査対象物とカメラの光軸との角度を算出することができない。
また、カメラの光軸と検査対象物とのなす角度が、許容角度範囲内に収まるように床下点検ロボットを移動制御するが、特許文献1には、床下点検ロボットを移動させてもチルト方向の誤差(カメラの光軸と検査対象物との角度の誤差)については、対応することができないが、壁面のクラックは垂直方向に沿って生じることが一般的であり、大きな支障はない旨の記載がある。
更に、特許文献1に記載の発明は、カメラの光軸と検査対象物とのなすパン角度を算出するために、車体に配設された左右一対の距離センサにより測定した壁面までの距離に基づいて壁面と床下点検ロボットの車体方向との角度を算出する必要があり、左右一対の距離センサを必要としている。
本発明はこのような事情に鑑みてなされたもので、撮像装置の姿勢が不明であっても撮像装置の撮像方向と検査対象物の平面の法線方向とのなす角度を算出することができ、これにより検査対象物に対する撮像装置の撮像方向を適正に制御することができる撮像装置及び撮像方法を提供することを目的とする。
上記目的を達成するために本発明の一の態様は、平面を有する検査対象物を撮像する撮像装置において、視差をもつ複数の画像を撮像する複数の撮像部からなる撮像ユニットと、撮像ユニットをパン方向及びチルト方向にそれぞれ回転させるパンチルト機構と、撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出する角度算出部と、パンチルト機構を制御し、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を、許容角度範囲内の角度にするパンチルト制御部と、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が、許容角度範囲内の角度のときに、撮像ユニットの少なくとも1つの撮像部により検査対象物を示す検査用画像の撮像を行わせ、検査用画像を取得する撮像制御部と、を備える。
本発明の一の態様によれば、撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出するため、特別な距離センサが不要であり、かつ撮像ユニットの姿勢が不明であっても撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出することができる。そして、上記のようにして算出された角度により検査対象物に対する撮像ユニットの撮像方向を適正に制御すること(即ち、算出された角度が許容角度範囲内の角度に入るようにパンチルト機構を制御すること)ができ、これにより所要の解像度を有する検査用画像を撮像することができる。
本発明の更に態様に係る撮像装置において、角度算出部は、複数の画像から同一直線上にない3点以上の対応点を検出する対応点検出部と、対応点検出部により検出した3点以上の対応点の空間座標を算出する空間座標算出部とを有し、算出した3点以上の対応点の空間座標から検査対象物の平面を推定し、推定した平面の法線方向に基づいて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出する。
本発明の他の態様によれば、複数の画像から同一直線上にない3点以上の対応点を検出し、検出した3点以上の対応点の空間座標を算出する。ここで、空間座標は、撮像時の撮像ユニットを基準にした座標系の座標値であり、撮像ユニットを基準にした座標系において、検査対象物の平面上の3点以上の空間座標を算出する。3点以上の空間座標から検査対象物の平面を推定することができ、推定した平面の法線方向(即ち、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度)を算出することができる。
本発明の更に他の態様に係る撮像装置において、許容角度範囲は、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が、許容角度範囲内の最大の角度のときに、撮像ユニットから最も遠くなる画角の端部における検査用画像の解像度が、検査対象物の検査精度に要求される最低限の解像度が得られる角度範囲であることが好ましい。これにより、撮像された検査用画像は、検査対象物の検査精度に要求される最低限の解像度を有することになる。
本発明の更に他の態様に係る撮像装置において、撮像ユニットは、撮像倍率が調整可能な撮像光学系を有し、許容角度範囲は、撮像光学系の撮像倍率に応じて設定されることが好ましい。撮像光学系の撮像倍率が高いほど、空間分解能が高くなるからである。
本発明の更に他の態様に係る撮像装置において、撮像ユニットの少なくとも1つの撮像部により撮像されたライブビュー画像を表示するライブビュー画像表示部と、パンチルト機構に対するパンチルト指令を手動操作により出力するパンチルト操作部と、角度算出部により算出された角度が許容角度範囲を越えるか否かを判別する判別部と、を備え、パンチルト制御部は、パンチルト操作部からのパンチルト指令に基づいてパンチルト機構を制御し、判別部により角度算出部により算出された角度が、許容角度範囲を越えると判別されると、パンチルト機構を停止させることが好ましい。
本発明の更に他の態様によれば、ライブビュー画像を見ながらパンチルト機構を手動操作し、検査対象物の所望の撮像範囲を撮像する際に、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が許容角度範囲を越えると判別されると、パンチルト機構を停止させるようにしたため、許容角度範囲を越えてパンチルト機構が手動操作されないようにすることができる。
本発明の更に他の態様に係る撮像装置において、撮像ユニットの少なくとも1つの撮像部により撮像されたライブビュー画像を表示するライブビュー画像表示部と、パンチルト機構に対するパンチルト指令を手動操作により出力するパンチルト操作部と、角度算出部により算出された角度が許容角度範囲を越えるか否かを判別する判別部と、判別部により角度算出部により算出された角度が許容角度範囲を越えると判別されると、警告を報知する報知部と、を備え、パンチルト制御部は、パンチルト操作部からのパンチルト指令に基づいてパンチルト機構を制御することが好ましい。
本発明の更に他の態様によれば、ライブビュー画像を見ながらパンチルト機構を手動操作し、検査対象物の所望の撮像範囲を撮像する際に、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が許容角度範囲を越えると判別されると、警告を報知するようにしたため、許容角度範囲を越えてパンチルト機構が手動操作されないようにすることができる。
本発明の更に他の態様に係る撮像装置において、パンチルト制御部は、角度算出部により算出された角度に基づいてパンチルト機構を自動制御し、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を0°にすることが好ましい。これにより、撮像ユニットにより検査対象物を撮像する際に、自動的に撮像ユニットを検査対象物に正対させることができる。
本発明の更に他の態様に係る撮像装置において、撮像装置を搭載し、検体対象物の平面に沿って撮像装置を移動させる移動体と、移動体に対する移動指令を手動操作により出力する移動体操作部と、移動体操作部からの移動指令に基づいて移動体を移動させる移動体制御部と、を備えることが好ましい。
本発明の更に他の態様によれば、撮像装置を搭載した移動体を、検体対象物の平面に沿って移動させることができるため、検査対象物の所望の撮像範囲を撮像する際にパンチルト機構の制御では撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を許容角度範囲に入れることができない場合でも、移動体を移動させることにより許容角度範囲に入れることが可能になる。
本発明の更に他の態様に係る撮像装置において、撮像制御部により取得された検査用画像と、検査用画像の撮像時の撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度とを関連付けて記録する画像記録部を備えることが好ましい。
本発明の更に他の態様に係る撮像装置において、撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて、撮像ユニットの撮像方向における検査対象物と撮像ユニットとの距離を算出する距離算出部と、撮像制御部により取得された検査用画像と、検査用画像の撮像時の撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度と、距離算出部により算出された距離とを関連付けて記録する画像記録部と、を備えることが好ましい。検査用画像に関連付けて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度と距離とを記録することにより、検査用画像から検査対象物の注目部位(例えば、クラック等)の実際の大きさを把握することができる。
本発明の更に他の態様に係る撮像装置において、撮像ユニットは、撮像倍率が調整可能な撮像光学系を有し、画像記録部は、検査用画像と、検査用画像の撮像時の撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度と、距離算出部により算出された距離と、撮像光学系の撮像倍率とを関連付けて記録することが好ましい。検査用画像に関連付けて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度と距離と撮像光学系の撮像倍率とを記録することにより、検査用画像から検査対象物の注目部位の実際の大きさを把握することができる。
本発明の更に他の態様に係る撮像装置において、角度算出部は、検査用画像の撮像時に取得した撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出することが好ましい。これによれば、パンチルト機構のパン角度やチルト角を検出する角度検出器を省略することができ、かつ検査用画像の撮像時における撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を、角度検出器の検出精度に依存せずに精度よく検出することが可能になる。
本発明の更に他の態様は、平面を有する検査対象物を撮像する撮像方法において、複数の撮像部からなる撮像ユニットにより視差をもつ複数の画像を撮像するステップと、角度算出部により撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出するステップと、撮像ユニットをパン方向及びチルト方向にそれぞれ回転させるパンチルト機構を制御し、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を、許容角度範囲内の角度にするステップと、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が、許容角度範囲内の角度のときに、撮像ユニットの少なくとも1つの撮像部により検査対象物を示す検査用画像の撮像を行わせ、検査用画像を取得するステップと、を含む。
本発明の更に他の態様に係る撮像方法において、角度を算出するステップは、複数の画像から同一直線上にない3点以上の対応点を検出するステップと、検出した3点以上の対応点の空間座標を算出するステップと、を含み、算出した3点以上の対応点の空間座標から検査対象物の平面を推定し、推定した平面の法線方向に基づいて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出する。
本発明の更に他の態様に係る撮像方法において、許容角度範囲は、撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度が、許容角度範囲内の最大の角度のときに、撮像ユニットから最も遠くなる画角の端部における検査用画像の解像度が、検査対象物の検査精度に要求される最低限の解像度が得られる角度範囲であることが好ましい。
本発明によれば、撮像ユニットにより撮像された検査対象物を示す複数の画像に基づいて撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出するため、撮像ユニットの姿勢が不明であっても撮像ユニットの撮像方向と検査対象物の平面の法線方向とのなす角度を算出することができ、これにより検査対象物に対する撮像ユニットの撮像方向を適正に制御することができる。
図1は、下面側から見た橋梁の外観図である。 図2は、本発明に係る撮像装置を含む移動式撮像装置の外観を示す斜視図である。 図3は、図2に示した移動式撮像装置の要部断面図である。 図4は、撮像ユニット及びパンチルト機構の外観斜視図である。 図5は、本発明に係る撮像装置を含む移動式撮像装置の実施の形態を示すブロック図である。 図6は、移動式撮像装置により検査対象物の裏面を撮像する様子を示す図である。 図7は、図5に示した角度算出部の構成を示す機能ブロック図である。 図8は、本発明に係る撮像方法の第1の実施形態を示すフローチャートである。 図9は、第1の実施形態の撮像方法を模式的に示した概略図である。 図10は、本発明に係る撮像方法の第2の実施形態を示すフローチャートである。 図11は、本発明に係る撮像方法の第3の実施形態を示すフローチャートである。
以下、添付図面に従って本発明に係る撮像装置及び撮像装置の移動制御方法の実施形態について説明する。
[橋梁の構造]
図1は、本発明に係る撮像装置により撮像が行われる検査対象物の一つである橋梁の構造を示す斜視図であり、橋梁を下から見た斜視図である。
図1に示す橋梁1は、主桁2と、横桁3と、対傾構4と、横構5とを有し、これらがボルト、リベット又は溶接により連結されて構成されている。また、主桁2等の上部には、車輌等が走行するための床版6が打設されている。床版6は、鉄筋コンクリート製のものが一般的である。
主桁2は、橋台や橋脚の間に渡され、床版6上の車輌等の荷重を支える部材である。横桁3は、荷重を複数の主桁2で支持するため、主桁2を連結する部材である。対傾構4及び横構5は、それぞれ風や地震等の横荷重に抵抗するため、主桁2を相互に連結する部材である。また、本例の橋梁1の下部には、配管7が敷設されている。
上記の橋梁1の場合、平面を有する検査対象物は床版6であり、以下に示す実施形態では、床版6の裏面を撮像する。
[撮像装置の外観]
図2は、本発明に係る撮像装置を含む移動式撮像装置の外観を示す斜視図であり、橋梁1の主桁2間に設置されている状態に関して示している。また、図3は、図2に示した移動式撮像装置の要部断面図である。
図2及び図3に示すように移動式撮像装置10は、主として移動体として機能するロボット装置100と、ロボット装置100に搭載された撮像装置200とから構成されている。
ロボット装置100は、後に詳しく説明するが、主フレーム102と、垂直伸延アーム104と、垂直伸延アーム104の駆動部や各種の制御部等が配設された筐体106と、筐体106を主フレーム102の長手方向(主桁2の長手方向と直交する方向)(X方向)に移動させるX方向駆動部108(図5)と、移動式撮像装置10全体を主桁2の長手方向(Y方向)に移動させるY方向駆動部110(図5)と、垂直伸延アーム104を垂直方向(Z方向)に伸縮させるZ方向駆動部112(図5)とを備えている。
X方向駆動部108は、主フレーム102の長手方向(X方向)に配設されたボールネジ108Aと、筐体106に配設されたボールナット108Bと、ボールネジ108Aを回転させるモータ108Cとから構成され、モータ108Cによりボールネジ108Aを正転又は逆転させることにより、筐体106をX方向に移動させる。
Y方向駆動部110は、主フレーム102の両端にそれぞれ配設されたタイヤ110A、110Bと、タイヤ110A、110B内に配設されたモータ(図示せず)とから構成され、タイヤ110A、110Bをモータ駆動することにより移動式撮像装置10全体をY方向に移動させる。
尚、移動式撮像装置10は、主フレーム102の両端のタイヤ110A、110Bが、2箇所の主桁2の下フランジ上に載置され、かつ主桁2を挟む態様で設置される。これにより、移動式撮像装置10は、主桁2の下フランジに懸垂して、主桁2に沿って移動(自走)することができる。また、主フレーム102は、図示しないが、主桁2の間隔に合わせて長さが調整可能に構成されている。
垂直伸延アーム104は、ロボット装置100の筐体106に配設されており、筐体106とともにX方向及びY方向に移動する。また、垂直伸延アーム104は、筐体106内に設けられたZ方向駆動部112(図5)によりZ方向に伸縮する。
図4に示すように垂直伸延アーム104の先端には、カメラ設置部104Aが設けられており、カメラ設置部104Aには、パンチルト機構120によりパン方向及びチルト方向に回転可能な撮像ユニット202が設置されている。
撮像ユニット202は、第1の撮像部202Aと、第2の撮像部202Bとからなり、第1の撮像部202A及び第2の撮像部202Bにより視差をもつ2つの画像(立体画像)を撮像することができる。立体画像は、動画及び静止画のいずれでもよい。
撮像ユニット202は、パンチルト駆動部206(図5)から駆動力が加えられるパンチルト機構120により垂直伸延アーム104と同軸のパン軸Pを中心に回転し、あるいは水平方向のチルト軸Tを中心に回転する。これにより、撮像ユニット202は任意の姿勢にて撮像(任意の撮像方向の撮像)ができる。
本例の撮像ユニット202の第1の撮像部202Aの光軸Lと、第2の撮像部202Bの光軸Lとはそれぞれパン軸Pと平行であり、かつパン軸Pは、光軸Lと光軸Lとの中心に位置している。また、パン軸Pは、チルト軸Tと直交している。更に、撮像ユニット202の基線長(即ち、第1の撮像部202Aと第2の撮像部202Bとの設置間隔)は既知である。
また、撮像ユニット202を基準にした座標系は、パン軸Pとチルト軸Tとの交点を原点Oとし、チルト軸Tの方向をx軸方向、パン軸Pの方向をz軸方向、x軸及びy軸にそれぞれ直交する方向をy軸方向とする。
<移動式撮像装置10の構成>
図5は、本発明に係る撮像装置を含む移動式撮像装置の実施の形態を示すブロック図である。
図5に示すように移動式撮像装置10は、ロボット装置(移動体)100側のロボット制御部(移動体制御部)130、X方向駆動部108、Y方向駆動部110及びZ方向駆動部112と、撮像装置200側の撮像ユニット202、撮像制御部204、パンチルト制御部210、パンチルト駆動部206、角度算出部220及び判別部228と、ロボット側通信部230と、端末装置300とから構成されている。
ロボット側通信部230は、端末側通信部310との間で双方向の無線通信を行い、端末側通信部310から送信されるロボット装置100の移動を制御する移動指令、パンチルト機構120を制御するパンチルト指令、撮像ユニット202を制御する撮像指令等の各種の指令を受信し、受信した指令をそれぞれ対応する制御部に出力する。尚、端末装置300の詳細については後述する。
ロボット制御部130は、ロボット側通信部230から入力する移動指令に基づいてX方向駆動部108、Y方向駆動部110、及びZ方向駆動部112を制御し、ロボット装置100のX方向及びY方向に移動させるとともに、垂直伸延アーム104をZ方向に伸縮させる(図2参照)。
パンチルト制御部210は、ロボット側通信部230から入力するパンチルト指令に基づいてパンチルト駆動部206を介してパンチルト機構120をパン方向及びチルト方向に動作させ、撮像ユニット202を所望の方向にパンチルトさせる(図4参照)。
また、パンチルト制御部210の他の入力には、判別部228による判別結果が加えられるようになっており、パンチルト制御部210は、判別部228による判別結果に応じて動作可能又は動作不能になる。尚、判別部228の詳細については後述する。
撮像制御部204は、ロボット側通信部230から入力する撮像指令に基づいて撮像ユニット202の第1の撮像部202A及び第2の撮像部202Bにライブビュー画像、角度算出用画像、又は検査用画像の撮像を行わせる。尚、角度算出用画像は、第1の撮像部202A及び第2の撮像部202Bにより撮像される視差をもつ2つの画像(第1の画像、第2の画像)であり、動画であることが好ましい。角度算出用画像が動画の場合、ライブビュー画像は、角度算出用画像と同一の画像でもよいし、第1の画像と第2の画像のいずれか一方の画像(例えば、第1の画像)でもよい。また、検査用画像は、第1の撮像部202A及び第2の撮像部202Bにより撮像される視差をもつ2つの画像(第1の画像、第2の画像)であり、第1の撮像部202A及び第2の撮像部202Bにより撮像可能な最大の画像サイズの画像であることが好ましい。
撮像ユニット202の第1の撮像部202A及び第2の撮像部202Bにより撮像された視差をもつ第1の画像及び第2の画像を示す画像データは、それぞれ角度算出部220及びロボット側通信部230に出力される。
角度算出部220は、第1の撮像部202A及び第2の撮像部202Bにより撮像された第1の画像及び第2の画像を示す画像データに基づいて、撮像ユニット202の撮像方向(本例の場合は、図4に示した第1の撮像部202A及び第2の撮像部202Bの光軸L,Lの方向と同方向)と、検査対象物(本例の場合は、図1に示した橋梁1の床版6)の平面の法線方向とのなす角度θを算出する。
<角度θの算出方法>
まず、撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θを算出する意義について説明する。
図6は、移動式撮像装置10により検査対象物(床版6)の裏面を撮像する様子を示す図である。
移動式撮像装置10は、主桁2の下フランジに懸垂して走行(移動)するが、移動式撮像装置10の走行面(主桁2の下フランジ)と床版6の裏面とは、平行になっているとは限らないため、例えば、撮像ユニット202のチルト角を0°にし、撮像ユニット202の光軸を走行面と直交する方向に向けた場合でも、床版6の裏面に対して撮像ユニット202を正対させること(即ち、撮像ユニット202の光軸方向と検査対象物の平面の法線方向とのなす角度θを0°にすること)ができない。
尚、角度θが0°の場合、最も解像度の高い検査用画像の撮像が可能であり、角度θが大きくなる程、検査用画像の解像度(特に、撮像ユニット202から遠くなる画角の端部における検査用画像の解像度)が低下し、検査対象物の検査精度に要求される解像度が得られなくなる場合がある。
したがって、撮像ユニット202の光軸方向と検査対象物の平面の法線方向とのなす角度θが0°になるように(検査対象物に対して撮像ユニット202を正体させるように)撮像ユニット202をパンチルトさせるためには、あるいは角度θが検査対象物の検査精度に要求される解像度が得られる最低限の角度範囲(許容角度範囲)に入るように撮像ユニット202をパンチルトさせるためには、角度θを検出する必要がある。
そこで、本発明では、第1の撮像部202A及び第2の撮像部202Bにより撮像された第1の画像及び第2の画像を示す画像データに基づいて、以下に示す方法により撮像ユニット202の撮像方向と、検査対象物の平面の法線方向とのなす角度θを算出する。
図7は、図5に示した角度算出部220の構成を示す機能ブロック図であり、角度算出部220は、対応点検出部222と、空間座標算出部224と、平面算出部226と、距離算出部227とを有している。
対応点検出部222は、撮像ユニット202の第1の撮像部202A及び第2の撮像部202Bにより撮像された視差をもつ第1の画像及び第2の画像に基づいて、同一直線上にない3点以上の対応点を検出する。例えば、第1の画像から同一直線上にない3点の特徴点を検出し、検出した3点の特徴点に対応する対応点を第2の画像から検出する。第2の画像における対応点の検出は、第1の画像の特徴点を含む局所領域の画像に基づいて第2の画像上を走査し、第2の画像上で相関が最も高い位置(点)を対応点として検出することができる。これらの3つの特徴点と、3つの特徴点にそれぞれ対応する3つの対応点とは、互いに対応する3組の対応点である。
空間座標算出部224は、図4で説明した撮像ユニット202を基準にした座標系における、3点の対応点の実空間(検査対象物の平面)上の空間座標(x,y,z)を算出する。対応点の空間座標は、第1の画像上の対応点の位置と、第2の画像上の対応点の位置と、第1の撮像部202Aと第2の撮像部202Bとの間の基線長と、第1の撮像部202A及び第2の撮像部202Bの撮像光学系の撮像倍率とに基づいて幾何的に算出することができる。
平面算出部226は、空間座標算出部224により算出された3点の対応点の空間座標に基づいて検査対象物の平面を推定し、推定した平面の法線方向に基づいて撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θを算出する。
検査対象物の平面は、平面上の3点の空間座標に基づいて、次式に示す平面の方程式を求めることで推定(特定)することができる。
[数1]
ax+by+cz+d=0
上記のように検査対象物の平面を特定することで、検査対象物の平面の法線ベクトルnは、n=(a,b,c)と表すことができる。そして、撮像ユニット202の撮像方向(撮像ユニット202を基準にした座標系のz方向)と検査対象物の平面の法線方向とのなす角度θは、法線ベクトルn(n=(a,b,c))から、次式により算出することができる。
[数2]
θ=arccos(c/√(a+b+c))
また、撮像ユニット202と検査対象物との距離(撮像ユニット202の光軸方向(z方向)の撮像距離)Dは、次式により算出することができる。
[数3]
D=−d/c
角度算出部220は、上記[数2]式により算出した角度θを示す情報を出力し、距離算出部227は、上記[数3]式により算出した距離Dを示す情報を出力する。
図5に戻って、角度算出部220により算出された角度θ及び距離Dを示す情報は、判別部228及びロボット側通信部230に加えられる。
判別部228には、許容角度範囲(−α〜α)が設定されており、判別部228は、角度算出部220により算出された角度θが、許容角度範囲内に入っているか否かを判別する。ここで、許容角度範囲は、撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θが、許容角度範囲内の最大の角度(±α)のときに、撮像ユニット202から最も遠くなる画角の端部における検査用画像の解像度が、検査対象物の検査精度に要求される最低限の解像度が得られる角度範囲により設定されている。
また、検査用画像の解像度(例えば、第1の撮像部202A及び第2の撮像部202Bの撮像素子の1画素当りの検査対象物上の実際の大きさ)は、距離Dや画角に応じて変化するため、許容角度範囲は、撮像倍率(画角)が調整可能な撮像光学系を有する撮像ユニット202の場合には、撮像光学系の撮像倍率に応じて設定し、距離Dが変動する場合には、距離Dに応じて設定することが好ましい。
判別部228により判別された判別結果(角度算出部220により算出された角度θが許容角度範囲を越えるか否かを示す判別結果)は、それぞれパンチルト制御部210及びロボット側通信部230に出力される。
パンチルト制御部210は、パンチルト指令に基づいてパンチルト駆動部206を介してパンチルト機構120を制御し、撮像ユニット202をパンチルトさせるが、判別部228から加えられる判別結果に応じて動作可能又は動作不能になる。即ち、パンチルト制御部210は、角度θが許容角度範囲を越えると判別された判別結果を判別部228から入力すると、パンチルト指令の入力にかかわらず、パンチルト機構120を停止させる。これにより、角度θが許容角度範囲を越えて撮像ユニット202のパンチルトが制御されないようにすることができる。
端末装置300は、移動式撮像装置10を操作する操作者により操作されるもので、主として端末側通信部310と、端末制御部320と、操作部330と、ライブビュー画像表示部及び警告の報知部として機能する表示部340と、画像記録部350とから構成されており、例えば、タブレット端末を適用することができる。
端末側通信部310は、ロボット側通信部230との間で双方向の無線通信を行い、ロボット側通信部230が入力する各種の情報(第1の撮像部202A及び第2の撮像部202Bにより撮像されたライブビュー画像及び検査用画像を示す画像データ、角度算出部220により算出された角度θ、距離Dを示す情報、判別部228により判別された判別結果)を受信するとともに、端末制御部320を介して入力する操作部330での操作に応じた各種の指令をロボット側通信部230に送信する。
端末制御部320は、端末側通信部310を介して受信したライブビュー画像を示す画像データを表示部340に出力し、表示部340の画面にライブビュー画像を表示させる。また、端末制御部320は、判別部228により判別された判別結果(角度θが許容角度範囲を越えたことを示す判別結果)を入力すると、表示部340を介して警告(警告マーク、警告メッセージ等)を報知する。尚、図示しないスピーカを介して警告音を発生させるようにしてもよい。
操作部330は、ロボット操作部(移動体操作部)、パンチルト操作部及び撮像操作部を有し、ロボット操作部は、ロボット装置100(撮像ユニット202)をX方向、Y方向及びZ方向に移動させる移動指令を出力し、パンチルト操作部は、パンチルト機構120(撮像ユニット202)をパン方向及びチルト方向に回転させるパンチルト指令を出力し、撮像操作部は、撮像ユニット202による検査用画像の撮像を指示する撮像指令を出力する。操作者は、表示部340に表示されるライブビュー画像を見ながら操作部330を手動操作し、操作部330は、操作者による操作に応じて撮像ユニット202のX方向、Y方向及びZ方向の移動指令、パンチルト指令、及び撮像指令等の各種の指令を端末制御部320に出力する。端末制御部320は、操作部330から入力する各種の指令を端末側通信部310を介してロボット側通信部230に送信する。
また、角度θが許容角度範囲を越える場合には、表示部340に警告が表示されるため、操作者は、操作部330のパンチルト操作部を操作して撮像ユニット202をパンチルトさせる際に、表示部340に警告が非表示になるように操作部330を操作することができる。更に、検査対象物の所望の撮像範囲を撮像する際に、パンチルト機構120の制御では角度θを許容角度範囲に入れることができない場合には、操作者は、操作部330のロボット操作部を操作し、撮像ユニット202を検体対象物の平面に沿って移動させることにより、角度θを許容角度範囲に入れることができる。
また、端末制御部320は、端末側通信部310を介して受信した検査用画像(第1の画像及び第2の画像)を示す画像データを画像記録部350に出力し、画像記録部350は、端末制御部320から入力する検査用画像を示す画像データを記録する。このとき、検査用画像として、視差をもつ第1の画像及び第2の画像を記録することで、その後、検査用画像を使用して検査対象物を検査する際に、関心部位(クラック、傷等)の大きさを把握することができる。
また、端末制御部320は、端末側通信部310を介して受信した検査用画像と、角度θとを関連付けて画像記録部350に記録させることが好ましく、更に、端末制御部320は、端末側通信部310を介して受信した検査用画像と、角度θと、距離Dとを関連付けて画像記録部350に記録させることがより好ましい。更にまた、撮像倍率が調整可能な撮像光学系を有する撮像ユニット202の場合には、端末側通信部310を介して受信した検査用画像と、角度θと、距離Dと、撮像光学系の撮像倍率とを関連付けて記録することが更に好ましい。
<撮像方法>
[第1の実施形態]
図8は、本発明に係る撮像方法の第1の実施形態を示すフローチャートであり、図9は、第1の実施形態の撮像方法を模式的に示した概略図である。
図8において、まず、撮像ユニット202のチルト角を0°になるようにパンチルト機構120を手動又は自動的に制御する(ステップS10)。この場合、図9(A)に示すように撮像ユニット202の光軸方向は、ロボット装置100の走行面(主桁2の下フランジ面)に対して直交する。
続いて、撮像制御部204は、撮像ユニット202のチルト角が0°の状態で、撮像ユニット202による検査対象物の撮像を行わせる(ステップS12)。これにより、撮像ユニット202から視差をもつ第1の画像及び第2の画像(角度算出用画像)を取得する。
角度算出部220(図5、図7)は、撮像ユニット202により撮像された視差をもつ第1の画像及び第2の画像に基づいて同一直線上にない3点以上の対応点を検出し(ステップS14)、検出した3点以上の対応点の実空間(検査対象物の平面)上の空間座標に基づいて検査対象物の平面を推定する(ステップS16)。そして、角度算出部220は、撮像ユニット202の撮像方向と推定した検査対象物の平面の法線方向とのなす角度θを算出する(ステップS18)。撮像ユニット202のチルト角が0°のときの角度θを、角度θ0とする。
図9(B)は、角度θ0が0°になるように撮像ユニット202をパンチルト制御した場合に関して示している。この場合、撮像ユニット202は、検査対象物に対して正対する。
続いて、図9(C)に示すように撮像ユニット202の変更可能な角度α(即ち、許容角度範囲(−α〜α))を決定する(ステップS20)。変更可能な角度αは、距離D、画角等に基づいて決定することが好ましい。
次に、撮像ユニット202のチルト角が0°のときの撮像ユニット202の撮像方向を基準にして、基準にした撮像方向に対する角度を、−(α+θ0)〜(α−θ0)に変更しながら検査用画像の撮像を行う(ステップS22)。これによれば、検査用画像の撮像時の撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θは、許容角度範囲(−α〜α)内になる。
ステップS22において撮像された検査用画像は、画像記録部350に保存される(ステップS24)。このとき、保存する検査用画像に関連付けて角度θ、距離D及び撮像光学系の撮像倍率を保存することが好ましい。
次に、検査対象物の異なる領域(角度θが許容角度範囲(−α〜α)を越える検査対象物の領域)を撮像するために、ロボット装置100の移動量を算出する(ステップS26)。この移動量は、撮像ユニット202の画角と、変更可能な角度αと、距離Dとに基づいて算出することができる。
続いて、ロボット装置100をステップS26で算出した移動量だけ移動させた後(ステップS28)、ステップS10に戻る。
そして、ステップS10からステップS28の処理を繰り返すことにより、検査対象物の全ての領域を撮像し、検査用画像を取得・保存することができる。
[第2の実施形態]
図10は、本発明に係る撮像方法の第2の実施形態を示すフローチャートである。
図10において、まず、検査対象物の現在の撮像範囲(ロボット装置100の位置及びパンチルト機構120のパン角度及びチルト角度により特定される現在の撮像範囲)の撮像が終了しているか否か示すフラグFを1(F=1:未撮像)にセットする(ステップS29)。続いて、撮像制御部204は、撮像ユニット202によるライブビュー画像の撮像を行わせる(ステップS30)。これにより、撮像ユニット202から動画のライブビュー画像を取得する。この場合、ライブビュー画像は、撮像ユニット202の第1の撮像部202Aにより撮像された第1の画像でもよいし、撮像ユニット202の第1の撮像部202A及び第2の撮像部202Bにより撮像された視差をもつ第1の画像及び第2の画像(立体画像)でもよい。
撮像ユニット202により撮像されたライブビュー画像の画像データは、撮像ユニット202からロボット側通信部230、端末側通信部310及び端末制御部320を介して表示部340に出力され、ここでライブビュー画像として表示される(ステップS32)。
次に、端末装置300の操作部330(パンチルト操作部、ロボット操作部)が操作されたか否かを判別する(ステップS34)。ステップS34において、操作部330が操作されたと判別されると(「Yes」の場合)、操作部330の操作に応じてパンチルト機構120が制御され、又はロボット装置100の移動が制御される(ステップS36)。その後、フラグFを1(未撮像)にセットし(ステップS37)、ステップS30に遷移させる。
ステップS34において、操作部330が操作されていないと判別されると(「No」の場合)、フラグFが1にセットされているか否かを判別する(ステップS35)。フラグFが1でない場合(「No」の場合)、検査対象物の現在の撮像範囲は撮像済みであるため、ステップS34に戻る。一方、フラグFが1の場合(「Yes」の場合)、検査対象物の現在の撮像範囲は未撮像であるため、ステップS38に遷移させる。
ステップS38では、撮像ユニット202による検査対象物の撮像を行わせる(ステップS38)。これにより、撮像ユニット202から視差をもつ第1の画像及び第2の画像(角度算出用画像)を取得する。
ステップS40からステップS44までの処理は、取得した角度算出用画像から撮像ユニット202の撮像方向と推定した検査対象物の平面の法線方向とのなす角度θを算出する処理であり、図8に示した撮像方法の第1の実施形態のステップS14からステップS18と同様の処理であるため、その詳細な説明は省略する。
続いて、ステップS44により算出した角度θが、許容角度範囲(−α〜α)内か否かを判別する(ステップS46)。角度θが許容角度範囲を越えていると判別されると(「No」の場合)、その判別結果を受信する端末装置300は、表示部340に警告を表示し(ステップS48)、ステップS30に遷移させる。これにより、操作者に対して、角度θが許容角度範囲内に入るような操作部330での操作(パンチルト操作、ロボット操作)を促す。尚、ステップS48による警告表示とともに、又は警告表示の代わりに、パンチルト機構120を停止(角度θが大きくなる方向へのパンチルト機構120の動作を停止)させるようにしてもよい。
一方、ステップS46において、角度θが許容角度範囲内であると判別されると(「Yes」の場合)、端末装置300から撮像指令を入力(受信)したかを判別し(ステップS49)、撮像指令を入力すると、撮像制御部204は、撮像ユニット202による検査用画像の撮像を行わせる(ステップS50)。
ステップS50において撮像された検査用画像は、画像記録部350に保存される(ステップS52)。このとき、保存する検査用画像に関連付けて角度θ、距離D及び撮像光学系の撮像倍率を保存することが好ましい。
続いて、フラグFを0にセットした後(ステップS54)、ステップS30に戻る。尚、フラグFが0(F=0)の場合、検査対象物の現在の撮像範囲は撮像済みであるため、ロボット装置100又はパンチルト機構120が駆動されるまで(即ち、ステップS37によりFが1に再度セットされるまで)、次の撮像を行うためのステップS38以降の処理は行われない。
第2の実施形態の撮像方法によれば、撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θが、許容角度範囲を越えている場合には警告を表示するため、操作者は、ライブビュー画像を見ながら操作部330のパンチルト操作部等を操作し、検査対象物の所望の撮像範囲を撮像する際に、角度θが許容角度範囲内に入るようにパンチルト操作部を操作することができる。
また、第2の実施形態の撮像方法では、パンチルト機構120のパン角度及びチルト角度を検出する必要がなく、パン角度及びチルト角度を検出する角度検出器の検出精度に依存しないパンチルト機構120の制御が可能である。
[第3の実施形態]
図11は、本発明に係る撮像方法の第3の実施形態を示すフローチャートである。尚、図10に示した第2の実施形態と共通するステップには同一のステップ番号を付し、その詳細な説明は省略する。
図11に示す第3の実施形態の撮像方法は、第2の実施形態の撮像方法と比較して、パンチルト機構120の制御が自動化されている点で相違する。したがって、操作者は、ライブビュー画像を見ながら端末装置300の操作部330を操作する際に、ロボット装置100を移動させるためのロボット操作部のみを操作する。
即ち、ステップS341では、操作部330のロボット操作部が操作されたか否かを判別し、ロボット操作部が操作されたと判別されると、ロボット操作部での操作に応じてロボット装置100の移動が制御される(ステップS361)。
ステップS60は、ステップS44により算出した角度θが0°になるように(推定した検査対象物の平面の法線ベクトルの方向が、撮像ユニット202の撮像方向(z方向)と一致するように)、パンチルト機構120を自動制御する。そして、角度θが0°になると(即ち、撮像ユニット202が検査対象物に正対すると)、撮像ユニット202による検査用画像の撮像を行わせる(ステップS50)。この検査用画像の撮像は、角度θが0°になると、自動的に行われることが好ましい。
第3の実施形態の撮像方法によれば、撮像ユニット202の撮像方向と検査対象物の平面の法線方向とのなす角度θが0°になるように自動的にパンチルト機構120が制御されるため、撮像ユニット202を検査対象物に正対させた状態で検査用画像の撮像を行うことができ、操作者は、検査対象物の所望の撮像範囲を撮像する際に、ライブビュー画像を見ながら操作部330のロボット操作部のみを操作すればよい。
[その他]
本実施形態では、橋梁の床版を検査対象物としたが、これに限らず、平面を有する検査対象物であれば、如何なるものでもよい。
また、本実施形態では、端末装置側に検査用画像を記録する画像記録部を設けるようにしたが、ロボット装置側に画像記録部を設けるようにしてもよい。更に、ロボット装置と端末装置とに分離されたものに限らず、一体化された装置でもよい。
また、撮像装置(移動式撮像装置)は、撮像装置が適用される検査対象物に応じて撮像装置の形態や機能が異なることは言うまでもない。例えば、撮像装置は、二足歩行、四足歩行、あるいは無限軌道で走行する移動体や、多関節アーム(例えば、人間の腕を模した上腕、前腕、手等の部位)を有する移動体を含む移動式撮像装置など、種々の撮像装置が考えられる。
本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1…橋梁、6…床版、10…移動式撮像装置、100…ロボット装置、108…X方向駆動部、110…Y方向駆動部、112…Z方向駆動部、120…パンチルト機構、130…ロボット制御部、200…撮像装置、202…撮像ユニット、202A…第1の撮像部、202B…第2の撮像部、204…撮像制御部、206…パンチルト駆動部、210…パンチルト制御部210、220…角度算出部、222…対応点検出部、224…空間座標算出部、226…平面算出部、228…判別部、230…ロボット側通信部、300…端末装置、310…端末側通信部、320…端末制御部、330…操作部、340…表示部、350…画像記録部

Claims (15)

  1. 平面を有する検査対象物を撮像する撮像装置において、
    視差をもつ複数の画像を撮像する複数の撮像部からなる撮像ユニットと、
    前記撮像ユニットをパン方向及びチルト方向にそれぞれ回転させるパンチルト機構と、
    前記撮像ユニットにより撮像された前記検査対象物を示す複数の画像に基づいて、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を算出する角度算出部と、
    前記パンチルト機構を制御し、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を、許容角度範囲内の角度にするパンチルト制御部と、
    前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度が、前記許容角度範囲内の角度のときに、前記撮像ユニットの少なくとも1つの撮像部により前記検査対象物を示す検査用画像の撮像を行わせ、該検査用画像を取得する撮像制御部と、
    を備えた撮像装置。
  2. 前記角度算出部は、前記複数の画像から同一直線上にない3点以上の対応点を検出する対応点検出部と、前記対応点検出部により検出した3点以上の対応点の空間座標を算出する空間座標算出部とを有し、前記算出した3点以上の対応点の空間座標から前記検査対象物の平面を推定し、推定した平面の法線方向に基づいて前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を算出する請求項1に記載の撮像装置。
  3. 前記許容角度範囲は、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度が、前記許容角度範囲内の最大の角度のときに、前記撮像ユニットから最も遠くなる画角の端部における前記検査用画像の解像度が、前記検査対象物の検査精度に要求される最低限の解像度が得られる角度範囲である請求項1又は2に記載の撮像装置。
  4. 前記撮像ユニットは、撮像倍率が調整可能な撮像光学系を有し、
    前記許容角度範囲は、前記撮像光学系の撮像倍率に応じて設定される請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記撮像ユニットの少なくとも1つの撮像部により撮像されたライブビュー画像を表示するライブビュー画像表示部と、
    前記パンチルト機構に対するパンチルト指令を手動操作により出力するパンチルト操作部と、
    前記角度算出部により算出された角度が前記許容角度範囲を越えるか否かを判別する判別部と、を備え、
    前記パンチルト制御部は、前記パンチルト操作部からのパンチルト指令に基づいて前記パンチルト機構を制御し、前記判別部により前記角度算出部により算出された角度が、前記許容角度範囲を越えると判別されると、前記パンチルト機構を停止させる請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記撮像ユニットの少なくとも1つの撮像部により撮像されたライブビュー画像を表示するライブビュー画像表示部と、
    前記パンチルト機構に対するパンチルト指令を手動操作により出力するパンチルト操作部と、
    前記角度算出部により算出された角度が前記許容角度範囲を越えるか否かを判別する判別部と、
    前記判別部により前記角度算出部により算出された角度が前記許容角度範囲を越えると判別されると、警告を報知する報知部と、を備え、
    前記パンチルト制御部は、前記パンチルト操作部からのパンチルト指令に基づいて前記パンチルト機構を制御する請求項1から4のいずれか1項に記載の撮像装置。
  7. 前記パンチルト制御部は、前記角度算出部により算出された角度に基づいて前記パンチルト機構を自動制御し、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を0°にする請求項1又は2に記載の撮像装置。
  8. 前記撮像装置を搭載し、前記検査対象物の平面に沿って前記撮像装置を移動させる移動体と、
    前記移動体に対する移動指令を手動操作により出力する移動体操作部と、
    前記移動体操作部からの移動指令に基づいて前記移動体を移動させる移動体制御部と、
    を備えた請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記撮像制御部により取得された検査用画像と、前記検査用画像の撮像時の前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度とを関連付けて記録する画像記録部を備えた請求項1から8のいずれか1項に記載の撮像装置。
  10. 前記撮像ユニットにより撮像された前記検査対象物を示す複数の画像に基づいて、前記撮像ユニットの撮像方向における前記検査対象物と前記撮像ユニットとの距離を算出する距離算出部と、
    前記撮像制御部により取得された検査用画像と、前記検査用画像の撮像時の前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度と、前記距離算出部により算出された前記距離とを関連付けて記録する画像記録部と、
    を備えた請求項1から8のいずれか1項に記載の撮像装置。
  11. 前記撮像ユニットは、撮像倍率が調整可能な撮像光学系を有し、
    前記画像記録部は、前記検査用画像と、前記検査用画像の撮像時の前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度と、前記距離算出部により算出された前記距離と、前記撮像光学系の撮像倍率とを関連付けて記録する請求項10に記載の撮像装置。
  12. 前記角度算出部は、前記検査用画像の撮像時に取得した前記撮像ユニットにより撮像された前記検査対象物を示す複数の画像に基づいて、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を算出する請求項9又は10に記載の撮像装置。
  13. 平面を有する検査対象物を撮像する撮像方法において、
    複数の撮像部からなる撮像ユニットにより視差をもつ複数の画像を撮像するステップと、
    角度算出部により前記撮像ユニットにより撮像された前記検査対象物を示す複数の画像に基づいて、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を算出するステップと、
    前記撮像ユニットをパン方向及びチルト方向にそれぞれ回転させるパンチルト機構を制御し、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を、許容角度範囲内の角度にするステップと、
    前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度が、前記許容角度範囲内の角度のときに、前記撮像ユニットの少なくとも1つの撮像部により前記検査対象物を示す検査用画像の撮像を行わせ、該検査用画像を取得するステップと、
    を含む撮像方法。
  14. 前記角度を算出するステップは、
    前記複数の画像から同一直線上にない3点以上の対応点を検出するステップと、
    前記検出した3点以上の対応点の空間座標を算出するステップと、を含み、
    前記算出した3点以上の対応点の空間座標から前記検査対象物の平面を推定し、推定した平面の法線方向に基づいて前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度を算出する請求項13に記載の撮像方法。
  15. 前記許容角度範囲は、前記撮像ユニットの撮像方向と前記検査対象物の平面の法線方向とのなす角度が、前記許容角度範囲内の最大の角度のときに、前記撮像ユニットから最も遠くなる画角の端部における前記検査用画像の解像度が、前記検査対象物の検査精度に要求される最低限の解像度が得られる角度範囲である請求項13又は14に記載の撮像方法。
JP2017526228A 2015-06-29 2016-06-01 撮像装置及び撮像方法 Active JP6284688B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015130132 2015-06-29
JP2015130132 2015-06-29
PCT/JP2016/066236 WO2017002511A1 (ja) 2015-06-29 2016-06-01 撮像装置及び撮像方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018013765A Division JP6450481B2 (ja) 2015-06-29 2018-01-30 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP6284688B2 JP6284688B2 (ja) 2018-02-28
JPWO2017002511A1 true JPWO2017002511A1 (ja) 2018-05-24

Family

ID=57608445

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017526228A Active JP6284688B2 (ja) 2015-06-29 2016-06-01 撮像装置及び撮像方法
JP2018013765A Active JP6450481B2 (ja) 2015-06-29 2018-01-30 撮像装置及び撮像方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018013765A Active JP6450481B2 (ja) 2015-06-29 2018-01-30 撮像装置及び撮像方法

Country Status (4)

Country Link
US (1) US10365090B2 (ja)
JP (2) JP6284688B2 (ja)
CN (1) CN107735643B (ja)
WO (1) WO2017002511A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6354054B1 (ja) * 2017-07-03 2018-07-11 国際航業株式会社 撮影支援装置、及び撮影方法
JP6891071B2 (ja) * 2017-08-07 2021-06-18 キヤノン株式会社 情報処理装置、撮像システム、撮像方法及びプログラム
JP7023691B2 (ja) * 2017-12-07 2022-02-22 キヤノン株式会社 撮像装置およびその制御方法
WO2020079780A1 (ja) * 2018-10-17 2020-04-23 株式会社島津製作所 航空機検査支援装置および航空機検査支援方法
JP7059396B2 (ja) * 2018-10-31 2022-04-25 三菱重工業株式会社 検査用チューブの駆動制御装置、検査装置、検査方法、及び検査装置のプログラム
CN111316187A (zh) * 2019-04-29 2020-06-19 深圳市大疆创新科技有限公司 一种云台控制方法、云台及拍摄装置
JP7307592B2 (ja) 2019-05-24 2023-07-12 キヤノン株式会社 計測装置、撮像装置、制御方法及びプログラム
CN110568697A (zh) * 2019-10-21 2019-12-13 深圳市永诺摄影器材股份有限公司 一种移轴摄影方法及装置
KR102394189B1 (ko) * 2020-11-27 2022-05-03 주식회사 에스원 하우징에 장착된 이기종 카메라의 영상 동기화 방법 및 그 장치
CN112839171B (zh) * 2020-12-31 2023-02-10 上海米哈游天命科技有限公司 一种画面拍摄方法、装置、存储介质及电子设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62105002A (ja) * 1985-11-01 1987-05-15 Nippon Telegr & Teleph Corp <Ntt> 光の中心位置の高精度計測方法
JP2000099740A (ja) * 1998-09-25 2000-04-07 Hideyoshi Tominaga 画像合成方法、画像入力装置、及び画像合成プログラムを記録した記録媒体
JP2001280960A (ja) * 2000-03-29 2001-10-10 Nkk Corp 遠隔計測方法及び装置
JP2012018073A (ja) * 2010-07-08 2012-01-26 Topy Ind Ltd 点検システム
CN104267043A (zh) * 2014-10-16 2015-01-07 东南大学 一种混凝土桥梁裂纹的移动检测装置
US20150148955A1 (en) * 2013-11-26 2015-05-28 Elwha Llc Structural assessment, maintenance, and repair apparatuses and methods

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07139909A (ja) * 1993-11-16 1995-06-02 Nippon Telegr & Teleph Corp <Ntt> 視点位置計測制御方法
JPH08128015A (ja) * 1994-10-31 1996-05-21 Matsushita Electric Ind Co Ltd 橋梁点検設備およびその点検ロボット
CA2359269A1 (en) * 2001-10-17 2003-04-17 Biodentity Systems Corporation Face imaging system for recordal and automated identity confirmation
US7677816B2 (en) * 2004-12-21 2010-03-16 Panasonic Corporation Camera terminal and imaged area adjusting device
US8029482B2 (en) * 2005-03-04 2011-10-04 C. R. Bard, Inc. Systems and methods for radiographically identifying an access port
JP2007207345A (ja) * 2006-02-01 2007-08-16 Sony Corp ディスク式撮像装置
US8849679B2 (en) * 2006-06-15 2014-09-30 Intouch Technologies, Inc. Remote controlled robot system that provides medical images
JP4954006B2 (ja) 2007-09-28 2012-06-13 三洋電機株式会社 クラック幅計測システム、操作装置、クラック幅計測方法、及びクラック幅計測プログラム
US9018985B2 (en) * 2010-08-04 2015-04-28 Rohm Co., Ltd. Power module and output circuit
JP5912627B2 (ja) * 2012-02-14 2016-04-27 川崎重工業株式会社 撮像検査装置ならびにその制御装置および制御方法
JP5936239B2 (ja) * 2014-08-19 2016-06-22 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 路面の劣化度合い推定方法およびアルゴリズム(多重解像度画像のガボール・フィルター出力画像を使用した、ひび割れ検出手法)
WO2016189896A1 (ja) * 2015-05-22 2016-12-01 富士フイルム株式会社 ロボット装置及びロボット装置の移動制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62105002A (ja) * 1985-11-01 1987-05-15 Nippon Telegr & Teleph Corp <Ntt> 光の中心位置の高精度計測方法
JP2000099740A (ja) * 1998-09-25 2000-04-07 Hideyoshi Tominaga 画像合成方法、画像入力装置、及び画像合成プログラムを記録した記録媒体
JP2001280960A (ja) * 2000-03-29 2001-10-10 Nkk Corp 遠隔計測方法及び装置
JP2012018073A (ja) * 2010-07-08 2012-01-26 Topy Ind Ltd 点検システム
US20150148955A1 (en) * 2013-11-26 2015-05-28 Elwha Llc Structural assessment, maintenance, and repair apparatuses and methods
CN104267043A (zh) * 2014-10-16 2015-01-07 东南大学 一种混凝土桥梁裂纹的移动检测装置

Also Published As

Publication number Publication date
WO2017002511A1 (ja) 2017-01-05
US20180106605A1 (en) 2018-04-19
US10365090B2 (en) 2019-07-30
CN107735643A (zh) 2018-02-23
JP2018107811A (ja) 2018-07-05
JP6284688B2 (ja) 2018-02-28
JP6450481B2 (ja) 2019-01-09
CN107735643B (zh) 2020-01-21

Similar Documents

Publication Publication Date Title
JP6450481B2 (ja) 撮像装置及び撮像方法
US10748269B2 (en) Structure member specification device and structure member specification method
JP6507268B2 (ja) 撮影支援装置及び撮影支援方法
US10762619B2 (en) Imaging support device and imaging support method
JP6445151B2 (ja) ロボット装置及びロボット装置の移動制御方法
JP6272567B2 (ja) 移動式撮像装置及び移動式撮像方法
JP5650942B2 (ja) 点検システムおよび点検方法
JP2019126032A (ja) 点検対象面点検用カメラ安定装置およびそれを具える点検対象面点検システム
JP2017227595A (ja) 損傷図作成支援システム及び損傷図作成支援方法
US11107240B2 (en) Self position estimation device, self position estimation method, program, and image processing device
US10742874B2 (en) Imaging plan generation device, imaging plan generation method, and program
WO2016189898A1 (ja) ロボット装置及びロボット装置の移動制御方法
JP6960319B2 (ja) 構造物の構成部材の位置調整方法
JP2020003295A (ja) 免震装置の検査システムおよび検査方法

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20171120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171127

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20171127

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20171227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180130

R150 Certificate of patent or registration of utility model

Ref document number: 6284688

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250