JP5819564B2 - 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム - Google Patents

画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム Download PDF

Info

Publication number
JP5819564B2
JP5819564B2 JP2015505223A JP2015505223A JP5819564B2 JP 5819564 B2 JP5819564 B2 JP 5819564B2 JP 2015505223 A JP2015505223 A JP 2015505223A JP 2015505223 A JP2015505223 A JP 2015505223A JP 5819564 B2 JP5819564 B2 JP 5819564B2
Authority
JP
Japan
Prior art keywords
image
captured
imaging device
shooting
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015505223A
Other languages
English (en)
Other versions
JPWO2014141522A1 (ja
Inventor
智紀 増田
智紀 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2015505223A priority Critical patent/JP5819564B2/ja
Application granted granted Critical
Publication of JP5819564B2 publication Critical patent/JP5819564B2/ja
Publication of JPWO2014141522A1 publication Critical patent/JPWO2014141522A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)

Description

本発明は、3次元計測に関する技術であり、特に複数の撮影画像から3次元計測に使用する画像ペアを判定する技術に関する。
測定対象物に対して相対的に撮影位置を移動させて、複数の撮影画像を撮像装置により取得し、複数の撮影画像より画像ペアを作り、3次元測定を行う方法がある(移動ステレオ法)。移動ステレオ法において、測定対象物が大きい場合は、一つの画像ペアだけでは、3次元測定を行うことが難しい場合がある。このように、大きい測定対象物を3次元計測する方法としては、複数の画像ペアを作成し、各々の画像ペアから作成される3次元データを合成して、一つの大きな3次元データを作成することにより、3次元計測を行う方法がある。
複数の撮影画像から複数の画像ペアを作成する場合、人間が画像ペアの把握をし、人間が把握した画像ペアの情報をソフトウェアで処理を行っていては、作業が煩雑であり、画像ペアの選択を誤る可能性が高くなる。
特許文献1には、複数のフレームからなる撮影画像について、撮影画像内の撮影対象物(本願の測定対象物と対応するものと考えられる)の特徴点を追跡し、特徴点の縦視差に基づいてステレオペア(本願の画像ペアと対応するものと考えられる)の正誤を判断する技術が記載されている。
又、特許文献2には、複数のフレームからなる撮影画像について、撮影画像内の撮影対象物の特徴点を追跡し、特徴点に対応する対応点の正誤判断をし、ステレオペアを選択する技術が記載されている。
又、特許文献3には、2画像間の光軸方位や水平方向の姿勢状態が相対的にずれないように、方位センサ、加速度センサから得た方位情報やカメラの姿勢情報を液晶パネルに表示してユーザの撮影を補助しつつ、CPUなどを介して撮像制御して、一対の画像を取得する技術が記載されている。
又、特許文献4には、被計測物を撮影するための撮像手段と、撮像手段によって被計測物が撮影された画像上の特徴点を指定するための第1の特徴点指定手段と、特徴点指定手段によって指定された被計測物上の特徴点までの距離を測距するための測距手段と、第1の撮影位置において被計測物が撮影された画像上の特徴点に対応する被計測物上の点を、撮像手段によって第2の撮影位置においてこの被計測物が撮影された画像上の特徴点として指定するための第2の特徴点指定手段と、第1の撮影位置及び第2の撮影位置において被計測物が撮影された画像上の各特徴点と測距手段によって各撮影位置において測距された各特徴点までの距離とから、第1の撮影位置と第2の撮影位置との相対的な位置と角度を求める演算手段と、を備えている3次元計測装置に関する技術が開示されている。
特開2009−014629号公報 特開2009−014628号公報 特開2012−124554号公報 特開2001−317915号公報
しかしながら、特許文献1及び2に記載されている技術では、複数の撮影画像内の撮影対象物の特徴点に基づいてステレオペアを選択する為、撮影対象物の特徴点の判断を誤ると、ステレオペアを誤判断するという問題がある。例えば、測定対象物が建築物の場合、窓等の同じ形状が連続すると、特徴点に対応する対応点の判断を誤る場合がある。
又、特許文献3及び4に記載されている技術では、複数の撮影画像内から一対の画像を選択することに関しては記載されてない。
本発明はこのような事情に鑑みてなされたもので、複数の撮影画像から、3次元計測に使用する画像ペアを的確に迅速に判定することができる画像判定装置、撮像装置、3次元計測装置、画像ペア判定方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、本発明の一の態様に係る画像判定装置は、複数の撮影画像から3次元計測に使用する画像ペアを判定する画像判定装置であって、複数の撮影画像から第1撮影画像を選択する第1撮影画像選択手段と、選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得手段と、第1撮影画像の撮影位置である第1撮影位置から第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得手段と、第1撮影画像の撮影における光軸上の位置であって、第1撮影位置から測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出手段と、複数の撮影画像から第2撮影画像を選択する第2撮影画像選択手段と、選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得手段と、取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、第2撮影画像に対応する撮影範囲を算出する撮影範囲算出手段と、算出した撮影範囲内に算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、第1撮影画像と第2撮影画像を画像ペアと判定する判定手段と、を備える。
これにより、複数の撮影画像から、3次元計測に使用する画像ペアを的確に及び迅速に判定することが可能である。
画像判定装置において、好ましくは、判定手段は、さらに、第1撮影位置での撮像装置と第2撮影位置での撮像装置との基線長Lを含む、下記[数1]で表される分解能ΔZの値が閾値以下の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定する。
ΔZ :分解能
Z :測定対象距離
f :焦点距離
p :撮影画像を取得した撮像装置における撮像素子の画素ピッチ
L :第1撮影位置での撮像装置と第2撮影位置での撮像装置との基線長
これにより、より3次元計測に適した分解能が高い画像ペアの判定を行うことができ、3次元計測の精度が増す。
画像判定装置において、好ましくは、判定手段は、さらに、第1撮影位置での撮像装置の光軸と、第1撮影位置の撮像装置と第2撮影位置での撮像装置とを結ぶ直線Cとが成す角度αと、第2撮影位置での撮像装置の光軸と直線Cとが成す角度βの各々が、45°以上135°以内の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定する。
これにより、第1撮影画像を撮影した撮像装置と第2撮影画像を撮影した撮像装置の配置が3次元計測を行う上で適切であり、より3次元計測に適した画像ペアを選択することができる。
画像判定装置において、好ましくは、判定手段は、さらに、測定対象位置と第2撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定する。
これにより、より第1撮影画像と第2撮影画像の重なりが大きい画像ペアを選択することが可能となり、より3次元計測に適した画像ペアを選択することができる。
画像判定装置において、好ましくは、第2撮影画像選択手段は、第1撮影位置での撮像装置と、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長Lxを含む、下記[数2]で表せる分解能ΔZの値が閾値以下である撮影画像を第2撮影画像として選択する。
ΔZ :分解能
Z :測定対象距離
f :焦点距離
p :撮影画像を取得した撮像装置における撮像素子の画素ピッチ
Lx :第1撮影位置での撮像装置と、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長
これにより、より3次元計測に適した分解能が高い画像ペアの判定を行うことができ、3次元計測の精度が増す。又、第2撮影画像選択部110が分解能ΔZの値が閾値以下の撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
画像判定装置において、好ましくは、第2撮影画像選択手段は、さらに、第1撮影位置での撮像装置の光軸と、第1撮影位置の撮像装置と複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置とを結ぶ直線とが成す角度αと、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸と直線が成す角度βの各々が45°以上135°以内である撮影画像を第2撮影画像として選択する。
これにより、第1撮影画像を撮影した撮像装置と第2撮影画像を撮影した撮像装置の配置が3次元計測を行う上で適切であり、より3次元計測に適した画像ペアを選択することができる。又、第2撮影画像選択部110が角度α及び角度βの値を考慮して撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
画像判定装置において、好ましくは、第2撮影画像選択手段は、さらに、測定対象位置と複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下となる撮影画像を第2撮影画像として選択する。
これにより、より第1撮影画像と第2撮影画像の重なりが大きい画像ペアを選択することが可能となり、より3次元計測に適した画像ペアを選択することができる。又、第2撮影画像選択部110が角度α及び角度βの値を考慮して撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
画像判定装置において、好ましくは、第1撮影画像選択手段は、複数の撮影画像のうちの任意の撮影画像を第1撮影画像として選択し、第2撮影画像選択手段は、複数の撮影画像から第1撮影画像以外の撮影画像のうちの任意の撮影画像を第2撮影画像として選択する。
これにより、複数の撮影画像において漏れなく画像ペアの判定を行うことができ、より多くの画像ペアを生成することが可能となり、より精度の高い3次元計測を行うことができる。
画像判定装置において、好ましくは、判定手段により判定された複数の画像ペアを記憶する記憶手段と、記憶手段に記憶された複数の画像ペアにおいて、画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も分解能ΔZが高いペアを分解能最適ペアと判定する分解能最適ペア判定手段と、をさらに備える。
これにより、最も分解能ΔZが高い画像ペアを選択することができ、より精度の高い3次元計測を行うことができる。
画像判定装置において、好ましくは、判定手段により判定された複数の画像ペアを記憶する記憶手段と、記憶手段に記憶された複数の画像ペアにおいて、画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も距離Sが短いペアを距離S最適ペアと判定する距離S最適ペア判定手段と、をさらに備える。
これにより、最も距離Sが短いペアを選択することができ、より精度の高い3次元計測を行うことができる。
画像判定装置において、好ましくは、記憶手段は、判定手段により判定された画像ペアを1つのファイルとして記憶する。
画像判定装置において、好ましくは、撮影範囲算出手段は、取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、第2撮影画像に対応する四角錐状の撮影範囲を算出する。
上記目的を達成するために、本発明の他の態様に係る撮像装置は、上述した画像判定装置を有する。
上記目的を達成するために、本発明の他の態様に係る3次元計測装置は、上述した画像判定装置により判定された画像ペアを使用する。
上記目的を達成するために、本発明の他の態様に係る画像判定装置は、複数の撮影画像から3次元計測に使用する画像ペアを判定する画像判定方法であって、複数の撮影画像から第1撮影画像を選択する第1撮影画像選択ステップと、選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得ステップと、第1撮影画像の撮影位置である第1撮影位置から第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得ステップと、第1撮影画像の撮影における光軸上の位置であって、第1撮影位置から測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出ステップと、複数の撮影画像から第2撮影画像を選択する第2撮影画像選択ステップと、選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得ステップと、取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、第2撮影画像に対応する四角錐状の撮影範囲を算出する撮影範囲算出ステップと、算出した撮影範囲内に算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、第1撮影画像と第2撮影画像とは画像ペアと判定する判定ステップと、を含む。
上記目的を達成するために、本発明の他の態様に係るプログラムは、複数の撮影画像から3次元計測に使用する画像ペアを判定するプログラムであって、複数の撮影画像から第1撮影画像を選択する第1撮影画像選択ステップと、選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得ステップと、第1撮影画像の撮影位置である第1撮影位置から第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得ステップと、第1撮影画像の撮影における光軸上の位置であって、第1撮影位置から測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出ステップと、複数の撮影画像から第2撮影画像を選択する第2撮影画像選択ステップと、選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得ステップと、取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、第2撮影画像に対応する四角錐状の撮影範囲を算出する撮影範囲算出ステップと、算出した撮影範囲内に算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、第1撮影画像と第2撮影画像とは画像ペアと判定する判定ステップと、をコンピュータに実行させる。
本発明によれば、複数の撮影画像から選択した第1撮影画像内の3次元空間上の測定対象位置が、複数の撮影画像から選択した第2撮影画像の撮影範囲に入っているか否かにより、第1撮影画像と第2撮影画像とが3次元計測に使用する画像ペアか否か判定するため、3次元計測に使用する画像ペアを的確に及び迅速に判定することができる。
図1はステレオ法による3次元計測を説明する図である。 図2は画像判定装置の機能ブロック図である。 図3は測定対象位置Eを説明する概念図である。 図4は第2撮影画像に対応する撮影範囲を説明する図である。 図5は画像判定装置の動作フローを説明する図である。 図6は複数の撮影画像を撮影する撮像装置の機能ブロック図である。 図7は画像判定装置の変形例1に関する動作フローを説明する図である。 図8は画像判定装置の変形例2に関する動作フローを説明する図である。 図9は角度α及び角度βに関して説明する図である。 図10は画像判定装置の変形例3に関する動作フローを説明する図である。 図11は画像判定装置の変形例4に関する動作フローを説明する図である。 図12は距離Sに関して説明する図である。 図13は画像判定装置の変形例5に関する動作フローを説明する図である。 図14は画像判定装置の変形例6に関する動作フローを説明する図である。 図15は画像判定装置の変形例7に関する動作フローを説明する図である。 図16は画像判定装置の変形例8に関する動作フローを説明する図である。 図17は複数の撮影画像を撮影する撮像装置の他の態様を示す図である。 図18は図17に示す撮像装置の構成を示すブロック図である。
以下、本発明の例を、図面を用いて説明する。尚、本願では「手段」という言葉と「部」という言葉は、同じ意味として使用している。
図1は、3次元計測における、移動ステレオ法を説明する図である。図1には、測定対象物1、位置1における撮像装置5、位置2における撮像装置7、位置3における撮像装置9、位置4における撮像装置11、位置5における撮像装置13、位置6における撮像装置15、位置7における撮像装置17、位置8における撮像装置19、位置9における撮像装置21、位置10における撮像装置23、位置11における撮像装置25、位置12における撮像装置27が示されている。
移動ステレオ法による3次元計測では、先ず、図1に示されるように単数又は複数の撮像装置により、測定対象物1に対して相対的に移動して複数の撮影画像が取得される。そして、図1に示されるペア1〜6のような位置関係にある撮像装置(例えば撮像装置5と7)で撮影された複数の撮影画像から、画像ペア(ステレオ画像ペア)を選択し、その画像ペアを基に3Dデータを作成し、測定対象物1の3次元計測が行われる。測定対象物1が大きい場合には、1対の画像ペアだけでは足りず、図1のように複数の画像ペアを取得して、各々の画像ペアから3次元(3D)データを合成して1つの大きな3次元データを作成し、測定対象物1の3次元計測を行う。
尚、測定対象物1に対する撮像装置の相対的な移動は、図1のように測定対象物1の回りを撮像装置が周状に移動する場合もあるし、測定対象物1に対して、直線的に移動する場合もある。又、単数の撮像装置により、複数の撮影画像を取得する場合もあるし、複数の撮像装置により、複数の撮影画像を取得する場合もある。
[判定装置の実施形態]
図2は本発明に係る画像判定装置100のブロック図である。画像判定装置100は、第1撮影画像選択部101、第1撮影画像情報取得部105、測定対象距離取得部120、測定対象位置算出部125、第2撮影画像選択部110、第2撮影画像情報取得部115、撮影範囲算出部130、及び判定部135を有している。尚、第1撮影画像情報取得部105と第1撮影画像情報取得手段とは同じ意味であり、第2撮影画像情報取得部115と第2撮影画像情報取得手段とは同じ意味である。
図2に示された第1撮影画像選択部101は、撮影画像記憶部140に記憶された複数の撮影画像から1枚の撮影画像を選択し、その撮影画像を第1撮影画像とする。複数の撮影画像から第1撮影画像を選択する方法は、特に定められることはない。例えば、無作為に、複数の撮影画像から第1撮影画像を選択してもよいし、撮影された日時によって順番を決めて、複数の撮影画像から第1撮影画像を選択してもよい。尚、図2においては、撮影画像記憶部140は画像判定装置100外に設置されていが、これに限定されることはない。例えば、画像判定装置100が撮影画像記憶部140を有していてもよい。
図2に示された第2撮影画像選択部110は、撮影画像記憶部140に記憶された複数の撮影画像から1枚の撮影画像を選択し、その撮影画像を第2撮影画像とする。第1撮影画像選択部101と同様に、複数の撮影画像から第2撮影画像を選択する方法は、特に限定されることはない。又、第1撮影画像選択部101と同様に様々な選択方法を採用することができる。尚、第1撮影画像として選択された撮影画像を、同時に第2撮影画像として選択することはできない。しかし、一度、第1撮影画像又は第2撮影画像に選択された画像であっても、改めて第2撮影画像として選択することができる。すなわち、第1撮影画像選択部101は、複数の撮影画像のうちの任意の撮影画像を第1撮影画像として選択し、第2撮影画像選択部110は、複数の撮影画像から第1撮影画像以外の撮影画像のうちの任意の撮影画像を第2撮影画像として選択することができる。
図2に示された第1撮影画像情報取得部105は、第1撮影画像の撮影位置及び撮影方向に関する情報を取得する。ここで、第1撮影画像の撮影位置とは、第1撮影画像が撮影における、第1撮影画像を撮影した撮像装置の位置のことをいう。第1撮影画像の3次元空間上の撮影位置は、主にGPS(Global Positioning System)により測位される緯度、経度、高度に基づいて取得することができる。又、第1撮影画像の撮影方向とは、第1撮影画像を撮影した際の撮像装置の向いている方向を指し、主に光軸の向きを意味する。第1撮影画像の撮影方向(撮像装置の光軸)の向きは、電子コンパス及びジャイロセンサで特定することがきる。電子コンパスは、3次元空間でのXY平面の方向(パン方向)を特定することでき、ジャイロセンサは、Z軸方向の傾き(チルト方向)を特定することができる。尚、電子コンパス及びジャイロセンサと同様の機能を有するものであれば、他の測定機器を使用することができる。
図2に示された第1撮影画像情報取得部105は、様々な態様により、第1撮影画像の撮影位置及び撮影方向に関する情報を取得することができる。一つの例として、第1撮影画像に第1撮影画像の撮影位置及び撮影方向に関する情報が添付されており、第1撮影画像情報取得部105は、第1撮影画像に添付されている第1撮影画像の撮影位置及び撮影方向に関する情報を取得する態様が挙げられる。又、他の例として、第1撮影画像情報取得部105は、第1撮影画像と紐付けされている第1撮影画像の撮影位置及び撮影方向に関する情報を、第1撮影画像とは別に取得してもよく、例えば画像判定装置の外部から、第1撮影画像の撮影位置及び撮影方向に関する情報を取得してもよい。
図2に示された第2撮影画像情報取得部115は、第1撮影画像情報取得部105と同様の態様で、第2撮影画像の撮影位置である第2撮影位置及び第2撮影画像の撮像装置の撮影方向に関する情報を取得する。さらに、第2撮影画像情報取得部115は、第2撮影画像を撮影した際の画角の情報を取得する。
図2に示された第2撮影画像情報取得部115は、様々な態様により、第2撮影画像を撮影した際の第2撮影位置、撮影方向、及び画角の情報を取得する。一つの例として、第2撮影画像に第2撮影画像を撮影した際の第2撮影位置、撮影方向、及びの画角の情報が添付されており、第2撮影画像情報取得部115は、第2撮影画像に添付されている第2撮影画像を撮影した際の第2撮影位置、撮影方向、及び画角の情報を取得する態様が挙げられる。又、他の例として、第2撮影画像情報取得部115は、第2撮影画像と紐付けされている第2撮影画像を撮影した際の第2撮影位置、撮影方向、及び画角の情報を、第2撮影画像とは別に取得してもよく、例えば画像判定装置の外部から、第2撮影画像を撮影した際の画角の情報を取得してもよい。尚、図2の説明では、第1撮影画像選択部101、第2撮影画像選択部110、第1撮影画像情報取得部105、第2撮影画像情報取得部115に関して別々に説明を行ったが、1つの処理回路により順次各部での処理を行うようにしてもよい。
図2に示された測定対象距離取得部120は、第1撮影画像の撮影位置から第1撮影画像内の測定対象物1までの測定対象距離を取得する。ここでいう、測定対象距離とは、第1撮影画像の撮影位置である第1撮影位置から撮影位置測定対象の概算的な距離をいう。測定対象距離は、様々の方法により求めることができる。例えば、レーザー照射によるレンジファインダー等により、測定対象距離を求めることもできるし、マニュアルフォーカス(MF)やオートフォーカス(AF)により測定対象距離を求めることができる。又、予め第1撮影位置から測定対象物1との距離が既知の場合は、その値を測定対象距離として使用することが可能である。
図2に示された測定対象位置算出部125は、第1撮影画像の撮影における光軸上の位置であって、第1撮影画像の撮影位置である第1撮影位置から取得した測定対象距離だけ離れた3次元空間上の測定対象位置Eを算出する。図3において、測定対象位置Eを算出の仕方に関して詳しく説明する。
図3では、第1撮影画像を撮影する第1撮影位置における撮像装置31が示されている。又、第2撮影画像を撮影する第2撮影位置における撮像装置33が示されている。撮像装置31の撮影における光軸が直線Aで、及び撮像装置33の撮影における光軸が直線Bで示されている。撮像装置31と撮像装置33とを結ぶ直線が直線Cで表されている。又、第2撮影画像を撮影する第2撮影位置における撮像装置33の撮影画角(撮影範囲)が、点線で示されている。そして、測定対象位置算出部125は、撮像装置31の撮影における光軸である直線A上であって、測定対象距離分だけ第1撮影位置から離れた位置E(符号35)を測定対象位置Eとして算出する。測定対象位置E(符号35)は、3次元空間上の位置として特定され、XYZの座標として特定されてもよい。
図2に示された撮影範囲算出部130は、第2撮影画像情報取得部115により取得した第2撮影画像の撮影位置、撮影方向、画角(焦点距離と撮像素子の大きさによって算出される)に基づいて、第2撮影画像に対応する撮影範囲を算出する。図4において、詳しく撮影範囲算出部130の第2撮影画像に対応する撮影範囲の算出の仕方を説明する。
図4では、第2撮影画像を撮影した撮像装置33と、第2撮影画像39と、第2撮影画像39に対応する四角錐状の撮影範囲37とが示されている。撮影範囲37は、知られている様々な計算方法により求めることができる。例えば、第2撮影画像39を撮影における第2撮影位置における撮像装置33の光軸(図3中の直線B)、第2撮影画像39を撮影における画角から求めることができる。尚、算出される撮影範囲37は、四角錐状に限定されることはなく様々な形状であってもよい。
図2に示された判定部135は、算出した撮影範囲37内に算出した測定対象位置Eが入っているか否かを判別し、判別した結果に基づいて、第1撮影画像と第2撮影画像が画像ペアであるか否かを判定する。具体的には、先ず、図3で説明を行った測定対象位置Eが、図4で説明を行った第2撮影画像39に対応する撮影範囲37内に入っているか(存在するか)を判別する。そして、測定対象位置Eが第2撮影画像39に対応する撮影範囲37内に入っている場合には、第1撮影画像と第2撮影画像とは、3次元計測に使用する画像ペアであると判定する。一方、測定対象位置Eが第2撮影画像39に対応する撮影範囲37内に入っていない場合には、第1撮影画像と第2撮影画像とは、3次元計測に使用する画像ペアでないと判定する。図3にて説明を行ったように、測定対象位置Eは、3次元空間の位置(例えば、XYZの空間座標)で特定される。又、図4で説明を行ったように第2撮影画像39に対応する撮影範囲37の空間領域を求めることができる。したがって、判定部135は、測定対象位置Eが第2撮影画像39に対応する撮影範囲37に入っているか否かを判別することができる。
図5には、画像判定装置100の動作フロー図である。画像判定装置100の動作を図5に沿って説明する。先ず、第1撮影画像選択部101により、撮影画像記憶部140に記憶されている複数の撮影画像から第1撮影画像が選択され(第1撮影画像選択ステップ)、第2撮影画像選択部110により、撮影画像記憶部140に記憶されている複数の撮影画像から第2撮影画像が選択される(第2撮影画像選択ステップ)(ステップS10)。
そして、第1撮影画像情報取得部105により、第1撮影画像の第1撮影位置及び撮影方向が取得され(第1撮影画像情報取得ステップ)、第2撮影画像情報取得部115により、第2撮影画像の第2撮影位置、撮影方向、及び画角が取得される(第2撮影画像情報取得ステップ)(ステップS15)。さらに、測定対象距離取得部120により、第1撮影位置と測定対象物1との距離である測定対象距離が取得される(測定対象距離取得ステップ)(ステップS25)。
次に、第1撮影画像の撮影における光軸上の位置であって、第1撮影位置から測定対象距離だけ離れた3次元空間上の測定対象位置Eが取得(算出)される(測定対象位置算出ステップ)(ステップS30)。そして、撮影範囲算出部130により、第2撮影画像の撮影位置、撮影方向、画角に基づいて、撮影範囲が取得(算出)される(撮影範囲算出ステップ)(ステップS35)。
次に、判定部135により、算出された撮影範囲内に算出された測定対象位置Eが入っているか否かを判別する(判定ステップ)(ステップS40)。判定部135により、撮影範囲に測定対象位置Eが入っていると判別された場合は、第1撮影画像と第2撮影画像とは画像ペアであると判定され(ステップS45)、画像判定装置100の一つの動作フローは終了となる。一方、撮影範囲に測定対象位置Eが入っていないと判断された場合には、第1撮影画像又は第2撮影画像を別の撮影画像に変更されるように、第1撮影画像選択部101又は第2撮影画像選択部110が制御される(ステップS50)。
本発明の画像判定装置の態様を採用することにより、測定対象位置Eが第2撮影画像に対応する撮影範囲に入っているかを検証する為、3次元計測に使用する画像ペアを的確に及び迅速に判定することが可能である。
[撮影画像を取得する撮像装置]
画像判定装置100における第1撮影画像選択部101及び第2撮影画像選択部110により、複数の撮影画像から、第1撮影画像及び第2撮影画像が選択される。複数の撮影画像は、様々な撮像装置によって取得することが可能である。本発明の画像判定装置100により、3次元計測を行うことが可能であれば、どのような撮像装置で取得された撮影画像であっても使用可能である。
図6には、本発明の画像判定装置100に使用可能な撮影画像を取得することができる撮像装置の例を示す。
図6に示された撮像装置210は、撮像した画像を内部メモリ(メモリ部226)、又は外部の記録メディア(図示せず)に記録するデジタルカメラであり、装置全体の動作は、中央処理装置(CPU)212によって統括制御される。
撮像装置210には、シャッタボタン(シャッタースイッチ)、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、ズームボタン、BACKキー等を含む操作部214が設けられている。この操作部214からの信号はCPU212に入力され、CPU212は入力信号に基づいて撮像装置210の各回路を制御する。例えば、CPU212はデバイス制御部216を介してレンズ部218、シャッタ220、撮像素子222を制御するとともに、撮影動作(露光開始から露光完了まで)制御、画像処理制御、画像データの記録/再生制御、表示部225の表示制御などを行う。
レンズ部218は、フォーカスレンズ、ズームレンズ、絞り等を含み、レンズ部218及びシャッタ220を通過した光束は、撮像素子222の受光面に結像される。
撮像素子222は、CMOS(Complementary Metal−Oxide Semiconductor)型、XYアドレス型、又はCCD(Charge Coupled Device)型のカラーイメージセンサであり、多数の受光素子(フォトダイオード)が2次元配列されている。各受光素子の受光面に結像された被写体像は、その入射光量に応じた信号電圧(又は電荷)に変換される。
撮像素子222に蓄積された信号電荷は、デバイス制御部216から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。撮像素子222から読み出された電圧信号は、A/D変換器224に加えられ、ここで、順次カラーフィルタ配列に対応するデジタルのR、G、B信号に変換され、一旦、メモリ部226に保存される。
メモリ部226は、揮発性メモリであるSDRAMや、書き換え可能な不揮発性メモリであるEEPROM等を含み、SDRAMは、CPU212によるプログラムの実行時におけるワークエリアとして、また、撮像され取得されたデジタル画像信号を一時保持する記憶エリアとして使用される。一方、EEPROMには、本発明に係る画像処理プログラムを含むカメラ制御プログラム、撮像素子222の画素の欠陥情報、画像処理等に使用する各種のパラメータやテーブル等が記憶されている。
画像処理部228は、メモリ部226に一旦格納されたデジタルの画像信号に対して、本発明に係るキズ補正処理、ホワイトバランス補正、ガンマ補正処理、デモザイキング処理、YC処理等の所定の信号処理を行う。尚、撮像素子222の欠陥画素(キズ画素)に対するキズ補正処理の詳細については後述する。
画像処理部228で処理された画像データは、エンコーダ230において画像表示用のデータにエンコーディングされ、ドライバ232を介してカメラ背面に設けられている表示部225に出力される。これにより、被写体像が連続的に表示部225の表示画面上に表示される。
操作部214のシャッタボタンの第1段階の押下(半押し)があると、CPU212は、AF動作及びAE動作を開始させ、デバイス制御部216を介してレンズ部218のフォーカスレンズを光軸方向に移動させ、フォーカスレンズが合焦位置にくるように制御する。
CPU212は、シャッタボタンの半押し時にA/D変換器224から出力される画像データに基づいて被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値により露出条件(F値、シャッタ速度)を決定する。
AE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、決定した露出条件により絞り、シャッタ220及び撮像素子222での電荷蓄積時間を制御して本撮像が行われる。本撮像時に撮像素子222から読み出され、A/D変換器224によりA/D変換されたRGBのモザイク画像の画像データは、メモリ部226一時的に記憶される。
メモリ部226に一時的に記憶された画像データは、画像処理部228により適宜読み出され、ここでキズ補正処理、ホワイトバランス補正、ガンマ補正処理、デモザイキング処理、YC処理等を含む所定の信号処理が行われる。YC処理された画像データ(YCデータ)は、所定の圧縮フォーマット(例えば、JPEG方式)に従って圧縮され、圧縮された画像データは、所定の画像ファイル(例えば、Exifファイル)形式で内部メモリや外部メモリに記録される。
撮像装置210は、GPS242を有する。GPS242は、CPU212により制御され、撮像装置210の位置(撮影位置)を得ることができる。具体的には、撮像装置210が測定対象物1の撮影における撮影位置に関する情報をGPS242により得ることができる。又、撮影位置に関する情報を取得することができれば、撮像装置210がGPSを有することには限定されない。
撮像装置210は、ジャイロセンサ244(ジャイロスコープ)を有する。ジャイロセンサ244は、CPU212により制御され、撮像装置210の撮影方向(チルト方向)を特定する。尚、撮像装置210の撮影方向(チルト方向)に関する情報を取得することができれば、撮像装置210がジャイロセンサを有することには限定されない。
撮像装置210は、電子コンパス246を有する。電子コンパス246は、CPU212により制御され、撮像装置210の撮影方向(パン方向)の向きを特定する。尚、撮像装置210の撮影方向(パン方向)の向きを特定することができれば、撮像装置210が電子コンパス246を有することに限定はされない。
図6では、本発明の画像判定装置100に使用可能な撮影画像を取得する撮像装置として説明をしてきが、撮像装置が本発明の画像判定装置100を有する実施形態もある。すなわち、他の実施形態として、画像判定装置100を有する撮像装置が挙げられる。又、画像判定装置100はコンピュータに備えられ、撮像装置で撮影された複数の撮影画像がコンピュータに取り込まれて、コンピュータ内にある画像判定装置100が画像判定の処理を行ってもよい。
[画像判定装置の変形例1]
画像判定装置100は、判定部135において、さらに、第1撮影位置での撮像装置と第2撮影位置での撮像装置との基線長Lを含む、下記[数1]で表される分解能ΔZの値が閾値以下の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定してもよい。
ここで、ΔZとは分解能を表し、Zは測定対象距離取得部120に取得される第1撮影位置と測定対象物1との距離である。fは焦点距離である。pは、第1撮影画像を取得した撮像装置の撮像素子の画素ピッチである。Lは、第1撮影位置での撮像装置と第2撮影位置での撮像装置との基線長をあらわす。焦点距離fや撮像素子の画素ピッチpの取得方法は特に限定されない。すなわち、第1撮影画像に焦点距離fや撮像素子の画素ピッチpに関する情報が付されおり、判定部135はその情報を取得してもよいし、別途画像判定装置100に焦点距離fや画素ピッチpの値を入力してもよい。尚、本説明では第1撮影位置での撮像装置と第2撮影位置での撮像装置との間の距離を、基線長として設定するが、これに限定されるものではなく、第1撮影位置での撮像装置と第2撮影位置での撮像装置との間の距離を示す情報であれば様々な形態の情報を採用することができる。
図7は、画像判定装置100の変形例1に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図7に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図7に記載された動作フロー図では、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っている否かの判断(ステップS40)が行われた後に、分解能ΔZが取得される(ステップS42)及び分解能ΔZは閾値以下であるか否かの判断がおこなわれている(ステップS43)点で異なる。
図7で示されたフロー図では、判定部135によって、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かが判断され(ステップS40)、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っていると判断された場合には、次に第1撮影画像と第2撮影画像との分解能ΔZが取得される(ステップS42)。そして、判定部135により、取得された分解能ΔZが閾値以下であるか否かの判定が行われる(ステップS43)。尚、閾値は撮影環境や、3次元計測に関する影響によって決定されればよく、特に限定されるものではない。測定対象距離に対して1%程度の分解能ΔZであれば3次元形状としてほぼ問題のないレベルで生成できることが確認されている。したがって、10m先にある対象物であれば、必要な分解能は0.1m程度となる。
そして、判定部135により第1撮影画像と第2撮影画像との分解能が閾値以下と判断されると、判定部135は第1撮影画像と第2撮影画像を画像ペアとして判定する。
画像判定装置100の変形例1の態様を採用することにより、画像ペアの判定する基準に分解能が追加され、より正確な3次元計測を行うことができる画像ペアが選択される。
尚、分解能ΔZの取得(ステップS42)及び分解能ΔZが閾値よりも大きいか否かの判断(ステップS43)は、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かの判断(ステップS40)の前に行われてもよい。
[画像判定装置の変形例2]
画像判定装置100において、第2撮影画像選択部110は、第1撮影位置での撮像装置と、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長Lxを含む、下記[数2]で表せる分解能ΔZの値が閾値以下である撮影画像を第2撮影画像として選択してもよい。
ここで、ΔZとは分解能を表し、Zは測定対象距離取得部120に取得される第1撮影位置と測定対象物1との距離である。fは焦点距離である。pは、第1撮影画像を取得した撮像装置の撮像素子の画素ピッチである。Lxは、第1撮影位置での撮像装置と、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長をあらわす。焦点距離fや撮像素子の画素ピッチpの取得方法は特に限定されない。すなわち、第1撮影画像に焦点距離fや撮像素子の画素ピッチpに関する情報が付されおり、判定部135はその情報を取得してもよいし、別途、画像判定装置100に焦点距離fや画素ピッチpの値を入力してもよい。尚、本説明では第1撮影位置での撮像装置と複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との間の距離を、基線長として設定するが、これに限定されるものではなく、第1撮影位置での撮像装置と複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との間の距離を示す情報であれば様々な形態の情報を採用することができる。
図8は、画像判定装置100の変形例2に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図8に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図5に記載された動作フロー図では、分解能ΔZが取得される(ステップS42)、分解能ΔZは閾値以下であるかの判断がおこなわれている(ステップS43)、及び分解能ΔZが閾値以下でないと判断された場合に1つの撮影が別の撮影画像に変更される(ステップS51)点で異なる。又、画像判定装置100の変形例2では、第2撮影画像選択部110は、分解能ΔZが閾値以下であると判断した(ステップS28)後に、第2撮影画像を決定する点で、図2で示された画像判定装置100とは異なる。すなわち、画像判定装置100の変形例2では、第2撮影画像選択部110は、測定対象距離部から測定対象距離の情報を取得し、分解能ΔZを算出し、分解能ΔZが閾値以下であるかを判断して、選択した1つの撮影画像が第2撮影画像であると決定する。
図8で示されるフロー図では、測定対象距離が取得された(ステップS26)後に、第2撮影画像選択部110により、分解能ΔZが取得される(ステップS27)。そして、第2撮影画像選択部110により、分解能ΔZが閾値以下であるか否かの判定が行われる(ステップS28)。分解能ΔZが閾値以下であると判断された場合は、第2画像選択部は、選択した1つの撮影画像を第2撮影画像と判断する。そして、測定対象位置取得部により、測定対象位置Eが取得される(ステップS30)。一方、第2撮影画像部により、分解能ΔZが閾値以下でないと判断された場合には、1つの撮影画像が別の撮影画像に変更される(ステップS51)。尚、閾値は撮影環境や、3次元計測に関する影響によって決定されればよく、特に限定されるものではない。測定対象距離に対して1%程度の分解能であれば3次元形状としてほぼ問題のないレベルで生成できることが確認されている。したがって、10m先にある対象物であれば、必要な分解能は0.1m程度となる。
画像判定装置100の変形例2の態様を採用することにより、画像ペアの判定する基準に分解能が追加され、より正確な3次元計測を行うことができる画像ペアが選択される。又、第2撮影画像選択部110が分解能ΔZの値が閾値以下の撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
[画像判定装置の変形例3]
画像判定装置100において、判定部135は、さらに、第1撮影位置での撮像装置の光軸と、第1撮影位置の撮像装置と第2撮影位置での撮像装置とを結ぶ直線Cとが成す角度αと、第2撮影位置での撮像装置の光軸と直線Cとが成す角度βの各々が、45°以上135°以内の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定してもよい。
図9において、角度α及び角度βについて説明する。図9では、第1撮影画像を撮影する第1撮影位置における撮像装置31、第2撮影画像を撮影する第2撮影位置における撮像装置33が示されている。又、撮像装置31の撮影における光軸が直線Aで、及び撮像装置33の撮影における光軸が直線Bで示されている。撮像装置31と撮像装置33とを結ぶ直線が直線Cで表されている。そして、直線Aと直線Cとが成す角をα、直線Bと直線Cとが成す角をβとして表されている。
図9の(A)部分では、適切な撮像装置31と撮像装置33の位置関係を示している。すなわち、角度α及び角度βが45°以上135°以内の範囲にあり、撮像装置31で撮影した撮影画像と撮像装置33で撮影した撮影画像は、3次元計測を行う上で適した画像ペアとなる。尚、角度αと角度βの範囲は、3次元計測を行う上で適した画像ペアを取得することができればよく、特に限定されない。例えば、角度αと角度βは、60°以上120°以内の範囲にあってもよい。
図9の(B)部分及び(C)部分では、不適切な撮像装置31と撮像装置33の位置関係を示している。図9の(B)部分では、角度α及び角度βが45°以下であり、撮像装置31と撮像装置33は不適切な位置関係である。又、図9の(C)部分では、角度αは135°よりも大きく、角度βは45°よりも小さく、撮像装置31と撮像装置33は、不適切な位置関係である。撮像装置31と撮像装置33が不適切な位置にある場合、撮像装置31と撮像装置33で取得された撮影画像により画像ペアを作成し、3次元計測を行おうとすると正確な3次元計測が行えない場合がある。
図10は、画像判定装置100の変形例3に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図10に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図10に記載された動作フロー図では、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っている否かの判断(ステップS40)が行われた後に、直線Aと直線Cとの成す角度αと直線Bと直線Cとの成す角度βが算出される点(ステップS52)、及び角度α及び角度βが45°以上135°以内であるか否かの判断を行っている(ステップS53)点において異なる。
図10に示されたフロー図では、判定部135によって、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かが判断され(ステップS40)、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っていると判断された場合、直線Aと直線Cとの成す角度αと直線Bと直線Cとの成す角度βが算出される(ステップS52)。そして、判定部135により、角度α及び角度βが45°以上135°以内であるか否かの判断(ステップS53)が行われる。角度α及び角度βが45°以上135°以内である場合には、第1撮影画像と第2撮影画像とは画像ペアであると、判定部135により判定される(ステップS45)。一方、角度α及び角度βが45°以上135°以内でない場合には、第1又は第2撮影画像が別の撮影画像に変更される(ステップS50)。尚、直線Aと直線Cとの成す角度αと直線Bと直線Cとの成す角度βの算出(ステップS52)及び角度α及び角度βが45°以上135°以内であるか否かの判断(ステップS53)は、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かの判断(ステップS40)の前に行われてもよい。
画像判定装置100の変形例3の態様を採用することにより、画像ペアの判定する基準に角度α及び角度βが追加され、より正確な3次元計測を行うことができる画像ペアが選択される。
[画像判定装置の変形例4]
画像判定装置100において、第2撮影画像選択部110は、さらに、第1撮影位置での撮像装置の光軸と、第1撮影位置の撮像装置と複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置とを結ぶ直線とが成す角度αと、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸と直線が成す角度βの各々が45°以上135°以内である撮影画像を第2撮影画像として選択してもよい。
すなわち、画像判定装置100の変形例4における第2撮影画像選択部110は、1つの撮影画像を選択し、第1撮影画像と1つの撮影画像とに関する角度αと角度βを取得し、角度αと角度βが45°以上135°以内である場合に、1つの撮影画像を第2撮影画像と決定する。尚、画像判定装置100の変形例4の場合は、図9の説明で撮像装置33は、1つの撮影画像を撮影する撮像装置と考える。
図11は、画像判定装置100の変形例4に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図11に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図11に記載された動作フロー図では、直線Aと直線Cとの成す角度αと直線Bと直線Cとの成す角度βの算出(ステップS52)及び角度α及び角度βが45°以上135°以内であるか否かの判断(ステップS53)、及び角度α及び角度βが45°以上135°以内でない場合に1つの撮影が別の撮影画像に変更される(ステップS51)点で異なる。又、画像判定装置100の変形例4では、第2撮影画像選択部110は、角度α及び角度βが45°以上135°以内であるか否かを判断(ステップS53)した後に、第2撮影画像を決定する点で、図2に示された画像判定装置100とは異なる。
図11は、画像判定装置100の変形例4の動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図11に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図11に記載された動作フロー図では、直線Aと直線Cとの成す角度αと直線Bと直線Cとの成す角度βが算出される点(ステップS55)、角度α及び角度βが45°以上135°以内であるか否かの判断を行っている(ステップS56)点において異なる。又、角度α及び角度βが45°以上135°以内でない場合は、1つの撮影画像が別の撮影画像に変更される(ステップS51)点も図5に記載された動作フロー図とは異なる。
画像判定装置100の変形例4では、第2撮影画像選択部110は、角度α及び角度βが45°以上135°以内であると判断した(ステップS56)後に、第2撮影画像を決定する点で、図2に示された画像判定装置100とは異なる。すなわち、画像判定装置100の変形例4では、第2撮影画像選択部110は、測定対象距離取得部120から第1撮影画像に関する情報を取得し、角度α及び角度βを算出し、角度α及び角度βが45°以上135°以内であると判断して、選択した1つの撮影画像が第2撮影画像であると決定する。
図11で示されるフロー図では、第2撮影画像選択部110により、直線Aと直線Bとが成す角度αと直線Bと直線Cとが成す角度βとが算出される(ステップS55)。そして、第2撮影画像選択部110により、角度α及び角度βが45°以上135°以内であるか否かが判断される。角度α及び角度βが45°以上135°以内であると判断された場合は、第2画像選択部は、選択した1つの撮影画像を第2撮影画像と判断する。そして、測定対象位置算出部125により、測定対象位置Eが取得される(ステップS30)。一方、第2撮影画像選択部110により、角度α及び角度βが45°以上135°以内でないと判断された場合は、1つの撮影画像が別の撮影画像に変更される(ステップS51)。
画像判定装置100の変形例4の態様を採用することにより、画像ペアの判定する基準に角度αと角度βが追加され、より正確な3次元計測を行うことができる画像ペアが選択される。又、第2撮影画像選択部110が角度α及び角度βを考慮して第2撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
[画像判定装置の変形例5]
画像判定装置100において、判定部135は、さらに、測定対象位置Eと第2撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下の場合は、第1撮影画像と第2撮影画像とを画像ペアと判定してもよい。図12において、距離Sについて説明する。
図12の(A)部分では、第1撮影画像を撮影する第1撮影位置における撮像装置31が示されている。又、第2撮影画像を撮影する第2撮影位置における撮像装置33が示されている。撮像装置31の撮影における光軸が直線Aで、及び撮像装置33の撮影における光軸が直線Bで示されている。撮像装置31と撮像装置33とを結ぶ直線が直線Cで表されている。又、測定対象位置はEで表されている。
図12の(B)部分では、図12の(A)部分の点線部分の拡大図を示している。又、直線Bと測定対象位置Eとの距離Sを示している。距離Sが短いほど、第1撮影画像と第2撮影画像の重なりが大きくなり、3次元計測における画像ペアとして適したものとなる。距離Sの閾値としては、特に限定されるものではなく、測定対象物の大きさや、撮影画像を取得する撮像装置の性能、3次元計測における精度等によって様々な値を採用することができる。例えば、距離Sが5m以下、好ましくは3m以下、さらに好ましくは1m以下であれば、測定対象物が建築物等の大きなものであっても良好な精度の3次元計測を行える画像ペアを選択することができる。又、距離Sが100cm以下、好ましくは80cm以下、さらに好ましくは50cm以下であれば、高い精度が求められた3次元計測を行える画像ペアを選択することができる。
図13は、画像判定装置100の変形例5に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図13に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図13に記載された動作フロー図では、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っている否かの判断(ステップS40)が行われた後に、測定対象位置Eと直線Bとの距離Sが算出される(ステップS60)と、距離Sが閾値以下であるか否かの判断(ステップS61)が行われている点で異なる。
図13に示されたフロー図では、判定部135によって、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かが判断され(ステップS40)、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っていると判断された場合、測定対象位置Eと直線Bとの距離Sが算出される(ステップS60)。そして、判定部135により、距離Sが閾値以下であるか否かの判断(ステップS61)が行われる。距離Sが閾値以下である場合には、第1撮影画像と第2撮影画像とは画像ペアであると、判定部135により判定される(ステップS45)。一方、距離Sが閾値以下である場合には、第1又は第2撮影画像が別の撮影画像に変更される(ステップS50)。尚、測定対象位置Eと直線Bとの距離Sの算出(ステップS60)及び距離Sが閾値以下であるか否かの判断(ステップS61)は、第2撮影画像に対応する撮影範囲に測定対象位置Eが入っているか否かの判断(ステップS40)の前に行われてもよい。
画像判定装置100の変形例5の態様を採用することにより、画像ペアの判定する基準に距離Sが追加され、より正確な3次元計測を行うことができる画像ペアが選択される。
[画像判定装置の変形例6]
画像判定装置100において、第2撮影画像選択部110は、さらに、測定対象位置Eと複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下となる撮影画像を第2撮影画像として選択してもよい。
すなわち、画像判定装置100の変形例6における第2撮影画像選択部110は、測定対象位置Eと直線Bとの距離Sを算出し、距離Sが閾値以下である場合に、1つの撮影画像を第2撮影画像と決定する。尚、画像判定装置100の変形例6の場合は、図12の説明で撮像装置33は、1つの撮影画像を撮影する撮像装置と考える。
図14は、画像判定装置100の変形例6に関する動作フロー図である。図5の動作フロー図と同様である箇所は、同じ符号を付し説明は省略する。図14に記載された動作フロー図と図5に記載された動作フロー図を比較すると、図14に記載された動作フロー図では、測定対象位置Eと直線Bとの距離Sが算出される(ステップS63)、距離Sが閾値以下であるか否かの判断(ステップS64)が行われる、及び距離Sが閾値より大きい場合に1つの撮影が別の撮影画像に変更される(ステップS51)点で異なる。又距離Sが閾値以下であるか否かの判断(ステップS64)した後に、第2撮影画像を決定する点で、図2に示された画像判定装置100とは異なる。
画像判定装置100の変形例6では、第2撮影画像選択部110は、距離Sが閾値以下である否かを判断(ステップS64)した後に、第2撮影画像を決定する点で、図2に示された画像判定装置100とは異なる。すなわち、画像判定装置100の変形例6では、第2撮影画像選択部110は、測定対象位置Eに関する情報を測定対象位置算出部125から取得し、距離Sは閾値以下であると判断して、選択した1つの撮影画像が第2撮影画像であると決定する。
図14で示されるフロー図では、測定対象位置Eが取得された(ステップS30)後に、第2撮影画像選択部110により、測定対象位置Eと直線Bとの距離Sが算出される(ステップS63)。そして、第2撮影画像選択部110により、距離Sが閾値以下であるか否かが判断(ステップS64)される。距離Sが閾値以下であると判断された場合は、第2画像選択部は、選択した1つの撮影画像を第2撮影画像と判断する。そして、撮影範囲算出部130により、第2撮影画像に対応する撮影範囲が取得される。一方、第2撮影画像部により、距離Sが閾値以下であると判断された場合は、1つの撮影画像が別の撮影画像に変更される(ステップS51)。
画像判定装置100の変形例6の態様を採用することにより、画像ペアの判定する基準に距離Sが追加され、より正確な3次元計測を行うことができる画像ペアが選択される。又、第2撮影画像選択部110が距離Sを考慮して第2撮影画像を選択する為、第2撮影画像が選択された後の余分な計算が軽減される。
[画像判定装置の変形例7]
画像判定装置100において、判定部135により判定された複数の画像ペアを記憶する記憶部が備えられてもよい。さらに、記憶部に記憶された複数の画像ペアにおいて、画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も分解能ΔZが高いペアを分解能最適ペアと判定する分解能最適ペア判定部を備えていてもよい。
図15には、図7に記載された画像判定装置100の動作フローと同様にして画像ペアを選択し、その後に、画像ペアが記憶部(画像ペア記憶部)に記憶され(ステップS101)、第1撮影画像が同一であるペア群の中から分解能ΔZが最も高い画像ペアが選択されている(ステップS105)。
画像ペアが記憶される記憶部は、画像判定装置100内に備えられている。しかし、これに限定されるものでは無く、記憶部は、画像判定装置100外に備えられていてもよい。又、記憶部は、判定部135により判定された画像ペアを1つのファイルとして記憶することが好ましい。例えば、マルチピクチャフォーマットとして記録することが好ましいが、これに限られるものではない。又、画像ペアと共に、測定対象距離や第1撮影画像及び第2撮影画像を撮影した撮像装置の向き、基線長等の画像ペアに関する情報を記録することが好ましい。尚、画像ペアの記憶部や、画像ペアの記憶の方法等は、画像判定装置100の変形例7における態様に限定されるものではなく、他の画像判定装置100の態様でも同様である。
記憶部に記憶された画像ペアにおいて、第1撮影画像又は第2撮影画像が同一である画像ペア群として、その画像ペア群の中から、分解能ΔZが最も高い画像ペアが分解能最適ペア判定部により選択される。
画像判定装置の変形例7の態様を採用することにより、最も分解能ΔZが高い画像ペアを選択することが可能となり、より精度の高い3次元計測を行うことができる。
[画像判定装置の変形例8]
画像判定装置100において、判定部135により判定された複数の画像ペアを記憶する記憶部と、記憶部に記憶された複数の画像ペアにおいて、画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も距離Sが短いペアを距離S最適ペアと判定する距離S最適ペア判定部と、をさらに備えてもよい。
図16には、図8及び図14に記載された画像判定装置100の動作フローにより画像ペアが選択されている。すなわち、測定対象位置Eが取得される(ステップS30)までの動作フローは図8に記載されているものと同様である。その後の、画像ペアとして判定する(ステップS45)までは、図14に記載された画像判定装置100の動作フローと同様である。
その後に、画像ペアが記憶部(画像ペア記憶部)に記憶され(ステップS101)、距離S最適ペア判定部により、第1撮影画像又は第2撮影画像が同一であるペア群の中から距離Sが最も短い画像ペアが選択されている(ステップS105)。
画像判定装置の変形例8の態様を採用することにより、最も距離Sの短い画像ペアを選択することができ、より精度の高い3次元計測を行うことができる。
本発明の目的は、上述した画像判定装置を備える3次元計測装置でも達成することができる。画像判定装置により判定された画像ペアを3次元計測装置に使用することにより、より正確に及びより迅速に3次元計測を行うことができる。
本発明の目的は、上述した実施形態で示したフローの手順を実現するプログラムコード(プログラム)を記憶した記憶媒体から、システムあるいは装置のコンピュータ(又はCPUやMPU)が、そのプログラムコードを読出し実行することによっても達成される。
この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになる。そのため、このプログラムコード及びプログラムコードを記憶/記録したコンピュータ読み取り可能な記憶媒体も本発明の一つを構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、前述した実施形態の機能は、コンピュータが、読み出したプログラムを実行することによって実現される。また、このプログラムの実行とは、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行う場合も含まれる。
さらに、前述した実施形態の機能は、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットによっても実現することもできる。この場合、まず、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行う。こうした機能拡張ボードや機能拡張ユニットによる処理によっても前述した実施形態の機能が実現される。
又、前述した実施形態のフローの各ステップは、ソフトウェア(コンピュータ)を用いて実現するものに限るものではなく、ハードウェア(電子回路)を用いて実現してもよい。
[撮像装置の変形例]
本発明の画像判定装置100を含む撮像装置、又は本発明の画像判定装置100に供給される複数の撮影画像を撮影する撮像装置の実施形態として、図6ではデジタルカメラについて説明してきたが、撮影装置の構成はこれに限定されない。本発明のその他の撮影装置としては、例えば、内蔵型又は外付け型のPC用カメラ、或いは、以下に説明するような、撮影機能を有する携帯端末装置とすることができる。
本発明の撮影装置の一実施形態である携帯端末装置としては、例えば、携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機が挙げられる。以下、スマートフォン(多機能携帯電話)を例に挙げ、図面を参照しつつ、詳細に説明する。
図17は、本発明の撮影装置の一実施形態であるスマートフォン301の外観を示すものである。図17に示すスマートフォン301は、平板状の筐体302を有し、筐体302の一方の面に表示部としての表示パネル321と、入力部としての操作パネル322とが一体となった表示入力部320を備えている。又、かかる筐体302は、スピーカ331と、マイクロホン332、操作部340と、カメラ部341とを備えている。尚、筐体302の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図18は、図17に示すスマートフォン301の構成を示すブロック図である。図18に示すように、スマートフォンの主たる構成要素として、無線通信部310と、表示入力部320と、通話部330と、操作部340と、カメラ部341と、記憶部350と、外部入出力部360と、GPS(Global Positioning System)受信部370と、電子コンパス371、ジャイロセンサ372、モーションセンサ部380と、電源部390と、主制御部400とを備える。又、スマートフォン301の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部310は、主制御部400の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。かかる無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部320は、主制御部400の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達すると共に、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル321と、操作パネル322とを備える。
表示パネル321は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。操作パネル322は、表示パネル321の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。かかるデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部400に出力する。次いで、主制御部400は、受信した検出信号に基づいて、表示パネル321上の操作位置(座標)を検出する。
図17に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン301の表示パネル321と操作パネル322とは一体となって表示入力部320を構成しているが、操作パネル322が表示パネル321を完全に覆うような配置となっている。かかる配置を採用した場合、操作パネル322は、表示パネル321外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル322は、表示パネル321に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル321に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル321の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。又、操作パネル322が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体302の大きさなどに応じて適宜設計されるものである。更に又、操作パネル322で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部330は、スピーカ331やマイクロホン332を備え、マイクロホン332を通じて入力されたユーザの音声を主制御部400にて処理可能な音声データに変換して主制御部400に出力したり、無線通信部310あるいは外部入出力部360により受信された音声データを復号してスピーカ331から出力するものである。又、図17に示すように、例えば、スピーカ331を表示入力部320が設けられた面と同じ面に搭載し、マイクロホン332を筐体302の側面に搭載することができる。
操作部340は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図17に示すように、操作部340は、スマートフォン301の筐体302の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部350は、主制御部400の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、又ストリーミングデータなどを一時的に記憶するものである。又、記憶部350は、スマートフォン内蔵の内部記憶部351と着脱自在な外部メモリスロットを有する外部記憶部352により構成される。尚、記憶部350を構成するそれぞれの内部記憶部351と外部記憶部352は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部360は、スマートフォン301に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン301に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部360は、このような外部機器から伝送を受けたデータをスマートフォン301の内部の各構成要素に伝達することや、スマートフォン301の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部370は、主制御部400の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン301の緯度、経度、高度からなる位置を検出する。GPS受信部370は、無線通信部310や外部入出力部360(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部380は、例えば、3軸の加速度センサなどを備え、主制御部400の指示にしたがって、スマートフォン301の物理的な動きを検出する。スマートフォン301の物理的な動きを検出することにより、スマートフォン301の動く方向や加速度が検出される。かかる検出結果は、主制御部400に出力されるものである。
電源部390は、主制御部400の指示にしたがって、スマートフォン301の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部400は、マイクロプロセッサを備え、記憶部350が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン301の各部を統括して制御するものである。又、主制御部400は、無線通信部310を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部350が記憶するアプリケーションソフトウェアにしたがって主制御部400が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部360を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
又、主制御部400は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部320に表示する等の画像処理機能を備える。画像処理機能とは、主制御部400が、上記画像データを復号し、かかる復号結果に画像処理を施して、画像を表示入力部320に表示する機能のことをいう。
更に、主制御部400は、表示パネル321に対する表示制御と、操作部340、操作パネル322を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部400は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル321の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
又、操作検出制御の実行により、主制御部400は、操作部340を通じたユーザ操作を検出したり、操作パネル322を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部400は、操作パネル322に対する操作位置が、表示パネル321に重なる重畳部分(表示領域)か、それ以外の表示パネル321に重ならない外縁部分(非表示領域)かを判定し、操作パネル322の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
又、主制御部400は、操作パネル322に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部341は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge−Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラである。又、カメラ部341は、主制御部400の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部350に記録したり、外部入出力部360や無線通信部310を通じて出力することができる。図17に示すにスマートフォン301において、カメラ部341は表示入力部320と同じ面に搭載されているが、カメラ部341の搭載位置はこれに限らず、表示入力部320の背面に搭載されてもよいし、あるいは、複数のカメラ部341が搭載されてもよい。尚、複数のカメラ部341が搭載されている場合には、撮影に供するカメラ部341を切り替えて単独にて撮影したり、あるいは、複数のカメラ部341を同時に使用して撮影することもできる。
又、カメラ部341はスマートフォン301の各種機能に利用することができる。例えば、表示パネル321にカメラ部341で取得した画像を表示することや、操作パネル322の操作入力のひとつとして、カメラ部341の画像を利用することができる。又、GPS受信部370が位置を検出する際に、カメラ部341からの画像を参照して位置を検出することもできる。更には、カメラ部341からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン301のカメラ部341の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部341からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部370により取得した位置情報、マイクロホン332により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部380により取得した姿勢情報等などを付加して記憶部350に記録したり、外部入出力部360や無線通信部310を通じて出力することもできる。
又、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1…測定対象物、100…画像判定装置、101…第1撮影画像選択部、105…第1撮影画像情報取得部、110…第2撮影画像選択部、115…第2撮影画像情報取得部、120…測定対象距離取得部、125…測定対象位置算出部、130…撮影範囲算出部、135…判定部、212…CPU、214…操作部、216…デバイス制御部、218…レンズ部、220…シャッタ、222…撮像素子、224…A/D変換器、225…表示部、226…メモリ部、228…画像処理部、230…エンコーダ、232…ドライバ、242…GPS、244…ジャイロセンサ、246…電子コンパス、301…スマートフォン

Claims (16)

  1. 複数の撮影画像から3次元計測に使用する画像ペアを判定する画像判定装置であって、
    前記複数の撮影画像から第1撮影画像を選択する第1撮影画像選択手段と、
    前記選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得手段と、
    前記第1撮影画像の撮影位置である第1撮影位置から前記第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得手段と、
    前記第1撮影画像の撮影における光軸上の位置であって、前記第1撮影位置から前記測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出手段と、
    前記複数の撮影画像から第2撮影画像を選択する第2撮影画像選択手段と、
    前記選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得手段と、
    前記取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、前記第2撮影画像に対応する撮影範囲を算出する撮影範囲算出手段と、
    前記算出した撮影範囲内に前記算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、前記第1撮影画像と前記第2撮影画像を画像ペアと判定する判定手段と、
    を備えた画像判定装置。
  2. 前記判定手段は、さらに、前記第1撮影位置での撮像装置と前記第2撮影位置での撮像装置との基線長Lを含む、下記[数1]で表される分解能ΔZの値が閾値以下の場合は、前記第1撮影画像と前記第2撮影画像とを画像ペアと判定する請求項1に記載の画像判定装置。

    ΔZ :分解能
    Z :測定対象距離
    f :焦点距離
    p :撮影画像を取得した撮像装置における撮像素子の画素ピッチ
    L :第1撮影位置での撮像装置と第2撮影位置での撮像装置との基線長
  3. 前記判定手段は、さらに、前記第1撮影位置での撮像装置の光軸と、前記第1撮影位置の撮像装置と前記第2撮影位置での撮像装置とを結ぶ直線Cとが成す角度αと、前記第2撮影位置での前記撮像装置の光軸と前記直線Cとが成す角度βの各々が、45°以上135°以内の場合は、前記第1撮影画像と前記第2撮影画像とを画像ペアと判定する請求項1又は2に記載の画像判定装置。
  4. 前記判定手段は、さらに、前記測定対象位置と前記第2撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下の場合は、前記第1撮影画像と前記第2撮影画像とを画像ペアと判定する請求項1から3のいずれか1項に記載の画像判定装置。
  5. 前記第2撮影画像選択手段は、前記第1撮影位置での撮像装置と、前記複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長Lxを含む、下記[数2]で表せる分解能ΔZの値が閾値以下である撮影画像を前記第2撮影画像として選択する請求項1に記載の画像判定装置。

    ΔZ :分解能
    Z :測定対象距離
    f :焦点距離
    p :撮影画像を取得した撮像装置における撮像素子の画素ピッチ
    Lx :第1撮影位置での撮像装置と、複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置との基線長の長さ
  6. 前記第2撮影画像選択手段は、さらに、前記第1撮影位置での撮像装置の光軸と、前記第1撮影位置の撮像装置と前記複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置とを結ぶ直線とが成す角度αと、前記複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸と前記直線が成す角度βの各々が45°以上135°以内である前記撮影画像を前記第2撮影画像として選択する請求項1又は5に記載の画像判定装置。
  7. 前記第2撮影画像選択手段は、さらに、前記測定対象位置と前記複数の撮影画像のうちの一つの撮影画像の撮影位置における撮像装置の光軸との距離Sが閾値以下となる前記撮影画像を前記第2撮影画像として選択する請求項1、5、及び6のいずれか1項に記載の画像判定装置。
  8. 前記第1撮影画像選択手段は、前記複数の撮影画像のうちの任意の撮影画像を第1撮影画像として選択し、
    前記第2撮影画像選択手段は、前記複数の撮影画像から前記第1撮影画像以外の撮影画像のうちの任意の撮影画像を第2撮影画像として選択する請求項1から7のいずれか1項に記載の画像判定装置。
  9. 前記判定手段により判定された複数の前記画像ペアを記憶する記憶手段と、
    前記記憶手段に記憶された複数の前記画像ペアにおいて、前記画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も前記分解能ΔZが高いペアを分解能最適ペアと判定する分解能最適ペア判定手段と、をさらに備える請求項2又は5に記載の画像判定装置。
  10. 前記判定手段により判定された複数の前記画像ペアを記憶する記憶手段と、
    前記記憶手段に記憶された複数の前記画像ペアにおいて、前記画像ペアのうち第1撮影画像又は第2撮影画像が同一であるペア群の中から、最も前記距離Sが短いペアを距離S最適ペアと判定する距離S最適ペア判定手段と、をさらに備える請求項4又は7のいずれかに記載の画像判定装置。
  11. 前記記憶手段は、前記判定手段により判定された前記画像ペアを1つのファイルとして記憶する請求項9又は10に記載の画像判定装置。
  12. 前記撮影範囲算出手段は、前記取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、前記第2撮影画像に対応する四角錐状の撮影範囲を算出する請求項1から11のいずれか1項に記載の画像判定装置。
  13. 請求項1から12のいずれか1項に記載の画像判定装置を有する撮像装置。
  14. 請求項1から12のいずれか1項に記載の画像判定装置により判定された前記画像ペアを使用して3次元計測を行う3次元計測装置。
  15. 複数の撮影画像から3次元計測に使用する画像ペアを判定する画像判定方法であって、
    前記複数の撮影画像から第1撮影画像を選択する第1撮影画像選択ステップと、
    前記選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得ステップと、
    前記第1撮影画像の撮影位置である第1撮影位置から前記第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得ステップと、
    前記第1撮影画像の撮影における光軸上の位置であって、前記第1撮影位置から前記測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出ステップと、
    前記複数の撮影画像から第2撮影画像を選択する第2撮影画像選択ステップと、
    前記選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得ステップと、
    前記取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、前記第2撮影画像に対応する四角錐状の撮影範囲を算出する撮影範囲算出ステップと、
    前記算出した撮影範囲内に前記算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、前記第1撮影画像と前記第2撮影画像とは画像ペアと判定する判定ステップと、
    を含む画像判定方法。
  16. 複数の撮影画像から3次元計測に使用する画像ペアを判定するプログラムであって、
    前記複数の撮影画像から第1撮影画像を選択する第1撮影画像選択ステップと、
    前記選択した第1撮影画像の撮影位置及び撮影方向を取得する第1撮影画像情報取得ステップと、
    前記第1撮影画像の撮影位置である第1撮影位置から前記第1撮影画像内の測定対象物までの測定対象距離を取得する測定対象距離取得ステップと、
    前記第1撮影画像の撮影における光軸上の位置であって、前記第1撮影位置から前記測定対象距離だけ離れた3次元空間上の測定対象位置を算出する測定対象位置算出ステップと、
    前記複数の撮影画像から第2撮影画像を選択する第2撮影画像選択ステップと、
    前記選択した第2撮影画像の撮影位置である第2撮影位置、撮影方向及び画角を取得する第2撮影画像情報取得ステップと、
    前記取得した第2撮影画像の撮影位置、撮影方向及び画角に基づいて、前記第2撮影画像に対応する四角錐状の撮影範囲を算出する撮影範囲算出ステップと、
    前記算出した撮影範囲内に前記算出した測定対象位置が入っているか否かを判別し、入っていると判別すると、前記第1撮影画像と前記第2撮影画像とは画像ペアと判定する判定ステップと、
    をコンピュータに実行させる為のプログラム。
JP2015505223A 2013-03-12 2013-10-24 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム Expired - Fee Related JP5819564B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015505223A JP5819564B2 (ja) 2013-03-12 2013-10-24 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013049445 2013-03-12
JP2013049445 2013-03-12
JP2015505223A JP5819564B2 (ja) 2013-03-12 2013-10-24 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム
PCT/JP2013/078803 WO2014141522A1 (ja) 2013-03-12 2013-10-24 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP5819564B2 true JP5819564B2 (ja) 2015-11-24
JPWO2014141522A1 JPWO2014141522A1 (ja) 2017-02-16

Family

ID=51536209

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015505223A Expired - Fee Related JP5819564B2 (ja) 2013-03-12 2013-10-24 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム

Country Status (5)

Country Link
US (1) US9721346B2 (ja)
JP (1) JP5819564B2 (ja)
CN (1) CN105190226B (ja)
DE (1) DE112013006814T5 (ja)
WO (1) WO2014141522A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6436783B2 (ja) * 2015-01-09 2018-12-12 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
WO2016158855A1 (ja) * 2015-03-31 2016-10-06 株式会社ニコン 撮像システム、撮像装置、撮像方法、及び撮像プログラム
JP6543085B2 (ja) * 2015-05-15 2019-07-10 シャープ株式会社 三次元計測装置、及び三次元計測方法
JP6464281B2 (ja) 2015-11-06 2019-02-06 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
CN105407343B (zh) * 2015-12-15 2017-08-01 瑞声声学科技(苏州)有限公司 摄像镜头及其景深校准方法
JP6534457B2 (ja) * 2016-02-04 2019-06-26 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
US10706569B2 (en) * 2016-06-08 2020-07-07 Amazon Technologies, Inc. Selectively paired imaging elements for stereo images
US10282859B2 (en) * 2016-12-12 2019-05-07 The Boeing Company Intra-sensor relative positioning
JP6822234B2 (ja) * 2017-03-15 2021-01-27 セイコーエプソン株式会社 プロジェクターシステム
JP2019015527A (ja) * 2017-07-04 2019-01-31 株式会社ミツトヨ 画像測定装置及びプログラム
KR102468897B1 (ko) * 2017-10-16 2022-11-21 삼성전자주식회사 깊이 값을 추정하는 방법 및 장치
DE102018104759A1 (de) * 2018-03-02 2019-09-05 Forward Ttc Gmbh Verfahren und Vorrichtung zum selbsttätigen Verbinden eines Aufladeanschlusses mit einer Aufladeanschlussaufnahme eines Fahrzeugs, insbesondere eines Landfahrzeugs
JP2019220099A (ja) * 2018-06-22 2019-12-26 凸版印刷株式会社 ステレオマッチング処理装置、ステレオマッチング処理方法、及びプログラム
JP7230722B2 (ja) * 2019-07-24 2023-03-01 富士通株式会社 画像処理装置及び画像処理方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08254424A (ja) * 1995-03-15 1996-10-01 Canon Inc 三次元物体形状計測方法及び装置
JPH1019562A (ja) * 1996-06-28 1998-01-23 Taisei Corp 測量装置および測量方法
JP2001004373A (ja) * 1999-06-24 2001-01-12 Asahi Optical Co Ltd 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体
WO2007137388A1 (en) * 2006-05-26 2007-12-06 Corporation Spg Data3D Photogrammetric system and techniques for 3d acquisition
JP2007327938A (ja) * 2006-05-10 2007-12-20 Topcon Corp 画像処理装置及びその処理方法
JP2009150848A (ja) * 2007-12-21 2009-07-09 Topcon Corp 画像処理装置
JP2009186287A (ja) * 2008-02-05 2009-08-20 Tokyo Institute Of Technology 平面パラメータ推定装置、平面パラメータ推定方法及び平面パラメータ推定プログラム
JP2012234374A (ja) * 2011-05-02 2012-11-29 Hitachi Solutions Ltd 単画像からのステレオペア検索装置及びステレオペア検索方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001317915A (ja) 2000-05-08 2001-11-16 Minolta Co Ltd 3次元計測装置
JP5084374B2 (ja) 2007-07-06 2012-11-28 株式会社トプコン 位置計測装置及び位置計測方法
US7787689B2 (en) 2007-07-06 2010-08-31 Topcon Corporation Location measuring device and method
JP5184830B2 (ja) 2007-07-06 2013-04-17 株式会社トプコン 位置計測装置及び位置計測方法
CN100550054C (zh) * 2007-12-17 2009-10-14 电子科技大学 一种图像立体匹配方法及其装置
WO2010001940A1 (ja) * 2008-07-01 2010-01-07 株式会社トプコン 位置測定方法、位置測定装置、およびプログラム
CN101710423B (zh) * 2009-12-07 2012-01-04 青岛海信网络科技股份有限公司 一种立体图像的匹配搜索方法
JP2012103109A (ja) * 2010-11-10 2012-05-31 Panasonic Corp ステレオ画像処理装置、ステレオ画像処理方法及びプログラム
JP2012124554A (ja) 2010-12-06 2012-06-28 Canon Inc 撮像装置
CN102236798B (zh) * 2011-08-01 2012-12-05 清华大学 一种图像匹配方法及其装置
CN102521838B (zh) * 2011-12-19 2013-11-27 国家计算机网络与信息安全管理中心 一种图像匹配方法及系统

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08254424A (ja) * 1995-03-15 1996-10-01 Canon Inc 三次元物体形状計測方法及び装置
JPH1019562A (ja) * 1996-06-28 1998-01-23 Taisei Corp 測量装置および測量方法
JP2001004373A (ja) * 1999-06-24 2001-01-12 Asahi Optical Co Ltd 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体
JP2007327938A (ja) * 2006-05-10 2007-12-20 Topcon Corp 画像処理装置及びその処理方法
WO2007137388A1 (en) * 2006-05-26 2007-12-06 Corporation Spg Data3D Photogrammetric system and techniques for 3d acquisition
JP2009150848A (ja) * 2007-12-21 2009-07-09 Topcon Corp 画像処理装置
JP2009186287A (ja) * 2008-02-05 2009-08-20 Tokyo Institute Of Technology 平面パラメータ推定装置、平面パラメータ推定方法及び平面パラメータ推定プログラム
JP2012234374A (ja) * 2011-05-02 2012-11-29 Hitachi Solutions Ltd 単画像からのステレオペア検索装置及びステレオペア検索方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6014000908; 志田 隼人(外2名): '位置・姿勢センサ付きカメラからの建物のモデルビルディング' 情報処理学会研究報告 平成22年度 4 , 20101215, pp. 1-6, 一般社団法人情報処理学会 *

Also Published As

Publication number Publication date
CN105190226B (zh) 2017-09-19
US9721346B2 (en) 2017-08-01
DE112013006814T5 (de) 2015-12-10
US20150356739A1 (en) 2015-12-10
WO2014141522A1 (ja) 2014-09-18
CN105190226A (zh) 2015-12-23
JPWO2014141522A1 (ja) 2017-02-16

Similar Documents

Publication Publication Date Title
JP5819564B2 (ja) 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム
US9332208B2 (en) Imaging apparatus having a projector with automatic photography activation based on superimposition
JP6328255B2 (ja) マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体
JP6186521B2 (ja) 合焦制御装置、撮像装置、合焦制御方法、及び合焦制御プログラム
JP6031587B2 (ja) 撮像装置、信号処理方法、信号処理プログラム
JP5948492B2 (ja) 撮像装置及び合焦制御方法
JP5901782B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5901781B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6360204B2 (ja) カメラ装置、撮像システム、制御方法及びプログラム
JP6307526B2 (ja) 撮像装置及び合焦制御方法
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US9402024B2 (en) Imaging device and image processing method
JP6186498B2 (ja) 撮像装置及び合焦制御方法
JP5789725B2 (ja) 撮像装置及びその合焦方法と合焦制御プログラム
JP6374535B2 (ja) 操作装置、追尾システム、操作方法、及びプログラム
JP6840903B2 (ja) 撮像装置、撮像方法、及びプログラム
WO2019202983A1 (ja) 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体
WO2013145887A1 (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150819

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150819

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20150819

TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20150911

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150915

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150930

R150 Certificate of patent or registration of utility model

Ref document number: 5819564

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees