JP2015049200A - 計測装置、方法及びプログラム - Google Patents

計測装置、方法及びプログラム Download PDF

Info

Publication number
JP2015049200A
JP2015049200A JP2013182511A JP2013182511A JP2015049200A JP 2015049200 A JP2015049200 A JP 2015049200A JP 2013182511 A JP2013182511 A JP 2013182511A JP 2013182511 A JP2013182511 A JP 2013182511A JP 2015049200 A JP2015049200 A JP 2015049200A
Authority
JP
Japan
Prior art keywords
reliability
measurement
point
dimensional
target object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013182511A
Other languages
English (en)
Inventor
英昭 内山
Hideaki Uchiyama
英昭 内山
勇太 伊藤
Yuta Ito
勇太 伊藤
晃仁 関
Akihito Seki
晃仁 関
岡田 隆三
Ryuzo Okada
隆三 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2013182511A priority Critical patent/JP2015049200A/ja
Priority to US14/471,028 priority patent/US20150062302A1/en
Publication of JP2015049200A publication Critical patent/JP2015049200A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

【課題】3次元計測の精度を高めることができる計測装置、方法及びプログラムを提供する。
【解決手段】計測装置10は、取得部21と、第1算出部23と、第2算出部25と、決定部27と、を備える。取得部21は、複数の視点から対象物体を撮像した複数の画像と、計測位置から前記対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する。第1算出部23は、複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、対象物体上の点であることの第1信頼度を算出する。第2算出部25は、距離情報を用いて、3次元空間中の複数の第2の3次元点それぞれについて、対象物体上の点であることの第2信頼度を算出する。決定部27は、第1信頼度及び前記第2信頼度を用いて、対象物体上の3次元点を決定する。
【選択図】図1

Description

本発明の実施形態は、計測装置、方法及びプログラムに関する。
従来から、対象物体を複数の視点から撮像した複数の画像を用いて、3次元計測を行う技術が知られている。このような技術では、複数の画像間の類似度に基づいて、3次元空間中の3次元点が対象物体上の点であることの信頼度を算出し、信頼度が高い3次元点を対象物体上の点とすることで、3次元計測を行う。
M. Okutomi and T. Kanade, "A multiple-baseline stereo," IEEE Transactions on Pattern Analysis and Machine Intelligence, Volume 15 Issue 4, Page 353-363, April 1993
しかしながら、上述したような従来技術では、画像を用いて3次元点の信頼度を算出するため、対象物体のテクスチャによっては、3次元点の信頼度の精度が悪くなり、3次元計測の精度が悪くなる。本発明が解決しようとする課題は、3次元計測の精度を高めることができる計測装置、方法及びプログラムを提供することである。
実施形態の計測装置は、取得部と、第1算出部と、第2算出部と、決定部と、を備える。取得部は、複数の視点から対象物体を撮像した複数の画像と、計測位置から前記対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する。第1算出部は、前記複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、前記対象物体上の点であることの第1信頼度を算出する。第2算出部は、前記距離情報を用いて、前記3次元空間中の複数の第2の3次元点それぞれについて、前記対象物体上の点であることの第2信頼度を算出する。決定部は、前記第1信頼度及び前記第2信頼度を用いて、前記対象物体上の3次元点を決定する。
第1実施形態の計測装置の例を示す構成図。 第1実施形態の撮像及び計測手法の例の説明図。 第1実施形態のマルチベースラインステレオ法の例の説明図。 第1実施形態の第2信頼度の算出手法の例の説明図。 第1実施形態の処理例を示すフローチャート図。 第2実施形態の計測装置の例を示す構成図。 第2実施形態の第2信頼度の算出手法の例の説明図。 第2実施形態の処理例を示すフローチャート図。 変形例1の撮像及び計測手法の例の説明図。 変形例1の撮像及び計測手法の他の例の説明図。 変形例2の撮像及び計測手法の例の説明図。 変形例2の撮像部の例を示す構成図。 各実施形態及び各変形例の計測装置のハードウェア構成例を示す図。
以下、添付図面を参照しながら、実施形態を詳細に説明する。
(第1実施形態)
図1は、第1実施形態の計測装置10の一例を示す構成図である。図1に示すように、計測装置10は、撮像部11と、計測部13と、取得部21と、第1算出部23と、第2算出部25と、決定部27と、出力部29とを、備える。
撮像部11は、可視カメラ、赤外カメラ、マルチスペクトルカメラ、及びマイクロレンズアレイを備える複眼カメラなどの撮像装置により実現できる。なお第1実施形態では、可視カメラを例に取り撮像部11を説明するが、これに限定されるものではない。
計測部13は、レーザセンサ、超音波センサ、及びミリ波センサなど対象物体までの距離を測定可能な距離センサにより実現できる。なお第1実施形態では、光源から光を照射してから、当該光が対象物体で反射した反射光がセンサに届くまでの時間と、光の速度とから、対象物体までの距離を計測するタイムオブフライト方式のレーザセンサを例に取り計測部13を説明するが、これに限定されるものではない。
取得部21、第1算出部23、第2算出部25、及び決定部27は、例えば、CPU(Central Processing Unit)などの処理装置にプログラムを実行させること、即ち、ソフトウェアにより実現してもよいし、IC(Integrated Circuit)などのハードウェアにより実現してもよいし、ソフトウェア及びハードウェアを併用して実現してもよい。
出力部29は、例えば、液晶ディスプレイやタッチパネル式ディスプレイなどの表示出力用の表示装置、又はプリンタなどの印刷出力用の印刷装置などで実現してもよいし、これらの装置を併用して実現してもよい。
撮像部11は、複数の視点から対象物体を撮像し、複数の画像を得る。計測部13は、計測位置から対象物体上の計測点までの距離を計測し、計測結果を示す距離情報を得る。第1実施形態では、距離情報には、レーザセンサの計測精度、レーザ(光の一例)の反射強度、及び対象物体上の計測点までの距離が含まれるものとするが、これに限定されるものではない。例えば、レーザセンサの計測精度については、通常、当該レーザセンサの仕様書などにも記載されているため、距離情報に含めなくてもよい。
また第1実施形態では、撮像部11の座標系と計測部13の座標系とを一致させるキャリブレーションが予め行われているものとする。撮像部11の座標系と計測部13の座標系とを一致させるキャリブレーションは、例えば、Qilong Zhang and Robert Pless, “Extrinsic calibration of a camera and laser range finder (improves camera calibration),” IEEE/RSJ International Conference on Intelligent Robots and Systems, pp. 2301-2306, 2004.に開示されているように、平面のチェッカーボードを撮像部11で撮像するとともに計測部13で計測することでキャリブレーションする手法などを用いることができる。
図2は、第1実施形態の撮像及び計測手法の一例の説明図である。図2に示す例では、撮像部11及び計測部13が接続されており、計測者が対象物体50の周囲を移動しながら、撮像部11による撮像及び計測部13による計測を行う。この撮像及び計測手法によれば、計測者の移動範囲が広くなるほど、計測精度が向上する。
これにより、撮像部11は、複数の異なる位置(視点)で対象物体を撮像し、複数(時系列)の画像を得る。また計測部13も、撮像部11による撮像が行われた各位置(計測位置)で対象物体までの距離を計測し、複数の距離情報を得る。つまり、第1実施形態の撮像及び計測手法では、複数の異なる視点で撮像された時系列画像と、当該時系列画像を構成する各画像を撮像した視点と同一視点での距離情報と、が得られる。
なお、撮像部11と計測部13とは、着脱可能であっても着脱不可能であってもよい。
取得部21は、複数の視点から対象物体を撮像した複数の画像と、計測位置から当該対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する。第1実施形態では、取得部21は、撮像部11により複数の異なる視点で撮像された時系列画像と、計測部13により当該時系列画像を構成する各画像を撮像した視点と同一視点で計測された複数の距離情報と、を取得する。
そして取得部21は、取得した複数の画像の座標系を一致させるキャリブレーションを行う。第1実施形態では、取得部21は、複数の異なる視点で撮像された時系列画像の各画像の座標系を一致させるキャリブレーションを行う。
複数の異なる視点で撮像された時系列画像の各画像の座標系を一致させるキャリブレーションは、例えば、Richard Hartley and Andrew Zisserman, “Multiple View Geometry in Computer Vision,” Cambridge University Press, 2003.に開示されたstructure from motionのように、異なる視点で撮影された全ての画像をバッチ処理することによってキャリブレーションする手法や、Andrew J. Davison, Ian Reid, Nicholas Molton and Olivier Stasse, “MonoSLAM: Real-Time Single Camera SLAM,” IEEE Transactions on Pattern Analysis and Machine Intelligence, volume 29, issue 6, pp. 1052-1067, 2007. に開示されたSimultaneous localization and mappingのように、時系列画像に対して逐次処理を行うことでキャリブレーションする手法などを用いることができる。
第1算出部23は、取得部21により取得された複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、対象物体上の点であることの第1信頼度を算出する。
例えば、第1算出部23は、マルチベースラインステレオ法を用いて、第1信頼度を算出する。具体的には、第1算出部23は、複数の画像のうちの基準画像上の第1の2次元点を用いて複数の第1の3次元点を算出し、当該複数の第1の3次元点を複数の画像のうちの基準画像以外の画像に投影して当該画像上の複数の第2の2次元点を算出し、第1の2次元点と複数の第2の2次元点それぞれとの画素値の類似度に基づいて、複数の第1の3次元点それぞれの第1信頼度を算出する。なお、マルチベースラインステレオ法については、例えば、非特許文献1に開示されている。
図3は、第1実施形態のマルチベースラインステレオ法の一例の説明図である。
第1算出部23は、まず、取得部21により取得された時系列画像の中から、基準画像61を選ぶとともに、時系列的に基準画像61の次に撮像された画像62を選ぶ。画像62は、基準画像61と撮像領域の多くが重なるためである。但し、画像の選択手法はこれに限定されず、基準画像61と異なる視点で撮像され、撮像領域が重なる画像であればどのような画像を選択してもよいし、2以上の画像を選択してもよい。
次に、第1算出部23は、基準画像61の画素p(第1の2次元点の一例)と撮像部11のカメラ中心60とを通過する直線を設定し、設定した直線上に3次元点P1〜P3(複数の第1の3次元点の一例)を配置する。3次元点P1〜P3の配置手法は、例えば、等間隔となるような配置や、距離に応じた配置などが考えられるが、これらに限定されず、どのように配置してもよい。また、直線上に配置する3次元点P1〜P3の数は、複数であればいくつであってもよい。
次に、第1算出部23は、3次元点P1〜P3を画像62に投影し、それぞれ、画像62上の対応点(画素)q1〜q3(複数の第2の2次元点の一例)を得る。
そして第1算出部23は、画素pと対応点q1〜q3それぞれとの画素値の類似度を算出し、算出した類似度に基づいて、3次元点P1〜P3の第1信頼度を算出する。具体的には、第1算出部23は、画素pの画素値と対応点qの画素値の類似度が高いほど、即ち、両画素値が近いほど、3次元点Pの第1信頼度を高く算出する。なお、画素値としては、例えば、輝度値などが挙げられるが、これに限定されるものではない。
第2算出部25は、取得部21により取得された距離情報を用いて、3次元空間中の複数の第2の3次元点それぞれについて、対象物体上の点であることの第2信頼度を算出する。
具体的には、第2算出部25は、距離情報に含まれる距離に基づいて対象物体上の計測点を算出し、算出した計測点と計測位置とを通過する直線上に複数の第2の3次元点を設定し、当該第2の3次元点毎に第2信頼度を算出する。
ここで、第2算出部25は、計測点との距離が近い第2の3次元点ほど、第2信頼度を高く算出する。また第2算出部25は、距離情報に含まれるレーザセンサの計測精度が高いほど、計測点との距離が近づくにつれ、隣接する第2の3次元点間の第2信頼度の差が大きくなるように、第2信頼度を算出する。この結果、複数の第2の3次元点の第2信頼度は、計測点を中心とした正規分布となる。また第2算出部25は、距離情報に含まれる反射強度が高いほど、第2信頼度を高く算出する。
図4は、第1実施形態の第2信頼度の算出手法の一例の説明図である。
まず、計測部13は、計測位置である自身の中心(距離センサの中心)70から対象物体の計測を行い、計測点Lpを得ているとする。
この場合、第2算出部25は、距離センサの中心70と計測点Lpとを通過する直線を設定し、設定した直線上に3次元点Lp〜Lp(複数の第2の3次元点の一例)を配置する。但し、3次元点Lpは、計測点Lpであるものとする。3次元点Lp〜Lpの配置手法は、例えば、等間隔となるような配置や、距離に応じた配置などが考えられるが、これらに限定されず、どのように配置してもよい。また、直線上に配置する3次元点Lp〜Lpの数は、複数であればいくつであってもよい。
ここで、直線上にある3次元点を1変数Xで表し、直線上の各3次元点の第2信頼度をF(X)で表すとすると、F(X)は、平均をLp、分散をσとする正規分布を用いた数式(1)で表される。
Figure 2015049200
なお、σはレーザセンサの計測精度の幅から算出される。例えば、レーザセンサの計測精度の幅をWとすると、σをWとすることができる。
この結果、レーザセンサの計測精度が高いほど、計測点との距離が近づくにつれ、隣接する第2の3次元点間の第2信頼度の差が大きくなり、3次元点Lp〜Lpの第2信頼度は、3次元点Lp(計測点Lp)を中心とした正規分布71となる。
また、aは第2信頼度の大きさを調整する変数であり、レーザの反射率(反射強度)から算出される。例えば、レーザの反射率をRとすると、aをRとすることができる。
この結果、反射率が高いほど、第2信頼度が高くなる。
決定部27は、第1算出部23に算出された第1信頼度及び第2算出部25に算出された第2信頼度を用いて、対象物体上の3次元点を決定する。
具体的には、決定部27は、座標が対応する第1の3次元点及び第2の3次元点の第1信頼度と第2信頼度とを加算又は乗算した統合信頼度を算出し、当該統合信頼度が所定条件を満たす場合、第1の3次元点又は第2の3次元点を対象物体上の3次元点に決定する。
なお第1実施形態では、撮像部11の座標系と計測部13の座標系とを一致させるキャリブレーション、及び撮像部11により複数の視点で撮像された複数の画像の座標系を一致させるキャリブレーションが行われているため、第1の3次元点及び第2の3次元点の座標系は一致している。このため、決定部27は、座標が同一又は一定範囲内に収まる第1の3次元点及び第2の3次元点を、座標が対応する第1の3次元点及び第2の3次元点とすればよい。
また、第1信頼度をC、第2信頼度をCとすると、統合信頼度Cは、例えば、数式(2)や、数式(3)で求めることができる。
C=sC+tC …(2)
C=sC …(3)
なお、sは第1信頼度Cの重みであり、tは第2信頼度Cの重みである。s及びtの値は、例えば、C=Cならs=t、C>Cならt=0などとすればよい。
また、統合信頼度が所定条件を満たす場合とは、統合信頼度が極大となる場合又は統合信頼度が閾値を超える場合などが挙げられるが、これらに限定されるものではない。
出力部29は、決定部27により決定された対象物体の3次元点の座標を出力する。
図5は、第1実施形態の計測装置10で行われる処理の手順の流れの一例を示すフローチャート図である。
まず、取得部21は、複数の視点から対象物体を撮像した複数の画像と、計測位置から当該対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する(ステップS101)。
続いて、取得部21は、取得した複数の画像の座標系を一致させるキャリブレーションを行う(ステップS103)。
続いて、第1算出部23は、取得部21により取得された複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、対象物体上の点であることの第1信頼度を算出する(ステップS105)。
続いて、第2算出部25は、取得部21により取得された距離情報を用いて、3次元空間中の複数の第2の3次元点それぞれについて、対象物体上の点であることの第2信頼度を算出する(ステップS107)。
続いて、決定部27は、第1算出部23に算出された第1信頼度及び第2算出部25に算出された第2信頼度を用いて、対象物体上の3次元点を決定する(ステップS109)。
続いて、出力部29は、決定部27により決定された対象物体の3次元点の座標を出力する(ステップS111)。
以上のように第1実施形態では、複数の視点から対象物体を撮像した複数の画像を用いて算出した第1信頼度と、計測位置から当該対象物体上の計測点までの距離の計測結果を示す距離情報を用いて算出した第2信頼度とに基づいて、対象物体上の3次元点を決定する。
このように第1実施形態では、信頼度の精度が対象物体のテクスチャに依存する第1信頼度に加え、信頼度の精度が対象物体のテクスチャに非依存の第2信頼度を用いて、対象物体上の3次元点を決定するので、対象物体のテクスチャによる3次元計測の精度の悪化の影響を排除でき、3次元計測の精度を高めることができる。
これにより、テクスチャがある領域と無い領域が混在するような対象物体であっても一度の計測で高精度な計測が可能となる。
なお、第1信頼度は、複数の画像の画素値に基づいて算出されるため、対象物体のテクスチャが無い場合(単色の場合)、精度が悪化しやすい。
(第2実施形態)
第2実施形態では、計測点に基づく画素値を更に用いて第2信頼度を算出する例について説明する。以下では、第1実施形態との相違点の説明を主に行い、第1実施形態と同様の機能を有する構成要素については、第1実施形態と同様の名称・符号を付し、その説明を省略する。
図6は、第2実施形態の計測装置110の一例を示す構成図である。図6に示すように、第2実施形態の計測装置110は、第2算出部125が、第1実施形態と相違する。
第2算出部125は、取得部21により取得された複数の画像を更に用いて、第2信頼度を算出する。具体的には、第2算出部125は、撮像部11が撮像した複数の視点のうち計測点の計測位置に対応する視点から撮像した画像上に当該計測点を投影して、当該画像上の投影点における画素値を算出し、当該画素値が高いほど、第2信頼度を高く算出する。
図7は、第2実施形態の第2信頼度の算出手法の一例の説明図である。
まず、計測部13は、計測位置である自身の中心(距離センサの中心)170から対象物体の計測を行い、計測点Lpを得ているとする。
ここで、第2算出部125は、距離センサの中心170と計測点Lpとを通過する直線を設定し、直線上にある3次元点を1変数Xで表し、直線上の各3次元点の第2信頼度をF(X)で表すとすると、F(X)は、平均をLp、分散をσとする正規分布を用いた数式(4)で表される。
Figure 2015049200
なお、bは第2信頼度の大きさを調整する変数であり、計測点Lpに基づく画素値から算出される。例えば、第2算出部125は、取得部21により取得された時系列画像の中から、計測点Lpの計測位置に対応する視点から撮像した画像171を選び、計測点Lpを画像171に投影して、画像171上の投影点172を得る。そして第2算出部125は、投影点172の画素値からbを算出する。例えば、投影点172の画素値をPとすると、bをPとすることができる。
この結果、画素値が大きいほど、第2信頼度が高くなる。なお、画素値としては、例えば、輝度値などが挙げられるが、これに限定されるものではない。
また、σ及びaについては、第1実施形態と同様である。
図8は、第2実施形態の計測装置110で行われる処理の手順の流れの一例を示すフローチャート図である。
まず、ステップS201〜S205までの処理は、図5に示すフローチャートのステップS101〜S105までの処理と同様である。
ステップS207では、第2算出部125は、取得部21により取得された複数の画像及び距離情報を用いて、3次元空間中の複数の第2の3次元点それぞれについて、対象物体上の点であることの第2信頼度を算出する(ステップS207)。
以降のステップS209〜S211までの処理は、図5に示すフローチャートのステップS109〜S111までの処理と同様である。
以上のように第2実施形態では、複数の視点から対象物体を撮像した複数の画像、及び計測位置から当該対象物体上の計測点までの距離の計測結果を示す距離情報を用いて、第2信頼度を算出するので、第2信頼度の精度をより高めることができ、3次元計測の精度を高めることができる。
(変形例1)
上記各実施形態では、撮像部11及び計測部13が接続されており、計測者が対象物体50の周囲を移動しながら、撮像部11による撮像及び計測部13による計測を行う例について説明したが、撮像及び計測手法は、これに限定されるものではない。例えば、撮像部及び計測部が接続された装置を複数配置するようにしてもよい。
図9は、変形例1の撮像及び計測手法の一例の説明図である。図9に示す例では、撮像部11−1及び計測部13−1が接続された装置と、撮像部11−2及び計測部13−2が接続された装置とが、対象物体50の周囲に配置されており、計測者が各装置を用いて撮像及び計測を行う。
変形例1では、撮像部の座標系と計測部の座標系とを一致させるキャリブレーションは、第1実施形態と同様である。但し、複数の異なる視点で撮像された時系列画像の各画像の座標系を一致させるキャリブレーションとしては、例えば、Zhengyou Zhang, “A Flexible New Technique for Camera Calibration,” IEEE Transactions on Pattern Analysis and Machine Intelligence, volume 22, issue 11, pp. 1330-1334, 2000.のように、平面チェッカーパターンを全ての視点から撮影することによってキャリブレーションする手法などを用いることができる。
また例えば、撮像部及び計測部が別々の装置を複数配置するようにしてもよい。
図10は、変形例1の撮像及び計測手法の他の例の説明図である。図10に示す例では、撮像部11−1及び計測部13−1が接続された装置と、撮像部11−2単独の装置と、計測部13−2単独の装置とが、対象物体50の周囲に配置されており、計測者が各装置を用いて撮像及び計測を行う。
変形例1の撮像及び計測手法によれば、画像を撮像する視点の数が増えるほど、計測精度が向上する。
(変形例2)
変形例2では、撮像部がマイクロレンズアレイを有する複眼カメラである場合について説明する。
図11は、変形例2の撮像及び計測手法の一例の説明図である。図11に示す例では、撮像部211及び計測部13が接続されており、計測者が対象物体50の周囲を移動しながら、撮像部211による撮像及び計測部13による計測を行う。
図12は、変形例2の撮像部211の一例を示す構成図である。図12に示すように、撮像部211は、対象物体50からの光を結像させるメインレンズ310と、マイクロレンズが複数配列されたマイクロレンズアレイ311と、光センサ312と、を含む撮像光学系を備える。
図12に示す例では、メインレンズ310の結像面が、メインレンズ310及びマイクロレンズアレイ311の間(像面E)に位置するように、メインレンズ310が配置されている。
なお図示は省略するが、撮像部211は、光センサ312を駆動するセンサ駆動部も備えている。センサ駆動部は、外部からの制御信号に従い駆動制御される。
光センサ312は、マイクロレンズアレイ311の各マイクロレンズにより受光面に結像された光を電気信号に変換して出力する。光センサ312としては、例えばCCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどを用いることができる。これらのイメージセンサでは、それぞれ画素に対応する受光素子が受光平面上にマトリクス状に並べられて構成され、受光素子それぞれの光電変換によって、光が各画素の電気信号に変換されて出力される。
撮像部211は、メインレンズ310上のある位置から、マイクロレンズアレイ311上のある位置に入射した光を、光センサ312で受光し、画素毎の画素信号を含む画像信号を出力する。このような構成の撮像部211は、ライトフィールドカメラやPlenopticカメラという名称で知られている。
撮像部211は、一度の撮像で、複数の視点から撮像した複数の画像を得ることができる。
変形例2では、撮像部の座標系と計測部の座標系とを一致させるキャリブレーションは、第1実施形態と同様である。但し、複数の異なる視点で撮像された複数の画像の各画像の座標系を一致させるキャリブレーションには、マイクロレンズアレイを製造する際に定義された光学系を利用する。
(ハードウェア構成)
図13は、上記各実施形態及び各変形例の計測装置のハードウェア構成の一例を示すブロック図である。図13に示すように、上記各実施形態及び各変形例の計測装置は、CPUなどの制御装置91と、ROM(Read Only Memory)やRAM(Random Access Memory)などの記憶装置92と、HDD(Hard Disk Drive)やSSD(Solid State Drive)などの外部記憶装置93と、ディスプレイなどの表示装置94と、マウスやキーボードなどの入力装置95と、通信I/F96と、可視カメラなどの撮像装置97と、レーザセンサなどの計測装置98とを、備えており、通常のコンピュータを利用したハードウェア構成で実現できる。
上記各実施形態及び各変形例の計測装置で実行されるプログラムは、ROM等に予め組み込んで提供される。また、上記各実施形態及び変形例の計測装置で実行されるプログラムを、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、CD−R、メモリカード、DVD、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されて提供するようにしてもよい。また、上記各実施形態及び各変形例の計測装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしてもよい。
上記各実施形態及び各変形例の計測装置で実行されるプログラムは、上述した各部をコンピュータ上で実現させるためのモジュール構成となっている。実際のハードウェアとしては、例えば、制御装置91が外部記憶装置93からプログラムを記憶装置92上に読み出して実行することにより、上記各部がコンピュータ上で実現されるようになっている。
以上説明したとおり、上記各実施形態及び各変形例によれば、3次元計測の精度を高めることができる。
なお本発明は、上記各実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。
例えば、上記実施形態のフローチャートにおける各ステップを、その性質に反しない限り、実行順序を変更し、複数同時に実施し、あるいは実施毎に異なった順序で実施してもよい。
10、110 計測装置
11、211 撮像部
13 計測部
21 取得部
23 第1算出部
25、125 第2算出部
27 決定部
29 出力部

Claims (16)

  1. 複数の視点から対象物体を撮像した複数の画像と、計測位置から前記対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する取得部と、
    前記複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、前記対象物体上の点であることの第1信頼度を算出する第1算出部と、
    前記距離情報を用いて、前記3次元空間中の複数の第2の3次元点それぞれについて、前記対象物体上の点であることの第2信頼度を算出する第2算出部と、
    前記第1信頼度及び前記第2信頼度を用いて、前記対象物体上の3次元点を決定する決定部と、
    を備える計測装置。
  2. 前記第2算出部は、更に前記複数の画像を用いて、第2信頼度を算出する請求項1に記載の計測装置。
  3. 前記距離情報は、前記距離を含み、
    前記第2算出部は、前記距離に基づいて前記計測点を算出し、前記計測点と前記計測位置とを通過する直線上に前記複数の第2の3次元点を設定し、当該第2の3次元点毎に前記第2信頼度を算出する請求項1又は2に記載の計測装置。
  4. 前記第2算出部は、前記計測点との距離が近い第2の3次元点ほど、前記第2信頼度を高く算出する請求項3に記載の計測装置。
  5. 前記第2算出部は、前記距離を計測する計測装置の計測精度が高いほど、前記計測点との距離が近づくにつれ、隣接する第2の3次元点間の前記第2信頼度の差が大きくなるように、前記第2信頼度を算出する請求項4に記載の計測装置。
  6. 前記距離情報は、前記計測精度を更に含む請求項5に記載の計測装置。
  7. 前記複数の第2の3次元点の前記第2信頼度は、前記計測点を中心とした正規分布である請求項5又は6に記載の計測装置。
  8. 前記距離情報は、前記距離の計測に用いられる光の反射強度を更に含み、
    前記第2算出部は、前記反射強度が高いほど、前記第2信頼度を高く算出する請求項4〜7のいずれか1つに記載の計測装置。
  9. 前記第2算出部は、前記複数の視点のうち前記計測位置に対応する視点から撮像した画像上に前記計測点を投影して、当該画像上の投影点における画素値を算出し、当該画素値が高いほど、前記第2信頼度を高く算出する請求項4〜8のいずれか1つに記載の計測装置。
  10. 前記決定部は、座標が対応する第1の3次元点及び第2の3次元点の前記第1信頼度と前記第2信頼度とを加算又は乗算した統合信頼度を算出し、当該統合信頼度が所定条件を満たす場合、前記第1の3次元点又は前記第2の3次元点を前記対象物体上の3次元点に決定する請求項1〜9のいずれか1つに記載の計測装置。
  11. 前記統合信頼度が前記所定条件を満たす場合は、前記統合信頼度が極大となる場合又は前記統合信頼度が閾値を超える場合である請求項10に記載の計測装置。
  12. 前記第1算出部は、マルチベースラインステレオ法を用いて、前記第1信頼度を算出する請求項1〜11のいずれか1つに記載の計測装置。
  13. 前記第1算出部は、前記複数の画像のうちの基準画像上の第1の2次元点を用いて前記複数の第1の3次元点を算出し、当該複数の第1の3次元点を前記複数の画像のうちの前記基準画像以外の画像に投影して当該画像上の複数の第2の2次元点を算出し、前記第1の2次元点と前記複数の第2の2次元点それぞれとの画素値の類似度に基づいて、前記複数の第1の3次元点それぞれの前記第1信頼度を算出する請求項12に記載の計測装置。
  14. 前記複数の画像は、マイクロレンズアレイを有する複眼カメラにより撮像された画像である請求項1〜13のいずれか1つに記載の計測装置。
  15. 複数の視点から対象物体を撮像した複数の画像と、計測位置から前記対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する取得ステップと、
    前記複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、前記対象物体上の点であることの第1信頼度を算出する第1算出ステップと、
    前記距離情報を用いて、前記3次元空間中の複数の第2の3次元点それぞれについて、前記対象物体上の点であることの第2信頼度を算出する第2算出ステップと、
    前記第1信頼度及び前記第2信頼度を用いて、前記対象物体上の3次元点を決定する決定ステップと、
    を含む計測方法。
  16. 複数の視点から対象物体を撮像した複数の画像と、計測位置から前記対象物体上の計測点までの距離の計測結果を示す距離情報と、を取得する取得ステップと、
    前記複数の画像を用いて、3次元空間中の複数の第1の3次元点それぞれについて、前記対象物体上の点であることの第1信頼度を算出する第1算出ステップと、
    前記距離情報を用いて、前記3次元空間中の複数の第2の3次元点それぞれについて、前記対象物体上の点であることの第2信頼度を算出する第2算出ステップと、
    前記第1信頼度及び前記第2信頼度を用いて、前記対象物体上の3次元点を決定する決定ステップと、
    してコンピュータを機能させるためのプログラム。
JP2013182511A 2013-09-03 2013-09-03 計測装置、方法及びプログラム Pending JP2015049200A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013182511A JP2015049200A (ja) 2013-09-03 2013-09-03 計測装置、方法及びプログラム
US14/471,028 US20150062302A1 (en) 2013-09-03 2014-08-28 Measurement device, measurement method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013182511A JP2015049200A (ja) 2013-09-03 2013-09-03 計測装置、方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2015049200A true JP2015049200A (ja) 2015-03-16

Family

ID=52582666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013182511A Pending JP2015049200A (ja) 2013-09-03 2013-09-03 計測装置、方法及びプログラム

Country Status (2)

Country Link
US (1) US20150062302A1 (ja)
JP (1) JP2015049200A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018096826A (ja) * 2016-12-13 2018-06-21 日本電信電話株式会社 点群画素位置決定装置、方法、及びプログラム
US10809053B2 (en) 2014-09-17 2020-10-20 Kabushiki Kaisha Toshiba Movement assisting device, movement assisting method, and computer program product
WO2022185726A1 (ja) * 2021-03-05 2022-09-09 ソニーグループ株式会社 画像処理装置、画像処理方法、およびプログラム
US11461928B2 (en) 2019-09-06 2022-10-04 Kabushiki Kaisha Toshiba Location estimation apparatus

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6645682B2 (ja) 2015-03-17 2020-02-14 キヤノン株式会社 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法
KR102457724B1 (ko) * 2015-09-22 2022-10-24 삼성전자주식회사 영상 처리를 수행하기 위한 방법 및 그 전자 장치
JP6845774B2 (ja) * 2017-09-15 2021-03-24 株式会社東芝 距離計測装置
JP7204326B2 (ja) * 2018-01-15 2023-01-16 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム、並びに、車両の運転支援システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06230115A (ja) * 1993-02-01 1994-08-19 Toyota Motor Corp 車間距離検出装置
JP2001208522A (ja) * 2000-01-24 2001-08-03 Sony Corp 距離画像生成装置および距離画像生成方法、並びにプログラム提供媒体
JP2006038755A (ja) * 2004-07-29 2006-02-09 Nissan Motor Co Ltd 車両周囲物体検出装置
JP2010181246A (ja) * 2009-02-05 2010-08-19 Daihatsu Motor Co Ltd 物体認識装置
JP2011085539A (ja) * 2009-10-19 2011-04-28 Ricoh Co Ltd 測距カメラ装置
JP2012163495A (ja) * 2011-02-08 2012-08-30 Hitachi Ltd センサ統合システム及びセンサ統合方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7408627B2 (en) * 2005-02-08 2008-08-05 Canesta, Inc. Methods and system to quantify depth data accuracy in three-dimensional sensors using single frame capture
US9582889B2 (en) * 2009-07-30 2017-02-28 Apple Inc. Depth mapping based on pattern matching and stereoscopic information
US8447098B1 (en) * 2010-08-20 2013-05-21 Adobe Systems Incorporated Model-based stereo matching

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06230115A (ja) * 1993-02-01 1994-08-19 Toyota Motor Corp 車間距離検出装置
JP2001208522A (ja) * 2000-01-24 2001-08-03 Sony Corp 距離画像生成装置および距離画像生成方法、並びにプログラム提供媒体
JP2006038755A (ja) * 2004-07-29 2006-02-09 Nissan Motor Co Ltd 車両周囲物体検出装置
JP2010181246A (ja) * 2009-02-05 2010-08-19 Daihatsu Motor Co Ltd 物体認識装置
JP2011085539A (ja) * 2009-10-19 2011-04-28 Ricoh Co Ltd 測距カメラ装置
JP2012163495A (ja) * 2011-02-08 2012-08-30 Hitachi Ltd センサ統合システム及びセンサ統合方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10809053B2 (en) 2014-09-17 2020-10-20 Kabushiki Kaisha Toshiba Movement assisting device, movement assisting method, and computer program product
JP2018096826A (ja) * 2016-12-13 2018-06-21 日本電信電話株式会社 点群画素位置決定装置、方法、及びプログラム
US11461928B2 (en) 2019-09-06 2022-10-04 Kabushiki Kaisha Toshiba Location estimation apparatus
WO2022185726A1 (ja) * 2021-03-05 2022-09-09 ソニーグループ株式会社 画像処理装置、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
US20150062302A1 (en) 2015-03-05

Similar Documents

Publication Publication Date Title
JP2015049200A (ja) 計測装置、方法及びプログラム
JP6855587B2 (ja) 視点から距離情報を取得するための装置及び方法
TWI585436B (zh) 深度資訊量測方法及裝置
US10728525B2 (en) Image capturing apparatus, image processing method, and recording medium
KR102166691B1 (ko) 객체의 3차원 형상을 산출하는 장치 및 방법
US20110249117A1 (en) Imaging device, distance measuring method, and non-transitory computer-readable recording medium storing a program
CN110178156A (zh) 包括可调节焦距成像传感器的距离传感器
JP6302414B2 (ja) 複数の光源を有するモーションセンサ装置
US10713810B2 (en) Information processing apparatus, method of controlling information processing apparatus, and storage medium
JP6079017B2 (ja) 距離測定装置および距離計測方法
JP2018179990A (ja) カメラパラメタセット算出方法、カメラパラメタセット算出プログラム及びカメラパラメタセット算出装置
JP2017511495A (ja) マイクロレンズアレイを有する画像化システムの基準線を調節するシステムおよび方法
CN107808398B (zh) 摄像头参数算出装置以及算出方法、程序、记录介质
JP2013186042A (ja) 距離算出装置及び距離算出方法
JP2013207415A (ja) 撮像システム及び撮像方法
US10055881B2 (en) Video imaging to assess specularity
US20210150744A1 (en) System and method for hybrid depth estimation
US20240087167A1 (en) Compensation of three-dimensional measuring instrument having an autofocus camera
JP2013178684A (ja) 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム
EP3988895B1 (en) Compensation of three-dimensional measuring instrument having an autofocus camera
WO2015159791A1 (ja) 測距装置および測距方法
JP5727969B2 (ja) 位置推定装置、方法、及びプログラム
CN108449529B (zh) 深度计算处理器及移动终端
JP6824833B2 (ja) 距離データ生成システム、距離データ生成方法及びプログラム
KR20160082659A (ko) 다채널 연속 촬영 영상을 이용한 구조물의 입체적인 진동 자동 측정 방법

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20151102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170207

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170815