JP2004110804A - 3次元画像撮影装置及び方法 - Google Patents
3次元画像撮影装置及び方法 Download PDFInfo
- Publication number
- JP2004110804A JP2004110804A JP2003299505A JP2003299505A JP2004110804A JP 2004110804 A JP2004110804 A JP 2004110804A JP 2003299505 A JP2003299505 A JP 2003299505A JP 2003299505 A JP2003299505 A JP 2003299505A JP 2004110804 A JP2004110804 A JP 2004110804A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- stripe pattern
- projector
- projected
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Input (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】 パターン投影装置とモニタ用の撮像装置との間の介在物に起因する明度の差,汚れ,埃などによる写り込みなどの問題を解消する。
【解決手段】 パターン投影装置10,11をストライプパターン方向にいわゆるスタック方式で二台重ねるように配置し,同じパターンを投影する。撮像装置(カメラ1)12をパターン投影装置10,11の間に配置する。パターン投影装置10,11,撮像装置12の光軸はストライプパターン方向に平行な同一平面に揃えられる。また,その面において主点も同一となる。ストライプパターンは,ハーフミラー等を介在させることなく直接に撮像装置12に撮像され,再符号化される。再符号化されたストライプパターンは撮像装置13に撮像され復号され画像の対応点に基づいて三角測量により物体の距離が測定される。
【選択図】 図2
【解決手段】 パターン投影装置10,11をストライプパターン方向にいわゆるスタック方式で二台重ねるように配置し,同じパターンを投影する。撮像装置(カメラ1)12をパターン投影装置10,11の間に配置する。パターン投影装置10,11,撮像装置12の光軸はストライプパターン方向に平行な同一平面に揃えられる。また,その面において主点も同一となる。ストライプパターンは,ハーフミラー等を介在させることなく直接に撮像装置12に撮像され,再符号化される。再符号化されたストライプパターンは撮像装置13に撮像され復号され画像の対応点に基づいて三角測量により物体の距離が測定される。
【選択図】 図2
Description
本発明は,測定対象に対してパターン光を照射することによって得られるパターン投影像を,一つないしは複数の撮像手段で異なる方向から撮像し,パターンの変化に基づいて距離を得る三角測量法に基づく3次元画像撮像技術に関する。
3次元形状を取得する手法には,アクティブ法(Active Vision)とパッシブ手法(Passive Vision)がある。アクティブ手法には,(1)レーザ光や超音波などを発して,対象物からの反射光量や到達時間を計測し,奥行き情報を抽出する手法や,(2)ストライプ光などの特殊なパターン光源を用いて,対象表面パターンの幾何学的変形などの画像情報より対象形状を推定するパターン投影法や,(3)光学的処理によってモアレ縞により等高線を形成させて,3次元情報を得る方法などがある。一方,パッシブ手法には,対象物の見え方,光源,照明,影情報などに関する知識を利用して,一枚の画像から3次元情報を推定する単眼立体視,三角測量原理で各画素の奥行き情報を推定する二眼立体視などがある。
一般的にアクティブ手法のほうが計測精度は高いが,投光手段の限界などにより,測定できるレンジが小さい場合が多い。一方,パッシブ手法は汎用的であり,対象に対する制約が少ない。本発明は,このアクティブ手法の3次元計測装置であるパターン投影法に関するものである。
パターン投影法では,対象物とする物体に基準となるパターン光を投影し,基準となるパターン光が投影された方向とは異なる方向から撮影を行う。撮影されたパターンは,物体の形状によって変形を受けたものとなる。観測された変形パターンと投影したパターンとの対応付けを行うことで,物体の3次元計測を行える。パターン投影法では,変形パターンと投影したパターンの対応付けにおいていかに誤対応を少なくし,かつ簡便に行うかが課題となる。そこで,様々なパターン投影の手法(空間パターンコード化法,モアレ,色符号化)が提案されている。
代表的な空間コード化の一例として特許文献1に開示されている提案について説明する。この例では,レーザ光源とレーザ光をスリット形に整形するレンズ系と整形されたレーザ光を対象物に走査して照射するスキャニング装置と対象物からの反射光を検出するカメラとこれらを制御する装置からなる。
スキャニング装置から走査されるレーザ光によって対象物上に,レーザ光が照射をされた部分と照射されていない部分とで縞模様が形成される。レーザ光の照射に異なるパターンによって行うことで対象物上はN個の識別可能な部分に分割される。対象物を異なる位置からカメラで撮影した画像上の各画素が分割されたどの部分に含まれるかを判別することで対象物の形状を算出できる。
本例では,解像度を高くするためには複数回のレーザによるスキャンを行い,複数回のカメラによる撮影が必要となる。例えば,画面を256の領域に分割するためには8回の撮影が必要となる。そのため動きの早い物体の撮影は困難となり,更にスキャンを行う間は撮影系を確実に固定しておく必要があるので装置自体は簡便となっても手軽に撮影を行うことは難しい。
パターンの投光回数を減らす手段として,特許文献2に開示されている色符号化法がある。色符号化においては,q,kを2以上の所定の自然数としたとき,q色以上の色を用いて隣接する2本のストライプ光が同色にならず,隣接するk本のストライプ光による色の並びが一度しか現れないように符号化されたパターンを統制し,観測された画像からストライプの色を検出し,該当のストライプの色並びからストライプ番号を取得する。ストライプ番号から,ストライプの照射方向を算出し空間コード化の例と同様に距離を算出することが出来る。
しかしながら,色符号化では,コード列の並びからコードを復元するために,コードの復元の計算量が大きいという問題点がある。更に,R,G,Bの3色を用いて256の領域に分割する場合には,コードを知りたいストライプの周囲8本のストライプ光の並びを知る必要があり,連続してストライプが長く観測できるような形状の計測にしか適さない。
ストライプの復元を容易に行い,更に1回でコード化されたパターンを投影する手段として特許文献3で公開されている空間パターンコード化法がある。この特許では,3値以上の濃淡,又は3色以上の色,又は濃淡と色の組み合わせによって3種類以上の階調領域を有し,該階調領域の境界線の交点において少なくとも3種類の階調領域が互いに接しているように配置した多値格子板パターンを具備し,該パターンを被測定対象物に投影して生じる投影像の交点に該交点で接する階調の種類と順序に応じた主コードとを組み合わせた組み合わせコードを,交点の識別用の特徴コードとして付与したことを特徴とする。
しかし,上述の方式では測定対象によってはコード化が崩れてしまい正しくコードの対応付けが出来なくなる場合がある。投光されたパターン列が撮影対象の構造によってはカメラで撮影されるパターン列が,欠落して認識されたり,反転したパターン列が得られることもある。また,対象物の形状や反射率などによっても投光したパターンと撮影されたパターン列の変化により対応付けは困難となる。
色符号化においては,復号化時にストライプのグループ化を行う際,ストライプの欠落,反転の可能性があるパターンについては復号を行わない手法を用いてこの問題を回避している。空間パターンコード化法では2次元パターンを用いることで,前述の誤りの可能性を低減してはいるが,原理的には対象物によっては同じ誤りが生じる。従って,前述の方式では,実験室内の特殊な状況や対象物体を限定した状況での撮影では優れた精度が得られるものの,対象を限定しない一般的な撮影状況では精度の劣化は否めない。
そこで,本出願人は,投光されたパターンをフィードバックし新たなコードを生成することで対象物に依存しない3次元画像撮影装置を提案した(特許文献4,特許文献5)。以下,この提案を説明する。
図20は,特許文献5の3次元画像撮像装置の全体構成を示し,図21は,その光源と撮像素子の位置関係を示す。
図21に示す構成では,3次元形状測定装置は,3台のカメラ101〜103及び投光器104を備える。各カメラの距離関係が揃うように,図示の距離I1,I2,I3は等しくされている。第1のカメラ101と投光器104は,ビームスプリッタとしてのハーフミラー105を用いて光軸が一致するように配置される。第2のカメラ102,第3のカメラ103は,第1のカメラ101と投光器104の両側に,それらと光軸が異なるように配置される。中央の光軸と両側の光軸との距離が基線長Lである。
投光器104は,光源106と,マスクパターン107と,強度パターン108と,プリズム109とを有する。ここで光源106は,赤外もしくは紫外光を用いた不可視領域の光源を用いることができる。この場合,各カメラは図22に示すように構成される。すなわち,入射してきた光310は,プリズム301で2方向に分割され,一方は不可視領域(赤外あるいは紫外)透過フィルター302を通って撮像装置(例えばCCDカメラ)303に入射し,他方は不可視領域(赤外と紫外)遮断フィルター304を通って撮像装置305に入射する。
また図21に示す光源106は,可視領域あるいは不可視領域に限定せず,撮像可能な波長帯の光源を用いてもよい。この場合,第1のカメラ101においては,プログレッシブスキャンタイプのCCDカメラを用い,第2のカメラ102,第3のカメラ103に関しては,特に構成はこだわらない。ただし,第1のカメラ101との対応を考慮すれば,同じ構成のCCDカメラが望ましい。光源106からパターンが投影され,3台のカメラ(101〜103)が同時に撮影を行う。そして各カメラは,フィルター302,304(図22参照)を通過した光を撮像装置303,305で得ることにより,画像の一括取得を行う。
図20を用いて3次元形状測定装置の構成を説明する。図示のように,第2のカメラ102は,撮影して得た輝度情報を輝度値メモリ121に記憶し,撮影パターンをパターン画像メモリ122に記憶する。第3のカメラ103は,同様に,輝度情報を輝度値メモリ123に記憶し,撮影パターンをパターン画像メモリ124に記憶する。第1のカメラ101は,輝度情報を輝度値メモリ125に記憶し,撮影パターンをパターン画像メモリ126に記憶する。投光器104は,事前に作成したコード化されたパターンを後に参照する為に,各スリットを正方格子上のセルに分割してフレームメモリ127に格納している。
この記憶保持された撮影パターン及び輝度情報を用いて,次のようにして3次元画像を得る。以下の操作は,第2のカメラ102と第1のカメラ101の組み合わせ,第3のカメラ103と第1のカメラ101の組み合わせの双方に共通なので,ここでは第2のカメラ102と第1のカメラ101の組み合わせを例にとって説明する。
図20において,領域分割部128は,第1のカメラ101で撮影された撮影パターンの領域分割を行う。そして,隣り合うスリットパターン間の強度差が閾値以下である領域については投光器からの光が届いてない領域1として抽出し,スリットパターン間の強度差が閾値以上である領域については領域2として抽出する。再コード化部129は,抽出された領域2について,パターン画像メモリ126に記憶された撮影パターンとフレームメモリ127に格納された投影パターンを用いて再コード化を行う。
図23は,再コード化を行う際のフローチャートである。まず,各スリットパターンをスリット幅毎に縦方向に分割し(ステップS11),正方形のセルを生成する。生成された各セルについて強度の平均値をとり,平均値を各セルの強度とする(ステップS12)。画像の中心から順に,投影パターン及び撮影パターンの対応する各セル間の強度を比較し,対象物の反射率,対象物までの距離などの要因によってパターンが変化したためにセル間の強度が閾値以上異なるかどうかを判断する(ステップS13)。閾値以上異ならない場合は,撮影されたすべてのセルについて再コード化を終了する(ステップS17)。
閾値以上異なる場合は,新たな強度のセルかどうか判断する(ステップS14)。そして,新たな強度のセルのときは,新たなコードの生成,割り付けを行う(ステップS15)。また,新たな強度のセルでないときは,他の部位のスリットパターンの並びを用いてコード化する(ステップS16)。これで,再コード化を終了する(ステップS17)。
図24はスリットパターンのコード化の例を示すもので,同図(a)はスリットの並びによってコード化された投影パターンであり,強度としてそれぞれ3(強),2(中),1(弱)が割り当てられている。同図(b)においては,左から3つめのセルで強度が変化して新たなコードが出現したので,新たに0というコードを割り当てている。同図(c)においては,左から3つめ上から2つめのセルに既存のコードが出現しているので,セルの並びから新たなコードとして,縦の並びを[232],横の並びを[131]という具合に再コード化する。この再コード化は,対象の形状が変化に富む部位には2次元パターンなどの複雑なパターンを投光し,変化の少ない部位には簡単なパターンを投光しているのに等しい。この過程を繰り返し,全てのセルに対して一意なコードを割り付けることで再コード化を行う。
図25は,カメラ601〜603及び投光器604を用いて,壁605の前に配置された板606にコード化されたパターンを投光する例を示す。ここでコード化されたパターンは,図26に示すスリットパターンである。このとき,カメラ601,カメラ602で得られる画像は,図27及び図28に示すように,それぞれ板606の影となる領域801,901が生ずる。本例では,板606の表面には新たにコード化されたパターンとして,図29に示すようなスリットパターンが得られる。
次に図20に戻って説明する。第2のカメラ102側のコード復号部130は,パターン画像メモリ122から投影パターンを抽出し,上述と同様にしてセルに分割する。そして,先に再コード化部129で再コード化されたコードを用いて各セルのコードを検出し,この検出したコードに基づいて光源からのスリット角θを算出する。図30は空間コード化における距離の算出方法を示す図であり,各画素の属するセルのスリット角θと第2のカメラで撮影された画像上のx座標とカメラパラメータである焦点距離Fと基線長Lとから,次の式(1)によって距離Zを算出する。
Z=(F×L)/(x+F×tanθ) …(1)
この距離Zの算出は,第3のカメラ103側のコード復号部131においても,同様に行われる。
また,上述の領域1については次のようにして距離を算出する。領域1では,投光されたパターンによるパターン検出は行うことができないので,対応点探索部132において,カメラ1〜3の輝度値メモリ121,123,125から読み出された輝度情報を用いて視差を検出し,これに基づいて距離を算出する。領域1を除く領域に対しては,前述の操作により距離が算出されているので,領域1の距離の最小値が得られ,また対応づけ可能な画素も限定される。これらの制限を用いて,画素間の対応づけを行い視差dを検出し,カメラパラメータである画素サイズλを用いて,次の式(2)によって距離Zを算出する。
Z=(L×F)/(λ×d)…(2)
前述の手法で第1のカメラ101と第3のカメラ103の組み合わせによって得られた距離情報では,図27に示す板の影となる領域801の距離情報が検出できない。一方,第1のカメラ101と第2のカメラ102の組み合わせによって得られた距離情報では,図28に示す板の影となる領域901の距離情報が検出できない。すなわち,これらの影領域は,板に遮られて光が届かない領域であり,本方式では計測できない。従って影以外の領域について,距離情報を求める。すなわち,図20の距離情報統合部133において,第1のカメラ101と第2のカメラ102の組で算出された距離情報及び第1のカメラ101と第3のカメラ103で算出された距離情報から,第1のカメラ101の画像(図31)のすべての画素,すなわち影以外の画素に対する距離情報を取得する。以上の操作によって得られた距離情報を,例えば第1のカメラ101の輝度画像に対応づけて3次元画像メモリに記憶することで3次元画像撮像を行う。なお,オクルージョン等の問題がなければ,第2のカメラ102,第3のカメラ103の一方のみを用いても良い。
以上が従来技術(特許文献5)に示された内容である。
特開平5−3327375号公報
特開平3−192474号公報
特許第2565885号
特開2000−9442公報
特開2000−65542公報
上記の特許文献4や,特許文献5における3次元画像撮影装置は,投光パターンを複数の強度や複数の波長によって符号化されたものを投影して実現する。その際に,投光パターンが被写体の輝度情報,素材などの影響によって変化し,3次元形状を算出する際に,エラーとなって適切な3次元形状が計測できない。そのために,上記3次元撮像装置は,投光素子と同主点にモニタ用の撮像素子を配置し,被写体情報による投光パターンの変化分をモニタし,再符号化を実施し,3次元形状を計測している。
しかしながら,上記構成において,投光素子及び撮像素子を同主点にすることが再符号化をするための必須条件であるが,それを実現するために,ハーフミラーのようなビームスプリッタを用いて,投光素子,撮像素子の主点を一致させている。
ハーフミラーなどを使用し,主点を合わせ込んだ場合,投光素子から投影される投影光はハーフミラーを通して減衰される。また,被写体に投光されたパターンは,ハーフミラーを通して明るさを減衰されて撮像素子に入力される。仮に,ハーフミラーが理想的に,45度の角度で50:50で振り分けられると仮定した場合,投光素子を直接被写体に投光し,撮像素子で観測した時と比較すると25%減衰して観測される。また,上述の従来の3次元画像撮影装置では,図21にも示されるように,再符号を目的とした撮像素子と,形状計測用の撮像素子との間には,ハーフミラーが介在し,このハーフミラーの影響により形状計測用の撮像素子で観測される被写体と再符号を目的とした撮像素子で観測される被写体では,原理的には倍の明るさの差が発生する。
更に,投光素子による投光パターンには,スプリットされる前後での光路差やハーフミラーの塗布材料の膜厚むらなどに起因して,パターンムラも発生する。又、ハーフミラーの汚れ,埃などによる写り込みが同軸画像に発生する。
そのため,投光パターンが被写体情報によって変化させられた情報を,モニタ用の撮像素子において再符号を実施した場合に,形状算出用撮像素子で観測する画像とは厳密に同じ条件の画像でないために,形状計測の精度低下の原因になっている。
更に,撮像素子のダイナミックレンジに関しても,モニタ用と計測用の撮像素子の間では,同じ特性の素子を使ったとしても,同条件で駆動することは難しく,再符号化による計測の精度を低下させる。
本発明によれば,上記目的を解決するために,コード化されたパターンを投影する投光器と,モニタ用の撮像素子との組み合わせを,ビームスプリッタないしはハーフミラーを使わずに構成するようにしている。
上記投光器と,撮像素子の組み合わせを投光系と呼ぶことにする。コード化されたパターンは,投光系と形状計測用撮像素子とのエピポーラ線に理想的に直交するストライプパターンを投影する。特許文献4や,特許文献5における3次元画像撮影装置は,投光系の投光器と撮像素子の主点を合わせる事によって,再コード化を実施している。再コード化を実施するためには,ストライプと直交する方向に対して光学的一致が必要である。すなわち,投光系の投光器の主点と投光系の撮像素子の主点とが,ストライプと直交する方向では一致している必要がある。
本発明では,上記点に注目し,投光素子の投影するストライプパターンのストライプと同じ方向に,好ましくは,二つ以上複数の投光器を重ね合わせ同じパターンを投影する。この際,被写体によってストライプ像がずれる事がないように投光器を配置する。そして,投光器の間で,ストライプ方向と直交する方向に対する主点位置を合わせ,再符号化用撮像素子を配置する。以上の投光系の構成によって,再符号化用撮像素子と投光器の主点合わせに,ハーフミラーやビームスプリッタなどの光学装置を介在させる必要がなく主点を合わせる事が可能になったので,ハーフミラーやビームスプリッタを配置する事により影響される画像の劣化などの影響のない3次元画像撮影装置が得られる。
上記複数の投光器のストライプ像をストライプのエッジを一致させるために,重ね合わせた投光器の各々の光学系をレンズシフトさせて,所定の被写体距離において像が重なる様にする。
投光系の投光器と撮像素子とは,ストライプ方向と直行する方向に主点があっていればよいので,投光器を1つだけにしてもよい。
上記投光器が1つだけの場合においては,所定の被写体距離において投影するストライプ画像と撮影する画角が重なる様に投光器あるいは第1のカメラ,もしくはその両方の光学系をレンズシフトさせる様にする。
あるいは上記投光器の投影レンズと第1のカメラの撮像レンズを直近に配列し,近似的に同軸になるように構成してもよい。
さらに本発明を説明する。
本発明の一側面によれば,上述の目的を達成するために,3次元画像撮影装置に:符号化されたストライプパターンを投影する投光器と;上記投光器によって投光されるストライプパターンを撮影する第1のカメラであって,その主点と上記投光器の主点とが上記ストライプパターンの長さ方向に沿うように配置された第1のカメラと;上記投光器によって投光されるストライプパターンを撮影する第2のカメラであって,その主点と上記第1のカメラの主点とが上記ストライプパターンの長さ方向と直角な方向に離間されるように配置される第2のカメラとを設け;上記投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの変化量が所定値以上の領域を判別し,その領域に新たな符号を割り当て,上記新たな符号を割り当てた後に上記投光器により投光された再符号化ストライプパターンを上記第2のカメラで撮影し,上記第2のカメラにより撮影した上記再符号化ストライプパターンの画像に基づいて上記ストライプパターンの投影される3次元物体の距離情報を生成するようにしている。
第2のカメラの主点と第1のカメラの主点とはストライプパターンの長さ方向と直角な方向に沿う同一直線上に配置されることが好ましいが,ストライプパターンの長さ方向と直角以外の所定の角度をなす同一直線上に配置されていてもよい。
この構成においては,上述したように投光系の投光器と投光系の撮像素子(第1のカメラ)の間にハーフミラーやビームスプリッターを配置させる必要がないので画像の劣化を回避できる。なお,ストライプパターンを再符号化せずに,第1のカメラ及び第2のカメラの撮像画像から距離画像を三角測量により計算するようにしても良い。
本発明の上述の側面及び本発明の他の側面は特許請求の範囲に記載され,以下,実施例を用いて詳細に説明される。
本発明によれば,従来の計測装置で使用していたハーフミラ,ビームスプリッタが不必要になり,撮像装置の間の介在物に起因する明度の差,汚れ,埃などによる写り込みなどの問題が原理的に発生しないので,より精度の高い計測が可能となる。
以下,本発明の実施例について詳細に説明する。
図1は本発明の実施例の3次元画像撮影装置を上面から見た図であり,図2はその3次元画像撮影装置を斜め上から見た図である。この実施例では,パターン投影装置(投光器。プロジェクタとも呼ぶ)を2台用いている。パターン投影装置は例えばスクリーンに画像を投影する市販のプロジェクタを用いることができる。
なお,この実施例において,符号化ストライプパターンの生成,符号化ストライプパターンのモニタ,モニタに基づく再符号化,三角測量等は,図20〜図31を用いて説明した上述従来技術と同様であり,これらの点について説明は繰り返さない。
図1及び図2において,3次元画像撮影装置は,2台のパターン投影装置(プロジェクタ)10,11,プロジェクタ10,11に対して同一光軸でパターンモニタする撮像装置(カメラ1)12,三角測量用の撮像装置(カメラ2)13等により構成される。ここで,同一光軸とは,パターンのストライプに沿う同一の平面内にパターン投影装置10,11,モニタ用の撮像装置12の光軸が配置されることを意味する。
基本的には,上述の従来例と同様にパターン投影装置10,11によって投影されたストライプパターンを同主点の撮像装置(カメラ1)12から観測し再符号化を実施し,測定用撮像装置(カメラ2)13で観測された画像を利用して距離画像を算出する。再符号化を実施する事によって,エラーのない精度の高い計測が可能になる。投影装置は,プロジェクタもしくはレーザストライプ投影系を用いる。もちろん,これらに限定されない。
この実施例においては,図2に明確に示されるように,パターン投影装置10,11をストライプパターン方向に二台重ねて,同じパターンを投影し,撮像装置(カメラ1)12をパターン投影装置10,11の間に配置し,この結果,図3に示すように,ストライプ画像の広がり方向に対するレンズの主点を合わせて再符号化を実施するようにしている。
具体的に解説する。図4に側面から見た図を示す。上下に配置されるものがパターン投影装置10,11であり,中間にあるのが撮像装置(カメラ1)12である。パターン投影装置10,11は,一般的にプロジェクタのスタック方式と呼ばれる配置で,スクリーン(0の位置)上で,上下の投影装置が同じパターンを投影し,歪みやずれのない画像を投影している。上下投影装置の投影画像が重なる様にするために,投射レンズシフトを各々用いている。ストライプパターンとして,図5のようなパターンを投影し,上下に重ねて同じストライプパターンを投影している。また,仮にスクリーンが前後にずれた場合を考える。(+)方向すなわち前面にずれた場合,上下投影装置の画像はずれを生じる。図6に示すように,上下のプロジェクタの光路が重なっているところは,図5と同様なパターンになるが,上下光路が重なっていないところは,明るさが一台の投影装置分となるために,図6のような画像が(+)の位置では投影される。(−)方向すなわち後面にずれた場合も同様で図7のような画像になる。再符号化の場合は,被写体などの情報によって,ストライプパターンが変化する事によるご認識をなくすことを目的にしており,図6,図7の様にストライプ形状が維持されていて,かつ,ストライプ方向の濃度分布が変化することは,再符号化を実施している限り問題がない。
具体的な被写体を元に解説する。図8の本発明の3次元形状計測装置の前面に,二つの平板を並べた計測を実施する概略図を示す。図9に側面図を示す。この構成から観測される撮像装置(カメラ1)12の画像は図10に示すようになる。すなわち,手前の平板の影になる部分には,投影装置のどちらか一つの投光パターンのみが投影される。図11及び図13に示すようにパターン投影装置10,11が仮に一台である構成を仮定すれば,図12及び図14に示すとおり,手前の平板の影が後ろの平板に映りストライプパターンが存在しないエリアが発生する。図10に示すように,物体の影によって投影装置のどちらか一台が投影出来なくても,撮像装置(カメラ1)12で観測される画像においては,どちらか一台の投影装置のストライプパターンは撮像され,再符号化も実施することが可能になる。
以上の構成で,撮像装置(カメラ1)12で再符号化し,撮像装置(カメラ2)13で確認された画像を用いて,三角測量の原理の基づいて距離画像が算出される。
なお,上述の例では,パターン投影装置を2台設けたが,3台以上設けてもよい。また,パターン投影装置を1台としてもよい。この場合,上述の図12及び図14に示すようにパターンが形成されない部分ができ,その部分に関してコードによる対応づけができなくなり,その部分の距離計算ができなくなる。この場合,近傍の距離を用いて補間する等の処理を行えばよい。あるいは,対象物と3次元画像撮影装置とを相対的に移動させて実測できない部分を実測可能なようにすればよい。
パターン投影装置1台の場合(符号10で表す),図15及び図16に示すように投影装置10の投射レンズシフトを使わずに,撮像装置12,13であるカメラ1,2のレンズシフトを行うことによって,図11及び図13と同じ効果を得ることが出来る。一般的に,投影装置10と撮像装置12,13を比べた場合,装置及びレンズの大きさ・重量は撮像装置10の方が小型・軽量であり,レンズシフトによる位置合わせの調整コストや固定治具コストなどの装置全体のコストが安くなることが期待できる。
更に,パターン投影装置2台(もしくはそれ以上)の場合,あるいは,パターン撮影装置1台の場合,図17,図18及び図19に示すように投影装置10等及び撮影装置12の光学レンズシフトを使わずに,各々のレンズ間隔を近接させることによって図9,図11及び図13と同じ効果を得ることが出来る。一例として,各々のレンズの中心の間隔が35mmとし,投影・撮像距離が1,000mmであった場合,約2度の角度差しか発生しない為,近似的に同軸であると考えられる。各々のレンズのシフト機能を使用せずに装置全体の固定のみで構成できるために,コスト削減にメリットがある。
また,パターン投影装置10を用いた形状測定とパターン投影装置11を用いた形状測定を別々に行い,測定結果を補完するようにしてもよい。すなわち,上述実施例のように2つの上下のパターン投影装置10,11のストライプパターンを完全に重なるように調整するには,かなりの精度と工数が要求される。これに対してパターン投影装置と撮像装置との間の主点あわせの調整の工数は少ない。そこでパターン投影装置10及びパターン投影装置11の投影を別々に行い,それぞれの投影で撮像装置(カメラ1)12及び撮像装置(カメラ2)13を用いた形状測定を行う。パターン投影装置10,11のそれぞれでは影ができ,一部の形状測定ができない。しかしながら,影の部分はパターン投影装置10,11で異なるため,両方の形状測定の結果をあわせれば完全な形状測定結果を得ることができる。このように一回の撮影・形状測定に拘泥しなければ,簡易に完全な形状測定を行える。
なお,上述実施例において,形状測定(距離画像の取得)にあわせて物体の表面テクスチャ(輝度情報。グレースケール及びカラー)も簡易に取得できる。
例えば,撮像装置12(カメラ1)及び撮像装置(カメラ2)により得られたストライプパターンの画像からストライプパターンが投影される3次元物体の表面のテクスチャ情報を生成することができる。
また,パターン投影装置10,11からストライプパターンが照射されていない時に撮像装置12(カメラ1),撮像装置(カメラ2)あるいはこれ以外の撮像装置によって撮影された撮像画像から,テクスチャ情報を取得する。
また,三次元画像情報とテクスチャ情報とを同時に取得する構成も採用できる。すなわち,撮像装置12(カメラ1)及び撮像装置(カメラ2)により得られた上記ストライプパターンの画像から得られる三次元画像情報と同時に,上記表面テクスチャ情報を取得するために,テクスチャ撮影用のカメラ3を用いる。そして,上記ストライプパターンが投影される3次元物体の表面テクスチャ情報を取得するために,上記投光器から照射されるストライプパターンは赤外もしくは紫外領域で構成する。撮像装置12(カメラ1)及び撮像装置(カメラ2)の分光感度は,投影されるストライプパターンの分光に対応して構成され,テクスチャ撮影用のカメラ3の分光は,赤外もしくは紫外のストライプパターンの分光感度を持たない可視領域のみとする。これにより,カメラ1及びカメラ2で赤外光等により三次元画像情報(距離画像)を取得し,同時に,カメラ3で可視光によりテクスチャ情報を取得する。
10 パターン投影装置(プロジェクタ1)
11 パターン投影装置(プロジェクタ2)
12 撮像装置(カメラ1)
13 撮像装置(カメラ2)
11 パターン投影装置(プロジェクタ2)
12 撮像装置(カメラ1)
13 撮像装置(カメラ2)
Claims (15)
- 符号化されたストライプパターンを投影する投光器と,
上記投光器によって投光されるストライプパターンを撮影する第1のカメラであって,その主点と上記投光器の主点とが上記ストライプパターンの長さ方向に沿うように配置された第1のカメラと,
上記投光器によって投光されるストライプパターンを撮影する第2のカメラであって,その主点と上記第1のカメラの主点とが上記ストライプパターンの長さ方向と直角な方向に離間されるように配置される第2のカメラとを有し,
上記投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの変化量が所定値以上の領域を判別し,その領域に新たな符号を割り当て,上記新たな符号を割り当てた後に上記投光器により投光された再符号化ストライプパターンを上記第2のカメラで撮影し,上記第2のカメラにより撮影した上記再符号化ストライプパターンの画像に基づいて上記ストライプパターンの投影される3次元物体の距離情報を生成することを特徴とする3次元画像撮影装置。 - 所定の撮影距離での投影画像及び撮像画像を一致させる為に,上記投光器の光学系をレンズシフトさせる請求項1記載の3次元画像撮影装置。
- 所定の撮影距離での投影画像及び撮像画像を一致させる為に,上記第1のカメラの光学系もしくは第1のカメラ及び第2のカメラ双方の光学系をレンズシフトさせる請求項1記載の3次元画像撮影装置。
- 所定の撮影距離での投影画像及び撮像画像を一致させる為に,上記投光器と上記第1のカメラのレンズを近接させて近似的に同軸となる様に配置する請求項1記載の3次元画像撮影装置。
- 上記投光器の他に,1以上の投光器を設け,すべての投光器の主点と上記第1のカメラの主点とが,上記ストライプパターンの長さ方向に沿うようにし,かつ,上記すべての投光器から投光される符号化ストライプパターンが一致するようにした請求項2記載の3次元画像撮影装置。
- 上記投光器の他に,1以上の投光器を設け,すべての投光器の主点と上記第1のカメラの主点とが,上記ストライプパターンの長さ方向に沿い,かつ,近似的に合致する様に,各々を近接的に配置するようにした請求項4記載の3次元画像撮影装置。
- 設けられた上記投光器は全部で2つであり,2つの上記投光器は上記第1のカメラを挟むように配置される請求項5又は6記載の3次元画像撮影装置。
- 上記第1のカメラ及び上記第2のカメラにより得られた上記ストライプパターンの画像から上記ストライプパターンが投影される3次元物体の表面のテクスチャ情報を生成する請求項1,2,3,4,5,6又は7記載の3次元画像撮影装置。
- 上記表面テクスチャ情報は,上記投光器からのストライプパターンが照射されていない時に上記第1のカメラによって撮影された撮像画像から取得する請求項1,2,3,4,5,6又は7記載の3次元画像撮影装置。
- 上記表面テクスチャ情報は,上記投光器からのストライプパターンが照射されていない時に上記第2のカメラによって撮影された撮像画像から取得する請求項1,2,3,4,5,6又は7記載の3次元画像撮影装置。
- 上記表面テクスチャ情報は,上記投光器からのストライプパターンが照射されていない時に上記第1のカメラや上記第2のカメラ以外の第3のカメラによって撮影された撮像画像から取得する請求項1,2,3,4,5,6又は7記載の3次元画像撮影装置。
- 上記第1のカメラ及び上記第2のカメラにより得られた上記ストライプパターンの画像から得られる三次元画像情報と同時に,上記表面テクスチャ情報を取得するために,テクスチャ撮影用の第3のカメラを用い,上記ストライプパターンが投影される3次元物体の表面テクスチャ情報を取得するために,上記投光器から照射されるストライプパターンは赤外もしくは紫外領域で構成され,上記第1のカメラ及び上記第2のカメラの分光感度は,投影されるストライプパターンの分光に対応して構成され,テクスチャ撮影用の上記第3のカメラの分光は,赤外もしくは紫外のストライプパターンの分光感度を持たない可視領域のみである請求項1,2,3,4,5,6又は7記載の3次元画像撮影装置。
- 符号化されたストライプパターンを投影する投光器と,
上記投光器によって投光されるストライプパターンを撮影する第1のカメラであって,その主点と上記投光器の主点とが上記ストライプパターンの長さ方向に沿うように配置された第1のカメラと,
上記投光器によって投光されるストライプパターンを撮影する第2のカメラであって,その主点と上記第1のカメラの主点とが上記ストライプパターンの長さ方向と直角な方向に離間されるように配置される第2のカメラとを有し,
上記投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの撮像画像と,上記第2のカメラにより撮影したストライプパターンの撮像画像とに基づいて上記ストライプパターンの投影される3次元物体の距離情報を生成することを特徴とする3次元画像撮影装置。 - 符号化されたストライプパターンを投影する投光器と,上記投光器によって投光されるストライプパターンを撮影する第1のカメラ及び第2のカメラとを用意し,上記投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの変化量が所定値以上の領域を判別し,その領域に新たな符号を割り当て,上記新たな符号を割り当てた後に上記投光器により投光された再符号化ストライプパターンを上記第2のカメラで撮影し,上記第2のカメラにより撮影した上記再符号化ストライプパターンの画像に基づいて上記ストライプパターンの投影される3次元物体の距離情報を生成する3次元画像撮影方法において,上記第1のカメラの主点と上記投光器の主点とを上記ストライプパターンの長さ方向に沿うようにし,上記第1のカメラの主点と上記第2のカメラの主点とを上記ストライプパターンの長さ方向と直角な方向に離間させることを特徴とする3次元画像撮影方法。
- 符号化されたストライプパターンを投影する第1の投光器及び第2の投光器と,上記第1の投光器及び上記第2の投光器によって投光されるストライプパターンを撮影する第1のカメラ及び第2のカメラとを用意し,上記第1のカメラの主点と上記第1の投光器及び上記第2の投光器の各主点とを上記ストライプパターンの長さ方向に沿うようにし,かつ,上記2つの投光器を上記第1のカメラを挟むように配置し,上記第1のカメラの主点と上記第2のカメラの主点とを上記ストライプパターンの長さ方向と直角な方向に離間させ,
上記第1の投光器及び上記第2の投光器を異なる期間でそれぞれ投影駆動し,
上記第1の投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの変化量が所定値以上の領域を判別し,その領域に新たな符号を割り当て,上記新たな符号を割り当てた後に上記第1の投光器により投光された再符号化ストライプパターンを上記第2のカメラで撮影し,上記第2のカメラにより撮影した上記再符号化ストライプパターンの画像に基づいて上記ストライプパターンの投影される3次元物体の第1の距離情報を生成し,
上記第2の投光器により投光されたストライプパターンに対する,上記第1のカメラにより撮影したストライプパターンの変化量が所定値以上の領域を判別し,その領域に新たな符号を割り当て,上記新たな符号を割り当てた後に上記第2の投光器により投光された再符号化ストライプパターンを上記第2のカメラで撮影し,上記第2のカメラにより撮影した上記再符号化ストライプパターンの画像に基づいて上記ストライプパターンの投影される3次元物体の第2の距離情報を生成し,
上記第1の距離情報及び上記第2の距離情報をあわせて全体の距離情報とすることを特徴とする3次元画像撮影方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003299505A JP2004110804A (ja) | 2002-08-28 | 2003-08-25 | 3次元画像撮影装置及び方法 |
US10/702,597 US7075625B2 (en) | 2002-08-28 | 2003-11-07 | Range finder and method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002248034 | 2002-08-28 | ||
JP2003299505A JP2004110804A (ja) | 2002-08-28 | 2003-08-25 | 3次元画像撮影装置及び方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004110804A true JP2004110804A (ja) | 2004-04-08 |
Family
ID=32301225
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003299505A Withdrawn JP2004110804A (ja) | 2002-08-28 | 2003-08-25 | 3次元画像撮影装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004110804A (ja) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006058142A (ja) * | 2004-08-20 | 2006-03-02 | Fuji Xerox Co Ltd | 3次元形状測定装置および方法 |
WO2011122262A1 (ja) * | 2010-03-31 | 2011-10-06 | 株式会社トプコン | ターゲット投影装置及びターゲット投影方法 |
JP2012029047A (ja) * | 2010-07-23 | 2012-02-09 | Nippon Telegr & Teleph Corp <Ntt> | 画像入力装置、画像入力方法及び画像入力プログラム |
WO2013008804A1 (ja) * | 2011-07-11 | 2013-01-17 | キヤノン株式会社 | 計測装置および情報処理装置 |
JP2015501574A (ja) * | 2011-11-04 | 2015-01-15 | エンパイア テクノロジー ディベロップメント エルエルシー | 画像のためのir信号捕捉 |
KR20150009700A (ko) * | 2013-07-17 | 2015-01-27 | 현대모비스 주식회사 | 적외선 카메라를 이용한 차량 제어 방법 및 이를 위한 장치 |
US9781397B2 (en) | 2015-10-05 | 2017-10-03 | Panasonic Intellectual Property Management Co., Ltd. | Projector and projector system |
JP2018538107A (ja) * | 2015-09-23 | 2018-12-27 | イースト カロライナ ユニバーシティ | 発光体を使用して物体距離及びターゲット寸法を測定する方法、システム、及びコンピュータプログラム製品 |
JP2019191310A (ja) * | 2018-04-23 | 2019-10-31 | 株式会社モリテックス | プロジェクタおよびこれを用いた空間周波数成分の低減方法 |
KR20200016994A (ko) * | 2017-07-06 | 2020-02-17 | 항저우 스캔테크 컴파니 리미티드 | 사진 측량 및 3 차원 스캔 기능을 동시에 갖는 핸드헬드 대형 3 차원 측정 스캐너 시스템 |
US11272147B2 (en) | 2017-03-17 | 2022-03-08 | Panasonic Intellectual Property Management Co., Ltd. | Projector and projector system |
US12033269B2 (en) | 2021-07-12 | 2024-07-09 | Toyota Jidosha Kabushiki Kaisha | Virtual reality simulator and virtual reality simulation program |
-
2003
- 2003-08-25 JP JP2003299505A patent/JP2004110804A/ja not_active Withdrawn
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006058142A (ja) * | 2004-08-20 | 2006-03-02 | Fuji Xerox Co Ltd | 3次元形状測定装置および方法 |
JP4543821B2 (ja) * | 2004-08-20 | 2010-09-15 | 富士ゼロックス株式会社 | 3次元形状測定装置および方法 |
WO2011122262A1 (ja) * | 2010-03-31 | 2011-10-06 | 株式会社トプコン | ターゲット投影装置及びターゲット投影方法 |
JP2012029047A (ja) * | 2010-07-23 | 2012-02-09 | Nippon Telegr & Teleph Corp <Ntt> | 画像入力装置、画像入力方法及び画像入力プログラム |
WO2013008804A1 (ja) * | 2011-07-11 | 2013-01-17 | キヤノン株式会社 | 計測装置および情報処理装置 |
JP2013036983A (ja) * | 2011-07-11 | 2013-02-21 | Canon Inc | 計測装置および情報処理装置 |
US9014433B2 (en) | 2011-07-11 | 2015-04-21 | Canon Kabushiki Kaisha | Measurement apparatus, information processing apparatus, information processing method, and storage medium |
US8976249B2 (en) | 2011-11-04 | 2015-03-10 | Empire Technology Development Llc | IR signal capture for images |
JP2015501574A (ja) * | 2011-11-04 | 2015-01-15 | エンパイア テクノロジー ディベロップメント エルエルシー | 画像のためのir信号捕捉 |
US9398288B2 (en) | 2011-11-04 | 2016-07-19 | Empire Technology Development Llc | IR signal capture for images |
KR20150009700A (ko) * | 2013-07-17 | 2015-01-27 | 현대모비스 주식회사 | 적외선 카메라를 이용한 차량 제어 방법 및 이를 위한 장치 |
KR102083682B1 (ko) | 2013-07-17 | 2020-03-02 | 현대모비스 주식회사 | 적외선 카메라를 이용한 차량 제어 방법 및 이를 위한 장치 |
JP2018538107A (ja) * | 2015-09-23 | 2018-12-27 | イースト カロライナ ユニバーシティ | 発光体を使用して物体距離及びターゲット寸法を測定する方法、システム、及びコンピュータプログラム製品 |
US9781397B2 (en) | 2015-10-05 | 2017-10-03 | Panasonic Intellectual Property Management Co., Ltd. | Projector and projector system |
US11272147B2 (en) | 2017-03-17 | 2022-03-08 | Panasonic Intellectual Property Management Co., Ltd. | Projector and projector system |
KR20200016994A (ko) * | 2017-07-06 | 2020-02-17 | 항저우 스캔테크 컴파니 리미티드 | 사진 측량 및 3 차원 스캔 기능을 동시에 갖는 핸드헬드 대형 3 차원 측정 스캐너 시스템 |
KR102209255B1 (ko) * | 2017-07-06 | 2021-01-29 | 스캔테크(항저우) 컴파니 리미티드 | 사진 측량 및 3 차원 스캔 기능을 동시에 갖는 핸드헬드 대형 3 차원 측정 스캐너 시스템 |
JP2019191310A (ja) * | 2018-04-23 | 2019-10-31 | 株式会社モリテックス | プロジェクタおよびこれを用いた空間周波数成分の低減方法 |
US12033269B2 (en) | 2021-07-12 | 2024-07-09 | Toyota Jidosha Kabushiki Kaisha | Virtual reality simulator and virtual reality simulation program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7075625B2 (en) | Range finder and method | |
JP3714063B2 (ja) | 3次元形状計測装置 | |
TW385360B (en) | 3D imaging system | |
US10782126B2 (en) | Three-dimensional scanning method containing multiple lasers with different wavelengths and scanner | |
EP2751521B1 (en) | Method and system for alignment of a pattern on a spatial coded slide image | |
JP3482990B2 (ja) | 3次元画像撮影装置 | |
KR20190051052A (ko) | 복수 개의 다른 파장의 레이저를 포함하는 3차원 스캔 방법 및 스캐너 | |
JP2009300268A (ja) | 3次元情報検出装置 | |
JP2002213931A (ja) | 3次元形状計測装置および3次元形状計測方法 | |
KR20120058828A (ko) | 3차원 좌표 추출 시스템 및 그 방법 | |
JP6821028B2 (ja) | 撮像装置および画像データ読み出し方法 | |
KR101824328B1 (ko) | 색수차를 이용한 3차원 스캐너 및 스캐닝 방법 | |
JP2004110804A (ja) | 3次元画像撮影装置及び方法 | |
WO2009120073A2 (en) | A dynamically calibrated self referenced three dimensional structured light scanner | |
JP3818028B2 (ja) | 3次元画像撮像装置および3次元画像撮像方法 | |
JP3384329B2 (ja) | 3次元画像撮影装置 | |
JP3965894B2 (ja) | 画像処理装置および画像処理方法 | |
JP3852285B2 (ja) | 3次元形状計測装置および3次元形状計測方法 | |
KR20240118827A (ko) | 구강 내 스캐너, 구강 내 스캐닝 시스템, 구강 내 스캔을 수행하는 방법 및 컴퓨터 프로그램 제품 | |
JP3932776B2 (ja) | 3次元画像生成装置および3次元画像生成方法 | |
US11195290B2 (en) | Apparatus and method for encoding in structured depth camera system | |
JP2002013918A (ja) | 3次元画像生成装置および3次元画像生成方法 | |
KR101358429B1 (ko) | 4면 광학계 | |
JP2006058092A (ja) | 3次元形状測定装置および方法 | |
JP4543821B2 (ja) | 3次元形状測定装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060724 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20070726 |