JP2008008907A - 3次元形状計測方法および装置ならびにプログラム - Google Patents

3次元形状計測方法および装置ならびにプログラム Download PDF

Info

Publication number
JP2008008907A
JP2008008907A JP2007213539A JP2007213539A JP2008008907A JP 2008008907 A JP2008008907 A JP 2008008907A JP 2007213539 A JP2007213539 A JP 2007213539A JP 2007213539 A JP2007213539 A JP 2007213539A JP 2008008907 A JP2008008907 A JP 2008008907A
Authority
JP
Japan
Prior art keywords
pixel
dimensional shape
light pattern
texture data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007213539A
Other languages
English (en)
Other versions
JP4985213B2 (ja
Inventor
Shizuo Sakamoto
静生 坂本
Rui Ishiyama
塁 石山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2007213539A priority Critical patent/JP4985213B2/ja
Publication of JP2008008907A publication Critical patent/JP2008008907A/ja
Application granted granted Critical
Publication of JP4985213B2 publication Critical patent/JP4985213B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】複数の形状およびテクスチャデータを合成したときにも段差が目立たず、クオリティの高い統合データを自動的に得る。
【解決手段】対応画素算出手段226が第1の位置・方向から計測したある画素における3次元座標点に対応する第2の位置・方向から撮影した画像列上の画素位置を求め、合致画素算出手段227が対応画素位置を基準とした部分画像をスキャンし、着目画素の光パターンに最も合致する光パターンを持つ合致画素を求めて3次元座標点を出力し、合致座標記憶手段228が合致した3次元座標点を対として保持し、補正量算出手段229が3つの手段を繰り返し3次元座標対を生成し、対となる3次元座標位置の差が最も小さくなるように第2の位置・方向から計測された座標点を変換する座標変換量を求め、3次元形状補正手段230が第2の位置・方向により計測した3次元形状を座標変換して出力する。
【選択図】図1

Description

本発明は3次元形状計測技術に関し、特に複数方向から計測した形状間や輝度・色情報の差を最小化する3次元形状計測方法,3次元形状計測装置,および該3次元形状計測をデータ処理装置(コンピュータ)で実行させるプログラムに関する。
従来から、物体の3次元形状を計測する様々な手法が提案されている。その中の一つの手法として、正弦波パターンを投影して計測する手法について、非特許文献1に基づいて説明する。
図6は、非特許文献1で記されている3次元形状計測装置の模式図を示す。図6を参照すると、光源101から正弦波状に濃淡値が印刷されている格子102を通して、物体100に対して正弦波状の輝度分布を持つ光パターンを投影する。該物体100上の点P104をカメラ103で撮影する。画像上における該点P104の座標値をx、該座標xにおける輝度値をI(x)とし、輝度値I(x)を数1で表すこととする。
Figure 2008008907
ここで、A0(x)はバイアス成分であり、φおよびα(x)はそれぞれ位相である。
物体100を静止させたままで格子102を軸u方向へと、印刷した正弦波パターンの波長の1/N(Nは正の整数)ずつN回ずらしながら画像を撮影してゆく。撮影された画像は、物体100に投影された正弦波光パターンが2π/Nラジアンずつ進行してゆくように見える。これを、位相φが0ラジアンから2π/Nラジアンずつ2π(N−1)/Nラジアンまでずれてゆくと解釈すると、k回目(0≦k<N)に得られるx地点での輝度値Ik(x)は、数2で表すことができる。
Figure 2008008907
位相α(x)は、k=0番目に撮影した画像におけるx地点での位相値となる。点P104は、カメラスクリーン上の座標xからレンズ中心を通過する半直線上に存在する。光源101から見たとき、点P104は、正弦波格子102上において位相α(x)の直線と光源101で決まる平面上に存在する。故に、上記直線と平面との交点を求めれば、該交点の3次元座標値が点P104のものであることがわかる。
上記数2は、次の数3で示す新しい2つの係数A1(x),B1(x)を導入することで、続く数4と書き換えることができる。
Figure 2008008907
Figure 2008008907
A1(x)およびB1(x)は、それぞれN回の撮影で得たx地点での輝度値I0(x),…,IN−1(x)を用いて、次の数5で求めることができる。
Figure 2008008907
また、位相α(x)は、次の数6で求まる。
Figure 2008008907
上記した位相計算をカメラ103で撮影された画像上の各画素で実行することで、画像上の物体100の位相値が得られる。
ところで、上記数6から得られる位相α(x)は、逆正接関数tan−1()を用いて計算していることからも分かるように、全て−πからπまでの間に折り返されてしまっている。このため、求められた位相α(x)は、2πの整数倍だけ不定性を持ってしまい、このままでは物体100の3次元形状を求めることができない。
このように、物体100全体に対して、一周期だけからなる正弦波パターンを投射することで、位相を一意に決められるようにすることができるが、このとき、物体100全体に、−πからπまでの狭い位相値を割り付けるために、高い計測精度が得られないという問題点がでてくる。
そこで、通常、初期位相の値域を広げ、物体100に対して複数周期の正弦波パターンを投射することで、位相の一意性を犠牲にして計測精度を向上させる方法がとられている。
図7は、カメラ103で撮影された画像上の各画素において、求めた位相の例である位相画像105を示す図である。図7では、位相−πからπラジアンを、黒から白へと割り付けて示している。本図7により明らかなように、例えば平面を計測したとしても計測された位相値は不連続となるため、何らかの手法により画像内で相対的な位相値を決定して、連続した値へと変換する必要がある。また、そのままでは位相値の絶対値は得られないため、何らかの手法で別途絶対位相を決定しなければならない。
上記問題点を、異なる位置に置かれたカメラや投光装置を付け加えて利用することにより解決する手法について、特許文献1に基づいて説明する。
図8は、従来の3次元形状計測装置300のブロック図を示す。この3次元形状計測装置300は、光投射器A201と、光投射器B202と、カメラA203と、カメラB204と、光投射器・カメラ制御手段205と、画像記憶手段A−A206と、画像記憶手段A−B207と、画像記憶手段B−A208と、画像記憶手段B−B209と、位相計算手段210と、位相記憶手段A−A211と、位相記憶手段A−B212と、位相記憶手段B−A213と、位相記憶手段B−B214と、絶対位相決定手段A−A/B−A215と、絶対位相決定手段A−B/B−B216と、絶対位相値変換手段217と、3次元座標値変換手段218と、3次元座標値記憶手段A−A219と、3次元座標値記憶手段B−B220と、3次元座標値合成手段221と、光投射器A/カメラA相対位置記憶手段223と、光投射器B/カメラB相対位置記憶手段224と、カメラA/B相対位置記憶手段225とを含んで構成されていた。
図9は、3次元形状計測装置300の模式図を示す。3次元形状計測装置300は、光投射器A201および光投射器B202と、カメラA203およびカメラB204とが、図9に示すように配置されており、光投射器A201とカメラA203との対で計測された3次元形状と、光投射器B202とカメラB204との対で計測された3次元形状とを合成して出力するものであるとする。
図10は、絶対位相値決定方法のうちの一つの説明図である。
光投射器A201により投射された正弦波パターンをカメラA203により撮影して得た位相画像である画像A(光パターンA)116を、図10左上に示す。本画像中の点P112の絶対位相値、すなわち3次元座標位置は、以下のような手順にて得ることができる。まず、点P112位置における画像A(光パターンA)116上の位相値より、2πの整数倍の不定性を加味すると、3次元空間上における点Pの候補位置は、図10下に示した点P1113,P2114,およびP3115となる。カメラB204から上記点P1113,P2114およびP3115へと向かう視線を求め、光投射器A201により投射された正弦波パターンをカメラB204により撮影して得た位相画像である画像B(光パターンA)117上に、図10右上のようにプロットしたとき、本画像B(光パターンA)117上の対応点の位相値から点P1113,P2114,およびP3115に対応する点を得ることができる。画像A(光パターンA)116上の点P112の相対位相値と、画像B(光パターンA)117上の前記候補点のうちの1点のみが唯一相対位相値が合致したときに正しく3次元座標が計測できたとし、そのときの絶対位相値が決定できるとする。以上の手続きを画像A(光パターンA)116上の全ての点において繰り返すことにより、絶対位相信号A−A(A−A/B−A)19を得ることができる。同様にして、絶対位相信号B−B(A−B/B−B)20を得ることができる。さらに、確からしい絶対位相を得るには、画像A(光パターンA)116上または画像B(光パターンA)117上において、絶対位相信号A−A(A−A/B−A)19および絶対位相信号B−B(A−B/B−B)20が得られた画素位置の積を求めておき、該積が存在する画素位置のみ絶対位相信号A−A(A−A/B−A)19と絶対位相信号B−B(A−B/B−B)20とが出力されるようにマスクすることで実現できる。
本処理により、必ずしも全ての地点について絶対位相が決定できるとは限らないが、カメラA203とカメラB204との双方より視認できる領域については、大部分の点において絶対位相が得られる。これら絶対位相が得られた点群をそれぞれ中心とした周囲の画素について、絶対位相が得られていない場合には位相差ができるだけ小さくなるように2πの整数倍を足し引きしてやることを繰り返すにより、画像全体での絶対位相を得ることができる。
以上の処理によって得られた絶対位相信号A−A(A−A/B−A)19から3次元座標値変換手段218により、光投射器A201とカメラA203との三角測量の原理により3次元形状が計算できる。光投射器B202とカメラB204との対についても同様に計算でき、最終的に3次元座標値記憶手段A−A219および3次元座標値記憶手段B−B220へと保存された形状データを3次元座標値合成手段221により合成することにより、計測対象の物体100全体の形状を得ることができる。
上記従来手法において、カメラA203およびカメラB204として通常のカメラを用いることも可能であるため、別途フラッシュ等の照明を利用してテクスチャ画像を撮影しておくことで、3次元形状物体の外観であるテクスチャデータ(画像)を取得することもできる。このテクスチャデータを、計測した形状データに対して貼り付けて、3次元CG(Computer Graphics)におけるテクスチャマッピングの手法により様々な方向から眺めることのできるカタログ等の応用に供することもできる。
「縞走査を導入した格子パターン投影法」(精密工学会誌、Vol.55,No.10,pp.1817〜1822,1989年) 特開2001−012925
しかしながら、上記特許文献1において述べられている従来手法では、光投射器A201および光投射器B202と、カメラA203およびカメラB204との位置関係は非常によくわかっており、どのペアで座標値を求めてもほぼ同一の座標地点として求めることができる場合には、3次元座標値合成手段221において相補的な合成などによりデータを合成するだけできれいな全体の形状データを得ることができるが、実際には相互位置関係を完全に知ることは不可能であり、それぞれのペアにおいて求めた形状間で、微妙に位置ずれを起こす,大きさが異なってしまうといった問題点がある。そのため単純に各々の形状を合成すると、各形状間において段差が生じてしまう。
図11を用いて形状の合成の一手法について説明する。物体100を手前左方向にカメラA203および光投射器A201、同右方向にカメラB204および光投射器B202を配置して計測すると、それぞれカメラから見える範囲の形状を、図中のカメラA(光パターンA)計測の物体106およびカメラB(光パターンB)計測の物体107として得ることができる。カメラや光投射器の位置関係を完全に知ることは困難であるため、これらカメラおよび光投射器を用いて得られた上記計測物体は、相互に微妙に位置ずれや大きさずれを起こしてしまっている。最も単純な合成方法として、適当な平面にて左右に分割することにより、それぞれカメラA(光パターンA)計測の半物体108およびカメラB(光パターンB)計測の半物体109のように相補的な有効領域を取り出した後に両者を合わせて最終合成物体110を生成する。このとき、位置ずれや大きさずれから段差111が生じることとなり、結果としてクオリティの低い形状しか得られないこととなる。
文献(3)(特開平05−303629)においては、物体の部分形状と部分形状上のテクスチャとを用い、テクスチャを手がかりとして位置合わせを行っているが、物体表面が無地であると本方式は無力である。また、形状における凹凸などの特徴的な位置を基準とした位置合わせも可能ではあるが、文献(3)の手法と同様に、物体表面に位置合わせの手がかりとなる形状がない場合には利用できない。
人手により形状の総体位置等を変更して段差ができるだけ少なくなるように調整することも可能ではあるが、非常に労力がかかる上、基本的に一つ一つの計測に対して個別に対処することとなるために実用的でない。
また、形状だけでなく得られるテクスチャ画像についても、カメラA203とカメラB204との特性が一般に異なることから微妙な差違が生じ、結果的にクオリティの低い合成テクスチャデータを得てしまうこととなる。
文献(4)(特開2001−084395)では、2つの形状データの境界位置において、形状とテクスチャとをボクセルという表現へと変更した後に一種のなじませ合成を行う手法が述べられている。このように、一般的にデータ境界においてのりしろ領域を設け、この領域内にて徐々にブレンドしてゆく手法がとられるが、根本的な解決ではないために段差はとれず、また上記のりしろ領域は対象毎にアドホックに調整する必要があった。
本発明の目的は、上記2つの問題を解決し、形状やテクスチャの段差を目立たなくし、複数の形状およびテクスチャデータを合成したときにも段差が目立たず、クオリティの高い統合データを自動的に得ることができる3次元形状計測方法を提供することにある。
また、本発明の他の目的は、上記3次元形状計測方法による3次元形状の計測を行うための3次元形状計測装置を提供することにある。
さらに、本発明の別の目的は、上記3次元形状計測方法および3次元形状計測装置をデータ処理装置にて実現するための3次元形状計測プログラムを提供することにある。
前記目的を達成する、第1の発明の3次元形状計測方法は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する方法において、計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれを補正する工程を持つことを特徴とする。
第2の発明の3次元形状計測方法は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する方法において、計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測したテクスチャデータ間の輝度・色ずれを補正する工程を持つことを特徴とする。
第3の発明の3次元形状計測方法は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する方法において、計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれとテクスチャデータ間の輝度・色ずれとをともに補正する工程を持つことを特徴とする。
第4の発明の3次元形状計測方法は、第1の発明の3次元形状計測方法における前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正する工程において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める工程と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める工程と、前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における第2の位置・方向から計測された3次元座標位置とを対にして保持する工程と、前記3つの工程を繰り返して対応リストを生成する工程と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測された3次元形状を補正する工程とを持つことを特徴とする。
第5の発明の3次元形状計測方法は、第2の発明の3次元形状計測方法における前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正する工程において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める工程と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める工程と、前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する工程と、前記3つの工程を繰り返して対応リストを生成する工程と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを補正する工程とを持つことを特徴とする。
第6の発明の3次元形状計測方法は、第3の発明の3次元形状計測方法における前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正する工程において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める工程と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める工程と、前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における第2の位置・方向から計測された3次元座標位置とを対にして保持する工程と、前記3つの工程を繰り返して対応リストを生成する工程と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測された3次元形状を補正する工程とを持ち、前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正する工程において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める工程と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める工程と、前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する工程と、前記3つの工程を繰り返して対応リストを生成する工程と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを補正する工程とを持つことを特徴とする。
第7の発明の3次元形状計測方法は、第1ないし第6の発明の3次元形状計測方法のいずれかにおいて、2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする。
第8の発明の3次元形状計測方法は、第1ないし第7の発明の3次元形状計測方法のいずれかにおいて、3つ以上の位置・方向より画像の撮影を行うことを特徴とする。
第9の発明の3次元形状計測方法は、第1ないし第8の発明の3次元形状計測方法のいずれかにおいて、投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする。
第10の発明の3次元形状計測方法は、第9の発明の3次元形状計測方法において、投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
第11の発明の3次元形状計測方法は、第1ないし第8の発明の3次元形状計測方法のいずれかにおいて、投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする。
第12の発明の3次元形状計測方法は、第11の発明の3次元形状計測方法において、投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
一方、第13の発明の3次元形状計測装置は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する3次元形状計測装置において、光パターンが計測物体上へと投影された画像列,前記撮影を行う第1および第2の位置・方向,ならびに第1および第2の位置・方向から計測した3次元形状を入力とし、該第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれを補正して出力するずれ補正手段を持つことを特徴とする。
第14の発明の3次元形状計測装置は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する3次元形状計測装置において、光パターンが計測物体上へと投影された画像列,前記撮影を行う第1および第2の位置・方向,ならびに第1および第2の位置・方向から計測した3次元形状を入力とし、該第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測したテクスチャデータ間の輝度・色ずれを補正して出力するずれ補正手段を持つことを特徴とする。
第15の発明の3次元形状計測装置は、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する3次元形状計測装置において、光パターンが計測物体上へと投影された画像列,前記撮影を行う第1および第2の位置・方向,ならびに第1および第2の位置・方向から計測した3次元形状を入力とし、該第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれとテクスチャデータ間の輝度・色ずれとをともに補正して出力するずれ補正手段を持つことを特徴とする。
第16の発明の3次元形状計測装置は、第13の発明の3次元形状計測装置における前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正するずれ補正手段において、第1の位置・方向から撮影した画像列,同計測された3次元形状,および前記第1の位置・方向と第2の位置・方向との相対位置関係を入力とし、前記第1の位置・方向から計測したある画素における3次元座標点に着目し、該着目画素の光パターン,該着目3次元座標点,および該着目3次元座標点が対応する第2の位置・方向から撮影した画像列上の画素位置を求めて出力する対応画素算出手段と、前記着目画素の光パターン,前記対応する画素位置,前記第2の位置・方向から撮影した画像列,および同計測した3次元形状を入力とし、該対応画素位置を基準とした部分画像をスキャンし、着目画素の光パターンに最も合致する光パターンを持つ合致画素を求めてその画素に対応する3次元座標点を出力する合致画素算出手段と、前記着目した3次元座標点,および前記合致した3次元座標点を入力とし、両入力を対として保持し随時出力する合致座標記憶手段と、前記3つの手段を繰り返し3次元座標対を生成し前記合致座標記憶手段へと記録されたリストを入力とし、対となる3次元座標位置の差が最も小さくなるように前記第2の位置・方向から計測された座標点を変換する座標変換量を求めて出力する補正量算出手段と、前記座標変換量,および前記第2の位置・方向から計測した3次元形状を入力とし、第2の位置・方向により計測した3次元形状を座標変換して出力する3次元形状補正手段とを持つことを特徴とする。
第17の発明の3次元形状計測装置は、第14の発明の3次元形状計測装置における前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正するずれ補正手段において、第1の位置・方向から撮影した画像列,同第1の位置・方向から撮影したテクスチャデータ,同計測された3次元形状,および前記第1の位置・方向と第2の位置・方向との相対位置関係を入力とし、前記第1の位置・方向から計測したある画素における3次元座標点に着目し、該着目画素の光パターン,該着目テクスチャデータ,および該着目3次元座標点が対応する第2の位置・方向から撮影した画像列上の画素位置を求めて出力する対応画素算出手段と、前記着目画素の光パターン,前記対応する画素位置,前記第2の位置・方向から撮影した画像列,同計測した3次元形状,および同撮影したテクスチャデータを入力とし、該対応画素位置を基準とした部分画像をスキャンし、着目画素の光パターンに最も合致する光パターンを持つ合致画素を求めてその画素に対応するテクスチャデータを出力する合致画素算出手段と、前記着目したテクスチャデータ,および前記合致したテクスチャデータを入力とし、両入力を対として保持し随時出力する合致テクスチャ記憶手段と、前記3つの手段を繰り返しテクスチャデータ対を生成し前記合致テクスチャ記憶手段へと記録されたリストを入力とし、対となるテクスチャデータの差が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを変換するテクスチャ変換量を求めて出力する補正量算出手段と、前記テクスチャ変換量,および前記第2の位置・方向から計測したテクスチャデータを入力とし、第2の位置・方向により計測したテクスチャデータを変換して出力するテクスチャ補正手段とを持つことを特徴とする。
第18の発明の3次元形状計測装置は、第13の発明の3次元形状計測装置における前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正するずれ補正手段において、第1の位置・方向から撮影した画像列,同計測された3次元形状,および前記第1の位置・方向と第2の位置・方向との相対位置関係を入力とし、前記第1の位置・方向から計測したある画素における3次元座標点に着目し、該着目画素の光パターン,該着目3次元座標点,および該着目3次元座標点が対応する第2の位置・方向から撮影した画像列上の画素位置を求めて出力する対応画素算出手段と、前記着目画素の光パターン,前記対応する画素位置,前記第2の位置・方向から撮影した画像列,および同計測した3次元形状を入力とし、該対応画素位置を基準とした部分画像をスキャンし、着目画素の光パターンに最も合致する光パターンを持つ合致画素を求めてその画素に対応する3次元座標点を出力する合致画素算出手段と、前記着目した3次元座標点,および前記合致した3次元座標点を入力とし、両入力を対として保持し随時出力する合致座標記憶手段と、前記3つの手段を繰り返し3次元座標対を生成し前記合致座標記憶手段へと記録されたリストを入力とし、対となる3次元座標位置の差が最も小さくなるように前記第2の位置・方向から計測された座標点を変換する座標変換量を求めて出力する補正量算出手段と、前記座標変換量,および前記第2の位置・方向から計測した3次元形状を入力とし、第2の位置・方向により計測した3次元形状を座標変換して出力する3次元形状補正手段とを持ち、第14の発明の3次元形状計測装置における前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正するずれ補正手段において、第1の位置・方向から撮影した画像列,同第1の位置・方向から撮影したテクスチャデータ,同計測された3次元形状,および前記第1の位置・方向と第2の位置・方向との相対位置関係を入力とし、前記第1の位置・方向から計測したある画素における3次元座標点に着目し、該着目画素の光パターン,該着目テクスチャデータ,および該着目3次元座標点が対応する第2の位置・方向から撮影した画像列上の画素位置を求めて出力する対応画素算出手段と、前記着目画素の光パターン,前記対応する画素位置,前記第2の位置・方向から撮影した画像列,同計測した3次元形状,および同撮影したテクスチャデータを入力とし、該対応画素位置を基準とした部分画像をスキャンし、着目画素の光パターンに最も合致する光パターンを持つ合致画素を求めてその画素に対応するテクスチャデータを出力する合致画素算出手段と、前記着目したテクスチャデータ,および前記合致したテクスチャデータを入力とし、両入力を対として保持し随時出力する合致テクスチャ記憶手段と、前記3つの手段を繰り返しテクスチャデータ対を生成し前記合致テクスチャ記憶手段へと記録されたリストを入力とし、対となるテクスチャデータの差が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを変換するテクスチャ変換量を求めて出力する補正量算出手段と、前記テクスチャ変換量,および前記第2の位置・方向から計測したテクスチャデータを入力とし、第2の位置・方向により計測したテクスチャデータを変換して出力するテクスチャ補正手段とを持つことを特徴とする。
第19の発明の3次元形状計測装置は、第13ないし第18の発明の3次元形状計測装置のいずれかにおいて、2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする。
第20の発明の3次元形状計測装置は、第13ないし第19の発明の3次元形状計測装置のいずれかにおいて、3つ以上の位置・方向より画像の撮影を行うことを特徴とする。
第21の発明の3次元形状計測装置は、第13ないし第20の発明の3次元形状計測装置のいずれかにおいて、投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする。
第22の発明の3次元形状計測装置は、第21の発明の3次元形状計測装置において、投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
第23の発明の3次元形状計測装置は、第13ないし第20の発明の3次元形状計測装置のいずれかにおいて、投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする。
第24の発明の3次元形状計測装置は、第23の発明の3次元形状計測装置において、投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
他方、第25の発明のプログラムは、コンピュータに、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する処理,ならびに計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれを補正する処理を実行させることを特徴とする。
第26の発明のプログラムは、コンピュータに、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する処理,ならびに計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測したテクスチャデータ間の輝度・色ずれを補正する処理を実行させることを特徴とする。
第27の発明のプログラムは、コンピュータに、計測物体へと光パターンを投影しながら第1および第2の位置・方向より撮影した画像列に基づいて該第1および第2の位置・方向からの3次元形状を計測する処理,ならびに計測物体上へと投影された光パターンから第1および第2の位置・方向間の対応を精密に求めることにより、前記第1および第2の位置・方向から計測した3次元形状間の位置ずれとテクスチャデータ間の輝度・色ずれとをともに補正する処理を実行させることを特徴とする。
第28の発明のプログラムは、第25の発明のプログラムにおける前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正する処理において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める手順と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める手順と、前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における第2の位置・方向から計測された3次元座標位置とを対にして保持する手順と、前記3つの手順を繰り返して対応リストを生成する手順と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測された3次元形状を補正する手順とを持つことを特徴とする。
第29の発明のプログラムは、第26の発明のプログラムにおける前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正する処理において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める手順と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める手順と、前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する手順と、前記3つの手順を繰り返して対応リストを生成する手順と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを補正する手順とを持つことを特徴とする。
第30の発明のプログラムは、第27の発明のプログラムにおける前記第1および第2の位置・方向より計測した3次元形状間の位置ずれを補正する処理において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める手順と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める手順と、前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における第2の位置・方向から計測された3次元座標位置とを対にして保持する手順と、前記3つの手順を繰り返して対応リストを生成する手順と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測された3次元形状を補正する手順とを持ち、前記第1および第2の位置・方向より計測したテクスチャデータ間の輝度・色ずれを補正する処理において、第1の位置・方向から撮影した画像列上のある画素における3次元座標点に着目し、該点が対応する第2の位置・方向から撮影した画像列上の画素位置を求める手順と、前記第1の位置・方向から撮影した画像列上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める手順と、前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する手順と、前記3つの手順を繰り返して対応リストを生成する手順と、得られた対応リストの間の差違が最も小さくなるように前記第2の位置・方向から計測されたテクスチャデータを補正する手順とを持つことを特徴とする。
第31の発明のプログラムは、第25ないし第30の発明のプログラムのいずれかにおいて、2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする。
第32の発明のプログラムは、第25ないし第31の発明のプログラムのいずれかにおいて、3つ以上の位置・方向より画像の撮影を行うことを特徴とする。
第33の発明のプログラムは、第25ないし第32の発明のいずれかのプログラムにおいて、投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする。
第34の発明のプログラムは、第33の発明のプログラムにおいて、投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
第35の発明のプログラムは、第25ないし第32の発明のいずれかのプログラムにおいて、投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする。
第36の発明のプログラムは、第35の発明のプログラムにおいて、投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする。
本発明により、複数方向から計測した3次元形状の間の差違,輝度・色情報のテクスチャ画像の間の差違,またはそれら双方を最小化し、上記複数データを違和感なく合成することを可能とする3次元形状計測方法,3次元形状計測装置,および該3次元形状計測をデータ処理装置で実行させるプログラムを実現することが可能となる。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施の形態]図1は、本発明の第1の実施の形態に係る3次元形状計測装置301の構成を示すブロック図である。本実施の形態に係る3次元形状計測装置301は、光投射器A201と、光投射器B202と、カメラA203と、カメラB204と、光投射器・カメラ制御手段205と、画像記憶手段A−A206と、画像記憶手段A−B207と、画像記憶手段B−A208と、画像記憶手段B−B209と、位相計算手段210と、位相記憶手段A−A211と、位相記憶手段A−B212と、位相記憶手段B−A213と、位相記憶手段B−B214と、絶対位相決定手段A−A/B−A215と、絶対位相決定手段A−B/B−B216と、絶対位相値変換手段217と、3次元座標値変換手段218と、3次元座標値記憶手段A−A219と、3次元座標値記憶手段B−B220と、3次元座標値合成手段221と、光投射器A/カメラA相対位置記憶手段223と、光投射器B/カメラB相対位置記憶手段224と、カメラA/B相対位置記憶手段225と、3次元形状補正手段302とを含んで構成されている。
3次元形状補正手段302は、対応画素算出手段226と、合致画素算出手段227と、合致座標記憶手段228と、補正量算出手段229と、3次元形状補正手段230とから構成されている。
3次元形状計測装置301は、光投射器A201および光投射器B202と、カメラA203およびカメラB204とが、図9に示したような構成をなしており、光投射器A201とカメラA203との対で計測された3次元形状と、光投射器B202とカメラB204との対で計測された3次元形状とを合成して出力するものであるとする。また、形状計測の原理は、特許文献1において述べられているものであるとする。
次に、このように構成された第1の実施の形態に係る3次元形状計測装置301の動作について説明する。
光投射器・カメラ制御手段205は、光投射器A制御信号1,光投射器B制御信号2,カメラA制御信号3,カメラB制御信号4,カメラA出力制御信号7,カメラB出力制御信号8,位相計算制御信号14,および3次元座標値制御信号22をそれぞれ出力し、光投射器からの光パターン投射やカメラによる画像撮影、また位相計算や3次元形状計算を制御する。
光投射器A201および光投射器B202は、それぞれ、光投射器A制御信号1および光投射器B制御信号2を入力とし、空間的に正弦波状をなす光パターンを1/4周期ずつ位相をずらしながら投射する。
カメラA203およびカメラB204は、それぞれ、カメラA制御信号3およびカメラB制御信号4を入力とし、光投射器A201や光投射器B202で投影された光パターンを撮影した画像を、カメラA出力信号5およびカメラB出力信号6として出力する。
画像記憶手段A−A206および画像記憶手段A−B207は、それぞれ、カメラA出力信号5を入力とし、光投射器A201で光パターンを投射したときに撮影された画像,および光投射器B202で光パターンを投射したときに撮影された画像を記録し、画像信号A−A9および画像信号A−B10として出力する。
画像記憶手段B−A208および画像記憶手段B−B209は、それぞれ同様に、カメラB出力信号6を入力とし、光投射器A201で光パターンを投射したときに撮影された画像,および光投射器B202で光パターンを投射したときに撮影された画像を記録し、画像信号B−A11および画像信号B−B12として出力する。
位相計算手段210は、位相計算制御信号14により切り替えられた画像信号A−A9,画像信号A−B10,画像信号B−A11,または画像信号B−B12を入力とし、前記数5および数6に基づいて位相値を計算し、位相信号13として出力する。
位相記憶手段A−A211,位相記憶手段A−B212,位相記憶手段B−A213,および位相記憶手段B−B214は、それぞれ、位相信号13を入力とし、各カメラと光投射器とのそれぞれの組み合わせにより撮影された画像から得られた位相値を記録し、位相信号A−A15,位相信号A−B16,位相信号B−A17,および位相信号B−B18として随時出力する。
光投射器A/カメラA相対位置記憶手段223および光投射器B/カメラB相対位置記憶手段224は、それぞれ、光投射器AとカメラAとの間,および光投射器BとカメラBとの間のそれぞれの組み合わせにより三角測量の原理に基づいて3次元座標値を出すための相対位置関係を記録しており、光投射器A/カメラA相対位置・向き信号27および光投射器B/カメラB相対位置・向き信号28として出力する。
カメラA/B相対位置記憶手段225は、カメラA203およびカメラB204において一方のカメラにより計測された3次元座標位置がもう一方のカメラでどの方向に観測されるのかを得るための相対位置関係を記録しており、カメラA/B相対位置・向き信号29として出力する。
絶対位相決定手段A−A/B−A215は、位相信号A−A15,位相信号B−A17,光投射器A/カメラA相対位置・向き信号27,およびカメラA/B相対位置・向き信号29を入力とし、光投射器A201が投影し、カメラA201およびカメラB202により得られた位相値画像を元にして図10に示した原理により、絶対位相値を決定し、光投射器A201が投影しカメラA201により得られた絶対位相値と、決定できず残された相対位相値とを、絶対位相信号A−A(A−A/B−A)19として出力する。
絶対位相決定手段A−B/B−B216は、位相信号A−B16,位相信号B−B18,光投射器B/カメラB相対位置・向き信号28,およびカメラA/B相対位置・向き信号29を入力とし、絶対位相決定手段A−A/B−A215と同様にして、光投射器B202が投影しカメラB202により得られた絶対位相値と、決定できず残された相対位相値とを、絶対位相信号B−B(A−B/B−B)20として出力する。
絶対位相値変換手段217は、絶対位相信号A−A(A−A/B−A)19と絶対位相信号B−B(A−B/B−B)20とを切り替えて入力し、絶対位相が決定できず残された相対位相値について、すでに得られている絶対位相値を中心として全体が滑らかになるように絶対位相値を定めてゆき、絶対位相変換信号21として出力する。
3次元座標値変換手段218は、絶対位相変換信号21,およびカメラA/B相対位置・向き信号29を入力するとともに、光投射器A/カメラA相対位置・向き信号27,または光投射器B/カメラB相対位置・向き信号28のいずれか一方を切り替えて入力とし、絶対位相値から3次元座標値へと変換して、3次元座標信号23として出力する。
3次元座標値記憶手段A−A219および3次元座標値記憶手段B−B220は、光投射器A201とカメラA203との対,および光投射器B202とカメラB204との対でそれぞれ計測された3次元座標値を記憶し、3次元座標値信号A−A24および3次元座標値信号B−B25として出力する。
3次元形状補正手段302は、3次元座標値信号A−A24,3次元座標値信号B−B25,カメラA/B相対位置・向き信号29,画像信号A−A9,および画像信号B−A11を入力とし、光投射器B202とカメラB204との対で計測された3次元形状を、光投射器A201とカメラA203との対で計測された3次元形状にできるだけ合致するように補正して、3次元座標補正信号B−B36として出力する。
3次元座標値合成手段221は、3次元座標値信号A−A24,および3次元座標補正信号B−B36を入力とし、2つの形状データを合成して合成3次元座標値信号26として出力する。
ここで、3次元形状補正手段302についてさらに詳しく説明する。
対応画素算出手段226は、画像信号A−A9,カメラA/B相対位置・向き信号29,および3次元座標値信号A−A24を入力とし、カメラA203におけるある画素に着目してその画像信号A−A9における画素情報を着目画素信号30として、また該着目画素における計測3次元座標値を着目3次元座標信号31として、さらに該着目3次元座標値がカメラB202で撮影された画像上において対応する画素位置を算出し対応画素信号32として、それぞれ出力する。
合致画素算出手段227は、着目画素信号30,対応画素信号32,画像信号B−A11,および3次元座標値信号B−B25を入力とし、カメラA203で撮影された画像上において着目した画素の画像情報と、カメラB204の画像上における対応画素の回りを探索した画像情報とがより合致する画素位置を対応画素として求めた後、該対応画素においてカメラB204と光投射器B202との対で計測された3次元座標値を、合致3次元座標信号33として出力する。
図2を用いて上記2つの手段の動作を説明する。カメラA203に対するもう1台のカメラの真の配置が、カメラB204の位置であるとする。これらに加えて、光投射器A201および光投射器B202についても真の配置がわかっているとき、光投射器A201とカメラA203との対により計測する点P112の3次元座標値と、光投射器B202とカメラB204との対により計測した3次元座標値とは一致する。しかし、光投射器A201と光投射器B202との配置は誤差を伴ってしかわからないとすると、それぞれの3次元座標の計測値は一般に異なる。さらに、カメラA203とカメラB204との間の相互位置も正確に知ることは難しい。
対応画素算出手段226は、光投射器A201とカメラA203との対により計測された点P112の3次元座標位置を、あらかじめ知り得たカメラA/Bの相対位置関係からカメラBへと投射することにより、カメラB204により同一点P112を観測している画素を算出する。しかし、このとき、実際の位置はカメラB'222とずれているために、点P112、すなわち点P2114はカメラB'222からの視線方向C122上には存在しない。そこで、合致画素算出手段227は、画像B(光パターンA)117上の点P2114の回りの部分画像である探索小領域124において、画像A(光パターンA)116上の点P112位置の画素情報とよりよく合致する画素を探索し、点P'2125を得る。
合致座標記憶手段228は、着目3次元座標信号31,および合致3次元座標信号33を入力とし、対応する3次元座標値を対として記録し、合致3次元座標リスト信号34として随時出力する。すなわち、図2において、光投射器A201とカメラA203との対で計測した点P112の3次元座標値と、光投射器B202とカメラB204との対で計測した対応する点P'2125の3次元座標値とをペアで記憶する。
補正量算出手段229は、合致3次元座標リスト信号34を入力とし、ペアとなる3次元座標値ができるだけ一致するような補正量を算出し、座標補正信号35として出力する。光投射器A201とカメラA203との対で計測した3次元座標値のリストを次の数7とし、光投射器B202とカメラB204との対で計測した対応する3次元座標値のリストを続く数8とする。
Figure 2008008907
Figure 2008008907
ここで、t(xi yi zi )とt(x'i y'i z'i )とはi番目の3次元座標値のペアであり、1≦i≦n(nはペアの数)であるとする。なお、ここでは、表記上の簡便さから、列ベクトルを転置した行ベクトルとして表している(前上に付されたtが転置行列であることを示す)。
3次元空間中での補正として3行3列の回転行列Rと3行1列の平行移動ベクトルTを考え、上記数7で定義されるコストE(R,T)が最小となるようにRおよびTを決定する。決定には、次の数9のように一般の最小二乗法の技法を利用することができる。
Figure 2008008907
3次元形状補正手段230は、座標補正信号35,および3次元座標値信号B−B25を入力とし、得られた回転行列R,および平行移動ベクトルTを用いて、光投射器B202とカメラB204との対にて計測された座標値群を変換し、3次元座標補正信号B−B36として出力する。
補正量算出手段229では、3次元空間中において一般的なアフィン変換を示したが、3次元座標列を変換するものであれば何でもよい。例えば、t(xi yi zi )に対し4つめの要素を付け足し、t(xi yi zi 1)とし、3行4列の変換行列Sにより次の数10で定義されるコストE(S)が最小となるように、Sの各要素を決定することも可能である。
Figure 2008008907
上記第1の実施の形態に係る3次元形状計測装置301においては、補正のための3次元座標値を一般的なカーテシアン座標系xyzにより示したが、極座標系など他の座標系を用いても、本発明を同様に構成することが可能である。
上記3次元形状補正手段302は、3次元形状を補正するものであるが、テクスチャデータをも撮影する3次元形状計測装置において、ほとんど同様な構成にてテクスチャデータがほとんど合致するような構成をとることが可能である。
[第2の実施の形態]図3は、本発明の第2の実施の形態に係る3次元形状計測装置303の構成を示すブロック図である。本実施の形態に係る3次元形状計測装置303は、光投射器A201と、光投射器B202と、カメラA203と、カメラB204と、光投射器・カメラ制御手段205と、画像記憶手段A−A206と、画像記憶手段A−B207と、画像記憶手段B−A208と、画像記憶手段B−B209と、位相計算手段210と、位相記憶手段A−A211と、位相記憶手段A−B212と、位相記憶手段B−A213と、位相記憶手段B−B214と、絶対位相決定手段A−A/B−A215と、絶対位相決定手段A−B/B−B216と、絶対位相値変換手段217と、3次元座標値変換手段218と、3次元座標値記憶手段A−A219と、3次元座標値記憶手段B−B220と、光投射器A/カメラA相対位置記憶手段223と、光投射器B/カメラB相対位置記憶手段224と、カメラA/B相対位置記憶手段225と、3次元座標・テクスチャ画像合成手段237と、テクスチャ画像記憶手段A238と、テクスチャ画像記憶手段B239と、テクスチャデータ補正手段304とを含んで構成されている。
テクスチャデータ補正手段304は、対応画素算出手段232と、合致画素算出手段233と、合致テクスチャ記憶手段234と、補正量算出手段235と、テクスチャ補正手段236とから構成されている。
3次元形状計測装置303は、光投射器A201および光投射器B202と、カメラA203およびカメラB204とが、図9に示したような構成をなしており、光投射器A201とカメラA203との対で計測された3次元形状と、光投射器B202とカメラB204との対で計測された3次元形状とを合成して出力するものであるとする。また、形状計測の原理は、特許文献1において述べられているものであるとする。本実施の形態に係る3次元形状計測装置303は、形状計測と同時に計測用の光パターンを投影しない物体のテクスチャ画像を撮影するものであるとする。
次に、このように構成された第2の実施の形態に係る3次元形状計測装置303の動作について説明する。
光投射器・カメラ制御手段205は、光投射器A制御信号1,光投射器B制御信号2,カメラA制御信号3,カメラB制御信号4,カメラA出力制御信号7,カメラB出力制御信号8,位相計算制御信号14,および3次元座標値制御信号22をそれぞれ出力し、光投射器からの光パターン投射やカメラによる画像撮影、また位相計算や3次元形状計算を制御する。
光投射器A201および光投射器B202は、それぞれ、光投射器A制御信号1および光投射器B制御信号2を入力とし、空間的に正弦波状をなす光パターンを1/4周期ずつ位相をずらしながら投射する。
カメラA203およびカメラB204は、それぞれ、カメラA制御信号3およびカメラB制御信号4を入力とし、光投射器A201や光投射器B202で投影された光パターンを撮影した画像を、カメラA出力信号5およびカメラB出力信号6として出力する。
画像記憶手段A−A206および画像記憶手段A−B207は、それぞれ、カメラA出力信号5を入力とし、光投射器A201で光パターンを投射したときに撮影された画像,および光投射器B202で光パターンを投射したときに撮影された画像を記録し、画像信号A−A9および画像信号A−B10として出力する。
画像記憶手段B−A208および画像記憶手段B−B209は、それぞれ同様に、カメラB出力信号6を入力とし、光投射器A201で光パターンを投射したときに撮影された画像,および光投射器B202で光パターンを投射したときに撮影された画像を記録し、画像信号B−A11および画像信号B−B12として出力する。
位相計算手段210は、位相計算制御信号14により切り替えられた画像信号A−A9,画像信号A−B10,画像信号B−A11,または画像信号B−B12を入力とし、前記数5および数6に基づいて位相値を計算し、位相信号13として出力する。
位相記憶手段A−A211,位相記憶手段A−B212,位相記憶手段B−A213,および位相記憶手段B−B214は、それぞれ、位相信号13を入力とし、各カメラと光投射器とのそれぞれの組み合わせにより撮影された画像から得られた位相値を記録し、位相信号A−A15,位相信号A−B16,位相信号B−A17,および位相信号B−B18として随時出力する。
テクスチャ画像記憶手段A238およびテクスチャ画像記憶手段B239は、それぞれ、カメラA出力信号5およびカメラB出力信号6を入力とし、テクスチャ画像を記憶し、テクスチャ信号A42およびテクスチャ信号B43として随時出力する。
光投射器A/カメラA相対位置記憶手段223および光投射器B/カメラB相対位置記憶手段224は、それぞれ、光投射器AとカメラAとの間,および光投射器BとカメラBとの間のそれぞれの組み合わせにより三角測量の原理に基づいて3次元座標値を出すための相対位置関係を記録しており、光投射器A/カメラA相対位置・向き信号27および光投射器B/カメラB相対位置・向き信号28として出力する。
カメラA/B相対位置記憶手段225は、カメラA203およびカメラB204において一方のカメラにより計測された3次元座標位置がもう一方のカメラでどの方向に観測されるのかを得るための相対位置関係を記録しており、カメラA/B相対位置・向き信号29として出力する。
絶対位相決定手段A−A/B−A215は、位相信号A−A15,位相信号B−A17,光投射器A/カメラA相対位置・向き信号27,およびカメラA/B相対位置・向き信号29を入力とし、光投射器A201が投影し、カメラA201およびカメラB202により得られた位相値画像を元にして図10に示した原理により、絶対位相値を決定し、光投射器A201が投影しカメラA201により得られた絶対位相値と、決定できず残された相対位相値とを、絶対位相信号A−A(A−A/B−A)19として出力する。
絶対位相決定手段A−B/B−B216は、位相信号A−B16,位相信号B−B18,光投射器B/カメラB相対位置・向き信号28,およびカメラA/B相対位置・向き信号29を入力とし、絶対位相決定手段A−A/B−A215と同様にして、光投射器B202が投影しカメラB202により得られた絶対位相値と、決定できず残された相対位相値とを、絶対位相信号B−B(A−B/B−B)20として出力する。
絶対位相値変換手段217は、絶対位相信号A−A(A−A/B−A)19と絶対位相信号B−B(A−B/B−B)20とを切り替えて入力し、絶対位相が決定できず残された相対位相値について、すでに得られている絶対位相値を中心として全体が滑らかになるように絶対位相値を定めてゆき、絶対位相変換信号21として出力する。
3次元座標値変換手段218は、絶対位相変換信号21,およびカメラA/B相対位置・向き信号29を入力するとともに、光投射器A/カメラA相対位置・向き信号27または光投射器B/カメラB相対位置・向き信号28のいずれか一方を切り替えて入力とし、絶対位相値から3次元座標値へと変換して、3次元座標信号23として出力する。
3次元座標値記憶手段A−A219および3次元座標値記憶手段B−B220は、光投射器A201とカメラA203との対,および光投射器B202とカメラB204との対でそれぞれ計測された3次元座標値を記憶し、3次元座標値信号A−A24および3次元座標値信号B−B25として出力する。
テクスチャデータ補正手段304は、3次元座標値信号A−A24,3次元座標値信号B−B25,カメラA/B相対位置・向き信号29,画像信号A−A9,画像信号B−A11,テクスチャ信号A42,およびテクスチャ信号B43を入力とし、カメラB204で撮影されたテクスチャデータを、カメラA203で撮影されたテクスチャデータにできるだけ合致するように補正して、テクスチャ画像補正信号B41として出力する。
3次元座標・テクスチャ画像合成手段237は、3次元座標値信号A−A24,3次元座標値信号B−B25,テクスチャ信号A42,およびテクスチャ画像補正信号B41を入力とし、2つの形状データとテクスチャデータとを合成して合成3次元座標・テクスチャ画像信号44として出力する。
ここで、テクスチャデータ補正手段304についてさらに詳しく説明する。
対応画素算出手段232は、画像信号A−A9,カメラA/B相対位置・向き信号29,3次元座標値信号A−A24,およびテクスチャ信号A42を入力とし、カメラA201におけるある画素に着目してその画像信号A−A9における画素情報を着目画素信号30として、また該着目画素におけるテクスチャデータを着目テクスチャ信号37として、さらに該着目画素における3次元座標値がカメラB202で撮影された画像上において対応する画素位置を算出し対応画素信号32として、それぞれ出力する。
合致画素算出手段233は、着目画素信号30,対応画素信号32,画像信号B−A11,およびテクスチャ信号B43を入力とし、カメラA203で撮影された画像上において着目した画素の画像情報と、カメラB204の画像上における対応画素の回りを探索した画像情報とがより合致する画素位置を対応画素として求めた後、該対応画素においてカメラB204で撮影されたテクスチャデータを、合致テクスチャ信号38として出力する。
合致テクスチャ記憶手段234は、着目テクスチャ信号37,および合致テクスチャ信号38を入力とし、対応するテクスチャデータを対として記録し、合致テクスチャリスト信号39として随時出力する。
補正量算出手段235は、合致テクスチャリスト信号39を入力とし、ペアとなるテクスチャデータができるだけ一致するような補正量を算出し、テクスチャ補正信号40として出力する。カメラA203で計測したテクスチャデータのリストを次の数11、カメラB204で撮影した対応するテクスチャデータのリストを続く数12する。
Figure 2008008907
Figure 2008008907
ここで、t(ri gi bi )とt(r'i g'i b'i )とは、i番目のテクスチャデータのペアであり、1≦i≦n(nはペアの数)であるとする。テクスチャデータの補正として3行3列の回転行列Gを考え、次の数13で定義されるコストE(G)が最小となるようにGを決定する。
Figure 2008008907
テクスチャ補正手段236は、テクスチャ補正信号40,およびテクスチャ信号B43を入力とし、得られた回転行列Gを用いて、カメラB204にて撮影されたテクスチャデータを変換し、テクスチャ画像補正信号B41として出力する。
上記3次元形状計測装置303において、テクスチャ画像を撮影する際には光パターンを投射しないとしたが、質の高いテクスチャ画像を得るために別途フラッシュやランプ等を点灯することによっても、本発明を構成することが可能である。上記3次元形状計測装置303において、テクスチャデータはRGB表色系にて補正することを示したが、他のYUV他の表色系にて補正することによっても、本発明を同様に構成することが可能である。また、輝度だけで構成されるモノクロテクスチャデータであっても、本発明を同様に構成することが可能である。
また、上記第1の実施の形態と第2の実施の形態とを組み合わせることによって、3次元形状とテクスチャデータとの双方を同時に補正することによっても、本発明を構成することが可能である。
上記第1および第2の実施の形態において、絶対位相決定手段A−A/B−A215および絶対位相決定手段A−B/B−B216において対応点の決定をしていることから、対応画素算出手段226および対応画素算出手段232や合致画素算出手段227および合致画素算出手段233の処理を受け持たせる構成とすることでも、本発明を同様に構成することが可能である。
上記対応画素算出手段226および合致画素算出手段227,または対応画素算出手段232および合致画素算出手段233においては、光投射器A201から投射された光パターンをカメラA203およびカメラB204でそれぞれ撮影した画像情報を用いて対応画素探索を行うと説明したが、光投射器B202から投射された光パターンを用いても、また両方を同時に用いても本発明を構成することが可能である。また、画像を直接用いるのではなく、画像パターンから計算した位相値を用いることでも、本発明を構成することができる。
上記各実施の形態においては、特許文献1に準じた3次元形状計測装置について示したが、第1の実施の形態における3次元形状補正手段302は、他の3次元形状計測装置についても同様に組み込んで、本発明を構成することが可能である。
また、上記各実施の形態では、光投射器を2つ、カメラを2つ備える3次元形状計測装置について述べてきたが、光投射器は1つ以上であればいくつであっても、またカメラは2つ以上であればいくつであっても、本発明を構成することが可能である。
[第3の実施の形態]図4は、本発明の第3の実施の形態に係る3次元形状計測装置301の構成を示すブロック図である。図4を参照すると、本発明の第3の実施の形態に係る3次元形状計測装置301は、図1に示した第1の実施の形態に係る3次元形状計測装置301に対して3次元形状計測プログラム311を備える点だけが異なっている。
3次元形状計測プログラム311は、データ処理装置に読み込まれ、該データ処理装置の動作を、第1の実施の形態に係る3次元形状計測装置301として制御する。3次元形状計測プログラム311の制御による3次元形状計測装置301の動作は、第1の実施の形態における3次元形状計測装置301の動作と全く同様になるので、その詳しい説明を割愛する。
[第4の実施の形態]図5は、本発明の第4の実施の形態に係る3次元形状計測装置303の構成を示すブロック図である。図5を参照すると、本発明の第4の実施の形態に係る3次元形状計測装置303は、図3に示した第2の実施の形態に係る3次元形状計測装置303に対して3次元形状計測プログラム313を備える点だけが異なっている。
3次元形状計測プログラム313は、データ処理装置に読み込まれ、該データ処理装置の動作を、第1の実施の形態に係る3次元形状計測装置303として制御する。3次元形状計測プログラム311の制御による3次元形状計測装置303の動作は、第2の実施の形態における3次元形状計測装置303の動作と全く同様になるので、その詳しい説明を割愛する。
本発明の第1の実施の形態に係る3次元形状計測装置の構成を示すブロック図である。 2方向から観測した同一点の探索方法の説明図である。 本発明の第2の実施の形態に係る3次元形状計測装置の構成を示すブロック図である。 本発明の第3の実施の形態に係る3次元形状計測装置の構成を示すブロック図である。 本発明の第4の実施の形態に係る3次元形状計測装置の構成を示すブロック図である。 3次元形状計測装置の説明図である。 計測物体へと投射された位相画像の説明図である。 従来技術である3次元形状計測装置の説明図である。 3次元形状計測装置の説明図である。 従来技術である位相値の絶対値決定方法の説明図である。 2方向から計測した形状の合成方法の説明図である。
符号の説明
1 光投射器A制御信号
2 光投射器B制御信号
3 カメラA制御信号
4 カメラB制御信号
5 カメラA出力信号
6 カメラB出力信号
7 カメラA出力制御信号
8 カメラB出力制御信号
9 画像信号A−A
10 画像信号A−B
11 画像信号B−A
12 画像信号B−B
13 位相信号
14 位相計算制御信号
15 位相信号A−A
16 位相信号A−B
17 位相信号B−A
18 位相信号B−B
19 絶対位相信号A−A(A−A/B−A)
20 絶対位相信号B−B(A−B/B−B)
21 絶対位相変換信号
22 3次元座標値制御信号
23 3次元座標信号
24 3次元座標値信号A−A
25 3次元座標値信号B−B
26 合成3次元座標値信号
27 光投射器A/カメラA相対位置・向き信号
28 光投射器B/カメラB相対位置・向き信号
29 カメラA/B相対位置・向き信号
30 着目画素信号
31 着目3次元座標信号
32 対応画素信号
33 合致3次元座標信号
34 合致3次元座標リスト信号
35 座標補正信号
36 3次元座標補正信号B−B
37 着目テクスチャ信号
38 合致テクスチャ信号
39 合致テクスチャリスト信号
40 テクスチャ補正信号
41 テクスチャ画像補正信号
42 テクスチャ信号A
43 テクスチャ信号B
44 合成3次元座標・テクスチャ画像信号
100 物体
101 光源
102 格子
103 カメラ
104 点P
105 位相画像
106 カメラA(光パターンA)計測の物体
107 カメラB(光パターンB)計測の物体
108 カメラA(光パターンA)計測の半物体
109 カメラB(光パターンB)計測の半物体
110 最終合成物体
111 段差
112 点P
113 点P1
114 点P2
115 点P3
116 画像A(光パターンA)
117 画像B(光パターンA)
118 画像A(光パターンA)上の物体
119 画像B(光パターンA)上の物体
120 視線方向A
121 視線方向B
122 視線方向C
124 探索小領域
125 点P'2
201 光投射器A
202 光投射器B
203 カメラA
204 カメラB
205 光投射器・カメラ制御手段
206 画像記憶手段A−A
207 画像記憶手段A−B
208 画像記憶手段B−A
209 画像記憶手段B−B
210 位相計算手段
211 位相記憶手段A−A
212 位相記憶手段A−B
213 位相記憶手段B−A
214 位相記憶手段B−B
215 絶対位相決定手段A−A/B−A
216 絶対位相決定手段A−B/B−B
217 絶対位相値変換手段
218 3次元座標値変換手段
219 3次元座標値記憶手段A−A
220 3次元座標値記憶手段B−B
221 3次元座標値合成手段
222 カメラB'
223 光投射器A/カメラA相対位置記憶手段
224 光投射器B/カメラB相対位置記憶手段
225 カメラA/B相対位置記憶手段
226 対応画素算出手段
227 合致画素算出手段
228 合致座標記憶手段
229 補正量算出手段
230 3次元形状補正手段
232 対応画素算出手段
233 合致画素算出手段
234 合致テクスチャ記憶手段
235 補正量算出手段
236 テクスチャ補正手段
237 3次元座標・テクスチャ画像合成手段
238 テクスチャ画像記憶手段A
239 テクスチャ画像記憶手段B
301,303 3次元形状計測装置
302 3次元形状補正手段
304 テクスチャデータ補正手段
311,313 3次元形状計測プログラム

Claims (36)

  1. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する工程と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する工程と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する工程と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する工程とを含むことを特徴とする3次元形状計測方法。
  2. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する工程と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する工程と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する工程と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する工程とを含むことを特徴とする3次元形状計測方法。
  3. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する工程と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する工程と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する工程と、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する工程と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する工程と
    前記光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する工程と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する工程と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する工程と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する工程と、
    前記合成された3次元形状と前記合成されたテクスチャデータとを合成する工程とを含むことを特徴とする3次元形状計測方法。
  4. 前記第2の3次元形状を修正する工程において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める工程と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める工程と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する工程と、
    前記3つの工程を繰り返して対応リストを生成する工程と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状を修正する工程とを含むことを特徴とする請求項1記載の3次元形状計測方法。
  5. 前記第2のテクスチャデータを修正する工程において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める工程と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める工程と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する工程と、
    前記3つの工程を繰り返して対応リストを生成する工程と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する工程とを含むことを特徴とする請求項2記載の3次元形状計測方法。
  6. 前記第2の3次元形状の位置・方向を修正する工程において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める工程と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める工程と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する工程と、
    前記3つの工程を繰り返して対応リストを生成する工程と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状の位置・方向を修正する工程とを含み、
    前記第2のテクスチャデータを修正する工程において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める工程と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める工程と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する工程と、前記3つの工程を繰り返して対応リストを生成する工程と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する工程とを含むことを特徴とする請求項3記載の3次元形状計測方法。
  7. 2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする請求項1ないし請求項6のいずれかに記載の3次元形状計測方法。
  8. 3つ以上の位置・方向より画像の撮影を行うことを特徴とする請求項1ないし請求項7のいずれかに記載の3次元形状計測方法。
  9. 投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする請求項1ないし請求項8のいずれかに記載の3次元形状計測方法。
  10. 投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項9記載の3次元形状計測方法。
  11. 投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする請求項1ないし請求項8のいずれかに記載の3次元形状計測方法。
  12. 投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項11記載の3次元形状計測方法。
  13. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する手段と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する手段と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する手段と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する手段とを含むことを特徴とする3次元形状計測装置。
  14. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する手段と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する手段と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する手段と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する手段とを含むことを特徴とする3次元形状計測装置。
  15. 光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する手段と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する手段と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する手段と、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する手段と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する手段と
    前記光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する手段と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する手段と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する手段と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する手段と、
    前記合成された3次元形状と前記合成されたテクスチャデータとを合成する手段とを含むことを特徴とする3次元形状計測装置。
  16. 前記第2の3次元形状を修正する手段において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める手段と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める手段と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する手段と、
    前記3つの手段に基づいて対応リストを生成する手段と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状を修正する手段とを含むことを特徴とする請求項13記載の3次元形状計測装置。
  17. 前記第2のテクスチャデータを修正する手段において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める手段と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める手段と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する手段と、
    前記3つの手段に基づいて対応リストを生成する手段と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する手段とを含むことを特徴とする請求項14記載の3次元形状計測装置。
  18. 前記第2の3次元形状の位置・方向を修正する手段において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める手段と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める手段と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する手段と、
    前記3つの手段に基づいて対応リストを生成する手段と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状の位置・方向を修正する手段とを含み、
    前記第2のテクスチャデータを修正する手段において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める手段と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める手段と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する手段と、
    前記3つの手段に基づいて対応リストを生成する手段と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する手段とを含むことを特徴とする請求項15記載の3次元形状計測方法。
  19. 2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする請求項13ないし請求項18のいずれかに記載の3次元形状計測装置。
  20. 3つ以上の位置・方向より画像の撮影を行うことを特徴とする請求項13ないし請求項19のいずれかに記載の3次元形状計測装置。
  21. 投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする請求項13ないし請求項20のいずれかに記載の3次元形状計測装置。
  22. 投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項21記載の3次元形状計測装置。
  23. 投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする請求項13ないし請求項20のいずれかに記載の3次元形状計測装置。
  24. 投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項23記載の3次元形状計測装置。
  25. コンピュータに、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する処理と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する処理と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する処理と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する処理とを実行させるためのプログラム。
  26. コンピュータに、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する処理と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する処理と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する処理と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する処理とを実行させるためのプログラム。
  27. コンピュータに、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1の3次元形状を計測する処理と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2の3次元形状を計測する処理と、
    前記光パターン上の点の前記第1の3次元形状上における位置と前記第2の3次元形状上のおける位置とのずれを小さくするように前記第2の3次元形状を修正する処理と、
    光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する処理と、
    前記第1の3次元形状と前記修正された第2の3次元形状とを合成する処理と、
    前記光パターンが投影された計測物体を第1の位置・方向より撮影した画像に基づいて第1のテクスチャデータを計測する処理と、
    前記計測物体を第2の位置・方向より撮影した画像に基づいて第2のテクスチャデータを計測する処理と、
    前記光パターン上の点の前記第1のテクスチャデータ上における位置と前記第2のテクスチャデータ上のおける位置とのずれを小さくするように前記第2のテクスチャデータを修正する処理と、
    前記第1のテクスチャデータと前記修正された第2のテクスチャデータとを合成する処理と
    前記合成された3次元形状と前記合成されたテクスチャデータとを合成する処理とを実行させるためのプログラム。
  28. 前記第2の3次元形状を修正する処理において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める処理と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める処理と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する処理と、
    前記3つの処理を繰り返して対応リストを生成する処理と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状を修正する処理とを含むことを特徴とする請求項25記載のプログラム。
  29. 前記第2のテクスチャデータを修正する処理において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める処理と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める処理と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する処理と、
    前記3つの処理を繰り返して対応リストを生成する処理と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する処理とを含むことを特徴とする請求項26記載のプログラム。
  30. 前記第2の3次元形状の位置・方向を修正する処理において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める処理と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較して最も合致する画素位置を求める処理と、
    前記第1の位置・方向から計測された着目3次元座標位置と前記合致する画素位置における前記第2の位置・方向から計測された3次元座標位置とを対にして保持する処理と、
    前記3つの処理を繰り返して対応リストを生成する処理と、
    得られた対応リストの間の差違が最も小さくなるように前記第2の3次元形状の位置・方向を修正する処理とを含み、
    前記第2のテクスチャデータを修正する処理において、
    前記第1の位置・方向から撮影した画像上のある画素における3次元座標点に着目し、該点が対応する前記第2の位置・方向から撮影した画像上の画素位置を求める処理と、
    前記第1の位置・方向から撮影した画像上の着目画素の光パターンと前記第2の位置・方向から撮影した画素位置を基準とした部分画像上における光パターンとを随時比較し、最も合致する画素位置を求める処理と、
    前記第1の位置・方向から撮影された着目画素のテクスチャデータと前記合致する画素位置における前記第2の位置・方向から撮影された着目画素のテクスチャデータとを対にして保持する処理と、
    前記3つの処理を繰り返して対応リストを生成する処理と、
    得られた対応リストの間の差違が最も小さくなるように前記第2のテクスチャデータを修正する処理とを含むことを特徴とする請求項27記載のプログラム。
  31. 2つ以上の位置よりそれぞれ光パターンを投影することを特徴とする請求項25ないし請求項30のいずれかに記載のプログラム。
  32. 3つ以上の位置・方向より画像の撮影を行うことを特徴とする請求項25ないし請求項31のいずれかに記載のプログラム。
  33. 投影する光パターンの空間的な強度分布が正弦波状をなしていることを特徴とする請求項25ないし請求項32のいずれかに記載のプログラム。
  34. 投影する正弦波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項33記載のプログラム。
  35. 投影する光パターンの空間的な強度分布が三角波状をなしていることを特徴とする請求項25ないし請求項32のいずれかに記載のプログラム。
  36. 投影する三角波状の光パターンの位相をシフトしながら複数回撮影した後に画素毎に位相値を求めた画像を対応点の決定に用いることを特徴とする請求項35記載のプログラム。
JP2007213539A 2007-08-20 2007-08-20 3次元形状計測方法および装置ならびにプログラム Expired - Lifetime JP4985213B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007213539A JP4985213B2 (ja) 2007-08-20 2007-08-20 3次元形状計測方法および装置ならびにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007213539A JP4985213B2 (ja) 2007-08-20 2007-08-20 3次元形状計測方法および装置ならびにプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2002066251A Division JP2003269928A (ja) 2002-03-12 2002-03-12 3次元形状計測方法および装置ならびにプログラム

Publications (2)

Publication Number Publication Date
JP2008008907A true JP2008008907A (ja) 2008-01-17
JP4985213B2 JP4985213B2 (ja) 2012-07-25

Family

ID=39067226

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007213539A Expired - Lifetime JP4985213B2 (ja) 2007-08-20 2007-08-20 3次元形状計測方法および装置ならびにプログラム

Country Status (1)

Country Link
JP (1) JP4985213B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105651203A (zh) * 2016-03-16 2016-06-08 广东工业大学 一种自适应条纹亮度的高动态范围三维形貌测量方法
CN114556045A (zh) * 2019-10-28 2022-05-27 欧姆龙株式会社 位置测定方法
US12013229B2 (en) 2018-03-16 2024-06-18 Nec Corporation Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, program, and storage medium

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03148775A (ja) * 1989-11-04 1991-06-25 Osaka Gas Co Ltd 立体物画像測定方法
JPH06241731A (ja) * 1992-11-20 1994-09-02 Nec Corp 3次元形状相対位置推定装置
JPH1074272A (ja) * 1996-08-30 1998-03-17 Minolta Co Ltd 3次元形状データ処理装置
JP2000155831A (ja) * 1998-09-18 2000-06-06 Sanyo Electric Co Ltd 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体
JP2000182059A (ja) * 1998-12-21 2000-06-30 Kokusai Kogyo Co Ltd 壁面の画像・損害・修復情報登録管理システム及び方法
JP2001012925A (ja) * 1999-04-30 2001-01-19 Nec Corp 三次元形状計測方法及び装置並びに記録媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03148775A (ja) * 1989-11-04 1991-06-25 Osaka Gas Co Ltd 立体物画像測定方法
JPH06241731A (ja) * 1992-11-20 1994-09-02 Nec Corp 3次元形状相対位置推定装置
JPH1074272A (ja) * 1996-08-30 1998-03-17 Minolta Co Ltd 3次元形状データ処理装置
JP2000155831A (ja) * 1998-09-18 2000-06-06 Sanyo Electric Co Ltd 画像合成方法、画像合成装置、画像合成プログラムを記録した記録媒体
JP2000182059A (ja) * 1998-12-21 2000-06-30 Kokusai Kogyo Co Ltd 壁面の画像・損害・修復情報登録管理システム及び方法
JP2001012925A (ja) * 1999-04-30 2001-01-19 Nec Corp 三次元形状計測方法及び装置並びに記録媒体

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105651203A (zh) * 2016-03-16 2016-06-08 广东工业大学 一种自适应条纹亮度的高动态范围三维形貌测量方法
CN105651203B (zh) * 2016-03-16 2018-09-04 广东工业大学 一种自适应条纹亮度的高动态范围三维形貌测量方法
US12013229B2 (en) 2018-03-16 2024-06-18 Nec Corporation Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, program, and storage medium
CN114556045A (zh) * 2019-10-28 2022-05-27 欧姆龙株式会社 位置测定方法
CN114556045B (zh) * 2019-10-28 2023-08-22 欧姆龙株式会社 位置测定方法

Also Published As

Publication number Publication date
JP4985213B2 (ja) 2012-07-25

Similar Documents

Publication Publication Date Title
JP2003269928A (ja) 3次元形状計測方法および装置ならびにプログラム
US10008007B2 (en) Method for generating an array of 3-D points
JP3417377B2 (ja) 三次元形状計測方法及び装置並びに記録媒体
JP5997645B2 (ja) 画像処理装置及び方法、及び撮像装置
CN104335005B (zh) 3d扫描以及定位系统
JP5872923B2 (ja) Ar画像処理装置及び方法
JP6598673B2 (ja) データ処理装置およびその方法
JP2010071782A (ja) 3次元計測装置およびその方法
WO2013187204A1 (ja) 3次元計測装置のための合成パラメータの生成装置
WO2018179040A1 (ja) カメラパラメータ推定装置、方法およびプログラム
US11212508B2 (en) Imaging unit and system for obtaining a three-dimensional image
WO2013187203A1 (ja) 3次元計測装置と3次元計測方法
JPWO2016204068A1 (ja) 画像処理装置および画像処理方法、ならびにプロジェクションシステム
CN110160468B (zh) 一种针对运动对象的散焦光栅投影三维测量方法
JP4985213B2 (ja) 3次元形状計測方法および装置ならびにプログラム
US10621694B2 (en) Image processing apparatus, system, image processing method, calibration method, and computer-readable recording medium
JP2011075336A (ja) 3次元形状計測装置、3次元形状計測方法
JP4775903B2 (ja) 多視点画像を用いた自由視点画像生成方法、装置及びプログラム
JP2017059998A (ja) 画像処理装置およびその方法、並びに、撮像装置
JP2008180530A (ja) 形状測定装置及び形状測定方法
KR101857977B1 (ko) 플래놉틱 카메라와 깊이 카메라를 결합한 영상 장치 및 영상 처리 방법
JP2013201677A (ja) 撮像装置校正方法および画像合成装置
JP2020102230A (ja) 校正方法
Jo et al. Moiré vision: A signal processing technology beyond pixels using the moiré coordinate
JP2006003276A (ja) 3次元形状計測システム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20080616

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20090511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110324

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20110705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R150 Certificate of patent or registration of utility model

Ref document number: 4985213

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

EXPY Cancellation because of completion of term