JP2018146449A - 3次元形状計測装置及び3次元形状計測方法 - Google Patents
3次元形状計測装置及び3次元形状計測方法 Download PDFInfo
- Publication number
- JP2018146449A JP2018146449A JP2017043115A JP2017043115A JP2018146449A JP 2018146449 A JP2018146449 A JP 2018146449A JP 2017043115 A JP2017043115 A JP 2017043115A JP 2017043115 A JP2017043115 A JP 2017043115A JP 2018146449 A JP2018146449 A JP 2018146449A
- Authority
- JP
- Japan
- Prior art keywords
- light
- phase
- observation
- dimensional shape
- reflected light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/514—Depth or shape recovery from specularities
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2518—Projection by scanning of the object
- G01B11/2527—Projection by scanning of the object with phase change by in-plane movement of the patern
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2536—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B9/00—Measuring instruments characterised by the use of optical techniques
- G01B9/02—Interferometers
- G01B9/02001—Interferometers characterised by controlling or generating intrinsic radiation properties
- G01B9/0201—Interferometers characterised by controlling or generating intrinsic radiation properties using temporal phase variation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
- G01C11/025—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures by scanning the object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
Abstract
【課題】計測対象物に投影したパターンの位相を基に3次元形状を計測する方法において、多重反射の影響を低減し、計測精度を向上するための技術を提供する。【解決手段】制御装置は、撮像装置で観測される観測光が、投影装置から投影された光が計測対象物上の計測点で反射し撮像装置に入射する1次反射光と、投影装置から投影され他の反射面で反射された光が計測対象物上の計測点で反射し撮像装置に入射する2次反射光との合成光であると仮定する。制御装置は、観測光の輝度振幅値について3つ以上のサンプルを取得し、これらのサンプルを用いて2次反射光に起因する位相誤差を算出し、位相誤差を用いて観測光の位相値を補正することにより補正位相値を算出し、補正位相値に基づいて計測対象物上の計測点の3次元位置を算出する。【選択図】図4
Description
本発明は、計測対象物に周期性を有するパターンを投影し、観測される画像を用いて当該計測対象物の3次元形状を計測する技術に関する。
画像を用いて物体の三次元形状を計測する技術として、位相シフト法が知られている。位相シフト法とは、プロジェクタにより計測対象物に周期性を有するパターンを投影し、物体表面の凹凸に依存して生じる投影パターンの歪み(位相ずれ)を解析することで、物体表面の三次元形状を復元する方法である。また、位相シフト法の改良手法としてMPS(Micro phase shifting)と呼ばれる手法も知られている(非特許文献1参照)。
これらの方法においては、計測対象物の周囲に存在する他の物体での反射光が計測精度を低下させるという現象が生じることがある。この現象について図6を参照して説明する。図6は、撮像装置200とプロジェクタ201を用いた計測系を示している。プロジェクタ201から所定のパターンをもつ光201Lを計測対象物202に投影し、計測対象物202の表面に映る投影パターンを撮像装置200で撮像する。このとき、計測対象物202の表面凹凸による投影パターンの歪みは、画像の輝度変化となって現れる。よって、画像の輝度変化を基に、プロジェクタ201と計測対象物202の表面上の点と撮像装置200の位置関係を特定し、三角測量の原理から計測対象物202の表面の高さ(3次元位置)を算出することができる。
しかしながら、図6に示すように、計測対象物202の近傍に鏡面性の高い物体(例えば金属製の物体)203が存在すると、プロジェクタ201から投影された光が物体203の側面で反射し、その反射光203Lが計測対象物202の表面を照らしてしまうことがある。そうすると、撮像装置200で観測される観測光の中に、プロジェクタ201の光201Lの反射光201R(1次反射光とよぶ)だけでなく、物体203からの光203Lの反射光203R(2次反射光又は多重反射光とよぶ)も含まれることとなる。この2次反射光203Rは、計測対象物202の表面上の投影パターンにノイズとして重畳されるため、投影パターンの解析(つまり観測光の位相値の算出)に悪影響を与え、計測誤差を生じさせてしまうのである。このような現象は「2次反射」又は「多重反射」と呼ばれる。
多重反射の影響を低減する方法として、特許文献1では、多重反射を生じさせる部分を特定し、その部分に投影される投影パターンを減光もしくは消光した状態で撮像を行うという方法が提案されている。しかしながら、この方法のように投影パターンを減光もしくは消光してしまうと、3次元形状を計測できない部分(いわゆる死角)が発生する可能性がある。また、この方法は、多重反射を生じさせる部分(投影パターンを減光もしくは消光すべき部分)を予め正確に特定できなければ多重反射を効果的に抑制できないため、現実の装置への実装が難しいという問題もある。
Gupta, Mohit, and Shree K. Nayar. "Micro phase shifting." Computer Vision and Pattern Recognition (CVPR), 2012 IEEE Conference on. IEEE, 2012.
本発明は上記実情に鑑みてなされたものであって、計測対象物に投影したパターンの位相を基に3次元形状を計測する方法において、多重反射の影響を低減し、計測精度を向上するための技術を提供することを目的とする。
上記目的を達成するために、本発明では、観測光の輝度振幅値の複数点のサンプルを基に、多重反射に起因する位相誤差を推定し、その位相誤差を用いて観測光の位相値を補正する、という構成を採用する。
具体的には、本発明に係る3次元形状計測装置は、計測対象物に対し、時間方向と空間方向に周期性を有するパターンを投影する投影装置と、前記計測対象物を撮像する撮像装置と、前記投影装置から投影するパターンの位相を変えながら前記撮像装置によって撮像された複数の観測画像を用いて前記計測対象物の3次元形状を計測する制御装置と、を有する。前記制御装置は、前記撮像装置で観測される観測光が、前記投影装置から投影された光が前記計測対象物上の計測点で反射し前記撮像装置に入射する1次反射光と、前記投影装置から投影され他の反射面で反射された光が前記計測対象物上の前記計測点で反射し前記撮像装置に入射する2次反射光との合成光であると仮定し、前記複数の観測画像に基づいて、前記観測光の輝度振幅値について3つ以上のサンプルを取得し、前記3つ以上のサンプルを用いて下記式を解くことにより、前記2次反射光に起因する位相誤差を算出し、前記複数の観測画像に基づいて前記観測光の位相値を算出し、前記位相誤差を用いて前記観測光の位相値を補正することにより補正位相値を算出し、前記補正位相値に基づいて、前記計測対象物上の前記計測点の3次元位置を算出する。
Δθ:2次反射光に起因する位相誤差
a:1次反射光の輝度振幅値
b:2次反射光の輝度振幅値
c:観測光の輝度振幅値
α:1次反射光と2次反射光の位相差
Δθ:2次反射光に起因する位相誤差
a:1次反射光の輝度振幅値
b:2次反射光の輝度振幅値
c:観測光の輝度振幅値
α:1次反射光と2次反射光の位相差
この構成によれば、2次反射光に起因する位相誤差を補正した位相値を基に3次元形状を算出するので、多重反射の影響が低減された高精度な3次元形状計測が実現できる。しかも本発明の方法は、従来方法のように3次元形状の計測を阻害することはないし、また多重反射が実際に生じている部分か否かにかかわらず適用することができるため、現実の装置への実装が容易であるという利点もある。
前記3つ以上のサンプルは、前記観測画像上の画素の位置、及び、前記パターンの空間方向の周波数、のうち少なくともいずれか一方の条件が異なるサンプルであるとよい。
例えば、前記3つ以上のサンプルは、前記観測画像上の3つ以上の画素について、1種
類の周波数のパターンを用いて観測された輝度振幅値であり、前記3つ以上の画素は、前記パターンの位相が互いに異なる位置にある画素であるとよい。パターンの周波数が1種類でよいため、観測画像の撮影回数が少なくて済むからである。
類の周波数のパターンを用いて観測された輝度振幅値であり、前記3つ以上の画素は、前記パターンの位相が互いに異なる位置にある画素であるとよい。パターンの周波数が1種類でよいため、観測画像の撮影回数が少なくて済むからである。
前記3つ以上の画素は、前記観測画像上の局所領域から選択されるとよい。局所領域(平面で近似できる微小領域)内の画素であれば、計測対象物表面の反射率などの条件が同一とみなせるからである。
前記3つ以上の画素は、前記観測画像上のエピポーラ線に平行な方向に並ぶ画素であるとよい。このようにサンプルを選ぶことにより、できるだけ少ないサンプルから精度良く位相誤差を算出することができるからである。
前記3つ以上のサンプルは、前記観測画像上の1つの画素について、3種類以上の周波数のパターンを用いて観測された輝度振幅値であるとよい。この方法の場合、同じ画素(同じ計測点)に関するサンプルを用いるため、位相誤差の推定精度をより向上できる。
前記制御装置は、輝度振幅値に関する第1の指標と、投影するパターンの空間方向の周波数に関する第2の指標と、1次反射光と2次反射光の位相差に関する第3の指標と、の関係を定義するリファレンス情報を記憶しており、前記3つ以上のサンプルと、各サンプルの観測時に投影したパターンの空間方向の周波数と、前記リファレンス情報とに基づいて、1次反射光と2次反射光の位相差を求めるとよい。この方法によれば、3つ以上のサンプルの値から、1次反射光と2次反射光の位相差の値の簡単かつ精度良く計算することができる。
前記制御装置は、位相シフト法又はMPS(Micro Phase Sifting)により、前記補正位相値に基づいて、前記計測対象物上の前記計測点の3次元位置を算出するとよい。前記他の反射面は、鏡面性の反射面であるとよい。
なお、本発明は、上記構成ないし機能の少なくとも一部を有する3次元形状計測装置又は画像処理装置として捉えることができる。また、本発明は、かかる3次元形状計測装置を備える検査装置や3次元スキャナや物体認識装置として捉えることもできる。また、本発明は、上記処理の少なくとも一部を含む、3次元形状計測方法、画像処理方法、検査方法、物体認識方法や、これらの方法をコンピュータに実行させるためのプログラム、又は、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。上記構成及び処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。
本発明によれば、計測対象物に投影したパターンの位相を基に3次元形状を計測する方法において、多重反射の影響を低減し、計測精度を向上することができる。
本発明は、計測対象物に投影したパターンの位相の変化を基に3次元形状を計測する3次元形状計測技術に関し、特に、計測対象物の周囲に存在する反射面による多重反射の影響を低減し、計測精度を向上するための方法に関する。本発明は、位相シフト法やその改良であるMPS(Micro phase shifting)を利用した3次元形状計測に好ましく適用できる。本発明に係る3次元形状計測は、例えば、物体の表面形状を計測する3次元スキャナ、計測した3次元形状に基づき物体の検査を行う検査装置、計測した3次元形状に基づき物体認識や個体識別を行う装置など、様々な装置に応用可能である。例えば、表面実装基板の外観検査装置では、基板上の金属製部品による多重反射が検査精度の低下を招く可能性があるため、本発明に係る3次元形状計測を特に好ましく適用することができる。
以下、図面を参照して本発明を実施するための好ましい形態の一例を説明する。ただし、以下の実施形態に記載されている装置の構成や動作は一例であり、本発明の範囲をそれらのみに限定する趣旨のものではない。
(3次元形状計測装置の構成)
図1を参照して、本実施形態に係る3次元形状計測装置の全体構成について説明する。図1は3次元形状計測装置のハードウェア構成を示す模式図である。3次元形状計測装置1は計測対象物Oの3次元形状を計測するための装置であり、主な構成として、投影装置(プロジェクタ)10、撮像装置(カメラ)11、制御装置(コンピュータ)12を有して構成される。
図1を参照して、本実施形態に係る3次元形状計測装置の全体構成について説明する。図1は3次元形状計測装置のハードウェア構成を示す模式図である。3次元形状計測装置1は計測対象物Oの3次元形状を計測するための装置であり、主な構成として、投影装置(プロジェクタ)10、撮像装置(カメラ)11、制御装置(コンピュータ)12を有して構成される。
投影装置10は、計測対象物Oに対し時間方向と空間方向に周期性を有するパターンを投影する投影手段である。投影装置10の数は一つでもよいが、複数の方向から投影装置10に対しパターンを投影可能なように複数の投影装置10を設けてもよい。投影装置10としては、デジタルミラーデバイスを用いた方式のDLP(Digital Light Processing)プロジェクタを好ましく利用できる。DLPプロジェクタは投影パターンの変更が容易だからである。
撮像装置11は、パターンが投影された状態の計測対象物Oを撮影し、デジタル画像を出力する手段である。撮像装置11は、例えば、光学系とイメージセンサを有して構成される。3次元形状計測を行う際は、投影装置10から投影するパターンの位相を変えながら(位相接続を行う場合はさらにパターンの周波数を変えながら)、撮像装置11によって複数枚の画像を取り込む。以後、撮像装置11によって撮像される計測対象物Oの画像を「観測画像」とよぶ。
制御装置12は、投影装置10及び撮像装置11の制御、撮像装置11から取り込まれた画像に対する処理、3次元形状の計測などの機能を有する手段である。制御装置12は、CPU(プロセッサ)、メモリ、不揮発性の記憶装置(例えば、ハードディスクやフラッシュメモリ)、入力装置(例えば、キーボード、マウス、タッチパネルなど)、表示装置(例えば、液晶ディスプレイなど)を備えるコンピュータにより構成することができる。後述する制御装置12の機能は、不揮発性の記憶装置に格納されたプログラムをメモリにロードし、CPUが当該プログラムを実行することにより実現することができる。ただし、制御装置12の機能の全部又は一部を、ASICやFPGAや専用のハードウェアで代替しても構わない。また、分散コンピューティングやクラウドコンピューティングの技術を利用し、制御装置12の機能を複数のコンピュータの協働により実現しても構わない。
図2は、制御装置12の3次元形状計測に関わる機能を示すブロック図である。制御装置12は、3次元形状計測に関わる機能として、画像取得部20、領域設定部21、位相
算出部22、3次元復元部23を有している。
算出部22、3次元復元部23を有している。
画像取得部20は、撮像装置11から3次元形状計測に用いる複数の観測画像を取り込む機能である。領域設定部21は、観測画像の視野のうち、後述する多重反射補正を施す領域(以後「補正領域」とよぶ)を設定する機能である。位相算出部22は、観測画像を解析することにより、観測画像上の各画素(つまり計測対象物Oの表面上の各計測点)におけるパターンの位相値を算出する機能である。3次元復元部23は、位相算出部22で算出された位相値に基づいて、観測画像上の各画素(つまり計測対象物Oの表面上の各計測点)の3次元位置を算出する機能である。これらの機能の詳細は後述する。
(観測光のモデルと多重反射補正)
図3に、多重反射と観測光のモデルを示す。
図3に、多重反射と観測光のモデルを示す。
計測対象物Oの近傍に鏡面性の高い反射面R(例えば金属製の物体の表面)が存在する系を考える。投影装置10から正弦波状の縞パターンを投影した場合に、計測対象物O上の計測点Pに、投影装置10のパネル100上の点x1から発せられた光L1(直接光)と、投影装置10のパネル100上の点x2から発せられた光L2の反射面Rでの反射光L20と、が到達すると仮定する。以後の説明において、投影装置10のパネル100上の点xを点光源とみなし、「投影光源x」とよぶ。
このとき、撮像装置11で観測される観測光IOは、投影装置10から投影された光L1が計測点Pで反射(拡散反射)し撮像装置11に入射した光(1次反射光)I1と、投影装置10から投影され反射面Rで反射(鏡面反射)された光L20が計測点Pで反射(拡散反射)し撮像装置11に入射した光(2次反射光)I2との合成光であると仮定でき、次のようにモデル化できる。
ただし、cは、観測光IOの輝度振幅値であり、θMは、観測光IOの位相値である。a1は、縞パターンの最大輝度であり、R1は、計測点Pの反射率であり、R2は、反射面Rの反射率である。wfは、縞パターンの角速度であり、tは、時間である。kfは、縞パターンの波数であり、x1は、光L1の投影光源の位置であり、x2は、光L2の投影光源の位置である。φは、縞パターンの初期位相である。なお、これらの変数のうち未知のものは、R1,R2,x1,x2である。
ここで、1次反射光I1の輝度振幅値「a1R1」を「a」、2次反射光I2の輝度振幅値「a1R1R2」を「b」とおきなおし、1次反射光I1の位相値「wft+kfx1+φ」を「θtrue」、1次反射光I1と2次反射光I2の間の位相差「kf(x2−x1)」を「α」とおいて、式(1)〜式(4)を整理すると、式(1)は下記式のように表すことができる。
ただし、Δθは、2次反射光I2に起因する位相誤差であり、
である。
である。
式(8)の未知数はa,b,αの3つであるから、観測光IOの輝度振幅値cについて条件の異なる3つ以上のサンプルを実測すれば、式(8)を解くことができる。そして、式(8)から求めたa,b,αの値を式(7)に代入すれば、2次反射光I2に起因する位相誤差Δθを導出でき、さらに観測位相値θMと式(6)から位相の真値θtrueを求めることができる。以上述べたモデルにより、位相の真値(2次反射光I2の影響が無い場合の位相値)θtrueを算出する操作を「多重反射補正」とよぶ。
(3次元形状計測)
図4のフローチャートに沿って、3次元形状計測の処理の流れを説明する。
図4のフローチャートに沿って、3次元形状計測の処理の流れを説明する。
ステップS40では、制御装置12が投影装置10及び撮像装置11を制御し、複数の観測画像を撮影する。例えば、正弦波状に輝度が変化する縞パターン(最大輝度:a1、波数kf)をπ/4ずつ位相を変えながら4回投影し、4枚の観測画像を撮影してもよい。さらに、計測範囲拡大のために位相接続を行う場合には、縞パターンの波数(周波数)を変えて、観測画像の撮影を繰り返してもよい。例えば一般的な位相接続の場合は、計測用の高周波の縞パターンと接続用の低周波の縞パターンによる撮影を行い、MPSの場合は、複数種類の高周波の縞パターンによる撮影を行う。観測画像のデータは、画像取得部20によって制御装置12に取り込まれ、メモリ又は不揮発性の記憶装置に格納される。
ステップS41では、領域設定部21が、観測画像の視野のうちから補正領域を設定する。補正領域の設定はいかなる方法を用いてもよい。例えば、撮像装置11から取り込まれた画像を表示装置に表示し、入力装置を用いてユーザに領域を指定させてもよい。あるいは、領域設定部21が、観測画像を解析して、多重反射が発生している領域を検出(推定)し、補正領域を自動で設定してもよい。あるいは、計測対象物が表面実装基板のような工業製品の場合であれば、設計データ(CADデータ)などに基づいて反射面Rの有無及び多重反射が発生し得る領域を検出し、補正領域を自動で設定してもよい。
本実施形態では、このように多重反射補正を行う領域を限定することによって、多重反射補正に要する処理負荷を低減し、3次元形状計測の処理時間の短縮を図ることができる
。なお、処理時間の短縮を図る必要がなければ、観測画像の全領域に多重反射補正を行ってもかまわない。その場合はステップS41の処理は省略することができる。
。なお、処理時間の短縮を図る必要がなければ、観測画像の全領域に多重反射補正を行ってもかまわない。その場合はステップS41の処理は省略することができる。
ステップS42では、位相算出部22が、位相を変えて撮影した複数の観測画像に対しFFT(高速フーリエ変換)を行い、観測画像上の各画素における観測光の輝度振幅値c及び位相値θMを算出する。
ステップS43では、位相算出部22が、ステップS41で設定された補正領域のうちから処理対象とする画素(以後「対象画素p0」とよぶ)を選択する。次にステップS44では、位相算出部22が、対象画素p0に関して、観測光の輝度振幅値cのサンプルを3つ以上取得する。
観測光の輝度振幅値cの3つ以上のサンプルは、「観測画像上の画素の位置」と「縞パターンの空間方向の周波数」のうち少なくともいずれか一方の条件が異なるように選択すればよい。
例えば、波数kfiの縞パターンを用いて観測された観測画像における画素pjの輝度振幅値をcijと表記したときに、対象画素p0とその近傍画素p1,p2…の各々について波数kf0の1種類の縞パターンで観測された輝度振幅値c00,c01,c02…を3つ以上のサンプルとして選んでもよい。この方法の場合、縞パターンの波数が1種類でよいため、観測画像の撮影回数が少なくて済むという利点がある。ここで、近傍画素p1,p2…は対象画素p0近傍の局所領域から選択するとよい。局所領域(平面で近似できる微小領域)内の画素p0,p1,p2…であれば、計測対象物表面の反射率などの条件が同一とみなせるからである。また、画素p0,p1,p2…は縞パターンの位相が互いに異なる位置から選択するとよい。さらに好ましくは、観測画像上のエピポーラ線に平行な方向に並ぶ画素であるとよい。このようにサンプルを選ぶことにより、できるだけ少ないサンプルから精度良く位相誤差を算出することができる。
あるいは、対象画素p0について波数kf0,kf1,kf2…の3種類以上の縞パターンで観測された輝度振幅値c00,c10,c20…を3つ以上のサンプルとして選んでもよい。この方法の場合、同じ画素(同じ計測点)に関するサンプルを用いるため、位相誤差の推定精度をより向上できる。特に、計測対象物表面の形状(凹凸)や反射率が均一でない場合には、この方法のほうが適している。ここで、波数kf0,kf1,kf2…は、いずれかの波数が他の波数の整数倍にならないように選択する。MPSの場合は、3種類以上の高周波の縞パターンを用いて観測された対象画素p0の輝度振幅値をそのまま3つ以上のサンプルとして利用することができる。
あるいは、画素の位置と縞パターンの波数の両方の条件が異なる輝度振幅値c00,c01,c11…とか、輝度振幅値c00,c11,c22…を、3つ以上のサンプルとして選んでもよい。すなわち、画素の位置と縞パターンの空間方向の周波数の両方の条件を変えたサンプルを用いてもよい。
ステップS45では、位相算出部22が、ステップS44で取得した輝度振幅値の3つ以上のサンプルを用いて式(7)及び式(8)を解くことにより、2次反射光に起因する位相誤差Δθを算出する。そして、ステップS46では、位相算出部22が、位相誤差Δθを用いて位相値θMを補正することにより、対象画素p0の補正位相値θtrueを算出する。本実施形態では、観測位相値θMから位相誤差Δθを減算した値を補正位相値θtrueとする(θtrue=θM−Δθ)。
上述したステップS43〜S46の処理は、補正領域内の全ての画素について行われる
(ステップS47)。
(ステップS47)。
その後、ステップS48において、3次元復元部23が、位相算出部22で算出された各画素の位相値(補正領域内の画素については補正位相値)に基づいて、観測画像上の各画素(つまり計測対象物の表面上の各計測点)の3次元位置を算出する。これにより、計測対象物表面の3次元形状を復元できる。位相値から3次元形状を計算する方法には、例えば、位相シフト法、MPSなどを用いることができる。これらのアルゴリズムは公知のためここでは詳しい説明は割愛する。
以上述べた本実施形態の多重反射補正によれば、2次反射光に起因する位相誤差を補正した位相値を基に3次元形状を算出するので、多重反射の影響が低減された高精度な3次元形状計測が実現できる。しかも本実施形態の多重反射補正は、従来方法のように3次元形状の計測を阻害することはないし、また多重反射が実際に生じている部分か否かにかかわらず適用することができるため、現実の装置への実装が容易であるという利点もある。
(位相誤差の計算方法の例)
次に、位相算出部22による位相誤差の計算方法、すなわち、式(7)及び式(8)の具体的な解法の一例を説明する。
次に、位相算出部22による位相誤差の計算方法、すなわち、式(7)及び式(8)の具体的な解法の一例を説明する。
そこで本例では、輝度振幅値に関する第1の指標として「c2」を、投影する縞パターンの空間方向の周波数に関する第2の指標として「1/kf」を、1次反射光と2次反射光の位相差に関する第3の指標として「x2−x1」をそれぞれ選択する。そして、a,bに適当な定数を設定して、式(9)を満たす第1〜第3の指標の値の組み合わせを計算することにより、第1〜第3の指標の関係を定義するリファレンス情報(3次元のテーブル)を作成し、制御装置12の記憶装置にあらかじめ格納しておく。図5は、リファレンス情報における第1〜第3の指標の値の関係を概念的に示す図である。横軸が第3の指標x2−x1の値であり、縦軸が第2の指標1/kfの値であり、濃度が第1の指標c2の値である。
例えば、対象画素p0について、波数kf0,kf1,kf2,kf3の4種類の縞パターンで観測された輝度振幅値c00,c10,c20,c30がサンプルとして取得されたとする。位相算出部22は、正規化相互相関のようなスケール依存しない探索アルゴリズムによりリファレンス情報を探索することによって、第2の指標の値1/kf0,1/kf1,1/kf2,1/kf3に対応する第1の指標の値の比がc00 2:c10 2:c20 2:c30 2に最も近似する、第3の指標の値x2−x1を求める。
位相算出部22は、行列式(10)を最小二乗法で解くことでa2,b2,2abの値を求め、さらにそれらの値を満たすa,bの組み合わせを求める。
その後、位相算出部22は、以上の計算で得られたx2−x1の値と3次元形状計測に用いる波数kfの値(例えばkf0)とから位相差α=kf(x2−x1)を計算し、このαの値と行列式(10)から求めたa,bの値を式(7)に代入することで、位相誤差Δθを計算する。
以上述べた計算方法によれば、輝度振幅値cの複数のサンプルから、位相差α及び位相誤差Δθの値を簡単かつ精度良く計算することができる。
なお、上記の実施形態の説明は、本発明を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。例えば、上記計算例では4つのサンプルを用いて探索処理及び行列計算を行ったが、3つ又は5つ以上のサンプルを用いて同様の計算を行ってもよい。また、リファレンス情報を用いず、非線形最適化により式(7)を直接解いてもよい。
O:計測対象物、P:計測点、R:反射面
1:3次元形状計測装置、10:投影装置、11:撮像装置、12:制御装置
20:画像取得部、21:領域設定部、22:位相算出部、23:3次元復元部
100:パネル
1:3次元形状計測装置、10:投影装置、11:撮像装置、12:制御装置
20:画像取得部、21:領域設定部、22:位相算出部、23:3次元復元部
100:パネル
Claims (11)
- 計測対象物に対し、時間方向と空間方向に周期性を有するパターンを投影する投影装置と、
前記計測対象物を撮像する撮像装置と、
前記投影装置から投影するパターンの位相を変えながら前記撮像装置によって撮像された複数の観測画像を用いて前記計測対象物の3次元形状を計測する制御装置と、を有し、
前記制御装置は、
前記撮像装置で観測される観測光が、前記投影装置から投影された光が前記計測対象物上の計測点で反射し前記撮像装置に入射する1次反射光と、前記投影装置から投影され他の反射面で反射された光が前記計測対象物上の前記計測点で反射し前記撮像装置に入射する2次反射光との合成光であると仮定し、
前記複数の観測画像に基づいて、前記観測光の輝度振幅値について3つ以上のサンプルを取得し、
前記3つ以上のサンプルを用いて下記式を解くことにより、前記2次反射光に起因する位相誤差を算出し、
前記複数の観測画像に基づいて前記観測光の位相値を算出し、
前記位相誤差を用いて前記観測光の位相値を補正することにより補正位相値を算出し、
前記補正位相値に基づいて、前記計測対象物上の前記計測点の3次元位置を算出することを特徴とする3次元形状計測装置。
Δθ:2次反射光に起因する位相誤差
a:1次反射光の輝度振幅値
b:2次反射光の輝度振幅値
c:観測光の輝度振幅値
α:1次反射光と2次反射光の位相差 - 前記3つ以上のサンプルは、前記観測画像上の画素の位置、及び、前記パターンの空間方向の周波数、のうち少なくともいずれか一方の条件が異なるサンプルである
ことを特徴とする請求項1に記載の3次元形状計測装置。 - 前記3つ以上のサンプルは、前記観測画像上の3つ以上の画素について、1種類の周波数のパターンを用いて観測された輝度振幅値であり、
前記3つ以上の画素は、前記パターンの位相が互いに異なる位置にある画素である
ことを特徴とする請求項1又は2に記載の3次元形状計測装置。 - 前記3つ以上の画素は、前記観測画像上の局所領域から選択される
ことを特徴とする請求項3に記載の3次元形状計測装置。 - 前記3つ以上の画素は、前記観測画像上のエピポーラ線に平行な方向に並ぶ画素であることを特徴とする請求項3又は4に記載の3次元形状計測装置。
- 前記3つ以上のサンプルは、前記観測画像上の1つの画素について、3種類以上の周波数のパターンを用いて観測された輝度振幅値である
ことを特徴とする請求項1又は2に記載の3次元形状計測装置。 - 前記制御装置は、
輝度振幅値に関する第1の指標と、投影するパターンの空間方向の周波数に関する第2の指標と、1次反射光と2次反射光の位相差に関する第3の指標と、の関係を定義するリファレンス情報を記憶しており、
前記3つ以上のサンプルと、各サンプルの観測時に投影したパターンの空間方向の周波数と、前記リファレンス情報とに基づいて、1次反射光と2次反射光の位相差を求めることを特徴とする請求項1〜6のうちいずれか1項に記載の3次元形状計測装置。 - 前記制御装置は、位相シフト法又はMPS(Micro Phase Sifting)により、前記補正位相値に基づいて、前記計測対象物上の前記計測点の3次元位置を算出する
ことを特徴とする請求項1〜7のうちいずれか1項に記載の3次元形状計測装置。 - 前記他の反射面は、鏡面性の反射面である
ことを特徴とする請求項1〜8のうちいずれか1項に記載の3次元形状計測装置。 - 投影装置から投影するパターンの位相を変えながら撮像装置によって撮像された複数の観測画像を用いて計測対象物の3次元形状を計測する3次元形状計測方法において、
前記パターンは、時間方向と空間方向に周期性を有するパターンであり、
前記撮像装置で観測される観測光が、前記投影装置から投影された光が前記計測対象物上の計測点で反射し前記撮像装置に入射する1次反射光と、前記投影装置から投影され他の反射面で反射された光が前記計測対象物上の前記計測点で反射し前記撮像装置に入射する2次反射光との合成光であると仮定し、
前記3次元形状計測方法が、
前記複数の観測画像に基づいて、前記観測光の輝度振幅値について3つ以上のサンプルを取得するステップと、
前記3つ以上のサンプルを用いて下記式を解くことにより、前記2次反射光に起因する位相誤差を算出するステップと、
前記複数の観測画像に基づいて前記観測光の位相値を算出するステップと、
前記位相誤差を用いて前記観測光の位相値を補正することにより補正位相値を算出するステップと、
前記補正位相値に基づいて、前記計測対象物上の前記計測点の3次元位置を算出するステップと、
を含むことを特徴とする3次元形状計測方法。
Δθ:2次反射光に起因する位相誤差
a:1次反射光の輝度振幅値
b:2次反射光の輝度振幅値
c:観測光の輝度振幅値
α:1次反射光と2次反射光の位相差 - 請求項10に記載の3次元形状計測方法の各ステップをコンピュータに実行させるためのプログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017043115A JP2018146449A (ja) | 2017-03-07 | 2017-03-07 | 3次元形状計測装置及び3次元形状計測方法 |
EP17900273.8A EP3594618B1 (en) | 2017-03-07 | 2017-11-28 | Three-dimensional shape measurement device, three-dimensional shape measurement method, and program |
PCT/JP2017/042490 WO2018163530A1 (ja) | 2017-03-07 | 2017-11-28 | 3次元形状計測装置、3次元形状計測方法、及びプログラム |
CN201780085657.4A CN110268223B (zh) | 2017-03-07 | 2017-11-28 | 三维形状计测装置、三维形状计测方法以及非暂时性存储介质 |
US16/484,134 US11055863B2 (en) | 2017-03-07 | 2017-11-28 | Three-dimensional shape measurement device, three-dimensional shape measurement method, and program |
KR1020197022561A KR102149707B1 (ko) | 2017-03-07 | 2017-11-28 | 3차원 형상 계측 장치, 3차원 형상 계측 방법 및 프로그램 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017043115A JP2018146449A (ja) | 2017-03-07 | 2017-03-07 | 3次元形状計測装置及び3次元形状計測方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018146449A true JP2018146449A (ja) | 2018-09-20 |
Family
ID=63447483
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017043115A Ceased JP2018146449A (ja) | 2017-03-07 | 2017-03-07 | 3次元形状計測装置及び3次元形状計測方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11055863B2 (ja) |
EP (1) | EP3594618B1 (ja) |
JP (1) | JP2018146449A (ja) |
KR (1) | KR102149707B1 (ja) |
CN (1) | CN110268223B (ja) |
WO (1) | WO2018163530A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6797340B1 (ja) * | 2020-03-24 | 2020-12-09 | 三菱電機株式会社 | 信号処理装置、レーダ装置および信号処理方法 |
JP2021018219A (ja) * | 2019-07-24 | 2021-02-15 | 株式会社デンソーアイティーラボラトリ | 3次元形状計測システム、3次元形状計測方法、及び3次元形状計測プログラム |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10529082B2 (en) * | 2017-06-20 | 2020-01-07 | Mitutoyo Corporation | Three-dimensional geometry measurement apparatus and three-dimensional geometry measurement method |
US10656780B2 (en) | 2018-01-12 | 2020-05-19 | Mitutoyo Corporation | Position specifying method and program |
WO2021020603A1 (ko) * | 2019-07-29 | 2021-02-04 | 한국표준과학연구원 | 복합 패턴을 이용한 초고속 편향 측정법을 이용한 자유곡면의 3차원 형상측정시스템 및 측정방법 |
US11270418B1 (en) | 2020-11-19 | 2022-03-08 | VPIX Medical Incorporation | Method and system for correcting phase of image reconstruction signal |
WO2022108338A1 (ko) * | 2020-11-19 | 2022-05-27 | 주식회사 브이픽스메디칼 | 이미지 복원 신호의 위상 보정 방법 및 시스템 |
KR102374439B1 (ko) * | 2020-11-19 | 2022-03-15 | (주) 브이픽스메디칼 | 이미지 복원 신호의 위상 보정 방법 및 시스템 |
CN113960067A (zh) * | 2021-10-25 | 2022-01-21 | 慧三维智能科技(苏州)有限公司 | 一种高亮面表面缺陷检测装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005062063A (ja) * | 2003-08-18 | 2005-03-10 | Ricoh Co Ltd | 物体形状測定装置 |
JP2006275529A (ja) * | 2005-03-28 | 2006-10-12 | Citizen Watch Co Ltd | 3次元形状測定方法及び測定装置 |
JP2008309551A (ja) * | 2007-06-13 | 2008-12-25 | Nikon Corp | 形状測定方法、記憶媒体、および形状測定装置 |
JP2009019941A (ja) * | 2007-07-11 | 2009-01-29 | Nikon Corp | 形状測定方法 |
JP2011021970A (ja) * | 2009-07-15 | 2011-02-03 | Nikon Corp | 三次元形状測定装置および三次元形状測定方法 |
JP2015021862A (ja) * | 2013-07-19 | 2015-02-02 | 株式会社三次元メディア | 3次元計測装置及び3次元計測方法 |
WO2016076796A1 (en) * | 2014-11-12 | 2016-05-19 | Heptagon Micro Optics Pte. Ltd. | Optoelectronic modules for distance measurements and/or multi-dimensional imaging |
JP2016130663A (ja) * | 2015-01-13 | 2016-07-21 | オムロン株式会社 | 検査装置及び検査装置の制御方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4644819B2 (ja) * | 2004-04-22 | 2011-03-09 | 国立大学法人電気通信大学 | 微小変位計測法及び装置 |
JP3944188B2 (ja) * | 2004-05-21 | 2007-07-11 | 株式会社東芝 | 立体画像表示方法、立体画像撮像方法及び立体画像表示装置 |
JP2006023178A (ja) * | 2004-07-07 | 2006-01-26 | Olympus Corp | 3次元計測方法及び装置 |
JP2007114071A (ja) * | 2005-10-20 | 2007-05-10 | Omron Corp | 三次元形状計測装置、プログラム、コンピュータ読み取り可能な記録媒体、及び三次元形状計測方法 |
WO2007116711A1 (ja) * | 2006-03-29 | 2007-10-18 | Nikon Corporation | 計測方法、計測装置及び処理装置、並びにパターン形成方法及びデバイス製造方法 |
JP2014106110A (ja) * | 2012-11-27 | 2014-06-09 | Canon Inc | 計測方法及び計測装置 |
JP2014115109A (ja) * | 2012-12-06 | 2014-06-26 | Canon Inc | 距離計測装置及び方法 |
US9189705B2 (en) * | 2013-08-08 | 2015-11-17 | JSMSW Technology LLC | Phase-controlled model-based overlay measurement systems and methods |
CN103398675B (zh) | 2013-08-10 | 2016-06-15 | 南昌航空大学 | 一种基于条纹周期校正的复杂大物体三维测量方法 |
DE102013017500B3 (de) * | 2013-10-17 | 2015-04-02 | Faro Technologies, Inc. | Verfahren und Vorrichtung zum optischen Abtasten und Vermessen einer Szene |
JP6364777B2 (ja) * | 2014-01-10 | 2018-08-01 | 凸版印刷株式会社 | 画像データ取得システム及び画像データ取得方法 |
JP2016000139A (ja) * | 2014-06-12 | 2016-01-07 | キヤノン株式会社 | 位相情報取得装置及び撮像システム |
CN105761243A (zh) | 2016-01-28 | 2016-07-13 | 四川川大智胜软件股份有限公司 | 基于结构光投影的三维全脸照相系统及其照相方法 |
-
2017
- 2017-03-07 JP JP2017043115A patent/JP2018146449A/ja not_active Ceased
- 2017-11-28 WO PCT/JP2017/042490 patent/WO2018163530A1/ja unknown
- 2017-11-28 EP EP17900273.8A patent/EP3594618B1/en active Active
- 2017-11-28 US US16/484,134 patent/US11055863B2/en active Active
- 2017-11-28 KR KR1020197022561A patent/KR102149707B1/ko active IP Right Grant
- 2017-11-28 CN CN201780085657.4A patent/CN110268223B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005062063A (ja) * | 2003-08-18 | 2005-03-10 | Ricoh Co Ltd | 物体形状測定装置 |
JP2006275529A (ja) * | 2005-03-28 | 2006-10-12 | Citizen Watch Co Ltd | 3次元形状測定方法及び測定装置 |
JP2008309551A (ja) * | 2007-06-13 | 2008-12-25 | Nikon Corp | 形状測定方法、記憶媒体、および形状測定装置 |
JP2009019941A (ja) * | 2007-07-11 | 2009-01-29 | Nikon Corp | 形状測定方法 |
JP2011021970A (ja) * | 2009-07-15 | 2011-02-03 | Nikon Corp | 三次元形状測定装置および三次元形状測定方法 |
JP2015021862A (ja) * | 2013-07-19 | 2015-02-02 | 株式会社三次元メディア | 3次元計測装置及び3次元計測方法 |
WO2016076796A1 (en) * | 2014-11-12 | 2016-05-19 | Heptagon Micro Optics Pte. Ltd. | Optoelectronic modules for distance measurements and/or multi-dimensional imaging |
JP2016130663A (ja) * | 2015-01-13 | 2016-07-21 | オムロン株式会社 | 検査装置及び検査装置の制御方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021018219A (ja) * | 2019-07-24 | 2021-02-15 | 株式会社デンソーアイティーラボラトリ | 3次元形状計測システム、3次元形状計測方法、及び3次元形状計測プログラム |
JP6797340B1 (ja) * | 2020-03-24 | 2020-12-09 | 三菱電機株式会社 | 信号処理装置、レーダ装置および信号処理方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3594618A4 (en) | 2021-01-27 |
EP3594618B1 (en) | 2021-11-17 |
CN110268223B (zh) | 2021-02-09 |
WO2018163530A1 (ja) | 2018-09-13 |
US20200020119A1 (en) | 2020-01-16 |
EP3594618A1 (en) | 2020-01-15 |
KR20190104367A (ko) | 2019-09-09 |
KR102149707B1 (ko) | 2020-08-31 |
CN110268223A (zh) | 2019-09-20 |
US11055863B2 (en) | 2021-07-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018163530A1 (ja) | 3次元形状計測装置、3次元形状計測方法、及びプログラム | |
KR102170029B1 (ko) | 3차원 형상 계측 장치, 3차원 형상 계측 방법 및 프로그램 | |
US8786700B2 (en) | Position and orientation measurement apparatus, position and orientation measurement method, and storage medium | |
EP1643210A1 (en) | Method and apparatus for measuring shape of an object | |
JP5123522B2 (ja) | 3次元計測方法及びそれを用いた3次元形状計測装置 | |
TWI567364B (zh) | 結構光產生裝置、量測系統及其方法 | |
JP2009036589A (ja) | 校正用ターゲット、校正支援装置、校正支援方法、および校正支援プログラム | |
US20190325593A1 (en) | Image processing apparatus, system, method of manufacturing article, image processing method, and non-transitory computer-readable storage medium | |
JP2014115108A (ja) | 距離計測装置 | |
KR102218215B1 (ko) | 상호 반사 검출 장치, 상호 반사 검출 방법 및 프로그램 | |
TW201723422A (zh) | 光滑物體的量測系統及其量測方法 | |
JP2020004085A (ja) | 画像処理装置、画像処理方法及びプログラム | |
TW201323859A (zh) | 表面缺陷檢測裝置及其量測方法 | |
JP6867766B2 (ja) | 情報処理装置およびその制御方法、プログラム | |
CN112747686B (zh) | 三维形貌测量装置 | |
JP6386954B2 (ja) | 表面形状測定装置及び表面形状測定方法 | |
JP2016109580A (ja) | 計測装置および計測方法 | |
JP6486010B2 (ja) | 形状計測装置および形状計測方法 | |
JP2016008837A (ja) | 形状測定方法、形状測定装置、構造物製造システム、構造物製造方法、及び形状測定プログラム | |
JP2020046229A (ja) | 三次元形状測定装置及び三次元形状測定方法 | |
JP2021139644A (ja) | 形状測定装置及び形状測定方法 | |
JP2018096893A (ja) | 3次元計測装置、および、3次元計測方法 | |
JP2017184038A (ja) | 投影制御装置、プログラム、及び投影システム | |
JP2001304837A (ja) | 平面検査装置および平面検査方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190305 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20200203 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200204 |
|
AA92 | Notification that decision to refuse application was cancelled |
Free format text: JAPANESE INTERMEDIATE CODE: A971092 Effective date: 20200225 |