JP3687531B2 - 3次元形状計測方法およびそのシステム - Google Patents
3次元形状計測方法およびそのシステム Download PDFInfo
- Publication number
- JP3687531B2 JP3687531B2 JP2000359231A JP2000359231A JP3687531B2 JP 3687531 B2 JP3687531 B2 JP 3687531B2 JP 2000359231 A JP2000359231 A JP 2000359231A JP 2000359231 A JP2000359231 A JP 2000359231A JP 3687531 B2 JP3687531 B2 JP 3687531B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- value
- phase
- image
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、位相シフト法(縞走査法)により対象物の3次元形状を計測するための3次元形状計測方法およびそのシステムに関するものである。
【0002】
【従来の技術】
従来、3次元形状の計測には、高速かつ高精度の計測を可能にする位相シフト法(縞走査法)が用いられている。ここで、位相シフト法においては、位相連結の処理が正しく行われていなければ、高さ情報を一意に決定することができないという位相連結問題に対処する必要があることから、例えば、特公平3−38524号公報には、計測対象の近くに投影パターン全体を捉えることが出来るような広い基準面を配置し、ここに投影される歪みのない投影パターンを基準位相として計測し、これをもとにして計測対象に投影されたパターンの歪みを求めるという方法が記載されている。
【0003】
また、特開平11−14327号公報では、画像処理のみにより位相連結の処理を行う方法として、画像全面に対して位相不連続部分の特徴を抽出するフィルタを適用する方法が提案されている。
【0004】
さらに、特開平6−66527号公報には、投影方法の改良により位相連結問題を解決する方法として、投影するパターンの周期を変えて2度の計測を行い、周期から決定される最大計測高さを元に小さい周期での計測の際に発生した周期ズレを大きい周期での計測結果をもとに補正する方法が記載されている。
【0005】
【発明が解決しようとする課題】
しかしながら、上記3つの公報に記載の方法では、位相連結問題を解決することができるものの、それぞれ以下のような課題が残る。
【0006】
特公平3−38524号公報に記載の方法では、カメラ視野内にその基準面の全体を捉える必要があり、計測対象は画面の一部にしか捉えられないため、撮像装置の分解能が十分に活用されないという問題があった。また、装置構成の面でも基準面を設置する必要があり、計測対象が人体のように加工することのできない場合、適用が困難であるという問題があった。
【0007】
特開平11−14327号公報に記載の方法では、得られた位相推定結果画像の全面に対して演算量の多い大きな畳み込みフィルタを適用する必要があり、位相導出の処理に時間がかかるという問題があった。
【0008】
特開平6−66527号公報に記載の方法では、計測を行うにあたって2回の計測を実施する必要があり、計測時間が2倍かかるという問題があった。
【0009】
また、本出願人による特願平11−304086号の出願にも、位相連結問題を解決することができる発明として、段差などで縞に不連続が生じた場合にも縞次数を決定しやすくすべく、光の強度が少なくとも1周期以上に亘る正弦波状に変化し縞状となる第1パターンの投影像と、その第1パターンの位相境界の位置を割り出すための第2パターンの投影像とを併用する方法が記載されている。しかし、この出願の一部の方法は、第2パターンの像を投影するために補助投影装置を用いたり、投影回数を増やしたりするので、コストおよび撮像時間が余計にかかる欠点があった。
【0010】
本発明は、上記事情に鑑みてなされたものであり、コストおよび撮像時間を余計にかけることなく、撮像装置の解像度を損なわない3次元形状の計測、簡易な位相連結の処理および高速な計測を可能にする3次元形状計測方法およびそのシステムを提供することを目的とする。
【0011】
【課題を解決するための手段】
上記課題を解決するための請求項1記載の発明は、位相シフト法に基づく3次元形状計測方法であって、縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影し、前記対象物に投影されたパターンの像の撮影および前記パターンの一定量のシフトを繰り返して、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込み、取り込んだ少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出することを特徴とする。
【0012】
請求項2記載の発明は、請求項1記載の3次元形状計測方法において、前記位相復元画像を作成した後、前記領域分類用画像は、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より小さい画素に、第1値が割り当てられ、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より大きい画素に、第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素の位置に対応する画素に、第3値が割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記位相復元画像に利用して行われることを特徴とする。
【0013】
請求項3記載の発明は、請求項1記載の3次元形状計測方法において、前記領域分類用画像は、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して位相値を算出する処理を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と他の画像を初期位相用とした場合とで平行に実行しながら、前記一の画像を初期位相用とした場合の位相値と前記他の画像を初期位相用とした場合の位相値との差分値を求め、この差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記各位相値に利用して行われることを特徴とする。
【0014】
請求項4記載の発明は、請求項1記載の3次元形状計測方法において、前記一定量は前記明度の1周期を3より大きい整数である所定数で除して得た量であり、前記領域分類用画像を作成する場合、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と前記取り込んだ画像をサイクリックに前記所定数より小さい整数回分ずらして他の画像を初期位相用とした場合とでそれぞれ作成し、この後、前記領域分類用画像は、前記両位相復元画像内の対応する両画素の値の差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が各画素に割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記両位相復元画像の一方に利用して行われることを特徴とする。
【0015】
請求項5記載の発明は、請求項1記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、画素の値が前記縞の並設方向に沿って前記第2値から前記第1値に変化する画素の位置を位相連結の位置として、前記位相連結の処理を行うことを特徴とする。
【0016】
請求項6記載の発明は、請求項1記載の3次元形状計測方法において、前記位相連結の処理は、前記領域分類用画像を用いて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域の分類を行い、これら第1領域および第2領域における前記縞の並設方向に沿った始点および終点をそれぞれ求めて前記第1領域および第2領域の位置関係の評価を行い、この評価結果に応じて、前記縞の並設方向に沿って互いに隣接する前記第1領域および第2領域の組分けをすることにより実行されることを特徴とする。
【0017】
請求項7記載の発明は、請求項6記載の3次元形状計測方法において、前記組分け前、前記第1領域および第2領域の各々に所定画素数以下の他の小領域が含まれる場合、その小領域を、これを含む領域に併合する処理を行うことを特徴とする。
【0018】
請求項8記載の発明は、請求項6記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域を前記第1領域に含めて拡張の第1領域とし、前記第3領域を前記第2領域に含めて拡張の第2領域とし、これら拡張の第1および第2領域の重なり状態に基づいて、互いに隣接する前記第1領域および第2領域の組分けをすることを特徴とする。
【0019】
請求項9記載の発明は、請求項8記載の3次元形状計測方法において、前記第3領域により複数位相分の前記第1領域および第2領域が繋がって見える場合、前記第3領域を除いて前記第1領域および第2領域を再度求め、これら第1領域および第2領域のうち、前記縞に沿った方向に分断されていない領域を抽出し、この領域に基づいて前記縞に沿った方向に分断された領域を結合することを特徴とする。
【0020】
請求項10記載の発明は、請求項2記載の3次元形状計測方法において、前記撮影およびシフトを繰り返して取り込まれる画像を、前記パターンの像を一の方向から前記対象物に投影した場合のものと前記パターンの像を他の方向から前記対象物に投影した場合のものとの2組み用意し、これら2組みの画像から前記位相復元画像を2つ作成し、これら位相復元画像の一方のみに前記第3値の画素が連続する領域が存在する場合、その領域を、前記対象物における段差を作る突部の影の範囲として、これら影の範囲の間に挟まれる領域を前記突部の存在領域とすることを特徴とする。
【0021】
請求項11記載の発明は、請求項2記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、前記第3値の画素が連続する第3領域における前記縞の並設方向に沿った始点と終点における位相復元画像の画素の値がほぼ同一である場合、当該第3領域を前記対象物において段差を作る突部の影の範囲とすることを特徴とする。
【0022】
請求項12記載の発明は、請求項10または11記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、前記影の範囲からその影が伸びる方向とは逆の方向における前記縞に沿った方向の各画素に対応する前記位相復元画像の画素の値を調べ、これら画素の値が不連続である場合には前記影が伸びる方向とは逆の方向に前記突部が続いているものとし、不連続で無くなった場合には前記突部が途切れる境界であるとすることを特徴とする。
【0023】
請求項13記載の発明は、請求項10〜12のいずれかに記載の3次元形状計測方法において、前記縞の並設方向に沿った前記影の範囲の長さをパターンずれ量として求め、その影が伸びる方向とは逆の方向に存在する前記突部における前記第1値ないし第2値の画素が連続する領域を、前記パターンずれ量だけ前記縞の並設方向にずれた前記突部の外側の領域と対応付けることを特徴とする。
【0024】
請求項14記載の発明は、請求項1記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域内の位相値または高さ情報を、その第3領域の外側の位相値または高さ情報をもとに補完することを特徴とする。
【0025】
請求項15記載の発明は、請求項14記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域が前記対象物における段差を作る突部の影で生じた場合、その第3領域内の位相値または高さ情報を、その第3領域に隣接しかつ前記突部の影が伸びる方向にある領域の位相値または高さ情報をもとに補完することを特徴とする。
【0026】
請求項16記載の発明は、位相シフト法に基づく3次元形状計測システムであって、縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影する投影装置と、前記対象物に投影されたパターンの像を撮影する撮像装置と、前記対象物に投影されたパターンの一定量のシフトを繰り返して得られ、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込んで記憶する記憶装置と、この記憶装置に記憶された少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出する画像処理装置とを備えることを特徴とする。
【0027】
上記発明によれば、領域分類用画像を用いて第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをするので、組分けされた第1領域および第2領域が1周期分の位相(以下、1位相という)に相当するようになるから、段差や孔がある場合にも、組分け結果を利用することで正しい位相連結の処理を行うことができる。また、補助投影装置を用いたり、補助パターンを投影するために投影回数を増やしたりする必要がないので、3次元形状計測を低コストで高速に実現できる。
【0028】
【発明の実施の形態】
図1は3次元形状計測システムの説明図、図2は3次元形状計測方法の手順を示すフローチャートであり、これらの図を用いて本発明の第1実施形態を説明する。
【0029】
図2に示す3次元形状計測方法は、位相シフト法に基づいて3次元形状を計測する方法であって、ステップS1の「画像番号←1」と、ステップS2の「パターン切り替え」と、ステップS3の「画像取り込み」と、ステップS4の「取り込み完了?」と、ステップS5の「画像番号←画像番号+1」と、ステップS6の「画像番号:N」と、ステップS7の「画像を記憶装置へ転送」と、ステップS8の「位相導出処理」と、ステップS9の「位相境界検出」と、ステップS10の「位相連結処理」と、ステップS11の「距離計算」との各手順を持つ。
【0030】
そして、上記3次元形状計測方法は、図1(a)の例に示すように、投影装置1と、カメラ2と、量子化回路3と、記憶装置4と、画像処理装置5とを備える3次元形状計測システムによって実行される。
【0031】
投影装置1は、ランプ11と、このランプ11の光を一の方向に向けて反射する凹面鏡12と、ランプ11の前方に配置される投影用レンズ13と、ランプ11および投影用レンズ13間に介在し、光の透過率がある1方向に正弦波状に変化する縞状の濃淡パターンH1が形成されたパターン板14と、このパターン板14を上記正弦波の1周期より短い間隔で正確に移動させるパターンシフト部15とにより構成されている。この構成の場合、ランプ11の光が凹面鏡12により面状光となってパターン板14を通過して、縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像が投影用レンズ13を通して対象物10の表面上に投影されることになり、また、図2のステップS2の処理として、パターンシフト部15により、対象物10に投影された像の明度の位相がシフトすることになる。ここに、対象物10に投影された像はその対象物10の表面の3次元形状に応じた像H2に変化する。
【0032】
なお、パターン板14に透光型液晶パネルを使用して、パターンシフト部15を廃止する構成でもよい。この構成の場合、機械的可動部のない装置構成が可能となるほか、対象物10に投影される像の明度の位相を簡単、正確にシフトすることが可能になる。また、上記投影方法は一例であり、この他にも白黒格子パターンをレンズによりぼかして投影する方法やレーザーの干渉を利用する方法、モアレトポグラフィにより縞を生成する方法により置換しても構わない。
【0033】
カメラ2は、受光レンズおよびCCDなどにより構成され、濃淡パターンH1のシフト毎に、対象物10の表面上の像H2を投影装置1の光軸とは異なる方向から撮影するものであり、図1(a)の例では、対象物10の上面を撮影するように設置されている。量子化回路3は、カメラ2の撮影で得られた信号を量子化して、像H2に対応する縞画像H3を得るものである。記憶装置4は、例えばRAMなどの半導体記憶素子またはハードディスクなどのディスク装置などにより構成され、量子化回路3の量子化で得られた縞画像H3を複数フレーム分記憶するものである。なお、本実施形態では、カメラ2と量子化回路3で撮像装置を構成している。
【0034】
ここで、カメラ2による撮影の手順を説明すると、まず、撮影で得られる縞画像に対する画像番号が1に初期化される(図2のS1)。この後、濃淡パターンH1のシフトが行われ(S2)、続いてカメラ2の撮影および量子化回路3の量子化により縞画像H3が取り込まれる(S3)。この後、縞画像H3の取り込みが完了すると(S4でYes)、画像番号が1増分され(S5)、画像番号と所定数N(3以上)とが比較される(S6)。このとき、画像番号がNより大きければ(S6でYes)、取り込まれた縞画像H3が記憶装置4に転送されて記憶され(S7)、そうでなければ(S6でNo)、ステップS2に戻る。なお、以下、投影されたパターン自体の光量を「強度」、撮影された縞画像H3における任意の座標点の画素値を「明度」という。
【0035】
図1に戻って、画像処理装置5は、CPUおよびメモリなどにより構成され、記憶装置4に記憶された画像から、この画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、上記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる領域分類用画像を作成する領域分類用画像作成機能51と、領域分類用画像を用いて第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、第1値の画素が連続する第1領域および第2値の画素が連続する第2領域のうち、縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて対象物の3次元形状の高さ情報を抽出する高さ情報抽出機能52とを有し、より具体的には、図2のステップS8〜S11の画像処理を含む各種処理を実行するものである。例えば、記憶装置4に記憶された複数の縞画像H3から位相復元画像を作成する処理が実行される(S8)。この位相復元画像は、複数の縞画像H3の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる。また、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有する領域分類用画像を生成する処理が実行される(S9)。この領域分類用画像は、上記明度の位相のシフトで明度が変化する画素の位置に対応するとともに位相復元画像内の対応する画素の値が所定しきい値より小さい画素に、第1値が割り当てられ、明度の位相のシフトで明度が変化する画素の位置に対応するとともに位相復元画像内の対応する画素の値が所定しきい値より大きい画素に、第2値が割り当てられ、明度の位相のシフトで明度が変化しない画素の位置に対応する画素に、第3値が割り当てられてなる。さらに、領域分類用画像を用いて第1〜第3値の画素の各々が連続する領域(連結領域)の分類を行い、この分類結果に基づいて、第1値の画素が連続する第1値の連結領域(第1領域ともいう)および第2値の画素が連続する第2値の連結領域(第2領域ともいう)のうち、縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて対象物10の3次元形状の高さ情報を抽出する処理が実行される(S10,S11)。
【0036】
次に、画像処理装置5により実行される各種処理などについて、図面をさらに順次使用しながら詳述する。
【0037】
図3に位相復元の原理説明図を示す。図2のステップS8に進むと、記憶装置4に記憶された複数の縞画像H3に対して同一座標点における明度変化を演算することにより、投影されたパターンの位相を推定する処理が行われる。例えば、図2のステップS1からS7において、周期の1/4(π/2)づつ位相をシフトしながら4回撮影が行われたとすると、図3に示すように、同一座標点(x, y)における明度がI0(x, y)→I1(x, y)→I2(x, y)→I3(x, y)と変化した場合、その位置における位相値α(x, y)が次の演算式で導出される。
【0038】
【数1】
【0039】
この位相値αを全ての点(x, y)について求めて、位相値が等しくなる点を結ぶと、いわゆる光切断法における光切断線に相当し、対象物10の断面形状を反映する等位相線ができる。そして、投影装置1およびカメラ2の位置関係、各種光学的パラメータは既知であるので、これらのパラメータと等位相線の形状から、光切断法と同様に対象物10の3次元形状の高さ情報が得られる。このように、撮影された縞画像の全ての画素について位相を求めると、光切断法で光切断線をそれと略直交する方向に極めて密な間隔で走査してエリア的な距離惰報を得る場合と同様の計測を簡単かつ高速に行える。
【0040】
図4は対象物の斜視図、図5は対象物の上面図および断面図、図6は対象物の撮影で得られる縞画像およびこの縞画像のある直線上に沿った明度変化の例を示す図、図7は位相シフトで得られる各縞画像および各縞画像のある直線上に沿った明度変化の例を示す図、図8は位相復元画像およびこの位相復元画像のある直線上に沿った位相値変化の例を示す図、図9は位相連結処理の説明図である。
【0041】
図4,図5に示すように、対象物10が急な段差を伴う突部10Aと穴(図では貫通孔)10Bとを有する場合、上記数1の演算式を用いただけの3次元形状計測方法では、対象物10の3次元形状を正確に計測することができない。図5の例では、投影装置1の投影光軸がある傾斜角度を有しているので、突部10Aの影ができてその影の範囲Aには投影パターンが投影されない。また、穴10Bに対応する範囲Bにも投影パターンが投影されない。このため、カメラ2の撮影で得られる縞画像H3は、図6に示すように、範囲A,Bに対応する領域AH3,BH3の明度IAH3 ,IBH3 は、投影パターンの影響を受けず周囲光によって照明されただけの明度となる。従って、図2のステップS2で位相シフトを行ったとしても、領域AH3,BH3の明度が図7に示すように変化しなくなる部分が生じるから、上記演算式だけでは、図8に示すように、位相復元画像H4における範囲A,Bに対応する領域AH4,BH4の位相値αAH4 ,αBH4 が欠落して正確な位相値を計測することができなくなる。
【0042】
他方、上述の等位相線から3次元形状の高さ情報を求める場合、数1が逆正接関数であるため、とり得る位相値が−πからπまでの範囲内になることから、図9に示すように、画像の端を基準とした位相値(絶対位相値)α’を求めるためには、縞次数n(n=0,1,2,…)の縞に対してそれぞれn×2πだけ位相値を加算する必要がある。しかしながら、図8に示したように、位相値の情報が欠落して正確な位相値を計測することができなければ、図2のステップS10の位相連結処理を実行するすることができなくなって、絶対位相値α’を求めることができなくなる。すなわち、最も単純な位相境界検出の処理は、位相値がπから−πに変化する部分を検出する処理になるが、この処理では、図8に示すように、領域AH4,BH4の位相値αAH4 ,αBH4 を求めることができないため、その領域内に位相の境界があった場合、これを検出できない。例えば、図5の範囲A内に位相の境界がくると、真上からの撮影で縞画像を得た場合、πから−πに変化する部分が隠されてしまい、位相境界の検出ができないことになる。この結果、対象物10の3次元形状を正確に計測することができなくなるのである。
【0043】
そこで、第1実施形態では、図4,5に示したように、突部10Aおよび穴10Bで局所的に位相境界が隠蔽されている場合の位相連結問題を解決する手段として、より広い範囲の情報を利用するために、各位相値を第1値および第2値に二値化し、それぞれの値が連続する領域(範囲)の組合せをもって1周期分と見なす方法を用いて、1周期ごとに分割された復元位相値の周期の境界を検出し、正しい絶対位相値を求める。
【0044】
図10は領域分類用画像およびこの領域分類用画像のある直線上に沿った明度変化の例を示す図である。図10では、しきい値を位相値0に設定して、位相値が0より小さい第1値(黒)と位相値が0より大きい第2値(白)とに2値化することで、領域分類用画像H5が作成されている。このように、位相復元画像H4の複数の画素にそれぞれ対応する複数の画素を有する画像を用意し、これら複数の画素のうち、位相シフトで明度が変化する画素の位置に対応するとともに位相復元画像H4内の対応する画素の位相値がしきい値0より小さい画素に、第1値を割り当て、位相シフトで明度が変化する画素の位置に対応するとともに位相復元画像H4内の対応する画素の位相値がしきい値0より大きい画素に、第1値を割り当てて、領域分類用画像H5を作成すれば、第1領域および第2領域が互いに隣接するとき、それら第1領域および第2領域の組みを投影パターンの1位相として取り扱うことができる。従って、互いに隣接する第1領域および第2領域を1位相とすればよいので、位相変化方向(図10では左右方向)に画素値を調べ、画素値が第2値から第1値に変化する位置を位相境界とする処理が最も単純な位相境界検出の処理となる。
【0045】
そして、上記位相連結問題を解決すべく、領域分類用画像H5において、位相シフトで明度が変化しない画素(図8では領域AH4,BH4の画素)の位置に対応する画素には、第3値が割り当てられる。図10の例では、領域AH4,BH4に対応し、第3値が割り当てられる領域AH5,BH5の位相値αAH5 ,αBH5 は、0になっている。第1実施形態では、このようにして作成された領域分類用画像H5を用いて、位相境界検出の処理が実行される。
【0046】
図11にこの位相境界検出の具体的な処理手順を示すフローチャートを示す。図11において、まず、上記の3値化によって、ステップS901の「3値画像生成」の処理を実行する。
【0047】
なお、第1実施形態では、上記しきい値を用いて、3値画像としての領域分類用画像H5が生成されるが、これに限らず、図2のステップS1〜S7で得た複数の縞画像の各画素のうち、同一の位置にある各画素の明度を上記数1の演算式に代入して算出された位相値をその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像H4を、ステップS7で取り込んだ画像のうち、一の画像を初期位相用とした場合と取り込んだ画像をサイクリックに上記Nより小さい整数回分ずらして他の画像を初期位相用とした場合とでそれぞれ作成し、上記両位相復元画像内の対応する両画素の値の差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が各画素に割り当てられてなる領域分類用画像H5を生成するようにしてもよい。つまり、初期位相をずらせて復元した2つの位相値を差分することにより同様のパターンを得ることができるのである。
【0048】
図12にこの領域分類用画像の生成方法の説明図を示す。まず、投影パターンを1→2→3→4と変化させて、図7(a)〜(d)に示すような4枚の縞画像H3を取り込み、これら縞画像H3の各画素(x, y)における明度を、数1の演算式のI0(x, y)→I1(x, y)→I2(x, y)→I3(x, y)として代入して位相復元を行い、図12(a)に示すような位相復元画像を生成する。続いて、4枚の縞画像H3をサイクリックにずらして別の配列順序の縞画像列を得る。図7の例の各縞画像H3は、投影パターンの位相をπ/2づつシフトしつつ撮影されたものであるので、図7の(c),(d),(a),(b)の配列順序になるように、4枚の縞画像H3をサイクリックにずらせば、図7の(c),(d)から、さらに位相シフトしながら2回撮影を行った場合と同様の配列順序になる縞画像を得ることができ、この場合、初期位相はπだけずれることになる。これにより、投影および撮影回数を増やすことなく、図12(b)に示すように、初期位相が1/2周期だけずれた別の位相復元画像を生成することができる。
【0049】
そして、上記両位相復元画像内の対応する両画素の値の差分値が正であれば第1値を負であれば第2値を0であれば第3値を割り当てれば、図12(c)に示すように、領域分類用画像H5を生成することができる。このとき、突部10Aおよび穴10Bで位相を復元できないため、第3値として任意の定数(図12でも0)が代入される。ここで、対象物10の表面の凹凸に伴う縞形状の変形は、図12(a),(b)のように初期位相値を変化させても同じであるので、図12(b)のパターンから図12(a)のパターンを減算した差分画像は、図12(c)のように、図12(a)における位相値が−π〜0の範囲では−π、0〜πの範囲ではπとなる。また、第3値の部分には定数が代入されているため差分値は0となる。よって、この差分画像において画素値πを第1値、画素値−πを第2値、画素値0を第3値とすることにより、簡単に3値画像(領域分類用画像H5)を生成することができる。
【0050】
また、例えば領域分類用画像を生成する処理をハードウエアで行う等メモリ使用をなるべく控えたい場合には、取り込んだ複数の縞画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して位相値を算出する処理を、取り込んだ画像のうち、一の画像を初期位相用とした場合と他の画像を初期位相用とした場合とで平行に実行しながら、一の画像を初期位相用とした場合の位相値と他の画像を初期位相用とした場合の位相値との差分値を求め、この差分値が正であれば第1値を負であれば第2値をそして明度が変化しなければ第3値を割り当てて領域分類用画像を作成するようにしてもよい。この第3値については、例えば、位相復元の際、明度の変化が小さい場合にこれらの位相値に同じ定数を代入するようにして差分値が0となる場合に第3値を割り当てればよい。つまり、各画素ごとに初期位相をずらせて第1と第2の位相を復元し、その差分値の正負を判断して直接3値画像を生成するようにすれば、中間段階として位相復元画像を作成してしきい値処理を行う必要がないから、メモリの使用量を少なくすることができる。
【0051】
図13は領域分類用画像を利用した各連結領域の分類処理の説明図、図14は小領域の大領域への併合処理(前処理)の説明図、図15は第1領域および第2領域の組分け処理の説明図である。ただし、以下では、図13の領域分類用画像の左方の縞から右方の縞にかけて走査しながら、図11のフローチャートの各手順を説明する。
【0052】
図11のステップS901の後、図13(a)の領域分類用画像H5から、第1領域(N0,N1,…)および第2領域(P0,P1,…)を求める(S902,S903)。このとき、図14(a)に示すように、所定画素数以下の面積の小さい領域が多数あると、第1領域および第2領域の数が多くなり、処理が煩雑となるため、膨張および収縮処理などで面積の小さい領域をその周囲の面積の大きい領域に併合する処理をかけ、図14(b)に示すように面積の大きい領域のみを残した画像を予め生成しておくのが望ましい。
【0053】
続いて、図13(b)の各第1領域の始点位置(Sn0,Sn1,…)および終点位置(En0,En1,…)を検出するとともに、図13(c)の各第2領域の始点位置(Sp0,Sp1,…)および終点位置(Ep0,Ep1,…)を検出する(S904)。これら始点位置および終点位置の関係をもとに、互いに隣接する第1領域および第2領域の組みを検出する(図11のS906)。この後、位相番号iが0に初期化される(S904)。
(1)第1領域N0〜N2および第2領域P0〜P2に対する処理
第1領域N0の終点位置En0および第2領域P0の始点位置Sp0と、第1領域N1の終点位置En1および第2領域P1の始点位置Sp1と、第1領域N2の終点位置En2および第2領域P2の始点位置Sp2は、いずれも交差することなく隣接していることから、それらいずれの組みも突部10Aおよび穴10Bなどの影響を受けていないとみなすことができるので、そのまま組として図15に示すように位相領域I0,I1,I2を生成する。このような処理は、ステップS906,S907,S908,S909,S906のループ処理で実行される。
(2)第1領域N3および第2領域P3に対する処理
第1領域N3の終点位置En3および第2領域P3の始点位置Sp3は、一部で隣接し残部(第3値の連結領域)で離間しているが、終点位置En3および始点位置Sp3が交差していないので、そのまま組として図15に示すように位相領域I3を生成する(S906,S907,S908,S909でNo)。
(3)図13の第1領域N4および第2領域P4,P5に対する処理
1.第3値の連結領域(第3領域ともいう)が1位相より短い場合
図16,図17に各連結領域の分類処理の説明図を示し、図18に第1領域および第2領域の組分け処理の説明図を示す。
【0054】
図13において、第1領域N4と対になる第2領域は、穴10Bの影響による第3領域が存在するため、P4,P5の2つの連結領域に分割されている。位相シフトによる計測では、位相値は位相変化方向と直交方向(縞に沿った方向)に連続している必要があるため、第2領域P4,P5のように2つの連結領域に分断されていると、それを1つの連結領域に修復する必要がある。このため、ステップS902で、図16(a)に示すように第3値を第1値とみなして拡張第1領域とし、ステップS903で、図16(b)に示すように第3値を第2値とみなして拡張第2領域とする。
【0055】
この場合、図13(b)の第1領域N4が隣の第1領域N5と融合して、図16(a)に示すように1つの拡張第1領域N4aになるが、図16の連結領域の情報を併用することで、位相ごとに正しく分離することができる(S911,S912)。
【0056】
図16において、拡張第1領域N4aの始点位置Sn4aおよび終点位置En4aと拡張第2領域P4aの始点位置Sp4aおよび終点位置Ep4aとを比較すると、始点位置Sp4aおよび終点位置Ep4aがともに始点位置Sn4aおよび終点位置En4a間に入っていることがわかる。このことから、図13(b)の第1領域N4が第3領域により2位相分に渡って繋がっていると推定できる。この場合、図17に示すように、拡張第2領域P4aの終点位置Ep4aの位置でN4aをN4bとN5に分割して、新しく生成された第1領域N4bの終点En4bを検出すれば(S911)、第1領域N4bの終点位置En4bが図17に示す第2領域P4aの始点位置Sp4aと一部で離間しているが交差していないので、上記(2)の場合と同様、第1領域N4bおよび第2領域P4aを組みとし、図18に示す位相領域I4を生成する(S912)。
【0057】
2.第3値の連結領域が1位相以上に渡る場合
図19,図20に各連結領域の分類処理の説明図を示し、図21に第1領域および第2領域の組分け処理の説明図を示す。この場合、ステップS913〜S917の処理が実行される。
【0058】
図19において、拡張第1領域N4cの始点位置Sn4cおよび終点位置En4cと拡張第2領域P4cの始点位置Sp4cおよび終点位置Ep4cとを比較すると、第2領域の始点位置Sp4cが第1領域の終点位置En4cより左にあり、第2領域の終点位置Ep4cが第1領域の終点位置En4cより右にあることから、拡張第1領域N4cおよび拡張第2領域P4cは交差していることがわかる(S906,S910)。このことから、拡張第1領域N4cおよび拡張第2領域P4cは、第3値の連結領域により2位相分以上に渡って繁がっていると推定できる。
【0059】
そこで、拡張第2領域P4cについて、第3値の連結領域を第2値と見なさずに再度連結領域を求めると(S913)、図20(a)のように、第2領域P4〜P6に分割される(S914)。このうちの第2領域P6は位相変化方向と直行する方向に連続であるので、第2領域P4,P5が第3値の連結領域により分断されていると判断できる。従って、図20(b),(c)に示すように、第2領域P4,P5を仮に融合して連結領域P4dとし(S915)、この連結領域P4dの終点位置Ep4dで、拡張第1領域N4cを拡張第1領域N4d,N5に分割する(S916)。これにより、拡張第1領域N4dの終点位置がEn4dとなり、拡張第1領域N4dの終点位置En4dが図20(a)の第2領域P4,P5の始点位置Sp4,Sp5と隣接するため、拡張第1領域N4dおよび第2領域P4dを組とし、図21に示す位相領域I4を生成する(S917)。
(4)分割後の第1領域N5および第2領域N6に対する処理
1.第3値の連結領域が1位相より短い場合
図17(b)に示す分割後の第1領域N5の終点位置En5および図16(b)に示す第2領域P6の始点位置Sp6は、交差することなく隣接しているから、上記(1)と同様、そのまま組として図18に示すように位相領域I5を生成する。
【0060】
2.第3値の連結領域が1位相以上に渡る場合
図20(c)に示す分割後の拡張第1領域N5の終点位置En5および図20(a),(b)に示す第2領域P6の始点位置Sp6は、交差することなく隣接しているから、上記(1)と同様、そのまま組として図21に示すように位相領域I5を生成する。
【0061】
図22は位相境界の検出結果の説明図、図23は位相連結処理結果の説明図、図24は高さ情報の例を示す図である。上記図11のフローにより図22に示す位相境界の検出結果が得られる。この図22において、各位相領域の終点位置Ei0〜Ei5が位相連結位置となるので、図8に示す位相値に左から順に位相終点位置ごとに2πを加算する処理を行うと、図23に示すような位相連結画像H6が得られる。そして、この位相連結画像H6から図24に示すような高さ情報が得られる。このように、復元された位相値を二値化したパターンについて各々連結領域を求め、さらに位相復元が出来ない影や穴に相当する第3値の連結領域との位置関係を評価して位相境界を求めることにより、影や穴によって位相境界が隠蔽されている場合にも正しい高さ情報が得られるのである。
【0062】
以上、第1実施形態によれば、第3値の連結領域の有無により第1値および第2値の連結領域の位置関係がどのように変化するかを調べることができ、第3値の連結領域の影響を除去して第1領域および第2領域の組を抽出し、図22に示すように、位相境界を正しく決定することができる。
【0063】
図25は図4の対象物よりも大きな突部を有する対象物の斜視図、図26は図25の対象物の撮影で得られる縞画像の例を示す図、図27は複数枚の縞画像から復元された位相復元画像および領域分類用画像などを示す図であり、これらの図を用いて以下に本発明の第2実施形態について説明する。
【0064】
図25に示す対象物20の場合、位相シフトの撮影毎に縞画像H3が得られるのであるが、その縞画像H3の画像内容は、図26に示すように図6のそれとは相違している。
【0065】
図26の縞画像H3において、1位相分の縞の組みG1,G2は、突部20Aの凸面によって左にずれた1位相分の縞の組みG3と対応する。そして、図27のようにG1〜G3にそれぞれ対応する第1領域G1n〜G3nおよび第2領域G1p〜G3pが連続しないため、第1実施形態では、突部20Aの影響を受けずに上下方向に連続している連結領域(図27のG4p,G5n)を検出し、これをもとに対応付けを行うことになる。しかしながら、突部20Aの影響を受けずに上下方向に連続している連結領域を検出しても、図26のG4とG5との間には3つの組みG6,G7,G1があるのに対して、突部20Aの凸面には1組みしかないために、このままでは数が合わず、第1実施形態を適用することができない。つまり、第1実施形態では、段差を有する突部などによる位相のずれが2πを超えた場合に計測が不可能となる。この数の不一致は、図26のG3の左に隣接する縞が突部20Aの左側面に投影され、真上から観測しているカメラ2からは死角になってしまうことによる。したがって、これを画像処理により推定する必要がある。
【0066】
第2実施形態では、突部20Aを予め抽出しておき、突部20Aの影による第3値の連結領域の情報をもとに、突部20Aに存在する第1値および第2値の連結領域の位置ずれを推定して対応付けを行う。図27(b)の第3値の連結領域AH5が突部20Aの影であると判断でき、かつ投影方向が既知である場合には、図26の組みG3は、突部20Aにより図27(b)の連結領域AH5の幅だけ左方に位置がずれていると考えることができるので、組みG1,G2と対応すると判断することができる。
【0067】
次に、事前に突部20Aにより縞がずれている部分(以下、スライド領域という)を抽出する方法について説明する。事前にスライド領域を抽出する理由は、図27(b)の例に示す領域分類用画像H5において、誤ってG3pの部分がその上下のG6pと一つの連結領域を形成する(おそれがある)ために、G3pとこの上下のG6pとを分離して扱う必要があるからである。
【0068】
スライド領域の抽出においては、例えば電子回路基板などで、突部としての段差を作る部品が既知であって、それをパターンマッチング等により検出可能な場合は予め既知の部品を検出しておけばよい。
【0069】
また、段差を作る部品が未知の場合には、領域分類用画像および位相復元画像のみを用いてスライド領域(段差を作る突部の凸面領域)および影である第3値の連結領域を検出することも可能であるので、次にこの方法について説明する。
【0070】
スライド領域を抽出するための第1の方法として、投影方向を変えて得られた別の領域分類用画像における影の出方を元にする方法がある。図28にその方法を実行する3次元形状計測システムの構成図を示す。ただし、識別のため図28における括弧内の符号1L,1Rを適宜使用する。また、対象物は図4と同様であるとする。
【0071】
図28の3次元形状計測システムでは、2台の投影装置1が使用され、それぞれ反対方向から対象物10に縞パターンを照射するように配置されている。一方の投影装置1(1L)を用いて投影された複数の画像からは、図29(a)に示すような領域分類用画像H5が得られ、他方の投影装置1(1R)を用いて投影された複数の画像からは、図29(b)に示すような領域分類用画像H5が得られる。図29では、投影方向が逆であるため、影の範囲Ap5が反対方向に1つ生じる。また、同一の穴10Bに対応する範囲には投影方向に関係なく第3値の連結領域ができる。この場合、両領域分類用画像H5において、一方にあって他方にない第3値の連結領域をそれぞれ抽出すれば、影の領域だけを抽出したことになる。そして、抽出された双方の連結領域AH5間を、図30に示すように、突部としての段差を作る部品などの存在を示すスライド領域として検出することができる。
【0072】
次に、第2の方法として、1台の投影装置1を用いて、第3値の連結領域が影であるかどうかを判断して、スライド領域を抽出する方法について説明する。まず、第3値の連結領域が影であるかどうかの判断については、対象物に穴がないことが既知である場合には全ての第3値の連結領域を影と判断すればよい。そうではない場合は、位相値の連続性を用いる方法がある。図27(a)に示すように、突部20Aの影の部分では、投影された連続する正弦波縞パターンが影によって見かけ上分断されている状態であるため、影が伸びる方向に沿った影の両端(p1およびp2)では位相値はほぼ同一である。従って、影の両端における復元位相値を調べ、数値がほぼ同一である場合にはそれを影と見なすことができる。
【0073】
このようにして影による第3領域を抽出した後、縞の位相ズレをもとにスライド領域の境界を検出することにより、スライド領域を抽出できる。図31に示すように、影による第3領域の左方上下端p3,p4から影が伸びる方向とは逆方向にそれぞれ伸ばした直線L1,L2上の各点において、L1,L2と略直交する方向に復元された位相の変化を調べる。このとき、突部20Aの境界(p5,p6)ではその内側と外側とで位相値が不連続になる。よってこれを利用し、p3,p4から左方向に位相が不連続である部分を追跡し、位相の不連続がなくなる位置を突部20Aの左端(p7,p8)として検出できる。この方法によれば、p7−p8間の線分と、第3領域AH4の左端ラインp3−p4に囲まれた領域が突部20Aとして検出できる。
【0074】
以上、第2実施形態によれば、突部に対応するスライド領域を抽出し、その突部による影の長さを測定し、そのスライド領域に存在するパターン(第1・第2領域)は影の伸びる方向とは逆方向にずれているとしてスライド領域外のパターンと対応付けを行うことにより、段差や穴がある対象物に対しても正しい位相連結処理が行え、高さ情報が得られる。
【0075】
図32は高さ情報の欠落を補完する方法の説明図、図33は高さ情報の欠落を補完した結果を示す図であり、これらの図を用いて以下に本発明の第3実施形態について説明する。
【0076】
第1,第2実施形態では、第3値の連結領域により位相を復元できないため、高さ情報を生成できない。用途によっては、このような距離情報の欠落が不都合である場合があるので、こういった場合には周囲の高さ情報をもとにデータの補完を行うことで、距離情報の欠落をなくすことができる。
【0077】
例えば、図32に示すように、影の範囲A(第3値の連結領域)内の高さ情報が欠落している場合、範囲Aに隣接し影が伸びる側の領域C内の高さ情報を、範囲A内の高さ情報Eとして外挿することにより、欠落している高さ情報を擬似的に補完することができる。また、穴に対応する範囲Bの高さ情報の欠落が不都合である場合には、範囲Bに隣接する領域C,D内の高さ情報をもとに、その高さと同じかまたはそれよりも低い所定の高さの情報F(図32の例では同じ高さ)で穴を埋める方法を適用することができる。
【0078】
以上、第3実施形態では、補完するべき範囲内の高さ情報をその範囲に隣接する領域の高さ情報を利用して補完するので、図33に示すように欠落の無い高さ情報を得ることができる。
【0079】
【発明の効果】
請求項1記載の発明によれば、位相シフト法に基づく3次元形状計測方法であって、縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影し、前記対象物に投影されたパターンの像の撮影および前記パターンの一定量のシフトを繰り返して、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込み、取り込んだ少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出するので、対象物に段差や孔がある場合にも、組分け結果を利用することで正しい位相連結の処理を行うことができ、また3次元形状計測を低コストで高速に実現できる。これにより、コストおよび撮像時間を余計にかけることなく、撮像装置の解像度を損なわない3次元形状の計測、簡易な位相連結の処理および高速な計測が可能になる。
【0080】
請求項2記載の発明によれば、請求項1記載の3次元形状計測方法において、前記位相復元画像を作成した後、前記領域分類用画像は、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より小さい画素に、第1値が割り当てられ、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より大きい画素に、第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素の位置に対応する画素に、第3値が割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記位相復元画像に利用して行われるのであり、この方法でも、コストおよび撮像時間を余計にかけることなく、撮像装置の解像度を損なわない3次元形状の計測、簡易な位相連結の処理および高速な計測が可能になる。
【0081】
請求項3記載の発明によれば、請求項1記載の3次元形状計測方法において、前記領域分類用画像は、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して位相値を算出する処理を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と他の画像を初期位相用とした場合とで平行に実行しながら、前記一の画像を初期位相用とした場合の位相値と前記他の画像を初期位相用とした場合の位相値との差分値を求め、この差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記各位相値に利用して行われるので、中間段階として位相復元画像を作成してしきい値処理を行う必要がないから、メモリの使用量を少なくすることができる。
【0082】
請求項4記載の発明によれば、請求項1記載の3次元形状計測方法において、前記一定量は前記明度の1周期を3より大きい整数である所定数で除して得た量であり、前記領域分類用画像を作成する場合、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と前記取り込んだ画像をサイクリックに前記所定数より小さい整数回分ずらして他の画像を初期位相用とした場合とでそれぞれ作成し、この後、前記領域分類用画像は、前記両位相復元画像内の対応する両画素の値の差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が各画素に割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記両位相復元画像の一方に利用して行われるので、投影回数を増やす必要がなく、高速な計測が可能となる。
【0083】
請求項5記載の発明によれば、請求項1記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、画素の値が前記縞の並設方向に沿って前記第2値から前記第1値に変化する画素の位置を位相連結の位置として、前記位相連結の処理を行うので、穴や段差がない対象物を計測する場合に、高速に位相接続位置を検出できる。
【0084】
請求項6記載の発明によれば、請求項1記載の3次元形状計測方法において、前記位相連結の処理は、前記領域分類用画像を用いて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域の分類を行い、これら第1領域および第2領域における前記縞の並設方向に沿った始点および終点をそれぞれ求めて前記第1領域および第2領域の位置関係の評価を行い、この評価結果に応じて、前記縞の並設方向に沿って互いに隣接する前記第1領域および第2領域の組分けをすることにより実行されるので、大局的な領域情報をもとに位相連結位置の検出が可能となり、誤った位相連結の発生を防止しうる。
【0085】
請求項7記載の発明によれば、請求項6記載の3次元形状計測方法において、前記組分け前、前記第1領域および第2領域の各々に所定画素数以下の他の小領域が含まれる場合、その小領域を、これを含む領域に併合する処理を行うので、不要な組分け数が減少し、処理速度が向上する。
【0086】
請求項8記載の発明によれば、請求項6記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域を前記第1領域に含めて拡張の第1領域とし、前記第3領域を前記第2領域に含めて拡張の第2領域とし、これら拡張の第1および第2領域の重なり状態に基づいて、互いに隣接する前記第1領域および第2領域の組分けをするので、第1領域または第2領域と第3領域とが重なっている場合に、本来1つであるはずの領域が分断されて認識不能となるのを防止することができる。
【0087】
請求項9記載の発明によれば、請求項8記載の3次元形状計測方法において、前記第3領域により複数位相分の前記第1領域および第2領域が繋がって見える場合、前記第3領域を除いて前記第1領域および第2領域を再度求め、これら第1領域および第2領域のうち、前記縞に沿った方向に分断されていない領域を抽出し、この領域に基づいて前記縞に沿った方向に分断された領域を結合するので、1周期以上の長さに渡って第3領域が第1領域および第2領域を分断している場合にも正しい位相連結が可能となる。
【0088】
請求項10記載の発明によれば、請求項2記載の3次元形状計測方法において、前記撮影およびシフトを繰り返して取り込まれる画像を、前記パターンの像を一の方向から前記対象物に投影した場合のものと前記パターンの像を他の方向から前記対象物に投影した場合のものとの2組み用意し、これら2組みの画像から前記位相復元画像を2つ作成し、これら位相復元画像の一方のみに前記第3値の画素が連続する領域が存在する場合、その領域を、前記対象物における段差を作る突部の影の範囲として、これら影の範囲の間に挟まれる領域を前記突部の存在領域とするので、突部の存在領域を容易に抽出できるとともに、第3領域が影であるかどうかの判断も同時に行うことができる。
【0089】
請求項11記載の発明によれば、請求項2記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、前記第3値の画素が連続する第3領域における前記縞の並設方向に沿った始点と終点における位相復元画像の画素の値がほぼ同一である場合、当該第3領域を前記対象物において段差を作る突部の影の範囲とするので、第3領域が影であるか否かの判断を容易に行うことができる。
【0090】
請求項12記載の発明によれば、請求項10または11記載の3次元形状計測方法において、前記領域分類用画像の各画素のうち、前記影の範囲からその影が伸びる方向とは逆の方向における前記縞に沿った方向の各画素に対応する前記位相復元画像の画素の値を調べ、これら画素の値が不連続である場合には前記影が伸びる方向とは逆の方向に前記突部が続いているものとし、不連続で無くなった場合には前記突部が途切れる境界であるので、突部の領域を抽出する処理が簡単に行える。
【0091】
請求項13記載の発明によれば、請求項10〜12のいずれかに記載の3次元形状計測方法において、前記縞の並設方向に沿った前記影の範囲の長さをパターンずれ量として求め、その影が伸びる方向とは逆の方向に存在する前記突部における前記第1値ないし第2値の画素が連続する領域を、前記パターンずれ量だけ前記縞の並設方向にずれた前記突部の外側の領域と対応付けるので、1周期分を超える大きな段差がある場合にも正しい対応づけが行える。
【0092】
請求項14記載の発明によれば、請求項1記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域内の位相値または高さ情報を、その第3領域の外側の位相値または高さ情報をもとに補完するので、高さ情報の欠落が発生しない。
【0093】
請求項15記載の発明によれば、請求項14記載の3次元形状計測方法において、前記第3値の画素が連続する第3領域が前記対象物における段差を作る突部の影で生じた場合、その第3領域内の位相値または高さ情報を、その第3領域に隣接しかつ前記突部の影が伸びる方向にある領域の位相値または高さ情報をもとに補完するので、突部の形状を損なうことなく高さ情報の欠落を補完できる。
【0094】
請求項16記載の発明は、位相シフト法に基づく3次元形状計測システムであって、縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影する投影装置と、前記対象物に投影されたパターンの像を撮影する撮像装置と、前記対象物に投影されたパターンの一定量のシフトを繰り返して得られ、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込んで記憶する記憶装置と、この記憶装置に記憶された少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出する画像処理装置とを備えるので、対象物に段差や孔がある場合にも、組分け結果を利用することで正しい位相連結の処理を行うことができ、また3次元形状計測を低コストで高速に実現できる。これにより、コストおよび撮像時間を余計にかけることなく、撮像装置の解像度を損なわない3次元形状の計測、簡易な位相連結の処理および高速な計測が可能になる。
【図面の簡単な説明】
【図1】3次元形状計測システムの説明図である。
【図2】3次元形状計測方法の手順を示すフローチャートである。
【図3】位相復元の原理説明図である。
【図4】対象物の斜視図である。
【図5】図4の対象物の上面図および断面図である。
【図6】対象物の撮影で得られる縞画像およびこの縞画像のある直線上に沿った明度変化の例を示す図である。
【図7】位相シフトで得られる各縞画像および各縞画像のある直線上に沿った明度変化の例を示す図である。
【図8】位相復元画像およびこの位相復元画像のある直線上に沿った位相値変化の例を示す図である。
【図9】位相連結処理の説明図である。
【図10】領域分類用画像およびこの領域分類用画像のある直線上に沿った明度変化の例を示す図である。
【図11】図2の位相境界検出の具体的な処理手順を示すフローチャートである。
【図12】領域分類用画像の生成方法の説明図である。
【図13】領域分類用画像を利用した各連結領域の分類処理の説明図である。
【図14】小領域の大領域への併合処理の説明図である。
【図15】第1領域および第2領域の組分け処理の説明図である。
【図16】各連結領域の分類処理の説明図である。
【図17】各連結領域の分類処理の説明図である。
【図18】第1領域および第2領域の組分け処理の説明図である。
【図19】各連結領域の分類処理の説明図である。
【図20】各連結領域の分類処理の説明図である。
【図21】第1領域および第2領域の組分け処理の説明図である。
【図22】位相境界の検出結果の説明図である。
【図23】位相連結処理結果の説明図である。
【図24】高さ情報の例を示す図である。
【図25】図4の対象物よりも大きな突部を有する対象物の斜視図である。
【図26】図25の対象物の撮影で得られる縞画像の例を示す図である。
【図27】複数枚の縞画像から復元された位相復元画像および領域分類用画像などを示す図である。
【図28】対象物の突部位置をその突部の影を利用して検出する3次元形状計測システムの構成図である。
【図29】領域分類用画像から対象物の突部位置を検出する方法の説明図である。
【図30】図29の方法で検出される突部位置を示す図である。
【図31】対象物の突部位置を検出する方法の説明図である。
【図32】高さ情報の欠落を補完する方法の説明図である。
【図33】高さ情報の欠落を補完した結果を示す図である。
【符号の説明】
1 投影装置
11 ランプ
12 凹面鏡
13 投影用レンズ
14 パターン板
15 パターンシフト部
2 カメラ
3 量子化回路
4 記憶装置
5 画像処理装置
Claims (16)
- 位相シフト法に基づく3次元形状計測方法であって、
縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影し、
前記対象物に投影されたパターンの像の撮影および前記パターンの一定量のシフトを繰り返して、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込み、
取り込んだ少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、
位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、
この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出する
ことを特徴とする3次元形状計測方法。 - 前記位相復元画像を作成した後、前記領域分類用画像は、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より小さい画素に、第1値が割り当てられ、前記明度の位相のシフトで明度が変化する画素の位置に対応するとともに前記位相復元画像内の対応する画素の値が所定しきい値より大きい画素に、第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素の位置に対応する画素に、第3値が割り当てられて作成され、前記位相連結の処理は前記組分け結果を前記位相復元画像に利用して行われることを特徴とする請求項1記載の3次元形状計測方法。
- 前記領域分類用画像は、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して位相値を算出する処理を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と他の画像を初期位相用とした場合とで平行に実行しながら、前記一の画像を初期位相用とした場合の位相値と前記他の画像を初期位相用とした場合の位相値との差分値を求め、この差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が割り当てられて作成され、
前記位相連結の処理は前記組分け結果を前記各位相値に利用して行われる
ことを特徴とする請求項1記載の3次元形状計測方法。 - 前記一定量は前記明度の1周期を3より大きい整数である所定数で除して得た量であり、
前記領域分類用画像を作成する場合、前記取り込んだ複数の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を、前記取り込んだ画像のうち、一の画像を初期位相用とした場合と前記取り込んだ画像をサイクリックに前記所定数より小さい整数回分ずらして他の画像を初期位相用とした場合とでそれぞれ作成し、この後、前記領域分類用画像は、前記両位相復元画像内の対応する両画素の値の差分値が正であれば第1値が、負であれば第2値が、そして明度が変化しなければ第3値が各画素に割り当てられて作成され、
前記位相連結の処理は前記組分け結果を前記両位相復元画像の一方に利用して行われる
ことを特徴とする請求項1記載の3次元形状計測方法。 - 前記領域分類用画像の各画素のうち、画素の値が前記縞の並設方向に沿って前記第2値から前記第1値に変化する画素の位置を位相連結の位置として、前記位相連結の処理を行うことを特徴とする請求項1記載の3次元形状計測方法。
- 前記位相連結の処理は、前記領域分類用画像を用いて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域の分類を行い、これら第1領域および第2領域における前記縞の並設方向に沿った始点および終点をそれぞれ求めて前記第1領域および第2領域の位置関係の評価を行い、この評価結果に応じて、前記縞の並設方向に沿って互いに隣接する前記第1領域および第2領域の組分けをすることにより実行されることを特徴とする請求項1記載の3次元形状計測方法。
- 前記組分け前、前記第1領域および第2領域の各々に所定画素数以下の他の小領域が含まれる場合、その小領域を、これを含む領域に併合する処理を行うことを特徴とする請求項6記載の3次元形状計測方法。
- 前記第3値の画素が連続する第3領域を前記第1領域に含めて拡張の第1領域とし、前記第3領域を前記第2領域に含めて拡張の第2領域とし、これら拡張の第1および第2領域の重なり状態に基づいて、互いに隣接する前記第1領域および第2領域の組分けをすることを特徴とする請求項6記載の3次元形状計測方法。
- 前記第3領域により複数位相分の前記第1領域および第2領域が繋がって見える場合、前記第3領域を除いて前記第1領域および第2領域を再度求め、これら第1領域および第2領域のうち、前記縞に沿った方向に分断されていない領域を抽出し、この領域に基づいて前記縞に沿った方向に分断された領域を結合することを特徴とする請求項8記載の3次元形状計測方法。
- 前記撮影およびシフトを繰り返して取り込まれる画像を、前記パターンの像を一の方向から前記対象物に投影した場合のものと前記パターンの像を他の方向から前記対象物に投影した場合のものとの2組み用意し、
これら2組みの画像から前記位相復元画像を2つ作成し、これら位相復元画像の一方のみに前記第3値の画素が連続する領域が存在する場合、その領域を、前記対象物における段差を作る突部の影の範囲として、これら影の範囲の間に挟まれる領域を前記突部の存在領域とする
ことを特徴とする請求項2記載の3次元形状計測方法。 - 前記領域分類用画像の各画素のうち、前記第3値の画素が連続する第3領域における前記縞の並設方向に沿った始点と終点における位相復元画像の画素の値がほぼ同一である場合、当該第3領域を前記対象物において段差を作る突部の影の範囲とすることを特徴とする請求項2記載の3次元形状計測方法。
- 前記領域分類用画像の各画素のうち、前記影の範囲からその影が伸びる方向とは逆の方向における前記縞に沿った方向の各画素に対応する前記位相復元画像の画素の値を調べ、これら画素の値が不連続である場合には前記影が伸びる方向とは逆の方向に前記突部が続いているものとし、不連続で無くなった場合には前記突部が途切れる境界であるとすることを特徴とする請求項10または11記載の3次元形状計測方法。
- 前記縞の並設方向に沿った前記影の範囲の長さをパターンずれ量として求め、その影が伸びる方向とは逆の方向に存在する前記突部における前記第1値ないし第2値の画素が連続する領域を、前記パターンずれ量だけ前記縞の並設方向にずれた前記突部の外側の領域と対応付けることを特徴とする請求項10〜12のいずれかに記載の3次元形状計測方法。
- 前記第3値の画素が連続する第3領域内の位相値または高さ情報を、その第3領域の外側の位相値または高さ情報をもとに補完することを特徴とする請求項1記載の3次元形状計測方法。
- 前記第3値の画素が連続する第3領域が前記対象物における段差を作る突部の影で生じた場合、その第3領域内の位相値または高さ情報を、その第3領域に隣接しかつ前記突部の影が伸びる方向にある領域の位相値または高さ情報をもとに補完することを特徴とする請求項14記載の3次元形状計測方法。
- 位相シフト法に基づく3次元形状計測システムであって、
縞状で縞の並設方向に沿って明度が正弦波状に変化するパターンの像を対象物に投影する投影装置と、
前記対象物に投影されたパターンの像を撮影する撮像装置と、
前記対象物に投影されたパターンの一定量のシフトを繰り返して得られ、前記明度の位相が一定量づつシフトした画像を少なくとも3種類取り込んで記憶する記憶装置と、
この記憶装置に記憶された少なくとも3種類の画像の各画素のうち、同一の位置にある各画素の明度を所定の演算式に代入して算出された位相値がその位置に対応する画素の値として画素毎に割り当てられてなる位相復元画像を作成し、位相復元画像の複数の画素にそれぞれ対応する複数の画素を有し、これら複数の画素のうち、前記明度の1周期の一部に属する画素に対応する画素には第1値が割り当てられ、前記明度の1周期の残部に属する画素に対応する画素には第2値が割り当てられ、前記明度の位相のシフトで明度が変化しない画素に対応する画素には第3値が割り当てられてなる1つの領域分類用画像を作成し、この領域分類用画像を用いて前記第1〜第3値の画素の各々が連続する領域の分類を行い、この分類結果に基づいて、前記第1値の画素が連続する第1領域および前記第2値の画素が連続する第2領域のうち、前記縞の並設方向に沿って互いに隣接する第1領域および第2領域の組分けをし、この組分け結果を利用して位相連結の処理を行い、この処理結果に応じて前記対象物の3次元形状の高さ情報を抽出する画像処理装置と
を備えることを特徴とする3次元形状計測システム
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000359231A JP3687531B2 (ja) | 2000-11-27 | 2000-11-27 | 3次元形状計測方法およびそのシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000359231A JP3687531B2 (ja) | 2000-11-27 | 2000-11-27 | 3次元形状計測方法およびそのシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002162215A JP2002162215A (ja) | 2002-06-07 |
JP3687531B2 true JP3687531B2 (ja) | 2005-08-24 |
Family
ID=18831018
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000359231A Expired - Fee Related JP3687531B2 (ja) | 2000-11-27 | 2000-11-27 | 3次元形状計測方法およびそのシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3687531B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100612932B1 (ko) | 2005-12-14 | 2006-08-14 | 주식회사 고영테크놀러지 | 3차원 형상 측정장치 및 방법 |
EP2183546B1 (en) | 2007-08-17 | 2015-10-21 | Renishaw PLC | Non-contact probe |
JP2009079934A (ja) * | 2007-09-25 | 2009-04-16 | Shibuya Kogyo Co Ltd | 三次元計測方法 |
WO2009107981A2 (ko) * | 2008-02-26 | 2009-09-03 | 주식회사 고영테크놀러지 | 3차원형상 측정장치 및 측정방법 |
GB0915904D0 (en) | 2009-09-11 | 2009-10-14 | Renishaw Plc | Non-contact object inspection |
CN102519396B (zh) * | 2011-12-21 | 2014-11-05 | 哈尔滨理工大学 | 三个灰度对称线性编码周期的采样点三维信息获取方法 |
JP6108751B2 (ja) * | 2012-10-12 | 2017-04-05 | リコーエレメックス株式会社 | 外観検査装置 |
CN105258653B (zh) * | 2015-10-27 | 2017-10-27 | 电子科技大学 | 一种用于遥控器键盘上色状况合格性的自动检测方法 |
-
2000
- 2000-11-27 JP JP2000359231A patent/JP3687531B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002162215A (ja) | 2002-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3194939B1 (en) | Point cloud merging from multiple cameras and sources in three-dimensional profilometry | |
JP5055191B2 (ja) | 3次元形状計測方法および装置 | |
US9607406B2 (en) | Size measurement device and size measurement method | |
JP5576726B2 (ja) | 三次元計測装置、三次元計測方法、及びプログラム | |
US9030470B2 (en) | Method and system for rapid three-dimensional shape measurement | |
WO2019153569A1 (zh) | 一种针对条纹投影三维测量系统离焦现象的相位误差校正方法 | |
JP4830871B2 (ja) | 3次元形状計測装置及び3次元形状計測方法 | |
JP6598673B2 (ja) | データ処理装置およびその方法 | |
CN111971525B (zh) | 用立体镜测量物体的方法和系统 | |
KR101173668B1 (ko) | 다중 공간 주파수를 이용한 3차원 물체의 깊이 측정 방법 및 그 장치 | |
JP6418884B2 (ja) | 三次元計測装置、三次元計測方法及びプログラム | |
CN107705278B (zh) | 动态效果的添加方法和终端设备 | |
JP3687531B2 (ja) | 3次元形状計測方法およびそのシステム | |
JP2014115108A (ja) | 距離計測装置 | |
JPWO2012111404A1 (ja) | 画像処理装置、そのプログラム、および画像処理方法 | |
JP2014186010A (ja) | 計測装置、方法及びプログラム | |
JP2001194126A (ja) | 三次元形状計測装置および三次元形状計測方法、並びにプログラム提供媒体 | |
JP2001148012A (ja) | 対応点探索方法および装置 | |
CN110832851B (zh) | 图像处理装置、图像变换方法 | |
JP5968370B2 (ja) | 三次元計測装置、三次元計測方法、及びプログラム | |
JP6641485B2 (ja) | 位置指定装置および位置指定方法 | |
KR100714821B1 (ko) | 단일영상을 이용한 거리영상 획득방법 | |
JP2008170282A (ja) | 形状測定装置 | |
JP2016008837A (ja) | 形状測定方法、形状測定装置、構造物製造システム、構造物製造方法、及び形状測定プログラム | |
Jeon et al. | A robust stereo-matching algorithm using multiple-baseline cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050208 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050411 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050517 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050530 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090617 Year of fee payment: 4 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090617 Year of fee payment: 4 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100617 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100617 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110617 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120617 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120617 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130617 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |