JP6587706B2 - 形状測定のためのシステム、方法および媒体 - Google Patents

形状測定のためのシステム、方法および媒体 Download PDF

Info

Publication number
JP6587706B2
JP6587706B2 JP2018017795A JP2018017795A JP6587706B2 JP 6587706 B2 JP6587706 B2 JP 6587706B2 JP 2018017795 A JP2018017795 A JP 2018017795A JP 2018017795 A JP2018017795 A JP 2018017795A JP 6587706 B2 JP6587706 B2 JP 6587706B2
Authority
JP
Japan
Prior art keywords
illumination patterns
frequency
scene
detected images
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018017795A
Other languages
English (en)
Other versions
JP2018109634A (ja
Inventor
モヒト グプタ
モヒト グプタ
シュリー ケー ナヤル
シュリー ケー ナヤル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Columbia University of New York
Original Assignee
Columbia University of New York
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Columbia University of New York filed Critical Columbia University of New York
Publication of JP2018109634A publication Critical patent/JP2018109634A/ja
Application granted granted Critical
Publication of JP6587706B2 publication Critical patent/JP6587706B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2536Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

[連邦政府の資金による研究についての声明]
この発明は、アメリカ国立科学財団(National Science Foundation)から受賞された契約書IIS−0964429による政府支援、及び、米国海軍研究署(Office of Naval Research)から受賞された契約書N00014−11−1−0285による政府支援を受けてなされたものであり、米国政府はこの発明に対して一部の権利を有する。
[関連出願の相互参照]
本出願は、2011年11月23日に出願された米国仮特許出願第61/563,470号の優先権の利益を主張するものであり、この特許出願の全内容は参考として本出願に援用されている。
位相シフトは、信頼性があり、幅広く用いられる形状測定技術である。この技術は、低コスト、高速度および精密性などのメリットを有するため、外科手術、工場自動化、パフォーマンス・キャプチャー、文化遺産のデジタル化及び他の応用に用いられる。
位相シフトは、アクティブステレオ三角測量技術の種類に属する。このような技術は、コード化された輝度パターンをシーンに投影するによって、プロジェクター画素とカメラとの間の対応関係を確立している。そして、この対応関係により、シーンにおける点に対して三角測量を行い、シーンにおける物体の形状を確立する。
他のアクティブシーン回復技術と同様に、位相シフトは、シーンの点が1つのみの単一光源により直接照らされると仮定するので、全体照明が発生しない。しかし、実際に、相互反射およびサブサーフェス散乱により、全体照明は避けられないことである。事実、全体照明はほとんどの現実な世界シーンに発生している。結果として、典型的な位相シフトはこのような全体照明により誤った結果を生じさせる。
また、位相シフト算法は、通常、光源が無限の被写界深さを有する理想点であると仮定する。しかし、すべての光源の被写界深さは有限であるので、ディフォーカスを招く。ディフォーカスを解消するために、従来の位相シフト技術は大量の入力画像を取る必要がある。
そのため、新規な形状測定機構が必要となっている。
形状測定のためのシステム、方法および媒体を提供した。幾つかの実施形態では、形状測定のためのシステムを提供した。前記システムは、シーンに複数の照明パターンを投影するためのプロジェクターを含み、前記各照明パターンはいずれも所定周波数を有し、前記各照明パターンは異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影される。前記システムはさらに、前記各期間にシーン画像を検出するためのカメラと、前記複数の照明パターンの所定周波数を決定し、前記シーンにおける物体の形状を測定するように設置されたハードウェアプロセッサーと、を含む。
幾つかの実施形態では、形状測定のための方法を提供した。前記方法では、プロジェクターを用いてシーンに複数の照明パターンを投影し、前記各照明パターンはいずれも1つの所定周波数を有し、前記各照明パターンは異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影される。前記方法はさらに、カメラを用いて前記各期間に前記シーンの画像を検出することと、ハードウェアプロセッサーを用いて前記複数の照明パターンの所定周波数を決定することと、前記ハードウェアプロセッサーを用いて前記シーンにおける物体の形状を測定することと、を含む。
幾つかの実施形態では、コンピュータ実行可能な命令を有する非一時的なコンピュータ可読媒体を提供し、プロセッサーにより処理される時に、前記プロセッサーは形状を測定する方法を実行する。前記方法では、シーンに複数の照明パターンを投影し、前記各照明パターンはいずれも1つの所定周波数を有し、前記各照明パターンは異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影される。前記方法はさらに、前記各期間に前記シーンの画像を検出することと、前記複数の照明パターンの所定周波数を決定することと、前記シーンにおける物体の形状を測定することと、を含む。
幾つかの実施形態に用いられる形状測定のためのハードウェアの実例を示すブロック図である。 幾つかの実施形態に用いられるコンピュータハードウェアの実例を示すブロック図である。 幾つかの実施形態に用いられる照明パターンの実例を示す図である。 幾つかの実施形態において形状測定に用いられるプロセスの実例を示す図である。
形状測定のためのシステム、方法および媒体は提供される。幾つかの実施形態では、形状測定機構は、任意の適切なプロジェクターを用いて照明パターンを、1つまたは複数の物体を含むシーンに投影し、前記シーンから反射したこれらの照明パターンは、任意の適切なカメラにより検出されて画像として記憶される。前記の投影パターンは、任意の適切なパターン、例えば、正弦波パターンでよい。これらのパターンに使用される周波数は、十分に高い周波数を選択することが可能であり、これによって、検出・記憶されたすべての画像に対して全体照明およびディフォーカス効果は、実質上、不変となる。そして、プロジェクター画素とカメラ画素との間の対応関係を決定することができ、シーンにある物体の表面における点に対して三角測量を行うことで、これらの物体の形状を決定する。
図1は、幾つかの実施形態に用いられるハードウェア100の実例を示す。図に示すように、幾つかの実施形態では、ハードウェア100はコンピュータ、プロジェクター、カメラ、1つまたは複数の入力装置108及び1つまたは複数の出力装置110を含んでいる。
幾つかの実施形態では、作動中、コンピュータ102によって、プロジェクター104は適切な数の構造光画像をシーン112に投影し、前記シーンは任意の適切な物体、例えば物体114および116を含んでいる。同時に、幾つかの実施形態では、カメラ106はシーンから反射した光線を検出し、検出した画像をコンピュータに提供する。また、幾つかの実施形態では、コンピュータは、ここに記載のプロセスを行うことによって、シーンにおける物体に関する形状および他の適切なデータを決定することができる。
幾つかの実施形態では、コンピュータ102は、任意の適切な処理装置でよく、プロジェクター104およびカメラ106の動作を制御し、ここに記載の演算、適切な出力データの生成、及び/又は他の適切な機能の実行を行うことができればよい。後に、図2を参照し、幾つかの実施形態のコンピュータ102の特徴を更に説明する。
プロジェクター104は、ここに記載されているような投影構造光画像に適用できる任意の装置でよい。例えば、プロジェクター104は投影システム、ディスプレイ等でよい。具体的には、例えば、幾つかの実施形態では、プロジェクター104は、米国カリフォルニア洲サンディエゴに位置する三洋北アメリカ社により製造されるSANYO PLC−XP18N投影システムでよい。
カメラ106は、ここに記載されているような画像検出に適用できる任意の装置でよい。例えば、カメラ106は写真用のカメラ、ビデオカメラ、光センサー、画像センサー等でよい。具体的には、例えば、幾つかの実施形態では、カメラ106は、カナダブリティッシュコロンビア州リッチモンドに位置するPOINT GREY RESEARCH社、またはカナダオンタリオ州オダワに位置するLUMENERA CORPORATION社により製造されるマシンビジョンカメラでよい。
幾つかの実施形態では、入力装置108は、コンピュータ102を制御することに適用できる任意の1つまたは複数の入力装置でよい。例えば、入力装置108はタッチスクリーン、コンピュータマウス、ポインティングデバイス、1つまたは複数のボタン、キーパッド、キーボード、音声識別回路、マイクロフォン等でよい。
幾つかの実施形態では、出力装置110は、コンピュータ102からデータを出力することに適用できる任意の1つまたは複数の出力装置でよい。例えば、出力装置110はディスプレイ、オーディオデバイス等を含む。
幾つかの実施形態によれば、ハードウェア100は他の適切な素子を含んでよい。また、幾つかの実施形態では、ハードウェア100における任意の適切な素子の組み合わせ及び/又は省略を行うことができる。
幾つかの実施形態では、任意の適切なハードウェアを用いてコンピュータ102を作動させてもよい。例えば、幾つかの実施形態では、コンピュータ102は任意の適切な汎用コンピュータまたは専用コンピュータでよい。このような汎用コンピュータまたは専用コンピュータは、適切なハードウェアを含んでよい。例えば、図2に示すハードウェア200の実例のように、このようなハードウェアは、ハードウェアプロセッサー202、メモリシステム及び/又は記憶装置204、通信インターフェース(1つまたは複数)206、入力コントローラ208、出力コントローラ210、プロジェクターインターフェース212、カメラインターフェース214及びバス216を含む。
幾つかの実施形態では、ハードウェアプロセッサー202は、任意の適切なハードウェアプロセッサー、例えば、マイクロプロセッサー、マイクロコントローラ、デジタル信号プロセッサー、専用ロジック回路及び/又は汎用コンピュータまたは専用コンピュータの動作を制御することに適用できる他の回路システムを含んでよい。
幾つかの実施形態では、メモリ及び/又は記憶装置204は、プログラム、データ、投影される画像、検出した画像、測定値等を記憶することに適用できる任意のメモリシステム及び/又は記憶装置でよい。例えば、メモリ及び/又は記憶装置204は、ランダムアクセスメモリ、リードオンリーメモリ、フラッシュメモリ、ハードディスク記憶装置、光学式媒体等を含んでよい。
幾つかの実施形態では、通信インターフェース(1つまたは複数)206は1つまたは
複数の通信ネットワークに接続されることに適用できる任意の回路システムでよい。例え
ば、インターフェース(1つまたは複数)206はネットワークインターフェースカード
回路システム、無線通信回路システム等を含んでよい。
幾つかの実施形態では、入力コントローラ208は、1つまたは複数の入力装置108
からの入力データを受信することに適用できる任意の適切な回路システムでよい。例えば
、入力コントローラ208は、入力データを受信するための回路システムでよく、前記入
力データはタッチスクリーン、コンピュータマウス、ポインティングデバイス、1つまた
は複数のボタン、キーパッド、キーボード、音声識別回路、マイクロフォン等からのもの
となる。
幾つかの実施形態では、出力コントローラ210は、1つまたは複数の出力装置110
を制御・駆動することに適用できる任意の適切な回路システムでよい。例えば、出力コン
トローラ210は、データをディスプレイ、オーディオデバイス等に出力するための回路
システムでよい。
幾つかの実施形態では、プロジェクターインターフェース212は、ハードウェア20
0をプロジェクター(例えば、プロジェクター104)と接続させることに適用できる任
意の適切なインターフェースでよい。幾つかの実施形態では、インターフェース212は
、任意の適切なプロトコルを用いてよい。
幾つかの実施形態では、カメラインターフェース214は、ハードウェア200をカメ
ラ(例えば、カメラ106)と接続させることに適用できる任意の適切なインターフェー
スでよい。幾つかの実施形態では、インターフェース214は、任意の適切なプロトコル
を用いてよい。
幾つかの実施形態では、バス216は、素子202、204、206、208、210
、212および214のうち2つまたは複数の間の通信に適用できる任意の機構でよい。
幾つかの実施形態によれば、ハードウェア200は他の適切な素子を含んでよい。さらに、幾つかの実施形態では、ハードウェア200におけるすべての適切な素子の組み合わせ及び/又は省略を行うことができる。
図3は、幾つかの実施形態による、プロジェクター104によってシーン112に投影される構造光パターン302の実例を示している。幾つかの実施形態では、パターン302は、例えば、正弦波304に示すように、白色と黒色との間で正弦関数により変化する輝度を有する。従って、パターン302における各画素列は1つの所定の輝度ベクトルを有する。さらに、幾つかの実施形態では、306で示されるパターンの周期を画素で測定することができる。
図4は、幾つかの実施形態による形状測定のプロセスの実例400を示している。幾つかの実施形態では、このプロセスは図1に示すコンピュータ102により実行される。
図4に示すように、幾つかの実施形態では、プロセス400は402で開始された後、投影される構造光の周波数を404で決定する。ここで、任意の適切な周波数を用いることができ、任意の適切な方式でこれらの周波数を決定することもできる。
例えば、幾つかの実施形態では、以下の2つの条件を満たすように、パターン周波数集合Ω(即ちΩ={ω、…、ω})を選択する。すなわち、(1)平均周波数ωが十分に高く(周期λが小さい)、全体照明が回復位相に重大なエラーを生じさせない。(2)周波数帯域幅δ(即ち、δは、Ωにおけるすべての周波数が帯域幅[ω−δ/2、ω+δ/2]内に位置する周波数帯域幅である)が十分に小さく、すべての周波数に対してカメラが検出した振幅はほぼ同一となる。即ち、

となる。
上述した第1の条件について、幾つかの実施形態では、任意の適切なω値を用いて良い。例えば、幾つかの実施形態では、96画素以下(例えば、16画素、32画素等)の周期λに対応する平均周波数ω(図3に示すように)は、シーンの大量収集時に全体照明による回復位相に現れるエラーを十分に防止するように、充分に高くすることができる。また、他の幾つかの実例では、10Hzより高い平均周波数ωを充分に高く(例えば、30Hz、60Hz等)して、シーンの大量収集時に全体照明による回復位相に現れるエラーを防止することができる。
幾つかの実施形態では、平均周波数の選択は、次のことを考慮すべきである。すなわち、これらの実施例に用いられる所定のプロジェクターに存在する光学収差により、プロジェクターがある高周波数を確実に投射することができないので、このような高周波数より低い平均周波数を選択すべきである。
上述した第2の条件について、幾つかの実施形態では、任意の適切なδ値を用いることができる。例えば、幾つかの実施形態では、周波数帯域幅δは最大値を選択し、この最大値により、前記周波数帯域における任意の一対となる投影パターン周波数の間の反射光振幅の最大変化は、カメラのノイズレベルにより、ある程度のパーセンテージ、例えば1%、5%、10%等を超えない。例えば、カメラのノイズレベルが高ければ、投影パターン周波数対の間の反射光振幅の大きい変化が許される。幾つかの実施形態では、このような変化は、反射光振幅平均値を測定して算出することによって確認することができ、前記反射光は、異なる量の全体照明およびディフォーカスを受け付ける大量のシーンポイントからのものである。
幾つかの実施形態では、平均周波数ωは16画素の周期λに対応するため、周波数帯域幅δは3画素の周期に対応する。
幾つかの実施形態では、周波数帯域幅δの選択は、次のことを考慮すべきである。すなわち、これらの実施例に用いられる所定プロジェクターの空間および輝度の分解能が限られているので、2つの周波数間の差が閾値εより小さいと、プロジェクターがこの2つの周波数を区別することができない。従って、このような実施形態では、周波数帯域幅δは十分に大きく選択されて、F個の異なる周波数を区別することを確保し、すなわち、少なくともε離れるようにする。
平均周波数ωおよび周波数帯域幅δが選択されると、結果としての周波数帯域を決定することができる。例えば、16画素の周期λに対応する平均周波数ω、及び3画素の周期に対応する周波数帯域幅δに基づき、14.5〜17.5画素の周期に対応する最終周波数帯域を決定することができる。
次に、照明パターンの各周波数を選択する。幾つかの実施形態では、任意の適切な方式でこれらの周波数を選択することができる。例えば、幾つかの実施形態では、これらの周波数が選択されることで、位相エラーによる深さエラーを最小に低減することができる。幾つかの実施形態では、
(a)このような深さエラーは位相エラーに比例していて、ΔΦ=|p−q|となり、ここで、所定のカメラ画素に対して、pは正確なプロジェクター縦列であり、qは算出したプロジェクター縦列である。
(b)F個の周波数を用いる場合に、唯一のF+2次元輝度ベクトル(即ち、各投影画像に1個ずつ)を用いて各プロジェクター縦列を符号化する。
よって、位相エラー発生の可能性を最小に低減させるために、周波数集合を選択し、すなわち、異なるプロジェクター縦列に対応するベクトル間の距離dpqを最大にする周波数集合を選択する。所定の周波数集合Ωにとって、輝度ベクトル間の平均加重距離は下記の式により算出される。

式では、Nはプロジェクター縦列の総数である。幾つかの実施形態では、dpqについて、標準−2ユークリッド距離を選択してよい。そして、幾つかの実施形態では、以下の制限されたF次元最適化問題を用いてE(Ω)を最小にする周波数帯域[ωmin、ωmax]内の周波数集合を選択することができる。

この最適化問題は、任意の適切な方式で解決することができる。例えば、幾つかの実施形態では、シンプレックスサーチ法(例えば、MATLAB最適化ツールボックスでの実施)は最適化問題の解決に用いられる。
幾つかの実施形態では、[14.5、17.5]画素の周波数帯域について、且つF=5となる場合に、上述した手順は14.57、16.09、16.24、16.47および16.60画素の周期に対応する周波数集合を取得することができる。
幾つかの実施形態では、プロセス400は照明パターン周波数を選択すると、プロセス400は、406でこれらの周波数の第1の周波数を選択することができる。幾つかの実施形態では、任意の1つの適切な周波数を任意の適切な方式で選択することができる。例えば、幾つかの実施形態では、これらの周波数の第1の周波数として最少周波数、最大周波数または平均周波数に最も近い周波数を選択することができる。
そして、幾つかの実施形態では、プロセス400は408でプロジェクターに特定の周波数で照明パターンを投影させる。例えば、プロセス400は、図1に示すプロジェクター104に、選択された第1の周波数に等しい周波数で図3に示す照明パターン302を投影させる。
幾つかの実施形態では、プロジェクターが408で照明パターンを投影するとき、プロセス400は、カメラに、検出された画像としてシーンから反射された投影パターンを検出させ、410でカメラからこの画像を取得する。
そして、プロセスは412で、408で行われた投影が最後の投影であるか否かを判断する。「いいえ」と判断された場合、プロセス412は414で、他の異なる周波数を用いて次の投影を行うか否かを決定する。上述した判断は、任意の適切な標準および任意の適切な方式で行うことができる。例えば、404で決定した周波数集合におけるすべての周波数はいずれも406または416で選択されていない場合に、プロセス400はもう1回の投影を決定することができる。また、例えば、2つまたは2つ以上の移行位相の投影が所定の周波数に規定され、408で各投影が実施されていない場合に、プロセス400はもう1回の投影を決定することができる。
具体的には、例えば、幾つかの実施形態では、所定周波数の数Fについて、F+2画像を投影し検出することができる。さらに具体的には、幾つかの実施形態では、第1の周波数について、3つの画像を投影して検出することができる。残りのF−1周波数のそれぞれに対しては、1つの画像を投影し検出することができる。
従って、プロセス400は412で、最後の投影が行われたばかりか否かを判断することができる。「はい」と判断された場合、後述するように、プロセス400は418に進み、各投影周波数下のプロジェクター画素の位相を回復する。「いいえ」と判断された場合、プロセス400は414で他の異なる周波数を用いて次の投影を行うか否かを決定する。「はい」と決定した場合、プロセス400は416で隣接の周波数を選択し、そして408に戻る。「いいえ」と決定した場合、プロセス400は408に戻る。
以上に記載したように、幾つかの実施形態では、プロセス400は418で、各投影周波数でのプロジェクター画素の位相を回復する。さらに、幾つかの実施形態では、任意の適切な方式で位相を回復することができる。例えば、410で取得した検出画像により、プロセス400は下記の式により位相値を回復することができる。
ここで、
fは、集合Ωにおいて番号が1〜Fの周波数の識別子である。
pは、カメラ画素cを照射するプロジェクター画素である。
A(c)は、カメラ画素cが周波数fでの振幅であり、シーン双方向反射分布関数(BRDF)、表面シェーディング効果およびプロジェクター輝度減衰を含み、



で示されてもよい。
factは、以下の式から取得したリニアシステムを解くことにより算出される。
ここで、
microは、記録した輝度のベクトルである。
microは、F+2サイズの正方行列であり、かつ
により示される。
ここで、IIF−1は、F−1×F−1サイズの単位行列である。
O(c)は、カメラ画素cのオフセット項であり、環境照明分布を含む。
幾つかの実施形態では、位相が回復すると、420で位相アンラッピングを行うことができる。幾つかの実施形態では、位相アンラッピングは、任意の適切な技術で実施することができる。例えば、Gushov−Solodkin(G−S)算法(V.I.GushovおよびY.N.Solodkinが『光学レーザー技術』誌の1991年第14期に発表した「整数干渉計における縞模様の自動処理」で説明しており、その全部内容は参考として本出願に援用されている)は、複数の高周波数位相を単一低周波数位相に合併することができる。この高周波数正弦波の周期がペアワイズ共同素数(公因数無し)であれば、すべての高周波数正弦波の周期の積に等しい周期の低周波数正弦波を模擬することができる。
幾つかの実施形態では、Gushov−Solodkin(G−S)算法は、任意の適切なアプローチで実行することができる。例えば、幾つかの実施形態では、まず、各周波数の位相は、下記の式により残留プロジェクター縦列数pに転換される。
例えば、仮にλ=16画素(周波数fの周期)、Ф=π/4(周波数fの位相)とし
た場合、残留縦列数はp=2となる。そして、曖昧性を解消した最終縦列の対応関係p
は、下記の式により取得することができる。
ここで、M=(λλ2。。。λ)/λ、係数bは合同式b=1(modλ)を解くことにより取得される。このような合同式は、ユークリッド算法により解かれる。幾つかの実施形態では、上述したプロシージャは、以下のような変更を行うことによって、非整数残差pと周期λにも用いることができる。すなわち、残差の整数部分を取ってアンラッピングされた縦列数pを算出し、そしてpに対して小数部分を再び加える。
位相アンラッピングが完成された後、422で、カメラ画素縦列cの位相とプロジェクター画素縦列pの位相との間の対応関係を決定し、そして三角測量によりシーンにおける物体表面(S、S、S)各点の3次元(3D)位置を決定することによって、シーンにおける物体の形状を算出することができる。そして、形状データは適切なメモリ装置及び/又は記憶装置に記憶される。
幾つかの実施形態によれば、任意の適切な方式で三角測量を行う。例えば、幾つかの実施形態では、三角測量は以下の方式で行って良い。
カメラ中心の3D座標(CCam1、CCam2、CCam3)およびプロジェクター中心の3D座標(CProj1、CProj2、CProj3)はそれぞれ、従来の技術で知られているように、プロジェクターおよびカメラを幾何学的に校正することによって先験的に算出することができる。ここで、カメラ画素cの3D座標を(Vc1、Vc2、Vc3)とする。カメラ画素座標が既知のものであるため、カメラ画素cの3D座標(Vc1、Vc2、Vc3)も判るものである。
プロジェクター縦列pおよびプロジェクター中心(CProj1、CProj2、CProj3)は、3D空間で唯一の平面を定義することができる。この平面をPと称し、その3D方程式は、

となる。
ここで、縦列座標pが既知のものであるため、P、P、PおよびPも分かるものである。
画素cおよびカメラ中心を通過する線をLと称する。ここで注意すべきことは、シーン点Sは、線Lと平面Pとが交差する所に位置することである。三角測量によりこの交差点を発見できる。3Dにおける線Lの方程式は、

となる。
線Lは、スカラーパラメータtによりのパラメーター化される。目的はt値を発見し、このように算出した線上の点は平面Pに位置する。t値は下記式により算出される。

t値を算出した後、点Sの3D座標は、

となる。
最後に、プロセス400は424で終了する。
なお、次のことも注意すべきである。すなわち、図4に示すプロセス400における少なくとも一部のステップは、図に示す順序またはシーケンスに限られることなく、任意の順序またはシーケンスで実行または進行してもよい。また、図4に示すプロセス400の前記ステップの一部は、適切な場合にほぼ同時に実行または進行してもよく、或いは、プロセスの長さおよび処理時間の短縮と並行させてもよい。
幾つかの実施形態では、任意の適切なコンピュータ可読媒体は、上記の機能およびプロセスを実行する命令を記憶するために使用可能である。
例えば、幾つかの実施形態では、コンピュータ可読媒体は、一時的なものまたは非一時的なものである。非一時的なコンピュータ可読媒体は、例えば、磁性媒体(例えば、ハードディスク、フロッピーディスク等)、光学式媒体(例えば、コンパクトディスク、デジタルビデオディスク、ブルーレイディスク)、半導体媒体(例えば、フラッシュメモリ、電気的プログラマブル読取り専用メモリ(EPROM)、電気的消去可能なプログラマブル読取り専用メモリ(EEPROM)等)、伝送中に永続性の外観を有して快速に消失しない任意の適切な媒体、及び/又は任意の適切な実体媒体を含んでよい。また、他の実例では、一時的なコンピュータ可読媒体は、ネットワーク信号、線路信号、光ファイバー信号、回路信号、伝送中に永続性の外観を有しなく快速に消失する任意の適切な媒体、及び/又は任意の適切な無形媒体を含んでよい。
上述した実施形態では、本発明を例示し説明したが、これらは、本発明を例示するものに過ぎず、本発明実施の細部への多数の変更は、特許請求の範囲に規定される本発明の精神と範囲から逸脱することなくできる。また、ここで公開された実施例の複数特徴は、組合せや再編が可能である。

Claims (21)

  1. 形状測定のためのシステムであって、
    プロジェクターと、カメラと、ハードウェアプロセッサーと、を備え、
    前記プロジェクターは、
    (1)第1の時間範囲の間、シーンに第1の複数の照明パターンを投影し、前記第1の複数の照明パターンの各々は所定周波数を有し、前記第1の複数の照明パターンは平均周波数と、周波数帯域幅とを有し、
    (2)前記第1の時間範囲の後、第2の時間範囲の間、シーンに第2の複数の照明パターンを投影し、前記第2の複数の照明パターンの各々は、所定周波数を有し、異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影され、前記第2の複数の照明パターンは平均周波数と、周波数帯域幅とを有し、
    前記カメラは、
    (1)前記第1の時間範囲の間、前記シーンの第1の複数の検出画像を取得し、前記第1の複数の検出画像の各々は、前記第1の複数の照明パターンのうちの1つに対応し、
    (2)前記第2の時間範囲の間、前記シーンの第2の複数の検出画像を取得し、前記第2の複数の検出画像の各々は、前記第2の複数の照明パターンのうちの1つに対応し、
    前記ハードウェアプロセッサーは、
    (1)前記第1の時間範囲の間、
    前記プロジェクターが前記シーンに前記第1の複数の照明パターンを投影する前に、前記第1の複数の照明パターンの前記平均周波数及び前記周波数帯域幅を選択し、
    前記プロジェクターに前記第1の複数の照明パターンを投影させ、
    前記カメラに前記シーンの前記第1の複数の検出画像を取得させ、
    前記第1の複数の検出画像において検出された前記第1の複数の照明パターンから反射光の振幅を測定し、
    反射光の前記振幅の変化を決定し、
    前記変化が閾値を超えないことを決定し、
    前記第1の複数の照明パターンの前記平均周波数及び前記周波数帯域幅に基づいて前記第2の複数の照明パターンの周波数の組を選択し、
    (2)前記第2の時間範囲の間、
    前記プロジェクターに前記第2の複数の照明パターンを投影させ、
    前記カメラに前記第2の複数の検出画像を取得させ、
    前記カメラによって取得された前記第2の複数の検出画像を受信し、
    前記第2の複数の検出画像に基づいて前記シーンにおける物体の形状を測定する、
    システム。
  2. 記閾値は10%である、請求項1に記載のシステム。
  3. 前記閾値は1%である、請求項に記載のシステム。
  4. 前記閾値は5%である、請求項に記載のシステム。
  5. 前記ハードウェアプロセッサーは更に、Gushov−Solodkin(G−S)算法により位相アンラッピングを実行する、請求項1に記載のシステム。
  6. 前記第2の複数の照明パターンの各所定周波数は96画素より小さい、請求項1に記載のシステム。
  7. 前記第2の複数の照明パターンの各所定周波数は32画素より小さい、請求項1に記載のシステム。
  8. 形状測定のための方法であって、
    (1)第1の時間範囲の間、
    第1の複数の照明パターンの平均周波数及び周波数帯域幅を選択するステップであって、前記第1の複数の照明パターンの各々は所定周波数を有するステップと、
    プロジェクターに前記第1の複数の照明パターンをシーンに投影させるステップと、
    カメラに前記シーンの第1の複数の検出画像を取得させるステップであって、前記第1の複数の検出画像の各々は、前記第1の複数の照明パターンのうちの1つに対応するステップと、
    前記第1の複数の検出画像において検出された前記第1の複数の照明パターンから反射光の振幅を測定するステップと、
    反射光の前記振幅の変化を決定するステップと、
    前記変化が閾値を超えないことを決定するステップと、
    前記第1の複数の照明パターンの前記平均周波数及び前記周波数帯域幅に基づいて第2の複数の照明パターンの周波数の組を選択するステップであって、前記第2の複数の照明パターンの各々は所定周波数を有するステップと、
    (2)第2の時間範囲の間、
    前記プロジェクターに前記第2の複数の照明パターンを投影させるステップであって、前記第2の複数の照明パターンの各々は、異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影されるステップと、
    前記カメラに前記シーンの第2の複数の検出画像を取得させるステップであって、前記第2の複数の検出画像の各々は、前記第2の複数の照明パターンのうちの1つに対応するステップと、
    前記カメラによって取得された前記第2の複数の検出画像を、ハードウェアプロセッサーを使用して受信するステップと、
    前記第2の複数の検出画像に基づいて前記シーンにおける物体の形状を、前記ハードウェアプロセッサーを使用して測定するステップと、
    を含む、方法。
  9. 記閾値は10%である、請求項に記載の方法。
  10. 前記閾値は1%である、請求項に記載の方法。
  11. 前記閾値は5%である、請求項に記載の方法。
  12. Gushov−Solodkin(G−S)算法により位相アンラッピングを実行するステップをさらに含む、請求項に記載の方法。
  13. 前記第2の複数の照明パターンの各所定周波数は96画素より小さい、請求項に記載の方法。
  14. 前記第2の複数の照明パターンの各所定周波数は32画素より小さい、請求項に記載の方法。
  15. コンピュータ実行可能な命令を有する非一時的なコンピュータ可読媒体であって、プロセッサーにより実行される時に、前記命令により、前記プロセッサーは形状を測定する方法を実行し、前記方法は、
    (1)第1の時間範囲の間、
    第1の複数の照明パターンの平均周波数及び周波数帯域幅を選択するステップであって、前記第1の複数の照明パターンの各々は所定周波数を有するステップと、
    プロジェクターに前記第1の複数の照明パターンをシーンに投影させるステップと、
    カメラに前記シーンの第1の複数の検出画像を取得させるステップであって、前記第1の複数の検出画像の各々は、前記第1の複数の照明パターンのうちの1つに対応するステップと、
    前記第1の複数の検出画像において検出された前記第1の複数の照明パターンから反射光の振幅を測定するステップと、
    反射光の前記振幅の変化を決定するステップと、
    前記変化が閾値を超えないことを決定するステップと、
    前記第1の複数の照明パターンの前記平均周波数及び前記周波数帯域幅に基づいて第2の複数の照明パターンの周波数の組を選択するステップであって、前記第2の複数の照明パターンの各々は所定周波数を有するステップと、
    (2)第2の時間範囲の間、
    前記プロジェクターに前記第2の複数の照明パターンを投影させるステップであって、前記第2の複数の照明パターンの各々は、異なる期間に前記シーンに投影され、3つの異なる照明パターンは第1の所定周波数で投影され、1つのみまたは2つの異なる照明パターンは第2の所定周波数で投影されるステップと、
    前記カメラに前記シーンの第2の複数の検出画像を取得させるステップであって、前記第2の複数の検出画像の各々は、前記第2の複数の照明パターンのうちの1つに対応するステップと、
    前記カメラによって取得された前記第2の複数の検出画像を受信するステップと、
    前記第2の複数の検出画像に基づいて前記シーンにおける物体の形状を測定するステップと、
    を含む、
    非一時的なコンピュータ可読媒体。
  16. 記閾値は10%である、請求項15に記載の非一時的なコンピュータ可読媒体。
  17. 前記閾値は1%である、請求項15に記載の非一時的なコンピュータ可読媒体。
  18. 前記閾値は5%である、請求項15に記載の非一時的なコンピュータ可読媒体。
  19. 前記方法は、Gushov−Solodkin(G−S)算法により位相アンラッピングを実行するステップをさらに含む、請求項15に記載の非一時的なコンピュータ可読媒体。
  20. 前記第2の複数の照明パターンの各所定周波数は96画素より小さい、請求項15に記載の非一時的なコンピュータ可読媒体。
  21. 前記第2の複数の照明パターンの各所定周波数は32画素より小さい、請求項15に記載の非一時的なコンピュータ可読媒体。
JP2018017795A 2011-11-23 2018-02-05 形状測定のためのシステム、方法および媒体 Active JP6587706B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201161563470P 2011-11-23 2011-11-23
US61/563,470 2011-11-23

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014543568A Division JP6286359B2 (ja) 2011-11-23 2012-11-21 形状測定のためのシステム、方法および媒体

Publications (2)

Publication Number Publication Date
JP2018109634A JP2018109634A (ja) 2018-07-12
JP6587706B2 true JP6587706B2 (ja) 2019-10-09

Family

ID=48470306

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014543568A Active JP6286359B2 (ja) 2011-11-23 2012-11-21 形状測定のためのシステム、方法および媒体
JP2018017795A Active JP6587706B2 (ja) 2011-11-23 2018-02-05 形状測定のためのシステム、方法および媒体

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2014543568A Active JP6286359B2 (ja) 2011-11-23 2012-11-21 形状測定のためのシステム、方法および媒体

Country Status (5)

Country Link
US (3) US20150292875A1 (ja)
EP (1) EP2783184A4 (ja)
JP (2) JP6286359B2 (ja)
CN (1) CN103890543B (ja)
WO (1) WO2013078349A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9661304B2 (en) * 2012-10-31 2017-05-23 Ricoh Company, Ltd. Pre-calculation of sine waves for pixel values
JP6525770B2 (ja) * 2015-06-30 2019-06-05 キヤノン株式会社 計測装置、および物品製造方法
US9858672B2 (en) 2016-01-15 2018-01-02 Oculus Vr, Llc Depth mapping using structured light and time of flight
DE102016003512A1 (de) * 2016-03-22 2017-09-28 Rodenstock Gmbh Verfahren und Vorrichtung zur Ermittlung von 3D-Koordinaten zumindest eines vorbestimmten Punktes eines Objekts
JP6658625B2 (ja) * 2017-03-08 2020-03-04 オムロン株式会社 3次元形状計測装置及び3次元形状計測方法
CN107044833B (zh) * 2017-03-24 2019-03-05 南京理工大学 一种基于改进的傅立叶变换轮廓技术的超快三维形貌测量方法及其系统
TWI724594B (zh) * 2019-10-29 2021-04-11 鑑微科技股份有限公司 三維形貌測量裝置
CN114777687B (zh) * 2022-05-09 2023-06-09 湖北工业大学 基于概率分布函数的分区域相位误差补偿方法及设备

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6229913B1 (en) * 1995-06-07 2001-05-08 The Trustees Of Columbia University In The City Of New York Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two-images due to defocus
EP0910401A1 (en) 1996-05-23 1999-04-28 Applied Research Systems ARS Holdings N.V. Compounds that inhibit the binding of raf-1 or 14-3-3 proteins to the beta chain of il-2 receptor, and pharmaceutical compositions containing same
US6281993B1 (en) 1998-03-30 2001-08-28 International Business Machines Corporation Phase shifting element for optical information processing storing systems
FI20001568A (fi) * 2000-06-30 2001-12-31 Thermo Radiometrie Oy Pinnan muotojen määrittäminen
JP3519698B2 (ja) * 2001-04-20 2004-04-19 照明 與語 3次元形状測定方法
US8035612B2 (en) * 2002-05-28 2011-10-11 Intellectual Ventures Holding 67 Llc Self-contained interactive video display system
GB0200819D0 (en) * 2002-01-15 2002-03-06 Cole Polytechnique Federale De Microscopy imaging apparatus and method for generating an image
US7440590B1 (en) 2002-05-21 2008-10-21 University Of Kentucky Research Foundation System and technique for retrieving depth information about a surface by projecting a composite image of modulated light patterns
WO2004001332A1 (en) * 2002-06-19 2003-12-31 Canesta, Inc. System and method for determining 3-d coordinates of a surface using a coded array
JP2006003212A (ja) * 2004-06-17 2006-01-05 Konica Minolta Sensing Inc 位相計測システム
JP2006329751A (ja) * 2005-05-25 2006-12-07 Sony Corp 表面形状測定方法及び表面形状測定装置
JP2006338092A (ja) * 2005-05-31 2006-12-14 Nec Corp パタン照合方法、パタン照合システム及びパタン照合プログラム
US20070115484A1 (en) * 2005-10-24 2007-05-24 Peisen Huang 3d shape measurement system and method including fast three-step phase shifting, error compensation and calibration
US8310685B2 (en) * 2007-08-17 2012-11-13 Dimitrov-Kuhl Klaus-Peter Parameterized optical system and method
US7986321B2 (en) 2008-01-02 2011-07-26 Spatial Integrated Systems, Inc. System and method for generating structured light for 3-dimensional image rendering
CN101661159B (zh) * 2008-08-25 2011-09-21 麦克奥迪实业集团有限公司 一种基于二维调制技术的切层图像获取方法
US20110080471A1 (en) * 2009-10-06 2011-04-07 Iowa State University Research Foundation, Inc. Hybrid method for 3D shape measurement
FR2954728B1 (fr) 2009-12-29 2012-02-03 Michelin Soc Tech Procede de mise en joint d'une couche de matiere pour la realisation d'une ebauche crue de pneumatique
JP2010175554A (ja) * 2010-03-26 2010-08-12 Nec Engineering Ltd 三次元形状計測装置及び三次元形状計測方法
JP5170154B2 (ja) * 2010-04-26 2013-03-27 オムロン株式会社 形状計測装置およびキャリブレーション方法

Also Published As

Publication number Publication date
US9857168B2 (en) 2018-01-02
JP2015501933A (ja) 2015-01-19
CN103890543A (zh) 2014-06-25
US10690489B2 (en) 2020-06-23
CN103890543B (zh) 2018-04-10
WO2013078349A1 (en) 2013-05-30
US20150176982A1 (en) 2015-06-25
JP2018109634A (ja) 2018-07-12
EP2783184A1 (en) 2014-10-01
JP6286359B2 (ja) 2018-02-28
US20180347971A1 (en) 2018-12-06
US20150292875A1 (en) 2015-10-15
EP2783184A4 (en) 2015-07-15

Similar Documents

Publication Publication Date Title
JP6587706B2 (ja) 形状測定のためのシステム、方法および媒体
Zhang Absolute phase retrieval methods for digital fringe projection profilometry: A review
KR102246920B1 (ko) 2차 패턴이 삽입된 프린지에 의한 절대 위상 측정 기법
US20180341023A1 (en) Time-of-Flight (TOF) Assisted Structured Light Imaging
JP4435865B2 (ja) 画像処理装置、画像分割プログラムおよび画像合成方法
CN103390289B (zh) 基于深度传感器获得镜面对象的几何形状的方法和设备
US9322643B2 (en) Apparatus and method for 3D surface measurement
CN111473744B (zh) 一种基于散斑嵌入相移条纹的三维形貌视觉测量方法及系统
KR101893771B1 (ko) 3d 정보 처리 장치 및 방법
Martynov et al. Projector calibration by “inverse camera calibration”
EP3268932B1 (en) Active sensing spatial resolution improvement through multiple receivers and code reuse
JP2014115109A (ja) 距離計測装置及び方法
WO2018052534A1 (en) Systems and methods for improved depth sensing
KR20180018736A (ko) 촬영 디바이스 및 깊이 정보를 취득하는 방법
US11803982B2 (en) Image processing device and three-dimensional measuring system
KR20230065978A (ko) 구조화된 광을 사용하여 장면에서 평면 표면들을 직접 복구하기 위한 시스템, 방법 및 매체
WO2020029815A1 (zh) 一种主动光场深度成像方法及系统
CN112233139A (zh) 用于在3d数据重建过程中检测运动的系统和方法
US20200182971A1 (en) Time of Flight Sensor Module, Method, Apparatus and Computer Program for Determining Distance Information based on Time of Flight Sensor Data
KR101655096B1 (ko) 박막의 두께 측정방법
CN113327317A (zh) 三维点云图获取方法、装置、电子设备和存储介质
US20200320725A1 (en) Light projection systems
Atkinson Two-source surface reconstruction using polarisation
JP7024401B2 (ja) 情報処理装置、プログラム、及び情報処理方法
Hyun High-Accuracy, High-Speed 3D Optical Sensing in Unstructured Environments

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180306

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181225

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190910

R150 Certificate of patent or registration of utility model

Ref document number: 6587706

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250