JP6661336B2 - 構造体から光学信号を表すデータを取得するためのシステム、そのデータをマッピングする方法、および、非一過性コンピュータ読み取り可能媒体 - Google Patents

構造体から光学信号を表すデータを取得するためのシステム、そのデータをマッピングする方法、および、非一過性コンピュータ読み取り可能媒体 Download PDF

Info

Publication number
JP6661336B2
JP6661336B2 JP2015225385A JP2015225385A JP6661336B2 JP 6661336 B2 JP6661336 B2 JP 6661336B2 JP 2015225385 A JP2015225385 A JP 2015225385A JP 2015225385 A JP2015225385 A JP 2015225385A JP 6661336 B2 JP6661336 B2 JP 6661336B2
Authority
JP
Japan
Prior art keywords
data
image data
light source
image
reflection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015225385A
Other languages
English (en)
Other versions
JP2016114598A (ja
JP2016114598A5 (ja
Inventor
ランプ マーティン
ランプ マーティン
フリック ビート
フリック ビート
コールブレナー エイドリアン
コールブレナー エイドリアン
シュワルツ クリストファー
シュワルツ クリストファー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
X Rite Switzerland GmbH
Original Assignee
X Rite Switzerland GmbH
X Rite Europe GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by X Rite Switzerland GmbH, X Rite Europe GmbH filed Critical X Rite Switzerland GmbH
Publication of JP2016114598A publication Critical patent/JP2016114598A/ja
Publication of JP2016114598A5 publication Critical patent/JP2016114598A5/ja
Application granted granted Critical
Publication of JP6661336B2 publication Critical patent/JP6661336B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/55Specular reflectivity
    • G01N21/57Measuring gloss
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data

Description

本願発明は、構造物の反射面の画像データにより記述される光学信号を反射面の3次元面ジオメトリへのマッピングを表すデータを決定する方法、および、上記方法を実行するためのプログラムを実行するように構成されたコンピュータを有する、構造体の反射面から受信した光学信号を表すデータを得るための装置に関する。
反射面の光学特性を測定し、得られた空間的に変化する双方向反射率関数を決定する際の一つの問題は、光沢特性の特定を改善させることである。サンプルの反射特性を決定するべくサンプルに照射するために装置内に位置固定した点光源のみを使用することは、サンプルが屈折率異方性を有する場合に、例えば、空間情報の損失をもたらす。この従来技術のアプローチは、例えば、Schwartz, C らによる、DOME II: A Parallelized BTF Acquisition System , in Proceedings of Eurographics Workshop on Material Appearance Modeling; Issue and Acquisition, Zaragoza, Spain, pages 25-31, Eurographics Association, June 2013に記載されている。他に、従来技術のアプローチとして、米国特許第8,872,811号には、可能なアンダーサンプリングをマークするために測定装置のセンサの位置を補間することを教示している。しかし、こうして得られた測定データの精度はいくらかの不確定さを含み、付加的データの生成のために、計算労力を増加させる。
したがって、本願発明は、特定の構造の空間的に変化する双方向反射率を決定する際に、許容レベルの生成データ量を維持しつつ、改良した光沢測定を与えることができる方法および装置を与えることを目的とする。
この目的は、独立項の手段によって達成される。本願発明のさらなる特徴および態様は、以下に開示され、従属項の主題に含まれる。異なる特徴は、本願発明にしたがって、技術的に合理的および実現可能な限度で組み合わされる。例えば、他の実施形態の他の特徴の同じか類似の機能を有するひとつの実施形態の特徴は、交換可能である。例えば、他の実施形態に対する他の機能を補充するひとつの実施形態の特徴は、他の実施形態へ付加可能である。
上記した目的を達成するために、第1の態様における本願発明は、構造物の反射面の画像データによって記述された光学信号の反射面の3次元面ジオメトリへのマッピングを表すデータを決定するデジタルデータ処理方法を与える。構造物は、任意の種類(3次元)の構造物であり、例えば、有形(特に、触れることができる)構造体であってよい。例えば、構造体は、少なくともひとつのテクスチャー構造および/またはプラスチック構造および/または皮革構造および/または金属構造および/または塗装構造の少なくともひとつである。反射面は、構造物の外面(例えば、テクスチャー面)であり、その上で測定光が照射され、そこから光が反射される。当該方法は、例えばコンピュータによって実行可能なように構成された、以下の特徴(ステップ)を有する。
例示的(例えば第1の)ステップにおいて、当該方法は、構造体の反射面から第1の種類の光の反射の画像(第1画像)を記述する(例えば、定義する)第1画像データを取得する。例として、第1のタイプの光は、広帯域の点光であり、それは、例えば、白色発光ダイオード(LED)または同等の光源から放射される。
例示的(第2の)ステップにおいて、当該方法は、構造体の反射面から第2の種類の光の反射の画像(第2画像)を記述する(例えば定義する)第2画像データを取得する。例として、第2の種類の光は、スペクトル(白以外)点光であり、それは、例えば、有色(白以外)LEDから照射されるか、カラーフィルタを具備する白色LEDまたは同等の光源から照射される。
例示的(第3の)ステップにおいて、当該方法は、構造体からの反射光から第3の種類の光の反射の画像(第3画像)を記述する(定義する)第3画像データを取得する。例として、第3の種類の光は、広帯域な線形光であり、それは、例えば、蛍光管またはLEDの線形アレイから照射される。線形光源は、例えば、一次元方向に伸長し、他の次元の方向に有限な(小さい)厚みを有する。例えば、線形光源は、ひとつの蛍光管または一列のみのLEDの線形アレイを含む。代替的に、線形光源は、モニター(平坦スクリーンモニター、例えば、液晶ディスプレイモニター等)により実行されてもよい。それは、所定の幾何学形状の線形グラフィカル特徴(例えば、直線方向の画素の所定の数、および/または、列方向のディスプレイ基準システムによって作られた、比較的薄い線の形状)を、所定の輝度で表示するようにプログラムされている。この方法で線形光源としてモニターを使用することは、線形光を表示させるようにモニターを適正に制御することにより要求されるような線形光源の幾何学形状を適応することができるという利点を与える。また、モニターは、白色だけではなく、必要により、適当に制御可能であればスペクトル光(有色、すなわち、非白色)も生成することができるという利点を有する。ひとつの実施形態において、線形光源は、支持部の下方に配置される。その上に、構造体が支持され、それにより、線形光源の位置から見た時に、構造体の他の側に少なくとも部分的に検出システムが配置されれば、構造体の第3の種類の光の透過測定が与えられる。
上記より、第1種類の光、第2種類の光、および第3種類の光は、光の3つの異なるタイプを構成する。具体的には、3つの種類の光は、各々異なる種類の光を構成する。したがって、開示する方法は、反射面を照射するために少なくとも3つの異なる種類の光を使用する。4または5つの異なる種類の、3つより多くの異なる種類の光を使用することも本願発明の開示範囲に属する。反射率を導出するべく、線形光を含む3つの種類の光を組み合わせることは、点光源(上述した広帯域およびスペクトルLEDなど)によって生成される反射信号の空間アンダーサンプリングに比べ、高い感度を有する改善された光沢測定の利点を与える。このアンダーサンプリングは、概して、構造体および検出器に関する点光源の定義かつ概して固定された位置のために生じる。本発明者らは、点光源のみを使用する光沢測定は、線形光源のような伸長した光源から受信した反射光と組み合わせることにより、大きく改善可能であることを見いだした。したがって、電子データ保存空間を含むコンピュータリソースおよび処理時間の観点から、許容可能なレベルで処理すべきデータ量を維持しつつ、アンダーサンプリングの効果を避けることができることを見いだした。
例示的(第4の)ステップにおいて、当該方法は、反射面の表面ジオメトリを記述(例えば、定義)する表面ジオメトリデータを取得する。当該表面ジオメトリは、ひとつの実施形態において、反射面の個々のエレメント間の相対的高さ(高さ方向の間隔および/または垂直方向の間隔)によって定義される。他の実施形態において、表面ジオメトリは、そのエレメントの高さ情報によってではなく、表面エレメントの方向を定義する情報によって定義される。その方向は、グローバル座標系または、反射面のエレメント間の相対位置により定義されてもよい。他の実施形態において、表面ジオメトリは、2次元のポイントの膨大なセットとして与えられる。他の実施形態において、鏡面ジオメトリは、頂点および該頂点間を結ぶ平坦な三角形または四角形からなる三角または四角メッシュとして与えられる。他の実施形態において、表面ジオメトリは、異なる(例えばより高次の)分解能で格納された方向と一緒に、高さフィールド、点クラウドまたはメッシュのいずれかの組み合わせとして与えられる。
例示的(第5の)ステップにおいて、第4の種類の光源の構造光パターンは、構造体の面の下での表面下散乱のパラメータを決定するのに使用することができる(この効果は、半透明とも呼ばれる)。原理的に、表面下散乱は、反射現象であり、それは、構造体の内部で生じる。したがって、この明細書において、反射の光学的現象に関する言及は、半透明現象を包含している。しかし、本願明細書の開示において、反射の光学的現象に関する任意の用語が、構造体の外面上で生じる排他的反射を表すように、代替的に理解されてもよい。ひとつの例において、互いに対して所定の距離を有する単一点からなるパターンは、構造体の面上に射影可能である。この間隔スポットにより照射された反射面のそれぞれの画像において、表面下で散乱した光の測定は、表面の照射されない部分から引き算される。モデルは、引き算された測定値に外挿される。
本方法の第1の実施形態に従い、表面ジオメトリデータは、反射面の高さフィールドを記述(例えば、定義)する。表面ジオメトリデータは、例えば、構造体の反射面から第4の種類の光の反射の画像(第4画像)を記述する第4画像データに基づいて取得される。第4の種類の光は、第1の種類、第2の種類、第3の種類の光とは異なる。ひとつの例において、第4の種類の光は、例えば、プロジェクタ( 機)のような構成された光の光源から放射された構造光である。構造光は、所定のパターン(例えば、視覚的パターン)を示す光、すなわち、所定の(具体的には、2次元)パターンで照射される光である。第4の種類の画像データによって記述される画像は、したがって、構造光画像とも呼ばれる。この画像は、例えば、反射面のレリーフなどのトポグラフィーを記述する。高さフィールドは、反射面のエレメントの高度(例えば、相対的高度)を記述する。例えば、高さフィールドは、これらのエレメントの少なくともひとつに対する、これらのエレメントの他の少なくともひとつの高度(すなわち、3次元、例えば、垂直方向での間隔/距離/座標差)を記述する。この高さフィールドは、従来技術の方法、Salvi, J. らによる, A state of the art in structured light patterns for surface profilometry, Pattern Recognition 43, no. 8 (2010): pp. 2666-2680の記載、および、構造光の反射を検出するのに使用される検出システムの幾何学的キャリブレーションの考察からの方法に従うポイントクラウドを生成することにより、構造光画像から再構築可能である。高さフィールドの分解能は、第4の種類の光の反射信号の検出に使用される空間サンプリングに依存する。高さフィールドは、基本的な幾何学的キャリブレーションによって反射面のエレメントの方向の決定を与える。
第1の態様に従う方法の第2の実施形態に従い、表面ジオメトリデータは、反射面の法線フィールドを記述(例えば、定義)する。その場合、表面ジオメトリデータは、例えば、第1画像データ、第2画像データ、および第3画像データの少なくともひとつに基づいて取得される。法線フィールドは、反射面のエレメントの方向を記述する。例えば、各エレメントの方向は、その面の法線の方向によって定義される。法線フィールドは、所望の面法線に関する情報を構成するデータセットである。法線フィールドは、反射面が拡散的反射面であり、それぞれの表面エレメントに対して決定された輝度から各面エレメントの方向を決定するという仮定の下で、第1画像、第2画像および第3画像に基づいて得られる。法線フィールドはまた、第1、第2および第3画像データから導出された光沢情報を組み込むことにより、非拡散面に対して改良される。
要約すると、表面ジオメトリデータは、上記した高さフィールドおよび法線フィールドの少なくともひとつを記述(例えば、定義)する。
例示的(例えば、第6)のステップにおいて、当該方法は、第1画像データ、第2画像データ、および第3画像データならびに表面ジオメトリデータに基づいて、第1画像データ、第2画像データおよび第3画像データならびに反射面の3次元表面ジオメトリによって記述された反射率の間のマッピングを記述する反射面マッピングデータを決定する。例えば、光学信号(具体的には、反射信号)が3次元表面ジオメトリにマッピングされる。マッピングは、例えば、第1画像データ、第2画像データおよび第3画像データを、表面ジオメトリデータによって記述された表面ジオメトリ上で確立される。3次元ジオメトリは、反射面の高さフィールドおよび法線フィールドの少なくともひとつのような表面エレメントの方向の決定を可能にする、例えば、表面ジオメトリデータに含まれる情報によって記述される。
第1画像データ、第2画像データ、第3画像データ、および、適用可能であれば第4画像データによって記述される画像は、例えば、検出システムによって生成されたデジタル画像である。その検出システムは、少なくともひとつのデジタルカメラ(他の例では、複数のデジタルカメラ、例えば3次元カメラ)などの少なくともひとつの検出ユニットを有し、それは、第1種類、第2種類および第3種類、もし適用可能であれば第4種類の光の反射信号を検出する。したがって検出システムは、第1種類、第2種類、第3種類、および適用可能であれば第4種類の光のスペクトル反射に特に感度が良い。
第2の態様において、本願発明は、構造体の反射面の空間的に変化する双方向反射率分布を記述するデータを決定する方法に関する。当該方法は、コンピュータによって実行される以下のステップを含む。
1.マッピング(第1の態様に従う)を表すデータを決定する上述したデジタルデータ処理方法が実行される。
2.双方向反射率分布関数(BRDF)モデルを記述する反射率関数データが取得される。反射率関数データは、例えば、BRDFモデルの数学的表現を表すコードからなる。
3.反射面マッピングデータおよび反射率関数データに基づいて、反射面の空間的に変化する双方向反射率分布を記述する反射率分布データが決定される。例えば、これは、BRDFモデルを、例えば、表面位置ごとの表面ジオメトリデータを考慮して、第1画像データ、第2画像データおよび第3画像データに含まれる反射率情報に外挿することにより実行される。外挿プロセスに対して、非線形最適化アルゴリズムが使用される。反射面の空間的に変化する双方向反射率分布を定義する、生成されたSVBRDF(空間的に変化する双方向反射率分布関数)パラメータが、不揮発性電子メモリ装置上の反射分布データを含むデジタルファイル内に格納される。
第3の態様において、本願発明は、構造体の反射面のデジタル画像表現(レンダリング前のデジタルデータ表現の表示であり、具体的には、視覚的に認識可能であり、人間が読める)をオフラインレンダリングするための方法に関する。当該方法は、コンピュータによって実行される以下のステップを含む。
1.構造体の反射面の空間的に変化する双方向反射率分布を記述するデータを決定する上記方法(第2の態様に従う)が実行される。
2.反射分布データに基づいて、表面表現データが決定される(例えば、合成される)。それは、反射面の画像(デジタル画像)を記述(例えば、定義)する。表面表現データは、例えば、特定の観測角度(表面が視覚的に観測される高度角度および方位角)に対して決定される。
3.例えば、第3の態様に従う当該方法は、例えば、標準的なモニターのようなディスプレイ装置上に、または、プロジェクタおよびスクリーン(プロジェクタスクリーン、例えばキャンバススクリーン)を通じて、表面表現データ(すなわち、反射面を表すデジタル画像)の情報コンテンツをオフラインレンダリング(例えば、ディスプレイ)することを含む。
第4の態様において、本願発明は、構造体の反射面のシャドー外観(具体的には、シャドー外観を定義するモデルおよびパラメータを記述するデータ)を記述(例えば定義または表現)するデータ(例えば、モデルおよびパラメータ)を決定する方法に関する。当該方法は、コンピュータによって実行可能な以下のステップを含む。
1.構造体の反射面の反射率分布を決定する上記方法(第2の態様に従う)が実行される。
2.反射面マッピングデータおよび、第1画像データ、第2画像データ、第3画像データの少なくともひとつに基づいて、シャドー外観データが決定される。それは、反射面のシャドー外観を記述(例えば、定義)する。シャドー外観を特徴づけるシャドー外観データ内に含まれるシャドー外観パラメータは、後に使用するためにデジタルファイル内に格納される。具体的には、シャドー外観パラメータは、空間的に変化する双方向反射率分布パラメータと一緒にひとつのファイル内に格納される。
第5の態様において、本願発明は、構造体の反射面のデジタル画像表現(すなわち、デジタル画像表現の表示、オンラインで生成され、視覚的に認識可能であり、よって人間に読める)のリアルタイムレンダリング方法に関する。当該方法は、コンピュータによって実行可能な以下のステップを含む。
1.構造体の反射面の反射率分布を決定する上述した方法(第2の態様に従う)が実行される。
2.反射率分布データおよび任意のシャドー外観データに基づいて、反射面の画像を記述(例えば、定義)する表面表現データが決定される。
3.例えば、第5の態様に従う方法は、例えば、標準的なモニターのようなディスプレイ装置上またはプロジェクタおよびスクリーン(プロジェクタスクリーン、例えばキャンバススクリーン)を通じた、表面表現データ(すなわち、反射面を表すデジタル画像)の情報コンテンツのオンライン(すなわち、リアルタイム)レンダリング(例えばディスプレイ)を含む。
第6の態様において、本願発明は、第2の態様に従う方法の出力を、例えば、サンプル構造の反射面の反射率によって記述された表面特性(例えば、光沢、ぼやけ、画像の区別、および、光輝)を決定する方法のフレームワークに属する、他の電子データ処理の入力として使用することに関する。この方法は、第2の態様に従う方法の出力を、サンプルとして取られた測定と比較するために使用する。それは、例えば、サンプルのそれぞれの表面特性の品質制御のフレームワークで実行される。この方法は、例えばコンピュータによって連続して実行される。
第7の態様に従い、本願発明は、コンピュータ上で実行されるか、コンピュータ上にロードされると、上述した態様のいずれかに従う方法をコンピュータに実行させるコンピュータプログラムに関する。
第8の態様に従い、本願発明は、上記したプログラムが格納される、非一過性コンピュータ読み取り可能記憶媒体に関する。
以下で、本願発明の第9の態様が説明される。それは、第1から第6の態様に従う方法を実行するために使用可能な装置に関する。方法の特徴の説明は、当該装置の特徴に同様に適用可能である。
第9の態様の第1実施形態において、本願発明は、構造体の反射面から受信した光学信号を表すデータを取得するための装置に関する。当該装置は、
a)反射面上に第1の種類の光を照射するように構成された少なくともひとつの第1光源と、
b)反射面上に第2の種類の光を照射するように構成された少なくともひとつの第2光源と、
c)反射面上に第3の種類の光を照射するように構成された少なくとも一つの第3の光源であり、代替的にまたは付加的に、当該構造体は、第3の種類の光に対して透過的であり、第3の光源は、当該構造体を通じて第4の種類の光を照射するように(それが、反射面を通じて、例えば、反射面を介して検出システムへ伝達されるように)構成されている、ところの第3の光源と、
d)第1の態様に従う方法に関して説明したように、第1、第2および第3の種類の光は光の3つの異なるタイプを構成し、
e)構造体を支持するための支持部(例えば、その上で構造体が配置されて第1種類の光、第2種類の光、第3種類の光、適用可能であれば第4種類の光に従う光を照射されるターンテーブル)と、
f)検出システムであって、
反射面からの第1の種類の光の第1反射信号を検出し、該第1反射信号を、構造体の反射面の画像を記述する第1画像データに変換し、
反射面からの第2の種類の光の第2反射信号を検出し、該第2反射信号を、構造体の反射面の画像を記述する第2画像データに変換し、
反射面から、第3の種類の光の第3の反射信号または透過信号を検出し、該第3反射信号を、構造体の反射面の画像を記述する第3画像データに変換するか、または、該透過信号を、構造体の画像を記述する第3画像データに変換する
ように構成された検出システムと、
g)検出システムと動作的に接続されたコンピュータであって、第7の態様に従うコンピュータプログラムを実行するように構成され、および/または、第8の態様に従う格納媒体を有する、ところのコンピュータと、
を有する。
したがって、開示された装置は、反射面を照射するために少なくとも3つの異なる種類の光源を使用する。開示した装置はまた、3つ以上の異なる種類の光源を有してもよい。例えば、異なる種類の対応する数の光を照射するように構成された4つまたは5つの光源を有しても良い。
ひとつの例において、検出システムは、第1の態様に従う方法の文脈において説明された検出システムである。
第9の態様に従う第2の実施形態において、装置は、
反射面に第4の種類の光を照射するように構成された少なくともひとつの第4の光源を有し、
検出システムは、構造体からの第4の種類の光の第4の反射信号または透過信号を検出し、該第4の反射信号または透過信号を、構造体の反射面の高さフィールドを記述する表面ジオメトリデータに変換するように構成され、
少なくともひとつの第1光源は広帯域点光源であり、少なくともひとつの第2光源は、スペクトル点光源であり、第3光源は広帯域線形光源であり、第4光源は構造光の光源である。構造光の光源は、例えば、第1の態様に従う方法の文脈において説明されたものである。
第9の態様に従う第3実施形態において、検出システムおよび第1光源、第2光源、第3光源、ならびに、装置が第7の態様の第2の実施形態の特徴をさらに有する限りにおいて、第4光源が、支持部上の半球上に配置され、第1種類、第2種類、第3種類、ならびに、装置が上記した構成的特徴を含む限りにおいて、第4種類の少なくともひとつの光を照射するように構成された少なくともひとつの他の光源が支持部の下方の半球上に配置される。例えば、第1光源、第2光源、第3光源、および、第9の態様の第2実施形態の特徴をさらに有する限りにおいて、第4の光源が、検出システムとともに、例えば、少なくとも一部が球面構造(例えば、ドーム形状)である保持部に固定される。これは、支持部の上方、したがって、支持部の上方の半球上に配置される。付加的に、上述した種類の光源が下方から、すなわち、支持部の下方の半球から構造体を照射することができるように、支持部の下方に配置されてもよい。その結果、構造体の透明性(例えば、透過率)または半透明性を測定することができる。
<定義>
本願発明のフレームワーク内で、コンピュータプログラムエレメントは、ハードウエアおよび/またはソフトウエア(ファームウエア、レジデントソフトウエア、マイクロコード等を含む)によって実行可能である。本願発明のフレームワークの範囲内で、コンピュータプログラムエレメントは、コンピュータプログラムプロダクトの形式を取ることも可能である。それは、例えば、命令実行システム上でまたはそれに関連してデータ格納媒体内で実行される、コンピュータ読み取り可能なプログラムインストラクションである“コード”または“コンピュータプログラム”を含む、コンピュータ読み取り可能データ格納媒体によって実行される。このシステムは、コンピュータであってよい。コンピュータは、データ処理装置であり、本願発明に従うコンピュータプログラムエレメントおよび/またはプログラムを実行するための手段、例えば、データ処理装置を有する。データ処理装置は、コンピュータプログラムエレメントを実行するデジタル電子プロセッサ(中央処理ユニットまたはCPU)および、コンピュータプログラムエレメントを実行するために使用されるデータおよび/または実行して生成されたデータを格納するための揮発性メモリ(例えば、ランダムアクセスメモリまたはRAM)を有する。本願発明のフレームワーク内で、コンピュータ使用可能、例えば、コンピュータ読み取り可能格納媒体は、命令実行システム、装置またはデバイス上でまたはそれと関連して使用するためのプログラムを含み、格納し、通信し、伝達しまたは輸送することができる、任意のデータストレージ媒体であってよい。コンピュータ使用可能、例えば、コンピュータ読み取り可能データ格納媒体は、例えば、これに限定されないが、電子的、磁気的、光学的、電磁気的、赤外線または半導体システム、装置またはデバイス、あるいは、インターネットのような通信媒体である。コンピュータ使用可能またはコンピュータ読み取り可能データ格納媒体は、例えば、紙または、その上にプログラムが印刷可能な他の適当な媒体であってもよい。プログラムは、紙または他の適当な媒体を光学的にスキャンすることにより、電子的に捕捉可能であり、その後、コンパイルされ、インタプリタされ、または、他の適当な方法で処理される。データ格納媒体は、例えば、不揮発性データ格納媒体である。ここで説明するコンピュータプログラムプロダクトおよび任意のソフトウエアおよび/またはハードウエアは、本例の実施形態において、本願発明の関数を実行するためのさまざまな手段を形成する。コンピュータおよび/またはデータ処理デバイスは、例えば、ガイダンス情報デバイスを有する。それは、ガイダンス情報を出力するための手段を有する。ガイダンス情報は、例えば、視覚的な指示手段(例えばモニターおよび/またはランプ)および/または音響指示手段(例えば、スピーカーおよび/またはデジタルスピーチ出力デバイス)および/または触覚指示手段(例えば、振動エレメント)によって、ユーザに対して出力される。
本願発明に従う方法は、例えば、データ処理方法である。データ処理方法は、例えば、コンピュータのような技術手段を使って実行される。データ処理方法は、例えば、コンピュータによって実行される。該コンピュータは、例えば、プロセッサおよび、電子的におよび/または光学的にデータを処理するメモリを有する。上述した計算ステップは、例えば、コンピュータによって実行される。決定ステップ、または計算ステップおよび取得ステップは、技術データ処理方法のフレームワーク内、例えば、プログラムのフレームワーク内で、データを決定するステップである。コンピュータは、例えば、任意の種類のデータ処理デバイスであり、例えば、電子データ処理デバイスである。コンピュータは、デスクトップPC、ノートブック、ネットブック等のような一般的に考えられるデバイスだけでなく、携帯電話または埋め込みプロセッサのようなプログラム可能な任意の装置である。コンピュータは、例えば、“サブコンピュータ”のシステム(ネットワーク)を有してもよい。ここで、各サブコンピュータは、それ自体、自立したコンピュータを表す。コンピュータは、例えば、データを受信または出力するためのおよび/またはアナログ−デジタル変換を実行するためのインターフェースを有する。データは、例えば、物理的特性を表すデータであるか、技術信号から生成されるデータである。コンピュータは、検出システムから第1、第2、第3および第4種類の光の反射を表す、デジタル信号(第1、第2、第3および第4画像信号)を受信するように、および、少なくとも受信画像データに基づく第6の態様に従う方法に従いさらなるデータ処理を実行するように、第9の態様に従う装置と光学的に接続される。デジタル信号は、例えば、反射率の検出と同時に、検出システム内で生成された電気信号のアナログ−デジタル変換によって生成される。
表現“データ取得”は、例えば、データがデータ処理方法またはプログラムによって決定されるシナリオを包含する(データ処理方法のフレームワーク内で)。データを決定することは、物理的量を測定すること、および、測定値をデジタルデータに変換すること、および/または、コンピュータによりデータを計算すること、例えば、本願発明の方法を使ってデータを計算することを包含する。“データ取得”の意味は、例えば、データ処理方法またはプログラムによって、例えば、データ処理方法またはプログラムによってさらに処理するために他のプログラム、先行の方法ステップまたはデータ格納媒体から、データが受信されまたは検索されるシナリオも包含する。よって、“データ取得”は、データの受信を待つことおよび/またはデータを受信することも意味する。受信されたデータは、インターフェースを介して入力される。“データ取得”は、例えば、データ格納媒体(例えば、ROM、RAM、データベース、ハードディスク等)または、インターフェース(例えば、他のコンピュータまたはネットワーク)を介したデータソースからデータを受信または検索するためにデータ処理方法またはプログラムがステップを実行することも意味する。データは、取得ステップの前の付加的なステップを実行することにより“使用可能”の状態になる。この付加的なステップに従い、データは、取得可能となるように生成される。例えば、データは、検出または捕捉される(例えば、解析装置によって)。データは、データ格納媒体(例えば、ROM、RAM、CDおよび/またはハードドライブ)内にデータを格納する付加的なステップを実行することにより与えられる。その結果、それらは、本願発明に従う方法またはプログラムのフレームワーク内で使用可能となる。したがって、“データ取得”は取得すべきデータを得ておよび/または与えるようにデバイスに命令を送ることも含む。
以下で、本願発明に従う態様およびその実施形態が図面を参照して説明される。しかし、本願発明は、以下で説明し図面に示す特徴に限定されない。
図1は、第9の態様の第2実施形態に従う装置の最初の図である。 図2は、第9の態様の第2実施形態に従う装置の二番目の図である。 図3は、第9の態様の第3実施形態に従う装置の図である。 図4は、第9の態様の第1例に従う装置の図である。 図5は、第9の態様の第3実施形態の第2例に従う装置の図である。 図6は、第1の態様の第1実施形態に従う方法のフロー図である。 図7は、第1の態様の第2実施形態に従う方法のフロー図である。
図1に示すように、第9の態様の第2実施形態に従う装置は、白色光LED1aによって実施される複数の第1光源、可変カラーフィルタ2(すなわち、送信された色に関して調節可能なカラーフィルタ2)が取り付けられた白色LED1bにより実施される複数の第2光源、および、線形光源3により実施される第3光源を含む。プロジェクタ9が構造光により構造体7を照射するための第4光源として設けられている。線形光源は、少なくともひとつのアーム4(本例においては、2つのアーム4)に取り付けられた白色LEDの線形アレイ(直線)である。少なくともひとつのアーム4は、従来のモータ(例えば、ステップモータ)により駆動され、半連続的な動作を表す離散的ステップで、反射面(第1、第2、第3および第4光源に対向する構造体7の上部面)を照射するために平坦な構造体7の位置の上を移動する。それにより、反射面は、第3種類の光によって、連続的に照射可能となる。検出システムは、3つのデジタルカメラ5を有する。それは、画像のコントラストを解析することにより輝度の検出を可能にする白黒(グレイスケール)画像情報を生成するように構成されている。構造体7は、ターンテーブル6によって実施される支持構造上に配置される。ターンテーブル6は、ベース部分8に格納されたステップモータを駆動することにより回転される。
図2に示すように、LED1a、1b、カラーフィルタ2、カメラ5およびプロジェクタ9は、クーポラ形状のドーム10(すなわち、半球のシェル)によって実施された保持部上に配置される。ドーム10は、光源が構造体7およびカメラ5に光を照射することができるように、開口部を有し、構造体7からの反射信号を検出する。ドーム10は、構造体7上の反射測定のために、構造体7の上方に配置されている。
図3に示すように、第9の態様の第3実施形態に従う装置は、図1および図2の文脈で説明される特徴のみを有していない。それに加えて、構造体7の下方で、ドーム11によって実施される第2の保持部を有する。ターンテーブル6は、少なくともひとつのモータ12(例えば、ステップモータ)によって駆動され、それはターンテーブル6用の支持体に固定されている。
図4に示す第9の態様の第3実施形態の第1例において、第2のドーム11は、点光源1cを具備する。点光源1cは、白色LEDまたは有色(スペクトル)LEDあるいは、両方の組み合わせであってよく、下からの点光源によって構造体7を照射するように構成されている。さらに、第3光源3は、構造体7の間を移動可能であるように配置される。第2のドーム11は、第1のドーム10が具備する他の特徴が取り付けられてもよい(例えば、有色LED1c、プロジェクタ9および可能付加カメラ5の代わりに、カラーフィルタ2を具備する白色LED1b)。LED1cの位置から見たとき、構造体7の他方の側の位置で第1ドーム10上に設けられるように、第3の光源3は、2つ設けられてもよい。ひとつは、構造体7の上方の上部半球上で、もうひとつは構造体7の下方の下部半球上である。しかし、本願発明のフレームワーク内で、第3光源は一つのみ与えられ、上部および下部半球を通じて自由に移動(回転)するように配置される。その場合、支持部(ターンテーブル6)は、少なくともひとつの駆動部が第3光源3の回転軸線上にあり、少なくともひとつのアーム4を通じて少なくとも部分的にガイドされて保持され、その結果、ターンテーブル6に回転結合可能となる。LED1cの位置から見て構造体7の他方側に配置されるカメラ5により、構造体7の透明度および/または半透明度の測定が可能になる。
図5は、第9の態様の第3実施形態の第2例を示す。第2ドーム構造11の代わりに、平坦な第3光源1dが、カメラの位置から見たとき、構造体7の他方側で下方半球上に設けられている。それにより、構造体7の透明性および半透明性の測定が可能になる。平面光源1dは、標準的なLCDモニターによって実施される。それは適宜制御され、下方半球内の第1光源、第2光源および第3光源の機能を与えることができる。これによれば、LEDアレイまたは蛍光管として線形光源3を与える必要がなくなり、付随する駆動および保持機構も必要なくなる。線形光源3は、所定の画素位置で、線形状の明るい画像を表示することによりモニターによって与えられてもよい。画素位置は、下方から構造体7を照射しながら変更可能であり、それにより、構造体7の位置に沿って下方で、線形光源3の移動をシミュレートできる。図1から4に示す配置構成に比べ、線形光源3の代わりに、モニターのようなディスプレイ装置を使用することは、より大きな柔軟性をもたらし、装置を単純な構造とすることができる。モニターの代わりに、制御可能な有色LED(白色およびスペクトル光の両方を照射可能である)の大きな2次元アレイ(平坦)が、平坦な第3光源1dとして使用されてもよい。
図6は、第1の態様の第1実施形態に従う方法のフロー図を示す。ステップ101は、少なくともひとつの点光の白黒画像を記述する第1画像データの取得を含み、ステップ102は、少なくともひとつの点光源のスペクトル画像を記述する第2画像データの取得を含み、ステップ103は少なくともひとつの線形光源の白黒画像を記述する第3画像データの取得を含み、ステップ104は少なくともひとつの構造光画像を記述する第4画像データの取得を含む。
大きいダイナミックレンジ(HDR)の組み合わせおよび、原画像の放射補正を適用した後に、所定のマテリアルから作成された構造体7の反射面のキャリブレーションされた画像のセットが受信される。これらは、第9の態様に従う装置で、異なる照射条件ごとに、分類される。一方で、点光源1a、1b、1c、線光源3、異なる位置の1d、または、プロジェクタ9によって照射されたパターンのいずれかを使って捕捉されたマテリアルの白黒画像が存在する。他方で、カラーフィルタ2(フィルターホイールシステム)を使って生成されたわずかなカラーまたはスペクトル画像が存在する。付加的な例において、各々の画像に対してすべての成分の位置に関する詳細な情報を含む、装置の幾何学的キャリブレーションデータが使用可能である。幾何学的キャリブレーションデータは、ステップ110で取得される。
ステップ107において、マテリアルの高さフィールドは、ステップ104で取得した構造光画像から再構築される。まず、従来技術の標準的な方法を使って、ポイントクラウドが生成される。例えば、Salvi, JらによるA state of the art in structured light pattern for surface profilometry, Pattern Recognition 43, no. 8 (2010): pp. 2666-2680には、カメラのパターン画像およびカメラの幾何学的キャリブレーションを利用したものが記載されている。その後、マテリアル基準面上の各々の画素に対して高さ値が生成され、それは、ステップ106で表面ジオメトリデータとして取得される。これに対して、ポイントクラウドからのすべてのポイントpは、基準面に対して垂直に射影されており、平面までの距離(高さ)が測定される。これにより、射影座標p’および対応する高さhの組が導かれる。基準面上の各画素(x、y)に対して、点P={p’}の付近でk個の組が集められ、(x、y)に対する高さ値は、対応する高さhにフィルタリングを使って生成される。
Figure 0006661336
ここで、Fは、フィルタのカーネルである。例えば、それは、ガウスの正規分布関数であり、||・||はユークリッド距離である。
高さフィールドの再構築の後、他のすべての画像は、ステップ105において、すべての画像が共通の座標系に置くために、高さフィールドに射影される。つまり、すべての射影画像の同じ画素は、マテリアル面上の同じ位置に対応することを意味する。それにより、反射面マッピングデータ(具体的には、第1の態様に従う方法の文脈で説明されるマッピング)が決定される。
射影画像はその後、SVBRDFフィッティングに送られる。それは、ステップ109で実行され、マテリアル基準面上の各画素(x、y)に対する所与のBRDFモデルに対するパラメータのセットを探す。パラメータのこのマップは、ステップ112で決定され、その後、デジタル(電子)ファイル内に格納され、画像生成処理に送られ、ステップ113でリアルタイムレンダリングを実行され、ステップ114でオフラインレンダリングを実行され、または、ステップ115でマテリアルの光学的特性の品質制御のための比較測定が実行されることにより、第6の態様に従う方法でさらに処理される。ステップ109の処理により、反射率分布を決定する際に、装置の固定した照射ジオメトリおよび構造体7の特定のジオメトリ(特に、反射面)の影響を消去することができる。
リアルタイムレンダリングのために、マテリアルのセルフシャドーインサイドも、ステップ108において、デジタルファイル内にステップ111で第2のマップ内に格納されているシャドーモデル用の画素ごとのパラメータを見つけることにより、射影画像から減算可能である。
<SVBRDFフィッティング>
ステップ109のSVBRDFフィッティング処理は、大きく、2つのフェーズに分割できる。第1のフェーズにおいて、データが準備され、第2のフェーズにおいて、画素毎にBRDFモデルパラメータがフィッティング処理により発見される。BRDFフィッティング処理は、周知のものとは異なる、それは、BRDF 4D“形状”のフィッティングを、粗い色情報と組み合わせるべくモデルの色成分のフィッティングから分離しているからである。
第1フェーズは、入手可能な色サンプルから、白黒情報を計算することにより開始される。これは、捕捉システム(検出システム)のスペクトル応答の知識を必要とする。スペクトルサンプルの場合において、これは、白黒画像部分のスペクトルシステム応答により、すべての画像スペクトルのコンボルーションを計算することを含む。3色画像の場合、3色の色空間に対応するスペクトル応答、白黒画像部分のスペクトルシステム応答、および、いくつかのトレーニングデータに基づいて、1×3マトリクスが計算される。その後、白黒画像は、マトリクスを、カラー画像のすべてのカラーベクトル(画素)に対して左乗算することにより、計算される。
第2のステップにおいて、BRDFパラメータを一緒にフィッティングするために画素の組が選択される。単純なケースにおいて、これは、各時間に一個の画素のみからなる。しかし、画素は、クラスタ技術を使ってその外観ごとに分類されてもよい。これにより
フィッティングが補強される。より多くのデータがフィッティングフェーズで利用可能となるためである。
準備フェーズのさらなるステップは、選択した画素に対応するデータ値の引き算からなる。このため、各々の画素の画素値は、画像および幾何学的キャリブレーションデータから減算され、単一画素に対する光源およびセンサの位置を計算するのに、高さフィールドが使用される。
このデータはその後、第2フェーズに送られる。それは、リアルタイムのBRDFフィッティング(双方向反射率分布関数パラメータのフィッティング)を実行する。これは、白黒BRDFのフィッティングを有し、続いて、白黒BRDFを有色化する。このプロセスの結果は、表面法線ベクトル、モデルの鏡面パラメータ、および、BRDFモデル用の色値から成る、画素ごとのパラメータのセットである。
<白黒BRDFフィッティング>
白黒BRDFモデルのフィッティングは、エネルギー最小化問題として出現する。それは、このBRDFモデルを使って測定したマテリアルのシミュレーションが、所定の距離測定を使って最小エラーで測定値に一致するような方法で、BRDFモデル用のパラメータのセットを探すことである。しかし、この問題を直接的に解こうとすると、困難に直面する。生成エネルギー関数は、多くの極小値を有し、すべての実際に応用可能なアルゴリズムが簡単に行き詰まってしまう。この理由により、最適な結果のできるだけ近くで最適化を開始するために、BRDFモデルパラメータ用の良好な初期化が要求される。また、一度にパラメータ空間内で、所定の整然とした方向へ最適化装置を制限することが必須である。
ここに開示する方法に含まれる解は、表面法線および拡散アルベド(白黒BRDFに対する拡散“カラー”)に対して、閉じた形式の初期化を開始することである。鈍いマテリアルに対して、これは、Woodham, Robert J., Photometric stereo: A reflectance map technique for determining surface orientation from image intensity, 22nd Proc. SPIE 0155, Image Understanding Systems and Industrial Applications I, 136 (January 9, 1979), pp. 136-143に記載された周知の側光ステレオ技術を使って実行される。鏡面マテリアルに対して、線形光源によって生成された最大測定値は、サンプルのすべての回転に対して調べられる。完璧な鏡面マテリアルを仮定した場合、法線ベクトルは、反射の法則から計算可能である。ユーザは、適当なアルゴリズムを選択することができる。鏡面カラーをゼロに設定し、かつ、鏡面パラメータをある平均値(使用するモデルに応じた)に設定することにより、画素毎のパラメータの完全な初期化が得られる。
この初期化の後、パラメータおよびデータは、拡散および鏡面パラメータの最適化からなるメイン最適化ループに供給され、続いて、法線ベクトルが最適化される。その後、変換のチェックが行われる。最後のステップ中に得られるエラーが所定の(例えば、所定のまたはユーザ設定の)閾値以下に減少していれば、アルゴリズムは終了する。そうでなければ、ループが再び始まる。
<フィッティングステップ>
画素ごとのパラメータの異なるサブセットの最適化に制限したが、鏡面および拡散パラメータの最適化、並びに、法線ベクトルの最適化は、同じ方法で実行可能である。使用される最適化ループの第1ステップは、画素ごとのパラメータの所与のセットから測定値を合成する。これは、本質的に、仮想マテリアル上での測定装置のシミュレーションである。技術的に、これは、問題の各画素および各照射条件に対して、レンダリング方程式を解くことにより実行される。レンダリング方程式は、例えば、Kajiya, James T., The rendering equation, ACM SIGGRAPH Computer Graphics, vol. 20, no. 4. ACM, pp. 143-150, 1986に記載されている。このために、仮想シーンが、キャリブレーションから構築され、センサの方向で、出力放射が以下のように計算される。
Figure 0006661336
ここで、xは、表面上の位置であり、ωは、出力方向であり、Lは表面により照射される放射であり、Ωは、位置x上の局所的半球であり、ωは入射光の方向であり、nはxでの局所的な面法線であり、ρは、選択したBRDFモデルであり、pは、画素パラメータの組である。方程式(2)は、再帰的である。入射放射L(x、ω)は、方向ωで見えるシーン内の地点x’での外部放射L(x’、−ω)と等しいからである。
合成処理を単純化するために、当該方法は、直接光のみを仮定して、再帰の第1レベルのみを考慮する。仮想マテリアルはシーン内の反射面のみであり、かつ、光源は照射面のみであると仮定する。光源が付加的にn個の光源のセットに離散された場合、レンダリング方程式は、以下のようになる。
Figure 0006661336
ここで、Lijはj番目の位置の照射された放射であり、ωijはそこへの方向である。放射値が計算された後、それらは測定された放射値と比較され、エラー値が計算される。エラー関数は、例えば、相対エラーまたはLエラーである。
その後、最適化が変換のためにチェックされる。最新と現在の反復との間でエラー値の減少が閾値以下であるか、または、所定の数の反復に達した場合、アルゴリズムは終了する。そうでなければ、エラー関数を減少させるべく、パラメータの新しい組が古いセットから計算される。これは、勾配降下のような標準的な方法を使って実行され、エラー関数の勾配を数値的に計算するためにフォワード合成およびエラー評価の付加的な評価を必要とする。パラメータの修正の後、次の反復が開始される。
<カラーフィッティング>
開示した方法に従う全体のアルゴリズムの最後の部分は、白黒BRDF用のカラーの決定である。第1ステップは、白黒鏡面部分から鏡面カラーを計算することである。絶縁マテリアルに対して、これは、白黒値を、すべてのカラーチャネルにコピーすることにより実行される。これらのマテリアルは、白色のハイライトを有するからである。金属または他の導体に対して、異なる手法が使用される。例えば、マテリアルクラスに関する従来の知識を組み込むことである。
その後、鏡面部分は、すべての測定値から除去され、拡散カラー情報のみを含むカラー値で終わる。このために、先行するステップと同様のフォワード合成が、BRDFモデルの鏡面部分を組み込むことによってのみ計算される。生成された合成鏡面カラーは、その後、測定カラー値から減算される。
さらなる(最後の)ステップにおいて、これらのカラー値は、拡散カラーフィッティングに入力される。これは、カラーチャネル毎の線形最小二乗として扱われる。最も単純なケースにおいて、エラー関数は以下の式で表される。
Figure 0006661336
ここでNは、カラーサンプルの数であり、dは、チャネルiに対する拡散カラー値であり、mijは、カラーチャネルiに対する測定された鏡面無拡散値であり、wはサンプルjの重みである。この重みは、複数の考察に基づいて計算される。例えば、鏡面ハイライトに対するサンプルの角度距離または測定されたカラーの飽和度などである。XYZカラー空間(スペクトルではない)内でカラーフィッティングする場合、周知のΔE*の線形近似が知覚的により近い色にフィッティングするために利用される。また、RANSACアルゴリズムが、異常値を取り除くために適用されてもよい。
<シャドーフィッティング>
ステップ114における光線トレースのようなオフラインレンダリング方法において、マテリアルの正しいセルフシャドーインサイドが、再構築された高さフィールドを使ってステップ108で生成される。しかし、ステップ113に含まれるリアルタイムレンダリングにおいて、このアプローチは直接的には適用できない。もちろん、シャドーマッピングのような技術が使用可能であるが、生成されるシャドーはかなり困難でかつ不自然である。
リアルタイムのセルフシャドーイングを生成するために、開示する方法は、入射光の方向に関する減衰を記述するマテリアル面上の各位置に対する第2の関数をフィッティングする。セルフシャドーイングは、射影された点光入力画像のそれぞれの画素の値を、同じ画素に対する最終BRDFパラメータを使ってフォワード合成により生成した合成値と比較することにより導出される。光の方向に対する2つの値の平均比率または平均差が、セルフシャドーイング効果を表すのに使用される。
光方向依存のシャドー値をモデル化するために、Sloan, Peter-Pikeらによる, Precomputed radiance transfer for real-time rendering in dynamic, low-frequency lighting environments, ACM Transactions on Graphics (TOG), vol. 21, no. 3, pp. 527-536, ACM, 2002に記載される球面調和関数、または、Malzbender, Tom らによる, Polynomial texture maps, Proceedings of the 28th annual conference on Computer Graphics and Interactive Techniques, pp. 519-528, ACM, 2001に記載される多項式テクスチャーマップのようなスムースな半球面関数が使用可能である。しかし、点光源を有する半球の最も通常のサンプリングは、ここに開示した方法によって得られる。本願発明者らは、上記した方法が、視野角に外挿する際にアーチファクトを示すことを発見した。開示する方法はステップ111において、画素ごとに、光半球の2次元射影にわたってパラメータ化された例えば4×4エントリーを構成する小さい2次元テーブルを格納する、異なる手法を使用する。このテーブルのエントリーは、角度空間内でサンプルをフィルタリングすることにより計算される。再構築時において、2次元の線形補間が実行される。この方法は照射仰角(入射の大きい角度)の方向で一定の外挿、および、上述した従来の方法に比べて画素ごとのメモリ消費を抑制しつつサンプル地点間での比較可能な補間を有する。詳細レベルのレンダリングに対して、テーブルの空間的にダウンサンプリングバージョンが予め計算される。
図7は、第1の態様に従う方法の第2実施形態を示す。それは、第6の態様に従って使用される。高さフィールドを使用する代わりに、ステップ206において法線フィールドが表面ジオメトリデータとして取得され、第1画像データ、第2画像データ、第3画像データによって記述された画像を法線フィールドに射影することによりステップ205で反射面マッピングデータが決定される。図7に示す残りのステップは、図6に示すものと同じであり、図6を参照した上記説明に対応する同じデータ処理を含む。
米国特許第8,872,811号明細書
Schwartz, C らによる、DOME II: A Parallelized BTF Acquisition System , in Proceedings of Eurographics Workshop on Material Appearance Modeling; Issue and Acquisition, Zaragoza, Spain, pages 25-31, Eurographics Association, June 2013 Salvi, JらによるA state of the art in structured light pattern for surface profilometry, Pattern Recognition 43, no. 8 (2010): pp. 2666-2680 Woodham, Robert J., Photometric stereo: A reflectance map technique for determining surface orientation from image intensity, 22nd Proc. SPIE 0155, Image Understanding Systems and Industrial Applications I, 136 (January 9, 1979), pp. 136-143 Kajiya, James T., The rendering equation, ACM SIGGRAPH Computer Graphics, vol. 20, no. 4. ACM, pp. 143-150, 1986 Sloan, Peter-Pikeらによる, Precomputed radiance transfer for real-time rendering in dynamic, low-frequency lighting environments, ACM Transactions on Graphics (TOG), vol. 21, no. 3, pp. 527-536, ACM, 2002 Malzbender, Tom らによる, Polynomial texture maps, Proceedings of the 28th annual conference on Computer Graphics and Interactive Techniques, pp. 519-528, ACM, 2001

Claims (15)

  1. 構造体の反射面から受信した光学信号を表すデータを取得するためのシステムであって、
    a)前記反射面の方向へ向けられた広帯域点光源を有する少なくともひとつの第1光源と、
    b)前記反射面の方向へ向けられたスペクトル可変点光源を有する少なくともひとつの第2光源と、
    c)前記反射面の方向へ向けられ、かつ、可動アーム上に載置された線形広帯域光源を有する少なくともひとつの第3光源と、
    d)前記可動アームおよび前記少なくともひとつの第3光源を包囲するドームと、
    e)前記ドーム内に包囲される前記構造体を支持するための支持部と、
    f)検出システムであって
    前記反射面からの前記第1光源の第1反射信号を検出し、前記第1反射信号を前記構造体の前記反射面の画像を記述する第1画像データに変換し、
    前記反射面からの前記第2光源の少なくともひとつの第2反射信号を検出し、前記第2反射信号を前記構造体の前記反射面の画像を記述する第2画像データに変換し、
    前記反射面からの前記第3光源の少なくともひとつの第3反射信号を検出し、前記第3反射信号を前記構造体の前記反射面の画像を記述する第3画像データに変換する
    ように構成された検出システムと、
    g)前記検出システムと動作的に接続されたコンピュータであって、前記コンピュータに読み込まれまたは前記コンピュータ上で実行されると、データ処理工程を前記コンピュータに実行させるコンピュータプログラムを実行するように構成された、コンピュータと
    を備え、
    前記データ処理工程は、
    h)前記第1画像データを取得する工程と、
    i)前記第2画像データを取得する工程と、
    j)前記第3画像データを取得する工程と、
    k)前記反射面の3次元表面ジオメトリを記述する表面ジオメトリデータを取得する工程と、
    l)前記第1画像データ、前記第2画像データ、前記第3画像データ、および前記表面ジオメトリデータに基づいて、前記第1画像データ、前記第2画像データ、および前記第3画像データによって記述される反射と、前記反射面の前記3次元表面ジオメトリとの間のマッピングを記述する反射面マッピングデータを決定する工程と、
    を有することを特徴とするシステム。
  2. 前記反射面の方向に向けられた構造化光を有する少なくともひとつの第4光源をさらに備え、
    前記検出システムは、前記構造体からの前記第4光源の第4反射信号を検出し、かつ、前記第4反射信号を前記構造体の高さフィールドを記述する表面ジオメトリデータに変換するように構成される、ことを特徴とする請求項1に記載のシステム。
  3. 前記検出システム、前記第1光源、前記第2光源、および、前記第3光源は、前記支持部の上方の前記ドーム内に配置され、
    少なくともひとつのさらなる光源が前記支持部の下方の半球内に配置されている、ことを特徴とする請求項1に記載のシステム。
  4. 前記検出システム、前記第1光源、前記第2光源、前記第3光源、および、前記第4光源は、前記支持部の上方の前記ドーム内に配置され、
    少なくともひとつのさらなる光源が前記支持部の下方の半球内に配置されている、ことを特徴とする請求項2に記載のシステム。
  5. 構造体の反射面の画像データにより記述された光学信号の、前記反射面の3次元表面ジオメトリへのマッピングを表すデータを決定する、コンピュータにより実行されるデジタルデータの処理方法であって、当該方法は、
    a)前記反射面からの広帯域光の点光源の反射の画像を記述する第1画像データを取得する段階と、
    b)前記反射面からのスペクトル可変光の点光源の反射の画像を記述する第2画像データを取得する段階と、
    c)アームを動かし、かつ、前記反射面からの前記アームに載置された線形光源の光の反射の画像を記述する第3画像データを取得する段階と、
    d)前記反射面の3次元表面ジオメトリを記述する表面ジオメトリデータを取得する段階と、
    e)前記第1画像データ、前記第2画像データ、前記第3画像データおよび前記表面ジオメトリデータに基づいて、前記第1画像データ、前記第2画像データ、および前記第3画像データによって記述される反射と、前記反射面の前記3次元表面ジオメトリとの間のマッピングを記述する反射面マッピングデータを決定する段階と
    を備える方法。
  6. 前記表面ジオメトリデータは、前記反射面の高さフィールドを記述する、ことを特徴とする請求項5に記載の方法。
  7. 構造化光の反射の画像を記述する第4画像データを取得する段階をさらに備え、
    前記表面ジオメトリデータは前記第4画像データに基づいて取得される、
    ことを特徴とする請求項6に記載の方法。
  8. 前記表面ジオメトリデータは、前記反射面の法線フィールドおよび高さフィールドの少なくともひとつを記述する、ことを特徴とする請求項5に記載の方法。
  9. 前記表面ジオメトリデータは、前記反射面の法線フィールドを記述し、かつ、前記第1画像データ、前記第2画像データおよび前記第3画像データの少なくともひとつに基づいて取得される、ことを特徴とする請求項8に記載の方法。
  10. 構造体の反射面の空間的に変化する双方向反射率分布を記述するデータを決定するコンピュータにより実行される方法であって、当該方法は、
    請求項5に記載の方法を実行する段階と、
    双方向反射率分布関数モデルを記述する反射率関数データを取得する段階と、
    前記反射面マッピングデータおよび前記反射率関数データに基づいて、前記反射面の前記空間的に変化する双方向反射率分布を記述する反射率分布データを決定する段階と
    を備える方法。
  11. 構造体の反射面のデジタル画像表現をオフラインレンダリングするコンピュータによって実行される方法であって、当該方法は、
    請求項10に記載の方法を実行する段階と、
    前記第1画像データ、前記第2画像データおよび前記第3画像データの少なくともひとつ、および、前記反射率分布データに基づいて、前記反射面の画像を記述する表面表現データを決定する段階と、
    ディスプレイ装置上で、前記表面表現データの情報コンテンツのオフラインレンダリングを実行する段階と
    を備える方法。
  12. 構造体の反射面のシャドー外観を記述するデータを決定するコンピュータによって実行される方法であって、当該方法は、
    請求項10に記載の方法を実行する段階と、
    前記第1画像データ、前記第2画像データ、および前記第3画像データの少なくともひとつ、および、前記反射面マッピングデータに基づいて、モデルを記述するシャドー外観データおよび前記反射面のシャドー外観を定義するパラメータを決定する段階と
    を備える方法。
  13. 構造体の反射面のデジタル画像表現をリアルタイムレンダリングするコンピュータによって実行される方法であって、当該方法は、
    請求項10に記載の方法を実行する段階と、
    前記反射率分布データに基づいて、前記反射面の画像を記述する表面表現データを決定する段階と、
    ディスプレイ装置上で、前記表面表現データの情報コンテンツのリアルタイムレンダリングを実行する段階と
    を備える方法。
  14. コンピュータに読み込まれるか、コンピュータによって実行されると、データ処理工程を前記コンピュータに実行させるコンピュータプログラムを含む非一過性コンピュータ読み取り可能媒体であって、前記データ処理工程は、
    a)前記反射面からの広帯域光の点光源の反射の画像を記述する第1画像データを取得する段階と、
    b)前記反射面からのスペクトル可変光の点光源の反射の画像を記述する第2画像データを取得する段階と、
    c)アームを動かし、かつ、前記反射面からの前記アームに載置された線形光源の光の反射の画像を記述する第3画像データを取得する段階と、
    d)前記反射面の3次元表面ジオメトリを記述する表面ジオメトリデータを取得する段階と、
    e)前記第1画像データ、前記第2画像データ、前記第3画像データおよび前記表面ジオメトリデータに基づいて、前記第1画像データ、前記第2画像データ、および前記第3画像データによって記述される反射と、前記反射面の前記3次元表面ジオメトリとの間のマッピングを記述する反射面マッピングデータを決定する段階と
    を有する、ことを特徴とする方法。
  15. 前記検出システムは、前記構造体を通じて伝達される光を前記構造体の透光画像データに変換するようさらに構成されている、ことを特徴とする請求項3または4に記載のシステム。
JP2015225385A 2014-12-11 2015-11-18 構造体から光学信号を表すデータを取得するためのシステム、そのデータをマッピングする方法、および、非一過性コンピュータ読み取り可能媒体 Active JP6661336B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP14197409.7A EP3032241B1 (en) 2014-12-11 2014-12-11 Method and apparatus for digitizing the appearance of a real material
EP14197409.7 2014-12-11

Publications (3)

Publication Number Publication Date
JP2016114598A JP2016114598A (ja) 2016-06-23
JP2016114598A5 JP2016114598A5 (ja) 2018-12-27
JP6661336B2 true JP6661336B2 (ja) 2020-03-11

Family

ID=52302047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015225385A Active JP6661336B2 (ja) 2014-12-11 2015-11-18 構造体から光学信号を表すデータを取得するためのシステム、そのデータをマッピングする方法、および、非一過性コンピュータ読み取り可能媒体

Country Status (5)

Country Link
US (2) US10026215B2 (ja)
EP (1) EP3032241B1 (ja)
JP (1) JP6661336B2 (ja)
CN (1) CN105701793B (ja)
DE (1) DE202015102081U1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6604744B2 (ja) * 2015-05-03 2019-11-13 キヤノン株式会社 画像処理装置、画像処理方法、画像形成システム及びプログラム
US10564096B2 (en) * 2015-09-14 2020-02-18 University Of Florida Research Foundation, Incorporated Method for measuring bi-directional reflectance distribution function (BRDF) and associated device
US20170109895A1 (en) * 2015-10-19 2017-04-20 Honeywell International Inc. Apparatus and method for measuring haze of sheet materials or other materials using off-axis detector
US11170514B2 (en) * 2015-10-27 2021-11-09 Canon Kabushiki Kaisha Image processing apparatus, image processing method, 3D printing system, and storage medium
CZ2016752A3 (cs) * 2016-11-30 2018-03-28 ÄŚeskĂ© vysokĂ© uÄŤenĂ­ technickĂ© v Praze Přenosné zařízení pro měření geometrie objektu a prostorově proměnné funkce odrazivosti na povrchu vzorku s multiplikací prvků podílejících se na zobrazování a snímacích systémů na pohyblivých ramenech umožňující terénní měření
US10636140B2 (en) * 2017-05-18 2020-04-28 Applied Materials Israel Ltd. Technique for inspecting semiconductor wafers
JP6950544B2 (ja) * 2018-01-17 2021-10-13 トヨタ自動車株式会社 シミュレーション装置、反射特性の推定方法、及びプログラム
JP7235039B2 (ja) * 2018-03-16 2023-03-08 コニカミノルタ株式会社 光沢色の色調定量化装置、光沢色の色調測定装置および光沢色の色調定量化方法
WO2019182906A1 (en) 2018-03-17 2019-09-26 Nvidia Corporation Shadow denoising in ray-tracing applications
US11436791B2 (en) * 2018-04-30 2022-09-06 The Regents Of The University Of California Methods and systems for acquiring svBRDF measurements
JP7087687B2 (ja) * 2018-06-01 2022-06-21 株式会社サタケ 穀物の光沢測定装置
KR102599207B1 (ko) * 2018-07-20 2023-12-15 삼성전자 주식회사 전자 디바이스의 표면 측정 장치 및 방법
US10991079B2 (en) 2018-08-14 2021-04-27 Nvidia Corporation Using previously rendered scene frames to reduce pixel noise
US11029146B2 (en) 2018-10-18 2021-06-08 Cyberoptics Corporation Three-dimensional sensor with counterposed channels
US11295969B2 (en) 2018-11-27 2022-04-05 International Business Machines Corporation Hybridization for characterization and metrology
US11480868B2 (en) 2019-03-22 2022-10-25 International Business Machines Corporation Determination of optical roughness in EUV structures
WO2020263055A1 (ko) * 2019-06-28 2020-12-30 주식회사 고영테크놀러지 대상체의 3차원 형상을 결정하기 위한 장치 및 방법
US10805549B1 (en) * 2019-08-20 2020-10-13 Himax Technologies Limited Method and apparatus of auto exposure control based on pattern detection in depth sensing system
JP7411928B2 (ja) * 2019-12-26 2024-01-12 株式会社Rutilea 物品撮影装置
EP4172945A1 (en) * 2020-06-29 2023-05-03 BASF Coatings GmbH Uses of a bi-directional texture function
CN113138027A (zh) * 2021-05-07 2021-07-20 东南大学 一种基于双向折射率分布函数的远红外非视域物体定位方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2353512A (en) * 1943-05-05 1944-07-11 Simmon Alfred Photographic enlarger
DE1489395B2 (de) * 1965-06-01 1971-07-22 Maehler & Kaege Elektrotechnische Spezialfabnk AG, 6507 Ingelheim Abblendbare kontrolleuchte
JP3072998B2 (ja) * 1990-04-18 2000-08-07 株式会社日立製作所 はんだ付け状態検査方法及びその装置
US5710876A (en) * 1995-05-25 1998-01-20 Silicon Graphics, Inc. Computer graphics system for rendering images using full spectral illumination data
US6084663A (en) * 1997-04-07 2000-07-04 Hewlett-Packard Company Method and an apparatus for inspection of a printed circuit board assembly
GB9911266D0 (en) * 1999-05-15 1999-07-14 Metcalfe Nicholas Display apparatus
US6507036B1 (en) * 1999-06-01 2003-01-14 National Research Council Of Canada Three dimensional optical scanning
US6950104B1 (en) * 2000-08-30 2005-09-27 Microsoft Corporation Methods and systems for animating facial features, and methods and systems for expression transformation
US7102647B2 (en) * 2001-06-26 2006-09-05 Microsoft Corporation Interactive horizon mapping
US6831641B2 (en) * 2002-06-17 2004-12-14 Mitsubishi Electric Research Labs, Inc. Modeling and rendering of surface reflectance fields of 3D objects
JP4335589B2 (ja) * 2002-06-27 2009-09-30 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド 3dオブジェクトをモデル化する方法
CN101184986B (zh) * 2005-04-25 2012-06-13 爱色丽公司 使用空间欠采样双向反射分布功能测量表面的外观属性
US20080232679A1 (en) * 2005-08-17 2008-09-25 Hahn Daniel V Apparatus and Method for 3-Dimensional Scanning of an Object
JP5251678B2 (ja) * 2009-03-31 2013-07-31 ソニー株式会社 外観検査用照明装置および外観検査装置
CN101901302A (zh) * 2010-07-16 2010-12-01 中国人民解放军信息工程大学 复杂空间目标光散射建模方法
CN102175012A (zh) * 2011-03-17 2011-09-07 赵景琪 一种光源调整装置
WO2013009676A1 (en) * 2011-07-13 2013-01-17 Faro Technologies, Inc. Device and method using a spatial light modulator to find 3d coordinates of an object
GB201222361D0 (en) * 2012-12-12 2013-01-23 Univ Birmingham Surface geometry imaging
WO2014153022A1 (en) * 2013-03-14 2014-09-25 University Of Southern California Specular object scanner for measuring reflectance properties of objects
US20150032430A1 (en) 2013-07-29 2015-01-29 X-Rite Europe Gmbh Visualization Method

Also Published As

Publication number Publication date
CN105701793B (zh) 2021-05-28
JP2016114598A (ja) 2016-06-23
US20160171748A1 (en) 2016-06-16
US20180322686A1 (en) 2018-11-08
DE202015102081U1 (de) 2016-03-17
US10026215B2 (en) 2018-07-17
US10332306B2 (en) 2019-06-25
CN105701793A (zh) 2016-06-22
EP3032241A1 (en) 2016-06-15
EP3032241B1 (en) 2023-03-01

Similar Documents

Publication Publication Date Title
JP6661336B2 (ja) 構造体から光学信号を表すデータを取得するためのシステム、そのデータをマッピングする方法、および、非一過性コンピュータ読み取り可能媒体
JP6407607B2 (ja) アピアランスデータをデジタル的に生成する方法および装置
EP3051793B1 (en) Imaging apparatus, systems and methods
JP7247248B2 (ja) コンピュータビジョン方法及びシステム
JP4335588B2 (ja) 3dオブジェクトをモデル化する方法
Meilland et al. 3d high dynamic range dense visual slam and its application to real-time object re-lighting
Rump et al. Photo‐realistic rendering of metallic car paint from image‐based measurements
JP7027807B2 (ja) 表示装置、スキャナ、表示システム及びプログラム
Ciortan et al. A practical reflectance transformation imaging pipeline for surface characterization in cultural heritage
Pitard et al. Discrete modal decomposition for surface appearance modelling and rendering
JP2009180703A (ja) 情報処理装置および方法
CN110084873B (zh) 用于渲染三维模型的方法和装置
Castro et al. A new method for calibration of the spatial distribution of light positions in free-form RTI acquisitions
Guarnera et al. Material capture and representation with applications in virtual reality
JP4764963B2 (ja) 画像処理装置
KR102171773B1 (ko) 검사 영역 결정 방법 및 이를 이용하는 외관 검사 장치
JP2018077168A (ja) シミュレーション装置、シミュレーション方法およびシミュレーションプログラム
Ladefoged et al. Spatially-varying diffuse reflectance capture using irradiance map rendering for image-based modeling applications
Weinmann et al. Appearance capture and modeling.
Eilertsen et al. A versatile material reflectance measurement system for use in production
US20230260193A1 (en) Generating a destination texture from a plurality of source textures
Guarnera et al. BxDF material acquisition, representation, and rendering for VR and design
JP6379651B2 (ja) 光源の配光分布および物体の双方向反射率分布関数測定のための装置、方法、及びプログラム
Padhye Techniques to Create a Realistic Digital Collection of Near Planar Cultural Heritage Objects
WO2022009114A1 (en) Visualizing the appearance of at least two materials

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160307

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20160510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200212

R150 Certificate of patent or registration of utility model

Ref document number: 6661336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250