JP2022536887A - ステレオカメラシステム - Google Patents

ステレオカメラシステム Download PDF

Info

Publication number
JP2022536887A
JP2022536887A JP2021568480A JP2021568480A JP2022536887A JP 2022536887 A JP2022536887 A JP 2022536887A JP 2021568480 A JP2021568480 A JP 2021568480A JP 2021568480 A JP2021568480 A JP 2021568480A JP 2022536887 A JP2022536887 A JP 2022536887A
Authority
JP
Japan
Prior art keywords
sensor
stereo camera
camera system
line
lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021568480A
Other languages
English (en)
Inventor
ティモ ヘクハルト
マルクス シュニッツレイン
マキシミリアン クラマー
Original Assignee
クロマセンス ゲーエムベーハー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クロマセンス ゲーエムベーハー filed Critical クロマセンス ゲーエムベーハー
Publication of JP2022536887A publication Critical patent/JP2022536887A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/001Constructional or mechanical details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

本発明は、3次元表面形状の計測のためのステレオカメラシステムに関する。これは、ステレオカメラシステムの前でコンベヤベルトに沿って移動する対象物から深度情報を得るために使用されてもよい。当該ステレオカメラシステムは、生産監視システムの一部を形成してもよい。【選択図】図1

Description

本発明は、3次元表面形状の計測のためのステレオカメラシステムに関する。これは、ステレオカメラシステムの前でコンベヤベルトに沿って移動する対象物から深度情報を得るために使用されてもよい。当該ステレオカメラシステムは、生産監視システムの一部を形成してもよい。
コンベヤシステムで搬送される製品を光学的にスキャンするために、コンベヤシステム及びカメラを備える生産監視システムが知られており、例えば、パッケージ選別施設及び生産ラインで使用されている。
通常、スキャンされる製品又は対象物の高さは、計測装置、例えばライトカーテンによって決定される。カメラには調整可能なレンズが付いており、このレンズは、対象物の表面を正しくスキャンするために、スキャンする対象物の予め決定された高さに合わせて設定される。カメラは、異なる高さの対象物をスキャンするために適切に設定できるように、焦点距離が変更可能なズームレンズを有していてもよい。焦点距離が固定されたレンズを使用することも可能であり、このレンズの焦点を追跡することで、異なる高さの対象物をセンサ上でシャープに(鮮明に)描写することができる。
ズームレンズの場合は、複数のレンズを相対的に動かす。ズームレンズには、複数のレンズを互いに押し付ける可動機構がレンズ内に設けられている。ズームレンズの場合、調整経路上でスケールを一定に保つことができる。
焦点距離が固定されたレンズを使用する場合は、シャープネス(鮮明さ)の領域が所望の高さに位置するように、レンズ全体を光軸に沿って移動させる。光路長が短くなると、結像スケールが大きくなる。
ズームレンズでも焦点距離が固定されたレンズでも、機械部品を動かす必要がある。この動きが摩耗につながる。工業用途では、数百万回の使用サイクルが要求される。これは通常、これらの可動部品の寿命をはるかに超えるものである。
製品監視システムで、光学的情報及び高さ情報の両方を評価する必要がある場合、様々な方法が確立されている。
1つの可能性として、いわゆる光切断法がある。これは、計測対象物に薄くてまっすぐな光の帯を当て、その光の帯をエリアスキャンカメラで記録するというものである。対象物が光の帯に生じた歪みを利用して、対象物の表面が推定されてもよい。
立体視は、さらなる選択肢を提供する。カメラシステムが2つの異なる視野方向から対象物を記録し、対応するピクセルのオフセットから対象物のトポロジー的な表面データを決定することができる。しかし、この方法の短所は、焦点面が1つに限られることである。
このようなステレオカメラシステムは、2つのカメラモジュールを備えており、これを用いて2つの異なる視野方向から同じ対象物領域がスキャンされてもよい。カメラモジュールには、対象物領域をそれぞれのカメラモジュールのセンサに結像させるためのレンズが搭載されている。レンズの光軸は、レンズの対称軸であり、その軸は、レンズに含まれる1つ以上のレンズの表面に対してほぼ横方向に走っている。レンズの対象物側主面をレンズ面とする。センサ面は、感光センサのフェイスがある平面のことである。対象物面(物面)とは、レンズによってセンサのフェイスにシャープに結像される面である。
従来のステレオカメラシステムでは、レンズ面、対象物面及びセンサ面は互いに平行に配置されている。以下では、対象物面と、レンズ面及びセンサ面とが平行に整列していることを「平行配置」と表現する。
ステレオカメラシステムで3次元表面形状を解像するために重要なのは、ステレオカメラシステムの2つのカメラモジュールの視野方向が対象物領域上で占める角度であるベース角(頂角、Basis-Winkel)αである。ベース角αは、基本的には、2つのカメラモジュールS1、S2の2つのセンサのフェイス間の距離であるベース(底辺、Basis)Bの大きさによって設定される。つまり、ベースBが大きければ大きいほど、ベース角αは大きくなり、それに伴ってステレオカメラシステムの高さ方向の解像度も向上する(図8)。
以下では、特段の記載がない限り、センサ面SP、レンズ面LP、対象物面OPの相互の距離は一定であると仮定し、ベースBのみがベース角ベース角αを決定する。
レンズは、光軸に対する入射光の最大入射角を与える開口角(開き角)γを有しており、その範囲内であれば、対象物は実質的に歪みなく結像される可能性がある(図8)。レンズの設計によっては、レンズの最大開口角が変わってもよい。以下では、レンズを通過するビームは「ビーム経路」と記載される。ビーム経路には、開口角内のすべてのビームが含まれ、センサのフェイスと対象物の間に広がる。
しかしながら、上述した平行配置のステレオカメラシステムでは、ベースが大きすぎると、入射角で囲まれた部分が重ならないか、さもなければ対象物領域でわずかにしか重ならないため、対象物領域のシャープに結像された部分が小さくなるか、もはや存在しないことになるので、ベースは所望の大きさにならない可能性がある。
オーバーラップ領域、すなわち両方のセンサで同時に取り込み可能な対象物の領域のみが、3次元表面形状の評価に使用することができる。このオーバーラップ領域のエッジ領域は、レンズの開口角γが大きい状態で結像される。それゆえ、歪みはオーバーラップ領域のエッジ領域で最大となる。加えて、とりわけ色調の不具合及び変調伝達関数(MTF)によって特徴付けられてもよい結像性能は、オーバーラップ領域のエッジ領域ではオーバーラップ領域の中心部よりも悪くなる。色調の不具合は、カラー結像の損失を表している。MTFは細部のコントラストの低下を表している。
「Scheimpflug stereocamera for particle image velocimetry in liquid flow」、Ajay K. Prasad及びKirk Jensen、APPLIED OPTICS 34、30(1995)に記載されているのは、シャインプルーフ(Scheimpflug)の条件及びエリアセンサを備えるステレオビデオカメラである。このシステムは、液体中の小粒子の速度分布を求めるために使用される。
このようなシャインプルーフカメラの場合、レンズ面LPをセンサ面に対して傾けることで平行配置を解消しているため、入射角の制限によって対象物領域が制限されることなく、大きなベースが可能になる。シャインプルーフカメラでは、レンズ面、センサ面、対象物面が共通の交差軸で交わる、いわゆるシャインプルーフの条件が満たされている。対象物面OPとセンサ面SPの間にはシャインプルーフ角βが存在する(図9)。シャインプルーフの条件が満たされていれば、対象物領域がレンズによってセンサ上にシャープに結像される。上記文献では、ステレオカメラシステムから無限の距離にある交差軸が記述されていることがある。この特殊なケースでは、シャインプルーフの条件は平行配置に対応する。しかし、以下の考察では、これらの面又は軸が無限遠で交差する場合、シャインプルーフの条件は満たされないということが当てはまる。それゆえ、シャインプルーフの条件が満たされるように、上記面又は軸は有限の点で交差しなければならない。1つ以上のミラーがビーム経路に設けられていてもよく、このミラーによって、ビーム経路が折り返され、実際のレンズ面、センサ面及び対象物面が共通の交差軸で交差することはない。このような配置では、関連するミラーがない折り返されていないビーム経路でも、それぞれのレンズ、センサ、対象物が同じように効果的に配置されていて、レンズ面、センサ面及び対象物面が共通の交差軸で交差する場合、シャインプルーフの条件が満たされる。
他方、シャインプルーフの条件を備えるステレオカメラシステムの場合、シャインプルーフの条件を備えないステレオカメラシステムよりも、レンズ及び像の質(画質)が一定の場合には、より広いベース角が選択されてもよい。ベースが大きいと、レンズの位置が傾いているため、入射角が小さくなり、最適化される可能性がある。その結果、開口角γが小さいレンズも適している。シャインプルーフの条件を備えるステレオカメラシステムでは、開口角が小さいため、シャインプルーフの条件を備えていないステレオカメラシステムに比べて、オーバーラップ領域で像の質(画質)、特にMTFがより一定になる。オーバーラップ領域に沿った線形歪みは、平行化処理によって補正できるため、考慮されている。選ばれたベースが大きいほど、入射角を小さくするために、センサ面及びレンズ面を対象物面に対してより大きく傾ける必要がある。
シャインプルーフの条件を備えないステレオカメラシステムのさらなる問題は、後方反射である。平行配置でベース角が狭いため、レンズはセンサ上の対象物だけでなく、対象物上のセンサも結像する。レンズのこの結像は、対象物の反射面で反射することにより、再びセンサに戻って結像されることが可能である。このようにして、センサは自分自身の鏡像を撮影することができる。例えばシャインプルーフでレンズを傾けることで、より広いベース角が選択されてもよく、それによって、このような後方反射が回避される。反射が残っていても、反射の結像が、例えばニュートラルな背景も表示してよい。それゆえ、反射の影響が軽減される。
シャインプルーフの条件が満たされるステレオカメラを備える他の計測システムは、国際公開第2014/017977A1号パンフレット、米国特許第6,671,397B1号明細書及び国際公開第02/040970A1号パンフレットに開示されている。
国際公開第2014/017977A1号パンフレットは、集積回路ハウジングにおける共平面性の決定のための方法及び装置を開示する。平面性を決定するために、それぞれが2つのビーム経路を有する2つのセンサが、シャインプルーフの原理に従うように配置される。
米国特許第6,671,397B1号明細書に開示されているのは、レンズ付きのカメラ及び別個のセンサを備える計測システムである。この計測システムは、レンズ付きの第1のカメラ及び別個のセンサを有しており、これらは、シャインプルーフの原理に従って、それらの面が対象物面で交差するように設置されている。第2のカメラは、対象物面に対して垂直に配置されている。このカメラシステムは、エリアスキャンカメラである。
国際公開第02/040970A1号パンフレットは、広範な平面状の対象物を検査するための光学的な方法及び装置を開示する。これは、1つの実施形態では、ウェハを保持する2つのエリアスキャンカメラを、シャインプルーフの条件で配置している。
シャインプルーフの条件を備えるステレオカメラシステムの利点は、上で説明したとおりである。しかしながら、シャインプルーフの条件を備えるステレオカメラシステムの場合、エリアセンサを使用する際に、立体視の質にマイナスとなる影響が発生する。これは、投影されたセンサのフェイスの歪みを表す、いわゆるキーストーン効果に起因する。
エリアセンサを用いて、対象物領域の2次元像(画像)が取得される。従来のステレオカメラシステムでは、エリアセンサの一辺がベースと平行に配置されている。それゆえ、取得される2次元像の主軸は、ベースに平行な方向と、ベースに対して横方向のいずれかに延びる。ベースに平行な方向を、以下、ベース方向と、ベースに対して横の方向を、以下、横方向と記述する。
ステレオカメラシステムによる対象物領域の結像では、横方向だけでなく、ベース方向にも結像の圧縮が生じる。この圧縮は、平面状の対象物の個々の点が、センサのフェイスから異なる距離に配置されていることに起因する。2つの点がセンサのフェイスから離れていればいるほど、点の間隔は小さく結像される。ベースが大きいほど圧縮が強くなる。横方向には、横方向の圧縮が生じ、ベース方向にはベースの圧縮が起こる。
例えば、正方形の対象物領域で、カメラシステムのベース及び中央の配置をできるだけ小さくすると、その正方形の対象物領域はほとんど歪みなく結像される。しかしながら、ベースが大きくなると、正方形の像は台形又はキーストーンの形になる。レンズに近い隅部の距離よりも、互いから離れている隅部の距離の方が小さく表示される。
この効果は、シャインプルーフの条件を備えるステレオカメラシステムでも、備えないステレオカメラシステムでも発生する。シャインプルーフの条件を備えないものでは、この効果はベースの狭さによって同様に制限される。シャインプルーフの条件を備えるステレオカメラシステムは、ベースがとりわけ大きい場合があるので、この効果はとりわけ顕著である。
キーストーン効果は、解像力の低下をもたらす。解像力とは、2つの点状の対象物が別々の対象物として認識されるために必要な最小の距離である。上記圧縮により、センサのフェイスから離れた2つの点が互いに接近して結像される。レンズからある一定の距離になると、これらの点はもはや別々のものとして認識されなくなる可能性がある。ベースに平行な解像力を、以下、「ベース解像力」と、ベースに対して横方向の解像力を「横方向解像力」と記述する。
加えて、キーストーン効果により計算時間が長くなる。3次元表面形状の評価に像を使用するためには、ベース圧縮量及び横方向圧縮量の両方を像データから平行化処理(Rektifizierung)により算出する必要がある。平行化処理とは、例えば中心投影の写真に起因して発生する可能性がある像データの幾何学的な歪みを除去する方法である。2つのセンサのピクセルを重ね合わせたときに、対象物の同じ位置が表現されるように、平行化処理によって個々のピクセルがシフトされる。加えて、計算された視差が対象物の高さプロファイルに線形依存するように、歪みが補正される。
立体視では、1つのカメラモジュールの像の各点に、第2のカメラモジュールの像の各点が割り当てられる。矩形のセンサは、キーストーン効果のためにセンサの位置が対象物に対して傾いている場合、対象物表面の台形T1を記録する(図10)。他方のエリアセンサは、対象物表面の第2の台形T2を記録する。点の割り当てでは、これらの台形が重なり、それぞれ長端面が他方の台形の短端面と一致する。これにより、六角形のオーバーラップ領域ができる(図10ではハッチングされている)。
ここで、オーバーラップしない領域に記録されていた情報の一部が失われてしまうということは短所である。3次元表面形状の評価には、オーバーラップ領域のみしか使用することができない。
さらに、オーバーラップ領域を完全にカバーするためには、レンズの開口角が十分に大きくなければならない。これは、六角形状のオーバーラップ領域の対角線Dがレンズによって検出される場合に適用される。
独国特許出願公開第10 2015 11 11 20A1号明細書は、少なくとも2つのカメラモジュールを備えるステレオカメラによる表面のスキャン方法を開示する。これらのカメラモジュールは、スキャンされるべき表面の共通領域からそれぞれ1つの像を取得するように配置されている。カメラモジュールは、複数の異なるセンサラインを持つラインカメラを有していてもよい。個々のライン像は、幾何学的な結像によって重ね合わされる。
ラインセンサ及び平行配置のステレオカメラシステムには、エリアセンサ及び平行配置のステレオカメラシステムと同様の問題がある。上述のように、ベースが大きすぎると、入射角で囲まれた対象物領域の一部がわずかに重なるか、まったく重ならないため、シャープに結像できる対象物領域のその一部が小さくなるか、又は存在しなくなってしまうため、ベースは任意の所望の大きさにすることができない。
原理的には、シャインプルーフの条件と平行配置のどちらも満たさないステレオカメラシステムが考えられる。例えば、対象物面OP及びセンサ面SPのみが互いに平行であるが、レンズ面LPが他の2つの面に対して傾いていて、対象物領域は限られた入射角によって制限されていないようにできよう。レンズが対象物面をシャープに結像する平面に対応する結像面は、対象物面又は対象物軸に対して角度をもって(斜めに)配置されている。結像面とセンサ面の交わるエリアでのみ、対象物領域がカメラのセンサ上にシャープに結像される(図11)。対象物軸に対するレンズ軸の傾きが大きいほど、対象物がシャープに結像されるフォーカスエリアは狭くなる。また、被写界深度TSが大きいほど、フォーカスエリアは広くなる。狭いフォーカスエリアでは、対象物の小さい一部だけしか3次元表面形状の評価に必要な情報を提供しない。
しかしながら、3次元表面形状を結像するためには、シャープな結像が非常に重要である。同様に、センサの全表面を使用することが望ましい。
以下では、「シャインプルーフの条件を備えないステレオカメラシステム」とは、平行配置を有するステレオカメラシステムを意味する。
「Zeilenkameras zur Inspektion der Dichtflaechen einer O-Ring-Nut」、Photonik 5/2012から知られているのは、3台のラインカメラを並行して動作させ、それぞれが溝の片側を結像するシステムである。溝の側壁は、シャインプルーフの条件を備えるラインカメラで結像される。
米国特許第7,724,362B1号明細書は、角度付き入射でマクロウェーハを検査するためのシステムを開示する。この文献では、ビーム経路がシャインプルーフの条件を満たす角度でウェハに向けられたラインカメラによってウェハが検出される。
独国特許出願公開第10 2013 103 897A1号明細書は、対象物をラインごとにスキャンするためのカメラモジュールを開示する。このカメラモジュールは、リニアセンサと、対象物をそのセンサ上に結像するためのレンズとを含む。カメラモジュールは、複数のラインセンサを有する。このラインセンサは、レンズからの距離を変化させて配置されており、これにより、レンズからの距離が異なる像のラインがそれぞれのラインセンサに結像される。
国際公開第2014/017977A1号パンフレット 米国特許第6,671,397B1号明細書 国際公開第02/040970A1号パンフレット 独国特許出願公開第10 2015 11 11 20A1号明細書 米国特許第7,724,362B1号明細書 独国特許出願公開第10 2013 103 897A1号明細書
「Scheimpflug stereocamera for particle image velocimetry in liquid flow」、Ajay K. Prasad及びKirk Jensen、APPLIED OPTICS 34、30(1995) 「Zeilenkameras zur Inspektion der Dichtflaechen einer O-Ring-Nut」、Photonik 5/2012
本発明は、簡単な方法で、大きなスキャン領域で良好な空間分解能が得られるステレオカメラシステムを作成するという課題に基づく。
本発明のさらなる課題は、空間的な対象物の信頼性の高いスキャンを可能にするステレオカメラシステムを作成することである。
本発明のさらなる課題は、簡単な方法で、大きな結像領域をカバーすることができるステレオカメラシステムを作成することにある。
本発明のさらなる課題は、コンパクトなデザインのステレオカメラシステムを作成することにある。
本発明のさらなる課題は、異なる対象物面の結像に適したステレオカメラシステムを作成することにある。
1つ以上の課題は、独立請求項の主題によって解決される。有利な開発及び好ましい変形は、従属請求項の主題を形成する。
対象物の3次元表面形状の計測のための本発明に係るステレオカメラシステムは、少なくとも2つの線状のセンサ領域と、センサ領域に対象物を結像するための少なくとも1つのレンズとを有する。このレンズは、対象物領域が2つの独立したビーム経路で、それぞれ1つのセンサ領域に結像されるように配置されている。当該ステレオカメラシステムは、上記ビーム経路の少なくとも1つに沿って、シャインプルーフの条件が満たされていることを特徴とする。
これまでに説明したように、シャインプルーフの条件を考慮したステレオカメラシステムは、平行配置のステレオカメラシステムと比較して、レンズによって像が歪むことなく、大きなベースを有する。ベースが大きくなることで、3次元表面形状の解像度が高くなる。
このようなステレオカメラシステムは、ステレオカメラシステムが対象物に対して相対的に移動されて、ライン方向に交差する対象物領域のラインごとのスキャンに使用されてもよい。ラインセンサに平行な方向をライン方向と称し、ラインセンサに直交する方向をスキャン方向と称する。スキャン方向において互いに向かって位置する2点の距離は、キーストーン効果及びライン方向の位置に関係なく、同じ解像力で記録される。これにより、像はスキャン方向に圧縮されない。これにより、スキャン方向の解像力が向上する。
同様に、台形の形成が防がれる。両方のラインセンサは、センサライン全体で同じエリアをカバーすることができる。そのため、情報が失われることはない。ラインセンサのオーバーラップ領域を、以下、オーバーラップラインと呼ぶ。
ラインセンサの場合、レンズの開口角はオーバーラップラインのみをカバーする必要がある。このオーバーラップラインは、センサの長さが同じであれば、上述のように六角形を形成する2つのエリアセンサのオーバーラップ領域の対角線よりも小さい。このため、シャインプルーフの条件及びエリアセンサを備えるステレオカメラシステムの必要開口角は、シャインプルーフの条件及びラインセンサを備えるステレオカメラシステムの場合よりも大きい。それゆえ、シャインプルーフの条件及びラインセンサを備えるステレオカメラシステムは、シャインプルーフの条件及びラインセンサを備えるステレオカメラシステムよりも歪みが少なくなる。
また、圧縮の低減により、平行化処理の必要性も減る。これにより、計算時間が短縮され、それゆえ像データがより早く利用できるようになる。
要約すると、シャインプルーフの条件を備えるステレオカメラシステムを使用することで、シャインプルーフの条件を備えないステレオカメラシステムのような歪みが発生することなく、大きなベースが選択されてもよいということが言える。ベースが大きいと、高さ方向の解像度が正確に(高く)なる。シャインプルーフの条件では、レンズの開口角を小さくすることができ、良好な像の質が得られる。しかしながら、キーストーン効果により、エリアセンサの場合、シャインプルーフの条件は両方向に望ましくない歪みをもたらす。ラインセンサが使用される場合、歪みは一方向にしか発生しないため、像の質が高くなる。さらに、ラインセンサの投影幅はエリアセンサの投影対角線よりも小さいため、レンズの必要開口角は、ラインセンサについては、エリアセンサの場合よりも小さい。加えて、エリアセンサとは対照的に、センサの全ピクセルが使用される。
そのため、シャインプルーフの条件を満たし、ラインセンサを有するステレオカメラシステムでは、比較的簡単な手段で高さ方向の解像度が高い像が得られる可能性がある。
すべてのビーム経路でシャインプルーフの条件が満たされていることが好ましい。原理的には、それらのビーム経路は異なるセンサ領域及びレンズの配置を有してもよい。すべてのビーム経路がシャインプルーフの条件を満たすため、1つのビーム経路のみがシャインプルーフの条件を満たすステレオカメラシステムに比べて、より大きなベースが選択されてもよい。
好ましくは、ビーム経路は鏡面対称に配置される。鏡面対称に配置することで、カメラシステムの調整が容易になる。非対称性が、調整(時に発生しやすく、補正されてもよい。各センサが対象物領域から等距離にあることで、像データの評価も容易になる。それゆえ、取得されたピクセルも同じ距離だけオフセットされる。
好ましくは、上記ビーム経路の1つ以上が少なくとも1つのミラーによって偏向される。これにより、ビーム経路はミラーによって折り返されてもよい。計測された対象物の像はミラーによって1回以上反射され、これによってビーム経路の長さが維持される。しかしながら、光学レンズの配置によって取り込まれる体積は、部分的にかなり減少する。特に、ステレオカメラシステムのために大きなベースを選択することができるが、2つのセンサ半体(センサハーフ、Sensorhaelften)は依然として近接している。つまり、ビーム経路の折り返しがない構造に比べて、よりコンパクトな設計が可能になる。
ビーム経路の折り返しに関連して、ビーム経路を折り返すミラーがレンズと対象物との間に配置されている対象物側の折り返し、ビーム経路を折り返すミラーがレンズとセンサとの間に配置されているセンサ側の折り返し、及びビーム経路を折り返すミラーがレンズと対象物との間だけでなくレンズとセンサとの間にも配置されている両側の折り返しが区別されてもよい。対象物側の折り返しでは、レンズと対象物との間の距離である作動距離が短くなる。
上記ビーム経路は、好ましくは、それぞれ、1つのセンサの別々の部分に投影される。これらの部分は、それぞれ、上記2つ以上のカメラモジュールのうちの1つのセンサ領域を形成する。センサは、複数のセンサ領域に分割され、それぞれにビーム経路が割り当てられてもよい。例えば、2つのビーム経路を持つステレオカメラシステムの場合、センサは2つの領域に分割される。ステレオカメラシステムが3本のビーム経路を有する場合、センサは3つに分割される。これにより、システムの安定性も高まる。加えて、調整が容易でコンパクトな設計が可能になる。
あるいは、ビーム経路がそれぞれ別のセンサに投影され、各ビーム経路に1つのミラーが設けられ、ビーム経路がシャインプルーフ配置で構成されるようにカメラが設計されてもよい。この設計により、コンパクトな形状でありながら、1つのセンサよりも大きなセンサ表面を持つことができ、解像度の向上につながる。
さらに別の方法は、ビーム経路がそれぞれ別のセンサに投影され、各ビーム経路には2つのミラーが設けられ、ビーム経路はシャインプルーフ配置で構成されていることを特徴とする。この設計により、コンパクトな形状が可能になる。
好ましくは、線状のセンサ領域は1つのライン上に隣接して配置され、それぞれラインセンサで表される。このライン配置により、線状のセンサ領域が共通の支持体に固定されてもよいため、調整が容易になる可能性がある。例えば、支持体が傾いていても、センサ領域を再整列(再調整)する必要はない。
立体視的な方法の場合、オフセットが一方向にのみ行われると好都合である。これは、センサがセンサ軸に対して平行又は垂直に配置されていることを意味する。これは、ライン配置によってサポートされる。
さらなる改変によれば、線状のセンサ領域は、互いに平行かつ隣接して配置されてもよい。この場合も、2つのビーム経路のオフセットは、1つの方向にのみ行われる。
線状のセンサ領域は、エリアセンサのピクセルラインであることが可能である。既存のステレオラインカメラシステムを簡単にそのように改造することができる。
すべてのビーム経路に共通のレンズが設けられてもよい。このようにして、とりわけコンパクトなステレオラインカメラシステムが作成されてもよい。レンズの数を減らすことで、コストが抑えられる可能性もある。
上記2つのビーム経路は、対象物面とセンサ面との間の距離が異っていてもよい。これに関連して、それぞれの短いビーム経路に設けられた1つ以上のガラス要素によって、距離の違いによる光路を平滑化することが好都合である場合がある。
このガラス要素により、ガラス要素内での光の速度が抑制される。それゆえ、光がセンサに到達するのに長い時間を必要とする。これは、光路の延長と同じ効果がある。このようにして、距離のばらつきが均一化されてもよい。
本発明のさらなる態様では、3次元表面形状の計測のためのステレオラインカメラシステムは、少なくとも1つのカラーセンサを含み、このカラーセンサは、異なる色に感度を持つ複数のピクセルを有し、対象物をセンサ上に結像するために少なくとも1つのハイパークロマティックレンズ(hyperchromatisches Objektiv)が設けられている。このカラーセンサは、異なる焦点面(フォーカス面)がそれぞれ同じ色のピクセルに結像されるように、対象物に向かって配置されている。
ハイパークロマティックレンズでは、焦点は波長に依存する。それゆえ、センサの各カラーラインは、別の焦点面に割り当てられる。
これは、3次元の表面形状の計測のために使用されてもよい。対象物領域の異なる高さには、それぞれ異なる焦点面がある。これにより、特定のフォーカスエリアにある高さのそれぞれが、センサ上にシャープに結像される。高さの解像度は、ここでは色の解像度に相当する。この方法は、以下ではハイパークロマティック深度決定と記載されている。これは、高さの小さな違いを検出するのにとりわけ適している。
好ましくは、ハイパークロマティック深度決定は、シャインプルーフの条件を備える立体視的な方法とともに適用される。ハイパークロマティック深度決定では、細かい高さの違いが検出され、他方、立体視法では、より広い範囲で高さの違いが検出される。
好ましくは、カラーラインはレンズに対して傾斜している。この傾斜は、個々のカラーラインに平行な軸の周りで行われる。ラインに沿ってシャインプルーフの条件が維持される。この傾斜により、レンズからのカラーラインの距離が変化し、焦点面も移動する。このため、ハイパークロマティック深度決定で計測可能な高さの最大差が効果的に変化してもよい。
好ましくは、カラーセンサのカラーチャンネルは別々に評価される。これにより、異なる焦点面が別々に算出されてもよい。
本発明に係るさらなる態様では、3次元表面形状の計測のためのステレオラインカメラは、少なくとも2つのエリアセンサであって、このエリアセンサは、互いに平行かつ隣接して配置された複数のピクセルラインを有するように設計されている少なくとも2つのエリアセンサと、そのエリアセンサの1つに対象物をそれぞれ結像するための少なくとも2つのレンズとを含む。このステレオラインカメラは、2つの独立したビーム経路を有する対象物領域が、それぞれ、センサの1つに同時に結像されることにより、エリアセンサのピクセルライン上に線状の対象物領域が結像されるが、この線状の対象物領域と交差するビーム経路のライン平面においては、シャインプルーフの条件が満たされており、また、エリアセンサの個々のラインが線状の対象物領域の異なる平面を結像するように、表面が、スキャンされる対象物領域と平行ではないように、エリアセンサが軸の周りに傾斜していることを特徴とする。
その傾斜のため、各ピクセルラインは、レンズから異なる距離を有する。ラインに沿って、シャインプルーフの条件が維持される。それゆえ、各ラインはそれぞれの焦点面を有する。このようにして、対象物領域の異なる高さは、それぞれ異なるピクセルライン上でシャープに結像される。高さの解像度は、ここではラインの解像度に相当する。この方法を、以下では「傾斜深度決定」(ラテン語:inclinatio=傾斜)と呼ぶ。
傾斜深度決定で計測可能な高さの最大差は、傾きを変えることにより、変えられてもよい。
傾斜深度決定とシャインプルーフの条件を備える立体視的な方法を組み合わせることで、高さの分解能が向上する可能性がある。これにより、2つの異なる方法で高さが検出されるため、計測誤差が低減される。
好ましくは、上記センサはカラーセンサであり、上記レンズはハイパークロマティックレンズである。これにより、エリアセンサの傾斜によって生じる個々の焦点面がさらに分割され、焦点面の解像度が向上する可能性がある。
好ましくは、像データはオンラインで平行化処理される。これは、ステレオ像ペアの像の像データをラインごとに調和させ、2つのレンズによるオフセットや歪みの違いを補正するものである。オフラインでも可能なこの平行化処理により、それぞれの歪みの位置データが調整され、これにより、像データは歪みのない状態で表示され、さらに計算されてもよい。この位置データはさらなる変換段階を必要としないため、計算速度が向上する。
電荷結合素子(CCD)センサを搭載したラインセンサは、検出された輝度値が格納されたシフトレジスタを有する。これらのシフトレジスタは連続して読み出される。一般に、個々のラインのシフトレジスタを読み出す際には、それぞれのピクセルに一様な位置データが割り当てられる。
好ましくは、センサのピクセルラインは、ライン同期で記録し、同時に結像を開始するように同期する。これにより、平行化処理に必要な時間が大幅に短縮される。特に、平行化処理との組み合わせでは、これにより、1つのカメラモジュールの取得されたピクセルが、第2のカメラモジュールの第2の取得されたピクセルと同時に、対象物上の同じ点に割り当てられる。これにより、ステレオ計算において、センサ領域の各ラインが、第2のセンサ領域の適切なラインに自動的に割り当てられるという利点がある。これは、ステレオ計算が1つの次元でのみ必要であることを意味する。
本発明のさらなる態様は、表面形状検出装置に関する。当該表面形状検出装置は、計測される対象物の3次元表面形状を取得するための、上で説明したような少なくとも1つのステレオカメラシステムを有する。当該表面形状検出装置は、計測される対象物又はカメラシステムを搬送するための搬送装置と、搬送速度を3次元表面形状のリニアス(線状の)キャンに同期させるための同期装置と、3次元表面形状の計測結果を評価するための評価ユニットとを含む。
上記搬送装置は、例えば、コンベヤベルトであってもよい。
上記同期装置は、搬送速度を3次元表面形状の計測と同期させるために、上記ステレオカメラシステム及び/又は評価ユニットに信号を与える。この信号がステレオカメラシステムに送られた場合、その信号は計測のトリガとなることができる。信号が評価ユニットに送られた場合は、搬送装置の速度が決定される。また、像の生成頻度がわかっている場合は、1つの像ラインが次の像ラインからどのくらい離れているかを判断することができる。
上記同期装置は、例えば、上記搬送装置によってトリガされるインクリメンタルエンコーダであってもよい。搬送装置がコンベヤベルトの場合、例えばコンベヤベルトに結合されたホイールによって、ホイールの位置が同期装置によって決定されることが可能である。特定のホイール位置で、信号が発せられる。別の方法として、同期装置にカメラユニットを設け、コンベヤベルト上のマーキングを検出し、その助けを借りて信号を発することもできよう。
同期装置は、評価ユニットのモジュールの形であってもよい。像の生成頻度及び搬送装置の速度が既知であれば、記録された2つの像ラインの間の距離が計算で求められてもよい。
評価ユニットは、計算ユニット上のモジュールであり、記録された像データから3次元表面形状を計算する。
以下、本発明を、図面に示す実施例を用いて、例示的に詳細に説明する。図面は、いずれの場合も、側面図で模式的に示している。
2つのレンズ及び2つのセンサを備えるカメラの第1の実施形態である。 2つのレンズ、4つのミラー、及び1つのセンサを備えるカメラの第2の実施形態である。 2つのレンズ、4つのミラー、及び2つのセンサを備えるカメラの第2の実施形態の変更例である。 2つのカラーフィルタ、2つのレンズ、4つのミラー、及び2つのセンサを備えるカメラの第2の実施形態のさらなる変更例である。 2つのレンズ、2つのミラー、及び2つのセンサを備えるカメラの第3の実施形態である。 様々な焦点面が異なるカラーライン(色の線)上に位置するハイパークロマティックレンズである。 3つのレンズ、4つのミラー、及びカラーラインセンサを備えるカメラの第4の実施形態である。 1つのレンズ、4つのミラー、ガラス要素、及びカラーラインセンサを備えるカメラの第4の実施形態の変更例である。 本発明に係るステレオカメラを使用する表面形状検出装置をブロック図で示す。 本発明に該当しないステレオカメラの2つのカメラモジュールのセンサ及びレンズの模式的配置図である。 ステレオカメラの2つのカメラモジュールのセンサ及びレンズの模式的配置図である。 対象物面上に投影されたセンサ面である。 本発明に係るステレオカメラを使用する表面形状検出装置をブロック図で示す。
第1の実施形態では、本発明に係るステレオカメラシステム25は、2つのカメラモジュール1a、1b(図1)を含む。
各カメラモジュール1は、レンズ2及びラインセンサ3によって形成されている。ラインセンサ3は、それぞれセンサ領域13を用いて、レンズ2によってその上に作られた像を取得する(取り込む)。2つのカメラモジュール1は、共通の対象物領域6を2つの異なる視野方向からスキャンするように配置されている。
各カメラモジュール1について、カメラ軸5は、それぞれ、センサ領域13の中心及びレンズ2の中心を通っている。それゆえ、2つのカメラ軸5は、センサ領域13の視野方向に対象物領域6まで走っている。
2つのカメラ軸5は、1つの光学平面上に位置している。また、この光学平面上には、2つのラインセンサ3とそのセンサ領域13がそれぞれ存在する。この光学平面は、図1の描画平面と一致している。
ベースBは、2つのセンサ領域13の中心間の距離である。カメラ軸5は、対象物軸10で交差し、ベース角αを形成している(挟んでいる)。
このカメラシステムはラインセンサ3を使用しているため、さらなる検討に関連するのはセンサ軸8、レンズ軸9及び対象物軸10のみであり、これらは、上記光学平面内にあり、同時に上で規定したセンサ面、レンズ面及び対象物面内にある直線である。
ラインセンサ3は、レンズ2によってラインセンサ3上に再現された対象物領域6の像を取得する。ラインセンサ3は、CCDセンサであり、シフトレジスタと1次元アレイの光検出器とを含み、各光検出器は1ピクセルを記録する役割を果たす。各ラインセンサ3では、センサ軸8がセンサラインと一致して走る。
カメラモジュール1のレンズ2は、それぞれのラインセンサ3に対して、対象物領域6がラインセンサ3の平面内でシャープに描写されるように配置されている。レンズ2は、1枚のレンズで形成されていてもよいし、複数のレンズで形成されていてもよい。レンズ2の光軸は、レンズ2の対称軸であり、光学平面内でレンズ軸9に垂直に走っている。
対象物領域6は、対象物軸10上に位置し、センサ領域13上にシャープに結像される。
センサ軸8、レンズ軸9、及び対象物軸10は、共通点で交差するが、この共通点は無限遠に存在するわけではない。これにより、シャインプルーフの条件が満たされる。
以下に、第2の実施形態(図2a)を説明するが、第1の実施形態と同じ要素には同じ参照番号を付している。同一の要素については、以下で特段の記載がない限り、上記の説明が適用できる。
第2の実施形態では、ステレオカメラシステム25は、ここでも2つのカメラモジュール1a、1bを含む。各カメラモジュール1は、レンズ2と、2つのミラー11、12と、ラインセンサ領域13とを含む。カメラ軸5は、2つのミラー11、12によって偏向される。各カメラモジュール1a、1bのラインセンサ領域13は、一列に並び、一方が他方の後ろに位置し、共にラインセンサ3を形成する。
ミラー11、12は、レンズ2とラインセンサ領域13との間に配置されており、対象物領域6がラインセンサ領域13上に落ちる(入る)ようになっている。
センサ軸8はミラー11に反射される。センサ軸8’(図示せず)は、反射したセンサ軸8である。センサ軸8’は、今度はミラー12で反射される。センサ軸8”(図示せず)は、反射されたセンサ軸8’、つまり二重反射されたセンサ軸8である。
ステレオカメラシステム25のベースBは、2つのラインセンサ3の投影の中心の距離によって与えられ、ラインセンサの投影は、対象物領域6の像が反射されなかった場合にラインセンサ3が存在するであろう点である。
センサ軸8”、レンズ軸9、及び対象物軸10は、共通点で交差するが、この共通点は無限遠に存在するわけではない。これにより、シャインプルーフの条件が満たされる。
第2の実施形態が第1の実施形態と異なるのは、カメラモジュール1a、1bごとにいずれも2つのミラー11、12が、対象物軸10の焦点を、それらが共通軸である関連するセンサ軸8上に位置するように、偏向させる点である。それゆえ、2つの別々のセンサを持つ必要はなく、代わりに、2つのラインセンサ領域13に分割されたラインセンサ3に両方のビーム経路が投影されてもよい。
この実施形態では、センサ軸8は対象物軸10と平行である。しかしながら、これら2つの軸が平行でないことも考えられる。この場合、両カメラモジュールは、鏡面対称の設計ではない。
あるいは、ステレオカメラシステム25は、2つのラインセンサ領域13の間にギャップを有する(図2b)。各ラインセンサ3は、1つのラインセンサ領域13のみを含む。この実施形態は、ハイパースコープ(HyperSkop)とある種の類似性を有しているが、しかしながら、シャインプルーフの条件には該当しない。
この変形例のさらなるオプションは、2つの光軸が交差して、対象物領域6の第1の像がそれぞれ反対側のラインセンサ3b及びラインセンサ領域13bに投影されることである。シャインプルーフの条件がなければ、この配置はシュードスコープ(Pseudoskop)として知られている。
さらなる実施形態では、ステレオカメラシステム25は、第2の実施形態に準拠したデザインを有している(図2c)が、センサ領域13は、センサ軸8に沿って線状に互いに隣接して配置されておらず、代わりに、センサ軸8に垂直に互いに平行に配置されている。これらのセンサ領域13は、以下に詳細に説明するように、それぞれがラインセンサ3の異なるカラーラインによって形成されていてもよい。両方のビーム経路は、2つの異なるビーム経路がラインカラーセンサ3上でわずかにオフセットして出会うように、互いにオフセットしてラインカラーセンサ3に垂直に配置されている。2つのミラー11は、互いに隣接して取り付けられている。そして、カラーフィルタ26が各ビーム経路に沿って配置されている。その結果、一方のカメラモジュール1aの像は、ラインカラーセンサ3上で例えば赤色の像(画像)として表示され、他方のカメラモジュール1bの像は、ラインカラーセンサ3上で例えば緑色の像(画像)として表示される。これによって、ラインカラーセンサ3は、対象物領域6の2つ、又はさらに多い複数の像を同時に取得してもよい。ここで、対象物の表面は、カラーフィルタ26の一方の色であってはならない。というのも、そうしないと、表面の像情報がフィルタリングで除外されてしまうからである。それゆえ、第1の色のカラーフィルタを有するビーム経路は、第1の色を検出するセンサラインに当たる。第2の色のカラーフィルタを有するビーム経路は、第2の色を検出するセンサラインに当たる。
白色又はグレースケールである対象物の表面が好ましい。白色又はグレースケールは、色スペクトルの各色が同じ強度値を持っている。光がそれぞれのカラーフィルタ26を通過すれば、カラーフィルタの色に関係なく、光の積分強度はすべての色で等しく減少する。ラインセンサ3のカラーチャンネルがグレースケールとして評価されている場合、両方のビーム経路の結果として得られる像は、対象物に対する視角が異なることによってのみグレースケールの強度が異なり、ビーム経路の色が異なることによっては生じない。
この実施形態では、カラーフィルタ26は、レンズ2a、2bの前に取り付けられている(図2c)。しかしながら、カラーフィルタ26は、ミラー11と12との間や、ラインカラーセンサ3とミラー11との間に配置されてもよい。
あるいは、カラーフィルタの代わりに、ラインセンサ3が対象物領域6の適切に異なる偏光像を個別に取得できる限り、ビーム経路に沿って異なる偏光フィルタが使用されてもよい。それゆえ、ステレオカメラシステム25の各ビーム経路は、ラインセンサ3に当たるときに異なる偏光を有する。像の位相と強度が取得されるならば、この方法はホログラフィにも使用されてよい。この場合、対象物の表面が偏光を変化させないようにしてもよい。というのも、そうしないと、偏光フィルタが高さデータの計算に必要な像データをフィルタリングで除外してしまうからである。
以下に、第3の実施形態(図3)を説明するが、第1及び第2の実施形態と同じ要素には同じ参照番号を付している。同一の要素については、以下で特段の記載がない限り、上記の説明を適用する。
第3の実施形態では、ステレオカメラシステム25は、ここでも2つのカメラモジュール1a、1bを含む。各カメラモジュール1は、レンズ2、ミラー11、及びラインセンサ3を含む。カメラ軸5は、ミラー11によって偏向される。
ミラー11は、レンズ2とラインセンサ3との間に配置され、対象物領域6がラインセンサ3上に落ちるようになっている。
センサ軸8は、ミラー11で反射される。センサ軸8’(図示せず)は、反射されたセンサ軸8である。2つのカメラモジュール1の2つのセンサ軸8は、この実施形態では、必ずしも互いに平行ではない。
ステレオカメラシステム25のベースBは、2つのラインセンサ3の投影の中心の距離によって与えられ、ラインセンサの投影は、対象物領域6の像が反射されなかった場合にラインセンサ3が存在するであろう点である。
センサ軸8’、レンズ軸9、及び対象物軸10は共通点で交差するが、この共通点は無限遠ではない。これにより、シャインプルーフの条件が満たされる。
第2の実施形態とは対照的に、2つのラインセンサ領域13は、もはや一列に並んでおらず、一方が他方の後ろに位置してはいない。加えて、ミラー11があるため、センサ3は、対象物領域6に対して垂直又はほぼ垂直に配置されてもよく、これにより、非常にコンパクトな設計を選択することが可能となる。
以下に、第4の実施形態(図5)を説明するが、第1の実施形態と同じ要素には同じ参照番号を付している。同一の要素については、以下で特段の記載がない限り、上記の説明を適用する。
第4の実施形態では、ステレオカメラシステム25は、3つのカメラモジュール1a、1b、1cを含む。ステレオカメラシステム25は、単純なラインセンサの代わりに、3ラインセンサ15を含む。3ラインセンサ15は、互いに並んで配置された3つの平行なラインセンサ領域13を含む。センサ軸8は、光学平面に垂直に走っている。
各カメラモジュール1a、1cは、レンズ2と、2つのミラー11、12と、3つのラインセンサ領域13のうちの1つとを含む。カメラモジュール1bは、レンズ2と、3つのラインセンサ領域13のうちの1つとを含む。カメラモジュール1は、共通の対象物領域6を3つの異なる視野方向からスキャンする。
外側のカメラモジュール1a、1cの場合、センサ軸8はミラー11で反射される。センサ軸8’(図示せず)は、反射されたセンサ軸8である。センサ軸8’は、今度はミラー12で反射される。センサ軸8”(図示せず)は、反射されたセンサ軸8’、つまり二重反射されたセンサ軸8である。
ステレオカメラシステム25に3つのカメラモジュール1が使用されている場合、2つのカメラモジュール1の組み合わせごとに3つのベース長Bが可能である。ベースBは、2つのラインセンサ3の投影の中心の距離によって与えられ、ラインセンサの投影は、対象物領域6の像が反射されなかった場合にラインセンサ3が存在するであろう点である。
センサ軸8又は8”、レンズ軸9、及び対象物軸10は、共通点で交差するが、この共通点は無限遠に存在するわけではない。これにより、シャインプルーフの条件が満たされる。
あるいは、ステレオカメラシステム25は、3つのレンズ2a~2cの代わりに、3つのカメラモジュール1a、1b、1cをすべて取り囲む単一のレンズ2のみを含む。これを補うために、中間のカメラモジュール1bは、ガラス要素19を有する(図6)。
第4の実施形態は、ラインセンサ領域13が互いに平行に配置されており、一方が他方の後ろに一列に並んでいない点で、先行する実施形態と異なる。
上述した実施形態の代替変形例では、各カメラモジュール1のレンズはハイパークロマティックレンズ14であり、その焦点はとりわけそれぞれの波長に依存している(図4参照)。加えて、3ラインセンサ15は、赤16a、緑16b及び青16cのラインを有する3ラインカラーセンサ15である。ハイパークロマティックレンズ14により、3ラインカラーセンサ15のそれぞれの赤、緑及び青のライン(16a、16b、16c)は、それぞれ異なる焦点面17a、17b、17cを有する。これにより、各カラーライン16a、16b、16cは、異なる高さ計測領域18a、18b、18cを計測する。この場合、高さの解像度は、色の解像度に対応する。
好ましくは、カラーライン16は、レンズ14に対して傾斜している。この傾斜は、個々のカラーライン16に平行な軸の周りで行われる。カラーライン16に沿ってシャインプルーフの条件が維持される。この傾斜により、レンズ14からのカラーライン16の距離が変化し、焦点面17も移動する。
本発明のさらなるオプションは、カメラモジュール1が、ラインセンサ3の代わりに、エリアセンサを有することである。エリアセンサは、光検出器の2次元アレイであり、各光検出器は1つのピクセルに対応している。この実施形態では、エリアセンサは、平行なラインセンサ3をつなぎ合わせたものと考えられる。
エリアセンサは、個々のラインセンサ3に平行な傾斜軸の周りに傾斜している。個々のラインは、割り当てられたセンサ軸8又は8’又は8”とともに、レンズ軸9及び対象物軸10と1点で交差し、それゆえ、シャインプルーフの条件を満たすように配置されている。
ここでは、エリアセンサの法線と光軸の間の角度の量は90°未満である。エリアセンサの各ラインは、異なる高さ計測領域18を有する。隣り合った高さ計測領域は、高さエリアの拡大につながる。その結果、高さが異なる対象物に対しても、同じカメラ設定が使用されてもよい。対象物の各高さには、関連する高さ計測領域を有するエリアセンサの少なくとも1つの対応するラインが割り当てられる。
上述した実施形態の代替的な変形例では、まっすぐなミラー11の代わりに、計測される対象物4の像が歪みなくラインセンサ3に到達するように、使用されるミラーが湾曲している。
上述の実施形態は、それぞれ2つ又は3つのカメラモジュール1を含む。原理上、表面形状の立体視的な決定のために、任意の所望の数のカメラモジュールが提供されてもよいが、少なくとも2つのカメラモジュールが必要である。カメラモジュールの数が多ければ多いほど、統計的誤差は小さくなる。しかしながら、コストも上昇する。ベース長の数は、三角数に従う。例えば、2つのカメラモジュール1では1つのベースしか可能ではなく、3つのカメラモジュール1では3つ、4つでは6つの選択肢、5つでは10種類のベース長が可能である。
以下、表面形状検出装置20(図7)について説明する。
表面形状検出装置は、計測される対象物4の3次元表面形状を計測するための、図1~図6のいずれか1つに係る上記の実施形態の1つで説明したステレオカメラシステム25と、計測される対象物4を搬送するための搬送装置21と、搬送速度を3次元表面形状の計測に同期させるための同期装置22と、3次元表面形状の計測結果を評価するための評価装置23とを含む。
この実施形態では、搬送装置21は、コンベヤベルトである。
この実施形態における同期装置22は、インクリメンタルエンコーダ22である。インクリメンタルエンコーダは、コンベヤベルトの移動中に回転するように、コンベヤベルト21に接続されている。所定の回転角の周りの回転の過程で、クロック信号が生成される。これにより、コンベヤベルトは、連続する2つのクロック信号の間に所定の距離をカバーする。これらのクロック信号は、評価装置23に渡される。評価装置23は、カメラモジュールに配置されたセンサ3によって取得された像信号を得るように、カメラモジュール1にも接続されている。評価装置23は、それぞれのカメラモジュールが計測される対象物4をスキャンする時間を制御するように設計されている。このようにして、評価装置23は、インクリメンタルエンコーダ22から受信したクロック信号に従って、計測される対象物4のスキャンを、コンベヤベルト及び計測される対象物4のそれぞれの動きに同期させることができる。この同期は、好ましくは、計測される対象物が同じローカル距離で移動方向7にスキャンされるように配置される。複数の連続した一次元スキャンを組み合わせて、評価装置23で2次元画像を与えてもよい。こうして、表面形状に関する3次元データが得られる。
取得された像は補正されてもよい。一方では、ラインカメラの個々のピクセルを連続して敏感に切り替えることにより、カメラに対する計測される対象物4の移動から生じるシフトエラーを修正することができる。このため、高速走行時には、像は移動方向7に対して一定の傾斜位置を持つ。
加えて、像は平行化処理されてもよい。平行化処理によって、像データの幾何学的な歪みが除去される。これらは、特に、シャインプルーフの配置に起因して発生する可能性がある。
平行化処理という後の補正は、像登録時にオンラインで直接行われてもよい。像ラインの写真を撮影した後、データは直接補正される。これには、センサ信号をデジタル化した後、カメラのFPGA(フィールドプログラマブルゲートアレイ、Field Programmable Gate Array)で像信号の前処理を行うことを伴う。2つのカメラモジュールの歪みのパラメータが、システムのキャリブレーション等で既知である場合は、従来どおりPC上で同じ補正モデルが適用されてもよい。それゆえ、演算装置でのさらなる補正が不要となり、処理速度が向上する。
このようにして補正された像は、計測される対象物4の撮影面の深度再構成に使用される。深度再構成の代表的な方法は、ステレオ三角測量(Stereotriangulation)である。これは、第1の像の各点に、第2の像の第2の点を割り当てることを伴う。2つの点の間の距離は、その点の実際の空間的深さ、より正確にはセンサ3の対象物領域6からの距離及びステレオカメラシステム25のベースBに依存する。このようにして、第1の像の各点には深度情報が割り当てられる。
あるいはまた、ブロック、すなわち、例えば3×3行列のようなピクセルのグループが互いに割り当てられてもよい。この方法はブロックマッチングと呼ばれている。
このようにして、取得された各像ラインに対して、深度情報を含む像ラインが計算される。計測される対象物4の複数の像ラインが取得された場合、深度情報を持つラインを結合して、計測される対象物の3次元表面形状を生成してもよい。個々のラインの距離は、同期装置22からの情報によって計算されてもよい。
複数のラインセンサ3の代わりに、ラインセンサ領域13が使用される場合、すべてのカメラモジュール1の像データは、同じラインセンサ3上で生成される。結果として得られるデジタル二重像は、評価装置23で分割される。得られた2つの像は上述のように補正され、深度構築に使用される。
計測される対象物を取得するために3ラインセンサ15が使用される場合、各色に対して独立した像が生成される。各色について、上述したように独立した像が補正され、深度構築に使用される。ハイパークロマトグラフィーレンズが使用される場合、各色は異なる高さ計測領域18a、18b、18cを有するので、計測される対象物の表面の深度プロファイルの追加的な推定値が、像のシャープネス検出を介して計算されてもよい。像(画像)の各点は、他の2つの色領域の画像の点であるが、同じカメラモジュール1に割り当てられている。その点の位置は、3つの像では異ならない。このため、この点の像のシャープネスは、計測される対象物4上の実在する点の深さと色とに応じて異なる。点が深い位置にある場合、その点は、青の画像ではシャープに、緑の画像では中程度の深さで、赤の画像では低い深さで表示される。シャープネスの検出は、例えば、あるピクセル領域での画像のコントラスト比較によって行われてもよい。ある点がよりシャープであれば、コントラストが大きい。
このように、立体視的な計算と組み合わせることで、表面形状を細かく判断することができる。
個々のカラー画像を個別に計算するのではなく、RGB画像を組み合わせてグレースケール画像が計算され、その後で分析されてもよい。
計測される対象物を取得するためにエリアセンサが使用されている場合は、各ラインに対して独立した像が生成される。各ラインについて、上述のように、独立した像が補正され、深度構築に使用される。その後、それぞれの独立した像において、計測される対象物4上の実在する点のシャープネスが決定される。従って、その点を最もシャープに捉えたラインが決定されてもよい。ラインの位置及び焦点距離は既知であるため、これらの因子から点の距離が決定される。すべての点が互いに接続されれば、計測される対象物4の高さプロファイルが得られる。
上述した3ラインセンサ15の他にも、例えば、RGBのセンサポイントが3本並んだセンサ、グレースケールも認識するセンサポイントが3本並んだセンサ、グレースケールのみを認識するセンサポイントが3本並んだセンサ、等の他の組み合わせも考えられる。
上記のセンサは、CCDセンサであってもよいが、例えば相補型金属酸化膜半導体(Complementary Metal-oxide semiconductor、CMOS)等の他のセンサの種類も考えられる。
参照番号
1 カメラモジュール
2 レンズ
3 センサ
4 計測される対象物
5 カメラ軸
6 対象物領域
7 移動方向
8 センサ軸
9 レンズ軸
10 対象物軸
11 ミラー1
12 ミラー2
13 ラインセンサ領域
14 ハイパークロマティックレンズ
15 3ラインセンサ
16 カラーライン
17 焦点面
18 高さ計測領域
19 ガラス要素
20 表面形状検出装置
21 搬送装置
22 同期装置
23 評価装置
25 ステレオカメラシステム
26 カラーフィルタ
α ベース角
β シャインプルーフ角
γ レンズの開口角
B ベース

Claims (18)

  1. 対象物の3次元表面形状の計測のためのステレオカメラシステムであって、
    少なくとも2つの線状のセンサ領域と、
    対象物を前記センサ領域上に結像するための少なくとも1つのレンズと
    を備え、
    前記センサ領域及び前記少なくとも1つのレンズは、対象物領域が2つの独立したビーム経路で、それぞれ同時に前記センサ領域の1つに結像されるように配置されており、
    前記ビーム経路の少なくとも1つに沿って、シャインプルーフの条件が満たされていることを特徴とするステレオカメラシステム。
  2. すべてのビーム経路に沿って、前記シャインプルーフの条件が満たされていることを特徴とする請求項1に記載のステレオカメラシステム。
  3. 前記ビーム経路の1つ以上が、少なくとも1つのミラーによって偏向されることを特徴とする請求項1又は請求項2に記載のステレオカメラシステム。
  4. 前記ビーム経路が、それぞれ、1つのセンサの別の部分に投影され、前記センサが、ビーム経路の数に分割されることを特徴とする請求項1から請求項3のいずれか1項に記載のステレオカメラシステム。
  5. 前記ビーム経路がそれぞれ別のセンサに投影され、各ビーム経路には少なくとも1つのミラーが設けられ、前記ビーム経路が、各ビーム経路について、シャインプルーフ配置で構成されていることを特徴とする請求項1から請求項3のいずれか1項に記載のステレオカメラシステム。
  6. 前記ビーム経路が、それぞれ別のセンサに投影され、各ビーム経路には少なくとも2つのミラーが設けられ、前記ビーム経路が、各ビーム経路について、シャインプルーフ配置で構成されていることを特徴とする請求項1から請求項3のいずれか1項に記載のステレオカメラシステム。
  7. 前記線状のセンサ領域が、1つのライン上に隣接して配置され、それぞれ1つのラインセンサで表されることを特徴とする請求項1から請求項6のいずれか1項に記載のステレオカメラシステム。
  8. 前記線状のセンサ領域が、互いに平行かつ隣接して配置されていることを特徴とする請求項1から請求項5のいずれか1項に記載のステレオカメラシステム。
  9. 前記線状のセンサ領域が、エリアセンサのピクセルラインであることを特徴とする請求項8に記載のステレオカメラシステム。
  10. すべてのビーム経路に共通のレンズが設けられていることを特徴とする請求項1から請求項9のいずれか1項に記載のステレオカメラシステム。
  11. 前記ビーム経路の少なくとも1つにガラス要素が設けられていることを特徴とする請求項1から請求項10のいずれか1項に記載のステレオカメラシステム。
  12. 特に請求項1から請求項11のいずれか1項に記載の、対象物の3次元表面形状の計測のためのステレオカメラシステムであって、
    少なくとも1つのカラーセンサであって、異なる色に感度を持つ複数のピクセルを有する少なくとも1つのカラーセンサと、
    前記対象物を前記センサに結像させるための少なくとも1つのハイパークロマティックレンズと
    を備え、
    前記カラーセンサが、異なる焦点面がそれぞれ同じ色のピクセルに結像されるように、前記レンズに対して配置されていることを特徴とするステレオカメラシステム。
  13. 前記カラーセンサのカラーチャンネルが別々に評価されることを特徴とする請求項12に記載のステレオカメラシステム。
  14. 対象物の3次元表面形状の計測のためのステレオカメラシステムであって、
    少なくとも2つのエリアセンサであって、前記エリアセンサは、互いに平行かつ隣接して配置された複数のピクセルラインを有するように設計されている少なくとも2つのエリアセンサと、
    前記エリアセンサの1つに対象物をそれぞれ結像するための少なくとも2つのレンズと
    を備え、
    2つの独立したビーム経路を有する対象物領域が、それぞれ、前記センサの1つに同時に結像され、
    線状の対象物領域が、1つのエリアセンサの前記ピクセルライン上に結像され、
    前記線状の対象物領域と交差する前記ビーム経路のライン平面において、特に請求項1から請求項11のいずれか1項に記載のシャインプルーフの条件が満たされていること、及び
    前記エリアセンサの個々のラインが前記線状の対象物領域の異なる平面を結像するように、表面が、スキャンされる対象物領域と平行ではないように、前記エリアセンサが軸の周りに傾斜していること
    を特徴とするステレオカメラシステム。
  15. 前記センサがカラーセンサであり、前記レンズが、請求項11又は請求項12に記載のハイパークロマティックレンズであることを特徴とする請求項14に記載のステレオカメラシステム。
  16. 取得されたデータが、その後の平行化処理の補正のためにオンラインで記録されることを特徴とする請求項1から請求項15のいずれか1項に記載のステレオカメラシステム。
  17. センサのピクセルラインが、ライン同期で記録し、かつ同時に結像を開始するように同期されていることを特徴とする請求項1から請求項16のいずれか1項に記載のステレオカメラシステム。
  18. 表面形状検出装置であって、少なくとも、
    計測される対象物の3次元表面形状の計測のための、1つの請求項1から請求項17のいずれか1項に記載のステレオカメラシステムと、
    前記計測される対象物を搬送するための搬送装置と、
    搬送速度を3次元表面形状の計測に同期させるための同期装置と、
    前記3次元表面形状の計測結果を評価するための評価装置と
    を備える表面形状検出装置。
JP2021568480A 2019-06-18 2020-06-17 ステレオカメラシステム Pending JP2022536887A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102019116506.7A DE102019116506A1 (de) 2019-06-18 2019-06-18 Stereokamerasystem
DE102019116506.7 2019-06-18
PCT/EP2020/066826 WO2020254445A1 (de) 2019-06-18 2020-06-17 Stereokamerasystem

Publications (1)

Publication Number Publication Date
JP2022536887A true JP2022536887A (ja) 2022-08-22

Family

ID=71170536

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021568480A Pending JP2022536887A (ja) 2019-06-18 2020-06-17 ステレオカメラシステム

Country Status (4)

Country Link
JP (1) JP2022536887A (ja)
KR (1) KR20220024219A (ja)
DE (1) DE102019116506A1 (ja)
WO (1) WO2020254445A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019126419A1 (de) * 2019-05-08 2020-11-12 Docter Optics Se Vorrichtung zum optischen Abbilden von Merkmalen einer Hand

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9720864D0 (en) * 1997-10-01 1997-12-03 Univ Nottingham Trent Line-scan imaging in 3-d
US6671397B1 (en) * 1998-12-23 2003-12-30 M.V. Research Limited Measurement system having a camera with a lens and a separate sensor
US6630996B2 (en) * 2000-11-15 2003-10-07 Real Time Metrology, Inc. Optical method and apparatus for inspecting large area planar objects
US7724362B1 (en) * 2006-03-14 2010-05-25 Kla-Tencor Corporation Oblique incidence macro wafer inspection
DE102013103897A1 (de) 2012-04-25 2013-10-31 Chromasens Gmbh Kameramodul, Produktüberwachungsvorrichtung mit einem solchen Kameramodul und Verfahren zum Abtasten eines Objektes
WO2014017977A1 (en) * 2012-07-24 2014-01-30 Generic Power Pte Ltd Method and apparatus for determining coplanarity in integrated circuit packages
DE102015111120A1 (de) 2015-07-09 2017-01-12 Chromasens Gmbh Verfahren und Vorrichtung zum Abtasten von Oberflächen mit einer Stereokamera

Also Published As

Publication number Publication date
KR20220024219A (ko) 2022-03-03
WO2020254445A1 (de) 2020-12-24
DE102019116506A1 (de) 2020-12-24

Similar Documents

Publication Publication Date Title
CN108370406B (zh) 摄像装置
US5878152A (en) Depth from focal gradient analysis using object texture removal by albedo normalization
JP2009031150A (ja) 三次元形状計測装置、三次元形状計測方法、三次元形状計測プログラム、および記録媒体
JP3808169B2 (ja) 検査方法およびその装置並びに半導体基板の製造方法
WO2010016137A1 (ja) 検査システム
TWI484283B (zh) 影像計算量測方法、影像計算量測裝置及影像檢查裝置
KR20160150018A (ko) 검사 장치 및 검사 방법
KR101882837B1 (ko) 패턴 검사 장치
JP4090860B2 (ja) 3次元形状測定装置
TWI490481B (zh) On - line Inspection Method for Panel 3D Defects
US8792148B2 (en) Inspection method and inspection apparatus for an image reading apparatus
JP4680640B2 (ja) 画像入力装置および画像入力方法
JP2022536887A (ja) ステレオカメラシステム
JP5821563B2 (ja) 画像読取装置および画像読取方法、並びにmtf補正パラメータ決定方法
JP2006308323A (ja) 3次元形状測定方法
JP6362058B2 (ja) 被検物の計測装置および物品の製造方法
JP2008256483A (ja) 形状測定装置
Marokkey et al. Time delay and integration imaging for inspection and profilometry of moving objects
CN116134289A (zh) 三维测量装置
CN109270070B (zh) 成像设备和成像方法
JP2009010674A (ja) 色収差測定方法
JP3848586B2 (ja) 表面検査装置
EP1139090A2 (en) Leaded integrated circuit inspection system
JP6906823B1 (ja) マスク検査方法及びマスク検査装置
JP4350497B2 (ja) 特殊形状物品の形状計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231108

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20240207