以下、本発明の実施形態を図面に基づいて詳細に説明する。尚、以下の好ましい実施形態の説明は、本質的に例示に過ぎず、本発明、その適用物或いはその用途を制限することを意図するものではない。
図1は、本発明の実施形態に係る画像処理装置1のシステム構成例を示す図である。画像処理装置1は、撮像装置2と、照明装置3と、コントローラ部4と、表示部5と、コンソール部6と、マウス7とを備えており、測定対象物Wの高さ画像を得て、この高さ画像に基づいて測定対象物Wの高さを測定したり、測定対象物Wに対して各種検査を行うことができるように構成されている。
測定対象物Wは、例えばベルトコンベア等の搬送装置の載置面100に載置した状態としておき、この載置面100に載置した測定対象物Wに対して高さの測定や各種検査等を行う。高さの測定中、測定対象物Wは静止させておくのが好ましい。
画像処理装置1は、プログラマブル・ロジック・コントローラ(PLC)101に信号線101aによって有線接続することができるが、これに限らず、画像処理装置1及びPLC101に従来から周知の通信モジュールを内蔵し、画像処理装置1と、PLC101とを無線接続するようにしてもよい。PLC101は、搬送装置及び画像処理装置1をシーケンス制御するための制御装置であり、汎用のPLCを利用することができる。画像処理装置1をPLC101に接続することなく使用することもできる。
表示部5は、例えば液晶表示パネル等からなるディスプレイ装置であり、表示手段を構成している。表示部5には、例えば、画像処理装置1を操作するための操作用ユーザーインターフェース、画像処理装置1を設定するための設定用ユーザーインターフェース、測定対象物の高さ測定結果を表示するための高さ測定結果表示用ユーザーインターフェース、測定対象物の各種検査結果を表示するための検査結果表示用ユーザーインターフェース等を表示させることができる。画像処理装置1の使用者が表示部5を視認することで画像処理装置1の操作及び設定を行うことが可能になるとともに、測定対象物Wの測定結果や検査結果等を把握することができ、さらに、画像処理装置1の動作状態を把握することもできる。
図2に示すように、表示部5は、コントローラ部4が有する表示制御部46に接続されており、表示制御部46によって制御されて前記したユーザーインターフェースや高さ画像等を表示させることができるように構成されている。
コンソール部6は、使用者が画像処理装置1を操作したり、各種情報を入力するための入力手段であり、コントローラ部4に接続されている。また、マウス7も同様に使用者が画像処理装置1を操作したり、各種情報を入力するための入力手段であり、コントローラ部4に接続されている。コンソール部6及びマウス7は入力手段の一例であり、入力手段としては、例えば表示部5に設けたタッチパネルスクリーン等であってもよいし、音声入力装置であってもよく、これらを複数組み合わせて構成することもできる。タッチパネルスクリーンの場合、表示手段と入力手段とを1つのデバイスで実現できる。
コントローラ部4には、コントローラ部4の制御プログラムを生成し、記憶しておくための汎用のパーソナルコンピュータPCを接続することもできる。また、パーソナルコンピュータPCには、画像処理に関する各種設定を行う画像処理プログラムをインストールして、コントローラ部4で行う画像処理の各種設定を行うこともできる。あるいは、このパーソナルコンピュータPCで動作するソフトウェアによって画像処理の処理順序を規定する処理順序プログラムを生成することができる。コントローラ部4では、その処理順序に従って各画像処理が順次実行される。パーソナルコンピュータPCとコントローラ部4とは、通信ネットワークを介して接続されており、パーソナルコンピュータPC上で生成された処理順序プログラムは、例えば表示部5の表示態様を規定するレイアウト情報等と共にコントローラ部4に転送される。また逆に、コントローラ部4から処理順序プログラムやレイアウト情報等を取り込んで、パーソナルコンピュータPC上で編集することもできる。尚、上記プログラムは、パーソナルコンピュータPCだけでなく、コントローラ部4においても生成できるようにしてもよい。
また、コントローラ部4は専用のハードウェアで構築することもできるが、本発明はこの構成に限定されるものではない。例えば、汎用のパーソナルコンピュータPCやワークステーション等に専用の画像処理プログラムや検査処理プログラム、高さ測定プログラム等をインストールしたものをコントローラ部として機能させることもできる。この場合、パーソナルコンピュータPCやワークステーション等に、撮像装置2、照明装置3、表示部5、コンソール部6及びマウス7を接続すればよい。
また、画像処理装置1の機能については後述するが、画像処理装置1の全ての機能をコントローラ部4で実現するようにしてもよいし、汎用のパーソナルコンピュータPCで実現するようにしてもよい。また、画像処理装置1の一部の機能をコントローラ部4で実現し、残りの機能を汎用のパーソナルコンピュータPCで実現するようにしてもよい。画像処理装置1の機能は、ソフトウェアで実現することもできるし、ハードウェアの組み合わせによって実現することもできる。
撮像装置2、照明装置3、表示部5、コンソール部6及びマウス7をコントローラ部4に接続するためのインターフェースは、専用のインターフェースであってもよいし、例えば既存の通信規格、例えばイーサーネット(商品名)やUSB、RS-232C等を利用することもできる。
測定対象物Wの高さを表す高さ画像とは、図4に示す照明装置3が有する開口部30aの中心軸A(図1に示す)方向における測定対象物Wの高さを表す画像であり、距離画像ということもできる。高さ画像は、測定対象物Wの載置面(基準面ともいう)100を基準とした高さとして表示することもできるし、照明装置3との前記中心軸A方向における相対距離として表示することもでき、高さに応じて各画素の濃淡値が変化する画像である。換言すれば、高さ画像は、測定対象物Wの載置面100を基準とした高さに基づいて濃淡値が決定される画像といもいえるし、照明装置3との前記中心軸A方向における相対距離に基づいて濃淡値が決定される画像ともいえる。また、高さ画像は、測定対象物Wの載置面100を基準とした高さに応じた濃淡値を有する多値画像といもいえるし、照明装置3との前記中心軸A方向における相対距離に応じた濃淡値を有する多値画像ともいえる。さらに、高さ画像は、輝度画像の画素毎に、測定対象物Wの載置面100を基準とした高さを濃淡値に変換した多値画像ともいえるし、輝度画像の画素毎に、照明装置3との前記中心軸A方向における相対距離を濃淡値に変換した多値画像ともいえる。
また、高さ画像は測定対象物Wの高さ情報を含む画像であり、例えば距離画像に光学的な輝度画像をテクスチャ情報として合成して貼り付けた三次元の合成画像も高さ画像とすることができる。高さ画像は、三次元状に表示されるものに限られず、二次元状に表示されるものも含まれる。
上述したような高さ画像を得る手法としては、大きく分けて2つの方式があり、一つは、通常の画像を得るための照明条件で撮像した画像を用いて距離画像を生成するパッシブ方式(受動計測方式)、もう一つは、高さ方向の計測をするための光を測定対象物Wに能動的に照射して距離画像を生成するアクティブ方式(能動計測方式)である。本実施形態では、アクティブ方式により高さ画像を得るようにしており、具体的には、パターン投影法を利用している。
パターン投影法は、測定対象物Wに投影する測定用パターン光(単にパターン光ともいう)が有するパターンの形状や位相等をずらして複数の画像を取得し、取得した複数の画像を解析することで測定対象物Wの三次元形状を得る方法である。パターン投影法には幾つか種類があり、例えば、正弦波縞模様パターンの位相をずらして複数(最低3枚)の画像を取得し、複数の画像から画素毎に正弦波の位相を求め、求めた位相を利用して測定対象物Wの表面の三次元座標を得る位相シフト法や、測定対象物Wに投影するパターン自体を撮影毎に異ならせ、例えば白黒デューティ比50%で縞幅が全体の半分、4分の1、8分の1、16分の1、…と細かくなっていく縞パターンを順次投影し、それぞれのパターンにてパターン投影画像を取得し、測定対象物Wの高さの絶対位相を求める空間コード法等がある。正弦波状のパターン光及び縞パターン光は、一次元方向に変化する周期的な照度分布を有するパターン光である。尚、測定用パターン光を測定対象物Wに「投影」することと、測定用パターン光を測定対象物Wに「照射」することとは同義である。
本実施形態に係る画像処理装置1では、上述した位相シフト法と空間コード法とを組み合わせて高さ画像を生成するが、これに限られるものではなく、位相シフト法のみで高さ画像を生成してもよいし、空間コード法のみで高さ画像を生成してもよい。また、従来から周知の他のアクティブ方式を利用して測定対象物Wの高さ画像を生成してもよい。
画像処理装置1による測定対象物Wの高さを測定手法の概略は次の通りである。まず、照明装置3の第1投光部31及び第2投光部32でそれぞれ生成した第1測定用パターン光及び第2測定用パターン光を互いに異なる方向から測定対象物Wに照射し、測定対象物Wから反射した第1測定用パターン光を撮像装置2が受光して複数の第1パターン画像からなる第1パターン画像セットを生成するとともに、測定対象物Wから反射した第2測定用パターン光を撮像装置2が受光して複数の第2パターン画像からなる第2パターン画像セットを生成する。その後、複数の第1パターン画像セットに基づいて各画素が測定対象物Wへの第1測定用パターン光の照射角度情報を有する第1角度画像を生成するとともに、複数の第2パターン画像に基づいて各画素が測定対象物への第2測定用パターン光の照射角度情報を有する第2角度画像を生成する。次いで、第1角度画像の各画素の照射角度情報及び第2角度画像の各画素の照射角度情報と、第1投光部31及び第2投光部32の相対位置情報とにしたがって、測定対象物Wの高さを表す高さ画像を生成し、この高さ画像から測定対象物Wの高さを得る。
また、必須ではないが、この画像処理装置1においては、図4に示すように、照明装置3が第1投光部31及び第2投光部32の他に、第3投光部33及び第4投光部34を備えている。したがって、照明装置3の第3投光部33及び第4投光部34でそれぞれ生成した第3測定用パターン光及び第4測定用パターン光を互いに異なる方向から測定対象物Wに照射することもできる。この場合、測定対象物Wから反射した第3測定用パターン光を撮像装置2が受光して複数の第3パターン画像からなる第3パターン画像セットを生成するとともに、測定対象物Wから反射した第4測定用パターン光を撮像装置2が受光して複数の第4パターン画像からなる第4パターン画像セットを生成する。その後、複数の第3パターン画像に基づいて各画素が測定対象物Wへの第3測定用パターン光の照射角度情報を有する第3角度画像を生成するとともに、複数の第4パターン画像に基づいて各画素が測定対象物への第4測定用パターン光の照射角度情報を有する第4角度画像を生成する。次いで、第3角度画像の各画素の照射角度情報及び第4角度画像の各画素の照射角度情報と、第3投光部33及び第4投光部34の相対位置情報とにしたがって、測定対象物Wの高さを表す高さ画像を生成、この高さ画像から測定対象物Wの高さを得る。
(位相シフト法)
ここで、位相シフト法について説明する。位相シフト法において、照度分布を正弦波状に変動させたパターンを有するパターン光を測定対象物に順次投影する場合、正弦波の位相の異なる3つ以上のパターンのパターン光を投影する。高さ測定点の各明度値をパターン光の投影方向とは別の角度からパターン毎に撮像した画像から得て、各明度値よりパターン光の位相値を計算する。測定点の高さに応じて、測定点に投影されたパターン光の位相が変化し、基準となる位置で反射されたパターン光により観察される位相とは異なった位相の光が観察されることになる。そこで、測定点におけるパターン光の位相を計算し、三角測量の原理を利用して、幾何関係式に代入することにより測定点の高さを計測し、これにより、測定対象物Wの三次元形状を求めることができる。位相シフト法によれば、測定対象物Wの高さを、パターン光の周期を小さくすることによって高分解能で測定することができるが、測定できる高さの範囲が、位相のずれ量で2π以内となる低い高さのもの(高低差の小さいもの)しか測定できない。そこで、空間コード法を兼用する。
(空間コード法)
空間コード法によれば、光が照射される空間を、多数の断面略扇状の小空間に分け、この小空間に一連の空間コード番号を付すことができる。このため、測定対象物Wの高さが高くても、すなわち高低差が大きくても、光が照射される空間内にあれば、空間コード番号から高さが演算できる。したがって、高さの高い測定対象物Wについても全体にわたって形状を測定することができる。このように空間コード法によれば、許容高さのレンジ(ダイナミックレンジ)が広くなる。
(照明装置3の詳細構成)
図4に示すように、実施形態1に係る照明装置3は、照明ハウジング30と、第1投光部31と、第2投光部32と、第3投光部33と、第4投光部34と、投光制御部39とを備えている。図1に示すように照明装置3とコントローラ部4とは接続線3aによって接続されているが、照明装置3とコントローラ部4とは無線接続するようにしてもよい。
照明装置3は、パターン光を投影するためだけのパターン光投影専用装置としてもよいし、測定対象物Wを観察するための観察用照明を兼用する装置としてもよい。照明装置3をパターン光投影専用装置とする場合には、パターン光投影専用装置とは別体、又はパターン光投影専用装置と一体的に観察用照明装置を設けることができる。観察用照明装置は、発光ダイオード、半導体レーザ、ハロゲンライト、HID等を利用することができる。
照明ハウジング30は、平面視における中心部に開口部30aを有しており、第1辺部30A、第2辺部30B、第3辺部30C及び第4辺部30Dが連続して平面視で矩形に近い形状をなしている。第1辺部30A、第2辺部30B、第3辺部30C及び第4辺部30Dは、直線状に延びているので、開口部30aも平面視で矩形に近い形状をなしている。
尚、照明ハウジング30の外形状や開口部30aの形状は、図示した形状に限られるものではなく、例えば円形等であってもよい。図1に示す開口部30aの中心軸Aは、開口部30aの中心を通り、かつ、照明ハウジング30の下面に対して直交する方向に延びる軸である。照明ハウジング30の下面が水平となるように照明装置3が設置される場合には、開口部30aの中心軸Aが鉛直に延びることになるが、照明装置3は、照明ハウジング30の下面が傾斜した状態となるように設置することもでき、この場合は、開口部30aの中心軸Aが傾斜することになる。
尚、開口部30aの中心軸Aは、厳密に開口部30aの中心を通らなくてもよく、測定対象物Wの大きさ等にもよるが、開口部30aの中心から数mm程度の離れたところを通る軸も中心軸Aとすることができる。つまり、開口部30aの中心及びその近傍を通る軸を中心軸Aと定義することができる。中心軸Aの延長線は、載置面100と交差することになる。
以下の説明では、便宜上、図4に示すように第1辺部30A側を照明装置3の左側といい、第2辺部30B側を照明装置3の右側といい、第3辺部30C側を照明装置3の上側といい、第4辺部30D側を照明装置3の下側というものとするが、これは照明装置3の使用時の方向を特定するものではなく、使用時には照明装置3がどのような向きであってもよい。
照明ハウジング30の第1辺部30A、第2辺部30B、第3辺部30C及び第4辺部30Dの内部は中空状である。第1辺部30Aの内部には、第1投光部31が収容されている。第2辺部30B、第3辺部30C及び第4辺部30Dの内部には、それぞれ、第2投光部32、第3投光部33及び第4投光部34が収容されている。第1投光部31と第2投光部32とがペアであり、第3投光部33と第4投光部34とがペアである。また、照明ハウジング30の内部には、投光制御部39も収容されている。
第1辺部30Aと第2辺部30Bとは、中心軸Aを挟んで対向するように配置されているので、第1投光部31及び第2投光部32は中心軸Aを対称の中心として左右対称(点対称)となるように配置されることになり、中心軸Aの周方向に互いに離れることになる。
また、第3辺部30Cと第4辺部30Dも中心軸Aを挟んで対向するように配置されているので、第3投光部33及び第4投光部34は中心軸Aを対称の中心として上下対称(点対称)となるように配置されることになり、中心軸Aの周方向に互いに離れることになる。平面視では、中心軸Aを中心として右周りに、第1投光部31、第3投光部33、第2投光部33、第4投光部34の順に4つの投光部が配置されることになる。
図5は、本発明の実施形態2に係る照明装置3の底面図である。この実施形態2では、照明ハウジング30の内部に8つの投光部31~38が設けられている。第1投光部31と第3投光部33との間に第5投光部35が設けられ、第2投光部32と第4投光部34との間に第6投光部36が設けられ、第2投光部32と第3投光部33との間に第7投光部37が設けられ、第1投光部33と第4投光部34との間に第8投光部38が設けられている。第5投光部35と第6投光部36とがペアであり、中心軸Aを対称の中心として互いに対称となるように配置される。また、第7投光部37と第8投光部38とがペアであり、中心軸Aを対称の中心として互いに対称となるように配置される。平面視では、中心軸Aを中心として右周りに、第1投光部31、第5投光部35、第3投光部33、第7投光部37、第2投光部32、第6投光部36、第4投光部34、第8投光部38の順に配置されることになる。
また、実施形態2の照明装置3では、測定対象物Wを照明して観察するための観察用照明50が投光部31~38とは別に設けられている。観察用照明50は、照明ハウジング30の底部における外周部に設けられており、第1~第8投光部31~38を囲む環状をなしている。図6に示すように、観察用照明50は、基板51aと、基板51aに実装されて観察用照明光を出射する複数の観察用発光ダイオード51bと、カバー部材52とを有している。基板51aは、第1~第8投光部31~38を囲むように配置されている。複数の観察用発光ダイオード51bは、第1~第8投光部31~38を囲むように、周方向に互いに間隔をあけて設けられている。カバー部材52は、観察用発光ダイオード41bを光出射面側から覆うように設けられており、透光性を有するとともに、光を拡散させる性質を持った材料で構成されている。
(第1投光部31の構成)
実施形態1の照明装置1の第1~第4投光部31~34は、実施形態2の照明装置1の第1~第4投光部31~34と同じである。
図6に示すように、第1投光部31は、ケーシング31aと、拡散光を出射する第1光源となる第1LED(発光ダイオード)31bと、該第1LED31bから出射された拡散光を受けて互いに異なるパターンを有する複数の第1測定用パターン光を順次生成して測定対象物Wに照射する第1LCD(第1パターン光生成部)31dとを備える。LCDは、liquid crystal display、即ち液晶パネルであり、よって、第1LCD31dは、第1液晶パネルである。光源は、発光ダイオードに限られるものではなく、拡散光を出射する発光体であればよい。
図7に示すように、第1LCD31dは、第1LED31bに対応して配置されており、第1LED31bの光出射面が第1LCD31dの方を向いている。これにより、第1LED31bから出射された光が第1LCD31dに確実に入射することになる。発光ダイオードとしては、例えば白色発光ダイオードを用いることができる。第1LCD31dは、照明ハウジング30の開口部30aの中心軸Aと直交する平面(図6に仮想線200で示す)内に、当該第1LCD31dの表示面(出射面)が位置するように設けられており、平面200と第1LCD31dの表示面とが同一平面に位置している。
第2投光部32は第1投光部31と同様に構成されている。具体的には、図6に示すように、第2投光部32は、ケーシング32aと、基板32cに実装された第2LED32bと、第2LED32bに対応して配置された第2LCD(第2パターン光生成部)32dとを備えている。第1LED31bと、第2LED32bとが対をなしている。第1LED31bと、第2LED32bとは、互いの相対位置を補正可能に照明ハウジング30に取り付けられている。相対位置の補正の詳細については後述する。
以下、第1投光部31の構成について詳細に説明する。図6及び図7に示すように、第1投光部31の第1LED31bは、複数あるとともに、照明ハウジング30内において上部に設けられている。第1LED31bの配列方向は、光の出射方向と交差する方向である。
すなわち、ケーシング31aの内部には、その上方に基板31cが配設されている。基板31cの下に向く面には、複数の第1LED31bが実装されている。複数の第1LED31bは直線状に並ぶように配置することもできるし、隣合う第1LED31bが上下方向にずれるように配置することもできる。一次元方向に変化する周期的な照度分布を有するパターン光を生成する場合、第1LED31bは、パターン光の照度が変化しない方向に並ぶように配置されることになる。複数の第1LED31bを図4に示す照明ハウジング30の第1辺部30Aの長手方向に沿って並べることで、第1LED31bから出射する光は、第1辺部30Aの長手方向にほぼ連続した光になる。
複数の第1LED31bの光の出射方向は同じにすることができ、この実施形態では、図1に左下がりの斜線で示すように、第1LED31bの直下から少なくとも照明ハウジング30の開口部30aの中心軸Aよりも第2辺部30B側(照明装置3の右側)に達するように設定されている。複数の第1LED31bによる光の照射範囲は、撮像装置2による撮像視野よりも広く設定されている。
複数の第1LED31bの光の出射範囲について具体的に説明する。図17に示すように、第1投光部31と第2投光部32との離間方向をX方向とし、上下方向をZ方向とする。照明装置3は、該照明装置3の下面が水平(載置面100と平行)となるように配置され、測定対象物Wの載置面100から上方に「1」だけ離れて設置されているものとする。X=0を第1LED31bの直下とし、第1LED31bから(X,Z)=(0,0)の点Cまで延びる直線Dを引く。また、第1LED31bから(X,Z)=(1,0)の点Eまで延びる直線Fを引く。このとき、複数の第1LED31bの光の出射範囲は、直線Dと直線Fとで挟まれた領域となるように、第1LED31bの向きが設定されるとともに、第1LED31bの光源用レンズが設計されている。
図6に示すように、第1LCD31dは、第1LED31bから下方に離れた状態で照明ハウジング30に設けられている。第1LCD31dの駆動方式はTN(Twisted Nematic)方式である。したがって、第1LCD31dに印加される電圧が0のとき液晶組成物(液晶分子)が表示面と平行に並んで第1LED31bの光を通過させる一方、この状態から電圧を上げていくと、液晶組成物が表示面に対して垂直に立ち上がり、最大電圧になったときに第1LED31bの光を遮ることになる。
(LEDとLEDの相対位置)
第1LED31bと第1LCD31dとの相対的な位置関係について説明する。図9に示すように、第1LCD31dの表示面は、照明ハウジング30の開口部30aの中心軸Aと直交する平面200と同一面上に位置しており、第1LCD31dにおける照明ハウジング30の径方向外方の端部を外端部側とし、第1LCD31dにおける照明ハウジング30の径方向内方の端部を内端部側とする。第1LED31bは、第1LCD31dにおける外端部側の上方に配置されている。図9における符号SEGは、第1LCD31dを構成するセグメントである。黒色のセグメントSEGは光を透過させないセグメントであり、白色のセグメントSEGは光を透過させるセグメントである。このように、第1LCD31dの表示面に、黒色のセグメントSEGと白色のセグメントSEGとを交互に形成することで、第1LCD31dを透過した光は、その下方に図示するように光の強度が周期的に変化する正弦波状のパターン光となる。これがパターン光の生成原理である。黒色のセグメントSEGと白色のセグメントSEGの個数、間隔、形成位置は任意に変更することができ、波の周期、位相が異なる複数種のパターン光を生成することができる。
黒色のセグメントSEGの個数と、白色のセグメントSEGの個数は同じにすることができる。したがって、パターン光の生成時、第1LCD31dには、光を透過させる領域及び光を透過させない領域を等幅にして交互に形成することができる。これは、後述する投光制御部39によって行われる。
ここで、液晶パネルが持つ一般的な性質について説明すると、液晶パネルの表示面の法線と平行に光を入射させると光の透過率が最も高くなり、表示面の法線と光の入射方向とのなす角度が大きくなればなるほど光の透過率が低くなる。液晶パネルは、このような光の入射方向によって光の透過率が変化する角度特性を有しているので、液晶パネルを用いてパターン光を生成すると、パターン光の位置に応じた輝度ムラが発生する懸念がある。
このことに対し、本実施形態では、第1LED31bから出射された光が第1LCD31dに対して当該第1LCD31dの有効角度範囲内で入射されるように、第1LCD31dと、第1LED31bとの相対位置が設定されている。これにより、第1LED31bから出射された拡散光が第1LCD31dの有効角度範囲内で当該第1LCD31dに入射するので、第1LCD31dが持つ角度特性に起因するパターン光の位置に応じた輝度ムラが発生しにくくなる。
第1LCD31dの有効角度範囲とは、パターン光のコントラストを所定以上確保可能な角度範囲とすることができる。パターン光のコントラストが所定以上というのは、測定対象物Wから反射したパターン光を撮像装置2が受光した際に、検査対象画像を生成可能なパターン画像を撮像装置2によって得ることができる程度である。すなわち、第1LCD31dが持つ角度特性に起因して、第1LCD31dの表示面の法線と光の入射方向とのなす角度が大きくなればなるほど光の透過率が低くなるので、光の入射角度によってはパターン光のコントラストの低下を招くことが考えられるが、この実施形態では、撮像装置2によって撮像されたパターン画像に基づいて測定対象物Wの高さ情報を得ることが可能な程度のコントラスト以上となるように、第1LCD31dと第1LED31bとの相対位置を設定している。
また、第1LCD31dの有効角度範囲は次のように定義することもできる。例えば、光を最も通しやすい液晶分子配列状態にある第1LCD31dを第1LED31bから出射された光が通過する際に、当該光が減衰する減衰率が10%以下となる角度範囲を、第1LCD31dの有効角度範囲とする。光の減衰率が10%以下となるように第1LCD31dと第1LED31bとの相対位置を設定することで、撮像装置2によって撮像されたパターン画像に基づいて測定対象物Wの高さ情報を得ることが可能な程度のコントラストを確保することができる。
光を最も通しやすい液晶分子配列状態とは、液晶分子の配向が光路を最も遮らない方向(上述した電圧0のとき)にある状態である。尚、前記減衰率が5%以下となるように、第1LCD31dの有効角度範囲を設定することもできる。
また、図9に示すように、第1LED31bの中心(光出射面の中心)から第1LCD31dの表示面に向けて引いた法線201と、当該第1LED31bの中心から第1LCD31dの有効角度範囲における照明ハウジング30の径方向内方に位置する内端部側の境界に向けて引いた内側仮想線202とのなす角度αが50°以下となるように、第1LED31bと第1LCD31dとの相対位置を設定することができる。これにより、第1LED31bから出射された光が第1LCD31dに入射する際の角度範囲がTN方式の液晶パネルに最適な範囲となり、その結果、パターン光のコントラストを所定以上確保することができる。法線201と内側仮想線202とのなす角度αは45°以下にすることができ、また、40°以下にすることもできる。
また、第1LED31bの中心から第1LCD31dの表示面に向けて引いた法線201と、第1LED31bの中心から第1LCD31dの有効角度範囲における外端部側の境界に向けて引いた外側仮想線203とのなす角度βが10°以下となるように設定されている。法線201と外側仮想線203とのなす角度は5°以下にすることができ、また、0°であってもよい。これにより、第1LED31bから出射された光が第1LCD31dに入射する際の角度範囲がTN方式の液晶パネルに最適な範囲となり、その結果、パターン光のコントラストを所定以上確保することができる。
第1LED31bと第1LCD31dの表面(表示面)との距離と、第1LCD31dの有効角度範囲の幅(第1LCD31dの外端部と内端部との距離)とを略一致させてもよい。
(LEDのサイズ)
図9に示すように、第1LED31bの光出射面における波が連続する方向の寸法Kは、第1LCD31dに形成される波の半周期の寸法以下に設定されている。この実施形態では、第1LCD31dにおける波が連続する方向に並ぶ8個のセグメントSEGにより1つの波を形成しているので、4個のセグメントSEGが波の半周期に相当することになる。つまり、波が連続する方向に並ぶ4個のセグメントSEGの寸法Jと、第1LED31bの光出射面の寸法Kとが等しいか、寸法Jの方が長くなっている。
実験の結果より、第1LED31bの光出射面の寸法Kが、第1LCD31dの表示面に形成されている波の半周期の寸法(光を透過させる部分の寸法と同じ)、即ち、寸法J以下であると、パターン光がきちんとした正弦波状の照度分布を有するものにならない場合があることが分かっている。正弦波状のパターン光がきちんと生成されていないと、画像処理によって高さ画像を得た際に、高さ画像中に高周波のうねり、即ち、実際には平面であるのにうねったような面ができてしまうことがあり、検査の障害になる。これは正弦波状以外の波状のパターン光を生成する場合も同様である。
このことに対し、第1LED31bの光出射面の寸法Kが波の半周期の寸法Jを超えるような大きさの発光ダイオードを選択することが考えられるが、一般に入手可能な発光ダイオードのサイズは限られており、光出射面の寸法Kを自由に設定できるわけではなく、本実施形態のように、光出射面の寸法Kが波の半周期の寸法J以下である発光ダイオードを用いざるを得ないことがある。
図10は、第1LED31bの配列形態を示すものである。図10における左右方向は、パターン光の照度が変化しない方向であり、64個の第1LED31bが図10の左側から右側に順に並んでいる。第1LED31bの個数は一例であり、任意に設定することができる。
図10における左端に位置する第1LED31bを第1LED31b-1とし、順に、第1LED31b-2、第1LED31b-3、…とする。そして、図10における右端に位置する第1LED31bを第1LED31b-64とする。第1LED31b-1~64は、パターン光の照度が変化しない方向に並ぶとともに、パターン光の照度が変化する方向(図10における上下方向)に互いにずれるように配置されている。第1LED31b-1~64によって照射される光軸は、直線205上に位置するようになっている。直線205は、パターン光の照度が変化しない方向に延び、LEDアレイの光量が最も多い部分を通る直線である。
第1LED31b-1~64は、その光出射面の中心が、パターン光の照度が変化する方向(図10の上下方向)の所定範囲内に位置するように配置されている。第1LED31b-1の光出射面の中心と、第1LED31b-64の光出射面の中心は、直線205と平行な直線206上に位置しており、これら第1LED31b-1、64の光出射面の中心は、所定範囲の一端に配置されている。第1LED31b-32の光出射面の中心と、第1LED31b-33の光出射面の中心は、直線205と平行な直線207上に位置しており、これら第1LED31b-32、33の光出射面の中心は、所定範囲の他端に配置されている。
光軸が位置する直線205と、前記所定範囲の一端を通る直線206との離間寸法208は、光軸が位置する直線205と、前記所定範囲の他端を通る直線207との離間寸法209と等しく設定されている。寸法208と寸法209とを合わせた寸法210が前記所定範囲を表す寸法となる。光出射面の中心が前記所定範囲の一端に位置する一端発光ダイオードは、第1LED31b-1、64であり、また、光出射面の中心が前記所定範囲の他端に位置する他端発光ダイオードは、第1LED31b-32、33である。また、第1LED31b-2~31、34~63は、各々、光出射面の中心が前記所定範囲の中間に位置する中間発光ダイオードである。これら第1LED31b-2~63は、パターン光の照度が変化する方向に互いにずれるように配置されている。具体的には、第1LED31b-2~31、34~63は、前記所定範囲の一端近傍から他端近傍まで多段階にずれるように配置されている。
第1LED31b-1~64を、その光出射面の中心が前記所定範囲内でずれるように配置したので、図9に示すように、第1LED31b-1~64が並ぶ方向から見たとき、第1LED31b-32、33が上に偏位し、第1LED31b-1、64が下に偏位するようになり、例えば第1LED31b-16等が上下方向中央付近に位置することになる。上述したように、各第1LED31bの光出射面の寸法はKであるが、第1LED31b-1~64を前記所定範囲内でずれるように配置することで、第1LED31b-1~64で構成される見かけ上の光出射面の寸法は、Kよりも長いK’となる。この寸法K’は、第1LCD31dに形成される波の半周期の寸法Jよりも長くなる。これにより、検査対象画像中に高周波のうねりが発生しにくくなる。
第1LCD31dに形成される波の半周期の寸法Jと、第1LED31b-1、64で構成される見かけ上の光出射面における波が連続する方向の寸法K’との比が、1:1.2から1:1.4の範囲内に設定されている。図11は、寸法Jと寸法K’の比と、画素うねりとの関係を示すグラフであり、図11における横軸は寸法Jと寸法K’の比であり、縦軸は画素うねりの程度を表しており、上へいくほど画素うねりが強くなる。このグラフに示すように、寸法Jと寸法K’の比が1以下になると、画素うねりが強くなる一方、1.2を超えると画素うねりが小さくなり、1.4までは低いレベルを保っている。したがって、上記比を1:1.2から1:1.4の範囲内に設定するのが好ましい。
図12は、第1LED31b-1~64の別の配置例を示す図である。この例では、第1LED31b-32、33の光出射面の中心が前記所定範囲の中心に位置し、第1LED31b-1、64の光出射面の中心が前記所定範囲の一端に位置し、第1LED31b-2、63の光出射面の中心が前記所定範囲の他端に位置している。第1LED31bの並び方向中央に近づくにつれて、光出射面の中心が前記所定範囲の中心に近づくように、各第1LED31bが配置されている。この例においても、図9に示すように、第1LED31b-1~64で構成される見かけ上の光出射面の寸法は、Kよりも長いK’となる。
図8に示すように、第1LED31bの光出射面と第1LCD31dとの間には、光出射面から出射された光を拡散させて第1LCD31dに入射させる拡散手段31gを設けることができる。これにより、第1LED31bの光出射面における寸法Kが、第1LCD31dに形成される波の半周期の寸法以下であっても、第1LCD31dへの光の入射形態が、光出射面の寸法が波の半周期の寸法よりも長い場合のような入射形態になるので、検査対象画像中に高周波のうねりが発生しにくくなる。拡散手段31gは、例えば、拡散板または拡散レンズとすることができる。拡散手段31gを設ける場合には拡散効果によって画素うねりが抑制されるので第1LED31b-1~64を上下方向にずらして配置しなくてもよいが、第1LED31b-1~64を上下方向にずらして配置してもよい。
(LED駆動回路及びLCD駆動回路)
図13に示すように、第1投光部31には、第1LED31bを駆動する第1LED駆動回路(光源駆動回路)31eと、第1LCD31dを駆動する第1LCD駆動回路(液晶パネル駆動回路)31fとが設けられている。第1LED駆動回路31eは、第1LED31bに対する供給電流値を変更するための回路であり、投光制御部39によって制御される。よって、第1LED31bは、第1LED駆動回路31eを介して投光制御部39によって制御されることになる。第1LED駆動回路31eによる電流値制御は、DAC制御である。
第1LCD駆動回路31fは、第1LCD31dを構成する各セグメントSEG(図9に示す)に印加する電圧を変更することで各セグメントSEGの液晶組成物の配向を変化させるための回路である。この実施形態では、一例を図16に示すように、第1LCD31dを構成するセグメントSEGが64個あり、64個のセグメントSEGにそれぞれ個別に印加する電圧を変更することができるようになっており、セグメントSEG毎に、第1LED31bから出射された光を通過させる状態と通過させない状態とに切り替えることができる。第1LCD駆動回路31fは、第1LED駆動回路31eと共通の投光制御部39によって制御される。よって、第1LCD31dは、第1LCD駆動回路31fを介して投光制御部39によって制御されることになる。また、第1LED駆動回路31eと第1LCD駆動回路31fとは、共通の投光制御部39によって制御されるので、第1LED駆動回路31eと第1LCD駆動回路31fとを精密に動機させることができる。
投光制御部39によって制御された第1LCD駆動回路31fが第1LCD31dを駆動することで、第1LED31bから出射された拡散光を受けて互いに異なるパターンを有する複数の第1測定用パターン光を順次生成して測定対象物Wに照射することができる。複数の第1測定用パターン光には、空間コード法で用いる空間コード(グレーコード)用のパターン光と、位相シフト法で用いる周期的な照度分布を有するパターン光とが含まれている。
図16の上側には、空間コード用のパターン光を第1LCD31dによって生成する場合を示しており、図16の下側には、位相シフト法で用いる周期的な照度分布を有するパターン光を生成する場合を示している。この図16において黒く塗りつぶされている部分は第1LED31bから出射された拡散光を非通過にするセグメントSEGであり、白色の部分は第1LED31bから出射された拡散光を通過させるセグメントSEGである。また、図16では、第1LCD31dを構成している64個のセグメントSEGが同図の横方向に並ぶように配置された場合を示している。
図16の上側における空間コード用のパターン光の生成の場合は、白黒デューティ比50%で縞幅が全体の半分、4分の1、…と細かくなっていく縞パターンを生成する場合を示している。このように第1LCD31dを制御することで、空間コード用のパターン光を順次生成することができる。
また、図16の下側における位相シフト法用のパターン光の生成の場合は、正弦波縞模様パターンの位相をずらして複数生成する。この例の場合、LCD表示は2値制御にして矩形波のパターンを生成しているが、図9に示すように、第1LCD31dで生成された矩形波のパターンが光照射面上でぼけることによって正弦波状のパターンを得ることができるようになっている。より詳細には、液晶パネルに形成された矩形波上のパターンと、面積を持った発光ダイオードの発光パターンとが組み合わさることで、正弦波に近いパターンを得ることができる。仮にLEDではなく理想的な点光源または線光源だと正弦波パターンではなく、2値パターンが得られる。このため、正弦波パターンを得るためには、LED光源サイズとLCD開口サイズとのバランスが重要になる。またこの例では8つのパターン光を生成している。このように第1LCD31dを制御することで、位相シフト法用のパターン光を順次生成することができる。
つまり、位相シフト法及び/又は空間コード法にしたがう複数のパターン光を順次生成するように、投光制御部39が第1LED31b及び第1LCD31dを制御する。複数のパターン光の内の一のパターン光の投影が完了すると、次のパターン光の投影を行い、この処理を繰り返すことによって全てのパターン光の投影を行う。第1LCD31dによるパターンの形成処理については後述する。
尚、空間コード用のパターン光の数、位相シフト法用のパターン光の数は、図示した数に限られるものではない。
(第2投光部32の構成)
図1に示すように、第2投光部32の第2LED32bの光の出射範囲は、第2LED32bの直下から少なくとも照明ハウジング30の開口部30aの中心軸Aよりも第1辺部30A側(照明装置3の左側)に達するように設定されている。すなわち、第2投光部32の第2LED32bの光の出射範囲は、照明ハウジング30の開口部30aの中心軸Aを対称の中心として、第1投光部31の第1LED31bの光の出射範囲と左右対称となるように設定されている。第2LED32bの光の出射範囲を、図1において右下がりの斜線で示している。
図13に示すように、第2投光部32には、第2LED32bを駆動する第2LED駆動回路(光源駆動回路)32eと、第2LCD32dを駆動する第2LCD駆動回路(液晶パネル駆動回路)32fとが設けられており、これらは投光制御部39によって制御される。第2LCD32dは、第1LCD31dと同様に駆動されるので、第2LED32bから出射された拡散光を受けて互いに異なるパターンを有する複数の第2測定用パターン光を順次生成して測定対象物Wに照射することができる。複数の第2測定用パターン光には、空間コード用のパターン光と、位相シフト法用のパターン光とが含まれている。
第1投光部31から出射されたパターン光と、第2投光部32から出射されたパターン光とが、照明ハウジング30の開口部30aの中心軸A上で交差するように、略同一の広がり角を持つように、第1投光部31と第2投光部32とが中心軸Aの周方向に互いに離れた状態で、照明ハウジング30に一体的に支持されている。「一体的に支持されている」とは、第1投光部31と第2投光部32との相対的な位置関係が設置時や使用時に変化しないように、第1投光部31と第2投光部32が照明ハウジング30に対して固定されているということである。したがって、運用時には、照明ハウジング30内における第1投光部31及び第2投光部32の相対位置は変化しないので、例えば図17に示すように、第1LED31bの中心部と、第2LED32bの中心部との離間距離をlとしておけば、運用時には、第1LED31bの中心部と、第2LED32bの中心部との離間距離はlに固定される。第1LED31bの中心部と、第2LED32bの中心部との離間距離は、照明ハウジング30内における第1投光部31及び第2投光部32の相対位置情報であり、予めコントローラ部4や撮像装置2に記憶させておくことができる。尚、運用時以外の時には、第1LED31bの中心部と、第2LED32bの中心部との離間距離を変更することができる。
また、照明ハウジング30内における第1投光部31及び第2投光部32の相対位置情報は、第1LED31bの中心部と、第2LED32bの中心部との直線距離であってもよいし、各LEDから照射された光をミラー等で折り返して測定対象物Wに照射する場合には、その光の経路長を考慮した距離とすることもできる。
第1LCD31dは照明装置3の左側に配置されているので、載置面100に載置された測定対象物Wに対して左側からパターン光を投影する。また、第2LCD32dは照明装置3の右側に配置されているので、載置面100に載置された測定対象物Wに対して右側からパターン光を投影する。第1LCD31d及び第2LCD32dは測定対象物Wに対してそれぞれ異なる方向からパターン光を投影する液晶パネルである。
(第3投光部33と第4投光部34の構成)
第3投光部33及び第4投光部34は、第1投光部31と同様に構成されており、図13に示すように、第3投光部33は、第3LED(第3光源)33bと、第3LED33bに対応して配置された第3LCD(第3パターン光生成部)33dとを備え、第4投光部34は、第4LED(第4光源)34bと、第4LED34bに対応して配置された第4LCD(第4パターン光生成部)34dとを備えている。第3LED33bと、第4LED34bとが対をなしている。第3LED33bと、第4LED34bとは、互いの相対位置を補正可能に照明ハウジング30に取り付けられている。相対位置の補正の詳細については後述する。
第3LCD33dと第4LCD34dの表示面は、照明ハウジング30の開口部30aの中心軸Aと直交する平面(図6に符号200で示す面)と同一平面に位置している。
第3投光部33の第3LED33bの光の出射範囲と、第4投光部34の第4LED34bの光の出射範囲とは、第1投光部31の第1LED31bの光の出射範囲と、第2投光部32の第2LED32bの光の出射範囲との関係と同じになるように設定されている。具体的には、第3投光部33の第3LED33bの光の出射範囲は、第3LED33bの直下から少なくとも照明ハウジング30の開口部30aの中心軸Aよりも第4辺部30D側に達するように設定されている。第4投光部34の第4LED34bの光の出射範囲は、第4LED34bの直下から少なくとも照明ハウジング30の開口部30aの中心軸Aよりも第3辺部30C側に達するように設定されている。したがって、照明ハウジング30の開口部30aの中心軸Aを対称の中心としたとき、上下対称となるように、第3投光部33の第3LED33bの光の出射範囲と、第4投光部34の第4LED34bの光の出射範囲とが設定されている。
図13に示すように、第3投光部33には、第3LED33bを駆動する第3LED駆動回路(光源駆動回路)33eと、第3LCD33dを駆動する第3LCD駆動回路(液晶パネル駆動回路)33fとが設けられており、これらは投光制御部39によって制御される。第3LCD33dは、第1LCD31dと同様に駆動されるので、第3LED33bから出射された拡散光を受けて互いに異なるパターンを有する複数の第3測定用パターン光を順次生成して測定対象物Wに照射することができる。複数の第3測定用パターン光には、空間コード用のパターン光と、位相シフト法用のパターン光とが含まれている。
また、第4投光部34には、第4LED34bを駆動する第4LED駆動回路(光源駆動回路)34eと、第4LCD34dを駆動する第4LCD駆動回路(液晶パネル駆動回路)34fとが設けられており、これらは投光制御部39によって制御される。第4LCD34dは、第1LCD31dと同様に駆動されるので、第4LED34bから出射された拡散光を受けて互いに異なるパターンを有する複数の第4測定用パターン光を順次生成して測定対象物Wに照射することができる。複数の第4測定用パターン光には、空間コード用のパターン光と、位相シフト法用のパターン光とが含まれている。
第3投光部33から出射されたパターン光と、第4投光部34から出射されたパターン光とが、照明ハウジング30の開口部30aの中心軸A上で交差するように、略同一の広がり角を持つように、第3投光部33と第4投光部34とが中心軸Aの周方向に互いに離れた状態で、照明ハウジング30に一体的に支持されている。したがって、照明ハウジング30内における第3投光部33及び第4投光部34の相対位置は変化しないので、第3LED33bの中心部と、第4LED34bの中心部との離間距離を予め所定の値に設定しておけば、運用時に、第3LED33bの中心部と、第4LED34bの中心部との離間距離は所定の値に固定される。第3LED33bの中心部と、第4LED34bの中心部との離間距離は、照明ハウジング30内における第3投光部33及び第4投光部34の相対位置情報であり、予めコントローラ部4や撮像装置2に記憶させておくことができる。
第3LCD33dは照明装置3の上側に配置されているので、載置面100に載置された測定対象物Wに対してその方向からパターン光を投影する。また、第4LCD34dは照明装置3の下側に配置されているので、載置面100に載置された測定対象物Wに対してその方向からパターン光を投影する。第3LCD33d及び第4LCD34dは測定対象物Wに対してそれぞれ異なる方向からパターン光を投影する液晶パネルである。
尚、図5に示す第5~第8投光部35~38も第1~第4投光部31~34と同様に構成されている。
(投光制御部39による制御)
図13に示すように、この実施形態では、第1LED駆動回路31e、第2LED駆動回路32e、第3LED駆動回路33e、第4LED駆動回路34e、第1LCD駆動回路31f、第2LCD駆動回路32f、第3LCD駆動回路33f及び第4LCD駆動回路34fが共通の投光制御部39によって制御されるので、これら駆動回路を精密に同期させることができる。同様に、第5~第8投光部35~38もLED駆動回路とLCD駆動回路とを有しており、精密に同期させることができる。
投光制御部39は、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dの内の任意の一の液晶パネルから複数のパターン光の内の一のパターン光の投影が完了するまでに、少なくとも次にパターン光を投影する他の液晶パネル上に、次に投影すべきパターンの形成処理を完了させ、前記一の液晶パネルによるパターン光の投影が完了した後に、前記他の液晶パネルに前記次のパターン光を投影する処理を繰り返し実行するように、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dを制御する。
具体的には、照明装置3の投光制御部39には、コントローラ部4から、パターン光の投影を開始するトリガ信号と、パターン光の投影中に撮像装置2との同期を取るための再同期トリガ信号とが入力されるようになっている。トリガ信号は、PLC101から入力するようにしてもよい。例えば、PLC101に接続された光電センサ等による検出結果に基づいてトリガ信号を投光制御部39に入力することができる。トリガ信号を生成する装置は、PLC101でなくてもよく、光電センサ等であってもよい。この場合、光電センサ等を投光制御部39に直接接続するか、コントローラ部4を介して接続することができる。
トリガ信号が入力されると、投光制御部39は、第1LCD31d上に現在形成されているパターンを、当該現在の表示形態とは異なるパターンに切り替えるように、第1LCD駆動回路31fを介して第1LCD31dを制御する。ここで、第1LCD31d上のパターンを切り替えるためには、第1LCD31dを構成している各セグメントの液晶組成物に対する印加電圧を第1LED駆動回路31eが周知の手法によって変化させる。液晶組成物に対する印加電圧を変化させてから当該液晶組成物がその配向を変えるまでの時間は、後述する撮像装置2による撮像間隔よりも長い。つまり、第1LCD31d上に現在形成されているパターンを異なるパターンに切り替えるには、撮像装置2による撮像間隔よりも長い所定のパターン切り替え時間が必要になり、あるパターンから別のパターンに切り替える時間が必要になる。第2LCD32d、第3LCD33d及び第4LCD34dも同様に、パターンを順に切り替えるための時間が必要になる。
第1LCD31d上にあるパターンが完全に形成されている間に、そのパターンの形成と同期して第1LED31bから光を出射し、第2LED32b、第3LED33b及び第4LED34bからは光を出射させないように制御する。これにより、第1LCD31d上に形成されているパターンのみがパターン光として測定対象物Wに投影されるので、第2LCD32d、第3LCD33d及び第4LCD34d上に形成されているパターンは、測定対象物Wへ投影されることはない。
第1LCD31d上にパターンが形成されている時間は、第2LCD32d上にパターンを形成するためのパターン切り替え時間の一部である。第2LCD32d上にパターンを形成するため時間は、第1LCD31d上にパターンが形成されている時間よりも長くなっており、具体的には、第1LCD31d上にパターンの形成が完了するよりも前から始まっている。
測定対象物Wに投影されているパターンのパターン光の撮像が完了すると、第2LCD32d上にパターンが完全に形成されている間に、パターンの形成と同期して第2LED32bから光を出射し、第1LED31b、第3LED33b及び第4LED34bからは光を出射させないように制御する。これにより、第2LCD32d上に形成されているパターンのみがパターン光として測定対象物Wに投影される。
第2LCD32d上にパターンが形成されている時間は、第3LCD33d上にパターンを形成するための切り替え時間の一部である。第3LCD33d上にパターンを形成するため時間は、第2LCD32d上にパターンが形成されている時間よりも長くなっており、具体的には、第1LCD31d上にパターンの形成が完了するよりも前から始まっている。
測定対象物Wに投影されているパターンのパターン光の撮像が完了すると、第3LCD33d上にパターンが完全に形成されている間に、パターンの形成と同期して第3LED33bから光を出射し、第1LED31b、第2LED32b及び第4LED34bからは光を出射させないように制御する。これにより、第3LCD33d上に形成されているパターンのみがパターン光として測定対象物Wに投影される。
第3LCD33d上にパターンが形成されている時間は、第4LCD34d上にパターンを形成するための切り替え時間の一部である。第4LCD34d上にパターンを形成するため時間は、第3LCD33d上にパターンが形成されている時間よりも長くなっており、具体的には、第1LCD31d上にパターンの形成が完了するよりも前から始まっている。
測定対象物Wに投影されているパターンのパターン光の撮像が完了すると、第4LCD34d上にパターンが完全に形成されている間に、パターンの形成と同期して第4LED34bから光を出射し、第1LED31b、第2LED32b及び第3LED33bからは光を出射させないように制御する。これにより、第4LCD34d上に形成されているパターンのみがパターン光として測定対象物Wに投影される。このパターンが形成されている時間の一部は、第1LCD31d上に次のパターンを形成するための切り替え時間の一部である。
つまり、この実施形態では、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dの内、一の液晶パネルによる複数のパターン光の投影を順次連続して行うのではなく、一の液晶パネルによる1番目のパターン光の投影が完了すると、別の液晶パネルによる1番目のパターン光の投影を行い、その別の液晶パネルによる1番目のパターン光の投影が完了すると、更に別の液晶パネルによる1番目のパターン光の投影を行い、そのようにして1番目のパターン光の投影が全ての液晶パネルで完了すると、前記一の液晶パネルによる2番目のパターン光の投影を行い、前記一の液晶パネルによる2番目のパターン光の投影が完了すると、前記別の液晶パネルによる2番目のパターン光の投影を行い、その別の液晶パネルによる2番目のパターン光の投影が完了すると、更に別の液晶パネルによる2番目のパターン光の投影を行うように、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dを制御する。したがって、パターン光の投影を行っていない液晶パネルでは、次に投影するパターンの形成準備を行うことができるので、液晶パネルの応答速度の遅さをカバーすることができる。
前記した例では、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dの全てでパターン光を投影する場合について説明したが、これに限らず、第1LCD31d及び第2LCD32dのみでパターン光を投影すること、第3LCD33d及び第4LCD34dのみでパターン光を投影することもできる。第1LCD31d及び第2LCD32dのみでパターン光を投影する場合には、パターン光の投影を交互に行えばよく、例えば、第1LCD31dで1番目のパターン光の投影を行っている間に、第2LCD32d上に1番目のパターンの形成処理を行い、その後、第2LCD32dで1番目のパターン光の投影を行っている間に、第1LCD31d上に2番目のパターンの形成処理を行い、これを繰り返す。第3LCD33d及び第4LCD34dのみでパターン光を投影する場合も同様である。
投光制御部39には、トリガ信号及び再同期トリガ信号以外にも、コントローラ部4からパターン光の形成情報も送信され、送信されたパターン光の形成情報は、一旦、投光制御部39に記憶されて、このパターン光の形成情報に基づいて、第1LED31b、第2LED32b、第3LED33b及び第4LED34bと、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dとを制御する。
パターン光の形成情報には、例えば、照射モード、空間コード用のパターン光の照射の有無、空間コード用のパターン光の具体的なパターン及び数、位相シフト法用のパターン光の照射の有無、位相シフト法用のパターン光の具体的なパターン及び数、パターン光の照射順等が含まれている。照射モードには、第1LCD31d及び第2LCD32dのみでパターン光を照射して測定対象物Wに投影する第1照射モードと、第1LCD31d、第2LCD32d、第3LCD33d及び第4LCD34dの全てでパターン光を投影する第2照射モードと、第3LCD33d及び第4LCD34dのみでパターン光を照射して測定対象物Wに投影する第3照射モードとが含まれている。
(撮像装置2の構成)
図1等に示すように、撮像装置2は、照明装置3とは別体に設けられている。図1に示すように撮像装置2とコントローラ部4とは接続線2aによって接続されているが、撮像装置2とコントローラ部4とは無線接続するようにしてもよい。
撮像装置2は、画像処理装置1の一部を構成するものであることから、撮像部ということもできる。撮像装置2が照明装置3とは別体に設けられているので、撮像装置2と照明装置3とを別々に設置することができる。よって、撮像装置2の設置場所と照明装置3の設置場所とを変えること、撮像装置2の設置場所と照明装置3の設置場所とを離すことができる。これにより、撮像装置2及び照明装置3の設置時の自由度を大きく向上させ、あらゆる生産現場等へ画像処理装置1を導入することが可能になる。
尚、撮像装置2の設置場所と照明装置3の設置場所と同じにすることができる現場であれば、撮像装置2と照明装置3とを同じ部材に取り付けることもでき、設置状態は使用者が現場に応じて任意に変更することができる。また、撮像装置2と照明装置3とを同じ部材に取り付けて一体化して使用することもできる。
撮像装置2は、照明装置3の照明ハウジング30の上方、即ちパターン光の出射方向とは反対側において、照明ハウジング30の開口部30aを覗くように配置されている。したがって、撮像装置2は、照明装置3の照明ハウジング30の開口部30aを介して、測定対象物Wから反射した第1測定用パターン光を受光して複数の第1パターン画像を生成するとともに、測定対象物Wから反射した第2測定用パターン光を受光して複数の第2パターン画像を生成することができる。また、照明装置3が第3投光部33及び第4投光部34を有している場合には、撮像装置2は、照明装置3の照明ハウジング30の開口部30aを介して、測定対象物Wから反射した第3測定用パターン光を受光して複数の第3パターン画像を生成するとともに、測定対象物Wから反射した第4測定用パターン光を受光して複数の第4パターン画像を生成することができる。同様に、第5~第8投光部35~38を有している場合には、第5~第8パターン画像を生成することもできる。
図3に示すように、撮像装置2は、光学系を構成するレンズ21と、レンズ21から入射した光を受光する受光素子からなる撮像素子22とを備えており、レンズ21及び撮像素子22によって、いわゆるカメラが構成されている。レンズ21は、測定対象物W上の少なくとも高さ測定エリアまたは検査対象エリアを撮像素子22に結像させるための部材である。レンズ21の光軸と、照明装置3の照明ハウジング30の開口部30aの中心軸Aとを一致させてもよいが、一致させなくてもよい。また、撮像装置2と照明装置3との中心軸A方向の距離は、撮像装置2による撮像を照明装置3が妨げない範囲で任意に設定することができ、設置の自由度が高く設計されている。
また、撮像素子22としては、CCDやCMOSセンサ等を利用することができる。撮像素子22は、測定対象物Wからの反射光を受光して画像を取得し、取得した画像データをデータ処理部24に出力する。この例では撮像素子22として高解像度のCMOSセンサを利用している。尚、カラーで撮像可能な撮像素子を利用することもできる。撮像素子22は、パターン投影画像以外に、通常の輝度画像を撮像することもできる。通常の輝度画像を撮像する場合には、前記照明装置3の全てのLED31b、32b、33b、34bを点灯させるとともに、パターン光を形成しないように全てのLCD31d、32d、33d、34dを制御すればよい。図5及び図6に示すような観察用照明50がある場合にはそれを利用して通常の輝度画像を撮像装置2で撮像することもできる。
撮像装置2は、前記カメラの他、露光制御部23と、データ処理部24と、位相計算部26と、画像処理部27と、画像記憶部28と、出力制御部29とを更に備えている。データ処理部24、位相計算部26、画像処理部27及び画像記憶部28は、撮像装置2に内蔵されている共通のバスライン25に接続されていて相互にデータの送受信が可能になっている。露光制御部23、データ処理部24、位相計算部26、画像処理部27、画像記憶部28及び出力制御部29は、ハードウェアで構成することもできるし、ソフトウェアで構成することもできる。
(露光制御部23の構成)
露光制御部23には、コントローラ部4から、撮像を開始するトリガ信号と、撮像中に照明装置3との同期を取るための再同期トリガ信号とが入力されるようになっている。露光制御部23に入力されるトリガ信号及び再同期トリガ信号は、照明装置3に入力されるトリガ信号及び再同期トリガ信号と同じタイミングとなるように、入力タイミングが設定されている。
露光制御部23は、撮像素子22を直接制御する部分であり、露光制御部23に入力されたトリガ信号及び再同期トリガ信号によって撮像素子22の撮像タイミング及び露光時間を制御する。露光制御部23には、コントローラ部4から撮像条件に関する情報が入力されて記憶されるようになっている。撮像条件に関する情報には、例えば、撮像回数、撮像間隔(撮像後、次の撮像を行うまでの時間)、撮像時の露光時間(シャッタースピード)等が含まれている。
コントローラ部4から送出されるトリガ信号の入力によって露光制御部23が撮像素子22に撮像を開始させる。この実施形態では、1回のトリガ信号の入力によって複数のパターン画像を生成する必要があることから、撮像中に再同期トリガ信号がコントローラ部4から入力され、この再同期トリガ信号の入力によって照明装置3との同期を取ることができるようになっている。
具体的には、第1LCD31d上に完全に形成されているパターンがパターン光として測定対象物Wに投影されている間に、撮像素子22が撮像(露光)するように、露光制御部23が撮像素子22を制御する。露光時間と、パターンがパターン光として測定対象物Wに投影されている時間とは、同じにすることができるが、露光開始のタイミングを、パターン光が投影開始されたタイミングよりも若干遅くしてもよい。
その後、第2LCD32d上に形成されているパターンがパターン光として測定対象物Wに投影されている間に、撮像素子22が撮像するように、露光制御部23が撮像素子22を制御する。この撮像が完了すると、第3LCD33d上に形成されているパターンがパターン光として測定対象物Wに投影されている間に、撮像素子22が撮像するように、露光制御部23が撮像素子22を制御する。その後、第4LCD34d上に形成されているパターンがパターン光として測定対象物Wに投影されている間に、撮像素子22が撮像するように、露光制御部23が撮像素子22を制御する。これを繰り返すことにより、複数の第1パターン画像、複数の第2パターン画像、複数の第3パターン画像及び複数の第4パターン画像を生成する。
撮像素子22は、撮像を完了すると、その都度、画像データをデータ処理部24に転送する。尚、画像データは、図3に示す画像記憶部28に記憶させておくことができる。すなわち、撮像素子22による撮像タイミングと、コントローラ部4の画像の要求タイミングとは一致していないので、このズレを吸収するバッファとして画像記憶部28が機能するようになっている。
撮像と次の撮像との間に、画像データを図3に示すデータ処理部24に転送するようにしているが、これに限らず、例えば、撮像とデータ転送とを並行して行うこともできる。あるパターン光が照射されている測定対象物Wの撮像が完了すると、次のパターンのパターン光が照射されている測定対象物Wの撮像を行っているときに、前のパターンの画像データをデータ処理部24に転送する。このように、前回撮像した画像データを次の撮像時にデータ処理部24に転送することもできる。
また、あるパターンのパターン光が照射されている測定対象物Wを複数回撮像することもできる。この場合、第1LED31bは、撮像素子22による撮像時にのみ点灯させることができる。撮像素子22の露光時間は、1回目の撮像時が2回目の撮像時よりも長くなるように設定することができるが、2回目の撮像時が1回目の撮像時よりも長くなるように設定することもできる。他のパターンのパターン光が照射されている測定対象物Wを撮像するときも、複数回撮像できる。これにより、複数のパターン光の内の一のパターン光が測定対象物Wに投影されている間に、露光時間が異なる複数の画像を生成することができる。この露光時間が異なる複数の画像は、後述するハイダイナミックレンジ処理を行う際に使用される。尚、あるパターンのパターン光が照射されている測定対象物Wを複数回撮像する間、第1LED31bを点灯させ続けてもよい。
(データ処理部24の構成)
図3に示すデータ処理部24は、撮像素子22から出力される画像データに基づいて複数のパターン画像セットを生成する。撮像素子22が第1パターン画像を複数生成すると、データ処理部24は、複数の第1パターン画像からなる第1パターン画像セットを生成する。同様に、複数の第2パターン画像からなる第2パターン画像セットを生成し、複数の第3パターン画像からなる第3パターン画像セットを生成し、複数の第4パターン画像からなる第4パターン画像セットを生成する。したがって、撮像装置2は、各液晶パネルから投影された複数のパターン光の測定対象物Wからの反射光をそれぞれ受光し、各液晶パネルにそれぞれ対応する複数のパターン画像セットを生成することができる。
第1LCD31d及び第2LCD32dのみでパターン光を投影する場合には、第1パターン画像セットと第2パターン画像セットとが生成される。第3LCD33d及び第4LCD34dのみでパターン光を投影する場合には、第3パターン画像セットと第4パターン画像セットとが生成される。
データ処理部24は、位相シフト法にしたがうパターン光の投影によって位相シフトパターン画像セットを生成するとともに、空間コード法にしたがうパターン光の投影によってグレーコードパターン画像セットを生成することができる。
位相シフト法にしたがうパターン光は、照度分布を例えば正弦波状に変動させたパターン光であるが、これ以外のパターン光であってもよい。この実施形態では、位相シフト法にしたがうパターン光の数を8としているが、これに限られるものではない。一方、空間コード法にしたがうパターン光は、白黒デューティ比50%で縞幅が全体の半分、4分の1、…と細かくなっていく縞パターンである。この実施形態では、空間コード法にしたがうパターン光の数を4としているが、これに限られるものではない。尚、この例で説明しているパターンは、グレーコードを空間コードとして利用する場合であり、縞幅を半々にしていくことによってパターン光を形成するのはグレーコードの目的ではないが、結果としてそうなっているだけである。またグレーコードは、隣接コードとのハミング距離=1とすることでノイズ耐性を考慮したコード方式の一種である。
図15に示すように、照明装置3の第1投光部31が空間コード法にしたがう4つのパターン光を測定対象物Wに照射した場合には、データ処理部24が4つの異なる画像からなるグレーコードパターン画像セットを生成する。また、照明装置3の第1投光部31が位相シフト法にしたがう8つのパターン光を測定対象物Wに照射した場合には、データ処理部24が8つの異なる画像からなる位相シフトパターン画像セットを生成する。第1投光部31によるパターン光の照射によって得られたグレーコードパターン画像セット及び位相シフトパターン画像セットは、共に、第1パターン画像セットである。
同様に、照明装置3の第2投光部32が空間コード法にしたがうパターン光を測定対象物Wに照射した場合には、グレーコードパターン画像セットが生成され、また、位相シフト法にしたがうパターン光を測定対象物Wに照射した場合には、位相シフトパターン画像セットが生成される。第2投光部32によるパターン光の照射によって得られたグレーコードパターン画像セット及び位相シフトパターン画像セットは、共に、第2パターン画像セットである。
同様に、照明装置3の第3投光部33が空間コード法にしたがうパターン光を測定対象物Wに照射した場合には、グレーコードパターン画像セットが生成され、また、位相シフト法にしたがうパターン光を測定対象物Wに照射した場合には、位相シフトパターン画像セットが生成される。第3投光部33によるパターン光の照射によって得られたグレーコードパターン画像セット及び位相シフトパターン画像セットは、共に、第3パターン画像セットである。
同様に、照明装置3の第4投光部34が空間コード法にしたがうパターン光を測定対象物Wに照射した場合には、グレーコードパターン画像セットが生成され、また、位相シフト法にしたがうパターン光を測定対象物Wに照射した場合には、位相シフトパターン画像セットが生成される。第4投光部34によるパターン光の照射によって得られたグレーコードパターン画像セット及び位相シフトパターン画像セットは、共に、第4パターン画像セットである。
前記各パターン画像セットは、図3に示す画像記憶部28に記憶させておくことができる。
図3に示すように、データ処理部24は、HDR処理部24aを有している。HDR処理とは、ハイダイナミックレンジ(high dynamic range imaging)合成処理のことであり、このHDR処理部24aにおいて、露光時間が異なる複数の画像を合成する。すなわち、上述したように、あるパターンのパターン光が照射されている測定対象物Wを、露光時間を変えて複数回撮像した場合には、露光時間の異なる複数の輝度画像が得られることになり、これら輝度画像を合成することで各輝度画像のダイナミックレンジよりも広いダイナミックレンジを有する画像を生成することができる。HDR合成の手法については従来から周知の手法を用いることができる。露光時間を変化させる代わりに、照射する光の強度を変化させることによって明るさの異なる複数の輝度画像を得て、これら輝度画像を合成してもよい。
(位相計算部26の構成)
図3に示す位相計算部26は、高さ画像の元データとなる絶対位相画像を算出する部分である。図14に示すように、ステップSA1において、位相シフトパターン画像セットの各画像データを取得し、位相シフト法を利用することにより、相対位相計算処理を行う。これは図16における相対位相(Unwrapping前位相)のように表現することができ、ステップSA1の相対位相計算処理により位相画像が得られる。
一方、図14のステップSA3において、グレーコードパターン画像セットの各画像データを取得し、空間コード法を利用することにより、空間コード算出処理を行い、縞番号画像を得る。縞番号画像は、光が照射される空間を多数の小空間に分けた場合に、小空間に一連の空間コード番号を付して識別可能にした画像である。図16に、一連の空間コード番号の付与要領について示している。
図14のステップSA4では絶対位相位相化処理を行う。絶対位相位相化処理では、ステップSA1において得られた位相画像と、ステップSA3において得られた縞番号画像とを合成(Unwrapping)して絶対位相画像(中間画像)を生成する。つまり、空間コード法によって得た空間コード番号により、位相シフト法による位相ジャンプの補正(位相アンラップ)ができるので、高さのダイナミックレンジを広く確保しつつ、高分解能な測定結果を得ることができる。
位相シフト法のみで高さ測定を行うようにしてもよい。この場合は、高さの測定ダイナミックレンジが狭くなるので、位相が1周期以上ずれてしまうような高さの相違が大きい測定対象物Wの場合は、高さの測定が正しく行えない。逆に、高さの変化が小さな測定対象物Wの場合は、空間コード法による縞画像の撮像や合成を行わないので、その分だけ処理を高速化することができるメリットがある。例えば、高さ方向の差異が少ない測定対象物Wを測定する際には、ダイナミックレンジを大きく取る必要がないため、位相シフト法のみでも高精度な高さ測定性能を維持しつつ、処理時間を短くすることができる。また、絶対高さは判るので空間コード法のみで高さ測定するように構成してもよい。この場合、コードを増やすことによって精度を高めることができる。
また、図14のステップSA2では、位相シフトパターン画像セットの各画像データを取得し、信頼度画像算出処理を行う。信頼度画像算出処理では、位相信頼性を示す信頼度画像を算出する。これは無効画素の判定に利用することができる画像である。
前記位相画像、縞番号画像及び信頼度画像は、図3に示す画像記憶部28に記憶させておくことができる。
位相計算部26が生成する絶対位相画像は、各画素が測定対象物Wへの測定用パターン光の照射角度情報を有する角度画像ということもできる。すなわち、第1パターン画像セット(位相シフトパターン画像セット)には、正弦波縞模様パターンの位相をずらして撮像した8枚の第1パターン画像が含まれているので、位相シフト法を利用することによって測定対象物Wへの測定用パターン光の照射角度情報を各画素が有することになる。つまり、位相計算部26は、複数の第1パターン画像に基づいて、各画素が測定対象物Wへの第1測定用パターン光の照射角度情報を有する第1角度画像を生成する部分であるので、角度画像生成部ということもできる。第1角度画像は、第1LED31bから測定対象物Wへ照射される光の角度を画像化した画像である。
同様に、位相計算部26は、複数の第2パターン画像に基づいて各画素が測定対象物Wへの第2測定用パターン光の照射角度情報を有する第2角度画像と、複数の第3パターン画像に基づいて各画素が測定対象物Wへの第3測定用パターン光の照射角度情報を有する第3角度画像と、複数の第4パターン画像に基づいて各画素が測定対象物Wへの第4測定用パターン光の照射角度情報を有する第4角度画像とを生成することができる。第2角度画像は、第2LED32bから測定対象物Wへ照射される光の角度を画像化した画像である。第3角度画像は、第3LED33bから測定対象物Wへ照射される光の角度を画像化した画像である。第4角度画像は、第4LED34bから測定対象物Wへ照射される光の角度を画像化した画像である。図15における中間画像の最も上の画像が第1角度画像であり、上から2番目の画像が第2角度画像であり、上から3番目の画像が第3角度画像であり、一番下の画像が第4角度画像である。各角度画像の真っ黒に塗りつぶされたように見える部分が照明(前記各LED)の影になっている部分であり、角度情報の無い無効画素となる。
(画像処理部27の構成)
画像処理部27は、前記各パターン画像、位相画像、縞番号画像及び信頼度画像に対して、例えば、ガンマ補正、ホワイトバランスの調整、ゲイン補正等の画像処理を行う部分である。画像処理後の各パターン画像、位相画像、縞番号画像及び信頼度画像を画像記憶部28に記憶させておくこともできる。画像処理は上述した処理に限られるものではない。
(出力制御部29の構成)
出力制御部29は、コントローラ部4から出力された画像出力要求信号を受信すると、その画像出力要求信号に従い、画像記憶部28に記憶されている画像の内、画像出力要求信号で指示された画像のみ、画像処理部27を介してコントローラ部4に出力する部分である。この例では、画像処理前の各パターン画像、位相画像、縞番号画像及び信頼度画像を画像記憶部28に記憶させておき、コントローラ部4からの画像出力要求信号で要求された画像に対してのみ、画像処理部27で画像処理を行い、コントローラ部4に出力する。画像出力要求信号は、使用者が各種測定操作や検査操作を行った時に出力することができる。
この実施形態では、データ処理部24、位相計算部26及び画像処理部27を撮像装置2に設けたが、これに限らず、コントローラ部4に設けてもよい。この場合、撮像素子22から出力された画像データはコントローラ部4に出力されて処理されることになる。
(コントローラ部4の構成)
図2に示すように、コントローラ部4は、撮像投光制御部41と、高さ測定部42と、画像合成部43と、検査部45と、表示制御部46と、履歴記憶部47とを備えている。コントローラ部4は、撮像装置2及び照明装置3とは別体に設けられている。
(撮像投光制御部41の構成)
撮像投光制御部41は、前記パターン光の形成情報、トリガ信号及び再同期トリガ信号を、照明装置3に所定のタイミングで出力するとともに、前記撮像条件に関する情報、トリガ信号及び再同期トリガ信号を、撮像装置2に所定のタイミングで出力する。照明装置3に出力するトリガ信号及び再同期トリガ信号と、撮像装置2に出力するトリガ信号及び再同期トリガ信号とは同期している。前記パターン光の形成情報及び前記撮像条件に関する情報は、例えば撮像投光制御部41や、別の記憶部(図示せず)に記憶させておくことができる。使用者が所定の操作(高さ測定準備操作、検査準備操作)を行うことで、前記パターン光の形成情報が照明装置3に出力されて照明装置3の投光制御部39に一旦記憶され、また、前記撮像条件に関する情報撮像装置2に出力されて露光制御部23に一旦記憶される。この例では、照明装置3は、該照明装置3に内蔵されている投光制御部39でLED及びLCDの制御を行うように構成されているので、スマートタイプの照明装置と呼ぶことができる。また、撮像装置2は、該撮像装置2に内蔵されている露光制御部23で撮像素子22の制御を行うように構成されているので、スマートタイプの撮像装置と呼ぶことができる。
このように撮像装置2及び照明装置3が個別に制御を行う場合には、撮像回数が増えれば増えるほど、撮像タイミングと、照明タイミング(パターン光の投影タイミング)とがずれて、撮像装置2によって得られた画像が暗くなってしまうという問題がある。特に、上述したように、位相シフトパターン画像セットの画像が8つ、グレーコードパターン画像セットが4つの合計12の画像で第1パターン画像セットを構成し、第2パターン画像セットも同様に構成し、さらにHDR用の撮像も行うようにすると、撮像回数が多くなり、撮像タイミングと、照明タイミングとのズレが顕著になる。
この例では、再同期トリガ信号を照明装置3と撮像装置2に同期して出力するようにしており、これにより、撮像の途中で照明装置3と撮像装置2との同期を取ることができるようにしている。よって、撮像回数が多くなったとしても、撮像タイミングと、照明タイミングとのズレが問題とならない程度に極めて小さなものとなり、位相シフトパターンやグレーコードパターンの照射中に画像が暗くなるのを抑制でき、位相の歪みやコードの判定を誤る可能性を低減できる。再同期トリガ信号は、複数回出力することもできる。
撮像投光制御部41は、照射モード切替部41aを備えている。第1投光部31及び第2投光部32によってそれぞれ第1測定用パターン光及び第2測定用パターン光を照射する第1照射モードと、第1投光部31及び第2投光部32によってそれぞれ第1測定用パターン光及び第2測定用パターン光を照射した後、第3投光部33及び第4投光部34によってそれぞれ第3測定用パターン光及び第4測定用パターン光を照射する第2照射モードと、第3投光部33及び第4投光部34によってそれぞれ第3測定用パターン光及び第4測定用パターン光を照射する第3照射モードとの3つの照射モードの内、任意の1つの照射モードに切り替えることができる。照射モードの切替は、使用者が表示部5を見ながら、コンソール部6やマウス7の操作によって行うことができる。また、コントローラ部4が自動で照射モードの切替を行うように構成することもできる。
(高さ測定部42の構成)
高さ測定部42は、位相計算部26が生成した第1角度画像の各画素の照射角度情報及び第2角度画像の各画素の照射角度情報と、照明装置3の照明ハウジング30内における第1投光部31及び第2投光部32の相対位置情報とにしたがって、照明装置3の中心軸A方向における測定対象物Wの高さを測定することができるように構成されている。
以下、高さ測定部42による具体的な高さを測定方法について説明する。上述したように、位相のUnwrapによって角度画像を生成することにより、各画素に対する照明からの角度が決まる。第1角度画像は、第1LED31bから測定対象物Wへ照射される光の角度を示す画像であり、第2角度画像は、第2LED32bから測定対象物Wへ照射される光の角度を示す画像である。そして、第1LED31bと第2LED32bとは照明ハウジング30に一体的に支持されていて第1LED31bと第2LED32bとの距離は、上述したようにl(図17に示す)となっている。
図17では、測定対象物Wにおける任意の点Hの高さを求める場合について説明している。第1LED31bの直下を0゜、第1LED31bから45゜の方向を1としている。また、図17の右方向を正、左方向を負としている。第1LED31bから点Hに照射される光の角度は、第1角度画像における点Hに対応する画素から求めることができ、点Hと第1LED31bとを結ぶ直線の傾きを1/a1とする。また、第2LED32bから点Hに照射される光の角度は、第2角度画像における点Hに対応する画素から求めることができ、点Hと第2LED32bとを結ぶ直線の傾きを-1/a2とする。a1、a2は位相である。
Z=1/a1*X+0 … 式1
Z=-1/a2*(X-l) … 式2
式1、式2に対してZを解くと高さが求まる。
a1Z=X
a2Z=-X+l
Z=l/(a1+a2)
X=a1*l/(a1+a2)
このようにして、測定対象物Wにおける各点の高さを求めることができる。前記各式には、撮像装置2の位置に関する変数が無いので、測定対象物Wにおける各点の高さを求める際には撮像装置2の位置は無関係であることが分かる。但し、角度画像で無効画素となっている画素については角度情報が無いので、その点の高さを求めることはできない。すなわち、算出されるZ座標は撮像装置2と測定対象物Wとの距離ではなく、照明装置3から見た時の測定対象物Wまでの距離を示すものになっている。撮像装置2の設置位置とは無関係に、照明装置3の設置位置によって得られるZ座標が定まる。
また、図示しないが、同様にして、第3LED33bから点Hに照射される光の角度を、第3角度画像における点Hに対応する画素から求めることができ、また、第4LED34bから点Hに照射される光の角度を、第4角度画像における点Hに対応する画素から求めることができるので、第3角度画像及び第4角度画像に基づいて各画素の高さを求めることができる。
例えば、図15では、高さ測定部42は、第1角度画像の各画素の照射角度情報及び第2角度画像の各画素の照射角度情報と、照明ハウジング30内における第1投光部31及び第2投光部32の相対位置情報とにしたがって測定対象物Wの高さを表す第1高さ画像を生成するとともに、第3角度画像の各画素の照射角度情報及び第4角度画像の各画素の照射角度情報と、照明ハウジング30内における第3投光部33及び第4投光部34の相対位置情報とにしたがって測定対象物Wの高さを表す第2高さ画像を生成した場合を示している。
第1高さ画像は、各画素の高さを把握することができるので、各種検査を行う際に使用される検査対象画像とすることができる。また、第2高さ画像も各画素の高さを把握することができるので、各種検査を行う際に使用される検査対象画像とすることができる。したがって、高さ測定部42は、複数の中間画像に基づいて検査対象画像を生成する検査対象画像生成部ということもできる。
図15に示す場合では、まず、第1投光部31によるパターン光の投影によって得られた第1パターン画像セットで第1角度画像を生成し、第2投光部32によるパターン光の投影によって得られた第2パターン画像セットで第1角度画像を生成する。第1角度画像では、第1投光部31が測定対象物Wの左側から光を照射することになるので、測定対象物Wの右側に影ができ、その部分が無効画素となっている。一方、第2角度画像では、第2投光部32が測定対象物Wの右側から光を照射することになるので、測定対象物Wの左側に影ができ、その部分が無効画素となっている。第1角度画像と第2角度画像とによって第1高さ画像を生成するので、一方の角度画像で無効画素となっている画素については第1高さ画像においても無効画素となる。
同様にして、第3投光部33によるパターン光の投影によって得られた第3パターン画像セットで第3角度画像を生成し、第4投光部34によるパターン光の投影によって得られた第4パターン画像セットで第4角度画像を生成する。第3角度画像では、第3投光部33が測定対象物Wの上側(図において上になる側)から光を照射することになるので、測定対象物Wの下側(図において下になる側)に影ができ、その部分が無効画素となっている。一方、第4角度画像では、第4投光部34が測定対象物Wの下側から光を照射することになるので、測定対象物Wの上側に影ができ、その部分が無効画素となっている。第3角度画像と第4角度画像とによって第2高さ画像を生成するので、一方の角度画像で無効画素となっている画素については第2高さ画像においても無効画素となる。無効画素をできるだけ少なくするために、この実施形態では図2に示すようにコントローラ部4に画像合成部43を設けている。
この実施形態では、高さ測定部42をコントローラ部4に設けた場合について説明したが、これに限らず、図示しないが、高さ測定部を撮像装置2に設けてもよい。
(画像合成部43の構成)
画像合成部43は、第1高さ画像と第2高さ画像とを合成して合成後高さ画像を生成するように構成されている。これにより、第1高さ画像で無効画素になっている部分が、第2高さ画像では無効画素となっていない部分については、合成後高さ画像において有効画素で表されることになり、反対に、第2高さ画像で無効画素になっている部分が、第1高さ画像では無効画素となっていない部分については、合成後高さ画像において有効画素で表されることになる。よって、合成後高さ画像では無効画素の数を少なくすることができる。逆に、高い信頼を持った高さを得たい場合は、第1高さ画像、第2高さ画像の双方とも有効で、かつ、その差が所定以下の小さい場合のみに、その平均高さを有効としてもよい。
言い換えると、測定対象物Wに対して互いに異なる4方向からパターン光を照射することで、高さ画像の有効画素数を多くすることができ、死角を少なくすることができるとともに、測定結果の信頼性を向上させることができる。尚、2方向からのパターン光の照射で無効画素が十分に少なくなるような測定対象物Wの場合は、高さ画像を1つだけ生成すればよい。この場合、使用者が第1高さ画像と第2高さ画像のどちらを生成するか選択するように構成することもできる。高さ画像を1つだけ生成する場合には測定時間が短くなるというメリットがある。
合成後高さ画像も各画素の高さを把握することができるので、各種検査を行う際に使用される検査対象画像とすることができる。したがって、画像合成部43は、検査対象画像を生成する検査対象画像生成部ということもできる。
この実施形態では、画像合成部43をコントローラ部4に設けた場合について説明したが、これに限らず、図示しないが、画像合成部を撮像装置2に設けてもよい。
(検査部45の構成)
検査部45は、第1高さ画像、第2高さ画像及び合成後高さ画像の内、任意の画像に基づいて検査処理を実行する部分である。検査部45には、有無検査部45aと、外観検査部45bと、寸法検査部45cとが設けられているが、これは一例であり、これら全ての検査部が必須ではなく、またこれら検査部以外の検査部を備えていてもよい。有無検査部45aは、測定対象物Wの有無や測定対象物Wに取り付けられている部品の有無等を画像処理によって判断することができるように構成されている。外観検査部45bは、測定対象物Wの外形状等が予め決められた形状であるか否かを画像処理によって判断することができるように構成されている。寸法検査部45cは、測定対象物Wの各部の寸法が予め決められた寸法であるか否か、または各部の寸法を画像処理によって判断することができるように構成されている。これら判断の手法は従来から周知の手法であることから詳細な説明は省略する。
(表示制御部46の構成)
表示制御部46は、第1高さ画像、第2高さ画像及び合成後高さ画像等を表示部5に表示させたり、画像処理装置1を操作するための操作用ユーザーインターフェース、画像処理装置1を設定するための設定用ユーザーインターフェース、測定対象物の高さ測定結果を表示するための高さ測定結果表示用ユーザーインターフェース、測定対象物の各種検査結果を表示するための検査結果表示用ユーザーインターフェース等を生成して表示部5に表示させることができるように構成されている。
(履歴記憶部47の構成)
履歴記憶部47は、例えばRAM等の記憶装置で構成することができる。履歴記憶部47には、撮像装置2からコントローラ部4に出力された第1高さ画像、第2高さ画像及び合成後高さ画像等を記憶させておくことができるようになっている。コンソール部6やマウス7の操作によって履歴記憶部47に記憶されている画像を読み出して表示部5に表示させることができる。
(補正処理)
上述したように、本実施形態では、第1投光部31からパターン光が投影された状態の測定対象物Wを撮像して第1パターン画像を生成し、第2投光部32からパターン光が投影された状態の測定対象物Wを撮像して第2パターン画像を生成し、第1パターン画像及び第2パターン画像に基づいて、照射角度情報を有する角度画像を生成し、既知である第1LED31bと第2LED32bの相対位置と、照射角度情報とにより、撮像装置2と照明装置3との相対的な位置関係に関わらず、測定対象物Wの高さを測定することができる。
このようにした場合、第1LED31bと第2LED32bとの相対位置が高さ測定結果に影響を与えることになるので、第1LED31bと第2LED32bの相対位置を厳密に規定しておく必要がある。しかしながら、製造上、部品のバラつきや組み付け位置のバラつきが発生するのは避けられず、第1LED31bと第2LED32bの相対位置を厳密に規定するのが難しい。そこで、本例の照明装置3では、第1LED31bや第2LED32bの位置補正を行うことができるように構成されている。
補正処理の全体の流れを図18に示している。具体的なずれの例について図19に基づいて説明する。図19(A)では、「0」の点が第1LED31bの直下に位置すべきところ、第1LED31bの取付角度がθ0だけずれてしまい、「0」の点が第1LED31bの直下から所定量だけマイナス方向(図の左方向)に位置した場合を示している。図19(B)では、第1LED31bがZ方向にずれている場合を示しており、この例では第1LED31bが正規の取付位置から下方向にずれている。
これらのずれを補正して図19(C)に示すように、「0」の点が第1LED31bの直下でかつ基準面上に位置し、0~45°の照射角度となるようにする。具体的には、図18に示す流れに基づいて行うことができ、まず、絶対位相0の座標を推定するとともに、絶対位相1の座標を推定する。さらに、第1LED31bの位置を推定した後、補正係数を導出する。補正は線形補正とすることができる。例えば、Φ' = a * Φ + bの式を用いることができ、この式におけるΦ'は補正後絶対位相であり、Φは補正前絶対位相である。a = tanθ1 + tanθ0であり、b = -tanθ0である。
また、図20に示すように、あおり角がある場合には、絶対位相が大きくなるほどその間隔が広がることになるが、あおり角がない理想状態の場合には絶対位相が等ピッチになる。あおり角がある場合の線分230の長さと、あおり角がない場合の線分231の長さとを比較すると、あおり角がある場合の線分230の方が長くなり、この長さの相違が誤差となる。つまり、理想状態の場合に対し、あおり角がある場合は絶対位相Φの値がずれることになり、あおり角が無い場合の値に比べて小さな値となる。
あおり角の補正を行う場合には、まず、あおりを直接測定し、変換式を適用する。あおり角の直接測定ができない場合は、絶対位相を二次補正すればよい。変換式は、Φ'=Φcosθ/(1-Φsinθ)であり、この式におけるΦは観測した絶対位相、Φ'は変換後の絶対位相(あおり角がないときの絶対位相)である。
図21は、ペアである第1LED31bと第2LED32bとの高さずれが生じている場合を模式的に示している。この例では、第2LED32bの方が第1LED31bよりも寸法dだけ上に位置している。第1LED31bと第2LED32bの高さ補正を行う前提条件として、第1LED31b及び第2LED32bの照射角度範囲は既に0°~45°に正規化(調整)されていることが必要である。高さ補正を行う補正式は、h = (l - d * φ1) / (φ0 + φ1)である。
すなわち、第1LED31bと第2LED32bとの距離lは、l = h * tanθ0 + (h+d) * tanθ1となる。この関係をhについて解く。
h * (tanθ0 + tanθ1) = l - d * tanθ1
h = (l - d * tanθ1) / (tanθ0 + tanθ1)
ここで、tanθ0, tanθ1は、正規化後の絶対位相と同じであるから、h = (l - d * φ1) / (φ0 + φ1)となる。
図22は、補正が必要な箇所の推定と、補正を行うための各部の調整の流れを説明する図である。まず、ステップSB1において照明を設置する。例えば、第1LED31b及び第2LED32bを照明ハウジング30取り付ける。その後、ステップSB2において第1の推定においてθxyとθxzと残存誤差を推定してから、ステップSB3において各θxyと各θxzを調整する。調整後、ステップSB4に進み、第2の推定においてθ0、θ1、照明座標X,Y,Z、θxy、θyz、θxz、残存誤差を推定する。ステップSB5において残存誤差の有無を判定し、残存誤差があると判定された場合にはステップSB3に進んで各調整を行い、第2の推定を再び行う。残存誤差が無くなるまで調整と第2の推定が繰り返され、残存誤差が無くなると、ステップSB6に進み、推定結果を取得するとともに、記憶する。第1の推定と第2の推定とは同じにすることができる。以上のステップは、図2に示す誤差推定部49aによって行うことができる。
図23は、ずれの具体的な推定方法を説明する模式図である。第1LED32bの中心座標を(X,0,Z)とする。座標xの位相Pは以下のようにおける。
t0= tanθ0
t1= tanθ1
底辺の長さl=(Z-z) * (t0 + t1)
θ0側端からxまでの距離lx=(x-X) + (Z-z) * t0
P = lx / l
P = {(x-X) + (Z-z) * t0} / {(Z-z) * (t0 + t1)}
第1LED32bが傾いていた場合、照明中心位置XがY依存性を持っていると置くことができる。
X(y) = X0 + axy * y
P ={(x-(X0 + a * y)) + (Z-z) * t0} / {(Z-z) * (t0 + t1)}
={(x-(X0 + a * y))}/ {(Z-z) * (t0 + t1)}+ t0 / {t0 + t1}
不明係数をまとめると、以下のようになる。
t0 … 第1LED32bの照射幅0
t1 … 第1LED32bの照射幅1
X0 … 照明中心X座標
a … 第1LED32bの傾きxy (a = tanθxy)
Z … 第1LED32bの高さ
P = {(x-(X0 + a * y)) * Ti} / {Z-z}+ t0 * Ti
ここで、最小二乗法の目的関数は、J = (p - P)^2となる。pは計測された位相である。
Pは、不明係数の線形結合ではないため、勾配法などの反復法を使う必要があり、レーベンバーグマーカート法を使うことができる。
各係数を求めた後、t0、t1、θxy補正をする。
t0' = t0 / cosθxy
t1' = t1 / cosθxy
(カメラキャリブレーション)
図24は、カメラキャリブレーションの概念を示す図である。まず、ワールド座標とカメラ座標との対応付けのための係数(カメラパラメータ)を推定する。「カメラ」とは撮像装置2である。本実施形態では、ワールド座標=照明座標となる。つまり、第1投光部31及び第2投光部32と、第3投光部33及び第4投光部34の2ペアで互いに異なる方向から測定対象物Wに測定用パターン光を投影できるので、キャリブレーションボードを使用することなく、XYZが求まった状態にすることができる。
測定対象物Wのワールド座標と対応するカメラ座標は既知である。測定対象物Wの高さを変え、複数回撮像し、信頼性の高いサンプリング点(特定点)を使い、従来周知のTsai(1987)の方法でカメラパラメータを推定する。Tsaiの論文では平たい板を前提としているが、本実施形態では、第1LED31b及び第2LED32bの高さを使って、X,Y,Z座標が求まるので、平たい板でなくてもよく、基本的に自由な形状で構わない。ただし、位相が狂う場合があるため、ロバスト推定法であるRANSACを併用し、誤差要因を取り除くようにしている。
図25(A)は、測定対象物Wが初期位置(第1の高さ)にある場合に、サンプリング点SPのX,Y,Z座標を取得する場合を説明する図である。サンプリング点SPのX,Y,Z座標は、上述したように、第1パターン画像セット、第2パターン画像セット、第3パターン画像セット及び第4パターン画像セットと、第1LED31b及び第2LED32bの距離情報と、第3LED33b及び第4LED34bの距離情報とを利用して求めることができる。図25(B)は、測定対象物Wが初期位置よりも高い位置(第2の高さ)にある場合に、サンプリング点SPのX,Y,Z座標を取得する場合を説明する図である。サンプリング点SPのX,Y,Z座標は、図25(A)の場合と同様にして求めることができる。
図26は、カメラパラメータ行列と歪みモデルの数式を示すものであり、ワールド座標とカメラ座標との対応付けのためのパラメータを求めるために使用される。x,yはレンズ歪みを補正した後のカメラ座標であり、既知である。X,Y,Zはワールド座標であり、これも既知である。x,y,X,Y,Zを使用して他のパラメータを推定する。s,aはそれぞれスキュー、アスペクト比であり、どちらも通常は1でよい。tx,tyは、撮像素子22として用いられるイメージセンサの中心座標である。fは、縦横の焦点距離である。Rは回転行列、Tは並進ベクトルである。また、k1,k2,p1,p2は歪みパラメータである。
図27は、各パラメータの推定手順を示すフローチャートである。ステップSC1では、tx,tyを推定し、ステップSC2では、Rを推定する。ステップSC1及びステップSC2は2Dキャリブレーションに類似する処理であり、tx,ty,Rは比較的安定的に求まる。ただし、視野端などで高さが正しくない画素があると影響が大きいので、ロバスト推定(RANZAC法)を実施する。
ステップSC3では、f,tzを粗く推定し、ステップSC4では、f,tzを精密に推定するとともに、kを推定する。ステップSC3及びステップSC4は、3Dキャリブレーションとレンズ歪み推定のための処理であり、ばらつきが大きく、最小二乗法では安定しないことがあるので、RANZAC法を適用する。ステップSC5は、必須のステップではないが、全ての推定値の微調整を行うステップである。
f,tz値に影響するのは画角の影響を受けやすい外側の画素(イメージセンサの中心から外れた所の画素)であるため、キャリブレーションを行う際には、イメージセンサの外側の画素を使用してもよい。また、画角の影響を受けない点を省くことができる。
また、サンプリング点SPの信頼性を高めるために、サンプリング点SPのX座標、Y座標及びZ座標は、当該サンプリング点SPの周囲の点のX座標、Y座標及びZ座標の情報が加味されていてもよい。例えば、サンプリング点SP及びその周囲の点のX座標、Y座標及びZ座標の平均値(例えば、3×3、Median等)をサンプリング点SPのX座標、Y座標及びZ座標とすることができる。これにより、信頼性の高いキャリブレーションターゲットを生成できる。
第1LED31b、第2LED32b、第3LED33b及び第4LED34bが固定されていて、位相Pが既知であれば、カメラ座標(xf,yf)と位相Pとからワールド座標(wx,wy,wz)を導出することができる。
上述したカメラパラメータの推定は、図1等に示すコントローラ部4で行うことができる。このカメラパラメータは、キャリブレーションターゲットであり、カメラパタメーラの生成は、図2に示すキャリブレーションターゲット生成部48aで行われる。キャリブレーションターゲット生成部48aは、キャリブレーションターゲットを生成する際に、測定対象物Wの表面におけるサンプリング点SPのX座標、Y座標及びZ座標を利用してキャリブレーションターゲットを生成することができる。すなわち、第1パターン光生成部31d及び第2パターン光生成部32dが対をなし、また、第3パターン光生成部33d及び第4パターン光生成部34dが対をなすことになるので、測定対象物Wに対して異なる複数方向から各パターン光を順次投影することが可能になる。これにより、パターン画像の死角が少なくなるので、各パターン画像に基づいてサンプリング点SPのX座標、Y座標及びZ座標を計測することができる。この計測結果がキャリブレーションターゲットとなる。
図2に示すキャリブレーション実行部48bは、キャリブレーションターゲット生成部48aで生成されたキャリブレーションターゲットを利用してカメラキャリブレーションを実行する。これにより、ワールド座標と撮像装置2の座標との対応付けが行われる。よって、ワールド座標と撮像装置2の座標との対応付けに際してキャリブレーションボードは不要になる。
(投光部の調整機構)
図28及び図29は、調整機構を有する第1投光部31の構造例を示すものである。照明装置3の照明ハウジング30は、ベース部材60と、第1LCD31dが固定されたLCDホルダ(第1パターン光生成部ホルダ部材)61と、第1LED31bが固定されたLEDホルダ(第1光源ホルダ部材)62とを備えている。LCDホルダ61は、ベース部材60に対して位置調整可能に取り付けられ、また、LEDホルダ62も、ベース部材60に対して位置調整可能に取り付けられている。図28及び図29における幅方向とは、第1LED31bが並ぶ方向のことである。
すなわち、図28に示すように、ベース部材60の上面には、ボス部60aが上方へ突出するように設けられるとともに、このボス部60aから幅方向に離れた部分に当て板部60bが上方へ突出するように設けられている。ベース部材60の上面には、ボス部60aから幅方向に離れた部分に第1シム63a(図28において左下がりの斜線を付して示す)が載置されている。ボス部60aの上端面と、第1シム63aの上面とにLCDホルダ61が載置されている。図29に示すように、LCDホルダ61は、第1ビス64と、第2ビス65と、2本の第3ビス66とでベース部材60に締結固定されている。第1ビス64及び第2ビス65は、ベース部材60のボス部60aに螺合するようになっている。2本の第3ビス66は、第1シム63aを貫通してベース部材60に螺合するようになっている。したがって、第1シム63aの厚さを変更することで、LCDホルダ61の傾き、即ちLEDホルダ62の傾きを変更することができる。つまり、LEDホルダ62のθzxを調整でき、第1投光部31と第2投光部32との間でθzxの調整が可能になる。
LCDホルダ61には、第2ビス65が挿通する円弧状スリット61cが形成されている。円弧状スリット61cは、第1ビス64の中心線を中心とした円弧を描くように延びている。また、LCDホルダ61には、第3ビス66が挿通するスリット61dが形成されている。円弧状スリット61c及びスリット61dの形成により、LCDホルダ61を第1ビス64の中心線周りに回動させることができ、任意の回動位置で固定できる。ベース部材60の当て板部60bと、LCDホルダ61の側面との間には、第2シム63b(図28において右下がりの斜線を付して示す)が配置されている。したがって、第2シム63bの厚さを変更することで、LCDホルダ61の向き、即ちLEDホルダ62の向きを変更することができる。つまり、LEDホルダ62のθxyを調整でき、第1投光部31と第2投光部32との間でθxyの調整が可能になる。
図28に示すように、LCDホルダ61の上面には、ボス部61aが上方へ突出するように設けられるとともに、このボス部61aから幅方向に離れた部分に当て板部61bが上方へ突出するように設けられている。LCDホルダ61の上面には、ボス部61aから幅方向に離れた部分に第3シム63cが載置されている。ボス部61aの上端面と、第3シム63cの上面とにLEDホルダ62が載置されている。LEDホルダ62は、LCDホルダ61のベース部材60に対する固定構造と同様に、LCDホルダ61に対して締結固定されている。したがって、第3シム63cの厚さを変更することで、LEDホルダ62のθzxを調整できる。この場合、第1投光部31内においてθzxの調整が可能になる。
また、LCDホルダ61の当て板部61bと、LEDホルダ62の側面との間には、第4シム63dが配置されている。したがって、第4シム63dの厚さを変更することで、LEDホルダ62のθxyを調整できる。この場合、第1投光部31内においてθxyの調整が可能になる。高さ測定時の誤差が最も少なくなるように各調整を行う。
また、図30に示す構造例では、第1LED31bが実装された基板31cの幅方向一端側がビス70によってケーシング31aに固定されている。基板31cの幅方向他端側には、当該基板31cの幅方向に長い複数の長孔71が互いに間隔をあけて設けられている。ケーシング31aにおける各長孔71に対応する部分には、ビス72が螺合するようになっている。基板31cにおけるビス72で締結する位置を選択することにより、基板31cの角度、即ち第1LED31bの角度を調整することができる。
図30に示す構造例の場合、ケーシング31aを介して第1LED31bと第1LCD31dとを一体化しており、互いの位置精度を高めやすいが、製造上の誤差が生じ得るのは避けられない。誤差が生じた場合に、高さ測定時の誤差が最も少なくなるように、基板31cを回動させればよい。
また、上記調整機構は、第2投光部32、第3投光部33及び第4投光部34に設けることもできる。
(使用セグメント変更)
図2に示す誤差推定部49aによって各誤差を推定することができ、このとき、第1LCD31dにより投影されるパターン光の投影誤差を推定することもできる。図31の(A)は、第1LED31bと第1LCD31dとの相対位置がずれてしまっていて、第1LED31bから出射された光が第1LCD31dの外に達している状態を示している。この場合に、第1LCD31dを、第1LED31bの照射範囲(0°~45°)よりも大きなサイズのものにしておき、有効セグメントと余剰セグメントとを確保しておく。
図31の(B)に示すように、第1LED31bを設計通りの視野に合わせ、第1LED31bの直下に位置するセグメントから投影パターンを生成できるようにする。誤差推定部49aの推定結果に基づいて、第1LCD31dにより投影されるパターン光の投影誤差を補正するように、第1LCD31dの使用セグメントを決定する。これは、図2に示す使用セグメント決定部49bが行う。
図31の(B)の有効セグメントは、パターンを形成するセグメントであり、余剰セグメントはパターンの形成に寄与しないセグメントである。有効セグメントの開始位置及び終了位置は、任意に設定することができ、パターン光の投影誤差が最も少なくなるように決定することができる。使用セグメント変更の変更はソフトウェア上で行えるので、物理的な調整機構による調整に比べて容易である。尚、位相シフト法の場合は、全領域を照射しつつ、位相をずらすだけでよいので、有効セグメントの開始位置及び終了位置が投影の端である必要はない。グレーコードの場合は、照射範囲外は常に全黒パターンとなるので、一般的には全黒パターンと他の空間コードとの境が開始位置及び終了位置となり得る。
使用セグメントの変更は、第3投光部33及び第4投光部34においても可能である。
(照明構造誤差と補正方法との関係)
上述した各誤差は、照明の構造に起因するものが殆どである。例えば、第1投光部31と第2投光部32との間のθxy,θzx、各投光部31~34のθxy,θzxは、上記調整機構によって補正することができる。また、視野(θ0,θ1)は、上記使用セグメントの変更によって補正することができる。また、視野(θ0,θ1)と、あおり角θyzは絶対位相補正によって補正することができる。さらに、ペアとなる投光部のLED間の距離(l)、ペアとなる投光部のLEDの高さ差(d)は、高さ計測時のパラメータによって補正することができる。
(運用時補正)
雰囲気温度等の影響により、第1LED31bと第2LED32bの高さ方向のずれや、第3LED33bと第4LED34bの高さ方向のずれがあった場合には、そのずれを画像処理装置1の運用時に補正することができる。例えば、第1LED31bの高さを真とし、最小二乗法で合わせ込むようにする。
(画像処理装置1の運用時)
次に、画像処理装置1の運用時について説明する。図32~図36は、測定対象物Wが直方体の箱であり、第1投光部31及び第2投光部32からパターン光を投影して測定した場合を示している。
まず、使用者が測定対象物Wを載置面100に載置して測定開始操作又は検査開始操作を行うと、第1投光部31及び第2投光部32からそれぞれ8つの位相シフト法用のパターン光が順次生成されて測定対象物Wに投影される。撮像装置2は、各パターン光が投影されたタイミングで撮像する。図32に示す位相シフトパターン画像セットは、第1投光部31から測定対象物Wに投影されたパターン光を撮像した画像である。図32に示す位相シフトパターン画像セットに基づいて位相画像を生成すると、図33の左側に示すような位相画像になる。位相画像から中間画像を生成すると、図33の右側に示すような画像になる。尚、グレーコードパターン画像の図示は省略している。
一方、図34に示す位相シフトパターン画像セットは、第2投光部32から測定対象物Wに投影されたパターン光を撮像した画像である。図34に示す位相シフトパターン画像セットに基づいて位相画像を生成すると、図35の左側に示すような位相画像になる。位相画像から中間画像を生成すると、図35の右側に示すような画像になる。
図33の右側に示す中間画像と、図35の右側に示す中間画像とを合成すると図36の左側に示すような高さ画像が生成される。高さ画像の上下方向の断面形状は、図36の右側に示すようなユーザーインターフェースによって表示部5に表示することができる。
また、測定開始操作又は検査開始操作を行うと、第3投光部33及び第4投光部34からそれぞれ8つの位相シフト法用のパターン光が順次生成されて測定対象物Wに投影される。撮像装置2は、各パターン光が投影されたタイミングで撮像する。
(実施形態の作用効果)
以上説明したように、この実施形態によれば、第1測定用パターン光を投影する第1投光部31と、第2測定用パターン光を投影する第2投光部32と、撮像装置2とにより、複数の第1パターン画像及び第2パターン画像を生成することができる。第1パターン画像及び第2パターン画像に基づいて、各画素が測定対象物Wへの第1測定用パターン光の照射角度情報を有する第1角度画像と、各画素が測定対象物Wへの第2測定用パターン光の照射角度情報を有する第2角度画像とを生成することができる。
照明装置3の照明ハウジング30内における第1投光部31及び第2投光部32の相対位置は既知であるため、この相対位置情報と、第1角度画像の各画素の照射角度情報及び第2角度画像の各画素の照射角度情報とにより、撮像装置2と照明装置3との相対的な位置関係に関わらず、照明装置3の中心軸A方向における測定対象物Wの高さを測定することができる。
つまり、照明装置3と撮像装置2とを別体とすることで別々に設置可能にして設置時の自由度を高める場合に、撮像装置2の照明装置3に対する位置を厳密に調整しなくても、測定対象物Wの絶対形状を測定できるので、設置時の使用者の負担が大きくなることはない。
また、パターン光を生成するための手段として照明装置3に液晶パネルを用いているので、DMDを用いた場合のような反射光学系が不要になるとともに、パターンを有するマスクを移動させる場合のような駆動系も不要になり、よって、照明装置3の構成が簡易になるとともに、照明装置3が小型になる。特に反射光学系の場合は、レンズを含んだ光学系が高額で厳しい精度が要求されるとともに、レンズの歪みの発生によってパターンも歪んで精度が劣化するおそれがあるが、この実施形態では、このようなことを回避できるという効果を奏することができる。
また、第1LED31b及び第2LED32bを照明ハウジング30の開口部30aの周方向に互いに離して設け、第1LED31b及び第2LED32bから出射された拡散光がそれぞれ入射される第1LCD31d及び第2LCD32dを、照明ハウジング30の開口部30aの中心軸Aと直交する同一平面内に設けたので、各LCD31d、32dが持つ角度特性に起因するパターン光の位置に応じた輝度ムラの発生を抑えながら、測定対象物Wに対して複数の方向からパターン光を投影可能な照明装置3を小型化することができ、照明装置3の設置自由度を高めることができる。
また、第1LED31bから出射された拡散光が第1LCD31dの有効角度範囲内で当該第1LCD31dに入射するように、第1LCD31dと第1LED31bとの相対位置を設定しているので、第1LCD31dが持つ角度特性に起因するパターン光の位置に応じた輝度ムラの発生を抑えながら、照明装置3の小型化を図ることができる。
また、第1LED31bの光出射面の寸法がパターン光の波の半周期の寸法以下である場合に、複数の第1LED31bをパターン光の照度が変化する方向に互いにずれるように配置したので、見かけ上の光出射面の寸法を、パターン光の波の半周期の寸法よりも長くすることができる。これにより、波状のパターン光を狙い通りに生成することができ、高さ画像中に高周波のうねりが発生しないようにすることができる。
また、第1投光部31に調整機構を設けたこと、及び使用セグメントの変更を可能にしたことで、第1LED31bの位置ずれを補正することができる。これにより、第1LED31b及び第2LED32bの照射角度情報と、両LED31b、32bの相対位置とにより測定対象物Wの高さを測定する場合に正確な測定結果を得ることができる。
また、測定用パターン光を受光して得られたパターン画像に基づいてキャリブレーションターゲットを生成することができるので、キャリブレーションボードを使用することなく、ワールド座標と撮像装置3の座標との対応付けを行うことができる。
上述の実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内のものである。
例えば、上述した各処理及び機能をコンピュータに実現させることが可能に構成されたプログラムを提供して使用者のコンピュータにて上述した各処理及び機能を実現させることができる。
また、上記プログラムの提供形態は特に限定されるものではないが、例えばインターネット等のネットワーク回線を利用して提供する方法、上記プログラムが格納された記録媒体を提供する方法等がある。いずれの提供方法であっても、使用者のコンピュータにプログラムをインストールすることで上述した各処理及び機能を実現させることができる。
また、上述した各処理及び機能を実現する装置としては、上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用の機器を含む。また、上述した各処理及び機能の一部を所定のゲートアレイ(FPGA、ASCI)等のハードウェア、またはプログラムソフトウェアとハードウェアの一部の要素を実現する部分的ハードウェアモジュールとが混在する形式で実現してもよい。
また、ステップ(工程)の組み合わせで上述した各処理及び機能を実現することもでき、この場合は、使用者が画像処理方法を実行することになる。
また、上記実施形態ではパターン光生成部が液晶パネルである場合について説明したが、これに限らず、例えば、DMD(デジタル・マイクロミラー・デバイス)を用いたものや、物理的にパターンが形成されたマスクを移動させるものであってもよい。また、光源は発光ダイオードに限られるものではない。