(実施形態)
実施形態の検査システムについて説明する。実施形態の検査システムは、被検査体を検査するために様々な構成を備えている。図1は、実施形態の検査システムの構成例を示した図である。図1に示されるように、実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、アーム140と、を備えている。
アーム140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮像可能な被検査体150の表面の位置と向きを変化させる。
照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化および空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化および空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。
なお、実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化および空間変化を与える面的な照射部を構成する例について説明するが、実施形態の照明部は、このような組み合わせに制限されるものではない。実施形態では、たとえば、LEDを面的に配置したり、大型モニタを配置したりするなどして、照明部を構成してもよい。
図2は、実施形態の時間相関カメラ110の構成を示したブロック図である。時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。
光学系210は、撮像レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体150を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。
実施形態の光強度信号は、検査システムの照明装置120が被写体(被検査体150を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。
イメージセンサ220は、たとえば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、実施形態の画像サイズをX×Yとする。)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。
イメージセンサ220は、光学系210によって透過された、被写体(被検査体150を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮像信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。
実施形態の制御部240は、たとえばCPU、ROM、およびRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。
転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。
データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
図3は、実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレームFk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで生成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。
実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレーム画像Fk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。
イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、実施形態は、解像度、感度、およびコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
図2に戻り、実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。
実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相間カメラ110は、3種類の画像データを生成する。
実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、実施形態は、2種類の時間相関画像データを生成することに制限されるものではなく、強度画像データを生成しない場合や、1種類又は3種類以上の時間相関画像データを生成する場合なども考えられる。
実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮像に必要な露光時間分の光強度信号が必要になる。そこで、実施形態では、強度画像用重畳部243が、撮像に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。
これにより、従来のカメラの撮像と同様に、被写体(被検査体150を含む)が撮像された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。
ところで、時間相関画像データを用いて、被検査体の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このため、実施形態の照明装置120は、上述したように、スクリーン130を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うように構成される。
実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データ、および時間相関画像データを生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120およびスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第1の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第2の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第1の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
複素正弦波e-jωtは、e-jωt=cos(ωt)−j・sin(ωt)と表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。
実施形態では、式(2)において、実部を表す画素値C1(x,y)と、虚部を表す画素値C2(x,y)と、に分けて、2種類の時間相関画像データを生成する。
このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。実施形態の参照信号出力部250は、複素正弦波e-jωtの実部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように、実施形態の参照信号出力部250は、一例として、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される2種類の参照信号を出力する。しかしながら、参照信号は、ここで説明する例に制限されるものではなく、時間関数のような、時間遷移に応じて変化する参照信号であればよい。
そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実部cosωtを乗算する。
第1の相関画像用重畳部245は、撮像に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。
そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚部sinωtを乗算する。
第2の相関画像用重畳部247は、撮像に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。
上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。
また、実施形態は、参照信号の種類を制限するものでない。たとえば、実施形態では、複素正弦波e-jωtの実部と虚部の2種類の時間相関画像データを生成するが、光の振幅と、光の位相と、による2種類の画像データを生成してもよい。
なお、実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分生成可能とする。これにより、たとえば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に生成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体の異常を検出する。そのためには、被検査体に対して光を照射する必要がある。
実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。
実施形態では、時間相関カメラ110が強度画像データおよび時間相関画像データを撮像する露光時間で、照明装置120が照射する縞パターンが一周期分移動する。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
図4に示されるように、実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。実施形態では、照明装置120がスクリーン130を介して照射されることで、矩形波の明暗の境界領域をぼかすことができる。
実施形態では、照明装置120が照射する縞パターンを、A(1+cos(ωt+kx))と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、被検査体に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。
そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)} …(5)
式(5)で示されるように、照明装置120が照射する縞パターンの強度信号は、複素数として考えることができる。
そして、イメージセンサ220には、当該照明装置120からの光が被写体(被検査体150を含む)から反射して入力される。
したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とすることができる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相をkxとする。
式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。
これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光の位相変化と、光の振幅変化と、を検出できる。
そこで、実施形態のPC100は、時間相関画像データおよび強度画像データに基づいて、画素毎に入る光の位相変化を表した位相画像と、画素毎に入る光の振幅を表した振幅画像と、を生成する。また、PC100は、強度画像データに基づいて、画素毎に入る光の強度を表した強度画像を生成する。そして、PC100は、位相画像と、振幅画像と、強度画像と、の少なくともいずれかに基づいて、被検査体の異常を検出する。
ところで、被検査体の表面形状に凹凸に基づく異常が生じている場合、被検査体の表面の法線ベクトルの分布には、異常に対応した変化が生じている。また、被検査体の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化および振幅変化のうち少なくともいずれか一つとして検出される。そこで、実施形態では、時間相関画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化および振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常が存在すると推定される領域を特定することが可能となる。以下、被検査体の異常、法線ベクトル、および光の位相変化又は振幅変化の関係について例を挙げて説明する。
図5は、第1の実施形態の時間相関カメラ110による、被検査体の異常の第1の検出例を示した図である。図5に示される例では、被検査体500に突形状の異常501がある状況とする。当該状況においては、異常501の点502の近傍領域においては、法線ベクトル521、522、523が異なる方向を向いていることを確認できる。そして、当該法線ベクトル521、522、523が異なる方向を向いていることで、異常501から反射した光に拡散(たとえば、光511、512、513)が生じ、時間相関カメラ110のイメージセンサ220の任意の画素531に入る縞パターンの幅503が広くなる。
図6は、図5に示される異常501が被検査体500にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図6に示される例では、光の振幅を実部(Re)と虚部(Im)とに分けて2次元平面上に表している。図6では、図5の光511、512、513に対応する光の振幅611、612、613として示している。そして、光の振幅611、612、613は互いに打ち消し合い、イメージセンサ220の当該任意の画素531には、振幅621の光が入射する。
したがって、図6に示される状況では、被検査体500の異常501が撮像された領域で、局所的に振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像において、周囲と比べて暗くなっている領域がある場合に、当該領域で局所的に光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する被検査体500の位置で、異常501が生じていると判断できる。なお、ここでは、突形状の異常501に対応する領域で、振幅画像が局所的に暗くなる場合を例示したが、キズなどの凹み状の異常に対応する領域でも、振幅画像は局所的に暗くなる。
実施形態の検査システムは、図5の異常501のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図7は、第1の実施形態の時間相関カメラ110による、被検査体の異常の第2の検出例を示した図である。図7に示される例では、正常な場合は被検査体の表面が平面(換言すれば法線が平行)となるが、被検査体700に緩やかな勾配701が生じた状況とする。このような状況においては、勾配701上の法線ベクトル721、722、723も同様に緩やかに変化する。したがって、イメージセンサ220に入力する光711、712、713も少しずつずれていく。図7に示される例では、緩やかな勾配701のために光の振幅の打ち消し合いは生じないため、図5、図6で表したような光の振幅はほとんど変化しない。しかしながら、本来スクリーン130から投影された光が、そのままイメージセンサ220に平行に入るはずが、緩やかな勾配701のために、スクリーン130から投影された光が平行の状態でイメージセンサ220に入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図7に示したような緩やかな勾配701による異常を検出できる。
また、被検査体の表面形状(換言すれば、被検査体の法線ベクトルの分布)以外にも異常が生じる場合がある。図8は、第1の実施形態の時間相関カメラ110による、被検査体の異常の第3の検出例を示した図である。図8に示される例では、被検査体800に汚れ801が付着しているため、照明装置120から照射された光が吸収あるいは拡散反射し、時間相関カメラ110の、汚れ801を撮像している任意の画素領域では光がほとんど強度変化しない例を表している。換言すれば、汚れ801を撮像している任意の画素領域では、光強度は位相打ち消しを起こし振動成分がキャンセルされ、ほとんど直流的な明るさになる例を示している。
このような場合、汚れ801を撮像している画素領域においては、光の振幅がほとんどないため、振幅画像を表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する被検査体800の位置に、汚れ801があることを推定できる。
このように、実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、被検査体における、異常が存在すると推定される領域を特定することができる。
図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、アーム制御部101と、照明制御部102と、制御部103と、を備える。
アーム制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、アーム140を制御する。実施形態では、PC100において、被検査体150の撮像対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮像が終了する毎に、アーム制御部101が、当該設定に従って、時間相関カメラ110が設定された表面を撮像できるように、アーム140が被検査体150を移動させる。なお、実施形態によるアーム140の移動方法は、撮像が終了する毎にアーム140を移動させ、撮像が開始する前に停止させるのを繰り返すことに制限されるものではなく、継続的にアーム140を駆動させることも含まれ得る。なお、アーム140は、搬送部、移動部、位置変更部、姿勢変更部等とも称され得る。
照明制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。実施形態の照明制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。
図9は、照明制御部102が照明装置120に出力する縞パターンの例を示した図である。図9(B)に示す矩形波に従って、図9(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、照明制御部102が制御を行う。
実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとして、ここでは詳しい説明を省略する。
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。
図9に示されるように、照明制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図10は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図10に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
図1に戻り、制御部103は、画像生成部104と、検査領域決定部105と、異常判定部106と、を備える。制御部103は、時間相関カメラ110から入力されるデータに基づいて、振幅画像や位相画像などといった時間相関画像を生成し、当該時間相関画像に基づいて、検査対象となる検査領域を決定し、当該検査領域の特徴を用いた多変量解析を実行して被検査体150の異常を判定する。なお、実施形態では、制御部103は、振幅成分と位相成分とで分けた極形式の複素数で示される時間相関画像データ(複素時間相関画像データと称す)ではなく、当該複素数を実部と虚部とで分けた2種類の時間相関画像データを、時間相関カメラ110から受け取るものとする。
画像生成部104は、時間相関カメラ110から入力されるデータ(強度画像データや時間相関画像データなどといった画像データ)に基づいて、振幅画像および位相画像を生成する。画像生成部104は、画像取得部の一例である。前述したように、振幅画像とは、画素毎に入る光の振幅を表した画像であり、位相画像とは、画素毎に入る光の位相を表した画像である。
実施形態は、振幅画像の算出手法を制限するものではないが、たとえば、画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)およびC2(x,y)から、下記の式(8)を用いて、振幅画像の各画素値F(x,y)を導き出すことが可能である。
また、画像生成部104は、画素値C1(x,y)およびC2(x,y)から、下記の式(9)を用いて、位相画像の各画素値P(x,y)を導き出すことが可能である。
なお、画像生成部104が時間相関カメラ110から入力される強度画像データに基づいて強度画像を生成することも可能であることは言うまでもない。強度画像とは、画素毎に入る光の強度を表した画像である。
検査領域決定部105は、画像生成部104により生成された振幅画像または位相画像に基づいて、光の振幅または位相が(周囲などとの関係で)局所的に変化する領域を含む領域を、検査領域の候補として抽出する。そして、検査領域決定部105は、抽出した候補に基づいて、最終的な検査領域を決定する。
従来では、検査領域が、振幅画像または位相画像の値(複素時間相関画像の振幅成分または位相成分の値)と、1つの閾値との比較に基づいて決定されていた。このため、検査領域として検出する基準を厳しくし過ぎると、異常が存在すると推定される異常領域の全てをカバーしない、分断された複数の小さい領域が、検査領域として検出されることがあった(検査領域の分断)。一方、検査領域として検出する基準を緩くし過ぎると、異常領域のみならず、異常が存在しないと推定される正常領域までをも含んだ領域が、検査領域として検出されることがあった(検査領域の過検出)。
そこで、実施形態による検査領域決定部105は、2種類の異なる閾値を用いた2段階の閾値処理を実行することで、検査領域を決定する。具体的に、検査領域決定部105は、まず、比較的厳しい基準に対応する第1閾値を用いた閾値処理を実行することで、検査領域の候補を抽出する。そして、検査領域決定部105は、第1閾値を用いて決定された候補を、その周辺領域を含むように拡張し、当該拡張した領域に対して、第1閾値の基準よりも緩い基準に対応する第2閾値を用いた閾値処理を実行することで、検査領域の候補をさらに抽出する。
さらに、実施形態による検査領域決定部105は、複素時間相関画像の振幅成分または位相成分の値の微分値を計算する。そして、検査領域決定部105は、微分値と所定の閾値とを比較するなどして、振幅成分または位相成分の値が急峻に変化する部分を特定する。振幅成分または位相成分の値が急峻に変化する部分は、異常領域と正常領域との境界部分に対応する。したがって、検査領域決定部105は、異常領域を漏れなく検査領域に含めるために、微分値を用いて特定した境界部分を、検査領域の候補にさらに含める。なお、微分値の求め方の詳細については、後で説明するため、ここでは説明を省略する。
検査領域決定部105は、上記の処理(2種類の閾値を用いた2段階の閾値処理、および微分値を用いた境界検出処理)によって決定された検査領域の候補に対してノイズの除去などの処理を実行することで、最終的な検査領域を決定する。
異常判定部106は、検査領域決定部105により決定された最終的な検査領域が有する特徴を抽出し、当該特徴を用いた多変量解析を実行することで、被検査体150の異常を判定する。
多変量解析の手法としては、たとえば、MT法(マハラノビスタグチ法)などが挙げられる。MT法とは、多数の情報をマハラノビス距離という1つの尺度に集約し、マハラノビス距離の大小によって、検査対象の品質を判定する方法である。具体的に、MT法では、品質に問題が無い良品サンプルの特徴を表すデータに基づいて予め基準を作成し、作成した基準と、検査対象の特徴を表すデータとに基づいて、検査対象に対応するマハラノビス距離を算出し、算出したマハラノビス距離を所定の閾値と比較等することで、検査対象の品質を判定する。
なお、実施形態では、多変量解析の手法として、MT法以外の手法が用いられてもよい。
次に、実施形態において実行される処理について説明する。図11は、実施形態の検査システムによる、被検査体の検査処理の手順を示したフローチャートである。以下では、被検査体150は、すでにアーム140に固定された状態で、検査の初期位置に配置されているものとする。
図11に示すように、実施形態のPC100は、まず、照明装置120に対して、被検査体を検査するための縞パターンを出力する(S1101)。
照明装置120は、PC100から入力された縞パターンを格納する(S1121)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(S1122)。なお、照明装置120が表示を開始する条件は、縞パターンが格納されることに制限するものではなく、たとえば検査者が照明装置120に対して開始操作を行ったことであってもよい。
そして、PC100の制御部103は、時間相関カメラ110に対して、撮像開始指示を送信する(S1102)。
次に、時間相関カメラ110は、送信されてきた撮像開始指示に従って、被検査体150および当該被検査体150の周囲を含む領域について撮像を開始する(S1111)。そして、時間相関カメラ110の制御部240は、強度画像データと、時間相関画像データと、を生成する(S1112)。そして、時間相関カメラ110の制御部240は、強度画像データと、時間相関画像データと、を、PC100に出力する(S1113)。
PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(S1103)。そして、画像生成部104は、受け取った強度画像データおよび時間相関画像データから、振幅画像および位相画像を生成する(S1104)。
そして、検査領域決定部105は、異常判定部106による検査(異常判定)の対象となる検査領域の決定処理を実行する(S1105)。以下、このS1105の処理の詳細について説明する。
図12は、実施形態の検査システムにおける検査領域の決定処理(図11のS1105の処理)の詳細を示したフローチャートである。実施形態では、振幅画像および位相画像のいずれを用いても検査領域を決定することが可能であるが、以下では、位相画像ではなく振幅画像を用いて検査領域を決定する例について説明する。
図12に示すように、検査領域決定部105は、まず、振幅画像の各画素値に対応する振幅データを取得する(S1201)。
そして、検査領域決定部105は、ガウシアン差分処理を実行する(S1202)。ガウシアン差分処理とは、元の振幅画像と、ガウシアンフィルタなどにより平滑化された振幅画像と、の差分を取る処理である。このガウシアン差分処理によれば、たとえば被検査体150がその端部において湾曲している場合でも、当該湾曲した端部に対応する領域と、湾曲していない部分に対応する領域との間における、振幅画像の明るさの差の影響を排除した状態で、次に説明するような閾値処理を実行することができる。
検査領域決定部105は、S1202の処理後の振幅画像に対して、第1閾値を用いた閾値処理を実行し、当該振幅画像から、検査領域の候補を抽出する(S1203)。より具体的に、検査領域決定部105は、振幅画像の各画素値と、第1閾値とを比較し、第1閾値よりも小さい画素値を有する領域(つまり、明るさが第1閾値で設定される基準よりも暗い領域)を、検査領域の候補として抽出する。
図13は、実施形態において、第1閾値に基づき抽出される、振幅画像の検査領域の候補の具体例を示した図である。図13の例では、点線A1で囲まれた領域内と、点線Bで囲まれた領域内と、点線Cで囲まれた領域内とに、検査領域の候補(白抜きの部分参照)が存在する。
そして、図12に戻り、検査領域決定部105は、S1203で抽出された各候補の面積を算出し、面積が小さい領域を、検査領域の候補から除外する(S1204)。なお、面積が小さい領域とは、面積が所定ピクセル未満の領域であり、たとえば、面積が1ピクセルまたは2ピクセル程度しかない領域である。
そして、検査領域決定部105は、S1204の処理後の候補に対して膨張処理および収縮処理をそれぞれ1回ずつ実行する(S1205)。これにより、数ピクセルしか離れていない複数の領域が1つの領域に結合されたり、領域の外形などに表れる細かい凸凹が平滑化されたりする。
上記のS1204およびS1205の処理により、S1203で抽出された検査領域の候補から、細かいノイズが除去される。
図14は、図13から細かいノイズが除去された状態を示した図である。図13の例では、点線Bで囲まれた領域内と、点線Cで囲まれた領域内とに、検査領域の候補として抽出された、面積が非常に小さい領域(白抜きの部分参照)が存在している。実施形態では、上記のS1204(およびS1205)の処理により、点線Bで囲まれた領域内と、点線Cで囲まれた領域内とに存在する候補が除外される。これにより、図14の例では、図13にも図示された点線A1で囲まれた領域内に存在する検査領域の候補(白抜きの部分参照)のみが残っている。
図12に戻り、検査領域決定部105は、S1205の処理後の検査領域の候補を所定の大きさ分拡張し、当該拡張された領域に対して、第1閾値とは異なる第2閾値を用いた閾値処理を実行し、検査領域の候補をさらに抽出する(S1206)。より具体的に、検査領域決定部105は、上記の拡張された領域の各画素値と、第2閾値とを比較し、第2閾値よりも大きい画素値を有する領域を、検査領域の候補として抽出する。なお、第2閾値は、第1閾値よりも大きく設定される。したがって、第2閾値を用いて抽出される領域は、第1閾値を用いて抽出される領域よりも、少し明るい領域である。
図15は、実施形態において、第2閾値に基づき抽出される、振幅画像の検査領域の候補の具体例を示した図である。図15に示されるように、第2閾値に基づき抽出される候補(点線A2で囲まれた白抜きの領域)は、第1閾値に基づき抽出される候補(図14に示された点線A1で囲まれた白抜きの領域)を含んでいる。
図12に戻り、検査領域決定部105は、S1206で抽出された検査領域の候補を所定の大きさ分拡張し、当該拡張された領域における、振幅画像の画素値の微分値(振幅の微分値)を算出する(S1207)。なお、S1207の処理における領域の拡張量は、S1206の処理における領域の拡張量よりも小さく設定される。振幅の微分値は、たとえば次のような配列のフィルタを用いたフィルタ処理を実行することで算出される。
図18は、実施形態において実行される微分処理に対応するフィルタの配列の具体例を示した図である。図18(A)は、処理対象の画素の値と、当該画素にx方向に隣接する画素の値と、の差分(x方向の微分)をとるフィルタを示している。また、図18(B)は、処理対象の画素の値と、当該画素にy方向に隣接する画素の値と、の差分(y方向の微分)をとるフィルタを示している。
実施形態では、図18(A)に示されたような配列のフィルタに基づいて、x方向の微分が行われ、図18(B)に示されたような配列のフィルタに基づいて、y方向の微分が行われる。そして、これら2種類のフィルタに基づいて算出された2つの値の二乗和の平方根が、微分値として算出される。
上記の式(8)に示されるように、振幅画像の値F(x,y)は、上記の式(9)で示される位相画像の値P(x,y)と異なり、折り畳みを考慮しなくてもよい、通常の実数であるので、振幅画像の微分は、実数の画素値を有する一般的な画像の微分と同様に計算することが可能である。したがって、実施形態では、図18に例示したフィルタ以外の、一般的な微分フィルタを用いても、微分値を計算することが可能である。
図12に戻り、検査領域決定部105は、S1207で算出された微分値を用いて、検査領域の候補をさらに抽出する(S1208)。具体的に、検査領域決定部105は、微分値と所定の閾値とを比較するなどして、振幅画像において明るさが急峻に変化する部分を特定する。前述したように、明るさが急峻に変化する部分は、異常が存在すると推定される異常領域と、異常が存在しないと推定される正常領域との境界部分に対応する。したがって、検査領域決定部105は、異常領域を漏れなく検査領域に含めるために、微分値を用いて特定した境界部分を、検査領域の候補にさらに含める。
図16は、実施形態において、振幅の微分値に基づき抽出される、振幅画像の検査領域の候補の具体例を示した図である。図16に示されるように、振幅の微分値に基づき抽出される候補(点線A3で囲まれた白抜きの領域)は、第2閾値に基づき抽出される候補(図15に示された点線A2で囲まれた白抜きの領域)を含んでいる。
図12に戻り、検査領域決定部105は、S1208で抽出された各候補の面積を算出し、面積が小さい領域を、検査領域の候補から除外する(S1209)。なお、上記のS1204の説明と同様、面積が小さい領域とは、面積が所定ピクセル未満の領域であり、たとえば、面積が1ピクセルまたは2ピクセル程度しかない領域である。
そして、検査領域決定部105は、S1209の処理後の候補に対して、膨張処理および収縮処理をそれぞれ1回ずつ実行する(S1210)。これにより、上記のS1205の説明と同様、数ピクセルしか離れていない複数の領域が1つの領域に結合されたり、領域の外形などに表れる細かい凸凹が平滑化されたりする。
上記のS1209およびS1210の処理により、S1208で抽出された検査領域の候補から、細かいノイズが除去される。以上の処理により、振幅画像の検査領域が決定される。
図17は、実施形態における振幅画像の検査領域の具体例を示した図である。図17に示されるように、検査領域(点線Rで囲まれた白抜きの領域)は、微分値に基づき抽出される候補(図16に示された点線A3で囲まれた白抜きの領域)の途切れた部分を穴埋めしたり、細かい凸凹を平滑化したりしたものとなっている。
なお、実施形態では、上記のS1206〜S1210で説明したように、穴埋めや平滑化などといったノイズ除去が、第2閾値を用いた閾値処理と、微分値を用いた境界検出処理と、が実行された後に行われる。これにより、ノイズ除去がたとえば閾値処理と境界検出処理との間に行われる場合と異なり、閾値処理と境界検出処理との両方によってより拡張された領域に対して、穴埋めや平滑化などが行われる。この結果、検査領域が、1つのまとまった領域として検出され易くなる。
図11に戻り、異常判定部106は、検査領域が有する特徴を抽出し、当該特徴を用いた多変量解析を実行することで、被検査体150の異常を判定する(S1106)。そして、異常判定部106は、S1106での異常判定処理の結果(判定結果)を、PC100が備える(図示しない)表示装置に出力する(S1107)。
上記のS1107における判定結果の出力方法としては、たとえば、強度画像データを表示するとともに、振幅画像データと位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示する方法などが考えられる。なお、実施形態では、判定結果を視覚的に出力することに限らず、判定結果を音声などにより出力してもよい。
上記のS1107の処理が終了すると、制御部103は、当該被検査体の検査が終了したか否かを判定する(S1108)。検査が終了していないと判定した場合(S1108:No)、アーム制御部101が、予め定められた設定に従って、次の検査対象となる被検査体の表面が、時間相関カメラ110で撮像できるように、アームの移動制御を行う(S1109)。アームの移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮像の開始指示を送信する(S1102)。
一方、制御部103は、当該被検査体の検査が終了したと判定した場合(S1108:Yes)、終了指示を時間相関カメラ110に対して出力し(S1110)、処理を終了する。
そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(S1114)。終了指示を受け付けていない場合(S1114:No)、再びS1111から処理を行う。一方、終了指示を受け付けた場合(S1114:Yes)、処理が終了する。
なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。
上記の説明では、振幅画像を用いて検査領域を決定する場合を例示した。しかしながら、実施形態では、振幅画像ではなく、位相画像を用いても、検査領域を決定することが可能である。
位相画像を用いた検査領域の決定手法は、振幅画像を用いた検査領域の決定手法と基本的に同様である。具体的に、位相画像を用いた検査領域の決定手法においても、大きさの異なる2種類の閾値を段階的に用いた2回の閾値処理と、微分値を用いた境界検出処理と、が実行される。
しかしながら、上記の式(9)で示されるように、位相画像の値P(x,y)は、−π〜πの範囲に折り畳まれる。したがって、位相画像においては、画素値が−πからπに、またはπから−πに不連続に変化する箇所が、周期的な縞として表れる。周期的に表れる縞の部分は、実際には、位相が定常的に変化する部分であるが、振幅画像で用いたような通常の手法で位相画像の微分値を計算すると、異常領域と正常領域との境界部分のみならず、周期的に表れる縞の部分まで、高い微分値を持つものとして計算されてしまう。
そこで、実施形態による検査領域決定部105は、複素数で表される複素時間相関画像の値の振幅成分を無視して位相成分のみを微分する位相限定微分(複素時間相関位相微分、複素位相微分)を実行することで、折り畳みの影響を無視した位相の微分値(位相限定微分値、複素位相微分値)を算出する。以下、位相限定微分値の算出方法についてより具体的に説明する。
位相限定微分値は、複素時間相関画像で得られる複素数の位相成分の、互いに直交する二方向(x方向およびy方向とする)の微分値の二乗和に基づいて算出される。より具体的に、処理対象の画素の値をg(x,y)とした場合、g(x,y)およびg(x+1,y)の位相成分の差分(x方向の位相限定微分)と、g(x,y)およびg(x,y+1)の位相成分の差分(y方向の位相限定微分)と、の二乗和の平方根が、位相限定微分値として算出される。
詳細には、x方向の位相限定微分を∂φ/∂x、y方向の位相限定微分を∂φ/∂yとした場合、位相限定微分値|∇φ|は、次の式(200)で表すことができる。
ここで、複素数を、振幅成分と位相成分とに分けた極形式で表した場合、位相成分は、指数部分に表れる。このため、複素数の位相成分の差分である位相限定微分∂φ/∂xおよび∂φ/∂yは、複素数の除算に基づいて算出される。
つまり、複素数であるg(x,y)の位相成分をφ(x,y)とした場合、g(x,y)およびg(x+1,y)の位相成分の差分∂φ/∂xは、下記の式(201)によって得られる。
∂φ/∂x=φ(x+1,y)−φ(x,y)
=arg[g(x+1,y)/g(x,y)] …(201)
同様に、複素数であるg(x,y)の位相成分をφ(x,y)とした場合、g(x,y)およびg(x,y+1)の位相成分の差分∂φ/∂yは、下記の式(202)によって得られる。
∂φ/∂y=φ(x,y+1)−φ(x,y)
=arg[g(x,y+1)/g(x,y)] …(202)
なお、実施形態の検査システムで実際に用いられるデータは、振幅成分と位相成分とに分かれた極形式の複素数のデータではなく、当該複素数に対応する実部のデータおよび虚部のデータである。
したがって、実施形態では、上記の式(201)におけるg(x+1,y)/g(x,y)という計算の結果が、実部を表すCrという値と、虚部を表すCiという値と、の2つの値として出力される。そして、∂φ/∂xは、これら2つの値に基づき、arctan(Ci/Cr)という式によって計算される。同様に、実施形態では、上記の式(202)におけるg(x,y+1)/g(x,y)という計算の結果が、実部を表すCr´という値と、虚部を表すCi´という値と、の2つの値として出力される。そして、∂φ/∂yは、これら2つの値に基づき、arctan(Ci´/Cr´)という式によって計算される。
以上説明したように、実施形態による検査領域決定部105は、複素時間相関画像の振幅成分(または位相成分)の値と、第1閾値との比較に基づいて、複素時間相関画像から、検査対象となる検査領域の第1候補(図13および図14参照)を抽出し、当該第1候補を拡張したものの振幅成分(または位相成分)の値と、第2閾値との比較に基づいて、検査領域の第2候補(図15参照)を抽出し、当該第2候補に基づいて、検査領域(図17参照)を決定する。これにより、基準の異なる2種類の閾値を用いた2段階の閾値処理に基づき、検査領域の分断や過検出などを発生させることなく、検査領域をより精度よく決定することができる。
以下、実施形態の変形例について説明する。
実施形態では、2種類の異なる閾値を用いた2段階の閾値処理を実行した上で、微分値を用いた境界検出処理を実行することで、検査領域を決定する例について説明した。しかしながら、実施形態では、必ずしも境界検出処理を実行しなくてもよい。すなわち、実施形態では、2段階の閾値処理のみを実行することで、検査領域を決定してもよい。
また、実施形態では、必ずしも2段階の閾値処理を実行しなくてもよい。すなわち、実施形態では、たとえば、1つの閾値を用いた1回の閾値処理を実行した上で、微分値を用いた境界検出処理を実行することで、検査領域を決定してもよい。
また、実施形態では、時間相関カメラ110を用いて生成された強度画像データと、時間相関画像データと、を生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。たとえば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。
(第1変形例)
実施形態では、周囲との違いに基づいて、異常に関連する特徴を検出する例について説明したが、周囲との違いに基づいて当該特徴を検出することに制限するものではない。たとえば、第1変形例として、参照形状のデータ(参照データ、たとえば、振幅画像データや位相画像データなどといった時間相関画像データ)との差異に基づいて当該特徴を検出する場合も考えられる。この場合、参照データの場合とで、空間位相変調照明(縞パターン)の位置合わせおよび同期が必要となる。
第1変形例では、異常判定部106が、予め(図示しない)記憶部に記憶された、参照表面から得られた振幅画像データおよび位相画像データと、被検査体150の振幅画像データおよび位相画像データと、を比較し、被検査体150の表面と参照表面との間で、光の振幅および光の位相とのうちいずれか一つ以上について所定の基準以上の違いがあるか否かを判定する。
第1変形例は、実施形態と同じ構成の検査システムを用い、参照表面として正常な被検査体の表面を用いる例とする。
照明装置120がスクリーン130を介して縞パターンを照射している間に、時間相関カメラ110が、正常な被検査体の表面を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関カメラ110で生成された時間相関画像データを入力し、振幅画像データおよび位相画像データを生成し、PC100の図示しない記憶部に振幅画像データおよび位相画像データを記憶させておく。そして、時間相関カメラ110が、異常が生じているか否か判定したい被検査体を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関画像データから、振幅画像データおよび位相画像データを生成した後、記憶部に記憶されていた、正常な被検査体の振幅画像データおよび位相画像データと比較する。その際に、正常な被検査体の振幅画像データおよび位相画像データと、検査対象の被検査体の振幅画像データおよび位相画像データと、の比較結果を、異常を検出する特徴を示したデータとして出力する。そして、異常を検出する特徴が、当該所定の基準以上の場合に、被検査体150に対して異常があると推測できる。
これにより、第1変形例では、正常な被検査体の表面と差異が生じているか否か、換言すれば、被検査体の表面に異常が生じているか否かを判定できる。なお、振幅画像データおよび位相画像データの比較手法は、どのような手法を用いてもよいので、説明を省略する。
さらに、第1変形例では、参照表面の違いに基づいて、異常を検出する特徴を示したデータを出力する例について説明したが、参照表面の違いと、第1の実施形態で示した周囲との違いと、を組み合わせて、異常を検出する特徴を算出してもよい。組み合わせる手法は、どのような手法を用いてもよいので、説明を省略する。
(第2変形例)
実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、第2変形例として、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
第2変形例の照明制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査対象面に対して、異なる方向に延びた複数の縞パターンを出力する。
図19は、第2変形例の照明制御部102が出力する縞パターンの切り替え例を示した図である。図19の(A)では、照明制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、(B)に示されるように、照明制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。
そして、PC100の制御部103は、図19の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図19の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。
図20は、第2変形例の照明制御部102が、異常(欠陥)2001を含めた表面に縞パターンを照射した例を示した図である。図20に示す例では、異常(欠陥)2001が、x方向に延びている。この場合、照明制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)2001の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。
図21は、図20においてy方向、換言すれば異常(欠陥)2001の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)2001とスクリーン130上の縞パターンの関係を示した図である。図21に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)2001が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)2001を検出できる。
第2変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、および当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。
なお、実施形態のPC100で実行される検査プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、実施形態のPC100で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、実施形態のPC100で実行される検査プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
以上、本発明のいくつかの実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態及び変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。