JP6945106B2 - 検査システム - Google Patents

検査システム Download PDF

Info

Publication number
JP6945106B2
JP6945106B2 JP2017135739A JP2017135739A JP6945106B2 JP 6945106 B2 JP6945106 B2 JP 6945106B2 JP 2017135739 A JP2017135739 A JP 2017135739A JP 2017135739 A JP2017135739 A JP 2017135739A JP 6945106 B2 JP6945106 B2 JP 6945106B2
Authority
JP
Japan
Prior art keywords
image data
time
unit
filter
abnormality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017135739A
Other languages
English (en)
Other versions
JP2019020145A (ja
Inventor
井上 靖之
靖之 井上
圭一 赤澤
圭一 赤澤
栗原 徹
徹 栗原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kochi Prefectural University Corp
Original Assignee
Kochi Prefectural University Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kochi Prefectural University Corp filed Critical Kochi Prefectural University Corp
Priority to JP2017135739A priority Critical patent/JP6945106B2/ja
Publication of JP2019020145A publication Critical patent/JP2019020145A/ja
Application granted granted Critical
Publication of JP6945106B2 publication Critical patent/JP6945106B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明の実施形態は、検査システムに関する。
従来、周期的に変化する光を被検査体に照射し、当該被検査体の表面からの反射光を撮影することで、光の強度のみならず、光の時間遷移に関する情報をも含んだ時間相関画像データを取得する技術が提案されている。このような時間相関画像データは、例えば、被検査体の異常を検出するために用いることができる。
特開2015−197345号公報
従来技術においては、時間相関画像データを用いて異常を検出する技術がある。異常の検出手法としては、位相等の変化が閾値以上であるか否かに応じて、異常を検出する手法が提案されている。しかしながら、単に閾値以上であるか否かを判定するのではなく、欠陥に応じて適切な異常の検出手法を用いる方が望ましい。
実施形態の検査システムは、光の強度の周期的な時間変化及び空間変化を与える面的な照明部と、時間相関カメラまたはそれと等価な動作をする撮像システムから出力される複素時間相関画像データに対してフーリエ変換して、第1のスペクトル画像データを生成するフーリエ変換部と、第1のスペクトル画像データに対して、撮像システムで撮像された検査対象面に含まれている異常を雑音成分として取り除くウィーナ・フィルタを用いて、第2のスペクトル画像データを生成するフィルタ処理部と、第1のスペクトル画像データと第2のスペクトル画像データとの間の差分画像データを生成する差分画像生成部と、差分画像データを逆フーリエ変換して、検査対象面に含まれている異常が表された復元画像データを生成する逆フーリエ変換部と、を備える。
図1は、実施形態の検査システムの構成例を示した図である。 図2は、実施形態の時間相関カメラの構成を示したブロック図である。 図3は、実施形態の時間相関カメラで時系列順に蓄積されたフレームを表した概念図である。 図4は、実施形態の照明装置が照射する縞パターンの一例を示した図である。 図5は、実施形態の照明制御部が照明装置に出力する縞パターンの例を示した図である。 図6は、実施形態のスクリーンを介した後の縞パターンを表した波の形状の例を示した図である。 図7は、実施形態の検査システムによって得られる複素時間相関画像データの例を示した図である。 図8は、実施形態で用いられるウィーナ・フィルタの生成手順を例示した図である。 図9は、実施形態の検査システムにおいて生成される画像データの遷移を例示した図である。 図10は、実施形態の検査システムにおける被検査体の検査処理の手順を示すフローチャートである。 図11は、第1変形例の照明制御部が出力する縞パターンの切り替え例を示した図である。 図12は、第1変形例の照明制御部が、異常(欠陥)を含めた表面に縞パターンを照射した例を示した図である。 図13は、図12においてy方向に縞パターンを変化させた場合における、異常(欠陥)とスクリーン上の縞パターンの関係を示した図である。
(実施形態)
実施形態の検査システムについて説明する。実施形態の検査システムは、被検査体を検査するために様々な構成を備えている。図1は、実施形態の検査システムの構成例を示した図である。図1に示されるように、実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、アーム140と、を備えている。
アーム140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮影可能な被検査体150の表面の位置と向きを変化させる。
照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化及び空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化及び空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。
なお、実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化及び空間変化を与える面的な照射部を構成する例について説明するが、このような組み合わせに制限するものではなく、例えば、LEDを面的に配置して照明部を構成してもよい。
図2は、実施形態の時間相関カメラ110の構成を示したブロック図である。時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。
光学系210は、撮影レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体150を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。
実施形態の光強度信号は、検査システムの照明装置120が、スクリーン130を介して被写体(被検査体150を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。
イメージセンサ220は、例えば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、実施形態の画像サイズをX×Yとする)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。
イメージセンサ220は、光学系210によって透過された、被写体(被検査体150を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮影信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。
実施形態の制御部240は、例えばCPU、ROM、及びRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。
転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。
データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
図3は、実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレーム画像Fk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで作成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。
実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレーム画像Fk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。
イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、実施形態は、解像度、感度、及びコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
図2に戻り、実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。
実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相関カメラ110は、3種類の画像データを作成する。
実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、実施形態は、2種類の時間相関画像データを生成することに制限されるものではなく、1種類又は3種類以上の時間相関画像データを生成する場合も考えられる。
実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮影に必要な露光時間分の光強度信号が必要になる。そこで、実施形態では、強度画像用重畳部243が、撮影に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。
Figure 0006945106
これにより、従来のカメラの撮影と同様に、被写体(被検査体150を含む)が撮影された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。
ところで、時間相関画像データを用いて、被検査体150の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このために、照明装置120が、上述したように、スクリーン130を介して周期的に時間変化及び縞の空間的な移動を与えるような、面的な光の照射を行うこととした。
実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データ、時間相関画像データを生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120及びスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第一の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第二の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第一の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
複素正弦波e-jωtは、e-jωt=cos(ωt)−j・sin(ωt)と表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。
Figure 0006945106
実施形態では、式(2)において、実数部を表す画素値C1(x,y)と、虚数部を表す画素値C2(x,y)と、に分けて2種類の時間相関画像データを生成する。
このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。実施形態の参照信号出力部250は、複素正弦波e-jωtの実数部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚数部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように実施形態の参照信号出力部250は、互いにヒルベルト変換対をなす正弦波及び余弦波の時間関数として表される2種類の参照信号を出力する例について説明するが、参照信号は時間関数のような時間遷移に応じて変化する参照信号であればよい。
そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実数部cosωtを乗算する。
第1の相関画像用重畳部245は、撮影に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。
Figure 0006945106
そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚数部sinωtを乗算する。
第2の相関画像用重畳部247は、撮影に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。
Figure 0006945106
上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。
また、実施形態は、参照信号の種類を制限するものではない。例えば、実施形態では、複素正弦波e-jωtの実数部と虚数部の2種類の時間相関画像データを作成するが、光強度変化(光の強度変調)の振幅と、光強度変化(光の強度変調)の位相と、による2種類の画像データを生成してもよい。
なお、実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分作成可能とする。これにより、例えば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に作成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体150の異常を検出する。そのためには、被写体に対して光を照射する必要がある。
本実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。
本実施形態では、時間相関カメラ110が強度画像データ及び時間相関画像データを撮影する露光時間で、照明装置120が照射する縞パターンを一周期分移動させる。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
図4に示されるように、実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。実施形態では、照明装置120がスクリーン130を介して照射されることで、矩形波の明暗の境界領域をぼかすことができる。
実施形態では、照明装置120が照射する縞パターンをA(1+cos(ωt+kx))と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、スクリーン130から、被検査体150に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。
そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)}……(5)
式(5)で示されるように、照明装置120からスクリーン130を介して照射される縞パターンの強度信号は、複素数として考えることができる。
そして、イメージセンサ220には、当該照明装置120からスクリーン130を介した光が被写体(被検査体150を含む)から反射して入力される。
したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とできる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相kxとする。
Figure 0006945106
式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。
Figure 0006945106
これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体150に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光強度の位相変化と、光強度の振幅変化と、を検出できる。
そこで、実施形態のPC100は、時間相関画像データ及び強度画像データに基づいて、画素毎に入る光強度の位相変化を表した位相画像データと、画素毎に入る光強度の振幅を表した振幅画像データと、を生成する。
さらに、PC100は、強度画像データ、振幅画像データ、及び位相画像データのうちいずれか一つ以上に基づいて、被検査体150の異常を検出する。
ところで、被検査体150の表面形状に凹凸に基づく異常が生じている場合、被検査体150の表面の法線ベクトルの分布には異常に対応した変化が生じている。また、被検査体150の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光強度の位相変化及び振幅変化のうち少なくともいずれか一つとして検出される。そこで、本実施形態では、時間相関画像データ及び強度画像データを用いて、法線ベクトルの分布の変化に対応した、光強度の位相変化及び振幅変化のうち少なくともいずれか一つを検出する。本実施形態によれば、時間相関画像データに基づいて、光強度の振幅の変化と、光強度の位相の変化と、を検出することで、被検査体150に異常があることを推定できる。
図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、アーム制御部101と、照明制御部102と、制御部103と、を備える。
アーム制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、アーム140を制御する。実施形態では、PC100において、被検査体150の撮影対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮影が終了する毎に、アーム制御部101が、当該設定に従って、時間相関カメラ110が設定された表面を撮影できるように、アーム140が被検査体150を移動させる。なお、実施形態は撮影が終了する毎にアーム140を移動させ、撮影が開始する前に停止させることを繰り返すことに制限するものではなく、継続的にアーム140を駆動させてもよい。なお、アーム140は、搬送部、移動部、位置変更部、姿勢変更部等とも称されうる。
照明制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。実施形態の照明制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。
図5は、実施形態の照明制御部102が照明装置120に出力する縞パターンの例を示した図である。図5(B)に示す矩形波に従って、図5(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、照明制御部102が制御を行う。
実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとして、ここでは詳しい説明を省略する。
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。
図5に示されるように、照明制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図6は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図6に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
図1に戻り、制御部103は、振幅−位相画像生成部104と、フーリエ変換部105と、フィルタ処理部106と、差分画像生成部107と、逆フーリエ変換部108と、異常検出部109と、を備え、被検査体150の検査対象面の異常を検出する処理を行う。また、制御部103は、(図示しない)記憶部に、フィルタ記憶部111を設けている。なお、本実施形態は、検査を行うために、複素数で示した時間相関画像データ(複素時間相関画像データと称す)と、複素時間相関画像データの実部と虚部とで分けた2種類の時間相関画像データと、を時間相関カメラ110から受け取る。
振幅−位相画像生成部104は、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、に基づいて、振幅画像データと、位相画像データと、を生成する。
振幅画像データは、時間相関カメラ110により撮像されている間(撮像間隔の間)に被検査体150の検査対象面から反射した光の光強度信号の輝度変化と、時間遷移を示した参照信号とを乗算して算出される、画素毎に入る光強度変化の振幅を表した画像データとする。
位相画像データは、時間相関カメラ110により撮像されている間(撮像間隔の間)に被検査体150の検査対象面から反射した光の光強度信号の輝度変化と、時間遷移を示した参照信号とを乗算して算出される、光強度信号と参照信号との位相差を表す画像データとする。すなわち、位相画像データは、光強度変化の位相に関する画像データである。
本実施形態は振幅画像データの算出手法を制限するものではないが、例えば、振幅−位相画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)及びC2(x,y)から、式(8)を用いて、振幅画像データの各画素値F(x,y)を導き出せる。
Figure 0006945106
同様に、振幅−位相画像生成部104は、画素値C1(x,y)及びC2(x,y)から、式(9)を用いて、位相画像データの各画素値φ(x,y)を導き出せる。
Figure 0006945106
式(9)から分かるように、位相画像データの各画素値は、−π〜πの範囲に折りたたまれる。したがって、位相画像データの各画素値は、−πからπに、またはπから−πに不連続に変化し得る(位相ジャンプ)。
フーリエ変換部105は、複素時間相関画像データに対して、x方向及びy方向についての2次元フーリエ変換(離散フーリエ変換、高速フーリエ変換)を実行し、スペクトル画像データを生成する。
図7は、実施形態の検査システムによって得られる複素時間相関画像データの例を示した図である。複素時間相関画像データにおいては、例えば、振幅を明るさで示し、位相を色として示すことが考えられる。
フィルタ処理部106は、フーリエ変換部105によって得られた(空間周波数)スペクトル画像データに対して、画素毎に設定されたウィーナ・フィルタK(m,n)を用いて、復元画像データに基づいたスペクトル画像データを生成する。
復元画像データとは、複素時間相関画像データに含まれている、被検査体150の検査対象面の欠陥を表した雑音成分を取り除いた複素時間相関画像データ(複素画像データの一種であって、振幅と位相とを含む画像データ)とする。なお、スペクトル画像データにおけるx軸方向の座標をmと、スペクトル画像データにおけるy軸方向の座標をnと、する。
ウィーナ・フィルタK(m,n)は、信号から雑音成分を除去するための数学的フィルタの一種である。本実施形態のフィルタ処理部106は、スペクトル画像データに対して、ウィーナ・フィルタK(m,n)を用いることで、スペクトル画像データに含まれている、検査対象の欠陥部分を雑音成分として取り除く処理を行う。これにより、検査対象から欠陥部分が取り除かれた復元画像のスペクトル画像データを生成できる。
フィルタ記憶部111は、ウィーナ・フィルタK(m,n)を記憶する記憶部である。本実施形態のフィルタ記憶部111は、被検査体150の検査対象面毎に、ウィーナ・フィルタK(m,n)を記憶する。さらに、被検査体150の検査対象面に対して、照明制御部102が出力する縞パターンが複数種類存在する場合、縞パターン毎にウィーナ・フィルタK(m,n)を記憶する。
ウィーナ・フィルタK(m,n)は、欠陥が含まれていない良品である、被検査体の検査対象面の複素時間相関画像データに基づいて、予め生成されたものとする。
図8は、本実施形態で用いられるウィーナ・フィルタKの生成手順を例示した図である。図8に示されるように、本実施形態においては、欠陥が含まれていない良品である、被検査体の検査対象面の複数の複素時間相関画像データ801に対して、x方向及びy方向についての2次元フーリエ変換(離散フーリエ変換、高速フーリエ変換)を実行することで、複素時間相関画像データに対応する複数の(空間周波数)スペクトル画像データ802を生成する。その後、ウィーナ・フィルタK(図8ではウィーナ・フィルタ803として示す)は、複数の(空間周波数)スペクトル画像データ802に基づいて生成される。生成されたウィーナ・フィルタKは、フィルタ記憶部111に記憶される。
次に、スペクトル画像データに基づいたウィーナ・フィルタKの生成手法について説明する。本実施形態では、複数の(空間周波数)スペクトル画像データ802(以下の式ではsとして表す)を用いて、下記の式(10)を演算することで、良品を表した複素時間相関画像データの平均的なスペクトル画像のパワースペクトルΦFFを算出する。なお、数値nsumは、スペクトル画像データsの合計の数とする。
ΦFF = |(1/nsum)*Σs|^2 … (10)
そして、ウィーナ・フィルタKは、平均的なスペクトル画像のパワースペクトルΦFFを用いた、下記の式(11)の演算から生成される。なお、雑音成分のパワースペクトルΦNNは、本実施形態で取り除きたい雑音成分に基づいて予め定められるパラメータとする。
ところで、雑音成分のパワースペクトルΦNNを小さくすることで、高周波をより通すことになりエッジ際の復元率を向上させることができる。しかしながら、雑音成分のパワースペクトルΦNNを小さくすると、エッジ際の高周波と共に欠陥箇所も復元されてしまう。
そこで、本実施形態においては、被検査体の検査対象面が緩やかに変化するタレ・ヘコミ等の欠陥箇所が復元されきらないような値を、雑音成分のパワースペクトルΦNNに設定する。なお、本実施形態においては、検査対象面が緩やかに変化するタレ・ヘコミ等を欠陥として取り除く例とするが、取り除く対象となる欠陥を、タレ・ヘコミに制限するものではない。
K=1/(1+ΦNN/ΦFF) … (11)
ウィーナ・フィルタとは、従来、劣化成分を認識されている場合に、劣化画像から、劣化を示した雑音成分を取り除くことで、劣化が生じていない原画像を生成するために用いられていた。しかしながら、本実施形態では、ウィーナ・フィルタを、劣化が生じていない原画像を生成するために用いるのではなく、フィルタ処理部106が、検査対象面の欠陥等が含んだ複素時間相関画像データに基づいたスペクトル画像データから、当該欠陥等を当該雑音成分として取り除くことで、検査対象面の欠陥等が含まれていない複素時間相関画像データ、換言すれば(検査対象面を良品として復元した)復元画像データに基づいたスペクトル画像データを生成している。
図1に戻り、差分画像生成部107が、復元画像データに基づいたスペクトル画像データと、複素時間相関画像データに基づいたスペクトル画像データと、の画素毎の画素値の差分を示した差分スペクトル画像データを生成する。
差分スペクトル画像データは、復元画像データと複素時間相関画像データの差分に基づいたスペクトル画像データ、換言すれば、被検査体の検査対象面の複素時間相関画像データに含まれていた欠陥等を表した雑音成分のスペクトル画像データとなる。
逆フーリエ変換部108は、差分スペクトル画像データに対して、フーリエ逆変換を実行して、差分複素画像データを生成する。
差分複素相画像データは、被検査体の検査対象面の複素時間相関画像データに含まれていた欠陥を示す位相がフーリエ逆変換によって復元された複素時間相関画像データとなる。
図9は、本実施形態の検査システムにおいて生成される画像データの遷移を例示した図である。図9に示される例では、時間相関カメラ110から受け取った複素時間相関画像データ901を用いるものとする。
そして、フーリエ変換部105が、複素時間相関画像データ901に対して、2次元フーリエ変換を行うことで、スペクトル画像データ902を生成する。
フィルタ処理部106は、スペクトル画像データ902に対して、フィルタ記憶部111に記憶された、ウィーナ・フィルタKを用いて、復元画像データに基づいたスペクトル画像データ903を生成する。
そして、差分画像生成部107が、スペクトル画像データ902と、復元画像データに基づいたスペクトル画像データ903と、の間の差分処理911を行うことで、差分スペクトル画像データ904を生成する。そして、逆フーリエ変換部108が、差分スペクトル画像データ904に対して、フーリエ逆変換を実行して、差分複素画像データ905を生成する。
図1に戻り、異常検出部109は、位相画像データ、振幅画像データ、及び差分複素画像データに基づいて、異常の検出処理を行う。位相画像データ、及び振幅画像データを用いた異常の検出手法は、どのような手法を用いても良い。
本実施形態の異常検出部109は、差分複素画像データに含まれている位相の値が、所定の閾値以上になるか否かに基づいて、検査対象面の異常の検出を行う。当該所定の閾値は、固定値に制限するものではなく、入力された振幅画像データの振幅に応じて設定しても良い。
本実施形態の差分複素画像データには、検査対象面の欠陥などの異常を表した成分が含まれているので、当該差分複素画像データを用いることで、検査対象面の異常を検出できる。異常の検出手法については、周知の手法を問わずどのような手法を用いても良い。また、異常検出部109が欠陥を検出する際に、雑音成分を取り除くためのフィルタ処理を実行しても良い。フィルタ処理としては、高周波除去フィルタ等が考えられる。
次に、実施形態の検査システムにおける被検査体の検査処理について説明する。図10は、実施形態の検査システムにおける上述した処理の手順を示すフローチャートである。なお、被検査体150は、すでにアーム140に固定された状態で、検査の初期位置に配置されているものとする。
実施形態のPC100が、照明装置120に対して、被検査体を検査するための縞パターンを出力する(S2401)。
照明装置120は、PC100から入力された縞パターンを格納する(S2421)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(S2422)。なお、照明装置120が表示を開始する条件は、縞パターンが格納された際に制限するものではなく、例えば検査者が照明装置120に対して開始操作を行った際でもよい。
そして、PC100の制御部103が、時間相関カメラ110に対して、撮像の開始指示を送信する(S2402)。
次に、時間相関カメラ110が、送信されてきた撮像の開始指示に従って、被検査体150を含む領域について撮像を開始する(S2414)。次に、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を生成する(S2415)。そして、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を、PC100に出力する(S2416)。
PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(S2403)。そして、振幅−位相画像生成部104は、受け取った強度画像データと時間相関画像データとから、振幅画像データと、位相画像データと、を生成する(S2404)。
フーリエ変換部105は、複素時間相関画像データに対して、2次元フーリエ変換を実行し、スペクトル画像データを生成する(S2405)。
フィルタ処理部106は、スペクトル画像データに対して、ウィーナ・フィルタKを用いて、復元画像データに基づいたスペクトル画像データを生成する(S2406)。本実施形態では、S2414で撮像された、被検査体150を含む領域に対応しているウィーナ・フィルタKを、フィルタ記憶部111から読み出すこととする。
差分画像生成部107が、復元画像データに基づいたスペクトル画像データと、位相画像データに基づいたスペクトル画像データと、の間の差分スペクトル画像データを生成する(S2407)。
逆フーリエ変換部108は、差分スペクトル画像データに対して、フーリエ逆変換を実行して、差分複素画像データを生成する(S2408)。
異常検出部109は、差分複素画像データに基づいて、異常の検出処理を行う(S2409)。
そして、異常検出部109は、異常検出結果を、PC100が備える(図示しない)表示装置に出力する(S2410)。
異常検出結果の出力例としては、差分位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示するなどが考えられる。また、視覚に基づく出力に制限するものではなく、音声等で異常が検出されたことを出力してもよい。
制御部103は、当該被検査体の検査と共に、検査体の撮像が終了したか否かを判定する(S2411)。検査体の撮像が終了していないと判定した場合(S2411:No)、アーム制御部101が、予め定められた設定に従って、次の検査対象となる被検査体の表面が、時間相関カメラ110で撮像できるように、アーム140の移動制御を行う(S2412)。アーム140の移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮像の開始指示を送信する(S2402)。
一方、制御部103は、当該被検査体の検査と共に、検査体の撮像が終了したと判定した場合(S2411:Yes)、終了指示を時間相関カメラ110に対して出力し(S2413)、処理を終了する。
そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(S2417)。終了指示を受け付けていない場合(S2417:No)、再びS2414から処理を行う。一方、終了指示を受け付けた場合(S2417:Yes)、処理を終了する。
なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。
また、実施形態では、強度画像データと、時間相関画像データと、を時間相関カメラ110を用いて生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。例えば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。
本実施形態の検査システムにおいては、上述した構成を備えることで、縞幅に応じた検出感度の補正を行うことができる。これにより、本実施形態は、異常の過検出を抑止できるので、被検査体の異常をより高精度に検出できる。
(第1変形例)
上述の実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、第1変形例として、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
第1変形例の照明制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査対象面に対して、異なる方向に延びた複数の縞パターンを出力する。
図11は、第1変形例の照明制御部102が出力する縞パターンの切り替え例を示した図である。図11の(A)では、照明制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、図11の(B)に示されるように、照明制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。
そして、PC100の制御部103は、図11の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図11の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。
図12は、第1変形例の照明制御部102が、異常(欠陥)2601を含めた表面に縞パターンを照射した例を示した図である。図12に示す例では、異常(欠陥)2601が、x方向に延びている。この場合、照明制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)2601の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。
図13は、図12においてy方向、換言すれば異常(欠陥)2601の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)2601とスクリーン130上の縞パターンの関係を示した図である。図13に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)2601が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)2601を検出できる。
本変形例のフィルタ記憶部111は、照明装置120が表示する縞パターン(光の強度の周期的な時間変化及び空間変化を与える方向)毎に、ウィーナ・フィルタKを記憶する。
そして、本変形例のフィルタ処理部106は、時間相関カメラ110で撮像された時に、照明制御部102により出力されていた縞パターンに対応する、ウィーナ・フィルタKを用いて、復元画像データに基づいたスペクトル画像データを生成する。このように本変形例では、複数の縞パターンを出力するが、縞パターンに応じたウィーナ・フィルタKを予め用意しておく。
ウィーナ・フィルタの生成手法は、縞パターン毎の複数の(空間周波数)スペクトル画像データを用いる以外は、上述した実施形態と同様として、説明を省略する。
第1変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、及び当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
100…PC、101…アーム制御部、102…照明制御部、103…制御部、104…振幅−位相画像生成部、105…フーリエ変換部、106…フィルタ処理部、107…差分画像生成部、108…逆フーリエ変換部、109…異常検出部、110…時間相関カメラ、111…フィルタ記憶部。

Claims (5)

  1. 光の強度の周期的な時間変化及び空間変化を与える面的な照明部と、
    時間相関カメラまたはそれと等価な動作をする撮像システムから出力される複素時間相関画像データに対してフーリエ変換して、第1のスペクトル画像データを生成するフーリエ変換部と、
    前記第1のスペクトル画像データに対して、前記撮像システムで撮像された検査対象面に含まれている異常を雑音成分として取り除くウィーナ・フィルタを用いて、第2のスペクトル画像データを生成するフィルタ処理部と、
    前記第1のスペクトル画像データと前記第2のスペクトル画像データとの間の差分画像データを生成する差分画像生成部と、
    前記差分画像データを逆フーリエ変換して、前記検査対象面に含まれている異常が表された復元画像データを生成する逆フーリエ変換部と、
    を備えた検査システム。
  2. 検出対象となる異常が含まれていない検査対象面を撮像して生成された複素時間相関画像データから生成されたスペクトル画像データを用いた、前記ウィーナ・フィルタを記憶するフィルタ記憶部を、さらに備え、
    前記フィルタ処理部は、前記フィルタ記憶部に記憶された前記ウィーナ・フィルタを用いる、
    請求項1に記載の検査システム。
  3. 前記フィルタ記憶部は、前記撮像システムで撮像される検査対象面毎に、前記ウィーナ・フィルタを記憶する、
    請求項2に記載の検査システム。
  4. 前記フィルタ記憶部は、前記照明部による光の強度の周期的な時間変化及び空間変化を与える方向毎に、前記ウィーナ・フィルタを記憶する、
    請求項2又は3に記載の検査システム。
  5. 前記復元画像データに基づいて、前記検査対象面に含まれている異常を検出する検出部を、
    さらに備える請求項1又は2に記載の検査システム。
JP2017135739A 2017-07-11 2017-07-11 検査システム Active JP6945106B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017135739A JP6945106B2 (ja) 2017-07-11 2017-07-11 検査システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017135739A JP6945106B2 (ja) 2017-07-11 2017-07-11 検査システム

Publications (2)

Publication Number Publication Date
JP2019020145A JP2019020145A (ja) 2019-02-07
JP6945106B2 true JP6945106B2 (ja) 2021-10-06

Family

ID=65354198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017135739A Active JP6945106B2 (ja) 2017-07-11 2017-07-11 検査システム

Country Status (1)

Country Link
JP (1) JP6945106B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04364589A (ja) * 1991-06-11 1992-12-16 Nec Corp 画像縮小装置
JP2000057339A (ja) * 1998-08-04 2000-02-25 Canon Inc 画像処理方法及び装置
JP2015161529A (ja) * 2014-02-26 2015-09-07 株式会社豊田中央研究所 表面検査装置、表面検査方法およびプログラム
JP6316068B2 (ja) * 2014-03-31 2018-04-25 国立大学法人 東京大学 検査システムおよび検査方法

Also Published As

Publication number Publication date
JP2019020145A (ja) 2019-02-07

Similar Documents

Publication Publication Date Title
JP6316068B2 (ja) 検査システムおよび検査方法
US10739272B2 (en) Inspection system and inspection method
JP6542586B2 (ja) 検査システム
WO2018159825A1 (ja) 検査システムおよび検査方法
JP6682251B2 (ja) 検査システム、及び検査方法
JP2018028527A (ja) 検査システム
JP6529248B2 (ja) 検査システムおよびフレキシブル照明装置
JP6420131B2 (ja) 検査システム、及び検査方法
JP2018009849A (ja) 検査システムおよび検査方法
JP2019020365A (ja) 検査システム
JP6945106B2 (ja) 検査システム
JP2017101977A (ja) 検査システムおよび検査方法
JP2019002761A (ja) 検査システムおよび検査方法
JP6781430B2 (ja) 検査システム
JP2017101979A (ja) 検査システム
JP6909378B2 (ja) 検査システム
JP6902684B2 (ja) 画像処理装置および検査システム
JP6826813B2 (ja) 検査装置及び検査方法
JP6703415B2 (ja) 検査装置及び検査方法
JP6909377B2 (ja) 検査システムおよび検査方法
JP2018116026A (ja) 照明装置および透過部材
JP2024017229A (ja) 検査システムおよび検査方法
JP2024017231A (ja) 検査システムおよび検査方法
JP6529247B2 (ja) 較正システムおよび検査システム
JP2020012816A (ja) 検査システムおよび検査方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200603

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210728

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210728

R150 Certificate of patent or registration of utility model

Ref document number: 6945106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150