JP2004191112A - Defect examining method - Google Patents

Defect examining method Download PDF

Info

Publication number
JP2004191112A
JP2004191112A JP2002357704A JP2002357704A JP2004191112A JP 2004191112 A JP2004191112 A JP 2004191112A JP 2002357704 A JP2002357704 A JP 2002357704A JP 2002357704 A JP2002357704 A JP 2002357704A JP 2004191112 A JP2004191112 A JP 2004191112A
Authority
JP
Japan
Prior art keywords
inspection
image
neural network
images
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002357704A
Other languages
Japanese (ja)
Inventor
Osamu Nakayama
攻 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2002357704A priority Critical patent/JP2004191112A/en
Publication of JP2004191112A publication Critical patent/JP2004191112A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a defect examining method of high accuracy corresponding to various kinds of defects. <P>SOLUTION: This defect examining method comprises acquiring a plurality of examined images by photographing an examined object under various optical conditioners (step S1), creating a plurality of examination frequency images by performing Fourier transform on the plurality of acquired examination images (step S2), processing the plurality of created examination frequency images as input signals by a neutral network (step S3), and determining whether the examined object is good or bad on the basis of an output signal of the neutral network (step S4). The defect can be examined with high accuracy corresponding various kinds of defects by representing the difference in shapes of an examined object surface caused by the difference in optical conditions, and performing the operation in the neutral network not on the basis of the image data relating to the plurality of examined images under various optical conditions, but on the basis of the examination frequency image data transformed into the examination frequency components by Fourier transform. <P>COPYRIGHT: (C)2004,JPO&NCIPI

Description

【0001】
【発明の属する技術分野】
本発明は、ワーク、その他の各種被検査物に関する良否判定を行うための欠陥検査方法に関する。
【0002】
【従来の技術】
被検査物の良否判定を行うための欠陥検査方法には各種方法があるが、異なる種類の欠陥を高精度に検出する方法としては、従来より複数の光学条件で被検査物を撮像した検査画像間の差分を用いる方法がある。
【0003】
また、ニューラルネットワークを用いて欠陥の種類を判定するようにした提案例も各種ある(例えば、特許文献1参照)。
【0004】
【特許文献1】
特許第2758260号公報
【0005】
【発明が解決しようとする課題】
ところが、前者の場合、様々な欠陥を検査画像間の差分のみで定量的に評価するのは難しいなどの問題がある。
【0006】
また、特許文献1による場合、ニューラルネットワークを用いた処理により欠陥の種類を判定するようにしているが、単一の検査画像に基づく処理であり、検査物の異常が被検査物の濃淡なのか凹凸なのかの判定が困難な場合が多々あり、必ずしも高精度な欠陥検査を行えない。
【0007】
本発明の目的は、複数の欠陥の種類に対応した高精度な欠陥検査方法を提供することである。
【0008】
本発明の目的は、高速で高精度な欠陥検査方法を提供することである。
を目的とする。
【0009】
本発明の目的は、被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査方法を提供することである。
【0010】
本発明の目的は、複数の画像間の差分処理において厳密な位置合わせを必要とせずに被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査方法を提供することである。
【0011】
本発明の目的は、被検査物上の異常を的確に判定できる高精度な欠陥検査方法を提供することである。
【0012】
本発明の目的は、被検査物上の凹凸の状態を的確に判定できる高精度な欠陥検査方法を提供することである。
【0013】
本発明の目的は、工程管理上有用なデータを出力可能な欠陥検査方法を提供することである。
【0014】
本発明の目的は、欠陥の種類毎に詳細な検査レベルの設定が可能で高精度な欠陥検査方法を提供することである。
【0015】
【課題を解決するための手段】
請求項1記載の発明は、被検査物を照明装置で照明し、照明された前記被検査物の状態を撮像装置により撮像し、撮像により取得された検査画像に基づきニューラルネットワークにより前記被検査物の良否を判定する欠陥検査方法であって、前記被検査物を異なる光学条件で撮像し複数の検査画像を取得する検査画像取得ステップと、取得した複数の前記検査画像を各々フーリエ変換して複数の検査周波数画像を作成する変換処理ステップと、作成された複数の前記検査周波数画像を入力信号として前記ニューラルネットワークに演算処理をさせるニューラルネットワーク処理ステップと、前記ニューラルネットワークの出力信号に基づき前記被検査物の良否を判定する判定ステップと、を備える。
【0016】
従って、被検査物を異なる光学条件で撮像して取得した複数の検査画像に関して各々フーリエ変換して複数の検査周波数画像を作成し、これらの複数の検査周波数画像をニューラルネットワークで演算処理することにより、光学条件の違いより被検査物表面の形状の違いを表現でき、このような異なる光学条件の複数の検査画像に関して単なる画像データではなくフーリエ変換により検査周波数成分に変換した検査周波数画像データを用いてニューラルネットワークで演算処理を行うので、複数の欠陥の種類に対応した高精度な欠陥検査が可能となる。
【0017】
ここに、異なる光学条件としては、被検査物に対する照明角度を変えるとか照明方法を変えるとか種々の方法を採れるが、その数例として、例えば請求項11ないし15のような方法により容易に実現可能である。即ち、請求項11記載の発明のように、1つの撮像装置と被検査物に対する照明条件の異なる複数の照明装置とを用い、照明装置を切換えて使用することにより異なる光学条件の複数の検査画像を取得してもよく、又は、請求項12記載の発明のように、1つの照明像装置と被検査物に対する撮像条件の異なる複数の撮像装置とを用い、異なる光学条件の複数の検査画像を取得してもよく、又は、請求項13記載の発明のように、一対の撮像装置と照明装置とを用い、撮像装置を移動させることにより異なる光学条件の複数の検査画像を取得してもよく、又は、請求項14記載の発明のように、一対の撮像装置と照明装置とを用い、照明装置を移動させることにより異なる光学条件の複数の検査画像を取得してもよく、さらには、一対の撮像装置と照明装置とを用い、被検査物を変位させることにより異なる光学条件の複数の検査画像を取得してもよい。
【0018】
請求項2記載の発明は、請求項1記載の欠陥検査方法において、前記検査画像取得ステップでは、前記撮像装置により得られた検査画像を所定の領域に分割し、前記変換処理ステップでは、分割された領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、前記ニューラルネットワーク処理ステップでは、作成された複数の検査周波数画像をニューラルネットワークの入力信号とし、前記判定ステップでは、分割された領域毎に前記被検査物の良否を判定する。
【0019】
従って、撮像装置により得られた検査画像を所定の領域に分割し、分割された領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、作成された複数の検査周波数画像をニューラルネットで処理し、分割された領域毎に被検査物の良否を判定することにより、検査画像全体を単位として対象とする場合よりも、周波数変換などの計算速度を高速化することができるため、高速で高精度な欠陥検査が可能となる。
【0020】
請求項3記載の発明は、請求項1記載の欠陥検査方法において、前記撮像装置により得られた検査画像を所定のアルゴリズムで処理して特異領域を抽出する特異領域抽出ステップを備え、前記変換処理ステップでは、抽出された特異領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、前記ニューラルネットワーク処理ステップでは、作成された複数の検査周波数画像をニューラルネットワークの入力信号とする。
【0021】
従って、検査画像から特異領域を抽出し、抽出された特異領域の検査画像をフーリエ変換して複数の検査周波数画像を作成し、作成された複数の検査周波数画像をニューラルネットで処理することにより、検査画像自体を対象とする場合よりも、高速で高精度な欠陥検査が可能となる。
【0022】
請求項4記載の発明は、請求項1ないし3の何れか一記載の欠陥検査方法において、前記変換処理ステップでは、前記フーリエ変換の処理にFFT(高速フーリエ変換)を用いる。
【0023】
従って、フーリエ変換の処理にFFTを用いることにより、より一層の高速処理化を図れる。
【0024】
請求項5記載の発明は、請求項1ないし4の何れか一記載の欠陥検査方法において、前記撮像装置により得られた複数の検査画像から少なくとも1つの差分画像を作成する差分画像作成ステップを備え、前記変換処理ステップでは、前記差分画像をフーリエ変換することにより差分周波数画像を作成する処理を含み、前記ニューラルネットワーク処理ステップでは、作成された差分周波数画像をニューラルネットワークの入力信号に含む。
【0025】
従って、複数の検査画像から少なくとも1つの差分画像を作成し、差分画像をフーリエ変換することにより差分周波数画像を作成し、作成された差分周波数画像をニューラルネットワークでの処理に含ませることにより、検査画像間の関係が明確となり、よって、被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査となる。
【0026】
請求項6記載の発明は、請求項1ないし4の何れか一記載の欠陥検査方法において、前記変換処理ステップにおけるフーリエ変換により作成された複数の検査周波数画像から少なくとも1つの周波数差分画像を作成する周波数差分画像作成ステップを備え、前記ニューラルネットワーク処理ステップでは、作成された周波数差分画像をニューラルネットワークの入力信号に含む。
【0027】
従って、フーリエ変換により作成された複数の検査周波数画像から少なくとも1つの周波数差分画像を作成し、作成された周波数差分画像をニューラルネットワークでの処理に含ませることにより、検査周波数画像間の関係が明確となり、よって、複数の画像間の差分処理において厳密な位置合わせを必要とせずに被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査となる。
【0028】
請求項7記載の発明は、請求項1ないし4の何れか一記載の欠陥検査方法において、前記撮像装置により得られた検査画像を所定のアルゴリズムで処理することにより前記検査画像から特徴量を算出する特徴量算出ステップを備え、前記ニューラルネットワーク処理ステップでは、算出された特徴量をニューラルネットワークの入力信号に含む。
【0029】
従って、検査画像から特徴量を算出し、算出された特徴量をニューラルネットワークでの処理に含ませることにより、被検査物上の異常を的確に判定できる高精度な欠陥検査となる。
【0030】
請求項8記載の発明は、請求項1ないし4の何れか一記載の欠陥検査方法において、前記撮像装置により得られた複数の検査画像から少なくとも1つの差分画像を作成する差分画像作成ステップと、作成された前記差分画像を所定のアルゴリズムで処理することにより特徴量を算出する特徴量算出ステップと、を備え、前記ニューラルネットワーク処理ステップでは、算出された特徴量をニューラルネットワークの入力信号に含む。
【0031】
従って、複数の検査画像から少なくとも1つの差分画像を作成し、作成された差分画像から特徴量を算出し、算出された特徴量をニューラルネットワークでの処理に含ませることにより、被検査物上の凹凸の状態を的確に判定できる高精度な欠陥検査となる。
【0032】
請求項9記載の発明は、請求項1ないし8の何れか一記載の欠陥検査方法において、前記ニューラルネットワーク処理ステップでは、前記ニューラルネットワークの出力信号に前記被検査物の良否及び欠陥の種類を含む。
【0033】
従って、ニューラルネットワークの出力信号に被検査物の良否だけでなく、欠陥の種類を含ませることにより、工程管理上有用なデータを出力可能な欠陥検査となる。
【0034】
請求項10記載の発明は、請求項1ないし8の何れか一記載の欠陥検査方法において、前記ニューラルネットワーク処理ステップでは、前記ニューラルネットワークの出力信号として欠陥の種類を出力し、前記判定ステップでは、出力された欠陥の種類毎に所定のアルゴリズムにより前記被検査物の良否を判定する。
【0035】
従って、ニューラルネットワークの出力信号として欠陥の種類を出力し、出力された欠陥の種類毎に被検査物の良否を判定することにより、欠陥の種類毎に詳細な検査レベルの設定が可能で高精度な欠陥検査となる。
【0036】
【発明の実施の形態】
本発明の第一の実施の形態を図1ないし図3に基づいて説明する。本実施の形態は、例えばワーク等の被検査物を照明装置で照明し、照明された被検査物の状態を撮像装置により撮像し、撮像により取得された検査画像に基づきニューラルネットワークにより被検査物の良否を判定する欠陥検査方法に適用したものである。図1はその方法の基本的な流れを示す概略フローチャートである。
【0037】
まず、被検査物を異なる光学条件で撮像し欠陥の種類によって画像上での特徴の異なる複数の検査画像(画像入力1,2,…,n)を取得する(ステップS1;検査画像取得ステップ)。このステップS1における、異なる光学条件としては、例えば図2に示すように、被検査物1を或る照明装置2aで照明して撮像装置3で撮像し、次に、照明装置2aとは異なる位置に設置された別の照明装置2bで照明して撮像装置3で撮像することにより照明条件(照明角度)の異なる2つの検査画像を取得すればよい。このような2つの検査画像は、照明角度の違いより被検査物1表面の形状の違いを表現できる。
【0038】
次に、取得されたこれらの複数の検査画像(画像入力1,2,…,n)を各々別個にフーリエ変換(フーリエ変換1,2,…,n)することにより複数の検査周波数画像を作成する(ステップS2;変換処理ステップ)。即ち、検査画像に関して単なる画像データではなく、フーリエ変換により欠陥の種類に応じた欠陥検査に適した検査周波数成分に変換した検査周波数画像データが作成される。ここに、フーリエ変換には周知技術を利用すればよいが、特にFFT(高速フーリエ変換)を利用することが好ましい。
【0039】
次に、作成されたこれらの検査周波数画像の各画素データをニューラルネットワークに入力信号として入力させ、ニューラルネットワークに演算処理を実行させる(ステップS3;ニューラルネットワーク処理ステップ)。このニューラルネットワークでは、演算処理の結果に基づき被検査物1の良否に関する出力信号を出力するので、この出力信号に基づき被検査物1の良否が判定される(ステップS4;判定ステップ)。
【0040】
このように、本実施の形態によれば、被検査物1を異なる光学条件で撮像して取得した複数の検査画像に関して各々フーリエ変換して複数の検査周波数画像を作成し、これらの複数の検査周波数画像をニューラルネットワークで処理するようにしたので、光学条件の違いより被検査物1表面の形状の違いを表現でき、このような検査画像に関してフーリエ変換、ニューラルネットワークでの処理を行うので、複数の欠陥の種類に対応した高精度な欠陥検査が可能となる。特に、離散的な値を学習させてもその離散値間を補間するという汎化能力を持つニューラルネットワークを利用することにより、より少ない教師データで種類の異なる欠陥に関して高精度な欠陥検査が可能となる。
【0041】
ここに、ニューラルネットワークによる演算処理も周知技術を利用すればよい。図3にニューラルネットワーク4の原理的な概略構成例を示す。図3は極めて単純化して示し、ニューラルネットワーク4は入力層5と中間層6と出力層7とからなり、予め検査周波数画像1,2,…,nの各周波数成分の画素データ1,2,…,nを入力とし、対象となる被検査物1の良否(OK又はNG)だけでなく、欠陥の種類(濃淡欠陥又は突起欠陥)も出力信号とする教師データとして誤差逆伝播法等により教師データとの誤差が小さくなるように学習済みのものであり、検査周波数画像1,2,…,nの状態に応じて被検査物1の良否(OK又はNG)及び欠陥の種類(濃淡欠陥又は突起欠陥)を出力することとなる。このように、ニューラルネットワーク4の出力信号として欠陥の種類も含むことにより被検査物1の製造工程の工程管理上有用なデータとすることができる。
【0042】
また、本実施の形態では、ニューラルネットワーク4そのものの出力信号として被検査物1の良否を直接的に判定しているが、図4に示すように、ニューラルネットワーク4から出力される出力信号を欠陥の種類とし、出力された欠陥の種類を判断し(ステップS5)、その欠陥の種類毎に予め定められた画像計測などの詳細な手法により欠陥検査の処理(濃淡欠陥用の処理、凹凸欠陥用の処理、…)を行い(ステップS6)、この処理結果に基づき最終的な被検査物1の良否を判定する(ステップS7)ことにより、より高精度に欠陥検出を行わせるようにしてもよい。ステップS6,S7により、出力された欠陥の種類毎に所定のアルゴリズムにより被検査物の良否を判定する判定ステップが実行される。
【0043】
ところで、本実施の形態では、異なる光学条件で複数の検査画像を取得する方法として、複数の照明装置2a,2bを切換えて使用し、1つの撮像装置3で撮像することとしたが、図5(a)に示すように、被検査物1を1つの照明装置2により照明し、異なる位置に配設された複数の撮像装置3a,3bで各々撮像することにより照明角度の異なる2つの検査画像を取得するようにしてもよい。
【0044】
又は、図5(b)に示すように、一対の照明装置2と撮像装置3とを用い、被検査物1を照明装置2で照明し、実線の位置に位置させた撮像装置3で撮像した後に、撮像装置3を仮想線の位置に移動させて撮像することにより、照明角度の異なる2つの検査画像を取得するようにしてもよい。
【0045】
又は、図5(c)に示すように、一対の照明装置2と撮像装置3とを用い、被検査物1を実線の位置に設置した照明装置2で照明し、撮像装置3で撮像した後に、照明装置2を仮想線の位置に移動させて撮像装置3撮像することにより、照明角度の異なる2つの検査画像を取得するようにしてもよい。
【0046】
さらには、図5(d)に示すように、被検査物1を実線で示す状態に設置し、照明装置2で照明し、撮像装置3で撮像した後に、被検査物1を仮想線で示す状態に変位させて撮像装置3で撮像することにより、照明角度の異なる2つの検査画像を取得するようにしてもよい。
【0047】
さらには、異なる光学条件として照明角度の違いの例で説明したが、これに限らず、例えば照明方法の違いとすることもできる。例えば、斜光照明やリング照明或いは同軸落射などを利用するようにしてもよい。又は、照明を指向性のある平行光と指向性を持たない拡散光とすることもできる。また、異なる色の照明とそれと対応したフィルタを備えた撮像装置で撮像することにより異なる光学条件の複数の検査画像を得ることもできる。また、照明の種類を可視光、赤外光、紫外光或いはX線などとし、それらの照明光に適応した撮像装置で各々撮像することも被検査物1及び検出しようとする欠陥によっては有効である。
【0048】
また、本実施の形態を実施する上では、特に図示しないが、画像処理の単位を小さくする、つまりは、撮像装置3により得られた検査画像を所定の領域に分割し、分割された領域の画像データをフーリエ変換することにより複数の検査周波数画像を作成し、作成された複数の検査周波数画像をニューラルネットワーク4の入力信号とし、分割された画像領域毎に被検査物1の良否を判定するようにしてもよい。これによれば、周波数変換などの計算速度を高速化することができる。
【0049】
本発明の第二の実施の形態を図6に基づいて説明する。第一の実施の形態で示した部分と同一部分は同一符号を用いて示し、説明も省略する(以降の実施の形態でも同様とする)。
【0050】
本実施の形態は、より一層の高速化を図ったものである。即ち、ステップS1の処理で撮像装置3により得られた各々の検査画像(画像入力1,2,…,n)に対して、所定のアルゴリズムで処理することで特異領域(特異領域抽出1,2,…,n)を抽出する(ステップS11;特異領域抽出ステップ)ようにしたものである。特異領域抽出の所定のアルゴリズムは、画像処理等で周知な技術を利用すればよい。
【0051】
従って、本実施の形態の変換処理ステップS13では、抽出された特異領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、特異領域がなければ(ステップS12のN)、変換処理を行わない。即ち、抽出された特異領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し(ステップS2)、作成された複数の検査周波数画像をニューラルネットワークの入力信号として、抽出された特異領域毎に処理する(ステップS3)ことにより、より一層の高速化を図ることができる。
【0052】
ここで、本実施の形態では、複数の検査画像全てについて特異領域の抽出処理を行っているが(ステップS11)、特定の光学条件による検査画像のみを対象として特異領域の抽出処理を行わせるようにしてもよい。また、本実施の形態の画像の処理単位を、主走査、副走査方向ともに2の累乗とし、フーリエ変換をFFT(高速フーリエ変換)とすることにより高速処理が可能となる。
【0053】
本発明の第三の実施の形態を図7に基づいて説明する。本実施の形態では、例えば第一実施の形態で説明したような処理に加え、撮像装置3により得られた複数の検査画像(画像入力1,2)から差分画像を作成し(ステップS21;差分画像作成ステップ)、作成した差分画像のフーリエ変換をステップS2の変換処理の一つとして含め、得られた差分周波数画像をステップS3のニューラルネットワークの入力信号に含めるようにしたものである。
【0054】
本実施の形態によれば、差分周波数画像を含むことにより、被検査物1の異常が濃淡なのか凹凸なのかを高精度に判定することが可能となり、より高精度に欠陥を検出することができる。
【0055】
本発明の第四の実施の形態を図8に基づいて説明する。本実施の形態では、例えば第一実施の形態で説明したような処理に加え、撮像装置3により得られた複数の検査画像(画像入力1,2)(ステップS1)に対して各々フーリエ変換処理(フーリエ変換1,2)を施して複数の検査周波数画像を作成した後(ステップS2)、これらの複数の検査周波数画像から周波数差分画像を作成し(ステップS31;周波数差分画像作成ステップ)、得られた周波数差分画像をニューラルネットワーク4の入力信号に含めるようにしたものである。
【0056】
本実施の形態によれば、複数の検査画像間の差分処理において厳密な位置合わせを必要としないで被検査物1の異常が濃淡なのか凹凸なのかを高精度に判定することが可能となり、より高精度に欠陥を検出することができる。
【0057】
本発明の第五の実施の形態を図9に基づいて説明する。本実施の形態では、例えば第一実施の形態で説明したような処理に加え、撮像装置により得られた検査画像(入力画像1,2)を各々所定のアルゴリズムで処理することにより検査画像から特徴量を算出し(特徴量算出1,2)(ステップS41;特徴量算出ステップ)、算出された特徴量をニューラルネットワーク4の入力信号に含めるようにしたものである。特徴量算出の所定のアルゴリズムは、画像処理等で周知な技術を利用すればよい。
【0058】
本実施の形態によれば、検査画像から特徴量を算出し、算出された特徴量をニューラルネットワーク4での処理に含ませることで、被検査物1上の異常を的確に判定できる高精度な欠陥検査となる。
【0059】
本発明の第六の実施の形態を図10に基づいて説明する。本実施の形態では、例えば第一実施の形態で説明したような処理に加え、撮像装置3により得られた複数の検査画像(画像入力1,2)から差分画像を作成し(ステップS21;差分画像作成ステップ)、作成された差分画像を所定のアルゴリズムで処理することにより検査画像から特徴量を算出し(ステップS51;特徴量算出ステップ)、算出された特徴量をニューラルネットワーク4の入力信号に含めるようにしたものである。
【0060】
本実施の形態によれば、複数の検査画像から少なくとも1つの差分画像を作成し、作成された差分画像から特徴量を算出し、算出された特徴量をニューラルネットワーク4での処理に含ませることにより、被検査物1上の凹凸の状態を的確に判定できる高精度な欠陥検査となる。
【0061】
【発明の効果】
請求項1,11ないし15記載の発明によれば、被検査物を異なる光学条件で撮像して取得した複数の検査画像に関して各々フーリエ変換して複数の検査周波数画像を作成し、これらの複数の検査周波数画像をニューラルネットワークで処理するものとし、光学条件の違いより被検査物表面の形状の違いを表現でき、このような異なる光学条件の複数の検査画像に関して単なる画像データではなくフーリエ変換により検査周波数成分に変換した検査周波数画像データを用いてニューラルネットワークで演算処理を行うようにしたので、複数の欠陥の種類に対応した高精度な欠陥検査方法を提供することができる。
【0062】
請求項2記載の発明によれば、請求項1記載の欠陥検査方法において、撮像装置により得られた検査画像を所定の領域に分割し、分割された領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、作成された複数の検査周波数画像をニューラルネットで処理し、分割された領域毎に被検査物の良否を判定するようにしたので、検査画像全体を単位として対象とする場合よりも、周波数変換などの計算速度を高速化することができるため、高速で高精度な欠陥検査方法を提供することができる。
【0063】
請求項3記載の発明によれば、請求項1記載の欠陥検査方法において、検査画像から特異領域を抽出し、抽出された特異領域の検査画像をフーリエ変換して複数の検査周波数画像を作成し、作成された複数の検査周波数画像をニューラルネットで処理するようにしたので、検査画像自体を対象とする場合よりも、高速で高精度な欠陥検査方法を提供することができる。
【0064】
請求項4記載の発明によれば、請求項1ないし3の何れか一記載の欠陥検査方法において、フーリエ変換の処理にFFTを用いるようにしたので、より一層の高速処理化を図ることができる。
【0065】
請求項5記載の発明によれば、請求項1ないし4の何れか一記載の欠陥検査方法において、複数の検査画像から少なくとも1つの差分画像を作成し、差分画像をフーリエ変換することにより差分周波数画像を作成し、作成された差分周波数画像をニューラルネットワークでの処理に含ませるようにしたので、検査画像間の関係が明確となり、よって、被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査方法を提供することができる。
【0066】
請求項6記載の発明によれば、請求項1ないし4の何れか一記載の欠陥検査方法において、フーリエ変換により作成された複数の検査周波数画像から少なくとも1つの周波数差分画像を作成し、作成された周波数差分画像をニューラルネットワークでの処理に含ませるようにしたので、検査周波数画像間の関係が明確となり、よって、複数の画像間の差分処理において厳密な位置合わせを必要とせずに被検査物の異常が濃淡なのか凹凸なのかを高精度に判定可能な欠陥検査方法を提供することができる。
【0067】
請求項7記載の発明によれば、請求項1ないし4の何れか一記載の欠陥検査方法において、検査画像から特徴量を算出し、算出された特徴量をニューラルネットワークでの処理に含ませるようにしたので、被検査物上の異常を的確に判定できる高精度な欠陥検査方法を提供することができる。
【0068】
請求項8記載の発明によれば、請求項1ないし4の何れか一記載の欠陥検査方法において、複数の検査画像から少なくとも1つの差分画像を作成し、作成された差分画像から特徴量を算出し、算出された特徴量をニューラルネットワークでの処理に含ませるようにしたので、被検査物上の凹凸の状態を的確に判定できる高精度な欠陥検査方法を提供することができる。
【0069】
請求項9記載の発明によれば、請求項1ないし8の何れか一記載の欠陥検査方法において、ニューラルネットワークの出力信号に被検査物の良否だけでなく、欠陥の種類を含ませるようにしたので、工程管理上有用なデータを出力可能な欠陥検査方法を提供することができる。
【0070】
請求項10記載の発明によれば、請求項1ないし8の何れか一記載の欠陥検査方法において、ニューラルネットワークの出力信号として欠陥の種類を出力し、出力された欠陥の種類毎に被検査物の良否を判定するようにしたので、欠陥の種類毎に詳細な検査レベルの設定が可能で高精度な欠陥検査方法を提供することができる。
【図面の簡単な説明】
【図1】本発明の第一の実施の形態の欠陥検査方法を示す概略フローチャートである。
【図2】光学条件を異ならせる撮像状態を略図的に示す正面図である。
【図3】ニューラルネットワーク例を略図的に示す説明図である。
【図4】変形例を示す概略フローチャートである。
【図5】光学条件を異ならせる撮像状態の数例を略図的に示す正面図である。
【図6】本発明の第二の実施の形態の欠陥検査方法を示す概略フローチャートである。
【図7】本発明の第三の実施の形態の欠陥検査方法を示す概略フローチャートである。
【図8】本発明の第四の実施の形態の欠陥検査方法を示す概略フローチャートである。
【図9】本発明の第五の実施の形態の欠陥検査方法を示す概略フローチャートである。
【図10】本発明の第六の実施の形態の欠陥検査方法を示す概略フローチャートである。
【符号の説明】
1 被検査物
2 照明装置
3 撮像装置
4 ニューラルネットワーク
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a defect inspection method for performing a pass / fail judgment on a workpiece and other various inspection objects.
[0002]
[Prior art]
There are various types of defect inspection methods for determining the quality of an inspected object. As a method for detecting different types of defects with high accuracy, an inspection image obtained by imaging the inspected object under a plurality of optical conditions has been conventionally used. There is a method that uses the difference between them.
[0003]
There are also various proposals in which the type of defect is determined using a neural network (for example, see Patent Document 1).
[0004]
[Patent Document 1]
Japanese Patent No. 2758260
[0005]
[Problems to be solved by the invention]
However, in the former case, there is a problem that it is difficult to quantitatively evaluate various defects using only differences between inspection images.
[0006]
Further, in the case of Patent Document 1, the type of defect is determined by processing using a neural network. However, the processing is based on a single inspection image. In many cases, it is difficult to determine whether the surface is uneven or not, and a highly accurate defect inspection cannot always be performed.
[0007]
An object of the present invention is to provide a highly accurate defect inspection method corresponding to a plurality of types of defects.
[0008]
An object of the present invention is to provide a high-speed and high-accuracy defect inspection method.
With the goal.
[0009]
SUMMARY OF THE INVENTION An object of the present invention is to provide a defect inspection method capable of determining with high accuracy whether an abnormality in an inspection object is light or shade or unevenness.
[0010]
An object of the present invention is to provide a defect inspection method capable of determining with high accuracy whether an abnormality of an inspection object is light or dark or uneven without requiring strict alignment in difference processing between a plurality of images. is there.
[0011]
An object of the present invention is to provide a highly accurate defect inspection method capable of accurately determining an abnormality on an inspection object.
[0012]
An object of the present invention is to provide a highly accurate defect inspection method capable of accurately determining the state of unevenness on an inspection object.
[0013]
An object of the present invention is to provide a defect inspection method capable of outputting useful data for process management.
[0014]
SUMMARY OF THE INVENTION An object of the present invention is to provide a highly accurate defect inspection method capable of setting a detailed inspection level for each type of defect.
[0015]
[Means for Solving the Problems]
The invention according to claim 1 illuminates the inspection object with an illumination device, captures an image of a state of the illuminated inspection object by an imaging device, and uses the neural network based on the inspection image acquired by the imaging to execute the inspection object. A defect inspection method for determining the quality of the inspection, the inspection image acquisition step of capturing the inspection object under different optical conditions and acquiring a plurality of inspection images, and performing a Fourier transform on each of the acquired inspection images to obtain a plurality of inspection images. A conversion processing step of creating an inspection frequency image of the above, a neural network processing step of causing the neural network to perform an arithmetic processing using the created inspection frequency images as input signals, and the inspection target based on an output signal of the neural network. And a judging step of judging the quality of an object.
[0016]
Therefore, a plurality of inspection frequency images are created by performing a Fourier transform on each of a plurality of inspection images obtained by imaging the inspection object under different optical conditions, and the plurality of inspection frequency images are arithmetically processed by a neural network. It is possible to express the difference in the shape of the surface of the inspection object from the difference in the optical conditions, and to use the inspection frequency image data converted to the inspection frequency component by the Fourier transform instead of mere image data for a plurality of inspection images under such different optical conditions. Since the arithmetic processing is performed by a neural network, highly accurate defect inspection corresponding to a plurality of defect types can be performed.
[0017]
Here, as the different optical conditions, various methods such as changing the illumination angle with respect to the object to be inspected and changing the illumination method can be employed. Some examples thereof can be easily realized by the methods as described in claims 11 to 15. It is. That is, a plurality of inspection images having different optical conditions are obtained by using one imaging device and a plurality of illumination devices having different illumination conditions with respect to the object to be inspected and switching the illumination devices. Or a plurality of inspection images under different optical conditions using one illumination image device and a plurality of imaging devices having different imaging conditions for the object to be inspected, as in the invention according to claim 12. A plurality of inspection images with different optical conditions may be acquired by moving the imaging device using a pair of imaging devices and a lighting device, as in the invention according to claim 13. Or, as in the invention according to claim 14, a plurality of inspection images under different optical conditions may be obtained by moving the illumination device by using the pair of imaging devices and the illumination device. Imaging Using the location and the illumination device may acquire a plurality of test images of different optical conditions by displacing the object to be inspected.
[0018]
According to a second aspect of the present invention, in the defect inspection method according to the first aspect, in the inspection image obtaining step, the inspection image obtained by the imaging device is divided into a predetermined area, and in the conversion processing step, the inspection image is divided. A plurality of inspection frequency images are created by performing a Fourier transform on the inspection image of the created region, and in the neural network processing step, the created inspection frequency images are used as input signals of the neural network. The quality of the inspection object is determined for each of the regions.
[0019]
Therefore, the inspection image obtained by the imaging apparatus is divided into predetermined regions, a plurality of inspection frequency images are created by performing a Fourier transform on the inspection image in the divided region, and the created inspection frequency images are neurally converted. By processing on the net and determining the quality of the inspection object for each divided area, it is possible to increase the calculation speed such as frequency conversion, as compared with the case where the entire inspection image is targeted as a unit, High-speed and high-accuracy defect inspection becomes possible.
[0020]
According to a third aspect of the present invention, in the defect inspection method according to the first aspect, there is provided a unique region extracting step of extracting a unique region by processing an inspection image obtained by the imaging device with a predetermined algorithm. In the step, a plurality of inspection frequency images are created by Fourier-transforming the extracted inspection image of the singular region. In the neural network processing step, the created inspection frequency images are used as input signals of the neural network.
[0021]
Therefore, by extracting a unique region from the inspection image, Fourier transform the extracted inspection image of the unique region to create a plurality of inspection frequency images, by processing the created plurality of inspection frequency images with a neural network, Higher-speed and more accurate defect inspection can be performed than when the inspection image itself is targeted.
[0022]
According to a fourth aspect of the present invention, in the defect inspection method according to any one of the first to third aspects, the transform processing step uses an FFT (Fast Fourier Transform) for the Fourier transform.
[0023]
Therefore, by using the FFT for the Fourier transform processing, it is possible to further increase the processing speed.
[0024]
According to a fifth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, there is provided a difference image creating step of creating at least one difference image from a plurality of inspection images obtained by the imaging device. The conversion processing step includes a process of creating a difference frequency image by Fourier-transforming the difference image, and the neural network processing step includes the created difference frequency image as an input signal of the neural network.
[0025]
Therefore, by creating at least one difference image from a plurality of inspection images, creating a difference frequency image by performing a Fourier transform on the difference image, and including the created difference frequency image in processing in the neural network, The relationship between the images becomes clear, so that the defect inspection can determine with high accuracy whether the abnormality of the inspection object is light or dark or uneven.
[0026]
According to a sixth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, at least one frequency difference image is created from a plurality of inspection frequency images created by Fourier transform in the conversion processing step. The method further includes a frequency difference image creating step, wherein the neural network processing step includes the created frequency difference image in an input signal of the neural network.
[0027]
Therefore, by creating at least one frequency difference image from a plurality of inspection frequency images created by the Fourier transform and including the created frequency difference image in the processing by the neural network, the relationship between the inspection frequency images is clear. Accordingly, a defect inspection that can determine with high accuracy whether the abnormality of the inspection object is light or dark or uneven without requiring precise alignment in the difference processing between the plurality of images.
[0028]
According to a seventh aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, a feature amount is calculated from the inspection image by processing the inspection image obtained by the imaging device using a predetermined algorithm. The neural network processing step includes the calculated feature in an input signal of the neural network.
[0029]
Therefore, by calculating the feature amount from the inspection image and including the calculated feature amount in the processing by the neural network, a highly accurate defect inspection capable of accurately determining an abnormality on the inspection object is achieved.
[0030]
According to an eighth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, a difference image creating step of creating at least one difference image from a plurality of inspection images obtained by the imaging device; And a feature amount calculating step of calculating a feature amount by processing the created difference image by a predetermined algorithm. In the neural network processing step, the calculated feature amount is included in an input signal of the neural network.
[0031]
Therefore, at least one difference image is created from a plurality of inspection images, a feature amount is calculated from the created difference image, and the calculated feature amount is included in the processing in the neural network, so that a This is a highly accurate defect inspection that can accurately determine the state of the unevenness.
[0032]
According to a ninth aspect of the present invention, in the defect inspection method according to any one of the first to eighth aspects, in the neural network processing step, the quality of the object to be inspected and the type of defect are included in an output signal of the neural network. .
[0033]
Therefore, by including not only the quality of the object to be inspected but also the type of defect in the output signal of the neural network, the defect inspection can output useful data for process management.
[0034]
According to a tenth aspect of the present invention, in the defect inspection method according to any one of the first to eighth aspects, in the neural network processing step, a type of the defect is output as an output signal of the neural network. The quality of the inspection object is determined by a predetermined algorithm for each type of output defect.
[0035]
Therefore, the type of defect is output as an output signal of the neural network, and the quality of the inspection object is determined for each type of output defect, so that a detailed inspection level can be set for each type of defect and high accuracy can be achieved. Defect inspection.
[0036]
BEST MODE FOR CARRYING OUT THE INVENTION
A first embodiment of the present invention will be described with reference to FIGS. In the present embodiment, for example, an inspection object such as a work is illuminated by an illumination device, the state of the illuminated inspection object is imaged by an imaging device, and the inspection object is inspected by a neural network based on the inspection image acquired by the imaging. This is applied to a defect inspection method for judging pass / fail. FIG. 1 is a schematic flowchart showing a basic flow of the method.
[0037]
First, the object to be inspected is imaged under different optical conditions, and a plurality of inspection images (image inputs 1, 2,..., N) having different characteristics on the image depending on the type of defect are acquired (step S1; inspection image acquiring step). . As the different optical conditions in step S1, for example, as shown in FIG. 2, the inspection object 1 is illuminated by a certain illumination device 2a and imaged by the imaging device 3, and then a position different from that of the illumination device 2a In this case, two inspection images having different illumination conditions (illumination angles) may be acquired by illuminating with another illuminating device 2b installed in the camera and imaging with the imaging device 3. Such two inspection images can express the difference in the shape of the surface of the inspection object 1 from the difference in the illumination angle.
[0038]
Next, a plurality of inspection frequency images are created by performing a Fourier transform (Fourier transforms 1, 2,..., N) on each of the acquired inspection images (image inputs 1, 2,..., N) separately. (Step S2; conversion processing step). That is, not only image data but also inspection frequency image data converted into inspection frequency components suitable for defect inspection according to the type of defect by Fourier transform is created for the inspection image. Here, a well-known technique may be used for Fourier transform, but it is particularly preferable to use FFT (Fast Fourier Transform).
[0039]
Next, each pixel data of the created inspection frequency image is input to the neural network as an input signal, and the neural network performs an arithmetic process (step S3; neural network processing step). In this neural network, an output signal relating to the quality of the inspection object 1 is output based on the result of the arithmetic processing, so that the quality of the inspection object 1 is determined based on the output signal (step S4; determination step).
[0040]
As described above, according to the present embodiment, a plurality of inspection frequency images are created by performing Fourier transform on a plurality of inspection images acquired by imaging the inspection object 1 under different optical conditions, and a plurality of inspection frequency images are formed. Since the frequency image is processed by the neural network, the difference in the shape of the surface of the inspection object 1 can be expressed based on the difference in the optical conditions, and the Fourier transform and the processing by the neural network are performed on such an inspection image. High-precision defect inspection corresponding to the type of defect. In particular, by using a neural network that has the generalization ability to interpolate between discrete values even when learning discrete values, it is possible to perform highly accurate defect inspection on different types of defects with less training data. Become.
[0041]
Here, well-known technology may be used for the arithmetic processing by the neural network. FIG. 3 shows an example of a schematic configuration of the neural network 4 in principle. FIG. 3 shows the neural network 4 in an extremely simplified manner. The neural network 4 includes an input layer 5, an intermediate layer 6, and an output layer 7, and pixel data 1, 2, 2,. .., N are input, and not only the quality (OK or NG) of the object to be inspected 1 but also the type of defect (shade defect or protrusion defect) is output as teacher data as teacher data by an error back propagation method or the like. It has been learned so that the error from the data is small, and the quality (OK or NG) of the inspection object 1 and the type of the defect (shade defect or dark defect) are determined according to the state of the inspection frequency images 1, 2,. (Protrusion defect). As described above, by including the type of defect as the output signal of the neural network 4, it is possible to use the data as useful data in the process management of the manufacturing process of the inspection object 1.
[0042]
In this embodiment, the quality of the test object 1 is directly determined as an output signal of the neural network 4 itself. However, as shown in FIG. And the type of the output defect is determined (step S5), and a defect inspection process (a process for a light and dark defect, a process for a concave / convex defect) is performed by a detailed method such as image measurement predetermined for each type of the defect. (Step S6), and whether the final inspection object 1 is good or bad based on the processing result (Step S7) may be made to perform the defect detection with higher accuracy. . In steps S6 and S7, a determination step of determining the quality of the object to be inspected by a predetermined algorithm is performed for each type of output defect.
[0043]
By the way, in the present embodiment, as a method of acquiring a plurality of inspection images under different optical conditions, a plurality of illumination devices 2a and 2b are switched and used, and imaging is performed by one imaging device 3. As shown in (a), two inspection images having different illumination angles are obtained by illuminating the inspection object 1 with one illumination device 2 and capturing images with a plurality of imaging devices 3a and 3b disposed at different positions. May be obtained.
[0044]
Alternatively, as illustrated in FIG. 5B, the inspection object 1 is illuminated by the illumination device 2 using the pair of illumination devices 2 and the imaging device 3, and an image is captured by the imaging device 3 positioned at the position indicated by the solid line. Later, two inspection images having different illumination angles may be acquired by moving the imaging device 3 to the position of the virtual line and capturing an image.
[0045]
Alternatively, as shown in FIG. 5C, after the inspection object 1 is illuminated by the illumination device 2 installed at the position of the solid line using the pair of illumination devices 2 and the imaging device 3, Alternatively, two inspection images having different illumination angles may be acquired by moving the illumination device 2 to the position of the virtual line and imaging the imaging device 3.
[0046]
Further, as shown in FIG. 5D, the inspection object 1 is set in a state shown by a solid line, illuminated by the illumination device 2 and imaged by the imaging device 3, and then the inspection object 1 is shown by a virtual line. Two inspection images having different illumination angles may be acquired by displacing the state and taking an image with the imaging device 3.
[0047]
Furthermore, although the description has been given of the example of the difference in the illumination angle as the different optical conditions, the present invention is not limited to this, and for example, the difference in the illumination method may be used. For example, oblique illumination, ring illumination, or coaxial epi-illumination may be used. Alternatively, the illumination may be parallel light having directivity and diffused light having no directivity. In addition, a plurality of inspection images with different optical conditions can be obtained by imaging with an imaging device having illumination of different colors and a filter corresponding thereto. It is also effective to set the type of illumination to visible light, infrared light, ultraviolet light, X-ray, or the like, and to image each with an imaging device adapted to the illumination light depending on the inspection object 1 and the defect to be detected. is there.
[0048]
Although not particularly shown in the embodiment, the unit of image processing is reduced, that is, the inspection image obtained by the imaging device 3 is divided into predetermined regions, and A plurality of inspection frequency images are created by Fourier-transforming the image data, and the created inspection frequency images are used as input signals of the neural network 4 to determine the quality of the inspection object 1 for each divided image region. You may do so. According to this, the calculation speed such as frequency conversion can be increased.
[0049]
A second embodiment of the present invention will be described with reference to FIG. The same parts as those described in the first embodiment are denoted by the same reference numerals, and description thereof is omitted (the same applies to the following embodiments).
[0050]
This embodiment is intended to further increase the speed. That is, each inspection image (image input 1, 2,..., N) obtained by the imaging device 3 in the process of step S1 is processed by a predetermined algorithm to form a unique region (singular region extraction 1, 2). ,..., N) (step S11; singular region extraction step). The predetermined algorithm for extracting the unique region may use a well-known technique in image processing or the like.
[0051]
Therefore, in the conversion processing step S13 of the present embodiment, a plurality of inspection frequency images are created by Fourier-transforming the extracted inspection image of the peculiar area. If there is no peculiar area (N in step S12), the conversion processing Do not do. That is, a plurality of inspection frequency images are created by Fourier transforming the extracted inspection image of the singular region (step S2), and the created inspection frequency images are used as input signals of the neural network to extract the extracted singular region. By performing the processing each time (step S3), it is possible to further increase the speed.
[0052]
Here, in the present embodiment, the extraction processing of the unique region is performed for all of the plurality of inspection images (step S11), but the extraction processing of the unique region is performed only for the inspection image under the specific optical condition. It may be. In addition, high-speed processing can be performed by setting the unit of image processing in the present embodiment to a power of 2 in both the main scanning and sub-scanning directions and making the Fourier transform FFT (Fast Fourier Transform).
[0053]
A third embodiment of the present invention will be described with reference to FIG. In the present embodiment, for example, in addition to the processing described in the first embodiment, a difference image is created from a plurality of inspection images (image inputs 1 and 2) obtained by the imaging device 3 (step S21; difference). Image creation step), Fourier transform of the created difference image is included as one of the conversion processes in step S2, and the obtained difference frequency image is included in the input signal of the neural network in step S3.
[0054]
According to the present embodiment, by including the difference frequency image, it is possible to determine with high accuracy whether the abnormality of the inspection object 1 is light or dark, and it is possible to detect a defect with higher accuracy. it can.
[0055]
A fourth embodiment of the present invention will be described with reference to FIG. In the present embodiment, for example, in addition to the processing described in the first embodiment, Fourier transform processing is performed on each of a plurality of inspection images (image inputs 1 and 2) (step S1) obtained by the imaging device 3. After performing (Fourier transforms 1 and 2) to create a plurality of inspection frequency images (step S2), a frequency difference image is created from the plurality of inspection frequency images (step S31; frequency difference image creation step). The obtained frequency difference image is included in the input signal of the neural network 4.
[0056]
According to the present embodiment, it is possible to determine with high accuracy whether the abnormality of the inspection object 1 is light or dark or uneven without requiring strict alignment in the difference processing between the plurality of inspection images, Defects can be detected with higher accuracy.
[0057]
A fifth embodiment of the present invention will be described with reference to FIG. In the present embodiment, for example, in addition to the processing as described in the first embodiment, the inspection images (input images 1 and 2) obtained by the imaging device are each processed by a predetermined algorithm, so that a characteristic is obtained from the inspection image. The amount is calculated (feature calculation 1, 2) (step S41; feature calculation step), and the calculated feature is included in the input signal of the neural network 4. The predetermined algorithm for calculating the characteristic amount may use a well-known technique in image processing or the like.
[0058]
According to the present embodiment, a feature amount is calculated from an inspection image, and the calculated feature amount is included in the processing in the neural network 4, so that an abnormality on the inspection object 1 can be accurately determined. This is a defect inspection.
[0059]
A sixth embodiment of the present invention will be described with reference to FIG. In the present embodiment, for example, in addition to the processing described in the first embodiment, a difference image is created from a plurality of inspection images (image inputs 1 and 2) obtained by the imaging device 3 (step S21; difference). Image forming step), a feature amount is calculated from the inspection image by processing the created difference image by a predetermined algorithm (step S51; feature amount calculating step), and the calculated feature amount is input to the neural network 4 as an input signal. It is intended to be included.
[0060]
According to the present embodiment, at least one difference image is created from a plurality of inspection images, a feature amount is calculated from the created difference image, and the calculated feature amount is included in processing in the neural network 4. As a result, a highly accurate defect inspection that can accurately determine the state of the irregularities on the inspection object 1 is achieved.
[0061]
【The invention's effect】
According to the invention described in claims 1, 11 to 15, the plurality of inspection images obtained by imaging the inspection object under different optical conditions are respectively subjected to Fourier transform to generate a plurality of inspection frequency images, and the plurality of inspection frequency images are generated. Inspection frequency images are processed by a neural network, and differences in optical conditions can be used to represent differences in the shape of the surface of the inspection object.Inspection of multiple inspection images with such different optical conditions is performed not by simple image data but by Fourier transform Since the arithmetic processing is performed by the neural network using the inspection frequency image data converted into the frequency components, a highly accurate defect inspection method corresponding to a plurality of defect types can be provided.
[0062]
According to the second aspect of the present invention, in the defect inspection method according to the first aspect, the inspection image obtained by the imaging device is divided into predetermined regions, and the inspection image of the divided region is subjected to Fourier transform. Inspection frequency images are created, the created inspection frequency images are processed by a neural network, and the quality of the inspection object is determined for each of the divided areas. Since the calculation speed of the frequency conversion and the like can be increased as compared with the case where it is performed, a high-speed and high-accuracy defect inspection method can be provided.
[0063]
According to the third aspect of the present invention, in the defect inspection method according to the first aspect, a plurality of inspection frequency images are created by extracting a unique region from the inspection image and performing a Fourier transform on the extracted inspection image of the unique region. Since the generated plurality of inspection frequency images are processed by the neural network, a faster and more accurate defect inspection method can be provided than when the inspection image itself is targeted.
[0064]
According to the fourth aspect of the present invention, in the defect inspection method according to any one of the first to third aspects, the FFT is used for the Fourier transform processing, so that further high-speed processing can be achieved. .
[0065]
According to the fifth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, at least one difference image is created from the plurality of inspection images, and the difference image is subjected to Fourier transform to thereby determine the difference frequency. Since the image was created and the created difference frequency image was included in the processing by the neural network, the relationship between the inspection images became clear, and therefore, it was possible to determine whether the abnormality of the inspection object was light or dark or uneven. A defect inspection method that can be determined with high accuracy can be provided.
[0066]
According to a sixth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, at least one frequency difference image is created from a plurality of inspection frequency images created by Fourier transform. Since the frequency difference image is included in the processing by the neural network, the relationship between the inspection frequency images becomes clear, and therefore, the inspection object can be inspected without requiring strict alignment in the difference processing between a plurality of images. It is possible to provide a defect inspection method capable of determining with high accuracy whether the abnormality of the image is light or dark or uneven.
[0067]
According to a seventh aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, a feature amount is calculated from the inspection image, and the calculated feature amount is included in processing in the neural network. Therefore, it is possible to provide a highly accurate defect inspection method capable of accurately determining an abnormality on the inspection object.
[0068]
According to an eighth aspect of the present invention, in the defect inspection method according to any one of the first to fourth aspects, at least one difference image is created from the plurality of inspection images, and a feature amount is calculated from the created difference image. Since the calculated feature amount is included in the processing by the neural network, it is possible to provide a highly accurate defect inspection method capable of accurately determining the state of the unevenness on the inspection object.
[0069]
According to the ninth aspect of the present invention, in the defect inspection method according to any one of the first to eighth aspects, the output signal of the neural network includes not only the quality of the inspection object but also the type of the defect. Therefore, it is possible to provide a defect inspection method capable of outputting useful data for process management.
[0070]
According to a tenth aspect of the present invention, in the defect inspection method according to any one of the first to eighth aspects, the type of the defect is output as an output signal of the neural network, and the object to be inspected is output for each type of the output defect. Is determined, the detailed inspection level can be set for each type of defect, and a highly accurate defect inspection method can be provided.
[Brief description of the drawings]
FIG. 1 is a schematic flowchart showing a defect inspection method according to a first embodiment of the present invention.
FIG. 2 is a front view schematically showing an imaging state in which optical conditions are changed.
FIG. 3 is an explanatory diagram schematically showing an example of a neural network.
FIG. 4 is a schematic flowchart showing a modification.
FIG. 5 is a front view schematically showing several examples of an imaging state in which optical conditions are different.
FIG. 6 is a schematic flowchart showing a defect inspection method according to a second embodiment of the present invention.
FIG. 7 is a schematic flowchart illustrating a defect inspection method according to a third embodiment of the present invention.
FIG. 8 is a schematic flowchart showing a defect inspection method according to a fourth embodiment of the present invention.
FIG. 9 is a schematic flowchart showing a defect inspection method according to a fifth embodiment of the present invention.
FIG. 10 is a schematic flowchart illustrating a defect inspection method according to a sixth embodiment of the present invention.
[Explanation of symbols]
1 Inspection object
2 Lighting equipment
3 Imaging device
4 Neural network

Claims (15)

被検査物を照明装置で照明し、照明された前記被検査物の状態を撮像装置により撮像し、撮像により取得された検査画像に基づきニューラルネットワークにより前記被検査物の良否を判定する欠陥検査方法であって、
前記被検査物を異なる光学条件で撮像し複数の検査画像を取得する検査画像取得ステップと、
取得した複数の前記検査画像を各々フーリエ変換して複数の検査周波数画像を作成する変換処理ステップと、
作成された複数の前記検査周波数画像を入力信号として前記ニューラルネットワークに演算処理をさせるニューラルネットワーク処理ステップと、
前記ニューラルネットワークの出力信号に基づき前記被検査物の良否を判定する判定ステップと、
を備えることを特徴とする欠陥検査方法。
A defect inspection method of illuminating an inspection object with an illumination device, capturing an image of a state of the illuminated inspection object by an imaging device, and determining the acceptability of the inspection object by a neural network based on the inspection image obtained by the imaging. And
An inspection image acquisition step of acquiring the inspection object under different optical conditions and acquiring a plurality of inspection images,
A conversion processing step of Fourier transforming each of the acquired plurality of inspection images to create a plurality of inspection frequency images,
A neural network processing step of causing the neural network to perform arithmetic processing using the created plurality of test frequency images as an input signal;
A judging step of judging the quality of the inspection object based on an output signal of the neural network;
A defect inspection method, comprising:
前記検査画像取得ステップでは、前記撮像装置により得られた検査画像を所定の領域に分割し、
前記変換処理ステップでは、分割された領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、
前記ニューラルネットワーク処理ステップでは、作成された複数の検査周波数画像をニューラルネットワークの入力信号とし、
前記判定ステップでは、分割された領域毎に前記被検査物の良否を判定する、ことを特徴とする請求項1記載の欠陥検査方法。
In the inspection image obtaining step, the inspection image obtained by the imaging device is divided into predetermined regions,
In the conversion processing step, a plurality of inspection frequency images are created by Fourier-transforming the inspection image of the divided region,
In the neural network processing step, the plurality of test frequency images created as input signals of the neural network,
2. The defect inspection method according to claim 1, wherein in the determining step, the quality of the inspection object is determined for each of the divided areas.
前記撮像装置により得られた検査画像を所定のアルゴリズムで処理して特異領域を抽出する特異領域抽出ステップを備え、
前記変換処理ステップでは、抽出された特異領域の検査画像をフーリエ変換することにより複数の検査周波数画像を作成し、
前記ニューラルネットワーク処理ステップでは、作成された複数の検査周波数画像をニューラルネットワークの入力信号とする、
ことを特徴とする請求項1記載の欠陥検査方法。
A unique area extraction step of processing a test image obtained by the imaging device with a predetermined algorithm to extract a unique area,
In the conversion processing step, a plurality of inspection frequency images are created by performing a Fourier transform on the extracted inspection image of the unique region,
In the neural network processing step, the created plurality of inspection frequency images as input signals of the neural network,
The defect inspection method according to claim 1, wherein:
前記変換処理ステップでは、前記フーリエ変換の処理にFFT(高速フーリエ変換)を用いることを特徴とする請求項1ないし3の何れか一記載の欠陥検査方法。4. The defect inspection method according to claim 1, wherein in the conversion processing step, an FFT (Fast Fourier Transform) is used for the Fourier transform. 前記撮像装置により得られた複数の検査画像から少なくとも1つの差分画像を作成する差分画像作成ステップを備え、
前記変換処理ステップでは、前記差分画像をフーリエ変換することにより差分周波数画像を作成する処理を含み、
前記ニューラルネットワーク処理ステップでは、作成された差分周波数画像をニューラルネットワークの入力信号に含む、
ことを特徴とする請求項1ないし4の何れか一記載の欠陥検査方法。
A difference image creating step of creating at least one difference image from the plurality of inspection images obtained by the imaging device,
The conversion processing step includes a process of creating a difference frequency image by Fourier transforming the difference image,
In the neural network processing step, the created difference frequency image is included in the input signal of the neural network,
5. The defect inspection method according to claim 1, wherein:
前記変換処理ステップにおけるフーリエ変換により作成された複数の検査周波数画像から少なくとも1つの周波数差分画像を作成する周波数差分画像作成ステップを備え、
前記ニューラルネットワーク処理ステップでは、作成された周波数差分画像をニューラルネットワークの入力信号に含む、
ことを特徴とする請求項1ないし4の何れか一記載の欠陥検査方法。
A frequency difference image creating step of creating at least one frequency difference image from the plurality of inspection frequency images created by the Fourier transform in the conversion processing step,
In the neural network processing step, the created frequency difference image is included in the input signal of the neural network,
5. The defect inspection method according to claim 1, wherein:
前記撮像装置により得られた検査画像を所定のアルゴリズムで処理することにより前記検査画像から特徴量を算出する特徴量算出ステップを備え、
前記ニューラルネットワーク処理ステップでは、算出された特徴量をニューラルネットワークの入力信号に含む、
ことを特徴とする請求項1ないし4の何れか一記載の欠陥検査方法。
A feature amount calculating step of calculating a feature amount from the inspection image by processing the inspection image obtained by the imaging device with a predetermined algorithm,
In the neural network processing step, the calculated feature amount is included in the input signal of the neural network,
5. The defect inspection method according to claim 1, wherein:
前記撮像装置により得られた複数の検査画像から少なくとも1つの差分画像を作成する差分画像作成ステップと、
作成された前記差分画像を所定のアルゴリズムで処理することにより特徴量を算出する特徴量算出ステップと、を備え、
前記ニューラルネットワーク処理ステップでは、算出された特徴量をニューラルネットワークの入力信号に含む、
ことを特徴とする請求項1ないし4の何れか一記載の欠陥検査方法。
A difference image creating step of creating at least one difference image from the plurality of inspection images obtained by the imaging device;
A feature amount calculating step of calculating a feature amount by processing the created difference image by a predetermined algorithm,
In the neural network processing step, the calculated feature amount is included in the input signal of the neural network,
5. The defect inspection method according to claim 1, wherein:
前記ニューラルネットワーク処理ステップでは、前記ニューラルネットワークの出力信号に前記被検査物の良否及び欠陥の種類を含む、
ことを特徴とする請求項1ないし8の何れか一記載の欠陥検査方法。
In the neural network processing step, the output signal of the neural network includes the quality of the inspection object and the type of defect,
The defect inspection method according to any one of claims 1 to 8, wherein:
前記ニューラルネットワーク処理ステップでは、前記ニューラルネットワークの出力信号として欠陥の種類を出力し、
前記判定ステップでは、出力された欠陥の種類毎に所定のアルゴリズムにより前記被検査物の良否を判定する、
ことを特徴とする請求項1ないし8の何れか一記載の欠陥検査方法。
In the neural network processing step, the type of defect is output as an output signal of the neural network,
In the determining step, the quality of the inspection object is determined by a predetermined algorithm for each type of output defect,
The defect inspection method according to any one of claims 1 to 8, wherein:
前記検査画像取得ステップでは、1つの撮像装置と前記被検査物に対する照明条件の異なる複数の照明装置とを用い、前記照明装置を切換えて使用することにより異なる光学条件の複数の検査画像を取得する、
ことを特徴とする請求項1ないし10の何れか一記載の欠陥検査方法。
In the inspection image acquiring step, a plurality of inspection images having different optical conditions are acquired by using one imaging device and a plurality of illumination devices having different illumination conditions with respect to the object to be inspected and switching the illumination device. ,
The defect inspection method according to claim 1, wherein:
前記検査画像取得ステップでは、1つの照明像装置と前記被検査物に対する撮像条件の異なる複数の撮像装置とを用い、異なる光学条件の複数の検査画像を取得する、
ことを特徴とする請求項1ないし10の何れか一記載の欠陥検査方法。
In the inspection image acquiring step, a plurality of inspection images under different optical conditions are acquired using one illumination image device and a plurality of imaging devices having different imaging conditions for the inspection object.
The defect inspection method according to claim 1, wherein:
前記検査画像取得ステップでは、一対の撮像装置と照明装置とを用い、前記撮像装置を移動させることにより異なる光学条件の複数の検査画像を取得する、
ことを特徴とする請求項1ないし10の何れか一記載の欠陥検査方法。
In the inspection image acquisition step, using a pair of imaging device and a lighting device, to obtain a plurality of inspection images of different optical conditions by moving the imaging device,
The defect inspection method according to claim 1, wherein:
前記検査画像取得ステップでは、一対の撮像装置と照明装置とを用い、前記照明装置を移動させることにより異なる光学条件の複数の検査画像を取得する、
ことを特徴とする請求項1ないし10の何れか一記載の欠陥検査方法。
In the inspection image obtaining step, using a pair of imaging device and the illumination device, to obtain a plurality of inspection images of different optical conditions by moving the illumination device,
The defect inspection method according to claim 1, wherein:
前記検査画像取得ステップでは、一対の撮像装置と照明装置とを用い、前記被検査物を変位させることにより異なる光学条件の複数の検査画像を取得する、
ことを特徴とする請求項1ないし10の何れか一記載の欠陥検査方法。
In the inspection image obtaining step, a plurality of inspection images of different optical conditions are obtained by displacing the object to be inspected, using a pair of imaging devices and a lighting device,
The defect inspection method according to claim 1, wherein:
JP2002357704A 2002-12-10 2002-12-10 Defect examining method Pending JP2004191112A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002357704A JP2004191112A (en) 2002-12-10 2002-12-10 Defect examining method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002357704A JP2004191112A (en) 2002-12-10 2002-12-10 Defect examining method

Publications (1)

Publication Number Publication Date
JP2004191112A true JP2004191112A (en) 2004-07-08

Family

ID=32757629

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002357704A Pending JP2004191112A (en) 2002-12-10 2002-12-10 Defect examining method

Country Status (1)

Country Link
JP (1) JP2004191112A (en)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008164461A (en) * 2006-12-28 2008-07-17 Kochi Univ Of Technology Inspection method and apparatus of thin plate-shaped component
KR101480955B1 (en) 2013-09-26 2015-01-14 전남대학교산학협력단 System and method for measuring displacement of floating structure using a moving image
JP6341550B1 (en) * 2017-10-12 2018-06-13 ギアヌーヴ株式会社 Construction site image determination device and construction site image determination program
WO2019151735A1 (en) * 2018-01-31 2019-08-08 Samsung Electronics Co., Ltd. Vision inspection management method and vision inspection system
WO2019194044A1 (en) * 2018-04-04 2019-10-10 パナソニックIpマネジメント株式会社 Image processing device and image processing method
CN110689539A (en) * 2019-11-12 2020-01-14 南京大学 Workpiece surface defect detection method based on deep learning
JP2020051981A (en) * 2018-09-28 2020-04-02 Jfeテクノリサーチ株式会社 Inspection device
JP2020139886A (en) * 2019-02-28 2020-09-03 デンカ株式会社 Substrate inspection device, substrate inspection method, and program
CN111712769A (en) * 2018-03-06 2020-09-25 欧姆龙株式会社 Method, apparatus, system, and program for setting lighting condition, and storage medium
WO2020235059A1 (en) * 2019-05-22 2020-11-26 日本電気株式会社 Image recognition system, image recognition device, image recognition method, and computer-readable medium
US10890537B2 (en) 2017-02-20 2021-01-12 Serendipity Co., Ltd Appearance inspection device, lighting device, and imaging lighting device
KR102242996B1 (en) * 2019-11-27 2021-04-21 케이비아이동국실업 주식회사 Method for atypical defects detect in automobile injection products
WO2021192682A1 (en) * 2020-03-24 2021-09-30 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and program
US11386542B2 (en) 2017-09-19 2022-07-12 Fujifilm Corporation Training data creation method and device, and defect inspection method and device
FR3134181A1 (en) * 2022-04-01 2023-10-06 Psa Automobiles Sa METHOD FOR DETECTING A SURFACE CONDITION DEFECT ON A METAL SURFACE OF A VEHICLE ELEMENT
WO2024112440A1 (en) * 2022-11-21 2024-05-30 Onto Innovation Inc. Defect detection in manufactured articles using multi-channel images
JP7583395B2 (en) 2022-04-28 2024-11-14 株式会社フジテクノ Image processing device, image processing method, image processing program, image classification device, and trained model generated thereby

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008164461A (en) * 2006-12-28 2008-07-17 Kochi Univ Of Technology Inspection method and apparatus of thin plate-shaped component
KR101480955B1 (en) 2013-09-26 2015-01-14 전남대학교산학협력단 System and method for measuring displacement of floating structure using a moving image
US10890537B2 (en) 2017-02-20 2021-01-12 Serendipity Co., Ltd Appearance inspection device, lighting device, and imaging lighting device
US11386542B2 (en) 2017-09-19 2022-07-12 Fujifilm Corporation Training data creation method and device, and defect inspection method and device
WO2019073615A1 (en) * 2017-10-12 2019-04-18 ギアヌーヴ株式会社 Worksite image assessment device and worksite image assessment program
JP2019074774A (en) * 2017-10-12 2019-05-16 ギアヌーヴ株式会社 Construction site image determination device and construction site image determination program
JP6341550B1 (en) * 2017-10-12 2018-06-13 ギアヌーヴ株式会社 Construction site image determination device and construction site image determination program
WO2019151735A1 (en) * 2018-01-31 2019-08-08 Samsung Electronics Co., Ltd. Vision inspection management method and vision inspection system
US11216935B2 (en) 2018-01-31 2022-01-04 Samsung Electronics Co., Ltd. Vision inspection management method and system inspecting based on process data
US11631230B2 (en) 2018-03-06 2023-04-18 Omron Corporation Method, device, system and computer-program product for setting lighting condition and storage medium
JP7131617B2 (en) 2018-03-06 2022-09-06 オムロン株式会社 Method, device, system, program and storage medium for setting lighting conditions
CN111712769A (en) * 2018-03-06 2020-09-25 欧姆龙株式会社 Method, apparatus, system, and program for setting lighting condition, and storage medium
JP2021515885A (en) * 2018-03-06 2021-06-24 オムロン株式会社 Methods, devices, systems and programs for setting lighting conditions and storage media
US11436717B2 (en) 2018-04-04 2022-09-06 Panasonic Intellectual Property Management Co., Ltd. Image processing device and image processing method
JP7241292B2 (en) 2018-04-04 2023-03-17 パナソニックIpマネジメント株式会社 Processing method and processing equipment using the same
JP2021119474A (en) * 2018-04-04 2021-08-12 パナソニックIpマネジメント株式会社 Processing method and processing device using the same
WO2019194044A1 (en) * 2018-04-04 2019-10-10 パナソニックIpマネジメント株式会社 Image processing device and image processing method
JPWO2019194044A1 (en) * 2018-04-04 2020-12-17 パナソニックIpマネジメント株式会社 Image processing device and image processing method
JP2020051981A (en) * 2018-09-28 2020-04-02 Jfeテクノリサーチ株式会社 Inspection device
JP2020139886A (en) * 2019-02-28 2020-09-03 デンカ株式会社 Substrate inspection device, substrate inspection method, and program
JP7195977B2 (en) 2019-02-28 2022-12-26 デンカ株式会社 Board inspection device, board inspection method, and program
US11989924B2 (en) 2019-05-22 2024-05-21 Nec Corporation Image recognition system, image recognition apparatus, image recognition method, and computer readable medium
JPWO2020235059A1 (en) * 2019-05-22 2020-11-26
WO2020235059A1 (en) * 2019-05-22 2020-11-26 日本電気株式会社 Image recognition system, image recognition device, image recognition method, and computer-readable medium
JP7231021B2 (en) 2019-05-22 2023-03-01 日本電気株式会社 Image recognition system, image recognition device, image recognition method, and image recognition program
CN110689539A (en) * 2019-11-12 2020-01-14 南京大学 Workpiece surface defect detection method based on deep learning
KR102242996B1 (en) * 2019-11-27 2021-04-21 케이비아이동국실업 주식회사 Method for atypical defects detect in automobile injection products
WO2021192682A1 (en) * 2020-03-24 2021-09-30 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and program
FR3134181A1 (en) * 2022-04-01 2023-10-06 Psa Automobiles Sa METHOD FOR DETECTING A SURFACE CONDITION DEFECT ON A METAL SURFACE OF A VEHICLE ELEMENT
JP7583395B2 (en) 2022-04-28 2024-11-14 株式会社フジテクノ Image processing device, image processing method, image processing program, image classification device, and trained model generated thereby
WO2024112440A1 (en) * 2022-11-21 2024-05-30 Onto Innovation Inc. Defect detection in manufactured articles using multi-channel images

Similar Documents

Publication Publication Date Title
JP2004191112A (en) Defect examining method
CN112033965B (en) 3D arc surface defect detection method based on differential image analysis
KR101146081B1 (en) Detection of macro-defects using micro-inspection inputs
JPH10267636A (en) Method and apparatus for surface inspection
JP5198397B2 (en) Photomask characteristic detection apparatus and photomask characteristic detection method
TW201516397A (en) Bubble inspection system for glass
JP2947513B1 (en) Pattern inspection equipment
JP3913517B2 (en) Defect detection method
JP2005106725A (en) Method and apparatus for visual inspection of object to be inspected
JP2006276454A (en) Image correcting method and pattern defect inspecting method using same
JP2011031370A (en) Surface finish determining device
TWI493177B (en) Method of detecting defect on optical film with periodic structure and device thereof
TWM543370U (en) Test sample and light box for lens inspection
JP3224620B2 (en) Method for quantifying unevenness of periodic pattern
JP3390931B2 (en) Inspection method for colored pattern defects
JP2004212218A (en) Sample inspection method and inspection apparatus
JP3756264B2 (en) Method for detecting defects in a sample having a periodic pattern
JPH0735699A (en) Method and apparatus for detecting surface defect
JP4235756B2 (en) Misalignment detection method, misalignment detection apparatus, image processing method, image processing apparatus, and inspection apparatus using the same
JP2006270334A (en) Shading correction method and image inspection device
JP3803677B2 (en) Defect classification apparatus and defect classification method
JP4302028B2 (en) Inspection apparatus and method for transparent electrode film substrate, and program
JP2848520B2 (en) Abnormal inspection method for object surface shape
JP3827812B2 (en) Surface defect inspection apparatus and surface defect inspection method
JP4220061B2 (en) Periodic pattern defect inspection method and apparatus

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20041007