JP2016181098A - 領域検出装置および領域検出方法 - Google Patents

領域検出装置および領域検出方法 Download PDF

Info

Publication number
JP2016181098A
JP2016181098A JP2015060675A JP2015060675A JP2016181098A JP 2016181098 A JP2016181098 A JP 2016181098A JP 2015060675 A JP2015060675 A JP 2015060675A JP 2015060675 A JP2015060675 A JP 2015060675A JP 2016181098 A JP2016181098 A JP 2016181098A
Authority
JP
Japan
Prior art keywords
image
region
area
pixel
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015060675A
Other languages
English (en)
Other versions
JP6549396B2 (ja
Inventor
松村 明
Akira Matsumura
明 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Screen Holdings Co Ltd
Original Assignee
Screen Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Screen Holdings Co Ltd filed Critical Screen Holdings Co Ltd
Priority to JP2015060675A priority Critical patent/JP6549396B2/ja
Publication of JP2016181098A publication Critical patent/JP2016181098A/ja
Application granted granted Critical
Publication of JP6549396B2 publication Critical patent/JP6549396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】対象画像から所定の目的に利用される目的領域を容易に検出する。【解決手段】画素特徴量算出部では、互いに異なる複数のマスクパターン61が準備されており、対象画像の各画素を中心とするウィンドウ6内において、ウィンドウ6よりもサイズが小さい各マスクパターン61を複数の位置に配置して当該マスクパターン61に従った演算を行うことにより、複数のマスクパターン61にそれぞれ対応する複数の画素特徴量が当該画素に対して取得される。画素分類器では、複数の画素特徴量に基づいて、各画素が目的領域に含まれるか否かが判定される。これにより、所定の目的に利用される目的領域が対象画像から容易に検出される。【選択図】図6

Description

本発明は、領域検出装置および領域検出方法に関する。
半導体基板、ガラス基板、プリント配線基板等の基板の外観検査において、検出された欠陥の画像を自動的に分類する自動欠陥分類が従来より行われている。自動欠陥分類では、欠陥画像から算出される特徴量を用いて判別関数が推測される。このような特徴量の一つとして高次局所自己相関(Higher-oder Local Auto-Correlation:HLAC)特徴量が知られている。
特許文献1および2では、2次元画像に対するHLACを用いた適応学習型汎用画像計測法が開示されている。HLACは画像認識において基本的な要請となる位置不変性と加法性を満たしており、計算量の少なさと高い認識性能が特徴である。HLACにおける相関の次数を二次までに限定すると、変位が8近傍の場合には、多値画像に対して35通りのマスクパターン(変位パターン)が存在し、2値画像に対して25通りのマスクパターンが存在する。各画素に対してマスクパターンに従った演算により得られる値を画像全体で足し合わせることにより、当該マスクパターンによるHLAC特徴量が得られる。
なお、特許文献3では、分類用の二値画像を生成する手法が開示されている。当該手法では、撮像画像と参照画像との差分画像において欠陥の形状が検出される第1閾値、および、第1閾値よりも大きく、背景のノイズの検出が低減される第2閾値が準備され、差分画像を第1閾値にて二値化して第1二値画像が生成され、差分画像を第2閾値にて二値化して第2二値画像が生成される。第1二値画像に対するラベリング処理により複数の連結領域が取得され、複数の連結領域のうち、第2二値画像にて検出される位置の画素を含まない連結領域が特定されて削除される。これにより、分類用二値画像が生成される。
特許第2982814号公報 特許第2834153号公報 特開2013−134666号公報
ところで、基板の外観検査において、欠陥を精度よく分類するには、欠陥領域を適切に検出する必要がある。一般的に、対象物を撮像した画像から、欠陥領域等の目的領域を検出する場合、撮像画像と、異常がない対象物を示す参照画像とが比較される。しかしながら、この場合、検査対象の領域の全てに対して参照画像を準備する必要があり、目的領域の検出が煩雑となる。また、参照画像の準備が困難なケースもある。
本発明は上記課題に鑑みなされたものであり、目的領域を容易に検出することを目的としている。
請求項1に記載の発明は、対象画像から所定の目的に利用される目的領域を検出する領域検出装置であって、互いに異なる複数のマスクパターンが準備されており、対象画像の各画素を中心とするウィンドウ内において、前記ウィンドウよりもサイズが小さい各マスクパターンを複数の位置に配置して前記各マスクパターンに従った演算を行うことにより、前記複数のマスクパターンにそれぞれ対応する複数の画素特徴量を前記各画素に対して取得する画素特徴量算出部と、前記複数の画素特徴量に基づいて、前記各画素が目的領域に含まれるか否かを判定する画素分類器とを備える。
請求項2に記載の発明は、請求項1に記載の領域検出装置であって、前記複数のマスクパターンが、高次局所自己相関特徴量用のマスクパターンを含む。
請求項3に記載の発明は、請求項1または2に記載の領域検出装置であって、前記画素分類器により検出された前記目的領域に対して領域特徴量を算出する領域特徴量算出部と、前記領域特徴量に基づいて前記目的領域を分類する領域分類器とをさらに備える。
請求項4に記載の発明は、請求項3に記載の領域検出装置であって、前記領域特徴量算出部が、前記目的領域を他の領域と区別して示す画像に対して微小領域を除去する前処理を施し、前記前処理済みの前記画像が示す前記目的領域に対して前記領域特徴量を算出する。
請求項5に記載の発明は、請求項1ないし4のいずれかに記載の領域検出装置であって、前記対象画像が、対象物を撮像した画像であり、前記目的領域が、前記対象物上の欠陥を示す領域である。
請求項6に記載の発明は、請求項5に記載の領域検出装置であって、欠陥を示す欠陥画像と所定の参照画像との差分画像に基づいて取得される欠陥領域画像と、前記欠陥画像の各画素に対する複数の画素特徴量とを用いて学習を行うことにより、前記画素分類器が構築される。
請求項7に記載の発明は、対象画像から所定の目的に利用される目的領域を検出する領域検出方法であって、a)互いに異なる複数のマスクパターンが準備されており、対象画像の各画素を中心とするウィンドウ内において、前記ウィンドウよりもサイズが小さい各マスクパターンを複数の位置に配置して前記各マスクパターンに従った演算を行うことにより、前記複数のマスクパターンにそれぞれ対応する複数の画素特徴量を前記各画素に対して取得する工程と、b)前記複数の画素特徴量に基づいて、前記各画素が目的領域に含まれるか否かを判定する工程とを備える。
請求項8に記載の発明は、請求項7に記載の領域検出方法であって、前記複数のマスクパターンが、高次局所自己相関特徴量用のマスクパターンを含む。
請求項9に記載の発明は、請求項7または8に記載の領域検出方法であって、c)前記b)工程において検出された前記目的領域に対して領域特徴量を算出する工程と、d)前記領域特徴量に基づいて前記目的領域を分類する工程とをさらに備える。
請求項10に記載の発明は、請求項9に記載の領域検出方法であって、前記c)工程が、前記目的領域を他の領域と区別して示す画像に対して微小領域を除去する前処理を施す工程と、前記前処理済みの前記画像が示す前記目的領域に対して前記領域特徴量を算出する工程とを備える。
請求項11に記載の発明は、請求項7ないし10のいずれかに記載の領域検出方法であって、前記対象画像が、対象物を撮像した画像であり、前記目的領域が、前記対象物上の欠陥を示す領域である。
請求項12に記載の発明は、請求項11に記載の領域検出方法であって、欠陥を示す欠陥画像と所定の参照画像との差分画像に基づいて取得される欠陥領域画像と、前記欠陥画像の各画素に対する複数の画素特徴量とを用いて学習を行うことにより、前記b)工程にて利用される画素分類器が構築される。
本発明によれば、目的領域を容易に検出することができる。
検査・分類装置の構成を示す図である。 コンピュータの構成を示す図である。 検査・分類装置における機能構成を示すブロック図である。 画素分類器および領域分類器の構築の流れを示す図である。 教師画像セットを示す図である。 教師画像セットを示す図である。 教師画像セットを示す図である。 画素特徴量を算出する処理を説明するための図である。 検出領域画像および処理済み検出領域画像を示す図である。 検出領域画像および処理済み検出領域画像を示す図である。 検出領域画像および処理済み検出領域画像を示す図である。 検査・分類装置による検査および分類の流れを示す図である。 対象画像を示す図である。 検出領域画像および処理済み検出領域画像を示す図である。 欠陥領域画像を示す図である。 欠陥画像を示す図である。 参照画像を示す図である。 欠陥領域画像を示す図である。 対象画像を示す図である。 検出領域画像を示す図である。
図1は本発明の一の実施の形態に係る検査・分類装置1の構成を示す図である。検査・分類装置1は、半導体基板9(以下、単に「基板9」という。)上のパターンの欠陥を検出し、当該欠陥の分類を行う装置である。検査・分類装置1は基板9上の検査対象領域を撮像する撮像部2、および、検査・分類装置1の全体動作を制御するとともに、後述の検査部、分類部および学習部を実現するコンピュータ5を備える。コンピュータ5では、撮像部2からの画像データに基づいて欠陥検査を行い、欠陥が検出された場合に当該欠陥が属すべき欠陥クラス(欠陥の種別であり、「カテゴリ」等とも呼ばれる。)へと欠陥を自動分類する処理が行われる。基板9上に存在する欠陥のクラスは、例えば、欠け、突起、断線、ショート、異物等である。検査・分類装置1は、欠陥検査装置に自動欠陥分類の機能を付加した装置と捉えることもできる。
撮像部2は、基板9上の検査対象領域を撮像して多値の撮像画像(のデータ)を取得する撮像デバイス21、基板9を保持するステージ22、および、撮像デバイス21に対してステージ22を相対的に移動するステージ駆動部23を有する。撮像デバイス21は、照明光を出射する照明部211、基板9に照明光を導くとともに基板9からの光が入射する光学系212、および、光学系212により結像された基板9の像を電気信号に変換するエリアセンサ213を有する。ステージ駆動部23はボールねじ、ガイドレール、モータ等により構成され、コンピュータ5がステージ駆動部23および撮像デバイス21を制御することにより、基板9上の検査対象領域が撮像される。撮像デバイス21では、受光素子が一次元に配列されたラインセンサがエリアセンサ213に代えて用いられてよく、この場合、受光素子の配列方向に垂直な方向にステージ22を移動することにより、検査対象領域を示す二次元の撮像画像が取得される。
図2はコンピュータ5の構成を示す図である。コンピュータ5は各種演算処理を行うCPU51、基本プログラムを記憶するROM52、および、各種情報を記憶するRAM53を含む一般的なコンピュータシステムの構成となっている。コンピュータ5は、情報記憶を行う固定ディスク54、画像等の各種情報の表示を行うディスプレイ55、ユーザからの入力を受け付けるキーボード56aおよびマウス56b(以下、「入力部56」と総称する。)、光ディスク、磁気ディスク、光磁気ディスク等のコンピュータ読み取り可能な記録媒体8から情報の読み取りを行う読取装置57、並びに、検査・分類装置1の他の構成との間で信号を送受信する通信部58をさらに含む。
コンピュータ5には、事前に読取装置57を介して記録媒体8からプログラム80が読み出され、固定ディスク54に記憶される。そして、CPU51によりRAM53および固定ディスク54を利用しつつプログラム80に従って演算処理が実行される。
図3は検査・分類装置1における機能構成を示すブロック図であり、図3では、コンピュータ5のCPU51、ROM52、RAM53、固定ディスク54等により実現される機能構成を、符号5を付す破線の矩形にて囲んでいる。コンピュータ5は、撮像部2にて取得される撮像画像に基づいて欠陥を検出する検査部31、および、欠陥が検出された場合にニューラルネットワーク、決定木、判別分析等を利用して当該欠陥を自動的に分類する分類部32を有する。検査部31は、画素特徴量算出部311および画素分類器312を有し、分類部32は、領域特徴量算出部321および領域分類器322を有する。コンピュータ5は、画素分類器312および領域分類器322を学習させる学習部33をさらに有する。これらの構成が実現する機能の詳細については後述する。なお、これらの機能は専用の電気回路により構築されてもよく、部分的に専用の電気回路が利用されてもよい。
検査・分類装置1では、事前準備として、画素分類器312および領域分類器322が学習部33により構築される。図4は、画素分類器312および領域分類器322の構築の流れを示す図である。分類器の構築とは、分類器が含むパラメータに値を付与したり、構造を決定すること等により分類器を生成することを意味する。
分類器の構築の際には、まず、様々な欠陥を示す複数の撮像画像(以下、「欠陥画像」という。)が準備される。また、各欠陥画像と欠陥が存在しない参照画像とを比較することにより差分画像(典型的には、両画像の差の絶対値を示す画像)が取得され、当該差分画像を二値化する等して欠陥の領域を示す画像(以下、「欠陥領域画像」という。)が生成される。欠陥領域画像では、例えば、欠陥の領域に含まれる画素に、値1が付与され、欠陥の領域に含まれない画素に、値0が付与される。欠陥領域画像では、欠陥の領域を膨張させる処理等が適宜施されてよい。欠陥領域画像の生成では、例えば、特開2013−134666号公報(特許文献3)の手法等、他の手法が用いられてもよい。
複数の欠陥画像はコンピュータ5のディスプレイ55に表示される。入力部56がユーザからの入力を受け付けることにより、複数の欠陥画像のそれぞれに対して、複数の欠陥クラスのうちの一の欠陥クラスが関連付けられる。以上の処理により、一の欠陥クラスに属すると教示された欠陥画像、および、当該欠陥画像に対応する欠陥領域画像の集合を教師画像セットとして、複数の教師画像セットが準備される(ステップS11)。以下の説明では、ユーザにより各欠陥画像に付与された欠陥クラスを「教示欠陥クラス」という。
図5Aないし図5Cは、教師画像セットを示す図である。図5Aないし図5Cでは、欠陥画像71および欠陥領域画像72を示している。画素特徴量算出部311では、各教師画像セットの欠陥画像71における各画素に対して画素特徴量ベクトルが取得される(ステップS12)。本実施の形態では、欠陥画像71の各画素を中心とする所定サイズの領域(後述の図6のウィンドウ6内の領域)において、高次局所自己相関(Higher-oder Local Auto-Correlation: HLAC)特徴量が画素特徴量として求められる。
図6は、欠陥画像71の各画素の画素特徴量を算出する処理を説明するための図である。複数の画素711が行方向および列方向に配列される欠陥画像71において、図6中にて平行斜線を付す一の画素711aを注目画素とすると、注目画素711aに対する画素特徴量の算出では、欠陥画像71において注目画素711aを中心とするウィンドウ6が設定される。例えば、図6のウィンドウ6の行方向の長さは、行方向の画素ピッチP1の9倍であり、ウィンドウ6の列方向の長さは、列方向の画素ピッチP2の9倍である。
また、画素特徴量算出部311では、HLAC特徴量用の複数のマスクパターン61が準備されている。複数のマスクパターン61は互いに異なる。各マスクパターン61(カーネルとも呼ばれる。)では、複数の要素が行方向および列方向に配列されており、各要素は画素711と同じサイズである。例えば、各マスクパターン61の行方向の長さは、行方向の画素ピッチP1の3倍であり、マスクパターン61の列方向の長さは、列方向の画素ピッチP2の3倍である。各マスクパターン61のサイズは、ウィンドウ6のサイズよりも小さい。図6では、マスクパターン61の外形を示す実線の太さを、ウィンドウ6の外形を示す実線よりも太く描いている。ウィンドウ6の行方向および列方向における長さは、好ましくは、マスクパターン61の長さの2倍以上かつ5倍以下である。
マスクパターン61は、図6中に符号A1を付す矢印にて示すように、ウィンドウ6内を走査する。すなわち、マスクパターン61の全体がウィンドウ6内に配置されるという条件の下で、列方向におけるウィンドウ6内の各位置において、行方向に関してウィンドウ6内の一端から他端までマスクパターン61が1画素ずつ移動する。また、マスクパターン61では、互いに掛け合わせるべき複数の要素が指定されており、マスクパターン61が配置される各位置では、マスクパターン61が指示する複数の要素とそれぞれ重なる複数の画素711の値同士が掛け合わされて中間演算値が求められる。そして、ウィンドウ6内においてマスクパターン61が配置される全ての位置における中間演算値の和が、当該マスクパターン61による画素特徴量として求められる。なお、複数のマスクパターン61では、掛け合わせるべき要素が互いに異なる。
このように、ウィンドウ6内において、各マスクパターン61を複数の位置に配置して当該マスクパターン61に従った演算を行うことにより、複数のマスクパターン61にそれぞれ対応する複数の画素特徴量が注目画素711aに対して取得される。そして、複数の画素特徴量の配列が、注目画素711aに対する画素特徴量ベクトルとして取得される。上記処理は、欠陥画像71において、ウィンドウ6が配置可能な各画素711(すなわち、欠陥画像71の外縁近傍に位置する画素711を除く全ての画素711のそれぞれ)を注目画素として行われ、欠陥画像71のおよそ全ての画素711に対する画素特徴量ベクトルが取得される。換言すると、複数(例えば、35個)のマスクパターン61にそれぞれ対応する複数の画素特徴量画像が取得される。なお、画素特徴量画像のサイズは、ウィンドウ6のサイズに応じて欠陥画像71よりも僅かに小さくなる。
一方、各教師画像セットの欠陥領域画像72は、欠陥画像71の各画素711が、基板9上の欠陥を示す欠陥領域、および、欠陥を示さない非欠陥領域のいずれに含まれるかを示す。すなわち、欠陥領域画像72は、欠陥画像71の各画素711が属する領域クラス(欠陥領域および非欠陥領域)を示す。学習部33では、複数の教師画像セットに含まれる欠陥画像71の各画素711の画素特徴量ベクトル、および、欠陥領域画像72が示す当該画素711の領域クラスを用いて画素分類器312が生成される(ステップS13)。各画素711の画素特徴量ベクトル、および、当該画素711の領域クラスの組合せは、画素分類器312を構築するための教師データと捉えることができる。画素分類器312を生成する方法または機構としては、学習型(教示型)のものであれば様々なものが利用されてよい。例えば、最近傍法、最小距離法、部分空間法、決定木法、線形判別法、ファジーボーティング法、フレキシブルナイブベイズ法、ニューラルネットワーク、サポートベクターマシン(SVM)等が採用可能である。
続いて、領域特徴量算出部321では、各教師画像セットに対して領域特徴量ベクトルが取得される(ステップS14)。本実施の形態では、欠陥領域画像72により特定される欠陥画像71の欠陥領域において、HLAC特徴量が求められる。すなわち、欠陥画像71の欠陥領域に含まれる各画素に対してマスクパターンに従った演算により得られる値を画素演算値として、当該欠陥領域に含まれる全ての画素の画素演算値の和が、当該マスクパターンによる領域特徴量として求められる。このように、領域特徴量を求める領域が、欠陥画像71における欠陥領域に制限される。
領域特徴量算出部321では、画素特徴量算出部311と同様に、複数のマスクパターンが準備されており、各マスクパターンによる領域特徴量が求められる。そして、複数(全て)のマスクパターンを用いてそれぞれ求められる複数の領域特徴量の配列が、領域特徴量ベクトルとして取得される。なお、領域特徴量は、画素特徴量算出部311にて算出された画素特徴量を用いて求められてよく、例えば、欠陥領域に含まれる全ての画素の画素特徴量の和であってもよい。また、HLAC特徴量に加えて、欠陥の面積、周囲長、重心位置、モーメント量、階調値の平均、分散、最大、最小等の特徴量が、欠陥画像71または欠陥領域画像72から取得され、領域特徴量ベクトルに含まれてもよい。
各教師画像セットに対して領域特徴量ベクトルが取得されると、複数の教師画像セットの領域特徴量ベクトル、および、複数の教師画像セットに含まれる欠陥画像71に関連付けられた教示欠陥クラスを用いて領域分類器322が生成される(ステップS15)。各欠陥領域の領域特徴量ベクトル、および、当該欠陥領域の教示欠陥クラス(すなわち、欠陥画像71の教示欠陥クラス)の組合せは、領域分類器322を構築するための教師データと捉えることができる。画素分類器312の生成と同様に、領域分類器322を生成する方法または機構としては、学習型(教示型)のものであれば様々なものが利用されてよい。以上の処理により、画素分類器312および領域分類器322が構築される。
ここで、図5Aないし図5Cに示す教師画像セットの欠陥画像71の各画素を、図4の処理により構築された画素分類器312により分類すると、図7Aないし図7Cの左側の画像73(以下、「検出領域画像73」という。)が得られる。検出領域画像73は、画素分類器312により欠陥領域に属すると判定された画素の値と、非欠陥領域に属すると判定された画素の値とが相違する2値画像である。換言すると、検出領域画像73は、領域クラスが欠陥領域である領域(すなわち、検出された欠陥領域であり、以下、「検出欠陥領域」という。)を、領域クラスが非欠陥領域である他の領域と区別して示す画像である。
図7Aないし図7Cの検出領域画像73における白い検出欠陥領域は、図5Aないし図5Cの欠陥領域画像72が示す欠陥領域(白い領域)を概ね含むが、欠陥領域に対応しない微小な検出欠陥領域(幅が微小な検出欠陥領域も含む。)も散在している。後述するように、検査・分類装置1における検査および分類では、欠陥領域の有無および位置が未知である撮像画像から検査部31にて検出欠陥領域が取得された際に、分類部32により当該検出欠陥領域の分類が行われる。本実施の形態では、微小な検出欠陥領域は偽欠陥である可能性が高いため、分類部32における欠陥クラスの分類では、微小な検出欠陥領域は除去されることが好ましい。
この場合、分類部32における領域特徴量算出部321では、検出領域画像73に対して、微小領域(幅が微小な領域も含む。)を除去する前処理(ノイズ除去処理)が施され、前処理済みの検出領域画像が示す検出欠陥領域に対して領域特徴量ベクトルが取得される。本実施の形態では、検出領域画像73の検出欠陥領域に対する収縮処理および膨張処理が前処理として行われる。図7Aないし図7Cの右側には、左側の検出領域画像73の検出欠陥領域に対して収縮処理を施し、続いて、当該収縮処理と同程度の膨張処理を施して得られる画像74(前処理済みの検出領域画像であり、以下、「処理済み検出領域画像74」という。)を示している。図7Aないし図7Cの右側の処理済み検出領域画像74は、左側の検出領域画像73よりも、図5Aないし図5Cの右側の欠陥領域画像72に近似している。
図8は、検査・分類装置1による検査および分類の流れを示す図である。まず、撮像部2が基板9の検査対象領域を撮像することにより、多値の撮像画像が取得され、対象画像として検査部31に入力される(ステップS21)。図9では、対象画像70の一部を示しており、実際には、基板9上の広範囲を示す対象画像70が取得される。対象画像70では、欠陥領域の有無および位置が未知である。後述の図10および図11の画像は、図9に対応する。実際には、撮像部2により基板9上の複数の検査対象領域が順に撮像されて複数の対象画像70が取得され、以下の処理が、複数の対象画像70に対して順次行われる。
画素特徴量算出部311では、図4のステップS12と同様の処理により、対象画像70の各画素に対して画素特徴量ベクトルが取得される(ステップS22)。すなわち、対象画像70の各画素を中心とするウィンドウ6(図6参照)内において、各マスクパターン61を複数の位置に配置して当該マスクパターン61に従った演算を行うことにより、複数のマスクパターン61にそれぞれ対応する複数の画素特徴量が取得される。画素分類器312では、画素特徴量ベクトルに基づいて当該画素が欠陥領域に含まれるか否かが判定される(ステップS23)。例えば、欠陥領域に含まれると判定された画素(以下、「検出欠陥画素」という。)には、値1が付与され、欠陥領域に含まれないと判定された画素には、値0が付与される。これにより、図9に示す対象画像70に対して、図10の左側に示す検出領域画像73が取得される。検出領域画像73は、検出欠陥領域(白い領域)を示す。各検出欠陥領域は、互いに隣接する検出欠陥画素の集合(閉領域)であり、ブロブとも呼ばれる。
検出領域画像73は、分類部32に入力される。領域特徴量算出部321では、検出領域画像73の各検出欠陥領域に対して収縮処理を施し、続いて、当該収縮処理と同程度の膨張処理が施される。このようにして、検出領域画像73に対して微小領域を除去する前処理(ノイズ除去処理)が施され、図10の右側に示す処理済み検出領域画像74が取得される(ステップS24)。なお、領域特徴量算出部321における前処理は、検出領域画像73における微小領域が除去可能であるならば、他の手法にて行われてよい。
領域特徴量算出部321では、図4のステップS14と同様の処理により、処理済み検出領域画像74の各検出欠陥領域に対して領域特徴量ベクトルが取得される(ステップS25)。例えば、処理済み検出領域画像74により特定される対象画像70の検出欠陥領域において、HLAC特徴量が求められる。HLAC特徴量に加えて、欠陥の面積、周囲長、重心位置、モーメント量、階調値の平均、分散、最大、最小等の特徴量が、対象画像70または処理済み検出領域画像74から取得され、領域特徴量ベクトルに含まれてもよい。処理済み検出領域画像74における検出欠陥領域毎の領域特徴量ベクトルは領域分類器322に入力され、分類結果が出力される。すなわち、領域分類器322により、検出欠陥領域(ブロブ)が領域特徴量ベクトルに基づいて複数の欠陥クラスのいずれかに分類される(ステップS26)。分類部32では、検査部31にて検出欠陥領域が検出される毎に領域特徴量の算出がリアルタイムにて行われ、多数の検出欠陥領域の自動分類が高速に行われる。
なお、図11では、図9の対象画像70を参照画像と比較することにより差分画像を生成し、当該差分画像を二値化する等して取得した欠陥領域画像72を示している。図10の左側の検出領域画像73、および、右側の処理済み検出領域画像74は、図11の欠陥領域画像72と近似している。このように、検出領域画像73および処理済み検出領域画像74では、欠陥領域が適切に検出され、検出領域画像73および処理済み検出領域画像74を、欠陥領域画像72に代えて、欠陥領域の分類に利用可能であることが判る。
以上に説明したように、領域検出装置である検査・分類装置1では、対象画像70の各画素を中心とするウィンドウ6内において、各マスクパターン61を複数の位置に配置して当該マスクパターン61に従った演算を行うことにより、複数のマスクパターン61にそれぞれ対応する複数の画素特徴量が当該画素に対して取得される。そして、複数の画素特徴量に基づいて、当該画素が、基板9上の欠陥を示す欠陥領域に含まれるか否かが判定される。これにより、対象画像70において、欠陥の検出および分類に利用される目的領域である検出欠陥領域(欠陥領域)を、参照画像を用いることなく容易に検出することが実現される。
また、検出欠陥領域に対して領域特徴量が算出され、当該領域特徴量に基づいて当該検出欠陥領域が分類される。これにより、検出欠陥領域を適切に分類することができる。領域特徴量として、対象画像70における検出欠陥領域に対するHLAC特徴量を算出することにより、検出欠陥領域を精度よく分類することができる。さらに、検出欠陥領域を他の領域と区別して示す検出領域画像73に対して、微小領域を除去する前処理を施し、前処理済みの検出領域画像74が示す検出欠陥領域に対して領域特徴量を算出することにより、検出欠陥領域をより適切に分類することができる。
検査・分類装置1では、欠陥を示す欠陥画像71と所定の参照画像との差分画像に基づいて取得される欠陥領域画像72と、当該欠陥画像71の各画素に対する複数の画素特徴量とを用いて学習を行うことにより、画素分類器312が構築される。これにより、画素分類器312の構築においてユーザによる教示作業(欠陥領域に含まれる画素の教示作業)を省略または簡略化することができる。
上記検査・分類装置1および領域検出方法では様々な変形が可能である。
例えば、対象画像(欠陥画像)の各画素を中心とするウィンドウ内において、マスクパターンである微分フィルタを複数の位置に配置することにより、当該複数の位置の濃度勾配方向が求められ、当該複数の位置の濃度勾配方向の分散を示す値が、当該画素に対する一の画素特徴量として取得されてよい。このように、画素特徴量算出部311では、高次局所自己相関特徴量用のマスクパターン以外の様々なマスクパターンが用いられてよい。
対象画像は、半導体基板以外の基板の外観を示すものであってよい。すなわち、欠陥画像は、半導体基板以外の基板のパターンの欠陥や異物等の欠陥を示すものであってよい。当該基板として、ハードディスク基板等の薄膜デバイス、プラズマディスプレイや液晶ディスプレイ等の薄型ディスプレイに用いられるガラス基板、フォトマスク基板、フィルム基板、プリント配線基板等が例示される。
また、検査・分類装置1が、太陽電池パネルを撮像した画像の検査および分類に用いられてよい。この場合、例えば、太陽電池パネルのEL(エレクトロ・ルミネッセンス)発光やPL(フォト・ルミネッセンス)発光を撮像して得られる画像や、レーザーテラヘルツエミッション顕微鏡(LTEM)を用いて得られる太陽電池パネルの画像において、参照画像が示す正常な領域とは異なる領域が検出対象の欠陥領域(目的領域)となる。
図12および図13は、太陽電池パネルのEL発光を撮像して得られる画像を示し、図12は、欠陥を含む領域を示す欠陥画像であり、図13は、欠陥を含まない領域を示す参照画像である。図14は、欠陥画像と参照画像との差分画像に基づいて取得される欠陥領域画像を示す。検査・分類装置1の画素特徴量算出部311では、欠陥画像の各画素に対する複数の画素特徴量が算出され、欠陥領域画像と各画素の画素特徴量ベクトルとを用いて学習を行うことにより、画素分類器312が構築される。そして、欠陥領域の有無および位置が未知である図15に示す対象画像が入力されると、対象画像の各画素の画素特徴量ベクトルに基づいて当該画素が欠陥領域に含まれるか否かが判定され、図16に示す検出領域画像が取得される。もちろん、上記実施の形態と同様にして、領域分類器322が構築され、領域特徴量ベクトルに基づく欠陥クラスの分類が行われてよい。
また、検査・分類装置1が、血液や培養液等の所定の液中の細胞を分類する用途に用いられてもよい。この場合、細胞を含む液を撮像して撮像画像(細胞画像)が取得される。例えば、培養中の細胞(例えば、ガン細胞)から死細胞を取り除くために、当該細胞を示す撮像画像から、死細胞の領域を目的領域として検出する場合、死細胞の領域を示す撮像画像である死細胞画像において死細胞の領域がユーザにより指定され、2値の死細胞領域画像が生成される。また、画素特徴量算出部311では、死細胞画像の各画素に対する複数の画素特徴量が算出され、死細胞領域画像と各画素の画素特徴量ベクトルとを用いて学習を行うことにより、画素分類器312が構築される。そして、死細胞の領域の有無および位置が未知である撮像画像が対象画像として入力されると、対象画像の各画素の画素特徴量ベクトルに基づいて当該画素が死細胞の領域に含まれるか否かが判定され、対象画像における死細胞の領域が検出される。検出対象の目的領域は、例えば、培養中のips細胞において生成される目的外の細胞の領域等であってもよい。もちろん、領域特徴量ベクトルに基づく目的領域の分類が行われてよい。
以上のように、検査・分類装置1では、様々な種類の対象物を撮像した対象画像から、所定の目的に利用される目的領域を容易に検出することが可能である。検査・分類装置1において、目的領域を検出する領域検出装置としての機能は、様々な用途に利用されてよく、撮像部2と分離して用いられてもよい。検査・分類装置1では、レーザ光、電子線やX線等により撮像される画像が検査および分類されてよい。
上記実施の形態および各変形例における構成は、相互に矛盾しない限り適宜組み合わされてよい。
1 検査・分類装置
6 ウィンドウ
9 基板
61 マスクパターン
70 対象画像
71 欠陥画像
72 欠陥領域画像
73 検出領域画像
74 処理済み検出領域画像
311 画素特徴量算出部
312 画素分類器
321 領域特徴量算出部
322 領域分類器
711,711a 画素
S11〜S15,S21〜S26 ステップ

Claims (12)

  1. 対象画像から所定の目的に利用される目的領域を検出する領域検出装置であって、
    互いに異なる複数のマスクパターンが準備されており、対象画像の各画素を中心とするウィンドウ内において、前記ウィンドウよりもサイズが小さい各マスクパターンを複数の位置に配置して前記各マスクパターンに従った演算を行うことにより、前記複数のマスクパターンにそれぞれ対応する複数の画素特徴量を前記各画素に対して取得する画素特徴量算出部と、
    前記複数の画素特徴量に基づいて、前記各画素が目的領域に含まれるか否かを判定する画素分類器と、
    を備えることを特徴とする領域検出装置。
  2. 請求項1に記載の領域検出装置であって、
    前記複数のマスクパターンが、高次局所自己相関特徴量用のマスクパターンを含むことを特徴とする領域検出装置。
  3. 請求項1または2に記載の領域検出装置であって、
    前記画素分類器により検出された前記目的領域に対して領域特徴量を算出する領域特徴量算出部と、
    前記領域特徴量に基づいて前記目的領域を分類する領域分類器と、
    をさらに備えることを特徴とする領域検出装置。
  4. 請求項3に記載の領域検出装置であって、
    前記領域特徴量算出部が、前記目的領域を他の領域と区別して示す画像に対して微小領域を除去する前処理を施し、前記前処理済みの前記画像が示す前記目的領域に対して前記領域特徴量を算出することを特徴とする領域検出装置。
  5. 請求項1ないし4のいずれかに記載の領域検出装置であって、
    前記対象画像が、対象物を撮像した画像であり、前記目的領域が、前記対象物上の欠陥を示す領域であることを特徴とする領域検出装置。
  6. 請求項5に記載の領域検出装置であって、
    欠陥を示す欠陥画像と所定の参照画像との差分画像に基づいて取得される欠陥領域画像と、前記欠陥画像の各画素に対する複数の画素特徴量とを用いて学習を行うことにより、前記画素分類器が構築されることを特徴とする領域検出装置。
  7. 対象画像から所定の目的に利用される目的領域を検出する領域検出方法であって、
    a)互いに異なる複数のマスクパターンが準備されており、対象画像の各画素を中心とするウィンドウ内において、前記ウィンドウよりもサイズが小さい各マスクパターンを複数の位置に配置して前記各マスクパターンに従った演算を行うことにより、前記複数のマスクパターンにそれぞれ対応する複数の画素特徴量を前記各画素に対して取得する工程と、
    b)前記複数の画素特徴量に基づいて、前記各画素が目的領域に含まれるか否かを判定する工程と、
    を備えることを特徴とする領域検出方法。
  8. 請求項7に記載の領域検出方法であって、
    前記複数のマスクパターンが、高次局所自己相関特徴量用のマスクパターンを含むことを特徴とする領域検出方法。
  9. 請求項7または8に記載の領域検出方法であって、
    c)前記b)工程において検出された前記目的領域に対して領域特徴量を算出する工程と、
    d)前記領域特徴量に基づいて前記目的領域を分類する工程と、
    をさらに備えることを特徴とする領域検出方法。
  10. 請求項9に記載の領域検出方法であって、
    前記c)工程が、
    前記目的領域を他の領域と区別して示す画像に対して微小領域を除去する前処理を施す工程と、
    前記前処理済みの前記画像が示す前記目的領域に対して前記領域特徴量を算出する工程と、
    を備えることを特徴とする領域検出方法。
  11. 請求項7ないし10のいずれかに記載の領域検出方法であって、
    前記対象画像が、対象物を撮像した画像であり、前記目的領域が、前記対象物上の欠陥を示す領域であることを特徴とする領域検出方法。
  12. 請求項11に記載の領域検出方法であって、
    欠陥を示す欠陥画像と所定の参照画像との差分画像に基づいて取得される欠陥領域画像と、前記欠陥画像の各画素に対する複数の画素特徴量とを用いて学習を行うことにより、前記b)工程にて利用される画素分類器が構築されることを特徴とする領域検出方法。
JP2015060675A 2015-03-24 2015-03-24 領域検出装置および領域検出方法 Active JP6549396B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015060675A JP6549396B2 (ja) 2015-03-24 2015-03-24 領域検出装置および領域検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015060675A JP6549396B2 (ja) 2015-03-24 2015-03-24 領域検出装置および領域検出方法

Publications (2)

Publication Number Publication Date
JP2016181098A true JP2016181098A (ja) 2016-10-13
JP6549396B2 JP6549396B2 (ja) 2019-07-24

Family

ID=57132639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015060675A Active JP6549396B2 (ja) 2015-03-24 2015-03-24 領域検出装置および領域検出方法

Country Status (1)

Country Link
JP (1) JP6549396B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018084431A (ja) * 2016-11-21 2018-05-31 日東電工株式会社 検査装置及び検査方法
WO2018128091A1 (ja) * 2017-01-05 2018-07-12 コニカミノルタ株式会社 画像解析プログラム及び画像解析方法
JP2020052475A (ja) * 2018-09-21 2020-04-02 株式会社Screenホールディングス 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
JP2021032894A (ja) * 2019-08-16 2021-03-01 ラオンピープル株式会社 基板不良検査装置及び方法
CN113109350A (zh) * 2021-03-23 2021-07-13 深圳中科飞测科技股份有限公司 检测方法、系统、设备及计算机可读存储介质
KR20220036768A (ko) * 2020-09-16 2022-03-23 엔에이치엔 주식회사 이미지 복원에 기반한 상품 검색 방법 및 시스템
KR20220085115A (ko) * 2020-12-14 2022-06-22 주식회사 아이디알인비전 생산부품의 스마트 비전검사를 위한 인공지능머신의 라벨링 학습방법
CN116342610A (zh) * 2023-05-31 2023-06-27 山东恒海钢结构有限公司 一种钢结构装配式建筑焊接异常检测方法
CN117477320A (zh) * 2023-11-07 2024-01-30 乐沪电子有限公司 连接器组装方法、装置和计算机存储介质
JP7527902B2 (ja) 2020-09-04 2024-08-05 キオクシア株式会社 情報処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011014152A (ja) * 2010-08-23 2011-01-20 National Institute Of Advanced Industrial Science & Technology 異常領域検出装置および異常領域検出方法
JP2011158373A (ja) * 2010-02-02 2011-08-18 Dainippon Screen Mfg Co Ltd 自動欠陥分類のための教師データ作成方法、自動欠陥分類方法および自動欠陥分類装置
JP2013098267A (ja) * 2011-10-31 2013-05-20 Hitachi High-Technologies Corp 半導体パターン検査装置
JP2013134666A (ja) * 2011-12-27 2013-07-08 Dainippon Screen Mfg Co Ltd 二値画像生成装置、分類装置、二値画像生成方法および分類方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011158373A (ja) * 2010-02-02 2011-08-18 Dainippon Screen Mfg Co Ltd 自動欠陥分類のための教師データ作成方法、自動欠陥分類方法および自動欠陥分類装置
JP2011014152A (ja) * 2010-08-23 2011-01-20 National Institute Of Advanced Industrial Science & Technology 異常領域検出装置および異常領域検出方法
JP2013098267A (ja) * 2011-10-31 2013-05-20 Hitachi High-Technologies Corp 半導体パターン検査装置
JP2013134666A (ja) * 2011-12-27 2013-07-08 Dainippon Screen Mfg Co Ltd 二値画像生成装置、分類装置、二値画像生成方法および分類方法

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018084431A (ja) * 2016-11-21 2018-05-31 日東電工株式会社 検査装置及び検査方法
JP7185388B2 (ja) 2016-11-21 2022-12-07 日東電工株式会社 検査装置及び検査方法
WO2018128091A1 (ja) * 2017-01-05 2018-07-12 コニカミノルタ株式会社 画像解析プログラム及び画像解析方法
JPWO2018128091A1 (ja) * 2017-01-05 2019-11-07 コニカミノルタ株式会社 画像解析プログラム及び画像解析方法
JP2020052475A (ja) * 2018-09-21 2020-04-02 株式会社Screenホールディングス 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
JP2021032894A (ja) * 2019-08-16 2021-03-01 ラオンピープル株式会社 基板不良検査装置及び方法
JP7224048B2 (ja) 2019-08-16 2023-02-17 ラオンピープル株式会社 基板不良検査装置及び方法
JP7527902B2 (ja) 2020-09-04 2024-08-05 キオクシア株式会社 情報処理装置
KR102467010B1 (ko) 2020-09-16 2022-11-14 엔에이치엔클라우드 주식회사 이미지 복원에 기반한 상품 검색 방법 및 시스템
KR20220036768A (ko) * 2020-09-16 2022-03-23 엔에이치엔 주식회사 이미지 복원에 기반한 상품 검색 방법 및 시스템
KR20220085115A (ko) * 2020-12-14 2022-06-22 주식회사 아이디알인비전 생산부품의 스마트 비전검사를 위한 인공지능머신의 라벨링 학습방법
KR102524151B1 (ko) * 2020-12-14 2023-04-21 주식회사 아이디알인비전 생산부품의 스마트 비전검사를 위한 인공지능머신의 라벨링 학습방법
CN113109350A (zh) * 2021-03-23 2021-07-13 深圳中科飞测科技股份有限公司 检测方法、系统、设备及计算机可读存储介质
CN116342610A (zh) * 2023-05-31 2023-06-27 山东恒海钢结构有限公司 一种钢结构装配式建筑焊接异常检测方法
CN116342610B (zh) * 2023-05-31 2023-08-15 山东恒海钢结构有限公司 一种钢结构装配式建筑焊接异常检测方法
CN117477320A (zh) * 2023-11-07 2024-01-30 乐沪电子有限公司 连接器组装方法、装置和计算机存储介质
CN117477320B (zh) * 2023-11-07 2024-05-03 乐沪电子有限公司 连接器组装方法、装置和计算机存储介质

Also Published As

Publication number Publication date
JP6549396B2 (ja) 2019-07-24

Similar Documents

Publication Publication Date Title
JP6549396B2 (ja) 領域検出装置および領域検出方法
CN111051955B (zh) 通过使用卷积神经网络来标识利用数字全息显微镜所获取的细胞图像的品质
JP6401648B2 (ja) 欠陥分類装置および欠陥分類方法
Park et al. Ambiguous surface defect image classification of AMOLED displays in smartphones
KR101934313B1 (ko) 검사 이미지들 내에서 결함들을 검출하기 위한 시스템, 방법 및 컴퓨터 프로그램 제품
US7689029B2 (en) Apparatus and method for inspecting pattern
US20160364849A1 (en) Defect detection method for display panel based on histogram of oriented gradient
US11449977B2 (en) Generating training data usable for examination of a semiconductor specimen
JP6113024B2 (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
JP2013134666A (ja) 二値画像生成装置、分類装置、二値画像生成方法および分類方法
JP2017054239A (ja) 画像分類装置および画像分類方法
KR100868884B1 (ko) 유리 기판 유리 불량 정보 시스템 및 분류 방법
Zhou et al. DeepInspection: Deep learning based hierarchical network for specular surface inspection
Wang et al. A multiple-stage defect detection model by convolutional neural network
JP2014137284A (ja) 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法
Choi et al. Deep learning based defect inspection using the intersection over minimum between search and abnormal regions
Im et al. A data-centric approach to design and analysis of a surface-inspection system based on deep learning in the plastic injection molding industry
Aydin et al. Defect classification of railway fasteners using image preprocessing and alightweight convolutional neural network
KR20210086303A (ko) 딥러닝 기반 패턴 검사 장치 및 그 장치를 이용한 검사 방법
Hittawe et al. Machine vision for timber grading singularities detection and applications
Bhutta et al. Smart-inspect: micro scale localization and classification of smartphone glass defects for industrial automation
JP2007192688A (ja) 欠陥検査方法
Tsai et al. Automatic optical inspection system for wire color sequence detection
Nguyen et al. Detection of weak micro-scratches on aspherical lenses using a Gabor neural network and transfer learning
JP2016051429A (ja) 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190627

R150 Certificate of patent or registration of utility model

Ref document number: 6549396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250