JP6530688B2 - 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置 - Google Patents

分類器構築方法、画像分類方法、分類器構築装置および画像分類装置 Download PDF

Info

Publication number
JP6530688B2
JP6530688B2 JP2015187979A JP2015187979A JP6530688B2 JP 6530688 B2 JP6530688 B2 JP 6530688B2 JP 2015187979 A JP2015187979 A JP 2015187979A JP 2015187979 A JP2015187979 A JP 2015187979A JP 6530688 B2 JP6530688 B2 JP 6530688B2
Authority
JP
Japan
Prior art keywords
class
image
classifier
defect
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015187979A
Other languages
English (en)
Other versions
JP2017062677A (ja
Inventor
松村 明
明 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Screen Holdings Co Ltd
Original Assignee
Screen Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Screen Holdings Co Ltd filed Critical Screen Holdings Co Ltd
Priority to JP2015187979A priority Critical patent/JP6530688B2/ja
Publication of JP2017062677A publication Critical patent/JP2017062677A/ja
Application granted granted Critical
Publication of JP6530688B2 publication Critical patent/JP6530688B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像を分類する分類器を構築する技術に関する。
近年、半導体基板、ガラス基板、プリント配線基板等の基板において、表面に生じた欠陥の発生状況の迅速な把握や、欠陥クラス毎の発生数のモニタ等を目的として、欠陥部分を示す欠陥画像を取得し、自動分類することが行われている。画像を自動分類する手法の一つである教師あり学習型分類では、それぞれが一のクラス(カテゴリ)に属すると教示された多数の教師画像を用いて学習を行うことにより分類器が構築され、当該分類器を用いて画像が分類される。
なお、特許文献1では、検査対象の分類作業を支援する分類支援装置が開示されている。当該装置では、学習に用いられる教師データの作成に際して、複数の検査対象の画像が示す複数の検査対象の大きさ、または、複数の検査対象が撮像された際の撮像位置に基づいて複数の検査対象の順序が決定され、当該順序に従って複数の検査対象の画像が表示部に配列表示される。また、特許文献2では、教師データに利用される欠陥画像のカテゴリの決定を高速かつ適切に行う手法が開示されている。当該手法では、カテゴリが未決定の対象欠陥画像と、各カテゴリの典型的な欠陥を示す典型画像との間にて特徴量差を求め、特徴量差が最も小さい典型画像が属するカテゴリに投票を行う処理が、特徴量の各種類について繰り返され、得票数が最も多いカテゴリが対象欠陥画像が属するカテゴリとして決定される。
特開2003−317082号公報 特開2010−71826号公報
ところで、分類器の構築に利用される複数の特徴量軸(複数種類の特徴量)には、ユーザが直感的に意味を解釈することが可能ないくつかの特徴量軸が含まれている。このような特徴量軸において区別可能な欠陥を、学習により構築される分類器により分類する際に、ユーザが意図した欠陥クラスとは異なる欠陥クラスを分類結果として出力する誤分類が発生することがある。この場合、ユーザにおいて強い違和感が生じてしまう。
本発明は上記課題に鑑みなされたものであり、ユーザにおいて強い違和感が生じる誤分類を抑制することを目的としている。
請求項1に記載の発明は、画像を分類する分類器を構築する分類器構築方法であって、a)複数の画像を準備する工程と、b)複数の特徴量軸から選択された一の特徴量軸を注目特徴量軸として、前記注目特徴量軸に対して前記複数の画像からそれぞれ取得される複数の値の順序に従って、前記複数の画像を表示部に配列して表示する工程と、c)前記表示部に配列された前記複数の画像において、各クラスに属すべき所定数以上の画像が連続して並ぶ場合に、前記所定数以上の画像を前記各クラスの特定画像群として特定する工程と、d)前記特定画像群のそれぞれに前記各クラスを示すラベルを付与する工程と、e)前記各クラスの前記特定画像群に対応する前記注目特徴量軸上の数値範囲を、前記各クラスの特定数値範囲として取得する工程と、f)前記注目特徴量軸を他の一の特徴量軸に変更しつつ、前記b)ないしe)工程を繰り返す工程と、g)前記複数の画像のうち、付与された全てのラベルが示すクラスが同一である画像を、前記クラスの決定済み画像として決定する工程と、h)前記決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記クラスの前記特定数値範囲に含まれる画像を前記クラスに分類するルールベースの分類器を構築する工程とを備える。
請求項2に記載の発明は、請求項1に記載の分類器構築方法であって、i)前記複数の画像のうち、付与された全てのラベルの一部が第1クラスを示し、残りが第2クラスを示す画像を、前記第1および第2クラスの混合クラスの仮決定済み画像として決定する工程をさらに備える。
請求項3に記載の発明は、請求項2に記載の分類器構築方法であって、j)前記仮決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記仮決定済み画像のラベルが示すクラスの前記特定数値範囲に含まれる画像を前記混合クラスに分類するルールベースの他の分類器を構築する工程をさらに備える。
請求項4に記載の発明は、請求項3に記載の分類器構築方法であって、k)前記仮決定済み画像を前記第1クラスまたは前記第2クラスのいずれかに教示する工程と、l)前記他の分類器により前記混合クラスに分類される画像を前記第1クラスまたは前記第2クラスのいずれかに分類するサブ分類器を、前記k)工程にて教示された前記仮決定済み画像を用いて学習により構築する工程とを備える。
請求項5に記載の発明は、請求項1ないし4のいずれかに記載の分類器構築方法であって、m)前記分類器によりいずれのクラスにも分類されない画像をいずれかのクラスに分類する分類器を、少なくとも前記決定済み画像を用いて学習により構築する工程をさらに備える。
請求項6に記載の発明は、画像を分類する画像分類方法であって、対象画像を準備する工程と、請求項1ないし5のいずれかに記載の分類器構築方法により構築された分類器により前記対象画像を分類する工程とを備える。
請求項7に記載の発明は、画像を分類する分類器を構築する分類器構築装置であって、複数の画像を記憶する画像記憶部と、複数の特徴量軸から選択された一の特徴量軸を注目特徴量軸として、前記注目特徴量軸に対して前記複数の画像からそれぞれ取得される複数の値の順序に従って、前記複数の画像を表示部に配列して表示する表示制御部と、前記表示部に配列された前記複数の画像において、各クラスに属すべき所定数以上の画像が連続して並ぶ場合に、前記所定数以上の画像を前記各クラスの特定画像群として指示する入力を受け付ける入力部と、前記特定画像群のそれぞれに前記各クラスを示すラベルを付与するとともに、前記各クラスの前記特定画像群に対応する前記注目特徴量軸上の数値範囲を、前記各クラスの特定数値範囲として取得する特定画像情報取得部と、前記注目特徴量軸を他の一の特徴量軸に変更しつつ、前記表示制御部、前記入力部および前記特定画像情報取得部の動作を繰り返させる繰返制御部と、前記複数の画像のうち、付与された全てのラベルが示すクラスが同一である画像を、前記クラスの決定済み画像として決定するクラス決定部と、前記決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記クラスの前記特定数値範囲に含まれる画像を前記クラスに分類するルールベースの分類器を構築する分類器構築部とを備える。
請求項8に記載の発明は、請求項7に記載の分類器構築装置であって、前記クラス決定部が、前記複数の画像のうち、付与された全てのラベルの一部が第1クラスを示し、残りが第2クラスを示す画像を、前記第1および第2クラスの混合クラスの仮決定済み画像として決定する。
請求項9に記載の発明は、請求項8に記載の分類器構築装置であって、前記分類器構築部が、前記仮決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記仮決定済み画像のラベルが示すクラスの前記特定数値範囲に含まれる画像を前記混合クラスに分類するルールベースの他の分類器を構築する。
請求項10に記載の発明は、請求項9に記載の分類器構築装置であって、前記入力部が、前記仮決定済み画像を前記第1クラスまたは前記第2クラスのいずれかに教示する入力を受け付け、前記分類器構築部が、前記他の分類器により前記混合クラスに分類される画像を前記第1クラスまたは前記第2クラスのいずれかに分類するサブ分類器を、前記第1クラスまたは前記第2クラスに教示された前記仮決定済み画像を用いて学習により構築する。
請求項11に記載の発明は、請求項7ないし10のいずれかに記載の分類器構築装置であって、前記分類器構築部が、前記分類器によりいずれのクラスにも分類されない画像をいずれかのクラスに分類する分類器を、少なくとも前記決定済み画像を用いて学習により構築する。
請求項12に記載の発明は、画像を分類する画像分類装置であって、対象画像を記憶する対象画像記憶部と、請求項7ないし11のいずれかに記載の分類器構築装置により構築された分類器とを備える。
本発明によれば、ユーザにおいて強い違和感が生じる誤分類を抑制することができる。
検査・分類装置の構成を示す図である。 コンピュータの構成を示す図である。 検査・分類装置における機能構成を示すブロック図である。 分類器の構築の流れを示す図である。 分類器の構築の流れを示す図である。 複数の欠陥画像が表示されるウィンドウを示す図である。 注目特徴量軸における値のヒストグラムを示す図である。 欠陥画像の分類の流れを示す図である。
図1は本発明の一の実施の形態に係る検査・分類装置1の概略構成を示す図である。検査・分類装置1では、半導体基板9(以下、単に「基板9」という。)上のパターンの欠陥を示す欠陥画像が取得され、当該欠陥画像の分類が行われる。欠陥画像の分類により、分類対象である当該欠陥が分類される。
検査・分類装置1は、撮像装置2、欠陥検出部41、および、コンピュータ5を備える。撮像装置2は、基板9上の検査対象領域を撮像する。欠陥検出部41は、検査対象領域の画像データを処理しつつ欠陥を検出する。コンピュータ5は、欠陥検出部41において欠陥が検出された場合に欠陥が属すべき欠陥クラス(欠陥の種別であり、「カテゴリ」等とも呼ばれる。)へと欠陥を分類する。コンピュータ5は、検査・分類装置1の全体動作の制御、および、欠陥の分類に利用される分類器の構築も行う。基板9上に存在するパターンの欠陥のクラスは、例えば、欠損、突起、断線、ショート、異物である。撮像装置2は基板9の製造ラインに組み込まれ、検査・分類装置1はいわゆるインライン型のシステムとなっている。検査・分類装置1は、欠陥検査装置に自動欠陥分類の機能を付加した装置と捉えることもできる。
撮像装置2は、撮像部21、基板9を保持するステージ22、および、撮像部21に対してステージ22を相対的に移動するステージ駆動部23を有する。撮像部21は、基板9上の検査対象領域を撮像して多値の撮像画像(のデータ)を取得する。撮像部21は、照明光を出射する照明部211、光学系212、および、撮像デバイス213を有する。光学系212は基板9に照明光を導き、基板9からの光は光学系212に入射する。撮像デバイス213は、光学系212により結像された基板9の像を電気信号に変換する。ステージ駆動部23はボールねじ、ガイドレール、モータ等により構成される。コンピュータ5がステージ駆動部23および撮像部21を制御することにより、基板9上の検査対象領域が撮像される。
欠陥検出部41では、基板9の撮像画像と、当該撮像画像と同じ領域(正常な領域)を示す参照画像とを比較することにより差分画像(典型的には、両画像の差の絶対値を示す画像)が得られ、当該差分画像に基づいて、異常部分である欠陥が検出される。そして、欠陥部分の多値画像である欠陥画像が生成される。欠陥検出部41では、他の手法により欠陥が検出されてよい。
図2はコンピュータ5の構成を示す図である。コンピュータ5は各種演算処理を行うCPU51、基本プログラムを記憶するROM52、および、各種情報を記憶するRAM53を含む一般的なコンピュータシステムの構成となっている。コンピュータ5は、情報記憶を行う固定ディスク54、画像等の各種情報の表示を行う表示部であるディスプレイ55、ユーザからの入力を受け付けるキーボード56aおよびマウス56b(以下、「入力部56」と総称する。)、光ディスク、磁気ディスク、光磁気ディスク等のコンピュータ読み取り可能な記録媒体8から情報の読み取りを行う読取装置57、並びに、検査・分類装置1の他の構成との間で信号を送受信する通信部58をさらに含む。
コンピュータ5には、事前に読取装置57を介して記録媒体8からプログラム80が読み出され、固定ディスク54に記憶される。そして、CPU51によりRAM53および固定ディスク54を利用しつつプログラム80に従って演算処理が実行される。
図3は検査・分類装置1における機能構成を示すブロック図であり、図3では、コンピュータ5のCPU51、ROM52、RAM53、固定ディスク54等により実現される機能構成を、符号5を付す破線の矩形にて囲んでいる。
コンピュータ5は、特徴量算出部31、分類ユニット32および分類器構築ユニット33を有する。特徴量算出部31は、画像から各種特徴量を算出する。分類ユニット32は、欠陥が検出された場合に当該欠陥を自動的に分類する。分類ユニット32は、対象画像記憶部321および分類制御部322を有し、分類制御部322は、複数の分類器323および複数のサブ分類器324を有する。分類器構築ユニット33は、分類ユニット32における複数の分類器323および複数のサブ分類器324を構築する。分類器構築ユニット33は、既述の入力部56およびディスプレイ55に加えて、欠陥画像記憶部331、特定画像情報取得部332、表示制御部333、繰返制御部334、クラス決定部335および分類器構築部336を有する。分類器構築部336は、学習部337を有する。これらの構成が実現する機能の詳細については後述する。なお、これらの機能は専用の電気回路により構築されてもよく、部分的に専用の電気回路が利用されてもよい。
検査・分類装置1では、事前準備として、分類器構築ユニット33による分類器の構築が行われる。図4Aおよび図4Bは、分類器構築ユニット33による分類器の構築の流れを示す図である。分類器の構築とは、分類器が含むパラメータに値を付与したり、構造を決定すること等により分類器を生成することを意味する。本処理例では、分類器323の構築のみが行われる。サブ分類器324を構築する処理例については、後述する。
分類器323の構築の際には、まず、欠陥検出部41にて検出された多数の欠陥画像が、欠陥画像記憶部331に記憶されて準備される(ステップS11)。これらの欠陥画像は、属すべき欠陥クラスが未だ教示(決定)されていない未教示の画像である。続いて、特徴量算出部31では、各欠陥画像に対して複数種類の特徴量の値、すなわち、複数の特徴量軸上の値が取得される(ステップS12)。複数の特徴量軸には、例えば、欠陥領域の面積、周囲長、扁平度、平均画素値等の幾何学的な特徴量についての軸が含まれる。
既述のように、欠陥検出部41では、基板9の撮像画像と参照画像とを比較することにより差分画像が得られ、当該差分画像に基づいて欠陥画像が生成される。したがって、欠陥画像と共に、参照画像および差分画像において欠陥画像と同じ領域を示す部分(以下、単に「参照画像」および「差分画像」という。)や、欠陥領域を示す2値の画像(例えば、差分画像を二値化して得られる画像であり、以下、「マスク画像」という。)も欠陥画像記憶部331に記憶されてよい。この場合、各欠陥画像に対する複数の特徴量軸上の値の取得において、当該欠陥画像に対応する参照画像、差分画像およびマスク画像が用いられてよい(後述する分類ユニット32による対象画像の分類において同様)。
ここで、各欠陥画像に対してN個(Nは2以上の整数)の特徴量軸上の値が算出される場合に、n個(nは2以上N以下の整数)の特徴量軸に関して人間が直感的に意味を解釈することができるときには、当該n個の特徴量軸が候補特徴量軸として予め決定される。繰返制御部334では、複数の(n個の)候補特徴量軸のそれぞれにおいて、例えば、全ての欠陥画像に対する値の分布範囲が選択評価値として求められる。そして、選択評価値が最も大きい候補特徴量軸が、注目特徴量軸として選択される(ステップS13)。続いて、表示制御部333により、注目特徴量軸に対して複数の欠陥画像からそれぞれ取得される複数の値の順序に従って、複数の欠陥画像がディスプレイ55に配列して表示される(ステップS14)。
図5は、複数の欠陥画像71が表示されるディスプレイ55上のウィンドウ551を示す図である。図5では、符号A1を付す太線の矢印にて示すように、各段において右側に配置される欠陥画像71ほど注目特徴量軸上の値が高く、かつ、下段に配置される欠陥画像71の注目特徴量軸上の値が、上段に配置される欠陥画像71の当該値よりも高い。すなわち、複数の欠陥画像71は、注目特徴量軸上の値の昇順に矢印A1に沿って配列される。もちろん、複数の欠陥画像71は、注目特徴量軸上の値の降順に矢印A1に沿って配列されてもよい。
続いて、ディスプレイ55に配列された複数の欠陥画像71がユーザにより観察され、当該複数の欠陥画像71において、同一の欠陥クラスに属すべきと考えられ、かつ、連続して並ぶ所定数以上の欠陥画像71が画像群として特定される。なお、欠陥クラスの判断に迷うような欠陥画像71は画像群に含められるべきではない。一の欠陥クラスに対する画像群のうち、最も多い欠陥画像71を含む画像群、すなわち、当該欠陥クラスの欠陥画像71が最も多く隣り合っている画像群が、当該欠陥クラスの特定画像群として特定される。そして、矢印A1に沿って並ぶ特定画像群において両端の欠陥画像71を指示する入力が入力部56を介してユーザにより行われる(ステップS15)。換言すると、各欠陥クラスに属すべき特定画像群を一括して指示(教示)する入力が入力部56により受け付けられる。特定画像群を指示する入力では、当該特定画像群の属すべき欠陥クラスも指示される。特定画像群に含まれる欠陥画像71の最小数は任意に決定されてよいが、例えば5個以上である。
本処理例では、分類すべき欠陥クラスとして、欠陥クラスA、欠陥クラスBおよび欠陥クラスCが予め決定されているものとする。図5では、符号71aを付す欠陥画像から左側に連続して並ぶ欠陥画像71,71aの集合が、欠陥クラスAの特定画像群として特定されている。また、符号71bを付す欠陥画像から右側に連続して並ぶ欠陥画像71,71bの集合が、欠陥クラスBの特定画像群として特定されている。図5の例では、欠陥クラスCの特定画像群は指示されていない。いずれの欠陥クラスに関しても、特定画像群として特定すべき複数の欠陥画像71が見当たらない場合には、ステップS15および後述のステップS16,S17は省略され、ステップS18に進む。
特定画像情報取得部332では、各欠陥クラスの特定画像群のそれぞれに当該欠陥クラスを示すラベルが付与される(ステップS16)。図5の例では、欠陥画像71aを含む欠陥クラスAの特定画像群のそれぞれに欠陥クラスAを示すラベルが付与され、欠陥画像71bを含む欠陥クラスBの特定画像群のそれぞれに欠陥クラスBを示すラベルが付与される。なお、特定画像情報取得部332では、各欠陥画像71に対してn個(候補特徴量軸の個数分)のラベルの記憶領域が確保されている。続いて、各欠陥クラスの特定画像群に対応する注目特徴量軸上の数値範囲が、当該欠陥クラスの特定数値範囲として取得される(ステップS17)。
図6は、注目特徴量軸における値のヒストグラムを示す図である。図6では、符号L1を付す実線にて欠陥クラスAに属する欠陥画像71の値の分布を示し、符号L2を付す一点鎖線にて欠陥クラスBに属する欠陥画像71の値の分布を示し、符号L3を付す破線にて欠陥クラスCに属する欠陥画像71の値の分布を示している。現時点では、各欠陥画像71が属する欠陥クラスは未だ決定されていないため、実際には、注目特徴量軸(横軸)の各位置において線L1〜L3が示す値の和を示すヒストグラムが得られる。なお、図6の注目特徴量軸は、欠陥領域内の平均画素値である。
既述のように、ディスプレイ55において注目特徴量軸上の値の順序にて並ぶ複数の欠陥画像71のうち、各欠陥クラスの特定画像群の両端に位置する欠陥画像71が、ステップS15の処理により特定される。特定画像情報取得部332では、当該両端の欠陥画像71の注目特徴量軸上の値を下限値および上限値とする数値範囲が、当該欠陥クラスの特定数値範囲として取得される。図6では、符号Raを付す矢印にて欠陥クラスAの特定数値範囲を示し、符号Rbを付す矢印にて欠陥クラスBの特定数値範囲を示している。図6の例では、欠陥クラスCの特定画像群は指示されていない。
繰返制御部334では、次に選択すべき候補特徴量軸が存在するか否かが確認される。本処理例では、各候補特徴量軸に対して求められる選択評価値(すなわち、全ての欠陥画像71に対する値の分布範囲)の下限閾値が定められている。複数の候補特徴量軸のうち、現在の注目特徴量軸の選択評価値の次に小さい選択評価値が下限閾値よりも大きい場合に、次に選択すべき候補特徴量軸の存在が確認される(ステップS18)。そして、当該選択評価値の候補特徴量軸が、新たな注目特徴量軸として選択される(ステップS13)。
分類器構築ユニット33では、当該新たな注目特徴量軸に関して、上記ステップS14〜S17と同様の処理が行われる。具体的には、表示制御部333により、当該注目特徴量軸に対する複数の欠陥画像71における値の順序に従って、複数の欠陥画像71がディスプレイ55に配列して表示され(ステップS14)、入力部56により、各欠陥クラスの特定画像群を指示する入力が受け付けられる(ステップS15)。そして、特定画像情報取得部332により、各欠陥クラスの特定画像群のそれぞれに当該欠陥クラスを示すラベルが付与され(ステップS16)、各欠陥クラスの特定数値範囲が取得される(ステップS17)。
繰返制御部334は、次に選択すべき候補特徴量軸が存在する限り、注目特徴量軸を他の一の候補特徴量軸(すなわち、選択すべき候補特徴量軸)に変更しつつ、表示制御部333、入力部56および特定画像情報取得部332の動作を繰り返させる(ステップS18,S13〜S17)。そして、現在の注目特徴量軸の選択評価値の次に小さい選択評価値が下限閾値以下となると、次に選択すべき候補特徴量軸の不存在が確認され、上記動作の繰り返しが停止される(ステップS18)。
なお、選択評価値は、候補特徴量軸における複数の欠陥画像71の値のばらつきを示す他の統計値(分散等)であってもよく、ばらつきを示す値以外であってもよい。また、注目特徴量軸として選択される候補特徴量軸およびその順序は、ユーザが入力部56を介して指定することにより決定されてもよい。分類器の構築における作業の効率化が求められない場合には、全ての特徴量軸が注目特徴量軸として順次選択されてもよい。ステップS13〜S17は、注目特徴量軸として選択すべき特徴量軸が存在しなくなるまで繰り返される。注目特徴量軸に関して欠陥クラスを区別する明確な閾値(例えば、真欠陥と偽欠陥とを区別する欠陥領域の面積閾値等)が定められている場合には、ステップS15において、当該閾値が入力部56を介して入力されることにより、欠陥クラスの特定画像群が指示されてもよい。この場合でも、ユーザが当該閾値により区別される画像群を特定画像群として特定し、当該特定画像群を指示する入力が入力部56により受け付けられていると捉えることができる。
続いて、クラス決定部335では、複数の欠陥画像71のうち、付与された全てのラベルが示す欠陥クラスが同一である欠陥画像71が特定され、当該欠陥クラスの決定済み画像として決定される(ステップS19)。ここで、上記ステップS13〜S18の処理において注目特徴量軸として選択された特徴量軸を「処理済み特徴量軸」と呼ぶと、決定済み画像では、全ての処理済み特徴量軸に対して、同一の欠陥クラスのラベルが付与されている必要はない。全ての処理済み特徴量軸のうち、一部の処理済み特徴量軸(好ましくは、2以上の特徴量軸)に対して同一の欠陥クラスのラベルが付与され、残りの全ての処理済み特徴量軸に対していずれの欠陥クラスのラベルも付与されない欠陥画像71が、当該欠陥クラスの決定済み画像として特定される。上記処理により、欠陥画像71(決定済み画像)に対して、複数の処理済み特徴量軸を考慮した正確な欠陥クラスが容易に決定される。
分類器構築部336では、決定済み画像が存在する各欠陥クラス用のルールベースの分類器が構築される(ステップS20)。例えば、全ての処理済み特徴量軸のうち、1番目、2番目および5番目に注目特徴量軸として選択された処理済み特徴量軸に対して欠陥クラスAのラベルが付与され、残りの全ての処理済み特徴量軸に対して、いずれの欠陥クラスのラベルも付与されない決定済み画像が存在するものとする。この場合、1番目の処理済み特徴量軸に対して取得された欠陥クラスAの特定数値範囲、すなわち、当該処理済み特徴量軸を注目特徴量軸とする際に、ステップS17にて取得された欠陥クラスAの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する1番目の処理済み特徴量軸に対するルール(if−then−else形式)が設定される。
同様に、2番目の処理済み特徴量軸に対して取得された欠陥クラスAの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する2番目の処理済み特徴量軸に対するルールが設定され、5番目の処理済み特徴量軸に対して取得された欠陥クラスAの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する5番目の処理済み特徴量軸に対するルールが設定される。そして、1番目の処理済み特徴量軸に対するルール、2番目の処理済み特徴量軸に対するルール、および、5番目の処理済み特徴量軸に対するルールの組合せ(論理積)、すなわち、条件分岐の直列接続(二分木)により構成される分類器323が構築される。当該分類器323では、1番目の処理済み特徴量軸に対するルール、2番目の処理済み特徴量軸に対するルール、および、5番目の処理済み特徴量軸に対するルールの全てを満たす画像が、欠陥クラスAとして分類される。
以上のようにして、各決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、当該決定済み画像の欠陥クラスの特定数値範囲に含まれる値を有する画像を、当該欠陥クラスに分類するルールベースの分類器323が構築される。ステップS20にて構築される各分類器323では、後述の分類動作において、当該分類器323に対応する欠陥クラスに属する、または、不明である(属するとはいえない)のいずれかの分類結果を出力することが可能である。同一の欠陥クラスに決定された複数の決定済み画像が存在する場合には、当該複数の決定済み画像に対してそれぞれ得られる複数のルール(条件分岐の直列接続)の論理和を示す分類器323が、当該欠陥クラスに対して構築される。なお、決定済み画像が存在しない欠陥クラスについては、上記分類器323は構築されない。
続いて、クラス決定部335では、複数の欠陥画像71のうち、付与された全てのラベルの一部が一のクラスを示し、残りの全てが他の一のクラスを示す欠陥画像71が特定され、これらの2つのクラスの混合クラスの仮決定済み画像として決定される(ステップS21)。換言すると、全ての処理済み特徴量軸のうち、一部の処理済み特徴量軸に対して一の欠陥クラスのラベルが付与され、他の一部の処理済み特徴量軸に対して他の一の欠陥クラスのラベルが付与され、残りの全ての処理済み特徴量軸に対していずれの欠陥クラスのラベルも付与されない欠陥画像71が、混合クラスの仮決定済み画像として特定される。欠陥クラスA、欠陥クラスBおよび欠陥クラスCが設定される本処理例では、欠陥クラスAおよび欠陥クラスBの混合クラスAB、欠陥クラスBおよび欠陥クラスCの混合クラスBC、並びに、欠陥クラスCおよび欠陥クラスAの混合クラスACが存在し得る。k種(kは2以上の整数)の欠陥クラスが設定される場合には、(=k!/((k−2)!2!))種類の混合クラスが存在し得る。
分類器構築部336では、仮決定済み画像が存在する各混合クラス用のルールベースの分類器323が構築される(ステップS22)。混合クラス用の分類器323の構築では、ステップS20における欠陥クラス用の分類器323の構築と同様の手法が用いられる。例えば、全ての処理済み特徴量軸のうち、1番目および2番目に注目特徴量軸として選択された処理済み特徴量軸に対して欠陥クラスAのラベルが付与され、5番目に注目特徴量軸として選択された処理済み特徴量軸に対して欠陥クラスCのラベルが付与され、残りの全ての処理済み特徴量軸に対して、いずれの欠陥クラスのラベルも付与されない仮決定済み画像が存在するものとする。
この場合、1番目の処理済み特徴量軸に対して取得された欠陥クラスAの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する1番目の処理済み特徴量軸に対するルールが設定され、2番目の処理済み特徴量軸に対して取得された欠陥クラスAの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する2番目の処理済み特徴量軸に対するルールが設定される。また、5番目の処理済み特徴量軸に対して取得された欠陥クラスCの特定数値範囲を、当該処理済み特徴量軸上にて満たす画像を選択する5番目の処理済み特徴量軸に対するルールが設定される。そして、1番目の処理済み特徴量軸に対するルール、2番目の処理済み特徴量軸に対するルール、および、5番目の処理済み特徴量軸に対するルールの組合せ(論理積)、すなわち、条件分岐の直列接続(二分木)により構成される分類器323が構築される。当該分類器323では、1番目の処理済み特徴量軸に対するルール、2番目の処理済み特徴量軸に対するルール、および、5番目の処理済み特徴量軸に対するルールの全てを満たす画像が、混合クラスACとして分類される。
以上のようにして、各仮決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、当該仮決定済み画像のラベルが示す欠陥クラスの特定数値範囲に含まれる値を有する画像を、当該仮決定済み画像の混合クラスに分類するルールベースの分類器323が構築される。ステップS22にて構築される各分類器323では、後述の分類動作において、当該分類器323に対応する混合クラスに属する、または、不明であるのいずれかの分類結果を出力することが可能である。同一の混合クラスに決定された複数の仮決定済み画像が存在する場合には、当該複数の仮決定済み画像に対してそれぞれ得られる複数のルール(条件分岐の直列接続)の論理和を示す分類器323が、当該混合クラスに対して構築される。なお、仮決定済み画像が存在しない混合クラスについては、上記分類器323は構築されない。
上記処理により、いずれの欠陥クラスおよび混合クラスも決定されていない未決定の欠陥画像71、すなわち、いずれの欠陥クラスのラベルも付与されていない欠陥画像71、および、3種類の欠陥クラス(4種類以上の欠陥クラスが設定されている場合には、3種類以上の欠陥クラス)のラベルが付与されている欠陥画像71が、表示制御部333によりディスプレイ55に表示される。そして、ユーザにより、各欠陥画像71に対して欠陥クラス(ここでは、欠陥クラスA、欠陥クラスBまたは欠陥クラスC)を指示する入力が入力部56を介して行われる。換言すると、各欠陥画像71に対して欠陥クラスを教示する入力が入力部56により受け付けられる(ステップS23)。以下の説明では、ユーザの入力により欠陥クラスが教示された欠陥画像71を「教示済み画像」と呼ぶ。
このとき、ユーザが欠陥クラス間の相違を比較的明確に示すと考える特徴量軸に注目して、未決定の欠陥画像71の教示作業が行われてもよい。例えば、図6に示すヒストグラムに係る特徴量軸に注目する場合には、当該特徴量軸上において、欠陥クラスAの特定数値範囲Raに含まれる値を有する未決定の欠陥画像71が、欠陥クラスAとして一括して教示され、欠陥クラスBの特定数値範囲Rbに含まれる値を有する未決定の欠陥画像71が、欠陥クラスBとして一括して教示される。欠陥クラスAの特定数値範囲Raと、欠陥クラスBの特定数値範囲Rbとの間の数値範囲R0、すなわち、特定数値範囲Raの上限値と特定数値範囲Rbの下限値との間の数値範囲R0では、3種類の欠陥クラスの欠陥画像71が混じり合っている。したがって、値が数値範囲R0に含まれる未決定の欠陥画像71については、1個ずつ確認して、欠陥クラスの教示が行われる。値が数値範囲R0に含まれる欠陥画像71は、当該特徴量軸上の値のみでは、欠陥クラスを区別することが困難なものであるといえる。
この場合に、好ましい教示作業では、ステップS14と同様に、値が数値範囲R0に含まれる複数の欠陥画像71の当該値の順序に従って、当該複数の欠陥画像71をディスプレイ55に配列して表示し(図5参照)、当該値の昇順において最初に出現する欠陥クラスBの欠陥画像71がユーザにより特定される。そして、当該欠陥画像71の当該特徴量軸上の値V1により、上記数値範囲R0が、欠陥クラスAおよび欠陥クラスCに対応する数値範囲R1と、欠陥クラスA、欠陥クラスBおよび欠陥クラスCに対応する数値範囲R2とに分割される。そして、値が数値範囲R1に含まれる未決定の欠陥画像71のみがディスプレイ55に表示され、各欠陥画像71が欠陥クラスAまたは欠陥クラスCのいずれかに教示される。続いて、値が数値範囲R2に含まれる未決定の欠陥画像71のみがディスプレイ55に表示され、各欠陥画像71が欠陥クラスA、欠陥クラスBおよび欠陥クラスCのいずれかに教示される。値が数値範囲R1に含まれる未決定の欠陥画像71については、候補となる欠陥クラスを絞ることが可能であるため、教示作業を正確に、かつ、効率よく行うことができる。
値が数値範囲R0に含まれる未決定の欠陥画像71の教示作業では、特開2010−71826号公報(特許文献2)の手法を利用することも可能である。例えば、図6の特徴量軸において、特定数値範囲Raに含まれる値を有する欠陥クラスAの欠陥画像71(任意の個数の欠陥画像71であり、決定済み画像であってもよい。欠陥クラスBにおいて同様。)、特定数値範囲Rbに含まれる値を有する欠陥クラスBの欠陥画像71、および、値V1近傍の値を有する欠陥クラスCの欠陥画像71のそれぞれが、欠陥クラスの典型的な欠陥を示す典型画像として選択される。続いて、値が数値範囲R0に含まれる未決定の各欠陥画像71と、各典型画像との間にて特徴量差が求められ、特徴量差が最も小さい典型画像の欠陥クラスに投票が行われる。上記処理は、複数の特徴量軸に関して繰り返され、得票数が最も多い欠陥クラスが当該欠陥画像71の欠陥クラスとして推定される。そして、未決定の各欠陥画像71が、推定された欠陥クラスが認識可能な状態でディスプレイ55に表示され、ユーザにより、最終的な欠陥クラスが決定(教示)される。
分類器構築部336の学習部337では、各決定済み画像に対して決定された欠陥クラス、および、当該決定済み画像にて得られるN個の特徴量軸上の値(n個の候補特徴量軸を含む全ての特徴量軸上の値)が教師データセットとして関連付けられる。また、各教示済み画像に対して教示された欠陥クラス、および、当該教示済み画像にて得られるN個の特徴量軸上の値も教師データセットとして関連付けられる。そして、学習部337が、全ての決定済み画像および全ての教示済み画像の教師データセットを用いて、分類器323を学習させることにより、画像をいずれかの欠陥クラスに分類する分類器323が構築される(ステップS24)。当該分類器323では、後述の分類動作において、欠陥クラスA、欠陥クラスBまたは欠陥クラスCのいずれかの分類結果を出力することが可能である。
以下の説明では、ステップS24にて構築される分類器323を「学習型分類器323」と呼び、ステップS20,S22にて構築される分類器323を「ルールベース型分類器323」と呼ぶ。なお、分類器を学習により構築する方法(学習アルゴリズム)または機構としては、例えば、線形判別法、ファジーボーティング法、フレキシブルナイブベイズ法、ニューラルネットワーク、サポートベクターマシン(SVM)等が採用可能である。
次に、分類ユニット32による欠陥画像の分類について説明する。図7は、分類ユニット32による欠陥画像の分類の流れを示す図である。既述のように、検査・分類装置1では、撮像装置2により基板9が撮像され、撮像画像が欠陥検出部41に入力される。欠陥検出部41では、検査対象領域の欠陥検査が行われ、欠陥が検出されると、欠陥部分の多値画像である欠陥画像が生成されて分類ユニット32に出力される。欠陥画像は、対象画像記憶部321に記憶されて準備される(ステップS31)。当該欠陥画像は、分類ユニット32における分類対象の画像であるため、以下、「対象画像」という。
続いて、特徴量算出部31により、対象画像に対して複数の特徴量軸上の値(複数種類の特徴量の値)が算出される(ステップS32)。分類制御部322では、複数の特徴量軸上の値を利用して、対象画像の分類が行われる(ステップS33)。具体的には、まず、各欠陥クラス用のルールベース型分類器323により、対象画像が当該欠陥クラスに属する、または、不明であるのいずれかの分類結果が出力される。また、各混合クラス用のルールベース型分類器323により、対象画像が当該混合クラスに属する、または、不明であるのいずれかの分類結果が出力される。ルールベース型分類器323により、対象画像がいずれかの欠陥クラスまたは混合クラスに分類された(属すると判定された)場合には、対象画像が当該欠陥クラスまたは当該混合クラスに属するものとして、対象画像の分類が完了する。本処理例では、混合クラスも最終分類結果として採用される。なお、対象画像が一の欠陥クラスおよび一の混合クラスの双方に分類された場合には、分類制御部322により、当該対象画像は当該混合クラスに属すると判定されることが好ましい。
全てのルールベース型分類器323により、対象画像が、いずれの欠陥クラスおよび混合クラスにも分類されない場合には、学習型分類器323により、複数の特徴量軸上の値を用いて、対象画像が欠陥クラスA、欠陥クラスBまたは欠陥クラスCのいずれかに分類される。検査・分類装置1では、欠陥検出部41にて欠陥が検出される毎に上記ステップS31〜S33の動作がリアルタイムにて行われ、多数の対象画像の自動分類が高速に行われる。
以上に説明したように、検査・分類装置1では、一の候補特徴量軸である注目特徴量軸上における複数の欠陥画像71の値の順序に従って、当該複数の欠陥画像71がディスプレイ55に配列して表示され、ユーザにより当該複数の欠陥画像71が観察される。そして、当該複数の欠陥画像71において各欠陥クラスの特定画像群が指示される場合に、特定画像群のそれぞれへの当該欠陥クラスのラベルの付与、および、注目特徴量軸上における当該欠陥クラスの特定数値範囲の取得が行われる。上記動作は、注目特徴量軸を他の一の候補特徴量軸に変更しつつ繰り返される。これにより、予め定められた複数の候補特徴量軸にて表現される特徴量空間において、対象画像が精度よく分類可能であるか否かを、ユーザが直感的に予見することが可能となる。
ここで、学習により構築される1つの分類器のみにより、対象画像を複数の欠陥クラスに分類する比較例を想定する。既述のように、分類に利用される複数の特徴量軸には、ユーザが直感的に意味を解釈することが可能ないくつかの特徴量軸(候補特徴量軸)が含まれている。このような特徴量軸において区別可能な欠陥を、比較例の分類器により分類する際に、ユーザが意図した欠陥クラスとは異なる欠陥クラスを分類結果として出力する誤分類が発生することがある。この場合、ユーザにおいて強い違和感が生じてしまう。
これに対し、検査・分類装置1では、複数の欠陥画像71のうち、上述の処理にて付与された全てのラベルが示す欠陥クラスが同一である欠陥画像71が、当該欠陥クラスの決定済み画像として決定される。そして、決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、当該欠陥クラスの特定数値範囲に含まれる画像を当該欠陥クラスに分類するルールベースの分類器323が構築される。これにより、ユーザにより見出された規則性に従った分類器323を構築することができ、ユーザにおいて強い違和感が生じる過度な誤分類(感覚的に受け入れがたい誤分類)を、比較例の場合に比べて抑制することができる(後述の第2および第3の処理例において同様)。
また、ルールベースの分類器323によりいずれの欠陥クラスにも分類されない画像を、いずれかの欠陥クラスに分類する分類器323が、欠陥クラスが決定された決定済み画像、および、ユーザにより欠陥クラスが教示された教示済み画像を用いて学習により構築される。これにより、ルールベースの分類器323では分類不能な対象画像、例えば、一の特徴量軸上の値では規則性を見出せず、欠陥クラスを区別することが困難な対象画像を、適切に分類することができる。さらに、上記処理では、複数の処理済み特徴量軸を考慮して、学習に利用される決定済み画像に対して正確な欠陥クラスが決定されるため、学習型分類器323における分類性能を向上することができる。分類器構築ユニット33の設計によっては、学習型分類器323が複数の決定済み画像のみを用いて構築されてもよい。すなわち、学習型分類器323は、少なくとも決定済み画像を用いて構築される。
図4Aおよび図4B、並びに、図7を参照して説明した上記処理例(以下、「第1の処理例」という。)では、混合クラスが対象画像の最終分類結果として採用されるが、混合クラスを最終分類結果として採用しない処理も可能であり、以下、第2の処理例として説明する。以下の説明では、特に言及しない処理については、第1の処理例と同様である(後述の第3の処理例において同様)。
第2の処理例では、ステップS22における混合クラス用のルールベース型分類器323の構築は省略される。また、ステップS23では、未決定の欠陥画像の欠陥クラスの教示に加えて、混合クラスが決定された仮決定済み画像の欠陥クラスの教示が行われる。具体的には、混合クラスが決定された各仮決定済み画像が、当該混合クラスが認識可能な状態で、表示制御部333によりディスプレイ55に表示される。そして、当該仮決定済み画像に対して、当該混合クラスに係る2つの欠陥クラスのいずれかを指示する入力が、ユーザにより入力部56を介して行われる。このとき、仮決定済み画像に対して候補となる欠陥クラスを絞ることが可能であるため、教示作業が容易に、かつ、効率よく行われる。
分類器構築部336の学習部337では、各仮決定済み画像に対して教示された欠陥クラス、および、当該仮決定済み画像にて得られるN個の特徴量軸上の値(全ての特徴量軸上の値)が教師データセットとして関連付けられる。また、上記第1の処理例と同様に、決定済み画像の教師データセット、および、教示済み画像の教師データセットも準備される。そして、学習部337が、全ての仮決定済み画像、全ての決定済み画像および全ての教示済み画像の教師データセットを用いて、分類器323を学習させることにより、画像をいずれかの欠陥クラスに分類する学習型分類器323が構築される(ステップS24)。当該学習型分類器323では、分類動作において、欠陥クラスA、欠陥クラスBまたは欠陥クラスCのいずれかの分類結果を出力することが可能である。
上記処理にて構築された学習型分類器323を含む分類ユニット32による対象画像の分類では(図7:ステップS33)、各欠陥クラス用のルールベース型分類器323により、対象画像が当該欠陥クラスに属する、または、不明であるのいずれかの分類結果が出力される。ルールベース型分類器323により、対象画像がいずれかの欠陥クラスに分類された場合には、対象画像が当該欠陥クラスに属するものとして、対象画像の分類が完了する。全てのルールベース型分類器323により、対象画像が、いずれの欠陥クラスにも分類されない場合には、上記学習型分類器323により、複数の特徴量軸上の値を用いて、対象画像が欠陥クラスA、欠陥クラスBまたは欠陥クラスCのいずれかに分類される。
以上のように、第2の処理例では、混合クラスを採用することなく、対象画像が、いずれかの欠陥クラスに分類される。また、学習型分類器323の構築において、全ての決定済み画像の教師データセット、および、全ての教示済み画像の教師データセットに加えて、全ての仮決定済み画像の教師データセットが用いられる。これにより、各欠陥クラスに対して十分な個数の教師データセットをより確実に準備することができ、学習型分類器323の分類性能を向上することができる。
次に、サブ分類器324の構築が行われる第3の処理例について説明する。第3の処理例では、第1の処理例における混合クラスに対して2つのサブクラスが設定される。例えば、欠陥クラスAおよび欠陥クラスBの混合クラスABでは、サブクラスsAおよびサブクラスsBが設定される。第3の処理例における図4BのステップS23では、未決定の欠陥画像の欠陥クラスの教示に加えて、仮決定済み画像のサブクラスの教示が行われる。サブクラスの教示は、第2の処理例における仮決定済み画像の欠陥クラスの教示と同様である。すなわち、混合クラスが決定された各仮決定済み画像が、当該混合クラスが認識可能な状態でディスプレイ55に表示され、当該混合クラスに係る2つのサブクラスのいずれかを指示する入力が、ユーザにより入力部56を介して行われる。すなわち、仮決定済み画像の欠陥クラスを教示する入力が入力部56にて受け付けられる。
ステップS24では、第1の処理例における学習型分類器323の構築に加えて、各混合クラス用のサブ分類器324の構築が行われる。具体的には、各混合クラスの仮決定済み画像に対して教示されたサブクラス、および、当該仮決定済み画像にて得られるN個の特徴量軸上の値(全ての特徴量軸上の値)が教師データセットとして関連付けられる。そして、学習部337が、各混合クラスの全ての仮決定済み画像の教師データセットを用いて、サブ分類器324を学習させることにより、当該混合クラス用のサブ分類器324が構築される。各混合クラス用のサブ分類器324では、分類動作において、当該混合クラスに対して設定された2つのサブクラスのいずれかの分類結果を出力することが可能である。
上記処理にて構築されたサブ分類器324を含む分類ユニット32による対象画像の分類では(図7:ステップS33)、各欠陥クラス用のルールベース型分類器323により、対象画像が当該欠陥クラスに属する、または、不明であるのいずれかの分類結果が出力される。また、各混合クラス用のルールベース型分類器323では、対象画像が当該混合クラスに属する、または、不明であるのいずれかの分類結果が出力される。欠陥クラス用のルールベース型分類器323により、対象画像がいずれかの欠陥クラスに分類された場合には、対象画像が当該欠陥クラスに属するものとして、対象画像の分類が完了する。
混合クラス用のルールベース型分類器323により、対象画像がいずれかの混合クラスに分類された場合には、当該混合クラス用のサブ分類器324により、対象画像が当該混合クラスに対して設定された2つのサブクラスのいずれかに分類される。ここで、各混合クラスに対して設定される2つのサブクラスは、当該混合クラスに係る2つの欠陥クラスにそれぞれ含まれるべきものである。したがって、分類制御部322では、混合クラス用のサブ分類器324による分類結果であるサブクラスが、対応する欠陥クラスに統合される。例えば、既述の混合クラスABにおけるサブクラスsAは欠陥クラスAに統合され、サブクラスsBは欠陥クラスBに統合される。よって、各混合クラス用のサブ分類器324は、当該混合クラスに係る2つの欠陥クラスのいずれかに対象画像を分類するものであると捉えることができる。
サブクラスの欠陥クラスへの統合は、様々な手法にて行われてよい。例えば、図3の分類ユニット32では、設計上の制約により、各欠陥クラス用のルールベース型分類器323による分類結果として対象画像に割り当てられるID番号と、サブ分類器324による分類結果として対象画像に割り当てられるID番号(当該欠陥クラスに対応するサブクラスに対するID番号)とを異ならせる必要がある。この場合には、両ID番号が同じ番号として出力されるルックアップテーブルが準備される。そして、分類制御部322が、ルックアップテーブルを参照することにより、各欠陥クラスと、当該欠陥クラスに対応するサブクラスとに対して、同じ番号を出力させることが可能となる。また、欠陥クラスAとサブクラスsAには十番台の異なるID番号を割り当て、欠陥クラスBとサブクラスsBには二十番台の異なるID番号を割り当て、分類制御部322が、一の位を省略した番号を最終分類結果として出力してもよい。
なお、全てのルールベース型分類器323において、対象画像が、いずれの欠陥クラスおよび混合クラスにも分類されない場合には、上記学習型分類器323により、対象画像が欠陥クラスA、欠陥クラスBまたは欠陥クラスCのいずれかに分類される。
以上のように、第3の処理例では、各混合クラスの仮決定済み画像が、当該混合クラスに係る2つの欠陥クラスのいずれかに実質的に教示される。そして、当該混合クラス用のルールベースの分類器323により当該混合クラスに分類される画像を、当該2つの欠陥クラスのいずれかに分類するサブ分類器324が、欠陥クラスが教示された当該混合クラスの仮決定済み画像を用いて学習により構築される。これにより、サブ分類器324では、混合クラスに分類される対象画像を、欠陥クラスに適切に分類することができる。
上記検査・分類装置1では様々な変形が可能である。
欠陥検出部41において、欠陥の検出の際に特徴量が算出される場合には、当該特徴量が分類ユニット32および分類器構築ユニット33において利用されてよい。
欠陥画像は、半導体基板以外の基板上の欠陥を示すものであってよい。当該基板として、ハードディスク基板等の薄膜デバイス、プラズマディスプレイや液晶ディスプレイ等の薄型ディスプレイに用いられるガラス基板、フォトマスク基板、フィルム基板、プリント配線基板等が例示される。
また、検査・分類装置1が、太陽電池パネルを撮像した欠陥画像を分類する用途に用いられてもよい。例えば、太陽電池パネルのEL(エレクトロ・ルミネッセンス)発光やPL(フォト・ルミネッセンス)発光を撮像して得られる画像や、レーザーテラヘルツエミッション顕微鏡(LTEM)を用いて得られる太陽電池パネルの画像において、参照画像が示す正常な領域とは異なる領域を含む部分を欠陥画像として扱って、検査・分類装置1において太陽電池パネルの欠陥が分類されてよい。さらに、欠陥画像は、電子線やX線等により撮像される画像であってもよい。このように、検査・分類装置1では、可視光により撮像される画像のみならず、広義の放射線により撮像される画像が分類される。
検査・分類装置1において、画像分類装置である分類ユニット32、および、分類器構築装置である分類器構築ユニット33の機能は、撮像装置2および欠陥検出部41とは独立して用いられてよい。画像分類装置および分類器構築装置は、血液や培養液等の所定の液中の細胞を撮像した細胞画像を、複数のクラスに分類する用途に用いられてもよい。画像分類装置および分類器構築装置は、様々な分類対象を示す画像の分類に利用可能である。
上記実施の形態および各変形例における構成は、相互に矛盾しない限り適宜組み合わされてよい。
32 分類ユニット
33 分類器構築ユニット
55 ディスプレイ
56 入力部
71,71a,71b 欠陥画像
321 対象画像記憶部
323 分類器
324 サブ分類器
331 欠陥画像記憶部
332 特定画像情報取得部
333 表示制御部
334 繰返制御部
335 クラス決定部
336 分類器構築部
Ra,Rb 特定数値範囲
S11〜S24,S31〜S33 ステップ

Claims (12)

  1. 画像を分類する分類器を構築する分類器構築方法であって、
    a)複数の画像を準備する工程と、
    b)複数の特徴量軸から選択された一の特徴量軸を注目特徴量軸として、前記注目特徴量軸に対して前記複数の画像からそれぞれ取得される複数の値の順序に従って、前記複数の画像を表示部に配列して表示する工程と、
    c)前記表示部に配列された前記複数の画像において、各クラスに属すべき所定数以上の画像が連続して並ぶ場合に、前記所定数以上の画像を前記各クラスの特定画像群として特定する工程と、
    d)前記特定画像群のそれぞれに前記各クラスを示すラベルを付与する工程と、
    e)前記各クラスの前記特定画像群に対応する前記注目特徴量軸上の数値範囲を、前記各クラスの特定数値範囲として取得する工程と、
    f)前記注目特徴量軸を他の一の特徴量軸に変更しつつ、前記b)ないしe)工程を繰り返す工程と、
    g)前記複数の画像のうち、付与された全てのラベルが示すクラスが同一である画像を、前記クラスの決定済み画像として決定する工程と、
    h)前記決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記クラスの前記特定数値範囲に含まれる画像を前記クラスに分類するルールベースの分類器を構築する工程と、
    を備えることを特徴とする分類器構築方法。
  2. 請求項1に記載の分類器構築方法であって、
    i)前記複数の画像のうち、付与された全てのラベルの一部が第1クラスを示し、残りが第2クラスを示す画像を、前記第1および第2クラスの混合クラスの仮決定済み画像として決定する工程をさらに備えることを特徴とする分類器構築方法。
  3. 請求項2に記載の分類器構築方法であって、
    j)前記仮決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記仮決定済み画像のラベルが示すクラスの前記特定数値範囲に含まれる画像を前記混合クラスに分類するルールベースの他の分類器を構築する工程をさらに備えることを特徴とする分類器構築方法。
  4. 請求項3に記載の分類器構築方法であって、
    k)前記仮決定済み画像を前記第1クラスまたは前記第2クラスのいずれかに教示する工程と、
    l)前記他の分類器により前記混合クラスに分類される画像を前記第1クラスまたは前記第2クラスのいずれかに分類するサブ分類器を、前記k)工程にて教示された前記仮決定済み画像を用いて学習により構築する工程と、
    を備えることを特徴とする分類器構築方法。
  5. 請求項1ないし4のいずれかに記載の分類器構築方法であって、
    m)前記分類器によりいずれのクラスにも分類されない画像をいずれかのクラスに分類する分類器を、少なくとも前記決定済み画像を用いて学習により構築する工程をさらに備えることを特徴とする分類器構築方法。
  6. 画像を分類する画像分類方法であって、
    対象画像を準備する工程と、
    請求項1ないし5のいずれかに記載の分類器構築方法により構築された分類器により前記対象画像を分類する工程と、
    を備えることを特徴とする画像分類方法。
  7. 画像を分類する分類器を構築する分類器構築装置であって、
    複数の画像を記憶する画像記憶部と、
    複数の特徴量軸から選択された一の特徴量軸を注目特徴量軸として、前記注目特徴量軸に対して前記複数の画像からそれぞれ取得される複数の値の順序に従って、前記複数の画像を表示部に配列して表示する表示制御部と、
    前記表示部に配列された前記複数の画像において、各クラスに属すべき所定数以上の画像が連続して並ぶ場合に、前記所定数以上の画像を前記各クラスの特定画像群として指示する入力を受け付ける入力部と、
    前記特定画像群のそれぞれに前記各クラスを示すラベルを付与するとともに、前記各クラスの前記特定画像群に対応する前記注目特徴量軸上の数値範囲を、前記各クラスの特定数値範囲として取得する特定画像情報取得部と、
    前記注目特徴量軸を他の一の特徴量軸に変更しつつ、前記表示制御部、前記入力部および前記特定画像情報取得部の動作を繰り返させる繰返制御部と、
    前記複数の画像のうち、付与された全てのラベルが示すクラスが同一である画像を、前記クラスの決定済み画像として決定するクラス決定部と、
    前記決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記クラスの前記特定数値範囲に含まれる画像を前記クラスに分類するルールベースの分類器を構築する分類器構築部と、
    を備えることを特徴とする分類器構築装置。
  8. 請求項7に記載の分類器構築装置であって、
    前記クラス決定部が、前記複数の画像のうち、付与された全てのラベルの一部が第1クラスを示し、残りが第2クラスを示す画像を、前記第1および第2クラスの混合クラスの仮決定済み画像として決定することを特徴とする分類器構築装置。
  9. 請求項8に記載の分類器構築装置であって、
    前記分類器構築部が、前記仮決定済み画像に対して付与された全てのラベルに対応する全ての特徴量軸において、前記仮決定済み画像のラベルが示すクラスの前記特定数値範囲に含まれる画像を前記混合クラスに分類するルールベースの他の分類器を構築することを特徴とする分類器構築装置。
  10. 請求項9に記載の分類器構築装置であって、
    前記入力部が、前記仮決定済み画像を前記第1クラスまたは前記第2クラスのいずれかに教示する入力を受け付け、
    前記分類器構築部が、前記他の分類器により前記混合クラスに分類される画像を前記第1クラスまたは前記第2クラスのいずれかに分類するサブ分類器を、前記第1クラスまたは前記第2クラスに教示された前記仮決定済み画像を用いて学習により構築することを特徴とする分類器構築装置。
  11. 請求項7ないし10のいずれかに記載の分類器構築装置であって、
    前記分類器構築部が、前記分類器によりいずれのクラスにも分類されない画像をいずれかのクラスに分類する分類器を、少なくとも前記決定済み画像を用いて学習により構築することを特徴とする分類器構築装置。
  12. 画像を分類する画像分類装置であって、
    対象画像を記憶する対象画像記憶部と、
    請求項7ないし11のいずれかに記載の分類器構築装置により構築された分類器と、
    を備えることを特徴とする画像分類装置。
JP2015187979A 2015-09-25 2015-09-25 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置 Active JP6530688B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015187979A JP6530688B2 (ja) 2015-09-25 2015-09-25 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015187979A JP6530688B2 (ja) 2015-09-25 2015-09-25 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置

Publications (2)

Publication Number Publication Date
JP2017062677A JP2017062677A (ja) 2017-03-30
JP6530688B2 true JP6530688B2 (ja) 2019-06-12

Family

ID=58430164

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015187979A Active JP6530688B2 (ja) 2015-09-25 2015-09-25 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置

Country Status (1)

Country Link
JP (1) JP6530688B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7087397B2 (ja) * 2018-01-17 2022-06-21 東京エレクトロン株式会社 基板の欠陥検査装置、基板の欠陥検査方法及び記憶媒体
JPWO2019151393A1 (ja) * 2018-01-31 2020-12-03 株式会社ニチレイフーズ 食品検査システム、食品検査プログラム、食品検査方法および食品生産方法
JP6960356B2 (ja) * 2018-02-28 2021-11-05 株式会社Screenホールディングス 教師データ作成支援方法および教師データ作成支援装置
JP7161948B2 (ja) * 2018-09-07 2022-10-27 株式会社フジクラ 機械学習装置、機械学習方法、機械学習プログラム、及び検査装置
JP7293907B2 (ja) * 2019-06-25 2023-06-20 オムロン株式会社 外観検査管理システム、外観検査管理装置、外観検査管理方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4253522B2 (ja) * 2003-03-28 2009-04-15 株式会社日立ハイテクノロジーズ 欠陥分類方法及び装置
JP4992646B2 (ja) * 2007-10-05 2012-08-08 セイコーエプソン株式会社 識別方法及びプログラム
JP2009266839A (ja) * 2008-04-21 2009-11-12 Hitachi High-Technologies Corp 半導体検査装置及び半導体検査方法
JP5537282B2 (ja) * 2009-09-28 2014-07-02 株式会社日立ハイテクノロジーズ 欠陥検査装置および欠陥検査方法

Also Published As

Publication number Publication date
JP2017062677A (ja) 2017-03-30

Similar Documents

Publication Publication Date Title
JP6530688B2 (ja) 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
JP6669453B2 (ja) 画像分類装置および画像分類方法
JP6113024B2 (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
JP6063756B2 (ja) 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法
EP3499418B1 (en) Information processing apparatus, identification system, setting method, and program
JP6401648B2 (ja) 欠陥分類装置および欠陥分類方法
JP2019124591A (ja) 基板の欠陥検査装置、基板の欠陥検査方法及び記憶媒体
JP4253522B2 (ja) 欠陥分類方法及び装置
JP6059486B2 (ja) 教師データ検証装置、教師データ作成装置、画像分類装置、教師データ検証方法、教師データ作成方法および画像分類方法
JP6472621B2 (ja) 分類器構築方法、画像分類方法および画像分類装置
JP2017510981A (ja) カスタマイズされたメトリックスをグローバル分類方法と組み合わせて極高処理能力でプロセスツール状態を監視するウエハおよびロットベースの階層化方法
JP2019087078A (ja) データ生成装置、データ生成方法及びデータ生成プログラム
KR20210087874A (ko) 시편의 기계 학습 기반 결함 검출
JP6584250B2 (ja) 画像分類方法、分類器の構成方法および画像分類装置
JP2010159979A (ja) 外観検査方法及び外観検査システム
JP2014137284A (ja) 教師データ作成支援装置、教師データ作成装置、画像分類装置、教師データ作成支援方法、教師データ作成方法および画像分類方法
JP2018045673A (ja) 分類器構築方法、画像分類方法、分類器構築装置および画像分類装置
JP2019106119A (ja) 検出システム、情報処理装置、評価方法及びプログラム
JP2017107313A (ja) 教師データ作成支援方法、画像分類方法、教師データ作成支援装置および画像分類装置
Khare et al. PCB-Fire: Automated Classification and Fault Detection in PCB
US20210334608A1 (en) Abnormal Wafer Image Classification
JP2017162232A (ja) 教師データ作成支援装置、画像分類装置、教師データ作成支援方法および画像分類方法
JP6871807B2 (ja) 分類器構築方法、分類器および分類器構築装置
CN116935092A (zh) 自动化缺陷分类和检测
JP2017107422A (ja) 画像分類方法および画像分類装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180626

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190517

R150 Certificate of patent or registration of utility model

Ref document number: 6530688

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250