JP2004295879A - Defect classification method - Google Patents

Defect classification method Download PDF

Info

Publication number
JP2004295879A
JP2004295879A JP2004066542A JP2004066542A JP2004295879A JP 2004295879 A JP2004295879 A JP 2004295879A JP 2004066542 A JP2004066542 A JP 2004066542A JP 2004066542 A JP2004066542 A JP 2004066542A JP 2004295879 A JP2004295879 A JP 2004295879A
Authority
JP
Japan
Prior art keywords
classification
defect
criterion
defects
teacher data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004066542A
Other languages
Japanese (ja)
Other versions
JP4443270B2 (en
Inventor
Toshifumi Honda
敏文 本田
Atsushi Miyamoto
敦 宮本
Hiroto Okuda
浩人 奥田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi High Tech Corp
Original Assignee
Hitachi High Technologies Corp
Hitachi High Tech Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi High Technologies Corp, Hitachi High Tech Corp filed Critical Hitachi High Technologies Corp
Priority to JP2004066542A priority Critical patent/JP4443270B2/en
Publication of JP2004295879A publication Critical patent/JP2004295879A/en
Application granted granted Critical
Publication of JP4443270B2 publication Critical patent/JP4443270B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Testing Or Measuring Of Semiconductors Or The Like (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a defect classification method capable of estimating propriety, when defects are automatically classified and setting the classification standards which assure classification performance improvement, with less labor. <P>SOLUTION: Defects of unknown classification class are classified based on two different classification standards, defects varying in a classification result are collected, and defect classification classes are manually given to the collected defects. The defects, given the classification classes, are divided into a classification standard setting group and an evaluating group; classification performance is calculated when the defects belonging to the evaluating group are classified based on the classification standard set so as to classify the defects belonging to the classification standard setting group with maximum performance; and the propriety of the set classification standard is evaluated. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は工業製品の欠陥分類方法に関し、特に欠陥検出後にその欠陥を詳細レビュー、および分類することが重要である半導体製品の前工程検査後の自動欠陥分類方法における自動分類規準の設定方法に関する。 The present invention relates to a defect classification method for industrial products, and more particularly to a method for setting an automatic classification standard in an automatic defect classification method after a pre-process inspection of a semiconductor product, in which it is important to perform detailed review and classification of the defect after detecting the defect.

半導体の微細化に伴い、半導体の前工程製造プロセスの制御はますます困難になってきており、従来半導体ウェーハの外観検査により検出された半導体欠陥の数の変動をもとにしたプロセス管理では高い歩留まりで半導体を製造することができなくなってきている。そこで、外観検査装置による検査後に、検査時に得られた画像を解析して自動的に欠陥を分類する、あるいは外観検査後に欠陥部のより詳細な画像を再検出し、この画像を自動的に分類するADCが提案されている。   With the miniaturization of semiconductors, it is becoming increasingly difficult to control the pre-process of the semiconductor manufacturing process, and in the conventional process management based on the variation in the number of semiconductor defects detected by visual inspection of semiconductor wafers, it is high. Semiconductors cannot be manufactured with a high yield. Therefore, after the inspection by the visual inspection device, an image obtained at the time of the inspection is analyzed to automatically classify the defect, or a more detailed image of the defective portion is re-detected after the visual inspection, and the image is automatically classified. ADCs have been proposed.

ADCには画像より抽出した明るさや欠陥の形状など、複数の画像特徴量より構成される欠陥の特徴をあらかじめ定められたルールに基づいて欠陥クラスに分類するルール形のものや、この欠陥の特徴の各項目を1つのスカラー値として、このスカラー値複数をまとめて多次元ベクトル化し、前記多次元ベクトルにより張られる多次元空間における欠陥クラスの分布をもとに欠陥を分類する基準を自動的に生成する教示形のもの、さらに、ルール形のものと教示形のものを組み合わせたものなどさまざまな方式が提案されている。   The ADC has a rule type that classifies defect features composed of multiple image features, such as brightness extracted from images and defect shapes, into defect classes based on predetermined rules. Are defined as one scalar value, a plurality of the scalar values are collectively converted into a multi-dimensional vector, and a criterion for classifying defects based on a defect class distribution in a multi-dimensional space spanned by the multi-dimensional vector is automatically determined. Various methods have been proposed, such as a teaching type to be generated, and a combination of a rule type and a teaching type.

ADCにより欠陥を自動的に分類するには自動分類の実施前に分類クラスが既知である欠陥サンプルをもとに欠陥の分類基準を設定することが必要である。ルール形の場合には一般に欠陥特徴の幾つかの項目に対し判定閾値を設定することが必要であり、また教示形のものでは前記多次元空間における欠陥クラスの分布を求めることが求められる。   In order to automatically classify defects by the ADC, it is necessary to set defect classification criteria based on a defect sample whose classification class is known before performing automatic classification. In the case of the rule type, it is generally necessary to set judgment thresholds for some items of the defect feature. In the case of the teaching type, it is required to obtain the distribution of defect classes in the multidimensional space.

上記従来技術に関連するものとして、分類基準の設定の方法としてはルール形のもの、特徴量を教示するもの、および、これを組み合わせたものが知られている。例えば、ルール形式の分類方法としては、特許文献1に記述されているような方法があり、特徴量を教示する方式のものとしては、特許文献2にその分類方法と教示方法が記述されており、更にこれを組み合わせたルール形のものと教示形のものを組み合わせた分類方式については、特許文献3に記述されている。   As related to the above-mentioned prior art, as a method of setting a classification criterion, a rule-type method, a method of teaching a feature amount, and a method of combining these are known. For example, as a classification method of a rule format, there is a method described in Patent Document 1, and as a method of teaching a feature value, Patent Document 2 describes the classification method and the teaching method. Further, a classification method combining the rule type and the teaching type combined with each other is described in Patent Document 3.

特開2001−331784号公報JP 2001-331784 A 特開2001-256480号公報JP 2001-256480 A 特開2001−135692号公報JP 2001-135682 A

前記従来技術では自動分類開始前における欠陥の特徴の分布をもとにした欠陥の分類基準の設定が行われるため、自動分類運用後における欠陥の特徴の分布がそれ以前の分布と類似しなくなった場合には適切な自動分類が実現できなくなるという課題があった。たとえば分類基準を設定した際に用意した欠陥サンプル中にいくつかの重要な欠陥サンプルが発生していなかった場合には、サンプルを用意できなかった欠陥クラスの分類基準は設定されないことになってしまうため、そのままでは自動分類を正常に行うことはできない。自動分類を開始する際には対象とする半導体レイヤーにおいて、既に収集された欠陥サンプルとは異なる種類の欠陥が発生するかどうかは未知であるため、この時点で設定した分類基準が十分であるかどうかを判定することは困難である。   In the prior art, since the defect classification criteria are set based on the distribution of the defect features before the automatic classification is started, the distribution of the defect characteristics after the automatic classification operation is no longer similar to the distribution before that. In such a case, there is a problem that appropriate automatic classification cannot be realized. For example, if some important defect samples did not occur in the defect samples prepared when the classification criteria were set, the classification criteria of the defect class for which the samples could not be prepared would not be set. Therefore, automatic classification cannot be performed normally as it is. When starting automatic classification, it is unknown whether defects of a different type from the defect samples already collected occur in the target semiconductor layer, so the classification criteria set at this time are sufficient It is difficult to determine whether.

この課題を解決するために、自動分類の開始後に大量に処理された欠陥より分類基準を設定する際に不足していた欠陥クラスのサンプルを見つけ、分類基準を更新することが最良の分類性能を達成するためには必要とされている。しかし、自動分類開始後には欠陥の分類状態を常に監視することは多くの労力を必要とするので自動分類をする意味を喪失してしまい、実際の生産ラインではこの作業を実施することはできない。この課題を解決するための従来の発明としては、例えば上記特許文献1に見られるように、半導体ウェーハ検出される欠陥からその特徴量を計算して特徴量空間に割り当て、欠陥の特徴領空間での分布からカテゴリを割り当て、欠陥分類のための教示データを作成し、欠陥分類実行時では、半導体ウェーハから検出される分類対象の欠陥について、同様の処理を行って教示データと比較し、半導体製造プロセスに変動などによりこれらデータに違いが生ずる場合に、この違いに応じて先に求めた教示データを修正するような方法が提案されていた。
しかし、最近のプロセス管理には欠陥の細分類が必要になってきており、これを実現するために特徴量空間の次元数は大きくなってきているため、当初は少ないサンプル数より求める欠陥の分布より特徴量分布の変動を自動的に検出することは困難である。結局、現在までのところこの発明は実用化がされていない。また、たとえ自動分類開始後の欠陥状態を監視し、分類基準の設定に問題があることを発見した場合にも、実際には分類基準の再設定は極めて困難であった。
In order to solve this problem, finding the defect class sample that was insufficient when setting the classification criteria from the defects processed in large quantities after the start of the automatic classification, and updating the classification criteria is the best classification performance. Needed to achieve. However, constantly monitoring the state of defect classification after the start of the automatic classification requires a lot of effort, so that the meaning of the automatic classification is lost, and this operation cannot be performed in an actual production line. As a conventional invention for solving this problem, as disclosed in Patent Document 1, for example, a feature amount is calculated from a defect detected on a semiconductor wafer and assigned to a feature amount space. , Assigning categories from the distribution of the data, creating teaching data for defect classification, and performing defect classification, performing similar processing on the defects to be classified detected from the semiconductor wafer and comparing the data with the teaching data. When a difference occurs in these data due to a variation in the process, a method has been proposed in which the previously obtained teaching data is corrected according to the difference.
However, recent process management requires fine classification of defects, and the number of dimensions in the feature space has been increased to achieve this. It is more difficult to automatically detect a change in the feature amount distribution. As a result, the present invention has not been put to practical use until now. Further, even if the defect state after the start of the automatic classification is monitored and it is found that there is a problem in the setting of the classification criterion, it is actually extremely difficult to reset the classification criterion.

最初に分類基準の設定を行った後に大量に処理された分類結果がその後の分類基準の再設定により、より正確な分類結果を算出するようになるかを保証することは一般的には大量に自動分類された欠陥の真の分類クラスが未知の状態では不可能であるためである。また分類基準の再設定前と再設定後においては分類結果が異なる傾向の変動をしてしまう事態が発生するため、偏向の前後において分類クラス毎の欠陥数の変動が発生してしまい、プロセス管理を行ううえで不都合が発生してしまうという問題も併せ持っている。   In general, it is not sufficient to guarantee that a large amount of classification results that have been processed after the initial setting of classification criteria will result in more accurate classification results by resetting the classification criteria. This is because the true classification class of the automatically classified defect is impossible in an unknown state. Also, before and after resetting the classification criteria, the classification results may fluctuate differently, and before and after deflection, the number of defects for each classification class may fluctuate. In addition, there is a problem that inconvenience occurs in performing the above.

さらに一般的なユーザにとっては、どのように分類基準を再設定すれば全体分類性能が向上するかがわからないという問題もある。分類基準の再設定においては、予め用意した欠陥群における各欠陥クラスに属する欠陥の特徴量を算出し、この分布をもとに基準を設定することが一般的であるが、このとき、全ての欠陥について特徴量を抽出してしまうと特に一部の欠陥を追加する場合においては性能が低下してしまう場合がある。そこで、最良の性能を得ようとする場合には分類基準を変更する前に最良の分類結果を得るために必要な欠陥のみを選択することが重要であるが、どの欠陥を選択すれば最良の結果が得られるかの判断は一般ユーザには困難であり、結局全ての欠陥より欠陥の特徴量の分布を算出して分類基準を設定しており、この結果、分類基準の再設定による性能の向上は一概には実現できないという難しさを抱えていた。   Further, there is a problem that a general user does not know how to reset the classification criteria to improve the overall classification performance. In resetting the classification criterion, it is general to calculate a feature amount of a defect belonging to each defect class in a prepared defect group and set a criterion based on this distribution. If a feature amount is extracted for a defect, the performance may be deteriorated particularly when some defects are added. Therefore, when trying to obtain the best performance, it is important to select only the defects necessary to obtain the best classification result before changing the classification criterion. It is difficult for a general user to judge whether or not a result can be obtained. After all, the distribution of the feature amount of the defect is calculated from all the defects, and the classification criterion is set. There was a difficulty that improvement could not be realized at all.

本発明の目的は、少ない労力により、欠陥を自動分類した際の妥当性を推定し、分類性能の向上を保証した分類基準を設定することを可能とする欠陥分類方法を提供することにある。   SUMMARY OF THE INVENTION An object of the present invention is to provide a defect classification method capable of estimating the validity at the time of automatically classifying defects with a small amount of labor and setting a classification standard that guarantees an improvement in classification performance.

また、本発明の他の目的は、全体の分類性能の向上が保証できる分類基準の再設定手法を実現することにある。   Another object of the present invention is to realize a method of resetting a classification criterion that can guarantee an improvement in overall classification performance.

上記目的を達成するために、本発明では、欠陥を分類する方法を、試料を撮像して検出した第1の欠陥群の画像を欠陥の分類クラスごとに分類するステップと、該分類クラスごとに分類した前記第1の欠陥群の画像の情報を用いて分類基準を作成するステップと、
分類クラスが既知の前記試料上の第2の欠陥群の画像を該作成した分類基準に基いて分類するステップと、該分類クラスが既知の第2の欠陥群の画像を前記分類基準に基いて分類した結果に基いて前記分類基準の分類正解率を求めるステップと、該分類正解率のデータに基いて前記分類基準を修正するステップとを備えて構成した。
In order to achieve the above object, according to the present invention, a method of classifying defects includes a step of classifying an image of a first defect group detected by imaging a sample for each classification class of defects, Creating a classification criterion using information on the classified images of the first defect group;
Classifying an image of a second defect group on the sample having a known classification class based on the created classification criterion, and classifying the image of the second defect group having a known classification class based on the classification criterion The method includes a step of obtaining a classification accuracy rate of the classification criterion based on a result of the classification, and a step of correcting the classification criterion based on the data of the classification accuracy rate.

更に、上記目的を達成するために、本発明では、欠陥を分類する方法を、試料上で検出された欠陥群を欠陥の分類クラスごとに分類して第1の教師データを作成するステップと、該第1の教師データの情報を用いて分類基準を作成するステップと、前記第1の教師データの一部を前記分類基準に基いて分類するステップと、該分類基準に基いて分類した結果から該分類基準の分類性能を求めるステップと、前記第1の教師データの中から前記分類性能を低下させる欠陥を前記第1の教師データから削除して第2の教師データを作成するステップと、該第2の教師データを用いて分類クラスが未知の欠陥を分類するステップとを備えて構成した。   Further, in order to achieve the above object, according to the present invention, a method of classifying defects includes a step of classifying a group of defects detected on a sample for each defect classification class to generate first teacher data; Creating a classification criterion using the information of the first teacher data; categorizing a part of the first teacher data based on the classification criterion; Obtaining the classification performance of the classification criterion; and removing second defect data from the first teacher data from the first teacher data to generate second teacher data. Classifying defects whose classification class is unknown using the second teacher data.

更に、上記目的を達成するために、本発明では、欠陥の分類クラスが既知の教師データを用いて分類基準を作成し、欠陥の分類クラスが既知のデータを前記分類基準に基いて分類し、前記欠陥の分類クラスが既知のデータを前記分類基準に基いて分類した結果から該分類基準の分類性能を求め、該求めた分類性能に基いて前記分類基準を修正する欠陥を分類する方法において、前記分類基準を作成するステップにおいて、前記分類基準を、上層と中間層、下層からなる多層構造の分類器を用いて設定し、前記中間層の分類器を、論理式で分類を判定し、前記論理式は、該論理式を変化させたときに前記下層の分類器による分類正解率が最も小さくなるように設定するようにした。   Further, in order to achieve the above object, according to the present invention, a classification criterion of a defect is created based on teacher data with a known class, and the classification class of the defect is classified based on the classification criterion with the known data. A method for classifying a defect that corrects the classification criterion based on the determined classification performance based on the classification performance of the defect based on a result of classifying the known data based on the classification criterion based on the classification criterion, In the step of creating the classification criterion, the classification criterion is set using a classifier having a multilayer structure including an upper layer, an intermediate layer, and a lower layer, and the classifier of the intermediate layer is determined to be classified by a logical expression. The logical formula is set so that the classification correct rate by the lower classifier is minimized when the logical formula is changed.

本発明によれば、少ない労力により、欠陥を自動分類した際の妥当性を推定し、分類性能の向上を保証した分類基準を設定することが可能となる。また、全体の分類性能の向上が保証できる分類基準の再設定手法を実現することが可能となる。   ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to estimate the validity at the time of automatically classifying a defect, and to set the classification criterion which guaranteed the improvement of the classification performance with little effort. Further, it is possible to realize a method of resetting the classification criterion that can guarantee the improvement of the overall classification performance.

以下、本発明の実施の形態を、図1〜図8を用いて説明する。   Hereinafter, an embodiment of the present invention will be described with reference to FIGS.

半導体ウェーハは、多数のステップにより多層構造的にパターンが形成されていく。この多層構造を製造していく過程において、その製造プロセスをモニタリングするために、レイヤー毎に外観検査や、その外観検査で検出された欠陥のレビュー、欠陥種類ごとの分類が行われる。欠陥のレビュー方法としては、一般に、
(1)検査装置が検査中に撮像した画像をレビューするもの、
(2)検査装置の外観画像撮像器を用いて再度欠陥の画像を撮像するrevisit形のもの、
(3)検査装置とは異なる、レビューSEM(走査電子顕微鏡)等のレビュー装置を用いてレビューするもの
など、いくつかの方法が提案され、利用されている。
A semiconductor wafer is patterned in a multilayer structure by a number of steps. In the process of manufacturing the multilayer structure, in order to monitor the manufacturing process, a visual inspection for each layer, a review of defects detected in the visual inspection, and a classification for each defect type are performed. Defect review methods generally include:
(1) An inspection device reviews images taken during inspection,
(2) A revisit-type one that captures an image of a defect again using the external appearance image pickup device of the inspection device;
(3) Several methods have been proposed and used, such as a method using a review device such as a review SEM (scanning electron microscope), which is different from an inspection device.

ここで、(3)のタイプのシーケンスをより詳細に説明すると、外観検査を行った後、検査対象において検出された欠陥のウェーハ上の座標における外観を再度レビュー装置で画像撮像を行って欠陥画像を取得し、次いで、その画像をユーザがマニュアルによって、異物、パターン欠陥、スクラッチ等の欠陥クラス毎に分類し、各欠陥種における欠陥数、欠陥サイズの分布、ウェーハ上の欠陥発生位置の分布を解析し、製造プロセスの問題点を見つけている。   Here, the sequence of the type (3) will be described in more detail. After the appearance inspection is performed, the appearance of the defect detected in the inspection target at the coordinates on the wafer is again imaged by the review device to obtain the defect image. Then, the user manually classifies the image into defect classes such as foreign matter, pattern defects, and scratches, and calculates the number of defects, the distribution of defect sizes, and the distribution of defect occurrence positions on the wafer for each defect type. Analyzes and finds problems in the manufacturing process.

最近の半導体プロセスはますます微細化してきているため、その製造プロセスは最適な状態から多少ずれただけで不良が多発するようになってきており、より多数の欠陥画像のレビューが必要になってきている。そこで、最近ではこのレビューした欠陥をマニュアルで分類する代わりに、自動で分類するADCの重要性が高まってきている。   As recent semiconductor processes become more and more miniaturized, the manufacturing process becomes more frequent due to a slight deviation from the optimal state, and a larger number of defect images need to be reviewed. ing. Therefore, recently, ADCs that automatically classify the reviewed defects instead of classifying the defects manually are increasing in importance.

本発明によるADCの分類シーケンスを図1に示す。ステップ101はマニュアルによる分類作業のステップであり、複数収集された欠陥の画像を目視で評価し、分類するステップである。ステップ102は、ステップ101で目視評価された欠陥を用いて、分類基準を設定するステップである。ステップ102の内部シーケンスは図2で詳説するが、このステップ101において、ステップ101でマニュアル分類された欠陥数が少ないと判断された場合には、再度欠陥画像を収集し、ステップ101を実行する。   FIG. 1 shows a classification sequence of the ADC according to the present invention. Step 101 is a manual classification operation step, in which a plurality of collected defect images are visually evaluated and classified. Step 102 is a step of setting a classification criterion using the defects visually evaluated in step 101. The internal sequence of step 102 will be described in detail with reference to FIG. 2. If it is determined in step 101 that the number of defects manually classified in step 101 is small, defect images are collected again and step 101 is executed.

ステップ103は画像取得ステップであり、ステップ102で設定した分類基準をもちいて分類する欠陥画像を取得する。取得方法としては、既に撮像されている画像データを、通信等の手段によりプログラムを実行させるメモリ領域に転送する方法や、あるいは後述する図7で示すような検出系により新たに画像を撮像する方法などが適用可能である。ステップ104は自動分類ステップであり、分類結果が未知の欠陥を分類するステップである。   Step 103 is an image acquisition step in which a defect image to be classified is acquired using the classification criterion set in step 102. As an acquisition method, a method of transferring already captured image data to a memory area for executing a program by means such as communication, or a method of newly capturing an image by a detection system as shown in FIG. 7 described below. Is applicable. Step 104 is an automatic classification step for classifying a defect whose classification result is unknown.

ステップ105はチェック要否判定ステップであり、ステップ102において設定した分類基準を評価することが必要かどうかを判定するステップである。ステップ105の1実施例については図8を用いて詳説する。ステップ105において分類基準の評価が不要と判断された場合には、ステップ108で分類シーケンスが終了したか否かを判断し、終了とはんだんされた場合には分類シーケンスを終了する。まだ終了していないと判断された場合には、ステップに103に戻る。   Step 105 is a check necessity determination step, in which it is determined whether it is necessary to evaluate the classification criteria set in step 102. One embodiment of step 105 will be described in detail with reference to FIG. If it is determined in step 105 that the evaluation of the classification criteria is unnecessary, it is determined in step 108 whether or not the classification sequence has been completed. If it is determined that the processing has not been completed, the process returns to step 103.

一方、ステップ105において分類基準の評価が必要と判断された場合にはステップ106の自動分類結果チェックステップを実行する。ステップ106はステップ104で正確に自動分類がされているかを評価するため、ステップ104で自動分類した欠陥の一部をマニュアルで評価するステップである。ここで正確に自動分類がされていると判定されれば、引き続き、さらに分類結果が未知である画像を撮像するステップである103と画像を自動分類するステップ104を実施する。また、ステップ106でのチェックの結果、自動分類結果の正解率が低ければ、ステップ105でマニュアル評価した画像を用いて、ステップ107で再度分類基準を設定し、ステップ103に戻って画像取得から106の自動分類結果チェックまでのシーケンスを実行する
本シーケンスをより詳細に説明する前に、欠陥の自動分類方法について説明する。欠陥を分類するためには、まず欠陥の特徴を抽出することが必要である。欠陥の特徴としては、画像特徴と物質組成特徴がその代表的なものとして挙げられる。画像特徴は、欠陥が含まれる画像と欠陥が含まれない同一パターンをもつ領域の画像の2枚の画像を比較して、欠陥領域を算出したのち、算出された欠陥領域より、欠陥のサイズや形状特徴、欠陥の明度、画像テキスチャ、表面の凹凸を算出する方法が提案されている。物質組成特徴としては、例えば電子線を欠陥に照射しそのX線を解析するEDX(Energy Dispersive X-ray Fluorescence Spectrometer)より得られたスペクトルが挙げられる。
On the other hand, if it is determined in step 105 that the classification criterion needs to be evaluated, an automatic classification result check step in step 106 is executed. Step 106 is a step of manually evaluating a part of the defects automatically classified in step 104 in order to evaluate whether the automatic classification has been correctly performed in step 104. Here, if it is determined that the automatic classification has been correctly performed, the step 103 for capturing an image whose classification result is unknown and the step 104 for automatically classifying the image are further performed. As a result of the check in step 106, if the accuracy rate of the automatic classification result is low, the classification criterion is set again in step 107 using the image manually evaluated in step 105, and the process returns to step 103 to return to step 103. Execute the sequence up to the automatic classification result check Before describing this sequence in more detail, a method for automatically classifying defects will be described. In order to classify a defect, it is necessary to first extract the characteristics of the defect. Defect characteristics include image characteristics and material composition characteristics as typical ones. The image feature is obtained by comparing two images of an image having a defect and an image of an area having the same pattern without a defect, calculating a defect area, and then calculating a defect size and the like from the calculated defect area. Methods for calculating shape features, lightness of defects, image texture, and surface irregularities have been proposed. The material composition feature includes, for example, a spectrum obtained from an energy dispersive X-ray fluorescence spectrometer (EDX) that irradiates a defect with an electron beam and analyzes the X-ray.

分類基準の設定の方法としてはルール形のもの、特徴量を教示するもの、および、これを組み合わせたものが知られている。例えば、ルール形式の分類方法としては、特許文献1に記述されているような方法があり、特徴量を教示する方式のものとしては、特許文献2にその分類方法と教示方法が記述されており、更にこれを組み合わせたルール形のものと教示形のものを組み合わせた分類方式については、特許文献3に記述されている。   As a method of setting a classification criterion, a rule-type method, a method of teaching a feature amount, and a method of combining these are known. For example, as a classification method of a rule format, there is a method described in Patent Document 1, and as a method of teaching a feature value, Patent Document 2 describes the classification method and the teaching method. Further, a classification method combining the rule type and the teaching type combined with each other is described in Patent Document 3.

例えば、ルール形のものについて凹と凸とそれ以外を分類するためには、特許文献1に開示されている方法では、左右像より求めた陰影のできる方向と、欠陥画像と参照画像との差画像から得られる欠陥部位の位置情報を用いることで、欠陥が凸なのか凹なのかもしくはどちらでもないのかを判定することができると述べられている。一般に、画像には微小なノイズが発生しているため、キズ欠陥によって生じた陰影であるのか、あるいはノイズであるのかを識別するためには、これを判定するための閾値が必要になる。例えば、陰影の強度を欠陥領域全体でもって総和をとった凹凸度といった特徴を算出し、これが一定閾値を超えれば凹凸があり、なければ平坦である、といった方法で分類を行うための基準が設定される。この分類境界を示す閾値の設定には、既に欠陥の属性、すなわちこの場合には平坦なのか凸であるのか、あるいは凹みであるのかといった属性が既知である欠陥を前もって収集しておき、これらが最も適切に分類されるようにするのが一般的である。   For example, in order to classify concave and convex rules and others in the rule type, the method disclosed in Patent Document 1 discloses a method in which a shading direction obtained from left and right images and a difference between a defect image and a reference image are different. It is described that it is possible to determine whether a defect is convex, concave, or neither by using position information of a defective portion obtained from an image. In general, since minute noise is generated in an image, a threshold value for determining whether the image is a shadow or a noise caused by a flaw is required. For example, a criterion for classifying in such a manner that a feature such as a degree of unevenness obtained by summing up the intensity of the shadow over the entire defect area is calculated, and if this exceeds a certain threshold value, there is unevenness, otherwise the surface is flat is set. Is done. In order to set the threshold value indicating the classification boundary, the attributes of the defects, that is, the defects whose attributes such as flat, convex, and dent are known in advance in this case, are collected in advance, and these are collected. It is common to make the most appropriate classification.

教示形のものを使った分類として例えば特許文献2に示されるように、欠陥画像より抽出した特徴量をもとに、教示のための特徴量空間を形成するものがある。ここでは、1枚の欠陥画像から抽出される特徴量をc、予め設定された特徴量の個数をnとし、1つの画像から抽出されるn個の特徴量の組み合わせ(c0,c1,…,cn)を特徴量ベクトル、特徴空間を算出するために用いられる欠陥画像から抽出された特徴量ベクトルで表わされる特徴量空間内の点を教師点として、これらの教師点を判別する判別式を算出する方法が述べられている。このように、特徴量空間を形成させるためには、分類クラスが既知である欠陥を複数収集して、教師点を設定することが必要である。   As a classification using the teaching type, for example, as shown in Patent Document 2, there is a classification that forms a feature amount space for teaching based on feature amounts extracted from a defect image. Here, c is a feature amount extracted from one defect image, n is a predetermined number of feature amounts, and a combination (c0, c1,..., N) of n feature amounts extracted from one image. cn) is used as a feature vector, and a point in the feature space represented by the feature vector extracted from the defect image used for calculating the feature space is used as a teacher point, and a discriminant for determining these teacher points is calculated. How to do is described. As described above, in order to form a feature amount space, it is necessary to collect a plurality of defects whose classification classes are known and set a teacher point.

これらの公知例に示されているように、ステップ102で示した分類基準の設定ステップを実施するには、予め欠陥を収集しておき、この欠陥群より設定することが一般に行われているが、従来は一定以上の欠陥数が収集されれば、これをもとに分類基準を設定するといった手法を用いていた。しかし、対象とするレイヤーによっては、自動分類を正確に実施するためには数多くの欠陥を収集する必要がある場合があり、一方、たとえどれだけ画像を収集しても正確な自動分類ができるような分類基準を設定することができないレイヤーもある。このため、分類基準を一度設定しても分類性能が十分でない場合には、そのレイヤーが自動的に分類することが不可能であるのか、画像の収集数が不足しているのか判らない状態で、再度画像の収集と分類基準の再設定を行わなければならなかった。   As shown in these known examples, in order to perform the step of setting the classification criterion shown in step 102, it is generally performed to collect defects in advance and to set them from the group of defects. Conventionally, when a certain number of defects is collected, a classification standard is set based on the collected number. However, depending on the layer of interest, it may be necessary to collect a large number of defects in order to perform automatic classification correctly, while ensuring accurate classification regardless of how many images are collected. Some layers do not allow you to set a good classification criterion. For this reason, if the classification performance is not sufficient even after setting the classification criterion once, it is difficult to determine whether the layer cannot be classified automatically or the number of acquired images is insufficient. In this case, it was necessary to collect images and reset the classification criteria again.

図2に本発明の分類基準の設定シーケンスを示す。まず、ステップ201において、前記ステップ101において収集された各欠陥群を、ある一定の数Nのグループに分割するための値Nを設定する。Nの初期値は2が都合が良い。次いで、ステップ202において、各欠陥群の欠陥を、このNのグループにそれぞれが入るように分割する。各欠陥の真の分類クラスは、ステップ101においてマニュアルで与えられており、各分割グループにおいて、それぞれの欠陥種がなるべく等しくなるように分割すると良い。次に、ステップ203において、このNのグループのうち、1つのグループを分類グループ、残りのN−1のグループを教示グループとして選択し、教示グループに属する欠陥より分類基準を設定する。   FIG. 2 shows a classification reference setting sequence according to the present invention. First, in step 201, a value N for dividing each defect group collected in step 101 into a certain number N of groups is set. As the initial value of N, 2 is convenient. Next, in step 202, the defects of each defect group are divided so as to be included in the N groups. The true classification class of each defect is manually given in step 101, and it is preferable to divide each defect group so that each defect type is as equal as possible. Next, in step 203, one of the N groups is selected as a classification group, and the remaining N-1 groups are selected as teaching groups, and classification criteria are set based on the defects belonging to the teaching group.

次いで、ステップ204において、分類グループに属する欠陥を、設定した分類基準により分類する。Nのグループより、1つのグループを分類グループとして選択する組み合わせはN通りあるため、この全ての組み合わせが終了するまで、ステップ203からステップ204のステップを繰り返す。N通りの組み合わせが全て終了すると、分類する欠陥が属さなかった教示セットより求めた分類基準に基づいた、全欠陥の分類結果を得られることになる。次に、ステップ201においてNの値を大きくして再度実行する。Nは数が少ない場合には欠陥数まで、数が多い場合には10〜20程度まで実施すればよい。   Next, in step 204, defects belonging to the classification group are classified according to the set classification criteria. Since there are N combinations of selecting one group as a classification group from N groups, the steps from step 203 to step 204 are repeated until all the combinations are completed. When all of the N combinations are completed, a classification result of all the defects is obtained based on the classification criterion obtained from the teaching set to which the defect to be classified does not belong. Next, in step 201, the value of N is increased and the process is executed again. N may be implemented up to the number of defects when the number is small, or up to about 10 to 20 when the number is large.

いま、欠陥クラスiにおいて分類基準を設定するのに用いられた欠陥数をCiとおき、教師欠陥と呼ぶ。Nを2〜20まで実施した場合には、教師欠陥数がCi/2からCi*19/20と変化した場合の、自動分類の正解率を求められることになる。一般に、教師欠陥数が多くなるほど、分類基準を設定するのに用いなかった欠陥を分類する正解率は向上するため、図3に示すような、教師欠陥数と正解率の関係が得られる。また、教師欠陥数を最大のNにした場合の分類正解率より、ステップ101において与えられた全欠陥を教示した場合の分類性能を推測できる。この分類正解率が十分高ければ、算出された分類基準をもとに、分類結果が未知の任意の欠陥を自動分類した場合の正解率は高いと考えられる。   Now, the number of defects used for setting the classification criterion in the defect class i is set to Ci, and is referred to as a teacher defect. When N is performed from 2 to 20, the correct classification rate of the automatic classification when the number of teacher defects changes from Ci / 2 to Ci * 19/20 can be obtained. In general, as the number of teacher defects increases, the accuracy rate for classifying the defects that are not used for setting the classification criterion increases, so that the relationship between the teacher error number and the accuracy rate as shown in FIG. 3 is obtained. Further, from the classification accuracy rate when the number of teacher defects is set to the maximum N, it is possible to estimate the classification performance when all the defects given in step 101 are taught. If the classification correct answer rate is sufficiently high, it is considered that the correct answer rate is high when any defect whose classification result is unknown is automatically classified based on the calculated classification criterion.

一方、この正解率が低かった場合には、2つのケースが考えられる。1つは教師欠陥数が不足している場合、もう1つはADCでは高い性能での分類がもともと不可能な欠陥である場合である。この違いは、図3に示す曲線によって判定することができる。図3に示すように、Nを最大にした時点における曲線の微分値が正の値をとれば、教師欠陥数を多くすることにより性能の向上を期待でき、この場合には教師欠陥数不足と判定できる。一方、Nを最大にした時点での曲線の微分値が0付近であれば、既にその分類正解率は飽和しており、教師欠陥数を多くしても性能を向上させることができない、すなわち、ADCでは高い性能を期待できないことが判る。   On the other hand, when the correct answer rate is low, two cases can be considered. One is a case where the number of teacher defects is insufficient, and the other is a case where classification with high performance is originally impossible with the ADC. This difference can be determined by the curve shown in FIG. As shown in FIG. 3, if the differential value of the curve at the time when N is maximized takes a positive value, the performance can be expected to be improved by increasing the number of teacher defects. Can be determined. On the other hand, if the differential value of the curve at the time when N is maximized is near 0, the classification accuracy rate is already saturated, and even if the number of teacher defects is increased, the performance cannot be improved. It turns out that ADC cannot expect high performance.

ステップ205において、各分類クラス、および総合性能の教師欠陥数−分類正解率のグラフを表示するとともに、性能が十分ではない場合には、教師欠陥数を増やすことが必要なのか、あるいは高い性能は期待できないのかのレポートを表示する。この表示されたレポートに基いて、性能が十分でない場合には、教師欠陥数を増やしてステップ201からステップ204までを繰返しステップ205で再度評価結果を表示する。このようにして、分類正解率の評価が終了した後、ステップ206において、全ての教師欠陥を用いて分類基準を生成し、これを前記ステップ102において生成される分類基準とする。   In step 205, a graph of each class class and the number of teacher defects of the total performance-classification accuracy rate is displayed, and if the performance is not sufficient, it is necessary to increase the number of teacher defects, or Display a report on what you can't expect. If the performance is not sufficient based on the displayed report, the number of teacher defects is increased, steps 201 to 204 are repeated, and the evaluation result is displayed again in step 205. After the classification accuracy rate evaluation is completed in this way, in step 206, a classification criterion is generated using all teacher deficiencies, and this is used as the classification criterion generated in step 102.

次いで、前記ステップ104について説明をする。前記ステップ102を実施する際に収集された教師欠陥は、図2に示したシーケンスにより高い性能で分類されることが保証されるのであるが、その後に長期間にわたり同じ欠陥ばかりが発生するわけではないため、必ずしもその性能を継続的に維持可能ではないという問題がある。そこで、欠陥が正常に分類されたかを、ある期間ごとにマニュアル分類によってモニタリングすることが必要である。この方法として、ADCを行う分類基準の中にモニタリングルールを組み込んでおくことことが望ましい。   Next, step 104 will be described. Although the teacher defects collected when performing the step 102 are guaranteed to be classified with high performance according to the sequence shown in FIG. 2, only the same defects are generated for a long time thereafter. Therefore, there is a problem that the performance cannot always be maintained continuously. Therefore, it is necessary to monitor whether the defect is normally classified by manual classification every certain period. As this method, it is desirable to incorporate a monitoring rule into a classification standard for performing ADC.

モニタリングルールは、以下の外部からの入力をもとに、すなわち、
(1)欠陥群を検出したウェーハ群におけるウェーハ1枚あたりに存在する欠陥数の時系列変動
(2)欠陥群を検出したウェーハ群におけるウェーハ1枚毎に検出した欠陥群より求める欠陥位置の空間的分布
(3)分類基準を設定する際に用いた教師欠陥数
(4)欠陥群を検出したウェーハ群に対して適用される電気的試験結果
(5)前記欠陥群の一部あるいは全てに対して行われる欠陥の組成解析結果
のすくなくとも1つをもとに、モニタリングするタイミング、あるいは欠陥群を決定する。
Monitoring rules are based on the following external inputs:
(1) Time-series variation in the number of defects existing per wafer in the wafer group where the defect group was detected. (2) Defect position space obtained from the defect group detected for each wafer in the wafer group where the defect group was detected. (3) Number of teacher defects used in setting the classification criteria (4) Electrical test results applied to the wafer group where the defect group was detected (5) For some or all of the defect group The monitoring timing or defect group is determined based on at least one result of the defect composition analysis performed.

一般に、安定して発生する欠陥は、分類基準を設定する際にステップ101で収集した画像内に既に存在していると考えられ、ここでは、特に突発的に発生する欠陥に注目する必要がある。その観点から、(1)で述べるとおりに、ウェーハ1枚あたりに存在する欠陥数の時系列変動を解析し、1枚あたりに存在する欠陥数が極めて多くなった場合に、分類結果をモニタリングすれば、プロセスが安定した状態では発生しない稀に発生する欠陥の分類結果を評価可能になり、また、これを教師欠陥群に組み入れることが容易である。また、(2)で述べた欠陥位置の空間的な分布では、ランダム欠陥やシステマティック欠陥などを、その分布より求められることが知られており、従来観測されていなかった空間的分布が発生している場合に、分類結果をモニタリングすることにより、教示欠陥とは異なる特徴をもつ欠陥の分類状態を確認することが可能になる。   Generally, it is considered that a defect that occurs stably is already present in the image collected in step 101 when setting the classification criterion, and it is necessary to pay particular attention to a defect that occurs suddenly here. . From this point of view, as described in (1), the time-series variation of the number of defects existing per wafer is analyzed, and when the number of defects existing per wafer becomes extremely large, the classification result should be monitored. For example, it is possible to evaluate a classification result of a defect that rarely occurs that does not occur when the process is in a stable state, and it is easy to incorporate the result into a teacher defect group. In the spatial distribution of defect positions described in (2), it is known that random defects, systematic defects, and the like can be obtained from the distributions. In such a case, by monitoring the classification result, it is possible to confirm the classification state of a defect having a characteristic different from that of the taught defect.

教師欠陥数が既に大量に存在すれば、分類状態をモニタする必要は少ない。教師欠陥数が少なければ、短期間ごとに分類状態を確認する必要がある。   If a large number of teacher defects already exist, there is little need to monitor the classification state. If the number of teacher defects is small, it is necessary to check the classification state every short period.

欠陥の分類の主要な目的の1つとして、製品歩留まりを低下させている原因を特定することが挙げられる。欠陥原因を特定する方法として、実製造ラインで多く行われているのが電気試験や欠陥の組成解析である。ここで電気的、あるいは物理的に致命性が高い欠陥は、高い精度で欠陥分類がされることが必要であり、これらの分類結果を確認することにより、高い精度で欠陥原因や歩留まり推定を行うことのできる自動分類を実現することができる。   One of the main purposes of defect classification is to identify the cause that is reducing product yield. As a method of identifying the cause of a defect, an electrical test and a composition analysis of the defect are often performed on an actual production line. Here, it is necessary to classify a defect having high electrical or physical fatality with high accuracy, and to estimate a defect cause and a yield with high accuracy by confirming these classification results. A possible automatic classification can be realized.

この内容を図8を用いて図示する。801は分類基準を設定する際に予め決定した分類基準の確認タイミングである。ステップ102において分類基準を設定する際に用いた欠陥数が多ければこの確認タイミングを長く設定し、逆に少なければ短く設定する。また、上記(1)〜(5)のモニタしている結果が大きく変動した場合には、その変動にあわせて確認タイミングの変更等を行う。802は(1)で述べたウェーハ1枚あたりで検出した欠陥数の時系列変動を示している。803と804はウェーハ1枚で検出した欠陥位置の分布において特徴的なパターンを発生した箇所で検出した欠陥数であり、803は線状のパターンの欠陥位置の分布を示した箇所の欠陥数、804は環状の分布を示した欠陥数の分布である。805は電気試験を行った結果、欠陥として判定されたチップの数の経時変化、806はEDX解析をして検出した元素の中に鉄元素が存在した欠陥の個数を示している。ここでは801で示した教示欠陥の数より決定された分類結果確認タイミングの前に、それ以前では発生していなかった環状欠陥が大量に発生したことが確認されたため、807に示したタイミングで欠陥の分類結果を確認すべきであることをADCシステムが通知する。また、ADCシステムはこのとき807までの期間で分類した欠陥のうち、欠陥の分類結果を確認すべき欠陥群を自動的に抽出する。   This is illustrated in FIG. Reference numeral 801 denotes a classification reference confirmation timing determined in advance when setting the classification standard. If the number of defects used in setting the classification criterion in step 102 is large, the confirmation timing is set long, and conversely, if the number is small, the confirmation timing is set short. Further, when the monitored results of the above (1) to (5) greatly fluctuate, the confirmation timing is changed according to the fluctuation. Reference numeral 802 denotes a time-series variation in the number of defects detected per wafer described in (1). Reference numerals 803 and 804 denote the number of defects detected at a position where a characteristic pattern is generated in the distribution of defect positions detected on one wafer, 803 denotes the number of defects at a position indicating the distribution of defect positions of a linear pattern, Reference numeral 804 denotes a distribution of the number of defects having an annular distribution. Reference numeral 805 denotes a change with time in the number of chips determined as defects as a result of the electrical test, and reference numeral 806 denotes the number of defects in which iron was present among the elements detected by EDX analysis. Here, before the classification result confirmation timing determined from the number of teaching defects indicated by reference numeral 801, it was confirmed that a large number of annular defects that had not occurred before that were generated. The ADC system informs you that the classification results should be confirmed. At this time, the ADC system automatically extracts a defect group for which the defect classification result should be confirmed from the defects classified in the period up to 807.

このようにして、予め設定されたモニタリングルールにより、ADCシステムは、ステップ104で自動分類した欠陥で分類状態を確認すべき欠陥群を抽出し、ユーザに対して表示する。この処理は、例えば欠陥画像を撮像するレビュー装置で行っても、あるいはネットワーク接続されているコンピュータ端末で行っても、いずれでもかまわない。ユーザは、ADCシステムによって抽出された欠陥群に対して、マニュアル分類結果を与えることにより、ステップ106に示した自動分類結果チェックステップは実現される。ステップ106でチェックした分類結果は、そのまま分類基準の再設定に用いることが望ましい。   In this manner, the ADC system extracts a defect group whose classification state is to be confirmed from the defects automatically classified in step 104 according to the monitoring rule set in advance, and displays the defect group to the user. This processing may be performed by, for example, a review device that captures a defect image, or may be performed by a computer terminal connected to a network. The user gives a manual classification result to the defect group extracted by the ADC system, whereby the automatic classification result check step shown in step 106 is realized. The classification result checked in step 106 is desirably used as it is for resetting the classification standard.

しかし、ここで分類基準を変更した場合に問題となるのが、ステップ106で得られた教示データを用いることにより、真に分類性能が向上するかが保証できない点にある。すなわち、初期設定時に用いた教師欠陥とステップ106で確認した欠陥群についてはともに教師欠陥として用いて、ステップ107で新たな分類基準を生成するため、図2を用いて説明したシーケンスによりその分類基準を用いた場合の教師欠陥群における性能は確認できるが、一方、既にステップ104において分類し、かつステップ106でマニュアルで分類結果を与えた欠陥以外については、真の分類結果が未知であり、新たに設定した分類基準により性能が向上するのか低下するのかを確認することができない。実際、分類エンジンにおいては偏った教示を行うことによって、分類性能が低下するという現象が数多く報告されており、ステップ107で分類基準を生成するためには、分類性能が低下しないという保証が必要とされる。   However, when the classification criterion is changed here, a problem arises in that the use of the teaching data obtained in step 106 cannot guarantee that the classification performance is truly improved. That is, the teacher defect used at the time of initial setting and the defect group confirmed in step 106 are both used as teacher defects, and a new classification criterion is generated in step 107. Therefore, the classification criterion according to the sequence described with reference to FIG. Can be confirmed in the teacher defect group when using, but the true classification result is unknown for defects other than those already classified in step 104 and the classification results are manually given in step 106, and It is not possible to confirm whether the performance will be improved or degraded according to the classification criteria set in. In fact, many phenomena have been reported in the classification engine that the classifying performance is degraded by giving a biased teaching. In order to generate a classification criterion in step 107, it is necessary to guarantee that the classification performance is not degraded. Is done.

これに対する本発明による解決策を、図4に示す。図4は、図1のステップ107においてなされる処理である。ステップ401は、与えられた教師欠陥を用いて分類基準を設定するステップであり、ステップ402は、変更前と変更後の分類基準の両方によって、ステップ104で分類した欠陥すべて、あるいはその一部を分類し、その分類結果の差を抽出するステップである。ステップ402で分類結果に差があると抽出したもののみを確認することにより、ステップ402で比較した欠陥全てに対して、分類基準変更前と変更後の性能評価を行うことができる。   A solution according to the invention for this is shown in FIG. FIG. 4 shows the processing performed in step 107 of FIG. Step 401 is a step of setting a classification criterion using the given teacher defect. Step 402 is a step of reducing all or a part of the defects classified in step 104 by both the pre-change and post-change classification criteria. This is a step of classifying and extracting a difference between the classification results. By confirming only those extracted as having a difference in the classification result in step 402, it is possible to perform performance evaluation before and after the change of the classification standard for all the defects compared in step 402.

ステップ403では、ステップ402で分類し、その分類結果に差が発生したもののみに対して、マニュアルで真の分類結果を教示する。ステップ102で生成した初期分類基準が既に十分調整されていれば、通常の場合、分類結果で差が発生するものの数は少ない。ステップ403で入力された真の分類結果とステップ402で分類した結果を比較評価し、ステップ107で生成した分類基準による分類性能が、ステップ102で生成した初期分類基準よりも低下した場合には、再度ステップ403においてマニュアル分類された欠陥を教師欠陥群に追加し、ステップ401で再度分類基準を設定する。このようなシーケンスを組むことにより、教師欠陥を追加することにより性能が向上することが保証される分類基準を設定することができる。   In step 403, the classification is performed in step 402, and the true classification result is manually taught only for those having a difference in the classification result. If the initial classification criterion generated in step 102 has already been sufficiently adjusted, the number of cases in which there is a difference in the classification result is usually small. The true classification result input in step 403 and the result classified in step 402 are compared and evaluated. If the classification performance based on the classification criterion generated in step 107 is lower than the initial classification criterion generated in step 102, In step 403, the manually classified defect is added to the teacher defect group, and in step 401, the classification criterion is set again. By forming such a sequence, it is possible to set a classification criterion that is guaranteed to improve performance by adding a teacher defect.

ここまでは、分類性能を向上させるために教師欠陥を追加する方式のみについて述べてきたが、更に分類性能を向上させるためには、不要な教師欠陥を除去することが必要になる。教師欠陥画像は通常正常に撮像されているが、一部の画像においては、SEM画像のチャージングなどの画像の撮像状態により、欠陥領域自体が正常に抽出できない、あるいはチャージングにより、異常な明るさで検出されてしまう場合もある。このように撮像された欠陥を用いて分類基準を設定した場合には、本来分布しないはずの特徴量を用いて基準を再設定してしまうため、却って分類性能が低下してしまう。   So far, only the method of adding a teacher defect to improve the classification performance has been described. However, in order to further improve the classification performance, it is necessary to remove unnecessary teacher defects. The teacher defect image is normally captured normally, but in some images, the defective area itself cannot be properly extracted depending on the image capturing state such as charging of the SEM image, or abnormal brightness due to charging. In some cases, it is detected. When the classification criterion is set using the defects imaged in this way, the criterion is reset using the feature amounts that should not be originally distributed, so that the classification performance is rather deteriorated.

そこで、分類性能を低下させる教師データを抽出することが必要になる。この1実施シーケンスを、図5を用いて説明する。まず、ステップ501において、要否を判定する欠陥を教師欠陥群より1つ指定する。次に、ステップ502では、ステップ501において指定された欠陥を除く、教師欠陥をN個のグループに分割する。ここで、Nは教師欠陥数以下の数であるが、例えば20程度に分割しておいてもよい。ここで、各グループ内にできるだけ各欠陥クラスに属する欠陥の数が等しくなるように分割する。   Therefore, it is necessary to extract teacher data that lowers the classification performance. This one execution sequence will be described with reference to FIG. First, in step 501, one defect for which necessity is determined is designated from the teacher defect group. Next, in step 502, the teacher defect except for the defect designated in step 501 is divided into N groups. Here, N is equal to or less than the number of teacher defects, but may be divided into, for example, about 20. Here, each group is divided such that the number of defects belonging to each defect class is as equal as possible.

ステップ503では、この中の1グループを選択し、選択されなかったグループに属する欠陥より分類基準を算出し、ステップ504において、ステップ503で選択されたグループに属する欠陥を分類する。ステップ503とステップ504を選択するグループを変えながらN回実施すると、全教師欠陥の分類結果を得ることができる。また、ステップ505では、真の分類結果が既知である、教師欠陥以外の欠陥を分類する。ステップ504とステップ505において得られた分類結果は、真の分類結果と比較され、ステップ506において、ステップ501で指定した教師欠陥を除いた後の分類性能と除く前の分類性能との比較がなされる。ステップ506において、教師欠陥より除くことにより性能が向上すると判断された場合には、教師欠陥より削除するほうが良い欠陥という候補になる。   In step 503, one of the groups is selected, a classification criterion is calculated from the defects belonging to the non-selected group, and in step 504, the defects belonging to the group selected in step 503 are classified. If step 503 and step 504 are performed N times while changing the group to be selected, a classification result of all teacher defects can be obtained. In step 505, defects other than teacher defects for which true classification results are known are classified. The classification results obtained in steps 504 and 505 are compared with the true classification results, and in step 506, the classification performance after removing the teacher defect specified in step 501 is compared with the classification performance before the removal. You. In step 506, when it is determined that the performance is improved by removing the defect from the teacher defect, the defect is a candidate that is better to be deleted than the teacher defect.

なお、分類性能の向上を確認する方法としては、各分類クラスの正解率を比較する方法、総合性能で比較する方法、およびこれを組み合わせた方法がある。この両比較で、性能が向上した場合には、必ず削除すべき欠陥、一方のみで性能が低下した場合にはどちらとも言えない欠陥、両方で低下した場合には教示欠陥として必須な欠陥ということになる。   In addition, as a method of confirming the improvement of the classification performance, there are a method of comparing the accuracy rate of each classification class, a method of comparing the total performance, and a method of combining these. In both comparisons, if the performance is improved, it is a defect that must be deleted, if only one of the performances is degraded, it can not be said either, and if both are degraded, it is an essential defect as a teaching defect. become.

ステップ501からステップ506のシーケンスを、ステップ501で選択する教師欠陥を変更しながら行うことにより、不要な教師データを抽出していく。   By performing the sequence of steps 501 to 506 while changing the teacher defect selected in step 501, unnecessary teacher data is extracted.

次に、ステップ507において、ステップ506における比較で性能の向上が著しい順に順位付けがされ、ステップ508において、その上位から1つづつ教師欠陥群より削除し、ステップ509において、残った教師欠陥群より分類基準が設定される。   Next, in step 507, the rankings are ranked in the order of remarkable improvement in the performance in the comparison in step 506, and in step 508, the teacher defect groups are deleted one by one from the top, and in step 509, the remaining teacher defect groups are deleted. Classification criteria are set.

ステップ510は、ステップ509で設定された分類基準により分類するステップであり、内部でステップ502〜ステップ505で述べた処理が実施される。   Step 510 is a step of performing classification based on the classification criteria set in step 509, and internally performs the processing described in steps 502 to 505.

次いで、ステップ511において、分類された結果と真の分類とが比較され、性能の向上が認められた場合は、再びステップ508の処理を行う。一方、性能が逆に向上しなかった場合には、ステップ512において教師欠陥群より最後に除いた教師欠陥を再び教師欠陥に戻し、再びステップ508に戻り、その次の欠陥を評価する。   Next, in step 511, the classified result is compared with the true classification, and if an improvement in performance is recognized, the processing in step 508 is performed again. On the other hand, if the performance does not improve, the teacher defect which has been finally removed from the teacher defect group in step 512 is returned to the teacher defect, and the process returns to step 508 to evaluate the next defect.

図5で説明したシーケンスは、特に少数の教師欠陥を追加するかどうかの判定で、極めて重要な処理になる。少数の教師欠陥を追加する場合には、必ずしも、追加しようとする教師欠陥群の持つ特徴量分布がその欠陥クラスがもつ特徴量分布と一致しない傾向が強いためである。このため、図4に示したシーケンスのステップ401あるいはステップ403において、図5に示したシーケンスを組み込むことが、最良の分類基準を設定する上で重要である。   The sequence described with reference to FIG. 5 is an extremely important process in determining whether to add a small number of teacher defects. This is because, when a small number of teacher defects are added, the feature amount distribution of the teacher defect group to be added does not necessarily match the feature amount distribution of the defect class. Therefore, incorporating the sequence shown in FIG. 5 in step 401 or step 403 of the sequence shown in FIG. 4 is important for setting the best classification criterion.

ここで、図5に示したシーケンスは、総合的な性能を向上させることを保証する方式ではあるのだが、一方、ユーザにとっては総合的な性能は多少低下しても、必ず分類したい極めて重要な欠陥というものが存在し、この特殊なケースの分類性能の向上についてはケアすることができない。このため、図5で示したシーケンスにより性能を向上するためには、教師欠陥群より削除する方が望ましいとされた欠陥をユーザが明確にわかるように表示し、ユーザがその確認を行えるようにすることと、各欠陥毎に削除したときと削除しない場合の性能の比較が行えるようにすることが望ましい。   Here, the sequence shown in FIG. 5 is a method that guarantees that the overall performance is improved, but on the other hand, even if the overall performance is slightly reduced for the user, it is extremely important to classify it. Defects exist and care cannot be taken to improve the classification performance of this special case. For this reason, in order to improve the performance by the sequence shown in FIG. 5, it is displayed that the user can clearly see the defect that is desirably deleted from the teacher defect group so that the user can confirm the defect. It is desirable to be able to compare the performance when deleting each defect and when deleting each defect.

さて、分類基準を設定する方法に関しては、教示形の分類器の場合には、特許文献2にその分類基準の設定方法が記述されている。一方、特許文献3に説明されているような、半導体の知見が予めルールロジックで示されている分類器のように、第1層の分類器とその下層の分類器の2つで構成されている場合には、第1層の分類基準の設定には、マニュアルでパラメータを設定することが従来要求されていた。下層の分類器の分類結果に教示したとしても、必ずしも下層の分類器と第1層の分類器が1:1に対応していないため、第1層のルールロジックで用いられる判定式で期待される分類結果を得ることができないためである。   Now, with respect to a method of setting a classification criterion, in the case of a teaching-type classifier, Patent Document 2 describes a method of setting the classification criterion. On the other hand, as described in Patent Document 3, a classifier of the first layer and a classifier of the lower layer, such as a classifier in which knowledge of a semiconductor is shown in advance by rule logic, are configured. In such a case, it has been conventionally required to manually set parameters for setting the classification criteria of the first layer. Even if the classifier of the lower layer is taught, the classifier of the lower layer and the classifier of the first layer do not necessarily correspond to 1: 1. This is because a classification result cannot be obtained.

この課題を解決するために、本発明による手法では、上層の分類器、すなわち、分類基準を設定するユーザにとっては中間的な分類結果に対しても、マニュアルで分類結果を与えることによりこの課題に対応する。図6に、この1例を示す。601は分類基準を設定するためのGUI(Graphical User Interface)であり、602は下層の欠陥のクラスを示すタグである。603は中間層の欠陥クラスを示すタグになっている。任意の欠陥が下層の欠陥クラスCB(i)に分類されるには、その欠陥が中間層のクラスCM(j)に分類されることが条件である場合には、GUI上でCB(i)に対応する602のタグとCM(j)に対応する603のタグがリンクされている。   In order to solve this problem, the method according to the present invention solves this problem by manually giving a classification result even to an intermediate classification result for an upper classifier, that is, a user who sets classification criteria. Corresponding. FIG. 6 shows an example of this. Reference numeral 601 denotes a GUI (Graphical User Interface) for setting a classification criterion, and reference numeral 602 denotes a tag indicating a class of a defect in a lower layer. A tag 603 indicates a defect class of the intermediate layer. In order to classify an arbitrary defect into the defect class CB (i) in the lower layer, provided that the defect is classified into the class CM (j) in the intermediate layer, CB (i) is displayed on the GUI. Are linked with the tag 602 corresponding to CM (j).

604のエリアには、欠陥のサムネイル画像605が表示されている。GUI601は、マウスポインターでユーザが入力指示できるようになっている。ユーザがタグ602をポインターで指定すると、エリア604には、タグ602で示された欠陥クラスに属する欠陥のサムネイル画像605が表示される。エリア604に表示されている任意のサムネイル画像605を、一般にGUIにおいて行われているドラッグ&ドロップの手法により、いずれかのタグ603に移動させることにより、下層の分類における真の分類結果と中間層の分類における真の分類結果の両方を、同時に指定することが可能である。この操作を全ての欠陥に対して行うことにより、全欠陥に対して中間層と下層それぞれの分類されるべき結果が与えられることになる。   In the area 604, a thumbnail image 605 of the defect is displayed. The GUI 601 allows a user to input and instruct with a mouse pointer. When the user designates the tag 602 with a pointer, a thumbnail image 605 of a defect belonging to the defect class indicated by the tag 602 is displayed in the area 604. By moving an arbitrary thumbnail image 605 displayed in the area 604 to one of the tags 603 by a drag-and-drop method generally performed in a GUI, the true classification result in the lower layer classification and the intermediate layer It is possible to specify both of the true classification results in the classification at the same time. By performing this operation on all the defects, the results to be classified into the intermediate layer and the lower layer are given to all the defects.

さて、図6を用いて、ユーザが、中間層と下層の真の分類結果を、ともに教示する方法について述べたが、中間層の分類されるべき結果を与えることは、操作を複雑化してしまい、ユーザの使い勝手は良好とはいえない。ユーザ負担を最小にして分類基準を設定するには、ユーザに下層の分類のみの分類基準を設定させるようにすることが望ましい。従来知られている自動分類方式において、多層構造をもっているものとしては、例えばバックプロパゲーション形のニューラルネットワークが知られており、この方式では、下層の最終的な分類における分類の正解を与えるのみで、中間層には正解を教示することなく、下層、中間層の分類基準を設定することが可能であった。しかし、この方式では、多数の教示データを与えなければ、最適な分類基準を設定することが不可能であり、ユーザもその中間層の結果を確認したとしても、適正な分類基準が設定されているのか判断することが不可能であった。このため、従来のバックプロパゲーションに代表されるニューラルネットの方式を適用することは、ユーザが必要なステップごとに分類基準を設定する必要があるような、半導体欠陥分類のような適用対象においては実用化が困難であった。   Now, with reference to FIG. 6, the method in which the user teaches the true classification result of the intermediate layer and the lower layer together has been described. However, providing the result to be classified of the intermediate layer complicates the operation. However, user convenience is not good. In order to set the classification criterion while minimizing the burden on the user, it is desirable to allow the user to set the classification criterion only for the lower-layer classification. In the conventionally known automatic classification method, for example, a neural network of a backpropagation type is known as having a multilayer structure, and in this method, only a correct answer of the classification in the final classification of the lower layer is given. It was possible to set the classification criteria for the lower layer and the intermediate layer without teaching the correct answer to the intermediate layer. However, in this method, it is impossible to set an optimal classification standard unless a large number of teaching data are given, and even if the user confirms the result of the intermediate layer, an appropriate classification standard is set. It was impossible to determine if they were. For this reason, applying the conventional neural network method represented by the conventional back propagation is not suitable for applications such as semiconductor defect classification in which a user needs to set a classification criterion for each necessary step. Practical application was difficult.

これを解決するため、特許文献3に記述されているように、中間層の分類としてはルール形のものを用いることが一般的になってきている。この方式では、中間層の判定は、例えば特許文献2に示されるように論理式で示される場合が多く、たとえば同公報に記述されている凹、凸、平を分離する基準として、あらかじめルールより定められている1つ、あるいは少数の特徴量のみを用いた判別式を設定し直すことになる。すなわち、従来技術のバックプロパゲーション形のニューラルネットワークが中間層として各中間層の結果と入力との間に特定の制限が存在しないのに対して、ルール形で中間層を算出するものでは、各中間層の算出結果と入力との関係の有無が既に決定されており、この制約により少ない数の教師欠陥より適正な分類基準を設定することが可能になる。   To solve this problem, as described in Patent Document 3, it is becoming common to use a rule type as a classification of an intermediate layer. In this method, the determination of the intermediate layer is often represented by a logical expression as shown in, for example, Patent Document 2, and for example, as a criterion for separating concave, convex, and flat described in the publication, A discriminant using only one determined or a small number of feature amounts is reset. That is, while the conventional backpropagation type neural network does not have a specific limitation as an intermediate layer between the result of each intermediate layer and the input, while the intermediate layer is calculated in the rule form, Presence or absence of the relationship between the calculation result of the intermediate layer and the input has already been determined, and this restriction makes it possible to set an appropriate classification criterion from a small number of teacher defects.

中間層の判別式を設定するにあたって困難になるのが、中間層の正解となる出力を得ることができない点である。この課題は中間層における判別式を変化させた場合の下層の分類正解率の変化を評価し、正解率がより大きくなるように判別式を設定することにより解決する。   The difficulty in setting the discriminant for the hidden layer is that it is not possible to obtain a correct output for the hidden layer. This problem is solved by evaluating the change in the classification correct rate of the lower layer when the discriminant in the intermediate layer is changed, and setting the discriminant so that the correct rate becomes larger.

真の下層の分類クラスがiである欠陥dの中間層の分類に用いる特徴量のベクトルをFm、下層の分類に用いる特徴量のベクトルをFbとおくと、中間層のクラスをjで表わした場合に、分類クラスiに対応する判別式は例えば、下記(数1)のようになる。
f(i)(Fm,Fb)
=maxj(f1(j)(Fm)f2(i,j)(Fb)) ……(数1)
この欠陥がクラスiに分類される必要条件は、任意のクラスkに対してf2(i,j)(Fb)>f2(k,j)(Fb)が成立する中間層のクラスjに分類されることである。そこで、f2(i,j)(Fb)>f2(k,j)(Fb)を満たさないクラスkが存在するクラスjに分類される場合に、コストがかかる評価式を評価し、このコストが最小になるように、中間層の判別式f1(j)(Fm)を設定することにより、中間層の分類基準を変更する。中間層の分類はルール形であるため、f1(j)(Fm)は、より具体的な例として、下記(数2)で示される。
When the feature vector used for classifying the intermediate layer of the defect d whose true lower layer classification class is i is Fm, and the feature vector used for the lower layer classification is Fb, the class of the intermediate layer is represented by j. In this case, the discriminant corresponding to the classification class i is, for example, as shown in (Equation 1) below.
f (i) (Fm, Fb)
= Maxj (f1 (j) (Fm) f2 (i, j) (Fb)) (Equation 1)
The necessary conditions for classifying this defect into class i are classified into class j of the intermediate layer where f2 (i, j) (Fb)> f2 (k, j) (Fb) holds for an arbitrary class k. Is Rukoto. Therefore, when the class k is classified into a class j in which a class k that does not satisfy f2 (i, j) (Fb)> f2 (k, j) (Fb) is evaluated, a costly evaluation expression is evaluated. The classification criterion of the intermediate layer is changed by setting the discriminant f1 (j) (Fm) of the intermediate layer so as to minimize it. Since the classification of the intermediate layer is of the rule type, f1 (j) (Fm) is expressed by the following (Equation 2) as a more specific example.

f1(j)(Fm)
=(Fm1>th1∩Fm2>th2)∪Fm3>th3……(数2)
このように変化させていくことにより、必ずしも最大の正解率を得ることはできないが、少なくとも正解率がはじめの状態よりも良好になるように論理式を変化させることが可能である。
f1 (j) (Fm)
= (Fm1>th1∩Fm2> th2) ∪Fm3> th3 (Equation 2)
By making such a change, it is not always possible to obtain the maximum correct answer rate, but it is possible to change the logical expression so that at least the correct answer rate becomes better than the initial state.

バックプロパゲーション形ニューラルネットワークなど従来知られている手法と異なり、本発明の手法での判別式の変更は、たとえば上記の(数2)で示された論理式の場合には3つの変数を変更するだけであるため、自由度が小さく、その分少ない教師欠陥より安定した性能を得ることができる。一方、予め得られている知見をもとにして論理式は組まれているため、一般的な学習ではきわめて難しい複雑な式を与えることも可能である利点がある。   Unlike a conventionally known method such as a back-propagation type neural network, the change of the discriminant in the method of the present invention involves, for example, changing three variables in the case of the logical expression shown in the above (Equation 2). Therefore, the degree of freedom is small, and more stable performance can be obtained than the teacher defect. On the other hand, since a logical expression is formed based on knowledge obtained in advance, there is an advantage that it is possible to give a complicated expression which is extremely difficult in general learning.

さて、ここまでは分類方法について述べてきたが、本発明の方式はさまざまな装置に実装可能であることはもちろんであり、その1つの例としては、半導体欠陥をレビューするレビューSEMが挙げられる。図7において、701は電子線源であり、702はコンデンサーレンズである。703と704はそれぞれX、Y方向の偏向手段であり、XY方向に電子線の照射する位置を制御する。偏向手段で偏向された電子線は705の対物レンズで集束され、707と708により構成されるXYステージ上に固定された観察対象である半導体ウェーハ707に照射する。観察対象に照射された電子により、観察対象では2次電子が発生し、これを724のExB偏向器を介して2次電子検出手段709で検出する。   Although the classification method has been described above, the method of the present invention can of course be implemented in various devices, and one example is a review SEM for reviewing semiconductor defects. In FIG. 7, reference numeral 701 denotes an electron beam source, and 702 denotes a condenser lens. Numerals 703 and 704 denote deflection means in the X and Y directions, respectively, which control the irradiation position of the electron beam in the XY direction. The electron beam deflected by the deflecting means is focused by an objective lens 705 and irradiates a semiconductor wafer 707 as an observation target fixed on an XY stage constituted by 707 and 708. Secondary electrons are generated in the observation target by the electrons applied to the observation target, and the secondary electrons are detected by the secondary electron detection means 709 via the 724 ExB deflector.

710と711は反射電子検出器であり、それぞれ異なる方向からの反射電子を検出する。716は検出した電子の画像化ユニットである。712、713、714はA/Dコンバータであり、それぞれ、709、710、711で検出した電子信号をデジタルデータに変換し、メモリ715にデジタルデータを格納する。703と704を制御することにより電子線の照射位置を2次元的に走査することにより、画像メモリ715には709で検出した2次電子の2次元画像、710で検出した反射電子の2次元画像、711で検出した反射電子画像を形成する。716のユニットに記憶された画像は721の画像処理ユニットにより処理され、欠陥の自動分類が行われる。717は欠陥の欠陥の位置特定ユニットであり、画像の中から欠陥の領域を算出する。   710 and 711 are backscattered electron detectors that detect backscattered electrons from different directions. Reference numeral 716 denotes a unit for imaging the detected electrons. A / D converters 712, 713, and 714 convert the electronic signals detected by 709, 710, and 711 into digital data, and store the digital data in the memory 715. By controlling 703 and 704 to scan the irradiation position of the electron beam two-dimensionally, a two-dimensional image of the secondary electrons detected at 709 and a two-dimensional image of the reflected electrons detected at 710 are stored in the image memory 715. , 711 are formed. The image stored in the unit 716 is processed by the image processing unit 721, and the defect is automatically classified. Reference numeral 717 denotes a defect position specifying unit for calculating a defect area from an image.

718は欠陥特徴抽出ユニットであり、画像メモリ715で形成された2次元欠陥画像より、欠陥の画像特徴量を抽出する。717で算出された欠陥領域の形状や欠陥領域内の明るさを、欠陥特徴量とする。717で抽出された画像特徴量と716で記憶した2次元欠陥画像は、2次記憶手段723に格納することを可能にする。720は分類基準設定手段であり、既に述べた分類基準の設定方法を実現する。719は分類手段であり、分類基準設定手段720で設定した分類基準を用いて、欠陥を分類する。分類手段719は、画像処理手段717で得られた画像特徴をリアルタイムに分類することも、2次記憶手段723に格納された欠陥を分類することも可能になっている。722はグラフィック端末であり、716で記憶した画像や721で分類した結果、あるいは720で設定した分類基準をユーザに対して表示する端末である。また、図6により説明したGUIもこの端末に表示させることが可能であり、これによりユーザはマニュアルで分類結果を教示することを可能にしている。更には図3により説明した教示欠陥数と分類正解率との関係もこれに表示させることが可能である。   A defect feature extraction unit 718 extracts a defect image feature amount from the two-dimensional defect image formed in the image memory 715. The shape of the defect area calculated in 717 and the brightness in the defect area are used as defect feature amounts. The image feature quantity extracted in 717 and the two-dimensional defect image stored in 716 can be stored in the secondary storage unit 723. Reference numeral 720 denotes a classification criterion setting unit that implements the classification criterion setting method described above. Reference numeral 719 denotes a classifying unit, which classifies defects using the classification standard set by the classification standard setting unit 720. The classifying unit 719 can classify the image features obtained by the image processing unit 717 in real time and classify defects stored in the secondary storage unit 723. Reference numeral 722 denotes a graphic terminal which displays the image stored in 716, the result of classification in 721, or the classification criteria set in 720 to the user. Further, the GUI described with reference to FIG. 6 can also be displayed on this terminal, so that the user can manually teach the classification result. Further, the relationship between the number of teaching defects and the classification accuracy rate described with reference to FIG. 3 can also be displayed here.

なおここでは、レビューSEMに実装した例について述べたが、本手法はもちろん光学のレビュー装置に実装することも、あるいは検査装置上に実装した欠陥自動分類器の手法としても適用できる。   Although an example in which the present invention is implemented in a review SEM has been described here, the present method can be applied to an optical review apparatus or an automatic defect classifier implemented in an inspection apparatus.

本発明の1実施例の基本シーケンスである。4 is a basic sequence according to one embodiment of the present invention. 本発明の1実施例における分類基準の設定シーケンス説明図である。FIG. 4 is an explanatory diagram of a classification criterion setting sequence according to an embodiment of the present invention. 本発明の分類基準設定シーケンスを実施した際に評価する分類基準の基本特性説明図である。It is a basic characteristic explanatory view of a classification standard evaluated when performing a classification standard setting sequence of the present invention. 本発明の1実施例における分類基準の変更シーケンスである。4 is a sequence of changing a classification criterion in one embodiment of the present invention. 本発明の1実施例における分類基準を設定する際に参照する欠陥を選択するシーケンスである。5 is a sequence for selecting a defect to be referred to when setting a classification criterion in one embodiment of the present invention. 本発明の1実施例における分類基準の教示画面である。It is a teaching screen of a classification standard in one example of the present invention. 本発明の方式をレビューSEMに実装した場合の実装方法説明図である。FIG. 4 is an explanatory diagram of a mounting method when the method of the present invention is mounted on a review SEM. 本発明の1実施形態による欠陥分類方法における、分類基準再設定タイミングの説明図である。FIG. 4 is an explanatory diagram of classification reference reset timing in the defect classification method according to one embodiment of the present invention.

符号の説明Explanation of reference numerals

201・・・分割数設定ステップ 202・・・教師欠陥の分割ステップ 203・・・分類基準の設定ステップ 204・・・分類基準に設定しなかった欠陥の分類ステップ 205・・・分類基準評価結果の表示ステップ 206・・・分類基準の設定ステップ
201: division number setting step 202: teacher defect division step 203: classification criterion setting step 204: defect classification step not set as a classification criterion 205: classification criterion evaluation result Display step 206: Step of setting classification criteria

Claims (11)

試料を撮像して検出した第1の欠陥群の画像を欠陥の分類クラスごとに分類するステップと、
該分類クラスごとに分類した前記第1の欠陥群の画像の情報を用いて分類基準を作成するステップと、
分類クラスが既知の前記試料上の第2の欠陥群の画像を該作成した分類基準に基いて分類するステップと、
該分類クラスが既知の第2の欠陥群の画像を前記分類基準に基いて分類した結果に基いて前記分類基準の分類正解率を求めるステップと、
該分類正解率のデータに基いて前記分類基準を修正するステップと
を備えたことを特徴とする欠陥分類方法。
Classifying an image of the first defect group detected by imaging the sample for each defect classification class;
Creating a classification criterion using information of the image of the first defect group classified for each classification class;
Classifying an image of a second defect group on the specimen whose classification class is known based on the created classification criterion;
Obtaining a classification correct rate of the classification criterion based on a result of classifying the image of the second defect group whose classification class is known based on the classification criterion;
Correcting the classification criterion based on the classification accuracy rate data.
前記分類基準を作成するステップにおいて、前記分類基準を、中間層と下層からなる多層構造の分類器を用いて設定し、前記中間層の分類器は論理式で分類を判定し、前記論理式は、該論理式を変化させたときに前記中間層の分類器と下層の分類器をもとにした総合的な分類の正解率が大きくなるように自動的に設定することを特徴とする請求項1記載の欠陥分類方法。   In the step of creating the classification criterion, the classification criterion is set using a classifier having a multilayer structure including an intermediate layer and a lower layer, and the classifier of the intermediate layer determines a classification by a logical expression, and the logical expression is Automatically changing the logical formula so that the accuracy of comprehensive classification based on the classifier of the intermediate layer and the classifier of the lower layer is increased. 1. The defect classification method according to 1. 前記分類基準の分類正解率を求めるステップで求めた分類正解率に関する情報を出力するステップを更に含むことを特徴とする請求項1記載の欠陥分類方法。   2. The defect classification method according to claim 1, further comprising the step of outputting information relating to the classification accuracy rate obtained in the step of obtaining the classification accuracy rate of the classification criterion. 前記分類基準を修正するステップにおいて修正された分類基準に基いて分類クラスが未知の前記試料上の欠陥を分類するステップを更に含むことを特徴とする請求項1記載の欠陥分類方法。   2. The defect classification method according to claim 1, further comprising the step of: classifying a defect on the sample whose classification class is unknown based on the modified classification criterion in the step of modifying the classification criterion. 前記分類クラスが未知の欠陥は、予め検査装置で検出されて、試料上の位置情報が既知の欠陥であることを特徴とする請求項4記載の欠陥分類方法。   5. The defect classification method according to claim 4, wherein the defect whose classification class is unknown is detected in advance by an inspection device, and the positional information on the sample is a known defect. 前記分類クラスが未知の欠陥を分類するステップにおいて分類した結果に基いて前記修正するステップにおいて修正した前記分類基準を再設定するステップを更に含むことを特徴とする請求項4記載の欠陥分類方法。   5. The defect classification method according to claim 4, further comprising the step of resetting the classification criterion corrected in the correcting step based on a result of the classification in the step of classifying the unknown defect. 試料上で検出された欠陥群を欠陥の分類クラスごとに分類して第1の教師データを作成するステップと、
該第1の教師データの情報を用いて分類基準を作成するステップと、
前記第1の教師データの一部を前記分類基準に基いて分類するステップと、
該分類基準に基いて分類した結果から該分類基準の分類性能を求めるステップと、
前記第1の教師データの中から前記分類性能を低下させる欠陥を前記第1の教師データから削除して第2の教師データを作成するステップと、および
該第2の教師データを用いて分類クラスが未知の欠陥を分類するステップと
を含むことを特徴とする欠陥分類方法。
Classifying a group of defects detected on the sample for each defect classification class to generate first teacher data;
Creating a classification criterion using the information of the first teacher data;
Classifying a part of the first teacher data based on the classification criteria;
Obtaining a classification performance of the classification criterion from the result of classification based on the classification criterion,
Creating a second teacher data by deleting from the first teacher data a defect that degrades the classification performance from the first teacher data; and a classification class using the second teacher data. Classifying unknown defects.
前記分類基準の分類性能を求めるステップにおいて、前記第1の教師データの一部について前記第1の教師データを作成するステップにおいて分類した結果に対する前記第1の教師データの一部を前記分類基準に基いて分類した結果の正解率に基いて分解性能を求めることを特徴とする請求項7記載の欠陥分類方法。   In the step of obtaining the classification performance of the classification criterion, a part of the first teacher data with respect to a result of the classification performed in the step of creating the first teacher data for a part of the first teacher data is defined as the classification criterion. 8. The defect classification method according to claim 7, wherein the decomposition performance is obtained based on the accuracy rate of the result of classification based on the classification. 前記第2の教師データを作成するステップは、前記第1の教師データの中から特定の欠陥を除外して新たな教師データを作成し、この新たな教師データの情報を用いて新たな分類基準を作成し、該新たな教師データに基いて前記第1の教師データ一部の欠陥を分類し、この分類した結果から前記新たな分類基準の分類性能を求め、この求めた前記新たな分類基準の分類性能を前記第1の教師データを用いて作成した分類基準の分類性能と比較することにより前記除外した特定の欠陥が前記第1の教師データを用いて作成した分類基準の分類性能を低下させる欠陥か否かを評価し、分類性能を低下させる欠陥と評価された場合には、前記新たなデータを第2の教師データとすることを特徴とする請求項7記載の欠陥分類方法。   The step of creating the second teacher data includes creating new teacher data by excluding a specific defect from the first teacher data, and using a new classification criterion by using information of the new teacher data. Is generated, a defect of a part of the first teacher data is classified based on the new teacher data, a classification performance of the new classification criterion is obtained from a result of the classification, and the obtained new classification criterion is obtained. By comparing the classification performance of the classification criterion created by using the first teacher data with the classification performance of the classification criterion created by using the first teacher data. 8. The defect classification method according to claim 7, wherein whether the defect is a defect to be classified is evaluated, and when the defect is evaluated as a defect that degrades classification performance, the new data is used as second teacher data. 欠陥の分類クラスが既知の教師データを用いて分類基準を作成し、
欠陥の分類クラスが既知のデータを前記分類基準に基いて分類し、
前記欠陥の分類クラスが既知のデータを前記分類基準に基いて分類した結果から該分類基準の分類性能を求め、
該求めた分類性能に基いて前記分類基準を修正する欠陥を分類する方法であって、
前記分類基準を作成するステップにおいて、前記分類基準を、上層と中間層、下層からなる多層構造の分類器を用いて設定し、前記中間層の分類器を、論理式で分類を判定し、前記論理式は、該論理式を変化させたときに前記下層の分類器による分類正解率が最も小さくなるように設定することを特徴とする欠陥分類方法。
Classification criteria are created using teacher data whose defect classification class is known,
Classification class of the defect classifies the known data based on the classification criteria,
The classification class of the defect determines the classification performance of the classification standard from the result of classifying the known data based on the classification standard,
A method of classifying a defect that corrects the classification criterion based on the obtained classification performance,
In the step of creating the classification criterion, the classification criterion is set using a classifier having a multilayer structure including an upper layer, an intermediate layer, and a lower layer, and the classifier of the intermediate layer is determined to be classified by a logical expression. A defect classification method, wherein a logical expression is set such that a classification correct rate by the lower classifier is minimized when the logical expression is changed.
前記分類基準の分類性能を求めるステップにおいて、前記欠陥の分類クラスが既知のデータを前記分類基準に基いて分類するステップで分類した結果の前記既知の分類クラスのデータに対する正解率に基いて分解性能を求めることを特徴とする請求項10記載の欠陥分類方法。   In the step of determining the classification performance of the classification criterion, the classification performance of the defect is determined based on the correct answer rate for the data of the known classification class as a result of the classification performed in the step of classifying the known data based on the classification standard. The defect classification method according to claim 10, wherein?
JP2004066542A 2003-03-12 2004-03-10 Defect classification method Expired - Lifetime JP4443270B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004066542A JP4443270B2 (en) 2003-03-12 2004-03-10 Defect classification method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003066581 2003-03-12
JP2004066542A JP4443270B2 (en) 2003-03-12 2004-03-10 Defect classification method

Publications (2)

Publication Number Publication Date
JP2004295879A true JP2004295879A (en) 2004-10-21
JP4443270B2 JP4443270B2 (en) 2010-03-31

Family

ID=33421589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004066542A Expired - Lifetime JP4443270B2 (en) 2003-03-12 2004-03-10 Defect classification method

Country Status (1)

Country Link
JP (1) JP4443270B2 (en)

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006226708A (en) * 2005-02-15 2006-08-31 Nagoya Electric Works Co Ltd Quality determination device, quality determination method and quality determination program
JP2007198968A (en) * 2006-01-27 2007-08-09 Hitachi High-Technologies Corp Image-classifying method and image-classifying apparatus
JP2007248198A (en) * 2006-03-15 2007-09-27 Sharp Corp Feature quantity extraction method of characteristic distribution, and classification method of characteristic distribution
JP2008082821A (en) * 2006-09-27 2008-04-10 Hitachi High-Technologies Corp Defect classification method, its device, and defect inspection device
JP2009250722A (en) * 2008-04-03 2009-10-29 Nippon Steel Corp Defect learning apparatus, defect learning method and computer program
JP2010054346A (en) * 2008-08-28 2010-03-11 Hitachi High-Technologies Corp Method and device for defect inspection
WO2011036846A1 (en) * 2009-09-28 2011-03-31 株式会社日立ハイテクノロジーズ Defect inspection device and defect inspection method
WO2011040223A1 (en) * 2009-09-30 2011-04-07 株式会社 日立ハイテクノロジーズ Surface-defect inspection device
JP2011122985A (en) * 2009-12-11 2011-06-23 Ricoh Co Ltd Printed material inspection apparatus, printed material inspection method, program and storage medium
JP2011254084A (en) * 2011-06-27 2011-12-15 Hitachi High-Technologies Corp Defect classifying method and apparatus of the same
WO2011161900A1 (en) * 2010-06-25 2011-12-29 日本電気通信システム株式会社 Information categorization system
CN102576045A (en) * 2009-07-01 2012-07-11 克拉-坦科股份有限公司 Monitoring of time-varying defect classification performance
JP2012181209A (en) * 2012-06-14 2012-09-20 Hitachi Ltd Defect classification method and apparatus therefor
KR20130118822A (en) * 2012-04-20 2013-10-30 어플라이드 머티리얼즈 이스라엘 리미티드 Classifier readiness and maintenance in automatic defect classification
WO2016182857A1 (en) * 2015-05-08 2016-11-17 Kla-Tencor Corporation Method and system for defect classification
WO2016194210A1 (en) * 2015-06-04 2016-12-08 株式会社日立ハイテクノロジーズ Defect image classification device and defect image classification method
JPWO2017017722A1 (en) * 2015-07-24 2018-05-24 オリンパス株式会社 Processing apparatus, processing method, and program
US10043264B2 (en) 2012-04-19 2018-08-07 Applied Materials Israel Ltd. Integration of automatic and manual defect classification
US10114368B2 (en) 2013-07-22 2018-10-30 Applied Materials Israel Ltd. Closed-loop automatic defect inspection and classification
WO2019065582A1 (en) * 2017-09-29 2019-04-04 富士フイルム株式会社 Image data discrimination system, image data discrimination program, image data discrimination method and imaging system
JP2020008904A (en) * 2018-07-02 2020-01-16 パナソニックIpマネジメント株式会社 Learning data collection apparatus, learning data collection system and learning data collection method
JP2021114171A (en) * 2020-01-20 2021-08-05 キヤノンメディカルシステムズ株式会社 Medical image processing apparatus, program, and medical image processing system
US11177111B2 (en) 2019-04-19 2021-11-16 Hitachi High-Tech Corporation Defect observation device
JP2022512292A (en) * 2018-12-20 2022-02-03 アプライド マテリアルズ イスラエル リミテッド Classification of defects in semiconductor samples

Cited By (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4610364B2 (en) * 2005-02-15 2011-01-12 名古屋電機工業株式会社 Pass / fail judgment device, pass / fail judgment method, and pass / fail judgment program
JP2006226708A (en) * 2005-02-15 2006-08-31 Nagoya Electric Works Co Ltd Quality determination device, quality determination method and quality determination program
JP2007198968A (en) * 2006-01-27 2007-08-09 Hitachi High-Technologies Corp Image-classifying method and image-classifying apparatus
JP2007248198A (en) * 2006-03-15 2007-09-27 Sharp Corp Feature quantity extraction method of characteristic distribution, and classification method of characteristic distribution
JP2008082821A (en) * 2006-09-27 2008-04-10 Hitachi High-Technologies Corp Defect classification method, its device, and defect inspection device
JP2009250722A (en) * 2008-04-03 2009-10-29 Nippon Steel Corp Defect learning apparatus, defect learning method and computer program
JP2010054346A (en) * 2008-08-28 2010-03-11 Hitachi High-Technologies Corp Method and device for defect inspection
CN102576045A (en) * 2009-07-01 2012-07-11 克拉-坦科股份有限公司 Monitoring of time-varying defect classification performance
WO2011036846A1 (en) * 2009-09-28 2011-03-31 株式会社日立ハイテクノロジーズ Defect inspection device and defect inspection method
JP2011089976A (en) * 2009-09-28 2011-05-06 Hitachi High-Technologies Corp Defect inspection device and defect inspection method
US9075026B2 (en) 2009-09-28 2015-07-07 Hitachi High-Technologies Corporation Defect inspection device and defect inspection method
WO2011040223A1 (en) * 2009-09-30 2011-04-07 株式会社 日立ハイテクノロジーズ Surface-defect inspection device
US8547546B2 (en) 2009-09-30 2013-10-01 Hitachi High-Technologies Corporation Surface-defect inspection device
US9019490B2 (en) 2009-09-30 2015-04-28 Hitachi High-Technologies Corporation Surface-defect inspection device
JP2011122985A (en) * 2009-12-11 2011-06-23 Ricoh Co Ltd Printed material inspection apparatus, printed material inspection method, program and storage medium
WO2011161900A1 (en) * 2010-06-25 2011-12-29 日本電気通信システム株式会社 Information categorization system
JP5483506B2 (en) * 2010-06-25 2014-05-07 日本電気通信システム株式会社 Information classification system
US9009160B2 (en) 2010-06-25 2015-04-14 Nec Communication Systems, Ltd. Information classification system
JP2011254084A (en) * 2011-06-27 2011-12-15 Hitachi High-Technologies Corp Defect classifying method and apparatus of the same
US10043264B2 (en) 2012-04-19 2018-08-07 Applied Materials Israel Ltd. Integration of automatic and manual defect classification
KR20130118822A (en) * 2012-04-20 2013-10-30 어플라이드 머티리얼즈 이스라엘 리미티드 Classifier readiness and maintenance in automatic defect classification
JP2013225313A (en) * 2012-04-20 2013-10-31 Applied Materials Israel Ltd Preparation and maintenance of classifier in automatic defect classification
KR102092054B1 (en) * 2012-04-20 2020-03-24 어플라이드 머티리얼즈 이스라엘 리미티드 Classifier readiness and maintenance in automatic defect classification
JP2012181209A (en) * 2012-06-14 2012-09-20 Hitachi Ltd Defect classification method and apparatus therefor
US10901402B2 (en) 2013-07-22 2021-01-26 Applied Materials Israel, Ltd. Closed-loop automatic defect inspection and classification
US10114368B2 (en) 2013-07-22 2018-10-30 Applied Materials Israel Ltd. Closed-loop automatic defect inspection and classification
WO2016182857A1 (en) * 2015-05-08 2016-11-17 Kla-Tencor Corporation Method and system for defect classification
US10482590B2 (en) 2015-05-08 2019-11-19 Kla-Tencor Corporation Method and system for defect classification
US9898811B2 (en) 2015-05-08 2018-02-20 Kla-Tencor Corporation Method and system for defect classification
KR20180005218A (en) * 2015-05-08 2018-01-15 케이엘에이-텐코 코포레이션 Method and system for defect classification
KR102513713B1 (en) 2015-05-08 2023-03-23 케이엘에이 코포레이션 Methods and systems for fault classification
KR20170141255A (en) * 2015-06-04 2017-12-22 가부시키가이샤 히다치 하이테크놀로지즈 Defect image classification apparatus and defect image classification method
KR101978995B1 (en) 2015-06-04 2019-05-16 가부시키가이샤 히다치 하이테크놀로지즈 Defect image classification apparatus and defect image classification method
WO2016194210A1 (en) * 2015-06-04 2016-12-08 株式会社日立ハイテクノロジーズ Defect image classification device and defect image classification method
US10395092B2 (en) 2015-07-24 2019-08-27 Olympus Corporation Processing device, processing method, and information storage device
JPWO2017017722A1 (en) * 2015-07-24 2018-05-24 オリンパス株式会社 Processing apparatus, processing method, and program
WO2019065582A1 (en) * 2017-09-29 2019-04-04 富士フイルム株式会社 Image data discrimination system, image data discrimination program, image data discrimination method and imaging system
US11579904B2 (en) 2018-07-02 2023-02-14 Panasonic Intellectual Property Management Co., Ltd. Learning data collection device, learning data collection system, and learning data collection method
JP7122625B2 (en) 2018-07-02 2022-08-22 パナソニックIpマネジメント株式会社 LEARNING DATA COLLECTION DEVICE, LEARNING DATA COLLECTION SYSTEM, AND LEARNING DATA COLLECTION METHOD
JP2020008904A (en) * 2018-07-02 2020-01-16 パナソニックIpマネジメント株式会社 Learning data collection apparatus, learning data collection system and learning data collection method
JP2022512292A (en) * 2018-12-20 2022-02-03 アプライド マテリアルズ イスラエル リミテッド Classification of defects in semiconductor samples
JP7254921B2 (en) 2018-12-20 2023-04-10 アプライド マテリアルズ イスラエル リミテッド Classification of defects in semiconductor specimens
US11177111B2 (en) 2019-04-19 2021-11-16 Hitachi High-Tech Corporation Defect observation device
JP2021114171A (en) * 2020-01-20 2021-08-05 キヤノンメディカルシステムズ株式会社 Medical image processing apparatus, program, and medical image processing system
JP7387457B2 (en) 2020-01-20 2023-11-28 キヤノンメディカルシステムズ株式会社 Medical image processing devices, programs, and medical image processing systems

Also Published As

Publication number Publication date
JP4443270B2 (en) 2010-03-31

Similar Documents

Publication Publication Date Title
JP4443270B2 (en) Defect classification method
US7756320B2 (en) Defect classification using a logical equation for high stage classification
KR101361374B1 (en) Defect observation method and defect observation device
US8090190B2 (en) Method and apparatus for reviewing defects
TWI512684B (en) Defect observation method and defect observation device
US8045789B2 (en) Method and apparatus for inspecting defect of pattern formed on semiconductor device
US7873202B2 (en) Method and apparatus for reviewing defects of semiconductor device
US8355559B2 (en) Method and apparatus for reviewing defects
JP5957378B2 (en) Defect observation method and defect observation apparatus
US9311697B2 (en) Inspection method and device therefor
CN113169089B (en) Optical Mode Selection for Multimode Semiconductor Inspection
KR101202527B1 (en) Defect observation device and defect observation method
US20130294680A1 (en) Image classification method and image classification apparatus
JP5103058B2 (en) Defect observation apparatus and defect observation method
WO2013153891A1 (en) Charged particle beam apparatus
JP2001156135A (en) Method and device for sorting defective image and manufacturing method of semiconductor device using them
US8121397B2 (en) Method and its apparatus for reviewing defects
KR20130108413A (en) Charged particle beam apparatus
US11321633B2 (en) Method of classifying defects in a specimen semiconductor examination and system thereof
JP2017003305A (en) Defect image classification device

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060509

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091222

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100112

R150 Certificate of patent or registration of utility model

Ref document number: 4443270

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term