JP7286290B2 - 半導体試料の欠陥を分類する方法およびそのシステム - Google Patents

半導体試料の欠陥を分類する方法およびそのシステム Download PDF

Info

Publication number
JP7286290B2
JP7286290B2 JP2018183321A JP2018183321A JP7286290B2 JP 7286290 B2 JP7286290 B2 JP 7286290B2 JP 2018183321 A JP2018183321 A JP 2018183321A JP 2018183321 A JP2018183321 A JP 2018183321A JP 7286290 B2 JP7286290 B2 JP 7286290B2
Authority
JP
Japan
Prior art keywords
exclusion
class
classification
defects
cnd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018183321A
Other languages
English (en)
Other versions
JP2019075553A (ja
Inventor
アスバグ アッサフ
シャウビ オハド
サフチェンコ キリル
ガン-オール シラン
コーエン ボアズ
ゾハール ジーヴ
Original Assignee
アプライド マテリアルズ イスラエル リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アプライド マテリアルズ イスラエル リミテッド filed Critical アプライド マテリアルズ イスラエル リミテッド
Publication of JP2019075553A publication Critical patent/JP2019075553A/ja
Application granted granted Critical
Publication of JP7286290B2 publication Critical patent/JP7286290B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L21/00Processes or apparatus adapted for the manufacture or treatment of semiconductor or solid state devices or of parts thereof
    • H01L21/67Apparatus specially adapted for handling semiconductor or electric solid state devices during manufacture or treatment thereof; Apparatus specially adapted for handling wafers during manufacture or treatment of semiconductor or electric solid state devices or components ; Apparatus not specifically provided for elsewhere
    • H01L21/67005Apparatus not specifically provided for elsewhere
    • H01L21/67242Apparatus for monitoring, sorting or marking
    • H01L21/67271Sorting devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/24317Piecewise classification, i.e. whereby each classification requires several discriminant rules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L21/00Processes or apparatus adapted for the manufacture or treatment of semiconductor or solid state devices or of parts thereof
    • H01L21/67Apparatus specially adapted for handling semiconductor or electric solid state devices during manufacture or treatment thereof; Apparatus specially adapted for handling wafers during manufacture or treatment of semiconductor or electric solid state devices or components ; Apparatus not specifically provided for elsewhere
    • H01L21/67005Apparatus not specifically provided for elsewhere
    • H01L21/67242Apparatus for monitoring, sorting or marking
    • H01L21/67288Monitoring of warpage, curvature, damage, defects or the like
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L22/00Testing or measuring during manufacture or treatment; Reliability measurements, i.e. testing of parts without further processing to modify the parts as such; Structural arrangements therefor
    • H01L22/10Measuring as part of the manufacturing process
    • H01L22/12Measuring as part of the manufacturing process for structural parameters, e.g. thickness, line width, refractive index, temperature, warp, bond strength, defects, optical inspection, electrical measurement of structural dimensions, metallurgic measurement of diffusions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30148Semiconductor; IC; Wafer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Computer Hardware Design (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Testing Or Measuring Of Semiconductors Or The Like (AREA)
  • Sampling And Sample Adjustment (AREA)

Description

本開示の主題は、一般に、試料の試験の分野に関し、より詳細には、自動欠陥分類を可能にする方法およびシステムに関する。
製造されたデバイスの超大規模集積化に関連する高い密度および性能への現在の要求は、サブミクロンの特徴と、トランジスタおよび回路速度の増加と、信頼性の改善とを必要とする。そのような要求は、高い精度および均一性をもつデバイス特徴の形成を必要とし、それはひいては、依然として半導体試料の形態である間のデバイスの頻繁で詳細な試験を含めて、製造プロセスを注意深くモニタすることを必要とする。
本明細書で使用する「試料」という用語は、半導体集積回路、磁気ヘッド、フラットパネルディスプレイ、および他の半導体製造物品を生産するために使用されるあらゆる種類のウエハ、マスク、他の構造、それらの組合せおよび/または一部を網羅するように拡張的に解釈されるべきである。
本明細書で使用する「欠陥」という用語は、試料上にまたは試料内に形成されたあらゆる種類の異常なまたは望ましくない特徴を網羅するように拡張的に解釈されるべきである。
試料の複雑な生産プロセスはエラーフリーではなく、そのようなエラーは生産されたデバイスに障害を引き起こすことがある。障害には、デバイスの動作を損なうことがある欠陥と、欠陥である可能性があるが、生産されたデバイスの損害または動作不良をもたらさない有害物とが含まれ得る。非限定の例として、欠陥は、原料の不具合、機械的、電気的、もしくは光学的なエラー、人的エラー、または他のものに起因して生産プロセスの間に引き起こされることがある。さらに、欠陥は、ウエハの若干の変形を引き起こすことがある、1つまたは複数の生産段階の後の試験プロセス中に生じるウエハの温度変化などの時空要因によって引き起こされることがある。試験プロセスは、さらに、例えば、試験装置またはプロセスにおける光学的、機械的、または電気的問題に起因してさらなる疑わしいエラーを導入し、それにより、不完全な捕捉が行われることがある。そのようなエラーは、欠陥を含むように見えることがある疑似陽性調査結果を生成することがあるが、実際の欠陥はその区域に存在しない。
多くの用途において、欠陥のタイプまたはクラスは重要である。例えば、粒子、掻き傷、隆起などの欠陥をいくつかのクラスのうちの1つに分類することができる。
特に記載のない限り、本明細書で使用する「試験」という用語は、対象物の欠陥のあらゆる種類の検出および/また分類を網羅するように拡張的に解釈されるべきである。試験は、試験されるべき対象物の生産の間または生産の後に非破壊試験ツールを使用することによって行われる。非限定の例として、試験プロセスは、1つまたは複数の試験ツールを使用して、対象物またはその一部に関して行われる走査(単一の走査または多数の走査)、サンプリング、レビュー、測定、分類、および/または他の操作を含むことができる。同様に、試験は、試験されるべき対象物の生産の前に行うことができ、例えば試験方策の生成を含むことができる。特に記載のない限り、本明細書で使用する「試験」という用語またはその派生語は、検査される区域のサイズ、走査の速度もしくは解像度、または試験ツールのタイプに関して限定されないことに留意されたい。多様な非破壊試験ツールは、非限定の例として、光学ツール、走査型電子顕微鏡、原子間力顕微鏡などを含む。
試験プロセスは、複数の試験ステップを含むことができる。生産プロセスの間、試験ステップは、例えばいくつかの層の生産または処理の後などに多数回実行することができる。追加としてまたは代替として、各試験ステップは、例えば、異なる試料場所に対してまたは異なる試験設定で同じ試料場所に対して多数回繰り返すことができる。
非限定の例として、ランタイム試験は、2ステップの手順、例えば、試料の検査と、それに続くサンプリングされた欠陥のレビューとを使用することができる。検査ステップの間、試料またはその一部(例えば、対象の区域、ホットスポットなど)の表面は、一般に、比較的高速および/または低解像度で走査される。捕捉された検査画像を分析して、欠陥を検出し、その場所および他の検査属性を取得する。レビューステップにおいて、検査フェーズ中に検出された欠陥の少なくとも一部の画像が、一般に、比較的低速および/または高解像度で捕捉され、それによって、欠陥の少なくとも一部の分類およびオプションとして他の分析が可能になる。ある場合には、両方のフェーズは同じ検査ツールで実施することができ、他の場合には、これらの2つのフェーズは異なる検査ツールで実施される。
本開示の主題のある態様によれば、試料の欠陥を複数のクラスに分類することができるシステムが提供され、システムは処理およびメモリ回路(PMC)を含み、処理およびメモリ回路(PMC)は、複数のクラスのクラスごとに別々に定義された品質要件を示すデータを取得することと、異なる優先度をもつ3つ以上の分類グループの中の分類グループへの複数のクラスの各クラスの割当てを示すデータを取得することとを行うように構成される。さらに、システムは、訓練中に、複数の予め分類された訓練欠陥およびその属性値を含む訓練データを取得することと、初期に分類された訓練欠陥をもたらすために複数のクラスのうちのクラスへの複数の訓練欠陥の初期自動分類を行うことと、複数のクラスのクラスごとに定義されたクラスごとの品質要件を満たしながら自動分類の最も高いあり得る寄与率に対応する最適な使用点(working point)を取得するために、初期に分類された訓練欠陥を処理することと、最適な使用点に対応する信頼度閾値をもつ分類ルールを生成することであり、信頼度閾値が、優先順位付き排除ビンに対応し、少なくとも「決定することができない(CND)」排除ビンが3つ以上の分類グループに対応する、生成することとを行うように構成される。システムは、試料の欠陥を分類するとき、生成された分類ルールを適用するようにさらに構成される。
非限定の例として、各クラスは、以下の分類グループ、すなわち、最も高い優先度をもつ分類グループである「注目するキー欠陥(KDOI)」、「注目する欠陥(DOI)」、および最も低い優先度をもつ分類グループである「疑似」のうちの1つに割り当てることができる。それに応じて、優先順位付き排除ビンは、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「不明(UNK)」排除ビンからなることができ、CND排除ビンの優先度は、それぞれの分類グループの優先度に対応する。
別の非限定の例として、各マジョリティクラスは、以下の分類グループ、すなわち、「KDOI」、「DOI」、および「疑似」のうちの1つに割り当てることができ、一方、マイノリティクラスは「新規(Novelty)」分類グループに割り当てることができ、グループの優先度は、以下の順序、すなわち、「KDOI」>「新規」>「DOI」>「疑似」で構成することができる。したがって、優先順位付き排除ビンは、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「新規」UNK排除ビンからなることができ、すべての排除ビンの優先度はそれぞれの分類グループの優先度に対応する。
本開示の主題の別の態様によれば、試料の欠陥を複数のクラスに自動分類する方法が提供される。この方法は、処理およびメモリ回路(PMC)によって、複数のクラスのうちのクラスごとに別々に定義された品質要件を示すデータを取得するステップと、PMCによって、異なる優先度をもつ3つ以上の分類グループの中の分類グループへの複数のクラスの各クラスの割当てを示すデータを取得するステップとを含む。この方法は、訓練中に、PMCによって、複数の予め分類された訓練欠陥およびその属性値を含む訓練データを取得するステップと、PMCによって、初期に分類された訓練欠陥をもたらすために複数のクラスのうちのクラスへの複数の訓練欠陥の初期自動分類を行うステップと、PMCによって、複数のクラスのクラスごとに定義されたクラスごとの品質要件を満たしながら自動分類の最も高いあり得る寄与率に対応する最適な使用点を取得するために、初期に分類された訓練欠陥を処理するステップと、PMCによって、最適な使用点に対応する信頼度閾値をもつ分類ルールを生成するステップであり、信頼度閾値が、優先順位付き排除ビンに対応し、少なくとも「決定することができない(CND)」排除ビンが3つ以上の分類グループに対応する、生成するステップとをさらに含む。この方法は、試料の欠陥を分類するとき、PMCによって、生成された分類ルールを適用するステップをさらに含む。
さらなる態様により、およびオプションとして本開示の主題の他の態様と組み合わせて、最適な使用点を取得するために初期に分類された訓練欠陥を処理するステップは、PMCによって、マジョリティクラスごとに、正当なクラス使用点を取得するステップであり、各正当なクラス使用点が、それぞれのクラスに対して定義された品質要件を満たし、優先順位付き排除ビンに対応する信頼度閾値によって特性評価される、取得するステップと、PMCによって、最適な使用点を取得するために正当なクラス使用点を処理するステップとを含むことができる。正当なクラス使用点を取得するステップは、訓練欠陥の少なくとも一部を、優先順位付き排除ビンにわたって分配するステップを含むことができ、ある欠陥に対して排除ビンを選択するステップは、それぞれの分類グループの相対的優先度および排除ビンの優先度に応じて、予め定義されたルールに従って行われる。
さらなる態様により、およびオプションとして本開示の主題の他の態様と組み合わせて、同じ分類グループに割り当てられたいくつかのクラスを一緒に結合することができ、品質要件は、結合クラス(bound class)に対して、単一クラスと同様に規定することができる。
さらなる態様により、およびオプションとして本開示の主題の他の態様と組み合わせて、所与のクラスに対して定義された品質要件は、所与のクラスの正しく分類された欠陥と、所与のクラスに属し、所与のクラスの抽出率のためにカウントするときに選択される1つまたは複数の優先順位付き排除ビンに排除された欠陥との両方をカウントする抽出率要件を含むことができる。オプションとして、所与のクラスの分類グループの優先度よりも低くない優先度をもつすべての排除ビンは、所与のクラスの抽出率のためにカウントするときに選択されてもよい。
さらなる態様により、およびオプションとして本開示の主題の他の態様と組み合わせて、自動分類の寄与率は、分類目的に応じて異なるように計算することができ、ユーザによって構成可能であり得る。
本開示の主題のいくつかの実施形態の利点の中に、クラスの各々または結合クラスに対して別々に定義された品質要件を満たす自動分類を行う能力がある。
本発明を理解し、それが実際にどのように実行され得るかを確かめるために、次に、添付図面を参照して、単に非限定の例として、実施形態を説明する。
本開示の主題のいくつかの実施形態による試験システムの一般化されたブロック図である。 本開示の主題のいくつかの実施形態に従って欠陥を分類する一般化された流れ図である。 本開示の主題のいくつかの実施形態に従って分類器を訓練する一般化された流れ図である。 本開示の主題のいくつかの実施形態に従って構成された例示の混同行列を概略的に示す図である。 本開示の主題のいくつかの実施形態による排除プロセスの非限定の例を概略的に示す図である。 本開示の主題のいくつかの実施形態による排除プロセスの非限定の例を概略的に示す図である。 本開示の主題のいくつかの実施形態による排除プロセスの非限定の例を概略的に示す図である。 本開示の主題のいくつかの実施形態による排除プロセスの非限定の例を概略的に示す図である。 本開示の主題のいくつかの実施形態に従って取得された例示の混同行列を概略的に示す図である。 クラスごとの品質要件を満たしながら最も高いあり得るADC寄与率を可能にする最適な使用点を取得するように使用点を処理する一般化された流れ図である。
以下の詳細な説明において、多数の特定の詳細が、本発明の完全な理解を提供するために記載される。しかしながら、本開示の主題はこれらの特定の詳細なしに実践され得ることを当業者なら理解されよう。他の場合には、よく知られた方法、手順、構成要素、および回路は、本開示の主題を不明瞭にしないように詳細には記載されない。
特に記載のない限り、以下の議論から明らかなように、本明細書の全体にわたって、「処理する」、「計算する」、「表す」、「算出する」、「生成する」、「割り当てる」、「選択する」などのような用語を利用する議論は、データを他のデータに操作および/または変換するコンピュータの動作および/またはプロセスを指し、前記データは、物理的な、例えば電子的な量として表され、および/または前記データは物理的オブジェクトを表すことを理解されたい「コンピュータ」という用語は、非限定の例として、本出願で開示される分類器およびその中のPMCを含むデータ処理能力を有する任意の種類のハードウェアベース電子デバイスを網羅するように拡張的に解釈されるべきである。
本明細書で使用する「非一時的メモリ」および「非一時的ストレージ媒体」という用語は、本開示の主題に適した任意の揮発性または不揮発性コンピュータメモリを網羅するように拡張的に解釈されるべきである。
本明細書で使用する「試料の欠陥」という用語は、試料上にまたは試料内に形成されたあらゆる種類の異常または望ましくない特徴を網羅するように拡張的に解釈されるべきである。
本明細書で使用する「設計データ」という用語は、試料の階層的物理設計(レイアウト)を示す任意のデータを網羅するように拡張的に解釈されるべきである。設計データは、それぞれの設計者によって提供されてもよく、および/または物理設計から導出されてもよい(例えば、複雑なシミュレーション、単純な幾何学的およびブール演算などを介して)。設計データは、非限定の例として、GDSIIフォーマット、OASISフォーマットなどのような様々なフォーマットで提供することができる。設計データは、ベクトルフォーマット、グレースケール強度画像フォーマット、またはそれ以外で提示することができる。
特に記載のない限り、別個の実施形態の文脈に記載されている本開示の主題のいくつかの特徴は、単一の実施形態において組合せで提供することもできることを理解されたい。逆に、単一の実施形態の文脈に記載されている本開示の主題の様々な特徴は、別々にまたは任意の好適なサブ組合せで提供することもできる。以下の詳細な説明では、多数の特定の詳細が、方法および装置の完全な理解を提供するために記載される。
これを念頭において、本開示の主題のいくつかの実施形態による試験システムの一般化されたブロック図を示す図1に注目する。図1に示す試験システム100は、試料製造の一部としての(例えば、ウエハおよび/またはその一部の)試料の試験で使用することができる。試験は対象物製造の一部とすることができ、対象物の生産中にまたはその後で実行することができる。試験システムは、様々な試験ツール、例えば、検査画像を捕捉する(一般に、比較的高速および/または低解像度で)ように構成された1つまたは複数の検査ツール101と、検査ツール101によって検出された欠陥の少なくとも一部のレビュー画像を捕捉する(一般に、比較的低速および/または高解像度で)ように構成された1つまたは複数のレビューツール102とを含むことができる。図示の試験システム100は、1つまたは複数のサブルールを含む分類ルールセット(以下、分類ルールと呼ぶ)に従って複数のクラスに欠陥を自動的に分類することができるコンピュータベース自動欠陥分類ツール(以下、分類器とも呼ぶ)103をさらに含む。非限定の例として、分類は異なる目的を有することができ、分類結果は、統計的プロセス制御(SPC)におけるエクスカーションを識別するためにパレートを確立し、真欠陥から疑似欠陥をフィルタ処理し、特定の注目する欠陥(DoI)を識別するために、および/または分類目的に従って別の方法で使用することができる。
分類器103は、1つまたは複数の検査ツール101および/または1つまたは複数のレビューツール102に動作可能に接続することができる。オプションとして、分類器103は、1つまたは複数のレビューツール102に完全にまたは部分的に統合することができる。分類器103は、さらに、設計サーバ110およびデータレポジトリ109に動作可能に接続することができる。
試料は、検査ツール101(例えば、光学検査システム、低解像度SEMなど)で試験することができる。結果として生じる画像および/または派生物を処理して(オプションとして、例えば設計データおよび/または欠陥分類データのような他のデータと一緒に)、レビューのための潜在的な欠陥を選択することができる。
レビューのために選択された潜在的な欠陥場所のサブセットは、レビューツール102(例えば、走査型電子顕微鏡(SEM)または原子間力顕微鏡(AFM)など)でレビューすることができる。レビュー画像および/またはその派生物およびそれぞれ関連するメタデータの情報を提供するデータ(以下、レビューデータ122と呼ぶ)は、分類器103に送信することができる(直接、または1つまたは複数の中間システムを介して)。レビューデータはレビュー画像の派生物として1つまたは複数の中間システムによって生成されたデータを含むことができることに留意されたい。
分類器103は、ハードウェアベース入力インターフェース105およびハードウェアベース出力インターフェース106に動作可能に接続されたプロセッサおよびメモリ回路(PMC)104を含む。PMC104は、図2~図7を参照してさらに詳述するように分類器を動作させるのに必要な処理を行うように構成され、メモリに動作可能に接続されたプロセッサを含む(PMC内に分けて示されていない)。分類器103およびPMC104の動作は、図2~図7を参照してさらに詳述する。
本開示の主題の教示は図1に示したシステムによって拘束されず、等価なおよび/または変更された機能は、別の方法で統合するかまたは分割することができ、ソフトウェアをファームウェアおよび/またはハードウェアと適切に組み合わせて実施することができることを当業者は容易に理解するであろう。
図1に示した試験システムは、分散コンピューティング環境で実施することができ、図1に示した前述の機能モジュールは、いくつかのローカルデバイスおよび/またはリモートデバイスにわたって分散させることができ、通信ネットワークを通してリンクさせることができることに留意されたい。他の実施形態では、試験ツール101および/または102、データレポジトリ109、ストレージシステム107、および/またはGUI108のうちの少なくとも一部は、試験システム100の外側にあり、入力インターフェース105および出力インターフェース106を介して分類器103とデータ通信して動作することができることにさらに留意されたい。分類器103は、1つまたは複数の試験ツールと連結して使用することができるスタンドアロンコンピュータとして実施することができる。オプションとして、分類器は、データレポジトリ109および/またはストレージシステム107に記憶された事前取得レビューデータに基づいて動作することができる。代替としてまたは追加として、分類器のそれぞれの機能は、1つまたは複数の試験ツール、プロセス制御ツール、方策生成ツール、自動欠陥レビューおよび/または分類のためのシステム、および/または試験に関連する他のシステムに少なくとも部分的に統合されてもよい。
図2を参照すると、本開示の主題のいくつかの実施形態による自動欠陥分類器を動作させる一般化された流れ図が示される。PMC104は、非一時的コンピュータ可読ストレージ媒体に実装されたコンピュータ可読命令に従って以下に詳述するそれぞれの動作を実行するように構成される。
上記のように、分類器103は、欠陥を分類ルールに従って複数のクラスに自動的に分類することができる。分類ルールは、分類エンジン(例えば、サポートベクトルマシン(SVM)、ランダムフォレスト分類エンジン、ニューラルネットワークなど)と、異なるクラスでは異なってもよい複数の信頼度閾値とを含む。分類器103は、さらに、所与の欠陥ごとに、特定のクラスに欠陥が属する確率を示す信頼度レベルを定め、信頼度レベルがそのそれぞれの信頼度閾値を満たす場合所与の欠陥を特定のクラスに割り当てるように構成される。
単なる例示のために、以下の説明は、マルチクラスSVM(サポートベクトルマシン)分類器に対して行われる。本開示の主題の教示は、同様に、欠陥を分類するのに好適な任意の他の分類器および/または分類器の組合せに適用可能であることを当業者は容易に理解するであろう。
例示のために、各クラスは属性超空間におけるボリュームとして提示することができ、閾値信頼度レベルはクラスボリュームの境界を引くために使用することができる(クラスボリュームの境界は大きくすることも小さくすることもでき、境界の形状は閾値信頼度レベルに応じて異なってもよい)。所与の欠陥の属性に従って、分類ルールは、所与の欠陥が信頼度閾値に従って属している属性超空間(すなわち、クラス)内のボリュームを決定するか、または所与の欠陥がボリューム(クラス)のうちの1つに属さない場合所与の欠陥を排除する。排除された欠陥が1つを超えるクラスの一部であり得る属性超空間の場所に入る場合、欠陥は「決定することができない(CND)」とラベル付けすることができ、排除された欠陥がクラスの一部でない属性超空間の場所に入る場合、欠陥は「不明(UNK)」とラベル付けすることができる。非限定の例として、欠陥属性値は、形状、テクスチャ、材料、コンテキスト、トポグラフィ、および/または欠陥に関連する他の特性を表すことができる。
動作の前に、分類器は、予め定義されたクラスに予め分類された(例えば、人間の専門家、および/または別の分類器、および/または以前の分類器のバージョンなどによって)欠陥とその属性値との集合を含む訓練データ(201)のセットを使用して訓練される(202)。訓練のとき、分類器は、訓練データを使用して分類ルール(203)を設定する。分類ルールには、訓練中に取得され、所与のクラスに属すると識別された欠陥とそうでなかったものとを区別するのに使用できる複数の信頼度閾値が含まれる。したがって、訓練された分類器103は、信頼度閾値に従って、多次元属性空間(以下、属性超空間と呼ぶ)における各所定の欠陥クラスに関連した欠陥属性値に応じて所与の欠陥のクラスを確定することができる。
訓練に際して、分類器は、分類されるべき欠陥の情報を与える欠陥関連データを受け取り(205)、それに応じて、分類ルールを適用して欠陥を分類する(204)。本明細書で使用する「欠陥関連データ」という用語は、欠陥分類のために必要とされる任意の属性の値を網羅するように拡張的に解釈されるべきであることに留意されたい。欠陥属性の値は、分類器によってレビューデータの一部として受け取られ得る。代替としてまたは追加として、欠陥属性値の少なくとも一部は、受け取られたレビューデータから分類器によって(オプションとして、例えば設計データのような追加データを使用して)導出されてもよく、および/または検査ツールを含む1つまたは複数の他の情報源から受け取られてもよい。
信頼度閾値に従って、分類器は、予め定義された欠陥クラス間で属性超空間を分割し、各欠陥を、属性超空間内のその場所に応じてクラスのうちの1つに割り当てることによって、分類された欠陥(206)をもたらす。分割する際、欠陥のうちのいくつかがクラス間の重複する区域に属する(すなわち、特定のクラスに属する確率が信頼度閾値によって確定されたものよりも低い)場合、分類器は、そのような欠陥を、どのクラスが選択されるべきかを分類器が決定できないとしてCND(決定することができない)欠陥として排除する(207)。同様に、欠陥のうちのいくつかがクラスの外側の境界の外に位置づけられる場合、分類器は、そのような欠陥を不明(UNK)欠陥として排除する。排除された欠陥またはその一部は、分類のために試験員にまたは以前の分類器で利用できなかった新しい知識を付け加える任意のモダリティに渡すことができる。
所与の欠陥は、マジョリティクラスまたはマイノリティクラスに属することができる。分類ルールを訓練データのセットに適用すると、マジョリティクラスに予め分類された訓練欠陥の大部分は、自動的に、やはりマジョリティクラスに分類されることになるが、マイノリティクラスに予め分類された訓練欠陥の大部分は、自動的に、それぞれのマイノリティクラスに属するように分類されないことになり、排除されるかまたはマジョリティクラスに分類されることになる。
分類結果は、図3~図6を参照してさらに詳述する1つまたは複数の品質尺度(例えば、純度、精度、抽出率)および性能(例えば、ADC寄与率)尺度によって特性評価することができる。信頼度要件を低く設定するほど、分類器が排除する欠陥を少なくすることができるが、分類誤り、または注目する欠陥のいくつかの欠損が多くなることがある。他方、信頼度要件を増加させると、分類の品質は高まるが、排除率または疑似警報率が高くなるという犠牲が生じる。
オプションとして、動作の間、分類器は、性能/品質パラメータをモニタする(208)ことができ、結果に応じて、結果的に、分類ルールをさらに精密にするために再訓練することができる(例えば、間違って分類された欠陥の分類後結果を使用して)。
分類器の訓練および動作の非限定の例が、本出願の譲受人に譲渡された米国特許出願第2016/0189055号、米国特許第8,315,453号、米国特許第9,607,233号、および米国特許第9,715,723号に開示されており、追加または代替の詳細、特徴、および/または技術的背景の適切な教示のためにそれらの全体が参照により本明細書に組み込まれる。
図3~図6を参照してさらに詳述するように、本開示の主題のいくつかの実施形態によれば、分類器103は、異なる優先度をもつ3つ以上の分類グループの間の分類グループに各クラスを割り当てることを可能にするように構成される。所与の分類グループに割り当てられた1つまたは複数のクラスのすべては、同じ優先度を有し、この優先度は、所与の分類グループの優先度に対応し、別の分類グループに割り当てられた1つまたは複数のクラスのすべての優先度と異なる。分類器103は、分類グループの優先度を定義することを可能にするようにさらに構成される。GUI108の助けにより、ユーザは、グループの優先度を定義し、自動分類のためにクラスを定義し、それぞれの分類グループにクラスを割り当てることができる。代替として、これらの定義の少なくとも一部は、予め定義されたルールに従って分類器103によって行われてもよく、または入力インターフェース105を介して外部システム(例えば、FAB管理システム)から受け取られてもよい。
さらに、分類器103は、ユーザ(および/または管理システム)がクラスごとに純度、精度、および/または抽出率要件を別々に設定し、クラスごとの要件に従って分類結果を最適化することを可能にするように構成される。図3~図6を参照してさらに詳述するように、分類器103は、同じ分類グループからのいくつかのクラスを一緒に結合し、結合クラスへの品質要件を単一クラスと同様に設定することを可能にするように構成することができる。
図3を参照すると、本開示の主題のいくつかの実施形態に従って自動欠陥分類器を訓練する一般化された流れ図が示される。PMC104は、非一時的コンピュータ可読ストレージ媒体に実装されたコンピュータ可読命令に従って以下で詳述するそれぞれの動作を実行するように構成される。
訓練の前に、分類器103は、3つ以上の優先順位付き分類グループへのクラスの割当てを示すデータを取得する(301)。そのようなデータは、GUI108を介してユーザの入力として受け取られてもよく、予め定義されたルールに従って分類器103によって生成されてもよく、および/または入力インターフェース105を介して外部システム(例えば、FAB管理システム)から受け取られてもよい。非限定の例として、クラス(マジョリティとマイノリティの両方)は、以下の分類グループ(優先度の順序の)に、すなわち、注目するキー欠陥(KDOI)、注目する欠陥(DOI)、および疑似に割り当てることができる。別の非限定の例として、マジョリティクラスは、KDOI、DOI、および疑似分類グループに割り当てることができ、一方、マイノリティクラスは、分類グループ「新規」に割り当てることができ、グループの優先度は以下の順序、すなわち、KDOI>新規>DOI>疑似となるように構成することができる。
さらに、訓練の前に、分類器は、クラスごとの品質要件を示すデータを取得する(303)。そのようなデータは、GUI108を介してユーザの入力として受け取ることができ、および/または入力インターフェース105を介して外部システム(例えば、FAB管理システム)から受け取ることができる。オプションとして、そうである必要はないが、同じグループに割り当てられたクラスは、分類の同様の目的、その結果、同様の品質要件を有することができる。非限定の例として、分類器103は、KDOIグループのクラスに対して高い抽出率および/または高い純度を可能にし、DOIグループのクラスに対して中間の抽出率および/または純度を可能にし、疑似グループのいくつかのクラスに対して低い抽出率および/または純度を可能にするように構成することができる。
予め分類された欠陥およびその属性値の集合を含む訓練データを受け取る(302)際、分類器は、クラスへの訓練欠陥の初期分離を受け取るために訓練欠陥に分類エンジンを適用する。初期分離は、信頼度閾値が排除なしに分離を可能にする値に設定された状態で行うことができる(そのようにしなければならないわけではないが)。非限定の例として、分類エンジンは、マルチクラスサポートベクトルマシン(SVM)、ランダムフォレスト分類エンジン、または他の好適な分類エンジン、あるいはそれらの組合せとすることができる。
図4は、初期分離の結果を提示する例示の混同行列を示す。本明細書で使用する「混同行列」という用語は、分類ルールの品質および性能の視覚化を可能にする表レイアウトを網羅するように拡張的に解釈されるべきである。列401~列405は、分類ルールを適用することによる訓練欠陥の自動分類の結果を表す。列406は、予め分類された(例えば、人間オペレータによって)クラスごとの欠陥の実際の数を表す。行415は、それぞれの列によって提示されたクラスの各々に分類器103によって分類された(正しくまたは正しくなく)欠陥の合計数を表す。
非限定の例として示されているように、マジョリティクラスの中で、クラスAはグループDOIに割り当てられ、クラスBはグループKDOIに割り当てられ、クラスCはグループ「疑似」に割り当てられる。さらに、マイノリティクラスDはグループ「新規」に割り当てられる。
低い閾値による初期分離の結果として、欠陥は分類器によってCNDまたはUNKとして分類されていない。図示のように、クラスAに予め分類された60個の欠陥の中で、52個の欠陥が分類器103によって正しく分類されており、一方、クラスBの4個の欠陥がクラスAに誤って分類されており、クラスCの3個の欠陥がクラスAに誤って分類されており、クラスDの11個の欠陥がクラスAに誤って分類されている。同様に、クラスBに予め分類された44個の欠陥の中で、38個の欠陥が分類器103によって正しく分類されており、一方、クラスAの4個の欠陥がクラスBに誤って分類されており、クラスCの6個の欠陥およびクラスDの12個の欠陥がクラスBに誤って分類されており、一方、クラスCに予め分類された119個の欠陥の中で、110個の欠陥が分類器103によって正しく分類されており、一方、クラスAの4個の欠陥がクラスCに誤って分類されており、クラスBの2個の欠陥がクラスCに誤って分類されており、クラスDの4個の欠陥がクラスCに誤って分類されている。
各マジョリティクラスは、クラスに関する分類器の決定の正しさを示す純度などの品質尺度によって特性評価することができる。純度は、所与のクラスに正しく分類された欠陥の数と、この所与のクラスに分類器によって分類された欠陥の総数との間の比として計算することができる。したがって、図4の行416によって示された例では、クラスAの純度は52/70=74.2%であり、クラスBの純度は38/60=63.33%であり、クラスCの純度は110/120=91.66%である。
さらに、各クラスは、所与のクラスに正しく分類された欠陥と所与のクラスに予め分類された欠陥との間の比として計算された精度のような品質尺度(列408によって示された)によって特性評価することができる。
分類器の性能は、分類された欠陥の全数に対する、別のモダリティによるさらなる分類のために送られなかった(例えば、クラス純度を満たして分類された)欠陥の比として計算された寄与率によって特性評価することができる。
信頼度閾値を増加させ、それにより、いくつかの欠陥をUNK欠陥またはCND欠陥として排除することによって、純度を改善することができる。しかしながら、ある信頼度閾値は特定の品質および/または性能測定を改善するが、それは、例えば寄与率のような異なる性能尺度に劣化をもたらすことがある。
図3に戻って参照すると、本開示の主題のいくつかの実施形態によれば、訓練は、優先順位付き分類グループに対応する複数の3つ以上の優先順位付き排除ビンに欠陥を排除するルールを設定する(305)ことをさらに含む。排除ビンの優先度は分類グループの優先度に対応するように構成される。ある欠陥に対して、異なるビンには異なり、それぞれのクラスの優先度およびビンの優先度に依存することができる予め定義されたルールに従って、分類器103は排除ビンを選択する。
したがって、優先順位付き分類グループにクラスを割り当てる非限定の例として、マジョリティクラスおよびマイノリティクラスの各々のものは、KDOI、DOI、および疑似分類グループのうちの1つに割り当てることができる。CND欠陥は、KDOI CNDビン、DOI CNDビン、および疑似CNDビンに排除する(優先度の順序で)ことができる。不明欠陥は、1つまたは複数のUNKビンに排除することができる。
優先順位付き分類グループにクラスを割り当てる別の非限定の例として、マジョリティクラスの各々のものは、KDOI、DOI、および疑似分類グループのうちの1つに割り当てることができ、一方、マイノリティクラスは新規グループに割り当てることができる。CND欠陥は、KDOI CNDビン、DOI CNDビン、および疑似CNDビンに排除することができる。UNKビンは新規排除に対応し、排除ビンの優先度は、分類グループの優先度、すなわち、KDOI CNDビン>新規UNKビン>DOI CNDビン>疑似CNDビンに対応して構成される。
ME-その他区分(ME-OTHERS division)は、ビンごとに「その他」がそれぞれのビン優先度のクラスのみを含むように実施することができる。所与のKDOIクラスに誤って分類されたKDOI欠陥は、KDOI排除ビンに排除され、所与のDOIクラスに誤って分類されたDOI欠陥は、DOI排除ビンに排除され、所与の疑似クラスに誤って分類された疑似欠陥は、疑似排除ビンに排除される。キーDOIとDOI\疑似との間のCNDは、KDOI CNDビンに行く(疑似\DOI欠陥は、KDOIクラスから排除されないことになる)。疑似クラスに分類されたDOI欠陥は、DOI CNDビンに排除されることになり、DOIクラスに分類された疑似欠陥は、疑似CNDビンに排除されることになり、マイノリティは新規UNKビンに排除されることになる。
クラスおよび排除ビンの相対的優先度に応じた例示された排除ルールが表1に要約されている(「Me」は、初期分離(304)の間に正しく分類された欠陥を指す)。
Figure 0007286290000001
オプションとして、分類グループ内の2つ以上のクラスは、結合クラスとして構成することができ、分類器103は、結合クラス間の混同の場合には排除を行わないように構成することができる。同様に、分類器103は、単一クラスと見なされる結合クラスの品質要件を可能にするように構成することができる。そのような結合クラスのために計算された品質尺度は、以下、「選択された純度」および「選択された抽出率」と呼ぶことに留意されたい。
本開示の主題のいくつかの実施形態によれば、純度に加えて、品質要件は抽出率要件を含むことができる(精度要件に加えてまたは精度要件の代わりに)。抽出率は、クラスごとに、i)そのクラスの正しく分類された欠陥と、ii)そのクラスに属し、そのクラスの抽出率のためにカウントする排除ビンに排除された欠陥との両方をカウントする。したがって、抽出率の概念は、精度の概念よりも広い。所与のクラスの抽出率のためにカウントする排除ビンの選択は、クラスの分類グループ、および欠陥が排除された排除ビンのそれぞれの優先度に依存する。本開示の主題のいくつかの実施形態によれば、クラス優先度に対応するまたはそれより高い排除ビンは、常に、抽出率のためにカウントされ得る。いくつかの排除ビンは、ユーザのレビュー向けでないことがあり、それゆえに、寄与率(例えば、疑似CNDビン)のためにカウントされてもよいことに留意されたい。
多数のCNDおよび1つまたは複数のUNKビンを用いて排除ルールを設定する際、分類器103は、訓練欠陥の情報を与えるデータを処理して、マジョリティクラスごとに、クラス使用点を生成し(306)、各クラス使用点は、優先順位付き排除ビンに対応する信頼度閾値のあり得るセットによって特性評価される。KDOI CNDビン、新規UNKビン、DOI CNDビン、および疑似CNDビンの上述の非限定の例では、各クラス使用点は、各々がそれぞれのビンに対応する4つの信頼度閾値によって特性評価される。
所与のマジョリティクラスごとに、分類器103は、さらに、所与のクラスのために生成されたクラス使用点の中で、所与のクラスのために受け取られた品質要件を満たし(少なくとも最適化の前に)、他のクラスの品質要件を考慮してカウントされる正当な使用点を選択する(307)。したがって、分類器103は、所与のマジョリティクラスごとに、複数の正当なクラス使用点をもたらす。
正当なクラス使用点の選択は、クラスごとに独立に行うことができ、所与のクラスに対して、
- 所与のクラスの純度要件を満たさない使用点を取り除くこと、
- クラスにとって正当な複数の使用点をもたらすために他のクラスを考慮して所与のクラスの抽出率要件を一時的に満たさない使用点を取り除くこと(このステップにおいて一時的に抽出率要件を満たす使用点は、さらなる最適化処理中に必ずしも全体的なクラス抽出率要件を満たさない)、
- 正当な使用点の各々に対して潜在的なクラス寄与率(すなわち、それぞれのクラスによって与えられる全体的な寄与率の一部)を計算すること、
- 計算されたクラス寄与率に従って正当な点を区分し、さらなる処理のために結果を保管すること
を含むことができる。
オプションとして、正当なクラス使用点は、直接探索によって、またはあり得る使用点の中で選択する代わりに当業者に知られている任意の他の好適な最適化方法によって取得され得ることに留意されたい。
図7を参照してさらに詳述するように、分類器103は、すべてのクラスに対してクラスごとの品質要件を満たしながら最も高いあり得るADC寄与率を可能にする最適な使用点を取得するために、各々がそれぞれのマジョリティクラスに関して正当である複数の正当なクラス使用点を処理する(308)。クラス使用点が排除ビン(例えば、提供された非限定の例におけるような4つの閾値)に対応するK個の閾値によって特性評価される場合、最適な使用点は、(K*マジョリティクラスの数)閾値によって特性評価される。最適化された閾値はマジョリティクラスのためにのみ計算されているが、最適化処理(308)は、マイノリティクラスの抽出率要件を考慮して行われてもよいことに留意されたい。
本開示の主題のいくつかの実施形態によれば、分類器103の寄与率(すなわち、最適化目標)は、分類目的および/または分類器の構成に応じて異なるように計算することができることに留意されたい。分類器は、ユーザが混同行列内の寄与列を定義する(例えば、GUI108を介して)ことを可能にするように構成することができる。非限定の例として、分類結果が統計的プロセス制御(SPC)で使用できる場合、寄与率のためにカウントされる列は、クラス純度を満たして分類されたすべてのクラスと、疑似CNDビンとを含むことができる。別の非限定の例として、分類結果がDOIハンティングで使用され得る場合、寄与率のためにカウントされる列は、クラス純度を満たして分類されたすべてのクラスと、DOI CNDビンと、疑似CNDビンとを含むことができる。一般に、寄与率は、寄与率のためにカウントされるように定義された列の欠陥の数を、分類された欠陥の総数で除算したものとして計算することができる。オプションとして、寄与率は、フィルタレート、疑似フィルタレート、または任意の他の性能尺度として定義することができる。
最適な使用点を取得する際に、分類器は、初期分離のために使用される分類エンジンと、各排除ビンおよびマジョリティクラスに対する複数の信頼度閾値とを含む分類ルールを生成し(309)、信頼度閾値は最適な使用点に対応する。分類ルールの閾値は、ユーザの要求に従ってさらに調節することができる(例えば、品質要件を低減することによって性能を強化するために)。場合によっては、生成された分類ルールを分類されるべき欠陥に適用すると、排除ビン間に衝突をもたらすことがある(すなわち、信頼度閾値に従って、所与の欠陥がいくつかのビンに排除されることがある)ことに留意されたい。そのような場合には、分類器103は、可能性のあるビン間で最も高い優先度をもつビンに欠陥を排除するように構成することができる。
本開示の主題の教示は、非限定の例に示したような分類グループおよび優先順位付き排除ビンによって拘束されず、同様に、分類グループおよび対応する排除ビンの他のタイプ、数、および/または優先度に適用可能であることに留意されたい。
図5a~図5dを参照すると、本開示の主題のいくつかの実施形態による排除プロセスの非限定の例が概略的に示される。図5aは、初期分離の後に得られた混同行列を示す。図5bは、分類器103が、KDOIクラスに対して定義されたクラスごとの純度/抽出率要件を満たすように欠陥を排除した後の混同行列を示す。図5cは、分類器103が、新規抽出率要件を満たすように欠陥をさらに排除した後の混同行列を示す。図5dは、分類器103が、DOIおよび疑似分類グループのクラスに対して定義されたクラスごとの要件を満たすように欠陥をさらに排除した後の混同行列を示す。図示の例では、クラスEはクラスFに結合され、純度および抽出率は、これらのクラスのうちのいずれかに正しく分類された欠陥に従って、選択された純度および選択された抽出率として計算されることに留意されたい。すべての図示の排除に際して、欠陥の分布は、クラスごとの品質要件のすべてに対応し、それぞれの信頼度閾値は、正当なクラス使用点に対応する。図示したクラスごとの使用点の取得は、2つ以上のクラスと並列に行うことができることに留意されたい。
図6は、図4に示した欠陥の最適化された分布の結果を提示する例示された混同行列を示す。図示のように、KDOIクラスは、80%の例示された予め定義された純度要件および100%の例示された予め定義された抽出率要件を満たしており、DOIクラスは、93%の例示された予め定義された純度要件および91%の例示された予め定義された抽出率要件を満たしており、新規抽出率は、63%の例示された予め定義された要件を満たしている。図示の例では、KDOIクラスとの混同またはKDOIクラス内の混同をもつ欠陥は、KDOI CNDビンに排除されており、DOIクラス内の混同をもつ欠陥および疑似として分類されたDOI欠陥は、DOI CNDビンに排除されており、一方、DOIと疑似クラスの間の混同をもつ欠陥は疑似CNDビンに排除されており、DOIクラスとマイノリティクラスとの間の混同をもつ欠陥は新規UNKビンに排除されていることに留意されたい。
図示の例では、クラスB(KDOI分類グループに割り当てられた)の純度および抽出率は、以下のように計算することができる。
クラスB純度=32(クラスBに正しく自動的に分類された欠陥の数)/40(クラスBに自動的に分類された欠陥の合計数)=80%。
クラスB抽出率=(32(純度閾値より上のクラスB欠陥の数)+12(クラスB KDOI CNDビン中の欠陥の数))/44(クラスBに手作業で分類された欠陥の数)=100%。
図示の例では、クラスA(DOI分類グループに割り当てられた)の純度および抽出率は、以下のように計算することができる。
クラスA純度=43(クラスAに正しく自動的に分類された欠陥の数)/43(クラスAに自動的に分類された欠陥の合計数)=93%。
クラスA抽出率=(43(純度閾値より上のクラスA欠陥の数)+2+4+6(クラスA KDOI CNDビン+DOI CNDビン+不明CNDビンにおける欠陥の数)/60(クラスBに手作業で分類された欠陥の数)=91%。
上記のように、寄与率計算は、分類目的および/またはユーザの要求に依存する。非限定の例として、ユーザは、自動分類結果に関係なくすべてのKDOI欠陥を手作業でレビューすることに関心をもつことがある。そのような場合に、寄与列は401、402、405-2、および405-3列であり、寄与率は、(46+104+14+5)/250=67%に等しい。別の非限定の例として、寄与列は、ユーザによって、純度閾値より上のKDOIおよびDOIクラス、選択的な純度閾値より上の疑似クラス、DOI CNDビン(レビューされる必要がある場合を除いて)、疑似CNDビン、およびUNKビンとして定義され得る。図示の例では、そのような定義は、401、402、403、405-2、405-3、および404-1列に対応し、寄与率は、(46+40+104+14+5+15)/250=90%に等しい。
図7を参照すると、本開示の主題のいくつかの実施形態による使用点の例示された処理(308)の一般化された流れ図が示される。
訓練欠陥ごとに、事前分類の結果、自動分類の結果、および優先順位付き排除ビンの各々に関する信頼度レベルを取得する(701)際、分類器103は、マジョリティクラスの各々に対する正当なクラス使用点を計算する(702)。
正当なクラス使用点の中で、分類器103は、最大のクラス寄与率をもつ正当な使用点を選択し、この使用点がすべてのクラスを考慮した抽出率要件を満たしているかどうかをチェックする(703)。満たしている場合、この点は、クラスごとの品質要件を満たしながら最も高いあり得るADC寄与率を可能にする最大値の点である。
使用点がすべてのクラスを考慮した抽出率要件を満たしていない場合、分類器103は、欠落抽出率を伝えることができる正当なクラス使用点の数を示す間隙を評価する(704)。間隙が性能閾値(PTHS)よりも低い場合、分類器103は、最良の寄与率をもつものを見いだすために、正当なクラスの使用点のすべての組合せを経験する網羅的計算を行う(705)。そのような使用点は、すべてのクラスに対してクラスごとの品質要件を満たしながら最も高いあり得るADC寄与率を可能にする最適な使用点に対応する。間隙が性能閾値を超える場合、分類器103は、オプションとしてブラックボックス最適化(例えば、粒子群最適化)が後に続く直接(貪欲)アルゴリズムを使用して(706)計算を行う。性能閾値はPMC104の処理能力に依存することに留意されたい。
非限定の例として、直接計算を以下のように行うことができる。
マジョリティクラスの正当なクラス使用点ごとに部分的抽出率およびそれぞれのクラス寄与率を取得する際、分類器103は、それぞれの優先度の順序で、分類グループごとに最適化を行う。所与の分類グループのマジョリティクラスごとに、分類器103は、失われた寄与率に対する抽出率利得の比として定義される効果を計算し、所与の分類グループ内の欠陥抽出率のために最良のマジョリティクラスを貪欲に選び、抽出率要件が所与のグループのすべてのクラスを考慮して満たされるまで繰り返す。分類グループごとのそのようなサイクルを終了する際、分類器103は、貪欲に最適化された使用点を取得する。
本開示の主題の教示は図7に示した処理によって拘束されないことを当業者は容易に理解するであろう。クラスごとに品質要件を満たしながら最も高いあり得るADC寄与率を可能にする最適な使用点を取得するために、他の適切なアルゴリズムおよびその組合せを実施することができる。
本発明は、その適用において、本明細書に含まれる説明に記載されたまたは図面に示された詳細に限定されないことを理解されるべきである。本発明は、他の実施形態が可能であり、様々な方法で実践および実行することができる。それゆえに、本明細書において使用された語法および用語は説明のためのものであり、限定と見なされるべきでないことを理解されるべきである。そのため、本開示が基づいている概念は、本開示の主題のいくつかの目的を実行するために、他の構造、方法、およびシステムを設計するための基礎として容易に利用することができることを当業者は理解するであろう。
本発明によるシステムは、適切にプログラムされたコンピュータで少なくとも部分的に実施され得ることも理解されるであろう。同様に、本発明は、本発明の方法を実行するためのコンピュータによって読取り可能なコンピュータプログラムを意図する。本発明は、さらに、本発明の方法を実行するためにコンピュータによって実行可能な命令のプログラムを有形に具現する非一時的コンピュータ可読メモリを意図する。
添付の特許請求の範囲においておよび添付の特許請求の範囲によって定義される範囲から逸脱することなく、上文に記載したような本発明の実施形態に様々な変形および変更を適用することができることを当業者は容易に理解するであろう。
100 試験システム
101 検査ツール
102 レビューツール
103 分類器
104 プロセッサおよびメモリ回路
105 ハードウェアベース入力インターフェース
106 ハードウェアベース出力インターフェース
107 ストレージシステム
108 GUI
109 データレポジトリ
110 設計サーバ
122 レビューデータ

Claims (20)

  1. 試料の欠陥を複数のクラスに分類することができるシステムであって、処理およびメモリ回路(PMC)を含み、前記処理およびメモリ回路(PMC)が、
    前記複数のクラスのクラスごとに別々に定義された品質要件を示すデータを取得することと、
    異なる優先度をもつ少なくとも3つの分類グループの中の分類グループへの前記複数のクラスの各クラスの割当てを示すデータを取得することと、
    少なくとも3つの「決定することができない(CND)」排除ビンを特定することとを行うように構成されており、
    少なくとも3つのCND排除ビンは、それぞれのクラスに対応する信頼レベルを有する複数のクラスのうちのいずれかのクラスに割り当てることができないCNDベースの排除された欠陥を取集するために構成されており、前記少なくとも3つのCND排除ビンは、前記少なくとも3つの分類グループに対応しており、前記少なくとも3つのCND排除ビンの分類優先度は、それぞれの分類グループの優先度に対応しており、
    訓練中に、
    複数の予め分類された訓練欠陥およびその属性値を含む訓練データを取得し、
    初期に分類された訓練欠陥をもたらすために前記複数のクラスのうちのクラスへの前記複数の予め分類された訓練欠陥の初期自動分類を行
    前記複数のクラスのクラスごとに定義されたクラスごとの品質要件を満たしながら自動分類の最も高いあり得る寄与率に対応する最適な使用点を取得するために前記初期に分類された訓練欠陥を処理
    前記最適な使用点に対応する信頼度閾値をもつ分類ルールを生成、前記信頼度閾値が、優先順位付き排除ビンに対応し、前記優先順位付き排除ビンは、前記少なくとも3つのCND排除ビンを備え
    前記試料の欠陥を分類するとき、前記生成された分類ルールを適用すること
    を行うように更に構成される、
    システム。
  2. 前記PMCが、同じ分類グループに割り当てられたいくつかのクラスを一緒に結合することを可能にし、前記結合クラスの品質要件を単一クラスと同様に規定するようにさらに構成される、請求項1に記載のシステム。
  3. 各クラスが、以下の分類グループ、すなわち、最も高い優先度をもつ前記分類グループである「注目するキー欠陥(KDOI)」、「注目する欠陥(DOI)」、および最も低い優先度をもつ前記分類グループである「疑似」のうちの1つに割り当てられる、請求項1に記載のシステム。
  4. 前記優先順位付き排除ビンが、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「不明(UNK)」排除ビンからなり、前記優先順位付き排除ビンのCND排除ビンの優先度がそれぞれの分類グループの優先度に対応する、請求項3に記載のシステム。
  5. 各マジョリティクラスが、以下の分類グループ、すなわち、「KDOI」、「DOI」、および「疑似」のうちの1つに割り当てられ、マイノリティクラスが、「新規」分類グループに割り当てられ、前記グループの優先度が、以下の順序に、すなわち、「KDOI」>「新規」>「DOI」>「疑似」に構成される、請求項1に記載のシステム。
  6. 前記優先順位付き排除ビンが、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「新規」UNK排除ビンからなり、前記優先順位付き排除ビンのすべての排除ビンの優先度がそれぞれの分類グループの優先度に対応する、請求項5に記載のシステム。
  7. 所与のクラスに対して定義された前記品質要件が、前記所与のクラスの正しく分類された欠陥と、前記所与のクラスに属し、前記所与のクラスの抽出率のためにカウントするときに選択される1つまたは複数の排除ビンに排除された欠陥との両方をカウントする抽出率要件を含む、請求項1に記載のシステム。
  8. 自動分類の前記寄与率が、分類目的に応じて異なるように計算される、請求項1に記載のシステム。
  9. 試料の欠陥を複数のクラスに自動分類する方法であって、
    処理およびメモリ回路(PMC)で分類ルールを生成するステップを備え
    前記分類ルールを生成するステップが、
    前記複数のクラスのクラスごとに別々に定義された品質要件を示すデータ、異なる優先度をもつ少なくとも3つの分類グループの中の分類グループへの前記複数のクラスの各クラスの割当てを示すデータとを取得するステップと
    少なくとも3つの「決定することができない(CND)」排除ビンを特定するステップを備え、
    少なくとも3つのCND排除ビンは、それぞれのクラスに対応する信頼レベルを有する複数のクラスのうちのいずれかのクラスに割り当てることができないCNDベースの排除された欠陥を取集するために構成されており、前記少なくとも3つのCND排除ビンは、前記少なくとも3つの分類グループに対応しており、前記少なくとも3つのCND排除ビンの分類優先度は、それぞれの分類グループの優先度に対応しており、
    訓練中に、
    複数の予め分類された訓練欠陥およびその属性値を含む訓練データを取得し、
    初期に分類された訓練欠陥をもたらすために前記複数のクラスのうちのクラスへの前記複数の予め分類された訓練欠陥の初期自動分類を行
    前記複数のクラスのクラスごとに定義されたクラスごとの品質要件を満たしながら自動分類の最も高いあり得る寄与率に対応する最適な使用点を取得するために前記初期に分類された訓練欠陥を処理
    前記最適な使用点に対応する信頼度閾値をもつ前記分類ルールを生成、前記信頼度閾値が、優先順位付き排除ビンに対応し、前記優先順位付き排除ビンは、前記少なくとも3つのCND排除ビンを備え
    前記試料の欠陥を分類するとき、前記PMCによって、前記生成された分類ルールを適用するステップ
    更に含む、方法。
  10. 同じ分類グループに割り当てられたいくつかのクラスを一緒に結合するステップと、前記結合クラスの品質要件を単一クラスと同様に規定するステップとをさらに含む、請求項9に記載の方法。
  11. 各クラスが、以下の分類グループ、すなわち、最も高い優先度をもつ前記分類グループである「注目するキー欠陥(KDOI)」、「注目する欠陥(DOI)」、および最も低い優先度をもつ前記分類グループである「疑似」のうちの1つに割り当てられる、請求項9に記載の方法。
  12. 前記優先順位付き排除ビンが、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「不明(UNK)」排除ビンからなり、前記優先順位付き排除ビンのCND排除ビンの優先度がそれぞれの分類グループの優先度に対応する、請求項11に記載の方法。
  13. 各マジョリティクラスが、以下の分類グループ、すなわち、「KDOI」、「DOI」、および「疑似」のうちの1つに割り当てられ、マイノリティクラスが、「新規」分類グループに割り当てられ、前記グループの優先度が、以下の順序に、すなわち、「KDOI」>「新規」>「DOI」>「疑似」に構成される、請求項9に記載の方法。
  14. 前記優先順位付き排除ビンが、「KDOI」CND排除ビン、「DOI」CND排除ビン、「疑似」CND排除ビン、および「新規」UNK排除ビンからなり、前記優先順位付き排除ビンのすべての排除ビンの優先度がそれぞれの分類グループの優先度に対応する、請求項13に記載の方法。
  15. 前記最適な使用点を取得するために前記初期に分類された訓練欠陥を処理するステップが、前記PMCによって、マジョリティクラスごとに、正当なクラス使用点を取得するステップであり、各正当なクラス使用点が、それぞれのクラスに対して定義された品質要件を満たし、前記優先順位付き排除ビンに対応する信頼度閾値によって特性評価される、取得するステップと、
    前記PMCによって、前記最適な使用点を取得するために前記正当なクラス使用点を処理するステップとを含む、請求項9に記載の方法。
  16. 前記正当なクラス使用点を取得するステップが、前記訓練欠陥の少なくとも一部を前記優先順位付き排除ビンにわたって分配するステップを含み、ある欠陥に対して排除ビンを選択するステップが、それぞれの分類グループの相対的優先度および前記排除ビンの優先度に応じて、予め定義されたルールに従って行われる、請求項15に記載の方法。
  17. 所与のクラスに対して定義された前記品質要件が、前記所与のクラスの正しく分類された欠陥と、前記所与のクラスに属し、前記所与のクラスの抽出率のためにカウントするときに選択される1つまたは複数の排除ビンに排除された欠陥との両方をカウントする抽出率要件を含む、請求項9に記載の方法。
  18. 前記所与のクラスの分類グループの優先度よりも低くない優先度をもつすべての排除ビンが、前記所与のクラスの抽出率のためにカウントするときに選択される、請求項17に記載の方法。
  19. 自動分類の前記寄与率が、分類目的に応じて異なるように計算される、請求項9に記載の方法。
  20. コンピュータによって実行されたときに、試料の欠陥を複数のクラスに自動分類する方法を前記コンピュータに実行させる命令を含む非一時的コンピュータ可読媒体であって、前記方法が、
    処理およびメモリ回路(PMC)で分類ルールを生成するステップを備え
    前記分類ルールを生成するステップが、
    前記複数のクラスのクラスごとに別々に定義された品質要件を示すデータ、異なる優先度をもつ少なくとも3つの分類グループの中の分類グループへの前記複数のクラスの各クラスの割当てを示すデータとを取得し、
    少なくとも3つの「決定することができない(CND)」排除ビンを特定することを備え、
    少なくとも3つのCND排除ビンは、それぞれのクラスに対応する信頼レベルを有する複数のクラスのうちのいずれかのクラスに割り当てることができないCNDベースの排除された欠陥を取集するために構成されており、前記少なくとも3つのCND排除ビンは、前記少なくとも3つの分類グループに対応しており、前記少なくとも3つのCND排除ビンの分類優先度は、それぞれの分類グループの優先度に対応しており、
    訓練中に、
    複数の予め分類された訓練欠陥およびその属性値を含む訓練データを取得
    初期に分類された訓練欠陥をもたらすために前記複数のクラスのうちの前記クラスへの前記複数の予め分類された訓練欠陥の初期自動分類を行
    前記複数のクラスのクラスごとに定義されたクラスごとの品質要件を満たしながら自動分類の最も高いあり得る寄与率に対応する最適な使用点を取得するために前記初期に分類された訓練欠陥を処理
    前記最適な使用点に対応する信頼度閾値をもつ前記分類ルールを生成、前記信頼度閾値が、優先順位付き排除ビンに対応し、前記優先順位付き排除ビンは、前記少なくとも3つのCND排除ビンを備え、
    前記試料の欠陥を分類するとき、前記PMCによって、前記生成された分類ルールを適用するステップ
    更に含む、非一時的コンピュータ可読媒体。
JP2018183321A 2017-09-28 2018-09-28 半導体試料の欠陥を分類する方法およびそのシステム Active JP7286290B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/719,447 US11037286B2 (en) 2017-09-28 2017-09-28 Method of classifying defects in a semiconductor specimen and system thereof
US15/719,447 2017-09-28

Publications (2)

Publication Number Publication Date
JP2019075553A JP2019075553A (ja) 2019-05-16
JP7286290B2 true JP7286290B2 (ja) 2023-06-05

Family

ID=65807910

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018183321A Active JP7286290B2 (ja) 2017-09-28 2018-09-28 半導体試料の欠陥を分類する方法およびそのシステム

Country Status (5)

Country Link
US (1) US11037286B2 (ja)
JP (1) JP7286290B2 (ja)
KR (1) KR102548769B1 (ja)
CN (1) CN109583465B (ja)
TW (1) TWI776945B (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110278366B (zh) * 2018-03-14 2020-12-01 虹软科技股份有限公司 一种全景图像虚化方法、终端及计算机可读存储介质
US11538237B2 (en) * 2019-01-15 2022-12-27 Accenture Global Solutions Limited Utilizing artificial intelligence to generate and update a root cause analysis classification model
US11151706B2 (en) * 2019-01-16 2021-10-19 Applied Material Israel, Ltd. Method of classifying defects in a semiconductor specimen and system thereof
US10762618B1 (en) * 2019-02-14 2020-09-01 United Microelectronics Corp. Mask weak pattern recognition apparatus and mask weak pattern recognition method
CN110263859A (zh) * 2019-06-21 2019-09-20 深圳前海微众银行股份有限公司 样本分类方法、装置、设备及可读存储介质
CN110716990A (zh) * 2019-09-04 2020-01-21 华东江苏大数据交易中心股份有限公司 一种应用于数据交易的多数据源管理系统
CN110555838A (zh) * 2019-09-06 2019-12-10 北京百度网讯科技有限公司 基于图像的零件故障检测方法及装置
CN111311542B (zh) * 2020-01-15 2023-09-19 歌尔股份有限公司 一种产品质量检测方法及装置
WO2022032056A1 (en) * 2020-08-07 2022-02-10 Pdf Solutions, Inc. Pattern-enhanced spatial correlation of test structures to die level responses
TWI771983B (zh) * 2021-04-14 2022-07-21 國立中山大學 氮化鎵高電子移動率電晶體的缺陷檢測方法
CN113743445B (zh) * 2021-07-15 2024-06-04 上海朋熙半导体有限公司 目标对象识别方法、装置、计算机设备和存储介质
CN117890765A (zh) * 2024-01-17 2024-04-16 张家港莱荟科技有限公司 一种连续式集成电路测试系统及其测试方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009516832A (ja) 2005-11-18 2009-04-23 ケーエルエー−テンカー テクノロジィース コーポレイション 検査データと組み合わせて設計データを使用するための方法及びシステム
JP2012247409A (ja) 2010-07-27 2012-12-13 Applied Materials Israel Ltd 最適化された純度による欠陥分類
JP2013224942A (ja) 2012-04-19 2013-10-31 Applied Materials Israel Ltd 自動欠陥分類のための未知欠陥除去の最適化
US20160189055A1 (en) 2014-12-31 2016-06-30 Applied Materials Israel Ltd. Tuning of parameters for automatic classification
WO2016194210A1 (ja) 2015-06-04 2016-12-08 株式会社日立ハイテクノロジーズ 欠陥画像分類装置および欠陥画像分類方法
US20180314984A1 (en) 2015-08-12 2018-11-01 Entit Software Llc Retraining a machine classifier based on audited issue data

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7162073B1 (en) * 2001-11-30 2007-01-09 Cognex Technology And Investment Corporation Methods and apparatuses for detecting classifying and measuring spot defects in an image of an object
US8165384B1 (en) * 2003-11-19 2012-04-24 Kla-Tencor Corporation Defect classification
US7729529B2 (en) * 2004-12-07 2010-06-01 Kla-Tencor Technologies Corp. Computer-implemented methods for detecting and/or sorting defects in a design pattern of a reticle
US7570796B2 (en) * 2005-11-18 2009-08-04 Kla-Tencor Technologies Corp. Methods and systems for utilizing design data in combination with inspection data
JP4908995B2 (ja) * 2006-09-27 2012-04-04 株式会社日立ハイテクノロジーズ 欠陥分類方法及びその装置並びに欠陥検査装置
US7756658B2 (en) * 2008-05-14 2010-07-13 Kla-Tencor Corp. Systems and methods for detecting defects on a wafer and generating inspection results for the wafer
US8140514B2 (en) * 2008-11-26 2012-03-20 Lsi Corporation Automatic classification of defects
JP5591675B2 (ja) * 2010-12-06 2014-09-17 株式会社ニューフレアテクノロジー 検査装置および検査方法
US9607233B2 (en) * 2012-04-20 2017-03-28 Applied Materials Israel Ltd. Classifier readiness and maintenance in automatic defect classification
US9430743B2 (en) * 2014-03-06 2016-08-30 Kla-Tencor Corp. Composite defect classifier
US9898811B2 (en) * 2015-05-08 2018-02-20 Kla-Tencor Corporation Method and system for defect classification
US9922269B2 (en) * 2015-06-05 2018-03-20 Kla-Tencor Corporation Method and system for iterative defect classification
US10436720B2 (en) * 2015-09-18 2019-10-08 KLA-Tenfor Corp. Adaptive automatic defect classification
TWI737659B (zh) * 2015-12-22 2021-09-01 以色列商應用材料以色列公司 半導體試樣的基於深度學習之檢查的方法及其系統
TWI564741B (zh) * 2016-01-25 2017-01-01 敖翔科技股份有限公司 智慧型缺陷分類採樣方法、系統與電腦可讀取儲存媒體
US20180196867A1 (en) * 2017-01-09 2018-07-12 Alexander WIESMAIER System, method and computer program product for analytics assignment
US10713534B2 (en) * 2017-09-01 2020-07-14 Kla-Tencor Corp. Training a learning based defect classifier
WO2019067641A1 (en) * 2017-09-26 2019-04-04 Aquifi, Inc. SYSTEMS AND METHODS FOR VISUAL INSPECTION BASED ON INCREASED REALITY

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009516832A (ja) 2005-11-18 2009-04-23 ケーエルエー−テンカー テクノロジィース コーポレイション 検査データと組み合わせて設計データを使用するための方法及びシステム
JP2012247409A (ja) 2010-07-27 2012-12-13 Applied Materials Israel Ltd 最適化された純度による欠陥分類
JP2013224942A (ja) 2012-04-19 2013-10-31 Applied Materials Israel Ltd 自動欠陥分類のための未知欠陥除去の最適化
US20160189055A1 (en) 2014-12-31 2016-06-30 Applied Materials Israel Ltd. Tuning of parameters for automatic classification
WO2016194210A1 (ja) 2015-06-04 2016-12-08 株式会社日立ハイテクノロジーズ 欠陥画像分類装置および欠陥画像分類方法
US20180314984A1 (en) 2015-08-12 2018-11-01 Entit Software Llc Retraining a machine classifier based on audited issue data

Also Published As

Publication number Publication date
CN109583465B (zh) 2024-02-02
KR102548769B1 (ko) 2023-06-27
KR20190037123A (ko) 2019-04-05
CN109583465A (zh) 2019-04-05
TWI776945B (zh) 2022-09-11
TW201915770A (zh) 2019-04-16
JP2019075553A (ja) 2019-05-16
US11037286B2 (en) 2021-06-15
US20190096053A1 (en) 2019-03-28

Similar Documents

Publication Publication Date Title
JP7286290B2 (ja) 半導体試料の欠陥を分類する方法およびそのシステム
US11526979B2 (en) Method of defect classification and system thereof
KR102110755B1 (ko) 자동 결함 분류를 위한 알려지지 않은 결함 리젝션의 최적화
KR102137184B1 (ko) 자동 및 수동 결함 분류의 통합
CN109598698B (zh) 用于对多个项进行分类的系统、方法和非暂时性计算机可读取介质
JP7254921B2 (ja) 半導体試料の欠陥の分類
JP4443270B2 (ja) 欠陥分類方法
US20220222806A1 (en) Machine learning-based classification of defects in a semiconductor specimen
US11592400B2 (en) System, method and computer program product for object examination
US10921334B2 (en) System, method and computer program product for classifying defects
KR20190098271A (ko) 광학 도구에 의해 캡처되는 결함 및 분류기를 위한 진단 방법
TWI772735B (zh) 對半導體取樣中的缺陷進行分類的方法及其系統

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220829

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230524

R150 Certificate of patent or registration of utility model

Ref document number: 7286290

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150