JP7316867B2 - 半導体画像処理装置 - Google Patents

半導体画像処理装置 Download PDF

Info

Publication number
JP7316867B2
JP7316867B2 JP2019137061A JP2019137061A JP7316867B2 JP 7316867 B2 JP7316867 B2 JP 7316867B2 JP 2019137061 A JP2019137061 A JP 2019137061A JP 2019137061 A JP2019137061 A JP 2019137061A JP 7316867 B2 JP7316867 B2 JP 7316867B2
Authority
JP
Japan
Prior art keywords
image
semiconductor
semiconductor image
discriminator
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019137061A
Other languages
English (en)
Other versions
JP2021022056A (ja
Inventor
篤 中島
ユー ヤン ウン
祐子 河野
拓司 大橋
知宏 井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kioxia Corp
Original Assignee
Kioxia Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kioxia Corp filed Critical Kioxia Corp
Priority to JP2019137061A priority Critical patent/JP7316867B2/ja
Priority to US16/933,441 priority patent/US11715189B2/en
Publication of JP2021022056A publication Critical patent/JP2021022056A/ja
Application granted granted Critical
Publication of JP7316867B2 publication Critical patent/JP7316867B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/30Circuit design
    • G06F30/32Circuit design at the digital level
    • G06F30/33Design verification, e.g. functional simulation or model checking
    • G06F30/3308Design verification, e.g. functional simulation or model checking using simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • G06T2207/10061Microscopic image from scanning electron microscope
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30148Semiconductor; IC; Wafer

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Exposure And Positioning Against Photoresist Photosensitive Materials (AREA)
  • Image Processing (AREA)

Description

本発明の実施形態は、半導体画像処理装置に関する。
半導体装置のレイアウトを表すCAD設計図面に基づいて、露光装置を用いて半導体装置を製造する場合、CAD設計図面通りに半導体装置が製造されたか否かを検証する必要がある。このような検証に、GAN(Generative Adversarial Networks:敵対的生成ネットワーク)を用いる研究が進められている。GANを用いることで、半導体装置の撮像画像(以下、半導体撮像画像)を推測した半導体画像を生成することができ、半導体装置を実際に製造する前に、CAD設計図面に基づいて所望の半導体装置が製造されるか否かを評価することができる。
半導体装置の製造には、露光装置が用いられる。露光装置では、半導体処理基板に電子線やX線等の荷電粒子線を照射して描画処理を行う。その際、露光量やフォーカス条件等の露光条件によって、半導体装置の出来栄えが変化する。このため、GANを用いてCAD設計図面から半導体画像を生成する際にも、露光条件を考慮に入れなければ、信頼性の高い半導体画像を生成することができない。
特許4589315号公報
本発明の一態様は、信頼性の高い半導体画像を生成可能な半導体画像処理装置を提供するものである。
本実施形態によれば、第1半導体画像を入力する画像入力部と、
露光条件を入力する露光条件入力部と、
前記第1半導体画像の解像度を落としながら、前記露光条件を考慮に入れて特徴量を抽出する処理を行った後に、解像度を高くして、第2半導体画像を生成する生成器と、
入力された画像が前記第2半導体画像か、予め用意した第3半導体画像かを判別する判別器と、を備え、
前記生成器は、前記判別器が判別した結果に基づいて、前記判別器が前記第2半導体画像を誤って前記第3半導体画像と判別するように学習を行い、
前記判別器は、前記第2半導体画像を誤って前記第3半導体画像と判別しないように、かつ前記第3半導体画像を誤って前記第2半導体画像と判別しないように学習を行う、半導体画像処理装置が提供される。
第1の実施形態による半導体画像処理装置の概略構成を示すブロック図。 生成器の処理動作を模式的に示す図。 第1の実施形態による半導体画像処理装置の学習時の処理の流れを示す図。 推論時の処理の流れを示す図。 推論処理の処理動作を示すフローチャート。 図1の半導体画像処理装置のハードウェア構成を示すブロック図。 パッチの一例を示す図。 第2の実施形態による半導体画像処理装置の概略構成を示すブロック図。 (a)と(b)は第2半導体画像及び第3半導体画像から一部の部分画像を切り出す例を示す図。 第2の実施形態による半導体画像処理装置の学習時の処理の流れを示す図。 第2の実施形態による半導体画像処理装置の学習時の処理動作を示すフローチャート。 第1と第3半導体画像の全組合せを示す図。
以下、図面を参照して、半導体画像処理装置の実施形態について説明する。以下では、システムの主要な構成部分を中心に説明するが、半導体画像処理装置には、図示又は説明されていない構成部分や機能が存在しうる。
(第1の実施形態)
図1は第1の実施形態による半導体画像処理装置1の概略構成を示すブロック図である。図1の半導体画像処理装置1は、画像入力部2と、露光条件入力部3と、生成器4と、判別器5と、出力部6とを備えている。
画像入力部2は第1半導体画像を入力する。第1半導体画像とは、例えば、処理済半導体装置を製造する元となるCAD図面である。処理済み半導体装置とは、実際に製造された半導体装置を指す。なお、第1半導体画像はCAD図面以外でもよいが、その具体例は後述する。CAD図面は、例えばモノクロの線図情報である。CAD図面は、処理済半導体装置の表面の線図情報でもよいし、断面の線図情報でもよい。また、処理済半導体装置が複数層からなる場合に、各層ごとの複数のCAD図面を設けてもよい。
露光条件入力部3は露光条件を入力する。露光条件とは、処理済半導体装置を製造する際に用いられる不図示の露光機の設定パラメータである露光量やフォーカス条件である。フォーカス条件は、例えばデフォーカス量である。
露光条件を入力するのは、以下の理由からである。半導体装置を製造する際のフォトリソグラフィの主な処理手順には、成膜、レジスト塗布、露光、現像、エッチング、アッシングがあり、これらの処理手順を何度も繰り返すことで、半導体装置の半導体回路が複数層にわたって形成される。半導体製造装置に設定すべきパラメータは数多いが、特に露光機に設定する露光条件のうち露光時の露光量とフォーカス条件が半導体回路の出来に大きく影響する。露光量は露光光を当て続ける時間を表すパラメータ、フォーカス条件は露光光が結像する焦点位置を調整するためのレンズの位置のパラメータである。
ネガ型レジストの場合、露光量が多ければレジストが固まってエッチング時に残りやすくなるため、その後のアッシング時にレジストの下の半導体回路も残りやすくなる。少なければ十分には固まらず、レジストが残りにくく、その下の半導体回路も残らなかったり崩れたりする。
また、フォーカスが合っていれば、半導体装置製造者の意図した箇所のみに強く露光光が当たりレジストが残りやすくなるが、ずれていればぼやけてしまい、露光光が弱くなったうえ広がるため、レジストが残りにくく、その下の半導体回路でも残らなかったり崩れたり、意図した幅より広い配線ができたりする。
ポジ型レジストの場合は逆に露光光が十分当たった箇所ほどエッチング時に除去されやすくなるが、十分当たらなかった場合は除去されず、その下の半導体回路は繋がったままになったりする。
このような事情から、本実施形態では、露光条件を考慮に入れて、後述する第2半導体画像を生成する。
図1の生成器4は、第1半導体画像の二次元解像度を段階的に落としながら、露光条件を考慮に入れて特徴量を抽出する処理を行った後に、二次元解像度を段階的に高くして、第2半導体画像を生成する。第2半導体画像とは、第3半導体画像を推測するために生成器4により生成される半導体推測画像である。第3半導体画像とは、例えば処理済半導体装置を所定の露光条件で実際に製造した後、撮影した画像である。なお、第2半導体画像と第3半導体画像は、上述した画像以外でもよいが、その具体例は後述する。生成器4は、後述するように第1半導体画像、第2半導体画像、及び露光条件をセットにして判別器5と出力部6に送る。出力部6は、例えば、第1半導体画像、第2半導体画像、及び露光条件を不図示の表示装置に出力する。あるいは、出力部6は、第1半導体画像、第2半導体画像、及び露光条件をセットにして不図示の記録装置に記録する。
判別器5は、入力された画像が第1半導体画像と第2半導体画像、又は第1半導体画像と予め用意した第3半導体画像かを判別する。すなわち、判別器5は、第2半導体画像が第3半導体画像と同じであるか否かの真偽判断を行う。
生成器4は、判別器5が判別した結果に基づいて、判別器5が第2半導体画像を誤って第3半導体画像と判別するように学習を行う。より詳細には、生成器4は、判別器5が判別した真偽判別結果に基づいて第2半導体画像の損失を計算し、損失ができるだけ小さくなるように学習を行う。生成器4は、判別器5を騙せるように、第3半導体画像にできるだけ似せた第2半導体画像を生成する。
より具体的には、生成器4は、GANを構成する第1ニューラルネットワークに第1半導体画像と露光条件を入力し、判別器5による真偽判定結果に基づいて第1ニューラルネットワークの重み係数等を更新し、更新された第1ニューラルネットワークを用いて、新たな第2半導体画像を生成する。
判別器5は、GANを構成する第2ニューラルネットワークに、第1半導体画像と生成器4で生成された第2半導体画像、又は第1半導体画像と第3半導体画像を入力し、入力された第2半導体画像が第3半導体画像であるか否かの真偽判別を行う。判別器5は、第2半導体画像を誤って第3半導体画像と判別しないように、かつ、第3半導体画像を誤って第2半導体画像と判別しないように、学習を行い、第2ニューラルネットワークの重み係数等を更新する。
このように、生成器4と判別器5がそれぞれ学習処理を行うことで、GANを構成する第1ニューラルネットワークと第2ニューラルネットワークを更新して、最終的に第3半導体画像に類似する第2半導体画像を生成する。
図1の半導体画像処理装置1は、学習データ蓄積部7を備えていてもよい。学習データ蓄積部7は、上述した第1半導体画像、第3半導体画像及び露光条件など、学習処理に使用される各種情報を記憶する。
図1の半導体画像処理装置1は、生成器4と判別器5が競い合うことにより、第2半導体画像を第3半導体画像に近づけるものであり、上述したGANを構成する第1ニューラルネットワークと第2ニューラルネットワークを更新しながら、第2半導体画像の生成と、第2半導体画像の真偽判別を行う。この処理を本明細書では学習処理と呼ぶ。
通常のGANでは、生成器4への入力が乱数であるため、生成器4で意図通りの画像を生成するのは困難である。そこで、本実施形態では、Conditional GANの一種のpix2pixと呼ばれる技術を利用して、CAD図面等の第1半導体画像を生成器4に与えることで、目標とする第3半導体画像に類似した第2半導体画像を生成するようにしている。
図2は生成器4の処理動作を模式的に示す図である。生成器4における第1ニューラルネットワークは、等価的にエンコーダ4aとデコーダ4bの処理を行う。エンコーダ4aは、CAD図面等の第1半導体画像を条件(Condition)として入力し、エンコード後の画像を出力する。図2では、第1半導体画像を模式的に矩形形状で表している。矩形形状の縦方向は二次元方向の解像度を表し、横方向はチャネルを表している。チャネルとは、例えば光の三原色である赤緑青の各色の情報である。エンコーダ4aは、例えば複数段階に分けて、エンコード処理を行う。エンコード処理では、まずは、入力された第1半導体画像の解像度を落とさずに畳み込み演算(Conv1)を行う(出力0)。その後は、エンコードの段階が進むに従って、解像度を1/2倍ずつ低くし、かつチャネルを2倍ずつ増やす(DnConv1~DnConv4)。チャネルを段階的に増やすことで、特徴量を段階的に抽出することができる(出力1~4)。
エンコード処理にて特徴量が抽出されると、デコーダ4bは、エンコード処理で抽出された特徴量を用いて、例えば複数段階に分けて、デコード処理を行う(出力5~8)。デコード処理では、デコードの段階が進むに従って、解像度を2倍ずつ大きくし、かつチャネルを1/2倍ずつ小さくし(UpConv1~UpConv4)、元の解像度が復活できた段階で、解像度を変えずに畳み込み演算を行うことで(Conv2)、最終的に第2半導体画像を生成する。
エンコード処理で、段階的に解像度を低くすると、位置情報が失われることになる。このままでは、デコード処理を行う際に、位置情報を正しく把握できなくなる。そこで、図2の矢印線に示すように、デコード処理の各段階では、エンコード処理の各段階での半導体画像を参照して、新たな半導体画像を生成する。これにより、位置情報を失うことなく、第2半導体画像を生成できる。
生成器4は、エンコーダ4aが段階的に特徴量の抽出を行うエンコード処理の最中、又はデコーダ4bがデコード処理を行っている最中に露光条件を入力し、露光条件を考慮に入れて特徴量の抽出を行う。すなわち、生成器4は、特徴量の抽出処理を行っている最中に露光条件を入力する。露光条件は、位置情報を含まないスカラー値である。よって、エンコード処理を行う前に、第1半導体画像とともに露光条件を入力しても、特徴量の抽出にあまり影響を与えない。また、第1半導体画像の入力直後に露光条件を入力すると、畳み込み演算時に無駄な計算が発生する。特徴量の抽出がある程度進んだ段階で露光条件を入力すると、抽出された特徴量を露光条件にて調整することができ、畳み込みの無駄な計算を減らすことができる。
図2の例では、エンコード処理が終わった段階で露光条件を入力する例を示しているが、エンコード処理又はデコード処理のどの段階で露光条件を入力してもよい。
図3は第1の実施形態による半導体画像処理装置1の学習時の処理の流れを示す図である。図3に示すように、生成器4には、第1半導体画像と露光条件が入力される。判別器5には、第1データセットD1と第2データセットD2のいずれかが選択されて入力される。第1データセットD1は、CAD図面等の第1半導体画像と、露光条件と、生成器4で生成された第2半導体画像とを有する。第2データセットD2は、第1半導体画像と、露光条件と、処理済半導体装置を実際に撮影した第3半導体画像とを有する。
判別器5には、第1データセットD1における第1半導体画像、露光条件及び第2半導体画像がチャネル方向に重ねられて入力される。同様に、判別器5には、第2データセットD2における第1半導体画像、露光条件及び第3半導体画像がチャネル方向に重ねられて入力される。そして、判別器5は、第1データセットD1内の第2半導体画像が第2データセットD2内の第3半導体画像であるか否かの真偽判断を行う。判別器5の真偽判別結果は、生成器4にフィードバックされる。生成器4は、判別器5の真偽判別結果を学習し、判別器5が第3半導体画像であると誤って判別するような第2半導体画像を生成する。すなわち、生成器4は、判別器5を騙すために、より第3半導体画像に類似した第2半導体画像を生成するべく学習を行う。判別器5は、生成器4で生成された第2半導体画像が第3半導体画像でないことを見抜くように、また、第3半導体画像が第3半導体画像であると正しく判別できるよう学習を行う。
このように、生成器4と判別器5が対立しながら第2半導体画像の生成と、その真偽判別とを繰り返すことで、最終的に、第3半導体画像に類似した第2半導体画像を生成することができる。
生成器4と判別器5による学習が終了した場合、生成器4が学習により生成した第1ニューラルネットワークを推論(推測)に利用することができる。図4は推論時の処理の流れを示す図である。推論時には、推論するべきCAD図面等の第4半導体画像と露光条件が生成器4に入力される。生成器4は、学習済の第1ニューラルネットワークに第4半導体画像と露光条件を入力して演算を行い、第1ニューラルネットワークから第5半導体画像を出力する。第5半導体画像は、第4半導体画像に基づいて生成された処理済半導体装置を撮影した実際の半導体画像を推測した半導体画像である。
これにより、実際に処理済半導体装置を製造することなく、第1ニューラルネットワークを用いて、種々の露光条件での第5半導体画像を推測できる。よって、露光条件を変更した場合に処理済半導体装置の出来栄えがどうなるかを、実際に製造する前に事前に予測できる。
図5は推論処理の処理動作を示すフローチャートである。図5のフローチャートは、生成器4と判別器5が学習処理を終了した後に実行される。まず、生成器4に、CAD図面等の第4半導体画像と露光条件を入力する(ステップS1)。次に、生成器4は、学習済のGANの第1ニューラルネットワークに第4半導体画像と露光条件を入力して、第5半導体画像を生成する(ステップS2)。より詳しくは、生成器4は、第4半導体画像と露光条件を、学習済の第1ニューラルネットワークに入力して計算を行い、第1ニューラルネットワークから出力されたデータが第5半導体画像になる。
図6は図1の半導体画像処理装置1のハードウェア構成を示すブロック図である。図6の半導体画像処理装置1は、ネットワークモデル記憶部11と、学習用プロセッサ12と、CPU13と、学習用画像記憶部14と、画像入力インタフェース部15と、RAM16と、ROM17と、表示用GPU18とを共通のバス19に接続した構成であり、表示用GPU18には表示装置20が接続されている。
ネットワークモデル記憶部11は、GANを構成する生成器4の第1ニューラルネットワークの重み情報等と判別器5の第2ニューラルネットワークの重み情報等を記憶する。学習用プロセッサ12は、生成器4と判別器5の学習処理を実行する。具体的には、学習用プロセッサ12は、図1の半導体画像処理装置1の処理を行う。なお、図1の半導体画像処理装置1の一部の処理は、学習用プロセッサ12以外のハードウェアが行ってもよい。
CPU13は、ROM17からプログラムを読み出して実行することにより、半導体画像処理装置1の全体的な制御を行う。その際、CPU13はRAM16をワークメモリとして使用する。学習用プロセッサ12は、CPU13の指示の下で生成器4と判別器5の学習処理を実行する。学習用画像記憶部14は、学習処理に用いられる第1半導体画像、第3半導体画像、及び露光条件を記憶する。画像入力インタフェース部15は、画像入力部2と露光条件入力部3から入力された第1半導体画像、第3半導体画像及び露光条件を学習用画像記憶部14に記憶する制御を行う。表示用GPU18は、CPU13の指示の下で、必要に応じて、第1半導体画像、第2半導体画像及び第3半導体画像を表示装置20に表示する制御を行う。
このように、第1の実施形態による半導体画像処理装置1は、生成器4で第1半導体画像の特徴量を抽出する処理を行っている最中に露光条件を入力するため、露光条件を考慮に入れた上で第1半導体画像の特徴量を抽出でき、生成器4で生成される第2半導体画像の品質を向上できる。すなわち、生成器4で生成される第2半導体画像は、露光機に設定される露光条件を考慮に入れたものになる。よって、露光条件によって第2半導体画像と第3半導体画像の類似度にばらつきが生じるおそれがなくなり、処理済半導体装置を実際に撮影した第3半導体画像に類似した第2半導体画像を生成できる。
(第2の実施形態)
通常のGANの判別器では、入力画像の全体を対象として、複数段の畳み込み演算で真偽判断を行うのが一般的であるが、これでは細かい箇所の特徴を捉えられず、主に全体的な整合性に基づいて真偽判別を行うことになる。よって、細部の再現性は重視されず、ぼやけた生成結果になりがちである。
このため、pix2pixの判別器では、PatchGANを用いることで、高精細な画像出力を可能にしている。PatchGANは、画像を複数の部分画像(パッチとも呼ぶ)に分けて、各パッチに対して複数段の畳み込み演算を行って真偽判別を行い、各パッチの真偽判別結果を平均して最終的な真偽判別を行う。これにより、細かい特徴を踏まえた真偽判別が可能になる。pix2pixの生成器は、判別器を騙すために学習を行うことで、細部まで精細な画像を生成することができる。
図7はパッチ21の一例を示す図である。図7のパッチ21は矩形状であり、二次元方向に離散的に設定される。隣り合うパッチは一部が重なり合っている。pix2pixの判別器は、各パッチ21ごとに真偽判別を行い、全パッチ21の真偽判定結果を平均して最終的な真偽判別を行う。例えば、パッチ21のサイズが78×78画素で、二次元方向に16画素単位で複数のパッチ21が設定される場合、画像サイズを126×126画素とすると、画像内に、4×4=16個のパッチ21が存在することになる。
上述したPatchGANでは、パッチ位置が離散的に設定されることから、処理上のムラが生じ、判別器が厳しく真偽判別を行う箇所と、緩く真偽判別を行う箇所が生じる。厳しく真偽判別を行う箇所では、生成器は処理済半導体装置の撮影画像に類似する半導体画像を生成するように学習を行うが、緩く真偽判別を行う箇所では、生成器の学習が疎かになる。このため、パッチ位置によって、生成器が生成する半導体画像にムラが生じる。画像内の各パッチ位置が固定の場合には、上述したムラにより、生成した半導体画像に格子状のノイズが生じてしまう。
例えば、パッチ21が16画素単位で二次元方向に移動する場合、16画素周期で各パッチ21の学習結果に差異が生じ、16画素周期でムラが生じる。これが互いに重なり合って、64×64画素程度のサイズのノイズとなる。この種のノイズは、入力画像が自然画像の場合は目立たないが、CAD図面等のように同色の領域が広い入力画像の場合には、この領域内でムラが目立ってしまう。また、判別器の処理上のムラはPatchGANで顕著だが、一般的な判別器であっても発生しうる。第2の実施形態は、上述したムラによるノイズを軽減するものである。
図8は第2の実施形態による半導体画像処理装置1aの概略構成を示すブロック図である。図8の半導体画像処理装置1aは、図1の半導体画像処理装置1の構成に加えて、画像切り出し部8と、切り出し位置決定部9とを備えている。
画像切り出し部8は、第1半導体画像と第2半導体画像、または、第1半導体画像と第3半導体画像からそれぞれ一部の部分画像を切り出す。画像切り出し部8は、第2半導体画像から切り出された第1半導体部分画像と第2半導体部分画像、または、第1半導体部分画像と第3半導体画像から切り出された第3半導体部分画像と、露光条件とを判別器5に入力する。
切り出し位置決定部9は、第1半導体画像、第2半導体画像及び第3半導体画像の切り出し位置が固定にならないように、切り出し位置を決定する。切り出し位置決定部9は、切り出し位置をランダムに設定してもよいし、生成器4及び判別器5が学習を行うたびに、n画素(nは1以上の整数)ずつ切り出し位置をずらしてもよい。
図9(a)及び図9(b)は第1半導体画像、第2半導体画像及び第3半導体画像から一部の部分画像を切り出す例を示す図である。図9(a)の実線枠がN回目の学習時に画像切り出し部8で切り出される部分画像22を示している。図9(b)に示すように、(N+1)回目の学習時には、N回目とは異なる切り出し位置で部分画像22が切り出されるようにしている。判別器5は、切り出された部分画像22を、図9(a)及び図9(b)の小枠に示すように、さらに細かい複数の小部分画像23すなわちパッチに分けて、小部分画像23ごとに真偽判別を行う。そして、判別器5は、複数の小部分画像23の真偽判別結果の平均を取る等して、第2半導体部分画像が第3半導体部分画像であるか否かの真偽判断を行う。第2半導体部分画像と第3半導体部分画像は、学習のたびに切り出し位置が異なるため、切り出し位置が固定のときとは異なり、判別器5の処理上のムラが、切り出し前の画像上の位置で考えれば一箇所には固定されないため、まんべんなく学習することができ、第2半導体画像に現れる格子状のノイズを抑制できる。
本実施形態では、部分画像22の切り出し位置が、学習を行うたびに異なるため、各部分画像22に含まれる小部分画像23の境界位置が各学習ごとに相違し、各小部分画像23ごとに真偽判別を行って生成した第2半導体部分画像内に周期的なノイズが現れなくなる。
なお、図9(a)と図9(b)に示すように、各学習ごとに用いられる第2半導体画像と第3半導体画像は、必ずしも同じCAD図面に対応する半導体画像である必要はない。例えば、複数のCAD図面に対応する第2半導体画像や第3半導体画像を用いて、生成器4と判別器5の学習処理を行っても良い。
図10は第2の実施形態による半導体画像処理装置1aの学習時の処理の流れを示す図である。生成器4は、第1半導体画像と、第2半導体画像と、露光条件とを含む第1データセットD1を出力する。また、第1半導体画像と、第3半導体画像と、露光条件とを含む第2データセットD2が予め用意される。画像切り出し部8は、第1データセットD1と第2データセットD2のいずれか一方を選択して、画像切り出しを行う。例えば、画像切り出し部8は、第1データセットD1と第2データセットD2を交互に選択して、切り出し条件決定部で決定された切り出し位置にて、部分画像22を切り出す。
判別器5は、第1データセットD1から切り出された第1半導体画像、第2半導体画像及び露光条件をチャネル方向に重ねて入力し、同様に、第2データセットD2から切り出された第1半導体画像、第3半導体画像及び露光条件をチャネル方向に重ねて入力する。判別器5は、第1データセットD1内の切り出された第2半導体部分画像が第2データセットD2内の切り出された第3半導体部分画像であるか否かを判別する。判別器5による判別結果は、判別器5自体と、生成器4にフィードバックされる。判別器5は正しく第1データセットD1か、第2データセットD2かを判別出来るように学習を行う。生成器4は、判別器5による真偽判別結果を考慮に入れて学習を行う。
図11は第2の実施形態による半導体画像処理装置1aの学習時の処理動作を示すフローチャートである。このフローチャートは、(N-1)回分の学習を行った後(ステップS11)、N回目(Nは2以上の整数)の学習を行う場合の処理動作を示している。
N回目の学習を行う際に第1データセットD1と第2データセットD2のどちらかを選択する(ステップS12)。第1データセットD1を選択した場合には、学習データ蓄積部7から第1半導体画像と露光条件を読み出して、生成器4に入力する(ステップS13)。次に、生成器4は、(N-1)回目の判別器5の判別結果、第1半導体画像及び露光条件に基づいて、第2半導体画像を生成する(ステップS14)。
一方、ステップS12で第2データセットD2を選択した場合には、学習データ蓄積部7から第1半導体画像、第3半導体画像及び露光条件を読み出す(ステップS15)。
次に、切り出し位置決定部9は、第1半導体画像と第2半導体画像、または、第1半導体画像と第3半導体画像における部分画像22の切り出し位置を決定する(ステップS16)。次に、画像切り出し部8は、決定された切り出し位置にて、第1半導体画像と第2半導体画像または第1半導体画像と第3半導体画像を切り出して、第1半導体部分画像と第2半導体部分画像、または第1半導体部分画像と第3半導体部分画像を生成する(ステップS17)。
次に、判別器5は、第1データセットD1から切り出された第1半導体部分画像、第2半導体部分画像及び露光条件をチャネル方向に重ねて入力するか、もしくは、第2データセットD2から切り出された第1半導体部分画像、第3半導体部分画像及び露光条件をチャネル方向に重ねて入力する(ステップS18)。そして、判別器5は、第2半導体部分画像が第3半導体部分画像であるか否かの真偽判別を行う(ステップS19)。判別器5は、真偽判別結果に基づいて学習するとともに、真偽判別の結果を生成器4にフィードバックする(ステップS20)。生成器4は、判別器5による真偽判別の結果に基づいて損失を計算し、計算された損失に基づいて学習処理を行う(ステップS21)。
その後、所定の条件に到達するまで、生成器4及び判別器5による学習を繰り返す(ステップS22)。ここで、所定の条件とは、繰り返しの学習回数が規定の回数に達した場合や、第2半導体画像の精度が十分なレベルに達した場合や、第2半導体画像の精度が十分なレベルに達する見込みがない場合などである。
第2の実施形態による半導体画像処理装置1aの推論処理は図4及び図5と同様である。また、半導体画像処理装置1aのハードウェア構成は図6と同様である。図8の画像切り出し部8と切り出し位置決定部9の処理動作は、例えば図6の学習用プロセッサ12にて実行することができる。
このように、第2の実施形態では、生成器4で生成された第2半導体画像と予め用意される第3半導体画像のそれぞれについて、切り出し位置を変えながら切り出した第2半導体部分画像と第3半導体部分画像が一致するか否かの真偽判別を行って、その判別結果を生成器4にフィードバックして第2半導体画像を生成し直す学習を繰り返す。これにより、第2半導体画像内のムラを目立たなくすることができる。
上述した説明では、第2の実施形態による半導体画像処理装置1aにおいても、第1の実施形態と同様に露光条件を考慮に入れて特徴量を抽出する例を説明したが、第2の実施形態による半導体画像処理装置1aでは、露光条件を考慮に入れて特徴量を抽出することは必ずしも必須ではない。
(第3の実施形態)
上述した第1及び第2の実施形態では、第1半導体画像が例えばCAD図面、第3半導体画像が例えば処理済半導体装置を実際に撮影した画像、第2半導体画像が例えば第3半導体画像を推測した画像である例を示したが、これ以外にも考えられる。
まず、処理済半導体装置の撮像画像には、電子顕微鏡画像、光学顕微鏡画像、及び回折像画像の3つがある。電子顕微鏡画像とは、例えばSEM(Scanning Electron Microscopy)画像、TEM(Transmission Electron Microscopy)画像、又はSTEM(Scanning Transmission Electron Microscope)画像などである。光学顕微鏡画像は、光学レンズで拡大した光像を撮像センサやカメラ等で撮影した画像である。使用する光の周波数帯域は、可視光、紫外線、極端紫外線(EUV:Extreme Ultraviolet)、X線、赤外線などであり、光の周波数帯域に応じた撮像センサを用いる必要がある。
以上から、第1半導体画像と第3半導体画像の候補には、CAD図面、電子顕微鏡画像、光学顕微鏡画像、及び回折光画像の4つがある。第2半導体画像は、学習済の生成器4を用いて第3半導体画像を推測した画像である。
図12は第1と第3半導体画像の全組合せを示す図である。図12の1)は、第1半導体画像がCAD図面で、第3半導体画像が電子顕微鏡画像であり、2)は1)の逆である。3)は第1半導体画像がCAD図面で、第3半導体画像が光学顕微鏡画像であり、4)は3)の逆である。5)は第1半導体画像がCAD図面で、第3半導体画像が回折像画像であり、6)は5)の逆である。7)は第1半導体画像が光学顕微鏡画像で、第3半導体画像が電子顕微鏡画像であり、8)は7)の逆である。9)は第1半導体画像が回折像画像で、第3半導体画像が電子顕微鏡画像であり、10)は9)の逆である。11)は第1半導体画像が回折像画像で、第3半導体画像が光学顕微鏡画像であり、12)は11)の逆である。
このように、第1半導体画像と第3半導体画像の組合せとして、計12種類が考えられる。本実施形態では、CAD図面、電子顕微鏡画像、光学顕微鏡画像、及び回折光画像の中から任意に選択された二つのうち一方に基づいて、露光条件を考慮に入れて他方を推測した半導体画像を生成することができる。これにより、実際に半導体装置を製造する前に、製造済の半導体装置の撮像画像に類似する半導体画像を生成できる。
また、第1~第3の実施形態による半導体画像処理装置1、1aによれば、CAD図面の一部について第3半導体画像が用意されている場合に、その第3半導体画像を利用して学習処理を行うことで、CAD図面の他の部分についての第3半導体画像を推測した第2半導体画像を生成することができる。このように、半導体画像処理装置1、1aは、内挿又は外挿処理により第2半導体画像を生成することができる。さらに、半導体画像処理装置1、1aは、いくつかの露光条件について第3半導体画像が用意されている場合に、その第3半導体画像を利用して学習処理を行うことで、その他の露光条件についての第3半導体画像を推測した第2半導体画像を生成することができる。
上述した実施形態で説明した半導体画像処理装置1、1aの少なくとも一部は、ハードウェアで構成してもよいし、ソフトウェアで構成してもよい。ソフトウェアで構成する場合には、半導体画像処理装置1、1aの少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD-ROM17等の記録媒体に収納し、コンピュータに読み込ませて実行させてもよい。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でもよい。
また、半導体画像処理装置1、1aの少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布してもよい。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布してもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 半導体画像処理装置、2 画像入力部、3 露光条件入力部、4 生成器、4a エンコーダ、4b デコーダ、5 判別器、6 出力部、7 学習データ蓄積部、8 画像切り出し部、9 切り出し位置決定部、11 ネットワークモデル記憶部、12 学習用プロセッサ、13 CPU、14 学習用画像記憶部、15 画像入力インタフェース部、16 RAM、17 ROM、18 表示用GPU、19 バス、21 パッチ、2 半導体部分画像

Claims (10)

  1. 第1半導体画像を入力する画像入力部と、
    露光条件を入力する露光条件入力部と、
    前記第1半導体画像の解像度を落としながら段階的に特徴量を抽出するエンコード処理、又は前記エンコード処理後に前記第1半導体画像の解像度を段階的に高くして第2半導体画像を生成するデコード処理の少なくとも一方を行っている最中に前記露光条件を入力し、前記露光条件を考慮に入れて前記特徴量を抽出して前記第2半導体画像を生成する生成器と、
    入力された画像が前記第2半導体画像か、予め用意した第3半導体画像かを判別する判別器と、を備え、
    前記生成器は、前記判別器が判別した結果に基づいて、前記判別器が前記第2半導体画像を誤って前記第3半導体画像と判別するように学習を行い、
    前記判別器は、前記第2半導体画像を誤って前記第3半導体画像と判別しないように、かつ前記第3半導体画像を誤って前記第2半導体画像と判別しないように学習を行う、半導体画像処理装置。
  2. 第1半導体画像を入力する画像入力部と、
    露光条件を入力する露光条件入力部と、
    前記第1半導体画像の解像度を落としながら段階的に特徴量を抽出するエンコード処理、又は前記エンコード処理後に前記第1半導体画像の解像度を段階的に高くして第2半導体画像を生成するデコード処理の少なくとも一方を行っている最中に前記露光条件を入力し、前記露光条件を考慮に入れて前記特徴量を抽出して前記第2半導体画像を生成する生成器と、
    前記第2半導体画像及び予め用意した第3半導体画像からそれぞれ部分画像を切り出す画像切り出し部と、
    前記部分画像の切り出し位置が固定にならないように、前記切り出し位置を決定する切り出し位置決定部と、
    入力された画像が前記第2半導体画像の部分画像か、前記第3半導体画像の部分画像かを判別する判別器と、を備え、
    前記生成器は、前記判別器が判別した結果に基づいて、前記判別器が前記第2半導体画像の部分画像を誤って前記第3半導体画像の部分画像と判別するように学習を行い、
    前記判別器は、前記第2半導体画像の部分画像を誤って前記第3半導体画像の部分画像と判別しないように、かつ前記第3半導体画像の部分画像を誤って前記第2半導体画像の部分画像と判別しないように学習を行う、半導体画像処理装置。
  3. 前記切り出し位置決定部は、前記切り出し位置をランダムに決定する、請求項2に記載の半導体画像処理装置。
  4. 前記切り出し位置決定部は、前記切り出し位置を所定量ずつずらすように決定する、請求項2に記載の半導体画像処理装置。
  5. 前記露光条件は、前記第1乃至第3半導体画像に対応する処理済半導体装置を製造する際に使用する露光機の露光量である、請求項1乃至4のいずれか一項に記載の半導体画像処理装置。
  6. 前記露光条件は、前記第1乃至第3半導体画像に対応する処理済半導体装置を製造する際に使用する露光機のフォーカス条件である、請求項1乃至4のいずれか一項に記載の半導体画像処理装置。
  7. 前記第1半導体画像は、処理済半導体装置を設計するための半導体設計画像であり、
    前記第3半導体画像は、前記処理済半導体装置を撮影した半導体撮像画像であり、
    前記第2半導体画像は、前記第3半導体画像を推測した半導体推測画像である、請求項1乃至のいずれか一項に記載の半導体画像処理装置。
  8. 前記第1半導体画像は、処理済半導体装置を撮影した半導体撮像画像であり、
    前記第3半導体画像は、処理済半導体装置を設計するための半導体設計画像であり、
    前記第2半導体画像は、前記第3半導体画像を推測した半導体推測画像である、請求項1乃至のいずれか一項に記載の半導体画像処理装置。
  9. 前記第1半導体画像は、処理済半導体装置を撮影した半導体撮像画像であり、
    前記第3半導体画像は、前記第1半導体画像とは異なる手法で前記処理済半導体装置を撮影した半導体撮像画像であり、
    前記第2半導体画像は、前記第3半導体画像を推測した半導体推測画像である、請求項1乃至のいずれか一項に記載の半導体画像処理装置。
  10. 前記半導体撮像画像は、電子顕微鏡で拡大された像の撮像画像、光学顕微鏡で拡大された像の撮像画像、又は回折像の撮像画像である、請求項乃至のいずれか一項に記載の半導体画像処理装置。
JP2019137061A 2019-07-25 2019-07-25 半導体画像処理装置 Active JP7316867B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019137061A JP7316867B2 (ja) 2019-07-25 2019-07-25 半導体画像処理装置
US16/933,441 US11715189B2 (en) 2019-07-25 2020-07-20 Semiconductor image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019137061A JP7316867B2 (ja) 2019-07-25 2019-07-25 半導体画像処理装置

Publications (2)

Publication Number Publication Date
JP2021022056A JP2021022056A (ja) 2021-02-18
JP7316867B2 true JP7316867B2 (ja) 2023-07-28

Family

ID=74187940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019137061A Active JP7316867B2 (ja) 2019-07-25 2019-07-25 半導体画像処理装置

Country Status (2)

Country Link
US (1) US11715189B2 (ja)
JP (1) JP7316867B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114981836A (zh) * 2020-01-23 2022-08-30 三星电子株式会社 电子设备和电子设备的控制方法
TWI748344B (zh) * 2020-02-14 2021-12-01 聚積科技股份有限公司 發光二極體調屏標準判定模型建立方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011159097A (ja) 2010-02-01 2011-08-18 Renesas Electronics Corp オブジェクト検出方法及びオブジェクト検出装置
JP2012177632A (ja) 2011-02-28 2012-09-13 Hitachi High-Technologies Corp 画像処理装置、及び画像処理を行うためのコンピュータープログラム
WO2017205537A1 (en) 2016-05-25 2017-11-30 Kla-Tencor Corporation Generating simulated images from input images for semiconductor applications

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040267397A1 (en) 2003-06-27 2004-12-30 Srinivas Doddi Optical metrology of structures formed on semiconductor wafer using machine learning systems
US7019311B1 (en) * 2004-03-25 2006-03-28 Sandia Corporation Laser-based irradiation apparatus and methods for monitoring the dose-rate response of semiconductor devices
WO2011155161A1 (ja) * 2010-06-11 2011-12-15 パナソニック株式会社 画像処理装置および画像処理方法
JP5751038B2 (ja) * 2010-12-20 2015-07-22 株式会社リコー 画像形成装置、画像形成方法、及び集積回路

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011159097A (ja) 2010-02-01 2011-08-18 Renesas Electronics Corp オブジェクト検出方法及びオブジェクト検出装置
JP2012177632A (ja) 2011-02-28 2012-09-13 Hitachi High-Technologies Corp 画像処理装置、及び画像処理を行うためのコンピュータープログラム
WO2017205537A1 (en) 2016-05-25 2017-11-30 Kla-Tencor Corporation Generating simulated images from input images for semiconductor applications

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Aitor Alvarez-Gila et al.,Adversarial Networks for Spatial Context-Aware Spectral Image Reconstruction from RGB,2017 IEEE International Conference on Computer Vision Workshops (ICCVW),2017年10月29日,https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8265274,IEL Online(IEEE Xplore)

Also Published As

Publication number Publication date
US11715189B2 (en) 2023-08-01
US20210027457A1 (en) 2021-01-28
JP2021022056A (ja) 2021-02-18

Similar Documents

Publication Publication Date Title
US10666873B2 (en) Exposure-related intensity transformation
Chen et al. Camera model identification framework using an ensemble of demosaicing features
JP6728365B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、記憶媒体
EP2312858B1 (en) Image processing apparatus, imaging apparatus, image processing method, and program
CN102907082B (zh) 摄像装置、图像处理装置、图像处理方法
JP4415188B2 (ja) 画像撮影装置
US11508038B2 (en) Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system
JP5831033B2 (ja) 撮像装置および距離情報取得方法
CN103426147B (zh) 图像处理装置、图像拾取装置和图像处理方法
JP7316867B2 (ja) 半導体画像処理装置
JP6711396B2 (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
WO2019056549A1 (zh) 图像增强方法以及图像处理装置
JP4677488B2 (ja) 静止画像、ビデオ、および映画のコンテンツベースのガウスノイズ低減
KR20110043833A (ko) 퍼지룰을 이용한 디지털 카메라의 다이나믹 레인지 확장모드 결정 방법 및 장치
CN115996322A (zh) 数字视频摄影用影像数据管理方法
JP4004736B2 (ja) 画像内へのウォーターマーク埋め込み
JP2002535859A5 (ja)
KR101437898B1 (ko) 단일 영상을 이용한 hdr 영상 생성 장치 및 방법
JP4885698B2 (ja) 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置
CN114862698B (zh) 一种基于通道引导的真实过曝光图像校正方法与装置
JP2016059051A (ja) 撮像装置および距離情報取得方法
Korus et al. Neural imaging pipelines-the scourge or hope of forensics?
JP2008141616A (ja) 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置
JP7159582B2 (ja) 監視ビデオにおけるデータの拡張方法及び装置
JP2021140758A5 (ja)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230718

R151 Written notification of patent or utility model registration

Ref document number: 7316867

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151