JP7209835B2 - 機械学習モデル予測における不確実性を減少させる方法 - Google Patents

Description

関連出願の相互参照
[0001] 本出願は、本明細書に全体として援用される、２０１８年１１月３０日に出願された欧州特許出願第１８２０９４９６．１号及び２０１９年６月２６日に出願された欧州特許出願第１９１８２６５８．５号の優先権を主張するものである。

[0002] 本明細書の記載は、一般に、マスク製造及びパターニングプロセスに関する。より詳細には、本記載は、パラメータ化（例えば、機械学習）モデル予測の不確実性を決定し、及び／又は減少させる装置及び方法に関する。

[0003] リソグラフィ投影装置は、例えば、集積回路（ＩＣ）の製造において使用され得る。このような場合、パターニングデバイス（例えば、マスク）は、ＩＣの個々の層に対応するパターン（「設計レイアウト」）を含むこと、又は提供することができ、及びこのパターンは、パターニングデバイス上のパターンを通してターゲット部分を照射するなどの方法により、放射感応性材料（「レジスト」）の層でコートされた基板（例えば、シリコンウェーハ）上のターゲット部分（例えば、１つ又は複数のダイを含む）上に転写され得る。一般に、単一の基板は、パターンがリソグラフィ投影装置によって連続して転写される複数の隣接するターゲット部分（一度に１つのターゲット部分）を含む。あるタイプのリソグラフィ投影装置においては、パターニングデバイス全体上のパターンが、一つの動作で１つのターゲット部分上に転写され、このような装置は、一般にステッパと呼ばれる。一般にステップアンドスキャン装置と呼ばれる代替装置では、投影ビームが、所与の基準方向（「スキャン」方向）にパターニングデバイスをスキャンすることに同期して、この基準方向に平行又は逆平行に基板を移動させる。パターニングデバイス上のパターンの異なる部分が、１つのターゲット部分に漸進的に転写される。一般に、リソグラフィ投影装置は、縮小率Ｍ（例えば、４）を有するので、基板を移動させる速度Ｆは、投影ビームがパターニングデバイスをスキャンする速度×１／Ｍとなる。本明細書に記載するようなリソグラフィデバイスに関するさらなる情報は、例えば、本明細書に援用される米国特許第６，０４６，７９２号から学ぶことができる。

[0004] パターニングデバイスから基板にパターンを転写する前に、基板は、プライミング、レジストコーティング、及びソフトベークなどの様々なプロシージャを経てもよい。露光後に、基板は、ポストベーク（ＰＥＢ）、現像、ハードベーク、及び転写されたパターンの測定／インスペクションなどの他のプロシージャ（「露光後プロシージャ」）を受けてもよい。この多数のプロシージャは、デバイス、例えばＩＣの個々の層を作るための基礎として使用される。基板は、次に、エッチング、イオン注入（ドーピング）、メタライゼーション、酸化、化学機械研磨など（全て、デバイスの個々の層を仕上げることを意図したもの）の様々なプロセスを経てもよい。デバイスに幾つかの層が必要とされる場合、プロシージャ全体又はそれの異形が、各層に対して繰り返される。最終的に、基板上の各ターゲット部分にデバイスが存在する。これらのデバイスは、次に、ダイシング又はソーイングなどの技術によって互いに分離され、その結果として、個々のデバイスがキャリア上に取り付けられること、ピンに接続されることなどが可能である。

[0005] 従って、半導体デバイスなどの製造デバイスは、一般的に、デバイスの様々なフィーチャ及び複数の層を形成するための多数の製作プロセスを用いて、基板（例えば半導体ウェーハ）を処理することを含む。このような層及びフィーチャは、一般的に、例えば、堆積、リソグラフィ、エッチング、化学機械研磨、及びイオン注入を用いて、製造及び処理される。複数のデバイスが、基板上の複数のダイ上で製作され、その後、個々のデバイスに分離されてもよい。このデバイス製造プロセスは、パターニングプロセスと見なすことができる。パターニングプロセスは、パターニングデバイス上のパターンを基板に転写するために、リソグラフィ装置においてパターニングデバイスを用いる光及び／又はナノインプリントリソグラフィなどのパターニングステップを含み、及び一般的に（但し任意選択的に）、現像装置によるレジスト現像、ベークツールを用いた基板のベーク、エッチング装置を用いたパターンを使用するエッチングなどの１つ又は複数の関連のパターン処理ステップを含む。１つ又は複数のメトロロジプロセスは、一般的に、パターニングプロセスに関与する。

[0006] 上述の通り、リソグラフィは、基板上に形成されたパターンが、マイクロプロセッサ、メモリチップなどのデバイスの機能素子を定義する、ＩＣなどのデバイスの製造における中心的ステップである。フラットパネルディスプレイ、微小電子機械システム（ＭＥＭＳ）、及び他のデバイスの形成においても、類似のリソグラフィ技術が使用される。

[0007] 半導体製造プロセスが進歩し続けるにつれて、機能素子の寸法は、継続的に小さくなっている一方で、一般に「ムーアの法則」と呼ばれる傾向に従って、１つのデバイス当たりのトランジスタなどの機能素子の数は、何十年にもわたり、着実に増加している。現在の技術状況では、デバイスの層は、深紫外線照明源からの照明を用いて、設計レイアウトを基板上に投影し、１００ｎｍをはるかに下回る（すなわち、照明源（例えば、１９３ｎｍ照明源）からの放射の波長の半分未満）寸法を有する個々の機能素子を生成するリソグラフィ投影装置を用いて製造される。

[0008] リソグラフィ投影装置の古典的限界解像度未満の寸法を持つフィーチャが印刷されるこのプロセスは、一般に、解像度式ＣＤ＝ｋ１×λ／ＮＡによる低ｋ１リソグラフィとして知られ、式中、λは、用いられた放射の波長（現在、ほとんどの場合、２４８ｎｍ又は１９３ｎｍ）であり、ＮＡは、リソグラフィ投影装置における投影光学系の開口数であり、ＣＤは、「クリティカルディメンジョン」（一般に、印刷される最小のフィーチャサイズ）であり、及びｋ１は、経験的解像度係数である。一般に、ｋ１が小さいほど、特定の電気的機能性及び性能を達成するために設計者によって計画された形状及び寸法に酷似するパターンを基板上に再現することがより難しくなる。これらの困難を克服するために、最新式の微調整ステップが、リソグラフィ投影装置、設計レイアウト、又はパターニングデバイスに適用される。これらは、例えば、限定されないが、ＮＡ及び光学コヒーレンス設定の最適化、カスタマイズ照明方式、位相シフトパターニングデバイスの使用、設計レイアウトにおける光近接効果補正（ＯＰＣ、「光学及びプロセス補正（optical and process correction）」とも呼ばれることがある）、又は一般に「解像度向上技術」（ＲＥＴ）と定義される他の方法も含む。本明細書で使用する「投影光学系」という用語は、例えば、屈折光学系、反射光学系、アパーチャ、及び反射屈折光学系を含む、様々なタイプの光学システムを網羅すると広く解釈されるものとする。「投影光学系」という用語は、まとめて、又は単独で、放射の投影ビームの誘導、整形、又は制御を行うためにこれらの設計タイプの何れかに従って動作するコンポーネントも含み得る。「投影光学系」という用語は、光学コンポーネントがリソグラフィ投影装置の光路上のどこに位置するかにかかわらず、リソグラフィ投影装置内の何れの光学コンポーネントも含み得る。投影光学系は、ソースからの放射がパターニングデバイスを通過する前に、放射を整形、調節、及び／又は投影するための光学コンポーネント、及び／又は放射がパターニングデバイスを通過した後に、放射を整形、調節、及び／又は投影するための光学コンポーネントを含み得る。投影光学系は、一般に、ソース及びパターニングデバイスを除く。

[0009] ある実施形態によれば、フォトリソグラフィ装置を調整する方法が提供される。本方法は、所与の入力に関して、機械学習モデルからの複数の事後分布を機械学習モデルに予測させることを含む。複数の事後分布は、複数の分布のうちのある分布を含む。本方法は、上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することを含む。本方法は、予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することを含む。本方法は、機械学習モデル予測の不確実性を減少させるように機械学習モデルの１つ又は複数のパラメータを調整することを含む。本方法は、所与の入力に基づいた、調整された機械学習モデルからの予測に基づいて、１つ又は複数のフォトリソグラフィプロセスパラメータを決定することと、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータに基づいて、フォトリソグラフィ装置を調整することと、を含む。

[0010] ある実施形態では、機械学習モデルの１つ又は複数のパラメータが、機械学習モデルの１つ又は複数のパラメータの１つ又は複数の重みを含む。

[0011] ある実施形態では、調整された機械学習モデルからの予測が、予測オーバーレイ又は予測ウェーハジオメトリの１つ又は複数を含む。

[0012] ある実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、マスク設計、瞳形状、ドーズ、又は焦点の１つ又は複数を含む。

[0013] ある実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、マスク設計を含み、マスク設計に基づいてフォトリソグラフィ装置を調整することが、マスク設計を第１のマスク設計から第２のマスク設計に変更することを含む。

[0014] ある実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、瞳形状を含み、瞳形状に基づいてフォトリソグラフィ装置を調整することが、瞳形状を第１の瞳形状から第２の瞳形状へと変更することを含む。

[0015] ある実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、ドーズを含み、ドーズに基づいてフォトリソグラフィ装置を調整することが、ドーズを第１のドーズから第２のドーズへと変更することを含む。

[0016] ある実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、焦点を含み、焦点に基づいてフォトリソグラフィ装置を調整することが、焦点を第１の焦点から第２の焦点へと変更することを含む。

[0017] ある実施形態では、複数の事後分布を機械学習モデルに予測させることが、パラメータドロップアウトを用いて、複数の分布のうちのある分布を機械学習モデルに生成させることを含む。

[0018] ある実施形態では、所与の入力に関して機械学習モデルからの複数の事後分布を機械学習モデルに予測させることが、第１の事後分布ＰΘ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布Ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットを機械学習モデルに予測させることを含み、上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することが、第１及び第２のセットに関して上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布の第１のセット及び第２のセットのばらつきを決定することを含み、予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することが、予測された複数の事後分布の第１のセット及び第２のセットの決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することを含む。

[0019] ある実施形態では、所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又は機械学習モデルの前の層からのデータの１つ又は複数を含む。

[0020] ある実施形態では、本方法は、予測された複数の事後分布の決定されたばらつき、及び／又は数値化された不確実性を用いて、機械学習モデルをより記述的にすること、又はより多様な訓練データを含めることによって、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することをさらに含む。

[0021] ある実施形態では、サンプリングは、上記複数の分布のうちのある分布から複数の分布を無作為に選択することを含み、サンプリングは、ガウス又は非ガウス式である。

[0022] ある実施形態では、ばらつきを決定することが、平均、モーメント、歪度、標準偏差、分散、尖度、又は共分散の１つ又は複数を含む１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含む。

[0023] ある実施形態では、機械学習モデルの不確実性が、機械学習モデルの１つ又は複数のパラメータの重みの不確実性、並びに機械学習モデルに関連付けられた潜在空間のサイズ及び記述性に関係する。

[0024] ある実施形態では、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は機械学習モデルに関連付けられた潜在空間の次元を増加させることを含む。

[0025] ある実施形態では、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることが、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、及び機械学習モデルにおいてより多くの符号化層を用いることと、を含む。

[0026] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、機械学習モデルに関連付けられた潜在空間にさらなる次元を追加することを含む。

[0027] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルの１つ又は複数のパラメータを調整することが、追加の、及びより多様な訓練サンプルを用いて機械学習モデルを訓練することを含む。

[0028] 別の実施形態によれば、パラメータ化モデル予測の不確実性を数値化する方法が提供される。本方法は、所与の入力に関して、パラメータ化モデルからの複数の事後分布をパラメータ化モデルに予測させることを含む。複数の事後分布は、複数の分布のうちのある分布を含む。本方法は、上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することと、予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することと、を含む。

[0029] ある実施形態では、パラメータ化モデルは、機械学習モデルである。

[0030] ある実施形態では、複数の事後分布をパラメータ化モデルに予測させることが、パラメータドロップアウトを用いて、複数の分布のうちのある分布をパラメータ化モデルに生成させることを含む。

[0031] ある実施形態では、所与の入力に関してパラメータ化モデルからの複数の事後分布をパラメータ化モデルに予測させることが、第１の事後分布ＰΘ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布Ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットをパラメータ化モデルに予測させることを含み、上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することが、第１及び第２のセットに関して上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布の第１のセット及び第２のセットのばらつきを決定することを含み、予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することが、予測された複数の事後分布の第１のセット及び第２のセットの決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することを含む。

[0032] ある実施形態では、所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又はパラメータ化モデルの前の層からのデータの１つ又は複数を含む。

[0033] ある実施形態では、本方法は、予測された複数の事後分布の決定されたばらつき、及び／又は数値化された不確実性を用いて、パラメータ化モデルをより記述的にすること、又はより多様な訓練データを含めることによって、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む。

[0034] ある実施形態では、パラメータ化モデルは、エンコーダ－デコーダアーキテクチャを含む。

[0035] ある実施形態では、エンコーダ－デコーダアーキテクチャは、変分エンコーダ－デコーダアーキテクチャを含み、本方法は、出力空間で実現値を生成する確率潜在空間を用いて変分エンコーダ－デコーダアーキテクチャを訓練することをさらに含む。

[0036] ある実施形態では、潜在空間は、低次元符号化を含む。

[0037] ある実施形態では、本方法は、所与の入力に関して、エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて、潜在変数の条件付き確率を決定することをさらに含む。

[0038] ある実施形態では、本方法は、エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、条件付き確率を決定することをさらに含む。

[0039] ある実施形態では、本方法は、エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて決定された潜在変数の条件付き確率からサンプリングを行うことと、サンプルごとに、エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、出力を予測することと、をさらに含む。

[0040] ある実施形態では、サンプリングは、上記複数の分布のうちのある分布から複数の分布を無作為に選択することを含み、サンプリングは、ガウス又は非ガウス式である。

[0041] ある実施形態では、ばらつきを決定することは、平均、モーメント、歪度、標準偏差、分散、尖度、又は共分散の１つ又は複数を含む１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含む。

[0042] ある実施形態では、パラメータ化モデルの不確実性は、パラメータ化モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する。

[0043] ある実施形態では、重みの不確実性が、出力の不確実性となって現れることによって、出力分散の増加が引き起こされるように、パラメータ化モデルの不確実性は、パラメータ化モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する。

[0044] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることを含む。

[0045] ある実施形態では、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることが、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、及びパラメータ化モデルにおいてより多くの符号化層を用いることと、を含む。

[0046] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、潜在空間にさらなる次元を追加することを含む。

[0047] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することは、追加の、及びより多様な訓練サンプルを用いてパラメータ化モデルを訓練することを含む。

[0048] ある実施形態では、追加の、及びより多様な訓練サンプルは、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを含む。

[0049] ある実施形態では、本方法は、予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む。

[0050] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することは、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、パラメータ化モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む。

[0051] ある実施形態では、本方法は、予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む。

[0052] ある実施形態では、予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することは、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、パラメータ化モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む。

[0053] 別の実施形態によれば、命令が記録された非一時的コンピュータ可読媒体を含むコンピュータプログラムであって、命令が、コンピュータによって実行されると、上記の方法の何れか１つを実施する、コンピュータプログラムが提供される。

[0054] 本明細書に組み込まれ、及び本明細書の一部を構成する添付の図面は、１つ又は複数の実施形態を示し、発明の詳細な説明と共に、これらの実施形態を説明する。単なる例として、対応する参照記号が対応する部分を示す添付の模式図を参照して、本発明の実施形態をこれより説明する。

[0055]ある実施形態による、リソグラフィシステムの様々なサブシステムのブロック図を示す。 [0056]ある実施形態による、リソグラフィ投影装置においてリソグラフィをシミュレーションするための例示的フローチャートを示す。 [0057]ある実施形態による、機械学習モデル予測の不確実性を減少させるための本方法の動作の概要を示す。 [0058]ある実施形態による、畳み込みエンコーダ－デコーダを示す。 [0059]ある実施形態による、ニューラルネットワーク内のエンコーダ－デコーダアーキテクチャを示す。 [0060]ある実施形態による、潜在空間においてサンプリングを用いた、図５の変分エンコーダ－デコーダアーキテクチャバージョンを示す。 [0061]図４に示されるエンコーダ－デコーダアーキテクチャの別のビューを示す。 [0062]例示的期待分布ｐ（ｚ｜ｘ）、及びｐ（ｚ｜ｘ）に関する複数の分布のうちのある分布からサンプリングされた分布のばらつきを示す。 [0063]ある実施形態による、機械学習モデルに関する入力として使用されるマスク像、マスク像に基づいて予測された機械学習モデルからの予測された出力の平均、予測された出力における分散を示す像、マスク像を用いて生成された実際のマスクの走査電子顕微鏡（ＳＥＭ）像、及び事後分布を示す潜在空間を示す。 [0064]ある実施形態による、機械学習モデルに関する入力として使用される第２のマスク像、第２のマスク像に基づいて予測された機械学習モデルからの予測された出力の第２の平均、予測された出力における分散を示す第２の像、第２のマスク像を用いて生成された実際のマスクの第２のＳＥＭ像、及び第２の事後分布を示す第２の潜在空間を示す。 [0065]ある実施形態による、機械学習モデルに関する入力として使用される第３のマスク像、第３のマスク像に基づいて予測された機械学習モデルからの予測された出力の第３の平均、予測された出力における分散を示す第３の像、第３のマスク像を用いて生成された実際のマスクの第３のＳＥＭ像、及び第３の事後分布を示す第３の潜在空間を示す。 [0066]ある実施形態による、コンピュータシステム例のブロック図である。 [0067]ある実施形態による、リソグラフィ投影装置の模式図である。 [0068]ある実施形態による、別のリソグラフィ投影装置の模式図である。 [0069]ある実施形態による、図１２の装置のより詳細な図である。 [0070]ある実施形態による、図１２及び図１３の装置のソースコレクタモジュールＳＯのより詳細な図である。

[0071] 従来の機械学習モデルでは、機械学習モデルによって行われた予測の確実性は、不明である。すなわち、ある入力を所与として、従来の機械学習モデルが正確且つ一貫した出力を生成するか否かは不明である。正確且つ一貫した出力を生じさせる機械学習モデルは、集積回路製造プロセスにおいて重要である。非限定例として、マスクレイアウト設計からマスクレイアウトを生成する際に、機械学習モデルの予測に関する不確実性は、提案されたマスクレイアウトにおける不確実性を生じさせ得る。これらの不確実性は、例えばウェーハの最終的な機能性に関する疑問を引き起こし得る。集積回路製造プロセスの個々の動作をモデリングするため、又は集積回路製造プロセスの個々の動作について予測するために機械学習モデルが使用される度に、より多くの不確実性がこのプロセスに導入され得る。しかし、現在まで、モデルからの出力のばらつき（すなわち、不確実性）を決定する方法は存在しなかった。

[0072] 従来のパラメータ化（例えば、機械学習）モデルのこれらの欠点及び他の欠点に対処するために、１つ又は複数の本方法、及び１つ又は複数の本システムは、エンコーダ－デコーダアーキテクチャを使用するモデルを含む。このアーキテクチャの中央（例えば、中央層）では、本モデルは、モデルに対する入力（例えば、像、テンソル、及び／又は他の入力）の情報をカプセル化する低次元符号化（例えば、潜在空間）を公式化する。変分推論技法を用いて、エンコーダは、１つ又は複数の入力を条件として、潜在ベクトルの事後確率分布を決定する。幾つかの実施形態では、モデルは、所与の入力に関して、（例えば、パラメータドロップアウト法を用いて）複数の分布のうちのある分布を生成するように構成される。このモデルは、上記所与の入力を条件として、この複数の分布のうちのある分布からサンプリングを行う。このモデルは、サンプリングされた分布の変動を決定することができる。サンプリング後に、モデルは、サンプルを出力空間に復号する。出力のばらつき、及び／又はサンプリングされた分布の変動は、モデルの不確実性（これは、モデルパラメータ（重み）の不確実性、及び潜在空間の倹約度合い（どれほど小さく、及び記述的であるか）を含む）を定義する。

[0073] 本明細書において、ＩＣの製造に対して具体的な言及がなされる場合があるが、本明細書の記載は、多くの他の可能な適用例を有することが明白に理解されるものとする。例えば、それは、集積光学システム、磁気ドメインメモリ用のガイダンス及び検出パターン、液晶ディスプレイパネル、薄膜磁気ヘッドなどの製造において用いられ得る。このような代替適用例において、当業者は、このような代替適用例の文脈において、本明細書における「レチクル」、「ウェーハ」、又は「ダイ」という用語の使用が、それぞれ、より一般的な用語である「マスク」、「基板」、及び「ターゲット部分」と同義であると見なされるべきであることを認識するだろう。加えて、本明細書に記載される方法は、言語処理システム、自動運転車、医用イメージング及び診断、意味的セグメンテーション、ノイズ除去、チップ設計、電子設計自動化などの多様な分野において、多くの他の可能な適用例を有し得ることに留意されたい。本方法は、機械学習モデル予測の不確実性を数値化することが有利なあらゆる分野において適用され得る。

[0074] 本明細書において、「放射」及び「ビーム」という用語は、紫外線（例えば、３６５、２４８、１９３、１５７、又は１２６ｎｍの波長を有する）及びＥＵＶ（極端紫外線、例えば、約５～１００ｎｍの範囲内の波長を有する）を含むあらゆるタイプの電磁放射を網羅するために使用される。

[0075] パターニングデバイスは、１つ又は複数の設計レイアウトを含み、又は形成することができる。設計レイアウトは、ＣＡＤ（コンピュータ支援設計）プログラムを利用して生成することができ、このプロセスは、ＥＤＡ（電子設計自動化）と呼ばれることが多い。ほとんどのＣＡＤプログラムは、機能設計レイアウト／パターニングデバイスを生成するために、所定の設計ルールセットに従う。これらのルールは、処理及び設計の限界に基づいて設定される。例えば、設計ルールは、デバイス（ゲート、キャパシタなど）又は相互接続ライン間のスペース公差を、デバイス又はラインが望ましくない形で互いに作用しないことを確実にするように定義する。設計ルール限界の１つ又は複数は、「クリティカルディメンジョン」（ＣＤ）と呼ばれ得る。デバイスのクリティカルディメンジョンは、ライン若しくは孔の最小幅、又は２つのライン若しくは２つの孔間の最小のスペースと定義することができる。従って、ＣＤは、設計されたデバイスの全体のサイズ及び密度を制御する。デバイス製作における目標の１つは、基板上に（パターニングデバイスを用いて）元の設計意図を忠実に再現することである。

[0076] 本明細書で用いられる「マスク」又は「パターニングデバイス」という用語は、入ってくる放射ビームに、基板のターゲット部分に生成されるパターンに対応したパターン付き断面を与えるために使用することができる一般的パターニングデバイスを指すと広く解釈することができ、「ライトバルブ」という用語も、この文脈で使用され得る。従来のマスク（透過型又は反射型；バイナリ、位相シフト、ハイブリッドなど）に加えて、他のこのようなパターニングデバイスの例には、以下が含まれる：
－プログラマブルミラーアレイ。このようなデバイスの一例は、粘弾性制御層及び反射面を有するマトリックスアドレス可能面である。このような装置の背後にある基本原理は、（例えば）反射面のアドレスエリアが、入射放射を回折放射として反射し、非アドレスエリアが、入射放射を非回折放射として反射することである。適宜のフィルタを使用して、上記非回折放射が反射ビームから除去され、回折放射のみを後に残すことができ、このようにして、ビームが、マトリックスアドレス可能面のアドレッシングパターンに従ってパターン付けされる。必要とされるマトリックスアドレッシングは、適宜の電子手段を使用して行うことができる。他のこのようなパターニングデバイスの例には、プログラマブルＬＣＤアレイも含まれる。このような構造の一例は、本明細書に援用される米国特許第５，２２９，８７２号によって与えられる。

[0077] 簡単な導入部として、図１は、例示的リソグラフィ投影装置１０Ａを示す。主なコンポーネントは、深紫外線（ＤＵＶ）エキシマレーザ源、又は極端紫外線（ＥＵＶ）源を含む他のタイプのソースでもよい放射源１２Ａ（上述の通り、リソグラフィ投影装置自体は、放射源を有する必要がない）と、部分コヒーレンス（シグマで表す）をたとえば定義し、並びにソース１２Ａからの放射を整形する光学系１４Ａ、１６Ａａ、及び１６Ａｂを含み得る照明光学系と；パターニングデバイス１８Ａと；パターニングデバイスパターンの像を基板面２２Ａ上に投影する透過光学系１６Ａｃとである。投影光学系の瞳面における調節可能フィルタ又はアパーチャ２０Ａは、基板面２２Ａに衝突するビーム角の範囲を制限することができ、ここで、可能な最大角が、投影光学系の開口数ＮＡ＝ｎ ｓｉｎ（Θｍａｘ）を定義し、式中、ｎは、基板と投影光学系の最後の素子との間の媒体の屈折率であり、及びΘｍａｘは、まだ基板面２２Ａに衝突し得る投影光学系から出るビームの最大角である。

[0078] リソグラフィ投影装置では、ソースは、照明（すなわち、放射）をパターニングデバイスに提供し、並びに投影光学系は、パターニングデバイスを介して、基板上へと照明の誘導及び整形を行う。投影光学系は、コンポーネント１４Ａ、１６Ａａ、１６Ａｂ、及び１６Ａｃの少なくとも幾つかを含み得る。空間像（ＡＩ）は、基板レベルにおける放射強度分布である。レジストモデルを使用して、空間像からレジスト像を計算することができ、その一例は、その開示内容が全体として本明細書に援用される米国特許出願公開第２００９－０１５７６３０号に見つけることができる。レジストモデルは、レジスト層の特性（例えば、露光、露光後ベーク（ＰＥＢ）、及び現像中に生じる化学プロセスの影響）にのみ関係する。リソグラフィ投影装置の光学特性（例えば、照明、パターニングデバイス、及び投影光学系の特性）が、空間像を決定付け、光学モデルで定義できる。リソグラフィ投影装置で使用されるパターニングデバイスは変更され得るので、パターニングデバイスの光学特性を、少なくともソース及び投影光学系を含む、リソグラフィ投影装置の残りの部分の光学特性から切り離すことが望ましい。設計レイアウトを様々なリソグラフィ像（例えば、空間像、レジスト像など）に変換するため、技法及びモデルを用いてＯＰＣを適用するため、並びに（例えば、プロセスウィンドウの観点から）性能を評価するために使用される上記技法及びモデルの詳細は、米国特許出願公開第２００８－０３０１６２０号、同第２００７－００５０７４９号、同第２００７－００３１７４５号、同第２００８－０３０９８９７号、同第２０１０－０１６２１９７号、及び同第２０１０－０１８０２５１号に記載されており、各開示内容は、本明細書に全体として援用される。

[0079] 多くの場合、どの程度パターニングプロセスが基板上に所望のパターンを生じさせるかを計算的に決定することができることが望ましい。従って、プロセスの１つ又は複数の部分をシミュレーションするために、シミュレーションが提供され得る。例えば、パターニングデバイスパターンを基板のレジスト層上に転写するリソグラフィプロセス、及びレジストの現像後のそのレジスト層の生成パターンをシミュレーションすることができることが望ましい。

[0080] リソグラフィ投影装置においてリソグラフィをシミュレーションするための例示的フローチャートを図２に示す。照明モデル３１は、照明の光学特徴（放射強度分布及び／又は位相分布を含む）を表す。投影光学系モデル３２は、投影光学系の光学特徴（投影光学系によって生じた放射強度分布及び／又は位相分布に対する変化を含む）を表す。設計レイアウトモデル３５は、設計レイアウト（これは、パターニングデバイス上の、又はパターニングデバイスによって形成されるフィーチャの配置の表現である）の光学特徴（所与の設計レイアウトによって生じた放射強度分布及び／又は位相分布に対する変化を含む）を表す。空間像３６は、照明モデル３１、投影光学系モデル３２、及び設計レイアウトモデル３５を用いてシミュレーションされることが可能である。レジスト像３８は、レジストモデル３７を用いて空間像３６からシミュレーションされることが可能である。例えば、リソグラフィのシミュレーションは、レジスト像のコンター及び／又はＣＤを予測することができる。

[0081] より具体的には、照明モデル３１は、限定されないが、ＮＡ－シグマ（σ）設定、及び任意の特定の照明形状（例えば、環状、四極、ダイポールなどのオフアクシス照明）を含む照明の光学特徴を表し得る。投影光学系モデル３２は、例えば、収差、ディストーション、屈折率、物理的サイズ、又は物理的寸法などを含む投影光学系の光学特徴を表し得る。設計レイアウトモデル３５は、例えば、全体として援用される米国特許第７，５８７，７０４号に記載されるような、物理的パターニングデバイスの１つ又は複数の物理的特性も表し得る。リソグラフィ投影装置に関連付けられた光学特性（例えば、照明、パターニングデバイス、及び投影光学系の特性）が、空間像を決定付ける。リソグラフィ投影装置で使用されるパターニングデバイスが変更され得るので、パターニングデバイスの光学特性を、少なくとも照明及び投影光学系（従って、設計レイアウトモデル３５）を含むリソグラフィ投影装置の残りの部分の光学特性と分けることが望ましい。

[0082] レジストモデル３７は、空間像からレジスト像を計算するために使用することができ、その一例は、本明細書に全体として援用される米国特許第８，２００，４６８号に見つけることができる。レジストモデルは、一般的に、レジスト層の特性（例えば、露光、ポストベーク、及び／又は現像中に生じる化学プロセスの影響）に関係する。

[0083] シミュレーションの目的は、例えば、エッジ配置、空間像強度傾き、及び／又はＣＤを正確に予測することであり、これらは、その後、意図した設計と比較され得る。意図した設計は、一般に、ＧＤＳＩＩ、ＯＡＳＩＳ又は他のファイルフォーマットなどの標準デジタルファイルフォーマットで提供され得るプリＯＰＣ設計レイアウトとして定義される。

[0084] 設計レイアウトから、１つ又は複数の部分（これらは、「クリップ」と呼ばれる）を識別することができる。ある実施形態では、設計レイアウト内の複雑なパターンを表すクリップの一セットが抽出される（任意の数のクリップが使用され得るが、一般的に約５０～１０００個のクリップ）。当業者には理解されるように、これらのパターン又はクリップは、設計の小さな部分（例えば、回路、セルなど）を表し、特に、クリップは、特別な注意及び／又は検証が必要とされる小さな部分を表す。つまり、クリップは、設計レイアウトの部分でもよく、又は類似していてもよく、又はクリティカルフィーチャが、経験（顧客によって提供されたクリップを含む）によって、試行錯誤によって、若しくはフルチップシミュレーションを実行することによって識別される設計レイアウトの部分の類似挙動を有してもよい。クリップは、１つ又は複数のテストパターン又はゲージパターンを含むことが多い。初期のより大きなクリップのセットが、特定の像最適化を必要とする設計レイアウト内の既知のクリティカルフィーチャエリアに基づいて、顧客によって先験的に提供されてもよい。代替的に、別の実施形態では、初期のより大きなクリップのセットは、クリティカルフィーチャエリアを識別する、ある種の自動化（マシンビジョンなど）又は手動アルゴリズムを用いて、設計レイアウト全体から抽出されてもよい。

[0085] 例えば、シミュレーション及びモデリングは、パターニングデバイスパターンの１つ若しくは複数のフィーチャ（例えば、光近接効果補正を行うこと）、照明の１つ若しくは複数のフィーチャ（例えば、形状の変更などの照明の空間／角度強度分布の１つ若しくは複数の特徴を変更すること）、及び／又は投影光学系の１つ若しくは複数のフィーチャ（例えば、開口数など）を構成するために使用され得る。このような構成は、一般に、それぞれマスク最適化、ソース最適化、及び投影最適化と呼ばれることがある。このような最適化は、単独で行われてもよく、又は異なる組み合わせで組み合わせられてもよい。そのような１つの例は、ソース－マスク最適化（ＳＭＯ）であり、これは、照明の１つ又は複数のフィーチャと共にパターニングデバイスパターンの１つ又は複数のフィーチャを構成することに関与する。これらの最適化技法は、クリップの１つ又は複数に注目し得る。これらの最適化は、本明細書に記載される機械学習モデルを用いて、様々なパラメータ（像などを含む）の値を予測することができる。

[0086] 幾つかの実施形態では、システムの最適化プロセスは、費用関数として表すことができる。最適化プロセスは、費用関数を最小化するシステムのパラメータ（設計変数、プロセス変数など）の一セットを見つけることを含み得る。費用関数は、最適化の目標に応じて、任意の適宜の形式を有し得る。例えば、費用関数は、システムの特定の特徴（評価点）の意図値（例えば、理想値）に対するこれらの特徴の偏差の重み付け二乗平均平方根（ＲＭＳ）でもよい。費用関数は、これらの偏差の最大値（すなわち、最悪偏差）でもよい。「評価点」という用語は、システム又は製作方法のあらゆる特徴を含むように広く解釈されるものとする。システムの設計及び／又はプロセス変数は、有限範囲に限定されてもよく、及び／又はシステム及び／又は方法の実施の実用性により相互依存的でもよい。リソグラフィ投影装置の場合、制約は、調整可能範囲などのハードウェアの物理的特性及び特徴、及び／又はパターニングデバイスの製造可能性設計ルールに関連付けられることが多い。評価点は、基板上のレジスト層上の物理的点、並びに例えばドーズ及び焦点などの非物理的特徴を含み得る。

[0087] 幾つかの実施形態では、照明モデル３１、投影光学系モデル３２、設計レイアウトモデル３５、レジストモデル３７、ＳＭＯモデル、及び／又は集積回路製造プロセスに関連した、及び／又は集積回路製造プロセスに含まれる他のモデルは、本明細書に記載される方法の動作を行う経験的モデルでもよい。経験的モデルは、様々な入力（例えば、マスク又はウェーハ像の１つ又は複数の特徴、設計レイアウトの１つ又は複数の特徴、パターニングデバイスの１つ又は複数の特徴、波長などのリソグラフィプロセスで使用される照明の１つ又は複数の特徴など）間の相関に基づいて、出力を予測することができる。

[0088] 一例として、経験的モデルは、機械学習モデル及び／又はその他のパラメータ化モデルでもよい。幾つかの実施形態では、機械学習モデル（例えば）は、数学的方程式、アルゴリズム、プロット、チャート、ネットワーク（例えば、ニューラルネットワーク）、及び／又は他のツール及び機械学習モデル成分でもよく、及び／又はそれらを含んでもよい。例えば、機械学習モデルは、入力層、出力層、及び１つ若しくは複数の中間層若しくは隠れ層を有する１つ若しくは複数のニューラルネットワークでもよく、及び／又はそれ（ら）を含んでもよい。幾つかの実施形態では、１つ又は複数のニューラルネットワークは、ディープニューラルネットワーク（例えば、入力層と出力層との間に、１つ若しくは複数の中間層若しくは隠れ層を有するニューラルネットワーク）でもよく、及び／又はそれらを含んでもよい。

[0089] 一例として、１つ又は複数のニューラルネットワークは、ニューラルユニット（又は人工ニューロン）の大群に基づいてもよい。１つ又は複数のニューラルネットワークは、（例えば、軸索によって接続された生物学的ニューロンの大きなクラスタによって）生物学的脳の機能の仕方を大まかに模倣し得る。あるニューラルネットワークの各ニューラルユニットは、このニューラルネットワークの多数の他のニューラルユニットと接続されてもよい。このような接続は、接続されたニューラルユニットの活性化状態に対するそれらの影響において強制的又は抑制的となり得る。幾つかの実施形態では、各個々のニューラルユニットは、それの全ての入力の値を合計する総和関数を有し得る。幾つかの実施形態では、各接続（又はニューラルユニット自体）は、信号が他のニューラルユニットに伝搬することを許可されるには閾値を超えなければならないような閾値関数を有し得る。これらのニューラルネットワークシステムは、明示的にプログラミングされるのではなく、自己学習及び訓練されてもよく、従来のコンピュータプログラムと比較して、問題解決の特定の分野で、かなり良く機能し得る。幾つかの実施形態では、１つ又は複数のニューラルネットワークは、（例えば、信号経路が前方層から後方層へと横断する）複数の層を含み得る。幾つかの実施形態では、バックプロパゲーション技法が、ニューラルネットワーク（ニューラルネットワークでは、「前方の」ニューラルユニットに対する重みをリセットするために、前方刺激が使用される）によって利用されてもよい。幾つかの実施形態では、１つ又は複数のニューラルネットワークに関する刺激及び抑制は、接続がより無秩序且つ複雑なやり方で相互作用する状態で、より自由に流れてもよい。幾つかの実施形態では、１つ又は複数のニューラルネットワークの中間層は、１つ若しくは複数の畳み込み層、１つ若しくは複数の回帰層、及び／又は他の層を含む。

[0090] １つ又は複数のニューラルネットワークは、訓練データの一セットを用いて訓練され得る（すなわち、それ（ら）のパラメータが決定される）。訓練データは、訓練サンプルの一セットを含み得る。各サンプルは、入力オブジェクト（一般的に、ベクトル（これは、フィーチャベクトルと呼ばれることがある））及び所望の出力値（監視信号とも呼ばれる）を含むペアでもよい。訓練アルゴリズムは、訓練データを分析し、及び訓練データに基づいてニューラルネットワークのパラメータ（例えば、１つ又は複数の層の重み）を調整することによって、ニューラルネットワークの挙動を調整する。例えば、ｘｉが、ｉ番目の例のフィーチャベクトルであり、及びｙｉが、それの監視信号であるような｛（ｘ１、ｙ１）、（ｘ２、ｙ２）、…、（ｘＮ、ｙＮ）｝の形のＮ個の訓練サンプルの一セットを所与として、訓練アルゴリズムは、ニューラルネットワークｇ：Ｘ→Ｙを求める（式中、Ｘは、入力空間であり、及びＹは、出力空間である）。フィーチャベクトルは、あるオブジェクト（例えば、上記の例のウェーハ設計、クリップなど）を表す数値的フィーチャのｎ次元ベクトルである。これらのベクトルに関連付けられたベクトル空間は、フィーチャ空間と呼ばれることが多い。訓練後に、ニューラルネットワークは、新しいサンプルを用いて予測するために使用され得る。

[0091] 上記の通り、１つ又は複数の本方法、及び１つ又は複数の本システムは、エンコーダ－デコーダアーキテクチャを使用するパラメータ化モデル（例えば、ニューラルネットワークなどの機械学習モデル）を含む。このモデル（例えば、ニューラルネットワーク）の中央（例えば、中央層）では、本モデルは、モデルに対する入力（例えば、像、テンソル、及び／又は他の入力）の情報をカプセル化する低次元符号化（例えば、潜在空間）を公式化する。変分推論技法を用いて、エンコーダは、１つ又は複数の入力を条件として、潜在ベクトルの事後確率分布を決定する。幾つかの実施形態では、モデルは、所与の入力に関して、（例えば、パラメータドロップアウト法を用いて）複数の分布のうちのある分布を生成するように構成される。本モデルは、上記入力を条件として、事後確率のこの複数の分布のうちのある分布からサンプリングを行う。幾つかの実施形態では、サンプリングは、上記複数の分布のうちのある分布から無作為に複数の分布を選択することを含む。サンプリングは、例えば、ガウス又は非ガウス式でもよい。サンプリング後に、モデルは、サンプルを出力空間に復号する。出力のばらつき、及び／又はサンプリングされた分布のばらつきは、モデルの不確実性（これは、モデルパラメータ（例えば、パラメータの重み及び／又は他のモデルパラメータ）の不確実性、並びに潜在空間の倹約度合い（どれほど小さく、及び記述的であるか）を含む）を定義する。幾つかの実施形態では、ばらつきの決定は、平均、モーメント、歪度、標準偏差、分散、尖度、共分散、及び／又はばらつきを数値化するためのその他の方法の１つ又は複数を含む、１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含み得る。幾つかの実施形態では、重みの不確実性が、出力の不確実性となって現れることによって、出力分散の増加が引き起こされるように、モデルの不確実性が、モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する。

[0092] （ある入力を条件とした）パラメータ化モデルの出力のばらつきのこの数値化は、中でも、モデルの予測具合を決めるために使用され得る。パラメータ化モデルの出力ばらつきのこの数値化は、モデルをより記述的にするようにモデルを調整（例えば、更新及び改善）するためにも使用され得る。この調整は、例えば、潜在空間により多くの次元を追加すること、より多様な訓練データを追加すること、及び／又は他の動作を含み得る。パラメータ化モデルの出力ばらつきの数値化は、パラメータ化モデルの予測の全体的な質を向上させるために必要とされるタイプの訓練データを案内するためにも使用され得る。機械学習モデル及び／又はニューラルネットワークが本明細書全体を通して言及されるが、機械学習モデル及び／又はニューラルネットワークは、パラメータ化モデルの一例であり、本明細書に記載される動作は、任意のパラメータ化モデルに適用され得ることに留意されたい。

[0093] 図３は、機械学習モデル予測の不確実性を決定するため、又は決定し、及び減少させるための本方法の動作の概要を示す。動作４０では、機械学習モデルのエンコーダ－デコーダアーキテクチャの訓練を行う。動作４２では、機械学習モデルは、所与の入力（例えば、下記のようなｘ及び／又はｚ）に関して機械学習モデルからの複数の出力を予測させられる。所与の入力は、例えば、像、クリップ、符号化された像、符号化されたクリップ、ベクトル、機械学習モデルの前の層からのデータ、及び／又は符号化され得るその他のデータ及び／又はオブジェクトを含み得る。

[0094] 幾つかの実施形態では、動作４２は、機械学習モデルが、変分推論技法を用いて、１つ又は複数の入力を条件として、潜在ベクトル及び／又はモデル出力の事後確率分布を決定することを含む。幾つかの実施形態では、機械学習モデルは、所与の入力に関して、（例えば、パラメータドロップアウト法を用いて）分布の複数の分布を生成するように構成される。上記分布の複数の分布は、例えば、（例えば、下記のｐθ（ｚ｜ｘ）に関する）分布の第１の事後分布、（例えば、下記のｐφ（ｙ｜ｚ）に関する）分布の第２の事後分布、及び／又は分布の他の複数の分布を含み得る。機械学習モデルは、上記所与の入力を条件として、上記分布の複数の分布からサンプリングを行う。サンプリング後に、機械学習モデルは、サンプルを出力空間に復号し得る。

[0095] 動作４４では、所与の入力に関する予測された複数の出力実現値、及び／又は複数の事後分布のばらつきの決定を行う。動作４６では、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整する。幾つかの実施形態では、動作４６は、任意選択的なものである。幾つかの実施形態では、動作４６は、補正手段と共に、又は補正手段なしに、決定されたばらつきを報告すること（例えば、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することに加えて、及び／又は機械学習モデルの不確実性を減少させるように機械学習モデルを調整する代わりに、決定されたばらつきを報告すること）を含む。例えば、動作４６は、決定されたばらつきの表示を出力することを含んでもよい。表示は、電子的表示（例えば、１つ又は複数の信号）、視覚的表示（例えば、ディスプレイ用の１つ又は複数の図形）、数値表示（例えば、１つ又は複数の数字）、及び／又は他の表示でもよい。

[0096] 動作４０は、出力空間へと復号する、潜在空間からのサンプリングを用いて、エンコーダ－デコーダアーキテクチャを訓練することを含む。幾つかの実施形態では、潜在空間は、低次元符号化を含む。非限定例として、図４は、畳み込みエンコーダ－デコーダ５０を示す。エンコーダ－デコーダ５０は、符号化部分５２（エンコーダ）及び復号部分５４（デコーダ）を有する。図４に示す例では、エンコーダ－デコーダ５０は、例えば図４に示されるようなウェーハの予測像５６を出力し得る。１つ又は複数の像５６は、セグメンテーション像５８によって示される平均５７、モデル不確実性像６０によって示される分散５９、及び／又は他の特徴を有し得る。

[0097] 別の非限定例として、図５は、ニューラルネットワーク６２内のエンコーダ－デコーダアーキテクチャ６１を示す。エンコーダ－デコーダアーキテクチャ６１は、符号化部分５２及び復号部分５４を含む。図５では、ｘは、エンコーダ入力（例えば、入力像及び／又は入力像の抽出フィーチャ）を表し、ｘ’は、デコーダ出力（例えば、予測出力像及び／又は出力像の予測フィーチャ）を表す。幾つかの実施形態では、ｘ’は、例えばニューラルネットワークの中間層からの出力、及び／又は他の出力を表し得る。幾つかの実施形態では、変数ｙは、例えば、ニューラルネットワークからの全体的な出力を表し得る。図５では、ｚは、潜在空間６４及び／又は低次元符号化（ベクトル）を表す。幾つかの実施形態では、ｚは、潜在変数であり、又は潜在変数に関係する。出力ｘ’（及び／又は幾つかの実施形態では、ｙ）は、成分が観測されない（潜在）変数である、より低次元のランダムベクトルｚ∈Ｚの（場合によっては非常に複雑な）関数としてモデリングされる。

[0098] 幾つかの実施形態では、低次元符号化ｚは、入力（例えば、像）の１つ又は複数のフィーチャを表す。入力の１つ又は複数のフィーチャは、入力の主要フィーチャ又はクリティカルフィーチャと見なされ得る。フィーチャは、それらが、例えば、所望の出力の他のフィーチャよりも比較的より予測的であり、及び／又は他の特徴を有するため、入力の主要フィーチャ又はクリティカルフィーチャと見なされ得る。低次元符号化で表される１つ又は複数のフィーチャ（次元）は、（例えば、本機械学習モデルの作成時にプログラマによって）予め決定されてもよく、ニューラルネットワークの前の層によって決定されてもよく、本明細書に記載されるシステムに関連付けられたユーザインタフェースを用いてユーザによって調整されてもよく、及び／又は他の方法によって決定されてもよい。幾つかの実施形態では、低次元符号化によって表されるフィーチャ（次元）の数量は、（例えば、本機械学習モデルの作成時にプログラマによって）予め決定されてもよく、ニューラルネットワークの前の層からの出力に基づいて決定されてもよく、本明細書に記載されるシステムに関連付けられたユーザインタフェースを用いてユーザによって調整されてもよく、及び／又は他の方法によって決定されてもよい。

[0099] 図６Ａは、潜在空間６４においてサンプリング６３を用いた、図５のエンコーダ－デコーダアーキテクチャ６１を示す（例えば、図６Ａは、図５のより詳細なバージョンであると考えることができる）。図６Ａに示されるように、
ｐ（ｚ｜ｘ）≒ｑθ（ｚ｜ｘ） ［１］。
項ｐ（ｚ｜ｘ）は、入力ｘを所与とした潜在変数ｚの条件付き確率である。項ｑθ（ｚ｜ｘ）は、エンコーダの層の重みであり、又はエンコーダの層の重みを表す。項ｐ（ｚ｜ｘ）は、ｘを所与としたｚの理論的確率分布であり、又はｘを所与としたｚの理論的確率分布を表す。方程式：
ｚ～Ｎ（μ、σ２Ｉ） ［２］
は、潜在変数ｚの事前分布であり、又は潜在変数ｚの事前分布を表し、式中、Ｎは、正規（例えばガウス）分布を表し、μは、分布の平均であり、σは、共分散を表し、Ｉは、単位行列である。図６Ａに示されるように、μ及びσ２は、この確率を定義するパラメータである。これらは、所与の入力を条件として、モデルが学習しようとしている真の確率の単なる代用である。幾つかの実施形態では、この代用は、上記タスクに関して、より一層記述的となり得る。それは、例えば、標準的なＰＤＦ、又は学習され得る、ある自由形式のＰＤＦでもよい。

[00100] 図３に戻り、幾つかの実施形態では、動作４２は、エンコーダ－デコーダアーキテクチャ（例えば、図５に示される６１）のエンコーダ（例えば、図４に示される５２）を用いて、所与の入力ｘに関して、潜在変数の条件付き確率ｐ（ｚ｜ｘ）を決定、或いは学習することを含む。幾つかの実施形態では、動作４２は、（エンコーダ－デコーダアーキテクチャのデコーダ（例えば、図５に示される５４））を用いて条件付き確率ｐ（ｘ’｜ｚ）（及び／又はｐ（ｙ｜ｚ））を決定、或いは学習することを含む。幾つかの実施形態では、動作４２は、方程式：

に従って、訓練セットＤのｘ’ｉを生成する尤度を最大化することによって、（上記方程式３に示される）φを学習することを含む。

[00101] 幾つかの実施形態では、条件付き確率ｐ（ｚ｜ｘ）は、変分推論技法を用いてエンコーダによって決定される。幾つかの実施形態では、変分推論技法は、あるパラメータファミリーの分布ｑθ（ｚ｜ｘ）において、ｐ（ｚ｜ｘ）に対する近似を識別すること（ここでは、θは、方程式：
ｍｉｎ ＫＬ（ｐ（ｚ｜ｘ）、ｑθ（ｚ｜ｘ）） ［４］
に従った上記ファミリーのパラメータである）を含み、ｍａｘ ＥＬＢＯ（θ）（ＥＬＢＯは、evidence of lower boundの略語である）を代入することによって、
ＥＬＢＯ（θ）＝ＥｑΘ（ｚ｜ｘ）［ｌｏｇ ｐΘ（ｘ｜ｚ）］－ＫＬ（ｑθ（ｚ｜ｘ）、ｐ（ｚ）） ［５］
が得られ、式中、ＫＬは、カルバック・ライブラーダイバージェンスであり、２つの確率分布間の距離の尺度として使用され、θは、符号化のパラメータを表し、φは、復号のパラメータを表す。条件付き確率ｑθ（ｚ｜ｘ）（エンコーダ部分）及びｐφ（ｘ’｜ｚ）又はｐφ（ｙ｜ｚ）（デコーダ部分）は、訓練により取得される。

[00102] 幾つかの実施形態では、動作４２は、条件付き確率ｐ（ｚ｜ｘ）からサンプリングを行うことと、サンプルごとに、上記の方程式に基づいて、エンコーダ－デコーダアーキテクチャのデコーダを用いて、予測された複数の出力実現値の出力を予測することとを含む。加えて、ＥｑΘ（ｚ｜ｘ）［ｆ（ｚ）］は、ｆ（ｚ）の期待値を表し、ｚは、ｑ（ｚ｜ｘ）からサンプリングされる。

[00103] 幾つかの実施形態では、動作４４は、各サンプルの予測された出力に基づいて、所与の入力（例えばｘ）に関する予測された複数の出力実現値のばらつきを決定することを含む。入力（例えばｘ）を所与として、機械学習モデルは、事後分布ｑθ（ｚ｜ｘ）及びｐφ（ｘ’｜ｑθ（ｚ｜ｘ））を決定する。従って、動作４４は、事後分布ｑθ（ｚ｜ｘ）を決定することを含む。潜在空間の原点までのこの事後分布の距離は、機械学習モデルの予測の不確実性に反比例する（例えば、分布が潜在空間の原点に近いほど、モデルはより不確実である）。幾つかの実施形態では、動作４４は、別の事後分布ｐφ（ｘ’｜ｑθ（ｚ｜ｘ））を決定することも含む。この事後分布の分散は、機械学習モデルの予測の不確実性に直接関係する（例えば、第２の事後分布のより多くの分散は、より多くの不確実性を意味する）。動作４４は、これらの事後分布の一方又は両方を決定すること、及びこれらの事後分布の一方又は両方に基づいて、ばらつきを決定することを含み得る。

[00104] 図６Ｂは、図４に示されるエンコーダ－デコーダアーキテクチャ５０の別のビューを示す。上記の通り、機械学習モデルは、所与の入力に関する事後分布ｐθ（ｚ｜ｘ）及び／又は所与の入力に関する事後分布ｐφ（ｙ｜ｚ）を学習し得る。幾つかの実施形態では、動作４２は、所与の入力に関する複数の事後分布ｐθ（ｚ｜ｘ）、所与の入力に関する複数の事後分布ｐφ（ｙ｜ｚ）、及び／又は他の複数の事後分布をモデルに予測させることを含む。ｐθ（ｚ｜ｘ）及び／又はｐφ（ｙ｜ｚ）のそれぞれに関する複数の事後分布は、例えば、複数の分布のうちのある分布を含み得る。幾つかの実施形態では、モデルは、例えば、パラメータドロップアウト及び／又は他の技法を用いて、（例えば、ｐθ（ｚ｜ｘ）及び／又はｐφ（ｙ｜ｚ）のそれぞれに関して）複数の事後分布を生成するように構成される。

[00105] 幾つかの実施形態では、動作４４は、上記複数の分布のうちのある分布からサンプリングを行うことによって、上記所与の入力に関する予測された複数の事後分布のばらつきを決定すること、及び予測された複数の事後分布における決定されたばらつきを使用することによって、パラメータ化モデル予測における不確実性を数値化することを含む。例えば、所与の入力に関してパラメータ化モデルからの複数の事後分布を機械学習モデルに予測させることは、第１の事後分布ｐθ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットをパラメータ化モデルに予測させることを含み得る。上記所与の入力に関する予測された複数の事後分布のばらつきを決定することは、第１及び第２のセットに関して上記複数の分布のうちのある分布からサンプリングを行うことによって（例えば、ｐθ（ｚ｜ｘ）に関する分布からサンプリングを行い、及びｐφ（ｙ｜ｚ）に関する分布からサンプリングを行うことによって）、上記所与の入力に関する予測された複数の事後分布の第１のセット及び第２のセットのばらつきを決定することを含み得る。幾つかの実施形態では、サンプリングは、複数の分布のうちのある分布から複数の分布を無作為に選択することを含む。サンプリングは、例えば、ガウス又は非ガウス式でもよい。

[00106] 幾つかの実施形態では、動作４４は、サンプリングされた分布のばらつきを決定することを含む。例えば、図６Ｃは、例示的期待分布ｐ（ｚ｜ｘ）６００、及びｐ（ｚ｜ｘ）６００に関する複数の分布のうちのある分布からサンプリングされた分布のばらつき６０２を示す。ばらつき６０２は、例えば、機械学習モデルの不確実性によって生じ得る。幾つかの実施形態では、予測された複数の事後分布における決定されたばらつきを使用することによって、パラメータ化モデル予測における不確実性を数値化することは、予測された複数の事後分布の第１のセット及び第２のセット（例えば、図６Ｃに示されるｐ（ｚ｜ｘ）６００に関する上記複数の分布のうちのある分布、及びｐ（ｙ｜ｚ）に関する分布の類似の分布）における決定されたばらつきを使用することによって、機械学習モデル予測における不確実性を数値化することを含む。

[00107] 幾つかの実施形態では、ばらつきの決定は、平均、モーメント、歪度、標準偏差、分散、尖度、共分散、範囲、及び／又はばらつきを数値化するためのその他の方法の１つ又は複数を含む、１つ又は複数の統計的演算を用いて、サンプリングされた分布の一セットにおけるばらつきを数値化することを含み得る。例えば、事後分布のサンプリングされたセットのばらつきを決定することは、所与の入力ｘｏに関する（例えば、図６Ｃに示されるｐ（ｚ｜ｘ）６００に関する、又はｐ（ｙ｜ｚ）に関する分布の類似の分布に関する）あり得る出力の範囲６０４を決定することを含み得る。別の例として、ＫＬ距離を用いて、異なる分布がどの程度離れているかを数値化することができる。

[00108] 幾つかの実施形態では、上記の通り、機械学習モデル予測の不確実性は、機械学習モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する。重みの不確実性が、出力の不確実性となって現れることがあり、それによって、出力分散の増加が引き起こされる。例えば、（例えば、本明細書に記載されるような）潜在空間が低次元のものであれば、一連の広範な観測全体を一般化することはできないだろう。一方、高次元潜在空間は、モデルを訓練するために、さらに多くのデータを必要とする。

[00109] 非限定例として、図７は、機械学習モデルに関する入力（例えば、ｘ）として使用されるマスク像７０、マスク像７０に基づいて予測された機械学習モデルからの予測された出力（像）の平均７２（像）、予測された出力における分散を示す像７４、マスク像を用いて生成された実際のウェーハパターンの走査電子顕微鏡（ＳＥＭ）像７８、及び事後分布（例えば、ｐ（ｙ｜ｚ）（複数の分布のうちのある分布からのある例示的分布））を示す潜在空間８０を示す。潜在空間８０は、潜在ベクトルｚが、７つの次元８１～８７を有していたことを示す。次元８１～８７は、潜在空間８０の中心７９を中心として分布する。潜在空間８０内の次元８１～８７の分布は、比較的より確実な（分散の少ない）モデルを示す。比較的より確実なモデルのこのエビデンスは、平均像７２及びＳＥＭ像７８が類似して見え、分散像７４においてどのような濃色も、又はＳＥＭ像７８に示される構造のエリアに対応しない場所においてどのような濃色も欠如しているという事実により裏付けられる。

[00110] （例えば、本明細書に記載されるような）幾つかの実施形態では、潜在空間８０に示される事後分布は、同じ入力を用いて生成された他の事後分布と（例えば、統計的に、又は別の方法で）比較されてもよい。本方法は、これらの事後分布の比較に基づいて、モデルの確実性の表示を決定することを含み得る。例えば、比較された事後分布間の差が大きいほど、モデルの確実さは低下する。

[00111] 対照的な非限定例として、図８は、図７に示される出力と比較した、機械学習モデル出力のより大きな変動（及びより大きな不確実性）を示す。図８は、機械学習モデルに関する入力（例えば、ｘ）として使用されるマスク像８８、マスク像８８に基づいて予測された機械学習モデルからの予測された出力の平均８９、予測された出力における分散を示す像９０、マスク像を用いて生成された実際のマスクのＳＥＭ像９１、及び事後分布を示す潜在空間９２を示す。潜在空間９２は、潜在ベクトルｚが、この場合も、幾つかの次元９３を有していたことを示す。潜在空間９２内の次元９３の分布は、今度は、比較的より不確実なモデルを示す。潜在空間９２内の次元９３の分布は、原点においてより集中しており（より狭い）、これは、出力におけるより大きな不確実性につながる（例えば、本明細書に記載されるように、この方法は、第１の事後分布ｐθ（ｚ｜ｘ）を決定することを含み、潜在空間の原点までの第１の事後分布の距離は、機械学習モデルの不確実性に反比例する）。比較的不確実なモデルのこのエビデンスは、平均像８９及びＳＥＭ像９１が非常に異なって見え、ＳＥＭ像９１において対応する構造が目に見えない場所の分散像９０において、濃色が多量にあるという事実により裏付けられる。

[00112] ここでもやはり、潜在空間９２に示される事後分布が、同じ入力を用いて生成された他の事後分布と（例えば、統計的に、又は別の方法で）比較されてもよい。本方法は、これらの事後分布の比較に基づいて、モデルの確実性の表示を決定することを含み得る。

[00113] 第３の非限定例として、図９は、機械学習モデルに関する入力（例えば、ｘ）として使用されるマスク像９４、マスク像９４に基づいて予測された機械学習モデルからの予測された出力の平均９５、予測された出力における分散を示す像９６、マスク像９４を用いて生成された実際のマスクのＳＥＭ像９７、及び潜在ベクトルｚの幾つかの次元９９を示す潜在空間９８を示す。像９４～９７及び潜在空間９８内の次元９９の分布は、今度は、図７に示される変動よりは大きいが、図８に示される変動よりは小さい変動を有するモデルを示す。例えば、平均像９５は、ＳＥＭ像９７に類似して見えるが、分散像９６は、ＳＥＭ像９７において対応する構造が目に見えないエリアＡにおいて、より濃い色を示す。幾つかの実施形態では、潜在空間９８に示される事後分布が、モデルの不確実性を決定するために、同じ入力を用いて生成された他の事後分布と比較されてもよい。

[00114] 図３に戻り、幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、機械学習モデルを調整することが、所与の入力に基づいた、調整された機械学習モデルによる予測に基づき、１つ又は複数のフォトリソグラフィプロセスパラメータを決定すること、及び１つ又は複数の決定されたフォトリソグラフィプロセスパラメータに基づいて、フォトリソグラフィ装置を調整することを含むように構成される。幾つかの実施形態では、調整された機械学習モデルによる予測は、予測オーバーレイ、予測ウェーハジオメトリ、及び／又は他の予測の１つ又は複数を含む。幾つかの実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータは、マスク設計、瞳形状、ドーズ、焦点、及び／又は他のプロセスパラメータの１つ又は複数を含む。

[00115] 幾つかの実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータは、マスク設計を含み、マスク設計に基づいてフォトリソグラフィ装置を調整することは、マスク設計を第１のマスク設計から第２のマスク設計に変更することを含む。幾つかの実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータは、瞳形状を含み、瞳形状に基づいてフォトリソグラフィ装置を調整することは、瞳形状を第１の瞳形状から第２の瞳形状へと変更することを含む。幾つかの実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータは、ドーズを含み、ドーズに基づいてフォトリソグラフィ装置を調整することは、ドーズを第１のドーズから第２のドーズへと変更することを含む。幾つかの実施形態では、１つ又は複数の決定されたフォトリソグラフィプロセスパラメータは、焦点を含み、焦点に基づいてフォトリソグラフィ装置を調整することは、焦点を第１の焦点から第２の焦点へと変更することを含む。

[00116] 幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることを含むように構成される。幾つかの実施形態では、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることは、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、並びに機械学習モデル、及び／又は他の訓練セット及び／又は次元増加動作においてより多くの符号化層を用いることと、を含む。幾つかの実施では、追加の、及びより多様な訓練サンプルは、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを含む。

[00117] 幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、追加の次元を潜在空間に加えること、及び／又はより多くの層を機械学習モデルに加えることを含むように構成される。幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、潜在空間からの前のサンプリング、及び／又はモデルを訓練するために使用された前の訓練データと比較して、潜在空間からの追加の、及びより多様なサンプリングを用いて、機械学習モデルを訓練することを含むように構成される。

[00118] 非限定性として、幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスにおいてマスクジオメトリを予測するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することを含む。図７～９を再び参照し、機械学習モデルからの出力（例えば、予測された平均像）の（例えば、ばらつき像に示されるような）ばらつきが、図８に示されるように大きい場合、及び／又は分布ごとの変動が比較的大きい場合には、上記のように、訓練セットのサイズを大きくしてもよく、及び／又は潜在空間の次元を増加させてもよい。しかし、機械学習モデルからの出力のばらつきが、図７に示されるように小さい場合、又は分布ごとの変動が比較的小さい場合には、調整の必要がほとんど、或いは全くない場合がある。

[00119] 幾つかの実施形態では、本方法を使用することによって、モデルを調整することなく、モデルの起こり得る欠陥を識別し、及び例えば、特定のクリップ（すなわち、像、データ、又はその他の入力）に関する不確実性を再決定するために、異なる（例えば、物理的）モデルを使用することができる。この例では、不確実性は、例えば、所与のプロセスの物理特性（例えば、レジストの化学的性質、様々なパターン形状、材料などの影響）をより深く研究するために使用され得る。

[00120] 集積回路製作プロセス及び／又は他のプロセスの幾つかの異なる態様に関係する他の例が考えられる。例えば、幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することを含む。この例を継続し、決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するためのパラメータ化モデルの不確実性を減少させるように機械学習モデルを調整することは、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、機械学習モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含み得る。

[00121] 幾つかの実施形態では、動作４６は、予測された複数の出力実現値及び／又は複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することを含む。この例を継続して、決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することは、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、例えば、ベクトルを符号化するためにより多くの次元、パラメータ化モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む。

[00122] 図１０は、本明細書に開示する方法、フロー、装置の実施を支援し得るコンピュータシステム１００を示すブロック図である。コンピュータシステム１００は、バス１０２又は情報を通信するための他の通信機構と、情報を処理するためにバス１０２と結合されたプロセッサ１０４（又は複数のプロセッサ１０４及び１０５）とを含む。コンピュータシステム１００は、ランダムアクセスメモリ（ＲＡＭ）又は他の動的ストレージデバイスなどの、プロセッサ１０４によって実行される情報及び命令を保存するためにバス１０２に結合されたメインメモリ１０６も含む。メインメモリ１０６は、プロセッサ１０４によって実行される命令の実行中に、一時変数又は他の中間情報を保存するためにも使用されてもよい。コンピュータシステム１００は、リードオンリーメモリ（ＲＯＭ）１０８、又はプロセッサ１０４のための静的情報及び命令を保存するためにバス１０２に結合された他の静的ストレージデバイスをさらに含む。情報及び命令を保存するための磁気ディスク又は光ディスクなどのストレージデバイス１１０が設けられると共に、バス１０２に結合される。

[00123] コンピュータシステム１００は、バス１０２を介して、情報をコンピュータユーザに表示するための、陰極線管（ＣＲＴ）、フラットパネル、又はタッチパネルディスプレイなどのディスプレイ１１２に結合されてもよい。英数字及び他のキーを含む入力デバイス１１４が、情報及びコマンド選択をプロセッサ１０４に通信するためにバス１０２に結合される。別のタイプのユーザ入力デバイスは、プロセッサ１０４に方向情報及びコマンド選択を通信するため、及びディスプレイ１１２上でカーソルの移動を制御するための、マウス、トラックボール、又はカーソル方向キーなどのカーソル制御部１１６である。この入力デバイスは、一般的に、２つの軸（第１の軸（例えばｘ）及び第２の軸（例えばｙ））において、デバイスがある面内で位置を特定することを可能にする２つの自由度を有する。タッチパネル（スクリーン）ディスプレイが、入力デバイスとして使用されてもよい。

[00124] ある実施形態によれば、本明細書における１つ又は複数の方法の部分は、メインメモリ１０６に含まれる１つ又は複数の命令の１つ又は複数のシーケンスを実行するプロセッサ１０４に応答して、コンピュータシステム１００によって行われてもよい。このような命令は、ストレージデバイス１１０などの別のコンピュータ可読媒体からメインメモリ１０６に読み込まれてもよい。メインメモリ１０６に含まれる命令のシーケンスの実行は、プロセッサ１０４に本明細書に記載のプロセスステップを行わせる。メインメモリ１０６に含まれる命令のシーケンスを実行するために、多重処理構成の１つ又は複数のプロセッサが用いられてもよい。ある代替実施形態では、ソフトウェア命令の代わりに、又はソフトウェア命令と一緒に、ハードワイヤード回路が用いられてもよい。従って、本明細書の記載は、ハードウェア回路及びソフトウェアの特定の組み合わせに限定されない。

[00125] 本明細書で使用される「コンピュータ可読媒体」という用語は、実行のためにプロセッサ１０４に命令を提供することに関与するあらゆる媒体を指す。このような媒体は、限定されないが、不揮発性媒体、揮発性媒体、及び伝送媒体を含む、多くの形態をとり得る。不揮発性媒体は、例えば、ストレージデバイス１１０などの光又は磁気ディスクを含む。揮発性媒体は、メインメモリ１０６などの動的メモリを含む。伝送媒体は、同軸ケーブル、銅線及び光ファイバ（バス１０２を含むワイヤを含む）を含む。伝送媒体は、無線周波数（ＲＦ）及び赤外線（ＩＲ）データ通信中に生成されるものなどの、音波又は光波の形態もとり得る。コンピュータ可読媒体の一般的形態は、例えば、フロッピーディスク、フレキシブルディスク、ハードディスク、磁気テープ、その他の磁気媒体、ＣＤ－ＲＯＭ、ＤＶＤ、その他の光媒体、パンチカード、紙テープ、孔のパターンを有したその他の物理媒体、ＲＡＭ、ＰＲＯＭ、及びＥＰＲＯＭ、ＦＬＡＳＨ－ＥＰＲＯＭ、その他のメモリチップ又はカートリッジ、以下に記載されるような搬送波、又はコンピュータが読み取ることができるその他の媒体を含む。

[00126] コンピュータ可読媒体の様々な形態が、実行のためにプロセッサ１０４に１つ又は複数の命令の１つ又は複数のシーケンスを運ぶことに関与してもよい。例えば、命令は、最初は、リモートコンピュータの磁気ディスクにある場合がある。リモートコンピュータは、命令をそれの動的メモリにロードし、及びモデムを使用して電話回線上で命令を送ることができる。コンピュータシステム１００にローカルなモデムが、電話回線上のデータを受信し、及び赤外線送信機を用いてデータを赤外線信号に変換することができる。バス１０２に結合された赤外線検出器が、赤外線信号で搬送されたデータを受信し、及びそのデータをバス１０２にのせることができる。バス１０２は、データをメインメモリ１０６に搬送し、そこからプロセッサ１０４が、命令の読み出し及び実行を行う。メインメモリ１０６によって受信された命令は、任意選択的に、プロセッサ１０４による実行の前又は後に、ストレージデバイス１１０に保存されてもよい。

[00127] コンピュータシステム１００は、バス１０２に結合された通信インターフェース１１８も含み得る。通信インターフェース１１８は、ローカルネットワーク１２２に接続されたネットワークリンク１２０に結合する双方向データ通信も提供する。例えば、通信インターフェース１１８は、対応するタイプの電話回線にデータ通信接続を提供するデジタル総合サービス網（ＩＳＤＮ）カード又はモデムでもよい。別の例として、通信インターフェース１１８は、互換性のあるＬＡＮへのデータ通信接続を提供するローカルエリアネットワーク（ＬＡＮ）カードでもよい。ワイヤレスリンクが実施されてもよい。このような実施において、通信インターフェース１１８は、様々なタイプの情報を表すデジタルデータストリームを搬送する電気、電磁、又は光信号の送信及び受信を行う。

[00128] ネットワークリンク１２０は、一般的に、１つ又は複数のネットワークを通して、他のデータデバイスにデータ通信を提供する。例えば、ネットワークリンク１２０は、ローカルネットワーク１２２を通して、ホストコンピュータ１２４又はインターネットサービスプロバイダ（ＩＳＰ）１２６によって操作されるデータ機器への接続を提供することができる。ＩＳＰ１２６は、次に、ワールドワイドパケットデータ通信ネットワーク（現在、一般に「インターネット」１２８と呼ばれる）によるデータ通信サービスを提供する。ローカルネットワーク１２２及びインターネット１２８は共に、デジタルデータストリームを搬送する電気、電磁、又は光信号を使用する。コンピュータシステム１００に対して、及びコンピュータシステム１００からデジタルデータを搬送する、様々なネットワークを通る信号、及びネットワークリンク１２０上の、及び通信インターフェース１１８を通る信号は、情報を運ぶ搬送波の形態例である。

[00129] コンピュータシステム１００は、１つ又は複数のネットワーク、ネットワークリンク１２０、及び通信インターフェース１１８を通して、メッセージを送信すること、及びプログラムコードを含むデータを受信することができる。インターネット例では、サーバ１３０は、インターネット１２８、ＩＳＰ１２６、ローカルネットワーク１２２、及び通信インターフェース１１８を通して、アプリケーションプログラムの要求コードを送信する場合がある。そのようなダウンロードされたあるアプリケーションは、本明細書における方法の全て又は一部を提供することができる。受信されたコードは、受信された際にプロセッサ１０４によって実行されてもよく、及び／又は後で実行するためにストレージデバイス１１０又は他の不揮発性ストレージに保存されてもよい。このようにして、コンピュータシステム１００は、搬送波の形態のアプリケーションコードを取得してもよい。

[00130] 図１１は、本明細書に記載する技術と組み合わせて使用できる例示的リソグラフィ投影装置を模式的に描く。この装置は、以下を含む：
－放射ビームＢを調節するための照明システムＩＬ。この特定のケースでは、照明システムは、放射源ＳＯも含む；
－パターニングデバイスＭＡ（例えば、レチクル）を保持するためのパターニングデバイスホルダを備え、且つアイテムＰＳに対してパターニングデバイスを正確に位置決めするための第１のポジショナに接続された第１のオブジェクトテーブル（例えば、パターニングデバイステーブル）ＭＴ；
－基板Ｗ（例えば、レジストコートシリコンウェーハ）を保持するための基板ホルダを備え、且つアイテムＰＳに対して基板を正確に位置決めするための第２のポジショナに接続された第２のオブジェクトテーブル（基板テーブル）ＷＴ；
－パターニングデバイスＭＡの照射部分を基板Ｗのターゲット部分Ｃ（例えば、１つ又は複数のダイを含む）上に結像する投影システム（「レンズ」）ＰＳ（例えば、屈折型、反射型、又は反射屈折型光学システム）。

[00131] 本明細書で描かれるように、本装置は、透過型（すなわち、透過型パターニングデバイスを有する）である。しかし一般に、それは、例えば反射型（反射型パターニングデバイスを有する）でもよい。本装置は、従来のマスクとは異なる種類のパターニングデバイスを用いてもよく、例には、プログラマブルミラーアレイ又はＬＣＤマトリックスが含まれる。

[00132] ソースＳＯ（例えば、水銀ランプ又はエキシマレーザ、ＬＰＰ（レーザ生成プラズマ）ＥＵＶソース）は、放射ビームを生成する。このビームは、照明システム（イルミネータ）ＩＬに対して、そのまま、又は例えばビームエキスパンダＥｘなどの調節手段を横断した後に、供給される。イルミネータＩＬは、ビームの強度分布の外側及び／又は内側半径範囲（一般的に、それぞれσ-outer及びσ-innerと呼ばれる）を設定するための調節手段ＡＤを含み得る。さらにそれは、一般に、インテグレータＩＮ及びコンデンサＣＯなどの様々な他のコンポーネントを含む。このようにして、パターニングデバイスＭＡに衝突するビームＢは、断面に所望の均一性及び強度分布を有する。

[00133] 図１０に関して、ソースＳＯは、リソグラフィ投影装置のハウジング内に位置してもよいが（大抵の場合、ソースＳＯが、例えば水銀ランプのとき）、リソグラフィ投影装置から離れた位置にあり、それが生成する放射ビームが装置内に導き入れられてもよい（例えば、適宜の誘導ミラーを用いて）ことに留意されたい。この後者のシナリオは、ソースＳＯがエキシマレーザ（例えば、ＫｒＦ、ＡｒＦ、又はＦ２レージングに基づく）であるケースが多い。

[00134] 続いて、ビームＢは、パターニングデバイステーブルＭＴ上に保持されるパターニングデバイスＭＡと交差する。ビームＢは、パターニングデバイスＭＡを横断した後、ビームＢの焦点を基板Ｗのターゲット部分Ｃに合わせるレンズＰＬを通過する。第２の位置決め手段（及び干渉測定手段ＩＦ）を用いて、例えば異なるターゲット部分ＣをビームＢのパス内に位置決めするように、基板テーブルＷＴを正確に移動させることができる。同様に、例えば、パターニングデバイスライブラリからのパターニングデバイスＭＡの機械検索後に、又はスキャン中に、第１の位置決め手段を用いて、ビームＢのパスに対してパターニングデバイスＭＡを正確に位置決めすることができる。一般に、オブジェクトテーブルＭＴ、ＷＴの移動は、図１１には明示的に描かれない、ロングストロークモジュール（粗動位置決め）及びショートストロークモジュール（微動位置決め）を用いて実現される。但しステッパの場合は（ステップアンドスキャンツールとは対照的に）、パターニングデバイステーブルＭＴは、ショートストロークアクチュエータのみに接続されてもよく、又は固定されてもよい。

[00135] 描かれたツールは、２つの異なるモードで使用され得る：
－ステップモードでは、パターニングデバイステーブルＭＴは、基本的に静止したままであり、及びパターニングデバイス像全体が、一回（すなわち、単一の「フラッシュ」）でターゲット部分Ｃ上に投影される。次いで、異なるターゲット部分ＣがビームＢによって照射され得るように、基板テーブルＷＴが、ｘ及び／又はｙ方向にシフトされる；
－スキャンモードでは、所与のターゲット部分Ｃが、単一の「フラッシュ」で露光されないことを除き、基本的に同じシナリオが当てはまる。代わりに、パターニングデバイステーブルＭＴは、投影ビームＢがパターニングデバイス像上をスキャンさせられるように、速度ｖで、所与の方向（いわゆる「スキャン方向」、例えば、ｙ方向）に移動可能である。並行して、基板テーブルＷＴが、速度Ｖ＝Ｍｖ（Ｍは、レンズＰＬの倍率である（一般的に、Ｍ＝１／４又は１／５））で、同じ又は反対方向に同時に移動される。このようにして、解像度を妥協する必要なしに、比較的大きなターゲット部分Ｃを露光させることができる。

[00136] 図１２は、本明細書に記載される技術と共に利用することができる別の例示的リソグラフィ投影装置１０００を模式的に示す。

[00137] リソグラフィ投影装置１０００は、以下を含む：
－ソースコレクタモジュールＳＯ；
－放射ビームＢ（例えば、ＥＵＶ放射）を調節するように構成された照明システム（イルミネータ）ＩＬ。
－パターニングデバイス（例えば、マスク又はレチクル）ＭＡを支持するように構築され、且つパターニングデバイスを正確に位置決めするように構成された第１のポジショナＰＭに接続されたサポート構造（例えば、パターニングデバイステーブル）ＭＴ；
－基板（例えば、レジストコートウェーハ）Ｗを保持するように構築され、且つ基板を正確に位置決めするように構成された第２のポジショナＰＷに接続された基板テーブル（例えば、ウェーハテーブル）ＷＴ；及び
－パターニングデバイスＭＡによって放射ビームＢに付与されたパターンを基板Ｗのターゲット部分Ｃ（例えば、１つ又は複数のダイを含む）上に投影するように構成された投影システム（例えば、反射型投影システム）ＰＳ。

[00138] 図１２に描かれるように、装置１０００は、反射型（例えば、反射型パターニングデバイスを用いる）である。ほとんどの材料が、ＥＵＶ波長範囲内で吸収性であるので、パターニングデバイスは、例えば、モリブデン及びシリコンのマルチスタックを含む多層リフレクタを有し得ることに留意されたい。一例では、マルチスタックリフレクタは、各層の厚さが４分の１波長である、モリブデン及びシリコンの４０層ペアを有する。さらに小さな波長が、Ｘ線リソグラフィを用いて生成され得る。ほとんどの材料が、ＥＵＶ及びｘ線波長で吸収性であるので、パターニングデバイストポグラフィ上の薄い一片のパターン付き吸収材料（例えば、多層リフレクタ上のＴａＮアブゾーバ）は、どこにフィーチャが印刷され（ポジ型レジスト）、又は印刷されないか（ネガ型レジスト）を定義する。

[00139] イルミネータＩＬが、ソースコレクタモジュールＳＯから極端紫外線放射ビームを受ける。ＥＵＶ放射を生成する方法は、必ずしも限定されないが、ＥＵＶ範囲において１つ又は複数の輝線を備えた少なくとも１つの元素（例えば、キセノン、リチウム、又はスズ）を有するプラズマ状態に材料を変換することを含む。レーザ生成プラズマ（「ＬＰＰ」）と呼ばれることが多い、そのような１つの方法では、プラズマは、線発光元素を有する材料の小滴、ストリーム、又はクラスタなどの燃料をレーザビームで照射することによって生成され得る。ソースコレクタモジュールＳＯは、燃料を励起するレーザビームを提供するレーザ（図１２では不図示）を含むＥＵＶ放射システムの一部でもよい。その結果生じるプラズマが、出力放射（例えば、ＥＵＶ放射）を放出し、これが、ソースコレクタモジュールに配置される放射コレクタを用いて収集される。レーザ及びソースコレクタモジュールは、例えば、燃料励起用のレーザビームを提供するためにＣＯ２レーザが使用される場合には、別個のエンティティでもよい。

[00140] このようなケースでは、レーザは、リソグラフィ装置の一部を形成するとは見なされず、及び放射ビームは、例えば、適宜の誘導ミラー及び／又はビームエキスパンダを含むビームデリバリシステムを用いて、レーザからソースコレクタモジュールへと渡される。他のケースでは、例えばソースが、ＤＰＰソースと呼ばれることが多い、放電生成プラズマＥＵＶジェネレータである場合に、ソースは、ソースコレクタモジュールの一体化部分でもよい。ある実施形態では、ＤＵＶレーザ源が使用されてもよい。

[00141] イルミネータＩＬは、放射ビームの角度強度分布を調節するためのアジャスタを含み得る。一般に、イルミネータの瞳面の強度分布の少なくとも外側及び／又は内側半径範囲（一般的に、それぞれσ-outer及びσ-innerと呼ばれる）が、調節され得る。さらに、イルミネータＩＬは、ファセットフィールド及び瞳ミラーデバイスなどの様々な他のコンポーネントを含み得る。イルミネータを使用して、断面に所望の均一性及び強度分布を有するように放射ビームを調整することができる。

[00142] 放射ビームＢは、サポート構造（例えば、パターニングデバイステーブル）ＭＴ上に保持されるパターニングデバイス（例えば、マスク）ＭＡに入射し、及びパターニングデバイスによってパターン付けされる。放射ビームＢは、パターニングデバイス（例えば、マスク）ＭＡから反射された後、ビームの焦点を基板Ｗのターゲット部分Ｃに合わせる投影システムＰＳを通過する。第２のポジショナＰＷ及び位置センサＰＳ２（例えば、干渉デバイス、リニアエンコーダ、又は静電容量センサ）を用いて、例えば異なるターゲット部分Ｃを放射ビームＢのパス内に位置決めするように、基板テーブルＷＴを正確に移動させることができる。同様に、第１のポジショナＰＭ及び別の位置センサＰＳ１を用いて、放射ビームＢのパスに対してパターニングデバイス（例えば、マスク）ＭＡを正確に位置決めすることができる。パターニングデバイス（例えば、マスク）ＭＡ及び基板Ｗは、パターニングデバイスアライメントマークＭ１、Ｍ２及び基板アライメントマークＰ１、Ｐ２を用いてアライメントされてもよい。

[00143] 描かれた装置１０００は、以下のモードの少なくとも１つで使用され得る：

[00144] １．ステップモードでは、放射ビームに付与されたパターン全体が、一回でターゲット部分Ｃ上に投影される間に、サポート構造（例えば、パターニングデバイステーブル）ＭＴ及び基板テーブルＷＴは、基本的に静止したままである（すなわち、単一静的露光）。次いで、異なるターゲット部分Ｃが露光され得るように、基板テーブルＷＴが、Ｘ及び／又はＹ方向にシフトされる。

[00145] ２．スキャンモードでは、放射ビームに付与されたパターンが、ターゲット部分Ｃ上に投影される間に、サポート構造（例えば、パターニングデバイステーブル）ＭＴ及び基板テーブルＷＴは、同期してスキャンされる（すなわち、単一動的露光）。サポート構造（例えば、パターニングデバイステーブル）ＭＴに対する基板テーブルＷＴの速度及び方向は、投影システムＰＳの縮小及び像反転特性によって決定され得る。

[00146] ３．別のモードでは、放射ビームに付与されたパターンが、ターゲット部分Ｃ上に投影される間に、サポート構造（例えば、パターニングデバイステーブル）ＭＴは、プログラマブルパターニングデバイスを保持して基本的に静止したままであり、且つ基板テーブルＷＴは、移動又はスキャンされる。このモードでは、一般にパルス放射源が用いられ、及びプログラマブルパターニングデバイスが、基板テーブルＷＴの各移動後に、又はスキャン中の連続する放射パルスの合間に、必要に応じて更新される。この動作モードは、上記で言及したようなタイプのプログラマブルミラーアレイなどのプログラマブルパターニングデバイスを利用するマスクレスリソグラフィに容易に適用することができる。

[00147] 図１３は、ソースコレクタモジュールＳＯ、照明システムＩＬ、及び投影システムＰＳを含む装置１０００をより詳細に示す。ソースコレクタモジュールＳＯは、ソースコレクタモジュールＳＯの閉鎖構造２２０内で真空環境が維持され得るように、構築及び配置される。ＥＵＶ放射放出プラズマ２１０は、放電生成プラズマ源によって形成され得る。ＥＵＶ放射は、ガス又は蒸気（例えば、電磁スペクトルのＥＵＶ範囲内の放射を放出するために、超高温プラズマ２１０が作られるＸｅガス、Ｌｉ蒸気、又はＳｎ蒸気）によって生成され得る。超高温プラズマ２１０は、例えば、少なくとも部分的にイオン化されたプラズマを生じさせる放電によって作られる。Ｘｅ、Ｌｉ、Ｓｎ蒸気又は任意のその他の適宜のガス若しくは蒸気の例えば１０Ｐａの分圧が、放射の効率的生成に必要とされ得る。ある実施形態では、励起スズ（Ｓｎ）のプラズマは、ＥＵＶ放射を生成するために提供される。

[00148] 高温プラズマ２１０によって放出された放射は、ソースチャンバ２１１から、ソースチャンバ２１１の開口内、又はその後ろに位置する任意選択的なガスバリア又は汚染物質トラップ２３０（場合によっては、汚染物質バリア又はフォイルトラップとも呼ばれる）を介して、コレクタチャンバ２１２内へと渡される。汚染物質トラップ２３０は、チャネル構造を含み得る。汚染物質トラップ２３０は、ガスバリア、又はガスバリア及びチャネル構造の組み合わせも含み得る。本明細書にさらに示される汚染物質トラップ又は汚染物質バリア２３０は、当該技術分野で知られているように、少なくともチャネル構造を含む。

[00149] コレクタチャンバ２１１は、いわゆる斜入射型コレクタでもよい放射コレクタＣＯを含み得る。放射コレクタＣＯは、上流放射コレクタ側２５１及び下流放射コレクタ側２５２を有する。コレクタＣＯを横断する放射は、格子スペクトルフィルタ２４０に反射して、一点鎖線「Ｏ」によって示される光軸に沿った仮想光源点ＩＦに焦点を合わせることができる。仮想光源点ＩＦは、一般的に中間焦点と呼ばれ、及びソースコレクタモジュールは、中間焦点ＩＦが、閉鎖構造２２０の開口２２１に、又はその付近に位置するように配置される。仮想光源点ＩＦは、放射放出プラズマ２１０の像である。

[00150] 続いて、放射は、パターニングデバイスＭＡにおいて放射ビーム２１の所望の角度分布、及びパターニングデバイスＭＡにおいて放射強度の所望の均一性を提供するように配置されたファセットフィールドミラーデバイス２２及びファセット瞳ミラーデバイス２４を包含し得る照明システムＩＬを横断する。サポート構造ＭＴによって保持されたパターニングデバイスＭＡにおける放射ビーム２１の反射時に、パターン付きビーム２６が形成され、及びパターン付きビーム２６は、投影システムＰＳによって、反射要素２８、３０を介して、基板テーブルＷＴによって保持される基板Ｗ上に結像される。

[00151] 一般に、図示されるよりも多くの要素が、照明光学系ユニットＩＬ及び投影システムＰＳ内に存在し得る。格子スペクトルフィルタ２４０が、リソグラフィ装置のタイプに応じて、任意選択的に存在してもよい。さらに、図面に示されるミラーよりも多くのミラーが存在してもよく、例えば、図１３に示されるよりも１～６個の追加の反射要素が、投影システムＰＳに存在してもよい。

[00152] 図１４に示されるようなコレクタ系ＣＯは、コレクタ（又はコレクタミラー）の単なる一例として、斜入射型リフレクタ２５３、２５４、及び２５５を備えた入れ子式コレクタとして描かれる。斜入射型リフレクタ２５３、２５４、及び２５５は、光軸Ｏに対して軸対称に配置され、及びこのタイプのコレクタ系ＣＯは、ＤＰＰソースと呼ばれることが多い、放電生成プラズマ源と組み合わせて使用され得る。

[00153] 代替的に、ソースコレクタモジュールＳＯは、図１４に示すように、ＬＰＰ放射システムの一部であってもよい。レーザＬＡは、レーザエネルギーをキセノン（Ｘｅ）、スズ（Ｓｎ）、又はリチウム（Ｌｉ）などの燃料に堆積させ、数十ｅＶの電子温度の高イオン化プラズマ２１０を生成するように配置される。脱励起及びこれらのイオンの再結合中に生成されるエネルギー放射は、プラズマから放出され、近法線入射コレクタ系ＣＯによって収集され、及び閉鎖構造２２０の開口２２１上に焦点が合わせられる。

[00154] 実施形態は、以下の条項を用いてさらに説明することができる：
１．機械学習モデル予測の不確実性を数値化する方法であって、
所与の入力に関して機械学習モデルからの複数の出力実現値を機械学習モデルに予測させることと、
所与の入力に関する予測された複数の出力実現値のばらつきを決定することと、
予測された複数の出力実現値の決定されたばらつきを用いて、機械学習モデルからの予測された複数の出力実現値における不確実性を数値化することと、
を含む、方法。
２．複数の出力実現値を機械学習モデルに予測させることが、所与の入力を条件とした条件付き確率からサンプリングを行うことを含む、条項１に記載の方法。
３．所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又は機械学習モデルの前の層からのデータの１つ又は複数を含む、条項１～２の何れか一項に記載の方法。
４．予測された複数の出力実現値の決定されたばらつき、及び／又は数値化された不確実性を用いて、機械学習モデルをより記述的にすること、又はより多様な訓練データを含めることによって、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することをさらに含む、条項１～３の何れか一項に記載の方法。
５．機械学習モデルがエンコーダ－デコーダアーキテクチャを含む、条項１～４の何れか一項に記載の方法。
６．エンコーダ－デコーダアーキテクチャが、変分エンコーダ－デコーダアーキテクチャを含み、本方法が、出力空間で実現値を生成する確率潜在空間を用いて変分エンコーダ－デコーダアーキテクチャを訓練することをさらに含む、条項５に記載の方法。
７．潜在空間が、低次元符号化を含む、条項６に記載の方法。
８．所与の入力に関して、エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて、潜在変数の条件付き確率を決定することをさらに含む、条項７に記載の方法。
９．エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、条件付き確率を決定することをさらに含む、条項８に記載の方法。
１０．エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて決定された潜在変数の条件付き確率からサンプリングを行うことと、サンプルごとに、エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、出力を予測することと、をさらに含む、条項９に記載の方法。
１１．サンプリングが、所与の条件付き確率分布から数字を無作為に選択することを含み、サンプリングが、ガウス又は非ガウス式である、条項１０に記載の方法。
１２．潜在空間内でサンプルごとに予測された出力に基づいて、所与の入力に関する予測された複数の出力実現値のばらつきを決定することをさらに含む、条項１０に記載の方法。
１３．ばらつきを決定することが、平均、モーメント、歪度、標準偏差、分散、尖度、又は共分散の１つ又は複数を含む１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含む、条項１２に記載の方法。
１４．エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて決定された潜在変数の条件付き確率が、変分推論技法を用いてエンコーダ部分によって決定される、条項８～１３の何れか一項に記載の方法。
１５．変分推論技法が、パラメータファミリーの分布において、エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて、潜在変数の条件付き確率に対する近似を識別することを含む、条項１４に記載の方法。
１６．パラメータファミリーの分布が、パラメータ化分布を含み、ファミリーが、分布、又は複数の分布の組み合わせのタイプ又は形状を意味する、条項１５に記載の方法。
１７．第１の事後分布を決定することをさらに含み、潜在空間の原点までの第１の事後分布の距離が、機械学習モデルの不確実性に反比例する、条項１～１６の何れか一項に記載の方法。
１８．第２の事後分布を決定することをさらに含み、第２の事後分布の分散が、機械学習モデルの不確実性に直接関係する、条項１～１７の何れか一項に記載の方法。
１９．第２の事後分布を決定することが、潜在空間を直接サンプリングすることを含む、条項１８に記載の方法。
２０．第２の事後分布が学習される、条項１８に記載の方法。
２１．機械学習モデルの不確実性が、機械学習モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する、条項１～２０の何れか一項に記載の方法。
２２．重みの不確実性が、出力の不確実性となって現れることによって、出力分散の増加が引き起こされるように、機械学習モデルの不確実性が、機械学習モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する、条項２１に記載の方法。
２３．予測された複数の出力実現値の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることを含む、条項２～２２の何れか一項に記載の方法。
２４．訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることが、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、及び機械学習モデルにおいてより多くの符号化層を用いることと、を含む、条項２３に記載の方法。
２５．予測された複数の出力実現値の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、潜在空間にさらなる次元を追加することを含む、条項２～２４の何れか一項に記載の方法。
２６．予測された複数の出力実現値の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、追加の、及びより多様な訓練サンプルを用いて機械学習モデルを訓練することを含む、条項２～２５の何れか一項に記載の方法。
２７．追加の、及びより多様な訓練サンプルが、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを含む、条項２６に記載の方法。
２８．予測された複数の出力実現値の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することをさらに含む、条項２～２７の何れか一項に記載の方法。
２９．予測された複数の出力実現値の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、機械学習モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む、条項２８に記載の方法。
３０．予測された複数の出力実現値の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することをさらに含む、条項２～２９の何れか一項に記載の方法。
３１．予測された複数の出力実現値の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するための機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、機械学習モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む、条項３０に記載の方法。
３２．パラメータ化モデル予測の不確実性を数値化する方法であって、
所与の入力に関してパラメータ化モデルからの複数の出力実現値をパラメータ化モデルに予測させることと、
所与の入力に関する予測された複数の出力実現値のばらつきを決定することと、
予測された複数の出力実現値の決定されたばらつきを用いて、パラメータ化モデルからの予測された複数の出力実現値における不確実性を数値化することと、
を含む、方法。
３３．パラメータ化モデルが機械学習モデルである、条項３２に記載の方法。
３４．命令が記録された非一時的コンピュータ可読媒体を含むコンピュータプログラムであって、命令が、コンピュータによって実行されると、条項１～３３の何れか一項に記載の方法を実施する、コンピュータプログラム。
３５．フォトリソグラフィ装置構成の方法であって、
所与の入力に関して機械学習モデルからの複数の事後分布を機械学習モデルに予測させることであって、複数の事後分布が、複数の分布のうちのある分布を含む、予測させることと、
上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することと、
予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することと、
機械学習モデル予測の不確実性を減少させるように機械学習モデルの１つ又は複数のパラメータを調整することと、
所与の入力に関する、調整された機械学習モデルからの予測に基づいて、フォトリソグラフィ装置を調整するための１つ又は複数のフォトリソグラフィプロセスパラメータを決定することと、
を含む、方法。
３６．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータに基づいて、フォトリソグラフィ装置を調整することをさらに含む、条項３５に記載の方法。
３７．機械学習モデルの１つ又は複数のパラメータが、機械学習モデルの１つ又は複数のパラメータの１つ又は複数の重みを含む、条項３６に記載の方法。
３８．調整された機械学習モデルからの予測が、予測オーバーレイ又は予測ウェーハジオメトリの１つ又は複数を含む、条項３５～３７の何れか一項に記載の方法。
３９．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、マスク設計、瞳形状、ドーズ、又は焦点の１つ又は複数を含む、条項３５～３８の何れか一項に記載の方法。
４０．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、マスク設計を含み、マスク設計に基づいてフォトリソグラフィ装置を調整することが、マスク設計を第１のマスク設計から第２のマスク設計に変更することを含む、条項３９に記載の方法。
４１．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、瞳形状を含み、瞳形状に基づいてフォトリソグラフィ装置を調整することが、瞳形状を第１の瞳形状から第２の瞳形状へと変更することを含む、条項３９に記載の方法。
４２．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、ドーズを含み、ドーズに基づいてフォトリソグラフィ装置を調整することが、ドーズを第１のドーズから第２のドーズへと変更することを含む、条項３９に記載の方法。
４３．１つ又は複数の決定されたフォトリソグラフィプロセスパラメータが、焦点を含み、焦点に基づいてフォトリソグラフィ装置を調整することが、焦点を第１の焦点から第２の焦点へと変更することを含む、条項３９に記載の方法。
４４．複数の事後分布を機械学習モデルに予測させることが、パラメータドロップアウトを用いて、上記複数の分布のうちのある分布を機械学習モデルに生成させることを含む、条項３５～４３の何れか一項に記載の方法。
４５．所与の入力に関して機械学習モデルからの複数の事後分布を機械学習モデルに予測させることが、第１の事後分布ＰΘ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布Ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットを機械学習モデルに予測させることを含み、
上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することが、第１及び第２のセットに関して上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布の第１のセット及び第２のセットのばらつきを決定することを含み、
予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することが、予測された複数の事後分布の第１のセット及び第２のセットの決定されたばらつきを用いて、機械学習モデル予測の不確実性を数値化することを含む、条項３５～４４の何れか一項に記載の方法。
４６．所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又は機械学習モデルの前の層からのデータの１つ又は複数を含む、条項３５～４５の何れか一項に記載の方法。
４７．予測された複数の事後分布の決定されたばらつき、及び／又は数値化された不確実性を用いて、機械学習モデルをより記述的にすること、又はより多様な訓練データを含めることによって、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することをさらに含む、条項３５～４６の何れか一項に記載の方法。
４８．サンプリングが、上記複数の分布のうちのある分布から複数の分布を無作為に選択することを含み、サンプリングが、ガウス又は非ガウス式である、条項３５～４７の何れか一項に記載の方法。
４９．ばらつきを決定することが、平均、モーメント、歪度、標準偏差、分散、尖度、又は共分散の１つ又は複数を含む１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含む、条項３５～４８の何れか一項に記載の方法。
５０．機械学習モデルの不確実性が、機械学習モデルの１つ又は複数のパラメータの重みの不確実性、並びに機械学習モデルに関連付けられた潜在空間のサイズ及び記述性に関係する、条項３５～４９の何れか一項に記載の方法。
５１．機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は機械学習モデルに関連付けられた潜在空間の次元を増加させることを含む、条項３５～５０の何れか一項に記載の方法。
５２．訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることが、機械学習モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、及び機械学習モデルにおいてより多くの符号化層を用いることと、を含む、条項５１に記載の方法。
５３．予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルを調整することが、機械学習モデルに関連付けられた潜在空間にさらなる次元を追加することを含む、条項３５～５２の何れか一項に記載の方法。
５４．予測された複数の事後分布の決定されたばらつきを用いて、機械学習モデルの不確実性を減少させるように機械学習モデルの１つ又は複数のパラメータを調整することが、追加の、及びより多様な訓練サンプルを用いて機械学習モデルを訓練することを含む、条項３５～５３の何れか一項に記載の方法。
５５．パラメータ化モデル予測の不確実性を数値化する方法であって、
所与の入力に関してパラメータ化モデルからの複数の事後分布をパラメータ化モデルに予測させることであって、複数の事後分布が、複数の分布のうちのある分布を含む、予測させることと、
上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することと、
予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することと、
を含む、方法。
５６．パラメータ化モデルが、機械学習モデルである、条項５５に記載の方法。
５７．複数の事後分布をパラメータ化モデルに予測させることが、パラメータドロップアウトを用いて、上記複数の分布のうちのある分布をパラメータ化モデルに生成させることを含む、条項５５～５６の何れか一項に記載の方法。
５８．所与の入力に関してパラメータ化モデルからの複数の事後分布をパラメータ化モデルに予測させることが、第１の事後分布ＰΘ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布Ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットをパラメータ化モデルに予測させることを含み、
上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布のばらつきを決定することが、第１及び第２のセットに関して上記複数の分布のうちのある分布からサンプリングを行うことによって、所与の入力に関する予測された複数の事後分布の第１のセット及び第２のセットのばらつきを決定することを含み、
予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することが、予測された複数の事後分布の第１のセット及び第２のセットの決定されたばらつきを用いて、パラメータ化モデル予測の不確実性を数値化することを含む、条項５５～５７の何れか一項に記載の方法。
５９．所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又はパラメータ化モデルの前の層からのデータの１つ又は複数を含む、条項５５～５８の何れか一項に記載の方法。
６０．予測された複数の事後分布の決定されたばらつき、及び／又は数値化された不確実性を用いて、パラメータ化モデルをより記述的にすること、又はより多様な訓練データを含めることによって、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む、条項５５～５９の何れか一項に記載の方法。
６１．パラメータ化モデルが、エンコーダ－デコーダアーキテクチャを含む、条項５５～６０の何れか一項に記載の方法。
６２．エンコーダ－デコーダアーキテクチャが、変分エンコーダ－デコーダアーキテクチャを含み、本方法が、出力空間で実現値を生成する確率潜在空間を用いて変分エンコーダ－デコーダアーキテクチャを訓練することをさらに含む、条項６１に記載の方法。
６３．潜在空間が、低次元符号化を含む、条項６２に記載の方法。
６４．所与の入力に関して、エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて、潜在変数の条件付き確率を決定することをさらに含む、条項６３に記載の方法。
６５．エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、条件付き確率を決定することをさらに含む、条項６４に記載の方法。
６６．エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて決定された潜在変数の条件付き確率からサンプリングを行うことと、サンプルごとに、エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、出力を予測することと、をさらに含む、条項６５に記載の方法。
６７．サンプリングが、上記複数の分布のうちのある分布から複数の分布を無作為に選択することを含み、サンプリングが、ガウス又は非ガウス式である、条項５５に記載の方法。
６８．ばらつきを決定することが、平均、モーメント、歪度、標準偏差、分散、尖度、又は共分散の１つ又は複数を含む１つ又は複数の統計的演算を用いて、ばらつきを数値化することを含む、条項６７に記載の方法。
６９．パラメータ化モデルの不確実性が、パラメータ化モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する、条項６２～６８の何れか一項に記載の方法。
７０．重みの不確実性が、出力の不確実性となって現れることによって、出力分散の増加が引き起こされるように、パラメータ化モデルの不確実性が、パラメータ化モデルのパラメータの重みの不確実性、並びに潜在空間のサイズ及び記述性に関係する、条項６９に記載の方法。
７１．予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることを含む、条項６２～７０の何れか一項に記載の方法。
７２．訓練セットのサイズを大きくすること、及び／又は潜在空間の次元を増加させることが、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、及びパラメータ化モデルにおいてより多くの符号化層を用いることと、を含む、条項７１に記載の方法。
７３．予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、潜在空間にさらなる次元を追加することを含む、条項６２～７２の何れか一項に記載の方法。
７４．予測された複数の事後分布の決定されたばらつきを用いて、パラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、追加の、及びより多様な訓練サンプルを用いてパラメータ化モデルを訓練することを含む、条項６０～７３の何れか一項に記載の方法。
７５．追加の、及びより多様な訓練サンプルが、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを含む、条項７４に記載の方法。
７６．予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む、条項６０～７５の何れか一項に記載の方法。
７７．予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部としてウェーハジオメトリを予測するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、パラメータ化モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む、条項７６に記載の方法。
７８．予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することをさらに含む、条項６０～７７の何れか一項に記載の方法。
７９．予測された複数の事後分布の決定されたばらつきを用いて、半導体製造プロセスの一部として予測オーバーレイを生成するためのパラメータ化モデルの不確実性を減少させるようにパラメータ化モデルを調整することが、パラメータ化モデルを訓練するための入力として、前の訓練材料と比較して、より多様な像、より多様なデータ、及び追加のクリップを用いることと、ベクトルを符号化するためにより多くの次元、パラメータ化モデルにおいてより多くの符号化層、より多様な像、より多様なデータ、追加のクリップ、より多くの次元、及び決定されたばらつきに基づいて決定されたより多くの符号化層を用いることと、を含む、条項７８に記載の方法。
８０．命令が記録された非一時的コンピュータ可読媒体を含むコンピュータプログラムであって、命令が、コンピュータによって実行されると、条項３５～７９の何れか一項に記載の方法を実施する、コンピュータプログラム。

[00155] 本明細書に開示する概念は、サブ波長フィーチャを結像するための一般的結像システムのシミュレーション又は数学的モデル化を行うことができ、及び特に、ますます短くなる波長を生成することが可能な新しい結像技術にとって有用となり得る。既に使用されている新しい技術には、ＥＵＶ（極端紫外線）、ＡｒＦレーザを使用して１９３ｎｍの波長、及びフッ素レーザを使用して１５７ｎｍの波長さえ生成可能なＤＵＶリソグラフィが含まれる。また、ＥＵＶリソグラフィは、２０～５ｎｍの範囲内で光子を生成するために、シンクロトロンを使用することによって、又は材料（固体又はプラズマ）に高エネルギー電子をぶつけることによって、この範囲内の波長を生成することが可能である。

[00156] 本明細書に開示する概念は、シリコンウェーハなどの基板上の結像のために使用され得るが、開示した概念は、あらゆるタイプのリソグラフィ結像システム（例えば、シリコンウェーハ以外の基板上の結像に使用されるもの）に使用され得ることが理解されるものとする。加えて、開示した要素の組み合わせ及びサブコンビネーションは、別個の実施形態を含み得る。例えば、機械学習モデルのばらつきを決定することは、モデルによって行われた個々の予測のばらつき、及び／又はモデルによって生成された事後分布のサンプリングされたセットにおけるばらつきを決定することを含み得る。これらの特徴は、別個の実施形態を含んでもよく、及び／又はこれらの特徴は、同じ実施形態内で一緒に使用されてもよい。

[00157] 上記の記載は、説明のためのものであり、限定するものではないことが意図される。従って、当業者には、以下に記載される請求項の範囲から逸脱することなく、説明したように、変更が行われ得ることが明らかとなるだろう。

Claims (15)

1. パラメータ化モデル予測の不確実性を数値化する方法であって、
   所与の入力に関してパラメータ化モデルからの複数の事後分布を前記パラメータ化モデルに予測させることであって、前記複数の事後分布が、複数の分布のうちのある分布を含む、予測させることと、
   前記複数の分布のうちのある分布からサンプリングを行うことによって、前記所与の入力に関する前記予測された複数の事後分布のばらつきを決定することと、
   前記予測された複数の事後分布の前記決定されたばらつきを用いて、前記パラメータ化モデル予測の不確実性を数値化することと、
   を含む、方法。
2. 前記パラメータ化モデルが機械学習モデルである、請求項１に記載の方法。
3. 前記複数の事後分布を前記パラメータ化モデルに予測させることが、パラメータドロップアウトを用いて、前記複数の分布のうちのある分布を前記パラメータ化モデルに生成させることを含む、請求項１に記載の方法。
4. 所与の入力に関して前記パラメータ化モデルからの前記複数の事後分布を前記パラメータ化モデルに予測させることが、第１の事後分布ＰΘ（ｚ｜ｘ）に対応する複数の事後分布の第１のセット、及び第２の事後分布Ｐφ（ｙ｜ｚ）に対応する複数の事後分布の第２のセットを前記パラメータ化モデルに予測させることを含み、
   前記複数の分布のうちのある分布からサンプリングを行うことによって、前記所与の入力に関する前記予測された複数の事後分布の前記ばらつきを決定することが、前記第１のセット及び前記第２のセットに関して前記複数の分布のうちのある分布からサンプリングを行うことによって、前記所与の入力に関する予測された複数の事後分布の前記第１のセット及び前記第２のセットのばらつきを決定することを含み、
   前記予測された複数の事後分布の前記決定されたばらつきを用いて、前記パラメータ化モデル予測の前記不確実性を数値化することが、予測された複数の事後分布の前記第１のセット及び前記第２のセットの前記決定されたばらつきを用いて、前記パラメータ化モデル予測の前記不確実性を数値化することを含む、請求項１に記載の方法。
5. 前記所与の入力が、像、クリップ、符号化された像、符号化されたクリップ、又は前記パラメータ化モデルの前の層からのデータの１つ又は複数を含む、請求項１に記載の方法。
6. 前記予測された複数の事後分布の前記決定されたばらつき、及び／又は前記数値化された不確実性を用いて、前記パラメータ化モデルをより記述的にすること、又はより多様な訓練データを含めることによって、前記パラメータ化モデルの前記不確実性を減少させるように前記パラメータ化モデルを調整することをさらに含む、請求項１に記載の方法。
7. 前記パラメータ化モデルが、エンコーダ－デコーダアーキテクチャを含む、請求項１に記載の方法。
8. 前記エンコーダ－デコーダアーキテクチャが、変分エンコーダ－デコーダアーキテクチャを含み、前記方法が、出力空間で実現値を生成する確率潜在空間を用いて前記変分エンコーダ－デコーダアーキテクチャを訓練することをさらに含む、請求項７に記載の方法。
9. 前記潜在空間が、低次元符号化を含む、請求項８に記載の方法。
10. 前記所与の入力に関して、前記エンコーダ－デコーダアーキテクチャのエンコーダ部分を用いて、潜在変数の条件付き確率を決定することをさらに含む、請求項９に記載の方法。
11. 前記エンコーダ－デコーダアーキテクチャのデコーダ部分を用いて、条件付き確率を決定することをさらに含む、請求項１０に記載の方法。
12. サンプリングが、前記複数の分布のうちのある分布から複数の分布を無作為に選択することを含み、前記サンプリングが、ガウス又は非ガウス式である、請求項１に記載の方法。
13. 前記パラメータ化モデルの前記不確実性が、前記パラメータ化モデルのパラメータの重みの不確実性、並びに前記潜在空間のサイズ及び記述性に関係する、請求項８に記載の方法。
14. 前記予測された複数の事後分布の前記決定されたばらつきを用いて、前記パラメータ化モデルの前記不確実性を減少させるように前記パラメータ化モデルを調整することが、
    訓練セットのサイズを大きくすること、及び／又は前記潜在空間の次元を増加させること、
    前記潜在空間にさらなる次元を追加すること、又は
    追加の、及びより多様な訓練サンプルを用いて前記パラメータ化モデルを訓練すること、
    を含む、請求項８に記載の方法。
15. 命令が記録された非一時的コンピュータ可読媒体を含むコンピュータプログラムであって、前記命令が、コンピュータによって実行されると、請求項１に記載の方法を実施する、コンピュータプログラム。

Images