JP7344149B2 - 最適化装置及び最適化方法 - Google Patents
最適化装置及び最適化方法 Download PDFInfo
- Publication number
- JP7344149B2 JP7344149B2 JP2020020048A JP2020020048A JP7344149B2 JP 7344149 B2 JP7344149 B2 JP 7344149B2 JP 2020020048 A JP2020020048 A JP 2020020048A JP 2020020048 A JP2020020048 A JP 2020020048A JP 7344149 B2 JP7344149 B2 JP 7344149B2
- Authority
- JP
- Japan
- Prior art keywords
- output data
- unit
- evaluation value
- input
- dimensions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005457 optimization Methods 0.000 title claims description 103
- 238000000034 method Methods 0.000 title claims description 47
- 238000011156 evaluation Methods 0.000 claims description 141
- 230000006870 function Effects 0.000 claims description 89
- 238000006243 chemical reaction Methods 0.000 claims description 68
- 238000004088 simulation Methods 0.000 claims description 65
- 230000009466 transformation Effects 0.000 claims description 58
- 238000004364 calculation method Methods 0.000 claims description 44
- 238000002474 experimental method Methods 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 34
- 238000000605 extraction Methods 0.000 claims description 33
- 238000013500 data storage Methods 0.000 claims description 26
- 230000008569 process Effects 0.000 claims description 19
- 239000000284 extract Substances 0.000 claims description 16
- 238000012800 visualization Methods 0.000 claims description 12
- 238000007637 random forest analysis Methods 0.000 claims description 4
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 19
- 230000000694 effects Effects 0.000 description 6
- 239000004065 semiconductor Substances 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000012880 independent component analysis Methods 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000001459 lithography Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/04—Constraint-based CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Molecular Biology (AREA)
- Physiology (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Pure & Applied Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Algebra (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Genetics & Genomics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
v=φ(y) …(1)
v=φ(f(x),y) …(2)
図6は第2の実施形態による最適化装置を備えたシミュレーションシステムの概略構成を示すブロック図である。図6の最適化装置1は、図1の構成に加えて、変換次元数入力部11と、デコード結果可視化部12とを備えている。
次入力パラメータ決定部9は、出力結果推定機能と、獲得関数算出機能(獲得関数生成部)と、獲得関数最大化機能(獲得関数最大化部)とを有する。
第4の実施形態は、ベイズ最適化により次の入力パラメータを決定するものである。第4の実施形態による最適化装置1の概略構成は、図1と同様であるため、ブロック構成の説明を割愛する。
第5の実施形態は、ユーザに頼らずに変換次元数を最適化するものである。
第6の実施形態は、入力パラメータを用いて実験又はシミュレーションを行った場合に制約に違反するデータが得られた場合の取扱に関する。
第7の実施形態は、評価関数内部で出力データになされる処理が既知である場合の扱いに関する。図13は第7の実施形態による最適化装置1を備えたシミュレーションシステム2の概略構成を示すブロック図である。図13のシミュレーションシステム2は、図1に評価関数内既知処理部15を追加した構成であり、それ以外は図1と同様に構成されている。図13の最適化装置1では、変換次元数入力部11は省略されている。
Claims (23)
- 第1の次元数の入力パラメータに基づいて実験又はシミュレーションを行うことにより得られる第2の次元数の出力データを取得する出力データ取得部と、
前記入力パラメータと対応する前記出力データとを組にして記憶する入出力データ記憶部と、
前記出力データの評価値を算出する評価値算出部と、
前記第2の次元数とは異なる第3の次元数の出力データ特徴量を抽出する特徴量抽出部と、
前記入力パラメータから予測される前記出力データ特徴量に関する変換パラメータを生成する入力パラメータ変換部と、
前記変換パラメータと対応する前記評価値とに基づいて、前記出力データ取得部で取得されるべき次の入力パラメータを決定する次入力パラメータ決定部と、
所定の条件を満たすまで、前記出力データ取得部、前記入出力データ記憶部、前記評価値算出部、前記特徴量抽出部、前記入力パラメータ変換部、及び前記次入力パラメータ決定部の処理を繰り返す反復判定部と、を備える最適化装置。 - 前記特徴量抽出部は、前記第2の次元数よりも小さい前記第3の次元数の前記出力データ特徴量を抽出する、請求項1に記載の最適化装置。
- 前記第2の次元数は、前記第1の次元数より多く、
前記第3の次元数は、前記第1の次元数と同一である、請求項2に記載の最適化装置。 - 前記特徴量抽出部は、前記出力データから前記出力データ特徴量を抽出する、請求項1乃至3のいずれか一項に記載の最適化装置。
- 前記特徴量抽出部は、前記出力データのうち、分散が最大化される次元を前記出力データ特徴量とする、請求項4に記載の最適化装置。
- 前記特徴量抽出部は、前記出力データのうち、独立性が最大の次元を前記出力データ特徴量とする、請求項4に記載の最適化装置。
- 前記特徴量抽出部は、入力層、中間層及び出力層を有するニューラルネットワークの前記入力層に前記出力データを入力し、前記入力層に入力される前記出力データと前記出力層から出力されるデータとの誤差が最小になるように、前記入力層、前記中間層及び前記出力層を繋ぐ各経路の重みを学習するとともに、前記中間層から出力されるデータを前記出力データ特徴量とする、請求項4に記載の最適化装置。
- 前記特徴量抽出部は、前記出力データと前記評価値とに基づいて、前記出力データ特徴量を抽出する、請求項1乃至3のいずれか一項に記載の最適化装置。
- 前記特徴量抽出部は、前記出力データから前記評価値を回帰する際の回帰係数のうち、所定の閾値を超える回帰係数に対応する次元を前記出力データ特徴量とする、請求項8に記載の最適化装置。
- 前記特徴量抽出部は、前記出力データから前記評価値をランダムフォレスト回帰して算出された前記出力データの重要度のうち、所定の閾値を超える重要度に対応する次元を前記出力データ特徴量とする、請求項8に記載の最適化装置。
- 前記所定の条件を満たしたときの前記入力パラメータを、最適な入力パラメータとして出力する最適パラメータ出力部を備える、請求項1乃至10のいずれか一項に記載の最適化装置。
- 前記入力パラメータ変換部は、前記特徴量抽出部が前記出力データ特徴量を予測するのに用いた関数に前記入力パラメータを与えて計算した値を前記変換パラメータとする、請求項1乃至11のいずれか一項に記載の最適化装置。
- 前記特徴量抽出部で抽出された前記出力データ特徴量を逆変換して生成された情報を可視化する可視化部を備える、請求項1乃至12のいずれか一項に記載の最適化装置。
- 前記次入力パラメータ決定部は、
前記変換パラメータに基づいて獲得関数を生成する獲得関数生成部と、
前記獲得関数が最大になるように前記次の入力パラメータを決定する獲得関数最大化部と、を有する、請求項1乃至13のいずれか一項に記載の最適化装置。 - 前記次入力パラメータ決定部は、
前記変換パラメータと対応する前記評価値とについての、平均値及び分散に関する関係式に基づいて獲得関数を生成する獲得関数生成部と、
前記獲得関数が最大になるように前記次の入力パラメータを決定する獲得関数最大化部と、を有する、請求項1乃至13のいずれか一項に記載の最適化装置。 - 前記変換パラメータから推定された評価値と前記評価値算出部で算出された評価値との誤差に基づいて、前記出力データ特徴量及び前記変換パラメータの変換次元数を決定する変換次元数最適化部を備える、請求項1乃至15のいずれか一項に記載の最適化装置。
- 前記評価値算出部は、
前記出力データが制約に違反しているか否かを判定する制約違反判定部と、
ある入力パラメータに対応する出力データが制約に違反していると判定された場合には、出力データが制約に違反していない他の入力パラメータに対応する評価値に置換する評価値置換部と、を有する、請求項1乃至16のいずれか一項に記載の最適化装置。 - 前記評価値置換部は、前記ある入力パラメータに対応する出力データが制約に違反していると判定された場合には、最大化したい評価値を前記他の入力パラメータの評価値の最小値に置換するか、又は最小化したい評価値を前記他の入力パラメータの評価値の最大値に置換する、請求項17に記載の最適化装置。
- 前記評価値算出部は、実験又はシミュレーションにより得られた前記出力データと理想の出力データとの誤差に基づいて前記評価値を算出する、請求項1乃至18のいずれか一項に記載の最適化装置。
- 前記評価値算出部は、前記出力データの各次元に対応する前記誤差の重みを前記誤差の履歴から決定する、請求項19に記載の最適化装置。
- 前記出力データの各次元に対応する前記誤差の重みを入力する重み入力部を備え、
前記評価値算出部は、前記入力された重みに基づいて重みづけられた前記誤差に基づいて前記評価値を算出する、請求項19に記載の最適化装置。 - 前記評価値算出部が前記評価値を算出するために前記出力データに対して行う処理を、前記評価値算出部とは別個に行う既知処理実行部を備え、
前記特徴量抽出部は、前記既知処理実行部で行われた処理結果に基づいて、前記出力データ特徴量を抽出する、請求項1乃至21のいずれか一項に記載の最適化装置。 - コンピュータは、
第1の次元数の入力パラメータに基づいて実験又はシミュレーションを行うことにより得られる第2の次元数の出力データを取得し、
前記入力パラメータと対応する前記出力データとを組にして入出力データ記憶部に記憶し、
前記出力データの評価値を算出し、
前記第2の次元数とは異なる第3の次元数の出力データ特徴量を抽出し、
前記入力パラメータから予測される前記出力データ特徴量に関する変換パラメータを生成し、
前記変換パラメータと対応する前記評価値とに基づいて、取得されるべき次の入力パラメータを決定し、
所定の条件を満たすまで、前記出力データを取得する処理と、前記入出力データ記憶部への記憶処理と、前記評価値を算出する処理と、前記出力データ特徴量を抽出する処理と、前記変換パラメータを生成する処理と、前記次の入力パラメータを決定する処理とを繰り返す最適化方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020020048A JP7344149B2 (ja) | 2020-02-07 | 2020-02-07 | 最適化装置及び最適化方法 |
US17/014,759 US11847389B2 (en) | 2020-02-07 | 2020-09-08 | Device and method for optimizing an input parameter in a processing of a semiconductor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020020048A JP7344149B2 (ja) | 2020-02-07 | 2020-02-07 | 最適化装置及び最適化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021125136A JP2021125136A (ja) | 2021-08-30 |
JP7344149B2 true JP7344149B2 (ja) | 2023-09-13 |
Family
ID=77178768
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020020048A Active JP7344149B2 (ja) | 2020-02-07 | 2020-02-07 | 最適化装置及び最適化方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11847389B2 (ja) |
JP (1) | JP7344149B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115048886B (zh) * | 2022-08-12 | 2022-11-01 | 阿里巴巴(中国)有限公司 | 设计参数调整方法、装置、电子设备和存储介质 |
CN115222752B (zh) * | 2022-09-19 | 2023-01-24 | 之江实验室 | 基于特征解耦的病理图像特征提取器训练方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018073360A (ja) | 2016-11-04 | 2018-05-10 | 日本電信電話株式会社 | 入力パラメータ探索装置、入力パラメータ探索方法、及び入力パラメータ探索プログラム |
JP2018147087A (ja) | 2017-03-02 | 2018-09-20 | 日本電信電話株式会社 | 制御策解析装置、方法、及びプログラム |
JP2018147075A (ja) | 2017-03-02 | 2018-09-20 | 日本電信電話株式会社 | パラメータ出力装置、パラメータ出力方法及びプログラム |
US20190034802A1 (en) | 2017-07-28 | 2019-01-31 | Siemens Aktiengesellschaft | Dimensionality reduction in Bayesian Optimization using Stacked Autoencoders |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5535134A (en) * | 1994-06-03 | 1996-07-09 | International Business Machines Corporation | Object placement aid |
US7313550B2 (en) * | 2002-03-27 | 2007-12-25 | Council Of Scientific & Industrial Research | Performance of artificial neural network models in the presence of instrumental noise and measurement errors |
JP2004070721A (ja) * | 2002-08-07 | 2004-03-04 | Renesas Technology Corp | 自動配置配線装置 |
KR100545748B1 (ko) * | 2002-08-09 | 2006-01-24 | 마쯔시다덴기산교 가부시키가이샤 | 반도체 집적회로 장치의 설계 방법 및 설계 장치 |
EP1598751B1 (en) * | 2004-01-12 | 2014-06-25 | Honda Research Institute Europe GmbH | Estimation of distribution algorithm (EDA) |
US7142991B2 (en) * | 2005-03-31 | 2006-11-28 | International Business Machines Corporation | Voltage dependent parameter analysis |
WO2017047309A1 (ja) | 2015-09-14 | 2017-03-23 | ヤマハ株式会社 | 耳形状解析方法、耳形状解析装置および耳形状モデル生成方法 |
US10726325B2 (en) * | 2017-04-13 | 2020-07-28 | Adobe Inc. | Facilitating machine-learning and data analysis by computing user-session representation vectors |
US11615343B2 (en) * | 2017-11-02 | 2023-03-28 | Nippon Telegraph And Telephone Corporation | Anomaly detection apparatus, anomaly detection method, and program |
US11409923B1 (en) * | 2018-01-22 | 2022-08-09 | Ansys, Inc | Systems and methods for generating reduced order models |
JP7061536B2 (ja) | 2018-08-09 | 2022-04-28 | 株式会社東芝 | 最適化装置、シミュレーションシステム及び最適化方法 |
-
2020
- 2020-02-07 JP JP2020020048A patent/JP7344149B2/ja active Active
- 2020-09-08 US US17/014,759 patent/US11847389B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018073360A (ja) | 2016-11-04 | 2018-05-10 | 日本電信電話株式会社 | 入力パラメータ探索装置、入力パラメータ探索方法、及び入力パラメータ探索プログラム |
JP2018147087A (ja) | 2017-03-02 | 2018-09-20 | 日本電信電話株式会社 | 制御策解析装置、方法、及びプログラム |
JP2018147075A (ja) | 2017-03-02 | 2018-09-20 | 日本電信電話株式会社 | パラメータ出力装置、パラメータ出力方法及びプログラム |
US20190034802A1 (en) | 2017-07-28 | 2019-01-31 | Siemens Aktiengesellschaft | Dimensionality reduction in Bayesian Optimization using Stacked Autoencoders |
Also Published As
Publication number | Publication date |
---|---|
JP2021125136A (ja) | 2021-08-30 |
US11847389B2 (en) | 2023-12-19 |
US20210248293A1 (en) | 2021-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7061536B2 (ja) | 最適化装置、シミュレーションシステム及び最適化方法 | |
US20200401939A1 (en) | Systems and methods for preparing data for use by machine learning algorithms | |
Rullière et al. | Nested Kriging predictions for datasets with a large number of observations | |
JP5988419B2 (ja) | 予測方法、予測システムおよびプログラム | |
JP2006221310A (ja) | 予測方法、予測装置、予測プログラムおよび記録媒体 | |
JP7344149B2 (ja) | 最適化装置及び最適化方法 | |
CN113255842B (zh) | 车辆置换预测方法、装置、设备及存储介质 | |
JP6942900B1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2019229931A1 (ja) | 情報処理装置、制御方法、及びプログラム | |
Chang et al. | A latent information function to extend domain attributes to improve the accuracy of small-data-set forecasting | |
Sadouk et al. | A novel cost‐sensitive algorithm and new evaluation strategies for regression in imbalanced domains | |
KR20200092989A (ko) | 아웃라이어 감지를 위한 비지도 파라미터 러닝을 이용한 생산용 유기체 식별 | |
CA3119351C (en) | Extending finite rank deep kernel learning to forecasting over long time horizons | |
JP2019082847A (ja) | データ推定装置、データ推定方法及びプログラム | |
Eisenhauer | The approximate solution of finite‐horizon discrete‐choice dynamic programming models | |
JP7310827B2 (ja) | 学習装置、学習方法、及びプログラム | |
WO2023218535A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2022270163A1 (ja) | 計算機システム及び介入効果予測方法 | |
JP2020030702A (ja) | 学習装置、学習方法及び学習プログラム | |
JP2022114283A (ja) | 情報処理装置及び情報処理方法 | |
WO2023181319A1 (ja) | 情報処理装置 | |
WO2023085195A1 (ja) | モデル生成装置、モデル生成方法及びデータ推定装置 | |
WO2023007848A1 (ja) | データ解析方法、データ解析装置、及び、データ解析プログラム | |
WO2023181322A1 (ja) | モデル分析装置、モデル分析方法、及び、記録媒体 | |
EP3971796A1 (en) | Removing undesirable inferences from a machine learning model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220701 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230718 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230804 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230901 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7344149 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |