JP2024021145A - 情報処理装置、情報処理方法およびプログラム - Google Patents
情報処理装置、情報処理方法およびプログラム Download PDFInfo
- Publication number
- JP2024021145A JP2024021145A JP2022123773A JP2022123773A JP2024021145A JP 2024021145 A JP2024021145 A JP 2024021145A JP 2022123773 A JP2022123773 A JP 2022123773A JP 2022123773 A JP2022123773 A JP 2022123773A JP 2024021145 A JP2024021145 A JP 2024021145A
- Authority
- JP
- Japan
- Prior art keywords
- value
- setting
- values
- probability
- robust
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 77
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000012545 processing Methods 0.000 claims abstract description 43
- 238000000034 method Methods 0.000 claims description 28
- 238000004364 calculation method Methods 0.000 claims description 16
- 230000006870 function Effects 0.000 description 192
- 238000002474 experimental method Methods 0.000 description 31
- 238000011156 evaluation Methods 0.000 description 26
- 238000003860 storage Methods 0.000 description 23
- 238000005457 optimization Methods 0.000 description 17
- 238000004088 simulation Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 10
- 238000004519 manufacturing process Methods 0.000 description 6
- 238000013461 design Methods 0.000 description 5
- 238000009826 distribution Methods 0.000 description 5
- 239000000654 additive Substances 0.000 description 4
- 230000000996 additive effect Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000005315 distribution function Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
【課題】パラメータの設定値を求める処理を効率的に実行する。【解決手段】情報処理装置は、処理部を備える。処理部は、1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて制約関数値の第1推定値および第1推定誤差を推定する。処理部は、第1推定値および第1推定誤差に基づいて、パラメータに対する1つ以上の第2設定値を基準とする近傍範囲内で第2設定値を変更した複数の第3設定値を入力したときの制約関数値が充足すべきロバスト制約を、第2設定値が充足する確率を表すロバスト充足確率を算出する。【選択図】図1
Description
本発明の実施形態は、情報処理装置、情報処理方法およびプログラムに関する。
シミュレーションに基づく最適化は、様々な分野で改善指針の検討に活用されている。例えば製品を製造する製造システムでは、製品の評価値に相当する目的関数値(目的関数の出力)が条件を満たすような設計パラメータの設定値が最適化により求められる。
最適化では、目的関数値が条件を満たすことに加えて、制約関数値(制約関数の出力)が常に条件を満たすことが要求される場合がある。実現手段としては、例えば、1つのパラメータに対して設定値が制約を満たすか否かを複数回のシミュレーションを実行して判断する機能が考えられる。
しかしながら、上記のような機能では、1つのパラメータに対して複数回のシミュレーションを行う必要があるため、多数のパラメータを対象とする場合、パラメータの設定値を求める処理により多くの時間が必要となる。
本発明は、パラメータの設定値を求める処理を効率的に実行できる情報処理装置、情報処理方法およびプログラムを提供することを目的とする。
実施形態の情報処理装置は、処理部を備える。処理部は、1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて制約関数値の第1推定値および第1推定誤差を推定する。処理部は、第1推定値および第1推定誤差に基づいて、パラメータに対する1つ以上の第2設定値を基準とする近傍範囲内で第2設定値を変更した複数の第3設定値を入力したときの制約関数値が充足すべきロバスト制約を、第2設定値が充足する確率を表すロバスト充足確率を算出する。
以下に添付図面を参照して、この発明にかかる情報処理装置の好適な実施形態を詳細に説明する。
パラメータの設定値を、少ない試行回数で求める技術としては、例えば、効率的にパラメータの設定値を調整可能なベイズ最適化が知られている。以下の実施形態では、ベイズ最適化を用いてパラメータの設定値を推定する。
本実施形態による最適化は、例えば、半導体などの製品を製造する製造システムでの生産性、歩留および信頼性の向上のために、製品の製造に用いるパラメータ(設計パラメータ)の最適な設定値を求める場合に適用できる。
製造システムでは、例えば、加工時間、寸法、抵抗、電圧、および、電荷などが設計パラメータとして用いられる。目的関数は、これらの設計パラメータを用いて、製品の評価値(品質特性、不良率など)を求める関数である。制約関数は、これらの設計パラメータに関する制約を示す関数である。
適用可能なシステムはこのような製造システムに限られず、どのようなシステムであってもよい。例えば、発電プラントで用いられるパラメータの最適値、または、機械学習で用いるハイパーパラメータの最適値を求める処理に適用することもできる。
ベイズ最適化を含む最適化により推定された設定値は、様々な要因によって、実際のシステムで用いられるパラメータの最適な設定値から外れる場合がある。このような場合であっても、影響を最小限とすることが要求される。例えば、推定された設定値が最適な設定値から少し外れたとしても、目的関数値に対する影響を最小限とするとともに、制約関数値に対する影響も最小限とすることが望ましい。なお、少し外れた設定値とは、基準となる設定値から、予め定められた近傍範囲に含まれる設定値である。
以下では、パラメータの設定値が最適な設定値から少し外れたとしても、常に制約関数値が条件を満たすことを示す制約を、ロバスト制約という。本実施形態では、推定された設定値が最適な設定値から少し外れたとしても、目的関数値に対する影響を最小限するのみでなく、ロバスト制約を満たすように、設定値が推定される。
また、本実施形態では、例えば複数回のシミュレーションを行うことなく、ロバスト制約を満たすか判断することができる。従って、パラメータの設定値を求める処理をより効率的に実行可能となる。
図1は、本実施形態にかかる情報処理システム10の一例を示すブロック図である。情報処理システム10は、情報処理装置100と、評価装置200と、を含む。情報処理装置100は、記憶部101と、受付部102と、判定部(最適値決定部)103と、推定部104と、算出部105と、推薦値決定部106と、出力制御部107と、を備える。
情報処理装置100は、シミュレーションまたは実験に使用されるパラメータの設定値を推薦する。例えば、シミュレーションにおいては、パラメータを有するシミュレーションモデルが用いられるが、当該シミュレーションモデルのパラメータに設定される値、すなわち、設定値が推薦される。また、例えば、実験に用いられる試料の量をパラメータとみなして当該量の値が推薦されてもよい。なお、以降において特に説明がない場合は、「実験」という用語には、シミュレーションが含まれるものとする。
評価装置200は、推薦された設定値に基づく実験の結果に対して評価を行い、評価に関する情報を生成する。当該情報は、目的関数値(評価値)および制約関数値(制約値)などを含む。なお、評価装置200は、推薦された設定値に基づくシミュレーションを行い、当該シミュレーションの評価に関する情報を生成してもよい。または、ユーザーが推薦された設定値に基づく実験を行い、実験結果を評価装置200に入力することによって、評価装置200が当該実験の評価に関する情報を生成してもよい。
また、情報処理装置100は、評価装置200から、推薦した設定値に基づく実験の結果の評価に関する情報を取得し、当該情報に基づいて設定値を推薦し直す。言い換えれば、情報処理装置100は、次の実験に用いられる設定値を推薦する。このようにして、設定値の推薦を繰り返すことにより、最適な設定値が求められる。言い換えれば、パラメータの最適値が推定される。以下では、最適な設定値を最適値と称する。
なお、本実施形態において最適値とは、情報処理装置100によって最適とみなされた値であり、実際に最適であるかどうかは問わない。また、複数の値が最適値と判定されてもよい。すなわち、最適値として複数の値が出力されてもよい。また、最適値を求めるパラメータの数(モデルの項目数、次元数とも称される)は、1つでもよいし、複数でもよい。
なお、図1の例では、情報処理装置100は、推薦する設定値を外部に出力し、外部から実験の結果に関する情報を取得している。しかし、情報処理装置100が、実験を実行するシミュレータを含む場合もあり得る。すなわち、情報処理装置100がシミュレータを兼ねていてもよい。
ここで、本実施形態で扱う最適化問題(ロバスト制約付きブラックボックス最適化問題)について説明する。本実施形態では、集合X⊂RD上の目的関数f(x)と制約関数c(x)を考える。Dはパラメータの数(モデルの項目数、次元数)である。あるパラメータの設定値x∈Xでシミュレーション(または実験)した結果得られる目的関数値がf(x)、制約関数値がc(x)である。
ロバスト制約を考慮しない、通常の制約付きブラックボックス最適化問題は、制約関数値が予め定められた条件(制約関数値の条件)を満たし、かつ、目的関数値が予め定められた条件(目的関数値の条件)を満たすパラメータの設定値を求める問題である。
制約関数値の条件は、例えば、制約関数値が閾値以下、閾値以上、または、閾値1以上かつ閾値2以下であることを示す。
目的関数値が小さいほどよい評価であることを示す場合、目的関数値の条件は、例えば、目的関数値が他の設定値より小さいこと(例えば目的関数値が最小)を示す。目的関数値が大きいほどよい評価であることを示す場合、目的関数値の条件は、例えば、目的関数値が他の設定値より小さいこと(例えば目的関数値が最大)を示す。
以下では、主に目的関数値が小さいほどよい評価であることを示す場合を例に説明する。目的関数値が大きいほどよい評価であることを示す場合は、例えば、目的関数値が他の設定値より小さい(目的関数値が最小)を、目的関数値が他の設定値より大きい(目的関数値が最大)に置き換えればよい。
上記のように、最適とみなされた設定値を用いて、稼働中のシステムの調整または製品の製造を行う場合に、様々な要因によって、設定が最適とみなされた設定値から少し外れることがあり得る。そのような場合でも、制約関数値が閾値以下になることが求められる。
本実施形態では、パラメータの設定値がδ変動しても常にc(x+δ)が制約関数値の条件(閾値以下、閾値以上、または、閾値1以上かつ閾値2以下、など)を満たすロバスト制約を考える。δは、δ∈Δ(x)(⊂RD)を満たす値である。Δ(x)は、近傍範囲に相当する。
本実施形態で扱うロバスト制約付きブラックボックス最適化問題は、ロバスト制約値c*(x)が予め定められた条件(制約関数値の条件)を満たし、かつ、目的関数値が予め定められた条件(目的関数値の条件)を満たすパラメータの設定値を求める問題である。ロバスト制約付きブラックボックス最適化問題は、例えば以下の(3)式で表される。
次に、情報処理装置100の内部構成について説明する。なお、図1に示した構成要素は、次に推薦する設定値を決定する処理を行うための要素であり、他の構成要素は省略されている。また、各構成要素は、細分化されてもよいし、まとめられてもよい。例えば、記憶部101は、保存されるファイルなどに応じて、複数の記憶部(記憶媒体)に分けられてもよい。また、記憶部101以外の構成要素を演算部とみなしてもよい。また、各構成要素の処理結果は、次の処理が行われる構成要素に送られてもよいし、記憶部101に記憶されてもよい。後者の場合、次の処理が行われる構成要素は記憶部101にアクセスして処理結果を取得してもよい。
記憶部101は、情報処理装置100の処理に用いられるデータを記憶する。当該データは、少なくとも、設定範囲を示すデータと、近傍範囲を示すデータと、データセットと、を含む。なお、記憶部101は、これら以外のデータを記憶してもよい。例えば記憶部101は、情報処理装置100の各構成要素の処理結果などを記憶してもよい。
設定範囲は、設定値が取り得る範囲を意味する。言い換えれば、設定範囲は、パラメータに対して設定可能な値の範囲を意味し、推薦する設定値を探索する際の探索範囲となる。設定範囲は、例えば、ユーザーなどにより入力され、予め記憶部101に記憶される。
図2は、設定範囲に関するデータの一例を示す図である。図2に示すように、例えば、X1からX10までの10個のパラメータが存在する。これらのパラメータごとに、下限値と上限値が定められる。設定範囲は、下限値から上限値までの範囲である。例えば、パラメータX1の設定範囲は、10から100までの範囲である。
なお、設定範囲を表す方法は、特に限られるものではない。例えば、行列AとベクトルBを記憶して、AW+B<0を満たすようなWが設定範囲とされてもよい。または、ベクトルAと実数Rを記憶して、|W-A|<Rを満たすようなWが設定範囲とされてもよい。ここで、|W-A|はベクトル“W-A”の大きさを表す。その他、様々な不等式のパラメータを記憶して、不等式を満たすようなWが設定範囲とされてもよい。
近傍範囲は、推薦された設定値に適用される、当該設定値を基準とした範囲であって、当該設定値に近傍するとみなされる値の範囲を示す。設定値がロバストであるかどうかは、この近傍範囲を用いて判定される。
図3は、近傍範囲に関するデータの一例を示す図である。図3に示すように、パラメータごとに、パラメータの設定値に応じて、近傍範囲が求められる。なお、近傍範囲を表す方法は、設定範囲と同様であってもよいし、異なっていてもよい。
「種類」の項目の「加法的」とは、あるパラメータXの設定値xの近傍下限をLとし、近傍上限をUとした際に、x+L以上かつx+U以下の範囲を近傍範囲とすることを意味する。例えば、パラメータX1に関しては、近傍下限が-5であり、近傍上限が+5であることが示されている。従って、パラメータX1の設定値が35のときは、30(=35-5)以上で、40(=35+5)以下の範囲が、パラメータX1の近傍範囲である。
また、「種類」の項目の「乗法的」とは、あるパラメータXの設定値xの近傍下限をL%、近傍上限をU%とした際に、x×(100+L)/100以上かつx×(100+U)/100以下の範囲を近傍範囲とすることを示す。例えば、パラメータX2に関しては、近傍下限が-10%であり、近傍上限が+10%であることが示されている。従って、パラメータX2の設定値が2のときは、1.8(=2×(100-10)/100)以上で、2.2(=2×(100+10)/100)以下の範囲がパラメータX2の近傍範囲である。
例えば、「種類」が「加法的」または「乗法的」のいずれか1種類のみの場合は、各パラメータにおいての近傍下限と近傍上限のみが近傍範囲のデータに示されていてもよい。
近傍範囲は、例えば、ユーザーなどにより入力され、予め記憶部101に記憶される。例えば、製品バラツキなどによって、製品の仕様の値が最適値から外れる際の許容範囲が近傍範囲とされてもよい。または、推薦された設定値と、予め選択された設定値のデータと、に基づいて、近傍範囲が設定されてもよい。例えば、推薦された各設定値と、予め選択された各設定値との差分の最小値が「加法的」の近傍下限、最大値が「加法的」の近傍上限として設定されてもよい。または、予め選択された設定値と、推薦された設定値と、を用いた除算により算出される各商の最小値から1引いた値が「乗法的」の近傍下限、各商の最大値から1引いた値が近傍上限として設定されてもよい。
データセットは、設定値、および、当該設定値を用いた実験の結果に関する目的関数値と制約関数値、を対応付けたデータである。目的関数値と制約関数値は、上記の通り、推薦された設定値に基づく実験の結果を評価した値である。なお、データセットに含まれる目的関数値と制約関数値は、例えば、評価装置200から受信される。
図4は、データセットの一例を示す図である。図4の例では、X1からX10までの10個のパラメータが存在し、テーブルの1行ごとに、当該10個のパラメータの各設定値、および、それらに対応する目的関数値と制約関数値と、が示されている。
データセットは、推薦値決定部106によって設定値が決定される度に更新されて、決定された設定値がデータセットに追加登録される。また、データセットは、外部から受付部102を介して推薦された設定値に対応する目的関数値と制約関数値が取得される度に更新されて、当該目的関数値と制約関数値が当該設定値と対応づけてデータセットに登録される。
なお、データセットには、予めテストデータが登録されていてもよい。すなわち、実際に実験を行って取得されていない値が、データセットに含まれていてもよい。
実験に用いられるパラメータは1つでも複数でもよい。パラメータが複数ある場合は、各パラメータは独立しており、それぞれ個別の値を有する。また、各パラメータの設定値は、連続値、離散値、および、論理値(カテゴリ変数)のいずれであってもよい。すなわち、パラメータの種類は、特に限られるものではない。例えば、温度および圧力などといった物理的なパラメータでもよい。また、処理時間および処理条件などといった実験に関するパラメータでもよい。
また、パラメータX1からX10までの1セットに対して1つの目的関数値と1つの制約関数値が対応してもよいし、1セットのパラメータに対して複数の目的関数値と複数の制約関数値が対応してもよい。また、複数のパラメータに対する複数の目的関数値がある場合に、これらの目的関数値に基づいて総合的な目的関数値と制約関数値が算出されてもよい。
データセットは、目的関数値および制約関数値の代わりに、これらを算出可能な出力データを含んでもよい。出力データは、例えば、評価装置200から出力されるデータである。出力データもパラメータと同様に複数の項目から構成され、各項目がそれぞれ個別の値を有してもよい。例えば、出力データは、実験に用いた各種センサの検出データでもよいし、実験結果またはシミュレーション結果の物理的な特性値および測定値でもよい。
なお、記憶部101は、フラッシュメモリ、メモリカード、RAM(Random Access Memory)、HDD(Hard Disk Drive)、および、光ディスクなどの一般的に利用されているあらゆる記憶媒体により構成することができる。
図1に戻り、受付部102は、外部から、情報処理装置100の処理に必要な情報の入力を受け付ける。例えば、受付部102は、推薦した設定値(第1設定値)に対応する、目的関数値および制約関数値などの情報を受け付ける。これらの情報は、上記の通り、データセットに登録される。また、受付部102は、設定範囲、近傍範囲、および、判定部103が最適値を判定するかどうかを決めるための終了条件などの情報を受け付けてもよい。
判定部103は、予め定められた終了条件に基づいて、設定値の推薦を続けるか否かを判定する。そして、設定値の推薦を止める場合は、判定部103は、これまでに推薦した設定値に基づいて、最適値を決定する。終了条件は、例えば、実験の実行回数または経過時間が閾値を超えることである。判定部103は、このような終了条件が満たされる場合に設定値の推薦を終了し、これまでに推薦した設定値から、最適値を選択してもよい。最適値の決定方法の詳細は後述する。
終了条件が満たされない場合、推定部104、算出部105および推薦値決定部106により、設定値を推薦するための処理が実行される。以下、これらの構成要素の処理について説明する。
推定部104は、パラメータの設定値と目的関数値との組のデータ{xi,yi}(1≦i≦n-1)に基づいて、目的関数値の推定値μf
n(x)(第2推定値の一例)と推定誤差σf
n(x)(第2推定誤差の一例)を算出する。i番目の実験のパラメータの設定値がxiであり、D次元のベクトルである。このxiでの実験の結果の目的関数値がyiである。例えば推定部104は、データセット内に記憶された目的関数値と、推定値μf
n(x)と、の誤差の二乗平方和を算出し、算出した二重平方和が最小となるように、μf
n(x)のパラメータを回帰手法により推定する。回帰手法は、線形回帰、Lasso回帰、エラスティックネット回帰、ランダムフォレスト回帰、ガウス過程回帰、および、ニューラルネットワークなどを用いることができる。
任意のD次元のベクトルxについて、(4)式を用いて目的関数値の推定値μf
n(x)が算出される。目的関数値の平均ベクトルをmとしている。平均ベクトルmは、i番目の要素がmi=μ0(xi)のn-1次元のベクトルである。yはi番目の要素がyiのn-1次元のベクトルである。また、Kは、i行j列成分がKi,j=k(xi,xj)の(n-1)×(n-1)行列である。ここで、μ0(xi)は任意の関数であり、k(xi,xj)は任意のカーネル関数である。カーネル関数は、例えば、指数二乗カーネル、マターンカーネル、線形カーネルなどでよい。なお、k(x)は、i番目の要素がki(x)=k(x,xi)のn-1次元のベクトルであり、σ2は任意の定数である。また、Iは単位行列を表し、Tは転置を表す。
同様に、推定部104は、パラメータの設定値と制約関数値との組のデータ{xi,ci}(1≦i≦n-1)に基づいて、制約関数値の推定値μc
n(x)(第1推定値の一例)と推定誤差σc
n(x)(第1推定誤差の一例)を算出する。例えば推定部104は、yをcに置き換えた(4)式を用いることにより、制約関数値の推定値μc
n(x)を算出する。また推定部104は、(5)式を用いることにより、制約関数値の推定誤差σc
n(x)を算出する。
算出部105は、制約関数値の推定値および推定誤差に基づいて、各パラメータがロバスト制約を満たす確率を表すロバスト充足確率を算出する。
上記のように、ロバスト制約は、パラメータの設定値(第2設定値)が近傍範囲(Δ(x))内でδ変動しても、制約関数値c(x+δ)が、常に制約関数値の条件を満たすことを意味する。δが複数の値をとる場合、x+δは、設定値を近傍範囲内で変更した複数の設定値(第3設定値)に相当する。ロバスト制約は、設定値x+δを入力したときの制約関数値c(x+δ)が充足すべき制約であると解釈することができる。
例えば算出部105は、まず、制約関数値の推定値および推定誤差に基づいて、各パラメータと制約関数値が条件(例えば、閾値以下または閾値以上など)を満たす確率である制約充足確率の関係式を算出する。制約関数値の条件が、閾値0以下の場合、制約充足確率PFn(x)は、例えば、以下の(6)式により算出される。ここで、Φは標準正規分布の累積分布関数である。
制約充足確率が(6)式で表される理由について以下に説明する。ガウス過程回帰の場合、c(x)は、平均μ(x)、標準偏差σ(x)の正規分布に従うと推定できる。このとき、Z=(c(x)-μ(x))/σ(x)とすると、Zは標準正規分布に従う。また、c(x)が閾値0以下となる確率は、Zが-μ(x)/σ(x)以下となる確率と等しい。
一方、標準正規分布の累積分布関数Φ(a)は、変数Zがa以下の値となる確率を表す。このため、Zが-μ(x)/σ(x)以下となる確率は、Φ(-μ(x)/σ(x))である。言い換えると、c(x)が閾値0以下となる確率は、(6)式に示すように、Φ(-μ(x)/σ(x))により算出できる。
次に、算出部105は、各パラメータの設定値x(第2設定値)について、設定値xを基準とした近傍範囲内に含まれる複数の設定値x+δ(第3設定値)を算出する。算出部105は、近傍範囲内の複数の設定値をランダムにサンプリングしてもよい。算出部105は、0とΔ(x)の端点の集合とδとし、または、0とΔ(x)の端点の集合の中からランダムにサンプリングした値をδとし、複数の設定値x+δを算出してもよい。
算出部105は、複数の設定値それぞれについて、(6)式を用いて制約充足確率を算出する。算出部105は、複数の設定値それぞれについて算出された複数の制約充足確率を用いて、ロバスト充足確率を算出する。例えば、算出部105は、以下の(7)式により、複数の設定値に対して算出された複数の制約充足確率の積を、ロバスト充足確率RobustPFn(x)として算出する。
推薦値決定部106は、ロバスト充足確率と、目的関数値の推定値および推定誤差と、に基づいて、次に推薦する設定値、言い換えれば、次回の実験において使用される設定値を、設定範囲内から決定する。以下では、推薦する設定値を推薦値と称する場合がある。
例えば、推薦値決定部106は、ロバスト充足確率が予め定められた閾値(確率値の閾値)以上であり、かつ、設定範囲内の設定値の中で、設定値に対する目的関数値の関係式に基づいて、目的関数値がより小さくなるような設定値を検出し、次に推薦する設定値(推薦値)として決定してもよい。すなわち、推薦値決定部106は、設定範囲内において前回の設定値よりも目的関数値が小さいと推定される設定値を探索して、次に実行する実験に用いられる設定値(推薦値)として採用してもよい。例えば、推薦値決定部106は、全探索、ランダム探索、グリッドサーチ、勾配法、L-BFGS、DIRECT、CMA-ES、および、多スタート局所法といった様々な最適化手法により、目的関数値がより小さくなる値を発見することが可能である。
または、推薦値決定部106は、獲得関数(第1獲得関数)と、ロバスト充足確率と、の積に基づいて推薦値を決定してもよい。獲得関数は、目的関数値の推定値および推定誤差に基いて求められる関数である。例えば、推薦値決定部106は、獲得関数とロバスト充足確率との積に基づく関数であるロバスト獲得関数(第2獲得関数、詳細は後述)を用いて、推薦値を決定する。
例えば、推薦値決定部106は、ロバスト獲得関数の出力が最適となる設定値を推薦してもよい。獲得関数の出力値(獲得関数値)が大きいほどよい評価であることを示す場合、推薦値決定部106は、ロバスト獲得関数が最大となる設定値を推薦する。獲得関数値が小さいほどよい評価であることを示す場合、推薦値決定部106は、ロバスト獲得関数が最小となる設定値を推薦する。なお、以下では、獲得関数が大きいほどよい評価である場合を例に説明する。
獲得関数は、例えば、PI(改善確率)を用いてもよいし、EI(期待改善量)を用いてもよい。獲得関数は、UCB(信頼限界上限)、Thompson Sampling(TS)、Entropy Search(ES)、および、Mutual Information(MI)を用いてもよい。
例えば、獲得関数として期待改善量を用いる場合、推薦値決定部106は、まず、μf
n(x)とPFn(x)とを用いて、現時点で目的関数値μf
n(x)を最小とする設定値x+
nを、以下の(8)式により算出する。
例えば、推薦値決定部106は、算出された設定値x~
nを推薦値として決定する。推薦値決定部106は、決定された推薦値をそのまま推薦するのではなく、決定された推薦値の近傍範囲から複数の設定値(以下、近傍設定値と称する)を選択または探索して、それらを順番に新たな推薦値として推薦してもよい。
例えば推薦値決定部106は、決定された設定値の近傍範囲から複数の設定値(以下、近傍設定値と称する)をランダムに選択し、選択した複数の設定値を順番に推薦値として出力してもよい。
推薦値決定部106は、決定された設定値の近傍範囲内において、目的関数値の推定値および推定誤差に基づく獲得関数が最大となるような近傍設定値を改めて探索して、推薦値として決定してもよい。
推薦値決定部106は、設定値x~
nを固定してΔ(x~
n)内の変動δに対する制約充足確率PFn(x~
n+δ)を最小化する点δnを、以下の(13)式により算出し、推薦値をxn=x~
n+δnとしてもよい。
推薦値決定部106は、決定された設定値の近傍範囲内において、目的関数値の推定誤差または制約関数値の推定誤差が最大となるような近傍設定値を改めて探索して、推薦値として決定してもよい。
なお、これまでは、データセットが存在することを前提としていた。しかし、例えばユーザーが初めて実験を行う場合などでは、テストデータがデータセットに登録されていない状況があり得る。このような状況であっても、ユーザーは、情報処理装置100から推薦された設定値を使用することを望む場合がある。このような場合、情報処理装置100は、上記の方法では、推薦値を決定できないため、予め定められた値(設定値の初期値)を推薦値としてもよいし、予め定められた規則に従い推薦値を決定してもよい。規則は、例えば、乱数、ラテン方格、および、ソボル列のいずれかを用いて設定値を決定する規則である。すなわち、最初に推薦される設定値(初期値)は、予め定められた値でもよいし、予め定められた規則(乱数、ラテン方格、ソボル列を用いる規則)に従い決定された値でもよい。
上記のように、判定部103は、終了条件が満たされる場合に、これまでに推薦した設定値から最適値を決定する。以下、判定部103による最適値の決定方法について説明する。
判定部103は、これまでに出力された推薦値のうち、ロバスト充足確率が閾値以上であり、かつ、目的関数値が他の推薦値より小さいまたは大きい推薦値を最適値として決定する。
例えば、判定部103は、記憶部101に記憶された目的関数値が最適(最小または最大)になるときの設定値を最適値として決定する。判定部103は、これまでに推薦された設定値のうち、制約関数値の推定値が閾値以下で、かつ目的関数値または目的関数値の推定値が最小の設定値を、最適値として決定してもよい。また、判定部103は、記憶部101に記憶されたロバスト獲得関数が最大の設定値の中で、制約関数値の推定値が閾値以下で、かつ、目的関数値または目的関数値の推定値が最小の設定値を、最適値として決定してもよい。
さらに、判定部103は、記憶部101に記憶されたロバスト獲得関数が最大の設定値の中で、ロバスト充足確率が予め定められた閾値(確率値の閾値)以上で、かつ、目的関数値の推定値が最小となるパラメータを、最適値として決定してもよい。すなわち、判定部103は、以下の(14)式に従い、目的関数値の推定値を最小化するパラメータx+
n+1を、最適値として決定してもよい。
出力制御部107は、各構成要素の処理結果を出力する。例えば、出力制御部107は、推薦される設定値、および、最適値を出力する。また、出力制御部107は、受付部102を介して指示を受け付けて、データセットなどの記憶部101に記憶されているデータを出力してもよい。
出力制御部107の出力形式は、特に限られるものではなく、例えば、表でも画像でもよい。例えば、出力制御部107は、データセットなどのデータに基づくグラフを生成して出力してもよい。
なお、情報処理装置100がシミュレータを含む場合は、シミュレータは、推薦された設定値をモデルのパラメータに設定してシミュレーションを実行し、シミュレーション結果に基づいて目的関数値を算出する。目的関数値の算出式は予め定められる。
情報処理装置100は、受付部102、判定部103、推定部104、算出部105、推薦値決定部106、および、出力制御部107の少なくとも一部の機能を統合した処理部を備えるように構成されてもよい。
上記各部(受付部102、判定部103、推定部104、算出部105、推薦値決定部106、および、出力制御部107)は、例えば、1または複数のプロセッサにより実現される。例えば上記各部は、CPU(Central Processing Unit)などのプロセッサにプログラムを実行させること、すなわちソフトウェアにより実現してもよい。上記各部は、専用のIC(Integrated Circuit)などのプロセッサ、すなわちハードウェアにより実現してもよい。上記各部は、ソフトウェアおよびハードウェアを併用して実現してもよい。複数のプロセッサを用いる場合、各プロセッサは、各部のうち1つを実現してもよいし、各部のうち2つ以上を実現してもよい。
次に、本実施形態にかかる情報処理装置100による最適値の決定処理について説明する。図5は、本実施形態における決定処理の一例を示すフローチャートである。
推薦値決定部106は、設定値の初期値を推薦する(ステップS101)。上記の通り、初期値は予め定められた値でもよいし、予め定められた規則に基づいて設定範囲内の値から選択された値であってもよい。初期値は、情報処理装置100から、例えば、実験を行うユーザー、または、シミュレータ(評価装置200など)に出力される。
推薦された設定値の初期値によって実験が行われる。評価装置200またはシミュレータは、推薦された設定値に基づく実験の結果に基づいて、目的関数値と制約関数値を算出する。
受付部102は、算出された目的関数値および制約関数値を、評価装置200またはシミュレータから受け付ける(ステップS102)。受付部102は、推薦された設定値と、算出された目的関数値と制約関数値と、を対応付けて、記憶部101のデータセットに記憶する(ステップS103)。
判定部103は、終了条件に基いて、最適値を決定するかを判定する(ステップS104)。終了条件は、上記のように、事前に定めておく。
最適値を決定しないと判定された場合(ステップS105:No)、推定部104は、記憶されたデータセット(推薦された設定値、対応する目的関数値、制約関数値)に基づいて、各パラメータの目的関数値および制約関数値それぞれの推定値および推定誤差を推定する(ステップS106)。
算出部105は、制約関数値の推定値および推定誤差に基づいて、各パラメータがロバスト制約を満たす確率であるロバスト充足確率を算出する(ステップS107)。
推薦値決定部106は、制約関数値の推定値および推定誤差と、ロバスト充足確率と、に基づいて、次に推薦する設定値(推薦値)を決定して出力する(ステップS108)。例えば、推薦値決定部106は、ロバスト充足確率と期待改善量の積であるロバスト獲得関数を最大とする設定値を、次の推薦値とする。また、推薦値決定部106は、決定された設定値の近傍設定値を次の推薦値としてもよい。
ステップS108で出力された設定値を用いて、さらに次の実験が行われる。その後、ステップS102に戻り、処理が繰り返される。すなわち、設定値の決定および判定が繰り返される。
ステップS105で、最適値を決定すると判定された場合(ステップS105:Yes)、判定部103は、これまでに推薦された設定値に基づいて最適値を決定する(ステップS109)。出力制御部107は、決定された最適値を出力し(ステップS110)、最適値の決定処理を終了する。
次に、出力制御部107による出力の例について説明する。出力制御部107は、ロバスト充足確率を出力するように構成されてもよい。図6は、推定されたロバスト充足確率を表示する表示画面の例を示す図である。図6の縦軸と横軸は、それぞれ異なるパラメータの設定値である。等高線は、ロバスト充足確率を表す。図6の表示画面は、パラメータの設定値とロバスト充足確率との関係を示す情報の例である。図6のような表示画面を表示することにより、例えばユーザーは、パラメータがロバスト制約を満たすか否かを迅速に確認することができる。
図7は、推定された最適値とロバスト充足確率を表示する表示画面の例を示す図である。点701は、推定された最適値を表す。図6と同様に、縦軸と横軸はそれぞれ異なるパラメータの設定値であり、等高線はロバスト充足確率を表す。図7に示すように、最適値(点701)は、ロバスト充足確率が高い位置に存在している。図5のステップS110では、例えば図7に示すような表示画面により、最適値が出力されてもよい。
以上のように、本実施形態の情報処理装置100は、設定値と、当該設定値に関連するロバスト充足確率の関係式を推定し、当該関係式に基づいて、次回の実験に用いられる設定値を推薦する。継続して設定値が推薦され、実験が繰り返されることにより、近傍範囲内の設定値であって、常に制約関数値が条件を満たし、すなわち、ロバスト制約を満たし、目的関数値の小さい設定値を最適値として求めることができる。また、ベイズ最適化を用いることにより、ロバスト制約を満たし目的関数値を小さくする設定値を、より少ない実験回数で求めることができる。
本実施形態では、1つのパラメータあたり複数回の実験(シミュレーション)を行わなくてよいため、最適なパラメータの設定値を求める時間をより短くすることができる。すなわち、パラメータの設定値を求める処理をより効率的に実行することができる。また、各パラメータに対するロバスト充足確率を可視化することで、求めた設定値が最適かを容易に確認できる。
次に、実施形態にかかる情報処理装置のハードウェア構成について図8を用いて説明する。図8は、実施形態にかかる情報処理装置のハードウェア構成例を示す説明図である。
実施形態にかかる情報処理装置は、CPU51などの制御装置と、ROM(Read Only Memory)52やRAM53などの記憶装置と、ネットワークに接続して通信を行う通信I/F54と、各部を接続するバス61を備えている。
実施形態にかかる情報処理装置で実行されるプログラムは、ROM52等に予め組み込まれて提供される。
実施形態にかかる情報処理装置で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD-ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD-R(Compact Disk Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータプログラムプロダクトとして提供されるように構成してもよい。
さらに、実施形態にかかる情報処理装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、実施形態にかかる情報処理装置で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
実施形態にかかる情報処理装置で実行されるプログラムは、コンピュータを上述した情報処理装置の各部として機能させうる。このコンピュータは、CPU51がコンピュータ読取可能な記憶媒体からプログラムを主記憶装置上に読み出して実行することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
実施形態の構成例について以下に記載する。
(構成例1)
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定し、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出する、
処理部
を備える情報処理装置。
(構成例2)
前記処理部は、
前記制約関数値の条件を満たす確率を表す充足確率を算出するための関係式を求め、
複数の前記第3設定値それぞれについて、前記関係式を用いて前記充足確率を算出し、
複数の前記第3設定値に対して算出された複数の前記充足確率を用いて、前記ロバスト充足確率を算出する、
構成例1に記載の情報処理装置。
(構成例3)
前記処理部は、複数の前記第3設定値に対して算出された複数の前記充足確率の積を前記ロバスト充足確率として算出する、
構成例2に記載の情報処理装置。
(構成例4)
前記処理部は、
前記第1設定値を入力したときの目的関数の出力である目的関数値に基づいて、前記目的関数値の第2推定値および第2推定誤差を推定し、
前記ロバスト充足確率、前記第2推定値、および、前記第2推定誤差に基づいて、推薦する設定値である推薦値を決定する、
構成例1から3のいずれか1つに記載の情報処理装置。
(構成例5)
前記処理部は、前記ロバスト充足確率が閾値以上であり、かつ、設定値が取りうる範囲を表す設定範囲内の設定値の中で、前記第2推定値が他の設定値より小さい設定値を、前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例6)
前記処理部は、
前記第2推定値と前記第2推定誤差とに基づく第1獲得関数を算出し、
前記ロバスト充足確率と前記第1獲得関数との積である第2獲得関数を算出し、
設定値が取りうる範囲を表す設定範囲内で、前記第2獲得関数の出力が最適となる設定値を、前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例7)
前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内から選択または探索した複数の設定値を、新たな前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例8)
前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内で、前記制約関数値の条件を満たす確率を表す充足確率が最小となる設定値を、新たな前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例9)
前記処理部は、複数の前記制約関数値と、第1設定値を入力したときの目的関数の出力である複数の目的関数値と、に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が他の候補設定値より小さいまたは大きい前記候補設定値を、最適な設定値を表す最適値として決定する、
構成例4に記載の情報処理装置。
(構成例10)
前記処理部は、複数の前記制約関数値および複数の前記目的関数値に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が最小または最大となる前記候補設定値を、前記最適値として決定する、
構成例9に記載の情報処理装置。
(構成例11)
前記ロバスト充足確率を出力する出力制御部をさらに備える、
構成例1から10のいずれか1つに記載の情報処理装置。
(構成例12)
前記出力制御部は、前記パラメータの設定値と、前記ロバスト充足確率と、の関係を示す情報を出力する、
構成例11に記載の情報処理装置。
(構成例13)
前記処理部は、
前記第1推定値および前記第1推定誤差を推定する推定部と、
前記ロバスト充足確率を算出する算出部と、
を備える、
構成例1から12のいずれか1つに記載の情報処理装置。
(構成例14)
情報処理装置で実行される情報処理方法であって、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を含む情報処理方法。
(構成例15)
コンピュータに、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を実行させるためのプログラム。
(構成例1)
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定し、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出する、
処理部
を備える情報処理装置。
(構成例2)
前記処理部は、
前記制約関数値の条件を満たす確率を表す充足確率を算出するための関係式を求め、
複数の前記第3設定値それぞれについて、前記関係式を用いて前記充足確率を算出し、
複数の前記第3設定値に対して算出された複数の前記充足確率を用いて、前記ロバスト充足確率を算出する、
構成例1に記載の情報処理装置。
(構成例3)
前記処理部は、複数の前記第3設定値に対して算出された複数の前記充足確率の積を前記ロバスト充足確率として算出する、
構成例2に記載の情報処理装置。
(構成例4)
前記処理部は、
前記第1設定値を入力したときの目的関数の出力である目的関数値に基づいて、前記目的関数値の第2推定値および第2推定誤差を推定し、
前記ロバスト充足確率、前記第2推定値、および、前記第2推定誤差に基づいて、推薦する設定値である推薦値を決定する、
構成例1から3のいずれか1つに記載の情報処理装置。
(構成例5)
前記処理部は、前記ロバスト充足確率が閾値以上であり、かつ、設定値が取りうる範囲を表す設定範囲内の設定値の中で、前記第2推定値が他の設定値より小さい設定値を、前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例6)
前記処理部は、
前記第2推定値と前記第2推定誤差とに基づく第1獲得関数を算出し、
前記ロバスト充足確率と前記第1獲得関数との積である第2獲得関数を算出し、
設定値が取りうる範囲を表す設定範囲内で、前記第2獲得関数の出力が最適となる設定値を、前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例7)
前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内から選択または探索した複数の設定値を、新たな前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例8)
前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内で、前記制約関数値の条件を満たす確率を表す充足確率が最小となる設定値を、新たな前記推薦値として決定する、
構成例4に記載の情報処理装置。
(構成例9)
前記処理部は、複数の前記制約関数値と、第1設定値を入力したときの目的関数の出力である複数の目的関数値と、に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が他の候補設定値より小さいまたは大きい前記候補設定値を、最適な設定値を表す最適値として決定する、
構成例4に記載の情報処理装置。
(構成例10)
前記処理部は、複数の前記制約関数値および複数の前記目的関数値に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が最小または最大となる前記候補設定値を、前記最適値として決定する、
構成例9に記載の情報処理装置。
(構成例11)
前記ロバスト充足確率を出力する出力制御部をさらに備える、
構成例1から10のいずれか1つに記載の情報処理装置。
(構成例12)
前記出力制御部は、前記パラメータの設定値と、前記ロバスト充足確率と、の関係を示す情報を出力する、
構成例11に記載の情報処理装置。
(構成例13)
前記処理部は、
前記第1推定値および前記第1推定誤差を推定する推定部と、
前記ロバスト充足確率を算出する算出部と、
を備える、
構成例1から12のいずれか1つに記載の情報処理装置。
(構成例14)
情報処理装置で実行される情報処理方法であって、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を含む情報処理方法。
(構成例15)
コンピュータに、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を実行させるためのプログラム。
10 情報処理システム
100 情報処理装置
101 記憶部
102 受付部
103 判定部
104 推定部
105 算出部
106 推薦値決定部
107 出力制御部
200 評価装置
100 情報処理装置
101 記憶部
102 受付部
103 判定部
104 推定部
105 算出部
106 推薦値決定部
107 出力制御部
200 評価装置
Claims (15)
- 1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定し、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出する、
処理部
を備える情報処理装置。 - 前記処理部は、
前記制約関数値の条件を満たす確率を表す充足確率を算出するための関係式を求め、
複数の前記第3設定値それぞれについて、前記関係式を用いて前記充足確率を算出し、
複数の前記第3設定値に対して算出された複数の前記充足確率を用いて、前記ロバスト充足確率を算出する、
請求項1に記載の情報処理装置。 - 前記処理部は、複数の前記第3設定値に対して算出された複数の前記充足確率の積を前記ロバスト充足確率として算出する、
請求項2に記載の情報処理装置。 - 前記処理部は、
前記第1設定値を入力したときの目的関数の出力である目的関数値に基づいて、前記目的関数値の第2推定値および第2推定誤差を推定し、
前記ロバスト充足確率、前記第2推定値、および、前記第2推定誤差に基づいて、推薦する設定値である推薦値を決定する、
請求項1に記載の情報処理装置。 - 前記処理部は、前記ロバスト充足確率が閾値以上であり、かつ、設定値が取りうる範囲を表す設定範囲内の設定値の中で、前記第2推定値が他の設定値より小さい設定値を、前記推薦値として決定する、
請求項4に記載の情報処理装置。 - 前記処理部は、
前記第2推定値と前記第2推定誤差とに基づく第1獲得関数を算出し、
前記ロバスト充足確率と前記第1獲得関数との積である第2獲得関数を算出し、
設定値が取りうる範囲を表す設定範囲内で、前記第2獲得関数の出力が最適となる設定値を、前記推薦値として決定する、
請求項4に記載の情報処理装置。 - 前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内から選択または探索した複数の設定値を、新たな前記推薦値として決定する、
請求項4に記載の情報処理装置。 - 前記処理部は、
決定した前記推薦値を基準とする前記近傍範囲内で、前記制約関数値の条件を満たす確率を表す充足確率が最小となる設定値を、新たな前記推薦値として決定する、
請求項4に記載の情報処理装置。 - 前記処理部は、複数の前記制約関数値と、第1設定値を入力したときの目的関数の出力である複数の目的関数値と、に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が他の候補設定値より小さいまたは大きい前記候補設定値を、最適な設定値を表す最適値として決定する、
請求項4に記載の情報処理装置。 - 前記処理部は、複数の前記制約関数値および複数の前記目的関数値に対して決定された複数の前記推薦値のうち、前記ロバスト充足確率が閾値以上であり、かつ、前記目的関数値が最小または最大となる前記候補設定値を、前記最適値として決定する、
請求項9に記載の情報処理装置。 - 前記ロバスト充足確率を出力する出力制御部をさらに備える、
請求項1に記載の情報処理装置。 - 前記出力制御部は、前記パラメータの設定値と、前記ロバスト充足確率と、の関係を示す情報を出力する、
請求項11に記載の情報処理装置。 - 前記処理部は、
前記第1推定値および前記第1推定誤差を推定する推定部と、
前記ロバスト充足確率を算出する算出部と、
を備える、
請求項1に記載の情報処理装置。 - 情報処理装置で実行される情報処理方法であって、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を含む情報処理方法。 - コンピュータに、
1つ以上のパラメータに対する1つ以上の第1設定値を入力したときの制約関数の出力である制約関数値に基づいて、前記制約関数値の第1推定値および第1推定誤差を推定するステップと、
前記第1推定値および前記第1推定誤差に基づいて、前記パラメータに対する1つ以上の第2設定値を基準とする予め定められた近傍範囲内で前記第2設定値を変更した複数の第3設定値を入力したときの前記制約関数値が充足すべき制約であるロバスト制約を、前記第2設定値が充足する確率を表すロバスト充足確率を算出するステップと、
を実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022123773A JP2024021145A (ja) | 2022-08-03 | 2022-08-03 | 情報処理装置、情報処理方法およびプログラム |
US18/172,413 US20240045923A1 (en) | 2022-08-03 | 2023-02-22 | Information processing device, information processing method, and computer program product |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022123773A JP2024021145A (ja) | 2022-08-03 | 2022-08-03 | 情報処理装置、情報処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024021145A true JP2024021145A (ja) | 2024-02-16 |
Family
ID=89769179
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022123773A Pending JP2024021145A (ja) | 2022-08-03 | 2022-08-03 | 情報処理装置、情報処理方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20240045923A1 (ja) |
JP (1) | JP2024021145A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022144049A (ja) * | 2021-03-18 | 2022-10-03 | キオクシア株式会社 | 情報処理装置及び情報処理方法 |
-
2022
- 2022-08-03 JP JP2022123773A patent/JP2024021145A/ja active Pending
-
2023
- 2023-02-22 US US18/172,413 patent/US20240045923A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20240045923A1 (en) | 2024-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110969516B (zh) | 一种商品推荐方法及装置 | |
US11373233B2 (en) | Item recommendations using convolutions on weighted graphs | |
US6636862B2 (en) | Method and system for the dynamic analysis of data | |
KR20180118596A (ko) | 데이터세트들의 반-자동 라벨링 | |
JP6459968B2 (ja) | 商品推薦装置、商品推薦方法、及び、プログラム | |
WO2019200480A1 (en) | Method and system for model auto-selection using an ensemble of machine learning models | |
Tomani et al. | Parameterized temperature scaling for boosting the expressive power in post-hoc uncertainty calibration | |
US20190213610A1 (en) | Evaluation device and evaluation method | |
US11105855B2 (en) | Tester and method for testing a device under test and tester and method for determining a single decision function | |
US20220245405A1 (en) | Deterioration suppression program, deterioration suppression method, and non-transitory computer-readable storage medium | |
US20200334557A1 (en) | Chained influence scores for improving synthetic data generation | |
US11977978B2 (en) | Finite rank deep kernel learning with linear computational complexity | |
CN110705245A (zh) | 一种获取参考处理方案的方法及装置、存储介质 | |
Neelakandan et al. | Forecasting of E-commerce system for sale prediction using deep learning modified neural networks | |
JP2024021145A (ja) | 情報処理装置、情報処理方法およびプログラム | |
US20210295182A1 (en) | Machine learning system and machine learning method | |
CN109241442A (zh) | 基于预测值填充的项目推荐方法、可读存储介质和终端 | |
CN112561569B (zh) | 基于双模型的到店预测方法、系统、电子设备及存储介质 | |
CN117252665B (zh) | 业务推荐方法、装置、电子设备及存储介质 | |
Farag et al. | Inductive Conformal Prediction for Harvest-Readiness Classification of Cauliflower Plants: A Comparative Study of Uncertainty Quantification Methods | |
CN115221976B (zh) | 一种基于图神经网络的模型训练方法及装置 | |
US20220237348A1 (en) | Information processing apparatus and information processing method | |
US20220019918A1 (en) | Machine learning feature recommendation | |
JP7478069B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US11797961B2 (en) | Vectorization of transactions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240905 |