JP6388074B2 - 最適化処理装置、最適化処理方法、及びプログラム - Google Patents
最適化処理装置、最適化処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6388074B2 JP6388074B2 JP2017507300A JP2017507300A JP6388074B2 JP 6388074 B2 JP6388074 B2 JP 6388074B2 JP 2017507300 A JP2017507300 A JP 2017507300A JP 2017507300 A JP2017507300 A JP 2017507300A JP 6388074 B2 JP6388074 B2 JP 6388074B2
- Authority
- JP
- Japan
- Prior art keywords
- function
- objective function
- covariance
- control variable
- optimization processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N99/00—Subject matter not provided for in other groups of this subclass
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Complex Calculations (AREA)
Description
目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、共分散関数設定部と、
前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、最適化処理部と、
を備えている、ことを特徴とする。
(a)目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、
を有する、ことを特徴とする。
コンピュータに、
(a)目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、
を実行させる、ことを特徴とする。
本発明では、目的関数f(x)の制御変数を単位円周上に写像することによって共分散関数を定義し、この共分散関数を用いて、ベイズ的最適化が行なわれる。具体的には、まず、各制御変数を単位円周上の1点に写像し、そして、制御変数毎に、単位円周がある2次元空間に対して妥当な共分散関数を定義する。次に、制御変数全体に対する共分散関数の正定値性が保たれるように、各制御変数について定義された共分散関数同士を組み合わせて、例えば、共分散関数同士を合算したり、積算したりして、新たな共分散関数を定義する。そして、このようにして定義された新たな共分散関数が用いられて、ベイズ的最適化が実行される。
以下、本発明の実施の形態における、最適化処理装置、最適化処理方法、及びプログラムについて、図1〜図6を参照しながら説明する。
最初に、本実施の形態における最適化処理装置の概略構成について説明する。図1は、本発明の実施の形態における最適化処理装置の構成の一例を概略的に示すブロック図である。
参照文献:C. Bishop. (2006). Pattern Recognition and Machine Learning. Springer, New York.
次に、本発明の実施の形態における最適化処理装置100の動作について図4を用いて説明する。図4は、本発明の実施の形態における最適化処理装置の動作の一例を示すフロー図である。以下の説明においては、適宜図1〜図3を参酌する。また、本実施の形態では、最適化処理装置100を動作させることによって、最適化処理方法が実施される。よって、本実施の形態における最適化処理方法の説明は、以下の最適化処理装置100の動作説明に代える。
次に、本実施の形態の具体例について以下に説明する。以下の具体例においては、目的関数は、下記の数18に示す通りとする。
このように、本実施の形態では、従来からの共分散関数とは異なる、周期性を持つ制御変数の「近さ」を正確に反映できる共分散関数が用いられて、ベイズ的最適化が実行される。このため、本実施の形態によれば、制御変数が角度のように周期性を持つ場合であっても、ベイズ的最適化を効率的に実行することができる。
続いて、本実施の形態における最適化処理装置の応用例について以下に説明する。
本実施の形態は、人工衛星信号の誤差最小化に利用できる。この場合、制御変数として、地上から見た人工衛星の位置角度が用いられ、目的関数として、信号誤差を算出する関数が用いられる。
本実施の形態は、スタジアム周辺における太陽光パネルの効率的配置に利用できる。この場合、制御変数として、太陽光パネルの位置(基準方向からの角度)が用いられ、目的関数として、1日の発電量を算出する関数が用いられる。
本実施の形態は、塗装部分の品質向上に利用できる。この場合、制御変数として、スプレーの射出角度が用いられ、目的関数として、スプレーが吹きかけられた部分(塗装部分)の厚さのばらつきを算出する関数が用いられる。
本実施の形態は、巡警時間帯の最適化による軽微犯罪の抑制に利用できる。この場合、制御変数として、巡警開始時刻(巡警時間は固定)が用いられ、目的関数として、1日の総犯罪件数を算出する関数が用いられる。
本実施の形態におけるプログラムは、コンピュータに、図4に示すステップA1〜A7を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態における最適化処理装置と最適化処理方法とを実現することができる。この場合、コンピュータのCPU(Central Processing Unit)は、共分散関数設定部10及び最適化処理部20として機能し、処理を行なう。
目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、共分散関数設定部と、
前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、最適化処理部と、
を備えている、ことを特徴とする最適化処理装置。
前記共分散関数設定部が、複数の前記制御変数それぞれ毎に、写像によって得られた2次元空間に共分散関数を定義し、得られた各共分散関数を組み合せて、新たな共分散関数を定義し、
前記最適化処理部が、組み合わせによって得られた前記新たな共分散関数を用いて、前記目的関数のベイズ推定を行なう、
付記1に記載の最適化処理装置。
前記最適化処理部が、
前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、データ発生部と、
前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、パラメータ更新部と、
更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、予測分布算出部と、
算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、予測分布更新部と、
更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、候補探索部と、
を備えている、付記1に記載の最適化処理装置。
前記最適化処理部が、更に、前記候補探索部によって抽出された候補の中から、前記目的関数の最適解を特定する、最適解出力部を備えている、
付記2に記載の最適化処理装置。
(a)目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、
を有する、ことを特徴とする最適化処理方法。
前記(a)のステップにおいて、複数の前記制御変数それぞれ毎に、写像によって得られた2次元空間に共分散関数を定義し、得られた各共分散関数を組み合せて、新たな共分散関数を定義し、
前記(b)のステップにおいて、組み合わせによって得られた前記新たな共分散関数を用いて、前記目的関数のベイズ推定を行なう、
付記5に記載の最適化処理方法。
前記(b)のステップが、
(b1)前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、ステップと、
(b2)前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、ステップと、
(b3)更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、ステップと、
(b4)算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、ステップと、
(b5)更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、ステップと、
を有する、付記5に記載の最適化処理方法。
前記(b)のステップが、更に、
(b6)前記候補探索部によって抽出された候補の中から、前記目的関数の最適解を特定する、ステップを有する、
付記6に記載の最適化処理方法。
コンピュータに、
(a)目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、
を実行させる、プログラム。
前記(a)のステップにおいて、複数の前記制御変数それぞれ毎に、写像によって得られた2次元空間に共分散関数を定義し、得られた各共分散関数を組み合せて、新たな共分散関数を定義し、
前記(b)のステップにおいて、組み合わせによって得られた前記新たな共分散関数を用いて、前記目的関数のベイズ推定を行なう、
付記9に記載のプログラム。
前記コンピュータに、前記(b)のステップとして、
(b1)前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、ステップと、
(b2)前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、ステップと、
(b3)更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、ステップと、
(b4)算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、ステップと、
(b5)更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、ステップと、
を実行させる、
付記9に記載のプログラム。
前記コンピュータに、前記(b)のステップとして、更に、
(b6)前記候補探索部によって抽出された候補の中から、前記目的関数の最適解を特定する、ステップを実行させる、
付記10に記載のプログラム。
20 最適化処理部
21 データ発生部
22 パラメータ更新部
23 予測分布算出部
24 予測分布更新部
25 候補探索部
26 最適解出力部
100 最適化処理装置
110 コンピュータ
111 CPU
112 メインメモリ
113 記憶装置
114 入力インターフェイス
115 表示コントローラ
116 データリーダ/ライタ
117 通信インターフェイス
118 入力機器
119 ディスプレイ装置
120 記録媒体
121 バス
Claims (5)
- 目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、共分散関数設定部と、
前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、最適化処理部と、を備え、
前記最適化処理部が、
前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、データ発生部と、
前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、パラメータ更新部と、
更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、予測分布算出部と、
算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、予測分布更新部と、
更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、候補探索部と、
を備えている、
ことを特徴とする最適化処理装置。 - 前記共分散関数設定部が、複数の前記制御変数それぞれ毎に、写像によって得られた2次元空間に共分散関数を定義し、得られた各共分散関数を組み合せて、新たな共分散関数を定義し、
前記最適化処理部が、組み合わせによって得られた前記新たな共分散関数を用いて、前記目的関数のベイズ推定を行なう、
請求項1に記載の最適化処理装置。 - 前記最適化処理部が、更に、前記候補探索部によって抽出された候補の中から、前記目的関数の最適解を特定する、最適解出力部を備えている、
請求項1に記載の最適化処理装置。 - (a)コンピュータによって、目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記コンピュータによって、前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、を有し、
前記(b)のステップが、
(b1)前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、ステップと、
(b2)前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、ステップと、
(b3)更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、ステップと、
(b4)算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、ステップと、
(b5)更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、ステップと、
を有している、
ことを特徴とする最適化処理方法。 - コンピュータに、
(a)目的関数の制御変数を単位円周上に写像することによって共分散関数を定義する、ステップと、
(b)前記共分散関数を用いた前記目的関数のベイズ推定を利用して、前記目的関数の最適化を実行する、ステップと、を実行させ、
前記(b)のステップとして、
(b1)前記制御変数の定義域において、制御変数の値と目的関数の値とを含む組データを、設定された組数だけ、ランダムに発生させる、ステップと、
(b2)前記組データを用いて、前記制御変数、前記目的関数、及び前記共分散関数に基づいて定義された尤度関数を、最大化することによって、前記共分散関数に含まれるパラメータを更新する、ステップと、
(b3)更新された前記パラメータ、前記制御変数、及び前記目的関数を用いて、前記目的関数の予測分布における平均及び分散を算出する、ステップと、
(b4)算出された前記平均及び分散を用いて、前記目的関数の予測分布を更新する、ステップと、
(b5)更新された前記予測分布を用いて、定義された関数の最適化を行うことにより、目的関数の定義域における最適な制御変数の候補を抽出する、ステップと、
を実行させる、
プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/059497 WO2016151864A1 (ja) | 2015-03-26 | 2015-03-26 | 最適化処理装置、最適化処理方法、及びコンピュータ読み取り可能な記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016151864A1 JPWO2016151864A1 (ja) | 2017-11-02 |
JP6388074B2 true JP6388074B2 (ja) | 2018-09-12 |
Family
ID=56977169
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017507300A Active JP6388074B2 (ja) | 2015-03-26 | 2015-03-26 | 最適化処理装置、最適化処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6388074B2 (ja) |
WO (1) | WO2016151864A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6709718B2 (ja) * | 2016-11-04 | 2020-06-17 | 日本電信電話株式会社 | 入力パラメータ探索装置、入力パラメータ探索方法、及び入力パラメータ探索プログラム |
CN108154238B (zh) * | 2017-12-25 | 2020-11-27 | 东软集团股份有限公司 | 机器学习流程的迁移方法、装置、存储介质和电子设备 |
JP7023501B2 (ja) * | 2018-03-01 | 2022-02-22 | 国立研究開発法人産業技術総合研究所 | 探索装置、探索方法及び製造システム |
JP7061536B2 (ja) | 2018-08-09 | 2022-04-28 | 株式会社東芝 | 最適化装置、シミュレーションシステム及び最適化方法 |
JP7252449B2 (ja) * | 2019-05-16 | 2023-04-05 | 富士通株式会社 | 最適化装置、最適化システム、最適化方法および最適化プログラム |
US20220277235A1 (en) * | 2019-07-29 | 2022-09-01 | Nippon Telegraph And Telephone Corporation | Optimization device, optimization method, and optimization program |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10346757B2 (en) * | 2013-05-30 | 2019-07-09 | President And Fellows Of Harvard College | Systems and methods for parallelizing Bayesian optimization |
-
2015
- 2015-03-26 JP JP2017507300A patent/JP6388074B2/ja active Active
- 2015-03-26 WO PCT/JP2015/059497 patent/WO2016151864A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JPWO2016151864A1 (ja) | 2017-11-02 |
WO2016151864A1 (ja) | 2016-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6388074B2 (ja) | 最適化処理装置、最適化処理方法、及びプログラム | |
Cascante-Bonilla et al. | Curriculum labeling: Revisiting pseudo-labeling for semi-supervised learning | |
CN111149117B (zh) | 机器学习和深度学习模型的基于梯度的自动调整 | |
US10074054B2 (en) | Systems and methods for Bayesian optimization using non-linear mapping of input | |
CN109493417B (zh) | 三维物体重建方法、装置、设备和存储介质 | |
US8270723B2 (en) | Recognition device, recognition method, and program | |
Wong et al. | View vertically: A hierarchical network for trajectory prediction via fourier spectrums | |
US20150379075A1 (en) | Maintaining diversity in multiple objective function solution optimization | |
US9922240B2 (en) | Clustering large database of images using multilevel clustering approach for optimized face recognition process | |
US10019801B2 (en) | Image analysis system and method | |
KR20190021257A (ko) | Rgb-d 카메라 기반 추적 시스템 및 그 방법 | |
Wu et al. | Analysis of generalization ability for different AdaBoost variants based on classification and regression trees | |
CN107977980B (zh) | 一种目标跟踪方法、设备以及可读介质 | |
CN110728359B (zh) | 搜索模型结构的方法、装置、设备和存储介质 | |
CN104574379A (zh) | 一种基于目标多部件学习的视频分割算法 | |
US20200134495A1 (en) | Online learning of model parameters | |
Kristiansen et al. | An iterative method for the approximation of fibers in slow-fast systems | |
CN112578458B (zh) | 叠前弹性阻抗随机反演方法、装置、存储介质及处理器 | |
Ahmadzadeh et al. | Fast and adaptive bp-based multi-core implementation for stereo matching | |
US9158876B2 (en) | Optimizing lithography masks for VLSI chip design | |
US20210142195A1 (en) | N-steps-ahead prediction based on discounted sum of m-th order differences | |
Kang et al. | Particles resampling scheme using regularized optimal transport for sequential Monte Carlo filters | |
Tu et al. | Nonsmooth low-rank matrix recovery: methodology, theory and algorithm | |
US20240161248A1 (en) | Systems and methods for reversible transformations using diffusion models | |
US20240037439A1 (en) | Quantum system selection via coupling map comparison |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170706 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170706 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180206 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180404 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180717 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180730 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6388074 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |