JP4947903B2 - 最適化方法及び最適化プログラム - Google Patents
最適化方法及び最適化プログラム Download PDFInfo
- Publication number
- JP4947903B2 JP4947903B2 JP2005005741A JP2005005741A JP4947903B2 JP 4947903 B2 JP4947903 B2 JP 4947903B2 JP 2005005741 A JP2005005741 A JP 2005005741A JP 2005005741 A JP2005005741 A JP 2005005741A JP 4947903 B2 JP4947903 B2 JP 4947903B2
- Authority
- JP
- Japan
- Prior art keywords
- individual
- algorithm
- optimization
- population
- voronoi
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/06—Multi-objective optimisation, e.g. Pareto optimisation using simulated annealing [SA], ant colony algorithms or genetic algorithms [GA]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Genetics & Genomics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Physiology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Complex Calculations (AREA)
Description
2. 2変数間の依存関係を考慮するクラス(カテゴリー)
3. 2変数以上の相関関係を考慮するクラス(カテゴリー)
このアルゴリズムでは、パラメータ間の依存関係を学習するため、すなわち問題の構造を学習するために、ベイジアン・ネットワークを使用して条件付確率を推測する[26,31]。ベイジアン・ネットワークの各ノードおよびノード間の接続は、それぞれのパラメータおよび条件付確率に対応する。最終的には、条件付確率の積によって求められる確率(Factorized Probability)に従って子個体が生成される。最近、この方法は、多目的最適化問題にも拡張され、大きな注目を集めている[26、31]。
BosmanとThierensは、IDEAのクラスに属する4種類の分布予測型アルゴリズムを提案した[4〜9]。一つ目は離散値問題に対するアルゴリズムで、確率モデルを構築する為に条件付確率を用いている。その他の3つは連続値問題に対するアルゴリズムであり、確率モデルを構築するために、それぞれ正規化したガウス分布、ヒストグラム法、およびカーネル法を使用する。最後のカーネルを用いた方法は多目的最適化に拡張されており、Mixture-based IDEA (MIDEA) と呼ばれている。
このアルゴリズムでは、確率モデルを作る為にParzen Estimator を使う[10]。この Parzen Estimator により解の確率密度を近似する。そして、作られた確率モデルによって新しい子個体が作成される。このアルゴリズムも同様に多目的最適化問題に適用されている。
このアルゴリズムでは、各パラメータに対して、探索空間を小さな領域(ビン)に分割する[58,59]。そして、全個体数に対する各領域での個体数の比を選択確率 (Selection Pressure) として割り当てる。この割り当てられた確率により乱数を用いて領域をまず選択し、選択された領域内で子個体を一様に生成する。
[1]http://www.ifor.math.ethz.ch/staff/fukuda/polyfaq/node29.html. [2]Baluja,S.Population−Based Incremental Learning:A Method for Integrating Genetic Search Based Function Optimization and Competitive Learning。Technical Report CMU−CS−94−163、Carnegie Mellon University、1994年。 [3]Baluja,S.and Davies,S.Combining Multiple Optimization Runs with Optimal Dependency Trees。Technical Report CMU−CS−97−157、Carnegie Mellon University、1997年。 [4]Bosman,P.A.N.and Thierens,D.An Algorithmic Framework for Density Estimation Based Evolutionary Algorithms。Technical Report UU−CS−1999−46、Department of Computer Science、Utrecht University、1999年。 [5]Bosman,P.A.N.and Thierens,D.Continuous Iterated Density Estimation Evolutionary Algorithms within the IDEA Framework。Technical Report UU−CS−2000−15、Department of Computer Science、Utrecht University、2000年。 [6]Bosman,P.A.N.and Thierens,D.IDEAs Based on the Normal Kernels Probability Density Function。Technical Report UU−CS−2000−11、Department of Computer Science、Utrecht University、2000年。 [7]Bosman,P.A.N.and Thierens,D.Mixed IDEAs。Technical Report UU−CS−2000−45、Department of Computer Science、Utrecht University、2000年。 [8]Bosman,P.A.N.and Thierens,D.Negative Log Likelihood and Statistical Hypothesis Testing as the Basis of Model Selection in IDEAs。In Proceedings of the Tenth Belgium−Netherlands Conference on Machine Learning、109ページ〜116ページ、2000年。 [9]Bosman,P.A.N.and Thierens,D.Advancing Continuous IDEAs with Mixture Distributions and Factorization Selection Metrics。In Proceedings of the Optimization by Building and using Probabilistic Models OBUPM Workshop at the Genetic and Evolutionary Computation Conference(GECCO−2001)、208ページ〜212ページ、2001年。 [10]Costa,M.and Minisci,E.MOPED:A Multi−objective Parzen−based Estimation of Distribution Algorithm for Continuous Problems。In Proceedings of the Second International Conference on Evolutionary Multi−Criterion Optimization(EMO−2003)、282ページ〜294ページ、2003年。 [11]de Bonet,J.S.,Isbell,J.,Charles,L.and Viola,P.MIMIC:Finding Optima by Estimating Probability Densities。Advances in Neural Information Processing Systems、9:424ページ〜431ページ、1996年。 [12]Deb,K.A Population−based Algorithm−generator for Real−parameter Optimization。Technical Report 2003003、Indian Institute of Technology、Kanpur:Kanpur Genetic Algorithms Laboratory(KanGAL)、Kanpur、PIN 208 016、India、2003年。 [13]Deb,K.,Anand,A.and Joshi,D.A Computationally Efficient Evolutionary Algorithms for Real−parameter Optimisation。Evolutionary Computation、10(4):371ページ〜395ページ、2002年。 [14]Deb,K.and Agrawal,R.B.Simulated Binary Crossover for Continuous Search Space。Complex Systems、9:115ページ〜148ページ、1995年。 [15]Deb,K.and Beyer,H.−G.Self−adaptation in Real−parameter Genetic Algorithms with Simulated Binary Crossover。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−1999)、172ページ〜179ページ、1999年。 [16]Deb,K.,Pratap,A.,Agarwal,S.and Meyarivan,T.A Fast and Elitist Multiobjective Genetic Algorithm:NSGA−II。IEEE Transactions on Evolutionary Computation、6(2):182ページ〜197ページ、2002年。 [17]Eshelman,L.J.and Schaffer,J.D.Real−coded Genetic Algorithms and Interval−schemata。In Proceedings of Foundations of Genetic Algorithms 2(FOGA−2)、187ページ〜202ページ、1993年。 [18]Eshelman,L.J.,Mathias,K.E.and Schaffer,J.D.Crossover Operator Biases:Exploiting the Population Distribution。In Proceedings of the Seventh International Conference on Genetic Algorithms、354ページ〜361ページ、1997年。 [19]Harik,G.R.Linkage Learning via Probabilistic Modeling in the ECGA。Technical Report 99010、University of Illinois、Urbana−Champaign Urbana、IL 61801、1999年。 [20]Harik,G.R.,Lobo,F.G.and Goldberg,D.E.The Compact Genetic Algorithm。Technical Report 97006、University of Illinois、Urbana−Champaign Urbana、IL 61801、1997年。 [21]Harik,G.R.,Lobo,F.G.and Goldberg,D.E.The Compact Genetic Algorithm。In Proceedings of Congress on Evolutionary Computation(CEC−1998)、523ページ〜528ページ、1998年。 [22]Hyvarinen,A.Independent Component Analysis。Wiley−Interscience、2001年。 [23]Jin,Y.and Sendhoff,B.Connectedness,Regularity and the Success of Local Search in Evolutionary Multi−Objective Optimization。In Proceedings of Congress on Evolutionary Computation(CEC−2003)、第3巻、1910ページ〜1917ページ、2003年。 [24]Jolliffe,I.T.Principal Component Analysis。Springer Verlag、2002年。 [25]Kaufman,L.and Rousseeuw,P.J.Finding Groups in Data−An Introduction to Cluster Analysis。Wiley−Interscience、1990年。 [26]Khan,N.,Goldberg,D.E.and Pelikan,M.Multi−objective Bayesian Optimization Algorithm。Technical Report 2002009、University of Illinois、Urbana−Champaign、Urbana、IL 61801、2002年。 [27]Kita,H.,Ono,I.and Kobayashi,S.Multi−parental Extension of the Unimodal Normal Distribution Crossover for Real−coded Genetic Algorithms。In Proceedings of Congress on Evolutionary Computation(CEC−1999)、第2巻、1581ページ〜1587ページ、1999年。 [28]Kvasnicka,V.,Pelikan,M.and Pospichal,J.Hill Climbing with Learning(An Abstraction of Genetic Algorithm)。Neural Network World、6:773ページ〜796ページ、1996年。 [29]Larranaga,P.and Lozano,J.A.,editor。Estimation of Distribution Algorithms。A New Tool for Evolutionary Computation。Kluwer Academic Publishers、2002年。 [30]Larranaga,P.,Etxeberria,R.,Lozano,J.A.and Pena,J.M.Optimization by Learning and Simulation of Bayesian and Gaussian Networks。Technical Report EHU−KZAA−IK−4/99、Department of Computer Science and Artificial Intelligence、University of the Basque Country、1999年。 [31]Laumanns,M.and Ocenasek,J.Bayesian Optimization Algorithms for Multi−objective Optimization。In Proceedings of Parellel Problem Solving from Nature VII(PPSN−VII)、298ページ〜307ページ、2002年。 [32]Lobo,F.G.and Harik,G.R.Extended Compact Genetic Algorithm in C++。Technical Report 99016、University of Illinois、Urbana−Champaign Urbana、IL 61801、1999年。 [33]Muhlenbein,H.The Equation for the Response to Selection and Its Use for Prediction。Evolutionary Computation、5(3):303ページ〜346ページ、1998年。 [34]Muhlenbein,H.and Mahnig,T.FDA−A Scalable Evolutionary Algorithm for the Optimization of Additively Decomposed Functions。Evolutionary Computation、7(1):45ページ〜68ページ、1999年。 [35]Muhlenbein,H.and Mahnig,T.The Factorized Distribution Algorithm for Additively Decomposed Functions。In Proceedings of Congress on Evolutionary Computation(CEC−1999)、752ページ〜759ページ、1999年。 [36]Muhlenbein,H.and Mahnig,T.Evolutionary Algorithms:From Recombination to Search Distributions。In Theoretical Aspects of Evolutionary Computing、135ページ〜173ページ、2000年。 [37]Muhlenbein,H.and Mahnig,T.Evolutionary Synthesis of Bayesian Networks for Optimization。Advances in Evolutionary Synthesis of Intelligent Agent、429ページ〜455ページ、2001年。 [38]Muhlenbein,H.and Paass,G.From Recombination of Genes to the Estimation of Distributions I。Binary Parameters。In Proceedings of Parallel Problem Solving from Nature IV(PPSN−IV)、178ページ〜187ページ、1996年。 [39]Okabe,T.,Jin,Y.and Sendhoff,B.Evolutionary Multi−Objective Optimization with a Hybrid Representation。In Proceedings of Congress on Evolutionary Computation(CEC−2003)、2262ページ〜2269ページ、2003年。 [40]Ono,I.Genetic Algorithms for Optimization Taking Account of Characteristics Preservation(Japanese)。PhD thesis、Tokyo Institute of Technology、1997年。 [41]Ono,I.and Kobayashi,S.A Real−coded Genetic Algorithm for Function Optimization Using Unimodal Normal Distribution Crossover。In Thomas Back、editor、Proceedings of the Seventh International Conference on Genetic Algorithms、246ページ〜253ページ、1997年。 [42]Ono,I.,Kita,H.and Kobayashi,S.A Robust Real−Coded Genetic Algorithm using Unimodal Normal Distribution Crossover Augmented by Uniform Crossover:Effects of Self−Adaptation of Crossover Probabilities。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−1999)、第1巻、496ページ〜503ページ、1999年。 [43]Ono,I.,Satoh,H.and Kobayashi,S.A Real−coded Genetic Algorithm for Function Optimization Using the Unimodal Normal Distribution Crossover(Japanese)。Journal of Artificial Intelligence、14(6):1146ページ〜1155ページ、1999年。 [44]Paul,T.K.and Iba,H.Reinforcement Learning Estimation of Distribution Algorithm。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−2003)、1259ページ〜1270ページ、2003年。 [45]Pelikan,M.and Muhlenbein,H.Marginal Distributions in Evolutionary Algorithms。In Proceedings of the Forth International Conference on Genetic Algorithms(Mendel−1998)、90ページ〜95ページ、1998年。 [46]Pelikan,M.,Goldberg,D.E.and Cantu−Pax,E.BOA:The Bayesian Optimization Algorithm。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−1999)、525ページ〜532ページ、1999年。 [47]Pelikan,M.,Goldberg,D.E.and Cantu−Paz,E.Linkage Problem,Distribution Estimation and Bayesian Networks。Technical Report 98013、University of Illinois、Urbana−Champaign Urbana、IL 61801、1998年。 [48]Pelikan,M.,Goldberg,D.E.and Cantu−Paz,E.BOA:The Bayesian Optimization Algorithm。Technical Report 99003、University of Illinois、Urbana−Champaign Urbana、IL 61801、1999年。 [49]Pelikan,M.,Goldberg,D.E.and Lobo,F.A Survey of Optimization by Building and Using Probabilistic Models。Technical Report 99018、University of Illinois、Urbana−Champaign Urbana、IL 61801、1999年。 [50]Rudlof,S.and Koppen,M.Stochastic Hill Climbing with Learning by Vectors of Normal Distributions。In Proceedings of the First Online Workshop on Soft Computing(WSC1)、Nagoya、Japan、1997年。 [51]Sebag,M.and Ducoulombier,A.Extending Population−Based Incremental Learning to Continuous Search Spaces。In Proceedings of Parallel Problem Solving from Nature V(PPSN−V)、418ページ〜427ページ、1998年。 [52]Takahashi,M.and Kita,H.A Crossover Operator Using Independent Component Analysis for Real−coded Genetic Algorithms。In Proceedings of Congress on Evolutionary Computation(CEC−2001)、643ページ〜649ページ、2001年。 [53]Thierens,D.and Bosman,P.A.N.Multi−Objective Mixture−based Iterated Density Estimation Evolutionary Algorithms。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−2001)、663ページ〜670ページ、2001年。 [54]Tsutsui,S.Sampling Bias and Search Space Boundary Extension in Real Coded Genetic Algorithms。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−2000)、211ページ〜218ページ、2000年。 [55]Tsutsui,S.and Goldberg,D.E.Search Space Boundary Extension Method in Real−coded Genetic Algorithms。Information Sciences、133(3−4):229ページ〜247ページ、2001年。 [56]Tsutsui,S.and Goldberg,D.E.Simplex Crossover and Linkage Identification:Single stage Evolution vs.Multi−stage Evolution。In Proceedings of Congress on Evolutionary Computation(CEC−2002)、974ページ〜979ページ、2002年。 [57]Tsutsui,S.,Goldberg,D.E.and Sastry,K.Simplex Crossover and Linkage Learning in Real−coded GAs。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−2001)、785ページ、2001年。 [58]Tsutsui,S.,Pelikan,M.and Goldberg,D.E.Probabilistic Model−building Genetic Algorithms Using Marginal Histograms in Continuous Domain。In Proceedings of the KES−2001、Knowledge−based Intelligent Information Engineering Systems and Allied Technologies、第1巻、112ページ〜121ページ。 [59]Tsutsui,S.,Pelikan,M.and Goldberg,D.E.Evolutionary Algorithm Using Marginal Histogram Models in Continuous Domain。Technical Report 2001019、University of Illinois、Urbana−Champaign Urbana、IL 61801、2001年。 [60]Tsutsui,S.,Yamamura,M.and Higuchi,T.Multi−parent Recombination with Simplex Crossover in Real Coded Genetic Algorithms。In Proceedings of Genetic and Evolutionary Computation Conference(GECCO−1999)、657ページ〜664ページ、1999年。 [61]Ueda,T.,Koga,N.and Okamoto,M.Efficient Numerical Optimization Technique Based on Real−coded Genetic Algorithm。Genome Informatics、12:451ページ〜453ページ、2001年。 [62]Zhang,B.−T.A Bayesian Framework for Evolutionary Computation。In Proceedings of Congress on Evolutionary Computation(CEC−1999)、722ページ〜728ページ、1999年。
1. どのように確率モデルを構築するか?
2. どのように確率モデルから子個体を生成するか?
の2点である。
本発明で提案するボロノイ・ベース分布予測型アルゴリズムのなかでは、まず初めにデータのクラスタリングが行われる。これは、幾つかの局所確率モデルを容易にかつ効果的に構築する為である。クラスタリングの後、各クラスターに対してグローバルな確率モデルの代わりに局所確率モデルが構築される。
確率モデルの構築の際に次元を下げる為に、また確率モデルを効率的に構築する為に主成分分析を本発明では使用している。図6では、異なった2つのデータ集合を示している。もし、図6(b)では、主成分分析をしないときの確率モデルを構築する領域21に、主成分分析によって直交化した場合の確率モデルを構築する領域23がある。図6(a)は、パレート解13、子個体15、を含む確率モデルを構築する領域25を示す。図6(b)のように変数間でエピスタシスがあった場合、図6(a)に示すようなエピスタシスがないような形に座標変換をするのは非常に合理的である。そのような座標変換により次元を下げることが出来(図4のS4cに相当)、さらには確率モデルを効率的に構築することが出来るようになる。すなわち、主成分分析を使うことで線形相関を最小化でき、それによって高次元化問題を効率的に扱うことが可能となる。
実数値遺伝的アルゴリズム (Real-Coded Genetic Algorithms: RCGAs ) の研究[12、15,40等]では、本発明と同様に主成分分析またはグラムシュミッドの直交化法が使われている。Unimodal Normal Distribution Crossover (UNDX)[40]、Bimodal Normal Distribution Crossover (BNDX)[40]、Parent-Centric Recombination (PCX)[12]およびModified PCX (mPCX)[12]がその例である。しかし、直交化の使用は多目的最適化問題では度々問題を生ずる。
ボロノイ・メッシュは以下のように定義される[1]。
Rn空間をm個の多面体セルv(p)(p∈S)に分割する。各セルv(p)は、すなわちpのボロノイ・メッシュは、Rn空間上でS中の他の任意の点よりもpに近い点の集合として定義される。つまり数学的には次のように定義される。
これは、図4のステップS4gの中の一処理である。また、ここで言う「ランク」は図11のランクと同一である。
2.各メッシュの生成確率を最寄りのデータから決定する。
ここで、εと|Nc|は、あらかじめ定義されるパラメータと各クラスターに所属するデータ数である。
上記のボロノイ・メッシュを使った確率モデルの作成で、「生成領域」内の全てのセルにランクが割り当てられた。この割り当てられたランクにより、生成確率を計算する(図4のS4gに相当)。生成確率を計算する為に、幾何分布を用いた。数学的には次のように計算される。
ここで、Pgおよびrは、[0.0,1.0]の範囲で予め与えられたパラメータおよびランクをしめす。Pg=0.2、0.5および0.8について、幾何分布を図12に示す。本発明では好ましい値としてPg=0.8を使った。本発明中で子個体を生成する際にこの幾何分布を使った。
本発明で提案したボロノイ・ベース分布予測型アルゴリズムを3つのテスト関数上で性能テストを行った。ここで用いたテスト関数は、それぞれテスト関数として周知のSCH1(2次元、5次元)、FON2(2次元、5次元)およびOKA4(2次)である。ここで使ったパラメータは表2−aに示すとおりである。ここで、パラメータεは、モデルの精度に対応する。
分布予測型アルゴリズムは主に単目的最適化の分野において研究されてきたが、最近ではいくつかの手法が多目的最適化 (Multi-Objective Optimization: MOO ) に適用されてきた[10,53]。ThierensとBosman[53]は、Mixture-based Iterated Density Estimation Evolutionary Algorithm (MIDEA) を多目的最適化に適用しており、CostaとMinisci[10]は、Parzen-based EDA (PEDA) を多目的最適化に適用している。両手法を提案している論文で同じテスト関数を使っているので、本発明で提案するボロノイ・ベース分布予測型アルゴリズムもこれらのテスト関数上でテストを行った。MIDEAは、10次元のZDT4関数で十分な性能を示していない[53]ので、ここの比較ではZDT4は使わない。最大関数評価回数は、表3に示す通りである。データまたは子個体数は100とし、テスト関数FON2およびKUR1ではε=1.0、DEB4ではε=0.1とした。
最新のほとんど全ての多目的最適化アルゴリズムでは、パレート解を示す為に解集合を出力する。現在の所、パラメータ空間上のパレート解を数学的に出力する多目的最適化アルゴリズムはない。JinとSendhoff[23]は、パラメータ空間上の区分的線形関数によってパレート解を近似する方法を提案した。多くのテスト関数は、パラメータ空間上で線形のパレート解を持つ為に、彼らは解をより正確にする為にその特徴を利用している。
本発明では、多目的最適化問題に取り組む為の新しいアルゴリズムのボロノイ・ベース分布予測型アルゴリズム(Voronoi-based Estimation of Distribution Algorithm: VEDA) を提案した。ボロノイ・ベース分布予測型アルゴリズムでは、有望な子個体を生成するのに、適合度空間上の適合度(ランク)情報を持った子個体分布を直接使う。ボロノイ・メッシュの概念を使って確率モデルを構築し、構築した確率モデルに従って子個体を生成する。
BNDX Bimodal Normal Distribution Crossover
DEB4 テスト関数
EA 進化的アルゴリズム
EDA 分布予測型アルゴリズム
ES 進化戦略
FEM 有限要素法
FON2 テスト関数
FS 適合度空間
GA 遺伝的アルゴリズム
IDEA Iterated Density Estimation Evolutionary Algotithm
KUR1 テスト関数
mPCX Modified PCX
MIDEA Mixture-based IDEA
MOO 多目的最適化
OKA4 テスト関数
PCA 主成分分析
PCX Parent-Centric Recombination
PEDA Parzen-Based Estimation of Distribution Algorithm
PS パラメータ空間
RCGA 実数値型遺伝的アルゴリズム
SCH1 テスト関数
SOO 単目的最適化
UNDX Unimodal Normal Distribution Crossover
VEDA ボロノイ・ベース分布予測型アルゴリズム
ZDT4 テスト関数
12 ローカルな確率モデルを構築する領域
13 パレート解
15 子個体
21 主成分分析をしない時の確率モデルを構築する領域
23 主成分分析によって直交化した場合の確率モデルを構築する領域
25 確率モデルを構築する領域
31 ボロノイ・ベース分布予測型アルゴリズムの出力
Claims (9)
- コンピュータにより実施される、空気力学的構造物又は流体力学的構造物を対象物とする設計の最適化方法であって、
前記設計に係るパラメータセットで表現される複数の個体により初期個体群を構成するステップaと、
一つ又は複数の適合度関数を用いて、個体群の各個体の品質を評価するステップbと、
個体群の全ての個体から得られる情報に基づいて確率モデルを生成し、該確率モデルを用いて個体群の子個体を生成するステップcと、
一つ又は複数の適合度関数を用いて、最適化問題に係る子個体の品質を評価するステップdと、
子個体を選択して、次世代の子個体の生成に用いられる個体群を構成するステップeと、
前記品質が最適設計を示す閾値に達するまで、ステップcからeまでを繰り返すステップfと、
前記最適設計を、コンピュータにより動作可能な記憶装置に記憶するステップgと、
を有し、
ステップcでは、ボロノイ・メッシュによりパラメータ空間内に注目領域を定義し、該定義した各注目領域において子個体を生成する最適化方法。 - ステップdにおいて、前記個体に対し、該個体の品質に応じたランクが割り当てられ、
ステップeにおいて、すべての前記個体のランクが記憶され、かつ、前記割り当てられたランクが高い子個体には高い選択確率が与えられ、前記割り当てられたランクが低い子個体には低い選択確率が与えられる、請求項1に記載の最適化方法。 - 前記ボロノイ・メッシュの各セルに、最も近い固体からの距離に応じて付与された該セルのランクに基づいて、選択確率がそれぞれ割り当てられる、請求項2に記載の最適化方法。
- 局所最適化を避けるため確率モデルに摂動が付加される、請求項1に記載の最適化方法。
- ステップcにおける確率モデルの生成において、パラメータ空間がクラスタに分割される、請求項1に記載の最適化方法。
- ステップcにおける確率モデルの生成において、主成分分析及び独立成分分析の少なくとも一方を使用する、請求項1に記載の最適化方法。
- 解空間における関数近似及び適合度空間の関数近似の少なくとも一方を生成する、請求項1に記載の最適化方法。
- コンピュータで実行されることにより請求項1に記載の方法を実施するコンピュータ・ソフトウェア・プログラム。
- 空気力学的構造物又は流体力学的構造物を対象物とする設計の最適化を行うシステムであって、
前記設計に係るパラメータセットで表現される複数の個体により初期個体群を構成する手段と、
一つ又は複数の適合度関数を用いて、個体群の各個体の品質を評価する手段と、
個体群の全ての個体から得た情報に基づいて確率モデルを生成し、該確率モデルを用いて個体群の子個体を生成する手段と、
一つ又は複数の適合度関数を用いて、子個体の最適化問題に係る品質を評価する手段と、
子個体を選択して、次世代の子個体の生成に用いられる個体群を構成する手段と、
前記品質を、最適設計を示す閾値と比較する手段と、
前記品質が最適設計を示す閾値に達するまで、前記個体群から子個体を生成する手段と、前記品質を評価する手段と、前記個体群を構成する手段とに、当該各手段の動作を繰り返させる手段と、
前記最適設計を、コンピュータにより動作可能な記憶装置に記憶する手段と、
を有し、
前記子個体を生成する手段は、ボロノイ・メッシュによりパラメータ空間内に注目領域を定義し、該定義した各注目領域において子個体を生成するシステム。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP04000458.2 | 2004-01-12 | ||
EP04000458 | 2004-01-12 | ||
EP04010193.3 | 2004-04-29 | ||
EP04010193.3A EP1598751B1 (en) | 2004-01-12 | 2004-04-29 | Estimation of distribution algorithm (EDA) |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005202960A JP2005202960A (ja) | 2005-07-28 |
JP4947903B2 true JP4947903B2 (ja) | 2012-06-06 |
Family
ID=34828569
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005005741A Expired - Fee Related JP4947903B2 (ja) | 2004-01-12 | 2005-01-12 | 最適化方法及び最適化プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7428514B2 (ja) |
EP (1) | EP1598751B1 (ja) |
JP (1) | JP4947903B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11461515B2 (en) | 2018-08-09 | 2022-10-04 | Kabushiki Kaisha Toshiba | Optimization apparatus, simulation system and optimization method for semiconductor design |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060206292A1 (en) * | 2002-12-05 | 2006-09-14 | Walid Ali | Method and apparatus to utilize the probability vectors in the binary representation of video systems for faster convergence with minimal computation requirements |
US7280986B2 (en) * | 2004-02-09 | 2007-10-09 | The Board Of Trustees Of The University Of Illinois | Methods and program products for optimizing problem clustering |
US7340441B1 (en) * | 2004-12-17 | 2008-03-04 | The Mathworks, Inc. | Search directions in pattern search via rotation |
US20060212279A1 (en) * | 2005-01-31 | 2006-09-21 | The Board of Trustees of the University of Illinois and | Methods for efficient solution set optimization |
EP1818862A1 (en) * | 2006-01-24 | 2007-08-15 | Honda Research Institute Europe GmbH | Combining model-based and genetics-based offspring generation for multi-objective optimization using a convergence criterion |
US8131656B2 (en) * | 2006-01-31 | 2012-03-06 | The Board Of Trustees Of The University Of Illinois | Adaptive optimization methods |
US7979365B2 (en) * | 2006-01-31 | 2011-07-12 | The Board Of Trustees Of The University Of Illinois | Methods and systems for interactive computing |
US8332188B2 (en) * | 2006-03-03 | 2012-12-11 | Solido Design Automation Inc. | Modeling of systems using canonical form functions and symbolic regression |
CN101809627A (zh) * | 2007-06-01 | 2010-08-18 | 埃克森美孚上游研究公司 | 平面中约束沃罗努网格的生成 |
US20080312885A1 (en) * | 2007-06-12 | 2008-12-18 | Justsystems Evans Research, Inc. | Hybrid method for simulation optimization |
US8190414B2 (en) * | 2008-03-26 | 2012-05-29 | Exxonmobil Upstream Research Company | Modeling of hydrocarbon reservoirs containing subsurface features |
US8457240B2 (en) * | 2008-08-25 | 2013-06-04 | Daniel Lee | Methods of selecting signal transmitting, receiving, and/or sensing devices with probabilistic evolutionary algorithms in information conveyance systems |
US8380607B2 (en) * | 2010-12-17 | 2013-02-19 | Indiana University Research And Technology Corporation | Predicting economic trends via network communication mood tracking |
CN102646213A (zh) * | 2012-02-24 | 2012-08-22 | 上海交通大学 | 基于混沌粒子群算法的接地网腐蚀诊断系统的检测方法 |
KR102219346B1 (ko) | 2013-05-30 | 2021-02-23 | 프레지던트 앤드 펠로우즈 오브 하바드 칼리지 | 베이지안 최적화를 수행하기 위한 시스템 및 방법 |
FR3015757B1 (fr) * | 2013-12-23 | 2019-05-31 | Electricite De France | Procede d'estimation quantitative du colmatage des plaques d'un generateur de vapeur |
CN104281894A (zh) * | 2014-10-30 | 2015-01-14 | 大连海事大学 | 基于航道与泊位资源的船舶调度优化方法 |
CN104504468B (zh) * | 2014-12-19 | 2018-03-13 | 西安电子科技大学 | 基于三维移动模式序列与密母算法的三维装箱方法 |
CN104536831B (zh) * | 2015-01-12 | 2017-12-08 | 北京神舟航天软件技术有限公司 | 一种基于多目标优化的多核SoC软件映射方法 |
CN105356610A (zh) * | 2015-11-26 | 2016-02-24 | 江苏省电力公司南京供电公司 | 智能配电网的配电自动化终端配置方法 |
US11379730B2 (en) | 2016-06-16 | 2022-07-05 | The Aerospace Corporation | Progressive objective addition in multi-objective heuristic systems and methods |
US11676038B2 (en) * | 2016-09-16 | 2023-06-13 | The Aerospace Corporation | Systems and methods for multi-objective optimizations with objective space mapping |
CN107045569B (zh) * | 2017-02-23 | 2020-08-11 | 哈尔滨工业大学 | 基于聚类多目标分布估计算法的齿轮减速器优化设计方法 |
CN109960834A (zh) * | 2017-12-25 | 2019-07-02 | 复旦大学 | 一种基于多目标贝叶斯优化的模拟电路多目标优化设计方法 |
KR102102517B1 (ko) * | 2018-01-30 | 2020-04-21 | 서울대학교산학협력단 | 최적화 계산 장치 및 방법 |
US11983623B1 (en) * | 2018-02-27 | 2024-05-14 | Workday, Inc. | Data validation for automatic model building and release |
CN112154464B (zh) * | 2018-06-19 | 2024-01-02 | 株式会社岛津制作所 | 参数搜索方法、参数搜索装置以及参数搜索用程序 |
JP7344149B2 (ja) * | 2020-02-07 | 2023-09-13 | キオクシア株式会社 | 最適化装置及び最適化方法 |
CN111639716B (zh) * | 2020-06-04 | 2023-07-18 | 云南电网有限责任公司电力科学研究院 | 基于密度偏差抽样的数据样本选择方法及装置 |
US12001529B1 (en) * | 2021-11-05 | 2024-06-04 | Validate Me LLC | Counting machine for manufacturing and validating event-relevant identities via an ensemble network |
CN115107280B (zh) * | 2022-06-24 | 2024-07-16 | 重庆大学 | 一种Voronoi多孔结构智能生成方法 |
Family Cites Families (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5148513A (en) | 1988-05-20 | 1992-09-15 | John R. Koza | Non-linear genetic process for use with plural co-evolving populations |
AU7563191A (en) | 1990-03-28 | 1991-10-21 | John R. Koza | Non-linear genetic algorithms for solving problems by finding a fit composition of functions |
US5074752A (en) | 1990-08-06 | 1991-12-24 | General Electric Company | Gas turbine outlet guide vane mounting assembly |
US5319781A (en) | 1991-05-03 | 1994-06-07 | Bolt Beranek And Newman Inc. | Generation of schedules using a genetic procedure |
US5265830A (en) | 1992-01-21 | 1993-11-30 | Mcdonnell Douglas Corporation | Trailing edge splitter |
US5355528A (en) | 1992-10-13 | 1994-10-11 | The Regents Of The University Of California | Reprogrammable CNN and supercomputer |
JPH06131188A (ja) | 1992-10-22 | 1994-05-13 | Hitachi Ltd | ファジィルール獲得方法およびファジィ推論システム |
US5461570A (en) | 1994-06-10 | 1995-10-24 | Johnson & Johnson Vision Products, Inc. | Computer system for quality control correlations |
US5541848A (en) | 1994-12-15 | 1996-07-30 | Atlantic Richfield Company | Genetic method of scheduling the delivery of non-uniform inventory |
US5819244A (en) | 1995-10-02 | 1998-10-06 | Apple Computer, Inc. | Adaptive computing systems, computer readable memories and processes employing hyperlinear chromosomes |
US5724258A (en) | 1996-05-09 | 1998-03-03 | Johnson & Johnson Vision Products, Inc. | Neural network analysis for multifocal contact lens design |
WO1997044741A1 (en) | 1996-05-23 | 1997-11-27 | The United States Of America, Represented By The Secretary, Department Of Health And Human Services, The National Institutes Of Health | System and method for combining multiple learning agents to produce a prediction method |
US5794432A (en) | 1996-08-27 | 1998-08-18 | Diversitech, Inc. | Variable pressure and variable air flow turbofan engines |
US5924048A (en) | 1997-03-14 | 1999-07-13 | Mccormack; Michael D. | Automated material balance system for hydrocarbon reservoirs using a genetic procedure |
JP3881428B2 (ja) | 1997-07-11 | 2007-02-14 | 本田技研工業株式会社 | 物体形状決定方法 |
US6086617A (en) * | 1997-07-18 | 2000-07-11 | Engineous Software, Inc. | User directed heuristic design optimization search |
EP0962874A1 (en) | 1998-06-04 | 1999-12-08 | Asea Brown Boveri AG | Method for designing a flow device |
US6516309B1 (en) | 1998-07-17 | 2003-02-04 | Advanced Research & Technology Institute | Method and apparatus for evolving a neural network |
US6549233B1 (en) | 1998-08-07 | 2003-04-15 | Intel Corporation | Color interpolation system |
US6606612B1 (en) | 1998-08-13 | 2003-08-12 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Method for constructing composite response surfaces by combining neural networks with other interpolation or estimation techniques |
ES2237140T3 (es) | 1998-09-07 | 2005-07-16 | Bridgestone Corporation | Procedimiento de prediccion del comportamiento de un neumatico. |
AU2177400A (en) | 1998-12-15 | 2000-07-03 | Jing Xiao | Method for solving partial constraint satisfaction problems for sequencing tasks |
US6917882B2 (en) * | 1999-01-19 | 2005-07-12 | Maxygen, Inc. | Methods for making character strings, polynucleotides and polypeptides having desired characteristics |
US6578018B1 (en) | 1999-07-27 | 2003-06-10 | Yamaha Hatsudoki Kabushiki Kaisha | System and method for control using quantum soft computing |
US20040030666A1 (en) | 1999-07-30 | 2004-02-12 | Marra John J. | Method of designing a multi-stage compressor rotor |
JP3885183B2 (ja) | 2000-01-17 | 2007-02-21 | 独立行政法人産業技術総合研究所 | 光学装置、光学装置の調整方法、およびその調整方法で実行する処理プログラムを記録した記録媒体 |
US7542948B2 (en) | 2000-06-16 | 2009-06-02 | Honda Giken Kogyo Kabushiki Kaisha | Genetic design method and apparatus |
EP1205877A1 (en) | 2000-11-14 | 2002-05-15 | Honda R&D Europe (Deutschland) GmbH | Approximate fitness functions |
GB2375536A (en) * | 2000-12-01 | 2002-11-20 | Univ Sheffield | Combinatorial molecule design system and method |
WO2002057946A1 (en) * | 2001-01-18 | 2002-07-25 | The Board Of Trustees Of The University Of Illinois | Method for optimizing a solution set |
US6928434B1 (en) | 2001-01-31 | 2005-08-09 | Rosetta Marketing Strategies Group | Method and system for clustering optimization and applications |
EP1235180A1 (en) | 2001-02-26 | 2002-08-28 | Honda R&D Europe (Deutschland) GmbH | Parameter adaptation in evolution strategies |
JP4723740B2 (ja) * | 2001-03-14 | 2011-07-13 | 富士通株式会社 | 密度一様化配置問題の最適解探索方法および密度一様化配置問題の最適解探索プログラム |
CA2340792A1 (en) | 2001-03-28 | 2002-09-28 | Michael C. Allan | Method and system for evolutionary phenogenetic engineering |
US20030030637A1 (en) | 2001-04-20 | 2003-02-13 | Grinstein Georges G. | Method and system for data analysis |
US20030065632A1 (en) | 2001-05-30 | 2003-04-03 | Haci-Murat Hubey | Scalable, parallelizable, fuzzy logic, boolean algebra, and multiplicative neural network based classifier, datamining, association rule finder and visualization software tool |
JP2003016421A (ja) * | 2001-07-04 | 2003-01-17 | Fujitsu Ltd | 最適化問題処理装置 |
US7313550B2 (en) | 2002-03-27 | 2007-12-25 | Council Of Scientific & Industrial Research | Performance of artificial neural network models in the presence of instrumental noise and measurement errors |
EP1367534A3 (en) | 2002-05-30 | 2008-07-02 | L'oreal | Method involving artificial intelligence |
US6950712B2 (en) | 2002-07-30 | 2005-09-27 | Yamaha Hatsudoki Kabushiki Kaisha | System and method for nonlinear dynamic control based on soft computing with discrete constraints |
EP1557788B1 (en) | 2004-01-26 | 2008-04-16 | Honda Research Institute Europe GmbH | Reduction of fitness evaluations using clustering technique and neural network ensembles |
US7280987B2 (en) | 2004-03-26 | 2007-10-09 | Halliburton Energy Services, Inc. | Genetic algorithm based selection of neural network ensemble for processing well logging data |
US7277893B2 (en) * | 2004-07-28 | 2007-10-02 | International Business Machines Corporation | System and method of flexible data reduction for arbitrary applications |
-
2004
- 2004-04-29 EP EP04010193.3A patent/EP1598751B1/en not_active Expired - Fee Related
-
2005
- 2005-01-11 US US11/033,767 patent/US7428514B2/en not_active Expired - Fee Related
- 2005-01-12 JP JP2005005741A patent/JP4947903B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11461515B2 (en) | 2018-08-09 | 2022-10-04 | Kabushiki Kaisha Toshiba | Optimization apparatus, simulation system and optimization method for semiconductor design |
Also Published As
Publication number | Publication date |
---|---|
EP1598751A3 (en) | 2006-11-22 |
EP1598751A2 (en) | 2005-11-23 |
JP2005202960A (ja) | 2005-07-28 |
EP1598751B1 (en) | 2014-06-25 |
US7428514B2 (en) | 2008-09-23 |
US20050256684A1 (en) | 2005-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4947903B2 (ja) | 最適化方法及び最適化プログラム | |
Jin | A comprehensive survey of fitness approximation in evolutionary computation | |
El-Mihoub et al. | Hybrid Genetic Algorithms: A Review. | |
Fogel et al. | Evolving neural networks | |
Jin et al. | A framework for evolutionary optimization with approximate fitness functions | |
Okabe et al. | Voronoi-based estimation of distribution algorithm for multi-objective optimization | |
Pelikan et al. | Estimation of distribution algorithms | |
Kala et al. | Robotic path planning in static environment using hierarchical multi-neuron heuristic search and probability based fitness | |
CN109086900B (zh) | 基于多目标粒子群优化算法的电力物资保障及调配平台 | |
CN115905691B (zh) | 一种基于深度强化学习的偏好感知推荐方法 | |
Ghaffaripour et al. | A multi-objective genetic algorithm for community detection in weighted networks | |
Petalas et al. | Improving fuzzy cognitive maps learning through memetic particle swarm optimization | |
CN115438842A (zh) | 一种基于自适应改进蜉蝣和bp神经网络的负荷预测方法 | |
Rezapoor Mirsaleh et al. | A learning automata-based memetic algorithm | |
Saha et al. | Exploiting linear interpolation of variational autoencoders for satisfying preferences in evolutionary design optimization | |
Rastegar et al. | A new discrete binary particle swarm optimization based on learning automata | |
Sun et al. | An evolutionary many-objective algorithm based on decomposition and hierarchical clustering selection | |
Gupta et al. | A game theoretic approach for simultaneous compaction and equipartitioning of spatial data sets | |
Santana et al. | MATEDA: A suite of EDA programs in Matlab | |
Davarynejad et al. | Accelerating convergence towards the optimal pareto front | |
Haupt | Introduction to genetic algorithms | |
Bhattacharya | Surrogate based ea for expensive optimization problems | |
Yen et al. | Hierarchical rank density genetic algorithm for radial-basis function neural network design | |
Bhattacharya | An investigation on two surrogate-based EAs | |
Saha et al. | Optimal evolutionary optimization hyper-parameters to mimic human user behavior |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110222 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20110519 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20110524 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110615 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111028 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120117 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120228 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120306 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150316 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |