WO2004109593A2 - Verfahren zur evolutionären optimierung, insbesondere von komplexen technischen gegenständen wie z.b. turbomaschinenschaufeln oder dgl - Google Patents

Verfahren zur evolutionären optimierung, insbesondere von komplexen technischen gegenständen wie z.b. turbomaschinenschaufeln oder dgl Download PDF

Info

Publication number
WO2004109593A2
WO2004109593A2 PCT/EP2004/050987 EP2004050987W WO2004109593A2 WO 2004109593 A2 WO2004109593 A2 WO 2004109593A2 EP 2004050987 W EP2004050987 W EP 2004050987W WO 2004109593 A2 WO2004109593 A2 WO 2004109593A2
Authority
WO
WIPO (PCT)
Prior art keywords
individuals
parents
evolutionary
target function
optimization
Prior art date
Application number
PCT/EP2004/050987
Other languages
English (en)
French (fr)
Other versions
WO2004109593A3 (de
Inventor
Camille Pedretti
Original Assignee
Alstom Technology Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alstom Technology Ltd filed Critical Alstom Technology Ltd
Publication of WO2004109593A2 publication Critical patent/WO2004109593A2/de
Publication of WO2004109593A3 publication Critical patent/WO2004109593A3/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/12—Computing arrangements based on biological models using genetic models
    • G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/06—Multi-objective optimisation, e.g. Pareto optimisation using simulated annealing [SA], ant colony algorithms or genetic algorithms [GA]

Definitions

  • the present invention relates to the field of evolutionary optimization technology. It relates to a method of evolutionary optimization according to the preamble of claim 1.
  • Such a method is e.g. known from EP-A1-1 205 877.
  • the object to be optimized is characterized by a set of parameters that belong to a specific configuration of the object and each form an individual within a generation of individuals with different parameter sets.
  • the quality or "fitness" of an individual is assessed by calculating one or more objective or fitness functions ("objective functions") (single objective optimization or multi-objective optimization).
  • Evolutionary optimization gradually creates new individuals of a next generation from a previous generation of individuals according to certain rules and evaluates them by calculating the target function. The most suitable individuals in terms of optimization are then used as "parents" to create a new generation, etc. The sequence of generations thus formed converges after a finite number of steps to an optimized solution which is described by an optimized parameter set. Examples of such evolutionary optimization strategies are described in the publications EP-A1-1 205863, EP-A1-1 205877 or EP-A1-235 180.
  • an evolutionary optimization strategy is associated with considerable computational effort and computing time if, for each individual of a generation, the values of one or even more target or fitness functions have to be calculated in order to be the parents for the next generation to filter out the most suitable individuals.
  • EP-A1-1 205 877 It has therefore already been proposed in EP-A1-1 205 877 mentioned at the beginning to use approximation models for the target functions instead of the exact calculation, such as “response surface” techniques, for example So-called “kriging model” or neural networks, which, using already existing exact calculations of the target functions, approximately determine new values of the target function with significantly less computation effort.
  • EP-A1-1 205 877 optionally uses the computation Values a real goal or fitness function or an approximated goal or fitness function used.
  • the object is achieved by the entirety of the features of claim 1.
  • the essence of the invention is that in order to save computing time in the first step, based on an approximately calculated predictive value for the objective function and an associated, estimated variance for the predictive value from the set of c individuals of a generation, a preselection of x with p ⁇ x ⁇ c Individuals suitable as parents are carried out that the value of the target function (ZF) is calculated exactly for the x preselected individuals, and that the p ⁇ x parents for the next generation are derived from the x preselected individuals based on the calculated values of the target function (ZF) to be selected.
  • the number of exact calculations of the target function and thus the total computing time spent can be significantly reduced without sacrificing the effectiveness of the optimization.
  • a Gaussian process (Gaussian Process) is used for the calculation of the expected values and variances of the target function, the Gaussian method in particular being trained first using a predetermined number of exact calculations of the target function (IF).
  • CMA Covariance Matrix Adaptation
  • Another preferred embodiment of the invention is characterized in that, in the first step, p suitable individuals are selected as parents who form a set D based on the expected values of the objective function, that with the variances of all p selected individuals a limit value b according to the following equation
  • ⁇ is a chosen coefficient, and that xp individuals are additionally selected from the remaining amount and added to the p individuals that meet the criterion
  • Fig. 2 shows a comparison between the optimization results for a
  • Fig. 3 shows a comparison between the optimization results for the
  • CMA Covariance Matrix Adaptation
  • the CMA algorithm is described, for example, in an article by N. Hansen and A. Ostermeier, Completely Derandomized Self-adaptation in Evolution Strategies, Evolutionary Computation 9 (2), pp. 159-195 (2001).
  • the CMA algorithm comprises the following main steps in a loop that is repeated several times:
  • the CMA algorithm works with a small number of individuals per generation and adjusts the strength of the mutation for each parameter of the individual according to the previous optimization process (evolution path).
  • the CMA algorithm has been used several times in the past to solve technical problems. Two of these applications should be used as a reference in the explanations below.
  • One application is concerned with the optimization of compressor blades (Buche D. et al., Automated Design Optimization of Compressor Blades for Stationary, Large Scale Turbomachinery, Proc. Of IGT03, ASME Turbo Expo 2003, Atlanta (2003)).
  • the other application is an automated design of runners for hydraulic turbines (Thomas L. et al., Automated Design of a Francis Turbine Runner Using Global Optimization Algorithms, Proc.
  • Gaussian methods that play an important role in the following exemplary embodiment, which are also referred to as kriging or stochastic methods, have been widely used by users of spatial statistics as an interpolation method for various data sets.
  • a description of Gaussian methods can be found, for example, in the publication by Gibbs M. and MacKay D., Efficient Implementation of Gaussian Processes, Cavendish Laboratory (1997). Only recently have the Gaussian methods been proposed as response surfaces for applications of optimization algorithms (see the articles by Emmerich M. et al. And El-Beltagy MA et al. Mentioned at the beginning).
  • the prediction consists of a Gaussian distribution for each point considered. The result is in the form of an average and a variance. The prediction of the variance is of great interest for an interpolation method because it represents the accuracy of the interpolation at the selected point.
  • a noise model can be built into the formulation so that noisy data can be processed. This can be important if data from iterative solution processes such as Solution methods for liquid flow can be used.
  • the Kovaria ⁇ zmatrix C is defined as an N-dimensional square matrix, the elements of which are C (Xm, x n ).
  • the predictions t N + 1 of the result and the variance ⁇ f using the Gaussian method at a new location x N + 1 can be obtained from the following relationships:
  • the hyper parameters ⁇ i, ⁇ 2 , ⁇ 3 and ⁇ r, ⁇ ⁇ of the Gaussian process model are obtained through training based on the data set.
  • the criterion of the maximum logarithmic probability is applied.
  • the logarithmic probability is:
  • optimizations are done to find the best set of hyperparameters for the model.
  • the optimization can be performed using a gradient or an evolutionary algorithm.
  • the frequency with which the evolutionary algorithm is called can be determined by the user. In the applications described here, the evolutionary algorithm is called every 5-10 times. According to the present invention, a novel modified CMA algorithm with the following sequence of steps is now proposed:
  • An essential point of the proposed new algorithm is the determination or selection of the individuals to be calculated exactly.
  • the method uses both the prediction and the variance values of the Gaussian method.
  • the minimization of a target function is considered with an evolutionary strategy with p parents and c children.
  • the application of the Gaussian method leads to c predictive values and
  • the p best predictive values of the current population are selected.
  • the ensemble (the set) of these selected Prediction values are denoted by D (in FIG. 1 these are the individuals P1 .... P4).
  • a limit value b (dash-dotted line in FIG. 1) is defined using the variances of all individuals in the ensemble D according to the following equation:
  • step 1 those (p) individuals are selected who would be parents for the next generation according to the Gaussian predictive values.
  • steps 2 and 3 error bars are generated on the basis of the prediction values and variances from the Gaussian method.
  • Individuals who have not yet been selected, but whose error bars overlap those of the individuals selected in step 1 are also selected because they may be better than others already selected individuals.
  • the coefficient ⁇ controls the number of individuals that are additionally selected in the second phase.
  • the optimal value of ⁇ is determined empirically and with the knowledge that the exact result should locally follow a Gaussian distribution N of the predicted values and variances.
  • the target function is then calculated exactly for the x preselected individuals.
  • the final p individuals are then selected as parents for the next generation
  • the proposed method has been applied to two design problems that are of interest to industry.
  • the one problem is concerned with the profile section of the compressor blade of a gas turbine, as described in the article by Buche D. et al. cited above. is described.
  • 16 parameters can be freely varied and control the geometry of the profile.
  • MISES blade-to-blade flow code
  • the components of the objective function to be minimized are:
  • the evolutionary CMA algorithm is used with 2 children and 10 parents as a boundary condition. 2 the effectiveness of the CMA method is compared with the effectiveness of the method proposed here. For the latter method, a coefficient ⁇ of 1.5 is assumed and the training data for the Gaussian method is 100.
  • the other problem is the rotor of a hydraulic turbine, as described in the article by Thomas L. et al. is described.
  • the same objective function is used.
  • the 35 parameters that control the design of the rotor geometry are set as freely variable.
  • 2nd Children and 10 parents taken for the evolutionary CMA algorithm, as well as one of 1, 5 and an amount of training data of 100 for the Gaussian method.
  • the newly proposed method achieves a significantly better value of the target function (FIG. 3). In this case too, the vertical spread of the values is significantly less than with the conventional CMA strategy.
  • the newly proposed method accelerates evolutionary CMA optimization. It is remarkable that the actual values of the target functions are not important for the progress of the optimization. Rather, the ranking of the individuals in the respective generation is important for the selection of the parents of the next generation.
  • the proposed method aims at the calculation of only the individuals actually considered as parents, so that the suitable ones can be selected as parents for the next generation.
  • the proposed method is applicable to target functions that require a medium to high calculation time. It is not limited to the case of a single objective function, but can also be applied to cases with multiple objective functions. Likewise, the method is not limited to the CMA algorithm, but can be applied to all types of evolutionary algorithms.

Abstract

Bei einem Verfahren zur evolutionären Optimierung, insbesondere von komplexen technischen Gegenständen wie z.B. Turbinenschaufeln oder dgl., werden aus den zu einer n-ten Generation von jeweils durch einen Parametersatz charakterisierten c Individuen in einem ersten Schritt p ≤ c im Hinblick auf die evolutionäre Optimierung am besten geeignete Individuen ausgewählt, und in einem zweiten Schritt werden die p ausgewählten Individuen als Eltern zur Erzeugung von Individuen einer nachfolgenden (n+1)-ten Generation verwendet, wobei zur Bestimmung der auf die evolutionäre Optimierung bezogenen Qualität der erzeugten Individuen die exakte Berechnung des Wertes wenigstens einer vom Parametersatz des jeweiligen Individuums abhängigen Zielfunktion (ZF) herangezogen wird. Bei einem solchen Verfahren kann die Rechenzeit massgeblich verkürzt werden, wenn im ersten Schritt anhand eines näherungsweise berechneten Vorhersagewertes ({ti}ci=1) für die Zielfunktion und einer zugehörigen, geschätzten Varianz ({σ2i}ci=1) für den Vorhersagewert aus der Menge der c Individuen eine Vorauswahl von x mit p ≤ x ≤ c als Eltern geeigneten Individuen vorgenommen wird, wenn für die x vorausgewählten Individuen der Wert der Zielfunktion (ZF) exakt berechnet wird, und wenn nach Massgabe der berechneten Werte der Zielfunktion (ZF) aus den x vorausgewählten Individuen die p < x Eltern für die nächste Generation ausgewählt werden.

Description

BESCHREIBUNG
VERFAHREN ZUR EVOLUTIONÄREN OPTIMIERUNG, INSBESONDERE VON
KOMPLEXEN TECHNISCHEN GEGENSTÄNDEN WIE Z.B.
TURBOMASCHINENSCHAUFELN ODER DGL.
TECHNISCHES GEBIET
Die vorliegende Erfindung bezieht sich auf das Gebiet der Technik der evolutionären Optimierung. Sie betrifft ein Verfahren der evolutionären Optimierung gemäss dem Oberbegriff des Anspruchs 1.
Ein solches Verfahren ist z.B. aus der Druckschrift EP-A1-1 205 877 bekannt.
STAND DER TECHNIK
In der Luftfahrttechnik bei der Entwicklung von Tragflächenprofilen oder in der Kraftwerkstechnik bei der Entwicklung von Turbinenschaufeln oder auf anderen technischen Gebieten werden seit längerem evolutionäre Optimierungsstrategien eingesetzt, um schrittweise zu einer nach bestimmten Kriterien und Randbedingungen optimierten Form oder Struktur z.B. einer Turbinenschaufel oder einer sonstigen technischen Einrichtung zu kommen.
Dabei wird der zu optimierende Gegenstand durch einen Satz von Parametern charakterisiert, der zu einer bestimmten Konfiguration des Gegenstands gehört und jeweils ein Individuum innerhalb einer Generation von Individuen mit abweichenden Parametersätzen bildet. Die Qualität oder „Fitness" eines Individuums wird durch Berechnung einer oder mehrerer Ziel- oder Fitnessfunktionen („objective functions) bewertet (single objective optimization oder multi-objective optimization).
Bei der evolutionären Optimierung werden schrittweise aus einer vorherigen Generation von Individuen nach bestimmten Regeln neue Individuen einer nächsten Generation erzeugt und durch Berechnung der Zielfunktion bewertet. Die im Sinne der Optimierung am besten geeigneten Individuen werden dann als „Eltern" zur Erzeugung einer neuen Generation verwendet, usw. Die so gebildete Folge von Generationen konvergiert nach einer endlichen Anzahl von Schritten zu einer optimierten Lösung, die durch einen optimierten Parametersatz beschrieben wird. Beispiele für derartige evolutionäre Optimierungsstrategien sind in den Druckschriften EP-A1-1 205863, EP-A1-1 205877 oder EP-A1-235 180 beschrieben.
Wie aus dem vorher Gesagten hervorgeht, ist eine evolutionäre Optimierungsstrategie mit einem erheblichen Rechenaufwand und einer erheblichen Rechenzeit verbunden, wenn für jedes Individuum einer Generation die Werte von einer oder sogar mehreren Ziel- oder Fitnessfunktionen berechnet werden müssen, um die als Eltern für die nächste Generation am besten geeigneten Individuen herauszufiltem.
Es ist deshalb in der eingangs genannten EP-A1-1 205 877 bereits vorgeschlagen worden, für die Zielfunktionen anstelle der exakten Berechnung Approximationsmodelle einzusetzen, wie z.B. „Response Surface" Techniken, das sogenannte „Kriging-Modell" oder neuronale Netzwerke, die unter Ausnutzung bereits vorhandener exakter Berechnungen der Zielfunktionen neue Werte der Zielfunktion mit deutlich weniger Rechenaufwand approximativ bestimmen. In der EP-A1-1 205 877 wird zur Reduzierung des Rechenaufwandes wahlweise zur Berechnung der Fitness-Werte eine echte Ziel- oder Fitnessfunktion oder eine approximierte Ziel- oder Fitnessfunktion eingesetzt.
Auch ist vorgeschlagen worden (Emmerich M. et al., Metamodel-Assisted Evolution Strategies, in J.J. Merelo Guervόs (Eds.): PPSN VII, LNCS 2439 pp. 361-370, Springer-Verlag Berlin Heidelberg (2002)), den Rechenaufwand der Optimierungsprobleme durch Metamodell-unterstützte evolutionäre Strategien zu verringern. Am Beispiel der Optimierung eines Tragflächenprofils wird gezeigt, dass sich im Vergleich zu herkömmlichen evolutionären Strategien (ES) Rechenzeit einsparen lässt, wenn mit Hilfe eines Metamodells nicht nur die Fitness-Werte der neu erzeugten Individuen einer Generation vorhergesagt werden, sondern auch der mit dieser Vorhersage verbundene Fehler abgeschätzt wird. Die Vorhersage der Fitness- oder Zielfunktionswerte trägt dabei überwiegend zur Reduktion der Rechenzeit bei, während die Fehlerabschätzung zur Steigerung der globalen Konvergenz-Zuverlässigkeit verhilft.
Schliesslich ist es bekannt (El-Beltagy M.A. et al., Evolutionary Optimization for Computationally expensive Problems using Gaussian Processes, Proc. Int. Conf. On Artificial Intelligence IC-AI'2001, pp. 708-714, CSREA Press, Las Vegas (2001)), bei der evolutionären Optimierung z.B. des Auslegers eines Satelliten eine Fehlerabschätzung heranzuziehen, um zu entscheiden, ob die Zielfunktion exakt berechnet werden muss oder vorhergesagt werden kann.
DARSTELLUNG DER ERFINDUNG
Es ist Aufgabe der Erfindung, ein Verfahren zur evolutionären Optimierung von technischen Gegenständen wie z.B. Tragflächen oder Turbomaschinenschaufeln anzugeben, welches sich bei guter Effektivität gegenüber bekannten Verfahren durch eine erhebliche Reduktion der benötigten Rechenzeit auszeichnet.
Die Aufgabe wird durch die Gesamtheit der Merkmale des Anspruchs 1 gelöst. Der Kern der Erfindung besteht darin, dass zur Einsparung von Rechenzeit im ersten Schritt anhand eines näherungsweise berechneten Vorhersagewertes für die Zielfunktion und einer zugehörigen, geschätzten Varianz für den Vorhersagewert aus der Menge der c Individuen einer Generation eine Vorauswahl von x mit p < x < c als Eltern geeigneten Individuen vorgenommen wird, dass für die x vorausgewählten Individuen der Wert der Zielfunktion (ZF) exakt berechnet wird, und dass nach Massgabe der berechneten Werte der Zielfunktion (ZF) aus den x vorausgewählten Individuen die p < x Eltern für die nächste Generation ausgewählt werden. Durch die Vorauswahl kann die Anzahl der exakten Berechnungen der Zielfunktion und damit die gesamte aufgewendete Rechenzeit deutlich verringert werden, ohne Einbussen bei der Effektivität der Optimierung zu erleiden.
Gemäss einer ersten bevorzugten Ausgestaltung der Erfindung wird für die Berechnung der Erwartungswerte und Varianzen der Zielfunktion ein Gausssches Verfahren (Gaussian Process) angewendet, wobei insbesondere das Gausssche Verfahren zunächst unter Verwendung einer vorgegeben Anzahl von exakten Berechnungen der Zielfunktion (ZF) trainiert wird.
Grundsätzlich können im Rahmen der Erfindung alle Arten von evolutionären Algorithmen eingesetzt werden. Gemäss einer bevorzugten Ausgestaltung der Erfindung wird jedoch als evolutionärer Algorithmus ein CMA-Algorithmus verwendet (CMA = Covariance Matrix Adaptation).
Eine andere bevorzugte Ausgestaltung der Erfindung zeichnet sich dadurch aus, dass im ersten Schritt anhand der Erwartungswerte der Zielfunktion zunächst p geeignete Individuen als Eltern ausgewählt werden, welche eine Menge D bilden, dass mit Hilfe der Varianzen aller p ausgewählten Individuen ein Grenzwert b gemäss folgender Gleichung
Figure imgf000007_0001
definiert wird, wobei α ein gewählter Koeffizient ist, und dass zusätzlich x-p Individuen aus der Restmenge ausgewählt und zu den p Individuen zugefügt werden, welche das Kriterium
Figure imgf000007_0002
erfüllen.
KURZE ERLÄUTERUNG DER FIGUREN
Die Erfindung soll nachfolgend anhand von Ausführungsbeispielen im Zusammenhang mit der Zeichnung näher erläutert werden. Es zeigen
Fig. 1 eine schematisierte Darstellung zum Vorgehen bei der Auswahl der möglichen Eltern bei der Methode gemäss der Erfindung, wobei jedem Individuum ein vorhergesagter Wert der Zielfunktion ZF zugeordnet wird;
Fig. 2 einen Vergleich zwischen den Optimierungsergebnissen für ein
Kompressorschaufelprofil mit herkömmlichem CMA-Algorithmus (Dreiecke) und einer Methode gemäss der Erfindung unter Anwendung eines Gaussschen Verfahrens (Rechtecke); und
Fig. 3 einen Vergleich zwischen den Optimierungsergebnissen für den
Läufer einer hydraulischen Turbine mit herkömmlichem CMA- Algorithmus (Dreiecke) und einer Methode gemäss der Erfindung unter Anwendung eines Gaussschen Verfahrens (Rechtecke). WEGE ZUR AUSFÜHRUNG DER ERFINDUNG
Für die nachfolgend erläuterten Ausführungsbeispiele der Erfindung wird als evolutionärer Algorithmus der sogenannte CMA-Algorithmus (CMA = Covariance Matrix Adaptation) eingesetzt; selbstverständlich sind im Rahmen der Erfindung auch andere bekannte evolutionäre Algorithmen denkbar. Der CMA-Algorithmus ist beispielsweise in einem Artikel von N. Hansen und A. Ostermeier, Completely Derandomized Self-adaptation in Evolution Strategies, Evolutionary Computation 9(2), S. 159-195 (2001), beschrieben. Der CMA-Algorithmus umfasst in einer mehrfach durchlaufenen Schleife die folgenden hauptsächlichen Schritte:
1. Bestimmung der Zielfunktion („objective function") für die vorliegende Generation von Individuen.
2. Auswahl der Eltern für die nächste Generation.
3. Vereinigung („recombination") der ausgewählten Eltern
4. Mutation zur Erzeugung der Individuen der nächsten Generation, dann zurück zum Schritt 1.
Der CMA-Algorithmus arbeitet mit einer kleinen Zahl von Individuen pro Generation und passt die Stärke der Mutation für jeden Parameter des Individuums nach Massgabe des vorangegangenen Optimierungsverlaufs (Evolutionspfades) an. Der CMA-Algorithmus ist in der Vergangenheit bereits mehrfach zur Lösung von technischen Problemstellungen eingesetzt worden. Zwei dieser Anwendungen sollen bei den nachfolgenden Erläuterungen als Referenz herangezogen werden. Die eine Anwendung beschäftigt sich mit der Optimierung von Kompressorschaufeln (Buche D. et al., Automated Design Optimization of Compressor Blades for Stationary, Large Scale Turbomachinery, Proc. of IGT03, ASME Turbo Expo 2003, Atlanta (2003)). Die andere Anwendung ist ein automatisierter Entwurf von Läufern für hydraulische Turbinen (Thomas L. et al., Automated Design of a Francis Turbine Runner Using Global Optimization Algorithms, Proc. of the Hydraulic Machinery and Systems, 21 st IAHR Symposium, Lausanne (2002)). Die beim nachfolgenden Ausführuπgsbeispiel eine wichtige Rolle spielenden Gaussschen Verfahren, die auch als Kriging- oder stochastische Verfahren bezeichnet werden, sind in breitem Umfang bei Anwendern der räumlichen Statistik als Interpolationsmethode für verschiedene Datensätze benutzt worden. Eine Beschreibung der Gaussschen Verfahren findet sich beispielsweise in der Veröffentlichung von Gibbs M. und MacKay D., Efficient Implementation of Gaussian Processes, Cavendish Laboratory (1997). Erst vor kurzem sind die Gaussschen Verfahren als Antwortflächen („response surfaces") für Anwendungen von Optimierungsalgorithmen vorgeschlagen worden (siehe die eingangs genannten Artikel von Emmerich M. et al. und El-Beltagy M.A. et al.).
Einige der Vorteile der Gaussschen Verfahren sind:
• Die Vorhersage besteht aus einer Gaussschen Verteilung für jeden betrachteten Punkt. Das Ergebnis liegt in Form eines Mittelwertes und einer Varianz vor. Die Vorhersage der Varianz ist von grossem Interesse für eine Interpolationsmethode, da sie die Genauigkeit der Interpolation an der ausgewählten Stelle repräsentiert.
• Die Anzahl der Parameter des Modells ist vergleichsweise gering, so dass Probleme der Überbestimmung vermieden werden.
• Ein Rausch-Modell kann in die Formulierung eingebaut werden, so dass verrauschte Daten verarbeitet werden können. Dies kann von Bedeutung sein, wenn Daten aus iterativen Lösungsverfahren wie z.B. Lösungsverfahren zur Flüssigkeitsströmung verwendet werden.
Damit ein evolutionärer Optimierungsalgorithmus effizient ist, muss er sowohl den funktionellen Raum erkunden als auch Verbesserungen in der Zielfunktion feststellen. Beim CMA-Algorithmus wird das Erkundungsverhalten durch Einsatz von Rekombinations- und Mutationsoperatoren erreicht, und die Verbesserungen in der Zielfunktion werden durch eine Kombination eines Evaluations- und Selektionsoperators festgestellt. Für ingenieursmässige Anwendungen sind die Kosten der evolutionären Operatoren vernachlässigbar. Ein entscheidender Vorteil kann jedoch durch Verfahren erreicht werden, bei denen Bestimmungen der Zielfunktion eingespart werden.
Verfahren, die Antwortflächen („response surfaces" RS) einsetzen, haben genau dies zum Ziel. Sie ersetzen die exakte Berechnung der aufwändigen Zielfunktionen durch die (einfachere) Berechnung einer Näherung. Bei herkömmlichen RS-Verfahren ist die Genauigkeit der Vorhersagen nicht garantiert und es wird daher eine Bestätigung mittels exakter Berechnungen der Zielfunktion benötigt (siehe Jin Y. et al., Managing Approximate Models in Evolutionary Design Optimization, Honda R&D Europe (Deutschland) GmbH). Durch die Verwendung von Gaussschen Verfahren als Antwortflächen wird eine Genauigkeitsabschätzung Teil der Vorhersage. Man kann damit rational entscheiden, ob eine exakte Berechnung der Zielfunktion notwendig ist oder nicht und auf diese Weise erhebliche Rechenzeit einsparen. Dieses Konzept ist ein zentraler Bestandteil der vorliegenden Erfindung.
Ausgehend von der Darstellung in der o.g. Veröffentlichung von Gibbs und MacKay können die Gaussschen Verfahren wie folgt formuliert werden:
Für einen Satz Trainingsdaten von N Punkten
Figure imgf000010_0001
, bei denen x; ein L- dimensionaler Vektor und ein Satz von Hyperparametem θi, θ2, θ3 und {r,}^ ist, kann man die folgende auf einer Gaussschen Korrelation und einem Eingangsunabhängigen Rauschen basierende Kovarianzfunktion definieren:
Figure imgf000010_0002
Die Kovariaπzmatrix C ist definiert als N-dimensionale Quadratische Matrix, deren Elemente C(Xm,xn) sind. Die Vorhersagen tN+1 des Ergebnisses und die Varianz σf nach der Methode der Gaussschen Verfahren bei einem neuen Ort xN+1 können durch die nachfolgenden Beziehungen erhalten werden:
Figure imgf000011_0001
Figure imgf000011_0002
(4) (k^ ^ Cfx^.Xj)
(5) Ä), = tI
(6) = θ1 +θ2 +θ3.
Die Hyperparameter θi, θ2, Θ3 und {r,}^ des Gaussschen Verfahrensmodells werden durch ein Training aufgrund des Datensatzes erhalten. Dabei wird das Kriterium der maximalen logarithmischen Wahrscheinlichkeit angewendet. Die logarithmische Wahrscheinlichkeit ist:
(7) L = -l|og(det(CN))- tN τ -CN - tN -^log(2π).
Optimierungen werden durchgeführt, um den besten Satz von Hyperparametern für das Modell zu finden. Wenn Daten aus exakten Berechnungen zu dem Satz von Trainingsdaten zugefügt werden, kann die Optimierung unter Einsatz eines Gradienten oder eines evolutionären Algorithmus durchgeführt werden. Die Häufigkeit, mit der der evolutionäre Algorithmus aufgerufen wird, kann durch den Anwender bestimmt werden. In den hier beschriebenen Anwendungen wird der evolutionäre Algorithmus jeweils nach 5-10 Malen aufgerufen. Gemäss der vorliegenden Erfindung wird nun ein neuartiger modifizierter CMA- Algorithmus mit der nachfolgenden Schrittfolge vorgeschlagen:
1. Training eines Gaussschen Verfahrens unter Verwendung der letzten n exakten Berechnungen (s.o.). Die Eingangsvariablen sind die Designvariablen, das Ergebnis ist die Zielfunktion.
2. Bestimmung der aktuellen Generation von Individuen mittels des Gaussschen Verfahrens (s.o.).
3. Identifizierung der möglichen besten Eltern für die nächste Generation.
4. Exakte Berechnung der möglichen besten Eltern.
5. Auswahl der endgültigen Eltern aus den möglichen besten Eltern.
6. Vereinigung (Rekombination) der Eltern (wie beim originalen CMA- Verfahren).
7. Mutation (wie beim originalen CMA-Verfahren).
Gegenüber dem herkömmlichen CMA-Verfahren sind die Abschnitte der Sektion und Berechnung verändert. Diese Veränderungen haben zur Folge, dass nur die Individuen, die als Elternkandidaten für die nächste Generation in Frage kommen, tatsächlich exakt berechnet werden. Somit kann - wenn die exakte Berechnung sehr zeitaufwändig ist - erhebliche Rechenzeit eingespart werden.
Ein wesentlicher Punkt des vorgeschlagenen neuen Algorithmus ist die Bestimmung bzw. Auswahl der Individuen, die exakt berechnet werden sollen. Das Verfahren dazu benutzt sowohl die Vorhersage als auch die Varianzwerte des Gaussschen Verfahrens. Nachfolgend wird beispielsweise die Minimierung einer Zielfunktion mit einer evolutionären Strategie mit p Eltern und c Kindern betrachtet. Die Anwendung des Gaussschen Verfahrens führt zu c Vorhersagewerten und
Varianzen {t,;σ,2}^ . Um die Elternkandidaten für die nächste Generation auszuwählen, werden die folgenden Schritte durchgeführt (siehe Fig. 1 ; p ist gleich 4; c ist gleich 10):
1. Es werden die p besten Vorhersagewerte der gegenwärtigen Population ausgewählt. Das Ensemble(die Menge) dieser ausgewählten Vorhersagewerte wird mit D bezeichnet (in Fig. 1 sind dies die Individuen P1....P4).
2. Es wird mit Hilfe der Varianzen aller Individuen des Ensembles D ein Grenzwert b (strichpunktierte Gerade in Fig. 1 ) gemäss folgender Gleichung definiert:
(8) b = max{tl + α-Λ/σfiD .
3. Es werden zusätzlich diejenigen Individuen aus der Restmenge ausgewählt (in Fig. 1 sind dies die Individuen P', P" und P"), welche das folgende Kriterium erfüllen:
Figure imgf000013_0001
Die Auswahl der Elternkandidaten erfolgt demnach in zwei Phasen: Beim Schritt 1 werde diejenigen (p) Individuen ausgewählt, die nach den Vorhersagewerten aus dem Gaussschen Verfahren Eltern für die nächste Generation sein würden. Bei den Schritten 2 und 3 werden auf der Grundlage der Vorhersagewerte und Varianzen aus dem Gaussschen Verfahren Fehlerbalken generiert. Individuen, die noch nicht ausgewählt worden sind, deren Fehlerbalken aber diejenigen der im Schritt 1 ausgewählten Individuen überlappen (P\ P" und P"' in Fig. 1), werden zusätzlich ausgewählt, weil sie möglicherweise besser sein können, als andere bereits ausgewählte Individuen. Der Koeffizient α steuert dabei die Anzahl der Individuen, die in der zweiten Phase zusätzlich ausgewählt werden. Der optimale Wert von α wird empirisch und mit der Kenntnis ermittelt, dass das exakte Ergebnis lokal einer Gaussschen Verteilung N der vorhersagten Werte und Varianzen folgen sollte. Mit den zusätzlich ausgewählten Individuen ergeben sich insgesamt x > p als mögliche Eltern ausgewählte Individuen (in Fig. 1 ist x = 4+3 = 7). Für die x vorausgewählten Individuen wird dann die Zielfunktion exakt berechnet. Anhand der exakt berechneten Werte der Zielfunktion werden dann die endgültigen p Individuen als Eltern für die nächste Generation ausgewählt
Die vorgeschlagene Methode ist auf zwei Konstruktionsprobleme angewandt worden, die für die Industrie von Interesse sind. Das eine Problem befasst sich mit dem Profilabschnitt der Kompressorschaufel einer Gasturbine, wie es in dem weiter oben zitierten Artikel von Buche D. et al. beschrieben ist. Zur Reduzierung der Komplexität der Optimierung wird nur ein einziger Profilabschnitt im Hinblick auf die Strömungsbedingungen betrachtet. 16 Parameter sind frei variierbar und steuern die Geometrie des Profils. Zur Lösung wird ein Schaufel-zu-Schaufel- Strömungscode eingesetzt, der unter der Bezeichnung MISES bekannt ist (siehe auch: A User's Guide to MISES 2.1 - Technical Report MIT (1995)). Die Komponenten der zu minimierenden Zielfunktion sind:
• Ein Koeffizient des Strömungsverlustes,
• ein Malus („penalty term"), das auf dem Dickenverhältnis hinsichtlich der Schaufelsehne beruht, und
• ein Malus, das auf dem gewünschten Strömungsaustrittswinkel beruht.
Der evolutionäre CMA-Algorithmus wird mit 2 Kindern und 10 Eltern als Randbedingung verwendet. In Fig. 2 ist die Wirksamkeit des CMA-Verfahrens mit der Wirksamkeit der hier neu vorgeschlagenen Methode verglichen. Für die letztgenannte Methode wird ein Koeffizient α von 1 ,5 angenommen und ein Umfang der Trainingsdaten für das Gausssche Verfahren von 100.
Nach 1000 Generationen bzw. „solver calls" wird eindeutig eine bessere Zielfunktion für die neu vorgeschlagene Methode erreicht als für die bisherige CMA-Strategie. Obwohl über eine Verbesserung der Effektivität erst nach noch mehr Generationen Aussagen gemacht werden können, ist klar erkennbar, dass die vertikale Streuung der Werte bei der neu vorgeschlagenen Methode deutlich geringer ist. Die Werte der Zielfunktion sind auf ein schmales, zur Konvergenz führendes Band beschränkt, was in Einklang mit den Ideen der vorgeschlagenen Methode ist.
Das andere Problem befasst sich mit dem Läufer einer hydraulischen Turbine, wie es im oben zitierten Artikel von Thomas L. et al. beschrieben ist. Es wird dieselbe Zielfunktion verwendet. Die 35 Parameter, welche die Gestaltung der Läufergeometrie steuern, werden als frei variierbar angesetzt. Auch hier werden 2 Kinder und 10 Eltern für den evolutionären CMA-Algorithmus genommen, sowie ein von 1 ,5 und ein Umfang an Trainingsdaten von 100 für das Gausssche Verfahren angesetzt. Nach 1500 Durchgängen bzw. „solver calls" wird mit der neu vorgeschlagenen Methode ein deutlich besserer Wert der Zielfunktion erreicht (Fig. 3). Auch in diesem Fall ist die vertikale Streuung der Werte deutlich geringer als bei der herkömmlichen CMA-Strategie.
Insgesamt wird mit der neu vorgeschlagenen Methode eine Beschleunigung der evolutionären CMA-Optimierung erreicht. Bemerkenswert ist dabei, dass für den Fortschritt der Optimierung nicht die tatsächlichen Werte der Zielfunktionen von Bedeutung sind. Vielmehr ist die Rangordnung der Individuen in der jeweiligen Generation für die Auswahl der Eltern der nächsten Generation wichtig. Die vorgeschlagene Methode zielt auf die Berechnung nur der tatsächlich als Eltern in Frage kommenden Individuen ab, so dass die geeigneten daraus als Eltern für die nächste Generation ausgewählt werden können.
Dieser Lösungsweg ist sehr effektiv. Für analytische Testfunktionen kann die Anzahl der notwendigen exakten Berechnungen um 50-70% reduziert werden. Für realistische ingenieursmässige Probleme mit einigem Rauschen in den Trainingsdaten des Gaussschen Verfahrens kann eine Reduktion von 40-60% erwartet werden.
Die vorgeschlagene Methode ist auf Zielfunktionen anwendbar, die eine mittlere bis hohe Berechnungsdauer erfordern. Sie ist nicht auf den Fall einer einzelnen Zielfunktion beschränkt, sondern kann auch auf Fälle mit mehreren Zielfunktionen angewandt werden. Desgleichen ist die Methode nicht auf den CMA-Algorithmus beschränkt, sondern lässt sich auf alle Arten von evolutionären Algorithmen anwenden.

Claims

PATENTANSPRÜCHE
1. Verfahren zur evolutionären Optimierung, insbesondere von komplexen technischen Gegenständen wie z.B. Turbomaschinenschaufeln oder dgl., bei welchem Verfahren aus den zu einer n-ten Generation von jeweils durch einen Parametersatz charakterisierten c Individuen in einem ersten Schritt p < c im Hinblick auf die evolutionäre Optimierung am besten geeignete Individuen ausgewählt werden, und in einem zweiten Schritt die p ausgewählten Individuen als Eltern zur Erzeugung von Individuen einer nachfolgenden (n+1)-ten Generation verwendet werden, wobei zur Bestimmung der auf die evolutionäre Optimierung bezogenen Qualität der erzeugten Individuen die exakte Berechnung des Wertes wenigstens einer vom Parametersatz des jeweiligen Individuums abhängigen Zielfunktion (ZF) herangezogen wird, dadurch gekennzeichnet, dass zur Einsparung von Rechenzeit im ersten Schritt anhand eines näherungsweise berechneten Vorhersagewertes ({t °=1) für die Zielfunktion und einer zugehörigen, geschätzten Varianz ({σ,2}^ ) für den Vorhersagewert aus der Menge der c
Individuen eine Vorauswahl von x mit p x ≤ c als Eltern geeigneten Individuen vorgenommen wird, dass für die x vorausgewählten Individuen der Wert der Zielfunktion (ZF) exakt berechnet wird, und dass nach Massgabe der berechneten Werte der Zielfunktion (ZF) aus den x vorausgewählten Individuen die p < x Eltern für die nächste Generation ausgewählt werden.
2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass für die Berechnung der Erwartungswerte und Varianzen der Zielfunktion ein Gausssches Verfahren angewendet wird.
3. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass das Gausssche Verfahren zunächst unter Verwendung einer vorgegebenen Anzahl von exakten Berechnungen der Zielfunktion (ZF) trainiert wird.
4. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass als evolutionärer Algorithmus ein CMA-Algorithmus verwendet wird (CMA = Covariance Matrix Adaptation).
5. Verfahren nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, dass im ersten Schritt anhand der Erwartungswerte und Varianzen der Zielfunktion (ZF) zunächst p als Eltern geeignete Individuen ausgewählt werden, welche eine Menge D bilden, dass mit Hilfe der Varianzen aller p ausgewählten Individuen ein Grenzwert b gemäss folgender Gleichung
Figure imgf000017_0001
definiert wird, wobei α ein gewählter Koeffizient ist, und dass zusätzlich x-p Individuen aus der Restmenge ausgewählt und zu den p Individuen zugefügt werden, welche das Kriterium t-o-^F < b erfüllen.
PCT/EP2004/050987 2003-06-05 2004-06-02 Verfahren zur evolutionären optimierung, insbesondere von komplexen technischen gegenständen wie z.b. turbomaschinenschaufeln oder dgl WO2004109593A2 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US47577103P 2003-06-05 2003-06-05
US60/475,771 2003-06-05

Publications (2)

Publication Number Publication Date
WO2004109593A2 true WO2004109593A2 (de) 2004-12-16
WO2004109593A3 WO2004109593A3 (de) 2005-03-24

Family

ID=33490755

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2004/050987 WO2004109593A2 (de) 2003-06-05 2004-06-02 Verfahren zur evolutionären optimierung, insbesondere von komplexen technischen gegenständen wie z.b. turbomaschinenschaufeln oder dgl

Country Status (2)

Country Link
DE (1) DE10342505A1 (de)
WO (1) WO2004109593A2 (de)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113486553A (zh) * 2021-07-02 2021-10-08 浙江大学 基于泰森多边形区域划分的复杂装备可靠性分析方法
CN114997073A (zh) * 2022-07-29 2022-09-02 浙江大学 冲击式水轮机喷嘴结构参数优化方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1186747A2 (de) * 2000-09-05 2002-03-13 Honda Giken Kogyo Kabushiki Kaisha Automatische Entwurfsmethode für Schaufelformen
EP1205877A1 (de) * 2000-11-14 2002-05-15 Honda R&D Europe (Deutschland) GmbH Approximative Angepasstheitsfunktionen

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4697242A (en) * 1984-06-11 1987-09-29 Holland John H Adaptive computing system capable of learning and discovery
US4935877A (en) * 1988-05-20 1990-06-19 Koza John R Non-linear genetic algorithms for solving problems

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1186747A2 (de) * 2000-09-05 2002-03-13 Honda Giken Kogyo Kabushiki Kaisha Automatische Entwurfsmethode für Schaufelformen
EP1205877A1 (de) * 2000-11-14 2002-05-15 Honda R&D Europe (Deutschland) GmbH Approximative Angepasstheitsfunktionen

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
THOMAS L. ET AL.: "Automated Design of a Francis Turbine Runner Using Global Optimization Algorithms" PROCEEDINGS OF THE 21ST IAHR SYMPOSIUM ON HYDRAULIC MACHINERY AND SYSTEMS, 9. September 2002 (2002-09-09), XP008039540 LAUSANNE in der Anmeldung erw{hnt *
YAOCHU JIN ET AL: "Managing approximate models in evolutionary aerodynamic design optimization" PROCEEDINGS OF THE 2001 CONGRESS ON EVOLUTIONARY COMPUTATION, Bd. 1, 27. Mai 2001 (2001-05-27), Seiten 592-599, XP010551852 PISCATAWAY, NJ, USA *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113486553A (zh) * 2021-07-02 2021-10-08 浙江大学 基于泰森多边形区域划分的复杂装备可靠性分析方法
CN114997073A (zh) * 2022-07-29 2022-09-02 浙江大学 冲击式水轮机喷嘴结构参数优化方法及系统

Also Published As

Publication number Publication date
DE10342505A1 (de) 2004-12-23
WO2004109593A3 (de) 2005-03-24

Similar Documents

Publication Publication Date Title
EP2296062B1 (de) Verfahren zum rechnergestützten Lernen einer Steuerung und/oder Regelung eines technischen Systems
EP2112569B1 (de) Verfahren zum rechnergestützten Lernen einer Steuerung und/oder Regelung eines technischen Systems
EP2185980B1 (de) Verfahren zur rechnergestützten steuerung und/oder regelung mit hilfe neuronaler netze
EP2112568B1 (de) Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems
EP2519861B1 (de) Verfahren zur rechnergestützten steuerung und/oder regelung eines technischen systems
EP2649567B1 (de) Verfahren zur rechnergestützten modellierung eines technischen systems
DE102016011525B4 (de) Vorrichtung für maschinelles Lernen und Spulen-Produktionsvorrichtung
DE102005062838A1 (de) Verfahren und Vorrichtung zur Auswertung einer vorgeschlagenen Lösung zu einem Randwertproblem
DE102018109835A1 (de) Verfahren und Vorrichtung zum Ermitteln einer Netzkonfiguration eines neuronalen Netzes
EP2880499B1 (de) Verfahren zur rechnergestützten steuerung und/oder regelung eines technischen systems
EP2999998A1 (de) Methode zur ermittlung eines modells einer ausgangsgrösse eines technischen systems
WO2004109593A2 (de) Verfahren zur evolutionären optimierung, insbesondere von komplexen technischen gegenständen wie z.b. turbomaschinenschaufeln oder dgl
DE102020207792A1 (de) Training eines künstlichen neuronalen Netzwerkes, künstliches neuronales Netzwerk, Verwendung, Computerprogramm, Speichermedium und Vorrichtung
DE102020213888A1 (de) Computerimplementiertes Verfahren zum Bestimmen von Kritikalitätswerten eines technischen Systems
DE10222700A1 (de) Optimierungsverfahren mit validierten Approximationsmodellen
DE10222699A1 (de) Regelbasiertes Optimierungsverfahren
DE60027911T2 (de) Verfahren und vorrichtung zur netzwerk folgerung
WO2005086040A2 (de) Verfahren zur optimierung der geometrie von strömungskanälen
DE60309298T2 (de) Verfahren und anordnung zur automatischen einstellung von einrichtungen mit einstellelementen und entsprechendes computerprogrammprodukt und entsprechendes computerlesbares speichermedium
DE102022112912A1 (de) Vorrichtung und Verfahren zur rechnergestützen Optimierung einer Gebäude- und Anlageninfrastruktur
EP1199617B1 (de) Verfahren zur Herstellung eines Geräts
WO2002010950A2 (de) Verfahren zur bewertung von mit charakteristischen merkmalen behafteten prozessen
WO1998026335A1 (de) Verfahren zur automatischen einstellung eines pid-reglers, der eine lineare regelstrecke steuert, unter verwendung des bode-diagramms des regelkreises
DE19811490C2 (de) Verfahren zur Erstellung eines regelbasierten Fuzzy-Systems mit vorgegebenem Übertragungsverhalten
EP3961517A1 (de) Verfahren und ein system zum erstellen einer industriellen lösung mit einer künstlichen intelligenz

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A2

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BW BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE EG ES FI GB GD GE GH GM HR HU ID IL IN IS JP KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NA NI NO NZ OM PG PH PL PT RO RU SC SD SE SG SK SL SY TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A2

Designated state(s): GM KE LS MW MZ NA SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PL PT RO SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
122 Ep: pct application non-entry in european phase