JP2004030413A

JP2004030413A - Optimization processing apparatus

Info

Publication number: JP2004030413A
Application number: JP2002188146A
Authority: JP
Inventors: Toue Adachi; 安達　統衞
Original assignee: Fujitsu Ltd
Current assignee: Fujitsu Ltd
Priority date: 2002-06-27
Filing date: 2002-06-27
Publication date: 2004-01-29

Abstract

<P>PROBLEM TO BE SOLVED: To provide an optimization processing apparatus in which calculation costs are reduced by a double stage processing configuration consisting of a method for finding particularly an initial solution at high speed and a genetic algorithm for finding a Pareto optimal solution in the optimization processing apparatus for processing an optimization problem having a plurality of purposes. <P>SOLUTION: The optimization processing apparatus for processing a problem which can be formulated as an optimization question having a plurality of purposes is composed of: an initial Pareto solution search part for searching the initial Pareto solution by the method for finding the initial solution at high speed; a Pareto solution set search part for searching a Pareto optimal solution set by using the genetic algorithm method while using the searched initial Pareto solution; and a control part for outputting the searched Pareto optimal solution set while controlling the initial Pareto solution search part and the Pareto solution set search part when the problem is inputted. <P>COPYRIGHT: (C)2004,JPO

Description

【０００１】
【発明の属する技術分野】
本発明は複数の目的を持つ最適化問題を処理する最適化処理装置に関し、特にスケジューリングや工程管理等の多目的問題を遺伝的アルゴリズム（ＧＡ；　Ｇｅｎｅｔｉｃ　Ａｌｇｏｒｉｔｈｍ）を用いて効率的に処理する最適化処理装置に関するものである。
【０００２】
【従来の技術】
複数の目的を持つ最適化問題は多目的問題と呼ばれ、その解法は通常パレート最適解集合を探索する。パレート解集合は複数個のパレート解の集まりであり、１つの解を求める解法と比べて一般に計算コスト（計算時間）が大きくなる。
【０００３】
問題固有知識（ヒューリスティックス）等の効率的な探索を実現するのに助けとなる適切な手段の無いような難しい問題では現時点の解から改善された解を探すということを繰り返す手法がしばしば用いられる。そのような手法として、例えば遺伝的アルゴリズム（ＧＡ）が用いられる。遺伝的アルゴリズムは、探索空間が大きく制約条件が多くて線形計画法などの従来手法では困難な問題、探索空間の勾配情報や連続性などを仮定できない問題、さらには組み合わせが多すぎてその処理が困難な問題、等に適用される。
【０００４】
図１には、従来手法による２目的最小化問題の一例を模式的に示している。
図１において、２目的最小化問題の各目的関数値をｘ、ｙ軸にとり、その組み合わせが１つの解を示す。ここでは、ある初期解集合（折れ線で結んで表示）から出発してその解集合（同様に、折れ線で結んで表示）を少しずつ改善していく様子を示している。この場合、図中の矢印（時間ｔ）で示すように右上方のパレート解集合が徐々に改善されていき、最終的には左下方のパレート解集合に至るように探索していく。
【０００５】
図２は、図１の２目的最小化問題に遺伝的アルゴリズム（ＧＡ）を用いた場合の解集合の探索例を示したものである。
図２の（ａ）には複数個の解を白丸で示しており、その内の２つ（黒丸で示す）をランダムに選択する。図２の（ｂ）には、このように選択した解（親個体）から交叉や変異などの遺伝子操作により生成された解（子個体）について、所定の制御可能性を評価して残った子集団を示している（複数の黒丸で示す）。図２の（ｃ）では残った子個体と元の解（（ａ）に示された解）とを合せた集合に対して非パレート解淘汰を施すことにより新たな解集合に更新する（複数の白丸で示す）。非パレート解淘汰とは、他の解に優越されてしまう解を淘汰（消去）することを示す。
【０００６】
【発明が解決しようとする課題】
上記では２目的問題の簡単な例を示したが、多数のパレート解を扱わなければならない多目的問題では、扱うパレート解の個数が多くなるほどその計算コストは増大する。前述した遺伝的アルゴリズム（ＧＡ）は、パレート解集合をＧＡ集団の中に含ませることでパレート解集合を１回の試行で得ることができる特長を有している。
【０００７】
しかしながら、遺伝的アルゴリズムのように効率的に解集合を扱うことのできる手法であっても多目的問題に対しては計算コストが急激に増大し、その探索速度の向上が問題となってきている。
【０００８】
そこで本発明の目的は、上記問題点に鑑み、多目的最適化問題の最適解集合を求める最適化処理装置において、最終的なパレート最適解集合に近くなる段階までは計算コストが少ない手法を用い、その後の最終段階におけるパレート最適解集合を求める探索には本来のパレート解探索手段を用いる２段階の処理構成とすることで、多目的最適化問題における探索処理の高速化を実現した最適化処理装置を提供することにある。
【０００９】
【課題を解決するための手段】
本発明によれば、複数の目的を持つ最適化問題として定式化できる問題を処理する最適化処理装置であって、初期解を高速に求める手法により、初期パレート解を探索する初期パレート解探索部と、遺伝的アルゴリズム手法により、探索された前記初期パレート解を用いてパレート最適解集合を探索するパレート解集合探索部と、前記問題が入力されると前記初期パレート解探索部及び前記パレート解集合探索部の各々を制御して、探索された前記パレート最適解集合を出力する制御部と、により構成する最適化処理装置が提供される。
【００１０】
前記初期パレート解探索部は、前記初期解を高速に求める手法として焼きなまし手法を用いる。また、前記焼きなまし手法を複数回実行して初期解を複数個生成し、それらの集合を前記初期パレート解としてもよい。さらに、前記初期解を高速に求める手法として集団サイズを制限した遺伝的アルゴリズム手法を用いてもよい。
【００１１】
また、本発明によれば、複数の目的を持つ最適化問題として定式化できる問題を処理する最適化処理機能であって、初期解を高速に求める手法により、初期パレート解を探索する初期パレート解探機能と、遺伝的アルゴリズム手法により、探索された前記初期パレート解を用いてパレート最適解集合を探索するパレート解集合探索機能と、前記問題が入力されると前記初期パレート解探索機能び前記パレート解集合探索機能の各々を制御して、探索された前記パレート最適解集合を出力する制御機能と、によってコンピュータを作動させるプログラムを記録したコンピュータ読み取り可能な記録媒体が提供される。
【００１２】
【発明の実施の形態】
図３は、本発明の最適化処理装置において、多目的問題の最適解集合を求めるための原理手法を模式的にあらわしたものである。
本発明では、多目的最適化問題に対し、前段階（時間ｔ_１）では最終的なパレート最適解集合に近くなるまで計算コストが少ない手法（１点探索の手法等）を用い、それに続く後段階（時間ｔ_２）では本来のパレート解探索手法を用いて最適解集合を探索する。
【００１３】
図１及び２で説明したように、パレート解集合を改善することを繰り返して探索を進める遺伝的アルゴリズム等の既存の解法においては、探索が進行するにつれて、ある時点でのパレート解集合内の解はそれより後の時点のパレート解集合内の解によって優越されていく場合が多い。
【００１４】
そのため、本発明では、最終的に求まるパレート最適解集合から程遠い解集合しか得られていない探索序盤の前段階（時間ｔ_１）においては解の生成数を減らして計算コストを低減させる。そのような解の生成数を減らす最も極端な場合は、パレート解集合の大きさは１である。
【００１５】
この場合、探索点が１個であることから、対象となる問題の特性に合った様々な従来手法が利用できる可能性が高くなる。後で説明するように、本発明の実施例では前段階（時間ｔ_１）で１点探索手法の一つである焼きなまし法（ＳＡ；Ｓｉｍｕｌａｔｅｄ　Ａｎｎｅａｌｉｎｇ）を使用し、そして続く後段階（時間ｔ_２）では既存の遺伝的アルゴリズム（ＧＡ）を使用している。
【００１６】
なお、問題の内容にも依存するが、例えば前段階の手法で探す解が近似解（制約を完全に充足していない解や元々の問題を近似化した近似問題の解、等）でよいような場合には、解の生成数をさらに減らして前段階にかかる計算コストをより一層低減させることができる。
【００１７】
図４は、本発明による最適化処理装置の基本構成を示したものである。また、図５には本発明による最適化処理装置の基本処理フローを示している。
本発明による最適化処理装置１０において、初期パレート解探索部１２は初期パレート解を探索する（Ｓ２２）。また、パレート解集合探索部１３は、初期パレート解探索部１２によって求められた初期パレート解（Ｓ２３）を用いてパレート最適解集合を探索する（Ｓ２４）。そして、制御部１１は、問題が入力されると（Ｓ２１）、前記初期パレート解探索部１２及びパレート解集合探索部１３の各部を制御してその結果としてパレート最適解集合を出力する（Ｓ２５）。
【００１８】
図６は、初期パレート解探索部１２の制御フローの一例を示したものである。本例の初期パレート解探索部１２は、焼きなまし法（ＳＡ）の手法に基づいて構成されている。焼きなまし法は、探索空間に勾配情報や連続性などを仮定できない問題、探索空間が大きく制約条件が多くて線形計画法などの従来手法では困難な問題、等に適用される手法である。なお、焼きなまし法によって得られる解と同様な解を与える別な手法を用いることも可能である。
【００１９】
焼きなまし法を、ｍ整数変数のｎ目的最小化問題を例として簡単に説明すると、変数ＸをＸ＝（ｘ１，　ｘ２，　…，　ｘｍ）、目的関数ＦをＦ＝（Ｆ１，　Ｆ２，　…，　Ｆｎ）、Ｆ１＝Ｆ１（Ｘ）、Ｆ２＝Ｆ２（Ｘ）、…、Ｆｎ＝Ｆｎ（Ｘ）と書く。ＳＡを用いる場合、ＳＡの評価関数としてはスカラー関数でなければならない。このために多目的問題の複数個の目的関数を何らかの方法でスカラー化する必要がある。
【００２０】
例えば、ある個体ｒから別な個体ｓに遷移する確率ｐが
ｐ＝ｅｘｐ（−Ｑ／Ｔ）
で与えられるとする（ｍｅｔｒｏｐｏｌｉｓ法）。ここで、Ｔは温度、
Ｑ＝ｗ１＊ΔＦ１＋ｗ２＊ΔＦ２＋…＋ｗｎ＊ΔＦｎ
ΔＦｊ＝Ｆｊ（ｓ）−ΔＦｊ（ｒ）、ｉｆＦｊ（ｓ）＞ΔＦｊ（ｒ）
ｏｔｈｅｒｗｉｓｅ　０、ｊ＝１、２、…、ｎ
ｗ１、ｗ２、…、ｗｎは正定数
である。
【００２１】
なお、このスカラー化による近似化のために、本来の多目的問題のパレート最適解に到達できない恐れがある。しかし、本発明ではこのＳＡが本来の多目的問題を解くＧＡの初期パレート解を得る手段として用いられ、最終的なパレート解集合はＧＡにより探索されるので近似化の影響は消され問題とならない。
【００２２】
図６では、前記状態変数Ｘによる摂動によって最小化すべきＱ値を評価する。この評価では例えば摂動後のＱ’値が摂動前のＱ値よりも減少方向にあるか否かが判断され、その結果に従って目的関数Ｆが再計算される（Ｓ３１〜３４及び３７〜４０）。次に、前記遷移確率ｐを用いて摂動後の状態へ遷移すべきか否かが判断され、遷移条件を満足する場合には摂動後の状態に遷移する（Ｓ３５及び３７）。この処理は、所定の繰り返し回数、計算時間、又は解の改善、が一定回数の間見られなかった場合に終了する（Ｓ３６）。
【００２３】
図７は、パレート解集合探索部１３の制御フローの一例を示したものである。本例のパレート解集合探索部１３は、遺伝的アルゴリズム（ＧＡ）に基づいて構成される。この問題を解くＧＡは、例えば、以下のように構成される。個体の染色体表現は、各変数をそれぞれ座位とし、座位上の対立遺伝子を変数値とするような表現をとる。なお、このような表現自体は本願発明にとって重要ではない。
【００２４】
ＧＡの典型的動作は、図７に示すように「初期化（Ｓ５１）」→「評価（Ｓ５２）」→「終了判定（Ｓ５３）」→「選択（Ｓ５４）」→「交叉・変異（Ｓ５５）」→「評価に戻る（Ｓ５２）」となる。この繰り返しの部分は世代と呼ばれる。世代を繰り返すことで、集団内の解が次第に改善され（Ｓ５７及び５８）、最終的な解集合（Ｓ５６）が得られる。
【００２５】
ＧＡの構成の仕方によっては上記と異なる場合が生じるが、その構成自体は本発明にとって重要ではない。従って、以下の各ステップの説明ではＧＡ手法の詳細な説明を省略している。
【００２６】
ステップＳ５１の初期化では、図６の焼きなまし法（ＳＡ）によって初期解を用意する。この初期集団サイズは１となる。もし、解が１つで不十分な場合には複数回ＳＡを実施してそれらの解を初期集団とすればよい。
【００２７】
ステップＳ５２の評価では、各個体それぞれについて、個体の染色体上の変数値Ｘ＝（ｘ１，　ｘ２，　…，　ｘｍ）を用いて目的関数値Ｆ＝（Ｆ１，　Ｆ２，　…，　Ｆｎ）を求める。次のステップＳ５３の終了判定では、所定の繰り返し回数、計算時間に達したとき、又は解の改善が一定世代の間見られなかったとき、に計算を終了する。
【００２８】
ステップＳ５４の選択では、種々の選択方法が考案検討されているが（例えば、システム制御情報学会編「遺伝アルゴリズムと最適化」朝倉書店１９９８）、一例として集団内の各個体の目的関数値を相互に比較して、ある個体　ｉ　が集団内のほかのＮｉ個の個体に優越されるときに、Ｎｉの大きな個体を消去してＮｉの少ない個体を増やす（複写する）。ただし、Ｎｉ＝０の個体（すなわちパレート解）は常に残す（消去しない）。これにより集団サイズは一般に変動する。
【００２９】
ステップＳ５５の交叉では、集団内から個体（親個体）をいくつか選び、それらの染色体上の対立遺伝子を交換することにより（子）個体を作る操作を行なう。簡単な例では、２個の親個体をランダムに選びそれらの染色体の座位上の対立遺伝子のビット列をランダムに入れ換えることで子個体が得られる。
【００３０】
同ステップＳ５５の変異では、集団内の各個体の染色体上の対立遺伝子を所定の小さい確率でほかの値に変化させる操作を行なう。簡単な例では、個体の染色体の座位上の対立遺伝子のビット列をランダムに入れ換える。
【００３１】
次に、初期パレート解探を求めるＳＡとパレート解集合を求めるＧＡとの計算コスト比較のために、各々の計算コストを簡単に見積もる。対象とする具体的問題の内容にも依存するが、計算時間の多くは個体の評価に費やされる。ここでは１個の個体の評価コスト（計算コスト）をＤと書く。
【００３２】
初期パレート解を求めるＳＡでは、１世代に１個体の遷移が起きるため、その計算コストはＤである。一方、パレート解集合を求めるＧＡでは、解集合が数十個から数百個に及ぶ例があり、そのような場合にＧＡ単独の探索では集合の大きさにほぼ比例した計算時間を要する。この場合の集団サイズをＰとすると計算コストはＰ＊Ｄである。
【００３３】
ここでは、Ｐ＝１００　程度でＳＡ探索がＧＡ探索に比べて同じ品質の解レベルに到達するのに、世代数で数えて１０倍遅いとする。この場合、全体としてのＳＡの計算コストはＧＡの計算コストよりも（Ｄ＊１０）／（Ｐ＊Ｄ）＝１／１０と１桁小さく、従ってＳＡの方がＧＡよりも計算速度は１０倍ほど速い。これから、従来のＧＡのみで探索する場合と比べて、本発明のようにＳＡで初期パレート解を求める方が１０倍ほど高速にパレート最適解集合を求めることが可能となる。
【００３４】
図８及び９は、本発明の一実施例を示したものであり、ここでは航空会社の航空機乗務員の勤務計画問題を扱っている。図８にはその適用要件を、そして図９には本発明の最適化処理装置によるデータｄ１の計算結果を示している。また、図１０には従来手法によるデータｄ１の計算結果を図９との比較のために示してある。なお、この勤務計画問題は、乗務時間の平準化（分散最小化）、勤務時間の平準化（分散最小化）、希望休暇充足化（未充足平均最小化）の３目的問題である。
【００３５】
図８において、データｄ１は繁忙期大規模の問題、データｄ２は繁忙期中規模の問題、そしてデータｄ３は閑散期大規模の問題のそれぞれの適用条件を示している。図９には、データｄ１を、初期解探索段階では焼きなまし法（ＳＡ）により、後の解集合探索段階では遺伝的アルゴリズム（ＧＡ）により解いた典型的な１試行について、評価関数である乗務時間分散（Ｖｆ）及び勤務時間分散（Ｖｗ）をＸ軸及びＹ軸にして、制約充足後のＳＡ解の遷移軌跡とその後のＧＡ探索解とを併せてプロットしている。
【００３６】
一方、図１０には、同じデータｄ１を、図９と同じ計算時間で従来手法による遺伝的アルゴリズム（ＧＡ）だけを使用したＧＡ探索解をプロットしている。図９の本発明手法による計算時間は、初期解探索段階のＳＡの計算に約２４分（約１２分でほぼ収束）、解集合探索段階のＧＡの計算に約３０分かかり、全体では約５４分を要している。結果として、図９の初期解探索手段を用いる場合と図１０のそれを用いない場合とでは、同じ品質の解集合を得る計算時間で約２２倍の差が見られた。
【００３７】
ところで、本実施例でも述べたようにＳＡの実行を複数回実施し、それによりＳＡの確率的探索に起因するバラツキを一層低減することができる。また複数回実施する際には、前述したＱ値の計算に用いる係数ｗｊの値を各々の実行毎に少しずつ変えることで、係数値の設定の恣意性による最終的な解集合のバラツキを低減させるようにしてもよい。
【００３８】
これにより、探索空間の多峰性に対してもロバスト　（ｒｏｂｕｓｔ）　性を持たせることができる。複数回実行することにより計算コストはかかるが、問題の難易度に応じて実行回数を適宜設定することで、全体としての計算コストを下げることが可能である。
【００３９】
前述した航空機の乗務員計画の実施例においては、ＳＡの１試行約９分を１０回試行し、その後に１０個のＳＡ解を初期解集合とするＧＡによって最適解集合を探索（約３０分）させた結果、図示はしていないが同じ計算時間２時間での比較においてＳＡを複数回実行させる手法がより品質の良い解集合を探索した。
【００４０】
また、本実施例の別の態様として、初期解探索段階及び解集合探索段階のいずれも同じ遺伝的アルゴリズム（ＧＡ）を使用し、前者の初期解探索段階ではＧＡの集団サイズを制限したＧＡを用いるように構成してもよい。例えば、後の解集合探索段階のＧＡでは数１００個の集団サイズを用いるのに対して、初期解探索段階のＧＡでは集団サイズ（上限）を数１０個に限定する。この場合の集団サイズは必ずしも固定する必要がなく、世代数とともに増減させるようにしてもよい。
【００４１】
なお、多目的最適化問題にＧＡを適用する場合に、解集合が特定領域に集中しないように集団のバラツキを制御する機構が従来から検討されている。この機構では集団サイズを制限する場合もあるが、探索空間内での解集合のバラツキを制御するのが目的である。
【００４２】
例えば、目的値空間を等間隔の区画に区切り、各区画に入る解の個数上限を設定するものである。しかしながら、本態様例は最適解集合から遠く離れた探索序盤（若い世代）での計算コストの削減を目的として世代数に基づく集団サイズを制限するものである。従って、両者の目的及び作用効果は明確に相違している。
【００４３】
【発明の効果】
以上説明したように、本発明によれば、遺伝的アルゴリズム（ＧＡ）とは別な初期解探索手法によりパレート解の初期値を高速に求めることで、全体としての計算コストを短縮することが可能となる。初期解探索手法により求める解は個数が少なくてもよく、個数が少ないことによって計算コストが減らすことができる。また、初期解探索手法による解は本来の多目的問題に対する近似解であってもよく、必要十分な近似解によって効率的な手法を採用することが可能となる。
【００４４】
初期解探索手法として用いる焼きなまし法（ＳＡ）は、確率的な１点探索法であって変数組に対する評価関数が与えられれば探索を行わせることが可能であり、効率的な計算が可能である。また、焼きなまし法は、評価関数の勾配等の補助情報が不要であり、非線形な問題や組み合わせ問題等にも応用できる利点がある。
【００４５】
この場合、焼きなまし法は確率的な探索法のために実行結果にバラツキが生じ得る。そのため、複数回の実行によってこの影響を低減させ、さらにはＳＡ探索におけるパラメタ設定の恣意性を低減させることができる。
【００４６】
また、初期解探索手法の別の手法として遺伝的アルゴリズム（ＧＡ）の集団サイズを小さくしたＧＡを用いることができ、それによって１世代あたりの計算コストを低減することが可能である。
【図面の簡単な説明】
【図１】従来手法による２目的最小化問題の一例を模式的に示した図である。
【図２】図１に遺伝的アルゴリズムを用いた場合の解集合の探索例を示した図である。
【図３】本発明の手法により多目的問題の最適解集合を求める原理を模式的にあらわした図である。
【図４】本発明による最適化処理装置の基本構成を示した図である。
【図５】本発明による最適化処理装置の基本処理フローを示した図である。
【図６】初期パレート解探索部の制御フロー例を示した図である。
【図７】パレート解集合探索部の制御フロー例を示した図である。
【図８】本発明の実施例における適用要件の例を示した図である。
【図９】本発明の最適化処理装置によるデータｄ１の計算結果を示した図である。
【図１０】従来手法によるデータｄ１の計算結果を示した図である。
【符号の説明】
１０…最適化処理装置
１１…制御部
１２…初期パレート解探索部
１３…パレート解集合探索部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an optimization processing apparatus for processing an optimization problem having a plurality of objectives, and more particularly to an optimization processing for efficiently processing a multi-objective problem such as scheduling and process management using a genetic algorithm (GA). It concerns the device.
[0002]
[Prior art]
An optimization problem with multiple objectives is called a multi-objective problem, and its solution usually seeks a Pareto optimal solution set. A Pareto solution set is a group of a plurality of Pareto solutions, and generally has a higher calculation cost (calculation time) than a solution for finding one solution.
[0003]
For difficult problems for which there is no appropriate means to help achieve an efficient search for problem specific knowledge (heuristics), a method of repeatedly searching for an improved solution from the current solution is often used. As such a technique, for example, a genetic algorithm (GA) is used. Genetic algorithms have a large search space and many constraints, which are difficult with conventional methods such as linear programming, problems where gradient information and continuity of the search space cannot be assumed, and furthermore, there are too many combinations to process. Applies to difficult problems, etc.
[0004]
FIG. 1 schematically shows an example of a two-objective minimization problem according to a conventional method.
In FIG. 1, each objective function value of the two-objective minimization problem is set on the x and y axes, and a combination thereof indicates one solution. Here, it is shown that starting from a certain initial solution set (connected by a broken line) and gradually improving the solution set (similarly, connected by a broken line). In this case, as shown by the arrow (time t) in the figure, the Pareto solution set in the upper right is gradually improved, and the search is performed so as to eventually reach the Pareto solution set in the lower left.
[0005]
FIG. 2 shows an example of searching for a solution set when a genetic algorithm (GA) is used for the two-objective minimization problem of FIG.
In FIG. 2A, a plurality of solutions are shown by white circles, and two of them (shown by black circles) are selected at random. FIG. 2B shows a solution (child individual) generated by genetic manipulation such as crossover or mutation from the solution (parent individual) selected in this way, and the remaining controllability is evaluated. The group is indicated (indicated by a plurality of black circles). In (c) of FIG. 2, the set obtained by combining the remaining offspring individuals and the original solution (the solution shown in (a)) is updated to a new solution set by performing non-Pareto solution selection (a plurality of solutions). With white circles). Non-Pareto solution selection means to select (eliminate) solutions that are superior to other solutions.
[0006]
[Problems to be solved by the invention]
Although a simple example of the two-objective problem has been described above, in a multi-objective problem in which a large number of Pareto solutions must be handled, the calculation cost increases as the number of Pareto solutions handled increases. The aforementioned genetic algorithm (GA) has a feature that a Pareto solution set can be obtained by one trial by including the Pareto solution set in the GA population.
[0007]
However, even with a method such as a genetic algorithm that can efficiently handle a solution set, the computational cost is rapidly increased for a multi-objective problem, and improvement in search speed has become a problem.
[0008]
In view of the above problems, an object of the present invention is to provide an optimization processing device for obtaining an optimal solution set of a multi-objective optimization problem, using a method having a low calculation cost until a stage close to a final Pareto optimal solution set, The search for the Pareto optimal solution set at the subsequent final stage is performed in a two-stage processing configuration using the original Pareto solution search means, so that an optimization processing apparatus that realizes a high-speed search process in a multi-objective optimization problem is realized. To provide.
[0009]
[Means for Solving the Problems]
According to the present invention, there is provided an optimization processing device for processing a problem that can be formulated as an optimization problem having a plurality of objectives, wherein an initial Pareto solution searching unit for searching for an initial Pareto solution by a method for quickly obtaining an initial solution is provided. A Pareto solution set search unit for searching for a Pareto optimal solution set using the searched initial Pareto solution by a genetic algorithm technique, and when the problem is input, the initial Pareto solution search unit and the Pareto solution set An optimization processor configured to control each of the search units and output the searched Pareto optimal solution set is provided.
[0010]
The initial Pareto solution search unit uses an annealing method as a method for quickly obtaining the initial solution. Further, the annealing method may be executed a plurality of times to generate a plurality of initial solutions, and a set of the initial solutions may be used as the initial Pareto solution. Further, a genetic algorithm technique with a limited population size may be used as a technique for quickly obtaining the initial solution.
[0011]
According to the present invention, there is provided an optimization processing function for processing a problem that can be formulated as an optimization problem having a plurality of objectives, wherein an initial Pareto solution for searching for an initial Pareto solution is obtained by a method for quickly obtaining an initial solution. A Pareto solution set search function for searching for a Pareto optimal solution set using the searched initial Pareto solution by a genetic algorithm technique, and an initial Pareto solution search function and the Pareto solution when the problem is input. A computer-readable recording medium storing a program for operating a computer is provided by a control function of controlling each of the solution set search functions and outputting the searched Pareto optimal solution set.
[0012]
BEST MODE FOR CARRYING OUT THE INVENTION
FIG. 3 schematically shows a principle method for obtaining an optimal solution set of a multi-objective problem in the optimization processing device of the present invention.
In the present invention, for the multi-objective optimization problem, in the previous stage (time t ₁ ), a method (such as a one-point search method) in which the calculation cost is small until the final Pareto optimal solution set is approached is used, and the subsequent subsequent stage At (time t ₂ ), the optimal solution set is searched using the original Pareto solution search method.
[0013]
As described with reference to FIGS. 1 and 2, in an existing solution such as a genetic algorithm that advances a search by iteratively improving the Pareto solution set, as the search progresses, the solution in the Pareto solution set at a certain point in time is increased. Is often dominated by the solutions in the Pareto solution set at a later point in time.
[0014]
For this reason, in the present invention, the number of generated solutions is reduced in the pre-search early stage (time t ₁ ) where only a solution set far from the Pareto optimal solution set finally obtained is obtained, thereby reducing the calculation cost. In the most extreme case of reducing the number of such solutions generated, the size of the Pareto solution set is one.
[0015]
In this case, since there is only one search point, there is a high possibility that various conventional methods suitable for the characteristics of the target problem can be used. As will be described later, in the embodiment of the present invention, an annealing method (SA; Simulated Annealing), which is one of the one-point searching methods, is used in the previous stage (time t ₁ ), and the subsequent subsequent stage (time t _2). ) Uses an existing genetic algorithm (GA).
[0016]
Although it depends on the content of the problem, for example, the solution to be searched by the method at the previous stage may be an approximate solution (a solution that does not completely satisfy the constraints, a solution of an approximate problem obtained by approximating the original problem, or the like). In such a case, it is possible to further reduce the number of generated solutions and further reduce the calculation cost required for the previous stage.
[0017]
FIG. 4 shows a basic configuration of the optimization processing device according to the present invention. FIG. 5 shows a basic processing flow of the optimization processing apparatus according to the present invention.
In the optimization processing device 10 according to the present invention, the initial Pareto solution searching unit 12 searches for an initial Pareto solution (S22). Further, the Pareto solution set search unit 13 searches for an optimal Pareto solution set using the initial Pareto solution (S23) obtained by the initial Pareto solution search unit 12 (S24). Then, when a question is input (S21), the control unit 11 controls each of the initial Pareto solution search unit 12 and the Pareto solution set search unit 13 and outputs a Pareto optimal solution set as a result (S25). .
[0018]
FIG. 6 shows an example of a control flow of the initial Pareto solution searching unit 12. The initial Pareto solution search unit 12 of the present example is configured based on the annealing method (SA). The annealing method is a method applied to a problem in which gradient information or continuity cannot be assumed in a search space, a problem in which a search space is large, and there are many constraints, which is difficult with a conventional method such as a linear programming method. It is also possible to use another method that gives a solution similar to the solution obtained by the annealing method.
[0019]
The annealing method will be briefly described by taking an n-objective minimization problem of m integer variables as an example. The variable X is X = (x1, x2,..., Xm), and the objective function F is F = (F1, F2,. ), F1 = F1 (X), F2 = F2 (X),..., Fn = Fn (X). When SA is used, the evaluation function of SA must be a scalar function. For this purpose, it is necessary to scalarize a plurality of objective functions of the multiobjective problem by some method.
[0020]
For example, the probability p of transition from an individual r to another s is p = exp (−Q / T)
(Metropolis method). Where T is temperature,
Q = w1 * ΔF1 + w2 * ΔF2 +... + Wn * ΔFn
ΔFj = Fj (s) −ΔFj (r), ifFj (s)> ΔFj (r)
otherwise 0, j = 1, 2,..., n
w1, w2,..., wn are positive constants.
[0021]
Due to the approximation by the scalarization, there is a possibility that the Pareto optimal solution of the original multi-objective problem cannot be reached. However, in the present invention, this SA is used as a means for obtaining an initial Pareto solution of the GA for solving the original multi-objective problem, and the final Pareto solution set is searched by the GA, so that the influence of the approximation is eliminated and no problem occurs.
[0022]
In FIG. 6, the Q value to be minimized by the perturbation by the state variable X is evaluated. In this evaluation, for example, it is determined whether the Q value after perturbation is in a decreasing direction from the Q value before perturbation, and the objective function F is recalculated according to the result (S31 to S34 and S37 to S40). Next, it is determined whether or not to transit to the perturbed state using the transition probability p. If the transition condition is satisfied, the state transits to the perturbed state (S35 and S37). This process ends when the predetermined number of repetitions, calculation time, or improvement of the solution has not been observed for a certain number of times (S36).
[0023]
FIG. 7 shows an example of a control flow of the Pareto solution set search section 13. The Pareto solution set search unit 13 of the present example is configured based on a genetic algorithm (GA). The GA that solves this problem is configured, for example, as follows. The chromosome representation of an individual is such that each variable is a locus and an allele on the locus is a variable value. Note that such expressions are not important for the present invention.
[0024]
As shown in FIG. 7, a typical operation of the GA is “initialization (S51)” → “evaluation (S52)” → “end determination (S53)” → “selection (S54)” → “crossover / mutation (S55)”. "→" Return to evaluation (S52) ". The part of this repetition is called a generation. By repeating the generation, the solution in the group is gradually improved (S57 and S58), and the final solution set (S56) is obtained.
[0025]
Depending on the configuration of the GA, a different case may occur, but the configuration itself is not important for the present invention. Therefore, the detailed description of the GA method is omitted in the following description of each step.
[0026]
In the initialization in step S51, an initial solution is prepared by the annealing method (SA) in FIG. This initial group size is 1. If one solution is insufficient, SA may be performed a plurality of times and those solutions may be used as an initial group.
[0027]
In the evaluation in step S52, for each individual, the objective function value F = (F1, F2,..., Fn) is obtained using the variable value X = (x1, x2,..., Xm) on the individual chromosome. In the determination of the end of the next step S53, the calculation is ended when the predetermined number of repetitions and the calculation time have been reached, or when no improvement of the solution has been seen for a certain generation.
[0028]
In the selection in step S54, various selection methods are being devised (for example, “Genetic Algorithm and Optimization” edited by the Institute of Systems, Control and Information Engineers, Asakura Shoten 1998). When a certain individual i is superior to other Ni individuals in the population, individuals with large Ni are eliminated and individuals with small Ni are increased (copied). However, individuals with Ni = 0 (that is, Pareto solutions) are always left (not erased). This generally causes the population size to fluctuate.
[0029]
In the crossover in step S55, an operation of selecting several individuals (parent individuals) from the group and exchanging alleles on their chromosomes to create (child) individuals is performed. In a simple example, a child individual can be obtained by randomly selecting two parent individuals and randomly exchanging the bit strings of alleles on the chromosomal loci.
[0030]
In the mutation in step S55, an operation is performed to change the allele on the chromosome of each individual in the population to another value with a predetermined small probability. In a simple example, a bit sequence of an allele on a chromosomal locus of an individual is randomly exchanged.
[0031]
Next, in order to compare the calculation costs of the SA for finding the initial Pareto solution search and the GA for finding the Pareto solution set, the respective calculation costs are simply estimated. Much of the computation time is spent on individual evaluation, depending on the specific problem being addressed. Here, D is the evaluation cost (calculation cost) of one individual.
[0032]
In the SA for obtaining the initial Pareto solution, the calculation cost is D because one transition occurs in one generation in one generation. On the other hand, in the GA for obtaining a Pareto solution set, there are cases where the solution set ranges from several tens to several hundreds, and in such a case, the search for the GA alone requires a calculation time almost proportional to the size of the set. Assuming that the group size in this case is P, the calculation cost is P * D.
[0033]
Here, it is assumed that the SA search reaches the solution level of the same quality as the GA search at about P = 100, but is ten times slower by counting the number of generations. In this case, the calculation cost of the SA as a whole is one order of magnitude smaller than the calculation cost of the GA (D * 10) / (P * D) = 1/10, and therefore the calculation speed of the SA is 10 times faster than that of the GA. As fast. From this, it is possible to obtain a Pareto optimal solution set about 10 times as fast as that in the present invention in which the initial Pareto solution is obtained by SA as compared with the case of searching only by the conventional GA.
[0034]
8 and 9 illustrate one embodiment of the present invention, which deals with the work schedule problem for airline crew members of an airline company. FIG. 8 shows the application requirements, and FIG. 9 shows the calculation result of data d1 by the optimization processing device of the present invention. FIG. 10 shows a calculation result of the data d1 by the conventional method for comparison with FIG. The work schedule problem is a three-purpose problem of equalization of work hours (minimization of variance), equalization of work hours (minimization of variance), and satisfaction of desired leave (minimization of unsatisfied average).
[0035]
In FIG. 8, data d1 indicates a large-scale problem during the busy season, data d2 indicates a medium-scale problem during the busy season, and data d3 indicates a large-scale problem during the off-season. FIG. 9 shows a typical trial of data d1 solved by the annealing method (SA) in the initial solution search stage and the genetic algorithm (GA) in the subsequent solution set search stage, and the crew time as an evaluation function. Using the variance (Vf) and the working time variance (Vw) as the X axis and the Y axis, the transition trajectory of the SA solution after constraint satisfaction and the subsequent GA search solution are plotted together.
[0036]
On the other hand, FIG. 10 plots the same data d1 and the GA search solution using only the genetic algorithm (GA) according to the conventional method in the same calculation time as in FIG. The calculation time according to the method of the present invention shown in FIG. 9 is about 24 minutes (approximately converges in about 12 minutes) for the SA calculation in the initial solution search stage, and about 30 minutes for the GA calculation in the solution set search stage. It takes a minute. As a result, between the case where the initial solution search means of FIG. 9 is used and the case where it is not used of FIG. 10, a difference of about 22 times in the calculation time to obtain a solution set of the same quality was found.
[0037]
By the way, as described in the present embodiment, the execution of the SA is performed a plurality of times, whereby the variation due to the stochastic search for the SA can be further reduced. In addition, when performing a plurality of times, the value of the coefficient wj used in the calculation of the Q value described above is changed little by little for each execution, thereby reducing the dispersion of the final solution set due to the arbitrariness of the setting of the coefficient value. You may make it do.
[0038]
This makes it possible to provide robustness to the multimodality of the search space. The calculation cost is increased by executing the program a plurality of times, but the overall calculation cost can be reduced by appropriately setting the number of executions according to the difficulty of the problem.
[0039]
In the above-described embodiment of the aircraft crew planning, one trial of SA is performed about 9 minutes 10 times, and thereafter, an optimal solution set is searched by GA using 10 SA solutions as an initial solution set (about 30 minutes). As a result, although not shown, the method of executing the SA multiple times in the comparison at the same calculation time of 2 hours searched for a solution set of higher quality.
[0040]
Further, as another aspect of the present embodiment, the same genetic algorithm (GA) is used in both the initial solution search stage and the solution set search stage, and in the former initial solution search stage, the GA in which the GA group size is limited is used. It may be configured to be used. For example, the GA in the later solution set search stage uses several hundred population sizes, whereas the GA in the initial solution search stage limits the population size (upper limit) to several tens. In this case, the group size does not necessarily have to be fixed, and may be increased or decreased with the number of generations.
[0041]
In the case where GA is applied to the multi-objective optimization problem, a mechanism for controlling the variation of the group so that the solution set does not concentrate on a specific region has been conventionally studied. This mechanism may limit the group size, but its purpose is to control the dispersion of the solution set in the search space.
[0042]
For example, the target value space is divided into equally spaced sections, and the upper limit of the number of solutions entering each section is set. However, in this embodiment, the group size based on the number of generations is limited in order to reduce the calculation cost in the early search stage (young generation) far from the optimal solution set. Therefore, the purpose and the effect of the two are clearly different.
[0043]
【The invention's effect】
As described above, according to the present invention, it is possible to reduce the overall calculation cost by quickly obtaining the initial value of the Pareto solution using an initial solution search method different from the genetic algorithm (GA). It becomes. The number of the solutions obtained by the initial solution search method may be small, and the small number can reduce the calculation cost. Also, the solution by the initial solution search method may be an approximate solution to the original multi-objective problem, and an efficient method can be adopted by a necessary and sufficient approximate solution.
[0044]
The annealing method (SA) used as an initial solution search method is a stochastic one-point search method, and a search can be performed if an evaluation function for a set of variables is given, and efficient calculation is possible. . Further, the annealing method does not require auxiliary information such as the gradient of the evaluation function, and has an advantage that it can be applied to a nonlinear problem or a combination problem.
[0045]
In this case, the annealing method may vary in execution results due to a stochastic search method. Therefore, this effect can be reduced by executing the program a plurality of times, and the arbitrariness of parameter setting in the SA search can be reduced.
[0046]
Further, as another method of the initial solution search method, a genetic algorithm (GA) with a reduced group size can be used, and thereby the calculation cost per generation can be reduced.
[Brief description of the drawings]
FIG. 1 is a diagram schematically showing an example of a two-objective minimization problem according to a conventional method.
FIG. 2 is a diagram showing an example of searching for a solution set when a genetic algorithm is used in FIG. 1;
FIG. 3 is a diagram schematically illustrating a principle of obtaining an optimal solution set of a multi-objective problem by the method of the present invention.
FIG. 4 is a diagram showing a basic configuration of an optimization processing device according to the present invention.
FIG. 5 is a diagram showing a basic processing flow of the optimization processing device according to the present invention.
FIG. 6 is a diagram illustrating an example of a control flow of an initial Pareto solution search unit.
FIG. 7 is a diagram illustrating an example of a control flow of a Pareto solution set search unit.
FIG. 8 is a diagram showing an example of an application requirement in the embodiment of the present invention.
FIG. 9 is a diagram showing a calculation result of data d1 by the optimization processing device of the present invention.
FIG. 10 is a diagram showing a calculation result of data d1 according to a conventional method.
[Explanation of symbols]
10 optimization processing device 11 control unit 12 initial Pareto solution search unit 13 Pareto solution set search unit

Claims

An optimization processing device for processing a problem that can be formulated as an optimization problem having a plurality of objectives,
An initial Pareto solution searching unit for searching for an initial Pareto solution by a method for quickly obtaining an initial solution,
A Pareto solution set search unit that searches for a Pareto optimal solution set using the searched initial Pareto solution by a genetic algorithm technique,
A control unit that controls each of the initial Pareto solution search unit and the Pareto solution set search unit when the problem is input, and outputs the searched Pareto optimal solution set. Optimization processing equipment.

The apparatus according to claim 1, wherein the initial Pareto solution search unit uses an annealing method as a method for quickly obtaining the initial solution.

The apparatus according to claim 2, wherein the initial Pareto solution search unit executes the annealing method a plurality of times to generate a plurality of initial solutions, and sets a set of the initial solutions as the initial Pareto solution.

The apparatus according to claim 1, wherein the initial Pareto solution searching unit uses a genetic algorithm method with a limited population size as a method for quickly obtaining the initial solution.

An optimization processing function that processes a problem that can be formulated as an optimization problem with multiple purposes,
An initial Pareto solution search function that searches for an initial Pareto solution by a method for quickly finding an initial solution,
A Pareto solution set search function for searching a Pareto optimal solution set using the searched initial Pareto solution by a genetic algorithm technique,
A program for operating a computer by controlling each of the initial Pareto solution search function and the Pareto solution set search function when the problem is input, and outputting the searched Pareto optimal solution set. A computer-readable recording medium on which is recorded.