JP5368906B2 - 対話型最適化装置 - Google Patents

Description

本発明は最適化対象システムの評価を計測することが困難あるいは不可能であるが人間ならば善し悪しを主観的に評価することができる場合に，人間の主観的評価を対話的に取り込むことでシステムを最適する対話型最適化装置に関するものである．

近年，対話型最適化装置はグラフィックスや音楽の生成，デザインなどのアート応用，補聴器フィッティング，医療画像強調，データマイニング，メディアデータベース検索，ロボティクス，ゲーム，など幅広い分野に適用されている．例えば，非特許文献１では，２５１編の対話型最適化装置に関する論文を紹介している．

以下図面を参照しながら，上記した対話型最適化装置の技術的枠組みと従来の対話型最適化装置の一例について説明する．

図１は対話型最適化装置の技術的枠組みを示すものである．図１において，２０は最適化対象システムを最適化する最適化部で，勾配情報のような探索空間情報を用いない進化論的計算（遺伝的アルゴリズム，進化的戦略，遺伝的プログラミング，進化的プログラミングなど）の最適化手法に基づいて動作する．４１は最適化部２０が最適化したパラメータを最適化対象システムに適用しシステム出力を生成する表現型生成部である．５１は表現型生成部４１で生成された最適化対象システムの出力をユーザに提示しユーザの評価を得る個体提示・評価インタフェース部で，このユーザ評価は最適化部２０に戻され，最適化部２０での最適化に利用される．

以上のように構成される対話型最適化装置はユーザの主観的評価に基づいて最適化部２０が最適化対象システムを逐次的に最適化する．このような構成を利用した発明には，日本特許第3300584号，第3369161号，第3679071号，第3588294号などがある．

図６は従来の対話型最適化装置の一構成例を示すものである．図６の最適化部２０において，１は複数の最適化パラメータ候補を格納するパラメータ個体メモリである．８は次世代の複数の最適化パラメータ候補を一時的に格納する子パラメータ個体メモリである．９は評価値に基づいてパラメータ個体メモリ１から親個体となる最適化パラメータ候補を選択する親個体選択部である．１０は親個体選択部９で選択された親個体を交差させ次世代での最適化パラメータ候補となり得る子個体を生成する交差部である．１１は交差部１０で生成された子個体を少ない確率で変化させ広域探索能力を維持させる突然変異部である．

以上のように構成された従来の対話型最適化装置について，以下その動作について説明する．

対話型最適化装置は対話的に取り込む人間の評価を基に探索を行うため，心理評価空間を探索すると言ってよい．そのため勾配情報のような探索空間情報を用いることができないが，与えられた心理評価空間上の探索点，すなわち最適化対象システムの最適化候補を与えられた場合に評価をすることができる．この情報を利用して探索するためには，多点探索に基づく進化論的計算が適しており，従来の対話型最適化装置では図６のように遺伝的アルゴリズムを最適化部２０に用いる構成をしていることが多い．

多点探索であるので，パラメータ個体メモリ１には最適化対象システムの複数の最適化候補が記憶されている．例えば補聴器のフィッティングパラメータが１０個あるとしよう．この１０個の値を１つの最適化解ベクトル(探索点)候補とし，そのようなｎ個の解ベクトル候補がパラメータ個体メモリ１に記憶されている．進化論的計算では生物進化にヒントを得た最適化手法であることから，最適化解ベクトル(探索点)候補のことを生物学の用語を使って「個体」と呼ぶ．親個体選択部９はこの複数の最適化解ベクトル候補から次の世代の最適化解ベクトル候補を生成するための親最適化解ベクトル候補（親個体）を選択する．遺伝的アルゴリズムの教科書には各種の選択方法が記載されているが，代表的な選択方法には，パラメータ個体メモリ１の解ベクトル候補の評価値に比例した選択確率に基づいて親個体を選択するルーレット選択がある．こうして得られた親個体のパラメータを，遺伝的アルゴリズムの教科書に記載されている各種交差方法のいずれかの方法で交差し，次世代の最適化解ベクトル候補（子個体）を生成する．交差とは選択された2個あるいは複数の親個体の解ベクトル情報を部分的に入れ替えることであり，親個体近傍の領域での探索点（子個体）を生成することになる．こうして得られた子個体を中心に次世代の探索を行うのであるが，探索領域が偏る危険性を減らすため，遺伝的アルゴリズムでは少ない確率でランダムに探索位置を変更することが行われる．突然変異部１１はこの処理を行うところで，交差部１０で交差生成された子個体に少ない確率でビット反転させたりノイズを加えたりする処理を行う．こうして得られた次世代の最適化解ベクトル候補は子パラメータ個体メモリ８に格納される．またこうして得られた子パラメータ個体メモリ８の最適化解ベクトル候補でパラメータ個体メモリ１を更新する．以上が最適化部２０での最適化処理である．

こうして生成された最適化解ベクトル候補は最適化対象システムの特性を決める値であってシステムの出力ではないため，これらの値を見てもユーザは評価できない．例えば補聴器が最適化対象システムであれば，各最適化解ベクトル候補を補聴器にセットし，補聴器を通して得られる音が最適化対象システム出力である．表現型生成部４１は最適化解ベクトル候補からこのようにユーザが評価可能な最適化対象システムの出力を生成する．最適化対象システムはこの表現型生成部４１に含まれる．最適化解ベクトル候補は複数あるので，生成された最適化対象システムの出力も複数ある．これらをユーザに提示するのが個体提示・評価インタフェース部５１である．ユーザは提示された複数のシステム出力を見たり，聞いたり，触れたりして各システム出力を評価する．これらの主観的評価は個体提示・評価インタフェース部５１を介して親個体選択部９に渡される．親個体選択部９は，どの最適化解ベクトル候補に対してどの評価値が与えられたかが分かるので，前述の最適化部２０の逐次的最適化処理を繰り返す．

また遺伝的アルゴリズムではなく，差分進化（Differential Evolution）に基づいた対話型最適化装置もある．図７は非特許文献２〜非特許文献４に記載された差分進化に基づく従来の対話型最適化装置で，２は親個体を順次次世代の子個体に入れ替える際の置換対象となる最適化解ベクトル候補（target個体）の位置を示すtarget個体インデックスである．３はパラメータ個体メモリ１のtarget個体と，target個体以外のパラメータ個体メモリ１の親個体から３個体を選択し，これら４つの親個体から子個体候補(trial個体）を生成するtrial個体生成部である．７はtrial個体生成部３で生成された次世代の最適化解ベクトル候補であるtrial個体を格納するtrial個体メモリである．６１は個体提示・評価インタフェース部５１を介してユーザが選択評価をした最適化対象システム候補の出力に対するtrial個体メモリ７の最適化解ベクトル候補でパラメータ個体メモリ１の最適化解ベクトル候補を置換し次世代探索点とする選択個体置換部である．

このように構成された差分進化に基づく従来の対話型最適化装置において，trial個体生成部３はパラメータ個体メモリ１からtarget個体と，target個体以外から選択した３個体を入力し，差分進化のアルゴリズムに基づいてtrial個体を生成する．このtrial個体生成部３の働きについては，後述の実施例の中で詳細に示す．これを逐次繰り返しλ個のtrial個体をtrial個体メモリ７に一時記憶する．これらの次世代の最適化解ベクトル候補を表現型生成部４１が音や画像などの最適化対象システム出力に変換し，個体提示・評価インタフェース部５１に提示する．ユーザはこれらを比較評価し，パラメータ個体メモリ１に記憶するμ個を選択する．選択個体置換部６１は選択されたμ個の最適化解ベクトル候補でパラメータ個体メモリ１を入れ替え，次世代の探索解とする． なお非特許文献３ではλ＝１６，μ＝４としている．

また図８は，差分進化に基づく別の従来の対話型最適化装置の構成図である．表現型生成部４１がtarget個体を直接パラメータ個体メモリ１から入力するので，個体提示・評価インタフェース部５１でユーザに提示される個体の中には親世代の全個体も同時提示され，ユーザはこれらも比較選択の対象に加える点が図７との違いである．

図９は，図６と同じく遺伝的アルゴリズムに基づきながら提示は対比較を可能にする別の従来の対話型最適化装置の構成図で，非特許文献５に技術内容が開示されている．図９において４２は子パラメータ個体メモリ８に生成された子個体の最適化解ベクトル候補をトーナメント方式に基づいて読み込み対にして最適化対象システム出力を生成するトーナメント表現型生成部である．５２はトーナメント表現型生成部４２で生成されたシステム出力を対にしてユーザに提示し，ユーザがいずれの解候補を選択したかの情報をトーナメント表現型生成部４２にフィードバックしトーナメント表現型生成部４２のトーナメント選択を継続させる対個体提示・評価インタフェース部で，トーナメント的に選択された全情報を全子個体への評価として親個体選択部９へ送る．

こうして構成された従来の対話型最適化装置では，トーナメント方式を用いることでユーザに対比較を可能にする．図９の子パラメータ個体メモリ８形状をトーナメントの第１試合の選手であると考えると対比較の解候補を選択する順が分かりやすい．これら全個体を対にして提示し終わったら（奇数時はシード方式を取り次の試合にまわす），勝者による第２試合を行い，これを最終勝者の子個体が選ばれるまで繰り返す．各試合での勝者判定は，対個体提示・評価インタフェース部５２からのユーザ判定結果に拠る．すべての試合が終わったら，勝数に基づいて各個体へ評価値与えられる．この評価値は親個体選択部９に送られ次世代での親個体選択に用いられる．

さらに
では，トーナメントの勝敗だけでなく，勝ち負け程度差も子個体への評価に反映させる方法も提案している．この方式に基づけば，ユーザは例示された対の最適化対象システム出力の良い方を選択するだけでなく，どの程度良いかの両者の差も評価値として入力する．この差を勝数に基づく各個体へ評価値への補正値とすることで，第1回戦で第１位と第２位が対戦した場合第２位の個体が最下位となることを防ぎ精度よい評価にすることができる．

日本特許第3300584号(2002, 4.19) 渡辺辰巳，高木英行，小原和昭，丸野進「最適化調整方法と最適化調整装置」 日本特許第3369161号 (2002, 11.15)渡辺辰巳，高木英行，小原和昭，丸野進「最適化調整方法と最適化調整装置」 日本特許第3679071号 (2005, 5.20)渡辺辰巳, 高木英行, 小原和昭, 丸野進「最適化調整装置」 日本特許第3588294号 (2004, 8.20) 高木英行, 渡辺政博, 坂本真一「補聴器の最適化調整方法及びその装置」

Hideyuki Takagi, "Interactive Evolutionary Computation: Fusion of the Capabilities of EC Optimization and Human Evaluation," Proceedings of the IEEE, Vol. 89, No. 9, pp. 1275-1296 (2001) Binnur Kurt, A. Sima Etaner-Uyar, Tugba Akbal, Nildem Demir, Alp Emre Kanlikilicer, Merve Can Kus and Fatma Hulya Ulu, "Active Appearance Model-Based Facial Composite Generation with Interactive Nature-Inspired Heuristics," in "Multimedia Content Representation, Classification and Security," Lecture Notes in Computer Science, vol. 4105, pp.183-190, Springer Berlin/Hidelberg (2006). Tugba Akbal, Gul Nildem Demir, Alp Emre Kanlikilicer, Merve Can Kus, and Merve Can Kus, "Interactive Nature-Inspired Heuristics for Automatic Facial Composite Generation," 2006 Genetic and Evolutionary Computation Conference, Undergraduate Student Workshop (GECCO-UGWS 2006), Seattle, WA, USA (July 8-12, 2006). Kanlikilicer A. E., "Interactive Differential Evolution for Facial Composite Generation," 2006 Genetic and Evolutionary Computation Conference, Undergraduate Student Workshop (GECCO-UGWS 2006), Seattle, WA, USA (July 8-12, 2006). Brad Johanson, "Automated Fitness Raters for the GP-Music System," University of Birmingham, Masters Degree Final Project (Sept., 1997)

しかしながら上記のような従来の構成では，最適化対象システムの多数の出力をユーザに提示するため，これらを同時に比較評価することに対する心理的負荷が大きく，対話型最適化装置の普及を妨げるという問題点を有していた．例えば毎世代２０個体で最適フィッティングパラメータを探索する補聴器フィッティングを考えてみよう．毎世代20種類の音を聞き比べて例えば5段階評価する場合の疲労度，困難さは容易に理解できよう．これを5世代，10世代と満足できる補聴器音になるまで反復評価することは，高齢者に限らず大きな負担である．

トーナメント方式に基づく図９の従来の対話型最適化装置では，ユーザが最適化対象システムの多数の出力を同時に評価することなく対比較できる点でユーザ疲労を軽減できる．しかしながら，他の従来の対話型最適化装置ではすべての解候補を直接比較するので評価値の精度が高いが，トーナメント方式は偶然に組み合わされた最適化対象システム出力を比較するだけであるため探索のための情報量が少ない．これは長い探索時間が必要になることを意味する．

この解決方法は２つある．第1は多数の最適化対象システム出力の比較の負荷を軽減することであり，第２は探索性能を向上させ速く最適解を見つけ出すことでユーザ比較評価総数を減らすことである．本発明は上記問題点に鑑み，多数の最適化対象システムの出力比較を行う代わりに２個の出力を対比較するだけでよく，かつ，探索性能も従来よりも高速である対話型最適化装置を提供するものである．

上記問題点を解決するために本発明の対話型最適化装置は，表現型生成部と対個体提示・評価インタフェース部と選択個体置換部を備えたものである．

本発明は上記した構成によって，表現型生成部がtarget個体インデックスの情報を得ることでtrial個体生成部がtrial個体を得るために使われたtarget個体を把握し，表現型生成部がそのtarget個体とtrial個体と対にして対個体提示・評価インタフェース部に送ることで，ユーザの比較評価の心理的疲労を大きく軽減する対比較を対個体提示・評価インタフェース部では可能にする．対個体提示・評価インタフェース部でユーザの比較評価があると，選択個体置換部は，ユーザ選択時のtarget個体とtrial個体を入力し，かつtarget個体インデックス２からそのtarget個体のパラメータ個体メモリ１での格納先が判るので当該位置のtarget個体を順次更新していく．さらにtrial個体生成部３が全子個体の同時比較を用いない差分進化に基づいて最適化を行うことで探索情報の欠落がなく探索を行う．

本発明によれば表現型生成部と対個体提示・評価インタフェース部と選択個体置換部を設けることにより，ユーザの全子個体比較評価を不要にして対比較だけで探索ができるようにし，かつ，全個体比較情報を直接利用しない最適化手法である差分進化に基づいて最適化することで，対比較でありながら探索情報の欠落がなく全子個体比較に基づく方式よりも高速探索を可能にする．

従来の対話型最適化装置と本発明の対話型最適化装置に共通な概略構成図である．

本発明の対話型最適化装置の一構成図である．

trial個体生成部３の一内部構成図である．

mutant個体生成部３１の一内部構成図である．

本発明の対話型最適化装置と，遺伝的アルゴリズムの基く対話型最適化装置と，トーナメント遺伝的アルゴリズムの基く対話型最適化装置の収束特性のシミュレーション結果である．

遺伝的アルゴリズムに基づく従来の対話型最適化装置の一構成図である．

差分進化に基づく従来の対話型最適化装置の一構成図である．

差分進化に基づく従来の別の対話型最適化装置の一構成図である．

遺伝的アルゴリズムに基づきながらトーナメント方式の提示を行う従来の対話型最適化装置の一構成図である．

本発明の一実施形態を図２に示す．図２において，４はtarget個体インデックス２から次世代での置換を対象であるパラメータ個体メモリ１のtarget個体位置を取り込み，当該位置のtarget個体とtrial個体生成部３が生成したtrial個体とを入力し，これらの最適化解ベクトルを最適化対象システムに適用して当該システム出力を得る表現型生成部である．５は表現型生成部４で生成された最適化対象システムの２つの出力をユーザに提示し，ユーザの比較選択情報を入力する対個体提示・評価インタフェース部である．６は対個体提示・評価インタフェース部５でのユーザ比較評価情報を基に，target個体インデックス２が指し示すパラメータ個体メモリ１上の親個体をtarget個体かtrial個体のうちユーザが選択した子個体で置換する選択個体置換部である．

図２のように構成された対話型最適化装置について，以下図２，図３，及び図４を用いてその動作を説明する．

まず図２において， 表現型生成部４はtarget個体インデックス２から次世代での置換を対象であるパラメータ個体メモリ１上のtarget個体位置を取り込むことによって，逐次に次世代探索点に更新する差分進化の現在の更新target個体位置を把握する．またtrial個体生成部３から取り込むtrial個体が現在の更新target個体を使って得られたことも判る．そこで，表現型生成部４は比較すべきtarget個体とtrial個体を得るので，最適化対象システムに適用してユーザに提示できる最適化対象システムの出力を生成し，対個体提示・評価インタフェース部５を介してユーザに比較評価を得る．選択個体置換部６もtarget個体インデックス２から更新対象のパラメータ個体メモリ１上のtarget個体位置を取り込み，かつ，target個体とtrial個体を取り込むので，対個体提示・評価インタフェース部５でユーザが選択したシステム出力に対応する個体でパラメータ個体メモリ１上のtarget個体を更新できる．

図３は差分進化に基づいて最適化を行うtrial個体生成部３の構成図である．図３において３１は更新対象のtarget個体を除くパラメータ個体メモリ１上の３個体を読み込み，mutant個体を生成するmutant個体生成部である．３２はtarget個体インデックスが指し示すパラメータ個体メモリ１上のtarget個体とtrial個体生成部３が生成するmutant個体を入力し交差させる交差部である．

図４はmutant個体生成部３１の具体的演算を行う内部構成図で，３１１と３１２はtarget個体インデックス２が指し示すパラメータ個体メモリ１上のtarget個体以外のパラメータ個体をそれぞれ選択し読み込むパラメータ個体１選択部とパラメータ個体２選択部である．３１３はパラメータ個体２選択部が選択したパラメータ個体からパラメータ個体１選択部が選択したパラメータ個体のベクトル差を求める減算器である．３１４は減算器３１３出力の差分ベクトルをＦ倍する乗算器，３１５はtarget個体インデックス２が指し示すパラメータ個体メモリ１上のtarget個体，パラメータ個体１選択部３１１およびパラメータ個体２選択部３１２が読み込むパラメータ個体以外のパラメータ個体メモリ１上のパラメータ個体（ベース個体）を読み込むベース個体選択部である．３１６は乗算器３１４の乗算結果をベース個体選択部３１５で選択したベース個体に加算する加算器である．

差分進化には各種進化論的計算の書籍や論文に示されているようにいろいろなバリエーションはあるが，代表的な方法は，まずパラメータ個体メモリ１の個体群の中からtarget個体以外に，２つのパラメータ個体と１つのベース個体をランダムに選択し，パラメータ個体間の重み付きベクトルをベース個体に加算してmutant個体を生成する．次にmutant個体とtarget個体とを交差させてtrial個体とし，target個体とtrial個体の良い方でtarget個体を置換する．この作業を全パラメータ個体に行うことで次世代探索とするものである．

mutant個体生成部３１はこのmutant個体を生成する方法で，mutant個体＝ベース個体＋Ｆ（パラメータ個体２−パラメータ個体１）を求め，trial個体生成部３は交差部３２でtarget個体とmutant個体生成部３１生成のmutant個体を交差させてtrial個体を生成し，対個体提示・評価インタフェース部５でユーザにtarget個体とtrial個体の良い方を選択させて，選択個体置換部６が良い方をtarget個体と入れ替える．

図５は本発明の対話型最適化装置と，遺伝的アルゴリズムに基づく図2の従来の対話型最適化装置，および，トーナメント遺伝的アルゴリズムに基づく図９の従来の対話型最適化装置の性能をシミュレーションで調べた比較グラフである．シミュレーションでは４つの５次元ガウス関数を組み合わせた混合ガウス関数を用い，ユーザが毎世代１点から5点の離散的相対評価値を与えるものとしてシミュレーションした．差分進化に基づく図７や図８の従来の対話型最適化装置の収束性能は本発明の対話型最適化装置の違いは個体提示・評価インタフェース部５１と対個体提示・評価インタフェース部５でユーザに強いる比較評価の心理的負荷の違いだけで収束速度は同じである．

図５が示すように，遺伝的アルゴリズムに基づく図2の従来の対話型最適化装置は本発明の対話型最適化装置に比べてユーザの比較評価負荷が大きいだけでなく最適化手法の違いによって収束速度も遅くユーザの評価時間が長くなる．また，ユーザの比較評価負荷が本発明の対話型最適化装置と同じトーナメント遺伝的アルゴリズムに基づく従来の対話型最適化装置は，前述したようにトーナメントの組み合わせ以外の個体との比較情報がなく，その探索情報量不足のため本発明の対話型最適化装置よりも収束速度が遅くなる．すなわちユーザは長い間比較評価を強いられる．

以上のように本実施例によれば，表現型生成部４と対個体提示・評価インタフェース部5と選択個体置換部６を設けることにより，ユーザは複数のシステム出力を比較評価することなく，一対の比較をパラメータ個体メモリ１上のtarget個体数分繰り返せばよい．ｎ回の一対比較評価をすることは，従来の対話型最適化装置のようにｎ個の候補を比較評価する方式に比べて飛躍的に心理的疲労を軽減できる．システム出力が音や映像のように同時比較が困難なため時系列比較をしなければいけない場合，ｎ個の音や映像を記憶し記憶内の音や映像を基に比較せざるを得ないことの心理的負担の大きさは容易に想像できよう．また画像のように空間比較できる場合であっても，ｎ個の提示システム出力を相互比較しながらｋ段階の評価する場合や，（ｎ＋ｍ）個の提示システム出力を相互比較してｎ個を選択する場合であっても，個々の評価値を記憶する必要があるため，２個の比較をする場合に比べて格段の負荷がかかる．

またtrial個体生成部３では差分進化に基づいた最適化を行うため，同じ対比較を行うが組み合わせ情報の欠落がある従来のトーナメント方式に基づく最適化に比べて，速く満足できる解に到達することができる．これはユーザの疲労軽減につながる．

本発明は，コンピュータグラフィックス生成，音楽生成，デザイン生成のようなアート応用分野，音響信号処理，画像信号処理，データマイニング，メディアデータベース検索，ロボティクス，制御，人工現実感，等の工学応用など，非常に幅広い分野で．人間の経験，知識，感性を最適化設計に組み込むことができ，産業上の利用効果には大なるものがある．

１ パラメータ個体メモリ
２ target個体インデックス
３ trial個体生成部
３１ mutant個体生成部
３１１ パラメータ個体１選択部
３１２ パラメータ個体２選択部
３１３ 減算器
３１４ 乗算器
３１５ ベース個体選択部
３１６ 加算器
３２ 交差部
４ 表現型生成部
４１ 表現型生成部
４２ トーナメント表現型生成部
５ 対個体提示・評価インタフェース部
５１ 個体提示・評価インタフェース部
５２ 対個体提示・評価インタフェース部
６ 選択個体置換部
６１ 選択個体置換部
７ trial個体メモリ
８ 子パラメータ個体メモリ
９ 親個体選択部
１０ 交差部
１１ 突然変異部
２０ 最適化部

Claims (1)

1. 最適化対象システムの最適化パラメータ候補を記憶するパラメータ個体メモリと，前記パラメータ個体メモリの最適化パラメータ候補を逐次更新する際の更新パラメータ候補対象の前記パラメータ個体メモリ上の位置を示すtarget個体インデックスと， 前記target個体インデックスが指す前記パラメータ個体メモリ上の更新対象パラメータ候補と当該更新対象パラメータ以外の前記パラメータ個体メモリ上の複数のパラメータ候補を取り込み新たな最適化パラメータ候補を生成するtrial個体生成部と，前記target個体インデックスが指す前記パラメータ個体メモリ上の更新対象パラメータ候補と前記trial個体生成部が生成する最適化パラメータ候補とを入力し各々を最適化対象システムに適用して当該最適化対象システム出力を生成する表現型生成部と，前記表現型生成部が生成する2つの最適化対象システム出力をユーザに提示しユーザが対比較して選択した情報を入力する対個体提示・評価インタフェース部と，前記対個体提示・評価インタフェース部から得られたユーザの選択情報に基づいて前記trial個体生成部が生成する新たな最適化パラメータ候補か前記target個体インデックス指す前記パラメータ個体メモリ上の更新対象パラメータ候補のいずれかを当該更新対象パラメータ候補と入れ替える選択個体置換部を備えたことを特徴とする対話型最適化装置．
   

Images