JPH06149866A

JPH06149866A - 解探索装置

Info

Publication number: JPH06149866A
Application number: JP4323586A
Authority: JP
Inventors: Kazunori Takatsu; 和典高津
Original assignee: Ricoh Co Ltd
Current assignee: Ricoh Co Ltd
Priority date: 1992-11-09
Filing date: 1992-11-09
Publication date: 1994-05-31

Abstract

(57)【要約】【目的】最適解を効率的にかつ信頼性良く探索するこ
とが可能である。【構成】探索空間に所定分布をもつサンプル集団を初
期発生させる初期分布生成部１と、発生させたサンプル
に対して目的関数のとる値を評価値として求め、サンプ
ルの分布を評価値によって重み付けするサンプル評価部
２と、重み付けを行なったサンプルの分布の近似を行な
う分布近似部３と、分布近似部３によって得られた分布
の近似関数を用いて新たなサンプルを少なくとも１つ発
生させ、これをサンプル評価部２に再び与えるサンプル
発生部４とを有し、サンプル評価部２，分布近似部３，
サンプル発生部４における処理が繰り返し行なわれるこ
とにより、所定の問題に対する最適解が探索される。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、最適設計，システム同
定，画像再構成，最適制御などに利用される解探索装置
に関する。

【０００２】

【従来の技術】最適設計，システム同定，画像再構成，
最適制御などの分野においては、問題となる解の最適な
組合せ，すなわち最適解を求めることが要求されてい
る。このような解の探索手法として、近年、ニューラル
ネットワークにおける最急降下法，モンテカルロ法ある
いは遺伝的アルゴリズムの適用が検討されている。

【０００３】

【発明が解決しようとする課題】しかしながら、ニュー
ラルネットワークにおける最急降下法は、局所解に落ち
る可能性が高く、また最適解を得るまでの収束が遅いと
いう問題があり、さらには目的関数の微分可能性などを
必要としていた。また、モンテカルロ法は、探索空間の
次元が高くなるほど、探索効率が悪くなるという欠点を
有している。さらに、遺伝的アルゴリズムは、未成熟収
束（premature convergence）の問題やコード化の難し
さ，各種パラメータの設定の困難さなどの問題を有して
いる。このように従来の方法では、最適解を効率的にか
つ信頼性良く探索するのが難しいという欠点があった。

【０００４】本発明は、最適解を効率的にかつ信頼性良
く探索することの可能な解探索装置を提供することを目
的としている。

【０００５】

【課題を解決するための手段および作用】上記目的を達
成するために、本発明は、探索空間に所定分布をもつサ
ンプル集団を初期発生させる初期分布生成手段と、発生
させたサンプルに対して目的関数のとる値を評価値とし
て求め、サンプルの分布を評価値によって重み付けし、
重み付けを行なったサンプルの分布の近似を行なう評価
近似手段と、評価近似手段によって得られた分布の近似
関数を用いて新たなサンプルを少なくとも１つ発生さ
せ、これを前記評価近似手段に再び与えるサンプル発生
手段とを有し、評価近似手段とサンプル発生手段とにお
ける処理が繰り返し行なわれることにより、所定の問題
に対する最適解が探索されるようになっている。あるい
は、評価近似手段は、評価値の低いものをサンプル集団
から除去し、残ったサンプルの分布の近似を行なうよう
になっている。これにより、効率的に探索を行なうこと
ができ、また最急降下法と異なり、目的関数の微分可能
性などに依らないため、広い範囲の問題に適用すること
ができ、最適解を効果的にかつ信頼性良く探索すること
ができる。

【０００６】

【実施例】以下、本発明の一実施例を図面に基づいて説
明する。図１は本発明に係る解探索装置の一実施例のブ
ロック図である。図１を参照すると、本実施例の解探索
装置は、初期分布生成部１と、サンプル評価部２と、分
布近似部３と、サンプル発生部４とを有している。ここ
で、初期分布生成部１は、探索空間に初期のサンプル集
団を発生させるようになっている。なお、この際、初期
分布生成部１は、初期のサンプル集団を、例えば探索空
間上で一様分布するように発生させても良いし、ある程
度事前情報があればそれを基に発生させても良い。ま
た、サンプル評価部２は、発生させたサンプルを目的関
数によって評価するようになっている。また、分布近似
部３は、評価値によって重み付けを行なったサンプルの
分布を近似するようになっており、具体的には、ニュー
ラルネットワーク，あるいは遺伝的アルゴリズム，ある
いはクラスタリング，あるいはフーリエ変換，あるいは
正規分布の重ね合わせなどを用い近似を行なうことがで
きる。また、サンプル発生部４は、近似関数を用いて新
たなサンプルを発生させるようになっており、サンプル
評価部２，分布近似部３，サンプル発生部４が逐次、繰
り返し作動することにより、最適な解が探索されるよう
になっている。

【０００７】このように、図１の解探索装置は、問題の
解となる最適な組合せを求める際に、様々なパラメータ
が複雑に絡み合っていることによってその最適な解を容
易には求められない場合にも、良好な解を近似として得
るように構成されている。

【０００８】次にこのような構成の解探索装置の動作を
図２のフローチャートを用いて説明する。先づ、ステッ
プＳ１では、初期分布生成部１によって初期のサンプル
集団を生成する。例えば、図３（ａ）に示すように、探
索空間上で一様分布ＡＰ₁のサンプル集団Ｇ₁を発生させ
る。次いで、ステップＳ２では、発生させたサンプル集
団内の各サンプルに対してそれぞれ目的関数のとる値
（評価値）を求めて、各サンプルを評価し、ステップＳ
３では、サンプルの分布を各サンプルの評価値によって
重み付けし、重み付けを行なったサンプルの分布の近似
を行なう。例えば、図３（ａ）のように発生させたサン
プルＧ₁を目的関数ＯＢＪによって評価し、この評価値
によってサンプルＧ₁の分布ＡＰ₁を重み付けして、図３
（ｂ）に示すように重み付けを行なったサンプルＧ₁の
分布の近似関数ＡＰ₂を得る。次いで、ステップＳ４で
は、ステップＳ２，Ｓ３で得られた近似関数ＡＰ₂を用
いて新たなサンプルを１つもしくは複数個発生させる。
例えば、図３（ｃ）に示すように、近似関数ＡＰ₂を用
いて新たなサンプルＧ₂を発生させる。

【０００９】しかる後、再びステップＳ２に戻り、図３
（ｃ）より発生させたサンプルＧ₂に対して目的関数Ｏ
ＢＪのとる値（評価値）を求めてこれを評価し、またス
テップＳ３において重み付けして、図３（ｄ）に示すよ
うに重み付けを行なったサンプルＧ₂の分布の近似関数
ＡＰ₃を得る。図３（ｄ）からわかるように、近似関数
ＡＰ₃は、近似関数ＡＰ₂よりも目的関数ＯＢＪをより良
好に近似したものとなっており、従って、ステップＳ２
乃至Ｓ４の処理を逐次繰り返し行なうことにより、目的
関数ＯＢＪを良好に近似した分布の近似関数を得ること
ができ、これに基づき、良好な解，すなわち最適解とし
てのサンプルを得ることができる。換言すれば、本実施
例では、分布の近似関数を利用して（すなわち、本来の
分布に対して仮定を置いて）探索空間において有望なと
ころを新たな探索点とし、その探索点を含めてより良好
な近似を行ない、さらにその近似関数を用いて有望な点
を探索していくことで、効率的な探索を行ない、高速に
最適解を求めることができる。

【００１０】上述した実施例は、最も単純な例のもので
あり、基本的なものであって、これから様々な拡張を行
なうことが可能である。例えば、良好な近似のために
は、目的関数が変わるごとに近似の方法をも変更しなけ
ればならないが、分布の近似として複数の近似を独立に
行ない、それぞれの近似関数から独立に新たなサンプル
を発生させるようにすれば、目的関数の形が予めわから
ない場合でも、目的関数に容易に適合させる可能性が高
く、従って、様々な目的関数に対応でき局所解などに陥
りにくくすることができる。

【００１１】さらに、複数の近似方法を利用する場合、
サンプル評価部２においては、各近似方法により発生し
たサンプルの評価値の平均を近似方法の良さと考え、こ
の平均に基づき各近似方法を評価し、この結果、サンプ
ルの評価値の平均に近い評価値を与えた近似方法を高く
評価し、より評価の高い近似方法からより多くのサンプ
ルを優先的に発生させることで、良好に適合している近
似方法を利用することができ、より効率的な探索が可能
となる。また、これに付随して、目的関数に良好に適合
していない近似方法については、そのサンプル数を減少
させ、計算量を減らすようにする。あるいは、サンプル
の分布が収束し、サンプル数が減少してきたときに、近
似方法の種類を減らすこともできる。これにより、より
効率的な探索が可能であるとともに全体の計算量の増加
を防止することができる。

【００１２】また、分布近似部３において、分布の近似
に最尤推定法を用いれば、数理統計学的に最も望ましい
性質をもつ方法により、分布を目的関数に近似させるこ
とができる。また、ニューラルネットワークでは最尤推
定法を行なっているので、分布の近似にニューラルネッ
トワークを用いる場合にも、望ましい方法で近似を行な
うことができる。さらに、ニューラルネットワークを用
いる場合には、新しいサンプルを発生した後に、始めか
ら学習を行なう必要はなく、新しいサンプルだけを学習
すれば良いため、高速に近似を行なうことができる。

【００１３】また、遺伝的アルゴリズムによって、分布
のパラメータを決定する場合には、遺伝的アルゴリズム
のもつ汎用性から、任意の分布のモデルを使って近似を
行なうことができる。

【００１４】また、クラスタリング手法である K-means
法は、近似的に最尤推定法を行なっている。この方法
は非常に高速であるので、良好な分布の近似を高速に行
なうことができる。さらに K-means 法においては、近
似された分布において良い探索点が明らかに現れている
ので、新たな探索点の発生をも高速に行なうことができ
る。また、新しいサンプルを発生させた場合にも、改め
て最初から近似を行なう必要はなく、クラスタリングを
続行すれば良いため高速な近似が可能となる。

【００１５】また、フーリエ変換を用いる場合には、任
意の精度での分布の近似が理論的に保証されている。ま
たＦＦＴチップ等を利用すれば近似を高速に行なうこと
ができる。

【００１６】また、正規分布の重ね合わせを用いる場合
には、任意の関数の近似ができることが理論的に証明さ
れている。また、正規分布の重ね合わせの場合、良い探
索点がわかりやすく、新たな探索点を発生させるのが容
易である。

【００１７】ところで、探索空間においてサンプル数が
少ない場合、サンプルの分布の近似を行なうと、必要以
上に分布が収束し、広い範囲の探索ができなくなる可能
性がある。そこで、分布の分散をスケジュール調整する
ことにより、必要以上に早い収束を避け、局所解に陥り
にくくすることができる。

【００１８】すなわちサンプル数が多い場合には、目的
関数をかなり正確に近似できるが、サンプル数が少ない
場合は、統計的な誤差が大きくなる。そこで、求めた近
似関数にはサンプル数に応じた誤差が含まれていると考
え、新たなサンプルの発生の際には、近似関数をそのま
ま使わず、誤差の範囲に含まれる適当な近似関数を用い
てサンプルを発生させる。これによって、局所解に陥る
可能性を低くすることができる。

【００１９】また、評価値の低いサンプルを集団から除
去することにより、サンプル数を適当な数に保つことも
でき、この場合には、サンプル数の増加による処理時間
の増加を防ぐことができる。また、評価値の良いサンプ
ルのみを利用することにより、より効率的な探索が可能
となる。

【００２０】いま例えば、正規分布の線形和で分布の近
似を行ない、サンプルを評価値によって重み付けするか
わりに、評価値の低いものをサンプル集団から除去する
場合について、理論的な検討を行なう。探索空間をΩと
し、探索空間Ω上の測度をμとし、評価関数をＥ（ｘ)
(ｘ∈Ω）とし、また評価値に基づきサンプルを選択す
る際にサンプルの選択の指標を与える係数をＡとする
と、本発明では図４のフローチャートに示すような手順
を経て、最適なパラメータｘを求めることができる。す
なわち、先づ、探索空間Ω内から独立したサンプル｛ｘ
₁，ｘ₂，…，ｘ_N｝を抽出し（ステップＴ１）、これら
のサンプルのうち、評価値Ｅ（ｘ）の大きい方からＡ×
１００％の割り合いでサンプル、例えば（ｘ₁，ｘ₂，
…，ｘ_P）を選択する（ステップＴ２）。

【００２１】次いで、選択されたサンプル｛ｘ₁，ｘ₂，
…，ｘ_P｝を正規分布の線形和からのサンプルとみなし
て、最尤推定法によってその確率密度を推定する（ステ
ップＴ３）。しかる後、得られた確率分布を用いて、新
しいサンプル｛ｘ₁，ｘ₂，…，ｘ_N｝を生成し、再びス
テップＴ２に戻って、ステップＴ２乃至Ｔ４の処理を繰
り返す。

【００２２】上記処理の理論的背景を考える。｛ｘ₁，
ｘ₂，…，ｘ_N｝を領域Ψ上の一様分布から取られたサン
プルとする。このサンプルから評価値Ｅ（ｘ_i）の良い
順にＡ×１００％の個数のサンプルだけ取り出すと、そ
のサンプルはある領域｛ｘ∈Ψ；Ｅ（ｘ）＞ａ｝上の一
様分布からのサンプルとなっている。ここでａは、次式
を満たす値のものである。

【００２３】

【数１】 μ（｛ｘ∈Ψ；Ｅ（ｘ）＞ａ｝）＝Ａ・μ（Ψ）

【００２４】ここで、ΩをΩ₀に初期設定し、Ω_kに対し
て、ａ_k+1，Ω_k+1を次の式を満たすものとして帰納的に
定義する。

【００２５】

【数２】 μ（｛ｘ∈Ω_k；Ｅ（ｘ）＞ａ_k+1｝）＝Ａ・μ（Ω_k） Ω_k+1＝｛ｘ∈Ω_k；Ｅ（ｘ）＞ａ_k+1｝

【００２６】この時、μ（Ω_k）＝Ａ^k・μ（Ω₀）が成
立するので、limμ（Ω_k）＝０となる。また定義によ
り、ａ_k+1＞ａ_kである。従って、Ｅ（ｘ）が有界であれ
ば、lim a_kは収束する。

【００２７】しかしながら、Ω_k上の一様分布を具体的
に求めることができないため、分布ＡＰを次式のように
正規分布の線形和で近似する。なお、次式でσ_iはｉ番
目の正規分布の分散（あるいは共分散）であり、Ｃ_iは
線形和の係数である。

【００２８】

【数３】

【００２９】この正規分布の線形和によって、任意の確
率分布を近似できるので、これにより、Ω_k上の一様分
布を近似することができる。この手法においては、一様
分布と見なせる程、サンプル数が充分多く、一様分布を
近似できる程、多数の正規分布の線形和となっている場
合に、問題の如何によらず、探索領域はＡ^kに比例して
小さくなっていくことがわかる。これにより、最適解に
良好に収束させることができる。

【００３０】

【発明の効果】以上に説明したように、請求項１記載の
発明によれば、発生させたサンプルに対して目的関数の
とる値を評価値として求め、サンプルの分布を評価値に
よって重み付けし、重み付けを行なったサンプルの分布
の近似を行ない、これによって得られた分布の近似関数
を用いて新たなサンプルを少なくとも１つ発生させ、こ
れを評価近似するというように、評価近似とサンプル発
生とを繰り返し行なうことにより、所定の問題に対する
最適解が探索されるようになっているので、効率的にか
つ信頼性良く探索を行なうことができ、また最急降下法
と異なり、目的関数の微分可能性などに依らないため、
広い範囲の問題に適用することができる。

【００３１】また、請求項２記載の発明によれば、評価
近似処理において分布の近似として複数の近似を独立に
行ない、その場合に、それぞれの分布の近似関数から独
立に新たなサンプルを発生させるようにしているので、
様々な目的関数に対応でき、局所解などに陥りにくくす
ることができる。

【００３２】また、請求項３記載の発明によれば、各分
布の近似関数から発生したサンプルの評価値の平均をと
り、該平均に基づき各分布の近似関数を評価し、この評
価結果に基づき、評価の高い分布の近似関数からより多
くのサンプルを発生させるようにしており、近似として
より良好なものから優先的にサンプルを発生させること
によって、より効率的な探索が可能となる。

【００３３】また、請求項４記載の発明によれば、近似
方法の種類をサンプル数に応じて減らしていくので、サ
ンプルの分布が収束してきた時に、より迅速に最適解に
収束させることができる。

【００３４】また、請求項５記載の発明によれば、分布
を最尤推定法を用いて推定するようにしているので、数
理統計学的に最も望ましい性質をもつ方法により目的関
数を近似することができる。

【００３５】また、請求項６記載の発明によれば、サン
プルの分布の近似にニューラルネットワークを用いるよ
うにしているので、任意の分布の近似を行なうことがで
き、また、新たなサンプルを発生した後の近似は、新し
いサンプルだけを学習するだけで良く、高速な近似を行
なうことができる。

【００３６】また、請求項７記載の発明によれば、サン
プルの分布の近似に遺伝的アルゴリズムを用いるように
しているので、任意のモデルによって分布の近似を行な
うことができる。

【００３７】また、請求項８記載の発明によれば、サン
プルの分布の近似にクラスタリングの手法を用いるよう
にしているので、高速に近似を行なうことができ、特
に、K-means法などを用いれば、近似された分布におい
ても最も良い探索点が明らかに現れているので、新たな
探索点の発生も高速に行なうことができる。さらに、新
たなサンプルを発生した後の近似は、新しいサンプルを
加えてクラスタリングを続行すれば良く、高速な近似が
可能である。

【００３８】また、請求項９記載の発明によれば、フー
リエ変換を用いるようにしているので、任意の分布の近
似を行なうことができる。また、フーリエ変換を用いる
場合には、ニューラルネットワークと異なり、分布に現
れる山の個数を予め設定する必要がない。またＦＦＴ
（高速フーリエ変換）の使用により高速に近似を行なう
ことができる。

【００３９】また、請求項１０記載の発明によれば、近
似に正規分布の重ね合わせを用いるようにしているの
で、任意の分布の近似が可能であり、また近似された分
布において最も良い探索点が明らかに現れているので、
新たな探索点を容易に発生させることができる。

【００４０】また、請求項１１記載の発明によれば、近
似する正規分布の分散（あるいは共分散）の大きさをサ
ンプル数に応じてスケジュール調整していくので、初期
段階において必要以上に分布が収束し、局所解に捕らわ
れることを防止することができる。

【００４１】また、請求項１２記載の発明によれば、求
めた近似関数にはサンプル数に応じた統計的な誤差が含
まれていると考え、新たなサンプルを発生させる際に
は、誤差の範囲に含まれる適当な近似関数を用いてお
り、サンプル数の少なさによる統計的な誤差を考慮に入
れているため、局所解に陥りにくい探索が可能となる。

【００４２】また、請求項１３記載の発明によれば、評
価値によって重み付けするかわりに、評価値の低いサン
プルを除去するようにすることにより、探索場所を絞り
込むことができ、効率的な探索が可能となる。

【図面の簡単な説明】

【図１】本発明に係る解探索装置の一実施例のブロック
図である。

【図２】図１に示す解探索装置の処理流れを示すフロー
チャートである。

【図３】図１に示す解探索装置の具体的な処理例を示す
図である。

【図４】評価値の低いサンプルをサンプル集団から除去
する処理の流れを示すフローチャートである。

【符号の説明】

１初期分布生成部２サンプル評価部３分布近似部４サンプル発生部

Claims

【特許請求の範囲】

【請求項１】探索空間に所定分布をもつサンプル集団
を初期発生させる初期分布生成手段と、発生させたサン
プルに対して目的関数のとる値を評価値として求め、サ
ンプルの分布を評価値によって重み付けし、重み付けを
行なったサンプルの分布の近似を行なう評価近似手段
と、評価近似手段によって得られた分布の近似関数を用
いて新たなサンプルを少なくとも１つ発生させ、これを
前記評価近似手段に再び与えるサンプル発生手段とを有
し、評価近似手段とサンプル発生手段とにおける処理が
繰り返し行なわれることにより、所定の問題に対する最
適解が探索されるようになっていることを特徴とする解
探索装置。
【請求項２】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似として複数の近似を独立
に行なうようになっており、前記サンプル発生手段は、
前記評価近似手段において複数の近似が独立に行なわれ
る場合に、それぞれの分布の近似関数から独立に新たな
サンプルを発生させることを特徴とする解探索装置。
【請求項３】請求項２記載の解探索装置において、前
記評価近似手段は、各分布の近似関数から発生したサン
プルの評価値の平均をとり、該平均に基づき各分布の近
似関数を評価し、前記サンプル発生手段は、前記評価近
似手段の評価結果に基づき、評価の高い分布の近似関数
からより多くのサンプルを発生させることを特徴とする
解探索装置。
【請求項４】請求項３記載の解探索装置において、前
記評価近似手段は、近似方法の種類をサンプル数に応じ
て減らしていくことを特徴とする解探索装置。
【請求項５】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似に最尤推定法を用いるこ
とを特徴とする解探索装置。
【請求項６】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似にニューラルネットワー
クを用いることを特徴とする解探索装置。
【請求項７】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似に遺伝的アルゴリズムを
用いることを特徴とする解探索装置。
【請求項８】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似にクラスタリング手法を
用いることを特徴とする解探索装置。
【請求項９】請求項１記載の解探索装置において、前
記評価近似手段は、分布の近似にフーリエ変換を用いる
ことを特徴とする解探索装置。
【請求項１０】請求項１記載の解探索装置において、
前記評価近似手段は、分布の近似に正規分布の重ね合わ
せを用いることを特徴とする解探索装置。
【請求項１１】請求項１０記載の解探索装置におい
て、前記評価近似手段は、近似する正規分布の分散（あ
るいは共分散）の大きさをサンプル数に応じてスケジュ
ール調整していくことを特徴とする解探索装置。
【請求項１２】請求項１記載の解探索装置において、
前記評価近似手段は、求めた近似関数にはサンプル数に
応じた統計的な誤差が含まれていると考え、新たなサン
プルを発生させる際には、誤差の範囲に含まれる適当な
近似関数を用いることを特徴とする解探索装置。
【請求項１３】探索空間に所定分布をもつサンプル集
団を初期発生させる初期分布生成手段と、発生させたサ
ンプルに対して目的関数のとる値を評価値として求め、
評価値の低いものをサンプル集団から除去し、残ったサ
ンプルの分布の近似を行なう評価近似手段と、評価近似
手段によって得られた分布の近似関数を用いて新たなサ
ンプルを少なくとも１つ発生させ、これを前記評価近似
手段に再び与えるサンプル発生手段とを有し、評価近似
手段とサンプル発生手段とにおける処理が繰り返し行な
われることにより、所定の問題に対する最適解が探索さ
れるようになっていることを特徴とする解探索装置。