JPH09146908A

JPH09146908A - 問題解決方法

Info

Publication number: JPH09146908A
Application number: JP7299889A
Authority: JP
Inventors: Makoto Ishii; 信石井
Original assignee: ATR NINGEN JOHO TSUSHIN KENKYU; ATR Advanced Telecommunications Research Institute International
Current assignee: ATR NINGEN JOHO TSUSHIN KENKYU; ATR Advanced Telecommunications Research Institute International
Priority date: 1995-11-17
Filing date: 1995-11-17
Publication date: 1997-06-06

Abstract

(57)【要約】【課題】イジングスピンを用いたニューラルネットワ
ークモデルにより求めた解に比し、良い解を得ることで
ある。【解決手段】この発明は、ポッツスピンを用いた非平
衡なニューラルネットワークモデルを用いて複数のカオ
ス解Ｖ_a,nを得るステップ（Ｓ１〜Ｓ７）および複数の
カオス解Ｖ_a,nによって得られた複数の解Ｓ_a,nが表現
している巡回路の中から最短のものを選び、それを巡回
セールスマン問題（ＴＳＰ）の解とするステップＳ８を
含む。このような処理をすることで、イジングスピンを
用いたニューラルネットワークモデルにより求めた解に
比し、良い解を得ることができる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、最適化問題を解く
ための問題解決方法に関し、特に、ポッツスピンを用い
た非平衡なニューラルネットワークモデルを用いる問題
解決方法に関する。

【０００２】

【従来の技術】従来の問題解決方法に用いるニューラル
ネットワークモデルは、たとえば、（１）Hopfield, J.
J.,and D.W.Tank （1985）. Biological Cybernetics,
52. 、（２）Nozawa,H. （1992）.CHAOS,2. に開示され
ている。文献（１）は、ホップフィールドニューラルネ
ットワークモデルについて開示している。文献（２）
は、カオスニューラルネットワークモデルについて開示
している。

【０００３】まず、ホップフィールドニューラルネット
ワークモデルについて説明する。多くの組合せ最適化問
題は０あるいは１をとる変数Ｓ_nについての２次形式で
表わされたエネルギＥ（Ｓ）の最小化問題として形式化
できる。エネルギＥ（Ｓ）は、次式で表わされる。

【０００４】

【数１】

【０００５】このエネルギＥ（Ｓ）は解としての制約条
件を含む。ここで、Ｗ_nmとＪ_nは問題ごとに決められる
パラメータである。アナログホップフィールドモデル
（ホップフィールドニューラルネットワークモデル）は
このエネルギの最小化問題をアナログ変数Ｖ_n∈［０，
１］を用いた以下の微分方程式で解くモデルである。

【０００６】

【数２】

【０００７】ここで、τは時定数、Ｕ_n（ｔ）は内部変
数、ｔは時間、Ｇ（Ｕ_n（ｔ））はシグモイド関数を示
す。Ｔは、温度パラメータと呼ばれるものである。温度
Ｔが０の極限で、この微分方程式の安定平衡解は元のエ
ネルギＥ（Ｓ）の局所解に一致することがわかる。した
がって、比較的小さなＴを用いて上記の微分方程式の安
定平衡点を求めると組合せ最適化問題の解に対応してい
ることが期待できる。

【０００８】次にカオスニューラルネットワークモデル
について説明する。上述したアナログホップフィールド
モデルは、必ずいずれかの安定平衡点で平衡となる。し
たがって、初期値によっていずれの解が得られるかが決
まる。平衡とならないものとして、カオスニューラルネ
ットワークでは、以下の離散時間の非平衡力学系を用い
る。ただし、ここでは元の文献における方程式を変数変
換によりわかりやすくしているが、全く等価なモデルで
ある。

【０００９】

【数３】

【００１０】ここで、κは、時間差分を表わすパラメー
タ、αは抑制的自己結合を示している。上記した文献
（２）によると、このモデルは、アナログホップフィー
ルドモデルよりも大幅に性能が良いことがわかってい
る。

【００１１】

【発明が解決しようとする課題】上記したアナログホッ
プフィールドモデル（ホップフィールドニューラルネッ
トワークモデル）においては、十分に小さなＴを用いな
いと解としての制約条件を満たしたものが得られない一
方で、小さなＴでは解のばらつきが非常に大きく良い解
が得られにくいという問題点がある。

【００１２】また、アナログホップフィールドモデルに
おいては、ばらつきが大きいために初期値依存性が大き
い。すなわち、解が良くないため実用には適さないとい
う問題点がある。

【００１３】上記したカオスニューラルネットワークモ
デルにおいては、実験によれば比較的大規模な問題につ
いては性能がさほど良いわけではないという問題点があ
る。

【００１４】この発明は、以上のような問題点を解決す
るためになされたもので、イジングスピンを用いたニュ
ーラルネットワークモデル（たとえば、上記したホップ
フィールドニューラルネットワークモデルやカオスニュ
ーラルネットワークモデルなどである）により求めた解
に比し、良い解を得ることができる問題解決方法を提供
することを目的とする。

【００１５】この発明の他の目的は、問題の規模が大き
くなっても必ず解を得ることができる問題解決方法を提
供することである。

【００１６】

【課題を解決するための手段】この発明の第１の発明に
係る問題解決方法は、最適化問題の解を出すための問題
解決方法であって、ポッツスピンを用いたニューラルネ
ットワークモデルに基づき、カオス解を求めるステップ
と、カオス解を繰返し求めるステップと、繰返し得られ
た複数のカオス解によって得られた複数の解の中から、
最適化問題の解を選択するステップとを含む。

【００１７】このように、ポッツスピンを用いた非平衡
なニューラルネットワークモデルにより最適化問題の解
を出す。

【００１８】このため、イジングスピンを用いたニュー
ラルネットワークモデルにより求めた解に比し、良い解
を得ることができる。

【００１９】さらに、ポッツスピンを用いているため、
可能なカオス解はＮ次元の超格子上にあり、そのカオス
解の数はＮ^Nである。これに対し、イジングスピンを用
いた場合は、可能な解はＮ×Ｎ次元の超立方体の端点上
にあり、その解の数は

【００２０】

【数４】

【００２１】である。このように、イジングスピンを用
いる場合に比し、探索すべき次元が小さくてすみ、高速
で処理を行なうことができる。

【００２２】さらに、非平衡なニューラルネットワーク
モデルであるため、問題の規模が大きくなっても必ず最
適解あるいは準最適解を得ることができる。

【００２３】さらに、アニーリング法を用いていないた
め、ハードウェア化が可能である。好ましくは、複数の
カオス解によって得られた複数の解の各々について、ヒ
ューリスティクスを適用し、複数のカオス解によって得
られた複数の解を修正するステップをさらに含む。

【００２４】このように、ヒューリスティクスにより複
数のカオス解によって得られた複数の解を修正し、修正
した複数のカオス解によって得られた複数の解の中か
ら、最適化問題の解を選択する。

【００２５】このため、カオス解のランダムな部分の影
響を少なくでき、さらに良い解を得ることができる。

【００２６】

【発明の実施の形態】以下、本発明の実施の形態による
問題解決方法について図面を参照しながら説明する。

【００２７】（実施の形態１）従来の技術の欄で説明し
た２つの問題解決方法は、イジングスピン系を用いたニ
ューラルネットワークモデルを用いていたのに対し、実
施の形態１による問題解決方法は、ポッツスピン系を用
いたニューラルネットワークモデルであって、かつ、非
平衡力学系（ポッツスピン系を用いた非平衡なニューラ
ルネットワークモデル）を用いている。これにより、実
施の形態１による問題解決方法は、従来の問題解決方法
に比し、大幅に性能を良くすることができる。以下、詳
細に説明する。

【００２８】アナログホップフィールドニューラルネッ
トワークモデルは、通常そのリアプノフ（Lyapunov）関
数の極小解に収束し、シグモイド（sigmoid ）出力関数
の傾斜が大きくなるとリアプノフ関数はエネルギ関数と
ほぼ等しくなる。この性質を利用して、アナログホップ
フィールドニューラルネットワークモデルは、２次式に
よるエネルギ関数の最小化として定義される組合せ最適
化問題に応用することができる。このアナログホップフ
ィールドニューラルネットワークモデルは、ボルツマン
マシン（Boltzmann machine ）の平均場近似（以下、
「ＭＦＴ」という）と等価である。アナログホップフィ
ールドニューラルネットワークモデルのリアプノフ関数
はＭＦＴの自由エネルギ関数に対応する。

【００２９】問題の規模が非常に小さい場合でなけれ
ば、アナログホップフィールドニューラルネットワーク
モデルは組合せ最適化問題を解くための良いアルゴリズ
ムではないことがわかっている。比較的大規模の問題に
ついては、ニューラルネットワークモデルによるアプロ
ーチはさらにいくつかのメカニズムを必要とする。その
１つが、シグモイド関数の傾きを徐々に大きくしていく
ことである。これはＭＦＴでは「温度」を徐々に低くし
ていくことに相当し、統計力学ではアニーリング（anne
aling ）と呼ばれる。このアルゴリズムが平均場アニー
リング（以下、「ＭＦＡ」という）である。徐々に温度
を下げていく間に、ＭＦＴ解の多くの分岐が生じる。Ｍ
ＦＡ手順におけるこの分岐のプロセスを調査した結果、
ＭＦＡにはある限界があることがわかっている。

【００３０】ホップフィールドニューラルネットワーク
モデルのカオス版が、小規模の巡回セールスマン問題
（以下、「ＴＳＰ」という）の最適解をほぼ１００％見
いだすことができることが示されている。このモデル
は、自己ループを備えたホップフィールドニューラルネ
ットワークモデルのオイラー差分方程式に基づいてお
り、このモデルはカオスニューラルネットワークモデル
（以下、「ＣＮＮ」という）と呼ばれる。自己ループを
備えた微分方程式から由来するオイラー差分方程式が、
たとえ元の微分方程式が安定解を持つ場合でもカオス解
を持つことが知られている。

【００３１】ＴＳＰ、グラフ分割問題、Ｎクイーン問題
（N-Queen 問題）などにおいて、ニューラルネットワー
ク表現は共通の構造を有する。すなわち、いくつかの変
数について、その和は１でなければならない。この特性
に注目して、ＭＦＡアプローチにおいて、ポッツ（Pott
s ）スピンシステムを用いることができる。このポッツ
ニューラルネットワークモデルはかなり大規模の問題に
も応用できる。一方で、ポッツ平均場アニーリング（以
下、「ＰＭＡ」という）手続は、最適解を得るにはある
限界があることがわかっている。

【００３２】そこで、最適化問題を解くための別のアプ
ローチとして、実施の形態１による問題解決方法におい
ては、ポッツニューラルネットワークモデルのカオス版
を用いる。このモデルを、カオスポッツスピンモデル
（以下、「ＣＰＳ」という）と呼ぶ。

【００３３】ポッツニューラルネットワークモデルにつ
いて説明する。いくつかのＮＰ完全問題は、（Ｍ×Ｎ）
次元のポッツスピン変数Ｓ_a,n（＝０または１）の２次
のエネルギ最小化問題として以下のように記述すること
ができる。

【００３４】

【数５】

【００３５】ここで、以下の制約条件が満足されなけれ
ばならない。

【００３６】

【数６】

【００３７】さらに、Ｗ_{a,n ; b,m}＝Ｗ_{b,m ; a,n}が成
り立つとする。パラメータＷおよびＩの値は各問題につ
いて決定される。ポッツスピンモデルのＭＦＴにおい
て、２値変数Ｓ_a,nが１をとる確率を表わすアナログ変
数Ｖ_a,n∈［０，１］を導入する。これらのアナログ変
数は以下の制約条件を満足しなければならない。

【００３８】

【数７】

【００３９】ポッツスピンモデルのＭＦＴにおいて、自
由エネルギＦとエネルギＥとは以下のように与えられ
る。

【００４０】

【数８】

【００４１】ここで、Ｔは統計力学における温度に対応
している。ポッツスピンにおけるＭＦＴ自由エネルギ関
数Ｆの極小点は以下の定常条件を満足する。

【００４２】

【数９】

【００４３】これは、ポッツＭＦＴ方程式と呼ばれる。
ここで、Ｕ_a,nは内部変数、Ｈ_n（Ｕ_a）は出力関数を
示す。このポッツＭＦＴ方程式の解は、式（９）の極小
値である。なお、ポッツＭＦＴ方程式については、たと
えば、Peterson, C., and B.Soderberg （1989）．Inte
rnational Journal of Neuarl Systems, 1. に開示され
ている。ポッツＭＦＴ方程式の解は、連続時間ポッツス
ピンモデルを用いて得ることができ、これは以下のよう
な微分方程式である。

【００４４】

【数１０】

【００４５】ここで、τは、時定数、ｔは時間を示す。
また、ポッツＭＦＴ方程式の解は、非同期ポッツＭＦＴ
方程式を用いて得ることができ、これは以下のような差
分方程式である。

【００４６】

【数１１】

【００４７】連続時間モデル（式（１１））において、
自由エネルギ（式（９））は常に時間とともに減少する
リアプノフ関数であり、ポッツＭＦＴ方程式（式（１
０））は安定平衡点（極小点）で満足される。ここで、
どのａ，ｎ，ｍに対しても、次式を満足すると仮定す
る。

【００４８】

【数１２】

【００４９】式（１３）は、式（１２）についても成り
立つ。十分な高温において（Ｔ→∞）、自由エネルギ
（式（９））はエントロピー項、すなわち式（９ａ）の
右辺の第２項によって支配され、唯一の極小値がある。
十分な低温では（Ｔ→０）、自由エネルギ関数Ｆ（式
（９ａ））はエネルギ関数Ｅ（式（９ｂ））とほぼ等し
い。加えて、エネルギ関数の極小値は、もし、Ｗ_a,
_{n ; a,n}＝０であるならば、超立方体の角（Ｖ_a,n∈
［０，１］）で生じる。したがって、十分な低温では、
２値スピンについての元のエネルギ関数（式（６））の
それに対応する、自由エネルギ関数（式（９））の極小
値がある。もし、温度が低い値に固定されているなら
ば、その極小値は、Ｕ，Ｖの初期条件に依存して、式
（１１）または式（１２）を用いて見いだされる。

【００５０】エネルギ関数（式（６））の良い極小解を
得るためには、ＭＦＴアニーリングを用いることができ
る。第１に、ポッツＭＦＴ方程式（式（１０））が高温
について解かれ、唯一の極小値が得られる。その後、温
度をわずかに下げ、ポッツＭＦＴ方程式を、より高い温
度の解から始めて解く。このプロセスを続けると、エネ
ルギ関数（式（６））の極小解に対応する低温の解を得
ることができる。このアルゴリズムはポッツ平均場アニ
ーリング（ＰＭＡ）と呼ばれる。

【００５１】ＴＳＰ（巡回セールスマン問題）およびＰ
ＭＡ（ポッツ平均場アニーリング）分岐について説明す
る。

【００５２】Ｎ都市のＴＳＰについてのポッツスピンに
よるエネルギ関数は以下のように定義される。

【００５３】

【数１３】

【００５４】ここで、Ｖ_a,nはセールスマンが都市ａを
ｎ回目の訪問で訪れる確率を表わし、Ｄ_a,bは都市ａと
都市ｂとの距離を示す。α，βは、定数である。

【００５５】ポッツＭＦＴ方程式（式（１０））は、十
分な高温では唯一の極小値を有し、十分な低温では多数
の極小値を有する。したがって、温度を下げていく過程
で、新たな極小値を生じる分岐が起こる。この分岐プロ
セスはＴＳＰの構造安定な対称性に依存する。ＰＭＡ手
続は、一連の局所的な分岐であり、以下のような特徴
（自由エネルギの反転、非一意性）を有する。

【００５６】自由エネルギの反転とは、自由エネルギ準
位が温度が下がるにしたがって入れ代わることである。
高温時の最小点が温度が下がるに従って極小点に変わる
こともある。

【００５７】非一意性について説明する。ある温度でア
ニーリング解が消滅し、その時点で消えたアニリーング
解よりも自由エネルギ準位が低い極小点が２つ以上ある
場合、鞍点の不安定性によりいずれの極小点が求まるか
が非一意的になる。

【００５８】すなわち、ＰＭＡは手続が決定論であって
も解が非一意的になる場合がある。また必ずしも最適解
が求まるとは限らない。これは、通常（イジング（Isin
g ）スピン）のＭＦＡの場合と同様である。

【００５９】実施の形態による問題解決法で用いるカオ
スポッツスピンモデル（ＣＰＳ）、すなわち、ポッツス
ピンを用いた非平衡なニューラルネットワークモデルに
ついて説明する。連続時間ポッツスピンモデル（式（１
１））にオイラーの方法を適用すると、以下の差分方程
式が得られる。

【００６０】

【数１４】

【００６１】ここでκ＝１−δｔ／τであり、δｔは時
間間隔を示す。元の微分方程式は常に自由エネルギ（式
（９ａ））の極小解に収束する。しかしながら、この差
分方程式はしばしば振動するかまたはカオスを生ずる。
もし、Ｗを、Ｗ_a,n;a,n＞０かつＷ_a,n;a,m＝０（ｍ≠
ｎ）のように選択すれば、式（１５）はしばしばカオス
解を示す。このため、この差分方程式（式（１５））を
カオスポッツスピンモデル（ＣＰＳ）と呼ぶ。大まかに
言えば、カオスの強さは自己ループＷ_{a,n ; a,} _n＞０
（抑制的自己結合）と、オイラー法０＜１−κ＜１の時
間間隔のパラメータによって決定される。Ｗ_{a,n ; a,n}
が大きく、１−κ≒１であれば、カオスは強い。他方
で、もし、Ｗ_{a,n ; a,n}が小さく１−κが小さければ、
系は収束する傾向がある。したがって、パラメータκは
「安定化」パラメータである。式（１２）はオイラー差
分方程式（式（１５））の、κ＝０である特殊な場合で
あって、このシステムは自己ループが正（抑制的自己結
合）である場合には容易にカオスとなる。

【００６２】ＣＰＳをＴＳＰについてのエネルギ関数
（式（１４））に適用してみる。式（１４）、式
（８）、式（９ｂ）および式（１５）から、ＴＳＰのた
めのＣＰＳ方程式は以下のような力学系として定義され
る。

【００６３】

【数１５】

【００６４】ここで便宜上Ｄ′_a,b＝（１−κ）Ｄ_a,b
である。この場合Ｗ_a,n;a,n＝α−βである。したがっ
て、αがβよりも大きければ、ＣＰＳはカオスとなる。
ここで実験結果を示す。

【００６５】図１は、有名な１０都市のＴＳＰに実施の
形態１による問題解決方法（ＣＰＳ）を適用した結果を
示す図である。

【００６６】横軸はスイープ（sweep ）を示す。縦軸は
各スイープ（ステップ）に得られた解を表わし、１から
５は最適解から第５解までを、６はそれ以外の解を表わ
す。○がないスイープでは解（巡回路）が得られない。
なお、“スイープ”において、変数Ｖのすべては１度、
かつ１度だけ更新される。

【００６７】図２は、変数Ｖ₁₁の時間変化を示す図であ
る。横軸はスイープを示し、縦軸は変数Ｖ₁₁を示す。図
２を参照して、各変数は、カオス的に変動し、最適解お
よび準最適解が時間に沿って得られる。

【００６８】図３は、巡回セールスマン問題（ＴＳＰ）
を実施の形態１による問題解決方法（ＣＰＳ）、ＣＮＮ
およびＭＦＡを用いて解いた結果を示す図である。

【００６９】ＣＰＳの結果は、全スイープの中で得られ
た解（巡回路）の中で最も良い解である。評価のため、
５種類の問題集が準備されている。すなわち、１０都
市、２０都市、３０都市、４０都市および５０都市のＴ
ＳＰである。各問題において、都市の位置を１辺が１の
正方形内でランダムに発生させる。またいくらかの正規
化もなされる。各試験は１００の都市配置集からなる。

【００７０】図３の各枠において、上の数字は１００配
置のうちで解が求まった数（有効な巡回路の数）を示
し、下の数字（括弧内の数字）はその求まった場合につ
いての平均距離（有効な巡回路に対する平均の巡回距
離）を示す。たとえば、２０都市のＴＳＰに対するＣＰ
Ｓの場合、１００の都市配置集のうち、１００の問題に
ついて有効な巡回路が得られ、１００の巡回路に対する
平均巡回距離は４．３１８である。各手順（ＣＰＳ、Ｃ
ＮＮ、ＭＦＡ）の能力はそのパラメータの値に依存す
る。一般に、スイープの数が増すにつれて、ＣＰＳの能
力は向上する。

【００７１】ポッツスピンを用いたＣＰＳでは、可能な
解はＮ次元の超格子点上にあり、その数はＮ^Nである
が、イジングスピンを用いたＣＮＮとＭＦＡでは、可能
な解はＮ×Ｎ次元の超立方体の端点上にあり、その数は

【００７２】

【数１６】

【００７３】である。したがって、ＣＰＳは、ＣＮＮお
よびＭＦＡよりも探索空間上有利である。すなわち、Ｃ
ＰＳは、探索すべき次元が小さい。

【００７４】ＰＭＡは、自由エネルギ準位の逆転が起こ
ると最適解が求まらない。このような場合でも、非平衡
力学系であるＣＰＳは最適解を見いだす可能性を有す
る。実際、１０都市のＴＳＰで、ＣＰＳは９８％の割合
で最適解を得ることができる。また、ＰＭＡはときとし
て有効な巡回路を全く得ることができないが、ＣＰＳは
常にどの問題についても有効な巡回路を得ることができ
る。したがって、実施の形態１による問題解決方法（Ｃ
ＰＳ）によるアプローチは、小規模問題での最適解を得
るためにはかなり良好であるとともに、比較的大規模の
問題においても何らかの準最適解を得るにはかなり良好
である。

【００７５】ＣＰＳの能力は温度Ｔに大きく依存する
が、各問題について温度を調整すれば、ＣＰＳの能力は
非常に向上する。なお、図３に示した実験においては、
手続の簡単さを考慮して温度を一定としている。

【００７６】以上説明したことをまとめる。ＭＦＡおよ
びＰＭＡなどの平均場アニーリングアプローチは、組合
せ最適化問題のための非常に有力なアルゴリズムであ
る。しかしながら、その分岐特性のために、これらは小
規模の問題でさえも最適解を得られないことがある。別
のアプローチとして、実施の形態１による問題解決方法
においては、カオスポッツスピンモデル（ＣＰＳ）とい
う非平衡力学系を用いている。非常に小規模の問題で
は、ＣＰＳはほとんどの場合１００％解決することがで
きる。比較的規模の大きな問題においても、ＣＰＳはす
べての問題について何らかの準最適解を得ることができ
る。

【００７７】ＣＰＳは速いアルゴリズムであり、図３に
示した結果を求める際において、ＣＰＳはＰＭＡ，ＣＮ
ＮおよびＭＦＡより速かった。さらに、既に提案されて
いるポッツスピンニューラルネットワークハードウェア
を改良することによりＣＰＳのアルゴリズムはハードウ
ェア化できると考えられる。一方、ＰＭＡやＭＦＡなど
のアニーリング法は精度に非常に敏感であるため、ハー
ドウェア化は困難であると考えられる。次に、これまで
説明してきた、実施の形態１による、ＣＰＳを用いた問
題解決方法の処理の流れについて説明する。

【００７８】図４は、実施の形態１による問題解決方法
の処理の流れを示す図である。図４においては、巡回セ
ールスマン問題（ＴＳＰ）の解を、実施の形態１による
問題解決方法において求める場合を説明する。

【００７９】図４を参照して、ステップＳ１では、式
（１５ａ）において、パラメータＷ_a, _{n ; b,m}、Ｉ_a,n
を決定する。ＴＳＰにおいては、ＷおよびＩは次式のよ
うになる。

【００８０】

【数１７】

【００８１】ここで、δ_x,yは、ｘ＝ｙのとき１を返
し、それ以外のときは０を返す関数である。

【００８２】ステップＳ２では、式（１５ａ）におい
て、Ｕ_{a,n(a,n=1,...,N)}、Ｖ_a,n(a,n= _1,...,N)の初期値
を決定する。これは、ランダムで構わない。

【００８３】ステップＳ３では、式（１５）において、
新しいＵ_a,n、Ｖ_a,nを計算する。ステップＳ４では、
式（１５ｂ）において、新しく得られたＶ
_{a,n(a,n=1,...,} _N)の２値化を行ない、その結果をＳ_a,n
とする。

【００８４】ステップＳ５では、ステップＳ４で得られ
たＳ_a,nが、巡回路を表現しているか否かを判断する。
Ｓ_a,nが巡回路を表現していると判断した場合には、ス
テップＳ６に進む。Ｓ_a,nが巡回路を表現していないと
判断した場合には、ステップＳ７に進む。

【００８５】ステップＳ６では、Ｓ_a,nが表現している
巡回路の巡回距離を記憶する。ステップＳ７では、計算
回数が＃スイープ回を超えたか否かを判断する。計算回
数が＃スイープ回を超えたと判断した場合には、ステッ
プＳ８に進む。計算回数が＃スイープ回を超えていない
と判断した場合にはステップＳ３に進む。

【００８６】ステップＳ８では、ステップＳ６において
記憶している巡回路の巡回距離の中から最短のものを選
ぶ。そして、処理を終了する。

【００８７】ステップＳ１〜Ｓ７においては、ポッツス
ピンを用いたニューラルネットワークモデルに基づき、
カオス解Ｖ_a,nを繰返し求めている。ステップＳ８にお
いて、複数のカオス解Ｖ_a,nによって得られた複数のＳ
_a,nが表現している巡回路の巡回距離の中から最短のも
のを選ぶ。この最短の巡回路がＴＳＰの解である。

【００８８】また、ステップＳ１〜Ｓ３においては、抑
制的自己結合を条件として、差分方程式（式（１５））
を解くことによりカオス解Ｖ_a,nを求めている。

【００８９】図５は、実施の形態１による問題解決方法
を実現するための問題解決装置を示す概略ブロック図で
ある。

【００９０】図５を参照して、実施の形態１による問題
解決方法を実現するための問題解決装置は、パラメータ
決定手段１、初期値決定手段２、計算手段３、２値化手
段４、第１の判断手段５、記憶手段６、第２の判断手段
７および選択手段８を含む。

【００９１】パラメータ決定手段１における処理は、図
４のステップＳ１に相当する。初期値決定手段２におけ
る処理は、図４のステップＳ２に相当する。計算手段３
における処理は、図４におけるステップＳ３に相当す
る。２値化手段４における処理は、図４におけるステッ
プＳ４に相当する。第１の判断手段５における処理は、
図４のステップＳ５に相当する。記憶手段６における処
理は、図４のステップＳ６に相当する。第２の判断手段
７における処理は、図４のステップＳ７に相当する。選
択手段８における処理は図４のステップＳ８に相当す
る。

【００９２】以上のように、実施の形態１による問題解
決方法においては、ポッツスピンを用いた非平衡なニュ
ーラルネットワークモデルによりＴＳＰの解を得てい
る。このため、イジングスピンを用いたニューラルネッ
トワークモデル（ＣＮＮ、ＭＦＡ）により求めた解に比
し、良い解を得ることができる（図３）。

【００９３】さらに、実施の形態１による問題解決方法
においてはポッツスピンを用いているため、可能なカオ
ス解はＮ次元の超格子上にあり、そのカオス解の数はＮ
^Nである。これに対し、イジングスピンを用いた場合
は、可能な解はＮ×Ｎ次元の超立方体の端点上にあり、
その解の数は

【００９４】

【数１８】

【００９５】である。このように、実施の形態１による
問題解決方法においては、イジングスピンを用いる場合
に比し、探索すべき次元が小さくて済み、高速で処理を
行なうことができる。

【００９６】さらに、実施の形態１による問題解決方法
においては、非平衡なニューラルネットワークモデルを
用いているため、問題の規模が大きくなっても必ず解を
得ることができる。さらに、アニーリング法を用いてい
ないため、ハードウェア化が可能である。

【００９７】（実施の形態２）実施の形態１による問題
解決方法で用いたＣＰＳ、すなわち、ポッツスピンを用
いた非平衡なニューラルネットワークモデルでは、解は
いくらかの良好な部分と、いくらかの悪いランダムな部
分とを有する傾向がある。これは非平衡力学系のためで
ある。したがって、ヒューリスティクス（局所的な最適
化方法）により、得られた解を改良することができる。
実施の形態２による問題解決方法においては、このヒュ
ーリスティクスを用いて得られた解を改良することを特
徴としている。

【００９８】実施の形態２による問題解決方法において
は、ヒューリスティクスとして、２オプト（opt ）法を
用いている。２オプト法は、すべての交差する経路を取
除くヒューリスティクスである。なお、実施の形態２に
よる問題解決方法は、実施の形態１による問題解決方法
にヒューリスティクスを適用する処理をさらに加えたも
のである。したがって、ヒューリスティクスを適用する
以外の部分の処理については、実施の形態１による問題
解決方法と同様であり、主に特徴部分について説明す
る。

【００９９】実施の形態２による問題解決方法において
は、２オプト法の解を初期値としてＣＰＳを適用し、解
が求まるたびに２オプト法で修正する。最終的な結果
は、それらの修正された解のうちで最も良い解である。
このアルゴリズムの改良（ヒューリスティクスの適用）
は実行時間にはさほど影響しない。

【０１００】図６は、巡回セールスマン問題（ＴＳＰ）
を実施の形態２による問題解決方法（ＣＰＳ＋２オプト
法）およびＰＭＡを用いて解いた結果を示す図である。
図６を参照して、左から順に、第１列は、都市数、第２
列はＣＰＳのみを用いた結果、第３列はＣＰＳに２オプ
ト法を適用した結果、第４列はＰＭＡの結果、第５列は
ＰＭＡに２オプト法を適用した結果、第６列は２オプト
法のみの結果を示している。

【０１０１】ＰＭＡおよびＰＭＡに２オプト法を適用し
たものでは、巡回路が得られた場合のみの平均距離を表
わしており、ＣＰＳにおいて同じ問題について平均をと
れば結果は少し良くなる。

【０１０２】ＣＰＳ力学系は、カオスであるが、長い時
間にわたっていくらかの良い部分（変数）が継続する。
この場合、ＣＰＳは他の悪い部分を改良するのであり、
これは定義部分空間の局所的な探索である。これがＣＰ
Ｓの利点である。この結果、ＣＰＳは、その初期状態が
２オプト法の解ほどに良いものに設定されれば、ＣＰＳ
の解はさらに良くなる（改良される）。

【０１０３】図６が示すように、２オプト法を適用した
ＣＰＳの能力は、ＰＭＡおよび２オプト法を適用したＰ
ＭＡよりも良好であり、１０都市の場合、１００％最適
解を求めることができる。なお、ＣＰＳのみを用いた場
合と、２オプト法を適用したＣＰＳを用いた場合とで
は、２オプト法を適用したＣＰＳを用いた方が、優れて
いることがわかる。また、ＰＭＡについては、２オプト
法を適用しても、さほど解が向上しないことがわかる。
次に、このような実施の形態２による問題解決方法の処
理の流れについて説明する。

【０１０４】図７は、実施の形態２による問題解決方法
の処理の流れを示す図である。なお、図４と同様の部分
については同一の参照符号を付しその説明を適宜省略す
る。図７においても、ＴＳＰの解を求めている。

【０１０５】図７を参照して、ステップＳ５で、Ｓ_a,n
が巡回路を表現していると判断した場合にはステップＳ
６に進む。Ｓ_a,nが巡回路を表現していないと判断した
場合にはステップＳ８に進む。

【０１０６】ステップＳ６では、Ｓ_a,nが表現している
巡回路に対して、２オプト法を適用する。すなわち、カ
オス解Ｖ_a,nによって得られた解Ｓ_a,nに対して、２オ
プト法を適用する。

【０１０７】ステップＳ７では、Ｓ_a,nを表現している
巡回路の巡回距離を記憶する。すなわち、ステップＳ６
において、２オプト法によって修正されたＳ_a,nが表現
している巡回路の巡回距離を記憶する。

【０１０８】ステップＳ８において、計算回数が＃スイ
ープ回を超えたか否かを判断する。計算回数が＃スイー
プ回を超えていないと判断した場合には、ステップＳ３
に進む。計算回数が＃スイープ回を超えていると判断し
た場合にはステップＳ９に進む。

【０１０９】ステップＳ９では、記憶している巡回路の
巡回距離の中から最短のものを選ぶ。これがＴＳＰの解
である。

【０１１０】図８は、実施の形態２による問題解決方法
を実現するための問題解決装置を示す概略ブロック図で
ある。なお、図５と同様の部分については同一の参照符
号を付しその説明を適宜省略する。

【０１１１】図８を参照して、２オプト法適用手段２０
の処理は、図７のステップＳ６と同様である。記憶手段
６の処理は、図７のステップＳ７と同様である。第２の
判断手段７の処理は、図７のステップＳ８と同様であ
る。選択手段８の処理は、図７のステップＳ９と同様で
ある。

【０１１２】以上のように、実施の形態２による問題解
決方法においては、複数のカオス解Ｖ_a,nによって得ら
れた複数の解Ｓ_a,nの各々について、２オプト法（ヒュ
ーリスティクス）を適用し、複数のカオス解Ｖ_a,nによ
って得られた複数の解Ｓ_a,nを修正する処理を行なって
いる。そして、ヒューリスティクス（２オプト法）によ
り修正された複数の解Ｓ_a,nの中から、ＴＳＰの解を選
択している。このため、実施の形態２による問題解決方
法においては、カオス解のランダムな部分の影響を少な
くでき、ヒューリスティクス（２オプト法）を用いない
場合に比し、さらに良い解を得ることができる。

【０１１３】なお、実施の形態２による問題解決方法
は、実施の形態１による問題解決方法にヒューリスティ
クスによる処理を加えたものである。したがって、実施
の形態２による問題解決方法は、実施の形態１による問
題解決方法の処理をすべて含んでいる。このため、実施
の形態２による問題解決方法は、実施の形態１による問
題解決方法と同様の効果を奏する。

【図面の簡単な説明】

【図１】本発明の実施の形態１による問題解決方法を、
有名な１０都市の巡回セールスマン問題（ＴＳＰ）に適
用した結果を示す図である。

【図２】変数Ｖ₁₁の時間変化を示す図である。

【図３】巡回セールスマン問題（ＴＳＰ）を実施の形態
１による問題解決方法（ＣＰＳ）、ＣＮＮおよびＭＦＡ
を用いて解いた結果を示す図である。

【図４】本発明の実施の形態１による問題解決方法の処
理の流れを示す図である。

【図５】本発明の実施の形態１による問題解決方法を実
現するための問題解決装置を示す概略ブロック図であ
る。

【図６】巡回セールスマン問題（ＴＳＰ）を実施の形態
２による問題解決方法（ＣＰＳ＋２オプト法）およびＰ
ＭＡを用いて解いた結果を示す図である。

【図７】本発明の実施の形態２による問題解決方法の処
理の流れを示す図である。

【図８】本発明の実施の形態２による問題解決方法を実
現するための問題解決装置を示す概略ブロック図であ
る。

【符号の説明】

１パラメータ決定手段２初期値決定手段３計算手段４２値化手段５第１の判断手段６記憶手段７第２の判断手段８選択手段２０２オプト法適用手段

Claims

【特許請求の範囲】

【請求項１】最適化問題の解を出すための問題解決方
法であって、ポッツスピンを用いたニューラルネットワークモデルに
基づき、カオス解を求めるステップと、前記カオス解を繰返し求めるステップと、繰返し得られた複数の前記カオス解によって得られた複
数の解の中から、前記解を選択するステップとを含む、
問題解決方法。
【請求項２】前記カオス解を求めるステップは、抑制
的自己結合を条件として、差分方程式を解くことによ
り、前記カオス解を求める、請求項１に記載の問題解決
方法。
【請求項３】前記複数のカオス解によって得られた複
数の解の各々について、ヒューリスティクスを適用し、
前記複数のカオス解によって得られた複数の解を修正す
るステップをさらに含む、請求項１または２に記載の問
題解決方法。
【請求項４】前記ヒューリスティクスは、すべての交
差する経路を取除く２オプト法である、請求項３に記載
の問題解決方法。