JP2018063626A - 最適化装置及び最適化装置の制御方法 - Google Patents

最適化装置及び最適化装置の制御方法 Download PDF

Info

Publication number
JP2018063626A
JP2018063626A JP2016202332A JP2016202332A JP2018063626A JP 2018063626 A JP2018063626 A JP 2018063626A JP 2016202332 A JP2016202332 A JP 2016202332A JP 2016202332 A JP2016202332 A JP 2016202332A JP 2018063626 A JP2018063626 A JP 2018063626A
Authority
JP
Japan
Prior art keywords
value
state
state transitions
transition
energy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016202332A
Other languages
English (en)
Other versions
JP6465092B2 (ja
Inventor
▲高▼津 求
求 ▲高▼津
Motomu Takatsu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016202332A priority Critical patent/JP6465092B2/ja
Priority to US15/718,949 priority patent/US10209683B2/en
Publication of JP2018063626A publication Critical patent/JP2018063626A/ja
Application granted granted Critical
Publication of JP6465092B2 publication Critical patent/JP6465092B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0205Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system
    • G05B13/021Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric not using a model or a simulator of the controlled system in which a variable is automatically adjusted to optimise the performance
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D23/00Control of temperature
    • G05D23/19Control of temperature characterised by the use of electric means
    • G05D23/1917Control of temperature characterised by the use of electric means using digital means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/58Random or pseudo-random number generators
    • G06F7/588Random number generators, i.e. based on natural stochastic processes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks

Abstract

【課題】収束性を損なうことなく計算時間を短縮する。【解決手段】遷移制御部20が、温度値Tと、エネルギー変化値{−ΔEi}と、乱数値とに基づいて、エネルギー変化値{−ΔEi}と熱励起エネルギーとの相対関係によって複数の状態遷移の何れかを受け入れるか否かを確率的に決定する際に、エネルギー変化値{−ΔEi}にオフセット値yを加えるとともに、エネルギーが極小となる局所解におけるオフセット値yを、エネルギーが極小ではない場合と比較して大きくなるように制御する。【選択図】図1

Description

本発明は、最適化装置及び最適化装置の制御方法に関する。
現在の社会ではあらゆる分野で情報処理が行われている。これらの情報処理はコンピュータ等の演算装置を用いて行われており、様々なデータを演算、加工し、意味のある結果を得ることにより、予測、決定、制御等が行われる。これらの情報処理の1つの分野として最適化処理があり重要な分野となっている。例えばある処理を行う場合に必要な資源やコストを最小化したり、その効果を最大化する解を求める問題等である。これらの問題が非常に重要であるのは明らかであろう。
最適化問題の代表的なものとして線形計画問題がある。これは複数の連続変数の線形和で表される評価関数を、線形和で表される制約条件の下で最大化または最小化する変数の値を求めるものであり、製品の生産計画等様々な分野で利用されている。この線形計画問題には単体法や内点法といった優れた解法が知られており、何十万以上の変数を持つ問題でも効率的に解くことができる。
一方最適化問題には、変数が連続値では無く離散的な値を取るものも多く知られている。例えば、複数の都市を順番に回り元に戻るときの最短経路を求める巡回セールスマン問題や、ナップザックに異なる品物を詰めるときその価値の和が最大となるような組み合わせを求めるナップザック問題等が挙げられる。このような問題は、離散最適化問題、組合せ最適化問題等と呼ばれ、最適解を得るのが非常に難しいことが知られている。
離散最適化問題を解くのが難しい最大の原因は、各変数が離散値しか取れないため、評価関数が改善される方向に変数を連続的に変化させることで最適解に到達させるという手法が使えないことである。そして本来の最適値を与える変数の値(最適解、大域解)以外に、局所的に評価関数の極値を与える値(極小(大)解、局所解)が非常に多数存在することである。このため最適解を確実に得るにはしらみつぶしのような方法を取らざるを得ず、計算時間が非常に長くなる。離散最適化問題には計算量理論でNP(Non-deterministic Polynomial)困難問題と呼ばれる、最適解を求めるための計算時間が問題の大きさ(すなわち変数の数)に対して指数的に増加すると予想される問題が多い。上記巡回セールスマン問題やナップザック問題もNP困難問題である。
以上述べたように、離散最適化問題の最適解を確実に求めることは非常に困難である。このため実用上重要な離散最適化問題にはその問題に固有な性質を利用した解法が考え出されている。上記のように多くの離散最適化問題では厳密解を得るには指数関数的に増大する計算時間がかかると予想されているため、実用的な解法の多くは近似解法であり、最適解ではないものの評価関数の値が最適値に近い値となる解を得ることができるものである。
これらの問題に特化した近似解法に対して、問題の性質を用いることなく解くため広範囲な問題を扱える近似解法も知られている。これらはメタヒューリスティックな解法とよばれ、疑似焼き鈍し法(シミュレーテッド・アニーリング法、SA法)、遺伝的アルゴリズム、ニューラルネットワーク等が挙げられる。これらの方法は、問題の性質をうまく利用した解法よりは効率が悪い可能性があるが、厳密解を得る解法よりは高速に解を得ることが期待できる。
本発明はこのうち疑似焼き鈍し法に関するものである。
疑似焼き鈍し法はモンテカルロ法の一種であり、乱数値を用いて確率的に解を求める方法である。以下では最適化したい評価関数の値を最小化する問題を例に説明し、評価関数の値をエネルギーと呼ぶことにする。最大化の場合は、評価関数の符号を変えればよい。
各変数に離散値の1つを代入した初期状態からはじめ、現在の状態(変数の値の組み合わせ)から、それに近い状態(例えば1つの変数だけ変化させた状態)を選び、その状態遷移を考える。その状態遷移に対するエネルギーの変化を計算し、その値に応じてその状態遷移を採択して状態を変化させるか、採択せずに元の状態を保つかを確率的に決める。エネルギーが下がる場合の採択確率をエネルギーが上がる場合より大きく選ぶと、平均的にはエネルギーが下がる方向に状態変化が起こり、時間の経過とともにより適切な状態へ状態遷移することが期待できる。そして最終的には最適解または最適値に近いエネルギーを与える近似解を得られる可能性がある。もし、これを決定論的にエネルギーが下がる場合に採択、上がる場合に不採択とすれば、エネルギーの変化は時間に対して広義単調減少となるが、局所解に到達したらそれ以上変化が起こらなくなってしまう。上記のように離散最適化問題には非常に多数の局所解が存在するために、状態が、ほとんど確実にあまり最適値に近くない局所解に捕まってしまう。したがって、採択するかどうかを確率的に決定することが重要である。
疑似焼き鈍し法においては、状態遷移の採択(許容)確率を次のように決めれば、時刻(反復回数)無限大の極限で状態が最適解に到達することが証明されている。
(1)状態遷移に伴うエネルギー変化(エネルギー減少)値(−ΔE)に対して、その状態遷移の許容確率pを次の何れかの関数f()により決める。
Figure 2018063626
Figure 2018063626
Figure 2018063626
ここでTは温度値と呼ばれるパラメータで次のように変化させる。
(2)温度値Tを次式で表されるように反復回数tに対数的に減少させる。
Figure 2018063626
ここでT0は初期温度値であり問題に応じて十分大きくとることが望ましい。
(1)の式で表される許容確率を用いた場合、十分な反復後に定常状態に達したとすると、各状態の占有確率は熱力学における熱平衡状態に対するボルツマン分布にしたがう。そして、高い温度から徐々に下げていくとエネルギーの低い状態の占有確率が増加するため、十分温度が下がるとエネルギーの低い状態が得られるはずである。この様子が材料を焼き鈍したときの状態変化とよく似ているため、この方法は疑似焼き鈍し法と呼ばれるのである。このとき、エネルギーが上がる状態遷移が確率的に起こることは、物理学における熱励起に相当する。
上記のように疑似焼き鈍し法では、反復回数を無限に取れば最適解が得られるが、現実には有限の反復回数で解を得る必要があるため、最適解を確実に求めることはできない。また上の式では温度の下がり方が非常にゆっくりであるため、有限時間では十分に温度が下がらない。したがって実際の疑似焼き鈍し法では対数的な温度変化ではなくより早く温度を下げることが多い。
図13に疑似焼き鈍し法による最適化装置の概念的構成を示す。ただし、下記説明では、状態遷移の候補を複数発生させる場合についても述べているが、本来の基本的な疑似焼き鈍し法は遷移候補を1つずつ発生させるものである。
最適化装置10には、まず現在の状態S(複数の状態変数の値)を保持する状態保持部11がある。また、複数の状態変数の値の何れかが変化することによる現在の状態Sからの状態遷移が起こった場合の、各状態遷移のエネルギー変化値{−ΔEi}を計算するエネルギー計算部12がある。そして、最適化装置10には、温度値Tを制御する温度制御部13、状態変化を制御するための遷移制御部14がある。
遷移制御部14は、温度値Tとエネルギー変化値{−ΔEi}と乱数値とに基づいて、エネルギー変化値{−ΔEi}と熱励起エネルギーとの相対関係によって複数の状態遷移の何れかを受け入れるか否かを確率的に決定するものである。
遷移制御部14をさらに細分化すると、遷移制御部14は、状態遷移の候補を発生する候補発生部14a、各候補に対して、そのエネルギー変化値{−ΔEi}と温度値Tから状態遷移を許可するかどうかを確率的に決定するための可否判定部14bを有する。さらに、可となった候補から採用される候補を決定する遷移決定部14c、及び、確率変数を発生させるための乱数発生部14dを有する。
一回の反復における動作は次のようなものである。まず、候補発生部14aは、状態保持部11に保持された現在の状態Sから次の状態への状態遷移の候補(候補番号{Ni})を1つまたは複数発生する。エネルギー計算部12は、現在の状態Sと状態遷移の候補を用いて候補に挙げられた各状態遷移に対するエネルギー変化値{−ΔEi}を計算する。可否判定部14bは、温度制御部13で発生した温度値Tと乱数発生部14dで生成した確率変数(乱数値)を用い、各状態遷移のエネルギー変化値{−ΔEi}に応じて、上記(1)の式の許容確率でその状態遷移を許容する。そして、可否判定部14bは、各状態遷移の可否{fi}を出力する。許容された状態遷移が複数ある場合には、遷移決定部14cは、乱数値を用いてランダムにそのうちの1つを選択する。そして、遷移決定部14cは、選択した状態遷移の遷移番号Nと、遷移可否fを出力する。許容された状態遷移が存在した場合、採択された状態遷移に応じて状態保持部11に記憶された状態変数の値が更新される。
初期状態から始めて、温度制御部13で温度値を下げながら上記反復を繰り返し、一定の反復回数に達したり、エネルギーが一定の値を下回る等の終了判定条件が満たされたとき、動作が終了する。最適化装置10が出力する答えは終了時の状態である。ただし、実際には有限の反復回数では温度値が0にならないため、終了時においても状態の占有率はボルツマン分布等で表される分布を持っており、必ずしも最適値やよい解になっているとは限らない。したがって、反復の途中でこれまでに得られたエネルギーが最低の状態を保持し、最後にそれを出力するのが現実的な解法となる。
図14は候補を1つずつ発生させる通常の疑似焼き鈍し法における遷移制御部、特に可否判定部のために必要な演算部分の構成例の回路レベルのブロック図である。
遷移制御部14は、乱数発生回路14b1、セレクタ14b2、ノイズテーブル14b3、乗算器14b4、比較器14b5を有する。
セレクタ14b2は、各状態遷移の候補に対して計算されたエネルギー変化値{−ΔEi}のうち、乱数発生回路14b1が生成した乱数値である遷移番号Nに対応するものを選択して出力する。
ノイズテーブル14b3の機能については後述する。ノイズテーブル14b3として、例えば、RAM(Random Access Memory)、フラッシュメモリ等のメモリを用いることができる。
乗算器14b4は、ノイズテーブル14b3が出力する値と、温度値Tとを乗算した積(前述した熱励起エネルギーに相当する)を出力する。
比較器14b5は、乗算器14b4が出力した乗算結果と、セレクタ14b2が選択したエネルギー変化値である−ΔEとを比較した比較結果を遷移可否fとして出力する。
図14に示されている遷移制御部14は、基本的に前述した機能をそのまま実装するものであるが、(1)の式で表される許容確率で状態遷移を許容するメカニズムについてはこれまで説明していないのでこれを補足する。
許容確率pで1を、(1−p)で0を出力する回路は、2つの入力A,Bを持ち、A>Bのとき1を出力し、A<Bのとき0を出力する比較器の入力Aに許容確率pを、入力Bに区間[0,1)の値をとる一様乱数を入力することで実現することができる。したがってこの比較器の入力Aに、エネルギー変化値と温度値Tにより(1)の式を用いて計算される許容確率pの値を入力すれば、上記の機能を実現することができる。
すなわちfを(1)の式で用いる関数、uを区間[0,1)の値をとる一様乱数とするとき、f(ΔE/T)がuより大きいとき1を出力する回路で、上記の機能を実現できる。
このままでもよいのであるが、次のような変形を行っても同じ機能が実現できる。2つの数に同じ単調増加関数を作用させても大小関係は変化しない。したがって比較器の2つの入力に同じ単調増加関数を作用させても出力は変わらない。この単調増加関数としてfの逆関数f-1を採用すると、−ΔE/Tがf-1(u)より大きいとき1を出力する回路でよいことがわかる。さらに温度値Tが正であることから−ΔEがTf-1(u)より大きいとき1を出力する回路でよい。図14中のノイズテーブル14b3はこの逆関数f-1(u)を実現するための変換テーブルであり、区間[0,1)を離散化した入力に対して次の関数の値を出力するテーブルである。
Figure 2018063626
Figure 2018063626
遷移制御部14には、判定結果等を保持するラッチやそのタイミングを発生するステートマシン等も存在するが、図14では図示を簡単にするため省略されている。
図15は、従来例における遷移制御部14の動作フローである。動作フローは、1つの状態遷移を候補として選ぶステップ(S1)、その状態遷移に対するエネルギー変化値と温度値と乱数値の積の比較で状態遷移の可否を決定するステップ(S2)、状態遷移が可ならばその状態遷移を採用し、否ならば不採用とするステップ(S3)を有する。
上記の説明からある程度想像できると思われるが、疑似焼き鈍し法は汎用的で非常に魅力的ではあるが、温度をゆっくり下げる必要があるため計算時間が比較的長くなってしまうという問題がある。さらにその温度の下げ方を問題に合わせて適切に調節することが難しいという問題もある。これは図16を用いて次のように説明することができる。
初期値から最適解や近似解に至る状態遷移の経路には近似度の良くない局所解が多数存在する。これらの局所解から十分早く脱出するには、十分な熱励起が可能な高い温度が必要となる。しかし高い温度ではボルツマン分布におけるエネルギーの広がりが大きいため、最適解やエネルギーの低いよい近似解(以下ではよい解と呼ぶ)と、エネルギーの比較的高い近似度の悪い局所解(以下悪い解と呼ぶ)の占有確率の差が小さい。このため局所解を速く脱出できても行く先は多数ある悪い解に分散されてしまい、よい解にたどり着く確率は非常に小さい。よい解の占有確率を増やすには、悪い解とのエネルギー差に比べ、熱励起のエネルギーが十分に小さくなるような低温が必要である。しかしこの場合熱励起のエネルギーが小さいため、経路の途中のエネルギーの山を越えることができる確率が非常に低くなってしまい、状態変化がほとんど起こらない。したがって、ある程度山を越えることができ、占有確率に少し差のつけられる中間温度をゆっくりと経過させることで、徐々によい解の占有確率を増やしてゆく必要がある。もし温度の下げ方が遅すぎると有限時間ではあまり温度が下がらないため、最終的によい解の占有確率が上がらない。逆に速く下げすぎると、局所解を脱出する前に温度が下がってしまい、悪い解に捕まったままになってしまう。したがって温度が下がるほどその変化の割合を十分小さくし、その温度におけるボルツマン分布に近づくまで十分待たなければならない。
このように本来の疑似焼き鈍し法では、温度による熱励起だけで局所解からの脱出を図っているため、温度をゆっくり下げる必要があるとともに、それを問題に応じて適切に調節する必要があるという問題がある。
この問題に対して局所解に捕まってしまう問題を温度の調節以外の方法により緩和することが考えられる。例えば、特許文献1,2は、温度の制御方式や評価関数を動的に変更することにより、特許文献3は、状態遷移先である近傍の発生方法を動的に変化させることにより、計算の初期には広範囲の検索、末期には狭い範囲で高精度の検索を行い、計算時間の短縮を図るものである。
これらは、複数の関数を動的に取り換えたり、探索の進み方を把握するために統計を取る等の比較的複雑な演算が必要である。できればもっと簡便で汎用的な方法で計算時間の短縮を可能にすることが望ましい。
特開平6−19507号公報 特開平9−34951号公報 特開平10−293756号公報
H.Zhu et.al., "A Boltzmann Machine with Non-rejective Move,"IEICE Trans. Fundamentals vol.E85-A, No.6. pp.1229-1235, June 2002
上記のように局所解の脱出に長い時間がかかってしまうことが疑似焼き鈍し法の計算時間が長くなる大きな要因である。したがって局所解の脱出を促進する方法があれば、計算時間を大幅に短縮することが可能になると期待される。しかし、ただ単に局所解から脱出させるだけでは必ずしも計算時間が早くなるとは限らない。上記のように悪い解が非常に多数存在するため、ある局所解からランダムに放り出したとしても、周りの悪い解にまた捕まってしまうだけである。単に脱出させるだけではなく、よりよい状態に状態遷移するように脱出させることが望ましい。
よい方向に進むように脱出させるためのヒントは、上記の疑似焼き鈍し法の収束定理にある。この定理はメトロポリス法またはギブス法の状態遷移確率にしたがって状態遷移の可否を決定して行けばよい方向へ進むことを示している。
局所解では状態遷移の確率は非常に小さいため遷移候補の選択は何度も行われ、その後の状態遷移の分岐比はメトロポリス法またはギブス法の遷移確率に比例する。したがって、各状態遷移の許容確率の相対比を保ったままその絶対値を増大することができれば、各状態遷移の分岐比が保たれるため、収束性に悪影響を及ぼすことなく局所解での滞在時間を短縮することが可能となり、計算時間の短縮が可能となる。
本発明が解決しようとする課題は、評価関数や状態遷移発生方法等を動的に変化させることなく、収束性を損なうことなく局所解からの脱出を促進するための手段を得ることであり、より具体的には、局所解における各状態遷移の許容確率の相対比を保ったままその絶対値を増大する手段を得ることである。
非特許文献1はこのような手法の1つである。この文献には記述の誤りがあるものの適切な修正を行えば、上記課題を解決することができる。この手法では、全ての状態遷移に対する許容確率を計算し、その値と指数分布を持つ乱数値の比が最大となる許容確率を採用することで、元の許容確率に比例した割合で採択する状態遷移を選ぶことができる。この方法は、許容確率の相対比を保つとともに、元の状態に留まる確率を0にすることができるため、非常に有効である。しかし、許容確率の計算や乱数値の発生における演算量が大きいという問題がある。
本発明はより簡便な方法で同様の効果、すなわち、収束性を損なうことなく計算時間を短縮できるという効果を得ることを目的とする。
1つの実施態様では、最適化装置は、エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持する状態保持部と、前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、前記エネルギーの変化値を複数の状態遷移のそれぞれに対して計算するエネルギー計算部と、温度を示す温度値を制御する温度制御部と、前記温度値と前記変化値と乱数値とに基づいて、前記変化値と熱励起エネルギーとの相対関係によって前記複数の状態遷移の何れかを受け入れるか否かを確率的に決定する際に、前記変化値にオフセット値を加えるとともに、前記エネルギーが極小となる局所解における前記オフセット値を、前記エネルギーが極小ではない場合と比較して大きくなるように制御する遷移制御部と、を有する。
また、1つの実施形態では、最適化装置の制御方法が提供される。
一つの側面では、本発明は、収束性を損なうことなく計算時間を短縮できる。
本発明における疑似焼き鈍し法の遷移制御部の構成例を示す図である。 本発明における遷移制御部の動作フローを示す図である。 第1の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。 パルス信号の発生の状態遷移の一例を示す状態遷移図である。 パルス信号を発生する論理回路の真理値表の一例を示す図である。 パルス信号を発生するステートマシンの一例を示す図である。 図3の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。 第2の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。 図8の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。 図8の遷移制御部を用いた最適化装置の一例を示す図である。 第3の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。 図11の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。 疑似焼き鈍し法による最適化装置の概念的構成を示す図である。 従来例における遷移制御部、特に可否判定部のために必要な演算部分の構成例の回路レベルのブロック図である。 従来例における遷移制御部の動作フローを示す図である。 疑似乱数法における状態の占有確率の概念を示す図である。
図1に本発明で提案する局所解からの脱出を促進する機能を備える疑似焼き鈍し法の遷移制御部の構成例を示す。図14に示した遷移制御部14と同じ要素については同一符号が付されている。
図1に示されているように、遷移制御部20は、図13に示した可否判定部14bの機能を実現する回路部分に追加された、オフセット加算回路21とオフセット制御回路22とを有する。その他の部分は図14に示した遷移制御部14と同じである。
オフセット加算回路21は、状態遷移に伴うエネルギー変化値(−ΔE)にオフセット値yを加えるオフセット加算回路として機能する。図1の回路の例では、オフセット加算回路21は、減算器21aである。このため、図1の例では、エネルギー変化値(−ΔE)にオフセット値yを加える代わりに、比較対象である温度値Tと乱数値の積Tf-1(u)(熱励起エネルギーに相当する)からオフセット値yを減ずる構成となっているがどちらでも同じである。
オフセット制御回路22は、局所解(エネルギーが極小となる解)におけるオフセット値yを、局所解ではないときに比べて大きくなるように制御する。図1の例では、オフセット制御回路22は、リセット端子Rを有する累算器22aである。累算器22aは、リセット端子Rに入力される遷移可否fが、状態遷移を許容することを示すとき(つまり状態遷移が生じるとき)には、オフセット値yを0にする。また、累算器22aは、入力端子と、クロック端子を有する。累算器22aは、遷移可否fが、状態遷移を許容しないことを示すとき(つまり状態遷移が生じないとき)には、クロック端子に図示しないパルス信号が入力される度に、オフセット値yに入力端子に入力されるオフセット増分値Δyを加えていく。
なお、図示しないパルス信号は、例えば、後述するステートマシンによって供給される。オフセット増分値Δyは、例えば、図示しないレジスタに記憶されている。
このような遷移制御部20は、セレクタ14b2により選択されたエネルギー変化値(−ΔE)に累算器22aに保持されているオフセット値yを加えた和である−ΔE+yが温度値Tと乱数値の積Tf-1(u)よりも大きいときその状態遷移を許容する。
そして累算器22aは、オフセット値yを次のように変化する。もし許容された状態遷移が存在し状態遷移が生じたときは、累算器22aは、オフセット値yを、0にリセットする。もし許容された遷移が存在せず状態遷移が起こらなかったときは、累算器22aは、オフセット増分値Δyだけオフセット値yを増加する。
図2にこの状態遷移の可否判定のための動作フローをまとめる。
動作フローは、1つの状態遷移を候補として選ぶステップ(S10)、その状態遷移に対するエネルギー変化値(−ΔE)とオフセット値yとの和と、温度値Tと乱数値の積の比較で状態遷移の可否を決定するステップ(S11)を有する。さらに、動作フローは、状態遷移が可ならばその状態遷移を採用し、オフセット値yをクリアし、否ならば不採用とし、オフセット値yを増加するステップ(S12)を有する。
このほかの動作は通常の疑似焼き鈍し法と同じでよい。
以下上記のようなオフセット加算回路21とオフセット制御回路22を有する遷移制御部20による効果を説明する。
現在の状態が局所解に捕まってなかなか脱出できない状態にあるとき、全ての状態遷移に対するエネルギー変化値は大きな正の値である。このときの各状態遷移に対する許容確率はメトロポリス法であってもギブス法であっても、以下の式4−1,4−2に示すように、ほぼ指数関数で表される。
Figure 2018063626
Figure 2018063626
全ての状態遷移の可否判定において、エネルギー変化値{−ΔEi}にオフセット値yを加えて判定を行うとすると、全ての状態遷移の許容確率は以下の式5のようになり、全ての状態遷移の許容確率が同じ倍率ey/Tで大きくなることがわかる。
Figure 2018063626
前述のように、全ての状態遷移の許容確率の相対比を保ったまま許容確率の絶対値を増大することができれば、その後の状態遷移の分岐比を変化させることなく、局所解での滞在時間を短縮することができる。そのため、オフセット値yを用いることで局所解からの脱出促進が期待できる。しかしこのオフセット値yを適切に制御しなければ、加速効果が十分ではなかったり、収束性を悪化させてしまったりする可能性がある。
まず、現在の状態が局所解でないときには、エネルギーの下がる状態遷移があるため、遷移確率は指数関数では近似できない。このためオフセット値yがあると分岐比を変えてしまう。このため局所解でないときは、オフセット値yは0であるか十分小さいことが望ましい。
また現在の状態が局所解であるときのオフセット値yが一定の値であると加速効果はあるものの必ずしも十分でない。状態遷移に伴うエネルギーの増加が大きいものばかりであるとオフセット値yを与えても遷移確率は非常に小さいままである。オフセット値yを与えてもなかなか局所解を脱出できない場合には、さらに大きなオフセット値yを用いることが望ましい。
これを解決するため、図1のオフセット制御回路22は、状態遷移が起こらないときオフセット値yを少しずつ増やし、状態遷移が起こった場合に、オフセット値yを0にリセットする構成となっている。
状態が局所解に留まっていると次第にオフセット値yが大きくなるため、いつかは必ず脱出することができる。また、状態が局所解でないときは状態遷移に伴うリセットが頻繁に起こるためオフセット値yは0または小さい値であり、分岐比に大きな影響を及ぼさないようにすることが可能となる。
オフセット増分値Δyも適切に選ぶことが望ましい。オフセット増分値Δyを大きくした方が局所解から速く脱出できる。しかしあまり大きくすると、局所解でないときも必ずしも毎回状態遷移が起こるとは限らないためオフセット値yの影響を受ける可能性がある。また、局所解においても比較的エネルギーの増加が少なく許容確率が高くなるべき状態遷移が候補に挙がる前にオフセット値yが大きくなってしまい、分岐比が正しい値からずれてしまう可能性がある。分岐比に大きな影響を及ぼさないためには、局所解における平均滞在時間が局所解でないときの平均滞在時間の数倍程度になるようにするのがよいと思われる。
以上のことからオフセット増分値Δyを適切に選べば、収束性に悪影響を及ぼすことなく局所解での滞在時間を短縮することが可能となり、最適化の計算時間の短縮が可能となることがわかる。
この効果のソフトウェアシミュレーションによる検証については、以下に示す実施の形態とともに後述する。
ところで、本発明は上記のように疑似焼き鈍し法を実現する図13の遷移制御部14、さらにいえばその中でも可否判定部14bに上記のような新たな機能ブロックを加えることにより、計算時間の短縮を図るものである。その他の部分には何ら変更を加えなくてよい。したがって、現在の状態に対して許されうる状態遷移の集合や、状態遷移に伴うエネルギーの変化を与える関数形やその計算方法等にはまったく依存せずに、本発明を適用することができる。したがって、これらの部分の具体的回路構成法については詳しく説明しない。
ただし、以下で最適化するエネルギーがイジングモデルで表される場合の疑似焼き鈍し法について、また、それとほとんど等価であるボルツマンマシンにおける最適化において、遷移候補の発生及び状態遷移に伴うエネルギーの変化の計算法について簡単に説明する。
イジングモデルは、お互いに相互作用を行うN個のスピンからなる系を表すモデルであり、各スピンsiは±1の2値をとる。系のエネルギーは、以下の式6で表される。
Figure 2018063626
式6において、Ji,jは、スピンsiとスピンsj間の相互作用係数を示し、hiは、系のバイアス値である外部磁場係数を示す。
現在の状態から次の状態への状態遷移の候補は、1つのスピンの反転であり、N通り存在する。したがって遷移候補としては反転する1つのスピン番号または複数のスピンの番号の集合を発生させればよい。
そしてi番目のスピン反転に伴うエネルギーの変化は、以下の式7で表される。
Figure 2018063626
ここで、以下の式8のFiは、ローカルフィールド(局所場)値と呼ばれ、各スピンの反転によるエネルギー変化の割合を表している。
Figure 2018063626
状態遷移を許容するかどうかはエネルギーの変化で決まるため、基本的にはエネルギーそのものを計算せずにローカルフィールド値からエネルギーの変化を計算すれば十分である。出力として得られた最低エネルギーに対する状態を用いる場合には、ローカルフィールド値からエネルギーの変化を計算しそれを累算してゆくことでエネルギーを求めることができる。
さらに、
Figure 2018063626
であるから、ローカルフィールド値を行列演算により毎回計算し直す必要はなく、状態遷移にともなって反転のあったスピンによる変化分だけ加算すればよい。
また、ニューラルネットワークに用いられるボルツマンマシンは、状態変数が(0,1)の2値をとることを除いてイジングモデルの疑似焼き鈍し法と同じである。このためほとんど同様の構成とすることができる。エネルギー、エネルギーの変化値、ローカルフィールド値を表す式は、以下の式10、式11、式12のようになる。
Figure 2018063626
Figure 2018063626
Figure 2018063626
なお、ボルツマンマシンではイジングモデルのスピンに相当するものをニューロンと呼ぶことが多いが簡単のため以下ではスピンと呼ぶ。
したがって、図13に示した状態保持部11は、N個のスピンの値を保持するNビットレジスタと加算器、排他的論理和等の比較的簡単な演算回路を用いて構成することができる。
上記のようにイジングモデルを用いた疑似焼き鈍し法とボルツマンマシンを用いた疑似焼き鈍し法は同等であり、お互いに相互変換できるので、以下では論理回路の0、1と対応の付けやすいボルツマンマシンを想定して説明を行う。
なおボルツマンマシン(及びイジングモデルの疑似焼き鈍し)においては、状態遷移に伴い変化する状態変数は1つだけであり、それに対するエネルギー変化値はローカルフィールド値を用いて予め計算しておくことができる。したがって以下の実施の形態では予め計算しておいたエネルギー変化値を遷移候補の発生に応じて選択する形式の実装を例に説明している。しかしながら、ボルツマンマシンでないときは、複数の状態変数が変化する遷移を考える場合もあるため、遷移候補の発生後に必要なエネルギー変化値を計算するような実装が有利になる場合もある。
以下、ボルツマンマシンを想定した最適化装置の3つの実施の形態を説明する。
(第1の実施の形態)
図3は、第1の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。図1に示した遷移制御部20と同じ要素については同一符号が付されている。図3の遷移制御部20aは、基本的に図1の遷移制御部20と同じであるが、図3では、累算器22aの構成について少し具体的に示されている。
累算器22aは、加算器22a1、セレクタ22a2、レジスタ22a3を有する。
加算器22a1は、オフセット増分値Δyと、レジスタ22a3が出力するオフセット値yとを加算した和を出力する。
セレクタ22a2は、遷移可否fが状態遷移を許容することを示すとき、0を選択して出力し、遷移可否fが状態遷移を許容しないことを示すとき、加算器22a1が出力する加算結果を選択して出力する。
レジスタ22a3は、クロック端子に供給されるパルス信号に同期して、セレクタ22a2が出力する値を取り込み、オフセット値yとして出力する。
加算器22a1とレジスタ22a3のビット幅は、適切に設定される。ビット幅は、エネルギー変化値(−ΔE)のビット幅と同程度でよい。例えば相互作用係数のビット幅を16、スピン数を1024とした場合、エネルギー変化値(−ΔE)は最大27ビットとなるのでこのビット幅を用いれば十分である。実際にはこれより少なくても十分である場合がほとんどである。ノイズテーブル14b3の出力のビット幅もエネルギー変化値(−ΔE)のビット幅と同程度以下でよい。
レジスタ22a3のクロック端子に供給されるパルス信号は、回路動作における反復動作をコントロールするステートマシンより供給され、1回の反復における状態遷移の可否が確定した後に、一度だけアクティブになるように制御される。
可否判定とその後に続く各パラメータの更新に必要なクロック信号のサイクル数は可否判定結果に依存して変化するため、パルス信号もこのサイクル数に合うように発生させる必要がある。
以下では、状態の更新があった場合は5サイクル、なかった場合は1サイクルで次の反復に入る場合を例としてパルス信号の発生方法の説明を行う。
図4は、パルス信号の発生の状態遷移の一例を示す状態遷移図である。
図4に示すように、0〜4の5つの状態間で、遷移が行われる。状態0のとき、遷移可否fが0である場合、パルス信号が発生される。この場合、状態0からの遷移は行われない。状態0のとき、遷移可否fが1であると、状態1に遷移する。図4において、D.C.は、ドントケアを示している。つまり、状態1からは、遷移可否fの値によらずクロック信号CLKに同期して、状態2、状態3、状態4へと遷移し、状態0へと戻る。そして状態4から状態0に戻る際に、パルス信号が発生される。
このような状態遷移を実現するためのステートマシンは、以下の真理値表を満たす回路とすればよい。
図5は、パルス信号を発生する論理回路の真理値表の一例を示す図である。
また、図6は、パルス信号を発生するステートマシンの一例を示す図である。
ステートマシン50は、3ビットフリップフロップ51、インクリメント回路52、AND回路53、セレクタ54、AND回路55,56を有している。図5の真理値表は、各状態の3ビットフリップフロップ51の出力値Q1,Q2,Q3と、入力値D1,D2,D3の関係を示すものである。
3ビットフリップフロップ51には、インクリメント回路52が出力する3ビットの値のうち、上位2ビット([d0:d1])と、セレクタ54が出力する値が、入力値D1〜D3として供給される。3ビットフリップフロップ51は、クロック信号CLKに同期したタイミングで、入力値D1〜D3を取り込み、出力値Q1〜Q3として出力する。
インクリメント回路52は、3ビットフリップフロップ51が出力する3ビットの出力値Q1〜Q3を+1する。例えば、出力値Q1〜Q3が、“001”(つまりQ1=Q2=0、Q3=1)である場合、インクリメント回路52は、“010”を出力する。
AND回路53は、出力値Q1〜Q3の各ビットの論理レベルを反転した値を入力し、それらの論理積を出力値として出力する。
セレクタ54の一方の入力端子には、インクリメント回路52が出力する3ビットの値の最下位ビット(d2)が供給され、他方の入力端子には、遷移可否fが供給される。そして、セレクタ54は、AND回路53の出力値が1であれば、遷移可否fを出力し、AND回路53の出力値が0であれば、d3を出力する。
AND回路55は、出力値Q1〜Q3の3ビット([q1:q3])の各ビットの論理レベルを反転した値を入力し、それらの論理積を出力値として出力する。
AND回路56は、クロック信号CLKと、AND回路55が出力する出力値との論理積を、パルス信号として出力する。
以上のようなステートマシン50でパルス信号を生成することができる。
以下第1の実施の形態の最適化装置の動作例を説明する。
乱数発生回路14b1は、前述した各反復において状態遷移の候補の番号(遷移番号N)を乱数値により1つずつ発生する。セレクタ14b2は、その状態遷移に伴うエネルギー変化値(−ΔE)を選択して出力する。また、一様乱数である乱数値に基づきノイズテーブル14b3による変換を行って得られた値に、乗算器14b4が温度値Tを乗算することによりメトロポリス法またはギブス法における熱励起エネルギーを生成する。そして、減算器21aは、熱励起エネルギーから累算器22aが出力するオフセット値yを減ずる。比較器14b5は、減算器21aが出力する減算結果と、セレクタ14b2が選択して出力したエネルギー変化値(−ΔE)とを比較することで状態遷移の可否を決定する。
オフセット値yは、累算器22aにより、状態遷移が採用されたとき0にリセットされ、状態遷移が採用されず現在の状態に留まるときオフセット増分値Δy増分が加算される。これにより、現在の状態における滞在時間に対してオフセット値yが単調増加するよう制御される。
オフセット増分値Δyを決める目安は以下のように与えられる。
前述のように、収束性に悪影響を及ぼすことなく加速効果を得るには、局所解の滞在時間が、局所解でない場合の数倍程度になるようにオフセット増分値Δyを選ぶのがよいと考えられる。本実施の形態のように各反復において状態遷移の候補が1つ発生する場合、各状態遷移が候補に挙がる確率は、全ての状態遷移の数の逆数となる。このことを考慮すると、オフセット増分値Δyは、滞在時間が全ての状態遷移の数の数倍程度になったときオフセット値yが局所解からの脱出に必要な山の高さのエネルギーになるように定めるのがよいと考えられる。
図7は図3の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。最適化する問題は32都市の巡回セールスマン問題をイジングモデル(ボルツマンマシン)により定式化したものである。横軸は反復回数、縦軸は最適解が得られた割合(正答率(%))を表している。結果60は、図3の遷移制御部20aを用いたときの、反復回数と正答率との関係を示し、結果61は、図14に示した遷移制御部14を用いたときの、反復回数と正答率との関係を示す。
図7から第1の実施の形態の遷移制御部20aを用いた場合のほうが、遷移制御部14を用いた場合よりも速く正解に達することがわかる。以下の式13で表される99%の確率で正答が得られる反復回数N99で比べると遷移制御部14を用いた場合では4.3×1010、第1の実施の形態の遷移制御部20aを用いた場合では7.7×109であり、約5倍高速化されていることが示された。
Figure 2018063626
ただし、式13において、nは反復回数で、η(n)はその回数での正答率である。
(第2の実施の形態)
図8は第2の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。なお、図8では、乱数値を発生する回路については図示が省略されている。
以下、図8の遷移制御部20bは各ビット反転(スピンの値の変化)を全て状態遷移の候補とするものとして説明するが、各ビット反転の一部のみを状態遷移の候補とすることも可能である。また、以下の説明では、熱励起のために用いる乱数値を、各遷移候補に対して独立とするが、いくつかの状態遷移の候補に対して共通としてもよい。
遷移制御部20bは、図3の遷移制御部20aと同様に累算器22aを有している他、熱励起エネルギー生成部70、減算器71、比較器72、セレクタ73を有する。
熱励起エネルギー生成部70は、遷移候補ごとに独立の乱数値{ui}を、前述した逆関数f-1(u)の値に変換するノイズテーブル(記憶部)を有する。さらに熱励起エネルギー生成部70は、ノイズテーブルが出力する値に温度値Tを乗算した積を、メトロポリス法またはギブス法における熱励起エネルギーとして出力する。
減算器71は、遷移候補ごとに生成された熱励起エネルギーから、累算器22aが出力するオフセット値yを減ずる。
比較器72は、減算器71が出力する各減算結果と、エネルギー変化値{−ΔEi}とを比較することで各状態遷移の可否を示す遷移可否{fi}を出力する。なお、この比較器72の動作は、複数の状態遷移のそれぞれに対して計算されたエネルギー変化値{−ΔEi}とオフセット値yとの和のそれぞれと、複数の乗算(熱励起エネルギー)とのそれぞれとの比較結果を出力することに相当する。
セレクタ73は、遷移可否{fi}に基づいて、許容された状態遷移が複数存在するときは、乱数値を用いてその中から1つをランダムに選択する。そして、セレクタ73は、選択した状態遷移の候補の番号(遷移番号N)を出力するとともに、遷移可否fとして1を出力する。状態遷移が生じないときには、遷移可否fは0となる。
以下第2の実施の形態の最適化装置の動作例を説明する。
前述した各反復において、熱励起エネルギー生成部70は、状態遷移の候補の数と等しい独立な一様乱数である乱数値{ui}を受け、ノイズテーブルを用いて変換を行う。そして熱励起エネルギー生成部70は、変換で得られた値に共通の温度値Tを乗算することにより、メトロポリス法またはギブス法における熱励起エネルギーを生成する。
遷移候補ごとに生成された熱励起エネルギーから、減算器71によって、累算器22aが出力するオフセット値yが減ぜられ、比較器72で、減算器71が出力する各減算結果と、エネルギー変化値{−ΔEi}とが比較される。比較器72は、比較結果に基づいて、各状態遷移の可否を示す遷移可否{fi}を出力する。許容された状態遷移が複数存在する時は、セレクタ73は、乱数値を用いてその中から1つをランダムに選択する。
オフセット値yは、許容された状態遷移が存在し状態が変化するとき(遷移可否fが1のとき)、累算器22aによって0にリセットされる。候補となった状態遷移が全て許容されず現在の状態に留まるとき(遷移可否fが0のとき)、累算器22aは、オフセット値yにオフセット増分値Δyを加算することで、現在の状態における滞在時間に対してオフセット値yが単調増加するよう制御する。
全ての状態遷移が候補として挙げられ、局所解でないときほぼ1回の反復で状態遷移が起こることを考慮すると、オフセット増分値Δyは、滞在時間が数回程度になったとき局所解からの脱出に必要なエネルギーになるように定めるのがよいと考えられる。
図9は図8の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。最適化する問題は32都市の巡回セールマン問題をイジングモデル(ボルツマンマシン)により定式化したものである。横軸は反復回数、縦軸は最適解が得られた割合(正答率(%))を表している。結果60aは、図8の遷移制御部20bを用いたときの、反復回数と正答率との関係を示し、結果61aは、遷移制御部20bから、減算器71と累算器22aを除いたときの、反復回数と正答率との関係を示す。
図9から第2の実施の形態の遷移制御部20bを用いた場合のほうが、減算器71と累算器22aがない場合よりも速く正解に達することがわかる。99%の確率で正答が得られる反復回数N99で比べると減算器71と累算器22aがない場合では5.3×107、第2の実施の形態の遷移制御部20bを用いた場合では1.1×107であり、約5倍高速化されていることが示された。
以下、図8の遷移制御部20bを用いた最適化装置の一例を説明する。
図10は、図8の遷移制御部を用いた最適化装置の一例を示す図である。
最適化装置80は、エネルギー計算部81a1,…,81ai,…,81an、遷移制御部82、状態更新部83を有している。
エネルギー計算部81a1〜81anは、図13に示したエネルギー計算部12の一例であり、エネルギー変化値(−ΔE1,…,−ΔEi,…,−ΔEn(前述の{−ΔEi}に相当))を計算し、出力する。
例えば、エネルギー計算部81aiは、レジスタ81b、セレクタ81c,81d、乗算器81e、加算器81f、レジスタ81g、セレクタ81h、乗算器81iを有している。
レジスタ81bは、前述の式10等における相互作用係数Ji,1,Ji,2,…,Ji,nを格納する。
なお、相互作用係数Ji,1〜Ji,nは、例えば、最適化装置80内の図示しない制御装置または、最適化装置80の外部の装置により、計算対象の問題に応じて予め計算され、レジスタ81bに格納される。なお、上記のような相互作用係数Ji,1〜Ji,nは、RAM等のメモリに格納されてもよい。
セレクタ81cは、遷移制御部82が出力する遷移番号Nに基づき、レジスタ81bに格納されている相互作用係数Ji,1〜Ji,nのうち1つを選択して出力する。
例えば、N=nがセレクタ81cに入力されたとき、セレクタ81cは、相互作用係数Ji,nを選択する。
セレクタ81dは、式11の1−2siの演算を実現するものであり、状態更新部83が出力する更新後のスピンsNの値に基づき、1または−1を選択して出力する。更新後の値が0のときには、セレクタ81dは、−1を選択して出力し、更新後の値が1のときには、セレクタ81dは、1を選択して出力する。
乗算器81eは、セレクタ81cが出力する相互作用係数と、セレクタ81dが出力する値とを乗算した積を出力する。
加算器81fは、乗算器81eが出力する乗算結果と、レジスタ81gに格納されている値とを加算した和を出力する。
レジスタ81gは、図示しないクロック信号に同期して、加算器81fが出力する値を取り込む。レジスタ81gは、例えば、フリップフロップである。なお、レジスタ81gに格納される値が、式12におけるローカルフィールド値Fiである。
セレクタ81hは、変化後のスピンsiの値が、0のとき1を出力し、1のとき−1を出力する。セレクタ81hの出力は、式11の1−2siに相当する。
乗算器81iは、レジスタ81gが出力するローカルフィールド値Fiとセレクタ81hが出力する値とを乗算した積をエネルギー変化値(−ΔEi)として出力する。
遷移制御部82は、回路部82a1,…,82ai,…,82an、セレクタ82b、オフセット制御回路82cを有している。
回路部82a1〜82anは、図8に示した遷移制御部20bの熱励起エネルギー生成部70、減算器71、比較器72の機能を、状態遷移の候補ごとに分割して行うものであり、セレクタ82bは、図8に示したセレクタ73に相当する。また、オフセット制御回路82cは、図8に示した累算器22aに相当する。
したがって、遷移制御部82は、図8に示した遷移制御部20bと同様の動作を行う。
状態更新部83は、図13に示した状態保持部11の機能を有し、遷移制御部14が出力する遷移可否fと遷移番号Nに基づき、保持されているスピンs1〜snの値を更新して、その値の組み合わせ(State)を出力する。また、状態更新部83は、更新後のスピンの値(図11の例ではsNと表記されている)を出力する。
第2の実施の形態の遷移制御部20b,82は、上記のような最適化装置80に適用可能である。
(第3の実施の形態)
図11は第3の実施の形態の最適化装置における遷移制御部の回路構成の一例を示す図である。なお、図11では、乱数値を発生する回路については図示が省略されている。また、図8に示した遷移制御部20bと同じ要素については同一符号が付されている。
以下、図11の遷移制御部20cは各ビット反転(スピンの値の変化)を全て状態遷移の候補とするものとして説明するが、各ビット反転の一部のみを状態遷移の候補とすることも可能である。
遷移制御部20cは、図3の遷移制御部20aと同様に累算器22aを有している他、熱励起エネルギー生成部70a、減算器71a、比較器72a、セレクタ73を有する。
熱励起エネルギー生成部70aは、各遷移候補に対して共通の乱数値u(一様乱数)を、前述した逆関数f-1(u)の値に変換するノイズテーブルを有し、その値に温度値Tを乗算した積を、メトロポリス法またはギブス法における熱励起エネルギーとして出力する。
減算器71aは、熱励起エネルギーから、全ての状態遷移の候補に共通なオフセット値yを減ずる。
比較器72aは、減算器71が出力する減算結果と、各状態遷移によるエネルギー変化値{−ΔEi}とを比較することで各状態遷移の可否を示す遷移可否{fi}を出力する。
セレクタ73は、遷移可否{fi}に基づいて、許容された状態遷移が複数存在するときは、乱数を用いてその中から1つをランダムに選択する。そして、セレクタ73は、選択した状態遷移の候補の番号(遷移番号N)を出力するとともに、遷移可否fとして1を出力する。状態遷移が生じないときには、遷移可否fは0となる。
以下第3の実施の形態の最適化装置の動作例を説明する。
前述した各反復において、熱励起エネルギー生成部70aは、各ビット反転に共通な一様乱数である乱数値uを受け、ノイズテーブルを用いて変換を行う。そして熱励起エネルギー生成部70aは、変換で得られた値に温度値Tを乗算することにより、メトロポリス法またはギブス法における熱励起エネルギーを生成する。
生成された熱励起エネルギーから、減算器71aによって、累算器22aが出力するオフセット値yが減ぜられ、比較器72aで、減算器71aが出力する減算結果と、エネルギー変化値{−ΔEi}とが比較される。比較器72aは、比較結果に基づいて、各状態遷移の状態遷移の可否を示す遷移可否{fi}を出力する。許容された状態遷移が複数存在する時は、セレクタ73は、乱数値を用いてその中から1つをランダムに選択する。
オフセット値yは、第2の実施の形態の遷移制御部20bと同様に制御される。
図12は図11の遷移制御部を用いて実現される疑似焼き鈍し法のソフトウェアシミュレーション結果の一例を示す図である。最適化する問題は32都市の巡回セールマン問題をイジングモデル(ボルツマンマシン)により定式化したものである。横軸は反復回数、縦軸は最適解が得られた割合(正答率(%))を表している。結果60bは、図11の遷移制御部20cを用いたときの、反復回数と正答率との関係を示し、結果61bは、遷移制御部20cから、減算器71aと累算器22aを除いたときの、反復回数と正答率との関係を示す。
図12から第3の実施の形態の遷移制御部20cを用いた場合のほうが、減算器71aと累算器22aがない場合よりも速く正解に達することがわかる。99%の確率で正答が得られる反復回数N99で比べると減算器71aと累算器22aがない場合では3.4×107、第3の実施の形態の遷移制御部20cを用いた場合では1.0×107であり、約3倍高速化されていることが示された。
また、第3の実施の形態の遷移制御部20cでは、各状態遷移で共通の乱数値uを用いるため、第2の実施の形態の遷移制御部20bよりも、回路面積を削減できる。
以上、実施の形態に基づき、本発明の最適化装置及び最適化装置の制御方法の一観点について説明してきたが、これらは一例にすぎず、上記の記載に限定されるものではない。
14b1 乱数発生回路
14b2 セレクタ
14b3 ノイズテーブル
14b4 乗算器
14b5 比較器
20 遷移制御部
21 オフセット加算回路
21a 減算器
22 オフセット制御回路
22a 累算器

Claims (9)

  1. エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持する状態保持部と、
    前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、前記エネルギーの変化値を複数の状態遷移のそれぞれに対して計算するエネルギー計算部と、
    温度を示す温度値を制御する温度制御部と、
    前記温度値と前記変化値と乱数値とに基づいて、前記変化値と熱励起エネルギーとの相対関係によって前記複数の状態遷移の何れかを受け入れるか否かを確率的に決定する際に、前記変化値にオフセット値を加えるとともに、前記エネルギーが極小となる局所解における前記オフセット値を、前記エネルギーが極小ではない場合と比較して大きくなるように制御する遷移制御部と、
    を有することを特徴とする最適化装置。
  2. 前記遷移制御部は、オフセット制御回路を有し、
    前記オフセット制御回路は、前記複数の状態遷移の何れかを受け入れる場合、前記オフセット値を0にし、前記複数の状態遷移の何れも受け入れない場合、前記オフセット値を第1の期間ごとに増加することで、前記複数の状態変数の値で表される現在の状態の滞在時間に対して前記オフセット値を単調に増加させる、
    ことを特徴とする請求項1に記載の最適化装置。
  3. 前記オフセット制御回路は、さらにリセット端子を有する累算器を含み、前記累算器は、前記複数の状態遷移の何れかを受け入れる旨を示す第1の信号を受けると前記オフセット値を0にし、前記複数の状態遷移の何れも受け入れない旨を示す第2の信号を受けると前記オフセット値にオフセット増分値を加算する、
    ことを特徴とする請求項2に記載の最適化装置。
  4. 前記累算器は、さらにクロック端子を有し、前記クロック端子に、ステートマシンからのパルス信号が入力される度、前記オフセット値に前記オフセット増分値を加算する、
    ことを特徴とする請求項3に記載の最適化装置。
  5. 前記遷移制御部は、
    前記複数の状態遷移のそれぞれに対して計算された前記変化値を、前記乱数値に応じて1つ選択するセレクタと、
    前記乱数値に応じた、メトロポリス法またはギブス法で表される前記複数の状態遷移の許容確率を示す関数の逆関数の値を出力する記憶部と、
    前記逆関数の値と前記温度値とを乗算した積で表される前記熱励起エネルギーを出力する乗算器と、
    前記セレクタが選択した前記変化値と前記オフセット値とを加算した和と、前記熱励起エネルギーとの比較結果に相当する値で表される、前記セレクタが選択した前記変化値に対応する状態遷移を受け入れるか否かの判定結果を出力する比較器と、
    を有することを特徴とする請求項1乃至4の何れか一項に記載の最適化装置。
  6. 前記遷移制御部は、
    前記複数の状態遷移のそれぞれに対して互いに独立の前記乱数値に応じた、メトロポリス法またはギブス法で表される前記複数の状態遷移の許容確率を示す関数の逆関数の複数の値を出力する記憶部と、
    前記複数の値のそれぞれと前記温度値とを乗算した複数の積で表される前記熱励起エネルギーを出力する乗算器と、
    前記複数の状態遷移のそれぞれに対して計算された前記変化値と、前記オフセット値とを加算した複数の和のそれぞれと、前記複数の積のそれぞれとの比較結果に相当する複数の値で表される、前記複数の状態遷移のそれぞれを受け入れるか否かの複数の判定結果を出力する比較器と、
    前記複数の判定結果に基づいて、前記複数の状態遷移のうち、受け入れる状態遷移が複数ある場合、何れか1つの状態遷移を選択するセレクタと、
    を有することを特徴とする請求項1乃至4の何れか一項に記載の最適化装置。
  7. 前記遷移制御部は、
    前記複数の状態遷移の全てに対して互いに共通の前記乱数値に応じた、メトロポリス法またはギブス法で表される前記複数の状態遷移の許容確率を示す関数の逆関数の値を出力する記憶部と、
    前記逆関数の値と前記温度値とを乗算した積で表される前記熱励起エネルギーを出力する乗算器と、
    前記複数の状態遷移のそれぞれに対して計算された前記変化値と、前記オフセット値とを加算した複数の和のそれぞれと、前記積との比較結果に相当する複数の値で表される、前記複数の状態遷移のそれぞれを受け入れるか否かの複数の判定結果を出力する比較器と、
    前記複数の判定結果を受け、前記複数の状態遷移のうち、受け入れる状態遷移が複数ある場合、受け入れる前記状態遷移を1つ選択するセレクタと、
    を有することを特徴とする請求項1乃至4の何れか一項に記載の最適化装置。
  8. 前記遷移制御部は、
    前記複数の状態遷移のうちの2以上の状態遷移ごとに共通の前記乱数値に応じた、メトロポリス法またはギブス法で表される前記複数の状態遷移の許容確率を示す関数の逆関数の複数の値を出力する記憶部と、
    前記複数の値のそれぞれと前記温度値とを乗算した複数の積で表される前記熱励起エネルギーを出力する乗算器と、
    前記複数の状態遷移のそれぞれに対して計算された前記変化値と、前記オフセット値とを加算した複数の和のそれぞれと、前記複数の積のそれぞれとの比較結果に相当する複数の値で表される、前記複数の状態遷移のそれぞれを受け入れるか否かの複数の判定結果を出力する比較器と、
    前記複数の判定結果を受け、前記複数の状態遷移のうち、受け入れる状態遷移が複数ある場合、前記受け入れる状態遷移を1つ選択するセレクタと、
    を有することを特徴とする請求項1乃至4の何れか一項に記載の最適化装置。
  9. 最適化装置の制御方法において、
    前記最適化装置が有する状態保持部が、エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持し、
    前記最適化装置が有するエネルギー計算部が、前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、前記エネルギーの変化値を複数の状態遷移のそれぞれに対して計算し、
    前記最適化装置が有する温度制御部が、温度を示す温度値を制御し、
    前記最適化装置が有する遷移制御部が、前記温度値と前記変化値と乱数値とに基づいて、前記変化値と熱励起エネルギーとの相対関係によって前記複数の状態遷移の何れかを受け入れるか否かを確率的に決定する際に、前記変化値にオフセット値を加えるとともに、前記エネルギーが極小となる局所解における前記オフセット値を、前記エネルギーが極小ではない場合と比較して大きくなるように制御する、
    ことを特徴とする最適化装置の制御方法。
JP2016202332A 2016-10-14 2016-10-14 最適化装置及び最適化装置の制御方法 Active JP6465092B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016202332A JP6465092B2 (ja) 2016-10-14 2016-10-14 最適化装置及び最適化装置の制御方法
US15/718,949 US10209683B2 (en) 2016-10-14 2017-09-28 Optimization apparatus and optimization apparatus control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016202332A JP6465092B2 (ja) 2016-10-14 2016-10-14 最適化装置及び最適化装置の制御方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019001947A Division JP2019087273A (ja) 2019-01-09 2019-01-09 最適化装置及び最適化装置の制御方法

Publications (2)

Publication Number Publication Date
JP2018063626A true JP2018063626A (ja) 2018-04-19
JP6465092B2 JP6465092B2 (ja) 2019-02-06

Family

ID=61904462

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016202332A Active JP6465092B2 (ja) 2016-10-14 2016-10-14 最適化装置及び最適化装置の制御方法

Country Status (2)

Country Link
US (1) US10209683B2 (ja)
JP (1) JP6465092B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020027426A (ja) * 2018-08-10 2020-02-20 富士通株式会社 最適化システム、最適化システムの制御方法及び最適化システムの制御プログラム
JP2020057306A (ja) * 2018-10-04 2020-04-09 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020061012A (ja) * 2018-10-11 2020-04-16 富士通株式会社 最適化装置、最適化装置の制御方法、サンプリング装置およびサンプリング装置の制御方法
JP2020064535A (ja) * 2018-10-19 2020-04-23 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020064536A (ja) * 2018-10-19 2020-04-23 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020079991A (ja) * 2018-11-12 2020-05-28 富士通株式会社 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム
JP2020086821A (ja) * 2018-11-22 2020-06-04 富士通株式会社 最適化装置および最適化装置の制御方法
EP3674821A1 (en) 2018-12-26 2020-07-01 Fujitsu Limited Optimization device and control method of optimization device
JP2020135727A (ja) * 2019-02-25 2020-08-31 富士通株式会社 サンプリング装置及びサンプリング装置の制御方法
EP3702939A1 (en) 2019-03-01 2020-09-02 Fujitsu Limited Optimization device and control method of optimization device
JP2020173579A (ja) * 2019-04-10 2020-10-22 富士通株式会社 最適化システムおよび最適化システムの制御方法
JP2020173661A (ja) * 2019-04-11 2020-10-22 富士通株式会社 最適化装置及び最適化装置の制御方法
CN111858229A (zh) * 2019-04-26 2020-10-30 富士通株式会社 优化装置及优化装置的控制方法
JP2021043508A (ja) * 2019-09-06 2021-03-18 株式会社日立製作所 情報処理装置および情報処理方法
CN113128663A (zh) * 2020-01-15 2021-07-16 富士通株式会社 优化装置、温度设置方法和温度设置程序
EP3896621A1 (en) 2020-04-13 2021-10-20 Fujitsu Limited Optimization apparatus, optimization method, and optimization program
EP3901837A1 (en) 2020-04-24 2021-10-27 Fujitsu Limited Optimization apparatus, optimization method, and optimization program

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7093009B2 (ja) * 2018-08-30 2022-06-29 富士通株式会社 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム
WO2020054021A1 (ja) * 2018-09-13 2020-03-19 富士通株式会社 最適化装置及び最適化装置の制御方法
US11080365B2 (en) 2018-10-31 2021-08-03 Fujitsu Limited Solving lattice problems using annealing
US11831743B1 (en) * 2019-01-08 2023-11-28 Xilinx, Inc. Streaming architecture for packet parsing
US11163532B2 (en) 2019-01-18 2021-11-02 Fujitsu Limited Solving multivariate quadratic problems using digital or quantum annealing
JP7208529B2 (ja) * 2019-05-29 2023-01-19 富士通株式会社 最適化装置及び最適化方法
JP7248907B2 (ja) * 2019-08-14 2023-03-30 富士通株式会社 最適化装置および最適化装置の制御方法
JP2021131611A (ja) * 2020-02-18 2021-09-09 富士通株式会社 情報処理装置、プログラム、情報処理方法および情報処理システム
US20230376569A1 (en) 2022-05-23 2023-11-23 Fujitsu Limited Analysis of clustered data

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200517A (ja) * 1993-12-29 1995-08-04 Toshiba Corp 並列型確率的最適化法
JP2010250599A (ja) * 2009-04-16 2010-11-04 Mitsubishi Electric Corp 組合せ最適解を求めるデータ処理方法およびデータ処理装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0619507A (ja) 1992-06-30 1994-01-28 Nec Corp 組み合せ最適化問題解決方式
JPH0934951A (ja) 1995-07-20 1997-02-07 Nec Corp 組合せ最適化方法
JPH10293756A (ja) 1997-04-18 1998-11-04 Nec Corp 組合せ最適化方法
US8839006B2 (en) * 2010-05-28 2014-09-16 Nvidia Corporation Power consumption reduction systems and methods
US9483092B2 (en) * 2013-10-14 2016-11-01 Advanced Micro Devices, Inc. Performance state boost for multi-core integrated circuit
US9898024B2 (en) * 2015-06-08 2018-02-20 Honeywell International Inc. Energy consumption modeling

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200517A (ja) * 1993-12-29 1995-08-04 Toshiba Corp 並列型確率的最適化法
JP2010250599A (ja) * 2009-04-16 2010-11-04 Mitsubishi Electric Corp 組合せ最適解を求めるデータ処理方法およびデータ処理装置

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7100254B2 (ja) 2018-08-10 2022-07-13 富士通株式会社 最適化システム、最適化システムの制御方法及び最適化システムの制御プログラム
JP2020027426A (ja) * 2018-08-10 2020-02-20 富士通株式会社 最適化システム、最適化システムの制御方法及び最適化システムの制御プログラム
CN111008696B (zh) * 2018-10-04 2023-06-09 富士通株式会社 优化装置和控制优化装置的方法
JP2020057306A (ja) * 2018-10-04 2020-04-09 富士通株式会社 最適化装置及び最適化装置の制御方法
CN111008696A (zh) * 2018-10-04 2020-04-14 富士通株式会社 优化装置和控制优化装置的方法
JP2020061012A (ja) * 2018-10-11 2020-04-16 富士通株式会社 最適化装置、最適化装置の制御方法、サンプリング装置およびサンプリング装置の制御方法
CN111045325A (zh) * 2018-10-11 2020-04-21 富士通株式会社 优化装置及优化装置的控制方法
JP7193707B2 (ja) 2018-10-11 2022-12-21 富士通株式会社 最適化装置、最適化装置の制御方法、サンプリング装置およびサンプリング装置の制御方法
JP7193708B2 (ja) 2018-10-19 2022-12-21 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020064536A (ja) * 2018-10-19 2020-04-23 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020064535A (ja) * 2018-10-19 2020-04-23 富士通株式会社 最適化装置及び最適化装置の制御方法
JP7137064B2 (ja) 2018-10-19 2022-09-14 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2020079991A (ja) * 2018-11-12 2020-05-28 富士通株式会社 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム
US11562210B2 (en) 2018-11-12 2023-01-24 Fujitsu Limited Stochastically determining to accept a state transition for an optimization device
JP7181454B2 (ja) 2018-11-12 2022-12-01 富士通株式会社 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム
JP2020086821A (ja) * 2018-11-22 2020-06-04 富士通株式会社 最適化装置および最適化装置の制御方法
JP7108185B2 (ja) 2018-11-22 2022-07-28 富士通株式会社 最適化装置および最適化装置の制御方法
CN111381495A (zh) * 2018-12-26 2020-07-07 富士通株式会社 优化装置及优化装置的控制方法
EP3674821A1 (en) 2018-12-26 2020-07-01 Fujitsu Limited Optimization device and control method of optimization device
JP2020106917A (ja) * 2018-12-26 2020-07-09 富士通株式会社 最適化装置及び最適化装置の制御方法
JP7174244B2 (ja) 2018-12-26 2022-11-17 富士通株式会社 最適化装置及び最適化装置の制御方法
US11334646B2 (en) 2019-02-25 2022-05-17 Fujitsu Limited Information processing apparatus and method for controlling sampling apparatus
JP7273288B2 (ja) 2019-02-25 2023-05-15 富士通株式会社 サンプリング装置及びサンプリング装置の制御方法
JP2020135727A (ja) * 2019-02-25 2020-08-31 富士通株式会社 サンプリング装置及びサンプリング装置の制御方法
EP3702975A2 (en) 2019-02-25 2020-09-02 Fujitsu Limited Sampling apparatus and method for controlling sampling apparatus
EP3702939A1 (en) 2019-03-01 2020-09-02 Fujitsu Limited Optimization device and control method of optimization device
JP2020140631A (ja) * 2019-03-01 2020-09-03 富士通株式会社 最適化装置及び最適化装置の制御方法
JP7197789B2 (ja) 2019-03-01 2022-12-28 富士通株式会社 最適化装置及び最適化装置の制御方法
EP3754559A1 (en) 2019-04-10 2020-12-23 Fujitsu Limited Optimization system and control method for optimization system
JP2020173579A (ja) * 2019-04-10 2020-10-22 富士通株式会社 最適化システムおよび最適化システムの制御方法
JP7256378B2 (ja) 2019-04-10 2023-04-12 富士通株式会社 最適化システムおよび最適化システムの制御方法
JP2020173661A (ja) * 2019-04-11 2020-10-22 富士通株式会社 最適化装置及び最適化装置の制御方法
JP7185140B2 (ja) 2019-04-11 2022-12-07 富士通株式会社 最適化装置及び最適化装置の制御方法
JP7206492B2 (ja) 2019-04-26 2023-01-18 富士通株式会社 最適化装置及び最適化装置の制御方法
CN111858229A (zh) * 2019-04-26 2020-10-30 富士通株式会社 优化装置及优化装置的控制方法
JP2020181461A (ja) * 2019-04-26 2020-11-05 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2021043508A (ja) * 2019-09-06 2021-03-18 株式会社日立製作所 情報処理装置および情報処理方法
JP7341804B2 (ja) 2019-09-06 2023-09-11 株式会社日立製作所 情報処理装置および情報処理方法
CN113128663A (zh) * 2020-01-15 2021-07-16 富士通株式会社 优化装置、温度设置方法和温度设置程序
JP7339539B2 (ja) 2020-01-15 2023-09-06 富士通株式会社 最適化装置、最適化装置の温度設定方法及び最適化装置の温度設定プログラム
EP3896621A1 (en) 2020-04-13 2021-10-20 Fujitsu Limited Optimization apparatus, optimization method, and optimization program
EP3901837A1 (en) 2020-04-24 2021-10-27 Fujitsu Limited Optimization apparatus, optimization method, and optimization program

Also Published As

Publication number Publication date
JP6465092B2 (ja) 2019-02-06
US10209683B2 (en) 2019-02-19
US20180107172A1 (en) 2018-04-19

Similar Documents

Publication Publication Date Title
JP6465092B2 (ja) 最適化装置及び最適化装置の制御方法
JP6892599B2 (ja) 最適化装置及び最適化装置の制御方法
JP6923790B2 (ja) 最適化装置及び最適化装置の制御方法
JP6465231B1 (ja) 最適化装置及び最適化装置の制御方法
Noel A new gradient based particle swarm optimization algorithm for accurate computation of global minimum
JP6993571B2 (ja) 最適化装置及び最適化装置の制御方法
Dowlatshahi et al. A discrete gravitational search algorithm for solving combinatorial optimization problems
JP7197789B2 (ja) 最適化装置及び最適化装置の制御方法
JP7100257B2 (ja) 最適化装置及び最適化装置の制御方法
JP7137064B2 (ja) 最適化装置及び最適化装置の制御方法
CN111381495B (zh) 优化装置及优化装置的控制方法
JP7273288B2 (ja) サンプリング装置及びサンプリング装置の制御方法
JP2020035179A (ja) 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム
CN113536229A (zh) 采样装置、采样方法以及用于存储采样程序的存储介质
Yu et al. Optimizing sequential diagnostic strategy for large-scale engineering systems using a quantum-inspired genetic algorithm: A comparative study
JP7111966B2 (ja) 最適化装置及び最適化装置の制御方法
JP2020046715A (ja) 計算装置、計算プログラム、記録媒体及び計算方法
JP2019087273A (ja) 最適化装置及び最適化装置の制御方法
Shahidi et al. A new method for reversible circuit synthesis using a Simulated Annealing algorithm and don’t-cares
D'Arcy et al. Deep q-learning for directed acyclic graph generation
Xu et al. Towards dynamic fuzzy interpolation based on rule assessment
JPWO2020054061A1 (ja) 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム
CN113705858B (zh) 多目标区域的最短路径规划方法、系统、设备及存储介质
JPWO2018190064A1 (ja) 量子アニーリング計算のための処理方法
JP2019074890A (ja) 関数学習装置、関数計算装置、関数学習方法、関数計算方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181224

R150 Certificate of patent or registration of utility model

Ref document number: 6465092

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150