JP2021157360A - 最適化装置及び最適化方法 - Google Patents

Abstract

【課題】１−ｈｏｔ制約を含む問題をハードウェアの複雑化を抑えて計算可能とする。【解決手段】記憶部１１は、複数の重み係数の少なくとも一部（第１の重み係数群）を記憶し、記憶部１２ａ１〜１２ａｐのそれぞれは、複数の重み係数のうち、複数のレプリカの何れかにおいての、値が１である状態変数に関する第２の重み係数群を記憶する。探索部１３は、各レプリカについて、Ｎ行Ｎ列の状態変数のうち指定された２列の値を列間で入れ替えるか否かを、第１の重み係数群及び第２の重み係数群を用いて計算されるイジングモデルのエネルギーの変化量に基づいて判定し、各行と各列の状態変数の値の和が１である制約を満たしつつ、入れ替えによる更新を行う更新処理を繰り返すことで最適解を探索し、探索結果を出力する。制御部１４は、各レプリカに対して共通の２列（図４の例では列ｋ，ｋ’）を指定する。【選択図】図４

Description

本発明は、最適化装置及び最適化方法に関する。

ノイマン型コンピュータが不得意とする大規模な離散最適化問題を計算する装置として、イジング型の評価関数（エネルギー関数などとも呼ばれる）を用いたイジング装置（ボルツマンマシンとも呼ばれる）がある（たとえば、特許文献１参照）。

イジング装置による計算では、計算対象の問題は磁性体のスピンの振る舞いを表すモデルであるイジングモデルに置き換えられる。そして、疑似焼き鈍し法やレプリカ交換法（交換モンテカルロ法とも呼ばれる）などのマルコフ連鎖モンテカルロ法により、イジングモデル型の評価関数の値（イジングモデルのエネルギーに相当する）が最小となる状態の探索が行われる。

従来、デジタル回路を用いてマルコフ連鎖モンテカルロ法を行うことでエネルギーが最小となる状態を探索する最適化装置がある（たとえば、特許文献２参照）。従来の最適化装置は、一度に１つの状態変数の値だけ変化するとしてエネルギーの変化量（以下単にエネルギー変化という場合もある）を計算し、そのエネルギー変化に対して温度に対応するノイズ値を加えた値に応じてビットの変化を許容するか否かを決定する。エネルギーが増加する状態変数の値の変化も所定の確率で許容され、温度が低くなるにつれてその確率は低くなる。

ところで、最適化問題には、評価関数に含まれる複数の状態変数のうち値が１となる状態変数の数を１つのみとする制約（１−ｈｏｔ制約）をもつものがある。１−ｈｏｔ制約には、各状態変数が制約式の組に一度しか現れないものと、N^２個の状態変数をＮ行Ｎ列の行列状に並べたときに各行と各列に含まれる状態変数の値の和が１となるものがある。以下、前者の１−ｈｏｔ制約を１−Ｗａｙ １−ｈｏｔ制約、後者の１−ｈｏｔ制約を２−Ｗａｙ １−ｈｏｔ制約という。

たとえば、９つの状態変数（ｘ_１〜ｘ_９）について、ｘ_１＋ｘ_２＋ｘ_３＝１、ｘ_４＋ｘ_５＋ｘ_６＝１、ｘ_７＋ｘ_８＋ｘ_９＝１とする制約は、１−Ｗａｙ １−ｈｏｔ制約である。交通量最適化問題やビンパッキング問題などは、１−Ｗａｙ １−ｈｏｔ制約をもつ。

たとえば、ｘ_１〜ｘ_９を３行３列の行列状に並べたときに、ｘ_１＋ｘ_２＋ｘ_３＝１、ｘ_４＋ｘ_５＋ｘ_６＝１、ｘ_７＋ｘ_８＋ｘ_９＝１、ｘ_１＋ｘ_４＋ｘ_７＝１、ｘ_２＋ｘ_５＋ｘ_８＝１、ｘ_３＋ｘ_６＋ｘ_９＝１とする制約は、２−Ｗａｙ １ｈｏｔ制約である。巡回セールスマン問題、配車計画問題、２次割り当て問題などは、２−Ｗａｙ １ｈｏｔ制約をもつ。

特開２０１６−５１３４９号公報 特開２０１８−４１３５１号公報

上記のように、一度に変化する状態変数の数を１つとした場合、最適化装置は、ハミング距離＝１の状態遷移を繰り返しながらエネルギーが最少となる基底状態の探索を行う。そのため、従来の最適化装置では、１−ｈｏｔ制約を満たさない状態への遷移も発生し、遷移が起こりうる状態の数（探索空間）が１−ｈｏｔ制約を満たす状態の数よりも大きい。

１−ｈｏｔ制約を満たす状態以外の状態の探索を除外することで探索空間を狭めることができるが、その場合、一度に変化する状態変数の数が複数となり、上記のエネルギー変化を計算するハードウェアの複雑化を招く問題がある。

１つの側面では、本発明は、１−ｈｏｔ制約を含む問題をハードウェアの複雑化を抑えて計算可能な最適化装置及び最適化方法を提供することを目的とする。

１つの実施態様では、イジングモデルのエネルギーを表す評価関数に含まれる複数の状態変数のそれぞれの間の相互作用の大きさを示す複数の重み係数の少なくとも一部である、第１の重み係数群を記憶する第１の記憶部と、前記複数の重み係数のうち、前記複数の状態変数をそれぞれ含む複数の状態変数群の何れかにおいての、値が１である状態変数に関する第２の重み係数群をそれぞれ記憶する複数の第２の記憶部と、前記複数の状態変数のうちＮ（Ｎは２以上の整数）の２乗個の第１の状態変数をＮ行Ｎ列に並べたときに、指定された２列または２行に含まれる前記第１の状態変数の値を前記２列の間または前記２行の間で入れ替えを行うか否かを、前記第１の重み係数群及び前記第２の重み係数群を用いて計算される前記イジングモデルの前記エネルギーの変化量に基づいて判定し、各行と各列に含まれる前記第１の状態変数の値の和が１である第１の制約を満たしつつ、前記入れ替えによる更新を行う、または、前記複数の状態変数のうち指定されたグループに含まれる複数の第２の状態変数の値の何れか２つの値の更新を行うか否かを、前記エネルギーの前記変化量に基づいて判定し、前記グループに含まれる前記複数の第２の状態変数の和が１である第２の制約を満たしつつ、前記２つの値の更新を行う、更新処理を繰り返すことで前記エネルギーを最小化する最適解を探索し、探索結果を出力する処理を、前記複数の状態変数群のそれぞれについて行う探索部と、前記複数の状態変数群に対して共通の、前記２列、前記２行、または前記グループを指定する制御部と、を有する最適化装置が提供される。

また、１つの実施態様では、最適化方法が提供される。

１つの側面では、本発明は、１−ｈｏｔ制約を含む問題をハードウェアの複雑化を抑えて計算できる。

第１の実施の形態の最適化装置の一例を示す図である。 １−Ｗａｙ １−ｈｏｔ制約の一例を示す図である。 ２−Ｗａｙ １−ｈｏｔ制約の一例を示す図である。 ２−Ｗａｙ １−ｈｏｔ制約をもつ問題に対する処理例を示す図である。 複数の読み出し方の例を示す図である。 第１の実施の形態の最適化装置の処理の一例の流れを示すフローチャートである。 第１の実施の形態の最適化装置の変形例を示す図である。 第２の実施の形態の最適化装置の一例を示す図である。

以下、発明を実施するための形態を、図面を参照しつつ説明する。
（第１の実施の形態）
図１は、第１の実施の形態の最適化装置の一例を示す図である。

最適化装置１０は、イジングモデルのエネルギーを最小化する最適解を探索する。
イジングモデルのエネルギーは、たとえば、以下の式（１）に示すような評価関数（Ｅ（ｘ））で定義される。

右辺第１項は、イジングモデルに含まれる全状態変数から選択可能な２つの状態変数の全組合せについて、漏れと重複なく、２つの状態変数の値と重み係数との積を積算したものである。ｘ_ｉは、ｉ番目の状態変数である。ｘ_ｊは、ｊ番目の状態変数である。Ｗ_ｉｊは、ｉ番目の状態変数とｊ番目の状態変数との間の重み（たとえば、結合の強さ）を示す重み係数である。なお、Ｗ_ｉｉ＝０である。また、Ｗ_ｉｊ＝Ｗ_ｊｉであることが多い（つまり、重み係数による係数行列は対称行列である場合が多い）。

右辺第２項は、全状態変数のそれぞれのバイアス係数と状態変数の値との積の総和を求めたものである。ｂ_ｉは、ｉ番目の状態変数に対するバイアス係数を示している。ｃは定数である。

たとえば、イジングモデルにおけるスピンの「−１」は、状態変数の値「０」に対応する。イジングモデルにおけるスピンの「＋１」は、状態変数の値「１」に対応する。このため、状態変数を、０または１の値をとるビットと呼ぶこともできる。

式（１）の値が最小となる状態変数の値の組合せが問題の解（最適解）となる。
第１の実施の形態の最適化装置１０は、記憶部１１、複数（ｐ個）の記憶部１２ａ１，１２ａ２，…，１２ａｐ、探索部１３、制御部１４を有する。

記憶部１１は、複数の状態変数のそれぞれの間の相互作用の大きさを示す複数の重み係数の少なくとも一部である重み係数群を記憶する。記憶部１１は、式（１）の全ての重み係数を保持可能な記憶容量を有している場合には、全ての重み係数を記憶してもよい。記憶部１１の一例として、アクセス速度がＤＲＡＭ（Dynamic Random Access Memory）などと比べて高速なＳＲＡＭ（Static Random Access Memory）などを用いることができる。

記憶部１２ａ１〜１２ａｐのそれぞれは、式（１）に含まれる重み係数のうち、全状態変数をそれぞれ含む複数の状態変数群（レプリカ）のそれぞれにおいて、値が１である状態変数に関する重み係数群を記憶する。どの状態変数の値が１であるかについては、レプリカごとに独立である。

また、記憶部１２ａ１〜１２ａｐのそれぞれは、全状態変数群の値や後述の局所場を保持してもよいが、これらは探索部１３内のレジスタに保持されるようにしてもよい。
記憶部１２ａ１〜１２ａｐの一例として、ＳＲＡＭなどを用いることができる。なお、記憶部１２ａ１〜１２ａｐは、１つの記憶装置（ＳＲＡＭなど）の複数の記憶領域であってもよい。

探索部１３は、各レプリカについてエネルギーを最小化する最適解の探索処理を行う。
探索部１３は、１−Ｗａｙ １−ｈｏｔ制約、または２−Ｗａｙ １−ｈｏｔ制約を満たしつつ、状態変数を更新する更新処理を繰り返すことで、イジングモデルのエネルギーを最小化する最適解を探索し、探索結果を出力する処理をレプリカごとに行う。

１−Ｗａｙ １−ｈｏｔ制約を満たしつつ更新処理が行われる場合、探索部１３には、制御部１４によって、全レプリカに対して共通の、グループが指定される。そして、探索部１３は、記憶部１１及び記憶部１２ａ１〜１２ａｐに記憶されている重み係数群を用いて計算されるエネルギー変化に基づいて、グループに含まれる複数の状態変数の値の何れか２つの値の更新を行うか否かの判定を行う。１−Ｗａｙ １−ｈｏｔ制約を満たすためには、グループに含まれる状態変数のうち、値が１である状態変数を０に更新した場合、値が０である状態変数を１つだけ１に更新することになる。

図２は、１−Ｗａｙ １−ｈｏｔ制約の一例を示す図である。
図２の例では、それぞれ１−Ｗａｙ １−ｈｏｔ制約をもつＭ個のグループが設けられている。各グループは、ｑ個の状態変数を有する。たとえば、制御部１４によって、グループインデックス＝ｋのグループが指定された場合、探索部１３は、全レプリカに対してグループインデックス＝ｋのグループについての更新処理を行う。図２の例では、グループインデックス＝ｋのグループ内のｘ_＜ｋｉ＞が１であり、その他の状態変数（たとえば、ｘ_＜ｋｊ＞）が０となっている。ｉやｊは、グループ内での状態変数のインデックスを示し、＜ｋｉ＞＝（ｋ−１）ｑ＋ｉである。なお、同じグループの状態変数であっても、どの状態変数が１または０であるかは、レプリカごとに独立である。

ところで、式（１）において、ｘ_ｉの値が変化して１−ｘ_ｉとなると、ｘ_ｉの増加分は、Δｘ_ｉ＝（１−ｘ_ｉ）−ｘ_ｉ＝１−２ｘ_ｉと表せる。この値の変化に伴うエネルギー変化（ΔＥ_ｉ）は、以下の式（２）で表される。

式（２）において、ｘ_ｉが１から０に変化するとき、Δｘ_ｉは−１となり、ｘ_ｉが０から１に変化するとき、Δｘ_ｉは１となる。なお、ｈ_ｉは局所場（ローカルフィールド）と呼ばれ、Δｘ_ｉに応じてｈ_ｉに符号（＋１または−１）を乗じたものがΔＥ_ｉである。

ｘ_ｊが０から１に変化するときのｈ_ｉの変化分は、Δｈ_ｉ ^（ｊ）＝＋Ｗ_ｉｊ、ｘ_ｊが１から０に変化するときのｈ_ｉの変化分は、Δｈ_ｉ ^（ｊ）＝−Ｗ_ｉｊである。同様に、ｘ_ｉが変化したときのｘ_ｊについてのｈ_ｊの変化分は、Δｈ_ｊ ^（ｉ）＝Δｘ_ｉＷ_ｉｊ、と表せる。

したがって、ｘ_ｉ，ｘ_ｊが両方変化したときのエネルギー変化は、以下の式（３）で表せる。

前述のように、１−Ｗａｙ １−ｈｏｔ制約を満たすある状態から、その制約を満たす別の状態に遷移するには、２つの状態変数の値を変化させることになる。ｘ_ｉが１から０に変化するとともにｘ_ｊが０から１に変化する場合のエネルギー変化をΔＥ_ｊと表記すると、Δｘ_ｉ＝−１、Δｘ_ｊ＝１であるため、式（３）から、ΔＥ_ｊは以下の式（４）で表せる。

なお、式（１）において、Ｗ_ｉｊｘ_ｉｘ_ｊは、ｘ_ｉ，ｘ_ｊの何れか一方が０であれば、エネルギーに関与しないため、式（４）のＷ_ｉｊはなくてもよい。
以上のことから、図２の例において、ｘ_＜ｋｉ＞が１から０、ｘ_＜ｋｊ＞が０から１に変化するときのエネルギー変化をΔＥ_ｋと表記すると、式（４）からΔＥ_ｋは以下の式（５）で表せる。

探索部１３は、各レプリカにおいて、指定されたグループに含まれる複数の状態変数のうち、値が０である状態変数のそれぞれについて、上記のようにエネルギー変化を計算する。

探索部１３は、各レプリカにおいて、計算したエネルギー変化に基づいて、疑似焼き鈍し法やレプリカ交換法などを用いて、そのエネルギー変化を生じさせる状態変数の変化を受け入れるか否かを判定する。探索部１３は、式（１）のＥ（ｘ）が小さくなる状態変数の変化を優先的に受け入れるが、Ｅ（ｘ）が大きくなる変化についても確率的に許容する。

探索部１３は、グループ内で値を０から１に更新する状態変数が決定された場合、その状態変数の値を０から１に更新するとともに、グループ内で現在の値が１である状態変数の値を１から０に更新する。さらに、探索部１３は、局所場を更新する。

たとえば、あるレプリカについて、図２のｘ_＜ｋｉ＞が１から０、ｘ_＜ｋｊ＞が０から１に変化するとき、ｎ個の全状態変数（ｘ_１〜ｘ_ｎ）についての局所場（ｈ_１〜ｈ_ｎ）は、以下の式（６）に基づいて更新される。

式（６）に含まれる重み係数のうち、Ｗ_{１＜ｋｉ＞}〜Ｗ_{ｎ＜ｋｉ＞}は、更新前の値が１であるｘ_＜ｋｉ＞に関する重み係数群であるため、記憶部１２ａ１〜１２ａｐの何れかに記憶されている。また、Ｗ_{１＜ｋｊ＞}〜Ｗ_{ｎ＜ｋｊ＞}は、記憶部１１に予め記憶される。このため、これらの重み係数群は、記憶部１１と記憶部１２ａ１〜１２ａｐの何れかから読み出されて用いられる。

また、探索部１３は、値を０から１に更新した状態変数に関する重み係数群を記憶部１１から読み出して記憶部１２ａ１〜１２ａｐに記憶させる。
一方、２−Ｗａｙ １−ｈｏｔ制約を満たしつつ更新処理が行われる場合、探索部１３には、制御部１４によって、全レプリカに共通の２列または２行が指定される。そして、探索部１３は、記憶部１１及び記憶部１２ａ１〜１２ａｐに記憶されている重み係数群に基づいて、指定された２列または２行に含まれる状態変数の値を２列の間または２行の間で入れ替えを行うか否かの判定を行う。２−Ｗａｙ １−ｈｏｔ制約が満たされている場合、各列、各行に含まれる複数の状態変数のうちの１つの値が１である。そのため２列または２行に含まれる状態変数の値を入れ替えても制約が満たされる。

図３は、２−Ｗａｙ １−ｈｏｔ制約の一例を示す図である。
図３の例では、２−Ｗａｙ １−ｈｏｔ制約をもつＮ行Ｎ列（Ｎは２以上の整数）に配列された状態変数が示されている。たとえば、制御部１４によって、列ｋと列ｋ’が指定された場合、探索部１３は、いずれのレプリカについても列ｋと列ｋ’に含まれる状態変数について、更新処理を行う。

図３の例では、列ｋの行ｉの状態変数であるｘ_＜ｋｉ＞が１であり、列ｋのその他の状態変数（たとえば、行ｊの状態変数であるｘ_＜ｋｊ＞）が０となっている。また、列ｋ’の行ｊの状態変数であるｘ_{＜ｋ’ｊ＞}が１であり、列ｋ’のその他の状態変数（たとえば、行ｉの状態変数であるｘ_{＜ｋ’ｉ＞}）が０となっている。なお、同じ列の状態変数であっても、どの行の状態変数が１または０であるかは、レプリカごとに独立である。

列ｋと列ｋ’に含まれる状態変数の値を入れ替えることは、図３の場合、ｘ_＜ｋｊ＞とｘ_{＜ｋ’ｉ＞}を０から１に変化させ、ｘ_＜ｋｉ＞とｘ_{＜ｋ’ｊ＞}を１から０に変化させることと同じである。

このように４つの状態変数を変化させるときのエネルギー変化をΔＥ_ｋｋ’と表記すると、ΔＥ_ｋｋ’は以下の式（７）で表せる。

探索部１３は、各レプリカにおいて指定された列ｋと列ｋ’について、上記のようなエネルギー変化の計算を一度行えばよい。
探索部１３は、計算したエネルギー変化に基づいて、疑似焼き鈍し法やレプリカ交換法などを用いて、そのエネルギー変化を生じさせる状態変数の変化を受け入れるか否か（入れ替えを行うか否か）を判定する。探索部１３は、式（１）のＥ（ｘ）が小さくなる状態変数の変化を優先的に受け入れるが、Ｅ（ｘ）が大きくなる変化についても確率的に許容する。つまり、ΔＥ_ｋｋ’が正の値になる場合も、確率的に列ｋと列ｋ’に含まれる状態変数の値の入れ替えを許容する。

たとえば、あるレプリカについて、列ｋと列ｋ’に含まれる状態変数の値の入れ替えが許容された場合、ｘ_＜ｋｊ＞とｘ_{＜ｋ’ｉ＞}を０から１に変化させ、ｘ_＜ｋｉ＞とｘ_{＜ｋ’ｊ＞}を１から０に変化させる。さらに、探索部１３は、局所場を更新する。

ｘ_＜ｋｊ＞とｘ_{＜ｋ’ｉ＞}を０から１に変化させ、ｘ_＜ｋｉ＞とｘ_{＜ｋ’ｊ＞}を１から０に変化させる場合、ｎ個の全状態変数（ｘ_１〜ｘ_ｎ）についての局所場（ｈ_１〜ｈ_ｎ）は、以下の式（８）に基づいて更新される。

式（８）に含まれる重み係数のうち、Ｗ_{１＜ｋｉ＞}〜Ｗ_{ｎ＜ｋｉ＞}と、Ｗ_{１＜ｋ’ｊ＞}〜Ｗ_{ｎ＜ｋ’ｊ＞}は、更新前の値が１であるｘ_＜ｋｉ＞とｘ_{＜ｋ’ｊ＞}に関する重み係数群であるため、記憶部１２ａ１〜１２ａｐの何れかに記憶されている。また、Ｗ_{１＜ｋｊ＞}〜Ｗ_{ｎ＜ｋｊ＞}と、Ｗ_{１＜ｋ’ｉ＞}〜Ｗ_{ｎ＜ｋ’ｉ＞}は、記憶部１１に予め記憶される。このため、これらの重み係数群は、記憶部１１と記憶部１２ａ１〜１２ａｐの何れかから読み出されて用いられる。

列ｋと列ｋ’について、上記と同様な処理が他のレプリカにおいても行われる。２行の間の入れ替えが行われる場合についても、同様の処理が行われる。
また、探索部１３は、値を０から１に更新した状態変数に関する重み係数群を記憶部１１から読み出し、記憶部１２ａ１〜１２ａｐに記憶させる。

探索部１３は、上記のような処理を、指定されるグループや列または行を変えて、探索終了条件（たとえば、所定の繰り返し回数が終了したかなど）が満たされるまで繰り返す。そして、探索部１３は、各レプリカについて、たとえば、探索終了条件が満たされたときの全状態変数の値を制御部１４に出力する。

なお、探索部１３は、各レプリカについて並列に処理してもよいしパイプライン的に動作してもよい。
探索部１３は、たとえば、式（５）〜式（８）を計算する、加減算回路やセレクタなどを含むＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）などの特定用途の電子回路にて実現できる。

制御部１４は、探索部１３に処理させるグループ、２列または２行を指定する。これらは全レプリカについて共通の、グループ、２列または２行である。制御部１４は、処理させるグループ、２列または２行を所定の順序で指定する。制御部１４は、たとえば、グループインデックスの昇順に処理されるグループを指定する。また、制御部１４は、たとえば、探索部１３に処理させる２列を、列１と列２、列１と列３、…、列１と列Ｎ、列２と列３、列３と列４…のように指定する。

また、制御部１４は、記憶容量の制限などにより記憶部１１が式（１）の全ての重み係数を保持しない場合、一部の重み係数群を、記憶装置２０から読み出して、記憶部１１に記憶させる。記憶装置２０は、たとえば、ＤＲＡＭやＨＢＭ（High Bandwidth Memory）などである。

さらに、制御部１４は、疑似焼き鈍し法やレプリカ交換法で用いられる温度パラメータなどの更新処理で用いられる各種のパラメータや、各状態変数の初期値などを探索部１３に設定する。なお、各状態変数の初期値は、１−Ｗａｙ １−ｈｏｔ制約または２−Ｗａｙ １−ｈｏｔ制約を満たすように設定される。

また、制御部１４は、たとえば、探索部１３において探索終了条件が満たされたときの全状態変数の値（探索結果）を受け、式（１）に基づいてレプリカごとのエネルギーを計算する。そして、制御部１４は、たとえば、最低のエネルギーを示すレプリカにおける探索結果（全状態変数の値）を、問題の解として、制御部１４に接続される図示しない表示装置などに出力する。また、制御部１４は、たとえば、有線または無線ネットワークを介して、探索結果を外部の情報処理装置に送信してもよい。

なお、探索部１３が、状態変数の更新に伴うエネルギー変化に基づいて、レプリカごとのエネルギーを計算するようにしてもよい。
制御部１４は、たとえば、ＡＳＩＣやＦＰＧＡなどの特定用途の電子回路により実現できる。ただしこれに限定されず、制御部１４は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）などのプロセッサであってもよい。

以下、２−Ｗａｙ １−ｈｏｔ制約をもつ問題を解く際の、最適化装置１０の処理例（最適化方法の例）を説明する。
図４は、２−Ｗａｙ １−ｈｏｔ制約をもつ問題に対する処理例を示す図である。

図４の例では、２−Ｗａｙ １−ｈｏｔ制約をもつ計算対象の問題のサイズが４ｋ（状態変数の総数が４０９６）であるものとしている。図４には、４０９６個の状態変数が６４行６４列に配列された変数行列の例が示されている。重み係数行列の一行は、４ｋワードとする。記憶部１１の記憶容量は２ｋ変数分（状態変数の数が２０４８）であるとすると、保持できる重み係数行列のサイズは２ｋ×２ｋワードとなる。２ｋ×２ｋは、６４×１６（＝１ｋ）×４ｋと表せるため、変数行列１６列分に対応した数の重み係数が記憶部１１に記憶できることになる。

制御部１４は、探索部１３に各種パラメータや、２−Ｗａｙ １−ｈｏｔ制約を満たす状態変数の初期値を設定する。また、制御部１４は、状態変数の初期値に基づいて、値が１である状態変数に関する重み係数を記憶装置２０から読み出して記憶部１１を介して、記憶部１２ａ１〜１２ａｐに記憶させる（記憶装置２０から直接、記憶部１２ａ１〜１２ａｐに記憶してもよい）。

さらに制御部１４は、レプリカごと、状態変数の初期値と、重み係数とバイアス係数に基づいて、式（２）の局所場（ｈ_ｉ）の初期値を計算し、記憶部１２ａ１〜１２ａｐ、または探索部１３の図示しないレジスタに書き込んでもよい。なお、局所場の初期値は、探索部１３が計算してもよい。探索部１３が局所場の初期値を計算する場合、探索部１３は、たとえば、制御部１４からバイアス係数を受け、記憶部１２ａ１〜１２ａｐに記憶されている重み係数を読み出して、局所場の初期値を計算する。

そして、制御部１４は、たとえば、記憶装置２０に記憶されている重み係数行列のうち、変数行列の列１〜列１６の状態変数に関する重み係数群（重み係数行列の先頭の１ｋ行（１〜１０２４行））を読み出して、記憶部１１に記憶させる。

その後、制御部１４は、列１〜列１６のうち、探索部１３に対して、処理させる２列を指定する。図４の例の“ｓｗａｐ ｋ，ｋ’”は、各レプリカ１〜ｐに対して、列ｋと列ｋ’が指定されていることを示している。この場合、探索部１３は、レプリカ１〜ｐのそれぞれにおいて、列ｋと列ｋ’の間で入れ替えを発生させることによるエネルギー変化を式（７）に基づいて計算し、そのエネルギー変化に基づいて、入れ替えの可否を判定する。入れ替えが許容された場合、４つの状態変数の値が更新される。その場合、式（８）に基づいて局所場が更新される。

１６列の中から、２列を選ぶ組合せは、_１６Ｃ_２（＝１２０）通りあるため、たとえば、１２０通りの試行が行われる。たとえば、前述のように、探索部１３に処理させる２列は、列１と列２、列１と列３、…、列１と列１６、列２と列３、列３と列４…などのように指定される。

その後、制御部１４は、たとえば、記憶装置２０に記憶されている重み係数行列のうち、次の１６列の状態変数に関する重み係数群を読み出させて、記憶部１１に記憶させ（上書きさせる）、以下同様の処理を行う。以降の１６列の状態変数についても同様に処理される。

なお、常に１６列の状態変数に関する重み係数群を読み出す場合、入れ替えが許容されにくい列の組合せが発生する可能性がある。そこで、制御部１４は、たとえば、以下のような複数の読み出し方を組み合わせることが有効である。

図５は、複数の読み出し方の例を示す図である。
読み出し方１は、たとえば、６４列の状態変数を１６列ずつ選択してその１６列の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。読み出し方２は、たとえば、６４行の状態変数を１６行ずつ選択してその１６行の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。読み出し方３は、たとえば、６４列の状態変数を４列ずつ選択してその４列の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。読み出し方４は、たとえば、６４行の状態変数を４行ずつ選択してその４行の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。読み出し方５は、たとえば、６４列の状態変数を８列ずつ選択してその８列の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。読み出し方６は、たとえば、６４行の状態変数を８行ずつ選択してその８行の状態変数に関する重み係数群を記憶装置２０から読み出していく方法である。

たとえば、制御部１４は、読み出し方１による読み出しが終了すると、次は読み出し方２による読み出し方による読み出しを行い、それが終了すると読み出し方３による読み出しを行う、というように複数の読み出し方を組み合わせる。

以下、第１の実施の形態の最適化装置１０の処理の一例の流れをフローチャートでまとめる。
図６は、第１の実施の形態の最適化装置の処理の一例の流れを示すフローチャートである。

まず、初期設定処理が行われる（ステップＳ１）。初期設定処理では、制御部１４は、疑似焼き鈍し法やレプリカ交換法で用いられる温度パラメータなど更新処理で用いられる各種のパラメータや、各状態変数の初期値などを探索部１３に設定する。以下では、探索部１３は、各レプリカに対して並列に疑似焼き鈍し法による探索処理を行うものとして説明する。また、制御部１４は、状態変数の初期値と、重み係数とバイアス係数に基づいて、式（２）の局所場（ｈ_ｉ）の初期値を計算し、記憶部１２ａ１〜１２ａｐ、または探索部１３の図示しないレジスタに書き込む。また、制御部１４は、状態変数の初期値に基づいて、値が１である状態変数に関する重み係数を記憶装置２０から読み出して記憶部１２ａ１〜１２ａｐに記憶させる。

探索部１３は、保持されている局所場と状態変数を読み出す（ステップＳ２）。
制御部１４は、記憶装置２０に記憶されている複数の重み係数の一部である重み係数群を読み出して、記憶部１１に記憶させる（ステップＳ３）。２回目以降のステップＳ３の処理では、記憶部１１に記憶される重み係数群が入れ替えられる。ステップＳ３の処理後、制御部１４は、更新処理の対象のグループまたは２列（２行でもよい。以下同じ）を探索部１３に指定する（ステップＳ４）。

その後、探索部１３は、エネルギー変化を計算する（ステップＳ５）。探索部１３は、各レプリカについて、２−Ｗａｙ １−ｈｏｔ制約を満たしつつ更新処理を行う場合、指定された２列についての入れ替え（４つの状態変数の値の変化）によるエネルギー変化を、たとえば、式（７）により計算する。探索部１３は、１−Ｗａｙ １−ｈｏｔ制約を満たしつつ更新処理を行う場合、指定されたグループ内の２つの状態変数（値が０の状態変数のうちの１つと値が１の状態変数）の値が変化することによるエネルギー変化を、値が０の状態変数のそれぞれについて、たとえば、式（５）により計算する。

そして、探索部１３は、計算したエネルギー変化と、温度パラメータとに基づいて、更新対象の状態変数を選択する（ステップＳ６）。探索部１３は、エネルギーを小さくするエネルギー変化を引き起こす状態変数の変化を優先的に採用するとともに、エネルギーを増加させるエネルギー変化を引き起こす状態変数の変化についても、温度パラメータに基づいて確率的に許容する。温度パラメータが大きいほど、より大きくエネルギーを増加させるエネルギー変化についても許容される確率が上がり、温度パラメータが小さくなるほどその確率は下がる。

探索部１３は、選択した状態変数の値を更新するとともに、局所場の更新を行う（ステップＳ７）。局所場の更新は、たとえば、前述の式（６）または式（８）のように行われる。更新された状態変数や局所場は、図示しないレジスタに書き込まれる。

さらに、探索部１３は、値を０から１に更新した状態変数に関する重み係数群を記憶部１１から読み出させて記憶部１２ａ１〜１２ａｐに記憶させる（ステップＳ８）。つまり、記憶部１２ａ１〜１２ａｐに記憶されている重み係数群を更新する。

その後、制御部１４は、記憶装置２０から読み出させた重み係数群の範囲で、全グループまたは全２列の組合せを指定したか否かを判定する（ステップＳ９）。たとえば図４に示したように、記憶装置２０から変数行列の列１〜列１６の状態変数に関する重み係数群が読み出されて記憶部１１に記憶されている場合、制御部１４は、_１６Ｃ_２（＝１２０）通りの組合せについてすべて指定したか否かを判定する。制御部１４が全グループまたは全２列の組合せを指定していないと判定した場合、ステップＳ４からの処理が繰り返される。

制御部１４は、全グループまたは全２列の組合せを指定したと判定した場合、探索部１３における各レプリカについての更新処理回数が、所定回数Ｎ１に達したか否か判定する（ステップＳ１０）。更新処理回数が所定回数Ｎ１に達していない場合には、ステップＳ２からの処理が繰り返される。この場合、ステップＳ３の処理では、記憶装置２０から複数の重み係数のうち、別の一部の重み係数群が読み出され記憶部１１に記憶され、同様の処理が行われる。つまり、記憶部１１が重み係数群として記憶する対象が、入れ替わる。

更新処理回数が所定回数Ｎ１に達した場合、制御部１４は、温度パラメータの変更回数（温度変更回数）が、所定回数Ｎ２に達したか否かを判定する（ステップＳ１１）。
温度変更回数が所定回数Ｎ２に達していない場合、制御部１４は、温度パラメータ（図６ではＴと表記されている）を変更する（温度を下げる）（ステップＳ１２）。所定回数Ｎ１，Ｎ２、Ｔの値の変更の仕方（一度に値をどのくらい小さくするかなど）は、アニーリング条件に基づいて決定される。ステップＳ１２の処理後、ステップＳ２からの処理が繰り返される。

温度変更回数が所定回数Ｎ２に達したとき、制御部１４は、たとえば、そのとき探索部１３のレジスタに保持されている全状態変数の値（探索結果）を受け、式（１）に基づいてレプリカごとのエネルギーを計算する。そして、制御部１４は、たとえば、最低のエネルギーを示すレプリカにおける探索結果（全状態変数の値）を、問題の解として表示装置などに出力する（ステップＳ１３）。これにより最適化装置１０の処理が終了する。

なお、上記の処理の順序は、上記の例に限定されるわけではなく、適宜順番を入れ替えてもよい。
また、上記では、各レプリカに対して同じ温度パラメータの値が割り当てられるが、レプリカ交換法が行われる場合、各レプリカに異なる温度パラメータの値が割り当てられる。そして、所定の更新処理回数ごとに、各レプリカのエネルギーや温度パラメータの値に基づく所定の交換確率で、レプリカ間で設定される温度パラメータの値または、状態変数の値が交換される。

以上のような第１の実施の形態の最適化装置１０によれば、探索部１３は、各レプリカについて、指定された共通の２列、２行またはグループについて更新処理を行えばよい。このため、エネルギー変化の計算数が減り（２−Ｗａｙ １−ｈｏｔ制約の場合は、１度の指定に対して１）、１−Ｗａｙ １−ｈｏｔ制約または２−Ｗａｙ １−ｈｏｔ制約のような１−ｈｏｔ制約を含む問題をハードウェアの複雑化を抑えて計算可能となる。

また、上記のように更新処理を行う範囲が指定されることで、最適化装置１０内に全ての重み係数を記憶しなくてもよくなる。そのため、より規模の大きな問題の計算が可能である。また、更新処理は、記憶部１１に記憶された重み係数群を用いた範囲で行われるため、最適化装置１０は、頻繁に記憶装置２０へアクセスしなくてもよくなる。

また、記憶部１１に記憶する重み係数群を所定の回数の更新処理ごとに入れ替え、更新処理の対象となる状態変数を定期的に変更することで、全ての状態変数を同時に更新処理の対象とする場合と比較して、得られる探索結果の差を小さくできる。

図７は、第１の実施の形態の最適化装置の変形例を示す図である。図７において、図１に示した要素と同じ要素については同一符号が付されている。
変形例の最適化装置１０ａの記憶部１１ａは、２つの記憶部１１ａ１，１１ａ２を有している。記憶部１１ａ１，１１ａ２のそれぞれとして、たとえば、ＳＲＡＭなどを用いることができる。

記憶部１１ａ１は、スイッチ１１ｂ１を介して記憶装置２０に接続され、記憶部１１ａ２は、スイッチ１１ｂ２を介して記憶装置２０に接続されている。また、記憶部１１ａ１は、スイッチ１１ｃ１を介して、記憶部１２ａ１〜１２ａｐに接続され、記憶部１１ａ２は、スイッチ１１ｃ２を介して、記憶部１２ａ１〜１２ａｐに接続されている。スイッチ１１ｂ１，１１ｂ２，１１ｃ１，１１ｃ２は、制御部１４によってオンオフが制御される。

探索部１３が、記憶部１１ａ１，１１ａ２の一方に記憶されている重み係数群を用いた更新処理の実行中、記憶部１１ａ１，１１ａ２の他方に、次に更新処理の対象となる状態変数に関する重み係数群が記憶装置２０から読み出されて書き込まれる。

たとえば、制御部１４は、スイッチ１１ｃ２をオン、スイッチ１１ｂ２をオフし、探索部１３に、記憶部１１ａ２に記憶されている１６列の状態変数に関する重み係数群を用いて更新処理させる。このとき、制御部１４は、スイッチ１１ｂ１をオン、スイッチ１１ｃ１をオフし、次の１６列の状態変数に関する重み係数群を記憶装置２０から読み出させて、記憶部１１ａ１に記憶させる。

これにより、記憶装置２０からの読み出しにかかる時間を実質的に短縮でき、計算時間を短縮できる。
（第２の実施の形態）
図８は、第２の実施の形態の最適化装置の一例を示す図である。

第２の実施の形態の最適化装置３０は、第１の実施の形態の最適化装置１０と同様の各要素を有するが、全状態変数に１−ｈｏｔ制約を受ける状態変数と、１−ｈｏｔ制約を受けない状態変数が混在している場合の処理を行う。

図８には、記憶装置２０に記憶されている重み係数行列の例が示されている。
重み係数行列には、２−Ｗａｙ １−ｈｏｔ制約を受ける状態変数（以下２Ｗ１Ｈ変数）と、１−Ｗａｙ １−ｈｏｔ制約を受ける状態変数（以下１Ｗ１Ｈ変数）と、１−ｈｏｔ制約を受けない状態変数（以下１ｂｉｔ変数）に関する重み係数が含まれる。図８の例では、計算対象の問題のサイズが６ｋで、２Ｗ１Ｈ変数が４ｋ（６４×６４）個、１Ｗ１Ｈ変数が１ｋ（６４グループ、各グループは１６変数）個、１ｂｉｔ変数が１ｋ個である場合の、重み係数行列の例が示されている。

最適化装置３０の記憶部３１は、このような重み係数行列の少なくとも一部である重み係数群を記憶する。図８の例では、記憶部３１は、２Ｗ１Ｈ変数行列の一部の列または行に関する重み係数群と、１Ｗ１Ｈ変数の一部のグループに関する重み係数群と、１ｂｉｔ変数の一部に関する重み係数群を保持している。なお、各重み係数群には、２Ｗ１Ｈ変数に関するものか、１Ｗ１Ｈ変数に関するものか、１ｂｉｔ変数に関するものかを示す識別情報が割り当てられていてもよい。記憶部３１の一例として、ＳＲＡＭなどを用いることができる。

記憶部３２ａ１〜３２ａｐのそれぞれは、２Ｗ１Ｈ変数または１Ｗ１Ｈ変数のうち、値が１である状態変数に関する重み係数群を記憶する。どの状態変数の値が１であるかについては、レプリカごとに独立である。記憶部３２ａ１〜３２ａｐの一例として、ＳＲＡＭなどを用いることができる。

探索部３３は、２Ｗ１Ｈ変数については、２−Ｗａｙ １−ｈｏｔ制約、１Ｗ１Ｈ変数については１−Ｗａｙ １−ｈｏｔ制約を満たしつつ、２Ｗ１Ｈ変数、１Ｗ１Ｈ変数または１ｂｉｔ変数を更新する更新処理を繰り返す。これにより、探索部３３は、イジングモデルのエネルギーを最小化する最適解を探索し、探索結果を出力する。このような処理を探索部３３は、レプリカごとに行う。なお、探索部３３に対して、制御部３４により、２Ｗ１Ｈ変数についての更新処理のために、全レプリカについて共通の２列または２行が指定され、１Ｗ１Ｈ変数についての更新処理のために、全レプリカについて共通のグループが指定される。

更新処理では、２Ｗ１Ｈ変数については、指定された２列または２行についての入れ替え（４つの状態変数の値の変化）によるエネルギー変化が、たとえば、式（７）により計算される。また、１Ｗ１Ｈ変数については、指定されたグループ内の２つの状態変数（値が０の状態変数のうちの１つと値が１の状態変数）の値が変化することによるエネルギー変化が、値が０の状態変数のそれぞれについて、たとえば、式（５）により計算される。１ｂｉｔ変数については、各１ｂｉｔ変数の値が変化することによるエネルギー変化が計算される。そして、計算されたエネルギー変化のうち、たとえば、エネルギーを一番小さくするエネルギー変化を引き起こす状態変数の変化が採用され、状態変数の値が更新される。また、探索部３３は、状態変数の値の更新に伴い、局所場の更新を行う。

探索部３３は、２Ｗ１Ｈ変数や１Ｗ１Ｈ変数については、上記のような処理を、指定されるグループや列または行を変えて、１ｂｉｔ変数については同様の処理を、所定の探索終了条件が満たされるまで繰り返す。そして、探索部３３は、たとえば、探索終了条件が満たされたときの各レプリカの全状態変数の値を制御部３４に出力する。

探索部３３は、たとえば、ＡＳＩＣやＦＰＧＡなどの特定用途の電子回路にて実現できる。
制御部３４は、探索部３３に処理させるグループ、２列または２行を指定する。制御部３４は、処理させるグループ、２列または２行を所定の順序で指定する。

また、制御部３４は、記憶容量の制限などにより記憶部３１が式（１）の全ての重み係数を保持しない場合、上記のような一部の重み係数群を、記憶装置２０から読み出して、記憶部３１に記憶させる。

さらに、制御部３４は、疑似焼き鈍し法やレプリカ交換法で用いられる温度パラメータなど更新処理で用いられる各種のパラメータや、各状態変数の初期値などを探索部３３に設定する。

また、制御部３４は、たとえば、探索部３３において探索終了条件が満たされたときの全状態変数の値（探索結果）を受け、式（１）に基づいてレプリカごとのエネルギーを計算する。そして、制御部３４は、たとえば、最低のエネルギーを示すレプリカにおける探索結果（全状態変数の値）を、問題の解として表示装置などに出力する。

なお、探索部３３が、状態変数の更新に伴うエネルギー変化に基づいて、レプリカごとのエネルギーを計算するようにしてもよい。
制御部３４は、たとえば、ＡＳＩＣやＦＰＧＡなどの特定用途の電子回路により実現できる。ただしこれに限定されず、制御部３４は、ＣＰＵやＧＰＵなどのプロセッサであってもよい。

上記のような第２の実施の形態の最適化装置３０は、たとえば、図６に示したフローチャートと同様の処理の流れにより動作する。ただし、ステップＳ５の処理では、前述のように、２Ｗ１Ｈ変数、１Ｗ１Ｈ変数、１ｂｉｔ変数のそれぞれについて、エネルギー変化が計算される。

上記のような最適化装置３０によれば、第１の実施の形態の最適化装置１０と同様の効果が得られるとともに、１−ｈｏｔ制約を受ける状態変数と１−ｈｏｔ制約を受けない状態変数が混在している場合にも、最適化処理を行うことが可能となる。

なお、図７に示したような２つの記憶部１１ａ１，１１ａ２を切り替えて利用する手法は、第２の実施の形態の最適化装置３０についても適用可能である。
また、上記第１の実施の形態の最適化装置１０と第２の実施の形態の最適化装置３０の記憶部１１，３１と記憶部１２ａ１〜１２ａｐ，３２ａ１〜３２ａｐと探索部１３の組は、複数組設けられていてもよい。

以上、実施の形態に基づき、本発明の最適化装置及び最適化方法の一観点について説明してきたが、これらは一例にすぎず、上記の記載に限定されるものではない。

１０ 最適化装置
１１，１２ａ１〜１２ａｐ 記憶部
１３ 探索部
１４ 制御部
２０ 記憶装置

Claims (7)

1. イジングモデルのエネルギーを表す評価関数に含まれる複数の状態変数のそれぞれの間の相互作用の大きさを示す複数の重み係数の少なくとも一部である、第１の重み係数群を記憶する第１の記憶部と、
   前記複数の重み係数のうち、前記複数の状態変数をそれぞれ含む複数の状態変数群の何れかにおいての、値が１である状態変数に関する第２の重み係数群をそれぞれ記憶する複数の第２の記憶部と、
   前記複数の状態変数のうちＮ（Ｎは２以上の整数）の２乗個の第１の状態変数をＮ行Ｎ列に並べたときに、指定された２列または２行に含まれる前記第１の状態変数の値を前記２列の間または前記２行の間で入れ替えを行うか否かを、前記第１の重み係数群及び前記第２の重み係数群を用いて計算される前記イジングモデルの前記エネルギーの変化量に基づいて判定し、各行と各列に含まれる前記第１の状態変数の値の和が１である第１の制約を満たしつつ、前記入れ替えによる更新を行う、または、前記複数の状態変数のうち指定されたグループに含まれる複数の第２の状態変数の値の何れか２つの値の更新を行うか否かを、前記エネルギーの前記変化量に基づいて判定し、前記グループに含まれる前記複数の第２の状態変数の和が１である第２の制約を満たしつつ、前記２つの値の更新を行う、更新処理を繰り返すことで前記エネルギーを最小化する最適解を探索し、探索結果を出力する処理を、前記複数の状態変数群のそれぞれについて行う探索部と、
   前記複数の状態変数群に対して共通の、前記２列、前記２行、または前記グループを指定する制御部と、
   を有する最適化装置。
2. 前記制御部は、記憶装置に記憶されている前記複数の重み係数のうち、前記第１の重み係数群として読み出して前記第１の記憶部に記憶させる対象を、所定回数の前記更新処理ごとに入れ替える、請求項１に記載の最適化装置。
3. 前記制御部は、前記記憶装置からの前記第１の重み係数群の読み出しを、複数の読み出し方を組み合わせて行う、請求項２に記載の最適化装置。
4. 前記第１の記憶部は、第３の記憶部と第４の記憶部を有し、
   前記制御部は、前記第１の重み係数群として前記第１の記憶部に記憶される第１の対象が前記第３の記憶部に記憶されており、前記第１の対象を用いて前記更新処理が行われているときに、前記第１の重み係数群として前記第１の記憶部に記憶される第２の対象を前記記憶装置から読み出して、前記第４の記憶部に記憶させる、
   請求項２または３に記載の最適化装置。
5. 前記複数の状態変数は、前記第１の制約を受ける前記Ｎの２乗個の前記第１の状態変数と、前記第２の制約を受ける前記複数の第２の状態変数と、前記第１の制約及び前記第２の制約を受けない第３の状態変数とを有し、
   前記探索部は、前記第１の重み係数群または前記第２の重み係数群に基づいて、前記入れ替えによる更新、前記２つの値の更新、または１つの前記第３の状態変数の値の更新の何れかを行う、
   請求項１乃至４の何れか一項に記載の最適化装置。
6. 前記探索部は、前記更新処理の結果に基づいて、前記第１の重み係数群を用いて前記第２の重み係数群を更新する、
   請求項１乃至５の何れか一項に記載の最適化装置。
7. 第１の記憶部が、イジングモデルのエネルギーを表す評価関数に含まれる複数の状態変数のそれぞれの間の相互作用の大きさを示す複数の重み係数の少なくとも一部である、第１の重み係数群を記憶し、
   複数の第２の記憶部のそれぞれが、前記複数の重み係数のうち、前記複数の状態変数をそれぞれ含む複数の状態変数群の何れかにおいての、値が１である状態変数に関する第２の重み係数群を記憶し、
   探索部が、前記複数の状態変数のうちＮ（Ｎは２以上の整数）の２乗個の第１の状態変数をＮ行Ｎ列に並べたときに、指定された２列または２行に含まれる前記第１の状態変数の値を前記２列の間または前記２行の間で入れ替えを行うか否かを、前記第１の重み係数群及び前記第２の重み係数群を用いて計算される前記イジングモデルの前記エネルギーの変化量に基づいて判定し、各行と各列に含まれる前記第１の状態変数の値の和が１である第１の制約を満たしつつ、前記入れ替えによる更新を行う、または、前記複数の状態変数のうち指定されたグループに含まれる複数の第２の状態変数の値の何れか２つの値の更新を行うか否かを、前記エネルギーの前記変化量に基づいて判定し、前記グループに含まれる前記複数の第２の状態変数の和が１である第２の制約を満たしつつ、前記２つの値の更新を行う、更新処理を繰り返すことで前記エネルギーを最小化する最適解を探索し、探索結果を出力する処理を、前記複数の状態変数群のそれぞれについて行い、
   制御部が、前記複数の状態変数群に対して共通の、前記２列、前記２行、または前記グループを指定する、
   最適化方法。

Images