JP7398401B2 - 最適化方法、情報処理装置及びそれを用いたシステム - Google Patents

Description

本発明は、最適化方法及び情報処理装置に関する。

特許文献１には、２次のエネルギー関数をもつイジングモデルの相互作用関係を完全２部グラフ構造に変換して、シミュレーティッド・アニーリングに基づく基底状態探索を効率良く行う方法に関して記載されている。

非特許文献１は、混合整数非線形計画問題に関する応用事例や解法のサーベイ論文であり、工学や産業等の実問題が記載されている。

非特許文献２は、バイナリ変数に対する高次の相互作用を、補助変数を導入することで２次の相互作用に書き直す方法に関して記載されている。

WO2019/216277 A1

S. Burer and A. N. Letchford:"Non-convex mixed-integer nonlinear programming: A survey",Surveys in Operations Research and Management Science 17, 87-106 (2012). E. Boros and A. Gruber,"On quadratization of pseudo-Boolean functions",International Symposium on Artificial Intelligence and Mathematics (2012).

物理現象や社会現象の多くは相互作用モデルによって表現することができる。相互作用モデルは、モデルを構成する複数のノード、ノード間の相互作用関係、及びノード毎のバイアスにより定義される。物理学や社会科学の分野においては種々のモデルが提案されているが、いずれも相互作用モデルの一形態として解釈することができる。

相互作用モデルの代表例としてイジングモデル（Ising Model）がある。イジングモデルは、各ノードが＋１／－１などの２値をとり、ノード間の相互作用とノード毎のバイアスに基づき多項式で表されるエネルギー関数を持つ。イジングモデルの基底状態を探索する方法として、マルコフ連鎖モンテカルロ法によるものがある。マルコフ連鎖モンテカルロ法では、状態間を確率的に遷移させて状態サンプリングを行うことにより所望の統計量を推定する。

現実の組合せ最適化問題をイジングモデルの基底状態探索問題に変換すると、しばしば処理の難しい２つの状況に直面する。１つがノードに対応した変数が連続値をとる場合である。この場合、連続変数を離散化してイジングモデルに表現し直すために、変数数が増大する。２つ目が高次の相互作用（３次以上の多項式として表される相互作用関係）が現れる場合である。２次相互作用のイジングモデルに対しては各変数に対する確率的な処理を並列化して効率を上げる方法が提案されているが、高次の相互作用を２次の相互作用へ還元することで変数数が増大する。また、相互作用係数が増大して基底状態探索が難しくなる。

本発明は、このような背景を鑑みてなされたもので、連続変数や高次の相互作用関係を持つ相互作用モデルに対して、基底状態探索を効率良く行うことが可能な、最適化方法及び情報処理方法を提供することを目的とする。

本発明の好ましい一側面は、情報処理装置を利用して、連続変数と離散変数をＮ個（Ｎは自然数）含んだ３次以上のエネルギー関数を持つ相互作用モデルを対象に、前記相互作用モデルに対する基底状態探索を、各々Ｎ個の連続変数を有したＤ個（Ｄは３以上の自然数）の変数群から構成された代理の相互作用モデルでの基底状態探索により実行し、前記基底状態探索は、シミュレーティッド・アニーリングに基づき実行し、前記代理の相互作用モデルの相互作用関係は完全Ｄ部グラフ構造をもち、前記代理の相互作用モデルの各変数群のｉ番目の変数ペア間に結合が設定され、前記代理の相互作用モデルにおいて状態遷移を行う際に、前記Ｄ個の変数群のうち１つの変数群の全変数を一斉更新するように前記情報処理装置を動作させる、最適化方法である。

本発明の好ましい他の一側面は、Ｎ個×Ｄ群（Ｎは自然数、Ｄは３以上の自然数）の変数の値を夫々格納するＤ×Ｎ個の変数メモリと、前記Ｄ群の変数群の１つとその更新方法を選択する選択信号ＳＷを供給する供給線と、前記変数群の間に働くＤ次の相互作用を示す相互作用係数Ｊを格納する相互作用係数メモリと、前記選択信号ＳＷが第ｄ変数群（ｄ＝１～Ｄ）を選択した場合、前記Ｄ×Ｎ個の変数メモリから読み出した、第ｄ変数群のｉ番目の変数の値と、第ｄ変数群以外の変数群の複数のｉ番目の変数の値及び前記相互作用係数Ｊを入力とし、第ｄ変数群のｉ番目の変数の値の次状態を計算する演算装置を有する、情報処理装置である。

本発明の好ましい他の一側面は、連続変数と離散変数をＮ個含んだ３次以上のエネルギー関数を持つ相互作用モデルの基底状態を探索するための、上記の情報処理装置を用いた情報処理システムであって、前記演算装置を制御する制御装置を備え、前記制御装置は、相互作用係数設定部と、結合強度計算部と、変数値初期化部と、温度パラメタ制御部と、相互作用演算実行部と、変数読出部とを備え、前記相互作用係数設定部は、相互作用係数メモリに前記相互作用係数Ｊを格納し、前記結合強度計算部は、前記相互作用係数Ｊに基づいて前記結合強度λを設定して、前記相互作用係数メモリに格納し、変数値初期化部は、前記離散変数の定義域を連続値として再定義し、前記変数メモリに格納されている値を初期化し、前記温度パラメタ制御部は、前記温度信号ＳＴを制御し、相互作用演算実行部は、前記演算装置を制御して、前記基底状態探索を実行させ、前記変数読出部は、前記基底状態探索の結果となる前記変数メモリに格納されている値を読み出し、連続値に再定義した変数の定義を離散値に戻す、情報処理システムである。

その他、本願が開示する課題、及びその解決方法は、発明を実施するための形態の欄、及び図面により明らかにされる。

本発明によれば、連続変数や高次の相互作用関係を持つ相互作用モデルに対して、基底状態探索を効率良く行うことができる。上記以外の課題、構成、及び効果は、以下の発明を実施するための形態の説明により明らかにされる。

相互作用モデルのエネルギーランドスケープの概念図である。 相互作用モデルの変数間の相互作用関係を完全グラフとして表したグラフ図である。 ３次のエネルギー関数を持つ相互作用モデルにおける変数の相互作用関係を完全３部グラフ構造として表したグラフ図である。 結合λをもつペナルティ項がエネルギーランドスケープに及ぼす影響を表した概念図である。 情報処理装置の概略的な構成を示すブロック図である。 演算回路のブロック図である。 情報処理装置が備える主な機能を示す機能ブロック図である。 基底状態探索処理を説明するフローチャートである。 演算装置の詳細な構成例を示すブロック図である。 一つのユニットの回路構成例を示すブロック図である。

以下、実施の形態を図面に基づいて詳細に説明する。尚、以下の説明において、同一の又は類似する構成に共通の符号を付して重複した説明を省略することがある。また同一あるいは同様の機能を有する要素が複数ある場合に同一の符号に異なる添字を付して説明することがある。また複数の要素を区別する必要がない場合は添字を省略して説明することがある。

本明細書等における「第１」、「第２」、「第３」などの表記は、構成要素を識別するために付するものであり、必ずしも、数、順序、もしくはその内容を限定するものではない。また、構成要素の識別のための番号は文脈毎に用いられ、一つの文脈で用いた番号が、他の文脈で必ずしも同一の構成を示すとは限らない。また、ある番号で識別された構成要素が、他の番号で識別された構成要素の機能を兼ねることを妨げるものではない。

本明細書で引用した刊行物、特許および特許出願は、そのまま本明細書の説明の一部を構成する。

本明細書において単数形で表される構成要素は、特段文脈で明らかに示されない限り、複数形を含むものとする。

以下で説明される実施例の一例は、情報処理装置を利用して、相互作用モデルの基底状態探索を行う最適化方法である。この方法では、Ｄ次（Ｄ≧３）の相互作用をもつ相互作用モデルに対する基底状態探索を、変数間の接続が完全Ｄ部グラフ構造となる相互作用関係を持つ相互作用モデルに対する基底状態探索で代替し、相互作用モデルのエネルギー関数を記憶する記憶部と、前記エネルギー関数と前記変数の情報に基づき前記相互作用モデルの基底状態を探索する実行部と、を備える。

なお、本発明の発明者らは、本出願に先立ち高次の相互作用を持つイジングモデルの基底状態探索に係る国際出願PCT JP2020/029336や、混合２値２次最適化問題に係る国際出願PCT JP 2020/018203等を提案している。

まず相互作用モデルについて説明する。相互作用モデルは、モデルを構成する複数のノード、ノード間の相互作用関係、及びノード毎のバイアスにより定義される。ここでは、各ノードｉ（i＝１～Ｎ）に対応する変数ｓ_ｉは連続変数ｓ_ｉ∈［－１，１］又は離散変数ｓ_ｉ∈｛－１，１｝であるとする。相互作用モデルの相互作用関係とバイアスに基づき、エネルギー関数Ｈ（ｓ）（一般にハミルトニアンと呼ばれる）が定義される。例えば、相互作用関係が２つのノードｉ，ｊ間のみに限定された場合は、エネルギー関数は次の２次式となる。

…（式１）

式１の第１項が相互作用関係、第２項がバイアスに基づくエネルギー関数を表現している。相互作用関係として、２つ以上のノード間にまたがるものも考えられる。例えば、３つのノードｉ，ｊ，ｋ間にまたがる相互作用関係は、次の３次式のエネルギー関数となる。

…（式２）

一般に相互作用モデルは無向グラフとして表現され、各相互作用項はそこに含まれる変数の組で指定される。そのため、式１のJ_ｉｊや式２のＪ_ｉｊｋは添え字の入れ替えに対して値を変えない対称テンソルとなる。

上記相互作用モデルは、イジングモデルを内包した概念である。相互作用モデルにおいて全変数を離散値ｓ_ｉ∈｛－１，１｝に限定した場合、イジングモデルに帰着する。イジングモデルは、例えば、統計力学で磁性体を記述する格子モデルとして用いられており、＋１／－１がスピンの上／下向きに対応する。

相互作用モデルの基底状態探索は上記エネルギー関数を最小化する変数配列｛ｓ_ｉ｝を求める最適化問題である。本実施形態では、相互作用モデルの基底状態の探索をマルコフ連鎖モンテカルロ法（以降、ＭＣＭＣ（Markov Chain Monte Carlo methods）と呼ぶ）により行う。

図１は相互作用モデルのエネルギーランドスケープの概念図である。グラフの横軸は変数配列、縦軸は系の全エネルギーである。確率的な遷移では、現在の状態ｓ＝｛ｓ_ｉ｝から他の状態への確率的な遷移を繰り返す。確率的な遷移を生成する方法として熱浴法やメトロポリス法（Metropolis method）がある。特に、ｉ番目の変数の値がｓ_ｉ以下の値となる累積分布関数Ｆ（ｓ）に対して逆関数Ｆ^－１が求められる場合、一様乱数ｒ∈［０，１］として、熱浴法による遷移先の状態ｓは次の式で与えられる。

…（式３）

遷移先を生成する方法としては、現在の状態ｓの各変数ｓ_ｉをｉ＝１～Ｎまでひとつずつ更新する方法が一般的である。変数をひとつずつ順番に変えていくことで、変数全体がとりうる状態について探索を行う。例えば、図１の場合、状態Ａから離散変数を１から－１に反転して状態Ｂとなり、更に他の連続変数の値を１から－０．８に更新して状態Ｃとなる。状態Ａから状態Ｂまでは状態空間を表す変数は１と－１しかとらないので、エネルギーが不連続的に変化する。

上記の状態遷移を制御するパラメタＴを導入して、徐々に遷移を抑制しつつＭＣＭＣを実行するとき、エネルギーが最も低い状態に漸近的に収束する。これを利用して最小化問題の最適解を求める手法がシミュレーティッド・アニーリング（以下、ＳＡ（Simulated Annealing）と呼ぶ）である。現実の焼きなましと対応して、パラメタＴを温度パラメタと呼ぶ。

相互作用モデルに対してＭＣＭＣやＳＡを適用する場合、式３などに基づき変数の値を確率的に更新する。ここで相互作用関係を持たない変数同士は、エネルギー関数式ひいては累積分布関数において独立となり、式３にもとづく状態遷移を同時に適用することが可能である。そのため、独立な変数を並列して更新することで、ＭＣＭＣやＳＡの処理の高速化を図ることが可能である。

図２は、相互作用モデルの変数間の相互作用関係を表したグラフ図である。変数数Ｎ＝６とした。丸のノードと四角のノードがそれぞれ離散変数と連続変数に対応する。点線は３つのノードからなる３次の相互作用を表現する。全変数間に相互作用関係があるため、完全グラフ（全結合グラフ）である。ここで、例として、３次の相互作用の値は点線で結ばれる３つの変数の組から決定される。同様にＤ次の相互作用はＤ個の変数から決定される。

非特許文献１にあるように、現実の工学や産業上の最適化問題の多くは、連続変数と離散変数の両方を有し、非線形な目的関数を持つ混合整数非線形計画問題として定式化される。また、これらを相互作用モデルとして表現すると、変数間の相互作用関係は図２に示すような密結合となる（個々の変数がその他の多くの変数と結合する）ため、独立でなく、各変数の確率的更新を同時に実行できない。このため、ＭＣＭＣやＳＡの処理の高速化を図ることが困難である。

逆に言えば、密な相互作用関係を持つ相互作用モデルに対して、ＭＣＭＣの要求する理論的背景を満たしつつ複数のスピンを同時に更新することができれば、ＭＣＭＣやＳＡの処理の高速化を図ることが可能になる。実際、特許文献１では、２次のエネルギー関数を持つイジングモデル（離散変数のみの相互作用モデル）の相互作用関係を完全２部グラフ構造に変換して効率良く基底状態を求める方法が提案されている。

しかし、一般に連続変数を離散化することで相互作用モデルをイジングモデルに変換すると、変数数が増大して解くことが難しくなる。さらに、特許文献１のように２次の相互作用を持つイジングモデルを対象とした手法を適用するには、高次の相互作用を２次の相互作用に還元する必要があり、非特許文献２に記載されているように多くの補助変数が必要となる。また、相互作用係数が増大してＳＡによる基底状態探索も困難となる。

このような背景を鑑みて、本実施形態では、Ｄ次（Ｄ≧３）のエネルギー関数を持つ相互作用モデルに対して、イジングモデルに変換することなく、基底状態探索をＳＡに基づき効率良く実施する方法を説明する。

まず、相互作用モデルが有する離散変数ｓ_ｉ∈｛－１，１｝に注目する。離散変数についてｓ_ｉ ^２＝１であるから、エネルギー関数は離散変数ｓ_ｉについて１次以下の式となる。そこで、相互作用モデルＨ（ｓ）に対して、全ての変数ｓ_ｉを連続変数ｘ_ｉ∈［－１，１］に置き換えた相互作用モデルをＨ（ｘ）として、Ｈ（ｓ）とＨ（ｘ）の基底状態をそれぞれｓ^＊とｘ^＊とすると以下のことが示せる。

…（式４）

符号関数sign(x)は、ｘ≧０ならば＋１、ｘ＜０ならば－１を返す関数である。式４により、Ｈ（ｘ）の基底状態を探索することでＨ（ｓ）の基底状態が求められる。

次に、バイアス項と最高次数以下の相互作用項について考える。これらは、値を１に固定したスピンを用いることで、より高次の相互作用関係にまとめることができる。例えば、ｓ’_１＝ｓ’_２＝１として、

…（式５）
などである。

以上を踏まえて、以下では相互作用モデルの相互作用の最高次数をＤ＝３として、Ｄ＝３次の相互作用項のみを持つ相互作用モデルＨ（ｘ）を考えることにする。式で表すと次の通りである。

…（式６）

ただし、Ｄ≧４でも同様な手続きが実施可能であり、修正が必要な箇所は後に説明する。式６に対応して、補助変数ｙ，ｚ∈［－１，１］^Ｎを含む次の相互作用モデルを考える。

…（式７）

図３は式７の相互作用モデルを表したグラフ図である。図３より、式７の相互作用関係は完全３部グラフ構造であることがわかる。同図の左から順に第１変数群ｘ、第２変数群ｙ、第３変数群ｚと呼ぶ。第１変数群のｘ_ｉ、第２変数群のｙ_ｊ、第３変数群のｚ_ｋには大きさＪ_iｊｋの相互作用が働く。式７の右辺第２項は第１～３変数群のｉ番目（ｉ＝１～Ｎ）のペア間に、結合λの２次相互作用として働く。図３で、相互作用Ｊ_iｊｋを細線で、結合λを太線で示している。図では都合上終端しているが、第３変数群ｚは第１変数群ｘと結合される。式７の第２項はｘ，ｙ，ｚが異なる値である場合に働くペナルティ項とみなせる。

図４は、結合λをもつペナルティ項がエネルギーランドスケープに及ぼす影響を模式的に表した概念図である。実線で示す部分でｘ，ｙ，ｚが同じ値をとり、破線で示す部分でｘ，ｙ，ｚが同じ値をとらない。よって、破線で示す部分でペナルティ項の影響が表れる。λ＝０の場合、式７はペナルティ項が０になり、ｘ，ｙ，ｚの値が異なるものを基底状態にとることができる。λ＞０を充分に大きい値とすると、ｘ＝ｙ＝ｚの範囲で、第１項を最小化するものが式７の基底状態となる。すなわち、式７の基底状態ｘ^＊＝ｙ^＊＝ｚ^＊は式６の基底状態ｘ^＊と一致する。

実際、λがある値より大きい場合には式６と式７の基底状態が一致することが示せる。ｕ∈［－１，１］^Ｎとして、ｉ行ｊ列目の要素Ｍ_ｉｊ（ｕ）が次の値となる行列Ｍ（ｕ）を定義する。

…（式８）

ここでｕを変えた場合に行列Ｍ（ｕ）の固有値がとりうる最大値λ_maxよりもλが大きければ式６と式７の基底状態が一致する。また、λ_maxについて、いくつかの評価式を示すことができる。

…（式９）

ここで行列Ｊ_ｋはｉ行ｊ列目の要素をＪ_ｉｊｋとする行列、||・||_２はベクトルのＬ２ノルムである。式９の右辺（等号の右側）第１式はレイリー商に基づく行列の最大固有値の定義式である。第２、３式が最大固有値の評価式となる。右辺第２式は制約条件付きの凸最適化問題として解くことができる。また、右辺第３式は行列Σ_ｋＪ^２ _ｋの最大固有値を求めればよいのでべき乗法などで計算できる。

そこで、適当なλを設定して式７の基底状態探索を行うことで式６の基底状態探索が実行できる。重要な点は、式７は図３に示した完全３部グラフ構造の相互作用関係を持つことである。すなわち、変数群の内部の異なる変数の間には相互作用関係が無く、互いに独立である。従って、ＭＣＭＣやＳＡを実行する際に各変数群ｘ，ｙ，ｚは一斉に更新することが可能であり、並列処理により効率を向上できる。そこで、本実施形態では式７の基底状態をＳＡに基づき探索することで、オリジナルの相互作用モデルの基底状態を探索する。なお、λが大きすぎるとペナルティ項の影響が過大となるので、λには適切な上限を設けることが好ましい。λの上限は、解きたい問題の目的や用途に応じて定めることができる。結合λにより各変数群のｉ番目の変数が基底状態において同じ値となることが望ましい。

以上の議論はＤ≧４以上にも適用可能である。例えば、Ｄ＝４の場合には式６と式７に対応する式はそれぞれ以下となる。

…（式１０）

…（式１１）

特に、式１１でλが次の行列Ｍ（ｕ，ｕ’）の最大固有値λ_maxよりも大きい場合には式１０と式１１の基底状態が一致することを示せる。

…（式１２）

ここで、ｕ,ｕ’∈［－１，１］^Ｎである。より高次の場合も同様で、結合λを十分大きくとれば、オリジナルの相互作用問題の基底状態探索問題を完全Ｄ部グラフ構造の相互作用関係と結合λをもつ相互作用モデルの基底状態探索に帰着することができる。

次に式７に対して熱浴法に基づいて状態を遷移させる方法を説明する。温度パラメタＴとして、式７の相互作用モデルの状態｛ｘ，ｙ，ｚ｝はボルツマン分布に基づく確率ｐ（ｘ，ｙ，ｚ）で出現するものとする。

…（式１３）

Ｚは分配関数とよばれるボルツマン分布の規格化因子である。このとき、ｙ,ｚが与えられたときに、ｘ_ｉの条件付き累積分布関数Ｆ（ｘ_ｉ｜σ,ｙ）は次式で表せる。

…（式１４）

ここでerf(x)は誤差関数である。そこで、一様乱数ｒ∈［０，１］として式３から遷移先を求めることができる。

…（式１５）

同様に、ｚ,ｘ（ｘ，ｙ）が与えられた場合のｙ_ｉ（ｚ_ｉ）の遷移先は、式１５で変数を置換することで表現される。

続いて、式１５に基づく基底状態探索を実施する、情報処理装置の実施形態例を示す。図５に示した情報処理装置１０は、プロセッサ１１、主記憶装置１２、補助記憶装置１３、入力装置１４、出力装置１５、通信装置１６、１つ以上の演算装置２０、及びこれらの装置を通信可能に接続するシステムバス５を備える。情報処理装置１０は、例えば、その一部又は全部がクラウドシステム（Cloud System）により提供されるクラウドサーバ（Cloud Server）のような仮想的な情報処理資源を用いて実現されるものであってもよい。また情報処理装置１０は、例えば、互いに協調して動作する、通信可能に接続された複数の情報処理装置によって実現されるものであってもよい。

プロセッサ１１は、例えば、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）を用いて構成されている。主記憶装置１２は、プログラムやデータを記憶する装置であり、例えば、ＲＯＭ（Read Only Memory）（ＳＲＡＭ（Static Random Access Memory）、ＮＶＲＡＭ（Non Volatile RAM）、マスクＲＯＭ（Mask Read Only Memory）、ＰＲＯＭ（Programmable ROM）等）、ＲＡＭ（Random Access Memory）（ＤＲＡＭ（Dynamic Random Access Memory）等）等である。補助記憶装置１３は、ハードディスクドライブ（Hard Disk Drive）、フラッシュメモリ（Flash Memory）、ＳＳＤ（Solid State Drive）、光学式記憶装置（ＣＤ（Compact Disc）、ＤＶＤ(Digital Versatile Disc)等）等である。補助記憶装置１３に格納されているプログラムやデータは、随時、主記憶装置１２に読み込まれる。

入力装置１４は、ユーザから情報の入力を受け付けるユーザインタフェースであり、例えば、キーボード、マウス、カードリーダ、タッチパネル等である。出力装置１５は、ユーザに情報を提供するユーザインタフェースであり、例えば、各種情報を可視化する表示装置（ＬＣＤ（Liquid Crystal Display）、グラフィックカード等）や音声出力装置（スピーカ）、印字装置等である。通信装置１６は、他の装置と通信する通信インタフェースであり、例えば、ＮＩＣ（Network Interface Card）、無線通信モジュール、ＵＳＢ（Universal Serial Interface）モジュール、シリアル通信モジュール等である。

演算装置２０は、基底状態探索を実行する装置である。演算装置２０は、例えば、ＧＰＵ（Graphics Processing Unit）のように、情報処理装置１０に装着する拡張カードの形態を取るものであってもよい。演算装置２０は、例えば、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）回路、ＦＰＧＡ（Field Programmable Gate Array）、ＡＳＩＣ（Application Specific Integrated Circuit）等のハードウェアによって構成される。演算装置２０は、制御装置、記憶装置、システムバス５に接続するためのインタフェース等を含み、システムバス５を介してプロセッサ１１との間でコマンドや情報の送受を行う。演算装置２０は、例えば、通信線を介して他の演算装置２０と通信可能に接続され、他の演算装置２０と協調して動作するものであってもよい。演算装置２０により実現される機能を、例えば、プロセッサ（ＣＰＵ、ＧＰＵ等）にプログラムを実行させることにより実現してもよい。

図６は、演算装置２０の動作原理を説明する図であり、演算装置２０を構成する回路（以下、演算回路６００と称する）のブロック図である。演算回路６００は式１５に相当する機能を実現する。以下、同図とともに演算装置２０の動作原理について説明する。尚、以下の説明において、演算回路６００が取り扱う相互作用モデルのエネルギー関数の次数をＤ、変数数をＮで表す。

同図に示すように、演算回路６００は、相互作用係数メモリ６１１、第ｄ変数メモリ６１２．ｄ（ｄ＝１～Ｄ）、積和演算装置６１３、数学関数演算装置６１４を含む。

相互作用係数メモリ６１１には、相互作用テンソルＪを表す情報が格納される。前述の通り、相互作用テンソルは対称テンソルであるから、この対称性を用いてメモリ６１１の使用量を削減できる。また、結合λを表す情報も格納される。

第ｄ変数メモリ６１２．ｄ（ｄ＝１～Ｄ）には、前述した完全Ｄ部グラフ構造の第ｄ変数群の状態を示すＮ次元ベクトルの情報が格納される。例えば、Ｄ＝３の場合、第１変数群、第２変数群、第３変数群には、それぞれ図３におけるｘ，ｙ，ｚが対応する。

演算回路６００には、信号ＳＷ，ＳＲ，ＳＴが入力される。数学関数演算装置６１４は信号ＳＰを出力する。

信号ＳＷは、整数１～Ｄを周期的に繰り返す信号であり、式１５における変数と変数メモリの対応を指定する。

信号ＳＲは、各要素が互いに独立な乱数であるＮ次元ベクトルを表す信号である。式１５におけるｒを入力する。

信号ＳＴは、式１５における温度パラメタＴを入力する。

前述の通り、結合λは相互作用テンソルＪに基づき十分大きな値として設定される。式９に基づく数値評価は、演算装置２０の外部、たとえばプロセッサ１１で行ってもよい。また、演算装置２０内で計算も可能である。例えば、べき乗法等で最大固有値を計算する場合、これは行列・ベクトル積を繰り返し実行するものであり、積和演算装置６１３を活用できる。

積和演算装置６１３には、相互作用係数メモリ６１１と第ｄ変数メモリ６１２．ｄ（ｄ＝１～Ｄ）の内容、および、信号ＳＷが入力される。式１５は相互作用テンソルＪとベクトルの積和演算をそれぞれ含んでおり、信号ＳＷにより指定された変数の対応関係の下で、演算を実行し、出力する。例えば式１５では変数ｘの次状態を計算するため、それ以外の変数ｙとｚを用いる。

式１５は積和演算の出力や一様乱数ｒなどのスカラーに対する誤差関数や逆誤差関数の演算を含んでおり、この部分を数学関数演算装置６１４が実行する。どの式に対応した演算を実行するかは信号ＳＷが指定する。また、一様乱数ｒや温度パラメタＴはそれぞれ信号ＳＲと信号ＳＴから入力される。信号ＳＰにはその出力値である、ＭＣＭＣに従い更新された変数の次状態の値が出力される。

式１５が添え字ｉ（ｉ＝１～Ｎ）に対して独立であることから、演算回路６００の演算も添え字ｉについて独立に実行可能である。つまり、複数の演算回路６００を並列実行することでＭＣＭＣの高速化が実現する。

図７に情報処理装置１０が備える主な機能（ソフトウェア構成）を示している。この情報処理装置１０は、プログラムをデータとして記憶装置に格納し、これを順番に読み込んで実行するいわゆるノイマン型コンピュータである。同図に示すように、情報処理装置１０は、記憶部７００、相互作用係数設定部７１１、結合強度計算部７１２、変数値初期化部７１３、温度パラメタ制御部７１４、相互作用演算実行部７１５、及び変数値読出部７１６を備える。これらの機能は、プロセッサ１１が、主記憶装置１２に格納されているプログラムを読み出して実行することにより、もしくは、演算装置２０が備えるハードウェアにより実現される。尚、情報処理装置１０は、上記の機能に加えて、例えば、オペレーティングシステム、ファイルシステム、デバイスドライバ、ＤＢＭＳ（DataBase Management System）等の他の機能を備えていてもよい。

上記機能のうち記憶部７００は、相互作用モデル形式問題データ７０１、及び演算装置制御プログラム７０２を、主記憶装置１２又は補助記憶装置１３に記憶する。相互作用モデル形式問題データ７０１は、組合せ最適化問題を所定の記述形式で入力したデータである。相互作用モデル形式問題データ７０１は、例えば、ユーザがユーザインタフェース（入力装置、出力装置、通信装置等）を介して設定する。演算装置制御プログラム７０２は、相互作用演算実行部７１５が演算装置２０を制御する際に実行する、もしくは相互作用演算実行部７１５が個々の演算装置２０にロードして演算装置２０に実行させるプログラムである。

相互作用係数設定部７１１は、相互作用モデル形式問題データ７０１に基づき、相互作用テンソルＪを相互作用係数メモリ６１１に設定する。

結合強度計算部７１２は、相互作用係数メモリ６１１に基づき、式１５における結合λの値を、式９に基づき計算する。

変数値初期化部７１３は、演算装置２０の変数メモリ６１２．ｄ（ｄ＝１～Ｄ）に格納されている値を初期化する。例えば、－１～＋１の一様乱数で設定する。

温度パラメタ制御部７１４は、式１５における温度パラメタＴを制御する。

相互作用演算実行部７１５は、式１５に従って相互作用モデルに対してＳＡに従った基底状態探索（以下、相互作用演算と称する）を行う。

変数値読出部７１６は、相互作用演算実行部７１５によりＳＡが実行されると、変数メモリ６１２．ｄ（ｄ＝１～Ｄ）に格納されている値を読み出し、読み出した値を出力装置１５や通信装置１６に出力することで、基底状態探索を終了する。

図８は、相互作用モデルの基底状態探索に際し情報処理装置１０が行う処理（以下、基底状態探索処理Ｓ８００と称する）を説明するフローチャートである。以下、同図とともに基底状態探索処理Ｓ８００について説明する。尚、以下において、符号の前に付している「Ｓ」の文字は処理ステップの意味である。基底状態探索処理Ｓ８００は、例えば、入力装置１４を介してユーザからの指示等を受け付けることにより開始される。

初めに、相互作用係数設定部７１１が、相互作用係数メモリ６１１に値Ｊを設定する（Ｓ８１１）。メモリの値は、ユーザインタフェース（例えば、入力装置１４、出力装置１５、通信装置１６等により実現される）を介してユーザが設定又は編集することもできる。

続いて、結合強度計算部７１２が、相互作用係数メモリ６１１に格納された相互作用テンソルＪに基づいて結合λを設定し、相互作用係数メモリ６１１に格納する。前述の通り、この計算は演算装置２０内またはプロセッサ１１で実行してもよい（Ｓ８１２）。

相互作用モデルの変数が、連続値と離散値を含んでいる場合、離散値を一時的に連続値として扱う。変数値初期化部７１３は、離散値を持つ変数の定義域を連続値として再定義する（Ｓ８１３）。

続いて、変数値初期化部７１３が、変数メモリ６１２．ｄ（ｄ＝１～Ｄ）に格納されている値を初期化する（Ｓ８１４）。

続いて、相互作用演算実行部７１５が、式１５に基づき相互作用演算を実行することにより変数メモリ６１２．ｄ（ｄ＝１～Ｄ）の値を更新する（Ｓ８１５）。

続いて、相互作用演算実行部７１５は、ＳＡ終了条件が成立したか否か（例えば、既定の回数だけ温度パラメタＴを変えつつ状態更新を実行したか否か）を判定する（Ｓ８１６）。相互作用演算実行部６１５がＳＡ終了条件が成立したと判定した場合（Ｓ８１６：ＹＥＳ）、処理はＳ８１７に進む。一方、相互作用演算実行部７１５が停止条件が成立しないと判定した場合（Ｓ８１６：ＮＯ）、処理はＳ８１５に戻る。

続いて、変数値読出部７１６が、変数メモリ６１２．ｄ（ｄ＝１～Ｄ）に格納されている値を読み出し、Ｓ８１３で定義を連続値に変換した変数の定義を離散値に戻す。このとき、連続値から離散値の変換は、式４に従って行う。変更後の変数を基底状態探索の結果として記憶し（Ｓ８１７）、基底状態探索処理Ｓ８００は終了する。

図９は、演算装置２０の詳細な構成例を示すブロック図であり、ＳＲＡＭの技術を本実施例の演算回路６００に適用した場合の回路構成例を示すブロック図である。複数のユニット９０１がユニットアレイ９０２を構成している。このような構成（ハードウェア）は半導体製造技術を応用して製造可能である。

図１０は、ノードに対応する１つのユニット９０１の回路構成例である。１つのユニット９０１には、１つの変数を記憶する変数メモリ１００１と、後述する変数メモリ１００１の値を更新するための構成が含まれる。すなわち、ユニット９０１はＤ×Ｎ個準備され、変数群ごとに並列動作が可能となる。図には図３と対応したＤ＝３の場合の変数を記載した。

図９の構成例を、一般化されている図６の構成も参照しつつ説明する。相互作用係数メモリ６１１に格納されるデータは、相互作用係数設定部７１１から設定される。相互作用係数メモリ６１１には、相互作用テンソルＪと結合λが格納されるが、回路規模を縮小するために全てのユニット９０１で共通に用いられる。よって、相互作用係数メモリ６１１は、全てのユニット９０１に係数Ｊと結合λを供給するが、図９ではそのための信号線は省略している。なお、原理的には相互作用係数メモリ６１１を、各ユニット９０１が個々に備えてもよい。

相互作用ドライバ９０３は、図３で説明したように、第ｄ変数群から１つの群を選び、更新を許可する信号ＳＷを各ユニット９０１に入力する。これにより、特定の１つの群のみが一斉に更新される。

ＳＲＡＭインタフェース９０４は、ＳＲＡＭの回路構成を応用して作成されたユニット９０１の変数を格納する変数メモリ１００１に対して書き込みおよび読み出しを行う。演算回路６００での処理終了後に読み出された変数の値は、変数値読出部７１６に送られる。変数値読出部７１６は、読み出した値を適宜記憶及び出力することで基底状態探索の結果を出力する。

コントローラ９０５は、相互作用演算実行部７１５の指示により、演算回路６００の初期化や処理の終了報告を行う。

図１０は、１つのユニット９０１の回路構成例を示す図である。１つのユニットには、Ｄ個の変数群に含まれるＮ個の変数のいずれか１つを記憶する変数メモリ１００１が含まれる。

積和演算装置６１３には、変数メモリが属している以外の変数群の値が入力される。これらの変数ベクトルは、他のユニット９０１の変数メモリ１００１からＳＲＡＭインタフェース９０４が読み出して生成する。また、相互作用係数メモリ６１１に格納されている相互作用係数Ｊの値が入力される。

数学関数演算装置６１４には、積和演算装置６１３の出力、信号ＳＴ、及び信号ＳＲが入力される。そして、式１５、に基づいて変数の次状態を出力し、変数メモリ１００１に格納する。

以上、詳細に説明したように、本実施形態の情報処理装置１０によれば、相互作用モデルのＳＡに基づく基底状態探索を効率よく行うことができる。尚、情報処理装置１０（演算装置２０を含む）は、シンプルな構成であるので安価かつ容易に製造することができる。

実施例の情報処理装置は、Ｄ次（Ｄ≧３）のエネルギー関数を持つ相互作用モデルに対する基底状態探索を、変数間の接続が完全Ｄ部グラフ構造となる相互作用関係を持つ相互作用モデルでの基底状態探索により代替し、相互作用モデルのエネルギー関数を記憶し、エネルギー関数と変数の情報に基づきシミュレーティッド・アニーリングに従って変数を更新し、基底状態を探索する。これにより、離散変数や連続変数を有し、高次のエネルギー関数を持つ相互作用モデルの基底状態探索を効率よく実施することができる。

以上、一実施形態について詳述したが、本発明は上記の実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。例えば、上記の実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また上記実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。

また上記の各構成、機能部、処理部、処理手段等は、それらの一部または全部を、例えば、集積回路で設計する等によりハードウェアで実現してもよい。また上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリやハードディスク、ＳＳＤ（Solid State Drive）等の記録装置、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体に置くことができる。

また上記の各図において、制御線や情報線は説明上必要と考えられるものを示しており、必ずしも実装上の全ての制御線や情報線を示しているとは限らない。例えば、実際には殆ど全ての構成が相互に接続されていると考えてもよい。

また以上に説明した情報処理装置１０の各種機能部、各種処理部、各種データベースの配置形態は一例に過ぎない。各種機能部、各種処理部、各種データベースの配置形態は、情報処理装置１０が備えるハードウェアやソフトウェアの性能、処理効率、通信効率等の観点から最適な配置形態に変更し得る。

また前述した各種のデータを格納するデータベースの構成（スキーマ（Schema）等）は、リソースの効率的な利用、処理効率向上、アクセス効率向上、検索効率向上等の観点から柔軟に変更し得る。

本発明は、最適化方法及び情報処理装置に利用することが可能である。

５ システムバス、 １０ 情報処理装置、１１ プロセッサ、１２ 主記憶装置、１３ 補助記憶装置、１４ 入力装置、１５ 出力装置、１６ 通信装置、１２ 主記憶装置、２０ 演算装置、６１１ 相互作用係数メモリ、６１２．ｄ（ｄ＝１～Ｄ） 第ｄ変数メモリ、６１３ 積和演算装置、６１４ 数学関数演算装置、７００ 記憶部、７０１ 相互作用モデル形式問題データ、７０２ 演算装置制御プログラム、７１１ 相互作用係数設定部、７１２ 結合強度計算部、７１３ 変数値初期化部、７１４ 温度パラメタ制御部、７１５ 相互作用演算実行部、７１６ 変数値読出部、９０１ ユニット、９０２ ユニットアレイ、９０３ 相互作用ドライバ、９０４ ＳＲＡＭインタフェース、９０５ コントローラ、１００１ 変数メモリ

Claims (15)

1. 情報処理装置を利用して、
   連続変数と離散変数をＮ個（Ｎは自然数）含んだ３次以上のエネルギー関数を持つ相互作用モデルを対象に、
   前記相互作用モデルに対する基底状態探索を、各々Ｎ個の連続変数を有したＤ個（Ｄは３以上の自然数）の変数群から構成された代理の相互作用モデルでの基底状態探索により実行し、
   前記基底状態探索は、シミュレーティッド・アニーリングに基づき実行し、
   前記代理の相互作用モデルの相互作用関係は完全Ｄ部グラフ構造をもち、
   前記代理の相互作用モデルの各変数群のｉ番目の変数ペア間に結合が設定され、
   前記代理の相互作用モデルにおいて状態遷移を行う際に、前記Ｄ個の変数群のうち１つの変数群の全変数を一斉更新するように前記情報処理装置を動作させる、
   最適化方法。
2. 前記情報処理装置は、
   Ｎ個の連続変数の値を格納するＮ個の変数メモリからなるメモリ群をＤ個と、
   値を更新する際に前記変数群の１つを選んで前記メモリ群と更新方法を選択する選択信号ＳＷを供給する供給線と、を備え、
   前記選択信号ＳＷが選択した更新方法に従い、選択した前記メモリ群の値を更新する、
   請求項１記載の最適化方法。
3. 前記情報処理装置は、
   前記代理の相互作用モデルの相互作用関係を規定する相互作用係数Ｊと前記各変数群のｉ番目の変数ペア間の結合強度λを格納する相互作用係数メモリを備え、
   前記相互作用係数Ｊ、結合強度λ、前記変数メモリ、温度信号ＳＴ、及び乱数信号ＳＲから前記メモリ群の値の次状態を計算する
   請求項２記載の最適化方法。
4. 前記結合強度λは、前記エネルギー関数に対して前記各変数群のｉ番目の変数ペアが異なる値である場合のペナルティの大きさに影響する、
   請求項３記載の最適化方法。
5. 前記相互作用係数Ｊは対称テンソルであり、
   前記結合強度λはＪに基づく数値評価から決定する、
   請求項４記載の最適化方法。
6. 前記シミュレーティッド・アニーリングのアルゴリズムにおいて、前記次状態への状態遷移の受理確率Ｐを熱浴法に基づき求める、
   請求項３記載の最適化方法。
7. Ｎ個×Ｄ群（Ｎは自然数、Ｄは３以上の自然数）の変数の値を夫々格納するＤ×Ｎ個の変数メモリと、
   前記Ｄ群の変数群の１つとその更新方法を選択する選択信号ＳＷを供給する供給線と、
   前記変数群の間に働くＤ次の相互作用を示す相互作用係数Ｊを格納する相互作用係数メモリと、
   前記選択信号ＳＷが第ｄ変数群（ｄ＝１～Ｄ）を選択した場合、前記Ｄ×Ｎ個の変数メモリから読み出した、第ｄ変数群のｉ番目の変数の値と、第ｄ変数群以外の変数群の複数のｉ番目の変数の値及び前記相互作用係数Ｊを入力とし、第ｄ変数群のｉ番目の変数の値の次状態を計算する演算装置を有する、
   情報処理装置。
8. 前記演算装置は、前記変数メモリに対応して配置され、前記変数メモリは連続値を格納する、
   請求項７記載の情報処理装置。
9. 前記演算装置は、前記変数の値および前記相互作用係数Ｊに対して積和演算を実行する積和演算装置を含む、
   請求項８記載の情報処理装置。
10. 前記演算装置は、前記変数の値の次状態を演算する数学関数演算装置を含む、
    請求項９記載の情報処理装置。
11. 前記数学関数演算装置は、前記積和演算装置の出力値、温度信号ＳＴ，及び乱数信号ＳＲを入力値として、前記第ｄ変数群のｉ番目の変数の次状態を出力値とする、
    請求項１０記載の情報処理装置。
12. 相互作用モデルに対するシミュレーティッド・アニーリングに基づいて基底状態探索を行う、
    請求項１１記載の情報処理装置。
13. 前記相互作用係数メモリは、第１群～第Ｄ群の各変数群のｉ番目の変数（ｉ＝１～Ｎ）が基底状態において同じ値となるように、前記第１群～第Ｄ群のｉ番目の変数のすべての間に設定した結合強度λを格納する、
    請求項１２記載の情報処理装置。
14. 連続変数と離散変数をＮ個含んだ３次以上のエネルギー関数を持つ相互作用モデルの基底状態を探索するための、請求項１３記載の情報処理装置を用いた情報処理システムであって、前記演算装置を制御する制御装置を備え、
    前記制御装置は、相互作用係数設定部と、結合強度計算部と、変数値初期化部と、温度パラメタ制御部と、相互作用演算実行部と、変数読出部とを備え、
    前記相互作用係数設定部は、相互作用係数メモリに前記相互作用係数Ｊを格納し、
    前記結合強度計算部は、前記相互作用係数Ｊに基づいて前記結合強度λを設定して、前記相互作用係数メモリに格納し、
    変数値初期化部は、前記離散変数の定義域を連続値として再定義し、前記変数メモリに格納されている値を初期化し、
    前記温度パラメタ制御部は、前記温度信号ＳＴを制御し、
    相互作用演算実行部は、前記演算装置を制御して、前記基底状態探索を実行させ、
    前記変数読出部は、前記基底状態探索の結果となる前記変数メモリに格納されている値を読み出し、連続値に再定義した変数の定義を離散値に戻す、
    情報処理システム。
15. 前記変数読出部は、連続値に再定義した変数の符号に基づいて、連続値の値を離散値に戻す、
    請求項１４記載の情報処理システム。

Images