JP7273288B2 - サンプリング装置及びサンプリング装置の制御方法 - Google Patents

サンプリング装置及びサンプリング装置の制御方法 Download PDF

Info

Publication number
JP7273288B2
JP7273288B2 JP2019031685A JP2019031685A JP7273288B2 JP 7273288 B2 JP7273288 B2 JP 7273288B2 JP 2019031685 A JP2019031685 A JP 2019031685A JP 2019031685 A JP2019031685 A JP 2019031685A JP 7273288 B2 JP7273288 B2 JP 7273288B2
Authority
JP
Japan
Prior art keywords
value
values
state
flag
sampling device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019031685A
Other languages
English (en)
Other versions
JP2020135727A (ja
Inventor
暁 土手
泰孝 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2019031685A priority Critical patent/JP7273288B2/ja
Priority to EP20157619.6A priority patent/EP3702975A3/en
Priority to US16/795,652 priority patent/US11334646B2/en
Priority to CN202010107459.7A priority patent/CN111611126A/zh
Publication of JP2020135727A publication Critical patent/JP2020135727A/ja
Application granted granted Critical
Publication of JP7273288B2 publication Critical patent/JP7273288B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3024Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a central processing unit [CPU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/11Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3058Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/15Correlation function computation including computation of convolution operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N99/00Subject matter not provided for in other groups of this subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Operations Research (AREA)
  • Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Human Resources & Organizations (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Complex Calculations (AREA)
  • Feedback Control In General (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Control Of Temperature (AREA)

Description

本発明は、サンプリング装置及びサンプリング装置の制御方法に関する。
組合せ最適化問題を解くための手法として、組合せ最適化問題を磁性体のスピンの振る舞いを表すイジングモデルに変換し、マルコフ連鎖モンテカルロ法を用いて、イジングモデルの状態をエネルギーが低い状態に遷移させていく手法がある。以下、マルコフ連鎖モンテカルロ法を、MCMC(Markov-Chain Monte Carlo)法と略す。イジングモデルの状態は、複数の状態変数の値の組合せにより表現でき、状態変数の数がN個の場合、x=(x,x,…,x)などと表せる。各状態変数の値として、0または1を用いることができる。
イジングモデルのエネルギーを表すイジング型のエネルギー関数E(x)は、たとえば、以下の式(1)で定義される。
Figure 0007273288000001
右辺の1項目は、イジングモデルの全状態変数の全組合せについて、漏れと重複なく、2つの状態変数の値(0または1)と重み値(2つの状態変数の間の相互作用の強さを表す)との積を積算したものである。xは、識別情報(以下インデックス値という)がiの状態変数、xは、インデックス値=jの状態変数であり、Wijは、インデックス値=i,jの状態変数間の相互作用の大きさを示す重み値である。
右辺の2項目は、各インデックス値についてのバイアス係数と状態変数との積の総和を求めたものである。bは、インデックス値=iについてのバイアス係数を示している。
また、状態変数xが変化して1-xとなると、状態変数xの増加分は、Δx=(1-x)-x=1-2xと表せる。スピン反転(状態変数の値の変化)に伴うエネルギー変化ΔEは、以下の式(2)で表される。
Figure 0007273288000002
式(2)において、状態変数xが1から0に変化するとき、Δxは-1となり、状態変数xが0から1に変化するとき、Δxは1となる。なお、hはローカルフィールド(局所場)と呼ばれ、Δxに応じてローカルフィールドhに符号(+1または-1)を乗じたものがエネルギー変化ΔEとなる。
ある状態遷移に伴うエネルギー変化ΔEに対するその状態遷移の許容確率として、以下の式(3)で表されるメトロポリス法またはギブス法で規定される許容確率A(ΔE)を用いることができる。
Figure 0007273288000003
式(3)においてβは、逆温度(温度を表す温度値の逆数)である。エネルギーが増加する状態遷移についても確率的に許容される。
通常のMCMC法では、ランダムまたはインデックス値の順(シーケンシャル)に、状態変数が選択され、その状態変数の値が変化する状態遷移に伴うエネルギー変化ΔEに基づいて、上記の許容確率A(ΔE)でその状態遷移を許容する。そしてその状態遷移を許容する場合には状態変数の値が更新される。このような処理が所定の試行回数、繰り返される。また、最低エネルギーとなる状態(最適解)を探索するために、温度を徐々に下げていくシミュレーテッド・アニーリング法が用いられる場合もある。
一方、組合せ最適化問題を高速に解くためのハードウェアとして、デジタル回路を用いた最適化装置がある(たとえば、特許文献1参照)。最適化装置は、以下に示すように複数の状態遷移を同時に遷移候補として、1つの状態遷移を選択する並列探索を行う。
最適化装置は、各状態遷移に伴うエネルギー変化と温度値に基づいて、上記の許容確率A(ΔE)で各状態遷移を許容する。そして、最適化装置は複数の状態遷移の中から、許容された状態遷移を優先的に1つ選択し状態を更新する。最適化装置は、以上のような処理を、所定の試行回数、繰り返し行う。また、従来の最適化装置では、状態が局所解に拘束されるなどによって状態遷移が生じない場合、エネルギー変化にオフセット値を付加していた。
特開2018-63626号公報
ところで、平衡状態では各状態の占有確率を示す確率分布はボルツマン分布となる。そのため、MCMC法を用いて温度一定とした状態遷移を繰り返す過程により得られた状態または状態に基づいた値をサンプルとして出力することで、ボルツマン分布にしたがうサンプルを発生するサンプラーが実現できる。発生したサンプルは、たとえば、機械学習などでの期待値の計算に用いられる。
しかし、従来のデジタル回路を用いた最適化装置は、前述のような並列探索処理及びオフセット値の付加による計算処理の高速化を行っているため、確率分布がボルツマン分布からずれる可能性がある。従来のデジタル回路を用いた最適化装置をサンプラー(以下サンプリング装置という)として用いる場合、確率分布のボルツマン分布からのずれによって、サンプリング精度が通常のMCMC法を用いた場合よりも悪化してしまう可能性があった。
1つの側面では、本発明は、計算処理の高速性を損なうことなく高精度のサンプリングが可能なサンプリング装置及びサンプリング装置の制御方法を提供することを目的とする。
1つの実施態様では、エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持するとともに、所定試行回数毎に前記複数の状態変数の値を出力する状態保持部と、前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、更新インデックス値に基づいて選択された重み値に基づき、エネルギーの変化値を各状態遷移に対して計算するエネルギー変化計算部と、複数の前記エネルギーの変化値に基づいて前記各状態遷移のうちの少なくとも1つが許容されるようにオフセット値を決定し、複数の前記エネルギーの変化値のそれぞれに前記オフセット値を付加した複数の評価値を出力するとともに、前記所定試行回数毎に前記オフセット値を出力するオフセット制御部と、温度を示す温度値と乱数値とに基づいて決まる閾値と、前記複数の評価値のそれぞれとを比較した結果に基づき、前記各状態遷移について状態遷移を許容するか否かを示す複数のフラグ値を出力する比較部と、前記複数のフラグ値のうち、状態遷移を許容することを示すフラグ値の数を計数した計数値を、前記所定試行回数毎に出力するフラグ計数部と、前記複数のフラグ値、または複数の前記エネルギーの変化値に基づいて、前記各状態遷移のうちの1つに対応するインデックス値を前記更新インデックス値として出力する選択部と、を有するサンプリング装置が提供される。
また、1つの実施態様では、サンプリング装置の制御方法が提供される。
1つの側面では、本発明は、計算処理の高速性を損なうことなく高精度のサンプリングが可能となる。
第1の実施の形態のサンプリング装置の一例を示す図である。 各状態に留まる試行回数を1回とした場合の選択確率の分布例を示す図である。 状態保持部及びエネルギー変化計算部の一例を示す図である。 オフセット制御部及び比較部の一例を示す図である。 オフセット値の適用例を示す図である。 フラグ計数部の一例を示す図である。 フラグ計数部の他の例を示す図である。 選択部の一例を示す図である。 サンプリングタイミングの例を示す図である。 サンプリング動作の一例の流れを示すフローチャートである。 最適化処理動作の一例の流れを示すフローチャートである。 第2の実施の形態のサンプリング装置の一例を示す図である。 2種類のフラグ値についての計数値Nf1,Nf2を発生させる動作の一例の流れを示すフローチャートである。 第3の実施の形態のサンプリング装置の一例を示す図である。 閾値生成部の一例を示す図である。 温度とエネルギーとの関係についてのシミュレーション結果の例を示す図である。 試行回数と最低エネルギー状態が得られる確率との関係についてのシミュレーション結果の例を示す図である。 レプリカ交換法を利用したサンプリング装置の例を示す図である。 レプリカ交換法を利用したサンプリング装置の動作例を示すフローチャートである。 サンプリング装置の他の変形例を示す図である。 期待値計算処理を行うサンプリング装置の動作例を示すフローチャートである。
以下、発明を実施するための形態を、図面を参照しつつ説明する。
なお、イジングモデルを用いたシミュレーテッド・アニーリングにおいては、状態遷移に伴い変化する状態変数は1つだけである。そこで、以下では各状態遷移をそれぞれ識別するインデックス値は、1つの状態変数のインデックス値と等しいものとして説明を行う。しかし、状態遷移のインデックス値と状態遷移に伴い変化する状態遷移のインデックス値が一致する形態に限定されるものではない。
従来の最適化装置において確率分布がボルツマン分布からずれる原因は、並列探索処理及びオフセット値の付加による計算処理の高速化を行っているため、1つの状態に滞在する試行回数が、通常のMCMC法を用いた場合よりも少なくなるためである。従来の最適化装置において、理想的なオフセット値が適用された場合、1つの状態に滞在する試行回数は、1回となる。
ボルツマン分布にしたがったサンプルを得るために、上記のようなオフセット値を用い、サンプリングを行うたび、通常のMCMC法であればその状態に留まったであろう試行回数の値またはその期待値により、サンプルに重み付けを行えばよい。つまり、ある状態が1回観測された(サンプリングされた)場合、その状態が通常のMCMC法を用いた場合の試行回数だけサンプリングされたとするような重み付けを行えばよい。
通常のMCMC法において、ある状態からインデックス値=iの状態変数の値が変化した別の状態に遷移する確率は、Γ=A(ΔE)/Nである。A(ΔE)は、インデックス値=iの状態変数の値が変化する状態遷移の許容確率である。Nは、状態変数の総数である。試行毎に別の状態に遷移する確率は、以下の式(4)で表せる。
Figure 0007273288000004
式(4)で表される確率の逆数が、通常のMCMC法において、1つの状態に滞在する試行回数の期待値となる。
なお、何回かの試行を行って最終的に状態変数xの値の変化が生じる確率Pは、以下の式(5)で表せる。
Figure 0007273288000005
以下に示す第1の実施の形態のサンプリング装置は、所定試行回数毎に、通常のMCMC法において1つの状態に滞在する試行回数の期待値を、その状態とともに出力する装置である。
(第1の実施の形態)
図1は、第1の実施の形態のサンプリング装置の一例を示す図である。
サンプリング装置10は、状態保持部11、エネルギー変化計算部12、オフセット制御部13、比較部14、フラグ計数部15、選択部16、制御部17、試行回数計算部18を有する。
状態保持部11は、たとえば、エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持するとともに、所定試行回数毎に複数の状態変数の値を出力する。評価関数は、たとえば、式(1)に示したようなエネルギー関数E(x)である。
以下では、複数の状態変数の数(状態変数の総数)をN個とし、N個の状態変数を状態変数x(i=1~N)または状態変数x~xと表記する。また、状態変数x~xの各値の組合せを状態xという。なお、以下の説明では、状態保持部11は、式(2)に示したローカルフィールドh(i=1~N)についても保持するものとして説明するが、ローカルフィールドhは、エネルギー変化計算部12が保持していてもよい。
状態保持部11は、たとえば、レジスタやSRAM(Static Random Access Memory)などである。
エネルギー変化計算部12は、状態変数x~xの値の何れかが変化することに応じて状態遷移が起こる場合、更新インデックス値に基づいて選択された重み値に基づき、エネルギーの変化値(以下エネルギー変化ΔEという)を各状態遷移に対して計算する。
エネルギー変化ΔEは、前述の式(2)のように表せ、エネルギー変化計算部12は、Δxに応じてローカルフィールドhに符号(+1または-1)を乗じることでエネルギー変化ΔEを計算できる。また、状態変数xが0から1に変化したときのローカルフィールドhの変化分Δhは、+Wij、状態変数xが1から0に変化したときの変化分Δhは、-Wijと表せる。したがって、ローカルフィールドhは行列演算により毎回計算しなおす必要はなく、状態遷移にともなって変化のあったビットによる変化分だけWijを加減算すればよい。エネルギー変化計算部12は、計算(または更新)したローカルフィールドhを状態保持部11に保持させる。
このようなエネルギー変化計算部12は、たとえば、重み値Wijなどを記憶する記憶部(レジスタやSRAMなど)、セレクタ、乗算器、加算器などを用いて実現できる。なお、以下の説明ではエネルギー変化計算部12は、N個のエネルギー変化ΔE(i=1~N)(以下エネルギー変化ΔE~ΔEと表記する場合もある)とともに、インデックス値=i(1~N)についても出力するものとする。
オフセット制御部13は、エネルギー変化ΔE~ΔEに基づいて各状態遷移のうちの少なくとも1つが許容されるようにオフセット値Eoffを決定し、エネルギー変化ΔE~ΔEのそれぞれにオフセット値Eoffを付加した複数の評価値を出力する。また、オフセット制御部13は、所定試行回数毎にオフセット値Eoffを出力する。オフセット制御部13の例やオフセット値Eoffの決定方法の例については後述する。
比較部14は、温度値Tと乱数値とに基づいて決まる閾値と、複数の評価値のそれぞれとを比較した結果に基づき、各状態遷移(の候補)について状態遷移を許容するか否かを示す複数のフラグ値F,F,…,Fを出力する。比較部14は、このような処理によって、式(3)に示した許容確率A(ΔE)で状態遷移を許容させることができる。比較部14の例や、許容確率A(ΔE)で状態遷移を許容させることができる理由については後述する。なお、以下の説明では、サンプリング動作は一定の温度で行われる(温度値Tが固定値となる)ものとするが、温度は変更されるようにしてもよい。
フラグ計数部15は、フラグ値F~Fのうち、状態遷移を許容することを示すフラグ値の数を計数し、所定試行回数毎に計数したフラグ値の数(計数値N)を出力する。フラグ計数部15の例については後述する。
選択部16はフラグ値F~Fの何れかを選択するとともに、選択した何れかのフラグ値に対応するインデックス値を更新インデックス値として出力する。選択部16の例についても後述する。
制御部17は、サンプリング装置10の各部を制御する。制御部17は、たとえば、試行回数が所定試行回数に達したか否かを判定し、所定試行回数に達したときに、そのときの状態を状態保持部11に出力させ、オフセット値Eoffをオフセット制御部13に出力させる。さらに、制御部17は、フラグ計数部15にそのときの計数値Nを計数させる。また、制御部17は、比較部14に温度値Tを供給する。
制御部17は、たとえば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などの特定用途の電子回路にて実現できる。なお、制御部17は、CPU(Central Processing Unit)やDSP(Digital Signal Processor)などのプロセッサであってもよい。その場合、プロセッサは、図示しないメモリに記憶されたプログラムを実行することで、上記の処理を行う。
試行回数計算部18は、オフセット制御部13が出力したオフセット値Eoffと、フラグ計数部15が出力した計数値Nに基づき、通常のMCMC法において、1つの状態に滞在する試行回数Ntrialの期待値<Ntrial>(近似値)を計算する。試行回数計算部18は、たとえば、ASICやFPGAなどの特定用途の電子回路、CPUやDSPなどのプロセッサにて実現できる。なお、試行回数計算部18は、サンプリング装置10の外部に設けられていてもよいし、制御部17が、オフセット値Eoffと、計数値Nに基づいて、期待値<Ntrial>を計算してもよい。
オフセット値Eoffと計数値Nを、期待値<Ntrial>を求めるための値として用いることができる理由は以下の通りである。
図1には、通常のMCMC法における遷移確率Γの分布の例が示されている。通常のMCMC法では、遷移確率Γを全状態変数について積算した値(試行毎に別の状態に遷移する確率(式(4))は、1に満たない。前述のように、式(4)で表される確率の逆数が、通常のMCMC法において、1つの状態に滞在する試行回数Ntrialの期待値<Ntrial>となる。期待値<Ntrial>は、現在の状態に留まっている時間(滞在時間)の期待値に相当する。
一方、サンプリング装置10において、各状態に留まる試行回数を1回とした場合、各状態変数が反転する対象として選ばれる選択確率の分布は、たとえば、以下のようになる。
図2は、各状態に留まる試行回数を1回とした場合の選択確率の分布例を示す図である。
~pは、状態変数x(i=1~N)の選択確率である。各状態に留まる試行回数を1回とした場合、各試行において状態変数x(i=1~N)の何れかの変化が生じるため、p~pの積算結果は1となる。選択確率pは、以下の式(6)で表せる。
Figure 0007273288000006
式(6)の右辺は、式(5)と同じになる。
サンプリング装置10は、各状態遷移のうちの少なくとも1つが許容されるようなオフセット値Eoffを用いることで、上記のように各状態に留まる試行回数が1回となるようにする。オフセット値Eoffを適用したときの許容確率をA(ΔE-Eoff)とすると、A(ΔE-Eoff)は、前述の式(3)により(メトロポリス法を用いた場合)、以下の式(7)のように表せる。
Figure 0007273288000007
逆温度βとオフセット値Eoffが正の場合、許容確率A(ΔE-Eoff)は、本来の許容確率A(ΔE)に対して、1以上の係数exp(β・Eoff)を乗じた確率となる。このため、許容確率A(ΔE-Eoff)が用いられる場合、本来の許容確率A(ΔE)を用いた場合に対して、各状態遷移の許容確率の相互の比率は変わらない。
期待値<Ntrial>は、式(7)を用いて、以下の式(8)のように表せる。
Figure 0007273288000008
すなわち、状態変数x~xについてのA(ΔE-Eoff)を積算した値<N>は、状態遷移を許容することを示すフラグ値の数である計数値Nにより近似できる。
式(8)において、逆温度βは一定値(温度値Tが固定値であるため)であり、状態変数の総数=Nも固定値である。そのため、サンプリングタイミングにおけるオフセット値Eoffと計数値Nが得られれば、そのサンプリングタイミングにおける期待値<Ntrial>を近似的に求めることができる。
サンプリング装置10は、オフセット値Eoffを用いて各状態に留まる試行回数が1回となるようにして、所定試行回数毎、状態と、オフセット値Eoffと、計数値Nとを出力(サンプリング)する。これにより、上記のようにオフセット値Eoffと、計数値Nとから得られる期待値<Ntrial>による重み付けにより、得られた状態が通常のMCMC法ではどのくらいの試行回数、その状態に留まるのかがわかり、通常のMCMC法の確率過程を再現できる。
図1には、通常のMCMC法を用いた場合と、サンプリング装置10を用いた場合のエネルギーEと試行回数との関係の一例を示すグラフが示されている。図1に示すように、たとえば、あるエネルギーEaをもつ状態xの滞在時間は、サンプリング装置10を用いた場合は1試行回数分であるのに対し、通常のMCMC法を用いた場合、期待値<Ntrial>分である。期待値<Ntrial>がわかれば、上記のように通常のMCMC法の確率過程を再現できる。
つまり、通常のMCMC法にしたがったサンプリングを再現できるため、従来の最適化装置をサンプリング装置として用いた場合に比べて高精度なサンプリングが可能になり、ボルツマン分布にしたがったサンプルが得られる。
機械学習の理論は、サンプルがボルツマン分布になっていることを根拠にしているものがほとんどであり、上記のようなサンプリング装置10を用いることで、機械学習に適したサンプルを得ることができる。
また、各試行で状態遷移が生じることと、1回のサンプリングで実効的に複数回サンプリングするのと同じ精度が得られることにより、従来の最適化装置をサンプリング装置として用いた場合に比べて計算処理の高速性が損なわれることもない。
以下、サンプリング装置10の各部の例を説明する。
(状態保持部11及びエネルギー変化計算部12の例)
図3は、状態保持部及びエネルギー変化計算部の一例を示す図である。
状態保持部11は、状態変数x~xの値とローカルフィールドh~hとを保持するレジスタ11aを有する。レジスタ11aは、クロック信号clkに同期して、エネルギー変化計算部12が更新した、状態変数x~xの何れかの値とローカルフィールドh~hとを取り込む。クロック信号clkは、図示しないクロック信号生成回路から供給される。状態保持部11は、たとえば、図1に示した制御部17の制御のもと、所定試行回数毎に複数の状態変数の値を、サンプリング装置10の外部に出力する。
エネルギー変化計算部12は、ΔE計算回路12a1,12a2,…,12aN、更新回路12bを有する。
ΔE計算回路12a1~12aNのそれぞれは、状態変数x~xの値の何れかとローカルフィールドh~hの何れかを状態保持部11から読み出し、エネルギー変化ΔE~Eの何れかを計算する。たとえば、ΔE計算回路12a1は、状態変数xの値とローカルフィールドhとを状態保持部11から読み出し、状態変数xの値が変化することによるエネルギー変化ΔEを計算する。ΔE計算回路12aNは、状態変数xの値とローカルフィールドhとを状態保持部11から読み出し、状態変数xの値が変化することによるエネルギー変化ΔEを計算する。
エネルギー変化ΔE(i=1~N)は、式(2)のように表せるため、ΔE計算回路12a1~12aNのそれぞれは、たとえば、状態変数x~xの値に応じてローカルフィールドh~hに符号(+1または-1)を乗じる乗算器を用いて実現できる。
なお、ΔE計算回路12a1~12aNのそれぞれは、インデックス値=i(1~N)の何れかを出力する。たとえば、ΔE計算回路12a1は、インデックス値として1を出力し、ΔE計算回路12aNは、インデックス値としてNを出力する。ΔE計算回路12a1~12aNは、インデックス値を保持する保持部(たとえば、レジスタ)を有する。
更新回路12bは、選択部16より更新インデックス値を受けると、更新インデックス値に対応した状態変数の値を変化させるとともに、その変化に基づいて、ローカルフィールドh~hを更新する。更新後の各値は、状態保持部11に書き込まれる。
たとえば、更新回路12bは、更新インデックス値がjの場合、状態変数xを1-xに変える。そして、更新回路12bは、ローカルフィールドh(i=1~N)を、h+Wij・Δxに更新する。
なお、更新回路12bは、上記のような更新処理を行うために、現在の状態変数x(i=1~N)の値とローカルフィールドhを、状態保持部11から取得する。重み値Wijは、図示しない記憶部に記憶されており、更新回路12bは、その記憶部から重み値Wijを取得する。
このような更新回路12bは、重み値Wijなどを記憶する記憶部(レジスタやSRAMなど)、セレクタ、乗算器、加算器などを用いて実現できる。
(オフセット制御部13及び比較部14の例)
図4は、オフセット制御部及び比較部の一例を示す図である。なお、図4では、前述のエネルギー変化ΔE~ΔEがまとめて{ΔE}と表記され、前述のフラグ値F~Fがまとめて{F}と表記されている。
オフセット制御部13は、最小値検出回路13a、加算回路13b、選択信号生成回路13c、セレクタ13dを有する。
最小値検出回路13aは、エネルギー変化ΔE~ΔEのうちの最小値ΔEminを検出する。
加算回路13bは、エネルギー変化ΔE~ΔEから、最小値ΔEminをオフセット値として差し引く(エネルギー変化ΔE~ΔEに-ΔEminを加算する、ということもできる)演算回路である。加算回路13bの代りに減算回路を用いることもできる。
選択信号生成回路13cは、選択信号signを生成する。選択信号生成回路13cは、最小値ΔEminが0より小さい場合、セレクタ13dにエネルギー変化ΔE~ΔEを選択させる選択信号sign(以下では、0とする)を生成する。選択信号生成回路13cは、最小値ΔEminが0以上の場合、セレクタ13dに加算回路13bが算出した値を選択させる選択信号sign(以下では、1とする)を生成する。
セレクタ13dは、選択信号signが0の場合、エネルギー変化ΔE~ΔE({ΔE})を選択し、選択信号signが1の場合、加算回路13bが算出した値、すなわち{ΔE}-ΔEminを選択して、評価値として出力する。
図4に示すようなオフセット制御部13を用いた場合、オフセット値Eoffは、Eoff=max[0,min(ΔE)]と表せる。つまり、エネルギー変化ΔE~ΔEのうちの最小値ΔEminが0以上の場合、Eoff=ΔEmin、それ以外の場合、Eoff=0である。
このようなオフセット値Eoffを用いることで、状態変数x~xのうち、少なくとも1つは状態遷移が許容される。その理由を以下に示す。
図5は、オフセット値の適用例を示す図である。図5において、横軸は状態遷移の候補となる状態変数xを表し、縦軸はエネルギー変化ΔEを表す。
波形20aは、状態変数x~xのそれぞれが変化することによるエネルギー変化{ΔE}の例を示している。図5の例では、エネルギー変化{ΔE}のうち、状態変数xminの値が変化することによるエネルギー変化ΔEが最小値ΔEminであり、0より大きい値である。波形20bは、波形20aで示されるエネルギー変化{ΔE}から最小値ΔEminを引いた場合のエネルギー変化ΔEを示す。
波形20bにおけるエネルギー変化ΔEの最小値は0となるため、状態変数xminの値が変化する状態遷移の許容確率A(ΔE)が1となる。つまり、状態変数x~xのうち、少なくとも状態変数xminは状態遷移が許容される。
このように、エネルギー変化ΔE~ΔEのうちの最小値ΔEminが0より大きい場合でも、Eoff=ΔEminをエネルギー変化{ΔE}から差し引くことで、状態変数x~xのうち、少なくとも1つの状態遷移が許容される。
図4の説明に戻る。
比較部14は、乱数発生回路14b1、選択法則適用部14b2、乗算回路14b3、符号反転回路14b4、比較回路14b5を有する。
乱数発生回路14b1は、0より大きく、1以下の一様乱数である乱数値rを発生する。乱数発生回路14b1は、たとえば、メルセンヌツイスタ、LFSR(Linear Feedback Shift Register)などを用いて実現できる。
選択法則適用部14b2は、選択法則(前述のメトロポリス法またはギブス法)に基づいた値を出力する。
前述の式(3)の許容確率A(ΔE)で、エネルギー変化ΔEを引き起こす状態遷移を許容することを示すフラグ(=1)を出力する回路は、許容確率A(ΔE)と、乱数値rとの比較結果に基づいた値を出力する比較器によって実現できる。
ただ、次のような変形を行っても同じ機能が実現できる。2つの数に同じ単調増加関数を作用させても大小関係は変化しない。したがって比較器の2つの入力に同じ単調増加関数を作用させても比較器の出力は変わらない。たとえば、許容確率A(ΔE)を、f(-β・ΔE)と表記する。f(-β・ΔE)に作用させる単調増加関数としてf(-β・ΔE)の逆関数f-1(-β・ΔE)、乱数値rに作用させる単調増加関数としてf-1(-β・ΔE)の-β・ΔEをrとしたf-1(r)を用いることができる。その場合、上記の比較器と同様の機能を有する回路は、-β・ΔEがf-1(r)より大きいとき1を出力する回路でよいことがわかる。さらにβ=1/Tで、温度値Tが正であることから、その回路は、-ΔEがT・f-1(r)より大きいとき1を出力する回路でよい。
選択法則適用部14b2は、入力される乱数値rを上記のf-1(r)の値に変換する変換テーブルを用いて、f-1(r)の値を出力する。メトロポリス法が適用される場合、f-1(r)は、log(r)である。変換テーブルは、たとえば、RAM(Random Access Memory)、フラッシュメモリなどのメモリに記憶されている。
乗算回路14b3は、制御部17から供給される温度値Tと、f-1(r)との積(T・f-1(r))を閾値として出力する。T・f-1(r)は、熱励起エネルギーに相当する。
符号反転回路14b4は、評価値である{ΔE}または{E}-ΔEminの符号を反転し、-{ΔE}または-{ΔE}+ΔEminを出力する。
比較回路14b5は、-{ΔE}または-{ΔE}+ΔEminと、T・f-1(r)とを比較する。そして、比較回路14b5は、-{ΔE}または-{ΔE}+ΔEminがT・f-1(r)より大きい場合、フラグ値{F}として1を出力し、-{ΔE}または-{ΔE}+ΔEminがT・f-1(r)以下の場合、フラグ値{F}として0を出力する。
(フラグ計数部15の例)
図1に示したフラグ計数部15の例として、以下に、2種のフラグ計数部15a,15bを示す。
図6は、フラグ計数部の一例を示す図である。
フラグ計数部15aは、ツリー状に複数段、配置された複数の加算回路(加算回路15a1,15a2,15a3,15a4,15a5など)を有する。
初段の各加算回路は、2つのフラグ値を加算した加算結果を出力する。たとえば、加算回路15a1は、フラグ値F,Fを加算した加算結果を出力し、加算回路15a2は、フラグ値F,Fを加算した加算結果を出力する。2段目以降の加算回路は、前段の2つの加算回路の出力値を加算した加算結果を出力する。たとえば、2段目の加算回路15a4は、初段の加算回路15a1,15a2の出力値を加算した加算結果を出力する。そして、最後段の加算回路15a5が出力する加算結果が、計数値Nとなる。
初段の各加算回路は、2つの1ビットのフラグ値を加算して、2ビットの加算結果を出力し、2段目の各加算回路は、2つの加算回路のそれぞれの2ビットの出力値を加算して、3ビットの加算結果を出力する。N=1024の場合、最後段(10段目)の加算回路15a5は、前段の2つの加算回路のそれぞれの10ビットの出力値を加算して、11ビットの計数値Nを出力する。
図7は、フラグ計数部の他の例を示す図である。
フラグ計数部15bは、マイクロコントローラ15b1とプログラムメモリ15b2とを有する。
マイクロコントローラ15b1は、プログラムメモリ15b2に記憶されたプログラムを読み出して実行することで、フラグ値F~Fのうち値が1である数を計数し、その計数結果である計数値Nを出力する。
サンプリング装置10によるサンプリングは、通常1000クロックサイクル以上の間隔(サンプリング間隔)で行われるため、比較的処理速度が遅いマイクロコントローラ15b1及び、比較的小規模のプログラムメモリ15b2を用いることができる。
(選択部16の例)
図8は、選択部の一例を示す図である。
選択部16は、乱数発生回路16a、加算回路16b、選択回路部16cを有する。
乱数発生回路16aは、たとえば、0<r<1の一様乱数である乱数値rを、インデックス値=i(1~N)のそれぞれについて異なるシードを用いて発生する。乱数発生回路16aは、たとえば、メルセンヌツイスタ、LFSRなどを用いて実現できる。
加算回路16bは、フラグ値F~Fのそれぞれに対して、複数の乱数値r(i=1~N)の何れかを加算した加算結果を、フラグ値F~Fに対応するインデックス値とともに出力する。
選択回路部16cは、ツリー状に複数段、配置された複数の選択回路(選択回路16c1,16c2,16c3,16c4,16c5など)を有する。
初段の各選択回路は、2つのフラグ値についての加算結果のうち、大きい方の加算結果とそれに対応したインデックス値を選択して出力する。たとえば、選択回路16c1は、F+rがF+rより大きい場合、F+rと、インデックス値=1を出力し、F+rがF+rより小さい場合、F+rと、インデックス値=2を出力する。
2段目以降の選択回路は、前段の2つの選択回路が選択した加算結果のうち、大きい方の加算結果とそれに対応したインデックス値を選択して出力する。たとえば、2段目の選択回路16c4は、初段の選択回路16c1,16c2が選択した加算結果のうち、大きい方の加算結果とそれに対応したインデックス値を選択して出力する。最後段の選択回路16c5は、前段の2つの選択回路が選択した加算結果のうち、大きい方の加算結果に対応したインデックス値=jを更新インデックス値として出力する。
このように、選択部16は、加算結果の大小関係に基づいて、フラグ値F~Fの何れかを選択することで、フラグ値F~Fのうち、値が1のものを、ランダムに等確率で選択することができる。
(動作例)
以下、サンプリング装置10の動作例を説明する。
なお、以下の例ではサンプリング動作は、温度値Tが一定の値で行われるものとする。
図9は、サンプリングタイミングの例を示す図である。
図9において、期間Tuは、1回の試行(状態更新処理)にかかる期間を示す。サンプリング装置10は、所定の試行回数(バーンイン期間)の試行が行われたのちに、サンプリングを開始する。バーンイン期間は、状態が平衡状態に達するまでの期間であり、バーンイン期間に対応する試行回数が予め設定される。
サンプリング期間では、サンプリング装置10は、所定の試行回数(サンプリング間隔Ts)毎に、サンプリング(たとえば、状態x、オフセット値Eoff、計数値Nなどの出力)を行う。サンプリング間隔Tsに対応する試行回数は予め設定される。
図10は、サンプリング動作の一例の流れを示すフローチャートである。
まず、初期化やパラメータ設定が行われる(ステップS1)。ステップS1の処理において、制御部17は、たとえば、重み値、バイアス係数、状態変数x(i=1~N)の初期値に基づいて、ローカルフィールドh(i=1~N)の初期値の計算を行う。重み値、バイアス係数、状態変数x(i=1~N)の初期値は、計算対象の組合せ最適化問題を変換したイジングモデルの情報として、たとえば、図示しない記憶部に予め記憶されている。状態変数xの初期値やローカルフィールドhの初期値は、状態保持部11に保持される。
また、バーンイン期間に対応する試行回数N、サンプリング間隔Tsに対応する試行回数NSI、全サンプルが得られる試行回数NSNについても、たとえば、図示しない記憶部に予め記憶されている。そして、ステップS1の処理において、制御部17にそれらのパラメータが設定される。
その後、エネルギー変化計算部12は、状態変数xの値とローカルフィールドhを、状態保持部11から読み出す(ステップS2)。
そして、エネルギー変化計算部12は、前述のように、エネルギー変化ΔE(i=1~N)を計算する(ステップS3)。
オフセット制御部13は、エネルギー変化計算部12から供給されるエネルギー変化ΔEに対して、前述のようなオフセット値Eoffを付加する(ステップS4)。
そして、前述の比較部14と選択部16の処理により、状態遷移を許容する状態変数を識別する更新インデックス値が出力される(ステップS5)。
エネルギー変化計算部12は、更新インデックス値により識別される状態変数xの値を更新する。また、エネルギー変化計算部12は、その更新に基づいて、ローカルフィールドhを、前述の処理により更新する(ステップS6)。
更新後の状態変数xとローカルフィールドhの各値は、状態保持部11に書き込まれる(ステップS7)。
制御部17は、ステップS2~S7の処理(試行)の回数が試行回数Nに達したか否かを判定する(ステップS8)。ステップS2~S7の処理の回数が試行回数Nに達していない場合、ステップS2からの処理が繰り返される。
ステップS2~S7の処理の回数が試行回数Nに達した場合、制御部17は、ステップS2~S7の処理の回数が試行回数NSIに達したか否かを判定する(ステップS9)。ステップS2~S7の処理の回数が試行回数NSIに達していない場合、ステップS2からの処理が繰り返される。
ステップS2~S7の処理の回数が試行回数NSIに達した場合、制御部17は、フラグ計数部15に、計数値Nを計数させる(ステップS10)。そして、制御部17は、フラグ計数部15に計数値N、状態保持部11に状態x、オフセット制御部13にオフセット値Eoffをそれぞれ出力させる(ステップS11)。出力されたオフセット値Eoffと、計数値Nに基づいて、試行回数計算部18は、式(8)に示される期待値<Ntrial>を計算する。
制御部17は、ステップS2~S7の処理の回数が試行回数NSNに達したか否かを判定する(ステップS12)。ステップS2~S7の処理の回数が試行回数NSNに達していない場合、ステップS2からの処理が繰り返される。ステップS2~S7の処理の回数が試行回数NSNに達した場合、制御部17は、サンプリング動作を終了させる。
ところで、サンプリング装置10は、最適化装置としても使用できる。最適化装置として使用する場合の動作例を以下に示す。
図11は、最適化処理動作の一例の流れを示すフローチャートである。
まず、初期化やパラメータ設定が行われる(ステップS20)。ステップS20の処理において、制御部17は、サンプリング動作時と同様に、ローカルフィールドh(i=1~N)の初期値の計算などを行う。
また、ステップS20の処理において、たとえば、図示しない記憶部に予め記憶された温度変更スケジュールにしたがって、制御部17は、温度値Tの初期値を比較部14に設定する。また、たとえば、図示しない記憶部には予め、温度値Tの更新を行う試行回数N1、上限の試行回数N2が記憶されており、ステップS20の処理において、制御部17にそれらのパラメータが設定される。
その後のステップS21~S26の処理は、図10に示したサンプリング動作時におけるステップS2~S7の処理とほぼ同様である。ただし、たとえば、制御部17は、式(1)で表せるエネルギーEの初期値を計算するとともに、更新インデックス値に対応するエネルギー変化(たとえば、更新インデックス値=jの場合、エネルギー変化ΔE)を用いて、エネルギーEを更新する。そして、制御部17は、これまでの最低エネルギーとそのときの状態を図示しない記憶部に保持させる。
ステップS26の後、制御部17は、ステップS21~S26の処理(試行)の回数が試行回数N1に達したか否かを判定する(ステップS27)。ステップS21~S26の処理の回数が試行回数N1に達していない場合、ステップS21からの処理が繰り返される。
ステップS21~S26の処理の回数が試行回数N1に達した場合、制御部17は、シミュレーテッド・アニーリングを実現するために、温度値Tを、温度変更スケジュールにしたがって小さくするように更新する(ステップS28)。
その後、制御部17は、ステップS21~S26の処理の回数が試行回数N2に達したか否かを判定する(ステップS29)。ステップS21~S26の処理の回数が試行回数N2に達していない場合、ステップS21からの処理が繰り返される。ステップS21~S26の処理の回数が試行回数N2に達した場合、制御部17は、その時点で記憶部に保持させている最低エネルギーのときの状態を、組合せ最適化問題の解として出力し(ステップS30)、最適化処理動作を終了させる。
サンプリング装置10を最適化装置として用いた場合、前述のようなオフセット値Eoffを用いることで各試行において状態遷移が生じ、探索が高速化する。
(第2の実施の形態)
以下、第2の実施の形態のサンプリング装置を説明する。
前述のように値が1であるフラグ値の数を数えることは、許容確率A(ΔE)(i=1~N)を積算したものを、仮数部1ビット、指数部をexp(-β・Eoff)で表すことに相当する。以下に示す第2の実施の形態のサンプリング装置では、2種類のフラグ値から計数値Nを求めることで、より精度のよい期待値<Ntrial>を計算するものである。
図12は、第2の実施の形態のサンプリング装置の一例を示す図である。図12において、図1に示した要素と同じ要素については同じ符号が付されている。なお、図12では、図1に示した制御部17については図示が省略されている。また、以下では、図1においてオフセット制御部13が出力するオフセット値Eoffをオフセット値Eoff1といい、図1においてフラグ計数部15が出力する計数値Nを計数値Nf1という。
第2の実施の形態のサンプリング装置30は、ΔE置き換え部31、オフセット制御部32、比較部33、フラグ計数部34、選択部35、計数値補正部36、試行回数計算部37を有する。
ΔE置き換え部31は、フラグ値F~Fに基づき、エネルギー変化ΔE~ΔEのうち、許容されない状態遷移であるとされている複数の状態遷移に対する複数の非許容エネルギー変化値(以下エネルギー変化ΔEna1~ΔEnaMという)を出力する。ΔE置き換え部31は、たとえば、エネルギー変化ΔE~ΔEと、フラグ値F~Fを入力し、値が0のフラグ値のインデックス値に対応するインデックス値をもつエネルギー変化をエネルギー変化ΔE~ΔEから選択する回路によって実現できる。
オフセット制御部32は、エネルギー変化ΔEna1~ΔEnaMに基づき、フラグ値F~Fでは許容されない状態遷移とされている複数の状態遷移のうちの少なくとも1つが許容されるようにオフセット値Eoff1とは別のオフセット値Eoff2を決定する。そして、オフセット制御部32は、エネルギー変化ΔEna1~ΔEnaMのそれぞれにオフセット値Eoff2を付加した、オフセット制御部13が出力する複数の評価値とは別の複数の評価値を出力する。また、オフセット制御部32は、所定試行回数毎にオフセット値Eoff2を出力する。オフセット制御部32は、オフセット制御部13と同様の回路にて実現できる。
比較部33は、温度値Tと乱数値とに基づいて決まる閾値と、比較部33が出力する複数の評価値のそれぞれとを比較した結果に基づき複数の状態遷移のそれぞれについて状態遷移を許容するか否かを示す、フラグ値F~Fとは別の複数のフラグ値を出力する。以下、比較部33が出力する複数のフラグ値をフラグ値Fna1~FnaMという。比較部33は、比較部14と同様の回路にて実現できる。
フラグ計数部34は、比較部33が出力するフラグ値Fna1~FnaMのうち、状態遷移を許容することを示すフラグ値(値が1)の数を計数した、計数値Nf1とは別の計数値Nf2を、所定試行回数毎に出力する。フラグ計数部34は、フラグ計数部15と同様の回路にて実現できる。
選択部35は、計数値Nf1,Nf2、オフセット値Eoff1,Eoff2に基づき、Nf1:Nf2exp[-β(Eoff1-Eoff2)]の比率で、フラグ値F~Fのうち値が1のグループと、フラグ値Fna1~FnaMのうち値が1のグループの何れか一方を選択する。そして、選択部35は、選択したグループから等確率に1つのフラグ値を選択し、選択したフラグ値に対応したインデックス値を更新インデックス値として出力する。選択部35は、たとえば、論理回路、ASICやFPGAなどの特定用途の電子回路、CPUやDSPなどのプロセッサ、マイクロコントローラなどで実現できる。
計数値補正部36は、計数値Nf2とオフセット値Eoff1,Eoff2に基づいて、計数値Nf1を補正し、計数値Nとして出力する。計数値補正部36は、たとえば、N=Nf1+Nf2exp[β(Eoff1-Eoff2)]を計算して出力する。計数値補正部36は、たとえば、ASICやFPGAなどの特定用途の電子回路、CPUやDSPなどのプロセッサにて実現できる。
試行回数計算部37は、オフセット値Eoff1,Eoff2と、計数値Nに基づいて、たとえば、前述の式(8)を用いて期待値<Ntrial>を計算する。ただし、式(8)のEoffとして、(Eoff1-Eoff2)が用いられる。試行回数計算部37は、たとえば、ASICやFPGAなどの特定用途の電子回路、CPUやDSPなどのプロセッサにて実現できる。
その他の構成及び動作については、第1の実施の形態のサンプリング装置10と同じである。
上記のような第2の実施の形態のサンプリング装置30によれば、たとえば、フラグ値F~Fのうち、1つだけが1であるような(1つの状態遷移だけが許容されるような)極端な場合でも、他の状態遷移についてもある割合で許容されるようになる。これにより、サンプリング装置30を用いた場合の各状態遷移(状態変数)間の遷移確率の比を、通常のMCMC法で得られるような各状態遷移間の遷移確率の比に近づけることができる。そして、上記のように補正された計数値Nを用いて計算される期待値<Ntrial>は、通常のMCMC法で得られる1つの状態に滞在する試行数により近いものになり、通常のMCMC法により近い確率過程が得られる。
なお、上記の第2の実施の形態のサンプリング装置30の動作は、1つのオフセット制御部13、1つの比較部14、1つのフラグ計数部15を用いても実行できる。その場合、以下のような動作によって、2種類のフラグ値(フラグ値F~Fとフラグ値Fna1~FnaM)についての計数値Nf1,Nf2が得られる。
図13は、2種類のフラグ値についての計数値Nf1,Nf2を発生させる動作の一例の流れを示すフローチャートである。
以下に示す処理は、たとえば、図1に示した制御部17(図12では図示が省略されている)によって制御される。
まず、制御部17は、nMAX=2、n=1とする(ステップS40)。そして、制御部17は、オフセット制御部13に、オフセット値Eoffn(n=1の場合はオフセット値Eoff1)を発生させる(ステップS41)。オフセット制御部13は、エネルギー変化ΔE(i=1~N)のそれぞれからオフセット値Eoffnを差し引いた評価値を計算する(ステップS42)。図4のようなオフセット制御部13が用いられる場合、ΔEの最小値ΔEminが0より小さい場合、オフセット値Eoffnは0であり、最小値ΔEminが0以上の場合、オフセット値Eoffnは最小値ΔEminである。
比較部14は、温度値Tと乱数値とに基づいて決まる閾値と、複数の評価値のそれぞれとを比較した結果に基づき、フラグ値(n=1の場合、フラグ値F~F)を発生する(ステップS43)。
そして、フラグ計数部15は、フラグ値が1である数を計数し(ステップS44)、計数値Nfn(n=1の場合は計数値Nf1)を出力する(ステップS45)。
制御部17は、n≧nMAXであるか否かを判定し(ステップS46)、n≧nMAXの場合、計数値Nf1,Nf2を発生させる処理を終了する。n<nMAXの場合、制御部17は、n=n+1とする(ステップS47)。また、制御部17は、前述のΔE置き換え部31の機能により、エネルギー変化ΔEを、エネルギー変化ΔEna1~ΔEnaMに置き換え(ステップS48)、ステップS41からの処理を繰り返す。
なお、上記ステップS44,S45の処理以外は、各試行において行われる。
(第3の実施の形態)
図14は、第3の実施の形態のサンプリング装置の一例を示す図である。図14において、図1に示した要素と同じ要素については図示が省略されている。
第3の実施の形態のサンプリング装置40では、図1に示した選択部16の代りに、選択部41が設けられている。
選択部41は、エネルギー変化ΔE~ΔEのうち、0より小さいものを0に更新させた複数の更新エネルギー変化値を生成する。そして、選択部41は、複数の更新エネルギー変化値のそれぞれに、複数の閾値の何れかを加算した複数の評価値のうちで、最小となる評価値に対応するインデックス値を更新インデックス値として出力する。複数の閾値は、温度値Tと互いに独立な複数の乱数値とに基づいてそれぞれ算出される。
選択部41は、更新エネルギー変化値算出回路41a、閾値生成部41b、加算回路41c1,41c2,…,41cN、最小値選択回路41dを有する。
更新エネルギー変化値算出回路41aは、エネルギー変化ΔE~ΔEのうち、0以上のものをそのまま出力し、0より小さいものを0に更新することで、N個の更新エネルギー変化値を生成する。更新エネルギー変化値算出回路41aの処理は、max[0,ΔE]を計算することに相当する。
閾値生成部41bは、N個の閾値を生成する。閾値生成部41bの例については後述する。
加算回路41c1~41cNは、更新エネルギー変化値算出回路41aが出力したN個の更新エネルギー変化値のそれぞれに、複数の閾値の何れかを加算したN個の評価値を出力する。
最小値選択回路41dは、加算回路41c1~41cNが出力するN個の評価値のうちで、最小となる評価値に対応するインデックス値を更新インデックス値として出力する。なお、インデックス値は、たとえば、エネルギー変化計算部12から供給される。最小値選択回路41dは、たとえば、ツリー状に複数段、配置された複数の選択回路を有し、各選択回路は2つの評価値のうち、小さい方を選択して出力する。最後段の選択回路から出力される評価値に対応したインデックス値が更新インデックス値となる。
図15は、閾値生成部の一例を示す図である。
閾値生成部41bは、メルセンヌツイスタ50a1,50a2,…,50an、変換部50b1,50b2,…,50bn、レジスタ50c11~50cnm、乗算部50dを有する。
メルセンヌツイスタ50a1~50anは、それぞれ0<r<1の一様乱数である乱数値rを、インデックス値=i(1~N)のそれぞれについて異なるシードを用いて発生する。乱数値rは、たとえば、16ビットの値で表される。なお、乱数値rは、1クロックサイクル毎に更新される。
変換部50b1~50bnは、変換テーブルを用いて、乱数値rをlog(-logr)に変換する。log(-logr)は、たとえば、27ビットの値で表される。変換テーブルは、たとえば、RAM、フラッシュメモリなどのメモリに記憶されている。
レジスタ50c11~50cnmは、図示しないクロック信号に同期して、変換部50b1~50bnが出力した値を遅延して出力する。たとえば、直列に接続されたレジスタ50c11,50c12,…,50c1mにより、変換部50b1が出力した値から、m個の異なる乱数値が生成される。また、直列に接続されたレジスタ50c21,50c22,…,50c2mにより、変換部50b2が出力した値から、m個の異なる乱数値が生成される。また、直列に接続されたレジスタ50cn1,50cn2,…,50cnmにより、変換部50bnが出力した値から、m個の異なる乱数値が生成される。
乗算部50dは、変換部50b1~50bnが出力した値と、レジスタ50c11~50cnmのそれぞれが出力した値に、温度値Tを乗じた値を閾値として出力する。乗算部50dは、N個の乗算回路を有する。
たとえば、N=1024の場合、メルセンヌツイスタ50a1~50anと変換部50b1~50bnは、それぞれ32個(n=32)、レジスタ50c11~50cnmの数(n×m)は、32×31である。これにより、1024個の閾値が生成される。
選択部16の代りに上記の選択部41を用いることで、試行毎に適切な許容確率で状態遷移が発生する。その理由を以下に説明する。
前述した0<r<1の一様乱数である乱数値rの累積分布関数F(r)=Prob(r≦r)の値は、r≦0の場合に0、0<r<1の場合にr、r≧1の場合に1となる。ここで、乱数値rから発生させる正の乱数値yを、y=-log(r)/A(A>0)とする。乱数値yがy(>0)より大きくなる確率Prob(y≧y)は、Prob(y≧y)=Prob(r≦exp(-Ay))=F(exp(-Ay))=exp(-Ay)と表せる。したがって乱数値rの確率密度関数p(y)は、以下の式(9)のように表せる。
Figure 0007273288000009
あるインデックス値=iに対する乱数値yが他の全ての乱数値y(j≠i)より小さい確率は、以下の式(10)のように表せる。
Figure 0007273288000010
式(10)の右辺は、式(5)の右辺と同じ形である。
ここで、Aをエネルギー変化ΔEに対する許容確率とし、A=min[1,exp(-βΔE)]とすれば、式(10)が1となるときのAが求めたい許容確率となる。なお、log(A)/β=-max[0,ΔE]となる。
あるインデックス値=iに対する乱数値yが他の全ての乱数値y(j≠i)より小さいことはlog(y)/βがlog(y)/β(j≠i)より小さいことと同じである。ここで、log(y)/β=log(-log(r))/β+max[0,ΔE]、β=1/Tであるから、max[0,ΔE]にT・log(-log(r))を加算した値の中で最小のものを選べば、試行毎に適切な許容確率で状態遷移が発生する。
その他の構成及び動作については、第1の実施の形態のサンプリング装置10と同じである。
図16は、温度とエネルギーとの関係についてのシミュレーション結果の例を示す図である。
また、図17は、試行回数と最低エネルギー状態が得られる確率との関係についてのシミュレーション結果の例を示す図である。図16、図17で扱われている問題は、16都市の巡回セールスマン問題である。
図16では、横軸は温度値T、縦軸は式(1)に示したエネルギーEを表している。特性60aは、通常のMCMC法を用いた場合の温度とエネルギーとの関係を示し、特性60bは、第3の実施の形態のサンプリング装置40を用いた場合の温度とエネルギーとの関係を示している。また、特性60cは、デジタル回路を用いた従来の最適化装置を用いた場合の温度とエネルギーとの関係を示している。
図16に示すように、第3の実施の形態のサンプリング装置40は、通常のMCMC法を用いた場合とほぼ同様の特性が得られている。
図17では、横軸は試行回数、縦軸は最低エネルギー状態が得られる確率を表している。特性61aは、通常のMCMC法を用いた場合の試行回数と上記確率との関係を示し、特性61bは、第3の実施の形態のサンプリング装置40を用いた場合の試行回数と上記確率との関係を示している。また、特性61cは、デジタル回路を用いた従来の最適化装置を用いた場合の試行回数と上記確率との関係を示している。
図17に示すように、第3の実施の形態のサンプリング装置40は、従来の最適化装置や通常のMCMC法を用いた場合よりも、高速に(早い試行回数で)最低エネルギー状態が得られることがわかる。
以上のように、第3の実施の形態のサンプリング装置40は、理想的に1回の試行で状態遷移が行われ、理論的にも通常のMCMC法と同等のサンプル分布が得られるため、高速で高精度のサンプリングが可能となる。
(変形例)
以下に示すサンプリング装置は、レプリカ交換法を利用したものである。
レプリカ交換法は複数の温度を用いたMCMC法を同時に行い、ある試行回数毎に、それぞれ状態のエネルギーを比較し、適切な確率で2つの温度に対する状態(または温度)を交換するという操作を行う方法である。以下の例では、温度を交換するものとして説明するが、状態を交換しても同じことである。
図18は、レプリカ交換法を利用したサンプリング装置の例を示す図である。
図18に示すサンプリング装置70は、サンプリング処理部71とレプリカ交換コントローラ72とを有する。
サンプリング処理部71は、図1に示したサンプリング装置10の各部を有しており、パイプライン処理によって、異なる温度値T(図18の例では逆温度β,β,…,β)が設定されたレプリカ71a1,71a2,…,71aMのそれぞれについて、前述の試行を行う。
状態xやエネルギーEは、レプリカ71a1~71aMのそれぞれについて保持され、試行が行われるたびに更新される。
レプリカ交換コントローラ72は、所定試行回数毎にレプリカ71a1~71aMのエネルギーEを比較して、その比較結果に基づいてレプリカ71a1~71aMのうちの2つにおいて設定されている逆温度(または温度)を、所定の交換確率pijで交換する。交換確率pijは、pij=f((β-β)(E-E))と表せる。βはi番目のレプリカに設定された逆温度、βはj番目のレプリカに設定された逆温度、Eはi番目のレプリカにおけるエネルギー、Eはj番目のレプリカにおけるエネルギーである。また、関数fは式(3)のβの代りにβ-βが用いられ、式(3)のΔEの代りにE-Eが用いられる。
レプリカ交換コントローラ72は、たとえば、ASICやFPGAなどの特定用途の電子回路、または、CPUやDSPなどのプロセッサなどである。
なお、上記のレプリカ交換コントローラ72の処理を、図1に示した制御部17が行ってもよい。
サンプリング動作は、所定の試行回数毎に行われ、たとえば、温度値Tが最低のレプリカについての状態xと計数値Nとオフセット値Eoffが出力される。
図19は、レプリカ交換法を利用したサンプリング装置の動作例を示すフローチャートである。なお、図10に示した第1の実施の形態のサンプリング装置10の動作と同じ処理については、図示及び説明を省略する。
レプリカ交換法を利用する場合、初期化(ステップS50)の際に、レプリカ交換コントローラ72に、最高逆温度βmax、最低逆温度βmin、交換間隔を示す試行回数Ni_tot、総サンプリング回数Ns_totが設定される。レプリカ交換コントローラ72は、これらのパラメータを、たとえば、図示しない記憶部から読み出してもよい。また、初期化の際に、レプリカ交換コントローラ72は、最高逆温度βmax、最低逆温度βminに基づいて、レプリカ71a1~71aMに逆温度β~βの初期値を設定する。
次に、たとえば、レプリカ交換コントローラ72は、図示しないカウンタにサンプリング回数Nとして0を設定し(ステップS51)、別の図示しないカウンタに試行回数N=0を設定する(ステップS52)。その後、試行が行われ各レプリカの状態xとエネルギーEが更新される(ステップS53)。レプリカ交換コントローラ72は、試行回数Nを1増加させ(ステップS54)、N≧Ni_totであるか否かを判定する(ステップS55)。N≧Ni_totではない場合には、ステップS53からの処理が繰り返される。
≧Ni_totである場合、レプリカ交換コントローラ72は、前述の交換確率を用いてレプリカ間の温度(逆温度β)を交換するとともに、サンプリング回数Nを1増加させる(ステップS56)。そして、レプリカ交換コントローラ72は、温度値Tが最低(逆温度βが最高)のレプリカについての計数値Nと状態xとオフセット値Eoffを出力させる(ステップS57)。また、出力された計数値Nとオフセット値Eoffとに基づいて、図1に示した試行回数計算部18は、期待値<Ntrial>を計算する。
その後、レプリカ交換コントローラ72は、N≧Ns_totであるか否かを判定する(ステップS58)。N≧Ns_totではない場合には、ステップS52からの処理が繰り返される。
≧Ns_totである場合、レプリカ交換コントローラ72は、サンプリング動作を終了させる。
このようなレプリカ交換法を利用したサンプリング装置70は、局所解からの脱出が早く、温度値Tの最適化が容易であるという利点がある。
次に、サンプリング装置の他の変形例を示す。
図20は、サンプリング装置の他の変形例を示す図である。
図20に示すサンプリング装置80は、サンプリング処理部81と期待値計算部82を有する。
サンプリング処理部81は、図1に示したサンプリング装置10の各部を有しており、所定の試行回数毎に期待値<Ntrial>と状態xを出力する。
期待値計算部82は、期待値<Ntrial>と状態xに基づいて、サンプル平均により求めたい量f=f(x(i))の期待値を計算し、出力する。関数f(x(i))は、たとえば、x、x×xなどである。期待値は、以下の式(11)で表せる。
Figure 0007273288000011
式(11)において、nはサンプリング回数を示し、Mは総サンプリング回数を示す。また、τは、n回目のサンプリングにおける期待値<Ntrial>を示す。
なお、上記の期待値計算部82の処理を、図1に示した制御部17が行ってもよい。
図21は、期待値計算処理を行うサンプリング装置の動作例を示すフローチャートである。なお、図10に示した第1の実施の形態のサンプリング装置10の動作と同じ処理については、図示及び説明を省略する。
期待値計算処理が行われる場合、初期化(ステップS60)の際に、期待値計算部82は、式(11)のfτの積算値を示す変数Sと、τの積算値を示す変数TAを0にする。また、期待値計算部82に総サンプリング回数Mが設定される。さらに、サンプリング回数nを計数する図示しないカウンタの値が0にリセットされる。
その後、サンプリングタイミングにおいて、期待値計算部82は、サンプリング処理部81が出力した状態xと期待値<Ntrial>とを読み込み(ステップS61)、f=f(x(i))を計算する(ステップS62)。その後、期待値計算部82は、現在の変数Sにfτを加算することで変数Sを更新し(ステップS63)、現在の変数TAにτを加算することで変数TAを更新する(ステップS64)。そして、期待値計算部82は、図示しないカウンタにサンプリング回数nを1増加させ(ステップS65)、n>Mであるか否かを判定する(ステップS66)。n>Mではない場合、期待値計算部82は、ステップS61からの処理を繰り返す。
n>Mの場合、期待値計算部82は、S/TAを計算し、式(11)で示される期待値として出力し(ステップS67)、期待値計算処理を終える。
上記のような期待値計算処理を行う期待値計算部82は、たとえば、積和演算回路や記憶部(レジスタなど)などを用いて実現できる。また、期待値計算部82は、たとえば、ASICやFPGAなどの特定用途の電子回路、CPUやDSPなどのプロセッサなどであってもよい。
期待値計算処理は比較的演算量が大きいため、期待値計算処理をサンプリング装置80の外部で行う場合、サンプリング装置80と外部装置間での状態変数xなどの入出力によるボトルネックが生じる可能性がある。しかし、上記のようにサンプリング装置80内で期待値計算処理を行うことで、このボトルネックを解消できる利点がある。
なお、上記各変形例は、第1乃至第3の実施の形態のサンプリング装置10,30,40のそれぞれと組合せることができる。
以上、実施の形態に基づき、本発明のサンプリング装置及びサンプリング装置の制御方法の一観点について説明してきたが、これらは一例にすぎず、上記の記載に限定されるものではない。
10 サンプリング装置
11 状態保持部
12 エネルギー変化計算部
13 オフセット制御部
14 比較部
15 フラグ計数部
16 選択部
17 制御部
18 試行回数計算部

Claims (7)

  1. エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持するとともに、所定試行回数毎に前記複数の状態変数の値を出力する状態保持部と、
    前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、更新インデックス値に基づいて選択された重み値に基づき、エネルギーの変化値を各状態遷移に対して計算するエネルギー変化計算部と、
    複数の前記エネルギーの変化値に基づいて前記各状態遷移のうちの少なくとも1つが許容されるようにオフセット値を決定し、複数の前記エネルギーの変化値のそれぞれに前記オフセット値を付加した複数の評価値を出力するとともに、前記所定試行回数毎に前記オフセット値を出力するオフセット制御部と、
    温度を示す温度値と乱数値とに基づいて決まる閾値と、前記複数の評価値のそれぞれとを比較した結果に基づき、前記各状態遷移について状態遷移を許容するか否かを示す複数のフラグ値を出力する比較部と、
    前記複数のフラグ値のうち、状態遷移を許容することを示すフラグ値の数を計数した計数値を、前記所定試行回数毎に出力するフラグ計数部と、
    前記複数のフラグ値、または複数の前記エネルギーの変化値に基づいて、前記各状態遷移のうちの1つに対応するインデックス値を前記更新インデックス値として出力する選択部と、
    前記オフセット制御部が出力した前記オフセット値と、前記フラグ計数部が出力した前記計数値に基づき、マルコフ連鎖モンテカルロ法にしたがった状態遷移における1つの状態に滞在する試行回数の期待値を計算する試行回数計算部と、
    を有するサンプリング装置。
  2. 前記オフセット制御部は、複数の前記エネルギーの変化値のうちの最小値が0以上である場合、前記最小値を前記オフセット値として決定し、複数の前記エネルギーの変化値のそれぞれから前記最小値を差し引くことで、前記複数の評価値を算出する、請求項1に記載のサンプリング装置。
  3. 前記選択部は、前記複数のフラグ値のそれぞれに、それぞれ独立な複数の乱数値の何れかを加算した加算結果の大小関係に基づき、前記複数のフラグ値の何れかを選択する、請求項1または2に記載のサンプリング装置。
  4. 前記複数のフラグ値に基づき、複数の前記エネルギーの変化値のうち、許容されない状態遷移であるとされている複数の状態遷移に対する複数の非許容エネルギー変化値を出力するエネルギー変化置き換え部と、
    前記複数の非許容エネルギー変化値に基づき前記複数の状態遷移のうちの少なくとも1つが許容されるように前記オフセット値とは別のオフセット値を決定し、前記複数の非許容エネルギー変化値のそれぞれに前記別のオフセット値を付加した、前記複数の評価値とは別の複数の評価値を出力するとともに、前記所定試行回数毎に前記別のオフセット値を出力する他のオフセット制御部と、
    前記閾値と、前記別の複数の評価値のそれぞれとを比較した結果に基づき、前記複数の状態遷移のそれぞれについて状態遷移を許容するか否かを示す、前記複数のフラグ値とは別の複数のフラグ値を出力する他の比較部と、
    前記別の複数のフラグ値のうち、状態遷移を許容することを示すフラグ値の数を計数した、前記計数値とは別の計数値を、前記所定試行回数毎に出力する他のフラグ計数部と、
    前記別の計数値、前記オフセット値及び前記別のオフセット値に基づいて、前記計数値を補正する計数値補正部と、
    をさらに有する請求項1に記載のサンプリング装置。
  5. 前記試行回数計算部は、補正された前記計数値と、前記オフセット値と、前記別のオフセット値と、に基づいて、前記期待値を計算する請求項に記載のサンプリング装置。
  6. 前記選択部は、複数の前記エネルギーの変化値のうち、0より小さい変化値を0に更新させた複数の更新エネルギー変化値を生成し、前記複数の更新エネルギー変化値のそれぞれに、前記温度値と互いに独立な複数の乱数値とに基づいてそれぞれ算出される複数の第2の閾値の何れかを加算した複数の第2の評価値のうちで、最小となる第2の評価値に対応する前記インデックス値を前記更新インデックス値として出力する、請求項1乃至の何れか一項に記載のサンプリング装置。
  7. サンプリング装置の制御方法において、
    前記サンプリング装置が有する状態保持部が、エネルギーを表す評価関数に含まれる複数の状態変数の値をそれぞれ保持するとともに、所定試行回数毎に前記複数の状態変数の値を出力し、
    前記サンプリング装置が有するエネルギー変化計算部が、前記複数の状態変数の値の何れかが変化することに応じて状態遷移が起こる場合、更新インデックス値に基づいて選択された重み値に基づき、エネルギーの変化値を各状態遷移に対して計算し、
    前記サンプリング装置が有するオフセット制御部が、複数の前記エネルギーの変化値に基づいて前記各状態遷移のうちの少なくとも1つが許容されるようにオフセット値を決定し、複数の前記エネルギーの変化値のそれぞれに前記オフセット値を付加した複数の評価値を出力するとともに、前記所定試行回数毎に前記オフセット値を出力し、
    前記サンプリング装置が有する比較部が、温度を示す温度値と乱数値とに基づいて決まる閾値と、前記複数の評価値のそれぞれとを比較した結果に基づき、前記各状態遷移について状態遷移を許容するか否かを示す複数のフラグ値を出力し、
    前記サンプリング装置が有するフラグ計数部が、前記複数のフラグ値のうち、状態遷移を許容することを示すフラグ値の数を計数した計数値を、前記所定試行回数毎に出力し、
    前記サンプリング装置が有する選択部が、前記複数のフラグ値、または複数の前記エネルギーの変化値に基づいて、前記各状態遷移のうちの1つに対応するインデックス値を前記更新インデックス値として出力する、
    前記サンプリング装置が有する試行回数計算部が、前記オフセット制御部が出力した前記オフセット値と、前記フラグ計数部が出力した前記計数値に基づき、マルコフ連鎖モンテカルロ法にしたがった状態遷移における1つの状態に滞在する試行回数の期待値を計算する、
    サンプリング装置の制御方法。
JP2019031685A 2019-02-25 2019-02-25 サンプリング装置及びサンプリング装置の制御方法 Active JP7273288B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019031685A JP7273288B2 (ja) 2019-02-25 2019-02-25 サンプリング装置及びサンプリング装置の制御方法
EP20157619.6A EP3702975A3 (en) 2019-02-25 2020-02-17 Sampling apparatus and method for controlling sampling apparatus
US16/795,652 US11334646B2 (en) 2019-02-25 2020-02-20 Information processing apparatus and method for controlling sampling apparatus
CN202010107459.7A CN111611126A (zh) 2019-02-25 2020-02-21 采样设备和用于控制采样设备的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019031685A JP7273288B2 (ja) 2019-02-25 2019-02-25 サンプリング装置及びサンプリング装置の制御方法

Publications (2)

Publication Number Publication Date
JP2020135727A JP2020135727A (ja) 2020-08-31
JP7273288B2 true JP7273288B2 (ja) 2023-05-15

Family

ID=69631421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019031685A Active JP7273288B2 (ja) 2019-02-25 2019-02-25 サンプリング装置及びサンプリング装置の制御方法

Country Status (4)

Country Link
US (1) US11334646B2 (ja)
EP (1) EP3702975A3 (ja)
JP (1) JP7273288B2 (ja)
CN (1) CN111611126A (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022158585A (ja) 2021-04-02 2022-10-17 富士通株式会社 最適化プログラム、最適化方法及び最適化装置
JP2022174616A (ja) 2021-05-11 2022-11-24 富士通株式会社 プログラム、情報処理方法および情報処理装置
CN113190176B (zh) * 2021-05-11 2023-01-10 上海华东汽车信息技术有限公司 一种数据存储方法、装置、电子设备及存储介质
JP2024049202A (ja) 2022-09-28 2024-04-09 富士通株式会社 データ処理装置、プログラム及びデータ処理方法
JP2024077351A (ja) * 2022-11-28 2024-06-07 富士通株式会社 データ処理装置、プログラム及びデータ処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018063626A (ja) 2016-10-14 2018-04-19 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2018206127A (ja) 2017-06-06 2018-12-27 株式会社日立製作所 情報処理装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06149866A (ja) * 1992-11-09 1994-05-31 Ricoh Co Ltd 解探索装置
JP6623947B2 (ja) * 2016-06-17 2019-12-25 富士通株式会社 情報処理装置、イジング装置及び情報処理装置の制御方法
JP6892599B2 (ja) * 2017-07-05 2021-06-23 富士通株式会社 最適化装置及び最適化装置の制御方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018063626A (ja) 2016-10-14 2018-04-19 富士通株式会社 最適化装置及び最適化装置の制御方法
JP2018206127A (ja) 2017-06-06 2018-12-27 株式会社日立製作所 情報処理装置

Also Published As

Publication number Publication date
JP2020135727A (ja) 2020-08-31
EP3702975A3 (en) 2020-09-30
US20200272682A1 (en) 2020-08-27
EP3702975A2 (en) 2020-09-02
US11334646B2 (en) 2022-05-17
CN111611126A (zh) 2020-09-01

Similar Documents

Publication Publication Date Title
JP7273288B2 (ja) サンプリング装置及びサンプリング装置の制御方法
JP6465092B2 (ja) 最適化装置及び最適化装置の制御方法
US11551062B2 (en) Optimization apparatus and control method thereof
US10592629B2 (en) Optimization apparatus and method of controlling the same
JP7323777B2 (ja) 最適化装置および最適化方法
CN111008696B (zh) 优化装置和控制优化装置的方法
JP6923790B2 (ja) 最適化装置及び最適化装置の制御方法
JP6465223B1 (ja) 最適化装置及び最適化装置の制御方法
JP2020204929A (ja) サンプリング装置およびサンプリング方法
JP7137064B2 (ja) 最適化装置及び最適化装置の制御方法
EP3896622A1 (en) Sampling device, sampling method, and sampling program
JP7181454B2 (ja) 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム
JP7174244B2 (ja) 最適化装置及び最適化装置の制御方法
EP3852027A1 (en) Optimization device, control method of optimization device, and control program of optimization device
JP2020187453A (ja) 最適化装置および最適化装置の制御方法
JP7256378B2 (ja) 最適化システムおよび最適化システムの制御方法
JP2019133651A (ja) 最適化装置及び最適化装置の制御方法
JP2019194765A (ja) 最適化装置及び最適化装置の制御方法
JP2020038435A (ja) 最適化装置及び最適化装置の制御方法
JP6657562B2 (ja) 評価プログラム、評価装置および評価方法
JP6357959B2 (ja) 評価プログラム、評価装置および評価方法
WO2024116273A1 (ja) 最適化方法及び最適化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20211111

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20211111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230410

R150 Certificate of patent or registration of utility model

Ref document number: 7273288

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150