CN113536229A - 采样装置、采样方法以及用于存储采样程序的存储介质 - Google Patents
采样装置、采样方法以及用于存储采样程序的存储介质 Download PDFInfo
- Publication number
- CN113536229A CN113536229A CN202110171666.3A CN202110171666A CN113536229A CN 113536229 A CN113536229 A CN 113536229A CN 202110171666 A CN202110171666 A CN 202110171666A CN 113536229 A CN113536229 A CN 113536229A
- Authority
- CN
- China
- Prior art keywords
- state
- state variable
- values
- temperature value
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000005070 sampling Methods 0.000 title claims abstract description 63
- 238000012545 processing Methods 0.000 claims abstract description 103
- 230000007704 transition Effects 0.000 claims abstract description 78
- 238000004364 calculation method Methods 0.000 claims abstract description 61
- 238000011156 evaluation Methods 0.000 claims abstract description 10
- 238000012937 correction Methods 0.000 claims description 6
- 230000010365 information processing Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 10
- 238000005457 optimization Methods 0.000 description 6
- 238000000342 Monte Carlo simulation Methods 0.000 description 4
- 101100412093 Schizosaccharomyces pombe (strain 972 / ATCC 24843) rec16 gene Proteins 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000015654 memory Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 101100468275 Caenorhabditis elegans rep-1 gene Proteins 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000696 magnetic material Substances 0.000 description 1
- 238000002922 simulated annealing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005496 tempering Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/17—Function evaluation by approximation methods, e.g. inter- or extrapolation, smoothing, least mean square method
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/57—Arithmetic logic units [ALU], i.e. arrangements or devices for performing two or more of the operations covered by groups G06F7/483 – G06F7/556 or for performing logical operations
- G06F7/575—Basic arithmetic logic units, i.e. devices selectable to perform either addition, subtraction or one of several logical operations, using, at least partially, the same circuitry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/58—Random or pseudo-random number generators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/08—Computing arrangements based on specific mathematical models using chaos models or non-linear system models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/06—Power analysis or power optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/08—Thermal analysis or thermal optimisation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Algebra (AREA)
- Artificial Intelligence (AREA)
- Nonlinear Science (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Feedback Control In General (AREA)
Abstract
本发明涉及采样装置、采样方法以及用于存储采样程序的存储介质。采样方法,包括:执行状态更新处理;执行重复计数计算处理;执行交换控制处理;以及执行输出处理,所述状态更新处理被配置成:保持多个状态变量组的值,多个状态变量组中的每个状态变量组均包括多个状态变量,所述多个状态变量包括在指示伊辛模型的能量的评估函数中,以及通过基于温度值——其中不同的值分别与多个状态变量组相关联——以及由于多个状态变量中的任意一个状态变量的变化引起的能量的变化量在每次尝试中改变多个状态变量中的任意一个状态变量来生成状态转换,输出处理被配置成以预定间隔输出多个状态变量的值和期望值。
Description
技术领域
本文中讨论的实施方式涉及采样装置、采样方法和存储采样程序的非暂态计算机可读存储介质。
背景技术
存在使用伊辛型评估函数(也称为能量函数等)的伊辛装置(也称为玻耳兹曼机),所述伊辛装置为对诺依曼计算机不擅长的大规模离散优化问题进行计算的装置。
在利用伊辛装置进行的计算中,使用伊辛模型代替待计算的问题,所述伊辛模型为表示磁性材料的自旋行为的模型。然后,利用马尔科夫链蒙特卡洛方法搜索使伊辛型评估函数(对应于伊辛模型的能量)的值最小化的状态。在下文中,马尔科夫链蒙特卡洛方法简称为MCMC方法。例如,在MCMC方法中,以通过蒙特卡罗(Metropolis)方法或吉布斯(Gibbs)方法指定的状态转换的接受概率来接受状态转换。
存在作为一种MCMC方法的副本交换方法(也称为平行回火或交换蒙特卡洛方法)。在副本交换方法中,使用多个温度的MCMC处理彼此独立地执行,针对每次给定的尝试对通过MCMC处理获得的能量进行比较,并且以适当的概率交换两个温度下的状态。与温度逐渐降低的模拟退火相比,通过副本交换,抑制了陷于局部解的可能性并且可以有效地搜索整个搜索空间。
与此同时,在MCMC方法中,指示平衡状态中的每个状态的占用概率的概率分布是目标分布(例如,玻耳兹曼分布)。因此,利用在固定温度下的MCMC方法或者其中在多个温度之间进行交换状态的副本交换方法,取决于目标分布的样本可以通过输出在状态转换的重复期间获得的状态或基于所述状态的值作为样本来获得。所生成的样本用于例如对机器学习中的期望值等进行计算。
然而,在MCMC方法中,以上提及的接受概率对于当温度低时的状态转换和当能量的变化量正增长时的状态转换来说非常小,并且相同的状态重复多次,导致采样效率劣化。
在过去,已经提出了一种方法用于:生成对于每次尝试转换至不同的状态的样本串,在应用MCMC方法的情况下对其中样本串保持在各个状态下的尝试次数进行计算,并且根据尝试次数对样本进行加权,从而获得目标分布(例如,参见非专利文献1)。
此外,通常存在一种其中通过使用数字电路实现副本交换方法来以高速对使能量最小化的状态进行搜索的优化装置(例如,参见专利文献1)。
相关技术的实例包括日本公开特许公报第2019-71119号和Jeffrey S.Rosenthal等人的“Jump Markov Chains and Rejection-Free Metropolis Algorithms”,[online(在线)],2019年11月4日,arXiv:1910.13316v2[math.ST(数学.ST)],[搜索于2020年3月16日],因特网<https://arxiv.org/pdf/1910.13316.pdf>.
发明内容
[技术问题]
然而,在副本交换方法应用于如上所述的针对每次尝试改变状态的方法中的情况下,样本的概率分布和目标分布可能彼此偏离。也就是说,例如,结果样本可能不遵循目标分布。
根据实施方式的一方面,提供了抑制样本的概率分布与目标分布之间的偏差的解决方案。
[问题的解决方案]
根据实施方式的一方面,提供了一种由计算机实现的采样方法。在示例中,该采样方法包括:执行状态更新处理,其被配置成:保持多个状态变量组的值,多个状态变量组中的每个状态变量组均包括多个状态变量,所述多个状态变量包括在指示伊辛模型的能量的评估函数中,以及通过基于温度值——其中不同的值分别与多个状态变量组相关联——以及由于多个状态变量中的任意一个状态变量的变化引起的能量的变化量在每次尝试中改变多个状态变量中的任意一个状态变量来生成状态转换;执行重复计数计算处理,其被配置成:基于温度值和变化量对直至在每次尝试中随机允许状态转换的情况下状态转换发生为止的重复次数的期望值进行计算,以及多个状态变量组中的与第一温度值相关联的第一状态变量组中和与第二温度值相关联的第二状态变量组中允许的状态转换的次数进行计数,以及在第二温度值与第一状态变量组相关联并且第一温度值与第二状态变量组相关联的情况下第一状态变量组中和第二状态变量组中允许的状态转换的次数进行计数;执行交换控制处理,其被配置成:基于由重复计数计算单元计数的计数结果来对与第一状态变量组和第二状态变量组相关联的第一温度值和第二温度值交换之前和之后的状态转换的发生概率的比率进行计算,以及根据使用所述比率校正的副本交换的交换概率来交换第一温度值和第二温度值;以及执行输出处理,其被配置成以预定间隔输出多个状态变量的值和期望值。
[发明的有利效果]
根据实施方式的一方面,可以抑制样本的概率分布与目标分布之间的偏差。
附图说明
图1是示出根据第一实施方式的采样装置的示例的图;
图2是示出根据第二实施方式的采样装置的示例的图;
图3是示出副本处理单元的示例的图;
图4是示出重复计数计算单元的示例的图;
图5是示出副本处理单元的操作示例的流程的流程图;
图6是示出副本交换控制器的操作示例的流程的流程图;以及
图7是示出信息处理装置的硬件示例的框图。
具体实施方式
在下文中,将参照附图描述用于执行实施方式的模式。
注意,下面的示例描述了根据玻耳兹曼分布生成样本的采样装置。即,例如,将描述其中玻耳兹曼分布用作目标分布的示例,但是适用的目标分布不限于玻耳兹曼分布。
另外,假设由采样装置输出的样本处于由具有0或1的值的状态变量组表示的状态下,并且处于给定状态下的能量通过由下面的等式(1)表示的伊辛型评估函数限定。
右侧上的第一项指示针对状态变量组中所有状态变量的所有组合在没有遗漏也没有交叠的情况下通过将两个状态变量的值(0或1)与加权系数(指示两个状态变量之间的相关性的强度)的乘积相加而得到的值。Xi是具有标识信息(以下称为索引)i的状态变量,Xj是具有索引=j的状态变量,以及Wij是指示在具有索引i的状态变量与具有索引j的状态变量之间的相关性的大小的加权系数。
右侧上的第二项指示针对每个指数的偏差系数和状态变量的乘积之和。bi指示针对具有索引=i的状态变量的偏差系数。加权系数和偏差系数均根据采样目标给定。
作为目标分布的玻耳兹曼分布可以由下面的等式(2)表示。
在等式(2)中,x指示特定状态(由等式(1)中的状态变量组的值表示),以及β指示逆温度(温度的倒数)。
此外,通过蒙特卡罗方法或吉布斯方法限定的由例如下面的等式(3)表示的接受概率A(ΔE)可以用作特定状态转换的接受概率。
ΔE表示与状态转换相关联的能量的变化量。
注意,在下文中,假设一个状态变量的值在一个状态转换中改变(从0反转为1或从1反转为0),并且标识每个状态转换的索引等于一个状态变量的索引。然而,实施方式不限于其中状态转换的索引与随着状态转换而改变的状态转换的索引相匹配的模式。例如,实施方式不排除处理由多个状态变量同时改变引起的状态转换的模式。
下面的原因被认为是在针对每次尝试改变状态(生成状态转换)的方法中应用副本交换方法的情况下指示每个状态的占用概率的概率分布不收敛于如上所述的目标分布的理由。
在副本交换方法中,使用多个温度的MCMC处理彼此独立地执行,并且基于通过MCMC处理获得的能量和在MCMC处理中使用的温度来以交换概率交换两个温度下的状态达每次规定的尝试次数。在下文中,每个MCMC处理被称为副本。注意,副本之间的状态交换和温度交换的意思是相同的。
交换概率(Aswap1)可以由使用以上等式(2)的下面的等式(4)表示。
在等式(4)中,β和β’表示在两个副本中使用的两个温度的倒数,以及x和x’表示在针对每个副本的给定次数的尝试中获得的两种状态。E(x)和E(x’)表示相应状态x和x’中的能量。使用MIN函数,使得交换概率不超过1。
注意,为了确保交换概率不太小,选择其中设定的温度彼此接近(例如,设定相邻温度)的副本作为用于副本交换的候选的两个副本。
在这种副本交换方法中,交换概率由上述相应状态之间的温度差和能量差确定。
另一方面,在针对每次尝试改变状态的方法中,对在应用MCMC方法的情况下其中每种状态保持在当前状态中的尝试次数(直至发生状态转换为止的重复次数)的期望值进行计算,并且通过期望值对样本进行加权。
上述重复次数的特征在温度之间变化。例如,当状态存在于具有平底的局部解中时,无论温度是高还是低,都以高概率发生没有能量改变的状态转换,并且因此,重复次数小。另一方面,当状态存在于具有非平底的局部解中时,在低温下发生状态转换的概率低,并且因此,重复次数增加,而在高温下比在低温下更可能发生状态转换,并且因此,重复次数减少。
因此,在通过副本交换应用不同温度时的重复次数的变化率例如可以在状态存在于具有平底的局部解中的情况与状态存在于具有非平底的局部解中的情况之间极大地变化。这被认为是概率分布不收敛于目标分布的原因。
鉴于此,提出将由等式(4)表示的交换概率校正成由以下等式(5)表示的交换概率(例如,参见非专利文献1)。
在等式(5)中,α(x;β)是当逆温度为β时离开状态x的逃逸概率(状态x中发生状态转换的概率),并且可以由下面的等式(6)表示。
等式(6)中的分母是N,它是所有状态变量的数目,以及分子是每个状态变量中的变化的接受概率(可以由等式(3)表示)的总和。
等式(5)中的α(x;β’)是当逆温度为β’时离开状态x的逃逸概率,α(x’;β)是当逆温度为β时离开状态x’的逃逸概率,以及α(x’;β’)是当逆温度为β’时离开状态x’的逃逸概率。这些逃逸概率中的每一个逃逸概率可以以与等式(6)中的方式相同的方式表示。
α(x;β’)α(x’;β)/α(x;β)α(x’;β’)表示当在从中获得状态x的副本中设置的β改变成β’以及在从中获得状态x’的副本中设置的β’改变成β时的逃逸概率的比率。
例如,当β<β’以及如上例所示状态x存在于具有非平底的局部解中时,温度越高(逆温度越低),逃逸概率越高。因此,α(x;β’)<α(x;β)成立。另一方面,如上例所示,当状态x’存在于具有平底的局部解中时,即使在温度改变之后逃逸概率也几乎相等。
因此,在这种情况下,α(x;β’)α(x’;β)/α(x;β)α(x’;β’)为1或更小,并且Aswap小于Aswap1,由此抑制了交换的发生。
由于抑制了交换的可能性,在这种情况下,重复次数的变化率在如上所述应用不同的温度时极大地变化,因此可以期望改善收敛于目标分布。
然而,需要大量的计算来对α(x;β’)α(x’;β)/α(x;β)α(x’;β’)进行计算,因为,例如,如由等式(6)所表示的计算在每个状态变量中的改变的接受概率之和。
以下描述的根据第一实施方式的采样装置考虑到这一点,并且使得能够根据目标分布生成样本。
[第一实施方式]
图1是示出根据第一实施方式的采样装置的示例的图。
根据第一实施方式的采样装置10包括副本处理单元11和副本交换控制单元12。
副本处理单元11执行针对每次尝试改变状态的MCMC处理。可以提供多个副本处理单元11,以便分别并行地执行其中设置了不同温度的多个MCMC处理(多个副本)。然而,第一实施方式描述了利用时分处理或流水线处理执行多个副本处理的示例。
副本处理单元11具有状态更新单元11a、重复计数计算单元11b和样本输出单元11c。
状态更新单元11a保持多个状态变量组的值,每个状态变量组包括由等式(1)表示的评估函数中包括的多个状态变量。每个状态变量组的值对应于上述每个副本的状态。
状态更新单元11a基于温度值(温度或逆温度)——其中不同的值分别与多个状态变量组相关联——以及与多个状态变量中的任意一个状态变量的值的改变相关联的能量的变化量在每次尝试中改变多个状态变量中的任意一个状态变量的值。也就是说,例如,状态更新单元11a根据以上提及的针对每次尝试生成状态转换的方法来执行处理。
例如,对于多个状态变量中的每一个状态变量,状态更新单元11a对由于副本rep1中的多个状态变量中的一个状态变量的改变而引起的能量的变化量进行计算。然后,状态更新单元11a对针对每个状态变量的max(0,ΔEi(x))(i=1至N)进行计算。也就是说,例如,当能量的变化量(ΔEi(x))为负时max(0,ΔEi(x))=0,以及当ΔEi(x)为正时max(0,ΔEi(x))=ΔEi(x)。然后,针对每个状态变量,状态更新单元11a将与温度值相对应的独立随机数值与max(0,ΔEi(x))相加。状态更新单元11a在值改变时将更新提供了最小相加结果的状态变量。因此,在每次尝试中都会发生状态转换。
注意,状态更新单元11a基于例如当待更新的状态变量的值改变时的能量的变化量或每个副本的状态来计算用于每个副本的能量。
重复计数计算单元11b基于温度值和能量的变化量对直至在每次尝试中随机允许状态转换时出现状态转换为止的重复次数的期望值进行计算。在副本rep1中,当逆温度为β时,直至从状态x转换为止的重复次数的期望值<m>可以由等式(6)中的α(x;β)的倒数表示。可以如在使用Eoff(x)=min[max(0,ΔEi(x))]作为偏移值的下面的等式(7)中所表示的来近似等式(6)中的α(x;β),以用于将每个状态转换的接受概率的最大值设置成1。
在等式(7)中,Nf(x;β)是当如上所述随机允许状态转换时在特定尝试中的允许的状态转换的次数(允许改变的状态变量的数目)(在图1中,它表示为“允许的转换的次数”)。
重复计数计算单元11b例如如下计算作为等式(7)的倒数的重复次数的期望值<m>。
首先,重复计数计算单元11b从状态更新单元11a获取针对每个状态变量的max(0,ΔEi(x))的集合{max(0,ΔEi(x))}。然后,重复计数计算单元11b计算该集合中的最小值即以上提及的Eoff(x)=min[max(0,ΔEi(x))]。
此外,重复计数计算单元11b确定通过将负随机数值——其可能范围根据温度值而变化——与通过从每个max(0,ΔEi(x))减去Eoff(x)获得的值相加而获得的加法结果是否不大于0。加法结果为0或更小的确定结果指示允许提供加法结果的状态转换,以及加法结果大于0的确定结果指示不允许提供加法结果的状态转换。然后,重复计数计算单元11b通过对允许的状态转换的次数进行计数来获得以上Nf(x;β)。
此外,重复计数计算单元11b类似地对当与另一副本的状态x’相关联的温度值与状态x相关联时在状态x中允许的状态转换的次数进行计算,所述另一副本的状态x’为用于特定副本的交换目的候选。例如,重复计数计算单元11b对副本rep2的状态x’中允许的状态转换的次数进行计数,从而获得Nf(x;β’),其中,作为相邻温度的β’与作为交换目的候选的β相关联。
重复计数计算单元11b利用例如时分处理或流水线处理来对每个副本执行以上处理。例如,对副本rep2执行相同的处理,并且获得Nf(x’;β’)、Nf(x’;β)和重复次数的期望值<m’>。
样本输出单元11c以预定间隔(采样间隔)从状态更新单元11a获取每个副本的状态和能量,从重复计数计算单元11b获取重复次数的期望值,并且输出所获取的值。
在图1的示例中,样本输出单元11c输出针对副本rep1的状态x、能量E(x)和重复次数的期望值<m>,以及针对副本rep2的状态x’、能量E(x’)和重复次数的期望值<m’>。
副本交换控制单元12基于由重复计数计算单元11b计数的计数结果来对当与两个副本的相应状态变量组相关联的温度值被交换时发生状态转换的概率(上述逃逸概率)的比率进行计算。此外,副本交换控制单元12获取由状态更新单元11a计算的能量E(x)和E(x’)。然后,副本交换控制单元12根据通过使用以上比率校正由等式(4)表示的交换概率而获得的交换概率来交换与相应状态变量组相关联的温度值。
如上所述,通过校正由等式(4)表示的交换概率获得的交换概率可以由等式(5)表示。在等式(5)中,可以如在使用等式(7)的以下等式(8)中所表示的来近似作为逃逸概率的比率的α(x;β’)α(x’;β)/α(x;β)α(x’;β’)。
从等式(8)可以看出,逃逸概率的比率可以使用由重复计数计算单元11b计数的计数结果Nf(x;β)、Nf(x;β’)、Nf(x’;β’)和Nf(x’;β)来近似。因此,使用由等式(8)表示的Nf(x;β’)Nf(x’;β)/Nf(x;β)Nf(x’;β’)作为校正项能够进行由等式(4)表示的交换概率的校正。
例如,副本交换控制单元12根据以上交换概率交换副本rep1和副本rep2中的温度值。当交换被接受时,温度T’(逆温度β’)作为代替温度T(逆温度β)的温度值与副本rep1的状态变量组相关联。另一方面,温度T(逆温度β)作为代替T’(逆温度β’)的温度值与副本rep2的状态变量组相关联。
注意,在副本交换中,在两个副本之间交换温度值与交换状态变量组的值(状态)相同。
上述副本处理单元11和副本交换控制单元12可以通过例如诸如专用集成电路(ASIC)或现场可编程门阵列(FPGA)的电子电路来实现。替选地,副本处理单元11和副本交换控制单元12可以由执行程序的诸如中央处理单元(CPU)或图形处理单元(GPU)的处理器来实现。
如上所述,在根据第一实施方式的采样装置10中,副本交换方法应用于针对每次尝试改变状态的方法中。如在晶格伊辛模型中,在采样目标被建模使得低能量状态空间被分隔开的情况下,需要时间来仅通过简单地针对每次尝试改变状态使样本的概率分布收敛至目标分布。另一方面,通过进一步应用副本交换方法,可以抑制状态陷于局部解并且有效地搜索整个搜索空间。然而,当使用由等式(4)表示的交换概率时,样本由于以上提及的原因而可能不遵循目标分布。
根据第一实施方式的采样装置10使用在每次尝试中随机允许状态转换时允许的状态转换的次数的计数结果来计算交换前后的逃逸概率的比率,并且以通过使用比率作为校正项校正等式(4)的交换概率所获得的交换概率来执行交换。
因此,减少了在应用以上提及的副本交换方法的情况下引起的不利影响,并且可以抑制样本的概率分布与目标分布的偏差。也就是说,例如,可以生成取决于目标分布的样本。
此外,在根据第一实施方式的采样装置10中,交换前后的逃逸概率的比率不是使用如等式(5)中的α(x;β)等来计算的,而是使用以上提及的计数结果来计算的,由此减少了计算量。因此,可以缩短计算时间,并且当通过诸如ASIC或FPGA的电子电路实现采样装置10时,可以抑制电路面积的增加。
注意,期望的函数f(x)的期望值<f(x)>可以通过例如下面的等式(9)来估计,所述等式(9)使用由采样装置10获得的样本和重复次数的期望值。
在等式(9)中,<m(i)>是在特定副本中的第i次(i=1至n)采样中获得的重复次数的期望值,以及x(i)是通过该副本中的第i次采样获得的样本(状态变量组的值)。
采样装置10可以计算上述期望值<f(x)>。
此外,采样装置10还可以用作用于计算优化问题的优化装置。在这种情况下,根据优化问题的约束条件等来设置等式(1)中表示的加权系数和偏差系数。然后,例如,在与由样本输出单元11c输出的每个副本中的能量相对应的状态中,与预定尝试次数中的最小能量相对应的状态被输出为优化问题的解。
[第二实施方式]
图2是示出根据第二实施方式的采样装置的示例的图。
根据第二实施方式的采样装置20具有多个副本处理单元(例如,副本处理单元21a、21b、21c、21d)和副本交换控制器22。
在根据第二实施方式的采样装置20中,多个副本处理单元中的每一个副本处理单元包括图1所示的状态更新单元11a、重复计数计算单元11b和样本输出单元11c。
对于多个状态变量组中的任意一个状态变量组,多个副本处理单元中的每一个副本处理单元都执行与图1所示的副本处理单元11的处理类似的处理,并且这些处理在多个副本处理单元中并行执行。注意,与副本处理单元11类似,多个副本处理单元中的每一个副本处理单元可以利用时分处理或流水线处理对多个状态变量组执行处理。
副本交换控制器22具有与第一实施方式的副本交换控制单元12相同的功能。
图3是示出副本处理单元的示例的图。尽管图3示出了副本处理单元21a的示例,但是可以通过相同的配置来实现其他副本处理单元。
副本处理单元21a具有状态更新单元30、重复计数计算单元31和样本输出单元32。
状态更新单元30包括状态保持单元30a、能量变化计算单元30b、max[0,ΔEi]计算单元30c、随机数生成单元30d、加法器30e1、30e2…、30eN和更新位选择单元30f。
状态保持单元30a保持由状态保持单元30a处理的副本的状态变量组的值——即包括在由等式(1)表示的评估函数中的N个状态变量(x1至xN)的值——以及能量值。此外,状态保持单元30a还具有基于指示由更新位选择单元30f输出的更新位(待更新的状态变量)的索引来改变状态变量的值的功能。此外,状态保持单元30a还具有从能量变化计算单元30b获取与更新位的索引相对应的能量的变化量(ΔE1至ΔEN中的任意一个)以及更新能量的功能。
能量变化计算单元30b针对在特定状态变量组中可能发生的多个状态转换中的每一个状态转换计算伴随状态转换的伊辛模型的能量的变化量。假设一个状态变量的值在一个状态转换中改变,则能量变化计算单元30b针对x1至xN中的每一个计算当x1至xN中的一个改变时的能量的变化量(ΔE1、ΔE2…、ΔEN)。
作为由于xi的值的改变引起的能量的变化量ΔEi可以由下面的等式(10)表示。
在等式(10)中,当xi从1改变至0时,Δxi变为-1,以及当xi从0改变至1时,Δxi变为1。注意,hi被称为局部场,以及ΔEi是通过将hi乘以取决于Δxi的符号(+1或-1)得到的。
hi基于由更新位指示的索引来更新。例如,如果更新位的索引是j,则hi被更新成hi+Wij·Δxj。Wij存储在存储单元中(未示出)。
max[0,ΔEi]计算单元30c为ΔE1至ΔEN中的每一个计算max[0,ΔEi]。也就是说,例如,max[0,ΔEi]计算单元30c输出N个更新值,所述N个更新值是通过在ΔE1至ΔEN中保持那些具有0或更大的值并且将那些具有负值的值更新为0而获得的。
随机数生成单元30d基于从副本交换控制器22提供的温度值生成N个随机数值。
随机数生成单元30d通过使用例如梅森旋转器来生成N个ri,并且通过使用转换表等来生成log(-logri),所述N个ri为0<ri<1的均匀随机数。注意,例如,ri在每个时钟周期都会更新。然后,随机数生成单元30d通过使用例如作为所提供的温度值的温度T对T×log(-logri)进行计算来生成N个随机数值。
加法器30e1至30eN通过将N个随机数值中的任意一个随机数值与由max[0,ΔEi]计算单元30c输出的N个更新值中的每一个更新值相加来计算N个加法结果。
更新位选择单元30f检测由加法器30e1至30eN输出的N个加法结果中的最小加法结果。然后,更新位选择单元30f输出在值改变时提供最小加法结果的状态变量的索引作为更新位的索引。因此,提供加法结果的状态转换发生。
由于如上所述的状态更新单元30,因此在每次尝试中都发生状态转换。
重复计数计算单元31对直至在每次尝试中随机允许状态转换时发生状态转换为止的重复次数的期望值<m>进行计算。此外,重复计数计算单元31对由副本处理单元21a处理的副本的状态x中允许改变的状态变量的数目进行计数,并且输出作为计数值的Nf(x;β)。
此外,当与另一副本的状态x’相关联的温度值与状态x相关联时,重复计数计算单元31类似地对状态x中允许改变的状态变量的数目进行计数,并且输出作为计数结果的Nf(x;β’)。
样本输出单元32从状态保持单元30a获取由副本处理单元21a以每个预定间隔(采样间隔)处理的副本的状态x和能量E(x),从重复计数计算单元31获取重复次数的期望值<m>,并且输出所获取的值。
与此同时,在每次尝试中生成状态转换的方法中,在一次尝试中的状态a在下一次尝试中转换至不同的状态b,但是存在状态b在下一次尝试中返回至状态a的高概率。即,状态的改变可能是例如{a,b,a,c,a,b,a,d…}(a、b、c、d表示状态)等。在这种情况下,如果仅以偶数次的尝试来执行采样,则样本可能收敛至诸如{a,a,a…}或{b,c,b,d…}的偏置分布。
为了避免这种情况,样本输出单元32可以改变对于每次采样的采样间隔。例如,样本输出单元32可以针对每次采样在偶数次尝试与奇数次尝试之间切换采样间隔,或者可以采用随机次数的尝试。
图4是示出重复计数计算单元的示例的图。
重复计数计算单元31包括偏移控制单元31a、随机数生成单元31b、加法器31c1、31c2…、31cN、比较单元31d、标志位计数单元31e和期望值计算单元31f。
偏移控制单元31a获取作为max[0,ΔEi]计算单元30c的输出的多个更新值。然后,偏移控制单元31a计算最小值,即,Eoff(x)=min[max(0,ΔEi(x))]。此外,偏移控制单元31a输出通过从每个max(0,ΔEi(x))减去Eoff(x)获得的多个更新值。
与状态更新单元30的随机数生成单元30d类似,随机数生成单元31b基于从副本交换控制器22提供的温度值生成N个随机数值。
例如,随机数生成单元31b通过使用作为从副本交换控制器22提供的温度值的温度T对T×logri(i=1至N)进行计算来生成N个随机数值。此外,当副本交换控制器22提供与另一副本的状态x’相关联的温度值的温度T’时,随机数生成单元31b对T’×logri(i=1至N)进行计算。
加法器31c1至31cN输出N个加法结果,所述N个加法结果是通过将N个随机数值中的任意一个随机数值与由偏移控制单元31a输出的N个更新值中的每一个更新值相加获得的。
比较单元31d将N个加法结果中的每一个加法结果与阈值(在下文中,被设置成0)进行比较,并且针对N个加法结果中的每一个加法结果输出N个标志位,所述N个标志位在加法结果为0或更小时的值为1,并且在加法结果大于0时的值为0。加法结果为0或更小的确定结果(标志位=1)指示允许改变提供加法结果的状态变量。加法结果大于0的确定结果(标志位=0)指示不允许改变提供加法结果的状态变量。
标志位计数单元31e输出通过对N个标志位中的值为1的标志位的数目计数获得的计数值。当从副本交换控制器22向重复计数计算单元31提供温度T作为温度值时,标志位计数单元31e输出Nf(x;β)作为计数值,并且当提供温度T’时,输出Nf(x;β’)作为计数值。
期望值计算单元31f基于由偏移控制单元31a计算的Eoff(x)、由标志位计数单元31e输出的Nf(x;β)和从副本交换控制器22提供的温度T来对作为等式(7)的倒数的期望值<m>进行计算。在等式(7)中,β=1/T。
注意,尽管副本处理单元21a还包括控制状态更新单元30、重复计数计算单元31和样本输出单元32的操作定时的控制单元,以及向副本交换控制器22发送信息和从副本交换控制器22接收信息的通信单元等,但是它们未在附图中示出。
上述副本处理单元21a和副本交换控制器22可以通过例如诸如ASIC或FPGA的电子电路来实现。替选地,副本处理单元21a和副本交换控制器22可以由执行程序的诸如CPU或GPU的处理器来实现。
以下将描述根据第二实施方式的采样装置的操作示例。
图5是示出特定副本处理单元的操作示例的流程的流程图。注意,尽管以下描述了图3所示的副本处理单元21a的操作示例,但是可以由其他副本处理单元执行相同的处理。
首先,执行初始化和参数设置(步骤S1)。在步骤S1的处理中,例如,设置状态变量(x1至xN)的初始值,对基于所设置的状态变量的初始值、加权系数和偏置系数的能量E(x)的初始值进行计算,并且对局部场(hi)的初始值进行计算。这些处理可以例如在副本交换控制器22的控制下执行,或者可以由副本处理单元21a中的控制单元(未示出)执行。此外,副本处理单元21a可以获取由采样装置20外部的装置计算的这些初始值。
每个状态变量的初始值和能量E(x)的初始值都被保持在状态保持单元30a中。此外,在步骤S1的处理中,由副本交换控制器22设置温度T,并且设置诸如指示采样间隔的Nsint和指示副本交换间隔的Nrint的参数。
此外,状态更新单元30的计数器(未示出)将两种类型的计数器值(Ns、Nr)设置成0(步骤S2)。
然后,能量变化计算单元30b基于等式(10)计算ΔEi(步骤S3)。
状态更新单元30确定Ns≥Nsint是否成立(步骤S4),并且在确定Ns≥Nsint成立时执行步骤S5的处理。
在步骤S5的处理中,重复计数计算单元31基于max[0,ΔEi]计算单元30c的输出和温度T(=1/β)对重复次数的期望值<m>进行计算。注意,例如,在期望值<m>的计算期间获得的Nf(x;β)存储在诸如重复计数计算单元31中的寄存器的存储单元中。
此外,在步骤S5的处理中,样本输出单元32从状态保持单元30a获取由副本处理单元21a处理的副本的状态x,并且输出所获取的状态x作为样本。此外,样本输出单元32从状态保持单元30a获取能量E(x),从重复计数计算单元31获取重复次数的期望值<m>,并且同样输出它们。
此外,状态更新单元30将Ns重置为0(步骤S6)。当确定Ns≥Nsint不成立时,或者在步骤S6的处理之后,状态更新单元30执行步骤S7的处理。
注意,在步骤S5的处理期间,状态更新单元30可以在不等待重复计数计算单元31中的处理结束的情况下执行步骤S6的处理和后续步骤。
在步骤S7的处理中,状态更新单元30确定Nr≥Nrint是否成立。当状态更新单元30确定Nr≥Nrint成立时,副本处理单元21a中的通信单元(未示出)将指示该情况的信息通知副本交换控制器22。然后,通信单元接收从副本处理单元21a提供的且作为交换候选的温度T’(步骤S8)。
重复计数计算单元31基于max[0,ΔEi]计算单元30c的输出和T’=(1/β’)对Nf(x;β’)进行计数(步骤S9)。然后,通信单元(未示出)将由样本输出单元32输出的能量E(x)、Nf(x;β)和Nf(x;β’)传输至副本交换控制器22(步骤S10)。此外,状态更新单元30将Nr重置为0(步骤S11)。
之后,当副本交换控制器22不更新设置在副本处理单元21a中的温度T时(步骤S12:否),状态更新单元30的更新位选择单元30f选择更新位(步骤S13)。
在步骤S13的处理中,更新位选择单元30f通过基于由加法器30e1至30eN输出的N个加法结果输出更新位的索引来选择更新位。
状态保持单元30a基于更新位的索引来更新状态x(状态变量组的值)和能量E(x)(步骤S14)。然后,状态更新单元30将Nr和Ns增加1(步骤S15)。
在步骤S15中的处理之后,或者当温度T被更新成温度T’时(步骤S12:是),副本处理单元21a的控制单元(未示出)确定是否满足采样处理的结束条件(步骤S16)。例如,当尝试次数达到预定的最大尝试次数时,当采样次数达到预定的最大采样次数时,或者当从采样装置20的外部给出采样结束指令时,控制单元确定满足结束条件。
如果确定满足结束条件,则副本处理单元21a中的采样处理完成,以及如果确定不满足结束条件,则重复从步骤S3开始的处理。
图6是示出副本交换控制器的操作示例的流程的流程图。
例如,当从包括在采样装置20中的所有副本处理单元接收到指示Nr≥Nrint成立的通知时,副本交换控制器22开始下面的处理。注意,副本交换控制器22可以通过中断处理来在预定的中断时机开始下面的处理。
副本交换控制器22设置作为交换候选的温度T和温度T’(步骤S20)。为了确保交换概率不太小,选择其中设置温度彼此接近(例如,设置了相邻的温度)的副本作为待交换的两个副本。然后,在两个选定的副本中设置的温度T和温度T’被设置为交换候选。
下面,假设在图2所示的多个副本处理单元中,在由副本处理单元21a处理的副本中设置温度T,并且在由副本处理单元21b处理的副本中设置温度T’。
副本交换控制器22将温度T’传输至副本处理单元21a,并且将温度T传输至副本处理单元21b(步骤S21)。
然后,副本交换控制器22通过如图5所示的处理接收由副本处理单元21a传输的能量E(x)、Nf(x;β)和Nf(x;β’)。此外,副本交换控制器22还通过相同的处理从副本处理单元21b接收能量E(x’)、Nf(x’;β’)和Nf(x’;β)(步骤S22)。
然后,副本交换控制器22使用如等式(8)中表示的逃逸概率的比率作为校正项来对由等式(5)表示的交换概率进行计算(步骤S23)。然后,副本交换控制器22基于计算出的交换概率来确定是否交换在副本处理单元21a和21b中设置的温度(步骤S24)。
当确定要交换温度时,副本交换控制器22将温度T’传输至副本处理单元21a作为更新温度,并且将温度T传输至副本处理单元21b作为更新温度(步骤S25)。注意,副本交换控制器22可以指示副本处理单元21a和21b将在步骤S21中传输的温度设置为更新温度,而不传输更新温度。
当在步骤S24的处理中确定不交换温度时,或者在步骤S25的处理之后,副本处理单元21a和21b的一个副本交换处理结束。
副本交换控制器22可以对待交换的多个副本集并行地执行与上述处理相同的处理。
注意,图5和图6所示的相应处理步骤的顺序不限于以上示例中的顺序,并且可以适当改变。
如上所述,与根据第一实施方式的采样装置10类似,根据第二实施方式的采样装置20还使用在随机允许状态转换时允许的状态转换的次数(Nf(x;β)和Nf(x;β’))来校正交换概率。因此,可以获得与根据第一实施方式的采样装置10的效果相同的效果。
此外,在根据第二实施方式的采样装置20中,可以并行地执行针对使用多个副本处理单元的多个副本的处理,由此可以加速采样处理。
注意,多个副本处理单元和副本交换控制器22也可以通过执行程序的诸如CPU或GPU的处理器来实现。在这种情况下,采样装置20通过例如如下所述的信息处理装置(计算机)来实现。
图7是示出信息处理装置的硬件示例的框图。
信息处理装置40包括CPU 41、随机存取存储器(RAM)42、硬盘驱动器(HDD)43、图像信号处理单元44、输入信号处理单元45、介质读取器46和通信接口47。以上单元被连接至总线。
CPU 41是包括执行程序中的命令的算术电路的处理器。CPU 41将存储在HDD 43中的程序和数据中的至少一部分加载至RAM 42中,并且执行该程序。注意,CPU 41可以包括多个处理器核,信息处理装置40可以包括多个处理器,并且可以使用多个处理器或处理器核并行地执行以下所述的处理。此外,多个处理器(多处理器)的集合可以被称为“处理器”。
RAM 42是临时存储由CPU 41执行的程序和由CPU 41用于计算的数据的易失性半导体存储器。注意,信息处理装置40可以包括不同于RAM的类型的存储器或多个存储器。
HDD 43是存储诸如操作系统(OS)、中间件和应用软件的软件程序以及数据的非易失性存储装置。所述程序包括例如使信息处理装置40执行如上所述的采样处理的采样程序。HDD 43存储例如包括在以上所述的等式(1)中的加权系数、偏置系数等作为数据。注意,信息处理装置40可以包括诸如闪存和固态驱动器(SSD)的其他类型的存储装置,并且可以包括多个非易失性存储装置。
图像信号处理单元44根据来自CPU 41的命令向连接至信息处理装置40的显示器44a输出图像。可用作显示器44a的显示器的示例包括阴极射线管(CRT)显示器、液晶显示器(LCD)、等离子体显示面板(PDP)、有机电致发光(OEL)显示器等。
输入信号处理单元45从连接至信息处理装置40的输入装置45a获取输入信号,并且将输入信号输出至CPU 41。可用作输入装置45a的装置的示例包括诸如鼠标、触摸面板、触摸板或轨迹球的指针装置、键盘、遥控器、按钮开关等。此外,可以将多种类型的输入装置连接至信息处理装置40。
介质读取器46是读取记录在记录介质46a上的程序和数据的读取装置。可用作记录介质46a的装置的示例包括例如磁盘、光盘、磁光盘(MO)、半导体存储器等。所述磁盘包括软磁盘(FD)和HDD。光盘包括致密盘(CD)和数字多功能光盘(DVD)。
介质读取器46将例如从记录介质46a读取的程序或数据复制至另一记录介质例如RAM 42或HDD 43。读取程序由例如CPU 41执行。注意,记录介质46a可以是便携式记录介质,并且可以用于分配程序和数据。此外,记录介质46a或HDD 43可以被称为计算机可读记录介质。
通信接口47是连接至网络47a并且经由网络47a与其他信息处理装置通信的接口。通信接口47可以是通过电缆或无线通信接口连接至诸如交换机的通信装置的有线通信接口,所述电缆或无线通信接口通过无线链路连接至基站。
注意,如图2所示的副本交换控制器22可以使用CPU 41等实现,并且多个副本处理单元可以使用多个ASIC、GPU等实现。
可以通过使信息处理装置40执行程序来实现以上提及的采样处理。
程序可以记录在计算机可读记录介质(例如,记录介质46a)上。可用作记录介质的装置的示例包括例如磁盘、光盘、磁光盘、半导体存储器等。磁盘包括FD和HDD。光盘包括CD、CD-R(可记录)/RW(可重写)、DVD和DVD-R/RW。程序可以被记录并且被分配在便携式记录介质上。在这种情况下,可以将程序从便携式记录介质复制至另一记录介质(例如,HDD 43)并且被执行。
虽然以上已经基于实施方式描述了根据一方面的采样装置、采样方法和采样程序,但它们仅仅是示例并且不限于以上描述。
Claims (6)
1.一种采样装置,包括:
状态更新单元,其保持多个状态变量组的值,所述多个状态变量组中的每个状态变量组均包括多个状态变量,所述多个状态变量包括在指示伊辛模型的能量的评估函数中,并且所述状态更新单元通过基于温度值——其中不同的值分别与所述多个状态变量组相关联——以及由于所述多个状态变量中的任意一个状态变量的变化引起的能量的变化量在每次尝试中改变所述多个状态变量中的任意一个状态变量来生成状态转换;
重复计数计算单元,其基于所述温度值和所述变化量对直至在每次尝试中随机允许状态转换的情况下状态转换发生为止的重复次数的期望值进行计算,以及对所述多个状态变量组中的与第一温度值相关联的第一状态变量组中和与第二温度值相关联的第二状态变量组中允许的状态转换的次数进行计数,以及对在所述第二温度值与所述第一状态变量组相关联并且所述第一温度值与所述第二状态变量组相关联的情况下所述第一状态变量组中和所述第二状态变量组中允许的状态转换的次数进行计数;
交换控制单元,其基于由所述重复计数计算单元计数的计数结果来对与所述第一状态变量组和所述第二状态变量组相关联的所述第一温度值和所述第二温度值交换之前和之后的状态转换的发生概率的比率进行计算,以及根据使用所述比率校正的副本交换的交换概率来交换所述第一温度值和所述第二温度值;以及
输出单元,其以预定间隔输出所述多个状态变量的值和所述期望值。
2.根据权利要求1所述的采样装置,其中,所述状态更新单元
计算在所述第一状态变量组中可能发生的多个状态转换中的每个状态转换的所述变化量,
计算通过将具有负值的变化量更新为0并且保持值为0或更大的变化量获得的多个第一更新值,
通过将所述多个第一更新值中的每个第一更新值与基于所述第一温度值生成的多个第一随机数值中的任意一个随机数值相加来计算多个第一加法结果,以及
生成提供所述多个第一加法结果中的最小第一加法结果的状态转换。
3.根据权利要求2所述的采样装置,其中,所述重复计数计算单元计算通过从所述多个第一更新值中的每个第一更新值减去作为所述多个第一更新值中的最小值的偏移值获得的多个第二更新值;
通过将所述多个第二更新值中的每个第二更新值与基于所述第一温度值生成的多个第二随机数值中的任意一个随机数值相加来计算多个第二加法结果;
基于阈值与所述多个第二加法结果中的每个第二加法结果之间的比较结果来确定所述多个状态转换之中允许的状态转换;
通过将所述多个第二更新值中的每个第二更新值与基于所述第二温度值生成的多个第三随机数值中的任意一个第三随机数值相加来计算多个第三加法结果;以及
基于所述阈值与所述多个第三加法结果中的每个第三加法结果之间的比较结果来确定所述多个状态转换之中允许的状态转换。
4.根据权利要求1至3中任一项所述的采样装置,其中
在多个副本处理单元中的每个副本处理单元中设置所述状态更新单元、所述重复计数计算单元和所述输出单元,
所述多个副本处理单元中的每个副本处理单元针对所述多个状态变量组中的任意一个状态变量组执行用于在每次尝试中生成状态转换、计算所述期望值、对允许的状态转换的次数进行计数以及以所述预定间隔输出所述多个状态变量的值和所述期望值的处理,以及
在所述多个副本处理单元中并行地执行所述处理。
5.一种由计算机实现的采样方法,所述方法包括:
执行状态更新处理,其被配置成
保持多个状态变量组的值,所述多个状态变量组中的每个状态变量组均包括多个状态变量,所述多个状态变量包括在指示伊辛模型的能量的评估函数中;以及
通过基于温度值——其中不同的值分别与所述多个状态变量组相关联——以及由于所述多个状态变量中的任意一个状态变量的变化引起的能量的变化量在每次尝试中改变所述多个状态变量中的任意一个状态变量来生成状态转换;
执行重复计数计算处理,其被配置成
基于所述温度值和所述变化量对直至在每次尝试中随机允许状态转换的情况下状态转换发生为止的重复次数的期望值进行计算,以及
对所述多个状态变量组中的与第一温度值相关联的第一状态变量组中和与第二温度值相关联的第二状态变量组中允许的状态转换的次数进行计数,以及对在所述第二温度值与所述第一状态变量组相关联并且所述第一温度值与所述第二状态变量组相关联的情况下所述第一状态变量组中和所述第二状态变量组中允许的状态转换的次数进行计数;
执行交换控制处理,其被配置成
基于由所述重复计数计算单元计数的计数结果来对与所述第一状态变量组和所述第二状态变量组相关联的所述第一温度值和所述第二温度值交换之前和之后的状态转换的发生概率的比率进行计算,以及
根据使用所述比率校正的副本交换的交换概率来交换所述第一温度值和所述第二温度值;以及
执行输出处理,其被配置成以预定间隔输出所述多个状态变量的值和所述期望值。
6.一种非暂态计算机可读存储介质,其用于存储使处理器执行处理的采样程序,所述处理包括:
执行状态更新处理,其被配置成
保持多个状态变量组的值,所述多个状态变量组中的每个状态变量组均包括多个状态变量,所述多个状态变量包括在指示伊辛模型的能量的评估函数中,以及
通过基于温度值——其中不同的值分别与所述多个状态变量组相关联——以及由于所述多个状态变量中的任意一个状态变量的变化引起的能量的变化量在每次尝试中改变所述多个状态变量中的任意一个状态变量来生成状态转换;
执行重复计数计算处理,其被配置成
基于所述温度值和所述变化量对直至在每次尝试中随机允许状态转换的情况下状态转换发生为止的重复次数的期望值进行计算,以及
对所述多个状态变量组中的与第一温度值相关联的第一状态变量组中和与第二温度值相关联的第二状态变量组中允许的状态转换的次数进行计数,以及对在所述第二温度值与所述第一状态变量组相关联并且所述第一温度值与所述第二状态变量组相关联的情况下所述第一状态变量组中和所述第二状态变量组中允许的状态转换的次数进行计数;
执行交换控制处理,其被配置成
基于由所述重复计数计算单元计数的计数结果来对与所述第一状态变量组和所述第二状态变量组相关联的所述第一温度值和所述第二温度值交换之前和之后的状态转换的发生概率的比率进行计算,以及
根据使用所述比率校正的副本交换的交换概率来交换所述第一温度值和所述第二温度值;以及
执行输出处理,其被配置成以预定间隔输出所述多个状态变量的值和所述期望值。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-071934 | 2020-04-13 | ||
JP2020071934A JP2021168096A (ja) | 2020-04-13 | 2020-04-13 | サンプリング装置、サンプリング方法及びサンプリングプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113536229A true CN113536229A (zh) | 2021-10-22 |
Family
ID=74236035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110171666.3A Pending CN113536229A (zh) | 2020-04-13 | 2021-02-08 | 采样装置、采样方法以及用于存储采样程序的存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210319154A1 (zh) |
EP (1) | EP3896622A1 (zh) |
JP (1) | JP2021168096A (zh) |
CN (1) | CN113536229A (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7206476B2 (ja) * | 2018-09-14 | 2023-01-18 | 富士通株式会社 | 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム |
JP2023061477A (ja) * | 2021-10-20 | 2023-05-02 | 富士通株式会社 | プログラム、データ処理方法及びデータ処理装置 |
WO2023162254A1 (ja) * | 2022-02-28 | 2023-08-31 | 日本電信電話株式会社 | イジングモデルの計算装置 |
JP2024049202A (ja) * | 2022-09-28 | 2024-04-09 | 富士通株式会社 | データ処理装置、プログラム及びデータ処理方法 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4497035A (en) * | 1981-01-16 | 1985-01-29 | Hitachi, Ltd. | Method of generating time delay |
CN1163435A (zh) * | 1996-04-10 | 1997-10-29 | 富士通株式会社 | 利用矩量法模拟电磁场强度的设备和方法 |
US6442700B1 (en) * | 1999-08-10 | 2002-08-27 | Intel Corporation | Thermal control within systems having multiple CPU performance states |
US20120321186A1 (en) * | 2011-06-20 | 2012-12-20 | Massachusetts Institute Of Technology | Efficient mcmc sampling with implicit shape representations |
US20150269124A1 (en) * | 2013-12-05 | 2015-09-24 | D-Wave Systems Inc. | Sampling from a set of spins with clamping |
WO2015193531A1 (en) * | 2014-06-16 | 2015-12-23 | Nokia Technologies Oy | Data processing |
US20160260013A1 (en) * | 2015-03-06 | 2016-09-08 | Nokia Technologies Oy | Method and apparatus for optimization |
US20180246555A1 (en) * | 2017-02-24 | 2018-08-30 | Fujitsu Limited | Accurate calculation of consumption power of a processor caused by execution of a program |
US20180349325A1 (en) * | 2017-06-06 | 2018-12-06 | Hitachi, Ltd. | Information processing apparatus |
JP2020035179A (ja) * | 2018-08-30 | 2020-03-05 | 富士通株式会社 | 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム |
US20200090026A1 (en) * | 2018-09-14 | 2020-03-19 | Fujitsu Limited | Optimization apparatus and control method thereof |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019071119A (ja) | 2019-01-11 | 2019-05-09 | 富士通株式会社 | 情報処理装置、イジング装置及び情報処理装置の制御方法 |
JP7185140B2 (ja) * | 2019-04-11 | 2022-12-07 | 富士通株式会社 | 最適化装置及び最適化装置の制御方法 |
-
2020
- 2020-04-13 JP JP2020071934A patent/JP2021168096A/ja not_active Withdrawn
-
2021
- 2021-01-25 EP EP21153205.6A patent/EP3896622A1/en not_active Withdrawn
- 2021-02-02 US US17/164,866 patent/US20210319154A1/en not_active Abandoned
- 2021-02-08 CN CN202110171666.3A patent/CN113536229A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4497035A (en) * | 1981-01-16 | 1985-01-29 | Hitachi, Ltd. | Method of generating time delay |
CN1163435A (zh) * | 1996-04-10 | 1997-10-29 | 富士通株式会社 | 利用矩量法模拟电磁场强度的设备和方法 |
US6442700B1 (en) * | 1999-08-10 | 2002-08-27 | Intel Corporation | Thermal control within systems having multiple CPU performance states |
US20120321186A1 (en) * | 2011-06-20 | 2012-12-20 | Massachusetts Institute Of Technology | Efficient mcmc sampling with implicit shape representations |
US20150269124A1 (en) * | 2013-12-05 | 2015-09-24 | D-Wave Systems Inc. | Sampling from a set of spins with clamping |
WO2015193531A1 (en) * | 2014-06-16 | 2015-12-23 | Nokia Technologies Oy | Data processing |
US20160260013A1 (en) * | 2015-03-06 | 2016-09-08 | Nokia Technologies Oy | Method and apparatus for optimization |
US20180246555A1 (en) * | 2017-02-24 | 2018-08-30 | Fujitsu Limited | Accurate calculation of consumption power of a processor caused by execution of a program |
US20180349325A1 (en) * | 2017-06-06 | 2018-12-06 | Hitachi, Ltd. | Information processing apparatus |
JP2020035179A (ja) * | 2018-08-30 | 2020-03-05 | 富士通株式会社 | 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム |
US20200090026A1 (en) * | 2018-09-14 | 2020-03-19 | Fujitsu Limited | Optimization apparatus and control method thereof |
Non-Patent Citations (1)
Title |
---|
KEIVAN DABIRI等: "Replica Exchange MCMC Hardware With Automatic Temperature Selection and Parallel Trial", IEEE, vol. 31, no. 7, pages 1681 - 1691 * |
Also Published As
Publication number | Publication date |
---|---|
US20210319154A1 (en) | 2021-10-14 |
JP2021168096A (ja) | 2021-10-21 |
EP3896622A1 (en) | 2021-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113536229A (zh) | 采样装置、采样方法以及用于存储采样程序的存储介质 | |
CN111210046B (zh) | 优化装置及优化装置的控制方法 | |
JP7206476B2 (ja) | 最適化装置、最適化装置の制御方法及び最適化装置の制御プログラム | |
US11599073B2 (en) | Optimization apparatus and control method for optimization apparatus using ising models | |
CN113283046B (zh) | 优化装置、优化方法和记录介质 | |
US11645496B2 (en) | Optimization apparatus and optimization apparatus control method | |
EP3779616B1 (en) | Optimization device and control method of optimization device | |
JP7239826B2 (ja) | サンプリング装置およびサンプリング方法 | |
JP7137064B2 (ja) | 最適化装置及び最適化装置の制御方法 | |
JP7181454B2 (ja) | 最適化装置、最適化装置の制御方法および最適化装置の制御プログラム | |
JP2020187453A (ja) | 最適化装置および最適化装置の制御方法 | |
US11514135B2 (en) | Optimization apparatus, temperature setting method, and non-transitory computer-readable storage medium | |
JP7256378B2 (ja) | 最適化システムおよび最適化システムの制御方法 | |
JP2021015420A (ja) | 演算処理装置、制御プログラム、及び制御方法 | |
US20240111833A1 (en) | Data processing apparatus and data processing method | |
EP4383137A1 (en) | Data processing device, data processing program, and data processing method | |
US20220366011A1 (en) | Non-transitory computer-readable storage medium and information processing apparatus | |
CN118260153A (zh) | 温度调节程序、数据处理设备和数据处理方法 | |
CN116894496A (zh) | 信息处理设备和信息处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
AD01 | Patent right deemed abandoned | ||
AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20240906 |