CN114298315A - 优化装置、优化方法及非暂态计算机可读存储介质 - Google Patents

Abstract

公开了优化装置、优化方法及非暂态计算机可读存储介质。一种优化装置，执行下述操作：针对分别具有多个状态变量的多个副本中的每个副本，在更新该副本的多个状态变量中的第一状态变量的值的情况下，根据在状态空间中该副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，该状态空间指示多个状态变量的值的组合可以存在的空间；以及通过使用根据相互作用的强度的变化量的提议概率和在更新第一状态变量的值的情况下的根据目标概率分布的接受概率，确定是否更新第一状态变量的值。

Description

优化装置、优化方法及非暂态计算机可读存储介质

技术领域

本文讨论的实施方式涉及优化装置、优化方法及存储优化程序的非暂态计算机可读存储介质。

背景技术

诺依曼型计算机不擅长的问题之一是大规模离散优化问题。作为计算离散优化问题的装置，例如，存在使用伊辛(Ising)型评估函数(也被称为能量函数等)的伊辛机(也被称为玻尔兹曼机)。

在通过伊辛机进行的计算中，使用伊辛模型代替要计算的问题，该伊辛模型是表示磁性材料的自旋行为的模型。然后，利用马尔可夫链蒙特卡洛方法搜索使(与伊辛模型的能量对应的)伊辛型评估函数的值最小化的状态。在下文中，马尔可夫链蒙特卡洛方法简称为MCMC方法。例如，在MCMC方法中，以通过梅特罗波利斯(Metropolis)方法或吉布斯(Gibbs)方法限定的状态转换的接受概率来接受状态转换。

作为一类MCMC方法，存在副本交换方法(也被称为交换蒙特卡洛方法或并行回火方法)。在副本交换方法中，执行下述操作：在该操作中，使用多个温度的MCMC处理彼此独立地执行，针对每给定数目的尝试对通过MCMC处理获得的能量进行比较，并且以适当的概率交换关于两个温度的状态。与其中温度逐渐降低的模拟退火方法相比，根据副本交换，抑制了受限于局部解的可能性并且可以有效地搜索整个搜索空间。

注意，常规地已经提出了能够在减少电路的物理量的同时执行基于Metropolis方法的概率处理的信息处理装置。此外，在分子动力学模拟领域中，已经提出了其中计算两个分子之间的相位距离来确定是否抑制是否排除分子间相互作用的技术。作为用于通过使用多个副本执行解搜索的技术，还已经提出了被称为集体蒙特卡洛(CMC)的方法和被称为鲁棒集成(RE)的方法。

相关技术的示例包括：日本公开特许公报第2019-082793号；美国专利申请公开第2019/0087546号；Gregoire Clarte和Antoine Diez的“Collective sampling through aMetropolis-Hastings like method:kinetic theory and numerical experiments”，arXiv:1909.08988v1[math.ST]，2019年9月18日；以及Baldassi,Carlo.等的“Unreasonable Effectiveness of Learning Neural Networks:From AccessibleStates and Robust Ensembles to Basic Algorithmic Schemes”，PNAS E7655-E7662，2016年11月15日在线公布。

发明内容

根据实施方式的一方面，提供了一种优化装置，该优化装置包括：存储单元，该存储单元被配置成存储针对多个副本中的每个副本的多个状态变量的值；以及处理单元，该处理单元被配置成进行处理。在示例中，由优化装置进行的处理包括：针对多个副本中的每个副本，在更新该副本的多个状态变量中的第一状态变量的值的情况下，根据在状态空间中该副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，该状态空间指示多个状态变量的值的组合可以存在的空间，另一副本是通过从多个副本中排除该副本而获得的副本组的一部分；以及基于根据相互作用的强度的变化量的提议概率和在更新第一状态变量的值的情况下的根据目标概率分布的接受概率，确定是否更新第一状态变量的值。

本发明的目的和优点将通过在权利要求书中特别指出的元素和组合来实现和获得。

应理解的是，前面的总体描述和下面的详细描述都是示例性和说明性的，而不是对本发明进行限制。

本发明的有利效果

根据一个方面，可以提高在使用多个副本的情况下的解搜索能力。

附图说明

图1是示出根据本实施方式的优化方法的比较示例的图；

图2是示出根据第一实施方式的优化方法的示例的图；

图3是示出根据第二实施方式的系统配置的示例的图；

图4是示出服务器的硬件的示例的图；

图5是示出伊辛机的示例的图；

图6是伊辛模型的示意图；

图7是示出副本交换的示例的图；

图8是示出独热约束下的1个位翻转的示例的图；

图9是用于描述2种方式独热(2W1H)约束的图；

图10是示出伊辛机的解搜索功能的示例的图；

图11是示出解搜索引擎中的处理的示例的图；

图12是示出提供相互作用的副本的第一选择方法的示例的图；

图13是示出在使用提供相互作用的副本的第一选择方法的情况下的解搜索处理的过程的示例的流程图；

图14是示出针对每个副本的解搜索处理的过程的示例的流程图；

图15是示出用于计算副本之间的相互作用的能量的差的过程的示例的流程图；

图16是示出提供相互作用的副本的第二选择方法的示例的图；

图17是示出在使用提供相互作用的副本的第二选择方法的情况下的解搜索处理的过程的示例的流程图；

图18是示出提供相互作用的副本的第三选择方法的示例的图；

图19是示出在使用提供相互作用的副本的第三选择方法的情况下的解搜索处理的过程的示例的流程图；

图20是示出在提供相互作用的副本的第三选择方法中针对每个副本的解搜索处理的过程的示例的流程图；

图21是示出用于计算副本之间的相互作用的能量的差的过程的示例的流程图；

图22是示出提供相互作用的副本的第四选择方法的示例的图；

图23是示出在使用提供相互作用的副本的第四选择方法的情况下的解搜索处理的过程的示例的流程图；

图24是示出在提供相互作用的副本的第四选择方法中针对每个副本的解搜索处理的过程的示例的流程图；

图25是示出通过第一更新位选择方法的更新位选择处理的过程的示例的流程图；

图26是示出第二更新位选择方法的处理过程的示例的流程图；

图27是示出以树形连接的用于选择更新位的选择器的示例的图；

图28是示出第三更新位选择方法的处理过程的示例的流程图；

图29是示出在副本之间设置排斥的相互作用的情况下的能量景貌的图；

图30是示出在副本之间设置吸引的相互作用的情况下的能量景貌的图；

图31是示出第一验证示例的图；

图32是示出第二验证示例的图(第1部分)；以及

图33是示出第二验证示例的图(第2部分)。

具体实施方式

为了加快MCMC方法，已经提出了用于通过使用大量副本来执行组搜索的各种方法。然而，在所述方法中的任意方法中，可能无法充分表现出组搜索的效果。例如，在转换目的地候选的选择方法为1个位翻转(多个位之一的值的反转)的情况下，以相等的概率将每个位选择为要反转的对象，并且基于转换之前和转换之后的能量的差来确定到其中所选择的位被反转的状态的转换概率。因此，存在如下可能性：每个副本可能根据能量梯度来改变其状态，并且状态转换的过程可能遵循相同的路径。因此，多个副本可能停留在相同的局部解，从而使得难以足够广泛地搜索状态空间。

注意，这样的问题不仅发生在状态变量取离散值的情况下，而且发生在其中状态变量可以取连续值的优化问题中。

在下面公开的实施方式的一个方面中，提供了用于在使用多个副本的情况下提高解搜索能力的解决方案。

在下文中，将参照附图描述本实施方式。注意，只要不产生矛盾，每个实施方式可以与其他实施方式中的至少一个实施方式结合来实现。

(比较示例)

首先，将描述根据本实施方式的优化方法的比较示例。

图1是示出了根据本实施方式的优化方法的比较示例的图。

图1示出了实现解搜索方法的优化装置10a。优化装置10a可以为诺依曼型计算机或非诺依曼型计算机。例如，优化装置10a可以通过执行优化程序来实现优化方法。此外，优化装置10a可以为通过使用伊辛模型来求解优化问题的伊辛机。伊辛机包括使用量子位的量子计算机、在数字电路上再现量子位的量子现象的装置等。

优化装置10a包括存储单元11a和处理单元12a。存储单元11a例如为包括在优化装置10a中的存储器或存储装置。处理单元12a例如为包括在优化装置10a中的处理器或算术电路。算术电路包括量子位电路或再现量子位的机制的神经元电路。

存储单元11a存储针对多个副本2至4中的每个副本的多个状态变量的值。

处理单元12a通过使用多个副本2至4来解决优化问题。例如，处理单元12a获得使根据优化问题限定的目标函数的值最小化的状态变量的值。目标函数也被称为表示优化问题的模型的能量。在优化问题由伊辛模型表示的情况下，该伊辛模型的哈密顿量对应于指示能量的目标函数。

针对解搜索，处理单元12a针对多个副本2至4中的每个副本重复状态转换(状态变量的值的更新)，并且基于处于所生成的状态的多个状态变量的值来计算目标函数的值。此时，处理单元12a考虑到副本之间的相互作用来执行副本的状态转换。例如，可以将根据副本之间的距离的吸引力或排斥力视为副本之间的相互作用。第k副本x^k与第l副本x^l之间的距离将被称为d(x^k，x^l)(k和l为大于或等于1的整数)。例如，处理单元12a针对多个副本2至4中的每个副本如下执行状态转换。

在更新副本的多个状态变量中的第一状态变量的值的情况下，处理单元12a根据在状态空间1中该副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，该状态空间1指示其中多个状态变量的值的组合可以存在的空间。相互作用的强度例如为基于到其他副本的距离总和的值。相互作用的强度也可以被称为相互作用的能量G(x)。相互作用的强度可以由例如稍后描述的式(15)或式(16)来表示。在更新第l副本的第j₀状态变量的情况下的相互作用的强度的变化量可以表示为ΔG＝G(x^l[j₀])-G(x^l)。

然后，在更新第一状态变量(例如，第j₀状态变量)的值的情况下，处理单元12a确定是否更新第一状态变量的值。该确定是基于根据相互作用的强度的变化量的提议概率(g(x^l→x^l[j₀]))和根据目标概率分布的接受概率(a(x^l→x^l[j₀]))以概率为基础做出的。目标概率分布例如为吉布斯分布。基于提议概率和接受概率的副本的状态转换的转换概率遵循例如梅特罗波利斯-黑斯廷斯方法。

在处理单元12a确定更新第一状态变量的值的情况下，处理单元12a基于在更新第一状态变量的值之后的副本的多个状态变量的值来计算目标函数的值。此外，处理单元12a更新存储单元11a中的副本的第一状态变量的值。然后，处理单元12a重复针对多个副本2至4中的每个副本的多个状态变量中的一个状态变量的值的更新，并且输出当目标函数的值满足预定条件时的多个状态变量的值。例如，处理单元12a将多个副本2至4的更新重复预定次数，并且然后，输出使目标函数的值最小化的多个状态变量的值的组合。

以这样的方式，考虑到副本之间的相互作用，通过副本的状态转换来执行解搜索。例如，优化装置10a可以通过考虑副本之间的相互作用通过多个副本2至4来全面搜索状态空间1。此外，通过使用梅特罗波利斯-黑斯廷斯方法，优化装置10a可以以适当的方式将副本之间的相互作用的影响并入至计算中。

注意，处理单元12a限定针对状态空间1的适当距离并且确定副本之间的距离。然后，处理单元12a进行下述操作：通过使用该距离来确定副本之间的相互作用的强度；以梅特罗波利斯-黑斯廷斯方法限定转换目的地候选的分布(提议分布)；以及将该分布并入至计算中。梅特罗波利斯-黑斯廷斯方法对应于提议分布为不对称的情况。因此，在如何确定提议分布方面存在一定的自由度。因此，处理单元12a使用梅特罗波利斯-黑斯廷斯方法中的提议分布上的自由度(提议概率的定义)来将副本之间的相互作用引入提议概率内。

例如，可以生成排斥的相互作用作为副本之间的相互作用。在这种情况下，当更新第一状态变量的值时，处理单元12a在针对状态转换确定的副本与另一副本之间的距离增加的情况下增加相互作用的强度。随着相互作用的强度的增加量增加，处理单元12a增加提议概率。另外，随着状态变量的提议概率变大，处理单元12a增加该状态变量被选择为对值进行更新的候选的概率。因此，例如，可以将多个副本2至4分布至一个搜索空间中，以高效地对搜索空间进行搜索，或者可以防止多个副本2至4陷入相同的局部解中而无法逃离。

此外，也可以生成吸引的相互作用作为副本之间的相互作用。在这种情况下，当更新第一状态变量的值时，处理单元12a在针对状态转换确定的副本与另一副本之间的距离减小的情况下增加相互作用的强度。随着相互作用的强度的增加量增加，处理单元12a增加提议概率。因此，例如，多个副本2至4可以用于集中地搜索搜索空间中的特定空间，或者陷入局部解中而无法逃离的副本可以通过来自另一副本的吸引力从局部解中逃离。

在状态空间1为离散的并且状态变量的值可以仅为二进制(例如“1”或“0”)的情况下，可以使用例如汉明距离(hamming distance)(或其单调递增函数)作为两个副本之间的距离。在这种情况下，处理单元12a限定所有副本之间的汉明距离，从而计算副本之间的相互作用的强度。副本之间的距离可以由稍后描述的式(19)表示。

注意，处理单元12a例如通过归一化常数来对用于更新第一状态变量的值的提议概率进行归一化。例如，将在更新第一状态变量的值的情况下的相互作用的强度的变化量限定为ΔG，并且将作为在副本中设置的温度参数值的倒数的逆温度限定为β。此时，处理单元12a使用通过将exp(-βΔG)除以预定的归一化常数而获得的值作为提议概率。该提议概率可以由例如稍后描述的式(17)表示。吉布斯分布由exp(-βΔG)表示，并且通过使用吉布斯分布来限定提议概率，在目标函数(能量)上保持吉布斯分布变得容易。

此外，处理单元12a可以使用通过将1和exp(-βΔG)中的较小值除以预定的归一化常数而获得的值作为提议概率。该提议概率可以由例如稍后描述的式(18)表示。因此，在exp(-βΔG)超过1的情况下，将exp(-βΔG)视为1，并且在相互作用的强度的变化量在状态变量之间显著不同的情况下，可以减少对提议概率的影响的差异。

此处，将描述归一化常数。在已知的提议分布中，以相等的概率(1/N)(N为指示状态变量的数目的大于或等于1的整数)将多个状态变量选择作为转换候选。在这种情况下，归一化常数为N(每个转换目的地的权重共同为1)。在图1的优化装置10a中，每个状态变量作为转换候选的转换概率是不同的，而归一化常数取决于转换之前的当前状态。因此，在处理单元12a中对归一化常数进行计算。

例如，在多个状态变量中的每个状态变量被设置为第一状态变量的情况下，处理单元12a使用针对多个状态变量的exp(-βΔG)的值的总和作为归一化常数。该归一化常数可以由例如稍后描述的式(23)表示。注意，在相互作用为汉明距离的线性函数的情况下，处理单元12a进行下述操作：针对副本的每个状态转换进行状态转换之前和之后的归一化常数之间的差计算；计算所述差的累加值(对所述差进行累加计算)；以及将该累加值用作最新的归一化常数。汉明距离的线性函数为如由稍后描述的式(19)指示的函数。

在进行归一化常数的累加计算的情况下，处理单元12a将用于确定要更新的状态变量的归一化常数存储在存储单元11a中，每次进行副本的状态转换时都是如此。然后，处理单元12a基于在副本的状态转换时使用的归一化常数的值以及在先前的状态转换之前和之后生成的归一化常数的值之间的差来计算要在这次的状态转换中使用的归一化常数的值。在先前的状态转换之前和之后生成的归一化常数的值之间的差由例如稍后描述的式(24)表示。利用这样的配置，可以有效地计算归一化常数。

注意，处理单元12a可以使用基于距其他副本的距离的平方根之和的值作为相互作用的强度。在这种情况下的相互作用的强度由例如稍后描述的式(16)表示。这允许与更接近的另一副本的相互作用相对于与更远的另一副本的相互作用来说相对强。例如，为了防止多个副本2至4陷入相同的局部解中，可以通过在局部解附近存在的副本之间施加强排斥力来促进从局部解中逃离。在这种情况下，对在距局部解更远的位置处的副本的影响越小，其越容易从局部解中逃离。

此外，处理单元12a可以首先从多个状态变量中指定可以接受值的更新的状态变量，并且从指定的状态变量中确定其值要在副本的这次的状态转换中更新的状态变量。在这种情况下，针对多个状态变量中的每个状态变量，处理单元12a基于概率确定在状态变量的更新被提议的情况下是否基于接受概率接受更新。然后，处理单元12a通过下述操作来确定要被更新的至少一个状态变量：增加从被确定成接受更新的状态变量中选择具有较高提议概率的状态变量的可能性。利用这样的配置，可以防止：重复拒绝对所选择的状态变量的值的更新(确定不接受更新)；以及要花费时间来确定其值要被更新的状态变量。

顺便提及，在上面描述的比较示例中，处理单元12a考虑到所有副本之间的相互作用的强度来计算相互作用的强度的变化量。然而，在许多情况下，即使不考虑所有副本之间的相互作用，也可以获得从局部解中逃离的效果，并且更确切地说，存在下述可能性：在考虑到所有副本之间的相互作用的情况下状态转换可能受到阻碍。例如，不太需要在已经处于显著不同状态(远离)的副本之间生成排斥的相互作用。根据情况，状态转换可能由于受到远离的副本的显著影响而受到阻碍。此外，在生成吸引的相互作用的情况下，状态转换可能受到阻碍，这是因为当多个副本陷入相同的局部解中时，其他副本被更强烈地吸引至该局部解。因此，最好限制提供相互作用的副本的范围。

此外，当副本的总数为M(M为大于或等于2的整数)时，在稍后描述的表示相互作用的强度的式(15)或式(16)中包括的副本之间的距离的计算次数针对每个副本为M，而针对整个优化装置10a为M²。例如，在M＝100的情况下，上面描述的计算次数为10⁴，而在M＝1000的情况下，计算次数为10⁶。因此，随着副本的数目的增加，计算量显著增加。

与根据上面描述的比较示例的优化方法相比，根据将在下面描述的第一实施方式的优化方法使得可以抑制计算量。

[第一实施方式]

图2是示出根据第一实施方式的优化方法的示例的图。

与图1的优化装置10a类似，优化装置10包括存储单元11和处理单元12。存储单元11和处理单元12可以分别由与上面描述的存储单元11a和上面描述的处理单元12a的硬件类似的硬件来实现。

存储单元11具有与上面描述的存储单元11a的功能类似的功能。另一方面，处理单元12具有下面描述的与上面描述的处理单元12a的功能不同的功能。

在更新副本的多个状态变量中的第一状态变量的值的情况下，处理单元12根据在上面描述的状态空间1中该副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，另一副本是通过从M个副本中排除该副本而获得的副本组的一部分。例如，在根据第一实施方式的优化方法中，执行考虑了部分副本之间的相互作用的处理，而不是考虑所有副本之间的相互作用的处理。例如，如图2所示，考虑了副本2与副本3之间的相互作用以及副本3与副本4之间的相互作用，但是没有考虑副本2与副本4之间的相互作用。例如，在副本2与副本4之间没有提供相互作用。

例如，存在向每个副本提供相互作用的副本的下述四种选择方法。下面将给出简要描述。

第一选择方法用于基于副本编号周期性地向M个副本提供相互作用，该副本编号为向每个副本赋予的用于标识每个副本的标识信息。在该方法中，向具有副本编号＝l的副本提供相互作用的副本限于具有l±s的范围内的副本编号的副本。例如，被赋予在其中与l的差为s的范围中包括的副本编号的副本将向具有副本编号＝l的副本提供相互作用。在该方法中，与比较示例不同，按照稍后描述的式(27)而不是稍后描述的式(15)或式(16)来限定相互作用的强度。

第二方法用于基于向每个副本赋予的副本编号将M个副本分组为多个组，并且仅在属于不同组的副本之间提供相互作用。在该方法中，向具有副本编号＝l的副本提供相互作用的副本限于与具有副本编号＝l的副本所属的组不同的组中的代表性副本。在该方法中，与比较示例不同，按照稍后描述的式(28)而不是稍后描述的式(15)或式(16)来限定相互作用的强度。

第三方法用于动态地确定应用相互作用的副本的范围。在该方法中，与第一方法一样，向具有副本编号＝l的副本提供相互作用的副本将限于具有在l±s_t的范围内的副本编号的副本，但是s_t动态地改变。每次执行重复状态转换的处理时，计算具有副本编号＝l的副本与具有在l±s_t范围内的副本编号的副本之间的距离的平均值，并且基于该平均值与两个阈值(D₁和D₂(D₁<D₂))之间的比较的结果，s_t减小或增加。例如，在生成排斥的相互作用的情况下，当上面描述的距离的平均值小于D₁时，s_t递增一，而当上面描述的距离的平均值大于D₂时，s_t递减一。反过来，在生成吸引的相互作用的情况下也是如此。在该方法中，与比较示例不同，按照稍后描述的式(29)而不是稍后描述的式(15)或式(16)来限定相互作用的强度。

第四方法用于随机地确定应用相互作用的副本的范围。在该方法中，每次执行重复状态转换的处理时，以预定概率p采用其他副本作为向具有副本编号＝l的副本提供相互作用的副本。在该方法中，与比较示例不同，按照稍后描述的式(31)而不是稍后描述的式(15)或式(16)来限定相互作用的强度。

使用这些方法的示例将在稍后描述的第二实施方式中进行描述。

第一实施方式的优化方法中的其他处理与比较示例的优化方法中的处理相同。例如，处理单元12指定相互作用的强度的变化量，其由ΔG＝G(x^l[j₀])-G(x^l)表示，如上所述。然后，在基于概率更新第一状态变量(例如，第j₀状态变量)的值的情况下，处理单元12基于提议概率(g(x^l→x^l[j₀]))和接受概率(a(x^l→x^l[j₀]))来确定是否更新第一状态变量的值。在处理单元12确定更新第一状态变量的值的情况下，处理单元12基于更新第一状态变量的值之后的副本的多个状态变量的值来计算目标函数的值。此外，处理单元12更新存储单元11中的副本的第一状态变量的值。然后，处理单元12针对多个副本中的每个副本重复对多个状态变量中的一个状态变量的值的更新，并且当目标函数的值满足预定条件时输出多个状态变量的值。

以这样的方式，在第一实施方式的优化方法中，通过在部分副本之间提供相互作用的副本的状态转换来执行解搜索。例如，优化装置10可以通过在副本之间提供相互作用来全面搜索状态空间1。这是因为，如上所述，即使不考虑所有副本之间的相互作用，在许多情况下也会获得从局部解逃离的效果。

以这样的方式，由于优化装置10在部分副本之间提供相互作用而不是在所有副本之间提供相互作用，因此与比较示例中的优化装置10a相比可以抑制计算量。

[第二实施方式]

接下来，将描述第二实施方式。第二实施方式是使用伊辛机的系统的示例，该伊辛机计算使目标函数的值最小化的状态变量的值的组合。注意，第二实施方式中的伊辛机为第一实施方式中指示的优化装置10的示例。在伊辛机中，要解决的问题由伊辛模型表示，并且搜索使伊辛模型的能量具有最小值的位值的组合。用于计算伊辛模型的能量的表达式(哈密顿量)为目标函数。

图3是示出根据第二实施方式的系统配置的示例的图。终端装置31、32、……经由网络20连接至服务器100。终端装置31、32、……是由请求对于组合优化问题的解的用户使用的计算机。服务器100接收来自终端装置31、32、……的用于解决组合优化问题的请求，并且生成为与该组合优化问题对应的伊辛模型的能量函数的哈密顿量。伊辛机300的控制装置200连接至服务器100。服务器100通过使用生成的哈密顿量向控制装置200输入针对能量的最小值的搜索请求。

控制装置200控制伊辛机300，并且响应于从服务器100输入的搜索请求来进行对能量的最小值的解搜索。例如，控制装置200向伊辛机300发送针对每个神经元的组合目的地的神经元的id作为组合目的地信息。此外，控制装置200还向伊辛机300发送局部字段的初始值(例如，偏置系数)、值不为0的权重系数、退火条件等。

伊辛机300基于来自控制装置200的控制使用数字电路来模拟伊辛模型的状态转换，并且进行搜索以寻找能量的最小值。

图4是示出了服务器的硬件的示例的图。整个服务器100由处理器101控制。存储器102和多个外围装置经由总线109连接至处理器101。处理器101可以为多处理器。处理器101为例如中央处理单元(CPU)、微处理单元(MPU)或数字信号处理器(DSP)。通过由处理器101执行程序来实现的功能的至少一部分可以由电子电路诸如专用集成电路(ASIC)或可编程逻辑器件(PLD)来实现。

存储器102用作服务器100的主存储装置。存储器102临时存储要由处理器101执行的操作系统(OS)程序和应用程序的至少一部分。此外，存储器102存储在由处理器101进行的处理中使用的各种类型的数据。例如，使用诸如随机存取存储器(RAM)的易失性半导体存储装置作为存储器102。

连接至总线109的外围装置包括存储装置103、图形处理装置104、输入接口105、光学驱动装置106、装置连接接口107和网络接口108。

存储装置103以电或磁的方式将数据写入内置记录介质以及从内置记录介质中读取数据。存储装置103被用作计算机的辅助存储装置。存储装置103存储OS程序、应用程序和各种类型的数据。注意，例如，可以使用硬盘驱动器(HDD)或固态驱动器(SSD)作为存储装置103。

监视器21连接至图形处理装置104。图形处理装置104根据来自处理器101的指令在监视器21的屏幕上显示图像。监视器21的示例包括使用有机电致发光(EL)的显示装置以及液晶显示装置。

键盘22和鼠标23连接至输入接口105。输入接口105将从键盘22和鼠标23发送的信号发送至处理器101。注意，鼠标23为指向装置的示例，并且也可以使用其他指向装置。其他指向装置的示例包括触摸面板、平板电脑、触摸板和轨迹球。

光学驱动装置106使用激光等来读取记录在光盘24上的数据或者将数据写入光盘24。光盘24为在其上记录数据以能够通过光的反射读取的便携式记录介质。光盘24的示例包括数字通用盘(DVD)、DVD-RAM、致密盘只读存储器(CD-ROM)以及可记录CD(CD-R)/可重写CD(CD-RW)。

装置连接接口107为用于将外围装置连接至服务器100的通信接口。例如，存储器装置25和存储器读取器/写入器26可以连接至装置连接接口107。存储器装置25为具有与装置连接接口107通信的功能的记录介质。存储器读取器/写入器26为将数据写入存储器卡27或者从存储器卡27读取数据的装置。存储器卡27为卡型记录介质。

网络接口108连接至网络20。网络接口108经由网络20与另一计算机或通信装置交换数据。网络接口108为例如利用线缆连接至诸如交换机或路由器的有线通信装置的有线通信接口。此外，网络接口108可以为无线通信接口，其通过无线电波连接至诸如基站或接入点的无线通信装置并且与其通信。

服务器100可以利用如上所述的硬件来实现第二实施方式的处理功能。注意，控制装置200也可以由与服务器100的硬件类似的硬件来实现。

图5是示出了伊辛机的示例的图。伊辛机300包括：神经元电路311、312、……、31n；控制电路320和存储器330。

神经元电路311至31n中的每个神经元电路基于下述来计算第一值：指示神经元电路是否连接至除该神经元电路之外的多个其他神经元电路的多个权重系数的值和多个其他神经元电路的多个输出信号的乘积的总和。然后，神经元电路311至31n中的每个神经元电路基于阈值与通过将噪声值与所述第一值相加而获得的第二值之间的比较结果来输出0或1的位值。在进行使用多个副本的解搜索的情况下，通过使用多个神经元电路来进行针对一个副本的解搜索。

控制电路320基于从控制装置200供应的信息来进行伊辛机300的初始设置处理等。此外，在进行副本交换的情况下，控制电路320确定是否在两个副本之间交换温度参数值，并且在交换温度参数值的情况下，控制电路320更新输入至针对每个副本进行解搜索的神经元电路的温度参数值。

此外，在确定要更新的神经元的处理被重复预定次数之后，控制电路320获取与保存在存储器330中的一个副本的状态变量对应的每个神经元的位值，并且将所述位值发送至控制装置200作为优化问题的解。

例如，可以通过诸如ASIC或现场可编程门阵列(FPGA)的用于特定应用的电子电路来实现控制电路320。注意，控制电路320可以为诸如CPU或DSP的处理器。在这种情况下，处理器通过执行存储在存储器(未示出)中的程序来进行上面描述的处理。

存储器330保存例如每个神经元的位值。存储器330可以由例如寄存器或RAM来实现。存储器330还可以保存能量的最小值和当获得该最小值时的每个神经元的位值。在这种情况下，在确定要更新的神经元的处理被重复预定次数之后，控制电路320可以从存储器330中获取能量的最小值和当获得该最小值时的每个神经元的位值，并且将所述值发送至控制装置200。

注意，在第一实施方式中指示的优化装置10还可以通过与图4所示的伊辛机300的硬件类似的硬件来实现。

接下来，将描述要解决的伊辛型最小值解问题(伊辛型问题)。伊辛型问题由伊辛模型表示。

图6是伊辛模型的示意图。在伊辛模型30中，多个位31以网格图形布置。位31中的每个位模拟磁体并且也被称为自旋(spin)。相互作用在相邻位之间起作用。相互作用的大小由权重系数表示。伊辛模型30的能量由下述式(1)表示。

右侧的第一项用于针对N个状态变量的所有组合，在没有遗漏和重复的情况下，对两个状态变量的值(0或1)与权重系数的乘积进行合并。第i状态变量由x_i表示，第j状态变量由x_j表示，并且指示x_i与x_j之间的组合的强度的权重系数由W_ij表示。右侧的第二项用于获得针对每个状态变量的偏置系数(b_i)与x_i的乘积的总和。在W_ij为正的情况下，相互作用起作用，使得x_i和x_j具有相同的值。此外，在W_ij为负的情况下，相互作用起作用，使得x_i和x_j具有不同的值。注意，W_ij＝W_ji并且W_ii＝0。

最小值解问题是找到由式(1)给出的能量的最小值的问题。伊辛机300通过使用马尔可夫链蒙特卡洛(MCMC)来解决这样的最小值解问题。例如，伊辛机300计算在一个位被反转的情况下的能量变化。在第i位被反转的情况下，“x_i→x_i'(δx_i＝x_i'-x_i)”，并且能量变化值由式(2)表示。

在式(2)的右侧的括号中的表达式表示第i位的局部字段(总输入)。当输出变化δx_i和局部字段的符号匹配时，能量减小。伊辛机300根据能量变化值ΔE_i的增加或减小来确定是否接受第i位的反转。注意，式(2)仅在只有一个位被反转的情况下才是正确的。

指示能量增量的式(2)可以改写如下。

第i位的局部字段由h_i表示。当第j位x_j被反转时第i位的局部字段h_i的变化δh_i ^(j)由下述式(5)表示。

通过准备存储局部字段h_i的寄存器，并且在第j位被反转时将式(5)指示的值与存储的局部字段h_i相加，总是获得正确的h_i。

通过如上所述的计算，可以获得在第i位被反转的情况下的能量增量。伊辛机300基于获得的能量增量来确定是否接受第i位的反转。例如，伊辛机300根据Metropolis方法来确定是否接受位的反转。在遵循Metropolis方法的情况下，当能量增量为负(能量减小)时接受位的反转。当能量增量为正(能量增加)时，根据能量增量基于概率来确定是否接受位的反转。

可以通过使用温度参数来调整在能量增量为正的情况下接受位的反转的概率。例如，随着温度参数值增加，伊辛机300增加在能量增量为正的情况下接受位的反转的概率。利用这样的配置，通过增加温度参数值，可以增加伊辛模型的能量的状态从局部解中逃离的可能性。

当将温度参数限定为T时，逆温度β＝1/T。例如，伊辛机300通过使用能量变化值ΔE_ij和逆温度β，借助于下述式(6)来确定对第i状态变量的状态转换的接受概率来进行概率搜索。

A(ΔE_i，β)＝f(-βΔE_i) (6)

式(6)中的函数f(x)为Metropolis方法中的下述式(7)。

f(x)＝min(1，e^x) (7)

注意，当温度参数值大时，局部搜索变得困难。因此，伊辛机300通过使用例如具有不同温度参数值的多个副本来进行解搜索。在这种情况下，伊辛机300可以进行副本交换。

图7是示出了副本交换的示例的图。在副本交换中，使用多个副本。副本为要解决的问题的一组状态变量的拷贝。伊辛机300向副本的温度参数设置不同的值。在图7的示例中，温度参数T₁、T₂、T₃和T₄被设置给四个副本(T₁<T₂<T₃<T₄)。

伊辛机300通过MCMC改变多个副本中的每个副本的状态。此外，伊辛机300根据预定概率在当按温度参数值的顺序排列副本时彼此相邻的副本之间交换温度参数值。然后，每个副本沿温度轴方向随机行走。由于副本的随机行走，存在下述可能性：即使副本陷入局部解中，当该副本移动至高温侧时，该副本也可以从局部解中逃离。此外，当副本移动至低温侧时，可以进行局部搜索。

通过如在副本交换中那样使用大量副本进行组搜索，可以加速通过蒙特卡洛方法进行的解搜索。然而，仅通过使用多个副本来进行组搜索，多个副本停留在相同的局部解中，并且难以解决不能足够广泛地搜索状态空间的问题。例如，当伊辛模型的状态变量(位)的数目为N时，状态空间中存在2^N个状态。因此，当状态变量的数目增加时，即使使用实际上可能的数目的副本来进行搜索，也难以获得组搜索的益处。

因此，伊辛机300通过使用根据部分副本之间的距离的相互作用执行副本的状态转换来在状态空间中进行有效搜索。利用这样的配置，提高了通过使用多个副本的组搜索得到的解搜索性能。

例如，副本交换允许在状态空间中进行大范围的搜索。然而，在未考虑副本之间的相互作用的情况下，每个副本根据当时的温度参数值仅独立地进行位翻转(马尔可夫链)。通过使用副本之间的相互作用，可以防止多个副本在各个副本的马尔可夫链中同时停留在相同的局部解。

此外，在1个位翻转的情况下，当按照转换目的地候选的选择方法以相等的概率选择N位时，转换概率仅由能量变化值ΔE_i确定。在这种情况下，由于每个副本仅根据能量梯度改变其状态，因此很可能遵循相同的路径，并且可能无法足够广泛地搜索状态空间。此外，当每个副本陷入相同的局部解中时(针对所有位i，ΔE_i＞0)，也难以从局部解中逃离。

伊辛机300使用梅特罗波利斯-黑斯廷斯方法而不是Metropolis方法来计算是否接受转换的接受概率。这允许以适当的方式将副本之间的相互作用的影响并入至计算中。

例如，将从当前状态x提议下一个状态X′的概率限定为g(X→X′)，并且将接受该状态转换的概率限定为A(X→X′)。通过下述式(8)获得从状态X到状态X′的转换的概率W(X→X′)。

W(X→X′)＝g(X→X′)A(X→X′) (8)

当表示目标概率分布(例如，吉布斯分布)的函数(目标函数)被限定为π(X)时，详细的平衡条件如下。

π(X)W(X→X′)＝π(X′)W(X′→X) (9)

∴π(X)g(X→X′)A(X→X′)＝π(X′)g(X′→X)A(X′→X) (10)

根据式(10)，满足详细平衡的接受概率如由式(11)指示。

A(X→X′)/A(X′→X)＝[g(X′→X)/g(X→X′)]·[π(X′)/π(X)] (11)

在应用梅特罗波利斯-黑斯廷斯方法的情况下，接受概率由下述式(12)给出。

即使在提议概率为非对称的并且g(X→X')≠g(X'→X)时，该接受概率也满足详细的平衡条件。此外，在提议概率为对称的并且g(X→X')＝g(X'→X)的情况下，获得如由式(13)指示的Metropolis接受概率。

当此处考虑1个位翻转时，在不考虑副本之间的相互作用的情况下，以相等的概率选择N个位作为用于反转的候选，并且提议概率如由式(14)指示。

注意，梅特罗波利斯-黑斯廷斯方法对应于由提议概率指示的提议分布为不对称的情况。因此，在如何确定提议分布方面存在一定的自由度。因此，伊辛机300将副本之间的相互作用引入提议概率。

例如，伊辛机300针对为离散空间的状态空间限定适当的距离，并且确定副本之间的距离。伊辛机300进行下述操作：通过使用副本之间的距离来确定副本之间的相互作用；以梅特罗波利斯-黑斯廷斯方法限定转换目的地候选的分布(提议分布)；以及将该分布并入至接受概率的计算中。

副本之间的距离的示例为两个副本的状态的汉明距离(或其单调递增函数)。伊辛机300限定所有副本之间的汉明距离，从而引入副本之间的相互作用。

在如由式(14)指示的提议分布中，由于以相等的概率1/N选择转换候选，因此归一化常数为N(每个转换目的地的权重共同为1)。在引入副本之间的相互作用的情况下，转换候选的权重是不同的，并且归一化常数取决于转换之前的当前状态。虽然伊辛机300也需要计算归一化常数，但是在相互作用为汉明距离的线性表达式的情况下，归一化常数可以通过差分计算(累加计算)容易地进行计算。

在下文中，将具体描述考虑到副本之间的距离来计算提议概率的方法。首先，提议概率的一般系统限定如下。

将考虑包括M个副本(M为大于或等于1的整数)的系统。第一副本的状态变量限定为x^l＝(x₁ ^l,x₂ ^l,...,x_N ^l),x_j ^l∈{0,1}。两个副本x^l与x^k之间的距离(该距离的递增函数)限定为d(x^l,x^k)，并且相互作用的能量给定为G(x)。在考虑到所有副本之间的相互作用的情况下，可以以多种方式限定相互作用的能量，例如，如由式(15)或式(16)指示的那样限定相互作用的能量。

此处，γ为实数的常数。当γ为正值时，可以将相互作用视为吸引的相互作用，并且当γ为负值时，可以将相互作用视为排斥的相互作用。

在式(15)或式(16)中包括的副本之间的距离的计算次数针对每个副本为M，而针对整个伊辛机300为M²。随着副本的数目增加，计算量显著增加。因此，在伊辛机300中，通过在M个副本中的部分副本之间提供相互作用来进行处理。例如，存在向每个副本提供相互作用的副本的下述四种选择方法，并且在所述四种方法中的每种方法中限定的G(x)是不同的。稍后将描述在所述方法中的每种方法中使用的G(x)。

通过使用G(x)，提议概率给定为g(x^l→x^l[j₀])。其中x^l的第j₀位被翻转的状态由x^l[j₀]表示。例如，提议概率可以如由式(17)或式(18)指示的来限定。

此处，Z(x^l)为归一化常数，并且稍后将描述计算方法。

在使用汉明距离的线性函数作为副本之间的距离的情况下，副本之间的距离可以由式(19)限定。

在这种情况下，ΔG＝G(x^l[j₀])-G(x^l)和g(x^l→x^l[j₀])可以计算如下。

以这样的方式，可以计算反映副本之间的相互作用的提议概率。接下来，将描述接受概率的定义。

当采用Metropolis标准时，一般系统的接受概率a(x^l→x^l[j₀])可以限定如下。

然后，转换概率变为W(x^l→x^l[j₀])＝g(x^l→x^l[j₀])×a(xⁱ→xⁱ[j₀])。因此，在这些计算中使用了三个量——ΔE、ΔG和归一化常数Z。

此处，将通过以使用汉明距离的线性函数作为副本之间的距离的情况作为示例来描述计算归一化常数Z的方法。由于归一化常数Z(x^l)处于其中提议候选仅翻转副本l中的一个位的状态，因此归一化常数Z(x^l)通过下述式(23)计算为总和。

当用式(23)计算归一化常数时，将针对所有自旋的数目计算指数函数的和，并且计算量将是巨大的。因此，伊辛机300通过基于进行1个位翻转的事实进行差分计算(累加计算)来抑制计算量。在仅翻转副本l的第j位的情况下的归一化常数之间的差如由下述式(24)指示的。

Z(x^l[j₀])-Z(x^l)＝exp(+βΔG)-exp(-PΔG) (24)

伊辛机300可以通过下述操作来获得位翻转之后的归一化常数：将通过计算式(24)的右侧获得的归一化常数之间的差添加至位翻转之前的归一化常数。注意，在接受位翻转的情况下，伊辛机300将此时的归一化常数存储在寄存器或存储器中，并且使用该归一化常数来计算下一次位翻转时的归一化常数。

接下来，将通过以使用汉明距离的线性函数作为副本之间的距离的情况作为示例来描述计算ΔG的方法。ΔG的计算通常为副本之间的距离(或距离的递增函数)之间的差分计算。在简单的差分计算中，需要存储转换之前和之后的副本之间的汉明距离。然而，当已知特定形式的距离(或距离的递增函数)时，通过执行差分计算，可以执行改写为仅取决于当前状态的量，如由式(25)和式(26)指示的。

在式(26)中，x_j0(l)(x顶部具有波浪号)为位串x_j0(l)(x顶部具有波浪号)＝(x_j ^l，x_j ^l，……，x_j ^l)。此外，x_j0(x顶部具有波浪号)为位串x_j0(x顶部有波浪号)＝(x_j ¹，x_j ²，……，x_j ^M)的向量。

通过使用式(26)，在使用汉明距离的线性函数作为副本之间的距离的情况下，ΔG可以仅通过新引入的位串的向量之间的汉明距离来描述。因此，仅需要更新汉明距离。

注意，在上面的描述中假设了1个位翻转的情况，但是存在在一个状态转换中翻转多个位的情况。这种情况的示例是解决具有独热约束的问题的情况。

独热约束为“在特定变量集中仅一个变量具有值1”的约束。该约束适用于各种问题，诸如二次分配问题(QAP)和车辆路径问题(VRP)。

图8是示出了独热约束下的1个位翻转的示例的图。在图8的示例中，指示伊辛模型的状态变量的位被划分成均包括四个位的组。独热约束允许属于相同组的位中的仅一个位为“1”。当在这样的独热约束下进行1个位翻转时，在一个状态转换中仅一个位被反转，从而导致约束违反状态。当再次进行1个位翻转时，可能满足约束的条件。

以这样的方式，在解决具有独热约束的问题的情况下，1个位翻转是低效的。因此，伊辛机300可以在一个状态转换中翻转多个位。

独热约束包括单种方式(1-Way)独热(1W1H)和2种方式(2-Way)独热(2W1H)。1W1H为这样的约束：当位通过一种方式进行分组时，每组中仅一个位具有值“1”。图8所示的示例为1W1H，并且通过在一个状态转换中翻转2个位，可以在满足约束的同时进行状态转换。

在2W1H中，位通过两种方式进行分组。在这种情况下，位属于通过不同方式生成的两个组。此外，在2W1H中，也存在这样的约束：每个组中仅一个位具有值“1”。

图9是用于描述2W1H约束的图。在图9中，N个位为n×n(n为大于或等于1的整数)方形矩阵的元素。N＝n²成立。在2W1H中，存在这样的约束：一行中的位值的和与一列中的位值的和均为“1”。例如，约束在下述情况下得到满足：在同一行中的位中的仅一个位具有值“1”并且在同一列中的位中的仅一个位具有值“1”。在存在2W1H约束的情况下，通过在一个状态转换中翻转4个位，可以在满足约束的同时进行状态转换。

此处，当m＝1、2、……、N时，针对1个位翻转、1W1H中的2个位翻转以及2W1H中的4个位翻转中的每个翻转的状态转换、能量变化值ΔE和局部字段更新量Δh表示如下。

<1个位翻转>·状态转换：x_i→x_i+Δx_i·能量变化值：ΔE_i＝-h_i·Δx_i·局部字段更新量：Δh_m＝W_mi·Δx_i。

<1W1H(2个位翻转)>·状态转换：x_i:1→0，x_j:0→1·能量变化值：ΔE_j＝h_i-h_j·局部字段更新量：Δh_m＝-W_mi+W_mj。

<2W1H(4个位翻转)>·状态转换：x_i:1→0，x_j:0→1，x_k:0→1，x_l:1→0·能量变化值：ΔE_j＝(h_i+h_l)-(h_j+h_k)-(W_il+W_jk)·局部字段更新量：Δh_m＝W_mj+W_mk-(W_mi+W_ml)。

例如，当用户给出用于解决问题的指令时，由该用户指定要施加的约束。伊辛机300根据指定的约束计算ΔE，并且以根据副本之间的距离的转换概率来反转一个或多个位。

接下来，将描述考虑到副本之间的距离由伊辛机300进行的解搜索功能。

图10是示出了伊辛机的解搜索功能的示例的图。伊辛机300包括数据接收单元340、解搜索引擎350和解输出单元360。数据接收单元340和解输出单元360是由图5所示的控制电路320实现的功能。解搜索引擎350是由图5所示的控制电路320控制神经元电路311、312、……、31n和存储器330实现的功能。

数据接收单元340从控制装置200接收用于解决要解决的问题的信息。例如，数据接收单元340获取诸如温度、副本的数目、副本之间的相互作用的大小、迭代的数目(状态转换的迭代的数目)以及初始状态的参数。另外，数据接收单元340获取诸如权重矩阵(二次表达式的系数)、偏置矩阵(线性表达式的系数)、常数项以及独热约束的组信息的数据，该权重矩阵包括表示要解决的问题的伊辛模型的权重系数作为元素。此外，数据接收单元340获取稍后描述的用于确定施加副本之间的相互作用的范围的参数。数据接收单元340将接收到的信息发送至解搜索引擎350。

解搜索引擎350使用多个副本进行搜索以寻找使能量最小化的解。为此，解搜索引擎350包括副本存储单元351和多个副本解搜索单元352a、352b、……、352n。副本存储单元351是通过使用例如图5所示的存储器330来实现的。多个副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元是通过使用针对包括在伊辛模型中的每个位的神经元电路来实现的。

副本存储单元351存储副本的状态。例如，副本按顺序进行更新，但是使用在更新之前的副本的状态来计算副本之间的相互作用。因此，副本存储单元351存储在更新之前的副本的状态。副本的状态由与状态变量对应的位的值以及诸如温度参数的参数的值来表示。

副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元通过副本分别进行解搜索。例如，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元在经由副本存储单元351与其他副本解搜索单元交换指示各自副本的状态的信息的同时计算副本之间的相互作用并且进行解搜索。

图11是示出了解搜索引擎中的处理的示例的图。例如，副本解搜索单元352a存储权重系数(W_ij)。副本解搜索单元352a基于式(4)使用该权重系数(W_ij)和每个位(x₁ ¹,x₂ ¹,...,x_N ¹)的当前值来计算局部字段(h₁,h₂,...,h_N)。接下来，副本解搜索单元352a基于式(26)来计算在每个位翻转的情况下的副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)。此时，副本解搜索单元352a进行下述操作：从副本存储单元351获取指示另一副本(从M个副本中排除了副本解搜索单元352a负责针对其进行解搜索的副本的副本组的一部分)的状态的信息(每个位值)；计算到该另一副本的距离；以及通过使用计算的结果来计算副本之间的相互作用的能量差。

此外，副本解搜索单元352a使用局部字段(h₁,h₂,...,h_N)的值来计算能量变化值(E₁,E₂,...,E_N)。注意，能量变化值的计算表达式取决于是否应用1个位翻转、1W1H或2W1H而不同。例如，在1个位翻转的情况下，能量变化值为“ΔE_i＝-h_i·Δx_i”。在1W1H(2个位翻转)的情况下，能量变化值为“ΔE_j＝h_i-h_j”。在2W1H(4个位翻转)的情况下，能量变化值为ΔE_j＝(h_i+h_l)-(h_j+h_k)-(W_il+W_jk)。

副本解搜索单元352a从能量变化值ΔE中减去正偏移值E_off。在可能无法选择要翻转的位的情况下，将预定值添加至偏移值E_off。重复偏移值E_off的增加，直到选择了要翻转的位。通过以这样的方式增加偏移值E_off，缩短了其间副本的能量停留在局部最小值的时间。注意，偏移值E_off的初始值为例如“0”。

副本解搜索单元352a基于在每个位被翻转的情况下的能量变化值ΔE(在偏移值E_off为非“0”的情况下通过减去偏移值E_off获得的值)来选择要翻转的位(更新位)。存在各种更新位选择方法(参见图25至图28)。根据更新位选择方法，在选择更新位时可以拒绝接受任何位的更新，并且可能不选择更新位。例如，在可能不选择更新位的情况下，副本解搜索单元352a增加偏移值E_off并且再次选择更新位。

在可以选择更新位的情况下，副本解搜索单元352a翻转更新位的值并且生成更新之后的副本的状态“x₁ ¹,x₂ ¹,...,x_N ¹”。

除了副本解搜索单元352a之外的副本解搜索单元352b、……、352n也以与副本解搜索单元352a类似的方式生成更新之后的副本的状态。

由副本解搜索单元352a、352b、……、352n生成的副本的状态“x₁ ¹,x₂ ¹,...,x_N ¹”、“x₁ ²,x₂ ²,...,x_N ²”、……、“x₁ ^N,x₂ ^N,...,x_N ^N”由副本存储单元351保存。副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元可以通过参照副本存储单元351来计算在下一状态更新时的副本之间的相互作用的能量差。

在下文中，将详细描述由解搜索引擎350进行的解搜索的过程。

解搜索的过程根据向各副本提供相互作用的副本的选择方法而不同。

(提供相互作用的副本的第一选择方法)

第一选择方法用于基于向每个副本赋予的标签(副本编号)周期性地向M个副本提供相互作用，并且向具有副本编号＝l的副本提供相互作用的副本限于具有l±s的范围中的副本编号的副本。

在第一选择方法中，提供至具有副本编号＝l的副本的相互作用的强度可以由例如下述式(27)而不是式(15)或式(16)来限定。

例如，相互作用的强度基于具有副本编号＝1的副本与具有l±s的范围中的副本编号的副本之间的距离来限定。

图12是示出了提供相互作用的副本的第一选择方法的示例的图。

图12示出了下述示例：在该示例中，12个副本被赋予从1至12的副本编号，并且对于这些副本，s＝2成立，其中，s确定向各副本提供相互作用的副本的范围(相互作用的应用的范围)。如图12所示，向具有副本编号＝l的副本提供相互作用的副本是具有在1±2的范围中的副本编号的副本。在这种情况下，1-2将为负的副本编号。为了避免生成负的副本编号，假设副本编号循环，使得l＝1先前的编号为l＝12(l＝12之后是l＝1)，如图12的示例中那样。例如，假设k＝l±s mod M为向具有副本编号＝l的副本提供相互作用的副本的范围。例如，被赋予——包括在通过将l-s除以M获得的余数与通过将l+s除以M获得的余数之间的范围中的——副本编号的副本在向具有副本编号＝l的副本提供相互作用的副本的范围中。因此，在式(27)中，在k＝M+1的情况下，k＝1成立，在k＝-2的情况下，k＝M-1成立。

图13是示出了在使用提供相互作用的副本的第一选择方法的情况下的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图13所示的处理。

[步骤S100]解搜索引擎350在副本解搜索单元352a、352b、……、352n中设置应用副本之间的相互作用的范围。应用相互作用的应用范围由上面描述的参数确定。例如，s经由数据接收单元340从控制装置200供应至解搜索引擎350。

[步骤S101]解搜索引擎350在副本要被分配至的副本解搜索单元352a、352b、……、352n中设置多个副本的初始状态(每个位值、温度参数值等)。副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元基于所分配的副本的初始状态来计算初始能量、副本之间的初始距离、初始归一化常数等。

[步骤S102]解搜索引擎350使副本解搜索单元352a、352b、……、352n针对每个副本执行解搜索。稍后将描述针对每个副本的解搜索处理的细节(参见图14)。

[步骤S103]解搜索引擎350确定是否满足解搜索的结束条件。例如，在重复步骤S102中的处理的次数达到预定次数的情况下，解搜索引擎350确定满足结束条件。在满足结束条件的情况下，解搜索引擎350使处理前进至步骤S108。此外，在不满足结束条件的情况下，解搜索引擎350使处理前进至步骤S104。

[步骤S104]解搜索引擎350选择当多个副本按照温度参数值的顺序排列时相邻的成对的副本。

[步骤S105]解搜索引擎350确定是否在所选择的成对的副本之间进行温度交换。例如，解搜索引擎350根据梅特罗波利斯-黑斯廷斯标准基于副本之间的能量差和每个副本的温度参数值来获得交换概率。然后，当交换概率为1时，解搜索引擎350确定进行温度交换。此外，当交换概率小于1时，解搜索引擎350生成例如在0与1之间的随机数，当随机数的值等于或小于交换概率时，解搜索引擎350确定进行温度交换。

[步骤S106]当确定进行温度交换时，解搜索引擎350交换所选择的成对的副本的温度参数值。

[步骤S107]解搜索引擎350确定是否已经选择了所有成对的相邻副本。在存在尚未选择的副本对的情况下，解搜索引擎350使处理前进至步骤S104。此外，在选择了所有的副本对的情况下，解搜索引擎350使处理前进至步骤S102。

[步骤S108]解搜索引擎350输出使能量最小化的副本的状态作为解。

以这样的方式，通过使用多个副本，同时进行副本交换，来进行有效的解搜索。

接下来，将详细描述针对每个副本的解搜索处理。

图14是示出了针对每个副本的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图14所示的处理。

[步骤S110]解搜索引擎350中的副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元针对所分配的副本计算副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)。稍后将描述副本之间的相互作用的能量差的计算处理的细节(参见图15)。

[步骤S111]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元针对所分配的副本计算能量变化值(ΔE₁,ΔE₂,...,ΔE_N)。

[步骤S112]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元增加迭代的数目。

[步骤S113]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元确定迭代是否已经进行了预定次数。在迭代已经进行了预定次数的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元结束针对每个副本的解搜索处理。在迭代的数目未达到预定次数的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S114。

[步骤S114]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元进行更新位选择处理。稍后将描述更新位选择处理的细节(参见图25至图28)。

[步骤S115]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元确定是否已经选择了更新位。在尚未选择更新位的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S114。此外，在选择了更新位的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S116。

[步骤S116]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元更新关于副本的信息。例如，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元翻转所选择的位的状态，并且更新每个位的局部字段h、副本的能量E、该副本与另一副本之间的距离d以及归一化常数Z。此后，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S110。

接下来，将详细描述副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)的计算处理。

图15是示出了用于计算副本之间的相互作用的能量差的过程的示例的流程图。在下文中，将沿步骤编号描述图15所示的处理。

[步骤S120]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算该副本解搜索单元负责针对其的解搜索的副本与任何其他副本之间的汉明距离。在提供相互作用的副本的第一选择方法中，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算该副本解搜索单元负责针对其的解搜索的副本与具有——相对于该副本解搜索单元负责针对其的解搜索的副本的副本编号在±s的范围中的——副本编号的副本之间的汉明距离。

[步骤S121]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元针对所分配的副本的每个位计算在相应位被翻转的情况下的转换之前的副本与转换之后的副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)。例如，在第一位被翻转的情况下，副本之间的相互作用的能量差为ΔG₁。在提供相互作用的副本的第一选择方法中，通过使用通过将在步骤S120的处理中计算的汉明距离代入式(27)而获得的相互作用的强度来计算相互作用的能量差。

[步骤S122]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算所分配的副本的归一化常数Z。例如，在副本之间的距离为汉明距离的线性表达式的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元可以计算在状态转换之前和之后的归一化常数之间的差。在计算所述差的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元可以通过针对每个状态转换对归一化常数之间的差进行合并来获得最新的归一化常数。

在提供相互作用的副本的第一选择方法中，副本之间的距离的计算次数为2sM次，其中每次进行重复状态转换的处理时计算副本之间的距离。因此，当s小时，与考虑所有副本之间的相互作用的情况下的计算次数(M²次)相比，计算次数可以显著减少。

注意，虽然不能直接观察所有副本的状态，但是通过将向各副本提供相互作用的范围设置为副本编号的±s的范围，可以预期副本之间的每个相互作用的影响将扩展至整个副本组。

(提供相互作用的副本的第二选择方法)

第二选择方法用于基于向每个副本赋予的标签将M个副本分组成多个组，并且仅在属于不同组的副本之间提供相互作用。在该方法中，向具有副本编号＝l的副本提供相互作用的副本限于与具有副本编号＝l的副本所属的组不同的组中的代表性副本。

在第二选择方法中，提供至具有副本编号＝l的副本的相互作用的强度可以由例如下述式(28)而不是式(15)或式(16)来限定。

在式(28)中，r表示具有副本编号＝l的副本所属的组的组编号，并且R表示组的总数。此外，x^(k) _rep表示具有组编号k的组中的代表性副本。如式(28)中的，相互作用的强度是基于具有副本编号＝l的副本与具有除组编号＝r之外的组编号的组中的代表性副本之间的距离来限定的。

图16是示出了提供相互作用的副本的第二选择方法的示例的图。

图16示出了其中九个副本被分组成三组的示例。具有副本编号＝1、2和3的副本属于具有组编号＝1的组，具有副本编号＝4、5和6的副本属于具有组编号＝2的组，并且具有副本编号＝7、8和9的副本属于具有组编号＝3的组。

此外，在图16的示例中，在每个组中，将具有中间副本编号的副本设置为代表性副本。例如，具有组编号＝1的组的代表性副本为具有副本编号＝2的副本，具有组编号＝2的组的代表性副本为具有副本编号＝5的副本，并且具有组编号＝3的组的代表性副本为具有副本编号＝8的副本。

在图16的示例中，向具有副本编号＝1的副本提供相互作用的副本为属于具有组编号＝2的组的具有副本编号＝5的副本和属于具有组编号＝3的组的具有副本编号＝8的副本。

图17是示出了在使用提供相互作用的副本的第二选择方法的情况下的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图17所示的处理。

[步骤S130]解搜索引擎350在副本解搜索单元352a、352b、……、352n中设置指示各副本属于哪个组的分组信息。由例如被赋予了来自服务器100的组的总数R的控制装置200预先执行对副本的分组，并且组编号与各自的副本编号相关联。作为分组的结果获得的分组信息经由数据接收单元340供应至解搜索引擎350。

[步骤S131]解搜索引擎350在副本解搜索单元352a、352b、……、352n中设置指示每个组的代表性副本的信息。每个组的代表性副本例如由控制装置200确定。例如，如图16中的，在每个组中，将具有中间副本编号的副本确定为代表性副本。指示所确定的每个组的代表性副本的信息经由数据接收单元340供应至解搜索引擎350。

除了步骤S133的处理之外，后续处理(步骤S132至步骤S139)与图13的处理(步骤S101至步骤S108)相同。

步骤S133中针对每个副本的解搜索处理以与图14所示的处理过程相同的处理过程来进行。然而，在步骤S110的处理内容中，图15所示的步骤S120和步骤S121的处理与应用了提供相互作用的副本的第一选择方法的情况中的处理不同。例如，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元在步骤S120和步骤S121的处理中进行下述处理。

在步骤S120的处理中，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元基于分组信息来识别该副本解搜索单元负责针对其的解搜索的副本属于的组。然后，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元基于指示代表性副本的信息来计算该副本解搜索单元负责针对其的解搜索的副本与其他组中的每个组的代表性副本之间的汉明距离。

在步骤S121的处理中，在提供相互作用的副本的第二选择方法中，通过使用通过将如上所述计算的汉明距离代入式(28)而获得的相互作用的强度来计算相互作用的能量差。

在提供相互作用的副本的第二选择方法中，副本之间的距离的计算次数为M(R-1)次，其中每次进行重复状态转换的处理时计算副本之间的距离。因此，当R小时，与考虑所有副本之间的相互作用的情况下的计算次数(M²次)相比，计算次数可以显著减少。

在这样的方法中，属于相同组的副本的状态以相同的方式进行转换，并且针对每个组搜索状态空间。

(提供相互作用的副本的第三选择方法)

第三选择方法用于动态地确定应用相互作用的副本的范围。在该方法中，与第一方法一样，向具有副本编号＝l的副本提供相互作用的副本将限于具有在l±s_t的范围内的副本编号的副本，但是s_t动态地改变。每次执行重复状态转换的处理时，计算具有副本编号＝l的副本与具有在l±s_t范围内的副本编号的副本之间的距离的平均值，并且基于该平均值与两个阈值(D₁和D₂(D₁<D₂))之间的比较的结果，s_t减小或增加。例如，在生成排斥的相互作用的情况下，当上面描述的距离的平均值小于D₁时，s_t递增一，而当上面描述的距离的平均值大于D₂时，s_t递减一。反过来，在生成吸引的相互作用的情况下也是如此。注意，s_t的变化幅度不限于±1，而也可以为±2，或者可以为更大的变化幅度。

在第三选择方法中，提供至副本编号＝l的副本的相互作用的强度可以由例如下述式(29)而不是式(15)或式(16)来限定。

如式(29)中的，相互作用的强度是基于具有副本编号＝l的副本与具有在l±s_t的范围中的副本编号的副本之间的距离来限定的。

注意，具有副本编号＝l的副本与具有在l±s_t的范围中的副本编号的副本之间的距离的平均值d_t由下述式(30)表示。

图18是示出了提供相互作用的副本的第三选择方法的示例的图。

图18示出了下述示例：在该示例中，12个副本被赋予从1至12的副本编号，并且对于这些副本，当确定向各副本提供相互作用的副本的范围(相互作用的应用的范围)的s_t在一定的迭代次数t处时，s_t＝2成立。

此时，在排斥的相互作用太强的情况下(在上面描述的平均值d_t>D2的情况下)，s_t递减一，并且在下一迭代次数t+1下s_t+1为1。

注意，与第一选择方法类似，为了避免生成负的副本编号，假设副本编号循环，使得l＝1先前的编号为l＝12(l＝12之后是l＝1)，如图18的示例中那样。例如，假设k＝l±s_tmod M为向具有副本编号＝l的副本提供相互作用的副本的范围。

图19是示出在使用提供相互作用的副本的第三选择方法的情况下的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图19所示的处理。

[步骤S140]解搜索引擎350在副本解搜索单元352a、352b、……、352n中设置上面描述的两个阈值(D₁和D₂(D₁<D₂))。例如，D₁和D₂由服务器100确定，被输入至控制装置200，并且经由数据接收单元340供应至解搜索引擎350。

[步骤S141]在步骤S141的处理中，进行与图13的步骤S101的处理类似的处理。注意，解搜索引擎350还进行至t＝0的初始化，并且在副本解搜索单元352a、352b、……、352n中设置上面描述的s_t的初始值s₀。针对初始值s₀，在生成排斥的相互作用的情况下s₀＝0成立，而在生成吸引的相互作用的情况下s₀＝1成立。此外，解搜索引擎350将上面描述的距离的平均值d_t初始化为d₀＝0。

除了步骤S142的处理之外，后续处理(步骤S142至步骤S148)与图13的处理(步骤S103至步骤S108)相同。

在提供相互作用的副本的第三选择方法中，步骤S142中针对每个副本的解搜索处理例如如下进行。

图20是示出了在使用提供相互作用的副本的第三选择方法的情况下的针对每个副本的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图20所示的处理。

[步骤S150]解搜索引擎350中的副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元确定d_t＜D₁是否成立。在确定d_t＜D₁成立的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S151。此外，在确定d_t＜D₁不成立的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S152。

[步骤S151]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元更新s_t。在生成排斥力作为相互作用的情况下，更新s_t使得s_t＝s_t+1成立，并且在生成吸引力作为相互作用的情况下，更新s_t使得s_t＝s_t-1成立。

[步骤S152]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元确定d_t>D₂是否成立。在确定d_t>D₂成立的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S153。此外，在确定d_t>D₂不成立的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元使处理前进至步骤S154。

[步骤S153]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元更新s_t。在生成排斥力作为相互作用的情况下，更新s_t使得s_t＝s_t-1成立，并且在生成吸引力作为相互作用的情况下，更新s_t使得s_t＝s_t+1成立。

除了步骤S154的处理之外，后续处理(步骤S154至步骤S160)与图14的处理(步骤S111至步骤S116)相同。当完成步骤S160的处理时，通过使用在步骤S156的处理中增加的迭代次数t来重复从步骤S150起的处理。

接下来，将详细描述作为步骤S154的处理的副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)的计算处理。

图21是示出了用于计算副本之间的相互作用的能量差的过程的示例的流程图。在下文中，将沿步骤编号描述图21所示的处理。

[步骤S170]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算该副本解搜索单元负责针对其的解搜索的副本与任何其他副本之间的汉明距离。在提供相互作用的副本的第三选择方法中，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算该副本解搜索单元负责针对其的解搜索的副本与具有——相对于该副本解搜索单元负责针对其的解搜索的副本的副本编号在±s_t的范围中的——副本编号的副本之间的汉明距离。

[步骤S171]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元针对所分配副本的每个位计算在相应位被翻转的情况下的转换之前的副本与转换之后的副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)。在提供相互作用的副本的第三选择方法中，通过使用通过将在步骤S170的处理中计算的汉明距离代入式(29)而获得的相互作用的强度来计算相互作用的能量差。

[步骤S172]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算所分配的副本的归一化常数Z。

[步骤S173]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元通过使用在步骤S170的处理中计算的汉明距离来计算由式(30)表示的d_t。

在提供相互作用的副本的第三选择方法中，副本之间的距离的计算次数为2s_tM次，其中每次进行重复状态转换的处理时计算副本之间的距离。因此，当s_t小时，与考虑所有副本之间的相互作用的情况下的计算次数(M²次)相比，计算次数可以显著减少。

在生成排斥的相互作用的情况下，副本之间的距离的平均太小(d_t<D₁)的事实表明副本处于相似状态并且未反映相互作用的预期效果。因此，s_t在下一迭代次数中增加。此外，副本之间的距离的平均太大(d_t>D₂)的事实表明副本处于显著不同的状态，并且也未反映相互作用的预期效果。因此，s_t在下一迭代次数中减小。反过来，在生成吸引的相互作用的情况下也是如此。以这样的方式，可以抑制生成不必要的相互作用。

(提供相互作用的副本的第四选择方法)

第四方法用于随机地确定应用相互作用的副本的范围。在该方法中，每次执行重复状态转换的处理时，以预定概率p采用其他副本作为向具有副本编号＝l的副本提供相互作用的副本。当在一定的迭代次数t下向具有副本编号＝l的副本提供相互作用的副本(一组副本)的范围被限定为C_l(t)时，相互作用的强度可以由例如下述式(31)而不是式(15)或式(16)来限定。

图22是示出了提供相互作用的副本的第四选择方法的示例的图。

图22示出了四个副本之间的相互作用的存在或不存在。在图22的示例中，作为向具有副本编号＝1的副本提供相互作用的副本的范围的C₁(t)是{3,4}。例如，具有副本编号＝3和4的两个副本向具有副本编号＝1的副本提供相互作用。此外，作为向具有副本编号＝2的副本提供相互作用的副本的范围的C₂(t)为

(表示空集)。例如，没有副本向具有副本编号＝2的副本提供相互作用。此外，作为向具有副本编号＝3的副本提供相互作用的副本的范围的C₃(t)为{1,4}。例如，具有副本编号＝1和4的两个副本向具有副本编号＝3的副本提供相互作用。作为向具有副本编号＝4的副本提供相互作用的副本的范围的C₄(t)为{1,3}。例如，具有副本编号＝1和3的两个副本向具有副本编号＝4的副本提供相互作用。

图23是示出了在使用提供相互作用的副本的第四选择方法的情况下的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图23所示的处理。

[步骤S180]解搜索引擎350在副本解搜索单元352a、352b、……、352n中设置上面描述的概率p。例如，概率p由服务器100确定，被输入至控制装置200，并且经由数据接收单元340供应至解搜索引擎350。

[步骤S181]在步骤S181的处理中，进行与图13的步骤S101的处理类似的处理。注意，解搜索引擎350还进行至t＝0的初始化。

除了步骤S182的处理之外，后续处理(步骤S182至步骤S188)与图13的处理(步骤S103至步骤S108)相同。

在提供相互作用的副本的第四选择方法中，步骤S182中针对每个副本的解搜索处理例如如下进行。

图24是示出了在提供相互作用的副本的第四选择方法中针对每个副本的解搜索处理的过程的示例的流程图。在下文中，将沿步骤编号描述图24所示的处理。

[步骤S190]解搜索引擎350中的副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算上面描述的C_l(t)。例如，在其自身的副本的副本编号被限定为l的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元设置

然后，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元重复将[0,1]的随机数U₁赋予除了l之外的每个副本编号的处理，并且当p＜U₁成立时，以最多至副本编号＝M的副本编号的递增顺序将副本编号添加至C_l(t)。

除了步骤S191的处理之外，后续处理(步骤S191至步骤S197)与图14的处理(步骤S111至步骤S116)相同。当完成步骤S197的处理时，通过使用在步骤S193的处理中增加的迭代次数t来重复从步骤S190起的处理。

步骤S191中的副本之间的相互作用的能量差(ΔG₁,ΔG₂,...,ΔG_N)的计算处理的处理过程与图15所示的处理过程相同。然而，图15的步骤S120和步骤S121的处理与应用了提供相互作用的副本的第一选择方法的情况中的处理不同。例如，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元在步骤S120和步骤S121的处理中进行下述处理。

在步骤S120的处理中，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元计算具有包括在C_l(t)中的副本编号的副本与该副本解搜索单元负责针对其的解搜索的具有副本编号＝l的副本之间的汉明距离。

在步骤S121的处理中，在提供相互作用的副本的第二选择方法中，通过使用通过将如上所述计算的汉明距离代入式(31)而获得的相互作用的强度来计算相互作用的能量差。

副本之间的距离的计算次数的期望值(平均计算量)可以通过使用概率p由下述式(32)表示。

在式(32)中，i和j中的每一个表示副本编号，并且“i←→j”表示在具有副本编号＝i和j的副本之间提供相互作用。E表示期望值，并且P表示在具有副本编号＝i和j的副本之间提供相互作用的概率。此外，1{i←→j}为下述指示函数：在具有副本编号＝i和j的副本之间给出相互作用的情况下变为1，而在没有给出相互作用的情况下变为0。

如式(32)中的，平均计算量为pM(M-1)/2，并且当p的阶数足够小为1/M时，与考虑所有副本之间的相互作用的情况下的计算次数(M²次)相比，计算次数可以显著减少。

在这样的方法中，通过随机地限制在每个迭代次数下提供相互作用的范围，即使在副本编号具有大差异的副本之间也可以提供相互作用的可能性增加。例如，存在与副本编号的差异无关地在副本之间提供相互作用的可能性，并且可以抑制取决于副本编号的相互作用的应用的范围的偏差。

(更新位选择方法)

接下来，将描述图14的步骤S114和图20的步骤S158中的更新位选择方法。作为更新位选择方法，例如，可以考虑下述三种方法。

第一更新位选择方法为原始玻尔兹曼方法。第二更新位选择方法为进行能量的并行计算并且首先参考能量减小的方向以有效地进行位更新的方法。第三更新位选择方法为其中位翻转始终在一次迭代中发生的无拒绝方法。

图25是示出了由第一更新位选择方法进行的更新位选择处理的过程的示例的流程图。在下文中，将沿步骤编号描述图25所示的处理。

[步骤S201]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元根据考虑副本之间的距离的提议概率g(x^l→x^l[j])来选择位j。

[步骤S202]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元根据Metropolis标准的接受概率a(x^l→x^l[j])来确定是否翻转所选择的位。

虽然第一更新位选择方法是简单的方法(在该方法中计算是容易的)，但是翻转所选择的位的提议可能被拒绝。在提议被拒绝的情况下副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元在图14的步骤S115(或图20的步骤S159)中确定“否”，并且重复更新位选择处理。

在第一更新位选择方法中，存在如下可能性：由于提议分布中的偏差的影响，接受概率变小，以及仅发生拒绝。因此，在更新位的提议被拒绝的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元可以增加偏移值E_off，以增加在下一位更新时选择更新位的概率。例如，当不存在能量减小的方向(针对任何位更新，能量差变为正)时，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元将预定值与偏移值E_off相加。

此外，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元可以应用进行能量的并行计算并且首先参考能量减小的方向以有效地进行位更新的第二更新位选择方法。

图26是示出了第二更新位选择方法的处理过程的示例的流程图。在下文中，将沿步骤编号描述图26所示的处理。

[步骤S211]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元根据Metropolis标准的接受概率a(x^l→x^l[j])针对所有位确定在选择了相应位的情况下是否进行翻转。副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元设置指示与每个位相关联的确定结果的标志。

[步骤S212]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元通过参考每个位的标志并且使用以树形连接的选择器来给出考虑了副本之间的距离的梯度来选择更新位。

图27是示出了以树形连接的用于选择更新位的选择器的示例的图。根据多个位中的每个位的状态转换的能量变化值{ΔE_i}，控制电路320针对每个副本确定是否以上面描述的式(6)和式(7)的接受概率允许状态转换。然后，控制电路320通过以树形连接的选择器来选择被确定成接受状态转换的位中之一。控制电路320输出所选择的位的编号和转换适当性F。

以这样的方式，控制电路320可以通过针对多个位中的每个位进行并行搜索来增加可以选择更新位的概率。

为了进行并行搜索，控制电路320包括下述电路配置。作为示例，通过将位数设置为32来给出描述。在图27的示例中，假设所述位中的仅一个位被选择为更新位。

控制电路320包括比较电路单元51至54和选择器单元60。

比较电路单元51至54从神经元电路311、312、……、31n接收在多个状态变量中的每个状态变量被转换的情况下的能量变化值{ΔE_i}。比较电路单元51至54基于{ΔE_i}来确定是否接受每个状态转换，并且输出转换适当性{f_i}。比较电路单元51至54中的每个比较电路单元包括八个(＝32/4)比较器。包括在比较电路单元51至54中的所有比较器的总数为32。

例如，比较电路单元51包括比较器C0、C1、……、C7。比较电路单元52包括比较器C8、C9、……、C15。比较电路单元53包括比较器C16、C17、……、C23。比较电路单元54包括比较器C24、C25、……、C31。比较器C_i(在图27的示例中i为0至31的整数)接收ΔE_i，并且根据基于ΔE_i的确定来输出转换适当性f_i。在由比较器C_i进行的确定中，将通过使用能量变化值ΔE_i和温度参数T的值计算的接受概率与随机数值u(0≦u≦1)进行比较。例如，当随机数值u等于或小于接受概率时，比较器C_i确定接受第i位的翻转。

在比较电路单元51至54中，还可以预先计算由“T×log(u)”表示的值。该值为下述值：基于概率引起使能量增加的状态转换并且也可以被称为热激发能量或热噪声。比较器C_i将ΔE_i与热激发能量进行比较，并且例如当热激发能量较大时，确定接受第i位的翻转。

比较器C_i的输出值作为状态转换候选被输入至选择器单元60。然后，选择器单元60选择并输出多个状态转换候选中的任意一个。选择器单元60具有用于进行选择的n级(n为大于或等于2的整数)选择器树。在图27的示例中，n＝5。

选择器树的第一级(第一(1st))包括部分选择器单元60a和60b。选择器树的第二级(第二(2nd))包括部分选择器单元60c。选择器树的第三级(第三(3rd))包括部分选择器单元60d。选择器树的第四级(第四(4th))包括部分选择器单元60e。选择器树的第五级(第五(5th))包括部分选择器单元60f。

部分选择器单元60a、60b、……、60f中的每个部分选择器单元包括例如根据选择随机数来选择并输出两个输入中之一的一个或多个选择器。选择器61是多个选择器中的一个选择器，并且其他选择器具有与选择器61的配置类似的配置。到选择器61的两个输入是：用于指定转换编号i和j的标识值N_i和N_j；转换适当性信息f_i和f_j；以及提议概率g(x^l→x^l[i])和g(x^l→x^l[j])。选择器61的输出为：作为转换适当性信息f_i和f_j的逻辑和而获得的适当性信息f_o；用于指定所选择的转换编号i或j的标识值N_o；以及所选择位的提议概率g(x^l→x^l[o])。

在转换适当性信息f_i和f_j中的任一者为1(可接受)而另一个为0(不可接受)的情况下，选择器61总是选择可接受的位。在转换适当性信息f_i和f_j两者都为0的情况下，选择器61可以以任何方式进行选择。

在转换适当性信息f_i和f_j两者都为1的情况下，选择器61通过使用候选选择随机数以根据提议概率的概率选择一者。例如，选择器61根据提议概率g(x^l→x^l[i])和g(x^l→x^l[j])的比率，将从0至1的范围划分为与位i和位j对应的两个部分。然后，选择器61选择与包括候选选择随机数的部分对应的位。然后，选择器61生成并输出所选择的位的标识值N_o作为选择的结果。

在图27的示例中，省略了除选择器61之外的选择器。图27中由黑圈表示的部分对应于一个选择器。部分选择器单元60a、60b和60c中的每个部分选择器单元包括八个选择器。部分选择器单元60d包括四个选择器。部分选择器单元60e包括两个选择器。部分选择器单元60f包括一个选择器。部分选择器单元60a至60f中的每个选择器进行与由选择器61进行的选择处理类似的选择处理，使得增加了选择根据副本之间的距离具有较高提议概率的位的可能性并且输出一个位作为状态转换候选。

如图27所示，控制电路320针对状态转换进行并行搜索，并且按照击倒(knockdown)方法(或者也被称为比赛方法)使用选择器的二叉树结构，以将状态转换候选缩小至一个。通过翻转减少其能量的位被比较器确定为可接受。因此，当存在通过翻转减少其能量的至少一个位时，可以利用通过选择器单元60进行的一次选择来选择更新位。此外，即使在达到局部解以及即使在任何位被翻转时能量增加的情况下，也存在可以基于随机数值u和温度参数T的值来接受任意一位的翻转的可能性。当接受任意一位的翻转时，可以利用由选择器单元60进行的一次选择来选择更新位。此外，由于在选择器进行选择时使用反映副本之间的距离的提议概率，因此，位的提议概率越高，该位越有可能被选择为更新位。

注意，在由选择器单元60输出的转换适当性信息为0(不可接受)的情况下，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元增加偏移值并且重复更新位选择处理。利用这种配置，增加了可以提早选择更新位的可能性。

图28是示出了第三更新位选择方法的处理过程的示例的流程图。在第三更新位选择方法中，可以在下述一个步骤中选择更新位。

[步骤S231]副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元通过使用每个位的转换概率W(x^l→x^l[j₀])＝g(x^l→x^l[j₀])×a(x^l→x^l[j₀])来计算由下述式(33)所指示的无拒绝转换概率W(x^l→x^l[j₀])(W顶部具有波浪号)。

然后，副本解搜索单元352a、352b、……、352n中的每个副本解搜索单元根据无拒绝转换概率选择位之一作为更新位。通过以这样的方式对位的转换概率进行归一化以使得接受概率的和为1，可以在一次更新位选择处理中始终选择更新位。

如上所述，根据第二实施方式的伊辛机300以提议概率反映副本之间的相互作用，并且通过使用多个副本来进行解搜索。利用这样的配置，当基于梅特罗波利斯-黑斯廷斯方法解决组合优化问题时，期望每个副本以在保持收敛目的地的分布的同时单独地搜索状态空间，并且改善求解性能。例如，达到最佳解的可能性增加，而能量可以迅速地减少。

此外，伊辛机300没有考虑所有副本之间的相互作用，而是考虑部分副本之间的相互作用。因此，与考虑所有副本之间的相互作用的情况下的副本之间的距离的计算次数(M²次)相比，可以减少计算次数。例如，根据上面描述的提供相互作用的副本的四种选择方法，上面描述的计算次数可以抑制到计算次数可以由M的线性表达式表示的程度。

图29是示出了在副本之间设置排斥的相互作用的情况下的能量景貌的图。在多个副本71至73中，在副本71与副本72之间以及在副本72与副本73之间提供排斥的相互作用。在副本71与副本73之间没有提供排斥的相互作用。在这种情况下，副本71和副本72与副本72和副本73相互排斥，使得可以有效地搜索宽的搜索空间。

图30是示出了在副本之间设置吸引的相互作用的情况下的能量景貌的图。在多个副本74与75之间提供吸引的相互作用。由于副本74和副本75彼此吸引，因此更容易从局部解中逃离，并且作为整个组达到全局解的可能性增加。另一方面，在副本74与副本76之间没有提供吸引的相互作用。在这种情况下，抑制了下述情况：副本76被朝副本74吸引并且陷入局部解中。

接下来，将参照图31至图33描述已经确认了效果的验证示例。

图31是示出了第一验证示例的图。图32和图33是示出了第二验证示例的图。

图31至图33所示的示例是被称为二次分配问题(QAP)的代表性组合优化问题的一些实例的验证的结果。上面的式(17)用于根据提议分布来计算每个位的提议概率。使用上面描述的式(19)中指示的汉明距离的线性函数作为副本之间的相互作用的能量。使用第三更新位选择方法(无拒绝)作为更新位选择方法。此外，副本总数M＝30。

在图31的示例中，在使用1个位翻转转换和副本交换的解搜索方法中，对取决于副本之间的相互作用的存在或不存在的能量减小的差异进行比较。横轴指示状态转换的迭代次数，而纵轴为那时获得的能量的最小值。当γ(在图31中被称为“伽玛”)用作排斥的相互作用的参数时，对在γ＝0和γ＜0的情况(不具有排斥的相互作用和具有排斥的相互作用的情况)下的能量减小进行比较。

在图31的示例中，与在没有引入相互作用(伽玛-0)的情况下相比，在引入了排斥的相互作用(伽玛-3)的情况下能量减少得更快。

通过以这样的方式引入副本之间的相互作用，改善了解搜索性能。此外，由于副本之间的相互作用反映在提议概率中并且目标函数没有被修改，因此可以通过使用适当的目标函数(例如，指示吉布斯分布的函数)来进行解搜索。

在图32和图33所示的示例中，使用提供相互作用的副本的第一选择方法，并且在上面描述的确定相互作用的应用的范围的s在1至15的范围中改变的情况下，对能量减少的差异进行比较。注意，s＝0指示没有应用相互作用的情况。

如图32和图33所示，相互作用的应用的范围越宽(图33)，能量减少得越快。然而，同样在相互作用的应用的范围窄的情况下(图32)，与没有应用相互作用的情况相比，会发生向更低能量的收敛。

注意，在Gregoire Clarte和Antoine Diez的“Collective sampling through aMetropolis-Hastings like method:kinetic theory and numerical experiments”，arXiv:1909.08988v1[math.ST]，2019年9月18日中指示的被称为集体蒙特卡洛(CMC)的方法是下述方法：该方法可以仅应用于其域为实数的目标函数，并且不可以直接应用于其域为二进制离散空间(二进制变量)的伊辛机的目标函数。此外，在CMC中，虽然计算了彼此靠近的副本的数目(密度)，但是当在1个位翻转的情况下查看所有副本的状态时，所述数目(密度)在翻转之前和之后没有显著改变。因此，某一位的翻转之前和之后的副本的数目的密度比接近于1，并且当使用二进制离散空间作为域时，副本之间的相互作用的效果将被降低。另一方面，在第二实施方式中指示的方法中，应用至以二进制离散空间作为域的组合优化问题是可能的，并且求解性能得到改善。

此外，在Baldassi,Carlo.等的“Unreasonable Effectiveness of LearningNeural Networks:From Accessible States and Robust Ensembles to BasicAlgorithmic Schemes”，PNAS E7655-E7662，2016年11月15日在线公布中指示的被称为鲁棒集成(RE)的方法采用了将副本之间的相互作用直接添加至目标函数的方法。因此，不能保证优化了原始目标函数。另一方面，在第二实施方式中指示的方法中，副本之间的相互作用反映在提议概率中，并且可以进行使用适当的目标函数的解搜索。

[其他实施方式]

在第二实施方式中，在副本之间进行温度交换。然而，也可以用多个副本单独地进行解搜索而不在副本之间进行温度交换。即使在这种情况下，通过考虑副本之间的相互作用来进行解搜索，也使解搜索能力得到提高。

此外，在第二实施方式中，通过使用以二进制离散空间作为域的伊辛模型来解决问题。然而，在通过使用以实数作为域的模型作为副本来解决问题的情况下应用也是可以的。

此外，在第二实施方式中，包括多个神经元电路311、312、……、31n的伊辛机300进行解搜索。然而，可以通过具有与图3所示的服务器100的硬件配置类似的硬件配置的诺依曼型计算机来实现相同的处理。在这种情况下，伊辛机300通过执行例如记录在计算机可读记录介质中的程序来执行与第二实施方式的解搜索处理类似的解搜索处理。其中描述了要由伊辛机300执行的处理内容的程序可以被记录在各种记录介质中。例如，可以将要由伊辛机300执行的程序存储在存储装置中。伊辛机300的处理器将存储装置中的程序的至少之一加载至存储器上并且执行该程序。此外，要由伊辛机300执行的程序还可以记录在诸如光盘、存储器装置或存储器卡的便携式记录介质中。存储在便携式记录介质中的程序可以例如在伊辛机300的处理器的控制下在被安装到存储装置上之后执行。此外，伊辛机300的处理器可以直接从便携式记录介质中读取程序并且执行该程序。

已经如上文所述示出了实施方式，但是在实施方式中描述的每个单元的配置可以用具有类似功能的另一配置替换。此外，可以添加任何其他部件和步骤。此外，可以对上述实施方式中的任何两个或更多个配置(特征)进行组合。

本文提供的所有示例和条件语言旨在用于帮助读者理解本发明和发明人对进一步发展本领域所贡献的构思的教示目的，并且不应被解释为受限于这些具体叙述的示例和条件，说明书中这些示例的组织也不涉及本发明的优势和劣势的展示。虽然已经详细描述了本发明的一个或更多个实施方式，但是应当理解，在不脱离本发明的精神和范围的情况下，可以对其进行各种改变、替换和变更。

Claims (10)

1.一种优化装置，包括：

存储单元，所述存储单元存储多个副本中的每个副本的多个状态变量的值；以及

处理单元，所述处理单元：针对所述多个副本中的每个副本，在更新所述副本的多个状态变量中的第一状态变量的值的情况下，根据在状态空间中所述副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，所述状态空间指示所述多个状态变量的值的组合能够存在的空间，所述另一副本是通过从所述多个副本中排除所述副本而获得的副本组的一部分；以及基于根据所述相互作用的强度的变化量的提议概率和在更新所述第一状态变量的值的情况下的根据目标概率分布的接受概率，确定是否更新所述第一状态变量的值。

2.根据权利要求1所述的优化装置，其中，

所述多个副本中的每个副本被赋予副本编号，所述副本编号是标识所述多个副本中的每个副本的标识信息，并且

所述另一副本被赋予包括在如下范围中的第二副本编号，在所述范围中，与作为标识所述副本的标识信息的第一副本编号的差为预定值。

3.根据权利要求2所述的优化装置，其中，所述处理单元基于所述距离的平均值与第一阈值或大于所述第一阈值的第二阈值之间的比较结果来改变所述预定值。

4.根据权利要求3所述的优化装置，其中，在生成排斥力的相互作用的情况下，当所述平均值小于所述第一阈值时，所述处理单元增大所述预定值，以及当所述平均值大于所述第二阈值时，所述处理单元减小所述预定值。

5.根据权利要求3所述的优化装置，其中，在生成吸引力的相互作用的情况下，当所述平均值小于所述第一阈值时，所述处理单元减小所述预定值，以及当所述平均值大于所述第二阈值时，所述处理单元增大所述预定值。

6.根据权利要求2至5中任一项所述的优化装置，其中，当所述预定值限定为s、所述多个副本的数目限定为M、所述第一副本编号限定为l并且假设所述副本编号循环时，所述另一副本被赋予包括在如下范围中的第二副本编号：所述范围在通过将l-s除以M获得的余数与通过将l+s除以M获得的余数之间。

7.根据权利要求1所述的优化装置，其中，

所述多个副本被分组成多个组，并且在所述多个组中的每个组中设置代表性副本，并且

相对于属于所述多个组中的第一组的所述副本，所述另一副本是所述多个组中除所述第一组之外的另一组的代表性副本。

8.根据权利要求1所述的优化装置，其中，所述处理单元以预定概率采用所述多个副本中除所述副本之外的每个副本作为所述另一副本。

9.一种由优化装置实现的优化方法，所述优化方法包括：

针对具有多个状态变量的多个副本中的每个副本，在更新所述副本的多个状态变量中的第一状态变量的值的情况下，根据在状态空间中所述副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，所述状态空间指示所述多个状态变量的值的组合能够存在的空间，所述另一副本是通过从所述多个副本中排除所述副本而获得的副本组的一部分；以及

基于根据所述相互作用的强度的变化量的提议概率和在更新所述第一状态变量的值的情况下的根据目标概率分布的接受概率，确定是否更新所述第一状态变量的值。

10.一种非暂态计算机可读存储介质，其存储有优化程序，所述优化程序使计算机执行处理，所述处理包括：

针对具有多个状态变量的多个副本中的每个副本，在更新所述副本的多个状态变量中的第一状态变量的值的情况下，根据在状态空间中所述副本与另一副本之间的距离的变化来指定相互作用的强度的变化量，所述状态空间指示所述多个状态变量的值的组合能够存在的空间，所述另一副本是通过从所述多个副本中排除所述副本而获得的副本组的一部分；以及

基于根据所述相互作用的强度的变化量的提议概率和在更新所述第一状态变量的值的情况下的根据目标概率分布的接受概率，确定是否更新所述第一状态变量的值。

Images