CN105260775B - 实现马尔科夫随机场概率编码的方法及神经电路 - Google Patents
实现马尔科夫随机场概率编码的方法及神经电路 Download PDFInfo
- Publication number
- CN105260775B CN105260775B CN201510674577.5A CN201510674577A CN105260775B CN 105260775 B CN105260775 B CN 105260775B CN 201510674577 A CN201510674577 A CN 201510674577A CN 105260775 B CN105260775 B CN 105260775B
- Authority
- CN
- China
- Prior art keywords
- input
- neuron circuit
- neuron
- msub
- mrow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 210000002569 neuron Anatomy 0.000 title claims abstract description 261
- 238000000034 method Methods 0.000 title claims abstract description 32
- 210000005036 nerve Anatomy 0.000 claims description 7
- 210000004027 cell Anatomy 0.000 claims 6
- 125000003367 polycyclic group Chemical group 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 210000000225 synapse Anatomy 0.000 description 2
- 230000000946 synaptic effect Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
Landscapes
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明公开了一种通过神经电路实现马尔科夫随机场概率编码的方法及神经电路，所述方法包括以下步骤：提供第一输入、第二输入和第t个神经电路子模块的输入，其中，第1个神经电路子模块的输入为初始输入；根据所述第一输入、第二输入和第t个神经电路子模块的输入得到所述第t个神经电路子模块的输出；将所述第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据所述第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出；将第T个神经电路子模块的输出作为所述神经电路的输出，并根据所述神经电路的输出计算神经元发放率编码的概率值。本发明实施例的方法，能够通过神经电路实现马尔科夫随机场模型。
Description
技术领域
本发明涉及神经电路技术领域，特别涉及一种通过神经电路实现马尔科夫随机场概率编码的方法及神经电路。
背景技术
马尔科夫随机场在生理学和心理学实验上有着极其重要的作用。模拟马尔科夫随机场的推理过程一方面有利人们理解大脑如何实现推理，另一方面，能够模仿人脑的功能从而实现现有模型不能解决的问题。
目前，相关技术中涉及了马尔科夫随机场模型的神经电路，例如通过循环神经电路实现隐马尔科夫模型的后验概率推理问题，通过霍普菲尔德网络实现二值马尔科夫随机场的置信度传播算法等。但在相关技术中，不能对应模拟神经元的发放过程，因此很难做出实现马尔科夫随机场模型的神经电路。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此，本发明的目的在于提出一种通过神经电路实现马尔科夫随机场概率编码的方法，能够通过神经电路实现马尔科夫随机场模型。
本发明的第二个目的在于提出一种实现马尔科夫随机场概率编码的神经电路。
根据本发明第一方面实施例的通过神经电路实现马尔科夫随机场概率编码的方法，所述神经电路包括依次串联的T个神经电路子模块，其中，T为正整数，所述方法包括以下步骤：提供第一输入、第二输入和第t个神经电路子模块的输入，其中，t<T，其中，第1个神经电路子模块的输入为初始输入；根据所述第一输入、第二输入和第t个神经电路子模块的输入得到所述第t个神经电路子模块的输出；将所述第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据所述第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出；将第T个神经电路子模块的输出作为所述神经电路的输出，并根据所述神经电路的输出计算神经元发放率编码的概率值。
根据本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法，通过将多个神经电路子模块串联，为神经电路中的第一个神经电路子模块提供初始输入，并将神经电路子模块的输出作为下一个子模块的输入，并最终得到神经电路的输出，从而可根据神经电路的输出计算出神经元发放率编码的概率值。由此，可将神经元发放率与马尔科夫随机场的概率联系起来，从而可通过本发明实施例的神经电路实现马尔科夫随机场概率编码，即能够通过神经电路实现马尔科夫随机场模型。
另外，根据本发明上述实施例的通过神经电路实现马尔科夫随机场概率编码的方法还可以具有如下附加的技术特征：
根据本发明的一个实施例，在发放第i个神经元时，所述初始输入为所述第一输入为所述第二输入为θ＝θi，其中，i≤N，k≤N，N为神经元的总数，且N>>1。
进一步地，所述第t+1个神经电路子模块的输出为：其中，tanh为双曲正切函数。
进一步地，所述神经电路的输出与二值马尔科夫随机场的概率之差相等，即：其中，PT i(xi＝1)+PT i(xi＝-1)＝1，所述计算神经元发放率编码的概率值具体包括：计算PT i(xi＝1)和PT i(xi＝-1)的值。
根据本发明第二方面实施例的实现马尔科夫随机场概率编码的神经电路，包括：第一输入端，用于为所述神经电路提供第一输入；第二输入端，用于为所述神经电路提供第二输入；初始输入端，用于为所述神经电路提供初始输入；依次串联的T个神经电路子模块，每个所述神经电路子模块包括输入端、乘法器、加法器、双曲正切函数和输出端，所述神经电路子模块用于根据所述第一输入、第二输入和第t个神经电路子模块的输入得到所述第t个神经电路子模块的输出，并将所述第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据所述第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出，其中，T为正整数，t<T，其中，第1个神经电路子模块的输入为初始输入；输出端，用于将第T个神经电路子模块的输出作为所述神经电路的输出；计算模块，用于根据所述神经电路的输出计算神经元发放率编码的概率值。
根据本发明实施例的实现马尔科夫随机场概率编码的神经电路，通过将多个神经电路子模块串联，为神经电路中的第一个神经电路子模块提供初始输入，并将神经电路子模块的输出作为下一个子模块的输入，并最终得到神经电路的输出，从而可根据神经电路的输出计算出神经元发放率编码的概率值。由此，可将神经元发放率与马尔科夫随机场的概率联系起来，从而可通过本发明实施例的神经电路实现马尔科夫随机场概率编码，即能够通过神经电路实现马尔科夫随机场模型。
另外，根据本发明上述实施例的实现马尔科夫随机场概率编码的神经电路还可以具有如下附加的技术特征：
根据本发明的一个实施例，在发放第i个神经元时，所述初始输入为所述第一输入为所述第二输入为θ＝θi，其中，i≤N，k≤N，N为神经元的总数，且N>>1。
进一步地，所述第t+1个神经电路子模块的输出为：其中，tanh为双曲正切函数。
进一步地，所述神经电路的输出与二值马尔科夫随机场的概率之差相等，即：其中，PT i(xi＝1)+PT i(xi＝-1)＝1，所述计算模块具体用于：根据所述神经电路的输出计算PT i(xi＝1)和PT i(xi＝-1)的值。
附图说明
图1为根据本发明一个实施例的通过神经电路实现马尔科夫随机场概率编码的方法的流程图；
图2为根据本发明一个实施例的神经电路子模块的示意图；
图3为根据本发明一个实施例的神经电路的示意图；
图4为根据本发明一个实施例的实现马尔科夫随机场概率编码的神经电路的结构框图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
图1为根据本发明一个实施例的通过神经电路实现马尔科夫随机场概率编码的方法的流程图。
其中，本发明实施例的神经电路包括依次串联的T个神经电路子模块，其中，T为正整数。
如图1所示，本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法，包括以下步骤：
S101，提供第一输入、第二输入和第t个神经电路子模块的输入，其中，t<T，其中，第1个神经电路子模块的输入为初始输入。
图2为根据本发明一个实施例的神经电路子模块的示意图，图3为根据本发明一个实施例的神经电路的示意图。如图2所示，每个神经电路子模块包括输入端、乘法器、加法器、双曲正切函数和输出端。如图3所示，T个神经电路子模块依次串联，因此，第t个神经电路子模块的输入可由第t-1个神经电路子模块提供，即第t-1个神经电路子模块的输出为第t个神经电路子模块的输入。在本发明的一个实施例中，可设定初始输入作为第1个神经电路子模块的输入，由此，每个神经电路子模块皆具有对应的输入。
在本发明的一个实施例中，如图3所示，神经电路中的每个神经电路子模块除具有对应的输入外，还可由外接的端口为每个神经电路子模块提供相同的第一输入和第二输入。其中，在发放第i个神经元时，初始输入可为第一输入可为第二输入可为θ＝θi，其中，i≤N，k≤N，N为神经元的总数，且N>>1。在本发明的一个实施例中，θki可表示第k个神经元和第i个神经元的连接强度，θki可远小于1。
在本发明的一个实施例中，初始输入可为随机值，无需专门设置。
S102，根据第一输入、第二输入和第t个神经电路子模块的输入得到第t个神经电路子模块的输出。
具体地，参照图3，将第一输入和初始输入通过乘法器进行运算后，将运算结果和第二输入一起输入加法器，然后将加法器的输出结果进行双曲正切运算，即可得到第1个神经电路子模块的输出。然后将第1个神经电路子模块的输出作为第2个神经电路子模块的输入，结合第一输入和第二输入进行运算…如此依次运算，可根据第一输入、第二输入和第t个神经电路子模块的输入得到第t个神经电路子模块的输出。
S103，将第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出。
具体地，在初始输入为第一输入为以及第二输入为θ＝θi时，第t+1个神经电路子模块的输出为：
其中，tanh为双曲正切函数。
在本发明的一个实施例中，对于基于二值马尔科夫随机场的多环置信度传播算法，若定义则传递信息和边缘概率可分别表示为：
其中，为从节点i到节点j的信息，Pi(xi＝1)和Pi(xi＝-1)为二值马尔科夫随机场中两种状态的边缘概率。
假设则当N(i)＞＞1和θki＜＜1时，由式(2)和(3)可得：
在循环神经电路中，神经电路的动态输出Vi(t)可通过下式计算：
当满足以下条件时：
Vi(t)＝μi(t)
hi(t)＝θi
f(x)＝tanh(x)
τ＝1
式(4)和式(5)等价。应当理解，神经元接收数量较大的突触输入，因此，N(i)＞＞1；同时，每个输入的突触权重较小，因此，θki＜＜1。由此，本发明实施例中，可通过式(1)表示神经电路子模块的输出。从而，本发明实施例的神经电路的输出计算过程可达到与多环置信度传播算法类似的效果，因此能够通过本发明实施例的神经电路实现马尔科夫随机场概率编码。
S104，将第T个神经电路子模块的输出作为神经电路的输出，并根据神经电路的输出计算神经元发放率编码的概率值。
依照上述步骤计算出第T个神经电路子模块的输出，并将其作为神经电路的输出。在本发明的一个实施例中，基于以上假设：神经元发放率代表了二值马尔科夫随机场中两种状态的概率差异，即神经电路的输出与二值马尔科夫随机场的概率之差相等，即：
其中，PT i(xi＝1)+PT i(xi＝-1)＝1。
由此，可通过本发明实施例的神经元发放率计算二值马尔科夫随机场的边缘概率，即计算出PT i(xi＝1)和PT i(xi＝-1)的值，即第i个神经元发放率编码的概率值，从而可得到N个神经元的马尔科夫随机场的概率编码。
此外，对于本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法，可通过多个实施例验证其概率编码的效果。具体地，可分别通过本发明实施例的方法以及通过多环置信度传播算法得出神经元发放率编码的概率值，并通过以下公式计算其相对误差值：
其中，PLBP(xi＝1)和PRNC(xi＝1)分别表示通过多环置信度传播算法得出的神经元发放率编码的概率值和通过本发明实施例的方法得出的神经元发放率编码的概率值，该式表示实验中计算了8个神经元的边缘概率。通过多次重复实验，对于包括8个神经元的概率编码，其相对误差值小于0.5％。也就是说，本发明实施例的神经电路的输出计算过程可达到与多环置信度传播算法类似的效果。
根据本发明实施例的通过神经电路实现马尔科夫随机场概率编码的方法，通过将多个神经电路子模块串联，为神经电路中的第一个神经电路子模块提供初始输入，并将神经电路子模块的输出作为下一个子模块的输入，并最终得到神经电路的输出，从而可根据神经电路的输出计算出神经元发放率编码的概率值。由此，可将神经元发放率与马尔科夫随机场的概率联系起来，从而可通过本发明实施例的神经电路实现马尔科夫随机场概率编码，即能够通过神经电路实现马尔科夫随机场模型。
为实现上述实施例的通过神经电路实现马尔科夫随机场概率编码的方法，本发明还提出一种实现马尔科夫随机场概率编码的神经电路。
图4为根据本发明一个实施例的实现马尔科夫随机场概率编码的神经电路的结构框图。
如图4所示，本发明实施例的实现马尔科夫随机场概率编码的神经电路，包括：第一输入端10、第二输入端20、初始输入端30、依次串联的T个神经电路子模块40、输出端50和计算模块60。
其中，第一输入端10用于为神经电路提供第一输入；第二输入端20用于为神经电路提供第二输入；初始输入端30用于为神经电路提供初始输入；每个神经电路子模块40包括输入端、乘法器、加法器、双曲正切函数和输出端，神经电路子模块40用于根据第一输入、第二输入和第t个神经电路子模块的输入得到第t个神经电路子模块的输出，并将第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出，其中，T为正整数，t<T，其中，第1个神经电路子模块的输入为初始输入。
图2为根据本发明一个实施例的神经电路子模块的示意图，图3为根据本发明一个实施例的神经电路的示意图。如图2所示，每个神经电路子模块40包括输入端、乘法器、加法器、双曲正切函数和输出端。如图3所示，T个神经电路子模块40依次串联，因此，第t个神经电路子模块的输入可由第t-1个神经电路子模块提供，即第t-1个神经电路子模块的输出为第t个神经电路子模块的输入。在本发明的一个实施例中，可设定初始输入作为第1个神经电路子模块的输入，由此，每个神经电路子模块皆具有对应的输入。
在本发明的一个实施例中，如图3所示，神经电路中的每个神经电路子模块除具有对应的输入外，还可由外接的端口为每个神经电路子模块提供相同的第一输入和第二输入。其中，在发放第i个神经元时，初始输入可为第一输入可为第二输入可为θ＝θi，其中，i≤N，k≤N，N为神经元的总数，且N>>1。在本发明的一个实施例中，θki可表示第k个神经元和第i个神经元的连接强度，θki可远小于1。
在本发明的一个实施例中，初始输入可为随机值，无需专门设置。
参照图3，将第一输入和初始输入通过乘法器进行运算后，将运算结果和第二输入一起输入加法器，然后将加法器的输出结果进行双曲正切运算，即可得到第1个神经电路子模块的输出。然后将第1个神经电路子模块的输出作为第2个神经电路子模块的输入，结合第一输入和第二输入进行运算…如此依次运算，可根据第一输入、第二输入和第t个神经电路子模块的输入得到第t个神经电路子模块的输出。
在初始输入为第一输入为以及第二输入为θ＝θi时，第t+1个神经电路子模块的输出为：
其中，tanh为双曲正切函数。
在本发明的一个实施例中，对于基于二值马尔科夫随机场的多环置信度传播算法，若定义则传递信息和边缘概率可分别表示为：
其中，为从节点i到节点j的信息，Pi(xi＝1)和Pi(xi＝-1)为二值马尔科夫随机场中两种状态的边缘概率。
假设则当N(i)＞＞1和θki＜＜1时，由式(2)和(3)可得：
在循环神经电路中，神经电路的动态输出Vi(t)可通过下式计算：
当满足以下条件时：
Vi(t)＝μi(t)
hi(t)＝θi
f(x)＝tanh(x)
τ＝1
式(4)和式(5)等价。应当理解，神经元接收数量较大的突触输入，因此，N(i)＞＞1；同时，每个输入的突触权重较小，因此，θki＜＜1。由此，本发明实施例中，可通过式(1)表示神经电路子模块的输出。从而，本发明实施例的神经电路的输出计算过程可达到与多环置信度传播算法类似的效果，因此能够通过本发明实施例的神经电路实现马尔科夫随机场概率编码。
输出端50用于将第T个神经电路子模块的输出作为所述神经电路的输出。
计算模块60用于根据所述神经电路的输出计算神经元发放率编码的概率值。
在本发明的一个实施例中，基于以上假设：神经元发放率代表了二值马尔科夫随机场中两种状态的概率差异，即神经电路的输出与二值马尔科夫随机场的概率之差相等，即：
其中，PT i(xi＝1)+PT i(xi＝-1)＝1。
由此，可通过本发明实施例的神经元发放率计算二值马尔科夫随机场的边缘概率，即计算出PT i(xi＝1)和PT i(xi＝-1)的值，即第i个神经元发放率编码的概率值，从而可得到N个神经元的马尔科夫随机场的概率编码。
此外，对于本发明实施例的实现马尔科夫随机场概率编码的神经电路，可通过多个实施例验证其概率编码的效果。具体地，可分别通过本发明实施例的神经电路以及通过多环置信度传播算法得出神经元发放率编码的概率值，并通过以下公式计算其相对误差值：
其中，PLBP(xi＝1)和PRNC(xi＝1)分别表示通过多环置信度传播算法得出的神经元发放率编码的概率值和通过本发明实施例的神经电路得出的神经元发放率编码的概率值，该式表示实验中计算了8个神经元的边缘概率。通过多次重复实验，对于包括8个神经元的概率编码，其相对误差值小于0.5％。也就是说，本发明实施例的神经电路的输出计算过程可达到与多环置信度传播算法类似的效果。
根据本发明实施例的实现马尔科夫随机场概率编码的神经电路，通过将多个神经电路子模块串联，为神经电路中的第一个神经电路子模块提供初始输入，并将神经电路子模块的输出作为下一个子模块的输入，并最终得到神经电路的输出，从而可根据神经电路的输出计算出神经元发放率编码的概率值。由此，可将神经元发放率与马尔科夫随机场的概率联系起来，从而可通过本发明实施例的神经电路实现马尔科夫随机场概率编码，即能够通过神经电路实现马尔科夫随机场模型。
在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (4)
1.一种通过神经电路实现马尔科夫随机场概率编码的方法，其特征在于，所述神经电路包括依次串联的T个神经电路子模块，其中，T为正整数，所述方法包括以下步骤：
提供第一输入、第二输入和第t个神经电路子模块的输入，其中，t<T，其中，第1个神经电路子模块的输入为初始输入；
根据所述第一输入、第二输入和第t个神经电路子模块的输入得到所述第t个神经电路子模块的输出；
将所述第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据所述第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出；
将第T个神经电路子模块的输出作为所述神经电路的输出，并根据所述神经电路的输出计算神经元发放率编码的概率值，
其中，在发放第i个神经元时，所述初始输入为所述第一输入为所述第二输入为θ＝θi，其中，i≤N，k≤N，N为神经元的总数，且N>>1，
所述第t+1个神经电路子模块的输出为：
<mrow>
<msubsup>
<mi>cell</mi>
<mi>i</mi>
<mrow>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>=</mo>
<mi>tanh</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>&Sigma;</mi>
<mi>k</mi>
</msub>
<mi>tanh</mi>
<mo>(</mo>
<msub>
<mi>&theta;</mi>
<mrow>
<mi>k</mi>
<mi>i</mi>
</mrow>
</msub>
<mo>)</mo>
<msubsup>
<mi>cell</mi>
<mi>k</mi>
<mi>t</mi>
</msubsup>
<mo>+</mo>
<msub>
<mi>&theta;</mi>
<mi>i</mi>
</msub>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
其中，tanh为双曲正切函数。
2.如权利要求1所述的通过神经电路实现马尔科夫随机场概率编码的方法，其特征于，所述神经电路的输出与二值马尔科夫随机场的概率之差相等，即：
<mrow>
<msubsup>
<mi>cell</mi>
<mi>i</mi>
<mi>T</mi>
</msubsup>
<mo>=</mo>
<msub>
<msup>
<mi>P</mi>
<mi>T</mi>
</msup>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>=</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>-</mo>
<msub>
<msup>
<mi>P</mi>
<mi>T</mi>
</msup>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>=</mo>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
其中，PT i(xi＝1)+PT i(xi＝-1)＝1，
所述计算神经元发放率编码的概率值具体包括：计算PT i(xi＝1)和PT i(xi＝-1)的值。
3.一种实现马尔科夫随机场概率编码的神经电路，其特征在于，包括：
第一输入端，用于为所述神经电路提供第一输入；
第二输入端，用于为所述神经电路提供第二输入；
初始输入端，用于为所述神经电路提供初始输入；
依次串联的T个神经电路子模块，每个所述神经电路子模块包括输入端、乘法器、加法器、双曲正切函数和输出端，所述神经电路子模块用于根据所述第一输入、第二输入和第t个神经电路子模块的输入得到所述第t个神经电路子模块的输出，并将所述第t个神经电路子模块的输出作为第t+1个神经电路子模块的输入，并根据所述第一输入、第二输入和第t+1个神经电路子模块的输入得到第t+1个神经电路子模块的输出，其中，T为正整数，t<T，其中，第1个神经电路子模块的输入为初始输入；
输出端，用于将第T个神经电路子模块的输出作为所述神经电路的输出；
计算模块，用于根据所述神经电路的输出计算神经元发放率编码的概率值，
其中，在发放第i个神经元时，所述初始输入为所述第一输入为所述第二输入为θ＝θi，其中，i≤N，k≤N，N为神经元的个数，且N>>1，
所述第t+1个神经电路子模块的输出为：
<mrow>
<msubsup>
<mi>cell</mi>
<mi>i</mi>
<mrow>
<mi>t</mi>
<mo>+</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>=</mo>
<mi>tanh</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>&Sigma;</mi>
<mi>k</mi>
</msub>
<mi>tanh</mi>
<mo>(</mo>
<msub>
<mi>&theta;</mi>
<mrow>
<mi>k</mi>
<mi>i</mi>
</mrow>
</msub>
<mo>)</mo>
<msubsup>
<mi>cell</mi>
<mi>k</mi>
<mi>t</mi>
</msubsup>
<mo>+</mo>
<msub>
<mi>&theta;</mi>
<mi>i</mi>
</msub>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
1
其中，tanh为双曲正切函数。
4.如权利要求3所述的实现马尔科夫随机场概率编码的神经电路，其特征在于，所述神经电路的输出与二值马尔科夫随机场的概率之差相等，即：
<mrow>
<msubsup>
<mi>cell</mi>
<mi>i</mi>
<mi>T</mi>
</msubsup>
<mo>=</mo>
<msub>
<msup>
<mi>P</mi>
<mi>T</mi>
</msup>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>=</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>-</mo>
<msub>
<msup>
<mi>P</mi>
<mi>T</mi>
</msup>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>=</mo>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>,</mo>
</mrow>
其中，PT i(xi＝1)+PT i(xi＝-1)＝1，
所述计算模块具体用于：根据所述神经电路的输出计算PT i(xi＝1)和PT i(xi＝-1)的值。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510674577.5A CN105260775B (zh) | 2015-10-16 | 2015-10-16 | 实现马尔科夫随机场概率编码的方法及神经电路 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510674577.5A CN105260775B (zh) | 2015-10-16 | 2015-10-16 | 实现马尔科夫随机场概率编码的方法及神经电路 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN105260775A CN105260775A (zh) | 2016-01-20 |
| CN105260775B true CN105260775B (zh) | 2017-11-21 |
Family
ID=55100455
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201510674577.5A Active CN105260775B (zh) | 2015-10-16 | 2015-10-16 | 实现马尔科夫随机场概率编码的方法及神经电路 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN105260775B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1100541A (zh) * | 1993-06-14 | 1995-03-22 | 莫托罗拉公司 | 神经网络及其使用方法 |
| JP2001503154A (ja) * | 1996-09-10 | 2001-03-06 | シーメンス アクチエンゲゼルシヤフト | 音声認識システムにおける隠れマルコフ音声モデルの適合方法 |
| CN101742305A (zh) * | 2009-12-09 | 2010-06-16 | 哈尔滨商业大学 | 基于马尔科夫链模型的可伸缩性视频编解码系统运动估计方法 |
| CN102306301A (zh) * | 2011-08-26 | 2012-01-04 | 中南民族大学 | 模拟初级视皮层脉冲神经元的动作识别系统 |
| CN103985105A (zh) * | 2014-02-20 | 2014-08-13 | 江南大学 | 基于统计建模的Contourlet域多模态医学图像融合方法 |
| CN104008536A (zh) * | 2013-11-04 | 2014-08-27 | 无锡金帆钻凿设备股份有限公司 | 基于cs-chmt和idpcnn的多聚焦噪声图像融合方法 |
-
2015
- 2015-10-16 CN CN201510674577.5A patent/CN105260775B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1100541A (zh) * | 1993-06-14 | 1995-03-22 | 莫托罗拉公司 | 神经网络及其使用方法 |
| JP2001503154A (ja) * | 1996-09-10 | 2001-03-06 | シーメンス アクチエンゲゼルシヤフト | 音声認識システムにおける隠れマルコフ音声モデルの適合方法 |
| CN101742305A (zh) * | 2009-12-09 | 2010-06-16 | 哈尔滨商业大学 | 基于马尔科夫链模型的可伸缩性视频编解码系统运动估计方法 |
| CN102306301A (zh) * | 2011-08-26 | 2012-01-04 | 中南民族大学 | 模拟初级视皮层脉冲神经元的动作识别系统 |
| CN104008536A (zh) * | 2013-11-04 | 2014-08-27 | 无锡金帆钻凿设备股份有限公司 | 基于cs-chmt和idpcnn的多聚焦噪声图像融合方法 |
| CN103985105A (zh) * | 2014-02-20 | 2014-08-13 | 江南大学 | 基于统计建模的Contourlet域多模态医学图像融合方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN105260775A (zh) | 2016-01-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103620624B (zh) | 用于导致稀疏连通性的局部竞争性学习规则的方法和装置 | |
| Wang | Fast training algorithms for deep convolutional fuzzy systems with application to stock index prediction | |
| CN105279555B (zh) | 一种基于进化算法的自适应学习神经网络实现方法 | |
| CN106951911A (zh) | 一种快速的多标签图片检索系统及实现方法 | |
| CN108765512B (zh) | 一种基于多层级特征的对抗图像生成方法 | |
| CN111401547B (zh) | 一种面向乘客流分析的基于循环学习单元的htm设计方法 | |
| CN106033554A (zh) | 一种基于分段的两级深度学习模型的大数据处理方法 | |
| CN106951960A (zh) | 一种神经网络及该神经网络的学习方法 | |
| US20180137409A1 (en) | Method of constructing an artifical intelligence super deep layer learning model, device, mobile terminal, and software program of the same | |
| CN105427241A (zh) | 一种大视场显示设备的畸变校正方法 | |
| CN112269729A (zh) | 面向网络购物平台大规模服务器集群的负载智能分析方法 | |
| CN105260775B (zh) | 实现马尔科夫随机场概率编码的方法及神经电路 | |
| CN114329233A (zh) | 一种跨区域跨评分协同过滤推荐方法及系统 | |
| CN111785326A (zh) | 基于生成对抗网络的药物作用后基因表达谱预测方法 | |
| CN106779062A (zh) | 一种基于残差网络的多层感知机人工神经网络 | |
| Abraham et al. | Design and application of hybrid intelligent systems | |
| CN105894012A (zh) | 基于级联微神经网络的物体识别方法 | |
| US8700541B2 (en) | Modeling method of neuro-fuzzy system | |
| Sultan et al. | A decomposition algorithm for solving a three level large scale linear programming problem | |
| CN114781280A (zh) | 基于循环神经网络的交互式收率优化方法及系统 | |
| CN105205538B (zh) | 基于重要性采样的推理算法及神经电路 | |
| CN106909649A (zh) | 基于循环神经网络的大数据轮廓查询处理方法 | |
| CN114612451A (zh) | 基于多源集成蒸馏的多器官分割方法及系统 | |
| Shinozaki | Biologically inspired feedforward supervised learning for deep self-organizing map networks | |
| Bayo et al. | The percolating cluster is invisible to image recognition with deep learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |