CN108647725A - 一种实现静态隐马尔科夫模型推理的神经电路 - Google Patents

Abstract

本发明公开了一种实现静态隐马尔科夫模型推理的神经电路，本发明赢者通吃电路(Winner‑take‑all,WTA)电路可以实现静态隐马尔可夫模型的近似最优推理，网络中的脉冲神经元可以不断地累积证据，即通过新的证据更新后验概率；WTA电路中的竞争机制可以对分布进行归一化。

Description

一种实现静态隐马尔科夫模型推理的神经电路

技术领域

本发明涉及计算神经科学领域，尤其涉及一种实现静态隐马尔科夫模型推理的神经电路。

背景技术

隐马尔可夫模型是一种重要的有向概率图模型。在计算神经科学中，隐马尔可夫模型经常被用于在一系列的传感输入条件下探测隐藏的规律。当隐变量时不变时，这种隐马尔可夫模型叫做静态隐马尔可夫模型，实验证明这样的隐马尔可夫模型可以十分有效地模拟人脑认知中的推理与决策过程，但是尚不清楚神经电路如何实现静态马尔科夫模型的推理，很多研究者尝试建立脉冲神经电路的动力学方程与隐马尔可夫模型推理方程的对应关系，由于这两个方程不能完全等价，所以只能实现隐马尔可夫模型的近似推理，我们分析了隐马尔可夫模型的推理过程，发现它包括证据累积和归一化两个操作，这两个操作相互耦合，每一步计算中归一化的结果正是下一步计算中的需要累积的证据，因此当建立相应的脉冲神经网络时需要引入很多约束和近似，从而导致不准确的推理结果。

发明内容

针对上述问题，本发明提供了一种实现静态隐马尔科夫模型推理的神经电路，以解决建立相应的脉冲神经网络时需要引入很多约束和近似，从而导致不准确的推理结果的问题。

为解决上述技术问题，本发明所采用的技术方案是：其基本构成可以分为隐马尔可夫模型、脉冲WTA电路两部分，隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系，脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元z_k的输入电流包含两个部分：外部输入电流和自连接产生的内部电流

进一步的，隐变量序列Y＝{y₁,y₂,...,y_t}是一个一阶的马氏链，当前状态的条件概率p(y_t|y₁,y₂,...,y_t-1)只取决于前一时刻的状态y_t-1，也就是， p(y_t|y₁,y₂,...,y_t-1)＝p(y_t|y_t-1)。

进一步的，观测序列X＝{x₁,x₂,...,x_t}由隐状态序列决定，每个观测变量x_i(i＝1,2,...,t)只取决于相应的隐变量y_i，据此，隐马尔可夫模型的联合分布可以表示为

进一步的，神经元z_k的膜电位方程可以表示为：

其中表示神经元z_k静止电位，表示一个核函数，它决定神经元z_k在时刻发放一个脉冲后膜电位的变化情况，κ(s)表示神经元对单位脉冲电流的响应函数。

进一步的，运用标准的指数核：这里重置电势η₀＝5mV，膜时间常数τ＝20ms，电压响应幅值ε₀＝5mV，化简方程得：

由上述对本发明的描述可知，和现有技术相比，本发明具有如下优点：

本发明一种实现静态隐马尔科夫模型推理的神经电路，赢者通吃电路 (Winner-take-all,WTA)电路可以实现静态隐马尔可夫模型的近似最优推理，网络中的脉冲神经元可以不断地累积证据，即通过新的证据更新后验概率；WTA电路中的竞争机制可以对分布进行归一化。

附图说明

图1为本发明的静态隐马尔可夫模型结构图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

实施例1

一种实现静态隐马尔科夫模型推理的神经电路，隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系(如图1所示)，其中隐变量序列Y＝{y₁,y₂,...,y_t}是一个一阶的马氏链，当前状态的条件概率p(y_t|y₁,y₂,...,y_t-1)只取决于前一时刻的状态 y_t-1，也就是，p(y_t|y₁,y₂,...,y_t-1)＝p(y_t|y_t-1)。观测序列X＝{x₁,x₂,...,x_t}由隐状态序列决定，每个观测变量x_i(i＝1,2,...,t)只取决于相应的隐变量y_i，据此，隐马尔可夫模型的联合分布可以表示为：

当y₁＝y₂＝...＝y_t时为静态隐马尔可夫模型，这个模型的研究对于很多推理决策问题尤为重要，这是因为在多数情况下我们已经知道隐变量的状态不随时间改变，隐马尔可夫模型的推理问题就是已知从1时刻到t时刻的观测的条件下推断t时刻隐变量的最有可能的状态值，即

脉冲WTA电路

脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元z_k的输入电流包含两个部分：外部输入电流和自连接产生的内部电流则神经元z_k的膜电位方程可以表示为：

其中表示神经元z_k静止电位，表示一个核函数，它决定神经元z_k在时刻发放一个脉冲后膜电位的变化情况，κ(s)表示神经元对单位脉冲电流的响应函数，我们运用标准的指数核：

这里重置电势η₀＝5mV，膜时间常数τ＝20ms，电压响应幅值ε₀＝5mV。

化简方程可得：

实施例2

一种实现静态隐马尔科夫模型推理的神经电路，定理1：假设 G(y₀＝yⁱ)＝logp(y₁＝yⁱ)，且对于任意的t≥1，

G(y_t)＝logp(x_t|y_t)+G(y_t-1)

成立，则正比于分布p(y_t|x₁,x₂,...,x_t)，即

仅在最后一步进行归一化并不影响推理结果的准确性，因此可以运用差分方程和初始条件G(y₀＝yⁱ)＝logp(y₁＝yⁱ)来实现概率推理，且后验概率需要注意的是这里的归一化常数定理1表明证据累积操作和归一化操作可以被解耦和，当前步骤中归一化的结果不需要做为下一步中的输入，因此当建立相应的脉冲神经网络时，可以将神经网络分为两个部分：一是利用新的证据来更新后验，即 G(y_t)＝logp(x_t|y_t)+G(y_t-1)，二是对后验分布进行归一化。

实施例3

一种实现静态马尔科夫模型推力的神经电路，定理2：考虑脉冲WTA 电路，其中神经元的静止电位外部电流 (j＝1,2,3...)，这里T_j表示电流的到达时间，Θ(·)表示单位阶跃函数(当x≥0时Θ(x)＝1，否则Θ(x)＝0)，则对于任意的t≥1，如果T_t+1-T_t≥3τ都成立，那么

u_k(T_t+1)＝b_t logp(y_t＝y^k|x₁,x₂,...,x_t),

成立，这里b_t表示一个常数(b_t≠0)，且

ρ_k(T_t+1)∝p(y_t＝y^k|x₁,x₂,...,x_t).

定理2建立了脉冲WTA电路的动态性和隐马尔可夫模型的推理方程之间的对应关系：当隐马尔可夫模型新的观测到达时，脉冲WTA电路中神经元z_k在T_t的输入电流将增加脉冲WTA电路中每个神经元的膜电位对隐马尔可夫模型中隐变量的后验概率的对数进行编码，每个神经元的发放概率(或者发放率)正比于隐变量的后验概率，在这样的条件下可以证明神经元的膜电位随时间的变化过程即为隐马尔可夫模型的后验概率推理过程，推理结果可以通过在一个大约几百毫秒的时间窗内统计神经元的发放脉冲的个数占所有发放的比例来获得，该方法也与猴子大脑皮层中的实验观测一致。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种实现静态隐马尔科夫模型推理的神经电路，其基本构成可以分为隐马尔可夫模型、脉冲WTA电路两部分：

(1)隐马尔可夫模型是一种重要的动态贝叶斯网络，它可以用来表示隐变量和观测变量随时间t的变化关系；

(2)脉冲WTA电路中每个脉冲神经元都是自连接的，因此神经元z_k的输入电流包含两个部分：外部输入电流和自连接产生的内部电流

2.根据权利要求书1所述的一种实现静态隐马尔科夫模型推理的神经电路，其隐马尔可夫模型的步骤为：

(1)隐变量序列Y＝{y₁,y₂,...,y_t}是一个一阶的马氏链，当前状态的条件概率p(y_t|y₁,y₂,...,y_t-1)只取决于前一时刻的状态y_t-1，也就是，p(y_t|y₁,y₂,...,y_t-1)＝p(y_t|y_t-1)；

(2)观测序列X＝{x₁,x₂,...,x_t}由隐状态序列决定，每个观测变量x_i(i＝1,2,...,t)只取决于相应的隐变量y_i，据此，隐马尔可夫模型的联合分布可以表示为

3.根据权利要求书1所述的一种实现静态隐马尔科夫模型推理的神经电路，其脉冲WTA电路神经元的步骤为：

(1)神经元z_k的膜电位方程可以表示为：

其中表示神经元z_k静止电位，表示一个核函数，它决定神经元z_k在时刻发放一个脉冲后膜电位的变化情况，κ(s)表示神经元对单位脉冲电流的响应函数；

(2)运用标准的指数核：这里重置电势η₀＝5mV，膜时间常数τ＝20ms，电压响应幅值ε₀＝5mV，化简方程得：