CN105205538A - 基于重要性采样的推理算法及神经电路 - Google Patents

Abstract

本发明提出一种基于重要性采样的推理算法及神经电路，该算法包括以下步骤：将待推理的贝叶斯大脑模型对应的贝叶斯网络分解为树状贝叶斯网络，其中，树状贝叶斯网络包括一个最高层父亲节点和多个子节点；按照从下到上的顺序依次对树状贝叶斯网络的多个子节点进行概率推理，并逐层上传得到的多个推理结果；根据多个推理结果得到最高层父亲节点的后验概率，根据最高层父亲节点的后验概率得到待推理的贝叶斯大脑模型的推理结果。本发明能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

Description

基于重要性采样的推理算法及神经电路

技术领域

本发明涉及人脑科学技术领域，特别涉及一种基于重要性采样的推理算法及神经电路。

背景技术

诸多心理、生理实验表明人脑的认知过程是一个概率推理过程，人脑可以接受表示不确定性信息并处理它们。从宏观上来说，贝叶斯大脑模型可以解释人脑如何认知世界，同时已经被成功应用于认知科学与人脑科学的很多方面，如感知、认知、传感控制和决策。但是从微观角度上来说，目前尚不清楚人脑中的神经元如何进行贝叶斯推理。

目前已经有一些相关的研究工作，根据表示概率的不同方法可以分为概率编码、对数概率编码、群编码以及采样编码。但是目前的研究存在两方面问题：一是规模小，主要研究简单问题的神经电路实现，事实上日常生活中遇到的问题是极其复杂的；二是基于任务的，目前的研究是针对不同的推理设计不同的神经电路，电路没有普适性，不符合人脑高效的工作原理。

发明内容

本发明旨在至少在一定程度上解决上述相关技术中的技术问题之一。

为此，本发明的一个目的在于提出一种基于重要性采样的推理算法，该算法能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

本发明的另一个目的在于提供一种基于重要性采样的推理神经电路。

为了实现上述目的，本发明第一方面的实施例提出了一种基于重要性采样的推理算法，包括以下步骤：将待推理的贝叶斯大脑模型对应的贝叶斯网络分解为树状贝叶斯网络，其中，所述树状贝叶斯网络包括一个最高层父亲节点和多个子节点；按照从下到上的顺序依次对所述树状贝叶斯网络的多个子节点进行概率推理，并逐层上传得到的多个推理结果；根据所述多个推理结果得到所述最高层父亲节点的后验概率，根据所述最高层父亲节点的后验概率得到所述待推理的贝叶斯大脑模型的推理结果。

另外，根据本发明上述实施例的基于重要性采样的推理算法还可以具有如下附加的技术特征：

在一些示例中，通过如下公式对所述树状贝叶斯网络多个子节点进行推理：

$\begin{array}{c}\underset{B_1,B_2,...,B_n}{\Σ}P\left(A|B_1,B_2,...,B_n\right)P\left(B_1|I_1\right)P\left(B_2|I_2\right)...P\left(B_n|I_n\right)\\ \≈\underset{i}{\Σ}P\left(A|B_1^i,B_2^i,...,B_n^i\right)\frac{P\left(I_1|B_1^i\right)P\left(I_2|B_2^i\right)...P\left(I_n|B_n^i\right)}{\underset{i}{\Σ}P\left(I_1|B_1^i\right)P\left(I_2|B_2^i\right)...P\left(I_n|B_n^i\right)}\\ B_1^i,B_2^i,...,B_n^i~P\left(B_1,B_2,...,B_n\right)\end{array},$

其中，I₁，I₂，…,I_n分别为子节点B₁,B₂,...,B_n的子节点，表示从分布P(B₁,B₂,...,B_n)中抽取的样本。

根据本发明实施例的基于重要性采样的推理算法，能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

本发明第二方面的实施例还提供了一种基于重要性采样的推理神经电路，包括：输入层，所述输入层用于对接收到的外部刺激信息进行概率编码，以得到所述外部刺激信息的概率；中间层，所述中间层用于对所述外部刺激信息的概率进行线性计算；决策层，用于根据所述线性计算的结果对所述外部刺激信息进行推理，以得到推理结果。

另外，根据本发明上述实施例的基于重要性采样的推理神经电路还可以具有如下附加的技术特征：

在一些示例中，所述输入层包括至少一个泊松神经元，每个所述泊松神经元用于对所述外部刺激信息进行概率编码，以得到所述外部刺激信息的概率，其中，所述每个泊松神经元的响应为：

r＝{r₁,r₂,...,r_N}，

所述每个泊松神经元的响应r的概率分布为：

$P\left(r\right|S)=\underset{i}{\Π}\frac{e^{-f_i\left(s\right)}{f}_i{\left(s\right)}^{r_i}}{r_i!},$

其中，f_i(s)表示泊松神经元i的调谐曲线，

通过抑制所述泊松神经元以对所述泊松神经元输出的响应r进行归一化，其中，所述f_i(s)正比于所述响应r归一化的条件概率。

在一些示例中，所述中间层包括中间层神经元，所述至少一个泊松神经元与所述中间层神经元相连，且连接的突触权重等于所述响应r归一化的条件概率。

在一些示例中，所述中间层的层数根据待推理问题的层数决定。

在一些示例中，所述中间层神经元的输出为前一层神经元输出的线性组合。

在一些示例中，所述决策层为WTA(Winner-take-all，赢者通吃)电路，用于发放概率值最大的神经元，以作为推理结果。

根据本发明实施例的基于重要性采样的推理神经电路，能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：

图1是本发明一个实施例的基于重要性采样的推理算法的流程图；

图2是本发明一个实施例的树状贝叶斯网络的示意图；

图3是本发明一个具体实施例的贝叶斯网络的示意图；

图4是图3所示的贝叶斯网络分解后得到的树状贝叶斯网络的示意图；

图5是本发明一个实施例的基于重要性采样的推理神经电路的结构示意图；

图6是本发明一个具体实施例的基于重要性采样的推理神经电路的推理流程示意图；

图7是本发明一个具体实施例的以马为视觉组成模型对应的贝叶斯网络示意图；以及

图8是图7所示的贝叶斯网络对应的推理结果示意图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。

以下结合附图描述根据本发明实施例的基于重要性采样的推理算法及神经电路。

图1是根据本发明一个实施例的基于重要性采样的推理算法的流程图。如图1所示，该方法包括以下步骤：

步骤S1：将待推理的贝叶斯大脑模型对应的贝叶斯网络分解为树状贝叶斯网络，其中，树状贝叶斯网络包括一个最高层父亲节点和多个子节点，例如图2所示，树状贝叶斯网络例如包括一个最高层父亲节点A和多个子节点B₁,B₂,…,B_n。需要说明的是，此处的待推理的贝叶斯大脑模型可以为任意的贝叶斯大脑模型，因此，普适性较高。

步骤S2：按照从下到上的顺序依次对树状贝叶斯网络的多个子节点进行概率推理，并逐层上传得到的多个推理结果。

在本发明的一个实施例中，结合图2所示，例如通过如下公式对树状贝叶斯网络多个子节点进行推理：

$\begin{array}{c}\underset{B_1,B_2,...,B_n}{\Σ}P\left(A|B_1,B_2,...,B_n\right)P\left(B_1|I_1\right)P\left(B_2|I_2\right)...P\left(B_n|I_n\right)\\ \≈\underset{i}{\Σ}P\left(A|B_1^i,B_2^i,...,B_n^i\right)\frac{P\left(I_1|B_1^i\right)P\left(I_2|B_2^i\right)...P\left(I_n|B_n^i\right)}{\underset{i}{\Σ}P\left(I_1|B_1^i\right)P\left(I_2|B_2^i\right)...P\left(I_n|B_n^i\right)}\\ B_1^i,B_2^i,...,B_n^i~P\left(B_1,B_2,...,B_n\right)\end{array},$

其中，I₁,I₂，…,I_n分别为子节点B₁,B₂,...,B_n的子节点，表示从分布P(B₁,B₂,...,B_n)中抽取的样本。

步骤S3：根据多个推理结果得到最高层父亲节点的后验概率，根据最高层父亲节点的后验概率得到待推理的贝叶斯大脑模型的推理结果。具体地说，将每个子节点的推理结果逐层上传，直至得到最高点(最高层父亲节点)的后验概率，然后根据最高点的后验概率即可得到待推理的贝叶斯大脑模型的推理结果。

为了便于理解，以下结合具体的实施例对本发明上述实施例的基于重要性采样的推理算法进行详细描述。

实施例1

如图3所示的贝叶斯网络，首先将该贝叶斯网络分解为基本的树状的贝叶斯网络，这种基本的网络由一个最高层父亲节点和若干子节点构成，分解后的结果如图4所示。

进一步地，对最下层结构进行概率推理，推理结果为：

$\begin{array}{c}\underset{C_1,C_2}{\Σ}P\left(B_1|C_1,C_2\right)P\left(C_1|I_1\right)P\left(C_2|I_2\right)\\ \≈\underset{i}{\Σ}P\left(B_1|C_1^i,C_2^i\right)\frac{P\left(I_1|C_1^i\right)P\left(I_2|C_2^i\right)}{\underset{i}{\Σ}P\left(I_1|C_1^i\right)P\left(I_2|C_2^i\right)}\\ C_1^i,C_2^i~P\left(C_1,C_2\right)\end{array}.$

将上述推理结果逐层上传，并重复利用子节点的推理算法对每个剩余子节点进行推理，直至得到最高点A(最高层父亲节点)的后验概率，具体计算公式例如为：

$\begin{array}{c}P\left(A=a_1|I_1,I_2,I_3\right)\\ \≈\underset{l}{\Σ}I\left(A^l=a_1\right)\underset{k}{\Σ}\frac{P\left(B_1^k,B_2^k,|A^l\right)}{\underset{l}{\Σ}P\left(B_1^k,B_2^k,|A^l\right)}\underset{i,j}{\Σ}\frac{P\left(C_1^i,C_2^i,C_3^i|B_1^k,B_2^k\right)}{\underset{k}{\Σ}P\left(C_1^i,C_2^i,C_3^i|B_1^k,B_2^k\right)}\frac{P\left(I_1,I_2|C_1^i,C_2^i\right)}{\underset{i}{\Σ}P\left(I_1,I_2|C_1^i,C_2^i\right)}\frac{P\left(I_3|C_3^j\right)}{\underset{j}{\Σ}P\left(I_3|C_3^j\right)}\end{array},$

其中， $C_1^i,C_2^i~P(C_1,C_2),C_3^j~P\left(C_3\right),B_1^k,B_2^k~P(B_1,B_2),A^l~P\left(A\right).$ 也即，是从P(C₁,C₂)中抽取的样本，是从P(C₃)中抽取的样本，是从P(B₁,B₂)中抽取的样本，A^l是从P(A)中抽取的样本。

综上，根据本发明实施例的基于重要性采样的推理算法，能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

本发明的进一步实施例还提供了一种基于重要性采样的推理神经电路。

图5是根据本发明一个实施例的基于重要性采样的推理神经电路的结构示意图。如图5所示，该神经电路100包括：输入层110、中间层120和策略层130。

其中，输入层110用于对接收到的外部刺激信息进行概率编码，以得到外部刺激信息的概率。

在本发明的一个实施例中，输入层110例如包括至少一个泊松神经元，每个泊松神经元对外部刺激信息(例如观测得到的信息)进行概率编码，以得到外部刺激信息的概率。

其中，泊松神经元输出的响应为r＝{r₁,r₂,...,r_N}，其中，N为泊松神经元的个数。

泊松神经元的输出的响应r的概率分布为：

$P\left(r\right|S)=\underset{i}{\Π}\frac{e^{-f_i\left(s\right)}{f}_i{\left(s\right)}^{r_i}}{r_i!},$

其中，f_i(s)表示泊松神经元i的调谐曲线。

进一步地，通过抑制泊松神经元以对泊松神经元输出的响应r进行归一化，其中，f_i(s)正比于响应r归一化的条件概率。

中间层120用于对外部刺激信息的概率进行线性计算。

在本发明的一个实施例中，中间层120包括中间层神经元，至少一个泊松神经元与中间层神经元相连，且连接的突触权重等于所述响应r归一化的条件概率。进一步地，中间层120的层数根据待推理问题的层数决定。中间层神经元的输出为前一层神经元输出的线性组合。

决策层130用于根据线性计算的结果对外部刺激信息进行推理，以得到推理结果。在本发明的一个实施例中，决策层130例如由WTA电路构成，用于发放概率值最大的神经元，并将该发放的神经元作为最终的推理结果。

为了便于理解，以下结合具体的实施例对本发明上述实施例的基于重要性采样的推理神经电路进行详细描述。

实施例2

本实施例是实施例1所描述的基于重要性采样的推理算法对应的神经电路。结合图6所示，在本实施例中，该神经电路包括输入层，中间层与决策层。其中输入层对外部刺激(观测)进行概率编码，中间层对概率进行线性计算，决策层确定推理的结果。

更为具体地，输入层的每个泊松神经元对外部刺激(观测)信息进行概率编码，泊松神经元输出的响应为：

r＝{r₁,r₂,...,r_N}，

响应r的概率分布为：

$P\left(r\right|S)=\underset{i}{\Π}\frac{e^{-f_i\left(s\right)}{f}_i{\left(s\right)}^{r_i}}{r_i!},$

其中，f_i(s)表示泊松神经元i的调谐曲线(tuningcurves)。

具体地说，图6中的泊松神经元对外部刺激信息I₁,I₂进行概率群编码，对外部刺激信息I₃进行编码。同时泊松神经元群的先验分布分别为P(C₁,C₂)和P(C₃)。将泊松神经元输出的响应记为和通过抑制泊松神经元将泊松神经元输出的响应归一化，具体为：

$r_1^i=\frac{P(I_1,I_2|C_1^i,C_2^i)}{\underset{i}{\Σ}P(I_1,I_2|C_1^i,C_2^i)},$

$r_2^j=\frac{P\left(I_3\right|C_3^j)}{\underset{j}{\Σ}P\left(I_3\right|C_3^j)}.$

进一步地，泊松神经元与中间层神经元相连，其中中间第一层的突触权重等于归一化的条件概率为：

$\frac{P(C_1^i,C_2^i,C_3^j|B_1^k,B_2^k)}{\underset{k}{\Σ}P(C_1^i,C_2^i,C_3^j|B_1^k,B_2^k)}.$

中间第一层神经元的输出为前一层输出的线性组合，即为：

$S_1=\underset{i,j}{\Σ}\frac{P(C_{1,i},C_{2,i},C_{3,j}|B_{1,k},B_{2,k})}{\underset{k}{\Σ}P(C_{1,i},C_{2,i},C_{3,j}|B_{1,k},B_{2,k})}\frac{P(I_1,I_2|C_{1,i},C_{2,i})}{\underset{i}{\Σ}P(I_1,I_2|C_{1,i},C_{2,i})}\frac{P\left(I_3\right|C_{3,j})}{\underset{j}{\Σ}P\left(I_3\right|C_{3,j})}.$

下一层连接与此类似，区别在于突触权重等于：

$\frac{P(B_1^k,B_2^k|A^l)}{\underset{i}{\Σ}P(B_1^k,B_2^k|A^l)},$

输出为：

$S_2=\underset{k}{\Σ}\frac{P(B_{1,k},B_{2,k}|A_l)}{\underset{l}{\Σ}P(B_{1,k},B_{2,k}|A_l)}{S}_1.$

第三层突触权重为：

I(A_l＝a_s),s＝1,2,...,t，

输出为：

P(A＝a_t|I₁,I₂,I₃)。

进一步地，决策层由WTA电路构成，每次概率值最大的神经元被发放，同时抑制其它层，发放的神经元代表了最终的推理结果。

在实际应用中，本发明的实施例例如可应用于视觉组成模型的推理问题中。作为具体的示例，例如图7所示，图7(a)展示了马的组成模型，其对应的贝叶斯网络例如图7(b)所示。具体地说，识别马的位置等价于确定贝叶斯网络最高点的后验概率。最终的推理结果例如图8所示。需要说明的是，当每个变量用1000个神经元来采样时，平均相对误差小于0.1，也即推理结果误差小，准确度高。

综上，根据本发明实施例的基于重要性采样的推理神经电路，能够对任意的贝叶斯大脑模型进行推理，具有很好的普适性。

在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (8)

1.一种基于重要性采样的推理算法，其特征在于，包括以下步骤：

将待推理的贝叶斯大脑模型对应的贝叶斯网络分解为树状贝叶斯网络，其中，所述树状贝叶斯网络包括一个最高层父亲节点和多个子节点；

按照从下到上的顺序依次对所述树状贝叶斯网络的多个子节点进行概率推理，并逐层上传得到的多个推理结果；

根据所述多个推理结果得到所述最高层父亲节点的后验概率，根据所述最高层父亲节点的后验概率得到所述待推理的贝叶斯大脑模型的推理结果。

2.根据权利要求1所述的基于重要性采样的推理算法，其特征在于，通过如下公式对所述树状贝叶斯网络多个子节点进行推理：

$\begin{array}{c}\underset{B_1,B_2,...,B_n}{\mathrm{\Σ}}P\left(A\right|B_1,B_2,...,B_n)P\left(B_1\right|I_1)P\left(B_2\right|I_2)...P\left(B_n\right|I_n)\\ \≈\underset{i}{\mathrm{\Σ}}P\left(A\right|B_1^i,B_2^i,...,B_n^i)\frac{P\left(I_1\right|B_1^i)P\left(I_2\right|B_2^i)...P\left(I_n\right|B_n^i)}{\underset{i}{\Σ}P\left(I_1\right|B_1^i)P\left(I_2\right|B_2^i)...P\left(I_n\right|B_n^i)}\end{array},$

$B_1^i,B_2^i,...,B_n^i~P(B_1,B_2,...,B_n)$

其中，I₁，I₂，…,I_n分别为子节点B₁,B₂,...,B_n的子节点，表示从分布P(B₁,B₂,...,B_n)中抽取的样本。

3.一种基于重要性采样的推理神经电路，其特征在于，包括：

输入层，所述输入层用于对接收到的外部刺激信息进行概率编码，以得到所述外部刺激信息的概率；

中间层，所述中间层用于对所述外部刺激信息的概率进行线性计算；

决策层，用于根据所述线性计算的结果对所述外部刺激信息进行推理，以得到推理结果。

4.根据权利要求3所述的基于重要性采样的推理神经电路，其特征在于，其中，

所述输入层包括至少一个泊松神经元，每个所述泊松神经元用于对所述外部刺激信息进行概率编码，以得到所述外部刺激信息的概率，其中，

所述泊松神经元输出的响应为：

r＝{r₁,r₂,...,r_N}，

其中，N为泊松神经元的个数；

所述泊松神经元输出的响应r的概率分布为：

$P\left(r\right|S)=\underset{i}{\Π}\frac{e^{-f_i\left(s\right)}{f}_i{\left(s\right)}^{r_i}}{r_i!},$

其中，f_i(s)表示泊松神经元i的调谐曲线；

通过抑制所述泊松神经元以对所述泊松神经元输出的响应r进行归一化，其中，所述f_i(s)正比于所述响应r归一化的条件概率。

5.根据权利要求4所述的基于重要性采样的推理神经电路，其特征在于，所述中间层包括中间层神经元，所述至少一个泊松神经元与所述中间层神经元相连，且连接的突触权重等于所述响应r归一化的条件概率。

6.根据权利要求5所述的基于重要性采样的推理神经电路，其特征在于，所述中间层的层数根据待推理问题的层数决定。

7.根据权利要求5所述的基于重要性采样的推理神经电路，其特征在于，其特征在于，所述中间层神经元的输出为前一层神经元输出的线性组合。

8.根据权利要求3所述的基于重要性采样的推理神经电路，其特征在于，所述决策层为WTA电路，用于发放概率值最大的神经元，以作为推理结果。