CN109190708A - 基于视觉皮层处理机制的概念机神经网络图像分类方法 - Google Patents

Abstract

本发明公开了一种基于视觉皮层处理机制的概念机神经网络图像分类方法，包括通过神经网络对图像进行预处理，还包括搭建与V2层神经元连接的概念机网络，每类图像对应一个概念机C_i，每类图像所对应的正项判断依据为：h⁺＝x^TC_i ⁺x，i为图像类别的数量；分别计算V2层神经元在不同空间方位上的概念机C；再根据不同方向上的概念机计算对应方向上的正向判据，再对各方向上的正向判据求平均值得到加强判据，再计算被分类图像在各分类类别的加强正项判据，由此确定j＝argmaxx^TC_i ⁺x为该图像的分类判断依据。本发明其对图像分类的过程更接近于真实大脑的处理过程，可以较好地提取出输入图像的局部朝向信息，且通过概念机处理输入，可更准确地进行图像分类。

Description

基于视觉皮层处理机制的概念机神经网络图像分类方法

技术领域

本发明涉及图像处理技术领域，特别涉及一种图像分类方法。

背景技术

人工神经网络(ANNs)的广泛使用，使得图像分类精度得到了巨大提高，但是ANNs由于误差信号和权值的非局部转移，让其缺乏生物上的支撑，并存在能量消耗过大问题。脉冲神经网络(SNN)，由于其使用的是脉冲神经元(对输入进行积累，到达某一程度后神经元才会有输出)，因此具有类似于生物的属性；然而使用脉冲神经网络进行图像识别还处在不断发展阶段，基于人大脑的视觉皮层处理机制的脉冲神经网络的图像分类准确度还较低。

发明内容

有鉴于此，本发明的目的是提供一种基于视觉皮层处理机制的概念机神经网络图像分类方法，已解决现有基于脉冲神经网络的图像分类方法分流准确度较低的技术问题。

本发明基于视觉皮层处理机制的概念机神经网络图像分类方法，包括通过神经网络对图像进行预处理，所述神经网络包括输入层神经元、V1层神经元和V2层神经元，所述通过神经网络对图像进行预处理包括以下步骤：

1)以动态图片的形式输入图像，图像被表达成关于图片像素位置(x,y)和时间t的光强分布I(x,y,t)；然后在三个不同的时空尺度r＝0,1,2下处理输入，第一个尺度r＝0，此时的输入等同于原始输入，另外两个尺度需要连续地使用一个高斯核函数对上一尺度的输入进行模糊化；三种输入I_r(x,y,t)的表达如下：

I₀(x,y,t)＝I(x,y,t)

其中*表示卷积运算，然后使用一个三维高斯滤波器对输入进行滤波：

其中σ_v1simple＝1.25；

2)求取V1层简单型神经元的响应，V1层简单型神经元被建模为线性的空间-时间-方位滤波器，所述空间-时间-方位滤波器的数量为28个，其感受野为一高斯函数的三阶导数；将V1层简单型神经元集群的第k个滤波器描述为一个和该滤波器方向平行的单位向量u_k＝(u_k,x,u_k,y,u_k,t)，k＝1,2,…,28，只有当输入所对应的朝向和滤波器方向相同时，这个滤波器才会被激活；然后在空间位置(x,y)拥有空间-时间方位k的简单型神经元的线性响应为：

其中X＝3-Y-T，T和Y为求和变量，X、Y、T的取值范围为[0,3]，且三者之和等于3，α_V1lin＝6.6048；把线性响应L_k,r归一化到一条高斯包络线内便得到简单型神经元的响应：

其中α_filt2rate,r＝15Hz将无单位的滤波器响应转换为神经元的放电频率，α_V1rect＝1.9263，α_V1norm＝1，σ_V1norm＝3.35，α_V1semi＝0.1；

3)求取V1层复杂型神经元的响应，对简单型神经元的响应做局部加权求和得到复杂型神经元的响应：

其中α_V1complex＝0.1，σ_V1complex＝1.6；最终所求取到的复杂型神经元的响应为神经元的平均放电频率；

4)求取V2层神经元的响应，V1层复杂型神经元将通过频率为上述所求得的平均放电频率的泊松过程产生脉冲，并通过突触传递给V2层神经元；V2层神经元的模型为Izhikevich脉冲神经元:

其中v(t)为神经元的膜电位，u(t)为恢复变量，I_syn(t)为突触前神经元产生的突触电流；当v(t)≥30mV时，神经元会产生一个脉冲，并触发重置：v(t)＝c,u(t)＝u(t)+d；对于兴奋型神经元：a＝0.02,b＝0.2,c＝-65,d＝8；对于抑制型神经元：a＝0.1,b＝0.2,c＝-65,d＝2；V1层复杂型神经元到V2层的连接为高斯连接，即两神经元空间距离越大，则有连接的概率会越小，且属于相同滤波器的神经元之间共享权值；V2层共有4个神经元集群，分别对应4个朝向:水平、右对角、竖直和左对角，同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；通过计算V2层神经元的平均放电频率来表示所提取到的输入朝向信息；

同理构造8个方向的结构，则V2层共有8个神经元集群，分别对应8个朝向：0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°；同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；同样地，通过计算V2层神经元的来表示所提取到的输入朝向信息；

本实施例中基于视觉皮层处理机制的概念机神经网络图像分类方法还包括搭建与V2层神经元连接的概念机网络，所述概念机网络由输入层神经元和隐含层神经元构成，概念机网络由输入信号P^j(n)所驱动，所述输入信号P^j(n)为V2层中神经元的平均放电频率；当概念机网络由P^j(n)驱动时，隐含层的活动状态构成了一个高维的状态空间X^j＝(x1^j,x2^j,x3^j,...xn^j)；

输入信号P^j(n)通过输入权值矩阵Win进入隐含层，隐含层激励函数采用双曲正切函数，则概念机网络的更新被描述为：

x^j(n+1)＝tanh(w^*x^j(n)+w_inp^j(n+1)+b)

其中，x是隐含层的状态向量,Win为N*1维输入权值连接，b为偏置量；输入连接权值和偏置量均为随机值，且不在训练过程中改变；由于双曲正切激励函数tanh()，使得隐含层的状态空间被限定在(-1,1)；初始时，神经元之间的连接可采用随机连接，其连接强度由一个N*N的权值矩阵W*表示，W^*是内部连接矩阵；当神经网络由输入信号P^j(n)驱动时，N维的兴奋神经元状态{X^j}位于一个状态星云中，其几何特征由该输入信号决定；

对于隐含层状态序列x(1),x(2),...x(L),构建如下的代价函数：

其中C为概念机矩阵，它描述了隐含层状态空间的特征，α≥0是一个调节参数，通过调节α找到一个使目标函数最小化的平衡点，通过随机梯度下降法得到概念机C；

C(R,α)＝R(R+α^-2I)^-1

其中，R＝XX^T/L为状态相关矩阵，X为上述N维的兴奋神经元状态空间矩阵，X^T为状态空间矩阵X的转置，L为隐含层状态序列的长度；

每类图像对应一个概念机C_i，每类图像所对应的正项判断依据为：

h⁺＝x^TC_i ⁺x，i为图像类别的数量；

当V2层有水平、右对角、竖直和左对角四个方向上的神经元集群时，先分别计算V2层神经元在水平、右对角、竖直和左对角四个空间方位上的概念机C，分别得到C_H,C_LD,C_V,C_RD；再根据不同方向上的概念机计算对应方向上的正向判据h_H、h_LD、h_V和h_RD，并最终得道加强判据：

h⁺＝(h_H+h_LD+h_V+h_RD)/4

当V2层有0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°八个方向上的神经元集群时，先分别计算V2层神经元在八个空间方位上的概念机C1,C2,C3,C4,C5,C6,C7和C8,再根据不同方向上的概念机计算对应方向上的正向判据h1、h2、h3、h4、h5、h6、h7和h8，并最终得道加强判据：

h⁺＝(h1+h2+h3+h4+h5+h6+h7+h8)/8；

计算被分类图像在各分类类别的加强正项判据x^TC₁ ⁺x，x^TC₂ ⁺x…x^TC_i ⁺x，由此确定j＝argmaxx^TC_i ⁺x为该图像的分类判断依据。

本发明的有益效果：

本发明基于视觉皮层处理机制的概念机神经网络图像分类方法，通过模拟大脑视觉皮层的处理机制对图像进行预处理，然后再结合概念机网络对图像进行分类处理，相比于传统的神经网络，其分类过程更接近于真实大脑的处理过程，可以较好地提取出输入图像的局部朝向信息。并且在分类处理过程中，将经过大脑视觉皮层处理机制提取得到的原图像的四个方向的特征或八个方向的特征作为概念机网络的输入，通过概念机处理输入，可更准确地进行图像分类。

附图说明

图1为4方向网络结构示意图；

图2为8方向网络结构示意图；

图3为V2神经元对数字2在四个方向上的相应；

图4为V2神经元对数字2在八个方向上的相应。

具体实施方式

下面结合附图和实施例对本发明作进一步描述。

本实施例中基于视觉皮层处理机制的概念机神经网络图像分类方法，包括通过神经网络对图像进行预处理，所述神经网络包括输入层神经元、V1层神经元和V2层神经元，所述通过神经网络对图像进行预处理包括以下步骤：

1)以动态图片的形式输入图像，图像被表达成关于图片像素位置(x,y)和时间t的光强分布I(x,y,t)；然后在三个不同的时空尺度r＝0,1,2下处理输入，第一个尺度r＝0，此时的输入等同于原始输入，另外两个尺度需要连续地使用一个高斯核函数对上一尺度的输入进行模糊化；三种输入I_r(x,y,t)的表达如下：

I₀(x,y,t)＝I(x,y,t)

其中*表示卷积运算，然后使用一个三维高斯滤波器对输入进行滤波：

其中σ_V1simple＝1.25。

2)求取V1层简单型神经元的响应，V1层简单型神经元被建模为线性的空间-时间-方位滤波器，所述空间-时间-方位滤波器的数量为28个，其感受野为一高斯函数的三阶导数；将V1层简单型神经元集群的第k个滤波器描述为一个和该滤波器方向平行的单位向量u_k＝(u_k,x,u_k,y,u_k,t)，k＝1,2,…,28，只有当输入所对应的朝向和滤波器方向相同时，这个滤波器才会被激活；然后在空间位置(x,y)拥有空间-时间方位k的简单型神经元的线性响应为：

其中X＝3-Y-T，T和Y为求和变量，X、Y、T的取值范围为[0,3]，且三者之和等于3，α_V1lin＝6.6048；把线性响应L_k,r归一化到一条高斯包络线内便得到简单型神经元的响应：

其中α_filt2rate,r＝15将无单位的滤波器响应转换为神经元的放电频率，α_V1rect＝1.9263，α_V1norm＝1，σ_V1norm＝3.35，α_V1semi＝0.1。

3)求取V1层复杂型神经元的响应，对简单型神经元的响应做局部加权求和得到复杂型神经元的响应：

其中α_V1c0mplex＝0.1，σ_V1complex＝1.6；最终所求取到的复杂型神经元的响应为神经元的平均放电频率。

4)求取V2层神经元的响应，V1层复杂型神经元将通过频率为上述所求得的平均放电频率的泊松过程产生脉冲，并通过突触传递给V2层神经元；V2层神经元的模型为Izhikevich脉冲神经元:

其中v(t)为神经元的膜电位，u(t)为恢复变量，I_syn(t)为突触前神经元产生的突触电流；当v(t)≥30mV时，神经元会产生一个脉冲，并触发重置：v(t)＝c,u(t)＝u(t)+d；对于兴奋型神经元：a＝0.02,b＝0.2,c＝-65,d＝8；对于抑制型神经元：a＝0.1,b＝0.2,c＝-65,d＝2；V1层复杂型神经元到V2层的连接为高斯连接，即两神经元空间距离越大，则有连接的概率会越小，且属于相同滤波器的神经元之间共享权值；V2层共有4个神经元集群，分别对应4个朝向:水平、右对角、竖直和左对角，同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；通过计算V2层神经元的平均放电频率来表示所提取到的输入朝向信息。图3为V2神经元以数字2为例在四个方向上的相应。

同理构造8个方向的结构，则V2层共有8个神经元集群，分别对应8个朝向：0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°；同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；同样地，通过计算V2层神经元的来表示所提取到的输入朝向信息。图4为V2神经元以数字2为例在八个方向上的相应。

本实施例中基于视觉皮层处理机制的概念机神经网络图像分类方法还包括搭建与V2层神经元连接的概念机网络，所述概念机网络由输入层神经元和隐含层神经元构成，概念机网络由输入信号P^j(n)所驱动，所述输入信号P^j(n)为V2层中神经元的平均放电频率；当概念机网络由P^j(n)驱动时，隐含层的活动状态构成了一个高维的状态空间X^j＝(x1^j,x2^j,x3^j,...xn^j)。

输入信号P^j(n)通过输入权值矩阵Win进入隐含层，隐含层激励函数采用双曲正切函数，则概念机网络的更新被描述为：

x^j(n+1)＝tanh(w^*x^j(n)+w_inp^j(n+1)+b)

其中，x是隐含层的状态向量,Win为N*1维输入权值连接，b为偏置量；输入连接权值和偏置量均为随机值，且不在训练过程中改变；由于双曲正切激励函数tanh()，使得隐含层的状态空间被限定在(-1,1)；初始时，神经元之间的连接可采用随机连接，其连接强度由一个N*N的权值矩阵W*表示，W^*是内部连接矩阵；当神经网络由输入信号P^j(n)驱动时，N维的兴奋神经元状态{X^j}位于一个状态星云中，其几何特征由该输入信号决定。

对于隐含层状态序列x(1),x(2),...x(L),构建如下的代价函数：

其中C为概念机矩阵，它描述了隐含层状态空间的特征，α≥0是一个调节参数，通过调节α找到一个使目标函数最小化的平衡点，通过随机梯度下降法得到概念机C；

C(R,α)＝R(R+α^-2I)^-1

其中，R＝XX^T/L为状态相关矩阵，X为上述N维的兴奋神经元状态空间矩阵，X^T为状态空间矩阵X的转置，L为隐含层状态序列的长度。

每类图像对应一个概念机C_i，每类图像所对应的正项判断依据为：

h⁺＝x^TC_i ⁺x，i为图像类别的数量。

当V2层有水平、右对角、竖直和左对角四个方向上的神经元集群时，先分别计算V2层神经元在水平、右对角、竖直和左对角四个空间方位上的概念机C，分别得到C_H,C_LD,C_V,C_RD；再根据不同方向上的概念机计算对应方向上的正向判据h_H、h_LD、h_V和h_RD，并最终得道加强判据：

h⁺＝(h_H+h_LD+h_V+h_RD)/4

当V2层有0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°八个方向上的神经元集群时，先分别计算V2层神经元在八个空间方位上的概念机C1,C2,C3,C4,C5,C6,C7和C8,再根据不同方向上的概念机计算对应方向上的正向判据h1、h2、h3、h4、h5、h6、h7和h8，并最终得道加强判据：

h⁺＝(h1+h2+h3+h4+h5+h6+h7+h8)/8；

计算被分类图像在各分类类别的加强正项判据x^TC₁ ⁺x，x^TC₂ ⁺x…x^TC_i ⁺x，由此确定j＝argmaxx^TC_i ⁺x为该图像的分类判断依据。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (1)

1.基于视觉皮层处理机制的概念机神经网络图像分类方法，包括通过神经网络对图像进行预处理，所述神经网络包括输入层神经元、V1层神经元和V2层神经元，所述通过神经网络对图像进行预处理包括以下步骤：

1)以动态图片的形式输入图像，图像被表达成关于图片像素位置(x，y)和时间t的光强分布I(x，y，t)；然后在三个不同的时空尺度r＝0，1，2下处理输入，第一个尺度r＝0，此时的输入等同于原始输入，另外两个尺度需要连续地使用一个高斯核函数对上一尺度的输入进行模糊化；三种输入I_r(x，y，t)的表达如下：

I₀(x，y，t)＝I(x，y，t)

其中*表示卷积运算，然后使用一个三维高斯滤波器对输入进行滤波：

其中σ_V1simple＝1.25；

2)求取V1层简单型神经元的响应，V1层简单型神经元被建模为线性的空间-时间-方位滤波器，所述空间-时间-方位滤波器的数量为28个，其感受野为一高斯函数的三阶导数；将V1层简单型神经元集群的第k个滤波器描述为一个和该滤波器方向平行的单位向量u_k＝(u_k，x，u_k，y，u_k，t)，k＝1，2，...，28，只有当输入所对应的朝向和滤波器方向相同时，这个滤波器才会被激活；然后在空间位置(x，y)拥有空间-时间方位k的简单型神经元的线性响应为：

其中X＝3-Y-T，T和Y为求和变量，X、Y、T的取值范围为[0，3]，且三者之和等于3，α_V1lin＝6.6048；把线性响应L_k，r归一化到一条高斯包络线内便得到简单型神经元的响应：

其中α_{filt2rate，r}＝15Hz将无单位的滤波器响应转换为神经元的放电频率，α_V1rect＝1.9263，α_V1norm＝1，σ_V1norm＝3.35，α_V1semi＝0.1；

3)求取V1层复杂型神经元的响应，对简单型神经元的响应做局部加权求和得到复杂型神经元的响应：

其中α_V1complex＝0.1，σ_V1complex＝1.6；最终所求取到的复杂型神经元的响应为神经元的平均放电频率；

4)求取V2层神经元的响应，V1层复杂型神经元将通过频率为上述所求得的平均放电频率的泊松过程产生脉冲，并通过突触传递给V2层神经元；V2层神经元的模型为Izhikevich脉冲神经元：

其中v(t)为神经元的膜电位，u(t)为恢复变量，I_syn(t)为突触前神经元产生的突触电流；当v(t)≥30mV时，神经元会产生一个脉冲，并触发重置：v(t)＝c，u(t)＝u(t)+d；对于兴奋型神经元：a＝0.02，b＝0.2，c＝-65，d＝8；对于抑制型神经元：a＝0.1，b＝0.2，c＝-65，d＝2；V1层复杂型神经元到V2层的连接为高斯连接，即两神经元空间距离越大，则有连接的概率会越小，且属于相同滤波器的神经元之间共享权值；V2层共有4个神经元集群，分别对应4个朝向：水平、右对角、竖直和左对角，同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；通过计算V2层神经元的平均放电频率来表示所提取到的输入朝向信息；

同理构造8个方向的结构，则V2层共有8个神经元集群，分别对应8个朝向：0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°；同一个集群的神经元只对自身偏好的输入朝向有较强的响应，而对其他朝向的输入的响应较弱；且集群之间存在相互抑制；同样地，通过计算V2层神经元的来表示所提取到的输入朝向信息。

其特征在于：还包括搭建与V2层神经神经元连接的概念机网络，所述概念机网络由输入层神经元和隐含层神经元构成，概念机网络由输入信号P^j(n)所驱动，所述输入信号P^j(n)为V2层中神经元的平均放电频率；当概念机网络由P^j(n)驱动时，隐含层的活动状态构成了一个高维的状态空间X^j＝(x1^j，x2^j，x3^j，...xn^j)；

输入信号P^j(n)通过输入权值矩阵Win进入隐含层，隐含层激励函数采用双曲正切函数，则概念机网络的更新被描述为：

x^j(n+1)＝tanh(w^*x^j(n)+w_inp^j(n+1)+b)

其中，x是隐含层的状态向量，Win为N*1维输入权值连接，b为偏置量；输入连接权值和偏置量均为随机值，且不在训练过程中改变；由于双曲正切激励函数tanh()，使得隐含层的状态空间被限定在(-1，1)；初始时，神经元之间的连接可采用随机连接，其连接强度由一个N*N的权值矩阵W*表示，W^*是内部连接矩阵；当神经网络由输入信号P^j(n)驱动时，N维的兴奋神经元状态{X^j}位于一个状态星云中，其几何特征由该输入信号决定；

对于隐含层状态序列x(1)，x(2)，...x(L)，构建如下的代价函数：

其中C为概念机矩阵，它描述了隐含层状态空间的特征，α≥0是一个调节参数，通过调节α找到一个使目标函数最小化的平衡点，通过随机梯度下降法得到概念机C；

C(R，α)＝R(R+α^-2I)^-1

其中，R＝XX^T/L为状态相关矩阵，X为上述N维的兴奋神经元状态空间矩阵，X^T为状态空间矩阵X的转置，L为隐含层状态序列的长度；

每类图像对应一个概念机C_i，每类图像所对应的正项判断依据为：

h⁺＝x^TC_i ⁺x，i为图像类别的数量；

当V2层有水平、右对角、竖直和左对角四个方向上的神经元集群时，先分别计算V2层神经元在水平、右对角、竖直和左对角四个空间方位上的概念机C，分别得到C_H，C_LD，C_V，C_RD；再根据不同方向上的概念机计算对应方向上的正向判据h_H、h_LD、h_V和h_RD，并最终得道加强判据：

h⁺＝(h_H+h_LD+h_V+h_RD)/4

当V2层有0°，22.5°，45°，67.5°，90°，112.5°，135°，157.5°，180°八个方向上的神经元集群时，先分别计算V2层神经元在八个空间方位上的概念机C1，c2，C3，C4，C5，C6，C7和C8，再根据不同方向上的概念机计算对应方向上的正向判据h1、h2、h3、h4、h5、h6、h7和h8，并最终得道加强判据：

h⁺＝(h1+h2+h3+h4+h5+h6+h7+h8)/8；

计算被分类图像在各分类类别的加强正项判据x^TC₁ ⁺x，x^TC₂ ⁺x...x^TC_i ⁺x，由此确定j＝argmax x^TC_i ⁺x为该图像的分类判断依据。