CN102663428A - 神经网络模式识别系统和模式识别方法 - Google Patents

Abstract

一种基于神经元工作方式的神经网络模式识别系统和模式识别方法，该模式识别系统由时间发出模块、输入层神经元输入处理模块、中间层神经元信息处理模块、突触可塑性模块和系统输出模块构成。本发明的不会受到太多的限制，比如步长、输入数据的规模等，相对于传统的BP网络来说，步长增大导致训练时间增加而且收敛性也随之变差，甚至有的时候不会收敛，而基于神经元工作方式的网络没有步长的需求，并且输入规模加大确实会导致学习时间增长，但这并不影响收敛性。对于规模相当的输入，基于神经元工作方式的网络收敛速度快，识别率比BP网络略高。

Description

神经网络模式识别系统和模式识别方法

技术领域

本发明涉及模式识别，特点是一种基于神经元工作方式的神经网络模式识别系统和模式识别方法。

背景技术

基于神经元工作原理的神经网络起步是从1983年，自1983年W.B.Levy和O.Steward两名科学家通过实验发现哺乳动物大脑中的可塑性原理之后，众多神经科学家和脑科学家开始常年探索大脑内的学习方式和工作原理，经过不懈努力，在1992年由Y.Dan和M.Poo两位科学家发现了大脑的一种认知机理，即脉冲时间依赖可塑性学习方式，后又由瑞士洛桑理工学院的Henry Markram教授完善并丰富了该学说。这种基于神经元工作原理的神经网络也称为脉冲神经网络，它被誉为第三代神经网络。该网络的基本组成单元，即神经元，是利用其触发的脉冲时序进行信息的处理，目前大部分的研究工作集中在理论和算法等方面。所述的基于神经元工作方式的神经网络模式识别系统和实现方法详细阐述了其进行模式识别的实现步骤，并加入了延时更新的有监督学习机制。

目前神经网络的应用范围非常广泛，其应用范围主要包括生物信号的检测与自动分析、医学专家系统、计算机领域、数据挖掘、自动驾驶，甚至美国的邮件系统里也应用了神经网络。

世界各地的科学家和工程师不断尝试把新发现的技术应用到实际工作中，正是由于应用领域的发展使得人工神经网络达到了一个新的高度达到了一个新的繁荣点。

发明内容

本发明提出一种基于神经元工作方式的神经网络模式识别系统和模式识别方法。基于神经元工作方式的网络不会受到太多的限制，比如步长、输入数据的规模等，相对于传统的BP网络来说，步长增大导致训练时间增加而且收敛性也随之变差，甚至有的时候不会收敛，而基于神经元工作方式的网络没有步长的需求，并且输入规模加大确实会导致学习时间增长，但这并不影响收敛性。对于规模相当的输入，基于神经元工作方式的网络收敛速度快，识别率也比BP网络要高。

本发明的技术解决方案如下：

一种基于神经元工作方式的神经网络模式识别系统，其特点在于该系统由时间发出模块、输入层神经元处理模块、中间层神经元信息处理模块、突触可塑性模块和系统输出模块构成，其连接方式如下：

所述的时间发出模块分别与所述的输入层神经元处理模块的第一输入端、中间层神经元信息处理模块的第一输入端、突触可塑性模块第一输入端和系统输出模块第一输入端相连，所述的输入层神经元处理模块的第二输入端为外界图像接收端，该输入层神经元处理模块的输出端与所述的中间层神经元信息处理模块的第二输入端相连，所述的中间层神经元信息处理模块的第一输出端与所述的系统输出模块的输入端相连，所述的中间层神经元信息处理模块的第二输出端和第三输入端之间连接所述的突触可塑性模块，所述的系统输出模块的输出端为系统输出端。

一种基于神经元工作原理的模式识别系统的模式识别方法，其特点在于该方法包括以下步骤：

1)、系统初始化：

在输入层神经元处理模块中包括输入层膜电位矩阵A、膜电位重置矩阵V^r、输入层当前时刻矩阵C^old、输入层电脉冲发出时刻矩阵C^new和输入矩阵I五个1×n的矩阵，其中输入层膜电位矩阵A的元素为A_i，矩阵V^r的元素为矩阵C^old的元素为

矩阵C^new的元素为

矩阵I的元素为I_i，i的取值均为1～n；所述的输入层膜电位矩阵A和矩阵I初始化为零矩阵，所述的矩阵V^r的所有n个分量

都初始化为恒定的常量V_reset，所述的矩阵C^old中所有n个分量均为从时间发出模块接收到的当前时刻t，矩阵C^new初始化为零矩阵；一个n×n的输入层电脉冲判断矩阵B，矩阵B的元素为B_ij，i和j的取值均为1～n，B初始化为一个零矩阵；一个p×q的图像矩阵Q，矩阵Q的元素为Q_fs，f的取值为1～p，s的取值为1～q，其中p代表了输入图像每一列的像素点个数，q代表了输入图像每一行的像素点个数，而且p×q＝n，u代表了需要识别图像的个数，Q初始化为一个零矩阵；

中间层神经元信息处理模块中包括中间层当前时刻矩阵H、中间层电脉冲发出时刻矩阵R和中间层膜电位矩阵G三个1×m的矩阵，他们的元素分别为H_k、R_k、G_k，k的取值均为1～m，其中矩阵H的所有m个分量均为从时间发出模块接收到的当前时刻t，矩阵R和G都初始化为零矩阵；三个m×m的矩阵，中间层电脉冲判断矩阵D、中间层神经元关系矩阵S和中间层脉冲时间差矩阵ΔT，他们的元素分别为D_gk、S_gk和ΔT_gk，g和k的取值均为1～m，其中，矩阵D和ΔT均初始化为零矩阵，矩阵S在初始化时必须保证其每一行和每一列只能有一个值是1，其余的值均为零；一个n×m的前端突触矩阵P，其元素为P_ik，i的取值为1～n，k的取值为1～m，矩阵P的所有元素P_ik初始化为0～0.5的随机数；m个m×m的矩阵E_i，i的取值为1～m，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；

突触可塑性模块中包括权重改变量矩阵ΔW和中间层权重矩阵M两个m×m的矩阵，他们的元素分别为ΔW_gk和M_gk，g和k的取值均为1～m，其中矩阵ΔW初始化为零矩阵，矩阵M的所有元素M_gk初始化为0～0.5的随机数；

系统输出模块中包括时间系数矩阵T、延时代更新矩阵Y^old和延时矩阵Y^new三个m×u的矩阵，他们的元素分别为T_kh、和

k的取值为1～m，h的取值为1～u，其中矩阵T的所有元素T_kh初始化为1，矩阵Y^old的所有元素初始化为0～1的随机数，矩阵Y^new初始化为零矩阵；脉冲系数矩阵X、输出层电脉冲判断矩阵L和判断系数矩阵N三个u×1的矩阵，他们的元素分别为X_h、L_h和N_h，h的取值均为1～u，其中矩阵X和矩阵N的所有元素初始化为1，这两个矩阵是常矩阵，在计算过程中所有元素的值保持不变，矩阵L初始化为零矩阵；u个u×1的模式矩阵K^c，这u个矩阵为常矩阵，不随时间变化，c的取值为1～u，每一个矩阵K^c的元素为

h的取值为1～u，矩阵K^c的初始化依照的规律为：K^c的第c位为1，其他元素均为零；一个1×m的衰减系数矩阵Z，其元素为Z_k，k的取值为1～m，该矩阵的所有元素Z_k全部初始化为1；一个1×u的输出层膜电位矩阵V，其元素为V_h，h的取值为1～u，矩阵V初始化为零矩阵；

所述的神经网络模式识别系统，涉及到的恒定常量包括阈值V_th、重置膜电位V_reset、神经元树突电位随指数衰减的时间常数τ_d、神经元膜电位随指数衰减的时间常数τ_m、神经元树突电阻R_d、神经元细胞膜的膜电阻R_m、神经元细胞体电位随指数衰减的时间常数τ_s、突触正向增益A⁺、突触负向增益A^-、突触权重随时间指数衰减常量τ⁺、突触权重随时间指数递增常量τ^-、权重最大值w_max、权重最小值w_min、学习速率η、延时偏移量Δd＝0.1和希尔伯特-施密特范数阈值λ_th；

2)、时间发出模块是控制整个神经网络的时钟模块，该模块每间隔1ms向输入层神经元处理模块、中间层神经元信息处理模块、突触可塑性模块和系统输出模块发出当前时刻t，t从0开始，每次递增1；

3)、当所述的输入层神经元处理模块接收到所述的时间发出模块发出的时间触发脉冲信号t时，所述的输入层神经元处理模块接收外界输入的图像，通过MATLAB软件将该输入图像读到所述的图像矩阵Q中；

4)、在所述的图像矩阵Q前乘以一个系数0.5，并把矩阵Q第一行的q个元素写到所述的输入矩阵I的第1～q个元素上，矩阵Q第二行的q个元素写到矩阵I的第q+1～2q个元素上，以此类推，直到把矩阵Q的最后一行元素写到矩阵I的最后q个元素上，至此得到了所述的输入矩阵I；

5)、通过公式(1)计算输入层膜电位矩阵A：

$A=[{\mathrm{ABe}}^{-\frac{\mathrm{\θ}}{{\mathrm{\τ}}_m}}+V^r(E-B)]+\frac{R_{m}I}{{\mathrm{\τ}}_m}---\left(1\right)$

其中：B为输入层电脉冲判断矩阵，R_m为神经元细胞膜的膜电阻，τ_m为神经元膜电位随指数衰减的时间常数，E为n×n的单位矩阵，θ为一个计数器，从0开始每次递增0.1，共递增8次，之后清零，V^r矩阵的每个元素均为常量V_reset；

6)、将所述的输入层膜电位矩阵A的每一个分量A_i与一个恒定阈值V_th做比较并进行相应的处理：

当A_i大于阈值V_th，所述的矩阵B的第i行第i列的元素B_ii置为1，当A_i小于或等于阈值V_th，则所述的矩阵B的第i行第i列的元素B_ii不变；把A的所有n个分量与阈值V_th比较过之后，得到输入层电脉冲判断矩阵B；

7)、利用公式(2)计算输入层电脉冲发出时刻矩阵C^new：

C^new＝C^oldB    (2)

其中：C^old是输入层当前时刻矩阵，C^new为输入层电脉冲发出时刻矩阵；

8)、当所述的输入层神经元处理模块接收到所述的时间发出模块发出的时间触发脉冲信号t时，将所述的矩阵B和矩阵C^new发送给中间层神经元信息处理模块(3)；同时所述的输入层神经元处理模块进入步骤5)；

9)、当所述的中间层神经元信息处理模块接收到所述的时间发出模块发出的时间触发脉冲信号t时，利用公式计算中间层膜电位矩阵G：

$G=G+a(e^{-\frac{H-R}{{\mathrm{\τ}}_m}}-e^{-\frac{H-R}{{\mathrm{\τ}}_s}})P+{\mathrm{bR}}_d(e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_m}})\mathrm{BM}---\left(3\right)$

其中：

$a=\frac{1}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_s}$

$b=\frac{1}{{\mathrm{\τ}}_d-{\mathrm{\τ}}_m}$

$R_d=\frac{{\mathrm{\τ}}_d{V}_{\mathrm{th}}}{R_m}{\left(\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_d}\right)}^{\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_d}}$

τ_s为神经元细胞体电位随指数衰减的时间常数，τ_m为神经元膜电位随指数衰减的时间常数，τ_d为神经元树突电位随指数衰减的时间常数，R_d为神经元树突电阻，V_th为恒定阈值，R_m为神经元细胞膜的膜电阻，H为中间层当前时刻矩阵，R为中间层电脉冲发出时刻矩阵，C^new为输入层电脉冲发出时刻矩阵，B为输入层电脉冲判断矩阵，M为中间层权重矩阵；

10)、将G的每一个分量G_k与恒定阈值V_th做比较并进行相应的处理：

当G_k大于阈值V_th时，所述的中间层电脉冲判断矩阵D的第k行第k列的元素Dkk置为1，当G_k小于阈值V_th时，则所述的中间层电脉冲判断矩阵D的第k行第k列的元素D_kk置为0；把G的所有m个分量与阈值V_th比较过后，得到中间层电脉冲判断矩阵D；

11)、利用公式(4)计算得到中间层电脉冲发出时刻矩阵R：

R＝HD    (4)

该矩阵的元素记录了中间层神经元发出电脉冲的时刻，H为中间层当前时刻矩阵；

12)、通过公式(5)计算所述的中间层脉冲时间差矩阵ΔT：

$\mathrm{\ΔT}=D\left[(F-S){\left(\mathrm{RD}\right)}^T\left(\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{E}_{i}S\right)\right]---\left(5\right)$

其中：R为中间层电脉冲发出时刻矩阵；D为中间层电脉冲判断矩阵；矩阵E_i，i的取值为1～m，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；F为m×m的单位矩阵，S为中间层神经元关系矩阵；

13)、当所述的中间层神经元信息处理模块接收到所述的时间发出模块下一次发出时间触发脉冲信号t时，将所述的中间层脉冲时间差矩阵ΔT发送给突触可塑性模块；同时将所述的中间层电脉冲判断矩阵D和中间层电脉冲发出时刻矩阵R发送给系统输出模块；

14)、当所述的突触可塑性模块接收到所述的时间发出模块发出的时间触发脉冲信号t时，利用公式(6)和(7)计算权重改变量矩阵ΔW：

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{+}{e}^{\frac{{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{+}}}$ ΔT_gk＜0(6)

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{-}{e}^{\frac{-{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{-}}}$ ΔT_gk＞0(7)

其中，A⁺为突触正向增益，A^-为突触负向增益，τ⁺为突触权重随时间指数衰减常量，τ^-为突触权重随时间指数递增常量，ΔT_gk为中间层脉冲时间差矩阵ΔT的元素；

15)、通过公式(8)和(9)计算得到矩阵M：

M_gk＝M_gk+ηΔW_gk(w_max-M_gk)ΔW_gk＞0(8)

M_gk＝M_gk+ηΔW_gk(M_gk-w_min)ΔW_gk＜0(9)

其中，w_max为权重的最大值，w_min为权重的最小值，η为学习速率，ΔW_gk为权重改变量矩阵ΔW的元素；

16)、当所述的突触可塑性模块接收到所述的时间发出模块下一次发出时间触发脉冲信号t时，将所述的矩阵M发送给中间层神经元信息处理模块；同时所述的突触可塑性模块进入步骤9)；

17)、当所述的系统输出模块接收到所述的时间发出模块下一次发出时间触发脉冲信号t时，利用公式(10)计算所述的输出层膜电位矩阵V：

$V=V+\mathrm{ZD}[e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_m}}]---\left(10\right)$

其中，τ_m为神经元膜电位随指数衰减的时间常数，τ_d为神经元树突电位随指数衰减的时间常数，t的值为所述的时间发出模块中发出的当前时刻脉冲信号，所述的脉冲系数矩阵X为常矩阵，其所有元素X_h在计算过程中全为1，所述的时间系数矩阵T所有元素的值均为所述的时间发出模块中发出的当前时刻脉冲信号t的值，Z为衰减系数矩阵，该矩阵的所有元素Z_k全部为恒定常量1，D为中间层电脉冲判断矩阵，R为中间层电脉冲发出时刻矩阵，Y^new为延时矩阵；

18)、将所述的输出层膜电位矩阵V的每一个分量V_h与一个恒定阈值V_th做比较并进行相应的处理：当V_h大于阈值V_th，该模块将会把所述的输出层电脉冲判断矩阵L的第h个元素L_h置为1，当把所述的输出层膜电位矩阵V的所有u个分量与阈值V_th比较过之后，得到了所述的输出层电脉冲判断矩阵L；

19)、利用公式(11)计算得到所述的延时矩阵(Y^new)：

Y^new＝Y^old+ΔdN(L-K^c)(11)

其中：所述的模式矩阵K^c中的上标c从所述的时间发出模块发出的当前时刻t＝1ms开始，每当所述的系统输出模块接收到所述的时间发出模块发出的当前时刻脉冲t信号后，上标c递增1，当c增加到u时，c的值变回1，之后继续递增，所述的判断系数矩阵(N)是个常矩阵，其所有元素均为1，并且在计算中不改变，L为所述的输出层电脉冲判断矩阵，Y^old为所述的延时待更新矩阵，Δd为一个恒定常量；

20)、利用公式(12)计算延时矩阵Y^new的希尔伯特-施密特范数λ：

$\mathrm{\λ}={\left[\underset{k=1}{\overset{u}{\mathrm{\Σ}}}\underset{h=1}{\overset{u}{\mathrm{\Σ}}}{(Y_{\mathrm{kh}}^{\mathrm{new}}-Y_{\mathrm{kh}}^{\mathrm{old}})}^2\right]}^{\frac{1}{2}}---\left(12\right)$

之后把所述的延时矩阵Y^new的值写到所述的延时待更新矩阵Y^old，其中：

为所述的延时矩阵Y^new)的元素，

为所述的延时待更新矩阵Y^old的元素；

21)、如果希尔伯特-施密特范数λ小于等于希尔伯特-施密特范数阈值λ_th，那么该模块就把标志位flag置位为1；如果λ大于希尔伯特-施密特范数阈值λ_th，那么该模块就把标志位flag置位为0；

22)、如果标志位flag为0，则所述的系统输出模块(5)接收到所述的时间发出模块下一次发出时间触发脉冲信号t时，返回步骤18)；

23)、如果flag为1，则所述的系统输出模块接收到所述的时间发出模块下一次发出时间触发脉冲信号t时，将所述的输出层电脉冲判断矩阵L作为整个网络的输出，该输出层电脉冲判断矩阵L中只有一个元素为1，其他元素均为0，当该矩阵L第h个元素为1，则说明所述的输入层神经元处理模块接收外界输入的图像就是第h个输入图像，实现了对输入的图像的识别。

本发明的技术效果如下：

本发明基于神经元工作方式的神经网络模式识别系统和实现方法。该系统易于软件实现，采用突触可塑性学习方式和延时更新学习方式，系统具有记忆的功能，相对于传统的BP网络来说，不会受到步长等因素的限制，随着输入规模的增大仍然保持收敛，而且识别率可以保持在较高的水平。

附图说明

图1系统整体结构框图

图2系统输入图像

图3输入层神经元输入处理模块(2)流程图

图4中间层神经元信息处理模块(3)和突触可塑性模块(4)流程图

图5系统输出模块(5)流程图

具体实施方式

以下结合附图对本发明做进一步说明，但不应以此限制本发明的保护范围。

图1是系统整体结构框图。如图所示，基于神经元工作方式的神经网络模式识别系统由时间发出模块1、输入层神经元输入处理模块2、中间层神经元信息处理模块3、突触可塑性模块4和系统输出模块5构成。其连接方式如下：

所述的时间发出模块1分别与所述的输入层神经元处理模块2的第一输入端、中间层神经元信息处理模块3的第一输入端、突触可塑性模块4第一输入端和系统输出模块5第一输入端相连，所述的输入层神经元处理模块2的第二输入端为外界图像接收端，该输入层神经元处理模块2的输出端与所述的中间层神经元信息处理模块3的第二输入端相连，所述的中间层神经元信息处理模块3的第一输出端与所述的系统输出模块5的输入端相连，所述的中间层神经元信息处理模块3的第二输出端和第三输入端之间连接所述的突触可塑性模块4，所述的系统输出模块5的第二输出端为系统输出端。

图2是系统输入图像。如图所示，图2-1表示输入英文字母O，图2-2表示输入英文字母P。两个输入图像均为黑白二值图像，该图像共15个像素点。其中，黑色像素用恒定电流值0.5mA表示，表示白色像素的电流值为0。

图2-1和图2-2从当前时刻t＝1ms开始，每间隔1ms输入到系统中。即，t＝1ms时，输入图2-1；t＝2ms时，输入图2-2，依此类推。

基于神经元工作原理的模式识别系统的模式识别方法，其特征在于该方法包括以下步骤：

1)、系统初始化：

在输入层神经元处理模块2中包括输入层膜电位矩阵(A)、膜电位重置矩阵(V^r)、输入层当前时刻矩阵(C^old)、输入层电脉冲发出时刻矩阵(C^new)和输入矩阵(I)五个1×15的矩阵，其中矩阵A的元素为A_i，矩阵V^r的元素为

矩阵C^old的元素为

矩阵C^new的元素为

矩阵I的元素为I_i，i的取值均为1～15；所述的矩阵A和矩阵I初始化为零矩阵，所述的矩阵V^r的所有15个分量都初始化为恒定的常量V_reset＝-1，所述的矩阵C^old中所有15个分量均为从时间发出模块1接收到的当前时刻t，矩阵C^new初始化为零矩阵；一个15×15的输入层电脉冲判断矩阵(B)，矩阵B的元素为B_ij，i和j的取值为1～15，B初始化为一个零矩阵；一个5×3的图像矩阵(Q)，矩阵Q的元素为Q_fs，f的取值为1～5，s的取值为1～3，其中输入图像每一行的像素点个数是3，每一列的像素点个数为5，需要识别图像的个数是两个，Q初始化为一个零矩阵；

中间层神经元信息处理模块3中包括中间层当前时刻矩阵(H)、中间层电脉冲发出时刻矩阵(R)和中间层膜电位矩阵(G)三个1×10的矩阵，他们的元素分别为H_k、R_k、G_k，k的取值均为1～10，其中矩阵H的所有10个分量均为从时间发出模块1接收到的当前时刻t，矩阵R和G都初始化为零矩阵；三个10×10的矩阵，中间层电脉冲判断矩阵(D)、中间层神经元关系矩阵(S)和中间层脉冲时间差矩阵(ΔT)，他们的元素分别为D_gk、S_gk和ΔT_gk，g和k的取值均为1～10，其中，矩阵D和ΔT均初始化为零矩阵，矩阵S在初始化时必须保证其每一行和每一列只能有一个值是1，其余的值均为零；

中间层神经元关系矩阵(S)的具体初始值如下：

$S=\left[\begin{array}{cccccccccc}0& 0& 0& 1& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 1& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 1& 0& 0& 0& 0\\ 0& 0& 1& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& 0& 1& 0\\ 1& 0& 0& 0& 0& 0& 0& 0& 0& 0\\ 0& 1& 0& 0& 0& 0& 0& 0& 0& 0\\ 0& 0& 0& 0& 0& 0& 0& 0& 0& 1\\ 0& 0& 0& 0& 0& 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0& 0& 0& 1& 0& 0\end{array}\right]$

中间层神经元信息处理模块3中还包括一个15×10的前端突触矩阵P，其元素为P_ik，i的取值为1～15，k的取值为1～10，矩阵P的所有元素P_ik初始化为0～0.5的随机数；10个10×10的矩阵E_i，i的取值为1～10，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；

突触可塑性模块4中包括权重改变量矩阵(ΔW)和中间层权重矩阵(M)两个10×10的矩阵，他们的元素分别为ΔW_gk和M_gk，g和k的取值均为1～10，其中矩阵ΔW初始化为零矩阵，矩阵M的所有元素M_gk初始化为0～0.5的随机数。

系统输出模块5中包括时间系数矩阵(T)、延时代更新矩阵(Y^old)和延时矩阵(Y^new)三个10×2的矩阵，他们的元素分别为T_kh、

和

k的取值为1～10，h的取值为1～2，其中矩阵T的所有元素T_kh初始化为1，矩阵Y^old的所有元素

初始化为0～1的随机数，矩阵Y^new初始化为零矩阵；脉冲系数矩阵(X)、输出层电脉冲判断矩阵(L)和判断系数矩阵(N)三个2×1的矩阵，他们的元素分别为X_h、L_h和N_h，h的取值均为1～2，其中矩阵X和矩阵N的所有元素初始化为1，矩阵L初始化为零矩阵；2个2×1的模式矩阵(K^c)，c的取值为1～2，每一个矩阵K^c的元素为h的取值为1～2，c的取值为1～2，矩阵K^c的初始化依照的规律为：K^c的第c位为1，其他元素均为零；

这两个输入的模式矩阵(K)可以具体表示为

$K^1=\begin{array}{c}1\\ 0\end{array};$ $K^2=\begin{array}{c}0\\ 1\end{array}$

系统输出模块5中还包括一个1×10的衰减系数矩阵(Z)，其元素为Z_k，k的取值为1～10，该矩阵的所有元素Z_k全部初始化为1；一个1×2的输出层膜电位矩阵(V)，其元素为V_h，h的取值为1～2，矩阵V初始化为零矩阵。

基于神经元工作方式的神经网络模式识别系统中，涉及到的恒定常量包括：阈值V_th＝10、重置膜电位V_reset＝-1、神经元树突电位随指数衰减的时间常数τ_d＝5、神经元膜电位随指数衰减的时间常数τ_m＝30、神经元树突电阻R_d＝50、神经元细胞膜的膜电阻R_m＝80、神经元细胞体电位随指数衰减的时间常数τ_s＝2、突触正向增益A⁺＝0.1、突触负向增益A^-＝-0.105、突触权重随时间指数衰减常量τ⁺＝1、突触权重随时间指数递增常量τ^-＝1、权重最大值w_max＝1、权重最小值w_min＝0、学习速率η＝0.1、延时偏移量Δd＝0.1和希尔伯特-施密特范数阈值λ_th＝10^-5。

2)、时间发出模块1是控制整个神经网络的时钟模块，该模块每间隔1ms向输入层神经元处理模块2、中间层神经元信息处理模块3、突触可塑性模块4和系统输出模块5发出当前时刻t，t从0开始，每次递增1；

3)、当所述的输入层神经元处理模块2接收到所述的时间发出模块1发出的时间触发脉冲信号时，所述的输入层神经元处理模块2接收外界输入的图像，通过MATLAB软件将该输入图像读到所述的图像矩阵(Q)中，该实例中首先接收的输入图像是图2-1；当所述的输入层神经元处理模块2接收到所述的时间发出模块1发出的下一个时间触发脉冲信号时，接收到输入图像为图2-2，以此类推；

4)、所述的图像矩阵(Q)为5×3的矩阵，由于MATLAB中黑色像素点默认的值为1，所以要在所述的图像矩阵(Q)前乘以一个系数0.5。把所述的图像矩阵(Q)第一行的3个元素写到所述的输入矩阵(I)的第1～3个元素上，所述的图像矩阵(Q)第二行的3个元素写到所述的输入矩阵(I)的第4～6个元素上，以此类推，直到把所述的图像矩阵(Q)第五行的三个元素写到所述的输入矩阵(I)的第13～15个元素上，这样就得到了代表图2-1的所述的输入矩阵(I)，用同样的方法可以得到代表图2-2的所述的输入矩阵(I)，他们的具体表示如下所示：

代表图2-1的输入矩阵(I)为：

I＝[0，0，0.5，0，0.5，0，0，0.5，0，0，0.5，0，0，0，0.5]

代表图2-2的输入矩阵(I)为：

I＝[0，0，0，0，0.5，0，0，0，0，0，0.5，0.5，0，0.5，0.5]；

5)、通过公式(1)计算输入层膜电位矩阵A：

$A=[{\mathrm{ABe}}^{-\frac{\mathrm{\θ}}{{\mathrm{\τ}}_m}}+V^r(E-B)]+\frac{R_{m}I}{{\mathrm{\τ}}_m}---\left(1\right)$

其中：B为所述的输入层电脉冲判断矩阵，R_m为神经元细胞膜的膜电阻，τ_m为神经元膜电位随指数衰减的时间常数，E为15×15的单位矩阵，θ为一个计数器，从0开始每次递增0.1，共递增8次，之后清零，所述的膜电位重置矩阵(V^r)的每个元素均为常量V_reset＝-1；

6)、将所述的输入层膜电位矩阵(A)的每一个分量A_i与一个恒定阈值V_th做比较并进行相应的处理：

当A_i大于阈值V_th＝10，所述的输入层电脉冲判断矩阵(B)的第i行第i列的元素B_ii置为1，当A_i小于或等于阈值V_th，则所述的输入层电脉冲判断矩阵(B)的第i行第i列的元素B_ii不变；把A的所有n个分量与阈值V_th比较过之后，得到所述的输入层电脉冲判断矩阵(B)；

7)、利用公式(2)计算所述的输入层电脉冲发出时刻矩阵(C^new)：

C^new＝C^oldB    (2)

其中：C^old是所述的输入层当前时刻矩阵，B为所述的输入层电脉冲判断矩阵；

8)、当所述的输入层神经元处理模块2接收到所述的时间发出模块1发出的时间触发脉冲信号t时，将所述的输入层电脉冲判断矩阵(B)和所述的输入层电脉冲发出时刻矩阵(C^new)发送给中间层神经元信息处理模块3；同时所述的输入层神经元处理模块2进入步骤5)；

9)、当所述的中间层神经元信息处理模块3接收到所述的时间发出模块1发出的时间触发脉冲信号t时，利用公式(3)计算所述的中间层膜电位矩阵(G)：

$G=G+a(e^{-\frac{H-R}{{\mathrm{\τ}}_m}}-e^{-\frac{H-R}{{\mathrm{\τ}}_s}})P+{\mathrm{bR}}_d(e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_m}})\mathrm{BM}---\left(3\right)$

其中：

$a=\frac{1}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_s}$

$b=\frac{1}{{\mathrm{\τ}}_d-{\mathrm{\τ}}_m}$

$R_d=\frac{{\mathrm{\τ}}_d{V}_{\mathrm{th}}}{R_m}{\left(\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_d}\right)}^{\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_d}}$

τ_s为神经元细胞体电位随指数衰减的时间常数，τ_m＝30为神经元膜电位随指数衰减的时间常数，τ_d＝5为神经元树突电位随指数衰减的时间常数，R_d为神经元树突电阻，V_th＝10为恒定阈值，R_m＝80为神经元细胞膜的膜电阻，H为所述的中间层当前时刻矩阵，R为所述的中间层电脉冲发出时刻矩阵，C^new为所述的输入层电脉冲发出时刻矩阵，B为所述的输入层电脉冲判断矩阵，M为所述的中间层权重矩阵；

10)、将所述的中间层膜电位矩阵(G)的每一个分量G_k与恒定阈值V_th做比较并进行相应的处理：

当G_k大于阈值V_th时，所述的中间层电脉冲判断矩阵(D)的第k行第k列的元素D_kk置为1，当G_k小于阈值V_th时，则所述的中间层电脉冲判断矩阵(D)的第k行第k列的元素D_kk置为0；把所述的中间层膜电位矩阵(G)的所有m个分量与阈值V_th比较过后，得到了所述的中间层电脉冲判断矩阵(D)；

11)、利用公式(4)

R＝HD(4)

计算得到所述的中间层电脉冲发出时刻矩阵(R)，该矩阵的元素记录了中间层神经元发出电脉冲的时刻，H为所述的中间层当前时刻矩阵，D为所述的中间层电脉冲判断矩阵；

12)、通过公式(5)

$\mathrm{\ΔT}=D\left[(F-S){\left(\mathrm{RD}\right)}^T\left(\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{E}_{i}S\right)\right]---\left(5\right)$

计算得到所述的中间层脉冲时间差矩阵(ΔT)，其中：R为所述的中间层电脉冲发出时刻矩阵；D为所述的中间层电脉冲判断矩阵；矩阵E_i，i的取值为1～10，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；F为10×10的单位矩阵，S为所述的中间层神经元关系矩阵；

13)、当所述的中间层神经元信息处理模块3接收到所述的时间发出模块1下一次发出时间触发脉冲信号t时，将所述的中间层脉冲时间差矩阵(ΔT)发送给突触可塑性模块4；同时将所述的中间层电脉冲判断矩阵(D)和中间层电脉冲发出时刻矩阵(R)发送给系统输出模块5；

14)、当所述的突触可塑性模块4接收到所述的时间发出模块1发出的时间触发脉冲信号t时，利用公式(6)和(7)

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{+}{e}^{\frac{{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{+}}}$ ΔT_gk＜0(6)

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{-}{e}^{\frac{-{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{-}}}$ ΔT_gk＞0(7)

计算得到所述的权重改变量矩阵(ΔW)。其中，A⁺＝0.1为突触正向增益，A^-＝-0.105为突触负向增益，τ⁺＝1为突触权重随时间指数衰减常量，τ^-＝1为突触权重随时间指数递增常量，ΔT_gk为所述的中间层脉冲时间差矩阵(ΔT)的元素；

15)、通过公式(8)和(9)

M_gk＝M_gk+ηΔW_gk(w_max-M_gk)ΔW_gk＞0(8)

M_gk＝M_gk+ηΔW_gk(M_gk-w_min)ΔW_gk＜0(9)

计算得到所述的中间层权重矩阵(M)。其中，w_max＝1为权重的最大值，w_min＝0为权重的最小值，η＝0.1为学习速率，ΔW_gk为所述的权重改变量矩阵(ΔW)的元素；

16)、当所述的突触可塑性模块4接收到所述的时间发出模块1下一次发出时间触发脉冲信号t时，将所述的中间层权重矩阵(M)发送给所述的中间层神经元信息处理模块3；同时所述的突触可塑性模块4进入步骤9)；

17)、当所述的系统输出模块5接收到所述的时间发出模块1下一次发出时间触发脉冲信号t时，利用公式(10)

$V=V+\mathrm{ZD}[e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_m}}]---\left(10\right)$

计算出所述的输出层膜电位矩阵(V)。其中，τ_m＝30为神经元膜电位随指数衰减的时间常数，τ_d＝5为神经元树突电位随指数衰减的时间常数，t的值为所述的时间发出模块1中发出的当前时刻脉冲信号，所述的脉冲系数矩阵(X)为常矩阵，其所有元素X_h在计算过程中全为1，所述的时间系数矩阵(T)所有元素的值均为所述的时间发出模块1中发出的当前时刻脉冲信号t的值，Z为所述的衰减系数矩阵，该矩阵的所有元素Z_k全部为恒定常量1，D为所述的中间层电脉冲判断矩阵，R为所述的中间层电脉冲发出时刻矩阵，Y^new为所述的延时矩阵；

18)、将所述的输出层膜电位矩阵(V)的每一个分量V_h与一个恒定阈值V_th＝10做比较并进行相应的处理：当V_h大于阈值V_th，该模块将会把所述的输出层电脉冲判断矩阵(L)的第h个元素L_h置为1，当把所述的输出层膜电位矩阵(V)的所有u个分量与阈值V_th比较过之后，得到了所述的输出层电脉冲判断矩阵(L)；

19)、利用公式(11)

Y^new＝Y^old+ΔdN(L-K^c)(11)

计算得到所述的延时矩阵(Y^new)，其中：所述的模式矩阵(K^c)中的上标c从所述的时间发出模块1发出的当前时刻t＝1ms开始，每当所述的系统输出模块5接收到所述的时间发出模块1发出的当前时刻脉冲t信号后，上标c递增1，当c增加到2时，c的值变回1，之后继续递增，所述的判断系数矩阵(N)是个常矩阵，其所有元素均为1，并且在计算中不改变，L为所述的输出层电脉冲判断矩阵，Y^old为所述的延时待更新矩阵，Δd＝0.1为一个恒定常量；

20)、利用公式(12)

$\mathrm{\λ}={\left[\underset{k=1}{\overset{u}{\mathrm{\Σ}}}\underset{h=1}{\overset{u}{\mathrm{\Σ}}}{(Y_{\mathrm{kh}}^{\mathrm{new}}-Y_{\mathrm{kh}}^{\mathrm{old}})}^2\right]}^{\frac{1}{2}}---\left(12\right)$

得到所述的延时矩阵(Y^new)的希尔伯特-施密特范数λ，之后把所述的延时矩阵(Y^new)的值写到所述的延时待更新矩阵(Y^old)，其中：

为所述的延时矩阵(Y^new)的元素，

为所述的延时待更新矩阵(Y^old)的元素；

21)、如果希尔伯特-施密特范数λ小于等于希尔伯特-施密特范数阈值λ_th＝10^-5，那么该模块就把标志位flag置位为1；如果λ大于希尔伯特-施密特范数阈值λ_th＝10^-5，那么该模块就把标志位flag置位为0；

22)、如果标志位flag为0，则所述的系统输出模块5接收到所述的时间发出模块1下一次发出时间触发脉冲信号t时，返回步骤18)；

23)、如果flag为1，则所述的系统输出模块5接收到所述的时间发出模块1下一次发出时间触发脉冲信号t时，将所述的输出层电脉冲判断矩阵L作为整个网络的输出。

实验结果表明，在t＝47ms时，flag＝1，即图2-1被正确识别；在t＝58ms时，flag＝1，即图2-2被正确识别，这说明在t＝58ms时此系统已经记忆了两个图像，此时将存放的矩阵L作为整个网络的输出。如果矩阵L的元素L₁＝1并且L₂＝0，从系统的输出可以知道输入的是图2-1；如果矩阵L的元素L₂＝1而L₁＝0，从系统的输出可以知道输入的是图2-2。t＝47ms时，输出的矩阵L^T＝[1，0]，即L₁＝1，L₂＝0，可以得知输入的是图2-1；t＝58ms时，输出的矩阵L^T＝[0，1]，即L₁＝0，L₂＝1，可以得知输入的是图2-2，此时可以终止输入。此系统目前可以记忆26幅黑白二值图像，他们是26个英文字母，随着输入的增多，识别的时间增长，但是系统仍然收敛。当输入有噪声的图像时，系统的识别率为93.5％，相对于传统的BP网络略高，训练时间明显比BP网络要少，而且该系统不涉及步长等因素，使得收敛性强于BP网络。

Claims (2)

1.一种基于神经元工作方式的神经网络模式识别系统，其特征在于该系统由时间发出模块(1)、输入层神经元处理模块(2)、中间层神经元信息处理模块(3)、突触可塑性模块(4)和系统输出模块(5)构成，其连接方式如下：

所述的时间发出模块(1)分别与所述的输入层神经元处理模块(2)的第一输入端、中间层神经元信息处理模块(3)的第一输入端、突触可塑性模块(4)第一输入端和系统输出模块(5)第一输入端相连，所述的输入层神经元处理模块(2)的第二输入端为外界图像接收端，该输入层神经元处理模块(2)的输出端与所述的中间层神经元信息处理模块(3)的第二输入端相连，所述的中间层神经元信息处理模块(3)的第一输出端与所述的系统输出模块(5)的输入端相连，所述的中间层神经元信息处理模块(3)的第二输出端和第三输入端之间连接所述的突触可塑性模块(4)，所述的系统输出模块(5)的输出端为系统输出端。

2.利用权利要求1所述的模式识别系统的模式识别方法，其特征在于该方法包括以下步骤：

1)、系统初始化：

在输入层神经元处理模块(2)中包括输入层膜电位矩阵A、膜电位重置矩阵V^r、输入层当前时刻矩阵C^old、输入层电脉冲发出时刻矩阵C^new和输入矩阵I五个1×n的矩阵，其中输入层膜电位矩阵A的元素为A_i，矩阵V^r的元素为

矩阵C^old的元素为

矩阵C^new的元素为

矩阵I的元素为I_i，i的取值均为1～n；所述的输入层膜电位矩阵A和矩阵I初始化为零矩阵，所述的矩阵V^r的所有n个分量

都初始化为恒定的常量V_reset，所述的矩阵C^old中所有n个分量均为从时间发出模块(1)接收到的当前时刻t，矩阵C^new初始化为零矩阵；一个n×n的输入层电脉冲判断矩阵B，矩阵B的元素为B_ij，i和j的取值均为1～n，B初始化为一个零矩阵；一个p×q的图像矩阵Q，矩阵Q的元素为Q_fs，f的取值为1～p，s的取值为1～q，其中p代表了输入图像每一列的像素点个数，q代表了输入图像每一行的像素点个数，而且p×q＝n，u代表了需要识别图像的个数，Q初始化为一个零矩阵；

中间层神经元信息处理模块(3)中包括中间层当前时刻矩阵H、中间层电脉冲发出时刻矩阵R和中间层膜电位矩阵G三个1×m的矩阵，他们的元素分别为H_k、R_k、G_k，k的取值均为1～m，其中矩阵H的所有m个分量均为从时间发出模块(1)接收到的当前时刻t，矩阵R和G都初始化为零矩阵；三个m×m的矩阵，中间层电脉冲判断矩阵D、中间层神经元关系矩阵S和中间层脉冲时间差矩阵ΔT，他们的元素分别为D_gk、S_gk和ΔT_gk，g和k的取值均为1～m，其中，矩阵D和ΔT均初始化为零矩阵，矩阵S在初始化时必须保证其每一行和每一列只能有一个值是1，其余的值均为零；一个n×m的前端突触矩阵P，其元素为P_ik，i的取值为1～n，k的取值为1～m，矩阵P的所有元素P_ik初始化为0～0.5的随机数；m个m×m的矩阵E_i，i的取值为1～m，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；

突触可塑性模块(4)中包括权重改变量矩阵ΔW和中间层权重矩阵M两个m×m的矩阵，他们的元素分别为ΔW_gk和M_gk，g和k的取值均为1～m，其中矩阵ΔW初始化为零矩阵，矩阵M的所有元素M_gk初始化为0～0.5的随机数；

系统输出模块(5)中包括时间系数矩阵T、延时代更新矩阵Y^old和延时矩阵Y^new三个m×u的矩阵，他们的元素分别为T_kh、和

k的取值为1～m，h的取值为1～u，其中矩阵T的所有元素T_kh初始化为1，矩阵Y^old的所有元素

初始化为0～1的随机数，矩阵Y^new初始化为零矩阵；脉冲系数矩阵X、输出层电脉冲判断矩阵L和判断系数矩阵N三个u×1的矩阵，他们的元素分别为X_h、L_h和N_h，h的取值均为1～u，其中矩阵X和矩阵N的所有元素初始化为1，这两个矩阵是常矩阵，在计算过程中所有元素的值保持不变，矩阵L初始化为零矩阵；u个u×1的模式矩阵K^c，这u个矩阵为常矩阵，不随时间变化，c的取值为1～u，每一个矩阵K^c的元素为

h的取值为1～u，矩阵K^c的初始化依照的规律为：K^c的第c位为1，其他元素均为零；一个1×m的衰减系数矩阵Z，其元素为Z_k，k的取值为1～m，该矩阵的所有元素Z_k全部初始化为1；一个1×u的输出层膜电位矩阵V，其元素为V_h，h的取值为1～u，矩阵V初始化为零矩阵；

所述的神经网络模式识别系统，涉及到的恒定常量包括阈值V_th、重置膜电位V_reset、神经元树突电位随指数衰减的时间常数τ_d、神经元膜电位随指数衰减的时间常数τ_m、神经元树突电阻R_d、神经元细胞膜的膜电阻R_m、神经元细胞体电位随指数衰减的时间常数τ_s、突触正向增益A⁺、突触负向增益A^-、突触权重随时间指数衰减常量τ⁺、突触权重随时间指数递增常量τ^-、权重最大值w_max、权重最小值w_min、学习速率η、延时偏移量Δd＝0.1和希尔伯特-施密特范数阈值λ_th；

2)、时间发出模块(1)是控制整个神经网络的时钟模块，该模块每间隔1ms向输入层神经元处理模块(2)、中间层神经元信息处理模块(3)、突触可塑性模块(4)和系统输出模块(5)发出当前时刻t，t从0开始，每次递增1；

3)、当所述的输入层神经元处理模块(2)接收到所述的时间发出模块(1)发出的时间触发脉冲信号t时，所述的输入层神经元处理模块(2)接收外界输入的图像，通过MATLAB软件将该输入图像读到所述的图像矩阵Q中；

4)、在所述的图像矩阵Q前乘以一个系数0.5，并把矩阵Q第一行的q个元素写到所述的输入矩阵I的第1～q个元素上，矩阵Q第二行的q个元素写到矩阵I的第q+1～2q个元素上，以此类推，直到把矩阵Q的最后一行元素写到矩阵I的最后q个元素上，至此得到了所述的输入矩阵I；

5)、通过公式(1)计算输入层膜电位矩阵A：

$A=[{\mathrm{ABe}}^{-\frac{\mathrm{\θ}}{{\mathrm{\τ}}_m}}+V^r(E-B)]+\frac{R_{m}I}{{\mathrm{\τ}}_m}---\left(1\right)$

其中：B为输入层电脉冲判断矩阵，R_m为神经元细胞膜的膜电阻，τ_m为神经元膜电位随指数衰减的时间常数，E为n×n的单位矩阵，θ为一个计数器，从0开始每次递增0.1，共递增8次，之后清零，Vr矩阵的每个元素均为常量V_reset；

6)、将所述的输入层膜电位矩阵A的每一个分量A_i与一个恒定阈值V_th做比较并进行相应的处理：

当A_i大于阈值V_th，所述的矩阵B的第i行第i列的元素B_ii置为1，当A_i小于或等于阈值V_th，则所述的矩阵B的第i行第i列的元素B_ii不变；把A的所有n个分量与阈值V_th比较过之后，得到输入层电脉冲判断矩阵B；

7)、利用公式(2)计算输入层电脉冲发出时刻矩阵C^new：

C^new＝C^oldB    (2)

其中：C^old是输入层当前时刻矩阵，C^new为输入层电脉冲发出时刻矩阵；

8)、当所述的输入层神经元处理模块(2)接收到所述的时间发出模块(1)发出的时间触发脉冲信号t时，将所述的矩阵B和矩阵C^new发送给中间层神经元信息处理模块(3)；同时所述的输入层神经元处理模块(2)进入步骤5)；

9)、当所述的中间层神经元信息处理模块(3)接收到所述的时间发出模块(1)发出的时间触发脉冲信号t时，利用公式(3)计算中间层膜电位矩阵G：

$G=G+a(e^{-\frac{H-R}{{\mathrm{\τ}}_m}}-e^{-\frac{H-R}{{\mathrm{\τ}}_s}})P+{\mathrm{bR}}_d(e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{H-C^{\mathrm{new}}}{{\mathrm{\τ}}_m}})\mathrm{BM}---\left(3\right)$

其中：

$a=\frac{1}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_s}$

$b=\frac{1}{{\mathrm{\τ}}_d-{\mathrm{\τ}}_m}$

$R_d=\frac{{\mathrm{\τ}}_d{V}_{\mathrm{th}}}{R_m}{\left(\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_d}\right)}^{\frac{{\mathrm{\τ}}_m}{{\mathrm{\τ}}_m-{\mathrm{\τ}}_d}}$

τ_s为神经元细胞体电位随指数衰减的时间常数，τ_m为神经元膜电位随指数衰减的时间常数，τ_d为神经元树突电位随指数衰减的时间常数，R_d为神经元树突电阻，V_th为恒定阈值，R_m为神经元细胞膜的膜电阻，H为中间层当前时刻矩阵，R为中间层电脉冲发出时刻矩阵，C^new为输入层电脉冲发出时刻矩阵，B为输入层电脉冲判断矩阵，M为中间层权重矩阵；

10)、将G的每一个分量G_k与恒定阈值V_th做比较并进行相应的处理：

当G_k大于阈值V_th时，所述的中间层电脉冲判断矩阵D的第k行第k列的元素D_kk置为1，当G_k小于阈值V_th时，则所述的中间层电脉冲判断矩阵D的第k行第k列的元素D_kk置为0；把G的所有m个分量与阈值V_th比较过后，得到中间层电脉冲判断矩阵D；

11)、利用公式(4)计算得到中间层电脉冲发出时刻矩阵R：

R＝HD    (4)

该矩阵的元素记录了中间层神经元发出电脉冲的时刻，H为中间层当前时刻矩阵；

12)、通过公式(5)计算所述的中间层脉冲时间差矩阵ΔT：

$\mathrm{\ΔT}=D\left[(F-S){\left(\mathrm{RD}\right)}^T\left(\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{E}_{i}S\right)\right]---\left(5\right)$

其中：R为中间层电脉冲发出时刻矩阵；D为中间层电脉冲判断矩阵；矩阵E_i，i的取值为1～m，E_i中的元素为e_pq，当p＝q＝i时，e_pq＝1，其他元素均为零；F为m×m的单位矩阵，S为中间层神经元关系矩阵；

13)、当所述的中间层神经元信息处理模块(3)接收到所述的时间发出模块(1)下一次发出时间触发脉冲信号t时，将所述的中间层脉冲时间差矩阵ΔT发送给突触可塑性模块(4)；同时将所述的中间层电脉冲判断矩阵D和中间层电脉冲发出时刻矩阵R发送给系统输出模块(5)；

14)、当所述的突触可塑性模块(4)接收到所述的时间发出模块(1)发出的时间触发脉冲信号t时，利用公式(6)和(7)计算权重改变量矩阵ΔW：

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{+}{e}^{\frac{{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{+}}}$ ΔT_gk＜0(6)

${\mathrm{\ΔW}}_{\mathrm{gk}}=A^{-}{e}^{\frac{-{\mathrm{\ΔT}}_{\mathrm{gk}}}{{\mathrm{\τ}}^{-}}}$ ΔT_gk＞0(7)

其中，A⁺为突触正向增益，A^-为突触负向增益，τ⁺为突触权重随时间指数衰减常量，τ^-为突触权重随时间指数递增常量，ΔT_gk为中间层脉冲时间差矩阵ΔT的元素；

15)、通过公式(8)和(9)计算得到矩阵M：

M_gk＝M_gk+ηΔW_gk(w_max-M_gk)ΔW_gk＞0(8)

M_gk＝M_gk+ηΔW_gk(M_gk-w_min)ΔW_gk＜0(9)

 其中，w_max为权重的最大值，w_min为权重的最小值，η为学习速率，ΔW_gk为权重改变量矩阵ΔW的元素；

16)、当所述的突触可塑性模块(4)接收到所述的时间发出模块(1)下一次发出时间触发脉冲信号t时，将所述的矩阵M发送给中间层神经元信息处理模块(3)；同时所述的突触可塑性模块(4)进入步骤9)；

17)、当所述的系统输出模块(5)接收到所述的时间发出模块(1)下一次发出时间触发脉冲信号t时，利用公式(10)计算所述的输出层膜电位矩阵V：

$V=V+\mathrm{ZD}[e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_d}}-e^{-\frac{\mathrm{tT}-\mathrm{XR}+Y^{\mathrm{new}}}{{\mathrm{\τ}}_m}}]---\left(10\right)$

其中，τ_m为神经元膜电位随指数衰减的时间常数，τ_d为神经元树突电位随指数衰减的时间常数，t的值为所述的时间发出模块(1)中发出的当前时刻脉冲信号，所述的脉冲系数矩阵X为常矩阵，其所有元素X_h在计算过程中全为1，所述的时间系数矩阵T所有元素的值均为所述的时间发出模块(1)中发出的当前时刻脉冲信号t的值，Z为衰减系数矩阵，该矩阵的所有元素Z_k全部为恒定常量1，D为中间层电脉冲判断矩阵，R为中间层电脉冲发出时刻矩阵，Y^new为延时矩阵；

18)、将所述的输出层膜电位矩阵V的每一个分量V_h与一个恒定阈值V_th做比较并进行相应的处理：当V_h大于阈值V_th，该模块将会把所述的输出层电脉冲判断矩阵L的第h个元素L_h置为1，当把所述的输出层膜电位矩阵V的所有u个分量与阈值V_th比较过之后，得到了所述的输出层电脉冲判断矩阵L；

19)、利用公式(11)计算所述的延时矩阵Y^new：

Y^new＝Y^old+ΔdN(L-K^c)(11)

其中：所述的模式矩阵K^c中的上标c从所述的时间发出模块(1)发出的当前时刻t＝1ms开始，每当所述的系统输出模块(5)接收到所述的时间发出模块(1)发出的当前时刻脉冲t信号后，上标c递增1，当c增加到u时，c的值变回1，之后继续递增，所述的判断系数矩阵N是个常矩阵，其所有元素均为1，并且在计算中不改变，L为所述的输出层电脉冲判断矩阵，Y^old为所述的延时待更新矩阵，Δd为一个恒定常量；

20)、利用公式(12)计算所述的延时矩阵(Y^new)的希尔伯特-施密特范数λ：

$\mathrm{\λ}={\left[\underset{k=1}{\overset{u}{\mathrm{\Σ}}}\underset{h=1}{\overset{u}{\mathrm{\Σ}}}{(Y_{\mathrm{kh}}^{\mathrm{new}}-Y_{\mathrm{kh}}^{\mathrm{old}})}^2\right]}^{\frac{1}{2}}---\left(12\right)$

然后把所述的延时矩阵Y^new的值写到所述的延时待更新矩阵Y^old，其中：

为所述的延时矩阵Y^new的元素，

为所述的延时待更新矩阵Y^old的元素；

21)、如果希尔伯特-施密特范数λ小于等于希尔伯特-施密特范数阈值λ_th，那么该模块就把标志位flag置位为1；如果λ大于希尔伯特-施密特范数阈值λ_th，那么该模块就把标志位flag置位为0；

22)、如果标志位flag为0，则所述的系统输出模块(5)接收到所述的时间发出模块(1)下一次发出时间触发脉冲信号t时，返回步骤18)；

23)、如果flag为1，则所述的系统输出模块(5)接收到所述的时间发出模块(1)下一次发出时间触发脉冲信号t时，将所述的输出层电脉冲判断矩阵L作为整个网络的输出，该输出层电脉冲判断矩阵L中只有一个元素为1，其他元素均为0，当该矩阵L第h个元素为1，则说明所述的输入层神经元处理模块(2)接收外界输入的图像就是第h个输入图像，实现了对输入的图像的识别。

Images