CN108710770B - 一种面向多脉冲神经网络监督学习的精确突触调整方法 - Google Patents

Abstract

本发明公开了一种面向多脉冲神经网络监督学习的精确突触调整方法。本发明结合LIF和SRM两种神经元模型提出一种阈值动态自适应的精确突触调整规则，主要步骤为：利用LIF神经元对膜电压与突触电流进行仿真计算；利用W‑H规则进行突触权值调整的计算；融合突触后神经元的记忆性和SRM神经元，实现膜电压动态阈值的计算；实现输入‑输出多脉冲映射。本发明结合两种神经元模型实现突触权值的精确调整，有效改善W‑H规则推导出的权值难以保证为最优解及学习收敛速度难以控制的问题，有效提高了SNN学习的效率。

Description

一种面向多脉冲神经网络监督学习的精确突触调整方法

技术领域

本发明涉及脉冲神经网络技术领域，具体涉及一种多脉冲神经网络监督学习的精确突触调整方法。

背景技术

脉冲神经网络(Spiking Neural Networks,SNN)被誉为“第三代神经网络”，比传统人工神经网络更能模仿生物神经元之间的连接与通信，是进行复杂时空信息处理的有效工具。但由于SNN内在脉冲发放的不连续和非线性机制，构建高效的SNN监督学习算法非常困难，传统人工神经网络的监督学习算法如误差反向传播(BackPropagation，BP)算法已不能直接使用。因此SNN监督学习算法重点是如何构建合适的突触权值学习规则。

SNN是以脉冲神经元(Spiking Neuron)和突触(Synaptic)作为基本计算单元,常用的脉冲神经元包括IF(Integrate-and-Fire)，LIF(Leaky Integrate-and-Fire)，SRM(Spike ResponseModel)模型等。目前多脉冲神经网络监督学习算法中，精确脉冲驱动(Precise-Spike-Driven，PSD)算法利用目标脉冲序列与实际输出序列的时间差来调整神经网络的突触权值，有较强的鲁棒性。PSD算法是以经典的W-H规则为基础，其优势在于计算效率较高并且符合生物学原理，但是经典的W-H规则推导出的突触权值难以保证为最优解，因而导致收敛速度很难控制。

本发明结合LIF和SRM两种神经元，提出一种新的精确突触调整方法。该方法基于目标脉冲序列与实际输出序列的时间差构建误差函数，利用LIF神经元和W-H规则调整突触权值，利用SRM神经元动态调整膜电压阈值，实现输入-输出多脉冲映射，具有较高的学习容量和收敛速度，能有效解决SNN学习效率低的缺陷。

发明内容

本发明针对现有SNN监督学习算法中简单地设定膜电压阈值为常量或者是固定的线性模型，以及利用W-H规则产生的突触权值难以保证为最优解及收敛速度难控制的问题，在多脉冲神经网络学习算法中提出一种结合LIF和SRM两种神经元的精确突触调整方法，解决学习效率低和收敛速度难以控制的问题。

本发明具体内容如下：

1、利用LIF神经元对膜电压与突触电流进行仿真计算

LIF神经元实现了电子在细胞膜离子通道中的转移过程，使突触后电位(Post-Synaptic Potential，PSP)反复在阈值及平衡重置电位间转换。

在实际电路中，当电流I不断增大时，电容C两极的电压会冲破阈值V_th，此时会激发一个脉冲信号传递给下一层神经元。电路总电流的公式为：

将时间设为常数T，并且令T＝RC，则上述式子可以变形为：

由(1)式可知此电路是一个并联电路，且电容C两边的电压V(t)正好是膜电压。当电压在t＝t^f时达到阈值V_th，会产生一个脉冲激励；在此之后，膜电压会被迅速重置为初始值，并开始新一轮的累计。重设电压的表达式为：

此时，神经元膜电压的动态方程如下所示：

V_m是膜电压，E是复位电压，I_ns是环境噪声电流，I_syn是突出输入电流，R_m是膜电阻。当V_m超过阈值电压(常量)V_th＝E+18mV(mV表示毫伏)，该神经元就会放出脉冲，同时电压回归E，通常令E＝V_rest＝0mV，并进入不应期。

2、基于W-H规则进行突触权值调整

SNN神经元产生的脉冲有序数列S＝{t^f:f＝1,…F}，可表示为：

δ(x)表示Dirac delta函数，若x＝0时，δ(x)＝1，否则δ(x)＝0；t^f是第f个脉冲产生的时间。SNN学习算法针对原始信号给出的多个输入脉冲序列S_i(t)及预先设定的多个目标脉冲序列S_d(t)，学习得到合适的SNN突触权值矩阵w，使神经元实际输出脉冲序列S_o(t)与S_d(t)尽可能接近。

基于W-H规则的权值误差计算方法如下：

其中，△w_i表示第i个输入神经元的权值误差。

突触后神经元在时间T内所获取的输入电流I_syn：

其中，w_i代表时间T内第i个输入神经元的权重，

则是不加权重的第i个输入神经元的突触后电流(PostSynatic current,PSC)大小(即电流经过突触之后的大小，也就是实际输入下一层神经元的电流大小)：

H(x)是Heaviside函数，当x<0时其值为0，当x＝0时其值为0.5，当x>0时其值为1。

是PSP的归一化表达式：

权值误差的微分原始定义为：

根据式(7)和式(10)可以推导出△w_i与突触后电流

的关系。根据式(5)，定义输入脉冲序列S_i(t)，实际输出脉冲序列S_o(t)和期望输出脉冲序列S_d(t)的表达式：

其中，F₁，F₂，F₃表示脉冲序列的最大个数。利用式(6)、(7)和微积分定理可以推导出△w_i与实际输出脉冲序列S_o(t)、期望输出脉冲序列S_d(t)及突触后电流

的关系如下：

将式子展开可以得到△w_i的最终形式：

3、利用SRM神经元实现膜电压阈值动态调整

由于利用W-H规则来构建突触可塑性的方案，其推导出的权值调整难以保证为最优解。研究发现，神经元间的活动具有记忆性：当相同信号第二次刺激同一神经元时，其产生脉冲的时间更快。这是由于动态膜电压需要达到的阈值电压降低，导致脉冲很容易生成。根据这一特点，利用SRM神经元模型实现动态阈值的调整。SRM神经元的仿真公式为：

其中，w_i表示突触权值，

是突触后电势，V_i ^ext是外部刺激电压。

表示PSP达到阈值后产生不应期并重置为初始值的过程。若将式(14)作为阈值电压的求解方程，这种阈值函数被称为动态阈值函数。将输出神经元在目标脉冲输出时间t_d的电压表示为

并且希望此函数值等于或略高于阈值电压V_th。但在一开始的训练过程中，神经元电位在实际脉冲输出时间to时的电压

才会等于阈值电压。因此将当前阈值电压的计算公式设为：

令

为前一次迭代后的阈值电压，因此当前阈值电压的改变量为：

由于∑η_i(t_o-t_d)和V^ext都是常数，所以对

关于w_i求导可得：

所以式(16)可以化简成：

与现有技术相比，本发明有如下优点：

本发明受到生物神经元记忆性的启发，结合LIF和SRM两种神经元模型对PSP的阈值电压进行动态调整，提出一种精确突触调整的动态阈值自适应方法，即利用LIF神经元来调整突触权值，利用SRM神经元来调整膜电压阈值。本发明使SNN模型更符合神经元有记忆性这一生物现象，有效改善基于W-H规则的权值调整难以保证是最优解、学习收敛速度难以控制的问题。

附图说明

图1是LIF模型原理图，左侧方形虚线部分表示脉冲信号传入突触前神经元后，经突触处理变成电流信号。右边圆形虚线部分则由一个RC电路组成，此时电路中的电子逐渐累计在电容C的两极。当电流I不断增大时，电容C两极的电压会冲破阈值V_th，此时会激发一个脉冲信号传递给下一层神经元。

图2是动态阈值条件下的电压时间曲线，可以将SRM模型中影响V_i(t)状态的过程划分为两个阶段：第一个阶段是前突触神经元对输入脉冲序列累计产生电压的过程；第二个阶段是PSP达到阈值后产生不应期并重置为初始值的过程。

图3是仅利用LIF神经元和W-H规则进行权重调整的SNN学习算法收敛速度实验图。(a)中点表示每次迭代学习后实际输出的脉冲，线表示目标脉冲产生时间点，(b)表示第一次学习后突触后电压，(c)表示最后一次一次学习后突触后电压，(d)表示实际输出的脉冲序列与目标脉冲序列的VR距离差Dis。

图4是本发明的收敛速度实验图。

具体实施方式

下面结合附图对本发明进一步说明：

步骤1：利用LIF神经元对膜电压与突触电流进行仿真计算

如图1所示，在LIF神经元电路中，当电流I不断增大时，电容C两极的电压会冲破阈值V_th，此时会激发一个脉冲信号传递给下一层神经元。电路总电流的公式为：

将时间设为一个常数T，并且令T＝RC，那么上述式子就可以变形为：

由此可知此电路是一个并联电路，且电容C两边的电压V(t)正好是膜电压。当电压在t＝t^f时达到阈值V_th，就会产生一个脉冲激励；在此之后，电压会被迅速重置为初始值，并开始新一轮的累计。重设电压的表达式为：

此时，神经元膜电压的动态方程如下所示：

V_m是膜电压，E是复位电压，I_ns是环境噪声电流，I_syn是突出输入电流，R_m是膜电阻。当V_m超过阈值电压(常量)V_th＝E+18mV(mV表示毫伏)，该神经元就会放出脉冲，同时电压回归E，通常令E＝V_rest＝0mV，并进入不应期。

步骤2：基于W-H规则进行突触权值调整

SNN神经元产生的脉冲有序数列S＝{t^f:f＝1,…F}，可表示为：

δ(x)表示Dirac delta函数，若x＝0时，δ(x)＝1，否则δ(x)＝0；t^f是第f个脉冲产生的时间。SNN学习算法针对原始信号给出的多个输入脉冲序列S_i(t)及预先设定的多个目标脉冲序列S_d(t)，学习得到合适的SNN突触权值矩阵w，使神经元实际输出脉冲序列S_o(t)与S_d(t)尽可能接近。

基于W-H规则的权值误差计算如下：

其中，△w_i表示第i个输入神经元的权值误差。

突触后神经元在时间T内所获取的输入电流I_syn：

其中，w_i代表时间T内第i个输入神经元的权重，

则是不加权重的第i个输入神经元的突触后电流(PostSynatic current,PSC)大小：

H(x)是Heaviside函数，当x<0时其值为0，当x＝0时其值为0.5，当x>0时其值为1。

是PSP的归一化表达式：

并由微分的原始定义：

得出△w_i与突触后电流

的关系。根据上述公式，定义输入脉冲序列S_i(t)，实际输出脉冲序列S_o(t)和期望输出脉冲序列S_d(t)的表达式为：

其中，F₁，F₂，F₃表示脉冲序列的最大个数。利用微积分定理推导出△w_i与实际输出脉冲序列S_o(t)和期望输出脉冲序列S_d(t)及突触后电流

的关系如下：

将式子展开可以得到△w_i的最终形式：

步骤3：利用SRM神经元实现膜电压阈值动态计算

根据图2，利用SRM神经元模型实现动态阈值调整，SRM神经元模型的仿真公式为：

其中，w_i表示了突触权i值，

是突触后电势，V_i ^ext是外部刺激电压。

表示PSP达到阈值后产生不应期并重置为初始值的过程。若将上式作为阈值电压的求解，这种阈值函数被称为动态阈值函数。将输出神经元在目标脉冲输出时间t_d的电压表示为

并且希望此函数值等于或略高于阈值电压V_th。但在一开始的训练过程中，神经元电位在实际脉冲输出时间t_o时的电压

才会大于等于阈值电压。因此将当前阈值电压的计算公式设为：

令

为前一次迭代后的阈值电压，因此当前阈值电压的改变量为：

由于∑η_i(t_o-t_d)和V^ext都是常数，所以对

关于w_i求导可得：

则△v_th(t_o)可以化简成：

通过上述式子实现了阈值的动态调整。通过图3和图4的对比可得，本发明在LIF神经元和W-H规则的基础上，融合了突触后神经元的记忆性和SRM神经元计算模式，提出一种精确突触调整的动态阈值自适应方法。实验表明，本发明可以加快多脉冲神经网络学习算法的收敛速度，解决SNN监督学习效率低的缺陷。

Claims (1)

1.一种面向多脉冲神经网络监督学习的精确突触调整方法，其特征在于，包括如下步骤：

步骤1：利用LIF神经元对膜电压与突触电流进行仿真计算

在LIF神经元电路中，当电流I不断增大时，电容C两极的电压会冲破阈值V_th，此时会激发一个脉冲信号传递给下一层神经元；电路总电流的公式为：

将时间设为一个常数T，并且令T＝RC，上述式子变形为：

当电压在t＝t^f时达到阈值V_th，产生一个脉冲激励；在此之后，电压会被迅速重置为初始值，并开始新一轮的累计；重设电压的表达式为：

此时，神经元膜电压的动态方程如下所示：

V_m是膜电压，E是复位电压，I_ns是环境噪声电流，I_syn是突出输入电流，R_m是膜电阻；当V_m超过阈值V_th，该神经元就会放出脉冲，同时电压回归E；

步骤2：基于W-H规则进行突触权值调整

SNN神经元产生的脉冲有序数列S＝{t^f:f＝1,…F}，表示为：

δ(x)表示Dirac delta函数，若x＝0时，δ(x)＝1，否则δ(x)＝0；t^f是第f个脉冲产生的时间；SNN学习算法针对原始信号给出的多个输入脉冲序列S_i(t)及预先设定的多个目标脉冲序列S_d(t)，学习得到合适的SNN突触权值矩阵w，使神经元实际输出脉冲序列S_o(t)与S_d(t)尽可能接近；

基于W-H规则的权值误差计算如下：

突触后神经元在时间T内所获取的输入电流I_syn：

其中，w_i代表时间T内第i个输入神经元的权重，

则是不加权重的第i个输入神经元的突触后电流大小：

H(x)是Heaviside函数，当x<0时其值为0，当x＝0时其值为0.5，当x>0时其值为1；

是PSP的归一化表达式：

权值误差的微分原始定义为：

由此推导出Δw_i与突触后电流

的关系；定义输入脉冲序列S_i(t)，实际输出脉冲序列S_o(t)和期望输出脉冲序列S_d(t)的表达式：

其中，F₁，F₂，F₃表示脉冲序列的最大个数；利用微积分定理得到Δw_i与实际输出脉冲序列S_o(t)、期望输出脉冲序列S_d(t)及突触后电流

的关系如下：

将式子展开得到Δw_i的最终形式：

步骤3：利用SRM神经元实现膜电压阈值动态计算

利用SRM神经元模型实现膜电压阈值动态调整，SRM神经元模型的仿真公式为：

其中，w_i表示突触权值，

是突触后电势，

是外部刺激电压；

表示PSP达到阈值后产生不应期并重置为初始值的过程；将输出神经元在目标脉冲输出时间t_d的电压表示为

并且希望此函数值等于或高于阈值电压V_th；但在一开始的训练过程中，神经元电位在实际脉冲输出时间t_o时的电压

才会大于等于阈值电压；因此将当前阈值电压的计算公式设为：

令

为前一次迭代后的阈值电压，则当前阈值电压的改变量为：

∑h_i(t_o-t_d)和V^ext都是常数，对

关于w_i求导可得：

则Δv_th(t_o)化简成：

Images