CN108710770B - 一种面向多脉冲神经网络监督学习的精确突触调整方法 - Google Patents
一种面向多脉冲神经网络监督学习的精确突触调整方法 Download PDFInfo
- Publication number
- CN108710770B CN108710770B CN201810543847.2A CN201810543847A CN108710770B CN 108710770 B CN108710770 B CN 108710770B CN 201810543847 A CN201810543847 A CN 201810543847A CN 108710770 B CN108710770 B CN 108710770B
- Authority
- CN
- China
- Prior art keywords
- neuron
- voltage
- pulse
- current
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Hardware Design (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Geometry (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Feedback Control In General (AREA)
Abstract
本发明公开了一种面向多脉冲神经网络监督学习的精确突触调整方法。本发明结合LIF和SRM两种神经元模型提出一种阈值动态自适应的精确突触调整规则,主要步骤为:利用LIF神经元对膜电压与突触电流进行仿真计算;利用W‑H规则进行突触权值调整的计算;融合突触后神经元的记忆性和SRM神经元,实现膜电压动态阈值的计算;实现输入‑输出多脉冲映射。本发明结合两种神经元模型实现突触权值的精确调整,有效改善W‑H规则推导出的权值难以保证为最优解及学习收敛速度难以控制的问题,有效提高了SNN学习的效率。
Description
技术领域
本发明涉及脉冲神经网络技术领域,具体涉及一种多脉冲神经网络监督学习的精确突触调整方法。
背景技术
脉冲神经网络(Spiking Neural Networks,SNN)被誉为“第三代神经网络”,比传统人工神经网络更能模仿生物神经元之间的连接与通信,是进行复杂时空信息处理的有效工具。但由于SNN内在脉冲发放的不连续和非线性机制,构建高效的SNN监督学习算法非常困难,传统人工神经网络的监督学习算法如误差反向传播(BackPropagation,BP)算法已不能直接使用。因此SNN监督学习算法重点是如何构建合适的突触权值学习规则。
SNN是以脉冲神经元(Spiking Neuron)和突触(Synaptic)作为基本计算单元,常用的脉冲神经元包括IF(Integrate-and-Fire),LIF(Leaky Integrate-and-Fire),SRM(Spike ResponseModel)模型等。目前多脉冲神经网络监督学习算法中,精确脉冲驱动(Precise-Spike-Driven,PSD)算法利用目标脉冲序列与实际输出序列的时间差来调整神经网络的突触权值,有较强的鲁棒性。PSD算法是以经典的W-H规则为基础,其优势在于计算效率较高并且符合生物学原理,但是经典的W-H规则推导出的突触权值难以保证为最优解,因而导致收敛速度很难控制。
本发明结合LIF和SRM两种神经元,提出一种新的精确突触调整方法。该方法基于目标脉冲序列与实际输出序列的时间差构建误差函数,利用LIF神经元和W-H规则调整突触权值,利用SRM神经元动态调整膜电压阈值,实现输入-输出多脉冲映射,具有较高的学习容量和收敛速度,能有效解决SNN学习效率低的缺陷。
发明内容
本发明针对现有SNN监督学习算法中简单地设定膜电压阈值为常量或者是固定的线性模型,以及利用W-H规则产生的突触权值难以保证为最优解及收敛速度难控制的问题,在多脉冲神经网络学习算法中提出一种结合LIF和SRM两种神经元的精确突触调整方法,解决学习效率低和收敛速度难以控制的问题。
本发明具体内容如下:
1、利用LIF神经元对膜电压与突触电流进行仿真计算
LIF神经元实现了电子在细胞膜离子通道中的转移过程,使突触后电位(Post-Synaptic Potential,PSP)反复在阈值及平衡重置电位间转换。
在实际电路中,当电流I不断增大时,电容C两极的电压会冲破阈值Vth,此时会激发一个脉冲信号传递给下一层神经元。电路总电流的公式为:
将时间设为常数T,并且令T=RC,则上述式子可以变形为:
由(1)式可知此电路是一个并联电路,且电容C两边的电压V(t)正好是膜电压。当电压在t=tf时达到阈值Vth,会产生一个脉冲激励;在此之后,膜电压会被迅速重置为初始值,并开始新一轮的累计。重设电压的表达式为:
此时,神经元膜电压的动态方程如下所示:
Vm是膜电压,E是复位电压,Ins是环境噪声电流,Isyn是突出输入电流,Rm是膜电阻。当Vm超过阈值电压(常量)Vth=E+18mV(mV表示毫伏),该神经元就会放出脉冲,同时电压回归E,通常令E=Vrest=0mV,并进入不应期。
2、基于W-H规则进行突触权值调整
SNN神经元产生的脉冲有序数列S={tf:f=1,…F},可表示为:
δ(x)表示Dirac delta函数,若x=0时,δ(x)=1,否则δ(x)=0;tf是第f个脉冲产生的时间。SNN学习算法针对原始信号给出的多个输入脉冲序列Si(t)及预先设定的多个目标脉冲序列Sd(t),学习得到合适的SNN突触权值矩阵w,使神经元实际输出脉冲序列So(t)与Sd(t)尽可能接近。
基于W-H规则的权值误差计算方法如下:
其中,△wi表示第i个输入神经元的权值误差。
突触后神经元在时间T内所获取的输入电流Isyn:
其中,wi代表时间T内第i个输入神经元的权重,则是不加权重的第i个输入神经元的突触后电流(PostSynatic current,PSC)大小(即电流经过突触之后的大小,也就是实际输入下一层神经元的电流大小):
权值误差的微分原始定义为:
将式子展开可以得到△wi的最终形式:
3、利用SRM神经元实现膜电压阈值动态调整
由于利用W-H规则来构建突触可塑性的方案,其推导出的权值调整难以保证为最优解。研究发现,神经元间的活动具有记忆性:当相同信号第二次刺激同一神经元时,其产生脉冲的时间更快。这是由于动态膜电压需要达到的阈值电压降低,导致脉冲很容易生成。根据这一特点,利用SRM神经元模型实现动态阈值的调整。SRM神经元的仿真公式为:
其中,wi表示突触权值,是突触后电势,Vi ext是外部刺激电压。表示PSP达到阈值后产生不应期并重置为初始值的过程。若将式(14)作为阈值电压的求解方程,这种阈值函数被称为动态阈值函数。将输出神经元在目标脉冲输出时间td的电压表示为并且希望此函数值等于或略高于阈值电压Vth。但在一开始的训练过程中,神经元电位在实际脉冲输出时间to时的电压才会等于阈值电压。因此将当前阈值电压的计算公式设为:
所以式(16)可以化简成:
与现有技术相比,本发明有如下优点:
本发明受到生物神经元记忆性的启发,结合LIF和SRM两种神经元模型对PSP的阈值电压进行动态调整,提出一种精确突触调整的动态阈值自适应方法,即利用LIF神经元来调整突触权值,利用SRM神经元来调整膜电压阈值。本发明使SNN模型更符合神经元有记忆性这一生物现象,有效改善基于W-H规则的权值调整难以保证是最优解、学习收敛速度难以控制的问题。
附图说明
图1是LIF模型原理图,左侧方形虚线部分表示脉冲信号传入突触前神经元后,经突触处理变成电流信号。右边圆形虚线部分则由一个RC电路组成,此时电路中的电子逐渐累计在电容C的两极。当电流I不断增大时,电容C两极的电压会冲破阈值Vth,此时会激发一个脉冲信号传递给下一层神经元。
图2是动态阈值条件下的电压时间曲线,可以将SRM模型中影响Vi(t)状态的过程划分为两个阶段:第一个阶段是前突触神经元对输入脉冲序列累计产生电压的过程;第二个阶段是PSP达到阈值后产生不应期并重置为初始值的过程。
图3是仅利用LIF神经元和W-H规则进行权重调整的SNN学习算法收敛速度实验图。(a)中点表示每次迭代学习后实际输出的脉冲,线表示目标脉冲产生时间点,(b)表示第一次学习后突触后电压,(c)表示最后一次一次学习后突触后电压,(d)表示实际输出的脉冲序列与目标脉冲序列的VR距离差Dis。
图4是本发明的收敛速度实验图。
具体实施方式
下面结合附图对本发明进一步说明:
步骤1:利用LIF神经元对膜电压与突触电流进行仿真计算
如图1所示,在LIF神经元电路中,当电流I不断增大时,电容C两极的电压会冲破阈值Vth,此时会激发一个脉冲信号传递给下一层神经元。电路总电流的公式为:
将时间设为一个常数T,并且令T=RC,那么上述式子就可以变形为:
由此可知此电路是一个并联电路,且电容C两边的电压V(t)正好是膜电压。当电压在t=tf时达到阈值Vth,就会产生一个脉冲激励;在此之后,电压会被迅速重置为初始值,并开始新一轮的累计。重设电压的表达式为:
此时,神经元膜电压的动态方程如下所示:
Vm是膜电压,E是复位电压,Ins是环境噪声电流,Isyn是突出输入电流,Rm是膜电阻。当Vm超过阈值电压(常量)Vth=E+18mV(mV表示毫伏),该神经元就会放出脉冲,同时电压回归E,通常令E=Vrest=0mV,并进入不应期。
步骤2:基于W-H规则进行突触权值调整
SNN神经元产生的脉冲有序数列S={tf:f=1,…F},可表示为:
δ(x)表示Dirac delta函数,若x=0时,δ(x)=1,否则δ(x)=0;tf是第f个脉冲产生的时间。SNN学习算法针对原始信号给出的多个输入脉冲序列Si(t)及预先设定的多个目标脉冲序列Sd(t),学习得到合适的SNN突触权值矩阵w,使神经元实际输出脉冲序列So(t)与Sd(t)尽可能接近。
基于W-H规则的权值误差计算如下:
其中,△wi表示第i个输入神经元的权值误差。
突触后神经元在时间T内所获取的输入电流Isyn:
并由微分的原始定义:
将式子展开可以得到△wi的最终形式:
步骤3:利用SRM神经元实现膜电压阈值动态计算
根据图2,利用SRM神经元模型实现动态阈值调整,SRM神经元模型的仿真公式为:
其中,wi表示了突触权i值,是突触后电势,Vi ext是外部刺激电压。表示PSP达到阈值后产生不应期并重置为初始值的过程。若将上式作为阈值电压的求解,这种阈值函数被称为动态阈值函数。将输出神经元在目标脉冲输出时间td的电压表示为并且希望此函数值等于或略高于阈值电压Vth。但在一开始的训练过程中,神经元电位在实际脉冲输出时间to时的电压才会大于等于阈值电压。因此将当前阈值电压的计算公式设为:
则△vth(to)可以化简成:
通过上述式子实现了阈值的动态调整。通过图3和图4的对比可得,本发明在LIF神经元和W-H规则的基础上,融合了突触后神经元的记忆性和SRM神经元计算模式,提出一种精确突触调整的动态阈值自适应方法。实验表明,本发明可以加快多脉冲神经网络学习算法的收敛速度,解决SNN监督学习效率低的缺陷。
Claims (1)
1.一种面向多脉冲神经网络监督学习的精确突触调整方法,其特征在于,包括如下步骤:
步骤1:利用LIF神经元对膜电压与突触电流进行仿真计算
在LIF神经元电路中,当电流I不断增大时,电容C两极的电压会冲破阈值Vth,此时会激发一个脉冲信号传递给下一层神经元;电路总电流的公式为:
将时间设为一个常数T,并且令T=RC,上述式子变形为:
当电压在t=tf时达到阈值Vth,产生一个脉冲激励;在此之后,电压会被迅速重置为初始值,并开始新一轮的累计;重设电压的表达式为:
此时,神经元膜电压的动态方程如下所示:
Vm是膜电压,E是复位电压,Ins是环境噪声电流,Isyn是突出输入电流,Rm是膜电阻;当Vm超过阈值Vth,该神经元就会放出脉冲,同时电压回归E;
步骤2:基于W-H规则进行突触权值调整
SNN神经元产生的脉冲有序数列S={tf:f=1,…F},表示为:
δ(x)表示Dirac delta函数,若x=0时,δ(x)=1,否则δ(x)=0;tf是第f个脉冲产生的时间;SNN学习算法针对原始信号给出的多个输入脉冲序列Si(t)及预先设定的多个目标脉冲序列Sd(t),学习得到合适的SNN突触权值矩阵w,使神经元实际输出脉冲序列So(t)与Sd(t)尽可能接近;
基于W-H规则的权值误差计算如下:
突触后神经元在时间T内所获取的输入电流Isyn:
权值误差的微分原始定义为:
将式子展开得到Δwi的最终形式:
步骤3:利用SRM神经元实现膜电压阈值动态计算
利用SRM神经元模型实现膜电压阈值动态调整,SRM神经元模型的仿真公式为:
其中,wi表示突触权值,是突触后电势,是外部刺激电压;表示PSP达到阈值后产生不应期并重置为初始值的过程;将输出神经元在目标脉冲输出时间td的电压表示为并且希望此函数值等于或高于阈值电压Vth;但在一开始的训练过程中,神经元电位在实际脉冲输出时间to时的电压才会大于等于阈值电压;因此将当前阈值电压的计算公式设为:
则Δvth(to)化简成:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810543847.2A CN108710770B (zh) | 2018-05-31 | 2018-05-31 | 一种面向多脉冲神经网络监督学习的精确突触调整方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810543847.2A CN108710770B (zh) | 2018-05-31 | 2018-05-31 | 一种面向多脉冲神经网络监督学习的精确突触调整方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108710770A CN108710770A (zh) | 2018-10-26 |
CN108710770B true CN108710770B (zh) | 2022-03-25 |
Family
ID=63869965
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810543847.2A Active CN108710770B (zh) | 2018-05-31 | 2018-05-31 | 一种面向多脉冲神经网络监督学习的精确突触调整方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108710770B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582445B (zh) * | 2020-04-24 | 2023-05-26 | 浙江大学 | 一种基于脉冲神经网络的高效学习系统及学习方法 |
CN112633497B (zh) * | 2020-12-21 | 2023-08-18 | 中山大学 | 一种基于重加权膜电压的卷积脉冲神经网络的训练方法 |
CN113408618B (zh) * | 2021-06-18 | 2023-04-18 | 电子科技大学 | 一种基于R-Multi-parameter PBSNLR模型的图像分类方法 |
CN113255905B (zh) * | 2021-07-16 | 2021-11-02 | 成都时识科技有限公司 | 脉冲神经网络中神经元的信号处理方法及该网络训练方法 |
CN113313240B (zh) * | 2021-08-02 | 2021-10-15 | 成都时识科技有限公司 | 计算设备及电子设备 |
CN113838459A (zh) * | 2021-11-25 | 2021-12-24 | 之江实验室 | 一种基于脉冲神经网络聚合标签学习的语音识别方法 |
CN114638360A (zh) * | 2022-05-19 | 2022-06-17 | 之江实验室 | 一种用于脉冲神经网络学习与仿真的计算平台及方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616078A (zh) * | 2015-02-03 | 2015-05-13 | 河海大学 | 基于Spiking神经网络的光伏系统发电功率预测方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8352895B2 (en) * | 2010-12-21 | 2013-01-08 | Globalfoundries Inc. | Model library implementation and methodology for worst case performance modeling for SRAM cells |
US9798751B2 (en) * | 2013-10-16 | 2017-10-24 | University Of Tennessee Research Foundation | Method and apparatus for constructing a neuroscience-inspired artificial neural network |
CN106845541A (zh) * | 2017-01-17 | 2017-06-13 | 杭州电子科技大学 | 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法 |
-
2018
- 2018-05-31 CN CN201810543847.2A patent/CN108710770B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616078A (zh) * | 2015-02-03 | 2015-05-13 | 河海大学 | 基于Spiking神经网络的光伏系统发电功率预测方法 |
Non-Patent Citations (1)
Title |
---|
生物神经网络的建模与仿真;刘剑钊等;《生物学杂志》;20160618;第第33卷卷(第03期);第104-106页 * |
Also Published As
Publication number | Publication date |
---|---|
CN108710770A (zh) | 2018-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108710770B (zh) | 一种面向多脉冲神经网络监督学习的精确突触调整方法 | |
US10902317B2 (en) | Neural network processing system | |
US10339447B2 (en) | Configuring sparse neuronal networks | |
US9330355B2 (en) | Computed synapses for neuromorphic systems | |
WO2014189970A2 (en) | Efficient hardware implementation of spiking networks | |
EP3097517A1 (en) | Monitoring neural networks with shadow networks | |
CA2926334A1 (en) | Methods and apparatus for tagging classes using supervised learning | |
CA2926824A1 (en) | Implementing synaptic learning using replay in spiking neural networks | |
WO2015112713A2 (en) | Value synchronization across neural processors | |
WO2015153150A2 (en) | Probabilistic representation of large sequences using spiking neural network | |
WO2015119963A2 (en) | Short-term synaptic memory based on a presynaptic spike | |
EP3108413A2 (en) | Dynamic spatial target selection | |
WO2015148044A1 (en) | Conversion of neuron types to hardware | |
KR101825933B1 (ko) | 좌표 변환을 위한 위상 코딩 | |
KR20200088952A (ko) | 스파이크 뉴럴 네트워크 회로 및 이의 동작 방법 | |
WO2015148210A2 (en) | Plastic synapse management | |
WO2015127106A1 (en) | Stochastic delay plasticity | |
WO2014197175A2 (en) | Efficient implementation of neural population diversity in neural system | |
CN111630528B (zh) | 类神经电路以及运作方法 | |
EP3108412A2 (en) | Imbalanced cross-inhibitory mechanism for spatial target selection | |
US20150220829A1 (en) | Equivalent delay by shaping postsynaptic potentials |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |