CN111340181A - 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 - Google Patents
基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 Download PDFInfo
- Publication number
- CN111340181A CN111340181A CN202010086341.0A CN202010086341A CN111340181A CN 111340181 A CN111340181 A CN 111340181A CN 202010086341 A CN202010086341 A CN 202010086341A CN 111340181 A CN111340181 A CN 111340181A
- Authority
- CN
- China
- Prior art keywords
- pulse
- threshold
- neuron
- enhanced
- deep
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 61
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 31
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000012549 training Methods 0.000 title claims abstract description 29
- 210000002569 neuron Anatomy 0.000 claims abstract description 79
- 238000013507 mapping Methods 0.000 claims abstract description 14
- 230000009977 dual effect Effects 0.000 claims abstract description 5
- 230000004913 activation Effects 0.000 claims description 19
- 239000012528 membrane Substances 0.000 claims description 17
- 238000012421 spiking Methods 0.000 claims description 15
- 238000013459 approach Methods 0.000 claims description 4
- 238000010304 firing Methods 0.000 claims description 4
- 230000010354 integration Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 6
- 230000002708 enhancing effect Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 238000003062 neural network model Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000005265 energy consumption Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开一种基于增强脉冲的深层双阈值脉冲神经网络转换训练方法，主要步骤包括：训练ANN；基于增强脉冲深层双阈值SNN转换算法映射权值；设置双阈值增强脉冲神经元阈值。先提出了新的增强脉冲的概念，基于这种新的脉冲形式提出了能处理增强脉冲的新的双阈值增强脉冲神经元模型。双阈值和增强脉冲使单个脉冲同时可以表示极性以及在同一时刻发放脉冲的数量，极大提高了信息的表示能力。随后基于新的神经元模型，我们提出了一种基于增强脉冲的深层双阈值脉冲神经网络转换训练方法。我们用MNIST和CIFAR10数据集检验了我们的方法的性能。
Description
技术领域
本发明属于类脑计算、深度学习领域，尤其是有关提高深层脉冲神经网络模型在图像识别上表现的技术。
背景技术
近年来由于深度学习技术的出现，传统神经网络在众多任务中展示出卓越的效果，在某些特定的场景下甚至能超越人类的能力。但是，完成大型任务需要复杂的深层网络结构的支持，随着神经网络的复杂性逐渐增加，运行其也需要大量的计算资源和能量消耗，这限制了传统神经网络在能源受限设备中的应用。
脉冲神经网络(SNN)是脑启发的第三代神经网络，相对于传统人工神经网络(ANN)而言，具有生物可解释高、能耗低、硬件友好性强等特点，成为解决ANN瓶颈的潜在方案。但是训练深度脉冲神经网络是一项具有挑战性的任务。
之前的研究人员尝试使用生物可解释性高的脉冲时间依赖可塑性算法训练深层SNN，但是在复杂网络中并没有达到较好的效果。有些研究者采用ANN的训练方法——反向传播来训练深层SNN，尽管这种方法在准确率上能够超过脉冲时间依赖可塑性算法，但是距离传统神经网络的准确率来说仍有较大差距。
近期，一种基于转换方法的技术被提出：先训练ANN，然后将ANN的权重转换到与之相同网络结构的SNN中，从而使SNN得到训练的方法。这种方法在之前的工作中达到了与ANN相接近的准确率，在有些工作中甚至达到了与ANN相比无损失精度的SNN。但是，目前这些方法虽然达到了较高的精度，但是却需要大量的时间步长来满足无损失的要求，同时也发放了大量的脉冲，这极大影响了SNN的高效、节能性应用。
发明内容
本发明的目的在于克服现有技术的不足,提出了基于增强脉冲的深层双阈值脉冲神经网络转换训练方法。
本发明通过增强脉冲概念，随后提出能处理增强脉冲的双阈值增强脉冲神经元模型，最后提出了一种新的基于增强脉冲的深层双阈值脉冲神经网络转换训练方法，并提出了为转化后得到的脉冲神经元阈值赋值的简单算法。利用我们的方法得到的深层SNN更准确、更高效、更节能，为以脉冲为基础的准确高效神经形态计算奠定了基础。
本发明提出了新的增强脉冲的概念。常见脉冲为二值形式，只能表示在这个时刻点发放脉冲与否的状态。与二值脉冲不同，增强脉冲扩充了一个脉冲值的概念，用来表示在脉冲时刻点发放脉冲的数量或强度，其可为任何形式的数值。增强脉冲极大提高了单个脉冲对信息的表达量。
随后，本发明提出了双阈值增强脉冲神经元模型，其能够接收、处理和发放增强脉冲。本发明提出的双阈值概念也使得神经元可以发放不同极性的脉冲，提高了脉冲的信息表示能力。
双阈值增强脉冲神经元动力学公式：
其中
是第l层的第i个神经元t时刻的膜电位，
是第l-1层的第j个神经元t时刻的输出，wij是前一层第j个神经元与l层第i个神经元之间的权值，Ml-1代表了第l-1层的脉冲神经元个数，
是对应的偏差量，
和
分别代表了脉冲神经元的正阈值和负阈值。公式(1)说明了脉冲神经元膜电位的整合情况，公式(2)描述了增强脉冲的发放情况，公式(3)给出了当脉冲发放时膜电位的衰减情况。
最后，本发明提出了一种基于增强脉冲的深层双阈值脉冲神经网络转换训练方法。整个系统主要包括以下三个部分：训练深层ANN、基于增强脉冲深层SNN的转换算法和双阈值脉冲神经元阈值的设定。具体的技术方案如下：
步骤一，训练深层ANN。首先选定与待训练深层SNN架构相同的深层ANN，用反向传播算法训练ANN。
步骤二，基于增强脉冲深层双阈值SNN转换算法映射权值。
将训练好的传统神经网络神经元的权值映射到对应双阈值脉冲神经网络的增强脉冲神经元的权值上，即得到训练好的深层SNN。
本发明提供具体的转换依据：
传统神经网络的模型公式为：
其中
是第l层第i个神经元的激活值，
是对应的偏差项，α是斜率。
目标是使增强脉冲神经元的脉冲发放频率近似ANN神经元的激活输出。在下面的证明过程中只说明膜电位超过正阈值的情况，负阈值与之相同，不予赘述。
首先从公式(1)和公式(3)中得到，在发放脉冲前的膜电位为：
通过公式(5)迭代计算最后时刻T的膜电位：
从公式(2)中可以得到：
其中σ是误差项，
从公式(6)和公式(7)可以得到：
定义脉冲发放频率为：
其中
是在整个T时间内脉冲发放的总个数。
因此，公式(8)可以转化为：
可以看出，公式(9)为递归迭代公式，基于此公式可以通过逐层计算近似。
首先近似第一层，为了简便计算使ANN和SNN的输入一致，即满足r0(T)＝z0。从公式(4)和公式(9)中可以得到：
可以看出，当T趋近于无穷的时候，脉冲频率与ANN的激活值近似。在随后的隐藏层中，通过迭代公式(9)，依靠已知的第一个隐藏层，可以计算得：
此公式也说明了在更高层中，激活值与脉冲频率近似。
由公式(10)和公式(11)可得，增强脉冲神经元的脉冲发放频率近似ANN神经元的激活输出。因而可以通过直接映射ANN的权值到SNN的方式训练深层SNN。
步骤三，设定脉冲神经元双阈值。
从公式(10)和公式(11)中可以得到为满足脉冲发放频率与ANN神经元激活值近似的脉冲神经元双阈值与斜率的关系，即：
和
因而得到简便的脉冲神经元阈值设定方法。
有益效果
本发明提出了新的增强脉冲的概念。原脉冲是二值形式，只能表示在这个时刻点发放脉冲与否的状态。与二值脉冲不同，增强脉冲扩充了一个脉冲值的概念，用来表示在脉冲时刻点发放脉冲的数量或强度，其可为任何形式的数值。增强脉冲极大提高了单个脉冲对信息的表达量。
随后，本发明提出了双阈值增强脉冲神经元模型，其能够接收、处理和发放增强脉冲。本发明提出的双阈值概念也使得神经元可以发放不同极性的脉冲，提高了脉冲的信息表示能力。
本发明提出了新的增强脉冲概念以及双阈值增强脉冲神经元模型。双阈值和增强脉冲使单个脉冲同时可以表达极性和在脉冲发放时刻的强弱状态，大大提高了信息表示能力。基于新的神经元模型，本发明最后提出了一种更加快速、准确、高效的基于增强脉冲的深层脉冲神经网络训练转换方法。我们的方法大幅度提升了深层SNN在图像识别任务上的识别准确率，同时更加快速、高效。该方法改善了以脉冲为基础的认知识别性能，为类脑的神经形态计算体系提供了一种高效可行的架构深层SNN的方法。
附图说明
图1A是本发明提出的双阈值增强脉冲神经元模型输入输出增强脉冲的示例图；
图1B是双阈值增强脉冲神经元的激活函数示意图。
图2是本发明提出的增强脉冲的深层脉冲神经网络转换训练技术的系统框架图。
图3展示了本发明与当前最新的脉冲神经网络模型的对比，其中准确率是基于MNIST和CIFAR10数据集得到的。
具体实施方式
下面对本发明的使用进行详细说明。
1.训练ANN。
首先用反向传播算法训练与SNN相同网络结构的ANN。
2.基于增强脉冲深层双阈值SNN转换算法映射权值。
首先使用本发明提出的基于增强脉冲深层SNN转换算法进行转换。将训练好的ANN权值映射到对应的SNN神经元的权值中。
3.设置双阈值增强脉冲神经元阈值
根据本发明提出的阈值设定规则设置转换后得到的双阈值增强脉冲神经元的阈值。
得到已训练的深层SNN。
具体的，基于增强脉冲的深层双阈值脉冲神经网络转换训练方法如下：
双阈值增强脉冲神经元动力学公式：
其中
是第l层的第i个神经元t时刻的膜电位，
是第l-1层的第j个神经元t时刻的输出，wij是前一层第j个神经元与l层第i个神经元之间的权值，Ml-1代表了第l-1层的脉冲神经元个数，bi l是对应的偏差量，
和
分别代表了脉冲神经元的正阈值和负阈值；
公式(1)说明了脉冲神经元膜电位的整合情况；
公式(2)描述了增强脉冲的发放情况；
公式(3)给出了当脉冲发放时膜电位的衰减情况；
该方法主要包括以下三个部分：训练深层ANN、基于增强脉冲深层SNN的转换算法和双阈值脉冲神经元阈值的设定；
步骤一，训练深层ANN
首先选定与待训练深层SNN架构相同的深层ANN，用反向传播算法训练ANN；
步骤二，基于增强脉冲深层双阈值SNN转换算法映射权值
将训练好的传统神经网络神经元的权值映射到对应双阈值脉冲神经网络的增强脉冲神经元的权值上，即得到训练好的深层SNN；
具体的转换依据：
传统神经网络的模型公式为：
其中
是第l层第i个神经元的激活值，
是对应的偏差项，α是斜率；
目标是使增强脉冲神经元的脉冲发放频率近似ANN神经元的激活输出，在下面的证明过程中只说明膜电位超过正阈值的情况，负阈值与之相同，不予赘述；
首先从公式(1)和公式(3)中得到，在发放脉冲前的膜电位为：
通过公式(5)迭代计算最后时刻T的膜电位：
从公式(2)中可以得到：
其中σ是误差项，
从公式(6)和公式(7)可以得到：
定义脉冲发放频率为：
其中
是在整个T时间内脉冲发放的总个数；
因此，公式(8)可以转化为：
公式(9)为递归迭代公式，基于此公式可以通过逐层计算近似：
首先近似第一层，为了简便计算使ANN和SNN的输入一致，即满足r0(T)＝z0，从公式(4)和公式(9)中可以得到：
可以看出，当T趋近于无穷的时候，脉冲频率与ANN的激活值近似；
在随后的隐藏层中，通过迭代公式(9)，依靠已知的第一个隐藏层，可以计算得：
此公式也说明了在更高层中，激活值与脉冲频率近似；
由公式(10)和公式(11)可得，增强脉冲神经元的脉冲发放频率近似ANN神经元的激活输出；
因而可以通过直接映射ANN的权值到SNN的方式训练深层SNN；
步骤三，设定脉冲神经元的双阈值
从公式(10)和公式(11)中可以得到为满足脉冲发放频率与ANN神经元激活值近似的脉冲神经元双阈值与斜率的关系，即：
和
设定脉冲神经元阈值。
图1A是本发明提出的双阈值增强脉冲神经元模型输入输出增强脉冲的示例图；
图1B是双阈值增强脉冲神经元的激活函数示意图。
图2是本发明提出的增强脉冲的深层脉冲神经网络转换训练技术的系统框架图。
图3展示了本发明与当前最新的脉冲神经网络模型的对比，其中准确率是基于MNIST和CIFAR10数据集得到的。
Claims (2)
1.基于增强脉冲的深层双阈值脉冲神经网络转换训练方法，其特征在于，包括如下步骤：
1)训练ANN：
首先用反向传播算法训练与SNN相同网络结构的ANN；
2)基于增强脉冲深层双阈值SNN转换算法映射权值：
使用基于增强脉冲深层SNN转换算法进行转换，将训练好的ANN权值映射到对应的SNN神经元的权值中；
3)设置双阈值增强脉冲神经元阈值：
根据提出的阈值设定规则设置转换后得到的双阈值增强脉冲神经元的阈值，得到已训练的深层SNN。
2.根据权利要求1所述的基于增强脉冲的深层双阈值脉冲神经网络转换训练方法，其特征在于，双阈值增强脉冲神经元动力学公式：
其中Vi l(t)是第l层的第i个神经元t时刻的膜电位，
是第l-1层的第j个神经元t时刻的输出，wij是前一层第j个神经元与l层第i个神经元之间的权值，Ml-1代表了第l-1层的脉冲神经元个数，
是对应的偏差量，θp和θN分别代表了脉冲神经元的正阈值和负阈值；
公式(1)说明了脉冲神经元膜电位的整合情况；
公式(2)描述了增强脉冲的发放情况；
公式(3)给出了当脉冲发放时膜电位的衰减情况；
该方法主要包括以下三个部分：训练深层ANN、基于增强脉冲深层SNN的转换算法和双阈值脉冲神经元阈值的设定；
步骤一，训练深层ANN
首先选定与待训练深层SNN架构相同的深层ANN，用反向传播算法训练ANN；
步骤二，基于增强脉冲深层双阈值SNN转换算法映射权值
将训练好的传统神经网络神经元的权值映射到对应双阈值脉冲神经网络的增强脉冲神经元的权值上，即得到训练好的深层SNN；
具体的转换依据：
传统神经网络的模型公式为：
其中
是第l层第i个神经元的激活值，
是对应的偏差项，α是斜率；
首先从公式(1)和公式(3)中得到，在发放脉冲前的膜电位为：
通过公式(5)迭代计算最后时刻T的膜电位：
从公式(2)中可以得到：
其中σ是误差项，
从公式(6)和公式(7)可以得到：
定义脉冲发放频率为：
其中
是在整个T时间内脉冲发放的总个数；
因此，公式(8)可以转化为：
公式(9)为递归迭代公式，基于此公式可以通过逐层计算近似：
首先近似第一层，为了简便计算使ANN和SNN的输入一致，即满足r0(T)＝z0，从公式(4)和公式(9)中可以得到：
可以看出，当T趋近于无穷的时候，脉冲频率与ANN的激活值近似；
在随后的隐藏层中，通过迭代公式(9)，依靠已知的第一个隐藏层，可以计算得：
此公式也说明了在更高层中，激活值与脉冲频率近似；
由公式(10)和公式(11)可得，增强脉冲神经元的脉冲发放频率近似ANN神经元的激活输出；
因而可以通过直接映射ANN的权值到SNN的方式训练深层SNN；
步骤三，设定脉冲神经元的双阈值
从公式(10)和公式(11)中可以得到为满足脉冲发放频率与ANN神经元激活值近似的脉冲神经元双阈值与斜率的关系，即：
和
设定脉冲神经元阈值。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010086341.0A CN111340181A (zh) | 2020-02-11 | 2020-02-11 | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010086341.0A CN111340181A (zh) | 2020-02-11 | 2020-02-11 | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111340181A true CN111340181A (zh) | 2020-06-26 |
Family
ID=71185285
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010086341.0A Pending CN111340181A (zh) | 2020-02-11 | 2020-02-11 | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111340181A (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111753975A (zh) * | 2020-07-01 | 2020-10-09 | 复旦大学 | 一种面向物联网的自然模拟信号的类脑处理方法 |
| CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| CN112155549A (zh) * | 2020-09-04 | 2021-01-01 | 西北师范大学 | 基于深度卷积脉冲神经网络的adhd疾病诊断辅助决策系统 |
| CN112949833A (zh) * | 2021-03-26 | 2021-06-11 | 北京航空航天大学 | 一种概率计算神经元计算单元和构造方法 |
| CN112966815A (zh) * | 2021-03-31 | 2021-06-15 | 中国科学院自动化研究所 | 基于脉冲神经网络的目标检测方法、系统及设备 |
| CN113033793A (zh) * | 2021-03-02 | 2021-06-25 | 常州大学 | 一种双极性脉冲电流激励二维Wilson神经元模型的电路 |
| CN113723594A (zh) * | 2021-08-31 | 2021-11-30 | 绍兴市北大信息技术科创中心 | 一种脉冲神经网络目标识别方法 |
| CN114781633A (zh) * | 2022-06-17 | 2022-07-22 | 电子科技大学 | 一种融合人工神经网络与脉冲神经网络的处理器 |
-
2020
- 2020-02-11 CN CN202010086341.0A patent/CN111340181A/zh active Pending
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111753975A (zh) * | 2020-07-01 | 2020-10-09 | 复旦大学 | 一种面向物联网的自然模拟信号的类脑处理方法 |
| CN111753975B (zh) * | 2020-07-01 | 2024-03-05 | 复旦大学 | 一种面向物联网的自然模拟信号的类脑处理方法 |
| CN112155549A (zh) * | 2020-09-04 | 2021-01-01 | 西北师范大学 | 基于深度卷积脉冲神经网络的adhd疾病诊断辅助决策系统 |
| CN112155549B (zh) * | 2020-09-04 | 2023-11-14 | 西北师范大学 | 基于深度卷积脉冲神经网络的adhd疾病诊断辅助决策系统 |
| CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| CN112116010B (zh) * | 2020-09-21 | 2023-12-12 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| CN113033793B (zh) * | 2021-03-02 | 2023-08-22 | 常州大学 | 一种双极性脉冲电流激励二维Wilson神经元模型的电路 |
| CN113033793A (zh) * | 2021-03-02 | 2021-06-25 | 常州大学 | 一种双极性脉冲电流激励二维Wilson神经元模型的电路 |
| CN112949833A (zh) * | 2021-03-26 | 2021-06-11 | 北京航空航天大学 | 一种概率计算神经元计算单元和构造方法 |
| CN112966815A (zh) * | 2021-03-31 | 2021-06-15 | 中国科学院自动化研究所 | 基于脉冲神经网络的目标检测方法、系统及设备 |
| CN113723594B (zh) * | 2021-08-31 | 2023-12-05 | 绍兴市北大信息技术科创中心 | 一种脉冲神经网络目标识别方法 |
| CN113723594A (zh) * | 2021-08-31 | 2021-11-30 | 绍兴市北大信息技术科创中心 | 一种脉冲神经网络目标识别方法 |
| CN114781633B (zh) * | 2022-06-17 | 2022-10-14 | 电子科技大学 | 一种融合人工神经网络与脉冲神经网络的处理器 |
| CN114781633A (zh) * | 2022-06-17 | 2022-07-22 | 电子科技大学 | 一种融合人工神经网络与脉冲神经网络的处理器 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111340181A (zh) | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 | |
| CN109871940B (zh) | 一种脉冲神经网络的多层训练算法 | |
| CN103824054B (zh) | 一种基于级联深度神经网络的人脸属性识别方法 | |
| Prasad et al. | Comparison of back propagation and resilient propagation algorithm for spam classification | |
| CN103279958B (zh) | 一种基于Spiking神经网络的图像分割方法 | |
| US20230334632A1 (en) | Image recognition method and device, and computer-readable storage medium | |
| CN106845633B (zh) | 神经网络信息转换方法和系统 | |
| CN106875006B (zh) | 人工神经元信息转换为脉冲神经元信息的方法和系统 | |
| Liu et al. | Noisy softplus: an activation function that enables snns to be trained as anns | |
| Li et al. | Adaptive dropout method based on biological principles | |
| CN114819114A (zh) | 脉冲神经网络硬件加速器及其在卷积运算中的优化方法 | |
| CN114662644A (zh) | 基于动态阈值神经元的深度脉冲神经网络的图像识别方法 | |
| CN107798384B (zh) | 一种基于可进化脉冲神经网络的鸢尾花卉分类方法和装置 | |
| CN117372843A (zh) | 基于首脉冲编码的图片分类模型训练方法、图片分类方法 | |
| CN113902092A (zh) | 一种脉冲神经网络间接监督训练方法 | |
| RU151549U1 (ru) | Искусственная нейронная сеть | |
| CN116629327A (zh) | 一种基于量化ann的脉冲神经网络转化训练方法、装置及芯片 | |
| Zhou et al. | A novel hybrid bat algorithm for the multilevel thresholding medical image segmentation | |
| Sun et al. | Simplified spike-timing dependent plasticity learning rule of spiking neural networks for unsupervised clustering | |
| CN113435577B (zh) | 基于训练深度脉冲神经网络的梯度函数学习框架替换方法 | |
| Zhao et al. | Performance optimization of the echo state network for time series prediction and spoken digit recognition | |
| Wang et al. | Deep spiking binary neural network for digital neuromorphic hardware | |
| CN114239405A (zh) | 一种脉冲神经网络神经元膜电压计算方法 | |
| Looney | Neural networks as expert systems | |
| CN115880324A (zh) | 基于脉冲卷积神经网络的战场目标图像阈值分割方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200626 |