CN114781633A - 一种融合人工神经网络与脉冲神经网络的处理器 - Google Patents
一种融合人工神经网络与脉冲神经网络的处理器 Download PDFInfo
- Publication number
- CN114781633A CN114781633A CN202210683569.7A CN202210683569A CN114781633A CN 114781633 A CN114781633 A CN 114781633A CN 202210683569 A CN202210683569 A CN 202210683569A CN 114781633 A CN114781633 A CN 114781633A
- Authority
- CN
- China
- Prior art keywords
- snn
- ann
- control circuit
- neural network
- weight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Feedback Control In General (AREA)
Abstract
本发明公开了一种融合人工神经网络与脉冲神经网络的处理器,属于人工智能硬件领域。本发明包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元;将ANN学习控制电路输出的权值作为SNN推理控制电路的权值来实现两个神经网络的融合,使该处理器具备高准确率场景下和低功耗环境下两种工作模式。使用时,根据实际场景需求,通过主控制器控制ANN学习控制电路或SNN推理控制电路进行推理,解决了现有的基于神经网络进行信号分类处理无法适用于复杂多变的处理场景的问题,同时提升了低功耗环境下输入监测的准确率。
Description
技术领域
本发明涉及人工智能硬件领域,尤其涉及一种融合人工神经网络与脉冲神经网络的处理器。
背景技术
得益于计算机算力的提升,人工神经网络(Artificial Neural Network,ANN),尤其是卷积神经网络在各种分类任务中表现优秀。基于梯度下降训练的ANN的分类算法因其具有准确率高等优点,成为当前主流的检测手段,但受其算法本身的特性影响,ANN在每次更新时都要更新网络全部的神经元状态,这在具有事件驱动特性的问题,如:ECG检测、关键词检测、脑电信号检测等问题解决中导致了大量计算资源的浪费。因为在连续、不间断的信号波形检测中,异常信号是十分稀疏的,大多数是正常信号,而ANN在每个时刻都要更新网络全部神经元的状态,即使输入网络的波形是极微小的数值。
生物体的大脑时刻都在处理各种信息,但消耗的能量却远少于同规模的ANN,为了降低一些任务中的能耗,脉冲神经网络(Spiking Neural Network,SNN)成为了近来研究的热点。其受人脑神经元尖峰放电特性的启发,仅在输入的刺激到达一定阈值后才向后级神经元传递脉冲形式的信息,从而被认为具有事件驱动执行的低功耗特点。虽然SNN能耗低于ANN,但SNN在执行相同任务时,其准确率远低于ANN。这是因为SNN中的数据流是离散的0-1序列,较难通过直接求导的方法计算学习过程中的梯度,从而达到更新权值的目的。SNN自己的无监督学习方法仅能提取低维度信息,难以保证准确率。
众所周知,SNN与ANN模型有诸多相似之处,目前一些研究人员考虑使用ANN进行预训练,然后将训练后的权值转换给SNN,以取得了可与ANN相抗衡的准确率。但是,仅使用预训练的模型用于不同场景下的任务处理是不够的。由于存在个体的差异以及环境的动态变化,这种使用云端数据库中的数据集训练的模型缺乏对特定用户、多变环境的特有特征进行学习,以至于网络的泛化能力不足。
综上所述,现有的单纯基于人工神经网络或脉冲神经网络执行任务均存在一定的不足,无法适用于复杂多变的处理场景和不同个体的差异性、低能耗需求。
发明内容
本发明的目的在于提供了一种融合人工神经网络与脉冲神经网络的处理器,以解决现有的基于神经网络无法适用于复杂多变的处理场景和不同人员的差异性、低能耗需求。
为实现上述目的,本发明采用如下技术方案:
一种融合人工神经网络与脉冲神经网络的处理器,包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元;
所述共享存储单元,用于储存外部模块提供的数据和本处理器中其他模块产生的数据,以供后期调用;外部模块提供的数据包括神经网络权值数据、输入信号采样数据和外部标注好的标签数据;本处理器中其他模块产生的数据包括ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据(包含ANN激活值、SNN膜电位、SNN输出脉冲)、SNN的神经元阈值;
所述主控制器,根据实际场景需求控制整个处理器的运行状态:当在高准确率场景中监测时,通过控制ANN学习控制电路的运算推理实现;当在低能耗场景中监测时,通过SNN推理控制电路的运算推理实现;控制ANN学习控制电路中的ANN模型完成在线学习;
所述ANN学习控制电路,通过与共享计算单元、共享存储单元的交互完成ANN推理与学习;从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据,同时接收外部标注好的标签数据,然后将这些数据提供给共享计算单元计算出用于更新ANN的权值,根据该权值进行ANN模型的更新以完成ANN学习,得到分类结果以实现高准确率场景中的输入信号监测;学习后的权值作ANN和SNN的共用权值反馈至共享存储单元中;
所述SNN推理控制电路,具有与ANN学习控制电路相同的网络结构;通过与共享计算单元、共享存储单元的交互完成SNN推理;从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据给共享计算单元计算出用于更新SNN的膜电位与输出脉冲,或从共享存储单元提取ANN学习后的权值给共享计算单元计算出用于更新SNN的膜电位与输出脉冲,从而得到分类结果,实现低能耗场景中的任务处理。
进一步的,所述SNN推理控制电路中,从共享存储单元提取ANN学习后的权值给共享计算单元计算的过程还包括权值转换,即根据ANN学习后的权值微调SNN神经元阈值的过程,具体为:将ANN学习控制电路中采用ANN模型学习得到的权值按照SNN中IF神经元的脉冲发放阈值,适应性缩放到SNN的IF神经元。
进一步的,所述权值转换采用了SNN自动阈值调节的方法进行权值转换,以提升分类的准确性。
进一步的,上述处理器还包括编码器,所述编码器用于对外部输入的信号进行转换以得到直接用于SNN的数据。
进一步的,所述共享计算单元包括softmax单元和乘加单元。为保证计算精度,softmax单元采用softmax计算器,使用浮点数表示;乘加单元使采用多功能乘加累加器,使用定点数表示。
本发明提供的一种融合人工神经网络与脉冲神经网络的处理器,是利用人工神经网络(ANN)模型和脉冲神经网络(SNN)模型在硬件中的网络结构一致时,ANN中ReLU神经元与SNN中IF神经元具有相似特点这一特性,将ANN学习控制电路输出的权值作为SNN推理控制电路的输入值来实现两个神经网络的融合,使该处理器具备高准确率场景和低功耗场景两种工作模式。使用时,根据实际场景需求,通过主控制器控制ANN学习控制电路或SNN推理控制电路进行推理,解决了现有的基于神经网络执行任务无法适用于复杂多变的处理场景的问题,同时提升了低功耗场景下执行任务的准确率。
与现有的技术相比,本发明具有以下的有益效果:
(1)本发明能够根据实际需求,在主控制器的控制下进行在线工作模式的切换,适应灵活多变的场景需求。
(2)本发明的ANN学习控制电路推理过程也是在线学习过程,在ANN学习控制电路所采用的ANN模型中,通过新增外部标注好的标签数据获取边缘端不同人员的差异性特征,提升了ANN模型适应性,从而获得更优的准确率。
(3)本发明中ANN和SNN的数据共用,共用共享存储单元,资源利用率高。
附图说明
图1为实施例处理器的整体架构框图;
图2为SNN推理控制电路采用ANN学习后的权值实现推理流程图;
图3为ANN推理主控制器状态跳转顺序图;
图4为SNN推理主控制器状态跳转顺序图。
具体实施方式
为了更好地了解本发明的目的、结构及功能,下面结合附图,对本发明做进一步详细的描述。
图1为实施例处理器的整体架构框图。这里以一维ECG信号处理为例,更高维信号处理原理与其完全一致。其输入为外部输入的神经网络权值数据(图中的神经网络权值数据)和ECG采样数据、外部标注好的标签数据,输出为分类结果。如图1所示,该一维信号分类智能处理器包括:共享存储单元、共享计算单元、主控制器、ANN学习控制电路以及SNN推理控制电路。
共享存储单元由存储存储权值、偏置以及SNN相关参数的8KB NN Memory、存储一维信号采样数据的192Bytes Data Buffer、存储中间数据的320Bytes NN Data Memory以及一个与外部接口进行数据交互的存储接口组成,用于存储外部模块提供的神经网络权值数据、一维信号采样数据和外部标注好的标签数据;本处理器其他模块提供的数据,具体有经ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据(包含ANN激活值、SNN膜电位、SNN输出脉冲)、SNN的神经元阈值。本实施例中,为使处理器在低工作电压下具备低功耗优势,共享存储单元中各部分的存储实现均采用锁存器完成。
共享计算单元由softmax单元和乘加单元组成。为保证计算精度, softmax单元采用softmax计算器,使用浮点数表示;乘加单元使采用多功能乘加累加器,使用定点数表示,用于完成ANN推理、SNN推理和ANN学习三个工作模式下的计算任务。
主控制器根据实际场景需求控制整个处理器的运行状态,以用于控制ANN学习控制电路和SNN推理控制电路的运算推理状态;ANN学习控制电路采用ANN模型实现学习和高准确率场景下的运算推理;SNN推理控制电路采用SNN模型实现低功耗场景下的运算推理。使用时,通过外部给出的控制信号控制器件选择ANN工作模式或SNN工作模式;当在高准确率场景中监测时,通过控制ANN学习控制电路的运算推理实现一维信号监测;当在低能耗场景中监测时,通过控制SNN推理电路的运算推理实现一维信号监测。
图3为ANN推理主控制器状态跳转顺序图。如图3所示,对于N个输入神经元的网络,当主控器接收到外部给的相应功能指示信号(如001),随后主控器向ANN学习控制电路发送ANN推理指令,指令包含ANN学习控制电路使能信号、输入神经元的起始地址、输出神经元的起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址,之后ANN学习控制电路通过与共享计算单元与共享存储单元完成第一层网络的更新,第一层更新完成后,ANN学习控制电路会返回给主控器本层更新完成的信号;之后每层的过程与更新第一层相似,主控制器会重复更新第一层时的操作,不同的是传递给ANN学习控制电路的输入神经元的起始地址、输出神经元的起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址会根据下一层网络的结构而不同。待最后一层更新完成后,主控制器读取最后一层神经元的地址信息,然后通过比较最后一层神经元之间激活值的大小,将激活值最大的神经元序号作为推理结果输出,随后主控制器切换回空闲状态,等待下一次ANN推理,本次推理完成。
图4为SNN推理主控制器状态跳转顺序图。如图4所示,当主控器接收到外部给的相应功能指示信号(如100)时,主控器向SNN推理控制电路发送SNN推理指令,指令包含SNN学习控制电路使能信号、输入神经元脉冲的起始地址、输出神经元的起始地址、输出神经元脉冲的起始地址、输出神经元的阈值起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址,之后SNN推理控制电路通过与共享计算单元与共享存储单元完成第一层网络的更新,第一层更新完成后,SNN推理控制电路会返回给主控器本层更新完成的信号;之后每层的过程与更新第一层相似,主控制器会重复更新第一层时的操作,不同的是传递给SNN推理控制电路的输入神经元脉冲的起始地址、输出神经元的起始地址、输出神经元脉冲的起始地址、输出神经元的阈值起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址会根据下一层网络的结构而不同。待最后一层更新完成后,主控制器读取最后一层神经元的地址信息,然后通过比较最后一层神经元之间脉冲数的大小,将脉冲数最大的神经元序号作为推理结果输出,随后主控制器切换回空闲状态,等待下一次SNN推理,本次推理完成。
图2为SNN推理控制电路采用ANN学习后的权值实现推理流程图。如图2所示,SNN推理控制电路实现推理可以分两条线路实现,其中一条的工作流程为:外部输入的数据(包含初始神经网络权值和一维信号采样数据)经编码器编码转换为可直接用于SNN的数据后,SNN推理控制电路所采用的SNN模型进行SNN推理得到分类结果。另一条则是进行了ANN学习后的线路,该线路的工作流程为:
ANN学习控制电路所采用的ANN模型获取到外部标注好的标签数据和经编码器编码转换后的数据后,进行学习得到用于更新ANN模型的权值参数,然后将该权值参数通过权值转换的方式使其作为SNN推理控制电路的输入,SNN推理控制电路所采用的SNN模型进行SNN推理得到分类结果。从图2可以看出,本实施例的通过ANN模型在线学习过程中新增外部标注好的标签数据获取边缘端不同病人的差异性特征,提升了SNN在功耗场景中的一维信号检测适应性,从而获得更优的准确率。
综上可见,本实施例提供的一维信号分类智能处理器的整体架构框图能够根据实际需求,在主控制器的控制下进行在线工作模式的切换,适应灵活多变的场景需求。根据TSMC 28nm流片测试结果,ANN推理单个心拍的能耗为0.5uJ,速度为0.5ms,SNN推理单个心拍的能耗为0.3uJ,速度为5ms。且通过ANN在线学习,避免了使用云端数据库中的数据集训练的模型存在的网络的泛化能力不足的问题,实现了不同人员的差异性服务。
以上所述,仅用以说明本发明的技术方案而非限制,本领域普通技术人员对本发明的技术方案所做的其它修改或者等同替换,只要不脱离本发明技术方案的精神和范围,均应涵盖在本本发明的权利要求范围当中。
Claims (5)
1.一种融合人工神经网络与脉冲神经网络的处理器,包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元, 其特征在于:
所述共享存储单元,用于储存外部模块提供数据和本处理器中其他模块产生的数据,以供后期调用;外部模块提供的数据包括神经网络权值数据、输入信号采样数据和外部标注好的标签数据;本处理器中其他模块产生的数据包括ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据、SNN的神经元阈值;其中,中间数据包含ANN激活值、SNN膜电位、SNN输出脉冲;
所述主控制器,根据实际场景需求控制整个处理器的运行状态:当在高准确率场景中监测时,通过控制ANN学习控制电路的运算推理实现;当在低能耗场景中监测时,通过SNN推理控制电路的运算推理实现;控制ANN学习控制电路中的ANN模型完成在线学习;
所述ANN学习控制电路,通过与共享计算单元、共享存储单元的交互完成ANN推理与学习;从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据,同时接收外部标注好的标签数据,然后将这些数据提供给共享计算单元计算出用于更新ANN的权值,根据该权值进行ANN模型的更新以完成ANN学习,得到分类结果以实现高准确率场景中的输入信号监测;学习后的权值作ANN和SNN的共用权值反馈至共享存储单元中;
所述SNN推理控制电路,具有与ANN学习控制电路相同的网络结构;通过与共享计算单元、共享存储单元的交互完成SNN推理;从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据给共享计算单元计算出用于更新SNN的膜电位与输出脉冲,或从共享存储单元提取ANN学习后的权值给共享计算单元计算出用于更新SNN的膜电位与输出脉冲,从而得到分类结果,实现低能耗场景中的任务处理。
2.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器,其特征在于:所述SNN推理控制电路中,从共享存储单元提取ANN学习后的权值给共享计算单元计算的过程还包括权值转换,即根据ANN学习后的权值微调SNN神经元阈值的过程,具体为:将ANN学习控制电路中采用ANN模型学习得到的权值按照SNN中IF神经元的脉冲发放阈值,适应性缩放到SNN的IF神经元。
3.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器,其特征在于:所述权值转换采用了SNN自动阈值调节的方法进行权值转换,以提升分类的准确性。
4.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器,其特征在于:上述处理器还包括编码器,所述编码器用于对外部输入的信号进行转换以得到直接用于SNN的数据。
5.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器,其特征在于:所述共享计算单元包括softmax单元和乘加单元;softmax单元采用softmax计算器,使用浮点数表示;乘加单元使采用多功能乘加累加器,使用定点数表示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210683569.7A CN114781633B (zh) | 2022-06-17 | 2022-06-17 | 一种融合人工神经网络与脉冲神经网络的处理器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210683569.7A CN114781633B (zh) | 2022-06-17 | 2022-06-17 | 一种融合人工神经网络与脉冲神经网络的处理器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114781633A true CN114781633A (zh) | 2022-07-22 |
CN114781633B CN114781633B (zh) | 2022-10-14 |
Family
ID=82420325
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210683569.7A Active CN114781633B (zh) | 2022-06-17 | 2022-06-17 | 一种融合人工神经网络与脉冲神经网络的处理器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114781633B (zh) |
Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150106317A1 (en) * | 2013-10-11 | 2015-04-16 | Qualcomm Incorporated | Shared memory architecture for a neural simulator |
US20160196488A1 (en) * | 2013-08-02 | 2016-07-07 | Byungik Ahn | Neural network computing device, system and method |
US20180075344A1 (en) * | 2016-09-09 | 2018-03-15 | SK Hynix Inc. | Neural network hardware accelerator architectures and operating method thereof |
CN109858620A (zh) * | 2018-12-29 | 2019-06-07 | 北京灵汐科技有限公司 | 一种类脑计算系统 |
CN110674928A (zh) * | 2019-09-18 | 2020-01-10 | 电子科技大学 | 一种融合人工神经网络和神经形态计算的在线学习方法 |
CN110674933A (zh) * | 2018-07-03 | 2020-01-10 | 闪迪技术有限公司 | 用于提高神经网络推断准确度的流水线技术 |
CN110705428A (zh) * | 2019-09-26 | 2020-01-17 | 北京智能工场科技有限公司 | 一种基于脉冲神经网络的脸部年龄识别系统及方法 |
CN111314257A (zh) * | 2020-03-13 | 2020-06-19 | 电子科技大学 | 一种基于复值神经网络的调制方式识别方法 |
CN111325321A (zh) * | 2020-02-13 | 2020-06-23 | 中国科学院自动化研究所 | 基于多神经网络融合的类脑计算系统及指令集的执行方法 |
CN111340181A (zh) * | 2020-02-11 | 2020-06-26 | 天津大学 | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 |
CN111582445A (zh) * | 2020-04-24 | 2020-08-25 | 浙江大学 | 一种基于脉冲神经网络的高效学习系统及学习方法 |
CN112016680A (zh) * | 2020-10-22 | 2020-12-01 | 电子科技大学 | 一种可重构的自主学习脉冲神经网络处理器 |
CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
CN112188093A (zh) * | 2020-09-24 | 2021-01-05 | 北京灵汐科技有限公司 | 双模态信号融合系统和方法 |
CN112328398A (zh) * | 2020-11-12 | 2021-02-05 | 清华大学 | 任务处理方法及装置、电子设备和存储介质 |
CN112561057A (zh) * | 2020-12-09 | 2021-03-26 | 清华大学 | 一种状态控制方法及装置 |
CN112686381A (zh) * | 2020-12-30 | 2021-04-20 | 北京灵汐科技有限公司 | 神经网络模型、方法、电子设备及可读介质 |
CN113128675A (zh) * | 2021-04-21 | 2021-07-16 | 南京大学 | 一种基于脉冲神经网络的无乘法卷积调度器及其硬件实现方法 |
US20210397968A1 (en) * | 2018-10-23 | 2021-12-23 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Backpropagation of errors in pulsed form in a pulsed neural network |
CN113902092A (zh) * | 2021-09-02 | 2022-01-07 | 四川晟锦汇科技有限公司 | 一种脉冲神经网络间接监督训练方法 |
US20220027727A1 (en) * | 2020-07-21 | 2022-01-27 | International Business Machines Corporation | Online training of neural networks |
US20220036095A1 (en) * | 2020-07-29 | 2022-02-03 | Robert Bosch Gmbh | Device and method for ascertaining a physical property of a physical object |
-
2022
- 2022-06-17 CN CN202210683569.7A patent/CN114781633B/zh active Active
Patent Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160196488A1 (en) * | 2013-08-02 | 2016-07-07 | Byungik Ahn | Neural network computing device, system and method |
US20150106317A1 (en) * | 2013-10-11 | 2015-04-16 | Qualcomm Incorporated | Shared memory architecture for a neural simulator |
US20180075344A1 (en) * | 2016-09-09 | 2018-03-15 | SK Hynix Inc. | Neural network hardware accelerator architectures and operating method thereof |
CN110674933A (zh) * | 2018-07-03 | 2020-01-10 | 闪迪技术有限公司 | 用于提高神经网络推断准确度的流水线技术 |
US20210397968A1 (en) * | 2018-10-23 | 2021-12-23 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Backpropagation of errors in pulsed form in a pulsed neural network |
CN109858620A (zh) * | 2018-12-29 | 2019-06-07 | 北京灵汐科技有限公司 | 一种类脑计算系统 |
CN110674928A (zh) * | 2019-09-18 | 2020-01-10 | 电子科技大学 | 一种融合人工神经网络和神经形态计算的在线学习方法 |
CN110705428A (zh) * | 2019-09-26 | 2020-01-17 | 北京智能工场科技有限公司 | 一种基于脉冲神经网络的脸部年龄识别系统及方法 |
CN111340181A (zh) * | 2020-02-11 | 2020-06-26 | 天津大学 | 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法 |
CN111325321A (zh) * | 2020-02-13 | 2020-06-23 | 中国科学院自动化研究所 | 基于多神经网络融合的类脑计算系统及指令集的执行方法 |
CN111314257A (zh) * | 2020-03-13 | 2020-06-19 | 电子科技大学 | 一种基于复值神经网络的调制方式识别方法 |
CN111582445A (zh) * | 2020-04-24 | 2020-08-25 | 浙江大学 | 一种基于脉冲神经网络的高效学习系统及学习方法 |
US20220027727A1 (en) * | 2020-07-21 | 2022-01-27 | International Business Machines Corporation | Online training of neural networks |
US20220036095A1 (en) * | 2020-07-29 | 2022-02-03 | Robert Bosch Gmbh | Device and method for ascertaining a physical property of a physical object |
CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
CN112188093A (zh) * | 2020-09-24 | 2021-01-05 | 北京灵汐科技有限公司 | 双模态信号融合系统和方法 |
CN112016680A (zh) * | 2020-10-22 | 2020-12-01 | 电子科技大学 | 一种可重构的自主学习脉冲神经网络处理器 |
CN112328398A (zh) * | 2020-11-12 | 2021-02-05 | 清华大学 | 任务处理方法及装置、电子设备和存储介质 |
CN112561057A (zh) * | 2020-12-09 | 2021-03-26 | 清华大学 | 一种状态控制方法及装置 |
CN112686381A (zh) * | 2020-12-30 | 2021-04-20 | 北京灵汐科技有限公司 | 神经网络模型、方法、电子设备及可读介质 |
CN113128675A (zh) * | 2021-04-21 | 2021-07-16 | 南京大学 | 一种基于脉冲神经网络的无乘法卷积调度器及其硬件实现方法 |
CN113902092A (zh) * | 2021-09-02 | 2022-01-07 | 四川晟锦汇科技有限公司 | 一种脉冲神经网络间接监督训练方法 |
Non-Patent Citations (8)
Title |
---|
MALIK SUMMAIR SUMMAIR ASGHAR 等: "A Low-Power Spiking Neural Network Chip Based on a Compact LIF Neuron and Binary Exponential Charge Injector Synapse Circuits", 《SENSORS》 * |
SIXU LI 等: "A Fast and Energy-Efficient SNN Processor With Adaptive Clock/Event-Driven Computation Scheme and Online Learning", 《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS I: REGULAR PAPERS》 * |
TONG BU 等: "Optimal ANN-SNN Conversion for High-accuracy and Ultra-low-latency Spiking Neural Networks", 《THE TENTH INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS》 * |
刘佳星: "基于脉冲神经网络的类脑学习算法及其应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
杨晓飞: "基于STDP的递归脉冲神经网络监督学习算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
白焱: "低功耗、可重构、模块化的脉冲神经网络处理器设计与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
魏劲松: "基于忆阻器的脉冲神经网络芯片研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
黄知达: "CMOS存算一体电路编译实现研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Also Published As
Publication number | Publication date |
---|---|
CN114781633B (zh) | 2022-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Rueckauer et al. | Conversion of analog to spiking neural networks using sparse temporal coding | |
Qiang et al. | Reinforcement learning model, algorithms and its application | |
Lin et al. | Diffusion models for time-series applications: a survey | |
CN111582445B (zh) | 一种基于脉冲神经网络的高效学习系统及学习方法 | |
CN112491094B (zh) | 一种混合驱动的微电网能量管理方法、系统及装置 | |
CN111191769B (zh) | 自适应的神经网络训练与推理装置 | |
CN115314343B (zh) | 一种源荷储资源聚合控制网关装置及负荷和出力预测方法 | |
WO2022078334A1 (zh) | 利用神经元模型及网络处理信号的处理方法、介质、设备 | |
CN114781439B (zh) | 模型获取系统、手势识别方法、装置、设备及存储介质 | |
Li et al. | Intelligent classification of multi-gesture EMG signals based on LSTM | |
Magno et al. | Fanncortexm: An open source toolkit for deployment of multi-layer neural networks on arm cortex-m family microcontrollers: Performance analysis with stress detection | |
Wu et al. | Dynamic threshold integrate and fire neuron model for low latency spiking neural networks | |
CN108470212B (zh) | 一种能利用事件持续时间的高效lstm设计方法 | |
CN114781633B (zh) | 一种融合人工神经网络与脉冲神经网络的处理器 | |
CN113627603A (zh) | 在芯片中实现异步卷积的方法、类脑芯片及电子设备 | |
Niu et al. | ALSTM: adaptive LSTM for durative sequential data | |
Lan et al. | Efficient converted spiking neural network for 3d and 2d classification | |
CN116080688B (zh) | 一种类脑启发的智能驾驶视觉辅助方法、装置及存储介质 | |
Zhou et al. | Short-term wind power prediction based on EMD-LSTM | |
CN109447843B (zh) | 一种光伏出力预测方法及装置 | |
CN111667064A (zh) | 基于光电计算单元的混合型神经网络及其运算方法 | |
CN116937638A (zh) | 一种基于模糊逻辑推理的能源调控方法 | |
CN115860071A (zh) | 基于感存算一体的神经网络振荡器系统 | |
Ye et al. | A TD3 algorithm based reinforcement learning controller for DC-DC switching converters | |
CN112949819B (zh) | 基于忆阻器的自供能设备及其脉冲神经网络优化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |