CN106875003B - 自适应泄漏值神经元信息处理方法和系统 - Google Patents
自适应泄漏值神经元信息处理方法和系统 Download PDFInfo
- Publication number
- CN106875003B CN106875003B CN201710041729.7A CN201710041729A CN106875003B CN 106875003 B CN106875003 B CN 106875003B CN 201710041729 A CN201710041729 A CN 201710041729A CN 106875003 B CN106875003 B CN 106875003B
- Authority
- CN
- China
- Prior art keywords
- information
- neuron
- threshold
- current
- pulse
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 210000002569 neuron Anatomy 0.000 title claims abstract description 350
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 68
- 230000010365 information processing Effects 0.000 title claims abstract description 40
- 238000003672 processing method Methods 0.000 title claims description 21
- 239000012528 membrane Substances 0.000 claims abstract description 103
- 238000013528 artificial neural network Methods 0.000 claims abstract description 41
- 238000004364 calculation method Methods 0.000 claims abstract description 31
- 238000000034 method Methods 0.000 claims abstract description 15
- 230000036279 refractory period Effects 0.000 claims description 72
- 230000006870 function Effects 0.000 claims description 17
- 230000004044 response Effects 0.000 claims description 14
- 230000001960 triggered effect Effects 0.000 claims description 14
- 238000012421 spiking Methods 0.000 claims description 11
- 230000036390 resting membrane potential Effects 0.000 claims description 10
- 230000000670 limiting effect Effects 0.000 claims description 4
- 230000036961 partial effect Effects 0.000 claims description 3
- 230000035945 sensitivity Effects 0.000 abstract description 10
- 230000000694 effects Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 8
- 238000003062 neural network model Methods 0.000 description 5
- 230000001537 neural effect Effects 0.000 description 3
- 230000002238 attenuated effect Effects 0.000 description 2
- 210000005056 cell body Anatomy 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000005265 energy consumption Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000000638 stimulation Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000011664 nicotinic acid Substances 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Feedback Control In General (AREA)
Abstract
本发明涉及一种自适应泄漏值神经元信息处理方法和系统,所述方法包括:接收前端脉冲神经元输出信息;读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息;根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息;根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息;输出所述当前脉冲神经元输出信息。本发明所提供的自适应泄漏值神经元信息处理系统,利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算,并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算,在神经网络的灵敏度和稳定性之间达到很好的平衡作用。
Description
技术领域
本发明涉及人工神经网络技术领域,特别是涉及自适应泄漏值神经元信息处理方法和系统。
背景技术
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用图形处理单元)中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。
然而,传统的脉冲神经元信息处理方法,利用历史膜电位作为泄漏值,用于计算当前脉冲神经元输出信息,导致神经网络在对于输入响应的灵敏度和稳定性方面无法做到很好的平衡。
发明内容
基于此,有必要针对神经网络如何解决灵敏度和稳定性之间的平衡的问题,提供一种自适应泄漏值神经元信息处理方法和系统,其中,所述方法包括:
接收前端脉冲神经元输出信息;
读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息;
根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息;
根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息;
输出所述当前脉冲神经元输出信息。
在其中一个实施例中,所述前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引;
所述当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息;
则根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息,包括:
根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列;
根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息;
根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息。
在其中一个实施例中,在所述根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息的步骤之后在,在所述输出所述当前脉冲神经元输出信息的步骤之前,所述方法还包括:
获取阈值电位;
将所述当前脉冲神经元输出信息和所述阈值电位进行比较,根据比较结果确定发放触发标志信息,所述发放触发标志信息包括:发放触发或发放不触发;当所述发放触发标志信息为发放触发时,
复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息。
在其中一个实施例中,还包括:
当所述发放触发标志信息为发放不触发时,读取不应期宽度和不应期计时器的当前时间步;
根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息;
若当前时间不在应期内,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。
在其中一个实施例中,所述获取阈值电位,包括:
读取随机阈值掩模电位、阈值偏置和随机阈值;
将所述随机阈值和所述随机阈值掩模电位进行按位与操作,获取阈值随机叠加量;
根据所述阈值随机叠加量和所述阈值偏置,确定所述阈值电位。
在其中一个实施例中,根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息,包括:
读取静息膜电位信息和泄漏值缩放因子;
根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
在其中一个实施例中,所述输出所述当前脉冲神经元输出信息,包括:
读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,
读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;
输出所述当前脉冲神经元输出信息。
本发明所提供的自适应泄漏值神经元信息处理方法,利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算,并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算。与传统的固定泄漏值不同,自适应泄漏值的设定方式,每个时间步的泄漏值与上一个时间步的膜电位相关,使得神经网络均有一定的柔性,若当前时间步的膜电位大,则下个时间步的泄漏值衰减的多,若当前时间步的膜电位小,则下个时间步的泄漏值衰减的少,不会出现泄漏值衰减到底导致的脉冲神经元丧失响应能力,也不会出现泄漏值衰减过慢导致的对于输入的响应过于灵敏,在神经网络的灵敏度和稳定性之间达到很好的平衡作用。
在其中一个实施例中,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列,根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重,通过衰减函数计算前端脉冲神经元输入信息,可以支持具有时间深度的时空脉冲神经网络模型,相比于时间深度仅仅为一的神经网络技术方案,可以大大提高脉冲神经网络的时空信息编码能力,丰富脉冲神经网络的应用空间。
在其中一个实施例中,通过设置发放使能标识和发放触发标志,确定当前脉冲神经元输出信息,使得脉冲神经元的输出的可控性更高,发放使能标志可以配置有的神经元不允许发放数据,而只用作中间辅助计算神经元,这对于一些需要多神经元协作完成的功能是非常必要的。
在其中一个实施例中,通过读取随机阈值掩模电位和阈值偏置,并接收配置寄存器给出的配置值,确定所述阈值电位,使得神经元发放脉冲尖端信息具有一定概率的随机性。
在其中一个实施例中,通过设置泄漏值缩放因子,使得神经元自适应泄漏值更加可控,也进一步提高了神经网络灵敏度和稳定性之间的平衡。
本发明还提供一种自适应泄漏值神经元信息处理系统,包括:
前端脉冲神经元输出信息接收模块,用于接收前端脉冲神经元输出信息;
当前脉冲神经元信息读取模块,用于读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息;
当前脉冲神经元输出信息计算模块,用于根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息;
自适应膜电位泄漏信息更新模块,用于根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息;
当前脉冲神经元信息输出模块,用于输出所述当前脉冲神经元输出信息。
在其中一个实施例中,所述前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引;
所述当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息;
所述当前脉冲神经元输出信息计算模块,包括:
脉冲神经元连接权重读取单元,用于根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
时间窗内脉冲尖端信息序列更新单元,用于根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列;
前端脉冲神经元输入信息计算单元,用于根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息;
脉冲神经元输出信息计算单元,用于根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息。
在其中一个实施例中,还包括:
阈值电位获取模块,用于获取阈值电位;
发放触发标志信息确定模块,用于将所述当前脉冲神经元输出信息和所述阈值电位进行比较,根据比较结果确定发放触发标志信息,所述发放触发标志信息包括:发放触发或发放不触发;当所述发放触发标志信息为发放触发时,
不应期计时器复位模块,用于复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息。
在其中一个实施例中,还包括:
当所述发放触发标志信息为发放不触发时,
不应期计时器读取模块,用于读取不应期宽度和不应期计时器的当前时间步;
不应期判断模块,用于根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息;若当前时间不在应期内,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。
在其中一个实施例中,所述阈值电位获取模块,包括:
阈值信息读取单元,用于读取随机阈值掩模电位、阈值偏置和随机阈值;
随机叠加量获取单元,用于将所述随机阈值和所述随机阈值掩模电位进行按位与操作,获取阈值随机叠加量;
阈值电位确定单元,用于根据所述阈值随机叠加量和所述阈值偏置,确定所述阈值电位。
在其中一个实施例中,所述自适应膜电位泄漏信息更新模块,包括:
泄漏信息读取单元,用于读取静息膜电位信息和泄漏值缩放因子;
泄漏信息更新单元,用于根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
在其中一个实施例中,所述当前脉冲神经元信息输出模块,包括:
使能标识读取单元,用于读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,
发放触发标志信息读取单元,用于读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;
当前脉冲神经元信息输出单元,用于输出所述当前脉冲神经元输出信息。
本发明所提供的自适应泄漏值神经元信息处理系统,利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算,并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算。与传统的固定泄漏值不同,自适应泄漏值的设定方式,每个时间步的泄漏值与上一个时间步的膜电位相关,使得神经网络均有一定的柔性,若当前时间步的膜电位大,则下个时间步的泄漏值衰减的多,若当前时间步的膜电位小,则下个时间步的泄漏值衰减的少,不会出现泄漏值衰减到底导致的脉冲神经元丧失响应能力,也不会出现泄漏值衰减过慢导致的对于输入的响应过于灵敏,在神经网络的灵敏度和稳定性之间达到很好的平衡作用。
在其中一个实施例中,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列,根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重,通过衰减函数计算前端脉冲神经元输入信息,可以支持具有时间深度的时空脉冲神经网络模型,相比于时间深度仅仅为一的神经网络技术方案,可以大大提高脉冲神经网络的时空信息编码能力,丰富脉冲神经网络的应用空间。
在其中一个实施例中,通过设置发放使能标识和发放触发标志,确定当前脉冲神经元输出信息,使得脉冲神经元的输出的可控性更高,发放使能标志可以配置有的神经元不允许发放数据,而只用作中间辅助计算神经元,这对于一些需要多神经元协作完成的功能是非常必要的。
在其中一个实施例中,通过读取随机阈值掩模电位和阈值偏置,并接收配置寄存器给出的配置值,确定所述阈值电位,使得神经元发放脉冲尖端信息具有一定概率的随机性。
在其中一个实施例中,通过设置泄漏值缩放因子,使得神经元自适应泄漏值更加可控,也进一步提高了神经网络灵敏度和稳定性之间的平衡。
附图说明
图1为一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图;
图2为另一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图;
图3为又一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图;
图4为再一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图;
图5为一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图;
图6为另一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图;
图7为又一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
图1为一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图,如图1所示的自适应泄漏值神经网络信息处理方法,包括:
步骤S100,接收前端脉冲神经元输出信息。
具体的,所述前端脉冲神经元输出信息,是与当前脉冲神经元的连接的前端的脉冲神经元输出的脉冲信息。
步骤S200,读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息。
具体的,所述当前脉冲神经元信息,包括当前神经元存储的前端脉冲神经元发送的历史脉冲信息序列,以及自适应膜电位泄漏信息。
步骤S300,根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息。
具体的,当前脉冲神经元根据接收到的前端脉冲神经元输出的脉冲信息,和读取到的当前脉冲神经元信息,计算出当前脉冲神经元输出信息。
步骤S400,根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
具体的,根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息,用于下一个时间步的当前脉冲神经元输出信息的计算。
步骤S500,输出所述当前脉冲神经元输出信息。
本发明所提供的自适应泄漏值神经元信息处理方法,利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算,并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算。与传统的固定泄漏值不同,在神经网络的灵敏度和稳定性之间达到很好的平衡作用。
图2为另一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图,如图2所示的自适应泄漏值神经网络信息处理方法,包括:
步骤S100b,接收前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引。
具体的,所述前端脉冲神经元与当前脉冲神经元的连接权重索引,是前端神经元与所述前端脉冲神经元输出信息一同发送的权重索引,用于指示当前神经元权重的提取。所述前端脉冲神经元输出的脉冲尖端信息,为前端脉冲神经元发送的脉冲尖端信号(spike)。
步骤S200b,读取当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息和自适应膜电位泄漏信息。
具体的,所述当前时间窗内脉冲尖端信息序列,是指在所述当前时间窗宽度内,将过去一定范围内的时间步接收到的脉冲尖端信息,按时间顺序依次缓存的一个信息序列。
步骤S300b,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重。
具体的,所述前端脉冲神经元与当前脉冲神经元的连接权重索引,是一个地址信息,当前神经元根据接收到的所述前端脉冲神经元与当前脉冲神经元的连接权重索引,在当前神经元内的存储器中,读取到前端脉冲神经元与当前脉冲神经元的连接权重,根据所述的连接权重信息,可以将前端神经元的输出信息,在参与当前神经元输出信息的计算过程中,更准确的反应出前端神经元的输出信息的权重,携带更丰富的信息。
步骤S400b,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列。
具体的,所述脉冲尖端信息序列,在每个脉冲神经元的操作步,在序列头存储一个新的脉冲尖端信息后,删除一个序列尾位置上的脉冲尖端信息,更新一次所述脉冲尖端序列。
步骤S500b,根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息。
具体的,利用计算所述前端脉冲神经元输入信息,其中,Tw为所述时间窗宽度,δj为前端神经元j在当前时间窗内发放spike后,在所述当前时间窗内脉冲尖端信息更新序列内的时间步。K(Δt)为一个衰减函数,随着Δt增大而迅速减小,t为当前时刻,所述Δt为时间变化值。
步骤S600b,根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息。
具体的,利用如下公式表示前端脉冲神经元输入信息的计算:
其中Wij为所述前端脉冲神经元j和当前脉冲神经元i的连接权重,Tw为所述时间窗宽度,δj为前端神经元j在当前时间窗内发放spike后,在所述当前时间窗内脉冲尖端信息更新序列内的时间步。K(Δt)为一个衰减函数,随着Δt增大而迅速减小。在胞体处的基本模型可以简化为:
VSNN=f(V+Vinput+Vleak)
发放模型和复位模型不变,其中V是存储器保存的历史膜电位信息,Vinput是当前拍累加的输入,等效于上述的Vleak为自适应泄漏值信息。所述Vleak根据当前膜电位、静息膜电位信息和泄漏值放缩因子计算得出。
在本实施例中,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列,根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重,通过衰减函数计算前端脉冲神经元输入信息,可以支持具有时间深度的时空脉冲神经网络模型,相比于时间深度仅仅为一的神经网络技术方案,可以大大提高脉冲神经网络的时空信息编码能力,丰富脉冲神经网络的应用空间。
图3为又一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图,如图3所示的自适应泄漏值神经网络信息处理方法,包括:
步骤S100c,计算出当前脉冲神经元输出信息和阈值电位。
步骤S200c,判断所述当前脉冲神经元输出信息是否大于等于所述阈值电位,根据所述比较结果确定发放触发标志信息,所述发放触发标志信息包括发放触发或发放不触发,当确定发放触发标志信息为发放触发时,接步骤S300c,当确定发放触发标志信息为发放不触发时,跳至步骤S400c。
具体的,根据所述阈值电位,与所述当前脉冲神经元输出信息进行比较,并根据比较结果确定发放触发标志信息。只有所述当前脉冲神经元输出信息大于所述阈值电位时,所述当前脉冲神经元输出信息才会被发送。
步骤S300c,复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息。
具体的,当所述发放触发标志信息为发放触发时,所述当前脉冲神经元输出信息被发送,不应期计时器被复位后,重新计算不应期,并更新所述历史膜电位信息为预设的膜电位信息,且所述的历史膜电位信息更新,根据配置的复位类型,选择性将膜电位复位为当前膜电位、当前膜电位和阈值电位差值,或固定复位电压。
步骤S400c,读取不应期宽度和不应期计时器的当前时间步。
具体的,当所述发放触发标志信息为发放不触发时,所述当前脉冲神经元输出信息不被发送,进一步判断当前是否在不应期内。所述不应期宽度为不应期的时长范围,所述不应期计时器利用时间步的方式计时。
步骤S500c,根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,接步骤S600c,否则跳至步骤S700c。
具体的,根据所述不应期计时器的当前时间步的累计计算,可以判断出当前时间步是否还在不应期内。
步骤S600c,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息。
具体的,若当前时间在所述不应期内,根据脉冲神经网络的仿生特点,不对所述脉冲神经输出信息进行任何回应,不更新历史膜电位信息,所述历史膜电位信息,是下一个时间步的脉冲神经元需要读取的信息,即在不应期内,本次计算出的脉冲神经元输出信息不参与下一个时间步的计算。
步骤S700c,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。
具体的,如在不应期外,则将所述历史膜电位信息为所述当前脉冲神经元输出信息,参与下一个时间步的计算。
在本实施例中,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列,根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重,通过衰减函数计算前端脉冲神经元输入信息,可以支持具有时间深度的时空脉冲神经网络模型,相比于时间深度仅仅为一的神经网络技术方案,可以大大提高脉冲神经网络的时空信息编码能力,丰富脉冲神经网络的应用空间。
在其中一个实施例中,所述获取阈值电位,包括:读取随机阈值掩模电位、阈值偏置和随机阈值;将所述随机阈值和所述随机阈值掩模电位进行按位与操作,获取阈值随机叠加量;根据所述阈值随机叠加量和所述阈值偏置,确定所述阈值电位。
具体的,伪随机数发生器产生一个随机阈值Vrand,利用所述随机阈值与预设的随机阈值掩模电位Vmask按位取与操作,产生阈值随机叠加量,再将所述阈值随机叠加量与预设的阈值偏置Vth0相加,产生真正的阈值电位Vth。其中,伪随机数发生器的初始种子由配置寄存器Vseed给出。掩模电位Vmask用于限制阈值增量的范围:若Vmask=0,则阈值随机叠加量也为0,发放模式退化为固定阈值发放,固定阈值为Vth0;若Vmask≠0,则发放模式为部分概率阈值发放。当极端情况Vth0=0,则发放模式为完全概率阈值发放。
在本实施例中,通过读取随机阈值掩模电位和阈值偏置,并接收配置寄存器给出的配置值,确定所述阈值电位,使得神经元发放脉冲尖端信息具有一定概率的随机性。
在其中一个实施例中,所述输出所述当前脉冲神经元输出信息,包括:读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;输出所述当前脉冲神经元输出信息。
在本实施例中,通过设置发放使能标识和发放触发标志,确定当前脉冲神经元输出信息,使得脉冲神经元的输出的可控性更高,发放使能标志可以配置有的神经元不允许发放数据,而只用作中间辅助计算神经元,这对于一些需要多神经元协作完成的功能是非常必要的。
图4为再一个实施例的自适应泄漏值神经网络信息处理方法的流程示意图,如图4所示的自适应泄漏值神经网络信息处理方法,包括:
步骤S410,读取静息膜电位信息和泄漏值缩放因子。
具体的,所述静息膜电位信息和所述泄漏值缩放因子,是一个任务开始时,根据需求设定的值。
步骤S420,根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
具体的,所述自适应膜电位泄漏信息Vleak跟当前脉冲神经元的当前脉冲神经元输出信息有关,具有自适应能力。每个时间步会进行自适应泄漏信息的更新:Vleak=Cleak·(Vrest-VSNN),其中Cleak为泄漏值缩放因子、Vrest为静息膜电位信息,VSNN为当前脉冲神经元输出信息。简单来说,(Vrest-VSNN)不再是固定常数泄漏值Vleak,意味着VSNN越小(越靠近静息电位Vrest)则泄漏值越小,而VSNN越大(越远离静息电位Vrest)则泄漏值越大。这种柔性泄漏值的方式,可以有效地维持胞体膜电位的平衡,使得膜电位不会因为泄漏过大而对外界刺激失去响应,也不会因为泄漏过小而对外界刺激过于灵敏,对于神经元膜电位的灵敏度和稳定性十分关键,对于复杂模式的学习同样至关重要。
在本实施例中,通过设置泄漏值缩放因子,使得神经元自适应泄漏值更加灵活可控。
图5为一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图,如图5所示的自适应泄漏值神经网络信息处理系统包括:
前端脉冲神经元输出信息接收模块100,用于接收前端脉冲神经元输出信息。所述前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引。
当前脉冲神经元信息读取模块200,用于读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息。所述当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息。
当前脉冲神经元输出信息计算模块300,用于根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息。
自适应膜电位泄漏信息更新模块400,用于根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息,包括:泄漏信息读取单元,用于读取静息膜电位信息和泄漏值缩放因子;泄漏信息更新单元,用于根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
当前脉冲神经元信息输出模块500,用于输出所述当前脉冲神经元输出信息。包括:使能标识读取单元,用于读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,发放触发标志信息读取单元,用于读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;当前脉冲神经元信息输出单元,用于输出所述当前脉冲神经元输出信息。
本发明所提供的自适应泄漏值神经元信息处理系统,利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算,并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算。与传统的固定泄漏值不同,在神经网络的灵敏度和稳定性之间达到很好的平衡作用。在本实施例中,通过设置泄漏值缩放因子,使得神经元自适应泄漏值更加可控,也进一步提高了神经网络灵敏度和稳定性之间的平衡。
图6为另一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图,如图6所示的自适应泄漏值神经网络信息处理系统,所述当前脉冲神经元输出信息计算模块300,包括:
脉冲神经元连接权重读取单元100b,用于根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重。
时间窗内脉冲尖端信息序列更新单元200b,用于根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列。
前端脉冲神经元输入信息计算单元300b,用于根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息。
脉冲神经元输出信息计算单元400b,用于根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息。
在本实施例中,根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列,根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重,通过衰减函数计算前端脉冲神经元输入信息,可以支持具有时间深度的时空脉冲神经网络模型,相比于时间深度仅仅为一的神经网络技术方案,可以大大提高脉冲神经网络的时空信息编码能力,丰富脉冲神经网络的应用空间
图7为又一个实施例的自适应泄漏值神经网络信息处理系统的结构示意图,如图7所示的自适应泄漏值神经网络信息处理系统,还包括:
阈值电位获取模块600,用于获取阈值电位,包括阈值信息读取单元,用于读取随机阈值掩模电位、阈值偏置和随机阈值;随机叠加量获取单元,用于将所述随机阈值和所述随机阈值掩模电位进行按位与操作,获取阈值随机叠加量;阈值电位确定单元,用于根据所述阈值随机叠加量和所述阈值偏置,确定所述阈值电位。
发放触发标志信息确定模块700,用于将所述当前脉冲神经元输出信息和所述阈值电位进行比较,根据比较结果确定发放触发标志信息,所述发放触发标志信息包括:发放触发或发放不触发;当所述发放触发标志信息为发放触发时。
不应期计时器复位模块800,用于复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息。
当所述发放触发标志信息为发放不触发时,
不应期计时器读取模块900,用于读取不应期宽度和不应期计时器的当前时间步;
不应期判断模块1000,用于根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息;若当前时间不在应期内,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。
在本实施例中,通过自适应阈值电位,使得神经元发放脉冲尖端信息与上一个时间步是否发放了所述当前脉冲神经元输出信息相关,可以有效均衡整个网络中每个神经元的发放频率,使得每个神经元都可以在处理信息时发挥作用,大大提高脉冲神经网络的信息处理能力。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (6)
1.一种自适应泄漏值神经元信息处理方法,应用于包括由硬件电路构建的神经网络的计算平台中,其特征在于,所述方法包括:
接收前端脉冲神经元输出信息;
读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息;
根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息;
根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息;
输出所述当前脉冲神经元输出信息;
其中,所述前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引;
所述当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、存储在寄存器中的历史膜电位信息;
所述根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息,包括:
根据所述前端神经元与当前神经元的连接权重索引,从当前神经元内的存储器中读取前端神经元与当前神经元的连接权重;
根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列;
根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息;
根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息;
其中,在所述根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息的步骤之后,在所述输出所述当前脉冲神经元输出信息的步骤之前,所述方法还包括:
获取阈值电位;
将所述当前脉冲神经元输出信息和所述阈值电位进行比较,根据比较结果确定发放触发标志信息,所述发放触发标志信息包括:发放触发或发放不触发;
当所述发放触发标志信息为发放触发时,复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息;
当所述发放触发标志信息为发放不触发时,读取不应期宽度和不应期计时器的当前时间步;
根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息;
若当前时间不在应期内,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息;
其中,所述获取阈值电位,包括:
通过伪随机数发生器产生随机阈值;
读取随机阈值掩模电位、阈值偏置和所述随机阈值;
利用所述随机阈值与预设的随机阈值掩模电位按位取与操作,产生阈值随机叠加量;
将所述阈值随机叠加量与所述阈值偏置相加,得到所述阈值电位;
其中,所述伪随机数发生器的初始种子由配置寄存器输出,所述掩模电位用于限制阈值增量的范围,若所述掩模电位为零,则所述阈值随机叠加量为0,发放模式退化为固定阈值发放,固定阈值为所述阈值偏置;若所述掩模电位不为零,则所述发放模式为部分概率阈值发放;当阈值偏置为0,则发放模式为完全概率阈值发放。
2.根据权利要求1所述的自适应泄漏值神经元信息处理方法,其特征在于,根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息,包括:
读取静息膜电位信息和泄漏值缩放因子;
根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
3.根据权利要求2所述的自适应泄漏值神经元信息处理方法,其特征在于,所述输出所述当前脉冲神经元输出信息,包括:
读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,
读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;
输出所述当前脉冲神经元输出信息。
4.一种自适应泄漏值神经元信息处理系统,应用于包括由硬件电路构建的神经网络的计算平台中,其特征在于,包括:
前端脉冲神经元输出信息接收模块,用于接收前端脉冲神经元输出信息;
当前脉冲神经元信息读取模块,用于读取当前脉冲神经元信息,所述当前脉冲神经元信息包括自适应膜电位泄漏信息;
当前脉冲神经元输出信息计算模块,用于根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息,计算当前脉冲神经元输出信息;
自适应膜电位泄漏信息更新模块,用于根据所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息;
当前脉冲神经元信息输出模块,用于输出所述当前脉冲神经元输出信息;
其中,所述前端脉冲神经元输出信息,包括:前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引;
所述当前脉冲神经元信息,还包括:当前时间窗宽度、当前时间窗内脉冲尖端信息序列、存储在寄存器中的历史膜电位信息;
所述当前脉冲神经元输出信息计算模块,包括:
脉冲神经元连接权重读取单元,用于根据所述前端神经元与当前神经元的连接权重索引,从当前神经元内的存储器中读取前端神经元与当前神经元的连接权重;
时间窗内脉冲尖端信息序列更新单元,用于根据所述前端脉冲神经元输出的脉冲尖端信息,和所述当前时间窗内脉冲尖端信息序列,更新所述当前时间窗内脉冲尖端信息序列,获取当前时间窗内脉冲尖端信息更新序列;
前端脉冲神经元输入信息计算单元,用于根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列,通过衰减函数计算前端脉冲神经元输入信息;
脉冲神经元输出信息计算单元,用于根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息,通过脉冲神经元计算模型,计算当前脉冲神经元输出信息;
其中,所述的自适应泄漏值神经元信息处理系统还包括:
阈值电位获取模块,用于获取阈值电位;
发放触发标志信息确定模块,用于将所述当前脉冲神经元输出信息和所述阈值电位进行比较,根据比较结果确定发放触发标志信息,所述发放触发标志信息包括:发放触发或发放不触发;当所述发放触发标志信息为发放触发时,
不应期计时器复位模块,用于复位不应期计时器,并更新所述历史膜电位信息为预设的复位膜电位信息;
当所述发放触发标志信息为发放不触发时,
不应期计时器读取模块,用于读取不应期宽度和不应期计时器的当前时间步;
不应期判断模块,用于根据所述不应期宽度和所述不应期计时器的当前时间步,判断当前时间是否在不应期内,若当前时间在所述不应期内,将所述不应期计时器累加计时一个时间步,不更新所述历史膜电位信息;若当前时间不在应期内,将所述不应期计时器累加计时一个时间步,并更新所述历史膜电位信息为所述当前脉冲神经元输出信息;
其中,所述阈值电位获取模块,包括:
阈值信息读取单元,用于读取随机阈值掩模电位、阈值偏置和随机阈值;
随机叠加量获取单元,用于将所述随机阈值和所述随机阈值掩模电位进行按位与操作,获取阈值随机叠加量;
阈值电位确定单元,用于根据所述阈值随机叠加量和所述阈值偏置,确定所述阈值电位;
其中,所述阈值电位获取模块,用于通过伪随机数发生器产生随机阈值;读取随机阈值掩模电位、阈值偏置和所述随机阈值;利用所述随机阈值与预设的随机阈值掩模电位按位取与操作,产生阈值随机叠加量;将所述阈值随机叠加量与所述阈值偏置相加,得到所述阈值电位;
其中,所述伪随机数发生器的初始种子由配置寄存器输出,所述掩模电位用于限制阈值增量的范围,若所述掩模电位为零,则所述阈值随机叠加量为0,发放模式退化为固定阈值发放,固定阈值为所述阈值偏置;若所述掩模电位不为零,则所述发放模式为部分概率阈值发放;当阈值偏置为0,则发放模式为完全概率阈值发放。
5.根据权利要求4所述的自适应泄漏值神经元信息处理系统,其特征在于,所述自适应膜电位泄漏信息更新模块,包括:
泄漏信息读取单元,用于读取静息膜电位信息和泄漏值缩放因子;
泄漏信息更新单元,用于根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息,更新所述自适应膜电位泄漏信息。
6.根据权利要求4所述的自适应泄漏值神经元信息处理系统,其特征在于,所述当前脉冲神经元信息输出模块,包括:
使能标识读取单元,用于读取发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据;当所述发放使能标识为允许发放数据时,
发放触发标志信息读取单元,用于读取所述发放触发标志信息,当所述发放触发标志信息为发放触发时;
当前脉冲神经元信息输出单元,用于输出所述当前脉冲神经元输出信息。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710041729.7A CN106875003B (zh) | 2017-01-20 | 2017-01-20 | 自适应泄漏值神经元信息处理方法和系统 |
PCT/CN2017/114669 WO2018133570A1 (zh) | 2017-01-20 | 2017-12-05 | 自适应阈值神经元信息处理方法、自适应泄漏值神经元信息处理方法、系统、计算机设备及可读存储介质 |
US16/478,458 US11551074B2 (en) | 2017-01-20 | 2017-12-05 | Self-adaptive threshold neuron information processing method, self-adaptive leakage value neuron information processing method, system computer device and readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710041729.7A CN106875003B (zh) | 2017-01-20 | 2017-01-20 | 自适应泄漏值神经元信息处理方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106875003A CN106875003A (zh) | 2017-06-20 |
CN106875003B true CN106875003B (zh) | 2020-08-04 |
Family
ID=59158476
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710041729.7A Active CN106875003B (zh) | 2017-01-20 | 2017-01-20 | 自适应泄漏值神经元信息处理方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106875003B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11551074B2 (en) * | 2017-01-20 | 2023-01-10 | Tsinghua University | Self-adaptive threshold neuron information processing method, self-adaptive leakage value neuron information processing method, system computer device and readable storage medium |
WO2018137412A1 (zh) | 2017-01-25 | 2018-08-02 | 清华大学 | 神经网络信息接收方法、发送方法、系统、设备及可读存储介质 |
CN109214502B (zh) * | 2017-07-03 | 2021-02-26 | 清华大学 | 神经网络权重离散化方法和系统 |
CN110826602B (zh) * | 2019-10-23 | 2022-04-26 | 中国科学院自动化研究所 | 基于膜电位调控脉冲神经网络的图像分类方法、系统 |
CN114254106A (zh) * | 2020-09-25 | 2022-03-29 | 北京灵汐科技有限公司 | 文本分类方法、装置、设备及存储介质 |
CN112434802B (zh) * | 2020-11-06 | 2022-05-20 | 北京大学 | 一种实现基于铁电晶体管的自适应随机脉冲神经元的方法 |
CN112949833B (zh) * | 2021-03-26 | 2022-09-06 | 北京航空航天大学 | 一种概率计算神经元计算单元和构造方法 |
CN113240102B (zh) * | 2021-05-24 | 2023-11-10 | 北京灵汐科技有限公司 | 神经元的膜电位更新方法、类脑神经元器件、处理核 |
CN113449864B (zh) * | 2021-07-21 | 2023-08-25 | 北京大学 | 用于图像数据分类的反馈型脉冲神经网络模型训练方法 |
CN114780039A (zh) * | 2022-04-29 | 2022-07-22 | 北京灵汐科技有限公司 | 存储方法、计算方法、存储装置、众核系统、介质 |
CN114861838B (zh) * | 2022-07-06 | 2022-09-27 | 武汉理工大学 | 一种基于神经元复杂动力学的脉冲神经类脑智能分类方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104809498A (zh) * | 2014-01-24 | 2015-07-29 | 清华大学 | 一种基于神经形态电路的类脑协处理器 |
CN106156842A (zh) * | 2015-03-16 | 2016-11-23 | 江南大学 | 一种积分发放神经元模型的最优控制方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102179899B1 (ko) * | 2013-08-05 | 2020-11-18 | 삼성전자주식회사 | 뉴로모픽 시스템 및 그 구현 방법 |
-
2017
- 2017-01-20 CN CN201710041729.7A patent/CN106875003B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104809498A (zh) * | 2014-01-24 | 2015-07-29 | 清华大学 | 一种基于神经形态电路的类脑协处理器 |
CN106156842A (zh) * | 2015-03-16 | 2016-11-23 | 江南大学 | 一种积分发放神经元模型的最优控制方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106875003A (zh) | 2017-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106875003B (zh) | 自适应泄漏值神经元信息处理方法和系统 | |
KR101793011B1 (ko) | 스파이킹 네트워크들의 효율적인 하드웨어 구현 | |
Jin et al. | Implementing spike-timing-dependent plasticity on SpiNNaker neuromorphic hardware | |
US11551074B2 (en) | Self-adaptive threshold neuron information processing method, self-adaptive leakage value neuron information processing method, system computer device and readable storage medium | |
KR20160123309A (ko) | 확률적 스파이킹 베이지안망들에 대한 이벤트-기반 추론 및 학습 | |
US9984324B2 (en) | Dual deterministic and stochastic neurosynaptic core circuit | |
US8812414B2 (en) | Low-power event-driven neural computing architecture in neural networks | |
CN106875005B (zh) | 自适应阈值神经元信息处理方法和系统 | |
WO2018133568A1 (zh) | 复合模式神经元信息处理方法、系统及计算机设备 | |
CN106845633B (zh) | 神经网络信息转换方法和系统 | |
US20150212861A1 (en) | Value synchronization across neural processors | |
US20150278641A1 (en) | Invariant object representation of images using spiking neural networks | |
US20150134582A1 (en) | Implementing synaptic learning using replay in spiking neural networks | |
KR20160125967A (ko) | 일반적인 뉴런 모델들의 효율적인 구현을 위한 방법 및 장치 | |
US20190138900A1 (en) | Neuron circuit, system, and method with synapse weight learning | |
KR20160145636A (ko) | 스파이킹 뉴럴 네트워크에서의 글로벌 스칼라 값들에 의한 가소성 조절 | |
KR20160076531A (ko) | 다차원 범위에 걸쳐 분리가능한 서브 시스템들을 포함하는 시스템의 평가 | |
CN114611686B (zh) | 基于可编程神经拟态核的突触延时实现系统及方法 | |
US20150278628A1 (en) | Invariant object representation of images using spiking neural networks | |
US20220292489A1 (en) | Methods and devices for tracking and measuring proof-of-work contributions in a mining pool | |
CN113935475A (zh) | 具有脉冲时刻偏移量的脉冲神经网络的仿真与训练方法 | |
KR101782760B1 (ko) | 시냅스 지연의 동적 할당 및 검사 | |
CN113158567B (zh) | 一种液体状态机模型中通信的软硬件联合优化方法及系统 | |
US9418332B2 (en) | Post ghost plasticity | |
CN113269113A (zh) | 人体行为识别方法、电子设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |