CN110826602A - 基于膜电位调控脉冲神经网络的图像分类方法、系统 - Google Patents
基于膜电位调控脉冲神经网络的图像分类方法、系统 Download PDFInfo
- Publication number
- CN110826602A CN110826602A CN201911014227.0A CN201911014227A CN110826602A CN 110826602 A CN110826602 A CN 110826602A CN 201911014227 A CN201911014227 A CN 201911014227A CN 110826602 A CN110826602 A CN 110826602A
- Authority
- CN
- China
- Prior art keywords
- membrane potential
- neural network
- image classification
- network
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000012528 membrane Substances 0.000 title claims abstract description 124
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 119
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000033228 biological regulation Effects 0.000 title claims abstract description 12
- 230000008859 change Effects 0.000 claims abstract description 21
- 210000000225 synapse Anatomy 0.000 claims abstract description 20
- 230000007246 mechanism Effects 0.000 claims abstract description 13
- 238000012549 training Methods 0.000 claims abstract description 9
- 210000002569 neuron Anatomy 0.000 claims description 57
- 230000000946 synaptic effect Effects 0.000 claims description 13
- 230000001537 neural effect Effects 0.000 claims description 11
- 238000010276 construction Methods 0.000 claims description 10
- 238000010304 firing Methods 0.000 claims description 8
- 210000005215 presynaptic neuron Anatomy 0.000 claims description 7
- 230000001242 postsynaptic effect Effects 0.000 claims description 6
- 230000002441 reversible effect Effects 0.000 claims description 6
- 206010001497 Agitation Diseases 0.000 claims description 5
- 230000003518 presynaptic effect Effects 0.000 claims description 3
- 238000012546 transfer Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 5
- 238000013508 migration Methods 0.000 abstract description 3
- 230000005012 migration Effects 0.000 abstract description 3
- 238000012821 model calculation Methods 0.000 abstract 1
- 238000005457 optimization Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000010365 information processing Effects 0.000 description 6
- 230000002401 inhibitory effect Effects 0.000 description 6
- 230000002964 excitative effect Effects 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 210000004556 brain Anatomy 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 210000000170 cell membrane Anatomy 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 102000004310 Ion Channels Human genes 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007321 biological mechanism Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 210000002364 input neuron Anatomy 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 238000012421 spiking Methods 0.000 description 1
- 230000003956 synaptic plasticity Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明属于计算神经科学及图像分类技术领域，具体涉及了一种基于膜电位调控脉冲神经网络的图像分类方法、系统，旨在解决现有图像分类采用的人工神经网络小样本学习效果差、容易发生过拟合、迁移能力有限、容易出现灾难性遗忘的问题。本发明方法包括：通过训练好的图像分类神经网络对分类任务图像进行分类。网络基于三层前馈神经网络构建；基于顺行前馈、膜电位改变和输入电流平衡，分别进行膜电位信息更新；以网络当前层的误差反传上一层调整当前层权值；通过STDP学习机制更新网络突触权值。本发明借鉴生物发现，网络训练所需样本少、收敛快、正确率高，并将受生物现象启发的学习规则加入到网络学习框架中来，模型计算能力强、适应能力高。
Description
技术领域
本发明属于计算神经科学及图像分类技术领域，具体涉及了一种基于膜电位调控脉冲神经网络的图像分类方法、系统。
背景技术
虽然深度学习(DNN，Deep Neural Network)在单一任务上的优异表现显示出了相对其他模型(甚至人类对手)的巨大优势，但是DNN只是借鉴了大脑视觉系统的小部分工作机理，在更广泛的实际应用中已经暴露出了不少缺陷。网络虽然对特定样本的识别正确率很高，但是显然模型并没有真正对图片形成认知和理解，因此容易发生啼笑皆非的测试结果(如将黄黑色条纹的图片以极高的置信度识别为校车)。
人工神经网络可以借鉴的生物发现包括：神经元中突触的位置差异性、神经元突触的信息延迟、不同神经元非线性信息处理模式的差异、快速的神经突触可塑性调节方法、微观环路的非监督式的网络学习方法、宏观生物网络的多脑区的协同能力。由此可以看出，人工神经网络模型仍然还有很多生物机制可以借鉴，而这些可以借鉴的原则机理很可能对实现通用人工智能网络提供帮助。脉冲神经网络(Spiking Neural Network,SNN)被认为是第三代神经网络模型，其运算方式和模型基础与人脑更为相近。目前，脉冲神经网络已在图片分类、工作记忆保持、音频信息处理等多项任务中得到了初步应用。
总的来说，现有的图像分类方法使用的人工神经网络小样本学习效果差、容易发生过拟合、迁移能力有限、容易出现灾难性遗忘，图像分类中可能会出现明显的错误结果。
发明内容
为了解决现有技术中的上述问题，即现有图像分类采用的人工神经网络小样本学习效果差、容易发生过拟合、迁移能力有限、容易出现灾难性遗忘的问题，本发明提供了一种基于膜电位调控脉冲神经网络的图像分类方法，该图像分类方法包括：
步骤S10，获取分类任务图像作为待处理图像；
步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
步骤S30，输出待处理图像的类别；
其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触；
步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
在一些优选的实施例中，所述积分-放电单元为HH神经元、LIF神经元、Izhikevich神经元中的一种。
在一些优选的实施例中，步骤B20中“基于膜电位改变和输入电流达到平衡，进行膜电位信息更新”，其方法为：
其中，Ei代表前后时刻神经元膜电位的更新能量值，Vi代表当前时刻的神经元膜电位，wi,j代表突触前神经元j和突触后神经元i的突触权值，Vth,i代表突触后神经元i的放电阈值，j为突触前神经元的标号，N代表突触前神经元的数目。
在一些优选的实施例中，步骤B30中“以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整”，其方法为：
其中，C代表输出膜电势和标准膜电势的差，Vi代表输出膜电势的数值，VT代表期望的标准膜电势的数值，i为神经元的位置索引，N代表神经元的数目。
在一些优选的实施例中，步骤B40中“基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值”，其方法为：
其中，Δwj代表突触更新的数值，A+代表STDP的正向比例因子，A-代表STDP的负向比例因子，Δti代表神经元前后放电的时间差，τ+代表STDP的正向漏电时间常数，τ-代表STDP的负向漏电时间常数。
本发明的另一方面，提出了一种基于膜电位调控脉冲神经网络的图像分类系统，该图像分类系统包括输入模块、图像分类模块、输出模块；
所述输入模块，配置为获取分类任务图像作为待处理图像并输入；
所述图像分类模块，配置为基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
所述输出模块，配置为输出待处理图像的类别。
在一些优选的实施例中，所述图像分类模块包括网络构建模块、膜电位更新模块、网络层权重调整模块、网络突触权重调整模块；
所述网络构建模块，配置为构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；
所述膜电位更新模块，配置为基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
所述网络层权重调整模块，配置为以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
所述网络突触权重调整模块，配置为基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
本发明的第三方面，提出了一种存储装置，其中存储有多条程序，所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
本发明的第四方面，提出了一种处理装置，包括处理器、存储装置；所述处理器，适于执行各条程序；所述存储装置，适于存储多条程序；所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
本发明的有益效果：
(1)本发明基于膜电位调控脉冲神经网络的图像分类方法，通过基于三层前馈神经网络构建的图像分类神经网络，借鉴生物神经中非线性的神经元信息转换、权值可变的突触更新、特定层级或循环的网络结构、信息的稀疏表达等，解决了人工神经网络中小样本学习效果差、待调优参数过多容易发生欠拟合、网络迭代训练次数过多又容易发生过拟合、网络迁移能力有限、灾难性遗忘特性等缺陷，网络训练所需样本少、收敛快、正确率高。
(2)本发明基于膜电位调控脉冲神经网络的图像分类方法，将受生物现象启发的学习规则加入到其网络学习框架中来，具有更加复杂的神经元和突触结构，考虑到现有人工网络所忽略的很多的生物规则可能恰恰是实现通用类人脑智能的关键，这些生物规则加入到更加类脑的SNN中使得网络获得更为强大的计算能力和适应能力。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本发明基于膜电位调控脉冲神经网络的图像分类方法的流程示意图；
图2是本发明基于膜电位调控脉冲神经网络的图像分类方法的网络、节点设计的结构示意图；
图3是本发明基于膜电位调控脉冲神经网络的图像分类方法一种实施例的不同的前馈、稳态、STDP组合方法正确率对比图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
本发明的一种基于膜电位调控脉冲神经网络的图像分类方法，该图像分类方法包括：
步骤S10，获取分类任务图像作为待处理图像；
步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
步骤S30，输出待处理图像的类别；
其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触；
步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
为了更清晰地对本发明基于膜电位调控脉冲神经网络的图像分类方法进行说明，下面结合图1对本发明方法实施例中各步骤展开详述。
本发明一种实施例的基于膜电位调控脉冲神经网络的图像分类方法，包括步骤S10-步骤S30，各步骤详细描述如下：
步骤S10，获取分类任务图像作为待处理图像。
本发明一个实施例中，分类任务为将MNIST数据集合按照其特征进行分类。
MNIST数据集是一个数字手写体数据集，数据集合中的图像都是28*28大小的灰度图像，每个像素是一个八位字节(0～255)，主要包含了60000张的训练图像和10000张的测试图像。
步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别。
本发明一个实施例中，通过训练好的图像分类神经网络获取MNIST数据集中10000张测试图像中每一个图像的类别，即手写体图像对应的数字。
步骤S30，输出待处理图像的类别。
其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触。
积分-放电单元为HH神经元、LIF神经元、Izhikevich神经元中的一种。
积分-放电单元较为详细的描述了生物膜电位的信息处理过程，且突触模型也详细的刻画了突触在信息处理中的复杂作用。在这样的网络下，神经元模型不再是传统的阈值函数或者logistic函数，而是为描述真实生物神经元信息处理的计算模型，如HH神经元模型、LIF(LIF，Leaky-Integrated and Fire)神经元模型、Izhikevich神经元模型等。其中，HH神经元模型更接近生物神经元放电模式，但由于不同离子通道细节的引入，使得计算量相对较大，而LIF神经元模型是HH神经元模型的适当简化并且计算量小，但是保持了重要的生物神经信息处理的脉冲特性。本发明一个实施例中，采用LIF神经元模型，并在此基础上加入抑制性输入的作用，以求更加真实地模拟神经元在接受多种输入下的膜电位变化情况。LIF神经元模型如式(1)所示：
其中，Cm代表细胞膜电容，gL代表细胞膜对于漏电电流的电导值，V代表神经元膜电位，VL代表神经元中对于漏电流的稳态电势，Isyn代表神经输入电流。
兴奋性电导和抑制性电导，这两类电导其实计算方式是一样的，他们主要依靠膜电压与电势常数之间的差异来实现兴奋性和抑制性作用。漏电电导是神经元细胞内部的一种作用，其目的是在没有外部输入的情况下，逐渐地使神经元恢复静息状态。因此，漏电电导在模型中一般起抑制性作用。兴奋性电导、抑制性电导，其计算公式如式(2)、式(3)所示：
其中，τm为膜电位恢复稳态的时间参量，gE、gI分别代表兴奋性电导常数、抑制性电导常数，V代表神经元当前膜电位，VE、VI分别代表兴奋性和抑制性的神经元的稳态膜电势(反转电势)，τE代表神经元的漏电持续时间，NE代表突触前神经元的数目，wj,i代表网络中突触的权重，δt代表输入的神经元的放电时刻信息。
如图2所示，为本发明基于膜电位调控脉冲神经网络的图像分类方法的网络、节点设计的结构示意图，Vi、Vj分别代表神经元i、神经元j的膜电位，Wi,j代表神经元i和神经元j的前后突触权重，Teacher Signal代表教师信号，STDP代表基于时序脉冲依赖的可塑性学习法则，Range＝1ms为时间轴单位。图2右下方虚线圈为本发明方法节点设计结构示意图，-50mv代表膜电位放电阈值，-70mv代表膜电位稳态阈值。
步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新，每一层的神经元当达到膜电位放电阈值后继续将信息以脉冲的方式传递到下一层；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新。
通过融合的稳态优化机制指导图像分类神经网络中膜电位状态的优化方向，其最终目的都是为网络实现稳定的功能表达，在微观尺度即神经元的膜电位改变和输入电流达到平衡，在宏观尺度即网络功能输出和信息输入达到平衡。
以基于二相STDP的模型优化为例，对网络中的每一个神经元i，构建能量描述子Ei表述每个神经节点的膜电位变化，当网络完成最终优化时，
将趋近于0，因此令Ei对Vi求导数，获得如式(4)所示的优化模型：
其中，Ei代表前后时刻神经元膜电位的更新能量值，Vi代表当前时刻的神经元膜电位，wi,j代表突触前神经元j和突触后神经元i的突触权值，Vth,i代表突触后神经元i的放电阈值，j为突触前神经元的标号，N代表突触前神经元的数目。
采用ΔVi描述LIF神经元节点i的优化方法，该方法将使得网络能量ΔE向着越来越小的方向增长，进而使得图像分类神经网络习得具体的网络功能，如模式识别能力。ΔVi的计算方法如式(5)所示：
其中，ηi为预设的学习率超参数。
步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络。
权值调整如式(6)、式(7)所示：
其中，C代表输出膜电势和标准膜电势的差，Vi代表输出膜电势的数值，VT代表期望的标准膜电势的数值，i为神经元的位置索引，N代表神经元的数目。
步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
由膜电位Vi优化得到的结果，通过STDP的方式由膜电位变化固化到突触变化中来，完成图像分类神经网络的训练优化，如式(8)所示：
其中，Δwj代表突触更新的数值，A+代表STDP的正向比例因子，A-代表STDP的负向比例因子，Δti代表神经元前后放电的时间差，τ+代表STDP的正向漏电时间常数，τ-代表STDP的负向漏电时间常数。
如图3所示，为本发明基于膜电位调控脉冲神经网络的图像分类方法一种实施例的不同的前馈、稳态、STDP组合方法正确率对比图，Test Accuracy表示测试正确率，Iteration Times表示迭代时间，方点折线表示只有膜电势平衡法则(TMP)的网络优化结果，圆点折线表示同时具有前馈信息和膜电势平衡法则(FF+TMP)的网络优化结果，三角折线表示同时具有前馈信息、膜电势平衡法则、兴奋性/抑制类不同神经元、短时突触可塑性(Best FF+TMP+E/I+STP)的网络优化结果。
本发明第二实施例的基于膜电位调控脉冲神经网络的图像分类系统，该图像分类系统包括输入模块、图像分类模块、输出模块；
所述输入模块，配置为获取分类任务图像作为待处理图像并输入；
所述图像分类模块，配置为基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
所述输出模块，配置为输出待处理图像的类别；
其中，图像分类模块包括网络构建模块、膜电位更新模块、网络层权重调整模块、网络突触权重调整模块；
所述网络构建模块，配置为构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；
所述膜电位更新模块，配置为基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
所述网络层权重调整模块，配置为以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
所述网络突触权重调整模块，配置为基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
需要说明的是，上述实施例提供的基于膜电位调控脉冲神经网络的图像分类系统，仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称，仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
本发明第三实施例的一种存储装置，其中存储有多条程序，所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
本发明第四实施例的一种处理装置，包括处理器、存储装置；处理器，适于执行各条程序；存储装置，适于存储多条程序；所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
本领域技术人员应该能够意识到，结合本文中所公开的实施例描述的各示例的模块、方法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，软件模块、方法步骤对应的程序可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
术语“第一”、“第二”等是用于区别类似的对象，而不是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
至此，已经结合附图所示的优选实施方式描述了本发明的技术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域技术人员可以对相关技术特征作出等同的更改或替换，这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
Claims (9)
1.一种基于膜电位调控脉冲神经网络的图像分类方法，其特征在于，该图像分类方法包括：
步骤S10，获取分类任务图像作为待处理图像；
步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
步骤S30，输出待处理图像的类别；
其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触；
步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
2.根据权利要求1所述的基于膜电位调控脉冲神经网络的图像分类方法，其特征在于，所述积分-放电单元为HH神经元、LIF神经元、Izhikevich神经元中的一种。
3.根据权利要求1所述的基于膜电位调控脉冲神经网络的图像分类方法，其特征在于，步骤B20中“基于膜电位改变和输入电流达到平衡，进行膜电位信息更新”，其方法为：
其中，Ei代表前后时刻神经元膜电位的更新能量值，Vi代表当前时刻的神经元膜电位，wi,j代表突触前神经元j和突触后神经元i的突触权值，Vth,i代表突触后神经元i的放电阈值，j为突触前神经元的标号，N代表突触前神经元的数目。
4.根据权利要求1所述的基于膜电位调控脉冲神经网络的图像分类方法，其特征在于，步骤B30中“以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整”，其方法为：
其中，C代表输出膜电势和标准膜电势的差，Vi代表输出膜电势的数值，VT代表期望的标准膜电势的数值，i为神经元的位置索引，N代表神经元的数目。
5.根据权利要求1所述的基于膜电位调控脉冲神经网络的图像分类方法，其特征在于，步骤B40中“基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值”，其方法为：
其中，Δwj代表突触更新的数值，A+代表STDP的正向比例因子，A-代表STDP的负向比例因子，Δti代表神经元前后放电的时间差，τ+代表STDP的正向漏电时间常数，τ-代表STDP的负向漏电时间常数。
6.一种基于膜电位调控脉冲神经网络的图像分类系统，其特征在于，该图像分类系统包括输入模块、图像分类模块、输出模块；
所述输入模块，配置为获取分类任务图像作为待处理图像并输入；
所述图像分类模块，配置为基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
所述输出模块，配置为输出待处理图像的类别。
7.根据权利要求6所述的基于膜电位调控脉冲神经网络的图像分类系统，其特征在于，所述图像分类模块包括网络构建模块、膜电位更新模块、网络层权重调整模块、网络突触权重调整模块；
所述网络构建模块，配置为构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；
所述膜电位更新模块，配置为基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
所述网络层权重调整模块，配置为以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
所述网络突触权重调整模块，配置为基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
8.一种存储装置，其中存储有多条程序，其特征在于，所述程序适于由处理器加载并执行以实现权利要求1-5任一项所述的基于膜电位调控脉冲神经网络的图像分类方法。
9.一种处理装置，包括
处理器，适于执行各条程序；以及
存储装置，适于存储多条程序；
其特征在于，所述程序适于由处理器加载并执行以实现：
权利要求1-5任一项所述的基于膜电位调控脉冲神经网络的图像分类方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014227.0A CN110826602B (zh) | 2019-10-23 | 2019-10-23 | 基于膜电位调控脉冲神经网络的图像分类方法、系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014227.0A CN110826602B (zh) | 2019-10-23 | 2019-10-23 | 基于膜电位调控脉冲神经网络的图像分类方法、系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110826602A true CN110826602A (zh) | 2020-02-21 |
| CN110826602B CN110826602B (zh) | 2022-04-26 |
Family
ID=69550358
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911014227.0A Active CN110826602B (zh) | 2019-10-23 | 2019-10-23 | 基于膜电位调控脉冲神经网络的图像分类方法、系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110826602B (zh) |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111401430A (zh) * | 2020-03-12 | 2020-07-10 | 四川大学 | 一种基于双通道深度神经网络的图像在线分类方法 |
| CN111723726A (zh) * | 2020-06-17 | 2020-09-29 | 苏州大学 | 一种脉冲神经膜系统干燥剂包装袋识别模型的识别方法 |
| CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| CN112288078A (zh) * | 2020-11-10 | 2021-01-29 | 北京理工大学 | 一种基于脉冲神经网络的自学习、小样本学习和迁移学习的方法与系统 |
| CN112757290A (zh) * | 2020-12-12 | 2021-05-07 | 天津大学 | 基于fpga的机械臂控制方法 |
| CN112906828A (zh) * | 2021-04-08 | 2021-06-04 | 周士博 | 一种基于时域编码和脉冲神经网络的图像分类方法 |
| CN113269264A (zh) * | 2021-06-04 | 2021-08-17 | 北京灵汐科技有限公司 | 目标识别方法、电子设备和计算机可读介质 |
| WO2022063202A1 (zh) * | 2020-09-25 | 2022-03-31 | 北京灵汐科技有限公司 | 文本分类方法、装置、设备及存储介质 |
| WO2022148272A1 (zh) * | 2021-01-07 | 2022-07-14 | 北京灵汐科技有限公司 | 脉冲神经网络训练方法、数据处理方法、电子设备和介质 |
| WO2022247792A1 (zh) * | 2021-05-24 | 2022-12-01 | 北京灵汐科技有限公司 | 神经元的膜电位更新方法、类脑神经元器件、处理核 |
| CN116542291A (zh) * | 2023-06-27 | 2023-08-04 | 北京航空航天大学 | 一种记忆环路启发的脉冲记忆图像生成方法和系统 |
| CN114092763B (zh) * | 2021-11-22 | 2023-08-25 | 南京铁道职业技术学院 | 一种脉冲神经网络模型构建方法 |
| US11954579B2 (en) | 2021-06-04 | 2024-04-09 | Lynxi Technologies Co., Ltd. | Synaptic weight training method, target identification method, electronic device and medium |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105404902A (zh) * | 2015-10-27 | 2016-03-16 | 清华大学 | 基于脉冲神经网络的图像特征描述和记忆方法 |
| US20160224890A1 (en) * | 2010-09-30 | 2016-08-04 | International Business Machines Corporation | Producing spike-timing dependent plasticity in a neuromorphic network utilizing phase change synaptic devices |
| CN106875003A (zh) * | 2017-01-20 | 2017-06-20 | 清华大学 | 自适应泄漏值神经元信息处理方法和系统 |
| CN108304767A (zh) * | 2017-12-12 | 2018-07-20 | 中国科学院自动化研究所 | 基于多脑区协同计算的人类动作意图识别训练方法 |
| CN108875846A (zh) * | 2018-05-08 | 2018-11-23 | 河海大学常州校区 | 一种基于改进的脉冲神经网络的手写数字识别方法 |
| CN110210563A (zh) * | 2019-06-04 | 2019-09-06 | 北京大学 | 基于Spike cube SNN的图像脉冲数据时空信息学习及识别方法 |
-
2019
- 2019-10-23 CN CN201911014227.0A patent/CN110826602B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20160224890A1 (en) * | 2010-09-30 | 2016-08-04 | International Business Machines Corporation | Producing spike-timing dependent plasticity in a neuromorphic network utilizing phase change synaptic devices |
| CN105404902A (zh) * | 2015-10-27 | 2016-03-16 | 清华大学 | 基于脉冲神经网络的图像特征描述和记忆方法 |
| CN106875003A (zh) * | 2017-01-20 | 2017-06-20 | 清华大学 | 自适应泄漏值神经元信息处理方法和系统 |
| CN108304767A (zh) * | 2017-12-12 | 2018-07-20 | 中国科学院自动化研究所 | 基于多脑区协同计算的人类动作意图识别训练方法 |
| CN108875846A (zh) * | 2018-05-08 | 2018-11-23 | 河海大学常州校区 | 一种基于改进的脉冲神经网络的手写数字识别方法 |
| CN110210563A (zh) * | 2019-06-04 | 2019-09-06 | 北京大学 | 基于Spike cube SNN的图像脉冲数据时空信息学习及识别方法 |
Non-Patent Citations (3)
| Title |
|---|
| CHANKYU LEE 等: "Deep Spiking Convolutional Neural Network Trained With Unsupervised Spike-Timing-Dependent Plasticity", 《IEEE》 * |
| YI ZENG 等: "Improving multi-layer spiking neural networks by incorporating brain-inspired rules", 《SCIENCE CHINA》 * |
| 徐彦 等: "脉冲神经元脉冲序列学习方法综述", 《计算机应用》 * |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111401430A (zh) * | 2020-03-12 | 2020-07-10 | 四川大学 | 一种基于双通道深度神经网络的图像在线分类方法 |
| CN111401430B (zh) * | 2020-03-12 | 2022-04-01 | 四川大学 | 一种基于双通道深度神经网络的图像在线分类方法 |
| CN111723726A (zh) * | 2020-06-17 | 2020-09-29 | 苏州大学 | 一种脉冲神经膜系统干燥剂包装袋识别模型的识别方法 |
| CN111723726B (zh) * | 2020-06-17 | 2023-09-19 | 苏州大学 | 一种脉冲神经膜系统干燥剂包装袋识别模型的识别方法 |
| CN112116010A (zh) * | 2020-09-21 | 2020-12-22 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| CN112116010B (zh) * | 2020-09-21 | 2023-12-12 | 中国科学院自动化研究所 | 基于膜电势预处理的ann-snn转换的分类方法 |
| WO2022063202A1 (zh) * | 2020-09-25 | 2022-03-31 | 北京灵汐科技有限公司 | 文本分类方法、装置、设备及存储介质 |
| CN112288078B (zh) * | 2020-11-10 | 2023-05-26 | 北京理工大学 | 一种基于脉冲神经网络的自学习、小样本学习和迁移学习的方法与系统 |
| CN112288078A (zh) * | 2020-11-10 | 2021-01-29 | 北京理工大学 | 一种基于脉冲神经网络的自学习、小样本学习和迁移学习的方法与系统 |
| CN112757290A (zh) * | 2020-12-12 | 2021-05-07 | 天津大学 | 基于fpga的机械臂控制方法 |
| WO2022148272A1 (zh) * | 2021-01-07 | 2022-07-14 | 北京灵汐科技有限公司 | 脉冲神经网络训练方法、数据处理方法、电子设备和介质 |
| US11941526B2 (en) | 2021-01-07 | 2024-03-26 | Lynxi Technologies Co., Ltd. | Methods, electronic devices, and computer-readable media for training, and processing data through, a spiking neuron network |
| CN112906828A (zh) * | 2021-04-08 | 2021-06-04 | 周士博 | 一种基于时域编码和脉冲神经网络的图像分类方法 |
| WO2022247792A1 (zh) * | 2021-05-24 | 2022-12-01 | 北京灵汐科技有限公司 | 神经元的膜电位更新方法、类脑神经元器件、处理核 |
| CN113269264A (zh) * | 2021-06-04 | 2021-08-17 | 北京灵汐科技有限公司 | 目标识别方法、电子设备和计算机可读介质 |
| US11954579B2 (en) | 2021-06-04 | 2024-04-09 | Lynxi Technologies Co., Ltd. | Synaptic weight training method, target identification method, electronic device and medium |
| CN114092763B (zh) * | 2021-11-22 | 2023-08-25 | 南京铁道职业技术学院 | 一种脉冲神经网络模型构建方法 |
| CN116542291A (zh) * | 2023-06-27 | 2023-08-04 | 北京航空航天大学 | 一种记忆环路启发的脉冲记忆图像生成方法和系统 |
| CN116542291B (zh) * | 2023-06-27 | 2023-11-21 | 北京航空航天大学 | 一种记忆环路启发的脉冲记忆图像生成方法和系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110826602B (zh) | 2022-04-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110826602B (zh) | 基于膜电位调控脉冲神经网络的图像分类方法、系统 | |
| Jang et al. | Learning what and where to transfer | |
| CN110675623B (zh) | 基于混合深度学习的短时交通流量预测方法、系统、装置 | |
| Mohemmed et al. | Training spiking neural networks to associate spatio-temporal input–output spike patterns | |
| CN106104577B (zh) | 照片管理 | |
| CN106575377B (zh) | 共同特征上的分类器更新 | |
| CN110826437A (zh) | 基于生物神经网络的智能机器人控制方法、系统、装置 | |
| CN113469334B (zh) | 一种忆阻递归神经网络电路 | |
| Mohemmed et al. | Method for training a spiking neuron to associate input-output spike trains | |
| Stewart et al. | On-chip few-shot learning with surrogate gradient descent on a neuromorphic processor | |
| Danilin et al. | Determining the fault tolerance of memristorsbased neural network using simulation and design of experiments | |
| Fatahi et al. | Towards an spiking deep belief network for face recognition application | |
| Shi et al. | Exploiting memristors for neuromorphic reinforcement learning | |
| Zhang et al. | Long short-term memory with two-compartment spiking neuron | |
| Mohemmed et al. | SPAN: A neuron for precise-time spike pattern association | |
| N'dri et al. | Predictive coding light: learning compact visual codes by combining excitatory and inhibitory spike timing-dependent plasticity | |
| JPH07141313A (ja) | 神経回路素子 | |
| Marquez et al. | Online machine learning based predictor for biological systems | |
| CN111582461B (zh) | 神经网络训练方法、装置、终端设备和可读存储介质 | |
| Rasetto et al. | The Challenges Ahead for Bio-inspired Neuromorphic Event Processors: How Memristors Dynamic Properties Could Revolutionize Machine Learning | |
| Lin et al. | Prediction of Chaotic Time Series and Resolution of Embedding Dynamics with the ATNN | |
| Ramirez-Mendoza et al. | A novel fuzzy system with adaptive neurons for earthquake modeling | |
| Ünal et al. | Artificial neural networks | |
| Weng | A general purpose brain model for developmental robots: The spatial brain for any temporal lengths | |
| CN112433028B (zh) | 基于忆阻细胞神经网络的电子鼻气体分类方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |