CN108985252B - 改进的脉冲深度神经网络的图像分类方法 - Google Patents
改进的脉冲深度神经网络的图像分类方法 Download PDFInfo
- Publication number
- CN108985252B CN108985252B CN201810846910.XA CN201810846910A CN108985252B CN 108985252 B CN108985252 B CN 108985252B CN 201810846910 A CN201810846910 A CN 201810846910A CN 108985252 B CN108985252 B CN 108985252B
- Authority
- CN
- China
- Prior art keywords
- image
- layer
- neural network
- pulse
- convolutional layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 105
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000012549 training Methods 0.000 claims abstract description 45
- 239000011159 matrix material Substances 0.000 claims abstract description 33
- 230000008878 coupling Effects 0.000 claims abstract description 28
- 238000010168 coupling process Methods 0.000 claims abstract description 28
- 238000005859 coupling reaction Methods 0.000 claims abstract description 28
- 230000008569 process Effects 0.000 claims abstract description 28
- 230000007246 mechanism Effects 0.000 claims abstract description 25
- 230000004048 modification Effects 0.000 claims abstract description 9
- 238000012986 modification Methods 0.000 claims abstract description 9
- 238000011176 pooling Methods 0.000 claims description 63
- 210000002569 neuron Anatomy 0.000 claims description 41
- 238000012360 testing method Methods 0.000 claims description 28
- 238000000605 extraction Methods 0.000 claims description 22
- 230000000694 effects Effects 0.000 claims description 20
- 230000001242 postsynaptic effect Effects 0.000 claims description 20
- 210000005215 presynaptic neuron Anatomy 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 17
- 230000004913 activation Effects 0.000 claims description 15
- 230000006870 function Effects 0.000 claims description 14
- 238000010606 normalization Methods 0.000 claims description 14
- 238000007781 pre-processing Methods 0.000 claims description 13
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 8
- 238000011423 initialization method Methods 0.000 claims description 7
- 230000000644 propagated effect Effects 0.000 claims description 6
- 230000003321 amplification Effects 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 5
- 230000017105 transposition Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 claims description 4
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 claims description 2
- 238000001514 detection method Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 2
- 238000005265 energy consumption Methods 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/08—Detecting or categorising vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Biomedical Technology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
一种改进的脉冲深度神经网络的图像分类方法，采用了DOG层和简化脉冲耦合神经网络对图像进行预处理，灰度图像经过DOG层生成对比度图，简化的脉冲耦合神经网络通过参数自适应的方法处理DOG层生成的对比度图，根据生成的对比度图像具体内容的不同，按照像素值越大，点火时间越早的原则，生成不同通道数的脉冲图像，即时间序列脉冲图。改进的脉冲深度神经网络采用STDP无监督算法训练网络。用STDP权重修改机制更新卷积层的权重矩阵，直至达到当前卷积层的最大迭代次数，进入下一个卷积层重复训练过程，得到训练好的脉冲深度神经网络。本发明具有更贴近生物特性，且方法简单、有效等优点，适用于手写数字、人脸和其他物体等图像识别。
Description
技术领域
本发明属于图像处理及模式识别技术领域，具体地涉及到对图像进行分类。
背景技术
图像物体分类与检测是计算机视觉研究中的两个重要的基本问题，是图像分割、物体跟踪、行为分析等其他高层视觉任务的基础，同时也是计算机视觉、模式识别与机器学习领域非常活跃的研究方向。物体分类与检测在很多领域得到广泛应用，包括安防领域的人脸识别、行人检测、智能视频分析、行人跟踪等，交通领域的交通场景物体识别、车辆计数、逆行检测、车牌检测与识别，以及互联网领域的基于内容的图像检索、相册自动归类等。
近年来用于图像分类的神经网络有很多，如DCNN、SNN、SDNN等，但他们都有各自的缺点，DCNN虽然在图像识别任务中表现出良好的性能，但DCNN的计算单元通过浮点值来代表神经元的激活水平，而生物通过发送电脉冲进行通信，不符合生物特性且DCNN的反向传播算法没有生物根源；SNN不可避免的缺点是每张图像都需要很多个脉冲且处理的时间较长；SDNN虽然符合生物特性但它不能根据图像的不同产生不同数量的时间通道。
在图像分类技术领域，当前需迫切解决的技术问题是提供一种符合生物特性的、能耗低的、高效率的一种改进脉冲深度神经网络的图像分类方法。
发明内容
本发明所要解决的技术问题在于克服现有技术的缺点，提供一种准确率高、能耗低的、高效率的一种改进脉冲深度神经网络的图像分类方法。
解决上述技术问题所采用的技术方案是：一种改进的脉冲深度神经网络的图像分类方法，由下述步骤组成：
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理，具体步骤如下：
(a)将图像归一化至160像素×250像素并进行灰度化；
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器，s1和s2为高斯滤波器的标准差，x为一个n×n的矩阵，其中每一行元素为1～n按顺序排列的数字，0＜n＜图像行数和列数中的最小值，y为x矩阵的转置，size为DOG层高斯滤波器像素级别的大小；
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img
式中imgij为图像img第i行第j列的像素值，filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值，
为灰度图像Image第
行、第
列的像素值；
(d)对步骤(c)生成的对比度图像进行阈值提取得到单通道对比度图像并归一化处理
式(3)中img1ij为单通道对比度图像第i行第j列的像素值，式(4)将单通道对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的对比度图像，img1max、img1min分别为阈值提取后的对比度图像中像素的最大值和最小值，img1'为经过归一化处理的阈值提取后的图像；
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为：
式(5)中Uij[t]为t时刻神经元ij的内部活动值,af内部活动值的衰减时间常数，Uij[t-1]为t-1时刻神经元ij的内部活动值，img1ij'为外部激励值即图像img1'第i行第j列的像素值，β为内部活动项的连接系数，VL为耦合连接域的放大系数，Wijkl为耦合连接域的连接矩阵，Ykl[t-1]为t-1时刻神经元kl的输出脉冲；式(6)Yij[t]为t时刻神经元ij的输出脉冲，Eij[t-1]为t-1时刻神经元ij的阈值；式(7)中Eij[t]为t时刻神经元ij的阈值，Eij[t-1]为t-1时刻神经元ij的阈值，VE和ae分别为阈值E的放大系数和衰减时间常数；
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为：输入层(1)是400张大小为160像素×250像素的训练样本图像，输入层(1)后连接DOG层(2)生成二维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成三维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有4个特征图的卷积层(4)，含有4个特征图的卷积层(4)后连接含有4个特征图的池化层(5)，含有4个特征图的池化层(5)后接含有20个特征图的卷积层(4)，含有20个特征图的卷积层(4)后连接含有20个特征图的池化层(5)，含有20个特征图的池化层(5)后连接含有10个特征图的卷积层(4)，含有10个特征图的卷积层(4)后连接含有10个特征图的全局最大池化层(6)；
(3)引入激活函数
在每个卷积层(4)后引入激活函数为：
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积，即卷积结果，yr为第r个特征图的输出，0≤r≤20，th为卷积层(4)的阈值；
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法或均值池化方法或随机池化方法进行池化；
(5)训练脉冲深度神经网络，具体步骤为：
A1：用均值为0.8，标准差为0.01的正态分布初始化方法分别生成4个、20个、10个权重矩阵；
A2：将400张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第三个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直至达到第三个卷积层(4)的迭代次数，至此训练过程结束，得到训练好的脉冲深度神经网络；
(6)对测试样本图像进行识别
将396张测试样本图像输入到训练好的脉冲深度神经网络中，对每张经过最后一个卷积层(4)得到的10张特征图进行最大池化操作，最终得到10×396的特征向量进入分类器得到分类结果。
作为一种优选的技术方案，所述的步骤(1)的步骤(a)中将图像归一化至28像素×28像素并进行灰度化；所述的步骤(1)的步骤(d)中将步骤(c)生成的对比度图像进行阈值提取得到具有两个通道的对比度图像并归一化处理
式(9)中img1(:,:,1)为第一通道对比度图像，式(10)中img1(:,:,2)为第二通道对比度图像，式(11)将具有两个通道的对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的图像，img1max，img1min分别为阈值提取后的图像中像素的最大值和最小值，图像img1'为经过归一化处理的阈值提取后的图像；
所述的步骤(2)中设定脉冲深度神经网络结构：输入层(1)是5000张大小为28像素×28像素的训练样本图像，输入层(1)后连接DOG层(2)生成三维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成四维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有30个特征图的卷积层(4)，含有30个特征图的卷积层(4)后连接含有30个特征图的池化层(5)，含有30个特征图的池化层(5)后接含有100个特征图的卷积层(4)，含有100个特征图的卷积层(4)后连接含有100个特征图的全局最大池化层(6)；
所述的步骤(3)中0＜r＜100；
所述的步骤(5)的步骤A1中用均值为0.8，标准差为0.01的正态分布初始化方法分别生成30个、100个权重矩阵；步骤A2中将5000张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数，至此训练过程结束，得到训练好的脉冲深度神经网络；
所述的步骤(6)中将10000张测试样本图像输入到训练好的脉冲深度神经网络中，对每张经过最后一个卷积层(4)得到的100张特征图进行最大池化操作，最终得到10×10000的特征向量进入分类器得到分类结果。
作为一种优选的技术方案，所述的步骤(1)的步骤(e)中简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为：
式中μ为图像img1'的像素值均值，N,M分别为图像img1'的行数和列数，xij为图像img1'中第i行第j列像素的像素值；
式中Smax为图像img1'中最大的像素值，w0为前景点数占图像点数的比例，u0为前景的平均灰度，w1背景点数占图像点数的比例，u1为背景的平均灰度，α为常系数；
VE＝e-af+1+6βVL (14)
作为一种优选的技术方案，所述的步骤(5)中STDP权重更新机制如下：
式中g和h分别表示突触后神经元和突触前神经元，tg和th分别对应突触后神经元和突触前神经元的脉冲时间，Δwgh为连接突触后神经元g和突触前神经元h权重的修改值，a+和a-为学习率，wgh为连接突触后神经元g和突触前神经元h的权重；
作为一种优选的技术方案，所述的常系数α为1～1.8,ae的取值如下：
式中int()为向下取整。
作为一种优选的技术方案，所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、17×17、5×5，池化层(5)滤波器像素级的大小分别为7×7和2×2，步长分别为6和2；所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为10、60、2。
作为一种优选的技术方案，所述的步骤(5)中脉冲深度神经网络中卷积层(4)的迭代次数分别为2000、4000、4000。
作为一种优选的技术方案，所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、5×5，池化层(5)滤波器像素级的大小为2×2，步长为2；所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为15和10。
作为一种优选的技术方案，所述的步骤(5)中，脉冲深度神经网络中卷积层(4)的迭代次数分别为3000和6000。
作为一种优选的技术方案，学习率a+在卷积层(4)中的值分别为0.004,0.0004和0.0004，学习率a-在卷积层(4)中的值分别为0.003，0.0003和0.0003。
本发明的有益效果如下：
本发明使用无监督的脉冲深度神经网络进行图像分类，采用了DOG层和简化脉冲耦合神经网络对图像进行预处理，将彩色图像灰度化，得到固定大小的原图像的灰度图。生成DOG层的高斯滤波器与灰度图做关联操作，经过处理后生成的二维或三维边缘图进入简化的脉冲耦合神经网络，生成时间序列脉冲图；并采用STDP无监督算法训练网络，用STDP权重修改机制更新卷积层的权重矩阵，直至达到当前卷积层的最大迭代次数，进入下一个卷积层重复训练过程，得到训练好的脉冲深度神经网络。本发明提出的改进的脉冲深度神经网络的图像分类方法，具有更贴近生物特性，且方法简单、有效等优点，适用于手写数字、人脸和其他物体等图像识别。
附图说明
图1是本发明的流程图。
图2是实施例1的脉冲深度神经网络结构示意图。
图3是实施例2的脉冲深度神经网络结构示意图。
具体实施方式
下面结合附图和实施例对本发明进一步详细说明，但本发明不限于下述的实施方式。
实施例1
本实施例的图像来自Caltech 101数据集，数据集包含101类，共8677张图像，我们选取其中的人脸和摩托车两类，每类选取200张图像做训练集，每类198张做测试集。在图1、2中，改进的脉冲深度神经网络的图像分类方法，由以下步骤组成：
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理，具体步骤如下：
(a)从图像数据集中选取一张图像归一化至160像素×250像素并进行灰度化；
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器，s1和s2为高斯滤波器的标准差，取值分别为1和2，x为一个7×7的矩阵，其中每一行元素为1～7按顺序排列的数字，y为x矩阵的转置，size为DOG层高斯滤波器像素级别的大小，值为7；
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img
式中imgij为图像img第i行第j列的像素值，filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值，
为灰度图像Image第
行、第
列的像素值；
(d)对步骤(c)生成的对比度图像进行阈值提取得到单通道对比度图像并归一化处理
式(3)中img1ij为单通道对比度图像第i行第j列的像素值，式(4)将单通道对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的对比度图像，img1max、img1min分别为阈值提取后的对比度图像中像素的最大值和最小值，img1'为经过归一化处理的阈值提取后的图像；
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为：
式(5)中Uij[t]为t时刻神经元ij的内部活动值,af内部活动值的衰减时间常数，Uij[t-1]为t-1时刻神经元ij的内部活动值，img1ij'为外部激励值即图像img1'第i行第j列的像素值，β为内部活动项的连接系数，VL为耦合连接域的放大系数，Wijkl为耦合连接域的连接矩阵，Ykl[t-1]为t-1时刻神经元kl的输出脉冲；式(6)Yij[t]为t时刻神经元ij的输出脉冲，Eij[t-1]为t-1时刻神经元ij的阈值；式(7)中Eij[t]为t时刻神经元ij的阈值，Eij[t-1]为t-1时刻神经元ij的阈值，VE和ae分别为阈值E的放大系数和衰减时间常数；
上述简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为：
式中μ为图像img1'的像素值均值，N,M分别为图像img1'的行数和列数，取值分别为160和250，xij为图像img1'中第i行第j列像素的像素值；
式中Smax为图像img1中最大的像素值，w0为前景点数占图像点数的比例，u0为前景的平均灰度，w1背景点数占图像点数的比例，u1为背景的平均灰度，α为常系数，取值为1.8；
VE＝e-af+1+6βVL (10)
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为：输入层(1)是400张大小为160像素×250像素的训练样本图像，输入层(1)后连接DOG层(2)生成二维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成三维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有4个特征图的卷积层(4)，含有4个特征图的卷积层(4)后连接含有4个特征图的池化层(5)，含有4个特征图的池化层(5)后接含有20个特征图的卷积层(4)，含有20个特征图的卷积层(4)后连接含有20个特征图的池化层(5)，含有20个特征图的池化层(5)后连接含有10个特征图的卷积层(4)，含有10个特征图的卷积层(4)后连接含有10个特征图的全局最大池化层(6)，卷积层(4)滤波器的像素级大小分别为5×5、17×17和5×5，滤波器个数分别为4、20、10；池化层(5)滤波器像素级的大小分别为7×7和2×2，步长分别为6和2；
(3)引入激活函数
在每个卷积层(4)后引入激活函数为：
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积，即卷积结果，yr为第r个特征图的输出，0≤r≤20，th为卷积层(4)的阈值，值分别为10、60、2；
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法进行池化；
(6)训练脉冲深度神经网络，具体步骤为：
A1：用均值为0.8，标准差为0.01的正态分布初始化方法分别生成4个、20个、10个权重矩阵；
A2：将400张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数2000；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数4000；取出下一张训练图像经过前向传播通过第三个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直至达到第三个卷积层(4)的迭代次数4000，至此训练过程结束，得到训练好的脉冲深度神经网络；
上述STDP权重更新机制如下：
式中g和h分别表示突触后神经元和突触前神经元，tg和th分别对应突触后神经元和突触前神经元的脉冲时间，Δwgh为连接突触后神经元g和突触前神经元h权重的修改值，a+为学习率，取值为0.004、0.0004、0.0004，a-为学习率，取值为0.003、0.0003、0.0003，wgh为连接突触后神经元g和突触前神经元h的权重；
(6)对测试样本图像进行识别
取出一张测试图进行预处理，将预处理后的张测试样本图像输入到训练好的脉冲深度神经网络中，对经过最后一个卷积层(4)得到的10张特征图进行最大池化操作，396张测试图，每张测试图取得10张特征图，得到的特征图组成10×396的向量矩阵进入SVM分类器，识别正确率为94.4％。
实施例2
本实施例的图像来自MNIST数据集，数据集包含10类为手写数字0～9，共70000张图像，训练集60000张，测试集10000张。我们从训练集中每类随机选取500张图像做训练集，共5000张，全部的测试图像做测试集，在图2中，本实施的改进的脉冲深度神经网络的图像分类方法，由以下步骤组成：
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理，具体步骤如下：
(a)从图像数据集中选取一张图像归一化至28像素×28像素并进行灰度化；
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器，s1和s2为高斯滤波器的标准差，取值分别为1和2，x为一个7×7的矩阵，其中每一行元素为1～7按顺序排列的数字，y为x矩阵的转置，size为DOG层高斯滤波器像素级别的大小，值为7；
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img
式中imgij为图像img第i行第j列的像素值，filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值，
为灰度图像Image第
行、第
列的像素值；
(d)将步骤(c)生成的对比度图像阈值提取得到具有两个通道的对比度图像并归一化处理
式(3)中img1(:,:,1)为第一通道对比度图像，式(4)中img1(:,:,2)为第二通道对比度图像，式(5)将具有两个通道的对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的图像，img1max，img1min分别为阈值提取后的图像中像素的最大值和最小值，图像img1'为经过归一化处理的阈值提取后的图像；
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为：
式(6)中Uij[t]为t时刻神经元ij的内部活动值,af内部活动值的衰减时间常数，Uij[t-1]为t-1时刻神经元ij的内部活动值，img1ij'为外部激励值即图像img1'第i行第j列的像素值，β为内部活动项的连接系数，VL为耦合连接域的放大系数，Wijkl为耦合连接域的连接矩阵，Ykl[t-1]为t-1时刻神经元kl的输出脉冲；式(7)Yij[t]为t时刻神经元ij的输出脉冲，Eij[t-1]为t-1时刻神经元ij的阈值；式(8)中Eij[t]为t时刻神经元ij的阈值，Eij[t-1]为t-1时刻神经元ij的阈值，VE和ae分别为阈值E的放大系数和衰减时间常数；
上述简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为：
式中μ为图像img1'的像素值均值，N，M分别为图像img1'的行数和列数，取值分别为28和28，xij为图像img1'中第i行第j列像素的像素值；
式中Smax为图像img1'中最大的像素值，w0为前景点数占图像点数的比例，u0为前景的平均灰度，w1背景点数占图像点数的比例，u1为背景的平均灰度，α为常系数，取值为1.2；
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为：输入层(1)是400张大小为28像素×28像素的训练样本图像，输入层(1)后连接DOG层(2)生成三维对比度图，DOG层(2)后连接SPCNN层(3)生成四维的时间序列脉冲图像，SPCNN层(3)后连接含有30个特征图的卷积层(4)，含有30个特征图的卷积层(4)后连接含有30个特征图的池化层(5)，含有30个特征图的池化层(5)后接含有100个特征图的卷积层(4)，含有100个特征图的卷积层(4)后连接含有100个特征图的全局最大池化层(6)，卷积层(4)滤波器的像素级大小分别为5×5、5×5，滤波器个数分别为30、100；池化层(5)滤波器像素级的大小为2×2，步长为2；
(3)引入激活函数
在每个卷积层(4)后引入激活函数为：
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积，即卷积结果，yr为第r个特征图的输出，0≤r≤100，th为卷积层(4)的阈值，分别为15、10；
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法进行池化；
(7)训练脉冲深度神经网络，具体步骤为：
A1：用均值为0.8，标准差为0.01的正态分布初始化方法分别生成30个、100个权重矩阵；
A2：将5000张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数3000；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数6000，至此训练过程结束，得到训练好的脉冲深度神经网络；
上述STDP权重更新机制如下：
式中g和h分别表示突触后神经元和突触前神经元，tg和th分别对应突触后神经元和突触前神经元的脉冲时间，Δwgh为连接突触后神经元g和突触前神经元h权重的修改值，a+为学习率，取值为0.004、0.0004、0.0004，a-为学习率，取值为0.003、0.0003、0.0003，wgh为连接突触后神经元g和突触前神经元h的权重；
(6)对测试样本图像进行识别
取出一张测试图进行预处理，将预处理后的张测试样本图像输入到训练好的脉冲深度神经网络中，对经过最后一个卷积层(4)得到的100张特征图进行最大池化操作，10000张测试图，每张测试图取得100张特征图，得到的特征图组成100×10000的向量矩阵进入SVM分类器，识别正确率为89.9％。
实施例3
本实施例的图像来自Caltech 101数据集，数据集包含101类，共8677张图像，我们选取其中的飞机和摩托车两类，每类选取200张图像做训练集，每类198张做测试集。改进的脉冲深度神经网络的图像分类方法，由以下步骤组成：
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理，具体步骤如下：
(a)从图像数据集中选取一张图像归一化至160像素×250像素并进行灰度化；
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器，s1和s2为高斯滤波器的标准差，取值分别为1和2，x为一个7×7的矩阵，其中每一行元素为1～7按顺序排列的数字，y为x矩阵的转置，size为DOG层高斯滤波器像素级别的大小，值为7；
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img
式中imgij为图像img第i行第j列的像素值，filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值，
为灰度图像Image第
行、第
列的像素值；
(d)对步骤(c)生成的对比度图像进行阈值提取得到单通道对比度图像并归一化处理
式(3)中img1ij为单通道对比度图像第i行第j列的像素值，式(4)将单通道对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的对比度图像，img1max、img1min分别为阈值提取后的对比度图像中像素的最大值和最小值，img1'为经过归一化处理的阈值提取后的图像；
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为：
式(5)中Uij[t]为t时刻神经元ij的内部活动值,af内部活动值的衰减时间常数，Uij[t-1]为t-1时刻神经元ij的内部活动值，img1ij'为外部激励值即图像img1'第i行第j列的像素值，β为内部活动项的连接系数，VL为耦合连接域的放大系数，Wijkl为耦合连接域的连接矩阵，Ykl[t-1]为t-1时刻神经元kl的输出脉冲；式(6)Yij[t]为t时刻神经元ij的输出脉冲，Eij[t-1]为t-1时刻神经元ij的阈值；式(7)中Eij[t]为t时刻神经元ij的阈值，Eij[t-1]为t-1时刻神经元ij的阈值，VE和ae分别为阈值E的放大系数和衰减时间常数；
上述简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为：
式中μ为图像img1'的像素值均值，N，M分别为图像img1'的行数和列数，取值分别为160和250，xij为图像img1'中第i行第j列像素的像素值；
式中Smax为图像img1'中最大的像素值，w0为前景点数占图像点数的比例，u0为前景的平均灰度，w1背景点数占图像点数的比例，u1为背景的平均灰度，α为常系数，取值为1；
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为：输入层(1)是400张大小为160像素×250像素的训练样本图像，输入层(1)后连接DOG层(2)生成二维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成三维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有4个特征图的卷积层(4)，含有4个特征图的卷积层(4)后连接含有4个特征图的池化层(5)，含有4个特征图的池化层(5)后接含有20个特征图的卷积层(4)，含有20个特征图的卷积层(4)后连接含有20个特征图的池化层(5)，含有20个特征图的池化层(5)后连接含有10个特征图的卷积层(4)，含有10个特征图的卷积层(4)后连接含有10个特征图的全局最大池化层(6)，卷积层(4)滤波器的像素级大小分别为5×5、17×17和5×5，滤波器个数分别为4、20、10；池化层(5)滤波器像素级的大小分别为7×7和2×2，步长分别为6和2；
(3)引入激活函数
在每个卷积层(4)后引入激活函数为：
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积，即卷积结果，yr为第r个特征图的输出，0≤r≤20，th为卷积层(4)的阈值，分别为10、60、2；
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法进行池化；
(8)训练脉冲深度神经网络，具体步骤为：
A1：用均值为0.8，标准差为0.01的正态分布初始化方法分别生成4个、20个、10个权重矩阵；
A2：将400张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数2000；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数4000；取出下一张训练图像经过前向传播通过第三个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直至达到第三个卷积层(4)的迭代次数4000，至此训练过程结束，得到训练好的脉冲深度神经网络；
上述STDP权重更新机制如下：
式中g和h分别表示突触后神经元和突触前神经元，tg和th分别对应突触后神经元和突触前神经元的脉冲时间，Δwgh为连接突触后神经元g和突触前神经元h权重的修改值，a+为学习率，取值为0.004、0.0004、0.0004，a-为学习率，取值为0.003、0.0003、0.0003，wgh为连接突触后神经元g和突触前神经元h的权重；
(6)对测试样本图像进行识别
取出一张测试图进行预处理，将预处理后的张测试样本图像输入到训练好的脉冲深度神经网络中，对经过最后一个卷积层(4)得到的10张特征图进行最大池化操作，396张测试图，每张测试图取得10张特征图，得到的特征图组成10×396的向量矩阵进入SVM分类器，识别正确率为89.2％。
Claims (10)
1.一种改进的脉冲深度神经网络的图像分类方法，由下述步骤组成：
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理，具体步骤如下：
(a)将图像归一化至160像素×250像素并进行灰度化；
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器，s1和s2为高斯滤波器的标准差，x为一个n×n的矩阵，其中每一行元素为1～n按顺序排列的数字，0＜n＜图像行数和列数中的最小值，y为x矩阵的转置，size为DOG层高斯滤波器像素级别的大小；
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img
式中imgij为图像img第i行第j列的像素值，filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值，
为灰度图像Image第
行、第
列的像素值；
(d)对步骤(c)生成的对比度图像进行阈值提取得到单通道对比度图像并归一化处理
式(3)中img1ij为单通道对比度图像第i行第j列的像素值，式(4)将单通道对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的对比度图像，img1max、img1min分别为阈值提取后的对比度图像中像素的最大值和最小值，img1'为经过归一化处理的阈值提取后的图像；
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为：
式(5)中Uij[t]为t时刻神经元ij的内部活动值，af内部活动值的衰减时间常数，Uij[t-1]为t-1时刻神经元ij的内部活动值，img1ij'为外部激励值即图像img1'第i行第j列的像素值，β为内部活动项的连接系数，VL为耦合连接域的放大系数，Wijkl为耦合连接域的连接矩阵，Ykl[t-1]为t-1时刻神经元kl的输出脉冲；式(6)Yij[t]为t时刻神经元ij的输出脉冲，Eij[t-1]为t-1时刻神经元ij的阈值；式(7)中Eij[t]为t时刻神经元ij的阈值，Eij[t-1]为t-1时刻神经元ij的阈值，VE和ae分别为阈值E的放大系数和衰减时间常数；
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为：输入层(1)是400张大小为160像素×250像素的训练样本图像，输入层(1)后连接DOG层(2)生成二维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成三维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有4个特征图的卷积层(4)，含有4个特征图的卷积层(4)后连接含有4个特征图的池化层(5)，含有4个特征图的池化层(5)后接含有20个特征图的卷积层(4)，含有20个特征图的卷积层(4)后连接含有20个特征图的池化层(5)，含有20个特征图的池化层(5)后连接含有10个特征图的卷积层(4)，含有10个特征图的卷积层(4)后连接含有10个特征图的全局最大池化层(6)；
(3)引入激活函数
在每个卷积层(4)后引入激活函数为：
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积，即卷积结果，yr为第r个特征图的输出，0≤r≤20，th为卷积层(4)的阈值；
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法或均值池化方法或随机池化方法进行池化；
(5)训练脉冲深度神经网络，具体步骤为：
A1：用均值为0.8，标准差为0.01的正态分布初始化方法分别生成4个、20个、10个权重矩阵；
A2：将400张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第三个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直至达到第三个卷积层(4)的迭代次数，至此训练过程结束，得到训练好的脉冲深度神经网络；
(6)对测试样本图像进行识别
将396张测试样本图像输入到训练好的脉冲深度神经网络中，对每张经过最后一个卷积层(4)得到的10张特征图进行最大池化操作，最终得到10×396的特征向量进入分类器得到分类结果。
2.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(1)的步骤(a)中将图像归一化至28像素×28像素并进行灰度化；所述的步骤(1)的步骤(d)中将步骤(c)生成的对比度图像进行阈值提取得到具有两个通道的对比度图像并归一化处理
式(9)中img1(:,:,1)为第一通道对比度图像，式(10)中img1(:,:,2)为第二通道对比度图像，式(11)将具有两个通道的对比度图像的像素范围归一化至0～255之间，式中ymax＝255，ymin＝0，img1为阈值提取后的图像，img1max，img1min分别为阈值提取后的图像中像素的最大值和最小值，图像img1'为经过归一化处理的阈值提取后的图像；
所述的步骤(2)中设定脉冲深度神经网络结构：输入层(1)是5000张大小为28像素×28像素的训练样本图像，输入层(1)后连接DOG层(2)生成三维对比度图，DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成四维的时间序列脉冲图像，简化的脉冲耦合神经网络层(3)后连接含有30个特征图的卷积层(4)，含有30个特征图的卷积层(4)后连接含有30个特征图的池化层(5)，含有30个特征图的池化层(5)后接含有100个特征图的卷积层(4)，含有100个特征图的卷积层(4)后连接含有100个特征图的全局最大池化层(6)；
所述的步骤(3)中0＜r＜100；
所述的步骤(5)的步骤A1中用均值为0.8，标准差为0.01的正态分布初始化方法分别生成30个、100个权重矩阵；步骤A2中将5000张训练样本图像输入脉冲深度神经网络，取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵，权重更新后退出前向传播，取出下一张图像重复以上的过程，直至达到第一个卷积层(4)的迭代次数；取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重，重复这个过程直到达到第二个卷积层(4)的迭代次数，至此训练过程结束，得到训练好的脉冲深度神经网络；
所述的步骤(6)中将10000张测试样本图像输入到训练好的脉冲深度神经网络中，对每张经过最后一个卷积层(4)得到的100张特征图进行最大池化操作，最终得到10×10000的特征向量进入分类器得到分类结果。
3.根据权利要求1或2所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(1)的步骤(e)中简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为：
式中μ为图像img1'的像素值均值，N,M分别为图像img1'的行数和列数，xij为图像img1'中第i行第j列像素的像素值；
式中Smax为图像img1'中最大的像素值，w0为前景点数占图像点数的比例，u0为前景的平均灰度，w1背景点数占图像点数的比例，u1为背景的平均灰度，a为常系数；
VE＝e-af+1+6βVL (14)
4.根据权利要求1或2所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(5)中STDP权重更新机制如下：
式中g和h分别表示突触后神经元和突触前神经元，tg和th分别对应突触后神经元和突触前神经元的脉冲时间，Δwgh为连接突触后神经元g和突触前神经元h权重的修改值，a+和a-为学习率，wgh为连接突触后神经元g和突触前神经元h的权重。
5.根据权利要求3所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的常系数α为1～1.8,ae的取值如下：
式中int()为向下取整。
6.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、17×17、5×5，池化层(5)滤波器像素级的大小分别为7×7和2×2，步长分别为6和2；所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为10、60、2。
7.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(5)中脉冲深度神经网络中卷积层(4)的迭代次数分别为2000、4000、4000。
8.根据权利要求2所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、5×5，池化层(5)滤波器像素级的大小为2×2，步长为2；所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为15和10。
9.根据权利要求2所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：所述的步骤(5)中，脉冲深度神经网络中卷积层(4)的迭代次数分别为3000和6000。
10.根据权利要求4所述的改进的脉冲深度神经网络的图像分类方法，其特征在于：学习率a+在卷积层(4)中的值分别为0.004,0.0004和0.0004，学习率a-在卷积层(4)中的值分别为0.003，0.0003和0.0003。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810846910.XA CN108985252B (zh) | 2018-07-27 | 2018-07-27 | 改进的脉冲深度神经网络的图像分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810846910.XA CN108985252B (zh) | 2018-07-27 | 2018-07-27 | 改进的脉冲深度神经网络的图像分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108985252A CN108985252A (zh) | 2018-12-11 |
| CN108985252B true CN108985252B (zh) | 2022-05-27 |
Family
ID=64552070
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810846910.XA Active CN108985252B (zh) | 2018-07-27 | 2018-07-27 | 改进的脉冲深度神经网络的图像分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108985252B (zh) |
Families Citing this family (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110059800B (zh) * | 2019-01-26 | 2021-09-14 | 中国科学院计算技术研究所 | 脉冲神经网络转换方法及相关转换芯片 |
| CN109871940B (zh) * | 2019-01-31 | 2021-07-27 | 清华大学 | 一种脉冲神经网络的多层训练算法 |
| CN110889876B (zh) * | 2019-12-10 | 2022-05-03 | 兰州交通大学 | 一种基于ca-spcnn算法的彩色图像量化方法 |
| CN111858989B (zh) * | 2020-06-09 | 2023-11-10 | 西安工程大学 | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 |
| CN113554151B (zh) * | 2021-07-07 | 2024-03-22 | 浙江工业大学 | 一种基于卷积层间关系的注意力机制方法 |
| CN113807421B (zh) * | 2021-09-07 | 2024-03-19 | 华中科技大学 | 基于脉冲发送皮层模型的注意力模块的特征图处理方法 |
| CN114359200B (zh) * | 2021-12-28 | 2023-04-18 | 中国科学院西安光学精密机械研究所 | 基于脉冲耦合神经网络的图像清晰度评估方法及终端设备 |
| CN114466153B (zh) * | 2022-04-13 | 2022-09-09 | 深圳时识科技有限公司 | 自适应脉冲生成方法、装置、类脑芯片和电子设备 |
| CN117788843B (zh) * | 2024-02-27 | 2024-04-30 | 青岛超瑞纳米新材料科技有限公司 | 一种基于神经网络算法的碳纳米管图像处理方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1110168A1 (en) * | 1999-07-07 | 2001-06-27 | Renishaw plc | Neural networks |
| CN106874956A (zh) * | 2017-02-27 | 2017-06-20 | 陕西师范大学 | 图像分类卷积神经网络结构的构建方法 |
-
2018
- 2018-07-27 CN CN201810846910.XA patent/CN108985252B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1110168A1 (en) * | 1999-07-07 | 2001-06-27 | Renishaw plc | Neural networks |
| CN106874956A (zh) * | 2017-02-27 | 2017-06-20 | 陕西师范大学 | 图像分类卷积神经网络结构的构建方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108985252A (zh) | 2018-12-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108985252B (zh) | 改进的脉冲深度神经网络的图像分类方法 | |
| CN108830157B (zh) | 基于注意力机制和3d卷积神经网络的人体行为识别方法 | |
| CN112307958B (zh) | 基于时空外观运动注意力网络的微表情识别方法 | |
| CN110210551B (zh) | 一种基于自适应主体敏感的视觉目标跟踪方法 | |
| CN112308158A (zh) | 一种基于部分特征对齐的多源领域自适应模型及方法 | |
| CN111858989B (zh) | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 | |
| CN109635744A (zh) | 一种基于深度分割网络的车道线检测方法 | |
| CN107451565B (zh) | 一种半监督小样本深度学习图像模式分类识别方法 | |
| CN113011357B (zh) | 基于时空融合的深度伪造人脸视频定位方法 | |
| CN104866810A (zh) | 一种深度卷积神经网络的人脸识别方法 | |
| CN111583263A (zh) | 一种基于联合动态图卷积的点云分割方法 | |
| CN108416270B (zh) | 一种基于多属性联合特征的交通标志识别方法 | |
| CN112215296B (zh) | 基于迁移学习的红外图像识别方法及存储介质 | |
| CN112597980B (zh) | 一种面向动态视觉传感器的类脑手势序列识别方法 | |
| CN110136162B (zh) | 无人机视角遥感目标跟踪方法及装置 | |
| CN112597873A (zh) | 一种基于深度学习的双通道人脸表情识别方法 | |
| CN109472733A (zh) | 基于卷积神经网络的图像隐写分析方法 | |
| CN110135435B (zh) | 一种基于广度学习系统的显著性检测方法及装置 | |
| CN113763417B (zh) | 一种基于孪生网络和残差结构的目标跟踪方法 | |
| CN115280373A (zh) | 使用结构化丢弃来管理孪生网络跟踪中的遮挡 | |
| CN117079098A (zh) | 一种基于位置编码的空间小目标检测方法 | |
| She et al. | Safe-dnn: a deep neural network with spike assisted feature extraction for noise robust inference | |
| CN114724245B (zh) | 基于csi的增量学习人体动作识别方法 | |
| Ashiquzzaman et al. | Compact deeplearning convolutional neural network based hand gesture classifier application for smart mobile edge computing | |
| Ahuja et al. | Convolutional Neural Network and Kernel Extreme Learning Machine for Face Recognition |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |