CN107886165A - 一种基于计算机模式识别的并行卷积神经网络方法 - Google Patents
一种基于计算机模式识别的并行卷积神经网络方法 Download PDFInfo
- Publication number
- CN107886165A CN107886165A CN201711492094.9A CN201711492094A CN107886165A CN 107886165 A CN107886165 A CN 107886165A CN 201711492094 A CN201711492094 A CN 201711492094A CN 107886165 A CN107886165 A CN 107886165A
- Authority
- CN
- China
- Prior art keywords
- parallel
- convolution
- image
- neutral net
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于计算机模式识别的并行卷积神经网络方法，基于计算机模式识别的并行卷积神经网络方法包括三个阶段：图像分类数据收集阶段。并行卷积神经网络构建阶段。深度卷积神经网络分类阶段。本发明可以作为深度学习算法的实际应用平台，辅助教学；在当前深度学习的领域，提高神经网络的训练速度；由于本发明使用硬件成本资源较少，易于实现。本方法由图像数据集和并行卷积神经网络组成。图像数据集由互联网下载的各个图像分类数据构成，并行卷积神经网络是改进的深层卷积网络。
Description
技术领域
本发明属于图像分类领域，本发明涉及一种基于计算机模式识别的并行卷积神经网络方法。
背景技术
随着信息技术的发展，高科技以数字化的形式融入了生活，带来了很多的便利，同样又促进了数字化生活的发展。识别技术也发生了巨大的变化，由传统的密码验证方式，更多的转换为数字证书和生物认证识别等新兴技术。尤其是生物识别技术，由于它是利用人体自身所固有的生理或行为特征作为识别依据来进行个体验证的方法，克服了传统认证手段易于丢失、遗忘，易被仿造盗用等缺点，越来越受到国内外研究者的广泛关注。
目前图像分类的研究面临着很多问题需要解决，在复杂的环境中分类效果较差，普通结构的卷积神经网络训练速度慢，分类准确率不高也是面临的挑战。
在图像分类方向，目前有很多方法被提出用于加快训练速度和提高分类准确率。如dropout技术、batchnormalization技术等。
发明内容
一种基于计算机模式识别的并行卷积神经网络方法。
卷积神经网络的思路是将普通的串行卷积神经网络结构并行化；
本发明是将普通的串行结构进行并行化改造以提升训练速度和分类准确率。
本发明也具有一定的实际应用价值：一是可以作为深度学习算法的实际应用平台，辅助教学；二是可以在当前深度学习的领域，提高神经网络的训练速度；三是由于本发明使用硬件成本资源较少，易于实现。
一种基于计算机模式识别的并行卷积神经网络方法，本方法由图像数据集和并行卷积神经网络组成。图像数据集由互联网下载的各个图像分类数据构成，并行卷积神经网络是改进的深层卷积网络。
基于计算机模式识别的并行卷积神经网络方法包括三个阶段：
图像分类数据收集阶段：从互联网下载相关图像分类数据形成图像数据集集dataset0，得到图像分类数据集dataset0以后，把图像分类数据集dataset0按照4：1的比例分为图像训练数据集train_dataset和图像测试数据集test_dataset。
并行卷积神经网络构建阶段：根据深层卷积神经网络模型model0，对model0进行并行化改造，并行卷积神经网络含有两个输入入口input_1和input_2，并行卷积神经网络由若干卷积层conv和池化层pool以及全连接层fc构成，在全连接层之前将并行结构的卷积层conv进行级联concatenate，最后加入全连接层进行分类。将并行卷积网络结构定义为model1。
在卷积神经网络中，卷积层的每一个卷积核作用于图像数据集中没幅图像中，对图像数据集的每一幅输入的图像进行卷积操作。卷积结果构成了输入图像的特征图，提取出图像的局部特征。每一个卷积滤波器共享相同的参数，包括相同的权重矩阵和偏置项。
同图像尺度不变特征变换提取一样，CNN的结构中也有降采样层。降采样层是一种非线性降采样方法。考虑到卷积层输出的原始图像的特征图仍然包含大量数据，若直接训练，则很难训练出一个有效的分类器。通过降采样操作，将特征数据大大减少，并且其对旋转、尺度和缩放具有不变性，同时还减少计算的复杂度。降采样方法是一种高效的降低数据维度的采样方法。在图像识别中，降采样的操作分为两类：最大值和平均值。降采样模板取2×2，即取2x2大小图像块的四个像素值中的最大值或平均值为降采样后的像素值。经过降采样后，图像的大小变为原来的1/4，达到降维的作用。
深度卷积神经网络分类阶段：采用标准正交分布orthonormal去初始化构建的并行卷积神经网络model，并用并行网络去做图像分类工作。用图像分类数据集中的训练集train_dataset去训练并行卷积网络，然后用测试集test_dataset去测试训练好的并行卷积网络的效果，得到分类的准确率。
附图说明
图1为神经网络模型。
图2为测试模型得到的准确率结果。
图3为整体流程图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步的描述。
图像分类数据集选择cifar-10小物体图像分类数据集。Cifar-10由60000张32*32的RGB彩色图片构成，共10个分类。这个数据集最大的特点在于将识别、分类任务迁移到了普适物体。
步骤1：下载好cifar-10小物体数据集，存入硬盘中以便于后续使用；
步骤2：对cifar-10数据集中训练集和测试集的标签进行类别化，转换为one-hot向量，以便神经网络更好的识别；
步骤3：构建并行卷积网络结构；
步骤4：并行网络结构中的激活函数选择relu(非线性激活单元)，并加入dropout层(dropout率为0.25)用于防止过拟合；
步骤5：采用学习速率为0.0001的adam优化器优化神经网络；
步骤6：将训练与测试图像矩阵数据转换为0-1之间的数以便于神经网络更快的收敛
步骤7：对构建好的并行卷积神经网络进行标准正交初始化以便于神经网络更快速的收敛。
步骤8：将下载好的cifar-10数据集中的训练集送入神经网络进行训练。
步骤9：将cifar-10数据集中的测试集送入训练好的神经网络模型进行分类测试，输出并行卷积神经网络分类准确率。
实验环境及过程示意图如图2。
综上所述，基于计算机模式识别的并行卷积神经网络方法，通过将传统的卷积神经网络进行并行化改造，提升了模型的分类效果。加快了传统方法的训练时间以及提高了正确率。
Claims (2)
1.一种基于计算机模式识别的并行卷积神经网络方法，其特征在于：本方法由图像数据集和并行卷积神经网络组成；图像数据集由互联网下载的各个图像分类数据构成，并行卷积神经网络是改进的深层卷积网络；
基于计算机模式识别的并行卷积神经网络方法包括三个阶段：
图像分类数据收集阶段：从互联网下载相关图像分类数据形成图像数据集集dataset0，得到图像分类数据集dataset0以后，把图像分类数据集dataset0按照4：1的比例分为图像训练数据集train_dataset和图像测试数据集test_dataset；
并行卷积神经网络构建阶段：根据深层卷积神经网络模型model0，对model0进行并行化改造，并行卷积神经网络含有两个输入入口input_1和input_2，并行卷积神经网络由若干卷积层conv和池化层pool以及全连接层fc构成，在全连接层之前将并行结构的卷积层conv进行级联concatenate，最后加入全连接层进行分类；将并行卷积网络结构定义为model1；
在卷积神经网络中，卷积层的每一个卷积核作用于图像数据集中没幅图像中，对图像数据集的每一幅输入的图像进行卷积操作；卷积结果构成了输入图像的特征图，提取出图像的局部特征；每一个卷积滤波器共享相同的参数，包括相同的权重矩阵和偏置项；
同图像尺度不变特征变换提取一样，CNN的结构中也有降采样层；降采样层是一种非线性降采样方法；考虑到卷积层输出的原始图像的特征图仍然包含大量数据，若直接训练，则很难训练出一个有效的分类器；通过降采样操作，将特征数据大大减少，并且其对旋转、尺度和缩放具有不变性，同时还减少计算的复杂度；降采样方法是一种高效的降低数据维度的采样方法；在图像识别中，降采样的操作分为两类：最大值和平均值；降采样模板取2×2，即取2x2大小图像块的四个像素值中的最大值或平均值为降采样后的像素值；经过降采样后，图像的大小变为原来的1/4，达到降维的作用；
深度卷积神经网络分类阶段：采用标准正交分布orthonormal去初始化构建的并行卷积神经网络model，并用并行网络去做图像分类工作；用图像分类数据集中的训练集train_dataset去训练并行卷积网络，然后用测试集test_dataset去测试训练好的并行卷积网络的效果，得到分类的准确率。
2.根据权利要求1所述的一种基于计算机模式识别的并行卷积神经网络方法，其特征在于：图像分类数据集选择cifar-10小物体图像分类数据集；Cifar-10由60000张32*32的RGB彩色图片构成，共10个分类；这个数据集最大的特点在于将识别、分类任务迁移到了普适物体；
步骤1：下载好cifar-10小物体数据集，存入硬盘中以便于后续使用；
步骤2：对cifar-10数据集中训练集和测试集的标签进行类别化，转换为one-hot向量，以便神经网络更好的识别；
步骤3：构建并行卷积网络结构；
步骤4：并行网络结构中的激活函数选择relu即非线性激活单元，并加入dropout层用于防止过拟合，dropout率为0.25；
步骤5：采用学习速率为0.0001的adam优化器优化神经网络；
步骤6：将训练与测试图像矩阵数据转换为0-1之间的数以便于神经网络更快的收敛
步骤7：对构建好的并行卷积神经网络进行标准正交初始化以便于神经网络更快速的收敛；
步骤8：将下载好的cifar-10数据集中的训练集送入神经网络进行训练；
步骤9：将cifar-10数据集中的测试集送入训练好的神经网络模型进行分类测试，输出并行卷积神经网络分类准确率。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711492094.9A CN107886165A (zh) | 2017-12-30 | 2017-12-30 | 一种基于计算机模式识别的并行卷积神经网络方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711492094.9A CN107886165A (zh) | 2017-12-30 | 2017-12-30 | 一种基于计算机模式识别的并行卷积神经网络方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107886165A true CN107886165A (zh) | 2018-04-06 |
Family
ID=61770519
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711492094.9A Pending CN107886165A (zh) | 2017-12-30 | 2017-12-30 | 一种基于计算机模式识别的并行卷积神经网络方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107886165A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109460815A (zh) * | 2018-10-25 | 2019-03-12 | 浙江科技学院 | 一种单目视觉深度估计方法 |
| CN109508627A (zh) * | 2018-09-21 | 2019-03-22 | 国网信息通信产业集团有限公司 | 一种层内共享参数cnn的无人机动态图像识别系统与方法 |
| CN111401442A (zh) * | 2020-03-16 | 2020-07-10 | 中科立业(北京)科技有限公司 | 一种基于深度学习的水果识别方法 |
| CN114200524A (zh) * | 2021-10-29 | 2022-03-18 | 五季数据科技(北京)有限公司 | 一种基于人工智能深度学习的测井密度曲线校正方法 |
| CN115205637A (zh) * | 2022-09-19 | 2022-10-18 | 山东世纪矿山机电有限公司 | 一种矿车物料的智能识别方法 |
-
2017
- 2017-12-30 CN CN201711492094.9A patent/CN107886165A/zh active Pending
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109508627A (zh) * | 2018-09-21 | 2019-03-22 | 国网信息通信产业集团有限公司 | 一种层内共享参数cnn的无人机动态图像识别系统与方法 |
| CN109460815A (zh) * | 2018-10-25 | 2019-03-12 | 浙江科技学院 | 一种单目视觉深度估计方法 |
| CN109460815B (zh) * | 2018-10-25 | 2021-12-10 | 浙江科技学院 | 一种单目视觉深度估计方法 |
| CN111401442A (zh) * | 2020-03-16 | 2020-07-10 | 中科立业(北京)科技有限公司 | 一种基于深度学习的水果识别方法 |
| CN114200524A (zh) * | 2021-10-29 | 2022-03-18 | 五季数据科技(北京)有限公司 | 一种基于人工智能深度学习的测井密度曲线校正方法 |
| CN115205637A (zh) * | 2022-09-19 | 2022-10-18 | 山东世纪矿山机电有限公司 | 一种矿车物料的智能识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107886165A (zh) | 一种基于计算机模式识别的并行卷积神经网络方法 | |
| Meng et al. | Sample fusion network: An end-to-end data augmentation network for skeleton-based human action recognition | |
| CN107729948A (zh) | 图像处理方法及装置、计算机产品和存储介质 | |
| CN107977932A (zh) | 一种基于可鉴别属性约束生成对抗网络的人脸图像超分辨率重建方法 | |
| CN109325443A (zh) | 一种基于多实例多标签深度迁移学习的人脸属性识别方法 | |
| CN105138975B (zh) | 一种基于深度信念网络的人体肤色区域分割方法 | |
| Kim et al. | Label-preserving data augmentation for mobile sensor data | |
| CN109726725A (zh) | 一种基于大间隔类间互异性多核学习的油画作者识别方法 | |
| CN109636764A (zh) | 一种基于深度学习与显著性检测的图像风格转移方法 | |
| Qu et al. | Perceptual-DualGAN: perceptual losses for image to image translation with generative adversarial nets | |
| Sahoo et al. | DeReFNet: Dual-stream Dense Residual Fusion Network for static hand gesture recognition | |
| CN110163855A (zh) | 一种基于多路深度卷积神经网络的彩色图像质量评价方法 | |
| Velastegui et al. | The importance of color spaces for image classification using artificial neural networks: a review | |
| CN105389573B (zh) | 一种基于局部三值模式分层重构的人脸识别方法 | |
| Strezoski et al. | Plug-and-play interactive deep network visualization | |
| Meng et al. | The classification of traditional Chinese painting based on CNN | |
| CN109919057A (zh) | 一种基于高效卷积神经网络的多模态融合手势识别方法 | |
| Guo et al. | Facial parts swapping with generative adversarial networks | |
| Leipert et al. | The notary in the haystack–countering class imbalance in document processing with CNNs | |
| Liu et al. | Anime Sketch Coloring with Swish-gated Residual U-net and Spectrally Normalized GAN. | |
| Yip et al. | Grouped multi-task CNN for facial attribute recognition | |
| CN112132253A (zh) | 3d动作识别方法、装置、计算机可读存储介质及设备 | |
| Zeng et al. | Two-stream multi-focus image fusion based on the latent decision map | |
| GAO et al. | Bidirectional Mapping Augmentation Algorithm for Synthetic Images Based on Generative Adversarial Network | |
| Kingra et al. | Siamlbp: exploiting texture discrepancies for deepfake detection |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180406 |
|
| RJ01 | Rejection of invention patent application after publication |