CN110598801A - 一种基于卷积神经网络的车型识别方法 - Google Patents

一种基于卷积神经网络的车型识别方法 Download PDF

Info

Publication number
CN110598801A
CN110598801A CN201910904657.3A CN201910904657A CN110598801A CN 110598801 A CN110598801 A CN 110598801A CN 201910904657 A CN201910904657 A CN 201910904657A CN 110598801 A CN110598801 A CN 110598801A
Authority
CN
China
Prior art keywords
vehicle type
data set
loss function
convolutional neural
type recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910904657.3A
Other languages
English (en)
Inventor
赵宏阳
付俊
井元伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeastern University China
Original Assignee
Northeastern University China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeastern University China filed Critical Northeastern University China
Priority to CN201910904657.3A priority Critical patent/CN110598801A/zh
Publication of CN110598801A publication Critical patent/CN110598801A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08—Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种基于卷积神经网络的车型识别方法，属于智能交通中的车型识别技术领域，该方法采用数据增强策略扩增数据集，使数据集更加贴合实际情况，在Inception‑V3网络的基础上，针对车型识别，采用Adam优化算法对权值和偏移量进行更新，并借鉴迁移学习思想，提高了车型识别的效率。另外，在损失函数上采用AMSoftmax损失函数代替传统的Softmax损失函数，减小了类内差异，扩大了类间差异，提高不同背景环境下车型识别精度。

Description

一种基于卷积神经网络的车型识别方法
技术领域
本发明涉及智能交通中的车型识别技术领域，尤其涉及一种基于卷积神经网络的车型识别方法。
背景技术
由于近年来交通压力不断增大，智能交通系统日益体现出重要性和紧迫性，而车型识别作为智能交通系统的重要分支和关键技术，主要是针对特定地段下的车辆进行准确的识别，可为智能停车场收费系统、车辆违规占道等方面提供技术支持。
国内外关于车型识别研究的主要方法可以概括为：基于图像处理的方法和基于物理的方法。卷积神经网络是神经网络的一种，它由卷积层、池化层、激活层、全连接层组成，它能够提取输入的不同特征并进行分类。随着卷积神经网络(CNN)在图像分类上取得良好的成果，卷积神经网络被广泛应用到各种分类任务。但在实际的交通环境中，车辆识别存在着光照变化、图像模糊等影响因素，影响了卷积神经网络对车型识别的精度。综上，现实情况中面临车型识别准确率比较低的问题，本发明采用卷积神经网络模型并引入AMSoftmax损失函数来对车型图片进行分类，解决了现有技术中车型识别准确率低的缺点。
发明内容
针对上述现有技术的不足，本发明提供一种基于卷积神经网络的车型识别方法。
为解决上述技术问题，本发明所采取的技术方案是：一种基于卷积神经网络的车型识别方法，该方法的流程如图1所示，包括如下步骤：
步骤1：采集车型图片数据集，利用数据增强对数据集进行扩增，将扩增后的数据集按一定比例分为训练集和测试集；
其中，分别采用旋转和高斯模糊两种策略对车型图片数据集中的每个图像进行处理，将处理后的图像加入原车型图片数据集中，使得车型图像数据扩增为原数据集的3倍。
步骤2：借鉴迁移学习的思想，将Inception-V3网络模型在大规模数据集ImageNet上进行训练，得到Inception-V3网络模型各个参数的最优初始值；
步骤3：采用Adam优化算法对权值和偏移量进行更新，并采用AMSoftmax损失函数对输出分类引入角度特征，来优化Inception-V3网络模型；
步骤3.1：采用Adam优化算法对权值和偏移量进行更新：
步骤3.1.1：首先初始化一阶和二阶变量：vdw＝0，vdb＝0，sdw＝0，sdb＝0；
其中，vdw为针对权重W的梯度的指数加权平均，vdb为针对偏移量b的梯度的指数加权平均，sdw为针对W的梯度平方的指数加权平均，sdb为针对b的梯度平方的指数加权平均；
步骤3.1.2：假设在第t轮训练中，对参数进行更新：
vdw(t)＝β1vdw(t-1)+(1-β1)dW
vdb(t)＝β1vdb(t-1)+(1-β1)db
sdw(t)＝β2sdw(t-1)+(1-β2)dW2
sdb(t)＝β2sdw(t-1)+(1-β2)db2
其中，v为一阶矩，s为二阶矩；
β1为一阶矩v的指数衰减率，β2为二阶矩s的指数衰减率，其中β1，β2∈[0,1)；
dW和db为损失函数在反向传播时的权值和偏移量的梯度；
步骤3.1.3：对上述参数值进行偏差修正：
步骤3.1.4：最后对权重和偏置进行更新：
其中，α为学习率，ε取10-8，ε>0用来保证分母大于0。
步骤3.2：采用AMSoftmax损失函数对输出分类引入角度特征；
传统的softmax损失函数：
其中，WTf＝||W||·||f||·cosθ，可知特征向量包含角度信息，将WTf由||W||·||f||·cosθ代替，可得：
其中，f是最后一个完全连接层的输入，Wj是最后一个完全连接层参数矩阵W的第j列，可称为第i个样本的目标逻辑，n为输入数据的总个数，c为类别总数；
在每一次迭代中归一化权值||Wj||＝1，将偏置b设为0，可得A-Softmax损失函数：
其中，并且k∈[0,m-1]，其中m通常是个大于1的数，控制分类边界的大小。
在A-Softmax损失函数的基础上，引入一个简洁的附加间隔，定义得到AMSoftmax，如下：
其中，m用于控制边界，通常m>0，s为引入的缩放因子；
步骤4：将车型图像数据集中的训练集及步骤2得到的网络参数的最优初始值输入到优化后的Inception-V3网络模型中，对模型进行训练；
步骤5：将车型图像的测试集输入训练好的网络模型中，对车型进行分类，其中卷积神经网络模型训练及测试的流程如图2所示。
采用上述技术方案所产生的有益效果在于：
1、本发明采用数据增强策略扩增数据集，使数据集更加贴合实际情况；
2、本发明借鉴迁移学习思想，提高了车型识别的效率；
3、本发明采用Adam优化算法对权值和偏移量进行更新，同时获得适应性梯度算法(AdaGrad)和均方根传播算法(RMSProp)的优点，不仅可以基于一阶矩均值计算适应性参数学习率，同时还充分利用了梯度的二阶矩均值；
4、本发明利用两个较小的卷积滤波器来代替一个大的卷积滤波器，并且采用非对称的卷积结构，加速了运算并减轻了过拟合；
5、本发明在损失函数上采用AMSoftmax损失函数代替传统的Softmax损失函数，减小了类内差异，扩大了类间差异，提高不同背景环境下车型识别精度。
附图说明
图1为本发明一种基于卷积神经网络的车型识别方法流程图；
图2为本发明卷积神经网络车型识别的流程图；
图3为本发明实施例中具体的Inception模块；
图4为本发明实施例迭代过程车型分类准确率的仿真结果。
具体实施方式
下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。
如图1所示，本实施例的方法如下所述。
步骤1：采集车型图片数据集，利用数据增强对数据集进行扩增，得到更加贴近于真实场景的图片，将扩增后的数据集按一定比例分为训练集和测试集；
本实施例中采用的车型图片数据集为BIT-vehicle数据集，共9850张图片，共包含客车、面包车、微汽车、轿车、SUV和卡车6个类型；
其中，分别采用旋转和高斯模糊两种策略对BIT-vehicle车型图片数据集中的每个图像进行处理，将处理后的图像加入原车型图片数据集中，使得车型图像数据扩增为原数据集的3倍即29550张，按0.8：0.2随机分为训练集和测试集。
步骤2：借鉴迁移学习的思想，将Inception-V3网络模型在大规模数据集ImageNet上进行训练，得到Inception-V3网络模型各个参数的最优初始值；迁移学习的方法在提高识别精度的同时节约了训练时间；
本实施例中Inception-V3网络模型包含46层网络，含有11个Inception模块，相比于其它卷积神经网络，Inception-V3在增加网络深度和宽度的同时减少了参数，可以更好的平衡网络的深度和宽度。Inception模块如图3所示，采用Inception模块来分解大尺寸卷积核，将大尺寸卷积核分解为小尺寸卷积核，例如将一个5×5卷积核分解为两个连续的3×3卷积核，并且将卷积核分解为非对称卷积核，如将n×n卷积核分解为1×n和n×两个卷积核，在减少运算量的同时增加了模型的非线性表达能力。网络通过Inception模块进行卷积、池化后，由最后的全连接层整合特征，输入至分类器，并且在训练过程中引入辅助分类器，即把网络中间层提前拿出来进行回归分类，提高正则化效果。
步骤3：采用Adam优化算法对权值和偏移量进行更新，并采用AMSoftmax损失函数对输出分类引入角度特征，来优化Inception-V3网络模型；
步骤3.1：采用Adam优化算法对权值和偏移量进行更新：
步骤3.1.1：首先初始化一阶和二阶变量：vdw＝0，vdb＝0，sdw＝0，sdb＝0；
其中，vdw为针对权重W的梯度的指数加权平均，vdb为针对偏移量b的梯度的指数加权平均，sdw为针对W的梯度平方的指数加权平均，sdb为针对b的梯度平方的指数加权平均；
步骤3.1.2：假设在第t轮训练中，对参数进行更新：
vdw(t)＝β1vdw(t-1)+(1-β1)dW
vdb(t)＝β1vdb(t-1)+(1-β1)db
sdw(t)＝β2sdw(t-1)+(1-β2)dW2
sdb(t)＝β2sdw(t-1)+(1-β2)db2
其中，v为一阶矩，s为二阶矩；
一阶矩v的指数衰减率β1＝0.9，二阶矩s的指数衰减率β2＝0.999，其中β1，β2∈[0,1)；
dW和db为损失函数在反向传播时的权值和偏移量的梯度；
步骤3.1.3：对上述参数值进行偏差修正：
步骤3.1.4：最后对权重和偏置进行更新：
其中，学习率α＝0.0001，ε取10-8，ε>0用来保证分母大于0。
步骤3.2：采用AMSoftmax损失函数对输出分类引入角度特征；
传统的softmax损失函数：
其中，WTf＝||W||·||f||·cosθ，可知特征向量包含角度信息，将WTf由||W||·||f||·cosθ代替，可得：
其中，f是最后一个完全连接层的输入，Wj是最后一个完全连接层参数矩阵W的第j列，可称为第i个样本的目标逻辑，n为输入数据的总个数，c为类别总数；
在每一次迭代中归一化权值||Wj||＝1，将偏置b设为0，可得A-Softmax损失函数：
其中，并且k∈[0,m-1]，其中m通常是个大于1的数，控制分类边界的大小。
在A-Softmax损失函数的基础上，引入一个简洁的附加间隔，定义得到AMSoftmax，如下：
其中，m用于控制边界，s为引入的缩放因子，通过实验对比分析，s取40，m取0.7时，此模型效果最佳。
步骤4：将车型图像数据集中的训练集及步骤2得到的网络参数的最优初始值输入到优化后的Inception-V3网络模型中，对模型进行训练；
步骤5：将车型图像的测试集输入训练好的网络模型中，对车型进行分类，分类结果如图4所示，图4展现了在30次迭代过程中，测试集平均准确率的变化，图4中居于下侧的曲线代表未经过迁移学习在30次迭代过程中车型识别的准确率的变化过程，图4中居于上侧的曲线代表经过迁移学习之后在30次迭代过程中车型识别的准确率的变化过程，在BIT-Vehicle数据集中六种车型的识别率如表1所示：
表1模型在BIT-Vehicle数据集上六种车型的识别率

Claims (4)

1.一种基于卷积神经网络的车型识别方法，其特征在于包括如下步骤：
步骤1：采集车型图片数据集，利用数据增强对数据集进行扩增，将扩增后的数据集按一定比例分为训练集和测试集；
步骤2：借鉴迁移学习的思想，将Inception-V3网络模型在大规模数据集ImageNet上进行训练，得到Inception-V3网络模型各个参数的最优初始值；
步骤3：采用Adam优化算法对权值和偏移量进行更新，并采用AMSoftmax损失函数对输出分类引入角度特征，来优化Inception-V3网络模型；
步骤4：将车型图像数据集中的训练集及步骤2得到的网络参数的最优初始值输入到优化后的Inception-V3网络模型中，对模型进行训练；
步骤5：将车型图像的测试集输入训练好的网络模型中，对车型进行分类。
2.根据权利要求1所述的一种基于卷积神经网络的车型识别方法，其特征在于：所述步骤1中利用数据增强对数据集进行扩增的方法为：
分别采用旋转和高斯模糊两种策略对车型图片数据集中的每个图像进行处理，将处理后的图像加入原车型图片数据集中，使得车型图像数据扩增为原数据集的3倍。
3.根据权利要求1所述的一种基于卷积神经网络的车型识别方法，其特征在于所述步骤3中采用Adam优化算法对权值和偏移量进行更新的过程如下：
步骤3.1.1：首先初始化一阶和二阶变量：vdw＝0，vdb＝0，sdw＝0，sdb＝0；
其中，vdw为针对权重W的梯度的指数加权平均，vdb为针对偏移量b的梯度的指数加权平均，sdw为针对W的梯度平方的指数加权平均，sdb为针对b的梯度平方的指数加权平均；
步骤3.1.2：假设在第t轮训练中，对参数进行更新：
vdw(t)＝β1vdw(t-1)+(1-β1)dW
vdb(t)＝β1vdb(t-1)+(1-β1)db
sdw(t)＝β2sdw(t-1)+(1-β2)dW2
sdb(t)＝β2sdw(t-1)+(1-β2)db2
其中，v为一阶动量矩，s为二阶动量矩；
β1为一阶矩v的指数衰减率，β2为二阶矩s的指数衰减率，其中β1，β2∈[0,1)；
dW和db为损失函数在反向传播时的权值和偏移量的梯度；
步骤3.1.3：对上述参数值进行偏差修正：
步骤3.1.4：最后对权重和偏置进行更新：
其中，α为学习率，ε取10-8，ε>0用来保证分母大于0。
4.根据权利要求1所述的一种基于卷积神经网络的车型识别方法，其特征在于：所述采用AMSoftmax损失函数对输出分类引入角度特征的过程如下：
传统的softmax损失函数：
其中，WTf＝||W||·||f||·cosθ，可知特征向量包含角度信息，将WTf由||W||·||f||·cosθ代替，可得：
其中，f是最后一个完全连接层的输入，Wj是最后一个完全连接层参数矩阵W的第j列，可称为第i个样本的目标逻辑，n为输入数据的总个数，c为类别总数；
在每一次迭代中归一化权值||Wj||＝1，将偏置b设为0，可得A-Softmax损失函数：
其中，并且k∈[0,m-1]，其中m通常是个大于1的数，控制分类边界的大小；
在A-Softmax损失函数的基础上，引入一个简洁的附加间隔，定义得到AMSoftmax，如下：
其中，m用于控制边界，s为引入的缩放因子。
CN201910904657.3A 2019-09-24 2019-09-24 一种基于卷积神经网络的车型识别方法 Pending CN110598801A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910904657.3A CN110598801A (zh) 2019-09-24 2019-09-24 一种基于卷积神经网络的车型识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910904657.3A CN110598801A (zh) 2019-09-24 2019-09-24 一种基于卷积神经网络的车型识别方法

Publications (1)

Publication Number Publication Date
CN110598801A true CN110598801A (zh) 2019-12-20

Family

ID=68862723

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910904657.3A Pending CN110598801A (zh) 2019-09-24 2019-09-24 一种基于卷积神经网络的车型识别方法

Country Status (1)

Country Link
CN (1) CN110598801A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111325094A (zh) * 2020-01-16 2020-06-23 中国人民解放军海军航空大学 一种基于高分辨距离像的舰船类型的识别方法及系统
CN115641729A (zh) * 2022-12-07 2023-01-24 创辉达设计股份有限公司 一种高速行驶车辆信息抽取方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106952229A (zh) * 2017-03-15 2017-07-14 桂林电子科技大学 基于数据增强的改进型卷积网络的图像超分辨率重建方法
US20190095764A1 (en) * 2017-09-26 2019-03-28 Panton, Inc. Method and system for determining objects depicted in images
CN109657552A (zh) * 2018-11-16 2019-04-19 北京邮电大学 基于迁移学习实现跨场景冷启动的车型识别装置与方法
CN110111840A (zh) * 2019-05-14 2019-08-09 吉林大学 一种体细胞突变检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106952229A (zh) * 2017-03-15 2017-07-14 桂林电子科技大学 基于数据增强的改进型卷积网络的图像超分辨率重建方法
US20190095764A1 (en) * 2017-09-26 2019-03-28 Panton, Inc. Method and system for determining objects depicted in images
CN109657552A (zh) * 2018-11-16 2019-04-19 北京邮电大学 基于迁移学习实现跨场景冷启动的车型识别装置与方法
CN110111840A (zh) * 2019-05-14 2019-08-09 吉林大学 一种体细胞突变检测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
FENG WANG 等: "Additive Margin Softmax for Face Verification", 《ARXIV》 *
张鑫鑫 等: "基于迁移学习的卷积神经网络应用研究", 《电脑知识与技术》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111325094A (zh) * 2020-01-16 2020-06-23 中国人民解放军海军航空大学 一种基于高分辨距离像的舰船类型的识别方法及系统
CN115641729A (zh) * 2022-12-07 2023-01-24 创辉达设计股份有限公司 一种高速行驶车辆信息抽取方法及系统
CN115641729B (zh) * 2022-12-07 2023-09-22 创辉达设计股份有限公司 一种高速行驶车辆信息抽取方法及系统

Similar Documents

Publication Publication Date Title
CN110929603B (zh) 一种基于轻量级卷积神经网络的天气图像识别方法
CN108509978B (zh) 基于cnn的多级特征融合的多类目标检测方法及模型
CN109035149B (zh) 一种基于深度学习的车牌图像去运动模糊方法
CN109543502B (zh) 一种基于深度多尺度神经网络的语义分割方法
CN111783782B (zh) 融合改进UNet和SegNet的遥感图像语义分割方法
CN110009095B (zh) 基于深度特征压缩卷积网络的道路行驶区域高效分割方法
CN111311538B (zh) 一种基于卷积神经网络的多尺度轻量化道路路面检测方法
CN107506765B (zh) 一种基于神经网络的车牌倾斜校正的方法
CN108875933B (zh) 一种无监督稀疏参数学习的超限学习机分类方法及系统
CN110580450A (zh) 一种基于卷积神经网络的交通标志识别方法
CN109740451B (zh) 基于重要性加权的道路场景图像语义分割方法
CN111199217B (zh) 一种基于卷积神经网络的交通标志识别方法和系统
CN109726195B (zh) 一种数据增强方法及装置
CN110598801A (zh) 一种基于卷积神经网络的车型识别方法
CN105631477A (zh) 基于极限学习机和自适应提升的交通标志识别方法
CN114048822A (zh) 一种图像的注意力机制特征融合分割方法
CN114693924A (zh) 一种基于多模型融合的道路场景语义分割方法
CN111767860A (zh) 一种通过卷积神经网络实现图像识别的方法及终端
CN115984424A (zh) 基于扩散模型的电子元器件缺陷图像生成方法及系统
CN111310820A (zh) 基于交叉验证深度cnn特征集成的地基气象云图分类方法
CN108961270B (zh) 一种基于语义分割的桥梁裂缝图像分割模型
CN111612803B (zh) 一种基于图像清晰度的车辆图像语义分割方法
CN112926688A (zh) 一种基于DenseNet进行激光芯片缺陷分类的方法
CN115205614B (zh) 一种用于智能制造的矿石x光图像识别方法
Wang Research on the Optimal Machine Learning Classifier for Traffic Signs

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20191220