CN105718912A - 一种基于深度学习的车辆特征物检测方法 - Google Patents

一种基于深度学习的车辆特征物检测方法 Download PDF

Info

Publication number
CN105718912A
CN105718912A CN201610052980.9A CN201610052980A CN105718912A CN 105718912 A CN105718912 A CN 105718912A CN 201610052980 A CN201610052980 A CN 201610052980A CN 105718912 A CN105718912 A CN 105718912A
Authority
CN
China
Prior art keywords
vehicle
vehicle window
obtains
similarity
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610052980.9A
Other languages
English (en)
Other versions
CN105718912B (zh
Inventor
尚凌辉
高勇
刘小扬
丁连涛
李军伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Original Assignee
ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd filed Critical ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Priority to CN201610052980.9A priority Critical patent/CN105718912B/zh
Publication of CN105718912A publication Critical patent/CN105718912A/zh
Application granted granted Critical
Publication of CN105718912B publication Critical patent/CN105718912B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种基于深度学习的车辆特征物检测方法。本发明首先把车窗内所有需要检测的物体都标注出来,设计CNN网络结构。其次通过统计机器学习的方法粗略定位车脸的位置,并对车窗四个点进行定位,得到车窗的位置。结合selective search与edgebox建议框提取方法,得到可能是目标物体的建议框。然后在建议框的基础上进行多尺度缩放得到不同尺度下的待分类区域,利用多分类模型进行分类。最后利用每一物体自有的先验信息进行最后的去误检处理。得到每辆车车窗上的各种特征物类别与坐标。本发明相对传统的图像处理方法来说具有较高的鲁棒性,而且能够一次性检测出车窗内所有感兴趣的物体,且速度比传统学习方法快。

Description

一种基于深度学习的车辆特征物检测方法
技术领域
本发明属于机器视觉技术领域,涉及一种基于深度学习的车辆特征物检测方法。
背景技术
截至2015年,我国汽车保有量已经超过1.6亿辆。随着经济的发展,这一数字还在持续增长。大量的汽车在道路上行驶,给交通管理部门带了巨大的管理压力。另一方,许多治安案件中,都存在汽车作为交通工具而出现的情况。
我们国家已有的对汽车管理自动化手段主要是电子警察和卡口系统。这些系统能够实时捕获车辆高清图片,并且自动分析出车牌号码、车型信息(包括品牌、型号和年份,目前正在逐步实施)、颜色等信息,达到对车辆的自动化管理和快速查找。但是即使能够充分利用前述信息,也很难将特定的嫌疑车辆找出来,特别当没有嫌疑车辆的图片,而只有目击证人时。因此利用车上除上述信息以外的,每辆车的独有结构化描述信息,包括遮阳板放下与否,纸巾盒,挂件,标识符等,成为确定特定车辆的重要线索。
目前已有技术主要集中于车辆遮阳板的检测,包括传统的图像处理方法,比如《一种基于图像分析的车辆遮阳板检测方法及装置-201210089548.9》,《一种车辆遮阳板状态的检测方法-201310365024.2》和《一种车内遮阳板检测方法及装置-201310574043.6》,与传统机器学习方法,比如《一种车辆遮阳板状态检测方法及装置-201510531752.5》,《基于图像分析的车辆遮阳板检测方法及装置-201310512222.7》。其中,采用传统的图像处理方法对于环境变化,比如光照变化,反光等情况下效果比较差,容易造成误检。而传统的机器学习方法需要对遮阳板特征进行人工提取。由于遮阳板特征相对单一,因此,导致传统的机器学习方法对一些极端环境下的检测效果非常差。另一方面,传统机器学习方法利用扫描框的方法对不同尺度下图像所有可能的区域进行扫描,速度非常慢(往往一张图几万个扫描框)。已有的方法都只能对一个物体进行检测。
发明内容
为了克服传统方法只能对车窗内某个物体检测,本发明采用建议框提取技术与深度学习相结合的方法,同时对车窗内多个物体进行检测,从而达到在最短时间内检测尽可能多的物体,以满足对数据处理的实时性要求。
本发明方法包括以下步骤:
步骤1.把车窗内所有需要检测的物体都标注出来,设计CNN网络结构,该网络主要包括三个卷积层,三个池化层(1个Max池化层,2个AVE池化层),三个RELU层、两个全连接层及Softmaxwithloss层,并用该结构在Caffe框架上进行训练,得到一个多分类模型。
步骤2.通过统计机器学习的方法粗略定位车脸的位置,并对车窗四个点进行定位,得到车窗的位置。
步骤3.结合selectivesearch(SelectiveSearchforObjectRecognition)与edgebox(EdgeBoxes:LocatingObjectProposalsfromEdges)建议框提取方法,得到可能是目标物体的建议框;该建议框提取方法主要先利用edgebox来生成selectivesearch的初始化框,由于本身edgebox是以图像边缘来分割图像的,因此,基于edgebox的初始化区域具有比原selectivesearch方法里的初始化区域方法更准确。
步骤4.在建议框的基础上进行多尺度缩放得到不同尺度下的待分类区域,然后利用步骤1得到的多分类模型进行分类。
步骤5.利用每一物体自有的先验信息进行最后的去误检处理。这里可以利用的先验信息包括每个物体的位置概率分布图,大小,长宽比等。根据这些先验信息,可以有效地去除一些误检,使得检测更准确。
步骤6.得到每辆车车窗上的各种特征物类别与坐标。
本发明的有益效果:本发明相对传统的图像处理方法来说具有较高的鲁棒性,而且能够一次性检测出车窗内所有感兴趣的物体,且速度比传统学习方法快(建议框每图2000个左右建议框,相对于传统扫描框每图几万甚至十几万个建议框),能够为车辆检索系统自动提供具有区分性的特征以及架起文字描述与图片转换的桥梁。
附图说明
图1为本发明方法流程图。
图2为SelectiveSearch(SS)流程图;
图3为RCNN流程图。
具体实施方式
以下结合实施例和附图对本发明作进一步说明:
本发明总体过程具体见图1,详细介绍如下:
1.由于本发明需要预先训练一个基于CNN的多分类模型,训练流程见图3的右半部分,训练详细过程介绍如下:
1)标注采集到的数据,目前主要标注遮阳板,年检标识符,挂件,摆件,纸巾盒五类。
2)抠取所有的正样本并缩放到统一大小,比如32x32,计算所有样本均值,然后所有样本减去均值。
3)设计CNN网络结构。本发明主要采用如下的网络结构:
31)卷积层
32)Max池化层
33)Relu层
34)卷积层
35)AVE池化层
36)PRelu层
37)卷积层
38)AVE池化层
39)PRelu层
310)全连接层
311)全连接层
312)Softmaxwithloss层
其中,softmaxwithloss中使用softmax函数计算公式如下:
表示类别,通过这个可以判定某个物体z属于第i类的概率大小。
4).通过Caffe训练得到车辆特征检测的CNN多分类模型。
2.通过监控视频采集得到一张图像。
3.通过统计学习方法以及特征点定位精确得到车窗四个顶点的位置信息。
4.结合selectivesearch和edgebox得到有可能包含物体的建议框,该方法流程具体见图2,
1)利用edgebox计算出图像的edges,再得到一个edgegroups,根据这些edgegroup得到m个初始区域,记为。设置一个相似度集合记为S,初始化为空。
2)计算每两个区域的相似度,并存入到S集合中。
3)找出相似度最大的两个区域,,删除这两块区域与其他区域的相似度,然后合并这两区域,并重新计算该区域与相邻的相似度,存入到S;一直重复这个过程直到S集里的数目小于事先预定的数目。
4)提取第3)步得到的区域作为可能为目标的建议框。
5.通过第4步结合多尺度得到不同的建议框,利用第1步得到的CNN多分类模型对不同的建议框进行计算,预测每一个建议框的类别以及属于该类别的置信度,该流程详见图3的左半部分。
6.根据统计的信息,结合置信度,去除一些误检。可以利用的信息包括每类物体的位置概率密度分布,大小,长宽比等。
7.得到最后的每个车窗上含有的物体及位置坐标。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围,应带理解,本发明并不限于这里所描述的实现方案,这些实现方案描述的目的在于帮助本领域中的技术人员实践本发明。

Claims (3)

1.一种基于深度学习的车辆特征物检测方法,其特征在于该方法包括以下步骤:
步骤1.把车窗内所有需要检测的物体标注出来,设计CNN网络结构,该网络结构主要包括三个卷积层,三个池化层,三个RELU层、两个全连接层及Softmaxwithloss层,并用该结构在Caffe框架上进行训练,得到一个多分类模型;
步骤2.通过统计机器学习的方法粗略定位车脸的位置,并对车窗四个点进行定位,得到车窗的位置;
步骤3.结合selectivesearch与edgebox建议框提取方法,得到可能是目标物体的建议框;
步骤4.在建议框的基础上进行多尺度缩放得到不同尺度下的待分类区域,然后利用步骤1得到的多分类模型进行分类;
步骤5.利用每一物体自有的先验信息进行最后的去误检处理;
步骤6.得到每辆车车窗上的各种特征物类别与坐标。
2.根据权利要求1所述的一种基于深度学习的车辆特征物检测方法,其特征在于:步骤3具体是:
1)利用edgebox计算出图像的edges,再得到一个edgegroups,根据这些edgegroup得到m个初始区域,记为;设置一个相似度集合记为S,初始化为空;
2)计算每两个区域的相似度,并存入到集合S中;
3)找出相似度最大的两个区域,,删除这两块区域与其他区域的相似度,然后合并这两区域,并重新计算该区域与相邻的相似度,存入到集合S;一直重复这个过程直到S集里的数目小于事先预定的数目;
4)提取第3)步得到的区域作为可能为目标的建议框。
3.根据权利要求1或2所述的一种基于深度学习的车辆特征物检测方法,其特征在于:所述的先验信息包括每个物体的位置概率分布图、大小、长宽比。
CN201610052980.9A 2016-01-26 2016-01-26 一种基于深度学习的车辆特征物检测方法 Expired - Fee Related CN105718912B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610052980.9A CN105718912B (zh) 2016-01-26 2016-01-26 一种基于深度学习的车辆特征物检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610052980.9A CN105718912B (zh) 2016-01-26 2016-01-26 一种基于深度学习的车辆特征物检测方法

Publications (2)

Publication Number Publication Date
CN105718912A true CN105718912A (zh) 2016-06-29
CN105718912B CN105718912B (zh) 2018-12-07

Family

ID=56154933

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610052980.9A Expired - Fee Related CN105718912B (zh) 2016-01-26 2016-01-26 一种基于深度学习的车辆特征物检测方法

Country Status (1)

Country Link
CN (1) CN105718912B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106548169A (zh) * 2016-11-02 2017-03-29 重庆中科云丛科技有限公司 基于深度神经网络的模糊文字增强方法及装置
CN106611162A (zh) * 2016-12-20 2017-05-03 西安电子科技大学 基于深度学习ssd框架的道路车辆实时检测方法
CN108229473A (zh) * 2017-12-29 2018-06-29 苏州科达科技股份有限公司 车辆年检标签检测方法及装置
CN108256498A (zh) * 2018-02-01 2018-07-06 上海海事大学 一种基于EdgeBoxes和FastR-CNN的非机动车辆目标检测方法
CN108563976A (zh) * 2017-11-29 2018-09-21 浙江工业大学 一种基于车窗位置的多方向车辆颜色识别方法
CN108830903A (zh) * 2018-04-28 2018-11-16 杨晓春 一种基于cnn的钢坯位置检测方法
CN109741309A (zh) * 2018-12-27 2019-05-10 北京深睿博联科技有限责任公司 一种基于深度回归网络的骨龄预测方法及装置
CN110555125A (zh) * 2018-05-14 2019-12-10 桂林远望智能通信科技有限公司 一种基于局部特征的车辆检索方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110293141A1 (en) * 2008-09-25 2011-12-01 National Ict Australia Limited Detection of vehicles in an image
CN102750544A (zh) * 2012-06-01 2012-10-24 浙江捷尚视觉科技有限公司 基于车牌识别的未扣紧安全带违章驾驶检测系统及方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110293141A1 (en) * 2008-09-25 2011-12-01 National Ict Australia Limited Detection of vehicles in an image
CN102750544A (zh) * 2012-06-01 2012-10-24 浙江捷尚视觉科技有限公司 基于车牌识别的未扣紧安全带违章驾驶检测系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
姚源: "车脸图像的特征提取", 《中国优秀硕士学位论文全文数据库》 *
庄永: "运动车辆车型精确识别技术研究", 《中国优秀硕士学位论文全文数据库》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106548169A (zh) * 2016-11-02 2017-03-29 重庆中科云丛科技有限公司 基于深度神经网络的模糊文字增强方法及装置
CN106548169B (zh) * 2016-11-02 2019-04-23 重庆中科云从科技有限公司 基于深度神经网络的模糊文字增强方法及装置
CN106611162A (zh) * 2016-12-20 2017-05-03 西安电子科技大学 基于深度学习ssd框架的道路车辆实时检测方法
CN106611162B (zh) * 2016-12-20 2019-06-18 西安电子科技大学 基于深度学习ssd框架的道路车辆实时检测方法
CN108563976A (zh) * 2017-11-29 2018-09-21 浙江工业大学 一种基于车窗位置的多方向车辆颜色识别方法
CN108563976B (zh) * 2017-11-29 2021-04-02 浙江工业大学 一种基于车窗位置的多方向车辆颜色识别方法
CN108229473A (zh) * 2017-12-29 2018-06-29 苏州科达科技股份有限公司 车辆年检标签检测方法及装置
CN108256498A (zh) * 2018-02-01 2018-07-06 上海海事大学 一种基于EdgeBoxes和FastR-CNN的非机动车辆目标检测方法
CN108830903A (zh) * 2018-04-28 2018-11-16 杨晓春 一种基于cnn的钢坯位置检测方法
CN110555125A (zh) * 2018-05-14 2019-12-10 桂林远望智能通信科技有限公司 一种基于局部特征的车辆检索方法
CN109741309A (zh) * 2018-12-27 2019-05-10 北京深睿博联科技有限责任公司 一种基于深度回归网络的骨龄预测方法及装置
CN109741309B (zh) * 2018-12-27 2021-04-02 北京深睿博联科技有限责任公司 一种基于深度回归网络的骨龄预测方法及装置

Also Published As

Publication number Publication date
CN105718912B (zh) 2018-12-07

Similar Documents

Publication Publication Date Title
CN105718912A (zh) 一种基于深度学习的车辆特征物检测方法
CN110414368B (zh) 一种基于知识蒸馏的无监督行人重识别方法
Liao et al. Rotation-sensitive regression for oriented scene text detection
CN108510467B (zh) 基于深度可变形卷积神经网络的sar图像目标识别方法
CN106845408B (zh) 一种复杂环境下的街道垃圾识别方法
CN105335702B (zh) 一种基于统计学习的卡口车型识别方法
CN108985169B (zh) 基于深度学习目标检测与动态背景建模的商店跨门经营检测方法
CN104778470B (zh) 基于组件树和霍夫森林的文字检测和识别方法
CN110232379A (zh) 一种车辆姿态检测方法及系统
CN103530600A (zh) 复杂光照下的车牌识别方法及系统
CN110298227B (zh) 一种基于深度学习的无人机航拍图像中的车辆检测方法
CN107392141A (zh) 一种基于显著性检测和lsd直线检测的机场提取方法
CN109472226B (zh) 一种基于深度学习的睡觉行为检测方法
CN108509950B (zh) 基于概率特征加权融合的铁路接触网支柱号牌检测识别法
CN111340855A (zh) 一种基于轨迹预测的道路移动目标检测方法
CN103544505B (zh) 面向无人机航拍图像的船只识别系统及方法
CN109871799A (zh) 一种基于深度学习的驾驶员玩手机行为的检测方法
CN104217217A (zh) 一种基于两层分类的车辆标志物检测方法与系统
CN111507296A (zh) 基于无人机遥感与深度学习的违章建筑智能化提取方法
Ji et al. Integrating visual selective attention model with HOG features for traffic light detection and recognition
CN110222712B (zh) 一种基于深度学习的多专项目标检测算法
CN111460884A (zh) 基于人体跟踪的多人脸识别方法
CN111814751A (zh) 基于深度学习目标检测和图像识别的车辆属性分析方法及系统
CN107480585A (zh) 基于dpm算法的目标检测方法
CN101493887A (zh) 基于半监督学习和哈希索引的眉毛图像分割方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Vehicle characteristic object detection method based on deep learning

Effective date of registration: 20190821

Granted publication date: 20181207

Pledgee: Hangzhou Yuhang Small and Medium-sized Enterprise Transfer Service Co., Ltd.

Pledgor: ZHEJIANG ICARE VISION TECHNOLOGY CO., LTD.

Registration number: Y2019330000020

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20181207

Termination date: 20210126