CN109002745A - 一种基于深度学习和跟踪技术的车道线实时检测方法 - Google Patents
一种基于深度学习和跟踪技术的车道线实时检测方法 Download PDFInfo
- Publication number
- CN109002745A CN109002745A CN201710418031.2A CN201710418031A CN109002745A CN 109002745 A CN109002745 A CN 109002745A CN 201710418031 A CN201710418031 A CN 201710418031A CN 109002745 A CN109002745 A CN 109002745A
- Authority
- CN
- China
- Prior art keywords
- lane line
- frame
- image
- deep learning
- detection method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
- G06V30/194—References adjustable by an adaptive method, e.g. learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明提出了一种车道线实时高精度检测的方法。该方法结合了深度学习技术的卷积神经网络模型和Kalman跟踪技术,车道线检测速度快、精度高,可以高精度地实时检测不同复杂路况的车道线,有效去除了路面阴影、反光等自然或人为噪声的干扰。
Description
技术领域
本文设计一种基于深度学习技术的卷积神经网络模型和Kalman跟踪方法的车道线实时检测方法,属于计算机视觉和深度学习领域。
背景技术
随着计算机视觉技术的快速发展,如何高精度、高效率、便捷地实时检测车道线成为无人驾驶技术的关键基础和研究热点技术之一。目前,传统的车道线检测方法仍然基于计算机图形学,在对无人车获取的图像进行去噪以及图像形态学计算后,采用概率霍夫变化或者轮廓查找的方法提取车道线中的点,然后用数学方法对这些点进行筛选、分类,最终拟合成车道线。这种传统的车道线检测方法虽然速度快,但精度不高,存在一些不足:由于无法完全消除路面附近区域阴影和反光等自然环境的影响,检测误差较大,对复杂路况适用性较差;传统检测方法中的图像预处理和车道线点的筛选参数设置具有特殊性,对不同路况的普适性较差;传统车道线检测方法受到路面其他物体如车辆、行人、标识物等的干扰时容易检测失败,缺乏实际的商业利用价值。
深度学习是机器学习研究中的一个新领域,是当前机器学习领域最前沿和热门的课题之一。目前,深度学习的方法已经被广泛使用到无人车的道路检测和分割以及目标识别等方面,精度较传统方法高,但速度较慢,很难达到实时处理要求的每秒30帧的要求。
因此提出一种同时保证精度和效率的车道线实时检测方法,对于无人车领域有着深远的意义。
发明内容
本发明是为了克服上述现有技术的不足,提出的一种基于深度学习和跟踪技术的车道线实时检测方法,该方法克服了传统车道线检测方法的精度较差和普适性不佳的缺点,以及深度学习方法效率低下的不足,可以进行不同复杂路况的实时高精度车道线检测。
为了实现上述目的,本发明采用的技术方案如下:
基于深度学习和跟踪技术的车道线实时检测方法,包括如下步骤:步骤1,预先基于海量数据训练用于图像分割的基于全卷积神经网络的SegNet模型;步骤2,图像预处理,包括图像的去噪、划分兴趣区域等;步骤3,对首帧(关键帧)图像采用神经网络模型检测车道线;步骤4,对首帧后的3帧中车道线的位置采用Kalman跟踪算法预测;步骤5,末帧(关键帧)图像重复步骤3检测车道线,循环步骤3-5,直至结束。
相比于以往方法,本发明基于深度学习和跟踪技术的车道线实时检测方法具有以下有益效果:
(1)综合了深度学习技术的准确性和Kalman跟踪方法的快速性,车道线提取精度高、速度快,1秒可处理约30-40帧;
(2)采用了基于全卷积神经网络的SegNet模型,分类正确率高,共享卷积核的结构有利于处理高维度图像,输入数据灵活,效率高;
(3)有效去除了传统车道线检测方法中难以解决的高光、阴影等自然噪声的影响;
(4)对不同复杂路况的适用性较好,商业利用价值高。
附图说明
图1为本发明方法算法流程图。
图2SegNet模型结构
图3为本发明方法车道线实时检测的详细步骤和结果示意图。
具体实施方式
下面结合附图和实施例,对本发明方法的详细步骤作进一步说明。
1.预先训练SegNet模型
SegNet是基于caffe框架的旨在解决自动驾驶或者智能机器人的图像语义分割深度网络。SegNet是基于全卷积神经网络,修改VGG-16网络得到的语义分割网络。SegNet网络结构图如图2所示。前期的车道线检测模型的训练包括制作训练数据集、设计卷积神经网络结构和参数,以及模型训练等。
2.图像预处理
图像预处理包括两大内容:图像模糊,降低噪声;根据实际情况确定需要检测的车道线范围,划分兴趣区域。图像模糊采用高斯模糊方法,高斯滤波器采用7×7大小。图像兴趣区域的大小根据相机位置确定,满足的要求是兴趣区域的图像高度代表的实际距离大于最大车速下的无人车响应距离。划分兴趣区域可以进一步提高车道线检测精度和效率。
3.对车道线进行Kalman跟踪
卡尔曼滤波(Kalman filtering)是一种利用线性系统状态方程,通过系统输入输出观测数据,对系统状态进行最优估计的算法。它的基本假设是相邻两个时刻之间系统状态不变。实际情况中,在最大车速下,3帧以内或者0.1秒以内的图像中车道线的位置变化很小,因此首帧后的连续3帧可以采用Kalman跟踪算法进行预测,其主要步骤如下:
(1)确定状态转移矩阵,矩阵中包含速度信息;
(2)获取首帧图像检测的车道线位置,作为Kalman滤波的初始位置。
(3)用首帧位置进行预测,每预测10次将结果输出
(4)预测完末帧(首帧后第4帧),末帧预测结果和步骤5的车道线检测结果进行比较,。
4.更新Kalman跟踪并循环
利用预先训练好的SegNet模型对末帧(首帧后第4帧)图像进行车道线检测,其结果不仅作为下一次Kalman跟踪的初始状态,也和步骤4中末帧的Kalman跟踪结果进行比较,并反馈调节Kalman滤波器的参数,以使Kalman跟踪精度逐渐提高。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步说明,所用理解的是,以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,包括如下步骤:
步骤1,预先基于海量数据训练用于目标分割的SegNet模型;
步骤2,图像预处理,包括图像的去噪、划分兴趣区域等;
步骤3,对首帧(关键帧)图像采用SegNet模型检测车道线;
步骤4,对首帧后的3帧图像中车道线的位置采用Kalman跟踪算法预测;
步骤5,末帧(关键帧)图像重复步骤3检测车道线,循环步骤3-5,直至结束。
2.根据权利要求1所述基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,所述步骤1的具体步骤为:
(1)构建训练数据集;
(2)确定卷积神经网络相关参数
(3)模型训练
基于深度学习和跟踪技术的车道线实时检测方法采用了基于全卷积神经网络(FullConvolutional Network,FCN)的SegNet模型,分类正确率高,共享卷积核的结构有利于处理高维度图像,并且输入灵活、效率高。
3.根据权利要求1所述基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,所述步骤2的具体步骤为:
(1)图像模糊,降低噪声;
(2)根据实际情况确定需要检测的车道线范围,划分兴趣区域。
4.根据权利要求1所述基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,所述步骤3的具体步骤为:
利用预先训练好的SegNet模型对首帧图像进行车道线的检测。SegNet模型的输入为RGB图像,输出为图像分割后的车道线。
5.根据权利要求1所述基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,所述步骤4的具体步骤为:
基于深度学习和跟踪技术的车道线实时检测方法的重要前提是车道线位置在3帧以内变化很小,因此首帧后的连续3帧采用Kalman跟踪算法进行预测,每预测10次将结果输出,直至预测完末帧(首帧后第4帧),末帧预测结果和步骤5的车道线检测结果进行比较。
6.根据权利要求1所述基于深度学习和跟踪技术的车道线实时检测方法,其特征在于,所述步骤5的具体步骤为:
利用预先训练好的SegNet模型对末帧(首帧后第4帧)图像进行车道线检测,其结果不仅作为下一次Kalman跟踪的初始状态,也和步骤4中末帧的Kalman跟踪结果进行比较,并反馈调节Kalman滤波器的参数,以使Kalman跟踪精度逐渐提高。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710418031.2A CN109002745A (zh) | 2017-06-06 | 2017-06-06 | 一种基于深度学习和跟踪技术的车道线实时检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710418031.2A CN109002745A (zh) | 2017-06-06 | 2017-06-06 | 一种基于深度学习和跟踪技术的车道线实时检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109002745A true CN109002745A (zh) | 2018-12-14 |
Family
ID=64573390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710418031.2A Pending CN109002745A (zh) | 2017-06-06 | 2017-06-06 | 一种基于深度学习和跟踪技术的车道线实时检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109002745A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109740656A (zh) * | 2018-12-26 | 2019-05-10 | 华侨大学 | 一种基于卷积神经网络的矿石分选方法 |
DE102019209153A1 (de) * | 2019-06-25 | 2020-12-31 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum sicheren Klassifizieren und/oder Segmentieren von Bildern |
CN113222826A (zh) * | 2020-01-21 | 2021-08-06 | 深圳富泰宏精密工业有限公司 | 文档阴影去除方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102360499A (zh) * | 2011-06-30 | 2012-02-22 | 电子科技大学 | 一种基于卡尔曼滤波器组的多车道线追踪方法 |
CN104318258A (zh) * | 2014-09-29 | 2015-01-28 | 南京邮电大学 | 一种基于时域模糊和卡尔曼滤波器的车道线检测方法 |
US20150055831A1 (en) * | 2012-03-19 | 2015-02-26 | Nippon Soken, Inc. | Apparatus and method for recognizing a lane |
CN106599827A (zh) * | 2016-12-09 | 2017-04-26 | 浙江工商大学 | 一种基于深度卷积神经网络的小目标快速检测方法 |
CN106682586A (zh) * | 2016-12-03 | 2017-05-17 | 北京联合大学 | 一种复杂光照条件下基于视觉的实时车道线检测的方法 |
-
2017
- 2017-06-06 CN CN201710418031.2A patent/CN109002745A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102360499A (zh) * | 2011-06-30 | 2012-02-22 | 电子科技大学 | 一种基于卡尔曼滤波器组的多车道线追踪方法 |
US20150055831A1 (en) * | 2012-03-19 | 2015-02-26 | Nippon Soken, Inc. | Apparatus and method for recognizing a lane |
CN104318258A (zh) * | 2014-09-29 | 2015-01-28 | 南京邮电大学 | 一种基于时域模糊和卡尔曼滤波器的车道线检测方法 |
CN106682586A (zh) * | 2016-12-03 | 2017-05-17 | 北京联合大学 | 一种复杂光照条件下基于视觉的实时车道线检测的方法 |
CN106599827A (zh) * | 2016-12-09 | 2017-04-26 | 浙江工商大学 | 一种基于深度卷积神经网络的小目标快速检测方法 |
Non-Patent Citations (2)
Title |
---|
V. BADRINARAYANAN ET AL.: "SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
胡会珍 等: "卡尔曼滤波器模型的建立及其对车道线的跟踪", 《机械工程与自动化》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109740656A (zh) * | 2018-12-26 | 2019-05-10 | 华侨大学 | 一种基于卷积神经网络的矿石分选方法 |
DE102019209153A1 (de) * | 2019-06-25 | 2020-12-31 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum sicheren Klassifizieren und/oder Segmentieren von Bildern |
CN113222826A (zh) * | 2020-01-21 | 2021-08-06 | 深圳富泰宏精密工业有限公司 | 文档阴影去除方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109685066B (zh) | 一种基于深度卷积神经网络的矿井目标检测与识别方法 | |
CN109285179A (zh) | 一种基于多特征融合的运动目标跟踪方法 | |
CN109753949B (zh) | 一种基于深度学习的多视窗交通标志检测方法 | |
CN103886325B (zh) | 一种分块的循环矩阵视频跟踪方法 | |
CN103971386A (zh) | 一种动态背景场景下的前景检测方法 | |
CN103268616A (zh) | 多特征多传感器的移动机器人运动人体跟踪方法 | |
CN104268538A (zh) | 一种易拉罐点阵喷码字符在线视觉检测方法 | |
CN110210398A (zh) | 一种三维点云语义分割标注方法 | |
CN106778570B (zh) | 一种行人实时检测与跟踪方法 | |
CN105741324A (zh) | 移动平台上的运动目标检测识别与跟踪方法 | |
CN110032952B (zh) | 一种基于深度学习的道路边界点检测方法 | |
CN109002745A (zh) | 一种基于深度学习和跟踪技术的车道线实时检测方法 | |
CN104318588A (zh) | 一种基于位置感知判别外观模型的多摄像机目标跟踪方法 | |
CN109101932A (zh) | 基于目标检测的多任务及临近信息融合的深度学习算法 | |
CN103473547A (zh) | 一种用于智能交通检测系统的车辆目标物识别算法 | |
CN112446882A (zh) | 一种动态场景下基于深度学习的鲁棒视觉slam方法 | |
CN106296743A (zh) | 一种自适应运动目标跟踪方法及无人机跟踪系统 | |
CN109359549A (zh) | 一种基于混合高斯和hog_lbp的行人检测方法 | |
CN108921880A (zh) | 一种基于多个单跟踪器的视觉多目标跟踪方法 | |
CN106845482A (zh) | 一种车牌定位方法 | |
CN107633258A (zh) | 一种基于前馈特征提取的深度学习识别系统及方法 | |
CN107563331A (zh) | 一种基于几何关系的道路标志线检测方法及系统 | |
CN105741326B (zh) | 一种基于聚类融合的视频序列的目标跟踪方法 | |
CN116259002A (zh) | 一种基于视频的人体危险行为分析方法 | |
CN106599918A (zh) | 车辆追踪方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20181214 |
|
WD01 | Invention patent application deemed withdrawn after publication |