CN106671991A - 基于多线索视觉特征融合的车道偏离预警方法 - Google Patents
基于多线索视觉特征融合的车道偏离预警方法 Download PDFInfo
- Publication number
- CN106671991A CN106671991A CN201611254098.9A CN201611254098A CN106671991A CN 106671991 A CN106671991 A CN 106671991A CN 201611254098 A CN201611254098 A CN 201611254098A CN 106671991 A CN106671991 A CN 106671991A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- visual signature
- track
- feature
- lane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0043—Signal treatments, identification of variables or parameters, parameter estimation or state estimation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于多线索视觉特征融合的车道偏离预警方法,包括:将采集的图像转换成灰度图,至少提取第一视觉特征和第二视觉特征;对提取到的多个特征进行融合得到检查结果;通过跟踪系统提取稳定的角点,并对角点特征点进行匹配跟踪,得到跟踪结果;将跟踪结果与检测结果进行融合,得到最终检查结果,识别车道线;计算车在车道中的位置P,判断车是否发生偏移,当P‑L< 0时,车辆发生左偏转,当P‑R>0时,车发生右偏转,其中L为左边车道线位置,R为右边车道线位置;当判断车辆发生偏转时进行报警。通过多线索特征的融合,可以增强检测目标的鲁棒性,能够更加准确的描述车辆偏离车道线的过程,在车辆偏离时的报警更加准确。
Description
技术领域
本发明涉及一种车道偏离预警方法,具体地涉及一种基于多线索视觉特征融合的车道偏离预警方法。
背景技术
视觉特征是在计算机视觉领域常用的识别物体目标的特征,它是人工智能与模式识别的一个基本模块。视觉特征有度值特征、边缘梯度特征、LBP特征、角点特征点特征等等。
车道偏离预警系统是辅助驾驶系统的一种,该系统通过安装于车辆前方的摄像头传感器对车辆行驶状况以及道路状况进行实时监控。当车辆在换道偏离时,对错误的违规换道行为进行预警提示,并及时提醒驾驶员修正驾驶行为。
通常,车道偏离系统中的车道线检测多采用检测器检测,用到的主要技术方法有:霍夫变换、直线检测、边缘提取等。由于检测过程中,使用的视觉特征单一、用到的算法复杂度高以及算法的精度问题,目前,存在的问题有:
1、系统无法达到实时检测的要求。
2、只能对简单路况进行识别和判定。
3、系统精度难以达到国标的要求。
例如,公告号为CN 103738243的中国专利文献公开了一种车道偏离预警方法,包括视频采集装置安装和参数标定步骤、图像预处理步骤、边缘检测步骤、车道线识别步骤和车道偏离预警时间确定步骤;其中,边缘检测步骤,包括采用局部最大差值法提取图像边缘梯度、采用最大类间方差法对边缘图像进行二值化处理、对二值化后的边缘图像进行细化、噪点去除处理;车道线识别步骤,通过Hough变换检测出多条直线,选定符合要求的车道线。该专利的车道线的识别是通过边缘检测,提取图像边缘梯度,通过Hough变换检测出多条直线。其使用的视觉特征单一,车道线识别的准确率不高。
发明内容
针对上述存在的技术问题,本发明提供了一种基于多线索视觉特征融合的车道偏离预警方法,通过多线索特征的融合,来增强检测目标的鲁棒性,能够更加准确的描述车辆偏离车道线的过程,在车辆偏离时的报警更加准确。
本发明的技术方案是:
一种基于多线索视觉特征融合的车道偏离预警方法,包括以下步骤:
S01:将采集的图像转换成灰度图,至少提取第一视觉特征p1(x)和第二视觉特征p2(x);
S02:对提取到的多个特征进行融合得到检查结果,即:
p(x)=w1·p1(x)+w2·p2(x)
其中,w1,w2为特征融合的权重;
S03:通过跟踪系统提取稳定的角点,并对角点特征点进行匹配跟踪,得到跟踪结果Rt(x);
S04:将跟踪结果Rt(x)与检测结果p(x)进行融合,得到最终的检查结果R(x),识别出车道线,即:
R(x)=wt·Rt(x)+wd·p(x)
其中,wt,wd为融合的权重;
S05:计算车辆在车道中的位置P,判断车辆是否发生偏移,当P-L<0时,车辆发生左偏转,当P-R>0时,车辆发生右偏转,其中L为左边车道线位置,R为右边车道线位置;当判断车辆发生偏转时进行报警。
优选的,在检测过程的视觉特征为三个,第一视觉特征为LBP特征p1(x)、第二视觉特征为灰度值特征p2(x)、第三视觉特征为边缘梯度值特征p3(x),对应的特征融合权重为w1,w2,w3,初始权重为0.3、0.5、0.2,三个权重值根据特征的可靠性进行动态调整分配。
优选的,所述跟踪模块权重wt,检测模块权重wd的初始权重为0.5、0.5,在检测过程中,两个权重值根据特征的可靠性进行动态调整分配。
优选的,所述步骤S05中车辆在车道中的位置由下述步骤得到,通过投影变换矩阵,将车道线结果投影到鸟瞰图,通过下述公式计算车辆在车道中的位置P(x)为:
P(x)=Left(x)+Right(x)-Lcar
其中,Left(x)为投影图计算得到的左边车道线位置,Right(x)为投影图计算得到的右边车道线位置,Lcar为车的宽度。
优选的,通过车辆在车道中的位置P(x),得到横向偏离速度v(x):
v(x)=(p(x1)-p(x0))*cosα
其中,p(x1)、p(x0)为相邻两帧图片中车辆的位置,车辆角度α为:
其中,α1为左侧车道线的角度,α2为右侧车道线的角度;
通过车辆在车道中的位置以及横向偏离速度v判断是否发生偏移状态,当0.0<v<0.5且P-L<0.7或者v>0.5且0.7<P–L时,车辆发生左偏转,当0.0<v<0.5且P-R<0.7或者v>0.5且0.7<P–R时,车辆发生左偏转。
与现有技术相比,本发明的优点是:
1、本发明的系统采用了视觉多线索特征进行融合,检测效果更加鲁棒有效。本发明的系统集成了检测和跟踪算法,在车道线检测的性能上更加准确。
2、种通过车道线判定车辆自身位置的算法,能够更加准确的描述车辆偏离车道线的过程,在车辆偏离时的报警更加准确。
附图说明
下面结合附图及实施例对本发明作进一步描述:
图1为本发明车道线检测的流程图;
图2为本发明车辆偏离车道的报警流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明了,下面结合具体实施方式并参照附图,对本发明进一步详细说明。应该理解,这些描述只是示例性的,而并非要限制本发明的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
实施例:
下面结合附图,对本发明的较佳实施例作进一步说明。
如图1所示,具体包括如下步骤:
1、采集摄像头是分辨率1280*720的RGB摄像头。提取到图片之后,RGB2GRAY转换成灰度图。
2、检测LBP特征。
3、使用Sobel算子提取图像边缘梯度特征,具体如下:
通过Gx,Gy进行卷积得到梯度图。对Gx和Gy通过以下公式可以得到该点的梯度幅值:
并且可以通过梯度公式计算得到梯度方向θ:
4、通过最大类间方差法(OSTU)对图像进行阈值二值化,得到二值图,即可提取到车道线的灰度特征。
记t为前景与背景的分割阈值,前景点数占图像比例为w0,平均灰度为u0。背景点数占图像比例为w1,平均灰度为u1。则图像的总平均灰度为:u=w0*u0+w1*u1。
前景和背景图象的方差:
g=w1·(u0-u)·(u0-u)+w2·(u1-u)·(u1-u)
=w1·w2·(u0-u)·(u1-u)
因此通过得到的阈值g,可以对图像进行阈值二值化,从而得到灰度特征。
5、多线索融合算法
通过对提取到的多线索特征,如灰度值特征p1、边缘梯度值特征p2、LBP特征p3,进行融合:
p(x)=w1·p1(x)+w2·p2(x)+w3·p3(x)
其中,w1,w2,w3为三种特征融合的权重。初始权重为0.5、0.2、03,在检测过程中,这三个权重值会根据特征的可靠性来动态调整分配。
6、跟踪与检测结果相融合
通过级联检测器检测到的结果,主要检测多线索特征,包括灰度值特征、边缘梯度特征、LBP特征等进行检测车道线。
通过跟踪系统在上一帧图结果的邻域中提取稳定的角点,并对角点特征点进行匹配跟踪,从而得到跟踪的结果。跟踪的方法为常用的特征点角点跟踪算法。
最终的检测结果为跟踪结果与检测结果相融合:
R(x)=wt·Rt(t)+wd·Rd(x)
其中,wt,wd为跟踪与检测结果相融合的权重。初始权重为0.5、0.5,在检测过程中,这两个权重值会根据特征的可靠性来动态调整分配。
7、根据最终的检测结果识别出车道线后,通过投影变换矩阵,将车道线结果投影到鸟瞰图。通过公式得出车在车道中的位置P(x)为:
P(x)=Left(x)+Right(x)-Lcar
其中,Left(x)为投影图计算得出左边车道线位置,Right(x)为投影图计算得出右边车道线位置,Lcar为车的宽度为。则
8、在得到车辆位置后,识别以及报警的流程如图2所示。通过车辆在车道中的位置P(x),得到横向偏离速度v(x)。
v(x)=(p(x1)-p(x0))*cosα
其中p(x1)、p(x0)为相邻两帧图片中车辆的位置,车辆角度α通过车道线的角度得到。
记左侧车道线的角度(投影图中车道线与水平线的夹角)为α1,右侧车道线的角度为α2,则α为:
9、通过车在车道中的位置(单位m)以及横向偏离速度v(单位m/s)判断是否发生偏移状态,P为车辆位置,L为左边车道线位置,R为右边车道线位置。
通过车在车道中的位置判断是否发生偏移状态之后,在显示器上显示出报警状态并发出报警声音。
应当理解的是,本发明的上述具体实施方式仅仅用于示例性说明或解释本发明的原理,而不构成对本发明的限制。因此,在不偏离本发明的精神和范围的情况下所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。此外,本发明所附权利要求旨在涵盖落入所附权利要求范围和边界、或者这种范围和边界的等同形式内的全部变化和修改例。
Claims (5)
1.一种基于多线索视觉特征融合的车道偏离预警方法,其特征在于,包括以下步骤:
S01:将采集的图像转换成灰度图,至少提取第一视觉特征p1(x)和第二视觉特征p2(x);
S02:对提取到的多个特征进行融合得到检查结果,即:
p(x)=w1·p1(x)+w2·p2(x)
其中,w1,w2为特征融合的权重;
S03:通过跟踪系统提取稳定的角点,并对角点特征点进行匹配跟踪,得到跟踪结果Rt(x);
S04:将跟踪结果Rt(x)与检测结果p(x)进行融合,得到最终的检查结果R(x),识别出车道线,即:
R(x)=wt·Rt(x)+wd·p(x)
其中,wt,wd为融合的权重;
S05:计算车辆在车道中的位置P,判断车辆是否发生偏移,当P-L<0时,车辆发生左偏转,当P-R>0时,车辆发生右偏转,其中L为左边车道线位置,R为右边车道线位置;当判断车辆发生偏转时进行报警。
2.根据权利要求1所述的基于多线索视觉特征融合的车道偏离预警方法,其特征在于,在检测过程的视觉特征为三个,第一视觉特征为LBP特征p1(x)、第二视觉特征为灰度值特征p2(x)、第三视觉特征为边缘梯度值特征p3(x),对应的特征融合权重为w1,w2,w3,初始权重为0.3、0.5、0.2,三个权重值根据特征的可靠性进行动态调整分配。
3.根据权利要求1所述的基于多线索视觉特征融合的车道偏离预警方法,其特征在于,所述跟踪模块权重wt,检测模块权重wd的初始权重为0.5、0.5,在检测过程中,两个权重值根据特征的可靠性进行动态调整分配。
4.根据权利要求1所述的基于多线索视觉特征融合的车道偏离预警方法,其特征在于,所述步骤S05中车辆在车道中的位置由下述步骤得到,通过投影变换矩阵,将车道线结果投影到鸟瞰图,通过下述公式计算车辆在车道中的位置P(x)为:
P(x)=Left(x)+Right(x)-Lcar
其中,Left(x)为投影图计算得到的左边车道线位置,Right(x)为投影图计算得到的右边车道线位置,Lcar为车的宽度。
5.根据权利要求1或4所述的基于多线索视觉特征融合的车道偏离预警方法,其特征在于,通过车辆在车道中的位置P(x),得到横向偏离速度v(x):
v(x)=(p(x1)-p(x0))*cosα
其中,p(x1)、p(x0)为相邻两帧图片中车辆的位置,车辆角度α为:
其中,α1为左侧车道线的角度,α2为右侧车道线的角度;
通过车辆在车道中的位置以及横向偏离速度v判断是否发生偏移状态,当0.0<v<0.5且P-L<0.7或者v>0.5且0.7<P–L时,车辆发生左偏转,当0.0<v<0.5且P-R<0.7或者v>0.5且0.7<P–R时,车辆发生左偏转。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611254098.9A CN106671991B (zh) | 2016-12-30 | 2016-12-30 | 基于多线索视觉特征融合的车道偏离预警方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611254098.9A CN106671991B (zh) | 2016-12-30 | 2016-12-30 | 基于多线索视觉特征融合的车道偏离预警方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106671991A true CN106671991A (zh) | 2017-05-17 |
CN106671991B CN106671991B (zh) | 2019-01-11 |
Family
ID=58872772
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611254098.9A Active CN106671991B (zh) | 2016-12-30 | 2016-12-30 | 基于多线索视觉特征融合的车道偏离预警方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106671991B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107833240A (zh) * | 2017-11-09 | 2018-03-23 | 华南农业大学 | 多跟踪线索引导的目标运动轨迹提取和分析方法 |
CN108216024A (zh) * | 2017-12-14 | 2018-06-29 | 浙江鼎奕科技发展有限公司 | 一种车道偏离预警系统及其方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050123210A1 (en) * | 2003-12-05 | 2005-06-09 | Bhattacharjya Anoop K. | Print processing of compressed noisy images |
JP2007257242A (ja) * | 2006-03-23 | 2007-10-04 | Niles Co Ltd | 白線認識装置 |
CN102288121A (zh) * | 2011-05-12 | 2011-12-21 | 电子科技大学 | 一种基于单目视觉的车道偏离距离测量及预警方法 |
CN104036246A (zh) * | 2014-06-10 | 2014-09-10 | 电子科技大学 | 一种基于多特征融合及多态均值的车道线定位方法 |
CN104183142A (zh) * | 2014-08-18 | 2014-12-03 | 安徽科力信息产业有限责任公司 | 一种基于图像视觉处理技术的车流量统计方法 |
-
2016
- 2016-12-30 CN CN201611254098.9A patent/CN106671991B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050123210A1 (en) * | 2003-12-05 | 2005-06-09 | Bhattacharjya Anoop K. | Print processing of compressed noisy images |
JP2007257242A (ja) * | 2006-03-23 | 2007-10-04 | Niles Co Ltd | 白線認識装置 |
CN102288121A (zh) * | 2011-05-12 | 2011-12-21 | 电子科技大学 | 一种基于单目视觉的车道偏离距离测量及预警方法 |
CN104036246A (zh) * | 2014-06-10 | 2014-09-10 | 电子科技大学 | 一种基于多特征融合及多态均值的车道线定位方法 |
CN104183142A (zh) * | 2014-08-18 | 2014-12-03 | 安徽科力信息产业有限责任公司 | 一种基于图像视觉处理技术的车流量统计方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107833240A (zh) * | 2017-11-09 | 2018-03-23 | 华南农业大学 | 多跟踪线索引导的目标运动轨迹提取和分析方法 |
CN107833240B (zh) * | 2017-11-09 | 2020-04-17 | 华南农业大学 | 多跟踪线索引导的目标运动轨迹提取和分析方法 |
CN108216024A (zh) * | 2017-12-14 | 2018-06-29 | 浙江鼎奕科技发展有限公司 | 一种车道偏离预警系统及其方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106671991B (zh) | 2019-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11854272B2 (en) | Hazard detection from a camera in a scene with moving shadows | |
CN101629820B (zh) | 道路边缘检测 | |
US8810653B2 (en) | Vehicle surroundings monitoring apparatus | |
JP4992990B2 (ja) | 区画線検出装置 | |
EP2741256B1 (en) | Moving body detection device and method | |
CN103984961A (zh) | 一种用于检测车底异物的图像检测方法 | |
CN107097794B (zh) | 道路车道线的侦测系统及其方法 | |
CN110334678A (zh) | 一种基于视觉融合的行人检测方法 | |
CN106887004A (zh) | 一种基于块匹配的车道线检测方法 | |
CN109635737A (zh) | 基于道路标记线视觉识别辅助车辆导航定位方法 | |
CN109886064B (zh) | 确定可驾驶空间的边界的方法 | |
Lion et al. | Smart speed bump detection and estimation with kinect | |
CN114463362A (zh) | 一种基于深度学习的三维避碰声呐障碍物检测方法及系统 | |
CN106671991B (zh) | 基于多线索视觉特征融合的车道偏离预警方法 | |
JP4936045B2 (ja) | 車体色判別装置、方法及びプログラム | |
Chen et al. | A novel lane departure warning system for improving road safety | |
TWI621073B (zh) | Road lane detection system and method thereof | |
JP3771729B2 (ja) | 交通流計測システム | |
JPS639813A (ja) | 車間距離検出方式 | |
JP2924063B2 (ja) | 画像処理式交通流計測装置 | |
CN109886120B (zh) | 一种斑马线检测方法及系统 | |
Xiaoyong et al. | Real-time on-road vehicle detection algorithm based on monocular vision | |
JPH07104159B2 (ja) | 絶対車間距離検出方式 | |
JP4055785B2 (ja) | 移動物体の高さ検出方法及び装置並びに物体形状判定方法及び装置 | |
JP2001283374A (ja) | 交通流計測システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |