CN111002990A - 一种基于动态偏离阈值的车道偏离预警方法及系统 - Google Patents

一种基于动态偏离阈值的车道偏离预警方法及系统 Download PDF

Info

Publication number
CN111002990A
CN111002990A CN201911232351.4A CN201911232351A CN111002990A CN 111002990 A CN111002990 A CN 111002990A CN 201911232351 A CN201911232351 A CN 201911232351A CN 111002990 A CN111002990 A CN 111002990A
Authority
CN
China
Prior art keywords
lane
vehicle
early warning
departure
deviation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911232351.4A
Other languages
English (en)
Other versions
CN111002990B (zh
Inventor
田晟
冯宇鹏
张剑锋
肖佳将
朱泽坤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201911232351.4A priority Critical patent/CN111002990B/zh
Publication of CN111002990A publication Critical patent/CN111002990A/zh
Application granted granted Critical
Publication of CN111002990B publication Critical patent/CN111002990B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/114Yaw movement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0019Control system elements or transfer functions
    • B60W2050/0028Mathematical models, e.g. for simulation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means

Abstract

本发明公开了一种基于动态偏离阈值的车道偏离预警方法及系统,所述方法步骤如下:S1、建立车辆‑道路几何模型,以此求得车辆在车道中的相对位置与偏航情况;S2、根据车辆在车道中的相对位置和偏航情况,构建基于动态偏离阈值的预警模型;S3、提出偏离帧计数器,根据连续多帧的预警情况作出最终预警决策。该方法所涉及的车道偏离预警系统主要由图像预处理模块、车道线检测模块、坐标系转换及车道线拟合模块、车道线跟踪模块以及车道偏离预警模块构成。本发明通过偏航角动态调整偏离阈值,能够给予驾驶员充足的提前预警时间,具备良好的预警准确性和鲁棒性。

Description

一种基于动态偏离阈值的车道偏离预警方法及系统
技术领域
本发明涉及汽车自动驾驶和高级辅助行驶预警领域,特别是涉及一种基于动态偏离阈值的车道偏离预警方法及系统。
背景技术
低碳化、互联网化、智能化是目前解决汽车产业对环境破坏、交通安全等问题的关键。交通事故现已成为威胁人民生命财产安全的重要因素之一。分析4个美国车祸数据库发现,由车道偏离导致的单车事故只占所有事故的10%,但是致死率却高达31%,可见,车道偏离往往会导致严重的交通事故。据美国公路安全保险协会2017年的一项调查显示,配备车道偏离预警系统能减少11%的单车、侧滑和迎面碰撞等交通事故,同时将这类交通事故的人员伤害率降低21%。因此,研究车道偏离预警具有非常重要的现实意义,有效的车道偏离预警可以显著减少交通事故,尤其是重大交通事故,避免对驾乘人员及其他道路使用者造成无法挽回的生命财产损失。
当前,常见的车道偏离预警系统中,广泛采用的预警模型有基于车辆当前位置的预警模型、基于跨道距离的预警模型、基于车辆跨道时间的预警模型、基于车辆未来偏移量的预警模型。这几种模型均需要从车载相机获取道路图像并提取相关的车道信息作为模型的输入,通常需要精确获取车道线位置及自车在车道中的相对位置。需要建立车辆系统、相机与路面的几何成像模型,对相机的安装与标定有较高的要求。此外,这类预警模型通过预测车辆与两侧车道线的距离或偏离当前车道中线的距离判断车辆是否发生车道偏离。通常采用固定的触发阈值作为系统决策的触发条件,然而每个司机的驾驶习惯各不相同,部分司机习惯靠向一侧车道线行驶。且在行驶过程中,基于跨道距离或车辆当前位置的预警模型由于未考虑车辆横向偏离趋势,无法判断未来一段时间内车辆是否继续往一侧车道线偏离。因此,这类预警模型极易发生误警或预警不及时。
综上所述,研究车道偏离预警对于减少交通事故、提高驾驶员的安全驾驶水平有着显著的现实意义。传统技术上的车道偏离预警模型对于车载设备的要求较高,并且存在无法判断车辆偏离趋势的问题,缺乏良好的预警准确性和鲁棒性。
发明内容
本发明的主要目的在于克服现有技术的缺点与不足,提供一种基于动态偏离阈值的车道偏离预警方法,本发明能够有效权衡车辆横向偏离量与偏航角这两项预警触发条件,根据偏航角动态调整横向偏离阈值,解决系统由于单一触发条件所引起的误警及预警不及时的问题,实现准确的车道偏离预警。
本发明的另一目的在于,提供一种基于动态偏离阈值的车道偏离预警系统。
为了达到上述目的,本发明采用以下技术方案:
一种基于动态偏离阈值的车道偏离预警方法,包括下述步骤:
S1、建立车辆-道路几何模型,以此求得车辆在车道中的相对位置与偏航情况,所述车辆-道路几何模型如下:
S11、建立俯视视角下的车辆坐标系O-XY,其原点设在车辆前端中点投影到道路平面上的O点;X轴在道路平面上且垂直于车辆中轴线,指向车辆行驶方向右侧;Y轴同样在道路平面上且垂直于X轴,指向车辆前方;
S12、将相机采集的图像进行逆透视变换,逆透视图像的像素坐标系o’-u’v’的原点o’在逆透视变换图像左上角,其坐标轴与车辆坐标系O-XY的坐标轴相互平行,逆透视图像的像素坐标系方与车辆坐标系的转换关系如下式表示:
X=(u'-wIPM/2)σ1 (1)
Y=(hIPM-v')σ2+μ' (2)
式中,wIPM、hIPM分别表示逆透视图像的像素宽度和像素高度;σ1、σ2分别表示逆透视图像在横轴和纵轴方向上单位像素在车辆坐标系下的水平距离;
S2、根据车辆在车道中的相对位置与偏航情况,构建基于动态偏离阈值的预警模型,所述预警模型如下:
车辆偏航角可判断车辆的偏航方向,同时根据偏航角的大小还可判断车辆的偏离速度,因此根据偏航角动态调整偏离阈值,当偏航角α=0时,车辆行驶方向与车道线平行,不再往一侧偏移,此时设置较大的横向偏移阈值dt,即预警线更靠近车道线;当偏航角α与偏航距离dm的符号一致时,||α||越大,则偏离速度越快,此时应设置较小的横向偏移阈值dt,即预警线更靠近车道中线;当偏航角α与横向偏离量dm的符号一致且||α||≥π/18时,偏航角过大,车辆极易发生车道偏移,此时直接触发偏离警报;
S3、提出偏离帧计数器,根据连续多帧的预警情况作出最终预警决策,具体为:
当判定车辆未触发偏离预警时,将偏离帧计数器C复位为0;当判定车辆向右触发偏离预警时,C自增1;当车辆向左触发偏离预警时,C自减1。设置C的预警阈值为±5,当系统连续5帧均判定车辆发生同一方向的偏离,则判定车辆确实往该侧偏离车道,此时向司机发出偏离警报。
作为优选的技术方案,所述车辆中轴线在车辆坐标系下的拟合曲线如下:
X=am0+am1Y+am2Y2
其中,am0、am1和am2分别为二次多项式函数的系数;
所述偏航角α的计算公式如下:
Figure BDA0002303907020000041
当α<0时,车辆往右靠近或偏离车道中线;当α>0时,车辆往左靠近或偏离车道中线,||α||越大,则车辆偏离速度越快,车辆越快偏离车道;
所述横向偏离量dm的计算公式如下:
dm=OP≈OQ·cosα=am0cosα
当dm<0时,车辆处于车道中线右侧,当dm>0时,车辆处于车道中线左侧。
作为优选的技术方案,步骤S2中,所述的预警模型的预警触发机制如下:
Figure BDA0002303907020000042
当满足上式所示触发条件时,触发车道偏离预警,车辆往左侧偏离;
Figure BDA0002303907020000043
当满足上式所示触发条件时,触发车道偏离预警,车辆往右侧偏离;
其中,dth为最大可允许偏离阈值,与车道宽度和车宽有关;λ为动态影响因子,用于调整偏航角对偏离阈值的影响程度。
作为优选的技术方案,所述预警模型中动态偏离阈值的计算公式如下:
Dth=dth/(1+λ||sinα||)
其中,Dth称为动态偏离阈值。
作为优选的技术方案,所述偏离帧计数器的预警范围为:
左偏状态:预警阈值≤-5;
正常状态:-4≤预警阈值≤4;
右偏状态:预警阈值≥5。
为了达到上述另一目的,本发明采用以下技术方案:
一种基于动态偏离阈值的车道偏离预警系统,包括图像预处理模块、车道线检测模块、坐标系转换及车道线拟合模块、车道线跟踪模块、和车道偏离预警模块,
所述图像预处理模块,用于在车道线检测前对输入图像进行灰度转换和尺寸变换;
所述车道线检测模块,通过预训练的扩张卷积金字塔网络模型提取车道线特征并输出车道线点集和分类信息,并获得准确的车道线信息;
所述坐标系转换及车道线拟合模块,用于将透视图像中的车道线转换到俯视视角下,并对车道线进行二次多项式函数拟合,简化车道线模型;
所述车道线跟踪模块,用于对逆透视图像像素坐标系下的车道线拟合曲线进行跟踪,使连续帧之间车道线位置保持连贯性;
所述车道偏离预警模块,根据车道线跟踪模块确认的车道线函数,结合车辆-道路几何模型,通过基于动态偏离阈值的车道偏离预警模型判断车道偏离与否,最后将偏离结果显示到预警显示界面。
作为优选的技术方案,所述的扩张卷积金字塔网络,其基础网络由标准的MobileNets V2网络改进而来,将原网络最后的2个1×1标准卷积层和平均池化层去掉,仅保留所有瓶颈单元及之前的卷积层,模型训练时,采用经ImageNet图像数据集预训练的MobileNets V2。
作为优选的技术方案,采用串行和并行结合三层扩张卷积,其中第一个扩张卷积层所对应的卷积核为3×3,扩张率为1,所得感受野尺寸为3×3,用来检测尺寸较短的车道线;第二个扩张卷积层对应的卷积核为3×3,扩张率为2,经两层扩张卷积运算后的感受野尺寸为7×7,用以检测尺寸中等的车道线;第三个扩张卷积层对应的卷积核为3×3,扩张率为4,经连续三层扩张卷积运算后感受野尺寸扩大为15×15,用以检测尺寸较长的车道线,三个扩张卷积层输出的特征图维度一致,最后经1×1的标准卷积运算后,输出多维预测张量。
作为优选的技术方案,所述的车道线跟踪模块中采用Kalman滤波器对逆透视图像像素坐标系下的车道线拟合曲线进行跟踪。
作为优选的技术方案,所述预警系统显示界面左上角窗口为相机采集原图,右上角为车道线检测显示图,红色圆点表示当前车道线,绿色圆点表示其它车道线,绿色区域表示当前车道所在区域,左下角为检测图像的逆透视图,右下角为系统信息显示栏,分别显示横向偏离量、偏航角、实时偏离阈值、偏离预警状态这四项基本信息。
本发明与现有技术相比,具有如下优点和有益效果:
1、该发明提出的基于动态偏离阈值的预警模型,与基于单一触发条件的预警模型相比,能够根据车辆偏航角动态调整车辆横向偏离阈值,动态补偿由于偏航角增大导致的偏离速度加快的问题,由车辆横向偏离量和偏离阈值综合判定车辆偏离情况,结合偏离帧计数器最终判定是否发出偏离警报,设置的偏离帧计数器,解决了单帧预警的不完全可靠性,有效降低预警系统的敏感度,从而降低误警率;2、该发明搭建了车道偏离预警系统,在Ubuntu系统中实现预警系统的完整功能,通过PreScan仿真驾驶环境测试分析,采用基于动态偏离阈值的预警系统比采用固定偏离阈值的预警系统,能够实现更加稳定的提前预警帧数,同时解决了在偏航角过小时的提前预警对司机的正常驾驶产生困扰的问题,具备良好的预警准确性和鲁棒性。
附图说明
图1为本发明实施例中的基于动态偏离阈值的车道偏离预警流程图;
图2为本发明实施例中的车辆-道路几何模型图。
图3为本发明实施例中的车道偏离预警系统架构图;
具体实施方式
下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限于此。
实施例
如图1所示,本实施例提供了一种基于动态偏离阈值的车道偏离预警方法,包括以下步骤:
S1、建立车辆-道路几何模型,以此求得车辆在车道中的相对位置与偏航情况;
S2、根据车辆在车道中的相对位置与偏航情况,构建基于动态偏离阈值的预警模型;
S3、提出偏离帧计数器,根据连续多帧的预警情况作出最终预警决策。
具体地,步骤S1的车辆-道路几何模型如图2所示:
首先,建立俯视视角下的车辆坐标系(O-XY),其原点设在车辆前端中点投影到道路平面上的O点;X轴在道路平面上且垂直于车辆中轴线,指向车辆行驶方向右侧;Y轴同样在道路平面上且垂直于X轴,指向车辆前方;其中,车辆中轴线是指垂直于汽车前轴和后轴、并且位于前轴和后轴所决定的平面内的一条直线。
接着,将相机采集的图像进行逆透视变换,逆透视图像的像素坐标系(o’-u’v’)的原点o’在逆透视变换图像左上角,其坐标轴与车辆坐标系(O-XY)的坐标轴相互平行,逆透视图像的像素坐标系方与车辆坐标系的转换关系如下式表示:
X=(u'-wIPM/2)σ1 (1)
Y=(hIPM-v')σ2+μ' (2)
式中,wIPM、hIPM分别表示逆透视图像的像素宽度和像素高度;σ1、σ2分别表示逆透视图像在横轴和纵轴方向上单位像素在车辆坐标系下的水平距离。
图2中Ll和Lr分别表示当前车道左右车道线在车辆坐标系下的二次多项式拟合曲线,Lm为车道中线的二次多项式拟合曲线,由Ll和Lr的拟合点之间的中点进行二次多项式拟合得到,所述车道中线是指在单车道中,平行于左右车道线、并且到左右车道线的距离相等的一条直线,设其在车辆坐标系下的拟合曲线为:
X=am0+am1Y+am2Y2 (3)
车道中线的拟合曲线Lm与车辆前端的交点Q处,拟合曲线的切线与车辆行驶方向的夹角可近似作为车辆的偏航角,根据拟合曲线函数可知Q点坐标为(am0,0),在点Q处对Y求偏导可得偏航角α为:
Figure BDA0002303907020000081
当α<0时,车辆往右靠近或偏离车道中线;当α>0时,车辆往左靠近或偏离车道中线。||α||越大,则车辆偏离速度越快,车辆越快偏离车道。
设车辆坐标系下车辆前端中点O到曲线Lm上最近的点为P(Xp,Yp),即OP为车辆前端中点到车道中线的距离,记为横向偏离量dm。由于偏航角一般较小,为简化计算,将ΔOPQ近似认为直角三角形,∠OPQ为直角,∠POQ=α,OQ=am0,则dm可表示为:
dm=OP≈OQ·cosα=am0cosα (5)
当dm<0时,车辆处于车道中线右侧,当dm>0时,车辆处于车道中线左侧。
具体地,步骤S2的基于动态偏离阈值的预警模型的构建依据为:
车辆偏航角可以判断车辆的偏航方向,同时根据偏航角的大小还可以大致判断车辆的偏离速度。因此可以根据偏航角动态调整偏离阈值,当偏航角α=0时,车辆行驶方向与车道线平行,不再往一侧偏移,此时可设置较大的横向偏移阈值dt,即预警线更靠近车道线。当偏航角α与偏航距离dm的符号一致时,||α||越大,则偏离速度越快,此时应设置较小的横向偏移阈值dt,即预警线更靠近车道中线。当偏航角α与横向偏离量dm的符号一致且||α||≥π/18(即10°)时,偏航角过大,车辆极易发生车道偏移,此时直接触发偏离警报。因此,建立如下的预警触发机制。
Figure BDA0002303907020000091
当满足式(6)所示触发条件时,触发车道偏离预警,车辆往左侧偏离;
Figure BDA0002303907020000092
当满足式(7)所示触发条件时,触发车道偏离预警,车辆正往右侧偏离。
式(6)和式(7)中,dth为最大可允许偏离阈值,与车道宽度和车宽有关;λ为动态影响因子,用于调整偏航角对偏离阈值的影响程度。
记Dth=dth/(1+λ||sinα||),Dth称为动态偏离阈值。当动态影响因子λ>0且偏航角α与偏航距离dm的符号一致时,||α||越大,动态偏离阈值Dth越小,系统越早触发偏离预警。同样,当||α||一定且偏航角α与偏航距离dm的符号一致时,动态影响因子λ越大,动态偏离阈值Dth越小,系统越早触发偏离预警。经多次仿真测试,选定动态影响因子λ=5。据此建立预警模型的触发条件,如表1所示。
表1车道偏离预警触发条件
Figure BDA0002303907020000101
表1中记录了不同范围偏航角α和横向偏离量dm下所对应的实时偏离阈值。由表可知,偏离阈值与偏航角大小及偏航方向与偏离方向是否一致有关,当偏航方向与偏离方向一致时,||α||在(0~π/18)内则偏离阈值取动态偏离阈值,||α||>π/18则偏离阈值取0,即立刻报警;当偏航方向与偏离方向不一致时,偏离阈值取最大可允许偏离阈值。此处考虑到国内车道宽度约为3.75m,车宽约为1.75m,设置最大可允许偏离阈值dth=0.85m。
具体地,步骤S3的偏离帧计数器设置依据为:
由于存在噪声影响,车道线检测与曲线拟合存在一定的误差,使得根据单帧图像作出的预警结果不完全可靠。如果只根据当前帧的判断结果就作出预警,会使系统过于敏感,导致误警率偏高,影响司机正常驾驶。为此设置偏离帧计数器,系统根据连续多帧的判断结果决定预警与否。记偏离帧计数器的值为C,初始化C=0。
根据步骤S2所述预警触发机制,当判定车辆未触发偏离预警时,将偏离帧计数器C复位为0;当判定车辆向右触发偏离预警时,C自增1;当车辆向左触发偏离预警时,C自减1。设置C的预警阈值为±5,当系统连续5帧均判定车辆发生同一方向的偏离,则判定车辆确实往该侧偏离车道,此时向司机发出偏离警报。偏离帧计数器C的预警范围如表2所示。
表2偏离帧计数器C的预警范围
Figure BDA0002303907020000111
如图3所示,本实施例还提供了一种基于动态偏离阈值的车道偏离预警系统,包括图像预处理模块、车道线检测模块、坐标系转换及车道线拟合模块、车道线跟踪模块、车道偏离预警模块,图像预处理模块通过对摄像头获取的图像进行灰度转换和尺度变换后,输入到车道线检测模块,车道线检测模块通过基于扩张卷积金字塔网络对图片进行检测,提取车道线点集和分类信息并进行后处理工作,经过坐标系转换及车道线拟合模块,然后通过车道线跟踪模块实现车道线跟踪,最后经过车道偏离预警模块进行车道偏离判断和界面预警显示。
所述图像预处理模块,主要负责在车道线检测前对输入图像进行灰度转换和尺寸变换,由于车道线检测过程中没有对车道线颜色进行分类,为减小模型计算量,在车道线检测前对图像进行灰度转换,同时将输入图像尺寸缩小到512×288像素,进一步减小模型计算量,加快车道线检测速率。
所述车道线检测模块,该模块通过预训练的扩张卷积金字塔网络模型提取车道线特征并输出车道线点集和分类信息,再通过NMS、车道线排序等模型后处理手段获得准确的车道线信息。该模块的卷积神经网络由TensorFlow搭建,在计算过程中则采用了GPU并行计算架构CUDA8.0、深度学习加速库cuDNN6.0对运算进行加速,实现实时检测。
所述坐标系转换及车道线拟合模块,将透视图像中的车道线转换到俯视视角下,并对车道线进行二次多项式函数拟合,简化车道线模型,以便于车道线跟踪模块及车道偏离预警模块实现和计算。
所述车道线跟踪模块,采用Kalman滤波器对逆透视图像像素坐标系下的车道线拟合曲线进行跟踪,使连续帧之间车道线位置保持连贯性,避免因车道线检测时少数帧误检或漏检给系统产生干扰。
所述车道偏离预警模块,根据车道线跟踪模块确认的车道线函数,结合车辆-道路几何模型,通过基于动态偏离阈值的车道偏离预警模型判断车道偏离与否,最后将偏离结果显示到预警显示界面;
其中,系统显示界面中左上角窗口为相机采集原图,右上角为车道线检测得到的标记点集映射到原图像上的显示效果,红色圆点表示当前车道的车道线,绿色圆点表示其它车道线,绿色区域表示当前车道所在区域(当系统判定车辆发生车道偏离时,当前车道所在区域变为红色以示警示)。左下角窗口为图像的逆透视图像,右下角为系统信息显示栏,分别显示横向偏离量、偏航角、实时偏离阈值、偏离预警状态(分为安全、左偏预警、右偏预警三种状态)这四项基本信息。
以上所述,仅为本发明专利较佳的实施例,但本发明专利的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明专利所公开的范围内,根据本发明专利的技术方案及其发明专利构思加以等同替换或改变,都属于本发明专利的保护范围。

Claims (10)

1.一种基于动态偏离阈值的车道偏离预警方法,其特征在于,包括下述步骤:
S1、建立车辆-道路几何模型,以此求得车辆在车道中的相对位置与偏航情况,所述车辆-道路几何模型如下:
S11、建立俯视视角下的车辆坐标系O-XY,其原点设在车辆前端中点投影到道路平面上的O点;X轴在道路平面上且垂直于车辆中轴线,指向车辆行驶方向右侧;Y轴同样在道路平面上且垂直于X轴,指向车辆前方;
S12、将相机采集的图像进行逆透视变换,逆透视图像的像素坐标系o’-u’v’的原点o’在逆透视变换图像左上角,其坐标轴与车辆坐标系O-XY的坐标轴相互平行,逆透视图像的像素坐标系方与车辆坐标系的转换关系如下式表示:
X=(u'-wIPM/2)σ1 (1)
Y=(hIPM-v')σ2+μ' (2)
式中,wIPM、hIPM分别表示逆透视图像的像素宽度和像素高度;σ1、σ2分别表示逆透视图像在横轴和纵轴方向上单位像素在车辆坐标系下的水平距离;
S2、根据车辆在车道中的相对位置与偏航情况,构建基于动态偏离阈值的预警模型,所述预警模型如下:
车辆偏航角可判断车辆的偏航方向,同时根据偏航角的大小还可判断车辆的偏离速度,因此根据偏航角动态调整偏离阈值,当偏航角α=0时,车辆行驶方向与车道线平行,不再往一侧偏移,此时设置较大的横向偏移阈值dt,即预警线更靠近车道线;当偏航角α与偏航距离dm的符号一致时,||α||越大,则偏离速度越快,此时应设置较小的横向偏移阈值dt,即预警线更靠近车道中线;当偏航角α与横向偏离量dm的符号一致且||α||≥π/18时,偏航角过大,车辆极易发生车道偏移,此时直接触发偏离警报;
S3、提出偏离帧计数器,根据连续多帧的预警情况作出最终预警决策,具体为:
当判定车辆未触发偏离预警时,将偏离帧计数器C复位为0;当判定车辆向右触发偏离预警时,C自增1;当车辆向左触发偏离预警时,C自减1。设置C的预警阈值为±5,当系统连续5帧均判定车辆发生同一方向的偏离,则判定车辆确实往该侧偏离车道,此时向司机发出偏离警报。
2.根据权利要求1所述基于动态偏离阈值的车道偏离预警方法,其特征在于,所述车辆中轴线在车辆坐标系下的拟合曲线如下:
X=am0+am1Y+am2Y2
其中,
Figure FDA0002303907010000024
Figure FDA0002303907010000025
分别为二次多项式函数的系数;
所述偏航角α的计算公式如下:
Figure FDA0002303907010000021
当α<0时,车辆往右靠近或偏离车道中线;当α>0时,车辆往左靠近或偏离车道中线,||α||越大,则车辆偏离速度越快,车辆越快偏离车道;
所述横向偏离量dm的计算公式如下:
dm=OP≈OQ·cosα=am0cosα
当dm<0时,车辆处于车道中线右侧,当dm>0时,车辆处于车道中线左侧。
3.根据权利要求1所述基于动态偏离阈值的车道偏离预警方法,其特征在于,步骤S2中,所述的预警模型的预警触发机制如下:
Figure FDA0002303907010000022
当满足上式所示触发条件时,触发车道偏离预警,车辆往左侧偏离;
Figure FDA0002303907010000023
当满足上式所示触发条件时,触发车道偏离预警,车辆往右侧偏离;
其中,dth为最大可允许偏离阈值,与车道宽度和车宽有关;λ为动态影响因子,用于调整偏航角对偏离阈值的影响程度。
4.根据权利要求3所述的基于动态偏离阈值的车道偏离预警方法,其特征在于,所述预警模型中动态偏离阈值的计算公式如下:
Dth=dth/(1+λ||sinα||)
其中,Dth称为动态偏离阈值。
5.根据权利要求1所述的基于动态偏离阈值的车道偏离预警方法,其特征在于,所述偏离帧计数器的预警范围为:
左偏状态:预警阈值≤-5;
正常状态:-4≤预警阈值≤4;
右偏状态:预警阈值≥5。
6.一种基于动态偏离阈值的车道偏离预警系统,其特征在于,包括图像预处理模块、车道线检测模块、坐标系转换及车道线拟合模块、车道线跟踪模块、和车道偏离预警模块,
所述图像预处理模块,用于在车道线检测前对输入图像进行灰度转换和尺寸变换;
所述车道线检测模块,通过预训练的扩张卷积金字塔网络模型提取车道线特征并输出车道线点集和分类信息,并获得准确的车道线信息;
所述坐标系转换及车道线拟合模块,用于将透视图像中的车道线转换到俯视视角下,并对车道线进行二次多项式函数拟合,简化车道线模型;
所述车道线跟踪模块,用于对逆透视图像像素坐标系下的车道线拟合曲线进行跟踪,使连续帧之间车道线位置保持连贯性;
所述车道偏离预警模块,根据车道线跟踪模块确认的车道线函数,结合车辆-道路几何模型,通过基于动态偏离阈值的车道偏离预警模型判断车道偏离与否,最后将偏离结果显示到预警显示界面。
7.根据权利要求6所述基于动态偏离阈值的车道偏离预警系统,其特征在于,所述的扩张卷积金字塔网络,其基础网络由标准的MobileNets V2网络改进而来,将原网络最后的2个1×1标准卷积层和平均池化层去掉,仅保留所有瓶颈单元及之前的卷积层,模型训练时,采用经ImageNet图像数据集预训练的MobileNets V2。
8.根据权利要求7所述基于动态偏离阈值的车道偏离预警系统,其特征在于,采用串行和并行结合三层扩张卷积,其中第一个扩张卷积层所对应的卷积核为3×3,扩张率为1,所得感受野尺寸为3×3,用来检测尺寸较短的车道线;第二个扩张卷积层对应的卷积核为3×3,扩张率为2,经两层扩张卷积运算后的感受野尺寸为7×7,用以检测尺寸中等的车道线;第三个扩张卷积层对应的卷积核为3×3,扩张率为4,经连续三层扩张卷积运算后感受野尺寸扩大为15×15,用以检测尺寸较长的车道线,三个扩张卷积层输出的特征图维度一致,最后经1×1的标准卷积运算后,输出多维预测张量。
9.根据权利要求6所述基于动态偏离阈值的车道偏离预警系统,其特征在于,所述的车道线跟踪模块中采用Kalman滤波器对逆透视图像像素坐标系下的车道线拟合曲线进行跟踪。
10.根据权利要求6所述基于动态偏离阈值的车道偏离预警系统,其特征在于,所述预警系统显示界面左上角窗口为相机采集原图,右上角为车道线检测显示图,红色圆点表示当前车道线,绿色圆点表示其它车道线,绿色区域表示当前车道所在区域,左下角为检测图像的逆透视图,右下角为系统信息显示栏,分别显示横向偏离量、偏航角、实时偏离阈值、偏离预警状态这四项基本信息。
CN201911232351.4A 2019-12-05 2019-12-05 一种基于动态偏离阈值的车道偏离预警方法及系统 Active CN111002990B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911232351.4A CN111002990B (zh) 2019-12-05 2019-12-05 一种基于动态偏离阈值的车道偏离预警方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911232351.4A CN111002990B (zh) 2019-12-05 2019-12-05 一种基于动态偏离阈值的车道偏离预警方法及系统

Publications (2)

Publication Number Publication Date
CN111002990A true CN111002990A (zh) 2020-04-14
CN111002990B CN111002990B (zh) 2021-06-08

Family

ID=70115414

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911232351.4A Active CN111002990B (zh) 2019-12-05 2019-12-05 一种基于动态偏离阈值的车道偏离预警方法及系统

Country Status (1)

Country Link
CN (1) CN111002990B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111710128A (zh) * 2020-08-19 2020-09-25 李斯特技术中心(上海)有限公司 车辆异常驾驶的预警方法及装置、电子设备、存储介质
CN111874003A (zh) * 2020-06-23 2020-11-03 安徽信息工程学院 一种车辆行驶偏离预警方法和系统
CN112026780A (zh) * 2020-09-17 2020-12-04 江苏理工学院 一种基于图像投影变化的车道偏离快速预警方法
CN112339773A (zh) * 2020-11-10 2021-02-09 中科海微(北京)科技有限公司 一种基于单目视觉的非主动车道偏离预警方法及系统
CN113436434A (zh) * 2021-06-25 2021-09-24 中科路恒工程设计有限公司 山区干线公路高危路段预警系统及方法
CN113771871A (zh) * 2020-06-05 2021-12-10 广州汽车集团股份有限公司 一种车辆偏离车道的预警方法及其系统、介质、车辆
CN114572106A (zh) * 2020-12-02 2022-06-03 上海擎感智能科技有限公司 自动开启转向灯的方法、车载设备及计算机存储介质
CN114663860A (zh) * 2022-04-02 2022-06-24 奇瑞万达贵州客车股份有限公司 一种用于车道偏离系统中的车道线识别系统和方法
CN116495000A (zh) * 2023-06-28 2023-07-28 交通运输部公路科学研究所 极低能见度条件下的车辆偏航检测方法和辅助驾驶系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5473522A (en) * 1977-11-24 1979-06-12 Tokyo Electric Co Ltd Information reading device
EP1357008A2 (en) * 2002-04-23 2003-10-29 Aisin Seiki Kabushiki Kaisha Vehicle motion control apparatus
KR20090016507A (ko) * 2009-01-21 2009-02-13 최진해 다중 급발진 제어장치
JP4556608B2 (ja) * 2004-10-14 2010-10-06 日産自動車株式会社 車両用運転操作補助装置および車両用運転操作補助装置を備えた車両
CN102303609A (zh) * 2011-06-16 2012-01-04 广东铁将军防盗设备有限公司 车道偏离预警系统及方法
CN102646274A (zh) * 2011-02-16 2012-08-22 日产自动车株式会社 车道边界检测装置以及车道边界检测方法
CN102834309A (zh) * 2010-02-26 2012-12-19 金泰克斯公司 自动车辆设备监控、报警和控制系统
CN103991449A (zh) * 2014-06-12 2014-08-20 北京联合大学 一种车辆行进控制方法及系统
US9412273B2 (en) * 2012-03-14 2016-08-09 Autoconnect Holdings Llc Radar sensing and emergency response vehicle detection

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5473522A (en) * 1977-11-24 1979-06-12 Tokyo Electric Co Ltd Information reading device
EP1357008A2 (en) * 2002-04-23 2003-10-29 Aisin Seiki Kabushiki Kaisha Vehicle motion control apparatus
JP4556608B2 (ja) * 2004-10-14 2010-10-06 日産自動車株式会社 車両用運転操作補助装置および車両用運転操作補助装置を備えた車両
KR20090016507A (ko) * 2009-01-21 2009-02-13 최진해 다중 급발진 제어장치
CN102834309A (zh) * 2010-02-26 2012-12-19 金泰克斯公司 自动车辆设备监控、报警和控制系统
CN102646274A (zh) * 2011-02-16 2012-08-22 日产自动车株式会社 车道边界检测装置以及车道边界检测方法
CN102303609A (zh) * 2011-06-16 2012-01-04 广东铁将军防盗设备有限公司 车道偏离预警系统及方法
US9412273B2 (en) * 2012-03-14 2016-08-09 Autoconnect Holdings Llc Radar sensing and emergency response vehicle detection
CN103991449A (zh) * 2014-06-12 2014-08-20 北京联合大学 一种车辆行进控制方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
李福俊,顾敏明: "车道线实时检测与偏离预警系统设计与研究", 《光电子·激光》 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113771871A (zh) * 2020-06-05 2021-12-10 广州汽车集团股份有限公司 一种车辆偏离车道的预警方法及其系统、介质、车辆
CN111874003A (zh) * 2020-06-23 2020-11-03 安徽信息工程学院 一种车辆行驶偏离预警方法和系统
CN111874003B (zh) * 2020-06-23 2021-07-20 安徽信息工程学院 一种车辆行驶偏离预警方法和系统
CN111710128B (zh) * 2020-08-19 2021-05-11 李斯特技术中心(上海)有限公司 车辆异常驾驶的预警方法及装置、电子设备、存储介质
CN111710128A (zh) * 2020-08-19 2020-09-25 李斯特技术中心(上海)有限公司 车辆异常驾驶的预警方法及装置、电子设备、存储介质
CN112026780A (zh) * 2020-09-17 2020-12-04 江苏理工学院 一种基于图像投影变化的车道偏离快速预警方法
CN112026780B (zh) * 2020-09-17 2022-01-25 江苏理工学院 一种基于图像投影变化的车道偏离快速预警方法
CN112339773A (zh) * 2020-11-10 2021-02-09 中科海微(北京)科技有限公司 一种基于单目视觉的非主动车道偏离预警方法及系统
CN114572106A (zh) * 2020-12-02 2022-06-03 上海擎感智能科技有限公司 自动开启转向灯的方法、车载设备及计算机存储介质
CN114572106B (zh) * 2020-12-02 2023-11-28 上海擎感智能科技有限公司 自动开启转向灯的方法、车载设备及计算机存储介质
CN113436434A (zh) * 2021-06-25 2021-09-24 中科路恒工程设计有限公司 山区干线公路高危路段预警系统及方法
CN113436434B (zh) * 2021-06-25 2022-05-27 中科路恒工程设计有限公司 山区干线公路高危路段预警系统及方法
CN114663860A (zh) * 2022-04-02 2022-06-24 奇瑞万达贵州客车股份有限公司 一种用于车道偏离系统中的车道线识别系统和方法
CN116495000A (zh) * 2023-06-28 2023-07-28 交通运输部公路科学研究所 极低能见度条件下的车辆偏航检测方法和辅助驾驶系统
CN116495000B (zh) * 2023-06-28 2023-09-01 交通运输部公路科学研究所 极低能见度条件下的车辆偏航检测方法和辅助驾驶系统

Also Published As

Publication number Publication date
CN111002990B (zh) 2021-06-08

Similar Documents

Publication Publication Date Title
CN111002990B (zh) 一种基于动态偏离阈值的车道偏离预警方法及系统
CN112349144B (zh) 一种基于单目视觉的车辆碰撞预警方法及系统
CN105405321B (zh) 高速公路上车辆行驶中的安全预警方法及系统
CN104029680B (zh) 基于单目摄像头的车道偏离预警系统及方法
CN104129389B (zh) 一种有效判别车辆行驶状态的方法及其装置
US6690011B2 (en) Infrared image-processing apparatus
CN110298307B (zh) 一种基于深度学习的异常停车实时检测方法
CN109064495A (zh) 一种基于Faster R-CNN与视频技术的桥面车辆时空信息获取方法
CN106373394A (zh) 一种基于视频和雷达的车辆检测方法及系统
CN110992683A (zh) 一种基于动态图像感知的交叉口盲区预警方法及系统
CN105512623A (zh) 基于多传感器雾天行车视觉增强与能见度预警系统及方法
CN108399403B (zh) 一种基于车牌尺寸计算的车距检测方法
TWI696905B (zh) 車輛盲區偵測方法
CN105930787A (zh) 车辆开门预警方法
CN101105893A (zh) 一种车辆视频识别测速方法
CN104392239A (zh) 一种车牌识别方法及系统
CN111626170B (zh) 一种铁路边坡落石侵限检测的图像识别方法
CN110309764B (zh) 一种基于深度学习的多阶段驾驶员打电话行为检测方法
CN108230667A (zh) 一种车辆违章行为检测方法
CN112991732A (zh) 一种基于双目相机的实时弯道侧翻预警系统与方法
WO2024046053A1 (zh) 车辆违规检测方法、装置及系统、存储介质
CN103927548A (zh) 一种新的避免车辆碰撞的刹车行为检测方法
CN111027447A (zh) 一种基于深度学习的道路溢出实时检测方法
CN113850872A (zh) 一种基于高位视频的服务区停车压线检测方法
CN114822029B (zh) 桥面车流荷载时空分布重构方法、系统及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant