CN104036279A - 一种智能车行进控制方法及系统 - Google Patents

一种智能车行进控制方法及系统 Download PDF

Info

Publication number
CN104036279A
CN104036279A CN201410259590.XA CN201410259590A CN104036279A CN 104036279 A CN104036279 A CN 104036279A CN 201410259590 A CN201410259590 A CN 201410259590A CN 104036279 A CN104036279 A CN 104036279A
Authority
CN
China
Prior art keywords
vehicle
image
camera
road image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410259590.XA
Other languages
English (en)
Other versions
CN104036279B (zh
Inventor
刘佳
刘宏哲
袁家政
钮文良
郑永荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Union University
Original Assignee
Beijing Union University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Union University filed Critical Beijing Union University
Priority to CN201410259590.XA priority Critical patent/CN104036279B/zh
Publication of CN104036279A publication Critical patent/CN104036279A/zh
Application granted granted Critical
Publication of CN104036279B publication Critical patent/CN104036279B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种智能车行进控制方法及系统,涉及自动控制技术领域。从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像,得到有效的车辆正前方道路图像,提取车道线信息,将其经坐标转换后标定在路权信息融合坐标系中对应位置处;获取预置行进范围内的路权信息,根据路权信息判断当前路权状态,按照路权状况结合车道线信息控制车辆行进。能避免繁杂的公式算法,不但提高了效率,且可根据实际图像进行缺失信息的获取,进一步提高了准确性,综合考虑了各种路权信息,可以根据具体情况更加精确和更加高效的判断出下一步行进控制的方式,可以省去大量无效计算的过程,车辆行进效率和准确度得到了大幅提升。

Description

一种智能车行进控制方法及系统
技术领域
本发明涉及自动控制技术领域,特别涉及一种智能车行进控制方法及系统。
背景技术
智能驾驶技术涉及认知工程、车辆工程、电子电气工程、控制科学与工程、人工智能等诸多学科,智能车辆是衡量一个国家科研实力和工业水平的重要标志。无人驾驶车的出现,从根本上改变了传统的“人-车-路”闭环系统中的车辆驾驶方式,将驾驶员从疲劳驾驶中解放出来,利用先进的传感器以及信息技术控制车辆行驶,让驾驶活动中常规、持久、低级、重复的操作自动完成,能够极大地提高交通系统的效率和安全,提高人类移动生活的品质,具有广泛的社会应用价值。同时,智能驾驶技术的研究将极大地增强我国在汽车主动安全等方面的核心竞争力,对提升我国汽车电子产品和汽车产业自主创新能力具有重大的战略意义。
由于实际道路运行环境相当复杂,在对车辆行进进行智能控制的过程中,常常会出现对车道线遮挡等影响车道线识别的情况,如果道路上车辆较少,道路较为规范,且车速较低等比较理想的情况下,现有解决方案能够在一定程度上应对实际道路中出现的一些实际问题,比如上述道路中由于某些情况造成的道路遮挡、阴影等问题,实现理想状态下车辆的自动控制。
比如,目前一种常用的解决方案,使用回旋曲线作为简化的道路模型,避免了道路几何复杂的重构问题,提高了系统对阴影的鲁棒性,其核心思想是通过算法对图像中由于遮挡等造成的隐形进行修复,但需要复杂的公式算法匹配,计算复杂且效率低下,而且当道路不符合模型假设时会失效。另外,该解决方案中由车载摄像机获取的道路图像具有强烈的透视效果,主要表现为车道标志线在图像底部较直,在灭点附近成为比较复杂的曲线,这样的车道标志线模型与世界坐标系下具有平行结构的车道标志线模型相比,显然要复杂很多,进一步导致方案的复杂性以及修复的效果,可见,当道路中车辆较多、并线等事件较多、道路不规范、且车速较快等非理想状态下,该方案由于计算速度以及算法本身的限制,将不再适用。
另一种常用的解决方案,为了能够使用简单的车道标志线模型展开研究,通过逆透视变换的方法对道路图像进行处理,消除了图像的透视效果。该系统在假设道路宽度固定或变化缓慢的前提下,检测具有一定宽度的平行车道线,能够对阴影和遮挡具备一定的鲁棒性,但是该假设并不适于宽度变换频繁的道路。可见,该方案由于受到使用的计算模型的限制,在道路中车辆较多、并线等事件较多、道路不规范、且车速较快等非理想状态下,将不能很好适用。
可见,对于道路中车辆较多、并线等多发事件、道路不规范、车速较快等非理想状态下,现有的几种解决方案都不能很好的应对车道线遮挡等影响车道线识别的情况,在实际应用中都存在对智能车行进控制不够准确,甚至无法实现控制的问题。
即,对于智能驾驶这一新兴技术领域而言,现有的多种针对智能车行进控制的解决方案,都存在诸多问题,不能很好的适应智能驾驶技术的进一步发展和实际应用需求。因此,迫切需要提供一种方案简单高效、控制准确且对多种场景适应性更强的解决方案,以适用和促进智能驾驶技术的快速发展。
发明内容
鉴于上述问题,本发明实施例提供一种智能车行进控制方法和系统,能够提供一种针对智能驾驶技术的方案简单高效、控制准确且对多种场景适应性更强的解决方案,以更好的实现对车辆行进的自动控制。
本发明实施例采用了如下技术方案:
本发明一个实施例提供了一种智能车行进控制方法,所述方法包括:
从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像;
对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像;所述有效的车辆正前方道路图像为包含有车辆前方有效车道线信息的图像;
从所述有效的车辆正前方道路图像中提取出车道线信息;
将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处;
在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
所述方法还包括对设置在车辆不同位置处的摄像头进行分组管理,具体包括:
依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组;
所述对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像包括:
按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像;
若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
车辆不同位置处设置有三个摄像头,其中:
第一摄像头,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;
第二摄像头,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像;
第三摄像头,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像;
所述从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像包括:
从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像;
所述对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像包括:
判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息;
若为有效的车辆正前方道路图像,则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;若为无效的车辆正前方道路图像,则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像;
所述将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像包括:
对第二摄像头获取的车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行几何畸变校正和噪声点抑制处理;
对经上述处理后的车辆左前方道路图像和车辆右前方道路图像进行图像配准;
对配准后的车辆左前方道路图像和车辆右前方道路图像中的重叠区域进行融合处理,实现图像拼接,得到有效的车辆正前方道路图像。
判断图像中是否包含完整的车辆前方有效车道线信息的方法包括:
识别图像中的车道线左边界和车道线右边界;
从识别到的每组车道线左边界和车道线右边界中,判断有效的车道线边界组;
若有效的车道线边界组数量大于预置值,则确认所述图像中包含完整的车辆前方有效车道线信息;
所述从所述有效的车辆正前方道路图像中提取出车道线信息包括:
对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界点;
所述将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处包括:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
所述路权信息融合坐标系采用圆形或扇形变粒度雷达图方式。
所述在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进包括:
在路权信息融合坐标系中获取预置行进范围内的路权信息;
根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
根据所述路权状态结合所述车道线信息控制车辆行进。
另外,本发明实施例还提供了一种智能车行进控制系统,所述系统包括设置在车辆上不同位置处的摄像头、及智能车行进控制设备:
所述智能车行进控制设备包括:
图像获取模块,用于从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像;
有效性处理模块,用于对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像;所述有效的车辆正前方道路图像为包含有车辆前方有效车道线信息的图像;
车道线信息提取模块,用于从所述有效的车辆正前方道路图像中提取出车道线信息;
坐标转换标识模块,用于将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处;
行进控制模块,用于在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
所述智能车行进控制设备还包括摄像头管理模块,
所述摄像头管理模块,用于依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组;
所述有效性处理模块包括:
顺序判断单元,用于按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像;
有效性确认单元,用于当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
车辆不同位置处设置有三个摄像头,其中:
第一摄像头,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;
第二摄像头,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像;
第三摄像头,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像;
所述图像获取模块,具体用于从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像;
所述顺序判断单元,具体用于判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息;
所述有效性确认单元,具体用于当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像中包含完整的车辆前方有效车道线信息,则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像为无效的车辆正前方道路图像,则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像;
所述车道线提取模块包括:
逆透视变换单元,用于对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
二值化处理单元,用于对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
提取单元,用于从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界;
所述坐标转换标识模块具体用于:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
所述路权信息融合坐标系采用圆形或扇形变粒度雷达图方式;
所述行进控制模块包括:
路权信息获取单元,用于在路权信息融合坐标系中获取预置行进范围内的路权信息;
路权状态判断单元,用于根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
行进控制单元,用于根据所述路权状态结合所述车道线信息控制车辆行进。
可见,本发明实施例提供的智能车行进控制方法和系统,从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像,对多幅上述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像,从有效的车辆正前方道路图像中识别出车道线信息,根据识别出的车道线信息计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离,进而根据所述偏离角度和偏离距离控制车辆行进。这样,由于在车辆的不同位置处分别设置多部摄像头,便可以从不同角度拍摄到车辆前方图像,当由于复杂的路况导致某个角度中,用于智能车行进控制的某些重要信息被遮挡等原因导致缺失时,便可以直接从其它角度中拍摄的图像中获取。因此,本发明实施例避免了繁杂的公式算法,不但提高了效率,而且可以根据实际图像进行缺失信息的获取,进一步提高了准确性,从而使得方案简单高效、控制准确,而且,不受到应用场景的限制,无论道路中车辆较多、并线等多发事件、道路不规范、车速较快等复杂情况下,本发明实施例都能很方便的获取到多个角度的图像,能够对多种场景适应性更强,以更好的实现对车辆行进的自动控制。
进一步的,本发明实施例还包括对设置在车辆不同位置处的多组摄像头拍摄的多组图像按照优先顺序进行图像进行有效性处理,即在车辆不同位置处设置的多个摄像头,其中,若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组。车辆上设置的每组摄像头设置的角度所拍摄的图像能够完全覆盖车辆前方有效车道线信息。在对图像进行有效性处理时,优先针对包括摄像头数量少的分组,可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,从而进一步提高智能车行进控制的效率。
进一步的,本发明实施例在对车辆进行行进控制的过程中,创造性的采用了路权信息融合坐标系采用圆形或扇形变粒度雷达图方式实现,路权雷达图能够实时有效完成车辆上多种类别、不同安装位置传感器的感知信息的融合,判断车辆可拥有的路权空间及其变化趋势;构造近处细粒度、远处粗粒度的变粒度栅格,能够在满足智能车环境感知需求的同时,大大减少所利用的存储空间与计算资源。
进一步的,本发明实施例在对智能车进行行进控制的过程中,综合考虑了各种路权信息,可以根据具体情况更加精确和更加高效的判断出下一步行进控制的方式,可以省去大量无效计算的过程,车辆行进效率和准确度得到了大幅提升。
进一步的,本发明实施例在车道线提取的过程中,在逆透视变换的基础上,进一步引入高速公路的结构约束条件,并且引入了视频图像的帧间关系,进一步提高了车道线检测的准确度。
进一步的,本发明实施例在计算当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的过程中,也加入对车道线分布的多种限制条件,以进一步减少搜索范围,大大提高算法效率和准确性。
附图说明
图1为本发明实施例提供的一种智能车行进控制方法流程图;
图2为本发明实施例中一种优选路权信息融合坐标系信息融合示意图;
图3为本发明实施例中当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离示意图;
图4为本发明实施例提供的一种智能车行进控制方法流程图;
图5为本发明实施例中摄像头在车辆上设置位置示意图;
图6为本发明实施例提供的一种智能车行进控制系统结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
参见图1,本发明实施例提供一种智能车行进控制方法,具体包括如下步骤:
S101:从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像。
本发明实施例实现的一种智能车行进控制方法,需要在所控制车辆上设置摄像头,以获取车辆前方的道路图像,进而从中识别出车道线信息,控制车辆正常行驶。
需要说明的是,若仅仅在车辆上设置一部摄像头,或为了摄像头故障时替换而仅仅在相近或类似位置处设置的多个摄像头,拍摄到的车辆前方图像中如果缺失了部分重要信息的话,则只能通过现有的一些算法对图像进行修改,不但算法复杂,效率较低,图像恢复效果不佳,而且还很有可能无法完整恢复,导致智能车行进控制不够准确甚至无法实现控制的问题。
优选的,本发明实施例中,在车辆的不同位置处分别设置多部摄像头,这样,便可以从不同角度拍摄到车辆前方图像,当由于复杂的路况导致某个角度中,用于智能车行进控制的某些重要信息被遮挡等原因导致缺失时,便可以直接从其它角度中拍摄的图像中获取。可见,本发明实施例避免了繁杂的公式算法,不但提高了效率,而且可以根据实际图像进行缺失信息的获取,进一步提高了准确性,从而使得方案简单高效、控制准确,而且,不受到应用场景的限制,无论道路中车辆较多、并线等多发事件、道路不规范、车速较快等复杂情况下,本发明实施例都能很方便的获取到多个角度的图像,能够对多种场景适应性更强,以更好的实现对车辆行进的自动控制。
作为进一步方案,本发明实施例中,在车辆不同位置处设置的摄像头,若其中某一摄像头设置的角度所拍摄的车辆前方图像中,不能包含完整的车辆前方有效车道线信息,则需要在该摄像头相对的位置处再设置一或多个摄像头,使其配合使用,形成一组摄像头,车辆上设置的每组摄像头设置的角度所拍摄的图像能够完全覆盖车辆前方有效车道线信息。
也就是说,本发明实施例提供的智能车行进控制方法还包括对设置在车辆不同位置处的摄像头进行分组管理,具体包括:
依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组。
相应的,后续对图像进行处理识别车道线的过程中,可以根据分组中包括摄像头数量由少至多的顺序尝试,这样可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,从而进一步提高控制效率。
实际应用中,在车辆上设置几个摄像头、在哪些位置设置,可以根据实际应用场景、控制精度及成本等多方因素综合考虑自行设计。需要说明的是,在车辆上至少设置2组摄像头,以实现本发明目的。
S102:对多幅上述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像。
其中,所述有效的车辆正前方道路图像为在没有遮挡的情况下能够包含有车辆前方有效车道线信息的图像。
所谓有效车道线信息,具体是指对车辆进行行进控制所需的车道线信息。若图像中包含的车道线信息缺失超过允许范围,就会导致后续无法从图像中识别出车道线或者识别出的车道线信息不足以计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离,因此,有效车道线信息也可以理解为能够保证识别出车辆前方车道线信息且能满足计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的最少量的车道线信息。
作为优选方案,对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像具体可以是:
按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像;
若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
也就是说,先针对包含一部摄像头的分组进行判断,即判断从该部摄像头获取的车辆前方道路图像中是否包含完整的车辆前方有效车道线信息,若是,则将该车辆前方车辆图像作为有效的车辆正前方道路图像,用于后续车道线信息的提取,就不用再对其它组摄像头获取的图片进行分析判断了。若从该部摄像头获取的车辆前方道路图像中未包含完整的车辆前方有效车道线信息,则再依次针对包含两部、三部。。。摄像头的分组进行判断,依次进行,直至确定来自某组多部摄像头的图像中包含有完整的车辆前方有效车道线信息,后续仅需要对从该组摄像头获取的图像进行组合,作为有效的车辆正前方道路图像,用于后续提取车道线信息。可见,可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,进一步提高控制效率。
具体的,判断图像中是否包含完整的车辆前方有效车道线信息的方法可以包括以下几个子步骤:
识别图像中的车道线左边界和车道线右边界;
从识别到的每组车道线左边界和车道线右边界中,判断有效的车道线边界组;
若有效的车道线边界组数量大于预置值,则确认所述图像中包含完整的车辆前方有效车道线信息。
具体实现中,识别车道线左右边界的方法有很多种,判断有效车道线边界组的方法也有很多种,比如,判断图像中是否包含完整的车辆前方有效车道线信息的一种具体实施方式可以是:
第一,在图像有效区域内找寻车道线的左边界,每5行找一点(以像素为单位),该点必须满足三个条件:首先该白色像素点出现前至少出现了若干个黑色像素点,如果满足,那么以该白色像素点为左上顶点选取的20×20(以像素为单位)区域内必须都为白色像素点,并且从这一点往右,这一行还必须出现黑色像素点。
第二,记录检测到的边界点的坐标,如果5行内没有满足条件的点,那么该五行内边界点坐标值为初始值(横坐标为0)。
第三,对识别到的每组点(每5行内找到的左右边界点为一组)进行判断,主要以横坐标作为依据判断,如果左点或右点横坐标有一个为0,或者左点横坐标值大于右点横坐标值则认为该组点无效,将两点的纵坐标值设为0(为下面排序做准备),同时记录无效点个数。
第四,按纵坐标值大小对有效组点排序,从纵坐标值最大的点开始取,计算有效点个数,若达到要求个数,则认为前方车道线信息为有效车道线信息。
S103:从有效的车辆正前方道路图像中提取出车道线信息。
需要说明的是,这里车道线信息具体可以是多组车道线左边界点和右边界点,后续能够根据该多组左边界点和右边界点分析并构建出具体的车道线情况。
具体的,一种从有效的车辆正前方道路图像中提取出车道线信息的方法可以是:
对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界点。
其中,透视效果是指由于物体与观察者的距离增加而导致物体显得更小的一种视觉效果。对有效的车辆正前方道路图像进行逆透视变换处理,能够消除所述有效的车辆正前方道路图像中的透视效果。
一幅图像包括目标物体、背景还有噪声,要想从多值的数字图像中直接提取出目标物体,最常用的方法就是设定一个阈值T,用T将图像的数据分成两部分:大于T的像素群和小于T的像素群。针对灰度变换的上述方法,称为图像的二值化(BINARIZATION)。这里,对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,能够得到二值化的车道线边缘图像。
优选的,一种从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界点的方法可以是:
以二值化图像为来源,以及预设的最后的栅格图的尺寸(在实际操作中,最后的栅格图的尺寸可以是根据经验值预估得到,也可以是根据某些参数以及实际场景自行设置得到)。以最后的栅格图的尺寸为根据开辟一个整型数组(point_flag)。定义4种类型,0为“未标记”,1为“标记为空点”,2为“实线点”,3为“虚线点”。
从左往右,从上到下对二值化图像的每个点进行检测。
1.若此点已被标记(point_flag为1),则跳过该点的检测,否则继续检测该点类型并标记。
2.在中间行检测白点,若没有检测到白点则结束当前行的检测,否则继续检测白点。
3.以检测到的白点为起点,检测并获取宽度(即白点在这一行的个数)。
4.以白点为起点,得到这片白色区域的最高点和最低点,并由此大概计算长度和宽度。
5.根据宽度和长度,判断这片区域为何种标记(实线或虚线),对相关栅格点进行标记。
6.最后得到一个记录了所有点的标记的数组,即得到多组车道线左边界点和右边界点。
优选的,在逆透视变换的基础上,进一步引入道路的结构约束条件(比如可以是高速公路的结构约束条件),并结合视频图像的帧间关系,进一步提高了车道线识别的准确度。具体的:
1、车道线都是处于平行的关系,若检测到的线段不平行则可忽略;
2、车道线的宽度是固定的,车道线之间的间隔也是固定的,可根据此条件过滤掉偏离较远的点;
3、后一帧图像的数据可在前一帧图像得到的车道线附近进行搜索,可大大缩短检测时间;
等等。
可见,该算法在逆透视变换的基础上,进一步引入高速公路的结构约束条件,并且引入了视频图像的帧间关系,实现了车道标志线的准确检测。
S104:将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处。
需要说明的是,路权信息融合坐标系具体是指在一个平面坐标系中,以智能车所在位置为核心,覆盖周边一定区域范围,并以栅格为单位,融合记录有多种路权信息,构成路权信息融合坐标系。所述路权信息具体可以包括车辆上多种类别、不同安装位置的传感器所感知信息的融合,如摄像头、雷达等不同类型传感器通过声、光、电等物理信号所能感知到的周围环境信息,能够用于判断车辆可拥有的路权空间及其变化趋势。
需要说明的是,所述路权信息,如摄像头、雷达等不同类型传感器通过声、光、电等物理信号感知周围环境,其工作机理不同,安装在车辆上的位置也不同。即使是同一类传感器,其精度、有效范围、参数设置(如摄像头的焦距、白平衡等参数;激光雷达的识别距离、角度分辨率等参数)也不相同。通过参数配准及位置标定,将不同传感器感知并处理得到的信息,映射到路权信息融合坐标系(如路权雷达图)的统一坐标系中,并对相应栅格进行赋值。赋值的内容比如可以包括障碍物的高度、置信度等。
一种路权信息融合坐标系的实现方式可以是,利用雷达图的形式实现。优选的,利用不同大小的栅格构成变粒度雷达图形式,其中可充分融合摄像头、雷达等各类传感器的环境感知信息,显示车辆可拥有的路权空间及其变化趋势,实现辅助驾驶和无人驾驶自动控制。
这样,能够实时有效完成车辆上多种类别、不同安装位置传感器的感知信息的融合,判断车辆可拥有的路权空间及其变化趋势,为智能决策、路径规划、人机交互、无人驾驶等提供统一的基础框架。
以下针对实际应用场景,给出一种优选的路权信息融合坐标系的具体实现方式,路权信息融合坐标系优选的具体采用路权雷达图实现。
A.路权雷达图优选的以车辆的几何中心为中心,覆盖半径为100m-200m的周边范围。
路权雷达图应当覆盖智能车辆行驶中的安全距离。在智能车安全距离的计算中,需要综合考虑车速、可能出现的湿滑路面及驾驶员的反应时间。我国道路交通安全法实施条例第70条规定:高速公路应当标明车道的行驶速度,最高车速不得超过120km/h。
设湿滑路面附着系数μ=0.32,一般驾驶员反应时间Tf在0.35s与0.65s之间,为安全起见,取Tf=0.65s,车辆限速Vm=120km/h。
在反应时间内,车辆做匀速运动,前进距离S1=VmTf=22m。
之后刹车,车辆做匀减速运动,前进距离
安全距离为S=S1+S2=195m。
因此,在本发明实施例中,路权雷达图的覆盖半径优选的不小于195米,即200m。
B.离智能车辆越近,路权雷达图栅格的尺寸越小、精度越高,离智能车辆越远,路权雷达图栅格的尺寸越大、精度越低,如栅格径向最小5cm,最大400cm;路权雷达图中的角度分辨率可根据驾驶关注区域改变,也可固定,如,由此构成的变粒度栅格,可用数组结构与之对应。
无论从驾驶员的驾驶经验,还是从车辆控制的实际要求出发,对不同距离处感知精度的要求都是不相同的。离智能车辆越近,路权雷达图栅格的尺寸越小、精度越高,离智能车辆越远,路权雷达图栅格的尺寸越大、精度越低。
对于距离D,对应一个保证车辆安全行驶的最大速度VD。距离D处的扇形栅格径向长度为采集-感知-控制周期T内,车辆走过的距离,即VDT。根据实际情况,T=100ms。路权雷达图由多圈栅格构成,位于同一圈的栅格,其径向长度相同。设从雷达图中心向外侧数,第n圈栅格外侧与雷达图中心的距离为Dn,其对应的最大安全速度是Vn
V n T f + V n 2 2 μg = D n 得:
V n = ( μg T f ) 2 + 2 μg D n - μg T f
栅格精度Sn=Dn-Dn-1,n≥1
受限于传感器精度,栅格精度最细为5cm
Dn序列由下面递推公式确定:
D n = D n - 1 + max ( ( ( μg T f ) 2 + 2 μg D n - 1 - μg T f ) T , 0.05 ) , n ≥ 1 D n = 0 m , n = 0
据此计算得出,本例中路权雷达图半径为197.7m,共有140圈栅格;栅格纵向长度最小为5cm,最大约为336cm;中间栅格的径向长度可根据递推公式计算得出。
下面对角度分辨率进行分析:设高速公路车道宽L=3.5m,路权雷达图依据角度划分为N份。如果要求在路权雷达图覆盖范围最远处能够分辨不同车道,则应满足:计算得到 N ≥ 2 πR L = 358.8
因此,不妨设定雷达的角度分辨率为
依照本较佳实施例对于路权雷达图范围及精度的论证,路权雷达图共包括140×360=50400个栅格。在计算机中建立140×360大小的数组,供信息融合使用。
C.摄像头、雷达等不同类型传感器通过声、光、电等物理信号感知周围环境,其工作机理不同,安装在车辆上的位置也不同。即使是同一类传感器,其精度、有效范围、参数设置(如摄像头的焦距、白平衡等参数;激光雷达的识别距离、角度分辨率等参数)也不相同。通过参数配准及位置标定,将不同传感器感知并处理得到的信息,映射到路权雷达图的统一坐标系中,并对相应栅格进行赋值。赋值的内容可以包括障碍物的高度、置信度等。
一个优选的路权雷达图信息融合的方法示例如下:
智能车上安装有各类摄像头、雷达等传感器用于环境感知。各类传感器覆盖范围互有重叠,但经过位置标定后,覆盖范围均为圆形或扇形,可利用路权雷达图进行信息融合。
进行信息融合最简单的方法是,只要任何一个传感器,检测到某个扇形栅格被占据,那么就将这个栅格置为障碍物高度值(单位:厘米);没有被任何传感器检测到被占据的扇形栅格,则将其置为0。这样可以保证信息融合的结果无遗漏的反映了车辆周围障碍物对路权的占用情况。在图2中,显示了路权雷达图采用这种方法,对城际高速公路上智能车周边障碍物融合感知的一个实例。图中包含障碍物的栅格幅值为该障碍物的高度,例如,包含最右侧护栏的栅格赋值为护栏高度90厘米。除此以外,也可以对每个栅格引入置信概率,将其置为0和1之间的一个实数,为之后的智能决策、路径规划等,提供更精确的支持。
D.路权雷达图始终寄生在运行中的车辆上,与车速相关,并随时间动态变化,其更新周期由传感器采样频率、本车行驶状态等因素决定。
路权雷达图的更新周期由传感器采样频率等因素决定。在一个实施例中,若摄像头传感器的采样周期是25-40ms(随光照等环境条件会有改变),单线、四线、八线激光雷达、毫米波雷达的采样周期均是80ms。为准确、实时地反映各传感器的感知信息,路权雷达图的更新周期应小于或等于各传感器的最小周期。因此,在该实施例中优选的设置路权雷达图更新周期为20ms。
优选的,将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处。即将从有效的车辆正前方道路图像中提取出的车道线信息,经过坐标转换、参数配准等处理后,将各车道线参数(即车道线信息)在路权信息融合坐标系中进行位置标定,将其映射到路权雷达图的统一坐标系中,并记录在相应栅格内。
本步骤中,需要说明的是,由于智能车上安装的各类摄像头、雷达等用于环境感知的传感器,其覆盖范围互有重叠,所以,优选的路权信息融合坐标系采用圆形或扇形变粒度雷达图实现,具体可以针对重复的覆盖范围进行位置标定,去除重复。由于路权信息融合坐标系优选采用圆形或扇形实现,因此,对于正常的路面坐标系中获取到的车道线信息需要经坐标转换,才能正确的映射到路权信息融合坐标系中。
具体的,上述将车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处具体包括:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
当然,实际应用中,路权信息融合坐标系可以采用多种方式实现,比如,一种较实用的实现方式可以是,采用以车辆为中心的矩形区间形成的坐标系来实现,其中,为了计算方便,各栅格也同样采用矩形实现,优选的,利用不同大小的矩形栅格构成变粒度形式,也就是说,离智能车辆越近,栅格的尺寸越小、精度越高,离智能车辆越远,栅格的尺寸越大、精度越低。
相应的,将车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处具体方法可以是:
第一,将摄像头获取的图像进行图像缩小变换,缩小变换后满足使每个小栅格中只有一个点的信息。
需要说明的是,由于摄像头获取的图像尺寸较大,而路权信息融合坐标系相对而言尺寸较小,比如,摄像头获取的图像中,每个栅格的尺寸可以达到20cm*20cm,每个点的尺寸有2cm左右,这样,在摄像头获取的图像中,有可能一个栅格中会有多个点,为了后续计算方便,我们将一个栅格中的几个点进行合并,并做图像缩小处理,使得在路权信息融合坐标系中,一个栅格中只有一个点的信息。实际算法有多种,此处不再赘述。
第二,考虑到图像缩小变换中,栅格中多点合并的问题,获取实际道路图像上合并后的点与车辆的位置,对应到路权信息融合坐标系中该点与车辆的位置偏差(包括横坐标偏移量和纵坐标偏移量)。
第三,在路权信息融合坐标系中各点的横坐标加上横坐标偏移量,纵坐标加上纵坐标偏移量,得到标定后的栅格中各点的坐标信息。
S105:在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
优选的,在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进具体包括:
在路权信息融合坐标系中获取预置行进范围内的路权信息;
根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
根据所述路权状态结合所述车道线信息控制车辆行进。
实际应用中,在融合多类传感器检测结果后,会得到本车拥有的周围路权状况及变化趋势,形成对智能驾驶中将发生的车道内的跟驰状态、相邻车道的换道状态、或路口的通行状态(包括左转弯、右转弯、直行、U字掉头)等行进行为的控制策略,以作为进行局部路径的动态规划、协同导航等的依据。
具体实践中,可以从路权信息中获取到与前车距离等信息,确定跟驰状态,进而确定是否需要减速、加速等操作控制。
也可以从路权信息中获取到障碍物距离、高度、位置等信息,确定相邻车道的换道状态,进而确定需要变更的车道,以及换道路径等,进而根据提取的车道线信息计算出当前车辆行进方向偏离换道路路径的车道线的偏离角度和偏离距离,进而精准的控制车辆行进。
还可以从路权信息中获取到交通信号信息,比如信号灯、信号标识、道路指示等,进而确定下一步行进操作是停车、直行、转弯或掉头,进而控制车辆停止或直行、转弯或掉头等操作。其中,直行、转弯或掉头操作时,需根据提取的车道线信息计算出当前车辆行进方向偏离行进路径(直行、转弯或掉头)的车道线的偏离角度和偏离距离,进而精准的控制车辆行进。
等等。
具体的,根据提取出的车道线信息计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离。其中,应行进车道线包括换道路路径的车道线、直行/转弯/掉头行进路径的车道线等。
需要说明的是,参见图3,具体示出当前车辆行进方向偏离应行进车道线的偏离角度r和偏离距离d。当前车辆行进方向偏离应行进车道线的偏离距离d为车辆的车体中心线与车道线之间的相对位置偏差。
具体的,根据提取出的车道线信息计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的一种实现方式可以是:
对所述二值化的车道线边缘图像进行Hough变换,检测出车道线的左边界点和右边界点,利用左边界点和右边界点计算得到车道线虚拟中心线上的至少两点,根据得到的车道线虚拟中心线上的至少两点计算当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离。(需要说明的是,这里车道线信息具体可以是多组车道线左边界点和右边界点,后续能够根据该多组左边界点和右边界点分析并构建出具体的车道线情况)。
简单的说,Hough变换利用图像空间和Hough参数空间的点-线对偶性,把图像空间中的检测问题转换到参数空间。通过在参数空间里进行简单的累加统计,然后在Hough参数空间寻找累加器峰值的方法检测直线。例如,图像空间中的九条线段对应于Hough参数空间中的九个累加器峰值。Hough参数空间的横纵坐标分别为直线极坐标方程:ρ=x×cos(θ)+y×sin(θ)的两个参数ρ和θ。九个峰值的ρ和θ值唯一的确定其对应线段所在直线的两个参数。并且线段的长度决定坐标(ρ,θ)处的累加值的大小。
对所述二值化的车道线边缘图像进行Hough变换,检测出车道线的左边界点和右边界点,利用左边界点和右边界点计算得到车道线虚拟中心线上的至少两点,根据得到的车道线虚拟中心线上的至少两点计算当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的方法具体为:
将前面跟踪检测得到的车道线(车道标志线)左边界点(左边线信息点)(xL0,yL0),(xL1,yL1),…,(xLn,yLn)和右边界点(右边线信息点)(xR0,yR0),(xR1,yR1),…,(xRn,yRn)进行处理。利用左边界点和右边界点的信息,求出道路虚拟中心线上的点(xi,yi),具体计算方法为 x i = x Li + x Ri 2 , ( i = 0,1 . . . n ) , y i = y Li + y Ri 2 , ( i = 0,1 . . . n ) . 从虚拟中心线上半部分中选取一点(xup,yup),再从虚拟中心线下半部分中选取一点(xdown,ydown),则可获得车辆偏移角度为:
偏移距离为:d=-(w/2-xi)*3.4+5,其中w为图像宽度。
优选的,在Hough变换过程中,可以加入以下几点约束:
(1)考虑到车辆紧挨一边车道线行驶的极端情况,检测到的车道线底部距离图像底部中心(约为车辆中心点)距离不超过1个车道宽度;
(2)左、右车道线的大部分信息分别分布在图像的左半和右半区域;
(3)逆透视图中,车道线与竖直方向的夹角不会太大;
(4)检测到的左右车道线应当保持平行的关系。等等。
通过约束条件,可减少搜索范围,提高算法效率和准确性。
可见,本发明实施例提供的智能车行进控制方法,从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像,对多幅上述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像,从有效的车辆正前方道路图像中识别出车道线信息,根据识别出的车道线信息计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离,进而根据所述偏离角度和偏离距离控制车辆行进。这样,由于在车辆的不同位置处分别设置多部摄像头,便可以从不同角度拍摄到车辆前方图像,当由于复杂的路况导致某个角度中,用于智能车行进控制的某些重要信息被遮挡等原因导致缺失时,便可以直接从其它角度中拍摄的图像中获取。因此,本发明实施例避免了繁杂的公式算法,不但提高了效率,而且可以根据实际图像进行缺失信息的获取,进一步提高了准确性,从而使得方案简单高效、控制准确,而且,不受到应用场景的限制,无论道路中车辆较多、并线等多发事件、道路不规范、车速较快等复杂情况下,本发明实施例都能很方便的获取到多个角度的图像,能够对多种场景适应性更强,以更好的实现对车辆行进的自动控制。
进一步的,本发明实施例还包括对设置在车辆不同位置处的多组摄像头拍摄的多组图像按照优先顺序进行图像进行有效性处理,即在车辆不同位置处设置的多个摄像头,其中,若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组。车辆上设置的每组摄像头设置的角度所拍摄的图像能够完全覆盖车辆前方有效车道线信息。在对图像进行有效性处理时,优先针对包括摄像头数量少的分组,可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,从而进一步提高智能车行进控制的效率。
进一步的,本发明实施例在对车辆进行行进控制的过程中,创造性的采用了路权信息融合坐标系采用圆形或扇形变粒度雷达图方式实现,路权雷达图能够实时有效完成车辆上多种类别、不同安装位置传感器的感知信息的融合,判断车辆可拥有的路权空间及其变化趋势;构造近处细粒度、远处粗粒度的变粒度栅格,能够在满足智能车环境感知需求的同时,大大减少所利用的存储空间与计算资源。
进一步的,本发明实施例在对智能车进行行进控制的过程中,综合考虑了各种路权信息,可以根据具体情况更加精确和更加高效的判断出下一步行进控制的方式,可以省去大量无效计算的过程,车辆行进效率和准确度得到了大幅提升。
进一步的,本发明实施例在车道线提取的过程中,在逆透视变换的基础上,进一步引入高速公路的结构约束条件,并且引入了视频图像的帧间关系,进一步提高了车道线检测的准确度。
进一步的,本发明实施例在计算当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的过程中,也加入对车道线分布的多种限制条件,以进一步减少搜索范围,大大提高算法效率和准确性。
参见图4,本发明实施例提出一种智能车行进控制方法。
优选的,参见图5,在车辆不同位置处设置有三个摄像头,其中:
第一摄像头501,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;
第二摄像头502,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像;
第三摄像头503,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像。
可以理解,本发明实施例中一共包括两个摄像头分组,第一摄像头为一个分组,第二摄像头和第三摄像头构成一个分组。
需要说明的是,上述摄像头的设置方法仅为一种优选方案,本发明实施例还可以包括其它多种摄像头优选设置方案,比如第一摄像头设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;第四摄像头设置于前保险扛处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;等等。此时,第一摄像头和第四摄像头获取的图像在没有遮挡的情况下,都能全面覆盖车辆前方有效车道线信息,因此,各自分别形成一个分组,在此种情况下,后续进行图像有效性处理时,可以根据两个摄像头拍摄效果预定优先顺序,比如可以约定优先判断第一摄像头获取的图像是否包含完整车辆前方有效车道线信息,若没有再判断第四摄像头获取的图像是否包含完整车辆前方有效车道线信息。
本发明实施例提出一种智能车行进控制方法,具体包括如下步骤:
S401:从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像。
S402:判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息。
S403:若为有效的车辆正前方道路图像(即包含完整的车辆前方有效车道线信息),则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;若为无效的车辆正前方道路图像(即包含的车辆前方有效车道线信息不够完整,有信息缺失),则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像。
也就是说,根据分组中包括摄像头数量由多至少的顺序,优先判断从第一摄像头获取的图像是否有效,若有效,则直接从其中识别出车道线信息即可,若无效,再考虑将从第二摄像头获取的图像和从第三摄像头获取的图像进行组合拼接,得到有效的车辆正前方道路图像,再从中识别出车道线信息。这样可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,从而进一步提高控制效率。
其中,将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像的方式包括:
对第二摄像头获取的车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行几何畸变校正和噪声点抑制处理;
对经上述处理后的车辆左前方道路图像和车辆右前方道路图像进行图像配准;
对配准后的车辆左前方道路图像和车辆右前方道路图像中的重叠区域进行融合处理,实现图像拼接,得到有效的车辆正前方道路图像。
具体的,一种具体实现方式可以是:
提取左右倒车镜上摄像头(第二摄像头和第三摄像头)的一帧图像,进行图像预处理,主要包括对图像进行几何畸变校正和噪声点的抑制等,让参考图像和待拼接图像不存在明显的几何畸变。
进行首帧图像配准,首先利用提取局部特征SIFT算法,提取关键点位置、尺度、旋转不变量等特征。然后,采用关键点特征向量的欧式距离来作为两幅图像中关键点的相似性判定度量,从而完成关键点的粗匹配;最后利用RANSAC算法消除误匹配、建立透视变换矩阵H。
分别从摄像头读取帧图像,基于矩阵H进行透视变换,采用渐入渐出算法对重叠区域进行融合处理,得到拼接后的帧图像。
S404:从上述有效的车辆正前方道路图像中提取出出车道线信息。
该步骤具体实现方式可以是:
从所述有效的车辆正前方道路图像中识别出车道线信息包括:
对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界点。
优选的,该算法在逆透视变换的基础上,进一步引入高速公路的结构约束条件,并且引入了视频图像的帧间关系,进一步实现了车道标志线的检测准确度。
S405:将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处。
作为优选方案,所述将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处包括:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
实际应用中,路权信息融合坐标系可以采用多种方式实现,比如,一种较实用的实现方式可以是,采用以车辆为中心的矩形区间形成的坐标系来实现,其中,为了计算方便,各栅格也同样采用矩形实现,优选的,利用不同大小的矩形栅格构成变粒度形式,也就是说,离智能车辆越近,栅格的尺寸越小、精度越高,离智能车辆越远,栅格的尺寸越大、精度越低。优选的,路权信息融合坐标系采用圆形或扇形变粒度雷达图方式实现。
S406:在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
具体的,在路权信息融合坐标系中获取预置行进范围内的路权信息;
根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
根据所述路权状态结合所述车道线信息控制车辆行进。
可见,本发明实施例中,通过多摄像头数据融合,可解决车辆较多等情况导致对车道线遮挡的情况下,对车辆实现准确高效的智能控制。
进一步的,本发明实施例在对车辆进行行进控制的过程中,创造性的采用了路权信息融合坐标系采用圆形或扇形变粒度雷达图方式实现,路权雷达图能够实时有效完成车辆上多种类别、不同安装位置传感器的感知信息的融合,判断车辆可拥有的路权空间及其变化趋势;构造近处细粒度、远处粗粒度的变粒度栅格,能够在满足智能车环境感知需求的同时,大大减少所利用的存储空间与计算资源。
进一步的,本发明实施例在对智能车进行行进控制的过程中,综合考虑了各种路权信息,可以根据具体情况更加精确和更加高效的判断出下一步行进控制的方式,可以省去大量无效计算的过程,车辆行进效率和准确度得到了大幅提升。
参见图6,为本发明实施例提供的一种智能车行进控制系统,所述系统包括设置在车辆上不同位置处的摄像头601、及智能车行进控制设备602。
所述智能车行进控制设备602包括:
图像获取模块6021,用于从设置在车辆上不同位置处的摄像头501实时获取多幅不同角度的车辆前方道路图像。
有效性处理模块6022,用于对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像。
其中,所述有效的车辆正前方道路图像为包含有车辆前方有效车道线信息的图像。
车道线信息提取模块6023,用于从所述有效的车辆正前方道路图像中提取出车道线信息。
坐标转换标识模块6024,用于将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处。
以及,行进控制模块6025,用于在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
进一步的,所述智能车行进控制设备还包括摄像头管理模块,用于对设置在车辆不同位置处的摄像头进行分组管理。
具体的,所述摄像头管理模块,用于依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组。
相应的,所述有效性处理模块包括:
顺序判断单元,用于按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像。
以及,有效性确认单元,用于当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
作为一个具体实施例,优选的,车辆不同位置处可以设置有三个摄像头,其中:
第一摄像头,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像。
第二摄像头,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像。
第三摄像头,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像。
需要说明的是,上述摄像头的设置方法仅为一种优选方案,本发明实施例还可以包括其它多种摄像头优选设置方案,比如第一摄像头设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;第四摄像头设置于前保险扛处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;等等。此时,第一摄像头和第四摄像头获取的图像在没有遮挡的情况下,都能全面覆盖车辆前方有效车道线信息,因此,各自分别形成一个分组,在此种情况下,后续进行图像有效性处理时,可以根据两个摄像头拍摄效果预定优先顺序,比如可以约定优先判断第一摄像头获取的图像是否包含完整车辆前方有效车道线信息,若没有再判断第四摄像头获取的图像是否包含完整车辆前方有效车道线信息。
相应的,所述图像获取模块,具体用于从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像。
所述顺序判断单元,具体用于判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息。
所述有效性确认单元,具体用于当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像中包含完整的车辆前方有效车道线信息,则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像为无效的车辆正前方道路图像,则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像。
其中,有效性确认单元中,将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像的具体实施方式可以包括:
对第二摄像头获取的车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行几何畸变校正和噪声点抑制处理;
对经上述处理后的车辆左前方道路图像和车辆右前方道路图像进行图像配准;
对配准后的车辆左前方道路图像和车辆右前方道路图像中的重叠区域进行融合处理,实现图像拼接,得到有效的车辆正前方道路图像。
优选的,所述车道线提取模块包括:
逆透视变换单元,用于对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果。
二值化处理单元,用于对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像。
以及,提取单元,用于从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界。
本发明实施例中,有效性处理模块中,对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像。其中,判断图像中是否包含完整的车辆前方有效车道线信息的具体实施方式可以包括:
识别图像中的车道线左边界和车道线右边界;
从识别到的每组车道线左边界和车道线右边界中,判断有效的车道线边界组;
若有效的车道线边界组数量大于预置值,则确认所述图像中包含完整的车辆前方有效车道线信息。
优选的,所述路权信息融合坐标系采用圆形或扇形变粒度雷达图方式。
相应的,所述坐标转换标识模块具体用于:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
具体的,行进控制模块包括:
路权信息获取单元,用于在路权信息融合坐标系中获取预置行进范围内的路权信息。
路权状态判断单元,用于根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态。
以及,行进控制单元,用于根据所述路权状态结合所述车道线信息控制车辆行进。
需要说明的是,本发明系统实施例中的各个模块或者子模块的工作原理和处理过程可以参见上述图1-图5所示方法实施例中的相关描述,此处不再赘述。
可见,本发明实施例提供的智能车行进控制系统,从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像,对多幅上述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像,从有效的车辆正前方道路图像中识别出车道线信息,根据识别出的车道线信息计算出当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离,进而根据所述偏离角度和偏离距离控制车辆行进。这样,由于在车辆的不同位置处分别设置多部摄像头,便可以从不同角度拍摄到车辆前方图像,当由于复杂的路况导致某个角度中,用于智能车行进控制的某些重要信息被遮挡等原因导致缺失时,便可以直接从其它角度中拍摄的图像中获取。因此,本发明实施例避免了繁杂的公式算法,不但提高了效率,而且可以根据实际图像进行缺失信息的获取,进一步提高了准确性,从而使得方案简单高效、控制准确,而且,不受到应用场景的限制,无论道路中车辆较多、并线等多发事件、道路不规范、车速较快等复杂情况下,本发明实施例都能很方便的获取到多个角度的图像,能够对多种场景适应性更强,以更好的实现对车辆行进的自动控制。
进一步的,本发明实施例还包括对设置在车辆不同位置处的多组摄像头拍摄的多组图像按照优先顺序进行图像进行有效性处理,即在车辆不同位置处设置的多个摄像头,其中,若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组。车辆上设置的每组摄像头设置的角度所拍摄的图像能够完全覆盖车辆前方有效车道线信息。在对图像进行有效性处理时,优先针对包括摄像头数量少的分组,可以在满足车道线识别条件的基础上,对较少数量的图像进行车道线识别处理,从而进一步提高智能车行进控制的效率。
进一步的,本发明实施例在对车辆进行行进控制的过程中,创造性的采用了路权信息融合坐标系采用圆形或扇形变粒度雷达图方式实现,路权雷达图能够实时有效完成车辆上多种类别、不同安装位置传感器的感知信息的融合,判断车辆可拥有的路权空间及其变化趋势;构造近处细粒度、远处粗粒度的变粒度栅格,能够在满足智能车环境感知需求的同时,大大减少所利用的存储空间与计算资源。
进一步的,本发明实施例在对智能车进行行进控制的过程中,综合考虑了各种路权信息,可以根据具体情况更加精确和更加高效的判断出下一步行进控制的方式,可以省去大量无效计算的过程,车辆行进效率和准确度得到了大幅提升。
进一步的,本发明实施例在车道线提取的过程中,在逆透视变换的基础上,进一步引入高速公路的结构约束条件,并且引入了视频图像的帧间关系,进一步提高了车道线检测的准确度。
进一步的,本发明实施例在计算当前车辆行进方向偏离应行进车道线的偏离角度和偏离距离的过程中,也加入对车道线分布的多种限制条件,以进一步减少搜索范围,大大提高算法效率和准确性。
为了便于清楚描述本发明实施例的技术方案,在发明的实施例中,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分,本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定。
本领域普通技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,所述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,包括如下步骤:(方法的步骤),所述的存储介质,如:ROM/RAM、磁碟、光盘等。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (10)

1.一种智能车行进控制方法,其特征在于,所述方法包括:
从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像;
对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像;所述有效的车辆正前方道路图像为包含有车辆前方有效车道线信息的图像;
从所述有效的车辆正前方道路图像中提取出车道线信息;
将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处;
在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
2.根据权利要求1所述的智能车行进控制方法,其特征在于,所述方法还包括对设置在车辆不同位置处的摄像头进行分组管理,具体包括:
依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组;
所述对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像包括:
按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像;
若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;若上述确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
3.根据权利要求2所述的智能车行进控制方法,其特征在于,车辆不同位置处设置有三个摄像头,其中:
第一摄像头,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;
第二摄像头,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像;
第三摄像头,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像;
所述从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像包括:
从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像;
所述对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像包括:
判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息;
若为有效的车辆正前方道路图像,则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;若为无效的车辆正前方道路图像,则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像;
所述将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像包括:
对第二摄像头获取的车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行几何畸变校正和噪声点抑制处理;
对经上述处理后的车辆左前方道路图像和车辆右前方道路图像进行图像配准;
对配准后的车辆左前方道路图像和车辆右前方道路图像中的重叠区域进行融合处理,实现图像拼接,得到有效的车辆正前方道路图像。
4.根据权利要求1所述的智能车行进控制方法,其特征在于,判断图像中是否包含完整的车辆前方有效车道线信息的方法包括:
识别图像中的车道线左边界和车道线右边界;
从识别到的每组车道线左边界和车道线右边界中,判断有效的车道线边界组;
若有效的车道线边界组数量大于预置值,则确认所述图像中包含完整的车辆前方有效车道线信息;
所述从所述有效的车辆正前方道路图像中提取出车道线信息包括:
对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界点;
所述将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处包括:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆间位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
5.根据权利要求1所述的智能车行进控制方法,其特征在于,所述路权信息融合坐标系采用圆形或扇形变粒度雷达图方式。
6.根据权利要求1所述的智能车行进控制方法,其特征在于,所述在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进包括:
在路权信息融合坐标系中获取预置行进范围内的路权信息;
根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
根据所述路权状态结合所述车道线信息控制车辆行进。
7.一种智能车行进控制系统,其特征在于,所述系统包括设置在车辆上不同位置处的摄像头、及智能车行进控制设备:
所述智能车行进控制设备包括:
图像获取模块,用于从设置在车辆上不同位置处的摄像头实时获取多幅不同角度的车辆前方道路图像;
有效性处理模块,用于对多幅所述车辆前方道路图像进行图像有效性处理,得到有效的车辆正前方道路图像;所述有效的车辆正前方道路图像为包含有车辆前方有效车道线信息的图像;
车道线信息提取模块,用于从所述有效的车辆正前方道路图像中提取出车道线信息;
坐标转换标识模块,用于将所述车道线信息经坐标转换后标定在路权信息融合坐标系中对应位置处;
行进控制模块,用于在路权信息融合坐标系中获取预置行进范围内的路权信息,根据获取到的所述路权信息判断当前智能车所处的路权状态,按照路权状况结合所述车道线信息控制车辆行进。
8.根据权利要求7所述的智能车行进控制系统,其特征在于,所述智能车行进控制设备还包括摄像头管理模块,
所述摄像头管理模块,用于依据图像覆盖范围对摄像头进行分组:若一摄像头的位置所拍摄图像角度中能覆盖车辆前方有效车道线信息,则将该摄像头作为一组;若设置在车辆相对位置的多个摄像头所拍摄图像角度中能完全覆盖车辆前方有效车道线信息,则将该设置在车辆相对位置的多个摄像头作为一组;
所述有效性处理模块包括:
顺序判断单元,用于按照分组中包含的摄像头数量由少至多的顺序逐组对摄像头获取的图像进行判断,确定包含完整车辆前方有效车道线信息的一组图像;
有效性确认单元,用于当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自一部摄像头拍摄的车辆前方道路图像,则将该车辆前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元确定的包含完整车辆前方有效车道线信息的一组图像为来自多部摄像头拍摄的车辆前方道路图像,则将该多部摄像头拍摄的车辆前方道路图像进行组合,得到有效的车辆正前方道路图像。
9.根据权利要求8所述的智能车行进控制系统,其特征在于,车辆不同位置处设置有三个摄像头,其中:
第一摄像头,设置于车辆后视镜处,镜头面向车辆正前方,用于实时获取车辆正前方道路图像;
第二摄像头,垂直设置于车辆左倒车镜下方,镜头面向车辆左前方,用于实时获取车辆左前方道路图像;
第三摄像头,垂直设置于车辆右倒车镜下方,镜头面向车辆右前方,用于实时获取车辆右前方道路图像;
所述图像获取模块,具体用于从第一摄像头获取车辆正前方道路图像、从第二摄像头获取车辆左前方道路图像、及从第三摄像头获取车辆右前方道路图像;
所述顺序判断单元,具体用于判断从第一摄像头获取的所述车辆正前方道路图像是否为有效的车辆正前方道路图像,即判断从第一摄像头获取的所述车辆正前方道路图像中是否包含完整的车辆前方有效车道线信息;
所述有效性确认单元,具体用于当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像中包含完整的车辆前方有效车道线信息,则将所述车辆正前方道路图像作为有效的车辆正前方道路图像;当所述顺序判断单元的判断结果为从第一摄像头获取的所述车辆正前方道路图像为无效的车辆正前方道路图像,则将从第二摄像头获取的所述车辆左前方道路图像及从第三摄像头获取的车辆右前方道路图像进行拼接,得到有效的车辆正前方道路图像;
所述车道线提取模块包括:
逆透视变换单元,用于对所述有效的车辆正前方道路图像进行逆透视变换处理,消除所述有效的车辆正前方道路图像中的透视效果;
二值化处理单元,用于对逆透视变换处理后的图像进行车道线自适应阈值二值化处理,得到二值化的车道线边缘图像;
提取单元,用于从二值化的车道线边缘图像中提取出多组车道线左边界点和右边界;
所述坐标转换标识模块具体用于:
针对多组车道线左边界点和右边界点,根据二值化的车道线边缘图像中各点与车辆间位置及路权信息融合坐标系中各点与车辆问位置的比例关系,经坐标转换后,将多组车道线左边界点和右边界点标定在路权信息融合坐标系中对应位置处。
10.根据权利要求7所述的智能车行进控制系统,其特征在于,所述路权信息融合坐标系采用圆形或扇形变粒度雷达图方式;
所述行进控制模块包括:
路权信息获取单元,用于在路权信息融合坐标系中获取预置行进范围内的路权信息;
路权状态判断单元,用于根据预置行进范围内路权信息判断当前智能车所处的路权状态;所述路权状态包括跟驰状态、车道更换状态和路口通行状态;
行进控制单元,用于根据所述路权状态结合所述车道线信息控制车辆行进。
CN201410259590.XA 2014-06-12 2014-06-12 一种智能车行进控制方法及系统 Expired - Fee Related CN104036279B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410259590.XA CN104036279B (zh) 2014-06-12 2014-06-12 一种智能车行进控制方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410259590.XA CN104036279B (zh) 2014-06-12 2014-06-12 一种智能车行进控制方法及系统

Publications (2)

Publication Number Publication Date
CN104036279A true CN104036279A (zh) 2014-09-10
CN104036279B CN104036279B (zh) 2017-04-05

Family

ID=51467045

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410259590.XA Expired - Fee Related CN104036279B (zh) 2014-06-12 2014-06-12 一种智能车行进控制方法及系统

Country Status (1)

Country Link
CN (1) CN104036279B (zh)

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104504902A (zh) * 2014-12-29 2015-04-08 李德毅 车辆使用路权、路权计算方法及基于路权的道路计费方法
CN104504364A (zh) * 2014-11-23 2015-04-08 北京联合大学 基于时空关联的停止线实时识别与测距方法
CN104590256A (zh) * 2015-01-29 2015-05-06 柳州市二和汽车零部件有限公司 车辆安全辅助控制系统
CN104691333A (zh) * 2015-03-30 2015-06-10 吉林大学 基于车道偏离频次的长途客车驾驶员疲劳状态评价方法
CN105120229A (zh) * 2015-09-16 2015-12-02 温州大学 广角镜头全方位监控器及图像匹配的方法
CN105528914A (zh) * 2014-10-17 2016-04-27 现代摩比斯株式会社 驾驶者支援装置以及驾驶者支援方法
CN105676253A (zh) * 2016-01-15 2016-06-15 武汉光庭科技有限公司 一种自动驾驶中基于城市道路标线地图的纵向定位系统及其方法
CN105759820A (zh) * 2016-04-08 2016-07-13 济宁中科先进技术研究院有限公司 基于激光和视觉的道路自主清扫控制系统及控制方法
CN106052705A (zh) * 2016-05-31 2016-10-26 惠州华阳通用电子有限公司 一种车载综合导航方法及装置
CN106250816A (zh) * 2016-07-19 2016-12-21 武汉依迅电子信息技术有限公司 一种基于双摄像头的车道线识别方法及系统
CN107662558A (zh) * 2016-07-27 2018-02-06 上海博泰悦臻网络技术服务有限公司 一种基于车外环境数据的辅助驾驶方法及装置
CN108010383A (zh) * 2017-09-29 2018-05-08 北京车和家信息技术有限公司 基于行驶车辆的盲区检测方法、装置、终端及车辆
CN108021132A (zh) * 2017-11-29 2018-05-11 芜湖星途机器人科技有限公司 路径规划方法
CN108263439A (zh) * 2016-12-30 2018-07-10 河南辉煌软件有限公司 一种列车安全运行监测系统
CN108491533A (zh) * 2018-03-29 2018-09-04 百度在线网络技术(北京)有限公司 数据融合方法、装置、数据处理系统及存储介质
CN108595022A (zh) * 2018-04-27 2018-09-28 网易(杭州)网络有限公司 虚拟角色行进方向调整方法及装置、电子设备、存储介质
CN108629856A (zh) * 2018-05-11 2018-10-09 魏会风 一种停车场智能停车收费方法
CN108805105A (zh) * 2018-06-29 2018-11-13 大连民族大学 构建俯视二维世界坐标系车前风险矩阵的方法
CN108898171A (zh) * 2018-06-20 2018-11-27 深圳市易成自动驾驶技术有限公司 图像识别处理方法、系统及计算机可读存储介质
CN109029438A (zh) * 2017-06-12 2018-12-18 广州英卓电子科技有限公司 一种在有限区域内的车辆定位方法
CN109141595A (zh) * 2018-06-15 2019-01-04 东南大学 一种通过视频识别车辆尺寸信息获取交通轴载信息的方法
CN109214314A (zh) * 2018-08-17 2019-01-15 宽凳(北京)科技有限公司 一种车道线自动融合匹配算法
CN109211260A (zh) * 2018-10-30 2019-01-15 奇瑞汽车股份有限公司 智能车的行驶路径规划方法及装置、智能车
CN109324620A (zh) * 2018-09-25 2019-02-12 北京主线科技有限公司 基于车道线平行偏移进行避障及超车的动态轨迹规划方法
CN109615660A (zh) * 2018-11-21 2019-04-12 吉利汽车研究院(宁波)有限公司 对车辆全景画面进行标定的方法及装置
CN109737983A (zh) * 2019-01-25 2019-05-10 北京百度网讯科技有限公司 用于生成行驶路径的方法和装置
CN110580046A (zh) * 2019-09-12 2019-12-17 吉利汽车研究院(宁波)有限公司 一种无人驾驶观光车的控制方法及其系统
CN111222417A (zh) * 2019-12-24 2020-06-02 武汉中海庭数据技术有限公司 一种用于提高基于车载图像车道线提取精度的方法及装置
CN111257866A (zh) * 2018-11-30 2020-06-09 杭州海康威视数字技术股份有限公司 车载摄像头和车载雷达联动的目标检测方法、装置及系统
CN111552289A (zh) * 2020-04-28 2020-08-18 苏州高之仙自动化科技有限公司 检测方法及虚拟雷达装置、电子设备、存储介质
CN111562576A (zh) * 2020-05-20 2020-08-21 北京望远四象科技有限公司 一种机场跑道异物检测系统及方法
CN111854788A (zh) * 2019-04-29 2020-10-30 安波福电子(苏州)有限公司 基于惯性测量单元的ar导航补偿系统
CN111914651A (zh) * 2020-07-01 2020-11-10 浙江大华技术股份有限公司 一种行车车道判定的方法、装置及存储介质
CN112539748A (zh) * 2019-09-19 2021-03-23 沛远智能科技(厦门)有限公司 适用于自动引导车辆的导航方法与系统
CN112562414A (zh) * 2021-02-25 2021-03-26 南京涵书韵信息科技有限公司 基于5g通讯技术的自动驾驶辅助系统、方法及存储介质
CN113034587A (zh) * 2019-12-25 2021-06-25 沈阳美行科技有限公司 车辆定位方法、装置、计算机设备和存储介质
CN113188553A (zh) * 2021-04-15 2021-07-30 杭州海康威视系统技术有限公司 路线规划方法、装置、电子设备及机器可读存储介质
CN113781315A (zh) * 2021-07-21 2021-12-10 武汉市异方体科技有限公司 一种基于多视角的同源传感器数据融合滤波方法
US11361661B2 (en) 2018-07-11 2022-06-14 Samsung Electronics Co., Ltd In-vehicle infotainment system communicating with unmanned aerial vehicle and method of operating the same
CN114821544A (zh) * 2022-06-29 2022-07-29 小米汽车科技有限公司 感知信息生成方法、装置、车辆、电子设备及存储介质
CN115474170A (zh) * 2016-02-10 2022-12-13 北极星工业有限公司 利于休闲车辆的使用的方法和系统、休闲车辆及用户接口

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5359666A (en) * 1988-09-28 1994-10-25 Honda Giken Kogyo Kabushiki Kaisha Driving way judging device and method
CN202130447U (zh) * 2011-05-31 2012-02-01 德尔福电子(苏州)有限公司 一种新型的车道线偏离检测装置
CN103256939A (zh) * 2013-04-15 2013-08-21 李德毅 智能车辆利用变粒度路权雷达图进行信息融合的方法
CN103847736A (zh) * 2012-11-28 2014-06-11 现代摩比斯株式会社 车道线识别系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5359666A (en) * 1988-09-28 1994-10-25 Honda Giken Kogyo Kabushiki Kaisha Driving way judging device and method
CN202130447U (zh) * 2011-05-31 2012-02-01 德尔福电子(苏州)有限公司 一种新型的车道线偏离检测装置
CN103847736A (zh) * 2012-11-28 2014-06-11 现代摩比斯株式会社 车道线识别系统
CN103256939A (zh) * 2013-04-15 2013-08-21 李德毅 智能车辆利用变粒度路权雷达图进行信息融合的方法

Cited By (66)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105528914A (zh) * 2014-10-17 2016-04-27 现代摩比斯株式会社 驾驶者支援装置以及驾驶者支援方法
US9902426B2 (en) 2014-10-17 2018-02-27 Hyundai Mobis Co., Ltd. Apparatus and method for driver assistance
CN105528914B (zh) * 2014-10-17 2018-12-28 现代摩比斯株式会社 驾驶者支援装置以及驾驶者支援方法
CN104504364A (zh) * 2014-11-23 2015-04-08 北京联合大学 基于时空关联的停止线实时识别与测距方法
CN104504364B (zh) * 2014-11-23 2017-10-10 北京联合大学 基于时空关联的停止线实时识别与测距方法
CN104504902A (zh) * 2014-12-29 2015-04-08 李德毅 车辆使用路权、路权计算方法及基于路权的道路计费方法
CN104504902B (zh) * 2014-12-29 2016-05-04 李德毅 车辆使用路权、路权计算方法及基于路权的道路计费方法
CN104590256A (zh) * 2015-01-29 2015-05-06 柳州市二和汽车零部件有限公司 车辆安全辅助控制系统
CN104691333A (zh) * 2015-03-30 2015-06-10 吉林大学 基于车道偏离频次的长途客车驾驶员疲劳状态评价方法
CN105120229A (zh) * 2015-09-16 2015-12-02 温州大学 广角镜头全方位监控器及图像匹配的方法
CN105676253A (zh) * 2016-01-15 2016-06-15 武汉光庭科技有限公司 一种自动驾驶中基于城市道路标线地图的纵向定位系统及其方法
CN105676253B (zh) * 2016-01-15 2019-01-01 武汉光庭科技有限公司 一种自动驾驶中基于城市道路标线地图的纵向定位系统及其方法
US11963064B2 (en) 2016-02-10 2024-04-16 Polaris Industries Inc. Recreational vehicle group management system
CN115474170A (zh) * 2016-02-10 2022-12-13 北极星工业有限公司 利于休闲车辆的使用的方法和系统、休闲车辆及用户接口
CN105759820A (zh) * 2016-04-08 2016-07-13 济宁中科先进技术研究院有限公司 基于激光和视觉的道路自主清扫控制系统及控制方法
CN106052705A (zh) * 2016-05-31 2016-10-26 惠州华阳通用电子有限公司 一种车载综合导航方法及装置
CN106250816A (zh) * 2016-07-19 2016-12-21 武汉依迅电子信息技术有限公司 一种基于双摄像头的车道线识别方法及系统
CN107662558A (zh) * 2016-07-27 2018-02-06 上海博泰悦臻网络技术服务有限公司 一种基于车外环境数据的辅助驾驶方法及装置
CN107662558B (zh) * 2016-07-27 2020-04-03 上海博泰悦臻网络技术服务有限公司 一种基于车外环境数据的辅助驾驶方法及装置
CN108263439A (zh) * 2016-12-30 2018-07-10 河南辉煌软件有限公司 一种列车安全运行监测系统
CN109029438A (zh) * 2017-06-12 2018-12-18 广州英卓电子科技有限公司 一种在有限区域内的车辆定位方法
CN108010383A (zh) * 2017-09-29 2018-05-08 北京车和家信息技术有限公司 基于行驶车辆的盲区检测方法、装置、终端及车辆
CN108021132A (zh) * 2017-11-29 2018-05-11 芜湖星途机器人科技有限公司 路径规划方法
CN108491533A (zh) * 2018-03-29 2018-09-04 百度在线网络技术(北京)有限公司 数据融合方法、装置、数据处理系统及存储介质
CN108491533B (zh) * 2018-03-29 2019-04-02 百度在线网络技术(北京)有限公司 数据融合方法、装置、数据处理系统及存储介质
CN108595022A (zh) * 2018-04-27 2018-09-28 网易(杭州)网络有限公司 虚拟角色行进方向调整方法及装置、电子设备、存储介质
CN108595022B (zh) * 2018-04-27 2021-06-18 网易(杭州)网络有限公司 虚拟角色行进方向调整方法及装置、电子设备、存储介质
CN108629856A (zh) * 2018-05-11 2018-10-09 魏会风 一种停车场智能停车收费方法
CN109141595B (zh) * 2018-06-15 2020-06-30 东南大学 一种通过视频识别车辆尺寸信息获取交通轴载信息的方法
CN109141595A (zh) * 2018-06-15 2019-01-04 东南大学 一种通过视频识别车辆尺寸信息获取交通轴载信息的方法
CN108898171B (zh) * 2018-06-20 2022-07-22 深圳市易成自动驾驶技术有限公司 图像识别处理方法、系统及计算机可读存储介质
CN108898171A (zh) * 2018-06-20 2018-11-27 深圳市易成自动驾驶技术有限公司 图像识别处理方法、系统及计算机可读存储介质
CN108805105A (zh) * 2018-06-29 2018-11-13 大连民族大学 构建俯视二维世界坐标系车前风险矩阵的方法
CN108805105B (zh) * 2018-06-29 2022-04-01 大连民族大学 构建俯视二维世界坐标系车前风险矩阵的方法
US11361661B2 (en) 2018-07-11 2022-06-14 Samsung Electronics Co., Ltd In-vehicle infotainment system communicating with unmanned aerial vehicle and method of operating the same
CN109214314A (zh) * 2018-08-17 2019-01-15 宽凳(北京)科技有限公司 一种车道线自动融合匹配算法
CN109214314B (zh) * 2018-08-17 2022-03-29 宽凳(北京)科技有限公司 一种车道线自动融合匹配算法
CN109324620A (zh) * 2018-09-25 2019-02-12 北京主线科技有限公司 基于车道线平行偏移进行避障及超车的动态轨迹规划方法
CN109211260A (zh) * 2018-10-30 2019-01-15 奇瑞汽车股份有限公司 智能车的行驶路径规划方法及装置、智能车
CN109211260B (zh) * 2018-10-30 2022-04-08 奇瑞汽车股份有限公司 智能车的行驶路径规划方法及装置、智能车
CN109615660A (zh) * 2018-11-21 2019-04-12 吉利汽车研究院(宁波)有限公司 对车辆全景画面进行标定的方法及装置
CN111257866A (zh) * 2018-11-30 2020-06-09 杭州海康威视数字技术股份有限公司 车载摄像头和车载雷达联动的目标检测方法、装置及系统
CN111257866B (zh) * 2018-11-30 2022-02-11 杭州海康威视数字技术股份有限公司 车载摄像头和车载雷达联动的目标检测方法、装置及系统
CN109737983A (zh) * 2019-01-25 2019-05-10 北京百度网讯科技有限公司 用于生成行驶路径的方法和装置
CN109737983B (zh) * 2019-01-25 2022-02-22 北京百度网讯科技有限公司 用于生成行驶路径的方法和装置
KR20200093413A (ko) * 2019-01-25 2020-08-05 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 주행 경로 생성 방법 및 장치
US11313685B2 (en) 2019-01-25 2022-04-26 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and apparatus for generating driving path
KR102343989B1 (ko) * 2019-01-25 2021-12-29 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 주행 경로 생성 방법 및 장치
CN111854788B (zh) * 2019-04-29 2023-09-01 安波福电子(苏州)有限公司 基于惯性测量单元的ar导航补偿系统
CN111854788A (zh) * 2019-04-29 2020-10-30 安波福电子(苏州)有限公司 基于惯性测量单元的ar导航补偿系统
CN110580046B (zh) * 2019-09-12 2022-08-16 吉利汽车研究院(宁波)有限公司 一种无人驾驶观光车的控制方法及其系统
CN110580046A (zh) * 2019-09-12 2019-12-17 吉利汽车研究院(宁波)有限公司 一种无人驾驶观光车的控制方法及其系统
CN112539748B (zh) * 2019-09-19 2022-08-23 沛远智能科技(厦门)有限公司 适用于自动引导车辆的导航方法与系统
CN112539748A (zh) * 2019-09-19 2021-03-23 沛远智能科技(厦门)有限公司 适用于自动引导车辆的导航方法与系统
CN111222417A (zh) * 2019-12-24 2020-06-02 武汉中海庭数据技术有限公司 一种用于提高基于车载图像车道线提取精度的方法及装置
CN113034587A (zh) * 2019-12-25 2021-06-25 沈阳美行科技有限公司 车辆定位方法、装置、计算机设备和存储介质
CN113034587B (zh) * 2019-12-25 2023-06-16 沈阳美行科技股份有限公司 车辆定位方法、装置、计算机设备和存储介质
CN111552289A (zh) * 2020-04-28 2020-08-18 苏州高之仙自动化科技有限公司 检测方法及虚拟雷达装置、电子设备、存储介质
CN111562576A (zh) * 2020-05-20 2020-08-21 北京望远四象科技有限公司 一种机场跑道异物检测系统及方法
CN111914651A (zh) * 2020-07-01 2020-11-10 浙江大华技术股份有限公司 一种行车车道判定的方法、装置及存储介质
CN112562414A (zh) * 2021-02-25 2021-03-26 南京涵书韵信息科技有限公司 基于5g通讯技术的自动驾驶辅助系统、方法及存储介质
CN112562414B (zh) * 2021-02-25 2021-07-13 郑州森鹏电子技术有限公司 基于5g通讯技术的自动驾驶辅助系统、方法及存储介质
CN113188553A (zh) * 2021-04-15 2021-07-30 杭州海康威视系统技术有限公司 路线规划方法、装置、电子设备及机器可读存储介质
CN113188553B (zh) * 2021-04-15 2023-11-21 杭州海康威视系统技术有限公司 路线规划方法、装置、电子设备及机器可读存储介质
CN113781315A (zh) * 2021-07-21 2021-12-10 武汉市异方体科技有限公司 一种基于多视角的同源传感器数据融合滤波方法
CN114821544A (zh) * 2022-06-29 2022-07-29 小米汽车科技有限公司 感知信息生成方法、装置、车辆、电子设备及存储介质

Also Published As

Publication number Publication date
CN104036279B (zh) 2017-04-05

Similar Documents

Publication Publication Date Title
CN104036279A (zh) 一种智能车行进控制方法及系统
CN103991449B (zh) 一种车辆行进控制方法及系统
CN112069643B (zh) 一种自动驾驶仿真场景生成方法及装置
US9652980B2 (en) Enhanced clear path detection in the presence of traffic infrastructure indicator
US10969788B2 (en) ECU, autonomous vehicle including ECU, and method of determining driving lane for the same
Li et al. Springrobot: A prototype autonomous vehicle and its algorithms for lane detection
JP6313646B2 (ja) 外界認識装置
CN103731652B (zh) 移动面分界线认知装置和方法、以及移动体设备控制系统
US9042639B2 (en) Method for representing surroundings
CN106199558A (zh) 障碍物快速检测方法
Jang et al. Traffic light recognition exploiting map and localization at every stage
CN111582189A (zh) 交通信号灯识别方法、装置、车载控制终端及机动车
Cerri et al. Computer vision at the hyundai autonomous challenge
US20160253567A1 (en) Situation analysis for a driver assistance system
CN113362394A (zh) 一种基于视觉语义分割技术的车辆实时定位方法
CN111160132B (zh) 障碍物所在车道的确定方法、装置、电子设备和存储介质
CN114627409A (zh) 一种车辆异常变道的检测方法及装置
CN110765224A (zh) 电子地图的处理方法、车辆视觉重定位的方法和车载设备
CN116401154A (zh) 一种视觉感知系统的测试方法、装置、产品及车辆
Suganuma et al. Current status and issues of traffic light recognition technology in Autonomous Driving System
CN105022991A (zh) 一种车牌处理与自动识别方法
KR20210035360A (ko) 교행 다차로를 위한 차량번호 인식방법 및 장치
WO2023021726A1 (ja) 標識認識装置、および、標識認識方法
US11919508B2 (en) Computer vision system for object tracking and time-to-collision
US11893799B2 (en) Computer vision system for object tracking and time-to-collision

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170405

Termination date: 20170612