CN116778448A - 车辆安全驾驶辅助方法、装置、系统、设备及存储介质 - Google Patents
车辆安全驾驶辅助方法、装置、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN116778448A CN116778448A CN202310462490.6A CN202310462490A CN116778448A CN 116778448 A CN116778448 A CN 116778448A CN 202310462490 A CN202310462490 A CN 202310462490A CN 116778448 A CN116778448 A CN 116778448A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- coordinate system
- infrared camera
- obstacle
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000001514 detection method Methods 0.000 claims abstract description 68
- 230000004927 fusion Effects 0.000 claims abstract description 63
- 238000013507 mapping Methods 0.000 claims abstract description 45
- 230000001360 synchronised effect Effects 0.000 claims abstract description 30
- 238000007499 fusion processing Methods 0.000 claims abstract description 10
- 238000012545 processing Methods 0.000 claims description 38
- 238000004891 communication Methods 0.000 claims description 36
- 238000010438 heat treatment Methods 0.000 claims description 34
- 238000000605 extraction Methods 0.000 claims description 23
- 238000004422 calculation algorithm Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 14
- 238000013135 deep learning Methods 0.000 claims description 13
- 230000011218 segmentation Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 7
- 230000008859 change Effects 0.000 claims description 6
- 239000013598 vector Substances 0.000 claims description 6
- 238000004458 analytical method Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 230000008030 elimination Effects 0.000 claims description 3
- 238000003379 elimination reaction Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims description 3
- 230000000877 morphologic effect Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 206010039203 Road traffic accident Diseases 0.000 abstract description 8
- 238000013461 design Methods 0.000 description 20
- 230000008447 perception Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 8
- 230000007547 defect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000003331 infrared imaging Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000002390 adhesive tape Substances 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Traffic Control Systems (AREA)
Abstract
本发明公开了一种车辆安全驾驶辅助方法、装置、系统、设备及存储介质,涉及安全驾驶技术领域。所述方法是在接收到对车身周围空间实时采集的红外图像数据和激光点云数据后,先根据采集时间同步的红外图像信息和激光点云信息,分别检测得到两种识出障碍物在红外相机坐标系和激光雷达坐标系中的所处空间,然后根据预先标定的坐标系映射关系和预设的空间距离约束条件,对这两种识出障碍物进行匹配融合处理,确定出匹配融合障碍物,最后将匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示,如此可以结合红外相机和三维激光雷达的各自优势,大大地减小出现不正确检测结果的情况,实现准确提醒驾驶员注意安全和预防交通事故发生的目的。
Description
技术领域
本发明属于安全驾驶技术领域,具体涉及一种车辆安全驾驶辅助方法、装置、系统、设备及存储介质。
背景技术
目前的车辆安全驾驶辅助方案主要分为如下两类:一类是采用基于相机(例如红外相机)和毫米波雷达的车辆安全驾驶辅助技术,另一类是采用基于激光雷达的车辆安全驾驶辅助技术。但是这两种方案都有各自的缺陷,即毫米波雷达只能得到物体距离、速度和角度等简单信息,无法对物体进行检测识别;而激光雷达虽然具有物体轮廓感知清晰、信息量大和便于分析检测等优点,但是检测结果不够直观,等等。
另外,在当前夜间驾驶辅助系统中,常见的是利用红外线成像技术,即由红外相机通过检测和捕捉到物体的温度差异,收集来自场景中物体的红外辐射,并根据温差的信息创建像素,组成红外图像,最后利用该红外图像对物体进行检测识别。但是由于现有红外线成像技术的不成熟和传感器自身限制,在温差较小时(例如凌晨或雨后等情况下),仅依靠单一的红外相机无法准确感知周围环境;即使再加上常用的超声波雷达,也会因其无法判断物体形状,使得最终无法给予精准的辅助决策,如此就可能因车身周围障碍物感知不准确而引发驾驶辅助系统错误预警或遗漏预警。近几年,已有多起自动驾驶汽车因超声波雷达的缺陷而造成重大交通事故的发生。因此如何提供一种适用于诸如黑夜、雾霾、雨、雪或大雾天气等微光环境的车辆安全驾驶辅助新方案,以便辅助驾驶人员精准感知车身周围障碍物,预防交通事故发生,是本领域技术人员亟需研究的课题。
发明内容
本发明的目的是提供一种车辆安全驾驶辅助方法、装置、系统、计算机设备及计算机可读存储介质,用以解决现有车辆安全驾驶辅助技术可能因车身周围障碍物感知不准确而引发驾驶辅助系统错误预警或遗漏预警的问题。
为了实现上述目的,本发明采用以下技术方案:
第一方面,提供了一种车辆安全驾驶辅助方法,包括:
接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上;
分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息;
根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间;
根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间;
根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间;
根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物;
根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值;
将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
基于上述发明内容,提供了一种基于红外相机和三维激光雷达融合感知车身周围障碍物的驾驶辅助新方案,即在接收到对车身周围空间实时采集的红外图像数据和激光点云数据后,先根据采集时间同步的红外图像信息和激光点云信息,分别检测得到两种识出障碍物在红外相机坐标系和激光雷达坐标系中的所处空间,然后根据预先标定的坐标系映射关系和预设的空间距离约束条件,对这两种识出障碍物进行匹配融合处理,确定出匹配融合障碍物,最后将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示,如此可以结合红外相机和三维激光雷达的各自优势,大大地减小出现不正确检测结果的情况,提升对微光环境的整体感知性能,进而可杜绝引发驾驶辅助系统错误预警或遗漏预警的情况,实现准确提醒驾驶员注意安全和预防交通事故发生的目的,特别适用于在黑夜、雾霾、雨、雪和大雾天气等微光环境中使用,便于实际应用和推广。
在一个可能的设计中,分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息,包括:
若所述红外相机的数据采集频率高于所述三维激光雷达的数据采集频率,则先从所述激光点云数据中实时提取出一帧激光点云信息,然后从所述红外图像数据中查找到采集时刻距离该帧激光点云信息的采集时间戳最近的一帧红外图像信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息;
若所述红外相机的数据采集频率低于所述三维激光雷达的数据采集频率,则先从所述红外图像数据中实时提取出一帧红外图像信息,然后从所述激光点云数据中查找到采集时刻距离该帧红外图像信息的采集时间戳最近的一帧激光点云信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息。
在一个可能的设计中,根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间,包括:
将所述红外图像信息导入基于YOLOv5目标检测算法的且已完成预训练的障碍物识别模型,输出得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间。
在一个可能的设计中,根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间,包括:
对所述激光点云信息进行基于局部几何特征滤波器的边界粗提取处理,得到道路粗边界检测结果,其中,所述局部几何特征滤波器包括有曲率滤波器、高度差滤波器和/或向量夹角滤波器;
对所述道路粗边界检测结果进行基于全局形态分析的边界优化处理,得到道路边界检测结果;
根据所述道路边界检测结果,对所述激光点云信息进行地面分割处理,得到非地面激光点云信息,其中,所述地面分割处理采用基于俯仰角剔除的地面分割算法;
对所述非地面激光点云信息进行基于参数自适应的欧式聚类处理,得到激光点云聚类结果,其中,所述参数自适应是指在欧式聚类中的球领域半径大小随点云的距离变化而自适应变化;
将所述激光点云聚类结果中的每一个点云聚类作为一个第二识出障碍物,并将其在激光雷达坐标系中的所处空间作为该第二识出障碍物在所述激光雷达坐标系中的所处空间。
在一个可能的设计中,在根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中之前,所述方法还包括:
接收来自所述红外相机的标定板红外图像信息和来自所述三维激光雷达的标定板激光点云信息,其中,所述标定板红外图像信息由所述红外相机对热敏标定板采集得到,所述标定板激光点云信息由所述三维激光雷达对所述热敏标定板探测并采集得到,所述热敏标定板包括有黑白棋盘格标定板和具有相同尺寸大小的多个发热片,所述多个发热片中的各个发热片分别一一对应地附着在所述黑白棋盘格标定板中的各个黑白格交点位置;
对所述标定板红外图像信息进行发热特征点提取处理,得到多个发热特征点在所述红外相机坐标系中的坐标,其中,所述多个发热特征点与所述多个发热片一一对应;
对所述标定板激光点云信息进行基于预设条件的点云滤波处理,得到热敏标定板点云粗提取结果;
根据所述热敏标定板点云粗提取结果,利用随机采样一致性算法拟合出标定板平面并获得真正的热敏标定板点云;
根据点云的分布特点,计算得到所述热敏标定板点云的边缘点;
根据所述边缘点,拟合得到所述热敏标定板点云的四条边;
根据所述四条边,求取相邻两条边在三维空间的交点,得到所述热敏标定板点云的四个顶点;
根据正方形的性质,利用所述四个顶点分别在所述激光雷达坐标系中的坐标,求得所述多个发热特征点在所述激光雷达坐标系中的坐标;
根据所述多个发热特征点分别在所述红外相机坐标系和所述激光雷达坐标系中的坐标,建立以所述激光雷达坐标系与所述红外相机坐标系的映射关系为未知数的方程组;
求解所述方程组,得到所述映射关系。
第二方面,提供了一种车辆安全驾驶辅助装置,包括有数据接收模块、同步提取模块、红外目标检测模块、点云目标检测模块、映射处理模块、匹配融合模块、距离计算模块和传送提醒模块;
所述数据接收模块,用于接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上;
所述同步提取模块,通信连接所述数据接收模块,用于分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息;
所述红外目标检测模块,通信连接所述同步提取模块,用于根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间;
所述点云目标检测模块,通信连接所述同步提取模块,用于根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间;
所述映射处理模块,分别通信连接所述红外目标检测模块和所述点云目标检测模块,用于根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间;
所述匹配融合模块,通信连接所述映射处理模块,用于根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物;
所述距离计算模块,通信连接所述匹配融合模块,用于根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值;
所述传送提醒模块,分别通信连接所述红外目标检测模块和所述距离计算模块,用于将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
第三方面,本发明提供了一种车辆安全驾驶辅助系统,包括有机箱、红外相机、三维激光雷达、工控机和提醒设备,其中,所述机箱固定在车辆本体上并整合集成所述红外相机、所述三维激光雷达和所述工控机;
所述红外相机,通信连接所述工控机,用于对车身周围空间实时采集得到红外图像数据,并将所述红外图像数据实时传送至所述工控机;
所述三维激光雷达,通信连接所述工控机,用于对所述车身周围空间实时探测并采集得到激光点云数据,并将所述激光点云数据实时传送至所述工控机;
所述工控机,通信连接所述提醒设备,用于执行如第一方面或第一方面中任意可能设计所述的车辆安全驾驶辅助方法;
所述提醒设备,用于输出展示来自所述工控机的信息。
第四方面,本发明提供了一种计算机设备,包括有依次通信连接的存储器、处理器和收发器,其中,所述存储器用于存储计算机程序,所述收发器用于收发消息,所述处理器用于读取所述计算机程序,执行如第一方面或第一方面中任意可能设计所述的车辆安全驾驶辅助方法。
第五方面,本发明提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,当所述指令在计算机上运行时,执行如第一方面或第一方面中任意可能设计所述的车辆安全驾驶辅助方法。
第六方面,本发明提供了一种包含指令的计算机程序产品,当所述指令在计算机上运行时,使所述计算机执行如第一方面或第一方面中任意可能设计所述的车辆安全驾驶辅助方法。
上述方案的有益效果:
(1)本发明创造性提供了一种基于红外相机和三维激光雷达融合感知车身周围障碍物的驾驶辅助新方案,即在接收到对车身周围空间实时采集的红外图像数据和激光点云数据后,先根据采集时间同步的红外图像信息和激光点云信息,分别检测得到两种识出障碍物在红外相机坐标系和激光雷达坐标系中的所处空间,然后根据预先标定的坐标系映射关系和预设的空间距离约束条件,对这两种识出障碍物进行匹配融合处理,确定出匹配融合障碍物,最后将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示,如此可以结合红外相机和三维激光雷达的各自优势,大大地减小出现不正确检测结果的情况,提升对微光环境的整体感知性能,进而可杜绝引发驾驶辅助系统错误预警或遗漏预警的情况,实现准确提醒驾驶员注意安全和预防交通事故发生的目的,特别适用于在黑夜、雾霾、雨、雪和大雾天气等微光环境中使用,便于实际应用和推广;
(2)前述红外相机和三维激光雷达的匹配融合优势包括有如下:由于红外线对温差具有很强感知能力,激光具有很强的穿透能力,三维激光能够探测物体轮廓结构,因此融合后可在黑夜、雾霾、雨、雪和大雾天气等微光环境中使用;由于红外光和激光传播速度快,频率在传播过程中衰减速度较慢,因此可有效探测远方的障碍物,稳定性强;由于红外相机和三维激光雷达具有结构简单、体积小、费用低、易于集成化和小型化等优点,因此便于集成整合在车辆本体上;
(3)还可以基于新设计的热敏标定板及联合标定流程,准确得到激光雷达坐标系与红外相机坐标系的映射关系,确保后续匹配融合处理结果的正确性,进一步减小出现不正确检测结果的情况;
(4)所提供的系统还可具有成本低和简单实用的优点,克服现有障碍探测产品及系统成本高、设计复杂、智能化低、探测范围小、精确度不高和适用性差等缺点,同时通过采用便携式设计,并将红外相机、三维激光雷达和工控机等高效集成,以及利用车载电源供电且不与车内自身设备发生交联,不影响干扰车内其他设备运行,不受车型限制,使用方便快捷,实用性强,因此可适用于安装在轿车、货车或大巴车等机动车上,大大降低交通事故的发生。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的车辆安全驾驶辅助方法的流程示意图。
图2为本申请实施例提供的实现映射关系标定的流程示意图。
图3为本申请实施例提供的热敏标定板的平面结构示意图。
图4为本申请实施例提供的车辆安全驾驶辅助装置的结构示意图。
图5为本申请实施例提供的车辆安全驾驶辅助系统的结构示意图。
图6为本申请实施例提供的在车辆安全驾驶辅助系统中机箱的立体结构示意图。
图7为本申请实施例提供的计算机设备的结构示意图。
上述附图中:1-机箱;11-固定底座;2-红外相机;3-三维激光雷达;100-黑白棋盘格标定板;101-发热片。
具体实施方式
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将结合附图和实施例或现有技术的描述对本发明作简单地介绍,显而易见地,下面关于附图结构的描述仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在此需要说明的是,对于这些实施例方式的说明用于帮助理解本发明,但并不构成对本发明的限定。
应当理解,尽管本文可能使用术语第一和第二等等来描述各种对象,但是这些对象不应当受到这些术语的限制。这些术语仅用于区分一个对象和另一个对象。例如可以将第一对象称作第二对象,并且类似地可以将第二对象称作第一对象,同时不脱离本发明的示例实施例的范围。
应当理解,对于本文中可能出现的术语“和/或”,其仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A、单独存在B或者同时存在A和B等三种情况;又例如,A、B和/或C,可以表示存在A、B和C中的任意一种或他们的任意组合;对于本文中可能出现的术语“/和”,其是描述另一种关联对象关系,表示可以存在两种关系,例如,A/和B,可以表示:单独存在A或者同时存在A和B等两种情况;另外,对于本文中可能出现的字符“/”,一般表示前后关联对象是一种“或”关系。
实施例:
如图1所示,本实施例第一方面提供的所述车辆安全驾驶辅助方法,可以但不限于由具有一定计算资源的且分别通信连接红外相机、三维激光雷达和提醒设备的计算机设备执行,例如由工控机、行车电脑、个人计算机(PersonalComputer,PC,指一种大小、价格和性能适用于个人使用的多用途计算机;台式机、笔记本电脑到小型笔记本电脑和平板电脑以及超级本等都属于个人计算机)、智能手机、个人数字助理(PersonalDigitalAssistant,PDA)或可穿戴设备等电子设备执行。如图1所示,所述车辆安全驾驶辅助方法,可以但不限于包括有如下步骤S1~S8。
S1.接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上。
在所述步骤S1中,所述红外相机用于通过获取所述车身周围空间中物体温差的方式(即现有的红外线成像技术),采集并构建得到所述红外图像数据;所述红外相机在每采集得到一帧红外图像信息后,可以消息形式进行发布,以便本地设备订阅获取,完成对所述红外图像数据的传送和接收;具体的,所述红外相机可采用现有产品实现。所述三维激光雷达用于通过先发送激光信号到外界,然后接收外界反射回的信号以获取环境信息的方式,探测并采集得到用于描述外界环境的所述激光点云数据;所述三维激光雷达在每采集得到一帧激光点云信息后,也可以消息形式进行发布,以便本地设备订阅获取,完成对所述激光点云数据的传送和接收;具体的,所述三维激光雷达也可采用现有产品实现。所述车身周围空间可以但不限于包括有车身前方空间、车身后方空间、车身左方空间和车身右方空间等中的任意一个或它们的任意组合;例如,在一般行车情况下,所述车身周围空间为所述车身前方空间;而在倒车时,所述车身周围空间可为所述车身后方空间。所述红外相机和所述三维激光雷达在所述车辆本体上的具体安装位置可以但不限于是车体头部(例如当所述车身周围空间为车身前方空间时)、车体尾部(例如当所述车身周围空间为车身后方空间时)或车体顶部等位置。此外,所述红外相机的镜头朝向与所述三维激光雷达的探测方向需要一致,例如都为车身前方。
S2.分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息。
在所述步骤S2中,具体是从所述红外图像数据中实时提取出一帧所述红外图像信息,以及从所述激光点云数据中实时提取出一帧所述激光点云信息。由于所述红外相机和所述三维激光雷达的数据采集频率是不同的,这会导致在同一单位时间它们采集的数据的表征对象不一致,因此为了保证后续障碍物匹配融合的准确性,就需要先解决所述红外图像数据与所述激光点云数据的同步问题。具体的,分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息,包括但不限于有如下步骤:若所述红外相机的数据采集频率高于所述三维激光雷达的数据采集频率,则先从所述激光点云数据中实时提取出一帧激光点云信息,然后从所述红外图像数据中查找到采集时刻距离该帧激光点云信息的采集时间戳最近的一帧红外图像信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息;若所述红外相机的数据采集频率低于所述三维激光雷达的数据采集频率,则先从所述红外图像数据中实时提取出一帧红外图像信息,然后从所述激光点云数据中查找到采集时刻距离该帧红外图像信息的采集时间戳最近的一帧激光点云信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息。举例的,当所述激光雷达的数据采集频率为10Hz且所述红外相机的数据采集频率为25Hz时,若先提取出在第9.20秒采集的第92帧激光点云信息,并在第9.20秒的周围采集有:在第9.17秒采集的第229帧红外图像信息和在第9.21秒采集的第230帧红外图像信息,则可将所述第230帧红外图像信息和所述第92帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息。
S3.根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间。
在所述步骤S3中,所述深度学习方式是一种学习样本数据的内在规律和表示层次的机器学习方式,由于在其学习过程中所获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助,因此可让机器能够像人一样具有分析学习能力并识别文字、图像和声音等数据,进而可以通过所述深度学习方式识别出在所述红外图像信息中出现的障碍物的所属类型(例如车辆、行人和动物等)以及该障碍物在所述红外相机坐标系中的所处空间。当所述红外相机为单目相机时,所述红外相机坐标系为二维平面坐标系,所述第一识出障碍物在所述红外相机坐标系中的所处空间可通过矩形标记框来表示;而当所述红外相机为双目相机时,所述红外相机坐标系为三维立体坐标系,所述第一识出障碍物在所述红外相机坐标系中的所处空间可通过矩形标记框和基于双目测距算法确定的红外距离来表示。
在所述步骤S3中,为了确保红外目标检测结果的准确性,优选的,根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间,包括但不限于有:将所述红外图像信息导入基于YOLOv5目标检测算法的且已完成预训练的障碍物识别模型,输出得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间。所述YOLOv5目标检测算法是YOLO(Youonlylookonce,目前最新已经发展到V5版本,在业界的应用也很广泛,其基本原理是:首先对输入图像划分成7x7的网格,对每个网格预测2个边框,然后根据阈值去除可能性比较低的目标窗口,最后再使用边框合并的方式去除冗余窗口,得出检测结果)目标检测算法的最新版本,可在图片中将里面的物体识别出来且标记出物体位置,因此前述的障碍物识别模型可通过常规的样本训练方式训练得到(例如专门制作用于夜间目标检测的红外数据集,在人工标注样本后应用该样本进行模型训练,以此改善因红外图像质量差等缺点引起的YOLO检测效果不好的问题),以便在输入测试图像后,可以输出有无障碍物的识别结果以及它们的置信度预测值和所处位置等信息。此外,所述第一识出障碍物即是指基于红外图像信息识别出的障碍物,具体包括但不限于有车辆、行人和动物等障碍物,在识别过程中,针对不同障碍物,可以应用对应的且训练所得的障碍物识别模型来进行对应的检测识别处理。
S4.根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间。
在所述步骤S4中,所述第二识出障碍物即是指基于激光点云信息识别出的障碍物,其具体是否为车辆、行人和动物等障碍物,可以暂时不明(因为后续会进行融合匹配)。由于所述激光雷达坐标系为三维立体坐标系,因此所述第二识出障碍物在所述激光雷达坐标系中的所处空间将会是一个三维坐标表达。由于所述激光点云信息是对所有障碍物的感知结果,因此所述点云目标检测处理是一个先点云数据剔除再聚类分析的处理过程,并为了确保点云目标检测结果的准确性,优选的,根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间,包括但不限于有如下步骤S41~S45。
S41.对所述激光点云信息进行基于局部几何特征滤波器的边界粗提取处理,得到道路粗边界检测结果,其中,所述局部几何特征滤波器包括但不限于有曲率滤波器、高度差滤波器和/或向量夹角滤波器等。
在所述步骤S41中,所述曲率滤波器、所述高度差滤波器和/或所述向量夹角滤波器等局部几何特征滤波器均可基于现有局部滤波器常规改动得到,它们的具体参数可以根据道路边界的局部几何特征进行预先设置得到。
S42.对所述道路粗边界检测结果进行基于全局形态分析的边界优化处理,得到道路边界检测结果。
在所述步骤S42中,所述基于全局形态分析的边界优化处理的主要思想是:先利用欧式聚类(其是点云聚类的一种重要方法,即利用点云中点与点之间的欧式距离进行聚类,当点与点之间的欧式距离小于设定的阈值则视为一类)使所述道路粗边界检测结果成为一个个的点簇,再结合点簇的大致形态分布,对一个个的点簇进行合并,最终得到道路边界检测结果。
S43.根据所述道路边界检测结果,对所述激光点云信息进行地面分割处理,得到非地面激光点云信息,其中,所述地面分割处理采用基于俯仰角剔除的地面分割算法。
在所述步骤S43中,由于点云目标检测最终是以聚类方式实现的,而分布广泛的地面点会直接影响点云聚类效果,因此地面分割是实现后续准确目标检测的前提,也即所述地面分割处理的具体过程是:在所述激光点云信息中剔除介于道路左右边界之间的地面激光点云信息。具体的,所述基于俯仰角剔除的地面分割算法的主要思想是:先计算出激光点云的两条相邻线束上相邻两点构成的向量,再将该向量与地面构成的夹角和设置的夹角阈值作比较,从而实现地面分割。
S44.对所述非地面激光点云信息进行基于参数自适应的欧式聚类处理,得到激光点云聚类结果,其中,所述参数自适应是指在欧式聚类中的球领域半径大小随点云的距离变化而自适应变化。
在所述步骤S44中,考虑障碍物点云的密度和分辨率具有随距离变化而变化的特点,这使得诸如传统欧式聚类、DBSCAN(Density-BasedSpatialClusteringofApplicationswithNoise,是一个比较有代表性的基于密度的聚类算法)聚类和区域生长算法等点云聚类算法难以准确实现聚类,为改善该问题,本发明人对欧式聚类算法加以改进,提出了基于参数自适应的欧式聚类处理方法。
S45.将所述激光点云聚类结果中的每一个点云聚类作为一个第二识出障碍物,并将其在激光雷达坐标系中的所处空间作为该第二识出障碍物在所述激光雷达坐标系中的所处空间。
S5.根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间。
在所述步骤S5中,当所述红外相机坐标系为二维平面坐标系时,所述第二识出障碍物在所述红外相机坐标系中的所处空间也可通过矩形标记框来表示;而当所述红外相机坐标系为三维立体坐标系时,所述第二识出障碍物在所述红外相机坐标系中的所处空间可通过矩形标记框和基于映射方式确定的距离来表示。
S6.根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物。
在所述步骤S6中,所述空间距离约束条件可以包括但不限于有在所述红外相机坐标系中各个维度上预设的距离约束值,以便结合所述红外相机和所述三维激光雷达的各自优势,大大地减小出现不正确检测结果的情况,提升对微光环境的整体感知性能。例如,当某个所述第一识出障碍物与某个所述第二识出障碍物因距离较近而满足在所述各个维度上预设的距离约束值时,可以判定这两个障碍物为匹配融合障碍物。此外,所述匹配融合障碍物在所述红外相机坐标系中的所处空间可以为所述这两个障碍物在所述红外相机坐标系中的所处空间交集。
S7.根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值。
在所述步骤S7中,所述匹配融合障碍物在所述激光雷达坐标系中的所处空间可以直接为对应的第二识出障碍物在所述激光雷达坐标系中的所处空间,也可以基于所述映射关系,根据所述匹配融合障碍物在所述红外相机坐标系中的所处空间换算得到。所述车辆本体分别在所述红外相机坐标系或所述激光雷达坐标系中的所处空间为已知数据,因此可以通过常规几何知识计算得到所述物车距离值。考虑激光点云数据中的点云坐标更为准确,优选根据所述匹配融合障碍物和所述车辆本体分别在所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值。此外,当所述红外相机坐标系为三维立体坐标系时,也可以根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系中的所处空间,计算得到所述物车距离值,以及还可以基于两坐标系得到的物车距离值,通过权重法综合得到最终的物车距离值。
S8.将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
在所述步骤S8中,所述匹配融合障碍物的所属类型即为对应的第一识出障碍物的所属类型,例如车辆、行人或动物等。所述提醒设备包括但不限于有布置在所述车辆本体的驾驶舱内的扬声器和/或显示屏等,其中,所述扬声器用于通过语音播报方式输出展示所述匹配融合障碍物的所属类型和物车距离值,所述显示屏用于通过画面播放方式输出展示所述匹配融合障碍物的所属类型和物车距离值,以便警示驾驶员前方有障碍物,提醒驾驶员注意安全,预防交通事故发生。详细的,所述语音播报方式的语音报警档位可根据物车距离值具体分为10m、20m、30m、40m和50m等五个档,每个档位的音量及语气等可以各不相同,例如随着物车距离值越近,音量越大,语气越紧急。所述画面播放方式可以但不限于具体使用基于OPENGL(OpenGraphicsLibrary,译为开放图形库或者“开放式图形库”)开发的检测效果显示模块来提供具有互动功能的显示界面,以便输出展示所述匹配融合障碍物的所属类型和物车距离值。此外,通过所述显示界面还可实时输出展示采集时间同步的所述红外图像信息和所述激光点云信息、通过所述深度学习方式检测得到的结果、通过所述点云目标检测处理得到的结果、通过所述匹配融合处理得到的结果以及所述匹配融合障碍物的物车相对速度等内容。
由此基于前述步骤S1~S8所描述的车辆安全驾驶辅助方法,提供了一种基于红外相机和三维激光雷达融合感知车身周围障碍物的驾驶辅助新方案,即在接收到对车身周围空间实时采集的红外图像数据和激光点云数据后,先根据采集时间同步的红外图像信息和激光点云信息,分别检测得到两种识出障碍物在红外相机坐标系和激光雷达坐标系中的所处空间,然后根据预先标定的坐标系映射关系和预设的空间距离约束条件,对这两种识出障碍物进行匹配融合处理,确定出匹配融合障碍物,最后将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示,如此可以结合红外相机和三维激光雷达的各自优势,大大地减小出现不正确检测结果的情况,提升对微光环境的整体感知性能,进而可杜绝引发驾驶辅助系统错误预警或遗漏预警的情况,实现准确提醒驾驶员注意安全和预防交通事故发生的目的,特别适用于在黑夜、雾霾、雨、雪和大雾天气等微光环境中使用,便于实际应用和推广。
本实施例在前述第一方面的技术方案基础上,还提供了一种如何联合标定得到坐标系映射关系的可能设计一,如图2所示,在根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中之前,所述方法还包括但不限于有如下步骤S501~S510。
S501.接收来自所述红外相机的标定板红外图像信息和来自所述三维激光雷达的标定板激光点云信息,其中,所述标定板红外图像信息由所述红外相机对热敏标定板采集得到,所述标定板激光点云信息由所述三维激光雷达对所述热敏标定板探测并采集得到,所述热敏标定板包括但不限于有黑白棋盘格标定板100和具有相同尺寸大小的多个发热片101,所述多个发热片101中的各个发热片101分别一一对应地附着在所述黑白棋盘格标定板100中的各个黑白格交点位置。
在所述步骤S501中,所述黑白棋盘格标定板100即为在张正友标定法中所采用的黑白棋盘,但是由于该黑白棋盘没有非常明显的温差,导致微光条件下完全看不到准确的黑白棋盘格角点。因此为了解决基于普通棋盘格的标定方法无法适用于红外相机的问题,本发明人仿照棋盘标定板的样式,特别制作了一种能够在红外相机下清晰成像的所述热敏标定板。如图3所示,在所述黑白棋盘格标定板100的49个黑白格交点位置分别粘贴有一个呈长方形的所述发热片101(例如用薄双面胶进行粘贴,并在粘贴时,可使各个加热片101的底面中心正对棋盘格的黑白格交点处,同时保持加热片101的底面各边与标定板平面的对应边缘平行,使得在后续提取角点的像素坐标时更加精准)。此外,在每次联合标定过程中且在采集得到所述标定板红外图像信息和所述标定板激光点云信息之前,为了呈现明显的温差效果,需要将所述各个发热片101的正负级接到12V电源上加热20秒左右,然后断开电源就可以正常使用所述热敏标定板。
S502.对所述标定板红外图像信息进行发热特征点提取处理,得到多个发热特征点在所述红外相机坐标系中的坐标,其中,所述多个发热特征点与所述多个发热片101一一对应。
在所述步骤S502中,具体可通过人工方式对所述标定板红外图像信息进行发热特征点提取处理,也可以通过所述深度学习方式对所述标定板红外图像信息进行发热特征点提取处理。
S503.对所述标定板激光点云信息进行基于预设条件的点云滤波处理,得到热敏标定板点云粗提取结果。
S504.根据所述热敏标定板点云粗提取结果,利用随机采样一致性算法拟合出标定板平面并获得真正的热敏标定板点云。
在所述步骤S504中,所述随机采样一致性算法(Randomsampleconsensus,RANSAC)是一种用于从一组包含异常值的观测数据中估计数学模型参数的现有方式,因此可以基于所述随机采样一致性算法拟合出标定板平面并获得真正的热敏标定板点云。
S505.根据点云的分布特点,计算得到所述热敏标定板点云的边缘点。
S506.根据所述边缘点,拟合得到所述热敏标定板点云的四条边。
S507.根据所述四条边,求取相邻两条边在三维空间的交点,得到所述热敏标定板点云的四个顶点。
S508.根据正方形的性质,利用所述四个顶点分别在所述激光雷达坐标系中的坐标,求得所述多个发热特征点在所述激光雷达坐标系中的坐标。
S509.根据所述多个发热特征点分别在所述红外相机坐标系和所述激光雷达坐标系中的坐标,建立以所述激光雷达坐标系与所述红外相机坐标系的映射关系为未知数的方程组。
S510.求解所述方程组,得到所述映射关系。
在前述步骤S501~S510中,所述方程组的建立和求解细节可参照现有的张正友标定法推导得到,最终联合标定求解得到所述激光雷达坐标系与所述红外相机坐标系的映射关系。此外,所述映射关系具体为一系列参数,因此可以作为未知数进行求解。
由此基于前述可能设计一,可以基于新设计的热敏标定板及联合标定流程,准确得到激光雷达坐标系与红外相机坐标系的映射关系,确保后续匹配融合处理结果的正确性,进一步减小出现不正确检测结果的情况。
如图4所示,本实施例第二方面提供了一种实现第一方面或可能设计一所述的车辆安全驾驶辅助方法的虚拟装置,包括有数据接收模块、同步提取模块、红外目标检测模块、点云目标检测模块、映射处理模块、匹配融合模块、距离计算模块和传送提醒模块;
所述数据接收模块,用于接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上;
所述同步提取模块,通信连接所述数据接收模块,用于分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息;
所述红外目标检测模块,通信连接所述同步提取模块,用于根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间;
所述点云目标检测模块,通信连接所述同步提取模块,用于根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间;
所述映射处理模块,分别通信连接所述红外目标检测模块和所述点云目标检测模块,用于根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间;
所述匹配融合模块,通信连接所述映射处理模块,用于根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物;
所述距离计算模块,通信连接所述匹配融合模块,用于根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值;
所述传送提醒模块,分别通信连接所述红外目标检测模块和所述距离计算模块,用于将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
本实施例第二方面提供的前述装置的工作过程、工作细节和技术效果,可以参见第一方面或可能设计一所述的车辆安全驾驶辅助方法,于此不再赘述。
如图5~6所示,本实施例第三方面提供了一种实现第一方面或可能设计一所述的车辆安全驾驶辅助方法的实体系统,包括但不限于有机箱1、红外相机2、三维激光雷达3、工控机和提醒设备,其中,所述机箱1固定在车辆本体上并整合集成所述红外相机2、所述三维激光雷达3和所述工控机;所述红外相机2,通信连接所述工控机,用于对车身周围空间实时采集得到红外图像数据,并将所述红外图像数据实时传送至所述工控机;所述三维激光雷达3,通信连接所述工控机,用于对所述车身周围空间实时探测并采集得到激光点云数据,并将所述激光点云数据实时传送至所述工控机;所述工控机,通信连接所述提醒设备,用于执行如第一方面或可能设计一所述的车辆安全驾驶辅助方法;所述提醒设备,用于输出展示来自所述工控机的信息。
如图6所示,所述机箱1的主视面露出所述红外相机2和所述三维激光雷达3,并用于内置保护所述工控机;所述机箱1可以通过固定底座11固定安装在所述车辆本体的车体头部(例如当所述车身周围空间为车身前方空间时)、车体尾部(例如当所述车身周围空间为车身后方空间时)或车体顶部等位置。具体的,所述提醒设备包括但不限于有布置在所述车辆本体的驾驶舱内的扬声器和/或显示屏等。所述机箱1还可配置有用于为所述红外相机2、所述三维激光雷达3、所述工控机和所述提醒设备提供电能支持的工作电源,例如基于稳压器的直流电源。此外,所述红外相机2、所述三维激光雷达3和所述提醒设备与所述工控机的通信连接方式,可以采用现有接头和/或适配器等实现,例如所述工控机可通过高清多媒体接口(HighDefinitionMultimediaInterface,HDMI)及HDMI数据线通信连接所述提醒设备。
本实施例第三方面提供的前述系统的工作过程、工作细节和技术效果,可以参见第一方面或可能设计一所述的车辆安全驾驶辅助方法,于此不再赘述。此外,前述系统还可具有成本低和简单实用的优点,克服现有障碍探测产品及系统成本高、设计复杂、智能化低、探测范围小、精确度不高和适用性差等缺点,同时通过采用便携式设计,并将红外相机、三维激光雷达和工控机等高效集成,以及利用车载电源供电且不与车内自身设备发生交联,不影响干扰车内其他设备运行,不受车型限制,使用方便快捷,实用性强,因此可适用于安装在轿车、货车或大巴车等机动车上,大大降低交通事故的发生。
如图7所示,本实施例第四方面提供了一种执行如第一方面或可能设计一所述的车辆安全驾驶辅助方法的计算机设备,包括有依次通信连接的存储器、处理器和收发器,其中,所述存储器用于存储计算机程序,所述收发器用于收发消息,所述处理器用于读取所述计算机程序,执行如第一方面或可能设计一所述的车辆安全驾驶辅助方法。具体举例的,所述存储器可以但不限于包括随机存取存储器(Random-AccessMemory,RAM)、只读存储器(Read-OnlyMemory,ROM)、闪存(FlashMemory)、先进先出存储器(FirstInputFirstOutput,FIFO)和/或先进后出存储器(FirstInputLastOutput,FILO)等等;所述处理器可以但不限于采用型号为STM32F105系列的微处理器。此外,所述计算机设备还可以但不限于包括有电源模块、显示屏和其它必要的部件。
本实施例第四方面提供的前述计算机设备的工作过程、工作细节和技术效果,可以参见第一方面或可能设计一所述的车辆安全驾驶辅助方法,于此不再赘述。
本实施例第五方面提供了一种存储包含如第一方面或可能设计一所述的车辆安全驾驶辅助方法的指令的计算机可读存储介质,即所述计算机可读存储介质上存储有指令,当所述指令在计算机上运行时,执行如第一方面或可能设计一所述的车辆安全驾驶辅助方法。其中,所述计算机可读存储介质是指存储数据的载体,可以但不限于包括软盘、光盘、硬盘、闪存、优盘和/或记忆棒(MemoryStick)等计算机可读存储介质,所述计算机可以是通用计算机、专用计算机、计算机网络或者其他可编程装置。
本实施例第五方面提供的前述计算机可读存储介质的工作过程、工作细节和技术效果,可以参见如第一方面或可能设计一所述的车辆安全驾驶辅助方法,于此不再赘述。
本实施例第六方面提供了一种包含指令的计算机程序产品,当所述指令在计算机上运行时,使所述计算机执行如第一方面或可能设计一所述的车辆安全驾驶辅助方法。其中,所述计算机可以是通用计算机、专用计算机、计算机网络或者其他可编程装置。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种车辆安全驾驶辅助方法,其特征在于,包括:
接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上;
分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息;
根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间;
根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间;
根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间;
根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物;
根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值;
将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
2.根据权利要求1所述的车辆安全驾驶辅助方法,其特征在于,分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息,包括:
若所述红外相机的数据采集频率高于所述三维激光雷达的数据采集频率,则先从所述激光点云数据中实时提取出一帧激光点云信息,然后从所述红外图像数据中查找到采集时刻距离该帧激光点云信息的采集时间戳最近的一帧红外图像信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息;
若所述红外相机的数据采集频率低于所述三维激光雷达的数据采集频率,则先从所述红外图像数据中实时提取出一帧红外图像信息,然后从所述激光点云数据中查找到采集时刻距离该帧红外图像信息的采集时间戳最近的一帧激光点云信息,最后将该帧红外图像信息和该帧激光点云信息作为一对采集时间同步的红外图像信息和激光点云信息。
3.根据权利要求1所述的车辆安全驾驶辅助方法,其特征在于,根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间,包括:
将所述红外图像信息导入基于YOLOv5目标检测算法的且已完成预训练的障碍物识别模型,输出得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间。
4.根据权利要求1所述的车辆安全驾驶辅助方法,其特征在于,根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间,包括:
对所述激光点云信息进行基于局部几何特征滤波器的边界粗提取处理,得到道路粗边界检测结果,其中,所述局部几何特征滤波器包括有曲率滤波器、高度差滤波器和/或向量夹角滤波器;
对所述道路粗边界检测结果进行基于全局形态分析的边界优化处理,得到道路边界检测结果;
根据所述道路边界检测结果,对所述激光点云信息进行地面分割处理,得到非地面激光点云信息,其中,所述地面分割处理采用基于俯仰角剔除的地面分割算法;
对所述非地面激光点云信息进行基于参数自适应的欧式聚类处理,得到激光点云聚类结果,其中,所述参数自适应是指在欧式聚类中的球领域半径大小随点云的距离变化而自适应变化;
将所述激光点云聚类结果中的每一个点云聚类作为一个第二识出障碍物,并将其在激光雷达坐标系中的所处空间作为该第二识出障碍物在所述激光雷达坐标系中的所处空间。
5.根据权利要求1所述的车辆安全驾驶辅助方法,其特征在于,在根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中之前,所述方法还包括:
接收来自所述红外相机的标定板红外图像信息和来自所述三维激光雷达的标定板激光点云信息,其中,所述标定板红外图像信息由所述红外相机对热敏标定板采集得到,所述标定板激光点云信息由所述三维激光雷达对所述热敏标定板探测并采集得到,所述热敏标定板包括有黑白棋盘格标定板(100)和具有相同尺寸大小的多个发热片(101),所述多个发热片(101)中的各个发热片(101)分别一一对应地附着在所述黑白棋盘格标定板(100)中的各个黑白格交点位置;
对所述标定板红外图像信息进行发热特征点提取处理,得到多个发热特征点在所述红外相机坐标系中的坐标,其中,所述多个发热特征点与所述多个发热片(101)一一对应;
对所述标定板激光点云信息进行基于预设条件的点云滤波处理,得到热敏标定板点云粗提取结果;
根据所述热敏标定板点云粗提取结果,利用随机采样一致性算法拟合出标定板平面并获得真正的热敏标定板点云;
根据点云的分布特点,计算得到所述热敏标定板点云的边缘点;
根据所述边缘点,拟合得到所述热敏标定板点云的四条边;
根据所述四条边,求取相邻两条边在三维空间的交点,得到所述热敏标定板点云的四个顶点;
根据正方形的性质,利用所述四个顶点分别在所述激光雷达坐标系中的坐标,求得所述多个发热特征点在所述激光雷达坐标系中的坐标;
根据所述多个发热特征点分别在所述红外相机坐标系和所述激光雷达坐标系中的坐标,建立以所述激光雷达坐标系与所述红外相机坐标系的映射关系为未知数的方程组;
求解所述方程组,得到所述映射关系。
6.一种车辆安全驾驶辅助装置,其特征在于,包括有数据接收模块、同步提取模块、红外目标检测模块、点云目标检测模块、映射处理模块、匹配融合模块、距离计算模块和传送提醒模块;
所述数据接收模块,用于接收来自红外相机的红外图像数据和来自三维激光雷达的激光点云数据,其中,所述红外图像数据由所述红外相机对车身周围空间实时采集得到,所述激光点云数据由所述三维激光雷达对所述车身周围空间实时探测并采集得到,所述红外相机和所述三维激光雷达分别固定在车辆本体上;
所述同步提取模块,通信连接所述数据接收模块,用于分别从所述红外图像数据和所述激光点云数据中实时提取出采集时间同步的红外图像信息和激光点云信息;
所述红外目标检测模块,通信连接所述同步提取模块,用于根据所述红外图像信息,通过深度学习方式检测得到第一识出障碍物的所属类型和在红外相机坐标系中的所处空间;
所述点云目标检测模块,通信连接所述同步提取模块,用于根据所述激光点云信息,通过点云目标检测处理得到第二识出障碍物在激光雷达坐标系中的所处空间;
所述映射处理模块,分别通信连接所述红外目标检测模块和所述点云目标检测模块,用于根据预先标定的且所述激光雷达坐标系与所述红外相机坐标系的映射关系,将所述第二识出障碍物在所述激光雷达坐标系中的所处空间映射到所述红外相机坐标系中,得到所述第二识出障碍物在所述红外相机坐标系中的所处空间;
所述匹配融合模块,通信连接所述映射处理模块,用于根据所述第一识出障碍物和所述第二识出障碍物分别在所述红外相机坐标系中的所处空间,基于预设的空间距离约束条件对所述第一识出障碍物和所述第二识出障碍物进行匹配融合处理,确定出匹配融合障碍物;
所述距离计算模块,通信连接所述匹配融合模块,用于根据所述匹配融合障碍物和所述车辆本体分别在所述红外相机坐标系和/或所述激光雷达坐标系中的所处空间,计算得到所述匹配融合障碍物至所述车辆本体的物车距离值;
所述传送提醒模块,分别通信连接所述红外目标检测模块和所述距离计算模块,用于将所述匹配融合障碍物的所属类型和物车距离值传送至提醒设备进行输出展示。
7.一种车辆安全驾驶辅助系统,其特征在于,包括有机箱(1)、红外相机(2)、三维激光雷达(3)、工控机和提醒设备,其中,所述机箱(1)固定在车辆本体上并整合集成所述红外相机(2)、所述三维激光雷达(3)和所述工控机;
所述红外相机(2),通信连接所述工控机,用于对车身周围空间实时采集得到红外图像数据,并将所述红外图像数据实时传送至所述工控机;
所述三维激光雷达(3),通信连接所述工控机,用于对所述车身周围空间实时探测并采集得到激光点云数据,并将所述激光点云数据实时传送至所述工控机;
所述工控机,通信连接所述提醒设备,用于执行如权利要求1~5中任意一项所述的车辆安全驾驶辅助方法;
所述提醒设备,用于输出展示来自所述工控机的信息。
8.根据权利要求7所述的车辆安全驾驶辅助系统,其特征在于,所述提醒设备包括有布置在所述车辆本体的驾驶舱内的扬声器和/或显示屏。
9.一种计算机设备,其特征在于,包括有依次通信连接的存储器、处理器和收发器,其中,所述存储器用于存储计算机程序,所述收发器用于收发消息,所述处理器用于读取所述计算机程序,执行如权利要求1~5中任意一项所述的车辆安全驾驶辅助方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有指令,当所述指令在计算机上运行时,执行如权利要求1~5中任意一项所述的车辆安全驾驶辅助方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310462490.6A CN116778448A (zh) | 2023-04-26 | 2023-04-26 | 车辆安全驾驶辅助方法、装置、系统、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310462490.6A CN116778448A (zh) | 2023-04-26 | 2023-04-26 | 车辆安全驾驶辅助方法、装置、系统、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116778448A true CN116778448A (zh) | 2023-09-19 |
Family
ID=87984946
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310462490.6A Pending CN116778448A (zh) | 2023-04-26 | 2023-04-26 | 车辆安全驾驶辅助方法、装置、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116778448A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041512A (zh) * | 2023-10-09 | 2023-11-10 | 武汉工程大学 | 道路表面三维信息检测数据实时传输与可视化通信系统 |
CN117452392A (zh) * | 2023-12-26 | 2024-01-26 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种用于车载辅助驾驶系统的雷达数据处理系统和方法 |
-
2023
- 2023-04-26 CN CN202310462490.6A patent/CN116778448A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041512A (zh) * | 2023-10-09 | 2023-11-10 | 武汉工程大学 | 道路表面三维信息检测数据实时传输与可视化通信系统 |
CN117452392A (zh) * | 2023-12-26 | 2024-01-26 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种用于车载辅助驾驶系统的雷达数据处理系统和方法 |
CN117452392B (zh) * | 2023-12-26 | 2024-03-08 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种用于车载辅助驾驶系统的雷达数据处理系统和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108571974B (zh) | 使用摄像机的车辆定位 | |
CN106650708B (zh) | 一种自动驾驶障碍物视觉检测方法与系统 | |
CN108638999B (zh) | 一种基于360度环视输入的防碰撞预警系统及方法 | |
CN116778448A (zh) | 车辆安全驾驶辅助方法、装置、系统、设备及存储介质 | |
Hautière et al. | Mitigation of visibility loss for advanced camera-based driver assistance | |
CN112733812B (zh) | 三维车道线检测方法、装置及存储介质 | |
US11475678B2 (en) | Lane marker detection and lane instance recognition | |
US20180150703A1 (en) | Vehicle image processing method and system thereof | |
CN111582080A (zh) | 车辆360度环视监控实现方法及装置 | |
CN109657638A (zh) | 障碍物定位方法、装置和终端 | |
CN111860072A (zh) | 泊车控制方法、装置、计算机设备及计算机可读存储介质 | |
CN114495064A (zh) | 一种基于单目深度估计的车辆周围障碍物预警方法 | |
CN112740225A (zh) | 一种路面要素确定方法及装置 | |
CN111913183A (zh) | 车辆侧向避障方法、装置、设备及车辆 | |
CN111967396A (zh) | 障碍物检测的处理方法、装置、设备及存储介质 | |
WO2018149539A1 (en) | A method and apparatus for estimating a range of a moving object | |
Engelhardt et al. | Occupancy grids generation using deep radar network for autonomous driving | |
CN111332306A (zh) | 一种基于机器视觉的交通道路感知辅助驾驶预警装置 | |
CN116215520A (zh) | 基于超声波和3d环视的车辆碰撞预警及处理方法、装置 | |
CN107452230B (zh) | 一种障碍物检测方法、装置、终端设备及存储介质 | |
CN116486351A (zh) | 行车预警方法、装置、设备及存储介质 | |
CN115965847A (zh) | 交叉视角下多模态特征融合的三维目标检测方法和系统 | |
CN113246859B (zh) | 具有驾驶辅助系统警示的电子后视镜 | |
CN115267756A (zh) | 一种基于深度学习目标检测的单目实时测距方法 | |
CN114384486A (zh) | 一种数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |