CN113627569A - 一种用于交通大场景的雷达视频一体机的数据融合方法 - Google Patents

一种用于交通大场景的雷达视频一体机的数据融合方法 Download PDF

Info

Publication number
CN113627569A
CN113627569A CN202111132848.6A CN202111132848A CN113627569A CN 113627569 A CN113627569 A CN 113627569A CN 202111132848 A CN202111132848 A CN 202111132848A CN 113627569 A CN113627569 A CN 113627569A
Authority
CN
China
Prior art keywords
radar
video
data
matching
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111132848.6A
Other languages
English (en)
Inventor
王益维
陆启荣
王加义
杨明
张毅
卞军
郑剑锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Highway Information Engineering Technology Co ltd
Original Assignee
Zhejiang Highway Information Engineering Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Highway Information Engineering Technology Co ltd filed Critical Zhejiang Highway Information Engineering Technology Co ltd
Priority to CN202111132848.6A priority Critical patent/CN113627569A/zh
Publication of CN113627569A publication Critical patent/CN113627569A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/017Detecting movement of traffic to be counted or controlled identifying vehicles
    • G08G1/0175Detecting movement of traffic to be counted or controlled identifying vehicles by photographing vehicles, e.g. when violating traffic rules

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

本发明涉及一种用于交通大场景的雷达视频一体机的数据融合方法,将基于FMCW雷达体制的雷达检测数据和采用人工神经网络算法的视频车辆检测数据进行数据融合,降低系统虚警率及漏警率。本发明利用距离方位非线性伸缩匹配方法,多点中心估计定标方法,实现双直角坐标系投影模型自适应建立,并且通过融合后数据再投影至直角坐标系实现车辆目标轮廓3D重构的目的。

Description

一种用于交通大场景的雷达视频一体机的数据融合方法
技术领域
本发明涉及交通大场景雷达视频一体机,具体是一种雷达、视频数据融合,并对车辆轮廓反演重构的方法。
背景技术
无论在智能信号灯控制、全息路口还是车路协同等场景下,毫米波雷达与摄像机的视频数据如何实现底层融合,有效降低车辆的漏检率和误检率一直是近些年的研究重点。毫米波雷达具有目标距离、速度、方位角度等检测能力,同时对特定入射角的目标反射能定量测试,从雷达回波散射特性上给出了目标尺寸估计。图像处理技术提供了目标的颜色、尺寸、大小、投影轮廓等维度信息。
2020年,CN201911207876.2一种基于人工智能的雷达视频数据融合方法提出了一种在获取的视频图像及雷达监测图像上建立坐标系,并计算坐标系内每个坐标点距离原点的距离及方位,然后再根据上述距离和方位确定两个图像上的目标是否为同一目标,若为同一目标则进行融合,但是没有对融合效果进行闭环评估。2021年,CN112562405A一种雷达视频智能融合与预警方法及系统提出了一种雷达视频智能融合与预警方法及系统。仅简单描述了采用最大交通流量阈值法和卡尔曼滤波器对数据进行最优估计,没有详细解释数据融合方法。
在工程应用中,当大风、暴雨、重型货车经过都会引起雷达视频一体机所安装的杆件发生晃动,视频画面抖动、畸变,使得传统匹配融合方法难以适用。
发明内容
本发明的目的在于克服视频画面抖动、畸变使得传统匹配融合方法难以适用的技术问题,提供一种用于交通大场景的雷达视频一体机的数据融合方法及装置、存储介质、产品。
为了达到上述目的,本发明采用的技术方案如下:
一种用于交通大场景的雷达视频一体机的数据融合方法,包括
步骤1:采集处理毫米波雷达数据、输出点云数据,点云数据聚类后提取得到多目标队形阵列;
步骤2:采集视频数据,检测车辆下边沿位置,并在每一帧图像中将每一个车辆目标的下边沿线检测并标注线段中心点;
步骤3:视频图像畸变矫正,并将矫正后的视频图像与雷达图像进行结构相似性的畸变矫正吻合率评估,如果不过评估门限,以非线性卷积匹配完成多点中心估计定标,再将定标结果重新与雷达数据进行图像畸变矫正,直至评估过门限;
步骤4:雷达大地坐标与相机坐标系双直角坐标系进行投影,并进行坐标转换,在视频投影二维坐标系中实现车辆目标底层切片多级分割;
步骤5:双源切片数据二次模糊匹配,并进行匹配率评估,若不满足条件,重新进行地平面坐标系切片和相机投影平面切片;
步骤6:归一化高度后重新进行双源数据匹配,直至匹配率满足条件。
与现有技术相比,本发明至少具有以下优点之一:
基于FMCW雷达体制的雷达检测数据和采用人工神经网络算法的视频车辆检测数据进行数据融合,使用距离方位非线性伸缩匹配方法,对雷达、视频数据融合,并对车辆轮廓反演重构的方法,克服视频画面抖动、畸变,使得雷达、视频数据融合更精确匹配,降低系统虚警率及漏警率。
附图说明
图1为本发明数据融合处理流程图。
图2位雷达检测数据进行目标回波簇聚类流程图。
具体实施方式
下面结合附图对本发明的具体实施方式做进一步说明。
本发明基于FMCW雷达体制的雷达检测数据和采用人工神经网络算法的视 频车辆检测数据进行数据融合,使用距离方位非线性伸缩匹配方法,对雷达、视 频数据融合,并对车辆轮廓反演重构的方法,克服视频画面抖动、畸变,使得雷 达、视频数据融合更精确匹配,降低系统虚警率及漏警率。本申请提供的方法包 括如下几个步骤,如图1,
步骤1:毫米波雷达数据采集,毫米波雷达输出点云数据,采用DBSCAN聚 类方式完成雷达点迹聚类,同时完成多目标队形阵列提取。以雷达数据为参考区 域搜索实现来向车辆车头位置估计、去向车辆车尾位置估计,以及雷达对被测车 辆的RCS(雷达散射截面)、长、宽、高估计。具体的,步骤1中,得到数据集 后,DBSCAN算法要确定输入变量有Eps邻域和MinPts阈值门限,DBSCAN算法 通过确定这两个参数的值来描述数据点分布的紧密程度。一般情况下,参数需要 预设初始值,之后根据实际需求做动态调整。DBSCAN算法的流程图如图2所示。 雷达对于每一辆车会有多个检测点,有车头、车身、车尾,以及车辆与路面引起多径虚假点。DBSCAN的目的是把这些都聚拢起来,贴上相同的ID(车辆编号), 通过这些数据可以估计出车辆的长、宽、高,以及来向车辆车头位置估计、去向 车辆车尾位置估计。
步骤2,采集视频数据,检测车辆下边沿位置,并在每一帧图像中将每一个车辆目标的下边沿线检测并标注线段中心点。视频相机对车辆下边沿的检测采用YOLOv4算法。
步骤3,视频图像畸变矫正,并将矫正后的视频图像与雷达图像进行结构相似性的畸变矫正吻合率评估,如果不过评估门限,以非线性卷积匹配完成多点中心估计定标,再将定标结果重新与雷达数据进行图像畸变矫正,直至评估过门限。
所述步骤3中多点中心估计定标采用特征点结构相似性度量和余弦相似性度量。具体方式为先计算点阵相似度,再计算多源对应点的相似度。
所述相机检测下边沿中心点以高阶卷积、置换卷积非线性处理方式完成对多点中心估计定标。
所述视频图像畸变矫正通过畸变后的投影坐标来计算畸变前的投影坐标x和y,并使用牛顿迭代法来解二元高阶方程组。便于步骤4中的视频、雷达坐标相互投影映射。
视频检测的车辆下边沿位置是雷达回波反射概率最大特征点,基于多点中心估计定标结果,建立图像畸变矫正代价模型,使视频图像畸变矫正更精准。同时,多点中心估计是在结构相似性评估后,对应双源数据欧式距离方差最小化。
多点中心估计定标的目的是为了减少实际场景中相机或者雷达因抖动、安装位置一定范围内偏移所引起数据融合偏差。相机与雷达安装角度偏移不仅会发生俯仰向,同时也会发生在水平向。采用多点中心估计将会使得相机与雷达的数据在一定偏移范围内实时自动匹配校准,这是步骤3的目的。
其基本方法如下:
(1)提取雷达跟踪次数大于m次的n个运动目标,构建二维图阵,按照初始安装参数进行相机平面投影;
将100m以内已投影至相机平面的雷达目标与图像识别的目标进行邻域匹配;
(2)采用特征点结构相似性度量(SSIM)计算相似指数;SSIM的全称为structuralsimilarity index,即为结构相似性,是一种衡量两幅图像相似度的指标;
(3)余弦相似性度量对雷达目标点与相机目标点进行相似度估计;
(4)根据雷达RCS较大的特征点标定结果对图像目标点进行非线性伸缩。
步骤4,雷达大地坐标与相机坐标系双直角坐标系进行坐标转换并进行投影映射,将雷达坐标系下的目标车辆实际位置映射到视频坐标系下得到映射坐标,然后在视频二维坐标系中实现车辆目标底层切片多级分割。
按照空间直角坐标系建立目标相对位置关系,通过几何变换的数学手段,将雷达坐标系下的目标车辆实际位置映射到视频坐标系下得到映射坐标。
切片是指投影面的点阵。雷达图像的切片是要通过测量车辆目标高度,来消除雷视一体机安装高度引起的测速误差及距离误差,从而实现一种俯视图的切片投影。相机投影平面切片是通过AI算法形成3D box,滤除由于车辆高度造成同一像素位置不同距离的干扰。消除由于车身高度引起的相机视角坐标系不同距离点的像素堆叠及遮挡。雷视一体机硬件连接,安装时使他们的俯仰角都相同,保证雷达大地坐标系与相机坐标系一一对应。
切片计算的本质是对雷达探测目标进行高度维的搜索匹配过程。视频中定位车辆头部/尾部中心点的原因就是消除高度引起的匹配误差。切片计算的过程如下:
(1)视频识别车辆类型;
(2)根据车辆类型进行高度位搜索匹配区域设置。小汽车高度搜索范围为0至2m,大卡车/公交车高度搜索范围为0至4m,对应相机坐标系进行像素范围遍历匹配;
(3)输出匹配度最高的像素点迹用于同雷达数据二次匹配。
步骤5,双源切片数据二次模糊匹配,并进行匹配率评估,若不满足条件,重新进行地平面坐标系切片和相机投影平面切片。
上述匹配方式,首先对雷达的检测数据进行目标回波簇聚类,具体过程如图2,接着在簇内完成距离最近点识别,根据目标回波簇的分布用平均法估计车辆的横向位置,根据雷达识别点与相机识别点的空间矢量距离匹配置信度进行数据对比。
步骤5是对步骤4的评估,对视频图像中矫正后的车辆下边沿的中心位置与雷达队列数据进行匹配率评估,有效提出图像检测虚假目标及雷达多径干扰目标。
步骤6,归一化高度后重新进行双源数据匹配,直至匹配率满足条件,根据两相交平面的投影解算和视频聚类像素点高度、宽度估计,实现车辆目标高度、宽度估计,从而实现车辆的3D模型反演重构。
其中,步骤6中的匹配率评估采用雷达多目标点阵与视频图像下边沿中心提取点阵的对应率。
3D模型反演是根据雷达测得的位置、速度、车高与相机对图像进行边缘勾勒数据(轮廓数据),最终形成3D box尺寸估计。这一步的作用是用于车型精准识别。
以上所述的仅是本申请的优选实施方式,本发明不限于以上实施例。可以理解,本领域技术人员在不脱离本发明的精神和构思的前提下直接导出或联想到的其他改进和变化,均应认为包含在本发明的保护范围之内。

Claims (10)

1.一种用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,包括:
步骤1:采集处理毫米波雷达数据、输出点云数据,点云数据聚类后提取得到多目标队形阵列;
步骤2:采集视频数据,检测车辆下边沿位置,并在每一帧图像中将每一个车辆目标的下边沿线检测并标注线段中心点;
步骤3:视频图像畸变矫正,并将矫正后的视频图像与雷达图像进行结构相似性的畸变矫正吻合率评估,如果不过评估门限,以非线性卷积匹配完成多点中心估计定标,再将定标结果重新与雷达数据进行图像畸变矫正,直至评估过门限;
步骤4:雷达大地坐标与相机坐标系双直角坐标系进行坐标转换并进行投影映射,将雷达坐标系下的目标车辆实际位置映射到视频坐标系下并得到得到映射坐标,然后在视频二维坐标系中实现车辆目标底层切片多级分割;
步骤5:双源切片数据二次模糊匹配,并进行匹配率评估,若不满足条件,重新进行地平面坐标系切片和相机投影平面切片;
步骤6:归一化高度后重新进行双源数据匹配,直至匹配率满足条件。
2.如权利要求1所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,步骤6根据两相交平面的投影解算和视频聚类像素点高度、宽度估计,实现车辆目标高度、宽度估计,从而实现车辆的3D模型反演重构。
3.如权利要求1所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,所述步骤3中多点中心估计定标采用特征点结构相似性度量和余弦相似性度量,其过程包括,
(1)提取雷达跟踪次数大于m次的n个运动目标,构建二维图阵,按照初始安装参数进行相机平面投影;
(2)将100m以内已投影至相机平面的雷达目标与图像识别的目标进行邻域匹配;
(3)采用特征点结构相似性度量计算相似指数;
(4)余弦相似性度量对雷达目标点与相机目标点进行相似度估计;
(5)根据雷达RCS较大的特征点标定结果对图像目标点进行非线性伸缩。
4.如权利要求3所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,所述相机检测下边沿中心点以高阶卷积、置换卷积非线性处理方式完成对多点中心估计定标。
5.如权利要求1所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,所述步骤4中,切片是对雷达探测目标进行高度维的搜索匹配,切片计算的过程包括:
视频识别车辆类型;
根据车辆类型进行高度位搜索匹配区域设置;
小汽车高度搜索范围为0至2m,大卡车/公交车高度搜索范围为0至4m,对应相机坐标系进行像素范围遍历匹配;
输出匹配度最高的像素点迹用于同雷达数据二次匹配。
6.如权利要求1所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,步骤5中的匹配方式,首先对雷达的检测数据进行目标回波簇聚类,接着在簇内完成距离最近点识别,根据目标回波簇的分布用平均法估计车辆的横向位置,根据雷达识别点与相机识别点的空间矢量距离匹配置信度进行数据对比。
7.如权利要求1所述的用于交通大场景的雷达视频一体机的数据融合方法,其特征在于,步骤6中的匹配率评估采用雷达多目标点阵与视频图像下边沿中心提取点阵的对应率。
8.一种计算机装置,包括存储器,处理器及存储在存储器上的计算机程序,其特征在于,所述处理器执行所述计算机程序以实现权利要求1所述的方法的步骤。
9.一种计算机刻度存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1所述方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1所述方法的步骤。
CN202111132848.6A 2021-09-27 2021-09-27 一种用于交通大场景的雷达视频一体机的数据融合方法 Pending CN113627569A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111132848.6A CN113627569A (zh) 2021-09-27 2021-09-27 一种用于交通大场景的雷达视频一体机的数据融合方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111132848.6A CN113627569A (zh) 2021-09-27 2021-09-27 一种用于交通大场景的雷达视频一体机的数据融合方法

Publications (1)

Publication Number Publication Date
CN113627569A true CN113627569A (zh) 2021-11-09

Family

ID=78390631

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111132848.6A Pending CN113627569A (zh) 2021-09-27 2021-09-27 一种用于交通大场景的雷达视频一体机的数据融合方法

Country Status (1)

Country Link
CN (1) CN113627569A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023108930A1 (zh) * 2021-12-14 2023-06-22 江苏航天大为科技股份有限公司 一种基于点云速度的毫米波雷达大车识别方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109583415A (zh) * 2018-12-11 2019-04-05 兰州大学 一种基于激光雷达与摄像机融合的交通灯检测与识别方法
EP3525000A1 (en) * 2018-02-09 2019-08-14 Bayerische Motoren Werke Aktiengesellschaft Methods and apparatuses for object detection in a scene based on lidar data and radar data of the scene
CN110532896A (zh) * 2019-08-06 2019-12-03 北京航空航天大学 一种基于路侧毫米波雷达和机器视觉融合的道路车辆检测方法
CN112562405A (zh) * 2020-11-27 2021-03-26 山东高速建设管理集团有限公司 一种雷达视频智能融合与预警方法及系统
CN112946628A (zh) * 2021-02-08 2021-06-11 江苏中路工程技术研究院有限公司 一种基于雷达与视频融合的道路运行状态检测方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3525000A1 (en) * 2018-02-09 2019-08-14 Bayerische Motoren Werke Aktiengesellschaft Methods and apparatuses for object detection in a scene based on lidar data and radar data of the scene
CN109583415A (zh) * 2018-12-11 2019-04-05 兰州大学 一种基于激光雷达与摄像机融合的交通灯检测与识别方法
CN110532896A (zh) * 2019-08-06 2019-12-03 北京航空航天大学 一种基于路侧毫米波雷达和机器视觉融合的道路车辆检测方法
CN112562405A (zh) * 2020-11-27 2021-03-26 山东高速建设管理集团有限公司 一种雷达视频智能融合与预警方法及系统
CN112946628A (zh) * 2021-02-08 2021-06-11 江苏中路工程技术研究院有限公司 一种基于雷达与视频融合的道路运行状态检测方法及系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023108930A1 (zh) * 2021-12-14 2023-06-22 江苏航天大为科技股份有限公司 一种基于点云速度的毫米波雷达大车识别方法

Similar Documents

Publication Publication Date Title
US11885872B2 (en) System and method for camera radar fusion
CN108509918B (zh) 融合激光点云与图像的目标检测与跟踪方法
CN108445480B (zh) 基于激光雷达的移动平台自适应扩展目标跟踪系统及方法
CN109444911B (zh) 一种单目相机和激光雷达信息融合的无人艇水面目标检测识别与定位方法
CN109283538B (zh) 一种基于视觉和激光传感器数据融合的海上目标大小检测方法
CN111583369B (zh) 一种基于面线角点特征提取的激光slam方法
WO2022141914A1 (zh) 一种基于雷视融合的多目标车辆检测及重识别方法
CN110472553B (zh) 图像和激光点云融合的目标追踪方法、计算装置和介质
CN103065323B (zh) 一种基于单应性变换矩阵的分段空间对准方法
CN113359097B (zh) 一种毫米波雷达和相机联合标定的方法
CN109752701A (zh) 一种基于激光点云的道路边沿检测方法
CN107632308B (zh) 一种基于递归叠加算法的车辆前方障碍物轮廓检测方法
CN111712731A (zh) 目标检测方法、系统及可移动平台
CN110197173B (zh) 一种基于双目视觉的路沿检测方法
CN113850102B (zh) 基于毫米波雷达辅助的车载视觉检测方法及系统
Konrad et al. Localization in digital maps for road course estimation using grid maps
CN111369600B (zh) 一种基于参照物的激光雷达点云数据配准方法
CN113034586B (zh) 道路倾角检测方法和检测系统
CN114118252A (zh) 一种基于传感器多元信息融合的车辆检测方法及检测装置
CN111913177A (zh) 对目标物探测方法、装置以及存储介质
CN113989766A (zh) 道路边缘检测方法、应用于车辆的道路边缘检测设备
CN113848545A (zh) 一种基于视觉和毫米波雷达的融合目标检测和跟踪方法
CN113627569A (zh) 一种用于交通大场景的雷达视频一体机的数据融合方法
CN115097419A (zh) 一种激光雷达到imu的外参标定方法及装置
CN113111707A (zh) 一种基于卷积神经网络的前车检测与测距方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 303 Wenhui Road, Xiacheng District, Hangzhou City, Zhejiang Province 310000

Applicant after: Zhejiang Gaoxin Technology Co.,Ltd.

Address before: 310000 17th floor, building 2, Pearl International Business Center, 199 Wuxing Road, Hangzhou, Zhejiang

Applicant before: ZHEJIANG HIGHWAY INFORMATION ENGINEERING TECHNOLOGY CO.,LTD.

CB02 Change of applicant information