CN111932580A - 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统 - Google Patents

一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统 Download PDF

Info

Publication number
CN111932580A
CN111932580A CN202010631250.0A CN202010631250A CN111932580A CN 111932580 A CN111932580 A CN 111932580A CN 202010631250 A CN202010631250 A CN 202010631250A CN 111932580 A CN111932580 A CN 111932580A
Authority
CN
China
Prior art keywords
target
vehicle
detection
tracking
track
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010631250.0A
Other languages
English (en)
Inventor
蔡英凤
张田田
王海
李祎承
陈小波
孙晓强
陈龙
徐兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu University
Original Assignee
Jiangsu University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu University filed Critical Jiangsu University
Priority to CN202010631250.0A priority Critical patent/CN111932580A/zh
Publication of CN111932580A publication Critical patent/CN111932580A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

本发明公开了一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法及系统,属于智能汽车感知技术领域,包括步骤1、建立检测模块对当前帧t进行目标检测,获取第t帧的目标检测集合;步骤2、建立3D卡尔曼滤波器模型对当前帧t进行目标状态预测;步骤3、建立数据关联模块,利用匈牙利算法将检测结果与预测的跟踪目标相匹配;步骤4、建立3D卡尔曼滤波器模型根据关联结果更新目标状态。步骤5、建立轨迹管理模块对轨迹进行更新。本发明提出的将结合卡尔曼滤波状态更新和匈牙利算法应用于智能车辆的3D目标跟踪,可以快速的发现、定位和跟踪目标车辆,并且跟踪精度非常高。

Description

一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法及 系统
技术领域
本发明属于智能汽车感知领域,具体涉及一种基于卡尔曼滤波与匈牙利算法的道路3D车辆识别及跟踪的方法和系统。
背景技术
智能车是一个包括感知、决策及控制的复杂系统,环境感知是路径规划和决策控制的重要前提,3D车辆跟踪是环境感知的关键内容之一,对于自主驾驶的路径规划具有重要影响。
目前有大量的目标跟踪算法被提出并在智能交通系统中得到广泛的应用,目前大多数的目标跟踪和检测算法,处理对象都集中在RGB图像上,比如由Girshick相继提出的Fast RCNN、Faster RCNN、YOLO等,这些算法都是比较成功的基于深度学习的目标检测算法。由xiang等提出的一种基于马尔可夫决策(MDP)框架的在线多目标跟踪方法,但只能在道路环境不复杂的情况下取得较好的结果。但随着立体视觉的兴起,人们致力于研究目标3D框跟踪算法的可行性。
常用的车辆跟踪方法包括:基于区域跟踪算法,假设车辆是由一个个像素点形成的连通块,根据连通块的特征去计算与检测出的连通块的特征的相似度确定跟踪目标;基于模型的跟踪算法,根据建立好的目标模型库与检测出来的运动目标进行匹配以达到跟踪的目的;基于特征匹配跟踪算法:利用运动目标不变或不易受外界因素干扰的特征在相邻图像帧中进行目标匹配。但如果面对城市复杂的交通环境,在解决目标遮挡,复杂运动建模,权衡计算复杂度与计算精确度等问题上,上述方法仍存在一定的不足。
发明内容
针对上述存在的问题,提供一种改进的基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法及系统,实现复杂城市道路环境下3D车辆跟踪。
本发明采用的技术方案是:一种改进的基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,该方法包括以下步骤:
步骤1、建立检测模块对当前帧t进行目标检测,获取第t帧的目标检测集合;
步骤2、建立3D卡尔曼滤波器模型对当前帧t进行目标状态预测;
步骤3、建立数据关联模块将检测结果与预测的跟踪目标相匹配;
步骤4、建立3D卡尔曼滤波器模型根据关联结果更新目标状态。
步骤5、建立轨迹管理模块对轨迹进行更新;
进一步,步骤1的具体实现包括:
基于预设的车辆检测器,进行视频帧的3D目标检测处理,获取目标检测结果,得到车辆目标的检测集合
Figure BDA0002568865130000021
其中
Figure BDA0002568865130000022
表示在t帧时刻检测的第n个目标车辆(共n个目标车辆),
检测结果为车辆目标的3D包围盒,所述3D包围盒的信息包括:中心坐标(x,y,z),尺度大小(h,w,l),方向角θ,检测置信度s。
进一步,步骤2的具体实现包括:
为预测下一帧车辆目标的状态,采用恒定速度模型近似车辆目标的帧间位移,建立状态变量T={x,y,z,θ,h,w,h,vx,vy,vz},其中vx,vy,vz表示车辆目标在三维空间中的运动速度;
假设t-1的所有目标车辆轨迹为
Figure BDA0002568865130000023
其中
Figure BDA0002568865130000024
表示t-1时刻第m个目标车辆轨迹数(共m个目标车辆轨迹数);
基于恒定速度模型:
Figure BDA0002568865130000025
则t时刻预测的每个跟踪目标车辆轨迹状态为Tt-1|t={xt-1|t,yt-1|t,zt-1|t,θ,h,w,h,vx,vy,vz}。
进一步,步骤3的具体实现包括:
步骤301:确定第i个检测目标与第j个预测的跟踪目标的关联系数Cij
通过计算第i个检测目标车辆Dt和第j个预测跟踪目标Tt之间的IOU3D(Intersection over Union)确定两者的关联系数Cij,Cij越大表示两者关联程度越高,即第i检测目标可能属于第j个预测跟踪目标。
所述关联系数Cij的计算公式为:
Figure BDA0002568865130000026
其中,Vi为第i个检测目标3D框的体积,Vj为第j个预测的跟踪目标3D框的体积,Vij为检测目标3D框与预测目标3D框间的相交体积;
步骤302:使用匈牙利算法匹配第i个检测目标车辆Dt和第j个预测跟踪目标车辆Tt
为每一个检测/预测目标定义一个二值系数Xij:当IOU3D大于设定的阈值0.3时,第i个检测目标匹配给第j个预测跟踪目标,则Xij=1,否则Xij=0,建立的匹配模型表达式为:
Figure BDA0002568865130000031
由关联系数Cij组成的矩阵C是匹配模型的系数矩阵,矩阵C大小为n×m,在系数矩阵C找到一些Cij使整体效率z最大,其中每一行/列至多有一个元素被选中;
步骤303:输出一组匹配成功的检测目标
Figure BDA0002568865130000032
和匹配成功的预测跟踪目标
Figure BDA0002568865130000033
和匹配失败的检测目标
Figure BDA0002568865130000034
以及匹配失败的预测跟踪目标
Figure BDA0002568865130000035
Figure BDA0002568865130000036
进一步,步骤4的具体实现包括:
步骤401:建立3D卡尔曼滤波器模型根据关联结果初始目标状态更新;
在跟踪过程中,设目标状态方程为:
Tt=FTt-1+wt-1
其中,F为状态转移矩阵,wt-1为t-1时刻的过程噪声,服从正态分布,其均值为0,协方差矩阵为Q;
设目标观测方程为:
Zt=HTt+vt
其中,其中,H为观测矩阵,vt为t时刻的观测噪声,服从正太分布,其均值为0,协方差矩阵为R。
根据T的形式可以得出:
Figure BDA0002568865130000041
Figure BDA0002568865130000042
根据运动模型,先验状态协方差矩阵为:
Pt|t-1=FPt-1FT+Qt
其中,Pt-1为t-1时刻更新预测后的状态协方差矩阵。
根据卡尔曼滤波器的计算规则,更新环节车辆目标状态表达式为:Tt=Tt|t-1+Kt(Zt-FTt|t-1);
其中,Kt为残余增益,其计算公式如下:
Kt=Pt|t-1HT(HPt|t-1HT+R)-1
步骤402:建立方向校准模块修正初始目标状态;
当检测目标
Figure BDA0002568865130000043
与跟踪目标轨迹
Figure BDA0002568865130000044
之间的方向角大于
Figure BDA0002568865130000045
时,则目标轨迹
Figure BDA0002568865130000046
的方向角加π,此时跟踪目标轨迹
Figure BDA0002568865130000047
方向角可以近似于检测目标
Figure BDA0002568865130000048
达到一致。
进一步,步骤5的具体实现包括:
步骤501:新的轨迹生成处理
对于当前帧未匹配的车辆目标,若下一帧仍被检测到,则创建一个新的跟踪轨迹
Figure BDA0002568865130000049
并初始化其状态为(x,y,z,θ,h,w,h,0,0,0);
步骤502:现存轨迹丢失、终止处理:
若轨迹丢失,继续保持追踪3帧该轨迹,若仍未被匹配,则做轨迹终止处理
Figure BDA00025688651300000410
本发明提出的基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪系统,包括检测模块、3D卡尔曼滤波器模型、数据关联模块、3D卡尔曼滤波器模型以及轨迹管理模块;
所述检测模块用于对当前帧t进行目标检测,获取第t帧的目标检测集合;
所述3D卡尔曼滤波器模型用于对当前帧t进行目标状态预测;
所述数据关联模块用于将检测结果与预测的跟踪目标相匹配;
所述3D卡尔曼滤波器模型还用于根据关联结果更新目标状态;
所述轨迹管理模块用于对轨迹进行更新。
进一步,所述检测模块对当前帧t进行目标检测的具体内容包括:
基于预设的车辆检测器,进行视频帧的3D目标检测处理,获取目标检测结果,得到车辆目标的检测集合
Figure BDA0002568865130000051
其中
Figure BDA0002568865130000052
表示在t帧时刻检测的第n个目标车辆(共n个目标车辆);
检测结果是车辆目标的3D包围盒,所述3D包围盒的信息包括:中心坐标(x3D,y3D,z3D),尺度大小(h3D,w3D,l3D),方向角θ3D,检测置信度s3D
所述3D卡尔曼滤波器模型对当前帧t进行目标状态预测的具体内容包括:
为了预测下一帧车辆目标的状态,采用恒定速度模型近似车辆目标的帧间位移,建立状态变量T={x,y,z,θ,h,w,h,vx,vy,vz},其中vx,vy,vz表示车辆目标在三维空间中的运动速度;
假设t-1的所有目标车辆轨迹为
Figure BDA0002568865130000053
其中
Figure BDA0002568865130000054
表示t-1时刻第m个目标车辆轨迹数(共m个目标车辆轨迹数);
基于恒定速度模型:
Figure BDA0002568865130000055
则t时刻预测的每个跟踪目标车辆轨迹状态为Tt-1|t={xt-1|t,yt-1|t,zt-1|t,θ,h,w,h,vx,vy,vz};
所述数据关联模块将检测结果与预测的跟踪目标相匹配的具体内容包括:
确定第i个检测目标与第j个预测的跟踪目标的关联系数Cij
通过计算第i个检测目标车辆Dt和第j个预测跟踪目标Tt之间的3D IOU确定两者的关联系数Cij,Cij越大表示两者关联程度越高,即第i检测目标可能属于第j个预测跟踪目标;
所述关联系数Cij的计算公式为:
Figure BDA0002568865130000061
其中,Vi为第i个检测目标3D框的体积,Vj为第j个预测的跟踪目标3D框的体积,Vij为检测目标3D框与预测目标3D框间的相交体积;
使用匈牙利算法匹配第i个检测目标车辆Dt和第j个预测跟踪目标车辆Tt
为每一个检测/预测目标定义一个二值系数Xij:当IOU3D大于设定的阈值时,第i个检测目标匹配给第j个预测跟踪目标,则Xij=1,否则Xij=0,建立匹配模型表达式为:
Figure BDA0002568865130000062
由关联系数Cij组成的矩阵C是匹配问题的系数矩阵,矩阵C大小为n×m,在系数矩阵C找到一些Cij使整体效率z最大,其中每一行/列至多有一个元素被选中;
数据关联模块输出一组匹配成功的检测目标
Figure BDA0002568865130000063
匹配成功的预测跟踪目标
Figure BDA0002568865130000064
匹配失败的检测目标
Figure BDA0002568865130000065
以及匹配失败的预测跟踪目标
Figure BDA0002568865130000066
Figure BDA0002568865130000067
所述3D卡尔曼滤波器模型根据关联结果更新目标状态的具体内容包括:
根据关联结果更新初始目标状态:
在跟踪过程中,设状态方程为:
Tt=FtTt-1+wt-1
其中,F为状态转移矩阵,w为过程噪声,其均值为0,协方差矩阵为Q;
设观测方程为:
Zt=HtTt+vt
其中,H为观测矩阵,v为观测噪声,其均值为0,协方差矩阵为R;
根据运动模型,状态协方差矩阵为:
Figure BDA0002568865130000068
根据T得出:
Figure BDA0002568865130000071
Figure BDA0002568865130000072
根据卡尔曼滤波器的计算规则,更新环节车辆目标状态表达式为:Tt=Tt|t-1+Kt(zt-FTt|t-1)
其中,K为残余增益,其计算公式如下:
Figure BDA0002568865130000073
当检测目标
Figure BDA0002568865130000074
与跟踪目标轨迹
Figure BDA0002568865130000075
之间的方向角大于
Figure BDA0002568865130000076
时,则目标轨迹
Figure BDA0002568865130000077
的方向角加π,此时跟踪目标轨迹
Figure BDA0002568865130000078
方向角可以近似于检测目标
Figure BDA0002568865130000079
达到一致;
所述轨迹管理模块用于对轨迹进行更新的具体内容包括:
新的轨迹生成处理:对于当前帧未匹配的车辆目标,若下一帧仍被检测到,创建一个新的跟踪轨迹
Figure BDA00025688651300000710
并初始化其状态为(x,y,z,θ,h,w,h,0,0,0);
现存轨迹丢失、终止处理:若轨迹丢失,继续保持追踪3帧该轨迹,若仍未被匹配,做轨迹终止处理
Figure BDA00025688651300000711
本发明的有益效果:
本发明提出的将结合卡尔曼滤波状态更新和匈牙利算法应用于智能车辆的3D目标跟踪,可以快速的发现、定位和跟踪目标车辆,并且跟踪精度非常高。
附图说明
图1为本发明一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法流程图;
图2为第1副道路场景3D车辆跟踪图像;
图3为第2副道路场景3D车辆跟踪图像;
具体实施方式
为了使本发明的目的、技术方案解释的更加清楚明白,以下结合说明书附图对本发明的具体实施方式进一步详细的说明。
本发明提出的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,如图1所示,为本申请实施提供的一种道路3D车辆跟踪的流程图,主要包含以下步骤:
步骤1、建立检测模块对当前帧t进行目标检测,获取第t帧的目标检测集合;
基于预设的车辆检测器,进行视频帧的3D目标检测处理,获取目标检测结果,得到车辆目标的检测集合
Figure BDA0002568865130000084
其中
Figure BDA0002568865130000085
表示在t帧时刻检测的第n个目标车辆(共n个目标车辆)。
检测结果是车辆目标的3D包围盒,所述3D包围盒的信息包括:中心坐标(x,y,z),尺度大小(h,w,l),方向角θ,检测置信度s。
步骤2、建立3D卡尔曼滤波器模型对当前帧t进行目标状态预测;
为了预测下一帧车辆目标的状态,采用恒定速度模型近似车辆目标的帧间位移,建立状态变量T={x,y,z,θ,h,w,l,vx,vy,vz},其中vx,vy,vz表示车辆目标在三维空间中的运动速度。
假设t-1时刻的所有目标车辆轨迹为
Figure BDA0002568865130000081
其中
Figure BDA0002568865130000082
表示t-1时刻第m个目标车辆轨迹数(共m个目标车辆轨迹数)。
基于恒定速度模型:
Figure BDA0002568865130000083
则t时刻预测的每个跟踪目标车辆轨迹状态为Tt-1|t={xt-1|t,yt-1|t,zt-1|t,θ,h,w,h,vx,vy,vz}。
步骤3、建立数据关联模块将检测结果与预测跟踪目标相匹配;
步骤301:确定第i个检测目标与第j个预测的跟踪目标的关联系数Cij
通过计算第i个检测目标车辆Dt和第j个预测跟踪目标Tt之间的IOU3D(Intersection over Union)确定两者的关联系数Cij,Cij越大表示两者关联程度越高,即第i检测目标可能属于第j个预测跟踪目标。
所述关联系数Cij的计算公式为:
Figure BDA0002568865130000091
其中,Vi为第i个检测目标3D框的体积,Vj为第j个预测的跟踪目标3D框的体积,Vij为检测目标3D框与预测目标3D框间的相交体积。
步骤302:使用匈牙利算法匹配第i个检测目标车辆Dt和第j个预测跟踪目标车辆Tt
为每一个检测/预测目标定义一个二值系数Xij:当IOU3D大于设定的阈值0.3时,第i个检测目标匹配给第j个预测跟踪目标,则Xij=1,否则Xij=0,。
建立匹配模型表达式为:
Figure BDA0002568865130000092
由关联系数Cij组成的矩阵C是匹配问题的系数矩阵,矩阵C大小为n×m,在系数矩阵C找到一些Cij使整体效率z最大,其中每一行/列至多有一个元素被选中。
步骤303:最终数据关联模块输出一组匹配成功的检测目标
Figure BDA0002568865130000093
和匹配成功的预测跟踪目标
Figure BDA0002568865130000094
和匹配失败的检测目标
Figure BDA0002568865130000095
以及匹配失败的预测跟踪目标
Figure BDA0002568865130000096
Figure BDA0002568865130000097
其中
Figure BDA0002568865130000098
表示在t帧时刻匹配成功的第c个检测目标(共c个匹配成功的检测目标);
Figure BDA0002568865130000099
表示在t帧时刻匹配成功的第c个预测跟踪目标(共c个匹配成功的预测跟踪目标);Dunmatch表示在t帧时刻匹配失败的第n-c个检测目标(共n-c个匹配失败的检测目标);Tunmatch表示在t帧时刻匹配失败的第m-c个预测跟踪目标(共m-c个匹配失败的预测跟踪目标)。
步骤4、建立3D卡尔曼滤波器模型根据关联结果更新目标状态;
步骤401:建立3D卡尔曼滤波器模型根据关联结果更新初始目标状态;
在跟踪过程中,根据卡尔曼滤波器的原理,设目标状态方程为:
Tt=FTt-1+wt-1
其中,F为状态转移矩阵,wt-1为t-1时刻的过程噪声,服从正态分布,其均值为0,协方差矩阵为Q;
同时设目标观测方程为:
Zt=HTt+vt
其中,H为观测矩阵,vt为t时刻的观测噪声,服从正太分布,其均值为0,协方差矩阵为R。
根据T的形式可以得出:
Figure BDA0002568865130000101
Figure BDA0002568865130000102
根据运动模型,先验状态协方差矩阵为:
Pt|t-1=FPt-1FT+Q
其中,Pt-1为t-1时刻更新预测后的状态协方差矩阵。
根据卡尔曼滤波器的计算规则,更新环节车辆目标状态表达式为:Tt=Tt|t-1+Kt(Zt-FTt|t-1)
其中,Kt为残余增益,其计算公式如下:
Kt=Pt|t-1HT(HPt|t-1HT+R)-1
步骤402:建立方向校准模块修正初始目标状态;
对于由步骤401建立的卡尔曼滤波器模型不能精确得定位目标3D方向,因此检测目标
Figure BDA0002568865130000103
的方向可以近似与跟踪目标轨迹
Figure BDA0002568865130000104
的方向完全相反,当检测目标
Figure BDA0002568865130000105
与跟踪目标轨迹
Figure BDA0002568865130000106
之间的方向角大于
Figure BDA0002568865130000107
时,则目标轨迹
Figure BDA0002568865130000108
的方向角加π,此时跟踪目标轨迹
Figure BDA0002568865130000109
方向角可以近似于检测目标
Figure BDA00025688651300001010
达到一致,有效提高车辆目标3D跟踪的方向估计。
步骤5、建立轨迹管理模块对轨迹进行更新;
步骤501:新的轨迹生成处理;
对于当前帧未匹配的车辆目标,若下一帧仍被检测到,创建一个新的跟踪轨迹
Figure BDA0002568865130000111
并初始化其状态为(x,y,z,θ,h,w,h,0,0,0)。
步骤502:现存轨迹丢失、终止处理;
由于所有的现存轨迹都可能终止,为避免误报的跟踪,若轨迹丢失,继续保持追踪3帧该轨迹,若仍未被匹配,做轨迹终止处理
Figure BDA0002568865130000112
图2、图3给出了本实例所述方法对原始道路场景车辆预测跟踪得到的结果图,显示表明,本发明实现了对道路场景的有效3D车辆跟踪,并且跟踪准确度非常高。
上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施方式的具体说明,它们并非用以限制本发明的保护范围,凡未脱离本发明技术所创的等效方式或变更均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,包括如下步骤:
步骤1、当前帧t进行目标检测,获取第t帧的目标检测集合;
步骤2、对当前帧t进行目标状态预测;
步骤3、将检测结果与预测的跟踪目标相匹配;
步骤4、根据匹配结果更新目标状态;
步骤5、对目标状态轨迹进行更新。
2.根据权利要求1所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,步骤1的具体实现包括:
基于预设的车辆检测器,进行视频帧的3D目标检测处理,获取目标检测结果,得到车辆目标的检测集合
Figure FDA0002568865120000011
其中
Figure FDA0002568865120000012
表示在t帧时刻检测的第n个目标车辆(共n个目标车辆),
检测结果为车辆目标的3D包围盒,所述3D包围盒的信息包括:中心坐标(x,y,z),尺度大小(h,w,l),方向角θ,检测置信度s。
3.根据权利要求1所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,步骤2的具体实现包括:
为预测下一帧车辆目标的状态,采用恒定速度模型近似车辆目标的帧间位移,建立状态变量T={x,y,z,θ,h,w,h,vx,vy,vz},其中vx,vy,vz表示车辆目标在三维空间中的运动速度;
假设t-1的所有目标车辆轨迹为
Figure FDA0002568865120000013
其中
Figure FDA0002568865120000014
表示t-1时刻第m个目标车辆轨迹数(共m个目标车辆轨迹数);
基于恒定速度模型:
Figure FDA0002568865120000015
则t时刻预测的每个跟踪目标车辆轨迹状态为Tt-1|t={xt-1|t,yt-1|t,zt-1|t,θ,h,w,h,vx,vy,vz}。
4.根据权利要求1所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,步骤3的具体实现包括:
步骤301:确定第i个检测目标与第j个预测的跟踪目标的关联系数Cij
通过计算第i个检测目标车辆Dt和第j个预测跟踪目标Tt之间的IOU3D确定两者的关联系数Cij,Cij越大表示两者关联程度越高,即第i检测目标可能属于第j个预测跟踪目标。
所述关联系数Cij的计算公式为:
Figure FDA0002568865120000021
其中,Vi为第i个检测目标3D框的体积,Vj为第j个预测的跟踪目标3D框的体积,Vij为检测目标3D框与预测目标3D框间的相交体积;
步骤302:使用匈牙利算法匹配第i个检测目标车辆Dt和第j个预测跟踪目标车辆Tt
为每一个检测/预测目标定义一个二值系数Xij:当IOU3D大于设定的阈值0.3时,第i个检测目标匹配给第j个预测跟踪目标,则Xij=1,否则Xij=0,建立的匹配模型表达式为:
Figure FDA0002568865120000022
由关联系数Cij组成的矩阵C是匹配模型的系数矩阵,矩阵C大小为n×m,在系数矩阵C找到一些Cij使整体效率z最大,其中每一行/列至多有一个元素被选中;
步骤303:输出一组匹配成功的检测目标
Figure FDA0002568865120000023
和匹配成功的预测跟踪目标
Figure FDA0002568865120000024
和匹配失败的检测目标
Figure FDA0002568865120000025
以及匹配失败的预测跟踪目标
Figure FDA0002568865120000026
Figure FDA0002568865120000027
5.根据权利要求1所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,步骤4的具体实现包括:
步骤401:建立3D卡尔曼滤波器模型根据关联结果初始目标状态更新;
在跟踪过程中,设目标状态方程为:
Tt=FTt-1+wt-1
其中,F为状态转移矩阵,wt-1为t-1时刻的过程噪声,服从正态分布,其均值为0,协方差矩阵为Q;
设目标观测方程为:
Zt=HTt+vt
其中,H为观测矩阵,vt为t时刻的观测噪声,服从正太分布,其均值为0,协方差矩阵为R。
根据T可以得出:
Figure FDA0002568865120000031
Figure FDA0002568865120000032
根据运动模型,先验状态协方差矩阵为:
Pt|t-1=FPt-1FT+Q
其中,Pt-1为t-1时刻更新预测后的状态协方差矩阵。
根据卡尔曼滤波器的计算规则,更新环节车辆目标状态表达式为:Tt=Tt|t-1+Kt(Zt-FTt|t-1);
其中,Kt为残余增益,其计算公式如下:
Kt=Pt|t-1HT(HPt|t-1HT+R)-1
步骤402:建立方向校准模块修正初始目标状态;
当检测目标
Figure FDA0002568865120000033
与跟踪目标轨迹
Figure FDA0002568865120000034
之间的方向角大于
Figure FDA0002568865120000035
时,则目标轨迹
Figure FDA0002568865120000036
的方向角加π,此时跟踪目标轨迹
Figure FDA0002568865120000037
方向角可以近似于检测目标
Figure FDA0002568865120000038
达到一致。
6.根据权利要求1所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪方法,其特征在于,步骤5的具体实现包括:
步骤501:新的轨迹生成处理
对于当前帧未匹配的车辆目标,若下一帧仍被检测到,则创建一个新的跟踪轨迹
Figure FDA0002568865120000041
并初始化其状态为(x,y,z,θ,h,w,h,0,0,0);
步骤502:现存轨迹丢失、终止处理:
若轨迹丢失,继续保持追踪3帧该轨迹,若仍未被匹配,则做轨迹终止处理
Figure FDA0002568865120000042
7.一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪系统,其特征在于,包括检测模块、3D卡尔曼滤波器模型、数据关联模块、3D卡尔曼滤波器模型以及轨迹管理模块;
所述检测模块用于对当前帧t进行目标检测,获取第t帧的目标检测集合;
所述3D卡尔曼滤波器模型用于对当前帧t进行目标状态预测;
所述数据关联模块用于将检测结果与预测的跟踪目标相匹配;
所述3D卡尔曼滤波器模型还用于根据关联结果更新目标状态;
所述轨迹管理模块用于对轨迹进行更新。
8.根据权利要求7所述的一种基于卡尔曼滤波与匈牙利算法的道路3D车辆跟踪系统,其特征在于,所述检测模块对当前帧t进行目标检测的具体内容包括:
基于预设的车辆检测器,进行视频帧的3D目标检测处理,获取目标检测结果,得到车辆目标的检测集合
Figure FDA0002568865120000043
其中
Figure FDA0002568865120000044
表示在t帧时刻检测的第n个目标车辆(共n个目标车辆);
检测结果是车辆目标的3D包围盒,所述3D包围盒的信息包括:中心坐标(x3D,y3D,z3D),尺度大小(h3D,w3D,l3D),方向角θ3D,检测置信度s3D
所述3D卡尔曼滤波器模型对当前帧t进行目标状态预测的具体内容包括:
为了预测下一帧车辆目标的状态,采用恒定速度模型近似车辆目标的帧间位移,建立状态变量T={x,y,z,θ,h,w,h,vx,vy,vz},其中vx,vy,vz表示车辆目标在三维空间中的运动速度;
假设t-1的所有目标车辆轨迹为
Figure FDA0002568865120000045
其中
Figure FDA0002568865120000046
表示t-1时刻第m个目标车辆轨迹数(共m个目标车辆轨迹数);
基于恒定速度模型:
Figure FDA0002568865120000051
则t时刻预测的每个跟踪目标车辆轨迹状态为Tt-1|t={xt-1|t,yt-1|t,zt-1|t,θ,h,w,h,vx,vy,vz};
所述数据关联模块将检测结果与预测的跟踪目标相匹配的具体内容包括:
确定第i个检测目标与第j个预测的跟踪目标的关联系数Cij
通过计算第i个检测目标车辆Dt和第j个预测跟踪目标Tt之间的3D IOU确定两者的关联系数Cij,Cij越大表示两者关联程度越高,即第i检测目标可能属于第j个预测跟踪目标;
所述关联系数Cij的计算公式为:
Figure FDA0002568865120000052
其中,Vi为第i个检测目标3D框的体积,Vj为第j个预测的跟踪目标3D框的体积,Vij为检测目标3D框与预测目标3D框间的相交体积;
使用匈牙利算法匹配第i个检测目标车辆Dt和第j个预测跟踪目标车辆Tt
为每一个检测/预测目标定义一个二值系数Xij:当IOU3D大于设定的阈值时,第i个检测目标匹配给第j个预测跟踪目标,则Xij=1,否则Xij=0,建立匹配模型表达式为:
Figure FDA0002568865120000053
由关联系数Cij组成的矩阵C是匹配问题的系数矩阵,矩阵C大小为n×m,在系数矩阵C找到一些Cij使整体效率z最大,其中每一行/列至多有一个元素被选中;
数据关联模块输出一组匹配成功的检测目标
Figure FDA0002568865120000054
匹配成功的预测跟踪目标
Figure FDA0002568865120000055
匹配失败的检测目标
Figure FDA0002568865120000056
以及匹配失败的预测跟踪目标
Figure FDA0002568865120000057
Figure FDA0002568865120000058
所述3D卡尔曼滤波器模型根据关联结果更新目标状态的具体内容包括:
根据关联结果更新初始目标状态:
在跟踪过程中,设状态方程为:
Tt=FtTt-1+wt-1
其中,F为状态转移矩阵,w为过程噪声,其均值为0,协方差矩阵为Q;
设观测方程为:
Zt=HtTt+vt
其中,H为观测矩阵,v为观测噪声,其均值为0,协方差矩阵为R;
根据运动模型,状态协方差矩阵为:
Figure FDA0002568865120000061
根据T得出:
Figure FDA0002568865120000062
Figure FDA0002568865120000063
根据卡尔曼滤波器的计算规则,更新环节车辆目标状态表达式为:Tt=Tt|t-1+Kt(zt-FTt|t-1)
其中,K为残余增益,其计算公式如下:
Figure FDA0002568865120000064
当检测目标
Figure FDA0002568865120000065
与跟踪目标轨迹
Figure FDA0002568865120000066
之间的方向角大于
Figure FDA0002568865120000067
时,则目标轨迹
Figure FDA0002568865120000068
的方向角加π,此时跟踪目标轨迹
Figure FDA0002568865120000069
方向角可以近似于检测目标
Figure FDA00025688651200000610
达到一致;
所述轨迹管理模块用于对轨迹进行更新的具体内容包括:
新的轨迹生成处理:对于当前帧未匹配的车辆目标,若下一帧仍被检测到,创建一个新的跟踪轨迹
Figure FDA0002568865120000071
并初始化其状态为(x,y,z,θ,h,w,h,0,0,0);
现存轨迹丢失、终止处理:若轨迹丢失,继续保持追踪3帧该轨迹,若仍未被匹配,做轨迹终止处理
Figure FDA0002568865120000072
CN202010631250.0A 2020-07-03 2020-07-03 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统 Pending CN111932580A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010631250.0A CN111932580A (zh) 2020-07-03 2020-07-03 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010631250.0A CN111932580A (zh) 2020-07-03 2020-07-03 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统

Publications (1)

Publication Number Publication Date
CN111932580A true CN111932580A (zh) 2020-11-13

Family

ID=73317859

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010631250.0A Pending CN111932580A (zh) 2020-07-03 2020-07-03 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统

Country Status (1)

Country Link
CN (1) CN111932580A (zh)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112444311A (zh) * 2020-11-22 2021-03-05 同济大学 一种桥梁车辆时空荷载监控方法
CN112465870A (zh) * 2020-12-10 2021-03-09 济南和普威视光电技术有限公司 一种复杂背景下热像报警入侵检测方法及装置
CN112562331A (zh) * 2020-11-30 2021-03-26 的卢技术有限公司 一种基于视觉感知的他方车辆轨迹预测方法
CN112634325A (zh) * 2020-12-10 2021-04-09 重庆邮电大学 一种无人机视频多目标跟踪方法
CN112785630A (zh) * 2021-02-02 2021-05-11 宁波智能装备研究院有限公司 一种显微操作中多目标轨迹异常处理方法及系统
CN112785625A (zh) * 2021-01-20 2021-05-11 北京百度网讯科技有限公司 目标跟踪方法、装置、电子设备及存储介质
CN112818771A (zh) * 2021-01-19 2021-05-18 江苏大学 一种基于特征聚合的多目标跟踪算法
CN112884816A (zh) * 2021-03-23 2021-06-01 武汉理工大学 一种基于图像系统的车辆特征深度学习识别轨迹跟踪方法
CN113096156A (zh) * 2021-04-23 2021-07-09 中国科学技术大学 面向自动驾驶的端到端实时三维多目标追踪方法及装置
CN113092807A (zh) * 2021-04-21 2021-07-09 上海浦江桥隧运营管理有限公司 基于多目标跟踪算法的城市高架道路车辆测速方法
CN113160280A (zh) * 2021-04-28 2021-07-23 江苏方天电力技术有限公司 一种基于激光雷达的动态多目标跟踪方法
CN113269098A (zh) * 2021-05-27 2021-08-17 中国人民解放军军事科学院国防科技创新研究院 一种基于无人机的多目标跟踪定位与运动状态估计方法
CN113281718A (zh) * 2021-06-30 2021-08-20 江苏大学 一种基于激光雷达场景流估计的3d多目标跟踪系统及方法
CN113658222A (zh) * 2021-08-02 2021-11-16 上海影谱科技有限公司 一种车辆检测跟踪方法及装置
CN113673395A (zh) * 2021-08-10 2021-11-19 深圳市捷顺科技实业股份有限公司 一种车辆轨迹的处理方法及装置
CN113763434A (zh) * 2021-09-26 2021-12-07 东风汽车集团股份有限公司 一种基于卡尔曼滤波多运动模型切换的目标轨迹预测方法
CN114005018A (zh) * 2021-10-14 2022-02-01 哈尔滨工程大学 一种小算力驱动的水面无人艇多目标跟踪方法
CN114170274A (zh) * 2022-02-11 2022-03-11 北京宏景智驾科技有限公司 目标跟踪方法和装置、电子设备和存储介质
CN114897944A (zh) * 2021-11-10 2022-08-12 北京中电兴发科技有限公司 一种基于DeepSORT的多目标连续跟踪方法
CN114913198A (zh) * 2021-01-29 2022-08-16 清华大学 一种多目标跟踪方法及装置、存储介质、终端
CN115050055A (zh) * 2022-07-06 2022-09-13 电子科技大学 一种基于卡尔曼滤波的人体骨架序列构建方法
CN115877343A (zh) * 2023-02-02 2023-03-31 中电信数字城市科技有限公司 基于雷达目标跟踪的人车匹配方法、装置和电子设备
CN115908506A (zh) * 2022-09-09 2023-04-04 杭州云栖智慧视通科技有限公司 基于卡尔曼预测的多目标跟踪方法
CN116228989A (zh) * 2023-03-30 2023-06-06 北京数原数字化城市研究中心 一种三维轨迹预测方法、装置、设备及介质
CN116434567A (zh) * 2022-12-13 2023-07-14 武汉溯野科技有限公司 一种车流量检测方法、装置和电子设备及路侧端设备
CN117576166A (zh) * 2024-01-15 2024-02-20 浙江华是科技股份有限公司 基于相机和低帧率激光雷达的目标跟踪方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111161325A (zh) * 2019-12-31 2020-05-15 广州视声智能科技有限公司 基于卡尔曼滤波与lstm的三维多目标跟踪方法
CN111340855A (zh) * 2020-03-06 2020-06-26 电子科技大学 一种基于轨迹预测的道路移动目标检测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111161325A (zh) * 2019-12-31 2020-05-15 广州视声智能科技有限公司 基于卡尔曼滤波与lstm的三维多目标跟踪方法
CN111340855A (zh) * 2020-03-06 2020-06-26 电子科技大学 一种基于轨迹预测的道路移动目标检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
XINSHUO WENG: "A Baseline for 3D Multi-Object Tracking", ARXIV, 9 July 2019 (2019-07-09), pages 1 - 8 *

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112444311A (zh) * 2020-11-22 2021-03-05 同济大学 一种桥梁车辆时空荷载监控方法
CN112562331A (zh) * 2020-11-30 2021-03-26 的卢技术有限公司 一种基于视觉感知的他方车辆轨迹预测方法
CN112465870A (zh) * 2020-12-10 2021-03-09 济南和普威视光电技术有限公司 一种复杂背景下热像报警入侵检测方法及装置
CN112634325A (zh) * 2020-12-10 2021-04-09 重庆邮电大学 一种无人机视频多目标跟踪方法
CN112465870B (zh) * 2020-12-10 2023-07-14 济南和普威视光电技术有限公司 一种复杂背景下热像报警入侵检测方法及装置
CN112818771A (zh) * 2021-01-19 2021-05-18 江苏大学 一种基于特征聚合的多目标跟踪算法
CN112818771B (zh) * 2021-01-19 2024-06-11 江苏大学 一种基于特征聚合的多目标跟踪算法
CN112785625A (zh) * 2021-01-20 2021-05-11 北京百度网讯科技有限公司 目标跟踪方法、装置、电子设备及存储介质
CN112785625B (zh) * 2021-01-20 2023-09-22 北京百度网讯科技有限公司 目标跟踪方法、装置、电子设备及存储介质
CN114913198A (zh) * 2021-01-29 2022-08-16 清华大学 一种多目标跟踪方法及装置、存储介质、终端
CN112785630A (zh) * 2021-02-02 2021-05-11 宁波智能装备研究院有限公司 一种显微操作中多目标轨迹异常处理方法及系统
CN112884816B (zh) * 2021-03-23 2023-12-15 武汉理工大学 一种基于图像系统的车辆特征深度学习识别轨迹跟踪方法
CN112884816A (zh) * 2021-03-23 2021-06-01 武汉理工大学 一种基于图像系统的车辆特征深度学习识别轨迹跟踪方法
CN113092807A (zh) * 2021-04-21 2021-07-09 上海浦江桥隧运营管理有限公司 基于多目标跟踪算法的城市高架道路车辆测速方法
CN113092807B (zh) * 2021-04-21 2024-05-14 上海浦江桥隧运营管理有限公司 基于多目标跟踪算法的城市高架道路车辆测速方法
CN113096156B (zh) * 2021-04-23 2024-05-24 中国科学技术大学 面向自动驾驶的端到端实时三维多目标追踪方法及装置
CN113096156A (zh) * 2021-04-23 2021-07-09 中国科学技术大学 面向自动驾驶的端到端实时三维多目标追踪方法及装置
CN113160280A (zh) * 2021-04-28 2021-07-23 江苏方天电力技术有限公司 一种基于激光雷达的动态多目标跟踪方法
CN113160280B (zh) * 2021-04-28 2022-07-08 江苏方天电力技术有限公司 一种基于激光雷达的动态多目标跟踪方法
CN113269098B (zh) * 2021-05-27 2023-06-16 中国人民解放军军事科学院国防科技创新研究院 一种基于无人机的多目标跟踪定位与运动状态估计方法
CN113269098A (zh) * 2021-05-27 2021-08-17 中国人民解放军军事科学院国防科技创新研究院 一种基于无人机的多目标跟踪定位与运动状态估计方法
CN113281718B (zh) * 2021-06-30 2024-03-22 江苏大学 一种基于激光雷达场景流估计的3d多目标跟踪系统及方法
CN113281718A (zh) * 2021-06-30 2021-08-20 江苏大学 一种基于激光雷达场景流估计的3d多目标跟踪系统及方法
CN113658222A (zh) * 2021-08-02 2021-11-16 上海影谱科技有限公司 一种车辆检测跟踪方法及装置
CN113673395A (zh) * 2021-08-10 2021-11-19 深圳市捷顺科技实业股份有限公司 一种车辆轨迹的处理方法及装置
CN113763434B (zh) * 2021-09-26 2024-02-02 东风汽车集团股份有限公司 一种基于卡尔曼滤波多运动模型切换的目标轨迹预测方法
CN113763434A (zh) * 2021-09-26 2021-12-07 东风汽车集团股份有限公司 一种基于卡尔曼滤波多运动模型切换的目标轨迹预测方法
CN114005018B (zh) * 2021-10-14 2024-04-16 哈尔滨工程大学 一种小算力驱动的水面无人艇多目标跟踪方法
CN114005018A (zh) * 2021-10-14 2022-02-01 哈尔滨工程大学 一种小算力驱动的水面无人艇多目标跟踪方法
CN114897944A (zh) * 2021-11-10 2022-08-12 北京中电兴发科技有限公司 一种基于DeepSORT的多目标连续跟踪方法
CN114897944B (zh) * 2021-11-10 2022-10-25 北京中电兴发科技有限公司 一种基于DeepSORT的多目标连续跟踪方法
CN114170274A (zh) * 2022-02-11 2022-03-11 北京宏景智驾科技有限公司 目标跟踪方法和装置、电子设备和存储介质
CN115050055B (zh) * 2022-07-06 2024-04-30 电子科技大学 一种基于卡尔曼滤波的人体骨架序列构建方法
CN115050055A (zh) * 2022-07-06 2022-09-13 电子科技大学 一种基于卡尔曼滤波的人体骨架序列构建方法
CN115908506A (zh) * 2022-09-09 2023-04-04 杭州云栖智慧视通科技有限公司 基于卡尔曼预测的多目标跟踪方法
CN116434567A (zh) * 2022-12-13 2023-07-14 武汉溯野科技有限公司 一种车流量检测方法、装置和电子设备及路侧端设备
CN116434567B (zh) * 2022-12-13 2024-01-26 武汉溯野科技有限公司 一种车流量检测方法、装置和电子设备及路侧端设备
CN115877343A (zh) * 2023-02-02 2023-03-31 中电信数字城市科技有限公司 基于雷达目标跟踪的人车匹配方法、装置和电子设备
CN116228989A (zh) * 2023-03-30 2023-06-06 北京数原数字化城市研究中心 一种三维轨迹预测方法、装置、设备及介质
CN117576166A (zh) * 2024-01-15 2024-02-20 浙江华是科技股份有限公司 基于相机和低帧率激光雷达的目标跟踪方法及系统
CN117576166B (zh) * 2024-01-15 2024-04-30 浙江华是科技股份有限公司 基于相机和低帧率激光雷达的目标跟踪方法及系统

Similar Documents

Publication Publication Date Title
CN111932580A (zh) 一种基于卡尔曼滤波与匈牙利算法的道路3d车辆跟踪方法及系统
Chiu et al. Probabilistic 3D multi-modal, multi-object tracking for autonomous driving
US9990736B2 (en) Robust anytime tracking combining 3D shape, color, and motion with annealed dynamic histograms
Malik Fast vehicle detection with probabilistic feature grouping and its application to vehicle tracking
CN108647646B (zh) 基于低线束雷达的低矮障碍物的优化检测方法及装置
Kim et al. Deep learning based vehicle position and orientation estimation via inverse perspective mapping image
US9846812B2 (en) Image recognition system for a vehicle and corresponding method
US8355539B2 (en) Radar guided vision system for vehicle validation and vehicle motion characterization
US8818702B2 (en) System and method for tracking objects
JP7078021B2 (ja) 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
CN111860352B (zh) 一种多镜头车辆轨迹全跟踪系统及方法
CN114049382B (zh) 一种智能网联环境下目标融合跟踪方法、系统和介质
Liu et al. Dynamic vehicle detection with sparse point clouds based on PE-CPD
Zhang et al. Monocular visual traffic surveillance: A review
Monteiro et al. Tracking and classification of dynamic obstacles using laser range finder and vision
CN114419098A (zh) 基于视觉变换的运动目标轨迹预测方法及装置
CN113239719B (zh) 基于异常信息识别的轨迹预测方法、装置和计算机设备
CN114399675A (zh) 一种基于机器视觉与激光雷达融合的目标检测方法和装置
CN109917359A (zh) 基于车载单目视觉的鲁棒车辆距离估计方法
Dornaika et al. A new framework for stereo sensor pose through road segmentation and registration
CN114088081A (zh) 一种基于多段联合优化的用于精确定位的地图构建方法
CN114998276A (zh) 一种基于三维点云的机器人动态障碍物实时检测方法
Notz et al. Extraction and assessment of naturalistic human driving trajectories from infrastructure camera and radar sensors
US20230245323A1 (en) Object tracking device, object tracking method, and storage medium
Zhang et al. An efficient and flexible approach for multiple vehicle tracking in the aerial video sequence

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination