CN109215059B - 一种航拍视频中运动车辆跟踪的局部数据关联方法 - Google Patents
一种航拍视频中运动车辆跟踪的局部数据关联方法 Download PDFInfo
- Publication number
- CN109215059B CN109215059B CN201811203369.7A CN201811203369A CN109215059B CN 109215059 B CN109215059 B CN 109215059B CN 201811203369 A CN201811203369 A CN 201811203369A CN 109215059 B CN109215059 B CN 109215059B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- tracked
- frame
- detected
- cost function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 239000013598 vector Substances 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 7
- 230000004927 fusion Effects 0.000 claims description 7
- 239000011159 matrix material Substances 0.000 claims description 7
- 238000005259 measurement Methods 0.000 claims description 7
- 239000000126 substance Substances 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 claims description 4
- 238000005286 illumination Methods 0.000 claims description 4
- 238000009795 derivation Methods 0.000 claims description 3
- 238000007689 inspection Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 230000007547 defect Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 229910000831 Steel Inorganic materials 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 210000001541 thymus gland Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
Abstract
本发明公开了一种航拍视频中运动车辆跟踪的局部数据关联方法,根据视频帧中的车辆运动信息,确定待跟踪车辆的感兴趣区域,缩小后续视频帧中进行数据关联的范围;获取待跟踪车辆及感兴趣区域内检测车辆的运动特征、外型特征、形状特征;分别建立运动、外型、形状特征代价函数,并融合三者形成待跟踪车辆与检测车辆之间的综合代价函数;根据待跟踪车辆与后续帧中感兴趣区域内检测车辆的四种匹配关系,制定四种不同的数据关联策略,灵活有效地解决车辆驶入和驶出图像的问题,本发明在进行数据关联时,只考虑ROI内检测到的车辆,能弥补全局数据关联算法前后帧中车辆数目需固定的缺陷,能够显著提高运动车辆数据关联的准确率和效率。
Description
技术领域
本发明涉及车辆跟踪技术领域,提出了一种航拍视频中运动车辆跟踪的局部数据关联方法。
背景技术
无人机航拍视频中运动车辆跟踪是智能交通系统建设的重要组成部分,同时也是目标运动分析研究的重要内容。车辆跟踪的目的是在连续的图像序列中实时发现并提取运动车辆,根据车辆的边缘、局部运动以及灰度等的变化信息不断跟踪它们,得到这些运动车辆的运动轨迹,可为下一步的车辆识别提供数据,同时还可以为交通流分析和智能交通系统建设等提供重要的参考。
对于运动车辆跟踪,其核心问题是数据关联,即将前一帧图像中的待跟踪车辆和后续帧中检测到的车辆进行关联,高效的数据关联策略有利于提高车辆跟踪的准确率和效率。数据关联算法起源于Sittler的工作,其通常分为两大类:一类是基于统计和似然的,另一类是基于神经网络和模糊数学的;而后者近年来更为热门。细分起来,有如下几种常见的数据关联方法,如“最近邻”数据关联、“全邻”数据关联、概率数据关联、联合概率数据关联、两点数据关联算法以及融合相关算法。目前,在图像的杂波干扰环境下,车辆跟踪领域最具代表性的是联合概率数据关联算法,该算法不需要目标杂波的任何先验信息,只计算最新的对于不同目标的测量的集合,是一种非后向描述逼近方法。但联合概率数据关联算法的缺点是关联概率计算复杂、费时,很难满足实际问题实时性的要求。而且在关联时它只考虑位置或运动信息,没有考虑其他可能得到的信息,如外型、形状信息等。
目前常用的全局数据关联算法,主要存在以下弱点:一是计算量大、效率低,二是仅适用于前后帧车辆数目固定的情况,三是没有充分运用车辆的特征。具体表现为在进行数据关联时,往往将待跟踪车辆与后续帧中所有检测到的车辆进行数据关联,导致计算量较大;而且必须要求前后帧中车辆数目固定,灵活性差;同时在进行车辆跟踪时忽视了车辆的外型特征、形状特征对跟踪效果的影响,鲁棒性差。因此在进行车辆跟踪时造成跟踪效果差,甚至出现跟踪错误。
发明内容
本发明的目的在于提供一种航拍视频中运动车辆跟踪的局部数据关联方法,以克服现有技术的不足。
为达到上述目的,本发明采用如下技术方案:
一种航拍视频中运动车辆跟踪的局部数据关联方法,包括以下步骤:
步骤1)、预测待跟踪车辆在后续帧的位置和速度状态,根据预测的位置确定感兴趣区域ROI的圆心,根据待跟踪车辆的估计速度、地面空间距离和帧率共同确定感兴趣区域ROI的半径,进而确定待跟踪车辆在后续帧的ROI;
步骤2)、获取待跟踪车辆的运动、外型和形状特征以及步骤1)获取的感兴趣区域ROI内检测车辆的运动、外型和形状特征;
步骤3)、根据步骤2)获取的待跟踪车辆与检测车辆的运动、外型和形状特征,使用范数方式对车辆的上述三种特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数;然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数;
步骤4)、根据步骤3)提出的综合代价函数进行数据关联,根据数据关联时出现的四种情况提出相应的数据关联策略。
进一步的,步骤1-1:预测待跟踪车辆在后续帧的运动信息包括车辆的运动速度以及车辆的位置;
其中,分别为待跟踪车辆p在第k帧中x、y轴的位置预测值,为待跟踪车辆在第k帧图像中在x、y轴方向的速度预测值;Rp(k)为待跟踪车辆p在第k帧ROI对应的半径;为待跟踪车辆p在第k帧的估计速度;gsd为地面空间距离;fps为帧率。
进一步的,预测待跟踪车辆在后续帧的运动信息具体包括以下步骤:
步骤2-1:通过对待跟踪车辆进行预测得到待跟踪车辆的运动特征,包括待跟踪车辆在后续帧的位置和速度等运动信息;对于检测到的运动车辆,根据基于运动目标跟踪与定位的无人机测速技术进行车辆运动速度及车辆位置的获取;
步骤2-2:提取待跟踪车辆与检测车辆的外型特征,包括车辆的轮廓信息以及纹理信息;
步骤2-3:获取待跟踪车辆和检测车辆的形状特征,形状特征包括车辆的长和宽。
进一步的,步骤2-2中,首先对航拍视频帧图像进行预处理,消除不同天气和光照强度给图像带来的影响;然后将图像转化为二值图像,在对图像进行标准化处理;然后对图像进行一阶梯度求导,将图像的目标窗口再细分为若干单元格;分别计算每一个单元格中全部像素的梯度方向直方图,并将得到的梯度值映射到指定的方向上,最后分别将得到的梯度值累加起来形成最终的梯度特征;将梯度直方图的不同的块进行归一化处理,得到每一个单元格的特征向量;最后,进行HOG特征向量的统计,将之前得到的特征向量累加形成一幅图形的特征向量总数。
进一步的,对比第k-1帧中待跟踪车辆与第k帧中检测车辆,使用范数等方式对车辆的运动、外型和形状特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数;然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数。
进一步的,步骤3)中具体步骤如下:
首先,定义待跟踪车辆为T(k-1)={tp(k-1)|p=1,2,…,t(k-1)},其中tp(k-1)为第k-1帧中第p个待跟踪车辆,t(k-1)为k-1帧中待跟踪车辆的数目;
分别定义待跟踪车辆的运动特征、外型特征和形状特征:第一,定义ep(k)为步骤2-2中所得到待跟踪车辆tp(k-1)的运动特征在第k帧的预测值,且第二,定义ap(k-1)为步骤2-1中所得到待跟踪车辆tp(k-1)的外型特征;第三,定义sp(k-1)为步骤2-3所得到待跟踪车辆tp(k-1)的形状特征,且sp(k-1)=[lp(k-1),wp(k-1)]T,其中lp(k-1)和wp(k-1)分别为待跟踪车辆tp(k-1)的长和宽;融合待跟踪车辆tp(k-1)的运动特征、外型特征和形状特征,待跟踪车辆tp(k-1)的综合特征可表示为
然后,分别定义检测车辆的综合特征:定义第k帧的检测车辆集合为D(k)={dq(k)|q=1,2,…,d(k)},其中dq(k)为第k帧的第q个车辆,d(k)为第k帧检测到的车辆总数;第k帧的检测车辆dq(k)的综合特征定义为:
接着,分别定义待跟踪车辆与检测车辆的运动特征代价函数、外型特征代价函数以及形状特征的代价函数;
运动特征代价函数、外型特征代价函数以及形状特征的代价函数分别定义为Ce(p,q)、Ca(p,q)和Cs(p,q),表示为:
其中,表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆运动特征欧氏距离的最大值;其中xd(k)(k)、yd(k)(k)为第k帧中第d(k)个车辆在x、y轴上的坐标;||ap(k-1)-ad(k)(k)||max表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆外型特征欧氏距离的最大值;其中ap(k-1)为待跟踪车辆tp(k-1)的外型特征矩阵,ad(k)(k)为第k帧中第d(k)个车辆外型特征矩阵;和分别为形状特征中车辆长和宽的代价函数;σ4和σ5为其对应的权重,且满足σ4+σ5=1;和定义为:
其中,|.|表示绝对值,|.|max表示绝对值的最大值;lp(k-1)、wp(k-1)为待跟踪车辆tp(k-1)的长、宽,lp(k)、wq(k)分别为第k帧检测车辆的长、宽,ld(k)(k)、wd(k)(k)分别为第k帧第d(k)个检测车辆的长和宽;融合上述运动特征、外型特征和形状特征的代价函数,建立待跟踪车辆tp(k-1)与检测车辆dq(k)的综合代价函数:
C(p,q)=σ1.Ce(p,q)+σ2.Ca(p,q)+σ3.Cs(p,q)
其中,σ1、σ2、σ3为权值,且满足σ1+σ2+σ3=1。
进一步的,以第k-1帧中待跟踪车辆集合T(k-1)和第k帧检测到的车辆集合D(k)为输入,对T(k-1)和ROI内的D(k),当综合代价函数的值低于设定的阈值1.0时,将待跟踪车辆与相应的检测车辆进行关联。
进一步的,a、当待跟踪车辆对应的ROI内没有检测到车辆进入时,通过当前被检测的车辆的位置和速度来判断车辆是否将驶出图像,满足以下四个条件中任意一个即可认为将驶出图像,即可对该待跟踪车辆放弃跟踪:
b、当检测到的车辆不在任何待跟踪车辆对应的ROI内,将其认为是新的待跟踪车辆,在后续帧中进行跟踪;
c、当待跟踪车辆的ROI内只检测到一辆车辆,计算待跟踪车辆与被检测的车辆的综合代价函数,若综合代价函数值低于设定的阈值1.0,则认为待跟踪车辆可与检测到的车辆关联,否则,认为该车辆是新驶入图像的车辆,在后续帧中进行跟踪;
d、当待跟踪车辆的ROI内检测到多辆车辆,计算待跟踪车辆与ROI内所有检测到的车辆的综合代价函数,若所有综合代价函数值均高于设定的阈值1.0,则认为该待跟踪车辆与所有被检测的车辆均无关联;否则选综合代价函数值最低且低于设定阈值的为关联车辆,至此,完成数据关联。
与现有技术相比,本发明具有以下有益的技术效果:
本发明公开了一种航拍视频中运动车辆跟踪的局部数据关联方法,根据视频帧中的车辆运动信息,确定待跟踪车辆的感兴趣区域,缩小后续视频帧中进行数据关联的范围;获取待跟踪车辆及感兴趣区域内检测车辆的运动特征、外型特征、形状特征;分别建立运动、外型、形状特征代价函数,并融合三者形成待跟踪车辆与检测车辆之间的综合代价函数;根据待跟踪车辆与后续帧中感兴趣区域内检测车辆的四种匹配关系,制定四种不同的数据关联策略,灵活有效地解决车辆驶入和驶出图像的问题,本发明在进行数据关联时,只考虑ROI内检测到的车辆,能弥补全局数据关联算法前后帧中车辆数目需固定的缺陷,能够显著提高运动车辆数据关联的准确率和效率。
本发明利用航拍视频帧中待跟踪车辆的位置和速度等信息来获取ROI,引入ROI可降低数据关联的计算量,提高运动车辆跟踪的效率;融合待跟踪车辆与后续帧检测车辆的运动、外型、形状特征,建立第k-1帧中待跟踪车辆以及第帧中检测车辆之间的综合代价函数,综合代价函数的值低于设定的阈值1.0时,将待跟踪车辆于相应的检测车辆进行关联;根据数据关联过程可能出现的4种不同情况,制定4种不同的数据关联策略,从而实现运动车辆跟踪中的数据关联;本发明在制定待跟踪车辆与检测车辆的综合代价函数时考虑了车辆的运动、外型、形状三种特征可显著提高数据关联的准确率。同时,根据数据关联出现的不同情况制定数据关联策略时,只考虑ROI内的检测车辆,能弥补全局数据关联算法前后帧中车辆数目需固定的缺陷,并能大大减少计算量。而且,通过新增和删除待跟踪车辆,可以灵活有效地解决车辆驶入和驶出图像的问题。
进一步的,将已获得分块信息的权重因子的大小进行再划分再提取,即将权重因子比较大的分块信息提取出来至此,可获得车辆的外型特征,更有效果提取车辆的外型特征。
附图说明
图1为本发明实例中所述局部数据关联方法流程框图。
图2为本发明实例中所述局部数据关联管理策略图,图2a为局部数据关联前示意图,图2b为局部数据关联示意图。
图3为本发明实例中所述判断车辆是否将驶出图像的示意图。
图4为本发明实例中所述运动车辆跟踪中的数据关联效果图,图4a到图4f分别为某次航拍视频的第1411、1416、1421、1426、1431和1436帧效果示意图。
图5为本发明实例中所述存在车辆驶入和驶出图像情况的数据关联效果图,图5a到图5d分别为某次航拍视频的第74、75、76和77帧效果示意图。
具体实施方式
下面结合附图对本发明做进一步详细描述:
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。附图中图1是本发明一种航拍视频中运动车辆跟踪的局部数据关联方法流程框图,本发明所述方法包括以下步骤:
步骤1)、为了降低数据关联的计算量,预测待跟踪车辆在后续帧的位置和速度状态,根据预测的位置来确定感兴趣区域(Region of Interest,ROI)的圆心,ROI的半径则由待跟踪车辆的估计速度、地面空间距离和帧率共同确定,进而确定待跟踪车辆在后续帧的ROI;
将感兴趣区域引入运动车辆跟踪中降低运动车辆跟踪的计算量,通过对待跟踪车辆进行预测,获得其在后续帧的位置和速度状态信息,以此来确定ROI:
步骤1-1:预测待跟踪车辆在后续帧的运动信息,包括车辆的运动速度以及车辆的位置;具体实施细节参考文献Hu X.,Hu Y.H.,Xu B..Generalised Kalman FilterTracking with Multiplicative Measurement Noise in A Wireless Sensor Network[J].Signal Processing Iet,2014,8(5):467-474.;
其中,分别为待跟踪车辆p在第k帧中x、y轴的位置预测值,为待跟踪车辆在第k帧图像中在x、y轴方向的速度预测值;Rp(k)为待跟踪车辆p在第k帧ROI对应的半径;为待跟踪车辆p在第k帧的估计速度;gsd为地面空间距离;fps为帧率。
步骤2)、获取待跟踪车辆的运动、外型和形状特征以及步骤1)获取的感兴趣区域ROI内检测车辆的运动、外型和形状特征;
提取特征是建立代价函数的关键,为了提高数据关联的准确率,考虑待跟踪车辆以及检测车辆的三种特征,包括运动特征、外型特征和形状特征。所述的三种特征是后续建立代价函数的基础;代价函数是实现局部数据关联算法的重中之重;在建立代价函数时,主要是基于第k-1帧待跟踪车辆和第k帧检测车辆的特征;分别提取待跟踪车辆与后续帧检测到车辆的运动、外型和形状特征;运动特征考虑车辆的位置和速度,外型特征考虑车辆的纹理信息,形状特征则考虑车辆的长和宽;在第k帧图像中获取待跟踪车辆的运动、外型和形状特征;在步骤1)获得的ROI内提取第k帧图像中检测车辆的运动、外型和形状特征;待跟踪车辆和检测车辆的上述三种特征,是步骤3)建立代价函数的基础;
具体包括以下步骤:
步骤2-1:获取待跟踪车辆和检测车辆的运动特征,车辆的运动特征包括车辆的位置以及运动速度;
待跟踪车辆的运动特征是通过对其进行预测得到的,包括待跟踪车辆在后续帧的位置和速度等运动信息;具体实施细节参考文献Hu X.,Hu Y.H.,Xu B..GeneralisedKalman Filter Tracking with Multiplicative Measurement Noise in A WirelessSensor Network[J].Signal Processing Iet,2014,8(5):467-474.;
对于检测到的运动车辆,根据基于运动目标跟踪与定位的无人机测速技术进行车辆运动速度及车辆位置的获取;该方法利用无人机光电成像设备对地面运动的车辆进行视频跟踪拍摄,得到一个序列图像,再对拍摄到的视频进行处理,最终可以对运动目标如运动的车辆进行实时定位,得到运动车辆的位置信息,进而求出运动车辆的运动速度;具体实施细节参考文献金兆飞,雷仲魁,李倩.基于运动目标跟踪与定位的无人机测速技术[J].光电工程.1003-501X(2015)02-0059-07)。至此可得到运动车辆的速度以及位置信息。
步骤2-2:提取待跟踪车辆与检测车辆的外型特征,包括车辆的轮廓信息以及纹理信息;
首先,对航拍视频帧图像进行预处理,消除不同天气和光照强度给图像带来的影响;然后将图像转化为二值图像,在对图像进行标准化处理。接着为了初步捕获到图像中目标车辆的轮廓信息以及纹理信息,对图像进行一阶梯度求导,同时也弱化了光照对图像特征提取的影响。然后,将图像的目标窗口再细分为若干小区域,命名为单元格。分别计算每一个单元格中全部像素的梯度方向直方图,并将这些梯度值映射到指定的方向上,最后分别将这些值累加起来形成最终的梯度特征。将梯度直方图的不同的块进行归一化处理,这样将会得到每一个单元格的特征向量。最后,进行HOG特征向量的统计,将之前得到的特征向量累加形成一幅图形的特征向量总数。为了更有效果提取车辆的外型特征,将已获得分块信息的权重因子的大小进行再划分再提取,即将权重因子比较大的分块信息提取出来至此,可获得车辆的外型特征。
步骤2-3:获取待跟踪车辆和检测车辆的形状特征,形状特征包括车辆的长和宽;
可利用基于灰度连续性的运动车辆边缘检测算法得到待跟踪车辆和检测车辆的长和宽。首先在判断有车的情况下,把ROI内中心点作为检测基准点,对连续拍摄的序列图像沿检测基准点进行搜索,并对搜索到符合条件的第一个运动目标进行边缘检测,用运动车辆的外接矩形的长和宽作为运动车辆的检测输出数据;具体实施细节参考文献谢长寿,刘智勇.一种快速的运动车辆特征提取算法[J].五邑大学学报(自然科学版).1006-7302(2002)01-0031-05。至此可获取待跟踪车辆和检测车辆的长和宽。
步骤3)、根据步骤2)获取的待跟踪车辆与检测车辆的运动、外型和形状特征,使用范数方式对车辆的上述三种特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数;然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数;
对比第k-1帧中待跟踪车辆与第k帧中检测车辆,使用范数等方式对车辆的运动、外型、形状特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数。然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数;
具体步骤如下:
首先,定义待跟踪车辆为T(k-1)={tp(k-1)|p=1,2,…,t(k-1)},其中tp(k-1)为第k-1帧中第p个待跟踪车辆,t(k-1)为k-1帧中待跟踪车辆的数目。
接下来,分别定义待跟踪车辆的运动特征、外型特征、形状特征。第一,定义ep(k)为步骤2-2中所得到待跟踪车辆tp(k-1)的运动特征在第k帧的预测值,且第二,定义ap(k-1)为步骤2-1中所得到待跟踪车辆tp(k-1)的外型特征。第三,定义sp(k-1)为步骤2-3所得到待跟踪车辆tp(k-1)的形状特征,且sp(k-1)=[lp(k-1),wp(k-1)]T,其中lp(k-1)和wp(k-1)分别为待跟踪车辆tp(k-1)的长和宽。
然后,分别定义检测车辆的综合特征。定义第k帧的检测车辆集合为D(k)={dq(k)|q=1,2,…,d(k)},其中dq(k)为第k帧的第q个车辆,d(k)为第k帧检测到的车辆总数。第k帧的检测车辆dq(k)的综合特征定义为:
接着,分别定义待跟踪车辆与检测车辆的运动特征代价函数、外型特征代价函数以及形状特征的代价函数。运动特征代价函数、外型特征代价函数以及形状特征的代价函数分别定义为Ce(p,q)、Ca(p,q)和Cs(p,q),表示为:
其中,表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆运动特征欧氏距离的最大值;其中xd(k)(k)、yd(k)(k)为第k帧中第d(k)个车辆在x、y轴上的坐标。||ap(k-1)-ad(k)(k)||max表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆外型特征欧氏距离的最大值;其中ap(k-1)为待跟踪车辆tp(k-1)的外型特征矩阵,ad(k)(k)为第k帧中第d(k)个车辆外型特征矩阵。和分别为形状特征中车辆长和宽的代价函数;σ4和σ5为其对应的权重,且满足σ4+σ5=1,本发明取σ4=σ5。和定义为:
其中,|.|表示绝对值,|.|max表示绝对值的最大值。lp(k-1)、wp(k-1)为待跟踪车辆tp(k-1)的长、宽,lp(k)、wq(k)分别为第k帧检测车辆的长、宽,ld(k)(k)、wd(k)(k)为第k帧第d(k)个检测车辆的长、宽。融合上述运动特征、外型特征、形状特征的代价函数,建立待跟踪车辆tp(k-1)与检测车辆dq(k)的综合代价函数:
C(p,q)=σ1.Ce(p,q)+σ2.Ca(p,q)+σ3.Cs(p,q)
其中,σ1、σ2、σ3为权值,且满足σ1+σ2+σ3=1。
运动、外型和形状特征的权值直接影响着数据关联的效果。在确定权重时,运动特征权重为最大,外型特征权重次之,形状特征权重最小。这是由于在无人机图像序列中,车辆目标相对比较小。这种情况下,外形特征的分辨力会削弱。而且,车辆的形状会很相似。与这两种特征相比,运动特征显得尤为重要。因此,权重设置为σ1≥0.5,σ2≥0.25。
步骤4)、根据步骤3)提出的综合代价函数进行数据关联,根据数据关联时出现的四种情况提出一种数据关联策略;该策略能弥补全局数据关联算法前后帧中车辆数目需固定的缺陷,而且,通过新增和删除待跟踪车辆,可以灵活有效地解决车辆驶入和驶出图像的问题;
以第k-1帧中待跟踪车辆集合T(k-1)和第k帧检测到的车辆集合D(k)为输入,对T(k-1)和ROI内的D(k),利用步骤3)所提出的综合代价函数进行数据关联;当综合代价函数的值低于设定的阈值1.0时,将待跟踪车辆与相应的检测车辆进行关联。根据数据关联过程可能出现的4种不同情况,制定4种不同的数据关联策略,从而实现无人机航拍视频中待跟踪车辆与检测车辆之间的精确数据关联;
具体步骤如下:
该数据关联策略分4种不同的情况,每种情况使用不同的处理方式。
情况1:当待跟踪车辆对应的ROI内没有检测到车辆进入时,进入步骤4-1进行相关处理;情况2:当检测到的车辆不在任何待跟踪车辆对应的ROI内,进入步骤4-2进行相关处理;情况3:待跟踪车辆的ROI内只检测到一辆车辆,进入步骤4-3进行相关处理;情况4:待跟踪车辆的ROI内检测到多辆车辆,进入步骤4-4进行相关处理。
以附图中图2具体说明,第k-1帧的待跟踪车辆T(k-1)、相应的ROI以及第k帧的检测车辆集合D(k)。附图中图2a中,有5辆待跟踪车辆,分别定义为t1(k-1)、t2(k-1)、t3(k-1)、t4(k-1)、t5(k-1);相应的ROI,用附图中图2b中名为d1(k)、d2(k)、d3(k)、d4(k)、d5(k)的圆表示。
步骤4-1,若待跟踪车辆对应的ROI内没有检测到车辆,如附图中图2a中待跟踪车辆t5(k-1),相应的附图中图2中ROI内没有检测到车辆。这种情况有可能是两种原因造成的:一是车辆驶出当前图像,二是车辆被树木、建筑物或其它车辆等遮挡而导致未被检测出来。为此需要判断车辆是否将驶出图像,如附图中图3所示。图像的维数为md×nd,md、nd分别为图像矩阵的行数和列数。通过当前被检测的车辆的位置和速度来判断车辆是否将驶出图像,满足以下四个条件中任意一个即可认为将驶出图像。
其中,dx和dy代表ROI区域与图像边缘在x、y轴方向上的距离,虚线框内为ROI。xq(k)、yq(k)分别车辆在x轴、y轴上的坐标,为车辆在x轴、y轴方向上的速度。只要满足上式中任一条件,则认为车辆即将驶出图像,即可对该待跟踪车辆放弃跟踪。
步骤4-2,若检测到的车辆不在任何待跟踪车辆相应的ROI内,如附图中图2(b)中车辆d5(k)。这种情况下,该车辆可能是新进入图像的车辆,将其认为是新的待跟踪车辆,在后续帧中进行跟踪。
步骤4-3,若待跟踪车辆的ROI内只检测到一辆车辆,如附图中图2(a)中待跟踪车辆t1(k-1)、t3(k-1)和t4(k-1),相应的ROI内均只有一辆检测到的车辆。这种情况下,计算待跟踪车辆与被检测的车辆的综合代价函数,若综合代价函数值低于设定的阈值1.0,则认为待跟踪车辆可与检测到的车辆关联。否则,该车辆可能是新驶入图像的车辆,同步骤4-2,将其认为是新的待跟踪车辆,在后续帧中进行跟踪。
步骤44,若待跟踪车辆的相应的ROI内检测到多辆车辆,如附图中图2(a)中待跟踪车辆t2(k-1),相应的ROI内有两辆检测到的车辆。这种情况下,计算待跟踪车辆与ROI内所有检测到的车辆的综合代价函数,若所有综合代价函数值均高于设定的阈值1.0,则认为该待跟踪车辆与所有被检测的车辆均无关联;否则选综合代价函数值最低且低于设定阈值的为关联车辆。至此,实现数据关联。
取σ1=0.5、σ2=0.3和σ3=0.2执行所述步骤可验证本发明的有效性,得到的车辆跟踪结果如附图中图4所示,(a)到(f)分别为某次航拍视频的第1411、1416、1421、1426、1431和1436帧。其中的方框表示所在ROI内的车辆。可以看出,所提的车辆跟踪方法准确有效。存在车辆驶入和驶出图像情况的跟踪结果如附图中图5所示,(a)到(d)分别为某次航拍视频的第74、75、76和77帧。其中在第75帧图像中最左侧框里的车辆在第76帧图像中到达图像边缘,此处删除待跟踪车辆。第77帧图像中最左侧的方框里的车辆第一次出现,此时为新建待跟踪车辆。可见,所提方法对存在车辆驶入和驶出图像的情况仍然有效。
Claims (8)
1.一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,包括以下步骤:
步骤1)、预测待跟踪车辆在后续帧的位置和速度状态,根据预测的位置确定感兴趣区域ROI的圆心,根据待跟踪车辆的估计速度、地面空间距离和帧率共同确定感兴趣区域ROI的半径,进而确定待跟踪车辆在后续帧的ROI;
步骤2)、获取待跟踪车辆的运动、外型和形状特征以及步骤1)获取的感兴趣区域ROI内检测车辆的运动、外型和形状特征;
步骤3)、根据步骤2)获取的待跟踪车辆与检测车辆的运动、外型和形状特征,使用范数方式对车辆的上述三种特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数;然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数;
步骤4)、根据步骤3)提出的综合代价函数进行数据关联,根据数据关联时出现的四种情况提出相应的数据关联策略。
3.根据权利要求1所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,预测待跟踪车辆在后续帧的运动信息具体包括以下步骤:
步骤2-1:通过对待跟踪车辆进行预测得到待跟踪车辆的运动特征,包括待跟踪车辆在后续帧的位置和速度等运动信息;对于检测到的运动车辆,根据基于运动目标跟踪与定位的无人机测速技术进行车辆运动速度及车辆位置的获取;
步骤2-2:提取待跟踪车辆与检测车辆的外型特征,包括车辆的轮廓信息以及纹理信息;
步骤2-3:获取待跟踪车辆和检测车辆的形状特征,形状特征包括车辆的长和宽。
4.根据权利要求3所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,步骤2-2中,首先对航拍视频帧图像进行预处理,消除不同天气和光照强度给图像带来的影响;然后将图像转化为二值图像,在对图像进行标准化处理;然后对图像进行一阶梯度求导,将图像的目标窗口再细分为若干单元格;分别计算每一个单元格中全部像素的梯度方向直方图,并将得到的梯度值映射到指定的方向上,最后分别将得到的梯度值累加起来形成最终的梯度特征;将梯度直方图的不同的块进行归一化处理,得到每一个单元格的特征向量;最后,进行HOG特征向量的统计,将之前得到的特征向量累加形成一幅图形的特征向量总数。
5.根据权利要求1所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,对比第k-1帧中待跟踪车辆与第k帧中检测车辆,使用范数等方式对车辆的运动、外型和形状特征分别进行对比运算,建立运动特征代价函数、外型特征代价函数以及形状特征代价函数;然后利用按权值融合的方式融合这三种特征代价函数,从而建立待跟踪车辆与检测车辆之间的综合代价函数。
6.根据权利要求5所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,
步骤3)中具体步骤如下:
首先,定义待跟踪车辆为T(k-1)={tp(k-1)|p=1,2,…,t(k-1)},其中tp(k-1)为第k-1帧中第p个待跟踪车辆,t(k-1)为k-1帧中待跟踪车辆的数目;
分别定义待跟踪车辆的运动特征、外型特征和形状特征:第一,定义ep(k)为步骤2-2中所得到待跟踪车辆tp(k-1)的运动特征在第k帧的预测值,且第二,定义ap(k-1)为步骤2-1中所得到待跟踪车辆tp(k-1)的外型特征;第三,定义sp(k-1)为步骤2-3所得到待跟踪车辆tp(k-1)的形状特征,且sp(k-1)=[lp(k-1),wp(k-1)]T,其中lp(k-1)和wp(k-1)分别为待跟踪车辆tp(k-1)的长和宽;融合待跟踪车辆tp(k-1)的运动特征、外型特征和形状特征,待跟踪车辆tp(k-1)的综合特征可表示为 分别为待跟踪车辆p在第k帧中x、y轴的位置预测值;分别为待跟踪车辆在第k帧图像中在x、y轴方向的速度预测值;
然后,分别定义检测车辆的综合特征:定义第k帧的检测车辆集合为D(k)={dq(k)|q=1,2,…,d(k)},其中dq(k)为第k帧的第q个车辆,d(k)为第k帧检测到的车辆总数;第k帧的检测车辆dq(k)的综合特征定义为:
接着,分别定义待跟踪车辆与检测车辆的运动特征代价函数、外型特征代价函数以及形状特征的代价函数;
运动特征代价函数、外型特征代价函数以及形状特征的代价函数分别定义为Ce(p,q)、Ca(p,q)和Cs(p,q),表示为:
其中,表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆运动特征欧氏距离的最大值;其中xd(k)(k)、yd(k)(k)为第k帧中第d(k)个车辆在x、y轴上的坐标;||ap(k-1)-ad(k)(k)||max表示待跟踪车辆tp(k-1)与第k帧中第d(k)个车辆外型特征欧氏距离的最大值;其中ap(k-1)为待跟踪车辆tp(k-1)的外型特征矩阵,ad(k)(k)为第k帧中第d(k)个车辆外型特征矩阵;和分别为形状特征中车辆长和宽的代价函数;σ4和σ5为其对应的权重,且满足σ4+σ5=1;和定义为:
其中,|·|表示绝对值,|·|max表示绝对值的最大值;lp(k-1)、wp(k-1)为待跟踪车辆tp(k-1)的长、宽,lp(k)、wq(k)分别为第k帧检测车辆的长、宽,ld(k)(k)、wd(k)(k)分别为第k帧第d(k)个检测车辆的长和宽;融合上述运动特征、外型特征和形状特征的代价函数,建立待跟踪车辆tp(k-1)与检测车辆dq(k)的综合代价函数:
C(p,q)=σ1·Ce(p,q)+σ2·Ca(p,q)+σ3·Cs(p,q)
其中,σ1、σ2、σ3为权值,且满足σ1+σ2+σ3=1。
7.根据权利要求5所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,以第k-1帧中待跟踪车辆集合T(k-1)和第k帧检测到的车辆集合D(k)为输入,对T(k-1)和ROI内的D(k),当综合代价函数的值低于设定的阈值1.0时,将待跟踪车辆与相应的检测车辆进行关联。
8.根据权利要求7所述的一种航拍视频中运动车辆跟踪的局部数据关联方法,其特征在于,根据数据关联时出现的四种情况提出相应的数据关联策略具体步骤如下:
a、当待跟踪车辆对应的ROI内没有检测到车辆进入时,通过当前被检测的车辆的位置和速度来判断车辆是否将驶出图像,满足以下四个条件中任意一个即可认为将驶出图像,即可对该待跟踪车辆放弃跟踪:
b、当检测到的车辆不在任何待跟踪车辆对应的ROI内,将其认为是新的待跟踪车辆,在后续帧中进行跟踪;
c、当待跟踪车辆的ROI内只检测到一辆车辆,计算待跟踪车辆与被检测的车辆的综合代价函数,若综合代价函数值低于设定的阈值1.0,则认为待跟踪车辆可与检测到的车辆关联,否则,认为该车辆是新驶入图像的车辆,在后续帧中进行跟踪;
d、当待跟踪车辆的ROI内检测到多辆车辆,计算待跟踪车辆与ROI内所有检测到的车辆的综合代价函数,若所有综合代价函数值均高于设定的阈值1.0,则认为该待跟踪车辆与所有被检测的车辆均无关联;否则选综合代价函数值最低且低于设定阈值的为关联车辆,至此,完成数据关联。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811203369.7A CN109215059B (zh) | 2018-10-16 | 2018-10-16 | 一种航拍视频中运动车辆跟踪的局部数据关联方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811203369.7A CN109215059B (zh) | 2018-10-16 | 2018-10-16 | 一种航拍视频中运动车辆跟踪的局部数据关联方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109215059A CN109215059A (zh) | 2019-01-15 |
CN109215059B true CN109215059B (zh) | 2021-06-29 |
Family
ID=64980366
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811203369.7A Active CN109215059B (zh) | 2018-10-16 | 2018-10-16 | 一种航拍视频中运动车辆跟踪的局部数据关联方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109215059B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110533693B (zh) * | 2019-08-29 | 2023-02-07 | 北京精英路通科技有限公司 | 一种目标跟踪方法及目标跟踪装置 |
CN111798698B (zh) * | 2020-06-24 | 2022-04-08 | 中国第一汽车股份有限公司 | 一种前方目标车辆的确定方法、装置及车辆 |
CN112327289A (zh) * | 2020-10-29 | 2021-02-05 | 内蒙古工业大学 | 一种运动目标斜距向速度估计方法及装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130020151A (ko) * | 2011-08-19 | 2013-02-27 | 주식회사 만도 | 차량 검출 장치 및 방법 |
CN103310115A (zh) * | 2013-06-27 | 2013-09-18 | 西安电子科技大学 | 一种多目标跟踪的杂波估计方法 |
CN103955947A (zh) * | 2014-03-21 | 2014-07-30 | 南京邮电大学 | 一种基于连续最小能量与表观模型的多目标关联跟踪方法 |
CN106056100A (zh) * | 2016-06-28 | 2016-10-26 | 重庆邮电大学 | 一种基于车道检测与目标跟踪的车辆辅助定位方法 |
CN106408938A (zh) * | 2016-09-13 | 2017-02-15 | 天津工业大学 | 夜间城市交通监控中各类车辆轨迹的完整提取 |
CN107798272A (zh) * | 2016-08-30 | 2018-03-13 | 佳能株式会社 | 快速多目标检测与跟踪系统 |
CN108470332A (zh) * | 2018-01-24 | 2018-08-31 | 博云视觉(北京)科技有限公司 | 一种多目标跟踪方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101719278B (zh) * | 2009-12-21 | 2012-01-04 | 西安电子科技大学 | 基于khm算法的视频显微图像细胞自动跟踪方法 |
US9449511B2 (en) * | 2013-08-23 | 2016-09-20 | Xerox Corporation | System and method for automated sequencing of vehicle under low speed conditions from video |
CN104732518B (zh) * | 2015-01-19 | 2017-09-01 | 北京工业大学 | 一种基于智能机器人地面特征的ptam改进方法 |
-
2018
- 2018-10-16 CN CN201811203369.7A patent/CN109215059B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130020151A (ko) * | 2011-08-19 | 2013-02-27 | 주식회사 만도 | 차량 검출 장치 및 방법 |
CN103310115A (zh) * | 2013-06-27 | 2013-09-18 | 西安电子科技大学 | 一种多目标跟踪的杂波估计方法 |
CN103955947A (zh) * | 2014-03-21 | 2014-07-30 | 南京邮电大学 | 一种基于连续最小能量与表观模型的多目标关联跟踪方法 |
CN106056100A (zh) * | 2016-06-28 | 2016-10-26 | 重庆邮电大学 | 一种基于车道检测与目标跟踪的车辆辅助定位方法 |
CN107798272A (zh) * | 2016-08-30 | 2018-03-13 | 佳能株式会社 | 快速多目标检测与跟踪系统 |
CN106408938A (zh) * | 2016-09-13 | 2017-02-15 | 天津工业大学 | 夜间城市交通监控中各类车辆轨迹的完整提取 |
CN108470332A (zh) * | 2018-01-24 | 2018-08-31 | 博云视觉(北京)科技有限公司 | 一种多目标跟踪方法及装置 |
Non-Patent Citations (2)
Title |
---|
"Robust Detection and Tracking of Vehicle Taillight Signals Using Frequency Domain Feature Based Adaboost Learning";Cheng-Lung Jen等;《2017 IEEE International Conference on Consumer Electronics - Taiwan (ICCE-TW)》;20170727;第423-424页 * |
"基于运动检测的多车辆跟踪方法研究";单玉刚等;《计算机测量与控制》;20170325;第25卷(第3期);第24-28页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109215059A (zh) | 2019-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113034548B (zh) | 一种适用于嵌入式终端的多目标跟踪方法及其系统 | |
CN109800629B (zh) | 一种基于卷积神经网络的遥感图像目标检测方法 | |
CN109215059B (zh) | 一种航拍视频中运动车辆跟踪的局部数据关联方法 | |
CN104978567B (zh) | 基于场景分类的车辆检测方法 | |
CN108804992B (zh) | 一种基于深度学习的人群统计方法 | |
CN112132042A (zh) | 基于对抗域适应的sar图像目标检测方法 | |
CN112818905B (zh) | 一种基于注意力和时空信息的有限像素车辆目标检测方法 | |
CN111340855A (zh) | 一种基于轨迹预测的道路移动目标检测方法 | |
CN108537829B (zh) | 一种监控视频人员状态识别方法 | |
CN108711172B (zh) | 基于细粒度分类的无人机识别与定位方法 | |
CN113111727A (zh) | 一种基于特征对齐的遥感场景下旋转目标检测方法 | |
CN113888461A (zh) | 基于深度学习的小五金件缺陷检测方法、系统及设备 | |
CN111369495A (zh) | 一种基于视频的全景图像的变化检测方法 | |
CN112487900A (zh) | 一种基于特征融合的sar图像舰船目标检测方法 | |
CN111368770B (zh) | 基于骨骼点检测与跟踪的手势识别方法 | |
CN113034378A (zh) | 一种区分电动汽车与燃油汽车的方法 | |
CN111950498A (zh) | 一种基于端到端实例分割的车道线检测方法及装置 | |
CN113408550B (zh) | 基于图像处理的智能称重管理系统 | |
CN108983194B (zh) | 一种基于地面监视雷达系统的目标提取及凝聚方法 | |
CN111950476A (zh) | 基于深度学习的复杂环境下河道船舶自动识别方法 | |
CN116862832A (zh) | 一种基于三维实景模型的作业人员定位方法 | |
CN115909285A (zh) | 一种雷达和视频信号融合的车辆跟踪方法 | |
CN113963230A (zh) | 一种基于深度学习的车位检测方法 | |
CN112907634A (zh) | 基于无人机的车辆跟踪方法 | |
CN116229286B (zh) | 一种知识驱动的空间目标态势感知方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20211227 Address after: 908, block a, floor 8, No. 116, Zizhuyuan Road, Haidian District, Beijing 100089 Patentee after: ZHONGZI DATA CO.,LTD. Address before: 710055 Yanta Road 13, Xi'an City, Shaanxi Province Patentee before: XIAN University OF ARCHITECTURE AND TECHNOLOG |