CN109271952A - 一种基于单镜头的车辆检测与跟踪方法 - Google Patents
一种基于单镜头的车辆检测与跟踪方法 Download PDFInfo
- Publication number
- CN109271952A CN109271952A CN201811142727.8A CN201811142727A CN109271952A CN 109271952 A CN109271952 A CN 109271952A CN 201811142727 A CN201811142727 A CN 201811142727A CN 109271952 A CN109271952 A CN 109271952A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- detection
- tracking
- learning model
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于单镜头的车辆检测与跟踪方法,属于车辆监控技术领域,提出一种自适应学习率的方法。在相关滤波KCF跟踪算法的基础上,使用机器学习和深度学习YOLO v2作为跟踪算法的检测器,实现移动车辆的有效检测和跟踪。在无人机拍摄视频上进行测试,对比改进算法与KCF算法的跟踪性能,验证本发明所提出算法的有效性。通过实验可以看出改进方法在处理航拍视频中车辆姿态变化时,本发明的方法比传统相关滤波跟踪算法有了明显的改善,实验结果表明,所提出的方法在车辆姿态发生各类变化时具有较好的跟踪效果。
Description
技术领域
本发明属于车辆监控技术领域,具体地说,涉及一种基于无人机单镜头航拍的车辆检测与跟踪方法。
背景技术
随着我国城镇化建设的加快、经济社会的发展以及人民生活不断的改善,机动车的保有量越来越多,这给交通安全和管理带来了巨大的压力,对车辆监控的难度和重要性也越来越突出。虽然许多专家学者在该领域做了很多研究工作,但仍然存在许多理论难以在实际复杂场景中应用的问题。
目标检测(Object Detection)一直是计算机视觉领域研究的基本课题,CVPR、ICCV、ICIAP等国际顶级会议专门成立小组以促进该领域的研究。在过去二十几年里,虽有大量的学者对目标检测算法进行研究,提出许多优秀算法,但是由于实际应用场景的复杂性,目前还没有一个方法可以实时的,很好的适用于所有的监控场景。当前视频监控在计算机视觉领域已经取得了一定的成就,但在运动目标检测与跟踪这方面仍然有很多问题待解决。
KCF相关卷积滤波器理论上属于一种密度集抽样检测,过度依赖循环矩阵,对于尺度变换的车辆跟踪效果并不理想,初始化的矩阵不能够根据实际车辆位置自适应改变大小,难以处理相邻两帧车辆位移过大的问题。这些问题都会产生分类器模型的误差累计,最终导致跟踪车辆漂移。
发明内容
本发明的目的在于提出了一种基于单镜头的车辆检测与跟踪方法,在相关滤波器跟踪算法基础上引入车辆检测器方法,将检测的车辆区域和跟踪预测的车辆区域分别与学习模型作ORB特征点匹配,随后计算各区域之间的重叠率来修正当前车辆位置框,其技术方案如下:
一种基于单镜头的车辆检测与跟踪方法,包括以下步骤:
Pd1是检测处第一辆车所在的位置,其他的一样,直到第n辆车;
1)设图像检测出的车辆在图像中的位置是Pd(x,y)={pd1 pd2 … pdn},其中n为检测出的车辆数,预测的位置Pt(x,y),学习模型的位置Pm(x,y)。计算检测车辆与学习模型的距离,取最小最短距离
其中Rmin为学习模型框的最小边长,如果d>0检测车辆成功,反之为失败。
2)计算检测位置、预测位置与学习模型的ORB特征值匹配数Td和Tt,再计算检测位置与学习模型之间的重叠率O,最后根据检测位置Rectd更新最终位置Rectt+1:
Rectt+1=wRectd+(1-w)Rectt
其中w为检测位置所占目标框更新的权重,
3)最后模型的更新策略如下:
其中T为特征匹配的数量阈值,经验值为50,n为跟踪漂移后检测到的车辆数量。
步骤3)中,当B=0时停止更新学习模型,其中第一种情形是检测位置具有高可信度则更新模型,当第一种情形不满足时进入第二种情形,跟踪器具有较高的特征点匹配且重叠率大于0.65,第三种情形是在跟踪器发生漂移后,当检测器检测到与学习模型具有高可信度时继续跟踪,否则停止更新学习模型。
进一步,当丢失的车辆检测到并与学习模型匹配成功后,通过上式中的目标框更新公式继续更新学习模型,将当前位置作为跟踪器的搜寻中心继续跟踪车辆。
本发明的有益效果为:
1)提出将像素点的前景和背景变换频率来修改背景模型的学习率;
2)提出在跟踪过程中将预测位置、检测位置分别与学习模型计算相似度和重叠率,与两者组成权重来更新学习模型以解决形变问题;
3)使用检测出的车辆与学习模型进行特征点匹配,当车辆被遮挡后重新出现时能继续跟踪。
通过实验可以看出改进方法在处理航拍视频中车辆姿态变化时,比传统相关滤波跟踪算法有了明显的改善,实验结果表明,所提出的方法在车辆姿态发生各类变化时具有较好的跟踪效果。
附图说明
图1是自适应学习率改进程序运行界面;
图2是GMM不同学习率下的检测效果;
图3是误差分析曲线图;
图4是学习率运算原理示意图;
图5是频率与学习率映射关系图;
图6是频率与学习率映射效果图;
图7是改进算法对比实验图;
图8是改进算法流程图;
图9是GMS特征匹配效果图;
图10是系统运行界面;
图11是车辆目标初始化;
图12是多目标车辆跟踪计数效果图;
图13是驾校航拍视频的跟踪效果比较;
图14是VOT2016数据库视频跟踪效果比较。
具体实施方式
下面结合附图和具体实施方式对本发明的技术方案作进一步详细地说明。
1自适应学习率改进
1.1理论分析
高斯混合影响背景建模的参数有学习率、方差、高斯个数以及背景阈值等,其中直接决定背景更新速率的参数是学习率,也就是在这小节研究的重点,首先通过实验探讨一下改变学习率对背景建模会产生怎样影响。验证软件界面如图1所示。
实验中学习率分别取为0.001,0.005,0.01,0.015,0.02,0.025六个不同值,因篇幅有限只展示其中几组数值。对应“Fall”视频序列取第1490帧、第2057帧、第3122帧和第3987帧做实验观察学习率对检测的影响。
图2为不同学习率取值的一组检测效果图片,从图1中可以看出随着学习率的增加背景噪声越小,同时车辆目标也出现一定程度的空洞。下面通过背景检测错误率和前景错误率来定量分析学习率的取值。
图3是第1490帧图像在学习率不同取值的曲线图,Fe表示前景检测的误差值,即像素属于前景点被判为背景点。Be表示背景检测的误差值,即像素属于背景点被错误判断为前景点,Score表示该学习率下的检测能力,取值越大综合误差越小,计算方法如下式:
其中,k是常数,取1000调节数量级。从图中可以看出随着学习率的增大,背景检测能力越强,同时目标检测逐渐下降。在区间[0.005,0.020]内,GMM算法检测能力较好,当学习率取0.015时达到最大值。
1.2改进思想
通过上面的分析可以看出学习率对目标检测能力有较大的影响,而高斯混合模型中学习率取常数显然是不合理的。一种好的算法应是学习率在静态背景取相对小的数值,以保证目标检测不会出现空洞,在动态背景中取相对大的数值,以快速适应动态背景的扰动。因此论文提出基于像素点前后背景更换频率来调整学习率的大小。
将新进入的一幅图像与前一帧图像作异或运算,得到一幅二值的图像。在二值图像中若当前像素灰度值为1,则判定像素发生前后背景变化,计数加1,反之则认为没有发生变化,如图4所示。
其中左上角为输入图像,右上角是经过异或运算的图像,左下角是计数各像素点前后背景变化次数的可视化显示,右下角是通过频率计算出的学习率,为了便于显示,将所有数值乘上100倍。
通过可视化,可以很便捷的观察到动态背景和静态背景在图像中的具体位置,因此这里将频率的数值通过式2计算学习率,实现同一幅图像不同学习率的自适应调节:
其中,f是通过频率图像归一化得到,Th和Tl分别是学习率的最大值、最小值,可以根据以往的经验取0.03和0.005。如图5所示,将区间[0,1]上的频率图像映射到区间[0.005,0.03]的学习率。
图6是一组频率大小与学习率的映射图像,其中第二列为频率图像,第三列为学习率。从图中可以看出在动态背景区域的学习率较亮即,取值较大,而在静态背景区域的学习率较暗,即取值较小。因此实验表明基于像素前后背景变化频率调整背景学习率是可行的,实现在不同区域根据背景的扰动程度取不同学习率。下图是改进后的算法跟原高斯混合背景的对比实验。
图7检测图像均为未经过图像后处理,可以看出自适应学习率的改进方法在前景目标检测能力上的提升和对背景噪声的抑制起到一定的作用。
2基于相关滤波的车辆跟踪改进方法
KCF理论上属于一种密度集抽样检测,过度依赖循环矩阵,对于尺度变换的车辆跟踪效果并不理想,初始化的矩阵不能够根据实际车辆位置自适应改变大小,难以处理相邻两帧车辆位移过大的问题。这些问题都会产生分类器模型的误差累计,最终导致跟踪车辆漂移。为此,论文在相关滤波器跟踪算法基础上引入车辆检测器方法,将检测到的车辆区域和跟踪预测的车辆区域分别与学习模型作ORB特征点匹配,以及计算各区域之间的重叠率来修正当前车辆位置框,流程如图8所示。同时,将匹配成功的特征加入学习模型,以便车辆目标遮挡后再次出现时能快速恢复跟踪。
2.1特征点匹配
为满足车辆跟踪实时性的要求,因为ORB特征结合了FAST和BRIEF的速度优点且作了相应改进,采用二进制对256bit描述子τ(p;x,y)进行存储且用汉明距离完成特征匹配,所以本文采用ORB算法对学习模型、预测位置以及检测位置的图片块进行特征提取。
虽然ORB特征满足了旋转不变性和尺度不变性,但是相比SIFT特征、SURF特征匹配还是有很多错误匹配点,因此在这里使用GMS算法来剔除错误的匹配特征对。GMS算法是一种实时性较强的匹配系统,算法基于网格栅格化统计,统计每个网格内运动平滑量进行局部区域的特征匹配,通过“类间均值最大,类内方差最小”原则推导出网格中正确和错误匹配的概率分布,找出最大概率P值。
如图9左边是学习模板中的车辆图像,右图是车辆向前行驶一段距离(间隔10帧后)的图像,分别在两幅图像中创建2000个ORB特征点进行匹配,可以看出GMS匹配后仅保留了95个正确匹配的特征点。
2.2学习模型更新算法
4)设图像检测出的车辆在图像中的位置是Pd(x,y)={pd1 pd2 … pdn},其中n为检测出的车辆数,预测的位置Pt(x,y),学习模型的位置Pm(x,y)。计算检测车辆与学习模型的距离,取最小最短距离
其中Rmin为学习模型框的最小边长,如果d>0检测车辆成功,反之为失败。
5)计算检测位置、预测位置与学习模型的ORB特征值匹配数Td和Tt,再计算检测位置与学习模型之间的重叠率O,最后根据式(6)通过检测位置Rectd更新最终位置Rectt+1:
Rectt+1=wRectd+(1-w)Rectt (6)
其中w为检测位置所占目标框更新的权重,
6)最后模型的更新策略如下:
其中T为特征匹配的数量阈值,经验值为50,n为跟踪漂移后检测到的车辆数量。当B=0时停止更新学习模型,其中第一种情形是检测位置具有高可信度则更新模型,如果不满足第一种情形进入第二种情形,跟踪器具有良好的跟踪效果且重叠率大于0.65,第三种情形是在跟踪器发生漂移后,当检测器检测到与学习模型具有匹配关系,且具有高可信度时继续跟踪,否则停止更新学习模型。
3实验结果分析
本实验硬件环境:CPU Intel Core i7-7700HQ,主频2.8GHz,内存16GB,VisualStudio作为程序开发平台,实验数据为驾校科目二练车的两段航拍视频(DrivingSchool1.avi和Driving School2.avi)以及VOT2016数据库中无人机航拍车辆跟踪遮挡的视频(tc_Carchasing_ce1.avi)。
3.1系统界面
实验采用MFC框架编写窗口界面,如图10展示了对单张图像车辆检测的实验,完成了Haar-like+Adaboost、HOG+SVM以及YOLO v2方法的车辆检测,同时将这些方法融入到移动摄像机车辆跟踪场景,主要完成第一帧车辆目标检测的初始化。
当选择的文件为视频时,程序禁用图像车辆检测按钮且启用固定和移动摄像机场景下的按钮,根据选择的按钮功能和车辆跟踪模式进行单辆车跟踪或多辆车同时跟踪。针对固定摄像机的视频可以选择两种场景进行实验,而无人机航拍视频只适用于移动摄像机场景下的实验,如图11:
最后,在完成车辆检测与跟踪功能实现的同时,实验还附加完成到路口车辆计数功能,见图12。
3.2改进算法实验
为验证学习模型在跟踪过程中是否进行更新,在这里采用学员车辆驾校S型曲线处驾驶时进行测试。学员车辆在转弯前后学习模型的更新过程,在视频第1100帧时,检测器检测到的车辆与学习模型是两张不同姿态的图片,在视频第1400帧时,算法的跟踪器更新了学习模型,这时检测出的车辆与模型之间有匹配的特征点对。
图13展示了两段驾校航拍视频跟踪的效果,第二列图中蓝色框为传统KCF算法跟踪的位置,第三列图中白色框为检测器检测出的车辆位置,橘黄色框(使用的是随机颜色,为了区分不同车辆的跟踪)为改进算法是最终跟踪车辆位置。在视频1第195帧和视频2第125帧时,车辆没有发生较大的尺度变化,两个跟踪框无太大区别;在视频1第1095帧和视频2第1330帧时,因拍摄距离和角度变化,可以看出传统KCF算法跟踪框和初始框相似,不能随着目标车辆发生改变,改进的跟踪方法基本框住目标车辆;在视频1第1540帧和视频2第2161帧时,传统KCF跟踪算法发生漂移,而改进的跟踪算法依旧能较好的对车辆进行跟踪。通过对比可以看出我们提出的改进方法在处理车辆变化取得了良好的跟踪效果。
图14展现在VOT2016数据库视频中遮挡情形的跟踪对比,在140帧时车辆被桥梁遮挡,而改进的方法在173帧时正确跟踪到目标车辆,传统KCF未能跟踪正确,通过对比可以看出我们提出的改进方法在处理车辆发生遮挡情况下取得了良好的跟踪效果。
4小结
在发明首先分析了学习率对混合高斯模型的影响并提出改进方法,实现在动态背景中不同区域的学习率取值自适应,其次将车辆检测和跟踪算法结合起来,提出相应改进方法并完成综合实验。通过实验可以看出改进方法在处理航拍视频中车辆姿态变化时,比传统相关滤波跟踪算法有了明显的改善,实验结果表明,所提出的方法在车辆姿态发生各类变化时具有较好的跟踪效果。
以上所述,仅为本发明较佳的具体实施方式,本发明的保护范围不限于此,任何熟悉本技术领域的技术人员在本发明披露的技术范围内,可显而易见地得到的技术方案的简单变化或等效替换均落入本发明的保护范围内。
Claims (2)
1.一种基于单镜头的车辆检测与跟踪方法,其特征在于,包括以下步骤:
1)设图像检测出的车辆在图像中的位置是Pd(x,y)={pd1 pd2 … pdn},其中n为检测出的车辆数,预测的位置Pt(x,y),学习模型的位置Pm(x,y);计算检测车辆与学习模型的距离,取最小最短距离
其中Rmin为学习模型框的最小边长,如果d>0检测车辆成功,反之为失败;
2)计算检测位置、预测位置与学习模型的ORB特征值匹配数Td和Tt,再计算检测位置与学习模型之间的重叠率O,最后根据式(6)通过检测位置Rectd更新最终位置Rectt+1:
Rectt+1=wRectd+(1-w)Rectt
其中w为检测位置所占目标框更新的权重,
3)最后模型的更新策略如下:
其中T为特征匹配的数量阈值,经验值为50,n为跟踪漂移后检测到的车辆数量。
2.根据权利要求1所述的基于单镜头的车辆检测与跟踪方法,其特征在于,步骤3)中,当B=0时停止更新学习模型,其中第一种情形是检测位置具有高可信度则更新模型,如果不满足第一种情形进入第二种情形,跟踪器具有良好的跟踪效果且重叠率大于0.65,第三种情形是在跟踪器发生漂移后,当检测器检测到与学习模型具有匹配关系,且具有高可信度时继续跟踪,否则停止更新学习模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811142727.8A CN109271952A (zh) | 2018-09-28 | 2018-09-28 | 一种基于单镜头的车辆检测与跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811142727.8A CN109271952A (zh) | 2018-09-28 | 2018-09-28 | 一种基于单镜头的车辆检测与跟踪方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109271952A true CN109271952A (zh) | 2019-01-25 |
Family
ID=65199100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811142727.8A Pending CN109271952A (zh) | 2018-09-28 | 2018-09-28 | 一种基于单镜头的车辆检测与跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109271952A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111275733A (zh) * | 2020-02-27 | 2020-06-12 | 赛特斯信息科技股份有限公司 | 基于深度学习目标检测技术实现多艘船舶快速跟踪处理的方法 |
CN111354023A (zh) * | 2020-03-09 | 2020-06-30 | 中振同辂(江苏)机器人有限公司 | 一种基于摄像头的视觉多目标跟踪方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108564069A (zh) * | 2018-05-04 | 2018-09-21 | 中国石油大学(华东) | 一种工业佩戴安全帽视频检测方法 |
-
2018
- 2018-09-28 CN CN201811142727.8A patent/CN109271952A/zh active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108564069A (zh) * | 2018-05-04 | 2018-09-21 | 中国石油大学(华东) | 一种工业佩戴安全帽视频检测方法 |
Non-Patent Citations (1)
Title |
---|
严晓波等: ""基于ORB特征点匹配的相关滤波器车辆跟踪算法"", 《汽车电子》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111275733A (zh) * | 2020-02-27 | 2020-06-12 | 赛特斯信息科技股份有限公司 | 基于深度学习目标检测技术实现多艘船舶快速跟踪处理的方法 |
CN111354023A (zh) * | 2020-03-09 | 2020-06-30 | 中振同辂(江苏)机器人有限公司 | 一种基于摄像头的视觉多目标跟踪方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105405154B (zh) | 基于颜色-结构特征的目标对象跟踪方法 | |
Jana et al. | YOLO based Detection and Classification of Objects in video records | |
CN102609686B (zh) | 一种行人检测方法 | |
CN108304798B (zh) | 基于深度学习及运动一致性的街面秩序事件视频检测方法 | |
CN108805016B (zh) | 一种头肩区域检测方法及装置 | |
CN102722725B (zh) | 一种基于主动场景学习的对象跟踪方法 | |
CN111553201B (zh) | 一种基于YOLOv3优化算法的交通灯检测方法 | |
CN103455794B (zh) | 一种基于帧融合技术的动态手势识别方法 | |
Shi et al. | Fast and robust vanishing point detection for unstructured road following | |
CN100550039C (zh) | 一种图像特征点定位方法及装置 | |
CN104537673B (zh) | 基于多阈值和自适应模糊聚类的红外图像分割方法 | |
CN106682586A (zh) | 一种复杂光照条件下基于视觉的实时车道线检测的方法 | |
CN103679118A (zh) | 一种人脸活体检测方法及系统 | |
CN102831439A (zh) | 手势跟踪方法及系统 | |
Lee et al. | Place recognition using straight lines for vision-based SLAM | |
CN105389554A (zh) | 基于人脸识别的活体判别方法和设备 | |
CN103971091B (zh) | 飞机机号自动识别方法 | |
CN110298297A (zh) | 火焰识别方法和装置 | |
CN108460790A (zh) | 一种基于一致性预测器模型的视觉跟踪方法 | |
CN103593679A (zh) | 一种基于在线机器学习的视觉人手跟踪方法 | |
CN105930808A (zh) | 一种基于vector boosting模板更新的运动目标跟踪方法 | |
CN106611158A (zh) | 人体3d特征信息的获取方法及设备 | |
CN109993061A (zh) | 一种人脸检测与识别方法、系统以及终端设备 | |
CN103794050A (zh) | 一种实时的交通车辆检测与跟踪方法 | |
CN105740751A (zh) | 一种目标检测与识别的方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190125 |