CN108198209B - 在发生遮挡和尺度变化情况下行人跟踪方法 - Google Patents

在发生遮挡和尺度变化情况下行人跟踪方法 Download PDF

Info

Publication number
CN108198209B
CN108198209B CN201711407787.3A CN201711407787A CN108198209B CN 108198209 B CN108198209 B CN 108198209B CN 201711407787 A CN201711407787 A CN 201711407787A CN 108198209 B CN108198209 B CN 108198209B
Authority
CN
China
Prior art keywords
target
shielding
tracking
frame
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201711407787.3A
Other languages
English (en)
Other versions
CN108198209A (zh
Inventor
刘梦娜
陈胜勇
刁琛
程徐
栾昊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tju Binhai Industrial Research Institute Co ltd
Original Assignee
Tianjin University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University of Technology filed Critical Tianjin University of Technology
Priority to CN201711407787.3A priority Critical patent/CN108198209B/zh
Publication of CN108198209A publication Critical patent/CN108198209A/zh
Application granted granted Critical
Publication of CN108198209B publication Critical patent/CN108198209B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Abstract

一种在发生遮挡和尺度变化情况下行人跟踪方法,通过Kalman滤波对目标位置进行预测;将预测结果用于KCF框架,精确定位目标;根据KCF跟踪响应值判断目标是否发生遮挡。发生遮挡时,KCF的跟踪结果无效,滤波器不更新,用Kalman滤波的预测结果进行校准;未发生遮挡时,更新滤波器,同时用滤波器的跟踪结果进行Kalman校准,得到最终的目标位置。该算法在目标发生遮挡或者目标尺度发生变化的情况下可以准确跟踪目标,数据处理速度约为82帧/秒,基本可以满足实时性要求。

Description

在发生遮挡和尺度变化情况下行人跟踪方法
技术领域
本发明属于一张计算机视觉领域,特别涉及一种在发生遮挡和尺度变化情况下行人跟踪方法。
背景技术
目标跟踪是计算机视觉领域一个重要的研究课题,在视频监控、人机交互、机器人、军事制导等领域都有广泛的应用前景。基于图像序列的目标跟踪是在没有任何先验知识的前提下,根据第一帧中给定的目标边框确定目标位置及其运动轨迹。虽然近年来目标跟踪领域取得了快速的发展,但仍然面临着很多挑战:背景干扰、运动模糊、目标形变、光照变化、快速移动、遮挡、低分辨率、旋转和尺度变化等,,这些都会导致目标跟踪过程中发生漂移甚至跟踪失败。其中遮挡和尺度问题是限制目标跟踪方法发展的关键性因素,如何解决方法在目标发生遮挡和尺度变化的情况下跟踪失败已成为目标跟踪领域的一个关键性问题。
目标跟踪方法可以分为生成式跟踪方法和判别式跟踪方法两类。生成式目标跟踪首先要建立目标的表观模型,然后搜索图像中与该模型最相似的区域作为目标。判别式方法是把跟踪问题视为目标与背景的二分类问题,通过机器学习的方法将目标与背景分离开。生成式方法在跟踪过程中仅仅考虑了目标信息,忽略了背景信息,在背景干扰的情况下很容易导致跟踪失败。而判别式目标跟踪则充分利用背景信息,可以很好地克服生目标跟踪方法的缺陷。判别式方法可以分为基于在线Boosting的方法,基于支持向量机的方法、基于随机学习的方法、基于相关滤波的方法以及基于判别分析的方法。2010年相关滤波的引入,使得目标跟踪方法取得了快速的发展。方法在跟踪速度上取得了很大的突破。
发明内容
本发明的目的在于克服上述现有技术中存在的不足,而提供一种在发生遮挡和尺度变化情况下行人跟踪方法,该方法可有效地提高在发生遮挡和尺度变化的情况下对行人进行跟踪的准确性。
为了实现上述目的,本发明的方案是:一种在发生遮挡和尺度变化情况下行人跟踪方法,其特征在于:把核相关滤波作为卡尔曼滤波中的检测方法,根据上一帧中目标的运动趋势预测目标当前的运动状态,然后通过卡尔曼滤波在预测的位置进行目标检测,对检测结果进行遮挡判断,在未发生遮挡的情况下,通过卡尔曼滤波对检测结果进行校准;发生遮挡时,直接对预测结果进行校准。
上述在发生遮挡和尺度变化情况下行人跟踪方法的具体步骤如下:
(1)选择要跟踪的视频序列,其中包括视频序列、groundfruth文本文件和frames文本文件;
(2)通过第一帧信息对相关滤波进行初始化,最小化损失函数求出α=(K+λI)-1y,其中I为单位矩阵,y表示训练样本的标签,K为核矩阵Kij=κ(xi,xj),κ(*,*)为核函数,x为训练样本;
(3)从第二帧开始,通过卡尔曼滤波对目标位置进行预测:
①状态向量预测:
Figure GDA0002146405470000021
其中H(k)为第k帧的状态转移矩阵,初始化为[1,0,1,0;0,1,0,1;0,0,1,0;0,0,0,1],
Figure GDA0002146405470000022
为上一帧矫正结果,初始化为[pos’;0;0],pos为第一帧给定的目标位置;
②状态向量协方差预测:P(k+1|k)=H(k)P(k|k)HT(k)+Q(k),其中P(k|k)为第k帧的状态向量,Q(k)为系统噪音,初始化为四维单位矩阵;
(4)通过核相关滤波计算新一帧的目标位置:
以预测得到的目标位置为初始位置,通过滑动窗口的方式根据尺度因子的设置从图像中提取大量样本,用线性插值的方式将样本调整为滤波器的尺寸,离散傅里叶转换结合相关滤波计算出所有样本的响应值
Figure GDA0002146405470000031
其中
Figure GDA0002146405470000032
z为输入的待检测样本,Pi为循环矩阵P的第i行元素;
Figure GDA0002146405470000033
为傅里叶转换,
Figure GDA0002146405470000034
为傅里叶逆运算;响应值最大的位置作为核相关滤波器跟踪的结果;
(5)判断遮挡:
当最大响应值大于给定的阈值1同时与上一帧的最大响应值的差值小于给定的阈值2,则判定为未发生遮挡,核相关滤波器的跟踪结果有效,更新滤波器;否则,不保留核相关滤波的跟踪结果;
(6)卡尔曼校准:
①计算卡尔曼加权矩阵:
K(k+1)=P(k+1|k)FT(k+1)·(F(k+1)P(k+1|k)FT(k+1)+Λ(k+1)-1)
其中F为测量矩阵,F=[1,0,0,0;0,1,0,0],Λ=[36,0;0,36];
②更新状态向量:
Figure GDA0002146405470000035
其中X=pos’,表示第四步得到的目标位置构造的列向量;
③更新状态向量协方差:
P(k+1|k+1)=(I-K(k+1)F(k+1))P(k+1,k)。
本发明具有如下的优点和有益效果:
1、本发明采用原始KCF方法无论跟踪结果是否准确,都会对滤波器进行更新,从而出现在目标发生遮挡或跟踪发生漂移时,滤波器被错误信息干扰,导致跟踪失败。
2、本发明根据KCF滤波的跟踪结果判断是否发生遮挡,在发生遮挡的情况下,不再更新滤波器,使得滤波器保留正确的目标信息,在发生遮挡时,依靠卡尔曼滤波对目标的运动状态进行预测,在目标重新出现在视野内时,KCF可以继续进行跟踪。
附图说明
图1是本发明跟踪准确率示意图。
具体实施方式
一种在发生遮挡和尺度变化情况下行人跟踪方法,通过Kalman滤波对目标位置进行预测,将预测结果用于KCF框架,精确定位目标;根据KCF跟踪响应值判断目标是否发生遮挡。发生遮挡时,KCF的跟踪结果无效,滤波器不更新,用Kalman滤波的预测结果进行校准;未发生遮挡时,更新滤波器,同时用滤波器的跟踪结果进行Kalman校准,得到最终的目标位置。
其具体步骤如下:
(1)选择要跟踪的视频序列,其中包括视频序列、groundfruth文本文件和frames文本文件;
(2)通过第一帧信息对相关滤波进行初始化,最小化损失函数求出α=(K+λI)-1y,其中I为单位矩阵,y表示训练样本的标签,K为核矩阵Kij=k(xi,xj),κ(*,*)为核函数,x为训练样本;
(3)从第二帧开始,通过卡尔曼滤波对目标位置进行预测:
①状态向量预测:
Figure GDA0002146405470000041
其中H(k)为第k帧的状态转移矩阵,初始化为[1,0,1,0;0,1,0,1;0,0,1,0;0,0,0,1],
Figure GDA0002146405470000042
为上一帧矫正结果,初始化为[pos’;0;0],pos为第一帧给定的目标位置;
②状态向量协方差预测:P(k+1|k)=H(k)P(k|k)HT(k)+Q(k),其中P(k|k)为第k帧的状态向量,Q(k)为系统噪音,初始化为四维单位矩阵;
(4)通过核相关滤波计算新一帧的目标位置:
以预测得到的目标位置为初始位置,通过滑动窗口的方式根据尺度因子的设置从图像中提取大量样本,用线性插值的方式将样本调整为滤波器的尺寸,离散傅里叶转换结合相关滤波计算出所有样本的响应值
Figure GDA0002146405470000051
其中
Figure GDA0002146405470000052
z为输入的待检测样本,Pi为循环矩阵P的第i行元素。
Figure GDA0002146405470000053
为傅里叶转换,
Figure GDA0002146405470000054
为傅里叶逆运算。响应值最大的位置作为核相关滤波器跟踪的结果;
(5)判断遮挡:
当最大响应值大于给定的阈值1同时与上一帧的最大响应值的差值小于给定的阈值2,则判定为未发生遮挡,核相关滤波器的跟踪结果有效,更新滤波器;否则,不保留核相关滤波的跟踪结果。
(6)卡尔曼校准:
①计算卡尔曼加权矩阵:
K(k+1)=P(k+1|k)FT(k+1)·(F(k+1)P(k+1|k)FT(k+1)+Λ(k+1)-1)
其中F为测量矩阵,F=[1,0,0,0;0,1,0,0],Λ=[36,0;0,36];
②更新状态向量:
Figure GDA0002146405470000055
其中X=pos’,表示第四步得到的目标位置构造的列向量;
③更新状态向量协方差:
P(k+1|k+1)=(I-K(k+1)F(k+1))P(k+1,k)。
本发明是一种在发生遮挡和尺度变化情况下仍旧具有鲁棒性的行人跟踪方法,通过建卡尔曼滤波与核相关滤波相结合对行人的运动趋势进行预测-跟踪-校准。先通过卡尔曼滤波进行预测,预测结果作为核相关滤波器的输入,核相关滤波器最大响应值处作为检测结果,再通过卡尔曼滤波对检测结果进行校正。在方法中加入检测遮挡机制,当相邻两帧得到的相关滤波最大响应值相差较大时,判定为遮挡,这种情况下,核相关滤波的跟踪结果失效,直接用卡尔曼滤波的预测值进行校正。
本发明以OTB-50数据集中的图像序列Girl2为例,通过对视频序列每隔10帧截图展示方法的跟踪结果为:
1、在这个过程中目标被遮挡后,本方法根据卡尔曼滤波还是可以精准的估计目标的位置,并在目标重新出现时,准确定位目标。
2、当视频中目标有较明显的形变同时目标的尺度也在发生变化时,本方法配合尺度估计,在目标发生尺度变化时,依旧可以准确跟踪目标。例如目标被行人和台阶遮挡,成功跟踪目标。
3、图1为本方法跟踪准确率图,从图中可以看出,取阈值为20时,跟踪准确率达到90%以上,在阈值为25时,跟踪准确率达100%。
需要说明的是,以上所述仅为本发明优选实施例,仅仅是解释本发明,并非因此限制本发明专利范围。对属于本发明技术构思而仅仅显而易见的改动,同样在本发明保护范围之内。

Claims (1)

1.一种在发生遮挡和尺度变化情况下行人跟踪方法,其特征在于:跟踪方法是:将核相关滤波作为卡尔曼滤波中的检测方法,根据上一帧中目标的运动趋势预测目标当前的运动状态,然后通过卡尔曼滤波在预测的位置进行目标检测,对检测结果进行遮挡判断,在未发生遮挡的情况下,通过卡尔曼滤波对检测结果进行校准;发生遮挡时,直接对预测结果进行校准;
具体步骤如下:
(1)选择要跟踪的视频序列,其中包括视频序列、groundfruth文本文件和frames文本文件;
(2)通过第一帧信息对相关滤波进行初始化,最小化损失函数求出α=(K+λI)-1y,其中I为单位矩阵,y表示训练样本的标签,K为核矩阵Kij=κ(xi,xj),κ(*,*)为核函数,x为训练样本;
(3)从第二帧开始,通过卡尔曼滤波对目标位置进行预测:
①状态向量预测:
Figure FDA0002146405460000011
其中H(k)为第k帧的状态转移矩阵,初始化为[1,0,1,0;0,1,0,1;0,0,1,0;0,0,0,1],
Figure FDA0002146405460000012
为上一帧矫正结果,初始化为[pos’;0;0],pos为第一帧给定的目标位置;
②状态向量协方差预测:P(k+1|k)=H(k)P(k|k)HT(k)+Q(k),其中P(k|k)为第k帧的状态向量,Q(k)为系统噪音,初始化为四维单位矩阵;
(4)通过核相关滤波计算新一帧的目标位置:
以预测得到的目标位置为初始位置,通过滑动窗口的方式根据尺度因子的设置从图像中提取大量样本,用线性插值的方式将样本调整为滤波器的尺寸,离散傅里叶转换结合相关滤波计算出所有样本的响应值
Figure FDA0002146405460000013
其中
Figure FDA0002146405460000014
z为输入的待检测样本,Pi为循环矩阵P的第i行元素;
Figure FDA0002146405460000021
为傅里叶转换,
Figure FDA0002146405460000022
为傅里叶逆运算;响应值最大的位置作为核相关滤波器跟踪的结果;
(5)判断遮挡:
当最大响应值大于给定的阈值1同时与上一帧的最大响应值的差值小于给定的阈值2,则判定为未发生遮挡,核相关滤波器的跟踪结果有效,更新滤波器;否则,不保留核相关滤波的跟踪结果;
(6)卡尔曼校准:
①计算卡尔曼加权矩阵:
K(k+1)=P(k+1|k)FT(k+1)·(F(k+1)P(k+1|k)FT(k+1)+Λ(k+1)-1)
其中F为测量矩阵,F=[1,0,0,0;0,1,0,0],Λ=[36,0;0,36];
②更新状态向量:
Figure FDA0002146405460000023
其中X=pos’,表示第四步得到的目标位置构造的列向量;
③更新状态向量协方差:
P(k+1|k+1)=(I-K(k+1)F(k+1))P(k+1,k)。
CN201711407787.3A 2017-12-22 2017-12-22 在发生遮挡和尺度变化情况下行人跟踪方法 Active CN108198209B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711407787.3A CN108198209B (zh) 2017-12-22 2017-12-22 在发生遮挡和尺度变化情况下行人跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711407787.3A CN108198209B (zh) 2017-12-22 2017-12-22 在发生遮挡和尺度变化情况下行人跟踪方法

Publications (2)

Publication Number Publication Date
CN108198209A CN108198209A (zh) 2018-06-22
CN108198209B true CN108198209B (zh) 2020-05-01

Family

ID=62583366

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711407787.3A Active CN108198209B (zh) 2017-12-22 2017-12-22 在发生遮挡和尺度变化情况下行人跟踪方法

Country Status (1)

Country Link
CN (1) CN108198209B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109242883B (zh) * 2018-08-14 2021-01-05 西安电子科技大学 基于深度sr-kcf滤波的光学遥感视频目标跟踪方法
CN109448027B (zh) * 2018-10-19 2022-03-29 成都睿码科技有限责任公司 一种基于算法融合的自适应、持久的运动目标识别方法
CN109816693A (zh) * 2019-01-28 2019-05-28 中国地质大学(武汉) 基于多峰响应的抗遮挡相关滤波跟踪方法及系统/装置
CN109978923B (zh) * 2019-04-04 2020-12-08 杭州电子科技大学 一种基于双模板尺度自适应相关滤波目标跟踪方法及系统
CN111862164A (zh) * 2019-04-29 2020-10-30 天津理工大学 基于暗通道先验的核相关滤波去雾跟踪算法
CN110189365B (zh) * 2019-05-24 2023-04-07 上海交通大学 抗遮挡相关滤波跟踪方法
CN110717934B (zh) * 2019-10-17 2023-04-28 湖南大学 一种基于strcf的抗遮挡目标跟踪方法
CN111428642A (zh) * 2020-03-24 2020-07-17 厦门市美亚柏科信息股份有限公司 一种多目标跟踪算法、电子装置及计算机可读存储介质
CN111563919B (zh) * 2020-04-03 2023-12-29 深圳市优必选科技股份有限公司 目标跟踪方法、装置、计算机可读存储介质及机器人
CN112581507A (zh) * 2020-12-31 2021-03-30 北京澎思科技有限公司 目标跟踪方法、系统及计算机可读存储介质
CN112927261A (zh) * 2021-03-08 2021-06-08 电子科技大学 一种融合位置预测与相关滤波的目标跟踪方法
CN113012203B (zh) * 2021-04-15 2023-10-20 南京莱斯电子设备有限公司 一种复杂背景下高精度多目标跟踪方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104318211A (zh) * 2014-10-17 2015-01-28 中国传媒大学 一种抗遮挡人脸跟踪方法
CN105830009A (zh) * 2013-12-20 2016-08-03 高通股份有限公司 用于视频帧的显示分割和集群的对象的选择和跟踪
CN106097383A (zh) * 2016-05-30 2016-11-09 海信集团有限公司 一种针对遮挡问题的目标跟踪方法及设备
CN106898015A (zh) * 2017-01-17 2017-06-27 华中科技大学 一种基于自适应子块筛选的多线索视觉跟踪方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105830009A (zh) * 2013-12-20 2016-08-03 高通股份有限公司 用于视频帧的显示分割和集群的对象的选择和跟踪
CN104318211A (zh) * 2014-10-17 2015-01-28 中国传媒大学 一种抗遮挡人脸跟踪方法
CN106097383A (zh) * 2016-05-30 2016-11-09 海信集团有限公司 一种针对遮挡问题的目标跟踪方法及设备
CN106898015A (zh) * 2017-01-17 2017-06-27 华中科技大学 一种基于自适应子块筛选的多线索视觉跟踪方法

Also Published As

Publication number Publication date
CN108198209A (zh) 2018-06-22

Similar Documents

Publication Publication Date Title
CN108198209B (zh) 在发生遮挡和尺度变化情况下行人跟踪方法
CN107330410B (zh) 复杂环境下基于深度学习的异常检测方法
CN106204638B (zh) 一种基于尺度自适应和遮挡处理的航拍目标跟踪方法
CN110569723A (zh) 一种结合特征融合与模型更新的目标跟踪方法
CN111260689B (zh) 一种基于置信度增强的相关滤波视觉跟踪方法
CN110120064B (zh) 一种基于互强化与多注意机制学习的深度相关目标跟踪算法
CN107689052B (zh) 基于多模型融合和结构化深度特征的视觉目标跟踪方法
CN111008991B (zh) 一种背景感知的相关滤波目标跟踪方法
CN111080675B (zh) 一种基于时空约束相关滤波的目标跟踪方法
CN111582349B (zh) 一种基于YOLOv3和核相关滤波改进的目标跟踪算法
CN109035290A (zh) 一种基于高置信度更新补充学习的跟踪算法
Jiao et al. Comparing representations in tracking for event camera-based slam
CN107657627B (zh) 基于人脑记忆机制的时空上下文目标跟踪方法
Chi et al. A novel ELM based adaptive Kalman filter tracking algorithm
CN111598928A (zh) 一种基于具有语义评估和区域建议的突变运动目标跟踪方法
CN108846850B (zh) 一种基于tld算法的目标跟踪方法
CN107368802B (zh) 基于kcf和人脑记忆机制的运动目标跟踪方法
CN111178261A (zh) 一种基于视频编码技术的人脸检测加速方法
CN110660077A (zh) 一种融合多个特征的多尺度目标跟踪方法
Zhang et al. Residual memory inference network for regression tracking with weighted gradient harmonized loss
CN109146928B (zh) 一种梯度阈值判断模型更新的目标跟踪方法
CN111340846A (zh) 一种多特征融合的抗遮挡目标跟踪方法
CN113033356B (zh) 一种尺度自适应的长期相关性目标跟踪方法
CN113470074B (zh) 一种基于分块判别的自适应时空正则化目标跟踪方法
CN110781803B (zh) 一种基于扩展卡尔曼滤波器的人体姿态识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20220617

Address after: 300461 room 214, building 3, No. 48, Jialingjiang Road, Lingang Economic Zone, Binhai New Area, Tianjin

Patentee after: TJU BINHAI INDUSTRIAL RESEARCH INSTITUTE CO.,LTD.

Address before: 300384 No. 391 Binshui West Road, Xiqing District, Tianjin

Patentee before: TIANJIN University OF TECHNOLOGY