CN107609571B - 一种基于lark特征的自适应目标跟踪方法 - Google Patents

一种基于lark特征的自适应目标跟踪方法 Download PDF

Info

Publication number
CN107609571B
CN107609571B CN201710649699.8A CN201710649699A CN107609571B CN 107609571 B CN107609571 B CN 107609571B CN 201710649699 A CN201710649699 A CN 201710649699A CN 107609571 B CN107609571 B CN 107609571B
Authority
CN
China
Prior art keywords
target
matrix
image
lark
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710649699.8A
Other languages
English (en)
Other versions
CN107609571A (zh
Inventor
张毅
王琴
柏连发
韩静
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201710649699.8A priority Critical patent/CN107609571B/zh
Publication of CN107609571A publication Critical patent/CN107609571A/zh
Application granted granted Critical
Publication of CN107609571B publication Critical patent/CN107609571B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明公开一种基于LARK特征的自适应目标跟踪方法;本发明方法利用LARK(Locally Adaptive Regression Kernels)特征对细微、弱小结构变化敏感且能够抗光照、噪声干扰的优势,联合颜色信息和空间结构特征,提出基于全局LARK特征匹配和CAMSHIFT(Continuously Adaptive Mean‑SHIFT)的跟踪框架,记为GLMT,削弱背景干扰,能够进行复杂背景下的目标跟踪。

Description

一种基于LARK特征的自适应目标跟踪方法
技术领域
本发明属于红外及可见光图像目标跟踪领域,具体设计一种基于空间结构特征和灰度信息的目标跟踪方法。
背景技术
近年来,许多目标跟踪算法逐步被提出,Bradski提出的CAMSHIFT算法是以颜色直方图为目标模式的目标跟踪算法,可以有效的解决目标变形和尺寸缩放的问题,且运算效率较高,但其对快速运动的目标以及背景较复杂时跟踪效果不好。在此基础上,许多提出的改进CAMSHIFT跟踪算法在不同程度上提高跟踪的稳定性,但这些算法需要保证目标颜色的独特性,对视频图像的质量要求较高,且比较适合简单背景下的目标跟踪。对于背景较复杂的实际场景,现已经有很多流行的基于在线学习的跟踪算法,压缩跟踪(CT)算法及其改进算法利用在线学习更新分类器和简单的贝叶斯分类器获得目标的最优位置,该算法实时性好,对目标遮挡和外观变化均具有一定的鲁棒性,但跟踪过程中目标窗尺度固定,因此当目标外观变化较快时,其分类器的更新速度明显延迟,容易引起跟踪漂移。基于时空上下文信息进行视觉跟踪的STC算法及其改进算法使用了相关性滤波处理,处理速度非常快,但是其选取较简单的特征得到目标与周围区域的统计相关性,缺少可靠性,且在目标运动过快或被遮挡时也会出现误跟踪。由于红外图像的对比度低、色彩信息匮乏且灰度级动态范围小,使得红外图像的跟踪也成为跟踪研究领域的热点。经典的均值漂移跟踪算法利用目标灰度信息进行目标建模,能够实时的跟踪目标,但易受到相似灰度信息背景干扰,且在跟踪时窗口大小不能随着实际目标大小变化,导致跟踪失败。使用灰度似然比加权核直方图的方法,以及亮度-距离空间下表示红外目标模型的方法来改进经典均值漂移跟踪算法,可以很好地跟踪刚性的红外目标,解决了在复杂背景下目标的表示不够准确的问题,但对于人和动物等非刚性目标的形变会出现跟丢或误跟踪的现象。此外融合SURF特征的均值漂移算法在理想状态下可以解决目标尺度变化的跟踪问题,但在目标较小或纹理单一的情况下,提取的SURF特征点较少或匹配的特征点对数近似为零,导致无法进行跟踪。
为了解决上述问题,本文提供一种一种基于LARK特征的自适应目标跟踪方法。
发明内容
本发明提供一种基于LARK特征的自适应目标跟踪方法,本发明基于特征匹配以及均值漂移理论,研究出了一种基于全局LARK特征匹配和CAMSHIFT的跟踪模型,并提出一种局部LARK特征统计匹配模型,结合图像的彩色或灰度信息,对紧凑型和非紧凑型的目标跟踪都具有很好地鲁棒性。
本发明为解决现有技术问题的技术方案是:首先对模板图像和待处理图像进行LARK特征提取,并做适当的去冗余处理,然后根据本发明提出的局部特征统计匹配方法,结合图像灰度直方图统计概率,有效区分背景和目标,得到目标概率分布图,最后利用MeanShift算法得到准确目标位置和大小。
本发明与现有技术相比,其显著优点为:
1)能有效区分复杂场景下的目标与背景。本发明算法利用的LARK特征对图片中灰度梯度的变化和细微结构的变化较敏感,结合LARK特征匹配和灰度直方图统计,在红外或可见光场景中存在颜色相似物体时,可以得到准确的目标区域。
2)可以跟踪形变较大的非紧凑型目标。目标发生形变时,存在与模板图像相似的局部特征,对相似局部特征统计匹配,可以很好地跟踪到目标。
下面结合附图对本发明作进一步详细叙述。
附图说明
图1是GLMT算法的流程图。
图2是LLSMT算法的流程图。
图3是GLMT算法与其他跟踪算法的实验效果图。
图4是LLSMT算法与GLMT算法和经典CAMSHIFT的实验效果图。
具体实施方式
图1为基于LARK特征匹配和CAMSHIFT的跟踪模型,图2为基于局部LARK特征统计匹配的跟踪模型,本发明提出的一种基于LARK特征的自适应目标跟踪方法具体如下:
步骤一:结合LARK特征匹配和CAMSHIFT算法的跟踪框架
对于场景中存在与目标颜色灰度相似的物体,本发明首先利用颜色特征和LARK结构特征统计匹配,得到待处理图像中目标概率分布图,然后利用Mean Shift迭代搜索概率分布图,可得搜索窗口质心收敛位置和大小作为目标中心和大小,并作为下一帧的初始搜索窗口。为了缩短匹配计算时间,每一帧跟踪处理图像只提取上一帧目标周围2倍大的区域。如图1所示,具体过程如下:
1、首先手动选取跟踪目标作为模板,根据局部核值的计算原理,得到模板图像中每一点的归一化局部核,将其按列排序,即为模板的LARK权值矩阵WQ,如式(1)。
2、提取跟踪目标周围2倍大的区域作为待处理图像;据上述方法计算待处理图像的LARK权值矩阵WT;为了降低特征匹配的计算量,用PCA方法对WQ进行降维,只保留主成分的前d项较明显的特征,其构成一个矩阵接着根据AQ计算模板图像与待处理图像的特征矩阵FQ和FT,计算公式如下:
3、RGB空间转HSV空间,利用H空间分量计算原始概率图;对原始概率图中非零像素处,进行LARK特征匹配,得到结构相似度图,并进行归一化;与原始概率分布图加权融合后得到加权融合目标概率图。
4、对加权融合目标概率图进行自适应均值迭代搜索目标位置;最后循环第二步到第四步,实现跟踪。
步骤二:基于LARK局部特征统计匹配的目标跟踪
在跟踪发生随机形变的非紧凑型目标时,本发明提出将特征整体匹配转化为局部匹配,对局部匹配相似结构的个数统计分析,如图2所示。具体局部特征统计匹配跟踪的过程如下:
1、首先根据其灰度值统计直方图,计算原始概率图。
2、为了避免了模板图像中原有相似结构对统计匹配的影响,将提取的LARK特征矩阵FQ使用余弦相似度量进行去冗余,得到去冗余后的特征矩阵其中n<N。
3、计算FT中每个列向量与FQ‘中每个列向量/>的夹角余弦值,表示这两列向量的相似度,也反映了两列向量所对应局部结构的匹配度,以此建立余弦相似矩阵ρL
4、对矩阵ρL每行取最大值(相当于待处理图像中每个局部结构与模板图像的最大相似度),并在索引矩阵indexL中保存最大值对应的列向量在FQ‘中的位置。
indexL=[x1,x2,…,xM]Tx1,x2,…,xM∈[1,2,…,n] 式(6)
然后设置相似度阈值t2,将ρL′的每个元素与其进行比较,对低于阈值的元素,在indexL中相应位置的索引值设为0,减少一些相似度较低的局部结构干扰。
5、最后选取固定大小的局部窗口遍历indexL矩阵,若原始目标概率图中该窗口位置内非0像素的个数大于某一阈值,统计该窗口内不重复的索引值个数,否则直接记录该窗口内索引值个数为0,构建统计索引值个数的矩阵Rn。将该矩阵的像素归一化后得到统计匹配图,将其与原始概率图加权融合后得到待处理图像中目标概率分布图,可通过自适应均值漂移算法能够准确地搜索目标。
为说明本发明在复杂场景下的目标跟踪,将本发明方法用于场景中存在与目标颜色相似物体的人脸跟踪,并与其他跟踪算法比较,显示本发明方法的有效性,如图3所示。为说明本发明的局部特征统计匹配的跟踪模型比全局特征匹配的跟踪模型更适用于发生形变的非紧凑型目标跟踪,将本发明方法用于一组红外序列的行人跟踪,并与经典的CAMSHIFT算法比较,凸显本发明方法的优越性,如图4所示。

Claims (1)

1.一种基于LARK特征的自适应目标跟踪方法,其特征在于,包括以下步骤:
步骤一:利用颜色特征和LARK结构特征统计匹配方法得到待处理图像中目标概率分布图;所述的颜色特征和LARK结构特征统计匹配方法,包括以下步骤:
1)手动选取跟踪目标作为模板,根据局部核值的计算原理,得到模板图像中每一点的归一化局部核,将其按列排序,即为模板的LARK权值矩阵WQ,如下式所示:
式中wi表示图像中某一点的归一化局部核按列排列的列向量,N为图像中总像素数,P2为局部窗口中像素数;
2)提取跟踪目标周围2倍大的区域作为待处理图像;计算待处理图像的LARK权值矩阵WT;用PCA方法对WQ进行降维,只保留主成分的前d项较明显的特征,其构成一个矩阵接着根据AQ计算模板图像与待处理图像的特征矩阵FQ和FT,计算公式如下式所示:
式中和/>分别代表模板和待处理图像中降维后的特征向量,/>表示矩阵AQ的转置矩阵,N和M分别为模板图像和待处理图像的总像素数;
3)将RGB空间转HSV空间,利用H空间分量计算原始概率图;对原始概率图中非零像素处,进行LARK特征匹配,得到结构相似度图,并进行归一化处理;将其与原始概率分布图加权融合后得到加权融合目标概率图;
4)对加权融合目标概率图进行自适应均值迭代搜索目标位置;最后循环第二步到第四步,实现跟踪;
步骤二:利用Mean Shift算法迭代搜索概率分布图,得到搜索窗口质心收敛位置和大小作为目标中心和大小,并作为下一帧的初始搜索窗口,且每一帧跟踪处理图像只提取上一帧目标周围2倍大的区域;
步骤三,利用基于LARK局部特征统计匹配的目标跟踪方法将特征整体匹配转化为局部特征匹配,对局部匹配相似结构的个数统计分析;所述局部特征匹配包括以下步骤:
1)根据其灰度值统计直方图,计算原始概率图;
2)将提取的LARK特征矩阵FQ使用余弦相似度量进行去冗余,得到去冗余后的特征矩阵,如下式所示:
其中n<N;
式中代表去冗余后的特征向量;
3)计算FT中每个列向量与FQ‘中每个列向量/>的夹角余弦值,并以此建立余弦相似矩阵ρL,如下式所示:
式中ρij为待处理图像特征矩阵FT的第i列与模板目标图像特征矩阵FQ‘的第j列的夹角余弦值,ρ<,>代表夹角余弦值的函数表示;
4)对矩阵ρL每行取最大值,并在索引矩阵indexL中保存最大值对应的列向量在FQ‘中的位置,如下式所示:
indexL=[x1,x2,…,xM]Tx1,x2,…,xM∈[1,2,…,n]
式中代表矩阵ρL第i行的最大值在第ki列,ρL′为所有行的最大值组成的矩阵,xi与ki有相同含义;
之后设置相似度阈值t2,将ρL′的每个元素与其进行比较,对低于阈值的元素,在indexL中相应位置的索引值设为0;
5)选取固定大小的局部窗口遍历indexL矩阵,若原始目标概率图中该窗口位置内非0像素的个数大于某一阈值,统计该窗口内不重复的索引值个数,否则直接记录该窗口内索引值个数为0,构建统计索引值个数的矩阵Rn;将该矩阵的像素归一化后得到统计匹配图,将其与原始概率图加权融合后得到待处理图像中目标概率分布图。
CN201710649699.8A 2017-08-02 2017-08-02 一种基于lark特征的自适应目标跟踪方法 Active CN107609571B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710649699.8A CN107609571B (zh) 2017-08-02 2017-08-02 一种基于lark特征的自适应目标跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710649699.8A CN107609571B (zh) 2017-08-02 2017-08-02 一种基于lark特征的自适应目标跟踪方法

Publications (2)

Publication Number Publication Date
CN107609571A CN107609571A (zh) 2018-01-19
CN107609571B true CN107609571B (zh) 2023-09-05

Family

ID=61064333

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710649699.8A Active CN107609571B (zh) 2017-08-02 2017-08-02 一种基于lark特征的自适应目标跟踪方法

Country Status (1)

Country Link
CN (1) CN107609571B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109472240B (zh) * 2018-11-12 2020-02-28 北京影谱科技股份有限公司 人脸识别多模型自适应特征融合增强方法和装置
CN109740672B (zh) * 2019-01-04 2020-08-04 重庆大学 多流特征距离融合系统与融合方法
CN110009665B (zh) * 2019-03-12 2020-12-29 华中科技大学 一种遮挡环境下的目标检测跟踪方法
CN110322476B (zh) * 2019-06-03 2023-05-26 昆明理工大学 一种改进stc和surf特征联合优化的目标跟踪方法
CN110458045A (zh) * 2019-07-22 2019-11-15 浙江大华技术股份有限公司 响应概率直方图的获取方法、图像处理方法以及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003303346A (ja) * 2002-04-09 2003-10-24 Nippon Telegr & Teleph Corp <Ntt> 目標追跡方法、目標追跡装置、目標追跡プログラム、並びにこのプログラムを記録した記録媒体
CN102737385A (zh) * 2012-04-24 2012-10-17 中山大学 一种基于camshift和卡尔曼滤波的视频目标跟踪方法
CN103679756A (zh) * 2013-12-26 2014-03-26 北京工商大学 基于颜色和形状特征的自动目标跟踪方法及系统
CN104021564A (zh) * 2014-06-26 2014-09-03 广东工业大学 一种基于局部不变特征检测的自适应均值漂移算法
CN104637038A (zh) * 2015-03-11 2015-05-20 天津工业大学 一种基于加权直方图模型的改进CamShift跟踪方法
CN105321189A (zh) * 2015-01-07 2016-02-10 徐州工程学院 基于连续自适应均值漂移多特征融合的复杂环境目标跟踪方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8374388B2 (en) * 2007-12-28 2013-02-12 Rustam Stolkin Real-time tracking of non-rigid objects in image sequences for which the background may be changing
US8559671B2 (en) * 2008-12-18 2013-10-15 The Regents Of The University Of California Training-free generic object detection in 2-D and 3-D using locally adaptive regression kernels
CN104794733B (zh) * 2014-01-20 2018-05-08 株式会社理光 对象跟踪方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003303346A (ja) * 2002-04-09 2003-10-24 Nippon Telegr & Teleph Corp <Ntt> 目標追跡方法、目標追跡装置、目標追跡プログラム、並びにこのプログラムを記録した記録媒体
CN102737385A (zh) * 2012-04-24 2012-10-17 中山大学 一种基于camshift和卡尔曼滤波的视频目标跟踪方法
CN103679756A (zh) * 2013-12-26 2014-03-26 北京工商大学 基于颜色和形状特征的自动目标跟踪方法及系统
CN104021564A (zh) * 2014-06-26 2014-09-03 广东工业大学 一种基于局部不变特征检测的自适应均值漂移算法
CN105321189A (zh) * 2015-01-07 2016-02-10 徐州工程学院 基于连续自适应均值漂移多特征融合的复杂环境目标跟踪方法
CN104637038A (zh) * 2015-03-11 2015-05-20 天津工业大学 一种基于加权直方图模型的改进CamShift跟踪方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
崔议尹."基于三维LARK特征的运动目标检测模型研究".中国优秀硕士学位论文全文数据库 (信息科技辑)》.2017,2017年(第7期),第I138-785页. *

Also Published As

Publication number Publication date
CN107609571A (zh) 2018-01-19

Similar Documents

Publication Publication Date Title
CN107609571B (zh) 一种基于lark特征的自适应目标跟踪方法
Zoidi et al. Visual object tracking based on local steering kernels and color histograms
CN109685045B (zh) 一种运动目标视频跟踪方法及系统
CN109472191B (zh) 一种基于时空上下文的行人重识别与追踪方法
CN109460764B (zh) 一种结合亮度特征与改进帧间差分法的卫星视频船舶监测方法
CN106709472A (zh) 一种基于光流特征的视频目标检测与跟踪方法
CN108009493B (zh) 基于动作增强的人脸防欺骗识别方法
CN111260738A (zh) 基于相关滤波和自适应特征融合的多尺度目标跟踪方法
KR101409810B1 (ko) 파티클 필터를 이용한 움직임 카메라에서의 실시간 객체 추적 방법
CN112270697B (zh) 一种结合超分辨率重建的卫星序列影像运动目标检测方法
CN112329784A (zh) 一种基于时空感知及多峰响应的相关滤波跟踪方法
CN107392211B (zh) 基于视觉稀疏认知的显著目标检测方法
CN112598708A (zh) 一种基于四特征融合和权重系数的高光谱目标跟踪方法
CN116883588A (zh) 一种大场景下的三维点云快速稠密重建方法及系统
Rozumnyi et al. Fmodetect: Robust detection of fast moving objects
Du et al. Spatial–temporal adaptive feature weighted correlation filter for visual tracking
Sokolova et al. Human identification by gait from event-based camera
CN112613565B (zh) 基于多特征融合与自适应学习率更新的抗遮挡跟踪方法
Schulz et al. Object-class segmentation using deep convolutional neural networks
Pan et al. Intrinsic satellite video decomposition with motion target energy constraint
CN113470074B (zh) 一种基于分块判别的自适应时空正则化目标跟踪方法
Liu et al. A Generative Adversarial Network for infrared and visible image fusion using adaptive dense generator and Markovian discriminator
CN115311327A (zh) 融合共现统计与fhog梯度特征的目标跟踪方法及系统
Liu et al. Mean shift fusion color histogram algorithm for nonrigid complex target tracking in sports video
CN110503061B (zh) 一种融合多特征的多因素视频遮挡区域检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant