CN112837342B - 一种目标跟踪方法、终端设备及存储介质 - Google Patents
一种目标跟踪方法、终端设备及存储介质 Download PDFInfo
- Publication number
- CN112837342B CN112837342B CN202110153228.4A CN202110153228A CN112837342B CN 112837342 B CN112837342 B CN 112837342B CN 202110153228 A CN202110153228 A CN 202110153228A CN 112837342 B CN112837342 B CN 112837342B
- Authority
- CN
- China
- Prior art keywords
- target
- image block
- positive
- template
- particle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 239000002245 particle Substances 0.000 claims abstract description 132
- 230000007246 mechanism Effects 0.000 claims abstract description 39
- 238000012216 screening Methods 0.000 claims abstract description 17
- 230000005764 inhibitory process Effects 0.000 claims abstract description 4
- 239000011159 matrix material Substances 0.000 claims description 46
- 238000004422 calculation algorithm Methods 0.000 claims description 26
- 230000008569 process Effects 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 17
- 238000005259 measurement Methods 0.000 claims description 17
- 239000013598 vector Substances 0.000 claims description 16
- 238000000605 extraction Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 13
- 230000001629 suppression Effects 0.000 claims description 10
- 238000001914 filtration Methods 0.000 claims description 6
- 238000010276 construction Methods 0.000 claims description 5
- 238000011524 similarity measure Methods 0.000 claims description 5
- 238000012935 Averaging Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 abstract 1
- 230000008859 change Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000011156 evaluation Methods 0.000 description 11
- 230000000694 effects Effects 0.000 description 9
- 238000002474 experimental method Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000008602 contraction Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种目标跟踪方法、终端设备及存储介质,该方法中包括:对目标模板施加低秩约束,降低背景杂乱的影响;将目标模板与候选图像分别分块处理,构建基于低秩约束的逆向联合稀疏表示的联合稀疏编码模型;引入交替方向乘子法,将目标函数转换为若干个相对简单的子问题求解;通过联合稀疏编码打分,判别式非最大值抑制投票打分和局部纹理特征相似度打分三步评分机制筛选出最优候选粒子,获得最优图像块。本发明可以有效提高跟踪的精确度与成功率,且在遮挡、旋转、运动模糊和背景杂波情况下取得较好的跟踪性能。
Description
技术领域
本发明涉及计算机视觉领域,尤其涉及一种目标跟踪方法、终端设备及存储介质。
背景技术
在计算机视觉领域中,目标跟踪是一个重要的研究问题,在许多领域都有深入的应用,包括视频监控、交通监控、人机交互、军事应用、图像检索等,具有十分广阔的发展前景。尽管目标跟踪在过去的十年中已经取得了很大的进展,由于跟踪过程中场景的多变性,使得跟踪面临各种干扰因素,主要包括局部遮挡、光照强度变化、尺度变化、旋转和背景复杂等,这些干扰因素会试跟踪器产生累积误差,产生跟踪漂移,最终导致跟踪失败。视觉目标跟踪系统的基本框架主要由搜索策略、特征提取和观测模型组成。通过搜索策略获取候选样本,然后进行人工特征和学习特征的特征提取,最后,根据特征判断候选样本是否为跟踪目标的观测模型。
传统的正向稀疏表示的目标跟踪算法以目标模板为字典稀疏表示候选模板。正向稀疏跟踪模型存在如下几方面局限:第一,候选模板数量较大,因此正向稀疏跟踪模型计算量较大;第二,该模型忽略了目标模板之间的时空相似性;第三,该模型只关注候选模板与目标模板的相似性,忽略了背景样本中包含的判别信息;第四,目标模板中包含背景干扰信息。
发明内容
为了解决上述问题,本发明提出了一种目标跟踪方法、终端设备及存储介质。
具体方案如下:
一种目标跟踪方法,包括以下步骤:
S1:根据待跟踪目标,构建目标的正专家模板集;
正专家模板集的构建方法为:采集N个正目标模板,针对每个正目标模板进行分块处理,即通过滑动窗口将其划分为K个局部图像块,将每个局部图像块采用拉列算子vec进行拉列处理,将K个局部图像块拉列处理后的结果作为目标的正专家模板;设定Yk表示N个正专家模板中所有正专家模板的第k个局部图像块的集合,表示第n个正专家模板中第k个局部图像块,n=1,2,...,N,表示正目标模板的序号;设定正专家模板集中第n个正专家模板为PTn,
S3:对目标的正专家模板集中的各正专家模板施加低秩约束后,构建基于低秩约束的逆向联合稀疏表示的联合稀疏编码模型:
其中,表示Yk施加低秩约束后的结果,Dk表示第k个空间视觉子字典,Xk为稀疏编码系数,表示空间稀疏编码矩阵,表示第k个空间视觉子字典Dk对Yk中第n个正专家模板的稀疏编码系数,||Xk||2,1表示空间稀疏编码矩阵Xk的l2,1范数;
S4:引入交替方向乘子法,求解稀疏编码系数Xk;
S5:通过联合稀疏编码打分,判别式非最大值抑制投票打分和局部纹理特征相似度打分三步评分机制筛选出最优粒子;
S6:根据最优粒子进行目标跟踪。
进一步的,步骤S4具体包括以下步骤:
S43:判断t<Iter是否成立,如果是,令t=t+1,返回S42;否则,进入S44;
S44:判断k<K是否成立,如果是,令k=k+1,返回S42;否则,进入S45;
S45:输出稀疏编码系数Xk。
进一步的,通过联合稀疏编码打分筛选的过程包括以下步骤:
S511:通过下式的判定条件初步优选粒子:
||Xk(i,:)||2>τ1
其中,Xk(i,:)表示矩阵Xk的第i行,τ1表示第一阈值;
S514:根据余弦距离打分结果,通过下式的判定条件进一步优选粒子:
其中,τ2表示第二阈值;
S515:将同时满足步骤S511的初步优选条件和步骤S514的进一步优选条件的粒子打1分,其他粒子打0分,从而得到K个大小为M×1的指示向量Ik(k=1,2,...,K);
S516:将获得的K个指示向量Ik组成大小为K×M的矩阵I,并计算每一行的和,将结果组成一个列向量,然后根据下式计算列向量中每个粒子的第一分数分数Score1(i)后,筛选出第一分数不为0的O个粒子S1,S2,...,SO,其中Si(i=1,2,...,O)表示选择的粒子在候选粒子集中的编号:
其中,τ3表示第三阈值τ3,if表示如果条件满足,others表示其他情况。
进一步的,通过判别式非最大值抑制投票进行打分的过程包括以下步骤:
S521:针对通过联合稀疏编码打分筛选得到的O个粒子中的每个粒子,分别通过滑动窗口划分为K个局部图像块,并将每个局部图像块进行拉列处理后,排成大小为O×K的矩阵,矩阵中的元素为:表示第i个粒子Si中的第k个局部图像块;
S522:将每个粒子的每个局部图像块分别与目标的正专家模板集中每个正专家模板的对应位置的局部图像块进行相似度度量;针对每个正专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值加1;
S523:构建目标的负专家模板集,将每个粒子的每个局部图像块分别与目标的负专家模板集中每个负专家模板的对应位置的局部图像块进行相似度度量;针对每个负专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值减1;
S524:将通过的步骤S523得到的最终分数最为每个粒子的第二分数。
进一步的,通过局部纹理特征相似度打分筛选的过程包括以下步骤:
S531:将通过判别式非最大值抑制投票打分筛选的粒子所对应的图像进行LBP纹理特征提取;
S532:根据LBP纹理特征提取后的粒子,计算其与正专家模板集中任一正专家模板的LBP纹理特征的余弦距离;
S533:根据余弦距离计算每个粒子的第三分数和第三权值ω3(Si);
S534:根据每个粒子的第三权值,筛选第三权值ω3(Si)大于第四阈值τ4的粒子。
进一步的,步骤S5包括:根据联合稀疏编码打分、判别式非最大值抑制投票打分和局部纹理特征相似度打分对应的第一权值、第二权值和第三权值计算总权值;根据总权值和粒子滤波算法得到最优粒子。
进一步的,还包括步骤S7:根据步骤S5得到的最优图像块对目标的正专家模板进行更新,具体包括以下步骤:
其中,HOG表示HOG特征直方图;
S702:计算最优图像块与各正专家模板的相似度度量矩阵:
S703:设W(old)表示上一帧的相似度度量矩阵,判断是否成立,如果成立,替换正专家模板集中的每个正专家模板的相应位置的局部图像块,同时更新W(old)(:,k);否则,局部图像块和W(old)(:,k)不更新;
其中,|·|表示求绝对值;W(:,k)表示最优图像块中的第k个局部图像块与正专家模板集中所有正专家模板的相应位置的局部图像块的相似度度量向量;表示对W(:,k)求均值;threshold表示相似度度量阈值。
一种目标跟踪终端设备,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现本发明实施例上述的方法的步骤。
一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现本发明实施例上述的方法的步骤。
本发明采用如上技术方案,可以有效解决目标外观具有较大变化的问题。其主要包括以下几个方面优势:(1)对目标矩阵施加低秩约束,降低背景杂乱对目标的影响,减小漂移;(2)引入包含背景信息的负样本视觉字典进行判别式打分,结合非最大值抑制投票系统提高粒子评价的合理性;(3)引入LBP特征描述目标的纹理特性,进一步提高粒子评分的可靠性;(4)在局部模块更新机制中引入HOG特征,通过计算图像块与目标模板之间的相似度筛选出目标中的有效表观变化信息,降低模板被污染的可能。
附图说明
图1所示为本发明实施例一的流程图。
图2所示为该实施例中正负专家模板集构建过程示意图。
图3所示为该实施例中候选粒子生成过程示意图。
图4所示为该实施例中联合稀疏表示示意图。
图5所示为该实施例中联合稀疏编码模型构建过程示意图。
图6所示为该实施例中指示向量生成过程示意图。
图7所示为该实施例中联合稀疏粒子打分过程示意图。
图8所示为该实施例中判别式打分机制示意图。
图9所示为该实施例中LBP特征提取过程示意图。
图10所示为该实施例中有无低秩约束对比实验效果图。
图11所示为该实施例中有无判别式打分机制对比实验效果图。
图12所示为该实施例中有无LBP特征提取对比实验效果图。
图13所示为该实施例中有无局部模板更新对比实验效果图。
具体实施方式
为进一步说明各实施例,本发明提供有附图。这些附图为本发明揭露内容的一部分,其主要用以说明实施例,并可配合说明书的相关描述来解释实施例的运作原理。配合参考这些内容,本领域普通技术人员应能理解其他可能的实施方式以及本发明的优点。
现结合附图和具体实施方式对本发明进一步说明。
实施例一:
本发明实施例提供了一种目标跟踪方法,如图1所示,包括以下步骤:
S1:根据待跟踪目标,构建目标的正专家模板集。
如图2所示,该实施例中正专家模板集的构建方法为:
在图像中选择目标所在区域作为正目标模板,采集N个正目标模板组成正目标模板集,针对每个正目标模板进行分块处理,即通过p×p的滑动窗口将其划分为K个局部图像块,将每个局部图像块采用拉列算子vec进行拉列处理,将K个局部图像块拉列处理后的结果作为目标的正专家模板。设定Yk表示N个正专家模板中所有正专家模板的第k个局部图像块的集合, 表示第n个正专家模板中第k个局部图像块,n=1,2,...,N,表示正目标模板的序号;设定正专家模板集中第n个正专家模板为PTn,
S2:根据上一帧目标的状态,在新一帧视频图像中通过高斯扰动的方式进撒M个粒子组成候选粒子集,该实施例中产生如图3所示的M个候选粒子p1,p2,...,pM,然后用p×p的滑动窗口将每个粒子划分为K个局部图像块其中,表示第m个粒子中的第k个局部图像块。
S3:对目标的正专家模板集中的各正专家模板施加低秩约束后,构建基于低秩约束的逆向联合稀疏表示的联合稀疏编码模型。
由于在视频中相邻帧之间具有连续性,当前帧与前一帧也具有一定的相似性。因此,通过对目标矩阵施加低秩约束,可以降低背景散乱对目标的影响。该实施例中,对模板采取如下约束:
对Yk做SVD分解,即:
Yk=U∑VT
约束公式是一个典型的矩阵完成问题,可以采用奇异值阈值运算符进行求解得:
其中,Θτ(∑)=sign[vec(∑)]·max(0,|vec(∑)|-τ)是收缩算子,τ是人为设置的阈值。
如图4所示为联合稀疏表示示意图,左边矩阵通过共享特征信息,并进行特征的联合稀疏处理,获得右边具有联合稀疏特性的矩阵,这一过程称为联合稀疏表示。其可以有效消除冗余信息,用少数特征来构建模型。其中,颜色越深的块对应的值越大,最大为1。浅色框选中的块对应无用的特征或异常值,这种异常值也称作离群点,通过联合稀疏约束剔除这些离群点可以减少离群点对稀疏表示的负面影响,从而增强稀疏重构对噪声的鲁棒性。
图5展示了粒子的基于低秩逆向联合稀疏表示的联合稀疏编码建模,其中,稀疏编码系数表示空间稀疏编码矩阵,表示第k个空间视觉子字典对目标的正专家模板Yk中第n个正专家模板的稀疏编码系数。表示第k个空间视觉子字典。
S4:引入交替方向乘子法,求解空间稀疏编码矩阵Xk。
通过引入交替方向乘子法,将目标函数转换为若干个相对简单的子问题求解,通过求局部最优解获得全局最优解。
在迭代过程中,由于不同局部图像块的外观表示模型是独立的,因此定义稀疏编码系数Xk的能量泛函为:
其中,<X,Y>表示计算两个矩阵X,Y的内积,λ表示二次惩罚项的系数,
由于Xk,S和ΛS之间是相互去耦合的,因此可以将上式转化为Xk、S和Λs的子问题分别计算。
对上式关于Xk求偏导并置零,计算得:
(2)S子问题对应的目标函数JS为:
通过构造完全平方公式,可将上式转化为:
其中,上标(t)表示第t次迭代,G(i,:)表示G矩阵的第i行;
采用梯度上升法迭代ΛS:
其中,γ表示学习率。
该实施例中联合稀疏编码系数Xk的求解过程包括以下步骤:
S43:判断t<Iter是否成立,如果是,令t=t+1,返回S42;否则,进入S44;
S44:判断k<K是否成立,如果是,令k=k+1,返回S42;否则,进入S45;
S45:输出稀疏编码系数Xk。
S5:通过联合稀疏编码打分,判别式非最大值抑制投票打分和局部纹理特征相似度打分三步评分机制筛选出最优粒子。
筛选最优粒子的过程,一共包含三个子评分机制,下面介绍三种评分机制。
(1)联合稀疏评价机制
通过联合稀疏编码打分筛选的过程包括以下步骤:
S511:若第i个粒子的编码Xk的第i行系数都比较大,说明这些粒子有可能与目标模板较为相似,因此可根据编码行和初步优选粒子,该实施例中通过下式的判定条件初步优选粒子:
||Xk(i,:)||2>τ1
其中,Xk(i,:)表示矩阵Xk的第i行,τ1表示第一阈值,取值范围为[0,max(||Xk(i,:)||2)]。
S514:根据余弦距离打分结果,通过下式的判定条件进一步优选粒子:
其中,τ2表示第二阈值。
S515:将同时满足步骤S511的初步优选条件和步骤S514的进一步优选条件的粒子打1分,其他粒子打0分,从而得到K个大小为M×1的指示向量Ik(k=1,2,...,K),其过程如图6所示。
S516:将获得的K个指示向量Ik组成大小为K×M的矩阵I,并计算每一行的和,将结果组成一个列向量,然后根据下式计算列向量中每个粒子的第一分数分数Score1(i)后,筛选出第一分数不为0的O个粒子S1,S2,...,SO,其中Si(i=1,2,...,O)表示选择的粒子在候选粒子集中的编号:
其中,τ3表示第三阈值τ3,if表示如果条件满足,others表示其他情况。
则基于联合稀疏评价机制的第一权值ω1(Si)的计算公式为:
图7展示了联合稀疏粒子评价的过程。通过上述粒子评价,淘汰掉大部分稀疏编码较小,且与正模板相似性较小的粒子,从而大幅减小了后续处理的计算量。
(2)判别式专家评价机制
如图8所示,通过判别式非最大值抑制投票进行打分的过程包括以下步骤:
S521:针对通过联合稀疏编码打分筛选得到的O个粒子中的每个粒子,分别通过滑动窗口划分为K个局部图像块,并将每个局部图像块进行拉列处理后,排成大小为O×K的矩阵,矩阵中的元素为:表示第i个粒子Si中的第k个局部图像块。
S522:将每个粒子的每个局部图像块分别与目标的正专家模板集中每个正专家模板的对应位置的局部图像块进行相似度度量;针对每个正专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值加1。
相似度度量的计算公式为:
其中Simik(n,Si)表示粒子Si与模板n的第k个局部图像块的相似度。
S523:构建目标的负专家模板集,将每个粒子的每个局部图像块分别与目标的负专家模板集中每个负专家模板的对应位置的局部图像块进行相似度度量;针对每个负专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值减1。
该实施例中负专家模板集的构建方法与正专家模板集类似,采集的负目标模板为在上一帧中远离目标的区域中随机选取N个负目标模板如图2所示。然后对每个负目标模板进行分块处理和拉列处理。设定表示上一帧中第n个负目标模板的第k个图像局部块。
该实施例中通过直方图统计每个候选粒子与正专家模板和负专家模板的相似程度。
S524:将通过的步骤S523得到的最终分数最为每个粒子的第二分数。
基于判别式专家评价机制的第二权值ω2(i)的计算公式为:
(3)LBP纹理特征评价机制
局部二值模式是一种图像纹理特征,具有灰度和旋转不变性等优点,可以有效地描述图像的纹理特征,而且计算简单,效果较好,具有广泛的应用。
LBP算子提取纹理特征的过程如下:首先将其定义在一个3×3的窗口内,然后将窗口中心像素设置为参考值,周围相邻8个点的灰度值分别与其进行比较,不低于它时,该邻点记为1,否则为0,按逆时针可以读取一个8位二进制数,即该窗口中心像素点的LBP值,并用这个值来反映该图像区域的纹理信息,可由图9表示其过程。
该实施例中通过局部纹理特征相似度打分筛选的过程包括以下步骤:
S533:根据余弦距离计算每个粒子的第三分数Score3(Si)和第三权值ω3(Si)。
S534:根据每个粒子的第三权值,筛选第三权值ω3(Si)大于第四阈值τ4的粒子,即:
其中,第四阈值τ4的取值范围为[0,1]。
通过联合稀疏评价机制可以选取最具联合稀疏性的粒子,通过判别式非最大值抑制投票评价机制可以选取与多模板的空间相似性最高的粒子,通过LBP纹理特征评价机制可以选取与目标模板整体相似性最高的粒子,并且在一定程度上消除光照变化带来的负面影响。通过三步评分机制筛选出的粒子可以应对目标外观变化的影响,达到鲁棒跟踪的效果。
将上面三步求得的ω1,ω2和ω3计算总权值ωf(i),即:
其中,i=1,2,...,O,符号ο表示点乘算子。
上式的推导过程如下:
粒子滤波实质上是一种基于序列蒙特卡罗滤波方法,利用一系列随机抽取的样本的重要性权重来代替状态的后验概率分布。滤波的意义是根据状态方程预估当前状态。可将其概括为以下四个步骤:
1)令其中dx,dy,s,θ,r,这六个仿射参数分别代表水平扰动量,垂直扰动量,缩放比例,旋转角度,高宽比和切边角度。y1:f-1是从开始到第f帧目标所有的观测数据。可以递归表示p(xf|y1:f-1)的第f帧的目标运动状态xf,即:
p(xf|y1:f-1)=∫p(xf|xf-1)p(xf-1|y1:f-1)dxf-1
其中,xf和yf分别表示目标在f时刻的运动状态和目标的观测数据,p(xf|xf-1)表示状态转换模型,可以用仿射参数表示,即:
p(xf|xf-1)=N(xf-1,Ψ)
2)校正阶段:首先采样M个粒子,然后根据下式更新粒子:
然后根据上式计算每个粒子的权值,即:
ωf(i)∝p(yf|xf),i=1,2,...,M
其中,p(yf|xf)是观测模型,表示在xf状态下,候选图像与目标模板之间的似然概率。
然后将上式归一化得:
3)重采样:这个过程是对粒子按照权重进行筛选,即复制高权重粒子并去除低权重粒子。
4)输出:对粒子加权求和,即:
S6:根据最优粒子进行目标跟踪。
由于在目标跟踪过程中,模板更新策略至关重要,显然,不更新模板是无法及时感知模板的表观变化的,而无原则地整体更新模板则会引入无效的表观变化,如:局部遮挡、运动模糊等。目前跟踪算法更新目标模板通常采取遮挡检测和整体更新模板相结合的方式进行模板更新,值得注意的是,当目标被遮挡物局部遮挡、运动模糊等无效的表观变化时,经常是发生在目标的局部区域,而其他区域的变化则很可能是反映目标运动过程中的有效表观变化。
为了将无效表观变化信息与有效表观变化信息加以区分,该实施例中提出了局部模板更新机制,具体的,该实施例中还包括步骤S7:根据步骤S5得到的最优图像块对目标的正专家模板进行更新。
步骤S7具体包括以下步骤:
其中,HOG表示HOG特征直方图,是指将图像首先划分为若干块,然后再将每个块划分为若干个8×8的单元,通过统计每个单元的梯度直方图,将其串联组合起来,得到图像HOG特征直方图。
S702:计算最优图像块Bk与正专家模板集中各正专家模板的相似度度量矩阵:
S703:设W(old)表示上一帧的相似度度量矩阵,判断是否成立,如果成立,表示目标未被遮挡,替换正专家模板集中的每个正专家模板的相应位置的局部图像块,同时更新W(old)(:,k);否则,表明目标可能被局部遮挡,局部图像块和W(old)(:,k)不更新;
其中,|·|表示求绝对值;W(:,k)表示最优图像块中的第k个局部图像块与正专家模板集中所有正专家模板的相应位置的局部图像块的相似度度量向量;表示对W(:,k)求均值;threshold表示相似度度量阈值,取值范围为[0,1]。
实验验证
该实施例中通过四组实验针对算法各个重要功能模块进行验证分析,分别为:有无目标模板低秩约束对实验结果的影响、有无判别式打分机制对于目标跟踪性能的影响、有无LBP纹理特征提取机制对跟踪结果的影响和有无局部模板更新机制对于跟踪的鲁棒性的影响。
(1)低秩约束对比实验
为了验证加入低秩约束是否对跟踪结果有影响,本部分通过对有低秩约束的算法和无低秩约束的算法进行实验,并根据其跟踪结果进行说明。
如图10所示,在第13帧时目标背景无发生变化,代表有低秩约束的跟踪算法的浅色跟踪框和代表无低秩约束算法的深色跟踪框都可以对目标实现较好的跟踪,在第59帧时,目标背景发生变化,深色跟踪框产生了轻微漂移,浅色跟踪框依然可以实现很好的跟踪,在第112帧时,深色跟踪框加大了漂移量,浅色跟踪框对目标实现精准跟踪,在第244帧,目标背景经过几次变化,深色跟踪框以及无法重新捕捉目标,浅色跟踪框对目标跟踪依然准确。
通过上述实验对比说明在对目标矩阵施加低秩约束的情况下,可以有效降低背景对目标信息的影响,减小跟踪漂移。
(2)判别式打分机制对比实验
为了辨别判别式打分机制的有效性,本部分对比了采用判别式打分机制的算法与没有采用判别式打分机制的算法的跟踪结果,如图11所示。
第65帧时,目标尺寸变小,代表无判别式打分机制跟踪算法的深色跟踪框对目标的跟踪产生了偏移,而代表采用判别式打分机制的LRRJST算法的浅色跟踪框可以较准确跟踪目标;在第190和303帧时,目标进行了平面内旋转和平面外旋转,其中,头部、脸部和侧脸发生较大目标外观变化,深色跟踪框无法捕捉到目标,浅色跟踪框依然可以准确跟踪目标;在第456帧,其他人物出现遮挡目标,产生了重叠现象,深色跟踪框受到影响,跟踪错误,而浅色跟踪框没有受其他任务干扰,依然准确跟踪目标。
因此,在尺度变化,旋转和遮挡等情况下,采用判别式打分机制可以很好应对目标外观变化。这说明判别式打分机制在目标外观变化较大情况下可以提高算法的跟踪性能。
(3)LBP纹理特征打分机制对比实验
为了验证提取LBP纹理特征的有效性,本部分比对了有LBP特征提取的算法和无LBP特征提取算法的结果,如图12所示。在第19帧时,目标进行尺度变化,代表无LBP特征提取算法的深色跟踪框产生偏移,而代表有LBP特征提取算法的浅色跟踪框可以精准的跟踪目标;在第27帧时,目标进行旋转,深色跟踪框对目标仍然没有准确跟踪,浅色跟踪框没有受影响,对目标跟踪依然较好;在第39帧时,目标模糊,深色跟踪框已经完全无法捕捉目标,而浅色跟踪框依然可以紧跟目标;在第51帧,目标形变,外观产生了较大变化,浅色跟踪框依然准确跟踪目标。
通过实验比对,采用了LBP纹理特征提取的算法,在尺度变化,旋转,运动模糊,形变都可以实现很好地跟踪,表现出较强的鲁棒性。验证了通过提取LBP特征提取可以提高对算法的鲁棒性能。
(4)有无局部模板更新机制对比实验
为了验证本实施例采用的局部模板更新机制的有效性,本部分通过与没有采用局部模板更新机制的算法进行比对,得出如图13所示的实验结果。
如图13所示,在第84帧时,目标上台阶,代表无局部模板更新算法的深色跟踪框已经有了些许偏移,代表有局部模板更新算法(LRRJST)的浅色跟踪框准确跟踪目标;在123帧时,目标经过第一车辆的后车窗,被大面积遮挡,由于车窗颜色和目标所穿裤子的颜色极其相似,深色跟踪框错误跟踪,由于采用了局部模板机制,浅色跟踪框没有受此影响,准确跟踪;在216帧时,目标的下半身被第二车辆再次遮挡,此时无局部模板更新机的算法的模板已经被“污染”,深色跟踪框已经无法重新捕捉目标,浅色跟踪框依然准确跟踪目标,在268帧时,目标已经经过第二车辆,浅色跟踪框依然没有受遮挡影响,紧跟目标。
因此,采用局部模板更新机制在部分遮挡或者全局遮挡影响目标外观时,本实施例所提出的方法取得良好的跟踪效果。所以采用局部模块更新机制对提高算法性能是有效的。
本发明实施例以候选模板构建视觉子字典逆向联合稀疏表示少量的候选模板,挖掘模板间的目标的相似性,同时对目标模板施加低秩约束,压制背景信息对目标的干扰,引入背景样本作为负模板,构建判别式正负专家评价系统,充分挖掘背景中的判别信息。
实施例二:
本发明还提供一种目标跟踪终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现本发明实施例一的上述方法实施例中的步骤。
进一步地,作为一个可执行方案,所述目标跟踪终端设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述目标跟踪终端设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,上述目标跟踪终端设备的组成结构仅仅是目标跟踪终端设备的示例,并不构成对目标跟踪终端设备的限定,可以包括比上述更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述目标跟踪终端设备还可以包括输入输出设备、网络接入设备、总线等,本发明实施例对此不做限定。
进一步地,作为一个可执行方案,所称处理器可以是中央处理单元(CentralProcessing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器是所述目标跟踪终端设备的控制中心,利用各种接口和线路连接整个目标跟踪终端设备的各个部分。
本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现本发明实施例上述方法的步骤。
所述目标跟踪终端设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)以及软件分发介质等。
尽管结合优选实施方案具体展示和介绍了本发明,但所属领域的技术人员应该明白,在不脱离所附权利要求书所限定的本发明的精神和范围内,在形式上和细节上可以对本发明做出各种变化,均为本发明的保护范围。
Claims (5)
1.一种目标跟踪方法,其特征在于,包括以下步骤:
S1:根据待跟踪目标,构建目标的正专家模板集;
正专家模板集的构建方法为:采集N个正目标模板,针对每个正目标模板进行分块处理,即通过滑动窗口将其划分为K个局部图像块,将每个局部图像块采用拉列算子vec进行拉列处理,将K个局部图像块拉列处理后的结果作为目标的正专家模板;设定Yk表示N个正专家模板中所有正专家模板的第k个局部图像块的集合, 表示第n个正专家模板中第k个局部图像块,n=1,2,...,N,表示正目标模板的序号;设定正专家模板集中第n个正专家模板为PTn,
S3:对目标的正专家模板集中的各正专家模板施加低秩约束后,构建基于低秩约束的逆向联合稀疏表示的联合稀疏编码模型:
其中,表示Yk施加低秩约束后的结果,Dk表示第k个空间视觉子字典,Xk为稀疏编码系数,表示空间稀疏编码矩阵,表示第k个空间视觉子字典Dk对Yk中第n个正专家模板的稀疏编码系数,||Xk||2,1表示空间稀疏编码矩阵Xk的l2,1范数;
S4:引入交替方向乘子法,求解稀疏编码系数Xk;步骤S4具体包括以下步骤:
S43:判断t<Iter是否成立,如果是,令t=t+1,返回S42;否则,进入S44;
S44:判断k<K是否成立,如果是,令k=k+1,返回S42;否则,进入S45;
S45:输出稀疏编码系数Xk;
S5:通过联合稀疏编码打分,判别式非最大值抑制投票打分和局部纹理特征相似度打分三步评分机制筛选出最优粒子;
通过联合稀疏编码打分筛选的过程包括以下步骤:
S511:通过下式的判定条件初步优选粒子:
||Xk(i,:)||2>τ1
其中,Xk(i,:)表示矩阵Xk的第i行,τ1表示第一阈值;
S514:根据余弦距离打分结果,通过下式的判定条件进一步优选粒子:
其中,τ2表示第二阈值;
S515:将同时满足步骤S511的初步优选条件和步骤S514的进一步优选条件的粒子打1分,其他粒子打0分,从而得到K个大小为M×1的指示向量Ik(k=1,2,...,K);
S516:将获得的K个指示向量Ik组成大小为K×M的矩阵I,并计算每一行的和,将结果组成一个列向量,然后根据下式计算列向量中每个粒子的第一分数Score1(i)后,筛选出第一分数不为0的O个粒子S1,S2,...,SO,其中Si(i=1,2,...,O)表示选择的粒子在候选粒子集中的编号:
其中,τ3表示第三阈值τ3,if表示如果条件满足,others表示其他情况;
通过判别式非最大值抑制投票进行打分的过程包括以下步骤:
S521:针对通过联合稀疏编码打分筛选得到的O个粒子中的每个粒子,分别通过滑动窗口划分为K个局部图像块,并将每个局部图像块进行拉列处理后,排成大小为O×K的矩阵,矩阵中的元素为: 表示第i个粒子Si中的第k个局部图像块;
S522:将每个粒子的每个局部图像块分别与目标的正专家模板集中每个正专家模板的对应位置的局部图像块进行相似度度量;针对每个正专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值加1;
S523:构建目标的负专家模板集,将每个粒子的每个局部图像块分别与目标的负专家模板集中每个负专家模板的对应位置的局部图像块进行相似度度量;针对每个负专家模板的每个局部图像块,选取相似度度量最大时对应的粒子,设定该粒子的分值减1;
S524:将通过的步骤S523得到的最终分数最为每个粒子的第二分数;
通过局部纹理特征相似度打分筛选的过程包括以下步骤:
S531:将通过判别式非最大值抑制投票打分筛选的粒子所对应的图像进行LBP纹理特征提取;
S532:根据LBP纹理特征提取后的粒子,计算其与正专家模板集中任一正专家模板的LBP纹理特征的余弦距离;
S533:根据余弦距离计算每个粒子的第三分数和第三权值ω3(Si);
S534:根据每个粒子的第三权值,筛选第三权值ω3(Si)大于第四阈值τ4的粒子;
S6:根据最优粒子进行目标跟踪。
2.根据权利要求1所述的目标跟踪方法,其特征在于:步骤S5包括:根据联合稀疏编码打分、判别式非最大值抑制投票打分和局部纹理特征相似度打分对应的第一权值、第二权值和第三权值计算总权值;根据总权值和粒子滤波算法得到最优粒子。
3.根据权利要求1所述的目标跟踪方法,其特征在于:还包括步骤S7:根据步骤S5得到的最优图像块对目标的正专家模板进行更新,具体包括以下步骤:
其中,HOG表示HOG特征直方图;
S702:计算最优图像块与各正专家模板的相似度度量矩阵:
S703:设W(old)表示上一帧的相似度度量矩阵,判断是否成立,如果成立,替换正专家模板集中的每个正专家模板的相应位置的局部图像块,同时更新W(old)(:,k);否则,局部图像块和W(old)(:,k)不更新;
4.一种目标跟踪终端设备,其特征在于:包括处理器、存储器以及存储在所述存储器中并在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1~3中任一所述方法的步骤。
5.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1~3中任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153228.4A CN112837342B (zh) | 2021-02-04 | 2021-02-04 | 一种目标跟踪方法、终端设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153228.4A CN112837342B (zh) | 2021-02-04 | 2021-02-04 | 一种目标跟踪方法、终端设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112837342A CN112837342A (zh) | 2021-05-25 |
CN112837342B true CN112837342B (zh) | 2023-04-25 |
Family
ID=75932017
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110153228.4A Active CN112837342B (zh) | 2021-02-04 | 2021-02-04 | 一种目标跟踪方法、终端设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112837342B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114782425B (zh) * | 2022-06-17 | 2022-09-02 | 江苏宜臻纺织科技有限公司 | 纺织品生产过程中络筒工艺参数控制方法及人工智能系统 |
CN117409043B (zh) * | 2023-12-14 | 2024-03-12 | 湖南苏科智能科技有限公司 | 一种亚像素级视频目标跟踪方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106874881A (zh) * | 2017-02-23 | 2017-06-20 | 电子科技大学 | 一种多模板时空关联的局部反联合稀疏表示目标跟踪方法 |
CN107341479A (zh) * | 2017-07-11 | 2017-11-10 | 安徽大学 | 一种基于加权稀疏协作模型的目标跟踪方法 |
CN107680120A (zh) * | 2017-09-05 | 2018-02-09 | 南京理工大学 | 基于稀疏表示和转移受限粒子滤波的红外小目标跟踪方法 |
CN108549905A (zh) * | 2018-04-09 | 2018-09-18 | 上海方立数码科技有限公司 | 一种严重遮挡情况下的精准目标跟踪方法 |
CN110189356A (zh) * | 2019-04-24 | 2019-08-30 | 沈阳大学 | 一种反向低秩稀疏约束下的融合Lasso目标跟踪方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9700276B2 (en) * | 2012-02-28 | 2017-07-11 | Siemens Healthcare Gmbh | Robust multi-object tracking using sparse appearance representation and online sparse appearance dictionary update |
US8989442B2 (en) * | 2013-04-12 | 2015-03-24 | Toyota Motor Engineering & Manufacturing North America, Inc. | Robust feature fusion for multi-view object tracking |
-
2021
- 2021-02-04 CN CN202110153228.4A patent/CN112837342B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106874881A (zh) * | 2017-02-23 | 2017-06-20 | 电子科技大学 | 一种多模板时空关联的局部反联合稀疏表示目标跟踪方法 |
CN107341479A (zh) * | 2017-07-11 | 2017-11-10 | 安徽大学 | 一种基于加权稀疏协作模型的目标跟踪方法 |
CN107680120A (zh) * | 2017-09-05 | 2018-02-09 | 南京理工大学 | 基于稀疏表示和转移受限粒子滤波的红外小目标跟踪方法 |
CN108549905A (zh) * | 2018-04-09 | 2018-09-18 | 上海方立数码科技有限公司 | 一种严重遮挡情况下的精准目标跟踪方法 |
CN110189356A (zh) * | 2019-04-24 | 2019-08-30 | 沈阳大学 | 一种反向低秩稀疏约束下的融合Lasso目标跟踪方法 |
Non-Patent Citations (3)
Title |
---|
Meihui Li,Zhenming Peng,Yingpin Chen.A novel reverse sparse model utilizing the spatio-temporal relationship of target templates for object tracking.《Neurocomputing》.2019,全文. * |
宋伟.基于稀疏表示的图像检测与目标跟踪技术的研究.《中国优秀硕士学位论文全文数据库 信息科技辑》.2020,全文. * |
王洪雁 ; 邱贺磊 ; 郑佳 ; 裴炳南 ; .光照变化下基于低秩稀疏表示的视觉跟踪方法.吉林大学学报(工学版).2018,第50卷(第01期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN112837342A (zh) | 2021-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112506342B (zh) | 基于动态手势识别的人机交互方法及系统 | |
Li et al. | Deep convolutional neural network for latent fingerprint enhancement | |
Baldwin et al. | Time-ordered recent event (TORE) volumes for event cameras | |
Zhou et al. | Moving object detection by detecting contiguous outliers in the low-rank representation | |
Mei et al. | Robust multitask multiview tracking in videos | |
CN112669349B (zh) | 一种客流统计方法、电子设备及存储介质 | |
CN107689052B (zh) | 基于多模型融合和结构化深度特征的视觉目标跟踪方法 | |
CN111259366B (zh) | 一种基于自监督学习的验证码识别器的训练方法和装置 | |
CN109685045B (zh) | 一种运动目标视频跟踪方法及系统 | |
CN112837342B (zh) | 一种目标跟踪方法、终端设备及存储介质 | |
CN111080675A (zh) | 一种基于时空约束相关滤波的目标跟踪方法 | |
CN108492312B (zh) | 光照变化下基于逆向稀疏表示的视觉跟踪方法 | |
CN110084201B (zh) | 一种监控场景下基于特定目标跟踪的卷积神经网络的人体动作识别方法 | |
CN109685830B (zh) | 目标跟踪方法、装置和设备及计算机存储介质 | |
Ding et al. | U 2 D 2 Net: Unsupervised unified image dehazing and denoising network for single hazy image enhancement | |
CN113052873A (zh) | 一种在线自监督学习场景适应的单目标跟踪方法 | |
CN111626134A (zh) | 一种基于隐密度分布的密集人群计数方法、系统及终端 | |
CN111402303A (zh) | 一种基于kfstrcf的目标跟踪架构 | |
CN107239827B (zh) | 一种基于人工神经网络的空间信息学习方法 | |
Norouzi et al. | Exploiting uncertainty of deep neural networks for improving segmentation accuracy in MRI images | |
Dutta et al. | Weighted low-rank approximation of matrices and background modeling | |
CN111062291B (zh) | 一种机器人视觉跟踪方法及系统 | |
CN110929731B (zh) | 一种基于探路者智能搜索算法的医疗影像处理方法及装置 | |
Firouznia et al. | Adaptive chaotic sampling particle filter to handle occlusion and fast motion in visual object tracking | |
CN113470074B (zh) | 一种基于分块判别的自适应时空正则化目标跟踪方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |