CN102184554A - 基于激活区域背景感知的红外目标跟踪方法 - Google Patents

基于激活区域背景感知的红外目标跟踪方法 Download PDF

Info

Publication number
CN102184554A
CN102184554A CN 201110140912 CN201110140912A CN102184554A CN 102184554 A CN102184554 A CN 102184554A CN 201110140912 CN201110140912 CN 201110140912 CN 201110140912 A CN201110140912 A CN 201110140912A CN 102184554 A CN102184554 A CN 102184554A
Authority
CN
China
Prior art keywords
target
constantly
observation
collection
weights
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN 201110140912
Other languages
English (en)
Other versions
CN102184554B (zh
Inventor
姬红兵
樊振华
杨金龙
李翠芸
刘靳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN 201110140912 priority Critical patent/CN102184554B/zh
Publication of CN102184554A publication Critical patent/CN102184554A/zh
Application granted granted Critical
Publication of CN102184554B publication Critical patent/CN102184554B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种基于激活区域背景感知的红外目标跟踪方法,主要解决现有跟踪技术实时性较差、模板易受干扰影响和缺少有效的跟踪窗自适应调整策略的问题。其实现步骤是:在粒子滤波框架下首先通过建立激活区域,划分出候选目标选取和背景感知的有效区域,利用协方差算子提取表观特征;其次通过激活区域背景感知,分辨目标当前所处的场景状态,并提取目标位置和尺度观测集;最后根据场景状态制定模板更新策略,避免将干扰引入模板,并引入目标位置观测与表观特征融合对候选目标进行筛选,以提高跟踪精度,同时利用目标尺度观测实现跟踪窗的自适应调整。本发明具有较强的抗干扰能力,实现了强杂波干扰环境下对红外目标的快速自适应精确跟踪。

Description

基于激活区域背景感知的红外目标跟踪方法
技术领域
本发明属于制导技术领域,涉及红外目标跟踪,具体地说是一种基于激活区域背景感知的红外目标跟踪方法,可用于红外成像制导、监控等军用或民用系统。
背景技术
红外目标跟踪,由于目标图像细节特征少、信噪比低等特点,一直以来是视频跟踪研究中的热点和难点。其中,细节特征少主要是指红外图像缺少颜色和纹理信息,物体之间的可区分性较低,所以红外目标跟踪比可见光更易受到干扰,尤其是形状类似的发热源带来的干扰更严重。此外,低信噪比又会使得在特征提取过程中参入较多错误信息,影响目标跟踪效果,因此对红外目标跟踪方法的抗干扰能力和跟踪精度提出了更高的要求。
目前,红外目标跟踪方法主要有:全局特征匹配、均值漂移和粒子滤波等。其中:
全局特征匹配方法,仅依靠特征而未利用任何空间信息,对类似物造成的干扰跟踪稳定性差,容易产生“跳变”失跟,且需对全局进行匹配,十分耗时;
均值漂移方法,虽然计算简单,运行速度快,但是因具有局部收敛特性而产生明显的跟踪滞后效应,存在跟踪系统误差,且抗干扰能力较差的问题;
粒子滤波方法,对目标运动非线性和噪声非高斯性的情况,虽然具有良好的跟踪精度和稳定性,但是若仅依靠单一特征也只适用于相对简单的场景,而在复杂环境下,跟踪稳定性则会明显下降。
近年来,有学者提出采用多特征融合的方法来提高目标特征描述的抗干扰性能,如Porikli等人发表的论文《Covariance tracking using model update based on Lie Algebra》。这种方法是利用协方差算子将多个特征融合到一个协方差矩阵中,不仅比联合特征直方图降低了计算复杂度,而且具有较强的目标描述能力,非常适合于解决红外目标跟踪中的抗干扰问题。但是这种方法依然存在以下不足:一是协方差算子的快速方法是针对全局的,严重影响了实时性;二是传统的模板更新方法是根据前一个连续时间段内的估计状态来预测当前帧的模板,当存在干扰时,这种不加区分的更新方法显然会将含有干扰的状态引入模板,从而导致偏离,使得在经过干扰物之后的跟踪精度明显下降,甚至发散;三是缺少有效的跟踪窗自适应方法,不能完全解决径向运动或非刚性形变导致的目标尺度变化问题。
发明内容
针对上述问题,本发明在粒子滤波框架下,采用协方差算子提取表观特征,提出了一种基于激活区域背景感知的红外目标跟踪方法,以提高抗干扰能力,实现强杂波干扰环境下对目标的快速自适应精确跟踪。
实现本发明的技术关键是:在跟踪过程中,通过建立激活区域,划分出候选目标选取和背景感知的有效区域,从而在不降低精度的前提下避免全局所带来的庞大计算量,利用协方差算子提取表观特征;其次,通过激活区域背景感知,分辨目标当前所处的场景状态有无干扰,并提取目标位置和尺度观测集;最后,根据场景状态制定模板更新策略,避免将干扰引入特征模板,并引入目标位置观测与表观特征融合对候选目标进行筛选,以提高跟踪精度,同时利用目标尺度观测实现跟踪窗的自适应调整。
本发明的具体实现方法包括:
(1)初始化步骤:
(1a)根据目标的初始状态,产生k-1时刻的初始样本粒子集其中,i表示样本粒子的序号,N表示样本粒子总数,k表示时刻,初始时刻为k=1,
Figure BDA0000064541270000022
表示k-1时刻第i个粒子的状态估计列向量;
(1b)初始化目标跟踪窗:Bk-1|k-1=(rk-1|k-1,ck-1|k-1)T,其中rk-1|k-1和ck-1|k-1分别表示k-1时刻跟踪窗长和宽的估计值,T表示向量转置;
(1c)初始化特征模板库J=1,其中,j表示特征模板的序号,J表示模板总数,且具有上限J<Jmax,模板库在k时刻的更新位置μk∈[0,Jmax],μ1=2,设场景状态Λ=0,即假设无干扰;
(2)建立激活区域步骤:
(2a)对目标状态进行预测:即通过粒子传递得到预测粒子集
Figure BDA0000064541270000024
Figure BDA0000064541270000025
表示k时刻第i个粒子的状态预测列向量,根据粒子的状态预测列向量和跟踪窗的状态预测列向量Bk-1|k就可以确定出候选目标集
Figure BDA0000064541270000027
其中
Figure BDA0000064541270000028
为候选目标,即表示以第i个粒子
Figure BDA0000064541270000029
为中心、Bk-1|k为长宽所界定出的矩形区域,Bk-1|k=(rk-1|k,ck-1|k)T,rk-1|k和ck-1|k分别表示k时刻跟踪窗长和宽的预测值;
(2b)由候选目标集确定出激活区域AR;
(3)候选目标特征提取步骤:
(3a)设激活区域AR为W×H维灰度图,提取其对应的W×H×d维特征图FAR,其中d表示特征维数;
(3b)在FAR的基础上构造特征向量积分图IP和特征协方差矩阵积分图IQ;
(3c)根据特征向量积分图IP、特征协方差矩阵积分图IQ和候选目标集
Figure BDA0000064541270000031
提取候选目标的特征集
Figure BDA0000064541270000032
其中每个候选目标的特征又是由其分块特征构成的集合
Figure BDA0000064541270000033
t表示候选目标区域分块序号,分块总数为5,
Figure BDA0000064541270000034
表示第i个候选目标的第t个分块所对应的特征协方差矩阵;
(4)激活区域背景感知步骤:
采用迭代Otsu法对激活区域AR进行分割,通过对分割标记图进行计算,得到目标位置观测集尺度观测集
Figure BDA0000064541270000036
和场景状态Λ,其中,l表示疑似目标块的序号,Lk为疑似目标块数,场景状态Λ为1时表示有干扰,为0时表示无干扰,下标center和rc无具体的物理含义,仅表示所属变量分别为位置观测和尺度观测;
(5)计算权值步骤:
(5a)计算特征权值:通过计算模板库中所有元素的Log-Euclidean均值,得到当前k时刻的模板预测值:
Figure BDA0000064541270000037
然后,求取各候选目标特征Ci与模板预测值
Figure BDA0000064541270000038
的距离,进而计算各候选目标的特征权值下标f表示所属变量为特征权值;
(5b)计算空间权值:在无干扰时,去除目标位置观测集
Figure BDA00000645412700000310
中的杂波,得到位置观测量Zk,进而计算各候选目标的空间权值
Figure BDA00000645412700000311
否则,认为位置观测不可信,空间权值均置1,下标p表示所属变量为空间权值;
(5c)特征权值和空间权值进行融合,得到融合权值
Figure BDA00000645412700000312
(6)特征模板更新策略步骤:
根据最大似然准则对模板库进行更新,即用融合权值最大粒子的协方差矩阵Cβ更新模板库中的相应元素
Figure BDA00000645412700000313
再确定下一时刻的更新位置μk+1,其中β为融合权值最大粒子的序号,μk表示k时刻的模板库更新位置;
(7)跟踪窗自适应调整步骤:
(7a)在无干扰时,去除目标尺度观测集中的杂波,得到尺度观测量Zrc
(7b)采用卡尔曼滤波方法对跟踪窗进行自适应调整,估计当前k时刻跟踪窗状态列向量Bk|k,否则,认为尺度观测不可信,跟踪窗保持不变;
(8)目标状态更新步骤:
利用融合权值
Figure BDA00000645412700000315
对预测粒子集
Figure BDA00000645412700000316
进行重采样,得到更新粒子集
Figure BDA00000645412700000317
进而估计当前k时刻的目标状态Xk,再结合跟踪窗状态估计列向量Bk|k,确定出目标的估计范围Target;
(9)输出步骤:
输出目标的估计范围Target,若下一时刻观测信息到达,令k=k+1,转到步骤(2)进行迭代,否则,目标跟踪过程结束。
本发明具有以下优点:
(1)本发明由于利用协方差算子对目标进行描述,融合多特征,充分挖掘该区域特征的方差及互信息,对干扰、光照变化、以及目标形变有较强的鲁棒性;
(2)本发明由于通过建立激活区域以划分出候选目标选取和背景感知的有效区域,从而在不降低精度的前提下避免全局所带来的庞大计算量;
(3)本发明由于通过背景感知以分辨目标当前所处的场景状态有无干扰,进而避免将干扰引入特征模板,并引入目标位置观测与表观特征融合对候选目标进行筛选,从而有效提高了跟踪精度;
(4)本发明由于提取目标尺度观测,并采用卡尔曼滤波方法实现了跟踪窗的自适应精确调整。
附图说明
图1是本发明的整体流程图;
图2是现有积分图中任意矩形区域示意图;
图3是本发明方法中的激活区域示意图;
图4是本发明方法中的目标区域划分示意图;
图5是本发明方法中的激活区域背景感知示意图;
图6是本发明方法的跟踪窗自适应调整实验结果图;
图7是本发明方法的交叉干扰实验结果图;
图8是本发明方法的同向干扰实验结果图;
图9是本发明方法的复杂背景干扰实验结果图;
图10是本发明方法的海面背景实验结果图;
图11是本发明方法的天空背景实验结果图。
具体实施方式
一、基础理论介绍
1.协方差算子
协方差算子,先是提取一个区域内所有像素的底层视觉特征,例如灰度、梯度等,然后计算协方差矩阵,通过协方差矩阵中的对角元素来反映该区域内特征的自相关,非对角元素反应特征间的互相关信息。这种融合机制可充分挖掘和利用现有特征信息,非常适合于红外目标跟踪。设I为W×H维灰度图,F是从I中提取的W×H×d维特征图,所以F中点(x,y)处对应一个d维的特征列向量:
F ( x , y ) = [ I ( x , y ) , ∂ I ( x , y ) ∂ x , ∂ I ( x , y ) ∂ y , ∂ 2 I ( x , y ) ∂ x 2 , ∂ 2 I ( x , y ) ∂ y 2 ] T - - - 1 )
其中,d为特征维数,d=5,I(x,y)为点(x,y)处的灰度值,
Figure BDA0000064541270000053
分别表示点(x,y)处x方向的一阶和二阶梯度,
Figure BDA0000064541270000055
分别表示点(x,y)处y方向的一阶和二阶梯度。
对于任意矩形区域
Figure BDA0000064541270000056
可以用该区域对应的d×d维特征协方差矩阵CR来描述:
C R = 1 n - 1 Σ m = 1 n ( z m - μ ) ( z m - μ ) T - - - 2 )
其中, 表示d维实数列向量,m表示区域内像素的序号,zm为第m个像素所对应的d维特征列向量,n表示区域内像素总数,μ为特征均值列向量,
Figure BDA00000645412700000510
2.积分图
当计算大量区域的协方差矩阵时,由于这些区域通常具有重叠部分,使得同一位置点在计算其隶属不同区域的协方差矩阵时被多次重复统计,造成计算冗余。对于矩形区域的‘累加和’,积分图可以有效减少计算量,其复杂度正比于区域的大小。在得到原图对应的积分图之后,统计积分图内任意矩形区域的时间相同。对于灰度图I,其积分图定义为:
II ( x ′ , y ′ ) = Σ 1 ≤ x ≤ x ′ , 1 ≤ y ≤ y ′ I ( x , y ) - - - 3 )
R为积分图II中任意矩形区域,如图2所示。区域R内所有元素的‘累加和’为:
R(x′,y′;x″,y″)=II(x″,y″)-II(x″,y′)-II(x′,y″)+II(x′,y′)4)
根据式2),协方差矩阵中的元素CR(a,b)定义为:
C R ( a , b ) = 1 n - 1 Σ m = 1 n ( z m ( a ) - μ ( a ) ) ( z m ( b ) - μ ( b ) ) - - - 5 )
将式5)中的μ展开并化简,可得:
C R ( a , b ) = 1 n - 1 [ Σ m = 1 n z m ( a ) z m ( b ) - 1 n Σ m = 1 n z m ( a ) Σ m = 1 n z m ( b ) ] - - - 6 )
可以看出,式6)由
Figure BDA00000645412700000514
Figure BDA00000645412700000515
计算得来,而这两项可通过积分图来快速获取,所以在特征图F的基础之上构造特征向量积分图IP和特征协方差矩阵积分图IQ:
IP ( x ′ , y ′ , a ) = Σ 1 ≤ x ≤ x ′ , 1 ≤ y ≤ y ′ F ( x , y , a ) , a = 1 , L , d - - - 7 )
IQ ( x ′ , y ′ , a , b ) = Σ 1 ≤ x ≤ x ′ , 1 ≤ y ≤ y ′ F ( x , y , a ) F ( x , y , b ) , a , b = 1 , L , d - - - 8 )
对于积分图IP和IQ中的任意一点(x,y),分别为以下形式:
IPx,y=[IP(x,y,1)L  IP(x,y,d)]T    9)
IQ x , y = IQ ( x , y , 1 , 1 ) L IQ ( c , y , 1 , d ) M O M IQ ( x , y , d , 1 ) L IQ ( x , y , d , d ) - - - 10 )
因此,任意区域R(x′,y′;x″,y″)的协方差算子可由下式计算得到:
C R ( x ′ , y ′ ; x ′ ′ , y ′ ′ ) = 1 n - 1 [ IQ x ′ ′ , y ′ ′ - IQ x ′ , y ′ ′ - IQ x ′ ′ , y ′ + IQ x ′ , y ′ ] 11)
- 1 n ( IP x ′ ′ , y ′ ′ - IP x ′ , y ′ ′ - IP x ′ ′ , y ′ + IP x ′ , y ′ ) ( IP x ′ ′ , y ′ ′ - IP x ′ , y ′ ′ - IP x ′ ′ , y ′ + IP x ′ , y ′ ) T ]
其中,n表示区域内像素总数,n=(x″-x′)·(y″-y′)。
二、基于激活区域背景感知的红外目标跟踪方法
参照图1,本发明的具体实施过程包括以下步骤:
步骤1.初始化样本粒子、跟踪窗和特征模板库
1.1)初始化粒子,令初始时刻k=1,首先根据目标的初始状态X0,产生N个样本粒子 其中,i表示样本粒子的序号,
Figure BDA0000064541270000068
表示k-1时刻第i个粒子的状态估计列向量,N(X0,∑)表示以X0为均值∑为方差的高斯分布,X0目标初始位置,∑为过程噪声方差;
1.2)初始化目标跟踪窗:Bk-1|k-1=(rk-1|k-1,ck-1|k-1)T,其中rk-1|k-1和ck-1|k-1分别表示k-1时刻跟踪窗长和宽的估计值,T表示向量转置;
1.3)初始化特征模板库J=1,其中,j表示特征模板的序号,J表示模板总数,且具有上限J<Jmax,模板库在k时刻的更新位置μk∈[0,Jmax],μ1=2,设场景状态Λ=0,即假设无干扰。
步骤2.目标状态预测及激活区域AR的确定
2.1)通过粒子传递得到k时刻粒子的状态预测列向量:
p k - 1 | k i = p k - 1 | k - 1 i + w i - - - 12 )
其中,wi为状态噪声,
Figure BDA00000645412700000611
Figure BDA00000645412700000612
表示以
Figure BDA00000645412700000613
为均值∑为方差的高斯分布,根据粒子的状态预测列向量
Figure BDA00000645412700000614
和跟踪窗的状态预测列向量Bk-1|k就可以确定出候选目标集
Figure BDA00000645412700000615
其中
Figure BDA00000645412700000616
表示以第i个粒子
Figure BDA00000645412700000617
为中心、Bk-1|k为长宽所界定出的矩形区域:
P B k - 1 | k i = { ( x , y ) | | x - υ k - 1 | k i | ≤ r k - 1 | k 2 , | y - ν k - 1 | k i | ≤ c k - 1 | k 2 } - - - 13 )
其中,
Figure BDA0000064541270000072
Figure BDA0000064541270000073
分别表示k时刻预测粒子
Figure BDA0000064541270000074
的横坐标和纵坐标,rk-1|k和ck-1|k分别表示k时刻跟踪窗长和宽的预测值;
2.2)建立激活区域AR
在整幅图像I中,一定存在某个矩形区域Γ,满足
Figure BDA0000064541270000075
即所有候选目标区域的并集为Γ的子集,当Γ取最小值时,如图3中虚线框所围成的矩形区域,即为激活区域AR:
AR = min { Γ | U i = 1 N P B k - 1 | k i ⋐ Γ } - - - 14 )
步骤3.提取候选目标特征
3.1)提取特征图
激活区域AR为W×H维灰度图,FAR是从AR中提取的W×H×d维特征图,所以FAR中点(x,y)处对应一个d维的特征列向量:
F AR ( x , y ) = [ AR ( x , y ) , ∂ AR ( x , y ) ∂ x , ∂ AR ( x , y ) ∂ y , ∂ 2 AR ( x , y ) ∂ x 2 , ∂ 2 AR ( x , y ) ∂ y 2 ] T - - - 15 )
其中,d为特征维数,d=5,AR(x,y)为点(x,y)处的灰度值,
Figure BDA0000064541270000079
分别表示点(x,y)处x方向的一阶和二阶梯度,
Figure BDA00000645412700000710
Figure BDA00000645412700000711
分别表示点(x,y)处y方向的一阶和二阶梯度;
3.2)提取候选目标的协方差算子
构造特征向量积分图IP和特征协方差矩阵积分图IQ,根据候选目标集
Figure BDA00000645412700000712
即可提取各候选目标的特征集
Figure BDA00000645412700000713
作为其表观特征的描述,其中考虑到对目标特征描述的抗局部遮挡性能,将每个候选目标区域分为5个子区域,如图4所示,图4中未被遮挡区域是协方差的统计范围,其中图4(a)为候选目标的整体,图4(b)为候选目标的左半部,图4(c)为候选目标的右半部,图4(d)为候选目标的上半部,图4(e)为候选目标的下半部,根据相应的统计区域得到每个候选目标的特征描述集
Figure BDA00000645412700000714
具体计算过程与上述“基础理论介绍”相同。
步骤4.激活区域背景感知
跟踪背景感知,主要是针对激活区域进行的,参照图5,本步骤的具体实现如下:
4.1)采用迭代Otsu法对激活区域进行目标分割,得到一幅对应的标记图;
4.2)统计标记图中分割块数L′、各分割块的像素个数Ml和对应坐标集
Figure BDA0000064541270000081
其中,l表示分割块的序号,l=1,2,L,L′,m表示分割块内像素的序号,m=1,2,L,Ml
4.3)删除Ml大于像素个数上限Msup或小于像素个数下限Minf的分割块,及其对应坐标集
Figure BDA0000064541270000082
得到疑似目标块的个数:Lk=L′-Ldel,其中Ldel为删除块数;
4.4)提取各疑似目标块的坐标极值:
Figure BDA0000064541270000084
Figure BDA0000064541270000085
Figure BDA0000064541270000086
和块平均像素个数
Figure BDA0000064541270000087
其中,l=1,2,L,Lk
4.5)提取各块的中心坐标:
Figure BDA0000064541270000088
Figure BDA0000064541270000089
构造目标位置观测集为:
Figure BDA00000645412700000810
其中
Figure BDA00000645412700000811
表示向下取整,T表示向量转置,下标center表示所属变量为位置观测;
4.6)提取各块的长参数:
Figure BDA00000645412700000812
和宽参数:构造目标尺度观测集为:
Figure BDA00000645412700000814
其中res为跟踪窗余量,res=10,下标rc表示所属变量为尺度观测;
4.7)根据疑似目标块的个数Lk和块平均像素个数
Figure BDA00000645412700000815
的变化率,修正干扰状态:若Lk<Lk-1
Figure BDA00000645412700000816
且此前Λ=0,则修正干扰状态为有干扰Λ=1;若Lk>Lk-1
Figure BDA00000645412700000817
且此前Λ=1,则修正干扰状态为无干扰Λ=0,其中α为变化率阈值,α=0.7。
步骤5.求取粒子权值
5.1)特征权值
通过计算模板库中所有元素的Log-Euclidean均值,得到当前k时刻模板的各个分量的预测值:
T ‾ t = exp { 1 J Σ j = 1 J log ( T t j ) } , t = 1,2 , L , 5 - - - 16 )
从而构成模板 T ‾ = { T ‾ t } t = 1 5 ;
计算特征权值:
ω f i = 1 2 π R f exp { - ( D f i ) 2 2 R f } - - - 17 )
其中,Rf为特征观测噪声方差,为候选目标与模板各对应块距离融合得到的总体距离:
D f i = min γ [ Σ t = 1 5 ρ ( C t i , T ‾ t ) - ρ ( C γ i , T ‾ γ ) ] - - - 18 )
式18)中协方差矩阵间的距离
Figure BDA0000064541270000092
可计算如下:
ρ ( C t i , T ‾ t ) = ( Σ a = 1 d ln 2 λ a ( C t i , T ‾ t ) ) 1 / 2 - - - 19 )
其中,
Figure BDA0000064541270000094
为协方差矩阵
Figure BDA0000064541270000095
Figure BDA0000064541270000096
的广义特征值:
Figure BDA0000064541270000097
a=1,2,L,d,xa为对应的特征相向量,
Figure BDA0000064541270000098
5.2)空间权值
为了去除位置观测集中的杂波,设k-1时刻目标位置估计值为Xk-1,那么认为在L2范数意义下与上一时刻估计位置Xk-1距离最小的点即为当前k时刻的目标位置观测量:
Z k = Z center θ - - - 20 )
其中,
Figure BDA00000645412700000910
l表示分割块的序号,l=1,2,L,Lk,Lk为疑似目标块的个数;
在有干扰时,认为目标位置观测不可信,将空间权值均置1;在无干扰时,将k时刻第i个预测粒子
Figure BDA00000645412700000911
与目标位置观测量Zk的似然,作为对应粒子的空间权值 ω p i :
ω p i = 1 2 π R p exp { - | | p k - 1 | k i - Z k | | 2 2 2 R p } , Λ = 0 1 , Λ = 1 - - - 21 )
其中,Rp为空间观测噪声方差;
5.3)特征权值
Figure BDA00000645412700000914
和空间权值
Figure BDA00000645412700000915
进行融合,得到融合权值ωi
ω i = ω f i · ω p i - - - 22 )
步骤6.特征模板库的更新策略
6.1)根据最大似然准则对模板库进行更新,即用融合权值最大粒子的协方差矩阵Cβ更新模板库中的相应元素
Figure BDA00000645412700000917
T μ k = C β - - - 23 )
其中,
Figure BDA00000645412700000919
μk表示k时刻的模板库更新位置;
6.2)求取k+1时刻模板库的更新位置μk+1
μ k + 1 = μ k + 1 , μ k ≤ J max - 1 , Λ = 0 1 , μ k = J max , Λ = 0 μ k , Λ = 1 - - - 24 )
步骤7.跟踪窗自适应调整
7.1)在无干扰时,去除目标尺度观测集
Figure BDA00000645412700000921
中的杂波,得到尺度观测量Zrc
Z rc = Z rc λ - - - 25 )
其中,
Figure BDA0000064541270000102
l表示分割块的序号,l=1,2,L,Lk,Lk为疑似目标块的个数;
7.2)采用卡尔曼滤波方法对跟踪窗进行自适应调整,估计当前k时刻跟踪窗状态列向量Bk|k
7.2.1)利用卡尔曼滤波预测方程,得到k时刻跟踪窗状态预测列向量Bk-1|k
Bk-1|k=FrcBk-1|k-1
其中,Bk-1|k-1表示k-1时刻跟踪窗状态估计列向量,Bk-1|k-1=(rk-1|k-1,ck-1|k-1)T,rk-1|k-1和ck-1|k-1分别表示k-1时刻跟踪窗长和宽的估计值,Frc表示状态转移矩阵,Frc=Id,Id表示单位矩阵,即状态转移矩阵Frc取作单位矩阵;
7.2.2)利用卡尔曼滤波更新方程,得到k时刻跟踪窗状态估计列向量Bk|k
B k | k = B k - 1 | k + K rc ( Z rc - B k - 1 | k ) , Λ = 0 B k - 1 | k , Λ = 1 - - - 26 )
其中,Krc表示增益矩阵,计算式如下:
K rc = P rc k - 1 H rc T ( R rc + H rc P rc k - 1 H rc ) - 1 - - - 27 )
其中,Hrc表示观测矩阵,Hrc=Id,Rrc表示观测噪声方差矩阵,Rrc=σId,σ为尺度观测相对误差的放大量,σ=exp{η||Zrc-Bk-1k||2/||Bk-1k||2},η表示放大系数,η=50,
Figure BDA0000064541270000105
表示k-1时刻的状态协方差矩阵,其初始化为
Figure BDA0000064541270000106
迭代式为:
P rc k = ( Id - K rc H rc ) P rc k - 1 + Q rc - - - 28 )
其中,Qrc表示状态噪声方差矩阵。
步骤8.目标状态更新
利用融合权值
Figure BDA0000064541270000108
对粒子进行系统重采样得到更新粒子集
Figure BDA0000064541270000109
进而估计当前帧目标位置:
X k = 1 N Σ i = 1 N p k | k i - - - 29 )
结合当前k时刻目标位置Xk和跟踪窗状态估计列向量Bk|k,确定出目标的估计范围:
T arg et = { ( x , y ) | | x - x k | ≤ r k | k 2 , | y - y k | ≤ c k | k 2 } - - - 30 )
其中,xk和yk分别表示k时刻目标位置Xk的横坐标和纵坐标,rk|k和ck|k分别表示k时刻跟踪窗长和宽的估计值。
步骤9.输出目标的估计范围Target,若下一时刻观测信息到达,令k=k+1,转到步骤2进行迭代,否则,目标跟踪过程结束。
本发明的效果可通过以下实验仿真进一步说明:
1.仿真条件
实验环境:Intel Pentium D CPU 2.8Ghz,1GB内存,Matlab7.4仿真实验平台。实验数据:图6~图8中的数据来自Terravic Research Infrared Database中选取的三组红外视频序列;图9~图11为实测数据。实验中粒子数N=100,过程噪声方差∑=diag([16,16]),特征观测噪声方差Rf=0.1,空间观测噪声方差Rp=0.1,跟踪窗过程噪声方差Qrc=diag([10,10]),模板库元素数量上限Jm=50。
仿真实验中,本发明将与以下两种传统方法进行对比:
方法一:是普通基于协方差算子特征提取并采用传统自适应跟踪窗的粒子滤波跟踪方法,该方法对跟踪窗分别采用95%、100%和105%的3种缩放比例进行动态调整;
方法二:普通基于协方差算子特征提取并采用固定窗的粒子滤波跟踪方法。
2.仿真内容与结果
仿真一:对比本发明和方法一,在目标发生径向运动或非刚性形变时的跟踪性能和跟踪窗自适应调整效果,结果如图6所示,其中图6(a)为用本发明对第1、81、123和150帧的跟踪结果,图6(b)为用现有方法一对第1、81、123和150帧的跟踪结果。
仿真二:对比本发明、方法一和方法二,在目标遭受强杂波干扰情况下的跟踪性能。
交叉干扰情况的跟踪结果如图7所示,其中图7(a)为用本发明对第1、55、73和100帧的跟踪结果,图7(b)为用现有方法一对第1、55、73和100帧的跟踪结果,图7(c)为用现有方法一对第1、55、73和100帧的跟踪结果。
同向干扰情况的跟踪结果如图8所示,其中图8(a)为用本发明对第1、32、115和230帧的跟踪结果,图8(b)为用现有方法一对第1、32、115和230帧的跟踪结果,图8(c)为用现有方法一对第1、32、115和230帧的跟踪结果。
复杂背景干扰情况的跟踪结果如图9所示,其中图9(a)为用本发明对第1、25、40和46帧的跟踪结果,图9(b)为用现有方法一对第1、25、40和46帧的跟踪结果,图9(c)为用现有方法一对第1、25、40和46帧的跟踪结果。
仿真三:对比本发明、方法一和方法二,在海面背景和天空背景情况下的跟踪性能。
海面背景情况的跟踪结果如图10所示,其中图10(a)为用本发明对第1、40、80和100帧的跟踪结果,图10(b)为用现有方法一对第1、40、80和100帧的跟踪结果,图10(c)为用现有方法一对第1、40、80和100帧的跟踪结果。
天空背景情况的跟踪结果如图11所示,其中图11(a)为用本发明对第1、20、34和36帧的跟踪结果,图11(b)为用现有方法一对第1、20、34和36帧的跟踪结果,图11(c)为用现有方法一对第1、20、34和36帧的跟踪结果。
从图6中可以看出,现有方法一对于目标缩小的情况,跟踪框引入了过多的背景;而对于目标变大的情况,跟踪框又不能充分包含目标,跟踪精度明显低于本发明。
从图7、图8和图9中可以看出,现有方法一抗干扰能力较弱,容易误将干扰纳入目标范围,跟踪精度明显低于本发明;现有方法二对尺度基本不变的目标,抗干扰能力较强,但终究不能解决目标尺度变化问题,且跟踪精度仍低于本发明。
从图10和图11中可以看出,三种方法均能实现对目标的跟踪,而本发明的跟踪精度更高。
对图6~图11中的场景分别进行100次蒙特卡罗实验,统计平均跟踪误差Err、平均失跟率TLR及平均每帧运行时间RT,结果如表1所示,表中“——”表示该方法不能进行此项统计。
表1
由表1中的统计数据可以看出:在跟踪误差方面,本发明比方法一至少降低了50%,比方法二至少降低了10%,明显提高了跟踪精度;在失跟率方面,本发明也明显低于方法一和方法二;在运行时间方面,本发明仅为方法一和方法二的10%左右。综上可以得出,本发明在跟踪精度和实时性方面均优于传统方法。

Claims (6)

1.基于激活区域背景感知的红外目标跟踪方法,包括:
(1)初始化步骤:
(1a)根据目标的初始状态,产生k-1时刻的初始样本粒子集
Figure FDA0000064541260000011
其中,i表示样本粒子的序号,N表示样本粒子总数,k表示时刻,初始时刻为k=1,
Figure FDA0000064541260000012
表示k-1时刻第i个粒子的状态估计列向量;
(1b)初始化目标跟踪窗:Bk-1|k-1=(rk-1|k-1,ck-1|k-1)T,其中rk-1|k-1和ck-1|k-1分别表示k-1时刻跟踪窗长和宽的估计值,T表示向量转置;
(1c)初始化特征模板库
Figure FDA0000064541260000013
J=1,其中,j表示特征模板的序号,J表示模板总数,且具有上限J<Jmax,模板库在k时刻的更新位置μk∈[0,Jmax],μ1=2,设场景状态Λ=0,即假设无干扰;
(2)建立激活区域步骤:
(2a)对目标状态进行预测:即通过粒子传递得到预测粒子集
Figure FDA0000064541260000015
表示k时刻第i个粒子的状态预测列向量,根据粒子的状态预测列向量
Figure FDA0000064541260000016
和跟踪窗的状态预测列向量Bk-1|k就可以确定出候选目标集
Figure FDA0000064541260000017
其中
Figure FDA0000064541260000018
为候选目标,即表示以第i个粒子为中心、Bk-1|k为长宽所界定出的矩形区域,Bk-1|k=(rk-1|k,ck-1|k)T,rk-1|k和ck-1|k分别表示k时刻跟踪窗长和宽的预测值;
(2b)由候选目标集确定出激活区域AR;
(3)候选目标特征提取步骤:
(3a)设激活区域AR为W×H维灰度图,提取其对应的W×H×d维特征图FAR,其中d表示特征维数;
(3b)在FAR的基础上构造特征向量积分图IP和特征协方差矩阵积分图IQ;
(3c)根据特征向量积分图IP、特征协方差矩阵积分图IQ和候选目标集
Figure FDA00000645412600000110
提取候选目标的特征集
Figure FDA00000645412600000111
其中每个候选目标的特征又是由其分块特征构成的集合
Figure FDA00000645412600000112
t表示候选目标区域分块序号,分块总数为5,
Figure FDA00000645412600000113
表示第i个候选目标的第t个分块所对应的特征协方差矩阵;
(4)激活区域背景感知步骤:
采用迭代Otsu法对激活区域AR进行分割,通过对分割标记图进行计算,得到目标位置观测集
Figure FDA00000645412600000114
尺度观测集
Figure FDA00000645412600000115
和场景状态Λ,其中,l表示疑似目标块的序号,Lk为疑似目标块数,场景状态Λ为1时表示有干扰,为0时表示无干扰,下标center和rc无具体的物理含义,仅表示所属变量分别为位置观测和尺度观测;
(5)计算权值步骤:
(5a)计算特征权值:通过计算模板库中所有元素的Log-Euclidean均值,得到当前k时刻的模板预测值:
Figure FDA0000064541260000021
然后,求取各候选目标特征Ci与模板预测值
Figure FDA0000064541260000022
的距离,进而计算各候选目标的特征权值
Figure FDA0000064541260000023
下标f表示所属变量为特征权值;
(5b)计算空间权值:在无干扰时,去除目标位置观测集中的杂波,得到位置观测量Zk,进而计算各候选目标的空间权值
Figure FDA0000064541260000025
否则,认为位置观测不可信,空间权值均置1,下标p表示所属变量为空间权值;
(5c)特征权值和空间权值进行融合,得到融合权值
Figure FDA0000064541260000026
(6)特征模板更新策略步骤:
根据最大似然准则对模板库进行更新,即用融合权值最大粒子的协方差矩阵Cβ更新模板库中的相应元素
Figure FDA0000064541260000027
再确定下一时刻的更新位置μk+1,其中β为融合权值最大粒子的序号,μk表示k时刻的模板库更新位置;
(7)跟踪窗自适应调整步骤:
(7a)在无干扰时,去除目标尺度观测集
Figure FDA0000064541260000028
中的杂波,得到尺度观测量Zrc
(7b)采用卡尔曼滤波方法对跟踪窗进行自适应调整,估计当前k时刻跟踪窗状态列向量Bk|k,否则,认为尺度观测不可信,跟踪窗保持不变;
(8)目标状态更新步骤:
利用融合权值
Figure FDA0000064541260000029
对预测粒子集
Figure FDA00000645412600000210
进行重采样,得到更新粒子集
Figure FDA00000645412600000211
进而估计当前k时刻的目标状态Xk,再结合跟踪窗状态估计列向量Bk|k,确定出目标的估计范围Target;
(9)输出步骤:
输出目标的估计范围Target,若下一时刻观测信息到达,令k=k+1,转到步骤(2)进行迭代,否则,目标跟踪过程结束。
2.根据权利要求1所述的目标跟踪方法,其中步骤(2b)所述的由候选目标集确定出激活区域AR,按下式计算得到:
AR = min { Γ | U i = 1 N P B k - 1 | k i ⋐ Γ }
其中,Γ表示整幅图像I中的任意矩形区域,
Figure FDA0000064541260000031
为候选目标,即表示以第i个粒子
Figure FDA0000064541260000032
为中心、Bk-1|k为跟踪窗长宽所界定出的矩形区域,Bk-1|k=(rk-1|k,ck-1|k)T,rk-1|k和ck-1|k分别表示k时刻跟踪窗长和宽的预测值。
3.根据权利要求1所述的目标跟踪方法,其中步骤(4)所述的计算得到目标位置观测集
Figure FDA0000064541260000033
尺度观测集
Figure FDA0000064541260000034
和场景状态Λ,按如下步骤进行:
(4a)统计分割块数L′、各分割块的像素个数Ml和对应坐标集
Figure FDA0000064541260000035
其中,l表示分割块的序号,l=1,2,L,L′,m表示分割块内像素的序号,m=1,2,L,Ml
(4b)删除Ml大于像素个数上限Msup或小于像素个数下限Minf的分割块,及其对应坐标集
Figure FDA0000064541260000036
得到疑似目标块的个数:Lk=L′-Ldel,其中Ldel为删除块数;
(4c)提取各疑似目标块的坐标极值:
Figure FDA0000064541260000037
Figure FDA0000064541260000038
Figure FDA0000064541260000039
和块平均像素个数其中,l=1,2,L,Lk
(4d)提取各块的中心坐标:
Figure FDA00000645412600000312
Figure FDA00000645412600000313
构造目标位置观测集为:
Figure FDA00000645412600000314
其中表示向下取整,T表示向量转置,下标center表示所属变量为位置观测;
(4e)提取各块的长参数:
Figure FDA00000645412600000316
和宽参数:构造目标尺度观测集为:其中res为跟踪窗余量,res=10,下标rc表示所属变量为尺度观测;
(4f)根据疑似目标块的个数Lk和块平均像素个数
Figure FDA00000645412600000319
的变化率,修正干扰状态:
若Lk<Lk-1
Figure FDA00000645412600000320
且此前Λ=0,则修正干扰状态为有干扰Λ=1;
若Lk>Lk-1
Figure FDA00000645412600000321
且此前Λ=1,则修正干扰状态为无干扰Λ=0,其中α为变化率阈值,α=0.7。
4.根据权利要求1所述的目标跟踪方法,其中步骤(5b)所述的计算空间权值,按如下步骤进行:
(5b1)去除目标位置观测集中的杂波,获得目标位置观测量:
Z k = Z center θ
其中,
Figure FDA0000064541260000041
l表示分割块的序号,l=1,2,L,Lk,Lk为疑似目标块的个数,Xk-1为k-1时刻目标位置估计值;
(5b2)在有干扰时,认为目标位置观测不可信,将空间权值均置1;在无干扰时,将k时刻第i个预测粒子与目标位置观测量Zk的似然,作为对应粒子的空间权值
Figure FDA0000064541260000043
ω p i = 1 2 π R p exp { - | | p k - 1 | k i - Z k | | 2 2 2 R p } , Λ = 0 1 , Λ = 1
其中,Rp为空间观测噪声方差。
5.根据权利要求1所述的目标跟踪方法,其中步骤(7a)所述的在无干扰时,去除目标尺度观测集
Figure FDA0000064541260000045
中的杂波,得到尺度观测量Zrc,按下式计算得到:
Z rc = Z rc λ
其中,
Figure FDA0000064541260000047
l表示分割块的序号,l=1,2,L,Lk,Lk为疑似目标块的个数,Bk-1|k=(rk-1|k,ck-1|k)T,rk-1|k和ck-1|k分别表示k时刻跟踪窗长和宽的预测值。
6.根据权利要求1所述的目标跟踪方法,其中步骤(7b)所述的采用卡尔曼滤波方法对跟踪窗进行自适应调整,估计当前k时刻跟踪窗状态列向量Bk|k,按如下步骤进行:
(7b1)利用卡尔曼滤波预测方程,得到k时刻跟踪窗状态预测列向量Bk-1|k
Bk-1|k=FrcBk-1|k-1
其中,Bk-1|k-1表示k-1时刻跟踪窗状态估计列向量,Bk-1|k-1=(rk-1|k-1,ck-1|k-1)T,rk-1|k-1和ck-1|k-1分别表示k-1时刻跟踪窗长和宽的估计值,Frc表示状态转移矩阵,Frc=Id,Id表示单位矩阵,即状态转移矩阵Frc取作单位矩阵;
(7b2)利用卡尔曼滤波更新方程,得到k时刻跟踪窗状态估计列向量Bk|k
B k | k = B k - 1 | k + K rc ( Z rc - B k - 1 | k ) , Λ = 0 B k - 1 | k , Λ = 1
其中,Krc表示增益矩阵,
Figure FDA0000064541260000049
Hrc表示观测矩阵,Hrc=Id,
Figure FDA00000645412600000410
表示k-1时刻的状态协方差矩阵,其初始化为
Figure FDA00000645412600000411
迭代式为
Figure FDA00000645412600000412
Qrc表示状态噪声方差矩阵,Rrc表示观测噪声方差矩阵,Rrc=σId,σ为尺度观测相对误差的放大量,σ=exp{η||Zrc-Bk-1|k||2/||Bk-1k||2},η表示放大系数,η=50。
CN 201110140912 2011-05-28 2011-05-28 基于激活区域背景感知的红外目标跟踪方法 Expired - Fee Related CN102184554B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201110140912 CN102184554B (zh) 2011-05-28 2011-05-28 基于激活区域背景感知的红外目标跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201110140912 CN102184554B (zh) 2011-05-28 2011-05-28 基于激活区域背景感知的红外目标跟踪方法

Publications (2)

Publication Number Publication Date
CN102184554A true CN102184554A (zh) 2011-09-14
CN102184554B CN102184554B (zh) 2012-12-26

Family

ID=44570723

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201110140912 Expired - Fee Related CN102184554B (zh) 2011-05-28 2011-05-28 基于激活区域背景感知的红外目标跟踪方法

Country Status (1)

Country Link
CN (1) CN102184554B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103957360A (zh) * 2014-05-20 2014-07-30 合肥君达高科信息技术有限公司 一种具有高速粒子跟踪拍摄功能的控制方法及其装置
CN103985141A (zh) * 2014-05-28 2014-08-13 西安电子科技大学 基于hsv颜色协方差特征的目标跟踪方法
CN108320302A (zh) * 2018-01-26 2018-07-24 西安电子科技大学 基于随机超曲面的CBMeMBer多目标跟踪方法
CN109146918A (zh) * 2018-06-11 2019-01-04 西安电子科技大学 一种基于分块的自适应相关目标定位方法
CN111721420A (zh) * 2020-04-27 2020-09-29 浙江智物慧云技术有限公司 基于红外阵列时序的半监督人工智能人体检测嵌入式算法
CN113853515A (zh) * 2019-05-30 2021-12-28 松下知识产权经营株式会社 运动物体的应力分析装置
CN114692465A (zh) * 2022-04-15 2022-07-01 石家庄铁道大学 桥梁损伤位置的无损识别方法、存储介质及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070183629A1 (en) * 2006-02-09 2007-08-09 Porikli Fatih M Method for tracking objects in videos using covariance matrices
CN101281648A (zh) * 2008-04-29 2008-10-08 上海交通大学 低复杂度的尺度自适应视频目标跟踪方法
CN101887588A (zh) * 2010-08-04 2010-11-17 中国科学院自动化研究所 一种基于表观分块的遮挡处理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070183629A1 (en) * 2006-02-09 2007-08-09 Porikli Fatih M Method for tracking objects in videos using covariance matrices
CN101281648A (zh) * 2008-04-29 2008-10-08 上海交通大学 低复杂度的尺度自适应视频目标跟踪方法
CN101887588A (zh) * 2010-08-04 2010-11-17 中国科学院自动化研究所 一种基于表观分块的遮挡处理方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
《IEEE Transactions on Pattern Analysis and Machine Intelligence》 20090731 Ming Yang et al. Context-Aware Visual Tracking 全文 1-6 第31卷, 第7期 *
《仪器仪表学报》 20100131 李广伟等 基于改进李群结构的特征协方差目标跟踪 全文 1-6 第31卷, 第1期 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103957360A (zh) * 2014-05-20 2014-07-30 合肥君达高科信息技术有限公司 一种具有高速粒子跟踪拍摄功能的控制方法及其装置
CN103985141A (zh) * 2014-05-28 2014-08-13 西安电子科技大学 基于hsv颜色协方差特征的目标跟踪方法
CN108320302A (zh) * 2018-01-26 2018-07-24 西安电子科技大学 基于随机超曲面的CBMeMBer多目标跟踪方法
CN109146918A (zh) * 2018-06-11 2019-01-04 西安电子科技大学 一种基于分块的自适应相关目标定位方法
CN113853515A (zh) * 2019-05-30 2021-12-28 松下知识产权经营株式会社 运动物体的应力分析装置
CN113853515B (zh) * 2019-05-30 2024-03-19 松下知识产权经营株式会社 运动物体的应力分析装置
CN111721420A (zh) * 2020-04-27 2020-09-29 浙江智物慧云技术有限公司 基于红外阵列时序的半监督人工智能人体检测嵌入式算法
CN114692465A (zh) * 2022-04-15 2022-07-01 石家庄铁道大学 桥梁损伤位置的无损识别方法、存储介质及设备
CN114692465B (zh) * 2022-04-15 2023-09-08 石家庄铁道大学 桥梁损伤位置的无损识别方法、存储介质及设备

Also Published As

Publication number Publication date
CN102184554B (zh) 2012-12-26

Similar Documents

Publication Publication Date Title
CN102184554B (zh) 基于激活区域背景感知的红外目标跟踪方法
CN104915970B (zh) 一种基于轨迹关联的多目标跟踪方法
CN105405151B (zh) 基于粒子滤波和加权Surf的抗遮挡目标跟踪方法
EP2858008B1 (en) Target detecting method and system
US7929730B2 (en) Method and system for object detection and tracking
CN102473307B (zh) 用于轨迹估计的方法和装置以及用于分割的方法
CN104680559B (zh) 基于运动行为模式的多视角室内行人跟踪方法
US7606416B2 (en) Landmark detection apparatus and method for intelligent system
CN107563313A (zh) 基于深度学习的多目标行人检测与跟踪方法
CN104899590A (zh) 一种无人机视觉目标跟随方法及系统
CN103699908B (zh) 基于联合推理的视频多目标跟踪方法
CN103886325B (zh) 一种分块的循环矩阵视频跟踪方法
CN105182311B (zh) 全向雷达数据处理方法及系统
CN105223583A (zh) 一种基于三维激光雷达的目标车辆航向角计算方法
CN104574439A (zh) 一种融合卡尔曼滤波与tld算法的目标跟踪方法
CN104008371A (zh) 一种基于多摄像机的区域可疑目标跟踪与识别方法
CN102567994B (zh) 基于角点高斯特性分析的红外小目标检测方法
CN103679742B (zh) 对象跟踪方法和装置
CN102142085B (zh) 一种林区监控视频中运动火焰目标的鲁棒跟踪方法
CN104346811A (zh) 基于视频图像的目标实时追踪方法及其装置
CN102456226B (zh) 兴趣区域的追踪方法
CN102663775A (zh) 面向低帧率视频的目标跟踪方法
CN103759732A (zh) 一种角度信息辅助的集中式多传感器多假设跟踪方法
CN103247057A (zh) 目标-回波-道路网三元数据关联的道路目标多假设跟踪算法
CN106447698B (zh) 一种基于距离传感器的多行人跟踪方法和系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20121226

Termination date: 20180528