CN101511022A - 一种机载视频压缩与目标跟踪联合实现方法 - Google Patents

一种机载视频压缩与目标跟踪联合实现方法 Download PDF

Info

Publication number
CN101511022A
CN101511022A CN 200910080382 CN200910080382A CN101511022A CN 101511022 A CN101511022 A CN 101511022A CN 200910080382 CN200910080382 CN 200910080382 CN 200910080382 A CN200910080382 A CN 200910080382A CN 101511022 A CN101511022 A CN 101511022A
Authority
CN
China
Prior art keywords
pixels
block
motion vector
numbering
rightarrow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN 200910080382
Other languages
English (en)
Other versions
CN101511022B (zh
Inventor
丁文锐
姜哲
杨桦
韦志棉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN 200910080382 priority Critical patent/CN101511022B/zh
Publication of CN101511022A publication Critical patent/CN101511022A/zh
Application granted granted Critical
Publication of CN101511022B publication Critical patent/CN101511022B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种机载视频压缩和目标跟踪联合实现方法,该方法利用现有的视频压缩算法,从视频压缩算法中提取中间数据,同时通过计算飞机及云台各项参数得到的全局运动矢量补偿所得数据,得到相对运动矢量。之后对相对运动矢量进行分析计算,找到相对运动矢量权值较大的像素块,确定像素块的位置和形状,进而检测出运动目标所处的图像区域,实现无人机对所获取地面图像中运动目标的实时跟踪。本发明所述的跟踪方法可以在压缩图像的同时实现运动目标跟踪,具有很好的实时性和可靠性,在同时检测多目标时不会出现误检和漏检。并且节省硬件资源,实现简单。

Description

一种机载视频压缩与目标跟踪联合实现方法
技术领域
本发明属于图像工程技术领域,具体涉及一种应用于航空侦察的基于机载视频压缩算法和全局运动补偿的目标跟踪联合实现的方法。
背景技术
空中对地观测的最终目的是得到有用的信息,其主要信息是从图像(包括静止图片和视频)中获取的,在军事上应用图像目的是对各种目标进行持续、实时的情报、监视和侦察(ISR-Information,Surveillance and Reconnaissance),从中获得及时准确的战场信息和精确的定位信息,以捕捉战略打击目标,完成打击效果评估等任务。
空中对地观察过程中,地面或水面的运动目标(如火车、汽车、舰艇等)包含着重要军事价值,是侦察重点,常常需要在飞行过程中对其持续关注。由于运动目标与飞行器同样处于运动状态,时常会因运动超出飞行器图像视野而难于持续捕获。因而空中对地观测跟踪运动目标的关键是如何能够尽快准确检测出运动目标,以调整摄像头云台及飞行参数,实现持续跟踪,以待对目标做出进一步分析与反应。目前传统的运动目标跟踪主要有两种方式:
(1)飞行器回传压缩后的视频图像,由地面控制中心对视频图像进行解码并利用专门的目标识别算法检测出图像中的运动目标,然后由地面控制中心向无人机发送控制指令,调整飞机各项飞行参数及云台设备,以便持续跟踪运动目标;
(2)飞行器上除视频压缩系统外另加一套目标跟踪系统,专用于检测与跟踪运动目标,并在对侦察图像进行场景分析和目标识别后自动调整飞机飞行和云台参数,以保持跟踪或维持定点侦察。
对于第一种方式,由于目标检测与跟踪算法是在地面控制中心实现,因而实时性较差,不能及时对飞机各参数做出调整,同时由于控制指令的发送需要依赖飞机的通信信道,因而受信道状况影响大。而对于第二种方式,虽然在飞机上直接实现了目标检测与跟踪算法,提高了实时性,但同时增加了机上的硬件设备,加大了系统复杂度,降低了其可维护性与可靠性。
目前解决问题的入手点主要是考虑图像压缩与运动目标跟踪同时进行。飞机上的图像压缩处理部分是通过DSP来实现的,而目前常用DSP在实现图像压缩算法时已经满负荷运作,无法在不调整硬件且不影响DSP压缩效率的前提下再运行一套独立的目标检测与跟踪算法。
发明内容
本发明针对无人机侦察方式,利用视频压缩算法中预测算法部分得到的运动估计数据,与飞机飞行和云台运动参数计算得到的全局运动矢量进行运动补偿得到相对运动矢量数据,然后分析判断像素块的相对运动矢量信息,识别出目标运动,进而分割出目标所在区域,在压缩图像的同时实现了对运动目标的获取和跟踪。
本发明所述的机载视频压缩与目标跟踪联合实现方法首先从视频压缩算法中提取中间数据,组成多元集H:
Figure A200910080382D00061
Figure A200910080382D00062
为像素块运动矢量,p(x,y)为像素块位置,S为像素块形状表示数。从机载设备上提取飞行和云台运动参数,组成多元集P:
Figure A200910080382D00063
其中Vuav,Huav为飞机的飞行速度与高度;auav,βuav为飞机的方位角与俯仰角;Vcam为云台相对于飞机运动的速度;γcam,λcam为摄像机的转动角与俯仰角;
Figure A200910080382D00064
为摄像机视场角;I(w,h)为所获视频流的每帧图像的宽和高(以像素为单位);fr为视频流的帧率。通过对多元集P的计算得到全局运动矢量
Figure A200910080382D00065
应用
Figure A200910080382D00066
Figure A200910080382D00067
进行全局运动补偿,得到相对运动矢量 d → = d → all - d → g .
对多元集H中p(x,y)和S进行分析,对像素块进行编号并与相对运动矢量相对应,所有的像素块编号组成集合C,通过对集合C中的像素块的运动矢量进行分析判断,提取运动目标的信息,找到运动矢量的权值M(n)大于设定门限值T的像素块编号,并组成集合C′,根据像素块的位置和形状信息,计算运动目标的位置、轮廓、运动状态,实现了在压缩图像的同时获取和跟踪目标。
本发明的机载视频压缩与目标跟踪联合实现方法具体步骤为:
第一步,从视频压缩算法的运动参数估计部分提取中间数据,组成多元集H:
Figure A200910080382D00069
从机载设备上提取飞行和云台运动参数,组成多元集P:
Figure A200910080382D000610
所述的中间数据包括像素块的运动矢量、位置和形状信息,其中运动矢量满足最小准则关系提取;
第二步,通过提取的第一步中的多元集P,计算出全局运动矢量
Figure A200910080382D000611
对从压缩算法中运动参数估计部分提取的像素块运动矢量
Figure A200910080382D000612
进行运动补偿,得到相对运动矢量
Figure A200910080382D000613
d → = d → all - d → g 之后对像素块进行编号组成集合C,得到 C = ( d → ( n ) , p n ( x , y ) , S n ) ;
所述的运动补偿将对由飞机飞行和云台运动(包括转动、俯仰等)引起的运动矢量
Figure A200910080382D000616
进行补偿,以确保补偿后含有目标的像素块的相对运动矢量远大于仅含有背景的像素块的相对运动矢量;所述的编号由三部分构成,第一部分为像素块对应的相对运动矢量
Figure A200910080382D000617
第二部分为像素块的位置信息——像素块坐标pn(x,y),第三部分为像素块的形状表示数Sn,提取的像素块编号组成集合C,n表示当前像素块为第n个像素块。
第三步,通过矢量分析判断提取包括运动目标的像素块编号集合C′;
首先计算出当前像素块的相对运动矢量
Figure A200910080382D0006123647QIETU
的权值大小M(n),设定门限值T,将M(n)与门限值T比较,将M(n)大于T的相对运动矢量
Figure A200910080382D00071
的所在像素块对应的编号,组成一个编号集合C′,集合C′为集合C的一个子集。
第四步,判断编号在集合C′中的各个像素块间的关系,确定运动目标位置、轮廓及运动状态,实现实时获取和跟踪运动目标;
本发明的优点在于:
(1)实时性高:在视频压缩编码的同时实现对运动目标的检测与跟踪。
(2)实现简单:该方法利用视频压缩算法中产生的中间数据进行分析计算,所需的运动补偿参数可以直接从机载设备上实时获得,不需添加额外的硬件设备,所需要的硬件资源少。
(3)可靠性强:该方法可以在无人机上同时实现图像压缩和跟踪,不需要依靠易受环境影响的无人机信道,保证了系统运行的高可靠性与高稳定性。
(4)支持多目标识别:该方法通过运动补偿的方法,使目标运动矢量得以凸显出来,在处理区域内包含多目标时不会出现遗漏和误判。
附图说明
图1是本发明的运动目标跟踪方法流程图;
图2是本发明的运动矢量计算的说明图;
图3是本发明的航空侦察及全局运动矢量示意图;
图4是本发明的获得像素块相对运动矢量的流程图;
图5是H.264视频压缩算法中的图像块划分模式图示;
图6是本发明的运动矢量分析法提取运动目标所在像素块信息的流程图;
图7是本发明的根据运动矢量信息实现获取和跟踪目标的流程图。
具体实施方式
下面将结合附图对本发明作进一步的详细说明。
本发明是一种机载视频压缩与目标跟踪联合实现方法。该方法利用现有的视频压缩算法,从视频压缩算法中提取中间数据,同时通过对飞机飞行和云台运动参数的计算得到运动补偿参数对像素块运动矢量进行补偿,然后通过对所获数据的进一步分析计算,找到相对运动矢量权值较大的像素块,根据像素块的位置和形状确定图像边界,进而检测出运动目标所处的图像区域,实现无人机对所获取地面图像中运动目标的实时跟踪。
本发明所述的机载视频压缩与目标跟踪联合实现方法,流程如图1所示,具体步骤如下:
第一步,从视频压缩算法的运动参数估计部分提取中间数据,组成多元集H:
Figure A200910080382D00072
其中
Figure A200910080382D00073
为像素块运动矢量,p(x,y)为像素块位置,S为像素块形状表示数。
从机载设备上提取飞行和云台运动参数,组成多元集P:
Figure A200910080382D00081
其中Vuav,Huav为飞机的飞行速度与高度;αuav,βuav为飞机的方位角与俯仰角;Vcam为云台相对于飞机运动的速度;γcam,λcam为摄像机的转动角与俯仰角;
Figure A200910080382D00082
为摄像机视场角;I(w,h)为所获视频流的每帧图像的宽和高(以像素为单位);fr为视频流的帧率。
所述的中间数据是从含有预测算法的视频压缩算法中提取的,所述的视频压缩算法可以是MPEG-4、H.264等。在预测算法进行帧间预测过程中,运动参数估计部分对运动目标的运动矢量进行计算,计算出图像各个宏块(由同一帧图像分割出的像素块)或子宏块(由同一宏块分割出的像素块)的运动矢量,所述的“帧”为视频流中的一幅完整图像;“运动矢量”为前后两幅图像中相匹配像素块的相对偏移量。
第二步,通过第一步中提取的多元集P,计算出全局运动矢量从压缩算法中运动参数估计部分提取的像素块运动矢量
Figure A200910080382D00084
进行运动补偿,得到相对运动矢量
Figure A200910080382D00085
d → = d → all - d → g , 之后对像素块进行编号得到集合C: C = ( d → ( n ) , p n ( x , y ) , S n ) ;
全局运动矢量
Figure A200910080382D00088
根据飞机飞行参数和摄像机云台参数实时计算得出,
Figure A200910080382D00089
表示由于摄像机运动,即飞机飞行和云台运动组成的复合运动,造成的运动矢量,在两个连续视频帧之间,每个像素的位移都包含这个运动矢量。
所述的编号由三部分构成,第一部分为像素块对应的相对运动矢量
Figure A200910080382D000810
第二部分为像素块的位置信息——像素块坐标pn(x,y),第三部分为像素块的形状表示数Sn,n表示当前像素块为第n个像素块,提取的像素块编号组成集合C。
首先说明通过多元集P计算全局运动矢量
Figure A200910080382D000811
的方法。
根据多元集P:
Figure A200910080382D000812
计算
侦察区域                  
Figure A200910080382D000813
两连续帧间背景位移为      l=Vuav/fr             (2)
沿地面参照物水平分量为    ln=l×cosαuav         (3)
垂直分量                  lv=l×sinαuav         (4)
所获全局运动矢量
Figure A200910080382D000814
水平方向                  i0=ln/Sc×w           (5)
垂直方向分量              j0=lv/Sc×w           (6)
故全局运动矢量             d → g = ( i 0 , j 0 ) - - - ( 8 )
例如:假设无人机飞行高度为Huav=6000m;飞行速度Vuav=50m/s;飞机方位角αuav=36.9°;飞行方向平行于地平线,即βuav=0;云台相对飞机无运动,即Vcam=0;摄像机无旋转与俯仰,即γcam=0,λcam=0;视场角
Figure A200910080382D000816
;每帧图像大小I(w,h)=360×288(像素点),视频流帧率fr为25帧/s。
可得:侦察区域
Figure A200910080382D00091
两连续帧间背景位移为l=Vuav/fr=50/25=2m,其中沿地面参照物水平分量为lh=l×cosαuav=2×cos36.9=1.6m,垂直分量lv=l×sinαuav=2×sin36.9=1.2m。所获全局运动矢量为:水平方向i0=lh/Sc×w=1.6/104.7×360=5.5(像素),同理可得垂直方向j0=4.1(像素),故全局运动矢量 d → g = ( i 0 , j 0 ) = ( 5.5,4.1 ) .
下面说明像素块运动矢量
Figure A200910080382D00093
的获取方法。
如图2所示,设当前像素块为A(M,N),当前像素块相对于前一像素块B的位移为 d → all = ( i , j ) , 则设定前一帧搜索区为S(M+2Wx,N+2Wy),Wx为水平单侧扩展量,Wy为垂直单侧扩展量。在搜索区S中,如能找到与当前像素块A匹配的前一像素块B,则该运动矢量 d → all = ( i , j ) 即为当前像素块A的运动矢量,其中i、j单位为像素。
所述的两个像素块之间的匹配准则有:
a)均方误差(MSE)最小准则:
MSE ( i , j ) = 1 MN Σ x = 1 M Σ y = 1 N [ f t ( x , y ) - f t - 1 ( x + i , y + j ) ] 2 - - - ( 9 )
b)绝对误差均值(MAD)最小准则:
MAD ( i , j ) = 1 MN Σ x = 1 M Σ y = 1 N | f t ( x , y ) - f t - 1 ( x + i , y + j ) | - - - ( 10 )
其中M,N为当前像素块的宽度与长度,单位为像素;ft(x,y)代表当前像素块的灰度值;ft-1(x+i,y+j)代表前一像素块的灰度值。
如果两个像素块之间的运动矢量满足上述的任意一个最小准则关系,则可以找到相应每一个像素块的运动矢量。
最后,按照公式
d → = d → all - d → g = ( i - i 0 , j - j 0 ) - - - ( 11 )
得到补偿后的相对运动矢量,并按照块顺序进行编号得到
Figure A200910080382D00099
航空侦察及全局运动矢量示意如图3所示,在通常的空中对地侦察中,飞机以一定速度V在一定高度H上对地面目标进行观察。在飞机速度V、高度H、飞机的方位角α、俯仰角β、摄像机的转动角γ与俯仰角λ和为摄像机视场角
Figure A200910080382D000910
等参数都已知的情况下,可以计算出两帧图像间由上述因素导致的运动矢量,也即全局运动矢量。图3中右侧图显示了理想状态下,飞机相对地面做平动飞行,摄像机没有转动与俯仰操作下两帧侦察图像的关系,图中I(t)为t时刻图像中某一区域,I(t+1)为t+1时刻图像中的同一区域,将I(t)和I(t+1)的相对位置在同一图像中显示,可以观察到二者的相对位移,该位移是由飞机飞行和摄像机运动造成的,计算出该相对位移,即得全局运动矢量
Figure A200910080382D000911
其中i0、j0的两个分量。
运动矢量的获取流程如图4所示,在视频压缩算法的参数估计部分获得各个像素块的运动矢量,并利用计算得到的全局运动矢量对所获的运动矢量进行背景运动补偿,得到相对运动矢量。同时根据像素块的位置和大小对各个像素块进行编号,记录每个像素块的编号并与其运动矢量相对应,直至把所有运动参数估计部分的像素块都获取完毕,停止获取运动矢量,将所得到的像素块编号组成一个集合C。
所述的像素块的编号由三部分构成,第一部分为像素块对应的相对运动矢量
Figure A200910080382D00101
第二部分为像素块的位置信息,如其左上角的像素坐标(x,y)就可以确定该像素块的位置;第三部分为像素块的形状表示数,如H.264压缩算法中共有7种像素块划分类型,如图5是H.264视频压缩算法中的像素块划分模式图示,其中的模式1、模式2、模式3、模式4、模式5、模式6、模式7分别表示像素块大小为16×16、8×16、16×8、8×8、4×8、8×4、4×4的形状类型,并分别记为形状表示数1、2、3、4、5、6、7;本发明中的形状表示数与该像素块划分模式相对应,所述像素块的形状表示数就是采用像素块的划分模型号。因此对像素块进行编号后,像素块的位置、形状和运动状态信息都随即获得。
第三步,通过矢量分析判断提取包括运动目标的像素块编号集合C′。
A)如图6所示,首先设定一个门限值T,门限值T为正值,它是一个运动矢量权值判别标准,用于判断各个像素块是否含有运动目标,调节门限值T可调节运动目标检测的灵敏度,T的具体取值需要根据相对运动矢量权值所采用的计算方法及灵敏度要求而定,一般所要求的灵敏度越高,门限值T的取值越小。通常T的取值范围在几到几百之间。
B)读取编号在集合C中的像素块信息,设定当前视频帧共有m个像素块,对每个像素块进行完运动补偿后,计算出各个像素块的相对运动矢量的权值大小M(n),计算公式如下:
M ( n ) = | d → ( n ) | 2 - - - ( 12 )
n表示当前像素块为第n个像素块,并且n≤m。
Figure A200910080382D00103
为当前像素块相对运动矢量。M(n)也可以根据其它准则进行计算。
C)将M(n)与门限值T比较,
若M(n)>T,则记录第n个像素块对应的编号及运动矢量,组成一个编号集合C′,集合C′为集合C的一个子集,然后读取下一个像素块;
若M(n)<T,则不记录相应的像素块信息,直接读取下一个像素块进行判断;
集合C′中的编号所对应的像素块的相对运动矢量权值大于门限值T。像素块的运动矢量均较大程度超出了其他相对运动矢量,因此本发明中将集合C′中所对应的像素块视为包含有运动目标的像素块。此处值得说明的是:进行运动补偿之前的像素块运动矢量中,飞机飞行和云台运动引发的运动矢量占据主要部分,而目标运动因为相对于飞机运动较小,因而只占像素块运动矢量的小部分,致使包含目标的像素块运动矢量权值与全局运动矢量权值相差无几,难以区分。进行运动补偿之后,所得的相对运动矢量中目标运动矢量占据了主要成分,进而像素块的相对运动矢量的权值有了明显的区分。
第四步,判断第二步中所得集合C′中像素块间的关系,确定运动目标位置、轮廓及运动状态,实现实时获取和跟踪运动目标。
由于集合C′中的单个或者多个像素块中包含了运动目标,因此通过判断像素块间的关系及所得到的像素块边缘、中心位置、及运动矢量大小,可以确定运动目标的位置、形状和运动状态。
如图7所示,根据相对运动矢量信息实现获取和跟踪运动目标的流程图,将所述的第三步中所得到的超过门限值T的编号在集合C′内的像素块进行判断:
(a)根据编号的第一部分位置信息,如果两像素块不相邻,则按照一个像素块的编号和运动矢量来计算像素块的边缘及中心位置,并记录相应像素块的编号;
(b)如果两像素块相邻,则继续比较两个像素块的运动矢量;
(c)如果相对运动矢量相近,则按像素块联合块计算像素边缘及中心位置,并记录下相应联合块的编号,联合块的编号取其中一个像素块的编号;
(d)如果运动矢量不相近,则分别记录两个像素块的边缘及中心位置,并记录相应像素块的编号。
上述四步提取出了集合C′中的像素块所包含的运动目标,获得了运动目标在图像中的相对位置数据及相对运动矢量数据,根据所得的数据,无人机上的各种对运动目标的响应程序可直接从该存储空间中获取数据,调节无人机各参数及设备状态,完成各自的功能,如根据目标位置调节摄像机云台,令摄像机对准目标、拉近目标等。
实施例:下面以理想条件下的小幅图像来进一步说明本发明的运动目标跟踪方法。设定目标图像大小为8*8像素,分块模式参考图5中模式7,即分为4个4*4像素块A、B、C、D(按从左至右,从上到下顺序)。运动矢量
Figure A200910080382D00111
分别为(8,6)、(5,4)、(5,4)、(5,4),全局运动矢量为 d &RightArrow; g = ( 4,4 ) , 这里考虑到因飞行震动、传感器精度等误差因素,因而全局运动矢量补偿没有按照理想条件(5,4)补偿,这更加符合实际情况,不过通过下面的计算可以看出,这些误差没有影响对含有目标像素块的识别。
步骤1、2:在视频压缩算法中的运动参数估计部分提取参数集H,由机载设备提取参数集P,由P集中各元素计算出全局运动矢量
Figure A200910080382D00113
进行运动补偿得到
Figure A200910080382D00114
并为其编号得到
Figure A200910080382D00115
像素块按照A、B、C、D的顺序编为序号1、2、3、4,提取出的四个像素块的运动矢量为(8,6)、(5,4)、(5,4)、(5,4),根据式(11)得出,进行运动补偿后相对运动矢量为 d &RightArrow; ( 1 ) = ( 4,2 ) , d &RightArrow; ( 2 ) = ( 1 , 0 ) , d &RightArrow; ( 3 ) = ( 1 , 0 ) , d &RightArrow; ( 4 ) = ( 1 , 0 ) , 各像素块左上角的像素坐标为(0,0)、(4,0)、(0,4)、(4,4),形状类型号为7、7、7、7(即形状均为图示5中模式7,为4*4像素的方块)。因此像素块A、B、C、D的编号分别为: [ d &RightArrow; ( 1 ) , ( 0,0 ) , 7 ] , [ d &RightArrow; ( 2 ) , ( 4,0 ) , 7 ] , [ d &RightArrow; ( 3 ) , ( 0 , 4 ) , 7 ] , [ d &RightArrow; ( 4 ) , ( 4 , 4 ) , 7 ] .
步骤3:通过矢量分析判断提取包括运动目标的像素块编号集合C′。
当前视频帧共有4个像素块,根据式(12)计算出各个像素块的相对运动矢量权值大小M(1)、M(2)、M(3)、M(4)。
在本实例中M(1)=20,M(2)=1,M(3)=1,M(4)=1。设定门限值T=4,M(1)、M(2)、M(3)、M(4)与T比较:
M(1)>T,
M(2)<T,
M(3)<T,
M(4)<T,
只有像素块A(序号为1)的运动矢量差距M(1)大于门限值T,因而提取其编号[(0,0),7]信息:序号为1,相对运动矢量为 d &RightArrow; ( 1 ) = ( 4,2 ) , 左上角坐标(0,0),形状类型号7。
值得注意的是:当像素块中存在多个目标或者有多个块包含目标运动时,本发明所述的方法依然可以检测出运动目标。如本例中,不妨假设像素块相对运动矢量为 d &RightArrow; ( 1 ) = ( 4,2 ) , d &RightArrow; ( 2 ) = ( 1 , 0 ) , d &RightArrow; ( 3 ) = ( 3 , 2 ) , d &RightArrow; ( 4 ) = ( 1 , 0 ) , 计算出相应的M(n)分别为M(1)=20,M(2)=1,M(3)=13,M(4)=1,依然可以提取出包含目标的像素块为1和3,而这在许多其他算法中都是不可实现的。
步骤4:判断步骤3中所得集合C′中像素块间的关系,确定运动目标位置、轮廓及运动状态,实现实时获取和跟踪运动目标。
查找步骤2中提取出的像素块编号信息,先判断是否有位置相邻情况发生,由于该实例中仅有一条编号信息被提取,因而无相邻情况,直接计算像素块边界及中心位置。由类型号7知该像素块为4*4像素大小的方块,四条边界的起始与终止点坐标组为(0,0)-(3,0),(3,0)-(3,3)(3,3)-(0,3)(0,3)-(0,0),像素块中心位置取(1,1),相对运动矢量为 d &RightArrow; ( 1 ) = ( 4,2 ) . 至此目标跟踪方法已经实现。无人机上的各种对运动目标的响应程序可结果中获取所需数据,调节无人机各参数及设备状态,完成各自的功能,如根据目标位置调节摄像机云台,令摄像机对准目标、拉近目标等。

Claims (6)

1、一种机载视频压缩和目标跟踪联合实现方法,其特征在于包括如下步骤:
第一步,从视频压缩算法的运动参数估计部分提取中间数据,组成多元集H:
Figure A200910080382C00021
从机载设备上提取飞行和云台运动参数,组成多元集P:
Figure A200910080382C00022
其中为像素块运动矢量,p(x,y)为像素块位置,S为像素块形状表示数;Vuav,Huav为飞机的飞行速度与高度;αuav,βuav为飞机的方位角与俯仰角;Vcam为云台相对与飞机运动的速度;γcam,λcam为摄像机的转动角与俯仰角;
Figure A200910080382C00024
为摄像机视场角;I(w,h)为所获视频流的每帧图像的宽和高;fr为视频流的帧率;
所述的中间数据包括像素块的运动矢量,位置和形状信息,其中运动矢量满足最小准则关系提取;
第二步,通过提取的第一步中的多元集P,计算出全局运动矢量
Figure A200910080382C00025
对从压缩算法中运动参数估计部分提取的像素块运动矢量
Figure A200910080382C00026
进行运动补偿,得到相对运动矢量
Figure A200910080382C00027
d &RightArrow; = d &RightArrow; all - d &RightArrow; g , 将像素块编号得到组成集合C, C = ( d &RightArrow; ( n ) , p n ( x , y ) , S n ) ;
所述的编号由三部分构成,第一部分为像素块对应的相对运动矢量
Figure A200910080382C000210
第二部分为像素块的位置信息——像素块坐标pn(x,y),第三部分为像素块的形状表示数Sn,提取的像素块编号组成集合C,集合C为
Figure A200910080382C000211
n表示当前像素块为第n个像素块;
第三步,通过矢量分析判断提取包括运动目标的像素块编号集合C′;
设定一个门限值T,计算当前像素块的相对运动矢量的权值大小M(n),n表示当前像素块为第n个像素块,设定某一门限值T,将M(n)与门限值T比较:
若M(n)>T,则记录第n个像素块对应的编号及运动矢量,得到一个编号集合C′,集合C′为集合C的一个子集,然后读取下一个像素块;
若M(n)<T,则不记录相应的像素块信息,直接读取下一个像素块进行判断;
第四步,判断编号在集合C′中的各个像素块间的关系,确定运动目标位置、轮廓及运动状态,实现实时获取和跟踪运动目标,具体如下:
(a)根据编号的第一部分位置信息,如果两像素块不相邻,则按照一个像素块的编号和运动矢量来计算像素块的边缘及中心位置,并记录相应像素块的编号;
(b)如果两像素块相邻,则继续比较两个像素块的运动矢量;
(c)如果相对运动矢量相近,则按像素块联合块计算像素边缘及中心位置,并记录下相应联合块的编号,联合块的编号取其中一个像素块的编号;
(d)如果运动矢量不相近,则分别记录两个像素块的边缘及中心位置,并记录相应像素块的编号。
2、根据权利要求1所述的一种机载视频压缩和目标跟踪联合实现方法,其特征在于:第一步所述的运动矢量满足以下式(1)、式(2)中任意一个最小准则关系,
均方误差(MSE)最小准则:
MSE ( i , j ) = 1 MN &Sigma; x = 1 M &Sigma; y = 1 N [ f t ( x , y ) - f t - 1 ( x + i , y + j ) ] 2 - - - ( 1 )
绝对误差均值(MAD)最小准则:
MAD ( i , j ) = 1 MN &Sigma; x = 1 M &Sigma; y = 1 N | f t ( x , y ) - f t - 1 ( x + i , y + j ) | - - - ( 2 )
其中M,N为当前帧块的宽度与长度,单位为像素;ft(x,y)代表当前帧块的灰度值;
ft-1(x+i,y+j)代表前一帧块的灰度值。
3、根据权利要求1所述的一种机载视频压缩和目标跟踪联合实现方法,其特征在于:第二步所述的全局运动矢量
Figure A200910080382C00033
根据飞机飞行参数和摄像机云台参数实时计算得出,
Figure A200910080382C00034
表示由于摄像机运动,即飞机飞行和云台运动组成的复合运动,造成的运动矢量,在两个连续视频帧之间,每个像素的位移都包含这个运动矢量。
4、根据权利要求1所述的一种机载视频压缩和目标跟踪联合实现方法,其特征在于:第三步所述的M(n)采用当前像素块的相对运动矢量
Figure A200910080382C00035
的模的平方值:
M ( n ) = | d &RightArrow; ( n ) | 2 - - - ( 3 )
其中 d &RightArrow; ( n ) = d &RightArrow; all ( n ) - d &RightArrow; g , n表示当前像素块为第n个像素块。
5、根据权利要求1所述的一种机载视频压缩和目标跟踪联合实现方法,其特征在于:第二步所述的门限值T为正值,它是一个运动矢量差距标准,用于判断各个像素块是否含有运动目标,通过调节门限值T调节运动目标检测的灵敏度。
6、根据权利要求1所述的一种机载视频压缩和目标跟踪联合实现方法,其特征在于:第二步所述的对从压缩算法中运动参数估计部分提取的像素块运动矢量
Figure A200910080382C00038
进行运动补偿,得到相对运动矢量
Figure A200910080382C00039
具体方法如下:
所述的全局运动矢量
Figure A200910080382C000310
运动矢量
Figure A200910080382C000311
的通过以下公式计算:
根据第一步中的多元组合P:
Figure A200910080382C000312
得到:
侦察区域       
Figure A200910080382C000313
两连续帧间背景位移为     l=Vuav/fr        (5)
沿地面参照物水平分量为lh=l×cosαuav       (6)
垂直分量          lv=l×sinαuav           (7)
所获全局运动矢量
Figure A200910080382C00041
为:
水平方向         i0=lh/Sc×w       (8)
垂直方向         j0=lv/Sc×w       (9)
全局运动矢量        d &RightArrow; g = ( i 0 , j 0 ) - - - ( 10 )
相对运动矢量
Figure A200910080382C00043
为:     d &RightArrow; = d &RightArrow; all - d &RightArrow; g = ( i - i 0 , j - j 0 ) - - - ( 11 ) .
CN 200910080382 2009-03-20 2009-03-20 一种机载视频压缩与目标跟踪联合实现方法 Expired - Fee Related CN101511022B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 200910080382 CN101511022B (zh) 2009-03-20 2009-03-20 一种机载视频压缩与目标跟踪联合实现方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 200910080382 CN101511022B (zh) 2009-03-20 2009-03-20 一种机载视频压缩与目标跟踪联合实现方法

Publications (2)

Publication Number Publication Date
CN101511022A true CN101511022A (zh) 2009-08-19
CN101511022B CN101511022B (zh) 2010-07-07

Family

ID=41003251

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 200910080382 Expired - Fee Related CN101511022B (zh) 2009-03-20 2009-03-20 一种机载视频压缩与目标跟踪联合实现方法

Country Status (1)

Country Link
CN (1) CN101511022B (zh)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101820501A (zh) * 2010-03-22 2010-09-01 中国科学院长春光学精密机械与物理研究所 一种电视波门稳定跟踪的方法
CN101986242A (zh) * 2010-11-03 2011-03-16 中国科学院计算技术研究所 在视频压缩编码过程中实现目标轨迹跟踪的方法
CN102123234A (zh) * 2011-03-15 2011-07-13 北京航空航天大学 无人机侦察视频分级运动补偿方法
CN101702315B (zh) * 2009-11-04 2011-10-26 北京航空航天大学 一种无人机遥控器实时传送高保真语音数据的方法
CN102236901A (zh) * 2011-06-30 2011-11-09 南京大学 基于图论聚类和色彩不变空间的目标跟踪方法
CN102263955A (zh) * 2011-07-21 2011-11-30 福建星网视易信息系统有限公司 基于运动矢量检测视频遮挡的方法
CN102647559A (zh) * 2012-04-26 2012-08-22 广州盈可视电子科技有限公司 一种云台跟踪录制的方法和装置
CN102724542A (zh) * 2012-06-19 2012-10-10 浙江捷尚视觉科技有限公司 运动矢量法检测云台摄像机工作状态的方法
CN103234529A (zh) * 2013-03-26 2013-08-07 深圳市朗诚实业有限公司 一种运动轨迹测试方法及设备
CN103796012A (zh) * 2014-01-20 2014-05-14 北京航空航天大学 无人机多源异类侦察图像压缩接口适配方法
CN103796011A (zh) * 2014-01-20 2014-05-14 北京航空航天大学 基于jpeg2000和帧间补偿的无人机侦察图像通用压缩方法
CN104463910A (zh) * 2014-12-08 2015-03-25 中国人民解放军国防科学技术大学 基于运动矢量的高速运动目标提取方法
CN105678276A (zh) * 2016-01-19 2016-06-15 武汉大学 一种人体动作特征提取方法
CN105812619A (zh) * 2016-03-18 2016-07-27 常州大学 针对摄像机抖动的运动目标跟踪方法
CN105933709A (zh) * 2011-03-09 2016-09-07 株式会社东芝 运动图像编码方法以及运动图像解码方法
WO2016192494A1 (zh) * 2015-05-29 2016-12-08 阿里巴巴集团控股有限公司 一种图像处理方法及装置
CN107911697A (zh) * 2017-10-30 2018-04-13 北京航空航天大学 基于感兴趣区域分层的无人机图像运动目标检测方法
CN108292141A (zh) * 2016-03-01 2018-07-17 深圳市大疆创新科技有限公司 用于目标跟踪的方法和系统
TWI657011B (zh) * 2017-11-30 2019-04-21 財團法人工業技術研究院 無人機、無人機控制系統及控制方法
WO2019205129A1 (en) * 2018-04-28 2019-10-31 SZ DJI Technology Co., Ltd. Motion estimation
CN110533692A (zh) * 2019-08-21 2019-12-03 深圳新视达视讯工程有限公司 一种面向无人机航拍视频中移动目标的自动跟踪方法

Cited By (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101702315B (zh) * 2009-11-04 2011-10-26 北京航空航天大学 一种无人机遥控器实时传送高保真语音数据的方法
CN101820501A (zh) * 2010-03-22 2010-09-01 中国科学院长春光学精密机械与物理研究所 一种电视波门稳定跟踪的方法
CN101986242A (zh) * 2010-11-03 2011-03-16 中国科学院计算技术研究所 在视频压缩编码过程中实现目标轨迹跟踪的方法
CN105933709B (zh) * 2011-03-09 2020-04-28 株式会社东芝 运动图像编码方法、装置以及运动图像解码方法、装置
CN105933709A (zh) * 2011-03-09 2016-09-07 株式会社东芝 运动图像编码方法以及运动图像解码方法
CN102123234A (zh) * 2011-03-15 2011-07-13 北京航空航天大学 无人机侦察视频分级运动补偿方法
CN102123234B (zh) * 2011-03-15 2012-09-05 北京航空航天大学 无人机侦察视频分级运动补偿方法
CN102236901A (zh) * 2011-06-30 2011-11-09 南京大学 基于图论聚类和色彩不变空间的目标跟踪方法
CN102263955B (zh) * 2011-07-21 2013-04-03 福建星网视易信息系统有限公司 基于运动矢量检测视频遮挡的方法
CN102263955A (zh) * 2011-07-21 2011-11-30 福建星网视易信息系统有限公司 基于运动矢量检测视频遮挡的方法
CN102647559B (zh) * 2012-04-26 2016-04-13 广州盈可视电子科技有限公司 一种云台跟踪录制的方法和装置
CN102647559A (zh) * 2012-04-26 2012-08-22 广州盈可视电子科技有限公司 一种云台跟踪录制的方法和装置
CN102724542A (zh) * 2012-06-19 2012-10-10 浙江捷尚视觉科技有限公司 运动矢量法检测云台摄像机工作状态的方法
CN103234529A (zh) * 2013-03-26 2013-08-07 深圳市朗诚实业有限公司 一种运动轨迹测试方法及设备
CN103234529B (zh) * 2013-03-26 2015-09-02 深圳市朗诚实业有限公司 一种运动轨迹测试方法及设备
CN103796011B (zh) * 2014-01-20 2017-04-05 北京航空航天大学 基于jpeg2000和帧间补偿的无人机侦察图像通用压缩方法
CN103796012A (zh) * 2014-01-20 2014-05-14 北京航空航天大学 无人机多源异类侦察图像压缩接口适配方法
CN103796011A (zh) * 2014-01-20 2014-05-14 北京航空航天大学 基于jpeg2000和帧间补偿的无人机侦察图像通用压缩方法
CN103796012B (zh) * 2014-01-20 2017-02-08 北京航空航天大学 无人机多源异类侦察图像压缩接口适配方法
CN104463910A (zh) * 2014-12-08 2015-03-25 中国人民解放军国防科学技术大学 基于运动矢量的高速运动目标提取方法
CN104463910B (zh) * 2014-12-08 2017-05-24 中国人民解放军国防科学技术大学 基于运动矢量的高速运动目标提取方法
EP3306562A4 (en) * 2015-05-29 2019-01-16 Alibaba Group Holding Limited IMAGE PROCESSING DEVICE AND METHOD
WO2016192494A1 (zh) * 2015-05-29 2016-12-08 阿里巴巴集团控股有限公司 一种图像处理方法及装置
US10417770B2 (en) 2015-05-29 2019-09-17 Alibaba Group Holding Limited Efficient acquisition of a target image from an original image
CN105678276A (zh) * 2016-01-19 2016-06-15 武汉大学 一种人体动作特征提取方法
CN108292141A (zh) * 2016-03-01 2018-07-17 深圳市大疆创新科技有限公司 用于目标跟踪的方法和系统
CN105812619A (zh) * 2016-03-18 2016-07-27 常州大学 针对摄像机抖动的运动目标跟踪方法
CN107911697A (zh) * 2017-10-30 2018-04-13 北京航空航天大学 基于感兴趣区域分层的无人机图像运动目标检测方法
CN107911697B (zh) * 2017-10-30 2020-02-07 北京航空航天大学 基于感兴趣区域分层的无人机图像运动目标检测方法
TWI657011B (zh) * 2017-11-30 2019-04-21 財團法人工業技術研究院 無人機、無人機控制系統及控制方法
US10703479B2 (en) 2017-11-30 2020-07-07 Industrial Technology Research Institute Unmanned aerial vehicle, control systems for unmanned aerial vehicle and control method thereof
WO2019205129A1 (en) * 2018-04-28 2019-10-31 SZ DJI Technology Co., Ltd. Motion estimation
CN111279685A (zh) * 2018-04-28 2020-06-12 深圳市大疆创新科技有限公司 运动估计
US11172218B2 (en) 2018-04-28 2021-11-09 SZ DJI Technology Co., Ltd. Motion estimation
CN110533692A (zh) * 2019-08-21 2019-12-03 深圳新视达视讯工程有限公司 一种面向无人机航拍视频中移动目标的自动跟踪方法
CN110533692B (zh) * 2019-08-21 2022-11-11 深圳新视达视讯工程有限公司 一种面向无人机航拍视频中移动目标的自动跟踪方法

Also Published As

Publication number Publication date
CN101511022B (zh) 2010-07-07

Similar Documents

Publication Publication Date Title
CN101511022B (zh) 一种机载视频压缩与目标跟踪联合实现方法
US11410002B2 (en) Ship identity recognition method based on fusion of AIS data and video data
CN103149939B (zh) 一种基于视觉的无人机动态目标跟踪与定位方法
CN111326023B (zh) 一种无人机航线预警方法、装置、设备及存储介质
Leira et al. Automatic detection, classification and tracking of objects in the ocean surface from UAVs using a thermal camera
Yang et al. Concrete defects inspection and 3D mapping using CityFlyer quadrotor robot
CN105184816A (zh) 基于usv的视觉检测和水面目标追踪系统及其检测追踪方法
WO2014072737A1 (en) Cloud feature detection
CN104637058A (zh) 一种基于图像信息的客流量识别统计方法
CN104616322A (zh) 船载红外目标图像辨识跟踪方法及其装置
CN101650178A (zh) 序列图像三维重建中控制特征点与最优局部单应引导的图像匹配方法
CN108334099A (zh) 一种高效的无人机人体跟踪方法
CN109029465A (zh) 一种无人艇基于毫米波雷达的跟踪和避障系统
CN109213204A (zh) 基于数据驱动的auv海底目标搜寻航行系统及方法
CN104299248A (zh) 利用前视声呐图像对水下多个动态目标运动预测的方法
Yang et al. Surface vehicle detection and tracking with deep learning and appearance feature
WO2019058582A1 (ja) 距離推定装置及び方法
CN105810023A (zh) 机场起落架收放自动监测系统及方法
CN114689030A (zh) 一种基于机载视觉的无人机辅助定位方法及系统
CN110889353A (zh) 基于主焦点大视场光电望远镜的空间目标识别方法
CN116977902B (zh) 一种边海防车载光电稳定平台目标跟踪方法及系统
CN110068827A (zh) 一种无人机自主目标测距的方法
Ersoy et al. Interactive target tracking for persistent wide-area surveillance
CN103488801A (zh) 一种基于地理信息空间库的机场目标检测方法
CN102123234B (zh) 无人机侦察视频分级运动补偿方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100707

Termination date: 20120320