CN108319918A - 一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 - Google Patents
一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 Download PDFInfo
- Publication number
- CN108319918A CN108319918A CN201810110370.9A CN201810110370A CN108319918A CN 108319918 A CN108319918 A CN 108319918A CN 201810110370 A CN201810110370 A CN 201810110370A CN 108319918 A CN108319918 A CN 108319918A
- Authority
- CN
- China
- Prior art keywords
- target
- miss distance
- tracking mode
- described image
- tracking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法,本发明中通过以FPGA芯片和DSP芯片为主要芯片的嵌入式跟踪器就能够实现可靠稳定的目标跟踪,嵌入式跟踪器能很好的应用于需要小型化嵌入式跟踪的设备平台中。解决了现有技术中在如无人机、机器人、精确制导等平台,无法直接应用计算机上能实现的跟踪软件或算法的问题。该发明提供的嵌入式跟踪器在实际工程项目中有很好的应用,实现了对特定目标的实时跟踪,并将跟踪结果输出到显示设备,还能计算出所跟踪目标的脱靶量。本实施例中的嵌入式跟踪器小巧实用,具有很大的创新性,具有良好的实时处理能力,有着广阔的应用市场和研究价值。
Description
技术领域
本发明涉及计算机视觉在嵌入式平台中应用的技术领域,更具体的说,涉及一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法。
背景技术
目标跟踪是一种针对摄像机所获取的图像序列进行目标连续定位的技术,目标跟踪技术已在军事制导、视觉导航、安全监控等方面广泛应用。利用较大资源的计算机能有效地实现鲁棒高精度的目标跟踪任务,但将计算机上能实现的跟踪软件或算法移植嵌入到其他小型化平台中时,技术难度大,安装方法复杂,甚至难以实现。进而需要体积小、重量轻、低功耗的嵌入式跟踪器来实现目标跟踪,这在无人机、机器人、精确制导等小型化平台中会广泛使用。
发明内容
有鉴于此,本发明提供一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法,以解决在如小型无人机、机器人、精确制导等平台,如果将计算机上能实现的跟踪软件或算法嵌入或移植到设备中,技术难度大,安装方法复杂,甚至难以实现的问题。
为解决上述技术问题,本发明采用了如下技术方案:
一种嵌入式跟踪器,包括:
现场可编程逻辑门阵列FPGA芯片和数字信号处理DSP芯片;
所述FPGA芯片,用于实时接收外部相机通过数字视频解码器输出的待跟踪的视频图像,从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至所述DSP芯片、以及接收所述DSP芯片发送的目标的位置脱靶量和跟踪状态结果,根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置,将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示;其中,所述图像区域为以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像;
所述DSP芯片,用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片。
优选地,所述FPGA芯片用于将所述图像区域发送至所述DSP芯片时,具体用于:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;
相应的,所述DSP芯片,用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
优选地,所述DSP芯片用于根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
计算每个所述目标子图像与所述目标模板的相关度;
确定计算得到的相关度中数值最大的相关度;
当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值;
将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
优选地,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上时,具体用于:
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过字符叠加的方式显示在所述待跟踪视频帧的后一帧图像上;
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的像素值与所述待跟踪视频帧的后一帧图像的像素值设置为不同,以使所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的视觉效果与所述待跟踪视频帧的后一帧图像中除所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果以外的区域的视觉效果不同。
优选地,所述DSP芯片用于将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量后,还用于:
将确定出的数值最大的相关度对应的所述目标子图像的中心的坐标位置发送给所述FPGA芯片,以使所述FPGA芯片根据所述坐标位置确定所述待跟踪视频帧的后一帧图像的图像区域。
优选地,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示后,还用于:
将所述目标的位置脱靶量以及跟踪状态结果发送至上位机,以使所述上位机记录所述目标的位置脱靶量以及跟踪状态。
优选地,所述DSP芯片用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果后,还用于:
根据从上位机接收的外部相机的空间角度信息以及所述目标的位置脱靶量,确定用于使得所述外部相机对所述目标进行跟踪的相机方位控制信息;
将所述相机方位控制信息发送至所述FPGA芯片,以使所述FPGA芯片将所述相机方位控制信息通过微控制器发送至外部伺服控制系统。
一种应用于嵌入式跟踪器的目标跟踪方法,包括:
FPGA芯片实时接收外部相机通过数字视频解码器输出的待跟踪的视频图像;
所述FPGA芯片从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至DSP芯片;其中,所述图像区域为以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像;
所述DSP芯片根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片;
所述FPGA芯片根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置;
所述FPGA芯片将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示。
优选地,所述FPGA芯片将所述图像区域发送至所述DSP芯片,包括:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;
相应的,所述DSP芯片接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,包括:
接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
优选地,所述DSP芯片根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,包括:
将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
计算每个所述目标子图像与所述目标模板的相关度;
确定计算得到的相关度中数值最大的相关度;
当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值;
将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
相较于现有技术,本发明具有以下有益效果:
本发明提供了一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法,本发明中通过以FPGA芯片和DSP芯片为主要芯片的嵌入式跟踪器就能够实现可靠稳定的目标跟踪,嵌入式跟踪器能很好的应用于需要小型化嵌入式跟踪设备的平台中。解决了现有技术中在如无人机、机器人、精确制导等平台,无法直接应用计算机上能实现的跟踪软件或算法的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种嵌入式跟踪器的结构示意图;
图2为本发明实施例提供的一种应用于嵌入式跟踪器的方法的方法流程图;
图3为本发明实施例提供的一种位置脱靶量的结构示意图;
图4为本发明实施例提供的一种字库的结构示意图;
图5为本发明实施例提供的另一种应用于嵌入式跟踪器的方法的方法流程图;
图6为本发明实施例提供的再一种应用于嵌入式跟踪器的方法的方法流程图;
图7为本发明实施例提供的一种应用于嵌入式跟踪器的目标跟踪方法的方法流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种嵌入式跟踪器,该发明提供的嵌入式跟踪器在实际工程项目中有很好的应用,实现了对特定目标的实时跟踪,并将跟踪结果输出到显示设备,还能计算出所跟踪目标的脱靶量。本实施例中的嵌入式跟踪器小巧实用,具有很大的创新性,具有良好的实时处理能力,有着广阔的应用市场和研究价值。
参照图1,可以包括:
现场可编程逻辑门阵列FPGA芯片117和数字信号处理DSP芯片110;
所述FPGA芯片117,用于实时接收外部相机102通过数字视频解码器109输出的待跟踪的视频图像,从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至所述DSP芯片110、以及接收所述DSP芯片110发送的目标的位置脱靶量和跟踪状态结果,根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置,将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器103进行显示。
其中,所述图像区域为以用户进行目标跟踪时点击选取的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像。数字视频解码器109可以为模数转换芯片或其他类型的视频解码芯片。
所述DSP芯片110,用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片117。
参照图1,外部相机102可以是模拟相机,输出为模拟制式。此外,相机还可以是其他制式的相机。数字视频解码器103的型号可以为TVP5150,TVP5150是一款高性能的数字视频解码器,可将(美国)国家电视标准委员会NTSC、帕尔制PAL视频信号转换成数字色差信号(YUV),输出格式为ITU-RBT.656。
FPGA芯片117的型号可以是EP2C20F256为该嵌入式跟踪器的协处理器,用于数据转接和视频画面上字符的叠加,DSP芯片110的型号可以为TMS320C6416,TMS320C6416是最高处理能力高达8800MIPS的高速信号处理器,用于执行目标跟踪算法。
当用户想要对目标进行跟踪时,此时相机拍摄到包括该待跟踪的目标的成像的图像后,显示器103进行显示,用户在图像中点击该待跟踪的目标的成像,,然后就会根据该点击区域生成一个目标模板,其中,目标模板是以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心的一个区域。需要说明的是,目标模板是在DSP芯片110中根据用户点击的目标区域而设定的。
确定用户进行目标跟踪时点击的目标所在初始图像上的位置点后,上位机101将位置点通过串口104输出到串口芯片106中,串口芯片106将位置点传输到串并转换芯片107中,进而通过单片机108、FPGA芯片传输到DSP芯片110中。其中,串口芯片106的型号可以为MAX3232。串并转换芯片107的型号可以为TL16C752B,TL16C752B是一款双通用异步收发传输器UART串并转换芯片,用于进行数据传输。单片机108的型号可以为C8051F023,用于实现完成与上位机101的数据交换和通讯功能。串口104可以为RS232或RS422串口。
外部相机102输出的待跟踪的视频图像,通过数字视频解码器109输出到FPGA芯片117中,其中,数字视频解码器109输出到FPGA芯片117时,是通过中断的控制方式,HS表示行同步,VS表示场同步,CLK表示像素时钟。
FPGA芯片117接收到待跟踪的视频图像后,从所述视频图像中确定出所要进行跟踪的目标所在的图像区域,此后将所述图像区域发送至所述DSP芯片110。
可选的,在本实施例的基础上,所述FPGA芯片用于将所述图像区域发送至所述DSP芯片时,具体用于:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;其中,图像信息分量可以是灰度分量。
从所述图像区域中提取出灰度分量;
将所述图像区域的灰度分量通过中断的控制方式发送至所述DSP芯片110。
具体的,为了降低DSP芯片110的处理量,比如只提取出图像区域的灰度分量发送给DSP芯片110进行目标跟踪。
所述DSP芯片接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
此后,DSP芯片将目标的位置脱靶量和跟踪状态结果。FPGA芯片根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置,将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器103进行显示。
其中,经由嵌入式跟踪器处理后,输出的图像可以为模拟制式输出,图像中带有目标跟踪框以及字符叠加等信息。此外,还可以灵活更改为其他制式的视频输出。
需要说明的是:
1)当不需要对目标进行跟踪时,外部相机102中输出的图像直接通过多路复用器111输出到显示器103中进行显示。其中,多路复用器111的型号可以为AD8170。当需要进行目标跟踪时,FPGA芯片将需要进行字符叠加、和图像显示的有关信息传输到多路复用器111输出到显示器103中进行显示。进而目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上。
2)本实施例中上位机101、外部相机102和显示器103是三个独立的设备,此外,也可以将上位机101和显示器103设置在一起,属于同一个设备。
3)单片机108、数字视频解码器109、DPS芯片110均需要使用晶振来保证正常工作。
4)DSP芯片还能够通过单向传输线路向FPGA芯片传输其他控制信号。
另外,嵌入式跟踪器中还包括电源模块116,电源模块116可以产生嵌入式跟踪器所需的六种不同的电压,分别为1.2V、1.4V、1.8V、3.3V、5V和-5V。
嵌入式跟踪器中还包括外围测试组件115,外围测试组件115用于对嵌入式跟踪器的电压及嵌入式跟踪器中的芯片是否正常工作进行测试以及帮助系统的调试。
嵌入式跟踪器中还包括调试口集合114,调试口集合114包括三个调试口,分别用于对单片机108、FPGA芯片117和DSP芯片110进行调试,用来在线仿真和烧录代码。
嵌入式跟踪器中还包括复位芯片108,复位芯片108用于使嵌入式跟踪器的有关芯片进行复位。
嵌入式跟踪器中还包括存储器112,储器112可以为闪存FLASH存储器,用于存储下载到DSP芯片的程序。
嵌入式跟踪器中还包括配置芯片113,配置芯片113的型号可以为串行配置器件EPCS4,用于保存FPGA芯片的配置信息。
本实施例中,通过以FPGA芯片和DSP芯片为主要芯片的嵌入式跟踪器就能够实现可靠稳定的目标跟踪,嵌入式跟踪器能很好的应用于需要小型化嵌入式跟踪设备的平台中。解决了现有技术在如无人机、移动机器人、精确制导等平台中,无法直接应用上位机中的目标跟踪软件或算法的问题。
本实施例中的嵌入式跟踪器能够对不同格式的视频信号能实时进行预处理操作,对选取的特定感兴趣目标能进行稳定跟踪。试验表明该系统具有较高的实时性和鲁棒性。该发明系统在实际工程项目中有很好的应用,实现了对特定目标的实时跟踪,并将跟踪结果输出到显示设备,还能计算出所跟踪目标的脱靶量。本实施例中的嵌入式跟踪器小巧实用,具有很大的创新性,具有良好的实时处理能力,有着广阔的应用市场和研究价值。
可选的,在上述任一实施例的基础上,参照图2,所述DSP芯片用于根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
S11、将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
具体的,由于图像区域的大小大于目标模板的大小,在需要从图像区域的中找到目标所在区域时,采用分小图像与目标模板进行比较的方式确定跟踪目标。
需要说明的是,本实施例中采用的是相关跟踪算法,即在DSP芯片中已经预先存储有相关跟踪算法,并且DSP芯片一直处于目标跟踪状态,只要接收到目标跟踪的命令,该系统就可以开始进行目标跟踪结果的显示。
S12、计算每个所述目标子图像与所述目标模板的相关度;
其中,目标模板可以称为图像S(u,v),目标子图像可以成为R(u,v),现需要求取S(u,v)与R(u,v)的相关度。
计算相关度采用匹配算法,匹配算法可以采用平均绝对差分算法,平均绝对差分算法采用简单有效的加减运算,既提高了速度,又有利于利用高速DSP在工程中实现实时算法。匹配算法将目标子图像上的个点与目标模板上对应个点进行差相加求和,以此作为二者相似度评价的依据,此灰度差的和越小则表明两图像越相似,为零时,表明二图像完全匹配。
设目标模板为S(u,v),其尺寸为M×N,目标子图像为R(u,v),其尺寸也为M×N,则平均绝对差分算式为:
若模目标模板S(u,v)与目标子图像R(u,v)完全重叠在一起,且这两幅图像又完全相同,则D(x,y)=0。当S(u,v)与R(u,v)之间有相对运动时,D(x,y)逐步增大。因此,相关匹配就是找使得D(x,y)最小的点,即
虽然与传统求相关函数的方法相比,平均绝对差分算法复杂性降低,但是处理一帧图像的运算量还是较大,不利于算法的实时实现,为了进一步降低算法的复杂性,满足系统的实时性要求,我们可以采取序列相似性检测算法(SSDA),它是基于MAD算法的一种简化算法,记ε(x,y,u,v)=|R(u+x,v+y)-S(u,v)|,则D(x,y)可以写为
设置一个阈值T,若D(x,y,i,j)>T,则停止计算,即认为此区域肯定不是与模板匹配的区域。若D(x,y,i,j)小于T,则计算下去直到计算完模板图像区域内所有像素灰度值为止。
S13、确定计算得到的相关度中数值最大的相关度;
其中,数值最大的相关度,也可以认为平均绝对差分算法最小的,相关度越大。
S14、当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
S15、当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
具体的,相关度越大,说明目标子图像与目标模板越相近,也就可以说明该目标子图像就是目标所在的区域的概率越大。此时说明目标处于被跟踪状态。
相关度越小,说明目标子图像与目标模板越不相近,也就可以说明该目标子图像就是目标所在的区域的概率越小。此时说明目标处于未被跟踪状态。
S16、计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
具体的,图像区域中各个像素的坐标值是在以待跟踪的视频图像使用的坐标系下的坐标值。
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值的过程包括:
1)根据所述图像区域的图像大小属性,计算确定出的数值最大的相关度对应的目标子图像的中心与所述图像区域的左上角的第一位置关系;
2)计算确定出的数值最大的相关度对应的目标子图像的中心与所述图像区域的中心的第二位置关系;
3)根据所述第一位置关系以及所述第二位置关系,计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值。
S17、根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;
其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值。
具体的,目标跟踪框的大小是技术人员提前设定的,且目标跟踪框的中心为确定的目标子图像的中心。
目标跟踪框的中心就是上述中的坐标值,然后根据目标跟踪框的大小属性信息,确定目标跟踪框的左上角坐标值和右下角坐标值。
目标跟踪框的左上角坐标值和右下角坐标值确定后,目标跟踪框所在的位置就能够确定。
S18、将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
其中,位置脱靶量表征的是目标在待跟踪图像中的位置。位置脱靶量的展示形式参照图3。
图3中,位置脱靶量的坐标是以待跟踪的视频图像的中心为坐标轴原点,若位于第一象限内,X值为正值,Y值为正值;若位于第二象限内,X值为负值,Y值为正值;若位于第三象限内,X值为负值,Y值为负值;若位于第四象限内,X值为正值,Y值为负值。
DSP芯片计算得到位置脱靶量后,会将位置脱靶量发送给FPGA芯片,FPGA芯片根据目标的位置脱靶量,就能够确定用于跟踪目标的目标跟踪框的位置。
需要说明的是,目标跟踪框的大小是预先设置的,在不同的场景中,若目标跟踪框的大小设置的不同,则最终确定的位置脱靶量不同。但是最终计算得到的位置脱靶量均是以确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值为基准计算的。
可选的,在本实施例的基础上,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上时,具体用于:
1)将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过字符叠加的方式显示在所述待跟踪视频帧的后一帧图像上;
2)将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的像素值与所述待跟踪视频帧的后一帧图像的像素值设置为不同,以使所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的视觉效果与所述待跟踪视频帧的后一帧图像中除所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果以外的区域的视觉效果不同。
具体的,当目标跟踪过程中,图像中原先显示的鼠标的状态更换为隐藏,其中,鼠标为FPGA芯片进行字符叠加的鼠标。显示跟踪框,待跟踪的视频图像的右上角可以显示跟踪状态结果,所述跟踪状态结果为跟踪,则显示“跟踪”字样,所述跟踪状态结果为丢失,则显示“丢失”字样。左上角显示位置脱靶量“X:+000Y:+000”的形式。当退出跟踪时,所有的字符全部隐藏,可选择性的选择退出跟踪后依然保留图像中心的十字丝或跟踪波门。其中,跟踪波门为目标跟踪框。此时,十字丝或者跟踪波门在外部相机输出的图像的正中心。
需要说明的是,目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果在待跟踪视频帧的后一帧图像上的视觉显示结果为白色。
此外,还可以在待跟踪视频帧的后一帧图像上的图像中心叠加十字丝,十字丝位于图像中心,十字丝的中心位置及长宽都可根据待跟踪视频帧的分辨率来调节,十字丝永久显示。此外,还具有鼠标显示功能,接收外部输入的鼠标位置信息,在屏幕上进行显示,并且根据外部输入的鼠标位置改变,鼠标位置也会发生改变。在进入跟踪状态时,鼠标隐藏,转为显示跟踪框,跟踪框显示的是目标所在的位置。退出跟踪时,鼠标归位原点。
当需要显示目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果时,FPGA芯片从字库中找到相应的表示目标的位置脱靶量以及跟踪状态结果的字符,并叠加到待跟踪视频帧的后一帧图像上,并在待跟踪视频帧的后一帧图像上显示目标跟踪框。
其中,参照图4,在FPGA中建立mif文件,根据实际项目建立所需字库,字库中可以包含数字,汉字及图标等。本系统中显示的字符大小是16pixel×16pixel,字符大小可以根据需求来灵活改变。一行(16个单元格)表示一个字符,一个单元格里表示字符的一行16个像素,FPGA芯片接收DSP芯片传来的要显示的字符位置的地址,FPGA芯片再对DSP芯片的数据进行地址译码,对图像进行传递的同时,进行字符叠加,这样就能实现ROM地址线多路选通的译码的功能,进而就可以显示出相应的字符。
在该系统中设定叠加的显示字符大小为16×16大小,在ROM表里查找,在ROM表里一行16个单元格表示一个字符,一个单元格里表示字符的一行16个像素,在FPGA开发软件中可对每一个单元格当作几个字,每个单元格里是多少比特均可进行设置。在DSP里对字库地址编程控制,可以实现数字,汉字及图标等不同形式及不同位置的字符显示。
参照图5,整个字符叠加的过程包括:
S21、数字视频解码器接收外部相机输入的相机视频,解码得到待跟踪的视频图像;
S22、FPGA芯片从待跟踪的视频图像中提取出图像区域;
其中,图像区域为所要进行跟踪的目标所在的图像区域。
S23、FPGA芯片提取并传输用于为目标跟踪提供数据的图像信息分量至DSP芯片;
S24、DSP芯片进行目标跟踪,确定位置脱靶量,跟踪状态结果以及字符显示的位置;
其中,字符显示的位置,是指位置脱靶量、所述目标跟踪框以及跟踪状态结果显示在待跟踪图像的下一帧图像中的什么位置,如可以显示在左上角、右上角等。
S25、FPGA芯片从字库中查找待叠加的字符;其中,待叠加的字符为位置脱靶量以及跟踪状态结果。
S26、FPGA芯片确定十字丝;
其中,FPGA芯片确定十字丝的形状以及位置;
S27、FPGA芯片进行字符叠加;
如,可以将十字丝、位置脱靶量、所述目标跟踪框以及跟踪状态结果叠加在待跟踪视频帧的后一帧图像上。
S28、输出到显示器上进行显示。
参照图6,图6中介绍了DSP芯片进行目标跟踪的整个过程。
S31、跟踪初始化;
S32、定义模板大小以及图片存储位置;
其中,模板是指目标模板的大小,图片存储位置是指FPGA芯片传输到DSP芯片中的图像区域的存储位置。
S33、模板坐标点计算;
其中,模板坐标点是指用户进行目标跟踪时点击的目标所在初始图像上的位置点,位置点是通过上位机发送至DSP芯片的。
S34、接收并存储图像区域、确定以及存储目标模板;
其中,从FPGA芯片中接收图像区域。DSP确定并存储目标模板。
S35、目标模板参数计算及存储;
其中,目标模板参数包括分辨率等。
S36、目标跟踪;
其中,目标跟踪包括顶层搜索、底层搜索、模板匹配以及相关度计算等过程。
S37、确认目标是否丢失;
当计算出的当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪,目标被跟踪。
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失,目标未被跟踪。
S38、脱靶量置零;
其中,当目标丢失时,位置脱靶量没有意义,此时将位置脱靶量置零,
S39、发送位置脱靶量至FPGA芯片,以使FPGA芯片确定目标跟踪框的位置。
S310、更新目标模板。
其中,DSP芯片中的目标模板不是固定不变的,而是可以根据需求灵活更改的,外部相机实时输入待跟踪的视频图像至FPGA芯片,FPGA芯片处理得到图像区域实时输入至DSP芯片中。DSP芯片实时得到与确定的目标模板相关度最大的目标子图像后,当FPGA芯片传入DSP芯片中至少一张图像区域后,为了保证目标跟踪不会丢失,此时需要更换目标模板,更换的原则是,将确定出的数值最大的相关度最大的目标子图像作为当前的目标模板。
本实施例中,能够通过DPS芯片确定所跟踪的目标的位置,进而FPGA芯片将述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示,就能够实现目标跟踪。
可选的,在上述任一实施例的基础上,所述DSP芯片用于将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量后,还用于:
将确定出的数值最大的相关度对应的所述目标子图像的中心的坐标位置发送给所述FPGA芯片,以使所述FPGA芯片根据所述坐标位置确定所述待跟踪视频帧的后一帧图像的图像区域。
具体的,当用户在显示器上用鼠标点击原始图像中待跟踪的目标后,FPGA芯片就会根据用户点击的位置点确定图像区域。当后一帧图像传输到FPGA芯片中时,应以上次确定出的目标子图像的中心的坐标位置作为确定后一帧图像的图像区域的参考点。
可选的,在本实施例的基础上,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示后,还用于:
将所述目标的位置脱靶量以及跟踪状态结果发送至所述上位机,以使所述上位机记录所述目标的位置脱靶量以及跟踪状态。
具体的,FPGA芯片目标的位置脱靶量以及跟踪状态结果通过微控制单元通过串口反馈至上位机。其中,微控制单元可以为图1中的单片机。串口可以为图1中的串口104,串口104的比特率根据实际项目需求设定,与外部的上位机进行通信时,主要是返回目标的位置脱靶量以及跟踪状态。
可选的,在本实施例的基础上,所述DSP芯片用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果后,还用于:
根据从所述上位机接收的外部相机的空间角度信息以及所述目标的位置脱靶量,确定用于使得所述外部相机对所述目标进行跟踪的相机方位控制信息;
将所述相机方位控制信息发送至所述FPGA芯片,以使所述FPGA芯片将所述相机方位控制信息通过微控制单元发送至外部伺服控制系统。
具体的,DSP芯片结合外部相机的空间角度信息以及所述目标的位置脱靶量,就可以知道目标在相机视野中的位置,此时用于使得所述外部相机对所述目标进行跟踪的相机方位控制信息,通过改变相机的方位,来使得目标处于相机拍摄范围的中心。
其中,参照图1,微控制单元可以为单片机108,通过单片机108以及串口105输出到外部伺服控制系统,外部伺服控制系统就可以调整相机的方位。串口105的比特率根据实际项目需求来确定。串口105可以为RS232或RS422串口。
单片机中的编码器的功能是:
接收外部输入的编码器信息,通过串口命令进行信息传递,编码器数据位为鼠标位置值位。根据命令不同,进行不同的功能响应,当指令为编码器X位置值更新时,所接收为X值,共24位,当接收Y时,除命令外其他同X。当接收鼠标信息时,分为X高8位,X低8位,Y高8位,Y低8位。根据实际工程需要,在图像板对编码器24位数据值进行译码,译为“XX度XX分XX秒”形式,并在图像上永久显示。
需要说明的是,在本实施例的基础上,图1中的嵌入式跟踪器的主要组成部件为单片机108、FPGA芯片117和DSP芯片110为主要的芯片,现对这三个芯片的功能进行概述。
单片机108,能实现有效的逻辑控制,主要完成串口的控制功能,包括上电初始化TL16C752B芯片,对串口进行收发配置,向相机传送控制命令,向DSP发送目标跟踪命令。向上位机发送目标脱靶量,接收命令码和系统的状态信息。
FPGA芯片进行地址译码,起到对图像数据进行中途传输的作用,同时完成在图像上叠加字符。
DSP芯片实现目标跟踪算法,返回脱靶量和跟踪状态,为伺服的运动提供方位和俯仰。
本实施例中,能够将目标的位置脱靶量以及跟踪状态结果发送至所述上位机,进而上位机能够记录所述目标的位置脱靶量以及跟踪状态。以及不断对相机的方位进行调整,进而控制伺服来引导对目标持续跟踪,使得目标能够在相机的所拍摄的视野内。
可选的,在上述嵌入式跟踪器的实施例的基础上,本发明的另一实施例中提供了一种应用于嵌入式跟踪器的目标跟踪方法,参照图5,可以包括:
S41、FPGA芯片实时接收外部相机通过数字视频解码器输出的待跟踪的视频图像;
S42、所述FPGA芯片从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至DSP芯片;其中,所述图像区域为以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像。
S43、所述DSP芯片根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片;
S44、所述FPGA芯片根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置;
S45、所述FPGA芯片将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示。
进一步,所述FPGA芯片将所述图像区域发送至所述DSP芯片,包括:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;
相应的,所述DSP芯片接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,包括:
接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
本实施例中,通过以FPGA芯片和DSP芯片为主要芯片的嵌入式跟踪器就能够实现可靠稳定的目标跟踪,嵌入式跟踪器能很好的应用于需要小型化嵌入式跟踪的设备平台中。解决了现有技术中在如无人机、机器人、精确制导等平台,无法直接应用计算机上能实现的跟踪软件或算法的问题。该发明提供的嵌入式跟踪器在实际工程项目中有很好的应用,实现了对特定目标的实时跟踪,并将跟踪结果输出到显示设备,还能计算出所跟踪目标的脱靶量。本实施例中的嵌入式跟踪器小巧实用,具有很大的创新性,具有良好的实时处理能力,有着广阔的应用市场和研究价值。
需要说明的是,本实施例中的各个步骤的具体解释说明,请参照上述实施例中的相应说明,在此不再赘述。
可选的,在上述任一应用于嵌入式跟踪器的目标跟踪方法的实施例的基础上,参照图2,所述DSP芯片用于根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
计算每个所述目标子图像与所述目标模板的相关度;
确定计算得到的相关度中数值最大的相关度;
当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值;
将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
可选的,在本实施例的基础上,所述FPGA芯片将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,包括:
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过字符叠加的方式显示在所述待跟踪视频帧的后一帧图像上;
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的像素值与所述待跟踪视频帧的后一帧图像的像素值设置为不同,以使所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的视觉效果与所述待跟踪视频帧的后一帧图像中除所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果以外的区域的视觉效果不同。
本实施例中,能够通过DPS芯片确定目标的位置,进而FPGA芯片将述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示,就能够实现目标跟踪。
需要说明的是,本实施例中的各个步骤的具体解释说明,请参照上述实施例中的相应说明,在此不再赘述。
可选的,在上述任一目标跟踪方法的实施例的基础上,所述DSP芯片用于将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量后,还包括:
所述DSP芯片将确定出的数值最大的相关度对应的所述目标子图像的中心的坐标位置发送给所述FPGA芯片,以使所述FPGA芯片根据所述坐标位置确定所述待跟踪视频帧的后一帧图像的图像区域。
可选的,在本实施例的基础上,所述FPGA芯片将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示后,还包括:
所述FPGA芯片将所述目标的位置脱靶量以及跟踪状态结果发送至上位机,以使所述上位机记录所述目标的位置脱靶量以及跟踪状态。
可选的,在本实施例的基础上,所述DSP芯片接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果后,还包括:
所述DSP芯片根据从上位机接收的外部相机的空间角度信息以及所述目标的位置脱靶量,确定用于使得所述外部相机对所述目标进行跟踪的相机方位控制信息;
所述DSP芯片将所述相机方位控制信息发送至所述FPGA芯片,以使所述FPGA芯片将所述相机方位控制信息通过微控制器发送至外部伺服控制系统。
本实施例中,能够将目标的位置脱靶量以及跟踪状态结果发送至所述上位机,进而上位机能够记录所述目标的位置脱靶量以及跟踪状态。以及不断对相机的方位进行调整,进而控制伺服来引导对目标持续跟踪,使得目标能够在相机的拍摄范围内。
需要说明的是,本实施例中的各个步骤的具体解释说明,请参照上述实施例中的相应说明,在此不再赘述。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种嵌入式跟踪器,其特征在于,包括:
现场可编程逻辑门阵列FPGA芯片和数字信号处理DSP芯片;
所述FPGA芯片,用于实时接收外部相机通过数字视频解码器输出的待跟踪的视频图像,从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至所述DSP芯片、以及接收所述DSP芯片发送的目标的位置脱靶量和跟踪状态结果,根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置,将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示;其中,所述图像区域为以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像;
所述DSP芯片,用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片。
2.根据权利要求1所述的嵌入式跟踪器,其特征在于,所述FPGA芯片用于将所述图像区域发送至所述DSP芯片时,具体用于:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;
相应的,所述DSP芯片,用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
3.根据权利要求1所述的嵌入式跟踪器,其特征在于,所述DSP芯片用于根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果时,具体用于:
将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
计算每个所述目标子图像与所述目标模板的相关度;
确定计算得到的相关度中数值最大的相关度;
当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值;
将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
4.根据权利要求1所述的嵌入式跟踪器,其特征在于,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上时,具体用于:
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过字符叠加的方式显示在所述待跟踪视频帧的后一帧图像上;
将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的像素值与所述待跟踪视频帧的后一帧图像的像素值设置为不同,以使所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果的视觉效果与所述待跟踪视频帧的后一帧图像中除所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果以外的区域的视觉效果不同。
5.根据权利要求3所述的嵌入式跟踪器,其特征在于,所述DSP芯片用于将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量后,还用于:
将确定出的数值最大的相关度对应的所述目标子图像的中心的坐标位置发送给所述FPGA芯片,以使所述FPGA芯片根据所述坐标位置确定所述待跟踪视频帧的后一帧图像的图像区域。
6.根据权利要求1所述的嵌入式跟踪器,其特征在于,所述FPGA芯片用于将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示后,还用于:
将所述目标的位置脱靶量以及跟踪状态结果发送至上位机,以使所述上位机记录所述目标的位置脱靶量以及跟踪状态。
7.根据权利要求1所述的嵌入式跟踪器,其特征在于,所述DSP芯片用于接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果后,还用于:
根据从上位机接收的外部相机的空间角度信息以及所述目标的位置脱靶量,确定用于使得所述外部相机对所述目标进行跟踪的相机方位控制信息;
将所述相机方位控制信息发送至所述FPGA芯片,以使所述FPGA芯片将所述相机方位控制信息通过微控制器发送至外部伺服控制系统。
8.一种应用于嵌入式跟踪器的目标跟踪方法,其特征在于,包括:
FPGA芯片实时接收外部相机通过数字视频解码器输出的待跟踪的视频图像;
所述FPGA芯片从所述视频图像中确定出所要进行跟踪的目标所在的图像区域、将所述图像区域发送至DSP芯片;其中,所述图像区域为以用户进行目标跟踪时点击的目标所在初始图像上的位置点为中心、且图像大小大于跟踪算法中所定义的目标模板的图像大小的矩形图像;
所述DSP芯片根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,并将所述目标的位置脱靶量以及跟踪状态结果发送至所述FPGA芯片;
所述FPGA芯片根据所述目标的位置脱靶量,确定出用于跟踪所述目标的目标跟踪框的位置;
所述FPGA芯片将所述目标的位置脱靶量、所述目标跟踪框以及跟踪状态结果通过叠加字符的方式叠加在所述待跟踪视频帧的后一帧图像上,并输出至显示器进行显示。
9.根据权利要求8所述的目标跟踪方法,其特征在于,所述FPGA芯片将所述图像区域发送至所述DSP芯片,包括:
从所述图像区域中提取出用于为目标跟踪提供数据的图像信息分量;
将所述图像信息分量通过中断的控制方式发送至所述DSP芯片;
相应的,所述DSP芯片接收所述图像区域,根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,包括:
接收所述图像信息分量,根据所述目标模板,确定所述图像信息分量中所述目标的位置脱靶量以及跟踪状态结果。
10.根据权利要求8所述的目标跟踪方法,其特征在于,所述DSP芯片根据所述目标模板,确定所述图像区域中所述目标的位置脱靶量以及跟踪状态结果,包括:
将所述图像区域分割为多个与所述目标模板大小相同的目标子图像;
计算每个所述目标子图像与所述目标模板的相关度;
确定计算得到的相关度中数值最大的相关度;
当所述确定出的数值最大的相关度大于预设数值时,确定所述跟踪状态结果为跟踪;
当所述确定出的数值最大的相关度不大于预设数值时,确定所述跟踪状态结果为丢失;
计算确定出的数值最大的相关度对应的所述目标子图像的中心在所述图像区域中的坐标值;
根据所述坐标值以及所述目标跟踪框的属性信息,计算得到所述目标跟踪框的左上角坐标值和右下角坐标值;其中,所述左上角坐标值和右下角坐标值是以待跟踪的视频图像所在的坐标系下的坐标值;
将所述左上角坐标值和所述右下角坐标值作为所述位置脱靶量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810110370.9A CN108319918B (zh) | 2018-02-05 | 2018-02-05 | 一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810110370.9A CN108319918B (zh) | 2018-02-05 | 2018-02-05 | 一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108319918A true CN108319918A (zh) | 2018-07-24 |
CN108319918B CN108319918B (zh) | 2022-07-08 |
Family
ID=62902748
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810110370.9A Active CN108319918B (zh) | 2018-02-05 | 2018-02-05 | 一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108319918B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109634311A (zh) * | 2018-12-05 | 2019-04-16 | 中国科学院长春光学精密机械与物理研究所 | 一种跟踪记录方法 |
RU2721623C1 (ru) * | 2019-09-30 | 2020-05-21 | Федеральное государственное унитарное предприятие «Государственный научно-исследовательский институт авиационных систем» (ФГУП «ГосНИИАС») | Способ определения мгновенного положения точки промаха беспилотного летательного аппарата по информации угломерного канала |
CN111340849A (zh) * | 2020-03-02 | 2020-06-26 | 烟台远通信息技术有限公司 | 一种目标追踪以及目标脱靶量计算软件系统及软件产品 |
CN112711529A (zh) * | 2020-12-25 | 2021-04-27 | 北京环境特性研究所 | 一种光电跟踪系统目标模拟装置及方法 |
CN113259679A (zh) * | 2021-06-30 | 2021-08-13 | 四川赛狄信息技术股份公司 | 基于国产dsp芯片实现图像压缩的图像处理系统 |
CN114650352A (zh) * | 2022-03-08 | 2022-06-21 | 中国科学院长春光学精密机械与物理研究所 | 应用于cpci计算机的图像跟踪采集装置、图像跟踪采集系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060291695A1 (en) * | 2005-06-24 | 2006-12-28 | Objectvideo, Inc. | Target detection and tracking from overhead video streams |
CN101447075A (zh) * | 2008-12-31 | 2009-06-03 | 天津理工大学 | 基于大广角镜头的fpga+dsp嵌入式多值目标阈值分类跟踪装置 |
CN102096925A (zh) * | 2010-11-26 | 2011-06-15 | 中国科学院上海技术物理研究所 | 一种机动目标的实时闭环预测跟踪方法 |
CN102209205A (zh) * | 2011-06-14 | 2011-10-05 | 中国科学院长春光学精密机械与物理研究所 | 电视跟踪器中的视频叠加显示装置 |
CN102314693A (zh) * | 2011-07-27 | 2012-01-11 | 中国科学院长春光学精密机械与物理研究所 | 双模视频目标识别跟踪系统 |
CN102622769A (zh) * | 2012-03-19 | 2012-08-01 | 厦门大学 | 一种在动态场景下以深度为主导线索的多目标跟踪方法 |
CN103792952A (zh) * | 2014-01-23 | 2014-05-14 | 中国科学院长春光学精密机械与物理研究所 | 用于提高激光发射系统瞄准精度的快速反射镜电控系统 |
CN104615153A (zh) * | 2015-02-09 | 2015-05-13 | 哈尔滨工业大学 | 一种基于tmx320f28335浮点dsp的二轴光电跟踪系统 |
CN106338808A (zh) * | 2016-10-17 | 2017-01-18 | 湖北航天技术研究院总体设计所 | 一种目标跟踪控制系统 |
-
2018
- 2018-02-05 CN CN201810110370.9A patent/CN108319918B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060291695A1 (en) * | 2005-06-24 | 2006-12-28 | Objectvideo, Inc. | Target detection and tracking from overhead video streams |
CN101447075A (zh) * | 2008-12-31 | 2009-06-03 | 天津理工大学 | 基于大广角镜头的fpga+dsp嵌入式多值目标阈值分类跟踪装置 |
CN102096925A (zh) * | 2010-11-26 | 2011-06-15 | 中国科学院上海技术物理研究所 | 一种机动目标的实时闭环预测跟踪方法 |
CN102209205A (zh) * | 2011-06-14 | 2011-10-05 | 中国科学院长春光学精密机械与物理研究所 | 电视跟踪器中的视频叠加显示装置 |
CN102314693A (zh) * | 2011-07-27 | 2012-01-11 | 中国科学院长春光学精密机械与物理研究所 | 双模视频目标识别跟踪系统 |
CN102622769A (zh) * | 2012-03-19 | 2012-08-01 | 厦门大学 | 一种在动态场景下以深度为主导线索的多目标跟踪方法 |
CN103792952A (zh) * | 2014-01-23 | 2014-05-14 | 中国科学院长春光学精密机械与物理研究所 | 用于提高激光发射系统瞄准精度的快速反射镜电控系统 |
CN104615153A (zh) * | 2015-02-09 | 2015-05-13 | 哈尔滨工业大学 | 一种基于tmx320f28335浮点dsp的二轴光电跟踪系统 |
CN106338808A (zh) * | 2016-10-17 | 2017-01-18 | 湖北航天技术研究院总体设计所 | 一种目标跟踪控制系统 |
Non-Patent Citations (1)
Title |
---|
李晓冰等: "多旋翼无人机脱靶量测量技术研究", 《兵器装备工程学报》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109634311A (zh) * | 2018-12-05 | 2019-04-16 | 中国科学院长春光学精密机械与物理研究所 | 一种跟踪记录方法 |
RU2721623C1 (ru) * | 2019-09-30 | 2020-05-21 | Федеральное государственное унитарное предприятие «Государственный научно-исследовательский институт авиационных систем» (ФГУП «ГосНИИАС») | Способ определения мгновенного положения точки промаха беспилотного летательного аппарата по информации угломерного канала |
CN111340849A (zh) * | 2020-03-02 | 2020-06-26 | 烟台远通信息技术有限公司 | 一种目标追踪以及目标脱靶量计算软件系统及软件产品 |
CN112711529A (zh) * | 2020-12-25 | 2021-04-27 | 北京环境特性研究所 | 一种光电跟踪系统目标模拟装置及方法 |
CN113259679A (zh) * | 2021-06-30 | 2021-08-13 | 四川赛狄信息技术股份公司 | 基于国产dsp芯片实现图像压缩的图像处理系统 |
CN114650352A (zh) * | 2022-03-08 | 2022-06-21 | 中国科学院长春光学精密机械与物理研究所 | 应用于cpci计算机的图像跟踪采集装置、图像跟踪采集系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108319918B (zh) | 2022-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108319918A (zh) | 一种嵌入式跟踪器及应用于嵌入式跟踪器的目标跟踪方法 | |
CN110457414B (zh) | 离线地图处理、虚拟对象显示方法、装置、介质和设备 | |
Wagner et al. | Real-time panoramic mapping and tracking on mobile phones | |
Jennings | Robust finger tracking with multiple cameras | |
CN108537721A (zh) | 全景图像的处理方法、装置及电子设备 | |
CN110012209A (zh) | 全景图像生成方法、装置、存储介质及电子设备 | |
CN111832745B (zh) | 数据增广的方法、装置及电子设备 | |
CN109978754A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2015521419A (ja) | コンピュータ生成された3次元オブジェクトとフィルムカメラからの映像フィードとをリアルタイムに混合または合成するシステム | |
CN106797451A (zh) | 具有模型验证和管理的视觉对象跟踪系统 | |
Civera et al. | Structure from motion using the extended Kalman filter | |
Oskiper et al. | Augmented reality binoculars | |
CN110443853A (zh) | 基于双目摄像头的标定方法、装置、终端设备及存储介质 | |
CN107807777B (zh) | 多核嵌入式电视跟踪器人机交互装置及方法 | |
CN106251404A (zh) | 方位跟踪方法、实现增强现实的方法及相关装置、设备 | |
CN111629144B (zh) | 图像采集设备控制方法、装置、计算机设备和存储介质 | |
CN112256627A (zh) | 一种光电跟踪系统高清高帧频实时图像处理平台及方法 | |
CN114782646A (zh) | 房屋模型的建模方法、装置、电子设备和可读存储介质 | |
CN111429518A (zh) | 一种标注方法、装置、计算设备及存储介质 | |
US20130127984A1 (en) | System and Method for Fast Tracking and Visualisation of Video and Augmenting Content for Mobile Devices | |
Khirodkar et al. | Ego-Humans: An Ego-Centric 3D Multi-Human Benchmark | |
CN108875966A (zh) | 一种利用ar技术的机械设备维修用系统及方法 | |
CN115278084A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
WO2023160445A1 (zh) | 即时定位与地图构建方法、装置、电子设备及可读存储介质 | |
Smith et al. | Hand tracking for low powered mobile ar user interfaces |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |