CN109871813B - 一种实时图像跟踪方法及系统 - Google Patents

一种实时图像跟踪方法及系统 Download PDF

Info

Publication number
CN109871813B
CN109871813B CN201910138195.9A CN201910138195A CN109871813B CN 109871813 B CN109871813 B CN 109871813B CN 201910138195 A CN201910138195 A CN 201910138195A CN 109871813 B CN109871813 B CN 109871813B
Authority
CN
China
Prior art keywords
image
tracking
image data
template
calculating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910138195.9A
Other languages
English (en)
Other versions
CN109871813A (zh
Inventor
刘召军
徐保树
张程硕
史志跃
魏东溟
白魁一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenyang Sumboy Intelligent Imaging Technology Co ltd
Original Assignee
Shenyang Sumboy Intelligent Imaging Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenyang Sumboy Intelligent Imaging Technology Co ltd filed Critical Shenyang Sumboy Intelligent Imaging Technology Co ltd
Priority to CN201910138195.9A priority Critical patent/CN109871813B/zh
Publication of CN109871813A publication Critical patent/CN109871813A/zh
Application granted granted Critical
Publication of CN109871813B publication Critical patent/CN109871813B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种实时图像跟踪方法及系统,属于图像处理技术领域,实时图像跟踪方法包括:获取输入的视频信号,采用解码芯片将所述视频信号解析为并行数字信号;将所述并行数字信号解析成标准时序;根据所述标准时序生成图像数据;从所述图像数据中获取位置矢量,根据所述位置矢量计算仿射变换,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置,以实时图像跟踪。通过引入仿射变换,再基于仿射变换进行图像跟踪处理,以避免图像跟踪受到位姿变化、光照变化、尺度变化、背景复杂、遮挡等因素的干扰。另外,本发明中,通过采用预设模板图像能够有效提高图像跟踪的精度。

Description

一种实时图像跟踪方法及系统
技术领域
本发明实施例涉及图像处理技术领域,具体涉及一种实时图像跟踪方法及系统。
背景技术
图像跟踪器主要实现对地面目标的跟踪功能。首先,图像跟踪器接收输入视频,视频可以是可见光和红外热成像。根据控制命令对地面目标进行跟踪;然后,图像跟踪器实时输出目标偏离系统视轴的方位和俯仰误差信号到伺服控制系统;最后将视频图像输出给测控系统和记录仪等设备,用于显示和记录。目前,机载光电平台的图像跟踪系统通常采用嵌入式板卡,主要由视频解码单元、图像预处理和逻辑控制单元、图像数据处理单元、图像存储单元和图像编码单元等部分组成。
本发明人发现,由于在实现计算目标跟踪过程中需要大量的算法计算和视频的解码、编码以及图像的预处理,导致现有跟踪器存在体积偏大,占用空间大,不易携带等缺陷。
发明内容
为此,本发明实施例提供一种实时图像跟踪方法及系统,以解决现有技术中的问题。
为了实现上述目的,本发明的实施方式提供如下技术方案:
在本发明的实施方式的第一方面中,提供了一种实时图像跟踪方法,包括:
获取输入的视频信号,采用解码芯片将所述视频模拟信号解析为并行数字信号;
将所述并行数字信号解析成标准时序,根据所述标准时序生成图像数据;
从所述图像数据中获取位置矢量,根据所述位置矢量计算仿射变换,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置,以实时图像跟踪。
在本发明的又一个实施例中,所述采用解码芯片将所述视频信号解析为并行数字信号,包括:
采用解码芯片将模拟电压信号、低电压差分信号解析为数字信号,并输出所述并行数字信号。
在本发明的又一个实施例中,所述将所述并行数字信号解析成标准时序,包括:
将所述并行数字信号进行解析,得到解析结果,从所述解析结果中获取图像数据有效标识,即同步码,在所述图像数据有效标识,即同步码为预设值时,判定所述解析结果有效,将解析结果作为标准时序。
在本发明的又一个实施例中,所述根据所述标准时序生成图像数据,包括:
从缓存区中获取已缓存的标准时序,根据已缓存的标准时序中的场同步、行同步、有效数据生成图像数据。
在本发明的又一个实施例中,所述从所述图像数据中获取位置矢量,根据所述位置矢量计算仿射变换,包括:
从所述图像数据中获取位置矢量,根据所述位置矢量计算位置矢量的缩放、平移、错切信息,根据所述位置矢量及所述位置矢量的缩放、平移、错切信息计算仿射变换。
在本发明的又一个实施例中,所述方法还包括:
获取预设模板所在位置,根据所述预设模板所在位置在所述图像数据中获取搜索区,在所述搜索区选取的行数超过预设值时,将所述搜索区和所述预设模板按的匹配卷积进行加速处理。
在本发明的实施方式的第二方面中,提供了一种实时图像跟踪系统,包括:
解码芯片,用于获取输入的视频信号,将所述视频信号解析为并行数字信号;
数字解码时序模块,与解码芯片相连,用于将所述并行数字信号解析成标准时序;
数字图像处理模块,与数字解码时序单元相连,用于根据所述标准时序生成图像数据;
跟踪处理模块,与数字图像处理单元连接,用于从所述图像数据中获取位置矢量,根据所述位置矢量计算仿射变换,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置,以实时图像跟踪。
在本发明的又一个实施例中,所述系统包括:
与所述数字解码时序模块连接的数字图像跟踪算法加速模块,用于获取预设模板所在位置,根据所述预设模板所在位置在所述图像数据中获取搜索区,在所述搜索区选取的行数超过预设值时,将所述搜索区和所述预设模板按的匹配卷积进行加速处理。
在本发明的又一个实施例中,所述数字解码时序模块,用于将所述并行数字信号进行解析,得到解析结果,从所述解析结果中获取图像数据有效标识,即同步码,在所述图像数据有效标识,即同步码为预设值时,判定所述解析结果有效,将解析结果作为标准时序。
在本发明的实施方式的第三方面中,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有程序,所述程序用于实现如上所述的实时图像跟踪方法。
根据本发明的实施方式,具有如下优点:通过跟踪处理模块,将逻辑控制与算法处理集合为一体,在跟踪处理模块中,对图像数据采用跟踪匹配算法进行跟踪处理,避免传统的逻辑控制单元和算法处理单元相配合,致使跟踪器体积偏大。进一步地,通过引入仿射变换,再基于仿射变换进行图像跟踪处理,以避免图像跟踪受到位姿变化、光照变化、尺度变化、背景复杂、遮挡等因素的干扰。另外,本发明中,通过采用预设模板图像能够有效提高图像跟踪的精度。
附图说明
为了更清楚地说明本发明的实施方式或现有技术中的技术方案,下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是示例性的,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图引伸获得其它的实施附图。
图1为本发明的一实施例提供的一种实时图像跟踪方法流程图;
图2为本发明的另一实施例提供的一种实时图像跟踪系统结构示意图;
图3为本发明的另一实施例提供的另一种实时图像跟踪系统结构示意图;
图4为本发明的另一实施例提供的又一种实时图像跟踪系统结构示意图。
图中:401为解码芯片,402为数字解码时序模块,403为数字图像处理模块,404为跟踪处理模块。
具体实施方式
以下由特定的具体实施例说明本发明的实施方式,熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本发明的其他优点及功效,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明第一方面,提供一种实时图像跟踪方法,如图1所示,包括:
步骤201:获取输入的视频信号,采用解码芯片将视频信号解析为并行数字信号;
在本发明实施例中,获取模拟标清视频,包括HDMI标准1080高清视频。
在本发明实施例中,解码芯片包括:模拟标清视频解码芯片ADV7280,HDMI高清视频解码芯片ADV7610,SDI高清视频解码芯片GS2971,将视频模拟信号解码为并行输出的并行数字信号,其中,视频模拟信号包括模拟电压信号、LVDS(Low-Voltage DifferentialSignaling,低电压差分信号)等信号。
步骤202:将并行数字信号解析成标准时序;
在本发明实施例中,将并行数字信号解析出标准时序,标准时序中包含图像数据有效标识DE,图像行同步信号HSYNC,图像场同步VSYNC,以及图像数据DATA。通常解码芯片输出的数字信号符合一定的标准规范,例如8位的BT656,16位的BT1120等,高清解码时序模块根据数据中的EAV和SAV解析出相应的图像数据有效信号DE,图像行同步信号HSYNC,图像场同步信号VSYNC,以及图像数据DATA,输出信号符合CEA861时序规范,便于后期图像处理算法。
在本发明实施例中,对数字信号进行解析,得到解析结果,从解析结果中获取图像数据有效标识,即同步码,在图像数据有效标识,即同步码为预设值时,判定解析结果有效,将解析结果作为标准时序。
步骤203:根据标准时序生成图像数据;
在本发明实施例中,使用AXI4_MASTER总线协议将输入图像的标准时序经过ZYNQ的HP口传输到LPDDR2中进行缓存,使得缓存的数据能够生成对应的图像数据。
步骤204:从图像数据中获取位置矢量,根据位置矢量计算仿射变换,采用跟踪匹配算法根据仿射变换计算图像数据中与预设模板图像最佳相似位置。
在本发明实施例中,从图像数据中获取位置矢量,根据位置矢量计算位置矢量的缩放、平移、错切信息,根据所述位置矢量及所述位置矢量的缩放、平移、错切信息计算仿射变换。从图像数据中假设选好的模板为T(x,y),其中(x,y)表示位置矢量。在图像视频序列I(x,y)中利用归一化互相关计算与模板图像T(x,y)最佳相似的位置,其中,在本发明实施例中,为避免受到位姿变化、光照变化、尺度变化、背景复杂、遮挡等因素的干扰,引入仿射变换W(x,y;P),
Figure BDA0001977669200000061
其中,P为仿射变换矩阵,p1为图像在x方向的缩放,p2为图像在y方向的缩放,p3为图像在x方向的平移,p4为图像在x方向的错切,p5为图像在y方向的缩放,p6为图像在y方向的平移。
考虑到场景的不同,可以根据图像结构张量自适应选取哪种模板,结构张量(structure tensor)主要用于区分图像的平坦区域、边缘区域与角点区域。分别用32×32、64×64和128×128三种尺寸计算最大特征值,从中选取最大的最大特征值所对应的模板尺寸,作为预设模板图像,使得具有复杂图像结构的模板,鲁棒性也更好,更加有利于跟踪的精度。
在本发明实施例中,通过分析互相关算法,可以利用FPGA并行算法的优势,对跟踪匹配算法进行加速,本系统中采用的模板大小为32×32,搜索区大小为64×64,在成像正常的情况下,软件系统会根据使用人控制是否进入跟踪任务,软件根据十字准星的位置进行模板的获取,并将此位置的起始行和列的位置传输给加速模块,同时启动硬件加速模块,首先加速模块根据接收到的位置在原始图像中选取搜索区,并从DDR中读取模板图像,在搜索区选取的行数超过32行时就开始计算,模块先将搜索区和模板按行分别存在ZYNQ的分布式存储器中,开始计算后按列的形式读取32个数据与模板进行计算,利用32个DSP专用乘法器同时进行计算,得到的结果以寄存器的方式存储,然后依次按列移动可以得到多个数据,如此循环按行移动可得到33×33个计算数据,将此数据存储在BRAM存储器中,然后再利用AXI总线传输到软件的DDR中,便用于后续算法处理。此硬件加速模块可重复使用,即在资源允许的情况下可调用多个硬件加速模块,使匹配搜索区扩大而不增加计算时间,大大减少了整体算法执行的时间,使系统满足实时性的要求。
利用ZYNQ对模板32×32和搜索区64×64的匹配卷积进行加速处理,在100M的时钟下进行处理,处理一帧的速度仅用0.4ms,大大节省了系统时间。
在本发明实施例中,由于解码芯片解码出的数据为YCbCr 4:2:2的数据格式,而海思通用接收端口支持10bit的BAYER RGB格式的5对LVDS传输(包括时钟),因此需要先将数字图像转换为RGB图像,然后再转换为4对LVDS数据。
ZYNQ将LVDS视频数据发送给Hi3516,Hi3516内集成智能分析加速引擎,支持3D去噪、图像增强、边缘增强等图像处理功能,完成H.264图像压缩存储于SD卡中,同时可以输出网络图像。
基于输入的标准输入时序,在数据上加载用户需要显示的OSD信息、跟踪十字光标、跟踪框、GPS信息,版本信息,当前状态等,可根据要求显示不同颜色。通过标准的端口,用户可根据需要连接到不同设备上,如高清显示器,模拟显示器,高清图像,网口图传等用于观察的设备。
在本发明第二方面,提供一种实时图像跟踪系统,如图2所示,包括:
解码芯片401,用于获取输入的视频信号,将视频信号解析为并行数字信号;
在本发明实施例中,解码芯片401,用于获取模拟标清视频,包括HDMI标准1080高清视频。
在本发明实施例中,解码芯片401包括:模拟标清视频解码芯片ADV7280,HDMI高清视频解码芯片ADV7610,SDI高清视频解码芯片GS2971,将视频模拟信号解码为并行输出的并行数字信号,其中,视频模拟信号包括模拟电压信号、LVDS(Low-Voltage DifferentialSignaling,低电压差分信号)等信号。
数字解码时序模块402,与解码芯片401相连,用于将并行数字信号解析成标准时序;
在本发明实施例中,数字解码时序模块402将并行数字信号解析出标准时序,标准时序中包含图像数据有效标识DE,图像行同步信号HSYNC,图像场同步VSYNC,以及图像数据DATA。通常解码芯片输出的数字信号符合一定的标准规范,例如8位的BT656,16位的BT1120等,高清解码时序模块根据数据中的EAV和SAV解析出相应的图像数据有效信号DE,图像行同步信号HSYNC,图像场同步信号VSYNC,以及图像数据DATA,输出信号符合CEA861时序规范,便于后期图像处理算法。
在本发明实施例中,对并行数字信号进行解析,得到解析结果,从解析结果中获取图像数据有效标识,即同步码,在图像数据有效标识,即同步码为预设值时,判定解析结果有效,将解析结果作为标准时序。
数字图像处理模块403,与数字解码时序模块402相连,用于根据标准时序生成图像数据;
在本发明实施例中,系统使用AXI4_MASTER总线协议将输入图像的标准时序经过ZYNQ的HP口传输到LPDDR2中进行缓存,使得缓存的数据能够生成对应的图像数据。
跟踪处理模块404,与数字图像处理模块403连接,用于从图像数据中获取位置矢量,根据位置矢量计算仿射变换,采用跟踪匹配算法根据仿射变换计算图像数据中与预设模板图像最佳相似位置。
在本发明实施例中,跟踪处理模块404,用于从图像数据中获取位置矢量,根据位置矢量计算位置矢量的缩放信息,根据位置矢量及位置矢量的缩放信息计算反射变换。从图像数据中假设选好的模板为T(x,y),其中(x,y)表示位置矢量。在图像视频序列I(x,y)中利用归一化互相关计算与模板图像T(x,y)最佳相似的位置,其中,在本发明实施例中,为避免受到位姿变化、光照变化、尺度变化、背景复杂、遮挡等因素的干扰,引入仿射变换W(x,y;P),
Figure BDA0001977669200000091
其中,P为仿射变换矩阵,p1为图像在x方向的缩放,p2为图像在y方向的缩放,p3为图像在x方向的平移,p4为图像在x方向的错切,p5为图像在y方向的缩放,p6为图像在y方向的平移。
考虑到场景的不同,可以根据图像结构张量自适应选取哪种模板,结构张量(structure tensor)主要用于区分图像的平坦区域、边缘区域与角点区域。分别用32×32、64×64和128×128三种尺寸计算最大特征值,从中选取最大的最大特征值所对应的模板尺寸,作为预设模板图像,使得具有复杂图像结构的模板,鲁棒性也更好,更加有利于跟踪的精度。
在本发明实施例中,通过分析互相关算法,可以利用FPGA并行算法的优势,对跟踪匹配算法进行加速,本系统中采用的模板大小为32×32,搜索区大小为64×64,在成像正常的情况下,软件系统会根据使用人控制是否进入跟踪任务,软件根据十字准星的位置进行模板的获取,并将此位置的起始行和列的位置传输给加速模块,同时启动硬件加速模块,首先加速模块根据接收到的位置在原始图像中选取搜索区,并从DDR中读取模板图像,在搜索区选取的行数超过32行时就开始计算,模块先将搜索区和模板按行分别存在ZYNQ的分布式存储器中,开始计算后按列的形式读取32个数据与模板进行计算,利用32个DSP专用乘法器同时进行计算,得到的结果以寄存器的方式存储,然后依次按列移动可以得到多个数据,如此循环按行移动可得到33×33个计算数据,将此数据存储在BRAM存储器中,然后再利用AXI总线传输到软件的DDR中,便用于后续算法处理。此硬件加速模块可重复使用,即在资源允许的情况下可调用多个硬件加速模块,使匹配搜索区扩大而不增加计算时间,大大减少了整体算法执行的时间,使系统满足实时性的要求。
利用ZYNQ对模板32×32和搜索区64×64的匹配卷积进行加速处理,在100M的时钟下进行处理,处理一帧的速度仅用0.4ms,大大节省了系统时间。
在本发明实施例中,由于解码芯片解码出的数据为YCbCr 4:2:2的数据格式,而海思通用接收端口支持10bit的BAYER RGB格式的5对LVDS传输(包括时钟),因此需要先将数字图像转换为RGB图像,然后再转换为4对LVDS数据。
ZYNQ将LVDS视频数据发送给Hi3516,Hi3516内集成智能分析加速引擎,支持3D去噪、图像增强、边缘增强等图像处理功能,完成H.264图像压缩存储于SD卡中,同时可以输出网络图像。
基于输入的标准输入时序,在数据上加载用户需要显示的OSD信息、跟踪十字光标、跟踪框、GPS信息,版本信息,当前状态等,可根据要求显示不同颜色。通过标准的端口,用户可根据需要连接到不同设备上,如高清显示器,模拟显示器,高清图像,网口图传等用于观察的设备。
在本发明另一实施例中,提供一种实时图像跟踪系统,如图3所示,包括:
电源和视频编解码板、海思视频压缩和SD卡存储板、海思视频压缩和SD卡存储板,电源和视频编解码板中电源为系统提供不同标准电压,视频解码部分为对应不同输入视频而使用不同解码芯片,如模拟标清输入为ADV7280,高清HDMI标准输入为ADV7610,SDI高清输入为GS2971等,如模拟标清输出为ADV7390,高清HDMI标准输出为ADV7511,SDI高清输入为GS2972等。海思视频压缩和SD卡存储板实现视频图像压缩及存储、网络传输,ZYNQ视频处理和DDR2存储板实现输入图像缓存,图像目标识别及跟踪,外部控制等功能,系统集成度高,体积小,市场前景广泛。
在本发明另一实施例中,提供一种实时图像跟踪系统,如图4所示,包括:
解码芯片用于获取视频模拟信号,将视频模拟信号解析成数字信号。
其中,视频信号包括HDMI标准1080高清视频,串行数字接口(SDI,Serial DigitalInterface),SONY可见光相机标准LVDS视频;
模拟标清视频解码芯片ADV7280,HDMI高清视频解码芯片ADV7610,SDI高清视频解码芯片GS2971,将模拟电压信号或者LVDS等信号解码为并行输出的数字信号;
编码芯片,包括模拟标清视频解码芯片ADV7390,HDMI高清视频解码芯片ADV7511,SDI高清视频解码芯片GS2972,将并行数字信号转换为模拟电压信号或者LVDS等信号输出;
数字解码时序,用于将解码芯片解析的数字信号解析出标准时序,标准时序中包含图像数据有效DE,图像行同步HSYNC,图像场同步VSYNC,以及图像数据DATA,一般解码芯片输出的数字信号符合一定的标准规范,如8位的BT656,16位的BT1120等,高清解码时序模块根据数据中的EAV和SAV解析出相应的图像数据有效DE,图像行同步HSYNC,图像场同步VSYNC,以及图像数据DATA,输出信号符合CEA861时序规范,便于后期图像处理算法。
数字图像处理,用于通过AXI4_MASTER总线协议将输入图像经过ZYNQ的HP口传输到LPDDR2中进行缓存,便于SOC算法中提取图像数据。
ZYNQ SOC算法处理,用于采用的Xilinx公司的XC7Z020-400-1,主要实现编解码芯片IIC寄存器的配置,与用户的UART交互和OSD显示,以及跟踪算法的最终实现返回偏移量等。具体实现如下,本系统中采用的跟踪算法是归一化相关模板跟踪匹配算法,假设选好的模板为T(x,y),其中(x,y)表示位置矢量。在图像视频序列I(x,y)中利用归一化互相关计算与模板图像T(x,y)最佳相似的位置,考虑受到位姿变化、光照变化、尺度变化、背景复杂、遮挡等因素的干扰,因此本项目引入仿射变换W(x,y;P):
Figure BDA0001977669200000111
根据仿射变换计算归一化相关模板跟踪匹配算法的优化方程结果,即跟踪目标在新视频帧中的位置,通过Lucas-Kanade算法迭代求解,得到最后的跟踪目标在新视频帧中的位置的值与模板图像和原始图像有关,而选取模板时,考虑到场景的不同,可以根据图像结构张量自适应选取哪种模板,结构张量(structure tensor)主要用于区分图像的平坦区域、边缘区域与角点区域。此处的张量就是一个关于图像的结构矩阵,根据图像的水平与垂直梯度,求结构矩阵的特征值,最大特征值表征了图像结构的复杂程度。分别用32×32、64×64和128×128三种尺寸计算最大特征值,选取最大的最大特征值所对应的模板尺寸,这是因为具有复杂图像结构的模板,更加有利于跟踪的精度,鲁棒性也更好。
数字图像跟踪算法加速模块,通过分析互相关算法,可以利用FPGA并行算法的优势,对跟踪匹配算法进行加速,本系统中采用的模板大小为32×32,搜索区大小为64×64,在成像正常的情况下,软件系统会根据使用人控制是否进入跟踪任务,软件根据十字准星的位置进行模板的获取,并将此位置的起始行和列的位置传输给加速模块,同时启动硬件加速模块,首先加速模块根据接收到的位置在原始图像中选取搜索区,并从DDR中读取模板图像,在搜索区选取的行数超过32行时就开始计算,模块先将搜索区和模板按行分别存在ZYNQ的分布式存储器中,开始计算后按列的形式读取32个数据与模板进行计算,利用32个DSP专用乘法器同时进行计算,得到的结果以寄存器的方式存储,然后依次按列移动可以得到多个数据,如此循环按行移动可得到33×33个计算数据,将此数据存储在BRAM存储器中,然后再利用AXI总线传输到软件的DDR中,便用于后续算法处理。此硬件加速模块可重复使用,即在资源允许的情况下可调用多个硬件加速模块,使匹配搜索区扩大而不增加计算时间,大大减少了整体算法执行的时间,使系统满足实时性的要求。
利用ZYNQ对模板32×32和搜索区64×64的匹配卷积进行加速处理,在100M的时钟下进行处理,处理一帧的速度仅用0.4ms,并且不影响SOC进行其他处理,大大节省了系统时间。
数字图像转换为LVDS,由于解码芯片解码出的数据为YCbCr 4:2:2的数据格式,而海思通用接收端口支持10bit的BAYER RGB格式的5对LVDS传输(包括时钟),因此需要先将数字图像转换为RGB图像,然后再转换为4对LVDS数据。
海思数字图像压缩,ZYNQ将LVDS视频数据发送给Hi3516,Hi3516内集成智能分析加速引擎,支持3D去噪、图像增强、边缘增强等图像处理功能,完成H.264图像压缩存储于SD卡中,同时可以输出网络图像。
数字图像显示模块,基于输入的标准输入时序,在数据上加载用户需要显示的OSD信息、跟踪十字光标、跟踪框、GPS信息,版本信息,当前状态等,可根据要求显示不同颜色。通过标准的端口,用户可根据需要连接到不同设备上,如高清显示器,模拟显示器,高清图像,网口图传等用于观察的设备。
虽然,上文中已经用一般性说明及具体实施例对本发明作了详尽的描述,但在本发明基础上,可以对之作一些修改或改进,这对本领域技术人员而言是显而易见的。因此,在不偏离本发明精神的基础上所做的这些修改或改进,均属于本发明要求保护的范围。

Claims (3)

1.一种实时图像跟踪方法,其特征在于,包括:
获取输入的视频信号,采用解码芯片将所述视频信号解析为并行数字信号;
将所述并行数字信号解析成标准时序;
根据所述标准时序生成图像数据;
从所述图像数据中获取位置矢量,根据所述位置矢量计算位置矢量的缩放、平移、错切信息,根据所述位置矢量及所述位置矢量的缩放、平移、错切信息计算仿射变换,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置,以实时图像跟踪;
获取预设模板所在位置,根据所述预设模板所在位置在所述图像数据中获取搜索区,在所述搜索区选取的行数超过预设值时,将所述搜索区和所述预设模板基于匹配卷积进行加速处理;
其中,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置包括:从图像数据中假设选好的模板图像为T(x,y),其中(x,y)表示位置矢量;在图像视频序列I(x,y)中利用归一化互相关计算与模板图像T(x,y)最佳相似的位置;
获取预设模板包括:根据图像结构张量自适应选取模板,结构张量用于区分图像的平坦区域、边缘区域与角点区域,分别用32×32、64×64和128×128三种尺寸计算最大特征值,从中选取最大的最大特征值所对应的尺寸模板,作为预设模板图像的尺寸;
所述将所述搜索区和所述预设模板按匹配卷积进行加速处理,包括:通过分析互相关算法,利用FPGA并行算法对所述跟踪匹配算法进行加速。
2.一种实时图像跟踪系统,其特征在于,所述系统包括:
解码芯片,用于获取输入的视频信号,将所述视频信号解析为并行数字信号;
数字解码时序模块,与解码芯片相连,用于将所述并行数字信号解析成标准时序;
数字图像处理模块,与数字解码时序模块相连,用于根据所述标准时序生成图像数据;
跟踪处理模块,与数字图像处理模块连接,用于从所述图像数据中获取位置矢量,根据所述位置矢量计算位置矢量的缩放、平移、错切信息,根据所述位置矢量及所述位置矢量的缩放、平移、错切信息计算仿射变换,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置,以实时图像跟踪;
与所述数字解码时序模块连接的数字图像跟踪算法加速模块,用于获取预设模板所在位置,根据所述预设模板所在位置在所述图像数据中获取搜索区,在所述搜索区选取的行数超过预设值时,将所述搜索区和所述预设模板按匹配卷积进行加速处理;
其中,采用跟踪匹配算法根据所述仿射变换计算图像数据中与预设模板图像最佳相似位置包括:
从图像数据中假设选好的模板图像为T(x,y),其中(x,y)表示位置矢量;
在图像视频序列I(x,y)中利用归一化互相关计算与模板图像T(x,y)最佳相似的位置;跟踪处理模块,将逻辑控制与算法处理集合为一体,在跟踪处理模块中,对图像数据采用跟踪匹配算法进行跟踪处理;
获取预设模板包括:根据图像结构张量自适应选取模板,结构张量用于区分图像的平坦区域、边缘区域与角点区域,分别用32×32、64×64和128×128三种尺寸计算最大特征值,从中选取最大的最大特征值所对应的尺寸模板,作为预设模板图像的尺寸;
所述将所述搜索区和所述预设模板按匹配卷积进行加速处理,包括:通过分析互相关算法,利用FPGA并行算法对所述跟踪匹配算法进行加速。
3.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有程序,所述程序用于实现如权利要求1所述的实时图像跟踪方法。
CN201910138195.9A 2019-02-25 2019-02-25 一种实时图像跟踪方法及系统 Active CN109871813B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910138195.9A CN109871813B (zh) 2019-02-25 2019-02-25 一种实时图像跟踪方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910138195.9A CN109871813B (zh) 2019-02-25 2019-02-25 一种实时图像跟踪方法及系统

Publications (2)

Publication Number Publication Date
CN109871813A CN109871813A (zh) 2019-06-11
CN109871813B true CN109871813B (zh) 2021-11-26

Family

ID=66919204

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910138195.9A Active CN109871813B (zh) 2019-02-25 2019-02-25 一种实时图像跟踪方法及系统

Country Status (1)

Country Link
CN (1) CN109871813B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110995960A (zh) * 2019-10-18 2020-04-10 凯迈(洛阳)测控有限公司 一种基于fpga的机载吊舱实时图像场景锁定装置及方法
CN112991382B (zh) * 2019-12-02 2024-04-09 中国科学院国家空间科学中心 一种基于pynq框架的异构视觉目标跟踪系统及方法
CN111652151B (zh) * 2020-06-04 2023-12-19 北京环境特性研究所 一种红外弱小目标跟踪方法
CN112330524B (zh) * 2020-10-26 2024-06-18 沈阳上博智像科技有限公司 一种在图像跟踪系统中快速实现卷积的装置和方法
CN114845005A (zh) * 2022-03-31 2022-08-02 北京航天控制仪器研究所 一种智能图像跟踪压缩存储器

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103095996A (zh) * 2013-01-25 2013-05-08 西安电子科技大学 基于时空显著性检测的多传感器视频融合方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080073933A (ko) * 2007-02-07 2008-08-12 삼성전자주식회사 객체 트래킹 방법 및 장치, 그리고 객체 포즈 정보 산출방법 및 장치
CN101770568A (zh) * 2008-12-31 2010-07-07 南京理工大学 基于仿射不变点及光流计算的目标自动识别和跟踪方法
CN103200394B (zh) * 2013-04-07 2016-04-20 南京理工大学 基于dsp的目标图像实时传输与跟踪方法及其装置
CN103838244B (zh) * 2014-03-20 2016-08-17 湖南大学 基于四轴飞行器的便携式目标跟踪方法及系统
CN208424534U (zh) * 2018-05-07 2019-01-22 沈阳上博智像科技有限公司 成像仪的机芯组件及成像仪

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103095996A (zh) * 2013-01-25 2013-05-08 西安电子科技大学 基于时空显著性检测的多传感器视频融合方法

Also Published As

Publication number Publication date
CN109871813A (zh) 2019-06-11

Similar Documents

Publication Publication Date Title
CN109871813B (zh) 一种实时图像跟踪方法及系统
US11475238B2 (en) Keypoint unwarping for machine vision applications
US10116915B2 (en) Cleaning of depth data by elimination of artifacts caused by shadows and parallax
US10306254B2 (en) Encoding free view point data in movie data container
US10158939B2 (en) Sound Source association
US8576281B2 (en) Smart network camera system-on-a-chip
CN109816769A (zh) 基于深度相机的场景地图生成方法、装置及设备
US11182908B2 (en) Dense optical flow processing in a computer vision system
US10861243B1 (en) Context-sensitive augmented reality
CN108322722B (zh) 基于增强现实的图像处理方法、装置及电子设备
US20170091577A1 (en) Augmented reality processing system and method thereof
CN111104960B (zh) 一种基于毫米波雷达和机器视觉的手语识别方法
KR101173559B1 (ko) 비디오 동영상의 움직이는 다중 객체 자동 분할 장치 및 방법
KR101366776B1 (ko) 영상 객체 검출 장치 및 그 방법
CN109359556A (zh) 一种基于低功耗嵌入式平台的人脸检测方法及系统
CN111914753A (zh) 基于深度学习的低功耗智能枪瞄图像处理系统及处理方法
CN102025979A (zh) 一种基于双dsp的红外视频实时增强显示装置
US11682212B2 (en) Hierarchical data organization for dense optical flow processing in a computer vision system
CN108460794B (zh) 一种双目立体红外显著目标检测方法及系统
CN103167306A (zh) 一种基于图像匹配的高分辨率深度图实时提取装置及方法
CN109708662B (zh) 一种基于目标识别的高帧频高精度注入式星图仿真测试平台
Chan et al. On the hardware/software design and implementation of a high definition multiview video surveillance system
CN104185069A (zh) 一种台标识别方法及其识别系统
TW201320727A (zh) 影像處理裝置、影像處理方法以及記錄媒體
CN115439509A (zh) 一种多目标跟踪方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant