CN103345765B - 基于dsp+fpga的移动平台下运动目标检测装置及其方法 - Google Patents

基于dsp+fpga的移动平台下运动目标检测装置及其方法 Download PDF

Info

Publication number
CN103345765B
CN103345765B CN201310304621.4A CN201310304621A CN103345765B CN 103345765 B CN103345765 B CN 103345765B CN 201310304621 A CN201310304621 A CN 201310304621A CN 103345765 B CN103345765 B CN 103345765B
Authority
CN
China
Prior art keywords
vector
fpga
dsp
fee
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201310304621.4A
Other languages
English (en)
Other versions
CN103345765A (zh
Inventor
陈海欣
顾国华
尹章芹
杨陈晨
钱惟贤
陈钱
徐富元
任侃
路东明
汪鹏程
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201310304621.4A priority Critical patent/CN103345765B/zh
Publication of CN103345765A publication Critical patent/CN103345765A/zh
Application granted granted Critical
Publication of CN103345765B publication Critical patent/CN103345765B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种基于DSP+FPGA的移动平台下运动目标检测装置及其方法。该装置包括呈三明治结构的电源接口混合板、FPGA预处理板和DSP图像处理板,图像传感器接入FPGA预处理板,FPGA预处理板和DSP图像处理板分别通过视频接口接入显示器,且分别通过网络接口接入网关。方法如下:FPGA预处理板获取图像传感器采集的图像数据,对其进行角点检测等预处理后输入DSP图像处理板;DSP图像处理板以摄像机光心为中心建立坐标系,将移动平台下运动目标检测转换成静止平台下场景全局运动与运动目标独立运动;通过FEE快速极线估计确定FEE稠密隶属度,最终完成运动目标检测并将结果发送至显示器。本发明装置可以在移动平台下实现运动目标的检测,具有精度高、稳定性强的优点。

Description

基于DSP+FPGA的移动平台下运动目标检测装置及其方法
一、技术领域
本发明属于数字图像处理与模式识别领域,特别是一种基于DSP+FPGA的移动平台下运动目标检测装置及其方法。
二、背景技术
自动运动目标检测技术是目标搜索与跟踪系统中的关键技术,为后续航迹关联、目标识别等技术提供了初步的信息。在传统的运动目标检测系统中,摄像机通常是静止的,并广泛应用于视频监控、交通检测等系统中,然而在车载手持等移动平台下,三维场景会产生视差的问题,此时就需要对场景视差进行有效的估计。
传统方法一般是利用运动平台下图像间的对极几何关系,如平面单应矩阵、基础矩阵以及三焦点张量等,以此来补偿或估计摄像机的运动。其中,单应矩阵利用同一平面上匹配点对之间的映射关系,特别适用于场景视差几乎可以忽略无人机航拍等情况;基础矩阵利用图像匹配点对间的射极几何关系来检测运动目标;三焦点张量利用的多视点图像由两视图增加到三视图,代表图像之间不以场景结构为转移的内在射影几何关系的数学量也由基本矩阵变成了三焦点张量,但计算更为复杂。
但是以上传统方法需要几何信息已知的参照标定物,基于主动视觉的标定方法需要利用精准的云台等硬件平台随时提供摄像机的方位信息,对硬件要求极高,不适用于便携式摄像机场合;基于自标定的方法如基本矩阵、三视角张量,虽然对标定场景和标定仪器要求不高,但往往工作量大、鲁棒性差、精确度不高。
三、发明内容
本发明的目的在于提供一种精度高、稳定性强的基于DSP+FPGA的移动平台下运动目标检测装置及其方法,解决在车载手持等移动平台下,三维场景会产生视差的问题,对运动目标进行实时高效的检测。
实现本发明目的的技术解决方案为,一种基于DSP+FPGA的移动平台下运动目标检测装置,包括电源接口混合板、FPGA预处理板、DSP图像处理板、网关、显示器、图像传感器和电源,其中电源接口混合板上设有模式选择开关,FPGA预处理板上设有第一视频接口和第一网络接口,DSP图像处理板上设有第二视频接口和第二网络接口;
所述电源接口混合板、FPGA预处理板、DSP图像处理板通过板级接插件相连且呈三明治结构,图像传感器的信号输出端通过第一视频接口与FPGA预处理板的视频输入端连接,FPGA预处理板的视频输出端通过第一视频接口接入显示器,FPGA预处理板的网络信号输出端通过第一网络接口接入网关;DSP图像处理板的视频输出端通过第二视频接口接入显示器,DSP图像处理板的网络信号输出端通过第二网络接口接入网关;电源分别接入电源接口混合板、图像传感器、网关和显示器的电源输入端;
电源给装置上电后,图像传感器将采集到的图像数据通过第一视频接口输入FPGA预处理板,FPGA预处理板对采集到的图像数据进行模数转换以及数字图像预处理,并将预处理后的图像数据通过第一视频接口输出至显示器,同时将预处理后的图像数据通过板级接插件输入至DSP图像处理板,DSP图像处理板对输入的图像数据进行处理,并将处理结果通过第二视频接口输出至显示器。
一种基于DSP+FPGA的移动平台下运动目标检测方法,包括以下步骤:
步骤1,电源给装置上电后,电源接口混合板将转换后的电源通过板级接插件依次接入FPGA预处理板和DSP图像处理板;
步骤2,通过模式选择开关选择视频输入模式、以及FPGA预处理板和DSP图像处理板的通信接口模式;
步骤3,图像传感器采集原始图像数据并输出至FPGA预处理板,FPGA预处理板对原始图像数据进行A/D转换和时序恢复,获得大小为Height×Width的图像并记为fk(x,y),其中Height、Width均为正整数,x为行号且0≤x≤Height-1,y为列号且0≤y≤Width-1,k为帧号且k=1,2,3,…;
步骤4,FPGA预处理板对时序恢复后的图像fk(x,y)进行Harris角点检测,并将角点检测结果以hk(x,y)表示,以如下矩阵Ψ的形式发送给DSP图像处理板:
步骤5,DSP图像处理板对Harris角点检测结果数据矩阵Ψ进行金字塔光流处理,获得第k帧图像中每个角点(xk,yk)处的光流运动场从而确定第k+1帧图像中对应角点像素坐标(xk+1,yk+1),其中表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量、表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量;
步骤6,建立快速极线模型FEE(FastEstimationEstimate):以图像传感器的透镜光心为原点O建立坐标系,其中Z轴平行于透镜光轴,X轴、Y轴均平行于图像传感器的像平面,记物平面场景坐标为M(X,Y,Z),像平面场景坐标为m(x,y,z);则三维空间中点的整体运动包括旋转运动和平移运动,其中旋转运动以角速度绕轴旋转,平移运动以矢量平移,分别为角速度在X轴、Y轴、Z轴的分量,分别为平移运动矢量在X轴、Y轴、Z轴的分量;快速极线模型FEE方程,如下式所示:
因此,极线向量输入向量 P _ Vector = y k 2 - y k + 1 2 y k - y k + 1 x k - x k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 ;
步骤7,通过对步骤6中输入向量P_Vector进行正规化变换,确定极线向量FEE_Vector;假设快速极线模型FEE方程中输入向量P_Vector被向量替换,代入P_VectorT.FEE_Vector=0,得到方程其中是变换矩阵T的反转置逆矩阵,从而得出与向量对应的极线向量进而确定极线向量FEE_Vector;
步骤8,确定第k帧图像中角点(xk,yk)对应极线向量FEE_Vector的隶属度函数,将图像像素划分为运动目标IMO和静止场景ISO,完成目标检测;
步骤9,将目标检测结果实时通过第二视频接口输出至显示器、且通过第二网络接口输入网关;并返回步骤3,对采集到的下一帧图像进行处理。
本发明与现有技术相比,其显著优点是:(1)装置可以安装在移动平台下,无需高精度云台、陀螺仪等笨重的设备实现运动目标检测;(2)系统依据快速极线估计(FastEstimationEstimate,FEE)法,补偿相机运动引起的整体运动,在保证准确性与鲁棒性的前提下,大大提升了处理速度,解决了场景运动估计工作量大的问题;(3)系统能实时检测运动目标,且稳定性强,帧频为25pf/s。
四、附图说明
图1是本发明基于DSP+FPGA的移动平台下运动目标检测装置的结构示意图。
图2是本发明基于DSP+FPGA的移动平台下运动目标检测装置的检测方法流程图。
图3是本发明基于DSP+FPGA的移动平台下运动目标检测装置的三维空间点绕光心旋转示意图。
图4是本发明基于DSP+FPGA的移动平台下运动目标检测装置的单目标检测结果图,其中(a)为第k帧图像,(b)为第k+1帧图像,(c)为Harris角点匹配的结果,(d)为FEE的残差,(e)为FEE残差图,(f)为FEE运动目标检测结果。
图5是本发明基于DSP+FPGA的移动平台下运动目标检测装置的多目标检测结果图,其中(a)为第k帧图像,(b)为第k+1帧图像,(c)为Harris角点匹配的结果,(d)为FEE的残差,(e)为FEE残差图,(f)为FEE运动目标检测结果。
图6是本发明基于DSP+FPGA的移动平台下运动目标检测装置的FEE线性估计法的处理时间对比图。
图7是本发明基于DSP+FPGA的移动平台下运动目标检测装置的FEERANSAC估计法处理时间对比图。
五、具体实施方式
下面结合附图及具体实施例对本发明作出进一步详细说明。
本发明基于DSP+FPGA的移动平台下运动目标检测主要是利用FPGA强大的并行能力与多核DSP强大的数据处理能力进行图像处理,基于射极几何的原理,从特征点速度场的角度,重新建立相应的数学模型,根据场景的运动特征,最终快速估计极线,实现运动目标的检测,实验结果证明该方法的有效性,硬件平台支持通信协议丰富,具有可重复利用性,尤其适用于研发、测试等场合。
结合图1,本发明基于DSP+FPGA的移动平台下运动目标检测装置,包括电源接口混合板1、FPGA预处理板2、DSP图像处理板3、网关4、显示器5、图像传感器6和电源7,其中电源接口混合板1上设有模式选择开关8,FPGA预处理板2上设有第一视频接口21和第一网络接口22,DSP图像处理板3上设有第二视频接口31和第二网络接口32;所述电源接口混合板1、FPGA预处理板2、DSP图像处理板3通过板级接插件9相连且呈三明治结构,图像传感器6的信号输出端通过第一视频接口21与FPGA预处理板2的视频输入端连接,FPGA预处理板2的视频输出端通过第一视频接口21接入显示器5,FPGA预处理板2的网络信号输出端通过第一网络接口22接入网关4;DSP图像处理板3的视频输出端通过第二视频接口31接入显示器5,DSP图像处理板3的网络信号输出端通过第二网络接口32接入网关4;电源7分别接入电源接口混合板1、图像传感器6、网关4和显示器5的电源输入端;
电源7给装置上电后,图像传感器6将采集到的图像数据通过第一视频接口21输入FPGA预处理板2,FPGA预处理板2对采集到的图像数据进行模数转换以及数字图像预处理,并将预处理后的图像数据通过第一视频接口21输出至显示器5,同时将预处理后的图像数据通过板级接插件9输入至DSP图像处理板3,DSP图像处理板3对输入的图像数据进行处理,并将处理结果通过第二视频接口31输出至显示器5。
所述FPGA预处理板2的核心FPGA芯片采用Xilinx的XC5VFX30T,是Xilinx公司生产的V系列的XC5VFX30T,是采用第二代ASMBLTM(高级硅片组合模块)列式架构的高性能FPGA,包含多种硬IP系统级模块,包括强大的36KbBlockRAM/FIFO、第二代25×18DSPSlice、带有内置数控阻抗的SelectIOTM技术、ChipSyncTM源同步接口模块、系统监视器功能、带有集成DCM(数字时钟管理器)和锁相环(PLL)时钟发生器的增强型时钟管理模块以及高级配置选项,并具有高级串行连接功能。所述DSP图像处理板3的核心DSP芯片采用TI的TMS320C6678,是采用8个1.25GHzDSP内核构建而成,并在单个器件上完美集成了320GMAC与160GFLOP定点及浮点性能,从而使用户不仅能整合多个DSP以缩小板级空间并降低成本,同时还能减少整体的功耗要求。所述电源接口混合板1上设置有SMA接口10,实现数据的串行差分高速率传输,传输速率达3Gb/s,最终满足板间的大数据量实时传输。
本文针对单目移动摄像机下运动目标的检测问题,研究并提出了一种基于场景的全局运动的方法,即以摄像机光心为中心,建立坐标系,其中摄像机在此坐标系下永远静止,只有场景和运动目标在运动,将原来移动平台下运动目标检测的问题转换成静止平台下场景全局运动与运动目标独立运动的问题,结合KLT点跟踪法来快速估计FEE(FastEstimationEstimate)模型,从而无需三维重建便可有效地解决单目移动摄像机下运动目标检测的问题。
结合图2,本发明基于DSP+FPGA的移动平台下运动目标检测方法,包括以下步骤:
步骤1,电源7给装置上电后,电源接口混合板1将转换后的电源通过板级接插件9依次接入FPGA预处理板2和DSP图像处理板3。
步骤2,通过模式选择开关8选择视频输入模式、以及FPGA预处理板2和DSP图像处理板3的通信接口模式;所述视频输入模式包括PAL制、LVDS数据等,所述通信接口模式包括SRIO、UDP、LVDS等。
步骤3,图像传感器6采集原始图像数据并输出至FPGA预处理板2,FPGA预处理板2对原始图像数据进行A/D转换和时序恢复,获得大小为Height×Width的图像并记为fk(x,y),其中Height、Width均为正整数,x为行号且0≤x≤Height-1,y为列号且0≤y≤Width-1,k为帧号且k=1,2,3,…。
步骤4,FPGA预处理板2对时序恢复后的图像fk(x,y)进行Harris角点检测,并将角点检测结果以hk(x,y)表示,进行数据协议封装,以如下矩阵Ψ的形式发送给DSP图像处理板3:
步骤5,DSP图像处理板3对Harris角点检测结果数据矩阵Ψ进行金字塔光流处理,获得第k帧图像中每个角点(xk,yk)处的光流运动场从而确定第k+1帧图像中对应角点像素坐标(xk+1,yk+1),其中表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量、表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量。
步骤6,建立快速极线模型FEE(FastEpipolarEstimation)。为了补偿摄像机运动所带来的视差问题,基于射极几何的原理,从特征点速度场的角度,重新建立相应的数学模型,推导出场景的运动特征,从而获得单目移动相机下场景运动矢量与摄像机运动之间的关系:
以图像传感器6的透镜光心为原点O建立坐标系,其中Z轴平行于透镜光轴,X轴、Y轴均平行于图像传感器6的像平面,记物平面场景坐标为M(X,Y,Z),像平面场景坐标为m(x,y,z);则三维空间中点的整体运动包括旋转运动和平移运动,如图3所示,其中旋转运动以角速度绕轴旋转,平移运动以矢量平移,分别为角速度在X轴、Y轴、Z轴的分量,分别为平移运动矢量在X轴、Y轴、Z轴的分量;快速极线模型FEE方程,如下式所示:
因此,极线向量输入向量 P _ Vector = y k 2 - y k + 1 2 y k - y k + 1 x k - x k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 ;
步骤7,通过对步骤6中输入向量P_Vector进行正规化变换,确定极线向量FEE_Vector;假设快速极线模型FEE方程中输入向量P_Vector被向量替换,代入P_VectorT.FEE_Vector=0,得到方程其中是变换矩阵T的反转置逆矩阵,从而得出与向量对应的极线向量进而确定极线向量FEE_Vector,具体过程如下:
步骤(7.1),将输入变量P_Vector的末位元素归一化得到向量P:
P = y k 2 - y k + 1 2 x k y k - x k + 1 y k + 1 y k - y k + 1 x k y k - x k + 1 y k + 1 x k - x k + 1 x k y k - x k + 1 y k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 1
步骤(7.2),根据向量P确定变换矩阵T:
cent ( l ) = Σ δ = 1 n P k , δ ( l ) n , l = 1,2,3,4,5
squareDist = Σ δ = 1 n Σ l = 1 5 ( P k , δ ( l ) - cent ( l ) ) 2 5 * n
其中,Pk,δ(l)表示第k帧图像中第δ个输入向量P的第l个分量,cent(l)表示输入向量P第l个分量的均值,squareDist表示输入向量P的方差,δ为输入向量的标号,n表示输入向量的个数n≥4;
则变换矩阵T表达式如下:
T = scale 0 0 0 - scale * cent ( 1 ) 0 scale 0 0 - scale * cent ( 2 ) 0 0 scale 0 - scale * cent ( 3 ) 0 0 0 scale - scale * cent ( 4 ) 0 0 0 0 1
步骤(7.3),根据变换矩阵T对输入向量P进行变换得到向量
P ^ = TP
步骤(7.4),利用RANSAC法确定与向量相对应的极线向量
[ U , S , V ] = SVD ( P ^ )
FEE _ Vector ^ = V ( : , end )
其中,U为左奇异向量,V为右奇异向量,S为SVD奇异值分解后的奇异值且为对角矩阵,以非递增次序排列;
步骤(7.5),根据向量相对应的极线向量确定极线向量FEE_Vector,如下式所示:
FEE _ Vector = T T FEE _ Vector ^
步骤8,确定第k帧图像中角点(xk,yk)对应极线向量FEE_Vector的隶属度函数,将图像像素划分为运动目标IMO和静止场景ISO,完成目标检测:
步骤(8.1),定义第k帧图像中角点(xk,yk)对于极线向量FEE_Vector的隶属度函数αk(x,y)如下式:
α k ( x , y ) = abs ( y k 2 - y k + 1 2 y k - y k + 1 x k - x k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 · T FEE _ Vector )
步骤(8.2),对整幅图像进行步进长度为K的遍历,获得等距稀疏隶属度βk(x,y);进而对整幅图像进行逐点遍历,获得稠密隶属度γk(x,y);
步骤(8.2.1),以一波门为W×W的窗口且W=4,8,12,…,对整幅图像进行步进长度为K且K的遍历,确定该窗口内所有隶属度的均值,记为等距稀疏隶属度βk(x,y),(x,y)为当前窗口的中心坐标,如下式所示:
β k ( x , y ) = Σ i = - W / 2 W / 2 Σ j = - W / 2 W / 2 α k ( x + i , y + j ) Σ i = - W / 2 W / 2 Σ j = - W / 2 W / 2 h k ( x + i , y + j ) , x = 0 , K , 2 K . . . Height - 1 y = 0 , K , 2 K . . . Width - 1
步骤(8.2.2),以一波门为W×W的窗口(W=32),对整幅图像进行逐点遍历,确定该窗口内所有等距稀疏隶属度的均值,记为γk(x,y),(x,y)为当前窗口的中心坐标,如下式所示:
γ k ( x , y ) = Σ i = - W / 2 W / 2 Σ j = - W / 2 W / 2 β k ( x + i , y + j ) W × W , x = 0,1,2 . . . Height - 1 y = 0,1,2 . . . Width - 1
步骤(8.3),根据稠密隶属度γk(x,y)将图像像素划分为运动目标IMO和静止场景ISO,如下式所示:
( x k , y k ) &Element; ISO , &gamma; k ( x , y ) < &gamma; T IMO , &gamma; k ( x , y ) &GreaterEqual; &gamma; T
式中γT为二值化阈值且0.01≤γT≤0.05;
步骤9,将目标检测结果实时通过第二视频接口31输出至显示器5、且通过第二网络接口32输入网关4;并返回步骤3,对采集到的下一帧图像进行处理。
实施例1
本发明基于DSP+FPGA的运动目标检测装置,具体参数如下:
(一)、图像传感器6采用CCD监控摄像头,输出二维图像的像素分辨率为Height×Width=480×640,像素位深为8bits;步骤(7.2)中,输入向量的个数n取4;步骤(8.2.1)中,波门为W×W中W取32,则K取8。
(二)、基于本发明装置的运动目标检测效果:
图4~5是本发明FEE方法在基于DSP+FPGA的运动目标检测装置下的运动目标分割效果,由此可见本发明方法FEE法可有效地将场景、目标分类,并能有效地检测出单目摄像机自由运动场景中运动的目标。
如图4~5所示,当摄像机存在平移和旋转运动时,FEE方法成功检测出图像序列中运动行人和汽车。图4(a)、图4(b)是视频中两帧连续图像;图4(c)是三层金字塔光流法对Harris角点匹配的结果;图4(d)是采用FEE法估计的残差图;图4(e)是对FEE残差图进行扩散之后的结果的直观显示;图4(f)中将残差图剔除的目标用黑色矩形框标出。
当场景中存在多个运动目标时,FEE的局外点扩散后如图5(e)所示,本实施例二值化阈值γT取0.1,将FEE局外点分割后如图5(f)所示。实际数据清楚地显示目标最终已经被提取出来,消除了远景,特别是近景产生的视差。
(三)、本发明基于DSP+FPGA的移动平台下运动目标检测装置的FEE线性估计法与传统的基础矩阵规范八点方法的处理时间对比:
图6所示,对于规范化的八点方法和四点方法FEE,当采用线性方法时,本文方法均值为0.3755ms,标准差为0.0118ms,而规范化的八点方法均值为0.6732ms,标准差为0.0219ms。
矩阵估计的收敛性由图7所示,RANSAC(RandomSampleConsensus)法由于能在误匹配率超过50%时依然保持有效而成为应用最广泛的方法之一,故本发明采用RANSAC法作为鲁棒性估计方法。由图7可知,本发明方法均值为2.606ms,标准差为0.0291ms,而规范化的八点方法均值为16.08ms,标准差为0.0785ms。
综上所述,本发明基于DSP+FPGA的移动平台下运动目标检测装置及方法,可以安装在移动平台下,无需高精度云台、陀螺仪等笨重的设备实现运动目标检测;本发明依据快速极线估法FEE,补偿相机运动引起的整体运动,在保证准确性与鲁棒性的前提下,本方法的处理速度提升为传统基础矩阵法的十倍左右,解决了场景运动估计工作量大的问题;本发明能实时检测运动目标,且稳定性强,帧频为25pf/s,且数据接口丰富,可不加修改地移植其他算法,具有广阔的应用情景。

Claims (3)

1.一种基于DSP+FPGA的移动平台下运动目标检测方法,其特征在于,包括电源接口混合板(1)、FPGA预处理板(2)、DSP图像处理板(3)、网关(4)、显示器(5)、图像传感器(6)和电源(7),其中电源接口混合板(1)上设有模式选择开关(8),FPGA预处理板(2)上设有第一视频接口(21)和第一网络接口(22),DSP图像处理板(3)上设有第二视频接口(31)和第二网络接口(32);所述电源接口混合板(1)、FPGA预处理板(2)、DSP图像处理板(3)通过板级接插件(9)相连且呈三明治结构,图像传感器(6)的信号输出端通过第一视频接口(21)与FPGA预处理板(2)的视频输入端连接,FPGA预处理板(2)的视频输出端通过第一视频接口(21)接入显示器(5),FPGA预处理板(2)的网络信号输出端通过第一网络接口(22)接入网关(4);DSP图像处理板(3)的视频输出端通过第二视频接口(31)接入显示器(5),DSP图像处理板(3)的网络信号输出端通过第二网络接口(32)接入网关(4);电源(7)分别接入电源接口混合板(1)、图像传感器(6)、网关(4)和显示器(5)的电源输入端;包括以下步骤:
步骤1,电源(7)给装置上电后,电源接口混合板(1)将转换后的电源通过板级接插件(9)依次接入FPGA预处理板(2)和DSP图像处理板(3);
步骤2,通过模式选择开关(8)选择视频输入模式、以及FPGA预处理板(2)和DSP图像处理板(3)的通信接口模式;
步骤3,图像传感器(6)采集原始图像数据并输出至FPGA预处理板(2),FPGA预处理板(2)对原始图像数据进行A/D转换和时序恢复,获得大小为Height×Width的图像并记为fk(x,y),其中Height、Width均为正整数,x为行号且0≤x≤Height-1,y为列号且0≤y≤Width-1,k为帧号且k=1,2,3,…;
步骤4,FPGA预处理板(2)对时序恢复后的图像fk(x,y)进行Harris角点检测,并将角点检测结果以hk(x,y)表示,以如下矩阵Ψ的形式发送给DSP图像处理板(3):
步骤5,DSP图像处理板(3)对Harris角点检测结果数据矩阵Ψ进行金字塔光流处理,获得第k帧图像中每个角点(xk,yk)处的光流运动场从而确定第k+1帧图像中对应角点像素坐标(xk+1,yk+1),其中表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量、表示第k帧图像中角点像素坐标(xk,yk)处的行方向速度分量;
步骤6,建立快速极线模型FEE:以图像传感器(6)的透镜光心为原点O建立坐标系,其中Z轴平行于透镜光轴,X轴、Y轴均平行于图像传感器(6)的像平面,记物平面场景坐标为M(X,Y,Z),像平面场景坐标为m(x,y,z);则三维空间中点的整体运动包括旋转运动和平移运动,其中旋转运动以角速度绕轴旋转,平移运动以矢量平移,分别为角速度在X轴、Y轴、Z轴的分量,分别为平移运动矢量在X轴、Y轴、Z轴的分量,为三维空间点整体经过矢量进行平移后过自身形心以角速度进行旋转的旋转轴;快速极线模型FEE方程,如下式所示:
因此,极线向量输入向量 P _ V e c t o r = y k 2 - y k + 1 2 y k - y k + 1 x k - x k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 ;
步骤7,通过对步骤6中输入向量P_Vector进行正规化变换,确定极线向量FEE_Vector;假设快速极线模型FEE方程中输入向量P_Vector被向量替换,代入P_VectorT·FEE_Vector=0,得到方程其中T-T是变换矩阵T的反转置逆矩阵,从而得出与向量对应的极线向量进而确定极线向量FEE_Vector;
步骤8,确定第k帧图像中角点(xk,yk)对应极线向量FEE_Vector的隶属度函数,将图像像素划分为运动目标IMO和静止场景ISO,完成目标检测;
步骤9,将目标检测结果实时通过第二视频接口(31)输出至显示器(5)、且通过第二网络接口(32)输入网关(4);并返回步骤3,对采集到的下一帧图像进行处理。
2.根据权利要求1所述的基于DSP+FPGA的移动平台下运动目标检测方法,其特征在于,步骤7中所述确定极线向量FEE_Vector,具体过程如下:
步骤(7.1),将输入变量P-Vector的末位元素归一化得到向量P:
P = y k 2 - y k + 1 2 x k y k - x k + 1 y k + 1 y k - y k + 1 x k y k - x k + 1 y k + 1 x k - x k + 1 x k y k - x k + 1 y k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 1
步骤(7.2),根据向量P确定变换矩阵T:
c e n t ( l ) = &Sigma; &delta; = 1 n P k , &delta; ( l ) n , l = 1 , 2 , 3 , 4 , 5
s q u a r e D i s t = &Sigma; &delta; = 1 n &Sigma; l = 1 5 ( P k , &delta; ( l ) - c e n t ( l ) ) 2 5 * n
其中,Pk,δ(l)表示第k帧图像中第δ个输入向量P的第l个分量,cent(l)表示输入向量P第l个分量的均值,squareDist表示输入向量P的方差,δ为输入向量的标号,n表示输入向量的个数且n≥4;
则变换矩阵T表达式如下:
T = s c a l e 0 0 0 - s c a l e * c e n t ( 1 ) 0 s c a l e 0 0 - s c a l e * c e n t ( 2 ) 0 0 s c a l e 0 - s c a l e * c e n t ( 3 ) 0 0 0 s c a l e - s c a l e * c e n t ( 4 ) 0 0 0 0 1
步骤(7.3),根据变换矩阵T对输入向量P进行变换得到向量
P ^ = T P
步骤(7.4),利用RANSAC法确定与向量相对应的极线向量
&lsqb; U , S , V &rsqb; = S V D ( P ^ )
其中,U为左奇异向量,V为右奇异向量,S为SVD奇异值分解后的奇异值且为对角矩阵,以非递增次序排列;
步骤(7.5),根据向量相对应的极线向量确定极线向量FEE_Vector,如下式所示:
3.根据权利要求1所述的基于DSP+FPGA的移动平台下运动目标检测方法,其特征在于,步骤8中所述将图像像素划分为运动目标IMO和静止场景ISO,完成目标检测,具体步骤如下:
步骤(8.1),定义第k帧图像中角点(xk,yk)对于极线向量FEE_Vector的隶属度函数αk(x,y)如下式:
&alpha; k ( x , y ) = a b s ( y k 2 - y k + 1 2 y k - y k + 1 x k - x k + 1 x k 2 - x k + 1 2 x k y k - x k + 1 y k + 1 T &CenterDot; F E E _ V e c t o r )
步骤(8.2),对整幅图像进行步进长度为K的遍历,获得等距稀疏隶属度βk(x,y);进而对整幅图像进行逐点遍历,获得稠密隶属度γk(x,y);
步骤(8.2.1),以一波门为W×W的窗口且W=4,8,12,…,对整幅图像进行步进长度为K且的遍历,确定该窗口内所有隶属度的均值,记为等距稀疏隶属度βk(x,y),(x,y)为当前窗口的中心坐标,如下式所示:
&beta; k ( x , y ) = &Sigma; i = - W / 2 W / 2 &Sigma; j = - W / 2 W / 2 &alpha; k ( x + i , y + j ) &Sigma; i = - W / 2 W / 2 &Sigma; j = - W / 2 W / 2 h k ( x + i , y + j ) , x = 0 , K , 2 K ... H e i g h t - 1 y = 0 , K , 2 K ... W i d t h - 1
步骤(8.2.2),以一波门为W×W的窗口(W=32),对整幅图像进行逐点遍历,确定该窗口内所有等距稀疏隶属度的均值,记为γk(x,y),(x,y)为当前窗口的中心坐标,如下式所示:
&gamma; k ( x , y ) = &Sigma; i = - W / 2 W / 2 &Sigma; j = - W / 2 W / 2 &beta; k ( x + i , y + j ) W &times; W , x = 0 , 1 , 2 ... H e i g h t - 1 y = 0 , 1 , 2 ... W i d t h - 1
步骤(8.3),根据稠密隶属度γk(x,y)将图像像素划分为运动目标IMO和静止场景ISO,如下式所示:
( x k , y k ) &Element; I S O , &gamma; k ( x , y ) < &gamma; T I M O , &gamma; k ( x , y ) &GreaterEqual; &gamma; T
式中γT为二值化阈值且0.01≤γT≤0.05。
CN201310304621.4A 2013-07-19 2013-07-19 基于dsp+fpga的移动平台下运动目标检测装置及其方法 Expired - Fee Related CN103345765B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310304621.4A CN103345765B (zh) 2013-07-19 2013-07-19 基于dsp+fpga的移动平台下运动目标检测装置及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310304621.4A CN103345765B (zh) 2013-07-19 2013-07-19 基于dsp+fpga的移动平台下运动目标检测装置及其方法

Publications (2)

Publication Number Publication Date
CN103345765A CN103345765A (zh) 2013-10-09
CN103345765B true CN103345765B (zh) 2016-01-20

Family

ID=49280558

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310304621.4A Expired - Fee Related CN103345765B (zh) 2013-07-19 2013-07-19 基于dsp+fpga的移动平台下运动目标检测装置及其方法

Country Status (1)

Country Link
CN (1) CN103345765B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106204418B (zh) * 2016-06-24 2019-02-12 南京睿悦信息技术有限公司 一种虚拟现实移动端中基于矩阵逆运算的图像扭曲方法
CN109598747A (zh) * 2017-09-30 2019-04-09 上海欧菲智能车联科技有限公司 运动目标检测系统、运动目标检测方法和车辆
CN108154477B (zh) * 2017-12-26 2021-12-21 深圳市兴森快捷电路科技股份有限公司 一种基于fpga的图像旋转方法
CN112184537B (zh) * 2020-09-30 2022-04-26 王汉 异构计算架构摄像系统及图像处理方法
CN112396031B (zh) * 2020-12-04 2023-06-30 湖南傲英创视信息科技有限公司 基于异构运算平台的目标检测方法及系统
CN113592962B (zh) * 2021-08-23 2024-04-09 洛阳德晶智能科技有限公司 基于机器视觉的批量硅片标识识别方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101300546A (zh) * 2005-09-06 2008-11-05 数字感官技术有限公司 用于可配置的安全与监视系统的可编程照相机的方法和系统
US8472669B2 (en) * 2010-03-10 2013-06-25 Texas Instruments Incorporated Object localization using tracked object trajectories
CN203397395U (zh) * 2013-07-19 2014-01-15 南京理工大学 基于dsp+fpga的移动平台下运动目标检测装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101300546A (zh) * 2005-09-06 2008-11-05 数字感官技术有限公司 用于可配置的安全与监视系统的可编程照相机的方法和系统
US8472669B2 (en) * 2010-03-10 2013-06-25 Texas Instruments Incorporated Object localization using tracked object trajectories
CN203397395U (zh) * 2013-07-19 2014-01-15 南京理工大学 基于dsp+fpga的移动平台下运动目标检测装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Video Stabilization Using Epipolar Geometry;Amit Goldstein,etal;《ACM Transactions on Graphics》;20120831;126:1-10 *
基于FPGA和DSP的图像采集处理系统的研究与实现;匡炎;《华南理工大学硕士学位论文》;20110415;第14页图2-3,第15页第3段 *
基于光流场与水平集的运动目标检测;张磊 等;《计算机应用》;20090401;第972-978页 *

Also Published As

Publication number Publication date
CN103345765A (zh) 2013-10-09

Similar Documents

Publication Publication Date Title
CN103345765B (zh) 基于dsp+fpga的移动平台下运动目标检测装置及其方法
US10762645B2 (en) Stereo visual odometry method based on image gradient joint optimization
CN111968129B (zh) 具有语义感知的即时定位与地图构建系统及方法
Hirschmüller et al. Memory efficient semi-global matching
Sirmacek et al. Performance evaluation for 3-D city model generation of six different DSMs from air-and spaceborne sensors
CN103954283A (zh) 基于景象匹配/视觉里程的惯性组合导航方法
CN103426165A (zh) 一种地面激光点云与无人机影像重建点云的精配准方法
CN104484868B (zh) 一种结合模板匹配和图像轮廓的运动目标航拍跟踪方法
CN104154919A (zh) 一种非合作航天器上太阳能帆板三角架结构的位姿自主测量方法
CN203397395U (zh) 基于dsp+fpga的移动平台下运动目标检测装置
CN103985154A (zh) 一种基于全局线性方法的三维模型重建方法
CN104050685A (zh) 基于粒子滤波视觉注意力模型的运动目标检测方法
CN109472802A (zh) 一种基于边缘特征自约束的表面网格模型构建方法
CN111860651A (zh) 一种基于单目视觉的移动机器人半稠密地图构建方法
CN114038193A (zh) 基于无人机和多目标追踪的智能交通流量数据统计方法及系统
CN104463962A (zh) 基于gps信息视频的三维场景重建方法
CN114299230A (zh) 一种数据生成方法、装置、电子设备及存储介质
CN110160503A (zh) 一种顾及高程的无人机景观匹配定位方法
CN111652276B (zh) 一种全天候便携式多功能仿生定位定姿观瞄系统及方法
CN109443320A (zh) 基于直接法和线特征的双目视觉里程计及测量方法
Zhu et al. PairCon-SLAM: Distributed, online, and real-time RGBD-SLAM in large scenarios
CN109493415A (zh) 一种航拍影像三维重建的全局运动初始化方法和系统
Isakova et al. FPGA design and implementation of a real-time stereo vision system
Kuang et al. A Real-time and Robust Monocular Visual Inertial SLAM System Based on Point and Line Features for Mobile Robots of Smart Cities Toward 6G
CN109215122B (zh) 一种街景三维重建系统及方法、智能小车

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160120

Termination date: 20190719