CN104978728B - 一种光流法的图像匹配系统 - Google Patents
一种光流法的图像匹配系统 Download PDFInfo
- Publication number
- CN104978728B CN104978728B CN201410139220.2A CN201410139220A CN104978728B CN 104978728 B CN104978728 B CN 104978728B CN 201410139220 A CN201410139220 A CN 201410139220A CN 104978728 B CN104978728 B CN 104978728B
- Authority
- CN
- China
- Prior art keywords
- image
- module
- light stream
- feature point
- klt
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Processing (AREA)
Abstract
本发明提出一种光流法的图像匹配系统。包括A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块以及四个SRAM存储芯片SRAM1、SRAM2、SRAM3、SRAM4;A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块设置在FPGA上。本发明优化了KLT特征提取算子的判断条件,并合理地简化了光流金字塔的实现过程,在满足硬件系统对精度要求的前提下,降低了方法的计算量及资源开销,同时能够满足旋转图像及较大几何变换图像的匹配要求。
Description
技术领域
本发明属于图像处理的技术领域,尤其是目标搜索跟踪系统中一种光流法的图像匹配系统。
背景技术
近年来,国内外对目标搜索跟踪的研究越来越深,算法也越来越趋于成熟,由于其检测跟踪目标的特点,在银行、交通、国防、安保等民用和军用领域得到广泛应用。而图像匹配作为搜索跟踪系统中的重要一环,其匹配的准确性和实时性都影响着目标搜索跟踪系统的效果。
一般,图像匹配方法主要是分为基于特征点的匹配和基于图像内扩展区域的匹配。
基于特征的匹配方法能够有效的提取出图像中的显著特征,并且运算量相对较小,适合在FPGA上实现。基于图像内扩展区域的匹配是直接对整幅图像或对从图像中提取的小块区域进行匹配,与基于特征的匹配方法相比,基于区域的匹配方法有很多不足,图像的任何畸变都会影响图像内物体的形状和大小,进而影响匹配的质量。区域匹配方法通常是基于像素值匹配的,因此还受收到许多其他图像变化因素的干扰,例如光照变化或者传感器类型的变化。
图像匹配的实时性和准确性都影响着目标检测的实时性和准确性,杨陈晨,龚振飞等提出了一种相位相关法的FPGA实现(杨陈晨,顾国华,龚振飞等.相位相关红外图像匹配算法的硬件实现[J].半导体光电,2013,34(5):884-889),该算法实现简单、资源占用率低,但其受图像灰度的影响,对图像旋转及较大几何变换敏感,因而无法满足硬件系统的精度要求。Jang W,Oh S等提出了一种基于Harris角点的光流金字塔匹配算法的FPGA实现方法(Jang W,Oh S,Kim G.A hardware implementation of pyramidal KLT featuretracker for driving assistance systems[C]//Intelligent TransportationSystems,2009.ITSC'09.12th International IEEE Conference on.IEEE,2009:1-6),该方法借助多分辨率的光流估计提高了图像大运动的匹配精度,同时基于角点特征大幅度地降低了计算量,但由于光流金字塔的硬件化资源开销大、实现复杂,从而导致整个系统的成本过高。
发明内容
本发明提出一种光流法的图像匹配系统,法优化了KLT特征提取算子的判断条件,并合理地简化了光流金字塔的实现过程;在满足硬件系统对精度要求的前提下,大幅度地降低了方法的计算量及资源开销,同时能够满足旋转图像及较大几何变换图像的匹配要求。
为了解决上述技术问题,本发明提供一种光流法的图像匹配系统,其特征在于,包括A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块以及四个SRAM存储芯片SRAM1、SRAM2、SRAM3、SRAM4;A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块设置在FPGA上,A/D转换模块与中值滤波模块相连,中值滤波模块同时与KLT特征点提取模块和图像金字塔模块相连,KLT特征点提取模块、光流和特征点坐标初始化模块、SRAM控制模块和LK光流匹配模块依次相连;SRAM1通过SRAM控制模块与A/D转换模块相连;SRAM2和SRAM3通过SRAM控制模块与图像金字塔模块相连;SRAM4通过SRAM控制模块与SRAM2相连;A/D转换模块的作用在于利用A/D转换芯片将CCD采集的模拟图像数据转化为数字图像数据;中值滤波模块的作用在于使用快速中值滤波法对数字图像数据进行降噪处理;KLT特征点提取模块的作用在于使用KLT特征点提取原理与阈值的设定,完成KLT特征点提取;图像金字塔模块的作用在于使用下采样方法通过SRAM控制模块完成图像金字塔模型的建立和存储;光流和特征点坐标初始化模块的作用在于使用图像金字塔的层数信息将光流和特征点进行初始化;SRAM控制模块的作用在于控制四个SRAM存储芯片的读写操作;LK光流匹配模块的作用在于使用最小化差异函数完成图像匹配。
本发明与现有技术相比,其显著优点在于:(1)该方法提出了一种快速的中值滤波的方法,提高了整个算法计算速度;(2)该方法提出了一种新的KLT特征点提取的方法体,节省了FPGA处理板的板上资源;(3)该方法提出了一种利用模块复用实现LK光流匹配的方法;(4)该方法为算法的硬件实现,可保证整个算法的实时性。
附图说明
图1是本发明系统简图。
图2是本发明系统详图。
图3是本发明中值滤波模块中实现3×3矩阵的示意图。
图4是本发明KLT特征点提取模块硬件实现示意图。
图5是本发明多块SRAM协调操作建立图像金字塔即光流估计的示意图。
图6是本发明SRAM3和SRAM4中建立图像金字塔的示意图。
图7是本发明光流和特征点坐标初始化模块和LK光流匹配模块算法实现示意图。
具体实施方式
本发明是一种光流法的图像匹配系统,是基于KLT(Kanade-Lucas-Tomasi)特征点的LK光流匹配算法的FPGA实现系统。
系统构架:
本发明系统框架如图1和图2所示,包括A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块以及四个SRAM存储芯片SRAM1、SRAM2、SRAM3、SRAM4;
A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块设置在FPGA上,A/D转换模块与中值滤波模块相连,中值滤波模块同时与KLT特征点提取模块和图像金字塔模块相连,KLT特征点提取模块、光流和特征点坐标初始化模块、SRAM控制模块和LK光流匹配模块依次相连;SRAM1通过SRAM控制模块与A/D转换模块相连;SRAM2和SRAM3通过SRAM控制模块与图像金字塔模块相连;SRAM4通过SRAM控制模块与SRAM2相连。
A/D转换模块的作用在于利用A/D转换芯片将CCD采集的模拟图像数据转化为数字图像数据;中值滤波模块的作用在于使用快速中值滤波法对数字图像数据进行降噪处理;KLT特征点提取模块的作用在于使用KLT特征点提取原理与阈值的设定,完成KLT特征点提取;图像金字塔模块的作用在于使用下采样方法通过SRAM控制模块完成图像金字塔模型的建立和存储;光流和特征点坐标初始化模块的作用在于使用图像金字塔的层数信息将光流和特征点进行初始化;SRAM控制模块的作用在于控制四个SRAM存储芯片的读写操作;LK光流匹配模块的作用在于使用最小化差异函数完成图像匹配。
系统工作过程:
模拟图像经CCD采集后,通过视频口输入到A/D转换模块,A/D转换模块通过SRAM控制模块控制SARM1完成图像奇偶场的合成,得到完整的数字图像后发送给中值滤波模块;
数字图像在中值滤波模块中进行降噪处理后,同时输入到KLT特征点提取模块和图像金字塔模块;
KLT特征点提取模块对接收到的图像数据进行特征点提取,然后将特征点坐标信息发送给光流和特征点坐标初始化模块;
图像金字塔模块接收到图像数据后通过SRAM控制模块协调SRAM2、SRAM3、SRAM4建立和存储图像金字塔模型;
光流和特征点坐标初始化模块接收到来自KLT特征点提取模块的特征点坐标信息以及来自LK光流匹配模块的光流信息后将光流和特征点坐标初始化,并将初始化后的光流和特征点坐标信息输出到SRAM控制模块;
LK光流匹配模块根据SRAM控制模块接收到的光流和特征点坐标初始化信息控制SRAM控制模块从SRAM3、SRAM4中读取出图像金字塔模型,进行图像匹配获得光流,然后根据金字塔层数判断是否完成图像匹配,若完成则输出光流完成图像匹配,否则将光流发送到光流和特征点坐标初始化模块再进行初始化。
实施例:
本实施例采用的FPGA处理板以XC5VFX30T为主芯片,主要存储芯片为SRAM,算法使用Verilog语言描述,程序的编写和仿真是在ISE13.1上完成的。视频图像大小为640×480,时钟为27Mhz。
1、A/D转换模块
由CCD获得的视频通过视频接口输入到A/D转换模块,A/D转换模块通过SRAM控制模块控制SARM1完成图像奇偶场的合成,得到完整的数字图像后发送给中值滤波模块。
2、中值滤波模块
中值滤波模块收到数字图像后进行降噪处理,降噪处理过程为:
将图像数据中相邻9个像素点的灰度值输入到一个大小为3×3的矩阵中。所述3×3矩阵的建立如图3所示,系在FPGA中调用两个先入先出缓存器实现,两个先入先出缓存器分别记为fifo1、fifo2,将fifo1的输出与fifo2的输入相连。将A/D转换模块输出的数字图像数据输入fifo1,经两行数据的延迟后,共同构成了3行数据。矩阵中的9个点D11,D12,D13,D21,D22,D23,D31,D32,D33分别代表9个像素点的灰度值。
在中值滤波运算时,首先对每一行的灰度值按照灰度值的大小进行排序,得到每一行的灰度值的最大值、中间值和最小值。其中第一行的最大值、中间值和最小值如下,
最大值 Max1=max{D11,D12,D13}
中间值 Med1=med{D11,D12,D13}
最小值 Min1=min{D11,D12,D13}
同理,也可得到第二行像素点灰度值的最大值Max2、中间值Med2和最小值Min2和第三行像素点灰度值的最大值Max3、中间值Med3和最小值Min3。
在上面得到的9个灰度值中,三个最大值中的最大值一定是9个灰度值中的最大值。同理,三个最小值中的最小值一定是9个灰度值中的最小值。三个中值中的最大值至少大于五个数即本行的最小值和其他两行中的中值及最小值。而三个中值中的最小值至少小于五个数;即本行的最大值和其他两行的中值和最大值。所以,经比较获得三个最大值中的最小值Min_of_max、三个中值中的中间值Med_of_med以及三个最小值中的最大值Max_of_min,所得到的中间值就是最终的滤波结果Med_data,即9个灰度值的中间值。其具体过程如下:
Min_of_max=min{Max1,Max2,Max3}
Med_of_med=med{Med1,Med2,Med3}
Max_of_min=min{Min1,Min2,Min3}
则最后的滤波结果为:
Med_data=med{Min_of_max,Med_of_med,Max_of_min}
最后,中值滤波模块将降噪处理后的图像数据同时发送给KLT特征提取模块和图像金字塔模块。
与传统的排序方法相比,这种方法的比较次数减少了许多,只用了19次比较运算求出中值,并且该方法十分适合在FPGA上进行并行处理,可较大地提高算法的运算速度。
3、KLT特征提取模块
(1)本发明使用的特征点提取方法:
KLT特征提取模块使用KLT特征点算子进行特征点的提取。KLT特征点算子是由Lucas、Kanade和Tomasi提出在文献(Tomasi C,Kanade T.Detection and tracking ofpoint features[M].School of Computer Science,Carnegie Mellon Univ.,1991.)提出的。该算子通过对灰度图像进行二阶求导得到像素点的特征提取矩阵G,再将特征提取矩阵G的特征值与预先设定的阈值进行对比判断,从而完成特征点的提取。在使用KLT特征点算子进行特征点的提取的过程中,设图像中任意一像素点为I(x,y),其特征提取矩阵G及特征方程f(λ)分别如式(1)、(2)所示:
f(λ)=λ2-(a+c)λ+ac-b2
其中,Ix为x方向的梯度,Iy为y方向的梯度,为7*7矩阵中的元素求和,λ为特征值。
上述特征值求解方法涉及开根号运算,但在FPGA中,开根号运算不仅逻辑资源开销大,且计算速度较慢。为了在保证精度的前提下降低运算开销,本发明选用公式(3)所示条件作为KLT特征点提取算子的判断条件:
其中,λT为阈值,可通过调整阈值来控制特征点的数量。
(2)本发明KLT特征提取模块的硬件实现方法:
如图4所示,首先,使用n个先入先出缓存器FIFO组成n×n(本实施例n取7)窗口估计出降噪图像中像素点I(x,y)的特征提取矩阵G,其中x方向梯度Ix为后列像素值I(x,y+1)与该像素值I(x,y)的差,y方向梯度Iy为下行像素值I(x+1,y)与该像素值I(x,y)的差;然后,根据特征提取矩阵G中的参数及阈值λT带入特征方程f(λT),使用特征方程f(λT)按照KLT特征点提取算子的判断条件判断当前窗口的中心像素点是否为特征点,判断过程具体为:设置与图像大小相同的1位逻辑标识序列A(x,y),若当前像素点为KLT特征点,则输出逻辑值1,否则,输出逻辑值0,该逻辑标识序列A(x,y)与滤波后的图像同步输出;第三,对逻辑标识序列A(x,y)进行检测,若A(x,y)为1,则输出当前窗口的中心像素点的坐标,即特征点坐标;否则,继续进行检测;最后将特征点坐标信息输入到光流和特征点坐标初始化模块中。
4、图像金字塔建立模块
为了利用LK光流算法精确地估计出图像大运动的光流值,需借助图像金字塔结构将图像大运动分解为若干连续的小运动,从而“由粗到精”的进行光流估计。考虑到FPGA资源的有限性及硬件系统的精度要求,本发明合理地简化了LK光流金字塔算法的计算过程,即省去每层计算中的双向估计与迭代过程,只依靠金字塔结构将图像的大运动分解成符合光流计算假设条件的小运动,从而提高图像匹配的精度。
本发明中LK光流金字塔的实现过程如下所述:对经中值滤波模块降噪后的图像进行下采样处理,建立三层金字塔结构;设顶层图像的初始光流值为0,下层光流估计时将上层估计出的光流值作为初始光流值初始化本层图像,再在本层图像中根据LK算法进行光流估计。其中,第L层的初始光流值fL的计算公式如式(4)所示,图像总光流d的计算公式如式(5)所示:
fL-1=2(fL+dL) (4)
d=f0+d0 (5)
其中,dL为第L层的光流,f0第0层的初始化光流,d0为第0层的光流。
LK光流的估计需要第k-1帧、第k帧图像同步建立金字塔结构。
本发明使用SRAM2、SRAM3及SRAM4实现图像金字塔的建立和存储,具体如图5所示。当第k帧图像经中值滤波后以27Mhz的工作频率同时分别以流水输入到SRAM2和SRAM3中,SRAM2、SRAM3和SRAM4同步进行三条流水线操作:第一条流水线操作是SRAM2将第k帧图像进行缓存作为第k+1帧图像光流估计的模板,并将第k-1帧图像发送给SRAM4;第二条流水线操作是SRAM3和SRAM4同步建立第k帧图像金字塔和第k-1帧图像金字塔;第三条流水线操作是LK光流匹配模块根据光流和特征点的初始化信息在第k帧图像金字塔和第k-1帧图像金字塔中提取特征点邻域。
SRAM3和SRAM4建立图像金字塔的过程相同,具体如图6所示:SRAM控制模块的工作频率为108Mhz,在一个像素数据输入期间,SRAM可完成四次读或写操作,分别记做wr1、wr2、wr3和rd1。根据式(6)对像素点的坐标(x,y)进行判断,根据判断结果完成不同层图像的建立。本实施例中,在读周期rd1内,从顶层图像开始,结合特征点坐标信息及初始化光流值,提取出以特征点为中心像素的7×7邻域及层数信号,用于LK光流的估计。
5、光流和特征点坐标初始化模块和LK光流匹配模块
(1)本发明采用的计算方法:
若图像运动满足光流估计的三个前提假设:亮度恒定、图像运动为小位移以及速度连续性,则可得到如式(7)和(8)所示的LK光流计算公式,其中I、J分别为第k-1帧、第k帧图像,dL=[dx L dy L]T为估计光流量:
整理式(7)可以获得到式(8):
其中,dx L是x方向的光流,dy L是y方向的光流。
(2)本发明LK光流估计的实现方式:
本发明LK光流估计的实现方式如图7所示。LK光流估计模块的工作频率为108Mhz,当第k-1帧及第k帧图像的特征点信息I(x,y)、J(x,y)以27Mhz的工作频率流水进入LK光流匹配模块时,同步完成I(x,y)-J(x,y)及(I(x,y)+J(x,y))/2的计算。当特征点邻域内7×7=49个数据完全进入LK光流匹配模块后,根据式(8)在5个系统时钟内计算出该特征点在第L层的光流值dL=[dx L dy L]T;若层数L不为0,则把光流输入到光流和特征点坐标初始化模块,光流输入到光流和特征点坐标初始化模块根据初始光流值的计算公式(4)估计出初始光流fL-1,并通过四舍五入提取其整数部分,再根据光流初始化后的整数部分调整SRAM3中特征点的提取地址,完成对下层图像的初始化,并把调整后的SRAM3中特征点的提取地址发送给LK光流匹配模块;若层数L为0,则通过网口同步输出特征点坐标及光流值至电脑端。
本实施例整个算法所占的FPGA资源情况如表1所示,其中片上寄存器和片上查找表分别占17.5%和44.6%,由于本实施例算法计算涉及到大量的乘法运算,调用的FPGA上的乘法器资源占到了96.8%,片内的先入先出缓存器占到了63.2%。由于本发明LK光流匹配模块调用的乘法器较多,因此乘法器的资源占用率较高;而其他三个方面的资源占用率均较低。由此说明,本发明算法的总体硬件资源开销较小,明显降低了硬件系统的应用成本,可为后端算法程序的实现提供较大的资源空间。
表1
名称 | 已用资源 | 可用资源 | 所占比例 |
寄存器 | 3588 | 20480 | 17.5% |
查找表 | 9135 | 20480 | 44.6% |
乘法器 | 62 | 64 | 96.8% |
先入先出缓存器 | 43 | 68 | 63.2% |
Claims (7)
1.一种光流法的图像匹配系统,其特征在于,包括A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块以及四个SRAM存储芯片SRAM1、SRAM2、SRAM3、SRAM4;
A/D转换模块、中值滤波模块、KLT特征点提取模块、图像金字塔模块、光流和特征点坐标初始化模块、SRAM控制模块、LK光流匹配模块设置在FPGA上,A/D转换模块与中值滤波模块相连,中值滤波模块同时与KLT特征点提取模块和图像金字塔模块相连,KLT特征点提取模块、光流和特征点坐标初始化模块、SRAM控制模块和LK光流匹配模块依次相连;SRAM1通过SRAM控制模块与A/D转换模块相连;SRAM2和SRAM3通过SRAM控制模块与图像金字塔模块相连;SRAM4通过SRAM控制模块与SRAM2相连;
A/D转换模块的作用在于利用A/D转换芯片将CCD采集的模拟图像数据转化为数字图像数据;中值滤波模块的作用在于使用快速中值滤波法对数字图像数据进行降噪处理;KLT特征点提取模块的作用在于使用KLT特征点提取原理与阈值的设定,完成KLT特征点提取;图像金字塔模块的作用在于使用下采样方法通过SRAM控制模块完成图像金字塔模型的建立和存储;光流和特征点坐标初始化模块的作用在于使用图像金字塔的层数信息将光流和特征点进行初始化;SRAM控制模块的作用在于控制四个SRAM存储芯片的读写操作;LK光流匹配模块的作用在于使用最小化差异函数完成图像匹配;
KLT特征提取模块中使用n个先入先出缓存器FIFO组成n×n窗口估计出中值滤波处理后图像中像素点I(x,y)的特征提取矩阵G,然后根据特征提取矩阵G中的参数及阈值λT组建特征方程f(λT),使用特征方程f(λT)按照KLT特征点提取算子的判断条件判断当前窗口的中心像素点是否为特征点,判断过程具体为:设置与图像大小相同的1位逻辑标识序列A(x,y),若当前像素点为KLT特征点,则输出逻辑值1,否则,输出逻辑值0,该逻辑标识序列A(x,y)与滤波后的图像同步输出;然后对逻辑标识序列A(x,y)进行检测,若A(x,y)为1,则输出当前窗口的中心像素点的坐标,即特征点坐标;否则,继续进行检测,特征提取矩阵G如公式(1)所示,特征方程f(λ)如公式(2)所示:
f(λ)=λ2-(a+c)λ+ac-b2(2)
其中,Ix为x方向的梯度,Iy为y方向的梯度,为n×n矩阵中的元素求和,参数参数参数λ为特征值;
KLT特征点提取算子的判断条件如公式(3)所示,
其中,λT为阈值,可通过调整阈值来控制特征点的数量。
2.如权利要求1所述的光流法的图像匹配系统,其特征在于,模拟图像经CCD采集后,通过视频口输入到A/D转换模块,A/D转换模块通过SRAM控制模块控制SARM1完成图像奇偶场的合成,得到完整的数字图像后发送给中值滤波模块;数字图像在中值滤波模块中进行降噪处理后,同时输入到KLT特征点提取模块和图像金字塔模块;KLT特征点提取模块对接收到的图像数据进行特征点提取,然后将特征点坐标信息发送给光流和特征点坐标初始化模块;图像金字塔模块接收到图像数据后通过SRAM控制模块协调SRAM2、SRAM3、SRAM4建立和存储图像金字塔模型;光流和特征点坐标初始化模块接收到来自KLT特征点提取模块的特征点坐标信息以及来自LK光流匹配模块的光流信息后将光流和特征点坐标初始化,并将初始化后的光流和特征点坐标信息输出到SRAM控制模块;LK光流匹配模块根据SRAM控制模块接收到的光流和特征点坐标初始化信息控制SRAM控制模块从SRAM3、SRAM4中读取出图像金字塔模型,进行图像匹配获得光流,然后根据金字塔层数判断是否完成图像匹配,若完成则输出光流完成图像匹配,否则将光流发送到光流和特征点坐标初始化模块再进行初始化。
3.如权利要求1所述的光流法的图像匹配系统,其特征在于,A/D转换模块通过SRAM控制模块控制SARM1完成图像奇偶场的合成,获得完整的数字图像后发送给中值滤波模块。
4.如权利要求1所述的光流法的图像匹配系统,其特征在于,所述中值滤波模块在FPGA中调用两个先入先出缓存器建立3×3的矩阵,两个先入先出缓存器分别记为fifo1、fifo2,fifo1的输出与fifo2的输入相连;将图像数据中相邻9个像素点的灰度值输入到3×3的矩阵;首先对3×3的矩阵每一行的灰度值按照灰度值的大小进行排序,得到每一行的灰度值的最大值、中间值和最小值,通过比较获得三个最大值中的最小值、 三个中值中的中间值以及三个最小值中的最大值组成9个像素点的灰度值的中间值。
5.如权利要求1所述的光流法的图像匹配系统,其特征在于,图像金字塔建立模块中对经中值滤波模块降噪后的图像进行下采样处理,建立三层金字塔结构;设顶层图像的初始光流值为0,下层光流估计时将上层估计出的光流值作为初始光流值初始化本层图像,再在本层图像中根据LK算法进行光流估计,其中,第L层的初始光流值fL的计算公式如式(4)所示,图像总光流d的计算公式如式(5)所示:
fL-1=2(fL+dL) (4)
d=f0+d0 (5)
其中,dL为第L层的光流,f0第0层的初始化光流,d0为第0层的光流。
6.如权利要求1所述的光流法的图像匹配系统,其特征在于,使用SRAM2、SRAM3及SRAM4实现图像金字塔的建立和存储;当第k帧图像经中值滤波后同时分别输入到SRAM2和SRAM3中;SRAM2将第k帧图像进行缓存作为第k+1帧图像光流估计的模板,并将第k-1帧图像发送给SRAM4;SRAM3和SRAM4同步建立第k帧图像金字塔和第k-1帧图像金字塔;LK光流匹配模块根据光流和特征点的初始化信息在第k帧图像金字塔和第k-1帧图像金字塔中提取特征点邻域。
7.如权利要求6所述的光流法的图像匹配系统,其特征在于,SRAM3和SRAM4建立图像金字塔的过程为:在一个像素数据输入期间,SRAM完成四次读或写操作,分别记做wr1、wr2、wr3和rd1,根据公式(6)所示条件对像素点的坐标(x,y)进行判断,根据判断结果完成不同层图像的建立,
。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410139220.2A CN104978728B (zh) | 2014-04-08 | 2014-04-08 | 一种光流法的图像匹配系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410139220.2A CN104978728B (zh) | 2014-04-08 | 2014-04-08 | 一种光流法的图像匹配系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104978728A CN104978728A (zh) | 2015-10-14 |
CN104978728B true CN104978728B (zh) | 2017-11-14 |
Family
ID=54275209
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410139220.2A Expired - Fee Related CN104978728B (zh) | 2014-04-08 | 2014-04-08 | 一种光流法的图像匹配系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104978728B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809712B (zh) * | 2016-03-02 | 2018-10-19 | 西安电子科技大学 | 一种高效大位移光流估计方法 |
CN106803265A (zh) * | 2017-01-06 | 2017-06-06 | 重庆邮电大学 | 基于光流法和卡尔曼滤波的多目标跟踪方法 |
WO2018137132A1 (en) * | 2017-01-24 | 2018-08-02 | SZ DJI Technology Co., Ltd. | Method and system for feature tracking using image pyramids |
CN106960440B (zh) * | 2017-04-20 | 2019-12-03 | 力源液压系统(贵阳)有限公司 | 基于物体图像特征点像素空间位置组合控制方法 |
WO2018195819A1 (zh) * | 2017-04-26 | 2018-11-01 | 深圳市大疆创新科技有限公司 | 图像处理方法和设备 |
WO2019000396A1 (zh) * | 2017-06-30 | 2019-01-03 | 深圳市大疆创新科技有限公司 | 光流跟踪装置和方法 |
CN108449557B (zh) * | 2018-03-23 | 2019-02-15 | 上海芯仑光电科技有限公司 | 像素采集电路、光流传感器和光流及图像信息采集系统 |
CN111627051B (zh) | 2019-02-27 | 2023-12-15 | 中强光电股份有限公司 | 电子装置及用以估计光流的方法 |
CN112884817B (zh) * | 2019-11-29 | 2022-08-02 | 中移物联网有限公司 | 稠密光流计算方法、装置、电子设备以及存储介质 |
CN111275746B (zh) * | 2020-01-19 | 2023-05-23 | 浙江大学 | 一种基于fpga的稠密光流计算系统及方法 |
CN111741187B (zh) * | 2020-06-08 | 2022-08-26 | 北京小米松果电子有限公司 | 图像处理方法、装置及存储介质 |
CN112529016A (zh) * | 2020-12-21 | 2021-03-19 | 浙江欣奕华智能科技有限公司 | 一种图像中特征点的提取方法及提取装置 |
CN114140502B (zh) * | 2021-12-10 | 2023-03-24 | 江南大学 | 一种基于嵌入式gpu的图像光流计算方法、装置以及设备 |
CN114640885B (zh) * | 2022-02-24 | 2023-12-22 | 影石创新科技股份有限公司 | 视频插帧方法、训练方法、装置和电子设备 |
CN114612513B (zh) * | 2022-03-10 | 2024-03-01 | 西安交通大学 | 一种基于fpga的图像金字塔光流值计算方法及系统 |
CN117237417A (zh) * | 2023-11-13 | 2023-12-15 | 南京耀宇视芯科技有限公司 | 一种基于图像和imu数据的硬件实现光流跟踪的系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102509071A (zh) * | 2011-10-14 | 2012-06-20 | 江南大学 | 光流计算系统和方法 |
CN103177455A (zh) * | 2013-03-20 | 2013-06-26 | 南京理工大学 | 基于多核dsp的klt运动目标跟踪算法的实现方法 |
CN103295222A (zh) * | 2013-02-21 | 2013-09-11 | 南京理工大学 | 红外图像配准实现方法及其装置 |
-
2014
- 2014-04-08 CN CN201410139220.2A patent/CN104978728B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102509071A (zh) * | 2011-10-14 | 2012-06-20 | 江南大学 | 光流计算系统和方法 |
CN103295222A (zh) * | 2013-02-21 | 2013-09-11 | 南京理工大学 | 红外图像配准实现方法及其装置 |
CN103177455A (zh) * | 2013-03-20 | 2013-06-26 | 南京理工大学 | 基于多核dsp的klt运动目标跟踪算法的实现方法 |
Non-Patent Citations (3)
Title |
---|
A hardware implementation of pyramidal KLT feature tracker for driving assistance systems;Wonjun Jang et al.;《Proceedings of the 12th International IEEE Conference on Intelligent Transportation Systems》;20091007;全文 * |
一种基于FPGA参数可调的金字塔光流估计并行结构;段渭超 等;《第十七届计算机工程与工艺年会暨第三届微处理器技术论坛论文集(下册)》;20130720;全文 * |
基于Harris角点的KLT跟踪红外图像配准的硬件实现;杨陈晨 等;《红外技术》;20131022;第35卷(第10期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN104978728A (zh) | 2015-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104978728B (zh) | 一种光流法的图像匹配系统 | |
CN103826105A (zh) | 一种基于机器视觉技术的视频跟踪系统及其实现方法 | |
CN103262119B (zh) | 用于对图像进行分割的方法和系统 | |
CN108734194B (zh) | 一种面向虚拟现实的基于单深度图的人体关节点识别方法 | |
CN108171734B (zh) | 一种orb特征提取与匹配的方法及装置 | |
CN104794737B (zh) | 一种深度信息辅助粒子滤波跟踪方法 | |
CN110532897A (zh) | 零部件图像识别的方法和装置 | |
CN106686278A (zh) | 一种面向实时目标识别的异构处理机并行协调处理方法 | |
CN109446922B (zh) | 一种实时鲁棒的人脸检测方法 | |
WO2021098802A1 (en) | Object detection device, method, and systerm | |
Nguyen et al. | Yolo based real-time human detection for smart video surveillance at the edge | |
CN107341815B (zh) | 基于多目立体视觉场景流的剧烈运动检测方法 | |
CN110349186B (zh) | 基于深度匹配的大位移运动光流计算方法 | |
CN103258332A (zh) | 一种抗光照变化的运动目标检测方法 | |
CN104240217B (zh) | 双目摄像头图像深度信息获取方法及装置 | |
CN111160291A (zh) | 基于深度信息与cnn的人眼检测方法 | |
CN107886110A (zh) | 人脸检测方法、装置及电子设备 | |
CN104850232B (zh) | 一种摄像头条件下获取远程手势轨迹的方法 | |
CN107093182B (zh) | 一种基于特征拐点的人体高度估计方法 | |
CN108282597A (zh) | 一种基于fpga的实时目标追踪系统和方法 | |
CN108510434B (zh) | 通过球幕相机进行三维建模的方法 | |
CN105321164B (zh) | 一种红外小目标预警系统 | |
CN106204648B (zh) | 一种基于背景剔除的目标跟踪方法及装置 | |
Zhou et al. | Stn-homography: estimate homography parameters directly | |
Fang et al. | Dynamic gesture recognition based on multimodal fusion model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20171114 Termination date: 20190408 |
|
CF01 | Termination of patent right due to non-payment of annual fee |