CN117934577A - 一种基于双目dvs实现微秒级3d探测的方法、系统及装置 - Google Patents
一种基于双目dvs实现微秒级3d探测的方法、系统及装置 Download PDFInfo
- Publication number
- CN117934577A CN117934577A CN202311802766.7A CN202311802766A CN117934577A CN 117934577 A CN117934577 A CN 117934577A CN 202311802766 A CN202311802766 A CN 202311802766A CN 117934577 A CN117934577 A CN 117934577A
- Authority
- CN
- China
- Prior art keywords
- dvs
- gradient
- binocular
- polarity
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 50
- 238000000034 method Methods 0.000 title claims abstract description 50
- 230000009466 transformation Effects 0.000 claims description 18
- 239000011159 matrix material Substances 0.000 claims description 15
- 238000012216 screening Methods 0.000 claims description 9
- 230000001131 transforming effect Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 5
- 230000008859 change Effects 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 10
- 230000008447 perception Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000000691 measurement method Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000002366 time-of-flight method Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本申请公开了一种基于双目DVS实现微秒级3D探测的方法、系统及装置,用于实现高速运动场景下的微秒级3D探测,提升探测结果的实时性。本申请方法包括:对双目DVS相机进行标定,得到所述双目DVS相机的内外参数;使用标定后的双目DVS相机进行拍摄得到两组DVS数据,所述DVS数据包括像素的极性;分别提取所述两组DVS数据中像素的梯度特征;基于所述极性和所述梯度特征进行特征点对的匹配;获取所述特征点对之间的视差信息,并根据所述双目DVS相机的内外参数以及所述视差信息计算得到深度信息。
Description
技术领域
本申请涉及图像处理领域,尤其涉及一种基于双目DVS实现微秒级3D探测的方法、系统及装置。
背景技术
常规的3D探测方案包括单目3D、双目、多相机3D等方法。其中,单目3D目标检测无法提供足够的3D信息,很难准确预测目标的位置信息。双目3D探测方案通过使用两个摄像头记录同一场景的不同视角,并进行图像处理和比对,可以测量出目标物体相对于相机的距离。除了基于摄像头的探测方案,常见的3D探测方案还包括使用激光雷达进行三角测量、使用时间飞行方法和结构光3D测量技术进行测量。不同的3D探测方案在应用场景、成本、精度等方面有所区别,选择适合特定需求的方案需要综合考虑各种因素。
现有技术中,由于常规的3D探测方案,受限于相机的硬件性能和采集图像的分辨率等因素,帧率基本在60fps以内,对于VGA及以上分辨率的3D相机,帧率普遍在30fps以内。而在高速运动物体探测中,相机需要能够在非常短的时间内捕捉到物体的位置和状态。如果相机的帧率较低,每秒钟只能拍摄到较少的图像帧数,那么在高速运动物体经过相机时可能会出现明显的图像模糊或拖影等现象,导致现有技术难以对高速运动的物体进行3D探测。
发明内容
本申请提供了一种基于双目DVS实现微秒级3D探测的方法、系统及装置,用于实现高速运动场景下的微秒级3D探测,提升探测结果的实时性。
本申请第一方面提供了一种基于双目DVS实现微秒级3D探测的方法,包括:
对双目DVS相机进行标定,得到所述双目DVS相机的内外参数;
使用标定后的双目DVS相机进行拍摄得到两组DVS数据,所述DVS数据包括像素的极性;
分别提取所述两组DVS数据中像素的梯度特征;
基于所述极性和所述梯度特征进行特征点对的匹配;
获取所述特征点对之间的视差信息,并根据所述双目DVS相机的内外参数以及所述视差信息计算得到深度信息。
可选的,所述分别提取所述两组DVS数据中像素的梯度特征,包括:
分别计算两组DVS数据中目标像素的梯度特征,所述目标像素为有极性的像素,所述梯度特征包括梯度模和梯度方向;
基于预设尺度计算所述目标像素周围的邻域像素的梯度特征。
可选的,所述目标像素的梯度模为:
所述目标像素的梯度方向为:
其中,(x,y)为所述目标像素的坐标,m(x,y)为所述目标像素的梯度模,θ(x,y)为所述目标像素的梯度方向,L(x,y)为所述目标像素的极性值,L(x+1,y)、L(x-1,y)、L(x,y+1)、L(x,y-1)分别表示所述目标像素相邻位置的极性值。
可选的,在所述基于所述极性和所述梯度特征进行特征点对的匹配之前,所述方法还包括:
将所述目标像素的梯度方向变换至目标方向,并记录变换角度;
根据所述变换角度对所述邻域像素的梯度方向进行变换,得到变换后的梯度特征;
所述基于所述极性和所述梯度特征进行特征点对的匹配,包括:
基于所述极性和变换后的梯度特征进行特征点对的匹配。
可选的,所述基于所述极性和所述梯度特征进行特征点对的匹配,包括:
根据所述极性筛选出待匹配特征点;
根据所述梯度特征计算所述待匹配特征点之间的矢量差;
若两个待匹配特征点之间的矢量差小于预设矢量差阈值,则确定所述两个待匹配特征点为匹配的特征点对。
可选的,所述根据所述目标像素及所述邻域像素的极性信息筛选出待匹配特征点,包括:
将所述目标像素与所述邻域像素的极性进行相减,得到差异矩阵;
对所述差异矩阵中的每个元素的绝对值进行求和,得到差异度值;
若所述差异度值小于预设差异度阈值,则确定所述目标像素为待匹配特征点。
可选的,所述预设尺度为3*3、4*4、5*5和6*6。
本申请第二方面提供了一种基于双目DVS实现微秒级3D探测的系统,包括:
标定单元,用于对双目DVS相机进行标定,得到所述双目DVS相机的内外参数;
拍摄单元,用于使用标定后的双目DVS相机进行拍摄得到两组DVS数据,所述DVS数据包括像素的极性;
提取单元,用于分别提取所述两组DVS数据中像素的梯度特征;
匹配单元,用于基于所述极性和所述梯度特征进行特征点对的匹配;
计算单元,用于获取所述特征点对之间的视差信息,并根据所述双目DVS相机的内外参数以及所述视差信息计算得到深度信息。
可选的,所述提取单元具体用于:
分别计算两组DVS数据中目标像素的梯度特征,所述目标像素为有极性的像素,所述梯度特征包括梯度模和梯度方向;
基于预设尺度计算所述目标像素周围的邻域像素的梯度特征。
可选的,所述目标像素的梯度模为:
所述目标像素的梯度方向为:
其中,(x,y)为所述目标像素的坐标,m(x,y)为所述目标像素的梯度模,θ(x,y)为所述目标像素的梯度方向,L(x,y)为所述目标像素的极性值,L(x+1,y)、L(x-1,y)、L(x,y+1)、L(x,y-1)分别表示所述目标像素相邻位置的极性值。
可选的,所述系统还包括:变换单元;
所述变换单元用于:
将所述目标像素的梯度方向变换至目标方向,并记录变换角度;
根据所述变换角度对所述邻域像素的梯度方向进行变换,得到变换后的梯度特征;
所述匹配单元具体用于:
基于所述极性和变换后的梯度特征进行特征点对的匹配。
可选的,所述匹配单元具体用于:
根据所述极性筛选出待匹配特征点;
根据所述梯度特征计算所述待匹配特征点之间的矢量差;
若两个待匹配特征点之间的矢量差小于预设矢量差阈值,则确定所述两个待匹配特征点为匹配的特征点对。
可选的,所述匹配单元具体还用于:
将所述目标像素与所述邻域像素的极性进行相减,得到差异矩阵;
对所述差异矩阵中的每个元素的绝对值进行求和,得到差异度值;
若所述差异度值小于预设差异度阈值,则确定所述目标像素为待匹配特征点。
本申请第三方面提供了一种基于双目DVS实现微秒级3D探测的装置,所述装置包括:
处理器、存储器、输入输出单元以及总线;
所述处理器与所述存储器、所述输入输出单元以及所述总线相连;
所述存储器保存有程序,所述处理器调用所述程序以执行第一方面以及第一方面中任一项可选的基于双目DVS实现微秒级3D探测的方法。
本申请第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质上保存有程序,所述程序在计算机上执行时执行第一方面以及第一方面中任一项可选的基于双目DVS实现微秒级3D探测的方法。
从以上技术方案可以看出,本申请具有以下优点:
DVS相机基于动态视觉传感器技术实现,能够以非常低的延迟捕捉物体的运动和变化,实现高速运动场景下的物体感知。通过获取双目DVS相机输出的两组DVS数据,并利用DVS数据中的像素极性和梯度特征来进行特征点对的匹配,再根据特征点对的视差信息进行深度计算得到深度信息。通过结合DVS的高速感知和双目视觉的深度计算,实现对快速运动场景的微秒级深度感知,由此实现微秒级时间尺度的3D探测,显著提升探测结果的实时性。
附图说明
为了更清楚地说明本申请中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请提供的基于双目DVS实现微秒级3D探测的方法一个实施例流程示意图;
图2为本申请提供的基于双目DVS实现微秒级3D探测的方法中深度信息计算原理示意图;
图3为本申请提供的基于双目DVS实现微秒级3D探测的方法另一实施例流程示意图;
图4为申请提供的基于双目DVS实现微秒级3D探测的方法中梯度特征的示意图;
图5为申请提供的基于双目DVS实现微秒级3D探测的方法中梯度特征的变换示意图;
图6为本申请提供的基于双目DVS实现微秒级3D探测的系统一个实施例结构示意图;
图7为本申请提供的基于双目DVS实现微秒级3D探测的装置一个实施例结构示意图。
具体实施方式
本申请提供了一种基于双目DVS实现微秒级3D探测的方法、系统及装置,用于实现高速运动场景下的微秒级3D探测,提升探测结果的实时性。
需要说明的是,本申请提供的基于双目DVS实现微秒级3D探测的方法,尤其适用于快速运动的场景,例如机器人导航、无人驾驶车辆等。可以应用于终端,例如车辆、无人机或移动机器人等,还可以应用于服务器上。为方便阐述,本申请中以终端为执行主体进行举例说明。
请参阅图1,图1为本申请提供的基于双目DVS实现微秒级3D探测的方法的一个实施例,该方法包括:
101、对双目DVS相机进行标定,得到双目DVS相机的内外参数;
DVS相机是一种基于动态视觉传感器技术的相机,与传统的帧传感器相比,DVS相机采用事件驱动的方式,只在感知场景中发生明显变化时产生事件,有效降低了数据冗余,具有极低的延迟和高的动态范围。DVS相机的工作原理是通过在像素级别感知亮度的变化,产生事件流数据。当相机感知到亮度变化时,相应的像素将产生事件,包含了事件发生的时间戳和像素的位置信息。而本实施例中采用双目DVS相机来实现3D探测,即通过构建两个DVS相机模块,获得双目视差信息,从而计算场景中物体的深度。
在使用双目DVS相机之前,需要对双目DVS相机进行标定来获取相机的内外参数,以便准确地将像素坐标映射到三维空间。需要说明的是,由于DVS相机采集的是事件流数据,而非传统的图像帧,因此标定过程需要考虑特殊的特征点提取方式,例如通过边缘检测、光流估计或卷积神经网络的方式来提取特征点。终端再利用提取的特征点和对应的世界坐标,使用张正友标定法标定得到相机的内外参数。这些参数包括内参(相机内部的参数,如焦距、主点坐标等)和外参(相机外部的参数,如旋转矩阵、平移向量等)。这些参数描述了相机的几何特性和位置关系。
102、使用标定后的双目DVS相机进行拍摄得到两组DVS数据,DVS数据包括像素的极性;
终端使用标定后的双目DVS相机对目标场景进行拍摄,产生两组DVS数据,分别对应左右摄像头。双目DVS相机采集的数据是由事件流组成的,每个事件包含有关光强变化的信息,同时包括像素的位置和极性。双目DVS相机输出的数据形态为(x,y,polarity,timestamp),对应的是像素坐标[x,y]、检测到变化的光的极性(polarity)、检测到事件的时间(timestamp)。
终端需要获取DVS数据中像素的极性信息,极性指的是事件流中每个事件的光强变化的方向,即表示事件是由亮度增加(正极性)还是减小(负极性)引起的。极性信息是DVS数据的重要组成部分,能够提供关于场景中光强变化的方向和强度信息,因此像素的极性有助于后续的特征点提取和匹配。
103、分别提取两组DVS数据中像素的梯度特征;
终端还需要分别计算每个像素位置处的梯度,以提取两组DVS数据中像素的梯度特征。梯度通常由两个分量组成:水平方向梯度(x方向)和垂直方向梯度(y方向),终端可以使用如Sobel、Prewitt等梯度计算算法,具体此处不作限定。DVS数据中像素的梯度特征能够反映每个像素位置处极性变化的强度和方向,通过提取两组DVS数据中像素的梯度特征,可以在两组DVS数据中识别出边缘、纹理等结构,增强对光强变化的感知,有助于后续的特征点对的匹配。
104、基于极性和梯度特征进行特征点对的匹配;
终端通过获取两组DVS数据中像素的极性和梯度特征,对两组DVS数据中的特征点进行匹配,匹配的目的是找到相似或相同的特征点对。具体的,终端通过比较两组DVS数据中的像素极性和梯度特征,计算它们之间的相似性度量,再根据相似性度量筛选出相似性较高的特征点对,建立它们之间的映射关系。需要说明的是,终端可以使用各种度量方法,如欧氏距离、余弦相似度等,具体此处不作限定。
105、获取特征点对之间的视差信息,并根据双目DVS相机的内外参数以及视差信息计算得到深度信息。
终端通过步骤104可以得到双目DVS相机的特征点对,对于每个特征点对,终端可以计算得到其视差信息,即其在左右相机中的像素位置差异。再利用双目几何与已知的双目DVS相机的内外参数,通过三角关系可以计算得到特征点对之间的距离,进而计算出场景中的深度信息。请参阅图2,图2为双目DVS相机的深度信息计算原理示意图,通过特征点对之间的视差信息xl-xr,利用三角关系进而可以计算出深度信息z。其中f是DVS相机的焦距,b是两个DVS相机之间的基线距离,即两个DVS相机的光心之间的距离,z是深度。
在本实施例中,DVS相机基于动态视觉传感器技术实现,能够以非常低的延迟捕捉物体的运动和变化,实现高速运动场景下的物体感知。通过获取双目DVS相机输出的两组DVS数据,并利用DVS数据中的像素极性和梯度特征来进行特征点对的匹配,再根据特征点对的视差信息进行深度计算得到深度信息。通过结合DVS的高速感知和双目视觉的深度计算,实现对快速运动场景的微秒级深度感知,由此实现微秒级时间尺度的3D探测,显著提升探测结果的实时性。
下面对本申请提供的基于双目DVS实现微秒级3D探测的方法进行详细说明,请参阅图3,图3为本申请提供的基于双目DVS实现微秒级3D探测的方法的另一个实施例,该方法包括:
301、对双目DVS相机进行标定,得到双目DVS相机的内外参数;
302、使用标定后的双目DVS相机进行拍摄得到两组DVS数据,DVS数据包括像素的极性;
在本实施例中,步骤301至步骤302与前述实施例步骤101至步骤102类似,此处不再赘述。
303、分别计算两组DVS数据中目标像素的梯度特征,目标像素为有极性的像素,梯度特征包括梯度模和梯度方向;
终端分别计算两组DVS数据中目标像素的梯度特征,目标像素为有极性像素,即发生极性变化的区域像素。终端对于DVS数据中的每个事件,提取其像素位置信息,筛选出目标像素(x,y)计算其梯度特征,该梯度特征具体包括梯度模和梯度方向。其中梯度模表示在目标像素位置发生的极性变化的强度或程度。梯度模越大,表示在该位置上极性变化越剧烈。梯度方向表示在目标像素位置上极性变化的方向。
具体的,目标像素的梯度模为:
目标像素的梯度方向为:
其中,(x,y)为目标像素的坐标,m(x,y)为目标像素的梯度模,θ(x,y)为目标像素的梯度方向,L(x,y)为目标像素的极性值,L(x+1,y)、L(x-1,y)、L(x,y+1)、L(x,y-1)分别表示目标像素相邻位置的极性值。
304、基于预设尺度计算目标像素周围的邻域像素的梯度特征;
终端根据预设的尺度,以目标像素为中心提取相应大小的邻域像素,并对每个邻域像素计算其梯度模和梯度方向。在不同的尺度下,同一物体或结构的特征可能具有不同的表现,因此在计算目标像素周围的邻域像素的梯度特征时,使用不同的预设尺度可以获取更多不同细节的特征信息,以更全面地捕捉场景中的信息。
在一些具体的实施例中,该预设尺度具体设定为:3*3、4*4、5*5和6*6。请参阅图4,图4为计算得到的目标像素及邻域像素的梯度特征示意图,其中箭头方向对应该像素位置处的梯度方向,箭头长短对应该像素位置处的梯度模的大小。
305、将目标像素的梯度方向变换至目标方向并记录变换角度,根据变换角度对邻域像素的梯度方向进行变换,得到变换后的梯度特征;
终端将目标像素位置处的梯度方向进行变换,将其旋转至目标方向,并记录相应的变换角度,该目标方向具体可设定为水平向右的方向。对于目标像素周围的邻域像素,终端根据所记录的变换角度也将其梯度方向进行变换,从而得到新的梯度特征。通过变换梯度方向,可以让无序的梯度特征在做匹配时计算更加简洁,有助于提高匹配的鲁棒性和准确性。且能够在实际应用时降低匹配算法的算力消耗,提高特征点对的匹配速度。
具体的,终端通过如下公式进行梯度方向的变换:
其中v'为新的矢量,即变换后的梯度特征,v为原始的矢量,cos(θ)为变换角度,n为法矢量。
请参阅图5,图5为梯度方向变换示意图,即终端将目标像素位置处的梯度方向旋转至水平向右的方向,其余邻域像素则跟着旋转。
306、根据极性筛选出待匹配特征点;
像素本身的极性信息表示每个像素的事件流极性,通常取值为+1(正极性)、-1(负极性)或0(无极性)。极性信息能够捕捉场景中的动态变化,例如光照变化或物体运动。因此根据目标像素及邻域像素的极性信息可以初步筛选出极性变化满足一定条件的像素点,将其确定为待匹配特征点,其余像素点则不参与后续的匹配。
在一些具体的实施例中,终端使用如下筛选方式:
S1、将目标像素与邻域像素的极性进行相减,得到差异矩阵;
对于每个目标像素,终端将其邻域像素,即目标像素周围的3x3、4x4、5x5或6x6的像素的极性进行相减操作,得到一个差异矩阵。该差异矩阵表示了目标像素周围邻域的差异信息。
S2、对差异矩阵中的每个元素的绝对值进行求和,得到差异度值;
对于差异矩阵中的每个元素,终端取其绝对值,将所有差异值变为非负数,再对每个元素进行求和操作得到一个总的差异度值。
S3、若差异度值小于预设差异度阈值,则确定目标像素为待匹配特征点。
终端将总的差异度值与预先设定的差异度阈值进行比较,如果总的差异度值小于预设差异度阈值,说明目标像素周围的极性变化满足条件,将其确定为待匹配像素。需要说明的是,该差异度阈值可设定为差异矩阵元素数目的10%,具体可根据实际要求灵活调整。
局部区域内像素极性变化较大可能是由于物体边界或纹理等引起的,这些区域容易引起误匹配。因此通过这种方式可以排除掉一些局部区域内极性变化较大的情况,只将局部区域内极性变化较小的像素点确定为待匹配特征点,从而使得后续的匹配过程更加鲁棒,有助于防止异常值或噪声对匹配结果的影响,并且减少匹配计算量。
307、根据梯度特征计算待匹配特征点之间的矢量差,若两个待匹配特征点之间的矢量差小于预设矢量差阈值,则确定两个待匹配特征点为匹配的特征点对;
终端在两组DVS数据中,根据梯度特征计算待匹配特征点之间的矢量差,即计算待匹配特征点之间在梯度方向和梯度大小之间的差异,再将该矢量差与预设的矢量差阈值进行比较。如果两个待匹配特征点之间的矢量差小于预设的矢量差阈值,则将这两个待匹配特征点确定为匹配的特征点对,从而筛选出具有相似梯度方向和大小的特征点对。
需要说明的是,在进行双目DVS相机标定时,也可以使用步骤303至步骤305中的特征点对的提取和匹配方法。
308、获取特征点对之间的视差信息,并根据双目DVS相机的内外参数以及视差信息计算得到深度信息。
在本实施例中,步骤308与前述实施例步骤105类似,此处不再赘述。
在本实施例中,DVS相机基于动态视觉传感器技术实现,能够以非常低的延迟捕捉物体的运动和变化,实现高速运动场景下的物体感知。通过获取双目DVS相机输出的两组DVS数据,并利用DVS数据中的像素极性和梯度特征来进行特征点对的匹配。再根据特征点对的视差信息进行深度计算得到深度信息。通过结合DVS的高速感知和双目视觉的深度计算,实现对快速运动场景的微秒级深度感知,由此实现微秒级时间尺度的3D探测。并且在匹配前还需要对提取的梯度特征进行方向变换,使其在匹配时更为一致,进而简化匹配过程,提高匹配速度和精度,进一步提升探测结果的实时性。
请参阅图6,图6为本申请提供的基于双目DVS实现微秒级3D探测的系统一个实施例,该系统包括:
标定单元601,用于对双目DVS相机进行标定,得到双目DVS相机的内外参数;
拍摄单元602,用于使用标定后的双目DVS相机进行拍摄得到两组DVS数据,DVS数据包括像素的极性;
提取单元603,用于分别提取两组DVS数据中像素的梯度特征;
匹配单元604,用于基于极性和梯度特征进行特征点对的匹配;
计算单元605,用于获取特征点对之间的视差信息,并根据双目DVS相机的内外参数以及视差信息计算得到深度信息。
可选的,提取单元603具体用于:
分别计算两组DVS数据中目标像素的梯度特征,目标像素为有极性的像素,梯度特征包括梯度模和梯度方向;
基于预设尺度计算目标像素周围的邻域像素的梯度特征。
可选的,目标像素的梯度模为:
目标像素的梯度方向为:
其中,(x,y)为目标像素的坐标,m(x,y)为目标像素的梯度模,θ(x,y)为目标像素的梯度方向,L(x,y)为目标像素的极性值,L(x+1,y)、L(x-1,y)、L(x,y+1)、L(x,y-1)分别表示目标像素相邻位置的极性值。
可选的,系统还包括:变换单元606;
变换单元606用于:
将目标像素的梯度方向变换至目标方向,并记录变换角度;
根据变换角度对邻域像素的梯度方向进行变换,得到变换后的梯度特征;
匹配单元604具体用于:
基于极性和变换后的梯度特征进行特征点对的匹配。
可选的,匹配单元604具体用于:
根据极性筛选出待匹配特征点;
根据梯度特征计算待匹配特征点之间的矢量差;
若两个待匹配特征点之间的矢量差小于预设矢量差阈值,则确定两个待匹配特征点为匹配的特征点对。
可选的,匹配单元604具体还用于:
将目标像素与邻域像素的极性进行相减,得到差异矩阵;
对差异矩阵中的每个元素的绝对值进行求和,得到差异度值;
若差异度值小于预设差异度阈值,则确定目标像素为待匹配特征点。
本实施例系统中,各单元的功能与前述图1或图3所示方法实施例中的步骤对应,此处不再赘述。
本申请还提供了一种基于双目DVS实现微秒级3D探测的装置,请参阅图7,图7为本申请提供的基于双目DVS实现微秒级3D探测的装置一个实施例,该装置包括:
处理器701、存储器702、输入输出单元703、总线704;
处理器701与存储器702、输入输出单元703以及总线704相连;
存储器702保存有程序,处理器701调用程序以执行如上任一基于双目DVS实现微秒级3D探测的方法。
本申请还涉及一种计算机可读存储介质,计算机可读存储介质上保存有程序,其特征在于,当程序在计算机上运行时,使得计算机执行如上任一基于双目DVS实现微秒级3D探测的方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-onlymemory)、随机存取存储器(RAM,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
Claims (10)
1.一种基于双目DVS实现微秒级3D探测的方法,其特征在于,所述方法包括:
对双目DVS相机进行标定,得到所述双目DVS相机的内外参数;
使用标定后的双目DVS相机进行拍摄得到两组DVS数据,所述DVS数据包括像素的极性;
分别提取所述两组DVS数据中像素的梯度特征;
基于所述极性和所述梯度特征进行特征点对的匹配;
获取所述特征点对之间的视差信息,并根据所述双目DVS相机的内外参数以及所述视差信息计算得到深度信息。
2.根据权利要求1所述的方法,其特征在于,所述分别提取所述两组DVS数据中像素的梯度特征,包括:
分别计算两组DVS数据中目标像素的梯度特征,所述目标像素为有极性的像素,所述梯度特征包括梯度模和梯度方向;
基于预设尺度计算所述目标像素周围的邻域像素的梯度特征。
3.根据权利要求2所述的方法,其特征在于,所述目标像素的梯度模为:
所述目标像素的梯度方向为:
其中,(x,y)为所述目标像素的坐标,m(x,y)为所述目标像素的梯度模,θ(x,y)为所述目标像素的梯度方向,L(x,y)为所述目标像素的极性值,L(x+1,y)、L(x-1,y)、L(x,y+1)、L(x,y-1)分别表示所述目标像素相邻位置的极性值。
4.根据权利要求2所述的方法,其特征在于,在所述基于所述极性和所述梯度特征进行特征点对的匹配之前,所述方法还包括:
将所述目标像素的梯度方向变换至目标方向,并记录变换角度;
根据所述变换角度对所述邻域像素的梯度方向进行变换,得到变换后的梯度特征;
所述基于所述极性和所述梯度特征进行特征点对的匹配,包括:
基于所述极性和变换后的梯度特征进行特征点对的匹配。
5.根据权利要求1所述的方法,其特征在于,所述基于所述极性和所述梯度特征进行特征点对的匹配,包括:
根据所述极性筛选出待匹配特征点;
根据所述梯度特征计算所述待匹配特征点之间的矢量差;
若两个待匹配特征点之间的矢量差小于预设矢量差阈值,则确定所述两个待匹配特征点为匹配的特征点对。
6.根据权利要求5所述的方法,其特征在于,所述根据所述极性筛选出待匹配特征点,包括:
将所述目标像素与所述邻域像素的极性进行相减,得到差异矩阵;
对所述差异矩阵中的每个元素的绝对值进行求和,得到差异度值;
若所述差异度值小于预设差异度阈值,则确定所述目标像素为待匹配特征点。
7.根据权利要求2至6中任一项所述的方法,其特征在于,所述预设尺度为3*3、4*4、5*5和6*6。
8.一种基于双目DVS实现微秒级3D探测的系统,其特征在于,所述系统包括:
标定单元,用于对双目DVS相机进行标定,得到所述双目DVS相机的内外参数;
拍摄单元,用于使用标定后的双目DVS相机进行拍摄得到两组DVS数据,所述DVS数据包括像素的极性;
提取单元,用于分别提取所述两组DVS数据中像素的梯度特征;
匹配单元,用于基于所述极性和所述梯度特征进行特征点对的匹配;
计算单元,用于获取所述特征点对之间的视差信息,并根据所述双目DVS相机的内外参数以及所述视差信息计算得到深度信息。
9.一种基于双目DVS实现微秒级3D探测的装置,其特征在于,所述装置包括:
处理器、存储器、输入输出单元以及总线;
所述处理器与所述存储器、所述输入输出单元以及所述总线相连;
所述存储器保存有程序,所述处理器调用所述程序以执行如权利要求1至7中任一项所述方法。
10.一种计算机可读存储介质,所述计算机可读存储介质上保存有程序,所述程序在计算机上执行时执行如权利要求1至7中任一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311802766.7A CN117934577A (zh) | 2023-12-25 | 2023-12-25 | 一种基于双目dvs实现微秒级3d探测的方法、系统及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311802766.7A CN117934577A (zh) | 2023-12-25 | 2023-12-25 | 一种基于双目dvs实现微秒级3d探测的方法、系统及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117934577A true CN117934577A (zh) | 2024-04-26 |
Family
ID=90758314
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311802766.7A Pending CN117934577A (zh) | 2023-12-25 | 2023-12-25 | 一种基于双目dvs实现微秒级3d探测的方法、系统及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117934577A (zh) |
-
2023
- 2023-12-25 CN CN202311802766.7A patent/CN117934577A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111179358B (zh) | 标定方法、装置、设备及存储介质 | |
KR102674646B1 (ko) | 뷰로부터 거리 정보를 획득하는 장치 및 방법 | |
US8797387B2 (en) | Self calibrating stereo camera | |
EP3135033B1 (en) | Structured stereo | |
WO2017077925A1 (en) | Method and system for estimating three-dimensional pose of sensor | |
CN110956661B (zh) | 基于双向单应矩阵的可见光与红外相机动态位姿计算方法 | |
KR101524548B1 (ko) | 영상 정합 장치 및 방법 | |
TW201118791A (en) | System and method for obtaining camera parameters from a plurality of images, and computer program products thereof | |
CN107545586B (zh) | 基于光场极线平面图像局部的深度获取方法及系统 | |
CN113822942B (zh) | 一种基于二维码的单目摄像头测量物体尺寸的方法 | |
JP2015508584A (ja) | 非同期センサに依存するシーンの3d再構成の方法 | |
US11410459B2 (en) | Face detection and recognition method using light field camera system | |
WO2023169281A1 (zh) | 图像配准方法、装置、存储介质及电子设备 | |
CN108229281B (zh) | 神经网络的生成方法和人脸检测方法、装置及电子设备 | |
CN112470189B (zh) | 光场系统的遮挡消除 | |
CN110120012B (zh) | 基于双目摄像头的同步关键帧提取的视频拼接方法 | |
EP4050553A1 (en) | Method and device for restoring image obtained from array camera | |
CN113808070B (zh) | 一种双目数字散斑图像相关的视差测量方法 | |
CN117934577A (zh) | 一种基于双目dvs实现微秒级3d探测的方法、系统及装置 | |
Al-Harasis et al. | On the design and implementation of a dual fisheye camera-based surveillance vision system | |
CN107610170B (zh) | 多目图像重聚焦的深度获取方法及系统 | |
Satnik et al. | Multiview 3d sensing and analysis for high quality point cloud reconstruction | |
CN103927757B (zh) | 基于分级采样的目标物体立体视觉三维分析处理方法 | |
CN111080689B (zh) | 确定面部深度图的方法和装置 | |
CN115514877B (zh) | 图像处理装置和降低噪声的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |