CN111724431B - 视差图的获得方法、装置和电子设备 - Google Patents
视差图的获得方法、装置和电子设备 Download PDFInfo
- Publication number
- CN111724431B CN111724431B CN201910222218.4A CN201910222218A CN111724431B CN 111724431 B CN111724431 B CN 111724431B CN 201910222218 A CN201910222218 A CN 201910222218A CN 111724431 B CN111724431 B CN 111724431B
- Authority
- CN
- China
- Prior art keywords
- image
- pixel
- image block
- disparity map
- obtaining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20228—Disparity calculation for image-based rendering
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
公开了一种视差图的获得方法、装置和电子设备。视差图的获得方法可以包括:获得与双目相机采集的第一图像和第二图像相对应的初始视差图;对于初始视差图中的任一像素,确定第一图像中的第一图像块和第二图像中的尺寸相同的第二图像块;确定第一图像块和第二图像块之间的相似度;以及通过从初始视差图中删除对应的相似度低于阈值的像素,获得视差图。通过根据本公开的实施例的视差图的获得方法、装置和电子设备,能够获得更准确的视差图。
Description
技术领域
本公开总体上涉及图像处理的技术领域,并且具体地涉及一种视差图的获得方法、装置和电子设备。
背景技术
例如,在自动驾驶的场景中,由相机采集的图像数据和由激光雷达采集的雷达数据之间可能存在不对齐或不匹配的数据点,从而无法获得准确的视差图,进而影响基于视差图的图像分析/预测的结果的准确性。
为此,可以去除掉不匹配的点,或者针对不匹配的点进行运动补偿,从而确保视差值的有效性。然而,通常无法确定哪些数据点是不匹配的数据点。
发明内容
根据本公开的一个方面,提供了一种视差图的获得方法,该方法可以包括:获得与双目相机采集的第一图像和第二图像相对应的初始视差图;对于所述初始视差图中的任一像素,确定所述第一图像中的第一图像块和所述第二图像中的第二图像块,所述第一图像块和所述第二图像块的尺寸相同;确定所述第一图像块和所述第二图像块之间的相似度;以及通过从所述初始视差图中删除对应的相似度低于阈值的像素,获得所述视差图。
根据本公开的另一个方面,还提供了一种视差图的获得装置,该装置可以包括:缓冲存储器,被配置为缓存双目相机采集的第一图像和第二图像以及与所述第一图像和所述第二图像相对应的初始视差图;图像块确定单元,被配置为对于所述初始视差图中的任一像素,确定所述第一图像中的第一图像块和所述第二图像中的第二图像块,所述第一图像块和所述第二图像块的尺寸相同;相似度计算单元,被配置为确定所述第一图像块和所述第二图像块之间的相似度;以及过滤单元,被配置为从所述初始视差图中删除对应的相似度低于阈值的每个像素并输出所述视差图。
根据本公开的另一个方面,还提供了一种电子设备,该电子设备可以包括:处理器,被配置为执行上述视差图的获得方法;以及存储器,被配置为存储所述处理器的可执行指令。
根据本公开的另一个方面,还提供了一种计算机可读取的存储介质,在其上存储有程序指令,所述程序指令在被处理器执行时执行上述视差图的获得方法。
通过根据本公开的实施例的视差图的获得方法、装置和电子设备,能够获得更准确的视差图。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出根据本公开的实施例的方法的示例。
图2示出根据本公开的实施例的确定图像块的位置的示例。
图3示出根据本公开的实施例的装置的示例。
图4示出根据本公开的实施例的装置的示例。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
概述
如前文所述,由于定位误差、雷达和相机不同步等问题,导致在所采集的雷达数据或视差数据和图像数据之间可能存在不对齐或不匹配的数据点或像素点。由于无法确定哪些数据点是不匹配的数据点,所以无法对视差数据进行有效的清洗或补偿,这将影响基于视差图的图像分析/预测的结果的准确性。
示例性方法
图1示出根据本公开的实施例的视差图的获得方法的一个示例。该示例方法可以应用于电子设备,并且可以包括步骤S110、S120、S130和S140。
如图1所示,在步骤S110中,可以获得与双目相机采集的第一图像和第二图像相对应的初始视差图。
例如,在双目相机采集到左图像和右图像的情况下,第一图像可以是左图像和右图像中的一个,而第二图像可以是左图像和右图像中的另一个。
根据不同的实施例,可以通过任何适当的方式获得与双目相机采集的第一图像和第二图像相对应的初始视差图。
例如,可以根据由诸如雷达、红外摄像头、深度相机等装置采集的数据生成初始视差图。例如,可以在通过双目相机获得第一图像和第二图像的同时,通过诸如激光雷达、深度相机等装置采集深度图像VD,或者可以通过根据点云数据等进行转换,得到深度图像VD。然后,可以将深度图像VD转换到例如与第一图像相对应的坐标系,从而获得转换后的深度图像V’D。然后,可以针对V’D中的每个像素P’,通过执行例如下面的等式(1)所示的转换,获得初始视差图:
DP’=(b*f)/dP’ (1)
其中,b表示相机基线,f表示相机焦距,dP’表示V’D中的每个像素P’所对应的深度值,并且DP’表示针对像素P’通过上述转换获得的视差值。
在另外的示例中,也可以通过数据接口从外部接收初始视差图和/或对应的第一图像和第二图像。
在获得初始视差图以及第一图像和第二图像之后,如图1所示,对于初始视差图中的任一像素,可以执行步骤S120和S130。
在步骤S120中,对于初始视差图中的任一像素,可以确定第一图像中的第一图像块和第二图像中的第二图像块,其中,所确定的第一图像块和第二图像块的尺寸大小相同。
根据不同的实施例,可以通过任何适当的方法确定与初始视差图中的任一像素相对应的第一图像中的第一图像块和第二图像中的第二图像块。
然后,对于初始视差图中的任一像素P,可以确定第一图像中的对应的第一像素,根据像素P的视差值可以计算出第二图像中的对应的第二像素,并且在第一图像中以第一像素为基准点(例如,以第一像素为中心点)确定第一图像块,在第二图像中第二像素为基准点(例如,以第二像素为中心点)确定尺寸与第一图像块相同的第二图像块。
然后,可以在步骤S130中,确定第一图像块和第二图像块之间的相似度。
根据不同的实施例,可以通过任何适当的方法确定两个图像块之间的相似度。例如,可以对两个图像块中的每对像素的像素值之间的差值求和,并根据求和的结果确定两个图像块之间的相似度,也可以通过诸如直方图匹配、尺度不变特征变换、高斯模糊、尺度空间极值检测、关键点定位、关键点方向匹配、关键点特征描述等方法,确定第一图像块和第二图像块之间的相似度。
然后,根据本公开的实施例的方法可以继续到步骤S140,并在步骤S140中,从初始视差图中删除对应的相似度低于阈值的像素,由此获得视差图。
在一个实施例中,步骤S140可以是在针对初始视差图中的每个像素的每个步骤S130之后执行。也就是说,对于初始视差图中的每个像素P,可以依次执行步骤S120、S130和S140,其中,可以在步骤S120中确定与该像素P相对应的第一图像中的第一图像块和第二图像中的第二图像块,然后可以在步骤S130中确定与该像素P相对应的第一图像块和第二图像块之间的相似度,然后在步骤S140中,如果在步骤S130中确定的与该像素P相对应的相似度低于阈值,则可以将该像素P视为无效像素,并且可以从初始视差图中删除该像素P。在针对初始视差图中的每个像素均执行步骤S120、S130和S140之后,根据本公开的实施例的方法可以从初始视差图获得不包括无效像素点的视差图。
在另一个实施例中,步骤S140可以是在针对初始视差图中的每个像素分别执行完步骤S120和S130之后执行。也就是说,对于初始视差图中的每个像素P,可以依次执行步骤S120和S130,由此可以确定初始视差图中的每个像素的对应的相似度。然后,可以在步骤S140中再次遍历初始视差图中的每个像素,并从初始视差图中删除对应的相似度低于阈值的像素,由此获得不包括无效像素点的视差图。
由于诸如光线、噪声、透视变换等原因,仅根据左、第二图像中的一对像素之间的相似度确定初始视差图中的对应像素是否有效是不准确的。在根据本公开的实施例的方法中,对于初始视差图中的任一像素,确定与该像素相对应的第一图像中的第一图像块和第二图像中的第二图像块,并根据与该像素相对应的两个图像块之间的相似度,确定该像素是否与第一图像和/或第二图像中的对应的像素相匹配,或者说该像素是否为视差图中的有效像素,由此能够准确地确定并去除初始视差图中的无效像素,从而获得准确的视差图。
下面描述确定第一图像块和第二图像块的尺寸、形状和位置的更多细节。
在一个实施例中,确定所述第一图像中与所述任一像素相对应的第一像素;根据所述第一像素所属的对象类别、所述任一像素的视差值和预定的图像块基础尺寸,确定所述第一图像块的尺寸。关于第一图像块第二图像的尺寸,根据不同的实施例,可以由人工根据像素所属的对象的类别、视差值等信息手动设置,也可以根据像素所属的对象的类别、视差值等信息自适应地或自动地设置。
例如,较近(即视差值较大)的对象可以具有较强的透视变化(例如,在第一图像中看起来是一条直线的一段路面在第二图像中看起来可能是一条斜线),而较远(即视差值较小)的对象(例如,远处的电线杆)的透视变化程度可能较小。相应地,对于较近的对象上的像素,对应的图像块的尺寸可以相对较大,以便能够充分地考虑透视变换所带来的影响;而对于较远的对象上的像素,可以确定尺寸相对较小的图像块,以便能够关注例如纹理特征。
另外,例如,相比于所属对象的类别为“成人”的像素,对于所属对象的类别为“车辆”的像素,可以设置相对较大的图像块,以便能够包括足够的信息,从而避免例如由于透视投影变化而导致的不一致。
如前文所述,根据不同的实施例,可以通过任何适当的技术手段对第一图像进行语义分割,从而确定第一图像中的每个像素所属的对象类别。例如,可以通过诸如深度学习网络、决策树等任何适当的技术手段对第一图像进行语义分割,以便确定第一图像中的每个像素所属的对象类别。例如,对象类别可以包括但不限于人、车辆、道路、车道线、建筑物、围栏、墙体、标志物、树木等,并且可以基于诸如VGG、ResNet等深度学习网络对第一图像进行语义分割或标注。
另外,可以根据需要设置预定的图像块基础尺寸,例如,预定的图像块基础尺寸可以是(高*宽)=(30像素*30像素),本公开对此不作限制。
由此,可以根据像素所属对象的类别和深度等信息,自动地设置第一图像块和第二图像块的尺寸,以便能够在有针对性地进行像素过滤的同时保留更多的有效或有用的像素点,同时无需人工干预。
在一个实施例中,图像块尺寸可以与第一像素所属的对象类别的权重和像素P的视差值中的每一个正相关,或者图像块尺寸可以与第一像素所属的对象类别的权重正相关并且与像素P的深度值负相关。
例如,在观察具有相同深度的不同对象时,对尺寸较大的对象,可以设置较高的权重。例如,在自动驾驶的场景中,“成人”类别的对象的尺寸通常小于“车辆”类别的对象,因此,可以将“成人”类别的权重设置为小于“车辆”类别的权重,例如,可以分别设置为0.5和0.75,但不局限于此。由此,可以针对不同类别的对象的像素确定不同尺寸的图像块,以便在计算两个图像块的相似度时能够充分地考虑语义相关性。
另外,通过使图像块尺寸与像素P的视差值正相关或者与像素P的深度值负相关,可以使与较近的对象的像素相对应的图像块具有相对较大的尺寸,而与较远处的对象的像素相对应的图像块具有相对较小的尺寸,从而根据不同的情况,能够避免由于透视投影变化而导致的不一致,或者能够更关注于对象的纹理特征。
例如,在一个实施例中,对于初始视差图中的任一像素P,可以确定第一图像中与像素P相对应的第一像素,然后可以根据下面的等式(2)确定第一图像中的第一图像块和第二图像中的第二图像块的尺寸S:
S=W*V*B (2)
其中,W是第一像素所属的对象类别(例如,“行人”、“车辆”等)的权重,V可以是根据像素P的视差值或像素P的深度值的倒数或像素P的深度值的负数等确定的值,例如可以是像素P的视差值,B表示预定的图像块基础尺寸,例如(高*宽)=(30像素*30像素)。
在另一个实施例中,还可以根据下面的等式(3)确定第一图像中的第一图像块和第二图像中的第二图像块的尺寸S:
S=a*W*V*B (3)
其中,a为调整因子,并且a的值可以被设置为使得S的值小于第一图像或第二图像的全图尺寸并且大于或等于B。
关于第一图像块和第二图像块的形状,在一个实施例中,可以固定地选择诸如矩形或圆形等形状。
在另外的实施例中,也可以根据前述的第一像素所属的对象类别确定第一图像块和第二图像块中的每一个的图像块形状。例如,对于树木、行人等类别的对象上的像素,可以选用矩形的图像块,对于路面、车辆等类别的对象上的像素,可以采用圆形的图像块。
针对图像中的不同对象的像素,设置不同形状的图像块,使得所确定的图像块能够更好地包括同一个对象的像素点,并能够尽可能少地包括可能属于其他类别的对象的像素点,从而确保所计算出图像块之间的相似度可以具有更高的可信度。
在另外的实施例中,根据初始视差图中的视差值确定在第二图像中与初始视差图中的任一像素相对应的第二像素;根据第一像素确定第一图像块在第一图像中的位置;以及根据第二像素确定第二图像块在第二图像中的位置。
例如,对于初始视差图中的任一像素P,为了确定对应的第一图像块在第一图像中的位置和对应的第二图像块在第二图像中的位置,在一个实施例中,可以根据P的视差值确定在第二图像中与像素P相对应的第二像素,例如可以采用类似于确定第一像素的方式,在第二图像中找到一个包含像素P的视差值的像素作为第二像素;也可以根据P的视差值确定第一像素在第二图像中的位置,并将第二图像中的该位置处的像素作为第二像素。
然后,可以根据第一像素确定对应的第一图像块在第一图像中的位置,并且根据第二像素确定第二图像块在第二图像中的位置。
如前文所述,在一个实施例中,可以将第一像素作为对应的第一图像块的中心点,并且将第二像素作为对应的第二图像块的中心点。然而,应当理解,本公开不局限于此。例如,如图2所示,对于初始视差图中的像素P,作为第一图像块的定位基准点的第一像素P1也可以位于第一图像块中靠下部的某个位置处,作为第二图像块的定位基准点的第二像素P2也可以位于第二图像块中靠下部的某个位置处。
如上所述,在根据本公开的实施例的方法中,对于初始视差图中的任一像素P,自适应地确定左、第二图像中的一对图像块的尺寸、形状和位置,并且根据该对图像块之间的相似度确定是否从初始视差图中去除像素P,由此能够获得更准确的视差图,同时确保能够保留尽可能多的有效像素。
示例性装置
图3示出根据本公开的实施例的能够应用上述方法的装置的示例。
如图3所示,根据本公开的实施例的视差图的获得装置可以包括缓冲存储器BUF、图像块确定单BDU、相似度计算单元SCU和过滤单元FTU。
缓冲存储器BUF可以包括任何适当类型的存储器、寄存器和/或高速缓冲存储器,并且可以被配置为缓存双目相机采集的第一图像和第二图像以及与第一图像和第二图像相对应的初始视差图。
另外,缓冲存储器BUF还可以缓存用于控制诸如图像块确定单元BDU、相似度计算单元SCU、过滤单元FTU和/或装置中未示出的其他元/部件等单元/电路/模块执行相应操作的控制指令、在处理过程中涉及的中间数据以及作为处理结果的待输出数据等。
在一个实施例中,缓冲存储器BUF可以经由数据总线和/或指令总线与图像块确定单元BDU、相似度计算单元SCU、过滤单元FTU和/或装置中未示出的其他元/部件等互连。
在另外的实施例中,缓冲存储器BUF可以经由接口与诸如双目像机、雷达等外接设备或者其他图像/视差图的来源设备相连。
图像块确定单元BDU可以被配置为对于缓存在缓冲存储器BUF中的初始视差图中的任一像素,确定第一图像中的第一图像块和第二图像中的第二图像块。如前文所述,第一图像块和第二图像块的尺寸可以相同。
在一个实施例中,图像块确定单元BDU可以包括诸如中央处理器(CentralProcessing Unit,CPU)、图形处理器(Graphics Processing Unit,GPU)等通用的处理器和/或基于例如现场可编程门阵列(Field-Programmable Gate Array,FPGA)或专用集成电路(Application Specific Integrated Circuit,ASIC)等技术开发的专用处理器。例如,在基于卷积神经网络对图像进行语义分割和/或标注的情况下,图像块确定单元BDU可以包括脑处理器(Brain Processing Unit,BPU),或者可以例如由乘加单元阵列等构成的卷积加速器等元/部件。另外,图像块确定单元BDU可以包括一个或多个寄存器,用于寄存数据或指令等。
在一个实施例中,图像块确定单元BDU可以在预定指令的控制下从缓冲存储器BUF中读取图像数据并执行诸如语义分割,并且可以在预定指令的控制下从缓冲存储器BUF中读取视差数据,例如读取初始视差图中的一个像素,并且可以执行确定图像块等处理。然后,图像块确定单元BDU可以将所获得的语义分割结果(包括中间结果)缓存在缓冲存储器BUF中。
相似度计算单元SCU可以被配置为确定第一图像块和第二图像块之间的相似度。
在一个实施例中,相似度计算单元SCU可以包括诸如CPU等通用的处理器和/或基于例如FPGA、ASIC等技术开发的专用处理器。
在另外的实施例中,相似度计算单元SCU可以与图像块确定单元BDU共享相同的一个或多个处理器。
在另外的实施例中,例如,在通过对两个图像块中的每对像素的像素值之间的差值求和的方式获得两个图像块之间的相似度的情况下,相似度计算单元SCU可以包括减法器和/或加法器阵列。
根据不同的实施例,与初始视差图中的每个像素相关联的相似度的值可以与初始视差图中的每个对应的像素的数据项一起存储在缓冲存储器BUF中,也可以建立例如以初始视差图中的像素为索引并且以相关联的相似度为数据项的查找表,例如,这样的查找表也可以存储在缓冲存储器BUF中。
过滤单元FTU可以被配置为从初始视差图中删除对应的相似度低于阈值的每个像素并输出视差图。
在一个实施例中,过滤单元FTU可以包括诸如CPU等通用的处理器和/或基于例如FPGA、ASIC等技术开发的专用处理器。
在另外的实施例中,过滤单元FTU可以与图像块确定单元BDU和/或相似度计算单元SCU共享相同的一个或多个处理器。
在一个实施例中,过滤单元FTU可以包括数值比较器,并且可以被配置为从缓冲存储器BUF中逐个地读取初始视差图的像素和相关联的相似度的值,并将所读取的相似度的值传送给数值比较器的一个输入端。数值比较器的另一个输入端例如可以接收预定的阈值,并且例如可以在相似度的值低于阈值的情况下发出像素删除信号(例如,一个高电平的信号)。过滤单元FTU可以在产生像素删除信号的情况下从缓冲存储器BUF中的初始视差图的数据存储区域中删除对应的像素的数据项,或者对该像素的数据项设置清楚或无效标志。
应当理解,图3以及上述描述仅为根据本公开的实施例的装置的示例,根据本公开的实施例的装置的结构不局限于此。
示例性电子设备
本公开的实施例还可以是一种电子设备,该电子设备可以包括根据本公开的实施例的任何一种示例性装置,例如可以包括图4所示的示例性装置。
如图4所示,电子设备包括一个或多个处理器PU和存储器MEM。
处理器PU可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备中的其他组件以执行期望的功能。
存储器MEM可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器可以运行所述程序指令,以实现上文所述的本申请的各个实施例的方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备还可以包括:输入装置和输出装置,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,该输入装置可以是上述的双目相机,用于捕捉第一图像和第二图像。在该电子设备是单机设备时,该输入装置可以是通信网络连接器,用于接收所采集的输入信号。
此外,该输入设备还可以包括例如键盘、鼠标等等。
该输出装置可以向外部输出各种信息,包括最终生成的视差图等。该输出设备可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图4中仅示出了该电子设备中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,该计算机程序指令在被处理器运行时使得处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的方法中的步骤。
计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,程序设计语言可以包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,例如计算机可读取的非临时性存储介质,其上存储有程序指令,程序指令在被处理器运行时使得处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的方法中的步骤。
计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪速存储器)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
在本文中,诸如“第一”、“第二”等不带有量词的修饰词旨在用于区分不同的元件/部件/电路/模块/装置/步骤,而不用于强调次序、位置关系、重要程度、优先级别等。与此不同,诸如“第一个”、“第二个”等带有量词的修饰词可以用于强调不同的元件/部件/电路/模块/装置/步骤的次序、位置关系、重要程度、优先级别等。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (9)
1.一种视差图的获得方法,包括:
获得与双目相机采集的第一图像和第二图像相对应的初始视差图;
对于所述初始视差图中的任一像素,确定与所述像素相对应的所述第一图像中的第一图像块和所述第二图像中的第二图像块,所述第一图像块和所述第二图像块的尺寸相同;
确定所述第一图像块和所述第二图像块之间的相似度;以及
通过从所述初始视差图中删除对应的相似度低于阈值的像素,获得所述视差图,
其中,对于所述初始视差图中的任一像素,确定所述第一图像中的第一图像块和所述第二图像中的第二图像块包括:
确定所述第一图像中与所述任一像素相对应的第一像素;以及
根据所述第一像素所属的对象类别、所述任一像素的视差值和预定的图像块基础尺寸,确定所述第一图像的图像块尺寸。
2.根据权利要求1所述的视差图的获得方法,其中,所述图像块尺寸与所述第一像素所属的对象类别的权重和所述任一像素的视差值中的每一个正相关。
3.根据权利要求1所述的视差图的获得方法,其中,对于所述初始视差图中的任一像素,确定所述第一图像中的第一图像块和所述第二图像中的第二图像块还包括:
根据所述第一像素所属的对象类别,确定所述第一图像块和所述第二图像块中的每一个的图像块形状。
4.根据权利要求1所述的视差图的获得方法,其中,对于所述初始视差图中的任一像素,确定所述第一图像中的第一图像块和所述第二图像中的第二图像块还包括:
根据初始视差图中的视差值确定在所述第二图像中与所述任一像素相对应的第二像素;
根据所述第一像素确定所述第一图像块在所述第一图像中的位置;以及
根据所述第二像素确定所述第二图像块在所述第二图像中的位置。
5.根据权利要求1所述的视差图的获得方法,还包括:
通过对所述第一图像进行语义分割,确定所述第一图像中的每个像素所属的对象类别。
6.根据权利要求1至5中的任一项所述的视差图的获得方法,其中,获得与双目相机采集的第一图像和第二图像相对应的初始视差图包括:
根据由雷达采集的数据生成所述初始视差图。
7.一种视差图的获得装置,包括:
缓冲存储器,被配置为缓存双目相机采集的第一图像和第二图像以及与所述第一图像和所述第二图像相对应的初始视差图;
图像块确定单元,被配置为对于所述初始视差图中的任一像素,确定与所述像素相对应的所述第一图像中的第一图像块和所述第二图像中的第二图像块,所述第一图像块和所述第二图像块的尺寸相同;
相似度计算单元,被配置为确定所述第一图像块和所述第二图像块之间的相似度;以及
过滤单元,被配置为从所述初始视差图中删除对应的相似度低于阈值的每个像素并输出所述视差图,
其中,图像块确定单元被配置为以如下方式确定所述第一图像中的第一图像块和所述第二图像中的第二图像块:
确定所述第一图像中与所述任一像素相对应的第一像素;以及
根据所述第一像素所属的对象类别、所述任一像素的视差值和预定的图像块基础尺寸,确定所述第一图像的图像块尺寸。
8.一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1至6中的任一项所述的视差图的获得方法。
9.一种计算机可读取的存储介质,在其上存储有程序指令,所述程序指令在被处理器执行时执行根据权利要求1至6中的任一项所述的视差图的获得方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910222218.4A CN111724431B (zh) | 2019-03-22 | 2019-03-22 | 视差图的获得方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910222218.4A CN111724431B (zh) | 2019-03-22 | 2019-03-22 | 视差图的获得方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111724431A CN111724431A (zh) | 2020-09-29 |
CN111724431B true CN111724431B (zh) | 2023-08-08 |
Family
ID=72562265
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910222218.4A Active CN111724431B (zh) | 2019-03-22 | 2019-03-22 | 视差图的获得方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111724431B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102611904A (zh) * | 2012-02-15 | 2012-07-25 | 山东大学 | 三维电视系统中基于图像分割的立体匹配方法 |
CN104240219A (zh) * | 2013-06-13 | 2014-12-24 | 株式会社理光 | 配置视差值的方法和系统 |
WO2017014693A1 (en) * | 2015-07-21 | 2017-01-26 | Heptagon Micro Optics Pte. Ltd. | Generating a disparity map based on stereo images of a scene |
CN106960454A (zh) * | 2017-03-02 | 2017-07-18 | 武汉星巡智能科技有限公司 | 景深避障方法、设备及无人飞行器 |
CN108182666A (zh) * | 2017-12-27 | 2018-06-19 | 海信集团有限公司 | 一种视差校正方法、装置和终端 |
CN108319931A (zh) * | 2018-03-12 | 2018-07-24 | 海信集团有限公司 | 一种图像处理方法、装置及终端 |
CN108537871A (zh) * | 2017-03-03 | 2018-09-14 | 索尼公司 | 信息处理设备和信息处理方法 |
CN108961383A (zh) * | 2017-05-19 | 2018-12-07 | 杭州海康威视数字技术股份有限公司 | 三维重建方法及装置 |
CN109410266A (zh) * | 2018-09-18 | 2019-03-01 | 合肥工业大学 | 基于四模Census变换和离散视差搜索的立体匹配算法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI658431B (zh) * | 2017-10-02 | 2019-05-01 | 緯創資通股份有限公司 | 影像處理方法、影像處理裝置及電腦可讀取記錄媒體 |
US11127115B2 (en) * | 2019-12-13 | 2021-09-21 | NextVPU (Shanghai) Co., Ltd. | Determination of disparity |
CN113345001A (zh) * | 2021-05-19 | 2021-09-03 | 智车优行科技(北京)有限公司 | 视差图确定方法和装置、计算机可读存储介质、电子设备 |
-
2019
- 2019-03-22 CN CN201910222218.4A patent/CN111724431B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102611904A (zh) * | 2012-02-15 | 2012-07-25 | 山东大学 | 三维电视系统中基于图像分割的立体匹配方法 |
CN104240219A (zh) * | 2013-06-13 | 2014-12-24 | 株式会社理光 | 配置视差值的方法和系统 |
WO2017014693A1 (en) * | 2015-07-21 | 2017-01-26 | Heptagon Micro Optics Pte. Ltd. | Generating a disparity map based on stereo images of a scene |
CN106960454A (zh) * | 2017-03-02 | 2017-07-18 | 武汉星巡智能科技有限公司 | 景深避障方法、设备及无人飞行器 |
CN108537871A (zh) * | 2017-03-03 | 2018-09-14 | 索尼公司 | 信息处理设备和信息处理方法 |
CN108961383A (zh) * | 2017-05-19 | 2018-12-07 | 杭州海康威视数字技术股份有限公司 | 三维重建方法及装置 |
CN108182666A (zh) * | 2017-12-27 | 2018-06-19 | 海信集团有限公司 | 一种视差校正方法、装置和终端 |
CN108319931A (zh) * | 2018-03-12 | 2018-07-24 | 海信集团有限公司 | 一种图像处理方法、装置及终端 |
CN109410266A (zh) * | 2018-09-18 | 2019-03-01 | 合肥工业大学 | 基于四模Census变换和离散视差搜索的立体匹配算法 |
Also Published As
Publication number | Publication date |
---|---|
CN111724431A (zh) | 2020-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6745328B2 (ja) | 点群データを復旧するための方法及び装置 | |
CN110163930B (zh) | 车道线生成方法、装置、设备、系统及可读存储介质 | |
KR102095842B1 (ko) | 격자지도 생성 장치 및 방법 | |
WO2021051344A1 (zh) | 高精度地图中车道线的确定方法和装置 | |
CN109063776B (zh) | 图像再识别网络训练方法、装置和图像再识别方法及装置 | |
CN112200851B (zh) | 一种基于点云的目标检测方法、装置及其电子设备 | |
CN115147328A (zh) | 三维目标检测方法及装置 | |
CN116844129A (zh) | 多模态特征对齐融合的路侧目标检测方法、系统及装置 | |
CN114419599A (zh) | 障碍物识别方法、装置及电子设备 | |
CN112699711A (zh) | 车道线检测方法、装置、存储介质及电子设备 | |
CN112668596B (zh) | 三维物体识别方法及装置、识别模型训练方法及装置 | |
CN111724431B (zh) | 视差图的获得方法、装置和电子设备 | |
CN111860623A (zh) | 基于改进ssd神经网络的统计树木数量的方法及系统 | |
CN111656404B (zh) | 图像处理方法、系统及可移动平台 | |
CN116543143A (zh) | 一种目标检测模型的训练方法、目标检测方法及装置 | |
CN112819953B (zh) | 三维重建方法、网络模型训练方法、装置及电子设备 | |
CN115656991A (zh) | 车辆外参标定方法、装置、设备以及存储介质 | |
CN115713560A (zh) | 一种摄像头和车辆的外参数标定方法及装置、电子设备、存储介质 | |
CN114386481A (zh) | 一种车辆感知信息融合方法、装置、设备及存储介质 | |
CN112150529B (zh) | 一种图像特征点的深度信息确定方法及装置 | |
CN110060343B (zh) | 地图构建方法及系统、服务器、计算机可读介质 | |
CN113643359A (zh) | 一种目标对象定位方法、装置、设备及存储介质 | |
CN113721240A (zh) | 一种目标关联方法、装置、电子设备及存储介质 | |
KR20210087494A (ko) | 인체 방향 검출 방법, 장치, 전자 기기 및 컴퓨터 저장 매체 | |
CN111383337A (zh) | 用于识别对象的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |