CN114299129B - 深度恢复方法、电子设备和计算机可读存储介质 - Google Patents
深度恢复方法、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN114299129B CN114299129B CN202111677970.1A CN202111677970A CN114299129B CN 114299129 B CN114299129 B CN 114299129B CN 202111677970 A CN202111677970 A CN 202111677970A CN 114299129 B CN114299129 B CN 114299129B
- Authority
- CN
- China
- Prior art keywords
- value
- point
- speckle pattern
- matching
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000011084 recovery Methods 0.000 title claims abstract description 54
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 66
- 238000010606 normalization Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000001125 extrusion Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
本申请实施例涉及机器视觉技术领域,公开了一种深度恢复方法、电子设备和计算机可读存储介质,包括:在获取到的散斑图中选取若干像素点作为种子点;根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的第一最大值;将第一最大值对应的行偏差值作为种子点的行偏差值,并将各种子点的行偏差值的均值作为散斑图的行偏差值;依次将散斑图的各像素点作为目标点,根据目标点在参考散斑图中对应的像素点、散斑图的行偏差值和匹配算法,确定目标点的视差值,再计算目标点的深度值,从而在大幅减少计算量的同时,提升深度恢复的精度和成功率。
Description
技术领域
本申请实施例涉及机器视觉技术领域,特别涉及一种深度恢复方法、电子设备和计算机可读存储介质。
背景技术
随着深度相机的发展,3D视觉逐渐在各种消费级应用中兴起,3D视觉技术能获取现实三维场景完整的几何信息,利用带有深度信息的图像来实现对于场景的精准数字化,从而实现高精度的识别,定位等关键功能,深度相机根据其工作原理,可以分为TOF深度相机、双目深度相机、和单目结构光相机等,其中,单目结构光相机的抗干扰性强、成本低,得到了更多更广泛的应用。
单目结构光相机通常由一个红外散斑投射器和一个红外摄像头组成,在实际使用中,用户使用单目结构光相机对目标物体进行拍摄,得到物体散斑图,通过深度恢复算法,将得到的物体散斑图与预先标定好的参考散斑图进行匹配搜索,理论上来说,物体散斑图和参考散斑图上的匹配点是等高的,因此,深度恢复方法往往只在参考散斑图等高线的一维方向上去搜索与物体散斑图的匹配点。
然而,单目结构光相机在使用过程中,难免会出现磕碰、挤压和环境温湿度变化等,这些因素会使单目结构光相机的内部结构发生形变,拍摄出的物体散斑图与预先标定好的参考散斑图之间可能会出现行偏差,从而导致深度恢复缺失或失败。
发明内容
本申请实施例的目的在于提供一种深度恢复方法、电子设备和计算机可读存储介质,能够科学、准确地确定出拍摄得到的散斑图与预先标定的参考散斑图之间整体的行偏差情况,从而在大幅减少计算量的同时,提升深度恢复的精度和成功率。
为解决上述技术问题,本申请的实施例提供了一种深度恢复方法,包括以下步骤:在获取到的散斑图中选取若干像素点作为种子点;根据所述种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算所述种子点与所述第一搜索范围内各像素点的第一匹配代价值,并确定各所述第一匹配代价值中的第一最大值;将所述第一最大值对应的像素点与所述种子点之间的行偏差值作为所述种子点的行偏差值,并将各所述种子点的行偏差值的均值作为所述散斑图的行偏差值;依次将所述散斑图的各像素点作为目标点,根据所述目标点在所述参考散斑图中对应的像素点、所述散斑图的行偏差值和所述匹配算法,在预设的第二搜索范围内进行一维搜索,确定所述目标点的视差值;根据所述目标点的视差值和预设的恢复公式,计算所述目标点的深度值。
本申请的实施例还提供了一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的深度恢复方法。
本申请的实施例还提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述的深度恢复方法。
本申请的实施例提供的深度恢复方法、电子设备和计算机可读存储介质,在获取到的散斑图中选取若干像素点作为种子点,根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的第一最大值,再将第一最大值对应的像素点与种子点之间的行偏差值作为种子点的行偏差值,并将各种子点的行偏差值的均值作为散斑图的行偏差值,随后依次将散斑图的各像素点作为目标点,根据目标点在预设的参考散斑图中对应的像素点、预设的匹配算法和确定出的散斑图的行偏差值,在预设的第二搜索范围内进行一维搜索,确定各目标点的视差值,最后分别根据各目标点的视差值和预设的恢复公式,计算得到各目标点的深度值,考虑到行偏差的存在会导致深度恢复缺失或失败,本申请的实施例先用少部分点作为种子点进行二维搜索确定出散斑图的行偏差值,即科学、准确地确定出拍摄得到的散斑图与预先标定的参考散斑图之间整体的行偏差情况,再以计算出的行偏差值为基础进行一维搜索,实现全图的深度恢复,在大幅减少计算量的同时,提升了深度恢复的精度和成功率。
另外,所述预设的匹配算法包括SAD匹配算法,所述根据所述种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算所述种子点与所述第一搜索范围内各像素点的第一匹配代价值,包括:以所述种子点在预设的参考散斑图中对应的像素点为中心,依次将预设的第一搜索范围内的各像素点确定为第一匹配点;其中,所述第一搜索范围包括第一上下搜索范围和第一左右搜索范围;在所述散斑图中获取以所述种子点为中心的预设窗口内各像素点的第一灰度值,并在所述参考散斑图中获取以所述第一匹配点为中心的所述预设窗口内各像素点的第二灰度值;根据所述第一灰度值、所述第二灰度值和所述SAD匹配算法,计算所述种子点与所述第一匹配点的第一匹配代价值,SAD匹配算法的基本思想是差的绝对值之和,即使用“图像块”进行匹配,以两个图像块之间的相似度衡量种子点与第一匹配点之间的相似度,可以更准确地计算出种子点与各第一匹配点的第一匹配代价值,同时第一搜索范围包括第一上下搜索范围和第一左右搜索范围,即种子点进行匹配代价搜索时进行二维搜索,可以很好地考虑行偏差对匹配代价搜索的影响。
另外,所述根据所述目标点在所述参考散斑图中对应的像素点、所述散斑图的行偏差值和所述匹配算法,在预设的第二搜索范围内进行一维搜索,确定所述目标点的视差值,包括:根据所述目标点在所述参考散斑图中对应的像素点和所述散斑图的行偏差值,在所述参考散斑图中确定所述目标点对应的视差基准点;以所述视差基准点为中心,依次将预设的第二搜索范围内的各像素点确定为第二匹配点;其中,所述第二搜索范围包括第二左右搜索范围;在所述散斑图中获取以所述目标点为中心的所述预设窗口内各像素点的第三灰度值,并在所述参考散斑图中获取以所述第二匹配点为中心的所述预设窗口内各像素点的第四灰度值;根据所述第三灰度值、所述第四灰度值和所述SAD匹配算法,计算所述目标点与所述第二匹配点的第二匹配代价值,并确定各所述第二匹配代价值中的第二最大值;将所述第二最大值对应的第二匹配点与所述目标点之间的列偏差值,作为所述目标点的视差值,散斑图的行偏差值可以反映散斑图与参考散斑图之间整体的行偏差情况,在视差值计算时,以散斑图的行偏差值为基础,在预设的第二搜索范围内进行一维搜索,即可科学地、准确地计算出目标点的视差值,大幅减少了计算量,节约计算资源,提升深度恢复的速度和效率。
另外,所述在获取到的散斑图中选取若干像素点作为种子点,包括:将获取到的散斑图划分成大小相同的若干区域;分别选取所述若干区域的中心点作为所述散斑图的种子点,不同区域的中心点可以很好地反映这个区域的普遍情况,因此本申请的实施例先将获取到的散斑图划分成大小相同的若干区域,再分别选取这些区域的中心点作为散斑图的种子点,可以更准确地计算出散斑图的行偏差值。
另外,在所述在获取到的散斑图中选取若干像素点作为种子点之前,还包括:分别对所述获取到的散斑图和预设的参考散斑图进行局部对比度归一化处理,在计算散斑图的行偏差值、计算散斑图中各像素点的视差值之前,先对获取到的散斑图和预设的参考散斑图进行局部对比度归一化处理,可以消除过亮和过暗的点对匹配代价搜索的影响。
另外,所述预设的匹配算法包括SAD匹配算法,所述根据所述目标点的视差值和预设的恢复公式,计算所述目标点的深度值,包括:获取所述视差值对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值;其中,所述视差值为d;根据所述视差值、所述d对应的第二匹配代价值、所述d-1对应的第二匹配代价值和所述d+1对应的第二匹配代价值,对所述视差值进行插值,得到所述目标点的插值后的视差值;根据所述目标点的插值后的视差值和预设的恢复公式,计算所述目标点的深度值,本申请的实施例根据d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值,对目标点的视差值进行插值处理,插值后的视差值更科学、合理,以插值后的视差值为基础进行深度恢复,可以进一步提升深度恢复的准确度。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定。
图1是根据本申请的一个实施例的深度恢复的流程图;
图2是根据本申请的一个实施例中,根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值的流程图;
图3是根据本申请的一个实施例中,根据目标点在参考散斑图中对应的像素点、散斑图的行偏差值和匹配算法,在预设的第二搜索范围内进行一维搜索,确定目标点的视差值的流程图;
图4是根据本申请的一个实施例中,根据目标点的视差值和预设的恢复公式,计算目标点的深度值的流程图;
图5是根据本申请的另一个实施例的电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合附图对本申请的各实施例进行详细的阐述。然而,本领域的普通技术人员可以理解,在本申请各实施例中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施例的种种变化和修改,也可以实现本申请所要求保护的技术方案。以下各个实施例的划分是为了描述方便,不应对本申请的具体实现方式构成任何限定,各个实施例在不矛盾的前提下可以相互结合相互引用。
本申请的一个实施例涉及一种深度恢复方法,应用于电子设备,其中,电子设备可以为终端或服务器,本实施例以及以下个各个实施例中电子设备以服务器为例进行说明,下面对本实施例的深度恢复方法的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
本实施例的深度恢复方法的具体流程可以如图1所示,包括:
步骤101,在获取到的散斑图中选取若干像素点作为种子点。
在具体实现中,服务器调用单目结构光相机,对目标物体进行拍摄,得到单目结构光相机拍摄出的散斑图,服务器获取该散斑图,并在该散斑图上选取若干像素点作为种子点。
在一个例子中,服务器可以随机在获取到的散斑图中选取K个像素点,作为该散斑图的K个种子点。
在另一个例子中,服务器获取到散斑图后,可以将获取到的散斑图划分成大小相同的若干区域,再分别选取划分出的若干区域的中心点作为散斑图的种子点,不同区域的中心点可以很好地反映这个区域的普遍情况,因此本申请的实施例先将获取到的散斑图划分成大小相同的若干区域,再分别选取这些区域的中心点作为散斑图的种子点,可以更准确地计算出散斑图的行偏差值。
比如:服务器获取到散斑图后,将获取到的散斑图划分成大小相同的25个正方形区域,分别将这25个正方形区域的中心点作为散斑图的种子点,即服务器从散斑图中选取了25个种子点。
步骤102,根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的第一最大值。
具体而言,服务器在获取到的散斑图中选取若干像素点作为种子点后,可以根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的第一最大值,其中,预设的参考散斑图、预设的匹配算法和预设的第一搜索范围均可以由本领域的技术人员根据实际需要进行设置。
在具体实现中,服务器在获取到的散斑图中选取若干像素点作为种子点后,可以在预设的参考散斑图中找到种子点对应的像素点,即种子点在预设的参考散斑图中的同名点,服务器以种子点在预设的参考散斑图中对应的像素点为中心,根据预设的匹配算法,在预设的第一搜索范围内进行二维搜索,即进行上下方向的搜索和左右方向的搜索,分别计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的最大的第一匹配代价值为第一最大值。
在一个例子中,第一搜索范围包括x轴方向上的第一左右搜索范围[-D,D],即视差搜索,第一搜索范围还包括y轴方向上的第一上下搜索范围[-R,R],即行偏差搜索。
步骤103,将第一最大值对应的像素点与种子点之间的行偏差值作为种子点的行偏差值,并将各种子点的行偏差值的均值作为散斑图的行偏差值。
在具体实现中,服务器采用赢家通吃算法(Winner-Take-All,简称:WTA),选取第一最大值对应的像素点与种子点之间的行偏差值作为种子点的行偏差值,即选取第一匹配代价值最大的像素点与种子点之间的行偏差值作为种子点的行偏差值,最后取各种子点的行偏差值的均值作为整个散斑图的行偏差值。
步骤104,依次将散斑图的各像素点作为目标点,根据目标点在参考散斑图中对应的像素点、散斑图的行偏差值和匹配算法,在预设的第二搜索范围内进行一维搜索,确定目标点的视差值。
具体而言,服务器确定出散斑图的行偏差值后,可以遍历散斑图中的各像素点,依次将散斑图的各像素点作为目标点,在预设的参考散斑图中找到目标点对应的像素点,即目标点在参考散斑图中同名点,服务器根据目标点在参考散斑图中对应的像素点、确定出的散斑图的行偏差值和预设的匹配算法,在预设的第二搜索范围内进行一维搜索,确定目标点的视差值,其中,步骤104使用的匹配算法与步骤102使用的匹配算法相同。
在一个例子中,第二搜索范围包括x轴方向上的第一左右搜索范围[-D,D],即视差搜索,第二搜索范围以确定出的散斑图的行偏差值为基础,在[-D,D]上进行一维搜索。
步骤105,根据目标点的视差值和预设的恢复公式,计算目标点的深度值。
具体而言,服务器计算出目标点的视差值后,可以根据目标点的视差值和预设的恢复公式,计算得到目标点的深度值,最后根据各目标点的深度值生成深度图。
在具体实现中,预设的恢复公式如下:
式中,z0为相机与参考平面之间的距离,d为目标点的视差值,F为相机的红外摄像头的焦距,L为相机的基线,Z为目标点的深度值。
本实施例,在获取到的散斑图中选取若干像素点作为种子点,根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值,并确定各第一匹配代价值中的第一最大值,再将第一最大值对应的像素点与种子点之间的行偏差值作为种子点的行偏差值,并将各种子点的行偏差值的均值作为散斑图的行偏差值,随后依次将散斑图的各像素点作为目标点,根据目标点在预设的参考散斑图中对应的像素点、预设的匹配算法和确定出的散斑图的行偏差值,在预设的第二搜索范围内进行一维搜索,确定各目标点的视差值,最后分别根据各目标点的视差值和预设的恢复公式,计算得到各目标点的深度值,考虑到行偏差的存在会导致深度恢复缺失或失败,本申请的实施例先用少部分点作为种子点进行二维搜索确定出散斑图的行偏差值,即科学、准确地确定出拍摄得到的散斑图与预先标定的参考散斑图之间整体的行偏差情况,再以计算出的行偏差值为基础进行一维搜索,实现全图的深度恢复,在大幅减少计算量的同时,提升了深度恢复的精度和成功率。
在一个实施例中,服务器在选取种子点之前,可以分别对获取到的散斑图和预设的参考散斑图进行局部对比度归一化处理,可以消除过亮和过暗的点对匹配代价搜索的影响。
在具体实现中,以服务器获取到的散斑图为例,服务器遍历散斑图中的各像素点,以点(i,j)为例,服务器计算以点(i,j)为中心点的预设归一化窗口内个像素点的灰度值平均值μ和灰度值标准差σ,并通过以下公式,进行局部对比度归一化处理:
式中,I(i,j)为点(i,j)的灰度值,μ为灰度值平均值,σ为灰度值标准差,α为预设的常量值,ILCN(i,j)为归一化后的点(i,j)的灰度值。
在一个实施例中,预设的匹配算法包括SAD匹配算法,服务器根据种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算种子点与第一搜索范围内各像素点的第一匹配代价值,可以通过如图2所示的各步骤实现,具体包括:
步骤201,以种子点在预设的参考散斑图中对应的像素点为中心,依次将预设的第一搜索范围内的各像素点确定为第一匹配点。
具体而言,服务器在获取到的散斑图中选取若干像素点作为种子点后,可以遍历选取的各种子点,在预设的参考散斑图中找到种子点对应的像素点,即种子点在参考散斑图中的同名点,服务器以种子点在预设的参考散斑图中对应的像素点为中心,依次将预设的第一搜索范围内的各像素点确定为第一匹配点,其中,第一搜索范围包括第一上下搜索范围[-R,R]和第一左右搜索范围[-D,D]。
步骤202,在散斑图中获取以种子点为中心的预设窗口内各像素点的第一灰度值,并在参考散斑图中获取以第一匹配点为中心的预设窗口内各像素点的第二灰度值。
在具体实现中,SAD匹配算法的基本思想是差的绝对值之和,即使用“图像块”进行匹配,以两个“图像块”之间的相似度衡量种子点与第一匹配点之间的相似度,服务器在获取到的散斑图中以种子点为中心,根据预设窗口大小划定“图像块”,获取该窗口内各像素点的第一灰度值,服务器再在参考散斑图中以第一匹配点为中心,根据预设窗口大小划定“图像块”,获取该窗口内各像素点的第二灰度值,服务器在散斑图和参考散斑图中划定的窗口大小相同。
步骤203,根据第一灰度值、第二灰度值和SAD匹配算法,计算种子点与第一匹配点的第一匹配代价值。
具体而言,服务器在散斑图中获取以种子点为中心的预设窗口内各像素点的第一灰度值,并在参考散斑图中获取以第一匹配点为中心的预设窗口内各像素点的第二灰度值后,可以根据在散斑图中获取以种子点为中心的预设窗口内各像素点的第一灰度值、在参考散斑图中获取以第一匹配点为中心的预设窗口内各像素点的第二灰度值和SAD匹配算法,计算种子点与第一匹配点的第一匹配代价值。
在一个例子中,服务器可以通过以下公式,根据第一灰度值、第二灰度值和SAD匹配算法,计算种子点与第一匹配点的第一匹配代价值:
式中,预设窗口的大小为(2n+1)×(2m+1),Iw(c+i,y+j)为散斑图中点(x+i,y+j)的第一灰度值,Ic(x+i+d,y+j+r)为参考散斑图中点(x+i+d,y+j+r)的第二灰度值,SAD(x,y,d,r)为计算出的种子点与第一匹配点的第一匹配代价值。
本实施例,所述预设的匹配算法包括SAD匹配算法,所述根据所述种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算所述种子点与所述第一搜索范围内各像素点的第一匹配代价值,包括:以所述种子点在预设的参考散斑图中对应的像素点为中心,依次将预设的第一搜索范围内的各像素点确定为第一匹配点;其中,所述第一搜索范围包括第一上下搜索范围和第一左右搜索范围;在所述散斑图中获取以所述种子点为中心的预设窗口内各像素点的第一灰度值,并在所述参考散斑图中获取以所述第一匹配点为中心的所述预设窗口内各像素点的第二灰度值;根据所述第一灰度值、所述第二灰度值和所述SAD匹配算法,计算所述种子点与所述第一匹配点的第一匹配代价值,SAD匹配算法的基本思想是差的绝对值之和,即使用“图像块”进行匹配,以两个图像块之间的相似度衡量种子点与第一匹配点之间的相似度,可以更准确地计算出种子点与各第一匹配点的第一匹配代价值,同时第一搜索范围包括第一上下搜索范围和第一左右搜索范围,即种子点进行匹配代价搜索时进行二维搜索,可以很好地考虑行偏差对匹配代价搜索的影响。
在一个实施例中,预设的匹配算法包括SAD匹配算法,服务器根据目标点在参考散斑图中对应的像素点、散斑图的行偏差值和匹配算法,在预设的第二搜索范围内进行一维搜索,确定目标点的视差值,可以通过如图3所示的各步骤实现,具体包括:
步骤301,根据目标点在参考散斑图中对应的像素点和散斑图的行偏差值,在参考散斑图中确定目标点对应的视差基准点。
在具体实现中,服务器确定出散斑图的行偏差值后,可以遍历散斑图中的各像素点,依次将散斑图的各像素点作为目标点,服务器在参考散斑图中找到目标点对应的像素点,即目标点在参考散斑图中的同名点,在目标点在参考散斑图中对应的像素点的行坐标的基础上,加上确定出的散斑图的行偏差值,从而找到目标点对应的视差基准点。
步骤302,以视差基准点为中心,依次将预设的第二搜索范围内的各像素点确定为第二匹配点。
具体而言,服务器确定目标点对应的视差基准点后,可以以视差基准点为中心,依次将预设的第二搜索范围内的各像素点确定为第二匹配点,其中,由于行偏差已经确定,所以第二搜索范围只包括第二左右搜索范围。
步骤303,在散斑图中获取以目标点为中心的预设窗口内各像素点的第三灰度值,并在参考散斑图中获取以第二匹配点为中心的预设窗口内各像素点的第四灰度值。
在具体实现中,SAD匹配算法的基本思想是差的绝对值之和,即使用“图像块”进行匹配,以两个“图像块”之间的相似度衡量种子点与第一匹配点之间的相似度,服务器在获取到的散斑图中以目标点为中心,根据预设窗口大小划定“图像块”,获取该窗口内各像素点的第三灰度值,服务器再在参考散斑图中以第二匹配点为中心,根据预设窗口大小划定“图像块”,获取该窗口内各像素点的第四灰度值,服务器在散斑图和参考散斑图中划定的窗口大小相同。
步骤304,根据第三灰度值、第四灰度值和SAD匹配算法,计算目标点与第二匹配点的第二匹配代价值,并确定各第二匹配代价值中的第二最大值。
具体而言,服务器在散斑图中获取以目标点为中心的预设窗口内各像素点的第三灰度值,并在参考散斑图中获取以第二匹配点为中心的预设窗口内各像素点的第四灰度值后,可以根据在散斑图中获取以目标点为中心的预设窗口内各像素点的第三灰度值、散斑图中获取以目标点为中心的预设窗口内各像素点的第三灰度值和SAD匹配算法,计算目标点与第二匹配点的第二匹配代价值,并确定各第二匹配代价值中最大的第二匹配代价值为第二最大值。
在一个例子中,服务器可以通过以下公式,根据第三灰度值、第四灰度值和SAD匹配算法,计算目标点与第二匹配点的第二匹配代价值:
式中,预设窗口的大小为(2n+1)×(2m+1),Iw(x+i,y+j)为散斑图中点(x+i,y+j)的第三灰度值,为参考散斑图中点的第四灰度值,SAD(x,y,d,r)为计算出的目标点与第二匹配点的第二匹配代价值,为散斑图的行偏差值。
步骤305,将第二最大值对应的第二匹配点与目标点之间的列偏差值,作为目标点的视差值。
在具体实现中,服务器采用赢家通吃算法,选取第二最大值对应的像素点与目标点之间的列偏差值作为目标点的视差值。
本实施例,所述根据所述目标点在所述参考散斑图中对应的像素点、所述散斑图的行偏差值和所述匹配算法,在预设的第二搜索范围内进行一维搜索,确定所述目标点的视差值,包括:根据所述目标点在所述参考散斑图中对应的像素点和所述散斑图的行偏差值,在所述参考散斑图中确定所述目标点对应的视差基准点;以所述视差基准点为中心,依次将预设的第二搜索范围内的各像素点确定为第二匹配点;其中,所述第二搜索范围包括第二左右搜索范围;在所述散斑图中获取以所述目标点为中心的所述预设窗口内各像素点的第三灰度值,并在所述参考散斑图中获取以所述第二匹配点为中心的所述预设窗口内各像素点的第四灰度值;根据所述第三灰度值、所述第四灰度值和所述SAD匹配算法,计算所述目标点与所述第二匹配点的第二匹配代价值,并确定各所述第二匹配代价值中的第二最大值;将所述第二最大值对应的第二匹配点与所述目标点之间的列偏差值,作为所述目标点的视差值,散斑图的行偏差值可以反映散斑图与参考散斑图之间整体的行偏差情况,在视差值计算时,以散斑图的行偏差值为基础,在预设的第二搜索范围内进行一维搜索,即可科学地、准确地计算出目标点的视差值,大幅减少了计算量,节约计算资源,提升深度恢复的速度和效率。
在一个实施例中,预设的匹配算法包括SAD匹配算法,服务器根据目标点的视差值和预设的恢复公式,计算目标点的深度值,可以通过如图4所示的各步骤实现,具体包括:
步骤401,获取视差值对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值。
具体而言,服务器计算得到目标点的视差值后,记视差值为d,服务器获取匹配搜索过程中,视差值d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值。
步骤402,根据视差值、d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值,对视差值进行插值,得到目标点的插值后的视差值。
在具体实现中,服务器可以根据目标点的视差值、获取的d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值,对目标点的视差值进行插值,得到目标点的插值后的视差值,插值后的视差值更科学、合理,以插值后的视差值为基础进行深度恢复,可以进一步提升深度恢复的准确度。
在一个例子中,服务器可以通过以下公式,根据目标点的视差值、d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值,对目标点的视差值进行插值,得到目标点的插值后的视差值:
步骤403,根据目标点的插值后的视差值和预设的恢复公式,计算目标点的深度值。
本实施例,所述预设的匹配算法包括SAD匹配算法,所述根据所述目标点的视差值和预设的恢复公式,计算所述目标点的深度值,包括:获取所述视差值对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值;其中,所述视差值为d;根据所述视差值、所述d对应的第二匹配代价值、所述d-1对应的第二匹配代价值和所述d+1对应的第二匹配代价值,对所述视差值进行插值,得到所述目标点的插值后的视差值;根据所述目标点的插值后的视差值和预设的恢复公式,计算所述目标点的深度值,本申请的实施例根据d对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值,对目标点的视差值进行插值处理,插值后的视差值更科学、合理,以插值后的视差值为基础进行深度恢复,可以进一步提升深度恢复的准确度。
上面各种方法的步骤划分,只是为了描述清楚,实现时可以合并为一个步骤或者对某些步骤进行拆分,分解为多个步骤,只要包括相同的逻辑关系,都在本专利的保护范围内;对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计,但不改变其算法和流程的核心设计都在该专利的保护范围内。
本申请另一个实施例涉及一种电子设备,如图5所示,包括:至少一个处理器501;以及,与所述至少一个处理器501通信连接的存储器502;其中,所述存储器502存储有可被所述至少一个处理器501执行的指令,所述指令被所述至少一个处理器501执行,以使所述至少一个处理器501能够执行上述各实施例中的深度恢复方法。
其中,存储器和处理器采用总线方式连接,总线可以包括任意数量的互联的总线和桥,总线将一个或多个处理器和存储器的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件,也可以是多个元件,比如多个接收器和发送器,提供用于在传输介质上与各种其他装置通信的单元。经处理器处理的数据通过天线在无线介质上进行传输,进一步,天线还接收数据并将数据传送给处理器。
处理器负责管理总线和通常的处理,还可以提供各种功能,包括定时,外围接口,电压调节、电源管理以及其他控制功能。而存储器可以被用于存储处理器在执行操作时所使用的数据。
本申请另一个实施例涉及一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述方法实施例。
即,本领域技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,简称:ROM)、随机存取存储器(Random Access Memory,简称:RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域的普通技术人员可以理解,上述各实施例是实现本申请的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本申请的精神和范围。
Claims (10)
1.一种深度恢复方法,其特征在于,包括:
在获取到的散斑图中选取若干像素点作为种子点;
根据所述种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算所述种子点与所述第一搜索范围内各像素点的第一匹配代价值,并确定各所述第一匹配代价值中的第一最大值;
将所述第一最大值对应的像素点与所述种子点之间的行偏差值作为所述种子点的行偏差值,并将各所述种子点的行偏差值的均值作为所述散斑图的行偏差值;
依次将所述散斑图的各像素点作为目标点,根据所述目标点在所述参考散斑图中对应的像素点、所述散斑图的行偏差值和所述匹配算法,在预设的第二搜索范围内进行一维搜索,确定所述目标点的视差值;
根据所述目标点的视差值和预设的恢复公式,计算所述目标点的深度值;
所述根据所述目标点在所述参考散斑图中对应的像素点、所述散斑图的行偏差值和所述匹配算法,在预设的第二搜索范围内进行一维搜索,确定所述目标点的视差值,包括:
根据所述目标点在所述参考散斑图中对应的像素点和所述散斑图的行偏差值,在所述参考散斑图中确定所述目标点对应的视差基准点;
根据所述目标点、所述视差基准点和所述匹配算法,在所述第二搜索范围内进行一维搜索,确定所述目标点的视差值。
2.根据权利要求1所述的深度恢复方法,其特征在于,所述预设的匹配算法包括SAD匹配算法,所述根据所述种子点在预设的参考散斑图中对应的像素点和预设的匹配算法,在预设的第一搜索范围内进行二维搜索,计算所述种子点与所述第一搜索范围内各像素点的第一匹配代价值,包括:
以所述种子点在预设的参考散斑图中对应的像素点为中心,依次将预设的第一搜索范围内的各像素点确定为第一匹配点;其中,所述第一搜索范围包括第一上下搜索范围和第一左右搜索范围;
在所述散斑图中获取以所述种子点为中心的预设窗口内各像素点的第一灰度值,并在所述参考散斑图中获取以所述第一匹配点为中心的所述预设窗口内各像素点的第二灰度值;
根据所述第一灰度值、所述第二灰度值和所述SAD匹配算法,计算所述种子点与所述第一匹配点的第一匹配代价值。
4.根据权利要求2所述的深度恢复方法,其特征在于,所述根据所述目标点、所述视差基准点和所述匹配算法,在所述第二搜索范围内进行一维搜索,确定所述目标点的视差值,包括:
以所述视差基准点为中心,依次将预设的第二搜索范围内的各像素点确定为第二匹配点;其中,所述第二搜索范围包括第二左右搜索范围;
在所述散斑图中获取以所述目标点为中心的所述预设窗口内各像素点的第三灰度值,并在所述参考散斑图中获取以所述第二匹配点为中心的所述预设窗口内各像素点的第四灰度值;
根据所述第三灰度值、所述第四灰度值和所述SAD匹配算法,计算所述目标点与所述第二匹配点的第二匹配代价值,并确定各所述第二匹配代价值中的第二最大值;
将所述第二最大值对应的第二匹配点与所述目标点之间的列偏差值,作为所述目标点的视差值。
5.根据权利要求1至4中任一项所述的深度恢复方法,其特征在于,所述在获取到的散斑图中选取若干像素点作为种子点,包括:
将获取到的散斑图划分成大小相同的若干区域;
分别选取所述若干区域的中心点作为所述散斑图的种子点。
6.根据权利要求1至4中任一项所述的深度恢复方法,其特征在于,在所述在获取到的散斑图中选取若干像素点作为种子点之前,还包括:
分别对所述获取到的散斑图和预设的参考散斑图进行局部对比度归一化处理。
7.根据权利要求1至4中任一项所述的深度恢复方法,其特征在于,所述预设的匹配算法包括SAD匹配算法,所述根据所述目标点的视差值和预设的恢复公式,计算所述目标点的深度值,包括:
获取所述视差值对应的第二匹配代价值、d-1对应的第二匹配代价值和d+1对应的第二匹配代价值;其中,所述视差值为d;
根据所述视差值、所述d对应的第二匹配代价值、所述d-1对应的第二匹配代价值和所述d+1对应的第二匹配代价值,对所述视差值进行插值,得到所述目标点的插值后的视差值;
根据所述目标点的插值后的视差值和预设的恢复公式,计算所述目标点的深度值。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至8中任一所述的深度恢复方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的深度恢复方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111677970.1A CN114299129B (zh) | 2021-12-31 | 2021-12-31 | 深度恢复方法、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111677970.1A CN114299129B (zh) | 2021-12-31 | 2021-12-31 | 深度恢复方法、电子设备和计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114299129A CN114299129A (zh) | 2022-04-08 |
CN114299129B true CN114299129B (zh) | 2023-01-31 |
Family
ID=80976131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111677970.1A Active CN114299129B (zh) | 2021-12-31 | 2021-12-31 | 深度恢复方法、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114299129B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108629812A (zh) * | 2018-04-11 | 2018-10-09 | 深圳市逗映科技有限公司 | 一种基于双目相机的测距方法 |
CN110049305A (zh) * | 2017-12-18 | 2019-07-23 | 西安交通大学 | 一种智能手机的结构光深度相机自校正方法及装置 |
CN111402313A (zh) * | 2020-03-13 | 2020-07-10 | 合肥的卢深视科技有限公司 | 图像深度恢复方法和装置 |
WO2020206666A1 (zh) * | 2019-04-12 | 2020-10-15 | 深圳市汇顶科技股份有限公司 | 基于散斑图像的深度估计方法及装置、人脸识别系统 |
CN113658241A (zh) * | 2021-08-16 | 2021-11-16 | 北京的卢深视科技有限公司 | 单目结构光的深度恢复方法、电子设备及存储介质 |
CN113674335A (zh) * | 2021-08-19 | 2021-11-19 | 北京的卢深视科技有限公司 | 深度成像方法、电子设备及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2887311B1 (en) * | 2013-12-20 | 2016-09-14 | Thomson Licensing | Method and apparatus for performing depth estimation |
CN110930454B (zh) * | 2019-11-01 | 2022-11-22 | 北京航空航天大学 | 一种基于边界框外关键点定位的六自由度位姿估计算法 |
CN113034568B (zh) * | 2019-12-25 | 2024-03-29 | 杭州海康机器人股份有限公司 | 一种机器视觉深度估计方法、装置、系统 |
CN111680554A (zh) * | 2020-04-29 | 2020-09-18 | 北京三快在线科技有限公司 | 自动驾驶场景的深度估计方法、装置和自主车辆 |
CN111710000B (zh) * | 2020-05-25 | 2023-09-05 | 合肥的卢深视科技有限公司 | 一种相机行偏差自检方法及系统 |
CN111768450B (zh) * | 2020-06-10 | 2023-10-13 | 合肥的卢深视科技有限公司 | 基于散斑图的结构光相机行偏差的自动检测方法和装置 |
-
2021
- 2021-12-31 CN CN202111677970.1A patent/CN114299129B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110049305A (zh) * | 2017-12-18 | 2019-07-23 | 西安交通大学 | 一种智能手机的结构光深度相机自校正方法及装置 |
CN108629812A (zh) * | 2018-04-11 | 2018-10-09 | 深圳市逗映科技有限公司 | 一种基于双目相机的测距方法 |
WO2020206666A1 (zh) * | 2019-04-12 | 2020-10-15 | 深圳市汇顶科技股份有限公司 | 基于散斑图像的深度估计方法及装置、人脸识别系统 |
CN112771573A (zh) * | 2019-04-12 | 2021-05-07 | 深圳市汇顶科技股份有限公司 | 基于散斑图像的深度估计方法及装置、人脸识别系统 |
CN111402313A (zh) * | 2020-03-13 | 2020-07-10 | 合肥的卢深视科技有限公司 | 图像深度恢复方法和装置 |
CN113658241A (zh) * | 2021-08-16 | 2021-11-16 | 北京的卢深视科技有限公司 | 单目结构光的深度恢复方法、电子设备及存储介质 |
CN113674335A (zh) * | 2021-08-19 | 2021-11-19 | 北京的卢深视科技有限公司 | 深度成像方法、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于散斑的三维体感交互系统;吴清等;《计算机辅助设计与图形学学报》;20160715(第07期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114299129A (zh) | 2022-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107230225B (zh) | 三维重建的方法和装置 | |
CN110705574B (zh) | 定位方法及装置、设备、存储介质 | |
US6915008B2 (en) | Method and apparatus for multi-nodal, three-dimensional imaging | |
US20210358153A1 (en) | Detection methods, detection apparatuses, electronic devices and storage media | |
CN110264528B (zh) | 一种鱼眼镜头双目像机快速自标定方法 | |
WO2021052283A1 (zh) | 处理三维点云数据的方法和计算设备 | |
CN111123242B (zh) | 一种基于激光雷达和相机的联合标定方法及计算机可读存储介质 | |
CN112465877B (zh) | 一种基于运动状态估计的卡尔曼滤波视觉追踪稳定方法 | |
CN112381847B (zh) | 管路端头空间位姿测量方法及系统 | |
CN106815594A (zh) | 立体匹配方法及装置 | |
WO2020017334A1 (ja) | 車載環境認識装置 | |
TW202103106A (zh) | 一種圖像深度估計方法、電子設備、儲存介質 | |
CN112150518B (zh) | 一种基于注意力机制的图像立体匹配方法及双目设备 | |
CN111311651A (zh) | 点云配准方法和装置 | |
CN110702015B (zh) | 输电线路覆冰厚度测量方法及装置 | |
JP6411188B2 (ja) | ステレオマッチング装置とステレオマッチングプログラムとステレオマッチング方法 | |
CN113538538B (zh) | 双目图像对齐方法、电子设备和计算机可读存储介质 | |
CN111739071A (zh) | 基于初始值的快速迭代配准方法、介质、终端和装置 | |
CN113450334B (zh) | 一种水上目标检测方法、电子设备及存储介质 | |
JP2009186287A (ja) | 平面パラメータ推定装置、平面パラメータ推定方法及び平面パラメータ推定プログラム | |
CN114764823A (zh) | 自校正的深度计算方法、系统、介质及深度图像处理设备 | |
CN114299129B (zh) | 深度恢复方法、电子设备和计算机可读存储介质 | |
CN113034565A (zh) | 一种单目结构光的深度计算方法及系统 | |
CN115661223A (zh) | 光场深度估计方法、装置、计算机设备和存储介质 | |
CN112991525B (zh) | 像方和物方混合匹配基元的数字表面模型生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20220629 Address after: 230091 room 611-217, R & D center building, China (Hefei) international intelligent voice Industrial Park, 3333 Xiyou Road, high tech Zone, Hefei, Anhui Province Applicant after: Hefei lushenshi Technology Co.,Ltd. Address before: 100083 room 3032, North B, bungalow, building 2, A5 Xueyuan Road, Haidian District, Beijing Applicant before: BEIJING DILUSENSE TECHNOLOGY CO.,LTD. Applicant before: Hefei lushenshi Technology Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |