CN113963045B - 深度图获取方法、结构光相机、电子设备及存储介质 - Google Patents

深度图获取方法、结构光相机、电子设备及存储介质 Download PDF

Info

Publication number
CN113963045B
CN113963045B CN202111216561.1A CN202111216561A CN113963045B CN 113963045 B CN113963045 B CN 113963045B CN 202111216561 A CN202111216561 A CN 202111216561A CN 113963045 B CN113963045 B CN 113963045B
Authority
CN
China
Prior art keywords
auxiliary
depth map
quality
camera
speckle pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111216561.1A
Other languages
English (en)
Other versions
CN113963045A (zh
Inventor
薛远
陈智超
王亚运
化雪诚
户磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Dilusense Technology Co Ltd
Original Assignee
Hefei Dilusense Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Dilusense Technology Co Ltd filed Critical Hefei Dilusense Technology Co Ltd
Priority to CN202111216561.1A priority Critical patent/CN113963045B/zh
Publication of CN113963045A publication Critical patent/CN113963045A/zh
Application granted granted Critical
Publication of CN113963045B publication Critical patent/CN113963045B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明实施例涉及计算机视觉领域,公开了一种深度图获取方法、结构光相机、电子设备及存储介质。深度图获取方法包括:当通过主摄像头获取主散斑图的质量不达标时根据候选的n个辅摄像头的排序选取排序第一的辅摄像头,n个辅摄像头的排序根据辅摄像头使用成功次数由大到小确定;根据选取的辅摄像头获取辅散斑图,通过主散斑图和辅散斑图得到深度图;对深度图进行质量评价获取质量评价结果;当深度图质量不达标时按照辅摄像头排序依次重新选取一个辅摄像头,重复执行第二步及之后步骤直至深度图质量达标时,将质量达标深度图作为目标深度图;将深度图质量达标时选取的辅摄像头使用成功次数加1,更新n个辅摄像头的排序。

Description

深度图获取方法、结构光相机、电子设备及存储介质
技术领域
本发明实施例涉及计算机视觉领域,特别涉及一种深度图获取方法、结构光相机、电子设备及存储介质。
背景技术
结构光相机是由投射器和摄像头组成的,其原理是通过投射器投射光栅或线光源到被测物体表面,摄像头拍摄被测物体获取散斑图,进而根据散斑图获取深度图。然而目前的结构光相机要么是单目,要么是多目,当单目结构光相机或多目结构光相机中的摄像头都存在问题时,无法保证获取的深度图的质量。
发明内容
本发明实施方式的目的在于提供一种深度图获取方法、结构光相机、电子设备及存储介质,对于深度图中不同像素值区域采用不同的滤波参数,在保证图像质量的同时又提升了滤波效果。
为解决上述技术问题,本发明的实施方式提供了一种深度图获取方法,应用于结构光相机,所述结构光相机包括主摄像头和n个辅摄像头,所述方法包括:步骤A,当通过所述主摄像头获取的主散斑图的质量不达标时,根据候选的n个辅摄像头的排序选取排序第一的辅摄像头,其中,所述候选的n个辅摄像头的排序根据所述辅摄像头的使用成功次数由大到小确定;步骤B,根据选取的辅摄像头获取辅散斑图,并通过所述主散斑图和所述辅散斑图得到深度图;步骤C,对所述深度图进行质量评价,获取质量评价结果;步骤D,当所述深度图的质量评价结果指示所述深度图质量不达标时,按照所述n个辅摄像头的排序依次重新选取一个辅摄像头,并重复执行所述步骤B至所述步骤D,直至所述深度图的质量评价结果指示所述深度图质量达标时,将质量达标的深度图作为目标深度图;步骤E,将所述深度图质量达标时选取的辅摄像头的使用成功次数加1,并更新所述n个辅摄像头的排序。
本发明的实施方式还提供了结构光相机,包括:
主摄像头,用于获取主散斑图;
n个辅摄像头,用于获取辅散斑图;
至少一个处理器和与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行以上所述的深度图获取方法。
本发明的实施方式还提供了一种电子设备,包括:
结构光相机,包括主摄像头和n个辅摄像头,所述主摄像头用于获取主散斑图,所述辅摄像头用于获取辅散斑图;
至少一个处理器和与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行以上所述的深度图获取方法。
本发明的实施方式还提供了一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时实现上述实施方式提及的深度图获取方法。
本发明实施方式提供的深度图获取方法,预先根据每个辅摄像头的使用成功次数从大到小对多个辅摄像头进行排序,在主摄像头获取的主散斑图质量不佳时,使用排序第一的辅摄像头获取辅散斑图,然后根据主散斑图和辅散斑图获取深度图,当深度图的质量不达标时,再根据辅摄像头的排序依次重新选取,直至深度图质量达标。根据每个辅摄像头先前的使用成功次数进行轮询选取,简单快速的同时保证了最终获取深度图的质量。
另外,本发明实施方式提供的深度图获取方法,当所述深度图的质量评价结果指示所述深度图质量不达标时,按照所述辅摄像头对应的排序依次重新选取一个辅摄像头,并重复执行所述步骤B至所述步骤D,直至所述深度图的质量评价结果指示所述深度图质量达标时,将质量达标的深度图作为目标深度图,包括:当候选的n个辅摄像头均被选取过且所述深度图的质量评价结果仍指示质量不达标时,分别对所述n个辅摄像头获取的n个辅散斑图进行质量评价,若质量最佳的辅散斑图的质量达标或者所述质量最佳的辅散斑图的质量不达标但比所述主散斑图的质量好,根据所述质量最佳的辅散斑图和所述质量最佳的散斑图对应的参考散斑图得到目标深度图;将所述质量最佳的辅散斑图对应的辅摄像头与所述主摄像头的主辅身份互换。当质量最佳的辅散斑图的质量达标或者质量最佳的辅散斑图的质量不达标但比主散斑图的质量好时,将质量最佳的辅散斑图对应的辅摄像头与主摄像头的主辅身份互换,对主摄像头的身份进行更新,确保后续主摄像头获取的主散斑图质量得到提高。
另外,本发明实施方式提供的深度图获取方法,将质量达标的深度图作为目标深度图之后,还包括:当所述候选的n个辅摄像头中存在连续多次被选取且所述深度图的质量均不达标的辅摄像头时,将所述连续多次被选取且所述深度图的质量均不达标的辅摄像头从候选的辅摄像头中剔除。当候选的n个辅摄像头中某一个辅摄像头被连续多次选取,且通过该辅摄像头获取辅散斑图,并根据该辅散斑图和主散斑图获取的深度图的质量多次均不达标,则认为该辅摄像头存在故障,将该辅摄像头从候选的辅摄像头中剔除,即通过这种方法更新候选的辅摄像头,并保证候选的辅摄像头均是没有故障的。
另外,本发明实施方式提供的深度图获取方法,将质量达标的深度图作为目标深度图之后,通过预设的温度传感器获取环境温度值,根据所述环境温度值更新所述选取的辅摄像头预设的适用温度范围。由于温度的高低会影响摄像头导致获取的图像数据出现偏差,因此当获取的深度图质量达标后,获取当前的环境温度值,通过该值确定更新辅摄像头初始设定的适用温度范围,进一步细化了不同辅摄像头的使用条件,并对使用条件进行更新,提高了后续通过散斑图计算生成深度图时的准确性。
另外,本发明实施方式提供的深度图获取方法,将质量达标的深度图作为目标深度图之后,通过预设的温度传感器获取环境温度值,根据所述环境温度值确定所述选取的辅摄像头的适用温度范围。
另外,本发明实施方式提供的深度图获取方法,通过所述温度传感器获取当前的环境温度值之后,还包括:根据所述候选的n个辅摄像头的适用温度范围判定所述候选的n个辅摄像头中存在适用于所述当前的环境温度值的辅摄像头;从所述适用于所述当前的环境温度值的辅摄像头中选取一个辅摄像头,通过选取的辅摄像头拍摄辅散斑图;若所述主散斑图的质量不是最低等级,根据所述辅散斑图和所述主散斑图获取目标深度图;若所述主散斑图的质量是最低等级,根据所述辅散斑图和所述辅散斑图对应的参考散斑图获取目标深度图。上述方法给出了不同情况下深度图的获取方式,在保证深度图质量的同时又提高了多摄像头之间的选择使用速度。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除非有特别申明,附图中的图不构成比例限制。
图1是本发明的实施方式提供的深度图获取方法的流程图;
图2是本发明的又一实施方式提供的深度图获取方法的流程图;
图3是本发明的实施方式的提供的结构光相机的结构示意图;
图4是本发明的实施方式的提供的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的各实施方式进行详细的阐述。然而,本领域的普通技术人员可以理解,在本发明各实施方式中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施方式的种种变化和修改,也可以实现本申请所要求保护的技术方案。
下面对本实施方式的深度图获取方法的实现细节进行举例说明。以下内容仅为方便理解而提供的实现细节,并非实施本方案的必须。
本发明的实施方式涉及一种深度图获取方法,应用于结构光相机,所述结构光相机包括主摄像头和n个辅摄像头,如图1所示,包括:
步骤101,当通过主摄像头获取的主散斑图的质量不达标时,根据候选的n个辅摄像头的排序选取排序第一的辅摄像头,其中,候选的n个辅摄像头的排序根据辅摄像头的使用成功次数由大到小确定。
在本实施例中,步骤101即步骤A,n个辅摄像头和主摄像头的位置关系在此不做限定,可以是任何形式的位置关系。比如:某一结构光相机有1个主摄像头,4个辅摄像头,这5个摄像头可以处于同一水平线位置,其中主摄像头位于5个摄像头中间,主摄像头两侧分别有2个辅摄像头。当然,这5个摄像头的位置关系也可以是主摄像头位于中间,4个辅摄像头位于主摄像头的东、南、西、北四个方向。
需要说明的是,候选的n个辅摄像头的排序根据n个辅摄像头之前的使用成功次数确定,其中,当通过该辅摄像头拍摄辅散斑图,并利用该辅散斑图和主散斑图获取的深度图质量达标时,认为该辅摄像头使用成功,或者,当通过该辅摄像头拍摄辅散斑图,并利用该辅散斑图和该辅摄像头对应的参考散斑图得到深度图的质量达标时,认为该辅摄像头使用成功。比如:有4个辅摄像头,辅摄像头1的使用成功次数为10,辅摄像头2的使用成功次数为18,辅摄像头3的使用成功次数为12,辅摄像头4的使用成功次数为7,则这4个辅摄像头的排序为辅摄像头1(第三),辅摄像头2(第一),辅摄像头3(第二),辅摄像头4(第四)。使用时按照排序依次选取。当然,若候选的n个辅摄像头之前均未使用过,则可以根据每个摄像头的参数结合专家经验对多个辅摄像头进行排序。
具体地说,对主散斑图进行质量评价,可以通过计算主散斑图平均灰度梯度、平均灰度二阶导数、Brenner梯度函数值、Laplacian梯度函数值等这些评价指标中的一个或多个进行质量评价。需要说明的是,平均灰度梯度反映了散斑图所包含灰度信息的量及灰度信息的明显程度,平均灰度二阶导数反映了散斑图所包含灰度信息的分布形式,即灰度波动情况。高质量的散斑图应该具有高的平均灰度梯度或者低的平均灰度二阶导数。比如:在采用平均灰度梯度值对主散斑图进行评价时,将主散斑图的平均灰度梯度值与预设的平均灰度梯度达标范围进行比较,若主散斑图的平均灰度梯度值在预设的平均灰度梯度达标范围内,则说明主散斑图质量达标,否则判定主散斑图质量不达标。
步骤102,根据选取的辅摄像头获取辅散斑图,并通过主散斑图和辅散斑图得到深度图。
在本实施例中,步骤102即步骤B,获取深度图的方法是将主散斑图和辅散斑图进行匹配确定两幅图像中的同名点,根据同名点的像素坐标差获取视差值,根据视差值计算获取深度图,具体公式为:
Figure BDA0003310875300000051
其中,f为摄像头焦距,S为两个摄像头之间的基线距离,Δx为同名点的像素坐标差。
步骤103,对深度图进行质量评价,获取质量评价结果。
在本实施例中,步骤103即步骤C,对深度图进行质量评价,可以采用现有的全参考深度图质量评价模型、半参考深度图质量评价模型、无参考深度图质量评价模型中的任意一种方法。本实施例对具体的深度图质量评价方法不做限定,可以使用现有的任何质量评价方法。
步骤104,当深度图的质量评价结果指示深度图质量不达标时,按照n个辅摄像头的排序依次重新选取一个辅摄像头,并重复执行步骤102至步骤104,直至深度图的质量评价结果指示深度图质量达标时,将质量达标的深度图作为目标深度图。
具体地说,当深度图的质量不达标时,需要在候选的n个辅摄像头中选取排序第二的辅摄像头并重新获取辅散斑图,根据辅散斑图和主散斑图得到深度图,然后再次对深度图进行质量评价,若深度图质量仍不达标,则继续重新选取排序第三辅摄像头,如此循环,直至深度图的质量达标。即,按照n个辅摄像头的排序依次重新选取一个辅摄像头,是指,每次重新选取辅助摄像头时,均会从本轮拍摄中未被选取过的辅摄像头中选取排序最靠前的一个辅摄像头;其中,本轮拍摄是指本次拍摄以获取目标深度图的过程,每次拍摄以获取目标深度图的过程被认为是一轮拍摄过程。另外,本实施例中步骤104即步骤D。
在一实施例中,当候选的n个辅摄像头均被选取过且深度图的质量评价结果仍指示质量不达标时,有以下两种目标深度图获取方式,一种是:从获取的n个深度图中选取质量最佳的一个作为目标深度图。另一种是:分别对n个辅摄像头获取的n个辅散斑图进行质量评价,若质量最佳的辅散斑图的质量达标或者质量最佳的辅散斑图的质量不达标但比主散斑图的质量好,根据质量最佳的辅散斑图和所述质量最佳的散斑图对应的参考散斑图得到目标深度图。
具体地说,假设结构光相机有1个主摄像头和4个辅摄像头,当4个辅摄像头均被选取过,且通过这4个辅摄像头获取4个辅散斑图,根据这4辅散斑图和主散斑图分别得到4个深度图,这4个深度图的质量均不达标时,可以从4个深度图中选取质量最佳的一个作为目标深度图,也可以对4个辅散斑图进行质量评价,获取质量最佳的辅散斑图,若质量最佳的辅散斑图质量达标或质量最佳的辅散斑图虽不达标但比主散斑图质量好,则根据质量最佳的辅散斑图和拍摄该质量最佳的辅散斑图的辅摄像头对应的参考散斑图得到深度图。本领域技术人员可以理解的是,每一个摄像头都有其对应的参考散斑图,参考散斑图是摄像头在拍摄前就已经确定的。
需要说明的是,若选用第二种目标深度图获取方式,当确定质量最佳的辅散斑图的质量达标或者质量最佳的辅散斑图的质量不达标但比主散斑图的质量好时,则将质量最佳的辅散斑图对应的辅摄像头与主摄像头的主辅身份互换。具体地说,当确定质量最佳的辅散斑图的质量达标或者质量最佳的辅散斑图的质量不达标但比主散斑图的质量好时,说明该结构光相机设定的主摄像头不合理,则需要将主摄像头的身份进行更换。通过对主摄像头的身份进行更新,确保后续主摄像头获取的主散斑图质量得到提高。
在另一实施例中,在使用多次结构光相机获取目标深度图后,发现候选的n个辅摄像头中存在连续多次被选取且深度图的质量均不达标的辅摄像头时,将连续多次被选取且深度图的质量均不达标的辅摄像头从候选的辅摄像头中剔除。
需要说明的是,在使用候选的n个辅摄像头时,也可以统计n个辅摄像头的连续使用不成功次数,若某一辅摄像头连续多次使用均不成功,则说明该辅摄像头存在故障,已经无法使用。当然,具体判定摄像头连续使用不成功的次数可以根据用户需要设定任意数值,比如,某一摄像头连续5次使用不成功,则将该摄像头从候选摄像头中剔除。
步骤105,将深度图质量达标时选取的辅摄像头的使用成功次数加1,并更新n个辅摄像头的排序。
具体地说,在将质量达标的深度图作为目标深度图之后,对深度图质量达标时选取的辅摄像头的使用成功次数加1,并更新n个辅摄像头的排序,当然,若n个辅摄像头的排序存在并列的情况,则使用时可以任意选取其中一个进行拍摄。另外,本实施例步骤105即步骤E。
在另一实施例中,在步骤104之后还包括:通过预设的温度传感器获取环境温度值,根据环境温度值更新选取的辅摄像头的预设的适用温度范围。由于温度的高低会影响摄像头导致获取的图像数据出现偏差,因此当获取的深度图质量达标后,获取当前的环境温度值,通过该值确定更新辅摄像头初始设定的适用温度范围,进一步细化了不同辅摄像头的使用条件,并对使用条件进行更新,提高了后续通过散斑图计算生成深度图时的准确性。
需要说明的是,这一步骤可以在步骤104之后、步骤105之前,也可以在步骤105之后,还可以与步骤105同时进行。此外,温度传感器可以设置在结构光相机所在的环境中,也可以设置在结构光相机搭载的电子设备上,具体温度传感器的设置位置在此不做限定。
另外,在使用结构光相机之前,可以对每个辅摄像头设定一个初始的适用温度范围,当通过选取的辅摄像头拍摄辅散斑图,并根据辅散斑图和主散斑图获取质量达标的目标深度图后,通过预设的温度传感器获取环境温度值,根据环境温度值和预设的调整量确定选取的辅摄像头的温度适用范围,将该温度适用范围替换初始的适用温度范围。比如:预先设定某一辅摄像头的适用温度范围为25℃—27.5℃,当该辅摄像头被成功使用后,通过温度传感器获取当前的环境温度为24℃,根据当前的环境温度值24℃和预设的调整量±1.5℃确定该辅摄像头的适用温度范围为22.5℃—25.5℃,用当前的适用温度范围22.5℃—25.5℃替换初始设定的温度范围25℃—27.5℃。
本发明实施方式提供的深度图获取方法,预先根据每个辅摄像头的使用成功次数从大到小对多个辅摄像头进行排序,在主摄像头获取的主散斑图质量不佳时,使用排序第一的辅摄像头获取辅散斑图,然后根据主散斑图和辅散斑图获取深度图,当深度图的质量不达标时,再根据辅摄像头的排序依次重新选取,直至深度图质量达标。根据每个辅摄像头先前的使用成功次数进行轮询选取,简单快速的同时保证了最终获取深度图的质量。
本发明的实施方式涉及一种深度图获取方法,应用于结构光相机,所述结构光相机包括主摄像头和n个辅摄像头,如图2所示,包括:
步骤201,通过预设的温度传感器获取当前的环境温度值,根据候选的n个辅摄像头的适用温度范围判断候选的n个辅摄像头中是否存在适用于当前的环境温度值的辅摄像头。
需要说明的是,当第一轮使用该结构光相机时,n个辅摄像头的适用温度范围为初始设定的适用温度范围。当该结构光相机被使用多轮后,初始设定的温度范围就可能被更新了多次,下一轮使用时就根据最新的适用温度范围进行判定。
另外,温度传感器可以设置在结构光相机所在的环境中,也可以设置在结构光相机搭载的电子设备上,具体温度传感器的设置位置在此不做限定。
具体地说,当候选的n个辅摄像头中不存在适用于当前的环境温度值的辅摄像头时,执行步骤202—步骤206,当候选的n个辅摄像头中存在适用于当前的环境温度值的辅摄像头时,执行步骤207-步骤208。
步骤202,当候选的n个辅摄像头中不存在适用于当前的环境温度值的辅摄像头且通过主摄像头获取的主散斑图的质量不达标时,根据候选的n个辅摄像头的排序选取排序第一的辅摄像头,其中,候选辅摄像头的排序根据辅摄像头的使用成功次数由大到小确定。
步骤203,根据选取的辅摄像头获取辅散斑图,并通过主散斑图和辅散斑图得到深度图。
步骤204,对深度图进行质量评价,获取质量评价结果。
步骤205,当深度图的质量评价结果指示深度图质量不达标时,按照n个辅摄像头的排序依次重新选取一个辅摄像头,并重复执行步骤203至步骤205,直至深度图的质量评价结果指示深度图质量达标时,将质量达标的深度图作为目标深度图。
步骤206,将深度图质量达标时选取的辅摄像头的使用成功次数加1,并更新n个辅摄像头的排序。
具体地说,本实施例中步骤202-步骤206的具体实施细节与步骤101-步骤105的具体实施细节基本相同,在此不做赘述。
步骤207,当候选的n个辅摄像头中存在适用于当前的环境温度值的辅摄像头且通过主摄像头获取的主散斑图的质量不达标时,从适用于当前的环境温度值的辅摄像头中选取一个辅摄像头,通过选取的辅摄像头拍摄辅散斑图。
具体地说,当存在多个适用于当前的环境温度值的辅摄像头时,可以从中选取任意一个,也可以选取排序靠前的一个辅摄像头进行拍摄获取辅散斑图。
步骤208,若主散斑图的质量不是最低等级,根据辅散斑图和主散斑图获取目标深度图;若主散斑图的质量是最低等级,根据辅散斑图和辅散斑图对应的参考散斑图获取目标深度图。
需要说明的是,当主散斑图质量不达标时,可以对不达标的主散斑图进一步判定等级。比如:当采用某一评价指标进行评价后,确定该评价指标的不达标的范围是(x1,x4),当主散斑图的该指标值在(x1,x2)范围内(x1<x2<x4)时,可以认为主散斑图虽不达标,但不达标的程度较弱,即在不达标的情况中质量较优(等级为A),当主散斑图的该指标值在(x2,x3)范围内(x2<x3<x4)时,可以认为主散斑图虽不达标,但不达标的程度中等,即在不达标的情况中质量中等(等级为B),当主散斑图的该指标值在(x3,x4)范围内时,可以认为主散斑图极不达标,即在不达标的情况中质量较差(等级为C)。
在本实施例中,假设主散斑图的质量等级为A(主散斑图的质量虽不达标但在不达标的情况中质量较优,为最高等级),则根据辅散斑图和主散斑图获取目标深度图,假设主散斑图的质量等级为C(主散斑图的质量虽不达标但在不达标的情况中质量较差,为最低等级),则根据辅散斑图和辅散斑图对应的参考散斑图获取目标深度图。
本发明实施方式提供的深度图获取方法,预先根据每个辅摄像头的使用成功次数从大到小对多个辅摄像头进行排序,在主摄像头获取的主散斑图质量不佳时,使用排序第一的辅摄像头获取辅散斑图,然后根据主散斑图和辅散斑图获取深度图,当深度图的质量不达标时,再根据辅摄像头的排序依次重新选取,直至深度图质量达标。根据每个辅摄像头先前的使用成功次数进行轮询选取,简单快速的同时保证了最终获取深度图的质量。
上面各种方法的步骤划分,只是为了描述清楚,实现时可以合并为一个步骤或者对某些步骤进行拆分,分解为多个步骤,只要包括相同的逻辑关系,都在本专利的保护范围内;对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计,但不改变其算法和流程的核心设计都在该专利的保护范围内。
本发明的实施方式涉及一种结构光相机,如图3所示,所述结构光相机包括:
主摄像头301,用于获取主散斑图;
n个辅摄像头302,用于获取辅散斑图;
至少一个处理器303和与所述至少一个处理器通信连接的存储器304;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述实施方式所述的深度图获取方法。
需要说明的是,图3中只是示例性地画出了一个辅摄像头,但不代表其他实施例中不存在2个或2个以上的辅摄像头。本实施方式可与上述深度图获取方法的实施方式互相配合实施。上述实施方式中提到的相关技术细节在本实施方式中依然有效,为了减少重复,这里不再赘述。相应地,本实施方式中提到的相关技术细节也可应用在上述实施方式中。
此外,为了突出本发明的创新部分,本实施例中并没有将与解决本发明所提出的技术问题关系不太密切的单元或模组引入,但这并不表明本实施例中不存在其它的单元或模组。
本发明的实施方式涉及一种电子设备,如图4所示,包括:
结构光相机401,包括主摄像头和在所述主摄像头的N个不同方向的辅摄像头,所述主摄像头用于获取主散斑图,所述辅摄像头用于获取辅散斑图;
至少一个处理器402和与所述至少一个处理器通信连接的存储器403;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述实施方式所述的深度图获取方法。
该电子设备包括:一个或多个处理器以及存储器,图4中以一个处理器402为例。处理器402、存储器403可以通过总线或者其他方式连接,图4中以通过总线连接为例。存储器作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本申请实施方式中策略空间内的各处理策略对应的算法就存储于存储器中。处理器通过运行存储在存储器中的非易失性软件程序、指令以及模块,从而执行设备的各种功能应用以及数据处理,即实现上述深度图获取方法。
存储器可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储选项列表等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至外接设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一个或者多个模块存储在存储器中,当被一个或者多个处理器执行时,执行上述任意方法实施方式中的深度图获取方法。
上述产品可执行本申请实施方式所提供的方法,具备执行方法相应的功能模块和有益效果,未在本实施方式中详尽描述的技术细节,可参见本申请实施方式所提供的方法。
本发明的实施方式涉及一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述深度图获取方法的实施例。
即,本领域技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域的普通技术人员可以理解,上述各实施方式是实现本发明的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。

Claims (10)

1.一种深度图获取方法,其特征在于,应用于结构光相机,所述结构光相机包括主摄像头和n个辅摄像头,所述方法包括:
步骤A,当通过所述主摄像头获取的主散斑图的质量不达标时,根据候选的n个辅摄像头的排序选取排序第一的辅摄像头,其中,所述候选的n个辅摄像头的排序根据所述辅摄像头的使用成功次数由大到小确定;
步骤B,根据选取的辅摄像头获取辅散斑图,并通过所述主散斑图和所述辅散斑图得到深度图;
步骤C,对所述深度图进行质量评价,获取质量评价结果;
步骤D,当所述深度图的质量评价结果指示所述深度图质量不达标时,按照所述n个辅摄像头的排序依次重新选取一个辅摄像头,并重复执行所述步骤B至所述步骤D,直至所述深度图的质量评价结果指示所述深度图质量达标时,将质量达标的深度图作为目标深度图;
步骤E,将所述深度图质量达标时选取的辅摄像头的使用成功次数加1,并更新所述n个辅摄像头的排序。
2.根据权利要求1所述的深度图获取方法,其特征在于,所述当所述深度图的质量评价结果指示所述深度图质量不达标时,按照所述辅摄像头对应的排序依次重新选取一个辅摄像头,并重复执行所述步骤B至所述步骤D,直至所述深度图的质量评价结果指示所述深度图质量达标时,将质量达标的深度图作为目标深度图,包括:
当候选的n个辅摄像头均被选取过且所述深度图的质量评价结果仍指示质量不达标时,从获取的n个深度图中选取质量最佳的一个作为目标深度图。
3.根据权利要求1所述的深度图获取方法,其特征在于,所述当所述深度图的质量评价结果指示所述深度图质量不达标时,按照所述辅摄像头对应的排序依次重新选取一个辅摄像头,并重复执行所述步骤B至所述步骤D,直至所述深度图的质量评价结果指示所述深度图质量达标时,将质量达标的深度图作为目标深度图,包括:
当候选的n个辅摄像头均被选取过且所述深度图的质量评价结果仍指示质量不达标时,分别对所述n个辅摄像头获取的n个辅散斑图进行质量评价,若质量最佳的辅散斑图的质量达标或者所述质量最佳的辅散斑图的质量不达标但比所述主散斑图的质量好,根据所述质量最佳的辅散斑图和所述质量最佳的散斑图对应的参考散斑图得到目标深度图;
将所述质量最佳的辅散斑图对应的辅摄像头与所述主摄像头的主辅身份互换。
4.根据权利要求1至3中任一项所述的深度图获取方法,其特征在于,所述将质量达标的深度图作为目标深度图之后,还包括:
当所述候选的n个辅摄像头中存在连续多次被选取且所述深度图的质量均不达标的辅摄像头时,将所述连续多次被选取且所述深度图的质量均不达标的辅摄像头从候选的辅摄像头中剔除。
5.根据权利要求1所述的深度图获取方法,其特征在于,所述将质量达标的深度图作为目标深度图之后,通过预设的温度传感器获取环境温度值,根据所述环境温度值更新所述选取的辅摄像头的预设的适用温度范围。
6.根据权利要求5所述的深度图获取方法,其特征在于,当通过所述主摄像头获取的主散斑图的质量不达标时,在所述根据候选的n个辅摄像头的排序选取排序第一的辅摄像头之前,还包括:
通过预设的温度传感器获取当前的环境温度值,根据所述候选的n个辅摄像头的适用温度范围判定所述候选的n个辅摄像头中不存在适用于所述当前的环境温度值的辅摄像头。
7.根据权利要求6所述的深度图获取方法,其特征在于,通过所述温度传感器获取当前的环境温度值之后,还包括:
根据所述候选的n个辅摄像头预设的适用温度范围判定所述候选的n个辅摄像头中存在适用于所述当前的环境温度值的辅摄像头;
从所述适用于所述当前的环境温度值的辅摄像头中选取一个辅摄像头,通过选取的辅摄像头拍摄辅散斑图;
若所述主散斑图的质量不是最低等级,根据所述辅散斑图和所述主散斑图获取目标深度图;若所述主散斑图的质量是最低等级,根据所述辅散斑图和所述辅散斑图对应的参考散斑图获取目标深度图。
8.一种结构光相机,其特征在于,包括:
主摄像头,用于获取主散斑图;
n个辅摄像头,用于获取辅散斑图;
至少一个处理器和与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任一所述的深度图获取方法。
9.一种电子设备,其特征在于,包括:
结构光相机,包括主摄像头和n个辅摄像头,所述主摄像头用于获取主散斑图,所述辅摄像头用于获取辅散斑图;
至少一个处理器和与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任一所述的深度图获取方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的深度图获取方法。
CN202111216561.1A 2021-10-19 2021-10-19 深度图获取方法、结构光相机、电子设备及存储介质 Active CN113963045B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111216561.1A CN113963045B (zh) 2021-10-19 2021-10-19 深度图获取方法、结构光相机、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111216561.1A CN113963045B (zh) 2021-10-19 2021-10-19 深度图获取方法、结构光相机、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113963045A CN113963045A (zh) 2022-01-21
CN113963045B true CN113963045B (zh) 2022-07-19

Family

ID=79464691

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111216561.1A Active CN113963045B (zh) 2021-10-19 2021-10-19 深度图获取方法、结构光相机、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113963045B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114693683B (zh) * 2022-06-01 2022-10-18 合肥的卢深视科技有限公司 深度相机异常检测方法、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108668078A (zh) * 2018-04-28 2018-10-16 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和电子设备
CN109682575A (zh) * 2019-01-25 2019-04-26 中国船舶科学研究中心(中国船舶重工集团公司第七0二研究所) 复合材料螺旋桨模型旋转叶片水下动态变形双目测量系统
CN110058392A (zh) * 2019-05-17 2019-07-26 南京理工大学 一种基于光强传输方程的散斑定量相位成像系统及其方法
CN111768450A (zh) * 2020-06-10 2020-10-13 北京的卢深视科技有限公司 基于散斑图的结构光相机行偏差的自动检测方法和装置
CN113240630A (zh) * 2021-04-16 2021-08-10 深圳市安思疆科技有限公司 散斑图像质量评估方法、装置、终端设备及可读存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8206301B2 (en) * 2005-02-01 2012-06-26 Fujifilm Corporation Ultrasonic imaging apparatus and ultrasonic image processing apparatus, method and program
US8594425B2 (en) * 2010-05-31 2013-11-26 Primesense Ltd. Analysis of three-dimensional scenes
CN107424187B (zh) * 2017-04-17 2023-10-24 奥比中光科技集团股份有限公司 深度计算处理器、数据处理方法以及3d图像设备
US10706570B2 (en) * 2017-05-16 2020-07-07 Phasica, LLC System and method to acquire the three-dimensional shape of an object using a moving patterned substrate
EP3654243A4 (en) * 2018-04-12 2020-11-25 Guangdong Oppo Mobile Telecommunications Corp., Ltd. METHOD AND DEVICE FOR IMAGE PROCESSING, COMPUTER-READABLE STORAGE MEDIUM AND ELECTRONIC DEVICE
EP3621293B1 (en) * 2018-04-28 2022-02-09 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image processing method, apparatus and computer-readable storage medium
US11176694B2 (en) * 2018-10-19 2021-11-16 Samsung Electronics Co., Ltd Method and apparatus for active depth sensing and calibration method thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108668078A (zh) * 2018-04-28 2018-10-16 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和电子设备
CN109682575A (zh) * 2019-01-25 2019-04-26 中国船舶科学研究中心(中国船舶重工集团公司第七0二研究所) 复合材料螺旋桨模型旋转叶片水下动态变形双目测量系统
CN110058392A (zh) * 2019-05-17 2019-07-26 南京理工大学 一种基于光强传输方程的散斑定量相位成像系统及其方法
CN111768450A (zh) * 2020-06-10 2020-10-13 北京的卢深视科技有限公司 基于散斑图的结构光相机行偏差的自动检测方法和装置
CN113240630A (zh) * 2021-04-16 2021-08-10 深圳市安思疆科技有限公司 散斑图像质量评估方法、装置、终端设备及可读存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Depth estimation for speckle projection system using progressive reliable points growing matching;Guijin Wang 等;《APPLIED OPTICS》;20130120;第52卷(第3期);第516-524页 *
利用激光散斑获取深度图;张绍阳;《中国光学》;20161231;第9卷(第6期);第633-641页 *
深度视频空洞区域修复技术研究;胡天佑;《中国优秀硕士学位论文全文数据库 信息科技辑》;20180215(第02期);第I138-2289页 *
结构光深度图像获取算法研究;王一娇;《中国优秀硕士学位论文全文数据库 信息科技辑》;20150915(第09期);第I138-1446页 *

Also Published As

Publication number Publication date
CN113963045A (zh) 2022-01-21

Similar Documents

Publication Publication Date Title
CN109920011B (zh) 激光雷达与双目摄像头的外参标定方法、装置及设备
US11094198B2 (en) Lane determination method, device and storage medium
US20180150973A1 (en) Method and Apparatus for Calculating Dual-Camera Relative Position, and Device
US20210358153A1 (en) Detection methods, detection apparatuses, electronic devices and storage media
CN109858309B (zh) 一种识别道路线的方法和装置
CN113963045B (zh) 深度图获取方法、结构光相机、电子设备及存储介质
CN114255233B (zh) 散斑图的质量评价方法、装置、电子设备和存储介质
CN108419067B (zh) 白平衡参数记录、调整方法及装置、存储介质、终端、相机
CN112784874B (zh) 双目视觉立体匹配方法、装置、电子设备及存储介质
CN117053707A (zh) 三维重建方法、装置和系统、三维扫描方法和三维扫描仪
CN109073398B (zh) 一种建立地图的方法、定位方法、装置、终端及存储介质
CN111638043B (zh) 一种光学中心确定方法及装置
CN114827464B (zh) 一种基于移动摄像头的目标追踪方法及系统
CN115830342A (zh) 检测框的确定方法、装置、存储介质及电子装置
CN113763485B (zh) 温漂系数获取方法、电子设备、存储介质和图像校正方法
CN112669346B (zh) 一种路面突发状况确定方法及装置
CN114998331A (zh) Led灯罩缺陷检测方法、装置、电子设备及存储介质
CN113538538A (zh) 双目图像对齐方法、电子设备和计算机可读存储介质
CN114757846A (zh) 图像矫正方法及装置、存储介质、电子装置
CN109074676B (zh) 建立地图的方法、定位方法、终端及计算机可读存储介质
CN112163519A (zh) 图像映射处理方法、装置、存储介质及电子装置
CN112288791B (zh) 一种视差图获得方法、基于鱼眼相机的三维模型获得方法及装置
CN114299129B (zh) 深度恢复方法、电子设备和计算机可读存储介质
CN115294187B (zh) 深度相机的图像处理方法、电子设备及存储介质
CN109073399B (zh) 一种地图更新方法、装置、终端和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220523

Address after: 230091 room 611-217, R & D center building, China (Hefei) international intelligent voice Industrial Park, 3333 Xiyou Road, high tech Zone, Hefei, Anhui Province

Applicant after: Hefei lushenshi Technology Co.,Ltd.

Address before: 100083 room 3032, North B, bungalow, building 2, A5 Xueyuan Road, Haidian District, Beijing

Applicant before: BEIJING DILUSENSE TECHNOLOGY CO.,LTD.

Applicant before: Hefei lushenshi Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant