CN111815695B - 深度图像获取方法、装置、移动终端及存储介质 - Google Patents
深度图像获取方法、装置、移动终端及存储介质 Download PDFInfo
- Publication number
- CN111815695B CN111815695B CN202010657053.6A CN202010657053A CN111815695B CN 111815695 B CN111815695 B CN 111815695B CN 202010657053 A CN202010657053 A CN 202010657053A CN 111815695 B CN111815695 B CN 111815695B
- Authority
- CN
- China
- Prior art keywords
- tof camera
- target object
- distance
- target
- depth image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000004590 computer program Methods 0.000 claims description 19
- 238000007781 pre-processing Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 abstract description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000002366 time-of-flight method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000002146 bilateral effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000011437 continuous method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000000280 densification Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
本申请适用于图像处理技术领域,提供了一种深度图像获取方法、装置、移动终端及存储介质,包括:获取飞行时间TOF相机拍摄目标物体时所处距离场景;根据TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像。通过本申请可解决现有技术中散斑投射模式较为单一,灵活性较差的问题。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及一种深度图像获取方法、装置、移动终端及存储介质。
背景技术
深度相机用来获取物体的三维深度信息,利用深度信息可以进行三维建模、识别、人机交互等应用。已有的深度相机方案通常基于时间飞行(Time of Flight,TOF)技术、结构光技术、双目视觉技术等获取深度图像。
随着TOF模组体积的减小,TOF相机逐步在移动终端中得到应用和推广,现有TOF相机在获取深度图像时,其光源投射器通常采用泛光投射模式,但泛光投射模式易受环境光的影响,导致无法探测远距离物体的深度信息,故提出了能够探测远距离物体的深度信息的散斑投射模式。然而,现有TOF相机通常是采用固定的散斑投射模式投射散斑,散斑投射模式较为单一,灵活性较差。
发明内容
本申请提供了一种深度图像获取方法、装置、移动终端及存储介质,以解决现有技术中散斑投射模式较为单一,灵活性较差的问题。
第一方面,本申请实施例提供了一种深度图像获取方法,所述深度图像获取方法包括:
获取飞行时间TOF相机拍摄目标物体时所处距离场景,TOF相机所处距离场景反映所述TOF相机与所述目标物体之间的距离远近;
根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;不同的散斑投射模式其所投射的单点能量不同;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越远,所述目标散斑投射模式所投射的单点能量越大;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越近,所述目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量;
控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像。
第二方面,本申请实施例提供了一种深度图像获取装置,所述深度图像获取装置包括:
场景获取模块,用于获取飞行时间TOF相机拍摄目标物体时所处距离场景,TOF相机所处距离场景反映所述TOF相机与所述目标物体之间的距离远近;
模式确定模块,用于根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;不同的散斑投射模式其所投射的单点能量不同;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越远,所述目标散斑投射模式所投射的单点能量越大;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越近,所述目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量;
相机控制模块,用于控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像。
第三方面,本申请实施例提供了一种移动终端,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述深度图像获取方法的步骤。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述深度图像获取方法的步骤。
第五方面,本申请实施例提供了一种计算机程序产品,当所述计算机程序产品在移动终端上运行时,使得所述移动终端执行如上述第一方面所述深度图像获取方法的步骤。
由上可见,本申请在通过TOF相机获取目标物体的深度图像之前,先获取TOF相机拍摄目标物体时所处距离场景,可以根据TOF所处距离场景,从至少两种不同的散斑投射模式中自适应选择目标散斑投射模式,从而能够在获取深度图像的同时,提高散斑投射模式的灵活性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例一提供的深度图像获取方法的实现流程示意图;
图2a是垂直腔面发射激光器阵列所投射的散斑示例图;图2b是目标物体的初始深度图像示例图;
图3是工作距离、横向分辨率和深度信息的精度的关系示例图;
图4是本申请实施例二提供的深度图像获取方法的实现流程示意图;
图5是本申请实施例三提供的深度图像获取装置的结构示意图;
图6是本申请实施例四提供的移动终端的结构示意图;
图7是本申请实施例五提供的移动终端的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
具体实现中,本申请实施例中描述的移动终端包括但不限于诸如具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的移动电话、膝上型计算机或平板计算机之类的其它便携式设备。还应当理解的是,在某些实施例中,所述设备并非便携式通信设备,而是具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的台式计算机。
在接下来的讨论中,描述了包括显示器和触摸敏感表面的移动终端。然而,应当理解的是,移动终端可以包括诸如物理键盘、鼠标和/或控制杆的一个或多个其它物理用户接口设备。
移动终端支持各种应用程序,例如以下中的一个或多个:绘图应用程序、演示应用程序、文字处理应用程序、网站创建应用程序、盘刻录应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息收发应用程序、锻炼支持应用程序、照片管理应用程序、数码相机应用程序、数字摄影机应用程序、web浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
可以在移动终端上执行的各种应用程序可以使用诸如触摸敏感表面的至少一个公共物理用户接口设备。可以在应用程序之间和/或相应应用程序内调整和/或改变触摸敏感表面的一个或多个功能以及终端上显示的相应信息。这样,终端的公共物理架构(例如,触摸敏感表面)可以支持具有对用户而言直观且透明的用户界面的各种应用程序。
应理解,本实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
在说明本申请方案之前,为了便于读者理解,先对本方案中所涉及到的名词进行解释说明。
TOF相机:使用飞行时间法3D成像的相机。
飞行时间法3D成像的原理:发射端发出经调制的光束,遇到物体后反射,接收端的传感器通过计算光束发射和反射时间差或相位差,再将其换算为到被拍摄物体的距离,从而产生深度信息。
飞行时间法根据获取的信号结果的不同,可以分为直接飞行时间法和间接飞行时间法,直接飞行时间法获取的信号结果是时间差,间接飞行时间法获取的信号结果是相位差。
飞行时间法根据调制方法的不同,可以分为脉冲调制和连续法调制。
脉冲调制:根据脉冲发射和接收的时间差测量深度信息。
连续法调制:通常采用正弦波调制,接收端和发射端的正弦波的相位差和TOF相机到被拍摄物体的距离成正比,故可以利用相位差测量深度信息。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
参见图1,是本申请实施例一提供的深度图像获取方法的实现流程示意图,该深度图像获取方法应用于移动终端,如图所示该深度图像获取方法可以包括以下步骤:
步骤101,获取TOF相机拍摄目标物体时所处距离场景。
其中,TOF相机所处距离场景反映TOF相机与目标物体之间的距离远近。
例如,将距离场景划分为近距离场景和远距离场景,近距离场景和远距离场景均反映TOF相机与目标物体之间的距离,近距离场景所反映的TOF相机与目标物体之间的距离小于远距离场景所反映的TOF相机与目标物体之间的距离,目标物体是指需使用TOF相机进行拍摄的物体。
距离场景表征TOF相机距离目标物体的远近,近距离场景表征TOF相机距离目标物体较近(即TOF相机与目标物体之间的距离较近),远距离场景表征TOF相机距离目标物体较远(即TOF相机与目标物体之间的距离较远)。
需要说明的是,可以将距离场景划分为近距离场景和远距离场景,也可以根据实际需要划分为至少三个场景(例如近距离场景、中距离场景和远距离场景,近距离场景所反映的距离小于中距离场景所反映的距离,中距离场景所反映的距离小于远距离场景所反映的距离),在此不作限定。
TOF相机可以理解为集成在移动终端中的TOF模组,TOF模组通常包括接收端和发射端,接收端通常包括镜头、窄带滤光片(例如940nm窄带滤光片)、TOF传感器等,发射端通常包括垂直腔面发射激光器(Vertical-Cavity Surface-Emitting Laser,VCSEL)阵列、准直镜头、光学衍射元件(Diffractive Optical Elements,DOE)等,DOE可以是扩散器Diffuser。VCSEL阵列中的VCSEL均匀排列在一个平面上,用于发射具有二维规则图案的光束;准直镜头用于接收并汇聚光束,保证光束具有平行光路;DOE用于对经准直镜头处理后的光束进行散射,并按照一定视场角投射到目标物体上,投射到目标物体上所形成的规则均匀亮斑即为散斑。VCSEL阵列通常包括至少两个VCSEL,且上述至少两个VCSEL均匀排列,在使用均匀排列的VCSEL发出光束时,可以得到规则均匀的散斑。如图2a所示是垂直腔面发射激光器阵列所投射的散斑示例图,由图2a可知,在整个投射空间,相邻散斑之间的间距和角度是固定的。
步骤102,根据TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式。
其中,不同的散斑投射模式其所投射的单点能量不同;TOF相机所处场景所反映的TOF相机与目标物体之间的距离越远,目标散斑投射模式所投射的单点能量越大;TOF相机所处场景所反映的TOF相机与目标物体之间的距离越近,目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量。例如本申请包括两种不同的散斑投射模式,分别为第一散斑投射模式和第二散斑投射模式,第一散斑投射模式所投射的单点能量小于第二散斑投射模式所投射的单点能量,第一散斑投射模式所投射的散斑数量大于第二散斑投射模式所投射的散斑数量。目标散斑投射模式可以是指适用于TOF相机所处距离场景的散斑投射模式;在TOF相机与目标物体之间的距离较远时,将所投射单点能量较大的散斑投射模式作为目标散斑投射模式,能够确保TOF相机在较远的工作距离下,获得目标物体的深度图像;在TOF相机与目标物体之间的距离较近时,将所投射单点能量较小的散斑投射模式作为目标散斑投射模式,能够确保投射较多的散斑,从而获得深度信息较为稠密的深度图像,提高深度信息的精度。
散斑投射模式也可以称之为光束发射模式,不同光束发射模式的区别是发射光束的VCSEL数量不同,在相同电功率下,如果同时开启的VCSEL数量较多(即发射光束的VCSEL数量较多),则所投射的散斑数量越多,分配到单个VCSEL的电流较小,使得所投射的单个散斑的能量较小;如果同时开启的VCSEL数量较少(即发射光束的VCSEL数量较少),则所投射的散斑数量较少,分配到单个VCSEL的电流较大,使得所投射的单个散斑的能量较大。故本申请通过控制VCSEL阵列中VCSEL的开启数量,可以实现至少两种不同的散斑投射模式。
例如,本申请通过控制VCSEL阵列中VCSEL的开启数量,实现两种不同的散斑投射模式,分别为第一散斑投射模式和第二散斑投射模式,第一散斑投射模式可以是指开启VCSEL阵列中全部VCSEL,第二散斑投射模式可以是指开启VCSEL阵列中的部分VCSEL。
可选地,用户可以根据实际需要从VCSEL阵列的全部VCSEL中自行选择第二散斑投射模式所需的部分VCSEL,在此不作限定。例如VCSEL阵列中VCSEL的总数量是N(N为大于1的整数),部分VCSEL的具体数量可以是N/2,从均匀排列在VCSEL阵列中的所有VCSEL中均匀抽取N/2个VCSEL作为第二散斑投射模式所需的部分VCSEL,均匀抽取是指所抽取的N/2个VCSEL中相邻VCSEL的间隔均相同。
步骤103,控制TOF相机在目标散斑投射模式下,获取目标物体的初始深度图像。
其中,目标物体的初始深度图像是指TOF相机在目标散斑投射模式下,获取的目标物体的深度图像。
可选地,TOF相机包括VCSEL阵列,VCSEL阵列包括至少两个VCSEL,上述至少两个VCSEL用于发射光束,控制TOF相机在目标散斑投射模式下,获取目标物体的初始深度图像包括:
从VCSEL阵列中,获取目标散斑投射模式对应的目标VCSEL;
通过开启目标VCSEL,获取目标物体的初始深度图像。
在本申请实施例中,可以预先建立上述至少两种不同的散斑投射模式各自对应的目标VCSEL,在根据TOF相机所处距离场景确定目标散斑投射模式之后,可以从上述对应关系中,获取目标散斑投射模式对应的目标VCSEL,开启目标VCSEL,通过该目标VCSEL发射光束,将所发射的光束依次通过垂直镜头、DOE处理后投射到目标物体上,目标物体对所投射的光束进行反射,接收端接收反射的光束,并根据发射光束和反射光束的时间差或相位差,计算得到TOF相机到目标物体的距离,从而产生深度信息,输出目标物体的初始深度图像。由于TOF传感器获取的是RAW图像,目标物体的初始深度图像可以是指通过四相位RAW图像解调制获取的稀疏深度图像,如图2b所示是目标物体的初始深度图像示例图,图2b中目标物体为长方体,图2b中符号“●”表示具有深度信息的像素点,符号“○”表示不具有深度信息的像素点。
在一应用场景中,可以将距离场景划分为近距离场景和远距离场景,在TOF相机所处距离场景为近距离场景时,表征TOF相机距离目标物体较近,可以控制TOF相机在第一散斑投射模式下拍摄目标物体,即开启VCSEL阵列中的所有VCSEL发射光束,能够获得深度信息较为稠密的深度图像,提高深度信息的精度,提高深度图像的横向分辨率(即散斑数量);在TOF相机所处距离场景为远距离场景时,表征TOF相机距离目标物体较远,可以控制TOF相机在第二散斑投射模式下拍摄目标物体,即开启VCSEL阵列中的部分VCSEL发射光束,能够保证光束达到较远的距离,提高TOF相机的工作距离。如图3所示是工作距离、横向分辨率和深度信息的精度的关系示例图,本申请通过至少两种不同的散斑投射模式,可以平衡TOF相机的工作距离和深度图像的横向分辨率,图3中虚线表示泛光投射模式下工作距离、横向分辨率和深度信息的精度三者之间的关系,实线表示散斑投射模式下工作距离、横向分辨率和深度信息的精度三者之间的关系。由图3可知,相比于泛光投射模式,散斑投射模式能够确保TOF相机具有较远的工作距离;在散斑投射模式下,TOF相机的工作距离越近,深度图像的横向分辨率以及深度信息的精度越高,即通过本申请可实现在TOF相机的工作距离较近时,能够具有较高的横向分辨率。
本申请实施例通过在获取目标物体的深度图像之前,获取TOF相机拍摄目标物体时所处的距离场景,可以根据TOF所处的距离场景,从至少两种不同的散斑投射模式中自适应选择目标散斑投射模式,从而能够在获取深度图像的同时,提高散斑投射模式的灵活性,以及提高TOF相机的工作距离或者深度信息的精度。
参见图4,是本申请实施例二提供的深度图像获取方法的实现流程示意图,该深度图像获取方法应用于移动终端,如图所示该深度图像获取方法可以包括以下步骤:
步骤401,获取TOF相机拍摄目标物体时所处距离场景。
该步骤与步骤101相同,具体可参见步骤101的相关描述,在此不再赘述。
可选地,获取TOF相机拍摄目标物体时所处距离场景包括:
通过TOF相机获取目标物体的参考图像;
获取参考图像的单点能量;
根据参考图像的单点能量,获取TOF相机所处距离场景;参考图像的单点能量越大,TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越远;参考图像的单点能量越小,TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越近。
其中,参考图像是判断TOF相机所处距离场景时所参考的图像。参考图像是TOF相机直接输出的深度图像。参考图像的单点能量是指在通过TOF相机获取参考图像时所投射的单点能量(即一个散斑的能量)。
在一实施例中,可以将距离场景划分为近距离场景和远距离场景,并通过能量阈值,判断TOF相机所处距离场景,具体的:若参考图像的单点能量大于能量阈值,则确定TOF相机所处距离场景为近距离场景;若参考图像的单点能量小于或等于能量阈值,则确定TOF相机所处距离场景为远距离场景。其中,能量阈值可以是指用于判断TOF相机所处距离场景的能量阈值,可以根据经验值设置上述能量阈值。
可选地,在通过TOF相机对目标物体拍摄一帧图像时,参考图像是指预览画面;
在通过TOF相机对目标物体连续拍摄至少两帧图像时,参考图像是指目标物体的初始深度图像的上一帧图像。
其中,预览画面是指相机预览界面所显示的画面。在参考图像是预览画面时,可以控制TOF相机在默认散斑投射模式下,获取目标物体的参考图像;在参考图像是目标物体的初始深度图像的上一帧图像时,获取第一帧图像时所使用的散斑投射模式可以根据预览画面(即将预览画面作为参考图像)的单点能量确定,获取第二帧图像时所使用的散斑投射模式可以根据第一帧图像的单点能量确定,依次类推,根据上一帧图像的单点能量确定获取下一帧图像时所使用的散斑投射模式,直到停止拍摄。其中,上述默认散斑投射模式是指至少两种不同散斑投射模式中的任一散斑投射模式。
在本申请实施例中,在检测到移动终端启动相机应用程序时,可以检测所选择的拍摄功能,若所选择的拍摄功能是拍照功能,则确定通过TOF相机对目标物体拍摄一帧图像;若所选择的拍摄功能是录像功能,则确定通过TOF相机对目标物体连续拍摄至少两帧图像。
可选地,获取TOF相机拍摄目标物体时所处距离场景包括:
获取TOF相机与目标物体之间的距离;
根据TOF相机与目标物体之间的距离,获取TOF相机所处距离场景。
在本申请实施例中,可以通过移动终端中的距离传感器测量TOF相机与目标物体的距离,将TOF相机与目标物体的距离与距离阈值进行比较,可以判定TOF相机所处距离场景,例如若TOF相机与目标物体的距离小于距离阈值,则确定TOF相机所处距离场景为近距离场景;若TOF相机与目标物体的距离大于或等于距离阈值,则确定TOF相机所处距离场景为远距离场景。其中,上述距离阈值可以是指用于判断TOF相机所处距离场景的距离阈值,可以根据经验值设置上述距离阈值。
步骤402,根据TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式。
该步骤与步骤102相同,具体可参见步骤102的相关描述,在此不再赘述。
步骤403,控制TOF相机在目标散斑投射模式下,获取目标物体的初始深度图像。
该步骤与步骤103相同,具体可参见步骤103的相关描述,在此不再赘述。
步骤404,通过RGB相机获取目标物体的RGB图像。
其中,RGB相机可以理解为集成在移动终端中的RGB模组,通过RGB相机获取的RGB图像是二维的彩色图像,不包含深度信息。
步骤405,对目标物体的初始深度图像和目标物体的RGB图像进行预处理,获得目标物体的目标深度图像。
在本申请实施例中,对目标物体的初始深度图像和目标物体的RGB图像进行预处理具体可以是指:分别对TOF相机和RGB相机做标定(例如使用张正友标定法对TOF相机和RGB相机做标定),获取各自的内部参数和外部参数,根据TOF相机的内部参数和外部参数以及RGB相机的内部参数和外部参数,获得两相机之间的相对位置关系,根据相对位置关系可以将初始深度图像的深度信息换算到RGB相机的坐标系下,得到待处理图像,为了将待处理图像的深度信息稠密化,可以采用预设插值算法对该待处理图像进行插值,获得深度信息较为稠密的深度图像,最后再采用预设优化算法优化该深度图像的边缘,从而获得噪声较少且边缘较为准确的目标深度图像。其中,将待处理图像的深度信息稠密化是指将待处理图像的深度信息从稀疏状态插值为稠密状态,相机的内部参数是指与相机自身特性相关的参数,包括但不限于相机的焦距、像素大小等;相机的外部参数是指在世界坐标系中的参数,包括但不限于相机的位置、旋转方向等。
上述预设插值算法包括但不限于颜色插值算法、距离插值算法等。颜色插值算法可以是指:获取被插值点的一个邻域窗口,当该邻域窗口中存在有效深度点(即含有深度信息的点)时,使用与被插值点的颜色相似的有效深度点的深度信息计算被插值点的深度信息;距离插值算法可以是指:获取被插值点的一个邻域窗口,当该邻域窗口中存在有效深度点时,使用与被插值点的距离较小的有效深度点的深度信息计算被插值点的深度信息。需要说明的是,在对待处理图像进行插值时,可以根据实际需要,进行全图插值或者局部插值。
上述预设优化算法包括但不限于联合双边滤波和马尔科夫随机场。联合双边滤波是指:将RGB图像的局部窗口信息作为输入,结合邻域内颜色信息的相似性和空间关系计算权重,对边缘像素点的深度信息进行局部加权平均,能够优化边缘、抑制噪声等;马尔科夫随机场是指:将马尔科夫随机场运用到深度图像优化,挖掘深度图像与RGB图像的内在联系构造局部特征结构模型,构造马尔科夫随机场的深度数据约束项和平滑项,将问题转化为求最优解问题,能够优化边缘、抑制噪声。
在本申请实施例中,移动终端通过图像信号处理接口连接目标物体的RGB图像,通过移动行业处理器接口连接目标物体的初始深度图像,在通过TOF相机拍摄目标物体时,需要满足VCSEL与TOF传感器的曝光时序要求,同时保证目标物体的初始深度图像的曝光与目标物体的RGB图像的曝光同步,其中,可以通过软件方式(例如为图像数据加盖时间戳)或硬件方式保证曝光同步
本申请实施例通过将在目标散斑投影模式下获取的目标物体的初始深度图像与目标物体的RGB图像相结合,可以得到噪声较少且边缘较好的稠密深度图像。
参见图5,是本申请实施例三提供的深度图像获取装置的结构示意图,为了便于说明,仅示出了与本申请实施例相关的部分。
深度图像获取装置包括:
场景获取模块51,用于获取飞行时间TOF相机拍摄目标物体时所处距离场景,TOF相机所处距离场景反映TOF相机与目标物体之间的距离远近;
模式确定模块52,用于根据TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;不同的散斑投射模式其所投射的单点能量不同;TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越远,目标散斑投射模式所投射的单点能量越大;TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越近,目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量;
相机控制模块53,用于控制TOF相机在目标散斑投射模式下,获取目标物体的初始深度图像。
可选地,TOF相机包括垂直腔面发射激光器阵列,垂直腔面发射激光器阵列包括至少两个垂直腔面发射激光器,至少两个垂直腔面发射激光器用于发射光束,相机控制模块53包括:
激光器获取单元,用于从垂直腔面发射激光器阵列中,获取目标散斑投射模式对应的目标垂直腔面发射激光器;
图像获取单元,用于通过开启目标垂直腔面发射激光器,获取目标物体的初始深度图像。
可选地,场景获取模块51包括:
第一获取单元,用于通过TOF相机获取目标物体的参考图像;
第二获取单元,用于获取参考图像的单点能量;
第三获取单元,用于根据参考图像的单点能量,获取TOF相机所处距离场景;参考图像的单点能量越大,TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越远;参考图像的单点能量越小,TOF相机所处距离场景所反映的TOF相机与目标物体之间的距离越近。
可选地,在通过TOF相机对目标物体拍摄一帧图像时,参考图像是指预览画面;
在通过TOF相机对目标物体连续拍摄至少两帧图像时,参考图像是指目标物体的初始深度图像的上一帧图像。
可选地,场景获取模块51包括:
第四获取单元,用于获取TOF相机与目标物体之间的距离;
第五获取单元,用于根据TOF相机与目标物体之间的距离,获取TOF相机所处距离场景。
可选地,深度图像获取装置还包括:
图像获取模块,用于通过红绿蓝RGB相机获取目标物体的RGB图像;
预处理模块,用于对目标物体的初始深度图像和目标物体的RGB图像进行预处理,获得目标物体的目标深度图像。
本申请实施例提供的深度图像获取装置可以应用在前述方法实施例中,详情参见上述方法实施例的描述,在此不再赘述。
图6是本申请实施例四提供的移动终端的结构示意图。如图所示的该移动终端可以包括:一个或多个处理器601(图中仅示出一个);一个或多个输入设备602(图中仅示出一个),一个或多个输出设备603(图中仅示出一个)和存储器604。上述处理器601、输入设备602、输出设备603和存储器604通过总线605连接。存储器604用于存储指令,处理器601执行存储器604存储的指令。其中:
应当理解,在本申请实施例中,处理器601可以是中央处理单元(CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备602可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风、数据接收接口等。输出设备603可以包括显示器(LCD等)、扬声器、数据发送接口等。
该存储器604可以包括只读存储器和随机存取存储器,并向处理器601提供指令和数据。存储器604的一部分还可以包括非易失性随机存取存储器。例如,存储器604还可以存储设备类型的信息。
具体实现中,本申请实施例中所描述的处理器601、输入设备602、输出设备603和存储器604可执行本申请实施例提供的深度图像获取方法的实施例中所描述的实现方式,也可执行实施例三深度图像获取装置中所描述的实现方式,在此不再赘述。
图7是本申请实施例五提供的移动终端的结构示意图。如图7所示,该实施例的移动终端7包括:一个或多个处理器70(图中仅示出一个)、存储器71以及存储在存储器71中并可在至少一个处理器70上运行的计算机程序72。处理器70执行计算机程序72时实现上述各个深度图像获取方法实施例中的步骤。
移动终端7可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。移动终端可包括,但不仅限于,处理器70、存储器71。本领域技术人员可以理解,图7仅仅是移动终端7的示例,并不构成对移动终端7的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如移动终端还可以包括输入输出设备、网络接入设备、总线等。
所称处理器70可以是中央处理单元CPU,还可以是其他通用处理器、数字信号处理器DSP、专用集成电路ASIC、现成可编程门阵列FPGA或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器71可以是移动终端7的内部存储单元,例如移动终端7的硬盘或内存。存储器71也可以是移动终端7的外部存储设备,例如移动终端7上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器71还可以既包括移动终端7的内部存储单元也包括外部存储设备。存储器71用于存储计算机程序以及移动终端所需的其他程序和数据。存储器71还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/移动终端和方法,可以通过其它的方式实现。例如,以上所描述的装置/移动终端实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
本申请实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在移动终端上运行时,使得移动终端执行时实现可实现上述各个方法实施例中的步骤。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种深度图像获取方法,其特征在于,所述深度图像获取方法包括:
获取飞行时间TOF相机拍摄目标物体时所处距离场景,TOF相机所处距离场景反映所述TOF相机与所述目标物体之间的距离远近;
根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;不同的散斑投射模式其所投射的单点能量不同;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越远,所述目标散斑投射模式所投射的单点能量越大;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越近,所述目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量;
控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像;
根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式,具体包括:
在所述TOF相机与所述目标物体之间的距离较远时,将所投射单点能量较大的散斑投射模式作为目标散斑投射模式;
在所述TOF相机与所述目标物体之间的距离较近时,将所投射单点能量较小的散斑投射模式作为目标散斑投射模式。
2.如权利要求1所述的深度图像获取方法,其特征在于,所述TOF相机包括垂直腔面发射激光器阵列,垂直腔面发射激光器阵列包括至少两个垂直腔面发射激光器,所述至少两个垂直腔面发射激光器用于发射光束,所述控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像包括:
从所述垂直腔面发射激光器阵列中,获取所述目标散斑投射模式对应的目标垂直腔面发射激光器;
通过开启所述目标垂直腔面发射激光器,获取所述目标物体的初始深度图像。
3.如权利要求1所述深度图像获取方法,其特征在于,所述获取飞行时间TOF相机拍摄目标物体时所处距离场景包括:
通过所述TOF相机获取参考图像;
获取所述参考图像的单点能量;
根据所述参考图像的单点能量,获取所述TOF相机所处距离场景;所述参考图像的单点能量越大,所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越远;所述参考图像的单点能量越小,所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越近。
4.如权利要求3所述的深度图像获取方法,其特征在于,在通过所述TOF相机对所述目标物体拍摄一帧图像时,所述参考图像是指预览画面;
在通过所述TOF相机对所述目标物体连续拍摄至少两帧图像时,所述参考图像是指所述目标物体的初始深度图像的上一帧图像。
5.如权利要求1所述深度图像获取方法,其特征在于,所述获取飞行时间TOF相机拍摄目标物体时所处距离场景包括:
获取所述TOF相机与所述目标物体之间的距离;
根据所述TOF相机与所述目标物体之间的距离,获取所述TOF相机所处距离场景。
6.如权利要求1至5任一项所述的深度图像获取方法,其特征在于,所述深度图像获取方法还包括:
通过红绿蓝RGB相机获取所述目标物体的RGB图像;
对所述目标物体的初始深度图像和所述目标物体的RGB图像进行预处理,获得所述目标物体的目标深度图像。
7.一种深度图像获取装置,其特征在于,所述深度图像获取装置包括:
场景获取模块,用于获取飞行时间TOF相机拍摄目标物体时所处距离场景,TOF相机所处距离场景反映所述TOF相机与所述目标物体之间的距离远近;
模式确定模块,用于根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式;不同的散斑投射模式其所投射的单点能量不同;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越远,所述目标散斑投射模式所投射的单点能量越大;所述TOF相机所处距离场景所反映的所述TOF相机与所述目标物体之间的距离越近,所述目标散斑投射模式所投射的单点能量越小;单点能量是指一个散斑的能量;
相机控制模块,用于控制所述TOF相机在所述目标散斑投射模式下,获取所述目标物体的初始深度图像;
根据所述TOF相机所处距离场景,从至少两种不同的散斑投射模式中确定目标散斑投射模式,具体包括:
在所述TOF相机与所述目标物体之间的距离较远时,将所投射单点能量较大的散斑投射模式作为目标散斑投射模式;
在所述TOF相机与所述目标物体之间的距离较近时,将所投射单点能量较小的散斑投射模式作为目标散斑投射模式。
8.如权利要求7所述的深度图像获取装置,其特征在于,所述TOF相机包括垂直腔面发射激光器阵列,垂直腔面发射激光器阵列包括至少两个垂直腔面发射激光器,所述至少两个垂直腔面发射激光器用于发射光束,所述相机控制模块包括:
激光器获取单元,用于从所述垂直腔面发射激光器阵列中,获取所述目标散斑投射模式对应的目标垂直腔面发射激光器;
图像获取单元,用于通过开启所述目标垂直腔面发射激光器,获取所述目标物体的初始深度图像。
9.一种移动终端,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述深度图像获取方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述深度图像获取方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010657053.6A CN111815695B (zh) | 2020-07-09 | 2020-07-09 | 深度图像获取方法、装置、移动终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010657053.6A CN111815695B (zh) | 2020-07-09 | 2020-07-09 | 深度图像获取方法、装置、移动终端及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111815695A CN111815695A (zh) | 2020-10-23 |
CN111815695B true CN111815695B (zh) | 2024-03-15 |
Family
ID=72842851
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010657053.6A Active CN111815695B (zh) | 2020-07-09 | 2020-07-09 | 深度图像获取方法、装置、移动终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111815695B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113311451B (zh) * | 2021-05-07 | 2024-01-16 | 西安交通大学 | 一种激光散斑投射ToF深度感知方法及装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107483845A (zh) * | 2017-07-31 | 2017-12-15 | 广东欧珀移动通信有限公司 | 拍照方法及其装置 |
CN107517346A (zh) * | 2017-07-31 | 2017-12-26 | 广东欧珀移动通信有限公司 | 基于结构光的拍照方法、装置及移动设备 |
CN109798838A (zh) * | 2018-12-19 | 2019-05-24 | 西安交通大学 | 一种基于激光散斑投射的ToF深度传感器及其测距方法 |
CN109831660A (zh) * | 2019-02-18 | 2019-05-31 | Oppo广东移动通信有限公司 | 深度图像获取方法、深度图像获取模组及电子设备 |
CN109963135A (zh) * | 2017-12-22 | 2019-07-02 | 宁波盈芯信息科技有限公司 | 一种基于rgb-d的深度网络摄像装置及方法 |
CN111239729A (zh) * | 2020-01-17 | 2020-06-05 | 西安交通大学 | 融合散斑和泛光投射的ToF深度传感器及其测距方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3672223B1 (en) * | 2018-04-28 | 2022-12-28 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Data processing method, electronic device, and computer-readable storage medium |
-
2020
- 2020-07-09 CN CN202010657053.6A patent/CN111815695B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107483845A (zh) * | 2017-07-31 | 2017-12-15 | 广东欧珀移动通信有限公司 | 拍照方法及其装置 |
CN107517346A (zh) * | 2017-07-31 | 2017-12-26 | 广东欧珀移动通信有限公司 | 基于结构光的拍照方法、装置及移动设备 |
CN109963135A (zh) * | 2017-12-22 | 2019-07-02 | 宁波盈芯信息科技有限公司 | 一种基于rgb-d的深度网络摄像装置及方法 |
CN109798838A (zh) * | 2018-12-19 | 2019-05-24 | 西安交通大学 | 一种基于激光散斑投射的ToF深度传感器及其测距方法 |
CN109831660A (zh) * | 2019-02-18 | 2019-05-31 | Oppo广东移动通信有限公司 | 深度图像获取方法、深度图像获取模组及电子设备 |
CN111239729A (zh) * | 2020-01-17 | 2020-06-05 | 西安交通大学 | 融合散斑和泛光投射的ToF深度传感器及其测距方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111815695A (zh) | 2020-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107851178B (zh) | 基于多个表面模型的混合三维场景重构 | |
US10154246B2 (en) | Systems and methods for 3D capturing of objects and motion sequences using multiple range and RGB cameras | |
US11055826B2 (en) | Method and apparatus for image processing | |
CN104363378B (zh) | 相机对焦方法、装置及终端 | |
CN107113373B (zh) | 在电子信息处理系统中的方法及信息处理系统 | |
CN111563950B (zh) | 纹理映射策略确定方法、装置及计算机可读存储介质 | |
CN110336942B (zh) | 一种虚化图像获取方法及终端、计算机可读存储介质 | |
KR102524982B1 (ko) | 흐림 처리가 수행된 이미지에 노이즈 패턴을 반영하는 방법 및 장치 | |
KR20140004592A (ko) | 3d 깊이 정보를 기반으로 한 이미지 블러 | |
CN110213491B (zh) | 一种对焦方法、装置及存储介质 | |
CN112291473B (zh) | 对焦方法、装置及电子设备 | |
US20150323310A1 (en) | Systems and methods for determining pupillary distance and scale | |
CN113313658A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN111815695B (zh) | 深度图像获取方法、装置、移动终端及存储介质 | |
CN115131215A (zh) | 一种图像的校正方法及及屏下系统 | |
CN112543284A (zh) | 对焦系统、方法及装置 | |
US20220268935A1 (en) | Electronic device comprising camera and method thereof | |
US20240070886A1 (en) | Mixed-mode depth imaging | |
CN109842791A (zh) | 一种图像处理方法及装置 | |
US11295421B2 (en) | Image processing method, image processing device and electronic device | |
EP4033757A1 (en) | Depth image generation method and apparatus, reference image generation method and apparatus, electronic device, and computer readable storage medium | |
CN112367476A (zh) | Tof相机的曝光时间确定方法、装置及终端设备 | |
CN110390689B (zh) | 深度图处理方法、装置和电子设备 | |
CN115482291A (zh) | 标定方法、标定系统、拍摄方法、电子设备和存储介质 | |
US9373151B2 (en) | Image processing device and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |