CN110441784A - 深度图像成像系统和方法 - Google Patents
深度图像成像系统和方法 Download PDFInfo
- Publication number
- CN110441784A CN110441784A CN201910797288.2A CN201910797288A CN110441784A CN 110441784 A CN110441784 A CN 110441784A CN 201910797288 A CN201910797288 A CN 201910797288A CN 110441784 A CN110441784 A CN 110441784A
- Authority
- CN
- China
- Prior art keywords
- light
- depth
- filtering
- imaging device
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 197
- 238000000034 method Methods 0.000 title abstract description 34
- 238000001914 filtration Methods 0.000 claims abstract description 112
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000005375 photometry Methods 0.000 claims abstract description 9
- 230000003287 optical effect Effects 0.000 claims description 8
- 230000010287 polarization Effects 0.000 claims description 7
- 238000005259 measurement Methods 0.000 description 20
- 239000011797 cavity material Substances 0.000 description 17
- 230000008569 process Effects 0.000 description 12
- 230000005540 biological transmission Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000003331 infrared imaging Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000002310 reflectometry Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000009738 saturating Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
Landscapes
- Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
本申请提供了一种深度图像成像系统和方法,该成像系统,包括:光源设备,位于目标场景的一侧,用于至少发出预定光;滤波设备,位于目标场景的一侧,用于对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,第一滤波光为预定光经过目标场景反射和滤波处理得到的;第一成像设备和第二成像设备,位于滤波设备的出光侧,用于分别对预定波段的第一滤波光和第二滤波光进行成像;处理设备,用于根据第二滤波光确定预定光,以及根据第一滤波光计算出目标场景的深度。该成像系统能够更准确地测量目标场景的深度。
Description
技术领域
本申请涉及成像领域,具体而言,涉及一种深度图像成像系统和方法。
背景技术
目前,市场上已经出现在传统的彩色图像之外对被摄物进行深度成像,并将深度信息与彩色图像信息组合以用于生物识别、AR游戏、三维地图构建、机器人等各种场景的深度图像成像系统,例如:飞行时间技术TOF(Time Of Flight,简称为TOF),结构光,双目视觉等。目前TOF技术存在帧率高,软硬件成本低,测距距离远等优点,因此是应用最为广泛的一种深度信息获取方式。但因为目前的TOF技术也有一些固有的缺点,如分辨率较低,部分图像缺失,深度值检测需去重等,尤其是利用单个TOF镜头进行深度测距时,很容易造成深度图像各种空白或误差的出现的问题。
在背景技术部分中公开的以上信息只是用来加强对本文所描述技术的背景技术的理解,因此,背景技术中可能包含某些信息,这些信息对于本领域技术人员来说并未形成在本国已知的现有技术。
发明内容
本申请的主要目的在于提供一种深度图像成像系统和方法,以解决采用单个TOF镜头对存在较多反射面的复杂场景进行深度测距时,容易造成部分像素点测量缺失或者误差较大的技术问题。
为了实现上述目的,根据本申请的一个方面,提供了一种深度图像成像系统,包括:光源设备,位于目标场景的一侧,用于至少发出预定光;滤波设备,位于目标场景的一侧,用于对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,所述第一滤波光所述预定光经过所述目标场景反射和滤波处理得到的;第一成像设备和第二成像设备,位于滤波设备的出光侧,用于分别对预定波段的第一滤波光和所述第二滤波光进行成像;处理设备,用于根据所述第二滤波光确定所述预定光,以及根据所述第一滤波光计算出所述目标场景的深度。
可选地,所述处理设备还包括:获取单元,用于获取所述第一成像设备和所述第二成像设备对所述第二滤波光进行成像得到的第一图像和第二图像;第一处理单元,用于根据所述第一图像和所述第二图像的坐标位置差,确定预估深度;第二处理单元,用于根据所述预估深度确定所述预定光。
可选地,所述处理设备还包括:第一计算单元,用于根据入射所述第一成像设备的所述第一滤波光,计算出所述第一成像设备的第一深度;第二计算单元,用于根据入射所述第二成像设备的所述第一滤波光,计算出所述第二成像设备的第二深度;第三处理单元,用于根据所述第一深度和所述第二深度以及与所述第一深度和所述第二深度对应的权重得到所述目标场景的深度。
可选地,所述第三处理单元包括:确定模块,用于确定所述第一深度和所述第二深度对应的权重,其中,通过以下方式至少之一确定所述权重:所述光源设备生成的预定光的调制参数,其中,所述调制参数包括调制幅度和调制频率中的至少一种;所述第一成像设备和所述第二成像设备的成像参数,其中,所述成像参数包括光学参数和成像质量中的至少一种。
可选地,所述成像系统还包括:起偏设备,位于滤波设备的一侧,用于使入射所述第一成像设备和所述第二成像设备的所述预定光具有相互正交的偏振方向,得到对应的偏振光;检偏设备,位于起偏设备和成像设备之间,用于将对应的所述偏振光分别入射所述第一成像设备和所述第二成像设备。
可选地,入射所述第一成像设备的第一滤波光和入射所述第二成像设备的预定光具有不同的调制参数。
可选地,所述第一成像设备和所述第二成像设备在滤波设备的出光侧间隔设置。
可选地,所述预定光为调制红外光,所述第二滤波光对应的光为可见光。
可选地,所述滤波设备为腔体厚度可调的法布里-珀罗干涉腔。
为了实现上述目的,根据本申请的一个方面,提供了一种深度图像成像方法,包括:至少发出预定光;对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,所述第一滤波光为所述预定光经过所述目标场景反射和滤波处理得到的;分别对预定波段的第一滤波光和所述第二滤波光进行成像;根据所述第二滤波光确定所述预定光,以及根据所述第一滤波光计算出所述目标场景的深度。
应用本申请的技术方案,上述深度图像成像系统中,光源设备,位于目标场景的一侧,用于至少发出预定光;滤波设备,位于目标场景的一侧,用于对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,所述第一滤波光所述预定光经过所述目标场景反射和滤波处理得到的;第一成像设备和第二成像设备,位于滤波设备的出光侧,用于分别对预定波段的第一滤波光和所述第二滤波光进行成像;处理设备,用于根据所述第二滤波光确定所述预定光,以及根据所述第一滤波光计算出所述目标场景的深度。可以实现从多个角度采集深度信息,避免了由单个TOF镜头造成的图像空白或者误差,提高深度测量以及成像效果的准确性和可靠性,从而解决了相关技术中采用单个TOF镜头对存在较多反射面的复杂场景进行深度测距时,容易造成部分像素点测量缺失或者误差较大的技术问题。
附图说明
构成本申请的一部分的说明书附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例的深度图像成像系统的结构示意图;
图2是根据本申请实施例的深度图像成像方法的流程图;
图3(a)是根据本申请一种实施例的深度图像成像系统中一个TOF镜头调制光的示意图;
图3(b)是根据本申请一种实施例的深度图像成像系统中另一个TOF镜头调制光的示意图;
图4是根据本申请实施例的深度图像成像设备的示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应该理解的是,当元件(诸如层、膜、区域、或衬底)描述为在另一元件“上”时,该元件可直接在该另一元件上,或者也可存在中间元件。而且,在说明书以及权利要求书中,当描述有元件“连接”至另一元件时,该元件可“直接连接”至该另一元件,或者通过第三元件“连接”至该另一元件。
本申请的实施例中,提供了一种深度图像成像系统10,图1是根据本申请实施例的深度图像成像系统的结构示意图,如图1所示,该成像系统10包括:
光源设备20,位于目标场景70的一侧,用于至少发出预定光;
滤波设备30,位于目标场景70的一侧,用于对目标场景70的反射光进行滤波处理,得到第一滤波光和第二滤波光,第一滤波光预定光经过目标场景70反射和滤波处理得到的;
第一成像设备40和第二成像设备50,位于滤波设备30的出光侧,用于分别对预定波段的第一滤波光和第二滤波光进行成像;
处理设备60,用于根据第二滤波光确定预定光,以及根据第一滤波光计算出目标场景70的深度。
作为一种可选的实施例,上述光源设备具备发射多种类型的光的功能,例如,可以发出不同的调制光,该调制光包括但不限于红外光等。需要说明的是,在光源设备向目标场景发出预定光时,该预定光的频率和幅度等相关参数是可以灵活的调节的,在具体实施过程中,可以根据不同的应用场景,使得光源设备发出所需的预定光。其中,光源设备也并不限于上述的结构,还可以包括多个光源设备,多个光源设备发出不同的预定光,即可以得到频率不同且振幅不同的预定光。
作为一种可选的实施例,光源设备发出至少两种预定光,且预定光的发射时间段相互间隔。然后利用其中一种或者至少两种预定光进行深度测距,在具体实施过程中,利用两种预定光的深度测距结果,可以相互组合以减小误差弥补图像缺少,又可以用于深度测距中附加kλ/2(k为正整数)的重叠测量结果的去除。进而,可以提高该成像系统的准确性。
作为一种可选的实施例,上述滤波设备可以实现对目标场景的反射光进行滤波处理,其中,上述滤波处理是基于预定波段来过滤目标场景的反射光,当然,预定波段可以人为设置,还可以采用该成像系统默认的形式。例如,对于可见光,其预定波段可以在380nm-780nm的波长范围内进行选择,而红外光则可以在780nm-3000nm的波长范围内进行选择,在具体实施过程中,并不仅限于上述所描述的内容。
需要说明的是,上述第一滤波光对应的是预定光,可以是红外光等;第二滤波光对应的光为可见光,该可见光可以是自然条件下的可见光,也可以是通过光源设备发出的可见光。在具体实施中,以可见光为例,目标场景的反射光为可见光时,经过滤波设备后,该可见光就会过滤得到第二滤波光;再以红外光为例,目标场景的反射光为红外光时,经过滤波设备后,该红外光就会过滤得到第一滤波光。
而且,无论是可见光,还是红外光,均可以实现根据预定波段进行过滤,从而得到成像所需的光。对于成像系统来讲,通过上述过滤波处理,可以将一些无用或者干扰的滤除掉,有效地保留了成像所需的光,从而提高了后续的成像效果以及深度计算的准确性。
作为一种可选的实施例,在本申请的成像系统中,成像设备包括第一成像设备和第二成像设备,两个成像设备均可以实现对同一目标场景进行成像,使得不同的成像设备可以从不同的位置实现对同一目标场景的深度测距,以减小深度测距的误差。在本申请实施例中,上述成像设备为TOF镜头。
作为一种可选的实施例,上述成像设备包括二维像素的阵列,可以是CMOS,CCD等公知的成像器件,其中每个像素对场景中不同的空间点进行成像,还可以包括配备的窄带滤波片等,但是在具体实施中,并不仅限于上述所描述的内容。
作为一种可选的实施例,上述的处理设备包括处理器和存储器,处理单元作为程序单元存储在存储器中,由处理器执行存储在存储器中的上述程序单元来实现相应的功能。
其中,处理器中包含内核,由内核去存储器中调取相应的程序单元。内核可以设置一个或以上,通过调整内核参数来计算被测目标场景的深度。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM),存储器包括至少一个存储芯片。通过该存储器可以保存与目标场景的深度相关的计算数据,以及相应的算法、程序等。
在本申请上述的深度图像成像系统中,光源设备位于目标场景的一侧,用于至少发出预定光;滤波设备位于目标场景的一侧,用于对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,第一滤波光预定光经过目标场景反射和滤波处理得到的;第一成像设备和第二成像设备分别位于滤波设备的出光侧,用于分别对预定波段的第一滤波光和第二滤波光进行成像;处理设备用于根据第二滤波光确定预定光,以及根据第一滤波光计算出目标场景的深度。该系统中,可以通过滤波设备来切换可见成像以及红外成像,在可见成像下对深度进行估计,之后在红外成像下根据深度估计选择合适的调制光,再计算场景深度。
需要说明的是,在具体实施过程中,滤波设备调整为可见光透过,利用三角视差法估算深度,再根据估算深度,设定合适的两个调制频率的红外光,此时,滤波设备调整为红外光透光,两个成像设备分别通过两个调制频率进行深度测量,再根据深度测量的结果进行去重和混合等处理,从而得到目标场景的深度。由此可以从多个角度采集深度信息,减少由单个TOF深度成像镜头造成的图像空白或者误差。
进一步地,本申请的上述成像系统可以应用于多个反射面的目标场景,实现可以从多个角度采集深度信息,避免了由单个TOF镜头造成的图像空白或者误差,提高深度测量以及成像效果的准确性和可靠性,从而解决了相关技术中采用单个TOF镜头对存在较多反射面的复杂场景进行深度测距时,容易造成部分像素点测量缺失或者误差较大的技术问题。
可选地,处理设备还包括:获取单元,用于获取第一成像设备和第二成像设备对第二滤波光进行成像得到的第一图像和第二图像;第一处理单元,用于根据第一图像和第二图像的坐标位置差,确定预估深度;第二处理单元,用于根据预估深度确定预定光。
作为一种可选的实施例,对于目标场景反射得到的可见光,该可见光在入射成像设备之前,会经过滤波设备过滤,然后得到第二滤波光,再由该第二滤波光入射第一成像设备和第二成像设备,进一步地,第一成像设备和第二成像设备分别对目标场景反射得到的第二滤波光进行成像。其中,第一成像设备对第二滤波光进行成像得到的为第一图像,第二成像设备对第二滤波光进行成像得到的为第二图像。
作为一种可选的实施例,上述第一图像和第二图像包括同一目标场景中目标对象,进一步可以得到目标对象在第一图像和第二图像的坐标位置差,然后利用三角视差法得到预估深度,其中,该预估深度是基于可见光得到的深度测量数据。
作为一种可选的实施例,根据第一图像和第二图像的坐标位置差,确定预估深度,还包括:利用三角公式计算生成预估深度,其中,z=f(1+b/Δl),其中,f为镜头焦距,b为基线长度,Δl为像素在第一图像和第二图像中的坐标位置差,z为深度。
作为一种可选的实施例,根据预估深度确定预定光,其中,预定光为调制红外光。在具体实施过程中,根据预估深度至少确定两个预定光,而至少两个预定光具有不同的频率和/或幅度。优选地,预定光为两种不同的调制红外光。
可选地,处理设备还包括:第一计算单元,用于根据入射第一成像设备的第一滤波光,计算出第一成像设备的第一深度;第二计算单元,用于根据入射第二成像设备的第一滤波光,计算出第二成像设备的第二深度;第三处理单元,用于根据第一深度和第二深度以及与第一深度和第二深度对应的权重得到目标场景的深度。
作为一种可选的实施例,对于目标场景反射得到的红外光,该红外光在入射成像设备之前,会经过滤波设备过滤,然后得到第一滤波光,再由该第一滤波光入射第一成像设备和第二成像设备,进一步地,第一成像设备和第二成像设备分别对目标场景反射得到的第一滤波光进行成像。其中,第一成像设备对第一滤波光进行成像得到的为第三图像,第二成像设备对第一滤波光进行成像得到的为第四图像。
通过两个成像镜头分别计算深度并组合为一幅深度图,可以弥补数据空白处并且提高总的深度检测精度。
可选地,第三处理单元包括:确定模块,用于确定第一深度和第二深度对应的权重,其中,通过以下方式至少之一确定权重:光源设备生成的预定光的调制参数,其中,调制参数包括调制幅度和调制频率中的至少一种;第一成像设备和第二成像设备的成像参数,其中,成像参数包括光学参数和成像质量中的至少一种。
作为一种可选的实施例,上述确定权重的方式有很多种,其中包括:光源设备生成的预定光的调制参数、第一成像设备和第二成像设备的成像参数,在具体实施过程中,并不仅限于上述所描述的方式。
先根据可见光成像中两个镜头成像的差别来估算深度以及深度的误差,之后根据所估算的深度以及误差大小针对性地调制红外光,输出适合该估算深度的调制幅度、频率,这样可以减小误差,降低能耗。
可选地,成像系统还包括:起偏设备,位于滤波设备的一侧,用于使入射第一成像设备和第二成像设备的预定光具有相互正交的偏振方向,得到对应的偏振光;检偏设备,位于起偏设备和成像设备之间,用于将对应的偏振光分别入射第一成像设备和第二成像设备。
作为一种可选的实施例,上述起偏设备可以将不同的预定光调整为对应的偏振光,调整后得到的偏振光不仅可以减少在成像时间重叠时两个成像设备深度测量的相互干扰,可以避免其他的比如环境光等对成像结果的影响,从而进一步保证了该成像系统的准确性。
作为一种可选的实施例,上述检偏设备可以调整上述偏振光的偏振方向,消除多路径反射,确保预定光对应的偏振光准确的入射成像设备,进一步提升了成像系统的准确性和可靠性。
可选地,入射第一成像设备的第一滤波光和入射第二成像设备的预定光具有不同的调制参数。
作为一种可选的实施例,使得两个成像设备分别以不同的调制参数进行深度测量,这样测量结果可以用于检测结果的去重。
可选地,第一成像设备和第二成像设备在滤波设备的出光侧间隔设置。
需要说明的是,将第一成像设备和第二成像设备在滤波设备的出光侧间隔设置,可以实现从不同的位置或者角度同时对目标场景进行深度测距,减小了测量误差,可以有效避免相关技术中,采用单个成像设备对存在较多反射面的复杂场景进行深度测距时,容易造成部分像素点测量缺失或者误差较大的问题。
可选地,预定光为调制红外光,第二滤波光对应的光为可见光。
作为一种可选的实施例,上述预定光可以为调制红外光,其中,不同的调制红外光在频率、幅度等特征上存在差异。为了使得该成像系统能够适用于不同深度的目标场景,其调制红外光可以根据目标场景的需要进行设定。需要说明的是,在具体实施中,频率较大的调制红外光的幅度小于频率较小的调制红外光的幅度。
作为一种可选的实施例,第二滤波光对应的光为可见光,该可见光可以是环境光或者自然光,也即是,目标场景中反射的可见光进过滤波处理可以得到第二滤波光。
可选地,滤波设备为腔体厚度可调的法布里-珀罗干涉腔,腔体厚度可调就是指腔体的高度可以调整。
作为一种可选的实施例,通过调节上述滤波设备的腔体厚度,也即是调整滤波的预定波段,也就是可调节波长范围,从而分别在可见光和红外光波长范围内进行过滤成像。
作为一种可选的实施例,滤波设备优选采用法布里-珀罗(Fabry-Perot,简称为FP)干涉腔的方式,通过压电陶瓷,微机电系统(Micro-Electro-Mechanical Systems,简称为MEMS),角度清晰或液晶填充等方式改变参与谐振的腔体厚度,来达到改变透射波长峰值的目的,例如垂直入射情况下FP干涉腔的透射峰值波长为2nd/k,其中,n为腔体折射率,d为腔体厚度,k为正整数,而透射峰的半高宽也可由n,d,k以及腔体表面的反射率调节。
其中,该滤波设备包括液晶层或者厚度可变层,而液晶层或者厚度可变层表面为高反射表面。优选地,利用电压,来调节滤波设备的角度或厚度,还可以改变滤波器腔体材料的折射率,从而实现有效过滤不同波段的光。
在本申请的实施例中,提供了一种深度图像成像方法,图2是根据本申请实施例的深度图像成像方法的流程图,如图2所示,该方法包括如下步骤:
步骤S102,至少发出预定光;
步骤S104,对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,第一滤波光为预定光经过目标场景反射和滤波处理得到的;
步骤S106,分别对预定波段的第一滤波光和第二滤波光进行成像;
步骤S108,根据第二滤波光确定预定光,以及根据第一滤波光计算出目标场景的深度。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本申请通过利用至少发出预定光;对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,第一滤波光为预定光经过目标场景反射和滤波处理得到的;分别对预定波段的第一滤波光和第二滤波光进行成像;根据第二滤波光确定预定光,以及根据第一滤波光计算出目标场景的深度的方式,该成像方法可以通过滤波设备来切换可见成像以及红外成像,在可见成像下对深度进行估计,之后在红外成像下根据深度估计选择合适的调制光,再计算场景深度。
进一步地,该成像方法可以应用于多个反射面的目标场景,实现可以从多个角度采集深度信息,避免了由单个TOF镜头造成的图像空白或者误差,提高深度测量以及成像效果的准确性和可靠性,从而解决了相关技术中采用单个TOF镜头对存在较多反射面的复杂场景进行深度测距时,容易造成部分像素点测量缺失或者误差较大的技术问题。
作为一种可选的实施例,在上述深度图像成像方法中,根据第二滤波光确定预定光包括:获取第一成像设备和第二成像设备对第二滤波光进行成像得到的第一图像和第二图像;根据第一图像和第二图像的坐标位置差,确定预估深度;根据预估深度确定预定光。
作为一种可选的实施例,在上述深度图像成像方法中,根据第一滤波光计算出目标场景的深度包括:根据入射第一成像设备的第一滤波光,计算出第一成像设备的第一深度;根据入射第二成像设备的第一滤波光,计算出第二成像设备的第二深度;根据第一深度和第二深度以及与第一深度和第二深度对应的权重得到目标场景的深度。
作为一种可选的实施例,在上述深度图像成像方法中,该方法包括:确定第一深度和第二深度对应的权重,其中,通过以下方式至少之一确定权重:光源设备生成的预定光的调制参数,其中,调制参数包括调制幅度和调制频率中的至少一种;第一成像设备和第二成像设备的成像参数,其中,成像参数包括光学参数和成像质量中的至少一种。
作为一种可选的实施例,在上述深度图像成像方法中,该方法还包括:使入射第一成像设备和第二成像设备的预定光具有相互正交的偏振方向,得到对应的偏振光;将对应的偏振光分别入射第一成像设备和第二成像设备。
作为一种可选的实施例,在上述深度图像成像方法中,该方法还包括:入射第一成像设备的第一滤波光和入射第二成像设备的预定光具有不同的调制参数。
作为一种可选的实施例,第一成像设备和第二成像设备在滤波设备的出光侧间隔设置。
作为一种可选的实施例,预定光为调制红外光,第二滤波光对应的光为可见光。
作为一种可选的实施例,滤波设备为腔体厚度可调的法布里-珀罗干涉腔。
为了实现上述目的,根据本申请的一个方面,提供了一种存储介质,存储介质存储有程序,其中,在程序被处理器运行时控制处理器执行上述中任意一种的深度图像成像方法。
为了实现上述目的,根据本申请的一个方面,提供了一种计算机设备,包括:存储器和处理器,存储器存储有计算机程序;处理器,用于执行存储器中存储的计算机程序,计算机程序运行时使得处理器执行上述中任意一种的深度图像成像方法。
下面对本申请一种可选的实施方式进行说明。
需要说明的是,在下面可选实施方式中,TOF镜头相当于成像设备,滤波器相当于滤波设备。
在利用单个TOF镜头对存在较多反射面的复杂场景进行成像或者深度测距时,容易造成部分像素点测量缺失或者误差较大的情况,这也是制约TOF镜头的分辨率不及其他深度测量方法的原因之一。
基于此,本申请优选的实施方式,为了使其适用于精度要求更高的场景,可以使用两个TOF镜头从不同位置同时进行深度测距,并且将所测得的深度信息进行组合以减小彼此的测量误差。此外,还可以利用两个TOF镜头的优势先在可见光波段利用自然条件中的环境光本身进行深度的估计。
进一步地,在本申请优选的实施方式中,滤波器优选采用法布里-珀罗(FP)干涉腔的方式,通过压电陶瓷,MEMS,角度清晰或液晶填充等方式改变参与谐振的腔体厚度,来达到改变透射波长峰值的目的,例如垂直入射情况下FP干涉腔的透射峰值波长为2nd/k,其中n为腔体折射率,d为腔体厚度,k为正整数,而透射峰的半高宽也可由n,d,k以及腔体表面的反射率调节。通过调节d使得透射峰值出现在可见光范围内,如587nm,486nm,656nm等。
在经过过滤器处理之后,使用两个TOF镜头对场景进行可见光成像,两个TOF镜头分别得到第一图像和第二图像。第一图像和第二图像可以通过图中同一特征物的坐标位置差别来按照三角公式生成初步的深度图,即z=f(1+b/Δl),其中f为镜头焦距,b为基线长度,Δl为像素在第一和第二图像中的位置差,z为深度。
需要说明的是,由于要进行红外光与可见光成像之间的切换,因此有必要使用透射峰值可变的滤波器来进行。作为一种优选的实施例,利用电压,来调节滤波器的角度或厚度,或者改变滤波器腔体材料的折射率(如液晶等)。
其中,上述所估算的深度z之后用来确定适合于当前的场景的用于TOF的调制红外光的调制频率,在确定调制频率之后还可进一步修改调制的幅度。由于相位型TOF检测之中z=θλ/4π,其中θ为反射光与调制光的相位差,最大为2π,λ为调制波长,所以最大探测距离应控制在λ/2以内。在得到估算深度之后,可以改变调制光源的调制频率,确保未超出最大探测距离。还可以根据所确定的调制频率选择可在当前场景提供足够信噪比的调制幅度,以降低功耗。在得到该估算的深度图之后,还可以初步提示用户场景中存在的问题并提示应对建议,比如提示场景距离镜头过近或过远,场景中物体过多可能增大误差,场景过于单调缺乏深度变化等以建议用户移动拍摄方向。该过程可以是连续的,直到用户已移动到适合于AR等应用的场景为止,在这之前仅进行可见光探测而不会进入到红外光发射的阶段。
此后,向场景发射具有所确定调制频率和幅度的红外光,并且如上将滤波器调整至透射峰值出现在红外波段,如940nm等,并开始TOF测距。由于同时使用两个TOF镜头,还可以输出通过时间上隔开或者偏振上正交而可相互区分的至少两种调制光,这两种调制光对应的调制频率和幅度可具有实质性区别并且使得两个TOF镜头分别利用两种调制光之一进行深度测距。图3(a)是根据本申请一种实施例的深度图像成像系统中一个TOF镜头调制光的示意图,图3(b)是根据本申请一种实施例的深度图像成像系统中另一个TOF镜头调制光的示意图,如图3(a)和图3(b)所示,这样两种调制光的深度测距结果即可以用于相互组合以减小误差弥补图像缺少,又可以用于深度测距中附加kλ/2(k为正整数)的重叠测量结果的去除。
最后,两个TOF所分别检测到的深度将通过加权组合形成最终的深度图,如果是对同样频率和振幅的调制光进行成像,则权重可以相等,这时仅用于弥补图像空白等误差。但在两个TOF镜头分别对在时间或者偏振上彼此区分的不同频率和振幅进行成像时,应使两个镜头的权重具有差别,例如使调制频率更加对应于可见光探测时估计的深度的镜头权重增大,使调制幅度更高的镜头权重增大,或者使成像的总体误差较小的镜头权重更大等。而最后加权组合而得到的深度值将能够得到减少的误差和更高的图像分辨率。此外,两个TOF镜头还应预先进行校准和标定以使得其成像的坐标可以相互对应并组合成一张图像,而标定矩阵在确定之后可以在每次深度测量时直接沿用。
本申请的实施例提供了一种深度图像成像设备,图4是根据本申请实施例的深度图像成像设备的示意图,该成像设备包括上述的任一种的深度图像成像系统10。
上述的成像设备可以应用于包括但不限于服务器、PC、PAD、手机等。一种具体的应用中,上述图4所示的设备为手机,成像系统10位于手机中,图4中只示出了手机的外部结构,从外部来看,成像系统10的位置为图4中所示。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种深度图像成像系统,其特征在于,包括:
光源设备,位于目标场景的一侧,用于至少发出预定光;
滤波设备,位于目标场景的一侧,用于对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,所述第一滤波光为所述预定光经过所述目标场景反射和滤波处理得到的;
第一成像设备和第二成像设备,位于滤波设备的出光侧,用于分别对预定波段的第一滤波光和所述第二滤波光进行成像;
处理设备,用于根据所述第二滤波光确定所述预定光,以及根据所述第一滤波光计算出所述目标场景的深度。
2.根据权利要求1所述的成像系统,其特征在于,所述处理设备还包括:
获取单元,用于获取所述第一成像设备和所述第二成像设备对所述第二滤波光进行成像得到的第一图像和第二图像;
第一处理单元,用于根据所述第一图像和所述第二图像的坐标位置差,确定预估深度;
第二处理单元,用于根据所述预估深度确定所述预定光。
3.根据权利要求1所述的成像系统,其特征在于,所述处理设备还包括:
第一计算单元,用于根据入射所述第一成像设备的所述第一滤波光,计算出所述第一成像设备的第一深度;
第二计算单元,用于根据入射所述第二成像设备的所述第一滤波光,计算出所述第二成像设备的第二深度;
第三处理单元,用于根据所述第一深度和所述第二深度以及与所述第一深度和所述第二深度对应的权重得到所述目标场景的深度。
4.根据权利要求3所述的成像系统,其特征在于,
所述第三处理单元包括:确定模块,用于确定所述第一深度和所述第二深度对应的权重,其中,通过以下方式至少之一确定所述权重:所述光源设备生成的预定光的调制参数,其中,所述调制参数包括调制幅度和调制频率中的至少一种;所述第一成像设备和所述第二成像设备的成像参数,其中,所述成像参数包括光学参数和成像质量中的至少一种。
5.根据权利要求1所述的成像系统,其特征在于,所述成像系统还包括:
起偏设备,位于滤波设备的一侧,用于使入射所述第一成像设备和所述第二成像设备的所述预定光具有相互正交的偏振方向,得到对应的偏振光;
检偏设备,位于起偏设备和成像设备之间,用于将对应的所述偏振光分别入射所述第一成像设备和所述第二成像设备。
6.根据权利要求1所述的成像系统,其特征在于,入射所述第一成像设备的第一滤波光和入射所述第二成像设备的预定光具有不同的调制参数。
7.根据权利要求1至6中任意一项所述的成像系统,其特征在于,所述第一成像设备和所述第二成像设备在滤波设备的出光侧间隔设置。
8.根据权利要求1至6中任意一项所述的成像系统,其特征在于,所述预定光为调制红外光,所述第二滤波光对应的光为可见光。
9.根据权利要求1至6中任意一项所述的成像系统,其特征在于,所述滤波设备为腔体厚度可调的法布里-珀罗干涉腔。
10.一种深度图像成像方法,其特征在于,包括:
至少发出预定光;
对目标场景的反射光进行滤波处理,得到第一滤波光和第二滤波光,所述第一滤波光为所述预定光经过所述目标场景反射和滤波处理得到的;
分别对预定波段的第一滤波光和所述第二滤波光进行成像;
根据所述第二滤波光确定所述预定光,以及根据所述第一滤波光计算出所述目标场景的深度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910797288.2A CN110441784A (zh) | 2019-08-27 | 2019-08-27 | 深度图像成像系统和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910797288.2A CN110441784A (zh) | 2019-08-27 | 2019-08-27 | 深度图像成像系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110441784A true CN110441784A (zh) | 2019-11-12 |
Family
ID=68438029
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910797288.2A Pending CN110441784A (zh) | 2019-08-27 | 2019-08-27 | 深度图像成像系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110441784A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112824935A (zh) * | 2019-11-20 | 2021-05-21 | 深圳市光鉴科技有限公司 | 基于调制光场的深度成像系统、方法、设备及介质 |
CN113126111A (zh) * | 2019-12-30 | 2021-07-16 | Oppo广东移动通信有限公司 | 飞行时间模组和电子设备 |
CN116908877A (zh) * | 2023-06-08 | 2023-10-20 | 信扬科技(佛山)有限公司 | 飞行时间相机和深度图像获取方法 |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100020209A1 (en) * | 2008-07-25 | 2010-01-28 | Samsung Electronics Co., Ltd. | Imaging method and apparatus |
CN101876709A (zh) * | 2009-12-14 | 2010-11-03 | 哈尔滨工业大学 | 条纹管激光雷达成像探测系统 |
CN102298149A (zh) * | 2010-06-25 | 2011-12-28 | 原相科技股份有限公司 | 提高精确度、移动侦测效率、省电的时差测距系统及方法 |
CN102385237A (zh) * | 2010-09-08 | 2012-03-21 | 微软公司 | 基于结构化光和立体视觉的深度相机 |
TWM458748U (zh) * | 2012-12-26 | 2013-08-01 | Chunghwa Telecom Co Ltd | 影像式深度資訊擷取裝置 |
CN104702933A (zh) * | 2013-11-12 | 2015-06-10 | Lg电子株式会社 | 数字装置及其处理三维图像的方法 |
KR20150080690A (ko) * | 2014-01-02 | 2015-07-10 | 엘지전자 주식회사 | 거리 측정 장치 및 그 방법 |
CN108259722A (zh) * | 2018-02-27 | 2018-07-06 | 厦门美图移动科技有限公司 | 成像方法、装置及电子设备 |
CN108281880A (zh) * | 2018-02-27 | 2018-07-13 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、终端、计算机设备和存储介质 |
CN108509867A (zh) * | 2018-03-12 | 2018-09-07 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、深度相机和电子装置 |
CN108594451A (zh) * | 2018-03-12 | 2018-09-28 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、深度相机和电子装置 |
US20180374227A1 (en) * | 2015-07-13 | 2018-12-27 | Koninklijke Philips N.V. | Method and apparatus for determining a depth map for an image |
CN109889809A (zh) * | 2019-04-12 | 2019-06-14 | 深圳市光微科技有限公司 | 深度相机模组、深度相机、深度图获取方法以及深度相机模组形成方法 |
CN109903241A (zh) * | 2019-01-31 | 2019-06-18 | 武汉市聚芯微电子有限责任公司 | 一种tof相机系统的深度图像校准方法及系统 |
CN109993784A (zh) * | 2019-05-13 | 2019-07-09 | 浙江舜宇光学有限公司 | 深度图像的构建方法、装置以及系统 |
CN109996008A (zh) * | 2019-03-18 | 2019-07-09 | 深圳奥比中光科技有限公司 | 一种降低多深度相机系统间干扰的方法、装置及设备 |
US20190238824A1 (en) * | 2018-01-28 | 2019-08-01 | Eys3D Microelectronics, Co. | Depth generation system with adjustable light intensity |
US20190246091A1 (en) * | 2018-02-08 | 2019-08-08 | Oculus Vr, Llc | Systems and methods for enhanced depth sensor devices |
CN210803719U (zh) * | 2019-08-27 | 2020-06-19 | 浙江舜宇光学有限公司 | 深度图像成像装置、系统和终端 |
-
2019
- 2019-08-27 CN CN201910797288.2A patent/CN110441784A/zh active Pending
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100020209A1 (en) * | 2008-07-25 | 2010-01-28 | Samsung Electronics Co., Ltd. | Imaging method and apparatus |
CN101876709A (zh) * | 2009-12-14 | 2010-11-03 | 哈尔滨工业大学 | 条纹管激光雷达成像探测系统 |
CN102298149A (zh) * | 2010-06-25 | 2011-12-28 | 原相科技股份有限公司 | 提高精确度、移动侦测效率、省电的时差测距系统及方法 |
CN102385237A (zh) * | 2010-09-08 | 2012-03-21 | 微软公司 | 基于结构化光和立体视觉的深度相机 |
TWM458748U (zh) * | 2012-12-26 | 2013-08-01 | Chunghwa Telecom Co Ltd | 影像式深度資訊擷取裝置 |
CN104702933A (zh) * | 2013-11-12 | 2015-06-10 | Lg电子株式会社 | 数字装置及其处理三维图像的方法 |
KR20150080690A (ko) * | 2014-01-02 | 2015-07-10 | 엘지전자 주식회사 | 거리 측정 장치 및 그 방법 |
US20180374227A1 (en) * | 2015-07-13 | 2018-12-27 | Koninklijke Philips N.V. | Method and apparatus for determining a depth map for an image |
US20190238824A1 (en) * | 2018-01-28 | 2019-08-01 | Eys3D Microelectronics, Co. | Depth generation system with adjustable light intensity |
US20190246091A1 (en) * | 2018-02-08 | 2019-08-08 | Oculus Vr, Llc | Systems and methods for enhanced depth sensor devices |
CN108281880A (zh) * | 2018-02-27 | 2018-07-13 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、终端、计算机设备和存储介质 |
CN108259722A (zh) * | 2018-02-27 | 2018-07-06 | 厦门美图移动科技有限公司 | 成像方法、装置及电子设备 |
CN108594451A (zh) * | 2018-03-12 | 2018-09-28 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、深度相机和电子装置 |
CN108509867A (zh) * | 2018-03-12 | 2018-09-07 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、深度相机和电子装置 |
CN109903241A (zh) * | 2019-01-31 | 2019-06-18 | 武汉市聚芯微电子有限责任公司 | 一种tof相机系统的深度图像校准方法及系统 |
CN109996008A (zh) * | 2019-03-18 | 2019-07-09 | 深圳奥比中光科技有限公司 | 一种降低多深度相机系统间干扰的方法、装置及设备 |
CN109889809A (zh) * | 2019-04-12 | 2019-06-14 | 深圳市光微科技有限公司 | 深度相机模组、深度相机、深度图获取方法以及深度相机模组形成方法 |
CN109993784A (zh) * | 2019-05-13 | 2019-07-09 | 浙江舜宇光学有限公司 | 深度图像的构建方法、装置以及系统 |
CN210803719U (zh) * | 2019-08-27 | 2020-06-19 | 浙江舜宇光学有限公司 | 深度图像成像装置、系统和终端 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112824935A (zh) * | 2019-11-20 | 2021-05-21 | 深圳市光鉴科技有限公司 | 基于调制光场的深度成像系统、方法、设备及介质 |
CN112824935B (zh) * | 2019-11-20 | 2023-02-28 | 深圳市光鉴科技有限公司 | 基于调制光场的深度成像系统、方法、设备及介质 |
CN113126111A (zh) * | 2019-12-30 | 2021-07-16 | Oppo广东移动通信有限公司 | 飞行时间模组和电子设备 |
CN113126111B (zh) * | 2019-12-30 | 2024-02-09 | Oppo广东移动通信有限公司 | 飞行时间模组和电子设备 |
CN116908877A (zh) * | 2023-06-08 | 2023-10-20 | 信扬科技(佛山)有限公司 | 飞行时间相机和深度图像获取方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110441784A (zh) | 深度图像成像系统和方法 | |
CN103557859B (zh) | 图像采集定位方法及图像采集定位系统 | |
US10317193B2 (en) | Multiple channel locating | |
CN106612387B (zh) | 一种组合深度图获得方法及深度相机 | |
US9464938B2 (en) | Systems and methods for measuring polarization of light in images | |
CN105954992B (zh) | 显示系统和显示方法 | |
CN108780142A (zh) | 3d成像系统和方法 | |
CN103630116B (zh) | 图像采集定位方法及图像采集定位装置 | |
CN108279420B (zh) | 同步获取地物信息的激光扫描多维近距遥感系统及方法 | |
CN111433660A (zh) | 使用几何相位透镜的紧凑型多色光束组合器 | |
CN108650447A (zh) | 图像传感器、深度数据测量头及测量系统 | |
CN103477644A (zh) | 记录图像和从图像获得3d信息的方法、相机系统 | |
CN108370406A (zh) | 摄像装置 | |
US11614517B2 (en) | Reducing interference in an active illumination environment | |
CN209375823U (zh) | 3d相机 | |
US11902494B2 (en) | System and method for glint reduction | |
US11792383B2 (en) | Method and system for reducing returns from retro-reflections in active illumination system | |
US11763425B2 (en) | High resolution time-of-flight depth imaging | |
CN101487703A (zh) | 快速全景立体摄像测量装置 | |
JP2004518947A (ja) | 画像内の突合せ点を用いたデジタルイメージングシステムの精密位置合わせ画像 | |
CN106231177A (zh) | 场景深度测量方法、设备及成像装置 | |
CN103604412A (zh) | 定位方法及定位装置 | |
CN210803719U (zh) | 深度图像成像装置、系统和终端 | |
CN111510700A (zh) | 图像采集装置 | |
CN108305290A (zh) | 一种动目标的精确测谱方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |