CN112824935A - 基于调制光场的深度成像系统、方法、设备及介质 - Google Patents

基于调制光场的深度成像系统、方法、设备及介质 Download PDF

Info

Publication number
CN112824935A
CN112824935A CN201911142394.3A CN201911142394A CN112824935A CN 112824935 A CN112824935 A CN 112824935A CN 201911142394 A CN201911142394 A CN 201911142394A CN 112824935 A CN112824935 A CN 112824935A
Authority
CN
China
Prior art keywords
multipath interference
data
image
depth
speckle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911142394.3A
Other languages
English (en)
Other versions
CN112824935B (zh
Inventor
苏公喆
杨心杰
朱力
吕方璐
汪博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Guangjian Technology Co Ltd
Original Assignee
Shenzhen Guangjian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Guangjian Technology Co Ltd filed Critical Shenzhen Guangjian Technology Co Ltd
Priority to CN201911142394.3A priority Critical patent/CN112824935B/zh
Priority to CN202310043248.5A priority patent/CN116520348A/zh
Publication of CN112824935A publication Critical patent/CN112824935A/zh
Application granted granted Critical
Publication of CN112824935B publication Critical patent/CN112824935B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements

Abstract

本发明提供了一种基于调制光场的深度成像系统、方法、设备及介质,包括如下步骤:获取第一图像数据,所述第一图像数据包括多个光斑区数据和背景区数据,所述第一图像数据为向一目标物体投射离散光束时通过TOF传感器采集;根据所述背景区数据确定所述第一图像数据对应的多径干扰基本量;基于所述多径干扰基本量确定每一所述光斑区数据对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。本发明能够通过向目标物体投射离散光束时采集的第一图像数据中的背景区数据确定多径干扰分量,对所述光斑区数据处理以去除多径干扰分量,从而能够消除了多径干扰造成的测量误差,实现高精度的深度图像的输出。

Description

基于调制光场的深度成像系统、方法、设备及介质
技术领域
本发明涉及TOF深度相机,具体地,涉及一种基于调制光场的深度成像系统、方法、设备及介质。
背景技术
时间飞行(Time of flight,TOF)深度相机通过发射特定波段的泛光光束,再利用传感器接收被测空间中物体的反射光束并测量光束在空间中的飞行时间来计算距离,从而获取被测空间的深度图像。TOF深度相机可同时获得灰度图像和深度图像,广泛应用在3D深度视觉相关的手势识别、人脸识别、3D建模、体感游戏、机器视觉、辅助对焦、安防、自动驾驶等技术领域。
传统TOF深度相机假设接收光束在目标场景中仅被反射一次,而实际场景中总会存在镜面反射或漫反射材料表面,它会把入射光反射到各个方向,这样一来,TOF传感器接收到的可能是一次反射光束和多次反射光束的叠加,从而干扰TOF深度相机测量距离的准确性,这一效应称为多径干扰。
现有技术主要利用多频率多帧融合的方式,来估计多径干扰重建原始深度。受帧率和频率数量的限制,这类方法存在计算复杂度高,鲁棒性差,重建精度不佳的问题,实际应用难度较大。因此对于如何抑制多径干扰,提高深度测量精度,是TOF深度相机在实际应用方面亟待解决的问题。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种基于调制光场的深度成像系统、方法、设备及介质。
根据本发明提供的基于调制光场的深度成像系统,包括如下模块:
光投射模块,用于向目标物体投射泛光或多束离散光束;
光源控制模块,用于控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
TOF传感模块,用于分别接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
多径干扰消除模块,用于根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
优选地,所述多径干扰消除模块包括如下模块:
数据获取模块,用于获取第一图像数据,所述第一图像数据包括多个光斑区数据和背景区数据;
多径干扰确定模块,用于根据所述背景区数据确定每一光斑区数据对应的多径干扰基本量;
数据生成模块,用于基于所述多径干扰基本量对每一所述光斑区数据进行处理以去除每一所述光斑区数据对应的多径干扰分量,进而生成目标光斑区数据;
深度图像生成模块,用于融合根据所述目标光斑区数据生成的第一深度图像和根据所述第二图像数据生成的第二深度图像生成目标深度图像。
优选地,所述第一图像数据包括通过TOF传感器采集的多张红外图像;
每一所述红外图像包括多个光斑区和背景区;
所述背景区为与所述光斑区相邻的多径干扰区域;
所述多径干扰基本量、所述多径干扰分量采用幅度、灰度值、像素值、照度、光通量以及辐射功率中任一物理量表示。
优选地,每一所述光斑区的直径为两个像素;
任意相邻两个光斑区之间的距离为四个像素。
优选地,所述数据生成模块包括如下模块:
干扰区域确定模块,用于将多个所述光斑区分为若干组光斑区,每组所述光斑区对应或相邻的至少一背景区;
干扰分量生成模块,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块,用于根据每组所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
优选地,所述数据生成模块包括如下模块:
区域关联模块,用于确定每一所述光斑区对应或相邻的至少一背景区;
干扰获取模块,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块,用于根据所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
优选地,所述深度图像生成模块包括如下模块:
图像获取模块,用于获取所述第一深度图像对应的第一红外图像以及所述第二深度图像对应的第二红外图像;
置信度生成模块,用于基于所述第一红外图像对所述第一深度图像中每一像素点深度信息确定一第一置信度,基于所述第二红外图像对所述第二深度图像中每一像素点深度信息确定一第二置信度;
融合系数生成模块,用于在所述第二深度图像中提取所述目标物体的边缘轮廓区域深度信息,对所述边缘轮廓区域深度信息确定第一融合系数,对所述目标物体所在区域的深度信息确定第二融合系数;
图像融合模块,用于将基于所述第一置信度、所述第一融合系数和所述第二融合系数在所述第一深度图像筛选出的像素点以及基于所述第二置信度在所述第二深度图像筛选出的像素点进行融合生成目标深度图像。
根据本发明提供的基于调制光场的深度成像方法,包括如下步骤:
步骤S1:向目标物体投射泛光或多束离散光束;
步骤S2:控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
步骤S3:接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
步骤S4:根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
根据本发明提供的基于调制光场的深度成像设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行所述的基于调制光场的深度成像方法的步骤。
根据本发明提供的计算机可读存储介质,用于存储程序,所述程序被执行时实现所述的基于调制光场的深度成像方法的步骤。
与现有技术相比,本发明具有如下的有益效果:
本发明能够通过向目标物体投射离散光束时采集的第一图像数据中的背景区数据确定多径干扰基本量,进而能够对所述光斑区数据处理以去除多径干扰分量,从而能够消除了多径干扰造成的测量误差,实现高精度的深度图像的输出。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明实施例中基于调制光场的深度成像系统的模块示意图;
图2为本发明实施例中基于调制光场的深度成像系统的使用状态示意图;
图3为本发明实施例中多径干扰消除模块的模块示意图;
图4为本发明实施例中数据生成模块的模块示意图;
图5为本发明变形例中数据生成模块的模块示意图;
图6为本发明实施例中深度图像生成模块的模块示意图;
图7(a)为本发明实施例中一种红外图像的示意图;
图7(b)为本发明实施例中另一种红外图像的示意图;
图8为本发明实施例中基于调制光场的深度成像方法的步骤流程图;
图9为本发明实施例中基于调制光场的深度成像设备的结构示意图;以及
图10为本发明实施例中计算机可读存储介质的结构示意图。
图中:
1 为光斑区;
2 为背景区。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例,例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
本发明提供的基于调制光场的深度成像方法,旨在解决现有技术中存在的问题。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
图1为本发明实施例中基于调制光场的深度成像系统的模块示意图,如图1所示,本发明提供的基于调制光场的深度成像系统100,包括如下模块:
光投射模块101,用于向目标物体投射泛光或多束离散光束;
光源控制模块102,用于控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
TOF传感模块103,用于分别接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
多径干扰消除模块104,用于根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
图2为本发明实施例中基于调制光场的深度成像系统的使用状态示意图;当使用性本发明提供的基于调制光场的深度成像系统时,通过调制光投射模块向被目标物体投射离散光束,并对所投射的离散光束进行光场强度、相位的空间分布进行调制,可根据需要切换调制光场模式和均匀光场模式,光源控制模块驱动光源进行光线发射及控制切换光场模式;TOF传感模块接收被测目标物体反射的回来的测量光束,并输出第一图像数据给多径干扰消除模块;多径干扰消除模块,与所述光源控制模块和TOF传感模块相连接,根获取调制光场模式和均匀光场下的图像数据,从中估计多径干扰分量,并去除多径干扰造成的测量误差,输出高精度的深度图像。
在本发明实施例中,所述调制光场投射模块,即可以通过激光和纳米光子芯片制成的扩散器配合进行散斑光和均匀光的切换投射,也可以通过散斑投射器和均匀光投射器,分别进行散斑光和均匀光的投射。
图3为本发明实施例中多径干扰消除模块的模块示意图,如图3所示,所述多径干扰消除模块104包括如下模块:
数据获取模块1041,用于获取第一图像数据,所述第一图像数据包括多个光斑区数据和背景区数据;
在本发明实施例中,所述第一图像数据包括通过TOF传感器采集的多张红外图像;
每一所述红外图像包括多个光斑区1和背景区2,如图7(a)、图7(b)所示;
所述背景区为与所述光斑区相邻的多径干扰区域。所述红外图像中还包括除光斑区和背景区之外的区域为无信号区。
每一所述光斑区的直径为两个像素;任意相邻两个光斑区之间的距离为四个像素。
更为具体的,所述红外图像的数量为在四个图像采集周期采集到的四张红外图像,以便根据四张红外图像之间的幅度变化,计算光信号之间的时间差生成第一深度图像。
多径干扰确定模块1042,用于根据所述背景区数据确定每一光斑区数据对应的多径干扰基本量。
在本发明实施例中,所述红外图像的各个局部区域的影响是相同的或者近似,因此可以通过背景区进行多径干扰基本量的确定。所述多径干扰基本量为背景区单个像素点的多径干扰量,可以采用幅度表示。
在本发明实施例中,多径干扰基本量采用幅度表示,为了便于处理将首先光电转换,单位变成了电压,电压经过ADC量化生成相对应的数字,单位为LSB。
在本发明实施例中,所述多径干扰基本量还可以采用灰度值、像素值、照度、光通量以及辐射功率中的任一种表示。
数据生成模块1043,用于基于所述多径干扰基本量对每一所述光斑区数据进行处理以去除每一所述光斑区数据对应的多径干扰分量,进而生成目标光斑区数据;
深度图像生成模块1044,用于融合根据所述目标光斑区数据生成的第一深度图像和根据所述第二图像数据生成的第二深度图像生成目标深度图像。
图4为本发明实施例中数据生成模块的模块示意图,如图4所示,所述数据生成模块1043包括如下模块:
干扰区域确定模块10431,用于将多个所述光斑区分为若干组光斑区,每组所述光斑区对应或相邻的至少一背景区;
干扰分量生成模块10432,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块10433,用于根据每组所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
在本发明实施例中,每一光斑区的多径干扰分量可以根据光斑区的像素点数量和多径干扰基本量计算出,如光斑区的像素点数量为2时,该光斑区的多径干扰分量为多径干扰基本量的两倍。
在本发明实施例中,可以根据所述光斑区的幅度与所述多径干扰分量之间的差值生成所述目标光斑区数据,也可以根据所述光斑区的照度与所述多径干扰区域的照度之间的差值生成所述目标光斑区数据,还可以根据所述光斑区的灰度值与所述多径干扰区域的照度之间的灰度值生成所述目标光斑区数据。
图5为本发明变形例中数据生成模块的模块示意图,如图5所示,所述数据生成模块1043包括如下模块:
区域关联模块10434,用于确定每一所述光斑区对应或相邻的至少一背景区;
干扰获取模块10435,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块10436,用于根据所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
在本发明变形例中,所述区域关联模块10434的工作过程具体为,首先确定每一光斑区,其次再确定每一背景区,最后将光斑区和背景区相关联。
在本发明变形例中,根据每一所述光斑区靠近的一背景区确定多径干扰基本量,从而能够更加准确的确定每一光斑区对应的多径干扰分量。
图6为本发明实施例中深度图像生成模块的模块示意图,如图6所示,所述深度图像生成模块1044包括如下模块:
图像获取模块10441,用于获取所述第一深度图像对应的第一红外图像以及所述第二深度图像对应的第二红外图像;
置信度生成模块10442,用于基于所述第一红外图像对所述第一深度图像中每一像素点深度信息确定一第一置信度,基于所述第二红外图像对所述第二深度图像中每一像素点深度信息确定一第二置信度;
在本发明实施例中,基于所述第一红外图像中每一区域的幅度对所述第一深度图像中每一像素点深度信息确定一第一置信度,当第一红外图像中一区域的幅度较高时,则对该第一深度图像对应的同一区域内的像素点赋予一较高的置信度,当第一红外图像中一区域的幅度较低时,则对该第一深度图像对应的同一区域内的像素点赋予一较低的置信度。同理对于第二深度图像,当第二红外图像中一区域的幅度较高时,则对该第二深度图像对应的同一区域内的像素点赋予一较高的置信度,当第二红外图像中一区域的幅度较低时,则对该第二深度图像对应的同一区域内的像素点赋予一较低的置信度。
更为具体的,如当第一红外图像中一区域的幅度为300时,则对该第一深度图像对应的同一区域内的像素点赋予置信度为3;当第一红外图像中一区域的幅度为100时,则对该第一深度图像对应的同一区域内的像素点赋予置信度为1。
融合系数生成模块10443,用于在所述第二深度图像中提取所述目标物体的边缘轮廓区域深度信息,对所述边缘轮廓区域深度信息确定第一融合系数,对所述目标物体所在区域的深度信息确定第二融合系数。
在本发明实施例中,所述第一融合系数大于所述第二融合系统,如可以设置为所述第一融合系数为0.8,从而对边缘轮廓区域选取更多的像素点,所述第二融合系数为0.2,从而对目标物体所在区域选取较小的像素点,从而能够使的生成的目标深度图的边缘更加精细。
图像融合模块10444,用于将基于所述第二置信度在所述第二深度图像筛选出的像素点以及基于所述第一置信度、所述第一融合系数和所述第二融合系数在所述第一深度图像筛选出的像素点进行融合生成目标深度图像。
更为具体地,根据所述第二置信度和所述第一融合系数生成第一筛选系数,根据所述第二置信度和所述第二融合系数生成第二筛选系数;根据所述第一筛选系数在所述第二深度图像中选取所述目标物体、所述场景边缘轮廓区域的多个像素点,根据所述第二筛选系数在所述第二深度图像中选取目标物体所在区域和所述场景区域的多个像素点;根据所述第一置信度生成第三筛选系数,根据所述第三筛选系数在所述第一深度图像选取多个像素点;根据所述第一深度图像中选取的多个像素点和所述第二深度图像选取多个像素点融合生成所述目标深度图像。
在本发明实施例中,所述第一筛选系数、所述第二筛选系数以及所述第三筛选系数均大于0且小于1;如当第二深度图像一区域的第二置信度为3时,第一融合系数为0.7时,当第二深度图像一区域的第二置信度为1时,第一融合系数为0.2时,且置信度的取值范围为[0,5]时,则第一筛选系数可以取值为3/5×0.7=0.42;第二筛选系数可以取值为1/5×0.2=0.04。当所述第一置信度为4时,则第三筛选系数为4/5=0.8。
图8为本发明实施例中基于调制光场的深度成像方法的步骤流程图,如图8所示,本发明提供的基于调制光场的深度成像方法,包括如下步骤:
步骤S1:向目标物体投射泛光或多束离散光束;
步骤S2:控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
步骤S3:接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
步骤S4:根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
本发明实施例中还提供一种基于调制光场的深度成像设备,包括处理器。存储器,其中存储有处理器的可执行指令。其中,处理器配置为经由执行可执行指令来执行的基于调制光场的深度成像方法的步骤。
如上,该实施例能够通过向目标物体投射离散光束时采集的第一图像数据中的背景区数据确定多径干扰基本量,进而能够对所述光斑区数据处理以去除多径干扰分量,从而能够消除了多径干扰造成的测量误差,实现高精度的深度图像的输出。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
图9是本发明实施例中的基于调制光场的深度成像设备的结构示意图。下面参照图9来描述根据本发明的这种实施方式的电子设备600。图9显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图9所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述基于调制光场的深度成像方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图9中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明实施例中还提供一种计算机可读存储介质,用于存储程序,程序被执行时实现的基于调制光场的深度成像方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述基于调制光场的深度成像方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,本发明能够通过向目标物体投射离散光束时采集的第一图像数据中的背景区数据确定多径干扰基本量,进而能够对所述光斑区数据处理以去除多径干扰分量,从而能够消除了多径干扰造成的测量误差,实现高精度的深度图像的输出。
图10是本发明实施例中的计算机可读存储介质的结构示意图。参考图10所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在本发明实施例中,本发明能够通过向目标物体投射离散光束时采集的第一图像数据中的背景区数据确定多径干扰基本量,进而能够对所述光斑区数据处理以去除多径干扰分量,从而能够消除了多径干扰造成的测量误差,实现高精度的深度图像的输出。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (10)

1.一种基于调制光场的深度成像系统,其特征在于,包括如下模块:
光投射模块,用于向目标物体投射泛光或多束离散光束;
光源控制模块,用于控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
TOF传感模块,用于分别接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
多径干扰消除模块,用于根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
2.根据权利要求1所述的基于调制光场的深度成像系统,其特征在于,所述多径干扰消除模块包括如下模块:
数据获取模块,用于获取第一图像数据,所述第一图像数据包括多个光斑区数据和背景区数据;
多径干扰确定模块,用于根据所述背景区数据确定每一光斑区数据对应的多径干扰基本量;
数据生成模块,用于基于所述多径干扰基本量对每一所述光斑区数据进行处理以去除每一所述光斑区数据对应的多径干扰分量,进而生成目标光斑区数据;
深度图像生成模块,用于融合根据所述目标光斑区数据生成的第一深度图像和根据所述第二图像数据生成的第二深度图像生成目标深度图像。
3.根据权利要求2所述的基于调制光场的深度成像系统,其特征在于,所述第一图像数据包括通过TOF传感器采集的多张红外图像;
每一所述红外图像包括多个光斑区和背景区;
所述背景区为与所述光斑区相邻的多径干扰区域;
所述多径干扰基本量、所述多径干扰分量采用幅度、灰度值、像素值、照度、光通量以及辐射功率中任一物理量表示。
4.根据权利要求3所述的基于调制光场的深度成像系统,其特征在于,每一所述光斑区的直径为两个像素;
任意相邻两个光斑区之间的距离为四个像素。
5.根据权利要求3所述的基于调制光场的深度成像系统,其特征在于,所述数据生成模块包括如下模块:
干扰区域确定模块,用于将多个所述光斑区分为若干组光斑区,每组所述光斑区对应或相邻的至少一背景区;
干扰分量生成模块,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块,用于根据每组所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
6.根据权利要求3所述的基于调制光场的深度成像系统,其特征在于,所述数据生成模块包括如下模块:
区域关联模块,用于确定每一所述光斑区对应或相邻的至少一背景区;
干扰获取模块,用于获取每一背景区的多径干扰基本量;
干扰分量去除模块,用于根据所述光斑区对应背景区的多径干扰基本量确定每一光斑区对应的多径干扰分量,进而去除每一所述光斑区数据对应的多径干扰分量,以生成目标光斑区数据。
7.根据权利要求2所述的基于调制光场的深度成像系统,其特征在于,所述深度图像生成模块包括如下模块:
图像获取模块,用于获取所述第一深度图像对应的第一红外图像以及所述第二深度图像对应的第二红外图像;
置信度生成模块,用于基于所述第一红外图像对所述第一深度图像中每一像素点深度信息确定一第一置信度,基于所述第二红外图像对所述第二深度图像中每一像素点深度信息确定一第二置信度;
融合系数生成模块,用于在所述第二深度图像中提取所述目标物体的边缘轮廓区域深度信息,对所述边缘轮廓区域深度信息确定第一融合系数,对所述目标物体所在区域的深度信息确定第二融合系数;
图像融合模块,用于将基于所述第一置信度、所述第一融合系数和所述第二融合系数在所述第一深度图像筛选出的像素点以及基于所述第二置信度在所述第二深度图像筛选出的像素点进行融合生成目标深度图像。
8.一种基于调制光场的深度成像方法,其特征在于,包括如下步骤:
步骤S1:向目标物体投射泛光或多束离散光束;
步骤S2:控制所述泛光和所述多束离散光束按照预设置的时间周期进行切换投射;
步骤S3:接收经所述目标物体反射的多束离散光束和所述泛光,并进而生成第一图像数据和第二图像数据;
步骤S4:根据所述第一图像数据确定多径干扰分量,进而根据出除多径干扰分量后的所述第一图像数据和所述第二图像数据融合生成目标深度图像。
9.一种基于调制光场的深度成像设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求8所述的基于调制光场的深度成像方法的步骤。
10.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被执行时实现权利要求8所述的基于调制光场的深度成像方法的步骤。
CN201911142394.3A 2019-11-20 2019-11-20 基于调制光场的深度成像系统、方法、设备及介质 Active CN112824935B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201911142394.3A CN112824935B (zh) 2019-11-20 2019-11-20 基于调制光场的深度成像系统、方法、设备及介质
CN202310043248.5A CN116520348A (zh) 2019-11-20 2019-11-21 基于调制光场的深度成像系统、方法、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911142394.3A CN112824935B (zh) 2019-11-20 2019-11-20 基于调制光场的深度成像系统、方法、设备及介质

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202310043248.5A Division CN116520348A (zh) 2019-11-20 2019-11-21 基于调制光场的深度成像系统、方法、设备及介质

Publications (2)

Publication Number Publication Date
CN112824935A true CN112824935A (zh) 2021-05-21
CN112824935B CN112824935B (zh) 2023-02-28

Family

ID=75906995

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201911142394.3A Active CN112824935B (zh) 2019-11-20 2019-11-20 基于调制光场的深度成像系统、方法、设备及介质
CN202310043248.5A Pending CN116520348A (zh) 2019-11-20 2019-11-21 基于调制光场的深度成像系统、方法、设备及介质

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202310043248.5A Pending CN116520348A (zh) 2019-11-20 2019-11-21 基于调制光场的深度成像系统、方法、设备及介质

Country Status (1)

Country Link
CN (2) CN112824935B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113542534A (zh) * 2021-09-17 2021-10-22 珠海视熙科技有限公司 一种tof相机控制方法、装置以及存储介质
CN113945951A (zh) * 2021-10-21 2022-01-18 浙江大学 Tof深度解算中的多径干扰抑制方法、tof深度解算方法及装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140267619A1 (en) * 2011-04-15 2014-09-18 Faro Technologies, Inc. Diagnosing multipath interference and eliminating multipath interference in 3d scanners using projection patterns
US20150120241A1 (en) * 2013-10-24 2015-04-30 Massachusetts Institute Of Technology Methods and Apparatus for Coded Time-of-Flight Camera
US20150253429A1 (en) * 2014-03-06 2015-09-10 University Of Waikato Time of flight camera system which resolves direct and multi-path radiation components
US20170123067A1 (en) * 2014-06-11 2017-05-04 Softkinetic Sensors Nv Tof camera system and a method for measuring a distance with the system
CN109831660A (zh) * 2019-02-18 2019-05-31 Oppo广东移动通信有限公司 深度图像获取方法、深度图像获取模组及电子设备
CN110249235A (zh) * 2017-02-06 2019-09-17 微软技术许可有限责任公司 用于移动机器视觉应用的可变视场和方向传感器
CN110244318A (zh) * 2019-04-30 2019-09-17 深圳市光鉴科技有限公司 基于异步ToF离散点云的3D成像方法
CN110352364A (zh) * 2017-03-01 2019-10-18 微软技术许可有限责任公司 用于头部跟踪、姿势识别和空间映射的多光谱照射和传感器模块
CN110431447A (zh) * 2017-03-10 2019-11-08 微软技术许可有限责任公司 基于点的飞行时间
CN110441784A (zh) * 2019-08-27 2019-11-12 浙江舜宇光学有限公司 深度图像成像系统和方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140267619A1 (en) * 2011-04-15 2014-09-18 Faro Technologies, Inc. Diagnosing multipath interference and eliminating multipath interference in 3d scanners using projection patterns
US20150120241A1 (en) * 2013-10-24 2015-04-30 Massachusetts Institute Of Technology Methods and Apparatus for Coded Time-of-Flight Camera
US20150253429A1 (en) * 2014-03-06 2015-09-10 University Of Waikato Time of flight camera system which resolves direct and multi-path radiation components
CN106662650A (zh) * 2014-03-06 2017-05-10 怀卡托大学 解析直接路径和多路径辐射分量的飞行时间相机系统
US20170123067A1 (en) * 2014-06-11 2017-05-04 Softkinetic Sensors Nv Tof camera system and a method for measuring a distance with the system
CN110249235A (zh) * 2017-02-06 2019-09-17 微软技术许可有限责任公司 用于移动机器视觉应用的可变视场和方向传感器
CN110352364A (zh) * 2017-03-01 2019-10-18 微软技术许可有限责任公司 用于头部跟踪、姿势识别和空间映射的多光谱照射和传感器模块
CN110431447A (zh) * 2017-03-10 2019-11-08 微软技术许可有限责任公司 基于点的飞行时间
CN109831660A (zh) * 2019-02-18 2019-05-31 Oppo广东移动通信有限公司 深度图像获取方法、深度图像获取模组及电子设备
CN110244318A (zh) * 2019-04-30 2019-09-17 深圳市光鉴科技有限公司 基于异步ToF离散点云的3D成像方法
CN110441784A (zh) * 2019-08-27 2019-11-12 浙江舜宇光学有限公司 深度图像成像系统和方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
NIKHIL NAIK ET AL.: ""A Light Transport Model for Mitigating Multipath Interference in TOF sensors"", 《COMPUTER SCIENCE 2015》 *
刘力维: ""基于TOF深度摄像机的深度超分辨率恢复和深度融合研究"", 《中国博士学位论文全文数据库 信息科技辑》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113542534A (zh) * 2021-09-17 2021-10-22 珠海视熙科技有限公司 一种tof相机控制方法、装置以及存储介质
CN113945951A (zh) * 2021-10-21 2022-01-18 浙江大学 Tof深度解算中的多径干扰抑制方法、tof深度解算方法及装置
CN113945951B (zh) * 2021-10-21 2022-07-08 浙江大学 Tof深度解算中的多径干扰抑制方法、tof深度解算方法及装置

Also Published As

Publication number Publication date
CN116520348A (zh) 2023-08-01
CN112824935B (zh) 2023-02-28

Similar Documents

Publication Publication Date Title
US20210383560A1 (en) Depth measurement assembly with a structured light source and a time of flight camera
EP2976878B1 (en) Method and apparatus for superpixel modulation
US10935371B2 (en) Three-dimensional triangulational scanner with background light cancellation
US20170059305A1 (en) Active illumination for enhanced depth map generation
CN112824934B (zh) 基于调制光场的tof多径干扰去除方法、系统、设备及介质
KR20120071970A (ko) 3차원 영상 획득 장치 및 상기 3차원 영상 획득 장치에서 깊이 정보를 추출하는 방법
CN112824935B (zh) 基于调制光场的深度成像系统、方法、设备及介质
US20160284102A1 (en) Distance measurement apparatus, distance measurement method, and storage medium
CN111123912A (zh) 行车定位坐标的标定方法和装置
US20120162370A1 (en) Apparatus and method for generating depth image
JP6104662B2 (ja) 計測装置、方法及びプログラム
WO2015119657A1 (en) Depth image generation utilizing depth information reconstructed from an amplitude image
CN109405735A (zh) 三维扫描系统和三维扫描方法
CN112446843A (zh) 基于多深度图的图像重建方法、系统、设备及介质
JP6368593B2 (ja) 画像処理プログラム、情報処理システム、画像処理方法
CN114693757A (zh) 空间神经网络深度补全方法、系统、设备及存储介质
EP3751230B1 (en) Three-dimensional measurement device, three-dimensional measurement method, and three-dimensional measurement program
US11037316B2 (en) Parallax calculation apparatus, parallax calculation method, and control program of parallax calculation apparatus
CN114697521A (zh) Tof相机运动模糊检测方法、系统、设备及存储介质
CN116670713A (zh) 使用基于核线所选择的候选图像进行深度感测的方法
US20230260143A1 (en) Using energy model to enhance depth estimation with brightness image
US20200320725A1 (en) Light projection systems
CN115250316A (zh) 基于调制光场的tof镜面多径去除方法、系统、设备及介质
WO2023156561A1 (en) Using energy model to enhance depth estimation with brightness image
CN113447954A (zh) 场景深度测量方法、系统、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant