CN110390690B - 深度图处理方法和装置 - Google Patents
深度图处理方法和装置 Download PDFInfo
- Publication number
- CN110390690B CN110390690B CN201910626066.4A CN201910626066A CN110390690B CN 110390690 B CN110390690 B CN 110390690B CN 201910626066 A CN201910626066 A CN 201910626066A CN 110390690 B CN110390690 B CN 110390690B
- Authority
- CN
- China
- Prior art keywords
- value
- pixel
- depth
- image frame
- depth image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000009499 grossing Methods 0.000 claims abstract description 55
- 238000001914 filtration Methods 0.000 claims abstract description 42
- 238000012545 processing Methods 0.000 claims abstract description 29
- 238000000034 method Methods 0.000 claims abstract description 23
- 238000004590 computer program Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 7
- 230000008859 change Effects 0.000 abstract description 5
- 230000008569 process Effects 0.000 description 8
- 238000005259 measurement Methods 0.000 description 6
- 230000006872 improvement Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000010587 phase diagram Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/514—Depth or shape recovery from specularities
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提出一种深度图处理方法和装置,其中,方法包括:获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差,根据内容差在第一深度图像帧中确定可信像素,并确定与可信像素对应的平滑因子,根据平滑因子和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。由此,基于深度值的变化情况对深度缓慢变化区域中的深度值进行基于时间一致性滤波,有效的使深度平滑区域在时间维度上深度值更为平滑,而深度快速变化区域又保持了原来的高动态性。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种深度图处理方法和装置。
背景技术
通常,在基于飞行时间(Time of flight,ToF)传感器测量物体的深度时,ToF传感器通过计算脉冲信号的飞行时间来确定传感器和物体之间的距离,进而基于距离确定出物体的深度值。其中,由于测量过程中存在着各类不确定性,带来了多种误差,在离线标定阶段已经对多种误差进行了修正,但是由于这些误差具有很大的随机性,这造成了在测量范围内ToF的深度测量误差大约为1%。在计算物体的深度值时,我们基于该固定的深度测量误差进行深度值的平滑处理。
然而,若在一定时间内,深度值的误差是固定的,即具有时间一致性,则会为我们的深度值的精确计算具有较大意义,因此,亟需一种方法能够保证深度误差在在短时间内具有时间一致性,不会发生深度误差的跳变。
发明内容
本发明旨在至少在一定程度上解决相关技术中,深度值的误差在时间上不一致具有跳变的技术问题。
为此,本发明的第一个目的在于提出一种深度图处理方法,以基于深度值的变化情况对深度缓慢变化区域中的深度值进行基于时间一致性滤波,有效的使深度平滑区域在时间维度上深度值更为平滑,而深度快速变化区域又保持了原来的高动态性。
本发明的第二个目的在于提出一种深度图处理装置。
本发明的第三个目的在于提出一种电子设备。
本发明的第四个目的在于提出一种非临时性计算机可读存储介质。
为达上述目的,本发明第一方面实施例提出了一种深度图处理方法,包括以下步骤:获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;根据所述内容差在所述第一深度图像帧中确定可信像素,并确定与所述可信像素对应的平滑因子;根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
本发明第二方面实施例提出了一种深度图处理装置,包括:第一获取模块,用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;第二获取模块,用于确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;确定模块,用于根据所述内容差在所述第一深度图像帧中确定可信像素,并确定与所述可信像素对应的平滑因子;滤波模块,用于根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
本发明第三方面实施例提出了一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如第一方面实施例所述的深度图处理方法。
本发明第四方面实施例提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面实施例所述的深度图处理方法。
本发明提供的技术方案,至少包含如下有益效果:
根据相邻帧像素之间的内容差,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本发明实施例所提供的一种基于TOF的深度图处理方法的流程示意图;
图2是根据本发明一个实施例的原始深度值计算方法流程示意图;
图3是根据本发明一个实施例的时间一致性滤波方法流程示意图;
图4是根据本发明一个实施例的深度图处理方法的流程图;
图5是根据本发明一个实施例的深度图处理装置的结构示意图;
图6是根据本发明另一个实施例的深度图处理装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的深度图处理方法和装置。其中,本发明实施例的深度图中的深度值是基于TOF传感器获取的。
为了使得本领域的技术人员,更加清楚的理解本发明的深度图处理方法的时机,下面结合图1对TOF的深度图处理的整个流程进行说明,如图1所示,ToF传感器发射经过调制的脉冲信号,待测量物体表面接收到脉冲信号并反射信号,然后ToF传感器接收到反射信号,并对多频相位图解码,接着根据标定参数对ToF数据进行误差修正,然后对多频信号去混叠,并将深度值由径向坐标系转换到笛卡尔坐标系,最后对深度图进行时间一致性滤波,对深度变化平缓的区域,输出时间维度上相对平滑的深滤波结果。
其中,深度时间一致性滤波方案包括两个主要阶段:ToF原始深度值计算阶段和深度时间一致性滤波阶段,其中,如图2所示,ToF原始深度值计算阶段包括:基于获取的ToF传感器采集原始相位图(单频模式下为四相位图,双频模式下为八相位图,假设本实施例中为双频模式),计算每个像素的IQ信号,进而,根据IQ信号计算每个像素的相位和置信度,其中,置信度表示该点相位值的可信度,是该点能量大小的反应,根据ToF离线标定的内参在线修正几种误差,包括循环误差,温度误差,梯度误差,视差误差等,在双频去混叠前进行前滤波,以分别过滤各频率模式下的噪声,在去除双频的噪声后,对双频进行混叠,确定每个像素的真实周期数,基于该真实周期数对混叠的结果进行后滤波,进而将后滤波后的径向坐标系转换到笛卡尔坐标系,进行下一步的处理。
在深度时间一致性滤波阶段,如图3所示,本发明的实施例中在获取到笛卡尔坐标系下的原始深度图后,迭代每个像素点,判断每个像素点是否邻近帧的内容差较小,若内容差较小,则认为该像素是深度变化缓慢区域的可信像素,否则,则认为该像素是深度动态范围较大的不可信像素,根据掩码方式对可信像素所在的可信区域和不可信像素所在的不可信区域进行分区域平滑,即统计可信区域掩码,根据掩码分区域平滑。
本发明中的深度图处理方法,主要针对上述图3指出的时间一致性滤波进行说明,图4是根据本发明一个实施例的深度图处理方法的流程图,如图4所示,该深度图处理方法包括:
步骤101,获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,其中,第一深度图像帧和第二深度图像帧中的各个像素均包含深度值,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。
需要说明的是,第二深度图像帧与第一深度图像帧相邻,可以是位于第一深度图像帧之前的上一帧,也可以位于第一深度图像帧之后的下一帧,这根据具体的应用需求而定,当然在同样的场景中,图像帧的参考方向都是固定的,比如,都参考相邻的上一帧,或者,都参考相邻的下一帧进行深度值误差的平滑处理。
另外,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素,需要强调的是,这种第一像素和第二像素的对应关系,表示的是在像素位置上的对应。
步骤102,确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差。
可以理解,如果第一像素和第二像素的内容差较低,则表明第一像素和第二像素实际对应于物体的同一点,第一像素和第二像素之间是的深度值的误差应当较低。
需要说明的是,上述内容值在不同的应用场景中,包含不同的参数,示例如下:
第一种示例:
在本示例中,内容值为深度值的置信度,其中,深度值的置信度表示该点深度值的能量大小,可以理解,若第一像素和第二像素的深度值的置信度相同,则表示第一像素和第二像素越可能对应于物体的同一个点,因而,可以计算第一像素和置信度和第二像素的置信度的差值作为内容差。
第二种示例:内容值为像素的灰度值,可以理解,若第一像素和第二像素的灰度值相同,则标识第一像素和第二像素越可能对应于物体的同一个点,因而,可以根据像素的彩色像素值计算第一像素和第二像素的灰度值,基于二者灰度值的差值作为内容差。
具体而言,在本实施例中,获取第一深度图像帧中每个第一像素的第一灰度值,以及第二深度图像帧中对应的第二像素的第二灰度值,计算第一灰度值和第二灰度值的差值。
步骤103,根据内容差在第一深度图像帧中确定可信像素,并确定与可信像素对应的平滑因子。
正如以上分析的,内容差越小则表明第一像素和第二像素越有可能对应于物体的同一个点,从而,根据内容差在第一深度图像帧中确定可信像素,该可信像素度对应于内容差较小的像素。
当然,每个第一像素对应的深度值的置信度表示该像素点的能量大小,如果该像素点的能量较大,则证明该第一像素的深度值可信,因此,为了进一步避免对可信像素的误判,我们可以仅仅对置信度大于根据经验值标定的平均置信度的第一像素,进行与第二像素对应的内容差的确定,对于置信度小于等于平均置信度的点,保留其原有的深度值。
进而,在确定可信像素后,确定与可信像素对应的平滑因子,以便于根据平滑因子对可信像素的深度值进行平滑处理。
需要说明的是,在不同的应用场景下,确定与可信像素对应的平滑因子的方式不同,示例如下:
第一种示例:
在本示例中,判断内容差和预设阈值的差值的绝对值,其中,预设阈值对应于内容差的平均差值,当内容差小于该平均值的差值的绝对值越大,意味着可信像素和对应的第二像素越有可能是针对物体的同一点的像素,根据差值确定因子提高值,比如预先建立内容差和预设阈值的差值和因子提高值的对应关系,基于该对应关系获取对应的因子提高值,基于因子提高值和初始平滑因子之和确定平滑因子,也就是说在初始平滑因子的基础上进行适应性的提高。这种方式细化到每个像素进行不同程度的平滑,提高了平滑效果。
第二种示例:
在本示例中,为可信像素分别适配固定的平滑因子,比如,确定与可信像素对应的平滑因子为1。这种方式提高了平滑处理的效率。
步骤104,根据平滑因子和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。
具体的,根据平滑因子对可信像素对应的深度值滤波处理,可以将不可信像素(即内容差小于预设阈值的像素的深度值保留)以便于实现对不同像素的不同滤波处理,在保证深度图像帧之间的深度误差时间一致性的基础上,保留了图像的高动态信息。
具体而言,可以对可信像素所在的可信区域标记掩码,仅仅对可信区域进行平滑处理,对不可信像素所在的不可信区域保留其原有的深度值,以保留不可信像素的高动态信息。
作为一种可能的实现方式,确定每个可信像素的深度值和对应的第二像素的深度值的深度差值,获取每个可信像素的第一灰度值和对应的第二像素的第二灰度值,确定第一灰度值和第二灰度值的灰度差值,进而,获取与深度差值对应的第一权重系数,根据第一权重系数确定与灰度差值对应的第二权重系数,其中,第一权重系数为根据应用需要确定的,第一权重系数越高则表明当前平滑处理时越侧重于考虑像素之间的深度差值,第二权重系数可以与第一权重系数成反比关系,比如,第一权重系数=1-第二权重系数等,由此,保证在同一个平滑场景中,对灰度差值和深度差值的考量具有不同的侧重点。
进一步的,根据预设的计算公式对每个可信像素的第一深度值、第一权重系数、第二权重系数、灰度差值、深度差值、平滑因子计算,获取第一平滑值,该第一平滑值可以表示平滑处理的程度,可信像素的可信度越高,则其对应的第一平滑值越高。
更进一步的,根据第一平滑值和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。
在本实施例中,可以根据第一平滑值确定第二平滑值,其中,第一平滑值与第二平滑值成反比关系,获取第二平滑值和可信像素的深度值的第一乘积,获取第一平滑值和第二深度图像帧中与可信像素对应的像素的深度值的第二乘积,根据第一乘积和第二乘积之和对可信像素单元的深度值滤波处理。即可信像素点深度值=与可信像素对应的像素的深度值*第一平滑值+可信像素的深度值*第二平滑值,由于第一平滑值和第二平滑值成反比关系,比如,第一平滑值=1-第二平滑值,因此,第一平滑值越大,则第二平滑值越小,另外,当平滑因子与像素的可信度成正比关系时,平滑因子和第一平滑值为正比关系,可信像素对应的平滑因子较大,因而,对应的第一平滑值较大,基于上述公式,可信像素点深度值较大比重的参考对应的第二像素的深度值,平衡了可信像素的误差。
需要说明的是,上述预设的计算公式用于对对应的像素的深度值的测量误差进行平衡,理论上像素的可信程度越低,比如深度差值越大,则对应的参考当前像素的深度值的程度就应该越大,以保留当前像素的高动态信息,当平滑因子与像素的可信程度成正比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的程度成正比关系,当平滑因子与像素的可信程度成反比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的程度成反比关系,如下公式(1)所示的计算公式,当平滑因子s与对应像素的可信程度成正比关系时,则对应的权重w1与平滑因子成正比关系:
其中,w1为第一平滑值,s为平滑因子,diff1为深度差值,diff2为灰度差值,d为第一权重系数,1-d为第二权重系数,σ是每个可信像素的深度值和预设标准误差的乘积值。其中,预设标准误差是由温度误差等导致的深度值的经验测量误差,可以为1%等。
综上,本发明实施例的深度图处理方法,根据相邻帧像素之间的内容差,比如像素之间的置信度差别,或者灰度值的差别,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
为了实现上述实施例,本发明还提出一种深度图处理装置。图5是根据本发明一个实施例的深度图处理装置的结构示意图。如图5所示,该深度图处理装置,包括:第一获取模块10、第二获取模块20、确定模块30和滤波模块40,其中,
第一获取模块10,用于获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,其中,第一深度图像帧和第二深度图像帧中的各个像素均包含深度值,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。
第二获取模块20,用于确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差。
需要说明的是,上述内容值在不同的应用场景中,包含不同的参数,示例如下:
第一种示例:
在本示例中,内容值为深度值的置信度,其中,深度值的置信度表示该点深度值的能量大小,可以理解,若第一像素和第二像素的深度值的置信度相同,则表示第一像素和第二像素越可能对应于物体的同一个点,因而,第二获取模块20可以计算第一像素和置信度和第二像素的置信度的差值作为内容差。
第二种示例:内容值为像素的灰度值,可以理解,若第一像素和第二像素的灰度值相同,则标识第一像素和第二像素越可能对应于物体的同一个点,因而,第二获取模块20可以根据像素的彩色像素值计算第一像素和第二像素的灰度值,基于二者灰度值的差值作为内容差。
具体而言,在本实施例中,第二获取模块20获取第一深度图像帧中每个第一像素的第一灰度值,以及第二深度图像帧中对应的第二像素的第二灰度值,计算第一灰度值和第二灰度值的差值。
确定模块30,用于根据内容差在第一深度图像帧中确定可信像素,并确定与可信像素对应的平滑因子。
正如以上分析的,内容差越小则表明第一像素和第二像素越有可能对应于物体的同一个点,从而,根据内容差在第一深度图像帧中确定可信像素,该可信像素度对应于内容差较小的像素。
当然,每个第一像素对应的深度值的置信度表示该像素点的能量大小,如果该像素点的能量较大,则证明该第一像素的深度值可信,因此,为了进一步避免对可信像素的误判,我们可以仅仅对置信度大于根据经验值标定的平均置信度的第一像素,进行与第二像素对应的内容差的确定,对于置信度小于等于平均置信度的点,保留其原有的深度值。
进而,在确定可信像素后,确定模块30确定与可信像素对应的平滑因子,以便于根据平滑因子对可信像素的深度值进行平滑处理。
滤波模块40,用于根据平滑因子和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。
具体的,滤波模块40根据平滑因子对可信像素对应的深度值滤波处理,可以将不可信像素(即内容差小于预设阈值的像素的深度值保留)以便于实现对不同像素的不同滤波处理,在保证深度图像帧之间的深度误差时间一致性的基础上,保留了图像的高动态信息。
作为一种可能的实现方式,如图6所示,在如图5所示的基础上,该滤波模块40包括:第一确定单元41、第二确定单元42、第三确定单元43、获取单元44和滤波处理单元45,其中,第一确定单元41确定每个可信像素的深度值和对应的第二像素的深度值的深度差值,第二确定单元42获取每个可信像素的第一灰度值和对应的第二像素的第二灰度值,确定第一灰度值和第二灰度值的灰度差值,进而,第三确定单元43获取与深度差值对应的第一权重系数,根据第一权重系数确定与灰度差值对应的第二权重系数,其中,第一权重系数为根据应用需要确定的,第一权重系数越高则表明当前平滑处理时越侧重于考虑像素之间的深度差值,第二权重系数可以与第一权重系数成反比关系,比如,第一权重系数=1-第二权重系数等,由此,保证在同一个平滑场景中,对灰度差值和深度差值的考量具有不同的侧重点。
进一步的,滤波处理单元45根据预设的计算公式对每个可信像素的第一深度值、第一权重系数、第二权重系数、灰度差值、深度差值、平滑因子计算,获取第一平滑值,该第一平滑值可以表示平滑处理的程度,可信像素的可信度越高,则其对应的第一平滑值越高。
更进一步的,滤波处理单元45根据第一平滑值和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。
作为一种可能的实现方式,滤波处理单元45根据第一平滑值确定与第二平滑值,其中,第一平滑值与第二平滑值成反比关系,获取第一平滑值和可信像素的深度值的第一乘积,进而,获取第二平滑值和第二深度图像帧中与可信像素对应的像素的深度值的第二乘积,最后,根据第一乘积和第二乘积之和对可信像素单元的深度值滤波处理。
需要说明的是,前述对深度图处理方法实施例的解释说明也适用于该实施例的深度图处理装置,此处不再赘述。
综上,本发明实施例的深度图处理装置,根据相邻帧像素之间的内容差,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
为了实现上述实施例,本发明还提出一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时,实现如前述实施例所描述的深度图处理方法。
为了实现上述实施例,本发明还提出一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前述方法实施例所描述的深度图处理方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能可以集成在一个处理模块中,也可以是各个单独物理存在,也可以两个或两个以上集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种深度图处理方法,其特征在于,包括以下步骤:
获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;
确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;
根据所述内容差在所述第一深度图像帧中确定可信像素,并确定与所述可信像素对应的平滑因子;
根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
2.如权利要求1所述的方法,其特征在于,确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差,包括:
获取所述每个第一像素的第一灰度值以及所述第二像素的第二灰度值;
获取所述第一灰度值和所述第二灰度值的差值。
3.如权利要求1所述的方法,其特征在于,所述根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理,包括:
确定所述每个可信像素的深度值和对应的所述第二像素的深度值的深度差值;
获取所述每个可信像素的第一灰度值和对应的所述第二像素的第二灰度值,确定所述第一灰度值和所述第二灰度值的灰度差值;
获取与所述深度差值对应的第一权重系数,根据所述第一权重系数确定与所述灰度差值对应的第二权重系数;
根据预设的计算公式对所述每个可信像素的所述第一深度值、所述第一权重系数、所述第二权重系数、所述灰度差值、所述深度差值、所述平滑因子计算,获取第一平滑值;
根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
4.如权利要求3所述的方法,其特征在,所述根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理,包括:
根据所述第一平滑值确定第二平滑值,其中,所述第一平滑值与所述第二平滑值成反比关系;
获取所述第一平滑值和所述可信像素的深度值的第一乘积;
获取所述第二平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值的第二乘积;
根据所述第一乘积和所述第二乘积之和对所述可信像素单元的深度值滤波处理。
6.一种深度图处理装置,其特征在于,包括:
第一获取模块,用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;
第二获取模块,用于确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;
确定模块,用于根据所述内容差在所述第一深度图像帧中确定可信像素,并确定与所述可信像素对应的平滑因子;
滤波模块,用于根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
7.如权利要求6所述的装置,其特征在于,所述滤波模块,包括:
第一确定单元,用于确定所述每个可信像素的深度值和对应的所述第二像素的深度值的深度差值;
第二确定单元,用于获取所述每个可信像素的第一灰度值和对应的所述第二像素的第二灰度值,确定所述第一灰度值和所述第二灰度值的灰度差值;
第三确定单元,用于获取与所述深度差值对应的第一权重系数,根据所述第一权重系数确定与所述灰度差值对应的第二权重系数;
获取单元,用于根据预设的计算公式对所述每个可信像素的所述第一深度值、所述第一权重系数、所述第二权重系数、所述灰度差值、所述深度差值、所述平滑因子计算,获取第一平滑值;
滤波处理单元,用于根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
8.如权利要求7所述的装置,其特征在于,所述滤波处理单元,具体用于:
根据所述第一平滑值确定第二平滑值,其中,所述第一平滑值与所述第二平滑值成反比关系;
获取所述第一平滑值和所述可信像素的深度值的第一乘积;
获取所述第二平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值的第二乘积;
根据所述第一乘积和所述第二乘积之和对所述可信像素单元的深度值滤波处理。
9.一种电子设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-5中任一所述的深度图处理方法。
10.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-5中任一所述的深度图处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626066.4A CN110390690B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626066.4A CN110390690B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110390690A CN110390690A (zh) | 2019-10-29 |
CN110390690B true CN110390690B (zh) | 2021-04-16 |
Family
ID=68286509
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910626066.4A Active CN110390690B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110390690B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111080561A (zh) * | 2019-11-08 | 2020-04-28 | 上海航天控制技术研究所 | 一种时域高通滤波方法 |
CN111429501A (zh) * | 2020-03-25 | 2020-07-17 | 贝壳技术有限公司 | 深度图预测模型生成方法和装置、深度图预测方法和装置 |
CN113542721B (zh) * | 2020-04-20 | 2023-04-25 | 阿里巴巴集团控股有限公司 | 深度图处理方法、视频重建方法及相关装置 |
CN116324867A (zh) * | 2020-11-24 | 2023-06-23 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、摄像头组件及电子设备 |
CN112883944B (zh) * | 2021-04-28 | 2021-07-02 | 北京三快在线科技有限公司 | 活体检测方法、模型训练方法、装置、存储介质及设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101630408A (zh) * | 2009-08-14 | 2010-01-20 | 清华大学 | 一种深度图的处理方法及装置 |
CN103413276A (zh) * | 2013-08-07 | 2013-11-27 | 清华大学深圳研究生院 | 一种基于纹理分布特征的深度增强方法 |
CN103679716A (zh) * | 2013-12-05 | 2014-03-26 | 河海大学 | 一种基于hls色彩空间的显著区域分层提取方法 |
CN108021857A (zh) * | 2017-08-21 | 2018-05-11 | 哈尔滨工程大学 | 基于无人机航拍图像序列深度恢复的建筑物检测方法 |
CN108536292A (zh) * | 2018-03-29 | 2018-09-14 | 深圳市芯汉感知技术有限公司 | 一种数据滤波方法及骨骼点坐标精确定位方法 |
CN109191506A (zh) * | 2018-08-06 | 2019-01-11 | 深圳看到科技有限公司 | 深度图的处理方法、系统及计算机可读存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9665943B2 (en) * | 2015-09-25 | 2017-05-30 | Intel Corporation | Histogram-based image segmentation |
-
2019
- 2019-07-11 CN CN201910626066.4A patent/CN110390690B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101630408A (zh) * | 2009-08-14 | 2010-01-20 | 清华大学 | 一种深度图的处理方法及装置 |
CN103413276A (zh) * | 2013-08-07 | 2013-11-27 | 清华大学深圳研究生院 | 一种基于纹理分布特征的深度增强方法 |
CN103679716A (zh) * | 2013-12-05 | 2014-03-26 | 河海大学 | 一种基于hls色彩空间的显著区域分层提取方法 |
CN108021857A (zh) * | 2017-08-21 | 2018-05-11 | 哈尔滨工程大学 | 基于无人机航拍图像序列深度恢复的建筑物检测方法 |
CN108536292A (zh) * | 2018-03-29 | 2018-09-14 | 深圳市芯汉感知技术有限公司 | 一种数据滤波方法及骨骼点坐标精确定位方法 |
CN109191506A (zh) * | 2018-08-06 | 2019-01-11 | 深圳看到科技有限公司 | 深度图的处理方法、系统及计算机可读存储介质 |
Non-Patent Citations (2)
Title |
---|
Depth Image Super-resolution Reconstruction Based on Filter Fusion;Ying He et al.;《Ninth International Conference on Digital Image Processing》;20171231;正文第1-6页 * |
Kinect深度图像快速修复算法;王奎等;《上海大学学报》;20121031;第18卷(第5期);第454-458页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110390690A (zh) | 2019-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110390690B (zh) | 深度图处理方法和装置 | |
CN110378853B (zh) | 深度图处理方法和装置 | |
CN110400339B (zh) | 深度图处理方法和装置 | |
CN110400331B (zh) | 深度图处理方法和装置 | |
CN110400343B (zh) | 深度图处理方法和装置 | |
CN108932698B (zh) | 图像畸变的校正方法、装置、电子设备和存储介质 | |
CN110264426B (zh) | 图像畸变校正方法和装置 | |
US20220114744A1 (en) | Depth data filtering method and apparatus, electronic device, and readable storage medium | |
US11961246B2 (en) | Depth image processing method and apparatus, electronic device, and readable storage medium | |
CN110400342B (zh) | 深度传感器的参数调整方法、装置以及电子设备 | |
CN110400340B (zh) | 深度图处理方法和装置 | |
CN105592270A (zh) | 图像亮度补偿方法、装置及终端设备 | |
CN104094313A (zh) | 利用频率分解来进行图像增强中的边缘适应性增益调整 | |
CN111028169A (zh) | 图像校正方法、装置、终端设备和存储介质 | |
CN107343188A (zh) | 图像处理方法、装置及终端 | |
KR101662407B1 (ko) | 영상의 비네팅 보정 방법 및 장치 | |
CN112082508A (zh) | 反光物体的三维测量方法、装置及终端设备 | |
CN110415287B (zh) | 深度图的滤波方法、装置、电子设备和可读存储介质 | |
CN113884188B (zh) | 一种温度检测方法、装置及电子设备 | |
CN112601079B (zh) | 一种摄像模组的校准方法、装置、设备及介质 | |
CN111986245A (zh) | 深度信息评估方法、装置、电子设备及存储介质 | |
CN110390656B (zh) | 深度数据的滤波方法、装置、电子设备和可读存储介质 | |
JP2005149266A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
CN110400272B (zh) | 深度数据的滤波方法、装置、电子设备和可读存储介质 | |
CN112040151A (zh) | 图像噪声处理方法、装置、图像传感器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |