CN110400331B - 深度图处理方法和装置 - Google Patents
深度图处理方法和装置 Download PDFInfo
- Publication number
- CN110400331B CN110400331B CN201910626063.0A CN201910626063A CN110400331B CN 110400331 B CN110400331 B CN 110400331B CN 201910626063 A CN201910626063 A CN 201910626063A CN 110400331 B CN110400331 B CN 110400331B
- Authority
- CN
- China
- Prior art keywords
- pixel
- depth
- image frame
- weight
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000009499 grossing Methods 0.000 claims abstract description 116
- 238000005259 measurement Methods 0.000 claims abstract description 72
- 238000001914 filtration Methods 0.000 claims abstract description 51
- 238000000034 method Methods 0.000 claims abstract description 25
- 238000012545 processing Methods 0.000 claims abstract description 22
- 230000006870 function Effects 0.000 claims description 17
- 230000008859 change Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 11
- 230000009467 reduction Effects 0.000 claims description 7
- 230000006872 improvement Effects 0.000 claims description 6
- 230000001133 acceleration Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 3
- 238000010587 phase diagram Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提出一种深度图处理方法和装置,其中,方法包括:根据第一深度图像帧采集时的的运动参数确定测量误差;确定相邻图像帧之间的深度差值;根据深度差值和测量误差在第一深度图像帧中确定可信像素和非可信像素,并确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子;根据第一平滑因子对可信像素对应的深度值滤波处理,并根据第二平滑因子对非可信像素对应的深度值滤波处理。由此,基于时间维度自适应确定深度值对应的测量误差,进而,基于该测量误差确定深度图中的可信像素和非可信像素,以便于不同的像素进行不同的误差平滑处理,保证了图像帧滤波后的深度值误差具有时间一致性。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种深度图处理方法和装置。
背景技术
通常,在基于飞行时间(Time of flight,ToF)传感器测量物体的深度时,ToF传感器通过计算脉冲信号的飞行时间来确定传感器和物体之间的距离,进而基于距离确定出物体的深度值。其中,由于测量过程中存在着各类不确定性,带来了多种误差,在离线标定阶段已经对多种误差进行了修正,但是由于这些误差具有很大的随机性,这造成了在测量范围内ToF的深度测量误差大约为1%。在计算物体的深度值时,我们基于该固定的深度测量误差进行深度值的平滑处理。
然而,若在一定时间内,深度值的误差是固定的,即具有时间一致性,则会为我们的深度值的精确计算具有较大意义,因此,亟需一种方法能够保证深度误差在在短时间内具有时间一致性,不会发生深度误差的跳变。
发明内容
本发明旨在至少在一定程度上解决相关技术中,深度值的误差在时间上不一致具有跳变的技术问题之一。
为此,本发明的第一个目的在于提出一种深度图处理方法,基于时间维度自适应确定深度值对应的测量误差,进而,基于该测量误差确定深度图中的可信像素和非可信像素,以便于不同的像素进行不同的误差平滑处理,保证了图像帧滤波后的深度值误差具有时间一致性。
本发明的第二个目的在于提出一种深度图处理装置。
本发明的第三个目的在于提出一种电子设备。
本发明的第四个目的在于提出一种非临时性计算机可读存储介质。
为达上述目的,本发明第一方面实施例提出了一种深度图处理方法,包括以下步骤:获取第一深度图像帧和采集所述第一深度图像帧时的运动参数,并根据所述运动参数确定测量误差;确定所述第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,所述第二深度图像帧与所述第一深度图像帧相邻;根据所述深度差值和所述测量误差在所述第一深度图像帧中确定可信像素和非可信像素,并确定与所述可信像素对应的第一平滑因子和与所述非可信像素对应的第二平滑因子;根据所述第一平滑因子对所述可信像素对应的深度值滤波处理,并根据所述第二平滑因子对所述非可信像素对应的深度值滤波处理。
本发明第二方面实施例提出了一种深度图处理装置,包括:第一确定模块,用于获取第一深度图像帧和采集所述第一深度图像帧时的运动参数,并根据所述运动参数确定测量误差;第二确定模块,用于确定所述第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,所述第二深度图像帧与所述第一深度图像帧相邻;第三确定模块,用于根据所述深度差值和所述测量误差在所述第一深度图像帧中确定可信像素和非可信像素,并确定与所述可信像素对应的第一平滑因子和与所述非可信像素对应的第二平滑因子;滤波模块,用于根据所述第一平滑因子对所述可信像素对应的深度值滤波处理,并根据所述第二平滑因子对所述非可信像素对应的深度值滤波处理。
本发明第三方面实施例提出了一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如第一方面实施例所述的深度图处理方法。
本发明第四方面实施例提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面实施例所述的深度图处理方法。
本发明提供的技术方案,至少包含如下有益效果:
根据与深度图像帧对齐的运动参数估算对应深度图像帧的测量误差,基于测量误差和相邻帧的深度值差值来确定平滑权重,有效的使不同运动状态下的深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本发明实施例所提供的一种基于TOF的深度图处理方法的流程示意图;
图2是根据本发明一个实施例的原始深度值计算方法流程示意图;
图3是根据本发明一个实施例的时间一致性滤波方法流程示意图;
图4是根据本发明一个实施例的深度图处理方法的流程图;
图5是根据本发明一个实施例的深度图处理装置的结构示意图;
图6是根据本发明另一个实施例的深度图处理装置的结构示意图;以及
图7是根据本发明又一个实施例的深度图处理装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的深度图处理方法和装置。其中,本发明实施例的深度图中的深度值是基于TOF传感器获取的。
为了使得本领域的技术人员,更加清楚的理解本发明的深度图处理方法的时机,下面结合图1对TOF的深度图处理的整个流程进行说明,如图1所示,ToF传感器发射经过调制的脉冲信号,待测量物体表面接收到脉冲信号并反射信号,然后ToF传感器接收到反射信号,并对多频相位图解码,接着根据标定参数对ToF数据进行误差修正,然后对多频信号去混叠,并将深度值由径向坐标系转换到笛卡尔坐标系,最后对深度图进行时间一致性滤波,对深度变化平缓的区域,输出时间维度上相对平滑的深滤波结果。
其中,深度时间一致性滤波方案包括两个主要阶段:ToF原始深度值计算阶段和深度时间一致性滤波阶段,其中,如图2所示,ToF原始深度值计算阶段包括:基于获取的ToF传感器采集原始相位图(单频模式下为四相位图,双频模式下为八相位图,假设本实施例中为双频模式),计算每个像素的IQ信号,进而,根据IQ信号计算每个像素的相位和置信度,其中,置信度表示该点相位值的可信度,是该点能量大小的反应,根据ToF离线标定的内参在线修正几种误差,包括循环误差,温度误差,梯度误差,视差误差等,在双频去混叠前进行前滤波,以分别过滤各频率模式下的噪声,在去除双频的噪声后,对双频进行混叠,确定每个像素的真实周期数,基于该真实周期数对混叠的结果进行后滤波,进而将后滤波后的径向坐标系转换到笛卡尔坐标系,进行下一步的处理。
在深度时间一致性滤波阶段,如图3所示,本发明的实施例中在获取到笛卡尔坐标系下的原始深度图后,将惯性测量单元(Inertial measurement unit,IMU)测量的IMU数据和深度值进行时间对齐,并由IMU数据确定当前运动状态,由运动状态对应的运动参数来估计测量误差,进而,迭代每个像素点,判断该像素点是否连续多帧间深度差小于相对于该点绝对深度的测量误差,若连续多帧深度值的深度差值小于该点的绝对深度的测量误差,则放大平滑因子,否则减小平滑因子,针对不同的像素点进行不同的平滑处理。
由此,相对于现有技术中基于认为测量误差是统一的方式进行时间一致性滤波,本发明的实施例中,考虑了运动状态带来的误差变化,同时考虑测量的像素点的绝对深度差值,保证了时间一致性滤波平滑性较好,深度值在时间域抖动较小。
本发明中的深度图处理方法,主要针对上述图3指出的时间一致性滤波进行说明,图4是根据本发明一个实施例的深度图处理方法的流程图,如图4所示,该深度图处理方法包括:
步骤101,获取第一深度图像帧和采集第一深度图像帧时的运动参数,并根据运动参数确定测量误差。
其中,运动参数指的是IMU数据中包含的运动参数,包括采集对应的深度图像帧时TOF传感器的角速度、加速度等,如果在同样的场景下,使用同样的传感器拍摄的多帧深度图像帧时,由于抖动等原因导致传感器的运动参数不同,那么必然拍摄出来的深度图像帧中的深度值的误差是不同的,因而,为了保证深度值差值的时间一致性,我们基于运动参数确定测量误差,平衡运动导致的误差。
需要说明的是,IMU数据是终端设备在工作时,IMU实时获取得到的,但是由于IMU数据采集的频率和深度图像帧的采集频率是不同的,因而,我们需要对IMU数据和深度图像帧进行时间对齐。
作为一种可能的实现方式,获取第一深度图像帧的时间戳,该时间戳是深度图像帧获取时的时间标记,该时间戳可能和真实的时间点一致,也可能不一致,因而,获取采集时间点与时间戳对应的时间点一致的运动参数作为该第一深度图像帧对应的运动参数。
当然,可能由于IMU的采集时间间隔和第一深度图像帧的采集时间间隔不同,导致可能在第一深度图像帧的采集时间点没有找到完全匹配的运动参数,此时,我们可以基于第一深度图像帧的采集时间点相邻的两组MU数据估算出对应的运动参数。
具体的,获取需要进行深度值的时间一致性滤波的第一深度图像帧后,该第一深度图像帧可以是当前深度图像帧,也可以是历史获取的深度图像帧,基于与第一深度图像帧对应的运动参数,估算出该运动参数对应的测量误差,去除因为TOF传感器的运动带来的误差。
需要说明的是,根据应用场景的不同,根据运动参数确定测量误差的方式不同,示例如下:
第一种示例:
在本示例中,运动参数包括角速度值、角速度值,预先根据大量实验构建测量误差的计算公式,根据该计算公式对运动采纳数计算出测量误差,其中,计算公式如下公式(1)所示:
其中,在公式(1)中,errmin在实际测量过程中,根据经验值确定的最小测量误差,errmax为在实际测量过程中,根据经验值确定的最大测量误差,acurr为第一深度图像帧对应的加速度值,amax为在实际测量过程中,根据经验值确定的最大加速度值,wcurr为第一深度图像帧对应的角速度值,wmax为在实际测量过程中,根据经验值确定的最大角速度值。
第二种示例:
在本示例中,预先根据大量实验数据,训练深度模型,该深度模型的输入为运动参数,输出为测量误差,从而,将第一深度图像帧的运动参数输入该预先训练好的深度模型,获取到所需要的测量误差。
步骤102,确定第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,第二深度图像帧与第一深度图像帧相邻。
需要说明的是,第二深度图像帧与第一深度图像帧相邻,可以是位于第一深度图像帧之前的上一帧,也可以位于第一深度图像帧之后的下一帧,这根据具体的应用需求而定,当然在同样的场景中,图像帧的参考方向都是固定的,比如,都参考上一帧,或者,都参考下一帧进行误差修正。
具体而言,确定第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,以便于基于该深度差值发现高动态变化像素和缓慢变化的像素,其中,缓慢变化的像素显然是可能由于运动参数导致的测量误差导致的变化,因而,在本实施例中,主要平衡这种由运动导致的测量误差。
步骤103,根据深度差值和测量误差在第一深度图像帧中确定可信像素和非可信像素,并确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子。
具体的,根据深度差值和测量误差在第一深度图像帧中确定可信像素和非可信像素,其中可信像素指的是高动态变化的像素,非可信像素指的是缓慢变化的像素,针对不同的区域要进行不同的平滑处理,在保证高动态的基础上,平滑由运动带来的误差。即确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子,针对不同的平滑因子为不同的像素适配不同的平滑处理力度。
需要说明的是,在不同的应用场景下,确定第一平滑因子和第二平滑因子的方式不同,示例说明如下:
在本发明的一个实施例中,判断深度差值的绝对值和测量误差的大小关系,若深度差值大于测量误差,则获取深度差值和测量误差的第一差值,并确定与第一差值对应的因子降低值,比如预先建立差值和因子降低值的对应关系,基于该对应关系获取对应的因子降低值,进而,根据预设的初始平滑因子和因子降低值之差获取第一平滑因子,也就是说在初始平滑因子的基础上进行适应性的降低。
若深度差值小于等于测量误差,则获取测量误差深度差值的第二差值,并确定与第二差值对应的因子提高值,比如预先建立差值和因子提高值的对应关系,基于该对应关系获取对应的因子提高值,进而,根据预设的初始平滑因子和因子提高值之和获取第二平滑因子,也就是说在初始平滑因子的基础上进行适应性的提高。这种方式细化到每个像素进行不同程度的平滑,提高了平滑质量。
在本发明的另一个实施例中,为可信像素和非可信像素分别适配固定的平滑因子,比如,确定与可信像素对应的第一平滑因子为0,确定与非可信像素对应的第二平滑因子为1。这种方式提高了平滑处理的效率。
步骤104,根据第一平滑因子对可信像素对应的深度值滤波处理,并根据第二平滑因子对非可信像素对应的深度值滤波处理。
具体的,根据第一平滑因子对可信像素对应的深度值滤波处理,并根据第二平滑因子对非可信像素对应的深度值滤波处理,以便于实现对不同像素的不同滤波处理,在保证深度图像帧之间的深度误差时间一致性的基础上,保留了图像的高动态信息。
作为一种可能的实现方式,获取第二深度图像帧中与可信像素对应的第一像素,该可信像素和第一像素理论上对应于物体同一点,进而,根据预设平滑函数和第一平滑因子确定与第一像素对应的第一权重,并根据第一权重确定与可信像素对应的第二权重,进而,获取第一权重和第一像素的深度值的第一乘积,并获取第二权重和可信像素的深度值的第二乘积,根据第一乘积和第二乘积之和对可信像素的深度值滤波处理,即可信像素点深度值=第一像素的深度值*第一权重+可信像素的深度值*第二权重,由于第一权重和第二权重成反比关系,比如,第一权重=1-第二权重,因此,第一权重越大,则第二权重越小,另外,当平滑因子与像素的可信度成反比关系时,第一平滑因子和第一权重为正比关系,第一平滑因子较小,因而,对应的第一权重较小,基于上述公式,可信像素点深度值较大比重的参考其本身的深度值,比如,当第一平滑因子为0时,则对应的第一权重为0,此时,可信像素点深度值即为其本身的深度值,保留了可信像素的高动态信息,只需要对可信像素区域进行掩码处理,对不可信区域进行平滑处理。
在本实施例中,获取与非可信像素对应的第二像素后,该第二像素和非可信像素理论上对应于物体的不同点,进而,根据预设平滑函数和第二平滑因子确定与第二像素对应的第三权重,并根据第三权重确定与非可信像素对应的第四权重,进而,获取第三权重和第二像素的深度值的第三乘积,并获取第四权重和非可信像素的深度值的第四乘积,根据第三乘积和第四乘积之和对非可信像素的深度值滤波处理,即非可信像素点深度值=第二像素的深度值*第三权重+非可信像素的深度值*第四权重,由于第三权重和第四权重成反比关系,因此,第三权重越大,则第四权重越小,另外,当平滑因子与像素的可信度成反比关系时,第二平滑因子和第三权重为正比关系,第二平滑因子较大,因而,对应的第三权重较大,基于上述公式,可信像素点深度值较大比重的参考第二像素的深度值,比如,当第二平滑因子为1时,则对应的第三权重较大,此时,非可信像素点深度值即为第二像素的深度值,平衡了非可信像素的误差。
需要说明的是,上述预设平滑函数用于对对应的像素的运动误差进行平衡,理论上像素的可信程度越高,即深度差值与测量误差的差值越大,则对应的参考当前像素的深度值的程度就应该越大,以保留当前像素的高动态信息,当平滑因子与像素的可信程度成正比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的反比关系,当平滑因子与像素的可信程度成反比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的正比关系,如下公式(2)所示,当平滑因子s与对应像素的可信程度成反比关系时,则对应的权重w1与平滑因子成正比关系:
其中,w1为对应的权重,diff为深度差值,σ为测量误差和第一深度图像帧中对应像素的深度值的乘积值,s为平滑因子。其中,平滑因子s为第一平滑因子时,w1为第一权重。
综上,本发明实施例的深度图处理方法,根据与深度图像帧对齐的运动参数估算对应深度图像帧的测量误差,基于测量误差和相邻帧的深度值差值来确定平滑权重,有效的使不同运动状态下的深度平缓变化区域在时间维度上深度值更为平滑,保证了深度图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
为了实现上述实施例,本发明还提出一种深度图处理装置。图5是根据本发明一个实施例的深度图处理装置的结构示意图。如图5所示,该深度图处理装置,包括:第一确定模块10、第二确定模块20、第三确定模块30和滤波模块40,其中,
第一确定模块10,用于获取第一深度图像帧和采集第一深度图像帧时的运动参数,并根据运动参数确定测量误差。
具体的,第一确定模块10获取需要进行深度值的时间一致性滤波的第一深度图像帧后,该第一深度图像帧可以是当前深度图像帧,也可以是历史获取的深度图像帧,第一确定模块10基于与第一深度图像帧对应的运动参数,估算出该运动参数对应的测量误差,去除因为TOF传感器的运动带来的误差。
第二确定模块20,用于确定第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,第二深度图像帧与第一深度图像帧相邻。
具体而言,第二确定模块20确定第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,以便于基于该深度差值发现高动态变化像素和缓慢变化的像素,其中,缓慢变化的像素显然是可能由于运动参数导致的测量误差导致的变化,因而,在本实施例中,主要平衡这种由运动导致的测量误差。
第三确定模块30,用于根据深度差值和测量误差在第一深度图像帧中确定可信像素和非可信像素,并确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子。
具体的,第三确定模块30根据深度差值和测量误差在第一深度图像帧中确定可信像素和非可信像素,其中可信像素指的是高动态变化的像素,非可信像素指的是缓慢变化的像素,针对不同的区域要进行不同的平滑处理,在保证高动态的基础上,平滑由运动带来的误差。即第三确定模块30确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子,针对不同的平滑因子为不同的像素适配不同的平滑处理力度。
滤波模块40,用于根据第一平滑因子对可信像素对应的深度值滤波处理,并根据第二平滑因子对非可信像素对应的深度值滤波处理。
具体的,滤波模块40根据第一平滑因子对可信像素对应的深度值滤波处理,并根据第二平滑因子对非可信像素对应的深度值滤波处理,以便于实现对不同像素的不同滤波处理,在保证深度图像帧之间的深度误差时间一致性的基础上,保留了图像的高动态信息。
在本发明的一个实施例中,如图6所示,在如图5所示的基础上,滤波模块40包括:第一获取单元41、第一确定单元42、第二确定单元43、第一滤波单元44、第二滤波单元45,
在本实施例中,第一获取单元41获取第二深度图像帧中与可信像素对应的第一像素,该可信像素和第一像素理论上对应于物体同一点,进而,第一确定单元42根据预设平滑函数和第一平滑因子确定与第一像素对应的第一权重,并根据第一权重确定与可信像素对应的第二权重,进而,第一滤波单元44获取第一权重和第一像素的深度值的第一乘积,并获取第二权重和可信像素的深度值的第二乘积,根据第一乘积和第二乘积之和对可信像素的深度值滤波处理,即可信像素点深度值=第一像素的深度值*第一权重+可信像素的深度值*第二权重,由于第一权重和第二权重成反比关系,比如,第一权重=1-第二权重,因此,第一权重越大,则第二权重越小,另外,当平滑因子与像素的可信度成反比关系时,第一平滑因子和第一权重为正比关系,第一平滑因子较小,因而,对应的第一权重较小,基于上述公式,可信像素点深度值较大比重的参考其本身的深度值,比如,当第一平滑因子为0时,则对应的第一权重为0,此时,可信像素点深度值即为其本身的深度值,保留了可信像素的高动态信息。
在本实施例中,第一获取单元41获取与非可信像素对应的第二像素后,该第二像素和非可信像素理论上对应于物体的不同点,进而,第二确定单元43根据预设平滑函数和第二平滑因子确定与第二像素对应的第三权重,并根据第三权重确定与非可信像素对应的第四权重,进而,第二滤波单元45获取第三权重和第二像素的深度值的第三乘积,并获取第四权重和非可信像素的深度值的第四乘积,根据第三乘积和第四乘积之和对非可信像素的深度值滤波处理,即非可信像素点深度值=第二像素的深度值*第三权重+非可信像素的深度值*第四权重,由于第三权重和第四权重成反比关系,因此,第三权重越大,则第四权重越小,另外,当平滑因子与像素的可信度成反比关系时,第二平滑因子和第三权重为正比关系,第二平滑因子较大,因而,对应的第三权重较大,基于上述公式,可信像素点深度值较大比重的参考第二像素的深度值,比如,当第二平滑因子为1时,则对应的第三权重较大,此时,非可信像素点深度值即为第二像素的深度值,平衡了非可信像素的误差。
在本发明的一个实施例中,如图7所示,在如图5所示的基础上,第一确定模块10包括:第三获取单元11、第四获取单元12,
在本发明的一个实施例中,第三获取单元11获取第一深度图像帧的时间戳,该时间戳是深度图像帧获取时的时间标记,该时间戳可能和真实的时间点一致,也可能不一致,因而,第四获取单元12获取采集时间点与时间戳对应的时间点一致的运动参数作为该第一深度图像帧对应的运动参数。
当然,可能由于IMU的采集时间间隔和第一深度图像帧的采集时间间隔不同,导致可能在第一深度图像帧的采集时间点没有找到完全匹配的运动参数,此时,我们可以基于第一深度图像帧的采集时间点相邻的两组MU数据估算出对应的运动参数。
需要说明的是,前述对深度图处理方法实施例的解释说明也适用于该实施例的深度图处理装置,此处不再赘述。
综上,本发明实施例的深度图处理装置,根据与深度图像帧对齐的运动参数估算对应深度图像帧的测量误差,基于测量误差和相邻帧的深度值差值来确定平滑权重,有效的使不同运动状态下的深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性。
为了实现上述实施例,本发明还提出一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时,实现如前述实施例所描述的深度图处理方法。
为了实现上述实施例,本发明还提出一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前述方法实施例所描述的深度图处理方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (8)
1.一种深度图处理方法,其特征在于,包括以下步骤:
获取第一深度图像帧和采集所述第一深度图像帧时的运动参数,并根据所述运动参数确定测量误差,所述运动参数为惯性测量单元测量的数据中的运动参数,所述惯性测量单元测量的数据中的运动参数包括采集所述第一深度图像帧时飞行时间传感器的角速度、加速度,所述测量误差为深度值的测量误差;
确定所述第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,所述第二深度图像帧与所述第一深度图像帧相邻;
根据所述深度差值和所述测量误差在所述第一深度图像帧中确定可信像素和非可信像素,并确定与所述可信像素对应的第一平滑因子和与所述非可信像素对应的第二平滑因子,所述可信像素为深度值高动态变化的像素,非可信像素为深度值缓慢变化的像素;
根据所述第一平滑因子对所述可信像素对应的深度值滤波处理,并根据所述第二平滑因子对所述非可信像素对应的深度值滤波处理;
所述并确定与所述可信像素对应的第一平滑因子和与所述非可信像素对应的第二平滑因子,包括:
判断所述深度差值的绝对值和所述测量误差的大小关系;
若所述深度差值大于所述测量误差,则获取所述深度差值和所述测量误差的第一差值,并确定与所述第一差值对应的因子降低值;
根据预设的初始平滑因子和所述因子降低值之差获取所述第一平滑因子;
若所述深度差值小于等于所述测量误差,则获取所述测量误差和所述深度差值的第二差值,并确定与所述第二差值对应的因子提高值;
根据所述因子提高值和预设的所述初始平滑因子之和获取所述第二平滑因子。
2.如权利要求1所述的方法,其特征在于,所述根据所述第一平滑因子对所述可信像素对应的深度值滤波处理,并根据所述第二平滑因子对所述非可信像素对应的深度值滤波处理,包括:
获取所述第二深度图像帧中与所述可信像素对应的第一像素,以及与所述非可信像素对应的第二像素;
根据预设平滑函数和所述第一平滑因子确定第一权重,并根据所述第一权重确定第二权重,其中,所述第一权重和所述第二权重成反比关系;
根据所述预设平滑函数和所述第二平滑因子确定第三权重,并根据所述第三权重确定第四权重,其中,所述第三权重和所述第四权重成反比关系;
获取所述第一权重和所述第一像素的深度值的第一乘积,并获取所述第二权重和所述可信像素的深度值的第二乘积,根据所述第一乘积和所述第二乘积之和对所述可信像素的深度值滤波处理;
获取所述第三权重和所述第二像素的深度值的第三乘积,并获取所述第四权重和所述非可信像素的深度值的第四乘积,根据所述第三乘积和所述第四乘积之和对所述非可信像素的深度值滤波处理。
4.如权利要求1所述的方法,其特征在于,所述获取第一深度图像帧和采集所述第一深度图像帧时的运动参数,包括:
获取所述第一深度图像帧和所述第一深度图像帧的时间戳;
获取采集时间点与所述时间戳对应的时间点一致的运动参数。
5.一种深度图处理装置,其特征在于,包括:
第一确定模块,用于获取第一深度图像帧和采集所述第一深度图像帧时的运动参数,并根据所述运动参数确定测量误差,所述运动参数为惯性测量单元测量的数据中的运动参数,所述惯性测量单元测量的数据中的运动参数包括采集所述第一深度图像帧时飞行时间传感器的角速度、加速度,所述测量误差为深度值的测量误差;
第二确定模块,用于确定所述第一深度图像帧中每个像素与第二深度图像帧中对应的像素之间深度值的深度差值,其中,所述第二深度图像帧与所述第一深度图像帧相邻;
第三确定模块,用于根据所述深度差值和所述测量误差在所述第一深度图像帧中确定可信像素和非可信像素,并确定与所述可信像素对应的第一平滑因子和与所述非可信像素对应的第二平滑因子,所述可信像素为深度值高动态变化的像素,非可信像素为深度值缓慢变化的像素;
滤波模块,用于根据所述第一平滑因子对所述可信像素对应的深度值滤波处理,并根据所述第二平滑因子对所述非可信像素对应的深度值滤波处理;
所述滤波模块,包括:
第一获取单元,用于获取所述第二深度图像帧中与所述可信像素对应的第一像素,以及与所述非可信像素对应的第二像素;
第一确定单元,用于根据预设平滑函数和所述第一平滑因子确定第一权重,并根据所述第一权重确定第二权重,其中,所述第一权重和所述第二权重成反比关系;
第二确定单元,用于根据所述预设平滑函数和所述第二平滑因子确定第三权重,并根据所述第三权重确定第四权重,其中,所述第三权重和所述第四权重成反比关系;
第一滤波单元,用于获取所述第一权重和所述第一像素的深度值的第一乘积,并获取所述第二权重和所述可信像素的深度值的第二乘积,根据所述第一乘积和所述第二乘积之和对所述可信像素的深度值滤波处理;
第二滤波单元,用于获取所述第三权重和所述第二像素的深度值的第三乘积,并获取所述第四权重和所述非可信像素的深度值的第四乘积,根据所述第三乘积和所述第四乘积之和对所述非可信像素的深度值滤波处理。
6.如权利要求5所述的装置,其特征在于,所述第一确定模块,包括:
第三获取单元,用于获取所述第一深度图像帧和所述第一深度图像帧的时间戳;
第四获取单元,用于获取采集时间点与所述时间戳对应的时间点一致的运动参数。
7.一种电子设备,其特征在于,包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-4中任一所述的深度图处理方法。
8.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-4中任一所述的深度图处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626063.0A CN110400331B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626063.0A CN110400331B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110400331A CN110400331A (zh) | 2019-11-01 |
CN110400331B true CN110400331B (zh) | 2021-04-30 |
Family
ID=68324417
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910626063.0A Active CN110400331B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110400331B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022109796A1 (zh) * | 2020-11-24 | 2022-06-02 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、摄像头组件及电子设备 |
CN113066001A (zh) * | 2021-02-26 | 2021-07-02 | 华为技术有限公司 | 一种图像处理方法及相关设备 |
CN112804508B (zh) * | 2021-03-19 | 2021-08-31 | 深圳市火乐科技发展有限公司 | 投影仪校正方法、系统、存储介质以及电子设备 |
CN112883944B (zh) * | 2021-04-28 | 2021-07-02 | 北京三快在线科技有限公司 | 活体检测方法、模型训练方法、装置、存储介质及设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101874482B1 (ko) * | 2012-10-16 | 2018-07-05 | 삼성전자주식회사 | 깊이 영상으로부터 고해상도 3차원 영상을 복원하는 장치 및 방법 |
CN107657635B (zh) * | 2017-10-17 | 2022-03-29 | 奥比中光科技集团股份有限公司 | 深度相机温度误差校正方法及系统 |
CN108615244B (zh) * | 2018-03-27 | 2019-11-15 | 中国地质大学(武汉) | 一种基于cnn和深度滤波器的图像深度估计方法及系统 |
CN109191506B (zh) * | 2018-08-06 | 2021-01-29 | 深圳看到科技有限公司 | 深度图的处理方法、系统及计算机可读存储介质 |
CN109903241B (zh) * | 2019-01-31 | 2021-06-15 | 武汉市聚芯微电子有限责任公司 | 一种tof相机系统的深度图像校准方法及系统 |
CN109751985A (zh) * | 2019-03-04 | 2019-05-14 | 南京理工大学 | 一种基于安防摄像机的水库堤坝散浸监测方法 |
-
2019
- 2019-07-11 CN CN201910626063.0A patent/CN110400331B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110400331A (zh) | 2019-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110400331B (zh) | 深度图处理方法和装置 | |
CN110390690B (zh) | 深度图处理方法和装置 | |
CN110378853B (zh) | 深度图处理方法和装置 | |
CN110400339B (zh) | 深度图处理方法和装置 | |
CN110400343B (zh) | 深度图处理方法和装置 | |
CN110400340B (zh) | 深度图处理方法和装置 | |
CN104081161B (zh) | 物理量测量装置以及物理量测量方法 | |
CN110400342B (zh) | 深度传感器的参数调整方法、装置以及电子设备 | |
US20220114744A1 (en) | Depth data filtering method and apparatus, electronic device, and readable storage medium | |
JP2015019958A5 (ja) | 磁気共鳴イメージング装置、画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2017538121A (ja) | 自動車のレーダシステムを操作するための方法および装置 | |
US11961246B2 (en) | Depth image processing method and apparatus, electronic device, and readable storage medium | |
CN107878462B (zh) | 车速预测方法和装置 | |
JP2017010095A5 (zh) | ||
RU2019119770A (ru) | Управление качеством изображения в динамической магнитно-резонансной томографии с контрастированием | |
WO2017012337A1 (zh) | 上行链路时间调整方法及装置 | |
WO2020024174A1 (zh) | 获取伺服系统频率特性的方法、电子装置和存储装置 | |
KR102627770B1 (ko) | 맥동하는 측정 변수들의 평균화 방법 | |
CN110415287B (zh) | 深度图的滤波方法、装置、电子设备和可读存储介质 | |
CN113758503B (zh) | 一种过程参数估计方法、装置、电子设备及存储介质 | |
CN110390656B (zh) | 深度数据的滤波方法、装置、电子设备和可读存储介质 | |
CN114648456A (zh) | 超声图像的降噪方法和电子设备 | |
CN110390689B (zh) | 深度图处理方法、装置和电子设备 | |
CN112884670A (zh) | 一种相邻行之间像素偏移的矫正方法 | |
CN111146979A (zh) | 电机转子的初始角修正方法、装置及电动汽车 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |