CN110378853B - 深度图处理方法和装置 - Google Patents
深度图处理方法和装置 Download PDFInfo
- Publication number
- CN110378853B CN110378853B CN201910626061.1A CN201910626061A CN110378853B CN 110378853 B CN110378853 B CN 110378853B CN 201910626061 A CN201910626061 A CN 201910626061A CN 110378853 B CN110378853 B CN 110378853B
- Authority
- CN
- China
- Prior art keywords
- value
- pixel
- depth
- image frame
- depth image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000012545 processing Methods 0.000 claims abstract description 33
- 238000001914 filtration Methods 0.000 claims abstract description 24
- 238000000034 method Methods 0.000 claims abstract description 22
- 238000005070 sampling Methods 0.000 claims abstract description 13
- 238000004364 calculation method Methods 0.000 claims abstract description 12
- 238000009499 grossing Methods 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008859 change Effects 0.000 abstract description 5
- 230000006870 function Effects 0.000 description 9
- 238000005259 measurement Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000010587 phase diagram Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明提出一种深度图处理方法和装置,其中,方法包括:获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差;根据内容差在第一深度图像帧中确定可信像素,并确定可信像素的所在区域面积;当区域面积满足预设条件时,根据区域面积调整深度图像帧的采集间隔,并根据采集间隔获取下一帧待处理的深度图像帧。由此,基于深度值平缓变化区域的面积大小确定图像帧的采样间隔,降低了时间一致性滤波的计算量。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种深度图处理方法和装置。
背景技术
通常,在基于飞行时间(Time of flight,ToF)传感器测量物体的深度时,ToF传感器通过计算脉冲信号的飞行时间来确定传感器和物体之间的距离,进而基于距离确定出物体的深度值。
相关技术中,遍历所有的深度图像帧进行滤波处理,导致深度图像帧滤波处理的计算量较大。
发明内容
本发明旨在至少在一定程度上解决相关技术中遍历所有的深度图像帧进行滤波处理,导致深度图像帧滤波处理的计算量较大的问题。
为此,本发明的第一个目的在于提出一种深度图处理方法,以实现基于深度值变化的平滑程度确定图像帧的采样间隔,平衡了深度图像帧的处理精度和资源消耗。
本发明的第二个目的在于提出一种深度图处理装置。
本发明的第三个目的在于提出一种电子设备。
本发明的第四个目的在于提出一种非临时性计算机可读存储介质。
为达上述目的,本发明第一方面实施例提出了一种深度图处理方法,包括以下步骤:获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;根据所述内容差在所述第一深度图像帧中确定可信像素,并确定所述可信像素的所在区域面积;当所述区域面积满足预设条件时,根据所述区域面积调整深度图像帧的采集间隔,并根据所述采集间隔获取待处理的。
本发明第二方面实施例提出了一种深度图处理装置,包括:第一获取模块,用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;第二获取模块,用于确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差;第一确定模块,用于根据所述内容差在所述第一深度图像帧中确定可信像素,并确定所述可信像素的所在区域面积;处理模块,用于当所述区域面积满足预设条件时,根据所述区域面积调整深度图像帧的采集间隔,并根据所述采集间隔获取待处理的。
本发明第三方面实施例提出了一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如第一方面实施例所述的深度图处理方法。
本发明第四方面实施例提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面实施例所述的深度图处理方法。
本发明提供的技术方案,至少包含如下有益效果:
根据相邻帧像素之间的内容差,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性,同时根据可信区域占全画幅有效区域的面积比,自适应的扩大了采集间隔,降低了对深度图像帧进行滤波处理的计算量。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是根据本发明一个实施例的深度图处理方法的流程图;
图2为本发明实施例所提供的一种基于TOF的深度图处理方法的流程示意图;
图3是根据本发明一个实施例的原始深度值计算方法流程示意图;
图4是根据本发明一个实施例的时间一致性滤波方法流程示意图;
图5是根据本发明一个实施例的深度图处理装置的结构示意图;
图6是根据本发明另一个实施例的深度图处理装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的深度图处理方法和装置。其中,本发明实施例的深度图中的深度值是基于TOF传感器获取的。
具体的,图1是根据本发明一个实施例的深度图处理方法的流程图,如图1所示,该深度图处理方法包括以下步骤:
步骤101,获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,其中,第一深度图像帧和第二深度图像帧中的各个像素均包含深度值,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。
需要说明的是,第二深度图像帧与第一深度图像帧相邻,可以是位于第一深度图像帧之前的上一帧,也可以位于第一深度图像帧之后的下一帧,这根据具体的应用需求而定,当然在同样的场景中,图像帧的参考方向都是固定的,比如,都参考相邻的上一帧,或者,都参考相邻的下一帧进行深度值误差的平滑处理。
另外,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素,需要强调的是,这种第一像素和第二像素的对应关系,表示的是在像素位置上的对应。
步骤102,确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差。
可以理解,如果第一像素和第二像素的内容差较低,则表明第一像素和第二像素实际对应于拍摄的物体的同一点,第一像素和第二像素之间是的深度值的误差应当较低。
需要说明的是,上述内容值在不同的应用场景中,包含不同的参数,示例如下:
第一种示例:
在本示例中,内容值为深度值的置信度,其中,深度值的置信度表示该点深度值的能量大小,可以理解,若第一像素和第二像素的深度值的置信度相同,则表示第一像素和第二像素越可能对应于物体的同一个点,因而,可以计算第一像素和置信度和第二像素的置信度的差值作为内容差。
第二种示例:内容值为像素的灰度值,可以理解,若第一像素和第二像素的灰度值相同,则标识第一像素和第二像素越可能对应于物体的同一个点,因而,可以根据像素的彩色像素值计算第一像素和置信度和第二像素的灰度值,基于二者灰度值的差值作为内容差。
步骤103,根据内容差在第一深度图像帧中确定可信像素,并确定可信像素的所在区域面积。
具体的,正如以上分析的,内容差越小则表明第一像素和第二像素越有可能对应于物体的同一个点,从而,根据内容差在第一深度图像帧中确定可信像素,该可信像素度对应于内容差较小的像素。
进而,在确定可信像素后,确定可信像素所在区域的面积,比如,可以确定第一深度图像帧中所有的可信像素,基于所有可信像素组成的区域确定面积大小。
步骤104,当区域面积满足预设条件时,根据区域面积调整深度图像帧的采集间隔,并根据采集获取间隔待处理的深度图像帧。
其中,上述预设条件用于根据可信像素的区域面积确定第二图像帧和第一图像帧实际上对应的物体的相似度,上述预设条件可以包括区域面积的绝对值的大小的比较,也可以包括面积比的比较,在本示例中,可获取可信像素的所在区域面积和第一深度图像帧的总面积的面积比。
具体的,获取可信像素的所在区域面积和第一深度图像帧的总面积的面积比,该面积比表示当前第一深度图像帧和第二深度图像帧中,针对物体的同一个点的像素点的个数,显然该面积比越大,则表明第二图像帧和第一图像帧实际上是越可能拍摄的是物体的同一个位置的深度信息。比如,获取第一深度图像帧的总面积,以及可信像素形成区域的面积,基于二者的比值确定面积比。又比如,获取第一深度图像帧中像素的总个数,以及可信像素的个数,基于可信像素的个数和总个数的比值确定面积比。正如以上分析的,面积比表示第二图像帧和第一图像帧实际上对应的物体的相似度,面积比越大,第二图像帧和第一图像帧实际上越可能拍摄的是物体的同一个位置的深度信息,因此,二者包含的深度信息具有大量的重复,基于两张图像帧获取针对同一个物体的相同点的深度信息可能会互相影响,导致测量精度不高,并且会提高计算量,因而,我们可以基于区域面积调整深度图像帧的采集间隔,并根据采集间隔获取下一帧深度图像帧,大大降低了计算量。
具体而言,在本发明的一个实施例中,当上述预设条件是面积比时,判断面积比是否大于预设阈值,该预设阈值是根据大量实验数据标定的,若面积比大于该预设阈值,则表明两帧图像帧获取的深度值大部分是基于同一个物体的同一个部分,因此,图像帧获取的新增深度信息不多,此时为了节约处理资源,可以增大深度图像帧的采集间隔,反之,可以降低图像帧的采样间隔,来保证高动态信息的处理全面。
在本发明的一个实施例中,当面积比大于预设阈值,则认为第一图像帧在在时间维度上噪声很小,则提高深度图像帧的采样时间间隔,为了进一步提高图像处理效率,若多个连续深度图像帧的可信区域都较大,则为了避免不同深度图像帧之间的微小的差异,提高处理效率,可以对可信区域掩码进行形态学腐蚀操作作为后续连续若干帧的可信区域,由此,这些连续若干帧的可信区域标记为掩码进行直接替换,一方面,避免了不同深度图像帧之间的微小的差异,另一方面,无需对连续若干帧的可信区域进行深度平滑处理,保留的非可信区域也无需处理以保证保留其高动态信息,大大降低了计算量。
上述被替换可信区域的连续若干帧的数量根据上述面积比的大小和深度图像帧的获取频率确定,当上述面积比较大,且获取频率越大则表明多个连读的深度图像帧的可信区域越相似,因而,连续若干帧的数量越高,当然,也可以大致检测第一图像帧和其后面连续多帧之间的深度值的差值,当深度值的差值小于预设阈值的深度平缓变化区域的面积,大于一定值的深度图像帧作为连续若干帧中的深度图像帧。
在本实施例中,判断面积比是否大于预设阈值后,若大于预设阈值,则获取面积比与预设阈值的差值并根据差值确定采集间隔增加值,根据采集间隔增加值和初始采样间隔之和确定采集间隔,即如图4所示扩大采集间隔,若小于等于预设阈值,则获取预设阈值与面积比的差值并根据差值确定采集间隔降低值,根据初始采样间隔和采集间隔降低值之差确定采集间隔,即降低采集间隔。
进一步的,由于测量过程中存在着各类不确定性,带来了多种误差,在离线标定阶段已经对多种误差进行了修正,但是由于这些误差具有很大的随机性,这造成了在测量范围内ToF的深度测量误差大约为1%。在计算物体的深度值时,我们基于该固定的深度测量误差进行深度值的平滑处理。若在一定时间内,深度值的误差是固定的,即具有时间一致性,则会为我们的深度值的精确计算具有较大意义,因此,亟需一种方法能够保证深度误差在在短时间内具有时间一致性,不会发生深度误差的跳变。
因此,本发明还提出了一种时间一致性滤波处理方法。
为了使得本领域的技术人员,更加清楚的理解本发明的深度图的滤波处理方法的时机,下面结合图2对TOF的深度图处理的整个流程进行说明,如图2所示,ToF传感器发射经过调制的脉冲信号,待测量物体表面接收到脉冲信号并反射信号,然后ToF传感器接收到反射信号,并对多频相位图解码,接着根据标定参数对ToF数据进行误差修正,然后对多频信号去混叠,并将深度值由径向坐标系转换到笛卡尔坐标系,最后对深度图进行时间一致性滤波,输出时间维度上相对平滑的深度结果。
其中,深度时间一致性滤波方案包括两个主要阶段:ToF原始深度值计算阶段和深度时间一致性滤波阶段,其中,如图3所示,ToF原始深度值计算阶段包括:基于获取的ToF传感器处理原始相位图(单频模式下为四相位图,双频模式下为八相位图,假设本实施例中为双频模式),计算每个像素的IQ信号,进而,根据IQ信号计算每个像素的相位和置信度,其中置信度表示该点相位值的可信度,是该点能量大小的反应,根据ToF离线标定的内参在线修正几种误差,包括循环误差,温度误差,梯度误差,视差误差等,在双频去混叠前进行前滤波,以分别过滤各频率模式下的噪声,在去除双频的噪声后,对双频进行混叠,确定每个像素的真实周期数,基于该真实周期数对混叠的结果进行后滤波,进而将后滤波后的径向坐标系转换到笛卡尔坐标系,进行下一步的处理。
在深度时间一致性滤波阶段,如图4所示,在扩大采样间隔之前,本发明的实施例中在获取到笛卡尔坐标系下的原始深度图后,基于像素点之间的内容差确定可信像素组成的可信区域,和不可信像素组成的非可信区域,进而,根据掩码进行分区域平滑,具体操作为,如该区域为可信像素所在的可信区域,则进行平滑,以实现基于时间一致性的滤波,若该区域为非可信像素所在的非可信区域,则不对该区域进行平滑,以保证该区域的高动态信息。
具体而言,在进行深度值的时间一致性滤波时,可以确定与可信像素对应的平滑因子,进而,基于该平滑因子和第二深度图像帧中与可信像素对应的第二像素的深度值,对可信像素的深度值进行滤波处理。
在本发明的一个实施例中,判断内容差和预设阈值的差值,并确定与差值对应的因子提高值,比如预先建立差值和因子提高值的对应关系,基于该对应关系获取对应的因子提高值,进而,根据预设的初始平滑因子和因子提高值之和获取平滑因子,也就是说在初始平滑因子的基础上进行适应性的增加。
在本发明的一个实施例中,确定每个可信像素的深度值和对应的第二像素的深度值的深度差值,获取每个可信像素的第一灰度值和对应的第二像素的第二灰度值,确定第一灰度值和第二灰度值的灰度差值,进而,获取与深度差值对应的第一权重系数,根据第一权重系数确定与灰度差值对应的第二权重系数,其中,第一权重系数为根据应用需要确定的,第一权重系数越高则表明当前平滑处理时越侧重于考虑像素之间的深度差值,第二权重系数可以与第一权重系数成反比关系,比如,第一权重系数=1-第二权重系数等,由此,保证在同一个平滑场景中,对灰度差值和深度差值的考量具有不同的侧重点。
进一步的,根据预设的计算公式对所述每个可信像素的所述第一深度值、所述第一权重系数、第二权重系数、灰度差值、深度差值、平滑因子计算,获取第一平滑值,该第一平滑值可以表示平滑处理的程度,可信像素的可信度越高,则其对应的第一平滑值越高。
更进一步的,根据第一平滑值和第二深度图像帧中与可信像素对应的像素的深度值,对可信像素的深度值进行滤波处理。
在本实施例中,可以根据第一平滑值确定第二平滑值,其中,第一平滑值与第二平滑值成反比关系,获取第二平滑值和可信像素的深度值的第一乘积,获取第一平滑值和第二深度图像帧中与可信像素对应的像素的深度值的第二乘积,根据第一乘积和第二乘积之和对可信像素单元的深度值滤波处理。即可信像素点深度值=与可信像素对应的像素的深度值*第一平滑值+可信像素的深度值*第二平滑值,由于第一平滑值和第二平滑值成反比关系,比如,第一平滑值=1-第二平滑值,因此,第一平滑值越大,则第二平滑值越小,另外,当平滑因子与像素的可信度成正比关系时,平滑因子和第一平滑值为正比关系,可信像素对应的平滑因子较大,因而,对应的第一平滑值较大,基于上述公式,可信像素点深度值较大比重的参考对应的第二像素的深度值,平衡了可信像素的误差。
需要说明的是,上述预设的计算公式用于对对应的像素的深度值的测量误差进行平衡,理论上像素的可信程度越低,比如深度差值越大,则对应的参考当前像素的深度值的程度就应该越大,以保留当前像素的高动态信息,当平滑因子与像素的可信程度成正比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的程度成正比关系,当平滑因子与像素的可信程度成反比关系时,则预设平滑函数用于指示平滑因子和参考像素本身深度值的程度成反比关系,如下公式(1)所示的计算公式,当平滑因子s与对应像素的可信程度成正比关系时,则对应的权重w1与平滑因子成正比关系:
其中,w1为第一平滑值,s为平滑因子,diff1为深度差值,diff2为灰度差值,d为第一权重系数,1-d为第二权重系数,σ是每个可信像素的深度值和预设标准误差的乘积值。其中,预设标准误差是由温度误差等导致的深度值的经验测量误差,可以为1%等。
综上,本发明实施例的深度图处理方法,根据相邻帧像素之间的内容差,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性,同时根据可信区域占全画幅有效区域的面积比,自适应的扩大了采集间隔,降低了时间一致性滤波的计算量。
为了实现上述实施例,本发明还提出一种深度图处理装置。图5是根据本发明一个实施例的深度图处理装置的结构示意图。如图5所示,该深度图处理装置,包括:第一获取模块10、第二获取模块20、第一确定模块30、处理模块40,其中,
第一获取模块10,用于获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧,其中,第一深度图像帧和第二深度图像帧中的各个像素均包含深度值,第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。
第二获取模块20,用于确定每个第一像素的第一内容值以及对应的第二像素的第二内容值,获取第一内容值和第二内容值的内容差。
需要说明的是,上述内容值在不同的应用场景中,包含不同的参数,示例如下:
第一种示例:
在本示例中,内容值为深度值的置信度,其中,深度值的置信度表示该点深度值的能量大小,可以理解,若第一像素和第二像素的深度值的置信度相同,则表示第一像素和第二像素越可能对应于物体的同一个点,因而,第二获取模块20可以计算第一像素和置信度和第二像素的置信度的差值作为内容差。
第二种示例:内容值为像素的灰度值,可以理解,若第一像素和第二像素的灰度值相同,则标识第一像素和第二像素越可能对应于物体的同一个点,因而,第二获取模块20可以计算第一像素和置信度和第二像素的灰度值的差值作为内容差。
第一确定模块30,用于根据内容差在第一深度图像帧中确定可信像素,并确定可信像素的所在区域面积。
具体的,正如以上分析的,内容差越小则表明第一像素和第二像素越有可能对应于物体的同一个点,从而,根据内容差在第一深度图像帧中确定可信像素,该可信像素度对应于内容差较小的像素。
进而,在确定可信像素后,第一确定模块30确定可信像素所在区域的面积,比如,可以确定第一深度图像帧中所有的可信像素,第一确定模块30基于所有可信像素组成的区域确定面积大小。
处理模块40,用于当区域面积满足预设条件时,根据区域面积调整深度图像帧的采集间隔,并根据采集间隔获取待处理的深度图像帧。
正如以上分析的,面积比表示第二图像帧和第一图像帧实际上对应的物体的相似度,面积比越大,第二图像帧和第一图像帧实际上是越可能拍摄的是物体的同一个位置的深度信息,因此,二者包含的深度信息具有大量的重复,基于两张图像帧获取针对同一个物体的相同点的深度信息可能会互相影响,导致测量精度不高,因而,我们可以基于区域面积调整深度图像帧的采集间隔,并根据采集间隔处理下一帧深度图像帧等。
在本发明的一个实施例中,如图6所示,在如图5所示的基础上,还包括:第三获取模块50,用于获取可信像素的所在区域面积和第一深度图像帧的总面积的面积比。
具体的,第三获取模块50获取可信像素的所在区域面积和第一深度图像帧的总面积的面积比,该面积比表示当前第一深度图像帧和第二深度图像帧中,针对物体的同一个点的像素点的个数,显然该面积比越大,则表明第二图像帧和第一图像帧实际上是越可能拍摄的是物体的同一个位置的深度信息。
处理模块40包括:判断单元41、第一确定单元42和第二确定单元43,其中,判断单元41判断面积比是否大于预设阈值,第一确定单元42在面积比大于预设阈值时,获取面积比与预设阈值的差值并根据差值确定采集间隔增加值,根据采集间隔增加值和初始采样间隔之和确定采集间隔,第二确定单元43在面积比小于等于预设阈值时,获取预设阈值与面积比的差值并根据差值确定采集间隔降低值,根据初始采样间隔和采集间隔降低值之差确定采集间隔。
需要说明的是,前述对深度图处理方法实施例的解释说明也适用于该实施例的深度图处理装置,此处不再赘述。
综上,本发明实施例的深度图处理装置,根据相邻帧像素之间的内容差,将深度图像帧分为可信区域和非可信区域,分区域进行平滑,有效的使深度平缓变化区域在时间维度上深度值更为平滑,保证了图像帧滤波后的深度值误差具有时间一致性,而深度快速变化区域又保持了原来的高动态性,同时根据可信区域占全画幅有效区域的面积比,自适应的扩大了采集间隔,降低了计算量。
为了实现上述实施例,本发明还提出一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时,实现如前述实施例所描述的深度图处理方法。
为了实现上述实施例,本发明还提出一种非临时性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前述方法实施例所描述的深度图处理方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能可以集成在一个处理模块中,也可以是各个单独物理存在,也可以两个或两个以上集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (8)
1.一种深度图处理方法,其特征在于,包括以下步骤:
获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;
确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差,内容值为深度值的置信度或像素的灰度值,所述深度值的置信度表示深度值的能量大小;
根据所述内容差在所述第一深度图像帧中确定可信像素,并确定所述可信像素的所在区域面积,所述可信像素对应于所述内容差较小的像素;
当所述区域面积满足预设条件时,根据所述区域面积调整深度图像帧的采集间隔,并根据所述采集间隔获取待处理的深度图像帧;
所述当所述区域面积满足预设条件时,根据所述区域面积调整深度图像帧的采集间隔,包括:
获取所述可信像素的所在区域面积和所述第一深度图像帧的总面积的面积比;
判断所述面积比是否大于预设阈值;
若大于所述预设阈值,则获取所述面积比与所述预设阈值的差值并根据所述差值确定采集间隔增加值,根据所述采集间隔增加值和初始采样间隔之和确定所述采集间隔;
若小于等于所述预设阈值,则获取所述预设阈值与所述面积比的差值并根据所述差值确定采集间隔降低值,根据所述初始采样间隔和所述采集间隔降低值之差确定所述采集间隔。
2.如权利要求1所述的方法,其特征在于,在所述根据所述内容差在所述第一深度图像帧中确定可信像素之后,还包括:
确定与所述可信像素对应的平滑因子;
根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的第二像素的深度值,对所述可信像素的深度值进行滤波处理。
3.如权利要求2所述的方法,其特征在于,所述根据所述平滑因子和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理,包括:
确定所述每个可信像素的深度值和对应的所述第二像素的深度值的深度差值;
获取所述每个可信像素的第一灰度值和对应的所述第二像素的第二灰度值,确定所述第一灰度值和所述第二灰度值的灰度差值;
获取与所述深度差值对应的第一权重系数,根据所述第一权重系数确定与所述灰度差值对应的第二权重系数;
根据预设的计算公式对所述每个可信像素的所述第一深度值、所述第一权重系数、所述第二权重系数、所述灰度差值、所述深度差值、所述平滑因子计算,获取第一平滑值;
根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理。
4.如权利要求3所述的方法,其特征在,所述根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值,对所述可信像素的深度值进行滤波处理,包括:
根据所述第一平滑值确定第二平滑值,其中,所述第一平滑值与所述第二平滑值成反比关系;
获取所述第二平滑值和所述可信像素的深度值的第一乘积;
获取所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的像素的深度值的第二乘积;
根据所述第一乘积和所述第二乘积之和对所述可信像素单元的深度值滤波处理。
6.一种深度图处理装置,其特征在于,包括:
第一获取模块,用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧,其中,所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值,所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素;
第二获取模块,用于确定所述每个第一像素的第一内容值以及对应的所述第二像素的第二内容值,获取所述第一内容值和所述第二内容值的内容差,内容值为深度值的置信度或像素的灰度值,所述深度值的置信度表示深度值的能量大小;
第一确定模块,用于根据所述内容差在所述第一深度图像帧中确定可信像素,并确定所述可信像素的所在区域面积,所述可信像素对应于所述内容差较小的像素;
处理模块,用于当所述区域面积满足预设条件时,根据所述区域面积调整深度图像帧的采集间隔,并根据所述采集间隔获取待处理的深度图像帧;
第三获取模块,用于获取所述可信像素的所在区域面积和所述第一深度图像帧的总面积的面积比;
所述处理模块,包括:
判断单元,用于判断所述面积比是否大于预设阈值;
第一确定单元,用于在所述面积比大于所述预设阈值时,获取所述面积比与所述预设阈值的差值并根据所述差值确定采集间隔增加值,根据所述采集间隔增加值和初始采样间隔之和确定所述采集间隔;
第二确定单元,用于在所述面积比小于等于所述预设阈值时,获取所述预设阈值与所述面积比的差值并根据所述差值确定采集间隔降低值,根据所述初始采样间隔和所述采集间隔降低值之差确定所述采集间隔。
7.一种电子设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-5中任一所述的深度图处理方法。
8.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-5中任一所述的深度图处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626061.1A CN110378853B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
PCT/CN2020/097460 WO2021004260A1 (zh) | 2019-07-11 | 2020-06-22 | 深度图处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910626061.1A CN110378853B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110378853A CN110378853A (zh) | 2019-10-25 |
CN110378853B true CN110378853B (zh) | 2021-03-26 |
Family
ID=68252815
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910626061.1A Active CN110378853B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法和装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110378853B (zh) |
WO (1) | WO2021004260A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110378853B (zh) * | 2019-07-11 | 2021-03-26 | Oppo广东移动通信有限公司 | 深度图处理方法和装置 |
CN111314613B (zh) * | 2020-02-28 | 2021-12-24 | 重庆金山医疗技术研究院有限公司 | 图像传感器、图像处理设备、图像处理方法及存储介质 |
WO2022109796A1 (zh) * | 2020-11-24 | 2022-06-02 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、摄像头组件及电子设备 |
CN115423695B (zh) * | 2022-07-15 | 2024-05-31 | 清华大学 | 一种用于城市预测任务的街景图像采样方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103778418A (zh) * | 2014-01-28 | 2014-05-07 | 华南理工大学 | 一种输电线路杆塔图像监测系统的山火图像识别方法 |
CN108269280A (zh) * | 2018-01-05 | 2018-07-10 | 厦门美图之家科技有限公司 | 一种深度图像的处理方法及移动终端 |
CN109724950A (zh) * | 2017-10-27 | 2019-05-07 | 黄晓淳 | 具有自适应采样帧率的动态超分辨荧光成像技术 |
CN109751985A (zh) * | 2019-03-04 | 2019-05-14 | 南京理工大学 | 一种基于安防摄像机的水库堤坝散浸监测方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7825990B2 (en) * | 2005-06-03 | 2010-11-02 | Texas Instruments Incorporated | Method and apparatus for analog graphics sample clock frequency offset detection and verification |
EP2184713A1 (en) * | 2008-11-04 | 2010-05-12 | Koninklijke Philips Electronics N.V. | Method and device for generating a depth map |
US8891905B2 (en) * | 2012-12-19 | 2014-11-18 | Hong Kong Applied Science And Technology Research Institute Co., Ltd. | Boundary-based high resolution depth mapping |
US9524556B2 (en) * | 2014-05-20 | 2016-12-20 | Nokia Technologies Oy | Method, apparatus and computer program product for depth estimation |
CN109683698B (zh) * | 2018-12-25 | 2020-05-22 | Oppo广东移动通信有限公司 | 支付验证方法、装置、电子设备和计算机可读存储介质 |
CN110378853B (zh) * | 2019-07-11 | 2021-03-26 | Oppo广东移动通信有限公司 | 深度图处理方法和装置 |
-
2019
- 2019-07-11 CN CN201910626061.1A patent/CN110378853B/zh active Active
-
2020
- 2020-06-22 WO PCT/CN2020/097460 patent/WO2021004260A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103778418A (zh) * | 2014-01-28 | 2014-05-07 | 华南理工大学 | 一种输电线路杆塔图像监测系统的山火图像识别方法 |
CN109724950A (zh) * | 2017-10-27 | 2019-05-07 | 黄晓淳 | 具有自适应采样帧率的动态超分辨荧光成像技术 |
CN108269280A (zh) * | 2018-01-05 | 2018-07-10 | 厦门美图之家科技有限公司 | 一种深度图像的处理方法及移动终端 |
CN109751985A (zh) * | 2019-03-04 | 2019-05-14 | 南京理工大学 | 一种基于安防摄像机的水库堤坝散浸监测方法 |
Non-Patent Citations (2)
Title |
---|
A noise-aware filter for real-time depth unsampling;derek chan et al.;《M2SFA2 2008:workshop on multi-camera and multi-modal sensor fusion》;20081231;第1-12页 * |
基于关键点滤波的深度图提取;唐骏等;《science technology and engineering》;20150304;第15卷(第3期);第111-115页 * |
Also Published As
Publication number | Publication date |
---|---|
WO2021004260A1 (zh) | 2021-01-14 |
CN110378853A (zh) | 2019-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110378853B (zh) | 深度图处理方法和装置 | |
CN110390690B (zh) | 深度图处理方法和装置 | |
CN110400339B (zh) | 深度图处理方法和装置 | |
CN110400331B (zh) | 深度图处理方法和装置 | |
CN110276734B (zh) | 图像畸变校正方法和装置 | |
CN110264426B (zh) | 图像畸变校正方法和装置 | |
US8249325B2 (en) | X-ray image processing apparatus, X-ray image processing method, program, and storage medium for calculating a noise amount | |
US8290061B2 (en) | Method and apparatus for adaptive frame averaging | |
CN110400343B (zh) | 深度图处理方法和装置 | |
US9105107B2 (en) | Apparatus and method for image processing | |
CN110400340B (zh) | 深度图处理方法和装置 | |
US9253459B2 (en) | Image processing apparatus and image processing method, and program | |
CN102779334B (zh) | 一种多曝光运动图像的校正方法及装置 | |
CN110400273B (zh) | 深度数据的滤波方法、装置、电子设备和可读存储介质 | |
CN110400342B (zh) | 深度传感器的参数调整方法、装置以及电子设备 | |
US11961246B2 (en) | Depth image processing method and apparatus, electronic device, and readable storage medium | |
CN106412383A (zh) | 视频图像的处理方法和装置 | |
US9639919B2 (en) | Detection and correction of artefacts in images or video | |
CN111028169A (zh) | 图像校正方法、装置、终端设备和存储介质 | |
KR101662407B1 (ko) | 영상의 비네팅 보정 방법 및 장치 | |
EP2536123A1 (en) | Image processing method and image processing apparatus | |
CN114279411B (zh) | 一种基于云计算的坡面侵蚀沟测量系统 | |
JP2005149266A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
CN110415287B (zh) | 深度图的滤波方法、装置、电子设备和可读存储介质 | |
CN106611405B (zh) | 图像插值方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |