CN110400339A - 深度图处理方法和装置 - Google Patents

Abstract

本发明提出一种深度图处理方法和装置，其中，方法包括：获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧；获取第一深度图像帧和第二深度图像帧的时间差权重；确定可信像素和非可信像素；确定与可信像素对应的第一平滑因子和与非可信像素单元对应的第二平滑因子；根据第一平滑因子和时间差权重对可信像素单元对应的深度值滤波处理，并根据第二平滑因子和时间差权重对非可信像素单元对应的深度值滤波处理。由此，基于深度值的变化情况对深度缓慢变化区域中的深度值进行基于时间一致性滤波，有效使深度平滑区域在时间维度上深度值更为平滑，而深度快速变化区域又保持了原来的高动态性。

Description

深度图处理方法和装置

技术领域

本发明涉及图像处理技术领域，尤其涉及一种深度图处理方法和装置。

背景技术

通常，在基于飞行时间(Time of flight，ToF)传感器测量物体的深度时，ToF传感器通过计算脉冲信号的飞行时间来确定传感器和物体之间的距离，进而基于距离确定出物体的深度值。其中，由于测量过程中存在着各类不确定性，带来了多种误差，在离线标定阶段已经对多种误差进行了修正，但是由于这些误差具有很大的随机性，这造成了在测量范围内ToF的深度测量误差大约为1％。在计算物体的深度值时，我们基于该固定的深度测量误差进行深度值的平滑处理。

然而，若在一定时间内，深度值的误差是固定的，即具有时间一致性，则会为我们的深度值的精确计算具有较大意义，因此，亟需一种方法能够保证深度误差在在短时间内具有时间一致性，不会发生深度误差的跳变。

发明内容

本发明旨在至少在一定程度上解决相关技术中，深度值的误差在时间上不一致具有跳变的技术问题。

为此，本发明的第一个目的在于提出一种深度图处理方法，以基于深度值的变化情况对深度缓慢变化区域中的深度值进行基于时间一致性滤波，有效的使深度平滑区域在时间维度上深度值更为平滑，而深度快速变化区域又保持了原来的高动态性。

本发明的第二个目的在于提出一种深度图处理装置。

本发明的第三个目的在于提出一种电子设备。

本发明的第四个目的在于提出一种非临时性计算机可读存储介质。

为达上述目的，本发明第一方面实施例提出了一种深度图处理方法，包括以下步骤：获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧；其中，所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值，所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素；获取所述第一深度图像帧和所述第二深度图像帧的采集时间差，并根据所述采集时间差获取时间差权重；确定所述每个第一像素的深度值和对应的所述第二像素的深度值的深度差值；根据所述深度差值在所述第一深度图像帧中确定可信像素和非可信像素；确定与所述可信像素对应的第一平滑因子和与所述非可信像素单元对应的第二平滑因子；根据所述第一平滑因子和所述时间差权重对所述可信像素单元对应的深度值滤波处理，并根据所述第二平滑因子和所述时间差权重对所述非可信像素单元对应的深度值滤波处理。

本发明第二方面实施例提出了一种深度图处理装置，包括：第一获取模块，用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧；其中，所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值，所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素；第二获取模块，用于获取所述第一深度图像帧和所述第二深度图像帧的采集时间差，并根据所述采集时间差获取时间差权重；第一确定模块，用于确定所述每个第一像素的深度值和对应的所述第二像素的深度值的深度差值；第二确定模块，用于根据所述深度差值在所述第一深度图像帧中确定可信像素和非可信像素；第三确定模块，用于确定与所述可信像素对应的第一平滑因子和与所述非可信像素单元对应的第二平滑因子；滤波模块，用于根据所述第一平滑因子和所述时间差权重对所述可信像素单元对应的深度值滤波处理，并根据所述第二平滑因子和所述时间差权重对所述非可信像素单元对应的深度值滤波处理。

本发明第三方面实施例提出了一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如第一方面实施例所述的深度图处理方法。

本发明第四方面实施例提出了一种非临时性计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面实施例所述的深度图处理方法。

本发明提供的技术方案，至少包含如下有益效果：

从相邻帧深度差相对于当前像素的深度值的误差角度考虑，同时结合相邻帧的深度图像帧的采集时间，归一化平滑权重，有效的使深度平缓变化区域在时间维度上深度值更为平滑，而深度快速变化区域又保持了原来的高动态性。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本发明实施例所提供的一种基于TOF的深度图处理方法的流程示意图；

图2是根据本发明一个实施例的原始深度值计算方法流程示意图；

图3是根据本发明一个实施例的时间一致性滤波方法流程示意图；

图4是根据本发明一个实施例的深度图处理方法的流程图；

图5是根据本发明一个实施例的深度图处理装置的结构示意图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参考附图描述本发明实施例的深度图处理方法和装置。其中，本发明实施例的深度图中的深度值是基于TOF传感器获取的。

为了使得本领域的技术人员，更加清楚的理解本发明的深度图处理方法的时机，下面结合图1对TOF的深度图处理的整个流程进行说明，如图1所示，ToF传感器发射经过调制的脉冲信号，待测量物体表面接收到脉冲信号并反射信号，然后ToF传感器接收到反射信号，并对多频相位图解码，接着根据标定参数对ToF数据进行误差修正，然后对多频信号去混叠，并将深度值由径向坐标系转换到笛卡尔坐标系，最后对深度图进行时间一致性滤波，对深度变化平缓的区域，输出时间维度上相对平滑的深滤波结果。

其中，深度时间一致性滤波方案包括两个主要阶段：ToF原始深度值计算阶段和深度时间一致性滤波阶段，其中，如图2所示，ToF原始深度值计算阶段包括：基于获取的ToF传感器采集原始相位图(单频模式下为四相位图，双频模式下为八相位图，假设本实施例中为双频模式)，计算每个像素的IQ信号，进而，根据IQ信号计算每个像素的相位和置信度，其中，置信度表示该点相位值的可信度，是该点能量大小的反应，根据ToF离线标定的内参在线修正几种误差，包括循环误差，温度误差，梯度误差，视差误差等，在双频去混叠前进行前滤波，以分别过滤各频率模式下的噪声，在去除双频的噪声后，对双频进行混叠，确定每个像素的真实周期数，基于该真实周期数对混叠的结果进行后滤波，进而将后滤波后的径向坐标系转换到笛卡尔坐标系，进行下一步的处理。

在深度时间一致性滤波阶段,如图3所示，本发明的实施例中在获取到笛卡尔坐标系下的原始深度图后，迭代每个像素点，判断每个像素点是否相邻帧之间深度值的差值较小，深度值的差值较小，比如小于该像素点的绝对深度值的理论误差，则认为该像素点为深度变化缓慢区域的可信像素，对该可信像素否则，则认为该像素是深度动态范围较大的非可信像素，结合相邻帧时间的实深度数据的时间戳即采集时间，归一化平滑权重，对可信像素所在的可信区域进行平滑。

本发明中的深度图处理方法，主要针对上述图3指出的时间一致性滤波进行说明，图4是根据本发明一个实施例的深度图处理方法的流程图，如图4所示，该深度图处理方法包括：

步骤101，获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧；其中，第一深度图像帧和第二深度图像帧中的各个像素均包含深度值，第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。

需要说明的是，第二深度图像帧与第一深度图像帧相邻，可以是位于第一深度图像帧之前的上一帧，也可以位于第一深度图像帧之后的下一帧，这根据具体的应用需求而定，当然在同样的场景中，图像帧的参考方向都是固定的，比如，都参考相邻的上一帧，或者，都参考相邻的下一帧进行深度值误差的平滑处理。

另外，第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素，需要强调的是，这种第一像素和第二像素的对应关系，表示的是在像素位置上的对应。

步骤102，获取第一深度图像帧和第二深度图像帧的采集时间差，并根据采集时间差获取时间差权重。

可以理解，深度图像帧之间采集时间差在一定程度上体现了相邻深度图像帧之间的相似度，理论上，采集时间差越小，则意味着二者之间越相似，否则，二者之间则差异性越大，因此，在本实施例中，基于采集时间差进行归一化的时间差权重的确定，保证深度图像帧中的深度变化平缓区域在滤波的时间一致性。

基于此，显然当采集时间差较大时，第一深度图像帧和第二深度图像帧之间差异性较大，没有必要基于第二深度图像帧作为参考，因此，需要在基于时间差权重对第一深度图像进行深度平滑处理之前，确定采集时间差小于等于预设时间阈值，当采集时间差大于预设时间阈值时，将第二深度图像帧确定为无效帧，从而，对第一深度图像帧进行原有深度值的保留。

具体的，根据第一深度图像帧和第二深度图像帧的采集时间差，获取第一深度图像帧和第二深度图像帧的时间差权重，其中，在不同的应用场景下，根据采集时间差获取时间差权重的方式不同，示例如下：

第一种示例：

在本示例中，根据时间权重计算公式和采集时间差，获取时间差权重，其中，时间权重计算公式为下述公式(1)，其中，公式(1)为：

其中，t为时间差权重，t_gap为采集时间差，t_max为预设两帧最大采集时间差，该最大采集时间差是系统标定的，t_std为预设的两帧采集标准时间差，该采集标准时间差是TOF传感器采集深度图像帧的理论时间差。

第二种示例：

在本示例中，预先根据大量实验数据构建采集时间差和时间差权重的对应关系，基于第一深度图像帧和所述第二深度图像帧的采集时间差，查询该对应关系获取第一深度图像帧和第二深度图像帧的时间差权重。

步骤103，确定每个第一像素的深度值和对应的第二像素的深度值的深度差值。

具体的，由于第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值，因此，可基于对应的深度图像帧获取每个第一像素的深度值和对应的第二像素的深度值的深度差值。

步骤104，根据深度差值在第一深度图像帧中确定可信像素和非可信像素。

可以理解，如果深度差值较小，则认为第一像素和对应的第二像素可能对应于物体的同一个点，因而，将该第一像素确定为可信像素，该可信像素可以理解为深度变化缓慢的可信区域的像素，本实施例中，为了平衡基于时间的深度误差的跳变，主要基于该可信像素进行深度值的平滑处理，反之，如果深度差值较大，则认为第一像素和对应的第二像素可能对应于不同的拍摄点，因而，将该第一像素确定为非可信像素，该非可信像素可以理解为深度快速变化区域的非可信区域的像素，基于非可信像素我们可以进行较弱力度的平滑处理或者直接保留该区域的深度值，以实现对该深度快速变化区域的深度值的保留。

需要说明的是，在不同的应用场景下，根据深度差值在第一深度图像帧中确定可信像素和非可信像素的方式不同，示例如下：

第一种示例:

在本示例中，基于前后帧之间的绝对深度差进行像素可信度的评判，而不是基于相对误差。

具体而言，在本示例中，根据预设理论误差比例确定与每个第一像素的深度值对应的深度误差值，其中，预设理论误差误差比例可以根据经验值标定，基于根据预设理论误差比例与每个第一像素的深度值的乘积值，可以确定出在当前第一像素的深度值的绝对值下，对应的绝对深度差值即深度误差值为多少，基于第一像素和对应的第二深度差值的大小关系，确定可信像素和非可信像素，显然更准确，具体而言，当深度差值小于深度误差值时，确定对应的第一像素为可信像素，当深度差值大于等于深度误差值时，确定对应的第一像素为非可信像素。

举例而言，以相对误差为10，预设理论误差比例为1％为例，当根据相对误差确定可信像素和非可信像素，若第一像素和第二像素的深度值为[500，518]，二者的深度值的深度差为18，大于相对误差10，则认为该第一像素为非可信像素，若第一像素和第二像素的深度值为[2000,2018]，二者的深度值的深度差也为18，大于相对误差10，则也认为该第一像素为非可信像素，而显然，若第一像素和第二像素的深度值为[2000,2018]，显然二者的差距较小，实际上应当为可信像素。这种依赖于相对误差确定像素是否可信的方式准确率较低。

若以绝对误差进行确定可信像素和非可信像素，若第一像素和第二像素的深度值为[500，518]，％1*500＝5，二者的像素误差18大于5，则显然该第一像素和第二像素之间的深度差较大，第一像素为非可信像素，若第一像素和第二像素的深度值为[2000,2018]，1％*2000＝20，二者的像素误差18小于20，则显然第一像素为可信像素。因此，本示例中基于绝对误差进行像素可信度判断，更加准确。

第二种示例：

在本示例中，可以在获取深度差值以后，将深度差值与预设深度阈值比较，该预设深度阈值为根据经验设置的，若该深度差值大于深度阈值，则认为该第一像素为非可信像素，否则，认为该第一像素为可信像素。

步骤105，确定与可信像素对应的第一平滑因子和与非可信像素单元对应的第二平滑因子。

具体的，根据深度差值在第一深度图像帧中确定可信像素和非可信像素后，由于非可信像素指的是高动态变化的像素，可信像素指的是缓慢变化的像素，因而，需要针对不同的区域要进行不同的平滑处理，在保证高动态的基础上，平滑由运动带来的误差。即确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子，针对不同的平滑因子为不同的像素适配不同的平滑处理力度。

需要说明的是，在不同的应用场景下，确定第一平滑因子和第二平滑因子的方式不同，示例说明如下：

在本发明的一个实施例中，根据预设的对应关系获取与可信像素深度差值对应的平滑因子增加值，获取初始平滑因子，根据平滑因子增加值和初始平滑因子之和获取第一平滑因子，即如图3所示，在原始平滑因子的基础上放大平滑因子，加大对可信像素的深度值的平滑力度。

根据预设的对应关系获取与非可信像素深度差值对应的平滑因子降低值，进而，根据初始平滑因子和平滑因子降低值之差获取第二平滑因子，即如图3所示，在原始平滑因子的基础上减小平滑因子，降低对非可信像素的深度值的平滑力度，以保留非可信像素的高动态信息。

需要强调的是，在本示例中，平滑因子增加值和平滑因子提高值之间的对应关系可以为同一个对应关系，也可以不同，在此不作限制。

在本发明的另一个实施例中，为可信像素和非可信像素分别适配固定的平滑因子，比如，确定与可信像素对应的第一平滑因子为1，确定与非可信像素对应的第二平滑因子为0。这种方式提高了平滑处理的效率。

步骤106，根据第一平滑因子和时间差权重对可信像素单元对应的深度值滤波处理，并根据第二平滑因子和时间差权重对非可信像素单元对应的深度值滤波处理。

具体的，根据第一平滑因子和时间差权重对可信像素单元对应的深度值滤波处理，并根据第二平滑因子和时间差权重对非可信像素单元对应的深度值滤波处理，由此，从相邻帧的深度差角度考虑，结合相邻帧之间的时间差，对第一深度图像帧进行时间一致性滤波，有效的使深度平缓变化区域在时间维度上的深度值更为平滑，且保留了图像的高动态信息。

作为一种可能的实现方式，确定可信像素的第一深度值和与可信像素单元对应的第二像素的深度值的第一深度差值，并确定非可信像素的第二深度值和与非可信像素单元对应的第二像素的深度值的第二深度差值，进而，根据预设的计算公式对第一深度差值、第一深度值、第一平滑因子和时间差权重计算，获取第一平滑值，根据预设的计算公式对第二深度差值、第二深度值、第二平滑因子和时间差权重计算，获取第二平滑值，最后，根据第一平滑值和第二深度图像帧中与可信像素对应的第二像素的深度值，对可信像素的深度值进行滤波处理，根据第二平滑值和第二深度图像帧中与非可信像素对应的第二像素的深度值，对非可信像素的深度值进行滤波处理。

作为一种可能的实现方式，在上述滤波处理的方式可以为：

对可信像素的滤波处理：

该可信像素和对应的第二像素理论上对应于物体同一点，获取第一平滑值后，根据第一平滑值确定第三平滑值，进而，获取第一平滑值和与可信像素对应的第二像素的深度值的第一乘积，并获取第三平滑值和可信像素的深度值的第二乘积，根据第一乘积和第二乘积之和对可信像素的深度值滤波处理，即可信像素点深度值＝与可信像素对应的第二像素的*第一平滑值+可信像素的深度值*第三平滑值，由于第一平滑值和第三平滑值成反比关系，比如，第一平滑值＝1-第三平滑值，因此，第一平滑值越大，则第三平滑值越小。

另外，当第一平滑因子和时间差权重与像素的可信度成正比关系时，第一平滑因子和第一平滑值为正比关系，第一平滑因子较大，因而，对应的第一平滑值较大，基于上述公式，可信像素点深度值较大比重的第二深度图像帧中与可信像素对应的第二像素的深度值，比如，当第一平滑因子为1时，则对应的第一平滑值为较大，此时，可信像素点深度值较为侧重的考虑对应的第二像素的深度值，较好的对可信像素的深度值的误差进行了时间一致性滤波。

对非可信像素的滤波处理：

该非可信像素和对应的第二像素理论上对应于不同的拍摄点，获取第二平滑值后，根据第二平滑值确定第四平滑值，进而，获取第二平滑值和与非可信像素对应的第二像素的深度值的第三乘积，并获取第四平滑值和非可信像素的深度值的第四乘积，根据第三乘积和第四乘积之和对非可信像素的深度值滤波处理，即非可信像素点深度值＝与非可信像素对应的第二像素的*第二平滑值+非可信像素的深度值*第四平滑值，由于第二平滑值和第四平滑值成反比关系，比如，第二平滑值＝1-第四平滑值，因此，第二平滑值越大，则第四平滑值越小。

另外，当第二平滑因子和时间差权重与像素的可信度成正比关系时，第二平滑因子和第二平滑值为正比关系，第二平滑因子较小，因而，对应的第二平滑值较小，基于上述公式，非可信像素点深度值较大比重保留其本身的深度值，比如，当第二平滑因子为0时，则对应的第二平滑值为0，此时，非可信像素点深度值即为其本身的深度值，较好的保留了非可信像素的高动态信息。

需要说明的是，上述预设的计算公式用于对对应的像素的深度差和采集时间差进行平衡，理论上像素的可信程度越高，即深度差和采集时间差越大，则对应的参考当前像素的深度值的程度就应该越小，以保留当前像素的高动态信息，当平滑因子与像素的可信程度成正比关系时，则预设的计算公式用于指示平滑因子和平滑值的正比关系，当平滑因子与像素的可信程度成反比关系时，则预设平滑函数用于指示平滑因子和平滑值的反比关系。

当平滑因子与像素的可信程度成正比关系时，上述预设的计算公式则如下公式(2)所示：

其中，w1为对应的平滑值，s为对应的平滑因子，diff为对应的深度差值，σ为对应像素的深度值和预设标准深度误差的乘积，其中，预设标准深度误差由系统标定，比如可以为1％。

综上，本发明实施例的深度图处理方法，从相邻帧深度差相对于当前像素的深度值的误差角度考虑，同时结合相邻帧的深度图像帧的采集时间，归一化平滑权重，有效的使深度平缓变化区域在时间维度上深度值更为平滑，而深度快速变化区域又保持了原来的高动态性。

为了实现上述实施例，本发明还提出一种深度图处理装置。图5是根据本发明一个实施例的深度图处理装置的结构示意图。如图5所示，该深度图处理装置，包括：第一获取模块10、第二获取模块20、第一确定模块30、第二确定模块40、第三确定模块50和滤波模块60，其中，

第一获取模块10，用于获取第一深度图像帧和与第一深度图像帧相邻的第二深度图像帧；其中，第一深度图像帧和第二深度图像帧中的各个像素均包含深度值，第一深度图像帧中的每个第一像素在第二深度图像帧中包含对应的第二像素。

第二获取模块20，用于获取第一深度图像帧和第二深度图像帧的采集时间差，并根据采集时间差获取时间差权重。

具体的，根据第一深度图像帧和第二深度图像帧的采集时间差，获取第一深度图像帧和第二深度图像帧的时间差权重，其中，在不同的应用场景下，根据采集时间差获取时间差权重的方式不同，示例如下：

第一种示例：

在本示例中，第二获取模块20根据时间权重计算公式和采集时间差，获取时间差权重，其中，时间权重计算公式为下述公式(1)，其中，公式(1)为：

其中，t为时间差权重，t_gap为采集时间差，t_max为预设两帧最大采集时间差，该最大采集时间差是系统标定的，t_std为预设的两帧采集标准时间差，该采集标准时间差是TOF传感器采集深度图像帧的理论时间差。

第二种示例：

在本示例中，预先根据大量实验数据构建采集时间差和时间差权重的对应关系，第二获取模块20基于第一深度图像帧和所述第二深度图像帧的采集时间差，查询该对应关系获取第一深度图像帧和第二深度图像帧的时间差权重。

第一确定模块30，用于确定每个第一像素的深度值和对应的第二像素的深度值的深度差值。

具体的，由于第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值，因此，第一确定模块30可基于对应的深度图像帧获取每个第一像素的深度值和对应的第二像素的深度值的深度差值。

第二确定模块40，用于根据深度差值在第一深度图像帧中确定可信像素和非可信像素。

需要说明的是，在不同的应用场景下，第二确定模块40根据深度差值在第一深度图像帧中确定可信像素和非可信像素的方式不同，示例如下：

第一种示例:

在本示例中，第二确定模块40基于前后帧之间的绝对深度差进行像素可信度的评判，而不是基于相对误差。

具体而言，在本示例中，第二确定模块40根据预设理论误差比例确定与每个第一像素的深度值对应的深度误差值，其中，预设理论误差误差比例可以根据经验值标定，基于根据预设理论误差比例与每个第一像素的深度值的乘积值，可以确定出在当前第一像素的深度值的绝对值下，对应的绝对深度差值即深度误差值为多少，第二确定模块40基于第一像素和对应的第二深度差值的大小关系，确定可信像素和非可信像素，显然更准确，具体而言，当深度差值小于深度误差值时，确定对应的第一像素为可信像素，当深度差值大于等于深度误差值时，确定对应的第一像素为非可信像素。

举例而言，以相对误差为10，预设理论误差比例为1％为例，当根据相对误差确定可信像素和非可信像素，若第一像素和第二像素的深度值为[500，518]，二者的深度值的深度差为18，大于相对误差10，则认为该第一像素为非可信像素，若第一像素和第二像素的深度值为[2000,2018]，二者的深度值的深度差也为18，大于相对误差10，则也认为该第一像素为非可信像素，而显然，若第一像素和第二像素的深度值为[2000,2018]，显然二者的差距较小，实际上应当为可信像素。这种依赖于相对误差确定像素是否可信的方式准确率较低。

若以绝对误差进行确定可信像素和非可信像素，若第一像素和第二像素的深度值为[500，518]，％1*500＝5，二者的像素误差18大于5，则显然该第一像素和第二像素之间的深度差较大，第一像素为非可信像素，若第一像素和第二像素的深度值为[2000,2018]，1％*2000＝20，二者的像素误差18小于20，则显然第一像素为可信像素。因此，本示例中基于绝对误差进行像素可信度判断，更加准确。

第二种示例：

在本示例中，第二确定模块40可以在获取深度差值以后，将深度差值与预设深度阈值比较，该预设深度阈值为根据经验设置的，若该深度差值大于深度阈值，则第二确定模块40认为该第一像素为非可信像素，否则，第二确定模块40认为该第一像素为可信像素。

第三确定模块50，用于确定与可信像素对应的第一平滑因子和与非可信像素单元对应的第二平滑因子。

具体的，第三确定模块50根据深度差值在第一深度图像帧中确定可信像素和非可信像素后，由于非可信像素指的是高动态变化的像素，可信像素指的是缓慢变化的像素，因而，第三确定模块50需要针对不同的区域要进行不同的平滑处理，在保证高动态的基础上，平滑由运动带来的误差。即第三确定模块50确定与可信像素对应的第一平滑因子和与非可信像素对应的第二平滑因子，针对不同的平滑因子为不同的像素适配不同的平滑处理力度。

滤波模块60，用于根据第一平滑因子和时间差权重对可信像素单元对应的深度值滤波处理，并根据第二平滑因子和时间差权重对非可信像素单元对应的深度值滤波处理。

具体的，滤波模块60根据第一平滑因子和时间差权重对可信像素单元对应的深度值滤波处理，并根据第二平滑因子和时间差权重对非可信像素单元对应的深度值滤波处理，由此，从相邻帧的深度差角度考虑，结合相邻帧之间的时间差，对第一深度图像帧进行时间一致性滤波，有效的使深度平缓变化区域在时间维度上的深度值更为平滑，且保留了图像的高动态信息。

综上，本发明实施例的深度图处理装置，从相邻帧深度差相对于当前像素的深度值的误差角度考虑，同时结合相邻帧的深度图像帧的采集时间，归一化平滑权重，有效的使深度平缓变化区域在时间维度上深度值更为平滑，而深度快速变化区域又保持了原来的高动态性。

为了实现上述实施例，本发明还提出一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时，实现如前述实施例所描述的深度图处理方法。

为了实现上述实施例，本发明还提出一种非临时性计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如前述方法实施例所描述的深度图处理方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种深度图处理方法，其特征在，包括以下步骤：

获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧；其中，所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度，所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素；

获取所述第一深度图像帧和所述第二深度图像帧的采集时间差，并根据所述采集时间差获取时间差权重；

确定所述每个第一像素的深度值和对应的所述第二像素的深度值的深度差值；

根据所述深度差值在所述第一深度图像帧中确定可信像素和非可信像素；

确定与所述可信像素对应的第一平滑因子和与所述非可信像素单元对应的第二平滑因子；

根据所述第一平滑因子和所述时间差权重对所述可信像素单元对应的深度值滤波处理，并根据所述第二平滑因子和所述时间差权重对所述非可信像素单元对应的深度值滤波处理。

2.如权利要求1所述的方法，其特征在于，所述并根据所述采集时间差获取时间差权重，包括：

根据时间权重计算公式和所述采集时间差，获取所述时间差权重，其中，所述时间权重计算公式为：

其中，t为所述时间差权重，t_gap为所述采集时间差，t_max为预设两帧最大采集时间差，t_std为预设的两帧采集标准时间差。

3.如权利要求1所述的方法，其特征在于，所述确定与所述可信像素对应的第一平滑因子和与所述非可信像素单元对应的第二平滑因子，包括：

根据预设的对应关系获取与所述可信像素深度差值对应的平滑因子增加值；

获取初始平滑因子，根据所述平滑因子增加值和所述初始平滑因子之和获取所述第一平滑因子；

根据预设的对应关系获取与所述非可信像素深度差值对应的平滑因子降低值；

根据所述初始平滑因子和所述平滑因子降低值之差获取所述第二平滑因子。

4.如权利要求1所述的方法，其特征在于，所述根据所述第一平滑因子和所述时间差权重对所述可信像素单元对应的深度值滤波处理，并根据所述第二平滑因子和所述时间差权重对所述非可信像素单元对应的深度值滤波处理，包括：

确定所述可信像素的第一深度值和与所述可信像素单元对应的第二像素的深度值的第一深度差值，并确定所述非可信像素的第二深度值和与所述非可信像素单元对应的第二像素的深度值的第二深度差值；

根据预设的计算公式对所述第一深度差值、所述第一深度值、所述第一平滑因子和所述时间差权重计算，获取第一平滑值；

根据所述预设的计算公式对所述第二深度差值、所述第二深度值、所述第二平滑因子和所述时间差权重计算，获取第二平滑值；

根据所述第一平滑值和所述第二深度图像帧中与所述可信像素对应的第二像素的深度值，对所述可信像素的深度值进行滤波处理；

根据所述第二平滑值和所述第二深度图像帧中与所述非可信像素对应的第二像素的深度值，对所述非可信像素的深度值进行滤波处理。

5.如权利要求4所述的方法，其特征在于，所述预设的计算公式为：

其中，w1为对应的平滑值，s为对应的平滑因子，diff为对应像素的深度差值，σ为对应像素的深度值和预设标准深度误差的乘积。

6.如权利要求1所述的方法，其特征在于，所述根据所述深度差值在所述第一深度图像帧中确定可信像素和非可信像素，包括：

根据预设理论误差比例与所述每个第一像素的深度值的乘积值，获取所述每个第一像素对应的深度误差值；

判断所述深度差值和所述深度误差值的大小关系；

当所述深度差值小于所述深度误差值时，确定对应的第一像素为所述可信像素；

当所述深度差值大于等于所述深度误差值时，确定对应的第一像素为所述非可信像素。

7.如权利要求1所述的方法，其特征在于，在所述并根据所述采集时间差获取时间差权重之前，还包括：

确定所述采集时间差小于等于预设时间阈值。

8.一种深度图处理装置，其特征在于，包括：

第一获取模块，用于获取第一深度图像帧和与所述第一深度图像帧相邻的第二深度图像帧；其中，所述第一深度图像帧和所述第二深度图像帧中的各个像素均包含深度值，所述第一深度图像帧中的每个第一像素在所述第二深度图像帧中包含对应的第二像素；

第二获取模块，用于获取所述第一深度图像帧和所述第二深度图像帧的采集时间差，并根据所述采集时间差获取时间差权重；

第一确定模块，用于确定所述每个第一像素的深度值和对应的所述第二像素的深度值的深度差值；

第二确定模块，用于根据所述深度差值在所述第一深度图像帧中确定可信像素和非可信像素；

第三确定模块，用于确定与所述可信像素对应的第一平滑因子和与所述非可信像素单元对应的第二平滑因子；

滤波模块，用于根据所述第一平滑因子和所述时间差权重对所述可信像素单元对应的深度值滤波处理，并根据所述第二平滑因子和所述时间差权重对所述非可信像素单元对应的深度值滤波处理。

9.一种电子设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如权利要求1-7中任一所述的深度图处理方法。

10.一种非临时性计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的深度图处理方法。