CN110400338A - 深度图处理方法、装置和电子设备 - Google Patents

Abstract

本申请提出一种深度图处理方法、装置和电子设备，其中，方法包括：获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度；在深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，深度图与成像图同步采集得到；根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值；根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。该方法能够实现有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

Description

深度图处理方法、装置和电子设备

技术领域

本申请涉及图像处理技术领域，尤其涉及一种深度图处理方法、装置和电子设备。

背景技术

目前，为了改善深度图质量，可以对深度图进行滤波处理。现有技术中，采用双边滤波、各向异性滤波、基于固定阈值的滤波等通过滤波算法，对深度图进行滤波处理。

然而实际应用场景中，由于往往会存在较多的不确定性，比如背景与前景的距离不同，前景到飞行时间(Time of Flight，简称TOF)相机的距离不同，环境光照不同等等，上述滤波算法需要用户针对具体场景做合理的参数设置。这种方式下，对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说，这样的设置是非常困难的，可能导致滤波后的深度图中存在较多的飞像素点，影响后续的图像处理。

发明内容

本申请提出一种深度图处理方法、装置和电子设备，以实现有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性，用于解决现有技术中滤波后的深度图中存在较多的飞像素点的技术问题。

本申请第一方面实施例提出了一种深度图处理方法，包括：

获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；

在所述深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，所述深度图与所述成像图同步采集得到；

根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值；

根据所述第一置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。

本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域，接着，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值，最后，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

本申请第二方面实施例提出了一种深度图处理装置，包括：

获取模块，用于获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；

第一确定模块，用于在所述深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，所述深度图与所述成像图同步采集得到；

第二确定模块，用于根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值；

处理模块，用于根据所述第一置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。

本申请实施例的深度图处理装置，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域，接着，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值，最后，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

本申请第三方面实施例提出了一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如本申请第一方面实施例提出的深度图处理方法。

本申请第四方面实施例提出了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请第一方面实施例提出的深度图处理方法。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本申请实施例一所提供的深度图处理方法的流程示意图；

图2为本申请实施例二所提供的深度图处理方法的流程示意图；

图3为本申请实施例三所提供的深度图处理方法的流程示意图；

图4为本申请实施例四所提供的深度图处理方法的流程示意图；

图5为本申请实施例五所提供的深度图处理装置的结构示意图；

图6为本申请实施例六所提供的深度图处理装置的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

目前，单频率TOF相机的原始数据的处理流程主要包括以下步骤：

步骤1，将原始数据转换为i，q数据，其中，i，q表示收集的电荷，分别为距离对应延迟相角的正弦值和余弦值；

步骤2，将i，q转化为置信度p0(|i|+|q|)和相位差c0(arctan(i/q))；

步骤3，对置信度p0进行误差校正，得到p_cor；

步骤4，根据p_cor和c0确定i，q；

步骤5，对i，q进行滤波处理；

步骤6，对滤波处理后的径向深度图转为点云深度图。

其中，步骤5中对i，q进行滤波，是对i，q进行独立的滤波，主要涉及以下子步骤：

a)通过平滑相应的i，q数值，以平滑深度图的整体深度值，其中，平滑滤波采用的是诸如向异性滤波、中值滤波等通用的滤波算法；

b)将i，q转换为深度信息和置信度信息；

c)对产生的深度进行通用算法的滤波(包括时间以及空间滤波)，其中，采用的通用算法包括双边滤波、各向异性滤波、飞像素/置信度阈值滤波等等滤波算法，可以在一定程度改善输出深度图质量。

然而，上述滤波算法需要用户针对具体场景做合理的参数设置，对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说，这样的设置是非常困难的，可能导致滤波后的深度图中存在较多的飞像素点，影响后续的图像处理。

本申请主要针对现有技术中滤波后的深度图中存在较多的飞像素点的技术问题，提出一种深度图处理方法。

本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域，接着，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值，最后，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

下面参考附图描述本申请实施例的深度图处理方法、装置和电子设备。

图1为本申请实施例一所提供的深度图处理方法的流程示意图。

本申请实施例以该深度图处理方法被配置于深度图处理装置中来举例说明，该深度图处理装置可以应用于任一具有拍照功能的电子设备中，以使该电子设备执行深度图处理功能。

其中，电子设备可以为移动终端或者智能摄像机等，对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。

如图1所示，该深度图处理方法包括以下步骤：

步骤101，获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。

本申请实施例中，电子设备可以包括TOF相机或TOF摄像头，通过TOF相机采集得到深度图，采集得到的深度图中每个像素单元具有对应的深度和深度的置信度，其中，TOF相机可以包括红外发射光源，通过红外发射光源向外发射光波信号，感光模组可以接收反射光波信号，从而根据发射光波信号与反射光波信号的相位变化，可以进行距离测量，得到对应的深度信息。

也就是说，每个像素单元对应的深度是根据红外光相位差生成的，而深度的置信度是根据红外光强确定的，其中，距离TOF相机越近，深度越小，深度的置信度越大，距离TOF相机越远，深度越大，深度的置信度越小。

步骤102，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，深度图与成像图同步采集得到。

本申请实施例中，成像图为二维的，例如，电子设备可以包括RGB摄像头，通过该RGB摄像头采集得到成像图。其中，成像图和深度图为同步采集的。

本申请实施例中，感兴趣区域(Region of Interest，简称ROI)可以为用户感兴趣的物体所在的区域，其中，感兴趣的物体可以为电子设备的内置程序预先设定的，或者，为了满足用户的个性化需求，感兴趣的物体还可以由用户进行设置，比如电子设备可以提供输入界面，用户可以根据自身需求在该输入界面，输入其感兴趣的物体，本申请对此并不做限制。

举例而言，感兴趣的物体所在的区域，即ROI可以为植物、动物、建筑物、人等所在的区域，或者，对于人像场景而言，ROI可以为人像的局部区域，比如人脸区域、手部区域、腰部区域、腿部区域、脚部区域等等，此处不一一列举。

作为一种可能的实现方式，为了提升感兴趣区域识别结果的准确性，可以基于深度学习的图像处理技术，在成像图中识别该感兴趣区域。

例如，可以采用语义分割模型，对成像图进行识别，确定感兴趣区域，其中，语义分割模块可以为相关技术中较为成熟的语义分割模型，比如为deeplab、psp等模型，对此不作限制。具体地，可以预先采集训练图像，或者从互联网上下载训练图像，而后可以对训练图像中感兴趣的物体所在的区域进行标注，利用标注后的训练图像，对初始的语义分割模型进行训练，训练后的语义分割模型可以学习得到图像与感兴趣区域之间的对应关系。

或者，还可以采用预先训练的识别模型，对成像图进行识别，确定感兴趣区域，其中，上述预先训练的识别模型，已学习得到颜色特征、形状特征、边缘特征和/或纹理特征与感兴趣区域之间的对应关系。

作为另一种可能的实现方式，还可以基于RGB颜色分割方法，从成像图中识别感兴趣区域。例如，当感兴趣区域为手部区域时，可以将RGB颜色空间的成像图转化到HSV颜色空间进行手部皮肤检测，并对检测结果进行二值化，比如检测到皮肤，则将像素单元对应的取值设为1，若未检测到皮肤，则将像素单元对应的取值设为0，之后，对各个包含取值1的区域，进行像素单元个数的统计，从而可以将统计结果最大的区域，作为手部区域。

需要说明的是，还可以基于其他算法，从成像图中识别感兴趣区域，本申请对此并不做限制。

在确定成像图中的感兴趣区域后，可以根据深度图和成像图之间的映射关系，在深度图中，确定与成像图中感兴趣区域相应的目标区域。具体地，在得到成像图中感兴趣区域后，针对该感兴趣区域中的每个像素单元，可以根据深度图和成像图之间的映射关系，在深度图中，确定与该像素单元对应的第一像素单元，从而根据所有的第一像素单元，可以确定目标区域。

步骤103，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值。

本申请实施例中，在确定深度图中目标区域后，可以根据该目标区域中各像素单元对应深度的置信度，确定第一置信阈值，例如，可以根据该目标区域中各像素单元对应深度的置信度，确定置信度的均值，根据该均值，确定第一置信阈值，或者，可以根据该目标区域中各像素单元对应的置信度，确定置信度的中值，根据该中值，确定第一置信阈值，或者，还可以根据其他算法，确定第一置信阈值，本申请对此并不做限制。

步骤104，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。

本申请实施例中，在确定第一置信阈值后，可以根据该第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。例如，针对深度图中的每个像素单元，可以将该像素单元对应深度的置信度与第一置信阈值进行比较，若该像素单元对应深度的置信度小于第一置信阈值，则删除该像素单元对应的深度，若该像素单元对应深度的置信度大于或者等于第一置信阈值，则保留该像素单元对应的深度。由此，可以实现仅保留置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

作为一种示例，通过深度学习技术，可以准确识别深度图中用户感兴趣的物体所在的区域，即ROI，而第一置信阈值是根据ROI中各像素单元对应深度的置信度确定的，因此，对深度图中置信度小于第一置信阈值的像素单元，删除相应像素单元对应的深度，可以提高感兴趣区域内深度图的质量，提升感兴趣区域边缘效果，并且，可以有效去除感兴趣区域内的飞像素点，改善深度图的平滑性，解决飞像素点对感兴趣区域边缘干扰的问题。

本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域，接着，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值，最后，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

作为一种可能的实现方式，针对步骤103，可以根据深度图中目标区域内预设个数的像素单元对应置信度的中值，确定第一置信阈值。下面结合实施例二，对上述过程进行详细说明。

图2为本申请实施例二所提供的深度图处理方法的流程示意图。

如图2所示，在图1所示实施例的基础上，步骤103具体可以包括以下子步骤：

步骤201，对目标区域中各像素单元，按照置信度从大到小排序，得到排序在前的多个像素单元。

具体地，针对该目标区域，可以将目标区域中所有像素单元对应深度的置信度，按照置信度大小按序排列，比如按照置信度从大到小排序，得到排序在前的多个像素单元。

作为一种可能的实现方式，多个像素单元的个数，可以为目标区域内包含的像素单元总个数与固定比例的乘积。其中，0<固定比例≤1，该固定比例可以由电子设备的内置程序预先设定，或者还可以由用户进行设置，对此不作限制，比如固定比例可以为10％。

作为另一种可能的实现方式，多个像素单元的个数，还可以与目标区域内包含的像素单元总个数具有正向关系，即多个像素单元的个数可以随着目标区域内包含的像素单元总个数的增大而增大，或者，多个像素单元的个数可以随着目标区域内包含的像素单元总个数的减小而减小。

步骤202，根据多个像素单元对应置信度的中值，确定第一置信阈值。

本申请实施例中，在确定排序在前的多个像素单元后，比如，标记多个像素单元的个数为N，若N为奇数，则多个像素单元对应置信度的中值，可以为处于序列中第(N+1)/2个位置的像素单元对应深度的置信度；若N为偶数，则多个像素单元对应置信度的中值，可以为处于序列中第N/2个位置的像素单元对应深度的置信度，或者为处于序列中第(N/2+1)个位置的像素单元对应深度的置信度，或者为处于序列中第N/2个位置像素单元对应深度的置信度和第(N/2+1)个位置的像素单元对应深度的置信度的均值。在确定多个像素单元对应置信度的中值后，可以将该中值，作为第一置信阈值。

本申请实施例的深度图处理方法，通过对目标区域中各像素单元，按照置信度从大到小排序，得到排序在前的多个像素单元；根据多个像素单元对应置信度的中值，确定第一置信阈值。由此，可以实现针对感兴趣区域内各像素单元对应深度的置信度，自适应选取第一置信阈值，从而根据该第一置信阈值，对深度图进行滤波时，可以提高感兴趣区域内深度图的质量。

需要说明的是，实际应用过程中，成像图中的感兴趣区域的个数可以为多个，比如人像场景，存在多张人脸，或者用户在拍摄景物时，成像图存在多种植物、动物等，此时，深度图中也将存在多个目标区域，因此，本申请中，需要确定每个目标区域对应的第一置信阈值，从而可以根据每个区域对应的第一置信阈值，对相应目标区域内的各像素单元所对应深度进行滤波处理，以提高每个目标区域内深度图的质量。下面结合实施例三，对上述过程进行详细说明。

图3为本申请实施例三所提供的深度图处理方法的流程示意图。

如图3所示，该深度图处理方法可以包括以下步骤：

步骤301，获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。

步骤301的执行过程可以参见上述实施例中步骤101的执行过程，在此不做赘述。

步骤302，在深度图中，确定与成像图中的各感兴趣区域相对应的目标区域。

本申请实施例中，成像图中的感兴趣区域为至少两个，对应的目标区域的个数也为至少两个。可以采用步骤102的实现方式，依次识别深度图中，与成像图中的各感兴趣区域相对应的目标区域，在此不做赘述。

步骤303，针对各目标区域，根据相应目标区域中各像素单元对应深度的置信度，确定相应目标区域的第一置信阈值。

本申请实施例中，在确定深度图中各目标区域后，针对每个目标区域，可以根据该目标区域中各像素单元对应深度的置信度，确定相应目标区域的第一置信阈值，其实现原理与步骤103类似，或者，与步骤201至202类似，此处不做赘述。

步骤304，根据各目标区域的第一置信阈值，对相应目标区域内的像素单元所对应深度进行滤波处理。

本申请实施例中，在确定每个目标区域对应的第一置信阈值后，针对每个目标区域，可以根据该目标区域的第一置信阈值，对该目标区域内的各像素单元所对应深度进行滤波处理。例如，针对每个目标区域，可以将该目标区域内的每个像素单元对应深度的置信度，与该目标区域的第一置信阈值进行比较，若像素单元对应深度的置信度小于该目标区域的第一置信阈值，则删除该像素单元对应的深度，若像素单元对应深度的置信度大于或者等于该目标区域的第一置信阈值，则保留该像素单元对应的深度。由此，可以实现仅保留各个目标区域内置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中每个目标区域内的异常点，提高每个目标区域内深度图的质量。

本申请实施例的深度图处理方法，通过在成像图中的感兴趣区域为至少两个，目标区域相应为至少两个时，针对各目标区域，根据相应目标区域中各像素单元对应深度的置信度，确定相应目标区域的第一置信阈值，根据各目标区域的第一置信阈值，对相应目标区域内的像素单元所对应深度进行滤波处理。由此，可以仅保留各个目标区域内置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中每个目标区域内的异常点，提高每个目标区域内深度图的质量。

作为一种可能的实现方式，在确定目标区域后，还可以根据目标区域内各像素单元，确定置信度的均值，即将目标区域内所有像素单元对应深度的置信度取均值，得到上述置信度的均值，并判断上述均值是否小于设定的第二置信阈值，若是，则表明目标区域的置信度较低，此时，目标区域对应的物体距离摄像头较远，可以认为未在有效测量距离内，因此，可以将该目标区域作为无效区域，并滤除该无效的目标区域，若否，则确定该目标区域为有效区域，从而后续步骤中可以根据有效的目标区域进行处理，确定对应的第一置信阈值，并根据第一置信阈值，对深度图内各像素单元进行滤波处理。

其中，第二置信阈值可以根据有效测量距离范围预先确定，比如，可以预先确定在近景拍摄时，对应的有效测量距离范围，从而根据该有效测量距离范围，确定第二置信阈值，或者，也可以预先确定在远景拍摄时，对应的有效测量距离范围，从而根据该有效测量距离范围，确定第二置信阈值。在用户拍摄图像时，可以根据用户的操作，确定为近景拍摄还是为远景拍摄，从而可以确定对应的第二置信阈值。

作为一种可能的实现方式，在对深度图内各像素单元进行滤波处理之后，可以将滤波处理后的深度图中各像素单元与成像图中的各像素单元进行对齐处理，之后，根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。下面结合实施例四，对上述过程进行详细说明。

图4为本申请实施例四所提供的深度图处理方法的流程示意图。

如图4所示，在上述实施例的基础上，该深度图处理方法还可以包括以下步骤：

步骤401，将滤波处理后的深度图中各像素单元，与成像图中各像素单元对齐。

本申请实施例中，对齐处理可以包括去畸变、坐标转换等步骤。

需要说明的是，采集图像时，是将图像坐标转换为相机坐标系中，由于相机透镜可能存在一定的畸变，包括横向畸变和/或切向畸变，因此，为了提升图像的处理效果，可以对滤波处理后的深度图和/或成像图进行去畸变处理。具体地，通过相机标定，可以确定相机的内部参数，包括焦距、光心和畸变系数，因此，在去畸变处理时，可以进行相机透镜畸变处理，由相机坐标转换到图像坐标。

可以理解的是，RGB图像数据与深度图像数据的空间坐标系是不同的，前者的原点是RGB摄像头，后者的原点是红外摄像头，因此两者会有相应的误差，因此，在对齐处理时，可以将深度图上的2D点转换到世界坐标的3D点，再将世界坐标的3D点投影到成像图上。

步骤402，根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。

本申请实施例中，在将成像图与深度图进行对齐处理后，可以根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。具体地，针对成像图中的各像素单元，可以将深度图中对应像素单元对应的深度，作为该像素单元对应的深度。

需要说明的是，TOF相机和RGB摄像头的安装位置不同，两者的拍摄视角不同，在将深度图与成像图对齐后，可能导致成像图中存在部分像素单元缺失对应的深度，因此，本申请中，还可以对成像图进行平滑深度，补充缺失的深度。例如，针对成像图中各缺失深度的像素单元而言，可以利用该像素单元周围的像素单元对应的深度，确定该像素单元的深度，例如，可以将该像素单元周围的像素单元对应的深度取均值，作为该像素单元的深度。

为了实现上述实施例，本申请还提出一种深度图处理装置。

图5为本申请实施例五所提供的深度图处理装置的结构示意图。

本申请实施例的深度图处理装置可以设置于电子设备中，该电子设备可以为移动终端或者智能摄像机等，对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。

如图5所示，该深度图处理装置包括：获取模块101、第一确定模块102、第二确定模块103以及处理模块104。

其中，获取模块101，用于获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。

本申请实施例中，电子设备可以包括TOF相机或TOF摄像头，通过TOF相机采集得到深度图，采集得到的深度图中每个像素单元具有对应的深度和深度的置信度，从而获取模块101可以获取该TOF相机采集的深度图。

其中，TOF相机可以包括红外发射光源，通过红外发射光源向外发射光波信号，感光模组可以接收反射光波信号，从而根据发射光波信号与反射光波信号的相位变化，可以进行距离测量，得到对应的深度信息。

也就是说，每个像素单元对应的深度是根据红外光相位差生成的，而深度的置信度是根据红外光强确定的，其中，距离TOF相机越近，深度越小，深度的置信度越大，距离TOF相机越远，深度越大，深度的置信度越小。

第一确定模块102，用于在深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，深度图与成像图同步采集得到。

本申请实施例中，成像图为二维的，例如，电子设备可以包括RGB摄像头，通过该RGB摄像头采集得到成像图。其中，成像图和深度图为同步采集的。

本申请实施例中，感兴趣区域(ROI)可以为用户感兴趣的物体所在的区域，其中，感兴趣的物体可以为电子设备的内置程序预先设定的，或者，为了满足用户的个性化需求，感兴趣的物体还可以由用户进行设置，比如电子设备可以提供输入界面，用户可以根据自身需求在该输入界面，输入其感兴趣的物体，本申请对此并不做限制。

举例而言，感兴趣的物体所在的区域，即ROI可以为植物、动物、建筑物、人等所在的区域，或者，对于人像场景而言，ROI可以为人像的局部区域，比如人脸区域、手部区域、腰部区域、腿部区域、脚部区域等等，此处不一一列举。

本申请实施例中，为了提升感兴趣区域识别结果的准确性，第一确定模块102可以基于深度学习的图像处理技术，在成像图中识别该感兴趣区域。例如，第一确定模块102可以采用语义分割模型，对成像图进行识别，确定感兴趣区域，其中，语义分割模块可以为相关技术中较为成熟的语义分割模型，比如为deeplab、psp等模型，对此不作限制。具体地，可以预先采集训练图像，或者从互联网上下载训练图像，而后可以对训练图像中感兴趣的物体所在的区域进行标注，利用标注后的训练图像，对初始的语义分割模型进行训练，训练后的语义分割模型可以学习得到图像与感兴趣区域之间的对应关系。

在第一确定模块102确定成像图中的感兴趣区域后，可以根据深度图和成像图之间的映射关系，在深度图中，确定与成像图中感兴趣区域相应的目标区域。具体地，在得到成像图中感兴趣区域后，针对该感兴趣区域中的每个像素单元，第一确定模块102可以根据深度图和成像图之间的映射关系，在深度图中，确定与该像素单元对应的第一像素单元，从而根据所有的第一像素单元，可以确定目标区域。

第二确定模块103，用于根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值。

本申请实施例中，在第一确定模块102确定深度图中目标区域后，可以由第二确定模块103根据该目标区域中各像素单元对应深度的置信度，确定第一置信阈值，例如，第二确定模块103可以根据该目标区域中各像素单元对应深度的置信度，确定置信度的均值，根据该均值，确定第一置信阈值，或者，第二确定模块103可以根据该目标区域中各像素单元对应的置信度，确定置信度的中值，根据该中值，确定第一置信阈值，或者，第二确定模块103还可以根据其他算法，确定第一置信阈值，本申请对此并不做限制。

处理模块104，用于根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。

本申请实施例中，在第二确定模块103确定第一置信阈值后，可以由处理模块104根据该第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。例如，针对深度图中的每个像素单元，处理模块104可以将该像素单元对应深度的置信度与第一置信阈值进行比较，若该像素单元对应深度的置信度小于第一置信阈值，则删除该像素单元对应的深度，若该像素单元对应深度的置信度大于或者等于第一置信阈值，则保留该像素单元对应的深度。由此，可以实现仅保留置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

进一步地，在本申请实施例的一种可能的实现方式中，参见图6，在图5所示实施例的基础上，该深度图处理装置还可以包括：

第二确定模块103，包括：

排序单元1031，用于对目标区域中各像素单元，按照置信度从大到小排序，得到排序在前的多个像素单元。

具体地，针对该目标区域，排序单元1031可以将目标区域中所有像素单元对应深度的置信度，按照置信度大小按序排列，比如按照置信度从大到小排序，得到排序在前的多个像素单元。

作为一种可能的实现方式，多个像素单元的个数，可以为目标区域内包含的像素单元总个数与固定比例的乘积。其中，0<固定比例≤1，该固定比例可以由电子设备的内置程序预先设定，或者还可以由用户进行设置，对此不作限制，比如固定比例可以为10％。

作为另一种可能的实现方式，多个像素单元的个数，还可以与目标区域内包含的像素单元总个数具有正向关系，即多个像素单元的个数可以随着目标区域内包含的像素单元总个数的增大而增大，或者，多个像素单元的个数可以随着目标区域内包含的像素单元总个数的减小而减小。

确定单元1032，用于根据多个像素单元对应置信度的中值，确定第一置信阈值。

本申请实施例中，在确定排序在前的多个像素单元后，比如，标记多个像素单元的个数为N，若N为奇数，则确定单元1032确定的多个像素单元对应置信度的中值，可以为处于序列中第(N+1)/2个位置的像素单元对应深度的置信度；若N为偶数，则确定单元1032确定的多个像素单元对应置信度的中值，可以为处于序列中第N/2个位置的像素单元对应深度的置信度，或者为处于序列中第(N/2+1)个位置的像素单元对应深度的置信度，或者为处于序列中第N/2个位置像素单元对应深度的置信度和第(N/2+1)个位置的像素单元对应深度的置信度的均值。在确定单元1032确定多个像素单元对应置信度的中值后，可以将该中值，作为第一置信阈值。

需要说明的是，实际应用过程中，成像图中的感兴趣区域的个数可以为多个，比如人像场景，存在多张人脸，或者用户在拍摄景物时，成像图存在多种植物、动物等，此时，深度图中也将存在多个目标区域，因此，作为一种可能的实现方式，成像图中的感兴趣区域为至少两个，目标区域相应为至少两个。

第二确定模块103，具体用于：针对各目标区域，根据相应目标区域中各像素单元对应深度的置信度，确定相应目标区域的第一置信阈值。

处理模块104，具体用于：根据各目标区域的第一置信阈值，对相应目标区域内的像素单元所对应深度进行滤波处理。

本申请实施例中，在第二确定模块103确定每个目标区域对应的第一置信阈值后，针对每个目标区域，可以由处理模块104根据该目标区域的第一置信阈值，对该目标区域内的各像素单元所对应深度进行滤波处理。例如，针对每个目标区域，处理模块104可以将该目标区域内的每个像素单元对应深度的置信度，与该目标区域的第一置信阈值进行比较，若像素单元对应深度的置信度小于该目标区域的第一置信阈值，则删除该像素单元对应的深度，若像素单元对应深度的置信度大于或者等于该目标区域的第一置信阈值，则保留该像素单元对应的深度。由此，可以实现仅保留各个目标区域内置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中每个目标区域内的异常点，提高每个目标区域内深度图的质量。

第三确定模块105，还用于在根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值之前，对目标区域内各像素单元，确定置信度的均值；确定均值不小于设定的第二置信阈值。

本申请实施例中，在第一确定模块102确定目标区域后，还可以由第三确定模块105根据目标区域内各像素单元，确定置信度的均值，即将目标区域内所有像素单元对应深度的置信度取均值，得到上述置信度的均值，并判断上述均值是否小于设定的第二置信阈值，若是，则表明目标区域的置信度较低，此时，目标区域对应的物体距离摄像头较远，可以认为未在有效测量距离内，因此，可以将该目标区域作为无效区域，并滤除该无效的目标区域，若否，则确定该目标区域为有效区域，从而后续根据有效的目标区域进行处理，确定对应的第一置信阈值，并根据第一置信阈值，对深度图内各像素单元进行滤波处理。

其中，第二置信阈值可以根据有效测量距离范围预先确定，比如，可以预先确定在近景拍摄时，对应的有效测量距离范围，从而根据该有效测量距离范围，确定第二置信阈值，或者，也可以预先确定在远景拍摄时，对应的有效测量距离范围，从而根据该有效测量距离范围，确定第二置信阈值。在用户拍摄图像时，可以根据用户的操作，确定为近景拍摄还是为远景拍摄，从而可以确定对应的第二置信阈值。

对齐模块106，用于将滤波处理后的深度图中各像素单元，与成像图中各像素单元对齐。

本申请实施例中，对齐处理可以包括去畸变、坐标转换等步骤。

需要说明的是，采集图像时，是将图像坐标转换为相机坐标系中，由于相机透镜可能存在一定的畸变，包括横向畸变和/或切向畸变，因此，为了提升图像的处理效果，对齐模块106可以对滤波处理后的深度图和/或成像图进行去畸变处理。具体地，通过相机标定，可以确定相机的内部参数，包括焦距、光心和畸变系数，因此，在去畸变处理时，可以进行相机透镜畸变处理，由相机坐标转换到图像坐标。

可以理解的是，RGB图像数据与深度图像数据的空间坐标系是不同的，前者的原点是RGB摄像头，后者的原点是红外摄像头，因此两者会有相应的误差，因此，对齐模块106在对齐处理时，可以将深度图上的2D点转换到世界坐标的3D点，再将世界坐标的3D点投影到成像图上。

第四确定模块107，用于根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。

本申请实施例中，在对齐模块106将成像图与深度图进行对齐处理后，可以由第四确定模块107根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。具体地，针对成像图中的各像素单元，第四确定模块107可以将深度图中对应像素单元对应的深度，作为该像素单元对应的深度。

需要说明的是，TOF相机和RGB摄像头的安装位置不同，两者的拍摄视角不同，在将深度图与成像图对齐后，可能导致成像图中存在部分像素单元缺失对应的深度，因此，本申请中，还可以由处理模块104对成像图进行平滑深度，补充缺失的深度。例如，针对成像图中各缺失深度的像素单元而言，处理模块104可以利用该像素单元周围的像素单元对应的深度，确定该像素单元的深度，例如，可以将该像素单元周围的像素单元对应的深度取均值，作为该像素单元的深度。

本申请实施例的深度图处理装置，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，在深度图中，确定与成像图中的感兴趣区域相对应的目标区域，接着，根据目标区域中各像素单元对应深度的置信度，确定第一置信阈值，最后，根据第一置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。

为了实现上述实施例，本申请还提出一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时，实现如本申请前述实施例提出的深度图处理方法。

为了实现上述实施例，本申请还提出一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请前述实施例提出的深度图处理方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (12)

1.一种深度图处理方法，其特征在于，所述方法包括以下步骤：

获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；

在所述深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，所述深度图与所述成像图同步采集得到；

根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值；

根据所述第一置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。

2.根据权利要求1所述的深度图处理方法，其特征在于，所述根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值，包括：

对所述目标区域中各像素单元，按照置信度从大到小排序，得到排序在前的多个像素单元；

根据所述多个像素单元对应置信度的中值，确定所述第一置信阈值。

3.根据权利要求2所述的深度图处理方法，其特征在于，所述多个像素单元的个数，为所述目标区域中包含的像素单元总个数与固定比例的乘积。

4.根据权利要求1所述的深度图处理方法，其特征在于，所述成像图中的感兴趣区域为至少两个，所述目标区域相应为至少两个；

所述根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值，包括：

针对各目标区域，根据相应目标区域中各像素单元对应深度的置信度，确定相应目标区域的第一置信阈值。

5.根据权利要求4所述的深度图处理方法，其特征在于，所述根据所述第一置信阈值，对所述深度图内各像素单元进行滤波处理，包括：

根据各目标区域的第一置信阈值，对相应目标区域内的像素单元所对应深度进行滤波处理。

6.根据权利要求1所述的深度图处理方法，其特征在于，所述根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值之前，还包括：

对所述目标区域内各像素单元，确定置信度的均值；

确定所述均值不小于设定的第二置信阈值。

7.根据权利要求1-6任一项所述的深度图处理方法，其特征在于，所述根据所述第一置信阈值，对所述深度图内各像素单元对应深度进行滤波处理，包括：

对所述深度图中置信度小于所述第一置信阈值的像素单元，删除相应像素单元对应的深度。

8.根据权利要求1-6任一项所述的深度图处理方法，所述根据所述第一置信阈值，对所述深度图内各像素单元进行滤波处理之后，还包括：

将滤波处理后的所述深度图中各像素单元，与所述成像图中各像素单元对齐；

根据对齐后的所述成像图和所述深度图，确定所述成像图中各像素单元对应的深度。

9.根据权利要求1-6任一项所述的深度图处理方法，所述置信度是根据飞行时间TOF相机检测到的红外光强度确定的。

10.一种深度图处理装置，其特征在于，所述装置包括：

获取模块，用于获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；

第一确定模块，用于在所述深度图中，确定与成像图中的感兴趣区域相对应的目标区域；其中，所述深度图与所述成像图同步采集得到；

第二确定模块，用于根据所述目标区域中各像素单元对应深度的置信度，确定第一置信阈值；

处理模块，用于根据所述第一置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。

11.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如权利要求1-9中任一所述的深度图处理方法。

12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-9中任一所述的深度图处理方法。