CN110378944B - 深度图处理方法、装置和电子设备 - Google Patents
深度图处理方法、装置和电子设备 Download PDFInfo
- Publication number
- CN110378944B CN110378944B CN201910622951.5A CN201910622951A CN110378944B CN 110378944 B CN110378944 B CN 110378944B CN 201910622951 A CN201910622951 A CN 201910622951A CN 110378944 B CN110378944 B CN 110378944B
- Authority
- CN
- China
- Prior art keywords
- depth map
- depth
- confidence
- contour
- pixel unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 41
- 238000003384 imaging method Methods 0.000 claims abstract description 94
- 238000012545 processing Methods 0.000 claims abstract description 58
- 238000001914 filtration Methods 0.000 claims abstract description 41
- 238000000034 method Methods 0.000 claims abstract description 26
- 238000004590 computer program Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 6
- 230000002159 abnormal effect Effects 0.000 abstract description 9
- 230000008569 process Effects 0.000 description 16
- 230000000694 effects Effects 0.000 description 15
- AYFVYJQAPQTCCC-GBXIJSLDSA-N L-threonine Chemical compound C[C@@H](O)[C@H](N)C(O)=O AYFVYJQAPQTCCC-GBXIJSLDSA-N 0.000 description 12
- 238000004422 calculation algorithm Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 9
- 238000009499 grossing Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 230000000717 retained effect Effects 0.000 description 3
- 206010070834 Sensitisation Diseases 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000008313 sensitization Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
Abstract
本申请提出一种深度图处理方法、装置和电子设备，其中，方法包括：获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度；根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的；根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配；其中，成像图和深度图同步采集得到；根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。该方法能够实现有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
Description
技术领域
本申请涉及图像处理技术领域，尤其涉及一种深度图处理方法、装置和电子设备。
背景技术
目前，为了改善深度图质量，可以对深度图进行滤波处理。现有技术中，采用双边滤波、各向异性滤波、基于固定阈值的滤波等通过滤波算法，对深度图进行滤波处理。
然而实际应用场景中，由于往往会存在较多的不确定性，比如背景与前景的距离不同，前景到飞行时间(Time of Flight，简称TOF)相机的距离不同，环境光照不同等等，上述滤波算法需要用户针对具体场景做合理的参数设置。这种方式下，对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说，这样的设置是非常困难的，可能导致滤波后的深度图中存在较多的飞像素点，影响后续的图像处理。
发明内容
本申请提出一种深度图处理方法、装置和电子设备，以实现有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性，用于解决现有技术中滤波后的深度图中存在较多的飞像素点的技术问题。
本申请第一方面实施例提出了一种深度图处理方法，包括：
获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；
根据初始的置信阈值，在深度图中确定目标轮廓；其中，所述目标轮廓是根据所述深度图的各像素单元中，对应深度的置信度符合所述置信阈值的目标像素单元确定的；
根据成像图中的前景对象轮廓，调整所述置信阈值，以使所述目标轮廓与所述前景对象轮廓匹配；其中，所述成像图和所述深度图同步采集得到；
根据调整后的置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。
本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的，接着，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配，最后，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
本申请第二方面实施例提出了一种深度图处理装置，包括：
获取模块，用于获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；
确定模块，用于根据初始的置信阈值，在深度图中确定目标轮廓；其中，所述目标轮廓是根据所述深度图中各像素单元对应深度的置信度，对所述置信度符合所述置信阈值的目标像素单元连接得到的；
调整模块，用于根据成像图中的前景对象轮廓，调整所述置信阈值，以使所述目标轮廓与所述前景对象轮廓匹配；其中，所述成像图和所述深度图同步采集得到；
处理模块，用于根据调整后的置信阈值，对所述深度图内各像素单元对应深度进行滤波处理。
本申请实施例的深度图处理装置，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的，接着，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配，最后，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
本申请第三方面实施例提出了一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如本申请第一方面实施例提出的深度图处理方法。
本申请第四方面实施例提出了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请第一方面实施例提出的深度图处理方法。
本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为本申请实施例一所提供的深度图处理方法的流程示意图；
图2为本申请实施例二所提供的深度图处理方法的流程示意图；
图3为本申请实施例三所提供的深度图处理方法的流程示意图；
图4为本申请实施例四所提供的深度图处理方法的流程示意图；
图5为本申请实施例五所提供的深度图处理装置的结构示意图；
图6为本申请实施例六所提供的深度图处理装置的结构示意图。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。
目前，单频率TOF相机的原始数据的处理流程主要包括以下步骤：
步骤1，将原始数据转换为i，q数据，其中，i，q表示收集的电荷，分别为距离对应延迟相角的正弦值和余弦值；
步骤2，将i，q转化为置信度p0(|i|+|q|)和相位差c0(arctan(i/q))；
步骤3，对置信度p0进行误差校正，得到p_cor；
步骤4，根据p_cor和c0确定i，q；
步骤5，对i，q进行滤波处理；
步骤6，对滤波处理后的径向深度图转为点云深度图。
其中，步骤5中对i，q进行滤波，是对i，q进行独立的滤波，主要涉及以下子步骤：
a)通过平滑相应的i，q数值，以平滑深度图的整体深度值，其中，平滑滤波采用的是诸如向异性滤波、中值滤波等通用的滤波算法；
b)将i，q转换为深度信息和置信度信息；
c)对产生的深度进行通用算法的滤波(包括时间以及空间滤波)，其中，采用的通用算法包括双边滤波、各向异性滤波、飞像素/置信度阈值滤波等等滤波算法，可以在一定程度改善输出深度图质量。
然而，上述滤波算法需要用户针对具体场景做合理的参数设置，对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说，这样的设置是非常困难的，可能导致滤波后的深度图中存在较多的飞像素点，影响后续的图像处理。
本申请主要针对现有技术中滤波后的深度图中存在较多的飞像素点的技术问题，提出一种深度图处理方法。
本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的，接着，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配，最后，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
下面参考附图描述本申请实施例的深度图处理方法、装置和电子设备。
图1为本申请实施例一所提供的深度图处理方法的流程示意图。
本申请实施例以该深度图处理方法被配置于深度图处理装置中来举例说明，该深度图处理装置可以应用于任一具有拍照功能的电子设备中，以使该电子设备执行深度图处理功能。
其中，电子设备可以为移动终端或者智能摄像机等，对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图1所示，该深度图处理方法包括以下步骤：
步骤101，获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。
本申请实施例中，电子设备可以包括TOF相机或TOF摄像头，通过TOF相机采集得到深度图，采集得到的深度图中每个像素单元具有对应的深度和深度的置信度，其中，TOF相机可以包括红外发射光源，通过红外发射光源向外发射光波信号，感光模组可以接收反射光波信号，从而根据发射光波信号与反射光波信号的相位变化，可以进行距离测量，得到对应的深度信息。
也就是说，每个像素单元对应的深度是根据红外光相位差生成的，而深度的置信度是根据红外光强确定的，其中，距离TOF相机越近，深度越小，深度的置信度越大，距离TOF相机越远，深度越大，深度的置信度越小。
步骤102，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的。
本申请实施例中，置信阈值可以为预先设定的，或者，置信阈值还可以根据深度图中各像素单元对应深度的置信度确定，比如，由于深度图中前景区域中各像素单元对应的深度较小，而深度的置信度较大，背景区域中各像素单元对应的深度较大，而深度的置信度较小，因此，为了提升前景区域的边缘效果，置信阈值可以为深度图中前景区域边缘，比如前景对象轮廓上某一像素单元对应深度的置信度，或者，置信阈值还可以为深度图中感兴趣区域(Region of Interest，简称ROI)轮廓上某一像素单元对应深度的置信度，等等，本申请对此并不做限制。
本申请实施例中，在确定初始的置信阈值时，针对深度图中的每个像素单元，可以将该像素单元对应深度的置信度，与该置信阈值进行比较，如果该像素单元对应深度的置信度与置信阈值的差值位于预设范围内，则确定该像素单元对应深度的置信度符合置信阈值，此时，可以将该像素单元作为目标像素单元。在根据上述方式，确定所有的目标像素单元后，可以连接相邻的目标像素单元，得到目标轮廓。应当理解的是，上述预设范围为较小的取值范围。
举例而言，当置信阈值为深度图中前景对象轮廓上某一像素单元对应深度的置信度时，目标像素单元可以为深度图中前景对象轮廓上的像素单元，从而连接目标像素单元，得到的目标轮廓为深度图中前景对象轮廓。
步骤103，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配；其中，成像图和深度图同步采集得到。
本申请实施例中，成像图为二维的，例如，电子设备可以包括RGB摄像头，通过该RGB摄像头采集得到成像图。其中，成像图和深度图为同步采集的，例如，在控制RGB摄像头采集成像图时，可以同步控制TOF相机采集深度图。
本申请实施例中，可以基于相关技术中的图像识别算法，识别成像图中的前景对象轮廓，在确定前景对象轮廓后，可以根据目标轮廓和前景对象轮廓的差异，对置信阈值进行调整，在调整置信阈值后，可以重新在深度图中确定目标轮廓，并确定目标轮廓和前景对象轮廓的差异，若上述差异小于或者等于差异阈值，则确定目标轮廓与前景对象轮廓匹配，而若上述差异大于差异阈值，则确定目标轮廓与前景对象轮廓不匹配，此时，可以继续根据上述差异，对置信阈值进行调整，直到调整后的置信阈值使得差异小于或者等于差异阈值。应当理解的是，差异阈值为较小的取值。
由此，可以使得深度图中前景区域的边缘与成像图中前景区域的边缘一致性，提升前景区域边缘效果。
步骤104，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。
本申请实施例中，在确定调整后的置信阈值后，可以根据该调整后的置信阈值，对深度图中每个像素单元对应深度进行滤波处理。例如，针对深度图中的每个像素单元，可以将该像素单元对应深度的置信度与调整后的置信阈值进行比较，若该像素单元对应深度的置信度小于调整后的置信阈值，则删除该像素单元对应的深度，若该像素单元对应深度的置信度大于或者等于调整后的置信阈值，则保留该像素单元对应的深度，由此，可以仅保留置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
本申请实施例的深度图处理方法，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的，接着，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配，最后，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
需要说明的是，当拍摄图像的质量较佳时，例如，前景区域的边缘清晰，此时，初始的置信阈值可以为深度图中前景区域边缘，比如前景对象轮廓上某一像素单元对应深度的置信度置信阈值，而当前景区域的边缘不清晰时，例如在手势场景，用户的手部边缘不清晰时，此时，初始的置信阈值可能并非为深度图中前景区域边缘上某一像素单元对应深度的置信度，此时，为了提升前景区域边缘效果，需要对该置信阈值进行调整。
作为一种可能的实现方式，在调整置信阈值时，可以通过将深度图的目标区域映射至成像图中，确定成像图中与目标轮廓对应的参考轮廓，对该参考轮廓进行边缘识别，得到前景对象轮廓，之后，根据参考轮廓和前景对象轮廓之间的差异，调整该置信阈值。下面结合实施例二，对上述过程进行详细说明。
图2为本申请实施例二所提供的深度图处理方法的流程示意图。
如图2所示，在图1所示实施例的基础上，步骤103具体可以包括以下子步骤：
步骤201，根据深度图和成像图之间的映射关系，在成像图中，确定与深度图的目标轮廓对应的参考轮廓。
本申请实施例中，在得到深度图的目标轮廓后，针对该目标轮廓上的每个目标像素单元，可以根据深度图和成像图之间的映射关系，确定成像图中与该目标像素单元对应的第一像素单元，从而连接相邻的第一像素单元，可以得到与目标轮廓对应的参考轮廓。
步骤202，在成像图中，对参考轮廓包围的区域进行边缘识别，得到前景对象轮廓。
本申请实施例中，在确定成像图中参考轮廓后，针对参考轮廓包围的区域，可以基于边缘特征检测算法，识别得到前景区域各个对象对应的轮廓，即前景对象轮廓。
步骤203，根据参考轮廓和前景对象轮廓之间的差异，调整置信阈值。
本申请实施例中，在确定前景对象轮廓后，可以确定参考轮廓和前景对象轮廓之间的差异，当上述差异较小时，表明深度图中目标轮廓与成像图中前景对象轮廓之间的差异较小，此时，可以使得深度图中前景区域的边缘与成像图中前景区域的边缘一致性，因此，可以无需调整置信阈值，直接根据该置信阈值对深度图内各像素单元对应深度进行滤波处理。而当上述差异较大时，表明深度图中目标轮廓与成像图中前景对象轮廓之间的差异较大，此时，深度图中前景区域的边缘与成像图中前景区域的边缘并不一致，因此，为了提升前景区域边缘效果，可以对该置信阈值进行调整。
具体地，在确定参考轮廓和前景对象轮廓之间的差异后，可以将该差异与预设的差异阈值进行比较，判断该差异是否小于或者等于差异阈值，若是，则无需调整置信阈值，若否，则根据该差异，对置信阈值进行调整。由此，可以缩小深度图和成像图前景区域的边缘误差，提升前景区域边缘效果。
作为一种可能的实现方式，可以将置信阈值增大差异的设定比例。其中，设定比例可以为固定值，或者，设定比例还可以与差异具有正向关系，即设定比例随着差异的增大而增大，本申请对此并不做限制。
例如，标记置信阈值为IR_thre，设定比例为p，差异为error，则调整后的置信阈值可以为：IR_thre+p*error。
需要说明的是，当调整置信阈值后，还需要重新在深度图中确定目标轮廓，并确定成像图中与目标轮廓对应的参考轮廓，之后，可以对重新确定的参考轮廓包围的区域进行边缘识别，得到前景对象轮廓，并获取重新确定的参考轮廓和前景对象轮廓的差异，若上述差异小于或者等于差异阈值，则确定目标轮廓与前景对象轮廓匹配，此时，无需调整置信阈值，而若上述差异大于差异阈值，则确定目标轮廓与前景对象轮廓不匹配，此时，可以继续根据上述差异，对置信阈值进行调整，直到调整后的置信阈值使得差异小于或者等于差异阈值时，确定目标轮廓与前景对象轮廓匹配。
也就是说，本申请中，置信阈值的调整过程为不断迭代的过程，标记调整前的置信阈值为IR_thre(k-1)，调整后的置信阈值为IR_thre(k)，则IR_thre(k)＝IR_thre(k-1)+p*error。
本申请实施例的深度图处理方法，通过迭代的方式，自适应调整置信阈值，可以确定最优的置信阈值，从而使得深度图中前景区域的边缘与成像图中前景区域的边缘一致性，提升前景区域边缘效果。
作为一种可能的实现方式，可以根据深度图中各像素单元对应深度的置信度，生成置信度的直方图，根据该置信度的直方图，确定置信阈值的取值范围，从该取值范围内，确定初始的置信阈值。下面结合实施例三，对上述过程进行详细说明。
图3为本申请实施例三所提供的深度图处理方法的流程示意图。
如图3所示，该深度图处理方法可以包括以下步骤：
步骤301，获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。
步骤301的执行过程可以参见上述实施例中步骤101的执行过程，在此不做赘述。
步骤302，根据深度图中各像素单元对应深度的置信度，生成置信度的直方图。
本申请实施例中，在获取到深度图后，可以根据深度图中各像素单元对应深度的置信度，生成置信度的直方图。其中，直方图是置信度的函数，用于指示针对每个置信度，深度图中具有该置信度的像素单元的个数。
步骤303，根据直方图，确定置信阈值的取值范围。
本申请实施例中，在生成直方图后，可以确定直方图中最小的置信度，以及最大的置信度，则置信阈值的取值范围可以为[最小的置信度，最大的置信度]。
步骤304，从取值范围中，确定初始的置信阈值，以将深度图中各像素单元划分为置信度小于置信阈值的第一部分，以及置信度大于置信阈值的第二部分，且第一部分与第二部分的之间的置信度方差最大。
可以理解的是，由于深度图中前景区域中各像素单元对应的深度较小，而深度的置信度较大，背景区域中各像素单元对应的深度较大，而深度的置信度较小，即距离相机或摄像头越近的物体，其深度的置信度越大，而距离相机或摄像头越远的物体，其深度的置信度越小，因此，基于深度图中各像素单元对应深度的置信度，可以将深度图划分为前景区域和背景区域。
本申请实施例中，为了提升前景区域的边缘效果，初始的置信阈值可以为深度图中前景区域边缘，即前景对象轮廓上某一像素单元对应深度的置信度置信阈值。
因此，本申请中，可以从取值范围内，确定初始的置信阈值，以将深度图中各像素单元划分为置信度小于置信阈值的第一部分(即背景区域)，以及置信度大于置信阈值的第二部分(即前景区域)，且第一部分与第二部分的之间的置信度方差最大，从而使得初始的置信阈值为前景区域边缘上某一像素单元对应深度的置信度置信阈值。
作为一种可能的实现方式，在确定置信度的取值范围后，可以从取值范围内，按序逐一选取一个取值，将深度图中各像素单元对应深度的置信度与选取的取值进行比较，来对深度图进行划分，得到置信度小于上述取值的一部分，以及置信度不小于上述取值的另一部分，并确定两部分之间的置信度方差，本申请对此并不做限制。
例如，在根据选取的取值，确定两部分后，可以将该取值，作为置信度的均值，从而根据该均值以及深度图中各像素单元对应深度的置信度，可以确定两部分之间的置信度方差。
举例而言，假设根据取值X，划分得到的一部分具有4个像素单元，该4个像素单元对应深度的置信度分别为IR1、IR2、IR3和IR4，根据取值X，划分得到的另一部分具有5个像素单元，该5个像素对应深度的置信度分别为IR5、IR6、IR7、IR8和IR9，则两部分之间的置信度方差可以为：
[(IR1-X)2+(IR2-X)2+…+(IR5-X)2+…+(IR9-X)2]/9。
作为另一种可能的实现方式，由于深度图中不同像素单元中，可能存在部分像素单元对应深度的置信度相同，因此，为了便于处理，在确定置信度的取值范围后，可以从取值范围内，按序逐一选取一个取值，针对选取的取值，可以根据直方图，将各像素单元划分为置信度小于取值和置信度不小于取值的两部分。由此，无需将每个像素单元对应深度的置信度与选取的取值进行比较，而直接根据统计得到的直方图，来将各像素单元划分为置信度小于取值和置信度不小于取值的两部分，可以节省计算量，提升图像的处理效率。
本申请实施例中，在根据确定置信度的取值范围内每一个取值下，两部分之间的置信度方差后，可以将置信度方差最大时的两部分，分别作为第一部分和第二部分。
作为一种示例，当本申请应用于背景和前景区别较大，比如背景颜色和前景颜色差别较大，前景和背景距离较远(比如大于1米)的应用场景时，在深度图中前景区域边缘上，选择一个像素单元对应深度的置信度，作为初始的置信阈值，可以使得第一部分与第二部分的之间的置信度方差最大，从而在后续处理后，可以提升前景边缘效果。
步骤305，根据置信阈值，在深度图中确定目标轮廓。
步骤306，根据深度图和成像图之间的映射关系，在成像图中，确定与深度图的目标轮廓对应的参考轮廓。
步骤307，在成像图中，对参考轮廓包围的区域进行边缘识别，得到前景对象轮廓。
步骤308，确定参考轮廓和前景对象轮廓之间的差异。
可选地，可以基于相关技术中的相关算法，确定参考轮廓和前景对象轮廓之前的差异，本申请对此并不作限制。
例如，可以确定前景对象轮廓包围的区域，与参考轮廓包围的区域之间的面积占比，根据上述面积占比，确定上述差异，其中，面积占比越大，差异越小，而面积占比越小，差异越大。
或者，可以确定参考轮廓包围的区域内的像素个数，标记为第一个数，并确定前景对象轮廓包围的区域内的像素个数，标记为第二个数，将第二个数与第一个数比值，从而根据比值，确定上述差异，其中，比值越大，差异越小，而比值越小，差异越大。
步骤309，判断上述差异是否大于差异阈值，若是，执行步骤310，若否，执行步骤311。
步骤310，根据上述差异，调整置信阈值，并返回执行步骤305。
步骤311，根据置信阈值，对深度图内各像素单元对应深度进行滤波处理。
本申请实施例的深度图处理方法，通过迭代方式，调整置信阈值，可以缩小深度图和成像图前景区域的边缘误差，提升前景区域边缘效果。
作为一种可能的实现方式，在对深度图内各像素单元进行滤波处理之后，可以将滤波处理后的深度图中各像素单元与成像图中的各像素单元进行对齐处理，之后，根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。下面结合实施例四，对上述过程进行详细说明。
图4为本申请实施例四所提供的深度图处理方法的流程示意图。
如图4所示，在上述实施例的基础上，该深度图处理方法还可以包括以下步骤：
步骤401，将滤波处理后的深度图中各像素单元，与成像图中各像素单元对齐。
本申请实施例中，对齐处理可以包括去畸变、坐标转换等步骤。
需要说明的是，采集图像时，是将图像坐标转换为相机坐标系中，由于相机透镜可能存在一定的畸变，包括横向畸变和/或切向畸变，因此，为了提升图像的处理效果，可以对滤波处理后的深度图和/或成像图进行去畸变处理。具体地，通过相机标定，可以确定相机的内部参数，包括焦距、光心和畸变系数，因此，在去畸变处理时，可以进行相机透镜畸变处理，由相机坐标转换到图像坐标。
可以理解的是，RGB图像数据与深度图像数据的空间坐标系是不同的，前者的原点是RGB摄像头，后者的原点是红外摄像头，因此两者会有相应的误差，因此，在对齐处理时，可以将深度图上的2D点转换到世界坐标的3D点，再将世界坐标的3D点投影到成像图上。
步骤402，根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。
本申请实施例中，在将成像图与深度图进行对齐处理后，可以根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。具体地，针对成像图中的各像素单元，可以将深度图中对应像素单元对应的深度，作为该像素单元对应的深度。
需要说明的是，TOF相机和RGB摄像头的安装位置不同，两者的拍摄视角不同，在将深度图与成像图对齐后，可能导致成像图中存在部分像素单元缺失对应的深度，因此，本申请中，还可以对成像图进行平滑深度，补充缺失的深度。例如，针对成像图中各缺失深度的像素单元而言，可以利用该像素单元周围的像素单元对应的深度，确定该像素单元的深度，例如，可以将该像素单元周围的像素单元对应的深度取均值，作为该像素单元的深度。
为了实现上述实施例，本申请还提出一种深度图处理装置。
图5为本申请实施例五所提供的深度图处理装置的结构示意图。
本申请实施例的深度图处理装置可以设置于电子设备中，该电子设备可以为移动终端或者智能摄像机等，对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图5所示，该深度图处理装置包括：获取模块101、确定模块102、调整模块103以及处理模块104。
其中，获取模块101，用于获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度。
本申请实施例中，电子设备可以包括TOF相机或TOF摄像头，通过TOF相机采集得到深度图，采集得到的深度图中每个像素单元具有对应的深度和深度的置信度，从而获取模块101可以获取该TOF相机采集的深度图。
其中，TOF相机可以包括红外发射光源，通过红外发射光源向外发射光波信号，感光模组可以接收反射光波信号，从而根据发射光波信号与反射光波信号的相位变化，可以进行距离测量，得到对应的深度信息。
也就是说，每个像素单元对应的深度是根据红外光相位差生成的，而深度的置信度是根据红外光强确定的，其中，距离TOF相机越近，深度越小，深度的置信度越大，距离TOF相机越远，深度越大，深度的置信度越小。
确定模块102，用于根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图中各像素单元对应深度的置信度，对置信度符合置信阈值的目标像素单元连接得到的。
本申请实施例中，置信阈值可以为预先设定的，或者，置信阈值还可以根据深度图中各像素单元对应深度的置信度确定，比如，由于深度图中前景区域中各像素单元对应的深度较小，而深度的置信度较大，背景区域中各像素单元对应的深度较大，而深度的置信度较小，因此，为了提升前景区域的边缘效果，置信阈值可以为深度图中前景区域边缘，比如前景对象轮廓上某一像素单元对应深度的置信度，或者，置信阈值还可以为深度图中感兴趣区域(Region of Interest，简称ROI)轮廓上某一像素单元对应深度的置信度，等等，本申请对此并不做限制。
本申请实施例中，当获取模块101获取深度图后，确定模块102可以从获取模块101获取该深度图，并根据初始的置信阈值，在深度图中确定目标轮廓。具体地，确定模块102可以针对深度图中的每个像素单元，将该像素单元对应深度的置信度，与该置信阈值进行比较，如果该像素单元对应深度的置信度与置信阈值的差值位于预设范围内，则确定该像素单元对应深度的置信度符合置信阈值，此时，可以将该像素单元作为目标像素单元。在根据上述方式，确定所有的目标像素单元后，可以连接相邻的目标像素单元，得到目标轮廓。应当理解的是，上述预设范围为较小的取值范围。
调整模块103，用于根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配；其中，成像图和深度图同步采集得到。
本申请实施例中，成像图为二维的，例如，电子设备可以包括RGB摄像头，通过该RGB摄像头采集得到成像图。其中，成像图和深度图为同步采集的。
本申请实施例中，调整模块103可以基于相关技术中的图像识别算法，识别成像图中的前景对象轮廓，在确定前景对象轮廓后，可以根据目标轮廓和前景对象轮廓的差异，对置信阈值进行调整，在调整置信阈值后，可以重新在深度图中确定目标轮廓，并确定目标轮廓和前景对象轮廓的差异，若上述差异小于或者等于差异阈值，则确定目标轮廓与前景对象轮廓匹配，而若上述差异大于差异阈值，则确定目标轮廓与前景对象轮廓不匹配，此时，可以继续根据上述差异，对置信阈值进行调整，直到调整后的置信阈值使得差异小于或者等于差异阈值。应当理解的是，差异阈值为较小的取值。
处理模块104，用于根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。
本申请实施例中，处理模块104可以根据该调整后的置信阈值，对深度图中每个像素单元对应深度进行滤波处理。例如，针对深度图中的每个像素单元，处理模块104可以将该像素单元对应深度的置信度与调整后的置信阈值进行比较，若该像素单元对应深度的置信度小于调整后的置信阈值，则删除该像素单元对应的深度，若该像素单元对应深度的置信度大于或者等于调整后的置信阈值，则保留该像素单元对应的深度，由此，可以仅保留置信度较高的像素单元对应的深度，将置信度较低的像素单元对应的深度作为噪声数据进行删除，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
进一步地，在本申请实施例的一种可能的实现方式中，参见图6，在图5所示实施例的基础上，该深度图处理装置还可以包括：
调整模块103，包括：
确定单元1031，用于根据深度图和成像图之间的映射关系，在成像图中，确定与深度图的目标轮廓对应的参考轮廓。
本申请实施例中，确定单元1031可以针对深度图的目标轮廓上的每个目标像素单元，根据深度图和成像图之间的映射关系，确定成像图中与该目标像素单元对应的第一像素单元，从而连接相邻的第一像素单元，可以得到与目标轮廓对应的参考轮廓。
识别单元1032，用于在成像图中，对参考轮廓包围的区域进行边缘识别，得到前景对象轮廓。
本申请实施例中，识别单元1032从确定单元1031中获取参考轮廓后，可以针对参考轮廓包围的区域，基于边缘特征检测算法，识别得到前景区域各个对象对应的轮廓，即前景对象轮廓。
调整单元1033，用于根据参考轮廓和前景对象轮廓之间的差异，调整置信阈值。
本申请实施例中，调整单元1033从识别单元1032中获取前景对象轮廓后，可以确定参考轮廓和前景对象轮廓之间的差异，当上述差异较小时，表明深度图中目标轮廓与成像图中前景对象轮廓之间的差异较小，此时，可以使得深度图中前景区域的边缘与成像图中前景区域的边缘一致性，因此，可以无需调整置信阈值，直接根据该置信阈值对深度图内各像素单元对应深度进行滤波处理。而当上述差异较大时，表明深度图中目标轮廓与成像图中前景对象轮廓之间的差异较大，此时，深度图中前景区域的边缘与成像图中前景区域的边缘并不一致，因此，为了提升前景区域边缘效果，可以对该置信阈值进行调整。
具体地，在调整单元1033确定参考轮廓和前景对象轮廓之间的差异后，可以将该差异与预设的差异阈值进行比较，判断该差异是否小于或者等于差异阈值，若是，则无需调整置信阈值，若否，则根据该差异，对置信阈值进行调整。由此，可以缩小深度图和成像图前景区域的边缘误差，提升前景区域边缘效果。
作为一种可能的实现方式，调整单元1033可以将置信阈值增大差异的设定比例。其中，设定比例可以为固定值，或者，设定比例还可以与差异具有正向关系，即设定比例随着差异的增大而增大，本申请对此并不做限制。
例如，标记置信阈值为IR_thre，设定比例为p，差异为error，则调整后的置信阈值可以为：IR_thre+p*error。
需要说明的是，当调整单元1033调整置信阈值后，还需要重新在深度图中确定目标轮廓，并确定成像图中与目标轮廓对应的参考轮廓，之后，可以对重新确定的参考轮廓包围的区域进行边缘识别，得到前景对象轮廓，并获取重新确定的参考轮廓和前景对象轮廓的差异，若上述差异小于或者等于差异阈值，则确定目标轮廓与前景对象轮廓匹配，此时，无需调整置信阈值，而若上述差异大于差异阈值，则确定目标轮廓与前景对象轮廓不匹配，此时，可以继续根据上述差异，对置信阈值进行调整，直到调整后的置信阈值使得差异小于或者等于差异阈值时，确定目标轮廓与前景对象轮廓匹配。
也就是说，本申请中，置信阈值的调整过程为不断迭代的过程，标记调整前的置信阈值为IR_thre(k-1)，调整后的置信阈值为IR_thre(k)，则IR_thre(k)＝IR_thre(k-1)+p*error。
生成模块105，用于根据深度图中各像素单元对应深度的置信度，生成置信度的直方图。
本申请实施例中，生成模块105可以从获取模块101中获取深度图，在获取到深度图后，生成模块105可以根据深度图中各像素单元对应深度的置信度，生成置信度的直方图。其中，直方图是置信度的函数，用于指示针对每个置信度，深度图中具有该置信度的像素单元的个数。
确定模块102，还用于根据直方图，确定置信阈值的取值范围，并从取值范围中，确定初始的置信阈值，以将深度图中各像素单元划分为置信度小于置信阈值的第一部分，以及置信度大于置信阈值的第二部分，且第一部分与第二部分的之间的置信度方差最大。
本申请实施例中，确定模块102可以从生成模块105中获取置信度的直方图，并确定直方图中最小的置信度，以及最大的置信度，根据最小的置信度和最大的置信度确定置信阈值的取值范围，即置信阈值的取值范围可以为[最小的置信度，最大的置信度]。
可以理解的是，由于深度图中前景区域中各像素单元对应的深度较小，而深度的置信度较大，背景区域中各像素单元对应的深度较大，而深度的置信度较小，因此，即距离相机越近的物体，其深度的置信度越大，而距离相机越远的物体，其深度的置信度越小，因此，基于深度图中各像素单元对应深度的置信度，可以将深度图划分为前景区域和背景区域。
本申请实施例中，为了提升前景区域的边缘效果，初始的置信阈值可以为深度图中前景区域边缘，即前景对象轮廓上某一像素单元对应深度的置信度置信阈值。
因此，本申请中，确定模块102可以从取值范围内，确定初始的置信阈值，以将深度图中各像素单元划分为置信度小于置信阈值的第一部分(即背景区域)，以及置信度大于置信阈值的第二部分(即前景区域)，且第一部分与第二部分的之间的置信度方差最大，从而使得初始的置信阈值为前景区域边缘上某一像素单元对应深度的置信度置信阈值。
作为一种可能的实现方式，确定模块102在确定置信度的取值范围后，可以从取值范围内，按序逐一选取一个取值，将深度图中各像素单元对应深度的置信度与选取的取值进行比较，来对深度图进行划分，得到置信度小于上述取值的一部分，以及置信度不小于上述取值的另一部分，并确定两部分之间的置信度方差，本申请对此并不做限制。
例如，在根据选取的取值，确定两部分后，可以将该取值，作为置信度的均值，从而根据该均值以及深度图中各像素单元对应深度的置信度，可以确定两部分之间的置信度方差。
举例而言，假设根据取值X，划分得到的一部分具有4个像素单元，该4个像素单元对应深度的置信度分别为IR1、IR2、IR3和IR4，根据取值X，划分得到的另一部分具有5个像素单元，该5个像素对应深度的置信度分别为IR5、IR6、IR7、IR8和IR9，则两部分之间的置信度方差可以为：
[(IR1-X)2+(IR2-X)2+…+(IR5-X)2+…+(IR9-X)2]/9。
作为另一种可能的实现方式，由于深度图中不同像素单元中，可能存在部分像素单元对应深度的置信度相同，因此，为了便于处理，确定模块102在确定置信度的取值范围后，可以从取值范围内，按序逐一选取一个取值，针对选取的取值，可以根据直方图，将各像素单元划分为置信度小于取值和置信度不小于取值的两部分。由此，无需将每个像素单元对应深度的置信度与选取的取值进行比较，而直接根据统计得到的直方图，来将各像素单元划分为置信度小于取值和置信度不小于取值的两部分，可以节省计算量，提升图像的处理效率。
本申请实施例中，在确定模块102根据确定置信度的取值范围内每一个取值下，两部分之间的置信度方差后，可以将置信度方差最大时的两部分，分别作为第一部分和第二部分。
对齐模块106，用于将滤波处理后的深度图中各像素单元，与成像图中各像素单元对齐。
其中，对齐处理可以包括去畸变、坐标转换等步骤。
需要说明的是，采集图像时，是将图像坐标转换为相机坐标系中，由于相机透镜可能存在一定的畸变，包括横向畸变和/或切向畸变，因此，为了提升图像的处理效果，对齐模块106可以对滤波处理后的深度图和/或成像图进行去畸变处理。具体地，通过相机标定，可以确定相机的内部参数，包括焦距、光心和畸变系数，因此，在去畸变处理时，可以进行相机透镜畸变处理，由相机坐标转换到图像坐标。
可以理解的是，RGB图像数据与深度图像数据的空间坐标系是不同的，前者的原点是RGB摄像头，后者的原点是红外摄像头，因此两者会有相应的误差，因此，对齐模块106在对齐处理时，可以将深度图上的2D点转换到世界坐标的3D点，再将世界坐标的3D点投影到成像图上。
确定模块102，还用于根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。
本申请实施例中，在对齐模块106将成像图与深度图进行对齐处理后，可以由确定模块102根据对齐后的成像图和深度图，确定成像图中各像素单元对应的深度。具体地，针对成像图中的各像素单元，确定模块102可以将深度图中对应像素单元对应的深度，作为该像素单元对应的深度。
需要说明的是，TOF相机和RGB摄像头的安装位置不同，两者的拍摄视角不同，在将深度图与成像图对齐后，可能导致成像图中存在部分像素单元缺失对应的深度，因此，本申请中，处理模块104还可以对成像图进行平滑深度，补充缺失的深度。例如，针对成像图中各缺失深度的像素单元而言，处理模块104可以利用该像素单元周围的像素单元对应的深度，确定该像素单元的深度，例如，可以将该像素单元周围的像素单元对应的深度取均值，作为该像素单元的深度。
本申请实施例的深度图处理装置，通过获取深度图；其中，深度图中各像素单元具有对应的深度和深度的置信度，之后，根据初始的置信阈值，在深度图中确定目标轮廓；其中，目标轮廓是根据深度图的各像素单元中，对应深度的置信度符合置信阈值的目标像素单元确定的，接着，根据成像图中的前景对象轮廓，调整置信阈值，以使目标轮廓与前景对象轮廓匹配，最后，根据调整后的置信阈值，对深度图内各像素单元对应深度进行滤波处理。由此，可以有效去除深度图中的异常点，比如飞像素点，改善深度图的平滑性。
为了实现上述实施例，本申请还提出一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时，实现如本申请前述实施例提出的深度图处理方法。
为了实现上述实施例，本申请还提出一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请前述实施例提出的深度图处理方法。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (11)
1.一种深度图处理方法，其特征在于，所述方法包括以下步骤：
获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；
根据初始的置信阈值，在深度图中确定目标轮廓；其中，所述目标轮廓是根据所述深度图的各像素单元中，对应深度的置信度符合所述置信阈值的目标像素单元确定的；
根据成像图中的前景对象轮廓，调整所述置信阈值，以使所述目标轮廓与所述前景对象轮廓匹配；其中，所述成像图和所述深度图同步采集得到；
根据调整后的置信阈值，对所述深度图内各像素单元对应深度进行滤波处理；
所述根据初始的置信阈值，在深度图中确定目标轮廓之前，还包括：
根据所述深度图中各像素单元对应深度的置信度，生成置信度的直方图；
根据所述直方图，确定置信阈值的取值范围；
从所述取值范围中，确定初始的所述置信阈值，以将所述深度图中各像素单元划分为置信度小于所述置信阈值的第一部分，以及置信度大于所述置信阈值的第二部分，且第一部分与所述第二部分的之间的置信度方差最大。
2.根据权利要求1所述的深度图处理方法，其特征在于，所述根据成像图中的前景对象轮廓，调整所述置信阈值，以使所述目标轮廓与所述前景对象轮廓匹配，包括：
根据所述深度图和所述成像图之间的映射关系，在所述成像图中，确定与所述深度图的目标轮廓对应的参考轮廓；
在所述成像图中，对所述参考轮廓包围的区域进行边缘识别，得到所述前景对象轮廓；
根据所述参考轮廓和所述前景对象轮廓之间的差异，调整所述置信阈值。
3.根据权利要求2所述的深度图处理方法，其特征在于，所述根据所述参考轮廓和所述前景对象轮廓之间的差异，调整所述置信阈值，包括：
将所述置信阈值增大所述差异的设定比例。
4.根据权利要求3所述的深度图处理方法，其特征在于，所述设定比例为固定值，或者与所述差异具有正向关系。
5.根据权利要求3所述的深度图处理方法，其特征在于，所述根据所述参考轮廓和所述前景对象轮廓之间的差异，调整所述置信阈值之前，还包括：
确定所述差异大于差异阈值；
所述根据所述参考轮廓和所述前景对象轮廓之间的差异，调整所述置信阈值之后，还包括：
若调整后的置信阈值使得所述差异小于或等于所述差异阈值，确定所述目标轮廓与所述前景对象轮廓匹配。
6.根据权利要求1-5任一项所述的深度图处理方法，其特征在于，所述根据调整后的置信阈值，对所述深度图内各像素单元对应深度进行滤波处理，包括：
对所述深度图中置信度小于所述调整后的置信阈值的像素单元，删除相应像素单元对应的深度。
7.根据权利要求1-5任一项所述的深度图处理方法，所述根据调整后的置信阈值，对所述深度图内各像素单元进行滤波处理之后，还包括：
将滤波处理后的所述深度图中各像素单元，与所述成像图中各像素单元对齐；
根据对齐后的所述成像图和所述深度图，确定所述成像图中各像素单元对应的深度。
8.根据权利要求1-5任一项所述的深度图处理方法，所述深度的置信度是根据TOF相机检测到的红外光强度确定的。
9.一种深度图处理装置，其特征在于，所述装置包括：
获取模块，用于获取深度图；其中，所述深度图中各像素单元具有对应的深度和所述深度的置信度；
确定模块，用于根据初始的置信阈值，在深度图中确定目标轮廓；其中，所述目标轮廓是根据所述深度图中各像素单元对应深度的置信度，对所述置信度符合所述置信阈值的目标像素单元连接得到的；
调整模块，用于根据成像图中的前景对象轮廓，调整所述置信阈值，以使所述目标轮廓与所述前景对象轮廓匹配；其中，所述成像图和所述深度图同步采集得到；
处理模块，用于根据调整后的置信阈值，对所述深度图内各像素单元对应深度进行滤波处理；
生成模块，用于根据所述深度图中各像素单元对应深度的置信度，生成置信度的直方图；
所述确定模块还用于根据所述直方图，确定置信阈值的取值范围；从所述取值范围中，确定初始的所述置信阈值，以将所述深度图中各像素单元划分为置信度小于所述置信阈值的第一部分，以及置信度大于所述置信阈值的第二部分，且第一部分与所述第二部分的之间的置信度方差最大。
10.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如权利要求1-8中任一所述的深度图处理方法。
11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8中任一所述的深度图处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910622951.5A CN110378944B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910622951.5A CN110378944B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110378944A CN110378944A (zh) | 2019-10-25 |
| CN110378944B true CN110378944B (zh) | 2021-05-25 |
Family
ID=68252684
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910622951.5A Active CN110378944B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110378944B (zh) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111031265B (zh) * | 2019-11-22 | 2022-05-06 | 维沃移动通信有限公司 | 一种fsr确定方法及电子设备 |
| CN111145151B (zh) * | 2019-12-23 | 2023-05-26 | 维沃移动通信有限公司 | 一种运动区域确定方法及电子设备 |
| CN111275700A (zh) * | 2020-02-19 | 2020-06-12 | 凌云光技术集团有限责任公司 | 基于深度学习的端子缺陷检测方法及系统 |
| CN111803070A (zh) * | 2020-06-19 | 2020-10-23 | 浙江大华技术股份有限公司 | 身高测量方法及电子设备 |
| CN111973410A (zh) * | 2020-06-30 | 2020-11-24 | 北京迈格威科技有限公司 | 障碍物检测方法、装置、避障设备及计算机可读存储介质 |
| CN113313658B (zh) * | 2021-07-29 | 2021-11-30 | 南昌虚拟现实研究院股份有限公司 | 图像处理方法、装置、电子设备及存储介质 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101257641A (zh) * | 2008-03-14 | 2008-09-03 | 清华大学 | 基于人机交互的平面视频转立体视频的方法 |
| JP5980294B2 (ja) * | 2014-10-27 | 2016-08-31 | キヤノン株式会社 | データ処理装置、撮像装置、およびデータ処理方法 |
| CN109767467B (zh) * | 2019-01-22 | 2020-11-10 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
| CN109978890B (zh) * | 2019-02-25 | 2023-07-07 | 平安科技（深圳）有限公司 | 基于图像处理的目标提取方法、装置及终端设备 |
-
2019
- 2019-07-11 CN CN201910622951.5A patent/CN110378944B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN110378944A (zh) | 2019-10-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110378944B (zh) | 深度图处理方法、装置和电子设备 | |
| CN110378945B (zh) | 深度图处理方法、装置和电子设备 | |
| CN110378946B (zh) | 深度图处理方法、装置以及电子设备 | |
| CN110400338B (zh) | 深度图处理方法、装置和电子设备 | |
| US11948282B2 (en) | Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data | |
| US11145038B2 (en) | Image processing method and device for adjusting saturation based on depth of field information | |
| WO2019105154A1 (en) | Image processing method, apparatus and device | |
| WO2019105262A1 (zh) | 背景虚化处理方法、装置及设备 | |
| CN108932698B (zh) | 图像畸变的校正方法、装置、电子设备和存储介质 | |
| US10475237B2 (en) | Image processing apparatus and control method thereof | |
| CN111091592B (zh) | 图像处理方法、图像处理装置、电子设备及可读存储介质 | |
| CN108961383B (zh) | 三维重建方法及装置 | |
| WO2019037088A1 (zh) | 一种曝光的控制方法、装置以及无人机 | |
| CN110400342B (zh) | 深度传感器的参数调整方法、装置以及电子设备 | |
| CN111008947B (zh) | 图像处理方法和装置、终端设备及存储介质 | |
| US20130215234A1 (en) | Method and apparatus for stereo matching | |
| CN110971827B (zh) | 人像模式拍摄方法、装置、终端设备和存储介质 | |
| CN113950820A (zh) | 用于像素到像素信号扩散的校正 | |
| CN109559353A (zh) | 摄像模组标定方法、装置、电子设备及计算机可读存储介质 | |
| WO2019011110A1 (zh) | 逆光场景的人脸区域处理方法和装置 | |
| CN111091507A (zh) | 图像处理方法、装置、电子设备以及存储介质 | |
| KR20200017185A (ko) | 흐림 처리가 수행된 이미지에 노이즈 패턴을 반영하는 방법 및 장치 | |
| CN110390689B (zh) | 深度图处理方法、装置和电子设备 | |
| CN111105370B (zh) | 图像处理方法、图像处理装置、电子设备和可读存储介质 | |
| CN107025636B (zh) | 结合深度信息的图像去雾方法及装置和电子装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |