CN111696145B - 深度信息确定方法、深度信息确定装置及电子设备 - Google Patents

Abstract

公开了一种深度信息确定方法、深度信息确定装置及电子设备。该深度信息确定方法包括：基于二维图像确定深度信息图像；基于深度信息图像确定深度梯度信息；确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步；基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。本申请实施例借助二维图像弥补了点云数据中的第一深度信息集合的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息，从而最终提高了所确定的深度信息的稠密度和精度。

Description

深度信息确定方法、深度信息确定装置及电子设备

技术领域

本公开涉及图像处理技术领域，具体涉及一种深度信息确定方法、深度信息确定装置及电子设备。

背景技术

深度信息作为支持计算机视觉技术的重要信息，对三维重建有着重要的意义。尤其在自动驾驶领域，深度信息更是不可或缺的信息之一。然而，在现有基于激光雷达技术确定深度信息的方案中，所获取的深度信息的稠密度较低，无法达到实用的要求。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种深度信息确定方法、深度信息确定装置及电子设备。

在一方面，本申请实施例提供了一种深度信息确定方法，该深度信息确定方法包括：基于二维图像确定深度信息图像；基于深度信息图像确定深度梯度信息；确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步；基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。

在另一方面，本申请实施例提供了一种深度信息确定装置，该深度信息确定装置包括：深度信息图像确定模块，用于基于二维图像确定深度信息图像；深度梯度信息确定模块，用于基于深度信息图像确定深度梯度信息；点云数据确定模块，用于确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步；第二深度信息集合生成模块，用于基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过基于与待确定深度信息的当前场景相关的二维图像确定深度信息图像，并确定二维图像对应的包含第一深度信息集合的点云数据，然后基于点云数据的第一深度信息集合和二维图像的深度信息图像生成第二深度信息集合的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。也就是说，本申请实施例提供的深度信息确定方法，借助二维图像弥补了点云数据中的第一深度信息集合的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息。与现有深度信息确定方法相比，本申请实施例通过将二维图像和与二维图像对应的点云数据相结合以确定当前场景的深度信息的方式，提高了所确定的深度信息的稠密度和精度，从而为后续基于深度信息进行的三维重建等技术提供了良好的数据支持。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本申请所适用的场景图。

图2是本申请一示例性实施例提供的深度信息确定方法的流程示意图。

图3是本申请另一示例性实施例提供的基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合的流程示意图。

图4是本申请又一示例性实施例提供的基于深度信息单元集合和投影点集合确定第二深度信息集合的流程示意图。

图5是本申请再一示例性实施例提供的基于中间深度信息集合和深度信息单元集合生成第二深度信息集合的流程示意图。

图6是本申请再一示例性实施例提供的基于对应的投影点的深度信息确定深度信息单元的中间深度信息的流程示意图。

图7是本申请再一示例性实施例提供的基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合的流程示意图。

图8是本申请一示例性实施例提供的深度信息确定装置的结构示意图。

图9是本申请另一示例性实施例提供的深度信息确定装置的第二深度信息集合生成模块的结构示意图。

图10是本申请又一示例性实施例提供的深度信息确定装置的第二深度信息集合确定单元的结构示意图。

图11是本申请再一示例性实施例提供的深度信息确定装置的第二深度信息集合生成子单元的结构示意图。

图12是本申请再一示例性实施例提供的深度信息确定装置的中间深度信息确定子单元的结构示意图。

图13是本申请再一示例性实施例提供的深度信息确定装置的划分单元的结构示意图。

图14是本申请一示例性实施例提供的电子设备的结构示意图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

申请概述

在计算机视觉技术领域，深度信息的重要性不言而喻。尤其在自动驾驶领域，深度信息更是不可或缺的信息之一。

目前，通常利用激光雷达来确定场景深度信息。但是，利用激光雷达来确定深度信息时，无法确定场景中物体和像素的稠密的深度信息，并且线束越低的激光雷达所确定的深度信息越是稀疏，无法达到实用的要求。

亦或者，在现有技术中，通过利用深度神经网络模型来对拍摄的图像进行处理的方式确定场景深度信息。然而，通过此种方式确定的深度信息的精度远远不及利用激光雷达确定的深度信息的精度。

针对上述技术问题，本申请的基本构思是提出一种深度信息确定方法、深度信息确定装置及电子设备，该深度信息确定方法通过基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，最后基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合的方式，实现了结合二维图像以及与二维图像对应的点云数据来确定具备高精度和高稠密度特性的场景深度信息的目的。由于本申请实施例所提供的深度信息确定方法能够结合二维图像以及与二维图像对应的点云数据来确定场景深度信息，因此，与现有确定场景深度信息的方法相比，本申请实施例所确定的场景深度信息具备高精度和高稠密度特性。具备高精度和高稠密度特性的深度信息为自动驾驶等计算机视觉技术的发展奠定基础。

在介绍了本申请所要解决的技术问题以及本申请的基本构思之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

示例性系统

图1是本申请所适用的场景图。如图1所示，本申请所适用的场景为针对可移动设备的行驶区域的深度信息确定场景，其中，该深度信息确定场景中包括服务器1和可移动设备2，服务器1获取可移动设备2拍摄的二维图像，并获取与二维图像对应且与二维图像时间同步的点云数据，然后根据获取的二维图像和点云数据进行深度信息确定操作。

具体地，可移动设备2用于拍摄二维图像；服务器1用于基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，最后基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。通过该场景，可降低可移动设备2的计算量。

需要说明的是，本申请还适用于另一场景。具体地，该场景中包括可移动设备2。具体地，可移动设备2拍摄二维图像，并基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，最后基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。通过该场景，可确保可移动设备2能够实时获取高精度和高稠密度的场景深度信息。

示例性方法

图2是本申请一示例性实施例提供的深度信息确定方法的流程示意图。本申请实施例提供的深度信息确定方法可应用到汽车、电动车等设备的自动驾驶领域，亦可以应用到智能机器人的行进类功能领域。如图2所示，本申请实施例提供的深度信息确定方法包括如下步骤。

步骤10，基于二维图像确定深度信息图像。

其中，二维图像是与待确定深度信息的当前场景相关的图像。

此外，需要说明的是，深度信息图像指的是基于二维图像确定的包含深度信息的图像。

步骤20，基于深度信息图像确定深度梯度信息。

在步骤20中，深度梯度信息指的是基于深度信息图像中包括的深度信息所确定的与深度信息相关的梯度信息。

步骤30，确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步。

其中，点云数据是与二维图像对应的点云数据。也就是说，点云数据与二维图像处于相同的地理位置预设范围。并且，第一深度信息集合指的是点云数据中包含的每个点对应的深度信息的集合。

在本申请一实施例中，利用激光雷达获得与二维图像对应的点云数据。

步骤40，基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。

需要说明的是，由于点云数据与二维图像对应，因此，点云数据中包含的第一深度信息集合能够与二维图像对应的深度信息图像建立起对应关系。那么，基于第一深度信息集合与深度信息图像之间的对应关系以及基于深度信息图像确定的深度梯度信息，能够生成第二深度信息集合，从而充分利用高精度的第一深度信息集合和高稠密度的深度信息图像生成第二深度信息集合。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，最后基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过基于与待确定深度信息的当前场景相关的二维图像确定深度信息图像，并确定二维图像对应的包含第一深度信息集合的点云数据，然后基于第一深度信息集合和深度信息图像生成第二深度信息集合的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。也就是说，本申请实施例提供的深度信息确定方法，借助二维图像弥补了点云数据中的第一深度信息集合的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息。与现有深度信息确定方法相比，本申请实施例通过将二维图像和与二维图像对应的点云数据相结合以确定当前场景的深度信息的方式，提高了所确定的深度信息的稠密度和精度，从而为后续基于深度信息进行的三维重建等技术提供了良好的数据支持。

在本申请一实施例中，基于深度估计模型确定二维图像对应的深度信息图像。其中，深度估计模型可以采用卷积神经网络模型，也可以采用SLAM中的三角化模型以及其他可以识别出二维图像的深度信息的模型。

二维图像既可以是单路图像，又可以是多路图像。需要说明的是，通过双目相机或多目相机采集图像，可以获取两路或两路以上的二维图像。当二维图像是多路图像时，深度信息图像可以通过计算两个或两个以上的图像之间的视差来确定，本发明实施例对此不进行统一限定。

图3是本申请另一示例性实施例提供的基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合的流程示意图。在本申请图2所示实施例的基础上延伸出本申请图3所示实施例，下面着重叙述图3所示实施例与图2所示实施例的不同之处，相同之处不再赘述。

如图3所示，在本申请实施例提供的深度信息确定方法中，基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合步骤(即步骤40)，包括如下步骤。

步骤41，基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合。

需要说明的是，由于深度梯度信息能够反映出深度信息图像中的深度信息的梯度变化，因此，能够基于深度梯度信息确定出深度信息图像的深度相似区域，即生成多个深度信息单元。

步骤42，将点云数据中的所有点投影到深度信息图像中，确定投影点集合。

由于二维图像与点云数据之间存在对应关系，因此，能够将点云数据中的所有点投影到深度信息图像中，以确定投影点集合。其中，投影点集合中的每一投影点的深度信息即为该投影点对应的点云数据中的相应点的深度信息。

步骤43，基于深度信息单元集合和投影点集合确定第二深度信息集合。

需要说明的是，由于深度信息图像是基于二维图像确定的，投影点集合是基于点云数据确定的，又由于二维图像与点云数据对应，因此，深度信息单元集合与投影点集合之间存在相应的对应关系。又由于投影点集合中的投影点所对应的深度信息的精度要优于对应的深度信息单元的精度，因此利用投影点集合中的投影点的深度信息，能够提高深度信息单元集合中的深度信息的精度，进而生成具备高精度和高稠密度的第二深度信息集合。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，继而基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合，并将点云数据中的所有点投影到深度信息图像中，确定投影点集合，最后基于深度信息单元集合和投影点集合确定第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过基于深度梯度信息将深度信息图像划分为多个深度信息单元以生成深度信息单元集合，并将点云数据中的所有点投影到深度信息图像中，确定投影点集合，最后基于深度信息单元集合和投影点集合确定第二深度信息集合的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。也就是说，在本申请实施例中，利用深度梯度信息划分深度信息图像以生成深度信息单元集合，并将深度信息单元集合与点云数据的投影点集合相结合以生成第二深度信息集合的方式，实现了深度信息图像中的深度信息与点云数据中的深度信息的深度信息融合，进而生成了具备高精度和高稠密度特性的第二深度信息集合。

图4是本申请又一示例性实施例提供的基于深度信息单元集合和投影点集合确定第二深度信息集合的流程示意图。在本申请图3所示实施例的基础上延伸出本申请图4所示实施例，下面着重叙述图4所示实施例与图3所示实施例的不同之处，相同之处不再赘述。

如图4所示，在本申请实施例提供的深度信息确定方法中，基于深度信息单元集合和投影点集合确定第二深度信息集合步骤(即步骤43)，包括如下步骤。

步骤431，确定深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定深度信息单元的中间深度信息。

需要说明的是，步骤431中所提及的深度信息单元的中间深度信息为基于与该深度信息单元对应的投影点的深度信息所确定的深度信息。即，根据深度信息单元对应的投影点的具体情况来确定中间深度信息。比如，基于深度信息单元对应的投影点的数量以及对应的投影点的深度信息来确定中间深度信息。

步骤432，基于所有深度信息单元对应的中间深度信息生成中间深度信息集合。

步骤433，基于中间深度信息集合和深度信息单元集合生成第二深度信息集合。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，继而基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合，并将点云数据中的所有点投影到深度信息图像中，确定投影点集合，然后确定深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定深度信息单元的中间深度信息，并基于所有深度信息单元对应的中间深度信息生成中间深度信息集合，最后基于中间深度信息集合和深度信息单元集合生成第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过基于投影点集合中的投影点的深度信息确定深度信息单元的中间深度信息，以生成中间深度信息集合，并基于中间深度信息集合和深度信息单元集合生成第二深度信息集合的方式，充分利用了投影点集合的高精度的深度信息，进而实现了基于投影点集合的深度信息与深度信息图像的深度信息确定具备高精度和高稠密度特性的第二深度信息集合的目的。

图5是本申请再一示例性实施例提供的基于中间深度信息集合和深度信息单元集合生成第二深度信息集合的流程示意图。在本申请图4所示实施例的基础上延伸出本申请图5所示实施例，下面着重叙述图5所示实施例与图4所示实施例的不同之处，相同之处不再赘述。

如图5所示，在本申请实施例提供的深度信息确定方法中，基于中间深度信息集合和深度信息单元集合生成第二深度信息集合步骤(即步骤433)，包括如下步骤。

步骤4331，基于深度信息单元集合，分别利用中间深度信息集合中的每一中间深度信息替换对应的深度信息单元。

步骤4332，将中间深度信息集合和未被替换的深度信息单元组合在一起，生成第二深度信息集合。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，继而基于深度梯度信息将深度信息图像划分为多个深度信息单元，以生成深度信息单元集合，并将点云数据中的所有点投影到深度信息图像中，确定投影点集合，然后确定深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定深度信息单元的中间深度信息，并基于所有深度信息单元对应的中间深度信息生成中间深度信息集合，最后基于深度信息单元集合，分别利用中间深度信息集合中的每一中间深度信息替换对应的深度信息单元，并将中间深度信息集合和未被替换的深度信息单元组合在一起，生成第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过利用中间深度信息集合中的每一中间深度信息替换对应的深度信息单元，并将中间深度信息集合和未被替换的深度信息单元组合在一起，生成第二深度信息集合的方式，实现了基于中间深度信息集合和深度信息单元集合生成第二深度信息集合的目的。需要说明的是，在本申请实施例中提及的直接利用中间深度信息集合中的中间深度信息替换对应的深度信息单元的方式，不仅计算量低，而且能够充分利用中间深度信息集合中的高精度的深度信息，进而为保证第二深度信息集合的精度提供前提条件。

图6是本申请再一示例性实施例提供的基于对应的投影点的深度信息确定深度信息单元的中间深度信息的流程示意图。在本申请图4所示实施例的基础上延伸出本申请图6所示实施例，下面着重叙述图6所示实施例与图4所示实施例的不同之处，相同之处不再赘述。

如图6所示，在本申请实施例提供的深度信息确定方法中，确定深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定深度信息单元的中间深度信息步骤(即步骤431)，包括如下步骤。

步骤4311，确定深度信息单元对应的投影点的数量。

需要说明的是，由于深度信息单元集合是基于深度梯度信息和深度信息图像得到的，所以深度信息单元的尺寸和形状是根据深度信息图像的实际情况确定的。又由于点云数据自身的稠密度相对较低，因此，深度信息单元对应的投影点的数量既可以为多个，也可以为一个，也可以为零。

步骤4312，当一个深度信息单元对应一个投影点时，将对应的投影点的深度信息确定为深度信息单元的中间深度信息。

步骤4313，当一个深度信息单元对应多个投影点时，计算对应的多个投影点的深度信息的平均值，并将平均值确定为深度信息单元的中间深度信息。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，继而基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合，并将点云数据中的所有点投影到深度信息图像中，确定投影点集合，然后确定深度信息单元集合中的每一深度信息单元对应的投影点的数量，当一个深度信息单元对应一个投影点时，将对应的投影点的深度信息确定为深度信息单元的中间深度信息，当一个深度信息单元对应多个投影点时，计算对应的多个投影点的深度信息的平均值，并将平均值确定为深度信息单元的中间深度信息，最后基于所有深度信息单元对应的中间深度信息生成中间深度信息集合，并基于中间深度信息集合和深度信息单元集合生成第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过基于深度信息单元对应的投影点的数量来综合确定深度信息单元的中间深度信息的方式，提高了最终确定的第二深度信息集合的稳定性。

需要说明的是，当一个深度信息单元对应多个投影点时，亦可以通过其他计算方式得出该深度信息单元的中间深度信息，只要能够确定高精度的中间深度信息即可，本申请实施例不局限于平均值的计算方式。比如，基于投影点的位置进行加权计算等计算方式。

图7是本申请再一示例性实施例提供的基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合的流程示意图。在本申请图3所示实施例的基础上延伸出本申请图7所示实施例，下面着重叙述图7所示实施例与图3所示实施例的不同之处，相同之处不再赘述。

如图7所示，在本申请实施例提供的深度信息确定方法中，确定深度信息单元集合中的每一深度信息单元对应的投影点，基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合步骤(即步骤41)，包括如下步骤。

步骤411，将深度梯度信息与预设梯度阈值比较。

在步骤411中，预设梯度阈值可根据深度信息图像的实际情况自行设定，只要所设定的预设梯度阈值能够实现划分深度信息图像的目的即可，本申请实施例对此不进行统一限定。

步骤412，根据大于预设梯度阈值的深度梯度信息对应的点拟合划分线。

步骤413，基于划分线划分深度信息图像，以生成多个深度信息单元，多个深度信息单元形成深度信息单元集合。

在实际应用过程中，首先基于二维图像确定深度信息图像，并基于深度信息图像确定深度梯度信息，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步，继而将深度梯度信息与预设梯度阈值比较，根据大于预设梯度阈值的深度梯度信息对应的点拟合划分线，并基于划分线划分深度信息图像，以生成多个深度信息单元，其中，多个深度信息单元形成深度信息单元集合，然后将点云数据中的所有点投影到深度信息图像中，确定投影点集合，最后基于深度信息单元集合和投影点集合确定第二深度信息集合。

本申请实施例所提及的深度信息确定方法，通过将深度梯度信息与预设梯度阈值比较，并根据比较结果拟合划分线，并基于划分线划分深度信息图像以生成多个深度信息单元的方式，实现了基于深度梯度信息对深度信息图像进行划分的目的。由于本申请实施例是基于深度梯度信息与预设梯度阈值的比较结果来进行划分线的拟合，因此，所拟合的划分线能够使划分到同一深度信息单元中的深度信息的相似度更高，进而为后续生成具备高精度和高稠密度特性的第二深度信息集合提供有利条件。

示例性装置

图8是本申请一示例性实施例提供的深度信息确定装置的结构示意图。本申请实施例提供的深度信息确定装置可应用到汽车、电动车等设备的自动驾驶领域，亦可以应用到智能机器人的行进类功能领域。如图8所示，本申请实施例提供的深度信息确定装置包括：

深度信息图像确定模块100，用于基于二维图像确定深度信息图像；

深度梯度信息确定模块200，用于基于深度信息图像确定深度梯度信息；

点云数据确定模块300，用于确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集合，并且点云数据与二维图像时间同步；

第二深度信息集合生成模块400，用于基于第一深度信息集合、深度梯度信息和深度信息图像生成第二深度信息集合。

图9是本申请另一示例性实施例提供的深度信息确定装置的第二深度信息集合生成模块的结构示意图。在本申请图8所示实施例的基础上延伸出本申请图9所示实施例，下面着重叙述图9所示实施例与图8所示实施例的不同之处，相同之处不再赘述。

如图9所示，在本申请实施例提供的深度信息确定装置中，第二深度信息集合生成模块400包括：

划分单元410，用于基于深度梯度信息将深度信息图像划分为多个深度信息单元，生成深度信息单元集合；

投影点集合确定单元420，用于将点云数据中的所有点投影到深度信息图像中，确定投影点集合；

第二深度信息集合确定单元430，用于基于深度信息单元集合和投影点集合确定第二深度信息集合。

图10是本申请又一示例性实施例提供的深度信息确定装置的第二深度信息集合确定单元的结构示意图。在本申请图9所示实施例的基础上延伸出本申请图10所示实施例，下面着重叙述图10所示实施例与图9所示实施例的不同之处，相同之处不再赘述。

如图10所示，在本申请实施例提供的深度信息确定装置中，第二深度信息集合确定单元430包括：

中间深度信息确定子单元4310，用于确定深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定深度信息单元的中间深度信息；

中间深度信息集合生成子单元4320，用于基于所有深度信息单元对应的中间深度信息生成中间深度信息集合；

第二深度信息集合生成子单元4330，用于基于中间深度信息集合和深度信息单元集合生成第二深度信息集合。

图11是本申请再一示例性实施例提供的深度信息确定装置的第二深度信息集合生成子单元的结构示意图。在本申请图10所示实施例的基础上延伸出本申请图11所示实施例，下面着重叙述图11所示实施例与图10所示实施例的不同之处，相同之处不再赘述。

如图11所示，在本申请实施例提供的深度信息确定装置中，第二深度信息集合生成子单元4330包括：

替换子单元43310，用于基于深度信息单元集合，分别利用中间深度信息集合中的每一中间深度信息替换对应的深度信息单元；

组合子单元43320，用于将中间深度信息集合和未被替换的深度信息单元组合在一起，生成第二深度信息集合。

图12是本申请再一示例性实施例提供的深度信息确定装置的中间深度信息确定子单元的结构示意图。在本申请图10所示实施例的基础上延伸出本申请图12所示实施例，下面着重叙述图12所示实施例与图10所示实施例的不同之处，相同之处不再赘述。

如图12所示，在本申请实施例提供的深度信息确定装置中，中间深度信息确定子单元4310包括：

投影点数量确定子单元43110，用于确定深度信息单元对应的投影点的数量；

确定子单元43120，用于当一个深度信息单元对应一个投影点时，将对应的投影点的深度信息确定为深度信息单元的中间深度信息；

计算子单元43130，用于当一个深度信息单元对应多个投影点时，计算对应的多个投影点的深度信息的平均值，并将平均值确定为深度信息单元的中间深度信息。

图13是本申请再一示例性实施例提供的深度信息确定装置的划分单元的结构示意图。在本申请图9所示实施例的基础上延伸出本申请图13所示实施例，下面着重叙述图13所示实施例与图9所示实施例的不同之处，相同之处不再赘述。

如图13所示，在本申请实施例提供的深度信息确定装置中，划分单元410包括：

比较子单元4110，用于将深度梯度信息与预设梯度阈值比较；

划分线拟合子单元4120，用于根据大于预设梯度阈值的深度梯度信息对应的点拟合划分线；

划分子单元4130，用于基于划分线划分深度信息图像，以生成多个深度信息单元，多个深度信息单元形成深度信息单元集合。

应当理解，图8至图13提供的深度信息确定装置中的深度信息图像确定模块100、深度梯度信息确定模块200、点云数据确定模块300和第二深度信息集合生成模块400，以及第二深度信息集合生成模块400中包括的划分单元410、投影点集合确定单元420和第二深度信息集合确定单元430，以及第二深度信息集合确定单元430中包括的中间深度信息确定子单元4310、中间深度信息集合生成子单元4320和第二深度信息集合生成子单元4330，以及第二深度信息集合生成子单元4330中包括的替换子单元43310和组合子单元43320，以及中间深度信息确定子单元4310中包括的投影点数量确定子单元43110、确定子单元43120和计算子单元43130，以及划分单元410中包括的比较子单元4110、划分线拟合子单元4120和划分子单元4130的操作和功能可以参考上述图2至图7提供的深度信息确定方法，为了避免重复，在此不再赘述。

示例性电子设备

下面，参考图14来描述根据本申请实施例的电子设备。图14图示了根据本申请实施例的电子设备的框图。

如图14所示，电子设备50包括一个或多个处理器501和存储器502。

处理器501可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备50中的其他组件以执行期望的功能。

存储器502可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器501可以运行所述程序指令，以实现上文所述的本申请的各个实施例的深度信息确定方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如二维图像等各种内容。

在一个示例中，电子设备50还可以包括：输入装置503和输出装置504，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

该输入装置503可以包括例如键盘、鼠标等等。

该输出装置504可以向外部输出各种信息，包括确定出的深度信息等。该输出装置504可以包括例如显示器、通信网络及其所连接的远程输出设备等等。

当然，为了简化，图14中仅示出了该电子设备50中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备50还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的深度信息确定方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的深度信息确定方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (7)

1.一种深度信息确定方法，包括：

基于二维图像确定深度信息图像；

基于所述深度信息图像确定深度梯度信息；

确定所述二维图像对应的点云数据，其中，所述点云数据包含第一深度信息集合，并且所述点云数据与所述二维图像时间同步；

基于所述第一深度信息集合、所述深度梯度信息和所述深度信息图像生成第二深度信息集合，其中，所述第一深度信息集合包括所述点云数据中的每个点的深度信息；

所述基于所述第一深度信息集合、所述深度梯度信息和所述深度信息图像生成第二深度信息集合，包括：

基于所述深度梯度信息将所述深度信息图像划分为多个深度信息单元，生成深度信息单元集合；

将所述点云数据中的所有点投影到所述深度信息图像中，确定投影点集合；

确定所述深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定所述深度信息单元的中间深度信息；

基于所有所述深度信息单元对应的中间深度信息生成中间深度信息集合；

基于所述深度信息单元集合，分别利用所述中间深度信息集合中的每一中间深度信息替换对应的所述深度信息单元；

将所述中间深度信息集合和未被替换的所述深度信息单元组合在一起，生成第二深度信息集合。

2.根据权利要求1所述的方法，其中，所述基于对应的投影点的深度信息确定所述深度信息单元的中间深度信息，包括：

当一个所述深度信息单元对应一个投影点时，将对应的所述投影点的深度信息确定为所述深度信息单元的中间深度信息。

3.根据权利要求1所述的方法，其中，所述基于对应的投影点的深度信息确定所述深度信息单元的中间深度信息，包括：

当一个所述深度信息单元对应多个投影点时，计算对应的所述多个投影点的深度信息的平均值，并将所述平均值确定为所述深度信息单元的中间深度信息。

4.根据权利要求1所述的方法，其中，所述基于所述深度梯度信息将所述深度信息图像划分为多个深度信息单元，生成深度信息单元集合，包括：

将所述深度梯度信息与预设梯度阈值比较；

根据大于预设梯度阈值的深度梯度信息对应的点拟合划分线；

基于所述划分线划分所述深度信息图像，以生成多个深度信息单元，所述多个深度信息单元形成所述深度信息单元集合。

5.一种深度信息确定装置，包括：

深度信息图像确定模块，用于基于二维图像确定深度信息图像；

深度梯度信息确定模块，用于基于所述深度信息图像确定深度梯度信息；

点云数据确定模块，用于确定所述二维图像对应的点云数据，其中，所述点云数据包含第一深度信息集合，并且所述点云数据与所述二维图像时间同步；

第二深度信息集合生成模块，用于基于所述第一深度信息集合、所述深度梯度信息和所述深度信息图像生成第二深度信息集合；

其中，所述第二深度信息集合生成模块，包括：

划分单元，用于基于所述深度梯度信息将所述深度信息图像划分为多个深度信息单元，生成深度信息单元集合；

投影点集合确定单元，用于将所述点云数据中的所有点投影到所述深度信息图像中，确定投影点集合；

第二深度信息集合确定，用于基于所述深度信息单元集合和所述投影点集合确定第二深度信息集合；

其中，所述第二深度信息集合确定单元，包括：

中间深度信息确定子单元，用于确定所述深度信息单元集合中的每一深度信息单元对应的投影点，基于对应的投影点的深度信息确定所述深度信息单元的中间深度信息；

中间深度信息集合生成子单元，用于基于所有所述深度信息单元对应的中间深度信息生成中间深度信息集合；

第二深度信息集合生成子单元，用于基于所述中间深度信息集合和所述深度信息单元集合生成第二深度信息集合；

其中，所述第二深度信息集合生成子单元包括：

替换子单元，用于基于所述深度信息单元集合，分别利用所述中间深度信息集合中的每一中间深度信息替换对应的所述深度信息单元；

组合子单元，将所述中间深度信息集合和未被替换的所述深度信息单元组合在一起，生成第二深度信息集合。

6.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-4任一所述的深度信息确定方法。

7.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于执行上述权利要求1-4任一所述的深度信息确定方法。