CN112330815B - 基于障碍物融合的三维点云数据处理方法、装置和设备 - Google Patents

Abstract

本申请公开基于障碍物融合的三维点云数据处理方法、装置和设备，涉及自动驾驶、智能交通和计算机视觉。具体实现方案为：获取真实场景下的原始三维点云数据，并获取待添加障碍物模型；对原始三维点云数据和待添加障碍物模型进行融合，得到融合数据；对融合数据进行点云数据重建处理，得到增强后的三维点云数据，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。不需要的大量的计算率，进而降低了数据标注的成本，提升了数据标注的效率；可以针对同一原始三维点云数据，重复上述处理过程，得到不同的增强后的三维点云数据；进而，可以对轻量级的点云数据进行大量的扩增，得到大量的增强后的三维点云数据。

Description

基于障碍物融合的三维点云数据处理方法、装置和设备

技术领域

本申请涉及数据处理中的自动驾驶、智能交通和计算机视觉，尤其涉及一种基于障碍物融合的三维点云数据处理方法、装置和设备。

背景技术

三维点云数据可以具有精度很高的三维场景信息，进而可以将三维点云数据应用到各种处理过程中。例如，将三维点云数据应用于自动驾驶、机器人领域，进而基于三维点云数据进行障碍物检测。在将三维点云数据进行处理之前，在三维点云数据中增加障碍物，得到大量的被标注了障碍物的三维点云数据。

现有技术中，为了得到大量的被标注了障碍物的三维点云数据，可以采用仿真方式建立具有标注了障碍物的三维点云数据。

然而现有技术中，仿真方式的计算量很大，导致成本较高、效率较低。

发明内容

本申请提供了一种用于解决标注障碍物时计算量大、成本较高的基于障碍物融合的三维点云数据处理方法、装置和设备。

根据本申请的第一方面，提供了一种基于障碍物融合的三维点云数据处理方法，包括：

获取真实场景下的原始三维点云数据，并获取待添加障碍物模型；

对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据；

对所述融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，所述增强后的三维点云数据包括所述待添加障碍物模型的点云数据和所述原始三维点云数据。

根据本申请的第二方面，提供了一种基于障碍物融合的三维点云数据处理装置，包括：

获取单元，用于获取真实场景下的原始三维点云数据，并获取待添加障碍物模型；

融合单元，用于对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据；

重建单元，用于对所述融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，所述增强后的三维点云数据包括所述待添加障碍物模型的点云数据和所述原始三维点云数据。

根据本申请的第三方面，提供了一种电子设备，包括：处理器和存储器；存储器中存储有所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行如第一方面中任一项所述的基于障碍物融合的三维点云数据处理方法。

根据本申请的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令被处理器执行时实现第一方面中任一项所述的基于障碍物融合的三维点云数据处理方法。

根据本申请的第五方面，提供了一种程序产品，所述程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，服务器的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得服务器执行第一方面中任一所述的基于障碍物融合的三维点云数据处理方法。

根据本申请的技术方案仅需要将已有的待添加障碍物模型添加到原始三维点云数据中，不需要的大量的计算率，进而降低了数据标注的成本，提升了数据标注的效率；并且，在将已有的待添加障碍物模型添加到原始三维点云数据中的时候，不会破坏原始的三维点云数据的结构和深度关系；上述方式中，是将已有的待添加障碍物模型添加到原始三维点云数据中，可以保证数据标注的质量(即，保证在原始三维点云数据中增加障碍物之后，所得到的增强后的三维点云数据的精度、质量)。并且，可以针对同一原始三维点云数据，重复上述处理过程，得到不同的增强后的三维点云数据；进而，可以对轻量级的点云数据进行大量的扩增，得到大量的增强后的三维点云数据，即，得到大量的具有标注了障碍物的三维点云数据。

应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是根据本申请第一实施例的示意图；

图2是根据本申请第二实施例的示意图；

图3为本申请实施例提供的障碍物的示意图；

图4为本申请实施例提供的融合数据的示意图；

图5是根据本申请第三实施例的示意图；

图6是根据本申请第四实施例的示意图；

图7是根据本申请第五实施例的示意图；

图8是根据本申请第六实施例的示意图；

图9是根据本申请第七实施例的示意图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

三维点云数据可以具有精度很高的三维场景信息，进而可以将三维点云数据应用到各种处理过程中。可以采用三维(Three Dimensional，简称3D)传感器捕捉到精度很高的三维点云数据，例如，采用雷达采集三维点云数据；三维点云数据中具有三维场景信息，尤其是具有深度信息。可以将三维点云数据应用到自动驾驶、机器人等领域。例如，将三维点云数据应用于自动驾驶、机器人领域，进而基于三维点云数据进行障碍物检测；还可以将三维点云数据应用到物体检测、物体分割、全景分割等具体场景中。

采集了三维点云数据之后，由于场景中具有障碍物，所以初始采集的三维点云数据中具有一些障碍物，但是仅仅有这些障碍物不足以进行后续的算法的训练。在将三维点云数据进行处理之前，在三维点云数据中增加障碍物，得到大量的被标注了障碍物的三维点云数据。尤其是对于机器学习、深度学习过程中，大量的标注数据(即，大量的被标注了障碍物的三维点云数据)对于机器学习、深度学习的算法的性能至关重要。举例来说，由于自动驾驶、机器人领域中面临场景变换丰富的问题，从而需要大量的被标注了障碍物的三维点云数据去进行算法的训练。

一个示例中，可以采用仿真方式，建立自动驾驶环境，在自动驾驶环境中仿真的建立起多个障碍物，进而得到具有标注了障碍物的三维点云数据。

但是上述方式中，数据仿真的方式，需要依赖于点云仿真器，对仿真效果、真实度等要求非常高；数据仿真的方式，计算量很大，进而导致成本较高、效率较低。

一个示例中，可以采用传统的点云数据增强方案，在三维点云数据中增加障碍物。示例性地，在采集了原始的三维点云数据之后，对原始的三维点云数据进行翻转、平移、缩放、旋转等处理，进而对原始的三维点云数据中的障碍物进行一定的位置的调整，从而在原始的三维点云数据中增加障碍物；从而得到具有标注了障碍物的三维点云数据。

但是上述方式中，传统的数据增强的解决方案，只能通过简单的翻转、缩放、平移、旋转等处理，去增加障碍物；效果非常局限，与原数据的差异不大；并且，对原始的三维点云数据中的障碍物进行位置调整的方式，会破坏原始的三维点云数据的结构和深度关系，进而对三维点云数据造成了破坏，影响了三维点云数据的性能。

一个示例中，在采集了多帧的原始的三维点云数据之后，对相邻帧的三维点云数据进行处理，将利用相邻帧中前一帧的三维点云数据，增加相邻帧中后一帧的三维点云数据，进而完成时域数据增强的处理；也可以在原始的三维点云数据中增加障碍物；从而得到具有标注了障碍物的三维点云数据。

但是上述方式中，时域的数据增强方案，依赖于三维点云数据务必要具有前后相邻帧，进而有很大的局限；并且容易造成数据模糊，影响三维点云数据的效果。

本申请提供一种基于障碍物融合的三维点云数据处理方法、装置和设备，应用于数据处理中的自动驾驶、智能交通和计算机视觉，以达到标注障碍物时减少计算量、降低成本、提升标注效率的效果，并且可以得到大量的、精度高的具有标注了障碍物的三维点云数据。

图1是根据本申请第一实施例的示意图，如图1所示，本实施例提供的基于障碍物融合的三维点云数据处理方法，包括：

101、获取真实场景下的原始三维点云数据，并获取待添加障碍物模型。

示例性地，本实施例以执行主体可以是电子设备、或者终端设备、或者服务器、或者是其他可以执行本实施例方法的装置或设备。

可以通过雷达采集真实场景下的原始三维点云数据(即，3D点云数据)；其中，由于原始三维点云数据是在真实场景下采集中，真实场景中具有至少一个障碍物，进而原始三维点云数据中具有障碍物的点云数据。其中，原始三维点云数据中的障碍物可以为静态障碍物、或者动态障碍物。举例来说，静态障碍物为路障、建筑物、等等；动态障碍物为车辆、行人、动物、等等。

并且，为了向原始三维点云数据中添加障碍物，可以获取计算机辅助设计(CAD-Computer Aided Design，简称CAD)模型库。CAD模型库中包括了多个待添加障碍物模型，可知，CAD模型库中的每一个待添加障碍物模型为CAD模型。从CAD模型库中提取出多个待添加障碍物模型。可以为每一个待添加障碍物模型，设置障碍物信息；其中，障碍物信息包括以下的一种或多种：障碍物种类、障碍物大小、障碍物的位置、障碍物的朝向。

102、对原始三维点云数据和待添加障碍物模型进行融合，得到融合数据。

示例性地，可以将待添加障碍物模型添加到原始三维点云数据中，进而将原始三维点云数据和待添加障碍物模型进行融合，得到融合数据。

一个示例中，采用雷达采集真实场景下的原始三维点云数据，进而是可以直接获知原始三维点云数据中可以设置障碍物的位置；并且，获取到的待添加障碍物模型具有障碍物信息，进而可以依据障碍物信息将待添加障碍物模型融合到原始三维点云数据中。

举例来说，采用雷达采集真实场景下的原始三维点云数据，进而是可以直接获知原始三维点云数据中可以设置障碍物的位置，可知获知可以沿着车道线，在道路上设置多个障碍物；在获取待添加障碍物模型时，已经为待添加障碍物模型配置了障碍物大小，进而在调整待添加障碍物模型的障碍物大小之后，将待添加障碍物模型融合到原始三维点云数据中。

103、对融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。

示例性地，由于原始三维点云数据是点云数据，待添加障碍物模型是CAD模型，即待添加障碍物模型不是点云数据，从而需要得到点云数据。在将待添加障碍物模型添加到原始三维点云数据中之后，对所得到融合数据进行点云数据重建处理，得到增强后的三维点云数据。

可知，所得到的增强后的三维点云数据中，具有了待添加障碍物模型的点云数据和原始三维点云数据。

所得到的增强后的三维点云数据，是被标注了障碍物的三维点云数据，即，增强后的三维点云数据中具有原始三维点云数据的障碍物和待添加障碍物模型。

所得到的增强后的三维点云数据可以应用到各种处理过程中，例如，将所得到的增强后的三维点云数据应用于自动驾驶、机器人领域中。举例来说，将所得到的增强后的三维点云数据应用到算法的模型训练中。

并且，可以重复执行步骤101-103，进而基于同一原始三维点云数据，去添加待添加障碍物模型，得到大量的增强后的三维点云数据。从而，基于轻量级的点云数据进行添加障碍物、进行点云数据增强，从而对轻量级的点云数据进行大量的扩增，得到大量的增强后的三维点云数据，即，得到大量的具有标注了障碍物的三维点云数据。

举例来说，针对同一真实场景采集到原始三维点云数据之后，从CAD模型库中提取待添加障碍物模型A、待添加障碍物模型B和待添加障碍物模型C，将待添加障碍物模型A、待添加障碍物模型B和待添加障碍物模型C，融合到原始三维点云数据中，然后进行点云数据重建处理，得到增强后的三维点云数据a。从CAD模型库中提取待添加障碍物模型E、待添加障碍物模型F和待添加障碍物模型G，将待添加障碍物模型E、待添加障碍物模型F和待添加障碍物模型G，融合到原始三维点云数据中，然后进行点云数据重建处理，得到增强后的三维点云数据b。以此类推，得到大量的增强后的三维点云数据，即，得到大量的具有标注了障碍物的三维点云数据。

本实施例，将待添加障碍物模型添加到原始三维点云数据中，进而将原始三维点云数据和待添加障碍物模型进行融合，得到融合数据；然后，对融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。并且，由于原始三维点云数据也具有真实场景下的障碍物，从而，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据中的障碍物的点云数据。通过以上方式，仅需要将已有的待添加障碍物模型添加到原始三维点云数据中，不需要的大量的计算率，进而降低了数据标注的成本，提升了数据标注的效率；并且，在将已有的待添加障碍物模型添加到原始三维点云数据中的时候，不会破坏原始的三维点云数据的结构和深度关系；上述方式中，是将已有的待添加障碍物模型添加到原始三维点云数据中，可以保证数据标注的质量(即，保证在原始三维点云数据中增加障碍物之后，所得到的增强后的三维点云数据的精度、质量)。并且，可以针对同一原始三维点云数据，重复上述处理过程，得到不同的增强后的三维点云数据；进而，可以对轻量级的点云数据进行大量的扩增，得到大量的增强后的三维点云数据，即，得到大量的具有标注了障碍物的三维点云数据。从而，可以对原始三维点云数据进行百倍、千倍的扩增；由于可以针对同一原始三维点云数据，在每次处理时，加入不同的障碍物模型，进而增加了标注数据的多样性；基于上述大量的、多样性的增强后的三维点云数据进行机器学习算法、自动驾驶算法、机器人算法的处理(例如，自动驾驶和机器人的感知、物体跟踪、定位)，进而使得得到的算法的模型具有较高的鲁棒性和精度。

图2是根据本申请第二实施例的示意图，如图2所示，本实施例提供的基于障碍物融合的三维点云数据处理方法，包括：

201、获取真实场景下的原始三维点云数据，并获取待添加障碍物模型。

示例性地，本实施例以执行主体可以是电子设备、或者终端设备、或者服务器、或者是其他可以执行本实施例方法的装置或设备。

本步骤可以参见图1的步骤101不再赘述。

202、获取待添加障碍物模型的障碍物信息。

一个示例中，步骤202具体包括：获取历史数据，其中，历史数据为已标注了障碍物的场景图或者已标注了障碍物的点云数据；

根据历史数据，确定待添加障碍物模型的障碍物信息。

或者，一个示例中，步骤202具体包括：根据预设的障碍物摆放需求，确定待添加障碍物模型的障碍物信息。

示例性地，由于原始三维点云数据是对真实场景采集得到的点云数据，真实场景中具有道路、建筑物、车辆、障碍物(动态障碍物、静态障碍物)等等，进而原始三维点云数据也具有道路、建筑物、车辆、障碍物(动态障碍物、静态障碍物)这些对象的点云数据；为了便于将CAD模型库中的待添加障碍物模型，添加到原始三维点云数据中(例如，将待添加障碍物模型添加到道路中)，需要得到待添加障碍物模型的障碍物信息，其中，障碍物信息包括以下的一种或多种：障碍物种类、障碍物大小、障碍物的位置、障碍物的朝向。

障碍物种类包括：动态障碍物、静态障碍物。动态障碍物包括：行人、车辆、动物、等等。静态障碍物包括：路障、建筑物、等等。

障碍物大小用于表征障碍物的体积、面积等等。障碍物的位置，例如是障碍物在世界坐标系下的位置，或者，是障碍物的经纬度。

针对动态障碍物，障碍物的朝向是障碍物的移动方向。针对静态障碍物，障碍物的朝向是占地面积。

一个示例中，对真实场景进行采集，得到场景图；图3为本申请实施例提供的障碍物的示意图，如图3所示，对场景图中的障碍物进行标注(例如，进行人工标注，或者采用算法识别出障碍物)，即，确定出场景图中的各个障碍物，进而标注出障碍物种类、障碍物大小、障碍物的位置、障碍物的朝向等信息；进而得到已标注了障碍物的场景图。或者，对真实场景进行采集，得到真实场景的点云数据，对真实场景的点云数据进行标注(例如，进行人工标注，或者采用算法识别出障碍物)，进而标注出障碍物种类、障碍物大小、障碍物的位置、障碍物的朝向等信息；进而得到已标注了障碍物的点云数据。上述已标注了障碍物的场景图或者已标注了障碍物的点云数据，作为历史数据。

然后，采用多份历史数据，分析出各个障碍物种类下的障碍物的障碍物信息。示例性地，每一份历史数据中具有多个障碍物，已经为这些障碍物标注出了障碍物信息；综合多份历史数据，得到大量障碍物的障碍物信息；然后，提取出每一种障碍物种类中的障碍物的障碍物信息；针对每一种障碍物种类，将统计该种类下每一种障碍物信息的分布概率，将概率最高的障碍物信息作为与该种类相同的待添加障碍物模型的障碍物信息。由于历史数据是针对真实场景采集的，进而基于历史数据中的各个障碍物的障碍物信息，去得到待添加障碍物模型的障碍物信息，所得到待添加障碍物模型的障碍物信息是符合真实场景的，有利于后续的模型训练。

举例来说，综合多份历史数据，得到大量障碍物的障碍物信息，障碍物种类A下具有障碍物1、障碍物2、障碍物3、障碍物4、障碍物5。每一障碍物具有障碍物信息。针对障碍物大小，分析障碍物1、障碍物2、障碍物3、障碍物4、障碍物5各自的障碍物大小，其中，障碍物1、障碍物2、障碍物3、障碍物4的障碍物大小均为m，障碍物5的障碍物大小为n，则确定障碍物种类A下大量障碍物大小为m；然后，针对归属于障碍物种类A的待添加障碍物模型，确定该待添加障碍物模型的障碍物大小为m。针对障碍物朝向，分析障碍物1、障碍物2、障碍物3、障碍物4、障碍物5各自的障碍物大小，其中，障碍物1、障碍物2、障碍物3、障碍物4的障碍物朝向均为朝向东，障碍物5的障碍物朝向为朝向东，则确定障碍物种类A下大量障碍物朝向为朝向东；然后，针对归属于障碍物种类A的待添加障碍物模型，确定该待添加障碍物模型的障碍物朝向为朝向东。依次类推，得到障碍物种类A下的各个障碍物信息；将障碍物种类A下的各个障碍物信息，作为障碍物种类A的待添加障碍物模型障碍物信息。

一个示例中，预先设置了摆放需求(即，障碍物摆放需求)，进而可以依据障碍物摆放需求确定出待添加障碍物模型的障碍物信息。示例性地，针对每一障碍物种类下的待添加障碍物模型，依据算法和模型的训练需求，设定了待添加障碍物模型的障碍物大小、障碍物的位置、障碍物的朝向，进而使得后续得到的增强后的三维点云数据，更加符合算法和模型的训练需求。

举例来说，需要增强后的三维点云数据对用于识别车辆障碍物的模型进行训练，进而在生成增强后的三维点云数据时，需要获取到车辆、行人等待添加障碍物模型；然后随机的为这些待添加障碍物模型设置障碍物信息。

203、根据障碍物信息，将待添加障碍物模型放入原始三维点云数据中，并对原始三维点云数据和待添加障碍物模型进行数据融合，得到融合数据。

示例性地，依据待添加障碍物模型的障碍物信息的要求，将待添加障碍物模型的放入三维点云数据中。例如，依据障碍物朝向、障碍物位置，将待添加障碍物模型的放入三维点云数据中的合适的位置上。

然后，将原始三维点云数据和待添加障碍物模型进行数据融合，得到融合数据。但是，由于此时得到的融合数据并不是真正的点云数据，图4为本申请实施例提供的融合数据的示意图，如图4所示，原始三维点云数据加入了待添加障碍物模型，如图4中的融合数据中有点云数据、还有面和线所构成的障碍物模型；所以，还需要根据融合数据，对原始三维点云数据对应的原始深度图进行深度值更新，再基于更新后的深度图得到增强后的三维点云数据。

204、获取真实场景下的与原始三维点云数据对应的第一深度图。

示例性地，在步骤203之后，在得到真实场景下的原始三维点云数据之后，对原始三维点云数据进行深度图像的生成处理，得到第一深度图；由于深度图像的每个像素点的灰度值可用于表征场景中某一点距离摄像机的远近，进而深度图像直接反应了景物可见表面的几何形状，从而第一深度图中的每个像素点的灰度值表征了第一深度图中该点距离摄像机的远近；本实施例中，摄像机的位置可以位于第一深度图的中心点，进而第一深度图中的每个像素点的灰度值表征了该点距离中心点的远近。

205、根据融合数据，对第一深度图进行深度值更新，得到更新后的深度图。

一个示例中，步骤205具体包括以下步骤：

第一步骤、根据融合数据，生成第二深度图。

第二步骤、根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，其中，深度值表征障碍物与位置点之间的距离。

示例性地，由于融合数据中是在原始三维点云数据中加入了新的障碍物(即，加入了待添加障碍物模型)，即，在原始三维点云数据的部分位置上加入了待添加障碍物模型，需要更改与原始三维点云数据对应的第一深度图的深度值，进而依据融合数据中的待添加障碍物模型的位置，对第一深度图进行深度值更新，得到更新后的深度图。进而，依据步骤204-205的过程，得到真正的点云数据。

一个示例中，融合数据中是在原始三维点云数据中加入了新的障碍物(即，加入了待添加障碍物模型)，原始三维点云数据中具有多个对象(其中，对象中包括真实场景下的障碍物)，在融合数据中的待添加障碍物模型是具有障碍物位置、障碍物大小等信息的，进而可以直接根据融合数据，生成第二深度图；其中，由于在融合数据中的待添加障碍物模型是具有障碍物位置、障碍物大小等信息的，进而所得到的第二深度图中的待添加障碍物模型所占据的每个像素点的灰度值表征了该点距离中心点(即，距离摄像机)的远近；同时，融合数据中与原始三维点云数据对应的深度图，是与原始三维点云数据对应的第一深度图，即，与原始三维点云数据对应的深度信息、与待添加障碍物模型对应的深度信息，两者均在第二深度图中。

第二深度图中每一像素点具有深度值，深度值表征了像素点距离中心点(即，距离摄像机)的远近。可以依据第二深度图中每一像素点的深度值，对第一深度图中的深度值进行更新；其中，由于第一深度图的大小与第二深度图的大小相同，可以将第二深度图中每一像素点的深度值，作为第一深度图中每一像素点的深度值，进而得到更新后的深度图。此时，更新后的深度图中包括了与原始三维点云数据对应的深度信息、与待添加障碍物模型对应的深度信息。其中，第二深度图中每一像素点的深度值，表征障碍物的像素点距离与位置点(即，第二深度图的中心点)之间的距离；其中，为了减少数据计算量，在分析第二深度图中的障碍物时，可以取表征障碍物的中心像素点(即，障碍物的中心点)、距离位置点(即，第二深度图的中心点)之间的距离，作为障碍物对应的深度值。

一个示例中，步骤205可以包括以下几种实现方式。

步骤205的第一种实现方式、根据融合数据，生成第二深度图；第二深度图中的深度值为雷达射线的深度值，第一深度图中的深度值为雷达射线的深度值；根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，其中，深度值表征障碍物与位置点之间的距离。

其中，根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，包括：若第二深度图中的雷达射线的深度值，小于第一深度图中的雷达射线的深度值，其中，第二深度图中的雷达射线与第一深度图中的雷达射线表征同一位置点上的同一雷达射线，则确定第二深度图中的雷达射线经过了待添加障碍物模型；根据第二深度图中的雷达射线的深度值，更新第一深度图中的雷达射线的深度值，得到更新后的深度图。

示例性地，在根据融合数据生成第二深度图时，由于是通过雷达采集原始三维点云数据，进而所的到与原始三维点云数据对应的第一深度图中每一个像素点的深度值，是与该像素点对应的一条雷达射线的深度值；并且，针对于融合数据中的待添加障碍物模型，已知获知待添加障碍物模型的障碍物位置，依据待添加障碍物模型的每一像素点距离第二深度图的中心点的距离值，为待添加障碍物模型的每一像素点赋予雷达射线的深度值。从而所得到的与融合数据对应的第二深度图，该第二深度图中每一个像素点的深度值，是与该像素点对应的一条雷达射线的深度值。

然后，在对第一深度图中的深度值进行更新时，分析第二深度图中每一个像素点的深度值，由于每一个像素点的深度值是与该像素点对应的雷达射线的深度值，进而在分析第二深度图中每一个像素点的深度值时，也是在分析第二深度图中每一个像素点所对应的雷达射线的深度值。

针对第二深度图中每一个像素点，若确定第二深度图中像素点所对应的雷达射线的深度值，小于第一深度图中该像素点所对应的雷达射线的深度值，则可以确定第二深度图中像素点所对应的雷达射线，经过了新添加的障碍物，即，经过了待添加障碍物模型。其中，上述过程针对像素点进行分析的，进而是针对真实场景所对应的像素点对应的位置点进行分析的。可知，上述处理过程中，针对第二深度图中的每一个像素点，第二深度图中像素点所对应的雷达射线、第一深度图中像素点所对应的雷达射线，两者表征同一位置点上的同一雷达射线(即，同一像素点的雷达射线)。

然后，依据第二深度图中每一像素点的深度值，对第一深度图中的深度值进行更新；其中，由于第一深度图的大小与第二深度图的大小相同，可以将第二深度图中每一像素点的深度值，作为第一深度图中每一像素点的深度值，进而得到更新后的深度图。

上述步骤205的第一种实现方式中，依据雷达射线的深度值，对第一深度图进行更新，由于原始三维点云数据是通过雷达采集的，进而所的到与原始三维点云数据对应的第一深度图中每一个像素点的深度值，是与该像素点对应的一条雷达射线的深度值，即部分的雷达射线的深度值可以直接获取到的；从而，可以直接对雷达射线的深度值进行分析，可以快速的完成第一深度图的深度值的更新。

步骤205的第二种实现方式、根据融合数据，生成第二深度图；第二深度图中的深度值为第二深度图中的深度格的大小，第一深度图中的深度值为第一深度图中的深度格的大小；根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，其中，深度值表征障碍物与位置点之间的距离。

其中，根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，包括：若第二深度图中的深度格的大小，小于第一深度图中的深度格的大小，其中，第二深度图中的深度格与第一深度图中的深度格表征同一位置点上的同一深度格，则确定第二深度图中的雷达射线经过了待添加障碍物模型；根据第二深度图中的深度格的大小，更新第一深度图中的深度格的大小，得到更新后的深度图。

示例性地，在根据融合数据生成第二深度图时，由于是通过雷达采集原始三维点云数据，进而所的到与原始三维点云数据对应的第一深度图中每一个像素点的深度值，是与该像素点对应的一条雷达射线的深度值；为了便于更加直接的分析深度值，本实现方式中，不是对雷达射线的深度值进行分析，而是将第一深度图中的每一个像素点对应的雷达射线的深度值，转换为深度格的大小，进而，是分析第一深度图中的深度格的大小、第二深度图中深度格的大小。

在得到与原始三维点云数据对应的原始的第一深度图(即，具有雷达射线的深度值的第一深度图)之后，依据第一深度图中各像素点，将第一深度图划分为多个深度格，每一深度格对应了至少一个像素点；针对每一深度格，将深度格中各像素点的深度值的均值，作为深度格的大小。进而，依据第一深度图中每一像素点的深度值(即，每一个像素点对应的雷达射线的深度值)，得到第一深度图中各深度格的大小。

同样的，在依据融合数据(由原始三维点云数据和待添加障碍物模型所得到的融合数据)，生成原始的第二深度图(即，具有雷达射线的深度值的第二深度图)之后，依据第二深度图中各像素点，将第二深度图划分为多个深度格，每一深度格对应了至少一个像素点；其中，在“将第一深度图划分为多个深度格”、“将第二深度图划分为多个深度格”，为了得到相同个数的深度格，两者的划分方式是相同的；然后，针对每一深度格，将深度格中各像素点的深度值的均值，作为深度格的大小。进而，依据第二深度图中每一像素点的深度值(即，每一个像素点对应的雷达射线的深度值)，得到第二深度图中各深度格的大小。

然后，在对第一深度图中的深度值进行更新时，针对每一个深度格，分析第二深度图中深度格的大小、以及第一深度图中深度格的大小。

针对第二深度图中每一个深度格，若确定第二深度图中深度格的大小，小于第一深度图中的深度格的大小，则确定该深度格上新添加了障碍物；由于深度格的大小是多个像素所对应的雷达射线的深度值的均值，进而可以确定与该深度格对应的多个像素点的雷达射线，经过了新添加的障碍物，即，经过了待添加障碍物模型。

然后，在确定第二深度图中深度格的大小，小于第一深度图中的深度格的大小的时候，依据第二深度图中的深度格的大小，更新第一深度图中的深度格的大小；其中，由于第一深度图的大小与第二深度图的大小相同，第一深度图的深度格的个数、第二深度图的深度格的个数两者相同，进而可以将第二深度图中的深度格的大小，作为第一深度图中的深度格的大小，进而得到更新后的深度图。

上述步骤205的第二种实现方式中，依据深度格的大小，对第一深度图进行更新，由于将多个像素点对应到一个深度格上，将多个像素点的雷达射线的深度值的均值，作为一个深度格的大小，进而可以减少更新第一深度图时的数据计算量，可以快速的完成第一深度图的深度值的更新。

206、对更新后的深度图进行点云数据重建处理，得到增强后的三维点云数据。其中，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。

示例性地，在得到更新后的深度图之后，可以对更新后的深度图进行坐标转换，进而得到三维点云数据，即，得到增强后的三维点云数据。

在步骤206之后，还可以执行步骤207和/或步骤208。

207、对增强后的三维点云数据进行加噪处理，得到加噪处理后的增强三维点云数据，其中，加噪处理用于增强三维点云数据中障碍物的真实性。

示例性地，在步骤206之后，由于是将CAD模型库中的待添加障碍物模型，加入到了原始三维点云数据中。为了可以增强三维点云数据中的障碍物的真实性，还可以对增强后的三维点云数据进行加噪处理，进而得到加噪处理后的增强三维点云数据。

208、对增强后的三维点云数据中的障碍物进行标签增强处理，其中，标签增强处理用于加强三维点云数据中障碍物的标签化信息。

示例性地，在步骤206之后或者在步骤207之后，已经对原始三维点云数据中的原有障碍物进行了标注，并且是从CAD模型库中提取待添加障碍物；其中，CAD模型库中的待添加障碍物是具有障碍物信息的，或者，为CAD模型库中的待添加障碍物设置了障碍物信息(参见步骤202)。可以将障碍物信息、其他信息作为障碍物的标签化信息。其中，其他信息可以为障碍物的包围盒大小、障碍物的颜色。

为了让障碍物信息、或者其他信息更加突出、更加加强，可以对增强后的三维点云数据中的障碍物进行标签增强处理。根据不同的后续算法、模型的需求，将标签化信息更加加强，使得增强后的三维点云数据更加符合后续算法、模型的需求。

一个示例中，可以调整增强后的三维点云数据中的障碍物的包围盒轮廓(即，包围盒大小)，以减小障碍物的包围盒轮廓。例如，为了使得包围盒轮廓更加贴合障碍物，可以缩小障碍物的CAD模型的包围盒轮廓(即，缩小CAD模型的外部框)。

第一种实现方式、采用包围盒缩小算法，去调整障碍物的包围盒的各个角度上的最外边缘上的点，进而缩小障碍物的包围盒轮廓。

第二种实现方式、针对每一个障碍物的CAD模型，计算x轴上的最大值、最小值，计算y轴上的最大值、最小值，计算z轴上的最大值、最小值；依据包围盒缩小算法和上述数值，移动去x轴上的最大值、y轴上的最大值z轴上的最大值，进而调整包围盒轮廓，缩小包围盒轮廓。

例如，针对人的头部，将包围盒轮廓缩小到贴合头部的轮廓，而不是一个很大的框。

一个示例中，可以调整增强后的三维点云数据中障碍物的障碍物颜色。为了便于分析了解增强后的三维点云数据中障碍物的种类，可以将归属于同一种类的障碍物，赋予同一颜色。由于增强后的三维点云数据中的各障碍物具有障碍物信息，障碍物信息中包括障碍物种类；进而可以根据各障碍物的障碍物种类，将归属于同一种类的障碍物，赋予同一颜色。

并且，重复执行上述步骤201-206，或者重复执行上述步骤201-208，进而基于同一原始三维点云数据，去添加待添加障碍物模型，得到大量的增强后的三维点云数据。

本实施例，在上述实施例的基础上，在得到融合数据之后，由于此时得到的融合数据并不是真正的点云数据，所以需要依据融合数据对应的第二深度图，对原始三维点云数据的第一深度图的深度值进行更新，进而更新后的深度图，对更新后的深度图进行点云数据重建处理，得到增强后的三维点云数据。在对第一深度图的深度值进行更新时，可以根据第二深度图中的雷达射线的深度值，对第一深度图中的雷达射线的深度值进行更新；或者，根据第二深度图中的深度格的大小，对第一深度图中的深度格的大小进行更新，两种方式均可以快速的更新第一深度图。本实施例提供方案保证了保证数据标注的质量(即，保证在原始三维点云数据中增加障碍物之后，所得到的增强后的三维点云数据的精度、质量)；可以对原始三维点云数据进行百倍、千倍的扩增；由于可以针对同一原始三维点云数据，在每次处理时，加入不同的障碍物模型，进而增加了标注数据的多样性。并且，还可以对增强后的三维点云数据进行加噪处理，进而增强三维点云数据中的障碍物的真实性；还可以对增强后的三维点云数据中的障碍物进行标签增强处理，进而增强障碍物的标签化信息。

，如图5所示，本实施例提供的基于障碍物融合的三维点云数据处理方法，包括：

301、获取真实场景下的原始三维点云数据，并获取待添加障碍物模型。

示例性地，本实施例以执行主体可以是电子设备、或者终端设备、或者服务器、或者是其他可以执行本实施例方法的装置或设备。

本步骤可以参见图1的步骤101，不再赘述。

302、获取历史数据，其中，历史数据为已标注了障碍物的场景图或者已标注了障碍物的点云数据。

示例性地，获取历史数据的过程，可以参见图2的步骤202，不再赘述。

303、根据历史数据，确定待添加障碍物模型的障碍物信息。

一个示例中，步骤303具体包括：根据历史数据，生成热力图，其中，热力图中包括已标注的障碍物的障碍物信息的概率；根据热力图中的概率，对热力图进行随机采样处理，得到采样点，其中，采样点具有待添加障碍物模型的障碍物信息。

一个示例中，待添加障碍物模型的障碍物信息中包括位置信息，位置信息表征待添加障碍物模型在X轴方向上的位置和在Y轴方向上的位置；则在得到采样点之后，还包括：根据原始三维点云数据校正位置信息，得到待添加障碍物模型在Z轴方向上的位置。

一个示例中，“根据原始三维点云数据校正位置信息，得到待添加障碍物模型在Z轴方向上的位置”，包括：根据采样点所在平面，确定出垂线，其中，垂线垂直于平面且经过采样点；确定垂线与原始三维点云数据中的地面之间的交点，并确定交点在Z轴方向上的位置，为待添加障碍物模型在Z轴方向上的位置。

示例性地，在得到历史数据之后，需要依据历史数据确定出待添加障碍物模型的障碍物信息，其中，历史数据中的障碍物具有障碍物信息，障碍物信息包括障碍物种类、障碍物大小、障碍物的位置、障碍物的朝向等等。可以采用采用多份历史数据，分析出待添加障碍物模型的障碍物信息。

由于每一份历史数据中包括多个已被标注的障碍物，每一障碍物具有障碍物信息；进而可以依据多份历史数据中各障碍物的各障碍物信息，生成热力图，热力图中的每一点具有障碍物信息的概率。针对于热力图中的点，采用随机采样算法进行随机采样处理，得到多个采样点，其中，采样点具有待添加障碍物模型的障碍物信息。基于热力图的方式，得到采样点(采样点具有待添加障碍物模型的障碍物信息)，进而基于历史数据的障碍物信息的概率，较为准确的得到待添加障碍物模型的障碍物信息。

一个示例中，针对于生成待添加障碍物模型的障碍物位置，可以进行以下处理。获取多份历史数据(标注了障碍物的历史三维场景图、或者标注了障碍物三维点云数据)，根据多份历史数据确定障碍物分布方式，障碍物分布方式表征了各个障碍物的分布位置。进而依据障碍物分布方式，生成概率图(即，热力图)，该概率图中包括概率图的每一点上具有障碍物的概率。

可以将具有障碍物的概率，大于预设概率值(是一个经验值)的点，作为最终的采样点。由于采样点具有位置信息，进而将采样点的位置信息，作为待添加障碍物模型的障碍物位置；即，会在这些采样点上设置待添加障碍物模型。

或者，对概率图的点进行加权随机采样。即，将概率图划分为多个小区域，每一小区域中包括多个点；针对每一小区域，随机采样多个点，然后求取多个点具有障碍物的概率的加权值，然后将加权值作为该小区域具有障碍物的概率；进而将小区域作为一个采样初始点，采样初始点包括具有障碍物的概率；然后，将概率大于预设阈值(该阈值为一个经验值)的采样初始点，作为最终的采样点。由于采样点具有位置信息，进而将采样点的位置信息，作为待添加障碍物模型的障碍物位置；即，会在这些采样点上设置待添加障碍物模型。此时，由于采样点是一个小区域，进而可以在该小区域的每一点上均设置待添加障碍物模型。

一个示例中，针对于生成待添加障碍物模型的障碍物朝向，可以进行以下处理。获取多份历史数据(标注了障碍物的历史三维场景图、或者标注了障碍物三维点云数据)，根据多份历史数据确定障碍物分布方式，障碍物分布方式表征了多份历史数据中各个障碍物的朝向。进而依据障碍物分布方式，生成热力图，该热力图中包括热力图的每一点的各障碍物朝向(此时，只分析热力图中具有障碍物的点)。进而对热力图的点进行随机采样。此时，随机采样的过程为：由于针对热力图的每一点(此时，只分析热力图中具有障碍物的点)，每一点上具有多个障碍物，每一障碍物具有各自的障碍物朝向；随机从热力图中采样多个采样初始点；针对每一个采样初始点，该采样初始点具有多种障碍物，每一障碍物具有各自的障碍物朝向；针对每一个采样初始点，针对该采样初始点的每一种障碍物朝向，统计每一种障碍物朝向的概率(即，每一种障碍物朝向占据该采样初始点的各种障碍物朝向的概率)；针对每一个采样初始点，确定障碍物朝向的概率最大的朝向，作为该采样初始点的障碍物朝向，进而得到最终的采样点。由于采样点具有障碍物朝向，进而将采样点的障碍物朝向，作为待添加障碍物模型的障碍物朝向。可以以同样的方式，设置待添加障碍物模型的障碍物种类。

举例来说，热力图中包括多个点，采集其中的一个点作为采样初始点。热力图中的采样初始点A，采样初始点A上具有障碍物a、障碍物b、障碍物c、障碍物d和障碍物e；其中，障碍物a的障碍物朝向为朝东，障碍物b的障碍物朝向为朝东，障碍物c的障碍物朝向为朝东，障碍物d的障碍物朝向为朝西，障碍物e的障碍物朝向为朝南。针对该采样初始点A，障碍物朝向为朝东的概率为3/5，障碍物朝向为朝西的概率为1/5，障碍物朝向为朝南的概率为2/5；进而障碍物朝向为朝东的概率最大，将障碍物朝向为朝东，作为该采样初始点的障碍物朝向。此时，将采样初始点A作为一个采样点，该采样点的障碍物朝向为朝东；在该采样点上添加待添加障碍物模型的时候，被添加的障碍物模型的障碍物朝向为朝东。

举例来说，热力图中包括多个点，采集其中的一个点作为采样初始点。热力图中的采样初始点A，采样初始点A上具有障碍物a、障碍物b、障碍物c、障碍物d和障碍物e；其中，障碍物a的障碍物种类为车辆，障碍物b的障碍物种类为车辆，障碍物c的障碍物种类为车辆，障碍物d的障碍物种类为行人，障碍物e的障碍物种类为路障。针对该采样初始点A，障碍物种类为车辆的概率为3/5，障碍物种类为行人的概率为1/5，障碍物种类为路障的概率为2/5；进而障碍物种类为车辆的概率最大，将障碍物种类为车辆，作为该采样初始点的障碍物种类。此时，将采样初始点A作为一个采样点，该采样点的障碍物种类为车辆；在该采样点上添加待添加障碍物模型的时候，被添加的障碍物模型的障碍物种类为车辆，即在该采样点上添加车辆模型。

并且，待添加障碍物模型的障碍物信息中包括位置信息，通过热力图的方式得到的位置信息只具有X轴位置和Y轴位置。其中，X轴、Y轴可以是与热力图对应的二维坐标系下的轴，或者是世界坐标系下的轴。由于需要得到三维数据，进而还需要得到待添加障碍物模型在Z轴方向上的位置。由于原始三维点云数据具有三维坐标系，该三维坐标系可以是世界坐标系，进而可以依据原始三维点云数据去校正待添加障碍物模型的位置信息，进而得到待添加障碍物模型在Z轴方向上的位置(即，得到待添加障碍物模型的Z轴坐标)。

在位置信息中的待添加障碍物模型在X轴方向上的位置、在Y轴方向上的位置(即，X轴坐标、Y轴坐标)，对应的是世界坐标系下的轴的时候，可以直接将X轴坐标、Y轴坐标、Z轴坐标，作为待添加障碍物模型的最终的位置信息。

在位置信息中的待添加障碍物模型在X轴方向上的位置、在Y轴方向上的位置(即，X轴坐标、Y轴坐标)，对应的是与热力图对应的二维坐标系下的轴的时候，可以先将X轴坐标、Y轴坐标调整到世界坐标系下，进而将调整后的X轴坐标、调整后的Y轴坐标、计算得到的Z轴坐标，作为待添加障碍物模型的最终的位置信息。

通过得到待添加障碍物模型在Z轴方向上的位置(即，Z轴坐标)，可以完善待添加障碍物模型的位置信息，便于准确的将添加障碍物模型融合到原始三维点云数据中。

一个示例中，在得到待添加障碍物模型在Z轴方向上的位置(即，Z轴坐标)的时候，可以采用以下处理过程。热力图中为二维坐标系下图，每一个采样点具有X轴坐标、Y轴坐标。针对每一个采样点，每一个采样点所在的平面，为热力图的二维坐标系所形成的平面；针对每一个采样点，确定出一条经过该采样点的垂线，该垂线垂直于采样点所在的平面。由于原始三维点云数据所对应的三维坐标系，是世界坐标系，原始三维点云数据所对应的三维坐标系的X轴和Y轴，是原始三维点云数据中的地面；进而针对每一个采样点，确定出采样点对应的垂线与该地面之间的交点，然后，将交点在Z轴方向上的位置，作为待添加障碍物模型在Z轴方向上的位置，即将交点的Z轴坐标作为待添加障碍物模型的Z轴坐标。

基于上述示例的过程，可以准确的得到待添加障碍物模型的Z轴坐标，进而准确的完善可以完善待添加障碍物模型的位置信息。

304、根据障碍物信息，将待添加障碍物模型放入原始三维点云数据中。

示例性地，在通过步骤303得到每一待添加障碍物模型的各项障碍物信息之后，就可以依据障碍物信息，将每一待添加障碍物模型放入原始三维点云数据中了。

305、根据原始三维点云数据中的已知障碍物，确定已知障碍物与待添加障碍物模型之间的重合信息；若重合信息表征已知障碍物与待添加障碍物模型会出现重合，则确定剔除待添加障碍物模型；若重合信息表征已知障碍物与待添加障碍物模型不会出现重合，则确定添加待添加障碍物模型。

示例性地，由于原始三维点云数据中已经具有已知障碍物，在将待添加障碍物模型键入到原始三维点云数据中的时候，需要分析已知障碍物与待添加障碍物模型之间的重合信息，进而避免发生已知障碍物与待添加障碍物模型发生重合。其中，重合信息包括以下的一种或多种：位置重合、种类重合、大小重合、朝向重合。

若重合信息表征已知障碍物与待添加障碍物模型会出现重合，则确定剔除待添加障碍物模型，即，不将该待添加障碍物模型添加到原始三维点云数据中。例如，出现位置重合，需要剔除待添加障碍物模型；出现种类重合，需要剔除待添加障碍物模型；出现朝向重合，需要剔除待添加障碍物模型。

若重合信息表征已知障碍物与待添加障碍物模型不会出现重合，则确定需要将待添加障碍物模型，加入到原始三维点云数据中，然后执行步骤306。

一个示例中，若原始三维点云数据的一个位置上具有了已知障碍物，且待添加障碍物模型的障碍物位置也是该位置，则确定已知障碍物与待添加障碍物模型会出现位置重合，进而不将该待添加障碍物模型添加到原始三维点云数据中。

一个示例中，将原始三维点云数据分为多个区域，若确定某一个区域中具有已知障碍物，且待添加障碍物模型的障碍物种类与该已知障碍物的种类相同，则不在该区域中添加此待添加障碍物模型。

一个示例中，将原始三维点云数据分为多个区域，若确定某一个区域中具有已知障碍物，且待添加障碍物模型的障碍物朝向与该已知障碍物的朝向相同，则不在该区域中添加此待添加障碍物模型。

306、对原始三维点云数据和待添加障碍物模型进行数据融合，得到融合数据。

示例性地，本步骤可以参见图1的步骤102，或者，参见图2的步骤202-203，不再赘述。

307、对融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。

示例性地，本步骤可以参见图1的步骤103，或者，参见图2的步骤204-206，不再赘述。

本实施例，在上述实施例的基础上，基于热力图的方式，得到采样点(采样点具有待添加障碍物模型的障碍物信息)，进而基于历史数据的障碍物信息的概率，较为准确的得到待添加障碍物模型的障碍物信息。并且确定出待添加障碍物模型在Z轴方向上的位置(即，Z轴坐标)，可以完善待添加障碍物模型的位置信息，便于准确的将添加障碍物模型融合到原始三维点云数据中。此外，在将添加障碍物模型融合到原始三维点云数据中之前，分析已知障碍物与待添加障碍物模型之间的重合信息，进而避免发生已知障碍物与待添加障碍物模型发生重合。

图6是根据本申请第四实施例的示意图，如图6所示，本实施例提供的基于障碍物融合的三维点云数据处理装置，该装置包括：

获取单元31，用于获取真实场景下的原始三维点云数据，并获取待添加障碍物模型。

融合单元32，用于对原始三维点云数据和待添加障碍物模型进行融合，得到融合数据。

重建单元33，用于对融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，增强后的三维点云数据包括待添加障碍物模型的点云数据和原始三维点云数据。

本实施例的装置，可以执行上述方法中的技术方案，其具体实现过程和技术原理相同，此处不再赘述。

图7是根据本申请第五实施例的示意图，在图6所示实施例的基础上，如图7所示，本实施例提供的基于障碍物融合的三维点云数据处理装置中，重建单元33，包括：

第一获取子单元331，用于获取真实场景下的与原始三维点云数据对应的第一深度图。

更新子单元332，用于根据融合数据，对第一深度图进行深度值更新，得到更新后的深度图。

重建子单元333，用于对更新后的深度图进行点云数据重建处理，得到增强后的三维点云数据。

一个示例中，更新子单元332，包括：

生成模块3321，用于根据融合数据，生成第二深度图。

更新模块3322，用于根据第二深度图中的深度值，对第一深度图中的深度值进行更新，得到更新后的深度图，其中，深度值表征障碍物与位置点之间的距离。

一个示例中，第二深度图中的深度值为雷达射线的深度值，第一深度图中的深度值为雷达射线的深度值；更新模块3322，具体用于：

若第二深度图中的雷达射线的深度值，小于第一深度图中的雷达射线的深度值，其中，第二深度图中的雷达射线与第一深度图中的雷达射线表征同一位置点上的同一雷达射线，则确定第二深度图中的雷达射线经过了待添加障碍物模型；根据第二深度图中的雷达射线的深度值，更新第一深度图中的雷达射线的深度值，得到更新后的深度图。

一个示例中，第二深度图中的深度值为第二深度图中的深度格的大小，第一深度图中的深度值为第一深度图中的深度格的大小；更新模块3322，具体用于：

若第二深度图中的深度格的大小，小于第一深度图中的深度格的大小，其中，第二深度图中的深度格与第一深度图中的深度格表征同一位置点上的同一深度格，则确定第二深度图中的雷达射线经过了待添加障碍物模型；根据第二深度图中的深度格的大小，更新第一深度图中的深度格的大小，得到更新后的深度图。

一个示例中，融合单元32，包括：

第二获取子单元321，用于获取待添加障碍物模型的障碍物信息。

添加子单元322，用于根据障碍物信息，将待添加障碍物模型放入原始三维点云数据中，并对原始三维点云数据和待添加障碍物模型进行数据融合，得到融合数据。

一个示例中，第二获取子单元321，包括：

获取模块3211，用于获取历史数据，其中，历史数据为已标注了障碍物的场景图或者已标注了障碍物的点云数据。

更新模块3212，用于根据历史数据，确定待添加障碍物模型的障碍物信息。

或者，一个示例中，第二获取子单元321，具体用于：根据预设的障碍物摆放需求，确定待添加障碍物模型的障碍物信息。

一个示例中，更新模块3212，包括：

生成子模块32121，用于根据历史数据，生成热力图，其中，热力图中包括已标注的障碍物的障碍物信息的概率。

采样子模块32122，用于根据热力图中的概率，对热力图进行随机采样处理，得到采样点，其中，采样点具有待添加障碍物模型的障碍物信息。

一个示例中，待添加障碍物模型的障碍物信息中包括位置信息，位置信息表征待添加障碍物模型在X轴方向上的位置和在Y轴方向上的位置；更新模块3212，还包括：

校正子模块32123，用于在采样子模块32122得到采样点之后，根据原始三维点云数据校正位置信息，得到待添加障碍物模型在Z轴方向上的位置。

一个示例中，校正子模块32123，具体用于：

根据采样点所在平面，确定出垂线，其中，垂线垂直于平面且经过采样点；确定垂线与原始三维点云数据中的地面之间的交点，并确定交点在Z轴方向上的位置，为待添加障碍物模型在Z轴方向上的位置。

一个示例中，本实施例提供的装置，还包括：

分析单元41，用于在融合单元32对原始三维点云数据和待添加障碍物模型进行融合，得到融合数据之前，根据原始三维点云数据中的已知障碍物，确定已知障碍物与待添加障碍物模型之间的重合信息；若重合信息表征已知障碍物与待添加障碍物模型会出现重合，则确定剔除待添加障碍物模型；若重合信息表征已知障碍物与待添加障碍物模型不会出现重合，则确定添加待添加障碍物模型。

一个示例中，本实施例提供的装置，还包括：

加噪单元42，用于对增强后的三维点云数据进行加噪处理，得到加噪处理后的增强三维点云数据，其中，加噪处理用于增强三维点云数据中障碍物的真实性。

一个示例中，本实施例提供的装置，还包括：

增强单元43，用于对增强后的三维点云数据中的障碍物进行标签增强处理，其中，标签增强处理用于加强三维点云数据中障碍物的标签化信息。

本实施例的装置，可以执行上述方法中的技术方案，其具体实现过程和技术原理相同，此处不再赘述。

图8是根据本申请第六实施例的示意图，如图8所示，本实施例中的电子设备70可以包括：处理器71和存储器72。

存储器72，用于存储程序；存储器72，可以包括易失性存储器(英文：volatilememory)，例如随机存取存储器(英文：random-access memory，缩写：RAM)，如静态随机存取存储器(英文：static random-access memory，缩写：SRAM)，双倍数据率同步动态随机存取存储器(英文：Double Data Rate Synchronous Dynamic Random Access Memory，缩写：DDR SDRAM)等；存储器也可以包括非易失性存储器(英文：non-volatile memory)，例如快闪存储器(英文：flash memory)。存储器72用于存储计算机程序(如实现上述方法的应用程序、功能模块等)、计算机指令等，上述的计算机程序、计算机指令等可以分区存储在一个或多个存储器72中。并且上述的计算机程序、计算机指令、数据等可以被处理器71调用。

上述的计算机程序、计算机指令等可以分区存储在一个或多个存储器72中。并且上述的计算机程序、计算机指据等可以被处理器71调用。

处理器71，用于执行存储器72存储的计算机程序，以实现上述实施例涉及的方法中的各个步骤。

具体可以参见前面方法实施例中的相关描述。

处理器71和存储器72可以是独立结构，也可以是集成在一起的集成结构。当处理器71和存储器72是独立结构时，存储器72、处理器71可以通过总线73耦合连接。

本实施例的电子设备可以执行上述方法中的技术方案，其具体实现过程和技术原理相同，此处不再赘述。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

根据本申请的实施例，本申请还提供了一种计算机程序产品，程序产品包括：计算机程序，计算机程序存储在可读存储介质中，服务器的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得服务器执行上述任一实施例提供的方案。

图9是根据本申请第七实施例的示意图，如图9所示，图9是用来实现本申请实施例的基于障碍物融合的三维点云数据处理方法的框图。本实施例提供了一种电子设备。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图9所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图9中以一个处理器801为例。

存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的基于障碍物融合的三维点云数据处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的基于障碍物融合的三维点云数据处理方法。

存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的基于障碍物融合的三维点云数据处理方法对应的程序指令/模块(例如，附图6所示的获取单元31、融合单元32和重建单元33)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的基于障碍物融合的三维点云数据处理方法。

存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储用于实现基于障碍物融合的三维点云数据处理方法的电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至用于实现基于障碍物融合的三维点云数据处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

实现基于障碍物融合的三维点云数据处理方法的电子设备还可以包括：输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接，图9中以通过总线连接为例。

输入装置803可接收输入的数字或字符信息，以及产生与实现基于障碍物融合的三维点云数据处理方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

本实施例中，该电子设备还可以包括：雷达805；雷达805通总线与处理器801连接；雷达805用于采集原始三维点云数据。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算机程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算机程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (27)

1.一种基于障碍物融合的三维点云数据处理方法，包括：

获取真实场景下的原始三维点云数据，并获取待添加障碍物模型；

对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据；

获取真实场景下的与所述原始三维点云数据对应的第一深度图；

根据所述融合数据，生成第二深度图；

若所述第二深度图中的深度值小于所述第一深度图中的深度值，则根据所述第二深度图中的深度值，对所述第一深度图中的深度值进行更新，得到所述更新后的深度图，其中，深度值表征障碍物与位置点之间的距离；所述深度值为雷达射线的深度值或深度格的大小；所述第二深度图中的深度值和所述第一深度图中的深度值表征同一位置点的深度值；

对所述更新后的深度图进行点云数据重建处理，得到增强后的三维点云数据其中，所述增强后的三维点云数据包括所述待添加障碍物模型的点云数据和所述原始三维点云数据。

2.根据权利要求1所述的方法，其中，若所述第二深度图中的深度值为雷达射线的深度值，所述第一深度图中的深度值为雷达射线的深度值，则若所述第二深度图中的深度值小于所述第一深度图中的深度值，则根据所述第二深度图中的深度值，对所述第一深度图中的深度值进行更新，得到所述更新后的深度图，包括：

若所述第二深度图中的雷达射线的深度值，小于所述第一深度图中的雷达射线的深度值，其中，所述第二深度图中的雷达射线与所述第一深度图中的雷达射线表征同一位置点上的同一雷达射线，则确定所述第二深度图中的雷达射线经过了待添加障碍物模型；

根据所述第二深度图中的雷达射线的深度值，更新所述第一深度图中的雷达射线的深度值，得到所述更新后的深度图。

3.根据权利要求1所述的方法，其中，若所述第二深度图中的深度值为第二深度图中的深度格的大小，所述第一深度图中的深度值为第一深度图中的深度格的大小，则若所述第二深度图中的深度值小于所述第一深度图中的深度值，则根据所述第二深度图中的深度值，对所述第一深度图中的深度值进行更新，得到所述更新后的深度图，包括：

若所述第二深度图中的深度格的大小，小于所述第一深度图中的深度格的大小，其中，所述第二深度图中的深度格与所述第一深度图中的深度格表征同一位置点上的同一深度格，则确定所述第二深度图中的雷达射线经过了待添加障碍物模型；

根据所述第二深度图中的深度格的大小，更新所述第一深度图中的深度格的大小，得到所述更新后的深度图。

4.根据权利要求1所述的方法，其中，对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据，包括：

获取所述待添加障碍物模型的障碍物信息；

根据所述障碍物信息，将所述待添加障碍物模型放入所述原始三维点云数据中，并对所述原始三维点云数据和所述待添加障碍物模型进行数据融合，得到所述融合数据。

5.根据权利要求4所述的方法，其中，获取所述待添加障碍物模型的障碍物信息，包括：

获取历史数据，其中，所述历史数据为已标注了障碍物的场景图或者已标注了障碍物的点云数据；

根据所述历史数据，确定所述待添加障碍物模型的障碍物信息。

6.根据权利要求5所述的方法，其中，根据所述历史数据，确定所述待添加障碍物模型的障碍物信息，包括：

根据所述历史数据，生成热力图，其中，所述热力图中包括已标注的障碍物的障碍物信息的概率；

根据所述热力图中的概率，对所述热力图进行随机采样处理，得到采样点，其中，所述采样点具有所述待添加障碍物模型的障碍物信息。

7.根据权利要求6所述的方法，其中，所述待添加障碍物模型的障碍物信息中包括位置信息，所述位置信息表征所述待添加障碍物模型在X轴方向上的位置和在Y轴方向上的位置；在所述得到采样点之后，还包括：

根据所述原始三维点云数据校正所述位置信息，得到所述待添加障碍物模型在Z轴方向上的位置。

8.根据权利要求7所述的方法，其中，根据所述原始三维点云数据校正所述位置信息，得到所述待添加障碍物模型在Z轴方向上的位置，包括：

根据所述采样点所在平面，确定出垂线，其中，所述垂线垂直于所述平面且经过所述采样点；

确定所述垂线与所述原始三维点云数据中的地面之间的交点，并确定所述交点在Z轴方向上的位置，为所述待添加障碍物模型在Z轴方向上的位置。

9.根据权利要求4所述的方法，其中，获取所述待添加障碍物模型的障碍物信息，包括：

根据预设的障碍物摆放需求，确定所述待添加障碍物模型的障碍物信息。

10.根据权利要求1所述的方法，在对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据之前，还包括：

根据所述原始三维点云数据中的已知障碍物，确定所述已知障碍物与所述待添加障碍物模型之间的重合信息；

若所述重合信息表征所述已知障碍物与所述待添加障碍物模型会出现重合，则确定剔除所述待添加障碍物模型；

若所述重合信息表征所述已知障碍物与所述待添加障碍物模型不会出现重合，则确定添加所述待添加障碍物模型。

11.根据权利要求1-10任一项所述的方法，所述方法，还包括：

对所述增强后的三维点云数据进行加噪处理，得到加噪处理后的增强三维点云数据，其中，所述加噪处理用于增强三维点云数据中障碍物的真实性。

12.根据权利要求1-10任一项所述的方法，所述方法，还包括：

对所述增强后的三维点云数据中的障碍物进行标签增强处理，其中，所述标签增强处理用于加强三维点云数据中障碍物的标签化信息。

13.一种基于障碍物融合的三维点云数据处理装置，包括：

获取单元，用于获取真实场景下的原始三维点云数据，并获取待添加障碍物模型；

融合单元，用于对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据；

重建单元，用于对所述融合数据进行点云数据重建处理，得到增强后的三维点云数据，其中，所述增强后的三维点云数据包括所述待添加障碍物模型的点云数据和所述原始三维点云数据；

其中，所述重建单元，包括：

第一获取子单元，用于获取真实场景下的与所述原始三维点云数据对应的第一深度图；

更新子单元，用于根据所述融合数据，对所述第一深度图进行深度值更新，得到更新后的深度图；

重建子单元，用于对所述更新后的深度图进行点云数据重建处理，得到增强后的三维点云数据；

其中，所述更新子单元，包括：

生成模块，用于根据所述融合数据，生成第二深度图；

更新模块，用于若所述第二深度图中的深度值小于所述第一深度图中的深度值，则根据所述第二深度图中的深度值，对所述第一深度图中的深度值进行更新，得到所述更新后的深度图，其中，深度值表征障碍物与位置点之间的距离；所述深度值为雷达射线的深度值或深度格的大小；所述第二深度图中的深度值和所述第一深度图中的深度值表征同一位置点的深度值。

14.根据权利要求13所述的装置，其中，若所述第二深度图中的深度值为雷达射线的深度值，所述第一深度图中的深度值为雷达射线的深度值；所述更新模块，具体用于：

若所述第二深度图中的雷达射线的深度值，小于所述第一深度图中的雷达射线的深度值，其中，所述第二深度图中的雷达射线与所述第一深度图中的雷达射线表征同一位置点上的同一雷达射线，则确定所述第二深度图中的雷达射线经过了待添加障碍物模型；

根据所述第二深度图中的雷达射线的深度值，更新所述第一深度图中的雷达射线的深度值，得到所述更新后的深度图。

15.根据权利要求13所述的装置，其中，若所述第二深度图中的深度值为第二深度图中的深度格的大小，所述第一深度图中的深度值为第一深度图中的深度格的大小；所述更新模块，具体用于：

若所述第二深度图中的深度格的大小，小于所述第一深度图中的深度格的大小，其中，所述第二深度图中的深度格与所述第一深度图中的深度格表征同一位置点上的同一深度格，则确定所述第二深度图中的雷达射线经过了待添加障碍物模型；

根据所述第二深度图中的深度格的大小，更新所述第一深度图中的深度格的大小，得到所述更新后的深度图。

16.根据权利要求13所述的装置，其中，所述融合单元，包括：

第二获取子单元，用于获取所述待添加障碍物模型的障碍物信息；

添加子单元，用于根据所述障碍物信息，将所述待添加障碍物模型放入所述原始三维点云数据中，并对所述原始三维点云数据和所述待添加障碍物模型进行数据融合，得到所述融合数据。

17.根据权利要求16所述的装置，其中，所述第二获取子单元，包括：

获取模块，用于获取历史数据，其中，所述历史数据为已标注了障碍物的场景图或者已标注了障碍物的点云数据；

更新模块，用于根据所述历史数据，确定所述待添加障碍物模型的障碍物信息。

18.根据权利要求17所述的装置，其中，所述更新模块，包括：

生成子模块，用于根据所述历史数据，生成热力图，其中，所述热力图中包括已标注的障碍物的障碍物信息的概率；

采样子模块，用于根据所述热力图中的概率，对所述热力图进行随机采样处理，得到采样点，其中，所述采样点具有所述待添加障碍物模型的障碍物信息。

19.根据权利要求18所述的装置，其中，所述待添加障碍物模型的障碍物信息中包括位置信息，所述位置信息表征所述待添加障碍物模型在X轴方向上的位置和在Y轴方向上的位置；所述更新模块，还包括：

校正子模块，用于在所述采样子模块得到采样点之后，根据所述原始三维点云数据校正所述位置信息，得到所述待添加障碍物模型在Z轴方向上的位置。

20.根据权利要求19所述的装置，其中，所述校正子模块，具体用于：

根据所述采样点所在平面，确定出垂线，其中，所述垂线垂直于所述平面且经过所述采样点；

确定所述垂线与所述原始三维点云数据中的地面之间的交点，并确定所述交点在Z轴方向上的位置，为所述待添加障碍物模型在Z轴方向上的位置。

21.根据权利要求16所述的装置，其中，所述第二获取子单元，具体用于：

根据预设的障碍物摆放需求，确定所述待添加障碍物模型的障碍物信息。

22.根据权利要求13所述的装置，所述装置，还包括：

分析单元，用于在所述融合单元对所述原始三维点云数据和所述待添加障碍物模型进行融合，得到融合数据之前，根据所述原始三维点云数据中的已知障碍物，确定所述已知障碍物与所述待添加障碍物模型之间的重合信息；若所述重合信息表征所述已知障碍物与所述待添加障碍物模型会出现重合，则确定剔除所述待添加障碍物模型；若所述重合信息表征所述已知障碍物与所述待添加障碍物模型不会出现重合，则确定添加所述待添加障碍物模型。

23.根据权利要求13-22任一项所述的装置，所述装置，还包括：

加噪单元，用于对所述增强后的三维点云数据进行加噪处理，得到加噪处理后的增强三维点云数据，其中，所述加噪处理用于增强三维点云数据中障碍物的真实性。

24.根据权利要求13-22任一项所述的装置，所述装置，还包括：

增强单元，用于对所述增强后的三维点云数据中的障碍物进行标签增强处理，其中，所述标签增强处理用于加强三维点云数据中障碍物的标签化信息。

25. 一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-12中任一项所述的方法。

26.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-12中任一项所述的方法。

27.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-12中任一项所述的方法。