CN114842455B - 障碍物检测方法、装置、设备、介质、芯片及车辆 - Google Patents

障碍物检测方法、装置、设备、介质、芯片及车辆 Download PDF

Info

Publication number
CN114842455B
CN114842455B CN202210736827.3A CN202210736827A CN114842455B CN 114842455 B CN114842455 B CN 114842455B CN 202210736827 A CN202210736827 A CN 202210736827A CN 114842455 B CN114842455 B CN 114842455B
Authority
CN
China
Prior art keywords
point cloud
image
cloud cluster
target
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210736827.3A
Other languages
English (en)
Other versions
CN114842455A (zh
Inventor
牛宝龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiaomi Automobile Technology Co Ltd
Original Assignee
Xiaomi Automobile Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiaomi Automobile Technology Co Ltd filed Critical Xiaomi Automobile Technology Co Ltd
Priority to CN202210736827.3A priority Critical patent/CN114842455B/zh
Publication of CN114842455A publication Critical patent/CN114842455A/zh
Application granted granted Critical
Publication of CN114842455B publication Critical patent/CN114842455B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867—Combination of radar systems with cameras
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Image Processing (AREA)

Abstract

本公开涉及自动驾驶技术领域的一种障碍物检测方法、装置、设备、介质、芯片及车辆，包括：获取同一时刻采集的待检测图像和雷达点云；将待检测图像和雷达点云输入至图像标注模型，得到图像标注模型输出的针对待检测图像的目标标注图像；图像标注模型对待检测图像中障碍物的原始点云簇进行多次补全后再标注得到目标标注图像，多次补全是对原始点云簇镜像复制后，根据前一次补全后点云簇从全量图像集中确定目标点云簇，再通过目标点云簇对前一次补全后点云簇进行补全，原始点云簇是将待检测图像与雷达点云进行匹配后得到的；对目标标注图像进行障碍物检测，得到障碍物检测结果。对原始点云簇进行多次补全后再标注，可以提高图像标注准确性。

Description

障碍物检测方法、装置、设备、介质、芯片及车辆
技术领域
本公开涉及自动驾驶技术领域，尤其涉及障碍物检测方法、装置、设备、介质、芯片及车辆。
背景技术
在车辆自动驾驶中，车辆通过摄像头采集图像信息，并对图像信息进行处理，输出自动驾驶场景中视觉感知到的障碍物信息，在对图像信息进行处理时，需要对图像信息进行标注，进而再根据标注后的图像信息进行障碍物识别。
相关技术中，通过摄像头采集障碍物图像，并根据障碍物图像得到场景数据，在场景标注数据库中查询与场景数据对应的标注数据。然而，通过场景标注数据库进行查询的方式，标注真值存在一定的差异，因而无法准确地对图像进行标注，导致车辆自动驾驶障碍物检测的准确性较低。
发明内容
为克服相关技术中存在的问题，本公开提供一种障碍物检测方法、装置、设备、介质、芯片及车辆。
根据本公开实施例的第一方面，提供一种障碍物检测方法，包括：
获取同一时刻采集的待检测图像以及雷达点云；
将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
对所述目标标注图像进行障碍物检测，得到障碍物检测结果。
可选地，所述图像标注模型是通过如下方式对所述待检测图像进行标注的：
将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
对所述原始点云簇进行镜像复制，得到镜像点云簇，并根据所述原始点云簇以及镜像点云簇，确定初始补全点云簇；
从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
对所述待标注目标点云簇进行标注，得到所述目标标注图像。
可选地，所述将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇，包括：
将所述待检测图像与所述雷达点云进行匹配，并基于预先搭建的分类模型进行障碍物分类，得到障碍物分类点云簇，其中预先搭建的分类模型用于对匹配后得到的点云和预测点云进行障碍物分类；
对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框；
根据所述雷达点云，确定所述预标注框内障碍物点云的原始坐标，得到所述待检测图像中障碍物的原始点云簇。
可选地，所述预测点云是通过如下方式确定的：
提取匹配后得到的点云中每个点的单点维数特征以及总体维数特征；
计算所述单点维数特征与所述总体维数特征的维数特征比例；
根据所述维数特征比例，提取所述待检测图像的图像特征；
将所述图像特征编码为隐空间向量，并基于反卷积点云解码器，将所述隐空间向量转换为点云坐标，根据所述点云坐标构建所述预测点云。
可选地，所述对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框，包括：
对障碍物分类点云簇进行预标注，得到分类标注框；
计算所述分类标注框中障碍物点云与所述雷达点云的重叠度；
将重叠度低于预设重叠度阈值的分类标注框剔除，得到各所述障碍物点云簇对应的预标注框。
可选地，所述对所述原始点云簇进行镜像复制，得到镜像点云簇，并根据所述原始点云簇以及镜像点云簇，确定初始补全点云簇，包括：
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇。
可选地，所述根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇，包括：
将所述目标点云簇映射到所述初始补全点云簇中；
将所述目标点云簇中映射后坐标与所述初始补全点云簇中原始点的坐标重合的目标点剔除；
根据所述初始补全点云和剔除重合点后的目标点云簇，确定所述标注目标点云簇。
根据本公开实施例的第二方面，提供一种障碍物检测装置，包括：
获取模块，被配置为获取同一时刻采集的待检测图像以及雷达点云；
输入模块，被配置为将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
检测模块，被配置为对所述目标标注图像进行障碍物检测，得到障碍物检测结果。
可选地，所述输入模块，包括：
匹配子模块，被配置为将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
复制子模块，被配置为对所述原始点云簇进行镜像复制，得到镜像点云簇，并根据所述原始点云簇以及镜像点云簇，确定初始补全点云簇；
确定子模块，被配置为从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
补全子模块，被配置为根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
标注子模块，被配置为对所述待标注目标点云簇进行标注，得到所述目标标注图像。
可选地，所述匹配子模块，被配置为：
将所述待检测图像与所述雷达点云进行匹配，并基于预先搭建的分类模型进行障碍物分类，得到障碍物分类点云簇，其中预先搭建的分类模型用于对匹配后得到的点云和预测点云进行障碍物分类；
对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框；
根据所述雷达点云，确定所述预标注框内障碍物点云的原始坐标，得到所述待检测图像中障碍物的原始点云簇。
可选地，所述预测点云是通过如下方式确定的：
提取匹配后得到的点云中每个点的单点维数特征以及总体维数特征；
计算所述单点维数特征与所述总体维数特征的维数特征比例；
根据所述维数特征比例，提取所述待检测图像的图像特征；
将所述图像特征编码为隐空间向量，并基于反卷积点云解码器，将所述隐空间向量转换为点云坐标，根据所述点云坐标构建所述预测点云。
可选地，所述匹配子模块，被配置为：
对障碍物分类点云簇进行预标注，得到分类标注框；
计算所述分类标注框中障碍物点云与所述雷达点云的重叠度；
将重叠度低于预设重叠度阈值的分类标注框剔除，得到各所述障碍物点云簇对应的预标注框。
可选地，所述复制子模块，被配置为：
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇。
可选地，所述补全子模块，被配置为：
将所述目标点云簇映射到所述初始补全点云簇中；
将所述目标点云簇中映射后坐标与所述初始补全点云簇中原始点的坐标重合的目标点剔除；
根据所述初始补全点云和剔除重合点后的目标点云簇，确定所述标注目标点云簇。
根据本公开实施例的第三方面，提供一种电子设备，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取同一时刻采集的待检测图像以及雷达点云；
将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
对所述目标标注图像进行障碍物检测，得到障碍物检测结果。
根据本公开实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现第一方面中任一项所述方法的步骤。
根据本公开实施例的第五方面，提供一种芯片，包括处理器和接口；所述处理器用于读取指令以执行第一方面中任一项所述的方法。
根据本公开实施例的第六方面，提供一种车辆，所述车辆包括第三方面所述的电子设备，或者第五方面所述的芯片。
本公开的实施例提供的技术方案可以包括以下有益效果：
通过获取同一时刻采集的待检测图像和雷达点云；将待检测图像和雷达点云输入至图像标注模型，得到图像标注模型输出的针对待检测图像的目标标注图像；图像标注模型对待检测图像中障碍物的原始点云簇进行多次补全后再标注得到目标标注图像，多次补全是对原始点云簇镜像复制后，根据前一次补全后点云簇从全量图像集中确定目标点云簇，再通过目标点云簇对前一次补全后点云簇进行补全，原始点云簇是将待检测图像与雷达点云进行匹配后得到的；对目标标注图像进行障碍物检测，得到障碍物检测结果。对原始点云簇进行多次补全后再标注，可以提高图像标注准确性和灵活性。从而提高自动驾驶车辆在行驶过程中障碍物检测的准确性。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种障碍物检测方法的流程图。
图2是根据一示例性实施例示出的一种实现图1中步骤S12的流程图。
图3是根据一示例性实施例示出的一种实现图2中步骤S121的流程图。
图4是根据一示例性实施例示出的一种障碍物检测装置的框图。
图5是根据一示例性实施例示出的一种用于障碍物检测装置的框图。
图6是一示例性实施例示出的一种车辆的功能框图示意图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是，本申请中所有获取信号、信息或数据的动作都是在遵照所在地国家相应的数据保护法规政策的前提下，并获得由相应装置所有者给予授权的情况下进行的。
图1是根据一示例性实施例示出的一种障碍物检测方法的流程图，如图1所示，该方法应用于车载终端中，例如，车辆预警系统的控制器、车辆防撞系统的控制器，该方法包括以下步骤。
在步骤S11中，获取同一时刻采集的待检测图像以及雷达点云。
在一种可能实现的方式中，车辆上配置有摄像机和雷达，其中雷达可以是激光雷达和毫米波雷达。摄像机用于采集车辆行驶过程中的视野内的图像，雷达用于采集视野内的点云。
在步骤S12中，将待检测图像以及雷达点云输入至图像标注模型中，得到图像标注模型输出的针对待检测图像的目标标注图像。
其中，所述图像标注模型对待检测图像中障碍物的原始点云簇进行多次补全后再标注得到目标标注图像，多次补全是对原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过目标点云簇对前一次补全后的点云簇进行补全，所述原始点云簇是将待检测图像与雷达点云进行匹配后得到的。
其中，图像标注模型可以是基于大型的骨干网络和颈项网络搭建的。
在一种实施方式中，全量图像集可以是一段时间内车辆在行驶场景中所采集的所有图像构建的图像集，也可以是存储在云端服务器中的图像集，该图像集是在获得车辆授权的情况下，获取的车辆在各种场景中行驶时采集的图像。
在步骤S13中，对目标标注图像进行障碍物检测，得到障碍物检测结果。
在一种可能实现的方式中，可以基于语义对目标标注图像进行特征提取，根据提取得到的图像特征，通过例如卷积神经网络、全连接网络进行障碍物检测。
其中，对目标标注图像进行障碍物检测可以确定障碍物的类型、障碍物与车辆的距离、或者障碍物的体积大小。其中，障碍物类型可以分为行人类型、车辆类型、交通设施类型、交通标识类型和石头等影响车辆行驶的其他障碍物类型。
上述技术方案通过获取同一时刻采集的待检测图像和雷达点云；将待检测图像和雷达点云输入至图像标注模型，得到图像标注模型输出的针对待检测图像的目标标注图像；图像标注模型对待检测图像中障碍物的原始点云簇进行多次补全后再标注得到目标标注图像，多次补全是对原始点云簇镜像复制后，根据前一次补全后点云簇从全量图像集中确定目标点云簇，再通过目标点云簇对前一次补全后点云簇进行补全，原始点云簇是将待检测图像与雷达点云进行匹配后得到的；对目标标注图像进行障碍物检测，得到障碍物检测结果。对原始点云簇进行多次补全后再标注，可以提高图像标注准确性和灵活性。从而提高自动驾驶车辆在行驶过程中障碍物检测的准确性。
可选地，图2是根据一示例性实施例示出的一种实现图1中步骤S12的流程图，包括以下步骤。
在步骤S121中，将待检测图像与雷达点云进行匹配，确定待检测图像中障碍物的原始点云簇。
基于预设的平移矩阵和旋转矩阵，将雷达点云从三维坐标中映射到待检测图像的二维图像中，并根据映射后的点云，在待检测图像上确定障碍物的原始点云簇。
在一种可能实现的方式中，以车辆当前的位置作为坐标中心，建立三维笛卡尔坐标系，并标定雷达采集的点云在三维笛卡尔坐标系中的笛卡尔坐标；根据预设的平移矩阵和旋转矩阵，将点云的笛卡尔坐标进行映射，对应到待检测图像的二维坐标系中，即将点云的三维坐标转换为二维坐标。并根据映射后的点云，将坐标相同的点云与待检测图像中像素点作为原始点云，进而根据所有的原始点云得到原始点云簇。
在步骤S122中，对原始点云簇进行镜像复制，得到镜像点云簇，并根据原始点云簇以及镜像点云簇，确定初始补全点云簇。
在一种可能实现的方式中，如果障碍物存在被遮挡的情况，那么采集到的雷达点云和待检测图像均是不完整的，并且障碍物会因为光照、大雾等原因，导致图像或者点云缺失。可以通过对原始点云簇进行镜像复制，补充缺失的点云。
在本公开实施例中，可以将未被遮挡和被遮挡的边界线作为镜像轴，对原始点云簇中的原始点进行镜像复制，得到镜像点云簇。进一步地，将原始点云簇与镜像点云簇相加，得到初始补全点云簇。
在步骤S123中，从全量图像集中，确定相似度与初始补全点云簇最高的目标点云簇。
本公开实施例中，全景图像集可以是当前行驶场景下采集的图像，通常全景图像集中包括上千乃至上万帧的图像，可以将初始补全点云簇在全景图像集中进行匹配，确定全景图像集中障碍物像素点与初始补全点云簇的相似度。并根据相似度最高的像素点构建目标点云簇。
在步骤S124中，根据目标点云簇对初始补全点云簇进行补全，得到待标注目标点云簇。
本公开实施例中，根据目标点云簇中目标点的坐标，确定初始补全点云簇中没有与目标点的坐标相同的初始补全点，则将该目标点映射到初始补全点云簇中，确定初始补全点云簇中有与目标点的坐标相同的初始补全点，则将该目标点剔除，直到所有的目标点均映射到初始补全点云簇中，得到待标注目标点云簇。
在步骤S125中，对待标注目标点云簇进行标注，得到目标标注图像。
本公开实施例中，基于激光障碍检测模型进行自动标注，例如根据得到待标注目标点云簇最外围的待标注点，绘制矩形框，将待标注目标点云簇全部框在矩形框内。
可选地，图3是根据一示例性实施例示出的一种实现图2中步骤S121的流程图，在步骤S121中，所述将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇，包括：
在步骤S1211中，将待检测图像与雷达点云进行匹配，并基于预先搭建的分类模型进行障碍物分类，得到障碍物分类点云簇，其中预先搭建的分类模型用于对匹配后得到的点云和预测点云进行障碍物分类。
在步骤S1212中，对障碍物分类点云簇进行预标注，得到各障碍物点云对应的预标注框。
在步骤S1213中，根据雷达点云，确定预标注框内障碍物点云的原始坐标，得到待检测图像中障碍物的原始点云簇。
本公开实施例中，基于预先搭建的分类模型对匹配后的点云绘制标注框，完成预标注，在预标注完成之后，通过例如添加标签等方式，对预标注后的点云进行标签添加，在通过标签进行障碍物分类，得到障碍物分类点云簇。
进一步地，根据雷达点云在映射到二维的待检测图像中的坐标，反向查询障碍物分类点云簇中点在笛卡尔坐标系中对应的雷达点云，并将该雷达点云的笛卡尔坐标作为障碍物点云的原始坐标，遍历确定障碍物分类点云簇中所有点与笛卡尔坐标中雷达点云的对应关系，得到原始点云簇。
可选地，所述预测点云是通过如下方式确定的：
提取匹配后得到的点云中每个点的单点维数特征以及总体维数特征。
本公开实施例中，通过对待检测图像和雷达点云进行匹配，可以得到一个或者多个点云簇，提取每一个点云簇中点的单点维数特征，并根据单点维数特征得到该点云簇的总体维数特征。
计算所述单点维数特征与所述总体维数特征的维数特征比例；
根据所述维数特征比例，提取所述待检测图像的图像特征；
本公开实施例中，可以计算每个点的单点维数特征占总体维数特征的维数特征比例，根据每个点对应的维数特征比例，提取待检测图像的图像特征，可以保证图像特征的准确性。
将所述图像特征编码为隐空间向量，并基于反卷积点云解码器，将所述隐空间向量转换为点云坐标，根据所述点云坐标构建所述预测点云。
基于反卷积点云解码器可以将编码后的隐空间向量进行扩展，得到对应的多个点云坐标。针对扩展后得到的点，使用动态位移预测方法预测不同长度的位移向量，将位移向量分别与原始点云簇中的点进行相加，获得预测点云。
可选地，所述对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框，包括：
对障碍物分类点云簇进行预标注，得到分类标注框。
本公开实施例中，基于激光障碍检测模型根据障碍物分类点云簇绘制矩形标注框，根据各矩形框得到分类标注框。
计算所述分类标注框中障碍物点云与所述雷达点云的重叠度；
在本公开实施例中，根据分类标注框内的障碍物点云的坐标以及雷达点云的坐标，计算重叠度。例如，可以计算点云中点坐标的重合度，作为障碍物点云与所述雷达点云的重叠度。
将重叠度低于预设重叠度阈值的分类标注框剔除，得到各所述障碍物点云簇对应的预标注框。
剔除重叠度降低的分类标注框，不仅可以提高得到目标标注图像的准确性，还可以减小补全等步骤的计算量。
可选地，所述对所述原始点云簇进行镜像复制，得到镜像点云簇，并根据所述原始点云簇以及镜像点云簇，确定初始补全点云簇，包括：
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
本公开实施例中，确定原始点云簇中每个点的坐标，并将计算所有点坐标的平均值，将根据平均值在原始点云簇中构建中轴线。
在另一种可能实现的方式中，在预标注完成后，将预标注的矩形在横坐标上的中点连接，得到中轴线。
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
在一种实现方式中，将中轴线左侧的点镜像复制到中轴线的右边，将将中轴线右侧的点镜像复制到中轴线的左边，即保持每个点的纵坐标不变，横坐标到中轴线距离与原始点到中轴线距离相同，构建镜像点。
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
可以理解的是，在镜像复制后，存在坐标与原始点云簇中原始点坐标相同的镜像点，将该镜像点剔除。
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇。
可选地，所述根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇，包括：
将所述目标点云簇映射到所述初始补全点云簇中；
本公开实施例中，根据全景图像中的目标点云簇的坐标，基于相机的内参和外参将目标点云簇中目标点进行映射。
将所述目标点云簇中映射后坐标与所述初始补全点云簇中原始点的坐标重合的目标点剔除；
根据所述初始补全点云和剔除重合点后的目标点云簇，确定所述标注目标点云簇。
可以理解的是，在目标点映射后，存在坐标与初始补全点云簇中初始补全点坐标相同的映射目标点，将该映射目标点剔除。
基于相同的构思，本公开还提供一种障碍物检测装置，用于执行上述方法实施例提供的障碍物检测方法的部分或全部步骤，该装置400可以以软件、硬件或者两者相结合的方式实现障碍物检测方法。图4是根据一示例性实施例示出的一种障碍物检测装置的框图，参见图4所示，所述装置400包括：获取模块410、输入模块420和检测模块430。
其中，该获取模块410被配置为获取同一时刻采集的待检测图像以及雷达点云；
该输入模块420被配置为将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
该检测模块430被配置为对所述目标标注图像进行障碍物检测，得到障碍物检测结果。
可选地，所述输入模块420，包括：
匹配子模块，被配置为将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
复制子模块，被配置为对所述原始点云簇进行镜像复制，得到镜像点云簇，并根据所述原始点云簇以及镜像点云簇，确定初始补全点云簇；
确定子模块，被配置为从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
补全子模块，被配置为根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
标注子模块，被配置为对所述待标注目标点云簇进行标注，得到所述目标标注图像。
可选地，所述匹配子模块，被配置为：
将所述待检测图像与所述雷达点云进行匹配，并基于预先搭建的分类模型进行障碍物分类，得到障碍物分类点云簇，其中预先搭建的分类模型用于对匹配后得到的点云和预测点云进行障碍物分类；
对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框；
根据所述雷达点云，确定所述预标注框内障碍物点云的原始坐标，得到所述待检测图像中障碍物的原始点云簇。
可选地，所述预测点云是通过如下方式确定的：
提取匹配后得到的点云中每个点的单点维数特征以及总体维数特征；
计算所述单点维数特征与所述总体维数特征的维数特征比例；
根据所述维数特征比例，提取所述待检测图像的图像特征；
将所述图像特征编码为隐空间向量，并基于反卷积点云解码器，将所述隐空间向量转换为点云坐标，根据所述点云坐标构建所述预测点云。
可选地，所述匹配子模块，被配置为：
对障碍物分类点云簇进行预标注，得到分类标注框；
计算所述分类标注框中障碍物点云与所述雷达点云的重叠度；
将重叠度低于预设重叠度阈值的分类标注框剔除，得到各所述障碍物点云簇对应的预标注框。
可选地，所述复制子模块，被配置为：
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇。
可选地，所述补全子模块，被配置为：
将所述目标点云簇映射到所述初始补全点云簇中；
将所述目标点云簇中映射后坐标与所述初始补全点云簇中原始点的坐标重合的目标点剔除；
根据所述初始补全点云和剔除重合点后的目标点云簇，确定所述标注目标点云簇。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
此外值得说明的是，为描述的方便和简洁，说明书中所描述的实施例均属于优选实施例，其所涉及的部分并不一定是本发明所必须的，例如，输入模块420和检测模块430，在具体实施时可以是相互独立的装置也可以是同一个装置，本公开对此不作限定。
根据本公开实施例还提供一种电子设备，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取同一时刻采集的待检测图像以及雷达点云；
将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
对所述目标标注图像进行障碍物检测，得到障碍物检测结果。
根据本公开实施例还提供一种计算机可读存储介质，其上存储有计算机程序指令，该程序指令被处理器执行时实现上述实施例中任一项所述方法的步骤。
根据本公开实施例还提供一种芯片，包括处理器和接口；所述处理器用于读取指令以执行上述实施例中任一项所述的方法。
根据本公开实施例还提供一种车辆，所述车辆包括上上述实施例中所述的电子设备，或者上述实施例中所述的芯片。
图5是根据一示例性实施例示出的一种用于障碍物检测的装置500的框图。例如，装置500可以是车辆控制器、车道偏移系统的控制器、车辆预警系统的控制器等。
参照图5，装置500可以包括以下一个或多个组件：处理组件502，第一存储器504，电源组件506，多媒体组件508，音频组件510，输入/输出接口512，传感器组件514，以及通信组件516。
处理组件502通常控制装置500的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件502可以包括一个或多个第一处理器520来执行指令，以完成上述障碍物检测方法的全部或部分步骤。此外，处理组件502可以包括一个或多个模块，便于处理组件502和其他组件之间的交互。例如，处理组件502可以包括多媒体模块，以方便多媒体组件508和处理组件502之间的交互。
第一存储器504被配置为存储各种类型的数据以支持在装置500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。第一存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（SRAM），电可擦除可编程只读存储器（EEPROM），可擦除可编程只读存储器（EPROM），可编程只读存储器（PROM），只读存储器（ROM），磁存储器，快闪存储器，磁盘或光盘。
电源组件506为装置500的各种组件提供电力。电源组件506可以包括电源管理系统，一个或多个电源，及其他与为装置500生成、管理和分配电力相关联的组件。
多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器（LCD）和触摸面板（TP）。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件508包括一个前置摄像头和/或后置摄像头。当装置500处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如，音频组件510包括一个麦克风（MIC），当装置500处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在第一存储器504或经由通信组件516发送。在一些实施例中，音频组件510还包括一个扬声器，用于输出音频信号。
输入/输出接口512为处理组件502和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或多个传感器，用于为装置500提供各个方面的状态评估。例如，传感器组件514可以检测到装置500的打开/关闭状态，组件的相对定位，例如所述组件为装置500的显示器和小键盘，传感器组件514还可以检测装置500或装置500一个组件的位置改变，用户与装置500接触的存在或不存在，装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件514还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件516还包括近场通信（NFC）模块，以促进短程通信。例如，在NFC模块可基于射频识别（RFID）技术，红外数据协会（IrDA）技术，超宽带（UWB）技术，蓝牙（BT）技术和其他技术来实现。
在示例性实施例中，装置500可以被一个或多个应用专用集成电路（ASIC）、数字信号处理器（DSP）、数字信号处理设备（DSPD）、可编程逻辑器件（PLD）、现场可编程门阵列（FPGA）、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述障碍物检测方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的第一存储器504，上述指令可由装置500的第一处理器520执行以完成上述障碍物检测方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器（RAM）、CD-ROM、磁带、软盘和光数据存储设备等。
上述装置除了可以是独立的电子设备外，也可是独立电子设备的一部分，例如在一种实施例中，该装置可以是集成电路（Integrated Circuit，IC）或芯片，其中该集成电路可以是一个IC，也可以是多个IC的集合；该芯片可以包括但不限于以下种类：GPU（GraphicsProcessing Unit，图形处理器）、CPU（Central Processing Unit，中央处理器）、FPGA（Field Programmable Gate Array，可编程逻辑阵列）、DSP（Digital Signal Processor，数字信号处理器）、ASIC（Application Specific Integrated Circuit，专用集成电路）、SOC（System on Chip，SoC，片上系统或系统级芯片）等。上述的集成电路或芯片中可以用于执行可执行指令（或代码），以实现上述的障碍物检测方法。其中该可执行指令可以存储在该集成电路或芯片中，也可以从其他的装置或设备获取，例如该集成电路或芯片中包括处理器、存储器，以及用于与其他的装置通信的接口。该可执行指令可以存储于该存储器中，当该可执行指令被处理器执行时实现上述的障碍物检测方法；或者，该集成电路或芯片可以通过该接口接收可执行指令并传输给该处理器执行，以实现上述的障碍物检测方法。
参阅图6，图6是一示例性实施例示出的一种车辆600的功能框图示意图。车辆600可以被配置为完全或部分自动驾驶模式。例如，车辆600可以通过感知系统620获取其周围的环境信息，并基于对周边环境信息的分析得到自动驾驶策略以实现完全自动驾驶，或者将分析结果呈现给用户以实现部分自动驾驶。
车辆600可包括各种子系统，例如，信息娱乐系统610、感知系统620、决策控制系统630、驱动系统640以及计算平台650。可选的，车辆600可包括更多或更少的子系统，并且每个子系统都可包括多个部件。另外，车辆600的每个子系统和部件可以通过有线或者无线的方式实现互连。
在一些实施例中，信息娱乐系统610可以包括通信系统611，娱乐系统612以及导航系统613。
通信系统611可以包括无线通信系统，无线通信系统可以直接地或者经由通信网络来与一个或多个设备无线通信。例如，无线通信系统可使用3G蜂窝通信，例如CDMA、EVD0、GSM/GPRS，或者4G蜂窝通信，例如LTE。或者5G蜂窝通信。无线通信系统可利用WiFi与无线局域网（wireless local area network，WLAN）通信。在一些实施例中，无线通信系统可利用红外链路、蓝牙或ZigBee与设备直接通信。其他无线协议，例如各种车辆通信系统，例如，无线通信系统可包括一个或多个专用短程通信（dedicated short range communications，DSRC）设备，这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
娱乐系统612可以包括显示设备，麦克风和音响，用户可以基于娱乐系统在车内收听广播，播放音乐；或者将手机和车辆联通，在显示设备上实现手机的投屏，显示设备可以为触控式，用户可以通过触摸屏幕进行操作。
在一些情况下，可以通过麦克风获取用户的语音信号，并依据对用户的语音信号的分析实现用户对车辆600的某些控制，例如调节车内温度等。在另一些情况下，可以通过音响向用户播放音乐。
导航系统613可以包括由地图供应商所提供的地图服务，从而为车辆600提供行驶路线的导航，导航系统613可以和车辆的全球定位系统621、惯性测量单元622配合使用。地图供应商所提供的地图服务可以为二维地图，也可以是高精地图。
感知系统620可包括感测关于车辆600周边的环境的信息的若干种传感器。例如，感知系统620可包括全球定位系统621（全球定位系统可以是GPS系统，也可以是北斗系统或者其他定位系统）、惯性测量单元（inertial measurement unit，IMU）622、激光雷达623、毫米波雷达624、超声雷达625以及摄像装置626。感知系统620还可包括被监视车辆600的内部系统的传感器（例如，车内空气质量监测器、燃油量表、机油温度表等）。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性（位置、形状、方向、速度等）。这种检测和识别是车辆600的安全操作的关键功能。
全球定位系统621用于估计车辆600的地理位置。
惯性测量单元622用于基于惯性加速度来感测车辆600的位姿变化。在一些实施例中，惯性测量单元622可以是加速度计和陀螺仪的组合。
激光雷达623利用激光来感测车辆600所位于的环境中的物体。在一些实施例中，激光雷达623可包括一个或多个激光源、激光扫描器以及一个或多个检测器，以及其他系统组件。
毫米波雷达624利用无线电信号来感测车辆600的周边环境内的物体。在一些实施例中，除了感测物体以外，毫米波雷达624还可用于感测物体的速度和/或前进方向。
超声雷达625可以利用超声波信号来感测车辆600周围的物体。
摄像装置626用于捕捉车辆600的周边环境的图像信息。摄像装置626可以包括单目相机、双目相机、结构光相机以及全景相机等，摄像装置626获取的图像信息可以包括静态图像，也可以包括视频流信息。
决策控制系统630包括基于感知系统620所获取的信息进行分析决策的计算系统631，决策控制系统630还包括对车辆600的动力系统进行控制的整车控制器632，以及用于控制车辆600的转向系统633、油门634和制动系统635。
计算系统631可以操作来处理和分析由感知系统620所获取的各种信息以便识别车辆600周边环境中的目标、物体和/或特征。目标可以包括行人或者动物，物体和/或特征可包括交通信号、道路边界和障碍物。计算系统631可使用物体识别算法、运动中恢复结构（Structure from Motion，SFM）算法、视频跟踪等技术。在一些实施例中，计算系统631可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。计算系统631可以将所获取的各种信息进行分析并得出对车辆的控制策略。
整车控制器632可以用于对车辆的动力电池和引擎641进行协调控制，以提升车辆600的动力性能。
转向系统633可操作来调整车辆600的前进方向。例如在一个实施例中可以为方向盘系统。
油门634用于控制引擎641的操作速度并进而控制车辆600的速度。
制动系统635用于控制车辆600减速。制动系统635可使用摩擦力来减慢车轮644。在一些实施例中，制动系统635可将车轮644的动能转换为电流。制动系统635也可采取其他形式来减慢车轮644转速从而控制车辆600的速度。
驱动系统640可包括为车辆600提供动力运动的组件。在一个实施例中，驱动系统640可包括引擎641、能量源642、传动系统643和车轮644。引擎641可以是内燃机、电动机、空气压缩引擎或其他类型的引擎组合，例如汽油发动机和电动机组成的混动引擎，内燃引擎和空气压缩引擎组成的混动引擎。引擎641将能量源642转换成机械能量。
能量源642的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源642也可以为车辆600的其他系统提供能量。
传动系统643可以将来自引擎641的机械动力传送到车轮644。传动系统643可包括变速箱、差速器和驱动轴。在一个实施例中，传动系统643还可以包括其他器件，比如离合器。其中，驱动轴可包括可耦合到一个或多个车轮644的一个或多个轴。
车辆600的部分或所有功能受计算平台650控制。计算平台650可包括至少一个第二处理器651，第二处理器651可以执行存储在例如第二存储器652这样的非暂态计算机可读介质中的指令653。在一些实施例中，计算平台650还可以是采用分布式方式控制车辆600的个体组件或子系统的多个计算设备。
第二处理器651可以是任何常规的处理器，诸如商业可获得的CPU。可替换地，第二处理器651还可以包括诸如图像处理器（Graphic Process Unit，GPU），现场可编程门阵列（FieldProgrammable Gate Array，FPGA）、片上系统（Sysem on Chip，SOC）、专用集成芯片（Application Specific Integrated Circuit，ASIC）或它们的组合。尽管图6功能性地图示了处理器、存储器、和在相同块中的计算机的其它元件，但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如，存储器可以是硬盘驱动器或位于不同于计算机的外壳内的其它存储介质。因此，对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤，诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器，处理器只执行与特定于组件的功能相关的计算。
在本公开实施方式中，第二处理器651可以执行上述的障碍物检测方法。
在此处所描述的各个方面中，第二处理器651可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中，此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行，包括采取执行单一操纵的必要步骤。
在一些实施例中，第二存储器652可包含指令653（例如，程序逻辑），指令653可被第二处理器651执行来执行车辆600的各种功能。第二存储器652也可包含额外的指令，包括向信息娱乐系统610、感知系统620、决策控制系统630、驱动系统640中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令653以外，第二存储器652还可存储数据，例如道路地图、路线信息，车辆的位置、方向、速度以及其它这样的车辆数据，以及其他信息。这种信息可在车辆600在自主、半自主和/或手动模式中操作期间被车辆600和计算平台650使用。
计算平台650可基于从各种子系统（例如，驱动系统640、感知系统620和决策控制系统630）接收的输入来控制车辆600的功能。例如，计算平台650可利用来自决策控制系统630的输入以便控制转向系统633来避免由感知系统620检测到的障碍物。在一些实施例中，计算平台650可操作来对车辆600及其子系统的许多方面提供控制。
可选地，上述这些组件中的一个或多个可与车辆600分开安装或关联。例如，第二存储器652可以部分或完全地与车辆600分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地，上述组件只是一个示例，实际应用中，上述各个模块中的组件有可能根据实际需要增添或者删除，图6不应理解为对本公开实施例的限制。
在道路行进的自动驾驶汽车，如上面的车辆600，可以识别其周围环境内的物体以确定对当前速度的调整。物体可以是其它车辆、交通控制设备、或者其它类型的物体。在一些示例中，可以独立地考虑每个识别的物体，并且基于物体的各自的特性，诸如它的当前速度、加速度、与车辆的间距等，可以用来确定自动驾驶汽车所要调整的速度。
可选地，车辆600或者与车辆600相关联的感知和计算设备（例如计算系统631、计算平台650）可以基于所识别的物体的特性和周围环境的状态（例如，交通、雨、道路上的冰、等等）来预测识别的物体的行为。可选地，每一个所识别的物体都依赖于彼此的行为，因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆600能够基于预测的识别的物体的行为来调整它的速度。换句话说，自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到（例如，加速、减速、或者停止）何种稳定状态。在这个过程中，也可以考虑其它因素来确定车辆600的速度，诸如，车辆600在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外，计算设备还可以提供修改车辆600的转向角的指令，以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体（例如，道路上的相邻车道中的车辆）的安全横向和纵向距离。
上述车辆600可以为各种类型的行驶工具，例如，轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、娱乐车、火车等等，本公开实施例不做特别的限定。
在另一示例性实施例中，还提供一种计算机程序产品，该计算机程序产品包含能够由可编程的装置执行的计算机程序，该计算机程序具有当由该可编程的装置执行时用于执行上述的障碍物检测方法的代码部分。
本领域技术人员在考虑说明书及实践本公开后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种障碍物检测方法，其特征在于，包括：
获取同一时刻采集的待检测图像以及雷达点云；
将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
对所述目标标注图像进行障碍物检测，得到障碍物检测结果；
其中，所述图像标注模型是通过如下方式对所述待检测图像进行标注的：
将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇；
从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
对所述待标注目标点云簇进行标注，得到所述目标标注图像。
2.根据权利要求1所述的方法，其特征在于，所述将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇，包括：
将所述待检测图像与所述雷达点云进行匹配，并基于预先搭建的分类模型进行障碍物分类，得到障碍物分类点云簇，其中预先搭建的分类模型用于对匹配后得到的点云和预测点云进行障碍物分类；
对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框；
根据所述雷达点云，确定所述预标注框内障碍物点云的原始坐标，得到所述待检测图像中障碍物的原始点云簇。
3.根据权利要求2所述的方法，其特征在于，所述预测点云是通过如下方式确定的：
提取匹配后得到的点云中每个点的单点维数特征以及总体维数特征；
计算所述单点维数特征与所述总体维数特征的维数特征比例；
根据所述维数特征比例，提取所述待检测图像的图像特征；
将所述图像特征编码为隐空间向量，并基于反卷积点云解码器，将所述隐空间向量转换为点云坐标，根据所述点云坐标构建所述预测点云。
4.根据权利要求2所述的方法，其特征在于，所述对所述障碍物分类点云簇进行预标注，得到各所述障碍物点云对应的预标注框，包括：
对障碍物分类点云簇进行预标注，得到分类标注框；
计算所述分类标注框中障碍物点云与所述雷达点云的重叠度；
将重叠度低于预设重叠度阈值的分类标注框剔除，得到各所述障碍物点云簇对应的预标注框。
5.根据权利要求1-4中任一项所述的方法，其特征在于，所述根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇，包括：
将所述目标点云簇映射到所述初始补全点云簇中；
将所述目标点云簇中映射后坐标与所述初始补全点云簇中原始点的坐标重合的目标点剔除；
根据所述初始补全点云和剔除重合点后的目标点云簇，确定所述标注目标点云簇。
6.一种障碍物检测装置，其特征在于，包括：
获取模块，被配置为获取同一时刻采集的待检测图像以及雷达点云；
输入模块，被配置为将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
检测模块，被配置为对所述目标标注图像进行障碍物检测，得到障碍物检测结果；
其中，所述图像标注模型是通过如下方式对所述待检测图像进行标注的：
将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇；
从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
对所述待标注目标点云簇进行标注，得到所述目标标注图像。
7.一种电子设备，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
获取同一时刻采集的待检测图像以及雷达点云；
将所述待检测图像以及所述雷达点云输入至图像标注模型中，得到所述图像标注模型输出的针对所述待检测图像的目标标注图像；
其中，所述图像标注模型对所述待检测图像中障碍物的原始点云簇进行多次补全后再标注得到所述目标标注图像，多次补全是对所述原始点云簇镜像复制后，根据前一次补全后的点云簇从全量图像集中确定目标点云簇，再通过所述目标点云簇对所述前一次补全后的点云簇进行补全，所述原始点云簇是将所述待检测图像与所述雷达点云进行匹配后得到的；
对所述目标标注图像进行障碍物检测，得到障碍物检测结果；
其中，所述图像标注模型是通过如下方式对所述待检测图像进行标注的：
将所述待检测图像与所述雷达点云进行匹配，确定所述待检测图像中障碍物的原始点云簇；
根据所述原始点云簇中每个点的坐标，确定所述原始点云簇的中轴线；
以所述中轴线为镜像轴，对所述原始点云簇中每个点进行镜像复制，得到镜像点云簇；
将所述镜像点云簇中与所述原始点云簇中坐标重复的点剔除；
将所述原始点云簇和剔除重复点后的镜像点云簇作为所述初始补全点云簇；
从所述全量图像集中，确定相似度与所述初始补全点云簇最高的目标点云簇；
根据所述目标点云簇对所述初始补全点云簇进行补全，得到待标注目标点云簇；
对所述待标注目标点云簇进行标注，得到所述目标标注图像。
8.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，该程序指令被处理器执行时实现权利要求1-5中任一项所述方法的步骤。
9.一种芯片，其特征在于，包括处理器和接口；所述处理器用于读取指令以执行权利要求1-5中任一项所述的方法。
10.一种车辆，其特征在于，所述车辆包括权利要求7所述的电子设备，或者权利要求9所述的芯片。
CN202210736827.3A 2022-06-27 2022-06-27 障碍物检测方法、装置、设备、介质、芯片及车辆 Active CN114842455B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210736827.3A CN114842455B (zh) 2022-06-27 2022-06-27 障碍物检测方法、装置、设备、介质、芯片及车辆

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210736827.3A CN114842455B (zh) 2022-06-27 2022-06-27 障碍物检测方法、装置、设备、介质、芯片及车辆

Publications (2)

Publication Number Publication Date
CN114842455A CN114842455A (zh) 2022-08-02
CN114842455B true CN114842455B (zh) 2022-09-09

Family

ID=82573697

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210736827.3A Active CN114842455B (zh) 2022-06-27 2022-06-27 障碍物检测方法、装置、设备、介质、芯片及车辆

Country Status (1)

Country Link
CN (1) CN114842455B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116224367A (zh) * 2022-10-12 2023-06-06 深圳市速腾聚创科技有限公司 障碍物的检测方法及装置、介质及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021056499A1 (zh) * 2019-09-29 2021-04-01 深圳市大疆创新科技有限公司 数据处理方法、设备和可移动平台
CN113920487A (zh) * 2021-10-09 2022-01-11 广东汇天航空航天科技有限公司 障碍物探测处理方法、装置及系统
CN114529884A (zh) * 2022-02-23 2022-05-24 广东汇天航空航天科技有限公司 基于双目相机的障碍物探测处理方法、装置、设备及系统
CN114596555A (zh) * 2022-05-09 2022-06-07 新石器慧通（北京）科技有限公司 障碍物点云数据筛选方法、装置、电子设备及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113424079A (zh) * 2019-12-30 2021-09-21 深圳元戎启行科技有限公司 障碍物检测方法、装置、计算机设备和存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021056499A1 (zh) * 2019-09-29 2021-04-01 深圳市大疆创新科技有限公司 数据处理方法、设备和可移动平台
CN113920487A (zh) * 2021-10-09 2022-01-11 广东汇天航空航天科技有限公司 障碍物探测处理方法、装置及系统
CN114529884A (zh) * 2022-02-23 2022-05-24 广东汇天航空航天科技有限公司 基于双目相机的障碍物探测处理方法、装置、设备及系统
CN114596555A (zh) * 2022-05-09 2022-06-07 新石器慧通（北京）科技有限公司 障碍物点云数据筛选方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN114842455A (zh) 2022-08-02

Similar Documents

Publication Publication Date Title
CN114842075B (zh) 数据标注方法、装置、存储介质及车辆
CN114882464B (zh) 多任务模型训练方法、多任务处理方法、装置及车辆
US20240017719A1 (en) Mapping method and apparatus, vehicle, readable storage medium, and chip
CN115035494A (zh) 图像处理方法、装置、车辆、存储介质及芯片
CN115205365A (zh) 车辆距离检测方法、装置、车辆、可读存储介质及芯片
CN114935334A (zh) 车道拓扑关系的构建方法、装置、车辆、介质及芯片
CN114842455B (zh) 障碍物检测方法、装置、设备、介质、芯片及车辆
CN115170630B (zh) 地图生成方法、装置、电子设备、车辆和存储介质
CN115164910B (zh) 行驶路径生成方法、装置、车辆、存储介质及芯片
CN115205311B (zh) 图像处理方法、装置、车辆、介质及芯片
CN115100630B (zh) 障碍物检测方法、装置、车辆、介质及芯片
CN114771539B (zh) 车辆变道决策方法、装置、存储介质及车辆
CN114973178A (zh) 模型训练方法、物体识别方法、装置、车辆及存储介质
CN114880408A (zh) 场景构建方法、装置、介质以及芯片
CN115203457A (zh) 图像检索方法、装置、车辆、存储介质及芯片
CN114842454B (zh) 障碍物检测方法、装置、设备、存储介质、芯片及车辆
CN114771514B (zh) 车辆行驶控制方法、装置、设备、介质、芯片及车辆
CN115082886B (zh) 目标检测的方法、装置、存储介质、芯片及车辆
CN114822216B (zh) 生成车位地图的方法、装置、车辆、存储介质及芯片
CN115221260B (zh) 数据处理方法、装置、车辆及存储介质
CN115063639B (zh) 生成模型的方法、图像语义分割方法、装置、车辆及介质
CN114572219B (zh) 自动超车方法、装置、车辆、存储介质及芯片
CN114821511B (zh) 杆体检测方法、装置、车辆、存储介质及芯片
CN114954528A (zh) 车辆控制方法、装置、车辆、存储介质及芯片
CN115115822A (zh) 车端图像处理方法、装置、车辆、存储介质及芯片

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant