CN115222941A - 目标检测方法、装置、车辆、存储介质、芯片及电子设备 - Google Patents
目标检测方法、装置、车辆、存储介质、芯片及电子设备 Download PDFInfo
- Publication number
- CN115222941A CN115222941A CN202210858556.9A CN202210858556A CN115222941A CN 115222941 A CN115222941 A CN 115222941A CN 202210858556 A CN202210858556 A CN 202210858556A CN 115222941 A CN115222941 A CN 115222941A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- cloud data
- target
- vehicle
- data block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 112
- 238000000034 method Methods 0.000 claims abstract description 46
- 230000008569 process Effects 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims description 69
- 230000015654 memory Effects 0.000 claims description 28
- 238000012545 processing Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 10
- 238000000638 solvent extraction Methods 0.000 claims description 5
- 238000004891 communication Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 14
- 229910052698 phosphorus Inorganic materials 0.000 description 7
- 229910052799 carbon Inorganic materials 0.000 description 6
- 230000008447 perception Effects 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 230000006399 behavior Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000005291 magnetic effect Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 229910052757 nitrogen Inorganic materials 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000010267 cellular communication Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- SAZUGELZHZOXHB-UHFFFAOYSA-N acecarbromal Chemical compound CCC(Br)(CC)C(=O)NC(=O)NC(C)=O SAZUGELZHZOXHB-UHFFFAOYSA-N 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000011217 control strategy Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 239000001294 propane Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及自动驾驶领域,涉及一种目标检测方法、装置、车辆、存储介质、芯片及电子设备,该方法包括:获取车辆在行驶过程中采集的多个点云数据;将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;确定每个所述点云数据块集合对应的伪图像;根据多个所述伪图像,确定目标检测区域;确定所述目标检测区域中的目标物体。这样,能够有效识别点云被遮挡的物体,提高了目标检测的准确率。
Description
技术领域
本公开涉及自动驾驶领域,尤其涉及一种目标检测方法、装置、车辆、存储介质、芯片及电子设备。
背景技术
点云数据是通过激光雷达等扫描装置探测到的目标对象表面的点数据的集合,在自动驾驶场景中激光雷达传感器获取的点云具有稀疏、贴近路面、高度低、样本少的特点。在利用点云数据进行目标检测时,通常需要将点云数据划分为多个体素,然后将每个体素中包含的多个点的均值作为每个体素的特征信息,再利用每个体素的特征信息进行目标检测。
但是,由于划分得到的体素的数量比较多,而大量的体素中的点云数量比较少,使得提取的体素的特征信息不够准确,从而导致目标检测的准确率比较低。
发明内容
为克服相关技术中存在的问题,本公开提供一种目标检测方法、装置、车辆、存储介质、芯片及电子设备。
根据本公开实施例的第一方面,提供一种目标检测方法,包括:
获取车辆在行驶过程中采集的多个点云数据;
将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
确定每个所述点云数据块集合对应的伪图像;
根据多个所述伪图像,确定目标检测区域;
确定所述目标检测区域中的目标物体。
可选地,所述将所述点云数据划分为多个点云数据块集合包括:
按照所述车辆行驶方向所在的水平面,将多个所述点云数据划分为多个所述点云数据块;
按照所述车辆行驶方向的垂直方向,将多个所述点云数据块划分为多个所述点云数据块集合。
可选地,所述按照所述车辆行驶方向的垂直方向,将多个所述点云数据块划分为多个所述点云数据块集合包括:
根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定多个所述点云数据对应的总高度范围;
根据预设集合数量和所述总高度范围,确定多个目标高度范围;
针对每个所述目标高度范围,从多个所述点云数据中确定垂直位置坐标在所述目标高度范围内的多个目标点云数据,并将多个所述目标点云数据作为所述目标高度范围对应的点云数据块集合。
可选地,所述根据预设集合数量和所述总高度范围,确定多个目标高度范围包括:
根据所述预设集合数量,将所述总高度范围平均划分为多个所述目标高度范围;或者,
根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定不同高度的点云数据的点云数量,并根据所述预设集合数量和所述点云数量,将所述总高度范围划分为多个所述目标高度范围。
可选地,所述根据多个所述伪图像,确定目标检测区域包括:
确定每个所述伪图像对应的目标特征图;
根据多个所述目标特征图,确定所述目标检测区域。
可选地,所述特确定每个所述伪图像对应的目标特征图包括:
将多个所述伪图像输入预先训练的特征提取模型,以获取所述特征提取模型输出的多个所述目标特征图。
可选地,所述特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型;所述将多个所述伪图像输入预先训练的特征提取模型,以获取所述特征提取模型输出的多个所述目标特征图包括:
针对每个所述伪图像,根据所述伪图像对应的点云数据块集合中所述点云数据的点云数量,从预先创建的卷积核关联关系中,确定所述伪图像对应的目标特征提取子模型的卷积核数量,并将所述伪图像输入所述目标特征提取子模型,按照所述目标特征提取子模型的卷积核数量对所述伪图像进行卷积处理,以获取所述目标特征提取子模型输出的所述目标特征图,所述卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
可选地,所述根据多个所述目标特征图,确定所述目标检测区域包括:
将多个所述目标特征图输入预先训练的区域检测模型,以获取所述区域检测模型输出的所述目标检测区域。
根据本公开实施例的第二方面,提供一种目标检测装置,包括:
获取模块,被配置为获取车辆在行驶过程中采集的多个点云数据;
划分模块,被配置为将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
第一确定模块,被配置为确定每个所述点云数据块集合对应的伪图像;
第二确定模块,被配置为根据多个所述伪图像,确定目标检测区域;
第三确定模块,被配置为确定所述目标检测区域中的目标物体。
可选地,所述划分模块包括:
第一划分子模块,被配置为按照所述车辆行驶方向所在的水平面,将多个所述点云数据划分为多个所述点云数据块;
第二划分子模块,被配置为按照所述车辆行驶方向的垂直方向,将多个所述点云数据块划分为多个所述点云数据块集合。
可选地,所述第二划分子模块,被配置为首先根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定多个所述点云数据对应的总高度范围;其次根据预设集合数量和所述总高度范围,确定多个目标高度范围;然后针对每个所述目标高度范围,从多个所述点云数据中确定垂直位置坐标在所述目标高度范围内的多个目标点云数据,并将多个所述目标点云数据作为所述目标高度范围对应的点云数据块集合。
可选地,所述第二划分子模块,被配置为根据所述预设集合数量,将所述总高度范围平均划分为多个所述目标高度范围;或者,根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定不同高度的点云数据的点云数量,并根据所述预设集合数量和所述点云数量,将所述总高度范围划分为多个所述目标高度范围。
可选地,所述第二确定模块包括:
第一确定子模块,被配置为确定每个所述伪图像对应的目标特征图;
第二确定子模块,被配置为根据多个所述目标特征图,确定所述目标检测区域。
可选地,所述第一确定子模块,被配置为将多个所述伪图像输入预先训练的特征提取模型,以获取所述特征提取模型输出的多个所述目标特征图。
可选地,所述特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型;所述第一确定子模块,被配置为针对每个所述伪图像,根据所述伪图像对应的点云数据块集合中所述点云数据的点云数量,从预先创建的卷积核关联关系中,确定所述伪图像对应的目标特征提取子模型的卷积核数量,并将所述伪图像输入所述目标特征提取子模型,按照所述目标特征提取子模型的卷积核数量对所述伪图像进行卷积处理,以获取所述目标特征提取子模型输出的所述目标特征图,所述卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
可选地,所述第二确定子模块,被配置为将多个所述目标特征图输入预先训练的区域检测模型,以获取所述区域检测模型输出的所述目标检测区域。
根据本公开实施例的第三方面,提供一种车辆,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获取车辆在行驶过程中采集的多个点云数据;
将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
确定每个所述点云数据块集合对应的伪图像;
根据多个所述伪图像,确定目标检测区域;
确定所述目标检测区域中的目标物体。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开第一方面所提供的目标检测方法的步骤。
根据本公开实施例的第五方面,一种芯片,包括处理器和接口;所述处理器用于读取指令以执行本公开第一方面所提供的目标检测方法的步骤。
根据本公开实施例的第六方面,提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器;用于执行所述存储器中的所述计算机程序,以实现本公开第一方面所提供的目标检测方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
通过获取车辆在行驶过程中采集的多个点云数据;将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;确定每个所述点云数据块集合对应的伪图像;根据多个所述伪图像,确定目标检测区域;确定所述目标检测区域中的目标物体。这样,通过按照所述车辆行驶方向的垂直方向的不同高度范围对点云数据进行划分,得到不同的点云数据块集合,然后对不同的点云数据块集合中的点云数据进行处理,可以对纵向点云较稠密的物体,按高度划分学习得到更细致的特征,能够有效识别点云被遮挡的物体,提高了目标检测的准确率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种目标检测方法的流程图。
图2是根据一示例性实施例示出的另一种目标检测方法的流程图。
图3是根据一示例性实施例示出的一种点云数据块的示意图。
图4是根据一示例性实施例示出的一种目标检测装置框图。
图5是根据图4所示实施例示出的一种划分模块的框图。
图6是根据图4所示实施例示出的一种第二确定模块的框图。
图7是根据一示例性实施例示出的一种用于电子设备的框图。
图8是一示例性实施例示出的一种车辆的功能框图示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是,本申请中所有获取信号、信息或数据的动作都是在遵照所在地国家相应的数据保护法规政策的前提下,并获得由相应装置所有者给予授权的情况下进行的。
在详细介绍本公开的具体实施方式之前,首先对本公开的应用场景进行说明。目前,基于深度学习的点云目标检测算法是主流研究方向,现有的基于点云的三维目标检测方法,通常采用基于体素划分的点云目标检测方法,一方面,是采用相同尺寸的立方体作为体素来对点云数据进行划分,但单一体素尺寸设置容易丢失点云数据某些局部结构,不足以表示检测场景中所有可用信息,降低了检测精度;另一方面,对体素化点云数据进行特征编码时没有考虑到点与点之间的位置关系,导致点云数据的特征表示不丰富,不利于特征学习,进一步降低了检测精度。
为了克服以上相关技术中存在的技术问题,本公开提供了一种目标检测方法、装置、存储介质及车辆,通过按照该车辆行驶方向的垂直方向的不同高度范围对点云数据进行划分,得到不同的点云数据块集合,然后对不同的点云数据块集合中的点云数据进行处理,能够实现对纵向点云较稠密的物体,按高度划分学习得到更细致的特征,可以有效识别点云被遮挡的物体,提高了目标检测的准确率。
下面结合具体实施例对本公开进行说明。
图1是根据一示例性实施例示出的一种目标检测方法的流程图,如图1所示,该方法可以包括:
在步骤S101中,获取车辆在行驶过程中采集的多个点云数据。
其中,该点云数据可以是激光雷达在扫描当前场景的过程中,获得到的以点云的形式记录的三维坐标向量的集合,每一个三维坐标向量可以用[x,y,z]表示。除此之外点云数据中还可以包含每一个点云的反射光强度值r,可以将每一个点云数据用[x,y,z,r]来表示;该车辆在行驶过程中采集的多个点云数据可以是该车辆在当前场景中通过激光雷达扫描获取的多个点云数据。
具体地,可以是由固定在该车辆上某一位置处的激光雷达,针对其所处场景的周围环境的点云数据进行采集,并将采集的点云数据传输至进行目标检测的控制设备。例如,可以是自动驾驶车辆上固定的激光雷达在车辆行驶过程中,实时针对周围环境采集点云数据后传输至自动驾驶车辆的控制设备,控制设备获取的通过激光雷达传输的点云数据,是当前场景下每个点的三维坐标数据以及该点处的反射光强度值。
需要说明的是,可根据该指定场景中需要感知的实际空间的尺寸对该点云数据进行剪裁得到尺寸为L×W×H的目标点云,由此可去除点云数据中的冗余点,提高数据计算效率。其中,L、W和H分别为前述实际空间的长度、宽度和高度,且L、W和H分别是对应于三维坐标轴的x、y和z轴方向的长度尺寸。
在步骤S102中,将该点云数据划分为多个点云数据块集合,不同的点云数据块集合对应该车辆行驶方向的垂直方向的不同高度范围。
其中,每个点云数据块集合包括多个点云数据块,每个点云数据块包括多个该点云数据,示例地,该点云数据块可以是立方体形状。
在本步骤中,由于获得的点云数据为空间分布,为方便对空间分布的点云数据进行分析,可对点云数据进行网格化处理,以使得空间分布的点云数据落在网格中。在对点云数据的空间分布进行网格化处理时,可以首先在不考虑点云数据垂直方向的高度数据的情况下,将该车辆的行驶方向所在的水平面作为场景平面,在该场景平面上划分出若干个相同大小的网格,并按照该网格的大小划分多个该点云数据,得到若干个柱状的点云网格;然后按照该车辆行驶方向的垂直方向,按照不同的高度范围对每一个柱状的点云网格进行划分,针对每一个柱状的点云网格,将其在垂直方向划分为多个点云数据块,多个位于相同高度范围内的点云数据块构成一个点云数据层,其中,每一个点云数据层包括多个点云数据块,一个该点云数据层中的多个该点云数据块构成一个该点云数据块集合。
在步骤S103中,确定每个点云数据块集合对应的伪图像。
可选地,首先可以对每个点云数据块中包括的每个数据点进行特征扩展,得到多个完成特征扩展后的点云数据块。其中,作为一种实现方式,针对该点云数据块中的每个点云数据,可以将该点云数据由特征[x,y,z,r]扩展为9个维度的特征[x,y,z,r,x-Δx,y-Δy,z-Δz,x-xc,y-yc],其中,[r]表示该点云数据自身的反射强度值,[x,y,z]表示该数据点在三维空间中的坐标值,[Δx,Δy,Δz]表示该点云数据块内所有点的坐标均值,[xc,yc,Δc]表示该点云数据块内的点云数据在水平方向投影的中心坐标值;作为另一种实现方式,针对该点云数据块中的每个点云数据,可以将该点云数据由特征[x,y,z,r]扩展为16维度或是更高维度的特征。
另外,由于点云数据的稀疏性,可能存在多个该点云数据块中不含点云或者包含的点云数量比较少,考虑到计算复杂度的问题,可以对每个点云数据块中的点云数量进行相同数量的限制,最多处理P个非空的点云数据块,可以对每一个点云数据块集合的点云数据块数量(P)和每个点云数据块中的点云数(N)施加限制,来创建大小为(D,P,N)的张量,其中,D可以指每一个点云数据的点云特征维度。具体地,如果一个点云数据块中的数据太多,则进行随机采样操作,使得该点云数据块中的点云数量为预设数量N,如数据太少,则用0进行预设数量N的数据填充。这样就可以针对每个点云数据块集合,分别获取一个大小为(D,P,N)的张量。
进一步地,在得到大小为(D,P,N)的张量之后,可以采用简化版本的 PointNet 对张量化的点云数据进行处理和特征提取(即对每个点都运用线性层+BN 层+ReLU 层),来生成一个(C,P,N)的张量,再对于通道上使用最大池化操作,输出一个(C,P)的张量,然后通过编码后特征散布回原始的点云数据块位置,创建大小为(C,H,W)的伪图像。
需要说明的是,在得到(C,P)的张量后,可以通过每个点的网格索引值将上一步生成的(C,P)张量转换回其原始的点云数据块坐标,用来创建大小为(C,H,W)的伪图像。其中,该伪图像的高度H和宽度W,是在对多个点云数据进行划分得到柱状的点云网格的时候,通过设置XY平面上点云坐标的范围和每个柱状的点云网格的大小来确定的,例如,假设X轴的范围是[0,69.12],Y轴的范围是[-39.68,39.68],每个柱状的点云网格的大小是0.16*0.16,那么以X轴表示宽,Y轴表示高,一个柱状的点云网格表示一个像素的话,那么这个伪图像的宽W = (69.12 - 0) / 0.16 = 432,高H = (39.68 -(-39.68)) / 0.16 = 496。
在步骤S104中,根据多个该伪图像,确定目标检测区域。
在本步骤中,可以首先确定每个伪图像对应的目标特征图,示例地,可以将多个该伪图像输入预先训练的特征提取模型,以获取该特征提取模型输出的多个该目标特征图,其中,该特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型。
具体地,针对每个伪图像,根据该伪图像对应的点云数据块集合中该点云数据的点云数量,从预先创建的卷积核关联关系中,确定该伪图像对应的目标特征提取子模型的卷积核数量,并将该伪图像输入该目标特征提取子模型,按照该目标特征提取子模型的卷积核数量对该伪图像进行卷积处理,以获取该目标特征提取子模型输出的该目标特征图,其中,该卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
然后根据多个该目标特征图,确定该目标检测区域。具体地,可以将多个该目标特征图输入预先训练的区域检测模型,以获取该区域检测模型输出的该目标检测区域。
在步骤S105中,确定该目标检测区域中的目标物体。
采用上述方法,通过获取车辆在行驶过程中采集的多个点云数据;将该点云数据划分为多个点云数据块集合,不同的点云数据块集合对应该车辆行驶方向的垂直方向的不同高度范围,每个点云数据块集合包括多个点云数据块,每个点云数据块包括多个该点云数据;确定每个点云数据块集合对应的伪图像;根据多个该伪图像,确定目标检测区域;确定该目标检测区域中的目标物体。这样,通过按照该车辆行驶方向的垂直方向的不同高度范围对点云数据进行划分,得到不同的点云数据块集合,然后对不同的点云数据块集合中的点云数据进行处理,可以对纵向点云较稠密的物体,按高度划分学习得到更细致的特征,能够有效识别点云被遮挡的物体,提高了目标检测的准确率;并且相较于采用相同尺寸的立方体作为体素来对点云数据进行划分的方式,能够提高检测效率。
图2是根据一示例性实施例示出的另一种目标检测方法的流程图,如图2所示,该方法可以包括:
在步骤S201中,获取车辆在行驶过程中采集的多个点云数据。
在本步骤中,该点云数据可以是激光雷达在扫描当前场景的过程中,获得到的以点云的形式记录的三维坐标向量的集合,每一个三维坐标向量可以用[x,y,z]表示。除此之外点云数据中还可以包含每一个点云的反射光强度值r,就可以将每一个点云数据用[x,y,z,r]来表示;该车辆在行驶过程中采集的多个点云数据可以是该车辆在当前场景中通过激光雷达扫描获取的多个点云数据。
在步骤S202中,按照该车辆行驶方向所在的水平面,将多个该点云数据划分为多个该点云数据块。
示例地,可以将该车辆行驶方向所在的水平面作为场景平面,以该车辆的车身所在位置为原点,在该场景平面上建立网格平面二维坐标系,在不考虑多个该点云数据的垂直方向的高度数据的情况下,将多个该点云数据投影在该二维坐标系上,按照该二维坐标系的坐标,划分为多个网格,最终得到多个柱状的点云网格。例如,在该预设坐标系为直角坐标系的情况下,分别沿着直角坐标系的x轴和y轴的方向对剪裁得到的空间为L×W×H的多个目标点云进行等间距划分,得到多个柱状的点云网格,再通过按照该车辆行驶方向的垂直方向的不同高度范围进行划分,得到不同的点云数据块,也就是说,每个点云数据块的尺寸为dL×dW×dH,如图3所示,图3是根据一示例性实施例示出的一种点云数据块的示意图。
在步骤S203中,按照该车辆行驶方向的垂直方向,将多个该点云数据块划分为多个该点云数据块集合。
在本步骤中,可以首先根据多个该点云数据在该车辆行驶方向的垂直方向的垂直位置坐标,确定多个该点云数据对应的总高度范围。其中,该点云数据对应的总高度范围可以指多个该点云数据中,所有点云数据的垂直位置坐标的纵坐标范围。之后,根据预设集合数量和该总高度范围,确定多个目标高度范围。最后,针对每个目标高度范围,从多个该点云数据中确定垂直位置坐标在该目标高度范围内的多个目标点云数据,并将多个该目标点云数据作为该目标高度范围对应的点云数据块集合。示例地,可以根据该目标高度范围的纵向高度坐标范围,从多个该点云数据中按照纵向高度坐标确定在该纵向高度坐标范围内的多个点云数据,纵向高度坐标确定在该纵向高度坐标范围内的点云数据为目标点云数据。
具体地,在该车辆获取多个点云数据的过程中,可以确定该多个点云数据的该总高度范围,然后可以以一个预设单位高度对该总高度范围进行划分,得到该预设集合数量,该预设单位高度可以是工作人员在提取特征过程中,根据提取特征信息准确程度确定的;在这种情况下,可以直接将预设单位高度作为多个目标高度范围。例如,在该总高度范围为-1m~4m,单位高度为1m的情况下,可以确定该预设集合数量为[4m-(-1m)]/1m=5,并且可以直接将1m作为多个目标高度范围。在另一种可能的实现方式中,该预设集合数量可以通过预先设置固定的单位点云数量来确定,其中,在该车辆获取多个点云数据的过程中,可在初始获取点云数据之后,首先确定原始的多个点云数据的点云数量,然后根据单位点云数量,将原始的多个点云数据,划分为多个点云数据层,可以根据多个点云数据层的层数确定该预设集合数量,其中,每一个该点云数据层内包括相同数量的原始点云数据。
在一种可能的实现方式中,可以先根据多个点云数据的位置信息,确定该总高度范围,之后,获取该预设集合数量,根据该预设集合数量,将该总高度范围平均划分为多个该目标高度范围。
示例地,可以首先按照该预设集合数量,将该总高度范围平均划分为多个该目标高度范围,然后将多个该点云数据块按照该目标高度范围划分为预设集合数量个点云数据块集合,其中,该点云网格是经过不考虑纵向高度划分之后得到的柱状的点云网格;具体地,可以将每一个柱状的点云网格进行该预设集合数量的平均划分,得到该预设集合数量个该目标高度范围。例如,在每个点云数据的垂直位置坐标的纵坐标范围为-1m~4m的情况下,可以将该预设集合数量预先设置为5,这样可以将多个该点云网格按照该预设集合数量平均划分,得到5个该目标高度范围,也就是5个0m~1m的目标高度范围。
或者,在另一种可能的实现方式中,可以根据多个该点云数据在该车辆行驶方向的垂直方向的垂直位置坐标,确定不同高度的点云数据的点云数量,并根据该预设集合数量和该点云数量,将该总高度范围划分为多个该目标高度范围。示例地,在每个点云数据的垂直位置坐标的纵坐标范围为-1m~4m的情况下,若是在1m~2m之间的点云数据的数量为第一数量,在2m~3m之间的点云数据的数量为第二数量,该第一数量远大于该第二数量,就可以在1m~2m高度范围之间划分较为密集的目标高度范围,使得在1m~2m高度范围之间的目标高度范围小于在2m~3m高度范围之间的目标高度范围,也即是说,点云数据越稠密的高度范围内划分的目标高度范围越小。
在步骤S204中,确定每个点云数据块集合对应的伪图像。
其中,可以将每一个点云数据块集合中的多个该点云数据输入预设特征提取模型后,获取与该点云数据块集合对应的伪图像。
在步骤S205中,确定每个伪图像对应的目标特征图。
在本步骤中,可以将多个该伪图像输入预先训练的特征提取模型,以获取该特征提取模型输出的多个该目标特征图,其中,该特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型。该特征提取模型可以通过现有技术的模型训练方法训练得到,此处不再赘述。
具体地,可以针对每个伪图像,根据该伪图像对应的点云数据块集合中该点云数据的点云数量,从预先创建的卷积核关联关系中,确定该伪图像对应的目标特征提取子模型的卷积核数量,并将该伪图像输入该目标特征提取子模型,按照该目标特征提取子模型的卷积核数量对该伪图像进行卷积处理,以获取该目标特征提取子模型输出的该目标特征图,该卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
示例地,针对每个伪图像,通过点云数据的网格索引值,确定与该伪图像对应的点云数据块集合,再根据该点云数据块集合中该点云数据的点云数量,根据不同点云数量与卷积核数量之间的预设对应关系,确定出与该点云数据块集合对应的卷积核数量,再根据该卷积核数量确定对应的目标特征提取子模型;然后就可以将该伪图像输入该目标特征提取子模型,进而得到每个伪图像对应的目标特征图,其中,该特征提取模型包括多个该目标特征提取子模型,该目标特征提取子模型可以采用现有的骨干网络进行目标特征提取,该骨干网络可以为RPN(英文:Region Proposal Network,中文:候选区域网络)的骨干网络,该部分可以由一个2D卷积神经网络组成,其作用是用于在第一部分网络输出的伪图像上提取高维特征。RPN骨干网分为两个子网络:一个自顶向下的子网络用于在越来越小的空间分辨率特征图上提取特征,另一个子网络则负责将不同分辨率特征图上提取的特征通过反卷积操作进行上采样至同样维度大小然后进行串联。
当然,本领域技术人员也可以根据实际需求灵活选择其他类型的特征提取模型,在此不作具体限定。
在步骤S206中,根据多个该目标特征图,确定该目标检测区域,然后确定该目标检测区域中的目标物体。
在本步骤中,可以将多个该目标特征图输入预先训练的区域检测模型,以获取该区域检测模型输出的该目标检测区域。该区域检测模型可以通过现有技术的模型训练方法训练得到,此处不再赘述。
具体地,可以首先获取预构建的区域检测模型,其中,该区域检测模型可以指预构建的检测头网络,包括分类分支网络和检测框回归分支网络;然后基于分类分支网络输出目标特征图中目标检测区域图像的类别信息,并通过检测框回归分支网络生成目标检测区域图像对应的目标检测框信息,最后根据类别信息和目标检测框信息,确定该目标检测区域中的目标物体。
这样,通过对每一层的点云网格,根据点云数量的稠密程度设计不同数量的卷积核,而且不同点云数据块集合的点云网格不共享卷积参数,能够实现在不增加参数量的情况下,独立精细学习不同点云数据块集合的点云的特征,能够学习得到更细致的特征,提高了目标检测的准确率。
图4是根据一示例性实施例示出的一种目标检测装置400框图。参照图4,该装置包括获取模块401,划分模块402,第一确定模块403,第二确定模块404和第三确定模块405。
获取模块401,被配置为获取车辆在行驶过程中采集的多个点云数据;
划分模块402,被配置为将该点云数据划分为多个点云数据块集合,不同的点云数据块集合对应该车辆行驶方向的垂直方向的不同高度范围,每个点云数据块集合包括多个点云网格,每个点云网格包括多个该点云数据。
第一确定模块403,被配置为确定每个点云数据块集合对应的伪图像;
第二确定模块404,被配置为根据多个该伪图像,确定目标检测区域;
第三确定模块405,被配置为确定该目标检测区域中的目标物体。
图5是根据图4所示实施例示出的一种划分模块的框图。参照图5,该划分模块402包括:
第一划分子模块4021,被配置为按照该车辆行驶方向所在的水平面,将多个该点云数据划分为多个该点云网格;
第二划分子模块4022,被配置为按照该车辆行驶方向的垂直方向,将多个该点云网格划分为多个该点云数据块集合。
可选地,该第二划分子模块4022,被配置为首先根据多个该点云数据在该车辆行驶方向的垂直方向的垂直位置坐标,确定多个该点云数据对应的总高度范围;其次根据预设集合数量和该总高度范围,确定多个目标高度范围;然后针对每个目标高度范围,从多个该点云数据中确定垂直位置坐标在该目标高度范围内的多个目标点云数据,并将多个该目标点云数据作为该目标高度范围对应的点云数据块集合。
可选地,该第二划分子模块4022,被配置为根据该预设集合数量,将该总高度范围平均划分为多个该目标高度范围;或者,根据多个该点云数据在该车辆行驶方向的垂直方向的垂直位置坐标,确定不同高度的点云数据的点云数量,并根据该预设集合数量和该点云数量,将该总高度范围划分为多个该目标高度范围。
图6是根据图4所示实施例示出的一种第二确定模块的框图。参照图6,该第二确定模块404包括:
第一确定子模块4041,被配置为确定每个伪图像对应的目标特征图;
第二确定子模块4042,被配置为根据多个该目标特征图,确定该目标检测区域。
可选地,该第一确定子模块4041,被配置为将多个该伪图像输入预先训练的特征提取模型,以获取该特征提取模型输出的多个该目标特征图。
可选地,该特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型;该第一确定子模块,被配置为针对每个伪图像,根据该伪图像对应的点云数据块集合中该点云数据的点云数量,从预先创建的卷积核关联关系中,确定该伪图像对应的目标特征提取子模型的卷积核数量,并将该伪图像输入该目标特征提取子模型,按照该目标特征提取子模型的卷积核数量对该伪图像进行卷积处理,以获取该目标特征提取子模型输出的该目标特征图,该卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
可选地,该第二确定子模块4042,被配置为将多个该目标特征图输入预先训练的区域检测模型,以获取该区域检测模型输出的该目标检测区域。
采用上述方案,通过获取车辆在行驶过程中采集的多个点云数据;将该点云数据划分为多个点云数据块集合,不同的点云数据块集合对应该车辆行驶方向的垂直方向的不同高度范围,每个点云数据块集合包括多个点云网格,每个点云网格包括多个该点云数据;确定每个点云数据块集合对应的伪图像;根据多个该伪图像,确定目标检测区域;确定该目标检测区域中的目标物体。这样,通过按照该车辆行驶方向的垂直方向的不同高度范围对点云数据进行划分,得到不同的点云数据块集合,然后对不同的点云数据块集合中的点云数据进行处理,可以对纵向点云较稠密的物体,按高度划分学习得到更细致的特征,能够有效识别点云被遮挡的物体,提高了目标检测的准确率;并且相较于采用相同尺寸的立方体作为体素来对点云数据进行划分的方式,能够提高检测效率。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开提供的目标检测方法的步骤。
图7是根据一示例性实施例示出的一种用于电子设备700的框图。例如,电子设备700可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图7,电子设备700可以包括以下一个或多个组件:处理组件702,存储器704,电源组件706,多媒体组件708,音频组件710,输入/输出(I/O)接口712,传感器组件714,以及通信组件716。
处理组件702通常控制电子设备700的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件702可以包括一个或多个处理器720来执行指令,以完成上述的目标检测方法的全部或部分步骤。此外,处理组件702可以包括一个或多个模块,便于处理组件702和其他组件之间的交互。例如,处理组件702可以包括多媒体模块,以方便多媒体组件708和处理组件702之间的交互。
存储器704被配置为存储各种类型的数据以支持在电子设备700的操作。这些数据的示例包括用于在电子设备700上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器704可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件706为电子设备700的各种组件提供电力。电源组件706可以包括电源管理系统,一个或多个电源,及其他与为电子设备700生成、管理和分配电力相关联的组件。
多媒体组件708包括在所述电子设备700和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件708包括一个前置摄像头和/或后置摄像头。当电子设备700处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件710被配置为输出和/或输入音频信号。例如,音频组件710包括一个麦克风(MIC),当电子设备700处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器704或经由通信组件716发送。在一些实施例中,音频组件710还包括一个扬声器,用于输出音频信号。
输入/输出(I/O)接口712为处理组件702和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件714包括一个或多个传感器,用于为电子设备700提供各个方面的状态评估。例如,传感器组件714可以检测到电子设备700的打开/关闭状态,组件的相对定位,例如所述组件为电子设备700的显示器和小键盘,传感器组件714还可以检测电子设备700或电子设备700一个组件的位置改变,用户与电子设备700接触的存在或不存在,电子设备700方位或加速/减速和电子设备700的温度变化。传感器组件714可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件714还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件714还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件716被配置为便于电子设备700和其他设备之间有线或无线方式的通信。电子设备700可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件716经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件716还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备700可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的目标检测方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器704,上述指令可由电子设备700的处理器720执行以完成上述的目标检测方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
上述电子设备除了可以是独立的电子设备外,也可是独立电子设备的一部分,例如在一种实施例中,该电子设备可以是集成电路(Integrated Circuit,IC)或芯片,其中该集成电路可以是一个IC,也可以是多个IC的集合;该芯片可以包括但不限于以下种类:GPU(Graphics Processing Unit,图形处理器)、CPU(Central Processing Unit,中央处理器)、FPGA(Field Programmable Gate Array,可编程逻辑阵列)、DSP(Digital SignalProcessor,数字信号处理器)、ASIC(Application Specific Integrated Circuit,专用集成电路)、SOC(System on Chip,SoC,片上系统或系统级芯片)等。上述的集成电路或芯片中可以用于执行可执行指令(或代码),以实现上述的目标检测方法。其中该可执行指令可以存储在该集成电路或芯片中,也可以从其他的装置或设备获取,例如该集成电路或芯片中包括处理器、存储器,以及用于与其他的装置通信的接口。该可执行指令可以存储于该处理器中,当该可执行指令被处理器执行时实现上述的目标检测方法;或者,该集成电路或芯片可以通过该接口接收可执行指令并传输给该处理器执行,以实现上述的目标检测方法。
参阅图8,图8是一示例性实施例示出的一种车辆800的功能框图示意图。车辆800可以被配置为完全或部分自动驾驶模式。例如,车辆800可以通过感知系统820获取其周围的环境信息,并基于对周边环境信息的分析得到自动驾驶策略以实现完全自动驾驶,或者将分析结果呈现给用户以实现部分自动驾驶。
车辆800可包括各种子系统,例如,信息娱乐系统810、感知系统820、决策控制系统830、驱动系统840以及计算平台850。可选的,车辆800可包括更多或更少的子系统,并且每个子系统都可包括多个部件。另外,车辆800的每个子系统和部件可以通过有线或者无线的方式实现互连。
在一些实施例中,信息娱乐系统810可以包括通信系统811,娱乐系统812以及导航系统813。
通信系统811可以包括无线通信系统,无线通信系统可以直接地或者经由通信网络来与一个或多个设备无线通信。例如,无线通信系统可使用3G蜂窝通信,例如CDMA、EVD0、GSM/GPRS,或者4G蜂窝通信,例如LTE。或者5G蜂窝通信。无线通信系统可利用WiFi与无线局域网(wireless local area network,WLAN)通信。在一些实施例中,无线通信系统可利用红外链路、蓝牙或ZigBee与设备直接通信。其他无线协议,例如各种车辆通信系统,例如,无线通信系统可包括一个或多个专用短程通信(dedicated short range communications,DSRC)设备,这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
娱乐系统812可以包括显示设备,麦克风和音响,用户可以基于娱乐系统在车内收听广播,播放音乐;或者将手机和车辆联通,在显示设备上实现手机的投屏,显示设备可以为触控式,用户可以通过触摸屏幕进行操作。
在一些情况下,可以通过麦克风获取用户的语音信号,并依据对用户的语音信号的分析实现用户对车辆800的某些控制,例如调节车内温度等。在另一些情况下,可以通过音响向用户播放音乐。
导航系统813可以包括由地图供应商所提供的地图服务,从而为车辆800提供行驶路线的导航,导航系统813可以和车辆的全球定位系统821、惯性测量单元822配合使用。地图供应商所提供的地图服务可以为二维地图,也可以是高精地图。
感知系统820可包括感测关于车辆800周边的环境的信息的若干种传感器。例如,感知系统820可包括全球定位系统821(全球定位系统可以是GPS系统,也可以是北斗系统或者其他定位系统)、惯性测量单元(inertial measurement unit,IMU)822、激光雷达823、毫米波雷达824、超声雷达825以及摄像装置826。感知系统820还可包括被监视车辆800的内部系统的传感器(例如,车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是车辆800的安全操作的关键功能。
全球定位系统821用于估计车辆800的地理位置。
惯性测量单元822用于基于惯性加速度来感测车辆800的位姿变化。在一些实施例中,惯性测量单元822可以是加速度计和陀螺仪的组合。
激光雷达823利用激光来感测车辆800所位于的环境中的物体。在一些实施例中,激光雷达823可包括一个或多个激光源、激光扫描器以及一个或多个检测器,以及其他系统组件。
毫米波雷达824利用无线电信号来感测车辆800的周边环境内的物体。在一些实施例中,除了感测物体以外,毫米波雷达824还可用于感测物体的速度和/或前进方向。
超声雷达825可以利用超声波信号来感测车辆800周围的物体。
摄像装置826用于捕捉车辆800的周边环境的图像信息。摄像装置826可以包括单目相机、双目相机、结构光相机以及全景相机等,摄像装置826获取的图像信息可以包括静态图像,也可以包括视频流信息。
决策控制系统830包括基于感知系统820所获取的信息进行分析决策的计算系统831,决策控制系统830还包括对车辆800的动力系统进行控制的整车控制器832,以及用于控制车辆800的转向系统833、油门834和制动系统835。
计算系统831可以操作来处理和分析由感知系统820所获取的各种信息以便识别车辆800周边环境中的目标、物体和/或特征。目标可以包括行人或者动物,物体和/或特征可包括交通信号、道路边界和障碍物。计算系统831可使用物体识别算法、运动中恢复结构(Structure from Motion,SFM)算法、视频跟踪等技术。在一些实施例中,计算系统831可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。计算系统831可以将所获取的各种信息进行分析并得出对车辆的控制策略。
整车控制器832可以用于对车辆的动力电池和引擎841进行协调控制,以提升车辆800的动力性能。
转向系统833可操作来调整车辆800的前进方向。例如在一个实施例中可以为方向盘系统。
油门834用于控制引擎841的操作速度并进而控制车辆800的速度。
制动系统835用于控制车辆800减速。制动系统835可使用摩擦力来减慢车轮844。在一些实施例中,制动系统835可将车轮844的动能转换为电流。制动系统835也可采取其他形式来减慢车轮844转速从而控制车辆800的速度。
驱动系统840可包括为车辆800提供动力运动的组件。在一个实施例中,驱动系统840可包括引擎841、能量源842、传动系统843和车轮844。引擎841可以是内燃机、电动机、空气压缩引擎或其他类型的引擎组合,例如汽油发动机和电动机组成的混动引擎,内燃引擎和空气压缩引擎组成的混动引擎。引擎841将能量源842转换成机械能量。
能量源842的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源842也可以为车辆800的其他系统提供能量。
传动系统843可以将来自引擎841的机械动力传送到车轮844。传动系统843可包括变速箱、差速器和驱动轴。在一个实施例中,传动系统843还可以包括其他器件,比如离合器。其中,驱动轴可包括可耦合到一个或多个车轮844的一个或多个轴。
车辆800的部分或所有功能受计算平台850控制。计算平台850可包括至少一个处理器851,处理器851可以执行存储在例如存储器852这样的非暂态计算机可读介质中的指令853。在一些实施例中,计算平台850还可以是采用分布式方式控制车辆800的个体组件或子系统的多个计算设备。
处理器851可以是任何常规的处理器,诸如商业可获得的CPU。可替换地,处理器851还可以包括诸如图像处理器(Graphic Process Unit,GPU),现场可编程门阵列(FieldProgrammable Gate Array,FPGA)、片上系统(Sysem on Chip,SOC)、专用集成芯片(Application Specific Integrated Circuit,ASIC)或它们的组合。尽管图8功能性地图示了处理器、存储器、和在相同块中的计算机的其它元件,但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如,存储器可以是硬盘驱动器或位于不同于计算机的外壳内的其它存储介质。因此,对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤,诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器,处理器只执行与特定于组件的功能相关的计算。
在本公开实施方式中,处理器851可以执行上述的目标检测方法。
在此处所描述的各个方面中,处理器851可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中,此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行,包括采取执行单一操纵的必要步骤。
在一些实施例中,存储器852可包含指令853(例如,程序逻辑),指令853可被处理器851执行来执行车辆800的各种功能。存储器852也可包含额外的指令,包括向信息娱乐系统810、感知系统820、决策控制系统830、驱动系统840中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令853以外,存储器852还可存储数据,例如道路地图、路线信息,车辆的位置、方向、速度以及其它这样的车辆数据,以及其他信息。这种信息可在车辆800在自主、半自主和/或手动模式中操作期间被车辆800和计算平台850使用。
计算平台850可基于从各种子系统(例如,驱动系统840、感知系统820和决策控制系统830)接收的输入来控制车辆800的功能。例如,计算平台850可利用来自决策控制系统830的输入以便控制转向系统833来避免由感知系统820检测到的障碍物。在一些实施例中,计算平台850可操作来对车辆800及其子系统的许多方面提供控制。
可选地,上述这些组件中的一个或多个可与车辆800分开安装或关联。例如,存储器852可以部分或完全地与车辆800分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地,上述组件只是一个示例,实际应用中,上述各个模块中的组件有可能根据实际需要增添或者删除,图8不应理解为对本公开实施例的限制。
在道路行进的自动驾驶汽车,如上面的车辆800,可以识别其周围环境内的物体以确定对当前速度的调整。物体可以是其它车辆、交通控制设备、或者其它类型的物体。在一些示例中,可以独立地考虑每个识别的物体,并且基于物体的各自的特性,诸如它的当前速度、加速度、与车辆的间距等,可以用来确定自动驾驶汽车所要调整的速度。
可选地,车辆800或者与车辆800相关联的感知和计算设备(例如计算系统831、计算平台850)可以基于所识别的物体的特性和周围环境的状态(例如,交通、雨、道路上的冰、等等)来预测识别的物体的行为。可选地,每一个所识别的物体都依赖于彼此的行为,因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆800能够基于预测的识别的物体的行为来调整它的速度。换句话说,自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到(例如,加速、减速、或者停止)何种稳定状态。在这个过程中,也可以考虑其它因素来确定车辆800的速度,诸如,车辆800在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外,计算设备还可以提供修改车辆800的转向角的指令,以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如,道路上的相邻车道中的车辆)的安全横向和纵向距离。
上述车辆800可以为各种类型的行驶工具,例如,轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、娱乐车、火车等等,本公开实施例不做特别的限定。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的目标检测方法的代码部分。
本领域技术人员在考虑说明书及实践本公开后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (13)
1.一种目标检测方法,其特征在于,包括:
获取车辆在行驶过程中采集的多个点云数据;
将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
确定每个所述点云数据块集合对应的伪图像;
根据多个所述伪图像,确定目标检测区域;
确定所述目标检测区域中的目标物体。
2.根据权利要求1所述的方法,其特征在于,所述将所述点云数据划分为多个点云数据块集合包括:
按照所述车辆行驶方向所在的水平面,将多个所述点云数据划分为多个所述点云数据块;
按照所述车辆行驶方向的垂直方向,将多个所述点云数据块划分为多个所述点云数据块集合。
3.根据权利要求2所述的方法,其特征在于,所述按照所述车辆行驶方向的垂直方向,将多个所述点云数据块划分为多个所述点云数据块集合包括:
根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定多个所述点云数据对应的总高度范围;
根据预设集合数量和所述总高度范围,确定多个目标高度范围;
针对每个所述目标高度范围,从多个所述点云数据中确定垂直位置坐标在所述目标高度范围内的多个目标点云数据,并将多个所述目标点云数据作为所述目标高度范围对应的点云数据块集合。
4.根据权利要求3所述的方法,其特征在于,所述根据预设集合数量和所述总高度范围,确定多个目标高度范围包括:
根据所述预设集合数量,将所述总高度范围平均划分为多个所述目标高度范围;或者,
根据多个所述点云数据在所述车辆行驶方向的垂直方向的垂直位置坐标,确定不同高度的点云数据的点云数量,并根据所述预设集合数量和所述点云数量,将所述总高度范围划分为多个所述目标高度范围。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述根据多个所述伪图像,确定目标检测区域包括:
确定每个所述伪图像对应的目标特征图;
根据多个所述目标特征图,确定所述目标检测区域。
6.根据权利要求5所述的方法,其特征在于,所述确定每个所述伪图像对应的目标特征图包括:
将多个所述伪图像输入预先训练的特征提取模型,以获取所述特征提取模型输出的多个所述目标特征图。
7.根据权利要求6所述的方法,其特征在于,所述特征提取模型包括多个特征提取子模型,不同的伪图像对应不同的特征提取子模型;
所述将多个所述伪图像输入预先训练的特征提取模型,以获取所述特征提取模型输出的多个所述目标特征图包括:
针对每个所述伪图像,根据所述伪图像对应的点云数据块集合中所述点云数据的点云数量,从预先创建的卷积核关联关系中,确定所述伪图像对应的目标特征提取子模型的卷积核数量,并将所述伪图像输入所述目标特征提取子模型,按照所述目标特征提取子模型的卷积核数量对所述伪图像进行卷积处理,以获取所述目标特征提取子模型输出的所述目标特征图,所述卷积核关联关系包括不同点云数量与卷积核数量之间的对应关系。
8.根据权利要求5所述的方法,其特征在于,所述根据多个所述目标特征图,确定所述目标检测区域包括:
将多个所述目标特征图输入预先训练的区域检测模型,以获取所述区域检测模型输出的所述目标检测区域。
9.一种目标检测装置,其特征在于,包括:
获取模块,被配置为获取车辆在行驶过程中采集的多个点云数据;
划分模块,被配置为将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
第一确定模块,被配置为确定每个所述点云数据块集合对应的伪图像;
第二确定模块,被配置为根据多个所述伪图像,确定目标检测区域;
第三确定模块,被配置为确定所述目标检测区域中的目标物体。
10.一种车辆,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获取车辆在行驶过程中采集的多个点云数据;
将所述点云数据划分为多个点云数据块集合,不同的点云数据块集合对应所述车辆行驶方向的垂直方向的不同高度范围,每个所述点云数据块集合包括多个点云数据块,每个所述点云数据块包括多个所述点云数据;
确定每个所述点云数据块集合对应的伪图像;
根据多个所述伪图像,确定目标检测区域;
确定所述目标检测区域中的目标物体。
11.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该程序指令被处理器执行时实现权利要求1-8中任一项所述方法的步骤。
12.一种芯片,其特征在于,包括处理器和接口;所述处理器用于读取指令以执行权利要求1-8中任一项所述的方法。
13.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器;用于执行所述存储器中的所述计算机程序,以实现权利要求1-8中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210858556.9A CN115222941A (zh) | 2022-07-21 | 2022-07-21 | 目标检测方法、装置、车辆、存储介质、芯片及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210858556.9A CN115222941A (zh) | 2022-07-21 | 2022-07-21 | 目标检测方法、装置、车辆、存储介质、芯片及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115222941A true CN115222941A (zh) | 2022-10-21 |
Family
ID=83614381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210858556.9A Pending CN115222941A (zh) | 2022-07-21 | 2022-07-21 | 目标检测方法、装置、车辆、存储介质、芯片及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115222941A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116259029A (zh) * | 2023-05-15 | 2023-06-13 | 小米汽车科技有限公司 | 目标检测方法、装置和车辆 |
CN116452403A (zh) * | 2023-06-16 | 2023-07-18 | 瀚博半导体(上海)有限公司 | 点云数据处理方法、装置、计算机设备及存储介质 |
-
2022
- 2022-07-21 CN CN202210858556.9A patent/CN115222941A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116259029A (zh) * | 2023-05-15 | 2023-06-13 | 小米汽车科技有限公司 | 目标检测方法、装置和车辆 |
CN116259029B (zh) * | 2023-05-15 | 2023-08-15 | 小米汽车科技有限公司 | 目标检测方法、装置和车辆 |
CN116452403A (zh) * | 2023-06-16 | 2023-07-18 | 瀚博半导体(上海)有限公司 | 点云数据处理方法、装置、计算机设备及存储介质 |
CN116452403B (zh) * | 2023-06-16 | 2023-09-01 | 瀚博半导体(上海)有限公司 | 点云数据处理方法、装置、计算机设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115222941A (zh) | 目标检测方法、装置、车辆、存储介质、芯片及电子设备 | |
CN114882464B (zh) | 多任务模型训练方法、多任务处理方法、装置及车辆 | |
US20240017719A1 (en) | Mapping method and apparatus, vehicle, readable storage medium, and chip | |
CN114842075B (zh) | 数据标注方法、装置、存储介质及车辆 | |
CN115239548A (zh) | 目标检测方法、装置、电子设备及介质 | |
CN115265561A (zh) | 车辆定位方法、装置、车辆及介质 | |
CN115330923A (zh) | 点云数据渲染方法、装置、车辆、可读存储介质及芯片 | |
CN114842455B (zh) | 障碍物检测方法、装置、设备、介质、芯片及车辆 | |
CN115170630B (zh) | 地图生成方法、装置、电子设备、车辆和存储介质 | |
CN115164910B (zh) | 行驶路径生成方法、装置、车辆、存储介质及芯片 | |
CN114842440B (zh) | 自动驾驶环境感知方法、装置、车辆及可读存储介质 | |
CN114782638B (zh) | 生成车道线的方法、装置、车辆、存储介质及芯片 | |
CN114973178A (zh) | 模型训练方法、物体识别方法、装置、车辆及存储介质 | |
CN114880408A (zh) | 场景构建方法、装置、介质以及芯片 | |
CN115205848A (zh) | 目标检测方法、装置、车辆、存储介质及芯片 | |
CN115205311A (zh) | 图像处理方法、装置、车辆、介质及芯片 | |
CN114862931A (zh) | 深度距离确定方法、装置、车辆、存储介质与芯片 | |
CN114842454B (zh) | 障碍物检测方法、装置、设备、存储介质、芯片及车辆 | |
CN115221260B (zh) | 数据处理方法、装置、车辆及存储介质 | |
CN115205461B (zh) | 场景重建方法、装置、可读存储介质及车辆 | |
CN115063639B (zh) | 生成模型的方法、图像语义分割方法、装置、车辆及介质 | |
CN114822216B (zh) | 生成车位地图的方法、装置、车辆、存储介质及芯片 | |
CN114780226B (zh) | 资源调度方法、装置,计算机可读存储介质及车辆 | |
CN115082886B (zh) | 目标检测的方法、装置、存储介质、芯片及车辆 | |
CN115223122A (zh) | 物体的三维信息确定方法、装置、车辆与存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |