CN116758518A - 环境感知方法、计算机设备、计算机可读存储介质及车辆 - Google Patents
环境感知方法、计算机设备、计算机可读存储介质及车辆 Download PDFInfo
- Publication number
- CN116758518A CN116758518A CN202311056977.0A CN202311056977A CN116758518A CN 116758518 A CN116758518 A CN 116758518A CN 202311056977 A CN202311056977 A CN 202311056977A CN 116758518 A CN116758518 A CN 116758518A
- Authority
- CN
- China
- Prior art keywords
- feature map
- grid
- point cloud
- level feature
- grid level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 85
- 230000011218 segmentation Effects 0.000 claims abstract description 10
- 230000033001 locomotion Effects 0.000 claims description 39
- 238000010586 diagram Methods 0.000 claims description 21
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 13
- 230000003068 static effect Effects 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 11
- 230000007613 environmental effect Effects 0.000 claims description 10
- 230000036544 posture Effects 0.000 claims description 4
- 230000004927 fusion Effects 0.000 abstract description 5
- 230000008447 perception Effects 0.000 description 13
- 238000004590 computer program Methods 0.000 description 6
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 239000000446 fuel Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明涉及自动驾驶技术领域,具体提供一种环境感知方法、计算机设备、计算机可读存储介质及车辆,旨在解决如何基于三维点云数据准确获取语义、速度等环境感知信息的问题。为此目的,本发明提供的方法包括获取环境感知设备采集的三维点云,并将三维点云转换成环视图像;提取环视图像的环视特征,并将环视特征反投影至三维点云上,以获取携带环视特征的高维特征点云;获取高维特征点云的点云级别特征图,并对点云级别特征图进行栅格化处理,获取俯视视角下的栅格级别特征图;根据栅格级别特征图进行环境感知。通过上述方法,实现了对点云环视和俯视多角度的特征融合,能够显著提高特征的特征表达能力,进而提高语义分割、障碍物速度估计的准确性。
Description
技术领域
本发明涉及自动驾驶技术领域,具体涉及一种环境感知方法、计算机设备、计算机可读存储介质及车辆。
背景技术
在对车辆进行自动驾驶控制时通过会利用激光雷达等雷达设备采集车辆周围环境中的点云数据,根据点云数据感知环境中障碍物的语义、位置和运动信息等,再根据感知结果对车辆进行控制,以保证车辆安全。
传统的目标级感知方法仅能够处理特定类别的障碍物,比如机动车和行人等,而栅格级感知方法可以处理通用类别的障碍物,不局限于上述特定类别的障碍物。但是,目前的栅格级感知方法主要是直接在俯视图视角下进行点云特征编码,这导致空间语义特征的提取能力偏弱,无法获取准确的语义分割结果,进而导致场景理解能力有限,并间接导致障碍物速度估计精度偏低。如果基于上述感知结果进行车辆控制,可能会影响车辆安全。
相应地,本领域需要一种新的技术方案来解决上述问题。
发明内容
为了克服上述缺陷,提出了本发明,以提供解决或至少部分地解决如何基于三维点云数据准确获取语义、速度等环境感知信息的技术问题的环境感知方法、计算机设备、计算机可读存储介质及车辆。
在第一方面,提供一种环境感知方法,所述方法包括:
获取环境感知设备采集的三维点云,并将三维点云转换成环视图像;
提取所述环视图像的环视特征,并将所述环视特征反投影至三维点云上,以获取携带所述环视特征的高维特征点云;
获取所述高维特征点云的点云级别特征图,并对所述点云级别特征图进行栅格化处理,根据处理的结果获取俯视视角下的栅格级别特征图;
根据所述栅格级别特征图进行环境感知。
在上述环境感知方法的一个技术方案中,“根据处理的结果获取俯视视角下的栅格级别特征图”的步骤具体包括:
采用三维稀疏卷积网络,对栅格化处理后的点云级别特征图进行特征提取,以获取三维的栅格级别特征图;
对所述三维的栅格级别特征图进行俯视投影,以获取俯视视角下的栅格级别特征图。
在上述环境感知方法的一个技术方案中,“根据所述栅格级别特征图进行环境感知”的步骤具体包括:
获取连续多帧三维点云中每帧三维点云的栅格级别特征图,以形成栅格级别特征图时序序列;
根据所述栅格级别特征图时序序列进行环境感知。
在上述环境感知方法的一个技术方案中,在“根据所述栅格级别特征图时序序列进行环境感知”的步骤之前,所述方法还包括:
分别获取车辆在所述连续多帧三维点云中每帧三维点云的帧时刻的车辆位姿,其中,所述环境感知设备设置于所述车辆上;
根据各帧时刻的车辆位姿,分别获取所述车辆在不同帧时刻的车体坐标系之间的第一转换关系;
基于各帧时刻的栅格级别特征图的栅格坐标系与各帧时刻的车体坐标系之间的第二转换关系,并根据所述第一转换关系,分别将各帧时刻的栅格级别特征图转换至同一帧时刻的车体坐标系。
在上述环境感知方法的一个技术方案中,“根据所述栅格级别特征图时序序列进行环境感知”的步骤具体包括:
根据所述栅格级别特征图时序序列,获取各栅格级别特征图上各栅格的运动特征,所述运动特征包括栅格的位置和/或姿态;
对所述栅格级别特征图时序序列与所述运动特征进行融合;
对融合的结果进行环境感知。
在上述环境感知方法的一个技术方案中,“根据所述栅格级别特征图进行环境感知”的步骤还包括:
采用语义分割头,获取所述栅格级别特征图上各栅格的语义类别;
采用速度估计头,获取所述栅格级别特征图上各栅格的速度;
采用运动状态估计头,获取所述栅格级别特征图上各栅格的运动状态,所述运动状态包括静态和动态。
在上述环境感知方法的一个技术方案中,所述方法还包括:
获取语义类别所表示物体为静态物体的栅格,并将所述栅格的速度设定成零;
和/或,
根据所述运动状态,将静态栅格的速度设定成零。
在上述环境感知方法的一个技术方案中,“根据所述栅格级别特征图进行环境感知”的步骤还包括:
获取所述栅格级别特征图上各栅格的占据信息,所述占据信息包括被占据和空闲。
在第二方面,提供一种计算机设备,该计算机设备包括处理器和存储装置,所述存储装置适于存储多条程序代码,所述程序代码适于由所述处理器加载并运行以执行上述环境感知方法的技术方案中任一项技术方案所述的方法。
在第三方面,提供一种计算机可读存储介质,该计算机可读存储介质其中存储有多条程序代码,所述程序代码适于由处理器加载并运行以执行上述环境感知方法的技术方案中任一项技术方案所述的方法。
在第四方面,提供一种车辆,该车辆包括上述计算机设备的技术方案所述的计算机设备。
本发明上述一个或多个技术方案,至少具有如下一种或多种有益效果:
在实施本发明提供的环境感知方法的技术方案中,可以获取环境感知设备采集的三维点云并将三维点云转换成环视图像,进而提取环视图像的环视特征,并将环视特征反投影至三维点云上,以获取携带环视特征的高维特征点云,获取高维特征点云的点云级别特征图,并对点云级别特征图进行栅格化处理,根据处理的结果获取俯视视角下的栅格级别特征图,最后根据栅格级别特征图进行环境感知。通过上述方法,实现了对点云环视和俯视多角度的特征融合,能够显著提高特征的特征表达能力,进而提高语义分割的准确性以及障碍物速度估计的精度。
附图说明
参照附图,本发明的公开内容将变得更易理解。本领域技术人员容易理解的是:这些附图仅仅用于说明的目的,而并非意在对本发明的保护范围组成限制。其中:
图1是根据本发明的一个实施例的环境感知方法的主要步骤流程示意图;
图2是根据本发明的一个实施例的获取栅格级别特征图的方法的主要步骤流程示意图;
图3是根据本发明的一个实施例的根据栅格级别特征图进行环境感知的方法的主要步骤流程示意图;
图4是根据本发明的另一个实施例的根据栅格级别特征图进行环境感知的方法的主要步骤流程示意图;
图5是根据本发明的一个实施例的计算机设备的主要结构示意图。
具体实施方式
下面参照附图来描述本发明的一些实施方式。本领域技术人员应当理解的是,这些实施方式仅仅用于解释本发明的技术原理,并非旨在限制本发明的保护范围。
在本发明的描述中,“处理器”可以包括硬件、软件或者两者的组合。处理器可以是中央处理器、微处理器、图像处理器、数字信号处理器或者其他任何合适的处理器。处理器具有数据和/或信号处理功能。处理器可以以软件方式实现、硬件方式实现或者二者结合方式实现。计算机可读存储介质包括任何合适的可存储程序代码的介质,比如磁碟、硬盘、光碟、闪存、只读存储器、随机存取存储器等等。术语“A和/或B”表示所有可能的A与B的组合,比如只是A、只是B或者A和B。
本申请各实施例中可能涉及的相关用户个人信息,均为严格按照法律法规的要求,遵循合法、正当、必要的原则,基于业务场景的合理目的,处理用户在使用产品/服务过程中主动提供或因使用产品/服务而产生的,以及经用户授权获取的个人信息。
本申请处理的用户个人信息会因具体产品/服务场景而有所不同,需以用户使用产品/服务的具体场景为准,可能会涉及用户的账号信息、设备信息、驾驶信息、车辆信息或其他相关信息。本申请会以高度的勤勉义务对待用户的个人信息及其处理。
本申请非常重视用户个人信息的安全,已采取符合业界标准、合理可行的安全防护措施保护用户的信息,防止个人信息遭到未经授权访问、公开披露、使用、修改、损坏或丢失。
下面对本发明提供的环境感知方法的实施例进行说明。
参阅附图1,图1是根据本发明的一个实施例的环境感知方法的主要步骤流程示意图。如图1所示,本发明实施例中的环境感知方法主要包括下列步骤S101至步骤S104。
步骤S101:获取环境感知设备采集的三维点云,并将三维点云转换成环视图像。
环境感知设备为能够采集三维点云的设备,环境感知设备包括但不限于:激光雷达。三维点云的三维坐标系通常为环境感知设备的设备坐标系,如激光雷达坐标系。通过坐标系转换,可以将三维点云由设备坐标系转换至环视视角下,得到相应的环视图像。
在一些实施方式中,可以基于球面坐标系,将三维点云投影成一个二维图像,将这个二维图像作为环视图像。在本实施方式中可以采用点云处理技术领域中常规的球面投影方法,将三维点云通过球面投影转换成二维图像,本发明不对上述投影方法作具体限定,只要能够利用球面坐标系,将三维点云投影成二维图像即可。
步骤S102:提取环视图像的环视特征,并将环视特征反投影至三维点云上,以获取携带环视特征的高维特征点云。
具体地,可以采用预设的能够提取环视图像的特征的特征提取网络,来提取步骤S101得到的环视图像的环视特征。例如,可以采用二维卷积构建该特征提取网络。本发明实施例不对该特征提取网络的网络结构作具体限定,只要能够从环视图像上提取其特征作为环视特征即可。
环视图像为二维图像,相应的环视特征也为二维特征。通过坐标系转换,将环视特征由环视视角转换至三维点云的三维坐标系,从而将环视特征反投影至三维点云上。高维特征点云是指不仅包含点云自身的特征信息,还包含投影至其位置上的环视特征的点云。
步骤S103:获取高维特征点云的点云级别特征图,并对点云级别特征图进行栅格化处理,根据处理的结果获取俯视视角下的栅格级别特征图。
具体地,可以采用预设的能够提取点云特征的特征提取网络,来提取步骤S102得到的高维特征点云的特征图,作为点云级别特征图。
在得到点云级别特征图之后,可以采用点云处理技术领域中常规的栅格化处理方法对点云级别特征图进行栅格化处理,将点云级别特征图划分成多个栅格。栅格化处理之后的点云级别特征图的坐标系仍然为三维坐标系,将其由三维坐标系转换至俯视视角下,得到俯视视角下的栅格级别特征图。
步骤S104:根据栅格级别特征图进行环境感知。
具体地,可以根据环境感知的实际需求,将栅格级别特征图输入至预设的感知模型中进行环境感知,以获取满足实际需求的环境感知结果。例如,可以将栅格级别特征图输入至用于感知各栅格的语义的感知模型中,获取各栅格的语义类别。本发明实施例不对预设的感知模型的模型结构和训练方法作具体限定,只要其能够利用栅格级别特征图进行环境感知即可。
基于上述步骤S101至步骤S104所述的方法得到的栅格级别特征图同时涵盖了环视角度和俯视角度的特征信息,使得栅格级别特征图具备更强的特征信息表达能力,基于此对栅格级别特征图进行环境感知,能够显著提高环境感知的准确性,有利于得到更加准确的语义和障碍物速度等信息,进而提高车辆自动驾驶的可靠性与安全性。
下面对上述步骤S103和S104作进一步说明。
一、对步骤S103进行说明。
在上述步骤S103的一些实施方式中,可以通过图2所示的下列步骤S1031至步骤S1032,获取俯视视角下的栅格级别特征图。
步骤S1031:采用三维稀疏卷积网络,对栅格化处理后的点云级别特征图进行特征提取,以获取三维的栅格级别特征图。
三维稀疏卷积网络可以用于提取栅格化处理后的点云级别特征图的特征,该特征是三维的,将该特征作为栅格级别特征图。在本实施方式中可以采用常规的三维稀疏卷积网络进行特征提取,本实施方式不对三维稀疏卷积网络的网络结构作具体限定。
步骤S1032:对三维的栅格级别特征图进行俯视投影,以获取俯视视角下的栅格级别特征图。
在一些实施方式中可以采用俯视图卷积网络对三维的栅格级别特征图再次进行特征提取,将提取到的特征图作为俯视视角下的栅格级别特征图。在本实施方式中也可以采用常规的俯视图卷积网络进行特征提取,本实施方式不对俯视图卷积网络的网络结构作具体限定。
基于上述步骤S1031至步骤S1032所述的方法,可以从三维和二维这两个不同的角度综合获取栅格级别特征图,提高了栅格级别特征图的特征表达能力,从而提高根据栅格级别特征图进行环境感知的准确性。
二、对步骤S104进行说明。
在上述步骤S104的一些实施方式中,可以通过图3所示的下列步骤S1041至步骤S1042进行环境感知。
步骤S1041:获取连续多帧三维点云中每帧三维点云的栅格级别特征图,以形成栅格级别特征图时序序列。
具体地,通过一帧三维点云可以得到一个栅格级别特征图,通过多帧三维点云可以得到多个栅格级别特征图,按照三维点云的帧时刻的时间排列顺序,对多个栅格级别特征图进行排列,就可以得到栅格级别特征图时序序列。本领域技术人员可以根据实际需求灵活地设定栅格级别特征图时序序列中栅格级别特征图的数量。比如,一个栅格级别特征图时序序列可以包括10个栅格级别特征图。本发明实施例不对栅格级别特征图的数量作具体限定。
步骤S1042:根据栅格级别特征图时序序列进行环境感知。
栅格级别特征图时序序列能够体现栅格级别特征图的特征信息随时间的变化状态,相比于对单独的一个栅格级别特征图进行环境感知,对栅格级别特征图时序序列进行环境感知,能够考虑到特征信息的变化状态,得到更加准确的感知结果。
在一些实施方式中,可以获取预先设置好的能够对栅格级别特征图时序序列进行环境感知的感知模型,将栅格级别特征图时序序列输入到这个感知模型中,进行环境感知。本发明实施例不对预设的感知模型的模型结构和训练方法作具体限定,只要其能够利用栅格级别特征图时序序列进行环境感知即可。
基于上述步骤S1041至步骤S1042所述的方法,可以基于栅格级别特征图时序序列进行更加准确的环境感知。
下面对上述步骤S1042作进一步说明。
在上述步骤S1042的一些实施方式中,可以通过下列步骤11至步骤13,进行环境感知。
步骤11:根据栅格级别特征图时序序列,获取各栅格级别特征图上各栅格的运动特征,运动特征包括栅格的位置和/或姿态。
具体地,可以采用帧间差分法对相邻两帧三维点云对应的栅格级别特征图进行处理,以获取栅格级别特征图上各栅格的位置和/或姿态。在一些实施方式中,可以采用预设的能够执行上述操作的卷积网络,分别获取各栅格级别特征图上各栅格位置和/或姿态。本发明实施例不对上述卷积网络的网络结构作具体限定,只要其能够从栅格级别特征图时序序列上,获取到各栅格级别特征图上各栅格的位置和/或姿态即可。
步骤12:对栅格级别特征图时序序列与运动特征进行融合。
通过融合不仅可以使各栅格携带自身的特征信息,还可以携带各栅格的运动特征,提高了栅格级别特征图上各栅格的特征表达能力。
步骤13:对融合的结果进行环境感知。
由于融合的结果包含了栅格的运动特征,因此在对融合的结果进行环境感知时能够从栅格自身的特征信息与运动特征这两个角度综合地进行环境感知,进一步提高了环境感知的准确性。
基于上述步骤11至步骤13所述的方法,可以利用栅格级别特征图上各栅格自身的特征信息与额外获取的运动特征,获取到更加准确的环境感知结果。
在上述步骤S104的一些实施方式中,在执行步骤S1042之前,还可以通过下列步骤21至步骤22,对栅格级别特征图时序序列中各栅格级别特征图进行坐标系统一,以能够提高根据栅格级别特征图时序序列进行环境感知的准确性。
步骤21:分别获取车辆在连续多帧三维点云中每帧三维点云的帧时刻的车辆位姿,其中,环境感知设备设置于车辆上。
车辆位姿可以通过车载传感器获取,本发明对此不作具体限定,只要能够获取到准确的车辆位姿即可。
步骤22:根据各帧时刻的车辆位姿,分别获取车辆在不同帧时刻的车体坐标系之间的第一转换关系。
具体地,对于任意两个帧时刻,可以根据这两个帧时刻的车辆位姿,获取这两个帧时刻的相对车辆位姿,将这个相对车辆位姿作为这两个帧时刻的第一转换关系。
步骤23:基于各帧时刻的栅格级别特征图的栅格坐标系与各帧时刻的车体坐标系之间的第二转换关系,并根据第一转换关系,分别将各帧时刻的栅格级别特征图转换至同一帧时刻的车体坐标系。
具体地,先根据各帧时刻的栅格级别特征图的栅格坐标系与各帧时刻的车体坐标系之间的第二转换关系,将各帧时刻的栅格级别特征图转换至各帧时刻的车体坐标系下,再根据车辆在不同帧时刻的车体坐标系之间的第一转换关系,将各帧时刻的栅格级别特征图转换到同一个帧时刻的车体坐标系下,实现对各帧时刻的栅格级别特征图的车体坐标系的统一。例如,可以转换至栅格级别特征图时序序列中第1个帧时刻的车体坐标系下。
基于上述步骤21至步骤23所述的方法,可以消除在车辆运动过程中不同帧时刻的三维点云之间坐标系的差异,实现对栅格级别特征图时序序列中各栅格级别特征图的运动补偿,进一步提高了基于栅格级别特征图序列进行环境感知的准确性。
在上述步骤S104的一些实施方式中,还可以通过图4所示的下列步骤S1043至步骤S1045进行环境感知。
步骤S1043:采用语义分割头,获取栅格级别特征图上各栅格的语义类别。
语义分割头可以是基于卷积网络构建的能够根据栅格级别特征图进行语义分割的网络,将栅格级别特征图输入到语义分割头中,就可以得到栅格级别特征图上各栅格的语义类别。在本实施例中语义类别包括但不限于:车辆、行人、骑车人、路沿、灯杆和道路标识牌等。本发明实施例不对语义分割头的网络结构作具体限定,只要其能够从栅格级别特征图上识别出各栅格的语义类别即可。
步骤S1044:采用速度估计头,获取栅格级别特征图上各栅格的速度。
速度估计头也可以是基于卷积网络构建的能够根据栅格级别特征图进行栅格速度估计的网络,将栅格级别特征图输入到速度估计头中,就可以得到栅格级别特征图上各栅格的速度。进一步,获取障碍物所包含的栅格,就可以得到障碍物的速度。本发明实施例不对速度估计头的网络结构作具体限定,只要其能够从栅格级别特征图上识别出各栅格的速度即可。
步骤S1045:采用运动状态估计头,获取栅格级别特征图上各栅格的运动状态,运动状态包括静态和动态。
运动状态估计头也可以是基于卷积网络构建的能够根据栅格级别特征图进行栅格运动状态估计的网络,将栅格级别特征图输入到运动状态估计头中,就可以得到栅格级别特征图上各栅格的运动状态。进一步,获取障碍物所包含的栅格,就可以得到障碍物的运动状态。本发明实施例不对运动状态估计头的网络结构作具体限定,只要其能够从栅格级别特征图上识别出各栅格的运动状态即可。
基于上述步骤S1043至步骤S1045所述的方法,可以基于栅格级别特征图获取到栅格级别的语义类别、速度和运动状态,基于此能够准确得到各障碍物的语义类别、速度和运动状态。
进一步,在上述步骤S104的实施方式中,在通过步骤S1043获取到各栅格的语义类别之后,还可以获取语义类别所表示物体为静态物体的栅格,并将栅格的速度设定成零。静态物体是不会移动的,如果获取到其速度不为零,则表明发生了误识别,因此需要修正成零。在本实施例中静态物体包括但不限于:墙面、灯杆和道路标识牌等。
此外,在通过步骤S1045获取到各栅格的运动状态之后,还可以根据运动状态,将静态栅格的速度设定成零。类似的,静态栅格表明其是运动状态是静态的,是不会运动的,如果获取到其速度不为零,则表明发生了误识别,因此需要修正成零。
在上述步骤S104的一些实施方式中,还可以获取栅格级别特征图上各栅格的占据信息作为环境感知的结果,占据信息包括被占据和空闲。在本实施例中可以采用点云处理技术领域中常规的栅格占据分析方法,根据栅格内是否包含三维点云,来获取其占据信息。例如,若包含三维点云,则占据信息为被占据;否则,占据信息为空闲。本发明实施例不对上述方法作具体限定,只要能够获取到各栅格的占据信息即可。
需要指出的是,尽管上述实施例中将各个步骤按照特定的先后顺序进行了描述,但是本领域技术人员可以理解,为了实现本发明的效果,不同的步骤之间并非必须按照这样的顺序执行,其可以同时(并行)执行或以其他顺序执行,这些调整之后的方案与本发明中描述的技术方案属于等同技术方案,因此也将落入本发明的保护范围之内。
本领域技术人员能够理解的是,本发明实现上述一实施例的方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读存储介质可以包括:能够携带所述计算机程序代码的任何实体或装置、介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器、随机存取存储器、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读存储介质不包括电载波信号和电信信号。
进一步,本发明还提供了一种计算机设备。
参阅附图5,图5是根据本发明的一个计算机设备实施例的主要结构示意图。如图5所示,本发明实施例中的计算机设备主要包括存储装置和处理器,存储装置可以被配置成存储执行上述方法实施例的环境感知方法的程序,处理器可以被配置成用于执行存储装置中的程序,该程序包括但不限于执行上述方法实施例的环境感知方法的程序。为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例方法部分。
在本发明实施例中计算机设备可以是包括各种电子设备形成的控制装置设备。在一些可能的实施方式中,计算机设备可以包括多个存储装置和多个处理器。而执行上述方法实施例的环境感知方法的程序可以被分割成多段子程序,每段子程序分别可以由处理器加载并运行以执行上述方法实施例的环境感知方法的不同步骤。具体地,每段子程序可以分别存储在不同的存储装置中,每个处理器可以被配置成用于执行一个或多个存储装置中的程序,以共同实现上述方法实施例的环境感知方法,即每个处理器分别执行上述方法实施例的环境感知方法的不同步骤,来共同实现上述方法实施例的环境感知方法。
上述多个处理器可以是部署于同一个设备上的处理器,例如上述计算机设备可以是由多个处理器组成的高性能设备,上述多个处理器可以是该高性能设备上配置的处理器。此外,上述多个处理器也可以是部署于不同设备上的处理器,例如上述计算机设备可以是服务器集群,上述多个处理器可以是服务器集群中不同服务器上的处理器。
进一步,本发明还提供了一种计算机可读存储介质。
在根据本发明的一个计算机可读存储介质的实施例中,计算机可读存储介质可以被配置成存储执行上述方法实施例的环境感知方法的程序,该程序可以由处理器加载并运行以实现上述环境感知方法。为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例方法部分。该计算机可读存储介质可以是包括各种电子设备形成的存储装置设备,可选的,本发明实施例中计算机可读存储介质是非暂时性的计算机可读存储介质。
进一步,本发明还提供了一种车辆。
在根据本发明的一个车辆的实施例中,车辆可以包括上述计算机设备实施例所述的计算机设备。在本实施例中车辆可以是自动驾驶车辆、无人车等车辆。此外,按照动力源类型划分,本实施例中车辆可以是燃油车、电动车、电能与燃油混合的混动车或使用其他新能源的车辆等。
至此,已经结合附图所示的一个实施方式描述了本发明的技术方案,但是,本领域技术人员容易理解的是,本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
Claims (11)
1.一种环境感知方法,其特征在于,所述方法包括:
获取环境感知设备采集的三维点云,并将三维点云转换成环视图像;
提取所述环视图像的环视特征,并将所述环视特征反投影至三维点云上,以获取携带所述环视特征的高维特征点云;
获取所述高维特征点云的点云级别特征图,并对所述点云级别特征图进行栅格化处理,根据处理的结果获取俯视视角下的栅格级别特征图;
根据所述栅格级别特征图进行环境感知。
2.根据权利要求1所述的方法,其特征在于,“根据处理的结果获取俯视视角下的栅格级别特征图”的步骤具体包括:
采用三维稀疏卷积网络,对栅格化处理后的点云级别特征图进行特征提取,以获取三维的栅格级别特征图;
对所述三维的栅格级别特征图进行俯视投影,以获取俯视视角下的栅格级别特征图。
3.根据权利要求1所述的方法,其特征在于,“根据所述栅格级别特征图进行环境感知”的步骤具体包括:
获取连续多帧三维点云中每帧三维点云的栅格级别特征图,以形成栅格级别特征图时序序列;
根据所述栅格级别特征图时序序列进行环境感知。
4.根据权利要求3所述的方法,其特征在于,在“根据所述栅格级别特征图时序序列进行环境感知”的步骤之前,所述方法还包括:
分别获取车辆在所述连续多帧三维点云中每帧三维点云的帧时刻的车辆位姿,其中,所述环境感知设备设置于所述车辆上;
根据各帧时刻的车辆位姿,分别获取所述车辆在不同帧时刻的车体坐标系之间的第一转换关系;
基于各帧时刻的栅格级别特征图的栅格坐标系与各帧时刻的车体坐标系之间的第二转换关系,并根据所述第一转换关系,分别将各帧时刻的栅格级别特征图转换至同一帧时刻的车体坐标系。
5.根据权利要求3所述的方法,其特征在于,“根据所述栅格级别特征图时序序列进行环境感知”的步骤具体包括:
根据所述栅格级别特征图时序序列,获取各栅格级别特征图上各栅格的运动特征,所述运动特征包括栅格的位置和/或姿态;
对所述栅格级别特征图时序序列与所述运动特征进行融合;
对融合的结果进行环境感知。
6.根据权利要求1所述的方法,其特征在于,“根据所述栅格级别特征图进行环境感知”的步骤还包括:
采用语义分割头,获取所述栅格级别特征图上各栅格的语义类别;
采用速度估计头,获取所述栅格级别特征图上各栅格的速度;
采用运动状态估计头,获取所述栅格级别特征图上各栅格的运动状态,所述运动状态包括静态和动态。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
获取语义类别所表示物体为静态物体的栅格,并将所述栅格的速度设定成零;
和/或,
根据所述运动状态,将静态栅格的速度设定成零。
8.根据权利要求1所述的方法,其特征在于,“根据所述栅格级别特征图进行环境感知”的步骤还包括:
获取所述栅格级别特征图上各栅格的占据信息,所述占据信息包括被占据和空闲。
9.一种计算机设备,包括处理器和存储装置,所述存储装置适于存储多条程序代码,其特征在于,所述程序代码适于由所述处理器加载并运行以执行权利要求1至8中任一项所述的环境感知方法。
10.一种计算机可读存储介质,其中存储有多条程序代码,其特征在于,所述程序代码适于由处理器加载并运行以执行权利要求1至8中任一项所述的环境感知方法。
11.一种车辆,其特征在于,所述车辆包括权利要求9所述的计算机设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311056977.0A CN116758518B (zh) | 2023-08-22 | 2023-08-22 | 环境感知方法、计算机设备、计算机可读存储介质及车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311056977.0A CN116758518B (zh) | 2023-08-22 | 2023-08-22 | 环境感知方法、计算机设备、计算机可读存储介质及车辆 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116758518A true CN116758518A (zh) | 2023-09-15 |
CN116758518B CN116758518B (zh) | 2023-12-01 |
Family
ID=87950133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311056977.0A Active CN116758518B (zh) | 2023-08-22 | 2023-08-22 | 环境感知方法、计算机设备、计算机可读存储介质及车辆 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116758518B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117392181A (zh) * | 2023-12-13 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 运动信息的预测方法、计算机设备、存储介质及智能设备 |
CN117392393A (zh) * | 2023-12-13 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 点云语义分割方法、计算机设备、存储介质及智能设备 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170284293A1 (en) * | 2014-09-01 | 2017-10-05 | Reinz-Dichtungs-Gmbh | Heat shield and part shielded with such a heat shield |
US20180035606A1 (en) * | 2016-08-05 | 2018-02-08 | Romello Burdoucci | Smart Interactive and Autonomous Robotic Property Maintenance Apparatus, System, and Method |
WO2018223833A1 (zh) * | 2017-06-05 | 2018-12-13 | 上海交通大学 | 视频资源的处理方法及装置 |
CN111626217A (zh) * | 2020-05-28 | 2020-09-04 | 宁波博登智能科技有限责任公司 | 一种基于二维图片和三维点云融合的目标检测和追踪方法 |
CN112581612A (zh) * | 2020-11-17 | 2021-03-30 | 上汽大众汽车有限公司 | 基于激光雷达和环视摄像头融合的车载栅格地图生成方法及系统 |
CN113284163A (zh) * | 2021-05-12 | 2021-08-20 | 西安交通大学 | 基于车载激光雷达点云的三维目标自适应检测方法及系统 |
JP2021135192A (ja) * | 2020-02-27 | 2021-09-13 | 株式会社デンソー | 物体検知装置 |
CN114359744A (zh) * | 2021-12-07 | 2022-04-15 | 中山大学 | 一种基于激光雷达和事件相机融合的深度估计方法 |
CN115144868A (zh) * | 2022-06-27 | 2022-10-04 | 广州巨湾技研有限公司 | 一种适用于端到端自动驾驶的感知及导航定位融合的方法 |
CN115512044A (zh) * | 2022-09-22 | 2022-12-23 | 地平线(上海)人工智能技术有限公司 | 视觉感知方法、装置、可读存储介质及电子设备 |
CN115861962A (zh) * | 2022-11-15 | 2023-03-28 | 上海西井信息科技有限公司 | 点云过滤方法、装置、电子设备、存储介质 |
CN116452852A (zh) * | 2023-03-20 | 2023-07-18 | 华南理工大学 | 一种高精度矢量地图的自动生成方法 |
-
2023
- 2023-08-22 CN CN202311056977.0A patent/CN116758518B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170284293A1 (en) * | 2014-09-01 | 2017-10-05 | Reinz-Dichtungs-Gmbh | Heat shield and part shielded with such a heat shield |
US20180035606A1 (en) * | 2016-08-05 | 2018-02-08 | Romello Burdoucci | Smart Interactive and Autonomous Robotic Property Maintenance Apparatus, System, and Method |
WO2018223833A1 (zh) * | 2017-06-05 | 2018-12-13 | 上海交通大学 | 视频资源的处理方法及装置 |
JP2021135192A (ja) * | 2020-02-27 | 2021-09-13 | 株式会社デンソー | 物体検知装置 |
CN111626217A (zh) * | 2020-05-28 | 2020-09-04 | 宁波博登智能科技有限责任公司 | 一种基于二维图片和三维点云融合的目标检测和追踪方法 |
CN112581612A (zh) * | 2020-11-17 | 2021-03-30 | 上汽大众汽车有限公司 | 基于激光雷达和环视摄像头融合的车载栅格地图生成方法及系统 |
CN113284163A (zh) * | 2021-05-12 | 2021-08-20 | 西安交通大学 | 基于车载激光雷达点云的三维目标自适应检测方法及系统 |
CN114359744A (zh) * | 2021-12-07 | 2022-04-15 | 中山大学 | 一种基于激光雷达和事件相机融合的深度估计方法 |
CN115144868A (zh) * | 2022-06-27 | 2022-10-04 | 广州巨湾技研有限公司 | 一种适用于端到端自动驾驶的感知及导航定位融合的方法 |
CN115512044A (zh) * | 2022-09-22 | 2022-12-23 | 地平线(上海)人工智能技术有限公司 | 视觉感知方法、装置、可读存储介质及电子设备 |
CN115861962A (zh) * | 2022-11-15 | 2023-03-28 | 上海西井信息科技有限公司 | 点云过滤方法、装置、电子设备、存储介质 |
CN116452852A (zh) * | 2023-03-20 | 2023-07-18 | 华南理工大学 | 一种高精度矢量地图的自动生成方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117392181A (zh) * | 2023-12-13 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 运动信息的预测方法、计算机设备、存储介质及智能设备 |
CN117392393A (zh) * | 2023-12-13 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 点云语义分割方法、计算机设备、存储介质及智能设备 |
Also Published As
Publication number | Publication date |
---|---|
CN116758518B (zh) | 2023-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116758518B (zh) | 环境感知方法、计算机设备、计算机可读存储介质及车辆 | |
US11379699B2 (en) | Object detection method and apparatus for object detection | |
CN112419494B (zh) | 用于自动驾驶的障碍物检测、标记方法、设备及存储介质 | |
WO2020052678A1 (en) | Method and system for generating synthetic point cloud data using a generative model | |
EP3832260A1 (en) | Real-time generation of functional road maps | |
CN109118532B (zh) | 视觉景深估计方法、装置、设备及存储介质 | |
CN110060230B (zh) | 三维场景分析方法、装置、介质及设备 | |
Han et al. | Parking Space Recognition for Autonomous Valet Parking Using Height and Salient‐Line Probability Maps | |
CN111091023A (zh) | 一种车辆检测方法、装置及电子设备 | |
CN110348351B (zh) | 一种图像语义分割的方法、终端和可读存储介质 | |
CN111179331A (zh) | 深度估计方法、装置、电子设备及计算机可读存储介质 | |
CN115164919B (zh) | 基于双目相机的空间可行驶区域地图构建方法及装置 | |
CN112668596A (zh) | 三维物体识别方法及装置、识别模型训练方法及装置 | |
CN117173693B (zh) | 3d目标检测方法、电子设备、介质以及驾驶设备 | |
CN117197631B (zh) | 多模态传感器融合感知方法、计算机设备、介质及车辆 | |
CN116778170B (zh) | 点云全景分割方法、控制装置、可读存储介质及车辆 | |
CN114445648A (zh) | 障碍物识别方法、设备及存储介质 | |
CN117541796A (zh) | 点云语义分割方法、计算机设备、存储介质及智能设备 | |
CN116343158B (zh) | 车道线检测模型的训练方法、装置、设备及存储介质 | |
CN117784162B (zh) | 目标标注数据获取方法、目标跟踪方法、智能设备及介质 | |
CN117495847B (zh) | 路口检测方法、可读存储介质及智能设备 | |
CN117475092B (zh) | 位姿优化方法、设备、智能设备和介质 | |
CN117974426A (zh) | 一种数据增强方法、目标检测方法、设备及存储介质 | |
CN117935173A (zh) | 目标车辆的识别方法、场端服务器及可读存储介质 | |
CN117830411A (zh) | 跨模态定位方法、智能设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |