CN111754388A - 一种建图方法及车载终端 - Google Patents
一种建图方法及车载终端 Download PDFInfo
- Publication number
- CN111754388A CN111754388A CN201910244801.5A CN201910244801A CN111754388A CN 111754388 A CN111754388 A CN 111754388A CN 201910244801 A CN201910244801 A CN 201910244801A CN 111754388 A CN111754388 A CN 111754388A
- Authority
- CN
- China
- Prior art keywords
- sub
- map
- image
- images
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010276 construction Methods 0.000 title claims description 3
- 238000000034 method Methods 0.000 claims abstract description 39
- 230000008447 perception Effects 0.000 claims abstract description 38
- 238000005457 optimization Methods 0.000 claims description 27
- 238000013507 mapping Methods 0.000 claims description 25
- 238000012549 training Methods 0.000 claims description 21
- 238000013528 artificial neural network Methods 0.000 claims description 17
- 230000011218 segmentation Effects 0.000 claims description 14
- 238000013519 translation Methods 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 abstract description 13
- 238000001514 detection method Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 241000283070 Equus zebra Species 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/067—Reshaping or unfolding 3D tree structures onto 2D planes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/38—Registration of image sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明公开一种建图方法及车载终端,其中该方法包括:获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;根据所述俯视拼接图得到俯视感知图;从多个时刻分别对应的俯视感知图中确定关键帧;判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
Description
技术领域
本发明涉及自动驾驶领域,具体而言,涉及一种建图方法及车载终端。
背景技术
在地下地库的定位方案中,定位的结果需要基于全局;但是由于地下车库没有GPS信号,无法依靠GPS实时获得全局的位置信息。
在依靠里程计的方案中,无论是视觉里程计还是基于编码器或者IMU的里程计,无论精度做的多高,累计误差都无可避免。因此在室内定位(特别是在地库的定位需求中),高精度地图一直占据着非常重要的位置。车辆可以持续的依靠自己的观测和高精度地图进行匹配,以获得自己在地库中的全局位置。
在利用视觉建图的方案中,前视的建图方案是非常先进的一种。然而基于前视的建图方案有着高精度地图元素较为稀疏,对于里程计和匹配算法要求比较高,容易受遮挡影响的缺点。
发明内容
本发明提供一种建图方法及车载终端,用以克服现有技术中存在的至少一个问题。
根据本发明实施例的第一方面,提供一种建图方法,包括以下步骤:
获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;
根据所述俯视拼接图得到包含图像语义特征的俯视感知图;
基于所述图像语义特征从多个时刻分别对应的俯视感知图中确定关键帧;
判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
可选地,在将所述多张目标图像进行拼接以得到俯视拼接图之前,还包括:
对所述多张目标图像进行反畸变处理。
可选地,根据所述俯视拼接图中得到包含图像语义特征的俯视感知图,包括:
将所述俯视拼接图输入至预先训练好的神经网络分割模型进行识别,得到俯视感知图;
其中,所述神经网络分割模型通过以下方式得到:
构建训练样本集,所述训练样本集包括多组训练样本数据,每组所述训练样本数据包括俯视拼接样本图像和对应的标注有图像语义特征的俯视感知样本图像;
基于所述训练样本集对搭建的神经网络进行训练得到神经网络分割模型,所述神经网络分割模型使得每组所述训练样本数据中的俯视拼接样板图与对应的标注有图像语义特征的俯视感知样本图像相关联。
可选地,从多个时刻分别对应的俯视感知图中确定关键帧包括:根据当前帧与最近关键帧之间的距离和/或角度差确定关键帧。
可选地,上述建图方法通过以下公式判定某一时刻的俯视感知图是否为关键帧:
(Positioncurrent-PositionLast_KF)+α(Yawcurrent-YawLast_KF)>Threshould
其中,Positioncurrent为当前帧位置,Yawcurrent为当前帧角度;PositionLast_KF为最近关键帧的位置,YawLast_KF为最近关键帧角度,Threshould为预定阈值,α为将旋转角度和平移距离统一到同一量纲的权重。
可选地,所述方法还包括:
当所述关键帧中的某个像素点已经被建出时,获取所述关键帧附近预定数量的连续帧中的相应像素点对应的图像语义特征的类别和所述像素点在所述关键帧中的相对位置对应连续帧的的观测;
当所述像素点对应的图像语义特征的类别与连续帧中的相应像素点对应的图像语义特征的类别一致,且所述像素点在关键帧中的相对位置对应连续帧的观测在预定范围内时,将所述地图点加入地图。
可选地,所述的建图方法,还包括:
当一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;
当在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
可选地,将所述当前子图和所述其他子图进行匹配,实现全局优化包括:
提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;
将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;和/或,采用位姿图优化方法消除匹配的两张子图之间的误差。
根据本发明实施例的第二方面,提供一种车载终端,包括:
获取模块,用于获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;
感知确定模块,用于根据所述俯视拼接图得到包含图像语义特征的俯视感知图;
关键帧确定模块,用于基于所述图像语义特征从多个时刻分别对应的俯视感知图中确定关键帧;
地图点生成模块,用于判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
可选地,所述的车载终端,还包括:
目标物提取模块,用于在一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;
全局优化模块,用于在在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
可选地,所述的车载终端,全局优化模块用于:
提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;
将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;和/或,采用位姿图优化方法消除匹配的两张子图之间的误差。
本发明实施例通过先获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;根据所述俯视拼接图得到俯视感知图;从多个时刻分别对应的俯视感知图中确定关键帧;判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。与现有技术相比,可以在GPS信息缺失且不使用其他昂贵传感器的情况下提升建图精度。所建地图可以使得在地库场景下缺失GPS信息情况下的低成本高精度定位成为可能。
本发明实施例的创新点包括:
1、基于环视拼接图的建图方案将现实的3D世界进行降维,建出稠密而准确的地库地面元素,在地面平整的地库场景下非常切合;并且基于环视拼接建图的方案更为鲁棒,精确,能够给予之后的定位更多观测的优点,这是本发明实施例的创新点之一。
2、可以在GPS信息缺失且不使用其他成本较高的传感器的情况提升建图精度。所建地图可以使得在地库场景下缺失GPS信息情况下的低成本高精度定位成为可能,这是本发明实施例的创新点之一。
3、当在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,即,采用回环检测的方式来减少累计误差对于地图的影响,是本发明实施例的创新点之一。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一个实施例中的建图方法流程图;
图2为本发明另一个实施例的车载终端框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例及附图中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
本发明实施例公开了一种建图方法及车载终端。以下分别进行详细说明。
在本实施例中,可以通过即时定位与地图构建(Simultaneous localization andmapping,SLAM)技术,利用摄像头拍摄到的目标图像构建局部地图,该局部地图用于描述车辆的周围环境。基于SLAM技术,车载终端可以识别出目标图像中的特征点,并且使用这些特征点构建地图。也就是说,当建图时,车载终端可以在车辆不断行进的过程中,利用摄像头拍摄到的图像逐步描绘出车辆途经环境的地图。
图1为本发明一个实施例的建图方法流程图;其中,该方法应用于车载电脑、车载工业控制计算机(Industrial personal Computer,IPC)等车载终端,本发明实施例不做限定。上述的车载终端与车辆的各个传感器连接,接收并处理各个传感器采集到的数据。如图1所示,该建图方法包括以下步骤:
S101,获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图。
在一种实施方式中,可以利用分别安装在车辆前、后、左、右四个方向的鱼眼摄像头的环视方案,将同一时刻拍摄到的多张目标图像进行拼接,得到的俯视拼接图包含了以车辆为中心的360度俯视环视信息。可以一次性获得车辆周围各个方向的环境信息,从而可以利用单次采集得到的目标图像获得更完整的地图信息。
此外,如果用于拍摄目标图像的摄像头为上述的鱼眼摄像头,拼接之前,还需要对目标图像进行反畸变处理,即按照一定的映射规则,将鱼眼摄像头拍摄到的目标图像投影到地平面上,再对投影完成得到的图像进行拼接。
S102,根据所述俯视拼接图得到包含图像语义特征的俯视感知图。
在一种实施方式中,可以预先采用大量标注有图像语义特征的俯视拼接样本图像对神经网络分割模型进行训练。将拼接得到的俯视拼接图输入至训练好的神经网络分割模型,基于神经网络分割模型的识别结果,即可识别出俯视拼接图中的图像语义特征,这是本发明实施例的创新点之一。
在一种实现方式中,所述神经网络分割模型可以通过以下方式得到:
构建训练样本集,所述训练样本集包括多组训练样本数据,每组所述训练样本数据包括俯视拼接样本图像和对应的标注有图像语义特征的俯视感知样本图像;
基于所述训练样本集对搭建的神经网络进行训练得到神经网络分割模型,所述神经网络分割模型使得每组所述训练样本数据中的俯视拼接样板图与对应的标注有图像语义特征的俯视感知样本图像相关联。
在停车场的应用场景中,图像语义特征可以为车道线、停车库位线、库位点(库位线之间的交点)、斑马线、车道箭头等,模型输出的我们称之为俯视感知图。在识别俯视拼接图中的图像语义特征后,可以基于识别出的图像语义特征构建局部地图。
S103,基于所述图像语义特征从多个时刻分别对应的俯视感知图中确定关键帧。这一步骤也可以被称为“定位”。
开始建图时,系统将设定一个全局坐标系并基于俯视拼接图对车辆的位置进行追踪,得到的各个时刻的坐标对应俯视图会用来建图。系统会根据观测的情况和空间关系来判定某一时刻的俯视感知图是否为关键帧,根据空间关系判定某一时刻的俯视感知图是否为关键帧的公式如下:
(Positioncurrent-PositionLast_KF)+α(Yawcurrent-YawLast_KF)>Threshould
其中,Positioncurrent为当前帧位置,Yawcurrent为当前帧角度;PositionLast_KF为最近关键帧的位置,YawLast_KF为最近关键帧角度,Threshould为预定阈值,α为将旋转角度和平移距离统一到同一量纲的权重。
该公式的具体思想是:在观测足够的情况下,当为了实现当前帧和最近关键帧重合所需的平移距离和旋转角度大于预定阈值时,确定当前帧为关键帧。
S104,判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。这一步骤也可以被称为“局部建图”。
在一种实施方式中,当所述关键帧中的某个像素点已经被建出时,获取所述关键帧附近预定数量的连续帧中的相应像素点对应的图像语义特征的类别和述像素点在所述关键帧中的相对位置对应连续帧的的观测;当所述像素点对应的图像语义特征的类别与连续帧中的相应像素点对应的图像语义特征的类别一致,且所述像素点在关键帧中的相对位置对应连续帧的观测在预定范围内时,将所述地图点加入地图。
具体地,当一帧被判定为关键帧时,系统会判断每一个被识别的像素点是否被建出。如果没有,系统则生成一个新的地图点占据地图中的对应位置。每次根据新的关键帧生成地图点的时候都会做此判断避免同一个地方生成重复的地图点。每个地图点会根据连续帧的观测来计算类别和是否成熟。
举例说明,假设一个地图点在关键帧中被判定为车位线类别,其对应的地图点也被建立。该地图点会计算附近其他帧对于对应位置的观测是否一致,这里一致的定义涵盖两种:一是类别是否一致;二是该地图点的相对位置对应其他帧的观测是否在一定范围内。如果两项都被满足,则该地图点会被判定是成熟的并加入到地图中。具体地,地图点的类别可以包括:车道线,车位点,车位线,箭头,人行道等;地图点和物理世界的映射可以为:每一个地图点映射物理世界中一个2cm×2cm的方块。
可选地,所述的建图方法还包括:当一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;当在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
在一种实施方式中,将所述当前子图和所述其他子图进行匹配,实现全局优化包括:提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;和/或,采用位姿图优化方法消除匹配的两张子图之间的误差。
具体地,随着载体在地库中的形式,局部建图是基于视觉或者视觉融合其他传感器的里程计来进行的,则所建立的地图即使能够保证局部的精度,在长远看来也不可避免的会加入累计误差,此时我们就会用到回环检测的全局优化。
回环检测的定义为:当载体两次来到同一个位置时它行驶的轨迹会是一个回环,所以被称之为回环检测。当两次来到同一个位置被检测到时,定位的累计误差也能够被量化,通过计算全局优化一定程度上消除累计误差的影响。
回环的检测和局部建图是密不可分的,同属整个建图模块。如局部建图所提到的,地图的最基本元素是地图点。而地图点是根据某一个位置是否被其他地图点占有而判断是否要生成。一旦一个地图点成熟以后,这个地图点就会被加入到地图中。其中,每一个地图点都属于第一个观测到它的关键帧,每一个关键帧都属于一个子图,而子图会最终组成一个地图。
子图抽象信息提取可以是指:当一个子图被判定建图完成时,子图会分析其内部所有的地图点,针对不同的地图点来提取抽象信息。抽象信息具体包括:车道线的数学式表达,箭头的类别和中心,人行道的大小和中心。
车道线提取可以通过如下方式实现:
用多项式的形式来拟合车道线的点云。
箭头和人行道的中心可以通过如下方式提取:
用撒点展开或者聚类的方式将从属于不同箭头和人行道的点分类,再将同一类(同属于一个箭头或者或者人行道)点云求一个中心。
空间管理器可以包括:在一个地图中地图元素包括地图点,关键帧,子图,地图目标物。关键帧的中间点和地图目标物的中心都会被插入空间管理器,这里的空间管理器本质上由一个四叉树组成,同一层一个节点可以把一片空间分为四个空间。这样假设要搜索一块区域的目标物就不需要进行全局的遍历,只需要搜索附近的节点即可,对于不同的子图也可以根据其帧的分布划分子图的区域,以得到一个子图间的拓扑关系。
随着车辆的移动,定位模块会往局部建图模块不断的插入关键帧,每一个关键帧会被用来生成地图点然后插入子图中。当一个子图被判定为建设完毕后,子图会提取车道线,箭头和人行道等地图目标物,相应的信息会被插入空间管理器。当车子检测到自己当前子图和历史上其他子图有重叠部分,或者当前子图内的地图目标物距离别的子图的地图目标物距离小于一个阈值的时候,系统会认为可能发生了一个回环。随后将当前子图和所有可能与其有重叠部分的子图进行匹配。
匹配的方式分为三种,第一种是用特征点的方式。对于两张子图直接提取特征点然后进行匹配,算出两张子图的一个欧式关系。如果欧式关系计算成功,首先会判断欧式关系中的平移和旋转是否合理(因为累计误差应当在一个合理的范围内)。如果合理,将其中一张子图的地图点根据欧式关系投影到匹配上的子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率。当这个覆盖率满足要求后,我们需要判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致。
接下来,进行精配:如果依旧一致,则认为子图的匹配已经成功。然后将子图之间的欧式距离关系传递到关键帧,找出对应帧的匹配关系,为后续的全局优化做准备。
另一种匹配方式为位姿图优化:位姿图优化是比较常见的优化方案,由于里程计的累计误差的原因,当车体回到同一位置时,其轨迹往往不会是一个完整的环,由于之前所述的回环检测,我们将当前关键帧和之前的关键帧建立正确而准确的位姿关系,从而优化之前的轨迹,更新对应的地图点,从而达到消除里程计带来的累计误差的功能。
本发明实施例通过先获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;根据所述俯视拼接图得到俯视感知图;从多个时刻分别对应的俯视感知图中确定关键帧;判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。与现有技术相比,可以在GPS信息缺失且不使用其他昂贵传感器的情况提升建图精度。所建地图可以使得在地库场景下缺失GPS信息情况下的低成本高精度定位成为可能。
图2为本发明另一个实施例的车载终端框图。根据本发明实施例的车载终端20,包括:获取模块201,用于获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;感知确定模块202,用于根据所述俯视拼接图得到俯视感知图;关键帧确定模块203,用于从多个时刻分别对应的俯视感知图中确定关键帧;地图点生成模块204,用于判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
可选地,所述的车载终端,还包括:目标物提取模块,用于在一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;全局优化模块,用于在在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
可选地,所述的车载终端,全局优化模块用于:提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;或者,采用位姿图优化方法消除匹配的两张子图之间的误差。
本发明实施例通过先获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;根据所述俯视拼接图得到俯视感知图;从多个时刻分别对应的俯视感知图中确定关键帧;判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。与现有技术相比,可以在GPS信息缺失且不使用其他昂贵传感器的情况提升建图精度。所建地图可以使得在地库场景下缺失GPS信息情况下的低成本高精度定位成为可能。
本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。
Claims (10)
1.一种建图方法,其特征在于,包括以下步骤:
获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;
根据所述俯视拼接图得到包含图像语义特征的俯视感知图;
基于所述图像语义特征从多个时刻分别对应的俯视感知图中确定关键帧;
判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
2.根据权利要求1所述的建图方法,其特征在于,根据所述俯视拼接图中得到包含图像语义特征的俯视感知图,包括:
将所述俯视拼接图输入至预先训练好的神经网络分割模型进行识别,得到包含图像语义特征的俯视感知图;
其中,所述神经网络分割模型通过以下方式得到:
构建训练样本集,所述训练样本集包括多组训练样本数据,每组所述训练样本数据包括俯视拼接样本图像和对应的标注有图像语义特征的俯视感知样本图像;
基于所述训练样本集对搭建的神经网络进行训练得到神经网络分割模型,所述神经网络分割模型使得每组所述训练样本数据中的俯视拼接样板图与对应的标注有图像语义特征的俯视感知样本图像相关联。
3.根据权利要求1-2中任一项所述的建图方法,其特征在于,从多个时刻分别对应的俯视感知图中确定关键帧包括:根据当前帧与最近关键帧之间的距离和/或角度差确定关键帧。
4.根据权利要求3所述的建图方法,其特征在于,通过以下公式判定某一时刻的俯视感知图是否为关键帧:
(Positioncurrent-PositionLast_KF)+α(Yawcurrent-YawLast_KF)>Threshould
其中,Positioncurrent为当前帧位置,Yawcurrent为当前帧角度;PositionLast_KF为最近关键帧的位置,YawLast_KF为最近关键帧角度,Threshould为预定阈值,α为将旋转角度和平移距离统一到同一量纲的权重。
5.根据权利要求1-4中任一项所述的建图方法,其特征在于,所述方法还包括:
当所述关键帧中的某个像素点已经被建出时,获取所述关键帧附近预定数量的连续帧中的相应像素点对应的图像语义特征的类别和所述像素点在所述关键帧中的相对位置对应连续帧的观测;
当所述像素点对应的图像语义特征的类别与连续帧中的相应像素点对应的图像语义特征的类别一致,且所述像素点在关键帧中的相对位置对应连续帧的观测在预定范围内时,将所述地图点加入地图。
6.根据权利要求1-5中任一项所述的建图方法,其特征在于,还包括:
当一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;
当在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
7.根据权利要求1-6中任一项所述的建图方法,其特征在于,将所述当前子图和所述其他子图进行匹配,实现全局优化包括:
提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;
将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;和/或,采用位姿图优化方法消除匹配的两张子图之间的误差。
8.一种车载终端,其特征在于,包括:
获取模块,用于获取同一时刻车辆上不同位置的多个图像采集装置拍摄的多张目标图像,并将所述多张目标图像进行拼接以得到俯视拼接图;
感知确定模块,用于根据所述俯视拼接图得到包含图像语义特征的俯视感知图;
关键帧确定模块,用于基于所述图像语义特征从多个时刻分别对应的俯视感知图中确定关键帧;
地图点生成模块,用于判断所述关键帧中的每个像素点是否被建出;如果没有,则生成对应的地图点。
9.根据权利要求8中任一项所述的车载终端,其特征在于,还包括:
目标物提取模块,用于在一个子图被判定为建设完毕后,提取所述子图中的地图目标物,并将所述地图目标物插入空间管理器;
全局优化模块,用于在在空间管理器中检测到当前子图和其他子图有重叠部分,或者当前子图中的某一地图目标物距离其他子图中的某一地图目标物距离小于预定阈值时,将所述当前子图和所述其他子图进行匹配,实现全局优化。
10.根据权利要求8-9中任一项所述的车载终端,其特征在于,全局优化模块用于:
提取待匹配的两张子图中的相应特征点然后进行匹配;并算出两张子图的欧式关系;并判断欧式关系中的平移和旋转是否在预定范围内;如果在,则将其中一张子图的地图点根据欧式关系投影到另一子图,计算不同类别的地图点在两张子图重叠范围的地图点的覆盖率;当覆盖率满足要求后,判断两张子图重叠范围内车位点和地图目标物的中心分布是否一致;如果依旧一致,则判断两张子图匹配成功;
将子图之间的欧式距离关系传递到关键帧,并确定对应帧的匹配关系;和/或,采用位姿图优化方法消除匹配的两张子图之间的误差。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910244801.5A CN111754388B (zh) | 2019-03-28 | 2019-03-28 | 一种建图方法及车载终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910244801.5A CN111754388B (zh) | 2019-03-28 | 2019-03-28 | 一种建图方法及车载终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111754388A true CN111754388A (zh) | 2020-10-09 |
CN111754388B CN111754388B (zh) | 2024-06-18 |
Family
ID=72672460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910244801.5A Active CN111754388B (zh) | 2019-03-28 | 2019-03-28 | 一种建图方法及车载终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111754388B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112258391A (zh) * | 2020-10-12 | 2021-01-22 | 武汉中海庭数据技术有限公司 | 一种基于道路交通标线的碎片化地图拼接方法 |
CN112381726A (zh) * | 2020-10-29 | 2021-02-19 | 浙江吉利控股集团有限公司 | 一种地下车库全局图的构建方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017022033A1 (ja) * | 2015-07-31 | 2017-02-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
CN107833236A (zh) * | 2017-10-31 | 2018-03-23 | 中国科学院电子学研究所 | 一种动态环境下结合语义的视觉定位系统和方法 |
CN108108764A (zh) * | 2017-12-26 | 2018-06-01 | 东南大学 | 一种基于随机森林的视觉slam回环检测方法 |
CN108596974A (zh) * | 2018-04-04 | 2018-09-28 | 清华大学 | 动态场景机器人定位建图系统及方法 |
CN109118940A (zh) * | 2018-09-14 | 2019-01-01 | 杭州国辰机器人科技有限公司 | 一种基于地图拼接的移动机器人构图 |
US20190023266A1 (en) * | 2017-07-18 | 2019-01-24 | lvl5, Inc. | Stop Sign and Traffic Light Alert |
CN109509230A (zh) * | 2018-11-13 | 2019-03-22 | 武汉大学 | 一种应用于多镜头组合式全景相机的slam方法 |
CN110136058A (zh) * | 2018-10-25 | 2019-08-16 | 北京初速度科技有限公司 | 一种基于俯视拼接图的建图方法及车载终端 |
-
2019
- 2019-03-28 CN CN201910244801.5A patent/CN111754388B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017022033A1 (ja) * | 2015-07-31 | 2017-02-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US20190023266A1 (en) * | 2017-07-18 | 2019-01-24 | lvl5, Inc. | Stop Sign and Traffic Light Alert |
CN107833236A (zh) * | 2017-10-31 | 2018-03-23 | 中国科学院电子学研究所 | 一种动态环境下结合语义的视觉定位系统和方法 |
CN108108764A (zh) * | 2017-12-26 | 2018-06-01 | 东南大学 | 一种基于随机森林的视觉slam回环检测方法 |
CN108596974A (zh) * | 2018-04-04 | 2018-09-28 | 清华大学 | 动态场景机器人定位建图系统及方法 |
CN109118940A (zh) * | 2018-09-14 | 2019-01-01 | 杭州国辰机器人科技有限公司 | 一种基于地图拼接的移动机器人构图 |
CN110136058A (zh) * | 2018-10-25 | 2019-08-16 | 北京初速度科技有限公司 | 一种基于俯视拼接图的建图方法及车载终端 |
CN109509230A (zh) * | 2018-11-13 | 2019-03-22 | 武汉大学 | 一种应用于多镜头组合式全景相机的slam方法 |
Non-Patent Citations (2)
Title |
---|
张国良;姚二亮;林志林;徐慧;: "融合直接法与特征法的快速双目SLAM算法", 机器人, no. 06 * |
白云汉: "基于 SLAM 算法和深度神经网络的语义地图构建研究", 计算机应用与软件, vol. 35, no. 1, pages 183 - 186 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112258391A (zh) * | 2020-10-12 | 2021-01-22 | 武汉中海庭数据技术有限公司 | 一种基于道路交通标线的碎片化地图拼接方法 |
CN112381726A (zh) * | 2020-10-29 | 2021-02-19 | 浙江吉利控股集团有限公司 | 一种地下车库全局图的构建方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111754388B (zh) | 2024-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7485749B2 (ja) | ビデオベースの位置決め及びマッピングの方法及びシステム | |
CN109059954B (zh) | 支持高精度地图车道线实时融合更新的方法和系统 | |
AU2017300097B2 (en) | Crowdsourcing and distributing a sparse map, and lane measurements for autonomous vehicle navigation | |
Máttyus et al. | Hd maps: Fine-grained road segmentation by parsing ground and aerial images | |
Poggenhans et al. | Precise localization in high-definition road maps for urban regions | |
JP2019527832A (ja) | 正確な位置特定およびマッピングのためのシステムおよび方法 | |
CN114842438A (zh) | 用于自动驾驶汽车的地形检测方法、系统及可读存储介质 | |
CN111006655A (zh) | 机场巡检机器人多场景自主导航定位方法 | |
CN111169468A (zh) | 一种自动泊车的系统及方法 | |
CN111830953A (zh) | 车辆自定位方法、装置及系统 | |
CN110197173B (zh) | 一种基于双目视觉的路沿检测方法 | |
CN108428254A (zh) | 三维地图的构建方法及装置 | |
WO2011160672A1 (en) | Method for obtaining drivable road area | |
CN110705385B (zh) | 一种障碍物角度的检测方法、装置、设备及介质 | |
CN112257668A (zh) | 主辅路判断方法、装置、电子设备及存储介质 | |
CN117576652B (zh) | 道路对象的识别方法、装置和存储介质及电子设备 | |
CN114969221A (zh) | 一种更新地图的方法及相关设备 | |
CN114648551B (zh) | 轨迹预测方法及装置 | |
CN111754388B (zh) | 一种建图方法及车载终端 | |
Gökçe et al. | Recognition of dynamic objects from UGVs using Interconnected Neuralnetwork-based Computer Vision system | |
KR102316818B1 (ko) | 도로 네트워크를 갱신하는 방법 및 장치 | |
Zhao et al. | An ISVD and SFFSD-based vehicle ego-positioning method and its application on indoor parking guidance | |
CN115494845A (zh) | 基于深度相机的导航方法、装置、无人车及存储介质 | |
CN114782496A (zh) | 一种对象的跟踪方法、装置、存储介质及电子装置 | |
KR20220151572A (ko) | IPM 이미지와 정밀도로지도(HD Map) 피팅을 통해 노면객체의 변화를 자동으로 판단하고 갱신하는 정밀도로지도 자동갱신 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |