CN115683129B - 一种基于高清地图的长期重定位方法和装置 - Google Patents
一种基于高清地图的长期重定位方法和装置 Download PDFInfo
- Publication number
- CN115683129B CN115683129B CN202310006962.7A CN202310006962A CN115683129B CN 115683129 B CN115683129 B CN 115683129B CN 202310006962 A CN202310006962 A CN 202310006962A CN 115683129 B CN115683129 B CN 115683129B
- Authority
- CN
- China
- Prior art keywords
- point
- feature points
- semantic feature
- semantic
- definition map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 230000007774 longterm Effects 0.000 title claims abstract description 34
- 239000013598 vector Substances 0.000 claims abstract description 48
- 238000005457 optimization Methods 0.000 claims abstract description 7
- 238000005192 partition Methods 0.000 claims description 17
- 238000012795 verification Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 4
- 238000013139 quantization Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 abstract description 5
- 238000001514 detection method Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 201000011243 gastrointestinal stromal tumor Diseases 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000001932 seasonal effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- Navigation (AREA)
- Image Analysis (AREA)
Abstract
Description
技术领域
本发明涉及自动驾驶汽车的全局定位技术,尤其涉及一种基于高清地图的长期重定位方法和相关装置。
背景技术
高度准确和鲁棒的重定位或定位初始化能力对于自动驾驶汽车 (Autonomousvehicles,AV) 非常重要。传统的基于 GNSS 的方法在遮挡和多路径条件下不够可靠,极大地影响了自动驾驶汽车的定位性能。因此GPS信号失效时的无人驾驶汽车的全局定位问题不仅是国内外高校及科研院所的重点研究方向,也是该领域的行业痛点。
为了解决这个问题,通常使用基于视觉模板匹配的方法、基于激光雷达的方法、基于语义特征和高清地图的方法。
基于视觉模板匹配的方法通常提取局部特征描述符(例如 SIFT 、SURF 、ORB 、FAST 、BRISK 、BRIEF )或全局特征描述符(例如 HOG ,GIST ),并基于 Bag-of-Word(BoW) 或 VLAD 在数据库中找到与查询图像最相似的图像,以获得查询图像的全局位姿。然而,视觉特征描述符对光照、天气、季节、视点和外观变化具有较高的敏感性,这使得它们难以在长期动态自动驾驶场景中获得可靠的结果。
基于激光雷达的方法因为使用几何信息而对光照、天气和季节变化具有更强的鲁棒性,该方法通常基于传统或基于学习的方法提取局部描述符或全局描述符,然而由于缺乏语义特征容易出现漏检、误检的情况,而且对遮挡、旋转、结构变化和动态对象敏感。
上述基于视觉视觉模板匹配和基于激光雷达的方法分别需要大量存储空间来存储原始图像和点云,这对商业级 AV 来说是一个很大的挑战。
基于语义特征和高清地图的方法,主要是利用诸如道路线、红绿灯、标志和电线杆等广泛出现在城市道路上的语义特征,对光照、天气、季节和外观变化具有长期稳定和鲁棒性。现有基于语义特征和高清地图的定位方法,虽然可以实现准确和鲁棒的定位,但还是依赖于 GNSS 进行姿态初始化,同时计算量巨大且耗时。
发明内容
本发明的目的在于提供一种基于高清地图的长期重定位方法及装置,以解决当GPS信号丢失或不可靠时的无人驾驶汽车全局定位问题。
以下给出一个或多个方面的简要概述以提供对这些方面的基本理解。此概述不是所有构想到的方面的详尽综览,并且既非旨在指认出所有方面的关键性或决定性要素亦非试图界定任何或所有方面的范围。其唯一的目的是要以简化形式给出一个或多个方面的一些概念以为稍后给出的更加详细的描述之序。
根据本发明的第一方面,提供了一种基于高清地图的长期重定位方法,包括以下步骤:
S1、输入传感器数据和高清地图,所述传感器数据包括采集得到的图像数据和位置数据;
S2、从图像数据中检测出目标对象,并根据图像数据和位置数据获得目标对象的几何表示,所述几何表示包括目标对象的中心点坐标和单位方向向量,将被检测对象的语义标签及几何表示组成一个语义特征点以表示目标对象;
S4、进行位姿优化。
在一实施例中,所述S3具体包括:
S37、通过匹配一致性检查,在连续帧中的语义特征点和高清地图中的路标特征点之间构建最佳一致匹配。
在一实施例中,所述S33具体包括:
对角度空间进行分割并编码,将描述子中的中心点与邻居点的单位方向向量角度差,以及中心点的单位方向向量,用所处空间的编码进行表示。
在一实施例中,所述S33具体包括:
将0°~360°角度空间均匀分割为n份,每份用唯一的数字进行编码,将中心点与邻居点的相对角度关系,以及中心点的单位方向向量,按照其所属的分割空间,查表确定其编码,并通过对应数字进行表示。
在一实施例中,边匹配成功需满足以下条件:
在一实施例中,所述S35中的几何一致性验证包括:判断语义特征点是否满足以下条件,寻找最大几何一致集:
在一实施例中,所述几何一致性验证只在语义特征点构成的局部地图与高清地图中创建的对应网格分区及其相邻分区之间进行,所述对应网格分区为根据高清地图中与语义特征点匹配的路标特征点位置和局部地图的大小,创建的正方形2D网格分区,其边长为局部地图中语义特征之间的最大距离。
根据本发明的第二方面,提供了一种基于高清地图的长期重定位装置,包括:
输入模块,用于输入传感器数据和高清地图,所述传感器数据包括采集得到的图像数据和位置数据;
检测模块,从图像数据中检测出目标对象,并根据图像数据和位置数据获得目标对象的几何表示,所述几何表示包括目标对象的中心点坐标和单位方向向量,将被检测对象的语义标签及几何表示组成一个语义特征点以表示目标对象;
优化位姿模块,用于进行位姿优化。
根据本发明的第三方面,提供了一种装置,包括存储器和处理器;
所述存储器,用于存储计算机程序;
所述处理器,用于当执行所述计算机程序时,实现如第一方面任一项所述的基于高清地图的长期重定位方法。
本发明实施例的有益效果是:通过语义特征点表示检测出的目标对象,通过描述符对语义特征点之间的位置关系和方向向量关系进行编码,能够在不依赖于GNSS的条件下准确、鲁棒地实现长期重定位,并且在存储、计算和时间方面具有高效性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
在结合以下附图阅读本公开的实施例的详细描述之后,能够更好地理解本发明的上述特征和优点。在附图中,各组件不一定是按比例绘制,并且具有类似的相关特性或特征的组件可能具有相同或相近的附图标记。
图1是本申请方法实施例的方法流程图;
图2是本申请方法实施例的步骤S3具体方法流程图;
图3是空间编码部分示意图;
图4是本申请装置实施例的模块示意图。
具体实施方式
以下结合附图和具体实施例对本发明作详细描述。注意,以下结合附图和具体实施例描述的诸方面仅是示例性的,而不应被理解为对本发明的保护范围进行任何限制。
如图1所示,本申请实施例提供了一种基于高清地图的长期重定位方法,包括以下步骤:
S1、输入传感器数据和高清地图,传感器数据包括采集得到的图像数据和位置数据。例如,图像数据可以为RGB图像,其来源可以为相机等;位置数据可以为目标对象的3D位置,其来源可以为激光雷达等。
S2、从图像数据中检测出目标对象,并根据图像数据和位置数据获得目标对象的几何表示,所述几何表示包括目标对象的中心点坐标和单位方向向量,将被检测对象的语义标签及几何表示组成一个语义特征点以表示目标对象。
在本实施例中,选择道路线、道路标线、标杆、交通灯和标志作为被检测的目标对象。因为它们很容易检测、时常出现、储存效率高、且不易受到天气变化、光照变化、视角变化、外观变化的影响。此外,在本实施例中采用现有的yoloV5检测算法从RGB图像中检测出上述目标。以标杆为例,其语义标签为“标杆”,其中心点坐标为其与路面的接触点坐标,其单位方向向量指向其所在道路中道路线的方向。
S3、对语义特征点之间的相对位置关系采用描述符进行编码,通过相似度匹配,将语义特征点与高清地图中的路标特征点相关联。由于奇异性、错误和漏检特征以及通常出现的相似场景,数据关联成为长期重新定位的最具挑战性的问题之一。如图2所示,本方法通过以下步骤来解决相似关系的模糊性:
在本实施例中,采用对空间进行分割编码的方式来对角度进行量化,具体包括:对角度空间进行分割并编码,将描述子中的中心点与邻居点的单位方向向量角度差,以及中心点的单位方向向量,用所处空间的编码进行表示。
例如,可如图3所示,将0°~360°角度空间均匀分割为16份,每份用唯一的4位二进制数进行编码,将中心点与邻居点的相对角度关系,以及中心点的单位方向向量,按照其所属的分割空间,查表确定其编码,并通过对应数字进行表示。最终一个描述子可以采用浮点型数据和4位二进制字节表示为:
边匹配成功需满足以下条件:
为描述子对应的边的语义标签,为预设的边的长度差异阈值,为预设的单位方向向量角度差的差异阈值,为预设的单位方向向量差异阈值。上式的含义为,当两个边的语义信息相同,长度差异小于阈值,角度差的差异小于阈值,单位方向向量差异小于阈值时,判定为一对匹配成功的边。
S35、通过几何一致性验证,去除语义特征点中的异常点。由于语义特征的奇异性、错误和遗漏检测以及城市场景中常见的相似场景,匹配的语义特征对中必然存在一定数量的异常值。因此,异常点去除是长期语义重定位系统中最重要的组成部分之一。异常值去除过程的目标是找到最大几何一致集,局部成对几何一致性可定义如下:
优选地,为了减少一致性验证次数,可利用局部映射的原理,减少测试对的数量,由于语义特征点构成的局部地图明显小于高清地图,可以在高清地图中创建网格分区,上述几何一致性的验证只在局部地图与对应网格分区及其相邻分区之间进行。网格分区为根据高清地图中与语义特征点匹配的路标特征点位置和局部地图的大小创建的正方形2D网格分区,其边长为局部地图中语义特征之间的最大距离。
S36、通过语义跟踪,建立连续帧中的语义特征点之间的关联。该过程可表述为一个多阶图匹配问题,并需要考虑位置、大小和法线相似性。由于连续帧中的语义跟踪可能会产生错误匹配,本实施例中利用现有的 CLEAR(Consistent Lifting, Embedding andAlignment Rectification)算法来建立跨多个视图的语义特征之间的正确关联。
S37、通过匹配一致性检查,在连续帧中的语义特征点和高清地图中的路标特征点之间构建最佳一致匹配。可通过加权匹配度和设置置信度的方式构建最佳一致匹配。如果最佳感知语义特征的累积置信度远大于次优感知语义特征的累积置信度,则最佳感知特征将被视为路标特征点的匹配对。否则,被认为具有不确定匹配,并且可以给出与每个感知特征的匹配概率。
S4、进行位姿优化,即对汽车当前位置与姿态进行优化,达到高精度定位的效果。在本实施例中,采用现有的分级非凸性(GNC)算法来重新定位姿势,误差模型定义为语义特征与相应匹配语义特征地标之间的中心位置和单位方向向量的欧几里得距离。
如图4所示,本申请实施例还提供了一种基于高清地图的长期重定位装置,包括:
输入模块401,用于输入传感器数据和高清地图,所述传感器数据包括采集得到的图像数据和位置数据;
检测模块402,从图像数据中检测出目标对象,并根据图像数据和位置数据获得目标对象的几何表示,所述几何表示包括目标对象的中心点坐标和单位方向向量,将被检测对象的语义标签及几何表示组成一个语义特征点以表示目标对象;
优化位姿模块404,用于进行位姿优化。
容易理解地,本申请实施例还提供了一种基于高清地图的长期重定位系统,包括存储器和处理器。其中,存储器可用于存储指令、程序、代码、代码集或指令集。存储器可以包括存储程序区和存储数据区,其中存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令以及用于实现上述基于高清地图的长期重定位的方法的指令等;存储数据区可存储上述基于高清地图的长期重定位的方法中涉及到的数据等。
处理器可以包括一个或者多个处理核心。处理器通过运行或执行存储在存储器内的指令、程序、代码集或指令集,调用存储在存储器内的数据,执行本申请的各种功能和处理数据。处理器可以为特定用途集成电路、数字信号处理器、数字信号处理装置、可编程逻辑装置、现场可编程门阵列、中央处理器、控制器、微控制器和微处理器中的至少一种。可以理解地,对于不同的设备,用于实现上述处理器功能的电子器件还可以为其它,本申请实施例不作具体限定。
本申请实施例上述基于高清地图的长期重定位系统如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,ReadOnly Memory)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本发明实施例不限制于任何特定的硬件和软件结合。
相应地,本发明实施例还提供一种计算机存储介质,其中存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现本发明实施例的上述基于高清地图的长期重定位方法。
综上所述,本申请实施例所提供的基于高清地图的长期重定位方法和装置,通过构建描述符对语义特征点之间的位置和方向关系进行编码,并通过语音特征匹配方法和异常点去除方法,实现了准确、鲁棒的长期重定位。此外,通过投影、量化等步骤,减少了计算量和存储空间要求,从而使该方法更适用于商业级自动驾驶汽车。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
提供对本公开的先前描述是为使得本领域任何技术人员皆能够制作或使用本公开。对本公开的各种修改对本领域技术人员来说都将是显而易见的,且本文中所定义的普适原理可被应用到其他变体而不会脱离本公开的精神或范围。由此,本公开并非旨在被限定于本文中所描述的示例和设计,而是应被授予与本文中所公开的原理和新颖性特征相一致的最广范围。
以上所述仅为本申请的较佳实例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (8)
1.一种基于高清地图的长期重定位方法,其特征在于,包括以下步骤:
S1、输入传感器数据和高清地图,所述传感器数据包括采集得到的图像数据和位置数据;
S2、从图像数据中检测出目标对象,并根据图像数据和位置数据获得目标对象的几何表示,所述几何表示包括目标对象的中心点坐标和单位方向向量,将被检测对象的语义标签及几何表示组成一个语义特征点 以表示目标对象;
所述S3具体包括:
S37、通过匹配一致性检查,在连续帧中的语义特征点和高清地图中的路标特征点之间构建最佳一致匹配;
S4、进行位姿优化。
2.根据权利要求1所述的基于高清地图的长期重定位方法,其特征在于,所述S33具体包括:
对角度空间进行分割并编码,将描述子中的中心点与邻居点的单位方向向量角度差,以及中心点的单位方向向量,用所处空间的编码进行表示。
3.根据权利要求2所述的基于高清地图的长期重定位方法,其特征在于,所述S33具体包括:
将0°~360°角度空间均匀分割为n份,每份用唯一的数字进行编码,将中心点与邻居点的相对角度关系,以及中心点的单位方向向量,按照其所属的分割空间,查表确定其编码,并通过对应数字进行表示。
7.根据权利要求6所述的基于高清地图的长期重定位方法,其特征在于,
所述几何一致性验证只在语义特征点构成的局部地图与高清地图中创建的对应网格分区及其相邻分区之间进行,所述对应网格分区为根据高清地图中与语义特征点匹配的路标特征点位置和局部地图的大小,创建的正方形2D网格分区,其边长为局部地图中语义特征之间的最大距离。
8.一种基于高清地图的长期重定位装置,其特征在于,包括存储器和处理器;
所述存储器,用于存储计算机程序;
所述处理器,用于当执行所述计算机程序时,实现如权利要求1至7中任一项所述的基于高清地图的长期重定位方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310006962.7A CN115683129B (zh) | 2023-01-04 | 2023-01-04 | 一种基于高清地图的长期重定位方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310006962.7A CN115683129B (zh) | 2023-01-04 | 2023-01-04 | 一种基于高清地图的长期重定位方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115683129A CN115683129A (zh) | 2023-02-03 |
CN115683129B true CN115683129B (zh) | 2023-03-14 |
Family
ID=85057526
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310006962.7A Active CN115683129B (zh) | 2023-01-04 | 2023-01-04 | 一种基于高清地图的长期重定位方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115683129B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116012497B (zh) * | 2023-03-29 | 2023-05-30 | 腾讯科技(深圳)有限公司 | 动画重定向方法、装置、设备及介质 |
CN116105603B (zh) * | 2023-04-13 | 2023-09-19 | 安徽蔚来智驾科技有限公司 | 用于确定移动物体在场所中的位置的方法及系统 |
CN118037837A (zh) * | 2024-02-05 | 2024-05-14 | 北京集度科技有限公司 | 车辆定位、智能驾驶控制方法、装置、车载设备及车辆 |
CN117807252B (zh) * | 2024-02-29 | 2024-04-30 | 创意信息技术股份有限公司 | 一种基于知识图谱的数据处理方法、装置、系统及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105427317B (zh) * | 2015-11-25 | 2017-03-29 | 武汉大学 | 一种适用于多视角自动化配准多站地面激光点云数据的方法 |
CN111931589B (zh) * | 2020-07-15 | 2024-06-21 | 京东科技信息技术有限公司 | 机器人的重定位方法及装置、存储介质、电子设备 |
CN112767485B (zh) * | 2021-01-26 | 2023-07-07 | 哈尔滨工业大学(深圳) | 一种基于静态语义信息的点云地图创建与场景辨识方法 |
CN113034584B (zh) * | 2021-04-16 | 2022-08-30 | 广东工业大学 | 一种基于物体语义路标的移动机器人视觉定位方法 |
CN114088099B (zh) * | 2021-11-18 | 2024-06-25 | 北京易航远智科技有限公司 | 基于已知地图的语义重定位方法、装置、电子设备及介质 |
CN115330861A (zh) * | 2022-07-11 | 2022-11-11 | 东北大学 | 基于物体平面共同表示和语义描述符匹配的重定位算法 |
-
2023
- 2023-01-04 CN CN202310006962.7A patent/CN115683129B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN115683129A (zh) | 2023-02-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115683129B (zh) | 一种基于高清地图的长期重定位方法和装置 | |
CN109858361B (zh) | 基于街景图像匹配重复结构建筑的定位方法 | |
Schönberger et al. | Semantic visual localization | |
Baatz et al. | Large scale visual geo-localization of images in mountainous terrain | |
Baatz et al. | Leveraging 3D city models for rotation invariant place-of-interest recognition | |
US10867189B2 (en) | Systems and methods for lane-marker detection | |
Irschara et al. | From structure-from-motion point clouds to fast location recognition | |
CN111046125A (zh) | 一种视觉定位方法、系统及计算机可读存储介质 | |
Lee et al. | Place recognition using straight lines for vision-based SLAM | |
CN103440318A (zh) | 移动终端的景观识别系统 | |
Tran et al. | On-device scalable image-based localization via prioritized cascade search and fast one-many ransac | |
Mousavian et al. | Semantic image based geolocation given a map | |
Xin et al. | A review of visual-based localization | |
Sadeghi et al. | 2DTriPnP: A robust two-dimensional method for fine visual localization using Google streetview database | |
Zhu et al. | A review of 6d object pose estimation | |
Cieslewski et al. | Matching features without descriptors: implicitly matched interest points | |
Ji et al. | An evaluation of conventional and deep learning‐based image‐matching methods on diverse datasets | |
Li et al. | Image‐Based Indoor Localization Using Smartphone Camera | |
Wang et al. | LTSR: Long-term semantic relocalization based on HD map for autonomous vehicles | |
Li et al. | TextSLAM: Visual SLAM With Semantic Planar Text Features | |
Yue et al. | Automatic vocabulary and graph verification for accurate loop closure detection | |
She et al. | Image patch-matching with graph-based learning in street scenes | |
US20230306637A1 (en) | Machine learning based image calibration using dense fields | |
Ryohei et al. | Invariant spatial information for loop-closure detection | |
Hofstetter et al. | Reliable data association for feature-based vehicle localization using geometric hashing methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |