CN114088099A - 基于已知地图的语义重定位方法、装置、电子设备及介质 - Google Patents
基于已知地图的语义重定位方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN114088099A CN114088099A CN202111368715.9A CN202111368715A CN114088099A CN 114088099 A CN114088099 A CN 114088099A CN 202111368715 A CN202111368715 A CN 202111368715A CN 114088099 A CN114088099 A CN 114088099A
- Authority
- CN
- China
- Prior art keywords
- map
- semantic
- objects
- sub
- known map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000004364 calculation method Methods 0.000 claims abstract description 18
- 238000013507 mapping Methods 0.000 claims description 32
- 239000013598 vector Substances 0.000 claims description 23
- 230000011218 segmentation Effects 0.000 claims description 20
- 238000004422 calculation algorithm Methods 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 15
- 238000011156 evaluation Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 12
- 238000012216 screening Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000007613 environmental effect Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000011166 aliquoting Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000005034 decoration Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000010813 municipal solid waste Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Automation & Control Theory (AREA)
- Processing Or Creating Images (AREA)
- Navigation (AREA)
Abstract
本申请涉及基于已知地图的语义重定位方法、装置、电子设备及介质,涉及自动驾驶技术和机器人技术领域。方法包括:根据当前传感器获取到的点云数据建立子地图;提取子地图中的至少一个第一对象,建立每个第一对象的描述子;提取获取到的已知地图中的至少一个第二对象,建立每个第二对象的描述子;将每个第一对象的描述子与每个第二对象的描述子进行相似度计算;在所有第二对象中确定相似度最高的第二对象作为配准对象;根据配准对象在已知地图中的位姿以及当前传感器在子地图中的位姿,生成载具在已知地图中的位姿。本申请提高了重定位的准确度。
Description
技术领域
本申请涉及自动驾驶技术和机器人技术领域,尤其是涉及基于已知地图的语义重定位方法、装置、电子设备及介质。
背景技术
自动驾驶车辆或移动机器人实现自主定位,需要自动驾驶车辆或移动机器人作为载具,在载具上安装激光雷达、摄像头等传感器来进行建图(Mapping)和定位(Localization),该过程称为SLAM(Simultaneous Localization and Mapping)技术。首先,根据传感器提供的环境信息建立地图。地图的类型有多种,一般为2D栅格地图、3D栅格地图、2D点云地图、3D点云地图、几何拓扑地图等;然后,使用建立好的已知地图,通过当前实时采集的传感器数据,确定载具在已知地图中的位置和姿态,实现实时定位。
在已知地图上实现定位,首先需要提供载具的初始位置和姿态,通常情况下载具的初始位置和姿态是未知的,在没有人工和外部设备帮助的情况下,需要通过传感器采集的环境信息自主进行位置和姿态判断,这一过程叫做重定位技术或重定位功能。重定位之后得到了载具的初始位置和姿态,在此基础上开始在已知地图上实时定位。除了定位初始时使用重定位功能,在载具行驶的过程中也可能使用到重定位,比如在场景退化导致的定位丢失之后,需要重定位来再次找回载具的位置和姿态,恢复定位。
相关技术中,《Scan Context:Egocentric Spatial Descriptor for PlaceRecognition within 3D Point Cloud Map》发表了一篇《一种基于3D点云的场景识别技术》,该技术将3D点云投影到XY平面,以激光雷达为中心建立Scan Context作为关键帧的描述子(descriptor),以Scan Context的RingKey为节点建立k-dimensional树(KD-tree)以便后续快速搜索。当设备回到历史某一时刻的坐标位置时,根据当前的Scan Context的RingKey在KD-tree中快速搜索出多个候选帧,通过旋转的方式进行Scan Context之间的匹配,若最高的匹配相似度大于预设值,则认为检测到回环,最后将匹配的位姿信息发送给后端。
基于Scan-Context,虽然可以对历史描述子进行快速匹配,完成一部分重定位的功能,但是该技术不具备平移不变性,通过旋转的方式进行Scan Context匹配只能计算出两帧之间设备的旋转角度,并不能计算出设备在x和y方向的偏移,载具在相同场景的不同位置很难重识别成功,造成重定位的不准确。
发明内容
为了提高重定位的准确度,本申请提供基于已知地图的语义重定位方法、装置、电子设备及介质。
第一方面,本申请提供一种基于已知地图的语义重定位方法,采用如下的技术方案:一种基于已知地图的语义重定位方法,包括:
根据当前传感器获取到的点云数据建立子地图;
提取所述子地图中的至少一个所述第一对象,建立每个所述第一对象的描述子;
提取获取到的已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子;
将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算;
在所有所述第二对象中确定相似度最高的所述第二对象作为配准对象;
根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成所述载具在所述已知地图中的位姿。
通过采用上述技术方案,在子地图中提取环境中的第一对象并建立每个第一对象的描述子,在已知地图中的环境中提取第二对象并建立第二对象的描述子,将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算,确定与第一对象相似度最高的配准对象,则说明载具已行驶至已知地图相应的已知区域(配准对象在已知地图中的区域),此时,只需要确定载具/当前传感器在子地图中的位姿,即可确定载具/传感器在已知地图中的位姿,且在同一场景中能够识别出载具/传感器在该场景下的不同位置,即实现了重定位。本申请无需依赖外部定位传感器(如GPS和RTK等),只需要根据当前传感器采集行驶环境的3D点云数据,即可实现载具在已知地图中的重定位;且通过在载具移动过程中,通过当前传感器采集可行驶区域的3D点云数据,可充分采集环境信息,使得重定位准确度更高。
在另一种可能的实现方式中,所述根据当前传感器获取到的点云数据,并建立所述子地图,包括:
根据所述当前传感器采集到的点云数据生成可行驶区域;
根据所述当前传感器在所述可行驶区域内获取的点云数据,并建立所述子地图。
在另一种可能的实现方式中,所述根据所述当前传感器采集到的点云数据生成可行驶区域,包括:
根据所述当前传感器采集到的3D点云数据生成2D栅格地图;
根据泛洪算法在所述2D栅格地图中生成所述可行驶区域。
在另一种可能的实现方式中,所述提取获取到的所述已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子,包括:
提取所述已知地图的语义对象;
基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象;
以所述第二对象为中心建立所述第二对象的描述子。
在另一种可能的实现方式中,所述提取所述已知地图的语义对象,包括:
将所述已知地图的建图轨迹离散为里程点;
以每个所述里程点为中心,在所述已知地图的点云中进行点云分割,以生成分割点云;
基于语义分割网络生成每个所述分割点云中每个点的语义标签;
根据所述每个点的语义标签识别所述已知地图中的语义对象。
在另一种可能的实现方式中,所述根据每个点的语义标签识别已知地图中的语义对象,之后还包括:
若任一语义对象对应范围内带有其他标签的点的数量大于数量阈值,则剔除所述语义对象对应的语义标签。
在另一种可能的实现方式中,所述根据每个点的语义标签识别已知地图中的语义对象,之后还包括:
剔除所有所述语义对象中的动态对象。
在另一种可能的实现方式中,所述基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象,包括:
获取所述已知地图的建图轨迹对应的里程点,以及每个所述语义对象在每个里程点中的出现频次;
确定每个语义对象的可用性评估值、分布平均值和标准差;
基于所述每个语义对象的可用性评估值、分布平均值和标准差确定每个所述语义对象的分数;基于所述每个语义对象的分数确定至少一个所述第二对象。
在另一种可能的实现方式中,根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成载具在所述已知地图中的位姿,包括:
根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合;
对位姿集合进行聚类生成偏移位姿;
根据偏移位姿以及所述当前传感器与载具的位置关系,生成所述载具在所述已知地图中的位姿。
在另一种可能的实现方式中,所述根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合,包括:
确定单个所述配准对象在所述已知地图坐标系中的第一坐标;
确定与所述配准对象对应的所述第一对象在所述子地图坐标系的第二坐标;
基于所述第一坐标、所述第二坐标以及所述当前传感器在所述子地图中的位姿确定所述当前传感器在所述已知地图中的候选位姿;
根据所有所述候选位姿生成位姿集合。
在另一种可能的实现方式中,所述第二对象中确定相似度最高的所述第二对象作为配准对象之前,还包括:生成所述第二对象的描述子的环特征向量,根据所述环特征向量构建多维树结构。
第二方面,本申请提供一种基于已知地图的语义重定位装置,采用如下的技术方案:一种基于已知地图的语义重定位装置,包括:
子地图建立模块,用于根据当前传感器获取到的点云数据建立子地图;
第一对象提取模块,用于提取所述子地图中的至少一个所述第一对象,建立每个所述第一对象的描述;
第二对象提取模块,用于提取获取到的已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子;
相似度计算模块,用于将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算;
确定模块,用于在所有所述第二对象中确定相似度最高的所述第二对象作为配准对象;
重定位模块,用于根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成所述载具在所述已知地图中的位姿。
在另一种可能的实现方式中,子地图建立模块在所述根据当前传感器获取到的点云数据,并建立所述子地图时,具体用于:
根据所述当前传感器采集到的点云数据生成可行驶区域;
根据所述当前传感器在所述可行驶区域内获取的点云数据,并建立所述子地图。
在另一种可能的实现方式中,所述子地图建立模块在根据所述当前传感器采集到的点云数据生成可行驶区域时,具体用于:
根据所述当前传感器采集到的3D点云数据生成2D栅格地图;
根据泛洪算法在所述2D栅格地图中生成所述可行驶区域。
在另一种可能的实现方式中,所述第二对象提取模块所述提取获取到的所述已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子时,具体用于:
提取所述已知地图的语义对象;
基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象;
以所述第二对象为中心建立所述第二对象的描述子。
在另一种可能的实现方式中,所述第二对象提取模块在所述提取所述已知地图的语义对象时,具体用于:
将所述已知地图的建图轨迹离散为里程点;
以每个所述里程点为中心,在所述已知地图的点云中进行点云分割,以生成分割点云;
基于语义分割网络生成每个所述分割点云中每个点的语义标签;
根据所述每个点的语义标签识别所述已知地图中的语义对象。
在另一种可能的实现方式中,所述第二对象提取模块还包括剔除模块,所述剔除模块,用于:在所述根据每个点的语义标签识别已知地图中的语义对象之后,若任一语义对象对应范围内带有其他标签的点的数量大于数量阈值,则剔除所述语义对象对应的语义标签。
在另一种可能的实现方式中,所述剔除模块在所述根据每个点的语义标签识别已知地图中的语义对象,之后还用于:
剔除所有所述语义对象中的动态对象。
在另一种可能的实现方式中,所述第二对象提取模块在基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象,包括:
获取所述已知地图的建图轨迹对应的里程点,以及每个所述语义对象在每个里程点中的出现频次;
确定每个语义对象的可用性评估值、分布平均值和标准差;
基于所述每个语义对象的可用性评估值、分布平均值和标准差确定每个所述语义对象的分数;基于所述每个语义对象的分数确定至少一个所述第二对象。
在另一种可能的实现方式中,所述重定位模块在根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成载具在所述已知地图中的位姿,时,具体用于:
根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合;
对位姿集合进行聚类生成偏移位姿;
根据偏移位姿以及所述当前传感器与载具的位置关系,生成所述载具在所述已知地图中的位姿。
在另一种可能的实现方式中,所述重定位模块在根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合时,具体用于:
确定单个所述配准对象在所述已知地图坐标系中的第一坐标;
确定与所述配准对象对应的所述第一对象在所述子地图坐标系的第二坐标;
基于所述第一坐标、所述第二坐标以及所述当前传感器在所述子地图中的位姿确定所述当前传感器在所述已知地图中的候选位姿;
根据所有所述候选位姿生成位姿集合。
在另一种可能的实现方式中,所述装置还包括搜索模块,所述在搜索模块用于:第二对象中确定相似度最高的所述第二对象作为配准对象之前,生成所述第二对象的描述子的环特征向量,根据所述环特征向量构建多维树结构。
第三方面,本申请提供一种电子设备,采用如下的技术方案:
一种电子设备,该电子设备包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,所述一个或多个应用程序配置用于:执行上述一种基于已知地图的语义重定位方法。
第四方面,本申请提供一种计算机可读存储介质,采用如下的技术方案:
一种计算机可读存储介质,包括:存储有能够被处理器加载并执行上述一种基于已知地图的语义重定位方法的计算机程序。
综上所述,本申请包括以下至少有益技术效果:
在子地图中提取环境中的第一对象并建立每个第一对象的描述子,在已知地图中的环境中提取第二对象并建立第二对象的描述子,将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算,在所有第二对象中确定与第一对象相似度最高的配准对象,则说明载具已行驶至已知地图相应的已知区域(配准对象在已知地图中的区域),此时,只需要确定载具/当前传感器在子地图中的位姿,即可确定载具/传感器在已知地图中的位姿,且在同一场景中能够识别出载具/传感器在该场景下的不同位置,即实现了重定位。本申请无需依赖外部定位传感器(如GPS和RTK等),只需要根据当前传感器采集行驶环境的3D点云数据,即可实现载具在已知地图中的重定位;且通过在载具移动过程中,通过当前传感器采集可行驶区域的3D点云数据,可充分采集环境信息,使得重定位准确度更高。
附图说明
图1是本申请实施例基于已知地图的语义重定位方法的流程示意图;
图2是本申请实施例可行驶区域的示意图;
图3是本申请实施例频次分布直方图;
图4是本申请实施例确定第二对象的描述子的示意图;
图5是本申请实施例根据每个配准对象的描述子以及当前传感器在子地图中的位姿确定位姿集合;
图6是本申请实施例基于已知地图的语义重定位装置的方框示意图;
图7是本申请实施例电子设备的示意图。
具体实施方式
以下结合附图1-7对本申请作进一步详细说明。
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,如无特殊说明,一般表示前后关联对象是一种“或”的关系。
为了方便理解本申请提出的技术方案,首先在此介绍本申请描述中会引入的几个要素。应理解的是,以下介绍仅方便理解这些要素,以期理解本申请实施例的内容,并非一定涵盖所有可能的情况。
(1)帧:当前传感器的数据以帧的形式读取,每一帧为某一时刻下的一包完整的传感器数据,帧发送接受频率是由载具所使用的系统决定的;
(3)语义对象的描述子:以语义对象为中心,对周围点云类别和分布进行表示的一种形式,是指语义对象的朝向和周围像素信息。
(4)环特征向量:将对象的描述子按行求均值得到的列向量;
(5)多维树结构:以环特征向量为节点构建的多维树结构,可以加速候选ObjectScan Context的搜索;
(6)坐标系:本技术使用了直角坐标系和极坐标系,直角坐标系为笛卡尔直角坐标系右手系(向前为X轴,向上为Z轴,向左为Y轴),极坐标系定义从极轴开始逆时针旋转为极角的正方向;
(7)位姿:本技术位姿为物体在2D空间的位置和姿态,位置为相对于地图坐标系x方向和y方向的坐标,相对于地图坐标系为x轴方向为正向的方位角theta;
(8)2D栅格地图:在地图坐标系与x,y平面重合的地图数据类型,以x,y方向分布数个正方形栅格,每个栅格大小相等,每个栅格内部保存自定义的一个或多个数据,地图的大小由栅格大小和栅格数量决定;
(9)2D栅格地图分辨率:地图中网格的边长,表示为米/栅格(m/grid),分辨率数值越大,2D栅格地图信息表述越粗糙,分辨率数值越小,2D栅格地图信息表述越精细;
(10)SLAM:实时建图和定位。
参照图1,本申请实施例提供了一种基于已知地图的语义重定位方法,由电子设备执行,该方法包括:
步骤S101、根据当前传感器获取到的点云数据建立子地图。
具体地,当前传感器可以使用3D机械激光雷达、3D固态激光雷达、毫米波雷达、结构光相机、双目视觉相机、单目视觉相机等可以直接或通过算法间接提供环境3D点云信息的传感器。
建立子地图的方式为:载具在可行驶区域内行驶,在载具行驶的过程中,基于当前传感器生成点云数据,根据点云数据和SLAM算法建立子地图。
当前传感器的数据需要经过当前传感器相对载具中心的外参转换,将当前传感器数据转换到载具中心,本技术默认当前传感器数据已经过外参转换。
步骤S102、提取子地图中的至少一个第一对象,建立每个第一对象的描述子。
第一对象为从子地图中筛选得到的语义对象,第一对象的描述子是指对第一对象朝向和周围像素信息,识别语义对象时,使用语义分割或者语义对象检测技术在子地图中标记点云的语义对象信息。例如:3D激光雷达生成的点云可以使用RangeNet或者RangeNet++构建语义分割网络,摄像头类视觉传感器可以使用视觉语义对象检测的深度学习网络;如果载具同时搭载了视觉摄像头和激光雷达等多传感器,也可以使用多传感器直接的语义信息融合,例如将视觉传感器得到的图像语义信息通过外参转换投影到激光点云上。
进一步地,RangeNet++网络还可以更换为其他3D点云语义分割网络,比如PointRCNN,PointNet++等等。还可以通过相机收集图像,使用图像语义分割网络处理图像获得语义图像,然后通过外参转换将语义图像投影到3D点云上,最终获得3D语义点云。
如果构建的子地图点云带有语义,即构建子地图的SLAM方法使用了语义相关的技术,如:激光雷达SLAM中的SUMA++,建立的点云数据带有语义分割信息,则可直接使用其语义信息。
步骤S103、提取获取到的已知地图中的至少一个第二对象,建立每个第二对象的描述子。
具体地,已知地图为直接获取的基于传感器建立的带有3D点云信息的地图,地图可以为带有语义标签的3D点云地图。
根据已知地图的类型(2D栅格地图、3D栅格地图、2D点云地图、3D点云地图、几何拓扑地图),通过相应的语义分割网络识别出已知地图中的语义对象,第二对象为从已知地图中筛选得到的语义对象,第二对象的描述子是指对第二对象朝向和周围像素信息。
步骤S104、将每个第一对象的描述子与每个第二对象的描述子进行相似度计算。
具体地,从多个子地图的语义对象以及已知地图的语义对象中筛选出有利于重定位的主对象(即第一对象和第二对象),过滤掉不利于重定位的语义对象,以提高重定位的准确性并降低计算量。
具体地,利用筛选出的每个第一对象的描述子与每个第二对象的描述子进行相似度计算的目的是判断第一对象的描述子和第二对象的描述子是否表达同一场景。
步骤S105、在所有第二对象中确定相似度最高的第二对象作为配准对象。
在每一组第一对象与第二对象进行相似度计算时,确定相似度最高的一组中的第二对象作为配准对象,此时,配准对象的描述子表达的场景与其对应的第一对象表达的场景为同一场景。
步骤S106、根据配准对象在已知地图中的位姿以及当前传感器在子地图中的位姿,生成载具在已知地图中的位姿。
确定与第一对象相似度最高的配准对象,则说明载具已行驶至已知地图相应的已知区域(配准对象在已知地图中的区域),此时,只需要确定载具/当前传感器在子地图中的位姿,即可确定载具/传感器在已知地图中的位姿,且在同一场景中能够识别出载具/传感器在该场景下的不同位置,即实现了重定位。本申请无需依赖外部定位传感器(如GPS和RTK等),只需要根据当前传感器采集行驶环境的3D点云数据,即可实现载具在已知地图中的重定位;且通过在载具移动过程中,通过当前传感器采集可行驶区域的3D点云数据,可充分采集环境信息,使得重定位准确度更高。
值得说明的是,图1仅是一种可能的执行顺序,在本申请实施例中,步骤S102可以在步骤S103之前执行,步骤S102以及步骤S103可以同时执行,步骤S103也可以在步骤S102之前执行,在本申请实施例中不做限定。
在一个具体的实施例中,步骤S101包括步骤S111、步骤S112和步骤S113,具体地,步骤S111(图中未示出)、根据当前传感器采集到的点云数据生成可行驶区域。具体包括:根据当前传感器采集到的3D点云数据生成2D栅格地图;根据泛洪算法在2D栅格地图中生成可行驶区域。
当前传感器直接或算法间接获得的3D点云数据为Pi={p1,p2,...,pn},其中Pi为第i帧点云数据,其内包含的点为p1,p2,...,pn共计n个点,p={x,y,z+为每个点在传感器坐标系下的三维空间的x,y,z的坐标值。
2D栅格地图表示为:GridMap2D={cellij,i∈[-nx,nx],j∈[-ny,ny]+,其中celli为一个索引为i和j的栅格值,i为范围从-nx到nx的整数,j为范围从-ny到ny的整数,r为每个栅格的边长,单位为米;2D栅格分辨率为:0.1米/栅格;使用一帧点云中某点p的x,y值来确定点属于哪个栅格,取x/r的整数部分作为i,取y/r的整数部分作为j,所属的栅格cellij中保存p的z值,代表该栅格的值;如果多个点属于同一个栅格,则取这些点的z值的平均值作为该栅格的值;没有点云点所属的栅格值设为空。
使用泛洪算法,以载具中轴线载具前方1米处的栅格为起始点,搜索整张2D栅格地图,泛洪搜索是以所在栅格的4领域或8领域进行遍历,搜索的停止条件为相邻栅格的栅格值相差大于0.1米、遇到空值或者遇到地图边界;泛洪搜索到的所有栅格为可行驶区域,没有搜索到的区域为不可行驶区域。
参照图2,为一张2D栅格地图,车辆周围的灰色区域为泛洪搜索出来的区域,即可行驶区域,白色区域为不可行驶区域。
步骤S112(图中未示出)、根据当前传感器在可行驶区域内获取的点云数据,并建立子地图。具体地,控制载具行驶的路径规划模块和运动控制模块接收可行驶区域,以使得载具在可行驶区域内行驶,具体地,载具可在可行驶区域内低速行驶(小于15公里/小时)。使用当前传感器在可行驶区域内获取的点云数据以及SLAM技术建立子地图,设子地图为Ml,子地图为包含可行驶区域环境3D点云信息的地图。
如果SLAM技术本身带有语义特征提取,则将语义信息标注在点云地图中。建立子地图完成后,通过SLAM算法的过程记录载具在子地图中的当前时刻位姿Pos,此时载具在已知地图上的位置还是未知的。
在一个具体的实施例中,步骤S103包括步骤S31、步骤S32和步骤S33,其中:
步骤S31(图中未示出)、提取已知地图的语义对象。
步骤S32(图中未示出)、基于已知地图的建图轨迹以及每个语义对象在建图轨迹中的出现频次,在所有语义对象中确定至少一个第二对象。
步骤S33(图中未示出)、以第二对象为中心建立第二对象的描述子。
在一个具体的实施例中,步骤S31包括:步骤S311、步骤S312、步骤S313以及步骤S314,其中:
步骤S311(图中未示出)、将已知地图的建图轨迹离散为里程点。假设已知地图的建图轨迹长度为D,建图轨迹上从起点开始每隔1米为一个里程点,总共分成ND个里程点,设第i个里程点为li。
步骤S312(图中未示出)、以每个里程点为中心,在已知地图的点云中进行点云分割,以生成分割点云。点云分割的区域为以里程点li为圆心,地图坐标系x-y平面内半径为R的圆,地图点云中的点的x,y值在该圆形区域范围内的点分为一个分割点云,设里程点li对应的分割点云为此实例中R=80米,每个里程点li与每个分割点云对应。
步骤S313(图中未示出)、基于语义分割网络生成每个分割点云中每个点的语义标签。
步骤S314(图中未示出)、根据每个点的语义标签识别已知地图中的语义对象。使用BFS(广度优先搜索)算法聚类出每个对象物体的具体点云范围,语义对象包括:树木、电线杆、垃圾箱、行人、车辆等。
进一步地,BFS(广度优先搜索)算法还可以替换为K-Means聚类算法、DBSCAN聚类算法等其他点云聚类算法,还可以使用基于深度学习的点云聚类方法。
步骤S315(图中未示出)、若任一语义对象对应范围内带有其他标签的点的数量大于数量阈值,则剔除该任一语义对象对应的语义标签。
步骤S316(图中未示出)、剔除所有语义对象中的动态对象,即剔除可移动对象物体所标记的点云,例如:行人、机动车辆、自行车、水马等,防止这类可移动对象物体在已知地图中存在,而在重定位时场景中没有出现。
此时每个里程点li上都存在语义对象及其点云,实现了子地图语义对象的提取。
已知地图中包含多个语义对象,由于载具在已知地图中的位置未知,因此无法确定选取已知地图中的哪一帧点云或者哪几帧点云与子地图中的哪一帧点云进行相似性分析。
若采用逐帧遍历对比的方式,则计算量较大,因此本申请中,从根据语义对象在整个建图轨迹中的出现频次,筛选出频次满足预设条件的至少一个第二对象,并且确定每个第二对象的描述子(即该第二对象的环境信息);并通过从子地图中筛选出出现频次满足预设条件的第一对象,并且确定每个第一对象的描述子,将子地图中的语义对象和已知地图中的语义对象进行语义筛选。
而后,将每个第一对象的描述子与第二对象的描述子进行匹配,即相似度计算,再次筛选,得到与第一对象的描述子匹配度最高的第二对象,此时,说明载具在子地图中的当前场景与已知地图中包含该第二对象的场景为同一场景,确定载具在子地图中的位置,即可确定载具在已知地图中的场景,减小了重定位时的计算量、提高了效率,确定第二对象具体包括:
步骤S321(图中未示出)、获取已知地图的建图轨迹对应的里程点,以及每个语义对象在每个里程点中的出现频次。
其中语义对象在每个里程点li中的出现频次为ni。
步骤S322(图中未示出)、确定每个语义对象的可用性评估值SR、分布平均值Sm和标准差Sσ。
其中,计算每个语义对象的可用性评估值SR的方式为:
只有当所有ni都不为0时SR为1,否则SR为0;
计算每个语义对象的分布平均值Sm的方式为:
计算每个语义对象的分布标准差Sσ的方式为:
步骤S323(图中未示出)、每个语义对象可用性评估值为SR、分布平均值Sm和标准差Sσ确定每个语义对象的分数。
其中,每个语义对象的分数为S,
S=SR(Sm-Sσ)式(4)
步骤S324(图中未示出)、基于每个语义对象的分数确定至少一个第二对象。将所有语义对象按照分数从大到小降序排列,在本申请实施例中,可以选取前5个作为第二对象,所有第二对象构成第二对象合集合Om。一般在城区环境下,经过筛选,第二对象主要为:红绿灯、电线杆、路灯杆、交通标识等。园区环境下,第二对象主要为:垃圾箱、树木等。
具体地,为了方便表示,在一个具体的实施例中,将里程数与每个语义对象的出现频次采用直方图的方式显示,以里程点li为横坐标,语义对象出现的频次为纵坐标,建立语义对象直方图,进行语义对象筛选,对语义对象进行打分;参照图3,以3种语义对象作为例子:其中语义对象2在某些里程点没有出现,该语义得到的分数S为0;其中语义对象3虽然在所有里程点都出现了,但频次分布不均匀,最终的分数S不会太高;语义对象1分布比语义对象3均匀,分数也会比语义对象3高;得分从大到小排序的话,为语义对象1、语义对象3、语义对象2。
参照图4,在一个具体的实施例中,在步骤S33中,以每个里程点li的分割点云中的第二对象为极点,已知地图的坐标系x轴方向为极轴,建立极坐标系。考虑极径小于等于80米的范围,将80米极径划分为Nr等分,本实施例中取Nr=20,每等分称为环,将360度极角划分为Ns等分,本实施例中取Ns=60,每等分称为域,得到1200个环扇形栅格。以极角的大小为横轴、以极径的大小为纵轴建立直角坐标系,对应的产生一个Nr×Ns的矩阵,矩阵中每个元素保存对应栅格内分割点云所有点的特征,特征可以取点的z坐标、点云强度、语义标签等,在本实施例中保存的是对应栅格内所有点的z坐标的均值。构建的这种表达方式叫做第二对象的描述子。
设已知地图中构建的第二对象的描述子为SCg,参照图4,为一个第二对象的描述子的组成示意图,其中SCij为第i个环,第j个域的区域。
在一个具体的实施例中,步骤S102包括步骤S21、步骤S22和步骤S23,其中:
步骤S21(图中未示出)、提取子地图的语义对象。
步骤S22(图中未示出)、基于子地图的建图轨迹以及每个语义对象在子地图建图轨迹中的出现频次,在所有语义对象中确定至少一个第一对象。
步骤S23(图中未示出)、以第一对象为中心建立第一对象的描述子。
步骤S21与步骤31采用的方式相同;步骤S22与步骤S32采用的步骤相同,生成第一对象Om;步骤S23与步骤S33采用的方式相同,此处不再赘述,生成的第一对象的描述子集合为SCl;建立第一对象的描述子集合SCl中的每个描述子的环特征向量,组成环特征向量集合RKl。
在一个具体的实施例中,本申请实施例还包括步骤S107,步骤S107设置于步骤S104之前,具体可以包括:生成第二对象的描述子的环特征向量,根据环特征向量构建多维树结构。将第二对象的描述子按行计算均值得到一个Nr×1的列向量,称为一个第二对象的描述子的环特征向量;计算第二对象的描述子集合中的所有描述子的环特征向量,得到环特征向量集合,使用环特征向量集合构建多维树结构Tg,以便重定位时快速搜索候选第二对象的描述子。
在一个具体的实施例中,步骤S104设置于步骤S107之后,具体可以包括:基于第一对象的描述子集合SCl中的每个第一对象的描述子的每个环特征向量在多维树结构Tg中搜索,找到相似度最高,即在多维树结构Tg中与其距离最近的3个环特征向量,这3个环特征向量所对应的描述子作为候选第二对象的描述子集合SCw。
将候选第二对象的描述子集合SCw中的描述子与对应的子地图的第一对象的描述子集合SCl中的描述子匹配,计算得分,具体方法如下:
两个描述子的相似度分数为D,分数值越小说明两个描述子越相似,计算公式如下:
式中n为偏移量,[-k,k]表示范围从-k到k的偏移量窗口,在本实施例中k=3,分数D是n取[-k,k]中距离d的最小值,此时的n的取值定义为n*,n*的表达式如下:
计算候选第二对象的描述子集合SCw中的描述子与对应的子地图的第一对象的描述子集合SCl中的描述子的所有相似度分数后,候选第二对象的描述子集合SCw中取相似度分数值最小(分数值越小说明两个描述子越相似)的那个描述子称为配准描述子,另外2个舍弃,配准描述子组成配准对象的描述子集合SCr,并记录下每个配准对象的描述子的偏移量n*。
在一种可能的实现方式中,在步骤S106中,具体可以包括步骤S61、步骤S62和步骤S63,其中:
步骤S61(图中未示出)、根据每个配准对象在已知地图的位置以及当前传感器在子地图中的位姿确定位姿集合。
步骤S62(图中未示出)、对位姿集合进行聚类生成偏移位姿。
步骤S63(图中未示出)、根据偏移位姿以及当前传感器与载具的位置关系,生成载具在已知地图中的位姿。
其中,步骤S61具体包括步骤S611、步骤S612、步骤S613和步骤S614,其中:参照图5,步骤S611(图中未示出)、确定单个配准对象在已知地图坐标系中的第一坐标。
其中,设已知地图的坐标系为Cm,第一坐标的表达式为:Co(xo,yo,θo),即,配准对象描述子的对象在已知地图坐标系中的位置坐标系为Co(xo,yo,θo)。
步骤S612(图中未示出)、确定与配准对象对应的第一对象在子地图坐标系的第二坐标。
其中,第二坐标的表达式为Cc(xc,yc,θc),即,与配准对象对应的第一对象在地图坐标系中的位置坐标系为Cc(xc,yc,θc)。
其中,当前传感器在在子地图坐标系中的当前坐标,当前坐标的表达式为:Pos(xos,yos,θos),当前传感器在子地图中的当前坐标为Pos(xos,yos,θos)建立子地图时保留的传感器在子地图中的位姿。
步骤S613、基于第一坐标、第二坐标以及当前传感器在子地图中的位姿确定当前传感器在已知地图中的候选位姿。
由于配准主对象描述子的对象和与之对应的局部地图主对象描述子的对象为同一对象,所以认为Co和Cc的位置相同,即xo=xc,yo=yc;
由于Co的极轴沿着已知地图的坐标系Cm的x轴方向,所以角度为0,即θo=0;
综上,Co、Cc坐标系变为Co(xo,yo,0),Cc(xo,yo,θc)。
其中,候选位姿的表达式为:Ps(xs,ys,θs),计算候选位姿的方式为:
xs=cosθcxos-sinθcyos+xo#(8)
ys=sinθcxos+cosθcyos+yo#(9)
θs=arccos(cosθccosθs-sinθcsinθs)#(10)
其中θc可以通过偏移量n*和Ns计算得到。
步骤S614(图中未示出)、根据所有候选位姿生成位姿集合。根据步骤S611~步骤S613方法,计算得到所有配准对象的描述子对应的多个表征传感器位姿的候选位姿,组成当前传感器位姿集合GPs。
在步骤S62中,对位姿集合GPs中的坐标x,y和角度θ分布进行聚类,x,y的聚类结果xr,yr,θ聚类的结果θr组成唯一结果:偏移位姿Pr(xr,yr,θ)。
在步骤S63中,其中,设当前传感器与载具的安装位置关系为水平外参Es(xe,ye,θe),则载具在已知地图中的位姿Pv为:
Pv(xv,yv,θv)=(xr-xe,yr-ye,θr-θe)式(11)
即,根据当前传感器在已知地图中的位置,确定载具在已知地图中的位置,得到的重定位结果既包含了载具相对已知地图的位置,又包含了载具的姿态。
参照图6,上述实施例从方法流程的角度介绍一种基于已知地图的语义重定位方法,下述实施例从虚拟模块或者虚拟单元的角度介绍了一种基于已知地图的语义重定位装置100,具体详见下述实施例。
一种基于已知地图的语义重定位装置100,包括:采用如下的技术方案:
子地图建立模块1001,用于根据当前传感器获取到的点云数据建立子地图;
第一对象提取模块1002,用于提取子地图中的至少一个第一对象,建立每个第一对象的描述;
第二对象提取模块1002,用于提取获取到的已知地图中的至少一个第二对象,建立每个第二对象的描述子;
相似度计算模块1004,用于将每个第一对象的描述子与每个第二对象的描述子进行相似度计算;
确定模块1005,用于在所有第二对象中确定相似度最高的第二对象作为配准对象;
重定位模块1006,用于根据配准对象在已知地图中的位姿以及当前传感器在子地图中的位姿,生成载具在已知地图中的位姿。
在一个具体的实施例中,子地图建立模块1001在根据当前传感器获取到的点云数据,并建立子地图时,具体用于:
根据当前传感器采集到的点云数据生成可行驶区域;
根据当前传感器在可行驶区域内获取的点云数据,并建立子地图。
在一个具体的实施例中,子地图建立模块1001在根据当前传感器采集到的点云数据生成可行驶区域时,具体用于:
根据当前传感器采集到的3D点云数据生成2D栅格地图;
根据泛洪算法在2D栅格地图中生成可行驶区域。
在一个具体的实施例中,第二对象提取模块1002提取获取到的已知地图中的至少一个第二对象,建立每个第二对象的描述子时,具体用于:
提取已知地图的语义对象;
基于已知地图的建图轨迹以及每个语义对象在建图轨迹中的出现频次,在所有语义对象中确定至少一个第二对象;
以第二对象为中心建立第二对象的描述子。
在一个具体的实施例中,第二对象提取模块1002在提取已知地图的语义对象时,具体用于:
将已知地图的建图轨迹离散为里程点;
以每个里程点为中心,在已知地图的点云中进行点云分割,以生成分割点云;
基于语义分割网络生成每个分割点云中每个点的语义标签;
根据每个点的语义标签识别已知地图中的语义对象。
在一个具体的实施例中,第二对象提取模块1002还包括剔除模块,剔除模块,用于:在根据每个点的语义标签识别已知地图中的语义对象之后,若任一语义对象对应范围内带有其他标签的点的数量大于数量阈值,则剔除该任一语义对象对应的语义标签。
在一个具体的实施例中,剔除模块在根据每个点的语义标签识别已知地图中的语义对象,之后还用于:
剔除所有语义对象中的动态对象。
在一个具体的实施例中,第二对象提取模块1002在基于已知地图的建图轨迹以及每个语义对象在建图轨迹中的出现频次,在所有语义对象中确定至少一个第二对象,包括:获取已知地图的建图轨迹对应的里程点,以及每个语义对象在每个里程点中的出现频次;确定每个语义对象的可用性评估值、分布平均值和标准差;
基于所有里程点、每个语义对象在里程点中的出现频次、每个语义对象可用性评估值、分布平均值和标准差确定每个语义对象的分数;
基于每个语义对象的分数确定至少一个第二对象。
在另一种可能的实现方式中,重定位模块1006在根据配准对象在已知地图中的位置以及当前传感器在子地图中的位姿,生成载具在已知地图中的位姿,时,具体用于:
根据每个配准对象在已知地图的位置以及当前传感器在子地图中的位姿确定位姿集合;
对位姿集合进行聚类生成偏移位姿;
根据偏移位姿以及当前传感器与载具的位置关系,生成载具在已知地图中的位姿。
在另一种可能的实现方式中,重定位模块1006在根据每个配准对象在已知地图的位置以及当前传感器在子地图中的位姿确定位姿集合时,具体用于:
确定单个配准对象在已知地图坐标系中的第一坐标;
确定与配准对象对应的第一对象在子地图坐标系的第二坐标;
基于第一坐标、第二坐标以及当前传感器在子地图中的位姿确定当前传感器在已知地图中的候选位姿;
根据所有候选位姿生成位姿集合。
在一个具体的实施例中,装置还包括搜索模块,在搜索模块用于:第二对象中确定相似度最高的第二对象作为配准对象之前,生成第二对象的描述子的环特征向量,根据环特征向量构建多维树结构。
本申请实施例还从实体装置的角度介绍了一种电子设备,如图7所示,图7所示的电子设备1100包括:处理器1101和存储器1103。其中,处理器1101和存储器1103相连,如通过总线1102相连。可选地,电子设备1100还可以包括收发器1104。需要说明的是,实际应用中收发器1104不限于一个,该电子设备1100的结构并不构成对本申请实施例的限定。
处理器1101可以是CPU(Central Processing Unit,中央处理器),通用处理器,DSP(Digital Signal Processor,数据信号处理器),ASIC(Application SpecificIntegrated Circuit,专用集成电路),FPGA(Field Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器1101也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等。
总线1102可包括一通路,在上述组件之间传送信息。总线1102可以是PCI(Peripheral Component Interconnect,外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture,扩展工业标准结构)总线等。总线1102可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器1103可以是ROM(Read Only Memory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,RAM(Random Access Memory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory,电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
存储器1103用于存储执行本申请方案的应用程序代码,并由处理器1101来控制执行。处理器1101用于执行存储器1103中存储的应用程序代码,以实现前述方法实施例所示的内容。
其中,电子设备包括但不限于:移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。还可以为服务器等。图7示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
以上仅是本申请的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (14)
1.一种基于已知地图的语义重定位方法,其特征在于,包括:
根据当前传感器获取到的点云数据建立子地图;
提取所述子地图中的至少一个第一对象,建立每个所述第一对象的描述子;
提取获取到的已知地图中的至少一个第二对象,建立每个所述第二对象的描述子;
将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算;
在所有所述第二对象中确定相似度最高的所述第二对象作为配准对象;
根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成载具在所述已知地图中的位姿。
2.根据权利要求1所述的方法,其特征在于,所述根据当前传感器获取到的点云数据,并建立所述子地图,包括:
根据所述当前传感器采集到的点云数据生成可行驶区域;
根据所述当前传感器在所述可行驶区域内获取的点云数据,并建立所述子地图。
3.根据权利要求2所述的方法,其特征在于,所述根据所述当前传感器采集到的点云数据生成可行驶区域,包括:
根据所述当前传感器采集到的3D点云数据生成2D栅格地图;
根据泛洪算法在所述2D栅格地图中生成所述可行驶区域。
4.根据权利要求1所述的方法,其特征在于,所述提取获取到的所述已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子,包括:
提取所述已知地图的语义对象;
基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象;
以所述第二对象为中心建立所述第二对象的描述子。
5.根据权利要求4所述的方法,其特征在于,所述提取所述已知地图的语义对象,包括:
将所述已知地图的建图轨迹离散为里程点;
以每个所述里程点为中心,在所述已知地图的点云中进行点云分割,以生成分割点云;
基于语义分割网络生成每个所述分割点云中每个点的语义标签;
根据所述每个点的语义标签识别所述已知地图中的语义对象。
6.根据权利要求5所述的方法,其特征在于,所述根据每个点的语义标签识别已知地图中的语义对象,之后还包括:
若任一语义对象对应范围内带有其他标签的点的数量大于数量阈值,则剔除所述语义对象对应的语义标签。
7.根据权利要求5或6所述的方法,其特征在于,所述根据每个点的语义标签识别已知地图中的语义对象,之后还包括:
剔除所有所述语义对象中的动态对象。
8.根据权利要求3所述的方法,其特征在于,所述基于已知地图的建图轨迹以及每个语义对象在所述建图轨迹中的出现频次,在所有所述语义对象中确定至少一个所述第二对象,包括:
获取所述已知地图的建图轨迹对应的里程点,以及每个所述语义对象在每个里程点中的出现频次;
确定每个语义对象的可用性评估值、分布平均值和标准差;
基于所述每个语义对象的可用性评估值、分布平均值和标准差确定每个所述语义对象的分数;
基于所述每个语义对象的分数确定至少一个所述第二对象。
9.根据权利要求1所述的方法,其特征在于,所述根据配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成载具在所述已知地图中的位姿,包括:
根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合;
对位姿集合进行聚类生成偏移位姿;
根据偏移位姿以及所述当前传感器与载具的位置关系,生成所述载具在所述已知地图中的位姿。
10.根据权利要求9所述的方法,其特征在于,所述根据每个所述配准对象在所述已知地图的位置以及所述当前传感器在所述子地图中的位姿确定位姿集合,包括:
确定单个所述配准对象在所述已知地图坐标系中的第一坐标;
确定与所述配准对象对应的所述第一对象在所述子地图坐标系的第二坐标;
基于所述第一坐标、所述第二坐标以及所述当前传感器在所述子地图中的位姿确定所述当前传感器在所述已知地图中的候选位姿;
根据所有所述候选位姿生成位姿集合。
11.根据权利要求1所述的方法,其特征在于,所述在所有所述第二对象中确定相似度最高的所述第二对象作为配准对象之前,还包括:生成所述第二对象的描述子的环特征向量,根据所述环特征向量构建多维树结构。
12.一种基于已知地图的语义重定位装置,其特征在于,包括:
子地图建立模块,用于根据当前传感器获取到的点云数据建立子地图;
第一对象提取模块,用于提取所述子地图中的至少一个所述第一对象,建立每个所述第一对象的描述;
第二对象提取模块,用于提取获取到的已知地图中的至少一个所述第二对象,建立每个所述第二对象的描述子;
相似度计算模块,用于将每个所述第一对象的描述子与每个所述第二对象的描述子进行相似度计算;
确定模块,用于在所有所述第二对象中确定相似度最高的所述第二对象作为配准对象;
重定位模块,用于根据所述配准对象在所述已知地图中的位置以及所述当前传感器在所述子地图中的位姿,生成所述载具在所述已知地图中的位姿。
13.一种电子设备,其特征在于,该电子设备包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,所述一个或多个应用程序配置用于:执行权利要求1~11任一项方法。
14.一种计算机可读存储介质,其特征在于,包括:存储有能够被处理器加载并执行如权利要求1~11中任一项方法的计算机程序。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111368715.9A CN114088099B (zh) | 2021-11-18 | 2021-11-18 | 基于已知地图的语义重定位方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111368715.9A CN114088099B (zh) | 2021-11-18 | 2021-11-18 | 基于已知地图的语义重定位方法、装置、电子设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114088099A true CN114088099A (zh) | 2022-02-25 |
CN114088099B CN114088099B (zh) | 2024-06-25 |
Family
ID=80301616
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111368715.9A Active CN114088099B (zh) | 2021-11-18 | 2021-11-18 | 基于已知地图的语义重定位方法、装置、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114088099B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627365A (zh) * | 2022-03-24 | 2022-06-14 | 北京易航远智科技有限公司 | 场景重识别方法、装置、电子设备及存储介质 |
CN115469312A (zh) * | 2022-09-15 | 2022-12-13 | 重庆长安汽车股份有限公司 | 车辆的可通行区域检测方法、装置、电子设备及存储介质 |
CN115630185A (zh) * | 2022-09-23 | 2023-01-20 | 深圳市云洲创新科技有限公司 | 一种重定位方法、水面航行器及存储介质 |
CN115683129A (zh) * | 2023-01-04 | 2023-02-03 | 苏州尚同墨方智能科技有限公司 | 一种基于高清地图的长期重定位方法和装置 |
CN117991259A (zh) * | 2024-04-07 | 2024-05-07 | 陕西欧卡电子智能科技有限公司 | 基于激光雷达和毫米波雷达的无人船重定位方法及装置 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264268A (ja) * | 2006-03-28 | 2007-10-11 | Mitsubishi Electric Information Systems Corp | 位置表示装置 |
JP2008076593A (ja) * | 2006-09-20 | 2008-04-03 | Hirotsu Sokichi | 略地図生成装置および略地図生成方法 |
US20180216942A1 (en) * | 2017-02-02 | 2018-08-02 | Baidu Usa Llc | Method and system for updating localization maps of autonomous driving vehicles |
US20180267173A1 (en) * | 2017-03-17 | 2018-09-20 | Casio Computer Co., Ltd. | Position estimation apparatus |
CN110146096A (zh) * | 2018-10-24 | 2019-08-20 | 北京初速度科技有限公司 | 一种基于图像感知的车辆定位方法及装置 |
CN110207710A (zh) * | 2019-06-26 | 2019-09-06 | 北京小狗智能机器人技术有限公司 | 机器人重定位方法及装置 |
CN110796683A (zh) * | 2019-10-15 | 2020-02-14 | 浙江工业大学 | 一种基于视觉特征联合激光slam的重定位方法 |
US20200080849A1 (en) * | 2017-04-18 | 2020-03-12 | Blue Vision Labs UK Limited | Distributed Device Mapping |
CN111652933A (zh) * | 2020-05-06 | 2020-09-11 | Oppo广东移动通信有限公司 | 基于单目相机的重定位方法、装置、存储介质与电子设备 |
CN111795704A (zh) * | 2020-06-30 | 2020-10-20 | 杭州海康机器人技术有限公司 | 一种视觉点云地图的构建方法、装置 |
CN111982144A (zh) * | 2020-08-20 | 2020-11-24 | 北京百度网讯科技有限公司 | 导航方法、装置、电子设备及计算机可读介质 |
CN112179330A (zh) * | 2020-09-14 | 2021-01-05 | 浙江大华技术股份有限公司 | 移动设备的位姿确定方法及装置 |
US20210063577A1 (en) * | 2019-08-26 | 2021-03-04 | Ubtech Robotics Corp Ltd | Robot relocalization method and apparatus and robot using the same |
CN112710299A (zh) * | 2020-12-04 | 2021-04-27 | 深圳市优必选科技股份有限公司 | 一种重定位方法、装置、终端设备及存储介质 |
CN113137968A (zh) * | 2020-01-16 | 2021-07-20 | 浙江舜宇智能光学技术有限公司 | 基于多传感器融合的重定位方法、重定位装置和电子设备 |
-
2021
- 2021-11-18 CN CN202111368715.9A patent/CN114088099B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264268A (ja) * | 2006-03-28 | 2007-10-11 | Mitsubishi Electric Information Systems Corp | 位置表示装置 |
JP2008076593A (ja) * | 2006-09-20 | 2008-04-03 | Hirotsu Sokichi | 略地図生成装置および略地図生成方法 |
US20180216942A1 (en) * | 2017-02-02 | 2018-08-02 | Baidu Usa Llc | Method and system for updating localization maps of autonomous driving vehicles |
US20180267173A1 (en) * | 2017-03-17 | 2018-09-20 | Casio Computer Co., Ltd. | Position estimation apparatus |
US20200080849A1 (en) * | 2017-04-18 | 2020-03-12 | Blue Vision Labs UK Limited | Distributed Device Mapping |
CN110146096A (zh) * | 2018-10-24 | 2019-08-20 | 北京初速度科技有限公司 | 一种基于图像感知的车辆定位方法及装置 |
CN110207710A (zh) * | 2019-06-26 | 2019-09-06 | 北京小狗智能机器人技术有限公司 | 机器人重定位方法及装置 |
US20210063577A1 (en) * | 2019-08-26 | 2021-03-04 | Ubtech Robotics Corp Ltd | Robot relocalization method and apparatus and robot using the same |
CN110796683A (zh) * | 2019-10-15 | 2020-02-14 | 浙江工业大学 | 一种基于视觉特征联合激光slam的重定位方法 |
CN113137968A (zh) * | 2020-01-16 | 2021-07-20 | 浙江舜宇智能光学技术有限公司 | 基于多传感器融合的重定位方法、重定位装置和电子设备 |
CN111652933A (zh) * | 2020-05-06 | 2020-09-11 | Oppo广东移动通信有限公司 | 基于单目相机的重定位方法、装置、存储介质与电子设备 |
CN111795704A (zh) * | 2020-06-30 | 2020-10-20 | 杭州海康机器人技术有限公司 | 一种视觉点云地图的构建方法、装置 |
CN111982144A (zh) * | 2020-08-20 | 2020-11-24 | 北京百度网讯科技有限公司 | 导航方法、装置、电子设备及计算机可读介质 |
CN112179330A (zh) * | 2020-09-14 | 2021-01-05 | 浙江大华技术股份有限公司 | 移动设备的位姿确定方法及装置 |
CN112710299A (zh) * | 2020-12-04 | 2021-04-27 | 深圳市优必选科技股份有限公司 | 一种重定位方法、装置、终端设备及存储介质 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627365A (zh) * | 2022-03-24 | 2022-06-14 | 北京易航远智科技有限公司 | 场景重识别方法、装置、电子设备及存储介质 |
CN114627365B (zh) * | 2022-03-24 | 2023-01-31 | 北京易航远智科技有限公司 | 场景重识别方法、装置、电子设备及存储介质 |
CN115469312A (zh) * | 2022-09-15 | 2022-12-13 | 重庆长安汽车股份有限公司 | 车辆的可通行区域检测方法、装置、电子设备及存储介质 |
CN115630185A (zh) * | 2022-09-23 | 2023-01-20 | 深圳市云洲创新科技有限公司 | 一种重定位方法、水面航行器及存储介质 |
CN115630185B (zh) * | 2022-09-23 | 2024-02-02 | 深圳市云洲创新科技有限公司 | 一种重定位方法、水面航行器及存储介质 |
CN115683129A (zh) * | 2023-01-04 | 2023-02-03 | 苏州尚同墨方智能科技有限公司 | 一种基于高清地图的长期重定位方法和装置 |
CN117991259A (zh) * | 2024-04-07 | 2024-05-07 | 陕西欧卡电子智能科技有限公司 | 基于激光雷达和毫米波雷达的无人船重定位方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN114088099B (zh) | 2024-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114088099B (zh) | 基于已知地图的语义重定位方法、装置、电子设备及介质 | |
Chen et al. | Deep neural network based vehicle and pedestrian detection for autonomous driving: A survey | |
CN112767485B (zh) | 一种基于静态语义信息的点云地图创建与场景辨识方法 | |
Rozsa et al. | Obstacle prediction for automated guided vehicles based on point clouds measured by a tilted LIDAR sensor | |
Zhu et al. | Gosmatch: Graph-of-semantics matching for detecting loop closures in 3d lidar data | |
Lehtomäki et al. | Object classification and recognition from mobile laser scanning point clouds in a road environment | |
John et al. | Saliency map generation by the convolutional neural network for real-time traffic light detection using template matching | |
CN113865580B (zh) | 构建地图的方法、装置、电子设备及计算机可读存储介质 | |
CN111652934A (zh) | 定位方法及地图构建方法、装置、设备、存储介质 | |
US20230072731A1 (en) | System and method for panoptic segmentation of point clouds | |
CN113506318B (zh) | 一种车载边缘场景下的三维目标感知方法 | |
CN113792699B (zh) | 一种基于语义点云的对象级快速场景识别方法 | |
CN110348332B (zh) | 一种交通视频场景下机非人多目标实时轨迹提取方法 | |
Wang et al. | An overview of 3d object detection | |
Nguyen et al. | Real-time vehicle detection using an effective region proposal-based depth and 3-channel pattern | |
Tang et al. | Multiple-kernel based vehicle tracking using 3D deformable model and camera self-calibration | |
CN114792416A (zh) | 一种目标检测方法及装置 | |
Shi et al. | Lidar-based place recognition for autonomous driving: A survey | |
CN112257668A (zh) | 主辅路判断方法、装置、电子设备及存储介质 | |
Li et al. | Semantic scan context: Global semantic descriptor for LiDAR-based place recognition | |
Gökçe et al. | Recognition of dynamic objects from UGVs using Interconnected Neuralnetwork-based Computer Vision system | |
Bălănescu et al. | Intersection detection based on mono-camera sensor | |
CN114627365B (zh) | 场景重识别方法、装置、电子设备及存储介质 | |
Tang et al. | An improved algorithm for road markings detection with SVM and ROI restriction: comparison with a rule-based model | |
CN112818837B (zh) | 一种基于姿态校正和困难样本感知的航拍车辆重识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |