CN112712018A - 标识地图的建立方法、视觉定位方法及装置 - Google Patents

Abstract

本发明提供了一种标识地图的建立方法、视觉定位方法及装置，包括：当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿；其中，所述初始位姿包括所述智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和所述图像帧中可识别的标识的标识初始位姿；基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿；其中，所述目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿；根据所述目标位姿建立所述指定场地的标识地图，并在所述临时地图点移出共视区域时删除该临时地图点，直至所述标识地图建立完毕；其中，所述标识地图包括各个所述标识对应的标识信息。本发明可以有效提高标识地图的重用性。

Description

标识地图的建立方法、视觉定位方法及装置

技术领域

本发明涉及视觉定位技术领域，尤其是涉及一种标识地图的建立方法、视觉定位方法及装置。

背景技术

随着自动驾驶技术的不断发展，对于视觉定位的要求也越来越高，然而目前视觉定位方法的鲁棒性和适用性的表现都较为一般。在自动驾驶领域，SLAM(simultaneouslocalization and mapping,即时定位与地图构建)可分为基于车端的方案和基于场端的方案两大类，其中，基于车端的方案存在鲁棒性和地图重用性较差的问题，而基于场端的方案则存在对场端标识依赖程度较高的问题。

发明内容

有鉴于此，本发明的目的在于提供一种标识地图的建立方法、视觉定位方法及装置，可以有效提高标识地图的重用性，并降低对场端标识的依赖程度。

第一方面，本发明实施例提供了一种标识地图的建立方法，所述方法应用于智能车辆，所述智能车辆放置在指定场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述指定场地内布设有多个标识，所述方法包括：当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿；其中，所述初始位姿包括所述智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和所述图像帧中可识别的标识的标识初始位姿；基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿；其中，所述目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿；根据所述目标位姿建立所述指定场地的标识地图，并在所述临时地图点移出共视区域时删除该临时地图点，直至所述标识地图建立完毕；其中，所述标识地图包括各个所述标识对应的标识信息。

在一种实施方式中，在当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿的步骤之前，所述方法还包括：如果检测到所述指定场地内的至少一个标识，设定当前帧为所述指定场地的初始帧；识别所述初始帧中所包含的标识对应的标识信息；其中，所述标识信息包括标识ID、标识尺寸、标识中心点坐标、标识角点坐标中的一种或多种；基于所述初始帧中所包含的标识对应的标识信息执行初始化操作；其中，所述初始化操作包括初始尺度恢复。

在一种实施方式中，所述智能车辆在所述指定场地内进行建图的步骤，包括：如果所述智能车辆完成初始化操作，利用当前帧、所述当前帧对应的相邻帧和临时地图点进行建图，并在所述临时地图点移出共视区域时删除该临时地图点；其中，所述临时地图点是基于关键帧生成的，所述关键帧是从所述图像帧中选取得到的。

在一种实施方式中，基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿的步骤，包括：从所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿中确定待优化变量，以及确定所述待优化变量对应的动态约束；其中，所述动态约束包括标识尺度约束、标识平面约束、视觉重投影约束中的一种或多种；对所述待优化变量对应的动态约束的约束权重进行动态调整；基于调整后的约束权重对所述待优化变量进行联合优化，得到目标位姿。

在一种实施方式中，从所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿中确定待优化变量，以及确定所述待优化变量对应的动态约束的步骤，包括：如果当前帧中可识别到所述标识，将所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿均确定为待优化变量，并确定该待优化变量对应的动态约束为所述平面约束、所述尺度约束和所述视觉重投影约束；如果当前帧中未识别到所述标识，将所述车辆初始位姿和所述地图点初始坐标确定为待优化变量，并确定该待优化变量对应的动态约束为所述视觉重投影约束。

在一种实施方式中，对所述待优化变量对应的动态约束的约束权重进行动态调整的步骤，包括：基于当前帧中包含的标识数量和/或标识像素大小，调整所述待优化变量对应的动态约束的约束权重；所述方法还包括：对于所述当前帧对应的每个临时地图点，如果该临时地图点为所述当前帧中包含的标识对应的特征点，增强该临时地图点对应的约束权重。

第二方面，本发明实施例还提供一种视觉定位方法，所述方法应用于智能车辆，所述智能车辆放置在目标场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述目标场地内布设有多个标识，所述方法包括：获取标识地图；其中，所述标识地图是采用第一方面提供的任一项所述的标识地图的建立方法建立得到的，所述标识地图包括各个所述标识对应的标识信息；如果所述当前帧可识别到所述标识，基于所述当前帧中可识别的标识的位姿匹配确定所述智能车辆的车辆位姿；如果所述当前帧未识别到所述标识，利用航迹推演算法确定所述智能车辆的车辆位姿。

第三方面，本发明实施例还提供一种标识地图的建立装置，所述装置应用于智能车辆，所述智能车辆放置在指定场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述指定场地内布设有多个标识，所述装置包括：前端模块，用于当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿；其中，所述初始位姿包括所述智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和所述图像帧中可识别的标识的标识初始位姿；后端模块，用于基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿；其中，所述目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿；建图模块，用于根据所述目标位姿建立所述指定场地的标识地图，并在所述临时地图点移出共视区域时删除该临时地图点，直至所述标识地图建立完毕；其中，所述标识地图包括各个所述标识对应的标识信息。

第四方面，本发明实施例还提供一种视觉定位装置，所述装置应用于智能车辆，所述智能车辆放置在目标场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述目标场地内布设有多个标识，所述装置包括：地图获取模块，用于获取标识地图；其中，所述标识地图是采用如第一方面提供的任一项所述的标识地图的建立方法建立得到的，所述标识地图包括各个所述标识对应的标识信息；第一定位模块，用于如果所述当前帧可识别到所述标识，基于所述当前帧中可识别的标识的位姿匹配确定所述智能车辆的车辆位姿；第二定位模块，用于如果所述当前帧未识别到所述标识，利用航迹推演算法确定所述智能车辆的车辆位姿。

第五方面，本发明实施例还提供一种电子设备，包括存储器以及处理器；所述存储器中存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面提供的任一项所述的方法的步骤，或执行所述计算机程序时实现上述第二方面提供的所述的方法的步骤。

第六方面，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行所述第一方面提供的任一项所述的方法，或促使所述处理器运行所述第二方面提供的所述的方法。

本发明实施例提供的一种标识地图的建立方法及装置，当智能车辆基于标识在指定场地内进行建图时，可以根据建图过程中采集的指定场地的当前帧确定初始位姿(包括智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和图像帧中可识别的标识的标识初始位姿)，并基于预设的动态约束对初始位姿进行联合优化，得到目标位姿(包括车辆目标位姿、地图点目标坐标和标识目标位姿)，然后根据目标位姿建立指定场地的标识地图(包括各个标识对应的标识信息)，另外在临时地图点移出共视区域时删除该临时地图点，直至标识地图建立完毕。上述方法在建图过程中对标识依赖不高，且提出一种新的标识地图，本发明实施例基于目标位姿建立标识地图，并在临时地图点移出共视区域时删除该临时地图点，也即本发明实施例利用临时地图点建立标识地图，该标识地图将仅包含有各个标识对应的标识信息，从而有效提高了标识地图的重用性。

本发明实施例提供的一种视觉定位方法及装置，获取前述标识地图的建立方法建立得到的标识地图，该标识地图包括各个标识对应的标识信息，如果可识别到标识，基于当前帧中可识别的标识的位姿匹配确定智能车辆的车辆位姿，如果当前帧未识别到标识，利用航迹推演算法确定智能车辆的车辆位姿。上述方法利用重用性较高的标识地图进行视觉定位，可以有效提高视觉定位的鲁棒性和适应性，而且本发明实施例还可以针对当前帧中是否包含标识而采取相应方式进行定位，不仅进一步提高了视觉定位方法的适应性，而且有效降低了视觉定位对场端标识的依赖程度。

本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种标识地图的建立方法的流程示意图；

图2为本发明实施例提供的一种标识地图的建立方法的框架图；

图3为本发明实施例提供的一种初始化过程的流程示意图；

图4为本发明实施例提供的一种前端流程示意图；

图5为本发明实施例提供的一种后端流程示意图；

图6为本发明实施例提供的一种视觉定位方法的流程示意图；

图7为本发明实施例提供的一种标识地图的建立装置的结构示意图；

图8为本发明实施例提供的一种视觉定位装置的结构示意图；

图9为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合实施例对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

目前，在自动驾驶领域，SLAM主要包括基于车端的SLAM方法和基于场端的SLAM方法。其中，基于车端的SLAM方法中的主流方法为单目和IMU(Inertial measurement unit，惯性测量单元)所组成的VIO SLAM(Visual–Inertial Odometry SLAM，视觉惯性里程计)，由于该方法建立的地图中的特征易受环境、光照等因素的影响，从而导致基于车端的方案存在鲁棒性和地图重用性较差的问题，难以真正应用到自动驾驶功能中。基于场端的SLAM方法虽然在一定程度上提高了视觉定位的鲁棒性和定位精度，但是其工作场景受到较为严重的限制，诸如由于施工成本高、施工难度大、维护不便等问题，导致基于场端的SLAM方法无法大规模应用。基于此，本发明实施提供了一种标识地图的建立方法、视觉定位方法及装置，不仅对标识依赖性较低，且可以有效提高地图重用性。

为便于对本实施例进行理解，首先对本发明实施例所公开的一种标识地图的建立方法进行详细介绍，方法应用于智能车辆，其中，智能车辆可以包括视觉定位小车或视觉定位机器人等，智能车辆放置在指定场地，智能车辆配置有用于采集指定场地的图像帧的采集设备，采集设备可以包括诸如单目摄像头等具有拍摄功能的器件，指定场地内布设有多个标识，在实际应用中，每个标识均配置有相应的标识ID(Identity document，身份证标识号)，且各个标识的尺寸已知，参见图1所示的一种标识地图的建立方法的流程示意图，该方法主要包括以下步骤S102至步骤S106：

步骤S102，当智能车辆指定场地内进行建图时，根据采集的指定场地的图像帧确定初始位姿。其中，初始位姿包括智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和图像帧中可识别的标识的标识初始位姿，可选的，将当前帧设置为关键帧，并基于关键帧生成临时地图点。在一种实施方式中，可以基于指定场地内的标识对智能车辆进行初始化操作，如果智能车辆完成初始化操作，将在指定场地内进行建图，基于图像帧确定智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和图像帧中可识别的标识的标识初始位姿。

步骤S104，基于预设的动态约束对初始位姿进行联合优化，得到目标位姿。其中，目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿，动态约束可以包括标识尺度约束、标识平面约束、视觉重投影约束中的一种或多种，标识尺度约束指在后端局部BA(Bat Algorithm)优化中建立智能车辆与标识间的约束，抑制单目尺度漂移，并根据智能车辆与标识间的距离和角度调节该约束权重，标识平面约束指图像帧中标识区域(也即，标识在图像帧中所在区域)内的特征点在同一平面上，在后端局部BA优化时增加了标识区域内的特征点的标识平面约束，在标识区域内得到更为准确的特征点位姿，并将标识作为一个整体进行位姿优化。可选的，可以根据关键帧中是否存在可识别的标识，从车辆初始位姿、地图点初始坐标、标识初始位姿中选择一个或多个初始位姿作为待优化变量，并确定该待优化变量相应的动态约束，可选的，如果当前帧未识别到标识，则将车辆初始位姿和地图点初始坐标作为待优化变量，并为该待优化变量添加视觉重投影约束，如果当前帧可识别到标识，则将车辆初始位姿、地图点初始坐标、标识初始位姿均作为待优化变量，并对该待优化变量添加标识尺度约束、标识平面约束和视觉重投影约束。

步骤S106，根据目标位姿建立指定场地的标识地图，并在临时地图点移出共视区域时删除该临时地图点，直至标识地图建立完毕。其中，标识地图包括各个标识对应的标识信息，标识信息包括标识ID、标识尺寸、标识中心点坐标、标识角点坐标中的一种或多种，共视区域类似于滑动窗口，会随着智能车辆的移动而产生相应变化，当临时地图点移出共视区域时，将删除该临时，如此循环往复，直至标识地图建立完毕。应当注意的是，在建图过程中，仅保留标识和位于共视区域内的临时地图点，在建图结束后，标识地图中将删除所有临时地图点，也即标识地图中仅包含标识和标识对应的标识信息。

本发明实施例提供的上述标识地图的建立方法，在建图过程中，基于目标位姿建立标识地图，并在临时地图点移出共视区域时删除该临时地图点，也即本发明实施例利用临时地图点建立标识地图，该标识地图将仅包含有各个标识对应的标识信息，从而有效提高了标识地图的重用性。

为便于对上述实施例提供的标识地图的建立方法进行理解，本发明实施例提供了如图2所示的一种标识地图的建立方法的框架图，图2中示意出标识地图建立过程涉及初始化、前端、后端、建图等四个过程，本发明实施例提供的标识地图的建立方法在初始化过程中包括基于标识的直接初始化和基于标识的初始尺度恢复，前端过程包括标识区域特征加权和与临时地图点的特征匹配，后端过程包括标识尺度约束、标识平面约束、视觉重投影约束，建图过程包括建立标识地图和生成临时地图点。

在上述图2的基础上，本发明实施例提供了一种初始化操作，在当智能车辆指定场地内进行建图时，根据采集的指定场地的图像帧确定初始位姿的步骤之前，可以按照如下步骤a至步骤c执行初始化操作：

步骤a，如果检测到指定场地内的至少一个标识，设定当前帧为所述指定场地的初始帧。在一种实施方式中，在初始化过程中不需要智能车辆在指定场地内移动，仅需要利用智能车辆对指定场地内的标识进行识别，并在检测到一个或多个标识时将当前帧设定为初始帧。

步骤b，识别初始帧中所包含的标识对应的标识信息。其中，标识信息包括标识ID、标识尺寸、标识中心点坐标、标识角点坐标中的一种或多种。在一种实施方式中，可以预先配置指定场地内各个标识的标识ID和标识尺寸，从而利用尺度先验求解标识中心点坐标和标识角点坐标。

步骤c，基于初始帧中所包含的标识对应的标识信息执行初始化操作；在一种实施方式中，在获知初始帧中所包含的标识对应的标识信息时，即可完成单目初始化的过程。可选的，初始化操作包括初始尺度恢复，初始尺度恢复是指通过对已知大小标识的观测，完成单目初始尺度恢复，无需前期场端测绘，也不需要IMU或轮速等车辆信息辅助。

为便于对上述实施例提供的初始化过程进行理解，本发明实施例提供了另一种初始化过程，参见图3所示的一种初始化过程的流程示意图，该方法主要包括以下步骤S302至步骤S310：

步骤S302，检测指定场地内的标识。

步骤S304，如果检测到指定场地内的标识，识别该标识并提取标识ID和标识尺寸。

步骤S306，基于标识ID和标识尺寸求解标识中心以及标识各个角点坐标。

步骤S308，执行初始尺度恢复操作。

步骤S310，生成初始标识路标和角点对应的地图点。对于前述步骤S102，本发明实施例提供了一种智能车辆在指定场地内进行建图的实施方式，如果智能车辆完成初始化操作，利用当前帧、当前帧对应的相邻帧和临时地图点进行建图，并在临时地图点移出共视区域时删除该临时地图点，其中，临时地图点是基于关键帧生成的，关键帧是从图像帧中选取得到的。在具体实现时，可以利用当前帧与相邻帧及生成的临时地图点的匹配完成建图过程，另外还通过关键帧生成临时地图点，并在该临时地图点移出共视区域时删除该临时地图点。

在一种实施方式中，如果当前帧和相邻帧之间的视差大于预设阈值，即可将当前帧添加至关键帧集合。在实际应用中，本发明实施例在初始化之后只有几个初始帧中所包含的标识的角点所生成的临时地图点，数量很少，本发明实施例在初始完成后，判断当前帧和初始帧之间的视差是否大于预设阈值，如果是，则将当前帧确定为关键帧，并用该关键帧与初始帧做DBoW匹配，从而利用标识尺度信息生成大量的临时地图点，以此来实现后续建图过程。

为便于理解，本发明实施例提供了如图4所示的一种前端流程示意图，该方法主要包括以下步骤S402至步骤S412：

步骤S402，图像帧与标识信息读取。

步骤S404，判断智能车辆是否完成初始化操作。如果是，执行步骤S406，如果否，执行步骤S402。

步骤S406，关键帧判定。具体的，如果当前帧和参考帧之间的视差大于预设阈值，将当前帧确定为关键帧。在一种实施方式中，可基于实际情况对指定场地内的标识进行布置，诸如在转弯、纹理不丰富、光照不理想等地方增加标识数量，从而有效提升视觉建图效果，并在关键帧中存储相应的标识信息。

步骤S408，基于关键帧生成临时地图点。在实际应用中，可以利用标识尺度信息生成大量的临时地图点。

步骤S410，相邻帧匹配建图。在一种实施方式中，可以采用恒线速模型估计智能车辆的初始位姿，而不利用标识信息，从而降低了建图过程对标识的依赖性，使其可以在标识稀疏甚至缺失的场景依然有着稳定表现。

步骤S412，局部地图建图。在一种实施方式中，临时地图点可以包括由标识角点产生的地图点和普通地图点，其中，由标识角点产生的地图点相比于普通地图点更加准确、稳定，在实际应用中，可直接将标识角点产生的地图点判定为内点，并在后端优化时拥有更高的权重。

对于前述步骤S104，本发明实施例提供了一种基于预设的动态约束对初始位姿进行联合优化，得到目标位姿的实施方式，参见如下步骤1至步骤3：

步骤1，从车辆初始位姿、地图点初始坐标和标识初始位姿中确定待优化变量，以及确定待优化变量对应的动态约束。其中，动态约束包括标识尺度约束、标识平面约束、视觉重投影约束中的一种或多种。在一种实施方式中，可基于当前帧中是否存在可识别的标识，从车辆初始位姿、地图点初始坐标和标识初始位姿中确定待优化变量，再确定该待优化变量对应的动态约束。

为便于理解，本发明实施例分别针对当前帧可识别到标识和当前帧未识别到标识两种情况，对从车辆初始位姿、地图点初始坐标和标识初始位姿中确定待优化变量，以及确定待优化变量对应的动态约束进行解释说明：(1)如果当前帧中可识别到标识，将车辆初始位姿、地图点初始坐标和标识初始位姿均确定为待优化变量，并确定该待优化变量对应的动态约束为平面约束、尺度约束和视觉重投影约束；(2)如果当前帧中未识别到标识，将车辆初始位姿和所述地图点初始坐标确定为待优化变量，并确定该待优化变量对应的动态约束为视觉重投影约束。

步骤2，对待优化变量对应的动态约束的约束权重进行动态调整。在一些实施方式中，可以选择如下方式一和/或方式二对特征点对应的约束权重进行调整：

方式一：基于当前帧中包含的标识数量和/或标识像素大小，调整待优化变量对应的动态约束的约束权重。例如，当前帧中包含的标识数量越多，标识尺度约束权重越高，和/或，当前帧中包含的标识尺寸越大，标识尺度约束权重越高。优选的，可以从图像帧中选择关键帧，进而基于关键帧中包含的标识数量和/或标识像素大小，调整待优化变量对应的动态约束的约束权重。

方式二：对于当前帧对应的每个临时地图点，如果该临时地图点为当前帧中包含的标识对应的特征点，增强该临时地图点对应的视觉重投影约束权重。例如，假设当前帧内包含多个临时地图点(临时地图点M和临时地图点N)，临时地图点M位于标识区域内，而临时地图点N位于标识区域外，则可增大临时地图点M对应的约束权重，而保持临时地图点N对应的约束权重不变。实际应用中，上述过程也可称之为区域特征加权，是指由于标识区域内的特征点比较稳定且位姿可求，该标识区域内的特征点会被强化，在后端图优化时，会调整这些特征点所构成的约束权重，充分信任该观测。

步骤3，基于调整后的约束权重对待优化变量进行联合优化，得到目标位姿。在一些实施方式中，如果待优化变量包括车辆初始位姿、地图点初始坐标和标识初始位姿，则将基于调整后的约束权重对上述车辆初始位姿、地图点初始坐标和标识初始位姿添加标识平面约束、标识尺度约束和视觉重投影约束；如果待优化变量包括车辆初始位姿和所述地图点初始坐标，则将基于调整后的约束权重对上述车辆初始位姿和地图点初始坐标添加视觉重投影约束。本发明实施通过后端对地图点初始坐标、标识初始位姿、车辆初始位姿进行联合优化，动态调整的约束权重。为便于理解，本发明实施例提供了如图5所示的一种后端流程示意图，该方法主要包括以下步骤S502至步骤S520：

步骤S502，取出共视图中待优化的局部关键帧队列。其中，局部关键帧队列可以理解为关键帧集合的子集。在一种实施方式中，可以遍历局部关键帧队列中包含的队列成员，并对每个队列成员逐一添加约束。

步骤S504，判断局部关键帧队列是否为空。如果是，执行步骤S506；如果否，执行步骤S508。

步骤S506，车辆初始位姿、标识初始位姿和地图点初始坐标的联合优化。当局部关键帧队列流空时，或当所有约束添加完成时，可以开始优化计算，完成后端优化。

步骤S508，从局部关键帧队列取出一个队列成员。

步骤S510，判断该队列成员中是否存在标识。如果是，执行步骤S512；如果否，执行步骤S518。

步骤S512，增加标识区域平面约束。其中，标识区域平面约束是指由于标识区域内的特征点在同一平面上，在后端局部BA优化时增加了这些特征点的平面约束，在区域内得到更为准确的特征点位姿，并将标识作为一个整体进行位姿优化。具体地，标识作为一个平面，各角点之前有着物理位置的约束，不能简单地把标识的BA优化问题当成点优化的问题，应优化调整标识坐标系姿态来调整各角点的空间位置，优化变量从角点的三轴坐标变成了标识坐标系的SE3六轴位姿。

步骤S514，计算尺度权重。其中，尺度权重也可理解为尺度约束的约束权重，尺度权重的影响因素包括标识在关键帧中的数量和像素大小。

步骤S516，增加尺度约束。如果检测到标识，还需要为其添加尺度约束。尺度约束是指在后端局部BA优化中建立车辆与标识间的约束，并根据车辆与标识的距离和角度，调节该约束权重，实现动态的尺度约束。具体地，标识在图像中的大小和角度，决定了其对尺度估计的准确性，标识在图像中越大、角度越好，对尺度估计也就越理想，此类标识会在优化中占据更大的权重。本发明实施例通过计算关键帧中标识的权重，灵活调节尺度约束。

步骤S518，计算视觉重投影权重。其中，视觉重投影权重也可以理解为视觉重投影约束的约束权重，该视觉重投影权重的影响因素包括关键帧中是否存在标识、尺度权重的大小以及区域特征加权。

步骤S520，增加视觉重投影约束。本发明实施例为每个队列成员都添加了视觉重投影约束，不论关键帧中是否检测到标识均会为该关键帧的特征点添加视觉重投影约束，应当注意的是，标识的检验结果会影响视觉重投影约束的约束权重，例如若关键帧中检测到标识，则会缩小视觉重投影约束权重；若未检测到标识，则放大视觉重投影约束权重。另外，标识尺度约束也会影响视觉重投影约束权重，例如，标识尺度约束越大，视觉重投影约束越小；标识尺度约束越小，视觉重投影约束越大。此外，临时地图点是否为标识对应的特征点，也会影响视觉重投影约束，具体可参见前述步骤2中的方式二，本发明实施例在此不再赘述。

考虑到传统的3D特征点云地图，由于描述子对环境、光照等因素的变化太过敏感，导致其地图重用性较差，甚至根本不可用，无法在自动驾驶领域量产应用。基于此，本发明实施例借助场端标识，提出了一种标识地图，极大地改善了传统方法中的地图重用性差的问题。其中，标识地图是指所建立的地图仅包含标识信息，特征点所生成的临时地图点仅在局部地图中保留，当地图点不在共视图中时将被移除。由于标识地图对环境、光照等因素的变化有极高的适应性，从而极大地增强了标识地图的重用性。

基于前述实施例提供的标识地图的建立方法，本发明实施例提供了一种视觉定位方法，该方法应用于智能车辆，智能车辆放置在目标场地，智能车辆配置有用于采集指定场地的图像帧的采集设备，目标场地内布设有多个标识，参见图6所示的一种视觉定位方法的流程示意图，该方法主要包括以下步骤S602至步骤S606：

步骤S602，获取标识地图。其中，标识地图是采用前述实施例提供的标识地图的建立方法建立得到的，标识地图包括各个标识对应的标识信息。在实际应用中，若视觉定位失败，则将尝试执行重定位操作，具体的，首先当前帧存在可被识别的标识时，将用识别出来的标识ID在地图中搜索，锁定重定位候选帧，然后将当前帧与候选帧中的标识进行位姿匹配得到车辆位姿。

步骤S604，如果当前帧可识别到标识，基于当前帧中可识别的标识的位姿匹配确定智能车辆的车辆位姿。其中，车辆位姿为6自由度的变量。

步骤S606，如果当前帧未识别到标识，利用航迹推演算法确定智能车辆的车辆位姿。本发明实施例在进行视觉定位时，无需提取特征，可以仅识别指定场地内的标识。对于无标识的区域利用车辆信息进行航迹推演，对于有标识的区域，可以修正累积误差，而且定位效果对光照、场景变化不敏感，从而有效提高适用性。

本发明实施例提供的上述视觉定位方法，利用重用性较高的标识地图进行视觉定位，可以有效提高视觉定位的鲁棒性和适应性，而且本发明实施例还可以针对当前帧中是否包含标识而采取相应方式进行定位，不仅进一步提高了视觉定位方法的适应性，而且有效降低了视觉定位对场端标识的依赖程度。

综上所述，本发明实施例提供的标识地图的建立方法、视觉定位方法及装置至少具有以下特点：

(1)较高的建图和定位精度。本发明实施例利用已知大小的场端标识，有效地恢复了单目尺度，抑制了尺度漂移，得到了与真实环境更加接近的地图，提高了定位精度。

(2)较为鲁棒的视觉建图效果。本发明利用标识分布的灵活性，在转弯、纹理不丰富、光照不理想等地方增加标识数量，有效提升了视觉建图效果与鲁棒性。

(3)重用性更好的地图。本发明实施例提出了一种仅包含标识信息的地图，该地图对于环境变化和光照影响有着更好的表现，相比于传统的特征点云地图，大幅提高了地图重用性。

(4)轻量级的算力消耗。本发明实施例利用标识信息，在初始化、后端等部分都做了算法加速，在定位时无需提取特征，节约了大量算力消耗。

(5)较好的适用性和拓展性。本发明实施例虽然是基于场端的方法，但施工过程简单，不需要前期的场端改建和测绘，只需要在场端合理布置已知的标识，成本不高，更容易维护。

对于前述实施例提供的标识地图的建立方法，本发明实施例提供了一种标识地图的建立装置，该装置应用于智能车辆，智能车辆放置在指定场地，智能车辆配置有用于采集指定场地的图像帧的采集设备，指定场地内布设有多个标识，参见图7所示的一种标识地图的建立装置的结构示意图，该装置主要包括以下部分：

前端模块702，用于当智能车辆在指定场地内进行建图时，根据采集的指定场地的图像帧确定初始位姿；其中，初始位姿包括智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和图像帧中可识别的标识的标识初始位姿。

后端模块704，用于基于预设的动态约束对初始位姿进行联合优化，得到目标位姿；其中，目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿。

建图模块706，用于根据目标位姿建立指定场地的标识地图，并在临时地图点移出共视区域时删除该临时地图点，直至标识地图建立完毕；其中，标识地图包括各个标识对应的标识信息。

本发明实施例提供的一种标识地图的建立装置，在建图过程中，基于目标位置建立标识地图，并在临时地图点移出共视区域时删除该临时地图点，也即本发明实施例利用临时地图点建立标识地图，该标识地图将仅包含有各个标识对应的标识信息，从而有效提高了标识地图的重用性。

在一种实施方式中，上述装置还包括初始化模块，用于：如果检测到指定场地内的至少一个标识，设定当前帧为所述指定场地的初始帧；识别初始帧中所包含的标识对应的标识信息；其中，标识信息包括标识ID、标识尺寸、标识中心点坐标、标识角点坐标中的一种或多种；基于初始帧中所包含的标识对应的标识信息执行初始化操作；其中，初始化操作包括初始尺度恢复。

在一种实施方式中，前端模块702还用于：如果智能车辆完成初始化操作，利用当前帧、当前帧对应的相邻帧和临时地图点进行建图，并在临时地图点移出共视区域时删除该临时地图点；其中，临时地图点是基于关键帧生成的，关键帧是从图像帧中选取得到的。

在一种实施方式中，后端模块704还用于：从车辆初始位姿、地图点初始坐标和标识初始位姿中确定待优化变量，以及确定待优化变量对应的动态约束；其中，动态约束包括标识尺度约束、标识平面约束、视觉重投影约束中的一种或多种；对待优化变量对应的动态约束的约束权重进行动态调整；基于调整后的约束权重对待优化变量进行联合优化，得到目标位姿。

在一种实施方式中，后端模块704还用于：如果当前帧中可识别到标识，将车辆初始位姿、地图点初始坐标和标识初始位姿均确定为待优化变量，并确定该待优化变量对应的动态约束为平面约束、尺度约束和视觉重投影约束；如果当前帧中未识别到标识，将车辆初始位姿和所述地图点初始坐标确定为待优化变量，并确定该待优化变量对应的动态约束为视觉重投影约束。

在一种实施方式中，后端模块704还用于：基于当前帧中包含的标识数量和/或标识像素大小，调整所述待优化变量对应的动态约束的约束权重；所述方法还包括：对于所述当前帧对应的每个临时地图点，如果该临时地图点为所述当前帧中包含的标识对应的特征点，增强该临时地图点对应的视觉重投影约束权重。

对于前述实施例提供的视觉定位方法，本发明实施例提供了一种视觉定位装置，该装置应用于智能车辆，智能车辆放置在目标场地，智能车辆配置有用于采集指定场地的图像帧的采集设备，目标场地内布设有多个标识，参见图8所示的一种视觉定位装置的结构示意图，该装置主要包括以下部分：

地图获取模块802，用于获取标识地图；其中，标识地图是采用如前述实施例提供的标识地图的建立方法建立得到的，标识地图包括各个标识对应的标识信息。

第一定位模块804，用于如果当前帧可识别到标识，基于当前帧中可识别的标识的位姿匹配确定智能车辆的车辆位姿。

第二定位模块806，用于如果当前帧未识别到标识，利用航迹推演算法确定智能车辆的车辆位姿。

本发明实施例提供的一种视觉定位装置，利用重用性较高的标识地图进行视觉定位，可以有效提高视觉定位的鲁棒性和适应性，而且本发明实施例还可以针对当前帧中是否包含标识而采取相应方式进行定位，不仅进一步提高了视觉定位方法的适应性，而且有效降低了视觉定位对场端标识的依赖程度。

本发明实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。

本发明实施例提供了一种电子设备，具体的，该电子设备包括处理器和存储装置；存储装置上存储有计算机程序，计算机程序在被所述处理器运行时执行如上所述实施方式的任一项所述的方法。

图9为本发明实施例提供的一种电子设备的结构示意图，该电子设备100包括：处理器90，存储器91，总线92和通信接口93，所述处理器90、通信接口93和存储器91通过总线92连接；处理器90用于执行存储器91中存储的可执行模块，例如计算机程序。

其中，存储器91可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口93(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。

总线92可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图9中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

其中，存储器91用于存储程序，所述处理器90在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器90中，或者由处理器90实现。

处理器90可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器90中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器90可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessing，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器91，处理器90读取存储器91中的信息，结合其硬件完成上述方法的步骤。

本发明实施例所提供的可读存储介质的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见前述方法实施例，在此不再赘述。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (11)

1.一种标识地图的建立方法，其特征在于，所述方法应用于智能车辆，所述智能车辆放置在指定场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述指定场地内布设有多个标识，所述方法包括：

当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿；其中，所述初始位姿包括所述智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和所述图像帧中可识别的标识的标识初始位姿；

基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿；其中，所述目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿；

根据所述目标位姿建立所述指定场地的标识地图，并在所述临时地图点移出共视区域时删除该临时地图点，直至所述标识地图建立完毕；其中，所述标识地图包括各个所述标识对应的标识信息。

2.根据权利要求1所述的方法，其特征在于，在当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿的步骤之前，所述方法还包括：

如果检测到所述指定场地内的至少一个标识，设定当前帧为所述指定场地的初始帧；

识别所述初始帧中所包含的标识对应的标识信息；其中，所述标识信息包括标识ID、标识尺寸、标识中心点坐标、标识角点坐标中的一种或多种；

基于所述初始帧中所包含的标识对应的标识信息执行初始化操作；其中，所述初始化操作包括初始尺度恢复。

3.根据权利要求1所述的方法，其特征在于，所述智能车辆在所述指定场地内进行建图的步骤，包括：

如果所述智能车辆完成初始化操作，利用当前帧、所述当前帧对应的相邻帧和临时地图点进行建图，并在所述临时地图点移出共视区域时删除该临时地图点；其中，所述临时地图点是基于关键帧生成的，所述关键帧是从所述图像帧中选取得到的。

4.根据权利要求1所述的方法，其特征在于，基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿的步骤，包括：

从所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿中确定待优化变量，以及确定所述待优化变量对应的动态约束；其中，所述动态约束包括标识尺度约束、标识平面约束、视觉重投影约束中的一种或多种；

对所述待优化变量对应的动态约束的约束权重进行动态调整；

基于调整后的约束权重对所述待优化变量进行联合优化，得到目标位姿。

5.根据权利要求4所述的方法，其特征在于，从所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿中确定待优化变量，以及确定所述待优化变量对应的动态约束的步骤，包括：

如果当前帧中可识别到所述标识，将所述车辆初始位姿、所述地图点初始坐标和所述标识初始位姿均确定为待优化变量，并确定该待优化变量对应的动态约束为所述标识平面约束、所述标识尺度约束和所述视觉重投影约束；

如果当前帧中未识别到所述标识，将所述车辆初始位姿和所述地图点初始坐标确定为待优化变量，并确定该待优化变量对应的动态约束为所述视觉重投影约束。

6.根据权利要求5所述的方法，其特征在于，对所述待优化变量对应的动态约束的约束权重进行动态调整的步骤，包括：基于当前帧中包含的标识数量和/或标识像素大小，调整所述待优化变量对应的动态约束的约束权重；

所述方法还包括：对于所述当前帧对应的每个临时地图点，如果该临时地图点为所述当前帧中包含的标识对应的特征点，增强该临时地图点对应的约束权重。

7.一种视觉定位方法，其特征在于，所述方法应用于智能车辆，所述智能车辆放置在目标场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述目标场地内布设有多个标识，所述方法包括：

获取标识地图；其中，所述标识地图是采用如权利要求1-6任一项所述的标识地图的建立方法建立得到的，所述标识地图包括各个所述标识对应的标识信息；

如果当前帧可识别到所述标识，基于所述当前帧中可识别的标识的位姿匹配确定所述智能车辆的车辆位姿；

如果当前帧未识别到所述标识，利用航迹推演算法确定所述智能车辆的车辆位姿。

8.一种标识地图的建立装置，其特征在于，所述装置应用于智能车辆，所述智能车辆放置在指定场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述指定场地内布设有多个标识，所述装置包括：

前端模块，用于当所述智能车辆在所述指定场地内进行建图时，根据采集的所述指定场地的图像帧确定初始位姿；其中，所述初始位姿包括所述智能车辆的车辆初始位姿、临时地图点的地图点初始坐标和所述图像帧中可识别的标识的标识初始位姿；

后端模块，用于基于预设的动态约束对所述初始位姿进行联合优化，得到目标位姿；其中，所述目标位姿包括车辆目标位姿、地图点目标坐标和标识目标位姿；

建图模块，用于根据所述目标位姿建立所述指定场地的标识地图，并在所述临时地图点移出共视区域时删除该临时地图点，直至所述标识地图建立完毕；其中，所述标识地图包括各个所述标识对应的标识信息。

9.一种视觉定位装置，其特征在于，所述装置应用于智能车辆，所述智能车辆放置在目标场地，所述智能车辆配置有用于采集所述指定场地的图像帧的采集设备，所述目标场地内布设有多个标识，所述装置包括：

地图获取模块，用于获取标识地图；其中，所述标识地图是采用如权利要求1-6任一项所述的标识地图的建立方法建立得到的，所述标识地图包括各个所述标识对应的标识信息；

第一定位模块，用于如果当前帧可识别到所述标识，基于所述当前帧中可识别的标识的位姿匹配确定所述智能车辆的车辆位姿；

第二定位模块，用于如果所述当前帧未识别到所述标识，利用航迹推演算法确定所述智能车辆的车辆位姿。

10.一种电子设备，其特征在于，包括存储器以及处理器；所述存储器中存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述权利要求1至6任一项所述的方法的步骤，或执行所述计算机程序时实现上述权利要求7所述的方法的步骤。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行所述权利要求1至6任一项所述的方法，或促使所述处理器运行所述权利要求7所述的方法。

Images