CN115272487A - 相机位姿估计方法、装置、存储介质和电子设备 - Google Patents

Abstract

本公开实施例公开了一种相机位姿估计方法、装置、存储介质和电子设备，其中，方法包括：基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像；基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线；基于至少两条所述第一直线、至少两条所述第二直线和所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系；基于所述位置关系，确定所述相机对应的至少一个姿态角。

Description

相机位姿估计方法、装置、存储介质和电子设备

技术领域

本公开涉及计算机视觉技术领域，尤其是一种相机位姿估计方法、装置、存储介质和电子设备。

背景技术

视觉感知在当前自动驾驶场景中扮演重要角色，为自车提供周围环境的感知信息，为保证感知功能的正常使用，汽车生产厂商通常会对视觉传感器进行产线/工厂标定，从而获取较好的相机外参(主要包括摄像头的位姿信息)。多数产线/工厂标定均需要快速准确，所以标志物不可或缺，因此，针对不同标志物适配标定算法必不可少；当前相机的标定方案主要依赖的标定物有棋盘格、April Tag等规则形状的标定物，当标定物形状不规则时，无法实现相机位姿的确定。

发明内容

为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种相机位姿估计方法、装置、存储介质和电子设备。

根据本公开实施例的一个方面，提供了一种相机位姿估计方法，包括：

基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像；

基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线；其中，所述预设标定板为所述至少一个标定板中的一个标定板，所述至少两条第一直线之间相互平行，所述至少两条第二直线之间相互平行，每条所述第一直线与每条所述第二直线相互垂直；

基于至少两条所述第一直线、至少两条所述第二直线和所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系；

基于所述位置关系，确定所述相机对应的至少一个姿态角。

根据本公开实施例的另一方面，提供了一种相机位姿估计装置，包括：

图像采集模块，用于基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像；

直线提取模块，用于基于所述图像采集模块采集的标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线；其中，所述预设标定板为所述至少一个标定板中的一个标定板，所述至少两条第一直线之间相互平行，所述至少两条第二直线之间相互平行，每条所述第一直线与每条所述第二直线相互垂直；

方向确定模块，用于基于所述直线提取模块确定的至少两条所述第一直线和至少两条所述第二直线，以及所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系；

位姿确定模块，用于基于所述方向确定模块确定的位置关系，确定所述相机对应的至少一个姿态角。

根据本公开实施例的又一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一实施例所述的相机位姿估计方法。

根据本公开实施例的还一方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述任一实施例所述的相机位姿估计方法。

基于本公开上述实施例提供的一种相机位姿估计方法、装置、存储介质和电子设备，本实施例通过对标定物的位置进行提取，无需限定标定物的形状，只需标定物的分布符合直线提取的条件，即可抽象出用于估计位姿的至少两条第一直线和至少两条第二直线，降低了标定板配置的难度。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开一示例性实施例提供的相机位姿估计方法的流程示意图；

图2a是本公开一示例性实施例提供的一个标定板示意图；

图2b是本公开一示例性实施例提供的另一标定板示意图；

图3a对如图2a所示的标定板进行位置提取得到的直线示意图；

图3b对如图2b所示的标定板进行位置提取得到的直线示意图；

图4是本公开图1所示的实施例中步骤104的一个流程示意图；

图5a是本公开图1所示的实施例中步骤106的一个流程示意图；

图5b是本公开一示例性实施例提供的一种位置关系确定示意图；

图6a是本公开图1所示的实施例中步骤108的一个流程示意图；

图6b对图5b所示的方向向量转换到相机坐标系下的坐标表示图；

图6c对图6b所示的实施例对齐俯仰角和横滚角后的坐标表示图；

图6d对图6c所示的实施例对齐偏航角后的坐标表示图；

图7是本公开另一示例性实施例提供的相机位姿估计方法的流程示意图；

图8是本公开图7所示的实施例中步骤702的一个流程示意图；

图9a是本公开一示例性实施例提供的相机位姿估计装置的结构示意图；

图9b是本公开另一示例性实施例提供的相机位姿估计装置的结构示意图；

图10是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

在实现本公开的过程中，发明人发现，现有相机位姿的标定方法中，需要标定板上的标定物具有规则形状，例如，棋盘格、April Tag等，但现有技术至少存在以下问题：位姿估计依赖于标定物的形状，当标志物形状发生变化时，原有标定算法需要重新开发才能适配。

示例性方法

图1是本公开一示例性实施例提供的相机位姿估计方法的流程示意图。本实施例可应用在电子设备上，如图1所示，包括如下步骤：

步骤102，基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像。

其中，移动设备可以为车辆、船只、飞行器等设备，进行图像采集之前，可将移动设备移动到设定空间中进行固定，例如，通过限位装置(例如，限位导轨等)约束移动设备的位置和朝向等；控制移动设备固定在设定位置上，并通过相机对至少一个标定板进行图像采集，得到的标定图像中包含至少一个标定板，例如，在一个可选示例中，对预设空间中的任意一个标定板进行图像采集，得到如图2a所示的标定图像；又例如，在另一可选示例中，对预设空间中的任意一个标定板进行图像采集，得到如图2b所示的标定图像，并且，由图2b可知，本实施例不限制相机与标定板之间角度，可以为正向对应(标定板所在平面与相机平面平行，如图2a)，或存在一定倾斜角度(标定板所在平面与相机平面存在一定角度，如图2b)，标定板与相机之间的角度不影响位姿估计的结果，降低了标定板的设置难度以及移动设备的位置限定难度。

在一个可选实施例中，移动设备为车辆，将车辆移动至设定空间中，通过限位导轨约束自车姿态朝向，将该车辆与预设标准姿态对齐后，进行图像采集，其中，预设标准姿态为车辆后轴或前轴中心的地面点与设定空间对应的空间坐标系的原点重合，并且，自车坐标系的x轴和y轴分别与空间坐标系的x轴和y轴重合，在预设标准姿态可以快速定位相机的位置(相机相对车辆的位置已知，车辆出厂时已经确定)，在固定车辆相对预设空间的姿态后，可快速定位到相机相对于预设空间的位置，加快相机位姿估计的速度，但预设标准姿态并非位姿估计的必要条件。

步骤104，基于标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线。

其中，预设标定板为至少一个标定板中的一个标定板，至少两条第一直线之间相互平行，至少两条第二直线之间相互平行，每条第一直线与每条第二直线相互垂直。

可选地，本实施例中的每个标定板中包括的所有标定物的形状通常一样，本实施例不限制标定物的形状，标定物可以为任意形状，例如，圆形、矩形、五角星、三角形、其他不规则形状等等；本实施例通过对预设标定板中多个标定物的位置进行提取，确定多个标定物的分布，基于多个标定物的分布可提取得到至少两条第一直线和至少两条第二直线；例如，对如图2a所示的标定板进行位置提取，可在标定图像中得到如图3a所示的多条直线，其中，可基于横向分布的所有直线确定世界坐标系下的标定板中的多条第一直线，基于纵向分布的所有直线确定世界坐标系下的标定板中的多条第二直线；又例如，对如图2b所示的标定板进行位置提取，可在标定图像中得到如图3b所示的多条直线，其中，可基于横向倾斜分布的所有直线确定世界坐标系下的标定板中的多条第一直线，基于纵向倾斜分布的所有直线确定世界坐标系下的标定板中的多条第二直线；本实施例中的所有第一直线和所有第二直线均为基于标定图像中的直线确定的标定板中的标定物的分布直线，第一直线和第二直线之间的关系由标定板中标定物的分布确定。

步骤106，基于至少两条第一直线、至少两条第二直线和相机对应的原点，确定预设标定板所在的第一平面与相机对应的相机坐标系之间的位置关系。

本实施例中，在已知至少两条第一直线、至少两条第二直线和相机对应的原点的前提下，可利用空间几何关系将标定板对应的x轴和y轴转换到相机坐标系下，由于预设标定板在世界坐标系中仅对应一个第一平面，在将x轴和y轴转换到相机坐标系后，即可确定该第一平面与相机坐标系之间的位置关系。

步骤108，基于位置关系，确定相机对应的至少一个姿态角。

本实施例中，在确定位置关系后，可知标定板所在的第一平面与相机坐标系的至少一个坐标轴之间的偏移量，基于至少一个坐标轴的偏移量可确定相机相对于标定板的至少一个姿态角。

本公开上述实施例提供的一种相机位姿估计方法，本实施例通过对标定物的位置进行提取，无需限定标定物的形状，只需标定物的分布符合直线提取的条件，即可抽象出用于估计位姿的至少两条第一直线和至少两条第二直线，降低了标定板配置的难度。

如图4所示，在上述图1所示实施例的基础上，步骤104可包括如下步骤：

步骤1041，基于标定图像中包含的至少一个标定板，确定预设标定板中阵列分布的多个标定物中每个标定物的特征点。

其中，每个标定物对应一个特征点，可选地，该特征点可以为标定物的角点或中心点等。

本实施例中，通过对标定图像进行特征点识别(可利用深度学习技术、或角点识别等图像识别技术确定特征点在标定图像中的位置)，可确定预设标定板在标定图像中对应的多个特征点，结合相机内参(已知)和图像中的多个特征点，以及预设标定板在世界坐标系中的位置信息，即可基于图像中(对应图像坐标系)的特征点通过坐标系转换，确定预设标定板中每个标定物在世界坐标系中的特征点位置。

步骤1042，基于多个特征点之间的连线，确定多条直线。

由于预设标定板中的多个标定物呈阵列分布，每个特征点表示一个标定物的位置，因此，连接每两个相邻的特征点，即可得到多条直线。

步骤1043，对多条直线进行分类处理，得到至少两条第一直线和至少两条第二直线。

本实施例中，在确定了多条直线后，通过直线之间的垂直和平行关系，将一组相互平行的多条直线确定为多条第一直线，将与第一直线垂直，且相互平行的多条直线确定为多条第二直线；本实施例通过对预设标定板中的标定物的分布进行提取，只需标定板中的标定物的分布符合阵列分布，即可提取得到多条第一直线和多条第二直线，由于不限制标定物的形状，实现了可以覆盖多种标定物设计方案，更便于实施。

可选地，在一些可选实施例中，在执行步骤104之前，还可以包括：

基于相机的内参信息，对标定图像执行去畸变操作，得到去畸变后的标定图像。

可选地，由于相机内参包括内参矩阵和畸变参数矩阵，本实施例中的相机内参已知，因此，已知畸变参数矩阵，通过畸变参数矩阵对标定图像执行去畸变操作，可得到去畸变后的标定图像。

在该实施例中，步骤104包括：

基于去畸变后的标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线。

本实施例中，通过去畸变后的标定图像进行直线提取，提高了得到的第一直线和第二直线的准确度，进而提高了基于第一直线和第二直线估计的相机的姿态角的准确性。

如图5a所示，在上述图1所示实施例的基础上，步骤106可包括如下步骤：

步骤1061，基于至少两条第一直线中的两条第一直线，分别与原点确定两个第二平面，基于两个第二平面之间的交线确定预设标定板所在的第一平面中第一坐标轴在相机坐标系下的第一方向向量。

可选地，如图5b所示，至少两条第一直线中的两条第一直线分别为第一直线AB和第一直线CD，基于第一直线AB和原点O构成一个第二平面OAB，基于第一直线CD和原点O构成一个第二平面OCD，第二平面OAB和第二平面OCD之间的交线OV即为第一方向向量，表示第一平面的第一坐标轴(例如，x轴)在相机坐标系下的第一方向向量。

步骤1062，基于至少两条第二直线中的两条第二直线，分别与原点确定两个第三平面，基于两个第三平面之间的交线确定预设标定板对应的第一平面中第二坐标轴在相机坐标系下的第二方向向量。

可选地，如图5b所示，至少两条第二直线中的两条第二直线分别为第二直线AC和第二直线BD，基于第二直线AC和原点O构成一个第三平面OAC，基于第二直线BD和原点O构成一个第三平面OBD，第三平面OAC和第三平面OBD之间的交线OU即为第二向向量，表示第一平面的第二标轴(例如，y轴)在相机坐标系下的第二方向向量。

本实施例中，得到的第一方向向量和第二方向向量分别为标定板所在的第一平面(即，标定板对应的直角坐标系)的两个坐标轴的方向向量；通过将第一方向向量和第二方向向量转换到相机坐标系下，即可通过第一方向向量和第二方向向量与相机坐标系中的至少一个坐标轴之间的夹角来确定相机的至少一个姿态角；本实施例实现了仅利用几何解析运算实现姿态角的估计，算力需求低，可应用于更多算力较低的系统和场景中。

本实施例中，图5a仅示意出一种步骤106包括步骤1061和步骤1062的实施例，除此之外，步骤106还可以只包括步骤1061，或步骤106只包括步骤1062。

如图6a所示，在上述图1所示实施例的基础上，步骤108可包括如下步骤：

步骤1081，将第一方向向量投影到相机坐标系下的yoz平面中，得到第一方向向量对应的第三直线；基于第三直线与相机坐标系的y轴的夹角，确定相机对应的横滚角。

本实施例中，第一方向向量表示标定板的y轴在相机坐标系中的方向，当相机的横滚角和偏航角符合标定板对应的预设姿态时，该第一方向向量应与相机坐标系的y轴重合，因此，将第一方向向量投影到yoz平面，可确定横滚角的偏移量，将第一方向向量投影到xoy平面，可确定偏航角的偏移量；本实施例通过投影确定第一方向向量在yoz平面中的分量，得到第三直线，该第三直线与相机坐标系的y轴的夹角即可表示相机相对移动设备对应的预设姿态的偏移量，即，该夹角即为相机对应的横滚角。

步骤1082，将第二方向向量投影到相机坐标系下的xoz平面中，得到第二方向向量对应的第四直线；基于第四直线与相机坐标系的x平面的夹角，确定相机对应的俯仰角。

本实施例中，第二方向向量表示标定板的x轴在相机坐标系中的方向，当相机的俯仰角和偏航角符合标定板对应的预设姿态时，该第二方向向量应与相机坐标系的x轴重合，因此，将第二方向向量投影到xoz平面，可确定俯仰角的偏移量，将第二方向向量投影到xoy平面，可确定偏航角的偏移量；本实施例通过投影确定第二方向向量在xoz平面中的分量，得到第四直线，该第四直线与相机坐标系的x轴的夹角即可表示相机相对移动设备对应的预设姿态的偏移量，即，该夹角即为相机对应的俯仰角；例如，在一个可选示例中，将图5b中的OV和OU进行归一化并转换到相机坐标系下，可得如图6b所示的坐标表示图(图5b中的OV和OU转换后表示为图6b中的ov和ou)；通过平面坐标转换可以求解出相机对应的俯仰角和横滚角；最后通过对齐坐标系主方向即可获取待校准的偏航角，对齐后的坐标系示意图如图6c所示；本实施例仅通过几何解析运算即可确定相机对应的横滚角和/或俯仰角，算力要求低，加快了姿态角的估计速度。

本实施例中，图6a仅示意出一种步骤108包括步骤1081和步骤1082的实施例，除此之外，步骤108还可以只包括步骤1081，或步骤108只包括步骤1082。

在一些可选的实施例中，步骤108还可以包括：

将第一方向向量投影到相机坐标系下的xoy平面中，得到第三直线；基于第三直线与xoy平面中x轴的夹角，确定相机对应的偏航角。

基于上述图6c所示的实施例可知，调整了横滚角和俯仰角之后，标定板中的第一坐标轴和第二坐标轴在相机坐标系的xoy平面中仍与相机坐标系的x轴和y轴存在偏差，为了实现校准后得到如图6d所示的坐标系对齐示意图，本实施例通过第三直线(如图6d中的ov)与xoy平面中x轴(如图6d中的ox)的夹角作为相机的偏航角，或者通过第四直线与xoy平面中y轴的夹角作为相机的偏航角。

或者，将第二方向向量投影到相机坐标系下的xoy平面中，得到第四直线；基于第四直线与xoy平面中y轴的夹角，确定相机对应的偏航角。

其中，第四直线与第三直线相互垂直。

本实施例中，由于第四直线与第三直线相互垂直，并且，相机坐标系中的x轴和y轴相互垂直，因此，基于第三直线或第四直线确定偏航角的结果是相同的，可以采用其中任意一种方法确定偏航角，本实施例仅基于简单的平面内的直线与坐标轴之间的夹角确定相机的偏航角，极大的简化了偏航角的估计过程，更便于快速估计相机的姿态角，并可实现基于算力较小的设备实现相机的姿态角估计。

图7是本公开另一示例性实施例提供的相机位姿估计方法的流程示意图。本实施例中相机的数量为多个，如图7所示，本实施例提供的方法还可以包括：

步骤701，对设置在移动设备上的多个相机分别进行预测，得到多个位姿信息。

其中，位姿信息包括至少一个姿态角，每个位姿信息对应一个相机。

本实施例可基于上述图1-6任一实施例提供的位姿估计方法，分别确定多个相机中每个相机对应的位姿信息。

步骤702，基于多个相机中每两个相邻的相机采集的标定图像之间的重合部分，对每两个相邻的相机中的一个相机对应的位姿信息进行矫正，得到多个相机对应的矫正后的位姿信息构成的位姿组合。

本实施例中，当相机的数量为多个时，相邻的相机采集的图像之间会存在重合部分，该重合部分表示这部分的标定板会同时出现在相邻的两个相机采集的标定图像中，由于具有重合部分，在一个相机对应的位姿信息确定的前提下，可基于该相机的位姿信息作为基准对其他相机对应的位姿信息进行矫正，对多个相机都进行矫正后，即可得到矫正后的位姿组合，本实施例中，由于矫正过程仅需具有一个准确位姿信息即可，因此，先验知识只需确定一个标定板的位置即可，相对于现有技术中需要确定每个标定板的位置才能实现多个相机的位姿估计，本实施例仅需已知一个标定板的位置，不依赖于过多的已知信息，可以适用于大多数的标定空间，实现多相机产线标定的通用方案。

本实施例还存在另一种情况，基于一个已知位置的标准标定板确定一个相机的位姿信息，基于该相机的位姿信息确定与另一相机重合部分中的标定板的位置信息，在以确定标定板的位置信息确定另一相机的位姿信息，以此类推，得到多个相机对应的多个位姿信息，该种情况下仅需已知一个标定板的位置信息，更便于实施。

如图8所示，在上述图7所示实施例的基础上，至少一个标定板中包括一个标准标定板，标准标定板具有已知的位置信息；步骤702可包括如下步骤：

步骤7021，确定多个相机中每两个相邻的相机为一组相机组。

其中，每组相机组包括第一相机和第二相机。

本实施例中，为了便于矫正，将每两个相邻的相机确定为一组相机组，由于多个相机相对于移动设备通常为环形设置，通过环形设置实现对移动设备四周的图像实现采集，更利于提高移动设备在移动过程中的安全程度，因此，相机组的数量与相机的数量相同，例如，相机数量为6个，分别为：a相机、b相机、c相机、d相机、e相机、f相机，基于这些相机构成的相机组包括：第一相机组：a相机和b相机，第二相机组：b相机和c相机，第三相机组：c相机和d相机，第四相机组：d相机和e相机，第五相机组：e相机和f相机，第六相机组：f相机和a相机。

步骤7022，基于标准标定板，确定参照相机对应的参照位姿信息。

其中，参照相机为多个相机中采集的标定图像中包括标准标定板和至少一个其他标定板的相机。

本实施例中，标准标定板的位置已知，基于该标准标定板确定位姿信息是准确的，因此，将采集的图像中包括标准标定板的相机作为参照相机，后续对其他位姿信息的调整基于该参照信息的位姿信息进行。

步骤7023，基于参照位姿信息，确定参照相机对应的标定图像中的至少一个其他标定板的位置信息，基于位置信息调整以参照相机作为第一相机的相机组中的第二相机对应的位姿信息。

在确定参照位姿信息之后，基于该参照位姿信息可确定参照相机对应的其他标定板的位置信息，基于该确定位置后的标定板可对同时采集该标定板的第二相机的位姿信息进行调整，获得相对准确的第二相机的位姿信息。

步骤7024确定在以调整后的位姿信息对应的第二相机作为第一相机的相机组中的第二相机是否为参照相机；如果相机组中的第二相机为参照相机，结束矫正；否则，执行步骤7025。

在逐个矫正相机组中的第二相机的位姿信息的过程中，当待调整的第二相机作为参照相机时，例如，上述示例中，当调整到第六相机组时，第二相机为a相机，而a相机为参照相机，此时，无需对该相机的位姿信息进行调整，结束矫正，得到所有相机的矫正后的位姿信息。

步骤7025，基于调整后的位姿信息，确定相机组中的第一相机采集的标定图像对应的所有标定板的位置信息，基于位置信息调整相机组中第二相机对应的位姿信息，返回执行步骤7024。

而当相机组中待矫正位姿信息的第二相机不是参照相机时，例如，上述示例中，从第二相机组调整到第五相机组的过程中，通过调整后的位姿信息矫正第二相机对应的位姿信息，具体过程与基于参照位姿调整对应相机组中的第二相机的位姿信息的过程相同，在此不再赘述。

本实施例通过相邻相机之间的共视区域(体现在两个相机采集的图像中的重合部分)建立约束，对多相机的位姿信息进行联合优化，可求解出较优的位姿信息组合；当然，通过矫正得到的位姿信息组合并不一定符合要求，在结束矫正后可通过验证确定位姿信息组合是否符合要求，该验证方法可以包括但不限于：拼接验证，例如，在上述步骤7024中，当识别到相机组中的第二相机为参照相机时，通过该相机组中的第一相机对应的位姿信息确定所有标定板的位置信息，基于该位置信息调整参照相机的位姿信息，当调整后的位姿信息与参照相机的原位姿信息的差值在设定范围(可根据实际场景进行设置)内时，可认为多个相机对应的图像可以实现拼接，即相机组对应的位姿信息组合符合要求；否则，相机组对应的位姿信息组合不符合要求，可发送错误提示。

本公开实施例提供的任一种相机位姿估计方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种相机位姿估计方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种相机位姿估计方法。下文不再赘述。

示例性装置

图9a是本公开一示例性实施例提供的相机位姿估计装置的结构示意图。如图9a所示，本实施例提供的装置包括：

图像采集模块91，用于基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像。

直线提取模块92，用于基于图像采集模块91采集的标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线。

其中，预设标定板为至少一个标定板中的一个标定板，至少两条第一直线之间相互平行，至少两条第二直线之间相互平行，每条第一直线与每条第二直线相互垂直。

方向确定模块93，用于基于直线提取模块92确定的至少两条第一直线和至少两条第二直线，以及相机对应的原点，确定预设标定板所在的第一平面与相机对应的相机坐标系之间的位置关系。

位姿确定模块94，用于基于方向确定模块93确定的位置关系，确定相机对应的至少一个姿态角。

本公开上述实施例提供的一种相机位姿估计装置，本实施例通过对标定物的位置进行提取，无需限定标定物的形状，只需标定物的分布符合直线提取的条件，即可抽象出用于估计位姿的至少两条第一直线和至少两条第二直线，降低了标定板配置的难度。

图9b是本公开另一示例性实施例提供的相机位姿估计装置的结构示意图。

如图9b所示，本实施例中，直线提取模块92包括：

特征点提取单元921，用于基于所述标定图像中包含的至少一个标定板，确定所述预设标定板中阵列分布的多个标定物中每个标定物的特征点；其中，每个所述标定物对应一个所述特征点；

直线提取单元922，用于基于多个所述特征点之间的连线，确定多条直线；

直线分类单元923，用于对所述多条直线进行分类处理，得到所述至少两条第一直线和所述至少两条第二直线。

可选地，还包括：

去畸变模块95，用于基于所述相机的内参信息，对所述标定图像执行去畸变操作，得到去畸变后的标定图像；

此时，直线提取模块92，用于基于所述去畸变后的标定图像中包含的至少一个标定板，对所述预设标定板中的多个标定物进行位置提取，得到所述至少两条第一直线和所述至少两条第二直线。

方向确定模块93，包括以下单元中的至少一个：

第一方向单元931，用于基于至少两条所述第一直线中的两条所述第一直线，分别与所述原点确定两个第二平面，基于两个所述第二平面之间的交线确定所述预设标定板所在的第一平面中第一坐标轴在所述相机坐标系下的第一方向向量；

第二方向单元932，用于基于至少两条所述第二直线中的两条所述第二直线，分别与所述原点确定两个第三平面，基于两个所述第三平面之间的交线确定所述预设标定板对应的第一平面中第二坐标轴在所述相机坐标系下的第二方向向量。

可选地，位姿确定模块94，包括以下单元中的至少一个：

横滚角确定单元941，用于将所述第一方向向量投影到所述相机坐标系下的yoz平面中，得到所述第一方向向量对应的第三直线；基于所述第三直线与所述相机坐标系的y轴的夹角，确定所述相机对应的横滚角；

俯仰角确定单元942，用于将所述第二方向向量投影到所述相机坐标系下的xoz平面中，得到所述第二方向向量对应的第四直线；基于所述第四直线与所述相机坐标系的x平面的夹角，确定所述相机对应的俯仰角。

可选地，位姿确定模块94，还包括：

偏航角确定单元943，用于将所述第一方向向量投影到所述相机坐标系下的xoy平面中，得到第三直线；基于所述第三直线与所述xoy平面中x轴的夹角，确定所述相机对应的偏航角；或者，将所述第二方向向量投影到所述相机坐标系下的xoy平面中，得到第四直线；基于所述第四直线与所述xoy平面中y轴的夹角，确定所述相机对应的偏航角；其中，所述第四直线与所述第三直线相互垂直。

在一些可选示例中，相机的数量为多个，本实施例中的装置还包括：

位姿预测模块96，用于对设置在所述移动设备上的多个所述相机分别进行预测，得到多个位姿信息；其中，所述位姿信息包括至少一个姿态角，每个所述位姿信息对应一个所述相机；

位姿矫正模块97，用于基于多个所述相机中每两个相邻的所述相机采集的标定图像之间的重合部分，对所述每两个相邻的相机中的一个所述相机对应的所述位姿信息进行矫正，得到多个所述相机对应的矫正后的位姿信息构成的位姿组合。

可选地，至少一个标定板中包括一个标准标定板，所述标准标定板具有已知的位置信息；

位姿矫正模块97，具体用于确定多个所述相机中每两个相邻的所述相机为一组相机组；其中，每组所述相机组包括第一相机和第二相机；基于所述标准标定板，确定参照相机对应的参照位姿信息；其中，所述参照相机为所述多个相机中采集的标定图像中包括所述标准标定板和至少一个其他标定板的相机；基于所述参照位姿信息，确定所述参照相机对应的所述标定图像中的至少一个其他标定板的位置信息，基于所述位置信息调整以所述参照相机作为第一相机的所述相机组中的第二相机对应的位姿信息；确定在以调整后的所述位姿信息对应的所述第二相机作为所述第一相机的所述相机组中的第二相机是否为所述参照相机；响应于所述相机组中的第二相机为所述参照相机，结束矫正；响应于所述相机组中的第二相机不是所述参照相机，基于调整后的所述位姿信息，确定所述相机组中的第一相机采集的标定图像对应的所有标定板的位置信息，基于所述位置信息调整所述相机组中第二相机对应的位姿信息。

示例性电子设备

下面，参考图10来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图10图示了根据本公开实施例的电子设备的框图。

如图10所示，电子设备10包括一个或多个处理器11和存储器12。

处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本公开的各个实施例的相机位姿估计方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是第一设备100或第二设备200时，该输入装置13可以是上述的麦克风或麦克风阵列，用于捕捉声源的输入信号。在该电子设备是单机设备时，该输入装置13可以是通信网络连接器，用于从第一设备100和第二设备200接收所采集的输入信号。

此外，该输入设备13还可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图10中仅示出了该电子设备10中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的相机位姿估计方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的相机位姿估计方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (11)

1.一种相机位姿估计方法，包括：

基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像；

基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线；其中，所述预设标定板为所述至少一个标定板中的一个标定板，所述至少两条第一直线之间相互平行，所述至少两条第二直线之间相互平行，每条所述第一直线与每条所述第二直线相互垂直；

基于至少两条所述第一直线、至少两条所述第二直线和所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系；

基于所述位置关系，确定所述相机对应的至少一个姿态角。

2.根据权利要求1所述的方法，其中，所述基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线，包括：

基于所述标定图像中包含的至少一个标定板，确定所述预设标定板中阵列分布的多个标定物中每个标定物的特征点；其中，每个所述标定物对应一个所述特征点；

基于多个所述特征点之间的连线，确定多条直线；

对所述多条直线进行分类处理，得到所述至少两条第一直线和所述至少两条第二直线。

3.根据权利要求1或2所述的方法，在基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线之前，还包括：

基于所述相机的内参信息，对所述标定图像执行去畸变操作，得到去畸变后的标定图像；

所述基于所述标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线，包括：

基于所述去畸变后的标定图像中包含的至少一个标定板，对所述预设标定板中的多个标定物进行位置提取，得到所述至少两条第一直线和所述至少两条第二直线。

4.根据权利要求1-3任一所述的方法，其中，所述基于至少两条所述第一直线、至少两条所述第二直线和所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系，包括：

基于至少两条所述第一直线中的两条所述第一直线，分别与所述原点确定两个第二平面，基于两个所述第二平面之间的交线确定所述预设标定板所在的第一平面中第一坐标轴在所述相机坐标系下的第一方向向量；和/或，

基于至少两条所述第二直线中的两条所述第二直线，分别与所述原点确定两个第三平面，基于两个所述第三平面之间的交线确定所述预设标定板对应的第一平面中第二坐标轴在所述相机坐标系下的第二方向向量。

5.根据权利要求4所述的方法，其中，所述基于所述位置关系，确定所述相机对应的至少一个姿态角，包括：

将所述第一方向向量投影到所述相机坐标系下的yoz平面中，得到所述第一方向向量对应的第三直线；基于所述第三直线与所述相机坐标系的y轴的夹角，确定所述相机对应的横滚角；和/或，

将所述第二方向向量投影到所述相机坐标系下的xoz平面中，得到所述第二方向向量对应的第四直线；基于所述第四直线与所述相机坐标系的x平面的夹角，确定所述相机对应的俯仰角。

6.根据权利要求5所述的方法，其中，所述基于所述方向关系，确定所述相机对应的至少一个姿态角，还包括：

将所述第一方向向量投影到所述相机坐标系下的xoy平面中，得到第三直线；基于所述第三直线与所述xoy平面中x轴的夹角，确定所述相机对应的偏航角；或者，

将所述第二方向向量投影到所述相机坐标系下的xoy平面中，得到第四直线；基于所述第四直线与所述xoy平面中y轴的夹角，确定所述相机对应的偏航角；其中，所述第四直线与所述第三直线相互垂直。

7.根据权利要求1-6任一所述的方法，所述相机的数量为多个，所述方法还包括：

对设置在所述移动设备上的多个所述相机分别进行预测，得到多个位姿信息；其中，所述位姿信息包括至少一个姿态角，每个所述位姿信息对应一个所述相机；

基于多个所述相机中每两个相邻的所述相机采集的标定图像之间的重合部分，对所述每两个相邻的相机中的一个所述相机对应的所述位姿信息进行矫正，得到多个所述相机对应的矫正后的位姿信息构成的位姿组合。

8.根据权利要求7所述的方法，所述至少一个标定板中包括一个标准标定板，所述标准标定板具有已知的位置信息；

所述基于多个所述相机中每两个相邻的所述相机采集的标定图像之间的重合部分，对所述每两个相邻的相机中的一个所述相机对应的所述位姿信息进行矫正，包括：

确定多个所述相机中每两个相邻的所述相机为一组相机组；其中，每组所述相机组包括第一相机和第二相机；

基于所述标准标定板，确定参照相机对应的参照位姿信息；其中，所述参照相机为所述多个相机中采集的标定图像中包括所述标准标定板和至少一个其他标定板的相机；

基于所述参照位姿信息，确定所述参照相机对应的所述标定图像中的至少一个其他标定板的位置信息，基于所述位置信息调整以所述参照相机作为第一相机的所述相机组中的第二相机对应的位姿信息；

确定在以调整后的所述位姿信息对应的所述第二相机作为所述第一相机的所述相机组中的第二相机是否为所述参照相机；

响应于所述相机组中的第二相机为所述参照相机，结束矫正；

响应于所述相机组中的第二相机不是所述参照相机，基于调整后的所述位姿信息，确定所述相机组中的第一相机采集的标定图像对应的所有标定板的位置信息，基于所述位置信息调整所述相机组中第二相机对应的位姿信息。

9.一种相机位姿估计装置，包括：

图像采集模块，用于基于设置在移动设备上的相机对预设空间内的至少一个标定板进行图像采集，得到标定图像；

直线提取模块，用于基于所述图像采集模块采集的标定图像中包含的至少一个标定板，对预设标定板中的多个标定物进行位置提取，得到至少两条第一直线和至少两条第二直线；其中，所述预设标定板为所述至少一个标定板中的一个标定板，所述至少两条第一直线之间相互平行，所述至少两条第二直线之间相互平行，每条所述第一直线与每条所述第二直线相互垂直；

方向确定模块，用于基于所述直线提取模块确定的至少两条所述第一直线和至少两条所述第二直线，以及所述相机对应的原点，确定所述预设标定板所在的第一平面与所述相机对应的相机坐标系之间的位置关系；

位姿确定模块，用于基于所述方向确定模块确定的位置关系，确定所述相机对应的至少一个姿态角。

10.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-8任一所述的相机位姿估计方法。

11.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-8任一所述的相机位姿估计方法。

Images