CN111754586A - 外参定标方法、装置、外参标定系统及计算机存储介质 - Google Patents
外参定标方法、装置、外参标定系统及计算机存储介质 Download PDFInfo
- Publication number
- CN111754586A CN111754586A CN202010593884.1A CN202010593884A CN111754586A CN 111754586 A CN111754586 A CN 111754586A CN 202010593884 A CN202010593884 A CN 202010593884A CN 111754586 A CN111754586 A CN 111754586A
- Authority
- CN
- China
- Prior art keywords
- attitude information
- camera
- speed
- carrier
- matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000013519 translation Methods 0.000 claims abstract description 48
- 238000005259 measurement Methods 0.000 claims abstract description 39
- 238000004364 calculation method Methods 0.000 claims abstract description 16
- 239000011159 matrix material Substances 0.000 claims description 90
- 238000004590 computer program Methods 0.000 claims description 10
- 230000003287 optical effect Effects 0.000 claims description 7
- 230000008569 process Effects 0.000 abstract description 13
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C25/00—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
- G01C25/005—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass initial alignment, calibration or starting-up of inertial devices
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Manufacturing & Machinery (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及一种外参定标方法、装置、外参标定系统及计算机存储介质，通过获取相机所观测到的第一姿态信息及获取承载相机及惯性测量单元的载体所观测到的第二姿态信息；通过第一姿态信息及第二姿态信息，建立在线标定模型；对在线标定模型进行计算，得到相机与惯性测量单元之间的相对旋转量及相对平移量，从而完成在线标定。上述方案，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定，同时，整个在线标定的过程由处理器计算完成，无需人为干预，相较于离线标定，操作更为快捷以及简单。
Description
技术领域
本申请属于参数标定领域，具体涉及一种外参定标方法、装置、外参标定系统及计算机存储介质。
背景技术
在视觉惯性里程计领域中，相机和IMU(Inertial measurement unit，惯性测量单元)传感器之间的外参包括旋转矩阵以及平移矩阵。外参的精度直接影响了输出结果的精度。
在传统方案中，借助标定板离线采集相机和IMU的数据，从而实现IMU和相机的外参标定。然而，离线标定时，相机和IMU必须处于工作暂停状态。若每次标定都必须暂停相机和IMU的工作，势必会对相机和IMU的正常工作造成影响。
发明内容
有鉴于此，本申请的目的在于提供一种外参定标方法、装置、外参标定系统及计算机存储介质，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定。
本申请的实施例是这样实现的：
第一方面，本申请实施例提供一种外参定标方法，应用于外参标定系统所包括的处理器，所述外参标定系统还包括与所述处理器连接的相机、惯性测量单元，所述方法包括：获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息；通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型；对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量及相对平移量。通过上述方案，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定，同时，整个在线标定的过程由处理器计算完成，无需人为干预，相较于离线标定，操作更为快捷以及简单。
结合第一方面实施例，在一种可能的实施方式中，所述外参标定系统还包括速度观测设备，所述惯性测量单元与所述速度观测设备形成组合导航，所述获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息，包括：通过光流法获取所述第一姿态信息，所述第一姿态信息包括所述相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵及平移矩阵；通过所述组合导航获取所述第二姿态信息，所述第二姿态信息包括所述载体在所述k时刻到所述k-1时刻之间的从世界坐标系到载体系的旋转矩阵及所述载体在所述k时刻在所述世界坐标系上的朝向北的速度投影、朝东北的速度投影及朝向地的速度投影。
结合第一方面实施例，在一种可能的实施方式中，所述通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型，包括：根据所述第一姿态信息所包括的旋转矩阵及平移矩阵，计算得到所述相机在k时刻在所述载体系上的速度；根据所述第二姿态信息所包括的旋转矩阵、朝向北的速度投影、朝东北的速度投影及朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度；根据所述相机在所述k时刻在所述载体系上的速度等于所述载体在所述k时刻在所述载体系的速度，建立所述在线标定模型。
结合第一方面实施例，在一种可能的实施方式中，所述根据所述第一姿态信息所包括的旋转矩阵及所述平移矩阵，计算得到所述相机在所述k时刻在所述载体系上的速度，包括：将所述第一姿态信息所包括的旋转矩阵及平移矩阵转换到所述载体系，得到所述相机在所述载体系上的速度平移矩阵；将所述速度平移矩阵对时间求导，得到所述相机在所述k时刻在所述载体系上的速度。
结合第一方面实施例，在一种可能的实施方式中，所述根据所述第二姿态信息所包括的旋转矩阵、所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度，包括：获取所述第二姿态信息所包括的所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影组成的矩阵的转置矩阵；将所述第二姿态信息所包括的旋转矩阵点乘以所述转置矩阵，得到所述载体在所述k时刻在所述载体系的速度。
第二方面，本申请实施例提供一种外参定标装置，应用于外参标定系统所包括的处理器，所述外参标定系统还包括与所述处理器连接的相机、惯性测量单元，所述装置包括：获取模块、建立模块以及计算模块。获取模块，用于获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息；建立模块，用于通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型；计算模块，用于对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量及相对平移量。
结合第二方面实施例，在一种可能的实施方式中，所述外参标定系统还包括速度观测设备，所述惯性测量单元与所述速度观测设备形成组合导航，所述获取模块，用于：通过光流法获取所述第一姿态信息，所述第一姿态信息包括所述相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵及平移矩阵；通过所述组合导航获取所述第二姿态信息，所述第二姿态信息包括所述载体在所述k时刻到所述k-1时刻之间的从世界坐标系到载体系的旋转矩阵及所述载体在所述k时刻在所述世界坐标系上的朝向北的速度投影、朝东北的速度投影及朝向地的速度投影。
结合第二方面实施例，在一种可能的实施方式中，所述建立模块，用于：根据所述第一姿态信息所包括的旋转矩阵及平移矩阵，计算得到所述相机在k时刻在所述载体系上的速度；根据所述第二姿态信息所包括的旋转矩阵、朝向北的速度投影、朝东北的速度投影及朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度；根据所述相机在所述k时刻在所述载体系上的速度等于所述载体在所述k时刻在所述载体系的速度，建立所述在线标定模型。
结合第二方面实施例，在一种可能的实施方式中，所述计算模块，用于：将所述第一姿态信息所包括的旋转矩阵及平移矩阵转换到所述载体系，得到所述相机在所述载体系上的速度平移矩阵；将所述速度平移矩阵对时间求导，得到所述相机在所述k时刻在所述载体系上的速度。
结合第二方面实施例，在一种可能的实施方式中，所述计算模块，用于：获取所述第二姿态信息所包括的所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影组成的矩阵的转置矩阵；将所述第二姿态信息所包括的旋转矩阵点乘以所述转置矩阵，得到所述载体在所述k时刻在所述载体系的速度。
第三方面，本申请实施例还提供一种外参标定系统包括：存储器和处理器，所述存储器和所述处理器连接；所述存储器用于存储程序；所述处理器调用存储于所述存储器中的程序，以执行上述第一方面实施例和/或结合第一方面实施例的任一种可能的实施方式提供的方法。
第四方面，本申请实施例还提供一种非易失性计算机可读取存储介质(以下简称计算机存储介质)，其上存储有计算机程序，所述计算机程序被计算机运行时执行上述第一方面实施例和/或结合第一方面实施例的任一种可能的实施方式提供的方法。
本申请的其他特征和优点将在随后的说明书阐述，并且，部分地从说明书中变得显而易见，或者通过实施本申请实施例而了解。本申请的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。通过附图所示，本申请的上述及其它目的、特征和优势将更加清晰。在全部附图中相同的附图标记指示相同的部分。并未刻意按实际尺寸等比例缩放绘制附图，重点在于示出本申请的主旨。
图1示出本申请实施例提供的一种外参标定系统的结构示意图。
图2示出本申请实施例提供的一种外参定标方法的流程图。
图3示出本申请实施例提供的一种外参定标装置的结构框图。
图标：100-外参标定系统；110-处理器；120-存储器；130-相机；140-惯性测量单元；150-速度观测设备；400-外参定标装置；410-获取模块；420-建立模块；430-计算模块。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中诸如“第一”、“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
再者，本申请中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。
此外，针对现有技术中的外参标定方法所存在的缺陷(相机和IMU必须处于工作暂停状态，影响相机和IMU的正常工作)是申请人在经过实践并仔细研究后得出的结果，因此，上述缺陷的发现过程以及在下文中本申请实施例针对上述缺陷所提出的解决方案，都是申请人对本申请做出的贡献。
为了解决上述问题，本申请实施例提供一种外参定标方法、装置、外参标定系统及计算机存储介质，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定。
该技术可采用相应的软件、硬件以及软硬结合的方式实现。以下对本申请实施例进行详细介绍。
首先，参照图1来描述用于实现本申请实施例的外参定标方法、装置的外参标定系统100。
其中，外参标定系统100可以包括处理器110、存储器120、相机130、惯性测量单元140以及速度观测设备150等。
应当注意，图1所示的外参标定系统100的组件和结构只是示例性的，而非限制性的，根据需要，外参标定系统100也可以具有其他组件和结构。
处理器110、存储器120、相机130、惯性测量单元140以及速度观测设备150以及其他可能出现于外参标定系统100的组件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，处理器110、存储器120、相机130、惯性测量单元140以及速度观测设备150以及其他可能出现的组件相互之间可通过一条或多条通讯总线或信号线实现电性连接。
存储器120用于存储程序，例如存储有后文出现的外参定标方法对应的程序或者后文出现的外参定标装置。可选的，当存储器120内存储有外参定标装置时，外参定标装置包括至少一个可以以软件或固件(firmware)的形式存储于存储器120中的软件功能模块。
可选的，外参定标装置所包括软件功能模块也可以固化在外参标定系统100的操作系统(operating system，OS)中。
速度观测设备150也可以称之为位置观测设备，可以为GPS(Global PositioningSystem，全球定位系统)、动作捕捉器等部件。
处理器110用于执行存储器120中存储的可执行模块，例如外参定标装置包括的软件功能模块或计算机程序。当处理器110在接收到执行指令后，可以执行计算机程序，例如执行：获取相机所观测到的第一姿态信息及获取承载相机及惯性测量单元的载体所观测到的第二姿态信息；通过第一姿态信息及第二姿态信息，建立在线标定模型；对在线标定模型进行计算，得到相机与所述惯性测量单元之间的相对旋转量及相对平移量。
当然，本申请任一实施例所揭示的方法都可以应用于处理器110中，或者由处理器110实现。
下面将针对本申请所提供的外参定标方法进行介绍。
请参阅图2，本申请实施例提供一种应用于上述外参标定系统100的处理器110外参定标方法。
下面将结合图2对其所包含的步骤进行说明。
步骤S110：获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息。
一般而言，承载相机及惯性测量单元的载体为无人机或者无人机上的部件。
在本申请的一些实施实施例中，可以通过光流法获取相机所观测到的第一姿态信息。
其中，第一姿态信息包括相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵
及平移矩阵
在本申请的一些实施实施例中，惯性测量单元140与速度观测设备150形成组合导航，基于此，可以通过组合导航来获取载体所观测到的第二姿态信息。
其中，第二姿态信息包括载体在k时刻到k-1时刻之间的，从世界坐标系(W)到载体系(B)的旋转矩阵Rb←w，及载体在k时刻在世界坐标系(W)上的朝向北的速度投影Vn、朝东北的速度投影Ve及朝向地的速度投影Vd。
步骤S120：通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型。
由于载体承载相机，因此，两者可以被认定为是一个整体，在相同的参考系上具备相同的速度。因此，建立在线标定模型的过程，即可以是根据相机在k时刻在载体系(B)上的速度
等于载体在k时刻在载体系(B)上的速度vb建立等式的过程。
其中，可以通过第一姿态信息计算出相机在k时刻在载体系(B)上的速度
可以通过第二姿态信息计算出载体在k时刻在载体系(B)的速度vb。
具体的，可以根据第一姿态信息所包括的旋转矩阵
及平移矩阵
计算得到相机在k时刻在载体系(B)上的速度
下面将针对计算
的过程进行介绍。
在计算
时，先将旋转矩阵
及平移矩阵
转换到载体系(B)，得到相机在载体系(B)上的速度平移矩阵
可选的，可以基于公式
得到相机在载体系(B)上的速度平移矩阵
其中，
为旋转矩阵
及平移矩阵
的叠加，属于矩阵变换的范畴。由于此部分为公知常识，此处不再赘述。Rb←c用于表征由相机系(C)到载体系(B)的相对旋转量，pb←c用于表征由相机系(C)到载体系(B)的相对平移量。
在得到相机在载体系(B)上的速度平移矩阵
后，可以通过将速度平移矩阵
对时间求导，从而获取相机在k时刻在载体系(B)上的速度
由于Rb←c与pb←c是定值，因此，
该
为相机通过转换得到的在载体系(B)上的速度。
具体的，可以根据第二姿态信息所包括的载体从世界坐标系(W)到载体系(B)的旋转矩阵Rb←w、载体在k时刻在世界坐标系(W)上的朝向北的速度投影Vn、载体在k时刻在世界坐标系(W)上的朝东北的速度投影Ve及载体在k时刻在世界坐标系(W)上的朝向地的速度投影Vd，计算得到载体在k时刻在载体系(B)的速度vb。下面将针对计算vb的过程进行介绍。
在计算vb时，先分别获取Vn、Ve及Vd组成的矩阵的转置矩阵[Vn,Ve,Vd]T，然后将旋转矩阵Rb←w点乘转置矩阵，得到载体在k时刻在载体系(B)的速度vb。即vb＝Rb←w·[Vn,Ve,Vd]T。
在得到相机在k时刻在载体系(B)上的速度
以及载体在k时刻在载体系(B)的速度vb＝Rb←w·[Vn,Ve,Vd]T后，可以基于公式
建立在线标定模型。
步骤S130：对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量Rb←c及相对平移量pc←b。
在建立好在线标定模型后，可以对在线标定模型进行求解计算，即基于公式
的基础上，计算得到相机与惯性测量单元之间的相对旋转量Rb←c以及所述相对平移量pc←b。上述对在线标定模型进行求解的过程，可以通过优化或者滤波的方法来实现。
在一种可选的实施方式中，可以通过优化的方式对在线标定模型进行求解，需要优化的变量为Rb←c以及pc←b。具体的，可以基于公式
构建代价函数
然后对代价函数f(x)相对于相对旋转量Rb←c以及相对平移量pc←b求偏导后，通过内置的成熟算法，例如GN算法或者LM算法进行迭代收敛，从而得到相对旋转量Rb←c以及相对平移量pc←b。
为了提高在线标定算法的精度，在使用优化的方式对在线标定模型进行求解的过程中，可以使用鲁棒核函数把获取到的误差较大的vb以及vbk剔除，从而降低外点对标定结果的影响。
在一种可选的实施方式中，可以通过滤波的方式对在线标定模型进行估计，需要估计的变量为Rb←c以及pc←b。由于Rb←c的维数较多并且具有正交的约束，因此可以将Rb←c转换为四元数或李代数的形式。
具体的，可以以四元数为例，在本实施方式中，可以先构建滤波器系统。其中，滤波器系统的状态变量设置为[Qb←c pc←b]，其状态方程为常值模型。为保证滤波器稳定收敛，过程噪声可设置较小，此外，滤波器系统的观测方程根据在线标定模型来确定。即基于公式
构建观测方程
其中，Qb←c为相对旋转量Rb←c的四元数。
其中，观测方程
可以变形为H＝[Jac(Qb←c)Jac(pc←b)]。H用于表征观测矩阵，Jac(Qb←c)表征对Qb←c求雅克比偏导，Jac(pc←b)表征对pc←b求雅克比偏导。在得到观测矩阵后，通过EKF(扩展卡尔曼滤波)的形式实时估计得到Qb←c和pc←b，从而得到相对旋转量Rb←c以及相对平移量pc←b。
在得到相对旋转量Rb←c以及相对平移量pc←b后，可以检测得到载体系(B)和相机系(C)之间的误差，完成在线标定。
本申请实施例所提供的一种外参定标方法，通过获取相机所观测到的第一姿态信息及获取承载相机及惯性测量单元的载体所观测到的第二姿态信息；通过第一姿态信息及第二姿态信息，建立在线标定模型；对在线标定模型进行计算，得到相机与惯性测量单元之间的相对旋转量及相对平移量，从而完成在线标定。上述方案，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定，同时，整个在线标定的过程由处理器计算完成，无需人为干预，相较于离线标定，操作更为快捷以及简单。
如图3所示，本申请实施例还提供一种外参定标装置400，外参定标装置400可以包括：获取模块410、建立模块420以及计算模块430。
获取模块410，用于获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息；
建立模块420，用于通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型；
计算模块430，用于对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量及相对平移量。
在一种可能的实施方式中，所述惯性测量单元与所述速度观测设备形成组合导航，所述获取模块410，用于：通过光流法获取所述第一姿态信息，所述第一姿态信息包括所述相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵及平移矩阵；通过所述组合导航获取所述第二姿态信息，所述第二姿态信息包括所述载体在所述k时刻到所述k-1时刻之间的从世界坐标系到载体系的旋转矩阵及所述载体在所述k时刻在所述世界坐标系上的朝向北的速度投影、朝东北的速度投影及朝向地的速度投影。
在一种可能的实施方式中，所述建立模块420，用于：根据所述第一姿态信息所包括的旋转矩阵及所述平移矩阵，计算得到所述相机在所述k时刻在所述载体系上的速度；根据所述第二姿态信息所包括的旋转矩阵、所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度；根据所述相机在所述k时刻在所述载体系上的速度等于所述载体在所述k时刻在所述载体系的速度，建立所述在线标定模型。
在一种可能的实施方式中，所述计算模块430，用于：将所述第一姿态信息所包括的旋转矩阵及平移矩阵转换到所述载体系，得到所述相机在所述载体系上的速度平移矩阵；将所述速度平移矩阵对时间求导，得到所述相机在所述k时刻在所述载体系上的速度。
在一种可能的实施方式中，所述计算模块430，用于：获取所述第二姿态信息所包括的所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影组成的矩阵的转置矩阵；将所述第二姿态信息所包括的旋转矩阵点乘以所述转置矩阵，得到所述载体在所述k时刻在所述载体系的速度。
本申请实施例所提供的外参定标装置400，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。
此外，本申请实施例还提供一种计算机存储介质，该计算机存储介质上存储有计算机程序，该计算机程序被计算机运行时，执行如上述的外参定标方法所包含的步骤。
此外，本发明实施例还提供一种外参标定系统，包括处理器以及与所述处理器连接的存储器，所述存储器内存储计算机程序，当所述计算机程序被所述处理器执行时，使得所述外参标定系统执行如上述的外参定标方法所包含的步骤。其中，外参标定系统的结构示意图可以参看图1。
综上所述，本发明实施例提出的外参定标方法、装置、外参标定系统及计算机存储介质，通过获取相机所观测到的第一姿态信息及获取承载相机及惯性测量单元的载体所观测到的第二姿态信息；通过第一姿态信息及第二姿态信息，建立在线标定模型；对在线标定模型进行计算，得到相机与惯性测量单元之间的相对旋转量及相对平移量，从而完成在线标定。上述方案，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定，同时，整个在线标定的过程由处理器计算完成，无需人为干预，相较于离线标定，操作更为快捷以及简单。通过上述方案，可以在不暂停相机和IMU的工作的前提下，实现外参的在线标定，同时，整个在线标定的过程由处理器计算完成，无需人为干预，相较于离线标定，操作更为快捷以及简单。
需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，笔记本电脑,服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。
Claims (10)
1.一种外参标定方法，其特征在于，应用于外参标定系统所包括的处理器，所述外参标定系统还包括与所述处理器连接的相机、惯性测量单元，所述方法包括：
获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息；
通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型；
对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量及相对平移量。
2.根据权利要求1所述的方法，其特征在于，所述外参标定系统还包括速度观测设备，所述惯性测量单元与所述速度观测设备形成组合导航，所述获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息，包括：
通过光流法获取所述第一姿态信息，所述第一姿态信息包括所述相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵及平移矩阵；
通过所述组合导航获取所述第二姿态信息，所述第二姿态信息包括所述载体在所述k时刻到所述k-1时刻之间的从世界坐标系到载体系的旋转矩阵及所述载体在所述k时刻在所述世界坐标系上的朝向北的速度投影、朝东北的速度投影及朝向地的速度投影。
3.根据权利要求1所述的方法，其特征在于，所述通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型，包括：
根据所述第一姿态信息所包括的旋转矩阵及平移矩阵，计算得到所述相机在k时刻在所述载体系上的速度；
根据所述第二姿态信息所包括的旋转矩阵、朝向北的速度投影、朝东北的速度投影及朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度；
根据所述相机在所述k时刻在所述载体系上的速度等于所述载体在所述k时刻在所述载体系的速度，建立所述在线标定模型。
4.根据权利要求3所述的方法，其特征在于，所述根据所述第一姿态信息所包括的旋转矩阵及所述平移矩阵，计算得到所述相机在所述k时刻在所述载体系上的速度，包括：
将所述第一姿态信息所包括的旋转矩阵及平移矩阵转换到所述载体系，得到所述相机在所述载体系上的速度平移矩阵；
将所述速度平移矩阵对时间求导，得到所述相机在所述k时刻在所述载体系上的速度。
5.根据权利要求3所述的方法，其特征在于，所述根据所述第二姿态信息所包括的旋转矩阵、所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度，包括：
获取所述第二姿态信息所包括的所述朝向北的速度投影、所述朝东北的速度投影及所述朝向地的速度投影组成的矩阵的转置矩阵；
将所述第二姿态信息所包括的旋转矩阵点乘以所述转置矩阵，得到所述载体在所述k时刻在所述载体系的速度。
6.一种外参标定装置，其特征在于，应用于外参标定系统所包括的处理器，所述外参标定系统还包括与所述处理器连接的相机、惯性测量单元，所述装置包括：
获取模块，用于获取所述相机所观测到的第一姿态信息及获取承载所述相机及所述惯性测量单元的载体所观测到的第二姿态信息；
建立模块，用于通过所述第一姿态信息及所述第二姿态信息，建立在线标定模型；
计算模块，用于对所述在线标定模型进行计算，得到所述相机与所述惯性测量单元之间的相对旋转量及相对平移量。
7.根据权利要求6所述的装置，其特征在于，所述外参标定系统还包括速度观测设备，所述惯性测量单元与所述速度观测设备形成组合导航，所述获取模块，用于：
通过光流法获取所述第一姿态信息，所述第一姿态信息包括所述相机从k时刻所在的位置移动到k-1时刻所在的位置所形成的旋转矩阵及平移矩阵；
通过所述组合导航获取所述第二姿态信息，所述第二姿态信息包括所述载体在所述k时刻到所述k-1时刻之间的从世界坐标系到载体系的旋转矩阵及所述载体在所述k时刻在所述世界坐标系上的朝向北的速度投影、朝东北的速度投影及朝向地的速度投影。
8.根据权利要求6所述的装置，其特征在于，所述建立模块，用于：
根据所述第一姿态信息所包括的旋转矩阵及平移矩阵，计算得到所述相机在k时刻在所述载体系上的速度；
根据所述第二姿态信息所包括的旋转矩阵、朝向北的速度投影、朝东北的速度投影及朝向地的速度投影，计算得到所述载体在所述k时刻在所述载体系的速度；
根据所述相机在所述k时刻在所述载体系上的速度等于所述载体在所述k时刻在所述载体系的速度，建立所述在线标定模型。
9.一种外参标定系统，其特征在于，包括：存储器和处理器，所述存储器和所述处理器连接；
所述存储器用于存储程序；
所述处理器调用存储于所述存储器中的程序，以执行如权利要求1-5中任一项所述的方法。
10.一种计算机存储介质，其特征在于，其上存储有计算机程序，所述计算机程序被计算机运行时执行如权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010593884.1A CN111754586A (zh) | 2020-06-28 | 2020-06-28 | 外参定标方法、装置、外参标定系统及计算机存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010593884.1A CN111754586A (zh) | 2020-06-28 | 2020-06-28 | 外参定标方法、装置、外参标定系统及计算机存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111754586A true CN111754586A (zh) | 2020-10-09 |
Family
ID=72677396
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010593884.1A Pending CN111754586A (zh) | 2020-06-28 | 2020-06-28 | 外参定标方法、装置、外参标定系统及计算机存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111754586A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112629565A (zh) * | 2021-03-08 | 2021-04-09 | 中国人民解放军国防科技大学 | 像机与惯性测量单元旋转关系校准方法、装置和设备 |
| CN112873280A (zh) * | 2021-01-11 | 2021-06-01 | 上海思岚科技有限公司 | 一种用于机器人的传感器的标定方法及设备 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20160148433A1 (en) * | 2014-11-16 | 2016-05-26 | Eonite, Inc. | Systems and methods for augmented reality preparation, processing, and application |
| CN109341724A (zh) * | 2018-12-04 | 2019-02-15 | 中国航空工业集团公司西安航空计算技术研究所 | 一种机载相机-惯性测量单元相对位姿在线标定方法 |
| US20190204084A1 (en) * | 2017-09-29 | 2019-07-04 | Goertek Inc. | Binocular vision localization method, device and system |
| CN111105467A (zh) * | 2019-12-16 | 2020-05-05 | 北京超图软件股份有限公司 | 一种图像标定方法、装置及电子设备 |
-
2020
- 2020-06-28 CN CN202010593884.1A patent/CN111754586A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20160148433A1 (en) * | 2014-11-16 | 2016-05-26 | Eonite, Inc. | Systems and methods for augmented reality preparation, processing, and application |
| US20190204084A1 (en) * | 2017-09-29 | 2019-07-04 | Goertek Inc. | Binocular vision localization method, device and system |
| CN109341724A (zh) * | 2018-12-04 | 2019-02-15 | 中国航空工业集团公司西安航空计算技术研究所 | 一种机载相机-惯性测量单元相对位姿在线标定方法 |
| CN111105467A (zh) * | 2019-12-16 | 2020-05-05 | 北京超图软件股份有限公司 | 一种图像标定方法、装置及电子设备 |
Non-Patent Citations (2)
| Title |
|---|
| 潘尧;吴聪;张颖江;刘伶俐;辛梓;: "智能车辆双目视觉与地图组合定位研究", 湖北工业大学学报, no. 04 * |
| 陈集辉;朱海飞;谷世超;管贻生;: "深度相机与惯性测量单元的相对姿态标定", 哈尔滨工业大学学报, no. 11 * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112873280A (zh) * | 2021-01-11 | 2021-06-01 | 上海思岚科技有限公司 | 一种用于机器人的传感器的标定方法及设备 |
| CN112629565A (zh) * | 2021-03-08 | 2021-04-09 | 中国人民解放军国防科技大学 | 像机与惯性测量单元旋转关系校准方法、装置和设备 |
| CN112629565B (zh) * | 2021-03-08 | 2021-06-01 | 中国人民解放军国防科技大学 | 像机与惯性测量单元旋转关系校准方法、装置和设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20200314340A1 (en) | Anti-shake method and apparatus for panoramic video, and portable terminal | |
| Pascoal et al. | Navigation system design using time-varying complementary filters | |
| CN106052685B (zh) | 一种两级分离融合的姿态和航向估计方法 | |
| CN107478223A (zh) | 一种基于四元数和卡尔曼滤波的人体姿态解算方法 | |
| CN111754586A (zh) | 外参定标方法、装置、外参标定系统及计算机存储介质 | |
| CN106370178B (zh) | 移动终端设备的姿态测量方法及装置 | |
| CN111551174A (zh) | 基于多传感器惯性导航系统的高动态车辆姿态计算方法及系统 | |
| CN110058288B (zh) | 无人机ins/gnss组合导航系统航向误差修正方法及系统 | |
| WO2016198009A1 (zh) | 一种检测航向的方法和装置 | |
| CN103017763A (zh) | 状态估计设备和偏移更新方法 | |
| WO2022063120A1 (zh) | 组合导航系统初始化方法、装置、介质及电子设备 | |
| JP3726884B2 (ja) | 慣性計測装置を用いた姿勢推定装置及び方法並びにプログラム | |
| Porzi et al. | Visual-inertial tracking on android for augmented reality applications | |
| EP3938870A1 (en) | Fixed holograms in mobile environments | |
| CN111366156A (zh) | 基于神经网络辅助的变电站巡检机器人导航方法及系统 | |
| CN113551690A (zh) | 校准参数的获取方法、装置、电子设备及存储介质 | |
| CN110929402A (zh) | 一种基于不确定分析的概率地形估计方法 | |
| CN112577518A (zh) | 一种惯性测量单元标定方法及装置 | |
| WO2016150312A1 (zh) | 一种地磁传感器校准方法、装置及智能设备 | |
| WO2022160811A1 (zh) | 足式机器人轨迹跟踪方法、设备及可读存储介质 | |
| CN115033844A (zh) | 一种无人机状态估计方法、系统、设备及可读存储介质 | |
| CN104819717A (zh) | 一种基于mems惯性传感器组的多旋翼飞行器姿态检测方法 | |
| JP2013096724A (ja) | 状態推定装置 | |
| US10883831B2 (en) | Performance of inertial sensing systems using dynamic stability compensation | |
| CN109674480B (zh) | 一种基于改进互补滤波的人体运动姿态解算方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |