CN114111776B - 定位方法及相关装置 - Google Patents

定位方法及相关装置 Download PDF

Info

Publication number
CN114111776B
CN114111776B CN202111583425.6A CN202111583425A CN114111776B CN 114111776 B CN114111776 B CN 114111776B CN 202111583425 A CN202111583425 A CN 202111583425A CN 114111776 B CN114111776 B CN 114111776B
Authority
CN
China
Prior art keywords
information
residual
inertial
residual error
rtk
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111583425.6A
Other languages
English (en)
Other versions
CN114111776A (zh
Inventor
韩世豪
张润初
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Xaircraft Technology Co Ltd
Original Assignee
Guangzhou Xaircraft Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Xaircraft Technology Co Ltd filed Critical Guangzhou Xaircraft Technology Co Ltd
Priority to CN202111583425.6A priority Critical patent/CN114111776B/zh
Publication of CN114111776A publication Critical patent/CN114111776A/zh
Application granted granted Critical
Publication of CN114111776B publication Critical patent/CN114111776B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/40Correcting position, velocity or attitude
    • G01S19/41Differential correction, e.g. DGPS [differential GPS]

Abstract

本申请提供的定位方法及相关装置中,通过获取视觉信息、惯性信息及RTK定位信息,然后,基于上述信息构建视觉、惯性以及RTK残差,实现将上述多种定位信息以紧耦合的方式进行融合,以确定应用上述定位方法的可移动平台的目标位姿,从而达到将多种定位方式进行优势互补,提高可移动平台定位精度的目的。

Description

定位方法及相关装置
技术领域
本申请涉及定位领域,具体而言,涉及一种定位方法及相关装置。
背景技术
随着定位技术的发展,业界提出了多种定位方式以适应不同场景下的定位需要;然而,研究发现,不同的定位方式仅能在各自擅长的领域取得很好的定位效果。
例如,RTK(Real Time Kinematic,实时差分定位)定位方式可以在室外空旷场景获取高精度的经纬度坐标,但RTK测量结果在室内、城市场景中存在大量噪声,从而测量结果存在极大的误差。而与之相反的是,VIO(Visual Inertial Odometry,视觉惯性里程计)定位方式可以在室内、城市场景中实现准确和鲁棒的姿态估计,但VIO在长期导航时会遇到轨迹漂移的问题。
因此,亟需一种在不同的场景下均能取得很好的定位效果的技术方案。
发明内容
为了克服现有技术中的至少一个不足,本申请提供一种定位方法及装置,包括:
第一方面,本申请提供一种定位方法,应用于可移动平台,所述方法包括:
获取所述可移动平台的视觉信息、惯性信息及RTK定位信息;
根据所述视觉信息、所述惯性信息及所述RTK定位信息,获得视觉残差、惯性残差及RTK残差;其中,所述RTK残差为在同一坐标系下的RTK预估定位信息与所述RTK定位信息之差,所述RTK预估定位信息由所述惯性信息获得;
根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息,所述目标位姿信息表征基于所述视觉残差、所述惯性残差及所述RTK残差处理所得的最大后验概率的最优解。
第二方面,本申请提供一种定位装置,应用于可移动平台,所述定位装置包括:
信息模块,用于获取所述可移动平台的视觉信息、惯性信息及RTK定位信息;
残差模块,用于根据所述视觉信息、所述惯性信息及所述RTK定位信息,获得视觉残差、惯性残差及RTK残差;
其中,所述RTK残差为在同一坐标系下的RTK预估定位信息与所述RTK定位信息之差,所述RTK预估定位信息由所述惯性信息获得;
定位模块,用于根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息,所述目标位姿信息表征所述视觉残差、所述惯性残差及所述RTK残差处理所得的最大后验概率的最优解。
第三方面,本申请提供一种电子设备,所述电子设备包括处理器以及存储器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,实现所述的定位方法。
第四方面,本申请提供一种可移动平台,所述可移动平台包括所述的电子设备。
第五方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现所述的定位方法。
相对于现有技术而言,本申请具有以下有益效果:
本申请提供的定位方法及相关装置中,通过获取视觉信息、惯性信息及RTK定位信息,然后,基于上述信息构建视觉、惯性以及RTK残差,实现将上述多种定位信息以紧耦合的方式进行融合,以确定应用上述定位方法的可移动平台的目标位姿,从而达到将多种定位方式进行优势互补,提高可移动平台定位精度的目的。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的电子设备的结构示意图;
图2为本申请实施例提供的预积分原理示意图;
图3为本申请实施例提供的定位方法的流程示意图之一;
图4为本申请实施例提供的定位方法的流程示意图之二;
图5为本申请实施例提供的坐标系空间示意图;
图6为本申请实施例提供的定位方法的流程示意图之三;
图7为本申请实施例提供的图因子示意图;
图8为本申请实施例提供的定位装置的结构示意图。
图标:120-存储器;130-处理器;140-通信单元;150-定位单元;201-信息模块;202-残差模块;203-定位模块。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
考虑到不同的定位方式仅能在各自擅长的领域取得很好的定位效果,因此,本实施例提一种应用于可移动平台的定位方法。该方法中,可移动平台利用视觉信息、惯性信息及RTK定位信息,以紧耦合的方式将上述多种定位信息进行融合,确定出可移动平台的目标位姿,从而达到将多种定位方式进行优势互补,提高可移动平台定位精度的目的。
其中,本实施例中的可移动平台可以是,但不限于,无人机、无人汽车、无人船等无人设备,除此之外,还可以应用于有人设备中,本申请不限于此。其中,所述可移动平台可以包括用于智能控制可移动平台动作的电子设备,所述电子设备可以是内置在可移动平台内部的控制器件,也可以是与可移动平台分离设置的设备,如移动终端、平板计算机、膝上型计算机等,但不限于此。
在一些实施方式中,该无人机可以包括农用无人机、巡查\监视无人机、气象无人机、消防无人机、测绘无人机、运输无人机等。因此,该无人机可以用于航拍、农业、植保、微型自拍、快递运输、灾难救援、观察野生动物、监控传染病、测绘、新闻报道、电力巡检、救灾、影视拍摄等场景。
在一些实施例中,移动终端可以包括智能家居设备、可穿戴设备、智能移动设备、虚拟现实设备、增强现实设备、或遥控器等,或其任意组合。其中,该可穿戴设备可包括智能手环、智能鞋带、智能玻璃、智能头盔、智能手表、智能服装、智能背包、智能配件等、或其任何组合。该智能移动设备可以包括智能手机、个人数字助理(Personal DigitalAssistant,PDA)、导航设备等,或其任意组合。
本实施例还提供该电子设备的一种可能的结构示意图。如图1所示,该电子设备包括该存储器120、处理器130、通信单元140、定位单元150。其中,该存储器120、处理器130、通信单元140以及定位单元150各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。
其中,该存储器120可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。其中,存储器120用于存储程序,该处理器130在接收到执行指令后,执行该程序。
该通信单元140用于通过网络收发数据。网络可以包括有线网络、无线网络、光纤网络、远程通信网络、内联网、因特网、局域网(Local Area Network,LAN)、广域网(WideArea Network,WAN)、无线局域网(Wireless Local Area Networks,WLAN)、城域网(Metropolitan Area Network,MAN)、广域网(Wide Area Network,WAN)、公共电话交换网(Public Switched Telephone Network,PSTN)、蓝牙网络、ZigBee网络、或近场通信(NearField Communication,NFC)网络等,或其任意组合。在一些实施例中,网络可以包括一个或多个网络接入点。例如,网络可以包括有线或无线网络接入点,例如基站和/或网络交换节点,服务请求处理系统的一个或多个组件可以通过该接入点连接到网络以交换数据和/或信息。
该处理器130可能是一种集成电路芯片,具有信号的处理能力,并且,该处理器可以包括一个或多个处理核(例如,单核处理器或多核处理器)。仅作为举例,上述处理器可以包括中央处理单元(Central Processing Unit,CPU)、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、专用指令集处理器(Application SpecificInstruction-set Processor,ASIP)、图形处理单元(Graphics Processing Unit,GPU)、物理处理单元(Physics Processing Unit,PPU)、数字信号处理器(Digital SignalProcessor,DSP)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、可编程逻辑器件(Programmable Logic Device,PLD)、控制器、微控制器单元、简化指令集计算机(Reduced Instruction Set Computing,RISC)、或微处理器等,或其任意组合。
该定位单元150可以包括有惯性检测单元IMU、RTK检测单元、视觉检测单元,用于获取本实施例中所需要的定位信息。其中,惯性检测单元用于测量可移动平台运动过程中产生的惯性信息,包括加速度以及角速度等信息。RTK检测单元用于获得RTK定位信息。视觉检测单元用于采集可移动平台运动过程中的视觉信息,例如,该视觉检测单元可以是摄像机。
当然,在其他可选实施方式中,该可移动平台还可以包括外设接口、输入输出单元、显示单元及音频单元。
其中,该外设接口将各种输入/输出装置(例如输入输出单元、音频单元以及显示单元)耦合至处理器130以及存储器120。在一些实施例中,外设接口、处理器130可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
该输入输出单元用于提供给用户输入数据实现用户与用户终端的交互。该输入输出单元可以是,但不限于,鼠标和键盘等。
该音频单元向用户提供音频接口,其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。
该显示单元在该用户终端与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据。在本实施例中,该显示单元可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处产生的触控操作,并将该感应到的触控操作交由处理器进行计算和处理。
考虑到本实施例涉及定位领域,为使本领域技术人员了解本实施的目的、技术方案和优点,在对该定位方法进行详细阐述之前,先对本实施例所涉及的相关专业术语进行介绍:
RTK定位:该定位方式中,在GPS(Global Positioning System,全球定位系统)的基础上,架设一个地面基站;地面基站获取卫星定位与该地面基站的真实位置对比,计算出GPS的定位误差;并通过GPRS(General Packet Radio Service,通用分组无线服务)把当前误差发送给移动站,移动站会利用这个误差纠正从卫星获得的定位。
VIO定位:该定位方式考虑到视觉和惯性部件虽然分别可以用于定位目标;但两者分别存在以下问题:
1)视觉定位中,通过在像素平面捕捉目标、确定相差从而计算出目标物体的三维坐标,对于低速运动的目标能够较为准确地定位;然而对于高速(或运动状态剧烈改变)的物体,这种定位方式甚至难以运行,而即使低速状态也无法避免光照或背景干扰的影响。
2)惯性定位中,使用搭载在目标物体上的惯性部件能够高速、实时地测量物体的运动状态(或运动状态的改变),对于视觉方法难以处理的快速运动或运动状态剧烈变化等情况具有良好的适应性;但由于惯性部件的零偏会随温度变化,因此,惯性部件都不可避免的存在误差,并且在对惯性参数进行积分时,会不断的对产生误差积累,最终导致估计出错误的位置。
因此,VIO定位方式中,将视觉和惯性部件所采集的定位信息进行紧耦合,从而形成优势互补以提升定位的准确性和稳定性。
紧耦合:与紧耦合相对应的为松耦合。示例性的,假定将上述视觉和惯性两种方式进行松耦合,视觉运动估计与惯导运动估计两系统是两个相对独立的系统,因此,松耦合的方式仅仅是将每个系统的输出的定位结果进行融合。与松耦合不同的是,紧耦合则是使用视觉和惯性两个传感器的原始数据,共同估计一组变量,传感器噪声也是相互影响的,紧耦合算法上比较复杂,但充分利用了传感器数据,可以实现更好的效果,是目前研究的重点。
预积分:通过将积分模型转化为预积分模型,从而有效减少地迭代优化过程中的计算量。
以VIO定位方式为例,假定该方式中使用IMU测量惯性信息,如图2所示的时间轴中(t),图中图像采集时刻用圆圈表示,IMU采集时刻用小叉表示,可以看出IMU通常以较快的速率采集角速度和加速度的信息,而视觉则是以较慢的频率采集图像;从而导致IMU采集的数据量较为庞大。
而在求解IMU姿态时,需要基于IMU的世界坐标系下的初始状态进行积分。具体包括对加速度积分得到速度(V),对角速度积分得到角度(Q),对加速度进行两重积分得到位置(P);而在做优化的过程中,需要迭代更新和调整这期间的PVQ值时,因此,一旦期间某个时刻的PVQ进行了调整,则对该时刻以及之后的所有的姿态都要重新再积分算一遍,从而基于积分模型进行姿态计算极为消耗计算资源。
而预积分模型中,将其与世界坐标系进行解耦,使得i+1时刻的积分项变为相对于第i时刻的姿态,而不是相对于世界坐标系的姿态,因此,优化过程中不再需要重新从初始状态进行积分,从而减少了计算量。本实施例中,将角速度的预积分称为旋转预积分,速度的预积分称为平移预积分。
因子图:表示将一个具有多变量的全局函数因子分解,得到几个局部函数的乘积,以此为基础得到的一个双向图叫做因子图。也即是说,因子图是对函数因子分解的表示图,一般内含两种节点,变量节点和函数节点。在概率论及其应用中,因子图是一个在贝叶斯推理中得到广泛应用的模型。
零偏和噪声:传感器自身局限性(例如,传感器内部机械、温度等各种物理因素)所引入的干扰信息。
在上述相关介绍的基础上,下面结合图3对本实施例中的定位方法进行详细阐述。但应该理解的是,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。如图3所示,该方法包括:
S101,获取可移动平台的视觉信息、惯性信息及RTK定位信息。
可选地实施方式中,该可移动平台可以搭载有摄像机、惯性检测单元以及RTK检测单元。其中,该摄像机用于采集视觉信息,惯性检测单元用于采集惯性信息,RTK检测单元用于采集RTK定位信息。
S102,根据视觉信息、惯性信息及RTK定位信息,获得视觉残差、惯性残差及RTK残差。
本实施例中,为充分利用上述视觉信息、惯性信息及RTK定位信息三种定位信息,需要构建视觉残差、惯性残差及RTK残差,使得上述三种定位信息之间相互约束。
其中,可移动平台在运动过程中,会通过摄像机周期性的进行图像采集,然后,根据同一目标特征分别在两帧图像中的成像位置,构建视觉重投影误差;而本实施例中的视觉残差就是很多特征点一起构建的视觉重投影误差之和。
惯性残差则表示通过惯性信息所预估的定位信息与可移动平台实际定位信息之间的差异。
RTK残差为在同一坐标系下的RTK预估定位信息与RTK定位信息之差,RTK预估定位信息由惯性信息获得。即通过将惯性信息所预估的位置信息与RTK定位信息进行比较,构造两者之间的约束关系。
S103,根据视觉残差、惯性残差及RTK残差,获得可移动平台的目标位姿信息。
研究发现,上述视觉残差、惯性残差及RTK残差的分布,满足高斯概率分布,因此,可以基于极大似然估计的思想确定出可移动平台的目标位姿信息;也即是说,该目标位姿信息表征基于视觉残差、惯性残差及RTK残差处理所得的最大后验概率的最优解,此时的目标位姿就是当前可移动平台最可能出现的位置。
因此,本实施例提供的定位方法中,可移动平台获取视觉信息、惯性信息及RTK定位信息,然后,通过上述信息构视觉、惯性以及RTK残差,实现将将上述多种定位信息以紧耦合的方式进行融合,以确定可移动平台的目标位姿,从而达到将多种定位方式进行优势互补,提高可移动平台定位精度的目的。
应理解的是,本领域技术人员可以根据定位场景,构建与场景相适应的视觉残差、惯性残差及RTK残差。本实施例中,则采用VIO定位方式中构建视觉残差以及惯性残差的方式,建立上述视觉残差以及惯性残差。
示例性的,假定该摄像机是双目相机,则可移动平台通过图像识别的方式对采集的左右两帧图像进行识别,确定出其中的ORB(Oriented FAST and Rotated BRIEF)角点,同时对左右图像的ORB角点进行特征点匹配,然后,三角化计算角点在左相机坐标系下的3D坐标。其中,这些角点坐标被用于构建重投影误差,作为本实施例中的视觉残差。
需要说明的是,本实施例中的角点又名关键点,表现为图像中突出的小区域,具有像素值急剧的从浅色变为深色的特征。
其中,惯性残差表示通过惯性信息所预估的定位信息与可移动平台实际定位信息之间的差异;而VIO定位方式中的惯性残差为本领域现有技术,本实施例不再对此进行赘述。
经研究发现,通过惯性信息构建多个RTK残差,可以更为充分的利用RTK信息,使得最终的目标位姿更准确,因此,本实施例中的RTK残差包括第一残差以及第二残差,RTK预估定位信息包括第一定位信息以及第二定位信息,视觉信息包括相邻的两帧图像,惯性信息包括在两帧图像的采集时间之间采集的局部惯性信息以及惯性信息的预积分。因此,如图4所示,步骤S102包括:
S102-1,根据视觉信息、惯性信息,获得视觉残差、惯性残差。
S102-2,根据局部惯性信息以及RTK定位信息,获得第一残差。
其中,第一残差为第一定位信息与RTK定位信息之差,第一定位信息由局部惯性信息获得。也即是说,该可移动平台可以根据局部惯性信息,预估移动平台的第一定位信息;然后,将第一定位信息与RTK定位信息以及高斯白噪声之差,作为第一残差。
S102-3,根据惯性信息的预积分、局部惯性信息以及RTK定位信息,获得第二残差。
其中,第二残差为第二定位信息与RTK定位信息之差,第二定位信息由惯性信息的预积分以及局部惯性信息获得。也即是说,该可移动平台可以根据局部惯性信息以及惯性信息的预积分,预估移动平台的第二定位信息;然后,将第二定位信息与RTK定位信息之差,作为第二残差。
因此,上述方式中分别采用了两种方式获得RTK预估定位信息,两种方式分别采用了不同的惯性信息,使得两种RTK残差会更加充分的利用RTK信息,使得融合的精度更准确。
为了便于本领域技术人员能够使用本实施例,在对上述第一残差以及第二残差的表达式进行详细介绍之前,先结合图5对本实施例涉及的几种坐标系之间的关系进行介绍。
如图5所示,图中的“enu”表示东北天坐标系,“w”表示世界坐标系,“b”表示基于惯性检测单元(IMU)建立的坐标系,“g”表示基于RTK检测单元建立的坐标系,“c”表示基于摄像机(CAM)建立的坐标系,“gw”表示重力矢量。其中,表示“enu”与“w”这两个坐标系之间的变换矩阵。/>表示“b”与“g”这连个坐标系之间的变换矩阵。
因此,基于上述坐标系之间的关系,并且假定RTK定位信息的采集周期与图像信息中相邻两帧图像之间的关系为:采集RTK定位信息的时间戳k位于相邻两帧图像的时间戳[i,i+1]之间,则第一残差的表达式为:
其中,第一残差的表达式可以变换为:
则上述表达式中,表示由局部惯性信息计算获得的第一定位信息,即预估出的RTK检测单元k时刻在东北天坐标系下的位置信息,/>表示RTK定位信息,即实际测得RTK检测单元得k时刻在东北天坐标系下的位置信息。
此外,的表达式分别为:
式中,分别表示惯性检测单元i、k、i+1时刻位于世界坐标系下的位置,/>表示i、k时刻的惯性检测单元在世界坐标系下的旋转矩阵,表示RTK检测单元k时刻位于世界坐标系下的位置,/>表示RTK检测单元k时刻位于东北天坐标系下的位置,/>表示世界坐标系与东北天坐标系之间的旋转矩阵,/>表示高斯白噪声,/>表示外参,/>表示世界坐标系与东北天坐标系之间的位移,α表示预设权重;i与i+1分别表示两帧图像各自的采集时间,k表示位于i与i+1之间的采集时间。
第二残差的表达式为:
其中,第二残差的表达式可以变换为:
则上述表达式中,表示RTK传感器实际测得的RTK检测单元i时刻在IMU坐标系下的位置信息,/>表示由局部惯性信息以及惯性信息的预积分计算出的第二定位信息,即预估出的RTK检测单元i时刻在IMU坐标系下的位置信息。
的表达式分别为:
式中,表示k时刻的惯性检测单元在世界坐标系下的旋转矩阵,/>表示RTK检测单元k时刻位于世界坐标系下的位置,/>表示i时刻的惯性检测单元在世界坐标系下的旋转矩阵,/>表示在[i,k]期间惯性检测单元测量值的旋转预积分,/>表示在i时刻位于世界坐标系中的速度,gw表示重力矢量,/>表示在[i,k]期间惯性检测单元测量值的平移预积分,Δti表示i到i+1之间的时间间隔。
其中,上述两表达式中的与/>之间满足以下关系:
式中,表示i时刻的惯性检测单元在世界坐标系下的速度,a表示惯性检测单元在[i,i+1]之间测得的加速度,ba表示惯性检测单元的零偏,na表示白噪声,gw表示世界坐标系中的重力加速度。也即是说,/>可以通过[i,i+1]之间的局部惯性信息进行积分获得。
并且,上述两表达式中的与/>之间满足以下关系:
式中,表示i时刻的惯性检测单元的角速度,bg表示惯性测量单元的零偏,Δti表示i到i+1之间的时间间隔。
由上述第一残差以及第二残差的表达式可知,本实施例中的RTK残差式是一个关于未知量以及未知量/>的表达式;而视觉残差以及惯性残差同样是关于未知量/>以及未知量/>的表达式;又由于上述视觉残差、惯性残差及RTK残差的分布,满足高斯概率分布,因此,可以将上述求解目标姿态信息的问题,转换为极大似然估计问题。
并且,已经证明当RTK残差、视觉残差以及惯性残差之和最小时,对应的以及取值就是最大后验概率最大时的最优解,也即是说此时的/>以及/>取值为可移动平台的最有可能出现的位置。其中,/>表示i时刻的可移动平台在世界坐标系中的位置,表示i时刻的可移动平台在世界坐标系中的姿态。因此,如图6所示,步骤S103包括:
S103-1,基于视觉残差、惯性残差、第一残差、第二残差,构建目标优化函数。
研究发现,视觉残差、惯性残差、第一残差、第二残差之和满足高斯概率分布,因此,作为可选地实施方式中,可移动平台可以将至少一个视觉残差与鲁棒核函数之间的乘积、至少一个惯性残差、至少一个第一残差、至少一个第二残差之间的残差之和,作为目标优化函数。
示例性,构建所得的目标函数的表达式可以表示为:
式中,表示惯性残差,i表示第i个惯性残差,x表示惯性残差的数量,rij表示视觉残差,j表示第j帧视觉残差,l-1表示视觉残差的数量,/>表示当前视觉残差对应帧图像中特征点的集合,/>表示特征点的3D坐标,/>表示第一残差,a表示第a个第一残差,m表示第一残差的数量,/>表示第二残差,b表示第b个第二残差,n表示第二残差的数量,ρHub表示鲁棒核函数,/>表示系统状态变量。
S103-2,计算目标优化函数的最小值,将最小值对应的位姿信息作为可移动平台的目标位姿信息。
值得说明的是,考虑到可移动平台在[i,i+1]之间的移动距离极短,因此,可以将i时刻求解所得的位姿作为可移动平台当前的目标位姿,还可以根据与/>之间的映射关系获得i+1时刻的位姿,作为可移动平台当前的目标位姿。对此,本领域技术人员可以根据使用场景进行适应性调整,本实施例不做具体的限定。
进一步地,研究还发现,极大似然估计问题可以通过图因子优化的方式进行求解,因此,上述步骤S103-2可以包括以下实施方式:
通过因子图优化的方式,求解目标优化函数的最小函数值;然后,将最小函数值对应的位姿信息,作为可移动平台的目标位姿信息。
示例性的,本实施提供的一种如图7所示的图因子,用于描述了RTK残差、视觉残差、惯性残差之间的关系。图7中的Tk、Vk、bk分别表示惯性测量单元的坐标系在k时刻的姿态、速度、零偏,“G”表示RTK检测单元的全局测量结果;图中的方块表示因子,圆圈表示优化变量;其中,每个因子表示一个约束,即表示一个残差项,与该因子对应方块相连的圆圈表示与残差项相关的优化变量。
继续参见图7,可以看出,视觉残差与IMU的姿态有关,惯性残差与IMU的姿态、速度以及零偏相关,第一种RTK残差与IMU的姿态以及RTK的全局测量结果相关,第二种RTK残差与IMU的姿态、速度、零偏,惯性残差中的IMU预积分以及RTK的全局测量结果相关。
研究还发现,可移动平台工作过程中产生的振动使得表示惯性检测单元与RTK检测单元之间的空间关系的外参发生变化。
例如,假定该可移动平台为无人机时,无人机旋翼工作时产生的振荡会传导至惯性检测单元与RTK检测单元,从而影响两者之间的空间位置关系,进而影响到最终目标位姿的精度。
鉴于此,本实施例为提高最终目标位姿的精度,每次构建目标优化函数之前,需要对第一残差以及第二残差中的外参进行校准。经数学证明,关于初始外参的雅可比矩阵可以用来实时校正第一残差以及第二残差中的外参。而本实施例为便于对第一残差以及第二残差中的外参进行区分,将第一残差中的外参称为第一外参,将第二残差中的外参称为第二外参。因此,步骤S103的另外一种实施方式中:
针对第一残差,获取第一残差关于第一外参的第一雅克比矩阵;然后,通过第一雅克比矩阵对第一外参进行校准,获得校准后的第一残差。
针对第二残差,可以获取第二残差关于第二外参的第二雅克比矩阵;通过第二雅克比矩阵对第二外参进行校准,获得校准后的第二残差;
最后,根据视觉残差、惯性残差、校准后的第一残差以及得校准后的第二残差,获得可移动平台的目标位姿信息。
示例性,依据上述第一残差的表达式,第一雅克比矩阵的表达式为:
依据上述第二残差的表达式,第二雅克比矩阵的表达式为:
以第二残差为例,可移动平台可以通过以下表达式对第一残差进行校准获得校准后的第二残差:
式中,表示校准后的第二残差,/>表示第二残差,/>表示第二雅克比矩阵,/>表示通过图因子优化计算得出的/>增量。
最后,该可移动平台可以将视觉残差、惯性残差、校准后的第一残差、校准后的第二残差之和,作为目标优化函数,然后,通过因子图优化的方式求解该目标函数的最小值,从而获得可移动平台的目标位姿。
因此,通过引入雅克比矩阵对第一残差以及第二残差中的外参进行校准,克服可移动平台振动所引入的干扰,从而使得可移动平台可以根据视觉残差、惯性残差、校准后的第一残差以及校准后的第二残差,获得可移动平台更为准确的目标位姿。
基于与上述定位方法相同的发明构思,本实施例还提供与该方法相关的装置,包括:
本实施例还提供一种定位装置,应用于可移动平台。其中,该定位装置包括至少一个可以软件形式存储于存储器中的功能模块。如图8所示,从功能上划分,定位装置可以包括:
信息模块201,用于获取可移动平台的视觉信息、惯性信息及RTK定位信息。
本实施例中,该信息模块201用于实现图3中的步骤S101,关于该信息模块201的详细描述,可以参见图3中关于步骤S101的描述。
残差模块202,用于根据视觉信息、惯性信息及RTK定位信息,获得视觉残差、惯性残差及RTK残差。
其中,RTK残差为在同一坐标系下的RTK预估定位信息与RTK定位信息之差,RTK预估定位信息由惯性信息获得。
本实施例中,该残差模块202用于实现图3中的步骤S102,关于该残差模块202的详细描述,可以参见图3中关于步骤S102的描述。
定位模块203,用于根据视觉残差、惯性残差及RTK残差,获得可移动平台的目标位姿信息,目标位姿信息表征视觉残差、惯性残差及RTK残差处理所得的最大后验概率的最优解。
本实施例中,该定位模块203用于实现图3中的步骤S103,关于该定位模块203的详细描述,可以参见图3中关于步骤S103的描述。
可选地实施方式中,RTK残差包括第一残差以及第二残差,RTK预估定位信息包括第一定位信息以及第二定位信息,视觉信息包括相邻的两帧图像,惯性信息包括在两帧图像的采集时间之间采集的局部惯性信息以及惯性信息的预积分,残差模块202获取RTK残差的方式,包括:
根据局部惯性信息以及RTK定位信息,获得第一残差,其中,第一残差为第一定位信息与RTK定位信息之差,第一定位信息由局部惯性信息获得;
根据预积分、局部惯性信息以及RTK定位信息,获得第二残差,其中,第二残差为第二定位信息与RTK定位信息之差,第二定位信息由预积分以及局部惯性信息获得。
可选地实施方式中,惯性信息通过惯性检测单元获得,RTK定位信息通过RTK检测单元获得,第一残差以及第二残差包括外参,外参表示惯性检测单元与RTK检测单元之间的空间位置关系,定位模块203还可以用于:
获取第一残差关于外参的第一雅克比矩阵;
通过第一雅克比矩阵对第一残差中的外参进行校准,获得校准后的第一残差;
获取第二残差关于外参的第二雅克比矩阵;
通过第二雅克比矩阵对第二残差中的外参进行校准,获得校准后的第二残差;
根据视觉残差、惯性残差、校准后的第一残差以及得校准后的第二残差,获得可移动平台的目标位姿信息。
可选地的实施方式中,定位模块203获取目标位姿的方式包括:
将视觉残差、惯性残差以及RTK残差之和,作为目标优化函数;
计算目标优化函数的最小函数值,将最小函数值对应的位姿信息作为可移动平台的目标位姿信息。
可选地实施方式中,定位模块203获取目标函数最小值的方式,包括:
通过因子图优化的方式,求解目标优化函数的最小函数值;
将最小函数值对应的位姿信息,作为可移动平台的目标位姿信息。
本实施例还提供一种电子设备,电子设备包括处理器以及存储器,存储器存储有计算机程序,计算机程序被处理器执行时,实现所述的定位方法。
本实施例还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时,实现所述的定位方法。
需要说明的是,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。此外,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的各种实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。

Claims (11)

1.一种定位方法,其特征在于,应用于可移动平台,所述方法包括:
获取所述可移动平台的视觉信息、惯性信息及RTK定位信息;
根据所述视觉信息、所述惯性信息及所述RTK定位信息,获得视觉残差、惯性残差及RTK残差;其中,所述RTK残差包括第一残差以及第二残差,所述视觉信息包括相邻的两帧图像,所述惯性信息包括在所述两帧图像的采集时间之间采集的局部惯性信息以及惯性信息的预积分,该步骤具体包括:
根据所述局部惯性信息以及所述RTK定位信息,获得所述第一残差,其中,所述第一残差为第一定位信息与所述RTK定位信息之差,所述第一定位信息由所述局部惯性信息获得;
根据所述局部惯性信息、所述惯性信息的预积分以及所述RTK定位信息,获得所述第二残差,其中,所述第二残差为第二定位信息与所述RTK定位信息之差,第二定位信息由所述惯性信息的预积分以及所述局部惯性信息获得;
根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息,所述目标位姿信息表征基于所述视觉残差、所述惯性残差及所述RTK残差处理所得的最大后验概率的最优解。
2.根据权利要求1所述的定位方法,其特征在于,所述根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息的步骤,包括:
基于所述视觉残差、所述惯性残差、所述第一残差以及所述第二残差,构建目标优化函数;
计算所述目标优化函数的最小函数值,将所述最小函数值对应的位姿信息作为所述可移动平台的目标位姿信息。
3.根据权利要求2所述的定位方法,其特征在于,所述基于所述视觉残差、所述惯性残差、所述第一残差以及所述第二残差,构建目标优化函数,包括:
将至少一个所述视觉残差与鲁棒核函数之间的乘积、至少一个所述惯性残差、至少一个所述第一残差以及至少一个所述第二残差之间的残差之和,作为所述目标优化函数,其中,所述残差之和满足高斯概率分布。
4.根据权利要求3所述的定位方法,其特征在于,所述根据所述局部惯性信息以及所述RTK定位信息,获得所述第一残差,包括:
根据所述局部惯性信息,预估所述移动平台的第一定位信息;
将所述第一定位信息与所述RTK定位信息以及高斯白噪声之差,作为所述第一残差。
5.根据权利要求3所述的定位方法,其特征在于,所述根据所述局部惯性信息、所述惯性信息的预积分以及所述RTK定位信息,获得所述第二残差,包括:
根据所述局部惯性信息以及所述惯性信息的预积分,预估所述移动平台的第二定位信息;
将所述第二定位信息与所述RTK定位信息之差,作为所述第二残差。
6.根据权利要求2所述的定位方法,其特征在于,所述计算所述目标优化函数的最小函数值,将所述最小函数值对应的位姿信息作为所述可移动平台的目标位姿信息的步骤,包括:
通过因子图优化的方式,求解所述目标优化函数的最小函数值;
将所述最小函数值对应的位姿信息,作为所述可移动平台的目标位姿信息。
7.根据权利要求1所述的定位方法,其特征在于,所述惯性信息通过惯性检测单元获得,所述RTK定位信息通过RTK检测单元获得,所述第一残差以及所述第二残差包括外参,所述外参表示所述惯性检测单元与所述RTK检测单元之间的空间位置关系;
所述根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息,包括:
获取所述第一残差关于所述外参的第一雅克比矩阵;
通过所述第一雅克比矩阵对所述第一残差中的外参进行校准,获得校准后的第一残差;
获取所述第二残差关于所述外参的第二雅克比矩阵;
通过所述第二雅克比矩阵对所述第二残差中的外参进行校准,获得校准后的第二残差;
根据所述视觉残差、所述惯性残差、所述校准后的第一残差以及所述校准后的第二残差,获得所述可移动平台的目标位姿信息。
8.一种定位装置,其特征在于,应用于可移动平台,所述定位装置包括:
信息模块,用于获取所述可移动平台的视觉信息、惯性信息及RTK定位信息;
残差模块,用于根据所述视觉信息、所述惯性信息及所述RTK定位信息,获得视觉残差、惯性残差及RTK残差;
其中,所述RTK残差包括第一残差以及第二残差,所述视觉信息包括相邻的两帧图像,所述惯性信息包括在所述两帧图像的采集时间之间采集的局部惯性信息以及惯性信息的预积分,所述残差模块还具体用于:
根据所述局部惯性信息以及所述RTK定位信息,获得所述第一残差,其中,所述第一残差为第一定位信息与所述RTK定位信息之差,所述第一定位信息由所述局部惯性信息获得;
根据所述局部惯性信息、所述惯性信息的预积分以及所述RTK定位信息,获得所述第二残差,其中,所述第二残差为第二定位信息与所述RTK定位信息之差,第二定位信息由所述惯性信息的预积分以及所述局部惯性信息获得;
定位模块,用于根据所述视觉残差、所述惯性残差及所述RTK残差,获得所述可移动平台的目标位姿信息,所述目标位姿信息表征基于所述视觉残差、所述惯性残差及所述RTK残差处理所得的最大后验概率的最优解。
9.一种电子设备,其特征在于,所述电子设备包括处理器以及存储器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,实现权利要求1-7任意一项所述的定位方法。
10.一种可移动平台,其特征在于,所述可移动平台包括权利要求9所述的电子设备。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现权利要求1-7任意一项所述的定位方法。
CN202111583425.6A 2021-12-22 2021-12-22 定位方法及相关装置 Active CN114111776B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111583425.6A CN114111776B (zh) 2021-12-22 2021-12-22 定位方法及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111583425.6A CN114111776B (zh) 2021-12-22 2021-12-22 定位方法及相关装置

Publications (2)

Publication Number Publication Date
CN114111776A CN114111776A (zh) 2022-03-01
CN114111776B true CN114111776B (zh) 2023-11-17

Family

ID=80362819

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111583425.6A Active CN114111776B (zh) 2021-12-22 2021-12-22 定位方法及相关装置

Country Status (1)

Country Link
CN (1) CN114111776B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115035201B (zh) * 2022-06-06 2023-09-29 易麦斯智能科技(无锡)有限公司 一种基于3d视觉的自动穿鞋带方法及系统
CN117034191A (zh) * 2023-08-04 2023-11-10 广东省机场管理集团有限公司工程建设指挥部 基于5g云平台的车辆多源信息融合方法、装置及介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011185899A (ja) * 2010-03-11 2011-09-22 Mitsubishi Electric Corp 位置標定装置、位置標定装置の位置標定方法および位置標定プログラム
CN107869989A (zh) * 2017-11-06 2018-04-03 东北大学 一种基于视觉惯导信息融合的定位方法及系统
CN109993113A (zh) * 2019-03-29 2019-07-09 东北大学 一种基于rgb-d和imu信息融合的位姿估计方法
CN111880207A (zh) * 2020-07-09 2020-11-03 南京航空航天大学 一种基于小波神经网络的视觉惯性卫星紧耦合定位方法
CN113175933A (zh) * 2021-04-28 2021-07-27 南京航空航天大学 一种基于高精度惯性预积分的因子图组合导航方法
CN113436261A (zh) * 2021-06-24 2021-09-24 湖南大学 一种面向封闭园区自动驾驶的单目视觉惯性定位方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011185899A (ja) * 2010-03-11 2011-09-22 Mitsubishi Electric Corp 位置標定装置、位置標定装置の位置標定方法および位置標定プログラム
CN107869989A (zh) * 2017-11-06 2018-04-03 东北大学 一种基于视觉惯导信息融合的定位方法及系统
CN109993113A (zh) * 2019-03-29 2019-07-09 东北大学 一种基于rgb-d和imu信息融合的位姿估计方法
CN111880207A (zh) * 2020-07-09 2020-11-03 南京航空航天大学 一种基于小波神经网络的视觉惯性卫星紧耦合定位方法
CN113175933A (zh) * 2021-04-28 2021-07-27 南京航空航天大学 一种基于高精度惯性预积分的因子图组合导航方法
CN113436261A (zh) * 2021-06-24 2021-09-24 湖南大学 一种面向封闭园区自动驾驶的单目视觉惯性定位方法

Also Published As

Publication number Publication date
CN114111776A (zh) 2022-03-01

Similar Documents

Publication Publication Date Title
US10295365B2 (en) State estimation for aerial vehicles using multi-sensor fusion
CN110243358B (zh) 多源融合的无人车室内外定位方法及系统
CN111156998B (zh) 一种基于rgb-d相机与imu信息融合的移动机器人定位方法
Indelman et al. Factor graph based incremental smoothing in inertial navigation systems
US10247556B2 (en) Method for processing feature measurements in vision-aided inertial navigation
CN110084832B (zh) 相机位姿的纠正方法、装置、系统、设备和存储介质
JP5987823B2 (ja) 画像センサおよび運動または位置センサから生じたデータを融合するための方法およびシステム
CN114111776B (zh) 定位方法及相关装置
CN111338383B (zh) 基于gaas的自主飞行方法及系统、存储介质
CN110260861B (zh) 位姿确定方法及装置、里程计
CN113551665B (zh) 一种用于运动载体的高动态运动状态感知系统及感知方法
WO2024027350A1 (zh) 车辆定位方法、装置、计算机设备、存储介质
CN114088087B (zh) 无人机gps-denied下高可靠高精度导航定位方法和系统
CN113063425B (zh) 车辆定位方法、装置、电子设备及存储介质
WO2018133077A1 (zh) 一种智能轮椅的环境信息收集与反馈系统及方法
Liu et al. An autonomous positioning method for fire robots with multi-source sensors
WO2020135183A1 (zh) 点云地图的构建方法、装置、计算机设备和存储介质
CN115900697A (zh) 对象运动轨迹信息处理方法、电子设备以及自动驾驶车辆
CN113495281B (zh) 可移动平台的实时定位方法及装置
CN114993317A (zh) 一种基于多源融合的室内外无缝定位方法
KR20200032776A (ko) 다중 센서 플랫폼 간 정보 융합을 위한 시스템
CN111811500A (zh) 目标对象的位姿估计方法、装置、存储介质和电子设备
Deng et al. Measurement model and observability analysis for optical flow-aided inertial navigation
WO2022179047A1 (zh) 一种状态信息估计方法及装置
Ferreira Improving Lidar Odometry and Mapping in Real-time using Inertial Measurements

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant