CN109358624B - 用于机器人的耦合定位方法 - Google Patents

用于机器人的耦合定位方法 Download PDF

Info

Publication number
CN109358624B
CN109358624B CN201811250509.6A CN201811250509A CN109358624B CN 109358624 B CN109358624 B CN 109358624B CN 201811250509 A CN201811250509 A CN 201811250509A CN 109358624 B CN109358624 B CN 109358624B
Authority
CN
China
Prior art keywords
robot
data
positioning
encoder
depth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811250509.6A
Other languages
English (en)
Other versions
CN109358624A (zh
Inventor
刘琴
明振
李金波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changsha Wanwei Robot Co., Ltd.
Original Assignee
Changsha Wanwei Robot Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changsha Wanwei Robot Co ltd filed Critical Changsha Wanwei Robot Co ltd
Priority to CN201811250509.6A priority Critical patent/CN109358624B/zh
Publication of CN109358624A publication Critical patent/CN109358624A/zh
Application granted granted Critical
Publication of CN109358624B publication Critical patent/CN109358624B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0272Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising means for registering the travel distance, e.g. revolutions of wheels
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Manipulator (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种用于机器人的耦合定位方法,包括获取编码器左右轮速度并记录硬件时间戳;获取深度数据和彩色数据并记录获硬件时间戳;对机器人的编码器和深度摄像头进行软件同步;设定机器人的初始位置,初始化采集图,计算路标的3D点坐标和初始化定位系统;采集摄像头的彩色数据和深度数据并进行特征提取;采集编码器数据并得到均值和协方差;进行g2o优化得到机器人的位置信息;检测回环并对位置信息进行优化得到最优的定位数据;存储定位数据并进行下一轮定位。本发明保证了在视觉在丢位置的情况下的精准定位,而且在图优化过程中能够有效避免丢帧情况下还能继续采用编码器进行定位,保证了里程计的连续性。

Description

用于机器人的耦合定位方法
技术领域
本发明具体涉及一种用于机器人的耦合定位方法。
背景技术
随着经济技术的发展和人们生活水平的提高,机器人技术已经逐步深入人们的生产和生活中,给人们的生产和生活带来了无尽的便利。
目前,随着机器人技术的不断进步,对机器人的要求也越来越高,其中包括机器人的精确定位问题。目前市场上的机器人定位主要借助于各种传感器,包括激光雷达,码盘,惯性设备,视觉等等。在实际应用中,单一的传感器定位各有其优缺点,很难兼顾各种恶劣场景及环境,因此,基于传感器的融合成为了定位的趋势。
目前,利用视觉进行定位发展迅速,出现了基于单目的,双目的,深度的视觉里程计算法,分别是LSD_SLAM(Large-Scale Direct Monocular SLAM),ORB_SLAM,RTABMAP(Real-Time Appearance-Based Mapping),RGBDSALM,VO(Visual Odometry)等等。在测试中,单纯的VO算法并不能保证里程计的连续,当出现纹理不丰富,光照条件不好时,里程计经常丢失。所以,为了解决单纯视觉容易丢失的情况,因此需结合其它传感器进行弥补,从而保证视觉里程计的完整与准确。另外,从价格上考虑,编码器因为价格低廉,且相对惯导设备来说,避免了零偏的影响,所以充分利用编码器和视觉的优点,可以很好的完成机器人的定位。
但是,目前常用的基于机器视觉和编码器的定位方法,其依旧存在如定位成本高昂,定位精度相对较差等问题,从而也制约了机器人的定位技术的发展。
发明内容
本发明的目的在于提供一种定位精度高且成本相对低廉的用于机器人的耦合定位方法。
本发明提供的这种用于机器人的耦合定位方法,包括如下步骤:
S1.获取机器人的编码器左右轮速度,并同时记录获取的速度的硬件时间戳;
S2.获取机器人深度摄像头的深度数据和彩色数据,并同时记录获取数据的硬件时间戳;
S3.根据步骤S1和S2获取的硬件时间戳,对机器人的编码器和深度摄像头进行软件同步,同时初始化机器人的状态;
S4.设定机器人的初始位置,并通过深度摄像头初始化采集图,并利用世界地图坐标系与图像坐标系间的转换关系计算路标的3D点坐标,初始化定位系统;
S5.采集摄像头的彩色数据和深度数据,并分别进行特征提取;
S6.采集编码器的数据,并进行预积分计算从而得到均值和协方差;
S7.通过步骤S5和步骤S6得到的数据进行g2o优化,从而得到机器人的位置信息;
S8.检测回环,并对机器人的位置信息进行优化得到最优的定位数据;
S9.存储机器人的定位数据,并进行下一轮的定位。
步骤S3所述的进行软件同步,具体为保证机器人深度摄像头数据和编码器的测量单元的初始时间一致。
步骤S6所述的进行预积分计算从而得到均值和协方差,具体为采用如下步骤进行计算:
A.采用如下算式计算机器人的双轮差动模型的线速度vf和角速度w:
Figure BDA0001841575830000031
Figure BDA0001841575830000032
式中vl和vr为机器人编码器反馈的机器人左轮和右轮的速度;l为轮间距;
B.采用如下算式计算机器人的运动角度和半径,且得到的机器人的运动角度和半径即为所述的均值:
Figure BDA0001841575830000033
Figure BDA0001841575830000034
θ=∑Δθ
式中r1和r2为机器人的两个轮胎的运动半径;θ为机器人的运动角度;vf为线速度;w为角速度;Δθ为机器人在编码器的相邻两次数据采集时间内所走过的角度,且Δθ=w*Δt,Δt为编码器的相邻两次数据采集时间的时间间隔;
C.采用如下算式计算协方差:
Figure BDA0001841575830000035
式中covk+1为k+1时刻的协方差,I为单位矩阵,Δt为编码器的相邻两次数据采集时间的时间间隔,
Figure BDA0001841575830000041
Figure BDA0001841575830000042
且R=-Δ_R×skew(vf)×Δt,dR=Expmap(w×Δt),RT=Δ_R×Δt,Δ_R为两次获取数据时的归一化旋转矩阵,Expmap为李群SO(3)上的指数映射。
本发明提供的这种用于机器人的耦合定位方法,通过松紧耦合的方式将编码器与深度视觉进行融合,保证了在视觉在丢位置的情况下的精准定位,弥补了深度视觉的定位缺陷,而且在图优化过程中提出了协方差计算的方法,能够有效避免丢帧情况下还能继续采用编码器进行定位,从而保证了里程计的连续性。
附图说明
图1为本发明方法的方法流程图。
图2为本发明方法中的检测回环示意图。
具体实施方式
如图1所示为本发明方法的方法流程图:本发明提供的这种用于机器人的耦合定位方法,包括如下步骤:
S1.获取机器人的编码器左右轮速度,并同时记录获取的速度的硬件时间戳;
S2.获取机器人深度摄像头的深度数据和彩色数据,并同时记录获取数据的硬件时间戳;
S3.根据步骤S1和S2获取的硬件时间戳,对机器人的编码器和深度摄像头进行软件同步,同时初始化机器人的状态;所述的进行软件同步,具体为保证机器人深度摄像头数据和编码器的测量单元的初始时间一致;
S4.设定机器人的初始位置,并通过深度摄像头初始化采集图,并利用世界地图坐标系与图像坐标系间的转换关系计算路标的3D点坐标,初始化定位系统;
S5.采集摄像头的彩色数据和深度数据,并分别进行特征提取;
S6.采集编码器的数据,并进行预积分计算从而得到均值和协方差;具体为采用如下步骤进行计算:
A.采用如下算式计算机器人的双轮差动模型的线速度vf和角速度w:
Figure BDA0001841575830000051
Figure BDA0001841575830000052
式中vl和vr为机器人编码器反馈的机器人左轮和右轮的速度;l为轮间距;
B.采用如下算式计算机器人的运动角度和半径,且得到的机器人的运动角度和半径即为所述的均值:
Figure BDA0001841575830000053
Figure BDA0001841575830000061
θ=∑Δθ
式中r1和r2为机器人的两个轮胎的运动半径;θ为机器人的运动角度;vf为线速度;w为角速度;Δθ为机器人在编码器的相邻两次数据采集时间内所走过的角度,且Δθ=w*Δt,Δt为编码器的相邻两次数据采集时间的时间间隔;
C.采用如下算式计算协方差:
Figure BDA0001841575830000062
式中covk+1为k+1时刻的协方差,I为单位矩阵,Δt为编码器的相邻两次数据采集时间的时间间隔,
Figure BDA0001841575830000063
Figure BDA0001841575830000064
且R=-Δ_R×skew(vf)×Δt,dR=Expmap(w×Δt),RT=Δ_R×Δt,Δ_R为两次获取数据时的归一化旋转矩阵,Expmap为李群SO(3)上的指数映射;
S7.通过步骤S5和步骤S6得到的数据进行g2o优化,从而得到机器人的位置信息;
S8.检测回环,并对机器人的位置信息进行优化得到最优的定位数据;具体为检测回环,并对回环的机器人位姿采用g2o进行优化,对位姿和姿态的累积误差进行矫正,得到最优的定位数据;
如图2所示即为本发明方法中的位姿图:其中,图中部的小方块是路标在图像上的特征点位置,图中上部的圆形(T1~T3)是两相邻位姿之间的里程计测量值。机器人位姿x和路标点y作为位姿图的节点,位姿与位姿之间通过传感器测量值进行约束,构成图中节点之间的边。位姿图中的节点变量如下:
x={x0,x1,...,xn,y1,y2,...,ym}
一般情况下,传感器的测量与节点之间的关系通用方程如下:
z=f(x)+v
其中,通过传感器测量获得数据称为观测数据z,待估计的变量为状态x,观测噪声v服从高斯分布。根据位姿图中的节点和边约束优化位姿的问题转化为求解最大似然估计:
x*=argmaxp(x|z)
更具体的,本系统对应的观测量z有两种,一种是图像中的二维特征点位置,即世界坐标三维点PW和图像平面中的投影位置p,满足如下关系:
Figure BDA0001841575830000071
式中k为相机内参,I为单位矩阵,TBC是相机与机器人坐标系之间的外参,TBW为待估计的位姿,PW为待估计的特征点位置在世界坐标系中的三维坐标,p为三维点在图像平面中的投影位置p,nl服从高斯分布
另一种是编码器提供的相对位姿,满足如下关系:
Figure BDA0001841575830000072
上式中,
Figure BDA0001841575830000081
Figure BDA0001841575830000082
为两个相邻的图像帧中对应的位姿。其中,噪声nij∈R6,Exp(nij)是从R6到SE(3)的指数映射;
当该位姿图中的节点数量超过预设计的滑动窗口大小时,将该位姿图内最旧的节点及约束边删除,并将删除的边约束作为先验约束加入该位姿图。同时将最新的位姿节点及其边约束加入该位姿图,采用非线性最小二乘法对当前该位姿图进行迭代求解,得到机器人的位姿信息,并将该机器人的位姿信息作为该机器人的定位结果输出;
S9.存储机器人的定位数据,并进行下一轮的定位。

Claims (1)

1.一种用于机器人的耦合定位方法,包括如下步骤:
S1.获取机器人的编码器左右轮速度,并同时记录获取的速度的硬件时间戳;
S2.获取机器人深度摄像头的深度数据和彩色数据,并同时记录获取数据的硬件时间戳;
S3.根据步骤S1和S2获取的硬件时间戳,对机器人的编码器和深度摄像头进行软件同步,同时初始化机器人的状态;具体为保证机器人深度摄像头数据和编码器的测量单元的初始时间一致;
S4.设定机器人的初始位置,并通过深度摄像头初始化采集图,并利用世界地图坐标系与图像坐标系间的转换关系计算路标的3D点坐标,初始化定位系统;
S5.采集摄像头的彩色数据和深度数据,并分别进行特征提取;
S6.采集编码器的数据,并进行预积分计算从而得到均值和协方差;具体为采用如下步骤进行计算:
A.采用如下算式计算机器人的双轮差动模型的线速度vf和角速度w:
Figure FDA0003172259560000011
Figure FDA0003172259560000012
式中vl和vr为机器人编码器反馈的机器人左轮和右轮的速度;l为轮间距;
B.采用如下算式计算机器人的运动角度和半径,且得到的机器人的运动角度和半径即为所述的均值:
Figure FDA0003172259560000021
Figure FDA0003172259560000022
θ=∑Δθ
式中r1和r2为机器人的两个轮胎的运动半径;θ为机器人的运动角度;vf为线速度;w为角速度;Δθ为机器人在编码器的相邻两次数据采集时间内所走过的角度,且Δθ=w*Δt,Δt为编码器的相邻两次数据采集时间的时间间隔;
C.采用如下算式计算协方差:
Figure FDA0003172259560000023
式中covk+1为k+1时刻的协方差,I为单位矩阵,Δt为编码器的相邻两次数据采集时间的时间间隔,
Figure FDA0003172259560000024
Figure FDA0003172259560000025
且R=-Δ_R×skew(vf)×Δt,dR=Expmap(w×Δt),RT=Δ_R×Δt,Δ_R为两次获取数据时的归一化旋转矩阵,Expmap为李群SO(3)上的指数映射;
S7.通过步骤S5和步骤S6得到的数据进行g2o优化,从而得到机器人的位置信息;
S8.检测回环,并对机器人的位置信息进行优化得到最优的定位数据;
S9.存储机器人的定位数据,并进行下一轮的定位。
CN201811250509.6A 2018-10-25 2018-10-25 用于机器人的耦合定位方法 Active CN109358624B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811250509.6A CN109358624B (zh) 2018-10-25 2018-10-25 用于机器人的耦合定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811250509.6A CN109358624B (zh) 2018-10-25 2018-10-25 用于机器人的耦合定位方法

Publications (2)

Publication Number Publication Date
CN109358624A CN109358624A (zh) 2019-02-19
CN109358624B true CN109358624B (zh) 2021-12-10

Family

ID=65346585

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811250509.6A Active CN109358624B (zh) 2018-10-25 2018-10-25 用于机器人的耦合定位方法

Country Status (1)

Country Link
CN (1) CN109358624B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113311452B (zh) * 2021-05-26 2022-12-30 上海新纪元机器人有限公司 一种基于多传感器的定位方法及其系统
CN117490705B (zh) * 2023-12-27 2024-03-22 合众新能源汽车股份有限公司 车辆导航定位方法、系统、装置和计算机可读介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105783913A (zh) * 2016-03-08 2016-07-20 中山大学 一种融合车载多传感器的slam装置及其控制方法
CN107869989A (zh) * 2017-11-06 2018-04-03 东北大学 一种基于视觉惯导信息融合的定位方法及系统
CN108318027A (zh) * 2017-01-18 2018-07-24 腾讯科技(深圳)有限公司 载体的姿态数据的确定方法和装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105783913A (zh) * 2016-03-08 2016-07-20 中山大学 一种融合车载多传感器的slam装置及其控制方法
CN108318027A (zh) * 2017-01-18 2018-07-24 腾讯科技(深圳)有限公司 载体的姿态数据的确定方法和装置
CN107869989A (zh) * 2017-11-06 2018-04-03 东北大学 一种基于视觉惯导信息融合的定位方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
On-Manifold Preintegration for Real-Time Visual–Inertial Odometry;Christian Forster 等;《IEEE TRANSACTIONS ON ROBOTICS》;20170228;第33卷(第1期);第3-9、16页 *

Also Published As

Publication number Publication date
CN109358624A (zh) 2019-02-19

Similar Documents

Publication Publication Date Title
CN110375738B (zh) 一种融合惯性测量单元的单目同步定位与建图位姿解算方法
CN110411462B (zh) 一种gnss/惯导/车道线约束/里程计多源融合方法
Zhao et al. A robust laser-inertial odometry and mapping method for large-scale highway environments
CN107941217B (zh) 一种机器人定位方法、电子设备、存储介质、装置
CN107909614B (zh) 一种gps失效环境下巡检机器人定位方法
CN110986988B (zh) 融合多传感器数据的轨迹推算方法、介质、终端和装置
CN103325108A (zh) 一种融合光流与特征点匹配的单目视觉里程计的设计方法
CN112556719B (zh) 一种基于cnn-ekf的视觉惯性里程计实现方法
CN114323033B (zh) 基于车道线和特征点的定位方法、设备及自动驾驶车辆
CN105976402A (zh) 一种单目视觉里程计的真实尺度获取方法
CN114526745A (zh) 一种紧耦合激光雷达和惯性里程计的建图方法及系统
CN109358624B (zh) 用于机器人的耦合定位方法
CN112326990A (zh) 一种作业车辆测速方法及系统
CN114754768A (zh) 一种点线融合的视觉惯性导航方法
CN109387198B (zh) 一种基于序贯检测的惯性/视觉里程计组合导航方法
CN114964276A (zh) 一种融合惯导的动态视觉slam方法
Tang et al. LE-VINS: A robust solid-state-LiDAR-enhanced visual-inertial navigation system for low-speed robots
Nair et al. Multi-object monocular SLAM for dynamic environments
CN115218889A (zh) 一种基于点线特征融合的多传感器室内定位方法
CN112945233B (zh) 一种全局无漂移的自主机器人同时定位与地图构建方法
CN115540875B (zh) 一种用于股道内列车车辆高精度检测定位的方法及系统
CN112432653A (zh) 基于点线特征的单目视觉惯性里程计方法
CN114119763A (zh) 一种用于自动驾驶车辆的Lidar标定方法及装置
CN114475581B (zh) 基于轮速脉冲和imu卡尔曼滤波融合的自动泊车定位方法
Sun et al. A multisensor-based tightly coupled integrated navigation system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20190710

Address after: 410013 16 Floor, F1 Building, Lugu Enterprise Square, 27 Wenxuan Road, Changsha High-tech Development Zone, Hunan Province

Applicant after: Changsha Wanwei Robot Co., Ltd.

Address before: 410013 16 Floor, F1 Building, Lugu Enterprise Square, 27 Wenxuan Road, Changsha High-tech Development Zone, Hunan Province

Applicant before: Hunan Wan Intelligent Robot Technology Co., Ltd.

GR01 Patent grant
GR01 Patent grant