CN101504287B - 基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 - Google Patents
基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 Download PDFInfo
- Publication number
- CN101504287B CN101504287B CN200910095784XA CN200910095784A CN101504287B CN 101504287 B CN101504287 B CN 101504287B CN 200910095784X A CN200910095784X A CN 200910095784XA CN 200910095784 A CN200910095784 A CN 200910095784A CN 101504287 B CN101504287 B CN 101504287B
- Authority
- CN
- China
- Prior art keywords
- uav
- point
- formula
- camera
- height
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Abstract
一种基于视觉信息的无人飞行器自主着陆的姿态参数估算方法,包括以下步骤:1)假设无人飞行器沿着直线下滑,对于单目视觉信息,基于时间处理计算运动矢量、估计膨胀中心,根据几何灭点模型估计俯仰角;2)利用双目立体视觉信息,基于特征点匹配形成稀疏的视差图,进一步估计UAV到地面特征点的深度信息,结合俯仰角参数,通过摄像机坐标到世界坐标的转换获得UAV相对地面的高度;3)建立无人飞行器运动模型,基于Kalman滤波进一步提高UAV高度参数估计精度。本发明提供一种有效提高可靠性的基于视觉信息的无人飞行器自主着陆的姿态参数估算方法。
Description
技术领域
本发明涉及无人飞行器技术领域,尤其是一种无人飞行器(Unmanned Aerial Vehicle,UAV)导航技术,侧重视觉信息的UAV姿态参数估计。
背景技术
无人飞行器用于航空摄影,灾情监测以及地球物理探矿等,有着广泛的应用前景。UAV自主着陆是指UAV依赖机载的导航设备和飞行控制系统来进行定位导航并最终控制UAV降落在着陆场的过程。要想实现自主着陆,UAV必须具备自主导航能力,即需要实时估计其姿态参数以用于自主着陆导航。
目前国内外研究的用于UAV自主着陆的导航技术包括:惯性导航系统(INS)、GPS导航系统和INS/GPS组合导航系统。其中,惯性导航是最早最成熟的导航技术,它是利用陀螺,加速度机等惯性元器件感受UAV在运动过程中的加速度,然后通过积分计算,得到机体大概位置与速度等导航参数,它最大的缺点是误差会随时间的推移而不断累加;GPS应用最为广泛,技术也相对成熟,它利用卫星进行导航定位,具有精度高,使用简单等优点,但在山区等特殊地方易阻塞。对于小型UAV,由于负荷有限,视觉导航系统是理想选择,一方面其体积小,另一方面功耗低,同时对着陆地形有直观的感知。
对于UAV,视觉导航系统侧重飞行路径的规划、障碍物的检测等方面,并且多数算法基于单目视觉信息的感知与理解。随着机器视觉的发展,立体视觉的研究成果逐渐用于工业智能化领域。双目立体视觉用于UAV处于起步阶段。
发明内容
为了克服已有无人飞行器的导航系统的可靠性差的不足,本发明提供一种有效提高可靠性的基于视觉信息的无人飞行器自主着陆的姿态参数估算方法。
为解决上述技术问题的技术方案是:
一种基于视觉信息的无人飞行器自主着陆姿态参数估算方法,所述估算方法包括以下步骤:
1)、俯仰角估计:
设置双目摄像机与无人飞行器的机体平行,摄像机坐标系与无人飞行器的坐标系重合,假设无人飞行器沿着直线下滑,无人飞行器位于在离地面高H′的位置,其飞行方向与地面成α角,俯仰角α通过公式(1)求得:
上式中,fp为摄像机的焦距,H为FOVC点和C点之间的距离,L为FOE点和FOVC点之间的距离,FOVC是摄像机视野区EF的中心,FOE为膨胀中心,C点是像平面内FOE点和FOVC点连线与平面B的灭线的交点;
2)深度估计:
采用双目立体视觉方法测量摄像机到地面特征点的深度,从双目图像中找到匹配点,形成视差图,根据公式(2)求出深度参数
Yc=bfc/D (2)
其中,Yc是深度,b是两个摄像机之间的基线长度,fc是摄像机的焦距,D是双目视差。
作为优选的一种方案:所述估算方法还包括以下步骤:
3)高度估计:
在摄像机坐标系下获得相关参数,通过坐标变换得到UAV相对地面的高度信息,从摄像机坐标系到世界坐标系的转换关系见公式(3):
其中,α是UAV的俯仰角,xc,yc,zc是UAV在摄像机坐标系下的位置,xw,yw,zw是UAV在世界坐标系下的位置,所求的UAV高度H′即公式中的zw:
H′=zw=yc×sinα+zc×cosα (4)
利用基于特征点的匹配方法形成稀疏的视差图,就由公式(2)求得UAV相对各特征点深度信息,再通过公式(4)将每个特征点求得的高度进行统计平均,获得该时刻UAV的高度参数。
作为优选的另一种方案:在所述步骤2)中,利用Kalman滤波器提高高度参数估计精度的过程为:
设UAV运动为直线运动,定义状态矢量为:
yn=[yp(n),yv(n),ya(n)]T (5)
式中yp(n)为第n个采样时刻UAV的高度,yv(n)为第n个采样时刻UAV的速度,而ya(n)为第n个采样时刻UAV的加速度;
根据牛顿运动定理,分别建立系统模型和测量模型,系统模型:
yn=Ayn-1+ωn
式中,下标n为第n个采样时刻,yn为第n个采样时刻的状态矢量,A为状态转移矩阵,T为采样时间间隔,ωn为第n个采样时刻的系统噪声矢量;
xn=Hyn+vn
测量模型: (7);
H=[1,0,0]
式中xn为第n个采样时刻的测量值,即UAV的高度,H为输出矩阵,vn为第n个采样时刻的测量噪声矢量。
本发明的技术效果:基于视觉信息的感知与理解为无人飞行器提供自主着陆所需的导航信息。假设无人飞行器沿着直线下滑,对于单目视觉信息,基于时间处理计算运动矢量、估计膨胀中心,根据几何灭点模型估计俯仰角。利用双目立体视觉信息,基于特征点匹配形成稀疏的视差图,进一步估计UAV到地面特征点的深度信息,结合俯仰角参数,通过摄像机坐标到世界坐标的转换获得UAV相对地面的高度。建立无人飞行器运动模型,基于Kalman滤波进一步提高UAV高度参数估计精度。
附图说明
图1是UAV俯仰角测量模型图。
图2是RANSAC算法拟合灭点图。
图3是立体视觉模型示意图。
图4是俯仰角估计结果的示意图。
图5是UAV高度估计结果的示意图。
具体实施方式
下面结合附图对本发明作进一步描述。
参照图1-图5,基于视觉信息的无人飞行器自主着陆的姿态参数估计方法具体实现包括以下部分:
1.俯仰角估计
设置双目摄像机与无人飞行器的机体平行,摄像机坐标系与无人飞行器的坐标系重合,假设无人飞行器沿着直线下滑,无人飞行器位于在离地面高H′的位置,其飞行方向与地面成α角,参考图1和图2。俯仰角α通过公式(1)求得:
上式中,fp为摄像机的焦距,H为FOVC点和C点之间的距离,L为FOE点和FOVC点之间的距离,FOVC是摄像机视野区EF的中心,FOE为膨胀中心,C点是像平面内FOE点和FOVC点连线与平面B的灭线的交点;
因此,只要确定了L、H和fp就可以得到俯仰角,fp可以通过摄像机标定得到,得到H和L的关键是提取出灭线和膨胀中心。
根据透视学理论,水平面的灭线即为视平线。UAV下降俯冲的过程中如果没有左右摇晃,而且两台摄像机被固定在同一水平面上,则两台摄像机的光心距地面的高度(视高)是相同的,那么两台摄像机的视平线共线;水平面上任一平行直线投影在像平面后形成的灭点落在视平线上。因此,可以分别提取左右图中的灭点来确定灭线。一组平行线具有相同的灭点,相互平行的道路边界和斑马线在2D图像中交于一个灭点,通过改进型的Hough变换提取道路中的边缘,利用RANSAC(RANdom SAmple Consensus)算法拟合出鲁棒性高的灭点,如图2所示。
根据运动视觉理论,当人们经过静止景物时,景物在视网膜上的投影好像向后流动,事实上,对给定的平移运动方向和给定的注视方向来说,景物的视觉投影似乎是从一个特定的视网膜点流出来,这个点就是膨胀中心FOE。由于固定翼无人机在下降过程中速度很快,位移较大,选用特征点的运动矢量法计算FOE。
2.深度估计
采用双目立体视觉方法测量摄像机到地面特征点的深度,从双目图像中找到匹配点,形成稀疏的视差图,根据公式(2)求出深度参数
Yc=bfc/D (2)
其中,Yc是深度,b是两个摄像机之间的基线长度,fc是摄像机的焦距,D是双目视差,且D=xl′-xr′,xl′表示PA与Pl之间的距离,xr′表示PB与Pr之间的距离,见图3。
3.高度估计
在摄像机坐标系下获得相关参数,需要进一步通过坐标变换,得到UAV相对地面的高度信息。从摄像机坐标系到世界坐标系的转换关系见公式(3)。
其中,α是UAV的俯仰角,xc,yc,zc是UAV在摄像机坐标系下的位置,xw,yw,zw是UAV在世界坐标系下的位置。因此,所求的UAV高度H′即公式中的zw:
H′=zw=yc×sinα+zc×cosα (4)
利用基于特征点的匹配方法形成稀疏的视差图,就可由公式(2)求得UAV相对各特征点深度信息,进一步通过公式(4)将每个特征点求得的高度进行统计平均,获得该时刻UAV的高度参数。
4.利用Kalman滤波器提高高度参数估计精度
设UAV运动为直线运动,定义状态矢量为
yn=[yp(n),yv(n),ya(n)]T (5)
式中:yp(n)为第n个采样时刻UAV的高度,yv(n)为第n个采样时刻UAV的速度,而ya(n)为第n个采样时刻UAV的加速度。根据牛顿运动定理,分别建立系统模型和测量模型。
系统模型:
yn=Ayn-1+ωn
式中下标n为第n个采样时刻,yn为第n个采样时刻的状态矢量,A为状态转移矩阵,T为采样时间间隔,ωn为第n个采样时刻的系统噪声矢量。
测量模型:
xn=Hyn+vn
(7)
H=[1,0,0]
式中xn为第n个采样时刻的测量值,即UAV的高度,H为输出矩阵,vn为第n个采样时刻的测量噪声矢量。
模拟UAV着陆的仿真实验平台模型,实际实验构架由双目摄像机(JVC1481),时钟同步卡(GL202),图像采集卡(Daheng CQ300),位移台和主机(主频p43.06GHz,内存512M)组成。将摄像机固定在位移台上,使摄像机从位移台的顶端平移至底端,模拟UAV着陆时摄像机的运动,在下滑过程中,利用双目视觉系统采集道路视频数据。
图4为姿态角估计结果,横坐标的帧数与时间对应,从中可以看出算法估计的结果与真实值24.5°相吻合。平均误差为0.66°。图5是对高度估计的仿真结果,虚线为Harris特征点匹配的结果,实线为Kalman滤波器滤波后结果,滤波后平均误差:1.57cm,可以看出,由于部分特征点失配和系统误差引起的高度偏差已被Kalman滤波器有效的抑制了。
无人直升机实验平台携带嵌入式立体视觉数据采集设备。在飞行过程中,图像数据以5帧/秒的速率存入CF卡中。由于无人机航模本身的局限性,在飞行过程中直升机基本处于水平运动,其俯仰角可视为0°,因此,只对直升机的高度参数进行估计。在这样的前提条件下,本发明开发的算法基于直升机空中实拍图像序列估计出直升机的高度值为10.848m。直升机实际飞行高度在10m到11m米之间,因此,本实施例开发的算法是有效的。
Claims (1)
1.一种基于视觉信息的无人飞行器自主着陆姿态参数估算方法,其特征在于:所述估算方法包括以下步骤:
1)俯仰角估计:
设置双目摄像机与无人飞行器的机体平行,摄像机坐标系与无人飞行器的坐标系重合,假设无人飞行器沿着直线下滑,无人飞行器位于在离地面高H′的位置,其飞行方向与地面成α角,俯仰角α通过公式(1)求得:
上式中,fp为摄像机的焦距,H为FOVC点和C点之间的距离,L为FOE点和FOVC点之间的距离,FOVC是摄像机视野区EF的中心,FOE为膨胀中心,C点是像平面内FOE点和FOVC点连线与平面B的灭线的交点;
2)深度估计:
采用双目立体视觉方法测量摄像机到地面特征点的深度,从双目图像中找到匹配点,形成视差图,根据公式(2)求出深度参数
Yc=bfc/D (2)
其中,Yc是深度,b是两个摄像机之间的基线长度,fc是摄像机的焦距,
D是双目视差;
3)高度估计:
在摄像机坐标系下获得相关参数,通过坐标变换得到UAV相对地面的高度信息,从摄像机坐标系到世界坐标系的转换关系见公式(3):
其中,α是UAV的俯仰角,xc,yc,zc是UAV在摄像机坐标系下的位置,xw,yw,zw是UAV在世界坐标系下的位置,所求的UAV高度H′即公式中的zw:
H′=zw=yc×sinα+zc×cosα (4)
利用基于特征点的匹配方法形成稀疏的视差图,就由公式(2)求得UAV相对各特征点深度信息,再通过公式(4)将每个特征点求得的高度进行统计平均,获得该时刻UAV的高度参数;
在所述步骤2)中,利用Kalman滤波器提高高度参数估计精度的过程为:
设UAV运动为直线运动,定义状态矢量为:
yn=[yp(n),yv(n),ya(n)]T (5)
式中yp(n)为第n个采样时刻UAV的高度,yv(n)为第n个采样时刻UAV的速度,而ya(n)为第n个采样时刻UAV的加速度;
根据牛顿运动定理,分别建立系统模型和测量模型,系统模型:
yn=Ayn-1+ωn
式中,下标n为第n个采样时刻,yn为第n个采样时刻的状态矢量,A为状态转移矩阵,T为采样时间间隔,ωn为第n个采样时刻的系统噪声矢量;
xn=Hyn+vn
测量模型: (7);
H=[1,0,0]
式中xn为第n个采样时刻的测量值,即UAV的高度,H为输出矩阵,vn为第n个采样时刻的测量噪声矢量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910095784XA CN101504287B (zh) | 2009-01-22 | 2009-01-22 | 基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910095784XA CN101504287B (zh) | 2009-01-22 | 2009-01-22 | 基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101504287A CN101504287A (zh) | 2009-08-12 |
CN101504287B true CN101504287B (zh) | 2011-01-05 |
Family
ID=40976598
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200910095784XA Expired - Fee Related CN101504287B (zh) | 2009-01-22 | 2009-01-22 | 基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101504287B (zh) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI532009B (zh) * | 2010-10-14 | 2016-05-01 | 華晶科技股份有限公司 | 產生淺景深影像的方法及裝置 |
CN102857771B (zh) * | 2011-06-28 | 2015-05-20 | 瑞昱半导体股份有限公司 | 3d影像处理装置 |
CN102566441A (zh) * | 2011-12-29 | 2012-07-11 | 成都飞机工业(集团)有限责任公司 | 用于无人机的可视仿真试验系统 |
US8781653B2 (en) * | 2012-01-11 | 2014-07-15 | The Boeing Company | Quiet landing attitude modifier for airplane |
CN103389121B (zh) * | 2013-08-21 | 2015-12-09 | 成都实唯物联网科技有限公司 | 基于机器视觉的角度检测装置及方法 |
JP6133506B2 (ja) | 2014-04-17 | 2017-05-24 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 飛行制限区域に対する飛行制御 |
WO2016065519A1 (en) * | 2014-10-27 | 2016-05-06 | SZ DJI Technology Co., Ltd. | Uav flight display |
CN113628500A (zh) | 2014-09-30 | 2021-11-09 | 深圳市大疆创新科技有限公司 | 用于支持模拟移动的系统和方法 |
US9434480B2 (en) * | 2015-01-13 | 2016-09-06 | Honeywell International Inc. | Display systems and methods for generating a display providing runway illusion alleviation |
EP4198672A1 (en) | 2015-03-31 | 2023-06-21 | SZ DJI Technology Co., Ltd. | Open platform for restricted region |
JP6666245B2 (ja) | 2015-06-26 | 2020-03-13 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | モバイルプラットフォームの動作モードを選択する方法、システム、コンピュータプログラム製品及び装置 |
CN105204515B (zh) * | 2015-08-27 | 2018-04-10 | 泉州装备制造研究所 | 无人机自主着陆的测量解析及控制方法和装置 |
US10861177B2 (en) | 2015-11-11 | 2020-12-08 | Zhejiang Dahua Technology Co., Ltd. | Methods and systems for binocular stereo vision |
CN105335733B (zh) * | 2015-11-23 | 2023-08-11 | 西安韦德沃德航空科技有限公司 | 一种无人机自主着陆视觉定位方法及系统 |
CN105387860B (zh) * | 2015-12-16 | 2017-12-22 | 西北工业大学 | 结合单目视觉与激光测距的无人机自主着陆导引方法 |
CN107000840B (zh) | 2016-01-26 | 2019-07-26 | 深圳市大疆创新科技有限公司 | 无人飞行器及多目成像系统 |
CN105761265A (zh) * | 2016-02-23 | 2016-07-13 | 英华达(上海)科技有限公司 | 利用影像深度信息提供避障的方法及无人飞行载具 |
KR101651600B1 (ko) * | 2016-04-29 | 2016-08-29 | 공간정보기술 주식회사 | 스테레오 카메라에 의한 자동 착륙 기능을 갖는 무인 비행용 드론 |
CN106056574B (zh) * | 2016-05-04 | 2018-10-02 | 上海航天控制技术研究所 | 一种基于面积法的对地姿态解算方法 |
CN106203439B (zh) * | 2016-06-27 | 2019-05-31 | 南京邮电大学 | 基于标志物多特征融合的无人机自动寻的着陆方法 |
CN106289161A (zh) * | 2016-08-01 | 2017-01-04 | 北京小米移动软件有限公司 | 高度测量方法及装置 |
CN109791414A (zh) * | 2016-09-26 | 2019-05-21 | 深圳市大疆创新科技有限公司 | 基于视觉着陆的方法和系统 |
CN106524993B (zh) * | 2016-10-11 | 2019-02-22 | 北京农业智能装备技术研究中心 | 一种动态野值点检测方法及装置 |
WO2018095278A1 (zh) | 2016-11-24 | 2018-05-31 | 腾讯科技(深圳)有限公司 | 飞行器的信息获取方法、装置及设备 |
CN106651961B (zh) | 2016-12-09 | 2019-10-11 | 中山大学 | 一种基于彩色立体标定物的无人机标定方法及系统 |
IL249870B (en) | 2016-12-29 | 2022-02-01 | Israel Aerospace Ind Ltd | Autonomous landing with the help of an image |
CN108510540B (zh) * | 2017-02-23 | 2020-02-07 | 杭州海康威视数字技术股份有限公司 | 立体视觉摄像机及其高度获取方法 |
CN106960454B (zh) * | 2017-03-02 | 2021-02-12 | 武汉星巡智能科技有限公司 | 景深避障方法、设备及无人飞行器 |
CN107194941A (zh) * | 2017-05-23 | 2017-09-22 | 武汉科技大学 | 一种基于单目视觉的无人机自主着陆方法、系统及电子设备 |
CN107958461A (zh) * | 2017-11-14 | 2018-04-24 | 中国航空工业集团公司西安飞机设计研究所 | 一种基于双目视觉的载机目标跟踪方法 |
CN108413937B (zh) * | 2017-11-29 | 2020-11-03 | 浙江纺织服装职业技术学院 | 一种地面凹坑识别方法 |
CN108375682A (zh) * | 2018-01-15 | 2018-08-07 | 高力 | 基于空基下视时序影像的地面目标物速度测量方法及装置 |
CN108974373B (zh) * | 2018-07-19 | 2019-12-13 | 西安恒宇众科空间技术有限公司 | 一种飞行器自主着陆方法和基于双目视觉飞行器自主着陆装置 |
CN110543182B (zh) * | 2019-09-11 | 2022-03-15 | 济宁学院 | 一种小型无人旋翼机自主着陆控制方法及系统 |
CN112797982A (zh) * | 2020-12-25 | 2021-05-14 | 中国航空工业集团公司沈阳飞机设计研究所 | 一种基于机器视觉的无人机自主着陆测量方法 |
-
2009
- 2009-01-22 CN CN200910095784XA patent/CN101504287B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN101504287A (zh) | 2009-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101504287B (zh) | 基于视觉信息的无人飞行器自主着陆的姿态参数估算方法 | |
CN106017463B (zh) | 一种基于定位传感装置的飞行器定位方法 | |
Zhang et al. | Novel technique for vision-based UAV navigation | |
US11218689B2 (en) | Methods and systems for selective sensor fusion | |
Alonso et al. | Accurate global localization using visual odometry and digital maps on urban environments | |
CN103822635B (zh) | 基于视觉信息的无人机飞行中空间位置实时计算方法 | |
EP2029970B1 (en) | Beacon-augmented pose estimation | |
CN103954283B (zh) | 基于景象匹配/视觉里程的惯性组合导航方法 | |
Johnson et al. | Precise image-based motion estimation for autonomous small body exploration | |
Quist et al. | Radar odometry on fixed-wing small unmanned aircraft | |
JP2020528994A (ja) | ポイントクラウドに基づく姿勢推定を用いた車両ナビゲーションシステム | |
CN102353377B (zh) | 一种高空长航时无人机组合导航系统及其导航定位方法 | |
Li et al. | Self-positioning for UAV indoor navigation based on 3D laser scanner, UWB and INS | |
CN107390704B (zh) | 一种基于imu姿态补偿的多旋翼无人机光流悬停方法 | |
Kleinert et al. | Inertial aided monocular SLAM for GPS-denied navigation | |
CN103017772B (zh) | 一种基于可观性分析的光学和脉冲星融合自主导航方法 | |
CN109544696A (zh) | 一种基于视觉惯性组合的机载增强合成视景虚实图像精确配准方法 | |
CN111288989A (zh) | 一种小型无人机视觉定位方法 | |
CN109983361A (zh) | 机会信号辅助惯性导航 | |
CN109341686A (zh) | 一种基于视觉-惯性紧耦合的飞行器着陆位姿估计方法 | |
CN110749308B (zh) | 使用消费级gps和2.5d建筑物模型的面向slam的室外定位方法 | |
Rhudy et al. | Wide-field optical flow aided inertial navigation for unmanned aerial vehicles | |
CN102607563B (zh) | 利用背景天文信息对于航天器进行相对导航的系统 | |
Gupta et al. | Terrain‐based vehicle orientation estimation combining vision and inertial measurements | |
Hinzmann et al. | Robust map generation for fixed-wing UAVs with low-cost highly-oblique monocular cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110105 Termination date: 20140122 |