CN106767682A - 一种获取飞行高度信息的方法及飞行器 - Google Patents

一种获取飞行高度信息的方法及飞行器 Download PDF

Info

Publication number
CN106767682A
CN106767682A CN201611100232.XA CN201611100232A CN106767682A CN 106767682 A CN106767682 A CN 106767682A CN 201611100232 A CN201611100232 A CN 201611100232A CN 106767682 A CN106767682 A CN 106767682A
Authority
CN
China
Prior art keywords
image
depth
aircraft
realtime graphic
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611100232.XA
Other languages
English (en)
Inventor
黄盈
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201611100232.XA priority Critical patent/CN106767682A/zh
Publication of CN106767682A publication Critical patent/CN106767682A/zh
Priority to PCT/CN2017/111577 priority patent/WO2018095278A1/zh
Priority to US16/296,073 priority patent/US10942529B2/en
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C5/00Measuring height; Measuring distances transverse to line of sight; Levelling between separated points; Surveyors' levels
    • G01C5/005Measuring height; Measuring distances transverse to line of sight; Levelling between separated points; Surveyors' levels altimeters for aircraft

Abstract

本发明实施例公开了一种获取飞行高度信息的方法,包括:包含两个摄像头的飞行器根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像;根据第一深度图像以及第二深度图像确定目标融合图像,目标融合图像中包含至少一个预设区域;确定目标融合图像中每个预设区域对应的深度值;根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。本发明实施例还提供一种飞行器。本发明不会因为飞行器自身受到气流影响而导致高度信息测量的精度降低,此外,双目摄像头可以获取到各种复杂地形,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。

Description

一种获取飞行高度信息的方法及飞行器
技术领域
本发明涉及智能飞行器技术领域,尤其涉及一种获取飞行高度信息的方法及飞行器。
背景技术
无人驾驶的飞机简称为飞行器,飞行器由于其自身的诸多优点已经成为各国竞相发展的热点。一方面飞行器具有体积小,机动灵活,不易被发现的优点,另一方面飞行器可以携带多种传感器,能提供多种形式高分辨率的目标信息,再者飞行器造价低廉,不会造成人员伤亡,具有经济安全的特点。
由于飞行器难以在未知环境下估计飞行器距离地面的高度,现有方案中,可以通过在飞行器机身上安装气压计、超声波装置或者深度摄像头测量得到飞行器的高度信息,并且利用该高度信息对飞行器进行飞行控制。
然而,在实际应用中,采用气压计测量飞行高度会受到飞行器本身飞行产生的气流影响,从而会出现高度变化的情况,导致测量精度较差。超声波装置虽然测量精度较高,但是遇到地面有凸起或者斜面等复杂地形时,超声波装置会接收不到,导致测量结果不准确。而采用深度摄像头则会使得飞行器的成本提升。
发明内容
本发明实施例提供了一种获取飞行高度信息的方法,可以提升高度信息测量的精度,此外,双目摄像头可以获取到各种复杂地形,并根据不同地形计算得到高度信息,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。
有鉴于此,本发明第一方面提供一种获取飞行高度信息的方法,所述方法应用于飞行器,所述飞行器包括第一摄像头以及第二摄像头,其中,所述第一摄像头用于获取第一实时图像,所述第二摄像头用于获取第二实时图像,所述方法包括:
根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
根据所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
确定所述目标融合图像中每个预设区域对应的深度值;
根据所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
本发明第二方面提供一种飞行器,所述飞行包括第一摄像头以及第二摄像头,其中,所述第一摄像头用于获取第一实时图像,所述第二摄像头用于获取第二实时图像,所述飞行器还包括:
第一获取模块,用于根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
第一确定模块,用于根据所述第一获取模块获取的所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
第二确定模块,用于确定所述第一确定模块得到的所述目标融合图像中每个预设区域对应的深度值;
第二获取模块,用于根据所述第二确定模块确定的所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明实施例中,提供了一种获取飞行高度信息的方法,该方法应用于飞行器,且飞行器包括第一摄像头以及第二摄像头,第一摄像头获取第一实时图像,第二摄像头获取第二实时图像,具体过程为,飞行器根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,然后根据第一深度图像以及第二深度图像确定目标融合图像,接下来飞行器可以确定目标融合图像中每个预设区域对应的深度值,最后根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。通过上述方式,采用双目摄像头测量飞行器的高度信息,与气压计测量高度信息相比,不会因为飞行器自身受到气流影响而导致高度信息测量的精度降低,此外,双目摄像头可以获取到各种复杂地形,并根据不同地形计算得到高度信息,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。
附图说明
图1为本发明实施例中获取飞行高度信息的方法一个实施例示意图;
图2为本发明实施例中安装有双目摄像头的飞行器示意图;
图3为本发明实施例中获取左右图像之间视差值的一个示意图;
图4为本发明实施例中获取图像深度值的一个流程示意图;
图5为应用场景中双目摄像头的工作流程示意图;
图6为本发明实施例中飞行器一个实施例示意图;
图7为本发明实施例中飞行器另一个实施例示意图;
图8为本发明实施例中飞行器另一个实施例示意图;
图9为本发明实施例中飞行器另一个实施例示意图;
图10为本发明实施例中飞行器另一个实施例示意图;
图11为本发明实施例中飞行器另一个实施例示意图;
图12为本发明实施例中飞行器另一个实施例示意图;
图13为本发明实施例中飞行器另一个实施例示意图;
图14为本发明实施例中飞行器一个结构示意图。
具体实施方式
本发明实施例提供了一种获取飞行高度信息的方法,可以提升高度信息测量的精度,此外,双目摄像头可以获取到各种复杂地形,并根据不同地形计算得到高度信息,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应理解,本发明方案主要应用于飞行器的操作,飞行器(英文全称:UnmannedAerial Vehicle,英文缩写:UAV)就是利用无线遥控或程序控制来执行特定航空任务的飞行器,指不搭载操作人员的一种动力空中飞行器,采用空气动力为飞行器提供所需的升力,能够自动飞行或远程引导,既能一次性使用也能进行回收,又能够携带致命性和非致命性有效负载。
需要说明的是,飞行器可以是无人机,也可以是航模飞机,或者其他类型的飞行机器,此处不做限定。
本方案所测定的飞行高度信息具体可以为真实高度,需要说明的是,飞行高度信息也可以是绝对高度、标准气压高度或者相对高度。
其中,绝对高度表示飞行器到海平面的垂直距离。在海上飞行用雷达可直接测出绝对高度。
标准气压高度表示飞行器从空中到标准气压平面(即大气压力等于760毫米汞柱的水平面)的垂道距离,叫做标准气压高度。大气压力经常发生变化,因此,标准气压平面与海平面的垂道距离也经常改变。如果标准气压平面恰好与海平面相重合,则标准气压高度等于绝对高度。民航飞机在航线上飞行和军用飞机转场飞行时,都需要利用标准气压高度,以免飞机相撞。
相对高度表示飞行器到某指定的水平面(机场、靶场或者战场等)的垂直距离。飞机在起飞和着陆时需要知道飞机对机场的相对高度,这时把高度表的气压刻度调到该机场的气压值即场压,飞机距机场的相对高度即可由高度表显示出来。
真实高度表示飞行器从空中到正下方地面目标的垂道距离。进行轰炸和照相侦察时,必须知道飞机的真实高度。在执行轰炸、对地攻击、照相侦察、搜索和救援以及农林作业等任务时需要知道真实高度。真实高度可用电影经纬仪或雷达高度表测出。一定的飞行器只能在预先设计的某高度范围内飞行。
下面将以飞行器的角度介绍获取飞行高度信息的方式,请参阅图1,本发明实施例中获取飞行高度信息的方法一个实施例包括:
101、包含第一摄像头以及第二摄像头的飞行器根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,第一摄像头用于获取第一实时图像,第二摄像头用于获取第二实时图像;
本实施例中,飞行器包括了一组双目摄像头,即具有两个摄像头,分别定义为第一摄像头和第二摄像头。双目摄像头可以实时抓拍到图像,在某一个时刻第一摄像头拍摄到第一实时图像,而第二摄像头拍摄到第二实时图像。此外,在后续的时间里双目摄像头仍旧可以在一个时刻内采集到左右两幅实时图像,在本发明中,采用某一时刻对应的两幅实时图像即可计算当前时刻飞行器的飞行高度信息。
在飞行器采集到第一实时图像和第二实时图像后,将这两幅实时图像进行处理,得到第一实时图像对应的第一深度图像,以及第二实时图像对应的第二深度图像。
102、根据第一深度图像以及第二深度图像确定目标融合图像,目标融合图像中包含至少一个预设区域;
本实施例中,飞行器获取到第一深度图像和第二深度图像后,由于左右视角的偏差,因此,第一深度图像和第二深度图像并非对称图像,还需要进行处理才能使得两幅深度图像合二为一,得到一幅目标融合图像。其中,目标融合图像包括了很多像素点,可以将目标融合图像划分为至少一个预设区域,这样的话,预设区域内的像素点就会变少。
103、确定目标融合图像中每个预设区域对应的深度值;
本实施例中,飞行器需要分别计算目标融合图像中每个预设区域所对应的深度值。
104、根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。
本实施例中,由于飞行器在飞行时不一定是垂直于地面飞行的,所以安装在飞行器上的双目摄像头也并非与地面保持垂直,所以飞行器还需要通过传感器等装置获取当前飞行姿态信息,例如俯仰角以及翻滚角等,利用这些当前飞行姿态信息以及每个预设区域的深度值,可以计算得到每个预设区域的飞行高度信息,当所有预设区域内的飞行高度信息都计算完毕后,可以进而将所以的飞行高度信息发送给飞行器控制模块,由飞行控制模块根据飞行高度信息对飞行器进行飞行控制。
本发明实施例中,提供了一种获取飞行高度信息的方法,该方法应用于飞行器,且飞行器包括第一摄像头以及第二摄像头,第一摄像头获取第一实时图像,第二摄像头获取第二实时图像,具体过程为,飞行器根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,然后根据第一深度图像以及第二深度图像确定目标融合图像,接下来飞行器可以确定目标融合图像中每个预设区域对应的深度值,最后根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。通过上述方式,采用双目摄像头测量飞行器的高度信息,与气压计测量高度信息相比,不会因为飞行器自身受到气流影响而导致高度信息测量的精度降低,此外,双目摄像头可以获取到各种复杂地形,并根据不同地形计算得到高度信息,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。
可选地,在上述图1对应的实施例的基础上,本发明实施例提供的获取飞行高度信息的方法第一个可选实施例中,根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像之前,还可以包括:
在预置摄像头距离范围内,将第一摄像头与第二摄像头设置于飞行器的同一水平线上。
本实施例中,请参阅图2,图2为本发明实施例中安装有双目摄像头的飞行器示意图,如图所示,需要将第一摄像头和第二摄像头安装在飞行器的同一水平线上,且保证两者之间的间隔距离满足预设摄像头距离范围之内,而图2中的两个摄像头位置仅为一个示意,不应理解为对本案的限定。
需要说明的是,预置摄像头距离范围通常为6厘米至10厘米,在实际应用中,也可以进行一些调整,此处不做限定。
然而,在实际应用中安装好的两个摄像头无法在数学上真正实现精确到同一水平线上,因此需要分别对两个摄像头进行立体标定,立体标定可以采用张正友标定法。
具体地,张正友标定法的实施过程可以包括以下步骤:
1、打印一张棋盘格,把它贴在一个平面上,作为标定物;
2、通过调整标定物或摄像机的方向,为标定物拍摄一些不同方向的照片;
3、从照片中提取特征点(如角点);
4、估算理想无畸变的情况下,五个内参和所有外参;
5、应用最小二乘法估算。实际存在径向畸变下的畸变系数。
6、极大似然法,优化估计,提升估计精度。
通过这样的过程,我们就获得了具有高估计精度的五个内参,三个外参和两个畸变系数。利用这些信息,我们可以进行畸变矫正、图像校正和最终的三维信息恢复。
双目摄像机需要标定的参数包括但不限于摄像机内参数矩阵、畸变系数矩阵、本征矩阵、基础矩阵、旋转矩阵以及平移矩阵。其中摄像机内参数矩阵和畸变系数矩阵可以通过单目标定的方法标定出来。双目摄像机标定和单目摄像机标定最主要的区别就是双目摄像机需要标定出左右摄像机坐标系之间的相对关系。
其次,本发明实施例中,垂直向下的双目摄像头要求安装在同一个水平线上,并且两个摄像头间隔的距离在预置摄像头距离范围内,通过上述安装方式,可以使得第一摄像头和第二摄像头都能够拍摄到符合要求的实时图像,如果两个摄像头间隔太小,则难以得到合理的深度信息以及定位信息,而两个摄像头间隔太大又会导致近处的物体拍摄不到,从而缺乏参照物,因此采用预置摄像头距离范围可以获取到更合理的图像。
可选地,在上述图1或图1对应的第一个实施例的基础上,本发明实施例提供的获取飞行高度信息的方法第二个可选实施例中,根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,可以包括:
按照预设图像规格对第一实时图像以及第二实时图像进行缩放处理;
采用预先获取到的内部参数以及外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行图像校正,并得到第一深度图像以及第二深度图像。
本实施例中,飞行器在将第一实施图像和第二实时图像转换为第一深度图像以及第二深度图像的过程中,还可以进行如下两个步骤,具体为:
由于飞行器使用双目视觉计算飞行高度信息时,通常情况下不需要高精度图片,因此双目摄像头采集的实时图像首先会按照预设图像规格进行缩放,例如预设图像规格可以是320×240,其中,320×240是指分辨率,240表示240个像素点,320表示320个像素点。因为左右摄像头存在视差,所以左右两幅实时图像的边缘也是不能匹配的,在处理时还可以按照一定的像素剪裁掉第一实时图像以及第二实时图像边缘,例如各剪裁边缘的20个像素,在实际应用中,还可以剪裁其他合理的像素,此处不作限定。
接下来,可以进一步对经过缩放处理后的第一实时图像以及第二实时图像进行图像校正,图像校正包括图像的畸变校正以及图像的对准校正,分别利用对摄像头标定后得到的内部参数和外部参数即可实现图像校正,校正后即得到第一深度图像以及第二深度图像,其中,第一深度图像以及第二深度图像均为可以用于计算深度值的图像。
其次,本发明实施例中,飞行器在获取到第一实时图像和第二实时图像后还应该对其进行处理,首先需要按照预设图像规格对第一实时图像以及第二实时图像进行缩放,然后采用预先获取到的内部参数以及外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行图像校正。通过上述方式,对实时图像进行缩放和剪裁可以降低图像边缘不匹配的情况,同时还可以减少视觉处理的计算量,从而提升处理的效率,此外,对实时图像进行校正能够得到同一水平面上的图像,由此提升图像处理的准确性。
可选地,在上述图1对应的第二个实施例的基础上,本发明实施例提供的获取飞行高度信息的方法三个可选实施例中,采用预先获取到的内部参数以及外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行图像校正,可以包括:
采用预先获取到的内部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行畸变补偿,其中,内部参数包含第一摄像头的桶形畸变参数和切向畸变参数,以及第二摄像头的桶形畸变参数和切向畸变参数;
采用预先获取到的外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行旋转和平移,其中,外部参数包含第一摄像头的平移参数和旋转参数,以及第二摄像头的平移参数和旋转参数。
本实施例中,利用内部参数和外部参数可以对实时图像进行图像校正,具体为:
采用内部参数对经过缩放处理后的第一实时图像以及第二实时图像进行畸变补偿,内部参数是对双目摄像头中单个摄像头做标定后得到的参数,标定第一摄像头后得到第一摄像头的桶形畸变参数和切向畸变参数,标定第二摄像头后得到第二摄像头的桶形畸变参数和切向畸变参数。分别采用第一摄像头的桶形畸变参数和切向畸变参数对第一实时图像进行畸变校正,采用第二摄像头的桶形畸变参数和切向畸变参数对第二实时图像进行畸变校正。
其中,在物平面内放置均匀方格,把它照亮作为物,若把光阑放在物和透镜之间,可以看出,远离光轴区域的放大率比光轴附近的低,在像平面内出现图中所示的外凸情景,称为桶形畸变。而切向畸变就是矢量端点沿切线方向发生的变化。
采用外部参数对经过缩放处理后的第一实时图像以及第二实时图像进行对准校正,通过对第一摄像头和第二摄像头进行立体标定,两个摄像头之间的旋转矩阵和平移矩阵即为外部参数,其中,旋转参数即为旋转矩阵,而平移参数即为平移矩阵。
再次,本发明实施例中,具体说明了如何对实时图像进行图像校正,即采用预先获取到的内部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行畸变补偿,采用预先获取到的外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行旋转和平移。通过上述方式,根据摄像头标定得到的内部参数和外部参数可以对实时图像进行校正和对准,使得实时图像在数学意义上满足处于同一水平线的要求,从而便于在后续的处理中对两个摄像头获取到的图像进行融合,以得到目标融合图像。
可选地,在上述图1对应的第三个实施例的基础上,本发明实施例提供的获取飞行高度信息的方法四个可选实施例中,根据第一深度图像以及第二深度图像确定目标融合图像,可以包括:
采用立体视觉算法确定第一深度图像以及第二深度图像之间的视差值;
根据视差值将第一深度图像以及第二深度图像合成为目标融合图像。
本实施例中,通过上述实施例描述的内容可知,深度图像是实时图像经过处理后得到的,也就是可以利用深度图像来合成所需的目标融合图像。
具体为,双目视觉的深度值计算先要求取左右图像对应点之间的视差值,在实际空间中的同一物体投影到左右摄像头中,其位置会有一些差别。针对同一个实际空间中的点在摄像头中的投影会有一个像素位置,左右两个摄像头的像素位置会存在一个偏移值,即视差值。
请参与图3,图3为本发明实施例中获取左右图像之间视差值的一个示意图,如图所示,物理点P(X,Y,Z)在左右两个摄像头的投影分别为Xl和Xr,因为我们双目视觉要求在同一个水平线上面,所以其Y值都相同,视差值即为d=Xl-Xr。
如图所示,在开源计算机视觉库(英文全称:Open Source Computer VisionLibrary,英文缩写:OpenCV)中,f的量纲是像素点,Tx的量纲由定标板棋盘格的实际尺寸和用户输入值确定,一般是以毫米为单位(当然为了精度提高也可以设置为0.1毫米量级),d=Xl-Xr的量纲也是像素点。因此分子分母约去,Z的量纲与T相同,d与Z之间满足下列关系:
采用OpenCV提供的半全局匹配和互信息(英文全称:Semiglobal Matching andMutual Information,英文缩写:SGBM)算法计算第一深度图像以及第二深度图像之间的视差值,然后根据视差值可以将第一深度图像以及第二深度图像合成为目标融合图像。
进一步地,本发明实施例中,在飞行器确定目标融合图像的过程还包括,先采用立体视觉算法确定第一深度图像以及第二深度图像之间的视差值,然后根据视差值将第一深度图像以及第二深度图像合成为目标融合图像。通过上述方式,可以根据计算得到的视差值来合成目标融合图像,从而提升目标融合图像的准确性。
可选地,在上述图1对应的第四个实施例的基础上,本发明实施例提供的获取飞行高度信息的方法五个可选实施例中,确定目标融合图像中每个预设区域对应的深度值,可以包括:
根据视差值确定目标融合图像中每个像素点的深度值;
根据每个像素点的深度值分别确定每个预设区域对应的深度值。
本实施例中,飞行器还可以进一步利用获取的每个像素点的视差值,确定出目标融合图像各个像素点的深度值,根据每个像素点的深度值分别计算每个预设区域对应的深度值。
具体为,通过双目视觉模块我们得到了图像中的所有像素点的深度值(单位是物理值单位,例如米)。因为地形会比较复杂,所以图像不会有一个一致的深度值,因此我们将图像划分成多个网格,即划分为多个预设区域,例如6x6的网格,每个网格单独计算一个深度值。
每个网格的深度值我们采用中位值平均滤波法来计算其深度值。例如,可以把网格内所有有效点的深度值去掉其前5%的最大值和后5%的最小值,再求平均。在网格划分得足够小的情况下,得到的均值可以准确的描述地形的高度。
更进一步地,本发明实施例中,飞行器确定目标融合图像中每个预设区域对应的深度值具体可以分为两个步骤,首先根据视差值确定目标融合图像中每个像素点的深度值,然后根据每个像素点的深度值分别确定每个预设区域对应的深度值。通过上述方法,由最小单位的像素点深度值来预计每个预设区域所对应的深度值,所得到的每个预设区域对应的深度值更为准确,从而提升方案的可行性和实用性。
可选地,在上述图1对应的第五个实施例的基础上,本发明实施例提供的获取飞行高度信息的方法六个可选实施例中,根据视差值确定目标融合图像中每个像素点的深度值,可以包括:
按照如下方式计算所述每个像素点的深度值,:
[X Y Z W]T=Q×[x y disparity(x,y) 1]T
Z(x,y)=Z/W;
其中,x表示三维空间中像素点在目标融合图像中的投影横坐标,y表示三维空间中所述像素点在目标融合图像中的投影纵坐标,disparity(x,y)表示在像素点(x,y)的视差值,Q表示视差深度映射矩阵,[X Y Z W]T表示目标矩阵,[X Y Z W]为目标矩阵的转置矩阵,Z(x,y)表示像素点(x,y)的深度值,Z为转置矩阵中第三列组成的子矩阵,W为转置矩阵中第四列组成的子矩阵。
本实施例中,深度值是用视差值和视差深度映射矩阵(英文全称:disparity-to-depth mapping matrix)做矩阵乘法来获得实际的三维点位置。其计算公式如下:
[X Y Z W]T=Q×[x y disparity(x,y) 1]T
x,y是实际三维空间中的点在图像中的投影坐标,单位是像素。disparity(x,y)表示在像素点(x,y)处的视差值。Q矩阵是视差深度映射矩阵,它是通过摄像头内参和外参计算得到。在本方案中我们使用OpenCV提供的stereoRectify函数来获得该映射矩阵。通过矩阵乘法得到的[X Y Z W]T即是实际的三维点的齐次坐标,其实际的深度值是Z(x,y)=Z/W。
其中,为了精确地求得某个点在三维空间里的距离Z,我们需要获得的参数有焦距f、视差d和摄像头中心距Tx。如果还需要获得X坐标和Y坐标的话,那么还需要额外知道左右像平面的坐标系与立体坐标系中原点的偏移cx和cy。其中f、Tx、cx和cy可以通过立体标定获得初始值,并通过立体校准优化,使得两个摄像头在数学上完全平行放置,并且左右摄像头的cx,cy和f相同。而立体匹配所做的工作,就是在之前的基础上,求取最后一个变量,即视差值d。从而最终完成求一个点三维坐标所需要的准备工作。
为了便于介绍,请参阅图4,图4为本发明实施例中获取图像深度值的一个流程示意图,如图所示:
步骤201中,飞行器首先对采集到的左右眼对应的实时图像进行缩放和剪裁,得到一定像素大小的图像;
步骤202中,通过对单个摄像头进行标定后得到内部参数,利用内部参数对实时图像进行畸变补偿;
步骤203中,通过对双目摄像头进行立体标定后得到外部参数,利用外部参数对实时图像进行对准校正,步骤201至步骤202用于对实时图像进行初步处理,并得到可以用于计算深度值的深度图像;
步骤204中,使用OpenCV提供的SGBM算法来实现图像点的匹配和视差值的计算;
步骤205中,采用视差深度变换矩阵计算图像的深度值。
再进一步地,本发明实施例中,介绍了如何根据视差值,计算得到目标融合图像中每个像素点的深度值的方法,即采用相关的公式即可计算出所需的结果,由此提升方案的实用性和可行性,增加方案的可操作性。
可选地,在上述图1对应的实施例的基础上,本发明实施例提供的获取飞行高度信息的方法七个可选实施例中,根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息,可以包括:
按照如下方式计算所述飞行高度信息:
h=dsinβ;
其中,β表示地面与飞行器的法线所构成的倾斜角,α表示当前飞行姿态信息中的翻滚角,γ表示当前飞行姿态信息中的俯仰角,d表示每个预设区域对应的深度值,h表示飞行高度信息。
本实施例中,因为飞行器在飞行时垂直向下的摄像头并不是垂直于地面的,地面与飞行器机身上摄像头的法线有一个倾斜的角度β,因此图像的深度值d还需要做一次三角函数的变换来求得每个网格的实际高度值h。其计算公式如下:
h=dsinβ
我们可以从飞行器控制模块中获取飞行器的俯仰角γ和翻滚角α,角度β可以通过如下公式来计算:
计算得到的所有预设区域的高度值后会送给飞行器控制模块进行处理。
其次,本发明实施例中,介绍了如何根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息,计算得到飞行高度信息的方法,即采用相关的公式即可计算出所需的结果,由此提升方案的实用性和可行性,增加方案的可操作性。
为便于理解,下面以一个具体应用场景对本发明中一种获取飞行定位信息的方法进行详细描述,请参阅图5,图5为应用场景中双目摄像头的工作流程示意图,具体为:
步骤301中,无人机通过其搭载的垂直向下的双目摄像头,分别采集左右眼的实时图像;
步骤302中,接下来可以利用左右眼的实时图像,经过图像缩放和裁剪,以及图像校正的处理后生成深度图像,左右眼的深度图像在经过视差处理后得到目标融合图像,并计算出目标融合图像中各个像素点的深度值;
步骤303中,获取当前无人机的机身姿态信息,利用俯仰角度数以及翻滚角度数等信息;
步骤304中,利用无人机当前的姿态角和图像深度值来计算无人机的高度值,因为地面的地形可能会很复杂,因此不会得到一个单一的高度值,我们将图像划分成多个网格,分别计算网格内的高度,这样可以得到一个粗略的地形高度值。
步骤305中,最后把这组高度值送给无人机的飞行控制系统。
下面对本发明中的飞行器进行详细描述,请参阅图6,本发明实施例中的飞行器包括第一摄像头以及第二摄像头,其中,所述第一摄像头用于获取第一实时图像,所述第二摄像头用于获取第二实时图像,所述飞行器40包括:
第一获取模块401,用于根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
第一确定模块402,用于根据所述第一获取模块401获取的所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
第二确定模块403,用于确定所述第一确定模块402得到的所述目标融合图像中每个预设区域对应的深度值;
第二获取模块404,用于根据所述第二确定模块403确定的所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
本实施例中,飞行器包括第一摄像头以及第二摄像头,其中,第一摄像头用于获取第一实时图像,第二摄像头用于获取第二实时图像,第一获取模块401根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,第一确定模块402根据第一获取模块401获取的第一深度图像以及第二深度图像确定目标融合图像,目标融合图像中包含至少一个预设区域,第二确定模块403确定第一确定模块402得到的目标融合图像中每个预设区域对应的深度值,第二获取模块404根据第二确定模块403确定的每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。
本发明实施例中,提供了一种获取飞行高度信息的飞行器,该飞行器包括第一摄像头以及第二摄像头,第一摄像头获取第一实时图像,第二摄像头获取第二实时图像,具体过程为,飞行器根据第一实时图像获取第一深度图像,并根据第二实时图像获取第二深度图像,然后根据第一深度图像以及第二深度图像确定目标融合图像,接下来飞行器可以确定目标融合图像中每个预设区域对应的深度值,最后根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息获取飞行高度信息。通过上述方式,采用双目摄像头测量飞行器的高度信息,与气压计测量高度信息相比,不会因为飞行器自身受到气流影响而导致高度信息测量的精度降低,此外,双目摄像头可以获取到各种复杂地形,并根据不同地形计算得到高度信息,从而提升测量的准确性,而且双目摄像头与深度摄像头相比,还具有成本较低的优势。
可选地,在上述图6对应的实施例的基础上,请参阅图7,本发明实施例提供的飞行器另一实施例中,所述飞行器40还包括:
设置模块405,用于所述第一获取模块401根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像之前,在预置摄像头距离范围内,将所述第一摄像头与所述第二摄像头设置于所述飞行器的同一水平线上。
其次,本发明实施例中,垂直向下的双目摄像头要求安装在同一个水平线上,并且两个摄像头间隔的距离在预置摄像头距离范围内,通过上述安装方式,可以使得第一摄像头和第二摄像头都能够拍摄到符合要求的实时图像,如果两个摄像头间隔太小,则难以得到合理的深度信息以及定位信息,而两个摄像头间隔太大又会导致近处的物体拍摄不到,从而缺乏参照物,因此采用预置摄像头距离范围可以获取到更合理的图像。
可选地,在上述图6或图7对应的实施例的基础上,请参阅图8,本发明实施例提供的飞行器另一实施例中,所述飞行器40还包括:
所述第一获取模块401包括:
缩放单元4011,用于按照预设图像规格对所述第一实时图像以及所述第二实时图像进行缩放处理;
校正单元4012,用于采用预先获取到的内部参数以及外部参数,对经过所述缩放单元4011缩放处理后的所述第一实时图像以及所述第二实时图像进行图像校正,并得到所述第一深度图像以及所述第二深度图像。
其次,本发明实施例中,飞行器在获取到第一实时图像和第二实时图像后还应该对其进行处理,首先需要按照预设图像规格对第一实时图像以及第二实时图像进行缩放,然后采用预先获取到的内部参数以及外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行图像校正。通过上述方式,对实时图像进行缩放和剪裁可以降低图像边缘不匹配的情况,同时还可以减少视觉处理的计算量,从而提升处理的效率,此外,对实时图像进行校正能够得到同一水平面上的图像,由此提升图像处理的准确性。
可选地,在上述图8对应的实施例的基础上,请参阅图9,本发明实施例提供的飞行器另一实施例中,所述飞行器40还包括:
所述校正单元4012包括:
第一处理子单元40121,用于采用预先获取到的所述内部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行畸变补偿,其中,所述内部参数包含所述第一摄像头的桶形畸变参数和切向畸变参数,以及所述第二摄像头的桶形畸变参数和切向畸变参数;
第二处理子单元40122,用于采用预先获取到的所述外部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行旋转和平移,其中,所述外部参数包含所述第一摄像头的平移参数和旋转参数,以及所述第二摄像头的平移参数和旋转参数。
再次,本发明实施例中,具体说明了如何对实时图像进行图像校正,即采用预先获取到的内部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行畸变补偿,采用预先获取到的外部参数,对经过缩放处理后的第一实时图像以及第二实时图像进行旋转和平移。通过上述方式,根据摄像头标定得到的内部参数和外部参数可以对实时图像进行校正和对准,使得实时图像在数学意义上满足处于同一水平线的要求,从而便于在后续的处理中对两个摄像头获取到的图像进行融合,以得到目标融合图像。
可选地,在上述图9对应的实施例的基础上,请参阅图10,本发明实施例提供的飞行器另一实施例中,
所述第一确定模块402包括:
第一确定单元4021,用于采用立体视觉算法确定所述第一深度图像以及所述第二深度图像之间的视差值;
合成单元4022,用于根据所述第一确定单元4021确定的所述视差值将所述第一深度图像以及所述第二深度图像合成为所述目标融合图像。
进一步地,本发明实施例中,在飞行器确定目标融合图像的过程还包括,先采用立体视觉算法确定第一深度图像以及第二深度图像之间的视差值,然后根据视差值将第一深度图像以及第二深度图像合成为目标融合图像。通过上述方式,可以根据计算得到的视差值来合成目标融合图像,从而提升目标融合图像的准确性。
可选地,在上述图10对应的实施例的基础上,请参阅图11,本发明实施例提供的飞行器另一实施例中,
所述第二确定模块403包括:
第二确定单元4031,用于根据所述视差值确定所述目标融合图像中每个像素点的深度值;
第三确定单元4032,用于根据所述第二确定单元4031确定的每个像素点的深度值分别确定所述每个预设区域对应的深度值。
更进一步地,本发明实施例中,飞行器确定目标融合图像中每个预设区域对应的深度值具体可以分为两个步骤,首先根据视差值确定目标融合图像中每个像素点的深度值,然后根据每个像素点的深度值分别确定每个预设区域对应的深度值。通过上述方法,由最小单位的像素点深度值来预计每个预设区域所对应的深度值,所得到的每个预设区域对应的深度值更为准确,从而提升方案的可行性和实用性。
可选地,在上述图11对应的实施例的基础上,请参阅图12,本发明实施例提供的飞行器另一实施例中,
所述第二确定单元4031包括:
计算子单元40311,用于按照如下方式计算所述每个像素点的深度值,:
[X Y Z W]T=Q×[x y disparity(x,y) 1]T
Z(x,y)=Z/W;
其中,所述x表示三维空间中像素点在所述目标融合图像中的投影横坐标,所述y表示三维空间中所述像素点在所述目标融合图像中的投影纵坐标,所述disparity(x,y)表示在所述像素点(x,y)的视差值,所述Q表示视差深度映射矩阵,所述[X Y Z W]T表示目标矩阵,[X Y Z W]为所述目标矩阵的转置矩阵,所述Z(x,y)表示像素点(x,y)的深度值,所述Z为所述转置矩阵中第三列组成的子矩阵,所述W为所述转置矩阵中第四列组成的子矩阵。
再进一步地,本发明实施例中,介绍了如何根据视差值,计算得到目标融合图像中每个像素点的深度值的方法,即采用相关的公式即可计算出所需的结果,由此提升方案的实用性和可行性,增加方案的可操作性。
可选地,在上述图6对应的实施例的基础上,请参阅图13,本发明实施例提供的飞行器另一实施例中,
所述第二获取模块404包括:
计算单元4041,用于按照如下方式计算所述飞行高度信息:
h=dsinβ;
其中,所述β表示地面与所述飞行器的法线所构成的倾斜角,所述α表示所述当前飞行姿态信息中的翻滚角,所述γ表示所述当前飞行姿态信息中的俯仰角,所述d表示所述每个预设区域对应的深度值,所述h表示所述飞行高度信息。
其次,本发明实施例中,介绍了如何根据每个预设区域对应的深度值以及飞行器的当前飞行姿态信息,计算得到飞行高度信息的方法,即采用相关的公式即可计算出所需的结果,由此提升方案的实用性和可行性,增加方案的可操作性。
本发明实施例还提供了另一种飞行器,如图13所示,为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例方法部分。以飞行器为无人机为例:
图13示出的是与本发明实施例提供的飞行器相关的无人机的部分结构的框图。参考图13,无人机包括:射频(英文全称:Radio Frequency,英文缩写:RF)电路510、存储器520、输入单元530、显示单元540、传感器550、音频电路560、无线保真(英文全称:wirelessfidelity,英文缩写:WiFi)模块570、处理器580、以及电源590等部件。本领域技术人员可以理解,图13中示出的无人机结构并不构成对无人机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图13对无人机的各个构成部件进行具体的介绍:
RF电路510可用于收发信息或通话过程中,信号的接收和发送,特别地,将飞行器控制装置的下行信息接收后,给处理器580处理;另外,将设计上行的数据发送给飞行器控制装置。通常,RF电路510包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(英文全称:Low Noise Amplifier,英文缩写:LNA)、双工器等。此外,RF电路510还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(英文全称:Global System of Mobile communication,英文缩写:GSM)、通用分组无线服务(英文全称:General Packet Radio Service,GPRS)、码分多址(英文全称:Code Division Multiple Access,英文缩写:CDMA)、宽带码分多址(英文全称:Wideband Code Division Multiple Access,英文缩写:WCDMA)、长期演进(英文全称:Long Term Evolution,英文缩写:LTE)、电子邮件、短消息服务(英文全称:ShortMessaging Service,SMS)等。
存储器520可用于存储软件程序以及模块,处理器580通过运行存储在存储器520的软件程序以及模块,从而执行无人机的各种功能应用以及数据处理。存储器520可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据无人机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器520可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元530可用于接收输入的数字或字符信息,以及产生与无人机的用户设置以及功能控制有关的键信号输入。具体地,输入单元530可包括触控面板531以及其他输入设备532。触控面板531,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板531上或在触控面板531附近的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板531可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器580,并能接收处理器580发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板531。除了触控面板531,输入单元530还可以包括其他输入设备532。具体地,其他输入设备532可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元540可用于显示由用户输入的信息或提供给用户的信息以及无人机的各种菜单。显示单元540可包括显示面板541,可选的,可以采用液晶显示器(英文全称:LiquidCrystal Display,英文缩写:LCD)、有机发光二极管(英文全称:Organic Light-EmittingDiode,英文缩写:OLED)等形式来配置显示面板541。进一步的,触控面板531可覆盖显示面板541,当触控面板531检测到在其上或附近的触摸操作后,传送给处理器580以确定触摸事件的类型,随后处理器580根据触摸事件的类型在显示面板541上提供相应的视觉输出。虽然在图13中,触控面板531与显示面板541是作为两个独立的部件来实现手机的输入和输入功能,但是在某些实施例中,可以将触控面板531与显示面板541集成而实现手机的输入和输出功能。
无人机还可包括至少一种传感器550,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板541的亮度,接近传感器可在无人机移动到光亮处时,关闭显示面板541和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别无人机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路560、扬声器561,传声器562可提供用户与无人机之间的音频接口。音频电路560可将接收到的音频数据转换后的电信号,传输到扬声器561,由扬声器561转换为声音信号输出;另一方面,传声器562将收集的声音信号转换为电信号,由音频电路560接收后转换为音频数据,再将音频数据输出处理器580处理后,经RF电路510以发送给比如另一手机,或者将音频数据输出至存储器520以便进一步处理。
WiFi属于短距离无线传输技术,无人机通过WiFi模块570可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图13示出了WiFi模块570,但是可以理解的是,其并不属于手机的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器580是无人机的控制中心,利用各种接口和线路连接整个无人机的各个部分,通过运行或执行存储在存储器520内的软件程序和/或模块,以及调用存储在存储器520内的数据,执行无人机的各种功能和处理数据,从而对无人机进行整体监控。可选的,处理器580可包括一个或多个处理单元;优选的,处理器580可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器580中。
无人机还包括给各个部件供电的电源590(比如电池),优选的,电源可以通过电源管理系统与处理器580逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出,无人机还可以包括摄像头、蓝牙模块等,在此不再赘述。
在本发明实施例中,该终端所包括的处理器580还具有以下功能:
根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
根据所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
确定所述目标融合图像中每个预设区域对应的深度值;
根据所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(英文全称:Read-OnlyMemory,英文缩写:ROM)、随机存取存储器(英文全称:Random Access Memory,英文缩写:RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (16)

1.一种获取飞行高度信息的方法,其特征在于,所述方法应用于飞行器,所述飞行器包括第一摄像头以及第二摄像头,其中,所述第一摄像头用于获取第一实时图像,所述第二摄像头用于获取第二实时图像,所述方法包括:
根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
根据所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
确定所述目标融合图像中每个预设区域对应的深度值;
根据所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像之前,所述方法还包括:
在预置摄像头距离范围内,将所述第一摄像头与所述第二摄像头设置于所述飞行器的同一水平线上。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像,包括:
按照预设图像规格对所述第一实时图像以及所述第二实时图像进行缩放处理;
采用预先获取到的内部参数以及外部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行图像校正,并得到所述第一深度图像以及所述第二深度图像。
4.根据权利要求3所述的方法,其特征在于,所述采用预先获取到的内部参数以及外部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行图像校正,包括:
采用预先获取到的所述内部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行畸变补偿,其中,所述内部参数包含所述第一摄像头的桶形畸变参数和切向畸变参数,以及所述第二摄像头的桶形畸变参数和切向畸变参数;
采用预先获取到的所述外部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行旋转和平移,其中,所述外部参数包含所述第一摄像头的平移参数和旋转参数,以及所述第二摄像头的平移参数和旋转参数。
5.根据权利要求要求4所述的方法,其特征在于,所述根据所述第一深度图像以及所述第二深度图像确定目标融合图像,包括:
采用立体视觉算法确定所述第一深度图像以及所述第二深度图像之间的视差值;
根据所述视差值将所述第一深度图像以及所述第二深度图像合成为所述目标融合图像。
6.根据权利要求要求5所述的方法,其特征在于,所述确定所述目标融合图像中每个预设区域对应的深度值,包括:
根据所述视差值确定所述目标融合图像中每个像素点的深度值;
根据每个像素点的深度值分别确定所述每个预设区域对应的深度值。
7.根据权利要求要求6所述的方法,其特征在于,所述根据所述视差值确定所述目标融合图像中每个像素点的深度值,包括:
按照如下方式计算所述每个像素点的深度值,:
[X Y Z W]T=Q×[x y disparity(x,y) 1]T
Z(x,y)=Z/W;
其中,所述x表示三维空间中像素点在所述目标融合图像中的投影横坐标,所述y表示三维空间中所述像素点在所述目标融合图像中的投影纵坐标,所述disparity(x,y)表示在所述像素点(x,y)的视差值,所述Q表示视差深度映射矩阵,所述[X Y Z W]T表示目标矩阵,[X Y Z W]为所述目标矩阵的转置矩阵,所述Z(x,y)表示像素点(x,y)的深度值,所述Z为所述转置矩阵中第三列组成的子矩阵,所述W为所述转置矩阵中第四列组成的子矩阵。
8.根据权利要求1所述的方法,其特征在于,所述根据所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息,包括:
按照如下方式计算所述飞行高度信息:
β = a r c t a n 1 tan 2 α + tan 2 γ ;
h=d sinβ;
其中,所述β表示地面与所述飞行器的法线所构成的倾斜角,所述α表示所述当前飞行姿态信息中的翻滚角,所述γ表示所述当前飞行姿态信息中的俯仰角,所述d表示所述每个预设区域对应的深度值,所述h表示所述飞行高度信息。
9.一种飞行器,其特征在于,所述飞行包括第一摄像头以及第二摄像头,其中,所述第一摄像头用于获取第一实时图像,所述第二摄像头用于获取第二实时图像,所述飞行器还包括:
第一获取模块,用于根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像;
第一确定模块,用于根据所述第一获取模块获取的所述第一深度图像以及所述第二深度图像确定目标融合图像,所述目标融合图像中包含至少一个预设区域;
第二确定模块,用于确定所述第一确定模块得到的所述目标融合图像中每个预设区域对应的深度值;
第二获取模块,用于根据所述第二确定模块确定的所述每个预设区域对应的深度值以及所述飞行器的当前飞行姿态信息获取飞行高度信息。
10.根据权利要求9所述的飞行器,其特征在于,所述飞行器还包括:
设置模块,用于所述第一获取模块根据所述第一实时图像获取第一深度图像,并根据所述第二实时图像获取第二深度图像之前,在预置摄像头距离范围内,将所述第一摄像头与所述第二摄像头设置于所述飞行器的同一水平线上。
11.根据权利要求9或10所述的飞行器,其特征在于,所述第一获取模块包括:
缩放单元,用于按照预设图像规格对所述第一实时图像以及所述第二实时图像进行缩放处理;
校正单元,用于采用预先获取到的内部参数以及外部参数,对经过所述缩放单元缩放处理后的所述第一实时图像以及所述第二实时图像进行图像校正,并得到所述第一深度图像以及所述第二深度图像。
12.根据权利要求11所述的飞行器,其特征在于,所述校正单元包括:
第一处理子单元,用于采用预先获取到的所述内部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行畸变补偿,其中,所述内部参数包含所述第一摄像头的桶形畸变参数和切向畸变参数,以及所述第二摄像头的桶形畸变参数和切向畸变参数;
第二处理子单元,用于采用预先获取到的所述外部参数,对经过缩放处理后的所述第一实时图像以及所述第二实时图像进行旋转和平移,其中,所述外部参数包含所述第一摄像头的平移参数和旋转参数,以及所述第二摄像头的平移参数和旋转参数。
13.根据权利要求12所述的飞行器,其特征在于,所述第一确定模块包括:
第一确定单元,用于采用立体视觉算法确定所述第一深度图像以及所述第二深度图像之间的视差值;
合成单元,用于根据所述第一确定单元确定的所述视差值将所述第一深度图像以及所述第二深度图像合成为所述目标融合图像。
14.根据权利要求13所述的飞行器,其特征在于,所述第二确定模块包括:
第二确定单元,用于根据所述视差值确定所述目标融合图像中每个像素点的深度值;
第三确定单元,用于根据所述第二确定单元确定的每个像素点的深度值分别确定所述每个预设区域对应的深度值。
15.根据权利要求14所述的飞行器,其特征在于,所述第二确定单元包括:
计算子单元,用于按照如下方式计算所述每个像素点的深度值,:
[X Y Z W]T=Q×[x y disparity(x,y) 1]T
Z(x,y)=Z/W;
其中,所述x表示三维空间中像素点在所述目标融合图像中的投影横坐标,所述y表示三维空间中所述像素点在所述目标融合图像中的投影纵坐标,所述disparity(x,y)表示在所述像素点(x,y)的视差值,所述Q表示视差深度映射矩阵,所述[X Y Z W]T表示目标矩阵,[X Y Z W]为所述目标矩阵的转置矩阵,所述Z(x,y)表示像素点(x,y)的深度值,所述Z为所述转置矩阵中第三列组成的子矩阵,所述W为所述转置矩阵中第四列组成的子矩阵。
16.根据权利要求9所述的飞行器,其特征在于,所述第二获取模块包括:
计算单元,用于按照如下方式计算所述飞行高度信息:
β = a r c t a n 1 tan 2 α + tan 2 γ ;
h=d sinβ;
其中,所述β表示地面与所述飞行器的法线所构成的倾斜角,所述α表示所述当前飞行姿态信息中的翻滚角,所述γ表示所述当前飞行姿态信息中的俯仰角,所述d表示所述每个预设区域对应的深度值,所述h表示所述飞行高度信息。
CN201611100232.XA 2016-11-24 2016-12-01 一种获取飞行高度信息的方法及飞行器 Pending CN106767682A (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201611100232.XA CN106767682A (zh) 2016-12-01 2016-12-01 一种获取飞行高度信息的方法及飞行器
PCT/CN2017/111577 WO2018095278A1 (zh) 2016-11-24 2017-11-17 飞行器的信息获取方法、装置及设备
US16/296,073 US10942529B2 (en) 2016-11-24 2019-03-07 Aircraft information acquisition method, apparatus and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611100232.XA CN106767682A (zh) 2016-12-01 2016-12-01 一种获取飞行高度信息的方法及飞行器

Publications (1)

Publication Number Publication Date
CN106767682A true CN106767682A (zh) 2017-05-31

Family

ID=58884082

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611100232.XA Pending CN106767682A (zh) 2016-11-24 2016-12-01 一种获取飞行高度信息的方法及飞行器

Country Status (1)

Country Link
CN (1) CN106767682A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107992073A (zh) * 2017-12-07 2018-05-04 深圳慧源创新科技有限公司 无人机定点飞行方法、无人机定点飞行装置和无人机
WO2018095278A1 (zh) * 2016-11-24 2018-05-31 腾讯科技(深圳)有限公司 飞行器的信息获取方法、装置及设备
CN108230397A (zh) * 2017-12-08 2018-06-29 深圳市商汤科技有限公司 多目摄像机标定与校正方法和装置、设备、程序和介质
CN108496201A (zh) * 2017-09-27 2018-09-04 深圳市大疆创新科技有限公司 图像处理方法和设备
CN109214984A (zh) * 2017-07-03 2019-01-15 北京臻迪科技股份有限公司 一种图像获取方法及装置、自主定位导航系统、计算设备
CN109282787A (zh) * 2018-11-08 2019-01-29 浙江工业大学 一种无人机飞行高度梯级检测系统
CN109292099A (zh) * 2018-08-10 2019-02-01 顺丰科技有限公司 一种无人机着陆判断方法、装置、设备及存储介质
CN109341543A (zh) * 2018-11-13 2019-02-15 厦门市汉飞鹰航空科技有限公司 一种基于视觉图像的高度计算方法
CN109635783A (zh) * 2019-01-02 2019-04-16 上海数迹智能科技有限公司 视频监控方法、装置、终端和介质
CN109934873A (zh) * 2019-03-15 2019-06-25 百度在线网络技术(北京)有限公司 标注图像获取方法、装置及设备
WO2019144287A1 (en) * 2018-01-23 2019-08-01 SZ DJI Technology Co., Ltd. Systems and methods for automatic water surface and sky detection
CN110986891A (zh) * 2019-12-06 2020-04-10 西北农林科技大学 一种利用无人机准确快速测量树木冠幅的系统
CN111220132A (zh) * 2019-11-13 2020-06-02 中国电子科技集团公司第二十研究所 一种基于图像匹配的飞行器离地高度测量方法
WO2021217451A1 (zh) * 2020-04-28 2021-11-04 深圳市大疆创新科技有限公司 无人机控制方法、运动信息确定方法、装置及无人机

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110311099A1 (en) * 2010-06-22 2011-12-22 Parrot Method of evaluating the horizontal speed of a drone, in particular a drone capable of performing hovering flight under autopilot
CN104236548A (zh) * 2014-09-12 2014-12-24 清华大学 一种微型无人机室内自主导航方法
CN105346706A (zh) * 2015-11-13 2016-02-24 深圳市道通智能航空技术有限公司 飞行装置、飞行控制系统及方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110311099A1 (en) * 2010-06-22 2011-12-22 Parrot Method of evaluating the horizontal speed of a drone, in particular a drone capable of performing hovering flight under autopilot
CN104236548A (zh) * 2014-09-12 2014-12-24 清华大学 一种微型无人机室内自主导航方法
CN105346706A (zh) * 2015-11-13 2016-02-24 深圳市道通智能航空技术有限公司 飞行装置、飞行控制系统及方法

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10942529B2 (en) 2016-11-24 2021-03-09 Tencent Technology (Shenzhen) Company Limited Aircraft information acquisition method, apparatus and device
WO2018095278A1 (zh) * 2016-11-24 2018-05-31 腾讯科技(深圳)有限公司 飞行器的信息获取方法、装置及设备
CN109214984A (zh) * 2017-07-03 2019-01-15 北京臻迪科技股份有限公司 一种图像获取方法及装置、自主定位导航系统、计算设备
CN109214984B (zh) * 2017-07-03 2023-03-14 臻迪科技股份有限公司 一种图像获取方法及装置、自主定位导航系统、计算设备
CN108496201A (zh) * 2017-09-27 2018-09-04 深圳市大疆创新科技有限公司 图像处理方法和设备
CN107992073A (zh) * 2017-12-07 2018-05-04 深圳慧源创新科技有限公司 无人机定点飞行方法、无人机定点飞行装置和无人机
CN108230397A (zh) * 2017-12-08 2018-06-29 深圳市商汤科技有限公司 多目摄像机标定与校正方法和装置、设备、程序和介质
WO2019144287A1 (en) * 2018-01-23 2019-08-01 SZ DJI Technology Co., Ltd. Systems and methods for automatic water surface and sky detection
CN109292099A (zh) * 2018-08-10 2019-02-01 顺丰科技有限公司 一种无人机着陆判断方法、装置、设备及存储介质
CN109282787A (zh) * 2018-11-08 2019-01-29 浙江工业大学 一种无人机飞行高度梯级检测系统
CN109341543A (zh) * 2018-11-13 2019-02-15 厦门市汉飞鹰航空科技有限公司 一种基于视觉图像的高度计算方法
CN109635783A (zh) * 2019-01-02 2019-04-16 上海数迹智能科技有限公司 视频监控方法、装置、终端和介质
CN109934873A (zh) * 2019-03-15 2019-06-25 百度在线网络技术(北京)有限公司 标注图像获取方法、装置及设备
CN111220132A (zh) * 2019-11-13 2020-06-02 中国电子科技集团公司第二十研究所 一种基于图像匹配的飞行器离地高度测量方法
CN111220132B (zh) * 2019-11-13 2021-07-06 中国电子科技集团公司第二十研究所 一种基于图像匹配的飞行器离地高度测量方法
CN110986891A (zh) * 2019-12-06 2020-04-10 西北农林科技大学 一种利用无人机准确快速测量树木冠幅的系统
CN110986891B (zh) * 2019-12-06 2021-08-24 西北农林科技大学 一种利用无人机准确快速测量树木冠幅的系统
WO2021217451A1 (zh) * 2020-04-28 2021-11-04 深圳市大疆创新科技有限公司 无人机控制方法、运动信息确定方法、装置及无人机

Similar Documents

Publication Publication Date Title
CN106767682A (zh) 一种获取飞行高度信息的方法及飞行器
US10942529B2 (en) Aircraft information acquisition method, apparatus and device
CN105300175B (zh) 一种红外及微光两相融合的夜视瞄准器
CN108646770A (zh) 一种无人机飞行控制方法、装置及系统
US11353891B2 (en) Target tracking method and apparatus
US11416719B2 (en) Localization method and helmet and computer readable storage medium using the same
CN111862180B (zh) 一种相机组位姿获取方法、装置、存储介质及电子设备
CN102577349A (zh) 基于图像的表面追踪
CN106444797A (zh) 一种控制飞行器降落的方法以及相关装置
CN109165606B (zh) 一种车辆信息的获取方法、装置以及存储介质
CN106767817B (zh) 一种获取飞行定位信息的方法及飞行器
CN107566749A (zh) 拍摄方法及移动终端
CN105551043B (zh) 无人机影像数据实时处理方法
CN111986250A (zh) 物体体积测量方法、装置、测量设备及存储介质
CN109977845A (zh) 一种可行驶区域检测方法及车载终端
JPWO2018180954A1 (ja) 画像処理装置、生育調査画像作成システム及びプログラム
CN115359130B (zh) 雷达和相机的联合标定方法、装置、电子设备及存储介质
CN204965189U (zh) 一种用于无人机的数据同步系统
CN110800023A (zh) 图像处理方法和设备、摄像装置以及无人机
CN108076291A (zh) 一种图像数据的虚化处理方法、装置和移动终端
CN110799801A (zh) 基于无人机的测距方法、装置及无人机
CN105447007A (zh) 一种电子设备及数据处理方法
CN113870163A (zh) 基于三维场景的视频融合方法以及装置、存储介质、电子装置
CN114155290B (zh) 一种用于大视场高速运动测量的系统与方法
CN113689484B (zh) 深度信息的确定方法、装置、终端及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170531

RJ01 Rejection of invention patent application after publication