CN107977985A - 无人机悬停方法、装置、无人机及存储介质 - Google Patents

无人机悬停方法、装置、无人机及存储介质 Download PDF

Info

Publication number
CN107977985A
CN107977985A CN201711228640.8A CN201711228640A CN107977985A CN 107977985 A CN107977985 A CN 107977985A CN 201711228640 A CN201711228640 A CN 201711228640A CN 107977985 A CN107977985 A CN 107977985A
Authority
CN
China
Prior art keywords
unmanned plane
hovering
frame group
frames
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201711228640.8A
Other languages
English (en)
Other versions
CN107977985B (zh
Inventor
张羽
王国胜
李少斌
尹亮亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Topxgun Robot Co Ltd
Original Assignee
Shanghai Topxgun Robot Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Topxgun Robot Co Ltd filed Critical Shanghai Topxgun Robot Co Ltd
Priority to CN201711228640.8A priority Critical patent/CN107977985B/zh
Publication of CN107977985A publication Critical patent/CN107977985A/zh
Application granted granted Critical
Publication of CN107977985B publication Critical patent/CN107977985B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/269Analysis of motion using gradient-based methods
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft

Abstract

本发明实施例公开了一种无人机悬停方法、装置、无人机及存储介质。所述方法包括:当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组,所述图像帧组中的第一帧为初始帧,其它帧为校正帧;根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正;根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正。通过本发明的技术方案,能够消除累积误差的影响,避免悬停时出现漂移现象,提高无人机的悬停精确度。

Description

无人机悬停方法、装置、无人机及存储介质
技术领域
本发明实施例涉及无人机技术领域,尤其涉及一种无人机悬停方法、装置、无人机及存储介质。
背景技术
随着无人机被广泛应用于各行各业,越来越多的无人机可以实现空中悬停的飞行动作,因此,如何控制无人机进行准确的空中悬停成为各研究人员的研究重点和难点。
目前,常用的光流法控制无人机进行悬停是通过对比相邻两帧图像的灰度值来计算两帧图像的偏移量,进而获取无人机的光流速度,最后通过消除无人机的累积速度偏移以实现无人机的悬停。由于光流法是基于图像的像素点来计算偏移量的,因而最小计算单位为一个像素点,当两帧图像之间的移动小于一个像素点时,光流法将无法识别出来,因此,当无人机以较慢的速度移动时,现有技术将检测不到无人机的运动,从而导致悬停误差较大,在无人机悬停时出现漂移现象。
发明内容
本发明实施例提供一种无人机悬停方法、装置、无人机及存储介质,以实现消除累积误差的影响,避免悬停时出现漂移现象,提高无人机的悬停精确度。
第一方面,本发明实施例提供了一种无人机悬停方法,包括:
当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组,所述图像帧组中的第一帧为初始帧,其它帧为校正帧;
根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正;
根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正。
第二方面,本发明实施例还提供了一种无人机悬停装置,该装置包括:
图像获取模块,用于当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组,所述图像帧组中的第一帧为初始帧,其它帧为校正帧;
速度校正模块,用于根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正;
位移校正模块,用于根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正。
第三方面,本发明实施例还提供了一种无人机,该无人机包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例中任一所述的无人机悬停方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例中任一所述的无人机悬停方法。
本发明实施例通过在无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,根据图像帧组中目标像素点在该图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,再根据该实时速度对无人机进行速度悬停校正,在此基础上再根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,最后根据位置偏移信息对无人机进行位移悬停校正,利用了在速度校正的基础上再进行位移校正的优点,解决了现有技术中单纯进行速度校正而导致的悬停误差较大,容易在无人机悬停时出现漂移现象的问题,实现了消除累积误差的影响,避免悬停时出现漂移现象,提高无人机的悬停精确度的效果。
附图说明
图1是本发明实施例一提供的一种无人机悬停方法的流程示意图;
图2是本发明实施例二提供的一种无人机悬停方法的流程示意图;
图3是本发明实施例三提供的一种无人机悬停装置的结构示意图;
图4是本发明实施例四提供的一种无人机的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种无人机悬停方法的流程示意图。该方法可适用于对无人机悬停控制进行校正的情况,该方法可以由无人机悬停装置来执行,该装置可由硬件和/或软件组成,并一般可集成在无人机以及所有包含悬停功能的终端中。具体包括如下:
S110、当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,图像帧组中的第一帧为初始帧,其它帧为校正帧。
其中,悬停状态是指航空器在一定高度上保持空间位置基本不变的飞行状态。可选的,当检测到无人机进入悬停状态时,可通过无人机上自带的航拍器开始抓拍当前的环境画面并保存,也可以利用专门设置的摄像头进行环境画面的抓拍和保存,在保持悬停状态期间,可以预设频率间隔抓拍当前的环境画面,以形成图像帧组,其中,图像帧组的第一帧为初始帧,可用于作为位移校正时的基准参考帧,其它帧为校正帧,可用于在计算位移偏移量时与初始帧进行比对,从而确定无人机在不同时刻的位置偏移信息。可选的,拍摄频率可以根据需要进行设置,例如预设频率可设置为250Hz。
按照预设频率间隔获取无人机拍摄的图像帧组的目的在于,可通过图像帧组中目标像素点或目标区域块的位移情况计算无人机的当前速度以及当前位置偏移信息,从而根据无人机的当前速度以及当前位置偏移信息进行速度和位移的校正,实现无人机的精确悬停。
优选的,在当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组之前,还包括:
若检测到无人机的当前速度为零或小于预设阈值,且检测到对无人机的控制输入为零,则确定无人机进入悬停状态。
示例性的,可通过光流传感器检测无人机的当前速度是否为零或是否趋近于零,即小于预设阈值,确定无人机是否已进入悬停状态,也可通过检测对无人机的控制输入(例如遥感控制器对无人机的遥感输出)是否为零,来确定无人机是否已进入悬停状态。
S120、根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正。
其中,目标像素点可以是一个像素点,也可以是多个像素点,可选的,可间隔选取图像中中间区域的多个点作为目标像素点,通过监测选取的各个像素点在前后两个相邻图像帧中的位置变化,计算各目标像素点的平均位移值,通过位移值确定无人机的实时速度,并根据无人机的实时速度对无人机进行速度校正。
根据实时速度对无人机进行速度悬停校正的好处在于,当无人机在处于悬停状态时,可以通过光流法检测无人机的速度是否为零,若不为零,则对无人机的速度进行校正,使之为零,以减小位移计算时的计算量。
示例性的,通过比对当前获取的图像帧与前一获取的图像帧之间的灰度值,计算目标像素点的位移情况,从而得到无人机的当前速度,飞控可根据当前速度控制无人机的速度趋于零,并通过对速度偏差的积分,控制当前位置趋于固定位置。例如,间隔一定时间采样如下,第一帧图像、第二帧图像、第三帧图像……若当前获取的图像帧为第三帧图像,则通过对比目标像素点在第三帧图像与第二帧图像之间的位置变化,确定无人机的实时速度,以此类推。
优选的,根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正,包括:
获取前一图像帧中第一目标像素点的灰度值;
在当前时刻获取的图像帧中的设定范围内搜索与第一目标像素点的灰度值相匹配的第二目标像素点;
根据第一目标像素点和第二目标像素点的位置信息计算无人机的光流速度;
根据光流速度对无人机的当前速度进行校正。
其中,在前一图像帧中选取的第一目标像素点可以是一个像素点,也可以是多个像素点,可按照预设规则对第一目标像素点进行选取,例如按预设方向间隔选取或按矩阵形式进行选取,在此不作限定。可选的,设定范围可以是以目标像素点为中心,向外扩展设定个数的像素点后形成的区域范围。可选的,当第一目标像素点为多个像素点时,可通过计算各第一目标像素点与其匹配的第二目标像素点的位移平均值来确定整个图像的位置偏差值。
举一个具体例子,假设单个像素点宽度为24um,镜头焦距为16mm,当前无人机高度为1m,采样频率为250Hz,取前一图像帧中的(5,5)点作为第一个第一目标像素点,与当前时刻获取的图像帧中的(1-9,1-9)范围内的像素点去匹配(假设光流传感器的最大测速范围为Vmax=1.5m/s,即相邻帧之间偏离的像素最多为4个像素,因此,在此范围内进行匹配),从当前时刻获取的图像帧中找到与前一图像帧中(5,5)点灰度值最接近的点(即第二目标像素点),作为该第一目标像素点的移动值,获得两点间的偏移量;再取前一图像帧中的(15,5)点作为第二个第一目标像素点,与当前时刻获取的图像帧中的(11-19,1-9)去比较,找出与前一图像帧中(15,5)点最接近的点;以此类推,在横向和纵向分别进行5次计算,一共计算5×5次,共计算25次,将这25次得到的差异求平均,即得到这两个图像帧之间移动的像素点个数差,从而获得无人机的光流速度为v=n×l×h/f/dt,其中,n代表两个相邻帧图像偏离的像素个数,光流传感器单个像素点宽度为l,镜头焦距为f,当前载体高度为h,两帧图像之间的时间差为dt。最后,将计算出来的光流速度v发送给飞控,飞控转换成无人机速度,飞控根据悬停状态时的速度指令和无人机实际速度的偏差(通过一个比例-积分-微分控制器)计算目标加速度,转换成目标角度,从而实现对无人机的悬停控制,通过反向加速进行速度抵消,实现无人机的速度悬停校正。
S130、根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正。
由于基于图像的像素点计算出来的速度偏移量可能会在无人机进行超低速运动时(即前后图像帧中目标像素点的移动小于一个像素点时),将检测不到无人机的速度,因此,如果只输出光流速度,就没办法实现精准悬停;但如果只输出位置信息,由于计算量庞大,计算耗时较多,光流输出信息频率就会很低,那么就没有足够快的速度信息用于控制飞机。因此,可以在进行速度悬停校正的基础上,进行位移悬停校正,以保证无人机在低速飞行时也能被检测到,从而实现消除因超低速运动而导致的累积误差的影响,避免悬停时出现漂移现象,进而提高无人机的悬停精确度。
其中,目标区域块可以是图像帧中预设位置处的区域块,例如图像帧中央位置处5×5大小的区域块,也可以是通过设定规则选取后得到的最利于用来进行匹配的区域块。可选的,当设定校正帧为当前获取的图像帧时,可通过监测目标区域块在当前获取的图像帧以及初始帧中的位置变化,确定无人机的位置偏移信息,再根据位置偏移信息进行反向位移补偿,从而实现对无人机的位移悬停校正。
另外,以初始帧为参考图像的好处在于,可以消除累积误差,永远以进入悬停状态时所拍摄的第一帧图像作为参考,避免在悬停时由于像素点本身带来的误差而导致的漂移问题,可以进一步提高无人机的悬停精确度。
本实施例的技术方案,通过在无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,根据图像帧组中目标像素点在该图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,再根据该实时速度对无人机进行速度悬停校正,在此基础上再根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,最后根据位置偏移信息对无人机进行位移悬停校正,利用了在速度校正的基础上再进行位移校正的优点,解决了现有技术中单纯进行速度校正而导致的悬停误差较大,容易在无人机悬停时出现漂移现象的问题,实现了消除累积误差的影响,避免悬停时出现漂移现象,提高无人机的悬停精确度的效果。
实施例二
图2为本发明实施例二提供的一种无人机悬停方法的流程示意图。本实施例以上述实施例为基础进行优化,提供了优选的无人机悬停方法,具体是,对根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息进行了进一步优化。具体包括如下:
S210、当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,图像帧组中的第一帧为初始帧,其它帧为校正帧。
S220、根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正。
S230、确定初始帧中的第一目标区域块。
可选的,可在初始帧中选取预设位置范围内的像素点作为第一目标区域块,也可在初始帧中按照预设选取规则选取与区域外像素点灰度值差别最大的区域作为第一目标区域块。其中,预设位置范围例如可以为初始帧中中央位置处5×5大小的区域块。第一目标区域块可以是固定位置处的区域,也可以是动态变化的区域。确定初始帧中的第一目标区域块的目的在于,选取参考区域,通过检测该参考区域的移动情况来判断无人机的位置偏移量,进而对无人机的位移进行校正。
优选的,确定初始帧中的第一目标区域块,包括:
在初始帧中选取预设大小的区域作为预选区域;
将预选区域按设定数量的像素点进行区域划分,形成多个区域块;
确定区域块中与相邻区域块的灰度和差异最大的区域块为初始帧中的第一目标区域块。
示例性的,假设镜头像素为752×480,拍摄得到的初始帧经处理后变成188×120的图像,在该处理后的初始帧图像中选取中间64×64的区域用于进行光流计算。可选的,可在64×64的区域中选取预设大小的中心区域作为预选区域,例如选取预设大小为50×50的区域为预选区域,其中,预选区域小于该初始帧经处理后的图像大小,且在边框处分别预留最大偏移量个像素点,以此保证选取的第一目标区域不会偏移至初始帧图像外。再将该预选区域按设定数量的像素点进行区域划分,其中,设定数量的像素点例如可以是5×5矩形区域像素点,形成多个设定大小为5×5的区域块,通过计算各区域块的灰度和,将各区域块中与相邻区域块的灰度和差异最大的区域块确定为初始帧中的第一目标区域。这样设置的好处在于,可以有效避免因预设位置处的区域块与周围区域块灰度值相近而导致后续匹配过程中可能出现的较大误差,提高区域块的匹配准确性,进而提升位置偏移测量的精确度,以便进行精确的位移校正。
S240、将图像帧组中当前获取的图像帧作为设定校正帧,并在设定校正帧中的最大偏移范围内搜索与第一目标区域块相匹配的第二目标区域块。
可选的,设定校正帧可以是最近一次获取或当前获取的图像帧,即设定校正帧是随时间动态变化的。具体的,最大偏移范围可以是与第一目标区域块的位置相对应的范围,也即第一目标区域块可能偏移到的最大范围,该最大偏移范围内包含第一目标区域块。其中,搜索得到的第二目标区域块可以是与第一目标区域块中像素点的灰度和最接近的区域块,也可以是各像素点的灰度值与第一目标区域块中对应像素点的灰度值差异最小的区域块。
优选的,在设定校正帧中的最大偏移范围内搜索与第一目标区域块相匹配的第二目标区域块,包括:
在设定校正帧中以与第一目标区域块对应位置处的区域为中心,向外延展设定个数的像素点距离,以确定最大偏移范围;
在最大偏移范围内采用块匹配法搜索与第一目标区域块相匹配的第二目标区域块。
可选的,向外延展的像素点个数可以根据实际需要进行设定,例如设为20个。示例性的,若在经处理后大小为64×64的初始帧中确定一个5×5区域作为第一目标区域块,即区域块(28-32,28-32);在同样大小的设定校正帧中对应位置处确定与初始帧中5×5区域对应的区域块(28-32,28-32),以该块区域为中心向其前后左右各扩展20个像素,形成45×45的对比区域,即最大偏移范围,采用块匹配法在设定校正帧中最大偏移范围内找出与第一目标区域块最为相似的一块区域(灰度值最为接近),即第二目标区域块。
具体的,在最大偏移范围内采用块匹配法搜索与第一目标区域块相匹配的第二目标区域块,其中,块匹配法可采用绝对误差和准则(SAD算法),计算公式如下:
其中,M表示第一目标区域块与待匹配块在x轴方向像素点个数;N表示第一目标区域块与待匹配块在y轴方向的像素个数(本实际例子中,M为5,N为5);G0(i,j)为初始帧中第一目标区域块内部各像素点的灰度值;G1(i+u,j+v)为初始帧的第一目标区域块投射到设定校正帧中相同位置后并沿x轴方向、y轴方向分别移动u、v像素的块区域中每一个像素点的灰度值。
通过令初始帧中第一目标区域块在设定校正帧中最大偏移范围内搜索与其灰度平方差和SAD(i,j)最小的块区域,即第二目标区域块。可选的,可从最大偏移范围内的左上端开始搜索,第一目标区域块分别与逐个像素点移动的各5×5块区域进行比较。
S250、根据第一目标区域块和第二目标区域块的位置信息确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正。
其中,该第二目标区域块与第一目标区域块之间的偏移量,即为设定校正帧与初始帧之间的偏移量,可通过第二目标区域块与第一目标区域块之间的偏移量,获得无人机的位置偏移信息,进而根据位置偏移信息对无人机的位移进行反向补偿,以完成位移悬停校正。
本实施例的技术方案,通过在进行速度悬停校正后,确定初始帧中的第一目标区域块,将当前获取的图像帧作为设定校正帧,并在设定校正帧中的最大偏移范围内搜索与第一目标区域块相匹配的第二目标区域块,再根据第一目标区域块和第二目标区域块的位置信息确定无人机的位置偏移信息,进而对无人机进行位移悬停校正。通过在进行速度控制的外环,再增加一个位置环,实现了消除累积误差,避免了悬停时出现漂移现象的可能,提高了无人机的悬停精确度。
在以上各实施例的基础上,优选的,在根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正之前,还包括:确定满足预设的位移校正条件;
其中,位移校正条件包括:当前进行速度悬停校正的次数超过第一数量阈值,或者图像帧组中包括的图像帧数量超过第二数量阈值。
示例性的,由于位移校正过程中计算量较大,若实时输出位置偏移信息会导致内存开销陡增,所以可以通过让光流模块除了输出速度信息之外,每隔一段时间输出位置偏移信息,在进行速度控制的外环,再增加一个位置环,这样既可以实现精确悬停,消除累积误差的影响,避免悬停时出现漂移现象,提高了无人机悬停时的定位精度,也可以降低计算量,保证内存充足。
具体的,可通过判断是否满足位移校正条件,来检测是否应该进行位移悬停校正。可选的,可依据速度悬停校正的次数来判断是否该进行位移悬停校正,也可以根据拍摄的图像帧数量来判断是否该进行位移悬停校正。其中,第一数量阈值和第二数量阈值可根据实际需要进行设定。
举一个实际例子,以每计算20次速度做一次位移悬停校正为例,假设采样频率为250Hz,单个像素点宽度为24um,镜头焦距为16mm,当前无人机的高度为1m,则修正时对应的采样时间为20/250=0.08s,每次计算,最大偏差为一个像素点的宽度,0.08s内飞机移动的最大距离为Lmax=v×0.08=20×0.00000024×1/0.00016=0.03m,那么1s内允许飞机移动的距离为0.375m;而事实上,假定无人机以较小速度匀速运动,飞机每次移动还没超过0.03m就已经得到位移校正,这样的移动在无人机在悬停时基本看不出,因此,可以实现无人机的精准悬停。
实施例三
图3为本发明实施例三提供的一种无人机悬停装置的结构示意图。参考图3,无人机悬停装置包括:图像获取模块310、速度校正模块320以及位移校正模块330,下面对各模块进行具体说明。
图像获取模块310,用于当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,图像帧组中的第一帧为初始帧,其它帧为校正帧;
速度校正模块320,用于根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正;
位移校正模块330,用于根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正。
本实施例提供的无人机悬停装置,通过在无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,根据图像帧组中目标像素点在该图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,再根据该实时速度对无人机进行速度悬停校正,在此基础上再根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,最后根据位置偏移信息对无人机进行位移悬停校正,利用了在速度校正的基础上再进行位移校正的优点,解决了现有技术中单纯进行速度校正而导致的悬停误差较大,容易在无人机悬停时出现漂移现象的问题,实现了消除累积误差的影响,避免悬停时出现漂移现象,提高无人机的悬停精确度的效果。
可选的,速度校正模块320具体可以用于:
获取前一图像帧中第一目标像素点的灰度值;
在当前时刻获取的图像帧中的设定范围内搜索与第一目标像素点的灰度值相匹配的第二目标像素点;
根据第一目标像素点和第二目标像素点的位置信息计算无人机的光流速度;
根据光流速度对无人机的当前速度进行校正。
可选的,位移校正模块330可以包括:
区域块确定子模块,用于确定初始帧中的第一目标区域块;
区域块搜索子模块,用于将图像帧组中当前获取的图像帧作为设定校正帧,并在设定校正帧中的最大偏移范围内搜索与第一目标区域块相匹配的第二目标区域块;
位置偏移确定子模块,用于根据第一目标区域块和第二目标区域块的位置信息确定无人机的位置偏移信息。
可选的,区域块确定子模块具体可以用于:
在初始帧中选取预设大小的区域作为预选区域;
将预选区域按设定数量的像素点进行区域划分,形成多个区域块;
确定区域块中与相邻区域块的灰度和差异最大的区域块为初始帧中的第一目标区域块。
可选的,区域块搜索子模块具体可以用于:
在设定校正帧中以与第一目标区域块对应位置处的区域为中心,向外延展设定个数的像素点距离,以确定最大偏移范围;
在最大偏移范围内采用块匹配法搜索与第一目标区域块相匹配的第二目标区域块。
可选的,还可以包括:
悬停确定模块,用于在当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组之前,若检测到无人机的当前速度为零或小于预设阈值,且检测到对无人机的控制输入为零,则确定无人机进入悬停状态。
可选的,还可以包括:
校正确定模块,用于在根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正之前,确定满足预设的位移校正条件;
其中,位移校正条件包括:当前进行速度悬停校正的次数超过第一数量阈值,或者图像帧组中包括的图像帧数量超过第二数量阈值。
上述产品可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4为本发明实施例四提供的一种无人机的结构示意图,如图4所示,本实施例提供的一种无人机,包括:处理器41和存储器42。该无人机中的处理器可以是一个或多个,图4中以一个处理器41为例,无人机中的处理器41和存储器42可以通过总线或其他方式连接,图4中以通过总线连接为例。
本实施例中无人机的处理器41中集成了上述实施例提供的无人机悬停装置。此外,该无人机中的存储器42作为一种计算机可读存储介质,可用于存储一个或多个程序,程序可以是软件程序、计算机可执行程序以及模块,如本发明实施例中无人机悬停方法对应的程序指令/模块(例如,附图3所示的无人机悬停装置中的模块,包括:图像获取模块310、速度校正模块320以及位移校正模块330)。处理器41通过运行存储在存储器42中的软件程序、指令以及模块,从而执行设备的各种功能应用以及数据处理,即实现上述方法实施例中无人机悬停方法。
存储器42可包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据设备的使用所创建的数据等。此外,存储器42可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储器42可进一步包括相对于处理器41远程设置的存储器,这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
并且,当上述无人机所包括一个或者多个程序被一个或者多个处理器41执行时,程序进行如下操作:
当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,图像帧组中的第一帧为初始帧,其它帧为校正帧;根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正;根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被无人机悬停装置执行时实现如本发明实施例一提供的无人机悬停方法,该方法包括:当检测到无人机进入悬停状态时,按照预设频率间隔获取无人机拍摄的图像帧组,图像帧组中的第一帧为初始帧,其它帧为校正帧;根据图像帧组中目标像素点在图像帧组中前后两个相邻图像帧中的位置变化,确定无人机的实时速度,并根据实时速度对无人机进行速度悬停校正;根据图像帧组中目标区域块在设定校正帧中以及初始帧中的位置信息,确定无人机的位置偏移信息,并根据位置偏移信息对无人机进行位移悬停校正。
当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序被执行时不限于实现如上所述的方法操作,还可以实现本发明任意实施例所提供的无人机悬停方法中的相关操作。
通过以上关于实施方式的描述,所属领域的技术人员可以清楚地了解到,本发明可借助软件及必需的通用硬件来实现,当然也可以通过硬件实现,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是,上述无人机悬停装置的实施例中,所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种无人机悬停方法,其特征在于,包括:
当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组,所述图像帧组中的第一帧为初始帧,其它帧为校正帧;
根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正;
根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正。
2.根据权利要求1所述的方法,其特征在于,所述根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正,包括:
获取前一图像帧中第一目标像素点的灰度值;
在当前时刻获取的图像帧中的设定范围内搜索与所述第一目标像素点的灰度值相匹配的第二目标像素点;
根据所述第一目标像素点和所述第二目标像素点的位置信息计算所述无人机的光流速度;
根据所述光流速度对所述无人机的当前速度进行校正。
3.根据权利要求1所述的方法,其特征在于,所述根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,包括:
确定所述初始帧中的第一目标区域块;
将所述图像帧组中当前获取的图像帧作为设定校正帧,并在所述设定校正帧中的最大偏移范围内搜索与所述第一目标区域块相匹配的第二目标区域块;
根据所述第一目标区域块和所述第二目标区域块的位置信息确定所述无人机的位置偏移信息。
4.根据权利要求3所述的方法,其特征在于,所述确定所述初始帧中的第一目标区域块,包括:
在所述初始帧中选取预设大小的区域作为预选区域;
将所述预选区域按设定数量的像素点进行区域划分,形成多个区域块;
确定所述区域块中与相邻区域块的灰度和差异最大的区域块为所述初始帧中的第一目标区域块。
5.根据权利要求3所述的方法,其特征在于,所述在所述设定校正帧中的最大偏移范围内搜索与所述第一目标区域块相匹配的第二目标区域块,包括:
在所述设定校正帧中以与所述第一目标区域块对应位置处的区域为中心,向外延展设定个数的像素点距离,以确定最大偏移范围;
在所述最大偏移范围内采用块匹配法搜索与所述第一目标区域块相匹配的第二目标区域块。
6.根据权利要求1-5任一项所述的方法,其特征在于,在当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组之前,还包括:
若检测到所述无人机的当前速度为零或小于预设阈值,且检测到对所述无人机的控制输入为零,则确定所述无人机进入悬停状态。
7.根据权利要求1-5任一项所述的方法,其特征在于,在根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正之前,还包括:确定满足预设的位移校正条件;
其中,所述位移校正条件包括:当前进行速度悬停校正的次数超过第一数量阈值,或者所述图像帧组中包括的图像帧数量超过第二数量阈值。
8.一种无人机悬停装置,其特征在于,包括:
图像获取模块,用于当检测到无人机进入悬停状态时,按照预设频率间隔获取所述无人机拍摄的图像帧组,所述图像帧组中的第一帧为初始帧,其它帧为校正帧;
速度校正模块,用于根据所述图像帧组中目标像素点在所述图像帧组中前后两个相邻图像帧中的位置变化,确定所述无人机的实时速度,并根据所述实时速度对所述无人机进行速度悬停校正;
位移校正模块,用于根据所述图像帧组中目标区域块在设定校正帧中以及所述初始帧中的位置信息,确定所述无人机的位置偏移信息,并根据所述位置偏移信息对所述无人机进行位移悬停校正。
9.一种无人机,其特征在于,所述无人机包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的无人机悬停方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的无人机悬停方法。
CN201711228640.8A 2017-11-29 2017-11-29 无人机悬停方法、装置、无人机及存储介质 Active CN107977985B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711228640.8A CN107977985B (zh) 2017-11-29 2017-11-29 无人机悬停方法、装置、无人机及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711228640.8A CN107977985B (zh) 2017-11-29 2017-11-29 无人机悬停方法、装置、无人机及存储介质

Publications (2)

Publication Number Publication Date
CN107977985A true CN107977985A (zh) 2018-05-01
CN107977985B CN107977985B (zh) 2021-02-09

Family

ID=62008595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711228640.8A Active CN107977985B (zh) 2017-11-29 2017-11-29 无人机悬停方法、装置、无人机及存储介质

Country Status (1)

Country Link
CN (1) CN107977985B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109029369A (zh) * 2018-05-30 2018-12-18 常州铭赛机器人科技股份有限公司 飞行拍摄的检测方法
CN109782014A (zh) * 2019-03-11 2019-05-21 南京理工大学泰州科技学院 一种无人机速度确定方法及装置
CN110174898A (zh) * 2019-06-18 2019-08-27 华北电力大学(保定) 一种基于图像反馈的多旋翼无人机控制方法
CN110709791A (zh) * 2018-08-01 2020-01-17 广州极飞科技有限公司 用于无人机的飞行高度调整、飞行控制的方法和装置
CN111077908A (zh) * 2019-12-26 2020-04-28 深圳慧源创新科技有限公司 自动调节无人机悬停的方法、装置,光流模块及无人机

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104335128A (zh) * 2012-03-30 2015-02-04 鹦鹉股份有限公司 用于用侧风和加速度计偏差估计和补偿来控制多旋翼的旋翼无人机的方法
CN104932523A (zh) * 2015-05-27 2015-09-23 深圳市高巨创新科技开发有限公司 一种无人飞行器的定位方法及装置
CN104950904A (zh) * 2015-06-11 2015-09-30 陕西西科美芯科技集团有限公司 矿井应急救援飞行器自主飞行方法
CN105182994A (zh) * 2015-08-10 2015-12-23 普宙飞行器科技(深圳)有限公司 一种无人机定点降落的方法
CN106094868A (zh) * 2016-08-01 2016-11-09 杨珊珊 无人飞行器的悬停控制装置及其悬停控制方法
CN106225769A (zh) * 2016-09-30 2016-12-14 深圳市富微科创电子有限公司 一种飞行器定高方法和系统
CN205844906U (zh) * 2016-08-01 2016-12-28 杨珊珊 无人飞行器的悬停控制装置
CN106422358A (zh) * 2016-12-19 2017-02-22 深圳高灿科技有限公司 基于视觉控制的悬停和近距离跟踪装置及方法、电动玩具
CN106774374A (zh) * 2017-01-20 2017-05-31 武汉科技大学 一种无人机自动巡检方法及系统
US20170203851A1 (en) * 2016-01-18 2017-07-20 Wistron Corporation Hover-control method for multirotor unmanned aerial vehicle upcast at any angle to take off, computer program product using the same, and multirotor unmanned aerial vehicle using the same
CN106989744A (zh) * 2017-02-24 2017-07-28 中山大学 一种融合机载多传感器的旋翼无人机自主定位方法
KR101769603B1 (ko) * 2017-06-07 2017-08-18 아이디어주식회사 호버링용 위치보정장치
CN107077140A (zh) * 2016-03-28 2017-08-18 深圳市大疆创新科技有限公司 无人飞行器的悬停控制方法、控制系统和无人飞行器
CN107329490A (zh) * 2017-07-21 2017-11-07 歌尔科技有限公司 无人机避障方法及无人机
CN107346142A (zh) * 2016-09-30 2017-11-14 广州亿航智能技术有限公司 飞行器控制方法、光流模块及飞行器

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104335128A (zh) * 2012-03-30 2015-02-04 鹦鹉股份有限公司 用于用侧风和加速度计偏差估计和补偿来控制多旋翼的旋翼无人机的方法
CN104932523A (zh) * 2015-05-27 2015-09-23 深圳市高巨创新科技开发有限公司 一种无人飞行器的定位方法及装置
CN104950904A (zh) * 2015-06-11 2015-09-30 陕西西科美芯科技集团有限公司 矿井应急救援飞行器自主飞行方法
CN105182994A (zh) * 2015-08-10 2015-12-23 普宙飞行器科技(深圳)有限公司 一种无人机定点降落的方法
US20170203851A1 (en) * 2016-01-18 2017-07-20 Wistron Corporation Hover-control method for multirotor unmanned aerial vehicle upcast at any angle to take off, computer program product using the same, and multirotor unmanned aerial vehicle using the same
CN107077140A (zh) * 2016-03-28 2017-08-18 深圳市大疆创新科技有限公司 无人飞行器的悬停控制方法、控制系统和无人飞行器
CN205844906U (zh) * 2016-08-01 2016-12-28 杨珊珊 无人飞行器的悬停控制装置
CN106094868A (zh) * 2016-08-01 2016-11-09 杨珊珊 无人飞行器的悬停控制装置及其悬停控制方法
CN106225769A (zh) * 2016-09-30 2016-12-14 深圳市富微科创电子有限公司 一种飞行器定高方法和系统
CN107346142A (zh) * 2016-09-30 2017-11-14 广州亿航智能技术有限公司 飞行器控制方法、光流模块及飞行器
CN106422358A (zh) * 2016-12-19 2017-02-22 深圳高灿科技有限公司 基于视觉控制的悬停和近距离跟踪装置及方法、电动玩具
CN106774374A (zh) * 2017-01-20 2017-05-31 武汉科技大学 一种无人机自动巡检方法及系统
CN106989744A (zh) * 2017-02-24 2017-07-28 中山大学 一种融合机载多传感器的旋翼无人机自主定位方法
KR101769603B1 (ko) * 2017-06-07 2017-08-18 아이디어주식회사 호버링용 위치보정장치
CN107329490A (zh) * 2017-07-21 2017-11-07 歌尔科技有限公司 无人机避障方法及无人机

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
GERARDO R.FLORES-COLUNGA等: "A Nonlinear control law for hover to level flight for the quad tilt-rotor UAV", 《19TH WORLD CONGRESS THE INTERNATIONAL FEDERATION OF AUTOMATIC CONTROL》 *
史添玮等: "基于光流的六旋翼飞行器悬停控制", 《东北大学学报(自然科学版)》 *
张国云等: "基于VOD块匹配准则的四旋翼飞行器悬停研究", 《HTTP://WWW.CNKI.NET/KCMS/DETAIL/11.2127.TP.20160929.1618.014.HTML》 *
张红梅等编著: "《水下导航定位技术》", 30 November 2010, 武汉:武汉大学出版社 *
王红飞等: "基于单摄像头的四旋翼无人机悬停飞行研究", 《中国科技论文在线》 *
陈卓: "微型无人机视觉惯性导航", 《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑(月刊)》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109029369A (zh) * 2018-05-30 2018-12-18 常州铭赛机器人科技股份有限公司 飞行拍摄的检测方法
CN110709791A (zh) * 2018-08-01 2020-01-17 广州极飞科技有限公司 用于无人机的飞行高度调整、飞行控制的方法和装置
CN110709791B (zh) * 2018-08-01 2022-12-27 广州极飞科技股份有限公司 用于无人机的飞行高度调整、飞行控制的方法和装置
CN109782014A (zh) * 2019-03-11 2019-05-21 南京理工大学泰州科技学院 一种无人机速度确定方法及装置
CN110174898A (zh) * 2019-06-18 2019-08-27 华北电力大学(保定) 一种基于图像反馈的多旋翼无人机控制方法
CN111077908A (zh) * 2019-12-26 2020-04-28 深圳慧源创新科技有限公司 自动调节无人机悬停的方法、装置,光流模块及无人机
CN111077908B (zh) * 2019-12-26 2023-02-03 深圳慧源创新科技有限公司 自动调节无人机悬停的方法、装置,光流模块及无人机

Also Published As

Publication number Publication date
CN107977985B (zh) 2021-02-09

Similar Documents

Publication Publication Date Title
CN107977985A (zh) 无人机悬停方法、装置、无人机及存储介质
US10754354B2 (en) Hover control
CN112567201B (zh) 距离测量方法以及设备
US10928838B2 (en) Method and device of determining position of target, tracking device and tracking system
CN106774431B (zh) 一种测绘无人机航线规划方法及装置
CN105652891B (zh) 一种旋翼无人机移动目标自主跟踪装置及其控制方法
JP6734940B2 (ja) 三次元計測装置
EP3113146A1 (en) Local location computation device and local location computation method
US9154717B2 (en) Aerial camera system and method for correcting distortions in an aerial photograph
CN106462968A (zh) 用于校准机动车的摄影机系统的方法和装置
CN110942470B (zh) 图像处理装置
CN111507132B (zh) 一种定位方法、装置及设备
CN105487555A (zh) 一种无人机的悬停定位方法及装置
CN114556879A (zh) 延时检测方法、装置、系统、可移动平台和存储介质
JP2016039390A (ja) 画像生成方法および装置
CN105335977A (zh) 摄像系统及目标对象的定位方法
CN112197766A (zh) 一种针对系留旋翼平台的视觉测姿装置
CN108347577A (zh) 一种成像系统和方法
CN116486290B (zh) 一种无人机监测追踪方法、装置、电子设备及存储介质
CN113284167A (zh) 人脸跟踪检测方法、装置、设备和介质
US11310423B2 (en) Image capturing method and image capturing apparatus
CN114554030B (zh) 设备检测系统以及设备检测方法
CN115471555A (zh) 一种基于图像特征点匹配的无人机红外巡检位姿确定方法
CN113916136A (zh) 一种基于无人机航拍的高耸结构动位移测量方法
JP2017034616A (ja) 画像処理装置及びその制御方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant