CN107194399B - 一种视觉定标的方法、系统及无人机 - Google Patents

一种视觉定标的方法、系统及无人机 Download PDF

Info

Publication number
CN107194399B
CN107194399B CN201710575767.0A CN201710575767A CN107194399B CN 107194399 B CN107194399 B CN 107194399B CN 201710575767 A CN201710575767 A CN 201710575767A CN 107194399 B CN107194399 B CN 107194399B
Authority
CN
China
Prior art keywords
unmanned aerial
aerial vehicle
concentric
visual
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710575767.0A
Other languages
English (en)
Other versions
CN107194399A (zh
Inventor
罗晶
苏成悦
翁立宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN201710575767.0A priority Critical patent/CN107194399B/zh
Publication of CN107194399A publication Critical patent/CN107194399A/zh
Application granted granted Critical
Publication of CN107194399B publication Critical patent/CN107194399B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/245Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning

Abstract

本申请公开了一种视觉定标的方法,包括:通过无人机上的摄像头对设置在地面上的视觉定标图案进行采集;依次对同心圆环、同心正方形以及方向定标图像进行识别,得到识别结果;根据识别结果调整无人机的飞行姿态至无人机的机头朝向与方向定标图像的指向一致;当指向一致时,无人机减慢飞行速度至预设速度,以使无人机按预设速度进行着陆。该方法能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。本申请还公开了一种视觉定标的系统及无人机,具有上述有益效果。

Description

一种视觉定标的方法、系统及无人机
技术领域
本申请涉及图像识别技术领域,特别涉及一种视觉定标的方法、系统及无人机。
背景技术
随着科学技术的发展,各式各样的无人机应用越来越广泛,其中,智能化无人机依靠设置在其上的各种装置更能够实现自主着陆回收,会极大的减少远程控制人员的工作量和提高工作效率,但同时也会存在各种因素造成的干扰和影响,导致无人机自主着陆功能实现效果不佳。
目前,现有技术通过对由多个同心正方形组成的地面图标进行识别,由大到小的识别各个同心正方形,在识别通过后,降落在最中心、边长最小的正方形中。因为仅对存在的正方形这一个几何特征进行识别检测,容易存在差错,将类似于同心正方形的其他图案纳入识别范围,从而在错误的地点进行着陆,另外还存在每次无人机着陆的朝向不一致的问题,可能在特定环境下会影响到下一次无人机的起飞。
那么,如何使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,实现自主着陆精度更高的视觉定标机制是本领域技术人员亟待解决的问题。
发明内容
本申请的目的是提供一种视觉定标的方法、系统及无人机,能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。
为解决上述技术问题,本申请提供一种视觉定标的方法,该方法包括:
通过无人机上的摄像头对设置在地面上的视觉定标图案进行采集;其中,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像;
依次对所述同心圆环、所述同心正方形以及所述方向定标图像进行识别,得到识别结果;
根据所述识别结果调整所述无人机的飞行姿态至所述无人机的机头朝向与所述方向定标图像的指向一致;
当所述指向一致时,所述无人机减慢飞行速度至预设速度,以使所述无人机按所述预设速度进行着陆。
可选的,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像,包括:
设置半径成等差关系的多个同心黑边圆环;
在所述同心黑边圆环的最小同心黑边圆环中设置内切于所述最小同心黑边圆环的第一同心黑边正方形;
取所述第一同心黑边正方形的四条边上的四个第一中点,并依次连接所述第一中点得到第二同心黑边正方形;
取所述第二同心黑边正方形的一个顶点和所述顶点两个对边上的第二中点,并连接所述顶点和所述第二中点得到所述方向定标图像。
可选的,依次对所述同心圆环、所述同心正方形以及所述方向定标图像进行识别,得到识别结果,包括:
识别所述同心黑边圆环的半径长度之间是否存在所述等差关系,得到第一识别结果;
当所述第一识别结果通过时,依次对所述第一同心黑边正方形和所述第二同心黑边正方形进行角点检测,得到第二识别结果;
当所述第二识别结果通过时,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态。
可选的,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态,包括:
当所述第二识别结果通过时,所述无人机完成对所述视觉定标图案的几何特征检测,并认定所述视觉定标图案的所在位置为着陆点;
当所述着陆点的位置确定后,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态。
可选的,本方法还包括:
将所述机载摄像头拍摄的航拍图像、所述识别结果以及所述无人机的飞行参数传回地面控制中心。
本申请还提供了一种无人机,该无人机包括:
摄像头、驱动电机以及采集飞行参数的姿态传感器;
与所述摄像头相连,依次对所述摄像头采集的视觉定标图案中的同心圆环、同心正方形以及方向定标图像进行识别,并发送指向识别结果的嵌入式芯片;
与所述姿态传感器、所述嵌入式芯片以及所述驱动电机均相连,根据所述飞行参数和所述指向识别结果调整所述无人机的飞行姿态;发送驱动电机控制命令进行着陆的飞控芯片。
可选的,该无人机还包括:
与所述摄像头和所述飞控芯片均相连,存储所述摄像头采集到的航拍图像、所述飞行参数以及各识别结果的存储器。
可选的,该无人机还包括:
与所述飞控芯片和所述存储器均相连,获取所述飞行参数、所述航拍图像、以及所述各识别结果并传回地面控制中心的通信装置。
可选的,所述无人机具体为中小型多轴旋翼机。
本申请提供了一种视觉定标的系统,该系统包括:
视觉定标图案;其中,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像;
如上述内容所述的无人机。
本申请所提供的一种视觉定标的方法,通过无人机上的摄像头对设置在地面上的视觉定标图案进行采集;依次对所述同心圆环、所述同心正方形以及所述方向定标图像进行识别,得到识别结果;根据所述识别结果调整所述无人机的飞行姿态至所述无人机的机头朝向与所述方向定标图像的指向一致;当所述指向一致时,所述无人机减慢飞行速度至预设速度,以使所述无人机按所述预设速度进行着陆。
显然,本申请所提供的技术方案,通过对无人机上摄像头所采集到的预先设置的视觉定标图案中各组成成分依次进行识别,并根据识别结果进行飞行姿态的调整,进而实现自主着陆。能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。本申请同时还提供了一种视觉定标的系统及无人机,具有上述有益效果,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例所提供的一种视觉定标的方法的流程图;
图2为本申请实施例所提供的另一种视觉定标的方法的流程图;
图3为本申请实施例所提供的一种视觉定标图案;
图4为本申请实施例所提供的又一种视觉定标的方法的流程图;
图5为本申请实施例所提供的再一种视觉定标的方法的流程图;
图6为本申请实施例所提供的一种无人机的结构框图;
图7为本申请实施例所提供的一种视觉定标的系统的结构框图;
图8为本申请实施例所提供的摄像头小孔成像模型示意图;
图9为本申请实施例所提供的一种视觉定标图案中方向定标图像的指向示意图。
具体实施方式
本申请的核心是提供一种视觉定标的方法、系统及无人机,能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
以下结合图1,图1为本申请实施例所提供的一种视觉定标的方法的流程图。
其具体包括以下步骤:
S101:通过无人机上的摄像头对设置在地面上的视觉定标图案进行采集;其中,视觉定标图案包括同心圆环、同心正方形以及方向定标图像;
本步骤旨在针对现有技术中设置的地面图标无法很好的起到自主着陆的作用,而设计了一个区别于现有地面图标的视觉定标图案,其拥有更加丰富的几何特征、更易进行图像识别的优点,供无人机的图像处理模块进行多重识别检测,使无人机能够更好的识别到该视觉定标图案,进行精度更高的自主着陆。
一旦将视觉定标图案的主要作用确定,在此基础上具体怎样进行图案的设计多种多样,此处并不做具体限定,例如,按层状结构将该视觉定标图案以不同的几何特征图形分成几层;也可以结合图像处理模块的运算特点进行符合相应的设计等,应视实际情况中无人机制造厂商的不同、制造使用目的的不同、采用图像处理模块的不同以及其它各影响因素进行综合考虑来设计一个能够实现设计目标的视觉定标图案。
相应的,一旦确定了如何设计视觉定标图案,在无人机上的摄像头采集到该视觉定标图案后,图像处理模块必定需要一套与该视觉定标图案相匹配的识别算法。具体如何设计得到能实现目标的视觉定标图案会在后续的实施例中进行详细介绍。
S102:依次对同心圆环、同心正方形以及方向定标图像进行识别,得到识别结果;
既然S101中设计的视觉定标图案的特征为多层次的、由多种几何特征组成,而在通常的无人机飞行识别过程中,识别会存在一个距离该视觉定标图案由远及进的过程,所以按照大小层次、由外及里的原则对该视觉定标图案依次进行识别。因为是依次识别,并且是只有上一级识别通过才会进行下一级的识别,所以可能会多个识别结果,当上一级的识别结果通过时,触发对下一级几何特征图像的识别。
当然,也可以同时对该视觉定标图案各不同统一进行识别,但这样无加重图像处理模块的运算负载,使得显著增加成本,存在诸多问题。而依次进行识别的方法,以串行的方式每次只对一种几何特征图形进行识别,不仅可以采用相比并行识别方式运算能力稍弱的图像处理模块,也十分贴合无人机在识别过程逐步靠近该视觉定标图案的这一着陆过程,通过逐级识别的方式来提高自主登陆的精确度。
进一步的,在进行对视觉定标图案的识别之前,可以先通过内置的GPS模块进行粗定位该视觉定标图案,即着陆点的位置,由于GPS模块存在有误差,且有时该着陆点附近会存在GPS信号弱、甚至GPS信号被遮挡的情况,此时,本步骤的对视觉定标图像的识别就起到了应有的作用。
S103:根据识别结果调整无人机的飞行姿态至无人机的机头朝向与方向定标图像的指向一致;
根据S102得到的各级识别结果,当完成位于该视觉定标图案最中心的方向定标图像的识别后,会得到该方向定标图像的指向,同时,结合设置在该无人机上的各传感器采集到的无人机飞行姿态,具体的,可以是无人机的机头朝向,将该机头朝向调整至与该方向定标图像的指向一致的方向,当调整完毕后,则已经完整了定标、确定无人机着陆点的识别检测过程,为后续实现着陆做准备。
之所以选择将无人机的机头朝向调整至与该方向定标图像的指向一致,是因为无人机的机头朝向会在很大程度上影响下一次起飞的姿态,可能会避免一些出乎意料的事情发生。
其中,设置在无人机上的各传感器可以由多种多样的传感器组成,此处并不做具体的限定,可以包括:加速度计、气压高度传感器、无线电高度表、GPS、磁力计、三轴陀螺仪中至少一种,且每种传感器也可以根据实际的效果在不同的位置设置多个,多种传感器间可以协同、相互配合,以得到更加良好的飞行参数。
S104:当指向一致时,无人机减慢飞行速度至预设速度,以使无人机按预设速度进行着陆。
在完成S103的调整无人机飞行姿态的过程后,此时无人机的机头朝向与该方向定标图像的指向一致,无人机在本步骤旨在以一个合适的下降速度完成最后的着陆操作。而具体怎样使无人机实现着陆的方式多种多样,可以根据无人机型号的不同、任务的不同、操作习惯的不同等多种影响因素综合考虑,实现无人机的着陆。
本实施例结合S103调整飞行姿态的过程,在进入本步骤时已经调整好了无人机的降落姿态,只需要降低无人机的飞行速度,并在降低至一个合适的降落速度后,向驱动电机下发控制命令,使得无人机实现缓慢的着陆在该视觉定标团上,也就是着陆点上。
进一步的,在该无人机完成自主着陆后,可以通过设置在该无人机的通信装置将无人机在飞行过程中采集和计算获得的数据信息传回地面控制中心,以使地面控制中心根据获得的数据来进一步制定任务。
基于上述技术方案,本申请实施例提供的一种视觉定标的方法,通过无人机上摄像头所采集到的预先设置的视觉定标图案对各组成成分依次进行识别,并根据识别结果进行飞行姿态的调整,进而实现自主着陆。能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。
以下结合图2,图2为本申请实施例所提供的另一种视觉定标的方法的流程图。
本实施例是针对上一实施例中S101中如何设计视觉定标图案所做出的一个具体限定,其它步骤与上一实施例大体相同,相同部分可参见上一实施例相关部分,在此不再赘述。
其具体包括以下步骤:
S201:设置半径成等差关系的多个同心黑边圆环;
首先设置半径之间成等差数列关系的多个同心黑边圆环,而为什么要这样进行设置,首先从半径之间要成等差数列关系的特征开始介绍:出于实际设置当中的考虑,因为多个同心圆环只存在半径上的差异,而半径上的差异一般有规律的情况下不外乎成等比或等差的关系,结合从外及里的设置原则,等比会出现越到内环半径衰减的越快的特征,不易于实际的设置,间隔的逐渐增大同时也不方便进行图像的采集和识别,所以采取了等差的设计,彼此之间通过相同的公差来有规律的分布,便于识别工作的进行。
其次,黑边圆环的设置是为了区别于实际设置地点的颜色,其次也比较醒目,便于无人机寻找目标,另外,无人机上的识别用摄像头一般只会获得灰度的图像,其它颜色识别效果不如黑色好。
S202:在同心黑边圆环的最小同心黑边圆环中设置内接于最小同心黑边圆环的第一同心黑边正方形;
在S201设置得到的多个同心黑边圆环中存在一个半径最小的最小黑边圆环,顾名思义就是该最小黑边圆环是最内部的一个同心黑边圆环,可以通过在该最小黑边圆环中设置区别于圆环的其它几何特征来丰富该视觉定标图案。本实施例选择在本步骤设置一个内接于该最小黑边圆环的第一同心黑边正方形,首先正方形的识别用几何特征足够多,例如,四条边边长是否一致、结合各边中点和顶底可以计算是否满足勾股定理等各种几何特征,故选择了设置该第一同心黑边正方形,作为主要特征正方形进行识别。
S203:取第一同心黑边正方形的四条边上的四个第一中点,并依次连接第一中点得到第二同心黑边正方形;
在S202得到的该第一同心黑边正方形的基础上,取第一同心黑边正方形的四条边上的四个第一中点,并依次连接第一中点得到第二同心黑边正方形,作为次级特征正方形来进行识别。
S204:取第二同心黑边正方形的一个顶点和顶点两个对边上的第二中点,并连接顶点和第二中点得到方向定标图像。
在S203得到的第二同心黑边正方形的一个顶点和顶点两个对边上的第二中点,并连接顶点和第二中点得到方向定标图像,因为该第二同心黑边正方形存在四个顶点,相应的也就会存在4个方向的方向定标图像,具体选取该第二同心黑边正方形的哪个顶点和对边中点,进而连接得到的方向定标图像,是根据实际情况和设置该视觉定标图案的具体地点和周边环境来设计的,此处并不做具体限定。
经过本实施例之后可以得到一个视觉定标图案,可参见图3,图3为本申请实施例所提供的一种视觉定标图案。
以下结合图4,图4为本申请实施例所提供的又一种视觉定标的方法的流程图。
本实施例是针对实施一例S102中具体如何进行识别所做出的一个限定,其它步骤与实施例一大体相同,相同部分可参见实施例一中相关部分,在此不再赘述。
其具体包括以下步骤:
S301:识别同心黑边圆环的半径长度之间是否存在等差关系,得到第一识别结果;
因为是按顺序依次对视觉定标图案的各组成部分进行识别,实现是对同心黑边圆环的识别,最终对识别得到的各同心黑边圆环进行半径长度之间是否满足视觉定标图案设计时的等差关系的判断,来得到是或不是的第一识别结果。
具体的,可以首先对摄像头采集到的视觉定标图案中的多个同心黑边圆环提取其外部轮廓,并且只提取封闭轮廓,舍弃有断口的、非封闭的同心圆轮廓,在识别到各个同心圆的封闭轮廓后,根据各封闭轮廓所形成的结合图形之间的半径长度的特征,即,对半径长度之间是否存在当初设计视觉定标图案时的等差关系,若存在该等差关系,说明这个视觉定标图案就是需要被识别后进行降落的着陆点,这是确认着陆点的第一道检测认证,之所以说是第一道,是为了防止因巧合存在的意料之外的情况,多设几道检测认证来确保着陆点的正确性。
S302:当第一识别结果通过时,依次对第一同心黑边正方形和第二同心黑边正方形进行角点检测,得到第二识别结果;
在S301的识别通过后,进入第二道、第三道的检测认证,即对内接于该最小同心黑边圆环的第一同心黑边正方形进行角点检测。
角点是图像很重要的特征,对图像图形的理解和分析有很重要的作用,角点检测算法可归纳为三类:基于灰度图像的角点检测、基于二值图像的角点检测、基于轮廓曲线的角点检测。基于灰度图像的角点检测又可分为基于梯度、基于模板和基于模板梯度组合三类方法,其中基于模板的方法主要考虑像素领域点的灰度变化,即图像亮度的变化,将与邻点亮度对比足够大的点定义为角点。
常见的基于模板的角点检测算法有Kitchen-Rosenfeld角点检测算法,Harris角点检测算法、KLT角点检测算法及SUSAN角点检测算法,其中Harris焦点检测算法因其具有的光照不变性、旋转不变性、尺度不变性而广泛使用。
具体的来说,是通过对几何图形的特征的识别来进行角点的定位,并借助定位的角点和特征点结合几何定理进行计算、判别,本步骤具体的通过该算法依次对第一同心黑边正方形、第二同心黑边正方形进行边长是否相等、中点与定点所形成的三角形是否满足勾股定理进行判别,从而依次第二识别结果。
当然,只有当该第一同心黑边正方形识别通过后,才进行对第二同心黑边正方形的识别。
进一步的,在该第二同心黑边正方形通过识别后,即完成了三道对于识别图像是否为视觉定标图像的认定,认定该视觉定标图像就是该无人机要进行着陆的着陆点。
S303:当第二识别结果通过时,对方向定标图像进行指向识别,得到第三识别结果,以使无人机根据第三识别结果调整飞行姿态。
当S302中第二识别结果通过时,最后对位于该视觉定标图案最中心的方向定标图像进行指向的识别,旨在识别出该方向定标图像的指向,从而好在后续的步骤中根据该指向调整无人机的机头朝向。
以下结合图5,图5为本申请实施例所提供的再一种视觉定标的方法的流程图。
本实施例基于一个具体的场景,对一个设置在登山公园某处拐角处的视觉定标图案进行无人机的自主着陆,采用实施例二和实施例三中相同的设置方式和识别过程,其中,同心黑边圆环的数量为4个,且半径等差具体为10cm。
S401:视觉定标图案由半径成10cm等差关系的4个同心黑边圆环、内切于最小同心黑边圆环的第一同心黑边正方形、连接第一同心黑边正方形四边中点而成的第二同心黑边正方形以及连接第二同心黑边正方形一个顶点和两个对边中点而成的方向定标图像组成;
S402:在着陆点设置视觉定标图案,并利用无人机上的摄像头对视觉定标图案进行采集;
S403:提取4个同心黑边圆环的外部轮廓;
S404:根据轮廓判断是否半径之间满足10cm的等差关系;
S405:对第一同心黑边正方形进行角点检测;
S406:判断第一同心黑边正方形是否通过角点检测;
S407:对第二同心黑边正方形进行角点检测;
S408:判断第二同心黑边正方形是否通过角点检测;
S409:认定视觉定标图案所在位置为着陆点;
S410:对方向定标图像进行指向识别,得到指向识别结果;
S411:根据指向识别结果调整无人机机头朝向按逆时针旋转90度至与方向定标图像的指向一致;
S412:降低飞行速度至合适速度,保持合适速度降落在着陆点;
S413:将无人机航拍的图像、飞行参数以及识别过程传回地面控制中心。
基于上述技术方案,本申请实施例提供的一种视觉定标的方法,通过无人机上摄像头所采集到的预先设置的视觉定标图案的三种几何图形特征依次进行识别,并根据最终指向识别结果进行机头朝向的调整,进而实现自主着陆,进一步的还可以通过通信装置传输数据回地面控制中心。能够使无人机对提供的一种几何特征更丰富、更易进行图像识别的视觉定标图案进行识别,提高无人机自主着陆的精度,降低自主着陆异常事件的发生频率。
因为情况复杂,无法一一列举进行阐述,本领域技术人员应能意识到更具本申请提供的基本方法原理结合实际情况可以存在很多的例子,在不付出足够的创造性劳动下,应均在本申请的保护范围内。
下面请参见图6,图6为本申请实施例所提供的一种无人机的结构框图。
该无人机100可以包括:
摄像头110、驱动电机150以及采集飞行参数的姿态传感器140;
与摄像头110相连,依次对摄像头110采集的视觉定标图案200中的同心圆环、同心正方形以及方向定标图像进行识别,并发送指向识别结果的嵌入式芯片120;
与姿态传感器140、嵌入式芯片120以及驱动电机150均相连,根据飞行参数结合指向识别结果调整无人机100的飞行姿态;发送驱动电机控制命令进行着陆的飞控芯片130。
可选的,该无人机100还包括:
与摄像头110和飞控芯片130均相连,存储摄像头110采集到的航拍图像、飞行参数以及识别结果的存储器。
可选的,该无人机100还包括:
与飞控芯片130和存储器均相连,获取飞行参数、航拍图像、以及识别结果并传回地面控制中心的通信装置。
可选的,无人机100具体为中小型多轴旋翼机。
下面请参见图7,图7为本申请实施例所提供的一种视觉定标的系统的结构框图。
该系统可以包括:
视觉定标图案200;其中,视觉定标图案200包括同心圆环、同心正方形以及方向定标图像;
如上一实施例中的无人机100。
其中,该姿态传感器140,不仅仅是一个传感器,是能够得到无人机飞行参数的所有传感器的总称,可以包括:加速度计、气压高度传感器、无线电高度表、GPS、磁力计、三轴陀螺仪中至少一种,以获取该无人机的飞行参数。
其中,该通信装置是将无人机通过摄像头110采集得到的飞行航拍图像、飞行参数以及各识别结果传回地面控制中心,以便地面监控人员实时监控无人机自主着陆的实时状态。
该摄像头110用于拍摄无人机飞行过程中的图像,用于后续的处理步骤。
该驱动电机150用于接收飞控芯片130输出的数字信号经D/A转化来的电压和电流,从而根据该电压和电流使无人机获得前往着陆点上空的合适的加速度。
该嵌入式芯片120进行对视觉定标图案各级识别时,可以采用以下描述的具体算法:
第一步,是对视觉定标图案外圈的多个同心黑边圆环进行识别:
读取摄像头采集到的灰度图像,并设定相应阈值Y进行二值化处理,在上述二值化的灰度图像中中进行sobel边缘检测,提取出图像中的所有的闭合轮廓,并舍弃其中分立,断开的轮廓。其中,sobel边缘检测是利用sobel算子进行边缘检测的一种算法。
在进行圆环轮廓的识别时,采用面积法和轮廓圆心度的值进行圆环轮廓的筛选,实现对外圈圆环的识别:
将每个圆内的边缘轮廓中所有像素点分别带入目标函数:
Figure BDA0001350912040000131
通过求解目标函数的最小值来确认圆的各个参数,该方法相对于霍夫椭圆变换法,运行时间更短,识别准确度更高。
当无人机飞行在较高的空中时,对所拍摄到的视觉地面定标图案进行粗识别,得到粗识别判定下的外圈圆环,结合飞控中心进而控制无人机电机转速下降,使无人机高度逐步下降,摄像头拍摄到的视觉定标图案越来越清晰,并且逐渐可以识别圆环中的内圈圆,半径为r1,r2,r3,.....rn,满足rn-rn-1=d,其中d为公差,即表示特征圆的识别验证通过。
第二步,对内接于最小同心黑边圆环的同心正方形的识别:
当无人机高度进一步下降,所拍摄的图像中已经能够识别最内圈的组合特征图形时,即进入到第二步无人机视觉定标特征图形的匹配识别阶段。
角点的检测中采用Harris角点检测算法,用高斯函数算子去检测角点中不同方向的像素变换值,将多方向下的变化波动的像素点的检测为角点,其中,角点即是无人机在图像定标中重要特征点。
具体的,在最小同心黑边圆环的边界领域上采用Harris角点检测算法,即通过角点检测来定位主要特征正方形的四个角点,为Zj1,Zj2,Zj3,Zj4,同时对该四个角点连接而成的该主要特征正方形的四条边zj1zj2,zj2zj3,zj3zj4,zj1zj4的中点,以8邻域范围进行角点检测,检测出的角点设为y1,y2,y3,y4,利用勾股定理进行验证是否满足如下公式:
(zj1y1)2+(zj1y4)2=(y1y4)2
(zj2y1)2+(zj2y2)2=(y1y2)2
(zj2y2)2+(zj3y3)2=(y2y3)2
(zj4y3)2+(zj4y4)2=(y3y4)2
以及四条边长:zj1zj2,zj2zj3,zj3zj4,zj1zj4之间是否彼此相等进行验证。
即可以判定图形为正要特征正方形,同时y1,y2,y3,y4即是该主要特征正方形四边zj1zj2,zj2zj3,zj3zj4,zj1zj4上的中点,同时也是下一个次级特征正方形的四个角点。
依次类推,在该此级特征正方形四个角点和四边上的中点,以及线段y1y3和y2y4交点得到的8邻域范围内进行角点检测,则检测出的角点为最后一级方向定标图案的特征点。可参见图3,其被定义为x1,x2,O。
同时,该嵌入式芯片中的系统利用图形程序识别出方向标的特征点角点时,需要追踪方向标特征角点,以便可以实时稳定的来获取该无人机相对基站的参数。根据领域追踪识别思想,以方向标的角点为构建16*16领域进行领域角点识别,并且在视频帧中不断的循环,保证对视觉定标图形的实时追踪识别。
通过上述步骤完成了第二步对内接于最小同心黑边圆环的同心正方形的识别。若通过了第二步的角点检测识别,则可判定该视觉定标图案为事先设置好的视觉定标图案,即为该无人机的着陆点。
第三步,对方向定标图像进行指向识别验证;
主要方法依然采用同第二步的焦点检测算法,结合x1,x2,O以及在对次级特征正方形进行角点检测时得到的特征点和角点,判别出该方向定标图案的具体指向。
通过针孔模型来进行三维重建获取无人机飞行时候距离摄像头定标图像的水平距离L,垂直距离d,以及摄像头的偏角θ和无人机相对于定标图案的偏航角。形成的针孔摄像头成像模型可参见图8,图8为本申请实施例所提供的摄像头小孔成像模型示意图。
结合模型示意图,可得到世界坐标系表示的P点坐标与其投影点p的坐标(u,v)的关系:
Figure BDA0001350912040000141
Y
Figure BDA0001350912040000142
其中,M1完全由ax,ay,u0,v0决定,而ax,ay,u0,v0是摄像头的内部参数,M2由摄像头相对于世界坐标系的方位决定,称为摄像头的外部参数。摄像头标定就是确定摄像头的内外参数。摄像头标定采用张正友棋盘标定法。
在之前的无人机外圈圆环的粗识别和内圈标志图形的精细识别两步步骤中,已通过验证识别出视觉定标图案,获取定标图案中最里面的方向标的所有的角点位置坐标,y1(x1,y1),X1(x2,y2),X2(x3,y3),O(x0,y0);
以无人机为世界坐标系的原点,根据上述公式即可以获得视觉定图案相对于无人机的真实坐标:
Figure BDA0001350912040000151
则无人机与视觉定标图案之间的距离:
Figure BDA0001350912040000152
无人机摄像头相对于的世界坐标系XOY水平面的倾角为ɑ,则无人机距离视觉图标定位中心点的水平距离为:
Figure BDA0001350912040000153
垂直距离为:
Figure BDA0001350912040000154
无人机摄像头相对于的世界坐标系XOY水平面的倾角为ɑ,视觉定标图案相对于无人机的方位:
Figure BDA0001350912040000155
通过上述过程可以得到无人机距离视觉定标图像的水平距离L,垂直距离d,以及摄像头的偏角θ和无人机相对于定标图案的偏航角。
接下来通过识别定标图案中最里面的方向标来确定无人机降落时候机头所停放的方向。通过检测内圆内切特征正方形Z1特征角点来计算的两条垂直相邻Zj1Zj2,Zj1Zj4与图像坐标轴u,v的夹角,作为无人机相对地标的偏航信息。
设特征正方形的四个角点坐标为:
Zj1(x1,y1),Zj2(x2,y2),Zj3(x3,y3),Zj4(x4,y4)
以及判断是否满足以下两个的其中之一:
Figure BDA0001350912040000156
Figure BDA0001350912040000157
即可说明zj1zj2,zj1zj4平行于图像坐标轴u,v。
该飞控芯片130根据嵌入式芯片120发送的指向识别结果调整飞行姿态时,可以采用以下描述的具体算法:
嵌入式芯片中的图像处理模块通过方向定标图像得到了无人机相对于基准的参数,将这些参数通过端口UART传给飞控芯片:STM32F427,飞控芯片通过计算机视觉解算出与视觉定标图像等距离和角度等参数,飞控芯片的输出的数字信号通过D/A转化来控制无人机驱动电机的输出电压,电流,从而使无人机获得前往着陆点上空的加速度。
通过不断获取嵌入式芯片发送来的机头朝向,飞控芯片实时更改发送给驱动电机的控制命令,并按照上述方法来调整无人机的方位,保持使无人机机体能够降落在定标基站中。
无人机旋转方向,调整图像平面内特征正方形相互垂直的轴边和图像坐标轴保持平行,接下来定位无人机机头的方位,经过上述步骤后,视觉定标图案将出现如图9所示的形式,图9为本申请实施例所提供的一种视觉定标图案中方向定标图像的指向示意图。接下里继续采用方向定标的特征角点来使无人机机头方向朝向方向标的指向的方向:
根据方向定标图像的特征角点:
y(xk,yk),o(x0,y0)以及
Figure BDA0001350912040000161
并根据如下情况,下发相应控制命令给驱动电机:
情况一:Δx=0,Δy<0,无人机机头朝向与方向定标图像的指向一致,无人机保持原有飞行姿态不变;
情况二:Δx>0,Δy=0,无人机机头朝向和方向定标图像的指向相垂直,一个对角线的旋翼转动方向相同,另一对角线的旋翼转动方向相反,通过磁力计来控制转动角度,使无人机逆时针旋转90°;
情况三:Δx=0,Δy>0,无人机机头朝向和方向定标图像的指向相反,一个对角线的旋翼转动方向相同,另一对角线的旋翼转动方向相反,通过磁力计来使无人机按逆时针或顺时针旋转180°;
情况四:Δx=0,Δy<0,无人机机头朝向和方向定标图像的指向相垂直,一个对角线的旋翼转动方向相同,另以对角线的旋翼转动方向相反,通过磁力计来控制转动角度,使无人机瞬时针旋转90°。
说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims (7)

1.一种视觉定标的方法,其特征在于,包括:
通过无人机上的摄像头对设置在地面上的视觉定标图案进行采集;其中,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像;
依次对所述同心圆环、所述同心正方形以及所述方向定标图像进行识别,得到识别结果;
根据所述识别结果调整所述无人机的飞行姿态至所述无人机的机头朝向与所述方向定标图像的指向一致;
当所述指向一致时,所述无人机减慢飞行速度至预设速度,以使所述无人机按所述预设速度进行着陆;
其中,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像,包括:
设置半径成等差关系的多个同心黑边圆环;
在所述同心黑边圆环的最小同心黑边圆环中设置内切于所述最小同心黑边圆环的第一同心黑边正方形;
取所述第一同心黑边正方形的四条边上的四个第一中点,并依次连接所述第一中点得到第二同心黑边正方形;
取所述第二同心黑边正方形的一个顶点和所述顶点两个对边上的第二中点,并连接所述顶点和所述第二中点得到所述方向定标图像;
其中,依次对所述同心圆环、所述同心正方形以及所述方向定标图像进行识别,得到识别结果,包括:
识别所述同心黑边圆环的半径长度之间是否存在所述等差关系,得到第一识别结果;
当所述第一识别结果通过时,依次对所述第一同心黑边正方形和所述第二同心黑边正方形进行角点检测,得到第二识别结果;
当所述第二识别结果通过时,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态;
其中,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态,包括:
当所述第二识别结果通过时,所述无人机完成对所述视觉定标图案的几何特征检测,并认定所述视觉定标图案的所在位置为着陆点;
当所述着陆点的位置确定后,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态。
2.根据权利要求1所述的方法,其特征在于,还包括:
将机载摄像头拍摄的航拍图像、所述识别结果以及所述无人机的飞行参数传回地面控制中心。
3.一种无人机,其特征在于,包括:
摄像头、驱动电机以及采集飞行参数的姿态传感器;
与所述摄像头相连,依次对所述摄像头采集的视觉定标图案中的同心圆环、同心正方形以及方向定标图像进行识别,并发送指向识别结果的嵌入式芯片;
与所述姿态传感器、所述嵌入式芯片以及所述驱动电机均相连,根据所述飞行参数和所述指向识别结果调整所述无人机的飞行姿态;发送驱动电机控制命令进行着陆的飞控芯片;
其中,所述依次对所述摄像头采集的视觉定标图案中的同心圆环、同心正方形以及方向定标图像进行识别,并发送指向识别结果的嵌入式芯片,包括:
设置半径成等差关系的多个同心黑边圆环;
在所述同心黑边圆环的最小同心黑边圆环中设置内切于所述最小同心黑边圆环的第一同心黑边正方形;
取所述第一同心黑边正方形的四条边上的四个第一中点,并依次连接所述第一中点得到第二同心黑边正方形;
取所述第二同心黑边正方形的一个顶点和所述顶点两个对边上的第二中点,并连接所述顶点和所述第二中点得到所述方向定标图像;
识别所述同心黑边圆环的半径长度之间是否存在所述等差关系,得到第一识别结果;
当所述第一识别结果通过时,依次对所述第一同心黑边正方形和所述第二同心黑边正方形进行角点检测,得到第二识别结果;
当所述第二识别结果通过时,所述无人机完成对所述视觉定标图案的几何特征检测,并认定所述视觉定标图案的所在位置为着陆点;
当所述着陆点的位置确定后,对所述方向定标图像进行指向识别,得到第三识别结果,以使所述无人机根据所述第三识别结果调整所述飞行姿态。
4.根据权利要求3所述的无人机,其特征在于,还包括:
与所述摄像头和所述飞控芯片均相连,存储所述摄像头采集到的航拍图像、所述飞行参数以及各识别结果的存储器。
5.根据权利要求4所述的无人机,其特征在于,还包括;
与所述飞控芯片和所述存储器均相连,获取所述飞行参数、所述航拍图像、以及所述各识别结果并传回地面控制中心的通信装置。
6.根据权利要求3至5任一项所述的无人机,其特征在于,所述无人机为中小型多轴旋翼机。
7.一种视觉定标的系统,其特征在于,包括:
视觉定标图案;其中,所述视觉定标图案包括同心圆环、同心正方形以及方向定标图像;
如权利要求3至6任一项所述的无人机。
CN201710575767.0A 2017-07-14 2017-07-14 一种视觉定标的方法、系统及无人机 Active CN107194399B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710575767.0A CN107194399B (zh) 2017-07-14 2017-07-14 一种视觉定标的方法、系统及无人机

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710575767.0A CN107194399B (zh) 2017-07-14 2017-07-14 一种视觉定标的方法、系统及无人机

Publications (2)

Publication Number Publication Date
CN107194399A CN107194399A (zh) 2017-09-22
CN107194399B true CN107194399B (zh) 2023-05-09

Family

ID=59882160

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710575767.0A Active CN107194399B (zh) 2017-07-14 2017-07-14 一种视觉定标的方法、系统及无人机

Country Status (1)

Country Link
CN (1) CN107194399B (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107976899B (zh) * 2017-11-15 2020-09-11 中国人民解放军海军航空大学 一种基于有人/无人机协同作战系统的精确目标定位及打击方法
CN108153334B (zh) * 2017-12-01 2020-09-25 南京航空航天大学 无合作目标式无人直升机视觉自主返航与着降方法及系统
CN108563236B (zh) * 2018-06-08 2020-07-07 清华大学 一种基于同心圆特征的纳型无人机目标跟踪方法
CN109270953B (zh) * 2018-10-10 2021-03-26 大连理工大学 一种基于同心圆视觉标识的多旋翼无人机自主降落方法
CN109598758A (zh) * 2018-11-21 2019-04-09 三峡大学 一种可视觉定位的无人机起降平台及无人机落点修正方法
CN109613926A (zh) * 2018-12-22 2019-04-12 武汉新运维光电科技股份有限公司 多旋翼无人机自动降落高精度自动识别降落区域的方法
CN109885086B (zh) * 2019-03-11 2022-09-23 西安电子科技大学 一种基于复合多边形标志引导的无人机垂直降落方法
CN109839115A (zh) * 2019-03-21 2019-06-04 北京中飞艾维航空科技有限公司 一种无人机着陆方法、装置及存储介质
CN110569838B (zh) * 2019-04-25 2022-05-24 内蒙古工业大学 一种基于视觉定位的四旋翼无人机自主降落方法
CN110322462B (zh) * 2019-06-13 2021-07-27 暨南大学 基于5g网络的无人机视觉着陆方法及系统
CN112307865A (zh) * 2020-02-12 2021-02-02 北京字节跳动网络技术有限公司 基于图像识别的交互方法及装置
CN111401249B (zh) * 2020-03-17 2023-08-08 中科(厦门)数据智能研究院 一种基于不同粒度特征匹配一致性的物体重识别方法
CN112269398B (zh) * 2020-11-04 2024-03-15 国网福建省电力有限公司漳州供电公司 一种变电站无人机自主巡检系统
CN114489129B (zh) * 2022-01-24 2023-04-07 北京远度互联科技有限公司 无人机着陆方法及相关装置
CN116051629B (zh) * 2023-02-22 2023-11-07 常熟理工学院 面向自主导航机器人的高精度视觉定位方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101509759A (zh) * 2009-01-15 2009-08-19 上海交通大学 用于视觉检测系统的自标定系统及方法
CN104166854A (zh) * 2014-08-03 2014-11-26 浙江大学 针对小型无人机自主降落的视觉分级地标定位识别方法
CN105335733A (zh) * 2015-11-23 2016-02-17 西安韦德沃德航空科技有限公司 一种无人机自主着陆视觉定位方法及系统
CN106054931A (zh) * 2016-07-29 2016-10-26 北方工业大学 一种基于视觉定位的无人机定点飞行控制系统
CN106647814A (zh) * 2016-12-01 2017-05-10 华中科技大学 一种基于二维码地标识别的无人机视觉辅助定位与飞控系统及方法
CN106774386A (zh) * 2016-12-06 2017-05-31 杭州灵目科技有限公司 基于多尺度标识物的无人机视觉导航降落系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101509759A (zh) * 2009-01-15 2009-08-19 上海交通大学 用于视觉检测系统的自标定系统及方法
CN104166854A (zh) * 2014-08-03 2014-11-26 浙江大学 针对小型无人机自主降落的视觉分级地标定位识别方法
CN105335733A (zh) * 2015-11-23 2016-02-17 西安韦德沃德航空科技有限公司 一种无人机自主着陆视觉定位方法及系统
CN106054931A (zh) * 2016-07-29 2016-10-26 北方工业大学 一种基于视觉定位的无人机定点飞行控制系统
CN106647814A (zh) * 2016-12-01 2017-05-10 华中科技大学 一种基于二维码地标识别的无人机视觉辅助定位与飞控系统及方法
CN106774386A (zh) * 2016-12-06 2017-05-31 杭州灵目科技有限公司 基于多尺度标识物的无人机视觉导航降落系统

Also Published As

Publication number Publication date
CN107194399A (zh) 2017-09-22

Similar Documents

Publication Publication Date Title
CN107194399B (zh) 一种视觉定标的方法、系统及无人机
CN110991207B (zh) 综合H图案识别和AprilTag二维码识别的无人机精准降落方法
CN108305264B (zh) 一种基于图像处理的无人机精确着陆方法
US11748898B2 (en) Methods and system for infrared tracking
CN107202982B (zh) 一种基于无人机位姿计算的信标布置及图像处理方法
CN109270953B (zh) 一种基于同心圆视觉标识的多旋翼无人机自主降落方法
CN106774386B (zh) 基于多尺度标识物的无人机视觉导航降落系统
CN106371447A (zh) 一种无人机全天候精准降落的控制方法
CN103822635B (zh) 基于视觉信息的无人机飞行中空间位置实时计算方法
CN106527487A (zh) 一种运动平台上无人机自主精确着陆系统及着陆方法
CN106155086B (zh) 一种道路检测无人机及其自动巡航方法
CN109753076A (zh) 一种无人机视觉追踪实现方法
CN109885086B (zh) 一种基于复合多边形标志引导的无人机垂直降落方法
CN108873917A (zh) 一种面向移动平台的无人机自主着陆控制系统及方法
CN109460046B (zh) 一种无人机自然地标识别与自主着陆方法
CN104298248A (zh) 旋翼无人机精确视觉定位定向方法
CN107063261B (zh) 用于无人机精准着陆的多特征信息地标检测方法
CN104076817A (zh) 一种高清视频航拍多模传感器自外感知智能导航系统及其方法
CN112215860A (zh) 一种基于图像处理的无人机定位方法
CN109739257A (zh) 融合卫星导航与视觉感知的巡检无人机停机方法及系统
CN109613926A (zh) 多旋翼无人机自动降落高精度自动识别降落区域的方法
CN110068321B (zh) 定点降落标志的uav相对位姿估计方法
CN106339006A (zh) 一种飞行器的目标跟踪方法和装置
CN105243664A (zh) 一种基于视觉的轮式移动机器人快速目标跟踪方法
CN109725645A (zh) 一种嵌套式无人机着陆合作标志设计及相对位姿获取方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant