CN106444849A - 一种基于图像识别的无人机自主飞行系统 - Google Patents

一种基于图像识别的无人机自主飞行系统 Download PDF

Info

Publication number
CN106444849A
CN106444849A CN201611100170.2A CN201611100170A CN106444849A CN 106444849 A CN106444849 A CN 106444849A CN 201611100170 A CN201611100170 A CN 201611100170A CN 106444849 A CN106444849 A CN 106444849A
Authority
CN
China
Prior art keywords
image
subsystem
image recognition
unmanned plane
carried out
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611100170.2A
Other languages
English (en)
Inventor
不公告发明人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Xun Ye Computer Technology Co Ltd
Original Assignee
Shanghai Xun Ye Computer Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Xun Ye Computer Technology Co Ltd filed Critical Shanghai Xun Ye Computer Technology Co Ltd
Priority to CN201611100170.2A priority Critical patent/CN106444849A/zh
Publication of CN106444849A publication Critical patent/CN106444849A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/12Target-seeking control

Abstract

本发明提供了一种基于图像识别的无人机自主飞行系统,包括图像采集子系统、图像识别子系统、视频显示器和指令生成子系统;所述图像采集子系统用于供无人机采集环境图像并将环境图像传送至图像识别子系统;所述图像识别子系统用于对接收的环境图像进行处理获得图像帧,再对所述图像帧进行图像识别处理,同时对所述图像帧进行组装形成视频流后发送给所述视频显示器用于实时显示;所述指令生成子系统用于根据识别处理结果生成指令,并将指令发送至无人机,以供无人机根据指令执行自主飞行任务。本发明使无人机具备更智能灵活的自主飞行控制能力,避免飞行受到影响;无人机具有的实时视频显示功也能方便操作人员充分了解具体任务环境信息。

Description

一种基于图像识别的无人机自主飞行系统
技术领域
本发明创造涉及无人机控制技术领域,具体涉及一种基于图像识别的无人机自主飞行系统。
背景技术
相关技术中的无人机自主飞行系统,所涉及的地面控制基站程序——无论是单纯的借助程序或者是基于智能Agent的分层递阶结构控制体系——底层的导航控制都是借由方向定位系统(主要包括GPS定位系统、罗盘系统以及高度传感器这三部分)来确定无人机实时位置,再通过预先设定的直角坐标系进行飞行路线的执行,从而完成对预设飞行路线的执行。
然而,面对现实中受到多因素影响的复杂环境,这种控制模式已经不能满足对非预见威胁的有效避免。同时在一些小范围复杂地形环境中,无人机躲避障碍物的成功率大幅下降。
发明内容
为解决上述问题,本发明提供一种基于图像识别的无人机自主飞行系统。
本发明创造的目的通过以下技术方案实现:
一种基于图像识别的无人机自主飞行系统,包括图像采集子系统、图像识别子系统、视频显示器和指令生成子系统;所述图像采集子系统用于供无人机采集环境图像并将环境图像传送至图像识别子系统;所述图像识别子系统用于对接收的环境图像进行处理获得图像帧,再对所述图像帧进行图像识别处理,同时对所述图像帧进行组装形成视频流后发送给所述视频显示器用于实时显示;所述指令生成子系统用于根据识别处理结果生成指令,并将指令发送至无人机,以供无人机根据指令执行自主飞行任务。
本发明创造的有益效果:采用了实时图像信息作为控制调整依据,通过图像识别技术让无人机更有效地了解复杂环境障碍物的情况,并根据实时信息作出飞行调整,使其能在复杂地形或多变环境中,具备更智能灵活的自主飞行控制能力,避免飞行受到影响;无人机具有的实时视频显示功也能方便操作人员充分了解具体任务环境信息。
附图说明
利用附图对发明创造作进一步说明,但附图中的实施例不构成对本发明创造的任何限制,对于本领域的普通技术人员,在不付出创造性劳动的前提下,还可以根据以下附图获得其它的附图。
图1是本发明结构示意图;
图2是图像采集子系统的结构示意图。
附图标记:
图像采集子系统1、图像识别子系统2、视频显示器3、指令生成子系统4、环境图像数据采集模块21、图像预处理及加密模块22、图像传送模块23。
具体实施方式
结合以下实施例对本发明作进一步描述。
参见图1、图2,本实施例的一种基于图像识别的无人机自主飞行系统,包括图像采集子系统1、图像识别子系统2、视频显示器3和指令生成子系统4;所述图像采集子系统1用于供无人机采集环境图像并将环境图像传送至图像识别子系统2;所述图像识别子系统2用于对接收的环境图像进行处理获得图像帧,再对所述图像帧进行图像识别处理,同时对所述图像帧进行组装形成视频流后发送给所述视频显示器3用于实时显示;所述指令生成子系统4用于根据识别处理结果生成指令,并将指令发送至无人机,以供无人机根据指令执行自主飞行任务。
优选的,所述对所述图像帧进行图像识别处理,包括:对所接收的图像帧进行二值化处理,获得黑白图像;对所述黑白图像利用循环校正算法来获得识别目标;对所述识别目标采用质心比对算法获取目标的实际质心,并将所述实际质心与所设定的质心阈值进行求差,获得调整量。
优选的,所述根据识别处理结果生成指令,包括:利用监视器来接收所述调整量,并对所述调整量进行AT指令的转义。
本发明上述实施例采用了实时图像信息作为控制调整依据,通过图像识别技术让无人机更有效地了解复杂环境障碍物的情况,并根据实时信息作出飞行调整,使其能在复杂地形或多变环境中,具备更智能灵活的自主飞行控制能力,避免飞行受到影响;无人机具有的实时视频显示功也能方便操作人员充分了解具体任务环境信息。
优选的,所述图像采集子系统1包括环境图像数据采集模块21、图像预处理及加密模块22、图像传送模块23,图像识别子系统2还包括有图像解密模块;所述图像预处理及加密模块22与图像传送模块23的接收端连接,所述图像解密模块与图像传送模块23的传送端无线连接。
所述环境图像数据采集模块21用于通过已校准的摄像机对环境图像数据进行摄像采集,所述已校准的摄像机为已经进行标定处理的摄像机,摄像机的标定包括:(1)采用国际象棋棋盘作为摄像机标定的参考图;(2)采用摄像机对国际象棋棋盘进行图像采集,以得到棋盘图像,采集的时候尽量让棋盘占据尽可能多的画面,采集的棋盘图像的数量大于等于10;(3)输入棋盘方格尺寸大小,设定棋盘角点搜索窗口方格大小,窗口方格小于棋盘方格大小,提取棋盘图像中棋盘上所有方格的角点;(4)采用matlab标定工具箱对摄像机进行标定,根据取得的角点,运行程序得到摄像机的参数,完成标定。
本优选实施例通过已校准的摄像机对环境图像数据进行摄像采集,能够更准确地获取环境图像数据,从而进一步提高图像识别的效率和精度,提高无人机飞行的精确度。
优选地,所述图像预处理及加密模块22用于对需加密的环境图像进行图像预处理,并对图像预处理后的图像进行加密;
所述对需加密的环境图像进行图像预处理,包括:
(1)按照下列灰度化处理公式对需加密的环境图像进行灰度化处理:
日光条件下:
灯光条件下:
弱光条件下:
Q=max(r,g,b)
上式中,日光条件是指拍摄条件为正常白天,灯光条件指拍摄条件为太阳落山后室内灯光条件,弱光条件指拍摄条件为晚上室内不开灯,Q为处理后图像的像素灰度值,r、g、b分别表示图像像素点的红色、绿色、蓝色分量;
(2)对图像进行增强处理,包括:
1)将经过灰度化处理的图像的灰度值按照下列公式进行增强处理:
Q′=lnQ
2)计算任意像素点(x,y)和邻域内八个像素点的灰度关系W:
式中,μ、v不能同时为0;
通过该灰度关系对初始灰度值进行校正,得到校正后的灰度值ψ(x,y)为:
本优选实施例根据不同光照条件对图像进行灰度处理,减少了计算量,保证了在弱光条件下图像的亮度,对图像进行增强处理,提高了图像质量,从而进一步得到较为清晰的环境图像,有利于后续的图像识别处理,让无人机能更有效地了解复杂环境障碍物的情况。
所述对需加密的环境图像进行图像预处理,还包括:
(1)对灰度值校正后的图像按照图像要求度进行区分,确定图像要求高的图像和图像要求较低的图像,并做好标记;
(2)对灰度值校正后的图像进行图像预处理:首先进行三级小波分解,提取灰度值校正后的图像的三级小波分解低频近似分量,然后采用下列混沌映射公式对低频图像进行位置置乱处理:
式中,η1为低频图像信息,m1、m2、m3为通过混沌映射生成的三个变量;
为适应数字图像所要求的数值范围,对m1、m2、m3按照下式进行处理,从而将它们的值映射到0-255之间,生成混沌序列F、Z,并进一步映射为图像矩阵:
F=[(m1+m2)*500]mod256,Z=[(m1+m3)*500]mod256
(3)确定待加密图像:对于图像要求较低的图像,采用预处理后的图像作为待加密图像;对于图像要求较高的图像,对预处理后的图像利用小波逆变换进行图像重构,以重构后的图像作为待加密图像;
所述对图像预处理后的图像进行加密,包括:用O1表示待加密图像,分别在有限域上与混沌序列F执行加法运算和乘法运算,得到新的图像O2,再将图像O2使用转置操作得到新的图像O3,最后将将图像O3与混沌序列Z执行有限域上的加和乘操作,得到最终的图像O,其中:
式中,表示有限域的加法,“·”表示有限域上的乘法。
本优选实施例利用小波变换对图像进行图像预处理,去除了图像本身的冗余性,实现快速置乱,能够减少所需的混沌序列,提高加密效率,满足实时通信的要求;按照图像要求的高低进行图像区分,对于图像要求高的图像先进行图像预处理再进行小波逆变换的图像重构处理,确保无损的同时提高了置乱的速率;加密时,将有限域的二进制算法与混沌加密技术进行结合,保障了图像加密的安全性的同时,相对于现有技术,提高了图像加密的速度,实现了环境图像的安全传送,提高了系统的安全性。
优选地,所述解密模块用于对加密图像进行解密,其使用与图像预处理相同的混沌映射公式以及相应的混沌序列,对加密过程进行逆转换,从而实现图像的解密。
本优选实施例实现了图像识别子系统2对加密的环境图像的读取,进一步提高了图像识别子系统2对环境图像数据处理的速度,从而进一步提高了无人机自主飞行的效率。
基于上述实施例,发明人进行了一系列测试,以下是进行测试得到的实验数据:
无人机自主飞行情况 指令生成平均耗时 飞行故障率
飞行环境1:操场,行程500m 2s 0%
飞行环境2:国道路段,行程500m 2s 0%
飞行环境3:农场,行程1000m 3s 0%
飞行环境4:沿电网飞行,行程1000m 2s 0%
飞行环境5:企业工厂,行程500m 2s 0%
最后应当说明的是,以上实施例仅用以说明本发明的技术方案,而非对本发明保护范围的限制,尽管参照较佳实施例对本发明作了详细地说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的实质和范围。

Claims (5)

1.一种基于图像识别的无人机自主飞行系统,其特征是,包括图像采集子系统、图像识别子系统、视频显示器和指令生成子系统;所述图像采集子系统用于供无人机采集环境图像并将环境图像传送至图像识别子系统;所述图像识别子系统用于对接收的环境图像进行处理获得图像帧,再对所述图像帧进行图像识别处理,同时对所述图像帧进行组装形成视频流后发送给所述视频显示器用于实时显示;所述指令生成子系统用于根据识别处理结果生成指令,并将指令发送至无人机,以供无人机根据指令执行自主飞行任务。
2.根据权利要求1所述的一种基于图像识别的无人机自主飞行系统,其特征是,所述对所述图像帧进行图像识别处理,包括:对所接收的图像帧进行二值化处理,获得黑白图像;对所述黑白图像利用循环校正算法来获得识别目标;对所述识别目标采用质心比对算法获取目标的实际质心,并将所述实际质心与所设定的质心阈值进行求差,获得调整量。
3.根据权利要求2所述的一种基于图像识别的无人机自主飞行系统,其特征是,所述根据识别处理结果生成指令,包括:利用监视器来接收所述调整量,并对所述调整量进行AT指令的转义。
4.根据权利要求3所述的一种基于图像识别的无人机自主飞行系统,其特征是,所述图像采集子系统包括环境图像数据采集模块、图像预处理及加密模块、图像传送模块,图像识别子系统还包括有图像解密模块;所述图像预处理及加密模块与图像传送模块的接收端连接,所述图像解密模块与图像传送模块的传送端无线连接。
5.根据权利要求4所述的一种基于图像识别的无人机自主飞行系统,其特征是,所述环境图像数据采集模块用于通过已校准的摄像机对环境图像数据进行摄像采集,所述已校准的摄像机为已经进行标定处理的摄像机,摄像机的标定包括:(1)采用国际象棋棋盘作为摄像机标定的参考图;(2)采用摄像机对国际象棋棋盘进行图像采集,以得到棋盘图像,采集的时候尽量让棋盘占据尽可能多的画面,采集的棋盘图像的数量大于等于10;(3)输入棋盘方格尺寸大小,设定棋盘角点搜索窗口方格大小,窗口方格小于棋盘方格大小,提取棋盘图像中棋盘上所有方格的角点;(4)采用matlab标定工具箱对摄像机进行标定,根据取得的角点,运行程序得到摄像机的参数,完成标定。
CN201611100170.2A 2016-12-02 2016-12-02 一种基于图像识别的无人机自主飞行系统 Pending CN106444849A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611100170.2A CN106444849A (zh) 2016-12-02 2016-12-02 一种基于图像识别的无人机自主飞行系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611100170.2A CN106444849A (zh) 2016-12-02 2016-12-02 一种基于图像识别的无人机自主飞行系统

Publications (1)

Publication Number Publication Date
CN106444849A true CN106444849A (zh) 2017-02-22

Family

ID=58223755

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611100170.2A Pending CN106444849A (zh) 2016-12-02 2016-12-02 一种基于图像识别的无人机自主飞行系统

Country Status (1)

Country Link
CN (1) CN106444849A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108388838A (zh) * 2018-01-26 2018-08-10 重庆邮电大学 无人机对地人群监控系统及监控方法
CN108447041A (zh) * 2018-01-30 2018-08-24 中国航天电子技术研究院 一种基于增强学习的多源图像融合方法
CN110262560A (zh) * 2019-07-19 2019-09-20 武汉理工大学 一种面向机耕农场的监察搁荒系统
CN111386507A (zh) * 2019-02-01 2020-07-07 深圳市大疆创新科技有限公司 数据处理方法、无人机、移动设备及系统
CN111445455A (zh) * 2020-03-26 2020-07-24 北京润科通用技术有限公司 一种图像采集方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103295225A (zh) * 2013-04-10 2013-09-11 苏州大学 弱光照条件下的列车转向架边缘检测方法
US8779944B2 (en) * 2009-02-20 2014-07-15 Appareo Systems, Llc Optical image monitoring system and method for vehicles
CN103941746A (zh) * 2014-03-29 2014-07-23 国家电网公司 无人机巡检图像处理系统及方法
CN104484876A (zh) * 2014-12-05 2015-04-01 中国海洋大学 基于自动阈值分割的水产品寄生虫紫外荧光成像检测方法
CN104765360A (zh) * 2015-03-27 2015-07-08 合肥工业大学 一种基于图像识别的无人机自主飞行系统
CN105120230A (zh) * 2015-09-15 2015-12-02 成都时代星光科技有限公司 无人机图像监控和传输系统
CN105242684A (zh) * 2015-10-15 2016-01-13 杨珊珊 一种伴随拍摄飞行器的无人机航拍系统及方法
CN205353774U (zh) * 2015-10-15 2016-06-29 杨珊珊 一种伴随拍摄飞行器的无人机航拍系统
CN205581646U (zh) * 2016-03-24 2016-09-14 天津中翔腾航科技股份有限公司 无人机电力巡检图像采集及处理系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8779944B2 (en) * 2009-02-20 2014-07-15 Appareo Systems, Llc Optical image monitoring system and method for vehicles
CN103295225A (zh) * 2013-04-10 2013-09-11 苏州大学 弱光照条件下的列车转向架边缘检测方法
CN103941746A (zh) * 2014-03-29 2014-07-23 国家电网公司 无人机巡检图像处理系统及方法
CN104484876A (zh) * 2014-12-05 2015-04-01 中国海洋大学 基于自动阈值分割的水产品寄生虫紫外荧光成像检测方法
CN104765360A (zh) * 2015-03-27 2015-07-08 合肥工业大学 一种基于图像识别的无人机自主飞行系统
CN105120230A (zh) * 2015-09-15 2015-12-02 成都时代星光科技有限公司 无人机图像监控和传输系统
CN105242684A (zh) * 2015-10-15 2016-01-13 杨珊珊 一种伴随拍摄飞行器的无人机航拍系统及方法
CN205353774U (zh) * 2015-10-15 2016-06-29 杨珊珊 一种伴随拍摄飞行器的无人机航拍系统
CN205581646U (zh) * 2016-03-24 2016-09-14 天津中翔腾航科技股份有限公司 无人机电力巡检图像采集及处理系统

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
JINLONG_ZHOU_COOL: "Matlab标定工具箱进行摄像机标定", 《网易博客》 *
刘攀 等: "复杂光照条件下的通用车牌定位系统的研究与实现", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》 *
孙一林 等: "《JAVA程序设计案例教程》", 30 June 2016 *
张涛 等: "《MATLAB图像处理编程与应用》", 30 April 2014, 机械工业出版社 *
禹思敏: "《信息论、编码及应用》", 31 March 2012, 西安电子科技大学出版社 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108388838A (zh) * 2018-01-26 2018-08-10 重庆邮电大学 无人机对地人群监控系统及监控方法
CN108388838B (zh) * 2018-01-26 2021-07-09 重庆邮电大学 无人机对地人群监控系统及监控方法
CN108447041A (zh) * 2018-01-30 2018-08-24 中国航天电子技术研究院 一种基于增强学习的多源图像融合方法
CN108447041B (zh) * 2018-01-30 2020-12-15 中国航天电子技术研究院 一种基于增强学习的多源图像融合方法
CN111386507A (zh) * 2019-02-01 2020-07-07 深圳市大疆创新科技有限公司 数据处理方法、无人机、移动设备及系统
CN110262560A (zh) * 2019-07-19 2019-09-20 武汉理工大学 一种面向机耕农场的监察搁荒系统
CN111445455A (zh) * 2020-03-26 2020-07-24 北京润科通用技术有限公司 一种图像采集方法及装置
CN111445455B (zh) * 2020-03-26 2023-04-07 北京润科通用技术有限公司 一种图像采集方法及装置

Similar Documents

Publication Publication Date Title
CN106444849A (zh) 一种基于图像识别的无人机自主飞行系统
CN109270534B (zh) 一种智能车激光传感器与相机在线标定方法
CN109579843B (zh) 一种空地多视角下的多机器人协同定位及融合建图方法
CN108401461B (zh) 三维建图方法、装置、系统、云端平台、电子设备和计算机程序产品
Levinson et al. Traffic light mapping, localization, and state detection for autonomous vehicles
US20200146203A1 (en) Geographic coordinate based setting adjustment for agricultural implements
US20200240792A1 (en) Method and apparatus for generating driving path
CN111507166A (zh) 通过一起使用照相机和雷达来学习cnn的方法及装置
CN105139350A (zh) 一种无人机侦察图像地面实时重建处理系统
CN117310739A (zh) 在可移动物体之间共享绘图数据的技术
CN110853037A (zh) 一种基于球面投影的轻量化彩色点云分割方法
CN111596674A (zh) 无人机的降落定位方法、装置及无人机巢
CN110718137B (zh) 目标物密度分布地图的构建方法及装置、终端、移动装置
CN110832494A (zh) 一种语义生成方法、设备、飞行器及存储介质
CN110537197A (zh) 图像处理装置、生长调查图像创建系统以及程序
CN110806198A (zh) 基于遥感图像的目标定位方法、装置以及控制器和介质
CN106790429A (zh) 基于云计算的智能楼宇管控系统
CN112991440B (zh) 车辆的定位方法和装置、存储介质和电子装置
Nahar et al. Autonomous UAV forced graffiti detection and removal system based on machine learning
CN104820435A (zh) 基于智能手机与双目视觉的四旋翼运动目标追踪系统和方法
CN104268884A (zh) 一种基于车联网的车道偏离预警的标定系统和方法
US9639958B2 (en) Synthetic colorization of real-time immersive environments
US20210142096A1 (en) Landscape video stream compression using computer vision techniques
CN112926415A (zh) 一种行人避让系统和行人监测方法
CN116013067A (zh) 车辆数据处理方法、处理器及服务器

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170222

RJ01 Rejection of invention patent application after publication