CN106682592B - 一种基于神经网络方法的图像自动识别系统及方法 - Google Patents

一种基于神经网络方法的图像自动识别系统及方法 Download PDF

Info

Publication number
CN106682592B
CN106682592B CN201611123652.XA CN201611123652A CN106682592B CN 106682592 B CN106682592 B CN 106682592B CN 201611123652 A CN201611123652 A CN 201611123652A CN 106682592 B CN106682592 B CN 106682592B
Authority
CN
China
Prior art keywords
aerial vehicle
unmanned aerial
image
target
communication component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611123652.XA
Other languages
English (en)
Other versions
CN106682592A (zh
Inventor
王弘尧
王汉洋
刘鑫
林宏健
苏可元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Giai Intelligent Technology Co ltd
Original Assignee
Beijing Giai Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Giai Intelligent Technology Co ltd filed Critical Beijing Giai Intelligent Technology Co ltd
Priority to CN201611123652.XA priority Critical patent/CN106682592B/zh
Publication of CN106682592A publication Critical patent/CN106682592A/zh
Application granted granted Critical
Publication of CN106682592B publication Critical patent/CN106682592B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/12Target-seeking control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Remote Sensing (AREA)
  • Artificial Intelligence (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Game Theory and Decision Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种基于神经网络方法的图像自动识别系统及方法,系统包括了:无人飞行器、后台控制平台和/或飞行器远端中控装置,可以运用到比如:设备检修、路况监控、大范围定位目标等领域中,从而减少成本和/或提高效率。通过所述无人飞行器采集实时场景中的图像,通过飞行器远端中控装置,对所述无人飞行器进行自动/人工远程控制,通过后台控制平台处理大规模数据,计算识别出图像内容,并完成多种作业目标:场景监控、场景预警报警、场景三维重建、场景识别、目标物体识别或者目标物体追踪等等。本系统能够根据场景进行灵活部署。此外,通过无人飞行器实现了不依赖/依赖于辅助数据的全自动场景扫描及三维重建。

Description

一种基于神经网络方法的图像自动识别系统及方法
技术领域
本发明涉及图像识别和无人机领域,特别涉及一种基于神经网络方法的图像自动识别系统及方法。
背景技术
在过去的数年中,各种看似科幻的概念(如智慧城市,全息投影等)只存在于电影、游戏场景中。随着各种计算设备的运算性能的提升、功耗的降低、新型计算架构的发明,以及计算机软件方面的不断创新、改进,数学方面计算技巧的发现等,使得数年前只存在于科幻场景以及人们想想中的各种场景以及技术逐渐有了成为现实的可能性。
智慧城市,就是运用信息和通信技术手段感测、分析、整合城市运行核心系统的各项关键信息,从而对包括民生、环保、公共安全、城市服务、工商业活动在内的各种需求做出智能响应。智慧城市的建设在国内外许多地区已经展开,并取得了一定成果,国内的如智慧上海、智慧双流;国外如新加坡的“智慧国计划”、韩国的“U-City计划”等等。而目前智慧城市中通信服务能力欠缺、无法与物联网结合。
全息投影技术(front-projected holographic display)也称虚拟成像技术,是利用干涉和衍射原理记录并再现物体真实的三维图像的技术。全息投影技术不仅可以产生立体的空中幻像,还可以使幻像与表演者产生互动。
中国发明专利201410187080.6,基于北斗定位的空地一体城市生态文明管理系统,采用载有北斗卫星导航定位技术终端设备的卫星、无人机、车辆等所采集的卫星影像、低空航拍影像、车载激光扫描、车载视频摄像、地面定点拍照/摄像数据,并通过以上多种方式快速完整地获取大尺度场景的二维纹理图像和三维点云数据。需要基于北斗卫星定位,以及车载激光扫描、车载视频摄像,装置灵活性较差,需要依赖GIS信息,不适合智慧城市的不同领域的部署。
发明内容
本发明要解决的技术问题是,如何通过无人飞行器在短时间内采集/跟踪的设定目标,实现场景重建和预警的应用部署系统。
解决上述技术问题,本发明提供了基于神经网络方法的图像自动识别系统,包括:无人飞行器和后台控制平台,
所述无人飞行器包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息完成作业目标;
所述无人飞行器/后台控制平台上采用基于神经网络的图像自动识别方法识别出所述目标物体。
本发明中还公开了一种基于神经网络方法的图像自动识别系统,包括:无人飞行器、后台控制平台以及飞行器远端中控装置,
所述无人飞行器包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;
所述飞行器远端中控装置包括第二通信组件与所述无人飞行器中的第一通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;
所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。
更进一步,所述无人飞行器还包括:一机载高性能计算模块,所述机载高性能计算模块用以在所述无人飞行器作业过程中进行实时运算,所述实时运算至少搭载基于神经网络的图像自动识别算法。
更进一步,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置缓存,当采集作业完成后通过第二通信组件交由后台控制平台中配备的高性能集群计算模块进行处理,所述处理过程至少包括采用基于神经网络的图像自动识别算法。
更进一步,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置中的高性能集群/单个计算模块进行处理,述处理过程至少包括采用基于神经网络的图像自动识别算法。
更进一步,所述无人飞行器为:单机无人飞行器或由多个无人飞行器机组成的飞行器机群,根据不同的作业目标,通过所述飞行器远端中控装置控制所述飞行器机群和/或单机无人飞行器,
所述飞行器远端中控装置还包括:一监控及控制交互接口,用以通过人工在远端根据所述飞行器实时返回的状态信息和/或信息处理结果,手动控制所述飞行器机群和/或单机无人飞行器。
更进一步,所述无人飞行器还包括:图像传感器、声音传感器、红外传感器、距离传感器、机载信息处理模块以及监控状态传感器,
所述机载信息处理模块与所述图像传感器连接,用以接收所述无人飞行器采集的图像信息;
所述机载信息处理模块与所述声音传感器连接,用以接收所述无人飞行器采集的声音信号;
所述机载信息处理模块分别与所述红外传感器和所述距离传感器连接,用以接收所述无人飞行器通过红外检测得到的测量距离值;
所述机载信息处理模块与所述监控状态传感器连接,用以接收所述无人飞行器的飞行状态数据传递至所述机载信息处理模块。
更进一步,所述后台控制平台还包括:第一处理模块、第一存储模块以及信息报告/控制接口,
所述第一处理模块,用以根据识别的的图像处理作业目标;
所述第一存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;
以及,一高性能集群计算模块,用以对图像信息进行实时计算和识别,
所述作业目标为:场景监控、场景预警报警、场景三维重建、场景识别、目标物体识别、目标物体追踪中的一种或者多种。
更进一步,所述飞行器远端中控装置还包括:第二处理模块、第二存储模块,
所述第二处理模块,用以根据作业目标产生一用以控制所述无人飞行器的信息调度数据,
所述第二存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;
以及,一高性能集群/单个计算模块,用以对图像信息进行实时计算和识别。
基于上述,本发明还提供了如所述的图像自动识别系统上实现的一种基于神经网络方法的图像自动识别方法,根据实际场景选择进行部署:
将所述无人飞行器部署为:包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;
或者,通过将所述飞行器远端中控装置部署为:包括第二通信组件与所述无人飞行器中的第二通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;无人飞行器的自动控制;
以及,在所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。
本发明的有益效果:
1)本发明中的基于神经网络方法的图像自动识别系统由于包括了:无人飞行器、后台控制平台和/或飞行器远端中控装置,可以运用到比如:设备检修、路况监控、大范围定位目标等领域中,从而减少成本和/或提高效率。通过所述无人飞行器采集实时场景中的图像,通过飞行器远端中控装置,对所述无人飞行器进行自动/人工远程控制,通过后台控制平台处理大规模数据,计算识别出图像内容,并完成多种作业目标:场景监控、场景预警报警、场景三维重建、场景识别、目标物体识别或者目标物体追踪等等。
此外,借助无人飞行器,还将能够快速上升到数十米的高空、离岸数公里的海面及其他极端地理位置采集信息,而传统人力达到这一目的很多情况下会花费相对于采用无人飞行器数倍的时间,甚至是几乎难以完成的。将计算机自动识别、检测的数据,用于无人飞行器自动/半自动控制,以达到无人飞行器全自动目标追踪、实现不依赖于辅助数据(如GIS信息等)全自动场景扫描及三维重建。
2)本申请中由无人飞行器、后台控制平台以及飞行器远端中控装置组成的图像自动识别系统,能够可以根据系统的实际应用场景灵活添加或去除,从而使得部署工作更加灵活。
3)本申请中的高性能计算模块,能够满足不同场景下的实时性数据要求,比如在所述无人飞行器中的机载高性能计算模块/在后台控制平台中配备的高性能集群计算模块/在飞行器远端中控装置中的高性能集群/单个计算模块,从而满足针对超大规模数据的非实时性需求、高性能实时运算、实时性高性运算等不同配置需求。
4)针对中小型环境,可以考虑将远端控制中心与系统核心平台合并的方案,以简化系统复杂度、优化工作流。
附图说明
图1是本发明一实施例中的图像自动识别系统结构示意图;
图2是本发明另一实施例中的图像自动识别系统结构示意图;
图3是图2中的无人飞行器的示意图;
图4是图2中的飞行器远端中控装置的示意图;
图5是图2中的后台控制平台的示意图;
图6(a)-图6(b)是单机和集群的比较示意图;
图7是本发明中的拓扑示意图;
图8是本发明一优选实施例中的图像自动识别系统结构示意图。
具体实施方式
现在将参考一些示例实施例描述本公开的原理。可以理解,这些实施例仅出于说明并且帮助本领域的技术人员理解和实施例本公开的目的而描述,而非建议对本公开的范围的任何限制。在此描述的本公开的内容可以以下文描述的方式之外的各种方式实施。
如本文中所述,术语“包括”及其各种变体可以被理解为开放式术语,其意味着“包括但不限于”。术语“基于”可以被理解为“至少部分地基于”。术语“一个实施例”可以被理解为“至少一个实施例”。术语“另一实施例”可以被理解为“至少一个其它实施例”。
在本申请中的通信组件可以采用COFDM(信道编码的正交频分复用)全数字调制解调技术及MPEG2/MPEG4/H.264数字压缩编码技术,上述技术具备非视距、绕射和良好穿透能力COFDM调制技术具备多径分集能力,抗多径干扰能力强,适应在城区、山地、建筑物内外等不能通视及有阻挡的环境中应用。
以下实施例中以电力巡线为列,对本申请的内容进行说明,可以理解本申请中的基于神经网络方法的图像自动识别系统的技术方案。
随着无人机航拍技术的发展,遥感技术的不断成熟,可以利用无人机获取极为清晰的数据,并且根据数据进行分析电路情况,这与人工巡检相比,完全是从手动流转向了技术流的节奏。而随之而来的是时间的节约,人们不用浪费大量的时间在巡线的途中,节约下来的时间就完全可以用到真正的线路维护上去,线路安全也将得到提高。借助无人飞行器,还将能够快速上升到数十米的高空、离岸数公里的海面及其他极端地理位置采集信息,将计算机自动识别、检测的数据,用于无人飞行器自动/半自动控制,以达到无人飞行器全自动目标追踪、实现不依赖于辅助数据(如GIS信息等)全自动场景扫描及三维重建。
图1是本发明一实施例中的图像自动识别系统结构示意图;一种基于神经网络方法的图像自动识别系统,包括:无人飞行器1和后台控制平台3,所述无人飞行器1包括第一通信组件17与所述后台控制平台3中的第三通信组件33建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息完成作业目标;所述无人飞行器/后台控制平台上采用基于神经网络的图像自动识别方法识别出所述目标物体。该系统配置简单、为实时性计算提供了保障,优化工作流。
图2是本发明另一实施例中的图像自动识别系统结构示意图;一种基于神经网络方法的图像自动识别系统,包括:无人飞行器1、后台控制平台3以及飞行器远端中控装置2,所述无人飞行器1包括第一通信组件17与所述后台控制平台中的第三通信组件33建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;所述飞行器远端中控装置包括第二通信组件23与所述无人飞行器1中的第一通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;无人飞行器的自动控制;所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。
通过飞行器远端中控装置2对无人飞行器1上的信息处理和自动化控制,控制方式取决于预设或来自远端平台的控制信号,具体控制操作包括但不限于起飞、降落、转向、拍照等操作,取决于飞行器状态模块反馈的信息、任务目标及部分传感器信息处理结果。无人飞行器1直接接受远端飞行器远端中控装置2的自动化控制,飞行器状态传感器信息不通过机载信息处理系统,而直接通过无人飞行器1中的通讯组件传输到飞行器远端中控装置2,适用于无人飞行器机群作业以及不会因作业目标而改变作业路径的情形。
本系统能偶针对超大规模数据的非实时性需求,可以将采用飞行器数据采集,远端平台暂存数据,数据作业采集作业完成后,交由数据处理核心平台配备的完整的高性能运算机群进行数据的处理工作。作为本实施例中的优选,所述无人飞行器1还包括:一机载高性能计算模块,所述机载高性能计算模块用以在所述无人飞行器作业过程中进行实时运算,所述实时运算至少搭载基于神经网络的图像自动识别算法。比如,飞行器作业过程中,需要进行少量高性能实时运算:此时将在无人机上添加机载高性能计算模块或者由后台计算部分实时处理。作为本实施例中的优选,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置中的高性能集群/单个计算模块进行处理,述处理过程至少包括采用基于神经网络的图像自动识别算法。比如,飞行器作业过程中,需要进行高性能运算,若实时性要求不强,则采用在远端平台中使用高性能集群/单个计算模块,根据实际需求,一定程度上可自由选取高性能运算单例或机群以满足运算需求。又比如,若需要进行高性能运算且对实时性由一定要求,可以采取机载高性能模块,极端情况下可采用机载精简的高性能机群以达到一定的实时性要求,另外在远端平台使用高性能集群/单个计算模块。作为本实施例中的优选,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置缓存,当采集作业完成后通过第二通信组件交由后台控制平台中配备的高性能集群计算模块进行处理,所述处理过程至少包括采用基于神经网络的图像自动识别算法。针对超大规模数据的非实时性需求,将采用飞行器数据采集,远端平台暂存数据,数据作业采集作业完成后,交由数据处理核心平台配备的高性能集群计算模块进行数据的处理工作。
上述的基于神经网络的图像自动识别算法,可以采用《基于人工神经网络的图像识别和分类》,成都理工大学,20100501中提到的部分方法。但是为了实现高性能计算模块的实时性和高性能,在本实施例中优选采用下述的基于神经网络的电力巡线图像自动识别方法,包括如下步骤:
步骤S1获取电力巡线时采集的输入图像,将所述输入图像输入到卷积神经网络;本领域技术人员能够明了,所述卷积神经网络,包括但不限于:由一些滤波器组和一些非线性响应函数构成网络中的层;网络中的每个层又用于筛选和匹配一个层次的特征。
在所述步骤S1中包括如下的预处理步骤:将图像的像素信息直接转换为数值数据输入神经网络。
步骤S1-1在所述卷积神经网络中的通过卷积滤波器对特征图像FeatureMAP进行卷积,得到特征分量;所述步骤S1-1中的特征分量为一组线性相关或线性无关二维向量组,通过在所述卷积神经网络进行学习并更新。
步骤S1-2根据非线性响应函数进行采样,得到特征响应;所述步骤S1-2中的特征响应进一步包括:将所述特征向量经过激活函数后得到的向量组。所述激活函数包括:S函数、指数函数、幂函数。
步骤S1-3对步骤步骤S1-1~步骤S1-2进行递归,提取得到预期被圈选物体的高层特征,及对应特征的加权值;
步骤S1-4根据得到的高层特征,对所有高层特征加权求和,得到特征向量组;
在上述卷积网络运行过程中,每个卷积层与输入图像卷积后,提取出各个特征的分量;提取后再用非线性响应函数处理,得到这一层的特征响应。将该特征响应以同样的方式输入下一层,递归地提取特征。卷积神经网络能够提取图像中很高层次的特征,比如人,车。这些特征按不同滤波器的输出组合到一个特征向量的不同维度上,形成特征向量图。由于物体的平移操作很大程度上并不影响物体的性质判别和除平移因素外的圈画过程,因此卷积操作很好的适应了这一特点,并大量的削减了训练所需的计算量。
步骤S2利用1-4得到的特征向量组,将输入图像依次应用该特征向量组中的特征向量,得到目标类型和目标位置的选框的数字描述;在所述步骤2)中还包括:根据上一步得到的特征向量组,将目标输入图片按照同样的方式输入所述神经网络,并计算出该图像的特征向量组,对训练得到的特征向量组与所述目标输入图片经过计算后得到的特征向量组进行比对。
目标类型和目标位置,用以确定电力巡线中的实现感兴趣目标的检测定位。
步骤S3通过对目标输入图片进行卷积操作得到目标物体、目标位置的选框,并得到置信度最高的预期被圈选的物体和位置。
从特征向量图的每个点数据中,用一个训练好的全连接神经网络进行目标类型和位置的判别提取。由于实际图像中的兴趣物体个数是不定的,而且很大一块区域(对应着很多特征向量)是没有兴趣物体的,这些区域所对应的特征向量会被标为“背景”标签。全连接神经网络和卷积神经网络相似,会根据其训练时得到的经验,提取出特征向量中的有用信息,并构造选框和最可能的兴趣物体类型。
图3是图2中的无人飞行器的示意图;所述无人飞行器1还包括:图像传感器11、声音传感器12、红外传感器13、距离传感器14、机载信息处理模块16以及监控状态传感器18,所述机载信息处理模块16与所述图像传感器11连接,用以接收所述无人飞行器采集的图像信息;所述机载信息处理模块16与所述声音传感器12连接,用以接收所述无人飞行器采集的声音信号;所述机载信息处理模块16分别与所述红外传感器13和所述距离传感器14连接,用以接收所述无人飞行器通过红外检测得到的测量距离值;所述机载信息处理模块16与所述监控状态传感器18连接,用以接收所述无人飞行器的飞行状态数据传递至所述机载信息处理模块。图像传感器11可采用COMS/CCD镜头。声音传感器12可以记录跟踪目标的声音或者环境声音。红外传感器13与距离传感器14配合,主要进行障碍物距离测算和飞行路径控制。监控状态传感器18可以是陀螺仪等监控状态用以监控飞行器状态的传感器。所述机载信息处理模块16可以理解,为本申请中的机载信息处理模块16是指无人机系统MUC,多轴飞行器由遥控,飞控,动力系统、航拍等不同模块构成。借助无人飞行器,还将能够快速上升到数十米的高空、离岸数公里的海面及其他极端地理位置采集信息,而传统人力达到这一目的很多情况下会花费相对于采用无人飞行器数倍的时间,甚至是几乎难以完成的。将计算机自动识别、检测的数据,用于无人飞行器自动/半自动控制,以达到无人飞行器全自动目标追踪、实现借助或不借助GIS于辅助数据(如GIS信息等)全自动场景扫描及三维重建。
如图4所示是图2中的飞行器远端中控装置的示意图;所述飞行器远端中控装置还包括:第二处理模块、第二存储模块,所述第二处理模块,用以根据作业目标产生一用以控制所述无人飞行器的信息调度数据,所述第二存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;以及,一高性能集群/单个计算模块,用以对图像信息进行实时计算和识别。其中第二处理模块即信息及调度处理模块22,第二存储模块即储存系统24,储存系统24可根据不同场景进行灵活配置。
如图5所示是图2中的后台控制平台的示意图;所述后台控制平台还包括:第一处理模块、第一存储模块以及信息报告/控制接口,所述第一处理模块,用以根据识别的的图像处理作业目标;所述第一存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;以及,一高性能集群计算模块,用以对图像信息进行实时计算和识别,所述作业目标为:场景监控、场景预警报警、场景三维重建、场景识别、目标物体识别、目标物体追踪中的一种或者多种。所述第一处理模块即是图5中的处理模块32,第一存储模块即是图5中的储存系统31,信息报告/控制接口即是信息报告即控制平台34。通过所述信息报告即控制平台34,可以提供信息报告/控制接口,比如上传、同步文件、参数等。
在一些实施例中,如图6(a)-图6(b)所示是单机和集群的比较示意图;所述无人飞行器为:单机无人飞行器或由多个无人飞行器机组成的飞行器机群,根据不同的作业目标,通过所述飞行器远端中控装置控制所述飞行器机群和/或单机无人飞行器,此外,所述飞行器远端中控装置还包括:一监控及控制交互接口,用以通过人工在远端根据所述飞行器实时返回的状态信息和/或信息处理结果,手动控制所述飞行器机群和/或单机无人飞行器。
图7是本发明中的拓扑示意图;一种基于神经网络方法的图像自动识别系统,包括:无人飞行器、后台控制平台以及飞行器远端中控装置,所述无人飞行器包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;所述飞行器远端中控装置包括第二通信组件与所述无人飞行器中的第一通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;无人飞行器的自动控制;所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。作为本实施例中的优选,所述无人飞行器为:单机无人飞行器或由多个无人飞行器机组成的飞行器机群,根据不同的作业目标,通过所述飞行器远端中控装置控制所述飞行器机群和/或单机无人飞行器,可以根据场景大小,灵活进行配置。
图8是本发明一优选实施例中的图像自动识别系统结构示意图;根据实际场景选择进行部署:将所述无人飞行器部署为:包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;或者,通过将所述飞行器远端中控装置部署为:包括第二通信组件与所述无人飞行器中的第二通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;无人飞行器的自动控制;以及,在所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。本实施例中的图像自动识别系统,主要包括:无人飞行器1、后台控制平台3以及飞行器远端中控装置2,所述无人飞行器包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;所述飞行器远端中控装置包括第二通信组件与所述无人飞行器中的第一通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。本申请中由无人飞行器、后台控制平台以及飞行器远端中控装置组成的图像自动识别系统,能够可以根据系统的实际应用场景灵活添加或去除,从而使得部署工作更加灵活。
在本实施例中,所述无人飞行器还包括:一机载高性能计算模块,所述机载高性能计算模块用以在所述无人飞行器作业过程中进行实时运算,所述实时运算至少搭载基于神经网络的图像自动识别算法。在本实施例中,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置缓存,当采集作业完成后通过第二通信组件交由后台控制平台中配备的高性能集群计算模块进行处理,所述处理过程至少包括采用基于神经网络的图像自动识别算法。在本实施例中,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置中的高性能集群/单个计算模块进行处理,述处理过程至少包括采用基于神经网络的图像自动识别算法。在本实施例中,所述无人飞行器为:单机无人飞行器或由多个无人飞行器机组成的飞行器机群,根据不同的作业目标,通过所述飞行器远端中控装置控制所述飞行器机群和/或单机无人飞行器,所述飞行器远端中控装置还包括:一监控及控制交互接口,用以通过人工在远端根据所述飞行器实时返回的状态信息和/或信息处理结果,手动控制所述飞行器机群和/或单机无人飞行器。本申请中的高性能计算模块,能够满足不同场景下的实时性数据要求,比如在所述无人飞行器中的机载高性能计算模块/在后台控制平台中配备的高性能集群计算模块/在飞行器远端中控装置中的高性能集群/单个计算模块,从而满足针对超大规模数据的非实时性需求、高性能实时运算、实时性高性运算等不同配置需求。
作为本实施例中的优选,所述无人飞行器还包括:图像传感器、声音传感器、红外传感器、距离传感器、机载信息处理模块以及监控状态传感器,所述机载信息处理模块与所述图像传感器连接,用以接收所述无人飞行器采集的图像信息;所述机载信息处理模块与所述声音传感器连接,用以接收所述无人飞行器采集的声音信号;所述机载信息处理模块分别与所述红外传感器和所述距离传感器连接,用以接收所述无人飞行器通过红外检测得到的测量距离值;所述机载信息处理模块与所述监控状态传感器连接,用以接收所述无人飞行器的飞行状态数据传递至所述机载信息处理模块。
作为本实施例中的优选,可以部署一个飞行器远端中控装置2,用以连接1个无人飞行器1或者由多个无人飞行器1组成的飞行器集群。
作为本实施例中的优选,可以部署一个后台控制平台3与多个飞行器远端中控装置2连接,或者直接通过非即时方式与无人飞行器1进行数据交换。
虽然本公开以具体结构特征和/或方法动作来描述,但是可以理解在所附权利要求书中限定的本公开并不必然限于上述具体特征或动作。而是,上述具体特征和动作仅公开为实施权利要求的示例形式。

Claims (5)

1.一种基于神经网络方法的图像自动识别系统,其特征在于,包括:无人飞行器、后台控制平台以及飞行器远端中控装置,
所述无人飞行器包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;
所述飞行器远端中控装置包括第二通信组件与所述无人飞行器中的第一通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;
所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体;
所述神经网络的图像自动识别方法,包括:
步骤S1-1在卷积神经网络中的通过卷积滤波器对特征图像进行卷积,得到特征分量;
步骤S1-2根据非线性响应函数进行采样,得到特征响应;所述特征响应包括:将特征向量经过激活函数后得到的向量组;
步骤S1-3对步骤步骤S1-1~步骤S1-2进行递归,提取得到预期被圈选物体的高层特征,及对应特征的加权值;
步骤S1-4根据得到的高层特征,对所有高层特征加权求和,得到特征向量组;
步骤S2利用步骤S1-4得到的特征向量组,将输入图像依次应用该特征向量组中的特征向量,得到目标类型和目标位置的选框的数字描述;所述目标类型和目标位置,用以确定电力巡线中的实现感兴趣目标的检测定位;
步骤S 3通过对目标输入图片进行卷积操作得到目标物体、目标位置的选框,并得到置信度最高的预期被圈选的物体和位置;
所述无人飞行器还包括:图像传感器、声音传感器、红外传感器、距离传感器、机载信息处理模块以及监控状态传感器,
所述机载信息处理模块与所述图像传感器连接,用以接收所述无人飞行器采集的图像信息;
所述机载信息处理模块与所述声音传感器连接,用以接收所述无人飞行器采集的声音信号;
所述机载信息处理模块分别与所述红外传感器和所述距离传感器连接,用以接收所述无人飞行器通过红外检测得到的测量距离值;
所述机载信息处理模块与所述监控状态传感器连接,用以接收所述无人飞行器的飞行状态数据传递至所述机载信息处理模块;
所述后台控制平台还包括:第一处理模块、第一存储模块以及信息报告/控制接口,
所述第一处理模块,用以根据识别的的图像处理作业目标;
所述第一存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;
以及,一高性能集群计算模块,用以对图像信息进行实时计算和识别,
所述作业目标为:场景监控、场景预警报警、场景三维重建、场景识别、目标物体识别、目标物体追踪中的一种或者多种;
所述飞行器远端中控装置还包括:第二处理模块、第二存储模块,
所述第二处理模块,用以根据作业目标产生一用以控制所述无人飞行器的信息调度数据,
所述第二存储模块,用以根据具体作业目标选择是否配置及装载容量,并储存上述作业目标的计算结果;
以及,一高性能集群/单个计算模块,用以对图像信息进行实时计算和识别;
根据实际场景选择进行部署:
将所述无人飞行器部署为:包括第一通信组件与所述后台控制平台中的第三通信组件建立连接,用以处理从所述无人飞行器从不同场景中采集、识别得到目标物体的图像信息,并根据目标图像信息对场景进行三维重建,并在三维场景中识别出目标物体、定位所述目标物体及追踪所述目标物体;
或者,通过将所述飞行器远端中控装置部署为:包括第二通信组件与所述无人飞行器中的第二通信组件连接,用以向所述无人飞行器发出控制信号,所述控制信号中至少包括所述无人飞行器的任务目标和采集反馈信息;无人飞行器的自动控制;
以及,在所述无人飞行器、后台控制平台或者飞行器远端中控装置上采用神经网络的图像自动识别方法识别出所述目标物体。
2.根据权利要求1所述的图像自动识别系统,其特征在于,所述无人飞行器还包括:一机载高性能计算模块,所述机载高性能计算模块用以在所述无人飞行器作业过程中进行实时运算,所述实时运算至少搭载基于神经网络的图像自动识别算法。
3.根据权利要求1所述的图像自动识别系统,其特征在于,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置缓存,当采集作业完成后和/实时进行通过第二通信组件交由后台控制平台中配备的高性能集群计算模块进行处理,处理过程至少包括采用基于神经网络的图像自动识别算法。
4.根据权利要求1所述的图像自动识别系统,其特征在于,所述无人飞行器将采集的目标物体的图像信息,通过所述第一通信组件发送至第二通信组件,并由所述飞行器远端中控装置中的高性能集群/单个计算模块进行处理,处理过程至少包括采用基于神经网络的图像自动识别算法。
5.根据权利要求1所述的图像自动识别系统,其特征在于,所述无人飞行器为:单机无人飞行器或由多个无人飞行器机组成的飞行器机群,根据不同的作业目标,通过所述飞行器远端中控装置控制所述飞行器机群和/或单机无人飞行器,
所述飞行器远端中控装置还包括:一监控及控制交互接口,用以通过人工在远端根据飞行器实时返回的状态信息和/或信息处理结果,手动控制所述飞行器机群和/或单机无人飞行器。
CN201611123652.XA 2016-12-08 2016-12-08 一种基于神经网络方法的图像自动识别系统及方法 Active CN106682592B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611123652.XA CN106682592B (zh) 2016-12-08 2016-12-08 一种基于神经网络方法的图像自动识别系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611123652.XA CN106682592B (zh) 2016-12-08 2016-12-08 一种基于神经网络方法的图像自动识别系统及方法

Publications (2)

Publication Number Publication Date
CN106682592A CN106682592A (zh) 2017-05-17
CN106682592B true CN106682592B (zh) 2023-10-27

Family

ID=58869182

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611123652.XA Active CN106682592B (zh) 2016-12-08 2016-12-08 一种基于神经网络方法的图像自动识别系统及方法

Country Status (1)

Country Link
CN (1) CN106682592B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107451527A (zh) * 2017-06-29 2017-12-08 广东容祺智能科技有限公司 一种基于无人机的大型公共场所搜寻系统
WO2019006586A1 (en) * 2017-07-03 2019-01-10 SZ DJI Technology Co., Ltd. IMAGE TARGET TRACKING BASED ON A NEURONAL NETWORK BY AN AIR VEHICLE
CN107481223B (zh) * 2017-07-21 2020-03-24 中车青岛四方机车车辆股份有限公司 一种接线状态图像自动识别的方法及装置
CN108206941A (zh) * 2017-09-27 2018-06-26 深圳市商汤科技有限公司 目标跟踪方法、系统、终端设备及存储介质
CN108133238B (zh) * 2017-12-29 2020-05-19 国信优易数据有限公司 一种人脸识别模型训练方法和装置及人脸识别方法和装置
EP3528432B1 (en) * 2018-02-16 2020-09-02 Nokia Solutions and Networks Oy Method and apparatus for monitoring a telecommunication network
CN109008909B (zh) * 2018-07-13 2024-01-26 宜宾学院 一种低功耗胶囊内窥镜图像采集及三维重建系统
CN108880664A (zh) * 2018-07-23 2018-11-23 北京邮电大学 一种灾害救援信息处理方法
CN109141250B (zh) * 2018-08-08 2020-08-04 深圳码隆科技有限公司 箱包尺寸测量方法、装置和箱包尺寸测量服务器
CN110349119B (zh) * 2019-05-27 2020-05-19 北京邮电大学 基于边缘检测神经网络的路面病害检测方法和装置
CN113474741A (zh) * 2019-12-26 2021-10-01 深圳市大疆创新科技有限公司 数据处理方法、装置、无人飞行器与飞行控制系统
CN112034857B (zh) * 2020-09-10 2023-10-31 北京信息科技大学 公共场所打喷嚏、咳嗽行为识别与消毒方法和系统
CN112348381A (zh) * 2020-11-12 2021-02-09 北京优云智翔航空科技有限公司 一种无人机设备调度数据的处理方法、装置以及服务器

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008039130A1 (de) * 2008-08-21 2010-02-25 Billy Hou Durch ein neurales Netzwerk gesteuertes automatisches Verfolgungs- und Erkennungssystem und Verfahren
CN102355574A (zh) * 2011-10-17 2012-02-15 上海大学 机载云台运动目标自主跟踪系统的图像稳定方法
CN104049625A (zh) * 2014-07-09 2014-09-17 华南农业大学 基于无人飞行器的物联网灌溉设施调控平台及方法
CN104090972A (zh) * 2014-07-18 2014-10-08 北京师范大学 用于三维城市模型检索的图像特征提取和相似性度量方法
CN104517122A (zh) * 2014-12-12 2015-04-15 浙江大学 一种基于优化卷积架构的图像目标识别方法
CN104777847A (zh) * 2014-01-13 2015-07-15 中南大学 基于机器视觉和超宽带定位技术的无人机目标追踪系统
WO2015131462A1 (zh) * 2014-03-07 2015-09-11 国家电网公司 一种用于无人机输电线路巡检的集中监控系统及监控方法
CN104978580A (zh) * 2015-06-15 2015-10-14 国网山东省电力公司电力科学研究院 一种用于无人机巡检输电线路的绝缘子识别方法
CN105184303A (zh) * 2015-04-23 2015-12-23 南京邮电大学 一种基于多模态深度学习的图像标注方法
CN105512628A (zh) * 2015-12-07 2016-04-20 北京航空航天大学 基于无人机的车辆环境感知系统及方法
CN105550701A (zh) * 2015-12-09 2016-05-04 福州华鹰重工机械有限公司 实时图像提取识别方法及装置
CN105700544A (zh) * 2016-04-08 2016-06-22 暨南大学 一种无人机光伏电站电气设备巡检系统及实现方法
CN105913604A (zh) * 2016-05-18 2016-08-31 中国计量大学 基于无人机的火灾发生测定方法及其装置
CN105929845A (zh) * 2016-05-18 2016-09-07 中国计量大学 基于无人机网络的河道巡航系统与巡航方法
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN106204639A (zh) * 2016-06-27 2016-12-07 开易(北京)科技有限公司 基于频域回归模型目标追踪方法、系统及高级驾驶辅助系统

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008039130A1 (de) * 2008-08-21 2010-02-25 Billy Hou Durch ein neurales Netzwerk gesteuertes automatisches Verfolgungs- und Erkennungssystem und Verfahren
CN102355574A (zh) * 2011-10-17 2012-02-15 上海大学 机载云台运动目标自主跟踪系统的图像稳定方法
CN104777847A (zh) * 2014-01-13 2015-07-15 中南大学 基于机器视觉和超宽带定位技术的无人机目标追踪系统
WO2015131462A1 (zh) * 2014-03-07 2015-09-11 国家电网公司 一种用于无人机输电线路巡检的集中监控系统及监控方法
CN104049625A (zh) * 2014-07-09 2014-09-17 华南农业大学 基于无人飞行器的物联网灌溉设施调控平台及方法
CN104090972A (zh) * 2014-07-18 2014-10-08 北京师范大学 用于三维城市模型检索的图像特征提取和相似性度量方法
CN104517122A (zh) * 2014-12-12 2015-04-15 浙江大学 一种基于优化卷积架构的图像目标识别方法
CN105184303A (zh) * 2015-04-23 2015-12-23 南京邮电大学 一种基于多模态深度学习的图像标注方法
CN104978580A (zh) * 2015-06-15 2015-10-14 国网山东省电力公司电力科学研究院 一种用于无人机巡检输电线路的绝缘子识别方法
CN105512628A (zh) * 2015-12-07 2016-04-20 北京航空航天大学 基于无人机的车辆环境感知系统及方法
CN105550701A (zh) * 2015-12-09 2016-05-04 福州华鹰重工机械有限公司 实时图像提取识别方法及装置
CN105700544A (zh) * 2016-04-08 2016-06-22 暨南大学 一种无人机光伏电站电气设备巡检系统及实现方法
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN105913604A (zh) * 2016-05-18 2016-08-31 中国计量大学 基于无人机的火灾发生测定方法及其装置
CN105929845A (zh) * 2016-05-18 2016-09-07 中国计量大学 基于无人机网络的河道巡航系统与巡航方法
CN106204639A (zh) * 2016-06-27 2016-12-07 开易(北京)科技有限公司 基于频域回归模型目标追踪方法、系统及高级驾驶辅助系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于三维场景的电力设施安全区域预警方法;彭斌;麻立群;潘坚跃;张元歆;陈希;;电子设计工程(10);71-73+77 *
基于视觉的四旋翼飞行器智能识别规划方法研究;杜轩;朱康;秦波;;三峡大学学报(自然科学版)(02);97-101 *

Also Published As

Publication number Publication date
CN106682592A (zh) 2017-05-17

Similar Documents

Publication Publication Date Title
CN106682592B (zh) 一种基于神经网络方法的图像自动识别系统及方法
Xiang et al. Mini-unmanned aerial vehicle-based remote sensing: Techniques, applications, and prospects
CN106356757B (zh) 一种基于人眼视觉特性的电力线路无人机巡检方法
Geraldes et al. UAV-based situational awareness system using deep learning
CN107667521B (zh) 个人感测无人机
CN105865454B (zh) 一种基于实时在线地图生成的无人机导航方法
CN103679674B (zh) 一种无人飞行器实时图像拼接方法及系统
US20180307921A1 (en) Image-Based Pedestrian Detection
CN110072749A (zh) 自主驾驶中交通动态与道路变化的检测
Marvasti et al. Cooperative lidar object detection via feature sharing in deep networks
CN109033245B (zh) 一种移动机器人视觉-雷达图像跨模态检索方法
CN109376660A (zh) 一种目标监测方法、装置及系统
CN112184628B (zh) 一种红外双波图像及云端预警的巡堤防汛查险系统及方法
CN114255407A (zh) 基于高分辨率的反无人机多目标识别和跟踪视频探测方法
CN110647170A (zh) 一种基于无人机的航标巡检装置与方法
CN113284144A (zh) 一种基于无人机的隧道检测方法及装置
CN105810023A (zh) 机场起落架收放自动监测系统及方法
CN103493472A (zh) 模块化的红外摄像机系统及方法
CN115908442A (zh) 一种无人机海洋监测用图像全景分割方法及模型搭建方法
WO2022107619A1 (ja) データ解析装置および方法、並びに、プログラム
WO2022107620A1 (ja) データ解析装置および方法、並びに、プログラム
CN106791780A (zh) 一种电子信息领域的无人机图像处理系统及处理方法
CN113050083A (zh) 一种基于点云的超宽带雷达人体姿态重构方法
CN114592411B (zh) 一种载体寄生式公路损坏智能巡查方法
WO2021149484A1 (ja) 画像生成装置、画像生成方法、および、プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant