CN108764456A - 机载目标识别模型构建平台、机载目标识别方法及设备 - Google Patents
机载目标识别模型构建平台、机载目标识别方法及设备 Download PDFInfo
- Publication number
- CN108764456A CN108764456A CN201810289335.8A CN201810289335A CN108764456A CN 108764456 A CN108764456 A CN 108764456A CN 201810289335 A CN201810289335 A CN 201810289335A CN 108764456 A CN108764456 A CN 108764456A
- Authority
- CN
- China
- Prior art keywords
- identification
- target
- airborne
- model
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种机载目标识别模型构建平台、机载目标识别方法及设备,机载目标识别模型构建平台,包括:存储服务器,用于将实测数据和特性数据存储至对应的分类训练数据集;训练服务器,用于将分类训练数据集中的每一个样本输入到深度学习网络,进行特征训练,当接收到生成指令时,为特征训练的结果生成机载目标识别模型;当接收到反向传播指令时,将特征训练的结果反向输入到深度学习网络,进行特征训练;识别服务器,用于对特征训练的结果进行识别测试,并针对识别测试结果,统计识别率,当识别率不小于预设的识别基准值时,发送模型生成指令,否则,发送反向传播指令。本发明提供的方案能够有效地提高机载目标识别的准确率。
Description
技术领域
本发明涉及图像目标识别技术领域,尤其涉及一种机载目标识别 模型构建平台、机载目标识别方法及设备。
背景技术
目前,在机载资源受限平台如无人机的下视目标识别中,基本上 是利用模板匹配方法通过人工进行辅助判别。模板匹配方法主要是利 用目标的特性构建特性模板,比如:以汽车的四个轮子为特征构建汽 车特性模板,以树木的树叶和枝干为特征构建树木特性模板等等,通 过将构建的特性模板与目标进行匹配,以确定目标。此传统方法的判 别准确率严重依赖于特征选择与特性建模的准确性,受到人工经验限 制。
因此,针对以上不足,需要提供一种能够提高识别准确率的机载 目标识别模型构建平台、机载目标识别方法及设备。
发明内容
本发明要解决的技术问题在于,针对现有技术中的缺陷,提供一 种能够提高识别准确率的机载目标识别模型构建平台、机载目标识别 方法及设备。
为了解决上述技术问题,本发明提供了一种机载目标识别模型构 建平台,包括:存储服务器、训练服务器及识别服务器,其中,
所述存储服务器,用于获取实测数据和特性数据,并将所述实测 数据和所述特性数据存储至对应的分类训练数据集;
所述训练服务器,用于将所述分类训练数据集中的每一个样本输 入到预先部署的深度学习网络,进行特征训练,当接收到所述生成指 令时,为特征训练的结果生成机载目标识别模型;当接收到所述反向 传播指令时,将特征训练的结果反向输入到所述深度学习网络,进行 特征训练;
所述识别服务器,用于对特征训练的结果进行识别测试,并针对 识别测试结果,统计识别率,当所述识别率不小于预设的识别基准值 时,发送模型生成指令给所述训练服务器,否则,发送反向传播指令 给所述训练服务器。
可选地,
所述深度学习网络,包括:多尺度目标检测网络;
所述训练服务器,进一步用于部署不同尺寸的卷积模型,针对每 一个所述分类训练数据集,利用不同尺寸的所述卷积模型对每一个样 本进行特征提取,将提取到的所述训练数据集中所有样本的特征输入 到所述多尺度目标检测网络,进行特征训练,以确定所述训练数据集 对应的初级目标识别模型,当接收到所述生成指令时,确定所述初级 目标识别模型为机载目标识别模型;当接收到所述反向传播指令时, 将所述初级目标识别模型及偏差通过反向传播的方式输入到所述多尺 度目标检测网络,进行特征训练;
所述识别服务器,进一步用于当所述识别率小于预设的识别基准 值时,计算初级目标识别模型的识别测试结果与预设的期望结果之间 的偏差,并发送所述偏差及反向传播指令给所述训练服务器。
可选地,
所述识别率,包括:识别查全率和识别查准率;
所述识别服务器,用于利用下述识别查全率计算公式和识别查准 率计算公式,分别统计识别查全率和识别查准率,当所述计识别查全 率不小于80%,且所述识别查准率不小于85%时,发送模型生成指令 给所述训练服务器,否则,发送反向传播指令给所述训练服务器;
识别查全率计算公式:
R=TP/(TP+FN)
识别查准率计算公式:
P=TP/(TP+FP)
其中,R表征识别查全率;P表征识别查准率;TP表征针对识别 测试结果来说,预测识别测试结果为正,实际识别测试结果为正的个 数;TN表征针对识别测试结果来说,预测识别测试结果为负,实际识 别测试结果为负的个数;FP表征针对识别测试结果来说,预测识别测 试结果为正,实际识别测试结果为负的个数;FN表征针对识别测试结 果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
可选地,
所述训练服务器,用于根据下述偏差计算公式,计算初级目标识 别模型的识别测试结果与预设的期望结果之间的偏差;
偏差计算公式:
Y=FP+FN
其中,Y表征偏差;FP表征针对识别测试结果来说,预测识别测 试结果为正的个数,实际识别测试结果为负;FN表征针对识别测试结 果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
本发明还提供了一种机载目标识别方法,其特征在于:利用上述 任一所述的外部机载目标识别模型构建平台构建机载目标识别模型, 将所述机载目标识别模型加载到至少三个嵌入式GPU;还包括:
通过一个嵌入式ARM型CPU获取外部发送的视频信息,并对所 述视频信息进行预处理;
按照预先在所述嵌入式ARM型CPU上设置的storm调度策略, 将预处理后的视频信息和任务分配给所述至少三个嵌入式GPU;
按照所述任务,每一个所述嵌入式GPU通过调用所述机载目标识 别模型的一部分对所述视频信息进行目标识别;
通过所述ARM型CPU对目标识别的结果进行汇总和存储。
可选地,
在所述将预处理后的视频信息分配给所述至少三个嵌入式GPU之 后,在所述每一个所述嵌入式GPU通过调用所述机载目标识别模型对 所述视频信息进行目标识别之前,进一步包括:
将识别候选框的比例调整到目标大小;
通过所述识别候选框选定所述视频信息中的目标;
所述调用所述机载目标识别模型的一部分对所述视频信息进行目 标识别,包括:
调用所述机载目标识别模型对选定的所述目标进行目标识别。
可选地,
所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少 三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷 发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作 进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目 标识别模型对从所述Spout中获取的视频信息流进行处理。
本发明还提供了一种机载识别设备,包括:交换机一个嵌入式 ARM型CPU和至少三个嵌入式GPU,其中,
所述交换机,用于构建所述嵌入式ARM型CPU与每一个所述嵌 入式GPU之间的连接,并为所述嵌入式ARM型CPU和所述每一个所 述嵌入式GPU之间进行信息传输;
所述嵌入式ARM型CPU,用于预先设置的storm调度策略,获取 外部发送的视频信息,并对所述视频信息进行预处理;按照所述storm 调度策略,将预处理后的视频信息和任务分配给所述至少三个嵌入式 GPU,对目标识别的结果进行汇总和存储;
每一个所述嵌入式GPU,用于加载外部机载目标识别模型构建平 台构建的机载目标识别模型,当接收到所述预处理后的视频信息和所 述任务时,按照所述任务,通过调用所述机载目标识别模型对所述预 处理后的视频信息进行目标识别。
可选地,
每一个所述嵌入式GPU,进一步用于将识别候选框的比例调整到 目标大小,通过所述识别候选框选定所述视频信息中的目标,并调用 所述机载目标识别模型对选定的所述目标进行目标识别。
可选地,
所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少 三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷 发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作 进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目 标识别模型对从所述Spout中获取的视频信息流进行处理。
实施本发明的,具有以下有益效果:
1、本发明通过存储服务器获取实测数据和特性数据,并将所述实 测数据和所述特性数据存储至对应的分类训练数据集,通过训练服务 器将所述分类训练数据集中的每一个样本输入到预先部署的深度学习 网络,进行特征训练,当接收到所述生成指令时,为特征训练的结果 生成机载目标识别模型;当接收到所述反向传播指令时,将特征训练 的结果反向输入到所述深度学习网络,进行特征训练;通过识别服务 器对特征训练的结果进行识别测试,并针对识别测试结果,统计识别 率,当所述识别率不小于预设的识别基准值时,发送模型生成指令给 所述训练服务器,否则,发送反向传播指令给所述训练服务器。由于 深度学习网络进行特征训练的过程实际是自动挖掘目标深层的特征属 性,使特征属性更加完整和准确,另外,通过测试识别服务器对特征 训练的结果进行测试,以进一步保证特征训练获得的机载目标识别模 型更加准确,因此,基于机载目标识别模型进行目标识别能够有效提 高识别的准确率。
2、深度学习网络选用多尺度目标检测网络;训练服务器通过部署 不同尺寸的卷积模型,针对每一个分类训练数据集,利用不同尺寸的 卷积模型对每一个样本进行特征提取,该过程可以尽可能的保证将不 同尺寸的目标的特征提取出来,解决小物体漏检的问题;将提取到的 训练数据集中所有样本的特征输入到多尺度目标检测网络,进行特征 训练,以确定训练数据集对应的初级目标识别模型,当接收到生成指 令时,确定初级目标识别模型为机载目标识别模型;当接收到反向传 播指令时,将初级目标识别模型及偏差通过反向传播的方式输入到所 述多尺度目标检测网络,进行特征训练;识别服务器,进一步用于当 所述识别率小于预设的识别基准值时,计算初级目标识别模型的识别 测试结果与预设的期望结果之间的偏差,并发送所述偏差及反向传播 指令给所述训练服务器,通过上述过程使得特征训练获得的机载目标 识别模型能够对不同尺寸的目标进行识别,使基于机载目标识别模型 进行目标识别能够进一步提高识别的准确率。
3、通过机载目标识别模型构建平台构建机载目标识别模型,将所 述机载目标识别模型加载到至少三个嵌入式GPU;通过一个嵌入式 ARM型CPU获取外部发送的视频信息,并对所述视频信息进行预处 理;按照预先在所述嵌入式ARM型CPU上设置的storm调度策略, 将预处理后的视频信息和任务分配给所述至少三个嵌入式GPU;按照 所述任务,每一个所述嵌入式GPU通过调用所述机载目标识别模型的 一部分对所述视频信息进行目标识别;通过所述ARM型CPU对目标 识别的结果进行汇总和存储,整个机载目标识别的过程,由于基于机 载目标识别模型进行,其本身能够自主的识别目标,而无须人工参与, 因此,本发明提供的机载目标识别方法实现了自主化、智能化。
4、本发明提供的机载目标识别设备通过交换机、一个嵌入式ARM 型CPU和至少三个嵌入式GPU来完成目标识别,该嵌入式分布式架 构结构简单,使得机载目标识别设备具备低功耗、小型化的优点。同 时,其通过storm调度策略,使各个嵌入式GPU能够相互协调和同步 的进行目标识别,使得机上自主识别具有快速高效的优点,达到了实 时目标识别的目的。
5、本发明提供的机载目标识别模型构建平台通过深度学习的高效 计算,获得机载目标识别模型;而嵌入式分布式架构的机载识别设备 基于机载目标识别模型进行目标识别,保证目标识别准确性的同时, 又能够快速高效完成机上自主识别。
附图说明
图1是本发明一个实施例提供的一种机载目标识别模型构建平台 的结构示意图;
图2是本发明实施例提供的多尺寸卷积模型提取图像特征的过程;
图3是本发明一个实施例提供的一种机载目标识别方法的流程图;
图4是本发明一个实施例提供的一种机载目标识别设备的结构示 意图。
图中:101:存储服务器;102:训练服务器;103:识别服务器; 401:交换机;402:嵌入式ARM型CPU;403:嵌入式GPU。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结 合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、 完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不 是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没 有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明 保护的范围。
本发明一个实施例,如图1所示,本发明实施例提供的一种机载 目标识别模型构建平台,其特征在于:包括:存储服务器101、训练服 务器102及识别服务器103,其中,
所述存储服务器101,用于获取实测数据和特性数据,并将所述实 测数据和所述特性数据存储至对应的分类训练数据集;
所述训练服务器102,用于将所述分类训练数据集中的每一个样本 输入到预先部署的深度学习网络,进行特征训练,当接收到所述生成 指令时,为特征训练的结果生成机载目标识别模型;当接收到所述反 向传播指令时,将特征训练的结果反向输入到所述深度学习网络,进 行特征训练;
所述识别服务器103,用于对特征训练的结果进行识别测试,并针 对识别测试结果,统计识别率,当所述识别率不小于预设的识别基准 值时,发送模型生成指令给所述训练服务器102,否则,发送反向传播 指令给所述训练服务器102。
需要说明的是,为了提高存储服务器、训练服务器及识别服务器 的运行速率,存储服务器、训练服务器及识别服务器均以集群形式存 在,即存储服务器为存储集群,训练服务器为训练处理服务集群、识 别服务器为识别处理器集群。
使用时,存储服务器、训练服务器及识别服务器通过硬件层、数 据层、算法层以及应用层之间有机结合,相互支撑来完成机载目标识 别模型的构建。其中,存储服务器的硬件层为数据层提供Hadoop分布 式(HDF模式)的存储管理服务,训练服务器的硬件层为算法层训练深 层网络提供高性能计算资源支撑,识别服务器的硬件层为应用层的识 别测试和识别率统计功能提供服务。数据层具有实测数据和红外/电磁 特性数据,为算法层提供海量训练样本。算法层通过深度学习网络自 动学习挖掘图像数据中的关键目标特性特征,弥补传统模板匹配方法 提取特征不准确、效率低下的缺陷,输出的网络模型为应用层识别提供支撑。应用层可以对网络模型的识别准确率进行统计,同时新得到 的测试图像及视频也可作为数据层的有效补充。
在本发明另一实施例中,所述深度学习网络,包括:多尺度目标 检测网络;
所述训练服务器,进一步用于部署不同尺寸的卷积模型,针对每 一个所述分类训练数据集,利用不同尺寸的所述卷积模型对每一个样 本进行特征提取,将提取到的所述训练数据集中所有样本的特征输入 到所述多尺度目标检测网络,进行特征训练,以确定所述训练数据集 对应的初级目标识别模型,当接收到所述生成指令时,确定所述初级 目标识别模型为机载目标识别模型;当接收到所述反向传播指令时, 将所述初级目标识别模型及偏差通过反向传播的方式输入到所述多尺 度目标检测网络,进行特征训练;
所述识别服务器,进一步用于当所述识别率小于预设的识别基准 值时,计算初级目标识别模型的识别测试结果与预设的期望结果之间 的偏差,并发送所述偏差及反向传播指令给所述训练服务器。
需要说明的是,对于训练服务器来说,其采用不同尺寸的卷积模 型及多尺度目标检测网络进行特征训练主要包括前向传播和反向传播 两个阶段。前向传播主要是前向的特征提取及分类。反向传播就是误 差的反向反馈和网络模型参数更新。
其中,前向传播过程主要是,对所有层上的神经元进行初始化操 作。不同尺寸的卷积模型实现图像特征的提取和映射,即不同尺寸的 卷积模型进行多个卷积过程,如图2所示。多尺度目标检测网络进行 的多层的提取过程能够从图像中提取到有用的信息。特征提取完成后 将提取到的特征前向反馈到多尺度目标检测网络的全连接层。全连接 层包含多个隐含层。通过隐含层对数据信息的处理,将结果反馈到输 出层即识别服务器。识别服务器将测试结果与预期结果进行对比,如 果相符合,则输出分类的结果。
反向传播过程主要是,如果测试结果与预期结果不符合则需要将 多尺度网络模型参数和偏差反向传播至训练服务器中的多尺度网络模 型网络,即从输出层即识别服务器依次向后传递到多尺度网络模型网 络中的全连接层和卷积模型,直到每一层都得到自己的梯度。然后进 行网络模型参数更新的操作,开始新一轮的训练过程,直至得到最优 的神经网络。该不同尺寸的卷积模型及多尺度网络模型网络能够对不 同尺寸的物体提取特征,解决小物体漏检的问题,从而达到高精度目 标检测。不同尺寸的卷积模型主要利用现有的卷积滤波器,设计不同 卷积滤波器的尺寸,使提取的特征更加细致,从而减小图像中密集小 物体漏检的概率。
在本发明又一实施例中,所述识别率,包括:识别查全率和识别 查准率;
所述识别服务器103,用于利用下述识别查全率计算公式和识别查 准率计算公式,分别统计识别查全率和识别查准率,当所述计识别查 全率不小于80%,且所述识别查准率不小于85%时,发送模型生成指 令给所述训练服务器,否则,发送反向传播指令给所述训练服务器;
识别查全率计算公式:
R=TP/(TP+FN)
识别查准率计算公式:
P=TP/(TP+FP)
其中,R表征识别查全率;P表征识别查准率;TP表征针对识别 测试结果来说,预测识别测试结果为正,实际识别测试结果为正的个 数;TN表征针对识别测试结果来说,预测识别测试结果为负,实际识 别测试结果为负的个数;FP表征针对识别测试结果来说,预测识别测 试结果为正,实际识别测试结果为负的个数;FN表征针对识别测试结 果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
在本发明又一实施例中,所述训练服务器103,用于根据下述偏差 计算公式,计算初级目标识别模型的识别测试结果与预设的期望结果 之间的偏差;
偏差计算公式:
Y=FP+FN
其中,Y表征偏差;FP表征针对识别测试结果来说,预测识别测 试结果为正的个数,实际识别测试结果为负;FN表征针对识别测试结 果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
如图3所示,本发明实施例提供一种机载目标识别方法,包括:
步骤301:利用外部机载目标识别模型构建平台构建机载目标识别 模型,将所述机载目标识别模型加载到至少三个嵌入式GPU;
步骤302:通过一个嵌入式ARM型CPU获取外部发送的视频信 息,并对所述视频信息进行预处理;
步骤303:按照预先在所述嵌入式ARM型CPU上设置的storm调 度策略,将预处理后的视频信息和任务分配给所述至少三个嵌入式 GPU;
步骤304:按照所述任务,每一个所述嵌入式GPU通过调用所述 机载目标识别模型的一部分对所述视频信息进行目标识别;
步骤305:通过所述ARM型CPU对目标识别的结果进行汇总和 存储。
在本发明一个实施例中,在所述将预处理后的视频信息分配给所 述至少三个嵌入式GPU之后,在所述每一个所述嵌入式GPU通过调 用所述机载目标识别模型对所述视频信息进行目标识别之前,进一步 包括:
将识别候选框的比例调整到目标大小;
通过所述识别候选框选定所述视频信息中的目标;
所述调用所述机载目标识别模型的一部分对所述视频信息进行目 标识别,包括:
调用所述机载目标识别模型对选定的所述目标进行目标识别。
在本发明一个实施例中,所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少 三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷 发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作 进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目 标识别模型对从所述Spout中获取的视频信息流进行处理。
如图4所示,本发明实施例提供一种机载识别设备,包括:交换 机401、一个嵌入式ARM型CPU402和至少三个嵌入式GPU403,其 中,
所述交换机401,用于构建所述嵌入式ARM型CPU402与每一个 所述嵌入式GPU403之间的连接,并为所述嵌入式ARM型CPU402和 所述每一个所述嵌入式GPU403之间进行信息传输;
所述嵌入式ARM型CPU402,用于预先设置的storm调度策略, 获取外部发送的视频信息,并对所述视频信息进行预处理;按照所述 storm调度策略,将预处理后的视频信息和任务分配给所述至少三个嵌 入式GPU403,对目标识别的结果进行汇总和存储;
每一个所述嵌入式GPU403,用于加载外部机载目标识别模型构建 平台构建的机载目标识别模型,当接收到所述预处理后的视频信息和 所述任务时,按照所述任务,通过调用所述机载目标识别模型对所述 预处理后的视频信息进行目标识别。
在本发明另一实施例中,每一个所述嵌入式GPU403,进一步用于 将识别候选框的比例调整到目标大小,通过所述识别候选框选定所述 视频信息中的目标,并调用所述机载目标识别模型对选定的所述目标 进行目标识别。
在本发明又一实施例中,所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少 三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷 发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作 进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目 标识别模型对从所述Spout中获取的视频信息流进行处理。
为了能够清楚地说明机载目标识别方法,下面以安装有上述机载 识别设备(该机载识别设备包含一个嵌入式ARM型CPU和三个嵌入式 GPU)的无人机拍摄街景为例,进行说明,其具体步骤包括:
步骤501:利用外部机载目标识别模型构建平台构建机载目标识别 模型,将所述机载目标识别模型加载到无人机上的机载目标识别设备 中;
该步骤加载到无人机上的机载目标识别设备中,其本质为加载到 机载目标识别设备中的三个嵌入式GPU,以方便后续对目标识别模型 的调用;
步骤502:无人机通过摄像头拍摄街景视频;
步骤503:通过机载目标识别设备中一个嵌入式ARM型CPU获 取摄像头拍摄的视频,并对所述视频信息进行预处理;
该对视频信息进行预处理包括将视频信息分解为一帧一帧的图 像,后续目标识别过程是对每一帧图像中的目标进行识别。
步骤504:按照预先在所述嵌入式ARM型CPU上设置的storm调 度策略,将预处理后的视频信息和任务分配给三个嵌入式GPU;
该步骤所涉及的storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少 三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷 发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作 进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目 标识别模型对从所述Spout中获取的视频信息流进行处理。
该步骤提及的任务即是调用机载目标识别模型对图像中的目标进 行识别。其分配任务的原则一般为优先分配给空闲的GPU。
步骤505:将识别候选框的比例调整到目标大小;
即不同的目标对应的候选框比例有差异,比如街景拍摄的汽车、 行人、楼房等,由于其在图像中的比例有所不同,按照目标大小调整 识别候选框的比例能够对目标识别更加准确。
步骤506:通过所述识别候选框选定所述视频信息中的目标;
步骤507:按照所述任务,每一个所述嵌入式GPU通过调用所述 机载目标识别模型的一部分对所述视频信息进行目标识别;
步骤508:通过所述ARM型CPU对目标识别的结果进行汇总和 存储。
该步骤的汇总,主要是按照最初视频的时间顺序,将每一帧图像 识别出来的目标按照视频流的时间顺序进行排序。
综上所述,基于机载目标识别模型进行目标识别能够有效提高识 别的准确率。另外,由于基于机载目标识别模型进行,其本身能够自 主的识别目标,而无须人工参与,因此,本发明提供的机载目标识别 方法实现了自主化、智能化。机载目标识别设备通过交换机、一个嵌 入式ARM型CPU和至少三个嵌入式GPU来完成目标识别,该嵌入式 分布式架构结构简单,使得机载目标识别设备具备低功耗、小型化的 优点。同时,其通过storm调度策略,使各个嵌入式GPU能够相互协 调和同步的进行目标识别,使得机上自主识别具有快速高效的优点, 达到了实时目标识别的目的。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而 非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领 域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技 术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修 改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方 案的精神和范围。
Claims (10)
1.一种机载目标识别模型构建平台,其特征在于:包括:存储服务器、训练服务器及识别服务器,其中,
所述存储服务器,用于获取实测数据和特性数据,并将所述实测数据和所述特性数据存储至对应的分类训练数据集;
所述训练服务器,用于将所述分类训练数据集中的每一个样本输入到预先部署的深度学习网络,进行特征训练,当接收到所述生成指令时,为特征训练的结果生成机载目标识别模型;当接收到所述反向传播指令时,将特征训练的结果反向输入到所述深度学习网络,进行特征训练;
所述识别服务器,用于对特征训练的结果进行识别测试,并针对识别测试结果,统计识别率,当所述识别率不小于预设的识别基准值时,发送模型生成指令给所述训练服务器,否则,发送反向传播指令给所述训练服务器。
2.根据权利要求1所述的机载目标识别模型构建平台,其特征在于:
所述深度学习网络,包括:多尺度目标检测网络;
所述训练服务器,进一步用于部署不同尺寸的卷积模型,针对每一个所述分类训练数据集,利用不同尺寸的所述卷积模型对每一个样本进行特征提取,将提取到的所述训练数据集中所有样本的特征输入到所述多尺度目标检测网络,进行特征训练,以确定所述训练数据集对应的初级目标识别模型,当接收到所述生成指令时,确定所述初级目标识别模型为机载目标识别模型;当接收到所述反向传播指令时,将所述初级目标识别模型及偏差通过反向传播的方式输入到所述多尺度目标检测网络,进行特征训练;
所述识别服务器,进一步用于当所述识别率小于预设的识别基准值时,计算初级目标识别模型的识别测试结果与预设的期望结果之间的偏差,并发送所述偏差及反向传播指令给所述训练服务器。
3.根据权利要求1所述的机载目标识别模型构建平台,其特征在于:
所述识别率,包括:识别查全率和识别查准率;
所述识别服务器,用于利用下述识别查全率计算公式和识别查准率计算公式,分别统计识别查全率和识别查准率,当所述计识别查全率不小于80%,且所述识别查准率不小于85%时,发送模型生成指令给所述训练服务器,否则,发送反向传播指令给所述训练服务器;
识别查全率计算公式:
R=TP/(TP+FN)
识别查准率计算公式:
P=TP/(TP+FP)
其中,R表征识别查全率;P表征识别查准率;TP表征针对识别测试结果来说,预测识别测试结果为正,实际识别测试结果为正的个数;TN表征针对识别测试结果来说,预测识别测试结果为负,实际识别测试结果为负的个数;FP表征针对识别测试结果来说,预测识别测试结果为正,实际识别测试结果为负的个数;FN表征针对识别测试结果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
4.根据权利要求2所述的机载目标识别模型构建平台,其特征在于:
所述训练服务器,用于根据下述偏差计算公式,计算初级目标识别模型的识别测试结果与预设的期望结果之间的偏差;
偏差计算公式:
Y=FP+FN
其中,Y表征偏差;FP表征针对识别测试结果来说,预测识别测试结果为正的个数,实际识别测试结果为负;FN表征针对识别测试结果来说,预测识别测试结果为负,实际识别测试结果为正的个数。
5.一种机载目标识别方法,其特征在于:利用上述权利要求1至4任一所述的外部机载目标识别模型构建平台构建机载目标识别模型,将所述机载目标识别模型加载到至少三个嵌入式GPU;还包括:
通过一个嵌入式ARM型CPU获取外部发送的视频信息,并对所述视频信息进行预处理;
按照预先在所述嵌入式ARM型CPU上设置的storm调度策略,将预处理后的视频信息和任务分配给所述至少三个嵌入式GPU;
按照所述任务,每一个所述嵌入式GPU通过调用所述机载目标识别模型的一部分对所述视频信息进行目标识别;
通过所述ARM型CPU对目标识别的结果进行汇总和存储。
6.根据权利要求5所述的机载目标识别方法,其特征在于:在所述将预处理后的视频信息分配给所述至少三个嵌入式GPU之后,在所述每一个所述嵌入式GPU通过调用所述机载目标识别模型对所述视频信息进行目标识别之前,进一步包括:
将识别候选框的比例调整到目标大小;
通过所述识别候选框选定所述视频信息中的目标;
所述调用所述机载目标识别模型的一部分对所述视频信息进行目标识别,包括:
调用所述机载目标识别模型对选定的所述目标进行目标识别。
7.根据权利要求5或6所述的机载目标识别方法,其特征在于:所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目标识别模型对从所述Spout中获取的视频信息流进行处理。
8.一种机载识别设备,其特征在于:包括:交换机、一个嵌入式ARM型CPU和至少三个嵌入式GPU,其中,
所述交换机,用于构建所述嵌入式ARM型CPU与每一个所述嵌入式GPU之间的连接,并为所述嵌入式ARM型CPU和所述每一个所述嵌入式GPU之间进行信息传输;
所述嵌入式ARM型CPU,用于预先设置的storm调度策略,获取外部发送的视频信息,并对所述视频信息进行预处理;按照所述storm调度策略,将预处理后的视频信息和任务分配给所述至少三个嵌入式GPU,对目标识别的结果进行汇总和存储;
每一个所述嵌入式GPU,用于加载外部机载目标识别模型构建平台构建的机载目标识别模型,当接收到所述预处理后的视频信息和所述任务时,按照所述任务,通过调用所述机载目标识别模型对所述预处理后的视频信息进行目标识别。
9.根据权利要求8所述的机载识别设备,其特征在于:
每一个所述嵌入式GPU,进一步用于将识别候选框的比例调整到目标大小,通过所述识别候选框选定所述视频信息中的目标,并调用所述机载目标识别模型对选定的所述目标进行目标识别。
10.根据权利要求8或9所述的机载识别设备,其特征在于:所述storm调度策略,包括:
通过所述嵌入式ARM型CPU作为Nimbus分配任务给所述至少三个嵌入式GPU并监控状态,还作为Spout将获取到的视频信息流喷发到所述至少三个嵌入式GPU;
每一个所述嵌入式GPU作为Supervisor根据需要启动或关闭工作进程,并完成所述Nimbus分配的任务,还作为Bolt利用所述机载目标识别模型对从所述Spout中获取的视频信息流进行处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810289335.8A CN108764456B (zh) | 2018-04-03 | 2018-04-03 | 机载目标识别模型构建平台、机载目标识别方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810289335.8A CN108764456B (zh) | 2018-04-03 | 2018-04-03 | 机载目标识别模型构建平台、机载目标识别方法及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108764456A true CN108764456A (zh) | 2018-11-06 |
CN108764456B CN108764456B (zh) | 2021-06-22 |
Family
ID=63980821
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810289335.8A Active CN108764456B (zh) | 2018-04-03 | 2018-04-03 | 机载目标识别模型构建平台、机载目标识别方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108764456B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110288001A (zh) * | 2019-05-28 | 2019-09-27 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于目标数据特征训练学习的目标识别方法 |
CN110443310A (zh) * | 2019-08-07 | 2019-11-12 | 浙江大华技术股份有限公司 | 比对分析系统的更新方法、服务器及计算机存储介质 |
CN110708567A (zh) * | 2019-04-15 | 2020-01-17 | 中国石油大学(华东) | 一种基于主动学习的分布式自优化视频实时解析框架 |
CN110764081A (zh) * | 2019-11-05 | 2020-02-07 | 北京理工大学 | 一种精密跟踪测量雷达信号的处理系统 |
CN112309068A (zh) * | 2020-10-29 | 2021-02-02 | 电子科技大学中山学院 | 一种基于深度学习的森林火灾预警方法 |
CN113095445A (zh) * | 2021-06-08 | 2021-07-09 | 中国铁塔股份有限公司湖北省分公司 | 一种目标识别方法及装置 |
CN114116567A (zh) * | 2021-11-29 | 2022-03-01 | 辽宁神州北斗科技有限公司 | 大数据计算解析系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106096504A (zh) * | 2016-05-30 | 2016-11-09 | 重庆大学 | 一种基于无人机机载平台的车型识别方法 |
CN106778472A (zh) * | 2016-11-17 | 2017-05-31 | 成都通甲优博科技有限责任公司 | 基于深度学习的输电走廊常见侵入物目标检测与识别方法 |
CN107817820A (zh) * | 2017-10-16 | 2018-03-20 | 复旦大学 | 一种基于深度学习的无人机自主飞行控制方法与系统 |
CN107862262A (zh) * | 2017-10-27 | 2018-03-30 | 中国航空无线电电子研究所 | 一种适用于高空侦察的快速可见光图像舰船检测方法 |
-
2018
- 2018-04-03 CN CN201810289335.8A patent/CN108764456B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106096504A (zh) * | 2016-05-30 | 2016-11-09 | 重庆大学 | 一种基于无人机机载平台的车型识别方法 |
CN106778472A (zh) * | 2016-11-17 | 2017-05-31 | 成都通甲优博科技有限责任公司 | 基于深度学习的输电走廊常见侵入物目标检测与识别方法 |
CN107817820A (zh) * | 2017-10-16 | 2018-03-20 | 复旦大学 | 一种基于深度学习的无人机自主飞行控制方法与系统 |
CN107862262A (zh) * | 2017-10-27 | 2018-03-30 | 中国航空无线电电子研究所 | 一种适用于高空侦察的快速可见光图像舰船检测方法 |
Non-Patent Citations (7)
Title |
---|
HARM GREIDANUS: "Vessel detection and classification from spaceborne optical images:A literature survey", 《REMOTE SENSING OF ENVIRONMENT》 * |
SEBASTIEN RAZAKARIVONY: "Vehicle detection in aerial imagery : A small target detection benchmark", 《J. VIS. COMMUN. IMAGE R.》 * |
TY LIN 等: "Feature Pyramid Networks for Object Detection", 《ARXIV》 * |
Z. DENG: "Toward Fast and Accurate Vehicle Detection in Aerial Images Using Coupled Region-Based Convolutional Neural Networks", 《IEEE JOURNAL OF SELECTED TOPICS IN APPLIED EARTH OBSERVATIONS AND REMOTE SENSING》 * |
杨凯: "基于机载视觉的地面目标识别与跟踪", 《中国优秀硕士学位论文全文数据库 工程科技II辑》 * |
薄树奎: "遥感图像目标多尺度特征分析", 《微型机与应用》 * |
韩杰: "基于Storm平台的实时视频分析系统", 《计算机工程》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110708567A (zh) * | 2019-04-15 | 2020-01-17 | 中国石油大学(华东) | 一种基于主动学习的分布式自优化视频实时解析框架 |
CN110288001A (zh) * | 2019-05-28 | 2019-09-27 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于目标数据特征训练学习的目标识别方法 |
CN110288001B (zh) * | 2019-05-28 | 2023-09-05 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于目标数据特征训练学习的目标识别方法 |
CN110443310A (zh) * | 2019-08-07 | 2019-11-12 | 浙江大华技术股份有限公司 | 比对分析系统的更新方法、服务器及计算机存储介质 |
CN110443310B (zh) * | 2019-08-07 | 2022-08-09 | 浙江大华技术股份有限公司 | 比对分析系统的更新方法、服务器及计算机存储介质 |
CN110764081A (zh) * | 2019-11-05 | 2020-02-07 | 北京理工大学 | 一种精密跟踪测量雷达信号的处理系统 |
CN112309068A (zh) * | 2020-10-29 | 2021-02-02 | 电子科技大学中山学院 | 一种基于深度学习的森林火灾预警方法 |
CN112309068B (zh) * | 2020-10-29 | 2022-09-06 | 电子科技大学中山学院 | 一种基于深度学习的森林火灾预警方法 |
CN113095445A (zh) * | 2021-06-08 | 2021-07-09 | 中国铁塔股份有限公司湖北省分公司 | 一种目标识别方法及装置 |
CN114116567A (zh) * | 2021-11-29 | 2022-03-01 | 辽宁神州北斗科技有限公司 | 大数据计算解析系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108764456B (zh) | 2021-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108764456A (zh) | 机载目标识别模型构建平台、机载目标识别方法及设备 | |
CN107273836A (zh) | 一种行人检测识别方法、装置、模型和介质 | |
CN109815868B (zh) | 一种图像目标检测方法、装置及存储介质 | |
CN109559302A (zh) | 基于卷积神经网络的管道视频缺陷检测方法 | |
CN109993734A (zh) | 用于输出信息的方法和装置 | |
CN111784685A (zh) | 一种基于云边协同检测的输电线路缺陷图像识别方法 | |
CN109919097A (zh) | 基于多任务学习的人脸和关键点联合检测系统、方法 | |
CN109978918A (zh) | 一种轨迹追踪方法、装置和存储介质 | |
CN109389599A (zh) | 一种基于深度学习的缺陷检测方法及装置 | |
CN109284729A (zh) | 基于视频获取人脸识别模型训练数据的方法、装置和介质 | |
CN108686978A (zh) | 基于arm的水果类别和色泽的分拣方法及系统 | |
CN110334245A (zh) | 一种基于时序属性的图神经网络的短视频推荐方法及装置 | |
CN108021938A (zh) | 一种冷轧带钢表面缺陷在线检测方法以及检测系统 | |
CN110009614A (zh) | 用于输出信息的方法和装置 | |
CN108028890A (zh) | 在无线网络中管理众包摄影 | |
CN104063686B (zh) | 作物叶部病害图像交互式诊断系统与方法 | |
CN109886141A (zh) | 一种基于不确定性优化的行人再辨识方法 | |
CN110516529A (zh) | 一种基于深度学习图像处理的投喂检测方法和系统 | |
CN109284735B (zh) | 鼠情监控方法、装置及存储介质 | |
CN107978110A (zh) | 基于图像匹配的电子围栏智能在位识别系统及识别方法 | |
CN108009497A (zh) | 图像识别监控方法、系统、计算设备以及可读存储介质 | |
CN112700435B (zh) | 一种基于深度学习的墙体缺陷检测方法 | |
CN110769195A (zh) | 输电线路施工现场违章智能监控识别系统 | |
CN112287827A (zh) | 基于智慧灯杆的复杂环境行人口罩佩戴检测方法及系统 | |
JP2021030107A (ja) | 物品選別装置、物品選別システムおよび物品選別方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |