CN113744230B - 一种基于无人机视觉的飞机蒙皮损伤智能检测方法 - Google Patents
一种基于无人机视觉的飞机蒙皮损伤智能检测方法 Download PDFInfo
- Publication number
- CN113744230B CN113744230B CN202110995923.5A CN202110995923A CN113744230B CN 113744230 B CN113744230 B CN 113744230B CN 202110995923 A CN202110995923 A CN 202110995923A CN 113744230 B CN113744230 B CN 113744230B
- Authority
- CN
- China
- Prior art keywords
- aircraft skin
- damage
- skin damage
- aircraft
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Quality & Reliability (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
一种基于无人机视觉的飞机蒙皮损伤智能检测方法。其包括构建原始飞机蒙皮图像样本数据集;构建高质量飞机蒙皮图像样本数据集;构建飞机蒙皮损伤图像样本数据集;构建飞机蒙皮表面图像采集系统;规划无人机绕检方案;获得飞机蒙皮损伤待测数据集;获得训练好的飞机蒙皮损伤检测网络模型;利用训练好的飞机蒙皮损伤检测网络模型对飞机蒙皮损伤待测数据集进行自动检测等步骤。本发明有益效果:基于无人机视觉技术,能够有效地解决传统检测方式在飞机蒙皮损伤检测中出现的检测耗时长、检测精度低、成本费用高等问题,提高了飞机蒙皮无人机绕检技术的精度,进而为民航领域中飞机蒙皮损伤的检测识别提供技术支持。
Description
技术领域
本发明属于飞机蒙皮损伤检测技术领域,具体涉及一种基于无人机视觉的飞机蒙皮损伤智能检测方法。
背景技术
飞机作为我们日常生活中的一种常见交通工具,其安全性固然是最重要的,飞机蒙皮作为飞机的主要构成部分,在飞行过程中受自然因素和其他外力的影响很容易产生结构性损伤,进而严重影响飞行安全,所以对于飞机蒙皮的损伤检测是民航机场人员需要进行的一项重要工作。
近几年,在飞机蒙皮损伤检测领域主要采用目视检测、涡流检测、磁粉检测、渗透检测和超声波检测等方法,但这些检测方法各自都存在着不足。例如:目视检测只能发现较大的损伤区域,而且受人为经验影响较大;涡流、磁粉和渗透这三种检测方法只能检测表面或近表面缺陷且检测前后需要进行附加处理工作;超声波检测对于传感器灵敏度要求较高且受检测方式影响较大。基于无人机视觉的飞机蒙皮损伤检测方法不仅可以提高损伤检测精度,而且可以大大降低检测对工作人员经验的依赖性,因此研究基于无人机视觉的飞机蒙皮损伤检测技术具有重要的现实意义。
目前,在基于机器视觉的飞机蒙皮损伤检测技术中,主要包括无人机绕检系统和爬壁机器人系统两大类,虽然相关技术研究已取得一定成果,但现阶段还没有一套完整的辅助于民航机务维修的采用无人机视觉技术对飞机蒙皮进行损伤检测的智能系统,这在一定程度上限制了视觉技术在飞机蒙皮检测环境下的应用,因此,研究一种基于无人机视觉的飞机蒙皮损伤智能检测方法以实现检测全面自动化具有非常重要的意义。
发明内容
为了解决上述问题,本发明的目的在于提供一种基于无人机视觉的飞机蒙皮损伤智能检测方法。
为了达到上述目的,本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法包括按顺序进行下列步骤:
步骤1)构建原始飞机蒙皮图像样本数据集:利用相机采集多帧具有蒙皮损伤的飞机蒙皮原始图像,将每一帧飞机蒙皮原始图像作为一个样本,由所有飞机蒙皮原始图像构成原始飞机蒙皮图像样本数据集;
步骤2)构建高质量飞机蒙皮图像样本数据集:对上述原始飞机蒙皮图像样本数据集中的所有飞机蒙皮原始图像进行筛选,由筛选后的清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集;
步骤3)构建飞机蒙皮损伤图像样本数据集:将上述高质量图像样本数据集中的清晰飞机蒙皮原始图像进行损伤标注,依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆,由带有标签的清晰飞机蒙皮原始图像构成飞机蒙皮损伤图像样本数据集,并将飞机蒙皮损伤图像样本数据集按9∶1的比例分为训练集和测试集;
步骤4)构建飞机蒙皮表面图像采集系统:所述的飞机蒙皮表面图像采集系统包括无人机、远程遥控装置、云台相机、数据传输系统和计算机;其中,远程遥控装置分别与无人机和计算机无线连接,由检测人员操纵,用于控制无人机的飞行;云台相机搭载在无人机上,用于采集图像;数据传输系统分别与云台相机和计算机无线连接,用于云台相机和计算机之间的图像传输;机算机用于储存和处理图像;
步骤5)规划无人机绕检方案:根据不同飞机机身结构以及采集图像的效果在计算机上确定好无人机的绕检飞机路径、绕检高度及扫描区域,进而确定出重要目标拍摄点;
步骤6)利用飞机蒙皮表面图像采集系统采集待测飞机蒙皮图像,获得飞机蒙皮损伤待测数据集:由检测人员操纵无人机在上述确定的绕检高度下按照绕检飞机路径进行飞行,在飞行过程中利用其搭载的云台相机拍摄每一个目标拍摄点附近的小区域高分辨率图像作为待测图像并通过数据传输系统传输给计算机并存储,同时将云台相机在机身上的扫描区域位置信息通过数据传输系统传输给计算机并存储,由所有待测图像构成飞机蒙皮损伤待测数据集;
步骤7)构建飞机蒙皮损伤检测网络模型并输入飞机蒙皮损伤图像样本数据集进行训练和验证,获得训练好的飞机蒙皮损伤检测网络模型:
步骤8)利用训练好的飞机蒙皮损伤检测网络模型对飞机蒙皮损伤待测数据集进行自动检测。
在步骤1)中,所述采集多帧具有蒙皮损伤的飞机蒙皮原始图像的具体方法是:利用高清晰度高帧率相机,在距离飞机蒙皮1-2米的范围内,从多个角度多个焦距采集多帧具有蒙皮损伤的飞机蒙皮原始图像。
在步骤2)中,所述构建高质量飞机蒙皮图像样本数据集的具体方法是:对飞机蒙皮原始图像进行筛选,保留损伤能够达到可辨认程度的清晰飞机蒙皮原始图像,由这些清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集。
在步骤3)中,所述构建飞机蒙皮损伤图像样本数据集的具体方法是:利用labellmg.exe图像处理软件对清晰飞机蒙皮原始图像中的损伤进行标注,首先依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆并定义标签分别为:deform、scratch、rush、rivet_damage、paint_peel;然后进行手动标注,标注方式遵循统一的标注规则:规则1:采用方形标注框,对清晰飞机蒙皮原始图像中出现的所有损伤分别进行标注且标注框不能太大;规则2:将凹坑、结构变形、撞击均视为变形损伤;规则3:当清晰飞机蒙皮原始图像中出现多处划痕损伤时应分别标注,当划痕损伤较大时应使用多个均匀的小标注框进行分段标注;规则4:当蒙皮接缝处出现腐蚀损伤时应采用多个小标注框进行标注;规则5:将一切出现在铆钉上的损伤均视为铆钉损伤且每个铆钉损伤要单独标注;规则6:当出现由于其他原因造成蒙皮表面颜色改变也视作掉漆损伤;最后将带有标签的清晰飞机蒙皮原始图像保存为xml格式。
在步骤7)中,所述飞机蒙皮损伤检测网络模型包括主干特征提取层、空间金字塔池化层、路径聚合层和两个全连接层;
训练和验证具体方法是:首先将飞机蒙皮损伤图像样本数据集中的训练集输入上述飞机蒙皮损伤检测网络模型中进行训练;将训练集中带有标签的清晰飞机蒙皮原始图像作为样本统一处理成608×608像素的大小,同时使用Mosaic数据增强方法增加样本多样性,训练过程中超参数设定为100个epoch迭代,并且在每一轮的数据迭代开始启动Mosaic数据增强,迭代过程分为两部分,前50次epoch训练在冻结部分参数后,学习率设为0.001,样本数设置为4,则每个epoch迭代次数为1314次,权重衰减系数为0.0005,解冻参数后继续进行后50次epoch迭代,学习率设为0.0001,样本数设置为2,每个epoch迭代次数为2627次,经过100个epoch迭代训练后飞机蒙皮损伤检测网络模型已基本收敛,此时训练损失值为6.4281;获得训练后的飞机蒙皮损伤检测网络模型;
然后将飞机蒙皮损伤图像样本数据集中的测试集输入上述训练后的飞机蒙皮损伤检测网络模型进行验证;根据预测结果中损伤识别框、损伤类别和置信度信息获得飞机蒙皮损伤检测网络模型的准确率和召回率,之后计算出检测精度值AP及平均精度值mAP,当平均精度值mAP达到设定平均精度值mAP时,获得训练好的飞机蒙皮损伤检测网络模型;具体步骤如下:
首先根据预测结果计算出准确率Precision和召回率Recal,计算公式为:
其中,TP表示正确预测为正样本的数量;TN表示正确预测为负样本的数量;FP表示错误预测为正样本的数量;FN表示错误预测为负样本的数量;
然后以召回率Recall作为横坐标,以准确率Precision作为纵坐标,绘制Recal-Precision曲线,即PR曲线,对于PR曲线,检测精度值AP的计算公式为:
AP=∫p(r)dr
检测精度值AP用于评估飞机蒙皮损伤检测网络模型在单个损伤类别上的精确度,通过下式进一步计算出平均精度值mAP:
其中,∑AP表示所有损伤类别的检测精度值AP总和,N表示损伤类别数。
在步骤8)中,所述利用训练好的飞机蒙皮损伤检测网络模型对飞机蒙皮损伤待测数据集进行自动检测的具体方法是:
将步骤6)获得的飞机蒙皮损伤待测数据集输入训练好的飞机蒙皮损伤检测网络模型进行自动检测,训练好的飞机蒙皮损伤检测网络模型将自动输出包括飞机蒙皮的损伤类别以及置信度在内的信息,从而机务维修人员能根据这些信息和步骤6)获得的扫描区域位置迅速对飞机蒙皮上出现的损伤展开维修。
本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法具有如下有益效果:基于无人机视觉技术,能够有效地解决传统检测方式在飞机蒙皮损伤检测中出现的检测耗时长、检测精度低、成本费用高等问题,提高了飞机蒙皮无人机绕检技术的精度,进而为民航领域中飞机蒙皮损伤的检测识别提供技术支持。
附图说明
图1为本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法流程图。
图2为本发明中清晰飞机蒙皮原始图像中损伤标注示意图。其中,图2(a)为划痕损伤标注方式;图2(b)为掉漆损伤标注方式;图2(c)为腐蚀损伤标注方式;图2(d)为变形损伤标注方式;图2(e)为铆钉损伤标注方式;
图3为本发明中飞机蒙皮表面图像采集系统图。
图4为本发明中飞机蒙皮损伤检测网络模型原理图。
图5为本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法效果图。
其中,图5(a)为划痕、腐蚀、变形、铆钉损伤检测效果图;图5(b)为掉漆损伤检测效果图。
具体实施方式
下面结合附图和具体实施例对本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法进行详细说明。
如图1所示,本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法包括按顺序进行下列步骤:
步骤1)构建原始飞机蒙皮图像样本数据集:利用相机采集多帧具有蒙皮损伤的飞机蒙皮原始图像,将每一帧飞机蒙皮原始图像作为一个样本,由所有飞机蒙皮原始图像构成原始飞机蒙皮图像样本数据集;
具体采集方法是:利用高清晰度高帧率相机,在距离飞机蒙皮1-2米的范围内,从多个角度多个焦距采集多帧具有蒙皮损伤的飞机蒙皮原始图像,保证获得足够的图像数量且保证图像的全面性和不重复性。
步骤2)构建高质量飞机蒙皮图像样本数据集:对上述原始飞机蒙皮图像样本数据集中的所有飞机蒙皮原始图像进行筛选,由筛选后的清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集;
具体方法是:对上述飞机蒙皮原始图像进行筛选,保留损伤能够达到可辨认程度的清晰飞机蒙皮原始图像,由这些清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集;
步骤3)构建飞机蒙皮损伤图像样本数据集:将上述高质量图像样本数据集中的清晰飞机蒙皮原始图像进行损伤标注,依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆,由带有标签的清晰飞机蒙皮原始图像构成飞机蒙皮损伤图像样本数据集,并将飞机蒙皮损伤图像样本数据集按9∶1的比例分为训练集和测试集;
图2为本发明中清晰飞机蒙皮原始图像中损伤标注示意图。如图2所示,利用labellmg.exe图像处理软件对清晰飞机蒙皮原始图像中的损伤进行标注,首先依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆并定义标签分别为:deform、scratch、rush、rivet_damage、paint_peel;然后进行手动标注,标注方式遵循统一的标注规则:规则1:采用方形标注框,对清晰飞机蒙皮原始图像中出现的所有损伤分别进行标注且标注框不能太大;规则2:将凹坑、结构变形、撞击均视为变形损伤;规则3:当清晰飞机蒙皮原始图像中出现多处划痕损伤时应分别标注,当划痕损伤较大时应使用多个均匀的小标注框进行分段标注;规则4:当蒙皮接缝处出现腐蚀损伤时应采用多个小标注框进行标注;规则5:将一切出现在铆钉上的损伤均视为铆钉损伤且每个铆钉损伤要单独标注;规则6:当出现由于其他原因造成蒙皮表面颜色改变也视作掉漆损伤;最后将带有标签的清晰飞机蒙皮原始图像保存为xml格式。
步骤4)构建飞机蒙皮表面图像采集系统:如图3所示,所述的飞机蒙皮表面图像采集系统包括无人机1、远程遥控装置2、云台相机3、数据传输系统4和计算机5;其中,远程遥控装置2分别与无人机1和计算机5无线连接,由检测人员操纵,用于控制无人机1的飞行;云台相机3搭载在无人机1上,用于采集图像;数据传输系统4分别与云台相机3和计算机5无线连接,用于云台相机3和计算机5之间的图像传输;机算机5用于储存和处理图像;
步骤5)规划无人机绕检方案:根据不同飞机机身结构以及采集图像的效果在计算机5上确定好无人机1的绕检飞机路径、绕检高度及扫描区域,进而确定出重要目标拍摄点;
步骤6)利用飞机蒙皮表面图像采集系统采集待测飞机蒙皮图像,获得飞机蒙皮损伤待测数据集:由检测人员操纵无人机1在上述确定的绕检高度下按照绕检飞机路径进行飞行,在飞行过程中利用其搭载的云台相机3拍摄每一个目标拍摄点附近的小区域高分辨率图像作为待测图像并通过数据传输系统4传输给计算机5并存储,同时将云台相机3在机身上的扫描区域位置信息通过数据传输系统4传输给计算机5并存储,由所有待测图像和相应的扫描区域位置信息一起构成飞机蒙皮损伤待测数据集;
步骤7)构建飞机蒙皮损伤检测网络模型并输入飞机蒙皮损伤图像样本数据集进行训练和验证,获得训练好的飞机蒙皮损伤检测网络模型:
所述飞机蒙皮损伤检测网络模型包括主干特征提取层(CSPDarkNet53)、空间金字塔池化层(SPPNeT)、路径聚合层(PANet)和两个全连接层;
首先将飞机蒙皮损伤图像样本数据集中的训练集输入飞机蒙皮损伤检测网络模型中进行训练;将训练集中带有标签的清晰飞机蒙皮原始图像作为样本统一处理成608×608像素的大小,同时使用Mosaic数据增强方法增加样本多样性,训练过程中超参数设定为100个epoch迭代,并且在每一轮的数据迭代开始启动Mosaic数据增强,迭代过程分为两部分,前50次epoch训练在冻结部分参数后,学习率设为0.001,样本数设置为4,则每个epoch迭代次数为1314次,权重衰减系数为0.0005,解冻参数后继续进行后50次epoch迭代,学习率设为0.0001,样本数设置为2,每个epoch迭代次数为2627次,经过100个epoch迭代训练后飞机蒙皮损伤检测网络模型已基本收敛,此时训练损失值为6.4281;获得训练后的飞机蒙皮损伤检测网络模型。
如图4所示,所述飞机蒙皮损伤检测网络模型是将检测问题转化为回归问题处理,通过不断调整图像大小,运行卷积神经网络(CNN),将输入图像进行特征提取,把图像划分成S×S网格,每个网格单独负责对落入其中的物体进行检测,产生边界框并计算相应类别的概率值,即置信度Confidence,其中置信度Confidence定义为:
其中:Pr(object)表示网格内是否存在物体,若存在则取值为1,否则取值为0;表示预测框与输入图像在标注时绘制真实边界框的面积交并比。
然后将飞机蒙皮损伤图像样本数据集中的测试集输入上述训练后的飞机蒙皮损伤检测网络模型进行验证;根据预测结果中损伤识别框、损伤类别和置信度信息获得飞机蒙皮损伤检测网络模型的准确率和召回率,之后计算出检测精度值AP及平均精度值mAP,当平均精度值mAP达到设定平均精度值mAP时,获得训练好的飞机蒙皮损伤检测网络模型;
具体步骤如下:
首先根据预测结果计算出准确率Precision和召回率Recal,计算公式为:
其中,TP表示正确预测为正样本的数量;TN表示正确预测为负样本的数量;FP表示错误预测为正样本的数量;FN表示错误预测为负样本的数量;
然后以召回率Recall作为横坐标,以准确率Precision为作纵坐标,绘制Recal-Precision曲线,即PR曲线,对于PR曲线,检测精度值AP的计算公式为:
AP=∫p(r)dr
检测精度值AP用于评估飞机蒙皮损伤检测网络模型在单个损伤类别上的精确度,通过下式进一步计算出平均精度值mAP:
其中,∑AP表示所有损伤类别的检测精度值AP总和,N表示损伤类别数。平均精度值mAP越大表明模型检测精度越高。本发明中设定平均精度值mAP为70%。
步骤8)将上述步骤6)获得的飞机蒙皮损伤待测数据集输入上述训练好的飞机蒙皮损伤检测网络模型进行自动检测,训练好的飞机蒙皮损伤检测网络模型将自动输出包括飞机蒙皮的损伤类别以及置信度在内的信息,从而机务维修人员可根据这些信息和步骤6)获得的扫描区域位置迅速对飞机蒙皮上出现的损伤展开维修。
图5为本发明提供的基于无人机视觉的飞机蒙皮损伤智能检测方法效果图。从图5可见,本检测方法对飞机蒙皮上的变形、划痕、腐蚀、铆钉损伤和掉漆共5大类别损伤都可以检测到,且精度已达到飞机蒙皮损伤检测网络模型的预期效果,因此可以正确辅助机务维修人员展开维修工作。
上述结合附图对于本发明的具体实施方式作了详细说明,但这些说明中方式方法不属于限制本发明保护范围的条件,本发明的保护范围具体由随附的权利要求书限定。
Claims (6)
1.一种基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:所述检测方法包括按顺序进行下列步骤:
步骤1)构建原始飞机蒙皮图像样本数据集:利用相机采集多帧具有蒙皮损伤的飞机蒙皮原始图像,将每一帧飞机蒙皮原始图像作为一个样本,由所有飞机蒙皮原始图像构成原始飞机蒙皮图像样本数据集;
步骤2)构建高质量飞机蒙皮图像样本数据集:对上述原始飞机蒙皮图像样本数据集中的所有飞机蒙皮原始图像进行筛选,由筛选后的清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集;
步骤3)构建飞机蒙皮损伤图像样本数据集:将上述高质量图像样本数据集中的清晰飞机蒙皮原始图像进行损伤标注,依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆,由带有标签的清晰飞机蒙皮原始图像构成飞机蒙皮损伤图像样本数据集,并将飞机蒙皮损伤图像样本数据集按9∶1的比例分为训练集和测试集;
步骤4)构建飞机蒙皮表面图像采集系统:所述的飞机蒙皮表面图像采集系统包括无人机(1)、远程遥控装置(2)、云台相机(3)、数据传输系统(4)和计算机(5);其中,远程遥控装置(2)分别与无人机(1)和计算机(5)无线连接,由检测人员操纵,用于控制无人机(1)的飞行;云台相机(3)搭载在无人机(1)上,用于采集图像;数据传输系统(4)分别与云台相机(3)和计算机(5)无线连接,用于云台相机(3)和计算机(5)之间的图像传输;机算机(5)用于储存和处理图像;
步骤5)规划无人机绕检方案:根据不同飞机机身结构以及采集图像的效果在计算机(5)上确定好无人机(1)的绕检飞机路径、绕检高度及扫描区域,进而确定出重要目标拍摄点;
步骤6)利用飞机蒙皮表面图像采集系统采集待测飞机蒙皮图像,获得飞机蒙皮损伤待测数据集:由检测人员操纵无人机(1)在上述确定的绕检高度下按照绕检飞机路径进行飞行,在飞行过程中利用其搭载的云台相机(3)拍摄每一个目标拍摄点附近的小区域高分辨率图像作为待测图像并通过数据传输系统(4)传输给计算机(5)并存储,同时将云台相机(3)在机身上的扫描区域位置信息通过数据传输系统(4)传输给计算机(5)并存储,由所有待测图像构成飞机蒙皮损伤待测数据集;
步骤7)构建飞机蒙皮损伤检测网络模型并输入飞机蒙皮损伤图像样本数据集进行训练和验证,获得训练好的飞机蒙皮损伤检测网络模型:
步骤8)利用训练好的飞机蒙皮损伤检测网络模型对飞机蒙皮损伤待测数据集进行自动检测。
2.根据权利要求1所述的基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:在步骤1)中,所述采集多帧具有蒙皮损伤的飞机蒙皮原始图像的具体方法是:利用高清晰度高帧率相机,在距离飞机蒙皮1-2米的范围内,从多个角度多个焦距采集多帧具有蒙皮损伤的飞机蒙皮原始图像。
3.根据权利要求1所述的基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:在步骤2)中,所述构建高质量飞机蒙皮图像样本数据集的具体方法是:对飞机蒙皮原始图像进行筛选,保留损伤能够达到可辨认程度的清晰飞机蒙皮原始图像,由这些清晰飞机蒙皮原始图像构成高质量飞机蒙皮图像样本数据集。
4.根据权利要求1所述的基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:在步骤3)中,所述构建飞机蒙皮损伤图像样本数据集的具体方法是:利用labellmg.exe图像处理软件对清晰飞机蒙皮原始图像中的损伤进行标注,首先依据飞机维修手册将损伤分为5大类别:变形、划痕、腐蚀、铆钉损伤和掉漆并定义标签分别为:deform、scratch、rush、rivet_damage、paint_peel;然后进行手动标注,标注方式遵循统一的标注规则:规则1:采用方形标注框,对清晰飞机蒙皮原始图像中出现的所有损伤分别进行标注且标注框不能太大;规则2:将凹坑、结构变形、撞击均视为变形损伤;规则3:当清晰飞机蒙皮原始图像中出现多处划痕损伤时应分别标注,当划痕损伤较大时应使用多个均匀的小标注框进行分段标注;规则4:当蒙皮接缝处出现腐蚀损伤时应采用多个小标注框进行标注;规则5:将一切出现在铆钉上的损伤均视为铆钉损伤且每个铆钉损伤要单独标注;规则6:当出现由于其他原因造成蒙皮表面颜色改变也视作掉漆损伤;最后将带有标签的清晰飞机蒙皮原始图像保存为xml格式。
5.根据权利要求1所述的基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:在步骤7)中,所述飞机蒙皮损伤检测网络模型包括主干特征提取层、空间金字塔池化层、路径聚合层和两个全连接层;
训练和验证具体方法是:首先将飞机蒙皮损伤图像样本数据集中的训练集输入上述飞机蒙皮损伤检测网络模型中进行训练;将训练集中带有标签的清晰飞机蒙皮原始图像作为样本统一处理成608×608像素的大小,同时使用Mosaic数据增强方法增加样本多样性,训练过程中超参数设定为100个epoch迭代,并且在每一轮的数据迭代开始启动Mosaic数据增强,迭代过程分为两部分,前50次epoch训练在冻结部分参数后,学习率设为0.001,样本数设置为4,则每个epoch迭代次数为1314次,权重衰减系数为0.0005,解冻参数后继续进行后50次epoch迭代,学习率设为0.0001,样本数设置为2,每个epoch迭代次数为2627次,经过100个epoch迭代训练后飞机蒙皮损伤检测网络模型已基本收敛,此时训练损失值为6.4281;获得训练后的飞机蒙皮损伤检测网络模型;
然后将飞机蒙皮损伤图像样本数据集中的测试集输入上述训练后的飞机蒙皮损伤检测网络模型进行验证;根据预测结果中损伤识别框、损伤类别和置信度信息获得飞机蒙皮损伤检测网络模型的准确率和召回率,之后计算出检测精度值AP及平均精度值mAP,当平均精度值mAP达到设定平均精度值mAP时,获得训练好的飞机蒙皮损伤检测网络模型;具体步骤如下:
首先根据预测结果计算出准确率Precision和召回率Recal,计算公式为:
其中,TP表示正确预测为正样本的数量;TN表示正确预测为负样本的数量;FP表示错误预测为正样本的数量;FN表示错误预测为负样本的数量;
然后以召回率Recal作为横坐标,以准确率Precision作为纵坐标,绘制Recal-Precision曲线,即PR曲线,对于PR曲线,检测精度值AP的计算公式为:
AP=∫p(r)dr
检测精度值AP用于评估飞机蒙皮损伤检测网络模型在单个损伤类别上的精确度,通过下式进一步计算出平均精度值mAP:
其中,∑AP表示所有损伤类别的检测精度值AP总和,N表示损伤类别数。
6.根据权利要求1所述的基于无人机视觉的飞机蒙皮损伤智能检测方法,其特征在于:在步骤8)中,所述利用训练好的飞机蒙皮损伤检测网络模型对飞机蒙皮损伤待测数据集进行自动检测的具体方法是:
将步骤6)获得的飞机蒙皮损伤待测数据集输入训练好的飞机蒙皮损伤检测网络模型进行自动检测,训练好的飞机蒙皮损伤检测网络模型将自动输出包括飞机蒙皮的损伤类别以及置信度在内的信息,从而机务维修人员能根据这些信息和步骤6)获得的扫描区域位置迅速对飞机蒙皮上出现的损伤展开维修。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110995923.5A CN113744230B (zh) | 2021-08-27 | 2021-08-27 | 一种基于无人机视觉的飞机蒙皮损伤智能检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110995923.5A CN113744230B (zh) | 2021-08-27 | 2021-08-27 | 一种基于无人机视觉的飞机蒙皮损伤智能检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113744230A CN113744230A (zh) | 2021-12-03 |
CN113744230B true CN113744230B (zh) | 2023-09-05 |
Family
ID=78733471
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110995923.5A Active CN113744230B (zh) | 2021-08-27 | 2021-08-27 | 一种基于无人机视觉的飞机蒙皮损伤智能检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113744230B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116523754A (zh) * | 2023-05-10 | 2023-08-01 | 广州民航职业技术学院 | 一种飞机蒙皮损伤自动识别图像质量增强方法及系统 |
CN116542891B (zh) * | 2023-05-12 | 2024-06-21 | 广州民航职业技术学院 | 一种高分辨率飞机蒙皮表面损伤图像合成方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102355569A (zh) * | 2011-05-30 | 2012-02-15 | 南京航空航天大学 | 基于无线机器视觉的飞机蒙皮结构监测方法 |
CN110673641A (zh) * | 2019-10-28 | 2020-01-10 | 上海工程技术大学 | 一种基于无人机的客机智能维护巡检系统平台 |
WO2020119103A1 (zh) * | 2018-12-13 | 2020-06-18 | 程琳 | 基于深度学习的航空发动机孔探图像损伤智能识别方法 |
CN112362677A (zh) * | 2020-11-27 | 2021-02-12 | 上海工程技术大学 | 一种用于无人机检测飞机表面缺陷的5g图像实时传输系统 |
CN112712565A (zh) * | 2020-12-28 | 2021-04-27 | 中国民航大学 | 基于视觉与imu融合的飞机蒙皮损伤无人机绕检定位方法 |
-
2021
- 2021-08-27 CN CN202110995923.5A patent/CN113744230B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102355569A (zh) * | 2011-05-30 | 2012-02-15 | 南京航空航天大学 | 基于无线机器视觉的飞机蒙皮结构监测方法 |
WO2020119103A1 (zh) * | 2018-12-13 | 2020-06-18 | 程琳 | 基于深度学习的航空发动机孔探图像损伤智能识别方法 |
CN110673641A (zh) * | 2019-10-28 | 2020-01-10 | 上海工程技术大学 | 一种基于无人机的客机智能维护巡检系统平台 |
CN112362677A (zh) * | 2020-11-27 | 2021-02-12 | 上海工程技术大学 | 一种用于无人机检测飞机表面缺陷的5g图像实时传输系统 |
CN112712565A (zh) * | 2020-12-28 | 2021-04-27 | 中国民航大学 | 基于视觉与imu融合的飞机蒙皮损伤无人机绕检定位方法 |
Non-Patent Citations (1)
Title |
---|
基于后方定位的飞机蒙皮损伤视觉检测全局三维重建方法;吴军;李鑫;刘少禹;李雁玲;于之靖;光学学报(第011期);131-139 * |
Also Published As
Publication number | Publication date |
---|---|
CN113744230A (zh) | 2021-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113744230B (zh) | 一种基于无人机视觉的飞机蒙皮损伤智能检测方法 | |
CN109977813B (zh) | 一种基于深度学习框架的巡检机器人目标定位方法 | |
CN105373135B (zh) | 一种基于机器视觉的飞机入坞引导和机型识别的方法及系统 | |
CN107709158A (zh) | 用于自动检查表面的系统和方法 | |
CN109166094A (zh) | 一种基于深度学习的绝缘子故障定位识别方法 | |
CN104463249B (zh) | 一种基于弱监督学习框架的遥感图像机场检测方法 | |
CN112818768B (zh) | 一种基于元学习的变电站改扩建违章行为智能化识别方法 | |
CN114281093B (zh) | 一种基于无人机电力巡检的缺陷检测系统及方法 | |
CN113155880A (zh) | 一种采用无人机和xrf技术对土壤重金属污染的检测方法 | |
CN109872317A (zh) | 一种基于电力设备缺陷识别学习模型的缺陷识别方法 | |
CN115861855A (zh) | 一种光伏电站的运维监测方法及系统 | |
CN109159113A (zh) | 一种基于视觉推理的机器人作业方法 | |
Minghui et al. | Deep learning enabled localization for UAV autolanding | |
CN116258980A (zh) | 一种基于视觉的无人机分布式光伏电站巡检方法 | |
CN104573285A (zh) | 一种基于飞行员动作特征的驾驶舱布局设计方法 | |
CN113205039A (zh) | 基于多dcnn网络的电力设备故障图像识别勘灾系统及方法 | |
CN108230313B (zh) | 基于部件自适应选择与判别模型的sar图像目标检测方法 | |
WO2022247597A1 (zh) | 一种基于无人机的papi飞行校验方法和系统 | |
CN116310891A (zh) | 一种云边协同输电线路缺陷智能检测系统和方法 | |
CN114677339A (zh) | 一种引入注意力机制的输电线路螺栓脱销缺陷检测方法 | |
Yixuan et al. | Aeroengine blade surface defect detection system based on improved faster RCNN | |
CN109543533B (zh) | 一种用于机场作业人员管理的自动识别方法 | |
CN110490168A (zh) | 基于目标检测与骨骼点算法的机场迎机人员行为监测方法 | |
CN112377332B (zh) | 一种基于计算机视觉的火箭发动机极性测试方法及系统 | |
CN113569644A (zh) | 一种基于机器视觉的机场鸟类目标检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |