发明内容
本发明提供了一种轻量化输电线路缺陷检测方法和装置,解决了现有的应用无人机技术进行输电线路缺陷检测方法中,会存在模型的体积过大和推理速度较慢等问题,阻碍了将自动化缺陷检测模型部署进计算能力受限的无人机平台,进而导致一些现场实时巡检工作难以开展的技术问题。
本发明第一方面提供的一种轻量化输电线路缺陷检测方法,应用于边缘计算平台,所述边缘计算平台搭载于无人机,所述边缘计算平台与巡检控制中心通信连接,方法包括:
当接收到输电线路图像集时,对所述输电线路图像集进行图像预处理,生成样本集;
构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对所述目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型;
采用所述样本集对所述初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将所述目标轻量化紧凑模型部署于所述边缘计算平台;
通过所述目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至所述巡检控制中心。
可选地,所述当接收到输电线路图像集时,对所述输电线路图像集进行图像预处理,生成样本集的步骤,包括:
当接收到输电线路图像集时,对所述输电线路图像集进行清洗操作,生成第一预处理图像数据;
对所述第一预处理图像数据中的目标特征进行标注操作,并提取所述目标特征对应的特征区域,生成目标特征区域图像;
对所述目标特征区域图像进行格式转换操作,生成第二预处理图像数据;
采用所述第一预处理图像数据和所述第二预处理图像数据生成样本集。
可选地,所述构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对所述目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型的步骤,包括:
采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络进行耦合,构建目标检测基准模型;
采用预设特征图信息评估剪枝策略对所述目标检测基准模型进行剪枝,生成具有第一过滤器数量的第一剪枝模型;
基于预设NS剪枝策略,对所述目标检测基准模型进行剪枝,生成具有第二过滤器数量的第二剪枝模型;
比较所述第一过滤器数量与所述第二过滤器数量;
若所述第一过滤器数量大于所述第二过滤器数量,则将所述第二剪枝模型作为初始轻量化紧凑模型;
若所述第一过滤器数量小于所述第二过滤器数量,则将所述第一剪枝模型作为所述初始轻量化紧凑模型。
可选地,所述采用预设特征图信息评估剪枝策略对所述目标检测基准模型进行剪枝,生成具有第一过滤器数量的第一剪枝模型的步骤,包括:
采用预设第一剪枝样本集输入所述目标检测基准模型,生成多个卷积特征图;
计算各所述卷积特征图关联的多个像素概率值;
采用多个所述像素概率值,确定对应的多个特征熵值;
采用多个所述特征熵值,生成多个所述卷积特征图关联的过滤器的初始重要性评估值;
从多个所述初始重要性评估值中选取最大值和最小值,确定各所述卷积特征图关联的过滤器的目标重要性评估值;
比较各所述目标重要性评估值与关联的预设标准重要性评估值;
若所述目标重要性评估值大于所述预设标准重要性评估值,则将所述目标检测基准模型内所述目标重要性评估值关联的过滤器进行保留,生成第一过滤器数量的第一剪枝模型。
可选地,所述基于预设NS剪枝策略,对所述目标检测基准模型进行剪枝,生成具有第二过滤器数量的第二剪枝模型的步骤,包括:
采用稀疏惩罚项加入目标检测基准模型,生成NS剪枝模型;
采用预设第二剪枝样本集输入所述NS剪枝模型,生成多个NS特征图;
根据多个所述NS特征图,确定各所述NS特征图关联的过滤器的目标缩放因子参数;
比较各所述目标缩放因子参数与关联的预设标准缩放因子参数;
若所述目标缩放因子参数大于或等于所述预设标准缩放因子参数,则将所述NS剪枝模型内所述目标缩放因子参数关联的过滤器进行保留,生成第二过滤器数量的第二剪枝模型。
可选地,所述方法还包括:
采用预设测试样本集输入所述初始轻量化紧凑模型进行模型训练,根据测试结果生成对应的测试指标,其中,所述测试指标包括目标计算量、目标参数量和目标精度;
比对所述测试指标与预设标准指标条件;
若所述测试指标满足所述预设标准指标条件,则停止训练,生成目标轻量化紧凑模型;
若所述测试指标不满足所述预设标准指标条件,则按照预设梯度调整所述初始轻量化紧凑模型的网络参数;
跳转执行所述构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对所述目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型的步骤,直至所述测试指标满足所述预设标准指标条件,优化所述目标轻量化紧凑模型。
可选地,所述通过所述目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至所述巡检控制中心的步骤,包括:
通过所述目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测;
若未标识出所述待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路不存在缺陷;
若标识出所述待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路存在缺陷,并提取所述目标缺陷框图内的缺陷位置信息和缺陷类别信息;
根据所述无人机的航点数据提取所述待检测输电线路的坐标信息,将目标缺陷的所述缺陷位置信息、所述缺陷类别信息和所述坐标信息发送至所述巡检控制中心。
本发明第二方面提供的一种轻量化输电线路缺陷检测装置,应用于边缘计算平台,所述边缘计算平台搭载于无人机,所述边缘计算平台与巡检控制中心通信连接,装置包括:
数据预处理模块,用于当接收到输电线路图像集时,对所述输电线路图像集进行图像预处理,生成样本集;
剪枝模块,用于构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对所述目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型;
模型训练模块,用于采用所述样本集对所述初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将所述目标轻量化紧凑模型部署于所述边缘计算平台;
缺陷检测模块,用于通过所述目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至所述巡检控制中心。
可选地,所述数据预处理模块包括:
第一预处理图像数据子模块,用于当接收到输电线路图像集时,对所述输电线路图像集进行清洗操作,生成第一预处理图像数据;
目标特征区域图像子模块,用于对所述第一预处理图像数据中的目标特征进行标注操作,并提取所述目标特征对应的特征区域,生成目标特征区域图像;
第二预处理图像数据子模块,用于对所述目标特征区域图像进行格式转换操作,生成第二预处理图像数据;
样本集子模块,用于采用所述第一预处理图像数据和所述第二预处理图像数据生成样本集。
可选地,所述剪枝模块包括:
目标检测基准模型子模块,用于采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络进行耦合,构建目标检测基准模型;
第一剪枝模型子模块,用于采用预设特征图信息评估剪枝策略对所述目标检测基准模型进行剪枝,生成具有第一过滤器数量的第一剪枝模型;
第二剪枝模型子模块,用于基于预设NS剪枝策略,对所述目标检测基准模型进行剪枝,生成具有第二过滤器数量的第二剪枝模型;
过滤器数量比较子模块,用于比较所述第一过滤器数量与所述第二过滤器数量;
第一模型确定子模块,用于若所述第一过滤器数量大于所述第二过滤器数量,则将所述第二剪枝模型作为初始轻量化紧凑模型;
第二模型确定子模块,用于若所述第一过滤器数量小于所述第二过滤器数量,则将所述第一剪枝模型作为所述初始轻量化紧凑模型。
从以上技术方案可以看出,本发明具有以下优点:
1、提出使用高效率的目标轻量化紧凑模型对输电线路中的部件进行缺陷检测,并对目标轻量化紧凑模型应用剪枝使模型轻量化,最终模型能够部署在无人机边缘计算平台上完成实时缺陷检测。
2、设计基于特征图信息评估的剪枝方法,通过计算卷积层输出特征图的熵值可以度量对应过滤器的重要性评估值,并作为剪枝的依据,剪枝后模型仅保留对提升模型精度有重要作用的过滤器。
3、将基于特征图信息评估的剪枝方法和NS剪枝方法联合使用提出了协同剪枝策略,维持各卷积层之间的剪枝平衡性,使得网络能更合理地压缩参数量和计算量,在维持模型精度的前提下最大限度地裁剪冗余过滤器。
4、根据CSPDarknet53网络中的模块结构,定义需要剪枝的卷积层位置,保证模型网络结构的合理性。
具体实施方式
本发明实施例提供了一种轻量化输电线路缺陷检测方法和装置,用于解决现有的应用无人机技术进行输电线路缺陷检测方法中,会存在模型的体积过大和推理速度较慢等问题,阻碍了将自动化缺陷检测模型部署进计算能力受限的无人机平台,进而导致一些现场实时巡检工作难以开展的技术问题。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,下面所描述的实施例仅仅是本发明一部分实施例,而非全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
请参阅图1,图1为本发明实施例一提供的一种轻量化输电线路缺陷检测方法的步骤流程图。
本发明提供的一种轻量化输电线路缺陷检测方法,应用于边缘计算平台,边缘计算平台搭载于无人机,边缘计算平台与巡检控制中心通信连接,方法包括:
边缘计算平台,指的是Jetson TX2边缘计算平台,用于搭载在无人机上,通过无人机获取的图像数据,从而完成数据处理的计算平台。
巡检控制中心,指的是巡检人员的中控平台,用于接收边缘计算平台完成处理后的数据。
无人机,指的是用于获取输电线路图像的飞行无人机。
步骤101,当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集。
输电线路图像集,指的是通过无人机巡检获取输电线路来采集多场景下的图像数据构建而成的图像集。
图像预处理,指的是将获取的图像数据进行分拣、清洗亮度异常、噪声较大和图像模糊的数据、然后再进行标注操作。
在本实施例中,当接收到无人机传输来的输电线路图像集时,对输电线路图像集进行分拣、清洗亮度异常、噪声较大和图像模糊的数据、然后再进行标注操作,生成样本集。
步骤102,构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型。
目标监测基准模型,指的是采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络进行耦合构建而成的基准模型。
预设剪枝条件,指的是用于从多个剪枝策略中确定目标协同剪枝策略的筛选条件。
在本实施例中,采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络构建目标监测基准模型,根据预设剪枝条件确定目标协同剪枝策略,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,剪枝操作完成后的模型作为初始轻量化紧凑模型。
步骤103,采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台。
在本实施例中,根据图像预处理得到的样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台。
步骤104,通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至巡检控制中心。
值得一提的是,将目标轻量化紧凑模型部署于边缘计算平台中。
值得一提的是,目标轻量化紧凑模型采用无锚框方式对待识别输电线路图像进行缺陷检测,极大地减少了冗余的预测框结果数量,实现高效率检测。
在本实施例中,当无人机采集到待识别输电线路图像时,通过边缘计算平台内的目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,解析目标特征图像,若未标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路不存在缺陷;若标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路存在缺陷,并提取目标缺陷框图内的缺陷位置信息和缺陷类别信息,根据无人机的航点数据提取待检测输电线路的坐标信息,将缺陷位置信息、缺陷类别信息和坐标信息发送至巡检控制中心。
在本发明中,当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集,构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型,采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台,通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至巡检控制中心;解决了现有的应用无人机技术进行输电线路缺陷检测方法中,会存在模型的体积过大和推理速度较慢等问题,阻碍了将自动化缺陷检测模型部署进计算能力受限的无人机平台,进而导致一些现场实时巡检工作难以开展的技术问题;本发明以高效率模型YOLOX作为目标检测基准模型。为了使目标轻量化紧凑模型可以部署在无人机边缘计算平台上实现实时缺陷检测,结合基于特征图信息评估的剪枝方法和NS剪枝方法构建协同剪枝策略对目标检测基准模型进行模型压缩。通过剪除模型中冗余的过滤器,在维持模型精度的前提下实现模型轻量化,保证剪枝处理后的紧凑模型可以在计算资源有效的无人机边缘计算平台中运行。本专利所提的协同剪枝策略能够显著减小网络模型的规模,使高性能大规模的模型部署进边缘计算平台,具有极大的可拓展性。
请参阅图2,图2为本发明实施例二提供的一种轻量化输电线路缺陷检测方法的步骤流程图。
本发明提供的一种轻量化输电线路缺陷检测方法,应用于边缘计算平台,边缘计算平台搭载于无人机,边缘计算平台与巡检控制中心通信连接,方法包括:
步骤201,当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集。
进一步地,步骤201可以包括以下子步骤:
S11、当接收到输电线路图像集时,对输电线路图像集进行清洗操作,生成第一预处理图像数据。
在本实施例中,当接收到输电线路图像集时,对输电线路图像集进行分拣,清洗亮度异常、噪声较大和图像模糊的数据,进而生成第一预处理图像数据。
S12、对第一预处理图像数据中的目标特征进行标注操作,并提取目标特征对应的特征区域,生成目标特征区域图像。
在本实施例中,利用标注工具,对第一预处理图像数据中的金具部件和缺陷目标进行划分特征区域,将标注的多个特征区域生成多个目标特征区域图像。
值得一提的是,金具主要包括绝缘子、防震锤、悬垂线夹等中小型部件,缺陷目标包括绝缘子自爆、防震锤脱落、防震锤移位、鸟巢异物等复杂缺陷目标。
S13、对目标特征区域图像进行格式转换操作,生成第二预处理图像数据。
在本实施例中,对目标特征区域图像以VOC数据格式保存成xml标签文件,而xml标签文件则为第二预处理图像数据。
S14、采用第一预处理图像数据和第二预处理图像数据生成样本集。
在本实施例中,将第一预处理图像数据和第二预处理图像数据按照4:1的数量比例划分出训练样本集和测试样本集,进而生成样本集。
步骤202,构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型。
进一步地,步骤202可以包括以下子步骤:
S21、采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络构建目标检测基准模型。
如图3所示,其主干网络中加入了空间金字塔池化层,生成预设空间金字塔主干网络,能够加网络感受野,在小目标检测上具有一定优势,更有利于检测输电线路巡检场景中的小尺寸缺陷目标。
预设空间金字塔主干网络由Focus层和CSPDarknet53网络组成:Focus层首先将原始输入尺寸为640×640的图像进行切片操作,拼接后,再经过一次卷积操作,最终生成320×320的特征图输入Darknet53网络进行特征提取,得到3层待输入特征融合网络的特征图,尺寸分别为80×80、40×40以及20×20。
预设特征融合网络通过利用特征金字塔FPN+PAN结构,将3层特征图进行强语义和强定位的特征融合,其中FPN结构以自深向浅的方式将深层的语义特征传到浅层,来增强多个尺度上的语义表达,而PAN结构则将浅层的定位信息传递到深层,来增强在多个尺度上的定位能力。
预设解耦头预测网络采用了解耦头结构,将输入的已融合特征图平行分成两路卷积特征,分别处理分类和回归任务,并通过无锚点方式预测结果,完成初步的筛选,再利用SimOTA算法对预测结果进行精细化筛选,得到最终的预测结果。
在本实施例中,采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络构建目标检测基准模型。
S22、采用预设特征图信息评估剪枝策略对目标检测基准模型进行剪枝,生成具有第一过滤器数量的第一剪枝模型。
值得一提的是,预设特征图信息评估剪枝策略指的是基于特征图信息评估的剪枝方法,特征图所包含的特征信息能反映出对应的过滤器的提取能力,捕获更有用的信息,因此设计基于特征图信息评估的剪枝方法。通过计算特征图的熵值可以度量对应过滤器的重要性评估值,重要性评估值越高,说明卷积得到的特征图所包含的特征信息越丰富,其过滤器就越重要。若过滤器的重要性评估值低于阈值则进行剪枝操作,仅保留对提升模型精度有重要作用的过滤器。
进一步地,S22可以包括以下子步骤:
S211、采用预设第一剪枝样本集输入目标检测基准模型,生成多个卷积特征图。
预设第一剪枝样本数据,指的是用于训练目标检测基准模型的参数数据。
在本实施例中,采用预设第一剪枝样本集输入目标检测基准模型进行训练,通过目标检测基准模型的卷积层输出多个卷积特征图。
S212、计算各卷积特征图关联的多个像素概率值。
值得一提的是,利用改进后的softmax函数凸显特征图的特征信息,抑制干扰信息,这样有利于过滤器重要性评估。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,像素概率值的表达方式如下:
;
式中,表示卷积特征图上第i个像素的像素概率值,表示第i个像素的偏差平方值,表示卷积特征图的最大偏差平方值,表示第j个像素的偏差平方值,表示卷积特征图的像素数目。
;
;
式中,表示卷积特征图上第i个像素值,表示卷积特征图的像素均值。
;
式中,表示卷积特征图的像素数目。
在本实施例中,计算各卷积特征图关联的多个像素概率值,每个卷积特征图对应有多个像素概率值。
S213、采用多个像素概率值,确定对应的多个特征熵值。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,特征熵值的表达方式如下:
;
式中,表示特征熵值。
在本实施例中,计算每个卷积特征图对应的多个特征熵值。
S214、采用多个特征熵值,生成多个卷积特征图关联的过滤器的初始重要性评估值。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,初始重要性评估值的表达方式如下:
;
式中,表示初始重要性评估值,表示第f个特征图上的第j个熵值,表示卷积特征图关联的特征熵值总数。
在本实施例中,采用多个特征熵值,生成多个卷积特征图关联的过滤器的初始重要性评估值。
例如,将第l层第f通道的卷积特征图计算得到的M个特征熵值进行求和操作,作为第l层第f个过滤器的初始重要性评估值。
S215、从多个初始重要性评估值中选取最大值和最小值,确定各卷积特征图关联的过滤器的目标重要性评估值。
值得一提的是,由于不同层的熵值之间差距较大,直接使用M个批次的熵值总和作为卷积层的重要性评估值不利于跨层的熵值重要性比较,因此采用正则化运算,将重要性评估值归一化到0和1之间,有利于整个网络模型的熵值比较,实现全局剪枝。通过第l层特征图中重要性评估值的初始重要性评估值最小值和初始表示重要性评估值最大值计算正则化后的重要性评估值。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,目标重要性评估值的表达方式如下:
;
式中,表示目标重要性评估值,表示初始重要性评估值最小值,表示初始重要性评估值最大值。
在本实施例中,从多个初始重要性评估值中选取最大值作为初始表示重要性评估值最大值,从多个初始重要性评估值中选取最小值作为初始表示重要性评估值最小值,确定各卷积特征图关联的过滤器的目标重要性评估值。
S216、比较各目标重要性评估值与关联的预设标准重要性评估值。
值得一提的是,设定标准重要性评估值,标准重要性评估值为设定阈值,采用特征图信息评估剪枝策略进行剪枝后,最终模型仅保留卷积层中重要性评估值大于的过滤器。
在本实施例中,比较各目标重要性评估值与关联的预设标准重要性评估值。
S217、若目标重要性评估值大于预设标准重要性评估值,则将目标检测基准模型内目标重要性评估值关联的过滤器进行保留,生成具有第一过滤器数量的第一剪枝模型。
在本实施例中,若目标重要性评估值大于预设标准重要性评估值,则将目标检测基准模型内目标重要性评估值关联的过滤器进行保留,并生成经过特征图信息评估剪枝策略进行剪枝后的第一过滤器数量的第一剪枝模型。
进一步地,S22还可以包括以下子步骤:
S218、若目标重要性评估值小于或等于预设标准重要性评估值,则将目标重要性评估值关联的过滤器进行筛除。
在本实施例中,若目标重要性评估值小于或等于预设标准重要性评估值,则将目标重要性评估值关联的过滤器进行筛除。
S23、基于预设NS剪枝策略,对目标检测基准模型进行剪枝,生成具有第二过滤器数量的第二剪枝模型。
值得一提的是,网络模型在训练的时候有可能发生梯度消失的现象,为了避免这种现象的发生,模型的每个卷积层后面都会使用一个批归一化(BN)层,其主要目的就是调整卷积层的输出特征图结果,使其服从均值等于0,方差等于1的标准正态分布。
本发明所引用的NS剪枝方法主要基于BN层原理,在模型训练时,将稀疏惩罚项加入目标检测基准模型的损失函数,对缩放因子做稀疏化正则,公式如下,其中为惩罚权重,为整个模型的缩放因子集合。
进一步地,S23可以包括以下子步骤:
S221、采用稀疏惩罚项加入目标检测基准模型,生成NS剪枝模型。
在本实施例中,采用稀疏惩罚项加入目标检测基准模型,生成含有新的损失函数的NS剪枝模型,该新的损失函数为。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,NS剪枝模型的损失函数的表达方式如下:
;
式中,表示NS剪枝模型的损失函数,表示目标检测基准模型的损失函数了,表示模型的缩放因子集合,表示惩罚权重,表示目标缩放因子参数。
值得一提的是,表示引入稀疏惩罚项后的目标检测基准模型的损失函数,也即NS剪枝模型的损失函数,表示未引入稀疏惩罚项前的目标检测基准模型的损失函数。
值得一提的是,因为目标缩放因子参数是一个可以训练的参数,所以训练结束后每一个目标缩放因子参数都是不一样的数值,因为将稀疏惩罚项加入到总的模型损失函数中了,所以就能够去通过训练调整目标缩放因子参数的数值。
S222、采用预设第二剪枝样本集输入NS剪枝模型,生成多个NS特征图。
预设第二剪枝样本数据,指的是用于训练NS剪枝模型的参数数据。
在本实施例中,采用预设第二剪枝样本集输入NS剪枝模型进行训练,通过NS剪枝模型的卷积层输出多个NS特征图。
S223、根据多个NS特征图,确定各NS特征图关联的过滤器的目标缩放因子参数。
值得一提的是,BN操作的另一个重要步骤就是通过缩放因子对正态分布特征图进行缩放,在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,NS剪枝模型的损失函数的表达方式如下:
;
式中,表示经过缩放后的NS特征图,表示归一化后的第f个NS特征图,表示目标缩放因子参数。
在本实施例中,根据多个NS特征图,确定各NS特征图关联的过滤器的目标缩放因子参数。
值得一提的是,NS特征图中的每个NS像素值经过BN层后都会发生变化,内的NS像素值的总和越小表示该NS特征图提取到的信息越无效,表明该NS特征图所对应的过滤器不重要,又由于的NS像素值大小与目标缩放因子参数成正比,因此可以通过的大小来衡量过滤器的重要性。内的像素值的总和计算公式如下,代表当前特征图上第i个像素值。
在具体实现中,为方便方法的实现,可以通过将上述过程转换为公式封装的形式,NS像素值和值的表达方式如下:
;
式中,表示NS像素值和值,表示NS特征图上第i个NS像素值。
S224、比较各目标缩放因子参数与关联的预设标准缩放因子参数。
值得一提的是,设定标准缩放因子参数,标准缩放因子参数为剪枝阈值,采用预设NS剪枝策略进行剪枝后,将网络模型内缩放因子小于的过滤器视为冗余的过滤器,可将其剪除而不会导致过多的精度损失。
在本实施例中,比较各目标缩放因子参数与关联的预设标准缩放因子参数。
S225、若目标缩放因子参数大于或等于预设标准缩放因子参数,则将NS剪枝模型内目标缩放因子参数关联的过滤器进行保留,生成具有第二过滤器数量的第二剪枝模型。
在本实施例中,若目标缩放因子参数大于或等于预设标准缩放因子参数,则将NS剪枝模型内目标缩放因子参数关联的过滤器进行保留,并生成经过NS剪枝策略进行剪枝后的第二过滤器数量的第二剪枝模型。
进一步地,S23还可以包括以下子步骤:
S226、若目标缩放因子参数小于预设标准缩放因子参数,则将NS剪枝模型内目标缩放因子参数关联的过滤器进行筛除。
在本实施例中,若目标缩放因子参数小于预设标准缩放因子参数,则将NS剪枝模型内目标缩放因子参数关联的过滤器进行筛除。
S24、比较第一过滤器数量与第二过滤器数量。
S25、若第一过滤器数量大于第二过滤器数量,则将第二剪枝模型作为初始轻量化紧凑模型。
在本实施例中,若第一过滤器数量大于第二过滤器数量,则将第二剪枝模型作为初始轻量化紧凑模型。
S26、若第一过滤器数量小于第二过滤器数量,则将第一剪枝模型作为初始轻量化紧凑模型。
在本实施例中,若第一过滤器数量小于第二过滤器数量,则将第一剪枝模型作为初始轻量化紧凑模型。
例如,使用两种剪枝策略分别对同一模型的卷积层进行剪枝,对于某一具有n个过滤器的卷积层,若执行特征图信息评估剪枝策略后保留m个过滤器,执行NS剪枝策略后剪除k个过滤器,则最终协同剪枝策略保留两种方法中最少过滤器的结果,即。
步骤203,采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台。
值得一提的是,在对目标检测基准模型使用协同剪枝策略之前,应提前定义整体模型中哪些卷积层需要进行剪枝。本发明采用YOLOX作为目标检测基准模型,对CSPDarknet53网络中的残差块(ResBlock)进行剪枝,残差模块由两个卷积单元(CBS)和一个求和操作(Add)组成,为了完成求和操作,输入残差块的特征图和第二个卷积单元输出的特征图的通道数需要保持一致,因此每个残差块的第二个卷积单元无法进行剪枝,即每个残差块仅对第一个卷积单元中的卷积层(Conv)进行剪枝。残差块结构图如图4所示。
进一步地,方法还包括以下步骤:
A1、采用预设测试样本集输入初始轻量化紧凑模型进行模型训练,根据测试结果生成对应的测试指标,其中,测试指标包括目标计算量、目标参数量和目标精度。
目标计算量,指的是模型所需的浮点计算次数FLOPs,反映了模型对硬件计算单元的需求。
目标参数量,指的是模型中的参数的总和,跟模型在磁盘中所需的空间大小直接相关。
目标精度,指的是模型进行输电线路缺陷检测的准确率,代表正确检测出的缺陷目标数占检测目标总数的百分比。
在本实施例中,采用预设测试样本集输入初始轻量化紧凑模型进行模型训练,根据测试结果生成对应的测试指标,其中,测试指标包括目标计算量、目标参数量和目标精度。
A2、比对测试指标与预设标准指标条件。
比对目标计算量与预设标准计算量。
比对目标参数量与预设标准参数量。
比对目标精度与预设标准精度。
在本实施例中,比对测试指标与预设标准指标条件。
A3、若测试指标满足预设标准指标条件,则停止训练,生成目标轻量化紧凑模型。
在本实施例中,若目标计算量小于或等于预设标准计算量、目标参数量小于或等于预设标准参数量和目标精度大于预设标准精度,则停止训练,生成目标轻量化紧凑模型。
在本实施例中,如图5所示,以现有的轻量化模型YOLOX-tiny作为对照模型,若在同一数据集下,通过协同剪枝后的模型缺陷检测精度低于对照模型,或计算量大于对照模型计算量的60%,或参数量大于对照模型参数量的60%,则该模型不符合期望,需重新进行剪枝、微调操作。
A4、若测试指标不满足预设标准指标条件,则按照预设梯度调整初始轻量化紧凑模型的网络参数。
在本实施例中,若目标计算量大于预设标准计算量或目标参数量大于预设标准参数量或目标精度小于或等于预设标准精度,则按照预设梯度调整初始轻量化紧凑模型的网络参数。
A5、跳转执行构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型的步骤,直至测试指标满足预设标准指标条件,优化目标轻量化紧凑模型。
在本实施例中,跳转执行构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型的步骤,直至测试指标符合预设标准指标条件。
步骤204,通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测。
在本实施例中,当无人机采集到待识别输电线路图像时,通过边缘计算平台内的目标轻量化紧凑模型进行缺陷检测。
值得一提的是,将目标轻量化紧凑模型部署于边缘计算平台如下所示:
1)采用训练样本集对初始轻量化紧凑模型进行训练,获得模型的weight权重文件和cfg配置文件。
2)将协同剪枝策略应用于目标检测基准模型实现模型轻量化,通过剪枝获取新的模型weight权重文件和cfg配置文件,并将weight权重文件和cfg文件解析成TensorRT支持格式文件,编写标轻量化紧凑模型的TensorRT推理网络,实现TensorRT加速。
主要模块内容包括(1)创建Builder;(2)创建Network;(3)创建Parser;(4)绑定输入、输出以及自定义组件;(5)序列化或反序列化;(6)传输计算数据(host到device);(7)执行计算;(8)传输计算结果(device到host)。
3)在边缘计算平台Jetson TX2上安装TensorRT所需环境包,加载步骤4-2中得到的TensorRT格式文件,通过CMakeList.txt来配置缺陷检测项目环境。使用cmake命令将CMakeList.txt转化为make所需要的Makefile文件。用make命令编译源码生成engine可执行程序文件,通过engine文件进行反序列化来执行推理网络即可实现在TX2平台上进行实时缺陷检测,完成模型部署。
步骤205,若未标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路不存在缺陷。
目标缺陷框图,指的是识别出待识别输电线路图像内存在缺陷时所生成的圈住目标缺陷的边框。
在本实施例中,若未标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路不存在缺陷。
步骤206,若标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路存在缺陷,并提取目标缺陷框图内的缺陷位置信息和缺陷类别信息。
缺陷位置信息,指的是待检测输电线路上出现目标缺陷的位置。
缺陷类别信息,指的是检测出的目标缺陷的具体缺陷类别。
坐标信息,指的是无人机获取待识别输电线路图像时记录的坐标信息,用于定位待检测输电线路的具体位置,以便于后续巡检人员的检修工作。
步骤207,根据无人机的航点数据提取待检测输电线路的坐标信息,将目标缺陷的缺陷位置信息、缺陷类别信息和坐标信息发送至巡检控制中心。
在本实施例中,若标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路存在缺陷,并提取目标缺陷框图内的缺陷位置信息和缺陷类别信息,根据无人机的航点数据提取待检测输电线路的坐标信息,将缺陷位置信息、缺陷类别信息和坐标信息发送至巡检控制中心。
通过预先训练好的目标轻量化紧凑模型识别待识别输电线路图像中的金具的位置信息和金具类型信息,并在识别出的金具的相应位置添加相应的金具类型标记和生成目标标识框图,此时已经得到待识别输电线路图像中出现的金具类型和位置信息,并根据各个金具的类型在金具所处位置匹配对应的颜色标识框;例如,绝缘子用红色标识框,防震锤用蓝色标识框。
通过预先训练好的目标轻量化紧凑模型判断每个目标标识框图中金具图像与关联的预设缺陷金具图像的目标重合度;
若目标重合度大于或等于预设标准重合度阈值,则将预设缺陷金具图像关联的缺陷类型作为目标缺陷,并生成目标缺陷框图,其中目标缺陷框图包含缺陷位置信息和缺陷类别信息;
若目标重合度小于预设标准重合度阈值,则判定该金具未出现缺陷。
在本发明中,当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集,构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型,采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台,通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至巡检控制中心;解决了现有的应用无人机技术进行输电线路缺陷检测方法中,会存在模型的体积过大和推理速度较慢等问题,阻碍了将自动化缺陷检测模型部署进计算能力受限的无人机平台,进而导致一些现场实时巡检工作难以开展的技术问题;本发明以高效率模型YOLOX作为目标检测基准模型。为了使目标轻量化紧凑模型可以部署在无人机边缘计算平台上实现实时缺陷检测,结合基于特征图信息评估的剪枝方法和NS剪枝方法构建协同剪枝策略对目标检测基准模型进行模型压缩。通过剪除模型中冗余的过滤器,在维持模型精度的前提下实现模型轻量化,保证剪枝处理后的紧凑模型可以在计算资源有效的无人机边缘计算平台中运行。本专利所提的协同剪枝策略能够显著减小网络模型的规模,使高性能大规模的模型部署进边缘计算平台,具有极大的可拓展性。
请参阅图6,图6为本发明实施例三提供的一种轻量化输电线路缺陷检测装置的结构框图。
本发明实施例提供了一种轻量化输电线路缺陷检测装置,应用于边缘计算平台,边缘计算平台搭载于无人机,边缘计算平台与巡检控制中心通信连接,装置包括:
数据预处理模块301,用于当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集。
剪枝模块302,用于构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型。
模型训练模块303,用于采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台。
缺陷检测模块304,用于通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至巡检控制中心。
进一步地,数据预处理模块301包括:
第一预处理图像数据子模块,用于当接收到输电线路图像集时,对输电线路图像集进行清洗操作,生成第一预处理图像数据。
目标特征区域图像子模块,用于对第一预处理图像数据中的目标特征进行标注操作,并提取目标特征对应的特征区域,生成目标特征区域图像。
第二预处理图像数据子模块,用于对目标特征区域图像进行格式转换操作,生成第二预处理图像数据。
样本集子模块,用于采用第一预处理图像数据和第二预处理图像数据生成样本集。
进一步地,剪枝模块302包括:
目标检测基准模型子模块,用于采用预设空间金字塔主干网络、预设特征融合网络和预设解耦头预测网络进行耦合,构建目标检测基准模型。
第一剪枝模型子模块,用于采用预设特征图信息评估剪枝策略对目标检测基准模型进行剪枝,生成具有第一过滤器数量的第一剪枝模型。
第二剪枝模型子模块,用于基于预设NS剪枝策略,对目标检测基准模型进行剪枝,生成具有第二过滤器数量的第二剪枝模型。
过滤器数量比较子模块,用于比较第一过滤器数量与第二过滤器数量。
第一模型确定子模块,用于若第一过滤器数量大于第二过滤器数量,则将第二剪枝模型作为初始轻量化紧凑模型。
第二模型确定子模块,用于若第一过滤器数量小于第二过滤器数量,则将第一剪枝模型作为初始轻量化紧凑模型。
进一步地,第一剪枝模型子模块包括:
卷积特征图单元,用于采用预设第一剪枝样本集输入目标检测基准模型,生成多个卷积特征图。
像素概率值单元,用于计算各卷积特征图关联的多个像素概率值。
特征熵值单元,用于采用多个像素概率值,确定对应的多个特征熵值。
初始重要性评估值单元,用于采用多个特征熵值,生成多个卷积特征图关联的过滤器的初始重要性评估值。
目标重要性评估值单元,用于从多个初始重要性评估值中选取最大值和最小值,确定各卷积特征图关联的过滤器的目标重要性评估值。
评估值比较单元,用于比较各目标重要性评估值与关联的预设标准重要性评估值。
第一过滤器处理单元,用于若目标重要性评估值大于预设标准重要性评估值,则将目标检测基准模型内目标重要性评估值关联的过滤器进行保留,生成第一过滤器数量的第一剪枝模型。
进一步地,第二剪枝模型子模块包括:
NS剪枝模型单元,用于采用稀疏惩罚项加入目标检测基准模型,生成NS剪枝模型。
NS特征图单元,用于采用预设第二剪枝样本集输入NS剪枝模型,生成多个NS特征图。
目标缩放因子参数单元,用于根据多个NS特征图,确定各NS特征图关联的过滤器的目标缩放因子参数。
缩放因子参数比较单元,用于比较各目标缩放因子参数与关联的预设标准缩放因子参数。
第二过滤器处理单元,用于若目标缩放因子参数大于或等于预设标准缩放因子参数,则将NS剪枝模型内目标缩放因子参数关联的过滤器进行保留,生成第二过滤器数量的第二剪枝模型。
进一步地,还包括:
测试指标模块,用于采用预设测试样本集输入初始轻量化紧凑模型进行模型训练,根据测试结果生成对应的测试指标,其中,测试指标包括目标计算量、目标参数量和目标精度;
指标比对模块,用于比对测试指标与预设标准指标条件;
第一数据处理模块,用于若测试指标满足预设标准指标条件,则停止训练,生成目标轻量化紧凑模型;
第二数据处理模块,用于若测试指标不满足预设标准指标条件,则按照预设梯度调整初始轻量化紧凑模型的网络参数;
跳转模块,用于跳转执行构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型的步骤,直至测试指标满足预设标准指标条件,优化目标轻量化紧凑模型。
进一步地,缺陷检测模块304包括:
解析子模块,用于通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测。
第一判定子模块,用于若未标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路不存在缺陷。
第二判定子模块,用于若标识出待识别输电线路图像内存在目标缺陷框图,则判定待检测输电线路存在缺陷,并提取目标缺陷框图内的缺陷位置信息和缺陷类别信息。
信息传输子模块,用于根据无人机的航点数据提取待检测输电线路的坐标信息,将目标缺陷的缺陷位置信息、缺陷类别信息和坐标信息发送至巡检控制中心。
在本发明中,当接收到输电线路图像集时,对输电线路图像集进行图像预处理,生成样本集,构建目标检测基准模型,根据预设剪枝条件,采用目标协同剪枝策略对目标检测基准模型进行剪枝操作,确定初始轻量化紧凑模型,采用样本集对初始轻量化紧凑模型进行模型训练,生成目标轻量化紧凑模型,并将目标轻量化紧凑模型部署于边缘计算平台,通过目标轻量化紧凑模型对待识别输电线路图像进行缺陷检测,将缺陷检测结果发送至巡检控制中心;解决了现有的应用无人机技术进行输电线路缺陷检测方法中,会存在模型的体积过大和推理速度较慢等问题,阻碍了将自动化缺陷检测模型部署进计算能力受限的无人机平台,进而导致一些现场实时巡检工作难以开展的技术问题;本发明以高效率模型YOLOX作为目标检测基准模型。为了使目标轻量化紧凑模型可以部署在无人机边缘计算平台上实现实时缺陷检测,结合基于特征图信息评估的剪枝方法和NS剪枝方法构建协同剪枝策略对目标检测基准模型进行模型压缩。通过剪除模型中冗余的过滤器,在维持模型精度的前提下实现模型轻量化,保证剪枝处理后的紧凑模型可以在计算资源有效的无人机边缘计算平台中运行。本专利所提的协同剪枝策略能够显著减小网络模型的规模,使高性能大规模的模型部署进边缘计算平台,具有极大的可拓展性。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。