CN116052024A - 基于轻量化目标识别神经网络模型的电力线路巡检方法 - Google Patents

Abstract

本发明提出了一种基于轻量化目标识别神经网络模型的电力线路巡检方法，包括步骤1：面向电网输电线路利用无人机巡检，通过无人机获取电网线路图像；步骤2：构建轻量化目标识别神经网络模型，将图像输入到轻量化目标识别神经网络模型中进行识别；步骤3：根据轻量化目标识别神经网络模型的输出得到电网线路图像的识别结果，所述识别结果包括电网线路的类别和故障位置。其考虑了嵌入式硬件算力，基于深度分离卷积网络，通过结合硬件算力的伯努利方程随机丢弃密度高的神经网络参数，同时兼顾识别准确率与速度保证无人机嵌入式模组的流畅运行；并对激活函数进行硬件化改造，降低了资源的占用率，使得计算速度更快，最终实现受限资源算力条件下的识别准确率与功耗的均衡。

Description

基于轻量化目标识别神经网络模型的电力线路巡检方法

技术领域

本发明涉及人工智能目标识别技术领域，具体涉及一种基于轻量化目标识别神经网络模型的电力线路巡检方法。

背景技术

随着电网维护工作量的增加，传统的输电线路和变电站的人工巡检己不能满足电网高效巡检的要求。为此，国家电网公司大力推广无人机线路巡检、机器人变电站巡视的应用工作，通过应用机器人、无人机等智能装备对电力设施进行实时数据采集与状态监测，及时发现缺陷，提升了电力维护和检修的效率，有效提高了电网状态管控能力和精益化管理水平，保障了电网安全稳定。近两年，国家电网采用小型旋翼无人机检查4825基塔，中型无人直升机检查832基塔，大型无人直升机检查562基塔，固定翼无人机检查4221.9km。初步建立了直升机、无人机、人工合作检查的新模式。

传统电力线路巡检常采用人工到位的方式，存在着人员需求大、工作总量多、工作效率低等问题，无人机的人机联动巡查可以达到对较长线路的大范围快速信息搜寻，同时根据搭载的可见光拍摄设备和红外、紫外热成像设备，可以拍摄电力线路及附加设备的图片信息，用来分析常见的线路上的故障隐患，这样就很大程度上加强了巡检线路的可行性和效率。

近年来，基于深度学习的计算机视觉算法一直在快速发展，并在电力、能源动力等领域得到广泛应用。总体来看，目前智能电网广泛使用的目标检测模型可以分类两类Two-Stage和One-Shot：

Two-stage是将目标检测过程分为两步，首先在目标图像上生成多个区域预选框，然后对预选框内的目标区域进行分类与坐标回归。典型的Two-Stage算法如R-CNN系列算法及其相关变体。Two-Stage方法虽然识别精度高，但算法运行耗时长。

One-Shot省去了预选框生成过程，直接在图像上实现分类与坐标回归任务。典型的One-Shot算法如YOLO(You Only Look Once)系列算法。One-Shot方法虽然运行耗时短，但识别精度略差。

这些基于CNN的高性能计算机视觉系统，都需要极大的内存和计算资源消耗，因此只能在高端GPU设备上实时运行，不适用于无人机等受限资源(功耗、时延、重量)边缘侧终端。因此，为了能使其应用于无人机等边缘侧设备端，需要降低深度神经网络的计算复杂度，消除神经网络中的冗余结构。

发明内容

针对上述存在的问题，本发明提出了一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其构建了一种超轻量超快速自适应特征融合电力目标识别网络，达到检测精度和速度的平衡，实现实时识别输电电网线路的类别和故障位置。

实现本发明目的的技术解决方案为：

一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，包括以下步骤：

步骤1：面向电网输电线路利用无人机巡检，通过无人机获取电网线路图像，并对得到的图像进行预处理；

步骤2：构建轻量化目标识别神经网络模型，将电网线路图像输入到轻量化目标识别神经网络模型中进行识别；

步骤3：根据轻量化目标识别神经网络模型的输出得到电网线路图像的识别结果，所述识别结果包括电网线路的类别和故障位置。

进一步地，步骤2所述的轻量化目标识别神经网络模型包括输入层、深度可分离卷积网络层、剪枝模块、池化层、全连接层以及输出层，所述输入层与深度可分离卷积网络层相连，深度可分离卷积网络层与池化层交替相连，且每个深度可分离卷积网络层后连接一个剪枝模块，全连接层与最后一个池化层相连，输出层与全连接层相连。

进一步地，所述剪枝模块以概率P_drop随机丢弃冗余神经元节点，所述概率通过引入算力影响因子来计算：

其中，N_tops是电力线路巡检时使用的无人机的嵌入式硬件的算力，A_tops是目标识别网络模型训练时用到的算力。

进一步地，所述剪枝模块将深度可分离卷积网络层产生的权重参数经以概率P_drop随机丢弃冗余神经元节点后，得到的权重参数W_k,drop为：

W_k,drop＝β_kW_k  (2)

β_k＝Ber(1-P_drop)  (3)

其中，W_k是传统方法中以概率P丢弃时的深度可分离卷积层的权重参数；Ber表示伯努利方程；β_k表示采用伯努利方程产生的随机二数值，该随机二数值为0或1。

进一步地，所述深度可分离卷积层后还连接有改进的硬件激活函数：

其中，λ是跟嵌入式模组算力相关的系数，且λ的计算公式为：

λ＝0.5*P_drop  (5)。

有益效果：

本发明在进行面向电网输电线路的无人机巡检时，综合考虑了嵌入式的硬件算力，基于深度分离卷积网络，通过计及硬件算力的伯努利方程随机丢弃密度高的神经网络参数，同时兼顾识别准确率与速度，从而实现无人机嵌入式模组的流畅运行；并且，对含有指数运算的激活函数进行了硬件化改造，使其更加适应嵌入式模组运行，降低了资源的占用率，从而使得计算速度更快，最终实现受限资源算力条件下的识别准确率与功耗的均衡。

附图说明

图1为传统的神经网络模型结构；

图2为本发明的目标识别神经网络结构；

图3为本发明所提方法的流程图。

具体实施方式

为了使本领域的普通技术人员能更好的理解本发明的技术方案，下面结合附图和实施例对本发明的技术方案做进一步的描述。

本发明针对目前传统目标识别神经网络中包含大量的冗余结构导致模型无法实时运行于无人机等边缘侧设备的问题，旨在寻找一种既能够综合考虑各类关键因素，能够有效提高模型的压缩比，同时不损失太多的精度，实现检测速度与精度的完美平衡。

传统的人工智能算法实现目标识别通常采用的神经网络模型结构如附图1所示。从图中可以看出，该卷积神经网络包含输入层，隐含层和输出层。隐含层主要由卷积层、池化层和全连接层等结构组成。卷积层和池化层一般是交替相连的，连接的方式采用局部连接，即该层神经元的输入与上层部分神经元的输出相连。全连接层一般分布在网络的最后几层，连接方式是全部连接，即该层神经元的输入与上层神经元的输出全部相连。

其中卷积层和池化层组成了骨干网络，统称为特征提取器，用来实现图像特征的提取。骨干网络的规模决定了整个系统的负载，对骨干网络的压缩处理是轻量化的重点。另外，在卷积与池化之间经常要加入激活函数，对应图1中的随机失活模块，但激活函数的数学运算量比较大，通常需要针对硬件进行优化。优化后得到本发明的目标识别神经网络结构，如图2所示。

在图2中，本发明包括以下两点改进：

1、加入算力影响因子的骨干网络

骨干网络提取采用深度可分离卷积网络，从硬件层面降低系统的资源消耗。假设输入图像尺寸为L×W×H，卷积核的尺寸为K×K×C，则：

标准卷积的计算复杂度计算为O(L×W×H×K×K×C)；

深度可分离卷积的计算复杂度计算为O(L×W×H×(K²×C))；

由上可以看出，深度可分离卷积的计算复杂度大大降低，并且深度可分离卷积是由特征层升维得到的，含有大量冗余信息，存在硬件优化的可能。因此本发明采用深度可分离卷积代替传统目标识别神经网络中的标准卷积。

针对深度可分离卷积存在大量冗余信息的问题，在深度可分离卷积层后加入剪枝模块，剪枝模块以概率P随机丢弃冗余神经元节点，传统方法概率P都是经验值，本发明加入算力影响因子N_tops和A_tops，得到新的丢弃概率P_drop，此时P_drop与硬件计算能力相关联，从而使得神经网络与硬件能力息息相关。且剪枝模块将深度可分离卷积网络层产生的权重参数经以概率P_drop随机丢弃冗余神经元节点后，得到权重参数W_k,drop。其中：

β_k＝Ber(1-P_drop)

W_k,drop＝β_kW_k

N_tops是电力线路巡检时使用的无人机的嵌入式硬件的算力，A_tops是目标识别网络模型训练时用到的算力。

Ber表示伯努利方程，β_k表示采用伯努利方程产生的随机二数值，该随机二数值为0或1，k表示第k个系数；

W_k表示传统方法概率P丢弃时的深度可分离卷积层的权重参数；W_k,drop表示跟算力相关后产生的丢弃概率。

2、硬件激活函数

Sigmoid作为主要使用的激活函数，内部含有指数的运算，运算量大，并不适于硬件加速，传统的Sigmoid激活函数为：

通过嵌入式改造，改进后的硬件激活函数为：

其中，λ是跟嵌入式模组算力相关的系数，可以通过公式计算得到：

λ＝0.5*P_drop；

综上可以看出，本发明通过加入算力影响因子对骨干网络进行了改造，并通过对硬件激活函数进行优化，经过训练产生最后的人工智能算法推理参数，参数的容量大幅压缩，降低对于系统资源的消耗，并运行在嵌入式边缘智能模组上对拍摄的图片进行目标识别等算法操作。

实施例

为了进一步说明、验证本发明所提方法的效果，针对电力线路巡检时使用无人机所采集的图片，通过本发明所提方法与传统方法对比，模型可以压缩到10M以下，压缩比大约为2-3倍，可以运行在树莓派等嵌入式终端上，改进的损失函数有助于平衡正负样本，通过采用特征融合以及算力因子的轻量化方法，比YoloV3-tiny、Yolov4-tiny、MobileNet-ssd等传统方法识别准确率提升了3.3％，为50.44％，如表1所示。

表1性能比较结果

从实验结果可以看出，本发明通过引入硬件算力，能够很好的与嵌入式终端的算力能力相匹配，轻量化的目标更加明确，产生的模型能够更好地发挥终端的性能。

本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。尽管参照前述实施例对本发明专利进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，包括以下步骤：

步骤1：面向电网输电线路利用无人机巡检，通过无人机获取电网线路图像，并对得到的图像进行预处理；

步骤2：构建轻量化目标识别神经网络模型，将电网线路图像输入到轻量化目标识别神经网络模型中进行识别；

步骤3：根据轻量化目标识别神经网络模型的输出得到电网线路图像的识别结果，所述识别结果包括电网线路的类别和故障位置。

2.根据权利要求1所述的一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，步骤2所述的轻量化目标识别神经网络模型包括输入层、深度可分离卷积网络层、剪枝模块、池化层、全连接层以及输出层，所述输入层与深度可分离卷积网络层相连，深度可分离卷积网络层与池化层交替相连，且每个深度可分离卷积网络层后连接一个剪枝模块，全连接层与最后一个池化层相连，输出层与全连接层相连。

3.根据权利要求1所述的一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，

所述剪枝模块以概率P_drop随机丢弃冗余神经元节点，所述概率通过引入算力影响因子来计算：

其中，N_tops是电力线路巡检时使用的无人机的嵌入式硬件的算力，A_tops是目标识别网络模型训练时用到的算力。

4.根据权利要求3所述的一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，所述剪枝模块将深度可分离卷积网络层产生的权重参数经以概率P_drop随机丢弃冗余神经元节点后，得到的权重参数W_k,drop为：

W_k,drop＝β_kW_k              (2)

β_k＝Ber(1-P_drop)          (3)

其中，W_k是传统方法中以概率P丢弃时的深度可分离卷积层的权重参数；Ber表示伯努利方程；β_k表示采用伯努利方程产生的随机二数值，该随机二数值为0或1。

5.根据权利要求4所述的一种基于轻量化目标识别神经网络模型的电力线路巡检方法，其特征在于，所述深度可分离卷积层后还连接有改进的硬件激活函数：

其中，λ是跟嵌入式模组算力相关的系数，且λ的计算公式为：

λ＝0.5*P_drop             (5)。

Images