CN114202726A - 一种基于自监督学习的输电线路场景目标检测方法 - Google Patents

Abstract

本发明涉及一种基于自监督学习的输电线路场景目标检测方法，属于输电线路智能运检领域。针对监拍装置收集的海量输电通道图片，本发明使用自监督学习训练无标签数据，得到预训练模型，将输电数据更好地应用于输电领域，提高目标检测模型的识别率，更加有效地保证输电线路安全。通常目标检测模型的主干网络是在ImageNet数据集上进行预训练，为了提高输电线路场景目标检测模型的效果，本发明通过在输电通道数据集上进行预训练，得到输电线路的主干网络，更多地为目标检测模型提供输电线路的先验知识。

Description

一种基于自监督学习的输电线路场景目标检测方法

技术领域

本发明涉及输电线路智能运检技术领域，具体涉及一种基于自监督学习的输电线路场景目标检测方法。

背景技术

大规模标注的数据集是深度学习在计算机视觉领域取得巨大成功的关键因素之一。然而监督式学习过于依赖大规模标注数据集，数据集的收集和人工标注需耗费大量的人力成本。自监督模型解决了这一难题，从大规模未标注数据中学习图像特征，无需使用任何人工标注数据。输电线路作为我国重要的基础设施之一，通过安装监控装置，可以对存在隐患的线路及时预警，不仅减少了运检人员的工作量，更能快速地发现隐患并及时处理。监控装置可以得到海量的图片，对于这些数据进行人工标注，工作量过大，而自监督学习可以很好地利用这些数据，提高模型的检测效果，更好地识别隐患问题，保证输电线路的安全。

基于自监督学习方法在自然语言处理方向取到了成果，近年来开始探索自监督学习在计算机视觉中的应用。而动量对比方法的提出，推进了自监督学习在计算机视觉领域的发展。相比于监督学习，自监督学习具有一大优势：无需标注训练样本。该优势保证了大量训练数据的低成本获取，结合深度学习模型将会发挥巨大的潜力。然而，就目前而言，现有的自监督学习和动量对比方法还没有进入输电领域，主要是因为将现有的自监督学习方法应用于输电场景，存在以下难点：一、大规模数据收集问题，输电线路覆盖范围广，同时有些线路所处环境复杂，针对地区收集数据需要大量的监拍装置；二、动量对比方法应用问题，由于无标注数据量过大，训练过程中对服务器配置有较高要求；三、自监督学习在计算机视觉的应用主要是科研性质研究，工业应用需要尝试优化，自监督学习的能力主要由下游任务的性能来体现，输电线路的下游任务指的是目标检测，而单纯的通过自监督学习训练主干网络无法体现其性能。

发明内容

本发明的目的在于提供一种基于自监督学习的输电线路场景目标检测方法，该方法将自监督学习和动量对比方法应用于输电领域，能够训练输电通道主干网络，调整和优化主干网络参数，高效利用海量无标注数据，在节省人工标注成本下，提高输电线路目标检测模型的识别率和性能。

为实现上述目的，本发明采用了以下技术方案：

一种基于自监督学习的输电线路场景目标检测方法，该方法包括以下步骤：

S1、确定检测区域，采用监拍设备采集当前检测区域下的输电通道无标注数据。对于输电线路来说，不同地区的监控设备采集的输电通道数据集存在一定差异，为了更好地学习表征，需要针对某个区域收集较多的无标注数据。确定检测区域，即在所有区域中选取某一个区域，比如说，在山东省中选取淄博市作为检测区域。所述输电通道无标注数据指的是通过监拍设备采集的原始数据，不需要进行人工标注处理。通过监拍装置收集输电通道无标注数据，数据量大小50万数据左右。

S2、采用动量对比方法训练输电通道无标注数据，得到输电通道主干网络，对输电通道主干网络进行调整和参数优化。

S2具体包括以下步骤：

S21、在输电通道无标注数据中，一个批次的原始数据包含k+1张图片，对原始数据中的每张图片进行两次数据增强处理，对增强处理后的每张图片进行编码；每张图片数据增强处理后得到的两张图片，通过查询编码网络将其中一张图像编码为q，通过键编码网络将另外一张图片编码为k。

将每张图片进行两次数据增强处理，由同一张图片得到两张数据增强后的图片，这两张图片互为正样本，与其他图片互为负样本；所述数据增强处理包括随机裁剪，水平翻转，高斯滤波，更改图像的亮度、对比度和饱和度，转为弧度图，归一化处理等现有的图片数据处理方式。

S22、对于一个q，样本中只有1个正样本k⁺和k个负样本k^-，通过向量点积计算样本间的距离，确定距离损失函数。

所述距离损失函数采用infoNCE，如下式所示：

其中，q是一个查询向量，k⁺是表示正例的特征向量，k^-是表示负例的特征向量，τ是一个超参数。

S23、最小化距离损失函数，采用反馈算法更新查询编码网络参数θ_q。

优化查询编码网络参数的核心思想是q和k⁺之间的距离远远大于q和k^-之间的距离，本发明通过向量点积计算距离，采用距离损失函数对查询编码网络参数进行优化。最小化距离损失函数指的是使损失函数趋近于0，拉近正样本对之间的距离，增大负样本对之间的距离，让正样本之间的距离尽可能的小，损失函数越小代表查询编码网络效果越好。神经网络中的反馈算法，就是逐层地将最终的误差进行分解，即每一层只与下一层打交道。因此，可以假设每一层均为输出层的前一个层级，通过计算前一个层级与输出层的误差得到权重的更新。

S24、采用动量更新公式更新键编码网络参数θ_k。

所述动量更新公式为：

θ_k←mθ_k+(1-)θ_q

其中，θ_k为键编码网络参数，θ_q为查询编码网络参数，m为动量系数，m的取值范围为[0，1)。

S25、根据更新后的键编码网络参数和查询编码网络参数，得到输电通道主干网络。

训练输电通道无标注数据，得到输电通道主干网络，即预训练模型，将预训练模型调整和优化参数后，再采用标注数据进行训练，得到输电通道目标检测模型。所述输电通道主干网络采用resnet101网络，其中101层网络指的是100个卷积层和1个全连接层，用来提取图像不同层次的特征。训练输电通道无标注数据之后就可以得到输电通道主干网络；通过动量对比方法得到的权重参数不能直接应用于目标检测模型，需要调整和优化一下参数，转换模型结构。

S3、采用监拍设备采集当前检测区域下的输电通道标注数据，确定输电通道标注数据中的隐患类型；所述输电通道标注数据指的是对监拍设备采集的原始数据进行人工标注处理后的数据；当前检测区域和步骤S1中的检测区域是同一个区域。收集少量的可以很好人工标注的数据集，少量指的是1万左右的数据量。很好标注指的是图片清晰，包含各隐患种类。隐患类型是基于客户和区域需求，主要是可能影响输电安全的隐患，例如鸟类、吊车等，采用专门的标注工具，如labelme标注工具进行数据标注。采集的输电通道标注数据用于训练输电通道目标检测模型。

S4、加载输电通道主干网络，训练输电通道标注数据，得到输电通道目标检测模型。无标注数据训练得到输电通道主干网络，这只是中间步骤，加载这个输电通道主干网络，再训练标注数据，这个过程就是微调过程，才可以得到最终的检测模型。所述输电通道主干网络采用的模型是Cascade R-CNN模型，将数据输入Cascade R-CNN模型，即有完整的流程训练输电通道标注数据，训练完的输电通道标注数据就可以得到最终的输电通道目标检测模型。

加载输电通道主干网络训练输电通道标注数据，通过微调和参数优化后的模型即为最终的输电通道目标检测模型。微调和参数优化，指训练过程中冻结输电通道主干网络的前3层网络，训练20epoch(可以根据实际情况确定epoch的数量，此处选取20)，不断优化目标检测模型参数，得到最优的输电通道目标检测模型。所述输电通道目标检测模型，应用于输电线路隐患识别，更好地保证输电线路安全。将输电线路监拍装置收集的图片输入到输电通道目标检测模型中，即可识别输电线路中存在的隐患。通过监拍装置拍摄的图像经过输电通道目标检测模型识别后，在某一时刻检测出存在安全隐患，向工作人员推送告警信息，避免造成输电线路事故。

本发明中的输电通道目标检测模型选取Cascade R-CNN，相较于其他的目标检测模型，Cascade R-CNN模型使用不同的IOU阈值，训练了多个级联的检测器，通过级联多个检测网络达到不断优化预测结果的目的，在满足实时性的情况下，更准确地识别输电通道隐患，确保输电通道安全。

与现有技术相比，本发明具有以下有益效果：

(1)本发明设计了一种基于自监督学习的输电线路场景目标检测方法，提出了使用动量对比方法训练输电通道主干网络和加载输电通道主干网络的目标检测模型；可以更高效地识别输电线路隐患，实现了准确实时地识别输电线路隐患，优势在于可以提高目标检测模型的准确率，更多地为目标检测模型提供输电线路的先验知识，解决了输电线路的漏报误报问题，避免可能引起的输电线路事故。

(2)本发明基于自监督学习训练输电通道主干网络，无需标注训练样本，该优势保证了大量训练数据的低成本获取，结合深度学习模型将会发挥巨大的潜力，解决了海量输电线路图像的使用问题及降低了人工标注的成本。

(3)本发明使用Cascade R-CNN目标检测算法，主干网络为101层输电通道主干网络，冻结前3层网络层，训练20epoch，得到基于自监督学习的Cascade R-CNN模型，优势在于Cascade R-CNN模型使用不同的IOU阈值，训练了多个级联的检测器，通过级联多个检测网络达到不断优化预测结果的目的，主干网络为输电通道主干网络，为目标检测模型提供输电线路的先验知识，能快速识别出输电通道隐患，满足实时性和准确性需求。

附图说明

图1是发明所述识别方法的流程图；

图2是自监督学习训练阶段query图片；

图3是自监督学习训练阶段key图片；

图4是ImageNet主干网络特征图；

图5是输电通道主干网络特征图。

具体实施方式

下面结合附图对本发明做进一步说明：

如图1-图3所示的某条输电线路上的正常拍摄图像间隔为10分钟，拍摄的图像经过定制化目标检测模型识别后，在某一时刻检测出存在安全隐患。具体步骤如下：

S1、收集输电通道无标注图片，要求针对检测区域收集数据，数据集大小50万。

S2、采用动量对比方法训练输电通道无标注数据，该方法将自监督学习应用于计算机视觉方向。其中对比方法指的是通过构建正样本和负样本，对同一张图做两次数据增强，具体增强方式包括随机裁剪，水平翻转，高斯滤波，更改图像的亮度，对比度和饱和度，转为灰度图，归一化处理等。

S3、对于一个批次k+1的原始数据x，通过查询编码网络将图像编码为q，通过键编码网络将图像编码为k。对于q，样本中只有1个正样本k⁺和k个负样本k^-。核心思想是q和k⁺之间的距离远远大于q和k^-之间的距离，这里通过向量点积计算距离，损失函数采用infoNCE：

这里的q是一个查询向量，k⁺是表示正例的特征向量，k^-是表示负例的特征向量，τ是一个超参数。

S4、最小化损失函数，通过后反馈仅调整更新查询编码网络参数θ_q，通过动量更新公式更新键编码网络参数θ_k。动量更新公式：

θ_k←mθ_k+(1-)θ_q

其中θ_k为键编码的参数，θ_q为查询编码的参数，m为动量系数取值为[0，1)。

S5、基于该方法训练输电通道无标注数据，得到输电通道主干网络，调整和优化参数后，得到输电通道主干网络，应用于目标检测模型，其中主干网络包含101层网络层，用来提取图像不同层次的特征。

S6、通过自监督学习中动量对比方法训练模型。动量对比方法属于自监督学习，是把自监督学习应用于计算机视觉领域的一种方法。图2是自监督学习训练阶段经过数据增强后的查询图片；图3是自监督学习训练阶段经过数据增强后的键图片；这两张图片互为正样本，与同一批次中的其他图片为负样本。图4是ImageNet主干网络特征图，它表示的是ImageNet主干网络提取的特征；图5是输电通道主干网络特征图，它表示的是输电通道主干网络提取的特征；这两张图片体现了训练的输电通道主干网络和ImageNet主干网络的差异，实验证明输电通道主干网络对于输电线路目标检测来说性能更好。

S7、收集输电通道标注图片，要求收集同一区域数据，按照隐患类型进行数据标注，隐患类型是基于客户和区域需求，主要是可能影响输电安全的隐患，例如鸟类，吊车等，数据标注可以通过专门的软件进行，例如labelme标注工具。

S8、通过动量对比方法得到的模型权重参数，调整和优化参数，得到输电通道的主干网络。通过动量对比方法得到的权重参数不能直接应用于目标检测模型，需要调整和优化一下参数，就是相当于转换一下模型结构。通过动量对比方法训练得到输电通道主干网络，训练的过程就是不断更新参数的过程。模型权重参数指的是输电通道主干网络的权重参数。

S9、加载输电通道主干网络，在标注数据集上微调模型，微调指训练过程中冻结前3层网络，训练20epoch，不断优化目标检测模型参数。

S10、目标检测模型选取Cascade R-CNN，使用不同的IOU阈值，训练了多个级联的检测器，通过级联几个检测网络达到不断优化预测结果的目的，在满足实时性的情况下，更准确地识别输电通道隐患，确保输电通道安全。

S11、得到针对该区域的定制化目标检测模型，有效地识别输电线路隐患，降低漏报误报情况，保障输电线路安全。

实施例中，通过监拍装置收集输电通道无标注图片，利用动量对比方法训练输电通道主干网络，通过调整和优化参数，得到101层的输电通道主干网络，替换Cascade R-CNN模型的ImageNet主干网络，提升目标检测的识别率，减少漏报误报情况，在满足实时性的条件下更加准确地保证输电通道安全。

针对现有技术的不足，本发明提供一种基于自监督学习的输电线路场景目标检测方法。输电线路监拍装置可以获取到海量输电线路图像，通过监控装置收集某检测区域无标注数据集，通过自监督学习从大量无标签数据中进行表征学习，得到定制化的输电领域主干网络。之后收集少量输电通道数据，进行标注，加载定制化的输电领域主干网络，训练目标检测模型，用于识别输电线路隐患，保障输电线路安全。目前的主干网络一般是基于ImageNet数据集的预训练模型，使用输电通道主干网络替换ImageNet数据集主干网络，可以获得更大的性能提升，提高目标检测模型的识别率。

自监督学习不依赖任何标签值，通过对数据内在特征的挖掘，找到样本间的关系。因此先在较大的难以很好标注的数据集上利用自监督训练得到一个预训练模型，再根据下游具体的任务，在较少的可以很好标注的数据集上，进行有监督的微调。针对于输电领域，通过自监督学习从大量无标签数据中进行表征学习，得到输电线路的主干网络，使目标检测效果优于加载ImageNet主干网络的目标检测模型，更有效地识别输电线路隐患，保证输电安全。

以上所述的实施例仅仅是对本发明的优选实施方式进行描述，并非对本发明的范围进行限定，在不脱离本发明设计精神的前提下，本领域普通技术人员对本发明的技术方案作出的各种变形和改进，均应落入本发明权利要求书确定的保护范围内。

Claims (2)

1.一种基于自监督学习的输电线路场景目标检测方法，其特征在于：该方法包括以下步骤：

S1、确定检测区域，采用监拍设备采集当前检测区域下的输电通道无标注数据；

S2、采用动量对比方法训练输电通道无标注数据，得到输电通道主干网络；

S3、采用监拍设备采集当前检测区域下的输电通道标注数据，确定输电通道标注数据中的隐患类型；

S4、加载输电通道主干网络，训练输电通道标注数据，得到输电通道目标检测模型。

2.根据权利要求1所述的一种基于自监督学习的输电线路场景目标检测方法，其特征在于：步骤2所述的“采用动量对比方法训练输电通道无标注数据，得到输电通道主干网络；”，其具体包括以下步骤：

S21、在输电通道无标注数据中，一个批次的原始数据包含k+1张图片，对原始数据中的每张图片进行两次数据增强处理，对增强处理后的每张图片进行编码；每张图片数据增强处理后得到的两张图片，通过查询编码网络将其中一张图像编码为q，通过键编码网络将另外一张图片编码为k；

S22、对于一个q，样本中只有1个正样本k⁺和k个负样本k^-，通过向量点积计算样本间的距离，确定距离损失函数；

所述距离损失函数采用infoNCE，如下式所示：

其中，q是一个查询向量，k⁺是表示正例的特征向量，k^-是表示负例的特征向量，τ是一个超参数；

S23、最小化距离损失函数，采用反馈算法更新查询编码网络参数θ_q；

S24、采用动量更新公式更新键编码网络参数θ_k；

所述动量更新公式为：

θ_k←mθ_k+(1-m)θ_q

其中，θ_k为键编码网络参数，θ_q为查询编码网络参数，m为动量系数，m的取值范围为[0，1)；

S25、根据更新后的键编码网络参数和查询编码网络参数，得到输电通道主干网络。

Images