CN115376074A

CN115376074A - 输电线路监拍装置识别效果评估方法及系统

Info

Publication number: CN115376074A
Application number: CN202211306701.9A
Authority: CN
Inventors: 尹新华; 吕昌峰; 董培华
Original assignee: Jinan Xinxinda Electric Technology Co ltd
Current assignee: Jinan Xinxinda Electric Technology Co ltd
Priority date: 2022-10-25
Filing date: 2022-10-25
Publication date: 2022-11-22

Abstract

本发明提供了一种输电线路监拍装置识别效果评估方法及系统，属于数据处理技术领域。当图像识别结果无标注且有检测结果时，判定为误检；当图像识别结果有标注且无检测结果时，判定为漏检；当图像识别结果有标注且有检测结果时，判断隐患类型是否一致，如否，则判定为误检，如是，则遍历每个标注框，计算交并比，交并比大于隐患类型的交并比则匹配成功，得到正确匹配框；依次进行各图像识别结果与预设的标准识别结果的对比，得到误检图片总数量、漏检图片总数量、正确匹配框总数量，根据误检图像总数量、漏检图像总数量和正确匹配框总数量，得到监拍装置识别效果评估结果；本发明极大的提高了监拍装置的性能评估精度。

Description

输电线路监拍装置识别效果评估方法及系统

技术领域

本发明涉及数据处理技术领域，特别涉及一种输电线路监拍装置识别效果评估方法及系统。

背景技术

本部分的陈述仅仅是提供了与本发明相关的背景技术，并不必然构成现有技术。

输电线路智能监拍装置厂家多、型号多，目前还没有合适的综合评测工具，产品识别效果难以评判，导致前期采购很难分辨产品好坏，后期使用过程中隐患识别效果差等问题。

而现有工具缺乏有效的检测技术，只能在设备安装完成之后，从各自系统平台中查看设备运行情况，统计在线率、漏报率和误报率等指标，而且智能识别效果依赖于现场环境，很难作为判断标准。

发明内容

为了解决现有技术的不足，本发明提供了一种输电线路监拍装置识别效果评估方法及系统，能检测监拍装置的基本功能，并通过标准的识别数据，评测监拍装置的识别准确率、误报率和漏报率等指标，实现了对监拍装置性能的精准评估。

为了实现上述目的，本发明采用如下技术方案：

本发明第一方面提供了一种输电线路监拍装置识别效果评估方法。

一种输电线路监拍装置识别效果评估方法，包括以下过程：

获取监拍装置的多张图像识别结果；

将某一图像识别结果与预设的标准识别结果进行对比，当图像识别结果无标注且有检测结果时，判定为误检；当图像识别结果有标注且无检测结果时，判定为漏检；当图像识别结果有标注且有检测结果时，判断隐患类型是否一致，如否，则判定为误检，如是，则遍历每个标注框，计算交并比，交并比大于隐患类型的交并比则匹配成功，得到正确匹配框；

依次进行各图像识别结果与预设的标准识别结果的对比，得到误检图片总数量、漏检图片总数量、正确匹配框总数量，根据误检图像总数量、漏检图像总数量和正确匹配框总数量，得到监拍装置识别效果评估结果。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果包括识别准确率，所述识别准确率为正确匹配框总数量与标准标注框总数量的比值。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果包括图像漏报率，所述漏报率为漏检图片总数量与具有隐患的图片总数量的比值。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果包括图像误报率，所述误报率为误检图片总数量与图像识别结果总数量的比值。

作为第一方面可选的一种实现方式，每张标准识别结果包括多个隐患对象，每个隐患对象包括多个标注框，每个标注框对应有四个角的坐标值；

每个图像识别结果包括多个隐患对象，每个隐患对象包括多个标注框，每个标注框对应有四个角的坐标值。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果，还包括检测框漏报率，所述检测框漏报率为漏检框总数量与标准检测框总数量的比值。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果，还包括检测框误报率，所述检测框误报率为误检框总数量与标准检测框总数量的比值。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率和图像误报率，给识别准确率、图像漏报率和图像误报率赋予不同的权重，以识别准确率、图像漏报率和图像误报率的加权和作为最终评估结果。

作为第一方面可选的一种实现方式，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率，给识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率赋予不同的权重，以识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率的加权和作为最终评估结果。

本发明第二方面提供了一种输电线路监拍装置识别效果评估系统。

一种输电线路监拍装置识别效果评估系统，包括：

识别结果获取模块，被配置为：获取监拍装置的多张图像识别结果；

结果比对模块，被配置为：将某一图像识别结果与预设的标准识别结果进行对比，当图像识别结果无标注且有检测结果时，判定为误检；当图像识别结果有标注且无检测结果时，判定为漏检；当图像识别结果有标注且有检测结果时，判断隐患类型是否一致，如否，则判定为误检，如是，则遍历每个标注框，计算交并比，交并比大于隐患类型的交并比则匹配成功，得到正确匹配框；

识别效果评估模块，被配置为：依次进行各图像识别结果与预设的标准识别结果的对比，得到误检图片总数量、漏检图片总数量、正确匹配框总数量，根据误检图像总数量、漏检图像总数量和正确匹配框总数量，得到监拍装置识别效果评估结果。

作为第二方面可选的一种实现方式，监拍装置识别效果评估结果，还包括检测框漏报率，所述检测框漏报率为漏检框总数量与标准检测框总数量的比值。

作为第二方面可选的一种实现方式，监拍装置识别效果评估结果，还包括检测框误报率，所述检测框误报率为误检框总数量与标准检测框总数量的比值。

作为第二方面可选的一种实现方式，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率和图像误报率，给识别准确率、图像漏报率和图像误报率赋予不同的权重，以识别准确率、图像漏报率和图像误报率的加权和作为最终评估结果。

作为第二方面可选的一种实现方式，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率，给识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率赋予不同的权重，以识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率的加权和作为最终评估结果。

与现有技术相比，本发明的有益效果是：

1、本发明所述的输电线路监拍装置识别效果评估方法及系统，能检测监拍装置的基本功能，并通过标准的识别数据，评测监拍装置的识别准确率、误报率和漏报率等指标，实现了对监拍装置性能的精准评估。

2、本发明所述的输电线路监拍装置识别效果评估方法及系统，参考国网相应的规范，建立了统一的评测标准，模拟了现场环境，通过评测工具输出测试结果，各个厂家产品在统一标准下测试，进一步的实现了对监拍装置性能的精准评估。

本发明附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

构成本发明的一部分的说明书附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。

图1为本发明实施例1提供的交并比IoU计算示意图一。

图2为本发明实施例1提供的交并比IoU计算示意图二。

图3为本发明实施例1提供的系统架构示意图。

图4为本发明实施例1提供的自动测试流程示意图。

具体实施方式

下面结合附图与实施例对本发明作进一步说明。

应该指出，以下详细说明都是示例性的，旨在对本发明提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。

需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本发明的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。

在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。

实施例1：

以往针对输电线路监拍装置没有有效的测试工具，识别结果也没有统一的测试标准，无法评判产品的好坏，有鉴于此，本发明实施例1提供了一种输电线路监拍装置识别效果评估方法，如图1-4所示，包括以下过程：

获取监拍装置的多张图像识别结果；

本实施例中，预设的标准识别结果为采用人工标注的方式标注过的图像，每个标注过的图像包含多个隐患对象，每个隐患对象包含多个标注框对象。

本实施例中，各术语解释如下：

（1）通道隐患目标：输电线路通道内可能影响线路安全运行的施工机械、火险、烟雾及导地线异物等风险目标。

（2）通道智能监拍装置：利用图像和短视频信息对输电线路通道进行监视，并具有通道隐患目标智能识别功能的一体式装置，一般由采集模块、主控与处理模块、远程通信模块、储能模块和太阳能板等组成，简称为监拍装置。

（3）智能识别：利用图像处理、深度学习等人工智能技术手段，检测并标注图像中的通道隐患目标。

（4）智能识别漏报率：监拍装置未识别出通道隐患目标的图像数量，与具有通道隐患目标的图像数量之比，用百分数表示，简称为漏报率。

（5）智能识别误报率：监拍装置将不存在通道隐患目标的图像识别为具有通道隐患目标的图像数量，与识别出的图像总数量之比，用百分数表示，简称为误报率。

（6）智能识别准确率：监拍装置识别出的区域和标准区域的交集与并集之比不小于50%的通道隐患目标数量，与图像中的通道隐患目标数量之比，用百分数表示，简称为准确率。

本实施例中，监拍装置识别效果评估结果包括识别准确率，所述识别准确率为正确匹配框总数量与标准标注框总数量的比值。

本实施例中，监拍装置识别效果评估结果包括图像漏报率，所述漏报率为漏检图片总数量与具有隐患的图片总数量的比值。

本实施例中，监拍装置识别效果评估结果包括图像误报率，所述误报率为误检图片总数量与图像识别结果总数量的比值。

本实施例中，每张标准识别结果包括多个隐患对象，每个隐患对象包括多个标注框，每个标注框对应有四个角的坐标值；

本实施例中，监拍装置识别效果评估结果，还包括检测框漏报率，所述检测框漏报率为漏检框总数量与标准检测框总数量的比值。

本实施例中，监拍装置识别效果评估结果，还包括检测框误报率，所述检测框误报率为误检框总数量与标准检测框总数量的比值。

可选的，在其他一些实施方式中，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率和图像误报率，给识别准确率、图像漏报率和图像误报率赋予不同的权重，以识别准确率、图像漏报率和图像误报率的加权和作为最终评估结果。

可选的，在其他一些实施方式中，监拍装置识别效果评估结果，包括：识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率，给识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率赋予不同的权重，以识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率的加权和作为最终评估结果。

具体的，本实施例中，基于JavaFX+springboot+mybatis等技术开发跨平台的桌面端测试程序，可以在Windows，Linux，MacOs等系统下正常运行。

根据QGDW 12068-2020 输电线路通道智能监拍装置技术规范，实现与监拍装置通信，采用统一的检测方法和合格标准，模拟现场环境，支持多个监拍装置同时测试。

程序的核心功能分为测试项目模块和算法评测模块。

测试项目模块：测试任务采用多线程方式执行测试项目，每个设备一个测试线程，顺序执行测试项目，每个设备互不影响。

算法评测模块：准备一批标准图片和标准结果，包含QGDW 12068-2020 规范中规定的隐患类型（施工机械，火险，烟雾，导线异物等），将图片复制到监拍装置，监拍装置分析完成后，将分析结果回传，用算法评测模块进行评测算分。

评测程序遍历每一张图片的分析结果，取出每种隐患目标的画框数据，跟标准结果进行比较，比较目标类型，坐标等信息，计算出交并比，判断是否匹配成功。

具体的，评测过程如下：

S1：加载标准标注文件：

算法评测模块加载到内存，每个标注文件对象（image，即预设的标准识别结果）包含多个隐患对象（object），每个隐患对象（object）包含多个标注框（box）对象，标注框对象（box）包含四个坐标值（x_min、y_min、x_max和y_max）。

S2：加载分析结果文件：

结构类似标准标注文件，每个分析结果对象（image）包含多个隐患对象（object），每个隐患对象（object）包含多个标注框（box）对象，标注框对象（box）包含四个坐标值（x_min、y_min、x_max和y_max）。

S3：评分：

遍历每张图片，读取标准标注文件对象和设备分析结果对象；

判断1：无标注，有检测结果，判定为误检，误检图片总数量加一；

判断2：有标注，无检测结果，判定为漏检，漏检图片总数量加一；

记录标准标注框数量，具有隐患的图片总数量加一；

判断3：有标注，有检测结果，检出的图像总数量加一；

判断隐患类型是否一致，不一致，判定为误检，误检图片总数量加一；

隐患类型一致，遍历每个标注框，计算交并比，交并比大于隐患类型的IoU值（可配置），即为匹配成功，加入正确匹配框列表；

统计标准标注框总数量：

标准标注框总数量（当前总数量）=标准标注框总数量（当前图像之前总数量）+标准标注框数量；

统计正确匹配框总数量：

正确匹配框总数量（当前总数量）=正确匹配框总数量（当前图像之前总数量）+正确匹配框的数量；

统计漏检框总数量：

漏检框总数量（当前总数量）=漏检框总数量（当前图像之前总数量）+（标准标注框数量-正确匹配框数量）

统计总误检框数量：

误检框总数量（当前总数量）=误检框总数量（当前图像之前总数量）+（标准标注框数量-正确匹配框数量）；

遍历完成，统计分析结果；

准确率=正确匹配框总数量/标准标注框总数量；

漏报率=漏检图片总数量/具有隐患的图片总数量；

误报率=误检图片总数量/分析结果文件总数量。

具体算法如下：

import numpy as np

def compute_IoU(box1, box2, wh=False):

if wh == False:

xmin1, ymin1, xmax1, ymax1 = box1

xmin2, ymin2, xmax2, ymax2 = box2

else:

xmin1, ymin1 = int(box1[0]-box1[2]/2.0), int(box1[1]-box1[3]/2.0)

xmax1, ymax1 = int(box1[0]+box1[2]/2.0), int(box1[1]+box1[3]/2.0)

xmin2, ymin2 = int(box2[0]-box2[2]/2.0), int(box2[1]-box2[3]/2.0)

xmax2, ymax2 = int(box2[0]+box2[2]/2.0), int(box2[1]+box2[3]/2.0)

## 获取矩形框交集对应的左上角和右下角的坐标（intersection）

xx1 = np.max([xmin1, xmin2])

yy1 = np.max([ymin1, ymin2])

xx2 = np.min([xmax1, xmax2])

yy2 = np.min([ymax1, ymax2])

## 计算两个矩形框面积

area1 = (xmax1-xmin1) * (ymax1-ymin1)

area2 = (xmax2-xmin2) * (ymax2-ymin2)

inter_area = (np.max([0, xx2-xx1])) * (np.max([0, yy2-yy1])) #计算交集面积

IoU = inter_area / (area1+area2-inter_area+1e-6) ＃计算交并比

return IoU

例如：标准测试集包含1000张图片，其中900张含有隐患，100张为无隐患，标注框总数1450；

经过评测，结果如下：

设备1的分析结果为890张有隐患，110张无隐患，标注框总数1400，正确匹配框总数量1380，误检图片总数量20；

准确率=1380/1450=95.2%，漏报率=10/900=1.1%，误报率=20/1000=2%；

设备2的分析结果为885张有隐患，115张无隐患，标注框总数1300，正确匹配框总数量1290，误检图片总数量10；

准确率=1290/1450=88.9%，漏报率=15/900=1.7%，误报率=10/1000=1%。

本实施例中，交并比IoU（Intersection over Union）是一种测量在特定数据集中检测相应物体准确度的一个标准，如图2和图3所示。

IoU相当于两个区域重叠的部分除以两个区域的集合部分得出的结果，一般来说，这个score＞0.7为较为优异结果。

而且，本实施例所述的方案，能够实现每种隐患类型的准确率、误报率和漏报率的评估。

下面为具体的标准识别结果和图像识别结果的算法结果：

（1）标准识别结果

<object>；

<name>DiaoChe</name>；

<pose>Unspecified</pose>；

<truncated>0</ truncated>；

<difficult>0</ difficult >；

<bndbox>；

<xmin>542</xmin>；

<ymin>567</ymin>；

<xmax>1069</xmax>；

<ymax>699</ymax>；

</bndbox>；

</object>。

（2）图像识别结果

“results”：[

“id”：1；

“path”：“/storage/emulated/0/input/1_crane_0003.jpg”；

“score”：0.87596816；

“type”：“DiaoChe”；

“xmax”：1073；

“xmin”：537；

“ymax”：694；

“ymin”：567；

]。

实施例2：

本发明实施例2提供了一种输电线路监拍装置识别效果评估系统，包括：

所述系统的工作方法与实施例1提供的输电线路监拍装置识别效果评估相同，这里不再赘述。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器和光学存储器等）上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备（系统）、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图中一个流程或多个流程和/或方框图中一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图中一个流程或多个流程和/或方框图中一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图中一个流程或多个流程和/或方框图中一个方框或多个方框中指定的功能的步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体（Read-Only Memory，ROM）或随机存储记忆体（Random AccessMemory，RAM）等。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims

1.一种输电线路监拍装置识别效果评估方法，其特征在于：

包括以下过程：

获取监拍装置的多张图像识别结果；

2.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

监拍装置识别效果评估结果包括识别准确率，所述识别准确率为正确匹配框总数量与标准标注框总数量的比值。

3.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

监拍装置识别效果评估结果包括图像漏报率，所述漏报率为漏检图片总数量与具有隐患的图片总数量的比值。

4.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

监拍装置识别效果评估结果包括图像误报率，所述误报率为误检图片总数量与图像识别结果总数量的比值。

5.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

每张标准识别结果包括多个隐患对象，每个隐患对象包括多个标注框，每个标注框对应有四个角的坐标值；

6.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

监拍装置识别效果评估结果，还包括检测框漏报率，所述检测框漏报率为漏检框总数量与标准检测框总数量的比值；

或者，

监拍装置识别效果评估结果，还包括检测框误报率，所述检测框误报率为误检框总数量与标准检测框总数量的比值。

7.如权利要求1所述的输电线路监拍装置识别效果评估方法，其特征在于：

监拍装置识别效果评估结果，包括：识别准确率、图像漏报率和图像误报率，给识别准确率、图像漏报率和图像误报率赋予不同的权重，以识别准确率、图像漏报率和图像误报率的加权和作为最终评估结果；

或者，

监拍装置识别效果评估结果，包括：识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率，给识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率赋予不同的权重，以识别准确率、图像漏报率、图像误报率、检测框误报率和检测框漏报率的加权和作为最终评估结果。

8.一种输电线路监拍装置识别效果评估系统，其特征在于：

包括：

9.如权利要求8所述的输电线路监拍装置识别效果评估系统，其特征在于：

或者，

10.如权利要求8所述的输电线路监拍装置识别效果评估系统，其特征在于：

或者，