CN110766604B - 一种双柱水平旋转式隔离开关图像数据的扩充方法 - Google Patents

一种双柱水平旋转式隔离开关图像数据的扩充方法 Download PDF

Info

Publication number
CN110766604B
CN110766604B CN201910833358.5A CN201910833358A CN110766604B CN 110766604 B CN110766604 B CN 110766604B CN 201910833358 A CN201910833358 A CN 201910833358A CN 110766604 B CN110766604 B CN 110766604B
Authority
CN
China
Prior art keywords
point
isolating switch
column
far
knife
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910833358.5A
Other languages
English (en)
Other versions
CN110766604A (zh
Inventor
管敏渊
楼平
金国亮
吴国强
王涤
卜鹏
高奥
钱晓杰
李凡
施康明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Original Assignee
Huzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd filed Critical Huzhou Power Supply Co of State Grid Zhejiang Electric Power Co Ltd
Priority to CN201910833358.5A priority Critical patent/CN110766604B/zh
Publication of CN110766604A publication Critical patent/CN110766604A/zh
Application granted granted Critical
Publication of CN110766604B publication Critical patent/CN110766604B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/02Affine transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明提出一种双柱水平旋转式隔离开关图像数据的扩充方法。首先,对二维图像中的隔离开关关键点进行逆透视投影变换,求解各点在三维空间中的坐标。然后,在三维空间中对隔离开关关键点进行旋转变换,模拟实际场景中巡检机器人拍摄角度的变化。最后,将旋转变换后的关键点重新投影到二维平面,并在二维平面中重构出新的隔离开关图像,从而实现隔离开关图像数据的扩充。本发明的优点是:通过模拟拍摄角度变化进行隔离开关图像数据的扩充,有利于提升隔离开关分合状态识别算法的训练数据质量,从而提升自动识别效果。

Description

一种双柱水平旋转式隔离开关图像数据的扩充方法
技术领域
本发明属于电力系统领域,尤其涉及一种双柱水平旋转式隔离开关图像数据的扩充方法。
背景技术
在智能变电站建设中,随着巡检机器人的普及和变电站图像数据的积累,基于图像数据的电力设备状态自动识别方法逐步得到应用。其中,隔离开关的分合状态识别影响到对设备间电路通断的判断,关系到变电站乃至电网的安全稳定运行,因此实现这一巡检项目的自动化对于提高变电站巡检的效率和可靠性都有重要的意义。对于隔离开关分合状态自动识别算法而言,隔离开关图像数据的数量和质量是算法准确性的重要保证。
双柱水平旋转式隔离开关,是目前应用最广泛的隔离开关型式之一。对于双柱水平旋转式隔离开关的分合状态识别问题,一些研究基于尺度不变特征变换(ScaleInvariant Feature Transform,SIFT)对实时图像和已有的模板图像数据进行关键点的检测和匹配,从而判断分合状态;一些研究通过SIFT匹配得到包含隔离开关的子区域后,采用Hough变换检测直线存在与否来判断分合状态;一些研究则采用传统的机器学习方法或者基于深度学习的目标检测算法对隔离开关在图像中的位置和分合状态进行识别。然而,上述方法都依赖于对现有图像数据特征的提取和学习,算法的识别效果往往受限于实际工程应用中图像数据集的数量和质量,与识别算法本身的设计和改进相比,目前对于数据集改进和扩充的研究还比较少。
传统的图像数据扩充方法主要是平移、放缩、旋转、改变亮度等,均是基于二维图像本身进行直接变换,并未充分考虑物体在三维空间中的信息。因此,传统的图像数据扩充方法实际上只能模拟拍摄点的左右和远近平移以及环境亮度的改变等,而难以模拟拍摄角度的变化。由于在户外巡检时,巡检机器人是在固定点进行拍摄,故双柱水平旋转式隔离开关能收集到的不同拍摄角度的图像数量相当有限,而与平移、放缩等变化不同,拍摄角度的变化往往会造成二维图像中隔离开关的形态和部件比例发生较大改变。因此,当待识别图像的隔离开关拍摄角度与已有图像数据集差异较大时,算法的识别效果仍会受到较大的影响。
发明内容
本发明主要解决了传统图像数据扩充方法无法模拟角度变化,会导致图像中物体形态发生较大改变影响识别结果的问题,提出一种利用透视逆变换将物体关键点由平面坐标转化为空间坐标,在空间坐标中进行角度变化后再转化为平面的坐标的能够模拟物体拍摄角度变化的双柱水平旋转式隔离开关图像数据的扩充方法。
本发明解决其技术问题所采用的技术方案是,一种双柱水平旋转式隔离开关图像数据的扩充方法,包括以下步骤:
S1:建立三维空间坐标系;
S2:计算镜头的物距u和像距v;
S3:利用逆透视投影变换计算隔离开关关键点位于三维空间坐标系内的坐标;
S4:计算旋转变换角度范围;
S5:对关键点进行旋转变换以确定隔离开关的整体形态;
S6:生成新的二维图像。
本发明通过建立合适的三维空间坐标系,并基于变电站现场设备参数以及机器人内部设定参数,对二维图像中的隔离开关进行逆透视投影变换,求解隔离开关的各个关键点在三维空间中的坐标,然后,再将隔离开关的关键点还原到三维空间的基础上,通过计算合适的旋转角范围,并对隔离开关关键点进行旋转变换,模拟实际场景中巡检机器人拍摄角度的变化,最终将三维坐标系中旋转变换后的隔离开关关键点通过透视投影变换,重新投影到二维平面中,并在二维平面中重构出新的隔离开关图像,实现隔离开关图像数据的扩充。
作为上述一种优选方案,所述步骤S1中三维空间坐标系为左手坐标系,该坐标系以摄像头镜头中心为坐标原点O,以摄像头方向为z轴正方向。
作为上述一种优选方案,所述步骤S2中包括以下步骤:
S21:获取基本参数信息,包括摄像头仰角θ,镜头焦距f和隔离开关绝缘柱顶的横截面直径d;
S22:建立物距u、像距v和镜头焦距f的关系式
Figure BDA0002191441160000031
S23:建立物距u和像距v的关系式
Figure BDA0002191441160000032
其中,d′为图像中隔离开关绝缘柱顶横截面直径;
S24:结合步骤S22和步骤S23中公式计算物距u和像距v
Figure BDA0002191441160000033
作为上述一种优选方案,所述步骤S3中关键点包括位于靠近镜头的隔离开关绝缘柱顶的近柱点和位于远离镜头的隔离开关绝缘柱顶的远柱点,近柱点和远柱点的坐标确定方法包括以下步骤:
S31:根据近柱点在二维图像上的坐标(x′nc,y′nc)获得三维空间坐标系中的对应坐标(xnc,ync,znc)
Figure BDA0002191441160000041
所述二维图像为摄像机形成的图像;
S32:获取远柱点在二维图像上的坐标(x′fc,y′fc),设远柱点在三维空间坐标系的对应坐标(xfc,yfc,zfc),根据近柱点和远柱点在同水平面及摄像头与水平面的夹角θ,可得如下三元一次方程组
Figure BDA0002191441160000042
对三元一次方程组进行求解可得
Figure BDA0002191441160000043
作为上述一种优选方案,所述步骤S3中对于分闸状态的隔离开关的关键点还包括近刀点和远刀点,所述近刀点为与近柱点连接的闸刀末端底部,所述远刀点为与远柱点连接的闸刀末端底部,近刀点与远刀点的三维坐标获取方法与近柱点和远柱点相同,近刀点三维坐标为(xnk,ynk,znk),远刀点三维坐标为(xfk,yfk,zfk)。
作为上述一种优选方案,所述步骤S4中计算旋转变换角度范围包括以下步骤:
S41:将摄像机镜头和两个绝缘柱投影到近柱点所在的水平面α;
S42:获取摄像头与靠近摄像头的隔离开关绝缘柱在水平面α的投影连线与隔离开关两个绝缘柱在水平面α的投影连线之间的夹角
Figure BDA0002191441160000056
Figure BDA0002191441160000057
S43:根据夹角
Figure BDA0002191441160000058
确定旋转变换角度
Figure BDA0002191441160000059
的范围。
作为上述一种优选方案,所述步骤S42中获取夹角
Figure BDA00021914411600000510
包括以下步骤:
S421:获取摄像机镜头在水平面α投影点的三维坐标(xlens,ylens,zlens),
Figure BDA0002191441160000051
其中,θ为摄像头镜头与水平面的夹角;
S422:对步骤S421中公式求解得到
Figure BDA0002191441160000052
S423:获得夹角
Figure BDA0002191441160000053
的表达式
Figure BDA0002191441160000054
其中,x′fc远柱点在二维图像上的横坐标,x′nc为近柱点在二维图像上的纵坐标,v1为近柱点到摄像机镜头在水平面α上的投影点的方向向量,v2为近柱点到远柱点的方向向量
Figure BDA0002191441160000055
近柱点的坐标为(xnc,ync,znc),远柱点的坐标为(xfc,yfc,zfc)。
作为上述一种优选方案,所述旋转变换角度
Figure BDA0002191441160000061
的范围满足:
Figure BDA0002191441160000062
其中,
Figure BDA0002191441160000063
Figure BDA0002191441160000064
的绝对值上限。
作为上述一种优选方案,所述步骤S5中对关键点进行旋转变换以确定隔离开关的整体形态包括以下步骤:
S51:设经过近柱点(xnc,ync,znc)的铅垂线为旋转轴,旋转轴的单位方向向量为(a,b,c),其中a=0,b=cosθ,c=sinθ,θ为摄像头与水平面的夹角;
S52:判断隔离开关状态,若隔离开关处于合闸状态,则只对远柱点进行旋转变换,远柱点旋转变换后的三维坐标(xfcr,yfcr,zfcr)满足:
(xfcr,yfcr,zfcr)=(xfc,yfc,zfc)T
旋转变换矩阵T为:
Figure BDA0002191441160000065
其中
Figure BDA0002191441160000066
为旋转变换角度,T1、T2、T3分别为:
Figure BDA0002191441160000067
Figure BDA0002191441160000068
Figure BDA0002191441160000069
S53:若隔离开关处于开闸状态,则还要对近刀点和远刀点进行旋转变换,近刀点和远刀点的旋转变换与远柱点的旋转变换方法相同。
作为上述一种优选方案,所述步骤S6中生成新的二维图像包括以下步骤:
S61:用背景色对原隔离开关闸刀部分和远离摄像头的绝缘柱进行填充;
S62:对关键点进行透视投影变换,对于合闸状态的隔离开关进行远柱点的透视投影变换,变换后远柱点的二维坐标为(x′fcr,y′fcr)
Figure BDA0002191441160000071
其中,xfcr、yfcr和zfcr依次为远柱点在旋转变换后在三维坐标系中的x轴坐标、y轴坐标和z轴坐标对于开闸状态的隔离开关还需要进行近刀点和远刀点的透视投影变换,近刀点和远刀点的透视投影变换方法与远柱点的透视投影变换方法相同;
S63:根据透视投影后的关键点对闸刀部分和远离摄像机镜头的绝缘柱进行平行生成新的二维图像。
本发明的优点是:通过模拟拍摄角度变化进行隔离开关图像数据的扩充,有利于提升隔离开关分合状态识别算法的训练数据质量,从而提升自动识别效果。
附图说明
图1为本发明的一种流程示意图。
图2为本发明中三维坐标系的一种示意图。
图3为本发明中计算物距和像距的一种流程示意图。
图4为本发明中近柱点和远柱点的坐标确定的一种流程示意图。
图5为本发明中计算旋转变换角度范围的一种流程示意图。
图6为本发明中摄像机镜头和绝缘柱在水平面α上的投影的一种示意图。
图7为本发明中获取夹角
Figure BDA0002191441160000072
的一种流程示意图。
图8为本发明中对关键点进行旋转变换的一种流程示意图。
图9为本发明中生成新的二维图像的一种流程示意图。
1-投影面2-水平面3-摄像头4-近柱点5-远柱点。
具体实施方式
下面通过实施例,并结合附图,对本发明的技术方案作进一步的说明。
实施例1:
本实施例一种双柱水平旋转式隔离开关图像数据的扩充方法,如图1所示,包括以下步骤:
S1:建立三维空间坐标系,如图2所示,三维空间坐标系为左手坐标系,该坐标系以摄像头镜头中心为坐标原点O,以摄像头方向为z轴正方向,同时,为便于投影分析,将原来在摄像头后方的投影面(即摄像机形成的图像)等效到摄像头前方,投影面1平行于xOy平面,并在投影面上建立二维坐标系,以图像中心为原点,摄像头与水平面2的夹角为θ;
S2:计算镜头的物距u和像距v,如图3所示,具体包括以下步骤:
S21:由于巡检机器人是定点拍摄,通过获取变电站现场设备参数以及机器人内部设定参数,可以得到相关的基本参数信息,包括摄像头的仰角θ,镜头焦距f,以及隔离开关绝缘柱顶的横截面直径d;
S22:巡检机器人摄像机镜头为单一凸透镜,因此可以建立物距u、像距v和镜头焦距f的关系式
Figure BDA0002191441160000081
S23:巡检机器人在拍摄时对焦于隔离开关距离镜头较近的绝缘柱顶(近柱点),因此可获得可获取隔离开关图像(即投影面)中的绝缘柱顶横截面直径d′,并建立物距u和像距v的关系式
Figure BDA0002191441160000091
S24:结合步骤S22和步骤S23中公式计算物距u和像距v
Figure BDA0002191441160000092
S3:利用逆透视投影变换计算隔离开关关键点位于三维空间坐标系内的坐标,关键点包括位于靠近镜头的隔离开关绝缘柱顶的近柱点和位于远离镜头的隔离开关绝缘柱顶的远柱点,近柱点和远柱点的坐标确定方法,如图4所示,包括以下步骤:
S31:通过隔离开关各关键点在二维图像(摄像机形成的图像)中的位置,反推出关键点在三维空间中的坐标。在计算出物距u和像距v后,首先对近柱点进行逆透视变换根据近柱点在二维图像上的坐标(x′nc,y′nc)获得三维空间坐标系中的对应坐标(xnc,ync,znc)
Figure BDA0002191441160000093
S32:获取远柱点在二维图像上的坐标(x′fc,y′fc),设远柱点在三维空间坐标系的对应坐标(xfc,yfc,zfc),根据近柱点和远柱点在同水平面及摄像头与水平面的夹角θ,可得如下三元一次方程组
Figure BDA0002191441160000101
对三元一次方程组进行求解可得
Figure BDA0002191441160000102
对于分闸状态的隔离开关的关键点还包括近刀点和远刀点,近刀点为与近柱点连接的闸刀末端底部,远刀点为与远柱点连接的闸刀末端底部,近刀点和远刀点都与近柱点处于同一水平面上,因此近刀点与远刀点的三维坐标获取方法与近柱点和远柱点相同,近刀点三维坐标为(xnk,ynk,znk),远刀点三维坐标为(xfk,yfk,zfk)。
S4:计算旋转变换角度范围,将隔离开关的关键点还原到三维空间后,需要对角度进行变换以模拟巡检机器人从多个角度拍摄的隔离开关形态。不失一般性,可假设巡检机器人绕着与其较近的绝缘柱行走和拍摄。若这一过程以机器人为参照物,即把机器人视为定点,则可以等效于隔离开关自身以较近的绝缘柱为轴进行旋转。如图5所示,包括以下步骤:
S41:将摄像机镜头和两个绝缘柱投影到近柱点所在的水平面α,摄像机镜头和绝缘柱在水平面α上的投影如图6所示;
S42:获取摄像头3与近绝缘柱4(靠近摄像头的隔离开关绝缘柱)在水平面α的投影连线与隔离开关近绝缘柱和远绝缘柱5(远离摄像头的隔离开关绝缘柱)在水平面α的投影连线之间的夹角
Figure BDA0002191441160000111
角度均以逆时针为正方向,
Figure BDA0002191441160000112
获取夹角
Figure BDA0002191441160000113
如图7所示包括以下步骤:
S421:获取摄像机镜头在水平面α投影点的三维坐标(xlens,ylens,zlens),摄像机镜头在水平面α投影点在近柱点所确定的水平面内,且投影点也落在经过镜头的铅垂线上,可得出
Figure BDA0002191441160000114
其中,θ为摄像头镜头与水平面的夹角;
S422:对步骤S421中公式求解得到
Figure BDA0002191441160000115
S423:获得夹角
Figure BDA0002191441160000116
的表达式
Figure BDA0002191441160000117
其中,x′fc远柱点在二维图像上的横坐标,x′nc为近柱点在二维图像上的纵坐标,v1为近柱点到摄像机镜头在水平面α上的投影点的方向向量,v2为近柱点到远柱点的方向向量
Figure BDA0002191441160000118
近柱点的坐标为(xnc,ync,znc),远柱点的坐标为(xfc,yfc,zfc)。;
S43:根据夹角
Figure BDA0002191441160000119
确定旋转变换角度
Figure BDA00021914411600001110
的范围,在旋转变换角度
Figure BDA00021914411600001111
的范围确定时,一方面,应该保证闸刀的同一面面向摄像头,否则旋转变换后闸刀的背面难以通过现有的二维图像进行推理和重现;另一方面,
Figure BDA00021914411600001112
的绝对值应限制在一定范围内,避免旋转角度过大造成图像失真。因此旋转变换角度
Figure BDA00021914411600001113
的范围满足:
Figure BDA0002191441160000121
其中,
Figure BDA0002191441160000122
Figure BDA0002191441160000123
的绝对值上限,本实施例中取
Figure BDA0002191441160000124
为π/12。
S5:对关键点进行旋转变换以确定隔离开关的整体形态,如图8所示,包括以下步骤:
S51:设经过近柱点(xnc,ync,znc)的铅垂线为旋转轴,旋转轴的单位方向向量为(a,b,c),其中α=0,b=cosθ,c=sinθ,θ为摄像头与水平面的夹角;
S52:判断隔离开关状态,若隔离开关处于合闸状态,则只对远柱点进行旋转变换,远柱点旋转变换后的三维坐标(xfcr,yfcr,zfcr)满足:
(xfcr,yfcr,zfcr)=(xfc,yfc,zfc)T
旋转变换矩阵T为:
Figure BDA0002191441160000125
其中
Figure BDA0002191441160000126
为旋转变换角度,T1、T2、T3分别为:
Figure BDA0002191441160000127
Figure BDA0002191441160000128
Figure BDA0002191441160000129
S53:若隔离开关处于开闸状态,则还要对近刀点和远刀点进行旋转变换,近刀点和远刀点的旋转变换与远柱点的旋转变换方法相同。;
S6:生成新的二维图像,如图9所示,包括以下步骤:
S61:用背景色对原隔离开关占据的像素进行填充,由于近绝缘柱(靠近摄像头的隔离开关绝缘柱)为旋转轴且为圆柱体,因此经过旋转变换后与原图像基本一致,故不对其进行填充,只对远绝缘柱(原理摄像头的隔离开关绝缘柱)和闸刀部分进行填充;
S62:对关键点进行透视投影变换,对于合闸状态的隔离开关只进行远柱点的透视投影变换,变换后远柱点的二维坐标为(x′fcr,y′fcr)
Figure BDA0002191441160000131
其中,xfcr、yfcr和zfcr依次为远柱点在旋转变换后在三维坐标系中的x轴坐标、y轴坐标和z轴坐标,对于开闸状态的隔离开关还需要进行近刀点和远刀点的透视投影变换,近刀点和远刀点的透视投影变换方法与远柱点的透视投影变换方法相同;
S63:根据透视投影后的关键点对闸刀部分和远离摄像机镜头的绝缘柱进行平行生成新的二维图像。合闸状态的隔离开关在确定远柱点变换后的二维坐标之后,对原来图像的远绝缘柱部分进行平移,使其柱顶与坐标(x′fcr,y′fcr)重合,再对原来图像的闸刀部分(以平行四边形框出)进行变换,保持靠近近绝缘柱的两个顶点位置不变,对靠近远绝缘柱的两个顶点分别进行平移变换,平移量均与远绝缘柱顶的平移量相同,而分闸状态的隔离开关在确定远柱点、近刀点和远刀点变换后的二维坐标之后,对远绝缘柱的平移方法与合闸状态时一致,对近闸刀和远闸刀进行平移时则将合闸状态时远绝缘柱顶的平移量分别对应换成近刀点和远刀点的平移量。
实施例2:
本实施例采用实施例1中的一种双柱水平旋转式隔离开关图像数据的扩充方法与传统的图像数据扩充方法进行比较。
选取某电网公司的10个变电站2018-2019年的4860张双柱旋转式隔离开关巡检图像作为实验数据集,每张图像的分辨率均为800(长)×450(宽)。随机选取5个变电站共2118张图像作为训练集,其余5个变电站的2742张图像作为测试集。对于每张训练集图像,采用两个矩形框分别标注两绝缘柱的位置,采用平行四边形框标注闸刀的位置(合闸状态用一个框标注闸刀位置,分闸状态用两个框分别标注两闸刀位置);对于每张测试集图像,只采用一个矩形框标注出隔离开关的整体位置,同时标注出合闸、分闸和无隔离开关3种状态,以对比机器自动识别的结果。
为了对比本发明的图像数据扩充方法的效果,选用了平移、放缩、改变长宽比、改变亮度和直接复制5种传统图像扩充方法分别对训练集图像进行扩充。对于每一张训练图像,每种扩充方法均通过对关键变量在给定范围内的9次随机采样,连同原图像共扩充为10张,相应的变量与范围如表1所示。
表1 图像扩充方法的关键变量与给定范围
Figure BDA0002191441160000141
若图像变换后尺寸小于800×450,则用背景色填充空白部分的像素。
在图像数据扩充完成后,采用扩充后的训练集分别对Faster R-CNN、SSD、YOLOv3三种经典的目标检测模型进行训练,然后对测试集的图像进行隔离开关状态识别,输出隔离开关的位置框和分合状态。统计测试结果的位置识别准确率(accp)时,若输出位置框和标注框的交集与并集面积之比(Intersection over Union,IoU)大于0.5,则判定其位置识别正确;统计测试结果的状态识别准确率(accs)时,若输出状态与标注状态相同,则判定其状态识别正确。识别结果如表2所示
表2 各种图像扩充方法的识别结果
Figure BDA0002191441160000151
可见三种目标检测模型在采用本发明方法进行图像扩充时都能取得最高的隔离开关位置和状态识别准确率。对于平移、放缩、改变亮度的变换方法,都存在与之对应的实际场景,即摄像机的左右、前后移动以及环境亮度的变化,因此这三种方法不会引起图像的明显失真。但是,这三种方法不能模拟拍摄角度改变引起的部件角度和比例变化,而且目标检测模型本身已针对平移不变性、尺度不变性等进行设计,因此相比于直接复制的扩充方法,这三种方法对泛化能力和识别效果的提升比较有限。相反,改变长宽比的方法能在一定程度上体现隔离开关各部件的角度和比例变化,例如闸刀的角度变化、隔离开关整体的宽高比变化,但同时会造成图像较严重的比例失真,如绝缘柱的外形比例失调等,因而影响了模型的识别准确率。而本发明的方法结合了隔离开关的三维空间信息,可以在模拟拍摄角度变化的同时,避免出现严重的失真,从而有效提高了模型的泛化能力与识别效果。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (9)

1.一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:包括以下步骤:
S1:建立三维空间坐标系;
S2:计算镜头的物距u和像距v;
S3:利用逆透视投影变换计算隔离开关关键点位于三维空间坐标系内的坐标;
S4:计算旋转变换角度范围:
S41:将摄像机镜头和两个绝缘柱投影到近柱点所在的水平面α;
S42:获取摄像头及靠近摄像头的隔离开关绝缘柱在水平面α的投影连线以及隔离开关两个绝缘柱在水平面α的投影连线之间的夹角
Figure FDA0004104129140000011
Figure FDA0004104129140000012
S43:根据夹角
Figure FDA0004104129140000013
确定旋转变换角度
Figure FDA0004104129140000014
的范围;
S5:对关键点进行旋转变换以确定隔离开关的整体形态:利用近柱点得到旋转轴,若隔离开关处于合闸状态,结合旋转变换角度
Figure FDA0004104129140000015
对远柱点进行旋转变换;若隔离开关处于开闸状态,则还需结合旋转变换角度
Figure FDA0004104129140000016
对远刀点和近刀点进行旋转变换;
S6:生成新的二维图像。
2.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S1中三维空间坐标系为左手坐标系,该坐标系以摄像头镜头中心为坐标原点O,以摄像头方向为z轴正方向。
3.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S2中包括以下步骤:
S21:获取基本参数信息,包括摄像头仰角θ,镜头焦距f和隔离开关绝缘柱顶的横截面直径d;
S22:建立物距u、像距v和镜头焦距f的关系式
Figure FDA0004104129140000021
S23:建立物距u和像距v的关系式
Figure FDA0004104129140000022
其中,d′为图像中隔离开关绝缘柱顶横截面直径;
S24:结合步骤S22和步骤S23中公式计算物距u和像距v
Figure FDA0004104129140000023
4.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S3中关键点包括位于靠近镜头的隔离开关绝缘柱顶的近柱点和位于远离镜头的隔离开关绝缘柱顶的远柱点,近柱点和远柱点的坐标确定方法包括以下步骤:
S31:根据近柱点在二维图像上的坐标(x′nc,y′nc)获得三维空间坐标系中的对应坐标(xnc,ync,znc)
Figure FDA0004104129140000024
所述二维图像为摄像机形成的图像;
S32:获取远柱点在二维图像上的坐标(x′fc,y′fc),设远柱点在三维空间坐标系的对应坐标(xfc,yfc,zfc),根据近柱点和远柱点在同水平面及摄像头与水平面的夹角θ,可得如下三元一次方程组
Figure FDA0004104129140000031
对三元一次方程组进行求解可得
Figure FDA0004104129140000032
5.根据权利要求4所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S3中对于分闸状态的隔离开关的关键点还包括近刀点和远刀点,所述近刀点为与近柱点连接的闸刀末端底部,所述远刀点为与远柱点连接的闸刀末端底部,近刀点与远刀点的三维坐标获取方法与近柱点和远柱点相同,近刀点三维坐标为(xnk,ynk,znk),远刀点三维坐标为(xfk,yfk,zfk)。
6.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S42中获取夹角
Figure FDA0004104129140000033
包括以下步骤:
S421:获取摄像机镜头在水平面α投影点的三维坐标(xlens,ylens,zlens),
Figure FDA0004104129140000034
其中,θ为摄像头镜头与水平面的夹角;
S422:对步骤S421中公式求解得到
Figure FDA0004104129140000035
S423:获得夹角
Figure FDA0004104129140000041
的表达式
Figure FDA0004104129140000042
其中,x′fc远柱点在二维图像上的横坐标,x′nc为近柱点在二维图像上的纵坐标,v1为近柱点到摄像机镜头在水平面α上的投影点的方向向量,v2为近柱点到远柱点的方向向量
Figure FDA0004104129140000043
近柱点的坐标为(xnc,ync,znc),远柱点的坐标为(xfc,yfc,zfc)。
7.根据权利要求6所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述旋转变换角度
Figure FDA0004104129140000044
的范围满足:
Figure FDA0004104129140000045
其中,
Figure FDA0004104129140000046
Figure FDA0004104129140000047
的绝对值上限。
8.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S5中对关键点进行旋转变换以确定隔离开关的整体形态包括以下步骤:
S51:设经过近柱点(xnc,ync,znc)的铅垂线为旋转轴,旋转轴的单位方向向量为(a,b,c),其中a=0,b=cosθ,c=sinθ,θ为摄像头与水平面的夹角;
S52:判断隔离开关状态,若隔离开关处于合闸状态,则对远柱点进行旋转变换,远柱点旋转变换后的三维坐标(xfcr,yfcr,zfcr)满足:
(xfcr,yfcr,zfcr)=(xfc,yfc,zfc)T
旋转变换矩阵T为:
Figure FDA0004104129140000048
其中
Figure FDA0004104129140000051
为旋转变换角度,T1、T2、T3分别为:
Figure FDA0004104129140000052
Figure FDA0004104129140000053
Figure FDA0004104129140000054
S52:若隔离开关处于开闸状态,则还要对近刀点和远刀点进行旋转变换,近刀点和远刀点的旋转变换与远柱点的旋转变换方法相同。
9.根据权利要求1所述的一种双柱水平旋转式隔离开关图像数据的扩充方法,其特征是:所述步骤S6中生成新的二维图像包括以下步骤:
S61:用背景色对原隔离开关闸刀部分和远离摄像头的绝缘柱进行填充;
S62:对关键点进行透视投影变换,对于合闸状态的隔离开关进行远柱点的透视投影变换,变换后远柱点的二维坐标为(x′fcr,y′fcr)
Figure FDA0004104129140000055
其中,xfcr、yfcr和zfcr依次为远柱点在旋转变换后在三维坐标系中的x轴坐标、y轴坐标和z轴坐标,对于开闸状态的隔离开关还需要进行近刀点和远刀点的透视投影变换,近刀点和远刀点的透视投影变换方法与远柱点的透视投影变换方法相同;
S63:根据透视投影后的关键点对闸刀部分和远离摄像机镜头的绝缘柱进行平行生成新的二维图像。
CN201910833358.5A 2019-09-04 2019-09-04 一种双柱水平旋转式隔离开关图像数据的扩充方法 Active CN110766604B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910833358.5A CN110766604B (zh) 2019-09-04 2019-09-04 一种双柱水平旋转式隔离开关图像数据的扩充方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910833358.5A CN110766604B (zh) 2019-09-04 2019-09-04 一种双柱水平旋转式隔离开关图像数据的扩充方法

Publications (2)

Publication Number Publication Date
CN110766604A CN110766604A (zh) 2020-02-07
CN110766604B true CN110766604B (zh) 2023-06-06

Family

ID=69329388

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910833358.5A Active CN110766604B (zh) 2019-09-04 2019-09-04 一种双柱水平旋转式隔离开关图像数据的扩充方法

Country Status (1)

Country Link
CN (1) CN110766604B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111814742A (zh) * 2020-07-29 2020-10-23 南方电网数字电网研究院有限公司 基于深度学习的刀闸状态识别方法
CN114938425A (zh) * 2021-06-15 2022-08-23 义隆电子股份有限公司 摄影装置及其使用人工智能的物件识别方法
CN113936230B (zh) * 2021-11-02 2024-08-20 石家庄铁道大学 基于无人机的隔离开关引上线安全距离检测方法
CN114646277B (zh) * 2022-03-16 2023-05-30 广东电网有限责任公司 一种隔离开关偏移角度的确定方法、装置、设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1577832A2 (en) * 2004-03-19 2005-09-21 Casio Computer Co., Ltd. Image processing apparatus for correcting distortion of image and image shooting apparatus for correcting distortion of shot image
JP2009064225A (ja) * 2007-09-06 2009-03-26 Canon Inc 画像処理装置及び画像処理方法
JP2013135277A (ja) * 2011-12-26 2013-07-08 Jvc Kenwood Corp 画像処理装置及び画像処理方法
CN109271872A (zh) * 2018-08-22 2019-01-25 国网电力科学研究院武汉南瑞有限责任公司 一种高压隔离开关分合状态判断与故障诊断装置及方法
WO2019109771A1 (zh) * 2017-12-05 2019-06-13 南京南瑞信息通信科技有限公司 基于多核异构并行计算的电力人工智能视觉分析系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10389948B2 (en) * 2016-12-06 2019-08-20 Qualcomm Incorporated Depth-based zoom function using multiple cameras

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1577832A2 (en) * 2004-03-19 2005-09-21 Casio Computer Co., Ltd. Image processing apparatus for correcting distortion of image and image shooting apparatus for correcting distortion of shot image
JP2009064225A (ja) * 2007-09-06 2009-03-26 Canon Inc 画像処理装置及び画像処理方法
JP2013135277A (ja) * 2011-12-26 2013-07-08 Jvc Kenwood Corp 画像処理装置及び画像処理方法
WO2019109771A1 (zh) * 2017-12-05 2019-06-13 南京南瑞信息通信科技有限公司 基于多核异构并行计算的电力人工智能视觉分析系统
CN109271872A (zh) * 2018-08-22 2019-01-25 国网电力科学研究院武汉南瑞有限责任公司 一种高压隔离开关分合状态判断与故障诊断装置及方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LIU Z Q, WANG H F..Automatic detection of transformer components in inspection images based on improved Faster R-CNN.Energies.2018,3496-3513. *
方盛 ; 舒小华 ; 李德武 ; .基于机器视觉的变电站隔离开关开合状态识别方法.湖南工业大学学报.2017,(第06期),37-41. *
王平江 ; 吴娟娟 ; .基于Scheimpflug定律的线结构光系统摄像机标定方法.制造业自动化.2017,(第10期),15-19+24. *

Also Published As

Publication number Publication date
CN110766604A (zh) 2020-02-07

Similar Documents

Publication Publication Date Title
CN110766604B (zh) 一种双柱水平旋转式隔离开关图像数据的扩充方法
CN110264416B (zh) 稀疏点云分割方法及装置
Rogez et al. Mocap-guided data augmentation for 3d pose estimation in the wild
CN110096925B (zh) 人脸表情图像的增强方法、获取方法和装置
CN105740899B (zh) 一种机器视觉图像特征点检测与匹配复合的优化方法
JP2006053568A (ja) 劣化文字画像生成プログラム、方法および装置
CN105046649A (zh) 一种去除运动视频中运动物体的全景图拼接方法
CN116109684B (zh) 面向变电场站在线视频监测二三维数据映射方法及装置
CN106023307A (zh) 基于现场环境的快速重建三维模型方法及系统
Zhao et al. A flexible method combining camera calibration and hand–eye calibration
CN101661625B (zh) 基于一幅标准图像生成各视角下样本图像的方法
CN113723389A (zh) 一种支柱式绝缘子定位方法及装置
Han et al. An improved RANSAC registration algorithm based on region covariance descriptor
CN116797733A (zh) 实时三维物体动态重建方法
Fang et al. Self-teaching strategy for learning to recognize novel objects in collaborative robots
Hlubik et al. Advanced point cloud estimation based on multiple view geometry
Lee et al. NFL: Normal Field Learning for 6-DoF Grasping of Transparent Objects
CN112652056A (zh) 一种3d信息展示方法及装置
Kriegler et al. PrimitivePose: 3D Bounding Box Prediction of Unseen Objects via Synthetic Geometric Primitives
CN117095131B (zh) 物体运动关键点的三维重建方法、设备及存储介质
Hong et al. Electric Tower Extraction in Overhead Line Based on Multi-Data Fusion
Zhang et al. Establishing a large amount of point correspondences using patch-based affine-scale invariant feature transform for fisheye images
CN117953224B (zh) 一种开放词汇3d全景分割方法及系统
Xiao et al. A spaceborne camera pose estimate method based on high-precision point cloud model
Jiang et al. Intelligent Inspection Method of Transmission Line Robot Based on Tower Image Registration and Object Tracking

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant