CN108898269A - 基于度量的电力图像环境影响评估方法 - Google Patents

基于度量的电力图像环境影响评估方法 Download PDF

Info

Publication number
CN108898269A
CN108898269A CN201810470102.8A CN201810470102A CN108898269A CN 108898269 A CN108898269 A CN 108898269A CN 201810470102 A CN201810470102 A CN 201810470102A CN 108898269 A CN108898269 A CN 108898269A
Authority
CN
China
Prior art keywords
image
hash
layer
environment
electric power
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810470102.8A
Other languages
English (en)
Inventor
侯春萍
蒋天丽
杨阳
郎玥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN201810470102.8A priority Critical patent/CN108898269A/zh
Publication of CN108898269A publication Critical patent/CN108898269A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06393Score-carding, benchmarking or key performance indicator [KPI] analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06Energy or water supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Strategic Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • Mathematical Physics (AREA)
  • Development Economics (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于图像分类、电力设备维护技术领域,为提出一种基于的电力图像环境影响评估方法,用于确定电力图像的受环境影响级别。为此,本发明采用的技术方案是,基于度量的电力图像环境影响评估方法,构建相应电力系统环境下已确定环境影响类别和影响级别的数据库,建立卷积神经网络模型,利用数据库中图像对模型进行训练,分别对数据库中电力图像和实际采集的电力图像进行特征提取,利用数据库中部分图像作为监督样本构建哈希映射,将数据库图像和实际采集图像进行映射得到哈希码,并进行距离度量以确定电力图像的受环境影响级别。本发明主要应用于电力设备维护场合。

Description

基于度量的电力图像环境影响评估方法
技术领域
本发明属于图像分类、电力设备维护技术领域,具体讲,涉及一种利用卷积神经网络的基于度量的电力图像环境影响评估方法。
背景技术
随着数字图像处理技术在军事、工业、医学、气象等领域的广泛应用,电力图像的采集和处理也在提高电力生产和传输过程中的安全性和经济性方面发挥着越来越大的作用。电力图像的获取过程往往会受到环境的不同种类和不同程度的影响,不可避免地产生失真。对电力数字图像所受到的环境影响准确地进行评估是工程技术人员进行后续算法设计、系统优化、参数估计的重要前提。
环境影响评估可通过主观评估方法由一定数量的观测人员按规定测试流程进行,但过程复杂费时,且评估结果易因人而异,测试环境、观察人员的文化背景、自身情绪、观察动机等因素都会影响评估结果的准确性。主观评估方法通常作为一种辅助手段,用来验证客观评价结果的有效性、准确性及与主观感受的一致性。通过软件或仪器进行客观的环境影响评估,结果具有数值性,易操作性和可重复性,故更需要具有更高有效性的环境影响评估方法。
对电力图像进行环境因素相关的特征提取作为进行环境影响级别相似性度量的基础,需要依照实际图像类型与特点,以相似性比对为目的进行。按照给定的算法和要求,提取图像的相关特征。电力图像的环境因素特征分为三个层次:包含图像的颜色、纹理、形状等低层特征的感知层级,包含图像中对象之间的空间关系的逻辑特征层,包含对图像内容的抽象概念反映的抽象语义特征层。评估的需求也对应地分为三个层次:一是利用图像的低层特征及其组合进行度量,不利用图像的语义信息,是目前主要的方法。二是在逻辑特征基础上检测图像内容,在计算机获得对象概念的基础上可进行相似性度量得到有代表意义的对象。三是经过相关知识和主观判断,对实际物体进行描述,来对物体的抽象特征进行相似性度量。
早期特征提取中,全局特征通常将各类特征转化为单一全局表达来描述图像内容。传统方法如GIST、Edgel对图像内容的表征能力比较有限,主要适用于内容一致性较高的图像相似性度量,对处理背景复杂的图像效果不佳,可被用作补充部分以提高准确度。自从SIFT可检测出图像中具有显著视觉特性的局部区域,并对这些区域有非常稳定能力的特征描述[1],局部特征被大量用作图像表达。局部特征抽取包括兴趣点检测和局部区域描述。常用检测子包括差分高斯、最大稳定极值区域、Hessian仿射检测子、Harris-Hessian检测子和FAST,使兴趣点在不同的变换或改变中仍能被检测到。描述子应具有旋转不变性和区分性。自利用描述子阈值获得二值化SIFT后,产生了一种新的图像相似性度量方法,二值化特征BRIEF和其变体相继提出,如ORB、FREAK和BRISK,除梯度信息,边缘和颜色也可生成描述子,如Edge-SIFT和color-SIFT。由于描述子缺少学习能力,限制了其图像内容表达能力,难以适应多样的图像数据。
为生成更具有区分性和代表性的特征,还可以将数据驱动的方式用于学习特征。随着深度学习的发展,人们逐渐可以使用深度架构学习出接近人类识别过程的高层抽象,可从网络不同层抽取特征。Tang将DBN第一层采用稀疏化连接,同时利用概率降噪算法提高DBN输出特征对噪声的鲁棒性。Lee[2]等构建了卷积深度置信网络,可从未标注的自然图像中学习有效的高阶表示。卷积神经网络(Convolutional Neural Network,CNN)可以自动地学习图像中的特征,避免了进行手动的特征选取和复杂的计算,可针对特定的环境因素评估问题得到具有较好区分性的高维特征。使后续度量返回的结果具有更加高的准确性。
在实现对大规模高维图像数据的有效相似性度量中,哈希技术成为主流方法,它利用哈希函数族将高维图像特征映射到低维空间中,同时使得原空间中距离较近的点映射到低维空间后仍保持较近的距离。早期的哈希方法有位置敏感哈希等。近年来,研究者们针对如何结合数据特点构造有效、紧致的哈希函数提出了许多算法。Yair等[3]提出了谱哈希方法,利用拉普拉斯特征图的降维问题进行求解。在评估过程中选择合适的相似度度量方法也尤为重要,会大大减少评估的时间。可利用Minkowski距离、EMD、Hausdorff距离等。在得到了关于环境因素的电力图像高维特征后,可根据哈希函数对其进行映射。在映射的过程中,需要保证哈希函数对线性不可分的高维特征数据的分辨能力,哈希函数除了需要满足低维汉明空间与原始高维空间的相似一致性外,还应保证生成的哈希码是均衡的,这成为度量过程中的一大难点。
[1]Zhang S T,Yang M,Cour T,et al.Query specific fusionfor imageretrieval[C]∥European Confer-ence on Com-puter Vision,2012:660-673.
[2]Lee H,Grosse R,Ranganath R,et al.Convolu-tional deep beliefnetworks for scalable unsupervised learning of hierar-chical representations[A].Pro-ceedings of the 26th Interna-tional Conference on M achine Learning[C].New York:ACM,2009.609-616.
[3]Yair Weiss,Antonio Torralba,Rob Fergus.Spectral Hasing[A].Proceedings of Neural Information Processing Systems[C].Vancouver,Canada:ACM,2008.1753-1760。
发明内容
为克服现有技术的不足,本发明旨在提出一种基于的电力图像环境影响评估方法,用于确定电力图像的受环境影响级别。为此,本发明采用的技术方案是,基于度量的电力图像环境影响评估方法,构建相应电力系统环境下已确定环境影响类别和影响级别的数据库,建立卷积神经网络模型,利用数据库中图像对模型进行训练,分别对数据库中电力图像和实际采集的电力图像进行特征提取,利用数据库中部分图像作为监督样本构建哈希映射,将数据库图像和实际采集图像进行映射得到哈希码,并进行距离度量以确定电力图像的受环境影响级别。
具体地:
1)构建数据库,采集图像所在环境的电力图像,将包括雨、雪、霾、尘的常见的环境影响类型以及定义为不同级别的环境影响程度作为依据,通过算法进行建立,所生成的数据库中的图像作为生成卷积神经网络CNN模型时的训练样本,在数据库中选取部分已知环境影响类型和环境影响级别的图像用作构建哈希函数的监督样本集;
2)建立卷积神经网络,CNN将图像的局部感知区域作为网络的输入,信息再依次传输到不同的层,每层通过一个数字滤波器去获取对平移、旋转和缩放具有不变性的显著特征;
3)训练卷积神经网络,卷积神经网络的训练分为两个阶段,即前向传播阶段和后向传播阶段;在进行前向传播时,将训练样本输入已经训练完成的CNN模型中,样本从输入层经逐级变换传送到输出层,由此得到相应的实际输出;在进行后向传播时,对实际输出和对应理想输出的误差进行传播,将误差进行反向逐层后推,从而得到各层的误差,并按最小化误差方法调整神经元权值,在得到最小误差后,完成该批次训练样本的训练;
4)特征提取,当所有的批次训练全部完成后,将图像数据集和已经过分类的采集图像分别输入训练好的卷积神经网络模型中,图像数据逐级通过各个网络层后,在输出端分别得到两类图像的深层特征;
5)基于度量的环境影响评估,上一步卷积神经网络模型中输出为数据集图像和采集图像的高维特征数据,为增强哈希函数对线性不可分的高维数据的分辨能力,构建哈希函数,通过图像的语义相关性和空间距离获得训练图图像的标签信息,利用此种训练数据的相关性信息进行监督学习,设定目标函数,利用梯度下降的方法最小化目标函数,从而得到哈希函数构建过程中的所需参数,从而增强生成哈希码的区分性,对数据库中图像和实际采集图像的深层次特征进行哈希映射,得到哈希码,利用向量内积运算计算哈希码之间的距离,度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。
使用卷积神经网络的输入图像大小为227×227,输出为4096×1的图像深层特征,一共包含5个卷积层、3个子采样层、1个全连接层,在子采样层中,使用重叠采样的方法。
在一个具体实例中,具体地,
步骤2)在卷积层,前一层的特征图与可学习的卷积核Kij进行卷积,卷积的结果经非线性函数g(·)生称这一层的特征图具体形式为:
其中为第l个卷积层Cl的输出,代表卷积运算,bj为偏置,卷积核Kij表示可与前一层的一个或多个特征图确定卷积关系,Mj代表输入特征图的集合,非线性函数:
g(x)=max(0,x)
卷积层所生成特征图的大小为hl
其中hl-1为第l-1层特征图的大小,zl表示第l层卷积核的大小,λl是卷积核移动步长,ρl表示卷积运算时对前一层特征图边缘补零的列数;
特征图边缘补零列数:
P={ρ1=0,ρ2=2,ρ3=ρ4=ρ5=1}
网络结构的详细参数如表1所示:
表1CNN网络结构详细参数
采用重叠采样方法来对特征图进行最大值采样,其中采样区域为3×3,采样步长为2个像素;
步骤3)训练卷积神经网络
卷积神经网络的训练样本来自已知环境影响类型和影响级别的电力图像数据库,训练主要分前向传播和后向传播两个阶段:
(1)前向传播阶段
从训练样本中选取一个样本(X,Yp)从输入层经逐级变换传送到输出层,计算相应的实际输出为:
Op=Fn(…(F2(F1(XW(1))W(2))…)W(3))
(2)后向传播阶段,也称误差传播阶段。计算实际输出Op与对应理想输出Yp的误差:
将误差Ep反向逐层后推得到各层的误差,并按最小化误差方法调整神经元权值,当总误差E≤ε时,利用已生成的各类不同级别环境影响下的图像数据集完成该批次训练样本的训练;
步骤5)进行基于度量的环境影响评估
(1)基于监督核的哈希函数建立
从卷积神经网络模型中输出的是数据集和采集图像的高维特征数据:
为增强哈希函数对线性不可分的高维数据的分辨能力,利用核函数:κ:Rd·Rd→R,构建哈希函数:
h:Rd→{1,-1}
对高维的特征数据进行映射生成哈希码,哈希码的具体形式为:
其中aj∈R,bj∈R,x(1),…,x(n)是从χ中随机选取的n个样本,m是远小于n的常数,哈希函数h(x)除了满足低维汉明空间与原始高维空间的相似一致性外,还应保证生成的哈希码是均衡的,即哈希函数h(x)应满足则偏置将b的值代入,得:
其中a=[a1am]TRd→Rm是映射向量:
这里,通过预先计算得到,传统哈希方法中系数向量a是通过随机抽样得到的m维向量,为增强生成哈希码的区分性,提高通过相似性度量进行的环境影响评估效果,使用训练数据的相关性信息进行监督学习得到系数向量a,构造与数据相关的哈希函数;
当哈希码的维数为给定的r,则需要r个向量a1,…ar,构造哈希函数:
训练图像的标签信息可以通过图像的语义相关性和空间距离获得,label(xi,xj)=1表示图像xi,xj是相似的,反之label(xi,xj)=-1表示图像xi,xj差异很大,为了描述标签图像集χl={x1,…xl}中的元素之间的相互关系,定义监督矩阵S∈Rl×l
其中label(xi,xj)=1,Sii=1,Sij=0,表示图像xi,xj之间的相似性不确定,为了增强哈希码的区分能力,使得在汉明空间中可以高效地判断两类图像之间的相似性,应该尽量使图像xi,xj的汉明距离Dh(xi,xj)满足:
在实际中利用向量内积运算计算哈希码之间的距离,记图像x的哈希码为:
coder(x)=[h1(x)…hr(x)]∈{1,-1}1×r
则图像(xi,xj)的距离D(xi,xj)为:
D(xi,xj)=coder(xi)·coder(xj)
=|{k|hk(xi)=hk(xj),1≤k≤r}|-|{k|hk(xi)≠hk(xj),1≤k≤r}|
=r-2|{k|hk(xi)=hk(xj),1≤k≤r}|
=r-2Dh(xi,xj)
故通过哈希码内积运算与汉明距离运算是一致的,且D(xi,xj)∈[-r,r],对D(xi,xj)归一化后得到:
为了使相似矩阵和监督矩阵S距离达到最小,定义目标函数:
其中表示求矩阵Frobenius范数,为标签图像集χl的哈希码矩阵,将sgn(·)推广到矩阵形式,根据上式,Hl可以表示为:
其中,A=[a1,…,ar]∈Rm×r,将Hl代入得:
和BRE相比,目标函数Γ(A)通过内积计算相似性,对参数A建模更加直观。假定在t=k时刻,已知向量需要估算ak,定义矩阵:
其中R0=rS则可通过贪婪算法,通过最小化上式,逐步对ak进行估算:
将常数项去掉可以得到简洁的目标函数:
由于目标函数中的sgn(x)函数使得v(ak)不连续,而且v(ak)也不是凸函数,很难直接对v(ak)最小化,研究表明,当|x|>6时,连续函数:
可以很好地近似sgn(x)。所以,利用替换sgn(x)得到近似目标函数
可以通过梯度下降的方法对进行最小化,求关于ak的梯度:
其中1=[1,,1]∈Rl,⊙表示Hadamard内积运算,通过监督学习可以得到向量系数a,从而生成哈希函数和哈希表;
(2)基于度量的环境影响评估
利用得到的哈希函数生成哈希码。对数据库中图像和实际采集图像的深层次特征进行哈希映射,可以得到coder(xq),计算哈希码之间的距离,即可度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。
本发明的特点及有益效果是:
本发明采用卷积神经网络(Convolutional Neural Network,CNN)可以自动地学习图像中的特征,避免了进行手动的特征选取和复杂的计算,可针对特定的环境因素评估问题得到具有较好区分性的高维特征,同时,采用哈希映射等,从而使后续度量返回的结果具有更加高的准确性。
附图说明:
图1为不同级别雨天影响下的电力环境图片;
a)级别1 b)级别2 c)级别3
d)级别4 e)级别5。
图2为用于图像深层特征提取的卷积神经网络结构图。
具体实施方式
本发明为解决上述问题,提出了一种基于的电力图像环境影响评估方法。构建相应电力系统环境下已确定环境影响类别和影响级别的数据库,建立卷积神经网络模型,利用数据库中图像对模型进行训练,分别对数据库中电力图像和实际采集的电力图像进行特征提取。利用数据库中部分图像作为监督样本构建哈希映射,将数据库图像和实际采集图像进行映射得到哈希码,并进行距离度量以确定电力图像的受环境影响级别。通过以下几点对发明内容进行详细阐述:
1.构建数据库。在南方电网实际环境中进行现场图像采集,获得待评估的数据集。本发明用作评估标准的数据库将根据南方电网有限公司在电力图像的环境影响评估中的实际需要,利用南方电网采集图像所在环境的电力图像,将常见的环境影响类型(如雨、雪、霾、尘等)以及定义为不同级别的环境影响程度作为依据,通过算法进行建立。所生成的数据库中的图像作为生成CNN模型时的训练样本。在数据库中选取部分已知环境影响类型和环境影响级别的图像用作构建哈希函数的监督样本集。
2.建立卷积神经网络。CNN将图像的局部感知区域作为网络的输入,信息再依次传输到不同的层,每层通过一个数字滤波器去获取对平移、旋转和缩放具有不变性的显著特征。使用卷积神经网络可以针对当前任务通过学习自动对图像进行特征提取,可以得到有关环境因素的有效高维度特征,不仅避免了进行手动的特征选取和复杂的计算,并且可以使后续度量返回的结果具有更加高的准确性。该卷积神经网络的输入图像大小为227×227,输出为4096×1的图像深层特征,一共包含5个卷积层、3个子采样层、1个全连接层。在子采样层中,使用重叠采样的方法。相对于一些传统的无重叠采样过程,使用重叠采样不仅可以提高特征的准确性,还可以防止训练阶段出现过拟合。
3.训练卷积神经网络。卷积神经网络的训练分为两个阶段,即前向传播阶段和后向传播阶段。在进行前向传播时,将上述训练样本输入已经训练完成的CNN模型中,样本从输入层经逐级变换传送到输出层,由此可得到相应的实际输出。在进行后向传播时,主要对实际输出和对应理想输出的误差进行传播。将误差进行反向逐层后推,从而得到各层的误差,并按最小化误差方法调整神经元权值,在得到最小误差后,完成该批次训练样本的训练。
4.特征提取。当所有的批次训练全部完成后,将图像数据集和已经过分类的采集图像分别输入训练好的卷积神经网络模型中,图像数据逐级通过各个网络层后,在输出端即可分别得到两类图像的深层特征。
5.基于度量的环境影响评估。上一步卷积神经网络模型中输出为数据集图像和采集图像的高维特征数据,为增强哈希函数对线性不可分的高维数据的分辨能力,构建哈希函数。为满足低维汉明空间与原始高维空间的相似一致性,且保证生成的哈希码是均衡的,通过图像的语义相关性和空间距离获得训练图图像的标签信息,利用此种训练数据的相关性信息进行监督学习,设定目标函数,利用梯度下降的方法最小化目标函数,从而得到哈希函数构建过程中的所需参数,从而增强生成哈希码的区分性。对数据库中图像和实际采集图像的深层次特征进行哈希映射,可得到哈希码,利用向量内积运算计算哈希码之间的距离,即可度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。
下面结合附图和具体实施例进一步详细说明本发明。
为将本发明的技术方案描述得更加清楚,对本发明的具体实施过程做如下的进一步地描述。本发明按以下步骤具体实现:
1.构建数据库
数据库的构建是环境影响评估中的重要一步,在评估任务中有着重要作用。本发明采用的数据将根据南方电网有限公司在电力图像的环境影响评估中的实际需要,利用南方电网采集图像所在环境的电力图像,将常见的环境影响类型(如雨、雪、霾、尘等)以及定义为不同级别的环境影响程度作为标准,建立用作评估标准的数据库。以雨天为例,受雨影响的各级别电力图像如图1所示。将数据库中的图像作为生成CNN模型时的训练样本。数据库中选取部分已知环境影响类型和环境影响级别的图像用作构建哈希函数的监督样本集。待评估的图像集通过在南方电网实际环境中进行采集获取。
2.建立卷积神经网络。
卷积神经网络(Convolutional Neural Network,CNN))是第一个真正成功训练多层网络结构的学习算法,并被广泛应用于解决如何提取学习图像数据的深层特征问题。CNN的基本思想是:将图像的局部感知区域作为网络的输入,信息再依次传输到不同的层,每层通过一个数字滤波器去获取对平移、旋转和缩放具有不变性的显著特征。用于提取图像深层特征的卷积神经网络结构如图2所示。
该卷积神经网络的输入图像大小为227×227,输出为4096×1的图像深层特征,一共包含5个卷积层、3个子采样层。
在卷积层,前一层的特征图与可学习的卷积核Kij进行卷积,卷积的结果经非线性函数g(·)生称这一层的特征图具体形式为:
其中为第l个卷积层Cl的输出,代表卷积运算,bj为偏置,卷积核Kij表示可与前一层的一个或多个特征图确定卷积关系。Mj代表输入特征图的集合,常用的非线性函数有:
g(x)=tanh(x)
g(x)=(1+e-x)-1
和上述的非线性函数相比,更能用于有效提高训练效率的是:
g(x)=max(0,x)
卷积层所生成特征图的大小为hl
其中hl-1为第l-1层特征图的大小,zl表示第l层卷积核的大小,λl是卷积核移动步长,ρl表示卷积运算时对前一层特征图边缘补零的列数。
特征图边缘补零列数:
P={ρ1=0,ρ2=2,ρ3=ρ4=ρ5=1}
网络结构的详细参数如表1所示。
表1CNN网络结构详细参数
一些实验表明,在子采样层,相对于一些传统的无重叠采样,使用重叠采样不仅可以提高特征的准确性,还可以防止训练阶段出现过拟合。因此,这里采用重叠采样方法来对特征图进行最大值采样。其中采样区域为3×3,采样步长为2个像素。
3.训练卷积神经网络
卷积神经网络的训练样本来自已知环境影响类型和影响级别的电力图像数据库,训练主要分前向传播和后向传播两个阶段:
(1)前向传播阶段
从训练样本中选取一个样本(X,Yp)从输入层经逐级变换传送到输出层,计算相应的实际输出为:
Op=Fn(…(F2(F1(XW(1))W(2))…)W(3))
(2)后向传播阶段,也称误差传播阶段。计算实际输出Op与对应理想输出Yp的误差:
将误差Ep反向逐层后推得到各层的误差,并按最小化误差方法调整神经元权值,当总误差E≤ε时,利用已生成的各类不同级别环境影响下的图像数据集完成该批次训练样本的训练。
4.特征提取
当所有的批次训练全部完成后,将已知电力图像数据集和实际采集图像分别输入训练好的卷积神经网络模型中,图像数据逐级通过各个网络层后,在输出端即可分别得到两类图像的高维深层特征。
5.进行基于度量的环境影响评估
(1)基于监督核的哈希函数建立
从卷积神经网络模型中输出的是数据集和采集图像的高维特征数据:
为增强哈希函数对线性不可分的高维数据的分辨能力,利用核函数:κ:Rd·Rd→R
可以构建哈希函数:
h:Rd→{1,-1}
对高维的特征数据进行映射生成哈希码,哈希码的具体形式为:
其中aj∈R,bj∈R,x(1),…,x(n)是从χ中随机选取的n个样本,这样是为了实现快速的哈希映射,m是远小于n的常数。哈希函数h(x)除了满足低维汉明空间与原始高维空间的相似一致性外,还应保证生成的哈希码是均衡的,即哈希函数h(x)应满足则偏置将b的值代入,可得:
其中a=[a1 … am]TRd→Rm是映射向量:
这里,可通过预先计算得到,传统哈希方法中系数向量a是通过随机抽样得到的m维向量,为增强生成哈希码的区分性,提高通过相似性度量进行的环境影响评估效果,使用训练数据的相关性信息进行监督学习得到系数向量a,构造与数据相关的哈希函数。
当哈希码的维数为给定的r,则需要r个向量a1,…ar,构造哈希函数:
训练图像的标签信息可以通过图像的语义相关性和空间距离获得,label(xi,xj)=1表示图像xi,xj是相似的。反之label(xi,xj)=-1表示图像xi,xj差异很大。为了描述标签图像集χl={x1,…xl}中的元素之间的相互关系,定义监督矩阵S∈Rl×l
其中label(xi,xj)=1,Sii=1,Sij=0,表示图像xi,xj之间的相似性不确定,为了增强哈希码的区分能力,使得在汉明空间中可以高效地判断两类图像之间的相似性,应该尽量使图像xi,xj的汉明距离Dh(xi,xj)满足:
由于汉明距离计算公式形式复杂,很难直接对其进行优化,所以,在实际中利用向量内积运算计算哈希码之间的距离。记图像x的哈希码为:
coder(x)=[h1(x)…hr(x)]∈{1,-1}1×r
则图像(xi,xj)的距离D(xi,xj)为:
D(xi,xj)=coder(xi)·coder(xj)
=|{k|hk(xi)=hk(xj),1≤k≤r}|-|{k|hk(xi)≠hk(xj),1≤k≤r}|
=r-2|{k|hk(xi)=hk(xj),1≤k≤r}|
=r-2Dh(xi,xj)
故通过哈希码内积运算与汉明距离运算是一致的,且D(xi,xj)∈[-r,r],对D(xi,xj)归一化后可以得到:
为了使相似矩阵和监督矩阵S距离达到最小,定义目标函数:
其中表示求矩阵Frobenius范数,为标签图像集χl的哈希码矩阵,将sgn(·)推广到矩阵形式,根据上式,Hl可以表示为:
其中,A=[a1,…,ar]∈Rm×r,将Hl代入可得:
和BRE相比,目标函数Γ(A)通过内积计算相似性,对参数A建模更加直观。假定在t=k时刻,已知向量需要估算ak,定义矩阵:
其中R0=rS则可通过贪婪算法,通过最小化上式,逐步对ak进行估算:
将常数项去掉可以得到简洁的目标函数:
由于目标函数中的sgn(x)函数使得v(ak)不连续,而且v(ak)也不是凸函数,很难直接对v(ak)最小化,研究表明,当|x|>6时,连续函数:
可以很好地近似sgn(x)。所以,利用替换sgn(x)得到近似目标函数
可以通过梯度下降的方法对进行最小化,求关于ak的梯度:
其中1=[1,…,1]∈Rl,⊙表示Hadamard内积运算。
通过监督学习可以得到向量系数a,从而可以生成哈希函数和哈希表。
(2)基于度量的环境影响评估
利用得到的哈希函数生成哈希码。对数据库中图像和实际采集图像的深层次特征进行哈希映射,可以得到coder(xq),计算哈希码之间的距离,即可度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。

Claims (4)

1.一种基于度量的电力图像环境影响评估方法,其特征是,构建相应电力系统环境下已确定环境影响类别和影响级别的数据库,建立卷积神经网络模型,利用数据库中图像对模型进行训练,分别对数据库中电力图像和实际采集的电力图像进行特征提取,利用数据库中部分图像作为监督样本构建哈希映射,将数据库图像和实际采集图像进行映射得到哈希码,并进行距离度量以确定电力图像的受环境影响级别。
2.如权利要求1所述的基于度量的电力图像环境影响评估方法,其特征是,具体地:
1)构建数据库,采集图像所在环境的电力图像,将包括雨、雪、霾、尘的常见的环境影响类型以及定义为不同级别的环境影响程度作为依据,通过算法进行建立,所生成的数据库中的图像作为生成卷积神经网络CNN模型时的训练样本,在数据库中选取部分已知环境影响类型和环境影响级别的图像用作构建哈希函数的监督样本集;
2)建立卷积神经网络,CNN将图像的局部感知区域作为网络的输入,信息再依次传输到不同的层,每层通过一个数字滤波器去获取对平移、旋转和缩放具有不变性的显著特征;
3)训练卷积神经网络,卷积神经网络的训练分为两个阶段,即前向传播阶段和后向传播阶段;在进行前向传播时,将训练样本输入已经训练完成的CNN模型中,样本从输入层经逐级变换传送到输出层,由此得到相应的实际输出;在进行后向传播时,对实际输出和对应理想输出的误差进行传播,将误差进行反向逐层后推,从而得到各层的误差,并按最小化误差方法调整神经元权值,在得到最小误差后,完成该批次训练样本的训练;
4)特征提取,当所有的批次训练全部完成后,将图像数据集和已经过分类的采集图像分别输入训练好的卷积神经网络模型中,图像数据逐级通过各个网络层后,在输出端分别得到两类图像的深层特征;
5)基于度量的环境影响评估,上一步卷积神经网络模型中输出为数据集图像和采集图像的高维特征数据,为增强哈希函数对线性不可分的高维数据的分辨能力,构建哈希函数,通过图像的语义相关性和空间距离获得训练图图像的标签信息,利用此种训练数据的相关性信息进行监督学习,设定目标函数,利用梯度下降的方法最小化目标函数,从而得到哈希函数构建过程中的所需参数,从而增强生成哈希码的区分性,对数据库中图像和实际采集图像的深层次特征进行哈希映射,得到哈希码,利用向量内积运算计算哈希码之间的距离,度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。
3.如权利要求2所述的基于度量的电力图像环境影响评估方法,其特征是,使用卷积神经网络的输入图像大小为227×227,输出为4096×1的图像深层特征,一共包含5个卷积层、3个子采样层、1个全连接层,在子采样层中,使用重叠采样的方法。
4.如权利要求1所述的基于度量的电力图像环境影响评估方法,其特征是,在一个具体实例中,具体地,
步骤2)在卷积层,前一层的特征图与可学习的卷积核Kij进行卷积,卷积的结果经非线性函数g(·)生称这一层的特征图具体形式为:
其中为第l个卷积层Cl的输出,代表卷积运算,bj为偏置,卷积核Kij表示可与前一层的一个或多个特征图确定卷积关系,Mj代表输入特征图的集合,非线性函数:g(x)=max(0,x)
卷积层所生成特征图的大小为hl
其中hl-1为第l-1层特征图的大小,zl表示第l层卷积核的大小,λl是卷积核移动步长,ρl表示卷积运算时对前一层特征图边缘补零的列数;
特征图边缘补零列数:
P={ρ1=0,ρ2=2,ρ3=ρ4=ρ5=1}
网络结构的详细参数如表1所示:
表1CNN网络结构详细参数
采用重叠采样方法来对特征图进行最大值采样,其中采样区域为3×3,采样步长为2个像素;
步骤3)训练卷积神经网络
卷积神经网络的训练样本来自已知环境影响类型和影响级别的电力图像数据库,训练主要分前向传播和后向传播两个阶段:
(1)前向传播阶段
从训练样本中选取一个样本(X,Yp)从输入层经逐级变换传送到输出层,计算相应的实际输出为:
Op=Fn(…(F2(F1(XW(1))W(2))…)W(3))
(2)后向传播阶段,也称误差传播阶段。计算实际输出Op与对应理想输出Yp的误差:
将误差Ep反向逐层后推得到各层的误差,并按最小化误差方法调整神经元权值,当总误差E≤ε时,利用已生成的各类不同级别环境影响下的图像数据集完成该批次训练样本的训练;
步骤5)进行基于度量的环境影响评估
(1)基于监督核的哈希函数建立
从卷积神经网络模型中输出的是数据集和采集图像的高维特征数据:
为增强哈希函数对线性不可分的高维数据的分辨能力,利用核函数:κ:Rd·Rd→R,构建哈希函数:
h:Rd→{1,-1}
对高维的特征数据进行映射生成哈希码,哈希码的具体形式为:
其中aj∈R,bj∈R,x(1),…,x(n)是从χ中随机选取的n个样本,m是远小于n的常数,哈希函数h(x)除了满足低维汉明空间与原始高维空间的相似一致性外,还应保证生成的哈希码是均衡的,即哈希函数h(x)应满足则偏置将b的值代入,得:
其中a=[a1 … am]TRd→Rm是映射向量:
这里,通过预先计算得到,传统哈希方法中系数向量a是通过随机抽样得到的m维向量,为增强生成哈希码的区分性,提高通过相似性度量进行的环境影响评估效果,使用训练数据的相关性信息进行监督学习得到系数向量a,构造与数据相关的哈希函数;
当哈希码的维数为给定的r,则需要r个向量a1,…ar,构造哈希函数:
训练图像的标签信息可以通过图像的语义相关性和空间距离获得,label(xi,xj)=1表示图像xi,xj是相似的,反之label(xi,xj)=-1表示图像xi,xj差异很大,为了描述标签图像集χl={x1,…xl}中的元素之间的相互关系,定义监督矩阵S∈Rl×l
其中label(xi,xj)=1,Sii=1,Sij=0,表示图像xi,xj之间的相似性不确定,为了增强哈希码的区分能力,使得在汉明空间中可以高效地判断两类图像之间的相似性,应该尽量使图像xi,xj的汉明距离Dh(xi,xj)满足:
在实际中利用向量内积运算计算哈希码之间的距离,记图像x的哈希码为:
coder(x)=[h1(x) … hr(x)]∈{1,-1}1×r
则图像(xi,xj)的距离D(xi,xj)为:
D(xi,xj)=coder(xi)·coder(xj)
=|{k|hk(xi)=hk(xj),1≤k≤r}|-|{k|hk(xi)≠hk(xj),1≤k≤r}|
=r-2|{k|hk(xi)=hk(xj),1≤k≤r}|
=r-2Dh(xi,xj)
故通过哈希码内积运算与汉明距离运算是一致的,且D(xi,xj)∈[-r,r],对D(xi,xj)归一化后得到:
为了使相似矩阵和监督矩阵S距离达到最小,定义目标函数:
其中表示求矩阵Frobenius范数,为标签图像集χl的哈希码矩阵,将sgn(·)推广到矩阵形式,根据上式,Hl可以表示为:
其中,A=[a1,…,ar]∈Rm×r,将Hl代入得:
和BRE相比,目标函数Γ(A)通过内积计算相似性,对参数A建模更加直观。假定在t=k时刻,已知向量需要估算ak,定义矩阵:
其中R0=rS则可通过贪婪算法,通过最小化上式,逐步对ak进行估算:
将常数项去掉可以得到简洁的目标函数:
由于目标函数中的sgn(x)函数使得v(ak)不连续,而且v(ak)也不是凸函数,很难直接对v(ak)最小化,研究表明,当|x|>6时,连续函数:
可以很好地近似sgn(x)。所以,利用替换sgn(x)得到近似目标函数
可以通过梯度下降的方法对进行最小化,求关于ak的梯度:
其中1=[1,…,1]∈Rl,⊙表示Hadamard内积运算,通过监督学习可以得到向量系数a,从而生成哈希函数和哈希表;
(2)基于度量的环境影响评估
利用得到的哈希函数生成哈希码。对数据库中图像和实际采集图像的深层次特征进行哈希映射,可以得到coder(xq),计算哈希码之间的距离,即可度量得到最近距离,将距离较近的数据集中图像的标签返回,则此数据集中图像受环境影响级别即为当前采集图像的受环境影响级别。
CN201810470102.8A 2018-05-16 2018-05-16 基于度量的电力图像环境影响评估方法 Pending CN108898269A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810470102.8A CN108898269A (zh) 2018-05-16 2018-05-16 基于度量的电力图像环境影响评估方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810470102.8A CN108898269A (zh) 2018-05-16 2018-05-16 基于度量的电力图像环境影响评估方法

Publications (1)

Publication Number Publication Date
CN108898269A true CN108898269A (zh) 2018-11-27

Family

ID=64342832

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810470102.8A Pending CN108898269A (zh) 2018-05-16 2018-05-16 基于度量的电力图像环境影响评估方法

Country Status (1)

Country Link
CN (1) CN108898269A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109889525A (zh) * 2019-02-26 2019-06-14 北京智芯微电子科技有限公司 多通信协议智能感知方法
CN109919921A (zh) * 2019-02-25 2019-06-21 天津大学 基于生成对抗网络的环境影响程度建模方法
CN109951336A (zh) * 2019-03-24 2019-06-28 西安电子科技大学 基于梯度下降算法的电力运输网络优化方法
CN110458873A (zh) * 2019-07-10 2019-11-15 天津大学 一种基于局部不变特征的多视角电力表计图像配准方法
CN110599496A (zh) * 2019-07-30 2019-12-20 浙江工业大学 基于深度学习的太阳影子位移定位方法
CN110969128A (zh) * 2019-12-03 2020-04-07 哈尔滨理工大学 一种基于多特征融合的海面背景下红外船舰的检测方法
CN117315301A (zh) * 2023-10-07 2023-12-29 长春理工大学 一种基于图像识别的藏品信息匹配系统和方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109919921A (zh) * 2019-02-25 2019-06-21 天津大学 基于生成对抗网络的环境影响程度建模方法
CN109919921B (zh) * 2019-02-25 2023-10-20 天津大学 基于生成对抗网络的环境影响程度建模方法
CN109889525A (zh) * 2019-02-26 2019-06-14 北京智芯微电子科技有限公司 多通信协议智能感知方法
CN109951336A (zh) * 2019-03-24 2019-06-28 西安电子科技大学 基于梯度下降算法的电力运输网络优化方法
CN109951336B (zh) * 2019-03-24 2021-05-18 西安电子科技大学 基于梯度下降算法的电力运输网络优化方法
CN110458873A (zh) * 2019-07-10 2019-11-15 天津大学 一种基于局部不变特征的多视角电力表计图像配准方法
CN110458873B (zh) * 2019-07-10 2023-07-04 天津大学 一种基于局部不变特征的多视角电力表计图像配准方法
CN110599496A (zh) * 2019-07-30 2019-12-20 浙江工业大学 基于深度学习的太阳影子位移定位方法
CN110969128A (zh) * 2019-12-03 2020-04-07 哈尔滨理工大学 一种基于多特征融合的海面背景下红外船舰的检测方法
CN117315301A (zh) * 2023-10-07 2023-12-29 长春理工大学 一种基于图像识别的藏品信息匹配系统和方法
CN117315301B (zh) * 2023-10-07 2024-04-09 长春理工大学 一种基于图像识别的藏品信息匹配系统和方法

Similar Documents

Publication Publication Date Title
CN108898269A (zh) 基于度量的电力图像环境影响评估方法
Kang et al. Deep unsupervised embedding for remotely sensed images based on spatially augmented momentum contrast
CN108108807B (zh) 学习型图像处理方法、系统及服务器
Meng et al. Sample fusion network: An end-to-end data augmentation network for skeleton-based human action recognition
El Dib et al. Human age estimation using enhanced bio-inspired features (EBIF)
Tian et al. Densely connected attentional pyramid residual network for human pose estimation
CN103155003A (zh) 姿势估计装置及姿势估计方法
CN107392215A (zh) 一种基于sift算法的重图检测方法
CN104200203B (zh) 一种基于动作字典学习的人体动作检测方法
CN114998934B (zh) 基于多模态智能感知和融合的换衣行人重识别和检索方法
CN111914643A (zh) 一种基于骨骼关键点检测的人体动作识别方法
CN104077742B (zh) 基于Gabor特征的人脸素描合成方法及系统
CN112257741B (zh) 一种基于复数神经网络的生成性对抗虚假图片的检测方法
Lin et al. Live Face Verification with Multiple Instantialized Local Homographic Parameterization.
CN112016497A (zh) 基于人工智能的单视角太极拳动作分析及考核系统
CN106844739A (zh) 一种基于神经网络协同训练的遥感图像变化信息检索方法
Zhao et al. Generalized symmetric pair model for action classification in still images
CN114758362A (zh) 基于语义感知注意力和视觉屏蔽的换衣行人重识别方法
CN106709508A (zh) 一种利用特征信息的加权典型相关分析方法
CN112949469A (zh) 针对人脸篡改图像特点分布的图像识别方法、系统及设备
Suwais et al. A review on classification methods for plants leaves recognition
Zhang et al. Adaptive structure-constrained robust latent low-rank coding for image recovery
Sheng et al. Action recognition using direction-dependent feature pairs and non-negative low rank sparse model
WO2023214093A1 (en) Accurate 3d body shape regression using metric and/or semantic attributes
Zhang et al. Semisupervised change detection based on bihierarchical feature aggregation and extraction network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20181127