CN110689068A - 一种基于半监督svm的变压器故障类型诊断方法 - Google Patents

Abstract

本发明公开了一种基于半监督SVM的变压器故障类型诊断方法，它包括：选定样本数据集，并对样本数据集进行归一化处理；将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；对故障类型进行状态编码；建立基于半监督SVM的变压器故障诊断模型；将基于半监督SVM的变压器故障诊断模型进行保存，并利用测试集1的样本数据对分类性能进行验证；保存训练好的半监督SVM的变压器故障诊断模型；用半监督SVM的变压器故障诊断模型对测试集2进行测试，得出分类结果；解决了现有技术对变压器故障诊断采用SVM进行变压器故障诊断；但SVM的准确率严重依赖于参数的选择，需要花费大量的人力物力等技术问题。

Description

一种基于半监督SVM的变压器故障类型诊断方法

技术领域

本发明属于变压器故障诊断技术，尤其涉及一种基于半监督SVM的变压器故障类型诊断方法。

背景技术

电力变压器作为电力系统中电压变换和电能分配的重要设备，其安全可靠性与电力系统的稳定性息息相关。但由于制造缺陷、自然老化和天气影响等，变压器的故障诊断及其发展趋势预测一直受到高度关注。我国大多数电力变压器是油浸式变压器。变压器故障初期，所形成的气体溶解于油中；当故障能量变大，就会形成自由气体。因此，油中溶解气体分析(Dissolved Gas Analysis,DGA)成为了变压器故障诊断的主要手段。

目前，基于DGA的电力变压器故障诊断方法主要分为传统的故障诊断方法和智能诊断方法。传统方法主要是利用IEC三比值法。该方法目前在变压器故障诊断方面应用率很高，它在远离区间分界点的地方准确率很理想，但是，当比值在判断区间交界处附近时，三比值法会有判断不准甚至误判的问题。面对传统比值法的不足之处，研究者们以DGA作为特征量，开展了大量智能故障诊断方法的研究。例如，用3步法构造贝叶斯网络,将其与DGA的三比值法结合后引入变压器故障诊断；采用模糊ISODATA法对电力变压器的油中气体分析数据进行聚类分析；提出使用BP网络诊断变压器故障。将SVM运用于变压器故障诊断。SVM分类器由于可以有效解决小样本、过拟合、非线性以及高维模式识别等问题，得以成功的被运用在变压器故障诊断当中。但SVM的准确率严重依赖于参数的选择，并且，现场存在大量未标签样本数据无法使用，为这些样本打上标签非常困难，需要花费大量的人力物力。

发明内容

本发明要解决的技术问题是：提供一种基于半监督SVM的变压器故障类型诊断方法，以解决现有技术对变压器故障诊断采用SVM进行变压器故障诊断；SVM分类器由于可以有效解决小样本、过拟合、非线性以及高维模式识别等问题，得以成功的被运用在变压器故障诊断当中。但SVM的准确率严重依赖于参数的选择，并且，现场存在大量未标签样本数据无法使用，为这些样本打上标签非常困难，需要花费大量的人力物力等技术问题。

本发明的技术方案是：

一种基于半监督SVM的变压器故障类型诊断方法，它包括：

步骤1、选定样本数据集，并对样本数据集进行归一化处理；

步骤2、将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；

步骤3、对故障类型进行状态编码；

步骤4、建立基于半监督SVM的变压器故障诊断模型；

步骤5、将基于半监督SVM的变压器故障诊断模型进行保存，并利用测试集1的样本数据对分类性能进行验证；

步骤6、将测试集1中置信度高于阀值的样本加入到预训练集中，从测试集1中删除加入到预训练集中的样本，并判断测试集中数据是否用完，如果用完则执行步骤7，没有用完则返回步骤5；

步骤7、保存训练好的半监督SVM的变压器故障诊断模型；

步骤8、用半监督SVM的变压器故障诊断模型对测试集2进行测试，得出分类结果。

步骤1所述选定样本数据集，并对样本数据集进行归一化处理的方法为：

选定每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO和CO₂；

选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，变换成1×24维输入网络，对所有数据进行归一化为[0,1]之间的值，归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min)

式中：x_min为数据序列中的最小值；x_max为数据序列中的最大值。

步骤4所述建立基于半监督SVM的变压器故障诊断模型的方法为：

步骤4所述建立基于深度信念网络分类器的变压器故障诊断模型的方法为：

步骤4.1、设D_N＝{x₁，x₂，…，x_l+1，x_l+2，…，x_n}是无标签的预训练集，D_L＝{(x₁，y₁)，(x₂，y₂)，…，(x_l，y_l)}是有标签集；算法流程如下:

步骤4.2、用D_L初始化分类器；

步骤4.3、从D_N中随机选出数据样本，用分类器对数据样本进行分类预测；然后选出置信度高于阀值的样本放入到有标签集，重新用有标签集来训练分类器；置信度低于阀值的样本重新返回无标签的预训练集；

步骤4.4、重复步骤4.2-4.3，直到满足停止条件；停止条件是D_N用完。

所述预训练集和有标签集的样本数据是通过将原始数据生成对抗网络来做数据平衡处理后得到的数据；所述生成对抗网络的方法为：生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器；判别器用来判别数据真假，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0；生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假；当生成器和判别器两者间达到纳什均衡，则完成生成对抗网络目标。

本发明有益效果：

本发明提出了基于半监督SVM网络的变压器故障诊断方法。采用半监督学习中的自训练算法对大量无标签样本进行标注，扩大训练集样本数量，使SVM网络收敛更好；采用生成对抗网络改善原始数据不平衡问题。通过对实际数据集进行仿真分析，结果表明，本发明提出的基于半监督学习的SVM网络能够利用未标签数据样本并改善变压器故障诊断性能。随着电力大数据时代的到来，半监督学习算法更能适应时代的需求；解决了现有技术对变压器故障诊断采用SVM进行变压器故障诊断；SVM分类器由于可以有效解决小样本、过拟合、非线性以及高维模式识别等问题，得以成功的被运用在变压器故障诊断当中。但SVM的准确率严重依赖于参数的选择，并且，现场存在大量未标签样本数据无法使用，为这些样本打上标签非常困难，需要花费大量的人力物力等技术问题。

具体实施方式

随着电网建设的快速发展，电网公司在输电容量、运行水平、设备维护检修与监测方面都取得了长足的进步，累积了大量的电力设备监测、维护数据。这些数据样本大多数都没有标签，只有极小的部分数据是带有标签的完备数据样本。显然，如果只利用少量的有标签数据样本进行训练与模拟，既难得到具有良好的泛化能力的学习系统，也是对数据资源的一种极大浪费；

自训练方法首先利用初始的有标记样本数据训练出一个分类器，然后利用这个训练好的分类器，对无标记样本进行分类，并选择置信度高的被打上标记的样本加入到有标记样本集中，不断迭代，直到达到停止条件，以这样的方式来扩大有标记样本的容量

但是，自训练方法最初是通过标记正确的无标记样本来泛化本身的分类性能的，所以，如何选择可靠的无标记样本数据来得到一个合适的初始分类器，与自训练方法的学习性能有着密切的关联。本发明提出利用SVM网络选择置信度高的样本，扩大训练样本数量。

SVM分类器

假设存在一个超平面：

ω·x+b＝0 (1)

用它来进行分类，并且它能够达到如下的分类效果：

ω·x_i+b≥1，y_i＝1 (2)

ω·x_i+b≥-1，y_i＝-1 (3)

i＝1，2，…，l，b∈R^(l) (4)

这种情况下，认为该训练集是线性可分的。式中，ω∈R^(N)，x∈R^(N)，ω·x是它们做内积运算。对于式(2)进行改写，得下式：

y_i(ω·x_i+b)≥1，i＝1，2，…，l (5)

根据相关的统计学原理：如果得到的超平面在分类过程中效果良好，没有误分任何训练集的情况出现，并且样本数据中最靠近这个分类超平面位置的那部分数据，都和该超平面之间的位置距离达到了最大，则我们称这个超平面为最优超平面，即它能最好地将样本数据分开并且可容性达到了最好，该分类超平面决策函数如下：

式中，sign(·)是一个符号函数。

当训练样本集是非线性时，需要利用一个同样非线性的函数φ(·)将训练样本集数据x投射到一个更高维的特征空间中去，在此更高维的特征空间中训练样本集变成了线性的，这个高维空间的维数可以取到无穷大，在这个高维的线性空间里同样构造出一个最优分类超平面，并且得到这个最优分类超平面所对应的决策函数。此时构造的分类超平面变成了以下式子:

ω·φ(x)+b＝0 (7)

其对应的决策函数变成下式：

此时最优分类超平面问题的描述公式不做改变，为了求解得到的该最优超平面，使用的方法是最大化2/||ω||的值，将2/||ω||做一定变换，即等效于最小化1/2||ω||²，上述内容可最终总结为以下的二次规划问题：

s.t. y_i(ω^T·φ(x_i)+b)≥1-ξ_i

ξ_i≥0 i＝1，2，…，l (9)

式中，C称为惩罚参数，其作用在于错分样本后惩罚方面，C值越大，样本被错误分类以后受到的惩罚力度就越大；ξ_i为非负松弛变量。对上式进行变换，将它变成一个对偶的优化问题：

s.t. C≥α_i≥0(10)

令K(x_i，x_j)＝φ(x_i)φ(x_j)，并将K(x_i，x_j)称为核函数，最终决策函数可变成以下式子：

由上推导可知，在求解最优分类超平面问题和计算其最终决策函数的时候，仅需要计算核函数就可以了，不用再进行复杂的运算，不仅提高了运算速度，同时也避免特征空间的维数灾难问题。

本发明首先用少量的有标签数据样本训练分类器，再用训练后的分类器不断的标记无标签数据样本，并选置信度高的样本加入训练集集，重新训练分类器，直到满足停止标准。

设D_N＝{x₁，x₂，…，x_l+1，x_l+2，…，x_n}是无标记样本集合，D_L＝{(x₁，y₁)，(x₂，y₂)，…，(x_l，y_l)}是有标记样本集合。算法流程如下:

①用D_L初始化分类器。

②从D_N中随机选出一部分数据样本，用分类器对它们进行分类预测。然后选出置信度高的样本放入到训练集，重新用训练集来训练分类器。置信度低的样本重新返回无标记样本池。

③重复步骤②，直到满足停止条件。本文设置的停止条件是DN用完。

其中分类器是一个分类模型。本发明分类器采用SVM网络。

于电压等级在220kV及以下的变压器油中溶解气体含量阈值相同，故本次选取的所有数据均为220kV及以下的变压器油中溶解气体含量数值。每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO、CO₂。由于变压器的故障存在随着时间发展和变化的现象，且由于监测设备造成的假故障数据时常存在，故单独提取一次监测数据来做故障诊断的意义不大。本发明选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，将其变换成1×24维输入网络，对所有数据进行归一化为[0,1]之间的值，避免样本各维之间的数量级差别较大。本文归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min) (13)

其中，x_min为数据序列中的最小值；x_max为数据序列中的最大值。

生成对抗网络

在变压器油色谱的监测中，正常状态与异常状态的样本数据量相差悬殊，本发明得到的变压器油色谱监测数据中，正常数据与异常数据之比约为50:1。因其数据不平衡性，使用SVM网络对其进行分类效果并不理想，存在严重的过拟合和网络不收敛现象。为了解决不平衡数据问题，选择使用生成对抗网络(Generative Adversarial Networ ks,GAN)来做数据平衡处理。

受博弈论中二元零和博弈的启发，生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器。判别器是用来判别数据真假的，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0。生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假。当生成器和判别器两者间达到纳什均衡，就达到了网络的目标。

通过对每一类数据进行学习和生成，补充了故障数据的样本量，使得数据得到平衡，但生成的样本仅用于网络训练，网络测试样本一律使用真实数据进行。

本发明仿真部分统一使用电脑设备的操作系统为Windows 10(64bite)，CPU为Intel i7-6500U，内存为8GB，建模仿真平台为MATL AB R2014a。表1给出了变压器五种状态及其对应编码。采样数据共5800组，其中5000组标签样本用于训练网络，5类数据各占1000组；400组无标签样本用于扩张训练集，另外400组无标签样本用于测试网络分类性能。800组无标签样本中，5类数据各占160组。

表1输出结果编码与变压器状态对应关系

利用K-CV法搜索最佳参数c和g，其中K＝3，得出第一次搜索结果以后，再根据结果缩小搜索区间，直到得到最高CV正确率下的最小c值和相应的g值。

第一次搜索参数范围取：c＝2^-10～2¹⁰，g＝2^-10～2¹⁰，在这个范围内搜索CV正确率高的c和g值，此时bestc＝588.1336，bestg＝2.2974，交叉验证的准确率bestacc＝99.82％，最终测试集合的准确率Accurac y＝91.75％。

在不降低CV准确率的条件下，缩小搜索范围后把c参数从588.1336缩小到了45.2548，提高了网络的泛化能力，避免因惩罚参数太大造成的过拟合现象。

SVM网络中惩罚参数c取45.2548，核函数参数g取16，置信度阈值0.9，做100次实验，取平均正确率，观察训练集数量对网络的平均分类正确率的影响，作下表：

表3分类正确率随训练集数量的变化

由表3可知，在训练集数量较小时，自训练算法中加入到训练集的高置信度未标记样本起到了重要作用，提高了平均正确率3.25％，证明了自训练算法的有效性和实用性。但是随着训练集数量的增多，网络平均分类正确率达到最优，不再有太大提高，这是因为当训练样本集的数据不断增多的时候，反映期望风险与经验风险差值上确界的置信范围不断缩小，在这个过程中SVM算法获得的分类正确率已经在逐渐接近理想结果了，故分类正确率不再增加。

Claims (4)

1.一种基于半监督SVM的变压器故障类型诊断方法，它包括：

步骤1、选定样本数据集，并对样本数据集进行归一化处理；

步骤2、将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；

步骤3、对故障类型进行状态编码；

步骤4、建立基于半监督SVM的变压器故障诊断模型；

步骤5、将基于半监督SVM的变压器故障诊断模型进行保存，并利用测试集1的样本数据对分类性能进行验证；

步骤6、将测试集1中置信度高于阀值的样本加入到预训练集中，从测试集1中删除加入到预训练集中的样本，并判断测试集中数据是否用完，如果用完则执行步骤7，没有用完则返回步骤5；

步骤7、保存训练好的半监督SVM的变压器故障诊断模型；

步骤8、用半监督SVM的变压器故障诊断模型对测试集2进行测试，得出分类结果。

2.根据权利要求1所述的一种基于半监督SVM的变压器故障类型诊断方法，其特征在于：步骤1所述选定样本数据集，并对样本数据集进行归一化处理的方法为：

选定每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO和CO₂；

选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，变换成1×24维输入网络，对所有数据进行归一化为[0,1]之间的值，归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min)

式中：x_min为数据序列中的最小值；x_max为数据序列中的最大值。

3.根据权利要求1所述的一种基于半监督SVM的变压器故障类型诊断方法，其特征在于：步骤4所述建立基于半监督SVM的变压器故障诊断模型的方法为：

步骤4所述建立基于深度信念网络分类器的变压器故障诊断模型的方法为：

步骤4.1、设D_N是无标签的预训练集，D_L是有标签集；

步骤4.2、用D_L初始化分类器；

步骤4.3、从D_N中随机选出数据样本，用分类器对数据样本进行分类预测；然后选出置信度高于阀值的样本放入到有标签集，重新用有标签集来训练分类器；置信度低于阀值的样本重新返回无标签的预训练集；

步骤4.4、重复步骤4.2-4.3，直到满足停止条件；停止条件是D_N用完。

4.根据权利要求1所述的一种基于半监督SVM的变压器故障类型诊断方法，其特征在于：所述预训练集和有标签集的样本数据是通过将原始数据生成对抗网络来做数据平衡处理后得到的数据；所述生成对抗网络的方法为：生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器；判别器用来判别数据真假，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0；生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假；当生成器和判别器两者间达到纳什均衡，则完成生成对抗网络目标。