CN116030287A - 一种基于非平衡类深度学习的绝缘子检测方法 - Google Patents

Abstract

本发明一种基于非平衡类深度学习的绝缘子检测方法，具体步骤如下：步骤1：手动提取或从已训练好的变电站绝缘子识别模型中得到M维先验特征；步骤2：根据样本特征集，使用K‑Means方法分别对每个类中样本的特征进行聚类；步骤3：对所有抽取到的样本构建五元表；步骤4：将五元表中的五个元素分别输入到五个相同的CNN网络结构中，构建损失函数计算损耗并反向梯度传播，以更新CNN网络参数；步骤5：迭代执行步骤2‑步骤4，得到更新的CNN网络。本发明利用五元组约束，通过深层网络，强调了簇间和类间的边界，可以提取到更多的差别化的深层表征，解决了由于数据分布不均衡所带来的差异化问题，并且进行网络模型压缩，在测试是否收敛时能够加快计算速度。

Description

一种基于非平衡类深度学习的绝缘子检测方法

技术领域

本发明涉及图像处理领域，尤其涉及一种基于非平衡类深度学习的绝缘子检测方法。

背景技术

在图像识别检测中，有时会出现样本分布不均衡的情况，容易出现部分数据类较大，另一部分数据类较小的情况，这样往往会造成样本量较少的类所包含的特征较少，难以从中提取规律。对于图像边缘检测，样本往往呈现幂律分布。

而传统的解决方案通常分为两大类，重采样和代价敏感学习，前者通过改变数据分布，后者通过引入限制条件，但均没有改变样本量不足，信息匮乏的问题。

为了解决这个问题，可以通过插入相邻的少数类实例。然而，通过人工合成噪声和边界，其扩大的决策区域仍然容易出错。因此，尽管可能会删除潜在的有价值的信息，但欠采样通常优于过采样。成本敏感的替代方案通过直接对少数群体的错误分类施加更重的惩罚来避免这些问题。例如经典SVM对成本敏感，以改进对高度倾斜数据集的分类。将代价敏感法与ensemble approaches相结合，以进一步提高分类精度。

发明内容

为解决现有技术中的不足，本发明提供一种基于非平衡类深度学习的绝缘子检测方法，利用五元组约束，通过深层网络，强调了簇间和类间的边界，可以提取到更多的差别化的深层表征，解决了由于数据分布不均衡所带来的差异化问题，并且进行网络模型压缩，在测试是否收敛时能够加快计算速度。

本发明中主要采用的技术方案为：

一种基于非平衡类深度学习的绝缘子检测方法，具体步骤如下：

步骤1：手动提取或从已训练好的变电站绝缘子识别模型中得到M维先验特征，得到样本特征集P＝{p₁，p₂…，p_m}，m为特征个数；

步骤2：根据提取到的样本特征集P＝{p₁，p₂…，p_m}，使用K-Means方法分别对每个类中样本的特征进行聚类；

步骤3：从每个类中重复均等地采样小批量，对所有抽取到的样本构建五元表；

步骤4：将五元表中的五个元素分别输入到五个相同的CNN网络结构中，构建损失函数计算损耗并反向梯度传播，以更新CNN网络参数；

步骤5：迭代执行步骤2-步骤4，直至达到预设的迭代次数，得到更新的CNN网络，用于实现对绝缘子的检测。

优选地，所述步骤2中，对样本特征集P＝{p₁，p₂…，p_m}进行分类，记为

b＝{0，1}，其中，

含目标的少数类，

表示不含目标的多数类，使用K-Means方法对每个类中样本的特征进行聚类的具体步骤如下：

步骤2-1：从类

中随机选择k个初始质心

其中，n＝0；

步骤2-2：计算类

中的所有样本p_i与每个质心之间的欧式距离，如公式(1)所示：

其中，

表示第n次迭代的第j个质心；

步骤2-3：比较步骤2-2计算得到的欧式距离，将各样本p_i划分到距离其最近的质心所属的簇内，从而将类

划分为k个簇，如式(2)所示：

其中，

表示第n次迭代后的簇集合；

步骤2-4：重新计算每个簇

的质心，如式(3)所示：

其中，

表示第n次迭代的第j个簇，c_j表示簇内样本的个数，p表示

簇内样本特征；

步骤2-5：根据步骤2-4更新得到的新的质心

均无变化，则进行步骤2-6，若新的质心

发生变化，则令n＝n+1，返回步骤2-2，直至更新后的质心

均无变化；

步骤2-6：根据最终的质心划分聚类后的结果如式(4)所示：

其中，N为最终迭代次数。

优选地，所述步骤3中，所述五元表定义如下：

p_i：选定个体；

p_i所在簇中最远的个体；

p_i所在簇的最近同类簇中距离p_i最近的个体；

p_i所在簇的最近同类簇中距离p_i最远的个体；

p′_i：距离p_i最近的不同类个体；

满足以下约束：

其中，

为p_i与

的欧氏距离：

为p_i与

的欧氏距离：

为p_i与

的欧氏距离：

D(p_i，p′_i)为p_i与p′_i的欧氏距离：

优选地，所述步骤4中，损失函数的具体构建方法如下：

定义损失函数如式(5)所示：

受约束于：

式中，ε_i，τ_i，σ_i为松弛变量，W为CNN网络参数，λ为正则化参数，f(p)是样本个体p经过CNN所得到的新的特征向量，在多维空间中，g₁为一个类中簇间所保持安全的最小边际，g₂是一个类中簇间的最大边际，g₃是类间的最大边际；

假设总共有L个训练样本，假设某个类的大小为L_c，定义超球体的半径为s＝0，...，1，为每个类生成l个簇，g₁，g₂，g₃的下限是零，当所有簇被压缩成一个点时，其上界如下所示：

可得优化的目标函数为：

受约束于：

优选地，所述步骤4中，CNN网络参数的具体更新步骤如下：

S4-1：将经反向梯度传播后的CNN模型压缩为二值化网络，卷积层的操作采用q*W表示，q表示验证样本，维度为c×w_in×h_in，W为CNN网络参数，维度为c×w×h，采用一个二值卷积核B和尺度参数α替代W，如式(6)所示：

其中，

为只有加减没有乘法的卷积运算，将W展开为一个M＝c×w×h维向量，α为一个正数，且B也是一个M维向量，因此可得：

W≈αB；

S4-2：压缩后的模型与原模型的误差如式(7)所示：

J(α，B)＝||W-αB|||²  (7)；

S4-3：根据式(7)可求得最优值如式(8)所示：

α^*，B^*＝argmin_α，BJ(α，B)  (8)；

式中，α^*，B^*分别为α和B的最优值，J(α，B)展开如式(9)所示：

J(α，B)＝α²B^TS-2αW^TB+W^TW  (9)；

其中，B为二值矩阵，矩阵里的值为+1或-1，所以B^TB为一个固定值H，如式(10)所示：

B^TB＝H  (10)；

S5-4：由于W^TW也为常数，因此根据展开式可得B的最优值B^*计算公式如式(11)所示：

B^*＝argmax_B(W^TB)，受约束于B∈{-1，+1}  (11)；

由式(11)可得，B的最优值B^*取决于W的符号，当W的值为负时，B的值为-1，当W的值为正时，B的值为+1，当W的值为0时，B的值为0；

则有：

S4-5：对J(α，B)求导，可得：

当

时，可得α^*的计算公式如式(14)所示：

S4-6：将公式(12)代入式(14)可得式(15)：

因此，训练优化后的CNN网络参数如公式(16)所示：

W^*＝α^*B^*  (16)。

优选地，所述步骤S5中预设的迭代更新次数为5000次。

有益效果：本发明提供一种基于非平衡类深度学习的绝缘子检测方法，具有如下优点：

(1)在传统的图像特征提取中，两幅图像只要属于同一类，就被认为是相似的。与传统的图像特征提取相比，本发明要求图像在类和簇中都接近，才能视为相似的，提供了更丰富的信息和更强的约束条件。

(2)本发明可利用最具有辨别力的样本建立局部边界，忽略类中不相关的样本，使得局部边界具有鲁棒性，强调了局部边界，弱化了类间分布不平衡的问题，能够减小样本分布不均衡所带来的影响，提高了检测的鲁棒性。

(3)在CNN训练过程中重复五重采样，从而避免了传统随机欠采样中的大量信息丢失，与过采样策略相比，不会引入人为噪声。

附图说明

图1为本发明的五元表构建示意图；

图2为本发明的网络模型示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请中的技术方案，下面对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

实施例1(本实施例以python为实现平台)

一种基于非平衡类深度学习的绝缘子检测方法，具体步骤如下：

步骤1：手动提取或从已训练好的变电站绝缘子识别模型中得到M维先验特征，得到样本特征集P＝{p₁，p₂…，p_m}，m为特征个数；

步骤2：对样本特征集P＝{p₁，p₂…，p_m}进行分类，记为

b＝{0，1}，其中，

含目标的少数类，

表示不含目标的多数类，如图1所示，使用K-Means方法对每个类中样本的特征进行聚类的具体步骤如下：

步骤2-1：从类

中随机选择k个初始质心

其中，n＝0；

步骤2-2：计算类

中的所有样本p_i与每个质心之间的欧式距离，如公式(1)所示：

其中，

表示第n次迭代的第j个质心；

步骤2-3：比较步骤2-2计算得到的欧式距离，将各样本p_i划分到距离其最近的质心所属的簇内，从而将类

划分为k个簇，如式(2)所示：

其中，

表示第n次迭代后的簇集合；

步骤2-4：重新计算每个簇

的质心，如式(3)所示：

其中，

表示第n次迭代的第j个簇，c_j表示簇内样本的个数，p表示

簇内样本特征；

步骤2-5：根据步骤2-4更新得到的新的质心

均无变化，则进行步骤2-6，若新的质心

发生变化，则令n＝n+1，返回步骤2-2，直至更新后的质心

均无变化；

步骤2-6：根据最终的质心划分聚类后的结果如式(4)所示：

其中，N为最终迭代次数。

步骤3：从每个类中重复均等地采样小批量(具体的采样量可由本领域技术人员根据样本集的大小进行选择，属于常规技术手段，故而未加详述)，对所有抽取到的样本构建五元表(fine-grained表)，所述五元表定义如下：

p_i：选定个体；

p_i所在簇中最远的个体；

p_i所在簇的最近同类簇中距离p_i最近的个体；

p_i所在簇的最近同类簇中距离p_i最远的个体；

p′_i：距离p_i最近的不同类个体；

满足以下约束：

其中，

为p_i与

的欧氏距离：

为p_i与

的欧氏距离：

为p_i与

的欧氏距离：

D(p_i，p′_i)为p_i与p′_i的欧氏距离：

其中，对于单一簇，即簇中仅有一个样本则：

步骤4：如图2所示，将五元表中的五个元素分别输入到五个相同的CNN网络结构中，构建损失函数计算损耗并反向梯度传播，以更新CNN网络参数，将步骤1提取的M维先验特征输入到新的CNN网络结构中去，得到新的M维特征参数；

其中，损失函数的具体构建方法如下：

定义损失函数如式(5)所示：

受约束于：

式中，ε_i，τ_i，σ_i为松弛变量，W为CNN网络参数，λ为正则化参数，f(p)是样本个体p经过CNN所得到的新的特征向量，在多维空间中，g₁为一个类中簇间所保持安全的最小边际，g₂是一个类中簇间的最大边际，g₃是类间的最大边际；

假设总共有L个训练样本，假设某个类的大小为L_c，定义超球体的半径为s＝0，...，1，为每个类生成l个簇，g₁，g₂，g₃的下限是零，当所有簇被压缩成一个点时，其上界如下所示：

可得优化的目标函数为：

受约束于：

步骤4中，CNN网络参数的具体更新步骤如下：

S4-1：将经反向梯度传播后的CNN模型压缩为二值化网络，卷积层的操作采用q*W表示，q表示验证样本，维度为c×w_in×h_in，W为CNN网络参数，维度为c×w×h，采用一个二值卷积核B和尺度参数α替代W，如式(6)所示：

其中，

为只有加减没有乘法的卷积运算，将W展开为一个M＝c×w×h维向量，α为一个正数，且B也是一个M维向量，因此可得：

W≈αB：

S4-2：压缩后的模型与原模型的误差如式(7)所示：

J(α，B)＝||W-αB||²  (7)；

S4-3：根据式(7)可求得最优值如式(8)所示：

α^*，B^*＝argmin_α，BJ(α，B)  (8)；

式中，α^*，B^*分别为α和B的最优值，J(α，B)展开如式(9)所示：

J(α，B)＝α²B^TB-2αW^TB+W^TW  (9)；

其中，B为二值矩阵，矩阵里的值为+1或-1，所以B^TB为一个固定值H，如式(10)所示：

B^TB＝H  (10)；

S5-4：由于W^TW也为常数，因此根据展开式可得B的最优值B^*计算公式如式(11)所示：

B^*＝argmax_B(W^TB)，受约束于B∈{-1，+1}  (11)；

由式(11)可得，B的最优值B^*取决于W的符号，当W的值为负时，B的值为-1，当W的值为正时，B的值为+1，当W的值为0时，B的值为0；

则有：

S4-5：对J(α，B)求导，可得：

当

时，可得α^*的计算公式如式(14)所示：

S4-6：将公式(12)代入式(14)可得式(15)：

因此，训练优化后的CNN网络参数如公式(16)所示：

W^*＝α^*B^*  (16)。

步骤5：迭代执行步骤2-步骤4，直至达到预设的迭代次数5000次，得到更新的CNN网络，用于实现对绝缘子的检测。

对于上述步骤训练得到的CNN网络可采用以下步骤进行验证：

S6-1：将CNN网络更新训练完成并压缩后，将测试集

输入到CNN网络得到特征q；

S6-2：计算特征q与类

中的所有质心之间的欧式距离；

S6-3：将

判断为最大质心距离

与到另一个类的最小质心距离

之差最小范围的类：

其中，

为质心，

b＝{0，1}；

S6-4：直到所有的测试集测试完成，判断测试集是否收敛，若收敛，则训练结束，若不收敛，则可继续迭代训练。

本发明中，通过将CNN网络压缩为二值化网络，可大大提高验证集的验证效率。

当训练完成后(测试集收敛)，由于压缩后的模型会影响检测的准确率，因此进行实际检测时，往往采用原模型W作为提取特征的卷积核，压缩后的二值化网络(α，B)仅作为收敛验证时使用，这样既不影响准确性，又加快了训练速度。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (6)

1.一种基于非平衡类深度学习的绝缘子检测方法，其特征在于，具体步骤如下：

步骤1：手动提取或从已训练好的变电站绝缘子识别模型中得到M维先验特征，得到样本特征集P＝{p₁，p₂...，p_m}，m为特征个数；

步骤2：根据提取到的样本特征集P＝{p₁，p₂...，p_m}，使用K-Means方法分别对每个类中样本的特征进行聚类；

步骤3：从每个类中重复均等地采样小批量，对所有抽取到的样本构建五元表；

步骤4：将五元表中的五个元素分别输入到五个相同的CNN网络结构中，构建损失函数计算损耗并反向梯度传播，以更新CNN网络参数；

步骤5：迭代执行步骤2-步骤4，直至达到预设的迭代次数，得到更新的CNN网络，用于实现对绝缘子的检测。

2.根据权利要求1所述的基于非平衡类深度学习的绝缘子检测方法，其特征在于，所述步骤2中，对样本特征集P＝{p₁，p₂...，p_m}进行分类,记为b＝{0，1}，其中，含目标的少数类，表示不含目标的多数类,使用K-Means方法对每个类中样本的特征进行聚类的具体步骤如下：

步骤2-1：从类中随机选择k个初始质心其中，n＝0；

步骤2-2：计算类中的所有样本p_i与每个质心之间的欧式距离，如公式(1)所示：

其中，表示第n次迭代的第j个质心；

步骤2-3：比较步骤2-2计算得到的欧式距离，将各样本p_i划分到距离其最近的质心所属的簇内，从而将类划分为k个簇，如式(2)所示：

其中，表示第n次迭代后的簇集合；

步骤2-4：重新计算每个簇的质心，如式(3)所示：

其中，表示第n次迭代的第j个簇，c_j表示簇内样本的个数，p表示簇内样本特征；

步骤2-5：根据步骤2-4更新得到的新的质心均无变化，则进行步骤2-6，若新的质心发生变化，则令n＝n+1,返回步骤2-2，直至更新后的质心均无变化；

步骤2-6：根据最终的质心划分聚类后的结果如式(4)所示：

其中，N为最终迭代次数。

3.根据权利要求2所述的基于非平衡类深度学习的绝缘子检测方法，其特征在于，所述步骤3中，所述五元表定义如下：

p_i：选定个体；

p_i所在簇中最远的个体；

p_i所在簇的最近同类簇中距离p_i最近的个体；

p_i所在簇的最近同类簇中距离p_i最远的个体；

p′_i：距离p_i最近的不同类个体；

满足以下约束：

其中，为p_i与的欧氏距离：

为p_i与的欧氏距离：

为p_i与的欧氏距离：

D(p_i，p′_i)为p_i与p′_i的欧氏距离：

4.根据权利要求3所述的基于非平衡类深度学习的绝缘子检测方法，其特征在于，所述步骤4中，损失函数的具体构建方法如下：

定义损失函数如式(5)所示：

受约束于：

式中，ε_i，τ_i，σ_i为松弛变量，W为CNN网络参数，λ为正则化参数，f(p)是样本个体p经过CNN所得到的新的特征向量，在多维空间中，g₁为一个类中簇间所保持安全的最小边际，g₂是一个类中簇间的最大边际，g₃是类间的最大边际；

假设总共有L个训练样本，假设某个类的大小为L_c，定义超球体的半径为s＝0，...，1，为每个类生成l个簇，g₁,g₂,g₃的下限是零，当所有簇被压缩成一个点时，其上界如下所示：

可得优化的目标函数为：

受约束于：

5.根据权利要求4所述的基于非平衡类深度学习的绝缘子检测方法，其特征在于，所述步骤4中，CNN网络参数的具体更新步骤如下：

S4-1：将经反向梯度传播后的CNN模型压缩为二值化网络，卷积层的操作采用q*W表示，q表示验证样本，维度为c×w_in×h_in，W为CNN网络参数，维度为c×w×h,采用一个二值卷积核B和尺度参数α替代W，如式(6)所示：

其中，为只有加减没有乘法的卷积运算，将W展开为一个M＝c×w×h维向量，α为一个正数，且B也是一个M维向量，因此可得：

W≈αB；

S4-2：压缩后的模型与原模型的误差如式(7)所示：

J(α，B)＝||W-αB||²       (7)；

S4-3：根据式(7)可求得最优值如式(8)所示：

α^*，B^*＝argmin_α，BJ(α，B)       (8)；

式中，α^*，B^*分别为α和B的最优值，J(α，B)展开如式(9)所示：

J(α，B)＝α²B^TB-2αW^TB+W^TW        (9)；

其中，B为二值矩阵，矩阵里的值为+1或-1，所以B^TB为一个固定值H，如式(10)所示：

B^TB＝H      (10)；

S5-4：由于W^TW也为常数，因此根据展开式可得B的最优值B^*计算公式如式(11)所示：

B^*＝argmax_B(W^TB)，受约束于B∈{-1，+1}        (11)；

由式(11)可得，B的最优值B^*取决于W的符号，当W的值为负时，B的值为-1，当W的值为正时，B的值为+1，当W的值为0时，B的值为0；

则有：

S4-5：对J(α，B)求导，可得：

当时，可得α^*的计算公式如式(14)所示：

S4-6：将公式(12)代入式(14)可得式(15)：

因此，训练优化后的CNN网络参数如公式(16)所示：

W^*＝α^*B^*        (16)。

6.根据权利要求1所述的基于非平衡类深度学习的绝缘子检测方法，其特征在于，所述步骤S5中预设的迭代更新次数为5000次。

Images