CN116203929B - 一种面向长尾分布数据的工业过程故障诊断方法 - Google Patents

Abstract

本发明公开了一种面向长尾分布数据的工业过程故障诊断方法，包括：利用系统收集过程正常工况的头部类样本以及各种故障的尾部类样本组成建模用的有标签训练样本集；引入密度系数和距离系数作为尾部类样本所携带的信息量衡量标准，作为尾部类样本的信息权重，并对其信息权重进行归一化处理，归一化处理后的结果作为尾部类样本在学习过程中被选择的概率；基于密度和距离的联合概率更新策略，对于被选中的尾部类样本赋予更高的权重，得到一个对角权重矩阵，将此矩阵引入到随机配置网络的输出权值的计算之中。本发明既考虑数据在数据量上的不均衡，也考虑数据在分布上的不平衡，能够保证长尾分布数据完整性。

Description

一种面向长尾分布数据的工业过程故障诊断方法

技术领域

本发明涉及工业过程控制技术领域，具体涉及一种面向长尾分布数据的工业过程故障诊断方法。

背景技术

随着工业过程复杂度的增高，生产设备的智能化与大型化程度也越来越高且整个工业系统各设备装置都相互联结，彼此相关。一旦发生故障，若不能及时地发现，轻则造成财产损失，重则直接危及人身生命安全。因此，及时以及有效地对工业过程进行故障诊断显得尤为重要。在故障诊断中，故障数据分类是其关键技术。分类方法广泛应用于预测领域，而大多数分类方法都是基于各类数据的数据量相当这个前提，但是在实际的工业过程中，采集到的各种故障状态的数据数量不均衡，呈现一种长尾分布。长尾分布数据是一种偏态分布，即头部类包含了大部分正常数据，相反地，尾部类包含的故障数据量比较少，随着关注头部类类别的逐渐增加，致力于学习数据一般化规律的传统分类方法由于难以发现或归纳尾部类的分类规则而轻视甚至忽略尾部类样本，这样会导致尾部类样本识别率较低。在这种情况下，对尾部类样本的错分往往会带来更大的损失，因此对尾部类样本的研究更具有价值意义。

目前，国内外学者在处理长尾分布数据的技术方案，主要包括重采样法，重加权法以及后处理法。重采样法包括过采样、欠采样以及混合采样。欠采样就是从多数类中删除部分数据，导致数据丢失，损失重要样本信息，而过采样则不断复制少数类样本，易出现过拟合的现象。重加权法则是代价敏感问题的一种应用，根据不同样本的重要性，赋予不同的权重从而达到缓解长尾分布的问题。后处理法则是先训练得到模型，然后根据分类的结果对分类器的各类参数的大小进行相应的调整。

近年来，随机配置网络由于训练速度快、泛化性能好和无限逼近性等优点，使其在诸多领域得到了广泛的应用。基于随机配置网络来处理分类问题已经有了很多，但是这些分类任务都是在平衡数据集的应用前提下，但面对长尾分布数据或偏斜数据时，往往由于多数类和少数类在数据量的差异上，导致决策边界向少数类倾斜，使得分类结果的性能非常不理想。因此，需要探索出能处理长尾数据的分类方法就显得尤为重要。

发明内容

针对上述现有技术存在的面对长尾分布数据或偏斜数据时分类结果不理想问题，本发明提供一种面向长尾分布数据的工业过程故障诊断方法，在保证整体正确率的同时，有效提高长尾分布数据中对尾部类样本的识别率。

为了实现上述技术目的，本发明采用如下技术方案：

S1：利用系统收集过程正常工况的头部类样本以及各种故障的尾部类样本组成建模用的有标签训练样本集；

S2：引入密度系数和距离系数作为尾部类样本所携带的信息量衡量标准，作为尾部类样本的信息权重，并对其信息权重进行归一化处理，归一化处理后的结果作为尾部类样本在学习过程中被选择的概率；

S3：基于密度和距离的联合概率更新策略，对于被选中的尾部类样本赋予更高的权重，得到一个对角权重矩阵，将此矩阵引入到随机配置网络的输出权值的计算之中。

与现有技术相比，本发明的有益效果：

1、本发明在长尾分布数据的工业过程故障分类任务中，采用了密度系数和距离系数的联合概率动态更新策略。动态更新策略的核心思想是根据少数类所携带的信息量进行更新，即少数类数据被选中的概率，这种方法既考虑数据在数据量上的不均衡，也考虑数据在分布上的不平衡。

2、本发明能够保证长尾分布数据完整性，弥补了数据层面的分类方法，即过采样不断复制少数类的数据量以及欠采样减少多数类的数据量，导致数据量出现丢失，从而损失重要的信息，数据的完整性出现了问题。

附图说明

为了更清楚的说明本发明实施例或现有技术的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单的介绍，显而易见的，下面描述中的附图仅仅是本发明的一些实施例，对于本领域中的普通技术人员来说，在不付出创造性劳动的前提下，还可根据这些附图获得其他附图。

图1是本发明长尾分布示意图。

图2为本发明的流程示意图。

图3为本发明的网络结构图。

具体实施方式

以下结合附图对本发明的具体实施方式作进一步地说明。

本发明的长尾分布示意图如图1所示，横坐标是类别，纵坐标是对应类别所对应的样本数量，头部类所对应样本数量特别多，也就是正常工况的种类。相反地，尾部类类别所对应的种类比较多，即不同故障的类型，但这些尾部类所对应的样本数量确是非常少的，即故障发生的频次是比较低的，对应的样本数量也相对较少。

本发明的流程示意图如图2所示，首先对数据进行一定的预处理，将数据集划分为训练集和测试集。训练集呈现典型的长尾分布，将其划分为头部类以及尾部类，尾部类样本采用密度系数和距离因子来衡量样本所携带的信息量，进而用头部类以及联合概率选择的尾部类样本构造模型，最后用测试集进行测试。本发明的网络结构图如图3所示，它包括输入层、隐含层和输出层，尾部类的输入样本数为n，根据尾部类样本获得其密度系数C(X_i)以及距离系数D(X_i)，将C(X_i)与D(X_i)结合作为信息权重去衡量尾部类样本之间存在的差异，通过对信息权重归一化作为尾部类样本被选择的概率，根据其尾部类被选择的概率来更新权重，最后随机配置网络的输出权值通过全局最优的方式来求解，即

本发明提供一种面向长尾分布数据的工业过程故障诊断方法，包括如下步骤：

S1：利用系统收集过程正常工况的头部类样本以及各种故障的尾部类样本组成建模用的有标签训练样本集；组成建模用的有标签训练样本集过程如下：设故障类别为C，再加上一个正常类，则每个样本建模数据的总类别为C+1，即X_i＝[x₁,x₂,...x_N]，其中，N为训练样本数，m为过程变量数，/>为实数集；所有完整的有标签训练样本集X＝[X₁,X₂,...,X_C+1]，记录所有数据的标签信息；正常工况下标记标签为1，故障1标签为2，以此类推，直到达到每个样本建模数据的总类别C+1，设正常类样本数据T^head为头部类，其余样本数据T^tail均为尾部类，为了定量描述数据集引入不平衡度，不平衡度为头部类包含的数据量与尾部类包含的数据量的比率，同时将不平衡度设定为IR＝100，并假设故障类数据的数据量差别不大。

S2：针对尾部类样本所携带的信息量大不相同，以及考虑到样本数量以及样本分布的情况下，引入密度系数和距离系数作为尾部类样本所携带的信息量衡量标准，作为尾部类样本的信息权重，并对其信息权重进行归一化处理，归一化处理后的结果作为尾部类样本在学习过程中被选择的概率；具体步骤如下：

S21：设T^tail＝{X₁,X₂,...,X_n}表示属于尾部类样本的集合，n代表尾部类样本的数量，T^head＝{Y₁,Y₂,...,Y_m}表示属于头部类样本的集合，其中X_i的K近邻表示为 和/>分别对应着尾部类样本以及头部类样本与尾部类样本中X_i的近邻；

S22：对任意的X_i∈T^tail，密度系数定义为：

式中，为N_i中头部类样本的数量，N_i为X_i的K近邻，C(X_i)为头部类样本在X_i的K近邻所占的比例；

S23：距离系数计算方式如下：

式中，x_ik和x_jk分别是样本x_i和x_j对应的k个描述属性的具体数值，dist(X_i,X_j)为X_i与X_j之间的欧式距离，l为给定数据集T的特征数，D(X_i)为X_i到的距离占X_i到N_i的比例；在边界区域，尾部类样本距离头部类样本越远，D(X_i)越大。

S24：结合步骤S22的密度系数与步骤S23的距离系数，得到尾部类样本的信息权重I(X_i)，信息权重I(X_i)定义如下：

I(X_i)＝λC(X_i)+(1-λ)D(X_i)

式中，I(X_i)是对X_i的重要性的一种衡量，λ是调和参数。

S25：对I(X_i)进行归一化：

此时归一化之后的I(X_i)满足如下：

式中，代表样本X_i在选择过程中被选择的概率。

S3：基于密度和距离的联合概率更新策略，对于被选中的尾部类样本赋予更高的权重，不同的尾部类样本由于存在差异性，故赋予的权重不同。通过此方法，得到一个对角权重矩阵，将此矩阵引入到随机配置网络的输出权值的计算之中，具体步骤如下：

S31：设置构建模型的最大隐含层节点池容量L_max，L表示当前网络节点数目，选择Sigmoid作为激活函数，随机参数的分配区间上下限位±λ，设定期望容忍误差ε、以及超参数C；

S32：在随机参数的分配区间内依次随机生成L个隐层节点，每生成一个节点，计算对应输出向量H_L；

S33：在长尾分布数据集的情况下，引入基于尾部类样本密度和距离的概率选择的分类器目标函数，对于被选中的尾部类样本赋予更高的权重，更新方式定义如下：

式中，表示被选择的尾部类样本的权重值，/>表示尾部类样本被选择的概率，n代表尾部类样本的数量；

S34：对于尾部类样本权重W_j可作为超参数来处理，其解决方式如下：

S35：模型的输出权值通过全局最优的方式来求解，即其中I表示单位矩阵，C是正则化系数，H_L表示第L个隐藏层节点隐藏层的输出矩阵，/>表示H_L的转置，W是与训练样本相关的对角矩阵，T表示训练集输出样本集；

S36：当残差||e_L||小于或等于给定期望容忍误差ε时，模型建立结束，否则返回步骤S32并向网络新增加隐层节点，不断循环步骤S32-S36直到残差||e_L||小于或等于给定期望容忍误差ε或者达到最大隐层节点数L_max时为止。

为了说明本发明能够达到的有益效果，结合一个具体的工业过程的例子来说明。选取三相流设备(TFF)作为所提面向长尾分布数据的工业过程故障诊断方法研究的实验仿真对象。TFF预设了7中工况：正常工况和6种故障工况，其具体工况描述如表1所示。TFF数据有24个特征变量，其物理意义是三相流设备各处的压力、流量、密度和温度，分别由24个传感器在系统不同关键位置所测得的。

表1TFF工况描述

实验选取了SVM、IRVFLN、SCN、IL-SCNs四种经典方法作为本文故障诊断的对比方法。SVM：支持向量机，是一个有监督的学习模型，通常用来模式识别、分类以及回归分析。IRVFLN：增量随机向量链接网络，支持增量式的建模，可用于分类和回归。SCN：随机配置网络，一种新颖的增量式学习模型。IL-SCNs：随机配置网络的不平衡学习方法，可用于不平衡数据的分类。选取G-mean评价指标来评价不平衡数据集下分类方法的性能，实验方法均采用Matlab编程语言实现。本发明的方法与其他四种方法在实验数据集上的实验结果指标如表2所示。

表2各方法在不同数据集上的G-mean指标

工况类别	SVM	IRVFLN	SCN	IL-SCN1	IL-SCN2	本发明方法
							正常	0.7042	0.7289	0.7491	0.7523	0.7806	0.8052
故障1	0.7812	0.8016	0.8089	0.8256	0.8237	0.8594
							故障2	0.6547	0.6736	0.6428	0.7171	0.7043	0.7383
故障3	0.8275	0.8025	0.8239	0.8596	0.8721	0.9042
							故障4	0.9127	0.9081	0.9050	0.9328	0.9419	0.9654
故障5	0.8038	0.7984	0.8258	0.8502	0.8462	0.8996
							故障6	0.7451	0.7852	0.7690	0.8177	0.8037	0.8323
平均值	0.7756	0.7855	0.7892	0.8222	0.8246	0.8578
							平均提高率	10.59％	9.20％	8.69％	4.32％	4.03％	0

表2的数据显示，在5个数据集的分类实验中，本发明方法在G-mean指标上均能取得最优值，而且相比于SVM、IRVFLN、SCN、IL-SCN₁、IL-SCN₂，在G-mean指标总平均值上，分别提高了10.59％、9.20％、8.69％、4.32％、4.03％。通过与其他方法对比，本发明方法在G-mean上都表现最好，证明了该方法的先进性和有效性。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

Claims (3)

1.一种面向长尾分布数据的工业过程故障诊断方法，其特征在于，包括如下步骤：

S1：利用系统收集过程正常工况的头部类样本以及各种故障的尾部类样本组成建模用的有标签训练样本集；

S2：引入密度系数和距离系数作为尾部类样本所携带的信息量衡量标准，作为尾部类样本的信息权重，并对其信息权重进行归一化处理，归一化处理后的结果作为尾部类样本在学习过程中被选择的概率；

S3：基于密度和距离的联合概率更新策略，对于被选中的尾部类样本赋予更高的权重，得到一个对角权重矩阵，将此矩阵引入到随机配置网络的输出权值的计算之中；

具体步骤如下：

S31：设置构建模型的最大隐含层节点池容量L_max，L表示当前网络节点数目，选择Sigmoid作为激活函数，随机参数的分配区间上下限位±λ，设定期望容忍误差ε、以及超参数C；

S32：在随机参数的分配区间内依次随机生成L个隐层节点，每生成一个节点，计算对应输出向量H_L；

S33：在长尾分布数据集的情况下，引入基于尾部类样本密度和距离的概率选择的分类器目标函数，对于被选中的尾部类样本赋予更高的权重，更新方式定义如下：

式中，表示被选择的尾部类样本的权重值，/>表示尾部类样本被选择的概率，n代表尾部类样本的数量；

S34：对于尾部类样本权重W_j可作为超参数来处理，其解决方式如下：

S35：模型的输出权值通过全局最优的方式来求解，即其中I表示单位矩阵，C是正则化系数，H_L表示第L个隐藏层节点隐藏层的输出矩阵，/>表示H_L的转置，W是与训练样本相关的对角矩阵，T表示训练集输出样本集；

S36：当残差||e_L||小于或等于给定期望容忍误差ε时，模型建立结束，否则返回步骤S32并向网络新增加隐层节点，不断循环步骤S32-S36直到残差||e_L||小于或等于给定期望容忍误差ε或者达到最大隐层节点数L_max时为止。

2.根据权利要求1所述的面向长尾分布数据的工业过程故障诊断方法，其特征在于，步骤S1中组成建模用的有标签训练样本集过程如下：

设故障类别为C，再加上一个正常类，则每个样本建模数据的总类别为C+1，即X_i＝[x₁,x₂,...x_N]，其中，N为训练样本数，m为过程变量数，/>为实数集；所有完整的有标签训练样本集X＝[X₁,X₂,...,X_C+1]，记录所有数据的标签信息；设正常类样本数据T^head为头部类，其余样本数据T^tail均为尾部类，将不平衡度IR设定为100。

3.根据权利要求1所述的面向长尾分布数据的工业过程故障诊断方法，其特征在于，步骤S2具体步骤如下：

S21：设T^tail＝{X₁,X₂,...,X_n}表示属于尾部类样本的集合，n代表尾部类样本的数量，T^head＝{Y₁,Y₂,...,Y_m}表示属于头部类样本的集合，其中X_i的K近邻表示为 和/>分别对应着尾部类样本以及头部类样本与尾部类样本中X_i的近邻；

S22：对任意的X_i∈T^tail，密度系数定义为：

式中，为N_i中头部类样本的数量，N_i为X_i的K近邻，C(X_i)为头部类样本在X_i的K近邻所占的比例；

S23：距离系数计算方式如下：

式中，x_ik和x_jk分别是样本x_i和x_j对应的k个描述属性的具体数值，dist(X_i,X_j)为X_i与X_j之间的欧式距离，l为给定数据集T的特征数，D(X_i)为X_i到/>的距离占X_i到N_i的比例；在边界区域，尾部类样本距离头部类样本越远，D(X_i)越大；

S24：结合步骤S22的密度系数与步骤S23的距离系数，得到尾部类样本的信息权重I(X_i)，信息权重I(X_i)定义如下：

I(X_i)＝λC(X_i)+(1-λ)D(X_i)

式中，I(X_i)是对X_i的重要性的一种衡量，λ是调和参数；

S25：对I(X_i)进行归一化：

此时归一化之后的I(X_i)满足如下：

式中，代表样本X_i在选择过程中被选择的概率。