CN113110403B - 一种基于稀疏约束的工业过程离群点检测与故障诊断方法和系统 - Google Patents

Abstract

本发明公开了一种基于稀疏约束的工业过程离群点检测与故障诊断方法和系统，其方法为：获取工业过程的历史数据集，设置隔离矩阵并添加到历史数据集的核字典学习目标函数中，利用L0范数对隔离矩阵的非零元素的个数加以约束，优化求解隔离矩阵；根据隔离矩阵对角线元素的均值和方差设置纯净样本取值区间，将取值不属于该区间的样本从历史数据样本集中剔除，得到纯净数据集；基于纯净数据集构建核字典，再利用核字典计算重构误差并设置工业过程监控的控制限；在线获取工业过程的待监测数据，通过计算重构误差并将其与控制限比较，根据比较结果判断工业系统是否异常。本发明对工业过程中的噪声有着良好的鲁棒性，可以有效进行过程监测。

Description

一种基于稀疏约束的工业过程离群点检测与故障诊断方法和 系统

技术领域

本发明属于工业过程监测领域，具体是指一种基于稀疏约束的工业过程离群点检测与故障诊断方法和系统。

背景技术

如今，随着工业系统的不断发展，许多工业过程都可以用数据模型的方式在信息空间中表达。然而，工业系统底层的物理设备往往处在恶劣的工业环境中，容易受到工业噪声的影响。比如网络通信波动，传感器失效等意外故障，使得采集到的数据往往存在着离群点。这类离群点在统计学上具有低密度和高残差的特性。与正常数据相比，离群点往往是稀疏的。此外，工业生产过程通常在非线性模式下工作。例如，在风机运行过程中，随着风速的增大，风机的功率通常也会随着增大。然而当风速达到一定程度后，功率却不再变化，因此，很难用一个线性的关系来描述过程变量间的关系。对于工业生产过程，不正确的动作可能会损害操作模式，从而进一步降低整个系统的性能，导致经济损失甚至造成巨大的人员伤亡。因此，工业过程运行状态的监测极为重要。目前，工业过程的在线监测方法往往依赖于专家经验，对过程数据的利用还很不充足。

数据驱动方法将多元统计和机器学习方法应用于工业过程的运行过程监测，这已成为过去二十年来学术界和工业界最富有成效的领域之一。多变量统计过程监控(MSPM)是一个有吸引力的分支，已经获得了相当大的研究兴趣。在MSPM中，有两种典型的方法：主成分分析(PCA)和偏最小二乘(PLS)，这些方法已被广泛研究。对于PCA方法，Jackson在1991年总结了异常情况检测的开创性工作。通常，T2和SPE统计用于以联合方式检测失控情况。同时，其他互补的MSPM技术，如核学习方法(KPCA)，动态主成分分析(DPCA)，鲁棒主成分分析(RPCA)已被研究，以减轻基于PCA和PLS的方法的一些限制。

最近，提出了一种受稀疏编码思想启发的字典学习方法，由于其出色的泛化能力，在模式识别，图像处理和计算机视觉等许多领域得到了极大的关注。通常，字典学习方法被设计为在不使用训练数据中的标签信息的情况下学习用于特征提取的字典。为了使字典具有判别性，Jiang提出了LC-KSVD方法，它可以联合学习一个超完备字典和最优线性分类器。Yang提出来FDDL方法，能使不同类别的字典原子相互分开。Peng等人提出了一种局部保持的LPDL字典模型，使得数据间的局部特征在稀疏编码上得以保留。但是他们中的许多人都没有考虑实际工业过程中存在的非线性关系和离群点。这种假设与实际工业过程不一致，导致这些方法的性能有限。

发明内容

本发明提供一种基于稀疏约束的工业过程离群点检测与故障诊断方法和系统，可以自适应的对训练数据中的离群点进行剔除，使用纯净数据集训练核字典，提高过程监测的准确性和鲁棒性。

为实现上述技术目的，本发明采用如下技术方案：

一种基于稀疏约束的工业过程离群点检测与故障诊断方法，包括：

获取实际工业过程采集的历史数据集，设置历史数据集的隔离矩阵，将隔离矩阵添加到历史数据集的核字典学习目标函数中，并利用L0范数对隔离矩阵的非零元素的个数加以约束，优化求解隔离矩阵；

计算隔离矩阵的所有对角线元素的均值和方差，根据均值和方差设置纯净样本取值区间，将取值不属于纯净样本取值区间的样本从历史数据样本集中剔除，得到纯净数据集；

基于纯净数据集构建离线的核字典，再利用核字典计算纯净数据样本集的重构误差，并基于重构误差、利用核密度估计获取工业过程监控的控制限；

在线获取工业过程的待监测数据，计算待监测数据在核字典下的重构误差，并将待监测数据的重构误差与控制限比较，根据比较结果判断工业系统是否异常。

在更优的技术方案中，所述将隔离矩阵添加到历史数据集的核字典学习目标函数中，并利用L0范数对隔离矩阵的非零元素的个数加以约束，表示为：

式中，Y表示历史数据集，Y＝[y₁,y₂,...,y_N]∈R^m×N，y₁,y₂,...,y_N分别为Y中的N个历史数据样本，每个数据样本由m个传感器数据组成；Φ(·)表示映射后的高维数据；A表示核字典，字典大小为K；X为历史数据集Y的稀疏编码矩阵，X＝[x₁,x₂,...,x_N]∈R^K×N，x₁,x₂,...,x_N分别为y₁,y₂,...,y_N对应的稀疏编码，x_i为X中的第i个稀疏编码；R表示隔离矩阵，且R的大小为N×N；r是由R的对角线元素构成的一个列向量，r中元素值的大小反映了对应位置的样本是离群点的可能性，||·||₀表示0范数；||·||_F表示F范数；T表示稀疏编码矩阵X中的每一列非零元素个数设定值。

在更优的技术方案中，采用迭代交替优化求解隔离矩阵，具体为:

首先，固定X,R的取值不变，采取按列更新的方式更新变量A，a_k表示A的第k列，

表示X的第k行，式(1)可写成如下形式：

定义集合

表示

中非零项所在索引的索引集，定义Ω_k为N×|ω_k|矩阵，且Ω_k在(ω_k(i),i)处的值为1，其余值均为0；将

E_k分别与Ω_k相乘后即可得到收缩后的矩阵

和

对a_k求导后，得到a_k的解析解：

接着，固定A,R的取值不变，采取按列更新的方式更新变量X；

通过核正交匹配追踪法，得到式(4)的优化结果为：

式(5)中，K(g)为核函数，K_i,j＝Φ(y_i)^TΦ(y_j)；矩阵A_S由矩阵A中与

中非零项对应的列构成；

最后，固定X,A的取值不变，更新变量R：基于||r||₀不可导，首先对其余可导部分求解，得到下式：

其中，K_YY为K(Y,Y)的简写形式，

表示对公式(1)中可求导的部分对R求偏导，则可导部分的梯度下降的解为

上标j表示当前迭代次数，μ表示梯度下降的步长；再将不可导的部分加入到约束中，得到：

式中，

表示实数域，R^*是没有考虑不可导部分的最优解，R是考虑了不可导部分的最优解；通过代数运算后，得到R的优化结果为：

式中，

表示R^*的第i行第i列的元素，

表示第j次迭代得到的隔离矩阵R^j的第i行第i列的元素；

不断重复式(2)-(8)，直至算法达到设定的迭代次数。

在更优的技术方案中，根据均值和方差设置的纯净样本取值区间为[μ-2σ,μ+2σ]，μ和σ分别为隔离矩阵所有对角线元素的均值和方差。

在更优的技术方案中，基于纯净数据集构建离线的核字典时，隔离矩阵R为0矩阵，采用迭代交替优化求解的方法，求解得到核字典A_c和稀疏编码矩阵X_c。

在更优的技术方案中，所述利用核字典计算纯净数据集的重构误差，其中纯净数据集Y_c第i个数据样本y_ci的重构误差的计算式为：

式中，e_ci为数据样本y_ci的重构误差，A_c为纯净数据集的核字典，X_c为纯净数据集Y_c对应的稀疏编码矩阵，x_ci为稀疏编码矩阵X_c中的第i个稀疏编码；

然后，根据计算得到的重构误差，利用核密度估计方法得到纯净数据集的密度函数为：

其中，e泛指待拟合的纯净数据集的重构误差分布，n为纯净数据集中的样本总数，K[·]为高斯核函数；

是指在给定带宽矩阵H下，通过所有样本的重构误差拟合出的密度函数曲线；

最终以核密度函数在设定置信度下的取值作为控制限。

在更优的技术方案中，所述在线获取工业过程的待监测数据，计算待监测数据在核字典下的重构误差，具体为：

首先，利用核字典得到待监测数据y_new的稀疏编码x_new和重构误差e_new分别为：

e_new＝K(y_new,y_new)-2K(y_new,Y_c)A_cx_new+x_new ^TA_c ^TK(Y_c,Y_c)A_cx_new (10)

式中，Y_c为纯净数据集，A_c为纯净数据集的核字典，x泛指待求解的稀疏编码，K[·]为高斯核函数；

然后，将待监测数据的重构误差e_new与控制限drr进行比较，以确定待监测数据是否正常，若待监测数据的重构误差e_new大于阈值drr，则判断当前工业过程正常，否则判断当前工业过程异常。

在更优的技术方案中，所述工业过程具体为风力发电过程，数据样本包括有功功率、三相电流、三相电压、齿轮轴温度、齿轮箱油温和风速。

一种基于稀疏约束的工业过程离群点检测与故障诊断系统，包括存储器及处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器实现上述任一技术方案所述的一种基于稀疏约束的工业过程离群点检测与故障诊断方法。

有益效果

为了适应复杂多变的工业过程，本发明提出的一种基于稀疏约束的工业过程离群点检测与故障诊断方法和系统，其中的核字典学习方法是一种新的鲁棒核字典学习方法(RKDL)，首先建立一个鲁棒模型，利用离群点具有的稀疏特性，得到一个隔离矩阵对离群点进行自适应过滤，即可以自适应的对训练数据中的离群点进行剔除，再使用纯净数据集训练核字典，进而使用该字典对工业过程进行监测；另一方面本发明在高维空间中提取数据样本的特征，得到一个核字典来进行表征，因此可以更精确学习非线性数据中的特性，且对风力发电等工业过程中的噪声有着良好的鲁棒性，可以有效的进行过程监测。该方法无需过程先验知识，无需过程的标签数据，能够自适应的降低工业噪声的影响同时避免求解复杂的非线性优化问题，能够准确的监测过程的运行状态并对异常数据进行分析，为工业过程的安全生产提供了保证。

附图说明

图1是本发明实施例1所述方法的流程图。

具体实施方式

下面对本发明的实施例作详细说明，本实施例以本发明的技术方案为依据开展，给出了详细的实施方式和具体的操作过程，对本发明的技术方案作进一步解释说明。

实施例1

本实施例提供一种基于稀疏约束的工业过程离群点检测与故障诊断方法，如图1所示，包括：

1)获取实际工业过程采集的历史数据集，设置历史数据集的隔离矩阵，将隔离矩阵添加到历史数据集的核字典学习目标函数中，并利用L0范数对隔离矩阵的非零元素的个数加以约束，优化求解隔离矩阵。

在实际工业过程，若干个传感器在同一时刻采集到的数据往往被表示为一个样本。本实施例针对工业过程为风力发电过程，采用不同种类的传感器采集风力发电过程中的有功功率、三相电流、三相电压、齿轮轴温度、齿轮箱油温和风速等m类传感器数据，共采集了N个历史数据样本，并且将N个数据样本构成的历史数据集表示为Y＝[y₁,y₂,...,y_N]∈R^m×N。其中，N个样本中存在着有工业噪声产生少量的离群点。初始设置的隔离矩阵各元素，通过随机赋值于区间[0,1]内的数值得到。

首先对数据样本做非线性映射φ：R^m→Rⁿ，使其在高维空间中线性可分；映射过程采用核函数的形式k(y_i,y_j)＝Φ(y_i)^TΦ(y_j)进行计算。考虑到少量离群点相比大量的正常数据，具有稀疏的特性，本实施例利用L0范数对隔离矩阵的非零元素的个数加以约束。因此，离线字典学习的目标函数可表示如下：

式中，Y表示历史数据集，Y＝[y₁,y₂,...,y_N]∈R^m×N，y₁,y₂,...,y_N分别为Y中的N个历史数据样本，每个数据样本由m个传感器数据组成；Φ(·)表示映射后的高维数据；A表示核字典，字典大小为K；X为历史数据集Y的稀疏编码矩阵，X＝[x₁,x₂,...,x_N]∈R^K×N，x₁,x₂,...,x_N分别为y₁,y₂,...,y_N对应的稀疏编码，x_i为X中的第i个稀疏编码；R表示隔离矩阵，且R的大小为N×N；r是由R的对角线元素构成的一个列向量，r中元素值的大小反映了对应位置的样本是离群点的可能性，||·||₀表示0范数；||·||_F表示F范数；T表示稀疏编码矩阵X中的每一列非零元素个数设定值。

对于上式(1)，本实施例采用迭代交替优化求解的方法进行最优化求解。即当更新一个变量时，固定其他变量，依次重复更新若干步后，得到优化结果。

首先，固定X,R的取值不变，采取按列更新的方式更新变量A，a_k表示A的第k列，

表示X的第k行，式(1)可写成如下形式：

定义集合

表示

中非零项所在索引的索引集，定义Ω_k为N×|ω_k|矩阵，且Ω_k在(ω_k(i),i)处的值为1，其余值均为0；将

E_k分别与Ω_k相乘后即可得到收缩后的矩阵

和

对a_k进行简单的求导后，得到a_k的解析解：

接着，固定A,R的取值不变，采取按列更新的方式更新变量X；

通过核正交匹配追踪法，得到式(4)的优化结果为：

式(5)中，K(g)为核函数，K_i,j＝Φ(y_i)^TΦ(y_j)；矩阵A_S由矩阵A中与

中非零项对应的列构成，比如

中第1,5个位置非零，As为A中第1、5列所构成的一个矩阵。

最后，固定X,A的取值不变，更新变量R：基于||r||₀不可导，首先对其余可导部分求解，得到下式：

其中，K_YY为K(Y,Y)的简写形式，

表示对公式(1)中可求导的部分对R求偏导，则可导部分的梯度下降的解为

上标j表示当前迭代次数，μ表示梯度下降的步长；再将不可导的部分加入到约束中，得到：

式中，

表示实数域，R^*是没有考虑不可导部分的最优解，R是考虑了不可导部分的最优解；

通过简单代数运算后，得到R的优化结果为：

不断重复式(2)-(8)，直至算法达到设定的迭代次数。

2)计算隔离矩阵的所有对角线元素的均值和方差，根据均值和方差设置纯净样本取值区间，将取值不属于纯净样本取值区间的样本从历史数据样本集中剔除，得到纯净数据集。

通过步骤1)得到隔离矩阵R后，将其对角线元素组成列向量r。计算列向量r的均值μ和方差σ，设置纯净样本取值区间为[μ-2σ,μ+2σ]。然后将历史数据样本集中取值在[μ-2σ,μ+2σ]之外的样本剔除，将保留的样本作为纯净数据集Y_c进行下一步核字典学习。

3)基于纯净数据集构建离线的核字典，再利用核字典计算纯净数据样本集的重构误差，并基于重构误差、利用核密度估计获取工业过程监控的控制限。

首先，基于步骤2)得到的纯净数据集Y_c构建离线的核字典时，由于纯净数据集Y_c中没有离群点，因此隔离矩阵为0矩阵，此时核字典的目标函数如下所示，本采用与步骤1)中相同的迭代交替优化方法求解得到纯净数据集Y_c的核字典A_c和稀疏编码矩阵X_c，目标函数为：

式中，x_ci为稀疏编码矩阵X_c中的第i个稀疏编码。

然后，利用核字典计算纯净数据集的重构误差，其中纯净数据集Y_c第i个数据样本y_ci的重构误差的计算式为：

式中，e_ci为数据样本y_ci的重构误差，A_c为纯净数据集的核字典，X_c为纯净数据集Y_c对应的稀疏编码矩阵，x_ci为稀疏编码矩阵X_c中的第i个稀疏编码；

再根据计算得到的重构误差，利用核密度估计方法得到纯净数据集的密度函数为：

其中，e泛指待拟合的纯净数据集的重构误差分布，n为纯净数据集中的样本总数，K[·]为高斯核函数；

是指在给定带宽矩阵

通过纯净数据集中所有样本的重构误差拟合出的密度函数曲线。

最终，对核密度函数进行积分，将设定置信度下的取值作为控制限drr。

4)在线获取工业过程的待监测数据，计算待监测数据在核字典下的重构误差，并将待监测数据的重构误差与控制限比较，根据比较结果判断工业系统是否异常。具体为：

首先，利用核字典得到待监测数据y_new的稀疏编码x_new和重构误差e_new分别为：

e_new＝K(y_new,y_new)-2K(y_new,Y_c)A_cx_new+x_new ^TA_c ^TK(Y_c,Y_c)A_cx_new (12)

式中，Y_c为纯净数据集，A_c为纯净数据集的核字典，x泛指待求解的稀疏编码，K[·]为高斯核函数；

然后，将待监测数据的重构误差e_new与控制限drr进行比较，以确定待监测数据是否正常，若待监测数据的重构误差e_new大于阈值drr，则判断当前工业过程正常，否则判断当前工业过程异常。

为了适应复杂多变的工业过程，本发明提出的一种基于纯净数据集学习核字典的工业过程监测方法，其中的核字典学习方法是一种新的鲁棒核字典学习方法(RKDL)，首先建立一个鲁棒模型，利用离群点具有的稀疏特性，得到一个隔离矩阵对离群点进行自适应过滤，即可以自适应的对训练数据中的离群点进行剔除；另一方面本发明在高维空间中提取数据样本的特征，得到一个核字典来进行表征，因此可以更精确学习非线性数据中的特性，且对风力发电等工业过程中的噪声有着良好的鲁棒性，可以有效的进行过程监测。

实施例2

本实施例提供一种基于纯净数据集学习核字典的工业过程监测系统，包括存储器及处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器实现实施例1所述的基于纯净数据集学习核字典的工业过程监测方法。

以上实施例为本申请的优选实施例，本领域的普通技术人员还可以在此基础上进行各种变换或改进，在不脱离本申请总的构思的前提下，这些变换或改进都应当属于本申请要求保护的范围之内。

Claims (9)

1.一种基于稀疏约束的工业过程离群点检测与故障诊断方法，其特征在于，包括：

获取实际工业过程采集的历史数据集，设置历史数据集的隔离矩阵，将隔离矩阵添加到历史数据集的核字典学习目标函数中，并利用L0范数对隔离矩阵的非零元素的个数加以约束，优化求解隔离矩阵；

计算隔离矩阵的所有对角线元素的均值和方差，根据均值和方差设置纯净样本取值区间，将取值不属于纯净样本取值区间的样本从历史数据样本集中剔除，得到纯净数据集；

基于纯净数据集构建离线的核字典，再利用核字典计算纯净数据样本集的重构误差，并基于重构误差、利用核密度估计获取工业过程监控的控制限；

在线获取工业过程的待监测数据，计算待监测数据在核字典下的重构误差，并将待监测数据的重构误差与控制限比较，根据比较结果判断工业系统是否异常。

2.根据权利要求1所述的方法，其特征在于，所述将隔离矩阵添加到历史数据集的核字典学习目标函数中，并利用L0范数对隔离矩阵的非零元素的个数加以约束，表示为：

式中，Y表示历史数据集，Y＝[y₁,y₂,...,y_N]∈R^m×N，y₁,y₂,...,y_N分别为Y中的N个历史数据样本，每个数据样本由m个传感器数据组成；Φ(·)表示映射后的高维数据；A表示核字典，字典大小为K；X为历史数据集Y的稀疏编码矩阵，X＝[x₁,x₂,...,x_N]∈R^K×N，x₁,x₂,...,x_N分别为y₁,y₂,...,y_N对应的稀疏编码，x_i为X中的第i个稀疏编码；R表示隔离矩阵，且R的大小为N×N；r是由R的对角线元素构成的一个列向量，r中元素值的大小反映了对应位置的样本是离群点的可能性，||·||₀表示0范数；||·||_F表示F范数；T表示稀疏编码矩阵X中的每一列非零元素个数设定值。

3.根据权利要求2所述的方法，其特征在于，采用迭代交替优化求解隔离矩阵，具体为:

首先，固定X,R的取值不变，采取按列更新的方式更新变量A，a_k表示A的第k列，

表示X的第k行，式(1)可写成如下形式：

定义集合

表示

中非零项所在索引的索引集，定义Ω_k为N×|ω_k|矩阵，且Ω_k在(ω_k(i),i)处的值为1，其余值均为0；将

E_k分别与Ω_k相乘后即可得到收缩后的矩阵

和

对a_k求导后，得到a_k的解析解：

接着，固定A,R的取值不变，采取按列更新的方式更新变量X；

通过核正交匹配追踪法，得到式(4)的优化结果为：

式(5)中，K(g)为核函数，K_i,j＝Φ(y_i)^TΦ(y_j)；矩阵A_S由矩阵A中与

中非零项对应的列构成；

最后，固定X,A的取值不变，更新变量R：基于||r||₀不可导，首先对其余可导部分求解，得到下式：

其中，K_YY为K(Y,Y)的简写形式，

表示对公式(1)中可求导的部分对R求偏导，则可导部分的梯度下降的解为

上标j表示当前迭代次数，μ表示梯度下降的步长；再将不可导的部分加入到约束中，得到：

式中，

表示实数域，R^*是没有考虑不可导部分的最优解，R是考虑了不可导部分的最优解；通过代数运算后，得到R的优化结果为：

式中，

表示R^*的第i行第i列的元素，

表示第j次迭代得到的隔离矩阵R^j的第i行第i列的元素；

不断重复式(2)-(8)，直至算法达到设定的迭代次数。

4.根据权利要求1所述的方法，其特征在于，根据均值和方差设置的纯净样本取值区间为[μ-2σ,μ+2σ]，μ和σ分别为隔离矩阵所有对角线元素的均值和方差。

5.根据权利要求2所述的方法，其特征在于，基于纯净数据集构建离线的核字典时，隔离矩阵R为0矩阵，采用迭代交替优化求解的方法，求解得到核字典A_c和稀疏编码矩阵X_c。

6.根据权利要求2所述的方法，其特征在于，所述利用核字典计算纯净数据集的重构误差，其中纯净数据集Y_c第i个数据样本y_ci的重构误差的计算式为：

式中，e_ci为数据样本y_ci的重构误差，A_c为纯净数据集的核字典，X_c为纯净数据集Y_c对应的稀疏编码矩阵，x_ci为稀疏编码矩阵X_c中的第i个稀疏编码；

然后，根据计算得到的重构误差，利用核密度估计方法得到纯净数据集的密度函数为：

其中，e泛指待拟合的纯净数据集的重构误差分布，n为纯净数据集中的样本总数，K[·]为高斯核函数；

是指在给定带宽矩阵H下，通过所有样本的重构误差拟合出的密度函数曲线；

最终以核密度函数在设定置信度下的取值作为控制限。

7.根据权利要求2所述的方法，其特征在于，所述在线获取工业过程的待监测数据，计算待监测数据在核字典下的重构误差，具体为：

首先，利用核字典得到待监测数据y_new的稀疏编码x_new和重构误差e_new分别为：

e_new＝K(y_new,y_new)-2K(y_new,Y_c)A_cx_new+x_new ^TA_c ^TK(Y_c,Y_c)A_cx_new (10)

式中，Y_c为纯净数据集，A_c为纯净数据集的核字典，x泛指待求解的稀疏编码，K[·]为高斯核函数；

然后，将待监测数据的重构误差e_new与控制限drr进行比较，以确定待监测数据是否正常，若待监测数据的重构误差e_new大于阈值drr，则判断当前工业过程正常，否则判断当前工业过程异常。

8.根据权利要求1所述的方法，其特征在于，所述工业过程具体为风力发电过程，数据样本包括有功功率、三相电流、三相电压、齿轮轴温度、齿轮箱油温和风速。

9.一种基于纯净数据集学习核字典的工业过程监测系统，其特征在于，包括存储器及处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器实现如权利要求1～8中任一项所述的方法。

Images