CN115758259A - 一种基于特征融合的多源域泛化设备故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于特征融合的多源域泛化设备故障诊断方法，本发明的特征融合策略利用领域判别器的输出得到数据的领域属性条件，将特征提取器提取的特征和领域判别器的输出进行多线性映射得到融合后的特征；利用LMMD衡量成对源域的特征差异，计算多个源域对的特征差异得到域适应损失；根据不同数据的所述领域为其分配相应的领域标签，计算领域判别器的领域判别损失；域适应损失、领域判别损失和分类损失相加得到总损失函数值，通过反向传播迭代更新优化模型参数。本发明将不同源域的领域属性条件和相应源域的特征进行融合，并调整成对源域融合后的特征分布偏差，增强了模型在未知工况的目标域上的泛化能力，提高了模型诊断准确率。

Description

一种基于特征融合的多源域泛化设备故障诊断方法

技术领域

本发明涉及一种设备故障诊断方法，尤其是涉及一种基于特征融合的多源域泛化设备故障诊断的方法。

背景技术

设备的健康状态直接影响机械的性能，对其安全运行和高效工作起着核心作用。随着工业制造的数字化和智能化，基于深度学习的设备智能故障诊断方法受到了越来越多的关注,包括自动编码器(AE)、深层信念网络(DBN)、卷积神经网络(CNN)等，这些方法利用特征提取器强大的数据处理和自动提取特征的能力，自动分析设备采集信号的深层特征并识别故障类型。然而，在实际工业中，由于环境噪声的干扰和设备运行条件的频繁变化，收集到的训练集和测试集的数据分布不一致，这导致从训练集学到的诊断模型性能在应用于测试场景时出现明显的退化。作为迁移学习的一个课题，领域自适应为解决这个问题提供了很好的思路，即利用特征提取器学习不同工况下训练集(源域)和测试集(目标域)的共同特征，然后基于源域特征训练的分类器就可以对目标域特征进行准确分类。对于故障诊断，由于不同工况下机器发生故障的机制或者故障位置类似，因此这两个领域收集的数据存在共同特征，从而使得领域自适应具有一定的可行性，具有一定的实际意义。

然而，在更实际的工业生产中，领域自适应存在两个现实的问题，特别是在工况不断变化的情况下。(1)面对不同的目标域，用户需要使用新工况的样本重新训练模型，这是费时费力的。同时，有时不可能事先得到新工况的样本，导致模型的训练变得困难。(2)大多数领域自适应方法只考虑了提取单一源域和单一目标域的共同特征，单一源域往往不能为目标诊断任务提供足够的诊断知识。而在实践中，可以从各种机器运行工况下收集具有不同分布的历史数据作为多个源域，以弥补单一源域诊断知识的不足。

因此，为了解决上述问题，多源域泛化更适合运用于实际工业场景，它的目的是将学到的多个源域的诊断知识泛化到未知工况的目标域。与领域自适应相比，多源领域泛化在训练中可以充分利用多个源域提供的诊断知识学习不同工况下的故障特征，同时它不需要目标域数据参与训练。因此，当新的工况出现时，多源域泛化的模型可以节省时间。多源域泛化的核心是提取多源域的域不变特征，域不变特征的分布与任何领域都没有关系，因此模型性能在未知工况的目标域同样具有强大的诊断性能。

综上所述，寻找一种有效的多源域泛化设备故障诊断方法，以增强多源域的训练模型在未知目标域的泛化能力，成为了目前亟需解决的问题。

发明内容

为解决上述技术问题，本发明提出一种基于特征融合的多源域泛化设备故障诊断方法，使设备故障诊断模型在任何工况下保持诊断有效性，即使目标工况数据未参与模型训练，也可以实现对该工况下设备故障的智能诊断。

本发明的技术方案包括如下步骤：

步骤一：按不同工况将历史数据分为N个源域数据；

步骤二：构建设备故障诊断神经网络模型，初始化其参数；

所述的设备故障诊断神经网络由四个部分组成：一个特征提取器，一个领域判别器，一个故障分类器，一个特征融合模块。特征提取器由多层卷积构成；故障分类器由一个全连接隐藏层和一个Softmax激活函数组成；领域判别器由两个全连接隐藏层和一个Softmax激活函数组成。特征提取器的卷积层后均有批归一化和ELU激活函数；池化层选用最大池化和平均池化结合的策略，进行特征降采样，最大池化保留了故障特征的重要信息，使故障特征具有平移不变性，平均池化削弱了故障特征的位置对提取到的特征的影响，二者结合使故障特征被充分地提取出来。池化层置于最后一层卷积后，并与领域判别器的全连接隐藏层相连接，通过Softmax激活函数输出数据属于每个领域的概率值；特征融合模块将特征提取器提取的特征和领域判别器的输出结果进行多线性映射获得融合后的特征；融合后的特征输入故障分类器，通过Softmax激活函数输出数据属于每个故障类别的概率值。

步骤三：将N个源域数据输入神经网络中，计算成对源域的融合特征差异，得到域适应损失；

该方法设计了一个特征融合策略和一个域适应损失，用以充分提取多个源域的域不变特征。特征融合方法利用领域判别器的输出得到数据的领域属性条件，将特征提取器提取的特征和领域判别器的输出进行多线性映射得到融合后的特征，融合后的特征包含了数据的领域属性条件，充分揭示了不同源域数据的信息。域适应损失由多个成对源域的融合特征差异的平均值组成，计算如下：

式中

表示成对源域的融合特征差异，F(·)表示特征提取器池化层的输出，该输出结果表示原始输入数据的特征，D(·)表示领域判别器Softmax激活函数的输出，该输出结果表示输入数据属于各个领域的概率值，

和

分别表示第u个源域S_u和第v个源域S_v的原始数据，

表示多线性映射函数，映射后的输出表示融合后的特征。d表示成对源域融合特征的LMMD距离。

步骤四：根据输入数据的所属领域为其分配领域标签，计算领域判别器的领域判别损失；

步骤五：计算故障分类器对融合特征的分类损失；

步骤六：将域适应损失、领域判别损失和分类损失相加，得到总损失函数值，然后进行迭代训练更新模型参数，得到最终模型；

步骤七：设备故障诊断时将未知工况的目标域数据输入最终模型，得到设备故障诊断结果。

作为优选，所述步骤一具体为：根据历史数据中设备的不同工况我们得到N个源域S＝{S₁,S₂,...,S_N}，根据新数据中设备的未知工况我们得到一个目标域T，传感器从第j个源域S_j采集的样本数据和对应的类别标签表示为

其中

表示样本数据，

表示样本数据对应的类别标签，i表示源域的第i个样本，

表示源域S_j包含的样本数；传感器从目标域T采集的样本表示为

其中

表示样本数据，i表示目标域的第i个样本，n_T表示目标域T包含的样本数。每个源域的工况均不相同，即不同源域数据具有不同的分布。目标域的工况在训练时未知，并且目标域数据不参与训练过程。

作为优选，所述的步骤二中，设备故障诊断神经网络参数初始化采用正态分布随机初始化方法，通过Adam算法更新其参数。

作为优选，所述步骤四中，领域判别损失计算如下：

式中

表示根据输入数据所属领域为其分配的领域标签，J采用交叉熵损失函数。

作为优选，所述步骤五中，分类损失计算如下：

式中C(·)表示分类器Softmax激活函数的输出，T(·)表示特征融合模块的输出，J采用交叉熵损失函数。

作为优选，所述步骤六中，将域适应损失、领域判别损失和分类损失相加，得到总损失函数值，具体为：

L＝L_cls+L_disc+λL_da (4)

式中λ表示权衡参数，用于控制域适应损失L_da在整个损失函数中的权重。

本发明的有益效果是：本发明提出了针对单源域诊断知识有限和未知工况的目标域数据在训练阶段不可用情况下的多源域泛化设备故障诊断方法，该方法充分利用多个工况的历史数据训练模型；设计的特征融合策略利用领域判别器的输出得到数据的领域属性条件，将特征提取器提取的特征和领域判别器的输出进行多线性映射得到融合后的特征，融合后的特征包含了数据的领域属性条件，充分揭示了不同源域数据的信息；利用一个强大的距离度量准则LMMD衡量成对源域的特征差异，通过精确的计算多个源域对的特征差异得到域适应损失；根据不同数据的所述领域为其分配相应的领域标签，计算领域判别器的领域判别损失；域适应损失、领域判别损失和分类损失相加得到总损失函数值，通过反向传播迭代更新优化模型参数。基于深度学习模型强大的学习能力学习不同源域的特征表示，进一步的，基于特征融合的多源域泛化方法将不同源域的领域属性条件和相应源域的特征进行融合，并精确地调整成对源域融合后的特征分布偏差，增强了模型在未知工况的目标域上的泛化能力，显著提高了设备故障诊断模型诊断准确率，解决了单源域有限的故障知识和目标域在模型训练阶段不可用的问题，使得模型在任意工况下都能实现对设备故障的智能诊断。

附图说明

图1为本发明方法的流程图；

图2为本发明的神经网络整体结构图；

图3为本发明的基于特征融合的多源域泛化算法总体流程图；

具体实施方式

下面结合附图对本发明作进一步详细说明。

如图1所示，本发明包含以下步骤。

1)按不同工况将历史数据分为N个源域数据；

2)构建设备故障诊断神经网络模型，初始化其参数；

3)神经网络模型参数梯度清零，进行一轮迭代训练；

4)将N个源域数据输入神经网络中，计算成对源域的融合特征差异，得到域适应损失；

5)根据输入数据的所属领域为其分配领域标签，计算领域判别器的领域判别损失；

6)计算故障分类器对融合特征的分类损失；

7)将域适应损失、领域判别损失和分类损失相加，得到总损失函数值；

8)根据总损失值进行反向传播，优化方法采用Adam算法；

9)迭代训练更新模型参数，判断是否达到迭代次数，保存最终模型；

10)设备故障诊断时将未知工况的目标域数据输入最终模型，得到设备故障诊断结果。

所述步骤1)中，根据历史数据中设备的不同工况我们得到N个源域S＝{S₁,S₂,...,S_N}，根据新数据中设备的未知工况我们得到一个目标域T，传感器从第j个源域S_j采集的样本数据和对应的类别标签表示为

其中

表示样本数据，

表示样本数据对应的类别标签，i表示源域的第i个样本，

表示源域S_j包含的样本数；传感器从目标域T采集的样本表示为

其中

表示样本数据，i表示目标域的第i个样本，n_T表示目标域T包含的样本数。每个源域的工况均不相同，即不同源域数据具有不同的分布。目标域的工况在训练时未知，并且目标域数据不参与训练过程。

所述步骤2)中，设备故障诊断模型整体结构示意图如图2所示，具体构建步骤如下：

设备故障诊断神经网络由四个部分组成：一个特征提取器，一个领域判别器，一个故障分类器，一个特征融合模块。特征提取器由多层卷积构成；故障分类器由一个全连接隐藏层和一个Softmax激活函数组成；领域判别器由两个全连接隐藏层和一个Softmax激活函数组成。特征提取器的卷积层后均有批归一化和ELU激活函数；池化层选用最大池化和平均池化结合的策略，进行特征降采样，最大池化保留了故障特征的重要信息，使故障特征具有平移不变性，平均池化削弱了故障特征的位置对提取到的特征的影响，二者结合使故障特征被充分地提取出来。池化层置于最后一层卷积后，并与领域判别器的全连接隐藏层相连接，通过Softmax激活函数输出数据属于每个领域的概率值；特征融合模块将特征提取器提取的特征和领域判别器的输出结果进行多线性映射获得融合后的特征；融合后的特征输入故障分类器，通过Softmax激活函数输出数据属于每个故障类别的概率值。

所述步骤4)中，设计的特征融合策略利用领域判别器的输出得到数据的领域属性条件，将特征提取器提取的特征和领域判别器的输出进行多线性映射得到融合后的特征，融合后的特征包含了数据的领域属性条件，充分揭示了不同源域数据的信息。域适应损失由多个成对源域的融合特征差异的平均值组成。特征差异采用LMMD(Local Maximum MeanDiscrepancy，局部最大均值差异)距离度量准则衡量，LMMD可以衡量在再生核希尔伯特空间(RKHS,reproducing kernel Hilbert space)中两个相关子领域的分布距离。为了介绍LMMD，我们简要解释MMD的概念。假设成对的源域S_u和S_v服从分布

和

那么再生核希尔伯特空间(RKHS)中定义的MMD是成对源域样本的核嵌入之间的平方距离，MMD公式计算如下：

式中

表示使用高斯核k的再生核希尔伯特空间(RKHS)，φ(·)表示原始样本映射到再生核希尔伯特空间(RKHS)的特征映射，

LMMD是改进的MMD，它关注同一类别的相关子领域的分布距离，计算如下：

式中

和

表示第c类源域S_u和S_v的分布。根据均值的定义，假设样本属于类别c的概率为w^(c)，上式重新定义如下：

式中

和

分别表示

和

属于类别c的概率权重，

和

等于1，C表示故障类别的数目，样本x_i的权重

计算如下：

式中

表示样本x_i属于类别c的概率。在源域中我们使用样本真实标签

的独热编码表示

对神经网络提取的融合特征使用LMMD计算成对源域的相关子领域分布距离，计算公式如下：

式中

和

分别表示样本

和

的融合特征。

LMMD的思想是基于两个分布的样本，通过寻找在样本空间上的映射函数φ，求不同分布的样本在φ上的函数值的均值，把两个均值作差可以得到不同分布的样本对应于φ的均值距离。LMMD作为检验统计量，可以判断两个分布是否相同。如果LMMD距离足够小，可以认为两个分布相同，否则就认为它们有较大偏差。特别的，LMMD作为MMD的改进，它考虑了标签分布概率对数据分布的影响，更关注同一类别的相关子领域之间的分布距离，因此可以从局部对齐的角度实现分布不同的样本的细粒度对齐。通过LMMD迭代优化模型，使得模型具有多源域的域不变性表示能力。

为更具体直观地说明特征融合的多源域泛化方法，总体计算流程如图3所示，计算步骤如下：

Step1:计算成对源域的融合特征差异

求均值得到域适应损失L_da；

Step2:根据输入数据的所属领域为其分配领域标签，计算领域判别器的领域判别损失L_disc；

Step3:计算故障分类器对融合特征的分类损失L_cls；

Step4:将域适应损失、领域判别损失和分类损失相加，得到总损失函数值L；

Step5:根据总损失函数值迭代优化设备故障诊断模型参数，最后得到最终模型。

本发明的步骤4)提出了针对单源域诊断知识有限和未知工况的目标域数据在训练阶段不可用情况下的多源域泛化设备故障诊断方法，该方法充分利用多个工况的历史数据训练模型；设计的特征融合策略利用领域判别器的输出得到数据的领域属性条件，将特征提取器提取的特征和领域判别器的输出进行多线性映射得到融合后的特征，融合后的特征包含了数据的领域属性条件，充分揭示了不同源域数据的信息；利用一个强大的距离度量准则LMMD衡量成对源域的特征差异，通过精确的计算多个源域对的特征差异得到域适应损失；根据不同数据的所述领域为其分配相应的领域标签，计算领域判别器的领域判别损失；域适应损失、领域判别损失和分类损失相加得到总损失函数值，通过反向传播迭代更新优化模型参数。基于深度学习模型强大的学习能力学习不同源域的特征表示，进一步的，基于特征融合的多源域泛化方法将不同源域的领域属性条件和相应源域的特征进行融合，并精确地调整成对源域融合后的特征分布偏差，增强了模型在未知工况的目标域上的泛化能力，显著提高了设备故障诊断模型诊断准确率，解决了单源域有限的故障知识和目标域在模型训练阶段不可用的问题，使得模型在任意工况下都能实现对设备故障的智能诊断。

Claims (6)

1.一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于，该方法具体包括以下步骤：

步骤一：按不同工况将历史数据分为N个源域数据；

步骤二：构建设备故障诊断神经网络模型，初始化其参数；

所述的设备故障诊断神经网络由四个部分组成：一个特征提取器，一个领域判别器，一个故障分类器，一个特征融合模块；特征提取器由多层卷积构成；故障分类器由一个全连接隐藏层和一个Softmax激活函数组成；领域判别器由两个全连接隐藏层和一个Softmax激活函数组成；特征提取器的卷积层后均有批归一化和ELU激活函数；池化层选用最大池化和平均池化结合的策略，进行特征降采样，池化层置于最后一层卷积后，并与领域判别器的全连接隐藏层相连接，通过Softmax激活函数输出数据属于每个领域的概率值；特征融合模块将特征提取器提取的特征和领域判别器的输出结果进行多线性映射获得融合后的特征；融合后的特征输入故障分类器，通过Softmax激活函数输出数据属于每个故障类别的概率值；

步骤三：将N个源域数据输入神经网络中，计算成对源域的融合特征差异，得到域适应损失；

域适应损失由多个成对源域的融合特征差异的平均值组成，计算如下：

式中

表示成对源域的融合特征差异，F(·)表示特征提取器池化层的输出，该输出结果表示原始输入数据的特征，D(·)表示领域判别器Softmax激活函数的输出，该输出结果表示输入数据属于各个领域的概率值，

和

分别表示第u个源域S_u和第v个源域S_v的原始数据，

表示多线性映射函数，映射后的输出表示融合后的特征；d表示成对源域融合特征的LMMD距离；

步骤四：根据输入数据的所属领域为其分配领域标签，计算领域判别器的领域判别损失；

步骤五：计算故障分类器对融合特征的分类损失；

步骤六：将域适应损失、领域判别损失和分类损失相加，得到总损失函数值，然后进行迭代训练更新模型参数，得到最终模型；

步骤七：设备故障诊断时将未知工况的目标域数据输入最终模型，得到设备故障诊断结果。

2.根据权利要求1所述的一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于：所述步骤一具体为：根据历史数据中设备的不同工况我们得到N个源域S＝{S₁,S₂,...,S_N}，根据新数据中设备的未知工况我们得到一个目标域T，传感器从第j个源域S_j采集的样本数据和对应的类别标签表示为

其中

表示样本数据，

表示样本数据对应的类别标签，i表示源域的第i个样本，

表示源域S_j包含的样本数；传感器从目标域T采集的样本表示为

其中

表示样本数据，i表示目标域的第i个样本，n_T表示目标域T包含的样本数；每个源域的工况均不相同，即不同源域数据具有不同的分布；目标域的工况在训练时未知，并且目标域数据不参与训练过程。

3.根据权利要求1所述的一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于：所述的步骤二中，设备故障诊断神经网络参数初始化采用正态分布随机初始化方法，通过Adam算法更新其参数。

4.根据权利要求1所述的一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于：所述步骤四中，领域判别损失计算如下：

式中

表示根据输入数据所属领域为其分配的领域标签，J采用交叉熵损失函数。

5.根据权利要求1所述的一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于：所述步骤五中，分类损失计算如下：

式中C(·)表示分类器Softmax激活函数的输出，T(·)表示特征融合模块的输出，J采用交叉熵损失函数。

6.根据权利要求1所述的一种基于特征融合的多源域泛化设备故障诊断方法，其特征在于：所述步骤六中，将域适应损失、领域判别损失和分类损失相加，得到总损失函数值，具体为：

L＝L_cls+L_disc+λL_da(4)

式中λ表示权衡参数，用于控制域适应损失L_da在整个损失函数中的权重。

Images