CN112763214B - 基于多标签零样本学习的滚动轴承故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于多标签零样本学习的滚动轴承故障诊断方法，属于智能旋转机械故障诊断领域。该方法包括如下步骤：使用短时傅里叶变换对原始信号进行预处理；将预处理得到的时频图像划分成可见类和未知类两个类别；使用可见类时频图像训练残差可分离卷积神经网络；用训练得到的网络进行特征提取；使用可见类故障特征训练属性学习器，最后用属性学习器学习未见类故障的高维语义信息，实现对未见类故障的诊断。本发明方法开创了零样本条件下的故障诊断先河，能将可见类故障属性迁移到未见类，并有效诊断未见类故障。

Description

基于多标签零样本学习的滚动轴承故障诊断方法

技术领域

本发明涉及机械设备故障诊断领域以及信号处理技术领域，尤其涉及一种基于多标签零样本学习的滚动轴承故障诊断方法。

背景技术

滚动轴承是旋转机械中的重要部件，现代机械仪器、设备向高速和精密方向发展，对滚动轴承的要求愈来愈高，但是滚动轴承的寿命方差较大，同样条件生产的轴承在相同的条件下工作，它们的寿命可能相差数十倍。在设备运行过程中滚动轴承一旦发生故障，会影响整个生产线的正常工作并带来高昂的维修成本，甚至出现安全问题。为及时发现轴承故障避免带来损失，采集并诊断滚动轴承的故障信号具有重要意义。

时频分析方法能够提供非平稳信号在时域和频域的联合分布信息，因而在故障诊断领域应用广泛。此外，机器学习技术也被大量运用在故障诊断领域，其中包括人工神经网络，支持向量机，压缩感知等，但是这些方法对参数设置的要求较高，同时需要人为选取数据特征。在大数据的时代背景下，人们为了提高对故障的诊断能力，提出了大量数据驱动的故障诊断方法。数据驱动方法对先验知识要求较少，历史数据充分情况下，在故障诊断领域取得了一定成果。但是在目标故障难以采集或采集成本高昂时，即没有目标故障数据以供训练，这些方法将无法实现故障的准确诊断。

零样本学习(Zero-shot learning，ZSL)是迁移学习的一种特殊情况，旨在通过仅将可见类样本用作训练数据，实现对未见类的分类。2009年Lampert等首次提出ZSL的概念，对毫无关联的训练集和测试集完成了对象检测，其算法的核心思想在于结合目标图像的高维特征描述(形状、颜色、环境等)和训练得到的图像特征，以实现类别边界的突破。Liangjun Feng等针对零样本条件下的工业故障诊断任务，人为设置了有别于图像识别领域的辅助信息即故障属性(故障的原因、位置、影响等)，并针对每一个故障属性单独构造了一个属性学习器，实现了故障信号对各属性空间的独立映射。其实验结果验证了零样本条件下故障诊断的可行性，但是未考虑各属性之间的相关性。

发明内容

发明目的：针对现有的滚动轴承故障诊断方法泛化能力差和无法诊断未见类故障等问题，本发明提出一种基于多标签零样本学习的滚动轴承故障诊断方法。首先使用短时傅里叶变换对可见类和未见类样本进行预处理，将得到的时频图像输入残差深度可分离卷积神经网络(RDSCNN)进行特征提取，再使用可见类故障特征训练属性学习器，最后用属性学习器学习未见类故障的高维语义信息，实现对未见类故障的诊断。

技术方案：为实现本发明的目的，本发明所采用的技术方案是：一种基于多标签零样本学习的滚动轴承故障诊断方法，包括以下步骤：

第一步：采集滚动轴承振动信号，构建轴承故障数据集，将振动信号使用短时傅里叶变换进行预处理，得到轴承振动信号的时频图数据集，并划分可见类和未见类；

第二步：构建深度可分离卷积神经网络作为特征提取网络，网络的输入为故障时频图像，输出为故障特征矢量；设置网络参数、代价函数及其优化策略；

第三步：将可见类的时频图输入深度可分离卷积神经网络进行逐层训练，使用训练好的网络对可见类和未见类的时频图进行特征提取；

第四步：多标签零样本学习网络：使用可见类特征数据为各故障属性训练属性学习器，使用训练好的属性学习器预测未见类故障属性，诊断未见类故障的多标签类别；

第五步：判断诊断正确率是否满足实际期望，如果诊断正确率低于设定的阈值则继续训练修正属性学习器，重复第四步直到达到期望精度。

进一步的，第二步所述的深度可分离卷积神经网络RDSCNN，包括二维卷积层、非线性激活层、深度可分离卷积层、最大池化层和平均池化层，还包括两个残差学习模块；

其中，依次堆叠：二维卷积层、非线性激活层、二维卷积层、非线性激活层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、最大池化层、非线性激活层、深度可分离卷积层、最大池化层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、平均池化层；每个二维卷积层和深度可分离卷积层后分别连接一个批归一化层；将第四层的输出与第九层的输出做残差连接，再将第九层的输出与第十二层的输出做残差连接；

在网络训练阶段，首先在RDSCNN后加上Softmax层，将整个网络构建成分类网络，然后输入可见类故障时频图像数据集，使用优化器优化网络参数做端到端的故障分类任务；在特征提取阶段，保留分类任务训练好的网络参数，将整个故障数据集的时频图像输入RDSCNN，得到网络输出的故障特征向量。

进一步的，第四步中，零样本学习故障诊断的方法具体如下：

步骤4.1，使用可见类故障时频图像数据集及其故障属性构建训练集D_tr：

其中

为第i个训练样本即第i个可见类时频图像，

为与样本对应的可见类标签即故障属性，

是可见类故障时频图像数据集，

是可见类别的标签集，N^s是可见类样本总数，上标s表示可见类；

使用未见类故障时频图像数据集及其故障属性构建测试集D_te：

其中

为第i个测试样本即第i个未见类时频图像，

为与样本对应的未见类标签即故障属性，

是未见类故障时频图像数据集，

是未见类别的标签集，N^u是未见类样本总数，上标u表示未见类；

可见类和未见类的标签集不相交，即

每种故障标签存在一个与之对应的属性矢量，定义可见类和未见类高维语义属性矢量集分别为：

和

其中

是与第i种可见类、未见类相对应的语义属性矢量，

分别表示可见类、不可见类的类别总数，R^q为q维的语义实向量空间；

步骤4.2，提供零样本学习的滚动轴承细粒度属性描述，依据故障类别是否拥有各个细粒度属性得到一个与之对应的二值属性矢量A_i；将属性矢量依据属性描述的类别作互斥属性切分，得到细分属性矢量；多标签零样本网络有监督地为每个细分属性矢量训练一个属性学习器，属性学习器的推理过程表示为f:x_i→a_i，a_i为第i个样本的细分属性矢量a；通过搭建全连接神经网络实现该推理过程：

在网络训练阶段，输入可见类故障样本特征

优化如下所示的目标函数：

式中W为网络中的权值参数，Ω(W)是正则化项，L(·)为损失值，f(·)为属性学习器的推理函数，

为第i个样本的可见类细分属性矢量；

在网络测试阶段，输入未见类样本特征

得到其在属性层的细分属性矢量映射：

最终预测得到其故障类别标签

有益效果：与现有技术相比，本发明的技术方案具有以下有益的技术效果：

本发明提出的基于多标签零样本学习的滚动轴承故障诊断方法，通过构建深层网络，并且使用梯度下降方法和反向传播算法进行网络训练，能够自适应地提取出故障的特征表示，因此所提取的特征可分性较好。在零样本条件下定义了滚动轴承故障的高维特征描述即故障属性，所定义的属性跨越了故障类别界限，不同类的故障可以共享这些属性，训练属性学习器识别故障特征中的语义属性可以诊断未知类故障。在公开数据集CWRU上进行实验的结果表明基于多标签零样本学习的滚动轴承故障诊断方法能将可见类故障属性迁移到未见类，并有效诊断未见类故障。

附图说明

图1为基于多标签零样本学习的滚动轴承故障诊断方法流程图；

图2为残差深度可分离卷积神经网络结构图；

图3为属性学习器结构图；

图4为残差深度可分离卷积神经网络提取特征的降维可视化散点图；

图5为多标签零样本学习方法的故障诊断精度图。

具体实施方式

下面结合附图和实施例对本发明的技术方案作进一步的说明。

本发明所述的基于多标签零样本学习的滚动轴承故障诊断方法，多标签零样本学习故障诊断的流程如图1所示，整个流程分别为故障信号预处理阶段、特征提取阶段和多标签零样本学习阶段。在故障信号预处理阶段，首先对原始信号分段截取，然后对所有信号段做短时傅里叶变换生成时频图像；在特征提取阶段，先使用可见类时频图像数据对RDSCNN的网络参数进行训练，再使用训练好的网络提取可见类和未见类的故障特征向量；在多标签零样本学习阶段，首先使用可见类特征向量为每个细分属性矢量训练一个属性学习器，再使用这些属性学习器为未见类样本预测属性向量得出类别。

第一步：采集滚动轴承振动信号，构建轴承故障数据集，将振动信号使用短时傅里叶变换进行预处理，得到轴承振动信号的时频图数据集，将时频图数据集中随机类别划分为可见类，其余作为未见类。

为了验证多标签零样本学习故障诊断模型对未见类样本的故障诊断效果，本实施例使用美国凯斯西储大学(CWRU)提供的各种工况下的轴承故障数据进行实验。所选取的故障类别如表1所示。表中滚动轴承故障信号的三种损伤位置分别为内部滚道(IR)、滚动原件(B)和外部滚道(OR)，三种工作负载分别为0hp(1hp＝746W)、1hp和2hp，其对应转动速度分别为1797rpm、1772rpm和1750rpm，三种损伤程度分别为7mil(1mil＝0.0254mm)、14mil和21mil。表中滚动轴承故障的具体类别如‘IR007_0’中‘IR’代表该故障的故障位置是内部滚道，其中‘007’表示该类故障的损伤程度为7mil，‘_0’表示其工作负载为0hp。

表1实验故障类别

采用短时傅里叶变换(Short-time fourier transform，STFT)将故障信号数据转变为时频图，以获得随时间变化的频谱信息。短时傅里叶变换通过固定长度的窗函数将原始时域信号分为多个片段，分别作快速傅里叶变换得到时频谱图，最后通过图像变换生成用于网络训练的时频图像。在短时傅里叶变换中使用Hanmming窗作为窗函数并预设了窗函数长度为120，窗重叠度为50％，采样频率设为12khz。

第二步：构建深度可分离卷积神经网络作为特征提取网络，网络的输入为故障时频图像，输出为故障特征矢量；根据实际数据大小确定网络深度、各层神经元数量和学习率等参数；再依据不同的任务需求设定合适的代价函数及其优化策略；本实施例使用梯度下降法作为卷积神经网络参数优化方法。

所述的深度可分离卷积神经网络RDSCNN，包括二维卷积层、非线性激活层、深度可分离卷积层、最大池化层和平均池化层，为了解决退化问题，该网络还包括两个残差学习模块；残差深度可分离卷积神经网络结构如图2所示，其中，依次堆叠：二维卷积层、非线性激活层、二维卷积层、非线性激活层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、最大池化层、非线性激活层、深度可分离卷积层、最大池化层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、平均池化层；每个二维卷积层和深度可分离卷积层后分别连接一个批归一化层；将第四层的输出与第九层的输出做残差连接，再将第九层的输出与第十二层的输出做残差连接。残差学习机制增强了网络的特征保留能力，所输出的故障特征向量在保留原始故障特征的同时降低了数据维度，加速了后续数据的处理速度。

第三步：将可见类的时频图输入深度可分离卷积神经网络进行逐层训练，使用训练好的网络对可见类和未见类的时频图进行特征提取。

RDSCNN网络的使用分为网络训练和特征提取两个阶段：在网络训练阶段，首先在RDSCNN后加上Softmax层，将整个网络构建成分类网络，然后输入可见类故障时频图像数据集，本实施例使用Adam优化器优化网络参数做端到端的故障分类任务；在特征提取阶段，保留分类任务训练好的网络参数，将整个故障数据集的时频图像输入深度可分离卷积神经网络RDSCNN，得到网络输出的故障特征向量。

第四步：多标签零样本学习网络属性学习器的训练和测试：使用可见类特征数据为各故障属性训练属性学习器，使用训练好的属性学习器预测未见类故障属性，诊断未见类故障的多标签类别。多标签零样本学习网络旨在学习故障特征中的语义属性，构造可见类和未见类故障特征在高维属性空间的嵌入，本发明设置零样本学习(ZSL)故障诊断的方法具体如下：

步骤4.1，使用可见类故障时频图像数据集及其故障属性构建训练集D_tr：

其中

为第i个训练样本即第i个可见类时频图像，

为与样本对应的可见类标签即故障属性，

是可见类故障时频图像数据集，

是可见类别的标签集，N^s是可见类样本总数，上标s表示可见类；

使用未见类故障时频图像数据集及其故障属性构建测试集D_te：

其中

为第i个测试样本即第i个未见类时频图像，

为与样本对应的未见类标签即故障属性，

是未见类故障时频图像数据集，

是未见类别的标签集，N^u是未见类样本总数，上标u表示未见类；

可见类和未见类的标签集不相交，即

每种故障标签存在一个与之对应的属性矢量，定义可见类和未见类高维语义属性矢量集分别为：

和

其中

是与第i种可见类、未见类相对应的语义属性矢量，C^s,C^u分别表示可见类、不可见类的类别总数，R^q为q维的语义实向量空间。

步骤4.2，提供零样本学习的滚动轴承细粒度属性描述，本实施例的滚动轴承故障的细粒度属性为轴承损伤程度，工作负载转速和损伤位置，如表2所示，依据故障类别是否拥有各个细粒度属性得到一个与之对应的9维二值属性矢量A_i；

表2故障细粒度属性

从故障特征x_i学习其标签对应的9维属性矢量A_i可以看作一个具有9个标签的多标签问题，其输出空间为2⁹。本实施例为每种滚动轴承故障定义了9维的属性矢量A_i∈R⁹，以提供故障特征在高维属性空间映射的对象；该属性矢量由滚动轴承故障的细粒度属性描述推理得到，属性描述基于滚动轴承故障的三个方向，分别为轴承损伤程度，工作负载转速和损伤位置。为了应对输出空间复杂度的指数性增长，基于属性之间的相关性，将属性矢量A依据属性描述的类别作互斥属性切分，得到三个细分属性矢量a、b、c，分别对应属性描述的三个方面，即原属性矢量A＝concat(a,b,c)，将输出空间减少为3×2³。三个细分属性矢量均属于实向量空间R³。

本实施例采用热独编码的方式对与故障标签

对应的细分属性矢量a_i、b_i、c_i进行编码，编码维度为3，得到向量映射onehot(a_i)、onehot(b_i)、onehot(c_i)，则与故障标签

对应的属性矢量A_i＝concat(onehot(a_i,b_i,c_i))。

多标签零样本网络有监督地为每个细分属性矢量训练一个属性学习器，属性学习器的推理过程可表示为f:x_i→a_i，a_i为第i个样本的细分属性矢量a；通过搭建全连接神经网络实现该推理过程，网络结构如图3所示。

在网络训练阶段，输入可见类故障样本特征x_i ^s，优化如下所示的目标函数：

式中W为网络中的权值参数，Ω(W)是正则化项，L(·)为损失值，f(·)为属性学习器的推理函数，

为第i个样本的可见类细分属性矢量；在网络优化过程中设置迭代次数，当网络运行完成所有迭代次数时，优化结束；该迭代次数根据网络分类的准确率进行调整，设置网络的迭代次数一般为，网络迭代但是准确率停止上升时的迭代次数。

在网络测试阶段，输入未见类样本特征

得到其在属性层的细分属性矢量映射：

最终预测得到其故障类别标签

本实施例构造了三个属性学习器，分别用于映射a、b、c三个细分属性矢量，用可见类故障数据训练三个属性学习器，输入未知类故障数据，得到其在三个属性层的映射，即表2中所示的三类标签值，如(7,1,IR)组合形成表1中的标签IR007_1。

第五步：判断诊断正确率是否满足实际期望，如果诊断正确率低于设定的阈值则继续训练修正属性学习器，重复第四步直到达到期望精度。

实验结果分析。为验证RDSCNN的特征提取能力，采用t-SNE将所提取特征按相似度投影到2维空间中进行分析，若所作投影在二维空间中可分，则证明所提取特征具有可分性。将六种故障的时频图像输入特征提取网络，并将所提取特征使用t-SNE降维可视化输出如图4，从图中可以看出所提取的特征在二维空间中具有很好的可分性。

本发明从三十类轴承故障数据中随机选择六类作为未见类，其余作为可见类。总共进行四次随机选取，得到四种数据集划分方式。在四种划分方式下多标签零样本学习网络(MLZSL)对可见类和未见类的诊断精度如图5所示，图中显示了不同数据集划分方式下的故未见类故障诊断精度。由图中可知，该MLZSL网络对可见类故障的分类准确率在98％左右，在没有训练数据的未见类的故障类型方向上诊断准确率在78％左右，在未见类的损伤程度方向上的诊断准确率在73％左右，在未见类的负载工况方向上的诊断准确率约为50％。在三种属性中由于负载转速的设置差别较小，因此对负载转速的区分相较于其他两种属性效果更差。各类识别精度受故障数据集可见类和未见类的划分方式的影响不大，实验结果证明所提出的零样本方法可以有效诊断故障并具有较强的鲁棒性。

Claims (3)

1.基于多标签零样本学习的滚动轴承故障诊断方法，其特征在于：包括以下步骤：

第一步：采集滚动轴承振动信号，构建轴承故障数据集，将振动信号使用短时傅里叶变换进行预处理，得到轴承振动信号的时频图数据集，并划分可见类和未见类；

第二步：构建深度可分离卷积神经网络作为特征提取网络，网络的输入为故障时频图像，输出为故障特征矢量；设置网络参数、代价函数及其优化策略；

第三步：将可见类的时频图输入深度可分离卷积神经网络进行逐层训练，使用训练好的网络对可见类和未见类的时频图进行特征提取；

第四步：多标签零样本学习网络：使用可见类特征数据为各故障属性训练属性学习器，使用训练好的属性学习器预测未见类故障属性，诊断未见类故障的多标签类别；

第五步：判断诊断正确率是否满足实际期望，如果诊断正确率低于设定的阈值则继续训练修正属性学习器，重复第四步直到达到期望精度。

2.根据权利要求1所述的基于多标签零样本学习的滚动轴承故障诊断方法，其特征在于：第二步中，所述的深度可分离卷积神经网络RDSCNN，包括二维卷积层、非线性激活层、深度可分离卷积层、最大池化层和平均池化层，还包括两个残差学习模块；

其中，依次堆叠：二维卷积层、非线性激活层、二维卷积层、非线性激活层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、最大池化层、非线性激活层、深度可分离卷积层、最大池化层、深度可分离卷积层、非线性激活层、深度可分离卷积层、非线性激活层、平均池化层；每个二维卷积层和深度可分离卷积层后分别连接一个批归一化层；将第四层的输出与第九层的输出做残差连接，再将第九层的输出与第十二层的输出做残差连接；

在网络训练阶段，首先在RDSCNN后加上Softmax层，将整个网络构建成分类网络，然后输入可见类故障时频图像数据集，使用优化器优化网络参数做端到端的故障分类任务；在特征提取阶段，保留分类任务训练好的网络参数，将整个故障数据集的时频图像输入RDSCNN，得到网络输出的故障特征向量。

3.根据权利要求1或2所述的基于多标签零样本学习的滚动轴承故障诊断方法，其特征在于：第四步中，零样本学习故障诊断的方法具体如下：

步骤4.1，使用可见类故障时频图像数据集及其故障属性构建训练集D_tr：

其中

为第i个训练样本即第i个可见类时频图像，

为与样本对应的可见类标签即故障属性，

是可见类故障时频图像数据集，

是可见类别的标签集，N^s是可见类样本总数，上标s表示可见类；

使用未见类故障时频图像数据集及其故障属性构建测试集D_te：

其中

为第i个测试样本即第i个未见类时频图像，

为与样本对应的未见类标签即故障属性，

是未见类故障时频图像数据集，

是未见类别的标签集，N^u是未见类样本总数，上标u表示未见类；

可见类和未见类的标签集不相交，即

每种故障标签存在一个与之对应的属性矢量，定义可见类和未见类高维语义属性矢量集分别为：

和

其中

是与第i种可见类、未见类相对应的语义属性矢量，

分别表示可见类、不可见类的类别总数，R^q为q维的语义实向量空间；

步骤4.2，提供零样本学习的滚动轴承细粒度属性描述，依据故障类别是否拥有各个细粒度属性得到一个与之对应的二值属性矢量A_i；将属性矢量依据属性描述的类别作互斥属性切分，得到细分属性矢量；多标签零样本网络有监督地为每个细分属性矢量训练一个属性学习器，属性学习器的推理过程表示为f:x_i→a_i，a_i为第i个样本的细分属性矢量a；通过搭建全连接神经网络实现该推理过程：

在网络训练阶段，输入可见类故障样本特征

优化如下所示的目标函数：

式中W为网络中的权值参数，Ω(W)是正则化项，L(·)为损失值，f(·)为属性学习器的推理函数，

为第i个样本的可见类细分属性矢量；

在网络测试阶段，输入未见类样本特征

得到其在属性层的细分属性矢量映射：

最终预测得到其故障类别标签

Images