CN113158722A - 基于多尺度深度神经网络的旋转机械故障诊断方法 - Google Patents

Abstract

基于多尺度深度神经网络的旋转机械故障诊断方法，本发明涉及轴承等旋转机械故障诊断领域中，靠人工诊断准确率和效率不高的问题。深度学习技术在机械故障诊断中表现出了巨大潜力。目前的方法虽然取得了一定的效果，但由于特征的表达能力不足导致鲁棒性不好、准确率差。为解决这一问题，本发明提出了基于多尺度深度神经网络的旋转机械故障诊断方法。该方法将时域信号进行不同尺度的下采样，然后利用基于注意力机制的长短时记忆网络和多尺度卷积神经网络实现特征提取，并融合多尺度特征，最后利用多分类器实现故障诊断。经过充分的实验验证得知，在轴承的故障诊断上取得了很好的效果。本发明应用于轴承等旋转机械的故障诊断。

Description

基于多尺度深度神经网络的旋转机械故障诊断方法

技术领域

本发明涉及轴承等旋转机械故障诊断

背景技术

近年来，机电装备正朝着大型化、高速化、精密化、系统化和自动化的方向发展。为了保障设备的安全运行，对主要零部件的健康状况进行实时监控有着至关重要的作用。旋转机械是工业生产中的“心脏”，是推动工业生产的原动力，是安全性和可靠性都要求很高的部件，同样也是机械设备中造价最昂贵的。一旦发生故障，如未能及时检测到故障或未能有效地排查和修复潜在的故障，将会导致旋转机械的进一步损坏并影响工业生产，甚至可能危及工作人员的生命安全，从而造成巨大损失。因此，对旋转机械准确有效地进行故障诊断具有重大意义。

目前，旋转机械故障诊断的方法主要有两大类，分别为传统故障诊断方法与深度学习故障诊断方法，如图1所示。传统方法主要分为特征提取、特征降维与模式分类三个步骤。在振动信号故障诊断领域，常见的特征提取方法有时域特征、傅里叶变换、小波变换、经验模态分解(Empirical Mode Decomposition，EMD) 以及统计学特征等。常见的特征降维有主成分分析(Princi pal Components Analysis，PCA)、独立成分分析(IndependentComponents Analysis，ICA)；常见的模式分类算法有支持向量机(Support VectorMachine，SVM)、BP神经网络(也称多层感知机)、随机森林、贝叶斯分类器以及最近邻分类器等。传统的故障诊断方法的特征提取完全依赖于人工，过程复杂且工作量大，因此很难在实际中得到应用。基于深度学习方法克服了传统学习方法的缺陷，省去了特征提取和特征选择的步骤，直接将信号作为模型的输入，实现端到端的故障诊断。常见处理时序的深度学习故障诊断网络模型主要有卷积神经网络(Convolutional Neural Network，CNN)，循环神经网络(Recurrent Neural Network，RNN)。深度归一化卷积神经网络(DNCNN)用于机械设备的不平衡故障分类，与常用的CNN相比，DNCNN能够更有效地处理数据不平衡情况下的分类问题。

目前，机械故障自动诊断方法中，特征提取是重要的步骤。卷积神经网络是深度学习中一种常用的特征提取方法。它不依赖于人工特征提取，从而避免了人为因素的干扰。但是，传统CNN的单一拓扑结构在提取不同工况下的信号时缺乏自适应性，导致信号在池化过程中的部分信息丢失。另一方面，对于大型机械设备，由于其本身机理结构复杂、规模大、具有强耦合性，并且运行环境恶劣，使得采集到的信号混有随机噪声，对神经网络的学习能力是重大挑战，严重影响故障诊断模型的准确性。

针对上述问题，提出一种基于多尺度深度神经网络的故障诊断方法。首先使用混有噪声的原始时域信号作为输入；其次使用PAA(Piecewise Aggregate Approximation，PAA)算法对输入信号进行下采样，获得不同尺度的信号表示。这种方式能够在一定程度上滤除高频扰动和随机噪声，能够有效的在时域上表征信号的特征。另一方面，还可以防止模型过拟合。如图2中b，c所示，经过下采样是原来的二分之一和下采样是原来的四分之一之后，锯齿状明显减少，也代表噪声和高频明显减少。为了提高模型在特征提取过程中的表达能力，并增强信号在传递过程的鲁棒性与无损性，采用基于注意力机制的长短记忆网络(Attention Long Short-Term Memory，ALSTM)与全卷积神经网络(Fully ConvolutionalNetworks，FCN)对多尺度信号进行特征提取。然后将多尺度提取的特征进行融合，最后利用多分类函数进行故障诊断。

发明内容

本发明的目的是为了解决使用人工诊断机械故障的准确率和效率低的问题，而提出的基于多尺度深度神经网络的旋转机械故障诊断方法。

上述发明目的主要是通过以下技术方案实现的：

基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于首先对输入信号下采样，获得不同尺度的信号表示，其次利用基于注意力机制的长短时记忆网络和多尺度卷积神经网络进行特征提取，然后融合多尺度特征，最后使用分类器对融合后的特征分类，所述方法包含以下步骤：

S1、准备训练数据集，并对数据集进行下采样，得到多尺度信号表示；

采用多尺度的方式对输入信号下采样有助于增强特征提取；本发明使用不同的尺度对输入信号进行下采样，比如对于输入信号x＝{x₁,x₂,...,x_N}，x_i为第i个输入信号的值，N是输入信号的长度，通过逐段聚集平均(Piecewise Aggregate Approximation，PAA)算法进行下采样，获得不同尺度的信号表示{y(window)}， window表示尺度，例如当window＝2时，下采样信号后为{x₀,x₂,...,x_N2}，其可以在一定程度上滤除高频扰动和随机噪声。

S2、利用多尺度卷积神经网络对多尺度信号做特征提取；

目前大多数的研究方法都是通过单尺度卷积核提取特征，但是这种方式会导致特征提取不全面的问题；所以本发明提出使用时间卷积作为全卷积神经网络 (FullyConvolutional Network，FCN)的分支用来做多尺度的特征提取，首先使用不同大小的卷积核对多尺度信号提取特征；其次通过串联(concatenate)的方式融合特征；然后再次进行卷积操作；最后利用全局平均池化(Global Average Pooling，GAP)对整个网路在结构上做正则化防止过拟合；为了加快训练速度，在第一层融合后，第二层和第三层均使用批标准化(Batch Normalization，BN)。 S3、利用基于注意力机制的长短时记忆网络对多尺度信号做特征提取；

为了捕获信号中的时间信息，本发明使用基于注意力机制的LSTM(AttentionLong Short-Term Memory，ALSTM)对多尺度信号进行特征提取，为了防止过拟合，在ALSTM之后添加Dropout层；LSTM可以捕获信号中的时间信息，使用注意力机制来关注特征的重要程度；上下文向量C以目标序列y为条件；上下文 c_i取决于编码器将输入序列映射到隐藏层状态(h₁,...,h_Tx)，每一个隐藏层状态h_i都包含有关整个输入序列的信息，上下文向量c_i为隐藏层状态的加权求和：

每个隐藏层状态的权重如下：

其中e_ij为：

其中c_i是上下文向量，h_i是编码器隐藏层状态，s_i-1是解码器隐藏层状态，

W_a，U_a是权重。

S4、将S2和S3提取的多尺度特征进行融合；

设在多尺度特征提取之后，输出的特征为O₁...O_i和O_s...O_n；本发明采用concatenate的方式将卷积神经网络和长短时记忆网络提取的特征进行融合。融合之后的结果为：

O＝[O₁...O_i...O_s...O_n] (4)

卷积神经网络对于提取深层次特征具有很好的效果，长短时记忆网络能够捕捉长时依赖的信号特征，使用以上两种方式对信号做特征提取并融合，不仅有利于表达每段信号的特征，还有利于提取信号之间的依赖关系，两者相结合能够更好地表示特征，从而有利于提高故障分类的准确率和鲁棒性。

S5、将融合之后的特征，放入全连接层，使用分类器进行分类。

发明效果

本发明针对轴承等旋转机械故障诊断靠人工检测准确率和效率偏低的问题，提出一种基于多尺度深度神经网络的旋转机械故障诊断方法，即利用多尺度下采样的方法表示信号，对输入信号进行多尺度特征提取。模型分别在江南大学轴承数据集(JiangnanUniversity Bearing Datasets，JNU)、机械故障预防技术学会轴承数据集(MachineryFailure Prevention Technology Bearing Datasets，MFPT)以及时间序列数据集(UCRTime Series Classification Archive，UCRTSC)上进行了多次实验；实验结果如表1-4所示，本发明提出的多尺度深度神经网络故障诊断方法在以上三种数据集上都具有很高准确率和抗噪鲁棒性。

表1 UCR数据集的不同模型实验对比Accuracy(％)

表2 MFPT和JNU数据集的不同模型实验对比Accuracy(％)

表3 MFPT数据集的不同模块实验Accuracy(％)

表4 JNU数据集的抗噪性能实验Accuracy(％)

附图说明

图1传统方法和深度学习方法比较图示；

图2信号下采样示意图；

图3模型结构图；

具体实施方法

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例1：

本发明提供的基于多尺度深度神经网络的旋转机械故障诊断方法，模型结构如图1所示，主要由多尺度下采样，多尺度特征提取，特征融合和分类4个部分组成：

所述模型训练包含步骤：

S1、准备训练数据集，并对数据集进行下采样，得到多尺度信号表示；

S2、利用多尺度卷积神经网络对多尺度信号做特征提取；

S3、利用基于注意力机制的长短时记忆网络对多尺度信号做特征提取；

S4、将S2和S3提取的多尺度特征进行融合；

S5、将融合之后的特征，放入全连接层，使用softmax函数进行分类。

本发明实施例方法是先对输入信号下采样，获得不同尺度的信号表示，其次利用基于注意力机制的长短时记忆网络和多尺度卷积深度神经网络进行特征提取，然后融合多尺度特征，最后使用softmax对融合后的特征分类。

下面对本发明实施例进行详细的说明：

1、信号多尺度下采样：

采用多尺度的方式对输入信号下采样有助于增强特征提取；本发明使用不同的尺度对输入信号进行下采样，比如对于输入信号x＝{x₁,x₂,...,x_N}，x_i为第i个输入信号的值，N是输入信号的长度，通过逐段聚集平均(Piecewise Aggregate Approximation，PAA)算法进行下采样，获得不同尺度的信号表示{y(window)}， window表示尺度，例如当window＝2时，下采样信号后为

其可以在一定程度上滤除高频扰动和随机噪声。

2、多尺度卷积神经网络做特征提取：

目前大多的研究方法主要是通过单尺度卷积核提取特征，但是这种方式会导致信号特征提取不全面的问题；因此本发明使用时间卷积作为全卷积神经网络 (FullyConvolutional Network，FCN)的分支用来做多尺度的特征提取。时间卷积网络的输入通常是时间序列信号，定义

是对于时间步长t(0<t<T)和长度F_o的输入，其中时间T是可变的，每一层中时间步长是T_l。标签是y_t∈{1，...,C}，C是类别个数。因有L个卷积层，为了捕获输入信号的特征，在每个卷积层使用一维滤波器。定义每层滤波器由权重

和偏置

参数化，其中 l∈{1，...,L}是第l层，d是时间间隔。假设第l层，第i个单元的激活矩阵

和上一层的激活矩阵

的关系如下：

其中f()是线性整流(ReLu)函数。首先，使用不同大小的卷积核对多尺度信号特征提取，卷积核的个数均为128；其次，通过串联(concatenate)的方式融合特征；然后再进行两次卷积操作，卷积核的个数分别是256和128，图3模型结构中Conv为卷积；最后利用全局平均池化(Global Average Pooling，GAP) 对特征进行展平。为了加快训练，在第一层融合后，第二层和第三层使用批标准化(Batch Normalization，BN)，此方法中使用ReLU激活函数。

3、基于注意力机制的长短时记忆网络做特征提取：

为了捕获信号中的时间信息，本发明使用基于注意力机制的LSTM(AttentionLong Short-Term Memory，ALSTM)的方法对多尺度信号进行特征提取。LSTM 可以捕获信号中的时间信息，使用注意力机制关注特征的重要程度。为了防止过拟合，在ALSTM之后添加Dropout层。RNN的具体介绍如下：

h_t＝tanh(Wh_t-1+Ix_t) (6)

其中tanh为激活函数，W是循环权重，I为预测权重。循环神经网络中，隐藏状态h用于做预测：

y_t＝softmax(Wh_t-1) (7)

softmax是计算每类的概率，σ是激活函数，W为权重。如果将h作为另一个RNN的输入，可以创建堆叠RNNs。

LSTM是对RNN的改进，解决了RNN梯度消失和梯度爆炸的问题。其定义如下：

g^u＝σ(W^uh_t-1+I^ux_t) (9)

g^f＝σ(W^fh_t-1+I^fx_t) (10)

g^o＝σ(W^oh_t-1+I^ox_t) (11)

g^c＝tanh(W^ch_t-1+I^cx_t) (12)

m_t＝g^fm_t-1+g^ug^c (13)

h_t＝tanh(g^om_t) (14)

其中，σ为激活函数，为元素相乘，W^u，W^f，W^o，W^c是循环权重矩阵， I^u，I^f，I^o，I^c是预测矩阵。LSTM可以捕获信号的时间信息，利用注意力机制确定特征的重要程度。其上下文向量C以目标序列y为条件。上下文c_i取决于编码器将输入序列映射到隐藏层状态

每一个隐藏层状态h_i都包含有关整个输入序列的信息，并且重点放在输入序列第i个周围部分。上下文向量c_i为隐藏层状态的加权求和：

每个隐藏层状态的权重如下：

其中e_ij为：

其中，c_i是上下文向量，h_i是编码器隐藏层状态，s_i-1是解码器隐藏层状态，

W_a，U_a是权重。使用注意力机制的LSTM(Attention Long Short-Term Memory， ALSTM)对多尺度信号进行特征提取，为了防止过拟合，在ALSTM之后添加 Dropout层。

4、多尺度特征融合

设在多尺度特征提取之后，输出的特征为O₁...O_i和O_s...O_n；本发明采用concatenate的方式将卷积神经网络和长短时记忆网络提取的特征进行融合。融合之后的结果为：

O＝[O₁...O_i...O_s...O_n] (18)

5、softmax分类

在特征融合之后，直接连接全连接层，激活函数使用ReLU，分类使用 softmax函数。为了加快收敛速度，模型采用交叉熵作为损失函数，具体如下：

其中，N是样本的数量，M是类别的数量，y_ic是指示变量(0,1)，如果该类别和样本i的类别相同则为1，否则为0，p_ic是对于观测样本i属于类别c的预测概率。

Claims (5)

1.基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于首先对输入信号下采样，获得不同尺度的信号表示，其次利用基于注意力机制的长短时记忆网络和多尺度卷积神经网络进行特征提取，然后融合多尺度特征，最后使用分类器对融合后的特征分类，所述方法包含以下步骤：

S1、准备训练数据集，并对数据集进行下采样，得到多尺度信号表示；

S2、利用多尺度卷积神经网络对多尺度信号做特征提取；

S3、利用基于注意力机制的长短时记忆网络对多尺度信号做特征提取；

S4、将S2和S3提取的多尺度特征进行融合；

S5、将融合之后的特征，放入全连接层，使用分类器进行分类。

2.如权利要求1所述的基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于，步骤S1中所述的多尺度下采样的原理如下：

采用多尺度的方式对输入信号下采样有助于增强特征；本发明使用不同的尺度对输入信号进行下采样，比如对于输入信号x＝{x₁,x₂,...,x_N}，x_i为第i个输入信号的值，N是输入信号的长度，通过逐段聚集平均(Piecewise Aggregate Approximation，PAA)算法进行下采样，获得不同尺度的信号表示{y(window)}，window表示尺度，例如当window＝2时，下采样信号后为

其可以在一定程度上滤除高频扰动和随机噪声。

3.如权利要求1所述的基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于，步骤S2中所述的多尺度卷积神经网络的特征提取的原理如下：

目前大多数的研究方法都是通过单尺度卷积核提取特征，但是这种方式会导致特征提取不全面的问题；所以本发明提出使用时间卷积作为全卷积神经网络(FullyConvolutional Network，FCN)的分支用来做多尺度的特征提取，首先使用不同大小的卷积核对多尺度信号提取特征；其次通过串联(concatenate)的方式融合特征；然后再次进行卷积操作；最后利用全局平均池化(Global Average Pooling，GAP)对整个网路在结构上做正则化防止过拟合；为了加快训练速度，在第一层融合后，第二层和第三层均使用批标准化(Batch Normalization，BN)。

4.如权利要求1所述的基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于，步骤S3中所述的基于注意力机制的长短时记忆网络的方法如下：

为了捕获信号中的时间信息，本发明使用基于注意力机制的LSTM(Attention LongShort-Term Memory，ALSTM)对多尺度信号进行特征提取，为了防止过拟合，在ALSTM之后添加Dropout层；LSTM可以捕获信号中的时间信息，使用注意力机制来关注特征的重要程度；上下文向量C以目标序列y为条件；上下文c_i取决于编码器将输入序列映射到隐藏层状态

每一个隐藏层状态h_i都包含有关整个输入序列的信息，上下文向量c_i为隐藏层状态的加权求和：

每个隐藏层状态的权重如下：

其中e_ij为：

其中c_i是上下文向量，h_i是编码器隐藏层状态，s_i-1是解码器隐藏层状态，

W_a，U_a是权重。

5.如权利要求1所述的基于多尺度深度神经网络的旋转机械故障诊断方法，其特征在于，步骤S4中所述的多尺度特征融合的原理如下：

设在多尺度特征提取之后，输出的特征为O₁...O_i和O_s...O_n；本发明采用concatenate的方式将卷积神经网络和长短时记忆网络提取的特征进行融合，融合之后的结果为：

O＝[O₁...O_i...O_s...O_n] (1)

卷积神经网络对于提取深层次特征具有很好的效果，长短时记忆网络能够捕捉长时依赖的信号特征，使用以上两种方式对信号做特征提取并融合，不仅有利于表达每段信号的特征，还有利于提取信号之间的依赖关系，两者相结合能够更好地表示特征，从而有利于提高故障分类的准确率和鲁棒性。

Images