CN109726524B - 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法 - Google Patents

Abstract

一种基于CNN和LSTM的滚动轴承剩余使用寿命预测方法，涉及滚动轴承寿命预测领域。针对滚动轴承存在性能退化渐变故障和突发故障两种模式下其剩余使用寿命(RUL)预测困难的问题，该方法首先对滚动轴承原始振动信号作FFT变换，然后将预处理所得到的频域幅值信号进行归一化处理后，并将其作为CNN的输入。利用CNN自动提取数据局部抽象信息以挖掘深层特征，避免传统特征提取方法过于依赖专家经验的问题。之后再将深层特征输入到LSTM网络中，构建趋势性量化健康指标，同时确定失效阈值。最后，运用移动平均法进行平滑处理，消除局部振荡，再利用多项式曲线拟合，预测未来失效时刻，实现滚动轴承RUL预测。预测结果能够较好地接近真实寿命值。

Description

一种基于CNN和LSTM的滚动轴承剩余使用寿命预测方法

技术领域

本发明涉及一种滚动轴承剩余使用寿命预测方法，涉及滚动轴承剩余使用寿命预测领域。

背景技术

当前，滚动轴承广泛应用于众多旋转机械设备中，作为旋转机械的基础部件之一，其运行状态对设备安全可靠运行有着至关重要的作用。滚动轴承一旦发生故障，将会导致一系列负面影响，比如延长停机时间、造成恶性事故甚至人员伤亡等^[1-3]。因此，准确地预测轴承剩余使用寿命(remaining useful life，RUL)对旋转机械的预防性维修决策意义重大^[4,5]。

通常，现有的故障预测和健康管理方法可分为三大类：基于物理模型方法、数据驱动方法和二者混合的方法^[6]。其中，数据驱动方法根据历史传感器数据对退化特性进行建模，应用范围广泛。而深度学习^[7]作为数据驱动方法的一种，已在各领域得到一定应用。

近几年，深度学习方法在滚动轴承振动信号特征提取与剩余使用寿命预测方面有一定应用。文献[8]提出一种时域和频域特征相结合的多轴承RUL协同预测的集成深度学习方法，实验结果验证了该方法的有效性。文献[9]提出一种将频域、时频域特征和自编码器(auto encoder，AE)压缩时域特征联合输入到深度神经网络进行RUL预测，获取了较好的RUL预测结果。文献[10]将来自小波系数的峰值和RMS值输入到循环神经网络(recurrentneural network，RNN)模型中以达到预测轴承RUL的目的。文献[11]提出将经验模态分解获得的固有模态函数能量熵之和作为状态特征，利用长短时记忆(long short term memory，LSTM)网络进行机械状态单步预测，获得了良好的效果。卷积神经网络(convolutionneural networks，CNN)作为一种深度学习方法，具有权值共享、卷积操作和空间池化等特性，能够挖掘大量数据中的深层特征。文献[12]通过构建特征矩阵训练CNN故障诊断模型，分类效果优于AE等方法。上述研究虽利用深度学习方法进行振动信号特征提取与RUL预测，但均需人为预先进行较复杂的信号处理提取特征，未能发挥深度模型特征学习的特性。

构建预测健康指标方面，良好的健康指标能够全面反映滚动轴承的健康状况，且能够描述滚动轴承的衰退过程。文献[13]提出一种选择加权融合指标反映轴承健康状况，用于滚动轴承RUL预测。文献[14]采用主成分分析将多频率尺度模糊熵进行融合，构建滚动轴承性能退化评估指标。文献[15]利用改进后的限制玻尔兹曼机进行特征提取，之后利用自组织映射将多个特征融合作为构建的健康指标。上述方法均可实现健康指标构建，但不同轴承之间失效阈值往往不同，通过实验或经验确定失效阈值往往存在盲目性的问题。文献[16]提出一种基于RNN的健康指标，用于预测轴承剩余寿命，实验确定了不同轴承相同的失效阈值，验证了健康指标的有效性。LSTM可有效克服RNN的梯度消失或梯度爆炸问题，使模型具有学习到长期依赖信息的能力，有效地处理序列数据。然而，上述文献并未考虑到轴承存在性能退化渐变故障和突发故障两种模式。因此，针对两种故障退化模式问题，提出适应两种退化模式的方法变得尤为关键。

发明内容

本发明要解决的技术问题是：本发明为了解决现有的滚动轴承振动信号特征提取方法过于依赖专家经验，以及剩余使用寿命预测方法没有考虑滚动轴承存在性能退化渐变故障和突发故障两种模式，存在健康指标的趋势性不能同时兼顾两种模式，影响预测精度的问题。

本发明为解决上述技术问题采取的技术方案是：

一种基于CNN和LSTM的滚动轴承剩余使用寿命预测方法，所述方法的实现过程：

1)选取滚动轴承振动信号不同工况下的部分数据作为训练集，并对训练集的原始振动信号作FFT变换，得到频域幅值信号；

2)将频域幅值信号进行归一化处理后作为特征输入，寿命百分比作为输出训练模型，形如

其中x_t∈R ^N×1表示某一工况某一轴承在时刻t处的N维特征输入，N＝2048，y_t∈[0,1]表示该轴承在时刻t的寿命退化百分比输出；D_tra表示训练集中某一工况某一轴承的振动信号数据，R为频域幅值特征矩阵；T为轴承全寿命运行时间；

3)设定CNN的层数、滤波器数量、卷积尺寸大小，将归一化后的频域幅值信号作为CNN的输入，运用CNN中的卷积层、池化层遍历整个输入数据序列，以提取振动信号的局部信息、挖掘深层特征；

4)再将池化层输出结果输入到LSTM网络中，利用LSTM网络的LSTM记忆单元对时间序列数据具有长短期记忆的优势构建趋势性量化健康指标，建立趋势性量化健康指标模型；

5)对测试集中不同工况的非全寿时域振动信号进行FFT变换，得到频域幅值信号，并进行归一化处理，经步骤3)挖掘的深层特征，结合步骤4)的趋势性量化健康指标模型，获取测试集的趋势性量化健康指标；采用移动平均法(moving average，MA)对其进行平滑处理；

6)利用多项式曲线拟合滚动轴承性能退化趋势，预测滚动轴承的RUL。

进一步地，在步骤3)中，利用CNN的卷积操作、局部链接、权值共享特性自动提取数据局部抽象信息以挖掘深层特征。

进一步地，在步骤3)的具体实现过程为：

将滚动轴承归一化后的频域幅值信号输入到卷积层中，具体卷积层运算如式(1)所示：

式中：K_i ^l(j′)为第l层的第i个卷积核的第j′个权值，

为第l层中第j个被卷积的局部区域r，*代表卷积运算，W为卷积核宽度，使用修正线性单元(rectified linear unit，ReLU)激活函数对每一个卷积输出的y^l(i,j)进行非线性变换，具体表述如式(2)所示：

a^l(i,j)＝f(y^l(i,j))＝max{0,y^l(i,j)} (2)

式中：y^l(i,j)为卷积层输出值，f(·)为激活函数ReLU，a^l(i,j)为y^l(i,j)经ReLU激活函数得到的激活值。

2)池化层：采用最大值池化进行降采样操作以最小化网络参数，并获取深层特征，最大值池化的数学描述如式(3)所示：

式中：a^l(i,t)为第l层第i个特征映射的第t个神经元输出的激活值，V为池化区域宽度，p^l(i,j)为池化层输出值。

进一步地，在步骤4)中，LSTM网络中LSTM记忆单元的构建过程为：

LSTM网络在隐藏层引入了一组记忆单元，其包括三个门控制器：输入门i、遗忘门f和输出门o，允许网络可学习何时遗忘历史信息，何时用新信息更新记忆单元；LSTM记忆单元通过三个“门”的作用控制时间序列中信息的流动捕获序列中的长期依赖信息，有效地处理序列数据；其计算更新状态的步骤：

1)临时记忆状态信息

在更新记忆单元c_t之前，会先产生临时的记忆单元

是由当前时刻t输入的深层特征x_t以及上一时刻t-1的隐藏层单元输出健康指标h_t-1共同作用，分别与各自权重矩阵线性组合，得到当前时刻候选记忆单元值，更新记忆单元状态信息，

2)计算输入门的值i_t，输入门控制当前深层特征数据输入对记忆单元状态值的影响；

i_t＝σ(W_xix_t+W_hih_t-1+b_i) (5)

3)计算遗忘门的值f_t，遗忘门控制历史信息对当前记忆单元状态值的影响；

f_t＝σ(W_xfx_t+W_hfh_t-1+b_f) (6)

4)计算当前时刻记忆单元状态值c_t，

式中：

表示逐点乘积，由式(7)可知，记忆单元状态更新取决于上一时刻的单元值c_t-1和当前候选记忆单元值

并通过遗忘门和输入门分别对这两部分进行调节；

5)计算输出门的值o_t，输出门控制记忆单元状态值的输出，

o_t＝σ(W_xox_t+W_hoh_t-1+b_o) (8)

6)LSTM单元记忆输出h_t，

h_t＝o_t tanh(c_t) (9)

式(4)-(9)中，W_xc、W_xi、W_xf、W_xo分别为在时刻t的输入层x_t和隐藏层h_t间的权重值，W_hc、W_hi、W_hf、W_ho分别是在时刻t-1与时刻t之间的隐藏层权重值，b_c、b_i、b_f、b_o分别为输入节点、输入门、遗忘门、输出门的偏置，h_t-1为网络前一时刻的输出，σ为sigmoid函数，取值为(0,1)。

本发明的有益效果是：

本发明解决了针对滚动轴承存在性能退化渐变故障和突发故障两种模式下其剩余使用寿命(RUL)预测困难的问题。该方法首先对滚动轴承原始振动信号作FFT变换，然后将预处理所得到的频域幅值信号进行归一化处理后，并将其作为CNN的输入。利用CNN具有卷积操作、权值共享等特性，自动提取数据局部抽象信息以挖掘深层特征，避免传统特征提取方法过于依赖专家经验的问题。之后再将深层特征输入到LSTM网络中，构建趋势性量化健康指标，同时确定失效阈值。最后，运用移动平均法进行平滑处理，消除局部振荡，再利用多项式曲线拟合，预测未来失效时刻，实现滚动轴承RUL预测。实验结果表明，所提方法构建的趋势性量化健康指标在两种故障模式下，都具有良好的单调趋势性，预测结果能够较好地接近真实寿命值。

本发明提出的基于卷积神经网络(CNN)和长短时记忆神经网络(LSTM)构建趋势性量化健康指标预测滚动轴承RUL的方法，将快速傅里叶变换(fast fourier transform，FFT)所得的频域幅值信号进行归一化处理后作为CNN的输入，挖掘深层特征，避免传统特征提取方法过于依赖专家经验的问题。然后，采用具有良好处理时间序列优势的LSTM网络，进行趋势性量化健康指标的构建，从而进一步预测滚动轴承的RUL，适合于性能退化渐变故障和突发故障两种模式的预测。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例共同用于解释本发明，并不构成对本发明的限制。在附图中：

图1是一维CNN示意图，图2是LSTM记忆单元结构图，图3是本发明所述的滚动轴承RUL预测方法流程框图；图4是轴承1_3时域振动信号及频域幅值谱图，其中(a)为时域振动信号，(b)为频域幅值谱；图5为轴承1_3全寿命周期的时域振动信号图，图6为轴承1_3均方根特征值图，图7为轴承2_6全寿命周期的时域振动信号图，图8为轴承2_6均方根特征值图，图9为轴承1_3趋势性量化健康指标图，图10为轴承2_6趋势性量化健康指标图，图11为6个训练轴承趋势性量化健康指标图，图12为轴承1_3剩余寿命预测结果图，图13为轴承2_6剩余寿命预测结果图。

具体实施方式

结合图1至图13，本实施方式对本发明提出一种基于卷积神经网络(CNN)和长短时记忆神经网络(LSTM)的滚动轴承RUL预测方法的实现及效果验证进行阐述如下：

1相关深度学习理论

1.1卷积神经网络

CNN是由多个卷积层和多个池化层堆叠而成。单层CNN网络由两层组成：一个卷积层和一个池化层，可直接处理原始输入序列。如图1所示，每层CNN包含若干个大小一致的卷积核及同一类型的池化函数。首先，卷积核遍历整个输入序列数据，产生更高层、更抽象的特征空间。然后，池化层压缩每个生成的特征进行二次特征提取、降维，选取较高层次的重要特征。最后，产生新的序列特征作为下一个卷积层、池化层的输入。卷积层和池化层的具体运算过程为：

1)卷积层：卷积层利用卷积核对输入信号的局部区域进行卷积运算，并产生相对应的特征映射。卷积层最重要的特点是权值共享，即使用同一卷积核以固定的步长对所有输入进行遍历。权值共享使得卷积层中的网络参数减少，避免了因参数过多导致的过拟合现象，并可降低系统内存开支。具体卷积层运算如式(1)所示：

式中：K_i ^l(j′)为第l层的第i个卷积核的第j′个权值，

为第l层中第j个被卷积的局部区域r，*代表卷积运算，W为卷积核宽度，使用修正线性单元(rectified linear unit，ReLU)激活函数对每一个卷积输出的y^l(i,j)进行非线性变换，可提高网络稀疏性，减少网络过拟合问题。具体表述如式(2)所示：

a^l(i,j)＝f(y^l(i,j))＝max{0,y^l(i,j)} (2)

式中：y^l(i,j)为卷积层输出值，f(·)为激活函数ReLU，a^l(i,j)为y^l(i,j)经ReLU激活函数得到的激活值。

2)池化层：池化层主要进行降采样操作，能够最小化网络参数。常用池化函数有均值池化和最大值池化，其中最大值池化的数学描述如式(3)所示：

式中：a^l(i,t)为第l层第i个特征映射的第t个神经元输出的激活值，V为池化区域宽度，p^l(i,j)为池化层输出值。

1.2长短时记忆神经网络

LSTM网络是RNN的一种变体。LSTM网络关键所在是在隐藏层引入了一组记忆单元，其包括三个门控制器：输入门i、遗忘门f和输出门o，允许网络可学习何时遗忘历史信息，何时用新信息更新记忆单元。LSTM记忆单元如图2所示，通过三个“门”的作用控制时间序列中信息的流动，从而更好地捕获序列中的长期依赖信息，有效地处理序列数据。其计算更新状态的步骤：

1)临时记忆状态信息

在更新记忆单元c_t之前，会先产生临时的记忆单元

而

是由当前时刻t输入的深层特征x_t以及上一时刻t-1的隐藏层单元输出健康指标h_t-1共同作用，分别与各自权重矩阵线性组合，得到当前时刻候选记忆单元值，更新记忆单元状态信息。

2)计算输入门的值i_t。输入门控制当前深层特征数据输入对记忆单元状态值的影响。

i_t＝σ(W_xix_t+W_hih_t-1+b_i)(5)

3)计算遗忘门的值f_t。遗忘门控制历史信息对当前记忆单元状态值的影响。

f_t＝σ(W_xfx_t+W_hfh_t-1+b_f) (6)

4)计算当前时刻记忆单元状态值c_t。

式中：

表示逐点乘积。由式(7)可知，记忆单元状态更新取决于上一时刻的单元值c_t-1和当前候选记忆单元值

并通过遗忘门和输入门分别对这两部分进行调节。

5)计算输出门的值o_t。输出门控制记忆单元状态值的输出。

o_t＝σ(W_xox_t+W_hoh_t-1+b_o) (8)

6)LSTM单元记忆输出h_t。

h_t＝o_t tanh(c_t) (9)

式(4)-(9)中，W_xc、W_xi、W_xf、W_xo分别为在时刻t的输入层x_t和隐藏层h_t间的权重值，W_hc、W_hi、W_hf、W_ho分别是在时刻t-1与时刻t之间的隐藏层权重值，b_c、b_i、b_f、b_o分别为输入节点、输入门、遗忘门、输出门的偏置，h_t-1为网络前一时刻的输出，σ为sigmoid函数，取值为(0,1)。2滚动轴承RUL预测方法及流程

通常，滚动轴承存在性能退化渐变故障和突发故障两种模式，本发明结合滚动轴承振动信号的特点及深度学习中CNN与LSTM各自优势，挖掘深层特征并构建趋势性量化健康指标，刻画轴承退化趋势，实现滚动轴承RUL的预测。整体流程框图如图3所示。

具体流程步骤为：

1)选取滚动轴承振动信号每种工况的部分数据作为训练集，并对训练集的原始振动信号作FFT变换，得到频域幅值信号。

2)将频域幅值信号进行归一化处理后作为特征输入，寿命百分比作为输出训练模型，形如

表示在时刻t处的N维特征，N＝2048，y_t∈[0,1]表示轴承在时刻t的寿命退化百分比，D_tra表示训练集中某一工况某一轴承的振动信号数据，R为频域幅值特征矩阵；T为轴承全寿命运行时间。

3)设定CNN层数、滤波器数量、卷积尺寸大小等参数，将归一化后的频域幅值信号作为CNN的输入，运用CNN中卷积层、池化层的公式(1)～(3)遍历整个输入数据序列，提取振动信号的局部信息，挖掘深层特征。

4)再将深层特征输入到LSTM网络中，利用公式(4)～(9)及LSTM记忆单元对时间序列数据具有长短期记忆的优势，通过LSTM网络构建趋势性量化健康指标，建立趋势性量化健康指标模型。

5)对测试集中不同工况的非全寿时域振动信号进行FFT变换，得到频域幅值信号，并进行归一化处理，经步骤3)挖掘的深层特征，结合步骤4)的趋势性量化健康指标模型，获取测试集的趋势性量化健康指标。采用移动平均法(moving average，MA)对其进行平滑^[17]，减少振荡以提高剩余寿命预测精度。

6)利用多项式曲线^[18]拟合滚动轴承性能退化趋势，预测滚动轴承的RUL。

3应用与分析

3.1实验数据

滚动轴承加速退化试验的全寿命数据来自于PRONOSTIA试验台^[19]，分别由水平方向和垂直方向两个加速度传感器进行数据采集，每10s记录一次数据，采样时长为0.1s，采样频率为25.6kHz，即每次采样振动数据为2560点。在滚动轴承由正常运行到完全失效期间，当加速度幅值连续超过20g时，被认为滚动轴承完全失效。

实验包括3种工况条件：工况1(1800rpm和4000N)，工况2(1650rpm和4200N)和工况3(1500rpm和5000N)。3种工况条件下的试验轴承分别为轴承1_1至轴承1_7共7组，轴承2_1至轴承2_7共7组，轴承3_1至轴承3_3共3组。

3.2滚动轴承RUL预测

实验选取每种工况的前两组轴承数据，即轴承1_1、轴承1_2、轴承2_1、轴承2_2、轴承3_1、轴承3_2作为训练集用于模型训练，其余轴承作为测试集。

实验对训练集和测试集共17组轴承的时域振动信号进行FFT变换，转化为频域幅值信号。以轴承1_3为例，0.1s采集时间段内的某一样本时域振动信号及相应的频域幅值信号如图4所示。

将频域预处理所得到的频域幅值信号进行归一化处理后输入到CNN中，经CNN提取振动信号局部抽象信息，自主学习以挖掘深层特征，再利用LSTM具有良好处理序列数据的优势，构建趋势性量化健康指标，从而进一步预测滚动轴承RUL。实验网络模型包括5个卷积层、5个池化层，3个LSTM层及ReLU激活层。加入dropout防止过拟合，其大小为0.5，使用尺寸为128小批量样本以提高模型的计算效率。在多层CNN中，卷积核为一维卷积核。

以滚动轴承1_3、2_6为例，滚动轴承整个寿命周期内的原始时域振动信号和相对应的时域特征RMS值分别如图5、图6以及图7、图8所示。

由图5和图7可以看出，两个轴承经历了不同的退化过程。轴承1_3幅值随时间逐渐增加，其退化程度呈现渐变性变化的特点，而轴承2_6在试验终止前幅值出现明显跳变。同时，由图6可以看出，RMS能较好地反映滚动轴承1_3的退化过程，而图8轴承2_6的RMS在早期退化过程中虽有波动但后期趋于平稳，直到6870s左右才出现跳变。由此可知，滚动轴承的运行状态可能会出现两种故障模式，一种是性能退化渐变故障，另一种是突发故障。

为验证所提出的趋势性量化健康指标能够同时解决滚动轴承运行过程中出现的两种故障模式，轴承1_3和轴承2_6的当前数据经网络训练模型获取的趋势性量化健康指标如图9、图10所示。与图6、图8相比可看出，本发明所提出的趋势性量化健康指标能够明显呈现轴承的退化趋势，其整体具有良好的单调趋势性，而且对轴承早期退化较为敏感，但存在局部振荡现象。因此，实验利用MA平滑滤波消除振荡对健康指标的影响。

基于训练集6个轴承的全寿数据，采用6倍交叉验证法进行实验。构建的趋势性量化健康指标结果如图11所示，即任意选取训练集中的5个轴承全寿数据训练模型，其余的轴承数据作为测试集，重复6次直至完成全部实验。从图11可看出，不同轴承的趋势性量化健康指标在初始时刻值为0，随轴承运行整体呈现出一定的单调趋势性，在轴承失效时刻，其值几乎为1。趋势性量化健康指标的实质是样本对应的使用寿命百分比值，因此可将失效阈值确定为1，从而解决不同轴承失效阈值不同的问题。针对滚动轴承每一时刻的状态，得到表征状态为0到1间的量化值，达到量化效果。

为表明所提出的趋势性量化健康指标能够较为准确地进行RUL预测，建立多项式曲线拟合模型，该模型可用于曲线拟合、预测轴承的性能退化趋势。本发明选取三次多项式拟合曲线，其公式如式(10)所示：

y＝at³+bt²+ct+d (10)

式中：y为轴承状态值，t为轴承运行时刻，a、b、c、d为模型参数。

通过式(10)得到当前时刻t之后性能退化趋势和失效阈值交点的失效时刻t’，并计算时刻t对应的剩余使用寿命t_r，见式(11)：

t_r＝{t′-t|t′＞t,Z(t)} (11)

式中：Z(t)为滚动轴承运行至当前时刻t的所有历史运行情况。

通过式(11)可求出滚动轴承剩余使用寿命。利用寿命百分比误差来评估预测方法的性能，计算公式如式(12)所示：

式中：ActRUL_i和RUL_i分别是第i个测试数据的实际RUL和预测的RUL。

在图9、图10中轴承1_3、2_6部分数据构建的健康指标基础上，进行RUL预测，轴承1_3、2_6的剩余寿命预测结果如图12、13所示，其中点线为当前数据网络预测值经平滑后的健康指标性能退化趋势，虚线为对点线的拟合，粗实线为多项式预测的性能退化趋势，细实线为真实的性能退化趋势，失效阈值为1。

已知数据集中轴承1_3的当前寿命为18010s，从图12可以看出预测的失效时刻寿命为22750s，故由式(11)计算预测的剩余寿命为4740s。而已知轴承1_3的真实剩余寿命为5730s，故由式(12)可计算其预测误差为17.28％。轴承1_3所构建的趋势性量化健康指标能够贴近真实值，表明在性能退化故障模式下的健康指标更接近真实值，更有利于RUL预测。已知数据集中轴承2_6的当前寿命为5710s，从图13可以看出预测的失效时刻寿命为7180s，故由式(11)计算预测的剩余寿命为1470s。而已知轴承2_6的真实剩余寿命为1290s，故由式(12)可计算其预测误差为-13.95％。虽然轴承2_6的运行状态为突发故障模式，但所构建的趋势性量化健康指标同样具有单调趋势性，并能够有效地进行RUL预测，证明构建趋势性量化健康指标方法的有效性。其余测试轴承的剩余寿命预测结果及预测误差如表1所示。

表1剩余寿命预测结果

将预测结果与文献[16]进行比较，如表1所示。可以看出，利用本发明所提方法，除滚动轴承1_5、1_6和2_4外，其余8个轴承的预测误差均低于文献[16]。测试11个滚动轴承的百分比误差均值为22.10％，低于文献[16]方法的32.48％。在两种故障模式共存情况下，实验结果验证了所构建的趋势性量化健康指标对RUL预测的有效性。

4结论

1)采用频域预处理，将FFT变换提取的频域幅值信号进行归一化处理后作为CNN的输入，充分利用CNN具有卷积操作、权值共享等特性，提取振动信号局部内在信息，挖掘深层特征，避免传统特征提取方法过于依赖专家经验的问题；

2)将深层特征输入到LSTM网络中，并根据滚动轴承寿命百分比，构建了趋势性量化健康指标。经平滑滤波减少振荡对健康指标的影响，使得健康指标退化趋势更加平滑，并确定了失效阈值；

3)对于滚动轴承存在性能退化渐变故障和突发故障两种模式，所提方法均可反映轴承运行过程中的性能退化趋势，预测结果接近真实寿命值。实验结果表明，所提方法百分比误差均值为22.10％，低于其他方法。

下一步，从迁移学习的角度进行深入研究，进一步提高滚动轴承RUL预测的准确度，减小预测误差。

本发明中引用的参考文献如下：

[1]GHODS A,LEE H H.Probabilistic frequency-domain discrete wavelettransform for better detection of bearing faults in induction motors[J].Neurocomputing,2016,188:206-216.

[2]温江涛,闫常弘,孙洁娣,等.基于压缩采集与深度学习的轴承故障诊断方法[J].仪器仪表学报,2018,39(01):171-179.

WEN J T,YAN CH H,SUN J D,et al.Bearing fault diagnosis method basedon compressed acquisition and deep learning[J].Chinese Journal of ScientificInstrument,2018,39(01):171-179.

[3]JIA F,LEI Y G,LIN J,et al.Deep neural networks:a promising toolfor fault characteristic mining and intelligent diagnosis of rotatingmachinery with massive data[J].Mechanical Systems and Signal Processing,2016,72-73:303-315.

[4]阙子俊,金晓航,孙毅.基于UKF的轴承剩余寿命预测方法研究[J].仪器仪表学报,2016,37(09):2036-2043.

QUE Z J,JIN X H,SUN Y.Remaining useful life prediction for bearingswith the unscented Kalman filter-based approach[J].Chinese Journal ofScientific Instrument,2016,37(09):2036-2043.

[5]康守强,叶立强,王玉静,等.基于MCEA-KPCA和组合SVR的滚动轴承剩余使用寿命预测[J].电子测量与仪器学报,2017,31(09):1365-1371.

KANG SH Q,YE L Q,WANG Y J,et al.Remaining useful life prediction ofrolling bearing based on MCEA-KPCA and combined SVR[J].Journal of ElectronicMeasurement and Instrumentation,2017,31(09):1365-1371.

[6]KHELIF R,CHEBEL MORELLO B,MALINOWSKI S,et al.Direct RemainingUseful Life Estimation Based on Support Vector Regression[J].IEEETransactions on Industrial Electronics,2017,64(3):2276-2285.

[7]HINTON G E,SALAKHUTDINOV R R.Reducing the dimensionality of datawith neural networks[J].Science,2006,313(5786):504-507.

[8]REN L,CUI J,SUN Y Q,et al.Multi-bearing remaining useful lifecollaborative prediction:A deep learning approach[J].Journal of ManufacturingSystems,2017,43:248-256.

[9]REN L,SUN Y Q,CUI J,et al.Bearing remaining useful life predictionbased on deep autoencoder and deep neural networks[J].Journal ofManufacturing Systems,2018,48:71-77.

[10]AMAZ MALHI,RUQIANG YAN,et al.Prognosis of defect propagationbased on recurrent neural networks[J].IEEE Transactions on Instrumentationand Measurement,2011,60(03):703-711.

[11]陈再发,刘彦呈,刘厶源.长短期记忆神经网络在机械状态预测中的应用[J].大连海事大学学报,2018,44(01):85-90.

CHEN Z F,LIU Y C,LIU S Y.Application of long-short term memory neuralnetwork in prediction of mechanical state[J].Journal of Dalian MaritimeUniversity,2018,44(01):85-90.

[12]LU C,WANG Z Y,ZHOU B.Intelligent fault diagnosis of rollingbearing using hierarchical convolutional network based health stateclassification[J].Advanced Engineering Informatics,2017,32:139-151.

[13]LI N P,LEI Y G,LIU Z Y,et al.A particle filtering-based approachfor remaining useful life predication of rolling element bearings[C].IEEEInternational Conference on Prognostics and Health Management,June 22-252014.

[14]王付广,李伟,郑近德,等.基于多频率尺度模糊熵和ELM的滚动轴承剩余寿命预测[J].噪声与振动控制,2018,38(01):188-192.

WANG F G,LI W,ZHENG J D,et al.Prediction of Remaining Life of RollingBearings based on Multi-frequency Scale Fuzzy Entropy and ELM[J].Noise andVibration Control,2018,38(01):188-192.

[15]LIAO L X,JIN W J,PAVEL R.Enhanced restricted boltzmann machinewith prognosability regularization for prognostics and health assessment[J].IEEE Transactions on Industrial Electronics,2016,63(11):7076-7083.

[16]GUO L,LI N,JIA F,et al.A recurrent neural network based healthindicator for remaining useful life prediction of bearings[J].Neurocomputing,2017,240:98-109.

[17]胡姚刚,李辉,廖兴林,等.风电轴承性能退化建模及其实时剩余寿命预测[J].中国电机工程学报,2016,36(06):1643-1649.

HU Y G,LI H,LIAO X L,et al.Performance Degradation Model andPrediction Method of Real-time Remaining Life for Wind Turbine Bearings[J].Proceedings of the CSEE,2016,36(06):1643-1649.

[18]MAO W T,HE J L,TANG J M,et al.Predicting remaining useful life ofrolling bearings based on deep feature representation and long short-termmemory neural network[J].Advances in Mechanical Engineering,2018,10(12):1-18.

[19]NECTOUX P,GOURIVEAU R,MEDJAHER K,et al.PRONOSTIA:An experimentalplatform for bearings accelerated degradation tests[C].IEEE internationalconference on prognostics and health management,Denver,2012:1-8.

Claims (2)

1.一种基于CNN和LSTM的滚动轴承剩余使用寿命预测方法，其特征在于：所述方法的实现过程：

1)选取滚动轴承振动信号不同工况下的部分数据作为训练集，并对训练集的原始振动信号作FFT变换，得到频域幅值信号；

2)将频域幅值信号进行归一化处理后作为特征输入，寿命百分比作为输出训练模型，形如

其中x_t∈R^N×1表示某一工况某一轴承在时刻t处的N维特征输入，N＝2048，y_t∈[0,1]表示该轴承在时刻t的寿命退化百分比输出；D_tra表示训练集中某一工况某一轴承的振动信号数据，R为频域幅值特征矩阵；T为轴承全寿命运行时间；

3)设定CNN的层数、滤波器数量、卷积尺寸大小，将归一化后的频域幅值信号作为CNN的输入，运用CNN中的卷积层、池化层遍历整个输入数据序列，以提取振动信号的局部信息、挖掘深层特征；

4)再将池化层输出结果输入到LSTM网络中，利用LSTM网络的LSTM记忆单元对时间序列数据具有长短期记忆的优势构建趋势性量化健康指标，建立趋势性量化健康指标模型；

5)对测试集中不同工况的非全寿时域振动信号进行FFT变换，得到频域幅值信号，并进行归一化处理，经步骤3)挖掘的深层特征，结合步骤4)的趋势性量化健康指标模型，获取测试集的趋势性量化健康指标；采用移动平均法(moving average，MA)对其进行平滑处理；

6)利用多项式曲线拟合滚动轴承性能退化趋势，预测滚动轴承的RUL；

在步骤3)的具体实现过程为：

将滚动轴承归一化后的频域幅值信号输入到卷积层中，具体卷积层运算如式(1)所示：

式中：

为第l层的第i个卷积核的第j′个权值，

为第l层中第j个被卷积的局部区域r，*代表卷积运算，W为卷积核宽度，使用修正线性单元(rectified linear unit，ReLU)激活函数对每一个卷积输出的y^l(i,j)进行非线性变换，具体表述如式(2)所示：

a^l(i,j)＝f(y^l(i,j))＝max{0,y^l(i,j)} (2)

式中：y^l(i,j)为卷积层输出值，f(·)为激活函数ReLU，a^l(i,j)为y^l(i,j)经ReLU激活函数得到的激活值；

2)池化层：采用最大值池化进行降采样操作以最小化网络参数，并获取深层特征，最大值池化的数学描述如式(3)所示：

式中：a^l(i,t)为第l层第i个特征映射的第t个神经元输出的激活值，V为池化区域宽度，p^{l (i,j)}为池化层输出值；

在步骤4)中，LSTM网络中LSTM记忆单元的构建过程为：

LSTM网络在隐藏层引入了一组记忆单元，其包括三个门控制器：输入门i、遗忘门f和输出门o，允许网络可学习何时遗忘历史信息，何时用新信息更新记忆单元；LSTM记忆单元通过三个“门”的作用控制时间序列中信息的流动捕获序列中的长期依赖信息，有效地处理序列数据；其计算更新状态的步骤：

1)临时记忆状态信息

在更新记忆单元c_t之前，会先产生临时的记忆单元

是由当前时刻t输入的深层特征x_t以及上一时刻t-1的隐藏层单元输出健康指标h_t-1共同作用，分别与各自权重矩阵线性组合，得到当前时刻候选记忆单元值，更新记忆单元状态信息，

2)计算输入门的值i_t，输入门控制当前深层特征数据输入对记忆单元状态值的影响；

i_t＝σ(W_xix_t+W_hih_t-1+b_i) (5)

3)计算遗忘门的值f_t，遗忘门控制历史信息对当前记忆单元状态值的影响；

f_t＝σ(W_xfx_t+W_hfh_t-1+b_f) (6)

4)计算当前时刻记忆单元状态值c_t，

式中：

表示逐点乘积，由式(7)可知，记忆单元状态更新取决于上一时刻的单元值c_t-1和当前候选记忆单元值

并通过遗忘门和输入门分别对这两部分进行调节；

5)计算输出门的值o_t，输出门控制记忆单元状态值的输出，

o_t＝σ(W_xox_t+W_hoh_t-1+b_o) (8)

6)LSTM单元记忆输出h_t，

h_t＝o_t tanh(c_t) (9)

式(4)-(9)中，W_xc、W_xi、W_xf、W_xo分别为在时刻t的输入层x_t和隐藏层h_t间的权重值，W_hc、W_hi、W_hf、W_ho分别是在时刻t-1与时刻t之间的隐藏层权重值，b_c、b_i、b_f、b_o分别为输入节点、输入门、遗忘门、输出门的偏置，h_t-1为网络前一时刻的输出，σ为sigmoid函数，取值为(0,1)。

2.根据权利要求1的所述的基于CNN和LSTM的滚动轴承剩余使用寿命预测方法，其特征在于：

在步骤3)中，利用CNN的卷积操作、局部链接、权值共享特性自动提取数据局部抽象信息以挖掘深层特征。

Images