CN112434390B - 基于多层网格搜索的pca-lstm轴承剩余寿命预测方法 - Google Patents

Abstract

本发明公开了一种基于多层网格搜索的PCA‑LSTM轴承剩余寿命预测方法，首先提取轴承故障时间序列数据的多个时频域特征，采用PCA融合多个特征指标量并去除特征指标的冗余数据，得到所需的影响故障主成分数据即一组新的综合指标时序数据，将此时序数据预处理后转换为设备退化程度值数据，输入构建好的LSTM模型进行故障序列预测训练，其中采用多层网格搜索算法以预测损失最小为目标实现LSTM模型参数的最优选取，从而得到最优时序数据预测模型，最后通过多项式曲线拟合计算得到轴承的剩余使用寿命。本发明解决了轴承寿命预测预测精度低、预测速度慢的问题，提高了轴承剩余寿命预测的稳定度和精确度。

Description

基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法

技术领域

本发明涉及一种轴承的剩余寿命预测方法，尤其涉及一种基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法。

背景技术

当今社会处于一个科技革命发展的时代，机械设备日益向大型化、精密化、智能化、自动化及系统化方向发展。轴承是机械设备的重要组成部分，轴承一旦故障必然影响机械设备的运行，不仅会对企业、社会造成不可估量的经济损失，更为严重的会导致灾难性的人员伤亡。轴承在使用过程中，剩余使用寿命(RUL)会逐渐下降，大大增加故障发生的潜在可能性。因此，若能准确地预测轴承的RUL将对机械设备的预测性维修决策意义重大。

现有的剩余寿命预測方法由于设备或者产品的不同也多种多样，但其主要方法目前有三种，基于失效物理的方法、基于数据驱动的方法和融合失效物理和数据驱动的方法。基于失效物理模型方法一般是结合失效物理分析，通过设备的现场状态评估产品的剩余寿命，采取相应的预警设备，以预防故障的发生。基于数据驱动的寿命预测方法是直接使用数据进行建模，具有机器学习属性的概率统计模型。在前面学者对轴承剩余寿命进行预测的具体方法有基于粒子滤波的滚动轴承寿命预测方法、基于优化支持向量机预测方法、基于BP神经网络预测方法、基于变分模态分解和极限学习机轴承寿命预测方法、基于PCA和极限学习机的预测方法、基于线性回归和经验模态的寿命预测方法、基于改进PSO-SVR的寿命预测方法、基于LSTM的轴承寿命预测方法等。以上方法都一定程度上实现了轴承寿命预测，但寿命预测精度与预测时间仍需进一步改善提高。在寿命预测方法主要包括特征指标提取和寿命寿命预测两个主要步骤，在以上方法中除了基于PCA和极限学习机的预测方法大都没有在特征参数提取步骤做过多的数据处理，这样会使实验数据存在过多冗余，无形增大了实验数据量且实验数据实效低，PCA主成分分析方法能够对指标数据进行融合，去除数据冗余，得到主成分数据作为综合指标数据相比其他方法中单一的时频域数据更能代表设备的退化特征数据，因此在特征指标提取步骤中使用PCA方法。寿命预测步骤归根结底为对时序数据进行预测，近年来由于设备对故障预测准确率要求的提高，在数据驱动方法中，基于神经网络的寿命预测方法逐渐被研究使用，渐渐成为了在寿命预测方面新的研究热点。长短时记忆网络(LSTM)作为回归神经网络(RNN)的一个重要分支，相较上述方法中的向量回归方法具有处理时间序列数据的优势，被逐渐证实能够更准确、稳定和快速的对机械设备剩余使用使用进行预测。因此在寿命预测步骤中考虑使用LSTM寿命预测方法。最后为了使得预测模型预测结果更准确，在选取LSTM的最优参数过程中，鉴于多层网格搜索是有一种简单实用、容易并行计算和耗时较短的参数优化方法，采用多层网格搜索对模型参数进行优化。

发明内容

发明目的：针对当前剩余寿命预测精度不高问题，本发明提出一种基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，实现在轴承运行任意时刻得出设备的当前准确的剩余使用寿命。

技术方案：本发明所述的一种基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，包括以下步骤：

(1)预先收集轴承从正常运行到故障损坏的完整寿命时序数据，并进行预处理，并将数据分为训练集和测试集；

(2)构建LSTM时序数据预测模型并对其进行训练：将步骤(1)获取的训练集进行Min-Max归一化处理后作为设备退化程度值时序数据输入构建的LSTM时序数据预测模型，训练LSTM输出后序的退化程度值，使用多层网格搜索算法确定能使LSTM输出损失最小的LSTM最优模型参数，更新LSTM最优参数结构，获得最优的LSTM时序数据预测模型；

(3)基于步骤(2)获取的最优LSTM时序数据预测模型，使用多项式曲线拟合预测的后序设备退化程度值，根据退化程度曲线计算出设备剩余使用寿命。

进一步地，所述步骤(1)的实现过程如下：

(11)提取监测数据的多种时频域特征指标包括均方根值、峰值、方差、均值频率等；

(12)对时频域特征指标数据进行简单数据处理包括异常值处理和数据归一化处理；

(13)采用PCA主成分分析方法，融合特征指标，去除数据冗余，得出主成分数据，作为一组新的互不相关的综合指标数据代表以上所有指标数据，将得到综合指标数据分为训练集和测试集。

进一步地，步骤(2)所述的LSTM时序数据预测模型包括输入门、输出门、遗忘门和记忆单元；设输入的设备退化值时序为(x1,x2,···，x_t)，隐藏层状态为(h1,h2,···,h_t)，则在t时刻有：

f_t＝f(W_hfh_t-1+W_xfx_t+b_f)

i_t＝f(W_hih_t-1+W_xix_t+b_i)

O_t＝f(W_hoh_t-1+W_xox_t+b_o)

h_t＝o_tΘtanh(c_t)

c_t＝f_tΘc_t-1+iΘf(W_hch_t-1+W_xcx_t+b_c)

其中，i_t、f_t、o_t分别代表input门、forget门和output门，Θ表示矩阵点乘，c_t代表cell单元的状态，x_t表示输入层的输入向量，b表示各层的偏差向量，W代表对应的连接权重，f(*)表示激活函数，有sigmoid和tanh两种激活函数；

t时刻input门、forget门、output门的输入向量以及输出向量：

其中，l、φ、ω分别表示input门、forget门、output门，α^t、β^t、γ^t分别为input门、forget门、output门的输出向量，表示神经元c在t时刻状态的记忆，f(*)表示激活函数。

进一步地，步骤(2)所述的损失最小的LSTM最优模型参数包括timestep值L、正则化Dropout层的dropout参数值及神经元个数N；所述timestep值L为时序数据输入的时间步长值，由时序数据长度n确定，当时序退化程度值为(x₁,x₂,···，x_n)时，LSTM模型输入为(x₁,x₂,···，x_L)，(x₂,x₃,···，x_L+1)，···，(x_m-L+1,x_m-L+2,···,x_m)，其中m为划分训练集测试集的数据点。

进一步地，所述步骤(3)实现过程如下：

使用多项式曲线拟合预测的后序设备退化程度值，根据退化程度曲线计算出设备剩余使用寿命，使用3次多项式曲线拟合预测后的退化程度值：

y＝at³+bt²+ct+d

其中，y为预测退化程度值，t为设备运行当前时刻，a、b、c、d为模型参数；计算t时刻的剩余使用寿命t_r：

t_r＝t'-t(t'＞t)

其中，t'为退化程度值为预测退化程度值y＝1时的时刻。

有益效果：与现有技术相比，本发明的有益效果：1、使用PCA主成分分析方法对数据处理后的时频域特征指标数据进行融合，去除数据冗余，得到主成分数据，作为一组新的互不相关的综合指标数据代表以上所有指标数据，这样综合指标数据相比其他方法中单一的时频域数据更能代表设备的退化特征；2、长短时记忆网络(LSTM)作为回归神经网络(RNN)的一个重要分支，在时间序列数据的预测方面本身就很有优势，能够更准确、快速、稳定的得出预测结果；3、多层网格搜索是有一种简单实用、容易并行计算和耗时较短的参数优化方法，采用多层网格搜索对LSTM模型参数进行优化，使得预测模型更快速、准确的得到预测结果，从而计算出的设备剩余使用寿命结果更准确。

附图说明

图1为本发明的流程图。

具体实施方式

以下将结合附图，对本发明的技术方案进行详细说明。

本发明所述的一种基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，首先提取故障时间序列数据的多个时频域特征，采用PCA融合多个特征指标量并去除特征指标的冗余数据,得到所需的影响故障主成分数据；然后将主成分输入构建好的LSTM模型进行故障序列预测训练，其中采用多层网格搜索算法以预测误差最小为目标得到LSTM模型参数的最优选取，从而得到最优预测模型预测得到剩余寿命。如图1所示，具体包括以下步骤：

步骤1：数据样本收集及处理：预先收集机械设备从正常运行到故障损坏的完整寿命时序数据，提取监测数据的多种时频域特征指标包括均方根值、峰值、方差、均值频率等；对时频域特征指标数据进行简单数据处理包括异常值处理和数据归一化处理；采用PCA主成分分析方法，融合特征指标，去除数据冗余，得出主成分数据，作为一组新的互不相关的综合指标数据代表以上所有指标数据，将得到综合指标数据分为训练集和测试集。

其中利用PCA主成分分析方法对数据处理后的时频域特征指标数据进行融合，其中时频域数据包括均方根值、平均值、峰值、绝对值的平均值、方差、标准差、峭度、波形因子、峰值因子、脉冲因子、均值频率和频率中心12个指标，去除数据冗余，得出主成分数据，作为一组新的互不相关的综合指标数据代表以上所有指标数据，这样综合指标数据最能代表设备的退化特征。

主成分分析数据处理具体步骤如下：

1)数据处理后的时频域指标数据集S＝{s1,s2,s3,s4,s5,s6,s7,s8,s9,s10,s11,s12}，需要降为k维；

2)去平均值，即每一位特征减去各自的平均值；

3)计算协方差矩阵；

4)计算协方差矩阵的特征值与特征向量；

5)对特征值从大到小排序，选择其中最大的k个。然后将其对应的k个特征向量分别作为列向量组成特征向量矩；

6)将数据转换到k个特征向量构建的新空间中；

7)将12个指标量方差贡献率由大到小排列，累计贡献率超过85％的前k个主成分数据作为新的综合指标数据。

步骤2：LSTM时序数据预测模型建立及训练：将步骤1中训练集数据进行Min-Max归一化处理后当做设备退化程度值时序数据输入构建的LSTM时序数据预测模型，训练LSTM输出后序的退化程度值，并使用多层网格搜索算法确定能使LSTM输出损失最小的LSTM最优模型参数，更新LSTM最优参数结构，获得最优的LSTM时序数据预测模型。

步骤2.1：基于LSTM的时序数据预测模型结构，将时序退化程度值输入LSTM模型进行训练，其中LSTM模型包括三个门和一个记忆单元，分别是输入门、输出门、遗忘门和CELL。设输入的设备退化值时序为(x1,x2,···，x_t)，隐藏层状态为(h1,h2,···,h_t)，则在t时刻有：

f_t＝f(W_hfh_t-1+W_xfx_t+b_f)

i_t＝f(W_hih_t-1+W_xix_t+b_i)

O_t＝f(W_hoh_t-1+W_xox_t+b_o)

h_t＝o_tΘtanh(c_t)

c_t＝f_tΘc_t-1+iΘf(W_hch_t-1+W_xcx_t+b_c)

式中：i_t、f_t、o_t分别代表input门、forget门和output门，Θ表示矩阵点乘，c_t代表cell单元的状态，x_t表示输入层的输入向量，b表示各层的偏差向量，W代表对应的连接权重，f(*)表示激活函数，有sigmoid和tanh两种激活函数。

进一步推广得到t时刻input门、forget门、output门的输入向量以及输出量：

式中：l、φ、ω分别表示input门、forget门、output门，α^t、β^t、γ^t分别为input门、forget门、output门的输出向量，表示神经元c在t时刻状态的记忆，f(*)表示激活函数。

步骤2.2：使用多层网格搜索算法确定能使LSTM输出损失最小的LSTM最优模型参数，更新LSTM最优参数结构，获得最优的LSTM时序数据预测模型。其中需要确定进行多层网格搜索优化LSTM的3个参数包括timestep值L，正则化Dropout层的dropout参数值以及神经元个数N。其中timestep值L为时序数据输入的时间步长值，由时序数据长度n确定，当时序退化程度值为(x₁,x₂,···，x_n)时，LSTM模型输入为(x₁,x₂,···，x_L)，(x₂,x₃,···，x_L+1)，···，(x_m-L+1,x_m-L+2,···,x_m)，其中m为划分训练集测试集的数据点。

步骤2.3：采用3层循环遍历步骤2.2所述的3种参数的所有组合情况并分别代入LSTM时序数据预测模型。

步骤2.4：累计所有参数组合情况下模型输出损失，输出最小损失时对应的3个参数组合，即为网格搜索到的最优参数。其中损失使用均方误差函数表示：

RMSE值越小，说明预测模型训练损失越低，模型预测精度越高，x_t和y_t分别为t时刻时序退化程度值数据的实际值和模型预测输出值。

步骤2.5：使用网格搜索后的最优参数组合更新LSTM时序数据预测模型。

步骤3：寿命预测应用：由S1和S2得到最优LSTM时序数据预测模型，使用多项式曲线拟合预测的后序设备退化程度值，根据退化程度曲线计算出设备剩余使用寿命。

其中使用3次多项式曲线拟合预测后的退化程度值，公式如下：

y＝at³+bt²+ct+d

式中，y为预测退化程度值，t为设备运行当前时刻，a、b、c、d为拟合后的多项式参数。计算t时刻的剩余使用寿命t_r，见式：

t_r＝t'-t(t'＞t)

其中，t'为退化程度值为预测退化程度值y＝1时的时刻。t_r即为预测的实行运行的轴承t时刻剩余使用寿命。

本发明解决了现有轴承剩余寿命预测算法中存在的不足，提供了结合多层网格搜索算法、PCA算法、LSTM算法的轴承剩余寿命方法，实现了在机械轴承的任何运行时刻可以得到轴承的剩余使用寿命，能够对轴承故障进行提前预测进而做出相应的机械故障准备。

本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (4)

1.一种基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，其特征在于，包括以下步骤：

(1)预先收集轴承从正常运行到故障损坏的完整寿命时序数据，并进行预处理，并将数据分为训练集和测试集；

(2)构建LSTM时序数据预测模型并对其进行训练：将步骤(1)获取的训练集进行Min-Max归一化处理后作为设备退化程度值时序数据输入构建的LSTM时序数据预测模型，训练LSTM输出后序的退化程度值，使用多层网格搜索算法确定能使LSTM输出损失最小的LSTM最优模型参数，更新LSTM最优参数结构，获得最优的LSTM时序数据预测模型；

(3)基于步骤(2)获取的最优LSTM时序数据预测模型，使用多项式曲线拟合预测的后序设备退化程度值，根据退化程度曲线计算出设备剩余使用寿命；

所述步骤(1)的实现过程如下：

(11)提取监测数据的多种时频域特征指标包括均方根值、峰值、方差、均值频率；

(12)对时频域特征指标数据进行简单数据处理包括异常值处理和数据归一化处理；

(13)采用PCA主成分分析方法，融合特征指标，去除数据冗余，得出主成分数据，作为一组新的互不相关的综合指标数据代表以上所有指标数据，将得到综合指标数据分为训练集和测试集。

2.根据权利要求1所述的基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，其特征在于，步骤(2)所述的LSTM时序数据预测模型包括输入门、输出门、遗忘门和记忆单元；设输入的设备退化值时序为(x1,x2,…，x_t)，隐藏层状态为(h1,h2,…,h_t)，则在t时刻有：

f_t＝f(W_hfh_t-1+W_xfx_t+b_f)

i_t＝f(W_hih_t-1+W_xix_t+b_i)

O_t＝f(W_hoh_t-1+W_xox_t+b_o)

h_t＝o_tΘtanh(c_t)

c_t＝f_tΘc_t-1+iΘf(W_hch_t-1+W_xcx_t+b_c)

其中，i_t、f_t、o_t分别代表input门、forget门和output门，Θ表示矩阵点乘，c_t代表cell单元的状态，x_t表示输入层的输入向量，b表示各层的偏差向量，W代表对应的连接权重，f(*)表示激活函数，有sigmoid和tanh两种激活函数；

t时刻input门、forget门、output门的输入向量以及输出向量：

其中，l、φ、ω分别表示input门、forget门、output门，α^t、β^t、γ^t分别为input门、forget门、output门的输出向量，表示神经元c在t时刻状态的记忆，f(*)表示激活函数。

3.根据权利要求1所述的基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，其特征在于，步骤(2)所述的损失最小的LSTM最优模型参数包括timestep值L、正则化Dropout层的dropout参数值及神经元个数N；所述timestep值L为时序数据输入的时间步长值，由时序数据长度n确定，当时序退化程度值为(x₁,x₂,…，x_n)时，LSTM模型输入为(x₁,x₂,…，x_L)，(x₂,x₃,…，x_L+1)，…，(x_m-L+1,x_m-L+2,…,x_m)，其中m为划分训练集测试集的数据点。

4.根据权利要求1所述的基于多层网格搜索的PCA-LSTM轴承剩余寿命预测方法，其特征在于，所述步骤(3)实现过程如下：

使用多项式曲线拟合预测的后序设备退化程度值，根据退化程度曲线计算出设备剩余使用寿命，使用3次多项式曲线拟合预测后的退化程度值：

y＝at³+bt²+ct+d

其中，y为预测退化程度值，t为设备运行当前时刻，a、b、c、d为模型参数；计算t时刻的剩余使用寿命t_r：

t_r＝t'-t(t'>t)

其中，t'为退化程度值为预测退化程度值y＝1时的时刻。