CN112580263A - 基于时空特征融合的涡扇发动机剩余使用寿命预测方法 - Google Patents

Abstract

一种基于时空特征融合的发动机剩余使用寿命预测方法，首先获取到原始的随时间变化的传感器数据，通过数据选择及归一化处理后得到特征数据，将特征数据分别输入到一维全卷积层神经网络和LSTM神经网络中，利用一维全卷积层神经网络实现数据集空间特征信息的提取，利用LSTM神经网络实现数据集时间序列特征信息的提取，得到该两类特征后，采用时空特征融合算法，对其进行特征融合，再将融合特征输入到最大池化的一维卷积神经网络进行特征二次提取，实现涡扇发动机的剩余使用寿命预测。本发明采用时空特征融合的多神经网络组合模型进行剩余使用寿命预测，提高了预测精度。

Description

基于时空特征融合的涡扇发动机剩余使用寿命预测方法

技术领域

本发明属于大型机械设备的剩余使用寿命预测技术领域，具体涉及基于时空特征融合的涡扇发动机剩余使用寿命预测方法。

背景技术

伴随着工业4.0时代的到来，得益于机器学习、深度学习取得的快速发展，越来越多的大型机械设备系统得到推广和使用。机械设备的剩余使用寿命预测与健康管理作为保障设备安全性和可靠性的一项关键技术，已经成为新一代产业革命的助推器，通过获取机械设备运行过程中的衰退状态等信息来预测设备的剩余寿命是当前研究的主要热点。但实际生产生活中针对发动机这类机械设备，传感器采集的是多故障模式，多操作条件及抽象特征的状况数据，数据量大且复杂。而且，发动机在运行过程产生的数据具有非线性、模型参数时变、维度高等特点，采用传统模型进行训练和测试，模型的泛化能力和预测能力普遍不高。如何在大数据环境中，既能获得较为完整的数据集，又能通过数据集训练出高精度的预测模型，实现发动机的精确剩余使用寿命预测具有重大的现实意义。

针对准确预测剩余使用寿命的问题，目前主要的解决方法主要有实验型、数据驱动型、基于混合模型三种类型。实验型依靠先验知识以及历史数据，由于各类设备型号相异，操作条件以及环境具有不确定性，导致预测准确度误差大。数据驱动型则不依赖设备的失效机理，但该方法需要监测并收集有效的性能退化数据，过程较为复杂，预测效果依然不理想。基于模型混合的方法是当前剩余使用寿命预测的主流方法，也是未来研究的新趋势。这种方法充分利用各个模型的优势，取长补短，在特定领域能有效提高特征提取率，提升模型的预测精度和泛化能力。但是，如何设计由不同模型构成的组合结构，合理利用各模型的功能对数据进行预处理和训练，平衡模型之间的内在关系，使模型的功能最优化，降低时间复杂度是该方法面临的挑战。

发明内容

为了克服现有技术存在的缺点，本发明提供了一种基于时空特征融合的发动机剩余使用寿命预测方法。将数据集样本分别输入一维全卷积层神经网络(One DimensionalFull Convolutional Layer Neural Network，1D-FCLNN)和长短时记忆网络(Long Short-Term Memory，LSTM)中，分别获得卷积路径中的空间特征和LSTM路径中的时序特征。然后对这两个特征进行特征融合，形成一个新特征，将新特征再输入最大池化的一维卷积层神经网络中(Max Pooling One Dimensional Convolutional Neural Networks)进行训练，经过卷积神经网络的逐层自适应提取特征，实现发动机设备的剩余使用寿命预测。

为了达到上述目的，本发明采取的技术方案为：

一种基于时空特征融合的涡扇发动机剩余使用寿命预测方法，包括以下步骤：

1)对于获取的不同的发动机随时间产生的传感器数据进行数据选择形成原始数据集

每个数据样本都包含第i个环境中的发动机的编号、从开始到现在的运行时间、操作设置以及传感器的信息；其中，i表示第i个环境，随后对该原始数据集进行数据的归一化处理，将数据大小限定在[0,1]之间，计算式如(1)所示；

式中：

为归一化处理之后的第n个特征m数据点的值，X_m,n为处理前的原始数据，

分别是对应特征的最大值和最小值；

经过数据归一化处理后得到两类输入数据：多元时间序列矩阵(ssw×nf)，矩阵(ssw×nf)的每一列，其中ssw表示滑动窗口和nf表示选择的特征个数；

2)将步骤1)中得到的两类输入数据分别输入到一维全卷积层和LSTM网络中进行训练，其中一维卷积层路径上数据输入是多元时间序列矩阵(ssw×nf)，采用了三个一维卷积层提取特征数据和三个最大池化层解析数据得到生成数据Z＝(z¹,z²,…,z^k)，其中三个卷积层使用的是128，64和32个卷积核；卷积层的激活函数

均为ReLU函数见式(2)：

f(x)＝max(0,x) (2)同时在每一个池化层之后都进行规范化操作BN能够加速收敛、控制过拟合；矩阵(ssw×nf)的每一列作为每个时间步的LSTM输入，三个LSTM分别由128、64、32个单元结构定义，将各个隐层的结果作为下一层的输入，LSTM输出的数据为Y＝(y¹,y²,…,y^j)；

3)创建一维全卷积层并初始化其权重参数θ_c，创建LSTM网络模型并初始化其权重参数θ_l，然后训练两个网络模型，两个模型损失函数如式(3)和式(4)所示，采用梯度下降法最小化损失函数V_c,V_l，为获得更准确的数据样本，参数更新方式选用式(5)和式(6)，m表示批处理的大小，η表示学习率；

4)将步骤2)输出的空间特征数据Z和时间特征数据Y进行时空融合，其中卷积层路径能够获得局部、短时空间特征以及多维时空特征图，LSTM路径得获得随着时间变化的数据序列；得到的融合特征数据F(Z,Y)既保持了特征的完整性又提高模型的网络性能；表达式如式(7-9)：

Z＝{Z_i|i＝1,2,3,…,channel} (7)

Y＝{Y_i|i＝1,2,3,…,channel} (8)

式中，两个输入通道分别是Z和，单个输出通道为F_single，*表示卷积，K为卷积核；

5)构建一维卷积神经网络模型并将步骤4)的融合数据F(Z,Y)输入到网络中训练，卷积层输出矩阵的每一列包含一个滤波器权值，池化层减少输出复杂度，然后利用Flatten操作将多维的输入一维化，一维卷积神经网络中有三个全连接层，隐藏层分别为128和32个神经元；模型训练过程中的损失函数如式(10)所示，X_n数据样本个数，Y_i指的是第i个发动机的RUL预测值与RUL实际值的差值；

6)测试阶段，从传感器获取到随时间变化的数据，通过步骤1)获得处理的数据及特征个数，将步骤2)的两类输出数据Z和Y进行采用步骤4)进行融合，最后将融合数据F(Z,Y)输入到一维卷积神经网络中进行寿命预测。

本发明提出了新的基于1D-FCLNN和LSTM并行提取数据集的方法，利用1D-FCLNN来提取数据集中的有效空间特征，利用LSTM提取时序特征的优势来获取发动机的退化信息，再将两条路径的输出进行特征融合，实现各类特征的充分提取。另外，本发明将最大池化的一维卷积层神经网络应用于融合特征的训练，增强了模型的泛化能力，提高了模型精度，在多工况、多故障模式下均有良好的预测效果。

附图说明

图1为本发明的流程图；

图2为模型结构示意图；

图3为一维全卷积层结构图；

图4为模型的训练流程图；

图5(a)(b)(c)分别为模型FD001数据集参数与RMSE(均方根误差)值的关系图；

图6(a)(b)(c)分别为模型FD002数据集参数与RMSE(均方根误差)值的关系图；

图7为FD001数据集在FCLNN-LSTM的训练结果图；

图8为FD003数据集在FCLNN-LSTM的训练结果图；

图9为FD001数据集在FCLNN-LSTM的预测结果图；

图10为FD003数据集在FCLNN-LSTM的预测结果图。

具体实施方式

参照图1，一种基于时空特征融合的发动机剩余使用寿命预测方法，包括以下步骤：

1)对于获取的不同的发动机随时间产生的传感器数据进行数据选择形成原始数据集

每个数据样本都包含第i个环境中的发动机的编号、从开始到现在的运行时间、操作设置以及传感器的信息；其中，i表示第i个环境，随后对该原始数据集进行数据的归一化处理，将数据大小限定在[0,1]之间，计算式如(1)所示；

式中：

为归一化处理之后的第n个特征m数据点的值，X_m,n为处理前的原始数据，

分别是对应特征的最大值和最小值。

经过数据预处理后得到两类输入数据：多元时间序列矩阵(ssw×nf)，矩阵(ssw×nf)的每一列，其中ssw表示滑动窗口和nf表示选择的特征个数；

2)将步骤1)中得到的两类输入数据分别输入到一维全卷积层和LSTM网络中进行训练，图2为模型结构示意图，图3为一维全卷积层结构图，一维全卷积层网络与传统卷积网络相比，其大大减少了网络中的权值参数，提高了神经网络计算效率并降低了存储开销；其中一维卷积层这条路径上数据输入是多元时间序列矩阵(ssw×nf)，采用了三个一维卷积层提取特征数据和三个最大池化层解析数据得到生成数据Z＝(z¹,z²,…,z^k)，其中三个卷积层使用的是128，64和32个卷积核；卷积层的计算公式依次如下式(2)(3)：

式中，d为计算过程中的偏置，而Aⁿ、Aⁿ⁺¹表示n+1层的输入、输出，N_n+1为A的尺寸大小，M为卷积的通道数，t为步长，p和为padding和卷积核的大小；

卷积层的激活函数均为ReLU函数见式(4)：

f(x)＝max(0,x) (4)

同时在每一个池化层之后都进行规范化操作BN能够加速收敛、控制过拟合；池化层的计算式如下式(5)：

其中t是步长，像素(,j)与卷积层相同,s是一个指定的参数，当s＝1时，表达式为平均池化，当s→∞时，表达式为极大池化，其余变量含义同卷积层；

矩阵(ssw×nf)的每一列作为每个时间步的LSTM输入，三个LSTM分别由128、64、32个单元结构定义，需要将各个隐层的结果作为下一层的输入，LSTM“三门”结构的计算公式依次为：

(1)遗忘门部分：

f_t＝σ(W_f·[a_t-1,x_t]+d_f) (6)

其中f_t是为遗忘门，表示C_t-1的哪些特征用于C_t的计算，f_t中的元素取值范围在[0,1]之间，而激活函数一般为sigmoid，W_f是遗忘门的权重矩阵，d_f是偏置，

是门机制，表示位乘的关系运算；

(2)输入门以及记忆单元更新部分：

u_t＝σ(W_u·[a_t-1,x_t]+d_u) (7)

其中C_t是当前输入的单元状态，

表示单元状态更新值，由输入数据x_t和a_t-1经过神经网络层得到，单元状态更新值的激活函数是tanh函数，u_t是输入门，元素取值区间是在[0,1]之间的向量，同样是由sigmoid函数计算而得；

(3)输出门部分：

o_t＝σ(W_o·[a_t-1,x_t]+d_o) (10)

a_t由输出门o_t和单元状态C_t得出，将d_o的均值初始化为1，可以得到近似GRU的效果，最后LSTM输出的数据为Y＝(y¹,y²,…,y^j)。；

3)创建一维全卷积层并初始化其权重参数θ_c，创建LSTM网络模型并初始化其权重参数θ_l，然后训练两个网络模型，两个模型损失函数如式(12,13)所示，采用梯度下降法最小化损失函数V_c,V_l，为获得更准确的数据样本，参数更新方式选用式(14)和式(15)，m表示批处理的大小，η表示学习率；

4)将步骤2)输出的空间特征数据Z和时间特征数据Y进行时空融合，其中卷积层路径能够获得局部，短时空间特征以及多维时空特征图，LSTM路径得获得随着时间变化的数据序列，得到的融合特征数据F(Z,Y)既保持了特征的完整性又提高模型的网络性能；表达式如式(16-18)：

Z＝{Z_i|i＝1,2,3,…,channel} (16)

Y＝{Y_i|i＝1,2,3,…,channel} (17)

式中，两个输入通道分别是Z和，单个输出通道为F_single，*表示卷积，K为卷积核；

5)构建一维卷积神经网络模型并将步骤4)的融合数据F(Z,Y)输入到网络中训练,路径由一个卷积层、一个池化层、一个Flatten层、三个全连接层组成，其中卷积层使用的是256个卷积核，池化层同一维全卷积层网络池化层参数设置一致，然后经过Flatten扁平化操作(多维的输入一维化，常用在从卷积层到全连接层的过渡)，第一、第二个全连接层的神经元数量分别是128、32个,第三个全连接层有1个神经元是Output输出估计RUL，其中全连接层激活函数都是ReLU函数,卷积层输出矩阵的每一列包含一个滤波器权值，池化层减少输出复杂度，全连接层的计算式如式(19)：

Y＝σ(WX+b) (19)

其中Y是全连接层的输出，X是输入，W是权重矩阵，b是全连接层的偏置,σ()是全连接层激活函数，常见的有多分类softmax函数和二分类sigmoid函数；

模型训练过程中的损失函数如式(20)(21)所示，X_n数据样本个数，Y_i指的是第i个发动机的RUL预测值与RUL实际值的差值,

6)测试阶段，为进一步证明本发明方法的有效性，采用NASA C-MAPSS涡扇发动机退化数据集，结合本发明方法开展寿命预测；发动机的数量在每个子集中各不相同，每台发动机有着不同程度的初始磨损，但这种磨损被认为是正常的；有三种操作设置对发动机性能有较大的影响，发动机在每个时间序列开始时工作正常，在时间序列结束后出现故障；在训练集中，故障不断增大，直到系统失效。在测试集中，时间序列在系统故障前的某个时间结束；在每个时间序列中，21个传感器参数和其它3个参数显示了涡扇发动机的运行状态；如表1展示数据集以压缩文本文件的形式提供，每一行都是在单个操作周期中获取的数据的快照，每列都是不同的变量；如表2展示传感器数据描述。具体数据集描述如表3所示，数据集中的训练集是包括了发动机整个生命周期的数据，而测试集的数据轨迹在失效前的某一个时刻终止；FD001和FD003在同一(海平面)条件下进行仿真，但FD001仅在HPC退化的情况下进行实验，FD003是在HPC和风扇退化两种故障模式下进行仿真。传感器数和运行参数种类对于四个数据子集(FD001-FD004)来说是一致的；

为了验证FCLNN-LSTM模型的可行性和有效性以及更加全面的衡量模型的预测表现，本发明方法选取了最近多种先进的设备剩余寿命预测方法，在相同的数据集下对各种方法的误差进行比较，评价指标为RMSE和评分函数score；FD001数据集比较结果见表4，FD003数据集比较结果见表5：由结果可知，本发明方法的模型在FD001数据集和FD003数据集上的评分值score和RMSE均是最低值；在FD001上FCLNN-LSTM模型比RF，DCNN，D-LSTM等传统方法的RMSE降低11.4％-36.6％，FD003上FCLNN-LSTM模型比GB，SVM，LSTMBS等传统方法RMSE降低37.5％-78％；相比当下流行多模型结构Autoencoder-BLSTM，VAE-D2GAN，HDNN等方法，FD001上的RMSE降低4％-18％，而FD003上的RMSE比HDNN，DCNN,Rulclipper等方法降低了18％-37.5％；FD001中FCLNN-LSTM模型的score比之前模型中最优的LSTMBS降低5％；FD003中FCLNN-LSTM模型的score比之前模型中最优的DNN降低17.6％；说明通过多个混合网络路径来并行处理特征数据以及融合后数据再处理的可行性，同时也证明了本发明FCLNN-LSTM预测模型有很强的预测能力和表征能力。

表1数据集文件列内容

表2涡扇发动机传感器数据描述：

表3 FD001和FD003数据集详述

表4：多种模型在FD001数据集上的比较

表5：多种模型在FD003数据集上的比较

Claims (1)

1.一种基于时空特征融合的涡扇发动机剩余使用寿命预测方法，其特征在于，包括以下步骤：

1)对于获取的不同的发动机随时间产生的传感器数据进行数据选择形成原始数据集

每个数据样本都包含第i个环境中的发动机的编号、从开始到现在的运行时间、操作设置以及传感器的信息；其中，i表示第i个环境，随后对该原始数据集进行数据的归一化处理，将数据大小限定在[0，1]之间，计算式如(1)所示；

式中：

为归一化处理之后的第n个特征m数据点的值，X_m，n为处理前的原始数据，

分别是对应特征的最大值和最小值；

经过数据处理后得到两类输入数据：多元时间序列矩阵(ssw×nf)，矩阵(ssw×nf)的每一列，其中ssw表示滑动窗口和nf表示选择的特征个数；

2)将步骤1)中得到的两类输入数据分别输入到一维全卷积层和LSTM网络中进行训练，其中一维卷积层路径上数据输入是多元时间序列矩阵(ssw×nf)，采用了三个一维卷积层提取特征数据和三个最大池化层解析数据得到生成数据Z＝(z¹，z²，…，z^k)，其中三个卷积层使用的是128，64和32个卷积核；卷积层的激活函数均为ReLU函数见式(2)：

f(x)＝max(0，x) (2)同时在每一个池化层之后都进行规范化操作BN能够加速收敛、控制过拟合；矩阵(ssw×nf)的每一列作为每个时间步的LSTM输入，三个LSTM分别由128、64、32个单元结构定义，需要将各个隐层的结果作为下一层的输入，LSTM输出的数据为Y＝(y¹，y²，…，y^j)；

3)创建一维全卷积层并初始化其权重参数θ_c，创建LSTM网络模型并初始化其权重参数θ_l，然后训练两个网络模型，两个模型损失函数如式(3)和式(4)所示，采用梯度下降法最小化损失函数V_c，V_l，为获得更准确的数据样本，参数更新方式选用式(5)和(6)，m表示批处理的大小，η表示学习率；

4)将步骤2)输出的空间特征数据Z和时间特征数据Y进行时空融合，其中卷积层路径能够获得局部、短时空间特征以及多维时空特征图，LSTM路径得获得随着时间变化的数据序列；得到的融合特征数据F(Z，Y)既保持了特征的完整性又提高模型的网络性能；表达式如式(7-9)：

Z＝{Z_i|i＝1，2，3，…，channel} (7)

Y＝{Y_i|i＝1，2，3，…，channel} (8)

式中，两个输入通道分别是Z和Y，单个输出通道为F_single，*表示卷积，K为卷积核；

5)构建一维卷积神经网络模型并将步骤4)的融合数据F(Z，Y)输入到网络中训练，卷积层输出矩阵的每一列包含一个滤波器权值，池化层减少输出复杂度，然后利用Flatten操作将多维的输入一维化，一维卷积神经网络中有三个全连接层，隐藏层分别为128和32个神经元；模型训练过程中的损失函数如式(10)所示，X_n数据样本个数，Y_i指的是第i个发动机的RUL预测值与RUL实际值的差值；

6)测试阶段，从传感器获取到随时间变化的数据，通过步骤1)获得处理的数据及特征个数，将步骤2)的两类输出数据Z和Y进行采用步骤4)进行融合，最后将融合数据F(Z，Y)输入到一维卷积神经网络中进行寿命预测。

Images