CN113158348B - 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 - Google Patents
基于深度学习耦合建模的飞机发动机剩余寿命预测方法 Download PDFInfo
- Publication number
- CN113158348B CN113158348B CN202110556279.1A CN202110556279A CN113158348B CN 113158348 B CN113158348 B CN 113158348B CN 202110556279 A CN202110556279 A CN 202110556279A CN 113158348 B CN113158348 B CN 113158348B
- Authority
- CN
- China
- Prior art keywords
- aircraft engine
- model
- failure
- engine
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000008878 coupling Effects 0.000 title claims abstract description 30
- 238000010168 coupling process Methods 0.000 title claims abstract description 30
- 238000005859 coupling reaction Methods 0.000 title claims abstract description 30
- 238000013135 deep learning Methods 0.000 title claims abstract description 29
- 230000008569 process Effects 0.000 claims abstract description 51
- 230000004927 fusion Effects 0.000 claims abstract description 36
- 230000036541 health Effects 0.000 claims abstract description 26
- 230000006870 function Effects 0.000 claims description 44
- 239000011159 matrix material Substances 0.000 claims description 23
- 230000000694 effects Effects 0.000 claims description 16
- 238000003062 neural network model Methods 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 9
- 230000007787 long-term memory Effects 0.000 claims description 8
- 230000006403 short-term memory Effects 0.000 claims description 8
- 230000015654 memory Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000002790 cross-validation Methods 0.000 claims description 4
- 238000012886 linear function Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000000342 Monte Carlo simulation Methods 0.000 description 1
- 230000008033 biological extinction Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/15—Vehicle, aircraft or watercraft design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/08—Probabilistic or stochastic CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Geometry (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Pure & Applied Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Feedback Control In General (AREA)
Abstract
本发明涉及一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，包括：获取飞机发动机的多元传感器失效信号，载入深度学习耦合模型中，获取飞机发动机随时间演变的潜在失效状态分布，得到剩余使用寿命的分布结果，实现飞机发动机的剩余寿命预测；深度学习耦合模型包括失效过程模型和融合模型，失效过程模型用于描述飞机发动机随时间演变的潜在失效状态，融合模型用于结合多元传感器失效信号，构建发动机的健康指数HI。与现有技术相比，本发明充分考虑飞机发动机失效过程状态，利用飞机发动机运行中采集到的反映其健康状态的多元传感器信号数据，实现对飞机发动机失效过程的建模和剩余寿命的预测。
Description
技术领域
本发明涉及飞机发动机剩余寿命预测技术领域，尤其是涉及基于深度学习耦合建模的飞机发动机剩余寿命预测方法。
背景技术
飞机发动机在飞机的运行过程中起到至关重要的作用，如果发动机突然失效，会带来航班延迟、顾客满意度降低、安全隐患等一系列不可预知的问题，将造成严重的经济损失，甚至灾难性的后果。飞机发动机剩余寿命预测技术通过使用来自传感器数据和工程领域知识的信息预测飞机发动机的剩余使用寿命(Remaining Useful Lifetime，RUL)，被广泛应用于诊断和预测飞机发动机的运行状况，对飞机发动机系统的维护起着关键作用。
近年来，机器学习方法在解决飞机发动机剩余寿命预测问题上显示出巨大的潜力。机器学习方法大致可分为两种类型。第一种类型以飞机发动机的多元传感器信号数据作为模型输入，并直接输出RUL作为预测结果，例如逻辑回归、支持向量回归、随机森林、K近邻和循环神经网络(Recurrent Neural Network，RNN)。这种类型的方法是纯数据驱动的，其机理就像一个没有考虑单元潜在退化机制的黑匣子。第二种类型采取两步建模的方法，包括基于飞机发动机多种传感器信号融合的健康指数(Health Index,HI)建模和潜在失效过程建模，其中第一步是基于深度学习方法(例如，深度神经网络(Deep Neural Network，DNN)或长短期记忆网络(Long Short-Term Memory，LSTM))的HI建模，在第二步中根据构建的HI对飞机发动机的潜在失效过程建模。但是，此类方法缺少两个步骤之间的内在连接，无法保证HI与失效过程模型的契合性。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，充分考虑飞机发动机失效过程状态，利用飞机发动机运行中采集到的反映其健康状态的多元传感器信号数据，实现对飞机发动机失效过程的建模和剩余寿命的预测。
本发明的目的可以通过以下技术方案来实现：
一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，包括：获取飞机发动机的多元传感器失效信号，载入预先建立并训练好的深度学习耦合模型中，获取飞机发动机随时间演变的潜在失效状态分布，得到飞机发动机剩余使用寿命的分布结果，实现飞机发动机的剩余寿命预测；
所述深度学习耦合模型包括相互连接的失效过程模型和融合模型，所述失效过程模型用于描述飞机发动机随时间演变的潜在失效状态，所述融合模型用于结合多元传感器失效信号，构建发动机的健康指数HI，所述发动机的健康指数HI定义为发动机的潜在失效状态加上相应的白噪声项。
进一步地，失效过程模型中，所述飞机发动机随时间演变的潜在失效状态gl，t的计算表达式为：
gl，t＝η(ψ(t；β)；Γl)
式中，η(·)是失效模型的函数形式，β是描述所有发动机失效状态共同特征的固定效应参数，ψ是关于时间t和共同特征参数β的基函数，Γl是发动机l的随机效应参数。
进一步地，所述失效过程模型采用的η(·)函数为长短期记忆网络模型，该长短期记忆网络模型的输入是时间t、输出是潜在失效状态gl，t；所述长短期记忆网络模型包括输入层t、隐藏层ψ(t)和输出层gl，t，所述隐藏层从遗忘门f(t)、输入门i(t)、候选单元状态a(t)、单元状态c(t)和输出门o(t)获得。
进一步地，所述长短期记忆网络模型在时间t的表达式为：
f(t)＝σ(ψ(t-1)Wf+tUf+bf)
i(t)＝σ(ψ(t-1)Wi+tUi+bi)
a(t)＝φ(ψ(t-1)Wa+tUa+ba)
c(t)＝f(t)⊙c(t-1)+i(t)⊙a(t)
o(t)＝σ(ψ(t-1)Wo+tUo+bo)
ψ(t)＝o(t)⊙φ(c(t))
gl，t＝ψ(t)Γl
式中，σ为sigmoid激活函数，φ为tanh激活函数，⊙表示哈达玛积，W.(即Wf，Wi，Wa和Wo)是连接隐藏层在时间t-1状态和时间t状态的权重矩阵，U.和b.分别是输入层的权重矩阵和偏差矩阵，定义长短期记忆网络模型的固定效应参数集为β＝{W.，U.，b.}，Γl是发动机l在输出层的权重矩阵，是LSTM模型的随机效应参数。
进一步地，所述长短期记忆网络模型的损失函数为：
yl，t＝gl，t+εl，t
式中，共有L个飞机发动机的历史数据，nl是飞机发动机l的历史数据总数，表示飞机发动机l发生故障的时刻，n表示所有飞机发动机的历史数据总数，即/>yl，t为第l个发动机在时间t下的健康指数HI，εl，t为第l个发动机在时间t下的白噪声项。
进一步地，融合模型中，所述发动机的健康指数HI的计算表达式为：
yl，t＝z(xl，t；α)
式中，yl，t是飞机发动机l在时间t的HI，α是融合函数的参数，z(·)为融合模型的函数形式。
进一步地，所述融合模型为深度神经网络模型，该深度神经网络模型的输入为多元传感器失效信号xl，t的向量、输出是构造的HI yl，t，所述深度神经网络模型包括一个输入层、J个隐藏层和一个输出层，所述深度神经网络模型在时间t的表达式为：
式中，是隐藏层j的值，j＝1，...，J，/>Wj和bj分别是隐藏层j的权重矩阵和偏差矩阵，/>是softplus激活函数，V是输出层的权重矩阵，定义深度神经网络模型的参数集为α＝{W1，b1，...，WJ，bJ，V}。
进一步地，所述深度神经网络模型的损失函数的计算表达式为：
式中，λa，λb和λc是由交叉验证决定的深度神经网络模型的调整参数，是飞机发动机l残差项的向量，且el＝Yl-表示所有历史飞机发动机数据在故障时刻HI的平均值，[·]+＝max{0，·}，dl，t＝yl，t-1-yl，t。
进一步地，所述深度学习耦合模型的训练过程包括依次对所述失效过程模型和融合模型进行迭代训练，具体包括以下步骤：
步骤1：将第k-1次迭代中的参数α(k-1)代入所述融合模型，估计每个飞机发动机l在时间t下的HI，即在迭代次数k＝0时，通过线性函数初始化HI的估计值/>将/>视为已知的观测数据并训练失效过程模型。在训练该模型时，考虑损失函数/>以时间t模型输入数据，以HI估计值/>作为第l个发动机在时间t下的HI/>采用反向传播算法估计该模型参数β和Γl，l＝1，...L，获得失效过程模型的参数在第k次迭代中的估计值β(k)和/>
步骤2：获得β(k)后，计算在融合模型的损失函数/>中，仅有HI中的参数α是未知的，考虑损失函数/>采用反向传播算法估计α，并获得融合模型的参数在第k次迭代中的估计值α(k)；将参数为α(k)代入融合模型得到飞机发动机l的HI Yl，并采用最小二乘法得到在迭代次数k时Γl的解析估计值，即/>
通过重复步骤1和步骤2，调整深度学习耦合模型参数，直至实现收敛。
进一步地，所述飞机发动机剩余使用寿命的分布结果的计算表达式为：
式中，ξq为正在使用的飞机发动机q的剩余使用寿命，m为飞机发动机发生故障的阈值，Yq为正在使用的飞机发动机q的HI，ψq为正在使用的飞机发动机q关于时间t和共同特征参数β的基函数，Γq为正在使用的飞机发动机q的随机效应参数；
若Γq的先验分布是多元高斯分布，则
式中，为飞机发动机发生故障的阈值m的样本均值，/>为其样本方差，/>和/>由已知历史数据的L个飞机发动机的HI估计得到；
若Γq的先验分布不是明确定义的分布，则采用数值方法计算Γq的后验分布Γq|Yq，进一步获取分布
与现有技术相比，本发明具有以下优点：
本发明提供的一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，利用飞机发动机运行中采集到的反映其健康状态的多元传感器信号数据，建立深度学习耦合模型，通过将DNN和LSTM相耦合，对飞机发动机的健康状态和失效过程建模，进而实现对飞机发动机剩余寿命的预测。通过采用本发明所提供的技术方案，有助于准确描述飞机发动机的健康状态和失效过程，并实现对飞机发动机剩余寿命的准确预测，能够有效减少由于飞机发动机的损坏而导致的经济和社会损失。
附图说明
图1为本发明实施例中一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法的流程示意图；
图2为本发明实施例中某一飞机发动机的传感器失效信号数据、HI和相应的失效状态，(传感器失效信号数据和构造的HI由点表示，相应的失效状态由线表示)；
图3为本发明实施例中深度学习耦合模型在不同RUL状态下的预测误差(条形柱和相应的误差箱分别表示预测误差的平均值和标准差)。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
实施例1
本实施例提供一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，利用飞机发动机运行中采集到的反映其健康状态的多元传感器信号数据，建立深度学习耦合模型，通过将DNN和LSTM相耦合，对飞机发动机的健康状态和失效过程建模，进而实现对飞机发动机剩余寿命的预测，如图1所示，具体包括以下步骤：
S1：获取飞机发动机的多元传感器失效信号；
S2：载入预先建立并训练好的深度学习耦合模型中，深度学习耦合模型包括相互连接的失效过程模型LSTM和融合模型DNN，融合模型结合多元传感器失效信号，构建发动机的健康指数HI，发动机的健康指数HI定义为发动机的潜在失效状态加上相应的白噪声项；
S3：失效过程模型根据发动机的健康指数HI，获取飞机发动机随时间演变的潜在失效状态分布；
S4：根据飞机发动机随时间演变的潜在失效状态分布，得到飞机发动机剩余使用寿命的分布结果，实现飞机发动机的剩余寿命预测。
通过采用本发明所提供的技术方案，有助于准确描述飞机发动机的健康状态和失效过程，并实现对飞机发动机剩余寿命的准确预测，能够有效减少由于飞机发动机的损坏而导致的经济和社会损失。
本实施例以飞机燃气轮发动机的失效数据集为示例。本实施例使用的飞机燃气轮发动机的失效数据集由商业模块化航空推进仿真系统(Commercial Modular Aero-Propulsion System Simulation，C-MAPSS)生成，该仿真系统由美国宇航局开发，用于模拟飞机燃气轮发动机的失效过程。选定该数据集中11种传感器失效信号以监测飞机发动机在相同运行状态和故障模式下的失效状态。数据集中有100个飞机发动机(即L＝100)的历史观测数据，具体包含20631个观测数据(即)；有100个正在使用的飞机发动机(即Q＝100)数据，具体包含13096个观测数据(即/>)。100个飞机发动机的历史观测数据包括飞机发动机从开始运行到发生故障全过程的数据，而100个正在使用的飞机发动机数据包括飞机发动机从开始运行到某一时间点的数据，以及相应的RUL真实数据。本实施例使用100个飞机发动机的历史观测数据训练模型，使用100个正在使用的飞机发动机数据预测RUL，并通过比较预测的RUL值与相应的RUL真实数据来验证本发明模型的性能。
下面利用本发明模型对飞机发动机进行健康指数和失效过程建模，以及剩余使用寿命预测，具体实施方式如下：
1)定义飞机发动机健康指数HI和失效状态之间的关系
飞机发动机健康指数HI反映了其随时间演变的潜在失效状态。将第l个发动机在时间t下的健康指数HI yl，t定义为其潜在失效状态gl，t加上相应的白噪声项εl，t，即
yl，t＝gl，t+εl，t. (1)
假设各飞机发动机之间彼此独立，并且各飞机发动机在相同操作条件和故障模式下运行，飞机发动机l在时间t下的噪音项εl，t服从高斯分布εl，t～N(0，σ2)。
2)失效过程建模
失效过程模型用于描述飞机发动机随时间演变的潜在失效状态。基于混合效应模型的失效过程建模框架广泛应用于工程实践，具体如下：
gl，t＝η(ψ(t；β)；Γl). (2)
其中η(·)是失效模型的函数形式(例如，多项式函数)，β是表示描述所有发动机失效状态共同特征的固定效应参数，ψ是关于时间t和共同特征参数β的基函数，Γl是发动机l的随机效应参数。本发明采用的η(·)函数为长短期记忆网络(Long Short-TermMemory，LSTM)模型，用来描述发动机失效状态随着时间的演变过程。对于发动机l，在时间t下，LSTM模型输入是时间t，模型输出是失效状态gl，t。该模型包含三个部分：输入层t、隐藏层ψ(t)和输出层gl，t。为了避免梯度消失和爆炸问题，隐藏层是从遗忘门f(t)、输入门i(t)、候选单元状态a(t)、单元状态c(t)和输出门o(t)获得的。LSTM模型在时间t的公式如下：
f(t)＝σ(ψ(t-1)Wf+tUf+bf)，
i(t)＝σ(ψ(t-1)Wi+tUi+bi)，
a(t)＝φ(ψ(t-1)Wa+tUa+ba)，
c(t)＝f(t)⊙c(t-1)+i(t)⊙a(t)，
o(t)＝σ(ψ(t-1)Wo+tUo+bo)，
ψ(t)＝o(t)⊙φ(c(t))，
gl，t＝ψ(t)Γl. (3)
在式3中，σ和φ分别表示sigmoid激活函数和tanh激活函数，⊙表示哈达玛积，W.(即Wf，Wi，Wa和Wo)是连接隐藏层在时间t-1状态和时间t状态的权重矩阵，U.和b.分别是输入层的权重矩阵和偏差矩阵。定义LSTM模型的固定效应参数集为β＝{W.，U.，b.}。Γl是发动机l在输出层的权重矩阵，是LSTM模型的随机效应参数。
当飞机发动机的失效信号可观测时，LSTM模型的损失函数L1为：
其中这里共有L个飞机发动机的历史数据，nl是飞机发动机l的历史数据总数，表示飞机发动机l发生故障的时刻，n表示所有飞机发动机的历史数据总数，即/>
3)HI融合建模
令表示飞机发动机l的P种传感器在时间t时采集到的失效信号数据。本部分旨在通过结合多种传感器信号获得一个融合函数z(xl，t；α)来构造HI yl，t，即，
yl，t＝z(xl，t；α)， (5)
其中yl，t是飞机发动机l在时间t的健康指数HI，α是融合函数的参数。本发明采用深度神经网络(Deep Neural Network，DNN)模型作为融合函数。飞机发动机l在时间t的DNN模型输入是多种传感器信号xl，t的向量，模型输出是构造的HI yl，t。DNN模型包括一个输入层、J个隐藏层和一个输出层。DNN模型在时间t的公式如下：
其中，是隐藏层j的值，j＝1，...，J，/>Wj和bj分别是隐藏层j的权重矩阵和偏差矩阵，/>是softplus激活函数，V是输出层的权重矩阵。定义DNN模型的参数集为α＝{W1，b1，...，WJ，bJ，V}。
在训练DNN模型时，由于HI是不可观测到的，本发明采用一种无监督学习方法，结合HI的性质来制定损失函数。考虑如下四种HI的性质：
(1)最小拟合误差：定义拟合误差为HI和失效状态之间差值的平方和。在失效过程模型中，ψ(t)通过LSTM模型学习得到。对于飞机发动机l，定义为HI的向量，/> 是基函数矩阵，/>是噪声向量，则失效过程模型的矩阵形式为：
Yl＝ΨlΓl+εl， (7)
其中，Γl不仅可以通过LSTM模型得到数值估计值，还可以通过最小二乘法得到解析估计值。采用最小二乘法估计Γl的公式为：
定义el，t为飞机发动机l在时间t的残差项，是飞机发动机l残差项的向量，则/>为最小化拟合误差，采用损失函数l(1)：
(2)最小故障时刻HI方差：利用基于故障时刻所有历史飞机发动机数据HI的方差构造损失函数l(2)：
其中表示所有历史飞机发动机数据在故障时刻HI的平均值。
(3)单调性：利用含有单调性约束的损失函数l(3)：
其中[-]+＝max{0，-}，dl，t＝yl，t-1-yl，t。
(4)凸性：利用含有凸性约束的损失函数l(4)：
最后，综合考虑了HI的如上四个性质来构建DNN模型的损失函数如下：
其中λa，λb和λc是由交叉验证决定的DNN模型的调整参数。
4)参数估计
本发明提出一种迭代参数估计算法，表1中的伪代码说明了该算法的计算过程。在第k＝1，2，3，...次迭代中，首先训练LSTM失效过程模型，然后训练DNN融合模型。
表1迭代参数估计算法
如表1所示，模型训练的步骤1和2执行如下：
第1步：估计LSTM失效过程模型中的参数
首先，将第k-1次迭代中的参数α(k-1)带入DNN模型，估计每个飞机发动机l在时间t下的HI，即在迭代次数k＝0时，通过线性函数初始化HI的估计值/>然后，将视为已知的观测数据并训练LSTM模型。在训练该模型时，考虑损失函数/>以时间t作为模型输入数据，以HI估计值/>作为第l个发动机在时间t下的HI/>采用反向传播算法估计该模型参数β和Γl，l＝1，...L，获得LSTM模型的参数在第k次迭代中的估计值β(k)和/>
第2步：估计DNN融合模型中的参数
获得β(k)后，通过式(3)计算在第k次迭代中关于时间t和共同特征参数β的基函数ψ(t)，即在DNN模型的损失函数/>中，仅有HI中的参数α是未知的。考虑损失函数/>采用反向传播算法估计α，并获得DNN模型的参数在第k次迭代中的估计值α(k)。将参数为α(k)代入DNN模型得到飞机发动机l的HI Yl，并采用最小二乘法得到在迭代次数k时Γl的解析估计值，即/>
通过重复步骤1和2来估计模型参数，直到实现收敛。本发明采用如下收敛准则：对于所有的飞机发动机l＝1，...，L，当连续两次迭代k-1和k之间Γl的数值估计值和解析估计值的差距小于预先确定的阈值内∈时，该参数估计算法收敛，即：
其中表示迭代次数k的数值估计值/>与迭代次数k-1的解析估计值/>之间的欧几里德距离，/>
本实施例采用交叉验证来确定模型中的超参数和调整参数，使用100个飞机发动机的历史观测数据估计DNN融合模型中的参数α以及LSTM失效过程模型中的参数β和Γl。之后，使用DNN融合模型对每个飞机发动机构建相应的HI，并基于11种选定的传感器失效信号数据和构建的HI，使用LSTM失效过程模型得到相应的失效状态。图1展示了某一飞机发动机的传感器失效信号数据、HI和相应的失效状态，其中传感器失效信号数据和构造的HI由点表示，对应的失效状态由线表示。结果表明，构建的HI比任何传感器信号都反映了更加明显的失效状态趋势。
为了验证本发明模型构建的HI的有效性，本实施例比较了分别基于11种选定的传感器失效信号数据和构建的HI估计的噪声项的方差σ2。如表2所示，基于HI估计的噪声项方差σ2比基于任何单个传感器失效信号估计的都小，这表明构建的HI比使用单一传感器失效信号更能有效拟合失效过程模型。
表2.基于11种选定的传感器失效信号数据和构建的HI估计的噪声项的方差σ2
5)飞机发动机RUL(剩余使用寿命)预测
在通过L个飞机发动机的多元传感器失效信号历史数据对模型进行训练后，本发明预测正在使用的飞机发动机的RUL。考虑正在使用的飞机发动机q的多元传感器失效信号在时间点前都是可观测的，其中nq是正在使用的飞机发动机q的可观测的多元传感器失效信号数据的数量。为了预测正在使用的飞机发动机q的RUL，首先利用DNN融合模型得到时间点/>前的HI。由于该飞机发动机尚未发生故障，因此在给定RUL为正数的条件下(即ξq＞0)，得到其RUL ξq的累积分布函数如下：
其中，
这里m表示飞机发动机发生故障的阈值。当m未知时，其平均值和方差可以通过由相应的HI得到的样本均值和样本方差/>来估计得到。给定Yq，Γq的后验分布为P(Γq|Yq)∝P(Yq|Γq)，其中Γq的先验分布Γq～G(·)可以通过所有的Γl，l＝1，...，L估计得到。由于噪声项εq，t～N(0，σ2)，于是根据Yq＝ΨqΓq+εq得到Yq|Γq～N(ΨqΓq，σ2I)，其中如果Γq的先验分布是多元高斯分布Γq～N(μ0，∑0)，则Γq的后验分布Γq|Yq也是多元高斯分布，即Γq|Yq～N(μq，∑q)，其中因此得出：
如果Γq的先验分布不是明确定义的分布(例如，高斯分布)，则Γq的后验分布Γq|Yq可能没有解析解。在这种情况下，可以采用数值方法(例如，蒙特卡洛法)计算Γq的后验分布Γq|Yq，并进一步获得分布
正在使用的飞机发动机q的RUL预测误差∈q定义为预测的RUL和RU真实数据ξq之间的绝对差值除以其实际发生故障的时间τq：
预测误差越小，说明模型效果越好。图2所示为本发明模型在不同RUL状态下的预测误差。对于每种RUL状态，条形柱和相应的误差箱分别表示该RUL状态下的预测误差的平均值和标准差。例如，“20”表示处于RUL真实数据小于或等于20状态的所有正在使用的飞机发动机RUL预测误差的平均值和标准差，“+∞”表示所有正在使用的飞机发动机RUL预测误差的平均值和标准差。如图所示，本发明模型在每种RUL状态下均能实现良好的飞机发动机RUL预测。尤其当飞机发动机临近故障(例如，RUL真实数据小于60)时，本发明模型的优越性更为显著，这对于避免飞机发动机的突发故障具有重要的实际意义。
以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。
Claims (4)
1.一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，其特征在于，包括：获取飞机发动机的多元传感器失效信号，载入预先建立并训练好的深度学习耦合模型中，获取飞机发动机随时间演变的潜在失效状态分布，得到飞机发动机剩余使用寿命的分布结果，实现飞机发动机的剩余寿命预测；
所述深度学习耦合模型包括相互连接的失效过程模型和融合模型，所述失效过程模型用于描述飞机发动机随时间演变的潜在失效状态，所述融合模型用于结合多元传感器失效信号，构建发动机的健康指数HI，所述发动机的健康指数HI定义为发动机的潜在失效状态加上相应的白噪声项；
失效过程模型中，所述飞机发动机随时间演变的潜在失效状态gl，t的计算表达式为：
gl，t＝η(ψ(t；β)；Γl)
式中，η(·)是失效模型的函数形式，β是描述所有发动机失效状态共同特征的固定效应参数，ψ是关于时间t和共同特征参数β的基函数，Γl是发动机l的随机效应参数；
所述失效过程模型采用的η(·)函数为长短期记忆网络模型，该长短期记忆网络模型的输入是时间t、输出是潜在失效状态gl，t；所述长短期记忆网络模型包括输入层t、隐藏层ψ(t)和输出层gl，t，所述隐藏层从遗忘门f(t)、输入门i(t)、候选单元状态a(t)、单元状态c(t)和输出门o(t)获得；
融合模型中，所述发动机的健康指数HI的计算表达式为：
yl，t＝z(xl，t；α)
式中，yl，t是飞机发动机l在时间t的HI，α是融合函数的参数，z(·)为融合模型的函数形式；
所述融合模型为深度神经网络模型，该深度神经网络模型的输入为多元传感器失效信号xl，t的向量、输出是构造的HI yl，t，所述深度神经网络模型包括一个输入层、J个隐藏层和一个输出层，所述深度神经网络模型在时间t的表达式为：
式中，是隐藏层j的值，j＝1，...，J，/>Wj和bj分别是隐藏层j的权重矩阵和偏差矩阵，/>是softplus激活函数，V是输出层的权重矩阵，定义深度神经网络模型的参数集为α＝{W1，b1，...，WJ，bJ，V}；
所述深度神经网络模型的损失函数的计算表达式为：
式中，λa，λb和λc是由交叉验证决定的深度神经网络模型的调整参数，是飞机发动机l残差项的向量，且/> 表示所有历史飞机发动机数据在故障时刻HI的平均值，[·]+＝max{0，·}，dl，t＝yl，t-1-yl，t；
所述深度学习耦合模型的训练过程包括依次对所述失效过程模型和融合模型进行迭代训练，具体包括以下步骤：
步骤1：将第k-1次迭代中的参数α(k-1)代入所述融合模型，估计每个飞机发动机l在时间t下的HI，即在迭代次数k＝0时，通过线性函数初始化HI的估计值/>将/>视为已知的观测数据并训练失效过程模型；在训练该模型时，考虑损失函数/>以时间t模型输入数据，以HI估计值/>作为第l个发动机在时间t下的HIyl，t，采用反向传播算法估计该模型参数β和Γl，l＝1，...L，获得失效过程模型的参数在第k次迭代中的估计值β(k)和/>
步骤2：获得β(k)后，计算在融合模型的损失函数/>中，仅有HI中的参数α是未知的，考虑损失函数/>采用反向传播算法估计α，并获得融合模型的参数在第k次迭代中的估计值α(k)；将参数为α(k)代入融合模型得到飞机发动机l的HIYl，并采用最小二乘法得到在迭代次数k时Γl的解析估计值，即/>
通过重复步骤1和步骤2，调整深度学习耦合模型参数，直至实现收敛。
2.根据权利要求1所述的一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，其特征在于，所述长短期记忆网络模型在时间t的表达式为：
f(t)＝σ(ψ(t-1)Wf+tUf+bf)
i(t)＝σ(ψ(t-1)Wi+tUi+bi)
a(t)＝φ(ψ(t-1)Wa+tUa+ba)
c(t)＝f(t)⊙c(t-1)+i(t)⊙a(t)
o(t)＝σ(ψ(t-1)Wo+tUo+bo)
ψ(t)＝o(t)⊙φ(c(t))
gl，t＝ψ(t)Γl
式中，σ为sigmoid激活函数，φ为tanh激活函数，⊙表示哈达玛积，W.是连接隐藏层在时间t-1状态和时间t状态的权重矩阵，U和b分别是输入层的权重矩阵和偏差矩阵，定义长短期记忆网络模型的固定效应参数集为β＝{W.，U.，b.}，Γl是发动机l在输出层的权重矩阵，是LSTM模型的随机效应参数。
3.根据权利要求1所述的一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，其特征在于，所述长短期记忆网络模型的损失函数为：
yl，t＝gl，t+εl，t
式中，共有L个飞机发动机的历史数据，nl是飞机发动机l的历史数据总数，表示飞机发动机l发生故障的时刻，n表示所有飞机发动机的历史数据总数，即/>yl，t为第l个发动机在时间t下的健康指数HI，εl，t为第l个发动机在时间t下的白噪声项。
4.根据权利要求1所述的一种基于深度学习耦合建模的飞机发动机剩余寿命预测方法，其特征在于，所述飞机发动机剩余使用寿命的分布结果的计算表达式为：
式中，ξq为正在使用的飞机发动机q的剩余使用寿命，m为飞机发动机发生故障的阈值，Yq为正在使用的飞机发动机q的HI，ψq为正在使用的飞机发动机q关于时间t和共同特征参数β的基函数，Γq为正在使用的飞机发动机q的随机效应参数；
若Γq的先验分布是多元高斯分布，则
式中，为飞机发动机发生故障的阈值m的样本均值，/>为其样本方差，/>和/>由已知历史数据的L个飞机发动机的HI估计得到；
若Γq的先验分布不是明确定义的分布，则采用数值方法计算Γq的后验分布Γq|Yq，进一步获取分布
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110556279.1A CN113158348B (zh) | 2021-05-21 | 2021-05-21 | 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110556279.1A CN113158348B (zh) | 2021-05-21 | 2021-05-21 | 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113158348A CN113158348A (zh) | 2021-07-23 |
| CN113158348B true CN113158348B (zh) | 2023-10-03 |
Family
ID=76877048
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110556279.1A Active CN113158348B (zh) | 2021-05-21 | 2021-05-21 | 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113158348B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113821974B (zh) * | 2021-09-07 | 2023-11-24 | 北京大学 | 基于多故障模式的发动机剩余寿命预测方法 |
| CN114818475A (zh) * | 2022-03-31 | 2022-07-29 | 上海交通大学 | 融合多任务学习的飞机发动机失效状态预测方法 |
| CN117710759B (zh) * | 2024-02-06 | 2024-04-26 | 青岛哈尔滨工程大学创新发展中心 | 一种载人潜器故障和寿命预测系统及方法 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109376401A (zh) * | 2018-09-29 | 2019-02-22 | 西安交通大学 | 一种自适应多源信息优选与融合的机械剩余寿命预测方法 |
| CN109472110A (zh) * | 2018-11-29 | 2019-03-15 | 南京航空航天大学 | 一种基于lstm网络和arima模型的航空发动机剩余使用寿命预测方法 |
| CN109726524A (zh) * | 2019-03-01 | 2019-05-07 | 哈尔滨理工大学 | 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法 |
| CN110378052A (zh) * | 2019-07-25 | 2019-10-25 | 北京航空航天大学 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
| CN110942101A (zh) * | 2019-11-29 | 2020-03-31 | 湖南科技大学 | 基于深度生成式对抗网络的滚动轴承剩余寿命预测方法 |
| CN111258297A (zh) * | 2020-01-17 | 2020-06-09 | 北京大学 | 基于数据融合网络的设备健康指标构建及寿命预测方法 |
-
2021
- 2021-05-21 CN CN202110556279.1A patent/CN113158348B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109376401A (zh) * | 2018-09-29 | 2019-02-22 | 西安交通大学 | 一种自适应多源信息优选与融合的机械剩余寿命预测方法 |
| CN109472110A (zh) * | 2018-11-29 | 2019-03-15 | 南京航空航天大学 | 一种基于lstm网络和arima模型的航空发动机剩余使用寿命预测方法 |
| CN109726524A (zh) * | 2019-03-01 | 2019-05-07 | 哈尔滨理工大学 | 一种基于cnn和lstm的滚动轴承剩余使用寿命预测方法 |
| CN110378052A (zh) * | 2019-07-25 | 2019-10-25 | 北京航空航天大学 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
| CN110942101A (zh) * | 2019-11-29 | 2020-03-31 | 湖南科技大学 | 基于深度生成式对抗网络的滚动轴承剩余寿命预测方法 |
| CN111258297A (zh) * | 2020-01-17 | 2020-06-09 | 北京大学 | 基于数据融合网络的设备健康指标构建及寿命预测方法 |
Non-Patent Citations (2)
| Title |
|---|
| Di Wang等.A Generic Indirect Deep Learning Approach for Multisensor Degradation Modeling.《IEEE TRANSACTIONS ON AUTOMATION SCIENCE AND ENGINEERING》.2021, * |
| Di Wang等.A spatiotemporal prediction approach for a 3D thermal field from sensor networks.《Journal of Quality Technology》.2021, * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113158348A (zh) | 2021-07-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113158348B (zh) | 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 | |
| Lu et al. | Aircraft engine degradation prognostics based on logistic regression and novel OS-ELM algorithm | |
| Yu et al. | A nonlinear-drift-driven Wiener process model for remaining useful life estimation considering three sources of variability | |
| Tang et al. | An optimal condition-based maintenance policy for a degrading system subject to the competing risks of soft and hard failure | |
| CN108960303B (zh) | 一种基于lstm的无人机飞行数据异常检测方法 | |
| He et al. | A semi-supervised GAN method for RUL prediction using failure and suspension histories | |
| Marinai et al. | Prospects for aero gas-turbine diagnostics: a review | |
| Nielsen et al. | Computational framework for risk-based planning of inspections, maintenance and condition monitoring using discrete Bayesian networks | |
| CN114266278B (zh) | 一种基于双重注意力网络的设备剩余使用寿命预测方法 | |
| ElDali et al. | Fault diagnosis and prognosis of aerospace systems using growing recurrent neural networks and LSTM | |
| Yang et al. | A method for degradation prediction based on Hidden semi-Markov models with mixture of Kernels | |
| de Oliveira et al. | Bayesian inference for power law processes with applications in repairable systems | |
| Bai et al. | Inference of accelerated dependent competing risks model for Marshall–Olkin bivariate Weibull distribution with nonconstant parameters | |
| Hong et al. | Remaining useful life prediction using time-frequency feature and multiple recurrent neural networks | |
| Wang et al. | An integrated deep learning-based data fusion and degradation modeling method for improving prognostics | |
| Huang et al. | A hybrid bayesian deep learning model for remaining useful life prognostics and uncertainty quantification | |
| Li et al. | Digital twin enabled structural integrity management: Critical review and framework development | |
| TAng et al. | Dynamic condition-based maintenance policy for degrading systems described by a random-coefficient autoregressive model: A comparative study | |
| CN112100905A (zh) | 适于ima核心处理系统的可靠性分析方法 | |
| Lu et al. | Gas turbine performance monitoring based on extended information fusion filter | |
| Burnaev | Rare failure prediction via event matching for aerospace applications | |
| CN114154266B (zh) | 基于偏秩相关的流因果结构学习的燃气轮机故障预测方法 | |
| Ribot et al. | HPPN-based prognosis for hybrid systems | |
| CN112214852B (zh) | 一种考虑衰退率的透平机械性能衰退预测方法 | |
| Mutunga et al. | Health-index based prognostics for a turbofan engine using ensemble of machine learning algorithms |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |