CN113987704A - 基于自动多微分学习深度网络的航空发动机寿命预测方法 - Google Patents

基于自动多微分学习深度网络的航空发动机寿命预测方法 Download PDF

Info

Publication number
CN113987704A
CN113987704A CN202111261992.XA CN202111261992A CN113987704A CN 113987704 A CN113987704 A CN 113987704A CN 202111261992 A CN202111261992 A CN 202111261992A CN 113987704 A CN113987704 A CN 113987704A
Authority
CN
China
Prior art keywords
model
data
output
mcblstm
trend
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111261992.XA
Other languages
English (en)
Inventor
秦毅
项盛
罗均
蒲华燕
钱泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University
Original Assignee
Chongqing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University filed Critical Chongqing University
Priority to CN202111261992.XA priority Critical patent/CN113987704A/zh
Publication of CN113987704A publication Critical patent/CN113987704A/zh
Priority to US17/972,539 priority patent/US20230141864A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/10—Geometric CAD
    • G06F30/17—Mechanical parametric or variational design
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F01—MACHINES OR ENGINES IN GENERAL; ENGINE PLANTS IN GENERAL; STEAM ENGINES
    • F01D—NON-POSITIVE DISPLACEMENT MACHINES OR ENGINES, e.g. STEAM TURBINES
    • F01D21/00—Shutting-down of machines or engines, e.g. in emergency; Regulating, controlling, or safety means not otherwise provided for
    • F01D21/14—Shutting-down of machines or engines, e.g. in emergency; Regulating, controlling, or safety means not otherwise provided for responsive to other specific conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/10—Geometric CAD
    • G06F30/15—Vehicle, aircraft or watercraft design
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
    • F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
    • F05D2260/00—Function
    • F05D2260/82—Forecasts
    • F05D2260/821—Parameter estimation or prediction
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
    • F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
    • F05D2270/00—Control
    • F05D2270/01—Purpose of the control system
    • F05D2270/11—Purpose of the control system to prolong engine life
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
    • F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
    • F05D2270/00—Control
    • F05D2270/70—Type of control algorithm
    • F05D2270/709—Type of control algorithm with neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/04—Ageing analysis or optimisation against ageing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Mechanical Engineering (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供一种基于自动多微分学习深度网络的航空发动机寿命预测方法，具体步骤为：采集待预测航空发动机多维退化参数获得采集数据；采用滑动窗口对采集数据进行分割获得预处理数据；构建包括MBCNN模型、MCBLSTM模型、全连接层FC1、回归层的航空发动机剩余寿命预测模型；将预处理数据作为MBCNN模型的输入数据，提取MBCNN模型的输出，将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据，提取MCBLSTM模型的输出；将MCBLSTM模型的输出作为全连接层FC1的输入，得到全连接层FC1的输出，将输入回归层中进行预测的剩余寿命的预测。本申请通过ADLDNN模型对特征自动筛选并于差异化学习相结合，提高了寿命预测的准确性和泛化能力。

Description

基于自动多微分学习深度网络的航空发动机寿命预测方法
技术领域
本发明涉及航空发动机寿命预测领域，特别是一种基于自动多微分学习深度网络的航空发动机寿命预测方法。
背景技术
航空发动机是一种高度复杂和精密的热力机械，是为航空器提供飞行所需动力的发动机，由于其复杂的内部结构、恶劣的工作环境，航空发动机也更易发生故障；因此对航空发动机剩余使用寿命的准确预测，对航空发动机的运行和维护有极大的帮助。
随着科学技术的发展长短期记忆LSTM和卷积神经网络CNN被广泛应用于旋转机械剩余使用寿命RUL的预测中，但现有神经网络都是在统一的模式下处理数据的，因此无法采用不同的特征提取模式挖掘出不同层次的特征信息，预测精度差。
发明内容
本发明的目的就是提供一种基于自动多微分学习深度网络的航空发动机寿命预测方法，它可以用于航空发动机剩余寿命的预测。
本发明的目的是通过这样的技术方案实现的，具体步骤如下：
1)数据采集：采集待预测航空发动机多维退化参数，通过稳定趋势分析，选取若干能反映航空发动机退化性能的参数，获得采集数据；
2)数据预处理：采用滑动窗口技术对采集数据进行数据分割，获得预处理数据；
3)构建模型：构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型，所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层；
4)特征提取：将预处理数据作为MBCNN模型的输入数据，提取MBCNN模型的输出，将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据，提取MCBLSTM模型的输出；
5)寿命预测：将MCBLSTM模型的输出作为全连接层FC1的输入，得到全连接层FC1的输出，将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测。
进一步，所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元；
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
进一步，步骤4)中提取MBCNN模型的输出的具体步骤为：
4-1-1)级别划分：将步骤2)中的预处理数据作为输入数据，将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分，所述层级划分单元包括一个由五个神经元组成的全连接层FC2，对全连接层FC2的输出Dt进行了softmax归一化操作，得到层级划分结果D1t：
Figure BDA0003326105910000028
D1t＝softmax(Dt)＝[d11t d12t d13t d14t d15t] (2)
式(1)、(2)中，wxd1和bd1分别表示全连接层FC2的权重和偏差，d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别，D1t中最大元素的位置表示当前输入的水平划分结果；
4-1-2)提取特征：根据输入数据的阶段划分结果D1，将输入数据输入空间特征异化提取单元的不同卷积路径中进行卷积处理，根据层次划分结果和设计的5条卷积路径，对输入测量值进行自动差分处理，得到健康特征ht 1：
Figure BDA0003326105910000021
式(3)中，Pij和Cij分别表示第i个卷积路径的第j个卷积运算和池化运算，
Figure BDA0003326105910000022
为重要级别数据的卷积输出，
Figure BDA0003326105910000023
为相对重要级别数据的卷积输出，
Figure BDA0003326105910000024
为一般级别数据的卷积输出，
Figure BDA0003326105910000025
为相对次要级别数据的卷积输出，
Figure BDA0003326105910000026
为次要级别数据的卷积输出。
进一步，步骤4)中提取MCBLSTM模型的输出的具体步骤为：
4-2-1)趋势划分：将t时刻MBCNN模型的输出
Figure BDA0003326105910000027
以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据，输入双向趋势划分单元中进行趋势划分，所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4，所述全连接层FC3与全连接层FC4均包括五个神经元，全连接层FC3与全连接层FC4的输出
Figure BDA0003326105910000031
与
Figure BDA0003326105910000032
分别为：
Figure BDA0003326105910000033
式(4)中，
Figure BDA0003326105910000034
为全连接层FC3的权值，
Figure BDA0003326105910000035
为全连接层FC4的权值，
Figure BDA0003326105910000036
为全连接层FC3的偏差，
Figure BDA0003326105910000037
为全连接层FC4的偏差。
分别对
Figure BDA0003326105910000038
与
Figure BDA0003326105910000039
进行softmax操作，分别得到正向和反向的趋势水平
Figure BDA00033261059100000310
与
Figure BDA00033261059100000311
Figure BDA00033261059100000312
式(5)中，
Figure BDA00033261059100000313
和
Figure BDA00033261059100000314
分别表示在双向计算过程中局部趋势、中短期趋势、中期趋势、中长期趋势和全局趋势，
Figure BDA00033261059100000315
中
Figure BDA00033261059100000316
表示t时刻沿两个方向的趋势水平；
4-2-2)特征提取：根据趋势划分结果
Figure BDA00033261059100000317
和
Figure BDA00033261059100000318
将不同趋势的数据输入沿两个方向的差异学习的多细胞更新单元
Figure BDA00033261059100000319
和
Figure BDA00033261059100000320
中进行更新，所述
Figure BDA00033261059100000321
包括五个子单元
Figure BDA00033261059100000322
Figure BDA00033261059100000323
所述
Figure BDA00033261059100000324
包括五个子单元
Figure BDA00033261059100000325
Figure BDA00033261059100000326
式(6)中，箭头→和←分别表示正向和反向过程，
Figure BDA00033261059100000327
为全局趋势在双向计算过程中对应的数据更新单元，
Figure BDA00033261059100000328
为短期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000041
为中期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000042
为中长期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000043
为中短期趋势在双向计算过程中对应的数据更新单元，σ为sigmod激活函数，
Figure BDA0003326105910000044
均为MCBLSTM模型输入门的权重，
Figure BDA0003326105910000045
均为MCBLSTM模型遗忘门的权重，
Figure BDA0003326105910000046
均为MCBLSTM细胞存储单元的权重，
Figure BDA0003326105910000047
为MCBLSTM模型输入门的偏重，
Figure BDA0003326105910000048
为MCBLSTM模型遗忘门的偏重，
Figure BDA0003326105910000049
为MCBLSTM细胞存储单元的权重，⊙为点积运算，s1、s2、s3、s4均为通过学习获得的混合比例系数；
根据五个异化单元的更新结果以及趋势划分结果
Figure BDA00033261059100000410
和
Figure BDA00033261059100000411
对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出
Figure BDA00033261059100000412
和
Figure BDA00033261059100000413
通过控制MCBLSTM模型的输出门
Figure BDA00033261059100000414
和
Figure BDA00033261059100000415
得到MCBLSTM模型t时刻的输出h2 t：
Figure BDA00033261059100000416
式(7)中，
Figure BDA00033261059100000417
均为MCBLSTM模型输出门的权重，σ与tanh均为激活函数。
进一步，步骤5)中进行预测的剩余寿命预测的具体方法为：
将h2 t输入全连接层FC1中，采用dropout技术避免过拟合，得到全连接层FC1的输出h3 t，将h3 t输入回归层中得到预测的剩余寿命yt：
Figure BDA00033261059100000418
Figure BDA00033261059100000419
式(8)、(9)中，
Figure BDA00033261059100000420
为全连接层FC1的权重，
Figure BDA00033261059100000421
为全连接层FC1的偏置，
Figure BDA00033261059100000422
为回归层的权重，by为回归层的偏置。
由于采用了上述技术方案，本发明具有如下的优点：
1、本申请根据不同的测量值在不同时期对机械故障的灵敏度不同，构建深度挖掘模型ADLDNN模型，通过ADLDNN模型对特征自动筛选并于差异化学习相结合，提高了寿命预测的准确性和泛化能力。
2、本申请通过MBCNN模型的级别划分单元对输入数据进行分类，将分类后的输入数据输入具有多分支卷积神经网络中，每个分支根据其输入数据的级别进行相应的特征提取；然后通过MCBLSTM模型的双向趋势级别划分单元将MBCNN的输出特征划分为若干级退化趋势以前向及后向传递两个角度，再利用多细胞更新单元对输入特征的双向趋势水平进行相应的特征学习输出健康指标，可以更好的挖掘航空发动机不同程度的健康状态退化趋势。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书和权利要求书来实现和获得。
附图说明
本发明的附图说明如下。
图1为本发明航空发动机寿命预测的方法流程图。
图2为本发明自动多微分学习深度神经网络ADLDNN模型的结构图。
图3为本发明数据预处理滑动窗口技术的示意图。
图4为本发明所述预测方法在FD001子集上的预测结果图。
图5为本发明所述预测方法在FD002子集上的预测结果图。
图6为本发明所述预测方法在FD003子集上的预测结果图。
图7为本发明所述预测方法在FD004子集上的预测结果图。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
如题1-图3所示的一种基于自动多微分学习深度网络的航空发动机寿命预测方法，具体步骤如下：
1)数据采集：采集待预测航空发动机多维退化参数，通过稳定趋势分析，选取若干能反映航空发动机退化性能的参数，获得采集数据，具体步骤为：
1-1)在C-MAPSS(商用模块化航空推进系统仿真)对航空发动机的退化数据进行了仿真，采集待预测航空发动机多维退化参数，如表1所示：
表1.发动机运行时21个传感器的输出
Figure BDA0003326105910000051
Figure BDA0003326105910000061
如表2所示，将C-MAPSS数据集根据不同的运行条件和故障模式划分为4个子数据集：
表2.C-MAPSS数据集
Figure BDA0003326105910000062
每个子数据集包含训练数据、测试数据以及与测试数据相对应的实际剩余寿命RUL；训练数据包含从某一个健康状态到故障的所有发动机数据，而测试数据是发动机运行故障之前的数据；训练数据和试验数据分别包含一定数量的具有不同初始健康状态的发动机。
由于发动机初始健康状态不同，同一数据库中不同发动机的运行周期也不同。以FD001数据集为例，训练数据集包含100个引擎，最大运行周期为362，最小运行周期为128。为充分证明所提方法优越性，采用最简单的子集即单一工况和单一故障的子集FD001和最复杂的子集即多工况和多故障模式的子集FD004作为实验数据。
1-2)将一些稳定的趋势测量(传感器1、5、6、10、16、18和19的测量数据)提前被排除。这些传感器测量并不适合用于剩余寿命RUL预测，因为这些测量的全寿命测量曲线是稳定的、恒定的，即包含的发动机退化信息较少，又因为工况信息对模型的预测能力有显著影响。因此，筛选后的14个传感器测量和工况信息共同构成原始数据，获得采集数据。
2)数据预处理：采用滑动窗口技术对采集数据进行数据分割，获得预处理数据，具体方法为：
如图4所示，发动机的全生命周期为T，滑动窗口大小设为l，滑动步长设为m，则第i个输入样本的尺寸为l×n，其中：n为所选传感器个数与工况信息维数之和；
则第i个样本输入时实际剩余寿命RUL为T-l-(i-1)×m；
将线性分段剩余寿命RUL技术用于构造寿命标签，其定义如下所示：
Figure BDA0003326105910000071
式(10)中，Rulmax为最大剩余寿命，为提前设定的阈值。
在本发明实例中，FD001和FD004的最大寿命值分别设置为130和150次运行周期，设置滑动窗口大小l为30，滑动步长m为1。则FD001和FD004的训练样本大小分别可以计算为17731和54028，测试样本数则分别为100248，因为只使用了测试集的最后一次测量值进行预测能力验证。
3)构建模型：构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型，所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层；
所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元；
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
4)特征提取：将预处理数据作为MBCNN模型的输入数据，提取MBCNN模型的输出，将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据，提取MCBLSTM模型的输出，具体步骤为：
4-1)提取MBCNN模型的输出：
4-1-1)级别划分：将步骤2)中的预处理数据作为输入数据，将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分，所述层级划分单元包括一个由五个神经元组成的全连接层FC2，对全连接层FC2的输出Dt进行了softmax归一化操作，得到层级划分结果D1t：
Figure BDA0003326105910000081
D1t＝softmax(Dt)＝[d11t d12t d13t d14t d15t] (12)
式(11)、(12)中，
Figure BDA0003326105910000082
和
Figure BDA0003326105910000083
分别表示全连接层FC2的权重和偏差，d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别，D1t中最大元素的位置表示当前输入的水平划分结果；
4-1-2)提取特征：根据输入数据的阶段划分结果D1，将输入数据输入空间特征异化提取单元的不同卷积路径中进行卷积处理，根据层次划分结果和设计的5条卷积路径，对输入测量值进行自动差分处理，得到健康特征
Figure BDA0003326105910000084
Figure BDA0003326105910000085
式(13)中，Pij和Cij分别表示第i个卷积路径的第j个卷积运算和池化运算，
Figure BDA0003326105910000086
为重要级别数据的卷积输出，
Figure BDA0003326105910000087
为相对重要级别数据的卷积输出，
Figure BDA0003326105910000088
为一般级别数据的卷积输出，
Figure BDA0003326105910000089
为相对次要级别数据的卷积输出，
Figure BDA00033261059100000810
为次要级别数据的卷积输出。
提取MCBLSTM模型的输出的具体步骤为：
4-2-1)趋势划分：将t时刻MBCNN模型的输出
Figure BDA00033261059100000811
以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据，输入双向趋势划分单元中进行趋势划分，所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4，所述全连接层FC3与全连接层FC4均包括五个神经元，全连接层FC3与全连接层FC4的输出
Figure BDA0003326105910000091
与
Figure BDA0003326105910000092
分别为：
Figure BDA0003326105910000093
式(14)中，
Figure BDA0003326105910000094
为全连接层FC3的权值，
Figure BDA0003326105910000095
为全连接层FC4的权值，
Figure BDA0003326105910000096
为全连接层FC3的偏差，
Figure BDA0003326105910000097
为全连接层FC4的偏差。
分别对
Figure BDA0003326105910000098
与
Figure BDA0003326105910000099
进行softmax操作，分别得到正向和反向的趋势水平
Figure BDA00033261059100000910
与
Figure BDA00033261059100000911
Figure BDA00033261059100000912
式(15)中，
Figure BDA00033261059100000913
和
Figure BDA00033261059100000914
分别表示在双向计算过程中局部趋势、中短期趋势、中期趋势、中长期趋势和全局趋势，
Figure BDA00033261059100000915
中
Figure BDA00033261059100000916
表示t时刻沿两个方向的趋势水平；
4-2-2)特征提取：根据趋势划分结果
Figure BDA00033261059100000917
和
Figure BDA00033261059100000918
将不同趋势的数据输入沿两个方向的差异学习的多细胞更新单元
Figure BDA00033261059100000919
和
Figure BDA00033261059100000920
中进行更新，所述
Figure BDA00033261059100000921
包括五个子单元
Figure BDA00033261059100000922
Figure BDA00033261059100000923
所述
Figure BDA00033261059100000924
包括五个子单元
Figure BDA00033261059100000925
Figure BDA00033261059100000926
式(16)中，箭头→和←分别表示正向和反向过程，
Figure BDA00033261059100000927
为全局趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000101
为短期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000102
为中期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000103
为中长期趋势在双向计算过程中对应的数据更新单元，
Figure BDA0003326105910000104
为中短期趋势在双向计算过程中对应的数据更新单元，σ为sigmod激活函数，
Figure BDA0003326105910000105
均为MCBLSTM模型输入门的权重，
Figure BDA0003326105910000106
均为MCBLSTM模型遗忘门的权重，
Figure BDA0003326105910000107
均为MCBLSTM细胞存储单元的权重，
Figure BDA0003326105910000108
为MCBLSTM模型输入门的偏重，
Figure BDA0003326105910000109
为MCBLSTM模型遗忘门的偏重，
Figure BDA00033261059100001010
为MCBLSTM细胞存储单元的权重，⊙为点积运算，s1、s2、s3、s4均为通过学习获得的混合比例系数；
根据五个异化单元的更新结果以及趋势划分结果
Figure BDA00033261059100001011
和
Figure BDA00033261059100001012
对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出
Figure BDA00033261059100001013
和
Figure BDA00033261059100001014
通过控制MCBLSTM模型的输出门
Figure BDA00033261059100001015
和
Figure BDA00033261059100001016
得到MCBLSTM模型t时刻的输出h2 t：
Figure BDA00033261059100001017
式(17)中，
Figure BDA00033261059100001018
均为MCBLSTM模型输出门的权重，σ与tanh均为激活函数。
在本发明实例中，为了尽可能长时间地保持全局趋势，细胞单元
Figure BDA00033261059100001019
和
Figure BDA00033261059100001020
由在上一时刻的细胞状态更新，为了及时替换局部趋势，单元
Figure BDA00033261059100001021
和
Figure BDA00033261059100001022
由此时刻的内部状态更新，根据BLSTM中传统的细胞更新机制，利用全局趋势
Figure BDA00033261059100001023
与局部趋势
Figure BDA00033261059100001024
对中期趋势
Figure BDA00033261059100001025
和
Figure BDA00033261059100001026
进行更新，利用全局趋势
Figure BDA00033261059100001027
与中期趋势
Figure BDA00033261059100001028
对中长期趋势进行更新，利用中期趋势
Figure BDA00033261059100001029
与局部趋势
Figure BDA00033261059100001030
对中短期趋势进行更新。
5)寿命预测：将MCBLSTM模型的输出作为全连接层FC1的输入，得到全连接层FC1的输出，将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测，具体方法为：
将h2 t输入全连接层FC1中，采用dropout技术避免过拟合，得到全连接层FC1的输出h3 t，将h3 t输入回归层中得到预测的剩余寿命y t：
Figure BDA0003326105910000111
Figure BDA0003326105910000112
式(18)、(19)中，
Figure BDA0003326105910000113
为全连接层FC1的权重，
Figure BDA0003326105910000114
为全连接层FC1的偏置，
Figure BDA0003326105910000115
为回归层的权重，by为回归层的偏置。
在本发明实例中，训练过程中样本总数为N，将均方误差(MSE)定义为损失函数，则其计算公式为：
Figure BDA0003326105910000116
式(20)中，
Figure BDA0003326105910000117
和Ruli分别为第i个样本的预测剩余寿命与实际剩余寿命，利用反向传播规则得到各层的误差梯度，并利用Adam优化方法优化模型的权重参数。并且为了避免学习深度中的过拟合问题，Dropout技术被采用。
采用网格搜索的方法对ADLDNN超参数进行选择：
C11、C12、C13、C14、C15、C21、C22、C23、C24、C31、C32、C33、C41、C42、C51的核大小分别设置为1、2、2、2、2、2、2、2、2、2、2、7、2、2、2、9；
P11、P12、P13、P14、P14、P21、P22、P23、P24、P31、P32、P33、P41、P42、P51的最大池化大小分别为2、1、1、1、1、1、1、1、1、2、1、1、2、2；
卷积核的步幅设为1，MCBLSTM的神经细胞数为30,全连接层FC1的神经细胞数为30，回归层的神经细胞数为1。dropout设置为0.5，将窗口大小和步长分别设置为30和1。
6)实验验证：
6-1)评价指标：采用IEEE评价分数(Score)和均方根误差(RMSE)作为评价指标对剩余使用寿命预测性能进行定量表征，评价指标可分别计算如下：
Figure BDA0003326105910000118
Figure BDA0003326105910000119
Figure BDA00033261059100001110
式(21)、(22)、(23)中，Ruli和
Figure BDA00033261059100001111
分别为第i个发动机的实际寿命及预测寿命，N为子集中的发动机总数。这些指标的值与RUL性能成反比，即指标值越低，模型性能越好。Score相交于RMSE对过度预测的惩罚更大，更加符合工程实践。因此，在RMSE接近的情况下，更加倾向于基于Score对模型进行评价。
6-2)剩余使用寿命预测及对比：提出的ADLDNN首先通过FD001、FD002、FD003和FD004的训练集进行训练，然后通过相应的测试集进行测试。四个子集的预测结果分别如图4-7所示。
图4-7中，x轴为测试发动机的数量，y轴为RUL值。预测的RUL和实际的RUL分别用实线和虚线表示。图4-7的标题显示了预测结果的Score值和RMSE值。可以直观地看到，图4中预测规则与实际规则之间的误差一般要小于图5-7。这意味着所提出的ADLDNN在FD001上具有最高的性能。此外，该方法在FD003上的性能优于FD002，在FD004上性能最差。
发动机在单一工况下的退化趋势相对简单，同时训练集与测试集重叠程度较大；因此，FD001和FD003在单一工况下的预测结果优于FD002和FD004在多种工况下的预测结果。另外，FD001的预测结果比FD003的预测结果准确率更高，FD002的预测结果比FD004的预测结果准确率更高。由此可见，单失效模式下的预测精度高于多失效模式下的预测精度。我们还可以看到，FD003的预测结果优于FD002，这意味着失效模式数量对RUL预测的影响小于运行条件数量。
为了进一步突出ADLDNN在RUL预测中的优势，将其与基于统计模型、浅学习模型、经典DL模型以及最近发表的几种DL模型的各种典型方法进行了比较。另外，根据上述所有方法的预测结果计算得到的Score和RMSE如表3所示。从表中可以看出，所有方法对FD001的预测效果最高，对FD004的预测效果最差。这是因为FD001是最简单的子集，而FD004具有最复杂的运行条件、故障类型和比其他子集更多的测试引擎编号。由于所有方法对FD003的预测精度都优于对FD002的预测精度，我们进一步证明了工况和发动机编号相对于故障类型对RUL预测精度的影响更大。
从表3可以看出，对于最简单的FD001，所提出的方法得到的预测结果的Score和RMSE比目前的其他方法都要小，除了Acyclic Graph Network。但对于FD002和FD004等复杂数据集，该方法比其他典型方法具有更强的预测能力。此外，由于该Score在实际工程中比RMSE具有更高的实用性，ADLDNN被认为优于FD003中的Acyclic Graph Network。与现有的典型方法相比，本文提出的ADLDNN更适合于多工况、多故障类型的复杂数据集的处理。综上所述，ADLDNN具有较高的综合性能，可以更好地应用于机器RUL的预测。
表3不同方法在数据集上的预测表现定量对比
Figure BDA0003326105910000131
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。

Claims (5)

1.基于自动多微分学习深度网络的航空发动机寿命预测方法，其特征在于，具体步骤如下：
1)数据采集：采集待预测航空发动机多维退化参数，通过稳定趋势分析，选取若干能反映航空发动机退化性能的参数，获得采集数据；
2)数据预处理：采用滑动窗口技术对采集数据进行数据分割，获得预处理数据；
3)构建模型：构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型，所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层；
4)特征提取：将预处理数据作为MBCNN模型的输入数据，提取MBCNN模型的输出，将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据，提取MCBLSTM模型的输出；
5)寿命预测：将MCBLSTM模型的输出作为全连接层FC1的输入，得到全连接层FC1的输出，将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测。
2.如权利要求1所述的基于自动多微分学习深度网络的航空发动机寿命预测方法，其特征在于，所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元；
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
3.如权利要求2所述的基于自动多微分学习深度网络的航空发动机寿命预测方法，其特征在于，步骤4)中提取MBCNN模型的输出的具体步骤为：
4-1-1)级别划分：将步骤2)中的预处理数据作为输入数据，将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分，所述层级划分单元包括一个由五个神经元组成的全连接层FC2，对全连接层FC2的输出Dt进行了softmax归一化操作，得到层级划分结果D1t：
Figure FDA0003326105900000011
D1t＝softmax(Dt)＝[d11t d12t d13t d14t d15t] (2)
式(1)、(2)中，
Figure FDA0003326105900000012
和
Figure FDA0003326105900000013
分别表示全连接层FC2的权重和偏差，d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别，D1t中最大元素的位置表示当前输入的水平划分结果；
4-1-2)提取特征：根据输入数据的阶段划分结果D1，将输入数据输入空间特征异化提取单元的不同卷积路径中进行卷积处理，根据层次划分结果和设计的5条卷积路径，对输入测量值进行自动差分处理，得到健康特征
Figure FDA0003326105900000021
Figure FDA0003326105900000022
式(3)中，Pij和Cij分别表示第i个卷积路径的第j个卷积运算和池化运算，
Figure FDA0003326105900000023
为重要级别数据的卷积输出，
Figure FDA0003326105900000024
为相对重要级别数据的卷积输出，
Figure FDA0003326105900000025
为一般级别数据的卷积输出，
Figure FDA0003326105900000026
为相对次要级别数据的卷积输出，
Figure FDA0003326105900000027
为次要级别数据的卷积输出。
4.如权利要求2所述的基于自动多微分学习深度网络的航空发动机寿命预测方法，其特征在于，步骤4)中提取MCBLSTM模型的输出的具体步骤为：
4-2-1)趋势划分：将t时刻MBCNN模型的输出
Figure FDA0003326105900000028
以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据，输入双向趋势划分单元中进行趋势划分，所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4，所述全连接层FC3与全连接层FC4均包括五个神经元，全连接层FC3与全连接层FC4的输出
Figure FDA0003326105900000029
与
Figure FDA00033261059000000210
分别为：
Figure FDA00033261059000000211
式(4)中，
Figure FDA00033261059000000212
为全连接层FC3的权值，
Figure FDA00033261059000000213
为全连接层FC4的权值，
Figure FDA00033261059000000214
为全连接层FC3的偏差，
Figure FDA00033261059000000215
为全连接层FC4的偏差。
分别对
Figure FDA00033261059000000216
与
Figure FDA00033261059000000217
进行softmax操作，分别得到正向和反向的趋势水平
Figure FDA00033261059000000218
与
Figure FDA00033261059000000219
Figure FDA00033261059000000220
式(5)中，
Figure FDA00033261059000000221
和
Figure FDA00033261059000000222
分别表示在双向计算过程中局部趋势、中短期趋势、中期趋势、中长期趋势和全局趋势，
Figure FDA00033261059000000223
中
Figure FDA00033261059000000224
表示t时刻沿两个方向的趋势水平；
4-2-2)特征提取：根据趋势划分结果
Figure FDA0003326105900000031
和
Figure FDA0003326105900000032
将不同趋势的数据输入沿两个方向的差异学习的多细胞更新单元
Figure FDA0003326105900000033
和
Figure FDA0003326105900000034
中进行更新，所述
Figure FDA0003326105900000035
包括五个子单元
Figure FDA0003326105900000036
Figure FDA0003326105900000037
所述
Figure FDA0003326105900000038
包括五个子单元
Figure FDA0003326105900000039
Figure FDA00033261059000000310
式(6)中，箭头→和←分别表示正向和反向过程，
Figure FDA00033261059000000311
为全局趋势在双向计算过程中对应的数据更新单元，
Figure FDA00033261059000000312
为短期趋势在双向计算过程中对应的数据更新单元，
Figure FDA00033261059000000313
为中期趋势在双向计算过程中对应的数据更新单元，
Figure FDA00033261059000000314
为中长期趋势在双向计算过程中对应的数据更新单元，
Figure FDA00033261059000000315
为中短期趋势在双向计算过程中对应的数据更新单元，σ为sigmod激活函数，
Figure FDA00033261059000000316
均为MCBLSTM模型输入门的权重，
Figure FDA00033261059000000317
均为MCBLSTM模型遗忘门的权重，
Figure FDA00033261059000000318
均为MCBLSTM细胞存储单元的权重，
Figure FDA00033261059000000319
为MCBLSTM模型输入门的偏重，
Figure FDA00033261059000000320
为MCBLSTM模型遗忘门的偏重，
Figure FDA00033261059000000321
为MCBLSTM细胞存储单元的权重，⊙为点积运算，s1、s2、s3、s4均为通过学习获得的混合比例系数；
根据五个异化单元的更新结果以及趋势划分结果
Figure FDA00033261059000000322
和
Figure FDA00033261059000000323
对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出
Figure FDA00033261059000000324
和
Figure FDA00033261059000000325
通过控制MCBLSTM模型的输出门
Figure FDA00033261059000000326
和
Figure FDA00033261059000000327
得到MCBLSTM模型t时刻的输出h2 t：
Figure FDA0003326105900000041
式(7)中，
Figure FDA0003326105900000042
均为MCBLSTM模型输出门的权重，σ与tanh均为激活函数。
5.如权利要求1所述的基于自动多微分学习深度网络的航空发动机寿命预测方法，其特征在于，步骤5)中进行预测的剩余寿命预测的具体方法为：
将h2 t输入全连接层FC1中，采用dropout技术避免过拟合，得到全连接层FC1的输出h3 t，将h3 t输入回归层中得到预测的剩余寿命yt：
Figure FDA0003326105900000043
Figure FDA0003326105900000044
式(8)、(9)中，
Figure FDA0003326105900000045
为全连接层FC1的权重，
Figure FDA0003326105900000046
为全连接层FC1的偏置，
Figure FDA0003326105900000047
为回归层的权重，by为回归层的偏置。
CN202111261992.XA 2021-10-28 2021-10-28 基于自动多微分学习深度网络的航空发动机寿命预测方法 Pending CN113987704A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111261992.XA CN113987704A (zh) 2021-10-28 2021-10-28 基于自动多微分学习深度网络的航空发动机寿命预测方法
US17/972,539 US20230141864A1 (en) 2021-10-28 2022-10-24 Method for predicting remaining useful life (rul) of aero-engine based on automatic differential learning deep neural network (adldnn)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111261992.XA CN113987704A (zh) 2021-10-28 2021-10-28 基于自动多微分学习深度网络的航空发动机寿命预测方法

Publications (1)

Publication Number Publication Date
CN113987704A true CN113987704A (zh) 2022-01-28

Family

ID=79743236

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111261992.XA Pending CN113987704A (zh) 2021-10-28 2021-10-28 基于自动多微分学习深度网络的航空发动机寿命预测方法

Country Status (2)

Country Link
US (1) US20230141864A1 (zh)
CN (1) CN113987704A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115982942A (zh) * 2022-11-25 2023-04-18 浙江长龙航空有限公司 航空预冷器剩余寿命预测的方法、装置、设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115982942A (zh) * 2022-11-25 2023-04-18 浙江长龙航空有限公司 航空预冷器剩余寿命预测的方法、装置、设备及存储介质

Also Published As

Publication number Publication date
US20230141864A1 (en) 2023-05-11

Similar Documents

Publication Publication Date Title
Theissler et al. Explainable AI for time series classification: a review, taxonomy and research directions
CN112580263B (zh) 基于时空特征融合的涡扇发动机剩余使用寿命预测方法
Behera et al. Multiscale deep bidirectional gated recurrent neural networks based prognostic method for complex non-linear degradation systems
CN109766583A (zh) 基于无标签、不均衡、初值不确定数据的航空发动机寿命预测方法
Duan et al. Root cause analysis approach based on reverse cascading decomposition in QFD and fuzzy weight ARM for quality accidents
Wang et al. A new approach for missing data imputation in big data interface
US20210201209A1 (en) Method and system for selecting a learning model from among a plurality of learning models
Hasanpour et al. Software defect prediction based on deep learning models: Performance study
CN111858328B (zh) 一种基于有序神经网络的软件缺陷模块严重程度预测方法
CN110580213A (zh) 一种基于循环标记时间点过程的数据库异常检测方法
Mikes et al. Optimizing an algorithm for data mining a design repository to automate functional modeling
García-Vico et al. Fepds: A proposal for the extraction of fuzzy emerging patterns in data streams
CN113836822A (zh) 一种基于mclstm模型的航空发动机寿命预测方法
CN113987704A (zh) 基于自动多微分学习深度网络的航空发动机寿命预测方法
Abdelkarim et al. Tcp-net: Test case prioritization using end-to-end deep neural networks
Martinez et al. Deep learning evolutionary optimization for regression of rotorcraft vibrational spectra
Togatoropa et al. Optimizing Random Forest using Genetic Algorithm for Heart Disease Classification
CEYLAN et al. Siamese Inception Time Network for Remaining Useful Life Estimation
Harikiran et al. Software Defect Prediction Based Ensemble Approach.
Fávero et al. Analogy-based effort estimation: A systematic mapping of literature
Wei-wei et al. A Processor Performance Prediction Method Based on Interpretable Hierarchical Belief Rule Base and Sensitivity Analysis.
CN113868964A (zh) 基于时空多异化处理深度网络的航空发动机寿命预测方法
Panda et al. Fuzzy modelling techniques for improving multi-label classification of software bugs
Aarthi et al. Effective management of class imbalance problem in climate data analysis using a hybrid of deep learning and data level sampling
Huang A Unified Soft Sensing Framework for Complex Dynamical Systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination