CN117113843A - 一种航空发动机剩余寿命预测方法 - Google Patents
一种航空发动机剩余寿命预测方法 Download PDFInfo
- Publication number
- CN117113843A CN117113843A CN202311098405.9A CN202311098405A CN117113843A CN 117113843 A CN117113843 A CN 117113843A CN 202311098405 A CN202311098405 A CN 202311098405A CN 117113843 A CN117113843 A CN 117113843A
- Authority
- CN
- China
- Prior art keywords
- time
- representing
- data
- sequence
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 230000008447 perception Effects 0.000 claims abstract description 12
- 230000006870 function Effects 0.000 claims description 22
- 238000000354 decomposition reaction Methods 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 18
- 230000004913 activation Effects 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000013527 convolutional neural network Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 7
- 238000004422 calculation algorithm Methods 0.000 claims description 6
- 230000004927 fusion Effects 0.000 claims description 6
- 230000007246 mechanism Effects 0.000 claims description 6
- 238000012360 testing method Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 5
- 238000001914 filtration Methods 0.000 claims description 4
- 238000005065 mining Methods 0.000 claims description 4
- 238000012935 Averaging Methods 0.000 claims description 3
- 238000009499 grossing Methods 0.000 claims description 3
- 238000003064 k means clustering Methods 0.000 claims description 3
- 238000003062 neural network model Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 230000010355 oscillation Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000012546 transfer Methods 0.000 claims description 3
- 230000001502 supplementing effect Effects 0.000 claims description 2
- 238000013461 design Methods 0.000 abstract description 7
- 238000000605 extraction Methods 0.000 abstract description 4
- 239000003623 enhancer Substances 0.000 abstract 1
- 239000000306 component Substances 0.000 description 18
- 230000002452 interceptive effect Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 230000015556 catabolic process Effects 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 4
- 238000006731 degradation reaction Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000013136 deep learning model Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 239000008358 core component Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Probability & Statistics with Applications (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供一种航空发动机剩余寿命预测方法，属于航空发动机剩余寿命预测技术领域；所要解决的技术问题为：提供一种改进的航空发动机剩余寿命预测方法；解决该技术问题采用的技术方案为：将原始时间序列降采样并分解为奇、偶序列，降低了序列的冗余性；设计空间模块融合多传感器数据，在每一个时间步强化重要特征；时间模块由时序关系提取和时序模式增强子模块组成，时序关系提取针对奇、偶序列分支分别捕获局部和全局时序依赖关系，时序模式增强允许两个子序列间进行信息交换，弥补潜在的信息损失；设计动态感知模块，获取时序数据的动态演化关系；利用MLP进行预测；本发明应用于航空发动机剩余寿命预测。
Description
技术领域
本发明提供一种航空发动机剩余寿命预测方法，属于航空发动机剩余寿命预测技术领域。
背景技术
故障预测与健康管理技术（PHM）系统是现代工业中保证工业活动可靠运行的重要组成部分，包括异常检测、故障诊断和剩余使用寿命（RUL）估计。对于关键部件的RUL预测是整体系统可靠性评估的主要任务之一，其定义为从当前时间到部件内部完全失效的时间段。航空发动机作为飞机的核心部件，其设计要求在恶劣条件下工作时仍可长时间保持高可靠性。然而，基于计划的预防性维护和基于故障的纠正性维护不可避免地会扰乱飞机运行，导致不必要地设备停机时间。因此，对于航空发动机准确地寿命预测可以在系统发生故障前提醒相关人员采取相应的维护措施，有利于优化维护计划，减少人力和物力资源浪费，降低灾难性事故发生的可能性。
目前采用的航空发动机RUL预测方法可以分为两类，即基于模型的方法和基于数据驱动的方法。基于模型的方法依赖于对航空发动机的广泛先验知识，并建立退化机制模型，例如卡尔曼滤波器、粒子滤波器和伽马过程。然而，利用机理或经验知识为如此复杂的设备建立准确的物理模型是不现实的。近年来，随着现代仪器和测量技术的快速发展，可以从航空发动机的传感器中获取大量的监测数据，因此基于数据驱动的方法受到了广泛关注。基于数据的方法试图直接建立历史监测数据和发动机健康状态之间的非线性映射关系。经典的基于数据的模型包括支持向量回归（SVR）、人工神经网络（ANN）和随机森林（RF）等，但它们的数据拟合能力有限，难以从数据中提取抽象特征。相比之下，深度学习能够展现出处理高度非线性和变化数据的优势，例如循环神经网络（RNN）、卷积神经网络（CNN）和自注意力网络（Transformer）已经在大数据领域取得了成功应用，并逐步应用于RUL预测。
在现有的数据驱动方法中，深度学习由于其从高维非线性数据中抽取抽象特征的出色能力，已成为最受欢迎且最有前途的研究方向之一，并已成功应用于航空发动机RUL预测领域，主要包括基于RNN，基于CNN和基于Transformer的方法。RNN及其变体如LSTM和GRU等在捕获输入和输出之间的复杂非线性关系以及时间序列中的短期相关性方面表现出出色的能力，成为预测发动机剩余寿命的主要应用框架。有人提出了一种双LSTM框架，将变化点检测和RUL预测相结合。首先利用变化点检测滤除与退化无关的不必要传感器信号，再通过双LSTM框架描述每个传感器内的长期和短期依赖关系实现RUL预测。也有人提出了一个用于航空发动机RUL预测的综合GRU模型，将后验分析和多个GRU分类器相结合，有效地解决了多个退化路径问题。基于RNN的方法善于捕捉时间相关性进行序列学习，而CNN的主要优点在于对局部特征提取表示的能力，也是RUL预测领域一个常见的解决方案。也有人采用一种改进的CNN对航空发动机的RUL进行预测，使用不同的一维卷积核提取序列趋势信息特征，而后将特征输入至构建的CNN得到剩余寿命的预测值。还有人提出了一个多尺度的CNN预测模型，利用多尺度块来卷积传感器数据的时间维度，大大提升了模型对复杂特征的学习能力。CNN结构被用来提取局部特征，而不同的特征没有加权，这意味着所有特征具有相同的重要性。通常来说，预测模型应该更多地关注具有更多退化信息的基本特征。作为一种解决方案，基于Transformer的方法因关注监测数据中更关键的信息，可实现更准确的RUL预测。还有人提出了一个基于自注意力的航空发动机RUL预测框架。具体而言，采用了基于通道注意力的CNN为更重要的特征赋予更大的权重，然后使用自注意力机制在关键时间步骤上关注这些特征。采用多头注意机制对多个传感器输出的多维时间序列数据进行融合，其中特征注意力用于捕捉特征间的相互作用，序列注意力用于学习时间步长的权值。最后，采用多层感知器来融合所获得的特征并估计发动机RUL。
然而，由于以下缺陷，目前的研究仍然缺乏有效的多变量时间序列建模方法，从而限制了航空发动机RUL估计的应用，有待改进：
1）尽管现有的方法在挖掘序列模式方面取得了一定的效果，但它们仍然不能有效地提取出在预测中真正起着重要作用的成分，换句话说，时间依赖性很容易被冗余的数据或噪声所掩盖；
2）航空发动机的多传感器信号提供了更多的信息资源，但空间相关性的变化使得多变量数据的融合更加困难。更进一步说，多个传感器之间的空间关系在每个时间步上可能是不同的；
3）复杂的时间动态特征要求RUL预测模型能够快速适应不同时间段的模式变化。然而，时间分析模型通常使用一个共享的参数空间，其假设时间模式在不同位置之间是相似的，而不随时间演化，这忽略了时间序列的动态演化过程。
发明内容
本发明为了克服现有技术中存在的不足，所要解决的技术问题为：提供一种改进的航空发动机剩余寿命预测方法。
为了解决上述技术问题，本发明采用的技术方案为：一种航空发动机剩余寿命预测方法，包括如下预测步骤：
步骤一：进行数据预处理：
步骤1-1：针对航空发动机变化的工作条件对传感器数据产生的实质影响，基于操作设置采用K-means聚类算法获得不同的条件分类，并对每一个类别采用z-score对数据进行标准化处理，处理采用的计算公式为：
；
式中：S表示传感器的集合，C表示条件的集合，i和j分别表示第i个传感器和第j个条件分类，和/>分别表示第j个条件分类下第i个传感器的平均值和标准差，/>和/>分别表示标准化前和标准化后的数据；
步骤1-2：采用指数加权移动平均法对原始数据进行平滑处理，减少传感器数据局部震荡的影响，处理采用的计算公式为：
；
式中：表示/>滤波后的值，a表示滤波系数，t表示时间步；
步骤二：构建基于时空增强和动态感知的深度神经网络模型：
步骤2-1：对原始多源时间序列X降采样，在时间维度上分别取奇、偶元素，将其划分为奇序列和偶序列/>两个子序列；
步骤2-2：采用小波分解提取数据的低频部分，在保留数据主要特征的同时以减少噪声干扰，使用下述函数分解时间序列：
式中：和/>分别表示分解后的低频分量和高频分量，/>表示sigmoid激活函数，是可训练的参数，i表示小波分解的次数；
奇序列和偶序列/>通过小波分解获得低频分量，分别表示为/>和/>，表达式为：
式中：表示步骤2-2中小波分解过程；
步骤2-3：基于空间模块挖掘多变量隐含空间关系，以确认每一个时间步中重要的变量，并融合这些信息获得空间增强表示，同时去除对预测产生负面影响的不必要输入：
步骤2-3-1：空间模块SM以门控单元Gate为基本构建块，控制信息的传递，Gate表达式为：
；
式中：W,V为可训练的参数，b,c为对应的偏置项，表示sigmoid激活函数，/>表示元素乘积；
步骤2-3-2：在每个时间步，使用单独的空间模块SM网络进行变量选择与融合，令表示第i个变量在时间t的输入向量，/>是在时间t被拉平的输入向量，选择权重通过Gate单元和Softmax层来生成，表达式为：
；
式中：是权重向量；
步骤2-3-3：在每个时间步，输入向量均通过自己的Gate单元，表达式为：
；
每个变量都有自己的Gate，各个变量的权重在所有时间步长t上共享；
步骤2-3-4：对处理后的特征通过权重向量进行加权操作，并按如下计算方式进行组合：
；
式中：是向量/>的第i个元素；
和/>分别通过空间模块SM网络融合多源信息，以获得空间增强表示，表达式为：
步骤2-4：基于时间模块捕获时序依赖关系，并弥补子序列潜在的信息损失：
步骤2-4-1：提取时序依赖关系：
针对采用1D卷积神经网络提取时间维度局部依赖关系，表达式为：
；
式中：*表示卷积运算，和/>为可训练的参数，激活函数/>；
针对采用自注意力机制提取时间维度全局依赖关系，表达式为：
式中：为超参数；
步骤2-4-2：补充时序损失信息，弥补由于序列降采样和小波分解所造成潜在的信息损失，利用SM网络对时间步进行选择和融合：
对于，其内部丢失的潜在信息包括偶元素携带的时间信息以及高频分量，将的转置输入SM网络以对每个变量可能丢失的重要时间步进行选择，并将其与/>拼接，计算表达式为：
式中：表示拼接操作；
获得的和/>是对原始奇、偶序列/>、/>的时空增强表示，将/>和拼接，作为该模块的最终输出，表达式为：
；
步骤2-5：利用动态感知模块(DM)获取时序数据的动态演化过程，以快速适应不同时间段的模式变化：
步骤2-5-1：每个样本通过Attention模块，全局空间信息首先被平均池化压缩，然后使用全连接层和softmax来为k个卷积核生成归一化的注意力权重；
步骤2-5-2：通过每个样本的卷积核由根据注意力动态聚合的多个并行的卷积核而生成，表达式为：
式中：*是卷积操作，表示sigmoid激活函数，/>是可训练的参数；
步骤2-6：基于MLP预测航空发动机RUL：
采用堆叠的FC层作为MLP将输入映射到隐藏的向量空间，来预测最终的RUL，表达式为：；
式中：Relu表示激活函数；
步骤三：进行模型训练与测试：
基于步骤一中得到的预处理后的数据，采用RMSE损失函数、Adagrad优化器和早停方法，对步骤二中所构建的网络进行训练与测试。
本发明相对于现有技术具备的有益效果为：本发明提出的航空发动机剩余寿命预测方法是一种深度学习方法，不依赖特定对象的广泛先验知识，无需建立精确的物理模型，基于交互学习的方式获得时空增强特征并感知动态过程，最终用于寿命预测；该方法实现了航空发动机寿命预测，可拓展应用于多种重工业、轻工业设备寿命预测，如机械设备、轴承、电池等；该预测方法具有先进性、稳定性和实用性，RUL预测准确度高，在涡扇发动机C-MAPSS四个子数据集上得到了显著的性能提升。
附图说明
下面结合附图对本发明做进一步说明：
图1为本发明基于时空增强和动态感知的寿命预测流程图；
图2为本发明采用的寿命预测模型；
图3为本发明空间模块的结构示意图；
图4为本发明动态感知模块的结构示意图。
具体实施方式
如图1至图4所示，本发明具体提供一种基于时空增强和动态感知网络的航空发动机剩余寿命预测方法，该预测方法的主要步骤包括：
基于交互学习的总体框架设计：将原始时间序列降采样并分解为奇、偶序列，子序列在保留原始数据大部分信息的同时，降低了序列的冗余性。此外，为了弥补潜在的信息损失，提出了交互学习的方式以允许两个子序列间进行信息交换；
空间模块捕获空间依赖关系：设计空间模块融合多传感器数据，在每一个时间步强化重要特征，弱化非重要特征；
时间模块捕获不同时序模式，由时序关系提取和时序模式增强子模块组成：时序关系提取针对奇、偶序列分支分别利用卷积和自注意力网络捕获局部和全局时序依赖关系；时序模式增强弥补由于降采样造成的子序列潜在的信息损失；
动态感知模块获取时序数据演化模式：利用动态卷积网络突破了传统时间分析模型样本参数共享的局限性，动态加权多个卷积核使得卷积参数随着输入而更新，从而感知了时序数据的动态变化过程；
航空发动机寿命预测：先后通过空间模块、时间模块和动态感知模块获得的表征是对原始数据的增强表示，进而利用MLP对航空发动机进行剩余使用寿命预测。
实验表明，与现有技术相比，本发明提出的方法在开放涡扇发动机数据集C-MAPSS上提高了28%的预测精度，是一种有效的航空发动机寿命预测方法。
为了更清晰的阐述并解释本发明的目的、措施方案和关键要点，以下结合附图对本发明提出的方法展开详细介绍：
本发明的主要目的是实现航空发动机的剩余使用寿命预测。附图1所示为本发明的剩余使用寿命预测算法整体流程图，附图2为模型框架图，附图3和附图4分别为空间模块图示和动态感知模块图示。先介绍本发明的研究问题与总体的算法流程，再详细说明各模块的设计细节，其具体实施方式如下：
一、问题定义：
对于发动机RUL预测任务，其输入为多源时间序列，可表示为，其中/>，T表示历史时间步的长度，N表示传感器的数量，对应的输出是每个时间步的预测RUL/>。任务目标是通过建立RUL和历史传感器数据间的映射关系来实时预测发动机RUL，并构建映射函数/>，如下：
。
二、模型框架：
本发明提出一种基于时空增强和动态感知的深度学习模型，并用于航空发动机RUL预测，模型框架如图2所示。首先，原始时间序列数据被分解为奇、偶序列，并分别进入空间模块以挖掘多源序列潜在相关性。然后，时间模块将捕捉时序依赖关系，并补充子序列潜在的信息损失。将增强表征后的奇、偶序列进行拼接，并输入动态感知模块，获取时序数据的动态演化信息。最后，由MLP进行RUL预测。详细结构和算法步骤如下：
步骤一：进行数据预处理：
步骤1-1：针对航空发动机变化的工作条件对传感器数据产生的实质影响，采用K-means聚类算法基于操作设置获得不同的条件分类，并对每一个类别采用z-score对数据进行标准化处理，处理采用的计算公式为：
；
式中：S表示传感器的集合，C表示条件的集合，i和j分别表示第i个传感器和第j个条件分类，和/>分别表示第j个条件分类下第i个传感器的平均值和标准差，/>和/>分别表示标准化前和标准化后的数据；
步骤1-2：采用指数加权移动平均法对原始数据进行平滑处理，减少传感器数据局部震荡的影响，处理采用的计算公式为：
；
式中：表示/>滤波后的值，a表示滤波系数，t表示时间步；
步骤二：构建基于时空增强和动态感知的深度神经网络模型：
模型采用基于交互学习的总体框架设计：多源时间序列X被划分为两个子序列和/>，子序列的时间分辨率较粗，但保留了原始序列的大部分信息，同时也降低了原始序列的冗余性。为了补偿降采样所造成的潜在的信息损失，提出了一种新的交互学习策略，以允许两个子序列之间的信息交换。以/>为例，其相比于原始序列，完全丢失了偶元素所携带的时间信息，这些信息大部分可能是冗余的，但也无法排除少部分信息对于RUL预测是至关重要的。因此，通过信息交互方式，对于/>所丢失的重要时间信息进行了补充，以减少潜在的信息损失；
步骤2-1：对原始多源时间序列X降采样，在时间维度上分别取奇、偶元素，将其划分为奇序列和偶序列/>两个子序列；
步骤2-2：小波分解。小波分解是一种常用于信号处理的方法，它可以将一个信号分解成多个不同频率的子信号。在小波分解中，每一层分解都会产生两个分量：高频分量和低频分量。对于信号处理来说，高频分量通常包含噪声或细节信息，而低频分量则包含信号的主要特征。传感器数据往往受到噪声干扰，时间序列的依赖关系容易被这些噪声所掩盖，因此，本发明首先采用小波分解进行滤波，只保留数据的低频部分以减少噪声干扰。本发明使用以下两个函数分解时间序列：
式中：和/>分别表示分解后的低频分量和高频分量，/>表示sigmoid激活函数，是可训练的参数，i表示小波分解的次数，本发明中/>；
奇序列和偶序列/>通过小波分解获得低频分量，分别表示为/>和/>，表达式为：
式中：表示步骤2-2中小波分解过程；
步骤2-3：利用空间模块挖掘多变量隐含关系。来源于不同传感器的多源时间序列通常存在着隐含的关联，协同计算会有效提升RUL预测精度。此外，这些关联性是随着时间变化而发生改变的，即在不同的时间步，对于预测起到关键作用的的传感器是不同的。本发明引入空间模块（图3），以确认在每一个时间步哪些变量是重要的并融合这些信息获得空间增强表示，同时去除可能对预测产生负面影响的不必要的输入：
步骤2-3-1：空间模块SM以门控单元Gate为基本构建块，控制信息的传递，Gate表达式为：
；
式中：W,V为可训练的参数，b,c为对应的偏置项，表示sigmoid激活函数，/>表示元素乘积；
步骤2-3-2：在每个时间步，使用单独的空间模块SM网络进行变量选择与融合，令表示第i个变量在时间t的输入向量，/>是在时间t被拉平的输入向量，选择权重通过Gate单元和Softmax层来生成，表达式为：
；
步骤2-3-3：在每个时间步，输入向量通过自己的Gate单元进行生成，表达式为：
；
每个变量都有自己的Gate，其权重在所有时间步长t上共享；
步骤2-3-4：对处理后的特征通过权重向量进行加权操作，并按如下计算方式进行组合：
；
式中：是向量/>的第i个元素；
和/>分别通过SM网络融合多源信息，以获得空间增强表示，表达式为：
步骤2-4：基于时间模块捕获时序依赖关系，并弥补子序列潜在的信息损失：
步骤2-4-1：提取时序关系。时间序列内部的非线性依赖关系通常呈现为局部和全局时间模式的复杂混和，协同计算会有效提升RUL预测精度。由于对原始序列采用了奇、偶序列的划分方式，两个分支分别被用来学习这两种不同的时间模式；
针对采用1D卷积神经网络提取时间维度局部依赖关系，表达式为：
；
其中*表示卷积运算，和/>为可训练的参数，激活函数/>；
针对采用自注意力机制提取时间维度全局依赖关系，表达式为：
；
式中：为超参数；
步骤2-4-2：增强时序模式。时序模式增强旨在弥补由于序列降采样和小波分解所造成潜在的信息损失；不同于空间增强中对变量进行选择和融合，该模块利用SM网络对时间步进行选择和融合。具体而言，对于，其内部丢失的潜在信息包括偶元素携带的时间信息以及部分重要的高频分量，将/>的转置输入SM网络以对每个变量可能丢失的重要时间步进行选择，并将其与/>拼接，表达式为：
式中：表示拼接操作；
获得的和/>是对原始奇、偶序列/>、/>的时空增强表示，将/>和拼接，作为该模块的最终输出，表达式为：
；
步骤2-5：利用动态感知模块获取时序数据的动态演化过程。时间序列的统计规律随着时间的位移而发生变化，这一现象可以描述为时间序列的动态演化过程。传统的深度学习方法中，批处理样本中的参数共享，这基于以下假设：批次内的多个样本，即多条时间序列服从相近的统计分布。然而，由于这不同的样本是随着滑动窗口形成的一系列的时间序列，每一条序列都应有各自的训练参数。因此，本发明创新性的将图像中动态卷积的思想应用于时间序列，来实现这一过程（图4）：
步骤2-5-1：每个样本通过Attention模块，全局空间信息首先被平均池化压缩，然后使用全连接层和softmax来为k个卷积核生成归一化的注意力权重；
步骤2-5-2：通过每个样本的卷积核由根据注意力动态聚合的多个并行的卷积核而生成，表达式为：
式中：*是卷积操作，表示sigmoid激活函数，/>是可训练的参数；
步骤2-6 基于MPL预测航空发动机RUL：
为了使模型得到充分的训练，使用堆叠的FC层将输入映射到隐藏的向量空间。同时，过多的参数可能会导致过拟合问题，因此使用双层FC结构作为MLP来预测最终的RUL，表达式为：
；
式中：Relu表示激活函数；
步骤三：进行模型训练与测试：
基于步骤一中得到的预处理后的数据，采用RMSE损失函数、Adagrad优化器和早停方法，对步骤二所构建的网络进行训练与测试；
本发明具体公开一种基于时空增强和动态感知的深度学习模型，并用于航空发动机寿命预测；采用交互学习的总体框架设计，将冗余的时间序列分解为奇、偶子序列，并允许子序列间进行信息交互以弥补潜在的信息损失；本发明引入空间模块学习多传感器隐含关系，对每一个时间步均进行特征选择与融合，学习随时间变化的空间潜在关联信息；本发明引入时间模块提取时序依赖关系，奇、偶子序列分支分别采用卷积和自注意力网络捕获局部和全局时间模式；本发明采用动态感知模块获取时序数据演化模式，利用动态卷积网络突破了传统时间分析模型样本参数共享的局限性，感知了时序数据的动态变化过程；最后针对增强后的数据表征利用MLP获得航空发动机剩余寿命预测。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (1)
1.一种航空发动机剩余寿命预测方法，其特征在于：包括如下预测步骤：
步骤一：进行数据预处理：
步骤1-1：针对航空发动机变化的工作条件对传感器数据产生的实质影响，基于操作设置采用K-means聚类算法获得不同的条件分类，并对每一个类别采用z-score对数据进行标准化处理，处理采用的计算公式为：
；
式中：S表示传感器的集合，C表示条件的集合，i和j分别表示第i个传感器和第j个条件分类，和/>分别表示第j个条件分类下第i个传感器的平均值和标准差，/>和/>分别表示标准化前和标准化后的数据；
步骤1-2：采用指数加权移动平均法对原始数据进行平滑处理，减少传感器数据局部震荡的影响，处理采用的计算公式为：
；
式中：表示/>滤波后的值，a表示滤波系数，t表示时间步；
步骤二：构建基于时空增强和动态感知的深度神经网络模型：
步骤2-1：对原始多源时间序列X降采样，在时间维度上分别取奇、偶元素，将其划分为奇序列和偶序列/>两个子序列；
步骤2-2：采用小波分解提取数据的低频部分，在保留数据主要特征的同时以减少噪声干扰，使用下述函数分解时间序列：
式中：和/>分别表示分解后的低频分量和高频分量，/>表示sigmoid激活函数，是可训练的参数，i表示小波分解的次数；
奇序列和偶序列/>通过小波分解获得低频分量，分别表示为/>和/>，表达式为：
式中：表示步骤2-2中小波分解过程；
步骤2-3：基于空间模块挖掘多变量隐含空间关系，以确认每一个时间步中重要的变量，并融合这些信息获得空间增强表示，同时去除对预测产生负面影响的不必要输入：
步骤2-3-1：空间模块SM以门控单元Gate为基本构建块，控制信息的传递，Gate表达式为：
；
式中：W,V为可训练的参数，b,c为对应的偏置项，表示sigmoid激活函数，/>表示元素乘积；
步骤2-3-2：在每个时间步，使用单独的空间模块SM网络进行变量选择与融合，令表示第i个变量在时间t的输入向量，/>是在时间t被拉平的输入向量，选择权重通过Gate单元和Softmax层来生成，表达式为：
；
式中：是权重向量；
步骤2-3-3：在每个时间步，输入向量均通过自己的Gate单元，表达式为：
；
每个变量都有自己的Gate，各个变量的权重在所有时间步长t上共享；
步骤2-3-4：对处理后的特征通过权重向量进行加权操作，并按如下计算方式进行组合：
；
式中：是向量/>的第i个元素；
和/>分别通过空间模块SM网络融合多源信息，以获得空间增强表示，表达式为：
步骤2-4：基于时间模块捕获时序依赖关系，并弥补子序列潜在的信息损失：
步骤2-4-1：提取时序依赖关系：
针对采用1D卷积神经网络提取时间维度局部依赖关系，表达式为：
；
式中：*表示卷积运算，和/>为可训练的参数，激活函数/>；
针对采用自注意力机制提取时间维度全局依赖关系，表达式为：
式中：为超参数；
步骤2-4-2：补充时序损失信息，弥补由于序列降采样和小波分解所造成潜在的信息损失，利用SM网络对时间步进行选择和融合：
对于，其内部丢失的潜在信息包括偶元素携带的时间信息以及高频分量，将/>的转置输入SM网络以对每个变量可能丢失的重要时间步进行选择，并将其与/>拼接，计算表达式为：
式中：表示拼接操作；
获得的和/>是对原始奇、偶序列/>、/>的时空增强表示，将/>和/>拼接，作为该模块的最终输出，表达式为：
；
步骤2-5：利用动态感知模块(DM)获取时序数据的动态演化过程，以快速适应不同时间段的模式变化：
步骤2-5-1：每个样本通过Attention模块，全局空间信息首先被平均池化压缩，然后使用全连接层和softmax来为k个卷积核生成归一化的注意力权重；
步骤2-5-2：通过每个样本的卷积核由根据注意力动态聚合的多个并行的卷积核而生成，表达式为：
式中：*是卷积操作，表示sigmoid激活函数，/>是可训练的参数；
步骤2-6：基于MLP预测航空发动机RUL：
采用堆叠的FC层作为MLP将输入映射到隐藏的向量空间，来预测最终的RUL，表达式为：；
式中：Relu表示激活函数；
步骤三：进行模型训练与测试：
基于步骤一中得到的预处理后的数据，采用RMSE损失函数、Adagrad优化器和早停方法，对步骤二中所构建的网络进行训练与测试。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311098405.9A CN117113843B (zh) | 2023-08-29 | 2023-08-29 | 一种航空发动机剩余寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311098405.9A CN117113843B (zh) | 2023-08-29 | 2023-08-29 | 一种航空发动机剩余寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117113843A true CN117113843A (zh) | 2023-11-24 |
| CN117113843B CN117113843B (zh) | 2024-06-07 |
Family
ID=88803690
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311098405.9A Active CN117113843B (zh) | 2023-08-29 | 2023-08-29 | 一种航空发动机剩余寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117113843B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080004839A1 (en) * | 2004-06-14 | 2008-01-03 | Papadimitriou Wanda G | Autonomous Remaining Useful Life Estimation |
| CN112131760A (zh) * | 2019-11-04 | 2020-12-25 | 中国人民解放军国防科技大学 | 基于cbam模型的航空发动机剩余寿命预测方法 |
| CN114492184A (zh) * | 2022-01-21 | 2022-05-13 | 北京科技大学 | 一种时频域分析航空发动机剩余使用寿命预测方法及装置 |
| CN115618733A (zh) * | 2022-10-24 | 2023-01-17 | 大连理工大学 | 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法 |
| CN115994630A (zh) * | 2023-03-24 | 2023-04-21 | 山东大学 | 基于多尺度自注意力的设备剩余使用寿命预测方法及系统 |
-
2023
- 2023-08-29 CN CN202311098405.9A patent/CN117113843B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080004839A1 (en) * | 2004-06-14 | 2008-01-03 | Papadimitriou Wanda G | Autonomous Remaining Useful Life Estimation |
| CN112131760A (zh) * | 2019-11-04 | 2020-12-25 | 中国人民解放军国防科技大学 | 基于cbam模型的航空发动机剩余寿命预测方法 |
| CN114492184A (zh) * | 2022-01-21 | 2022-05-13 | 北京科技大学 | 一种时频域分析航空发动机剩余使用寿命预测方法及装置 |
| CN115618733A (zh) * | 2022-10-24 | 2023-01-17 | 大连理工大学 | 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法 |
| CN115994630A (zh) * | 2023-03-24 | 2023-04-21 | 山东大学 | 基于多尺度自注意力的设备剩余使用寿命预测方法及系统 |
Non-Patent Citations (1)
| Title |
|---|
| 刘翠琴 等: "一种考虑多通道检测数据的航空发动机剩余寿命预测方法", 《机械科学与技术》, 26 April 2023 (2023-04-26), pages 1 - 13 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117113843B (zh) | 2024-06-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Yu et al. | Convolutional long short-term memory autoencoder-based feature learning for fault detection in industrial processes | |
| Cheng et al. | Machine health monitoring using adaptive kernel spectral clustering and deep long short-term memory recurrent neural networks | |
| Costa et al. | Variational encoding approach for interpretable assessment of remaining useful life estimation | |
| Zheng et al. | Long short-term memory network for remaining useful life estimation | |
| Su et al. | An end-to-end framework for remaining useful life prediction of rolling bearing based on feature pre-extraction mechanism and deep adaptive transformer model | |
| Chackravarthy et al. | Intelligent crime anomaly detection in smart cities using deep learning | |
| Che et al. | Hybrid multimodal fusion with deep learning for rolling bearing fault diagnosis | |
| Behera et al. | Generative adversarial networks based remaining useful life estimation for IIoT | |
| CN111340282B (zh) | 基于da-tcn的设备剩余使用寿命的估计方法及系统 | |
| CN113405799B (zh) | 基于健康状态指标构建和故障预警限自学习的轴承早期故障检测方法 | |
| Ellefsen et al. | Validation of data-driven labeling approaches using a novel deep network structure for remaining useful life predictions | |
| Xu et al. | A novel dual-stream self-attention neural network for remaining useful life estimation of mechanical systems | |
| Shen et al. | Remaining useful life prediction of rolling bearing based on multi-head attention embedded Bi-LSTM network | |
| Yu et al. | Wafer map defect recognition based on deep transfer learning-based densely connected convolutional network and deep forest | |
| Remadna et al. | RUL prediction using a fusion of attention-based convolutional variational autoencoder and ensemble learning classifier | |
| CN113671421A (zh) | 一种变压器状态评估与故障预警方法 | |
| Zhang et al. | Gated recurrent unit-enhanced deep convolutional neural network for real-time industrial process fault diagnosis | |
| CN114282443A (zh) | 基于mlp-lstm有监督联合模型的剩余使用寿命预测方法 | |
| Wang et al. | Self-supervised Health Representation Decomposition based on contrast learning | |
| Wu et al. | Using convolution neural network for defective image classification of industrial components | |
| Qin et al. | Remaining useful life prediction using temporal deep degradation network for complex machinery with attention-based feature extraction | |
| Kandemir et al. | Evidential turing processes | |
| Lang et al. | Data augmentation for fault prediction of aircraft engine with generative adversarial networks | |
| CN117113843B (zh) | 一种航空发动机剩余寿命预测方法 | |
| Dang et al. | seq2graph: Discovering dynamic non-linear dependencies from multivariate time series |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |