CN116662743A - 一种基于多模态深度学习的发动机剩余寿命预测方法 - Google Patents
一种基于多模态深度学习的发动机剩余寿命预测方法 Download PDFInfo
- Publication number
- CN116662743A CN116662743A CN202310777852.0A CN202310777852A CN116662743A CN 116662743 A CN116662743 A CN 116662743A CN 202310777852 A CN202310777852 A CN 202310777852A CN 116662743 A CN116662743 A CN 116662743A
- Authority
- CN
- China
- Prior art keywords
- data
- attention
- channel
- engine
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000013135 deep learning Methods 0.000 title claims abstract description 18
- 230000007246 mechanism Effects 0.000 claims abstract description 30
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 21
- 238000012549 training Methods 0.000 claims abstract description 15
- 230000004927 fusion Effects 0.000 claims abstract description 12
- 238000007781 pre-processing Methods 0.000 claims abstract description 6
- 238000004140 cleaning Methods 0.000 claims abstract description 5
- 238000011176 pooling Methods 0.000 claims description 22
- 230000006870 function Effects 0.000 claims description 19
- 238000012360 testing method Methods 0.000 claims description 9
- 238000010606 normalization Methods 0.000 claims description 6
- 239000013598 vector Substances 0.000 claims description 6
- 230000015556 catabolic process Effects 0.000 claims description 5
- 238000006731 degradation reaction Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 claims description 5
- 238000013507 mapping Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 4
- 238000001914 filtration Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 3
- 230000000737 periodic effect Effects 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 abstract description 7
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 208000023445 Congenital pulmonary airway malformation Diseases 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008033 biological extinction Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T90/00—Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation
Abstract
本发明公开一种基于多模态深度学习的发动机剩余寿命预测方法，包括以下步骤：获取航空发动机全生命周期的多模态数据；对数据进行清洗和预处理；构建通道空间混合注意力层；使用卷积神经网络、门控机制和多条局部连接构建训练的模型；使用构建的模型进行训练，保存模型。本发明采用多模态融合的方式综合利用不同模态数据的信息，充分挖掘数据的潜在关联性，以提高模型的鲁棒性和准确性；同时，卷积神经网络作为特征提取和建模的工具，具有较强的适应能力，能够自动学习数据的时空特征，有效提高了预测精度；门控机制GLU的引入，使得模型能够自适应学习不同特征的权重，进一步提高了模型的鲁棒性和准确性。
Description
技术领域
本发明属于发动机技术领域，具体涉及一种基于多模态深度学习的发动机剩余寿命预测方法。
背景技术
发动机是航空、航天、汽车等领域中至关重要的设备之一。随着发动机使用时间的增长和工作环境的恶劣，发动机的寿命会逐渐减少，而发动机寿命的预测可以帮助维护人员在维修和更换设备之前做好准备，减少意外事故的发生。
在发动机剩余寿命预测的研究中，传统方法通常采用机械振动信号、油液分析等方式来评估发动机的健康状况，但这些方法存在着精度不高、成本较高等缺点。近年来，随着深度学习的兴起，利用深度学习进行发动机剩余寿命预测的研究也逐渐受到了广泛的关注。
然而，现有的基于多模态深度学习的发动机剩余寿命预测方法易存在以下问题：(1)单一模态数据的局限性：现有方法大多只使用了某一种或少数几种数据模态进行预测，无法充分利用发动机多种类型的数据来提高预测精度；
(2)特征提取能力不足：现有的特征提取方法难以提取到发动机复杂多变的内部状态信息，对于某些异常情况的预测效果不佳；
(3)模型复杂度高：现有方法中使用的多个模型需要独立训练和融合，增加了系统的复杂度和训练的难度，并且预测精度有限，现有方法往往无法准确预测发动机的剩余寿命，误差较大，无法满足实际工程需求；以及
(4)如何选择最合适的深度学习网络结构，如何处理不同模态数据之间的融合等问题。
发明内容
本发明在于提供一种基于多模态深度学习的发动机剩余寿命预测方法，采用多模态融合的方式，通过将不同模态的数据进行多模态融合，充分挖掘数据的潜在关联性，以解决现有技术在发动机寿命预测中存在的准确性不高、依赖专家经验和数据量较小等技术问题。提高预测的准确性和鲁棒性。同时，利用卷积神经网络和门控机制GLU构建模型，提高模型的自适应能力。
一种基于多模态深度学习的发动机剩余寿命预测方法，包括以下步骤：
S1：获取航空发动机全生命周期的多模态数据；
S2：对数据进行清洗和预处理；
S3：构建通道空间混合注意力层；
S4：使用卷积神经网络、门控机制和多条局部连接构建训练的模型；
S5：使用构建的模型进行训练，保存模型。
进一步地，所述步骤S2中对数据的清洗和预处理包括：
S21:对传感器的数据进行筛选，剔除与发动机退化无关的数据和剔除不随发动机运行的工作循环数变化数据；
S22：建立平滑窗口，滑动平均滤波对周期性的噪声具有抑制作用，在当前时刻的附近建立一个一维窗口，以该滑动窗口内的平均值作为当前时刻的值，其具体公式为：
其中，表示滤波得到的t时刻值，xt为t时刻的测量值，M表示方法滑动窗口长度；
S23:对传感器的数据进行归一化处理，将各种传感器的数据范围限定在[0，1]，其具体的公式为：
其中，xi(t)表示发动机物理状态的第i个传感器在t时刻监测的数据，max(xi)表示第i个传感器所有样本中的最大值，min(xi)表示第i个传感器所有样本中的最小值，x′i(t)表示第i个传感器归一化后的数据；
S24:使用皮尔逊系数计算传感器数据与发动机全周期数据的相关性，其相关权重系数作为多模态输入的初始权重，加快模型收敛速度，其公式为：
其中，和/>分别表示时间序列xi和yi的均值，rxy指的是x和y的皮尔逊相关系数；
S25:对处理后的数据进行划分样本，以一定的比例划分训练集、验证集和测试集，每个样本对应的剩余寿命值为最后一个时刻对应的剩余寿命。
进一步的，所述步骤S3中通道空间混合注意力层包括通道注意力分支和空间注意力分支：
在通道注意力分支中，通过一个全局平均池化层得到每个通道的全局平均值，并经过两个全连接层分别学习通道的权重系数，将通道权重系数乘以原始的特征图，即可得到加权后的特征图，从而实现通道注意力机制；
在空间注意力分支中，通过全局平均池化层和全连接层学习每个空间位置的权重系数，将权重系数应用于原始的特征图上，即可得到加权后的特征图，从而实现空间注意力机制；
将通道注意力分支和空间注意力分支得到的特征图进行按位加权融合，得到最终的注意力加权结果。
进一步地，所述通道注意力分支为不同的通道特征分配了额外的权重信息，包括：
R1:利用全局平均和最大平均，将各部分映射到矢量，并将其长度作为特征维度，即：
其中，Xc(i,j)表示第C个通道Xc在空间位置(i,j)的值，Hap和Hmp分别表示全局平均池化和最大池化函数，表示输入的特征图，gac和gmc使用全局平均和最大平均将各部分映射到矢量上；
R2:特征图从C×H×W到C×1×1改变形状，为了获得不同通道的权重函数，特征图通过了两个全连接层、一个ReLU激活函数层δ和一个Sigmoid层σ，即：
其中，CAac，CAmc分别是平均池化和最大池化的通道注意力权重，CAc是最后输出的通道注意力权重，W1,W2,W3,W4表示全连接层的权重，表示元素相加；
R3:通道注意力的输出Fc *为：
其中，表示元素相乘。
进一步地，所述空间注意力分支采用两个卷积层进行空间信息融合，获得空间维度上的基本特征，特征图Fc *依次成功通过两个卷积层、批量归一化层η、ReLU函数层和Sigmoid函数层，
空间注意力权重PA为：
PA＝σ(η(conv(δ(η(conv(Fc *))))))，
空间注意力的输出为：
进一步地，所述步骤S4中门控机制利用CNN模型的并行性，在CNN之后增加一个输出阈值，即：
其中，W和V表示不同的卷积核，b和c表示偏差，h表示门控机制函数。
与现有技术相比，本发明有以下优点：
(1)传统的剩余寿命预测方法通常只使用单一类型的传感器数据，而本发明基于多模态深度学习的方法可以同时利用多种不同类型的传感器数据，如温度、压力、振动等，从不同角度全面分析发动机的状态信息，提高了预测精度和可靠性；结合多种传感器数据，提高了剩余寿命预测的精度和鲁棒性；
(2)采用了门控机制GLU和CPAM混合注意力层，优化了特征提取和建模过程；GLU可以在保证模型复杂度的情况下，减少模型的参数数量，提高模型的泛化能力；CPAM混合注意力层可以对不同特征图的通道和空间信息进行加权，提高模型对于不同特征的关注度和特征表达能力，进一步提升了剩余寿命预测精度。
附图说明
图1为本发明的方法流程图；
图2为本发明混合注意力结构示意图；
图3为本发明门控结构GLU图；
图4为本发明卷积神经网络和门控机制的模型图；
图5为本发明测试集中第24发动机的RUL预测结果。
具体实施方式
下面结合附图对本发明一种基于多模态深度学习的发动机剩余寿命预测方法作进一步说明。
如图1所示，一种基于多模态深度学习的发动机剩余寿命预测方法，包括以下步骤：
步骤一：采集多模态数据：收集发动机的多种传感器数据，包括振动、温度、压力等信息以及对应的航空发动机全周期数据。本实例的数据来自于NASA爱姆斯中心发布的涡扇式航空发动机的退化数据集，该数据集基于商用航空推进系统仿真器C-MAPSS生成，C-MAPSS给出了一个推力在90000磅级的两轴涡扇发动机部件级模型，并能够模拟飞机在飞行高度从海平面到40000英尺、马赫数从0到0.9以及海平面温度从-60到103°F的飞行条件下运行。
NASA提供的数据集包含4个不同的子数据集，每个子数据集又包含训练集、测试集以及一个对应测试集发动机剩余寿命的RUL集。本实例选择了FD001数据集作为本发明的数据集，其训练集与测试集均包含100台发动机数据，包含总共33000以上的飞行循环数的发动机状态数据。
FD001数据集中的发动机数据训练集与测试集结构相同(RUL集与这两者不同，仅有一行数据，分别对应测试集每台发动机的剩余寿命)，是一个包含26列数据的数组，其中第一列表示数据集中不同发动机的标号，第二列是各发动机运行的时间以循环数表示，第3～5列给出模拟发动机运行的三个不同操作状态分别为发动机运行的海拔、飞机飞行的马赫数以及飞机的油门角度，第6-26列数据是C-MAPSS平台模拟运行得到的发动机运行到故障的21个传感器的测量值，其具体参数如下表所示：
步骤二：对传感器数据进行清洗和预处理。对采集到的原始数据进行清洗和预处理，包括去除异常数据、归一化处理、对不同数据类型的特征提取等，如滤波、降采样等操作，以减少噪声和数据冗余，便于后续的模型训练和结果预测。
具体如下：
剔除不合格数据：对所有传感器的数据进行筛选，在监测发动机状态的传感器中，并不是所有的传感器数据都包含发动机退化的信息，因此有必要对传感器数据进行筛选，剔除掉明显与退化无关的数据；对传感器数据进行可视化处理，其中剔除不随发动机运行的工作循环数变化数据。
建立平滑窗口：航空发动机运行工况变化十分复杂，内部处于高温高压状态，因此安装在航空发动机内部的传感器无法准确获取对应发动机参数的数值，加上数据传输的误差，采集到的发动机状态检测数据往往含有异常值和噪声，在这些噪声的影响下，传感器的数据通常不能精确反映发动机的状态；基于此，滑动平均滤波对周期性的噪声具有良好的抑制作用，其思想是在当前时刻的附近建立一个一维窗口，以该滑动窗口内的平均值作为当前时刻的值，其具体公式为：
其中，表示滤波得到的t时刻值，xt为t时刻的测量值，M表示方法滑动窗口长度。
对传感器的数据进行归一化处理：由于不同传感器的量程和精度以及监测的物理特性不同，为了消除数据的范围和不规范对最后预测效果的影响和提高预测的精度，对所有传感器的数据进行归一化处理，将各种传感器的数据范围限定在[0，1]，其具体的公式为：
其中，xi(t)表示发动机物理状态的第i个传感器在t时刻监测的数据，max(xi)表示第i个传感器所有样本中的最大值，min(xi)表示第i个传感器所有样本中的最小值，表示第i个传感器归一化后的数据。
使用皮尔逊系数计算传感器数据与发动机全周期数据的相关性：考虑到数据的维度过高易导致数据的冗余，故需要剔除无关数据的属性，减少模型的训练时间，从而提高预测的精度。本发明使用皮尔逊系数计算传感器数据与发动机全周期数据的相关性，其公式为：
其中，和/>分别表示时间序列xi和yi的均值，rxy指的是x和y的皮尔逊相关系数。
划分样本：对归一化的数据进行划分样本，以7：1：2的比例划分训练集、验证集和测试集，每个样本对应的剩余寿命值为最后一个时刻对应的剩余寿命。
步骤三：构建通道空间混合注意力层。通过采用多模态深度学习模型，将多种数据类型的特征进行融合，以获取更全面、准确的特征信息。
如图2所示，通道空间混合注意力层是一种用于卷积神经网络的注意力层，能够自适应地对不同空间维度的特征进行加权。通道空间混合注意力层是通道注意力机制和空间注意力机制的结合，旨在进一步提升卷积神经网络的特征表示能力。即通道空间混合注意力层由两个分支组成，一个分支实现通道注意力机制，另一个分支实现空间注意力机制，两个分支最终融合得到最终的注意力加权结果。
在通道注意力分支中，通过一个全局平均池化层得到每个通道的全局平均值，并经过两个全连接层分别学习通道的权重系数。将这些通道权重系数乘以原始的特征图，即可得到加权后的特征图，从而实现通道注意力机制。
在空间注意力分支中，使用类似通道注意力分支的方法，通过全局平均池化层和全连接层学习每个空间位置的权重系数。将这些权重系数应用于原始的特征图上，即可得到加权后的特征图，从而实现空间注意力机制。
最后，将通道注意力分支和空间注意力分支得到的特征图进行按位加权融合，得到最终的注意力加权结果。通道空间混合注意力层的优点是可以自适应地对不同的空间维度和通道维度的特征进行加权，从而更加灵活地进行特征表示和特征提取。
通道注意力分支为不同的通道特征分配了额外的权重信息：
首先，利用全局平均和最大平均，将各部分映射到矢量，并将其长度作为特征维度，即
其中，Xc(i,j)表示第C个通道Xc在空间位置(i,j)的值，Hap和Hmp分别表示全局平均池化和最大池化函数，表示输入的特征图，gac和gmc使用全局平均和最大平均将各部分映射到矢量上。
其次，特征图从C×H×W到C×1×1改变形状。为了获得不同通道的权重函数，特征图通过了两个全连接层、一个ReLU激活函数层δ和一个Sigmoid层σ，即
其中，CAac，CAmc分别是平均池化和最大池化的通道注意力权重，CAc是最后输出的通道注意力权重，W1,W2,W3,W4表示全连接层的权重，表示元素相加。
最后，通道注意力的输出Fc *为：
其中，表示元素相乘。
考虑到特征图在空间维度上的信息，采用两个卷积层进行空间信息融合，获得空间维度上的基本特征，基于池化操作导致信息损失的事实，这里去掉了池化操作以进一步保留映射特征。与通道注意力一样，特征图Fc *依次成功通过两个卷积层、批量归一化层η、ReLU函数层和Sigmoid函数层；
故空间注意力权重PA为：
PA＝σ(η(conv(δ(η(conv(Fc *))))))，
空间注意力的输出为：
因此，结合通道注意机制和空间注意混合模块，充分考虑了全局信息，可以有效地突出特征图中的有价值信息。
步骤四：使用卷积神经网络、门控机制和多条局部连接来构建训练的模型，其中卷积神经网络的基本块结构使用ResNet-18结构，ResNet-18的创新之处在于引入了跳跃连接，即将输入特征直接加到输出特征上，使得网络能够更容易地学习残差(即网络输出与输入之间的差异)。这种设计有助于缓解梯度消失的问题，并且允许更深的网络结构。ResNet-18相比于传统的深度网络，具有更好的训练效果和更少的参数量。ResNet-18在计算机视觉任务中广泛应用，如图像分类、目标检测和图像分割等领域。它的结构简单、有效，并且具有较好的性能和泛化能力。如图3和图4所示，在卷积神经网络方面，本发明使用了多种类型的卷积层，包括普通卷积层、扩张卷积层、平均池化层和最大池化层等，这些卷积层可以从不同的方面提取特征，并通过组合在一起来形成更具表现力和准确性的模型；在门控机制方面，该方法使用了双向门控线性单元，这是一种基于门控机制的激活函数；通过将正向和反向的信息整合在一起，有效地捕获序列中的上下文信息，并帮助模型更好地学习时间序列数据中的动态特征。
门控线性单元(GLU)在CNN中取得了巨大的成功，类似于递归神经网络的门控机制，利用CNN模型的并行性，在CNN之后增加一个输出阈值；而考虑到局部残差关联可以保留输入的更多细节，门控线性单元和局部残差关联的创新组合使得模型可以充分利用信息或专注于关键信息，即
其中，W和V表示不同的卷积核，b和c表示偏差，h表示门控机制函数。
通过结合卷积神经网络和门控机制，本发明能够从多个模态的数据中提取丰富的特征，并建立更加准确和稳健的剩余寿命预测模型。
步骤五：判断是否达到设定的迭代次数400，若是，则进行下一步骤；若否，则更新参数，继续训练。
步骤六：对训练好的模型在FD001数据集上，进行测试，其中编号为24发动机的RUL预测结果，如图五所示。其中，预测的结果与真实的结果相差不大，较之采用的模型结构简单，鲁棒性较强，具有较大的应用落地价值。
步骤七：保存模型。
本发明方法的技术原理主要包括以下步骤：首先，利用多个传感器获取发动机工作时产生的振动、温度、压力等多种类型的数据，得到不同模态的数据；其次，将这些数据分别经过预处理和特征提取，将得到的特征作为输入，利用卷积神经网络对不同模态数据进行建模，提取数据的时序和空间特征，进而得到不同模态的特征表示；然后，采用门控机制GLU对不同模态特征进行融合，通过自适应学习不同特征的权重，得到融合后的特征表示；最后，将融合后的特征表示输入到预测模型中进行剩余寿命预测，预测结果为发动机剩余可用寿命，从而为发动机维修保养提供依据。
综上可知，本发明采用多模态融合的方式综合利用不同模态数据的信息，充分挖掘数据的潜在关联性，以提高模型的鲁棒性和准确性；同时，卷积神经网络作为特征提取和建模的工具，具有较强的适应能力，能够自动学习数据的时空特征，有效提高了预测精度；门控机制GLU的引入，使得模型能够自适应学习不同特征的权重，进一步提高了模型的鲁棒性和准确性。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (6)
1.一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，该方法包括以下步骤：
S1：获取航空发动机全生命周期的多模态数据；
S2：对数据进行清洗和预处理；
S3：构建通道空间混合注意力层；
S4：使用卷积神经网络、门控机制和多条局部连接构建训练的模型；
S5：使用构建的模型进行训练，保存模型。
2.根据权利要求1所述的一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，所述步骤S2中对数据的清洗和预处理包括：
S21:对传感器的数据进行筛选，剔除与发动机退化无关的数据和剔除不随发动机运行的工作循环数变化数据；
S22：建立平滑窗口，滑动平均滤波对周期性的噪声具有抑制作用，在当前时刻的附近建立一个一维窗口，以该滑动窗口内的平均值作为当前时刻的值，其具体公式为：
其中，表示滤波得到的t时刻值，xt为t时刻的测量值，M表示方法滑动窗口长度；
S23:对传感器的数据进行归一化处理，将各种传感器的数据范围限定在[0，1]，其具体的公式为：
其中，xi(t)表示发动机物理状态的第i个传感器在t时刻监测的数据，max(xi)表示第i个传感器所有样本中的最大值，min(xi)表示第i个传感器所有样本中的最小值，x′i(t)表示第i个传感器归一化后的数据；
S24:使用皮尔逊系数计算传感器数据与发动机全周期数据的相关性，其相关权重系数作为多模态输入的初始权重，加快模型收敛速度，其公式为：
其中，和/>分别表示时间序列xi和yi的均值，rxy指的是x和y的皮尔逊相关系数；
S25:对处理后的数据进行划分样本，以一定的比例划分训练集、验证集和测试集，每个样本对应的剩余寿命值为最后一个时刻对应的剩余寿命。
3.根据权利要求1所述的一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，所述步骤S3中通道空间混合注意力层包括通道注意力分支和空间注意力分支：
在通道注意力分支中，通过一个全局平均池化层得到每个通道的全局平均值，并经过两个全连接层分别学习通道的权重系数，将通道权重系数乘以原始的特征图，即可得到加权后的特征图，从而实现通道注意力机制；
在空间注意力分支中，通过全局平均池化层和全连接层学习每个空间位置的权重系数，将权重系数应用于原始的特征图上，即可得到加权后的特征图，从而实现空间注意力机制；
将通道注意力分支和空间注意力分支得到的特征图进行按位加权融合，得到最终的注意力加权结果。
4.根据权利要求3所述的一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，所述通道注意力分支为不同的通道特征分配了额外的权重信息，包括：
R1:利用全局平均和最大平均，将各部分映射到矢量，并将其长度作为特征维度，即：
其中，Xc(i,j)表示第C个通道Xc在空间位置(i,j)的值，Hap和Hmp分别表示全局平均池化和最大池化函数，表示输入的特征图，gac和gmc使用全局平均和最大平均将各部分映射到矢量上；
R2:特征图从C×H×W到C×1×1改变形状，为了获得不同通道的权重函数，特征图通过了两个全连接层、一个ReLU激活函数层δ和一个Sigmoid层σ，即：
其中，CAac，CAmc分别是平均池化和最大池化的通道注意力权重，CAc是最后输出的通道注意力权重，W1,W2,W3,W4表示全连接层的权重，表示元素相加；
R3:通道注意力的输出Fc *为：
其中，表示元素相乘。
5.根据权利要求4所述的一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，所述空间注意力分支采用两个卷积层进行空间信息融合，获得空间维度上的基本特征，特征图Fc *依次成功通过两个卷积层、批量归一化层η、ReLU函数层和Sigmoid函数层，
空间注意力权重PA为：
PA＝σ(η(conv(δ(η(conv(Fc *))))))，
空间注意力的输出为：
6.根据权利要求1所述的一种基于多模态深度学习的发动机剩余寿命预测方法，其特征在于，所述步骤S4中门控机制利用CNN模型的并行性，在CNN之后增加一个输出阈值，即：
其中，W和V表示不同的卷积核，b和c表示偏差，h表示门控机制函数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310777852.0A CN116662743A (zh) | 2023-06-29 | 2023-06-29 | 一种基于多模态深度学习的发动机剩余寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310777852.0A CN116662743A (zh) | 2023-06-29 | 2023-06-29 | 一种基于多模态深度学习的发动机剩余寿命预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116662743A true CN116662743A (zh) | 2023-08-29 |
Family
ID=87726189
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310777852.0A Pending CN116662743A (zh) | 2023-06-29 | 2023-06-29 | 一种基于多模态深度学习的发动机剩余寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116662743A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117054891A (zh) * | 2023-10-11 | 2023-11-14 | 中煤科工(上海)新能源有限公司 | 电池寿命的预测方法、预测装置 |
| CN117874527A (zh) * | 2024-03-11 | 2024-04-12 | 陕西省气候中心 | 一种多模式数据融合的深度学习预测方法 |
-
2023
- 2023-06-29 CN CN202310777852.0A patent/CN116662743A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117054891A (zh) * | 2023-10-11 | 2023-11-14 | 中煤科工(上海)新能源有限公司 | 电池寿命的预测方法、预测装置 |
| CN117874527A (zh) * | 2024-03-11 | 2024-04-12 | 陕西省气候中心 | 一种多模式数据融合的深度学习预测方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112131760B (zh) | 基于cbam模型的航空发动机剩余寿命预测方法 | |
| CN110555479B (zh) | 基于1dcnn与gru融合的故障特征学习与分类方法 | |
| CN116662743A (zh) | 一种基于多模态深度学习的发动机剩余寿命预测方法 | |
| CN108304661B (zh) | 基于tdp模型的诊断预测方法 | |
| CN108960303B (zh) | 一种基于lstm的无人机飞行数据异常检测方法 | |
| CN114266278B (zh) | 一种基于双重注意力网络的设备剩余使用寿命预测方法 | |
| CN114282579A (zh) | 基于变分模态分解和残差网络的航空轴承故障诊断方法 | |
| CN110609524A (zh) | 一种工业设备剩余寿命预测模型及其构建方法和应用 | |
| CN115017826B (zh) | 一种装备剩余使用寿命预测方法 | |
| CN113847950A (zh) | 基于云计算的智能船舶设备状态监测系统及信息交互方法 | |
| CN114330517A (zh) | 一种基于神经网络的航空发动机传感器故障自诊断方法 | |
| CN114297918A (zh) | 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 | |
| Liao et al. | Nonparametric and semi-parametric sensor recovery in multichannel condition monitoring systems | |
| CN114357372A (zh) | 一种基于多传感器数据驱动的飞机故障诊断模型生成方法 | |
| Pan et al. | A meta network pruning framework for remaining useful life prediction of rocket engine bearings with temporal distribution discrepancy | |
| CN114169091A (zh) | 工程机械部件剩余寿命的预测模型建立方法及预测方法 | |
| CN117609836A (zh) | 一种综合模块的电磁敏感预测与健康管理方法 | |
| CN115618732B (zh) | 核反应堆数字孪生关键参数自主优化数据反演方法 | |
| CN116842379A (zh) | 一种基于DRSN-CS和BiGRU+MLP模型的机械轴承剩余使用寿命预测方法 | |
| CN116384224A (zh) | 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法 | |
| CN116402777A (zh) | 基于机器视觉的电力设备检测方法及系统 | |
| CN115017984A (zh) | 一种航空发动机故障风险预警方法及系统 | |
| CN112560252B (zh) | 一种航空发动机剩余寿命预测方法 | |
| Kozlenko et al. | Software implemented fault diagnosis of natural gas pumping unit based on feedforward neural network | |
| Soni et al. | Predictive maintenance of gas turbine using prognosis approach |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |