CN116384224A - 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法 - Google Patents

一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法 Download PDF

Info

Publication number
CN116384224A
CN116384224A CN202310188482.7A CN202310188482A CN116384224A CN 116384224 A CN116384224 A CN 116384224A CN 202310188482 A CN202310188482 A CN 202310188482A CN 116384224 A CN116384224 A CN 116384224A
Authority
CN
China
Prior art keywords
data
engine
rul
prediction
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310188482.7A
Other languages
English (en)
Inventor
徐建国
胥嘉诚
詹美佳
张赟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202310188482.7A priority Critical patent/CN116384224A/zh
Publication of CN116384224A publication Critical patent/CN116384224A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/04—Ageing analysis or optimisation against ageing
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T90/00—Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Geometry (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于条件化参数动态卷积神经网络(CondCNN)的航空发动机寿命预测方法。包括，步骤1：对航空发动机监测数据进行数据分析，实现工况识别及故障分类，并结合相关性分析筛选高价值传感器信息；步骤2：对传感器数据进行归一化处理，并构建训练样本，训练样本包括训练集与测试集；步骤3：构建条件化参数动态卷积神经网络，作为剩余使用寿命(RUL)预测模型，并将训练集输入预测模型进行训练；步骤4：将测试集数据输入步骤3训练完成的模型，预测发动机剩余寿命，并评估预测误差。本发明克服了传统卷积神经网络对所有输入数据共享卷积核参数的缺点，有效提升了RUL预测精度，可为航空发动机PHM工程提供技术参考。

Description

一种基于条件化参数动态卷积神经网络的航空发动机寿命预 测方法
技术领域
本发明涉及航空发动机领域，具体涉及一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法。
背景技术
为了提高航空发动机维护效率、减少部件资源的浪费、降低维护费用、切实保障发动机运行的可靠性，以美国为首的航空发达国家均开展了航空发动机预测与健康管理(Prognostics and Health Management，PHM)系统的研究与开发工作。PHM系统结合了信息技术和人工智能等领域的最新研究成果，主要通过对传感器监测数据的挖掘及提取特征信息的管理，实现对航空发动机的故障诊断与隔离、系统性能实时监测与故障预测、发动机剩余寿命预测与健康管理等功能。
剩余使用寿命预测是PHM系统的核心技术，是连接故障预测和健康管理的关键一环，是现代工业智能制造的核心组成部分。精确的RUL预测技术可以在发动机发生故障前判断发动机性能退化状态并提前做出失效预警，从而进行及时检修，降低故障发生的概率，变定期维修为主动维修，避免传统维护手段中维修不及时导致事故以及过度维修导致浪费的现象。随着PHM技术在航空领域的迅猛发展，技术进步从飞机的单部件的剩余寿命预测已扩展至航空发动机整机可用寿命预测，如何实现精准的RUL预测已经成为近年来的一大研究热点。
RUL预测原理是根据设备当前的健康状态、工作环节及载荷、状态监视信息等，结合物理失效模型、历史性能退化数据、故障诊断信息等，从而对部件或者系统整体的剩余使用寿命进行评估。随着RUL预测技术的不断发展，按照RUL预测的发展顺序可以大致分为如下几类：基于专家经验的预测方法、基于物理模型的预测方法、基于数据驱动的预测方法。其中数据驱动方法，不需要根据复杂的物理失效机理建立物理模型，操作起来更为简便；且经过充分训练的模型能具有较好的泛化性能，因而目前受到广泛的应用。
将深度学习应用于航空发动机剩余寿命预测，对提升航空发动机剩余寿命预测技术水平，并提高航空发动机实际运行时的可靠性与安全性具有重要意义。深度学习预测算法一方面保留了其作为数据驱动方法的原本优势：即不需要对航空发动机专业的先验知识，而只关注传感器数据信息并进行挖掘与整合就可以实现寿命预测；另一方面，深度学习模型又具备着传统的机器学习算法浅层模型所不具备的强大的自适应特征提取能力与非线性函数关系映射能力，能够实现对剩余寿命更高精度的预测。
基于深度学习开展航空发动机剩余寿命预测，在提高数据处理效率的同时，可有效提升RUL预测精度；且深度学习框架模型有更强的泛化能力，可以提高预测方法对不同型号及故障类型的通用性，具有重要的工程意义。其中，卷积神经网络作为深度学习的经典框架，凭借其出色的特征提取能力在航空发动机RUL预测领域也得到了广泛应用。但以往的基于卷积神经网络的RUL预测方法中，卷积核参数在训练过程中对所有输入数据共享，这会使预测模型对发动机多源传感器数据特征的数据挖掘能力下降，而通过扩展卷积核通道数、增加卷积层层数等手段来扩充模型容量又容易导致预测模型的参数量过大，进而导致模型实时计算产生较大延迟，不利于模型的实际部署。
发明内容
为了克服现有基于卷积神经网络的航空发动机RUL预测技术的不足，本发明提出一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法。首先对航空发动机数据进行数据分析，筛选出能有效反映发动机退化趋势的高价值传感器信息；然后引入条件动态卷积层CondConv，克服传统卷积层对于所有样本数据共享参数的缺陷，最后利用训练完成的CondCNN模型实现对航空发动机寿命的预测。
本发明采用的技术方案包括以下步骤：
步骤1：对航空发动机监测数据进行数据分析，实现工况识别及故障分类，并结合相关性分析筛选高价值传感器信息：
步骤1.1：对传感器获取的航空发动机状态检测参数原始数据进行数据分析，具体内容包括：传感器类别、传感器监测数据类型及其变化趋势、缺失数据及异常数据分析、传感器数据与发动机寿命相关性分析、多传感器变量联合分布分析；
步骤1.2：根据步骤1.1.分析结果，判断原始数据是否存在变工况发动机运行条件，并结合相关性系数矩阵及多变量联合分布图判断监测发动机的退化趋势及故障类型；
步骤1.3：根据步骤1.2分析结果，如数据中有多种运行工况，采用K-Means++算法对工况进行聚类分析，将运行条件相近的工况聚至同一类并生成对应工况标签，在按不同工况标签对原始数据作Z-Score标准化；若仅为单一运行工况，跳至步骤1.5；
步骤1.4：对经过聚类分析并标准化后的变工况数据重复步骤1.1；
步骤1.5：结合上述所有步骤的数据分析结果，选取所有传感器中能较好反映发动机退化趋势的时序数据作为后续预测模型使用的传感器特征数据。
进一步的，步骤1.1通过Python Pandas工具实现将数据集转化为DataFrame格式，以便通过seaborn plot工具对所有传感器类别、传感器监测数据类型及其变化趋势、缺失数值及异常数值进行批量分析；
进一步的，传感器时序数据与发动机寿命相关性分析通过计算各列数据的皮尔逊相关系数实现，其中，皮尔逊相关系数r的计算公式为：
Figure SMS_1
式中xi与yi代表不同列的第i个时间点的数据，n代表当前数据列的时间步长，
Figure SMS_2
与
Figure SMS_3
代表当前列的数据平均值。计算得到的皮尔逊相关系数r的取值范围为[-1，1]，当r＞0时为正相关，r＜0时为负相关，r＝0时表示完全不相关。通过Seaborn heatmap绘制相关性热力图辅助分析不同列传感器数据与发动机寿命的相关性，一般而言，当|r|＜＝0.3时，表示变量间不存在线性相关；当0.3≤|r|≤0.5时，表示变量间存在低度线性关系；当0.5≤|r|≤0.8时，认为变量间存在中度线性关系；当|r|＞0.8时，认为变量间存在高度线性关系；当|r|＞0.95时，认为变量间存在显著线性关系。
进一步的，多传感器变量联合分布分析通过Seaborn pair_plot工具绘制变量联合分布可视化图实现，以直观分析不同传感器数据随时间变化的相关退化趋势。
进一步的，可根据单台发动机的多变量联合分布图及相关性热力图，对图中反映出不同故障的发动机单元预先进行故障样本分类，为后续模型训练提供便利。
进一步的，步骤1.3中使用的K-Means++算法为K-Means算法的优化算法，具体特征为：
K-Means聚类算法为机器学习领域常用的无监督聚类算法，通过计算各数据点间的欧式距离将数据划分为指定数目的分簇，当两个目标的距离越近，相似度越大，有更大概率被划分至同一分簇中。算法具体步骤如下：
1.随机选取初始化的k个样本作为初始聚类中心a＝a1，a2，…，ak；
2.针对数据集中每个样本xk计算它到k个聚类中心的距离，并将每个样本对应分到距离最近的聚类中心所对应的类中；
3.针对每个类别aj新计算该类别所有样本的聚类中心；其中，aj的计算公式为：
Figure SMS_4
4.重复上述步骤2和步骤3，直到迭代次数n、最小误差minE其中任意一项达到终止条件。
其中最小误差的计算公式为：
Figure SMS_5
由K-Means的实现步骤可知，其中选取的初始化样本分簇聚类中心数目k对最终聚类效果的影响较大，聚类结果对初始的聚类中心十分敏感，算法迭代计算时易陷入局部最优解；此外，K-Means对数据异常值敏感，对数据分布较为离散、样本类别不均衡、数据中存在噪声干涉等情况的聚类效果不佳。
K-Means++为K-Means的优化版本，其核心思想为逐个选取初始聚类中心，且距离其它聚类中心越远的样本点有更大的可能被选为下一个聚类中心，从而避免聚类结果陷入局部最优解，具体步骤如下：
1.从数据集中随机选取一个样本点作为第一个初始聚类中心；
2.计算所有尚未选择的样本与当前已有聚类中心之间的最短欧式距离，用D(x)表示；
3.计算每个样本点被选为下一个聚类中心的概率P(x)，并选择最大概率值所对应的样本点作为下个聚类中心；其中P(x)的计算公式为：
Figure SMS_6
4.重复步骤2、3，直至选取出k个聚类中心；
5.在选取出k个聚类中心后，按照K-Means的标准步骤进行聚类。
进一步的，步骤1.3中使用的Z-Score标准化方法，其计算公式如下：
Figure SMS_7
式中，
Figure SMS_8
为原始数据均值，σ为原始数据标准差，经Z-Score标准化的数据xi *均值为0，标准差为1。
进一步的，步骤1.5选取特征传感器的主要准则为，传感器数据于寿命间的皮尔逊相关系数绝对值|r|应大于0.5，且其数据中应不含缺失值，数据分布应为连续的能够反映发动机退化趋势性的时序记录。
步骤2：对传感器数据进行归一化处理，并构建训练样本，训练样本包括训练集与测试集；
步骤2.1：对步骤1获取的传感器原始数据进行归一化处理；
步骤2.2：对步骤2.1处理后的传感器特征数据设置RUL标签，将发动机恰退化至故障时的RUL标签设置为0，并按发动机运行循环数逆时序逐次增大RUL标签值；
步骤2.3：对步骤2.2设置的RUL标签采用分段线性函数处理，将发动机退化早期阶段RUL设置为R，并设置发动机RUL标签在经过R后开始线性降低，直至退化末次循环寿命为0，其中，R应小于数据集中所有发动机数据样本中的最小循环数；
步骤2.4：将步骤2.3处理后的数据进一步划分为训练数据和测试数据；
步骤2.5：采用滑窗操作将步骤2.4得到的训练数据和测试数据进一步划分为长度相等的短序列样本，作为后续预测模型使用的训练集及测试集，其中，所使用滑窗大小应不大于测试集样本的最小循环数。
进一步的，步骤2.1使用的归一化方法为最大最小值归一化，处理后的数据将被缩放至[0，1]之间，其计算公式如下：
Figure SMS_9
式中，xi为数据列中未经标准化的原始数据，xmax和xmin分别代表原始数据中的最大值和最小值，xi *为标准化后的数据。
优选的，步骤2.3中，当全数据集中所有发动机数据样本中的最小循环数≥125时，分段标签R取125；当全数据集中所有发动机数据样本中的最小循环数＜125时，R按样本的最小寿命循环数计。
进一步的，步骤2.4中划分训练数据和测试数据，其特征在于：训练集中每台发动机单元的最后一组数据都应记录其故障失效的末次循环；测试集传感器数据记录应在系统故障前的某个随机循环终止，以供于预测待测发动机单元的剩余使用寿命。
优选的，当测试集样本的最小循环数≥30时，步骤2.5中采用的滑窗大小优先设置为30；而当测试集样本的最小循环数＜30时，滑窗大小应设置为测试集样本最小寿命循环数。
步骤3：构建条件化参数动态卷积神经网络，作为剩余寿命预测模型；再将步骤2的训练集输入预测模型进行训练；
步骤3.1：构建CondCNN神经网络框架，网络结构依次包括卷积层Conv1、条件动态卷积层CondConv1-4，单核卷积层Conv6，以及全连接层FC1与FC2，其中，6个卷积层的卷积核大小依次为l1，l2，l3，l4，l5，l6，卷积通道数依次为c1，c2，c3，c4，c5，c6，全连接层dropout设置为p，节点数依次为z1，z2；
步骤3.2：进一步确定条件动态卷积层CondConv的参数，其中，路由函数r(X)中降维率设置为r，专家权数设置为n，并设置CondCNN网络采用GELU函数对神经元进行激活；
步骤3.3：初始化CondCNN模型参数，然后将步骤2的训练集作为CondCNN网络的输入，在Pytorch深度学习环境下对网络进行训练，通过Adam算法实现批次训练，批次大小为b，初始学习率lr设置为k，通过反向传播优化模型参数，直至达到设置的最大训练回合数N。
优选的，步骤3.1网络结构中，卷积核参数l1＝l2＝l3＝l4＝l5＝[10×1]，l6＝[3×1]，c1＝1，c2＝c3＝c4＝c5＝10，c6＝1，全连接层参数p＝0.5，z1＝100，z2＝1。
进一步的，步骤3.2使用动态卷积层CondConv，其特征在于，其动态卷积计算方式如下：
设条件动态卷积层的输入为X，条件动态卷积通过路由函数r(X)计算输入样本X的路由权重ai＝r(X)，用于区分输入样本信息的差异。路由函数经三个步骤实现：全局平均池化层GAP、降维率为r的全连接层、Sigmoid激活层，其中，r(X)计算公式如下：
r(X)＝Sigmoid(GAP(X)R)
式中，GAP为全局平均池化，R为可学习的路由权重矩阵，将经GAP操作的输入X映射至n个专家权重，之后根据n个专家的线性组合来计算卷积层的输出Y，其计算公式如下：
Y＝σ((α1W1+…+αnWn)*X)
式中，ai为由路由函数通过反向传播学习得到的权值，Wi代表不同的卷积核，σ为激活函数。综上，CondConv具有与常规的静态卷积中n个卷积核线性混合相同的容量，但是只需要计算一个集成的条件化参数卷积，而不需要对所有数据共享所有卷积核参数，因此可有效提高预测精度与计算效率。
优选的，步骤3.2中路由函数r(X)中降维率设置为r＝4，专家权数设置为n＝4。
进一步的，步骤3.2中使用GELU函数，其特征在于：GELU是ReLU的优化变种。ReLU的缺点在于：该分段线性函数在间断点处不可导，且ReLU函数激活后的数据均值不为0，往往需要额外加入随机正则化以提高模型性能。GELU函数结合了Dropout的思想，将激活参数0或1的取值概率与输入的激活值相结合，使非线性激活函数本身具有随机正则性，从而克服了ReLU的缺点，其公式如下：
GELU(x)＝x*P(X≤x)＝x*Ф(x)
其中，Ф(x)为高斯正态分布的累计函数，其具体公式为：
Figure SMS_10
其中，μ和σ分别为由输入数据计算得到的均值和标准差。激活前的输入x与计算得到的二项式分布Ф(x)相乘，从而使神经网络在激活值越小的情况下，其所乘以的激活参数值为1的概率也越小。从而既保留了概率性，又保留了对输入的依赖性。此外，为便捷表示并绘制曲线，GELU函数可以近似表示为：
Figure SMS_11
对于较大的x＞0的输入，GELU与ReLU类似，都为线性输出；对于较小的x＜0的输入，GELU的输出为0，也与ReLU类似；而当输入x接近于0时，GELU为连续的非线性输出，且具有可导性，可以起到更好的激活效果。
进一步的，步骤3.3中初始化CondCNN模型参数采用均匀分布初始化方法，训练损失Loss函数为RMSE计算公式如下：
Figure SMS_12
式中，/>
Figure SMS_13
表示第i个数据点发动机剩余寿命预测值/>
Figure SMS_14
和寿命标签值RULi之差，N为当前训练批次样本数目。
优选的，对于训练流程，批次大小b＝256，初始学习率lr设置为0.001，最大训练回合数N设置为250。
步骤4：将测试集数据输入步骤3训练完成的模型，预测发动机剩余寿命(RUL)，并评估预测误差。
进一步的，步骤4所采用的RUL预测误差评估方法，其特征在于RMSE与Score的计算公式分别为：
Figure SMS_15
Figure SMS_16
式中，
Figure SMS_17
表示第i台发动机的预测值/>
Figure SMS_18
和真实值RULi之差，n为进行预测RUL的发动机总数。RMSE与Score数值越小，都说明预测误差越小；二者区别在于，误差绝对值相同时，RMSE具有无偏性，而Score在RUL预测值大于实际值时会得到更大的惩罚分数，更符合航空发动机维护中预测剩余寿命时更倾向于采取保守估计工程实际。但单个异常值会导致Score受很大影响，使预测算法的整体性能被低估。故采用RMSE与Score共同对RUL预测结果进行综合评估可更精确评价RUL预测效果。
本发明的有益效果在于：
本发明航空发动机寿命预测方法一方面通过数据分析与挖掘实现了对发动机传感器原始监测数据的工况识别与故障分类，并结合相关性分析及可视化图手段，排除了冗余数据并筛选出更能表征发动机退化趋势的特征传感器信息，为RUL预测模型的训练提供了助力；另一方面，所提出的CondCNN神经网络预测模型采用了动态卷积层CondConv，克服了传统卷积神经网络对所有特征输入共享权重的缺陷，并结合性能更好的GELU激活函数，有效增强了神经网络的回归预测能力，从而提升了航空发动机RUL预测的精度。得益于对原始传感器数据的深度数据分析及挖掘以及CondCNN可对不同输入生成条件化参数特征的优势，本发明适合于多种情形的航空发动机RUL预测，具有实际工程参考价值。
附图说明
附图用于进一步深入解释本发明，并构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。
图1为本发明方法流程图；
图2为单工况单故障FD001数据集中所有传感器数据分布特征；
图3为多工况单故障FD002数据集中编号#5发动机的原始传感器数据时序记录；
图4为经聚类-标准化后的多工况单故障编号#5发动机的原始传感器数据时序记录；
图5为单故障模式下各传感器数据及发动机寿命的相关性系数热力图示意；
图6为多故障模式下部分传感器数据与寿命的变量联合分布；
图7为条件化参数卷积神经网络模型结构；
图8为条件动态卷积层结构；
图9为各测试集所有发动机寿命预测结果；
图10为各测试集所有发动机寿命预测误差频数分布；
图11为各测试集依次抽取的编号24，134，64，49发动机单元的寿命预测曲线；
具体实施方式
本实施例使用美国国家航空航天局NASA公开的C-MAPSS大型商用涡扇发动机退化数据集验证本发明提出的方法。该数据集模拟涡扇发动机的主要气路部件从随机的健康初始状态，经历不同运行的工况条件及不同故障模式，随运行时间推移发动机性能不断退化直到发动机发生故障的过程，并对发动机性能退化过程中的多个工作状态参数进行监测记录。
C-MAPSS数据集的传感器监测记录为26列时序数据，第1列为发动机单元编号，第2列为对应编号发动机的运行循环数，用作寿命度量；第3至5列依次为飞行高度(h/kft)、马赫数(Ma)及油门角度(TRA)，用于组成发动机运行的不同工况条件；第6至26列为编号1至21的传感器的测值，详细描述见下表1。表中°R表示兰式度，psia表示磅/平方英寸，rpm表示转/分，1bm/s表示磅/秒。
表11 C-MAPSS数据集传感器说明
Figure SMS_19
C-MAPSS数据集包含FD001至FD004共4个不同设定条件下通过仿真生成的数据子集。其中，FD001和FD002对应高压压气机退化单一故障模式，并分别包含1种与6种工况条件；FD003和FD004对应高压压气机退化及风扇退化两种故障模式，也分别包含1种与6种工况。C-MAPSS每个子集都包含训练集和测试集：训练集每台发动机单元的最后一组数据记录对应其故障失效的末次循环；测试集的传感器数据记录在系统故障前的某个循环终止，并用于预测测试集中每个发动机单元的剩余使用寿命；此外，测试集还提供了每台发动机的实际剩余寿命，以便对RUL预测效果进行评估。由于各发动机初始健康状态随机，且经历了不同的工况运行循环和故障模式，发动机性能退化速率也存在明显差异，因而各台发动机单元由健康运行至失效所经历的循环数也存在明显差异，详见下表2。
表2 C-MAPSS数据集各子集信息说明
Figure SMS_20
为体现本发明方法的优势，对4个不同运行工况及故障种类的子集均开展RUL预测。RUL预测流程如图1，分为四个步骤。首先，按步骤1对各子集进行数据分析与挖掘。首先将将数据集转化为DataFrame形式，以进行数据批量分析与挖掘，并利用Seaborn可视化数据分析工具，对发动机退化过程中多个传感器数据的相关性、变量分布、趋势性等特征作详细分析，探究其与发动机RUL间的深层联系。实施例中仅展示出部分具有代表性的数据分析图，分别如下：
附图2为通过Seaborn dist_plot工具绘制的FD001单工况单故障FD001数据集变量分布图，用于反映数据子集中所有传感器数据的变量分布特征。图3为多工况单故障FD002数据集中抽取的编号#5发动机的原始传感器数据时序记录，用于体现变工况条件下传感器原始数据难以反映发动机退化趋势；图4为经过K-mean++聚类与Z-Score标准化处理后的FD002数据集中编号#5发动机的传感器数据时序记录，处理过后的数据能够良好的体现退化趋势性，说明该操作可有效处理变工况原始数据。图5为单故障模式下各传感器数据及发动机寿命的相关性系数热力图示意，可用于辅助筛选与RUL退化相关的高价值传感器。图6为多故障模式下部分传感器数据与寿命的变量联合分布，直观体现出多故障子集中存在两种不同退化趋势，可用于辅助进行故障分类。经上面一系列分析与处理后，得到编号[2，3，4，7，8，9，11，12，13，14，15，17，20，21]共计14个传感器的数据记录将作为CondCNN的特征输入。
然后，对数据分析得到的14个传感器特征数据进行预处理，采用最大最小归一化将量纲不同的各列数据归一化至[-1，1]，然后根据表2信息，设置分段线性标签的R＝125，并依次采用滑窗尺寸为30，20，30，19的滑动时间窗操作分别对四个子集分割训练集样本和测试集样本。
之后，建立CondCNN网络模型，其结构如图7，依次包括卷积层Conv1、条件动态卷积层CondConv1-4，单核卷积层Conv6，以及全连接层FC1-2，其中，卷积层的核大小依次为l1＝l2＝l3＝l4＝l5＝[10×1]，l6＝[3×1]；卷积通道数依次为c1＝1，c2＝c3＝c4＝c5＝10，c6＝1，，全连接层dropout设置为p＝0.5，节点数依次为z1＝100，z2＝1z1，z2。条件动态卷积层CondConv结构如图8，根据上述设置来进一步确定条件动态卷积层CondConv的参数，其中，路由函数r(X)中降维率设置为r＝4，专家权数设置为n＝4，并设置CondCNN网络采用GELU函数对神经元进行激活。之后采用均匀分布初始化方法对模型参数进行初始化，并将先前处理好的训练样本按批次输入CondCNN进行训练，其中批次大小b＝256，初始学习率lr设置为0.001并在训练Loss稳定后降至0.0001，最大训练回合数N设置为250，采用Adam算法更新模型参数，直至训练完成。
最后，将测试集的待预测发动机数据输入训练完成的模型进行RUL预测，并统计预测结果与实际寿命标签的误差。图9为各测试集所有发动机寿命预测结果；图10为各测试集所有发动机寿命预测误差频数分布及拟合得到的高斯分布曲线。由图可知，CondCNN的RUL预测误差有过半概率在实际剩余寿命的±10范围内，且误差值为正多数位于退化早期，此时发动机剩余使用寿命充足；而对于绝大多数的退化末期的发动机单元，其RUL预测误差能够较好地反映至[-5，-10]范围。在实际PHM工程中，前者由于定期检修的存在几乎不会导致恶劣后果；而后者却可切实对即将到达寿命尾期临近失效的发动机提前发出警告，并为航空发动机的视情维修提供有力辅助。
图11为各测试子集随机抽取的发动机单元的寿命预测曲线，从FD001-FD004分别抽取编号24，134，64，49共四台发动机单元，用于考察本方法RUL预测的趋势性是否良好。观察各寿命预测曲线不难看出，对于各数据子集，CondCNN的RUL预测曲线均能够体现出航空发动机在运行早期阶段几乎不退化，运行至中后期退化不断加剧的总体趋势特点，且CondCNN对发动机退化趋势末期的预测曲线与寿命标签的契合度较高，并有提前预测发动机失效的趋势。
结合RMSE与Score指标对方法的预测误差进行评估，下表为分别本方法在各测试集的RMSE及Score指标与其他公开方法的对比。在表中给出各项指标的对比中，本方法除FD001子集外的所有指标取得最优，对多工况及多故障模式的RUL预测精度明显高于其他基于卷积神经网络的预测方法，能为航空发动机PHM工程开展RUL预测提供助力。
表3不同方法在C-MAPSS数据集的RMSE指标对比
Figure SMS_21
表4不同方法在C-MAPSS数据集的Score指标对比
Figure SMS_22
/>

Claims (8)

1.一种基于条件化参数动态卷积神经网络(CondCNN)的航空发动机寿命预测方法，其特征在于：包括以下步骤：
步骤1：对航空发动机监测数据进行数据分析，实现工况识别及故障分类，并结合相关性分析筛选高价值传感器信息；
步骤2：对传感器数据进行归一化处理，并构建训练样本，训练样本包括训练集与测试集；
步骤3：构建条件化参数动态卷积神经网络，作为剩余寿命预测模型；再将步骤2的训练集输入预测模型进行训练；
步骤4：将测试集数据输入步骤3训练完成的模型，预测发动机剩余寿命(RUL)，并评估预测误差。
2.根据权利要求1所述的一种基于CondCNN的航空发动机RUL预测方法，其特征在于：所述步骤1包括：
步骤1.1：对传感器获取的航空发动机状态检测参数原始数据进行数据分析，具体内容包括：传感器类别、传感器监测数据类型及其变化趋势、缺失数据及异常数据分析、传感器数据与发动机寿命相关性分析、多传感器变量联合分布分析；
步骤1.2：根据步骤1.1.分析结果，判断原始数据是否存在变工况发动机运行条件，并结合相关性系数矩阵及多变量联合分布图判断监测发动机的退化趋势及故障类型；
步骤1.3：根据步骤1.2分析结果，如数据中有多种运行工况，采用K-Means++算法对工况进行聚类分析，将运行条件相近的工况归至同一类并生成对应工况标签，在按不同工况标签对原始数据作Z-Score标准化；若仅为单一运行工况，跳至步骤1.5；
步骤1.4：对经过聚类分析并标准化后的变工况数据重复步骤1.1；
步骤1.5：结合上述所有步骤的数据分析结果，选取所有传感器中能较好反映发动机退化趋势的时序数据作为后续预测模型使用的传感器特征数据。
3.根据权利要求1所述的一种基于CondCNN的航空发动机RUL预测方法，其特征在于：所述步骤2包括：
步骤2.1：对步骤1获取的传感器原始数据进行归一化处理；
步骤2.2：对步骤2.1处理后的传感器特征数据设置RUL标签，将发动机恰退化至故障时的RUL标签设置为0，并按发动机运行循环数逆时序逐次增大RUL标签值；
步骤2.3：对步骤2.2设置的RUL标签采用分段线性函数处理，将发动机退化早期阶段RUL设置为R，并设置发动机RUL标签在经过R后开始线性降低，直至退化末次循环寿命为0，其中，R应小于所有发动机数据样本中的最小循环数；
步骤2.4：将步骤2.3处理后的数据进一步划分为训练数据和测试数据；
步骤2.5：采用滑窗操作将步骤2.4得到的训练数据和测试数据进一步划分为长度相等的较短序列样本，作为后续预测模型使用的训练集及测试集，其中，所使用滑窗大小应不大于测试集样本中的最小循环数。
4.根据权利要求1所述的一种基于CondCNN的航空发动机RUL预测方法，其特征在于：所述步骤3包括：
步骤3.1：构建CondCNN神经网络框架，网络结构依次包括卷积层Conv1、条件动态卷积层CondConv1-4，单核卷积层Conv6，以及全连接层FC1与FC2，其中，6个卷积层的卷积核大小依次为l1，l2，l3，l4，l5，l6，卷积通道数依次为c1，c2，c3，c4，c5，c6，全连接层dropout设置为p，节点数依次为z1，z2；
步骤3.2：进一步确定条件动态卷积层CondConv的参数，其中，路由函数r(X)中降维率设置为r，专家权数设置为n，并设置CondCNN网络采用GELU函数对神经元进行激活；
步骤3.3：初始化CondCNN模型参数，然后将步骤2的训练集作为CondCNN网络的输入，在Pytorch深度学习环境下对网络进行训练，通过Adam算法实现批次训练，批次大小为b，初始学习率lr设置为k，通过反向传播优化模型参数，直至达到设置的最大训练回合数N。
5.根据权利要求1所述的一种基于条件化参数动态卷积神经网络(CondCNN)的航空发动机寿命预测方法，其特征在于：所述步骤4包括：将测试集数据输入步骤3训练完成的模型，预测待测发动机RUL，并采用RMSE及Score指标对寿命预测误差进行评估。
6.根据权利要求2所述的一种航空发动机传感器数据分析方法，其特征在于：所述步骤1.1通过Python Pandas工具实现将数据集转化为DataFrame格式，以便对所有传感器类别、传感器监测数据类型及其变化趋势、缺失数值及异常数值进行批量分析；此外，传感器数据与发动机寿命相关性分析通过计算各列数据的皮尔逊相关系数实现，其中，皮尔逊相关系数的计算公式为：
Figure FSA0000296666310000021
式中，xi与yi代表不同列的第i个时间步的数据，n代表当前数据列的时间步数，
Figure FSA0000296666310000022
与/>
Figure FSA0000296666310000023
代表当前列数据的平均值。此外，多传感器变量联合分布分析通过Seaborn pair_plot工具绘制变量联合分布可视化图实现，以直观分析不同传感器数据随时间变化的相关退化趋势。
7.根据权利要求4所述的一种CondCNN神经网络，其特征在于：条件动态卷积CondConv的计算方式如下：
设条件动态卷积层的输入为X，条件动态卷积通过路由函数r(X)计算输入样本X的路由权重αi＝r(X)，用于区分输入样本信息的差异。路由函数经三个步骤实现：全局平均池化层GAP、降维率为r的全连接层、Sigmoid激活层，其中，r(X)计算公式如下：
r(X)＝Sigmoid(GAP(X)R)
式中，GAP为全局平均池化，R为可学习的路由权重矩阵，将经GAP操作的输入X映射至n个专家权重，之后根据n个专家的线性组合来计算卷积层的输出Y，其计算公式如下：
Y＝σ((α1W1+…+αnWn)*X)
式中，αi为由路由函数通过反向传播学习得到的权值，Wi代表不同的卷积核，σ为激活函数。综上，CondConv具有与常规的静态卷积中n个卷积核线性混合相同的容量，但是只需要计算一个集成的条件化参数卷积，而不需要对所有数据共享所有卷积核参数，因此可有效提高预测精度与计算效率。
8.根据权利要求5所述的一种RUL预测误差评估方法，其特征在于RMSE与Score的计算公式分别为：
Figure FSA0000296666310000024
Figure FSA0000296666310000025
式中，
Figure FSA0000296666310000026
表示第i台发动机的预测值/>
Figure FSA0000296666310000027
和真实值RULi之差，n为预测RUL的发动机总数。RMSE与Score数值越小，都说明预测误差越小；二者区别在于，误差绝对值相同时，RMSE具有无偏性，而Score在RUL预测值大于实际值时会得到更大的惩罚分数，更符合航空发动机维护中预测剩余寿命时更倾向于采取保守估计工程实际。
CN202310188482.7A 2023-03-01 2023-03-01 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法 Pending CN116384224A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310188482.7A CN116384224A (zh) 2023-03-01 2023-03-01 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310188482.7A CN116384224A (zh) 2023-03-01 2023-03-01 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法

Publications (1)

Publication Number Publication Date
CN116384224A true CN116384224A (zh) 2023-07-04

Family

ID=86962363

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310188482.7A Pending CN116384224A (zh) 2023-03-01 2023-03-01 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法

Country Status (1)

Country Link
CN (1) CN116384224A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117648643A (zh) * 2024-01-30 2024-03-05 山东神力索具有限公司 基于人工智能的索具预测性诊断方法及装置
CN117786586A (zh) * 2024-02-27 2024-03-29 深圳亚太航空技术股份有限公司 一种自锁螺母检测系统及其方法
CN117841751A (zh) * 2024-03-08 2024-04-09 沧州智慧城科技有限公司 基于意图识别的充电枪系统及充电方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117648643A (zh) * 2024-01-30 2024-03-05 山东神力索具有限公司 基于人工智能的索具预测性诊断方法及装置
CN117648643B (zh) * 2024-01-30 2024-04-16 山东神力索具有限公司 基于人工智能的索具预测性诊断方法及装置
CN117786586A (zh) * 2024-02-27 2024-03-29 深圳亚太航空技术股份有限公司 一种自锁螺母检测系统及其方法
CN117786586B (zh) * 2024-02-27 2024-06-11 深圳亚太航空技术股份有限公司 一种自锁螺母检测系统及其方法
CN117841751A (zh) * 2024-03-08 2024-04-09 沧州智慧城科技有限公司 基于意图识别的充电枪系统及充电方法

Similar Documents

Publication Publication Date Title
CN111964908B (zh) 一种基于多尺度权值分配卷积神经网络模型的变工况下轴承故障诊断方法
CN116384224A (zh) 一种基于条件化参数动态卷积神经网络的航空发动机寿命预测方法
CN111340238A (zh) 一种工业系统的故障诊断方法、装置、设备及存储介质
CN111562108A (zh) 一种基于cnn和fcmc的滚动轴承智能故障诊断方法
US11137322B2 (en) Diagnosing method of engine condition and diagnostic modeling method thereof
CN113935406A (zh) 基于对抗流模型的机械设备无监督故障诊断方法
CN112580263A (zh) 基于时空特征融合的涡扇发动机剩余使用寿命预测方法
CN114282579A (zh) 基于变分模态分解和残差网络的航空轴承故障诊断方法
CN114295377B (zh) 一种基于遗传算法的cnn-lstm轴承故障诊断方法
CN116448419A (zh) 基于深度模型高维参数多目标高效寻优的零样本轴承故障诊断方法
CN114297918A (zh) 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法
CN113792758A (zh) 一种基于自监督学习和聚类的滚动轴承故障诊断方法
CN114444582A (zh) 基于卷积神经网络与贝叶斯网络的机械设备故障诊断方法
CN112232370A (zh) 发动机的故障分析预测方法
CN115290326A (zh) 一种滚动轴承故障智能诊断方法
CN115859077A (zh) 一种变工况下多特征融合的电机小样本故障诊断方法
CN114266289A (zh) 一种复杂装备健康状态评估方法
CN114548199A (zh) 一种基于深度迁移网络的多传感器数据融合方法
Zhao et al. A capsnet-based fault diagnosis method for a digital twin of a wind turbine gearbox
CN117785522A (zh) 利用经训练机器学习模型执行根本原因分析的方法和系统
CN115081514A (zh) 一种数据不平衡情况下的工业设备故障识别方法
KR20230075150A (ko) 시스템 건전성을 관리하기 위한 방법 및 장치
CN113505850A (zh) 基于深度学习的锅炉故障预测方法
CN112560252A (zh) 一种航空发动机剩余寿命预测方法
Singh et al. Predicting the remaining useful life of ball bearing under dynamic loading using supervised learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination