CN113297787B - 一种基于迁移学习的航空发动机剩余寿命预测方法 - Google Patents
一种基于迁移学习的航空发动机剩余寿命预测方法 Download PDFInfo
- Publication number
- CN113297787B CN113297787B CN202110514240.3A CN202110514240A CN113297787B CN 113297787 B CN113297787 B CN 113297787B CN 202110514240 A CN202110514240 A CN 202110514240A CN 113297787 B CN113297787 B CN 113297787B
- Authority
- CN
- China
- Prior art keywords
- engine
- data
- sample
- prediction
- service life
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
一种基于迁移学习的航空发动机剩余寿命预测方法,包括如下步骤:对航空发动机多维退化参数进行敏感性分析,筛选出退化敏感参数并进行预处理,以提高数据表达能力;基于动态时间规整算法对待测样本进行可迁移性度量并利用滑动时间窗完成时域敏感数据匹配;基于可迁移性度量结果筛选可迁移样本并计算迁移权重;通过切割可迁移样本数据构造训练数据集;利用各可迁移样本的训练数据训练多个剩余寿命预测模型;基于可迁移权重实现多寿命预测模型的预测结果融合,得到最终预测结果。
Description
技术领域
本发明涉及航空发动机剩余寿命预测技术领域,具体涉及一种基于迁移学习的航空发动机剩余寿命预测方法。
背景技术
航空发动机是飞机最重要的组成部分,由于其结构复杂,工作环境恶劣,因此比起飞机其他部件来说航空发动机的故障模式更加多样,也更易发生故障。对航空发动机剩余使用寿命进行准确的预测,对于提高航空发动机的安全性与可靠性,避免因过度维护产生的维修资源的浪费具有十分重要的意义。
现有的航空发动机剩余使用寿命预测方法可分为基于模型的方法、基于统计分析的方法和基于数据驱动的方法。基于模型的预测方法虽然能够更为精准地反映航空发动机性能退化机理,但由于其对相关先验知识要求较高,建立的模型泛化能力较弱,因此难以在实际工程中大范围使用。基于统计分析的剩余寿命预测方法利用随机模型建模,优点在于量化结果的不确定性,但往往事先需要基于仿真模拟来确定分布函数。基于数据驱动的预测方法主要包括基于时间序列的预测方法、基于回归分析的预测方法和基于神经网络的预测方法。该方法对航空发动机退化机理的认识要求较低,模型灵活性高、适用性广,泛化能力强,目前在工程实际中被大量应用,但存在航空发动机性能退化数据的不易获取和新型航空发动机退化数据不够充分的问题。
虽然上述方法各有优劣,但基于数据驱动的预测方法对航空发动机系统退化机理掌握程度要求较低,模型灵活性高适用性广,因此该方法目前被广泛应用与推广。此外,考虑到现役发动机性能退化数据难以获取或新型发动机退化数据较少的问题。因此,本发明提出了一种基于迁移学习的航空发动机剩余使用寿命预测技术,通过充分利用与待测发动机同型号的相似发动机历史退化数据,建立准确灵活适用性广的模型,进而提高方法的适用性与从较远处进行航空发动机剩余使用寿命预测的精确度。
发明内容
本发明的目的在于公开一种基于迁移学习的航空发动机剩余寿命预测方法,该方法解决的技术问题是,当前基于数据驱动的预测方法退化数据难以获取、工程使用性较差、预测精度低的问题。
为了实现本发明的技术目的,采取如下的技术方案,
一种基于迁移学习的航空发动机剩余使用寿命预测方法,该方法包括如下步骤:
步骤一、敏感参数分析:针对航空发动机多维退化参数,通过敏感性分析,选取若干能反映航空发动机退化性能的监测参数;
步骤二、数据预处理:对筛选出的航空发动机退化性能的监测参数进行数据预处理,提高数据的表达能力与可处理性;
步骤三、基于动态时间规整算法的相似距离计算:对待测发动机从航空发动机历史样本中进行可迁移性度量;
步骤四、基于时域敏感性的相似片段匹配:对待测发动机样本与历史发动机样本进行匹配,筛选与待测样本最为相似的历史样本退化数据片段;
步骤五、相似性评估:在步骤三之后做相似性评估,从历史数据库中筛选出与待测发动机样本最为相似的若干可迁移样本;
步骤六、基于可迁移度的迁移权重计算:计算可迁移样本的迁移权重;
步骤七、基于动态时间窗口的预测模型数据预处理:在步骤四之后做基于动态时间窗口的预测模型数据预处理,对筛选出的各相似样本数据进行数据预处理,构造训练数据;
步骤八、剩余使用寿命预测模型的调参及优化:利用各可迁移样本数据训练基于LSTM神经网络的剩余寿命预测模型;
步骤九、基于多个迁移预测模型的剩余使用寿命预测:利用训练好的若干预测模型对待测样本进行剩余使用寿命预测,得到若干预测结果;
步骤十、基于多个迁移权重的预测结果融合:对步骤六的基于可迁移度的迁移权重计算和步骤九的基于多个迁移预测模型的剩余使用寿命预测结果进行基于可迁移权重的结果融合,得到最终预测结果。
进一步的,步骤二所述的数据预处理方法包括局部散点回归平滑和极大极小值归一化,通过平滑消除数据噪声,通过归一化消除不同监测参数之间的量纲影响。
进一步的,步骤三所述的可迁移性度量基于动态时间规整(DTW)算法实现,动态时间规整(DTW)算法考虑序列趋势上的相似性,通过在时间维度弯曲两序列之间的对应关系,实现两序列之间的错位匹配,从而得到更为准确的可迁移性度量结果。
进一步的,步骤四所述的匹配筛选最相似的历史样本退化数据片段方法为,利用滑动时间窗选取历史发动机样本在不同运行周期处的数据片段进行可迁移性度量,匹配筛选与待测样本最为相似的历史样本退化数据片段。
进一步的,步骤五所述的筛选可迁移样本,以待测样本与历史样本最相似的退化数据片段对应的相似距离作为该历史样本与待测样本之间的相似距离,从历史数据库中筛选出与待测发动机样本最相似的若干可迁移样本。
进一步的,步骤六所述的迁移权重计算方法为,以所筛选所有可迁移样本为全集,对每个迁移样本的相似距离进行归一化处理,处理后的结果即为各样本的可迁移权重。
进一步的,步骤七所述的数据预处理方法为,利用滑动时间窗对所筛选出可迁移样本进行数据切割,窗口每滑动一次则生成一个窗口宽度的数据片段,并且以滑窗末位处运行周期对应的发动机剩余使用寿命作为该窗口数据的剩余使用寿命标签,遍历整个可迁移样本退化特征序列。通过窗口移动则可生成发动机训练数据及其对应的标签。
进一步的,步骤八所述的基于LSTM的寿命预测模型,即该模型的输入为步骤一所筛选的发动机的状态监测参数,输出为该运行周期下对应的剩余使用寿命。
本发明的优点与积极效果在于:
(1)针对现有基于数据驱动的航空发动机剩余寿命预测算法在性能及适用性方面的局限性,提出了一套基于迁移学习的利用历史数据库多维状态参数的航空发动机剩余寿命预测方法。
(2)本发明所提出的基于迁移学习的航空发动机剩余寿命预测方法能对航空发动机进行准确的剩余寿命预测;
(3)相比传统的基于欧式距离的相似距离度量方法,本发明所提出的基于动态时间规整算法的多维参数序列相似距离度量,通过改变两个多维序列在时间轴上的对应关系,从而提高相似性度量的精确度;
(4)相比传统的预测模型,本发明选择基于LSTM神经网络的预测模型能够更好地挖掘航空发动机状态监测参数与剩余使用寿命之间的隐含关系,实现更为准确的剩余使用寿命预测;
(5)本发明所提的基于迁移学习的预测方法能够在现役发动机运行数据量较少的条件下大大提升预测精度;
(6)本发明所提出的方法融合了多个基于可迁移样本的预测结果,和利用单一相似样本数据相比,具有更高的预测精度。
附图说明
图1为本发明基于迁移学习的航空发动机剩余寿命预测方法的方框流程图;
图2为退化轨迹时域敏感性匹配示意图;
图3为滑动时间窗构造训练样本;
图4是测试集3号发动机和训练集25号发动机的T24参数退化轨迹对比图;
图5为动态时间规整算法与欧氏距离的计算路径对比图;
图6A-H为基于时域敏感性平移后的待测发动机和训练集各参数序列对比图,其中:
图6A为T24参数时域匹配图,
图6B为T30参数时域匹配图,
图6C为Ps30参数时域匹配图,
图6D为Phi参数时域匹配图,
图6E为P30参数时域匹配图,
图6F为T50参数时域匹配图,
图6G为BPR参数时域匹配图,
图6H为Nf参数时域匹配图;图7为LSTM模型结构图;
图8为基于训练集25号发动机预测模型的预测结果图;
图9A-J为基于多个可迁移样本训练模型的预测结果图,其中
图9A为基于25号训练发动机数据的预测结果图,
图9B为基于49号训练发动数据的预测结果图,
图9C为基于75号训练发动机数据的预测结果图,
图9D为基于76号训练发动数据的预测结果图,
图9E为基于52号训练发动机数据的预测结果图,
图9F为基于69号训练发动数据的预测结果图,
图9G为基于38号训练发动机数据的预测结果图,
图9H为基于20号训练发动数据的预测结果图,
图9I为基于6号训练发动机数据的预测结果图,
图9J为基于71号训练发动数据的预测结果图;
图10为测试3号发动机相似度与预测精度对比图;
图11为基于迁移学习的预测精度与单个预测模型的预测精度对比图;
图12为各待测航空发动机预测结果图;
图13为剩余寿命预测结果对比图;
图14为剩余寿命预测精度对比图;
图15为剩余寿命预测绝对误差对比图;
图16为现有技术的动态时间规整算法示意图;
图17为LSTM神经单元图。
具体实施方式
本发明所提出的基于迁移学习的航空发动机剩余寿命预测方法流程图,如图1所示。该基于迁移学习的航空发动机剩余寿命预测方法的具体步骤如下:
步骤一、敏感参数分析S1:针对航空发动机的全部状态监测参数开展敏感性分析,从而得到若干可以表征航空发动机性能衰退的监测参数集X={x1,x2,...,xn}
步骤二、数据预处理S2:对筛选出的航空发动机性能退化特征参数序列进行平滑和归一化预处理,可以得到c个预处理后的参数数据X={x1,x2,...xc},c为发动机运行周期数,其中Xc={xc1,xc2,...,xcn}
步骤三、基于动态时间规整算法的相似距离计算S3:对待测发动机从航空发动机历史样本进行基于动态时间规整算法的可迁移性度量。设发动机某运行周期出的待测样本特征序列为Xc={xc1,xc2,...,xcn},历史样本特征序列为:Yc={yc1,yc2,...,ycn},则基于动态时间规整算法计算出的在运行周期i处的相似距离为
D(xi,yj)=Min{d(xi-1,yj-1),d(xi-1,yj),d(xi,yj-1)}+d(xi,yj) (1)
其中,d(xi,yj)=(xi-yj)2
步骤四、基于时域敏感性的相似片段匹配S4:对待测发动机样本与历史发动机样本进行基于滑动时间窗的时域敏感性匹配,图2为退化轨迹时延匹配示意图,如图2所示,
图中,m为待测样本的滑动距离,lf为待测样本的长度,Lf为历史发动机特征序列的长度,m位置处对应的训练集航空发动机的剩余使用寿命为Rul=Lf-(m+lf)。由图可知,理论上滑动距离的最大值mmax为Lf-lf+1。因此通过平移待测发动机的时间序列得到的一系列基于动态时间规整算法的相似距离如下
式中X为待测发动机序列,Ym为待测发动机序列滑动m距离后对应的训练发动机序列,D(X,Ym)为待测发动机序列与待测发动机序列滑动m距离后对应的训练发动机序列之间的相似距离。因此待测发动机与历史发动机最终的相似距离为:
该历史发动机与待测发动机的最佳匹配点为最终相似距离Distdtw对应的待测发动机序列平移距离。
步骤五、相似性评估S5:以待测样本与历史样本最相似的退化数据片段之间的相似距离作为该历史样本与待测样本的相似距离,从历史数据库中筛选处m个最为相似的可迁移样本S={S1,S2,...Sm}。
步骤六、基于可迁移度的迁移权重计算S6:计算各可迁移样本与待测样本之间的相似距离计算可迁移权重,各相似样本与待测样本之间的相似距离为{Dist1,Dist2,...,Dists},计算公式如下
步骤七、基于动态时间窗口的预测模型数据预处理S7:对筛选出的各相似样本数据进行基于滑动时间窗的数据切分,构造训练数据,图3为滑动时间窗构造训练样本,如图3所示,
设航空发动机性能衰退的监测参数集X={x1,x2,...,xf}其中某状态监测参数的序列为Xf=(xf1,xf2,...,xfC)T,时间窗宽度为w。利用时间窗选取寿命周期为w的特征序列作为构建基于LSTM的预测模型所需的数据样本为:
Sample1=[X1,X2,...,Xf],Xf=(x1,x2,...,xw)T (5)
Sample2=[X1,X2,...,Xf],Xf=(x2,x3,...,xw+1)T (6)
SampleC-w+1=[X1,X2,...,Xf],Xf=(xC-w+1,xC-w+2,...,xC)T (7)
步骤八、剩余使用寿命预测模型的调参及优化S8:利用各可迁移样本数据训练基于LSTM神经网络的剩余寿命预测模型,设模型当前时刻的输入为xt,上一时刻的输出为ht-1,则当前时刻网络的输出计算如下
ot=σ(wo·[ht-1,xt]+bo),ht=ot·Φ(St) (10)
其中σ(·),g(·)为激活函数,w为权重,b表示偏置,St表示LSTM网络的记忆状态,it,ft,ot分别表示输入门、遗忘门、输出门的输出。
步骤九、基于多个迁移预测模型的剩余使用寿命预测S9:利用基于可迁移样本数据训练好的预测模型分别对待测样本进行剩余寿命预测,得到多个预测结果{RUL1,RUL2,...,RULs}。
步骤十、基于多个迁移权重的预测结果融合S10:对多个预测结果进行基于可迁移权重的结果融合,计算公式如下:
其中,weighti由步骤五计算所得。
1.实施例试验数据描述
本试验所采用的数据为NASA埃姆斯研究中心(Ames Research Center)基于C-MAPSS仿真软件得到的航空发动机公开仿真数据集。该数据集通过设置燃油流量及压气机和涡轮机的效率、流量、压比等13个参数,分别模拟了航空发动机的风扇、低压压气机、高压压气机、高压涡轮机和低压涡轮机因输入参数的退化而导致整体性能的退化过程。埃姆斯研究中心利用C-MAPSS软件进行了4项独立仿真实验,得到不同参数设置对应的仿真数据集。该仿真数据集如下表1所示,表1为仿真数据集。
表1:仿真数据集
表1中不同数据集有着不同的运行工况数和故障模式数。每个数据集包括训练集和测试集,训练集中的每个航空发动机样本包含全寿命周期的所有状态监测数据,由于已知全寿命周期信息,因此每个周期对应的剩余使用寿命也可求出。测试集中样本发动机与训练集中的样本发动机编号不是一一对应,而且测试集中的样本发动机只包含其退化周期中某段时间的状态检测数据,每台测试样本发动机的起点未必使该发动机性能退化初始点,终点也不一定对应该发动机的失效点,但每台测试发动机性能数据终点处的剩余使用寿命已知。FD001和FD002数据集模拟了具有高压压气机HPC性能退化这一种故障模式的航空发动机性能退化过程;FD003和FD004数据集模拟了包含高压压气机HPC性能退化和风扇fan性能退化两种故障模式的航空发动机性能退化过程,但其中每台发动机样本的故障模式未知。FD001和FD003数据集中的航空发动机样本在同一种工况下运行,FD002和FD004数据集中的航空发动机样本在6种工况随机变化的条件下运行。同一数据集中的航空发动机样本属于同一系统,但各个航空发动机样本之间的衰退速率,初始故障程度,加工质量偏差都有所差别,所以基本上每台航空发动机都各不相同。本发明利用数据集FD001的全部训练集数据进行基于迁移学习的航空发动机剩余使用寿命预测模型训练,考虑到基于动态时间规整算法的相似性发动机数据片段对比以及基于LSTM神经网络的预测模型训练计算量较大,因此本发明从FD001数据集的测试集航空发动机中随机抽取20%发动机进行预测结果评估。
2.实施例基于迁移学习的航空发动机剩余使用寿命预测
本案例首先对待测发动机与训练集发动机进行基于动态时间规整算法的相似距离度量,以测试集3号发动机和训练集25号发动机为例,以这两台航空发动机的T24特征退化轨迹为例来说明基于动态时间规整算法的可迁移性度量。经过数据预处理后的两序列数据如下图4所示,图4是测试集3号发动机和训练集25号发动机的T24参数退化轨迹对比图。
在实际工程中,待测发动机的状态参数序列往往短于航空发动机性能衰退数据历史库中的序列,本文通过截取与待测航空发动机序列相同长度的历史航空发动机序列来进行相似距离计算,动态时间弯曲效果如下图5所示,图5为动态时间规整算法与欧氏距离的计算路径对比图。
图中每个小网格颜色的深浅代表了从起始点开始的累计距离的大小,累计距离越小,颜色越浅,累计距离越大,颜色越深。深色粗实线为累计距离最短的线段。
对基于敏感性分析筛选出的航空发动机多维敏感参数同时进行基于动态时间规整算法的相似距离度量和基于时域敏感性平移的相似性搜索方法,各参数序列对应结果如下图6所示,图6为基于时域敏感性平移后的待测发动机和训练集各参数序列对比图。
由可知,通过基于时域敏感性的平移处理能够得到的最佳匹配点,更好实现曲线之间的对应。
基于LSTM神经网络的预测模型结构如下图7所示,图7为LSTM模型结构图。
在模型预测过程中,首先基于一定时间窗宽度,框选训练数据序列得到一组时间序列,然后将时间窗向后逐个周期滑动直到结束,以此形成多个训练数据样本。将训练样本的多维特征序列送入本模型的输入层,经过LSTM层处理后将输出导入全连接层(FullyConnected layers,FC),从而使时域维度降低到与标签一致。其中,训练标签为每组时间序列中最后一个周期对应的剩余使用寿命。层与层之间还引入批规范操作(BatchNormalization,BN)来防止模型过拟合,最后利用BPTT算法调整模型参数,得到训练完成的剩余寿命预测模型。
本发明选择的模型结构参数如下表2所示,表2为LSTM神经网络模型结构参数。
表2:LSTM神经网络模型结构参数
层数 | 类型 | 输入维度 | 输出维度 | 激活函数 |
1 | LSTM | (None,20,8) | (None,20,13) | / |
2 | LSTM | (None,20,13) | (None,20,18) | / |
3 | LSTM | (None,20,18) | (None,23) | / |
4 | Dense | 23 | 40 | relu |
5 | Dense | 40 | 30 | relu |
6 | Dense | 30 | 30 | relu |
7 | Dense | 30 | 1 | linear |
通过三层LSTM的堆叠已可以提取足够的序列隐含特征,并且把一个时间窗宽度中最后一个时间步的输出作为第三层的LSTM输出,LSTM网络层之后连接4层全连接层。其中有三层选择relu作为激活函数。Relu函数在正区间上为线性函数,因此可以有效解决梯度消失的问题,因此最后一层全连接层用线性激活函数linear,来将所提取的隐含时间序列特征映射到样本标签空间。
利用训练集25号发动机数据训练预测模型对测试集3号发动机进行剩余使用寿命进行预测,结果如下图8所示,图8为基于训练集25号发动机预测模型的预测结果图。
由图可知,利用筛选出的相似片段数据对所构建的基于LSTM网络的剩余使用寿命预测模型训练,既能保证神经网络学习到足够的隐含信息,避免了训练过拟合,也保证了模型泛化能力,可以对待测航空发动机进行较为准确的剩余使用寿命预测。
本发明针对所有训练集发动机筛选与待测发动机最相似的10%作为可迁移样本,经过可迁移性度量得到测试集3号航空发动机的多个可迁移发动机特征参数序列,利用这些数据训练得到多个预测模型,将这些模型的参数进行数据层迁移,对测试集3号航空发动机进行剩余使用寿命预测,并计算预测精度,公式如下:
式中,RULtrue为待测发动机已知序列中最后一个循环处对应的真实剩余使用寿命,RULpred为预测出的剩余使用寿命。预测结果如图9所示,图9为基于多个可迁移样本训练模型的预测结果图。
由图9可知,当待测航空发动机为测试集3号发动机时,各个基于其相似航空发动机训练得到的神经网络模型都能在预测过程中与待测发动机真实RUL曲线保持良好的趋势对应。待测航空发动机最后一个周期处的RUL预测结果如下表3所示,表3为多个相似航空训练模型剩余使用寿命预测结果。
表3:多个相似航空训练模型剩余使用寿命预测结果
对表3的多项数据作可视化处理,结果如图10所示,图10为发动机相似度与预测精度对比图。
从图10中可以看出,随着各训练集航空发动机与待测发动机相似程度的下降,基于各训练集航空发动机训练得到的LSTM神经网络模型,对待测发动机的预测结果精确度曲线虽然有所波动但仍然呈现下降趋势。由此,利用相似性程度越高的训练集发动机得到的预测结果,航空发动机剩余使用寿命迁移的贡献应该越大。
利用表3中的各预测结果,进行基于可迁移样本权重的多预测结果融合,结果如表4,表4为多个相似航空发动机预测结果迁移表。
表4:多个相似航空发动机预测结果迁移表
利用该计算精度与各单个预测模型的预测精度作对比,如图11所示,图11为基于迁移学习的预测精度与基于各迁移样本的预测精度对比图。
由图可知,利用迁移学习的思想,将测试集3号的多台相似航空发动机训练模型得到的多个预测结果进行基于可迁移权重加权平均后的预测结果,其精度要高于基于某一单个相似发动机模型的预测结果。
从FD001数据集的测试集航空发动机中随机抽取20%发动机进行预测结果评估,由于FD001数据集中的各航空发动机样本之间的衰退速率,初始故障程度,加工质量偏差都有所差别,基本上每台航空发动机都各不相同,因此随机选中的这20台发动机之间并无关联。此外,以发动机编号为依据进行随机抽取可以避免出现不同发动机由于特征不同而出现的选择倾向性,因此以这些航空发动机数据对本文所述的基于迁移学习的航空发动机剩余使用寿命预测方法进行验证,可以得到较为准确而可靠的结论。对各待测航空发动机样本的预测结果如下表5所示:
表5:FD001数据集部分测试集发动机预测结果
对上表中做预测精度取小数点后两位,绝对误差向下取整处理。统计结果如下表6和表7所示:
表6:各待测航空发动机预测精度统计
预测精度 | 被测发动机个数 | 占总体比例 | 累计占比 |
≥95% | 2 | 10% | 10% |
90%~95% | 9 | 45% | 55% |
85%~90% | 7 | 35% | 90% |
80%~85% | 1 | 5% | 95% |
<80% | 1 | 5% | 100% |
表中范围包括下限但不包括上限
表7:各待测航空发动机预测绝对误差统计
预测绝对误差 | 被测发动机个数 | 占总体比例 | 累计占比 |
≤5 | 7 | 35% | 35% |
5~8 | 6 | 30% | 65% |
8~10 | 4 | 20% | 85% |
>10 | 3 | 15% | 100% |
表中范围不包括下限但包括上限。
图12为各待测航空发动机预测结果图,如图12所示,可以看出,本发明提出的基于迁移学习的航空发动机剩余寿命预测方法能够对各待测发动机进行较为准确的预测,其预测结果与真实剩余使用寿命结果吻合度较高。
由表6和表7的统计结果可知,利用基于迁移学习的剩余使用寿命预测方法,对于待测发动机其中超过55%的航空发动机可以获得90%以上的预测精度。此外,为了更加直观地表示预测结果与实际结果之间的误差,本文又对预测结果的绝对误差进行了统计,发现有超过85%的航空发动机的剩余使用寿命预测结果绝对误差在10个运行周期以下。由此看出,本文所述的预测方法在测试数据集上具有较为良好的预测效果。
此外,为了体现迁移学习的优势,即通过有效迁移在相似领域或任务间的信息,提高历史知识和信息的重用性。我们又计算了只利用深度神经网络模型来预测的结果,与本发明所提出的方法进行对比。
对了保证对比方法结果的可比较性,对比方法采用了与所提方法一致的时间窗口宽度对整体训练数据集进行样本切割,同时仍然采用三层LSTM神经网络接三层全连接层的深度网络模型结构来对待测样本进行预测,根据预测结果,从剩余使用寿命(RUL)预测值,预测精度,预测绝对误差三个方面进行了对比,结果如图13、14和15所示,图13为剩余寿命预测结果对比图,图14为剩余寿命预测精度对比图,图15为剩余寿命预测绝对误差对比图。
图13对本发明所提出的预测方法与深度神经网络预测方法对剩余寿命预测值做了对比,可以看出对比深度神经网络,本方法能够在测试数据集上对大部分待测发动机进行更为准确的预测;图14对本发明所提出的预测方法与深度神经网络预测方法对预测精度做了对比,可以看出本方法对于大部分待测发动机都能取得更高的预测精度;图15对本发明所提出的预测方法与深度神经网络预测方法对预测绝对误差做了对比,可以看出本发明所提出的基于迁移学习的航空发动机剩余寿命预测方法在大部分待测发动机上的预测绝对误差均小于基于深度神经网络的预测方法。
对图13、14和15预测结果数据进行整理,如表8所示,
表8:基于迁移学习的预测方法与传统方法对比结果统计表
通过图13-15以及表8可以看出,基于迁移学习的航空发动机剩余寿命预测方法与一般的深度神经网络预测模型相比,在精度上提高了11.25%,预测的绝对误差减少了60.54%,由此可见本技术可以较为准确地对航空发动机的剩余使用寿命进行预测,有效提高其预测精度。
综上,本发明提出的基于迁移学习的航空发动机剩余使用寿命预测技术可以在现有发动机退化数据不足的情况下,充分利用历史数据库数据,通过基于动态时间规整算法的相似距离度量,更准确地筛选出与待测发动机样本相似的可迁移样本,利用基于LSTM神经网络的预测模型挖掘监测参数与剩余使用寿命之间的映射关系,实现更为准确的剩余寿命预测,整体方法具有很好的工程实用性与适用性。
需要注意的是,本申请公布实施例的目的在于帮助进一步理解本发明,但是本领域的技术人员可以理解:在不脱离本发明及所附权利要求的精神和范围内,各种替换和修改都是可能的。因此,本发明不应局限于实施例所公开的内容,本发明要求保护的范围以权利要求书界定的范围为准。
参考资料:
1.1.1.动态时间规整算法的基本思想
动态时间规整算法(DTW)主要用于计算两个时间序列的相似距离。该算法借用了动态规划的原理把两个序列之间的对应关系看成是由一系列单段对应关系构成并逐个求解,实现了对时间序列的拉伸或压缩,改变其对应关系,进而计算两个时间序列性之间的相似性。DTW算法是语音识别领域中的经典算法,主要应用在模板匹配中,例如孤立词识别,动作手势识别,视频动作识别等,曾经是语音识别的一种主流方法。详见图16,图16为动态时间规整算法示意图。
如图所示,用一个6*6矩阵M表示序列A(1-1-3-3-2-4)和序列B(1-3-2-2-4-4)各个点之间的距离。在传统欧几里距离中A,B两序列各对应点之间的距离即为矩阵中对角线上的元素,其和为6,而在DTW算法中各点的对应顺序构成了从左上角到右下角的另一条路径,路径上的元素和为0。DTW算法实现两个时间序列的相似性度量是通过构建一个邻接矩阵,来调整两个时间序列元素之间的对应关系,从而得到最短路径,并以此路径上的值来度量时间序列相似程度。
对于两序列X=(x1,x2,...xtx),Y=(y1,y2,...ytx),如果以欧氏距离作为相似距离度量的方法则相似距离为
由上式可知,传统的基于欧氏距离计算两个序列相似性的方法,是将两个序列按照时间先后顺序一一对应,再由此式计算相似距离。DTW依据动态规划理论,通过求解一系列单段对应关系实现时间序列的延伸和缩短,以达到更好的序列对齐,提高相似距离度量的精确度。具体计算方式为首先计算每两个元素之间的欧式距离d(xi,yj)=(xi-yj)2,再计算两序列间每个元素对应位置处的累计距离公式如下
D(xi,yj)=Min{d(xi-1,yj-1),d(xi-1,yj),d(xi,yj-1)}+d(xi,yj) (4-3)
当求出各个位置的累计距离D(xi,yj)后,再从两个序列的末位置开始进行回溯,找到一条从两个序列对应的起始位置到两个序列对应的结束位置之间的最短路径。DTW算法就是基于这样一个累计距离矩阵找到了一条最短路径,在这条最短路径上的∑D(xi,yj)最小。
1.1.2.LSTM神经网络基本原理
LSTM网络本质上是一种特殊的循环神经网络。RNN能够“记忆”输入序列数据的前后关联,挖掘数据特征。LSTM网络不但具有RNN的优势,而且还克服了普通RNN网络具有的随时间传播而产生的梯度消失或者梯度爆炸的问题。一个典型的LSTM单元如图17所示,图17为LSTM神经单元图。
比起普通的RNN网络,LSTM网络的独特之处在于对于每个LSTM单元其中都有一个名为“cell state”的状态量,这主要用于存储长期记忆信息。长期状态Ct更新较慢,主要存储长期依赖信息,短期状态ht更新较快,主要存储短期信息,在不同时刻下变化较大。LSTM中还设计了三个门控单元,输入门用于更新当前时刻生成的备选记忆信息,遗忘门用于遗忘上一时刻的部分记忆信息,输入门与遗忘门的搭配使用控制了记忆的更新与遗忘,输出门用于控制当前时刻下神经元的输出。LSTM网络通过额外引入一个记忆状态以及三个门控单元,既提高了模型运算速率而且实现了记忆在隐含层单元随着时间传播而流动与存储,保证了一直记忆重要信息,遗忘不重要信息。因此针对航空发动机性能衰退数据这类具有明显时间顺序的时间序列来说,运用LSTM网络可以很好的挖掘其性能衰退数据与剩余使用寿命的隐含关系,实现较为准确剩余使用寿命预测。
Claims (6)
1.一种基于迁移学习的航空发动机剩余使用寿命预测方法,该方法包括如下步骤:
步骤一、敏感参数分析:针对航空发动机多维退化参数,通过敏感性分析,选取若干能反映航空发动机退化性能的监测参数;
步骤二、数据预处理:对筛选出的航空发动机退化性能的监测参数进行数据预处理,提高数据的表达能力与可处理性,所述的数据预处理包括局部散点回归平滑和极大极小值归一化,通过平滑消除数据噪声,通过归一化消除不同监测参数之间的量纲影响;
步骤三、基于动态时间规整算法的相似距离计算:对待测发动机从航空发动机历史样本中进行可迁移性度量;
步骤四、基于时域敏感性的相似片段匹配:对待测发动机样本与历史发动机样本进行匹配筛选与待测样本最为相似的历史样本退化数据片段;
步骤五、相似性评估:在步骤三之后做相似性评估,从历史数据库中筛选出与待测发动机样本最为相似的若干可迁移样本;
步骤六、基于可迁移度的迁移权重计算:计算可迁移样本的迁移权重;
步骤七、基于动态时间窗口的预测模型数据预处理:在步骤四之后做基于动态时间窗口的预测模型数据预处理,对筛选出的各相似样本数据进行数据预处理,构造训练数据,所述的数据预处理为,利用滑动时间窗对所筛选出可迁移样本进行数据切割,窗口每滑动一次则生成一个窗口宽度的数据片段,并且以滑窗末位处运行周期对应的发动机剩余使用寿命作为该窗口数据的剩余使用寿命标签,遍历整个可迁移样本退化特征序列,通过窗口移动则可生成发动机训练数据及其对应的标签;
步骤八、剩余使用寿命预测模型的调参及优化:利用各可迁移样本数据训练基于LSTM神经网络的剩余寿命预测模型;
步骤九、基于多个迁移预测模型的剩余使用寿命预测:利用训练好的若干预测模型对待测样本进行剩余使用寿命预测,得到若干预测结果;
步骤十、基于多个迁移权重的预测结果融合:对步骤六的基于可迁移度的迁移权重计算和步骤九的基于多个迁移预测模型的剩余使用寿命预测结果进行基于可迁移权重的结果融合,得到最终预测结果。
2.根据权利要求1所述的基于迁移学习的航空发动机剩余使用寿命预测方法,其特征在于:
该步骤三所述的可迁移性度量基于动态时间规整算法是实现DTW算法考虑序列趋势上的相似性,通过在时间维度弯曲两序列之间的对应关系,实现两序列之间的错位匹配,从而得到更为准确的可迁移性度量结果。
3.根据权利要求1所述的基于迁移学习的航空发动机剩余使用寿命预测方法,其特征在于:
该步骤四所述的匹配筛选最相似的历史样本退化数据片段为,利用滑动时间窗选取历史发动机样本在不同运行周期处的数据片段进行可迁移性度量,匹配筛选与待测样本最为相似的历史样本退化数据片段。
4.根据权利要求1所述的基于迁移学习的航空发动机剩余使用寿命预测方法,其特征在于:
该步骤五所述的筛选可迁移样本,以待测样本与历史样本最相似的退化数据片段对应的相似距离作为该历史样本与待测样本之间的相似距离,从历史数据库中筛选出与待测发动机样本最相似的若干可迁移样本。
5.根据权利要求1所述的基于迁移学习的航空发动机剩余使用寿命预测方法,其特征在于:
该步骤六所述的迁移权重计算为,以所筛选所有可迁移样本为全集,对每个迁移样本的相似距离进行归一化处理,处理后的结果即为各样本的可迁移权重。
6.根据权利要求1所述的基于迁移学习的航空发动机剩余使用寿命预测方法,其特征在于:
该步骤八所述的基于LSTM的寿命预测模型,即该模型的输入为步骤一所筛选的发动机的状态监测参数,输出为该运行周期下对应的剩余使用寿命。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110514240.3A CN113297787B (zh) | 2021-05-12 | 2021-05-12 | 一种基于迁移学习的航空发动机剩余寿命预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110514240.3A CN113297787B (zh) | 2021-05-12 | 2021-05-12 | 一种基于迁移学习的航空发动机剩余寿命预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113297787A CN113297787A (zh) | 2021-08-24 |
CN113297787B true CN113297787B (zh) | 2021-12-17 |
Family
ID=77321452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110514240.3A Active CN113297787B (zh) | 2021-05-12 | 2021-05-12 | 一种基于迁移学习的航空发动机剩余寿命预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113297787B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113836822A (zh) * | 2021-10-28 | 2021-12-24 | 重庆大学 | 一种基于mclstm模型的航空发动机寿命预测方法 |
CN114297795B (zh) * | 2021-12-28 | 2024-06-07 | 桂林电子科技大学 | 一种基于PR-Trans的机械设备剩余寿命预测方法 |
CN114580705B (zh) * | 2022-01-12 | 2023-07-25 | 中国电子科技集团公司第十研究所 | 航电产品剩余寿命预测方法 |
CN114239752B (zh) * | 2022-01-24 | 2023-01-31 | 广州地铁集团有限公司 | 继电器剩余寿命预测模型的构建方法、装置、设备及介质 |
CN114512239B (zh) * | 2022-02-25 | 2022-11-11 | 国家康复辅具研究中心 | 基于迁移学习的脑卒中风险预测方法及系统 |
CN115345071B (zh) * | 2022-08-11 | 2023-04-28 | 黑龙江大学 | 基于实例迁移的航天设备内部多余物定位方法及设备 |
CN115754866B (zh) * | 2022-11-04 | 2024-03-26 | 国网山东省电力公司电力科学研究院 | 一种继电保护测试仪全寿命周期监测预警系统及方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
CN111832624A (zh) * | 2020-06-12 | 2020-10-27 | 上海交通大学 | 一种基于对抗迁移学习的刀具剩余寿命预测方法 |
CN112036083A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品剩余寿命预测方法及系统 |
CN112036084A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品寿命迁移筛选方法和系统 |
CN112241608A (zh) * | 2020-10-13 | 2021-01-19 | 国网湖北省电力有限公司电力科学研究院 | 一种基于lstm网络和迁移学习的锂电池寿命预测方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7725293B2 (en) * | 2006-12-07 | 2010-05-25 | General Electric Company | System and method for equipment remaining life estimation |
US11099551B2 (en) * | 2018-01-31 | 2021-08-24 | Hitachi, Ltd. | Deep learning architecture for maintenance predictions with multiple modes |
-
2021
- 2021-05-12 CN CN202110514240.3A patent/CN113297787B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
CN111832624A (zh) * | 2020-06-12 | 2020-10-27 | 上海交通大学 | 一种基于对抗迁移学习的刀具剩余寿命预测方法 |
CN112036083A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品剩余寿命预测方法及系统 |
CN112036084A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品寿命迁移筛选方法和系统 |
CN112241608A (zh) * | 2020-10-13 | 2021-01-19 | 国网湖北省电力有限公司电力科学研究院 | 一种基于lstm网络和迁移学习的锂电池寿命预测方法 |
Non-Patent Citations (5)
Title |
---|
《A dual-LSTM framework combining change point detection and remaining useful life prediction》;Zunya Shi等;《Reliability Engineering and System Safety》;20201004;第1-10页 * |
《A hybrid transfer learning scheme for remaining useful life prediction and cycle life test optimization of different formulation Li-ion power batteries》;Jian Ma等;《Applied Energy》;20201113;第1-17页 * |
《A remaining useful life prediction method with long-short term feature processing for aircraft engines》;Kunyuan Deng等;《Applied Soft Computing Journal》;20200511;第1-10页 * |
《An Ensemble Learning-Based Remaining Useful Life Prediction Method for Aircraft Turbine Engine》;Jiyan Zeng等;《ScienceDirect》;20201231;第48-53页 * |
《基于深度迁移学习的滚动轴承剩余使用寿命预测》;汪立雄等;《制造技术与机床》;20201231;第130-137页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113297787A (zh) | 2021-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113297787B (zh) | 一种基于迁移学习的航空发动机剩余寿命预测方法 | |
US12001957B2 (en) | Methods and systems for neural architecture search | |
CN107463993B (zh) | 基于互信息-核主成分分析-Elman网络的中长期径流预报方法 | |
CN112580263B (zh) | 基于时空特征融合的涡扇发动机剩余使用寿命预测方法 | |
CN112083498B (zh) | 一种基于深度神经网络的多波地震油气储层预测方法 | |
CN112989708B (zh) | 一种基于lstm神经网络的测井岩性识别方法及系统 | |
CN109472088B (zh) | 一种页岩气调产井生产压力动态预测方法 | |
CN109740661B (zh) | 一种基于模糊评估的油井动液面自适应预测方法 | |
Saporetti et al. | Machine learning approaches for petrographic classification of carbonate-siliciclastic rocks using well logs and textural information | |
Ayodeji et al. | Causal augmented ConvNet: A temporal memory dilated convolution model for long-sequence time series prediction | |
CN112733449A (zh) | 一种cnn井震联合反演方法、系统、存储介质、设备及应用 | |
CN116448419A (zh) | 基于深度模型高维参数多目标高效寻优的零样本轴承故障诊断方法 | |
CN113869563A (zh) | 一种基于故障特征迁移的航空涡扇发动机剩余寿命预测方法 | |
CN114036610A (zh) | 一种基于数据增强的侵彻深度预测方法 | |
Jang et al. | Siamese network-based health representation learning and robust reference-based remaining useful life prediction | |
Muhamedyev et al. | Comparative analysis of classification algorithms | |
CN113378998B (zh) | 一种基于机器学习的地层岩性随钻识别方法 | |
CN105046203A (zh) | 基于夹角dtw距离的卫星遥测数据自适应层次聚类方法 | |
CN116894180B (zh) | 一种基于异构图注意力网络的产品制造质量预测方法 | |
CN114186711A (zh) | 一种基于多任务时序学习的工业原料消耗量预测方法 | |
CN113780420A (zh) | 基于gru-gcn的变压器油中溶解气体浓度预测方法 | |
CN115618987A (zh) | 生产井生产数据预测方法、装置、设备和存储介质 | |
CN116911191A (zh) | 一种基于改进PSO优化BiLSTM的航空发动机气路系统建模方法 | |
CN112416913B (zh) | 一种基于gwo-bp算法的飞机燃油系统状态缺失值补充方法 | |
CN112990567A (zh) | 建立煤层含气量预测模型的方法、装置、终端与存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |