CN116521406A - 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法 - Google Patents

一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法 Download PDF

Info

Publication number
CN116521406A
CN116521406A CN202310112374.1A CN202310112374A CN116521406A CN 116521406 A CN116521406 A CN 116521406A CN 202310112374 A CN202310112374 A CN 202310112374A CN 116521406 A CN116521406 A CN 116521406A
Authority
CN
China
Prior art keywords
gru
flight
model
vae
flight parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310112374.1A
Other languages
English (en)
Inventor
李磊
滕耘
曾静
张静
周文
朱莉
陈峙宇
周明康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
People's Liberation Army 95031
Information Engineering University of PLA Strategic Support Force
Original Assignee
People's Liberation Army 95031
Information Engineering University of PLA Strategic Support Force
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by People's Liberation Army 95031, Information Engineering University of PLA Strategic Support Force filed Critical People's Liberation Army 95031
Priority to CN202310112374.1A priority Critical patent/CN116521406A/zh
Publication of CN116521406A publication Critical patent/CN116521406A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function
    • G06F11/0739Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function in a data processing system embedded in automotive or aircraft systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079Root cause analysis, i.e. error or fault diagnosis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0793Remedial or corrective actions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/10Geometric CAD
    • G06F30/17Mechanical parametric or variational design
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00Details relating to CAD techniques
    • G06F2111/08Probabilistic or stochastic CAD
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/08Thermal analysis or thermal optimisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/14Force analysis or force optimisation, e.g. static or dynamic forces
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T90/00Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • Evolutionary Computation (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)

Abstract

本发明公开一种基于残差门GRU‑VAE模型的航空发动机未超限飞参数据异常检测方法,在模型训练阶段,使用代表发动机性能基线的历史飞参数据集对残差门GRU‑VAE飞参异常检测模型进行训练,对数据集中的所有飞参序列进行重构,根据状态点向量重构损失服从的概率分布,在给定置信度下确定相应的重构损失门限;在异常检测阶段,模型对实时飞参数据进行检测,将重构损失超出门限的状态点视为异常状态点,进一步将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列。本发明有较高的平均异常识别准确率,相比于现有方法,在解决航空发动机未超限飞参数据异常检测问题上具有性能优势。

Description

一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据 异常检测方法
技术领域
本发明涉及飞参数据异常检测技术领域,尤其涉及一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法。
背景技术
航空发动机作为飞机的核心部件和动力来源,其性能状态直接影响飞行安全,航空发动机长期处于高温、高压、高负荷和大应力的工作状态,发动机部附件的脏污、磨损和变形都有可能导致发动机性能下降甚至发生故障失效,这些都将通过发动机性能参数表现出来。实践维护经验表明,发动机的性能状态与故障表现和发动机的各类状态参数及其变化高度关联,通过对其进行有效的分析挖掘,能够及早发现发动机的异常状态,提供精准保障决策实现视情维修,进而保证战训任务的顺利完成。机载飞参系统实时记录了飞行过程中发动机各类工作参数,这些数据反映了发动机性能变化情况,为发动机状态监控和异常检测提供了可靠数据来源。
当前,一线工作中发动机参数监控方法主要有曲线直观分析法、程序快速处理法和趋势图分析法,其在保障飞行安全中发挥了重要作用。但该方法主要关注已经超出系统限制范围的参数,针对已超限参数所属系统再向地勤人员给出对应的维护使用建议。故该法无法在参数未超限时感知发动机性能出现的细微变化,而参数的超限可能意味着部件已经失效和性能全面衰退;飞机航空发动机作为复杂的动力系统,其性能衰退是非线性的,参数超限后的维修将耗费更多的人力物力和时间,直接影响战训任务的顺利完成;此外,随着单位服役飞机数量和飞参记录类型和频率的不断增加,对发动机性能进行监控时要面对海量的飞参数据,现有的监控手段难以满足快速精准化的性能监控需求,直接影响性能监控质量。因此,针对大量未超限的飞参数据,必须开发实用管用方法,及时检测发动机参数的细微变化异常,向地勤人员反馈异常参数对应的部件性能变化情况,及时采取维护措施,切实堵塞安全漏洞,前移安全关口,确保质量安全。
经实地调研发现,基于未超限飞参数据的航空发动机性能异常检测技术上存在以下几个问题和难点:
一是对未超限飞参数据的分析挖掘不够充分。当前采用的曲线直观分析法、程序快速处理法和趋势图分析法主要关注超限的状态参数及其对应部附件的性能变化情况,而参数超限意味着部件失效和性能的全面衰退,同时未超限飞参数据的样本量大,受关注程度低,利用未超限飞参数据进行发动机异常检测、寿命预测技术研究十分必要;
二是未超限飞参数据在实际工作中并未得到标注,尤其在机型繁多的单位,同种机型的异常数据相对较少,导致正常数据和异常数据的样本量极不均衡,当前较为成熟的有监督学习方法极易出现过拟合现象,且飞参数据具有的时序特性对模型的时序建模能力提出了更高要求。
发明内容
本发明针对基于无异常信息标签的航空发动机未超限飞参数据异常检测问题,提出一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,通过深入挖掘发动机历史(未超限)飞参数据,建立发动机性能基线常态模型,通过比较发动机实时飞参数据和模型输出的偏差检测发动机的异常状态。
为了实现上述目的,本发明采用以下技术方案:
一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,包括:
模型训练阶段,提取代表航空发动机性能常态的历史飞参数据集进行预处理,训练残差门GRU-VAE飞参异常检测模型,对数据集中所有飞参序列进行重构,采用均方根误差计算重构损失,根据重构损失分布确定对应置信度下的置信区间,进而确定状态点重构损失门限,得到训练好的残差门GRU-VAE飞参异常检测模型;
异常检测阶段,运用训练好的残差门GRU-VAE飞参异常检测模型,对预处理后的实时飞行架次或性能异常的航空发动机未超限飞参数据进行检测,将重构损失超出门限的状态点视为异常状态点,进一步将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列。
进一步地,在将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列之后,还包括:
检测异常后再对异常参数进行深入判读,针对异常参数对应的部附件,向地勤一线人员反馈维修维护建议。
进一步地,按照以下方式对飞参数据进行预处理:
按照1Hz的采样率,依托飞参系统地面站提取所需的发动机性能状态参数,所述性能状态参数包括气路性能参数、机械性能参数和油路监测数据;从中筛选出飞机发动机刚出厂、大修或换发后10个架次内健康稳定运行的巡航状态数据,巡航状态的定义需根据发动机使用技术说明书和飞行手册规定的参数范围进行选取;
运用相似理论,将相关发动机性能状态参数修正到标准大气压下,减少不同飞行条件下导致的性能状态参数差异对发动机性能评判的误差;
为避免在模型训练和重构损失的计算过程中由于量纲不同、自身数值相差较大所引起的误差,对数据进行归一化处理,将各性能状态特征转换到[0,1]范围内;
对性能参数数据进行格式转换,使其匹配神经网络模型的数据输入接口,确保发动机性能常态模型训练和异常检测的正常进行。
进一步地,所述气路性能参数包括排气温度,所述机械性能参数包括扭矩、转速和振动值,所述油路监测数据包括滑油温度、滑油压力和燃油压力。
进一步地,针对排气温度和转速的相似修正公式如下:
其中,标准大气状态下,T0=288.15K,Tk为压气机进口总温,EGTm和Nm为记录的排气温度和转速,EGTk和Nk为修正后的值。
进一步地,在训练残差门GRU-VAE飞参异常检测模型之前,还包括:
在GRU中加入残差门结构,在VAE框架下,将编码器输入层和解码器输出层神经元替换为残差门GRU,构建以残差门GRU和VAE为主要结构组成的无监督神经网络模型,即残差门GRU-VAE飞参异常检测模型。模型利用残差门GRU对飞参数据的时序特征进行捕捉,并在VAE框架实现对多变量飞参数据的精确重构。本发明在GRU基础上加入残差门结构,将上一时刻的候选状态加入到当前时刻的候选状态计算,能够进一步缓解长期记忆和反向传播中的梯度消失和爆炸问题,实现对数据特征的正确编码和解码。
进一步地,所述在GRU中加入残差门结构包括:
在GRU中激活的候选隐状态的计算上加入残差门结构,将上一时刻的未激活候选状态ht'-1加入到当前时刻的候选状态ht'的计算,然后经非线性激活函数tanh激活输出激活的隐状态
进一步地,数据的重构过程包括:
首先,将飞参序列S直接输入模型,编码器的残差门GRU单元捕捉飞参序列状态点向量的时序特征,经Linear线性激活层分别输出特征值对应的均值μz和方差σz;然后,在VAE框架下进行重参数化操作,对点向量的隐变量分布Z进行估计;最后残差门GRU单元译码器根据隐变量Z完成对数据进行时序性重构,输出重构状态序列SR,实现端到端的数据精确重构。
进一步地,残差门GRU-VAE飞参异常检测模型的训练过程包括:
首先,将航空发动机历史飞参数据集Xtrain输入残差门GRU-VAE飞参异常检测模型进行训练,拟合发动机性能状态基线;然后,模型输出重构损失集Re_Losstrain,设定重构损失置信度1-α,其中α为显著性水平;之后,结合置信度对Re_Losstrain进行正态性检验,若满足正态分布,则采用正态分布法计算状态点重构损失门限,否则采用百分位数法计算状态点重构损失门限;最后,确定状态点重构损失门限[a,b],并保存属于该发动机的训练好的残差门GRU-VAE飞参异常检测模型。
进一步地,运用训练好的残差门GRU-VAE飞参异常检测模型进行异常检测过程包括:
首先,将实时飞参数据集Xtest输入训练好的残差门GRU-VAE飞参异常检测模型后,模型逐个遍历Xtest中所有飞参序列;然后,检测过程中模型输出Sm对应的重构损失序列,若重构损失序列中不存在重构损失值超出状态点重构损失门限[a,b],则判定为正常飞参序列,继续遍历检测下一个飞参序列;反之若重构损失序列中存在异常状态点向量,则记录异常状态点向量个数k,再计算异常状态点向量和序列中所有状态点向量之比若该比值小于异常点占比阈值q,则判定为正常飞参序列,否则判定为异常飞参序列;之后,对异常飞参序列及其对应的重构损失序列分别进行动态可视化,通过比较各飞参序列中各特征和重构损失随时间的变化情况,对飞参序列的异常类型进行判断;最后,完成对数据集中所有实时飞参序列的检测。
与现有技术相比,本发明具有的有益效果:
针对基于海量无异常信息标签的航空发动机未超限飞参数据异常检测问题,本发明提出一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法。在模型训练阶段,使用代表发动机性能基线的历史飞参数据集对残差门GRU-VAE飞参异常检测模型进行训练,对数据集中的所有飞参序列进行重构,根据状态点向量重构损失服从的概率分布,在给定置信度下确定相应的重构损失门限;在异常检测阶段,模型对实时飞参数据进行检测,将重构损失超出门限的状态点视为异常状态点,进一步将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列。
通过实验证明了本发明方法的有效性,本发明的飞参异常检测模型的平均异常识别准确率高达93.8%,模型的平均精度、召回率和F1得分均在93%以上,通过检测可以确定异常数据所属时间段,便于飞参判读人员进一步查看数据,向地勤维护人员提供精准的维修建议。且相比于基于AE和VAE模型的方法,本发明采用的残差门GRU-VAE模型在解决航空发动机未超限飞参数据异常检测问题上具有性能优势。
附图说明
图1为本发明实施例的研究思路;
图2为本发明实施例一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法总体流程;
图3为本发明实施例数据预处理流程;
图4为本发明实施例VAE框架示例图;
图5为本发明实施例残差门GRU结构示例图;
图6为本发明实施例残差门GRU-VAE结构示例图;
图7为本发明实施例模型训练阶段流程图;
图8为本发明实施例状态点重构损失门限示意图;
图9为本发明实施例异常检测阶段流程图;
图10为本发明实施例模型目标函数值变化;
图11为本发明实施例1号发动机重构损失分布情况;
图12为本发明实施例异常检测实例1;
图13为本发明实施例异常检测实例2;
图14为本发明实施例异常检测实例3。
具体实施方式
下面结合附图和具体的实施例对本发明做进一步的解释说明:
1、基本定义
定义1:发动机状态点向量及特征
状态点向量及特征是指对应在时间戳ti下由机载飞参系统记录的发动机排气温度(EGT)、振动值(VIB)、扭矩(TRQ)、转速(N)、滑油温度(HW)、滑油压力(HY)、和燃油压力(RY)7个性能状态特征。其中,i是按照时间记录顺序排列的状态点序数。
定义2:飞参序列
是指由k个发动机状态点向量根据时间戳顺序排列得到的飞参序列。由定义1,飞参序列可以表示为式(1):
定义3:飞参数据集
X={S1,S2,...,Sm,...,Sn}表示由n条飞参序列组成的飞参数据集合。
定义4:异常状态点向量
若实时飞参序列Snow经模型检测输出的重构损失序列Re_Lossnow中存在重构损失值则重构损失/>对应的状态点向量/>为异常状态点向量。
定义5:异常飞参序列
设发动机异常状态点向量占所有状态点向量总数之比的阈值为q,若有m个状态点向量组成的实时飞参序列Snow中共包含k个异常状态点向量,当时,则该实时飞参序列为异常飞参序列。
2、研究思路
本节提出基于飞参数据重构模型的无监督发动机性能异常检测的研究思路,如图1所示。结合1节的基本定义,已知有某型号发动机的自新出厂或大修后至今收集的历史飞参数据集XA,此后飞行中收集的实时飞参数据集为XB,所有集合中的飞参数据均无发动机性能异常信息标签。在模型训练阶段,输入历史飞参数据集XA训练飞参数据重构模型,能够输出对应的状态点重构损失集Re_Loss,并据此确定重构损失门限[a,b];在异常检测阶段,将实时飞参数据集XB中任意一条包含m个状态点向量的实时飞参序列输入数据重构模型,能够对应输出包含m个重构损失值的重构损失序列
研究思路分两步:第一步,飞参数据重构模型通过训练学习集合XA的发动机性能常态模式,根据历史飞参数据重构损失分布确定状态点重构损失门限[a,b];第二步是将集合XB中的实时飞参序列逐条输入模型,经异常检测方法发现异常飞参序列。
具体地,本发明提出一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,总体流程如图2所示,主要分两步:第一步为模型训练阶段,提取代表发动机性能常态的历史飞参数据集进行预处理,训练残差门GRU-VAE飞参异常检测模型,对数据集中的所有飞参数据序列进行重构,采用均方根误差计算方法计算重构损失,根据重构损失分布确定对应置信度下的置信区间,进而确定状态点重构损失门限,得到训练好的残差门GRU-VAE飞参异常检测模型(即发动机性能常态模型);第二步为异常检测阶段,运用训练好的残差门GRU-VAE飞参异常检测模型,对预处理后的后续飞行架次或性能异常的未超限飞参数据进行检测,将重构损失超出门限的状态点视为异常状态点,进一步将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列,检测异常后再对异常参数进行深入判读,针对异常参数对应的部附件,向地勤一线人员反馈维修维护建议。
进行如下具体阐述:
2.1、飞参数据的预处理
机载飞参系统采集了大量的发动机性能状态参数,航空发动机在飞行过程中工作环境复杂,受地区、季节、天气等因素的影响,相关性能状态参数测量值会出现较大的随机性,因此必须将不同飞行条件下的发动机性能状态参数转化到统一标准下才能进行建模和比较。本方法监测的发动机性能参数有排气温度、转速、扭矩、振动值、滑油温度、滑油压力、燃油温度,这些性能参数按照时间戳先后顺序排列,是随着时间变化的多元离散时序数据,对数据进行有效的预处理十分必要,具体流程如图3所示。
步骤一:按照1Hz的采样率,依托飞参系统地面站提取所需的发动机性能状态参数,其中包括气路性能参数(排气温度)、机械性能参数(扭矩、转速和振动值)和油路监测数据(滑油温度、滑油压力和燃油压力)。其中,模型训练所用数据需要筛选飞机发动机刚出厂、大修或换发后10个架次内健康稳定运行的巡航状态数据,巡航状态的定义需根据发动机使用技术说明书和飞行手册规定的参数范围进行选取。
步骤二:运用相似理论,将相关发动机性能状态参数修正到标准大气压下,减少不同飞行条件下导致的性能状态参数差异对发动机性能评判的误差。针对排气温度(EGT)和转速(N)的相似修正公式如下:
其中,标准大气状态下,P0=101325Pa,T0=288.15K,Tk为压气机进口总温(K),EGTm和Nm为记录的排气温度和转速,EGTk和Nk为修正后的值。
步骤三:为避免在模型训练和重构损失的计算过程中由于量纲不同、自身数值相差较大所引起的误差,对数据进行归一化处理,将各性能状态特征转换到[0,1]范围内,具体公式为:
其中,Xnorm为某归一化后的数据特征值,Xraw为某性能状态特征原始数据,Xmax为该特征值的最大值,Xmin为最小值。
步骤四:对性能参数数据进行格式转换,使其匹配神经网络模型的数据输入接口,确保发动机性能常态模型训练和异常检测的正常进行。
2.2、残差门GRU-VAE航空发动机性能状态参数异常检测模型(残差门GRU-VAE飞参异常检测模型)
无异常信息标注的未超限飞参数据是一种多变量时间序列数据,针对该特点,本发明在GRU中加入残差门结构,构建以残差门GRU和VAE为主要结构组成的无监督神经网络模型。模型利用残差门GRU对飞参数据的时序特征进行捕捉,并在VAE框架实现对多变量飞参数据的精确重构。
2.2.1、变分自编码器(VAE)
变分自编码器是一种无监督学习的深度神经网络模型,利用输入数据本身为监督,通过变分推断指导神经网络训练学习实现重构输出。和AE相比该网络模型对输入的数据结构没有要求,将数据中隐藏变量分布参数的重建概率作为异常检测的度量,在数据重构方面更具优势。如图4所示,变分自编码器由1个编码器和1个解码器组成,其基本思想是经过编码器函数fθ(zk)的每一个点向量X可用各状态点向量特征值上的均值μZ和方差σZ表示输出的概率分布,然后通过变分自编码器的变分推断过程,用一个近似分布p(zk)来代替概率分布,并通过贝叶斯准则得到解码器输入pθ(xk|zk),最后经解码器gθ(xk)输出重构的状态点向量XR
采用(Kullback-Leibler,KL)散度函数在变分推断中来度量两个分布之间的相似性,目标函数如式(5)所示:
Loss(θ,φ;xk)=-DKL[qφ(zk|xk)||p(zk)]+Eq[lgpθ(xk|zk)] (9)
其中,Eq是期望的自编码重建输出特征向量,DKL是正则化项使得qφ(zk|xk)向标准正态分布对标。为了解决神经网络反向梯度求解问题,中间采用了重参数化的操作,样本Zk从分布N(0,1)中获取变量ε,通过图4所示的期望μz和方差σz计算得到,见式(6)。
zk=μzε+σz (10)
联立式(5)和式(6),最终的目标函数如式(7)所示。
Loss(θ,φ;xk)=-DKL[qφ(zk|xk)||p(zk)]+Eq[lgpθ(xkzε+σz)] (11)
2.2.2、残差门GRU
循环神经网络单元的主要功能是在数据重构的过程中捕捉飞参序列的时序特性,提升数据重构的准确性。作为循环神经网络的一种变形单元,GRU在达到相同模型性能的前提下其计算量小,训练效率更高。本发明在此基础上加入残差门结构,将上一时刻的候选状态加入到当前时刻的候选状态计算,能够进一步缓解长期记忆和反向传播中的梯度消失和爆炸问题。图5为残差门GRU运算示意图,其主要功能由更新门和重置门实现,这些门结构决定了数据信息的输入、存储、遗忘和输出。
其中,h*表示GRU某时刻状态,xt为t时刻的数据输入,σ和Tanh为非线性激活函数,W*和b*为对应门结构的权重和偏置,ht'和ht'-1分别为t时刻和t-1时刻未被激活的候选隐状态,其余运算符号如图5中所示。式(8)和式(9)分别为残差门GRU中的更新门和重置门运算过程。更新门zt控制从上一时刻状态ht-1中保留的特征信息,以及从候选状态中接受的特征信息,以确保时序数据的不断更新。重置门rt控制候选状态/>的计算是否依赖上一时刻状态ht-1
zt=σ(Wz·[xt,ht-1]+bz) (12)
rt=σ(Wr·[xt,ht-1]+br) (13)
为进一步缓解长期记忆和反向传播中的梯度消失和爆炸问题,本发明在未激活的候选隐状态的计算上加入残差门结构,将上一时刻的未激活候选状态ht'-1加入到当前时刻的候选状态ht'的计算,然后经非线性激活函数tanh激活输出激活的隐状态如式(10)所示。
由式(10)和式(11)可见,残差门GRU使用更新门控制输入和遗忘的平衡。当zt=0时,当前状态ht和上一状态ht-1为非线性关系;当zt=1时,ht和ht-1为线性关系。和LSTM模块中的输入门和遗忘门相比较,残差门GRU的冗余性更强。
2.2.3、残差门GRU-VAE模型搭建
残差门GRU-VAE模型是在VAE框架下,将编码器输入层和解码器输出层神经元替换为残差门GRU,提升模型对飞参序列时序特征的学习能力,残差门GRU将更好地克服传统循环神经网络在特征提取过程中的梯度消失和爆炸问题,实现对数据特征的正确编码和解码。模型通过学习状态数据的特定分布,输出得到精准的重构数据。
残差门GRU-VAE模型的基本结构如图6所示,数据重构过程分为以下三步。首先,飞参序列S=(s1,s2,...,si,...,sk)直接输入模型,编码器的残差门GRU单元捕捉飞参序列状态点向量的时序特征,经Linear线性激活层分别输出特征值对应的均值μz和方差σz;然后,在VAE框架下进行重参数化操作,对点向量的隐变量分布Z进行估计;最后残差门GRU单元译码器根据隐变量Z完成对数据进行时序性重构,输出重构状态序列SR,实现端到端的数据精确重构。
2.3、模型训练阶段
模型训练阶段是本发明中构建发动机常态性能模型以及确定重构损失门限的重要过程,主要流程如图7所示。
首先,将发动机历史飞参数据集Xtrain输入残差门GRU-VAE模型进行训练,拟合发动机性能状态基线;然后,模型输出重构损失集Re_Losstrain,设定重构损失置信度1-α;之后,结合置信度对Re_Losstrain进行正态性检验,若满足正态分布,则采用正态分布法计算状态点重构损失门限,否则采用百分位数法计算状态点重构损失门限;最后,确定状态点重构损失门限[a,b],并保存属于该发动机的异常检测模型。
2.3.1、重构损失计算方法
采用均方根误差计算飞参序列重构损失,如下式。
其中,SR和S是重构飞参序列和原始飞参序列,和si分别是第i个时间戳上的重构和原始状态点向量,k是飞参序列中的状态点个数,j是状态点向量中的特征个数。
2.3.2、状态点重构损失门限的确定
模型通过训练将拟合发动机性能状态基线以及数据隐含模式,基于此确定状态点重构损失门限的目的在于为异常阶段提供发动机常态基准参考。下面将利用重构损失集Re_Losstrain的分布情况,采用正态分布法或百分位数法,对需要检测的实时状态数据输出的重构损失值进行置信区间的估计,将置信区间作为状态点重构损失门限。
如图8所示为状态点重构损失门限示意图。假设Re_Losstrain服从标准正态分布,将重构损失置信度(1-α)%下的置信区间作为状态点重构损失门限。可表示为参与检测的实时飞参序列中的每个状态点向量对应重构损失值有(1-α)%的概率会落在区间[a,b]中。
若训练集重构损失序列Re_Losstrain中重构损失值的分布能够通过Kolmogorov-Smirnov正态分布检验,则采用正态分布法进行置信区间的估计。设重构损失Loss是一个服从正态分布的随机变量,即Loss~N(μ,σ2),其中μ表示总体均值,σ表示总体标准差。深度神经网络模型需要大样本量的数据进行训练学习,相应输出的重构损失序列中的重构损失值的个数必然大于50,属于大样本量数据。因此由大数定律和中心极限定理可知,当数据样本量足够大时,样本均值、方差分别和总体均值和方差相等,则有样本均值样本标准差S=σ,之后对随机变量Loss作线性运算,转换为标准正态分布,如式(13)所示。
根据标准正态分布下的α分位点定义有式(14)。
根据式(14)可以求得状态点重构损失在任意置信度1-α下的置信区间:
其中,α为显著性水平,式中uα/2界值可通过查标准正态分布表获得。
若Re_Losstrain未能通过正态性检验,则采用百分位数法确定状态点重构损失门限。首先,将Re_Losstrain中的所有重构损失值按升序排列;然后,合并相同的数值并计算重构损失值在重构损失序列中出现次数占全部重构损失值的比例,进而得到每个重构损失值的出现概率;最后,在已知置信度为1-α的条件下,求数据出现可能性最大的区间,对称分配2个百分位数Pα/2和P1-α/2,从而确定状态点重构损失门限为[Pα/2,P1-α/2]。
异常检测阶段将调用保存的模型及其对应的状态点重构损失门限。
2.4、异常检测阶段
异常检测阶段主要是对实时飞参序列进行检测,如图9所示为具体的异常检测阶段流程。
首先,将含有n条飞参序列的实时飞参数据集Xtest={S1,S2,...,Sm,...,Sn}输入训练好的残差门GRU-VAE模型后,模型将逐个遍历检测数据集Xtest中所有飞参序列;然后,检测过程中模型将输出Sm对应的重构损失序列若序列中不存在重构损失值lossi超出状态点重构损失门限[a,b],即该飞参序列中不包含异常状态点向量,则判定为正常飞参序列,继续遍历检测下一个飞参序列,反之若重构损失序列中存在异常状态点向量,则记录异常状态点向量个数k,再计算异常状态点向量和序列中所有状态点向量之比/>若该比值小于异常点占比阈值q,则判定为正常飞参序列,否则判定为异常飞参序列;之后,对异常飞参序列及其对应的重构损失序列分别进行动态可视化,通过比较各飞参序列中各特征和重构损失随时间的变化情况,对飞参序列的异常类型进行判断;最后,完成对数据集中所有实时飞参序列的检测。
通过相关实验,对本发明的有益效果进行展示。
实验分三步:首先,采用飞机处于稳定巡航状态的未超限发动机性能飞参数据作为发动机正常性能基准数据,用这部分数据训练残差门GRU-VAE异常检测模型,记录模型在训练过程中训练损失值的变化情况,确定模型对数据的拟合程度;然后,将飞机从稳定巡航状态向非稳定巡航状态转换的数据作为发动机性能异常仿真数据,用已训练好的残差门GRU-VAE异常检测模型对数据进行异常检测实验,并提出三个异常检测实例进行分析;最后,复现现有相关的基于数据重构模型的异常检测方法,并对比不同模型的性能情况。
(一)实验数据
本实施例采用某型号飞机上的4台发动机的性能参数作为实验数据,截取2021年8月16日至17日连续飞行9个架次的原始飞参数据。其中,将飞机处于稳定巡航状态的飞参数据作为异常检测模型的训练数据集,从各发动机分别截取20段数据,用于训练检测各发动机参数性能异常的模型;将已有故障标注的异常飞参数据以及飞机从稳定巡航状态向非稳定巡航状态转换的数据作为异常数据,从各发动机分别截取20段正常数据和20段异常数据作为测试数据集,用训练好的模型对其进行异常检测实验。
如此设置数据集的原因有三个:一是飞参数据中正常数据数量和异常数据数量极度不平衡,没有足够的维修先验信息表明未超限飞参数据存在异常情况;二是当飞机处于稳定巡航的飞行状态下,发动机也处于稳定工作状态,未超限参数的细微变化更能反映发动机真实性能状况;三是该型飞机执行的任务复杂多变,任务过程中需要根据训练要求执行多种复杂机动,使得不同时间段内的发动机的工作状况差异性较大,采用稳定巡航飞行状态下的数据有利于模型对发动机正常性能的拟合。
(二)实验结果分析
1、模型训练阶段
在本方法的异常检测模型训练阶段,第一步采用4台发动机处于稳定巡航状态下的飞参数据,分别训练4个针对各发动机的性能异常检测模型。图10展示了针对1号发动机的异常检测模型在训练过程中目标函数值随训练步数Epoch的变化情况,模型在500个epoch内稳定收敛,对发动机性能正常的数据进行了拟合。
第二步是计算正常样本重构损失,以1号发动机为例,将重构损失的分布情况利用直方图和高斯核密度估计曲线在图11进行展示,确定重构损失门限,为下一步异常检测提供发动机正常性能基准。
模型训练阶段采用无异常信息标注的发动机未超限数据,通过训练实现了基于无监督学习的建模过程。
2、异常检测阶段
经过模型训练阶段,对应4台发动机我们分别得到了4个异常检测模型。根据测试数据集的设置情况,每个模型将输入20条飞参数据进行测试,其中正常数据和异常数据各有10条,选用的所有测试数据均未超限。下面列举3个异常检测实例,验证其异常检测性能。
图12中的上图是飞机在2021年8月16日下午13时18分到13时24分期间1号发动机参数的变化情况,这里将13时20分至13时22分之间飞行员减小油门位移,降低飞行高度的操作仿真为发动机性能异常数据;图12中的下图是发动机参数重构损失随时间的变化情况,红线和绿线之间的数值区间是指由模型训练得到的重构损失阈值范围,在异常数据所属的时间范围内,重构损失超出了阈值范围。显然,本方法可以在发动机参数未超出限制范围的前提下检测出发动机性能的异常变化。
图13中的上图是飞机在2021年8月17日凌晨0时34分到0时40分期间2号发动机参数的变化情况,这里将飞行员两次增加油门位移,提升飞行高度的操作仿真为发动机性能异常数据;下图的重构损失变化图用于检测异常及其对应的时间范围。尽管在0时34分至0时35分之间发动机性能参数曲线并未发生明显变化,但由于模型中残差门GRU模块可以对数据的时序特性进行深入挖掘,这里提前给出了超出阈值的异常告警;同样的,在两次高度调整完成后,即0时40分后,尽管飞机已在稳定高度上巡航,油门位移没有变化,但模型检测到发动机性能未回到稳定巡航状态,也给出了异常信号。
图14中的上图是飞机在2021年8月17日中午12时50分到13时00分期间3号发动机参数的变化情况,原始数据是反映的是飞机在起飞后缓慢提升高度的飞行过程,仿真为发动机性能全面异常的数据。如图14下所示,重构损失一直在阈值上限处波动,整段数据都检测到了异常,在数据末尾重构损失呈现向正常区间波动转移的趋势。这是因为飞机处在低高度飞行时发动机性能和处于稳定巡航状态存在明显差别,在抬升高度的过程中发动机性能在向稳定巡航状态靠拢,因而又呈现向正常区间波动转移的趋势。
经实验,4个发动机对应模型的准确率、精度和召回率以及模型的F1得分如表1所示。
表1各发动机性能数据比较
经实验,本发明提出的基于残差门GRU-VAE模型的发动机性能异常检测方法实用有效,模型利用无异常信息标记的发动机性能常态数据进行训练,异常检测模型的平均异常识别准确率高达93.8%,模型的平均精度、召回率和F1得分均在93%以上,通过检测可以确定异常数据所属时间段,便于飞参判读人员进一步查看数据,向地勤维护人员提供精准的维修建议。
3、类似模型方法性能比较
实验复现了现有基于数据重构模型的异常检测方法,在表2上记录了基于不同网络模型的方法性能情况。
表2基于数据重构模型的异常检测方法性能对比
如表2所示,基于AE和VAE模型的方法在本实验数据集上的实验性能相对较差,模型的F1分数均未超过75%。将AE或VAE与LSTM相结合后,模型性能提升明显,F1分数均在80%以上。GRU-VAE模型将GRU作为变分自编码器的输入层和输出层,模型平均F1得分达到90%。本发明利用残差门结构对GRU进行改进,使得残差门GRU-VAE模型在查准率、查全率和模型F1分数上比未改进的GRU-VAE模型分别高3%、5%和3.8%,可见改进的残差门GRU模块能够有效提高模型异常检测性能。综上,本发明采用的残差门GRU-VAE模型在解决航空发动机未超限飞参数据异常检测问题上具有性能优势。
以上所示仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,包括:
模型训练阶段,提取代表航空发动机性能常态的历史飞参数据集进行预处理,训练残差门GRU-VAE飞参异常检测模型,对数据集中所有飞参序列进行重构,采用均方根误差计算重构损失,根据重构损失分布确定对应置信度下的置信区间,进而确定状态点重构损失门限,得到训练好的残差门GRU-VAE飞参异常检测模型;
异常检测阶段,运用训练好的残差门GRU-VAE飞参异常检测模型,对预处理后的实时飞行架次或性能异常的航空发动机未超限飞参数据进行检测,将重构损失超出门限的状态点视为异常状态点,进一步将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列。
2.根据权利要求1所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,在将异常状态点占比超出占比阈值的飞参序列判定为异常飞参序列之后,还包括:
检测异常后再对异常参数进行深入判读,针对异常参数对应的部附件,向地勤一线人员反馈维修维护建议。
3.根据权利要求1所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,按照以下方式对飞参数据进行预处理:
按照1Hz的采样率,依托飞参系统地面站提取所需的发动机性能状态参数,所述性能状态参数包括气路性能参数、机械性能参数和油路监测数据;从中筛选出飞机发动机刚出厂、大修或换发后10个架次内健康稳定运行的巡航状态数据;
运用相似理论,将相关发动机性能状态参数修正到标准大气压下;
对数据进行归一化处理,将各性能状态特征转换到[0,1]范围内;
对性能参数数据进行格式转换,使其匹配神经网络模型的数据输入接口。
4.根据权利要求3所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,所述气路性能参数包括排气温度,所述机械性能参数包括扭矩、转速和振动值,所述油路监测数据包括滑油温度、滑油压力和燃油压力。
5.根据权利要求4所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,针对排气温度和转速的相似修正公式如下:
其中,标准大气状态下,T0=288.15K,Tk为压气机进口总温,EGTm和Nm为记录的排气温度和转速,EGTk和Nk为修正后的值。
6.根据权利要求1所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,在训练残差门GRU-VAE飞参异常检测模型之前,还包括:
在GRU中加入残差门结构,在VAE框架下,将编码器输入层和解码器输出层神经元替换为残差门GRU,构建以残差门GRU和VAE为主要结构组成的无监督神经网络模型,即残差门GRU-VAE飞参异常检测模型。
7.根据权利要求6所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,所述在GRU中加入残差门结构包括:
在GRU中激活的候选隐状态的计算上加入残差门结构,将上一时刻的未激活候选状态ht'-1加入到当前时刻的候选状态ht'的计算,然后经非线性激活函数tanh激活输出激活的隐状态
8.根据权利要求6所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,数据的重构过程包括:
首先,将飞参序列S直接输入模型,编码器的残差门GRU单元捕捉飞参序列状态点向量的时序特征,经Linear线性激活层分别输出特征值对应的均值μz和方差σz;然后,在VAE框架下进行重参数化操作,对点向量的隐变量分布Z进行估计;最后残差门GRU单元译码器根据隐变量Z完成对数据进行时序性重构,输出重构状态序列SR,实现端到端的数据精确重构。
9.根据权利要求1所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,残差门GRU-VAE飞参异常检测模型的训练过程包括:
首先,将航空发动机历史飞参数据集Xtrain输入残差门GRU-VAE飞参异常检测模型进行训练,拟合发动机性能状态基线;然后,模型输出重构损失集Re_Losstrain,设定重构损失置信度1-α,其中α为显著性水平;之后,结合置信度对Re_Losstrain进行正态性检验,若满足正态分布,则采用正态分布法计算状态点重构损失门限,否则采用百分位数法计算状态点重构损失门限;最后,确定状态点重构损失门限[a,b],并保存属于该发动机的训练好的残差门GRU-VAE飞参异常检测模型。
10.根据权利要求9所述的一种基于残差门GRU-VAE模型的航空发动机未超限飞参数据异常检测方法,其特征在于,运用训练好的残差门GRU-VAE飞参异常检测模型进行异常检测过程包括:
首先,将实时飞参数据集Xtest输入训练好的残差门GRU-VAE飞参异常检测模型后,模型逐个遍历Xtest中所有飞参序列;然后,检测过程中模型输出Sm对应的重构损失序列,若重构损失序列中不存在重构损失值超出状态点重构损失门限[a,b],则判定为正常飞参序列,继续遍历检测下一个飞参序列;反之若重构损失序列中存在异常状态点向量,则记录异常状态点向量个数k,再计算异常状态点向量和序列中所有状态点向量之比若该比值小于异常点占比阈值q,则判定为正常飞参序列,否则判定为异常飞参序列;之后,对异常飞参序列及其对应的重构损失序列分别进行动态可视化,通过比较各飞参序列中各特征和重构损失随时间的变化情况,对飞参序列的异常类型进行判断;最后,完成对数据集中所有实时飞参序列的检测。
CN202310112374.1A 2023-02-14 2023-02-14 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法 Pending CN116521406A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310112374.1A CN116521406A (zh) 2023-02-14 2023-02-14 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310112374.1A CN116521406A (zh) 2023-02-14 2023-02-14 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法

Publications (1)

Publication Number Publication Date
CN116521406A true CN116521406A (zh) 2023-08-01

Family

ID=87407062

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310112374.1A Pending CN116521406A (zh) 2023-02-14 2023-02-14 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法

Country Status (1)

Country Link
CN (1) CN116521406A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117291094A (zh) * 2023-09-14 2023-12-26 成都飞机工业(集团)有限责任公司 基于关联参数映射的无人机动力系统参数异常检测方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117291094A (zh) * 2023-09-14 2023-12-26 成都飞机工业(集团)有限责任公司 基于关联参数映射的无人机动力系统参数异常检测方法

Similar Documents

Publication Publication Date Title
Zhou et al. Fault diagnosis of gas turbine based on partly interpretable convolutional neural networks
CN112149316B (zh) 基于改进的cnn模型的航空发动机剩余寿命预测方法
Luo et al. Gas turbine engine gas path anomaly detection using deep learning with Gaussian distribution
CN114282579A (zh) 基于变分模态分解和残差网络的航空轴承故障诊断方法
Fu et al. A re-optimized deep auto-encoder for gas turbine unsupervised anomaly detection
CN109635318B (zh) 一种航空发动机传感器智能解析余度设计方法
CN107103658B (zh) 基于深度学习与高斯分布的航空发动机气路异常检测方法
CN113053171B (zh) 一种民机系统风险预警方法及系统
CN114239377A (zh) 一种城轨机电设备健康状态评估方法、系统及存储介质
CN114218872B (zh) 基于dbn-lstm半监督联合模型的剩余使用寿命预测方法
Liu et al. Complex engineered system health indexes extraction using low frequency raw time-series data based on deep learning methods
CN114297918A (zh) 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法
CN116521406A (zh) 一种基于残差门gru-vae模型的航空发动机未超限飞参数据异常检测方法
CN115481658A (zh) 一种针对航空发动机故障预测的脉冲回声状态网络模型
CN115048873B (zh) 一种用于飞机发动机的剩余使用寿命预测系统
Dui et al. Reliability Evaluation and Prediction Method with Small Samples.
Pan et al. A model of fuel consumption estimation and abnormality detection based on airplane flight data analysis
Bond et al. A hybrid learning approach to prognostics and health management applied to military ground vehicles using time-series and maintenance event data
CN116793666A (zh) 一种基于lstm-mlp-lsgan模型的风电机组齿轮箱故障诊断方法
Reed Development of a parametric-based indirect aircraft structural usage monitoring system using artificial neural networks
CN115017984A (zh) 一种航空发动机故障风险预警方法及系统
Zhi-hong et al. Sensor fault diagnosis based on wavelet analysis and LSTM neural network
CN112560252A (zh) 一种航空发动机剩余寿命预测方法
Liu et al. A prognostics approach based on feature fusion and deep BiLSTM neural network for aero-engine
CN117892639B (zh) 一种飞参数据驱动的飞行器结构寿命预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination