CN110321603A - 一种用于航空发动机气路故障诊断的深度计算模型 - Google Patents
一种用于航空发动机气路故障诊断的深度计算模型 Download PDFInfo
- Publication number
- CN110321603A CN110321603A CN201910525924.6A CN201910525924A CN110321603A CN 110321603 A CN110321603 A CN 110321603A CN 201910525924 A CN201910525924 A CN 201910525924A CN 110321603 A CN110321603 A CN 110321603A
- Authority
- CN
- China
- Prior art keywords
- layer
- output
- data object
- network
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003745 diagnosis Methods 0.000 title claims abstract description 45
- 238000004364 calculation method Methods 0.000 title claims abstract description 21
- 238000000034 method Methods 0.000 claims abstract description 44
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 27
- 238000013528 artificial neural network Methods 0.000 claims abstract description 22
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 21
- 238000012549 training Methods 0.000 claims abstract description 13
- 230000000306 recurrent effect Effects 0.000 claims abstract description 6
- 239000013598 vector Substances 0.000 claims description 55
- 230000006870 function Effects 0.000 claims description 25
- 230000007774 longterm Effects 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000004913 activation Effects 0.000 claims description 11
- 238000011176 pooling Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 11
- 230000000644 propagated effect Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 5
- 125000004122 cyclic group Chemical group 0.000 claims description 3
- 230000001419 dependent effect Effects 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 2
- 230000011218 segmentation Effects 0.000 claims description 2
- 238000013459 approach Methods 0.000 claims 1
- 239000000284 extract Substances 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000008447 perception Effects 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000000342 Monte Carlo simulation Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000000586 desensitisation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008571 general function Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000012843 least square support vector machine Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/15—Vehicle, aircraft or watercraft design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Evolutionary Computation (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Test And Diagnosis Of Digital Computers (AREA)
Abstract
本发明公开了一种用于航空发动机气路故障诊断的深度计算模型,属于计算机技术领域,包括如下步骤:(1)对连续航发性能数据进行分割预处理;(2)利用卷积神经网络提取数据对象块的空间特征;(3)利用多层感知机学习数据对象块中的局部非线性特征;(4)利用循环神经网络提取数据对象块中的长时依赖特征;(5)使用端到端的方法,即联合误差反向传播算法,训练深度混合模型。本发明实施考虑航空发动机模型的特点,融合其产生的气路性能数据的空间特性、非线性特性和长时依赖特性,构建航发气路故障诊断模型,并以分类任务作为目标,设计了联合误差反向传播算法用于深度混合模型端到端的训练。
Description
技术领域
本发明属于计算机技术领域,涉及一种用于航空发动机气路故障诊断的深度计算模型。
背景技术
航空发动机是飞行器的动力核心,其结构复杂。工作环境恶劣,是飞行器的主要故障来源,发动机的性能状态直接关系到航空器飞行过程中的安全性。发动机故障诊断技术是预防故障发生的重要手段,可以及时消除各种安全隐患,是确保安全飞行的重要保障,对提高航空器飞行的安全性具有重要意义。
航空发动机结构复杂,数学模型严重非线性,多故障类型之间监控数据变化相似程度高,同时测量误差容易对气路故障诊断造成干扰,从而影响故障诊断结果的准确性和可靠性。目前航空发动机故障诊断的研究主要有:基于数学模型的方法(如卡尔曼滤波器模型)、基于信号和数据处理的方法(如神经网络、支持向量机等智能算法)、基于知识的方法(如D-S 证据理论、故障树理论、蒙特卡罗方法)。薛薇等人针对航空发动机传感器特征,设计出对应的滤波器来进行故障诊断,提出传感器和执行机构信息融合的诊断方案。俞刚等人先将航空发动机异常监测参数输入到最小二乘支持向量机模型中,得出故障分类结果;再用卡尔曼滤波器估计故障参数,从而完成故障综合诊断。You等人利用一种基于递归约简核(recursive reduced kernel)的极限学习机对航空发动机故障模式进行识别。赵世荣等人针对航空发动机气路部件故障,融合神经网络算法和模糊集合论,建立故障诊断模型,估计与判断出故障状态。Simani等从模型结构、参数辨识方法、残差生成技术和故障诊断策略出发,建立了基于模糊识别的故障诊断模型,用于复杂系统动态故障诊断。然而,目前现有的航发故障诊断方法仅针对某一类故障,没有一定的通用性。此外,使用单一模型进行故障诊断是结果抗干扰性较差,但是用多种模型结合进行故障诊断又存在建模复杂,输出结果不直观等问题,当研究对象的故障特征发生变换时,就会严重影响故障诊断的准确度。实际应用中,航空发动机运行中产生的海量性能数据对航发故障诊断任务带来更大的挑战。
综上所述,为了高效处理海量的发动机性能参数,准确识别复杂非线性的航空发动机系统中潜在的故障模式,对噪声干扰不敏感,并可以精确对多种故障模式进行分类,同时能够对发动机的未来状态进行预测,本发明提出了一种用于航发多故障诊断的深度计算模型。
发明内容
航空发动机的性能参数在其生命周期内具有时间累积效应,随着运行时长的累积,发动机将会生成海量的性能数据。发动机气路故障的产生会造成性能参数的异常,而故障发生的概率随运行时间增长。综合考虑发动机性能数据的以上特性,本发明提出了一种混合深度计算模型。
本发明采用的技术方案为:
一种用于航空发动机气路故障诊断的深度计算模型,该模型可充分学习性能数据中的空间特征、非线性特征和时序特征,主要利用卷积神经网络(CNN)、多层感知机(MLP)、循环神经网络(RNN)等结构对航空发动机性能数据进行分析处理,还包括其它数据预处理等操作。具体包括如下步骤:
(1)航发性能数据分割预处理
由于本发明提出的方法首先提取航发性能数据中的空间特征,同时由于航发性能数据的海量性。发动机性能数据是以单个时间步内测量多种性能指标的方式进行采集,以时间序列的形式进行存储。为了保证该方法能够尽可能细粒度的识别性能数据中潜在的故障信息,同时又可以学习数据对象的局部空间特征,因此在执行特征提取工作之前,将数据对象按时序进行分割,得到的数据对象块作为模型的处理对象。
(2)卷积神经网络提取空间特征:
航空发动机的性能不仅仅取决于单一的参数特征,而是由多种参数指标共同决定。航空发动机的性能参数序列存在一定的空间关联,故障的发生会引起局部多个时序参数的异常,因此,本发明利用卷积神经网络抽象空间关系的特性提取航发性能数据中的局部空间特征。卷积神经网络处理数据对象块,经过卷积和池化操作,得到空间特征向量。
(3)多层感知机提取高阶非线性特征:
考虑到航空发动机模型的高复杂性和严重非线性,简单的线性操作不足以充分挖掘性能参数对象中的有价值信息。由于多层感知机是一种通用的函数近似方法,可以拟合复杂的非线性函数,本发明将卷积神经网络提取的空间特征向量输入多层感知机,经过隐藏层,再到输出层,来学习数据中的高阶非线性特征,输出层产生的局部高阶特征向量为多层感知机的输出。
(4)循环神经网络提取长时依赖特征:
航空发动机的性能数据具有时间累积特性,发动机的健康状况依赖于当前时刻之前的运行状态。为了有效提取航发性能数据对象中的依赖特征,本发明使用循环神经网络结构对多层感知机输出的局部高阶特征向量进行处理。同时考虑到航空发动机连续运行所产生的性能数据的规模较大,本发明使用LSTM作为网络的基本结构体,来捕捉性能数据中的长时依赖特征。LSTM可以将当前时刻的输入与之前的输入信息同时作为故障诊断的依据,其当前时刻的输出可用于故障模式识别。
本发明提出了一种混合神经网络单元(HLSTM),网络单元第一层为卷积网络层,用来提取性能数据中的局部空间特征。以多层感知机作为网络单元的第二层,由上层输出的局部空间特征向量作为感知机输入,来提取数据对象的非线性高阶特征,输出的局部高阶特征向量作为LSTM的输入,模型以循环网络结构组织多层网络,提取性能数据中的长时依赖特征。对同时包含了数据对象块的空间特征、非线性特征和时序特征的深度特征向量,使用 softmax多分类器作为输出层对其进行故障模式判别,以此来构建深度网络。
(5)模型训练——联合误差反向传播算法
在构建完成前向计算网络结构之后,利用本发明提出的一种联合误差反向传播算法对网络参数进行更新、迭代,训练模型产生的系统联合误差反向依次经由输出层、循环网络层、多层感知机层、卷积网络层,在混合神经网络单元中向上传播,以结构风险最小化为训练目标,直至设定的最大迭代次数。
本发明提供了一种用于航空发动机故障诊断的深度计算模型,该模型使用一种联合误差反向传播算法进行迭代,计算和更新网络参数。
本发明的有益效果为:本发明实施考虑航空发动机模型的特点,融合其产生的气路性能数据的空间特性、非线性特性和长时依赖特性,构建航发气路故障诊断模型,并以分类任务作为目标,设计了联合误差反向传播算法用于深度混合模型端到端的训练。相比于现有一些故障诊断方法,本发明在故障模式识别准确率和抗干扰能力方面都有一定的优越性。
附图说明
图1是本发明实施例中的一种用于航发故障诊断方法的模型整体结构示意图;
图2是本发明实施例中的空间特征提取和非线性特征提取流程图;
图3是LSTM网络结构及内部结构图;
图4是本发明实施例中的实测数据集上各方法故障模式识别召回率比较;
图5是本发明实施例中的加入人工噪声后各方法故障模式识别召回率比较;
图6是本发明实施例中在无噪声和加入人工噪声实验数据上各模型Kappa系数比较。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
图1示出了本发明实施例中的一种用于航空发动机气路故障诊断的深度计算模型的结构示意图,包括如下步骤:
(1)对航发运行生成的性能数据进行分割处理
设整个数据对象集合D包含N个数据对象,每个对象有d个属性,即D={x1,x2,...,xN},其中xi表示第i个数据对象,即第i个性能参数序列,表示第n个数据对象的第m个属性。将数据对象集合分割成包含K个连续数据对象的数据块,因此原始数据对象集合可表示成D={D1,D2,...DN/K},其中第k个数据块Dk={xi,xi+1,...,xi+K-1}由从第i个开始的连续k个数据对象集合,因此,数据块k可表示成K行d列的二维矩阵,即Dk∈RK×d,其中R为实数集,原始数据对象集合可表示成N/K个数据对象块。
(2)局部空间特征提取
此示例利用一维卷积神经网络提取数据对象块的局部空间特征,实例如图2所示:
对于输入Dk,使用卷积核对二维矩阵进行卷积操作,卷积核可以表示为F∈Rl×d,其中 F表示卷积核权重,R表示实数集,l为卷积核F的宽度,d为F的长度,并且卷积核的长度与数据块的列数相同。一维卷积操作完成后可以得到相对应的特征映射向量,本发明中使用多种尺度的卷积核,即卷积核宽度不同,每种尺度的卷积核设置多个,以不同的值进行初始化,来学习数据对象块中的不同空间特征。对不同尺度的卷积核进行统一编号,假设有n个卷积核,每个卷积核对数据对象块的操作过程相同,可表示为下列公式:
其中,表示第i个卷积核Fi与第k个数据对象块Dk进行卷积操作得到的映射向量,表示卷积操作,bi表示对应的偏置向量,f为一个激活函数,为RELU函数,即
所有卷积核与数据对象块Dk进行卷积操作完成后,可以得到特征映射向量集合由于卷积核尺度的不同,集合中存在映射向量维度不一的现象。对集合中的所有映射向量取最大池化操作,提取最显著特征,该操作完成后可得到相应的特征向量,即局部空间特征向量sk。
(3)局部高阶特征提取
通过卷积神经网络得到数据对象块的局部空间特征后,利用多层感知机实现对非线性高阶特征的提取,如图2所示:
首先,通过激活函数f将输入层局部空间特征向量s映射到隐藏层特征h:
hk=f(w(1)sk+b(1))
其中,f为一个非线性激活函数,为sigmoid函数,即f(t)=1/(1+e-t)。
然后再通过激活函数f将隐藏层特征h映射到网络的输出z:
zk=f(w(2)hk+b(2))
其中,w(1)、b(1)、w(2)、b(2)为网络参数,w(1)和w(2)表示网络的权重矩阵,b(1)和b(2)表示偏置向量,初始随机生成权重矩阵和偏置向量的值。输出zk即为数据对象块k的局部高阶特征向量。
(4)长时依赖特征提取
得到数据对象块k的局部高阶特征向量zk之后,通过LSTM来提取数据对象中的长时依赖特征。如图3所示,该网络结构通过一种特殊结构的存储单元来记忆长期累积信息,该存储单元包含一个记忆单元和三种门控单元,分别是遗忘门、输入门、输出门。其中记忆单元使用单元状态c来保存长期信息,遗忘门负责控制需要继续保存的长期信息,输入门负责控制将即时状态(当前输入)输入到单元状态c中,输出门负责控制单元状态c对当前输出的影响。该结构的前向计算公式为:
fk=σ(Wfzk+bf)
ik=σ(Wizk+bi)
c′k=tanh(Wczk+bc)
ck=fk⊙ck-1+ik⊙c′k
ok=σ(Wozk+bo)
hk=ok⊙tanh(ck)
其中fk表示以数据对象块k的局部高阶特征向量zk作为当前时刻LSTM输入的遗忘门输出,Wf为遗忘门权重矩阵,bf为偏置向量,σ(·)是sigmoid激活函数。相应地,ik表示输入门输出,Wi为输入门权重矩阵,bi为偏置向量。c′k表示当前输入zk的状态信息,Wc为相应的权重矩阵,bc为偏置向量,tanh(·)是双曲正切激活函数。ck表示当前时刻的单元状态,它由遗忘门输出fk和上一时刻的单元状态ck-1的哈达玛积(Hadamard Product),并与输入门输出 ik和当前输入的状态c′k的哈达玛积相加的和计算获得,⊙为哈达玛积运算符号,即两个向量对应元素的乘积。ok表示输出门输出,Wo为输出门权重矩阵,bo为偏置向量。hk表示LSTM隐藏层输出,即对数据对象块k处理后的特征向量,其由输出门输出ok与采用双曲正切函数激活后的当前时刻的单元状态ck取哈达玛积获得。
使用softmax分类器处理数据对象块k的特征向量,可以得到该数据对象块关于各故障模式类别的概率分布,取概率值较大的维度对应的类别即为该数据对象块所属的故障模式。
(5)模型训练——联合误差反向传播算法
本发明设计了一种端到端的方式训练所提出的混合深度计算模型,即联合误差反向传播算法。以最小化交叉熵损失函数为目标,假设给定的数据对象块Dk关于各故障模式类别的真实概率分布为yk,yk为一个P维的一维向量,P表示故障模式类别的数量,如果数据对象块隐含有故障模式p,p表示故障模式编号(从0开始,p<P),那么yk中对应的第p维的值为 1,即其他为0。模型的损失函数定义为:
其中,表示第i个数据对象块关于各故障模式类别的真实概率分布向量的第j维的值,相应的表示模型对于第i个数据对象块关于各故障模式类别的预测概率分布向量的第j维的值;ln为自然对数运算符;N为航发产生的性能参数序列数量;K为数据对象块包含的参数序列数量。为了防止过拟合,在损失函数中添加关于模型参数的正则化项λ/2||θ||2,其中λ>0为参数衰减系数,θ为模型参数,包括Wf、bf、Wi、bi、Wc、bc、Wo、bo、w(1)、b(1)、 w(2)、b(2)、F。
在模型训练过程中,每次迭代通过模型损失函数计算得到的联合误差经输出层反向传播到循环神经网络层,由于该层输出同时受遗忘门、输入门和输出门的影响,因此循环神经网络层的误差可表示成内部各个门控单元误差的和的形式。误差经循环神经网络层反向传播至多层感知机层,多层感知机本质上为BP神经网路,按照BP算法进行误差的反向传播。误差继续反向传播至卷积网络层,在该层误差需要经过池化层和卷积层,在经过池化层时需要进行上采样操作,作为池化操作下采样的逆过程,由于卷积操作权值共享特性的存在,误差经过卷积层反向传播时,会存在输入数据对象块的多个区域与卷积核权值的更新相关。通过上述联合误差反向传播算法求解损失函数关于模型各网络层的权重矩阵偏置向量的梯度,然后利用随机梯度下降法对参数进行更新,直到设定的最大迭代次数。
结合本发明的方案,进行实验分析如下:
为了验证本发明提出方法HLSTM的有效性,将HLSTM和四种重要的故障诊断算法SVM、ABC-BP、D-S和CNN进行对比。其中D-S为基于证据理论的融合诊断方法,并将 BP神经网络和SVM的诊断结果作为决策融合的依据。验证数据集为中国航发沈阳发动机研究所提供的经过脱敏处理的航空发动机实测数据。数据中包含五种故障模式,如表1所示。
表1数据集描述
实验硬件环境配置为:Intel Xeon E7-4800@1.9GHz处理器,64G内存;软件环境为: Win7 64位操作系统,Python3。本实验中设置K=20,即将连续的20组时序参数作为数据对象块;卷积网络层选取大小为1×23、2×23、3×23的卷积核各32个,经最大池化操作,输出 96维空间特征向量;多层感知机层输入层、隐藏层、输出层节点个数分别为96、256、128;设置训练最大迭代次数为3000;利用召回率Recall和Kappa系数两个指标比较HLSTM和其他算法故障诊断的准确性和整体性能。
Recall和Kappa系数的表示如下:
其中,TP为真正例数,即将正类预测为正类的样本数,FN为假负例数,即将正类预测为负类的样本数,召回率的含义为分类器正确预测的正例数占所有正类样本的比例。本实验所处理的为多分类问题,将关注的某一类视为正类,其它四类则为负类。vii表示模型诊断结果的混淆矩阵中第i类数据对象块被预测为第i类故障模式的数量,即第i类故障模式数据块预测正确的样本数量,ai表示属于第i类故障模式的数据对象块数量,bi表示模型预测为第i 类故障模式的数据对象块数量。
由于本发明所提出的算法是针对航发性能数据对象块,而对比算法中,ABC-BP和D-S 方法是以单时序数据作为处理对象,因此对这两种方法的训练数据进行预处理。首先使用单一的卷积神经网络来完成故障模式分类任务,以数据对象块作为训练数据,并根据反向传播算法计算、更新网络参数,不断迭代,直至模型收敛。使用训练好的卷积网络对数据对象块处理的池化层结果抽象该数据对象块的特征,作为两种对比算法的训练数据。
实验具体得到的结果如图4所示。从图中可以看出,相比于SVM、ABC-BP、D-S和CNN故障诊断算法,本发明提出的方法在五种故障模式识别任务上具有一定的优越性。SVM和ABC-BP算法是对卷积网络提取的空间特征进行处理,而D-S方法同时融合以上两种方法的诊断结果,但也仅考虑了航发性能数据中的空间特性,CNN本身就是提取数据对象中的空间特征并分类;HLSTM同时考虑了数据对象中的空间特征和依赖特征,从实验结果可以看出,依赖特征有助于提高故障诊断的准确率。
此外,为了验证本发明提出方法HLSTM的鲁棒性,人为地在实验数据中加入噪声,并比较HLSTM与SVM、ABC-BP、D-S和CNN故障诊断算法的召回率,具体试验结果如图5 所示。从图中可以看出,HLSTM相比于其它几种故障诊断方法,在有数据噪声的情况下,仍能保持相对较高的召回率,因此可以认为HLSTM具有较高的抗干扰能力。
如图6所示,为HLSTM与SVM、ABC-BP、D-S和CNN故障诊断算法在无噪声和有噪声实验数据上的Kappa系数(越接近1越好)的对比结果。从图中可以看出,本发明提出方法相较于其它几种故障诊断方法有更高的Kappa系数,具有更好的性能。
综上,本发明提出的一种用于航空发动机故障诊断的深度计算模型,利用卷积神经网络、多层感知机、循环神经网络分别提取数据对象块中的空间特征、局部高阶特征和长时依赖特征,融合航发性能数据中的空间特性、非线性特征和时间特性,能够有效的提高航空发动机故障诊断的准确率,并提高了模型的抗干扰能力。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、磁盘或光盘等。
以上对本发明实施所提供的一种用于航空发动机故障诊断的深度计算模型进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (3)
1.一种用于航空发动机气路故障诊断的深度计算模型,其特征在于,包括如下步骤:
(1)对连续航发性能数据进行分割预处理
将航空发动机运行产生的以时间序列存储的气路性能数据按时序进行分割,使得原始的数据对象以块的形式进行处理;
(2)利用卷积神经网络提取数据对象块的局部空间特征
航空发动机的性能参数序列存在空间关联,故障的发生会引起局部多个时序参数的异常,因此利用卷积神经网络抽象空间关系的特性提取航发性能数据中的局部空间特征;卷积神经网络处理数据对象块,经过卷积和池化操作,得到局部空间特征向量;
(3)利用多层感知机学习数据对象块中的局部非线性特征
通过卷积神经网络得到数据对象块的局部空间特征后,利用多层感知机实现对局部非线性高阶特征的提取;将卷积神经网络提取的局部空间特征向量输入多层感知机,经过隐藏层,再到输出层,来学习数据中的高阶非线性特征,输出层产生的局部高阶特征向量为多层感知机的输出;
(4)利用循环神经网络提取数据对象块中的长时依赖特征
采用循环神经网络结构对多层感知机输出的局部高阶特征向量进行处理,提取航发性能数据对象中的依赖特征;同时考虑到航空发动机连续运行所产生的性能数据的规模较大,采用长短时记忆单元LSTM作为网络的基本结构体,捕捉性能数据中的长时依赖特征;所述的LSTM可将当前时刻的输入与之前的输入信息同时作为故障诊断的依据,其当前时刻的输出用于故障模式识别;
提出一种混合神经网络单元HLSTM,网络单元第一层为卷积网络层,用来提取性能数据中的局部空间特征;以多层感知机作为网络单元的第二层,由上层输出的局部空间特征向量作为感知机输入,来提取数据对象的非线性高阶特征,输出的局部高阶特征向量作为LSTM的输入,模型以循环网络结构组织多层网络,提取性能数据中的长时依赖特征;对同时包含了数据对象块的空间特征、非线性特征和时序特征的深度特征向量,使用softmax多分类器作为输出层对其进行故障模式判别,以此来构建深度网络;
(5)采用端到端的方法,即联合误差反向传播算法,训练深度混合模型
采用端到端的方式训练所提出的混合深度计算模型,即联合误差反向传播算法对网络参数进行更新、迭代,训练模型产生的系统联合误差反向依次经由输出层、循环网络层、多层感知机层、卷积网络层,在混合神经网络单元中向上传播,以结构风险最小化为训练目标,直至设定的最大迭代次数;
所述的联合误差反向传播算法具体为:
以最小化交叉熵损失函数为目标,假设给定的数据对象块Dk关于各故障模式类别的真实概率分布为yk,yk为一个P维的一维向量,P表示故障模式类别的数量,如果数据对象块隐含有故障模式p,p表示故障模式编号,p从0开始,p<P;那么yk中对应的第p维的值为1,即其他为0;模型的损失函数定义为:
其中,表示第i个数据对象块关于各故障模式类别的真实概率分布向量的第j维的值,相应的表示模型对于第i个数据对象块关于各故障模式类别的预测概率分布向量的第j维的值;ln为自然对数运算符;N为航发产生的性能参数序列数量;K为数据对象块包含的参数序列数量;为了防止过拟合,在损失函数中添加关于模型参数的正则化项λ/2||θ||2,其中λ>0为参数衰减系数,θ为模型参数;
在模型训练过程中,每次迭代通过模型损失函数计算得到的联合误差经输出层反向传播到循环神经网络层,循环神经网络层的误差表示成内部各个门控单元误差的和的形式;误差经循环神经网络层反向传播至多层感知机层,多层感知机本质上为BP神经网路,按照BP算法进行误差的反向传播;误差继续反向传播至卷积网络层,在该层误差需要经过池化层和卷积层,在经过池化层时需要进行上采样操作,作为池化操作下采样的逆过程,由于卷积操作权值共享特性的存在,误差经过卷积层反向传播时,会存在输入数据对象块的多个区域与卷积核权值的更新相关;通过上述联合误差反向传播算法求解损失函数关于模型各网络层的权重矩阵偏置向量的梯度,然后利用随机梯度下降法对参数进行更新,直到设定的最大迭代次数。
2.根据权利要求1所述的一种用于航空发动机气路故障诊断的深度计算模型,其特征在于,所述的步骤(3)具体为:
通过激活函数f将输入层局部空间特征向量s映射到隐藏层特征h:
hk=f(w(1)sk+b(1))
再通过激活函数f将隐藏层特征h映射到网络的输出z:
zk=f(w(2)hk+b(2))
其中,f为一个非线性激活函数,为sigmoid函数,即f(t)=1/(1+e-t);w(1)、b(1)、w(2)、b(2)为网络参数,w(1)和w(2)表示网络的权重矩阵,b(1)和b(2)表示偏置向量,初始随机生成权重矩阵和偏置向量的值;输出zk即为数据对象块k的局部高阶特征向量。
3.根据权利要求1所述的一种用于航空发动机气路故障诊断的深度计算模型,其特征在于,所述的步骤(4)具体为:
得到数据对象块k的局部高阶特征向量zk之后,通过LSTM提取数据对象中的长时依赖特征;网络结构通过一种特殊结构的存储单元来记忆长期累积信息,该存储单元包含一个记忆单元和三种门控单元,分别是遗忘门、输入门、输出门;其中记忆单元使用单元状态c来保存长期信息,遗忘门负责控制需要继续保存的长期信息,输入门负责控制将即时状态输入到单元状态c中,输出门负责控制单元状态c对当前输出的影响;该结构的前向计算公式为:
fk=σ(Wfzk+bf)
ik=σ(Wizk+bi)
c′k=tanh(Wczk+bc)
ok=σ(Wozk+bo)
其中,fk表示以数据对象块k的局部高阶特征向量zk作为当前时刻LSTM输入的遗忘门输出,Wf为遗忘门权重矩阵,bf为偏置向量,σ(·)是sigmoid激活函数;相应地,ik表示输入门输出,Wi为输入门权重矩阵,bi为偏置向量;c′k表示当前输入zk的状态信息,Wc为相应的权重矩阵,bc为偏置向量,tanh(·)是双曲正切激活函数;ck表示当前时刻的单元状态,由遗忘门输出fk和上一时刻的单元状态ck-1的哈达玛积,并与输入门输出ik和当前输入的状态c′k的哈达玛积相加的和计算获得,⊙为哈达玛积运算符号;ok表示输出门输出,Wo为输出门权重矩阵,bo为偏置向量;hk表示LSTM隐藏层输出,即对数据对象块k处理后的特征向量,其由输出门输出ok与采用双曲正切函数激活后的当前时刻的单元状态ck取哈达玛积获得;
使用softmax分类器处理数据对象块k的特征向量,得到该数据对象块关于各故障模式类别的概率分布,取概率值较大的维度对应的类别即为该数据对象块所属的故障模式。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910525924.6A CN110321603B (zh) | 2019-06-18 | 2019-06-18 | 一种用于航空发动机气路故障诊断的深度计算模型 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910525924.6A CN110321603B (zh) | 2019-06-18 | 2019-06-18 | 一种用于航空发动机气路故障诊断的深度计算模型 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110321603A true CN110321603A (zh) | 2019-10-11 |
CN110321603B CN110321603B (zh) | 2021-02-23 |
Family
ID=68119743
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910525924.6A Active CN110321603B (zh) | 2019-06-18 | 2019-06-18 | 一种用于航空发动机气路故障诊断的深度计算模型 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110321603B (zh) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110749447A (zh) * | 2019-11-27 | 2020-02-04 | 淮安信息职业技术学院 | 利用大数据的装载机发动机故障诊断方法 |
CN110909782A (zh) * | 2019-11-15 | 2020-03-24 | 湘潭大学 | 一种基于多特征结合深度学习对机床主轴故障的诊断方法 |
CN111060838A (zh) * | 2019-12-31 | 2020-04-24 | 中国人民解放军陆军军医大学第二附属医院 | 一种基于多维度特征融合的医疗电子设备开关电源故障诊断方法 |
CN111104971A (zh) * | 2019-12-05 | 2020-05-05 | 山东超越数控电子股份有限公司 | 一种基于概率统计和支持向量机的发动机参数检测方法 |
CN111123894A (zh) * | 2019-12-30 | 2020-05-08 | 杭州电子科技大学 | 一种基于lstm和mlp结合的化工过程故障诊断方法 |
CN111368885A (zh) * | 2020-02-24 | 2020-07-03 | 大连理工大学 | 一种基于深度学习和信息融合的航空发动机气路故障诊断方法 |
CN111523081A (zh) * | 2020-05-01 | 2020-08-11 | 西北工业大学 | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 |
CN111680784A (zh) * | 2020-05-27 | 2020-09-18 | 上海大学 | 基于时空多维影响力的海面温度深度学习预测方法 |
CN111737920A (zh) * | 2020-06-24 | 2020-10-02 | 深圳前海微众银行股份有限公司 | 基于循环神经网络的数据处理方法、设备及介质 |
CN112131673A (zh) * | 2020-09-30 | 2020-12-25 | 西南石油大学 | 基于融合神经网络模型的发动机喘振故障预测系统及方法 |
CN112147474A (zh) * | 2020-10-30 | 2020-12-29 | 广东电网有限责任公司阳江供电局 | Xlpe电力电缆典型缺陷局部放电类型识别系统及方法 |
CN112562628A (zh) * | 2020-12-07 | 2021-03-26 | 苏州静声泰科技有限公司 | 基于深度神经网络的自适应有源噪声控制系统及其方法 |
CN112598144A (zh) * | 2020-12-31 | 2021-04-02 | 西安理工大学 | 基于相关性分析的cnn-lstm突发故障预警方法 |
CN112766303A (zh) * | 2020-12-23 | 2021-05-07 | 湖南大学 | 一种基于cnn的航空发动机故障诊断方法 |
CN113158537A (zh) * | 2021-01-18 | 2021-07-23 | 中国航发湖南动力机械研究所 | 基于lstm结合注意力机制的航空发动机气路故障诊断方法 |
CN113822842A (zh) * | 2021-04-30 | 2021-12-21 | 聚时科技(上海)有限公司 | 一种基于多任务学习的工业缺陷检测方法 |
CN114330517A (zh) * | 2021-12-15 | 2022-04-12 | 南京航空航天大学 | 一种基于神经网络的航空发动机传感器故障自诊断方法 |
CN114323691A (zh) * | 2021-12-28 | 2022-04-12 | 中国科学院工程热物理研究所 | 一种压缩空气储能系统气路故障诊断装置及方法 |
CN114580285A (zh) * | 2022-03-07 | 2022-06-03 | 哈尔滨理工大学 | 一种基于cae网络的双曲型系统模型约简方法 |
CN115114848A (zh) * | 2022-06-13 | 2022-09-27 | 成都星云智联科技有限公司 | 一种基于混合cnn-lstm的三相异步电机故障诊断方法和系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107122829B (zh) * | 2017-06-16 | 2020-09-01 | 华北电力大学(保定) | 一种利用虚拟样本训练神经网络诊断变压器故障的方法 |
CN107562784A (zh) * | 2017-07-25 | 2018-01-09 | 同济大学 | 基于ResLCNN模型的短文本分类方法 |
KR20190018798A (ko) * | 2017-08-16 | 2019-02-26 | 강병수 | 차량 소음의 컨벌루션 뉴럴 네트워크에 의한 소음 분류 방법 |
CN107797543A (zh) * | 2017-09-26 | 2018-03-13 | 大连理工大学 | 一种航空发动机燃油调节器故障诊断方法 |
CN109141847B (zh) * | 2018-07-20 | 2020-06-05 | 上海工程技术大学 | 一种基于mscnn深度学习的飞机系统故障诊断方法 |
-
2019
- 2019-06-18 CN CN201910525924.6A patent/CN110321603B/zh active Active
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110909782A (zh) * | 2019-11-15 | 2020-03-24 | 湘潭大学 | 一种基于多特征结合深度学习对机床主轴故障的诊断方法 |
CN110749447A (zh) * | 2019-11-27 | 2020-02-04 | 淮安信息职业技术学院 | 利用大数据的装载机发动机故障诊断方法 |
CN110749447B (zh) * | 2019-11-27 | 2021-04-16 | 淮安信息职业技术学院 | 利用大数据的装载机发动机故障诊断方法 |
CN111104971B (zh) * | 2019-12-05 | 2023-07-07 | 超越科技股份有限公司 | 一种基于概率统计和支持向量机的发动机参数检测方法 |
CN111104971A (zh) * | 2019-12-05 | 2020-05-05 | 山东超越数控电子股份有限公司 | 一种基于概率统计和支持向量机的发动机参数检测方法 |
CN111123894A (zh) * | 2019-12-30 | 2020-05-08 | 杭州电子科技大学 | 一种基于lstm和mlp结合的化工过程故障诊断方法 |
CN111060838A (zh) * | 2019-12-31 | 2020-04-24 | 中国人民解放军陆军军医大学第二附属医院 | 一种基于多维度特征融合的医疗电子设备开关电源故障诊断方法 |
CN111368885A (zh) * | 2020-02-24 | 2020-07-03 | 大连理工大学 | 一种基于深度学习和信息融合的航空发动机气路故障诊断方法 |
CN111368885B (zh) * | 2020-02-24 | 2021-12-03 | 大连理工大学 | 一种航空发动机气路故障诊断方法 |
CN111523081A (zh) * | 2020-05-01 | 2020-08-11 | 西北工业大学 | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 |
CN111523081B (zh) * | 2020-05-01 | 2023-09-12 | 西北工业大学 | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 |
CN111680784B (zh) * | 2020-05-27 | 2023-10-24 | 上海大学 | 基于时空多维影响力的海面温度深度学习预测方法 |
CN111680784A (zh) * | 2020-05-27 | 2020-09-18 | 上海大学 | 基于时空多维影响力的海面温度深度学习预测方法 |
CN111737920B (zh) * | 2020-06-24 | 2024-04-26 | 深圳前海微众银行股份有限公司 | 基于循环神经网络的数据处理方法、设备及介质 |
CN111737920A (zh) * | 2020-06-24 | 2020-10-02 | 深圳前海微众银行股份有限公司 | 基于循环神经网络的数据处理方法、设备及介质 |
CN112131673B (zh) * | 2020-09-30 | 2021-09-28 | 西南石油大学 | 基于融合神经网络模型的发动机喘振故障预测系统及方法 |
WO2022068587A1 (zh) * | 2020-09-30 | 2022-04-07 | 西南石油大学 | 基于融合神经网络模型的发动机喘振故障预测系统及方法 |
CN112131673A (zh) * | 2020-09-30 | 2020-12-25 | 西南石油大学 | 基于融合神经网络模型的发动机喘振故障预测系统及方法 |
CN112147474A (zh) * | 2020-10-30 | 2020-12-29 | 广东电网有限责任公司阳江供电局 | Xlpe电力电缆典型缺陷局部放电类型识别系统及方法 |
CN112562628A (zh) * | 2020-12-07 | 2021-03-26 | 苏州静声泰科技有限公司 | 基于深度神经网络的自适应有源噪声控制系统及其方法 |
CN112766303A (zh) * | 2020-12-23 | 2021-05-07 | 湖南大学 | 一种基于cnn的航空发动机故障诊断方法 |
CN112766303B (zh) * | 2020-12-23 | 2024-03-29 | 湖南大学 | 一种基于cnn的航空发动机故障诊断方法 |
CN112598144A (zh) * | 2020-12-31 | 2021-04-02 | 西安理工大学 | 基于相关性分析的cnn-lstm突发故障预警方法 |
CN112598144B (zh) * | 2020-12-31 | 2024-02-23 | 西安理工大学 | 基于相关性分析的cnn-lstm突发故障预警方法 |
CN113158537A (zh) * | 2021-01-18 | 2021-07-23 | 中国航发湖南动力机械研究所 | 基于lstm结合注意力机制的航空发动机气路故障诊断方法 |
CN113822842A (zh) * | 2021-04-30 | 2021-12-21 | 聚时科技(上海)有限公司 | 一种基于多任务学习的工业缺陷检测方法 |
CN114330517A (zh) * | 2021-12-15 | 2022-04-12 | 南京航空航天大学 | 一种基于神经网络的航空发动机传感器故障自诊断方法 |
CN114323691B (zh) * | 2021-12-28 | 2023-06-23 | 中国科学院工程热物理研究所 | 一种压缩空气储能系统气路故障诊断装置及方法 |
CN114323691A (zh) * | 2021-12-28 | 2022-04-12 | 中国科学院工程热物理研究所 | 一种压缩空气储能系统气路故障诊断装置及方法 |
CN114580285B (zh) * | 2022-03-07 | 2022-11-01 | 哈尔滨理工大学 | 一种基于cae网络的双曲型系统模型约简方法 |
CN114580285A (zh) * | 2022-03-07 | 2022-06-03 | 哈尔滨理工大学 | 一种基于cae网络的双曲型系统模型约简方法 |
CN115114848B (zh) * | 2022-06-13 | 2023-12-26 | 成都星云智联科技有限公司 | 一种基于混合cnn-lstm的三相异步电机故障诊断方法和系统 |
CN115114848A (zh) * | 2022-06-13 | 2022-09-27 | 成都星云智联科技有限公司 | 一种基于混合cnn-lstm的三相异步电机故障诊断方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN110321603B (zh) | 2021-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110321603B (zh) | 一种用于航空发动机气路故障诊断的深度计算模型 | |
CN111832216B (zh) | 基于eemd-mcnn-gru的滚动轴承剩余使用寿命预测方法 | |
CN109766583B (zh) | 基于无标签、不均衡、初值不确定数据的航空发动机寿命预测方法 | |
US11593611B2 (en) | Neural network cooperation | |
CN110956260A (zh) | 神经架构搜索的系统和方法 | |
CN110909926A (zh) | 基于tcn-lstm的太阳能光伏发电预测方法 | |
Ayodeji et al. | Causal augmented ConvNet: A temporal memory dilated convolution model for long-sequence time series prediction | |
CN112668804B (zh) | 一种地波雷达船只断裂航迹预测方法 | |
CN109120462A (zh) | 机会网络链路的预测方法、装置及可读存储介质 | |
CN111753952A (zh) | 学习包括高斯过程的概率模型的参数 | |
CN108879732B (zh) | 电力系统暂态稳定评估方法及装置 | |
CN114266278B (zh) | 一种基于双重注意力网络的设备剩余使用寿命预测方法 | |
Ibragimovich et al. | Effective recognition of pollen grains based on parametric adaptation of the image identification model | |
EP3874412A1 (en) | Computer architecture for multiplier-less machine learning | |
Cirrincione et al. | The growing curvilinear component analysis (GCCA) neural network | |
Xu et al. | Global attention mechanism based deep learning for remaining useful life prediction of aero-engine | |
Dera et al. | Trustworthy uncertainty propagation for sequential time-series analysis in rnns | |
CN114154612A (zh) | 一种基于因果关系推断的智能体行为模型构建方法 | |
CN112560252B (zh) | 一种航空发动机剩余寿命预测方法 | |
Rajendran et al. | Vortex detection on unsteady CFD simulations using recurrent neural networks | |
Wong et al. | Hybrid data regression model based on the generalized adaptive resonance theory neural network | |
Khumprom et al. | A hybrid evolutionary CNN-LSTM model for prognostics of C-MAPSS aircraft dataset | |
CN112232557A (zh) | 基于长短期记忆网络的转辙机健康度短期预测方法 | |
Kalirajan et al. | Deep learning for moving object detection and tracking | |
Hu et al. | RUL Prediction Based on Improved LSTM Network Structure |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |