CN111273623B - 基于Stacked LSTM的故障诊断方法 - Google Patents

基于Stacked LSTM的故障诊断方法 Download PDF

Info

Publication number
CN111273623B
CN111273623B CN202010115477.XA CN202010115477A CN111273623B CN 111273623 B CN111273623 B CN 111273623B CN 202010115477 A CN202010115477 A CN 202010115477A CN 111273623 B CN111273623 B CN 111273623B
Authority
CN
China
Prior art keywords
lstm
fault diagnosis
layer
data
fault
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN202010115477.XA
Other languages
English (en)
Other versions
CN111273623A (zh
Inventor
凡时财
张清清
邹见效
徐红兵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202010115477.XA priority Critical patent/CN111273623B/zh
Publication of CN111273623A publication Critical patent/CN111273623A/zh
Application granted granted Critical
Publication of CN111273623B publication Critical patent/CN111273623B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS], computer integrated manufacturing [CIM]
    • G05B19/41885Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS], computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32339Object oriented modeling, design, analysis, implementation, simulation language
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Abstract

本发明公开了一种基于Stacked LSTM的故障诊断方法,首先采集化工系统在正常状态和K种故障状态下各个测量设备的测量数据,构建得到训练样本,然后构建基于Stacked LSTM的故障诊断模型,包括Stacked LSTM网络、全连接层以及softmax层,其中Stacked LSTM网络由D层LSTM网络叠加得到,采用训练样本对故障诊断模型进行训练,在化工系统运行过程中采集实际运行数据并构建输入序列输入至基于Stacked LSTM的故障诊断模型中,得到故障识别结果。本发明通过堆叠多层LSTM网络形成Stacked LSTM网络,能够在不同时间尺度下自动提取原始数据的动态时序信息,并且对于复杂非线性数据具有较强的表达能力,从而提高故障诊断的准确率和鲁棒性。

Description

基于Stacked LSTM的故障诊断方法
技术领域
本发明属于化工过程故障诊断技术领域,更为具体地讲,涉及一种基于StackedLSTM的故障诊断方法。
背景技术
目前随着现代化工过程的日益庞大和复杂化,运行工况和操作环境也愈加多变,带来企业生产效率提高的同时,也使得过程故障发生的几率增大。若在生产过程中发生故障,可能会带来巨大的经济损失甚至人身伤害,所以要保证生产过程可靠、高效运行,需要准确及时的诊断故障的技术。
近年来,随着伴随机器学习、模式识别、人工智能等的发展,基于数据驱动的故障诊断方法成为故障技术研究领域的研究热点。传统基于数据驱动的故障诊断方法都是信号处理技术和人工智能技术的结合,代表性的方法有运用主成分分析(PCA)、小波包分解(WPD)、傅里叶变换(FTT)等方法提取特征,然后将提取的特征输入到分类器中,这样的分类器主要有支持向量机(SVM)、多层感知机(MLP)、人工神经网络(ANN)等。然而这些方法的模型是浅层结构,在随着监测数据越来越庞大的情况下会面临着维数灾难和对复杂非线性对象学习能力有限等问题;以及传统的故障诊断技术往往需要通过先验知识和专家意见提取。
而且当前化工生产过程故障的产生以及故障类型是依赖于先前时刻系统的某个状态,即生产过程的观测信号具有时序特性。观测信号之间的时序关系是故障诊断的一个重要信息,如何准确地提取时序信息时提高故障诊断的关键。然而现有的传统故障诊断技术没有考虑观测信号之间的时序关系,并假设各个时刻所采集的信号是相互独立的,难以准确提取时序信息。
发明内容
本发明的目的在于克服现有技术的不足,提供一种基于Stacked LSTM的故障诊断方法,通过堆叠多层LSTM网络形成Stacked LSTM网络,能够在不同时间尺度下自动提取原始数据的动态时序信息,并且对于复杂非线性数据具有较强的表达能力,从而提高故障诊断的准确率和鲁棒性。
为实现上述发明目的,本发明基于Stacked LSTM的故障诊断方法包括以下步骤:
S1:采集化工系统在正常状态和K种故障状态下各个测量设备的测量数据,记第k种运行状态下采样时刻r的数据向量
Figure BDA0002391365330000021
其中k=0表示正常状态,k=1,2,…,K表示故障状态序号,r=1,2,…,Rk,Rk表示第k种运行状态的采样时刻数量,
Figure BDA0002391365330000022
表示第k种运行状态下采样时刻r时第n个测量设备的测量数据,n=1,2,…,N,N表示测量设备数量;
S2:分别对每种运行状态下的测量数据进行标准化处理,得到标准化后的数据向量
Figure BDA0002391365330000023
S3:将每种运行状态下经过标准化处理的数据向量
Figure BDA0002391365330000024
按照采样时刻构成序列
Figure BDA0002391365330000025
采用长度为T的滑动窗口对序列
Figure BDA0002391365330000026
进行滑窗处理,提取得到子序列
Figure BDA0002391365330000027
其中h=1,2,…,Hk,Hk表示第k种运行状态下所提取到的子序列数量,
Figure BDA0002391365330000028
表示子序列
Figure BDA0002391365330000029
中第t个数据向量,t=1,2,…,T;将提取得到的子序列
Figure BDA00023913653300000210
作为输入序列,所对应的运行状态序号k作为输出,构建得到训练样本;
S4:构建基于Stacked LSTM的故障诊断模型,包括Stacked LSTM网络、全连接层以及softmax层,其中:
Stacked LSTM网络由D层LSTM网络叠加得到,记每层LSTM网络中的LSTM计算单元数量为T,第d层LSTM网络的第t时刻计算单元
Figure BDA00023913653300000211
的计算流程如下:
Figure BDA00023913653300000212
Figure BDA00023913653300000213
Figure BDA00023913653300000214
Figure BDA00023913653300000215
Figure BDA00023913653300000216
Figure BDA00023913653300000217
其中,d=1,2,…,D,
Figure BDA00023913653300000218
分别表示第d层LSTM网络的第t时刻计算单元
Figure BDA00023913653300000219
中的输入门、遗忘门、输出门、候选记忆细胞、记忆细胞以及隐藏状态的计算值;当d=1时Y为输入序列中第t个数据向量,当d>1时Y为第d-1层LSTM网络的第t时刻的输出值
Figure BDA0002391365330000031
Figure BDA0002391365330000032
为第d层LSTM网络中第t-1时刻计算单元的输出值,当t=1时,
Figure BDA0002391365330000033
为0向量;
Figure BDA0002391365330000034
为预设的权重参数;
Figure BDA0002391365330000035
为预设的偏置参数;σ()为sigmoid函数,tanh()为双曲正切函数,⊙表示对应元素相乘;
Stacked LSTM网络中第D层LSTM网络各个时刻计算单元将计算得到的隐藏状态计算值
Figure BDA00023913653300000310
输出至全连接层,全连接层据此计算得到特征向量并发送至softmax层,由softmax层对特征向量进行分类,得到输入序列对应的运行状态序号;
S5:采用步骤S3中各训练样本中的子序列
Figure BDA0002391365330000036
作为故障诊断模型的输入序列,所对应的运行状态序号k作为期望输出,对基于Stacked LSTM的故障诊断模型进行训练;
S6:在化工系统运行过程中,按照预设采样周期采集N个测量设备的测量数据,对最近T个采样时刻的数据向量X′t=[x′t1,x′t2,…,x′tN]采用步骤S2中的标准化方法进行标准化处理,得到标准化后的数据向量
Figure BDA0002391365330000037
其中x′tN表示采样时刻t时第n个测量设备的测量数据,
Figure BDA0002391365330000038
表示测量数据x′tN标准化后的数据,然后构建得到序列
Figure BDA0002391365330000039
将其输入步骤S5训练好的基于Stacked LSTM的故障诊断模型中,得到故障识别结果。
本发明基于Stacked LSTM的故障诊断方法,首先采集化工系统在正常状态和K种故障状态下各个测量设备的测量数据,构建得到训练样本,然后构建基于Stacked LSTM的故障诊断模型,包括Stacked LSTM网络、全连接层以及softmax层,其中Stacked LSTM网络由D层LSTM网络叠加得到,采用训练样本对故障诊断模型进行训练,在化工系统运行过程中采集实际运行数据并构建输入序列输入至基于Stacked LSTM的故障诊断模型中,得到故障识别结果。
本发明所构建的基于Stacked LSTM的故障诊断模型,通过叠加多层LSTM加深网络的深度,从而增强网络的对输入原始数据的表达能力和网络的对特征提取的能力;使用LSTM网络作为故障诊断模型的基本网络,其具备长短时间记忆的能力,能够学习输入故障数据的时序信息,将数据之间的时序关系加入到模型中,从而充分挖掘故障数据之间时序相关性,最后使得故障诊断的准确性和抗噪性得到显著提高。
附图说明
图1是本发明基于Stacked LSTM的故障诊断方法的具体实施方式流程图;
图2是本发明中基于Stacked LSTM的故障诊断模型的结构图。
具体实施方式
下面结合附图对本发明的具体实施方式进行描述,以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是,在以下的描述中,当已知功能和设计的详细描述也许会淡化本发明的主要内容时,这些描述在这里将被忽略。
实施例
图1是本发明基于Stacked LSTM的故障诊断方法的具体实施方式流程图。如图1所示,本发明基于Stacked LSTM的故障诊断方法的具体步骤包括:
S101:采集历史数据:
采集化工系统在正常状态和K种故障状态下各个测量设备的测量数据,记第k种运行状态下采样时刻r的数据向量
Figure BDA0002391365330000041
其中k=0表示正常状态,k=1,2,…,K表示故障状态序号,r=1,2,…,Rk,Rk表示第k种运行状态的采样时刻数量,
Figure BDA0002391365330000042
表示第k种运行状态下采样时刻r时第n个测量设备的测量数据,n=1,2,…,N,N表示测量设备数量。
S102:历史数据标准化:
分别对每种运行状态下的测量数据进行标准化处理,得到标准化后的数据向量
Figure BDA0002391365330000043
本实施例中采用的标准化公式如下:
Figure BDA0002391365330000044
其中,
Figure BDA0002391365330000045
分别表示第k种运行状态下第n个测量设备在Tk个采样时刻的测量数据
Figure BDA0002391365330000046
的平均值和标准差。
S103:构建训练样本:
将每种运行状态下经过标准化处理的数据向量
Figure BDA0002391365330000047
按照采样时刻构成序列
Figure BDA0002391365330000051
采用长度为T的滑动窗口对序列
Figure BDA0002391365330000052
进行滑窗处理,提取得到子序列
Figure BDA0002391365330000053
其中h=1,2,…,Hk,Hk表示第k种运行状态下所提取到的子序列数量,
Figure BDA0002391365330000054
表示子序列
Figure BDA0002391365330000055
中第t个数据向量,t=1,2,…,T。将提取得到的子序列
Figure BDA0002391365330000056
作为输入序列,所对应的运行状态序号k作为输出,构建得到训练样本。
S104:构建基于Stacked LSTM的故障诊断模型:
图2是本发明中基于Stacked LSTM的故障诊断模型的结构图。如图2所示,本发明中基于Stacked LSTM的故障诊断模型包括Stacked LSTM网络、全连接层以及softmax层,下面分别对各个组成部件进行详细说明。
Stacked LSTM网络用于对输入数据进行特征提取,由D层LSTM(Long-Short-Term-Memory,长短时间记忆)网络叠加得到,记每层LSTM网络中的LSTM计算单元数量为T。如图2所示,第1层LSTM网络的第t时刻计算单元的输入是所输入序列中第t个数据向量和上一时刻计算单元输出的隐藏状态
Figure BDA0002391365330000057
和记忆细胞
Figure BDA0002391365330000058
其它层LSTM网络的计算单元输入值是上一层计算单元输出的隐藏状态
Figure BDA0002391365330000059
和该层上一时刻计算单元输出的隐藏状态
Figure BDA00023913653300000510
(d′表示LSTM层数,1<d′≤D)和记忆细胞
Figure BDA00023913653300000511
根据以上说明可以得到第d层LSTM网络的第t时刻计算单元
Figure BDA00023913653300000512
的计算流程如下:
Figure BDA00023913653300000513
Figure BDA00023913653300000514
Figure BDA00023913653300000515
Figure BDA00023913653300000516
Figure BDA00023913653300000517
Figure BDA00023913653300000518
其中,d=1,2,…,D,
Figure BDA00023913653300000519
分别表示第d层LSTM网络的第t时刻计算单元
Figure BDA00023913653300000520
中的输入门、遗忘门、输出门、候选记忆细胞、记忆细胞以及隐藏状态的计算值;当d=1时Y为输入序列中第t个数据向量,当d>1时Y为第d-1层LSTM网络的第t时刻的输出值
Figure BDA00023913653300000521
Figure BDA00023913653300000522
为第d层LSTM网络中第t-1时刻计算单元的输出值,当t=1时,
Figure BDA00023913653300000523
为0向量;
Figure BDA00023913653300000524
为预设的权重参数;
Figure BDA0002391365330000061
为预设的偏置参数;σ()为sigmoid函数,即
Figure BDA0002391365330000062
tanh()为双曲正切函数,即
Figure BDA0002391365330000063
⊙表示对应元素相乘。
Stacked LSTM网络中第D层LSTM网络各个时刻计算单元将计算得到的隐藏状态计算值
Figure BDA0002391365330000064
输出至全连接层,全连接层据此计算得到特征向量并发送至softmax层,由softmax层对特征向量进行分类,得到输入序列对应的运行状态序号。全连接层和softmax层是神经网络中的常用单元,其具体过程在此不再赘述。
S105:故障诊断模型训练:
采用步骤S103中各训练样本中的子序列
Figure BDA0002391365330000065
作为故障诊断模型的输入序列,所对应的运行状态序号k作为期望输出,对基于Stacked LSTM的故障诊断模型进行训练。
本实施例中,为了防止模型的过拟合和加快模型的训练速度,在故障诊断模型训练中使用dropout技术,因为dropout在训练模型的过程中可以随机让一定比例的隐藏节点不工作,而不工作的节点会在训练中不会进行权值更新,且在下一次训练中会重新按比例选择不工作的节点。本实施例在模型梯度下降训练时采用的是Adam优化算法,该算法相对于普通的梯度下降的算法有更好的训练效果。此外,选择交叉熵损失函数作为模型的损失函数,损失函数就是真实值和预测值的距离,交叉熵的值越小,真实值和预测值就越接近。交叉熵损失函数J的计算公式为:
Figure BDA0002391365330000066
其中
Figure BDA0002391365330000067
是真实值,u为预测值。在模型训练过程中,通过Adam算法和交叉熵函数对各层的权重和偏置进行更新,从而得到最优的网络参数。
当交叉熵的值J<τ,τ为预设的阈值,或者训练的迭代次数大于预设阈值,则训练结束,将当前模型的最优参数保存,得到训练好的基于Stacked LSTM的故障诊断模型。
S106:故障诊断:
在化工系统运行过程中,按照预设采样周期采集N个测量设备的测量数据,对最近T个采样时刻的数据向量X′t=[x′t1,x′t2,…,x′tN]采用步骤S102中的标准化方法进行标准化处理,得到标准化后的数据向量
Figure BDA0002391365330000071
其中x′tN表示采样时刻t时第n个测量设备的测量数据,
Figure BDA0002391365330000072
表示测量数据x′tN标准化后的数据,然后构建得到序列
Figure BDA0002391365330000073
将其输入步骤S105训练好的基于Stacked LSTM的故障诊断模型中,得到故障识别结果。
为了更好地说明本发明的技术效果,采用一个具体实例对本发明进行实验验证。本实施例中所采用的化工过程模型为美国田纳西-伊士曼(Tennessee Eastman,TE)化工过程模型,其取自一个真实的化工过程。TE化工过程包含五个主要单元:反应器、冷凝器、压缩机、分离器和汽提塔,因其内部机理较为复杂,所以被广泛的应用于各种故障检测与诊断方法研究。整个TE化工过程主要包含22个连续过程测量变量、19个成分测量变量和12个操作变量,其可以模拟正常工况和21种故障工况。
为了使实验具有可操作性、实验结果具有可比性,采用由美国麻省理工学院(Massachusetts Institute of Technology,MIT)对该模型进行仿真并公开的数据集作为本实施例所使用的数据集。此数据集分为训练集和测试集两部分,两个部分均包含每种工况的样本集,每个样本特征为52维。在训练集中,正常情况的样本集有500个样本,每种故障情况的样本集均有480个样本。在测试集中,每种情况的样本集均有960个样本,但因为故障是在160个正常工况之后引入的,所以故障情况的样本集中前160个样本属于正常情况样本。
本实施例在实验的过程中,首先将所有的数据集进行归一化处理,然后将数据构建成序列,将测试集和训练集构成的序列结合成一个数据集;最后按4:1的比例随机划分训练集和测试集。训练集的数据用于对本发明基于Stacked LSTM的故障诊断模型进行训练,测试集的数据用于测试本发明基于Stacked LSTM的故障诊断模型的有效性。
本实施例中采用基于堆叠稀疏自动编码器(SSAE)和Vanilla LSTM的方法作为对比方法。采用分类准确率Accuracy作为本发明和两种对比方法故障诊断的评价指标,分类准确率Accuracy越大表明故障诊断模型的预测值和实际值更接近,即诊断结果越准确。表1是本实施例中本发明和对比方法的故障诊断分类准确率对比表。
故障工况 SSAE Vanilla LSTM 本发明
1 98.8 99.8 99.97
2 97.79 98.5 99.987
3 21.83 66.9 97.87
4 90.61 98.7 99.91
5 98.79 98.7 99.691
6 96.36 100 100
7 100 100 99.89
8 58.598 92.3 99.01
9 25.44 35.6 98.21
10 70.492 90.4 98.731
11 65.728 92.7 99.061
12 73.736 87.4 99.327
13 25.915 95.23 99.38
14 97.974 99.79 99.845
15 24.218 68.8 97.143
16 59.538 87.14 98.604
17 78.66 95.6 99.793
18 89.956 95.28 99.03
19 85.249 94.1 99.072
20 80.207 90.18 98.39
21 70.381 55.5 99.088
平均值 71.92 87.74 99.14
表1
由表1可以看出,本发明方法在化工生产过程的故障诊断效果明显优于两种对比方法。
尽管上面对本发明说明性的具体实施方式进行了描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。

Claims (1)

1.一种基于Stacked LSTM的故障诊断方法,其特征在于,包括以下步骤:
S1:采集化工系统在正常状态和K种故障状态下各个测量设备的测量数据,记第k种运行状态下采样时刻r的数据向量
Figure FDA0003797516480000011
其中k=0表示正常状态,k=1,2,…,K表示故障状态序号,r=1,2,…,Rk,Rk表示第k种运行状态的采样时刻数量,
Figure FDA0003797516480000012
表示第k种运行状态下采样时刻r时第n个测量设备的测量数据,n=1,2,…,N,N表示测量设备数量;
S2:分别对每种运行状态下的测量数据进行标准化处理,得到标准化后的数据向量
Figure FDA0003797516480000013
S3:将每种运行状态下经过标准化处理的数据向量
Figure FDA0003797516480000014
按照采样时刻构成序列
Figure FDA0003797516480000015
采用长度为T的滑动窗口对序列
Figure FDA0003797516480000016
进行滑窗处理,提取得到子序列
Figure FDA0003797516480000017
其中h=1,2,…,Hk,Hk表示第k种运行状态下所提取到的子序列数量,
Figure FDA0003797516480000018
表示子序列
Figure FDA0003797516480000019
中第t个数据向量,t=1,2,…,T;将提取得到的子序列
Figure FDA00037975164800000110
作为输入序列,所对应的运行状态序号k作为输出,构建得到训练样本;
S4:构建基于Stacked LSTM的故障诊断模型,包括Stacked LSTM网络、全连接层以及softmax层,其中:
Stacked LSTM网络由D层LSTM网络叠加得到,记每层LSTM网络中的LSTM计算单元数量为T,第d层LSTM网络的第t时刻计算单元
Figure FDA00037975164800000111
的计算流程如下:
Figure FDA00037975164800000112
Figure FDA00037975164800000113
Figure FDA00037975164800000114
Figure FDA00037975164800000115
Figure FDA00037975164800000116
Figure FDA00037975164800000117
其中,d=1,2,…,D,
Figure FDA00037975164800000118
分别表示第d层LSTM网络的第t时刻计算单元
Figure FDA00037975164800000119
中的输入门、遗忘门、输出门、候选记忆细胞、记忆细胞以及隐藏状态的计算值;当d=1时Y为输入序列中第t个数据向量,当d>1时Y为第d-1层LSTM网络的第t时刻的输出值
Figure FDA0003797516480000021
Figure FDA0003797516480000022
为第d层LSTM网络中第t-1时刻计算单元的输出值,当t=1时,
Figure FDA0003797516480000023
为0向量;
Figure FDA0003797516480000024
为预设的权重参数;
Figure FDA0003797516480000025
为预设的偏置参数;σ()为sigmoid函数,tanh()为双曲正切函数,⊙表示对应元素相乘;
Stacked LSTM网络中第D层LSTM网络各个时刻计算单元将计算得到的隐藏状态计算值
Figure FDA0003797516480000026
输出至全连接层,全连接层据此计算得到特征向量并发送至softmax层,由softmax层对特征向量进行分类,得到输入序列对应的运行状态序号;
S5:采用步骤S3中各训练样本中的子序列
Figure FDA0003797516480000027
作为故障诊断模型的输入序列,所对应的运行状态序号k作为期望输出,对基于Stacked LSTM的故障诊断模型进行训练;模型训练使用dropout技术,在模型梯度下降训练时采用的是Adam优化算法,模型的损失函数采用交叉熵损失函数J,计算公式如下:
Figure FDA0003797516480000028
其中
Figure FDA0003797516480000029
是真实值,u为预测值;在模型训练过程中,通过Adam算法和交叉熵函数对各层的权重和偏置进行更新,从而得到最优的网络参数;当交叉熵的值J<τ,τ为预设的阈值,或者训练的迭代次数大于预设阈值,则训练结束,将当前模型的最优参数保存,得到训练好的基于Stacked LSTM的故障诊断模型;
S6:在化工系统运行过程中,按照预设采样周期采集N个测量设备的测量数据,对最近T个采样时刻的数据向量X′t=[x′t1,x′t2,…,x′tN]采用步骤S2中的标准化方法进行标准化处理,得到标准化后的数据向量
Figure FDA00037975164800000210
其中x′tN表示采样时刻t时第n个测量设备的测量数据,
Figure FDA00037975164800000211
表示测量数据x′tN标准化后的数据,然后构建得到序列
Figure FDA00037975164800000212
将其输入步骤S5训练好的基于Stacked LSTM的故障诊断模型中,得到故障识别结果。
CN202010115477.XA 2020-02-25 2020-02-25 基于Stacked LSTM的故障诊断方法 Expired - Fee Related CN111273623B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010115477.XA CN111273623B (zh) 2020-02-25 2020-02-25 基于Stacked LSTM的故障诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010115477.XA CN111273623B (zh) 2020-02-25 2020-02-25 基于Stacked LSTM的故障诊断方法

Publications (2)

Publication Number Publication Date
CN111273623A CN111273623A (zh) 2020-06-12
CN111273623B true CN111273623B (zh) 2022-10-18

Family

ID=70997332

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010115477.XA Expired - Fee Related CN111273623B (zh) 2020-02-25 2020-02-25 基于Stacked LSTM的故障诊断方法

Country Status (1)

Country Link
CN (1) CN111273623B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111914897A (zh) * 2020-06-30 2020-11-10 电子科技大学 一种基于孪生长短时间记忆网络的故障诊断方法
CN112329983A (zh) * 2020-09-30 2021-02-05 联想(北京)有限公司 一种数据处理方法及装置
CN113011248B (zh) * 2021-02-01 2022-12-09 西安交通大学 一种基于lstm的核动力装置故障诊断方法
CN112947385B (zh) * 2021-03-22 2021-11-02 华中科技大学 一种基于改进Transformer模型的飞行器故障诊断方法和系统
CN113341919B (zh) * 2021-05-31 2022-11-08 中国科学院重庆绿色智能技术研究院 一种基于时序数据长度优化的计算系统故障预测方法
CN113588308A (zh) * 2021-07-22 2021-11-02 上海电力大学 基于LSTM与Stacking融合算法的磨煤机爆燃故障预警与诊断方法
WO2023056614A1 (zh) * 2021-10-09 2023-04-13 大连理工大学 一种基于堆叠长短期记忆网络的轴流压气机旋转失速预测方法
CN115032891B (zh) * 2022-08-11 2022-11-08 科大智能物联技术股份有限公司 一种基于时间序列预测的多晶硅还原炉控制方法
CN116517921B (zh) * 2023-07-03 2023-11-10 成都飞机工业(集团)有限责任公司 航空液压油车状态在线检测方法及系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106611055A (zh) * 2016-12-27 2017-05-03 大连理工大学 基于层叠式神经网络的中文模糊限制信息范围检测方法
CN108197648A (zh) * 2017-12-28 2018-06-22 华中科技大学 一种基于lstm深度学习模型的水电机组故障诊断方法与系统
CN108536123A (zh) * 2018-03-26 2018-09-14 北京交通大学 长短时记忆网络结合神经网络的列控车载设备的故障诊断方法
KR20190018798A (ko) * 2017-08-16 2019-02-26 강병수 차량 소음의 컨벌루션 뉴럴 네트워크에 의한 소음 분류 방법
CN109931678A (zh) * 2019-03-13 2019-06-25 中国计量大学 基于深度学习lstm的空调故障诊断方法
CN110261109A (zh) * 2019-04-28 2019-09-20 洛阳中科晶上智能装备科技有限公司 一种基于双向记忆循环神经网络的滚动轴承故障诊断方法
CN110682919A (zh) * 2019-10-11 2020-01-14 博雷顿科技有限公司 一种基于Stacked LSTM的电动汽车短程车速预测方法
CN110717381A (zh) * 2019-08-28 2020-01-21 北京航空航天大学 面向人机协作的基于深度堆叠Bi-LSTM的人类意图理解方法
CN113317780A (zh) * 2021-06-07 2021-08-31 南开大学 一种基于长短时记忆神经网络的异常步态检测方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106611055A (zh) * 2016-12-27 2017-05-03 大连理工大学 基于层叠式神经网络的中文模糊限制信息范围检测方法
KR20190018798A (ko) * 2017-08-16 2019-02-26 강병수 차량 소음의 컨벌루션 뉴럴 네트워크에 의한 소음 분류 방법
CN108197648A (zh) * 2017-12-28 2018-06-22 华中科技大学 一种基于lstm深度学习模型的水电机组故障诊断方法与系统
CN108536123A (zh) * 2018-03-26 2018-09-14 北京交通大学 长短时记忆网络结合神经网络的列控车载设备的故障诊断方法
CN109931678A (zh) * 2019-03-13 2019-06-25 中国计量大学 基于深度学习lstm的空调故障诊断方法
CN110261109A (zh) * 2019-04-28 2019-09-20 洛阳中科晶上智能装备科技有限公司 一种基于双向记忆循环神经网络的滚动轴承故障诊断方法
CN110717381A (zh) * 2019-08-28 2020-01-21 北京航空航天大学 面向人机协作的基于深度堆叠Bi-LSTM的人类意图理解方法
CN110682919A (zh) * 2019-10-11 2020-01-14 博雷顿科技有限公司 一种基于Stacked LSTM的电动汽车短程车速预测方法
CN113317780A (zh) * 2021-06-07 2021-08-31 南开大学 一种基于长短时记忆神经网络的异常步态检测方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
EMD和层叠式LSTM算法在短期风速预测中的应用;成骁彬;《江苏科技信息》;20190830;全文 *
基于深度学习的故障诊断方法研究;蒋强等;《计算机仿真》;20180715(第07期);全文 *
基于深度循环神经网络的跨领域文本情感分析;余传明;《图书情报工作》;20180605(第11期);全文 *

Also Published As

Publication number Publication date
CN111273623A (zh) 2020-06-12

Similar Documents

Publication Publication Date Title
CN111273623B (zh) 基于Stacked LSTM的故障诊断方法
CN110132598B (zh) 旋转设备滚动轴承故障噪声诊断算法
US20200150622A1 (en) Method for detecting abnormity in unsupervised industrial system based on deep transfer learning
Zhu et al. A deep learning approach for traffic incident detection in urban networks
CN111562108A (zh) 一种基于cnn和fcmc的滚动轴承智能故障诊断方法
CN113642754B (zh) 一种基于rf降噪自编码信息重构和时间卷积网络的复杂工业过程故障预测方法
CN108875772B (zh) 一种基于堆叠稀疏高斯伯努利受限玻尔兹曼机和强化学习的故障分类模型及方法
CN111914897A (zh) 一种基于孪生长短时间记忆网络的故障诊断方法
CN111353373A (zh) 一种相关对齐域适应故障诊断方法
Mechefske et al. Fault detection and diagnosis in low speed rolling element bearings Part II: The use of nearest neighbour classification
CN113673346A (zh) 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法
Son et al. Deep learning-based anomaly detection to classify inaccurate data and damaged condition of a cable-stayed bridge
Du et al. Convolutional neural network-based data anomaly detection considering class imbalance with limited data
CN114818817A (zh) 一种电容式电压互感器微弱故障识别系统及方法
Chou et al. SHM data anomaly classification using machine learning strategies: A comparative study
CN114297921A (zh) 基于am-tcn的故障诊断方法
Zhang et al. MS-TCN: A multiscale temporal convolutional network for fault diagnosis in industrial processes
CN111079348B (zh) 一种缓变信号检测方法和装置
CN116735170A (zh) 一种基于自注意力多尺度特征提取的智能故障诊断方法
CN116400168A (zh) 一种基于深度特征聚类的电网故障诊断方法及系统
CN116051911A (zh) 基于不确定性学习的小样本轴承振动图像数据故障诊断方法
CN114841196A (zh) 一种基于监督学习的机械设备智能故障检测方法及系统
CN115935187A (zh) 基于核敏感度对齐网络的变工况下机械故障诊断方法
CN113158537B (zh) 基于lstm结合注意力机制的航空发动机气路故障诊断方法
Zhang et al. A Flexible Monitoring Framework via Dynamic-Multilayer Graph Convolution Network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20221018