CN111695521B - 一种基于Attention-LSTM的滚动轴承性能衰退预测方法 - Google Patents
一种基于Attention-LSTM的滚动轴承性能衰退预测方法 Download PDFInfo
- Publication number
- CN111695521B CN111695521B CN202010539588.3A CN202010539588A CN111695521B CN 111695521 B CN111695521 B CN 111695521B CN 202010539588 A CN202010539588 A CN 202010539588A CN 111695521 B CN111695521 B CN 111695521B
- Authority
- CN
- China
- Prior art keywords
- performance degradation
- performance
- prediction
- rolling bearing
- attention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000006731 degradation reaction Methods 0.000 title claims abstract description 104
- 230000015556 catabolic process Effects 0.000 title claims abstract description 102
- 238000005096 rolling process Methods 0.000 title claims abstract description 72
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000011156 evaluation Methods 0.000 claims abstract description 21
- 230000007246 mechanism Effects 0.000 claims abstract description 20
- 238000012545 processing Methods 0.000 claims abstract description 14
- 238000004458 analytical method Methods 0.000 claims abstract description 9
- 230000004044 response Effects 0.000 claims abstract description 7
- 230000035945 sensitivity Effects 0.000 claims abstract description 7
- 238000012216 screening Methods 0.000 claims abstract description 6
- 238000013528 artificial neural network Methods 0.000 claims description 24
- 230000007423 decrease Effects 0.000 claims description 23
- 238000012549 training Methods 0.000 claims description 15
- 238000012360 testing method Methods 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 8
- 238000000926 separation method Methods 0.000 claims description 4
- 238000005457 optimization Methods 0.000 claims description 2
- 238000012544 monitoring process Methods 0.000 abstract description 15
- 238000002474 experimental method Methods 0.000 abstract description 14
- 230000008569 process Effects 0.000 abstract description 13
- 230000000694 effects Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 16
- 238000012423 maintenance Methods 0.000 description 11
- 238000011160 research Methods 0.000 description 9
- 230000036541 health Effects 0.000 description 8
- 239000010410 layer Substances 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000000306 recurrent effect Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000013524 data verification Methods 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000007787 long-term memory Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 108091026890 Coding region Proteins 0.000 description 1
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 1
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000002285 radioactive effect Effects 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/29—Graphical models, e.g. Bayesian networks
- G06F18/295—Markov models or related models, e.g. semi-Markov models; Markov random fields; Networks embedding Markov models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
基于Attention‑LSTM的滚动轴承性能衰退预测方法，属于旋转机械性能监测领域。首先，针对设备性能衰退评估过程中缺乏性能衰退指标以及监测信号难以直观表征轴承性能衰退特性的问题，通过时域与频域分析生成多个备选特征指标并采用相关性、单调性和鲁棒性三个指标其进行评价筛选，将特征值曲线通过固定窗均值化处理得到HI曲线和残差曲线，并提出基于阶跃稳态的性能衰退评估方法，定量直观地反映轴承性能衰退程度。最后，针对传统方法过度依赖专家经验及处理复杂时间序列预测精度低的问题，提出基于Attention‑LSTM的性能衰退预测方法，采用注意力机制提高对性能阶跃点前后数据的学习能力，加强了预测模型对衰退特征的反应敏感度。本发明通过实验验证了该预测方法具有更高的预测精度，鲁棒性和泛化能力。
Description
技术领域
本发明属于旋转机械性能监测领域，具体涉及到特征指标筛选，并提出阶跃稳态的概念，定量直观地反映轴承性能衰退程度。然后引入注意力机制，将注意力机制与LSTM相结合构造出一种滚动轴承性能衰退预测的方法。
背景技术
当今世界竞争日益激烈，工业发展水平与国家综合国力息息相关。轴承作为旋转机械中关键零部件之一，对于保证设备的高效、稳定、安全运行具有重要作用。在实际工程应用中，大型机械设备一旦出现故障，轻则影响生产，导致经济损失，重则出现人员伤亡，造成不良的社会影响。1979年美国三哩岛核电厂发生重大安全责任事故，导致核电反应堆控制元件大面积损毁，放射性原料泄露，经济损失巨大，人员伤亡惨重。苏联切尔诺贝利核电站第四号反应堆发生严重爆炸，污染了欧洲的大部分地区，造成了世界级生态破坏。我国《国家中长期科学和技术发展规划纲要》中将重大机械设备运行可靠性和可维护性等关键技术作为重点研究方向。设备运行状态监测评估与预测是预知维修技术的关键部分，它对提高设备利用率，保证设备可靠、安全运行意义重大。
轴承等关键零部件的轻微故障都有可能间接影响到系统运行，引发一系列连锁反应，出现设备性能衰减，进而引发系统级故障。以往对于轴承的维修策略主要是定期维修和事后维修，定期维修依据大量的历史经验判断轴承的性能衰退周期来安排维护工作，使得机械设备的维护成本和使用风险大大升高；事后维修通常在轴承发生故障之后进行维修，使设备的使用风险极大升高，易造成较大的人员伤亡和财产损失。围绕设备劣化状态评估这一主线，开展设备状态监测评估和性能衰退预测，改变传统维修策略，变被动为主动，降低设备维护成本，提高设备使用水平，避免重大事故发生。因此，开展基于状态监测和性能衰退预测的预知维修研究，对于提高企业综合效益，促进国家经济繁荣具有重要的意义。
在预知维修中，设备性能衰退评估是其关键内容之一，性能衰退评估可以掌握机械设备从装机运行到当前性能衰退状态的变化过程。然而，机械设备的性能衰退状态往往不能直接获得。因此，在实际的性能衰退评估中往往通过构建机械设备健康因子(HealthIndicator, HI)曲线，来表征设备健康水平。滚动轴承从正常状态到发生故障是一个缓慢的、不断变化的过程，在这个过程中，轴承的性能不断下降。机械设备衰退状态建模是将设备运行过程中不同的特征参量映射到健康因子中，以评估设备当前健康状态的过程。根据HI曲线构建方式的不同，目前的机械设备HI值可以分为具备实际物理含义的HI值以及不具备物理含义的虚拟HI值两类。前者往往是借助传统的数理统计理论或信号处理方法对设备监测数据进行处理得到，如均方根值、能量熵等；后者是在前者的基础上对数据进行进一步的融合，借助多种信号处理方法及机器学习方法，从而获得不具备实际物理含义的HI曲线，作为机械设备的性能衰退状态表征。在具备实际物理含义的HI曲线构建中，主要包括提取时域特征参数和频域特征参数两大类。时域特征参数包括均方根值、相关系数、熵值等。如Lin对轮齿裂缝的退化状态进行HI曲线构建，将残差信号的百分比作为健康因子，并且在对设备监测信号提取多个时域及频域特征的基础上进行融合，从而反映设备的性能衰退状态。潘玉娜在对设备监测信号进行小波包分解后，将衰退状态下的特征向量与健康状态的向量之间的距离作为健康因子；在虚拟HI曲线的构建研究中，通常是对设备监测信号提取多个时域及频域特征的基础上进行融合，从而反映设备的将抗衰退状态。Jin等人首先计算监测信号小波分解系数的能量值，之后根据能量值之间的马氏距离进行融合构建HI曲线。
基于概率统计和力学的性能衰退预测理论着重对轴承性能衰退趋势变化的一般分布规律进行研究且需要大量历史数据，建模较为困难，侧重理论研究，不适用于对重大设备的预测，基于信息新技术的性能衰退预测理论包含基于人工智能技术和基于设备状态监测的性能衰退预测理论。随着测试技术的不断提高，通过传感器可以获得机械设备的各项特征指标，进而预测设备的性能衰退趋势，因此基于状态监测的性能衰退预测理论成为国内外研究的热点。其中由D.R. Cox提出的比例故障率模型(Proportional Hazards Model，PHM)，又称Cox模型，是一种具有适用性非常高的数据统计分析模型。它可以将基于人工智能的神经网络方法与设备实时监测方法相结合，是一种根据设备运行状态和历史数据建立失效模型的方法，然而应用比例风险模型进行设备状态监测的本质是应用时序数据分析方法进行衰退变化趋势预测。陈旭涛等基于设备振动信号，利用一阶灰色模型对协变量的变化趋势进行预测，从而实现设备的性能衰退预测。但灰色模型适用于数据少，信息缺乏的条件下的事物变化规律不适用于大数据下的性能衰退预测。李洪儒等在特征提取的基础上,为准确拟合滚动轴承性能衰退过程的整体趋势与随机波动规律，将灰色马尔科夫模型应用到滚动轴承性能衰退预测中，该方法能够较好地预测性能衰退的主趋势，但不能反映出性能衰退过程中的微小波动。Lotfi Saidi等为了预测风力发电机高速轴轴承的性能衰退变化过程，使用卡尔曼平滑器来改善趋势。但卡尔曼滤波存在固有相位延迟等缺陷，不能进行精准的性能衰退预测。上述趋势预测方法根据时序数据直接建模，模型较为简单，很难建立理想的模型进行预测，并且数据中噪声的存在又会使得判断条件难以满足导致估计出的参数可信度较低。
基于深度学习的趋势预测方法可用于多种复杂的数据类型、自适应的学习深层数据特征，在大数据处理方面优势明显。其中循环神经网络(Recurrent Neural Network，ＲNN)将时间概念引入到神经网络中，使其能够对时间累积效应进行分析，处理时间序列数据。但RNN网络在训练时采用传统的反向传播算法和梯度下降法，易出现梯度消失和梯度爆炸的现象，最终导致网络长期记忆能力不足，得到的结果很难达到测试的要求。Hochreiter和Schmidhuber提出了长短期记忆(Long Short-Term Memory，LSTM)网络模型，该模型首次引入了门的概念来更好地实现输入、输出及状态的转化，将时序数据中的高价值信息和低价值信息区别对待，使得RNN网络具备较长跨度时序信息的处理利用能力。Malhotra等针对设备的多维监测信息，将循环神经网络的流行变体——长短时记忆网络作为编码和解码器进行性能衰退预测。国内外学者越来越多的将循环神经网络应用于RUL预测领域的研究中。Yuan在航空发动机的RUL预测领域研究了三种RNN的变体模型，并对预测结果进行对比，得出了LSTM模型性能更好的结论。张建付等使用LSTM网络处理小波包变换提取的特征参量，实现风力发电设备的滚动轴承的故障状态分类；赵建鹏等使用经验模态分解处理采样数据提取特征参量，输入至单层LSTM模型来预测旋转机械健康状态。LSTM中的数据流是受三个“门限”结构控制的，轴承转动过程中微弱的故障信息往往隐藏在庞大的数据信息中，因此，如何控制数据中与故障信息相关的数据流尤为重要。
注意力机制来源于人类视觉系统的工作原理，在人体的认知系统中，大脑会存在信息处理局限，视觉系统首先对全局信息进行概览，之后会选择性地处理所有信息中的关键细节部分，同时忽略其他低价值的可见信息。也就是说，将注意力机制运用于神经网络，可以使得神经网络具备专注于其输入(或特征)子集的能力，即选择特定的输入能力。注意力机制是解决系统中信息超载问题的一种资源分配方案，将计算资源分配给更重要的任务。注意力机制起初用于机器视觉领域，而后在自然语言处理领域发挥重要作用。而基于注意力机制的编解码器框架已经在机器翻译、文本摘要、图像描述、视频描述，等任务中有突出的表现。如Bahdanau等在完成将英语翻译为法语的任务时，编码器采用双向LSTM对英语单词序列进行编码和解码，以不同的注意力权重关注编码序列中不同位置的编码向量，从而提升了翻译的准确性。Wu等人在能源价格预测模型中加入注意力机制框架，有效提高了模型的预测精度。在许多时序数据研究领域都有突出的表现。因此，注意力机制可以为当下滚动轴承时间序列数据预测算法提供新的思路，提高旋转机械时序数据预测模型的预测性能。
多数情况下提取设备性能衰退特征仍需依赖大量专家经验，为了获得综合性能较强的单调HI曲线，通常需针对时序数据采用多种特征融合方法或人工经验提取特征系数，泛化能力较差，缺乏通用性。LSTM网络的在语言建模、语音识别、机器翻译等时序数据预测研究领域取得了重大突破。LSTM网络可以为滚动轴承时间序列数据预测算法提供新的思路，提高旋转机械性能衰退预测模型的性能。
综上，通过时域与频域分析生成多个备选指标，采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将特征值曲线通过固定窗均值化处理得到HI曲线和残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用HI曲线和残差曲线，进而通过两曲线对滚动轴承全生命周期各衰退阶段划分，综合判断各阶段性能。最后，提出基于Attention-LSTM的性能衰退预测方法，建立了滚动轴承性能衰退预测模型，采用注意力机制提高对性能阶跃点前后数据的学习能力，加强了预测模型对衰退特征的反应敏感度。
发明内容
本发明的目的在于提供一种基于Attention-LSTM的滚动轴承性能衰退预测方法。首先，提出基于阶跃稳态的性能衰退评估方法，采用相关性、单调性和鲁棒性三个指标对信号时域和频域分析生成多个的候选特征进行评价筛选，将筛选出特征值曲线进行固定窗均值化处理得到HI曲线和残差曲线，定量直观地反映轴承性能衰退程度，可以为接下来的轴承性能衰退预测奠定良好基础。最后，提出基于Attention-LSTM的滚动轴承性能衰退预测，采用注意力机制提高对性能阶跃点前后数据的学习能力，加强了预测模型对衰退特征的反应敏感度，相比BP神经网络和多层感知器，其数据拟合度更高，预测效果更好。
实现上述目的，本发明的技术方案是：
基于Attention-LSTM的滚动轴承性能衰退预测方法，所述的方法包括如下步骤：
步骤一；基于阶跃稳态的性能衰退评估方法；
通过时域与频域分析生成多个备选指标，采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将筛选出的特征值曲线通过固定窗均值化处理得到HI曲线和对应的残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用HI曲线和残差曲线，评估滚动轴承全生命周期各个阶段性能；
步骤二；基于Attention-LSTM的滚动轴承性能衰退预测；
针对滚动轴承全生命周期数据特点，研究振动信号数据的输入、输出形式与时序数据预测之间的关系，搭建基于LSTM网络的滚动轴承故障预测模型框架；研究注意力机制原理，结合滚动轴承性能衰退特点构建Attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数、优化器算法等重要参数，不断提高模型预测精度。
本发明相对于现有技术的有益效果是：
本发明的基于Attention-LSTM的滚动轴承性能衰退预测方法，首先，通过时域与频域分析生成多个备选特征指标，采用相关性、单调性和鲁棒性三个指标对信号的时频域分析生成多个的候选特征进行评价筛选，将筛选出特征值曲线进行固定窗均值化处理得到HI曲线和对应的残差曲线，定量直观地反映轴承性能衰退程度。最后，提出Attention-LSTM的预测模型用以滚动轴承性能衰退预测，采用注意力机制提高对性能阶跃点前后数据的学习能力，相比BP神经网络和多层感知器，其数据拟合度更高，预测效果更好。
附图说明
图1基于阶跃稳态的性能衰退评估流程图。
图2 1号实验滚动轴承全生命周期HI曲线及残差曲线
图3 2号实验滚动轴承全生命周期HI曲线及残差曲线
图4 LSTM预测模型结构
图5 Attention-LSTM模型对第一组轴承数据预测的效果图
图6 Attention-LSTM模型对第二组轴承数据预测的效果图
图7 多层感知器模型对第一组轴承数据预测的效果图
图8 多层感知器模型对第二组轴承数据预测的效果图
图9 BP神经网络模型对第一组轴承数据预测的效果图
图10BP神经网络模型对第二组轴承数据预测的效果图
图11全生命周期性能衰退试验台
图12为轴承全生命周期均方根值
图13轴承全生命周期HI曲线
图14轴承全生命周期残差曲线
图15 Attention-LSTM模型预测效果图。
具体实施方式
具体实施方式一：本实施方式基于Attention-LSTM的滚动轴承性能衰退预测方法，所述的方法包括如下步骤：
步骤一；基于阶跃稳态的性能衰退评估方法；
采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将特征值曲线通过固定窗均值化处理得到HI曲线和对应的残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用HI曲线和残差曲线，评估滚动轴承全生命周期各个阶段性能。
步骤二；基于Attention-LSTM的滚动轴承性能衰退预测；
针对滚动轴承全生命周期数据特点，研究振动信号数据的输入、输出形式与时序数据预测之间的关系，搭建基于LSTM网络的滚动轴承故障预测模型框架；研究注意力机制原理，结合滚动轴承性能衰退特点构建Attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数和优化器算法等重要参数，不断提高模型预测精度。
具体实施方式二：本实施方式是对具体实施方式一做出的进一步说明；
步骤一（针对设备性能衰退评估过程中缺乏性能衰退指标以及监测信号难以直观表征轴承性能衰退特性的问题，提出基于阶跃稳态的性能衰退评估方法。利用全生命周期监测数据通过固定窗均值化处理构建轴承HI曲线及相应残差曲线，针对其曲线变化分析并对轴承全生命周期状态进行评估）具体的步骤如下：
步骤一一；通过时域与频域分析生成多个备选指标，再分别利用信号的单调性、鲁棒性和相关性建立评价指标，通过线性加权组合的方式对待测指标进行评价选择；
步骤一二；研究均值化处理的相关理论，利用固定窗均值化处理的方式将指标曲线进行特征分离，获得单调性较好的HI曲线和对应的残差曲线；
步骤一三；提出的阶跃稳态性能衰退评估的方法，对步骤一二求出的HI曲线和残差曲线来评价滚动轴承的性能衰退情况。
具体实施方式三：本实施方式是对具体实施方式一做出的进一步说明；
步骤二（在循环神经网络的基础上，提出了基于Attention-LSTM的滚动轴承性能衰退预测。研究注意力机制原理，结合滚动轴承性能衰退特点构建Attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究部分关键参数对模型预测精度的影响，选取合理的激活函数、损失函数和优化器算法等重要参数，不断提高模型预测精度）的具体步骤如下：
步骤二一；将注意力机制应用于神经网络中，在LSTM网络输入层前增加Attention门限结构，利用该门限结构判断是否发生性能退化情况；
步骤二二；选取适合模型的激活函数、损失函数和优化算法，使得神经网络可以更好的解决具有复杂数据特征的非线性问题以及最大程度的减少神经网络的损失；
步骤二三；利用步骤二二选择好的模型参数，使用训练集数据对模型进行训练，最后利用测试集样本对训练好的模型进行测试，得到预测结果。
具体实施方式四：本实施方式是对具体实施方式三做出的进一步说明；
步骤二一一；在LSTM网络输入层前增加Attention门限结构，该门限结构通过判断
与
的差值是否大于阈值
来判断
时刻到
时刻之间是否发生性能退
化情况。Attention门限功能具体实现步骤如下：
（1）数据输入：输入该时刻性能状态值
；
（2）计算差值：计算该时刻性能状态值
与上一时刻性能状态值
之间
的差值
；
（3）判断是否为性能退化点：判断
与该时刻退化阈值
之间的大小关
系。当
时，判定滚动轴承在时刻发生性能退化。当
时，判定滚动轴
承在时刻未发生性能退化。
（4）改变系数：当
时刻为性能退化点时，通过将
时刻性能特征值乘以影响因子
来提高
时刻状态值对模型训练的影响，影响因子
初始值为1，后期通过模型
训练调整
值大小。当
时刻未发生性能退化时，
保持不变；
（5）将性能状态值输入网络进行训练。
为了更清楚地说明本实施例，基于Attention-LSTM的滚动轴承性能衰退预测方法，包括如下步骤：
步骤一、滚动轴承基于阶跃稳态的性能衰退评估方法研究；
步骤二、滚动轴承基于Attention-LSTM的性能衰退预测方法研究。
本发明采用辛辛那提大学滚动轴承可靠性实验数据集进行方法验证。该数据集包括3个子数据集，每个子数据集包括4个轴承的振动信号数据，除第一组实验使用8个加速度传感器进行数据采集外，其余两组均使用4个加速度传感器进行数据采集。轴承型号为Rexford ZA-2115轴承，每个滚道上有16个滚动体，滚子直径3.31mm，节圆直径28.15mm，接触角15.17°，转速2000r/min，该实验为滚动轴承加速退化实验，所施加径向载荷为26.66KN，超过轴承正常载荷，加速度传感器型号为PCB353B33压电式传感器。实验历时33天完成，每隔5分钟进行一次数据采样，采样时间为1s，三组实验分别收集数据2156组、984组、4448组。
首先，滚动轴承基于阶跃稳态的性能衰退评估方法研究；
在全生命周期实验后期，1号实验第四个轴承出现内圈损伤，2号实验第一个轴承出现外圈损伤圈损伤，因此，本文使用前两个子数据集进行数据验证。按照图1流程对前两个子数据集进行数据处理，两组实验数据验证结果分别如图2、图3所示。
如图2所示，结合该轴承全生命周期HI曲线及残差曲线，明显可以将其全生命周期性能衰退阶段划分为4个。轴承装配使用后，在第一阶段，轴承正常运转，系统稳定性良好；在第二阶段，轴承出现损伤，HI值从0上升至0.5左右，从残差曲线看，该阶段系统稳定性较差，残差值出现阶跃，在该阶段后期，轴承性能趋于平稳；第三阶段，该阶段达到动态平衡，形成新阶段稳态，轴承平稳运行，直至轴承再次出现损伤；第四阶段，轴承再次发生损伤，由于损伤较为严重，无法达到新的动态平衡，轴承失效。如图3所示，结合该轴承全生命周期HI曲线及残差曲线，明显可以将其全生命周期性能衰退阶段划分为5个。与1号实验不同，该轴承在在第一阶段正常运行，在第二阶段发生轻微损伤，HI值从0逐渐上升至0.3左右，该阶段系统稳定性较好，系统发生较严重紊乱，其他阶段与1号轴承类似。
最后，滚动轴承基于attention-LSTM的性能衰退预测；
在pycharm2019.3.2软件环境下，基于目前流行的深度学习框架Keras（该框架以Tensorflow为引擎进行计算），来搭建本次滚动轴承性能衰退预测模型，并进行训练和测试。其模型结构如图4所示。基于Attention-LSTM的滚动轴承性能衰退预测模型在不同轴承数据集下的预测效果分别如图5和图6所示；基于多层感知器模型的滚动轴承性能衰退预测模型在两组轴承数据集的预测效果分别如图7和图8所示；基于BP神经网络的滚动轴承性能衰退预测模型在不同轴承数据集下的预测效果分别如图9和图10所示。
图中，蓝色线为滚动轴承全生命周期特征值；橙色线为模型训练集数据，数据长度为滚动轴承全生命周期的67%；红色线为模型测试集数据，数据长度为滚动轴承全生命周期的33%。从预测结果可以得出，基于Attention-LSTM的滚动轴承性能衰退预测模型在不同轴承数据集的预测效果相差较小。该模型泛化能力较强。从图7和图8预测结果可以明显得出，基于多层感知器的滚动轴承性能衰退预测模型在不同轴承数据集的预测效果相差较大，该模型在全生命周期的后期预测效果与实际数据差别较大。因此，该模型不适用于长时间跨度数据预测。从图9和图10预测结果可以得出，BP神经网络的预测效果较基于多层感知器的滚动轴承性能衰退预测模型更为稳定，模型泛化能力较优。但与基于Attention-LSTM的滚动轴承性能衰退预测模型相比预测效果较差。
如表1所示，通过三种预测模型具体数据对比可以得出，基于Attention-LSTM预测模型的预测误差最小，均低于0.1，预测效果最好，其次BP神经网络，介于其余两者之间，多层感知器预测模型预测效果最差，在全生命周期后期的数据预测中与实际数据差别较大，未能达到滚动轴承性能衰退预测要求。
表1不同预测模型的误差
本发明最后采用自己实验室搭建全生命周试验台如图11，采用该实验台来验证本文提出的基于阶跃稳态的性能衰退评估方法以及基于Attention-LSTM的性能衰退预测模型，轴承种类为圆柱滚子轴承。本实验台电机需要长时间连续运转，因此使用直流电机并配备具有过载保护的电机控制器，通过保护电路来防止轴承抱死时电机烧毁的情况发生。在实验过程中，设定电机的转速为1500r/min，数据采集设备是CoCo-80数据采集仪。滚动轴承全生命周期性能衰退实验数据采集：实验对象为N1004M圆柱滚子轴承，具体参数如表2所示。该实验共采集两个轴承振动信号，其中电机端轴承损坏严重，自由端轴承出现轻微磨损，因此使用电机端轴承全生命周期数据集进行数据验证。该数据集包括待测轴承从装机正常运转到发生严重损坏的全部数据。采样频率设置为20kHz，采样时间间隔为5分钟，每次采集生成一个数据文件，共计22040个数据文件，采集总时长为76.53天。
表2 N1004M圆柱滚子轴承参数
| 内圈 | 外圈 | 厚度<i>B</i> | 极限转速 | 动负荷 | 静负荷 |
| 20mm | 42mm | 12mm | 19000r/min | 15.10kN | 14.10kN |
首先，滚动轴承基于阶跃稳态的性能衰退评估方法研究；
基于阶跃稳态的性能衰退评估方法流程图如图1所示。首先，将轴承振动信号进行时域和频域分析，产生多个候选特征指标。其次，利用单调性、相关性以及鲁棒性对多个特征指标进行综合评估，选择最佳特征指标进行后续处理。最后，通过固定窗均值化处理方法对选出的特征指标进行特征分离，得到HI曲线和残差曲线。进而通过两曲线对滚动轴承全生命周期各衰退阶段划分，综合判断各阶段性能。从图12和图14的对比可以看出，全生命周期性能衰退各阶段划清晰可分。
最后，滚动轴承基于Attention-LSTM的性能衰退预测；
基于Attention-LSTM的性能衰退预测，目的是从海量的数据中深度挖掘与目标相关的高价值数据特征。在LSTM网络中，可以通过使用不同的激活函数来调整优化循环体门限结构的功能。能够确保细胞状态和模型训练过程中的稳定性，选择了激活函数为ELU函数；损失函数有助于优化神经网络的参数；通过优化神经网络的参数(权重)来最大程度地减少神经网络的损失，所以选择的损失函数为MAPE; 神经网络的学习的目的就是寻找合适的参数，使得损失函数的值尽可能小选择的优化器是Adam。通过以上所选择的模型和建立的神经网络机构，在试验验证下从图15可知，基于Attention-LSTM预测模型在全生命周期各个阶段预测效果良好，尤其在轴承全生命末期，预测数据与实际数据拟合良好，未出现末期发散现象，模型较为稳定。
Claims (3)
1.一种基于Attention-LSTM的滚动轴承性能衰退预测方法，其特征在于：所述的方法包括如下步骤：
步骤一；基于阶跃稳态的性能衰退评估方法；
通过时域与频域分析生成多个备选指标，采用相关性、单调性和鲁棒性三个指标对信号的候选特征进行评价筛选，将特征值曲线通过固定窗均值化处理得到HI曲线和残差曲线，提出基于阶跃稳态的性能衰退评估方法，利用HI曲线和残差曲线，评估滚动轴承全生命周期各个阶段性能；
步骤二；基于Attention-LSTM的滚动轴承性能衰退预测；
针对滚动轴承全生命周期数据特点，研究振动信号数据的输入、输出形式与时序数据预测之间的关系，搭建基于LSTM网络的滚动轴承故障预测模型；研究注意力机制原理，结合滚动轴承性能衰退特点构建Attention层结构，加强预测模型对性能衰退特征的响应敏感度，提高模型预测精度；研究关键参数对模型预测精度的影响，选取激活函数、损失函数和优化器算法重要参数，不断提高模型预测精度；
步骤二的具体步骤如下：
步骤二一：将注意力机制应用于神经网络中，在LSTM网络输入层前增加Attention门限结构，利用该门限结构判断是否发生性能退化情况；
步骤二二：选取模型激活函数、损失函数和优化算法，使得神经网络可以更好的解决具有复杂数据特征的非线性问题以及最大程度的减少神经网络的损失；
步骤二三：利用步骤二二选择好的模型参数，使用训练集数据对模型进行训练，最后利用测试集样本对训练好的模型进行测试，得到预测结果。
2.根据权利要求1所述的基于Attention-LSTM的滚动轴承性能衰退预测方法，其特征在于：
步骤一的具体步骤如下：
步骤一一；特征指标的评价与选择：通过时域与频域分析生成多个备选指标，再分别利用信号的单调性、鲁棒性和相关性建立评价指标，通过线性加权方式确定该评价指标性能的好坏；
步骤一二；进行特征分离：利用固定窗均值化处理的方式将备选特征指标曲线进行特征分离，获得单调性HI曲线和对应的残差曲线；
步骤一三；性能衰退的评估：通过提出的阶跃稳态性能衰退评估的方法，再利用步骤一二得出的HI曲线和残差曲线，对滚动轴承全生命周期各衰退阶段划分，综合判断各阶段性能。
3.根据权利要求1所述的基于Attention-LSTM的滚动轴承性能衰退预测方法，其特征在于：
步骤二中在LSTM网络输入层前增加Attention门限结构，该门限结构通过判断xt-1与xt的差值是否大于阈值Δxt′来判断t-1时刻到t时刻之间是否发生性能退化情况；Attention门限功能具体实现步骤如下：
(1)数据输入：输入该时刻性能状态值xt；
(2)计算差值：计算该时刻性能状态值xt与上一时刻性能状态值xt-1之间的差值Δxt＝xt-xt-1；
(3)判断是否为性能退化点：判断Δxt与该时刻退化阈值Δxt′之间的大小关系； 当Δxt＞Δxt′时，判定滚动轴承在t时刻发生性能退化； 当Δxt＜Δxt′时，判定滚动轴承在t时刻未发生性能退化；
(4)改变系数：当t时刻为性能退化点时，通过将t时刻性能特征值xt乘以影响因子k(k＞1)来提高t时刻状态值对模型训练的影响，影响因子k初始值为1，后期通过模型训练调整k值大小； 当t时刻未发生性能退化时，xt保持不变；
(5)将性能状态值xt输入网络进行训练。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010539588.3A CN111695521B (zh) | 2020-06-15 | 2020-06-15 | 一种基于Attention-LSTM的滚动轴承性能衰退预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010539588.3A CN111695521B (zh) | 2020-06-15 | 2020-06-15 | 一种基于Attention-LSTM的滚动轴承性能衰退预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111695521A CN111695521A (zh) | 2020-09-22 |
| CN111695521B true CN111695521B (zh) | 2022-06-10 |
Family
ID=72480902
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010539588.3A Expired - Fee Related CN111695521B (zh) | 2020-06-15 | 2020-06-15 | 一种基于Attention-LSTM的滚动轴承性能衰退预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111695521B (zh) |
Families Citing this family (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112214852B (zh) * | 2020-10-09 | 2022-10-14 | 电子科技大学 | 一种考虑衰退率的透平机械性能衰退预测方法 |
| CN112287776A (zh) * | 2020-10-15 | 2021-01-29 | 上海明略人工智能(集团)有限公司 | 轴承性能指标分析方法、系统、可读存储介质及电子设备 |
| CN112525336B (zh) * | 2020-11-18 | 2023-06-27 | 西安因联信息科技有限公司 | 一种机械设备振动连续增长的自动化检测方法 |
| CN113560955B (zh) * | 2021-06-09 | 2022-09-09 | 西安电子科技大学 | 一种数控机床刀具剩余使用寿命预测方法、系统及应用 |
| CN113240099A (zh) * | 2021-07-09 | 2021-08-10 | 北京博华信智科技股份有限公司 | 基于lstm的旋转机械健康状态的预测方法和装置 |
| CN113985217B (zh) * | 2021-07-26 | 2023-10-13 | 中国电力科学研究院有限公司 | 一种用于确定最优起晕参数的方法及系统 |
| CN113680703B (zh) * | 2021-10-25 | 2022-01-18 | 南通海峰家居用品有限公司 | 一种旋转连接器的材料智能筛选方法及系统 |
| CN113688027B (zh) * | 2021-10-26 | 2022-02-22 | 深圳市永达电子信息股份有限公司 | 工控设备的检测数据处理方法和系统 |
| CN116401950B (zh) * | 2023-04-11 | 2024-03-01 | 哈尔滨理工大学 | 基于时间图卷积神经网络的滚动轴承性能衰退预测方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109084980A (zh) * | 2018-10-10 | 2018-12-25 | 北京交通大学 | 基于均等分割的轴承故障预测方法及装置 |
| CN109902399A (zh) * | 2019-03-01 | 2019-06-18 | 哈尔滨理工大学 | 一种基于att-cnn的变工况下滚动轴承故障识别方法 |
| CN110458278A (zh) * | 2019-04-19 | 2019-11-15 | 四川大学 | 基于量子注意力循环编码解码神经网络的退化预测方法 |
| CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20200012944A1 (en) * | 2018-07-05 | 2020-01-09 | Alstom Transport Technologies | Method and system for detecting switch degradation and failures |
-
2020
- 2020-06-15 CN CN202010539588.3A patent/CN111695521B/zh not_active Expired - Fee Related
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109084980A (zh) * | 2018-10-10 | 2018-12-25 | 北京交通大学 | 基于均等分割的轴承故障预测方法及装置 |
| CN109902399A (zh) * | 2019-03-01 | 2019-06-18 | 哈尔滨理工大学 | 一种基于att-cnn的变工况下滚动轴承故障识别方法 |
| CN110458278A (zh) * | 2019-04-19 | 2019-11-15 | 四川大学 | 基于量子注意力循环编码解码神经网络的退化预测方法 |
| CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
Non-Patent Citations (8)
| Title |
|---|
| Hao Zhang.Attention-based LSTM network for rotatory machine remaining useful life prediction.《https://www.x-mol.com/paper/1288185719696310272?adv》.2020,1-11. * |
| Wang Du.Stacked Convolutional LSTM Models for Prognosis of Bearing Performance Degradation.《2019 Prognostics and System Health Management Conference (PHM-Qingdao)》.2019,1-10. * |
| 刘晓飞.基于LSTM网络的滚动轴承可靠性评估及寿命预测.《中国优秀硕士学位论文全文数据库 (工程科技Ⅱ辑)》.2020,C029-169. * |
| 张尧.基于LS-SVM的轴承故障趋势预测方法研究.《中国优秀硕士学位论文全文数据库 (工程科技Ⅱ辑)》.2019,C029-356. * |
| 王亚萍.基于SPWVD时频图纹理特征的滚动轴承故障诊断.《振动、测试与诊断》.2017,115-119. * |
| 裴洪等.基于机器学习的设备剩余寿命预测方法综述.《机械工程学报》.2019,(第08期), * |
| 许迪.流形学习和M-KH-SVR的滚动轴承衰退预测.《振动工程学报》.2018,892-901. * |
| 许迪.量子遗传算法优化的SVM滚动轴承故障诊断.《振动、测试与诊断》.2018,843-851. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111695521A (zh) | 2020-09-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111695521B (zh) | 一种基于Attention-LSTM的滚动轴承性能衰退预测方法 | |
| CN112949945B (zh) | 一种改进双向长短期记忆网络的风电功率超短期预测方法 | |
| CN107016235B (zh) | 基于多特征自适应融合的设备运行状态健康度评估方法 | |
| Chen et al. | Mechanical state prediction based on LSTM neural netwok | |
| CN107944090B (zh) | 基于关键部件失效模型的燃气轮机系统性能预测方法 | |
| CN110907066A (zh) | 基于深度学习模型的风电机组齿轮箱轴承温度状态监测方法 | |
| CN111723527B (zh) | 基于鸡尾酒长短期记忆神经网络的齿轮剩余寿命的预测方法 | |
| Shen et al. | Remaining useful life prediction of rolling bearing based on multi-head attention embedded Bi-LSTM network | |
| CN113204921B (zh) | 飞机涡扇发动机的剩余使用寿命预测方法及系统 | |
| CN111695666A (zh) | 一种基于深度学习的风电功率超短期条件概率预测方法 | |
| CN104899608B (zh) | 滚动轴承剩余寿命预测的加权融合相关向量机模型 | |
| CN113343591A (zh) | 基于自注意力网络的产品关键零件寿命端到端预测方法 | |
| Tang et al. | Prediction of bearing performance degradation with bottleneck feature based on LSTM network | |
| Li et al. | A 2-D long short-term memory fusion networks for bearing remaining useful life prediction | |
| Cheng et al. | Interactive hybrid model for remaining useful life prediction with uncertainty quantification of bearing in nuclear circulating water pump | |
| Yan et al. | Reliability prediction of CNC machine tool spindle based on optimized cascade feedforward neural network | |
| Li et al. | An ensembled remaining useful life prediction method with data fusion and stage division | |
| Li et al. | A multi-factor combination prediction model of carbon emissions based on improved CEEMDAN | |
| CN115907198A (zh) | 一种长距离供热负荷智能预测系统 | |
| Lu et al. | Physics guided neural network: Remaining useful life prediction of rolling bearings using long short-term memory network through dynamic weighting of degradation process | |
| Shao et al. | Fine-gained recurrence graph: Graphical modeling of vibration signal for fault diagnosis of wind turbine | |
| Peng et al. | Wind turbine blades icing failure prognosis based on balanced data and improved entropy | |
| Ou et al. | Fault Prediction Model of Wind Power Pitch System Based on BP Neural Network | |
| Li et al. | Gated Transient Fluctuation Dual Attention Unit Network for Long-Term Remaining Useful Life Prediction of Rotating Machinery Using IIoT | |
| Fu et al. | Research on fault diagnosis of planetary gearbox based on MPGA-BP neural network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20220610 |