CN114186475B - 一种基于Attention-MGRU的回转支承寿命预测方法 - Google Patents
一种基于Attention-MGRU的回转支承寿命预测方法 Download PDFInfo
- Publication number
- CN114186475B CN114186475B CN202111262819.1A CN202111262819A CN114186475B CN 114186475 B CN114186475 B CN 114186475B CN 202111262819 A CN202111262819 A CN 202111262819A CN 114186475 B CN114186475 B CN 114186475B
- Authority
- CN
- China
- Prior art keywords
- attention
- prediction
- slewing bearing
- rul
- mgru
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 26
- 230000007246 mechanism Effects 0.000 claims abstract description 32
- 230000036541 health Effects 0.000 claims abstract description 29
- 230000008569 process Effects 0.000 claims abstract description 11
- 238000004364 calculation method Methods 0.000 claims description 23
- 230000006870 function Effects 0.000 claims description 6
- 238000012549 training Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 5
- 241000135164 Timea Species 0.000 claims description 3
- 238000012937 correction Methods 0.000 claims description 3
- 210000002569 neuron Anatomy 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 230000002787 reinforcement Effects 0.000 claims description 3
- 230000000306 recurrent effect Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 4
- 230000007774 longterm Effects 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract 1
- 230000015654 memory Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000011156 evaluation Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 2
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000007787 long-term memory Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/10—Numerical modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/08—Thermal analysis or thermal optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/14—Force analysis or force optimisation, e.g. static or dynamic forces
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明提供了一种基于Attention‑MGRU的回转支承寿命预测方法，包括如下步骤：选用深度学习中能更准确地学习时间序列长期依赖性关系的门控循环单元网络，构建回转支承的多变量门控循环单元预测模型；多变量门控循环单元预测模型以回转支承的振动、温度、扭矩多物理信号健康指标为输入，充分利用回转支承运行过程中的多种观测信号所传递的信息。在多变量门控循环单元预测模型中引入注意力机制，该机制的作用在于捕获多物理信号的内部相关性，多角度全方位地考虑剩余寿命的关联要素。
Description
技术领域
本发明涉及回转支承寿命预测领域，具体涉及一种基于Attention-MGRU的回转支承寿命预测方法，是一种高精度剩余使用寿命预测方法。具体的说是对回转支承的振动、温度和扭矩信号利用Attention-MGRU建立回转支承寿命预测模型。有效地解决了基于单一振动信号无法全面获取回转支承退化信息的问题，为回转支承的寿命评估提供了新的思路。
背景技术
随着经济的快速发展，社会对于新能源开发及基建工程建设愈发重视，得益于政府的扶持以及开放的市场，风力发电、建筑机械、能源开采等领域稳步发展，风力发电机、挖掘机、盾构机等大型机械设备的需求不断增加。回转支承作为机械整机的关键传动部件，广泛应用于各大工程实践领域。据统计，旋转机械设备的故障中约有70％由轴承损伤引起，机械设备的平稳运行一定程度依赖于回转支承的运行可靠性。回转支承在机械整机中用于连接上下回转体，类似于机械的关节，一旦发生故障或失效现象，将加大设备安全风险系数，造成安全隐患，特别是对于大型机械整机来说，若因回转支承失效造成停机，将会带来较大的经济损失。因此，为保证生产工作的安全平稳运行，有效提高回转支承运行可靠性尤为重要。
后天的主动运维是提高回转支承运行可靠性的有效途径，但前提是对回转支承的寿命状态进行较准确地评估。对RUL进行准确预测，及时失效预警，提前备件并主动更换，以减少安全隐患，避免不必要的经济损失。鉴于此，对回转支承进行有效的RUL预测具有重要意义，为机械设备的定期保养维护及后期主动更换备件提供了依据，是保证设备良好运行的基础。
对设备进行有效的状态评估、RUL预测可以提前预知潜在风险，为机械设备的定期保养维护以及后期主动更换备件提供依据，是保证生产工作的安全平稳运行的基础，因此设备的寿命状态评估一直都是国内外学者研究的热点问题。回转支承相较于普通轴承来说，尺寸较大、转速低且受力复杂，常作业于环境恶劣的工况下，加大了寿命状态评估难度，故不少学者对其展开了针对性的研究。通过研究者们前赴后继的努力，回转支承的寿命状态评估工作已取得不错的进展，但从现有文献来看，仍存在以下几点需进一步探讨：
(1)仅从单一的振动信号出发难以全面获取回转支承的损伤信息，损伤类型的不同所激发的征兆信号敏感性也会存在差异。
(2)回转支承试验数据通过间隔方式采集，时间序列数据存在稀疏性，影响预测模型性能。
发明内容
本发明的目的在于提出基于Attention-MGRU的回转支承寿命预测方法。本发明提出的RUL预测模型评估系统，与基于单一振动信号GRU、多变量MGRU预测模型对比，该预测模型在准确性、稳定性、合理性方面均具有优胜性，具有一定应用价值。
为实现上述目的，本发明采用了如下技术方案：
一种基于Attention-MGRU的回转支承寿命预测方法，其特征在于，包括以下步骤：
步骤1、构建回转支承的多变量门控循环单元预测模型：利用经过预处理的振动、温度、扭矩信号建模，引入门控循环单元(Gated Recurrent Unit,GRU)；
步骤2、引入注意力机制：在步骤1的基础上引入注意力机制，分析各要素对剩余使用寿命(Remaining Useful Life,RUL)预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化；
步骤3、建立基于注意力机制的多变量门控循环单元(multivariable GRU basedon Attention mechanism,Attention-MGRU)模型：在多变量GRU模型中引入注意力机制，通过搭建注意力机制可以探寻多物理信号健康指标与回转支承RUL之间的内在联系，在量化不同健康指标对于RUL的影响力的同时，强化相关性高的健康指标，建立起完备健全的寿命预测模型。
所述步骤2中的注意力机制，其实质是通过获取Key的权重系数，从而对Value加权求和；计算过程主要分为三个步骤：计算权重系数、对权重数值进行归一化、加权求取Attention的值；将注意力机制引入回转支承的RUL预测任务中，分析各要素对RUL预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化；
权重计算通过多层感知机实现，以GRU网络前一时刻的隐含层输出ht-1及当前时刻的要素
作为多层感知机的输入，输出
即为当前时刻第n个要素的注意力权重，计算式为
为量化当前时刻不同要素对于RUL的影响程度，对
进行归一化处理，
即为注意力机制最终的输出权重，其大小直接反映了当前各输入要素对于预测信息的影响力，计算式为：
式中，
We、Ue为多层感知机训练得到的神经元权重，be为偏置参数；将注意力权重赋予原始输入序列，依据权重对各要素信息的表达进行增强或削弱，加权计算后获得新的序列Xt，计算式为：
Xt对各要素进行了关联，实现了关键要素的强化，将Xt作为GRU网络的输入序列，多角度全方位的考虑剩余寿命的关联要素，自适应优化各要素的影响力，构建更加全面合理的预测模型。
所述步骤3中所述基于Attention-MGRU预测模型具体功能如下：
Attention-MGRU预测模型主要包括六个功能模块：网络预测模块、输出层模块、隐含层模块、注意力层模块、输入层模块、网络训练模块；其中输入层模块的主要目的是对时序序列进行初步处理，以达到网络输入的要求；注意力层模块用于计算不同健康指标对当前时刻预测情况的影响权重，其输入为原始时序序列及GRU网络前一时刻的隐含层输出，输出为加权修正后的时序序列；隐含层模块用来搭建GRU网络结构，输出层输出最后的预测结果。
步骤1中所述构建回转支承的多变量门控循环单元预测模型优势如下：
1)相较于其他深度学习模型来说，由于将时序概念嵌入网络结构设计中，增加了循环模块，故在时序预测问题上具有更强的适用性。
2)将隐含节点改进为记忆块，记忆块由记忆细胞和多个“门”结构组成，通过输入、输出及遗忘门选择性增强信息，保证了有效信息的流通，提高了网络长期记忆性能力，可应用于长时间序列预测中。
3)将输入门和遗忘门结合成更新门z，增添重置门r，删除输出门，使记忆块结构变得更精简。由于模型结构及计算过程更加简洁，能更准确地学习时间序列长期依赖性关系，提升了网络的计算效率及预测精度。
本发明的有益效果是：
1、本发明公布的Attention-MGRU模型有效提高了预测的准确性与稳定性。
2、通过搭建注意力机制可以探寻多物理信号健康指标与回转支承RUL之间的内在联系，在量化不同健康指标对于RUL的影响力的同时，强化相关性高的健康指标，建立起完备健全的寿命预测模型。
附图说明
图1为本发明中GRU网络记忆块示意图；
图2为本发明中要素注意力机制图；
图3为本发明中Attention-MGRU的预测流程图；
图4为本发明中Attention-MGRU预测结果示意图；
图5为本发明中Attention-MGRU模型预测误差值示意图；
图6为本发明中GRU模型RUL预测结果示意图；
图7为本发明中GRU模型预测误差值示意图；
图8为本发明中MGRU模型RUL预测结果示意图；
图9为本发明中MGRU模型预测误差值示意图；
图10为本发明中多物理信号健康指标权重图。
具体实施方式
下面将结合本发明的附图，对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。
如图1至图10所示，本实施例表述一种基于Attention-MGRU的回转支承寿命预测方法，包括如下步骤：
步骤1、构建回转支承的多变量门控循环单元预测模型：利用经过预处理的振动、温度、扭矩信号建模，引入门控循环单元。
步骤2、引入注意力机制：在步骤1的基础上引入注意力机制，分析各要素对RUL预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化。
步骤3、建立基于Attention-MGRU的寿命预测模型：在多变量GRU模型中引入注意力机制，通过搭建注意力机制可以探寻多物理信号健康指标与回转支承RUL之间的内在联系，在量化不同健康指标对于RUL的影响力的同时，强化相关性高的健康指标，建立起完备健全的寿命预测模型。
所述步骤1中构建回转支承的多变量门控循环单元预测模型优势如下：
1)相较于其他深度学习模型来说，由于将时序概念嵌入网络结构设计中，增加了循环模块，故在时序预测问题上具有更强的适用性。
2)将隐含节点改进为记忆块，记忆块由记忆细胞和多个“门”结构组成，通过输入、输出及遗忘门选择性增强信息，保证了有效信息的流通，提高了网络长期记忆性能力，可应用于长时间序列预测中。
3)将输入门和遗忘门结合成更新门z，增添重置门r，删除输出门，使记忆块结构变得更精简。由于模型结构及计算过程更加简洁，能更准确地学习时间序列长期依赖性关系，提升了网络的计算效率及预测精度。
图1中，xt为当前输入，隐含层输出ht，σ为sigmoid函数，有如下计算公式：zt＝σ(Wz·[ht-1,xt])、rt＝σ(Wr·[ht-1,xt])、
式中，W代表权值，下标代表对应的部分，例如Wz表示更新门z的权值，
汇总输入及历史隐含层。
由此可以看出，在前向训练过程中，重置门rt控制着输入值xt和上一时刻状态ht-1的结合；更新门xt决定着当前阶段对上一阶段信息的利用。后向训练采用BPTT算法，以均方误差(MSE)为目标函数进行反向调节并优化网络层中的权重，选用Adam优化函数对梯度进行优化。Adam兼具AdaGrad和RMSProp算法优点，能实现不同参数的自适应学习率的设置，鲁棒性、运行效率高，有助于提高模型的学习能力。
所述步骤2中的注意力机制，其实质是通过获取Key的权重系数，从而对Value加权求和。计算过程主要分为三个步骤：计算权重系数、对权重数值进行归一化、加权求取Attention的值。鉴于注意力机制可对预测模型的多要素输入赋予不同权重，本发明将注意力机制引入回转支承的RUL预测任务中，分析各要素对RUL预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化。
本实施例引入的要素注意力机制如图2所示，权重计算通过多层感知机实现，以GRU网络前一时刻的隐含层输出ht-1及当前时刻的要素
作为多层感知机的输入，输出
即为当前时刻第n个要素的注意力权重，计算式为
为量化当前时刻不同要素对于RUL的影响程度，对
进行归一化处理，
即为注意力机制最终的输出权重，其大小直接反映了当前各输入要素对于预测信息的影响力，计算式为：
式中，
We、Ue为多层感知机训练得到的神经元权重，be为偏置参数。将注意力权重赋予原始输入序列，依据权重对各要素信息的表达进行增强或削弱，加权计算后获得新的序列Xt，计算式为：
Xt对各要素进行了关联，实现了关键要素的强化，将Xt作为GRU网络的输入序列，多角度全方位的考虑剩余寿命的关联要素，自适应优化各要素的影响力，构建更加全面合理的预测模型。
所述步骤3中基于Attention-MGRU预测模型具体功能如下：
Attention-MGRU预测模型主要包括六个功能模块：网络预测、输出层、隐含层、注意力层、输入层、网络训练，如图3所示。其中输入层的主要目的是对时序序列进行初步处理，以达到网络输入的要求。注意力层用于计算不同健康指标对当前时刻预测情况的影响权重，其输入为原始时序序列及GRU网络前一时刻的隐含层输出，输出为加权修正后的时序序列。隐含层用来搭建GRU网络结构，输出层输出最后的预测结果。
从图4可看出，基于Attention-MGRU模型输出的RUL预测值与实际值相差较小，图5也能直观体现该模型较优的预测性能。在整个预测周期内，模型预测误差值均较小，且没有明显的振荡情况。由于引入注意力机制，探寻多物理信号健康指标与回转支承RUL之间的内在联系，量化了不同健康指标对于RUL的影响力，如图10所示。其中，温度健康指标的注意力权重最大，说明其对回转支承RUL的影响力最大。通过强化温度信号健康指标作用，振动信号健康指标的不利影响得以抑制，从220点、380点处的预测误差的降低可充分说明。该模型多角度考虑剩余寿命的关联要素，有效提高了模型精度以及稳定性，说明所提出的建模策略是有效的，也侧面说明采用多物理信号进行RUL评估的重要性。
从图6-图7中可以看出，在预测前期，基于单一振动信号健康指标的GRU预测模型具有良好的预测性能，预测结果与真实寿命状态差距较小。因模型只依赖于单一健康指标的分布状态，故在振动信号健康指标发生较大梯度变化前，能实现理想的拟合效果。但在220点附近，由于回转支承快速失效，振动信号健康指标值突增，出现训练数据与测试样本分布规律不一致的情况，模型预测短板凸显。此后模型输出值与实际值偏离较大，特别是预测后期，模型预测的结果可信度急剧下降，无法真实有效地评估回转支承实际的RUL。
从图8-图9可以看出，RUL预测结果偏差程度相较于GRU来说较小，虽同样在220点、380点附近产生较大波动，但均低于GRU模型预测误差。产生较大波动的原因在于，振动信号健康指标发生较大梯度变化，影响测试样本分布。因样本还包括温度、扭矩健康指标，振动健康指标对于分布的影响有所降低。从后期预测结果可以明显看出，MGRU改善了单一GRU模型的不足之处，体现了基于多物理信号评估的优越性。但同时也可以看出，因影响回转支承RUL的因素较多，所以MGRU模型预测过程中RUL输出值偏差程度波动频繁，模型稳定性有待提升。
为更加直观地对比各模型的预测性能，分别使用MAE、RMSE、MAPE进行对比衡量，公式分别为：
式中，n为预测点总数，yi为实际RUL，
为预测的RUL值。其中，MAE用来反映预测结果误差大小，RMSE表征预测结果离散度，MAPE反映预测结果与实际RUL的偏离程度。
表1每个模型的预测误差
从表1可以看出，与基于单一振动信号GRU、基于多特征信号MGRU预测模型相比，本发明提出的Attention-MGRU模型的三种预测误差均明显降低，验证了该模型在回转支承RUL预测任务中的明显优势，有效地解决了基于单一振动信号无法全面获取回转支承退化信息的问题，为回转支承的寿命评估提供了新的思路。
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的仅为发明的优选例，并不用来限制本发明，在不脱离本发明新型精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (1)
1.一种基于Attention-MGRU的回转支承寿命预测方法，其特征在于，包括以下步骤：
步骤1、构建回转支承的多变量门控循环单元预测模型：利用经过预处理的振动、温度、扭矩信号建模，引入门控循环单元(Gated Recurrent Unit,GRU)；
步骤2、引入注意力机制：在步骤1的基础上引入注意力机制，分析各要素对剩余使用寿命(Remaining Useful Life,RUL)预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化；
步骤3、建立基于注意力机制的多变量门控循环单元(multivariable GRU basedonAttention mechanism,Attention-MGRU)模型：在多变量GRU模型中引入注意力机制，通过搭建注意力机制可以探寻多物理信号健康指标与回转支承RUL之间的内在联系，在量化不同健康指标对于RUL的影响力的同时，强化相关性高的健康指标，建立起完备健全的寿命预测模型；所述步骤2中的注意力机制，其实质是通过获取Key的权重系数，从而对Value加权求和；计算过程分为三个步骤：计算权重系数、对权重数值进行归一化、加权求取Attention的值；将注意力机制引入回转支承的RUL预测任务中，分析各要素对RUL预测的重要程度，挖掘多要素间的关联性，实现关键要素的强化；
权重计算通过多层感知机实现，以GRU网络前一时刻的隐含层输出ht-1及当前时刻的要素
作为多层感知机的输入，输出
即为当前时刻第n个要素的注意力权重，计算式为
为量化当前时刻不同要素对于RUL的影响程度，对
进行归一化处理，
即为注意力机制最终的输出权重，其大小直接反映了当前各输入要素对于预测信息的影响力，计算式为：
式中，
We、Ue为多层感知机训练得到的神经元权重，be为偏置参数；将注意力权重赋予原始输入序列，依据权重对各要素信息的表达进行增强或削弱，加权计算后获得新的序列Xt，计算式为：
Xt对各要素进行了关联，实现了关键要素的强化，将Xt作为GRU网络的输入序列，多角度全方位的考虑剩余寿命的关联要素，自适应优化各要素的影响力，构建更加全面合理的预测模型；所述步骤3中所述基于Attention-MGRU预测模型具体功能如下：
Attention-MGRU预测模型包括六个功能模块：网络预测模块、输出层模块、隐含层模块、注意力层模块、输入层模块、网络训练模块；其中输入层模块的目的是对时序序列进行初步处理，以达到网络输入的要求；注意力层模块用于计算不同健康指标对当前时刻预测情况的影响权重，其输入为原始时序序列及GRU网络前一时刻的隐含层输出，输出为加权修正后的时序序列；隐含层模块用来搭建GRU网络结构，输出层输出最后的预测结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111262819.1A CN114186475B (zh) | 2021-10-28 | 2021-10-28 | 一种基于Attention-MGRU的回转支承寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111262819.1A CN114186475B (zh) | 2021-10-28 | 2021-10-28 | 一种基于Attention-MGRU的回转支承寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114186475A CN114186475A (zh) | 2022-03-15 |
| CN114186475B true CN114186475B (zh) | 2023-05-12 |
Family
ID=80601606
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111262819.1A Active CN114186475B (zh) | 2021-10-28 | 2021-10-28 | 一种基于Attention-MGRU的回转支承寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114186475B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114880767B (zh) * | 2022-04-24 | 2024-03-08 | 西北工业大学 | 一种基于注意力机制Dense-GRU网络的航空发动机剩余使用寿命预测方法 |
| CN114707431B (zh) * | 2022-06-02 | 2022-09-02 | 广东工业大学 | 一种旋转多组件剩余使用寿命预测方法、系统及存储介质 |
| CN117973644B (zh) * | 2024-04-02 | 2024-06-14 | 天津大学 | 一种考虑参考电站优化的分布式光伏功率虚拟采集方法 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110073301A (zh) * | 2017-08-02 | 2019-07-30 | 强力物联网投资组合2016有限公司 | 工业物联网中具有大数据集的数据收集环境下的检测方法和系统 |
| CN111595583A (zh) * | 2020-05-29 | 2020-08-28 | 重庆大学 | 基于gau神经网络的轴承剩余寿命的预测方法 |
| CN112129534A (zh) * | 2020-09-17 | 2020-12-25 | 上海交通大学 | 一种机床主轴轴承寿命预测方法及系统 |
| CN113051689A (zh) * | 2021-04-25 | 2021-06-29 | 石家庄铁道大学 | 基于卷积门控循环网络的轴承剩余使用寿命预测方法 |
| CN113434970A (zh) * | 2021-06-01 | 2021-09-24 | 北京交通大学 | 一种机械设备的健康指标曲线提取和寿命预测方法 |
| CN113486578A (zh) * | 2021-06-28 | 2021-10-08 | 北京科技大学 | 一种工业过程中设备剩余寿命的预测方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11176330B2 (en) * | 2019-07-22 | 2021-11-16 | Advanced New Technologies Co., Ltd. | Generating recommendation information |
| US20210183484A1 (en) * | 2019-12-06 | 2021-06-17 | Surgical Safety Technologies Inc. | Hierarchical cnn-transformer based machine learning |
-
2021
- 2021-10-28 CN CN202111262819.1A patent/CN114186475B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110073301A (zh) * | 2017-08-02 | 2019-07-30 | 强力物联网投资组合2016有限公司 | 工业物联网中具有大数据集的数据收集环境下的检测方法和系统 |
| CN111595583A (zh) * | 2020-05-29 | 2020-08-28 | 重庆大学 | 基于gau神经网络的轴承剩余寿命的预测方法 |
| CN112129534A (zh) * | 2020-09-17 | 2020-12-25 | 上海交通大学 | 一种机床主轴轴承寿命预测方法及系统 |
| CN113051689A (zh) * | 2021-04-25 | 2021-06-29 | 石家庄铁道大学 | 基于卷积门控循环网络的轴承剩余使用寿命预测方法 |
| CN113434970A (zh) * | 2021-06-01 | 2021-09-24 | 北京交通大学 | 一种机械设备的健康指标曲线提取和寿命预测方法 |
| CN113486578A (zh) * | 2021-06-28 | 2021-10-08 | 北京科技大学 | 一种工业过程中设备剩余寿命的预测方法 |
Non-Patent Citations (3)
| Title |
|---|
| Remaining Useful Life Prediction Using A Novel Feature-attention Based End-to-end Approach;Hui Liu等;IEEE Transactions on Industrial Informatics;第17卷(第2期);第1197-1207页 * |
| 基于多特征集融合与多变量支持向量回归的回转支承剩余寿命评估;田淑华等;南京工业大学学报(自然科学版);第38卷(第3期);第50-57页 * |
| 基于注意力GRU算法的滚动轴承剩余寿命预测;姚德臣;李博阳;刘恒畅;姚娟娟;皮雁南;振动与冲击;第40卷(第017期);第116-123页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114186475A (zh) | 2022-03-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114186475B (zh) | 一种基于Attention-MGRU的回转支承寿命预测方法 | |
| CN111339712A (zh) | 质子交换膜燃料电池剩余寿命预测方法 | |
| CN111340282A (zh) | 基于da-tcn的设备剩余使用寿命的估计方法及系统 | |
| CN109492790A (zh) | 基于神经网络与数据挖掘的风电机组健康管理方法 | |
| CN110796281B (zh) | 基于改进深度信念网络的风电机组状态参数预测方法 | |
| CN116167527B (zh) | 纯数据驱动的电力系统静态安全运行风险在线评估方法 | |
| CN111340284A (zh) | 一种基于长短时记忆网络的水车室水位智能预测方法 | |
| Chen et al. | Transfer life prediction of gears by cross-domain health indicator construction and multi-hierarchical long-term memory augmented network | |
| KR20230050812A (ko) | 연료전지 시스템의 잔여 수명 예측 방법 및 이를 수행하는 디지털 트윈 장치 | |
| CN116109039A (zh) | 一种数据驱动异常检测与预警系统 | |
| CN116147917A (zh) | 一种预测轴承剩余使用寿命标签的构建方法、装置和设备 | |
| Shi et al. | A dual attention LSTM lightweight model based on exponential smoothing for remaining useful life prediction | |
| Shao et al. | Remaining useful life prediction considering degradation interactions of subsea Christmas tree: a multi-stage modeling approach | |
| CN113408190A (zh) | 基于Bayes-LSTM模型的公路隧道施工期围岩变形预测方法 | |
| Wang et al. | A novel approach of full state tendency measurement for complex systems based on information causality and PageRank: A case study of a hydropower generation system | |
| CN116020879B (zh) | 面向工艺参数带钢热连轧时空多尺度过程监控方法及装置 | |
| CN115563475A (zh) | 一种挖掘机液压系统的压力软传感器 | |
| CN115217152A (zh) | 一种沉管隧道管节接头张合变形的预测方法及装置 | |
| Li et al. | Gated Transient Fluctuation Dual Attention Unit Network for Long-Term Remaining Useful Life Prediction of Rotating Machinery Using IIoT | |
| Wu et al. | Development of a novel variable selection algorithm for LSTM with LASSO | |
| Li et al. | Predicting remaining useful life of industrial equipment based on multivariable monitoring data analysis | |
| Zheng et al. | Research on predicting remaining useful life of equipment based on health index | |
| CN117829822B (zh) | 一种电力变压器故障预警方法及系统 | |
| Liu et al. | Prediction Method of Remaining Useful Life of Antifriction Bearing Based on EBSA-LSTM Network | |
| Ou et al. | Fault Prediction Model of Wind Power Pitch System Based on BP Neural Network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |