CN112818870A - 一种基于门控神经网络框架的轴承剩余寿命预测方法 - Google Patents
一种基于门控神经网络框架的轴承剩余寿命预测方法 Download PDFInfo
- Publication number
- CN112818870A CN112818870A CN202110152592.9A CN202110152592A CN112818870A CN 112818870 A CN112818870 A CN 112818870A CN 202110152592 A CN202110152592 A CN 202110152592A CN 112818870 A CN112818870 A CN 112818870A
- Authority
- CN
- China
- Prior art keywords
- neural network
- gated neural
- bearing
- residual life
- gated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/04—Bearings
- G01M13/045—Acoustic or vibration analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Acoustics & Sound (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明提供了一种基于门控神经网络框架的轴承剩余寿命预测方法,包括如下步骤:S1、获得轴承的全寿命周期振动信号,提取振动分布特征并创建门控神经网络训练集合;S2、构建门控神经网络模型,引入直接计算权重的注意力机制,以提高提取时序信息的完整性;S3、添加贝叶斯层,构建时序信息与剩余寿命之间的非线性映射关系;S4、将测试轴承的振动信号作为输入,门控神经网络模型的输出结果即为当前时刻测试轴承的剩余寿命。本发明无需添加额外的神经网络层数,避免了增加模型复杂度问题,通过将不同时刻提取的时序信息通过加权融合,以提高提取信息的完整性。同时,通过添加贝叶斯层,将传统点预测结果转化为区间预测,以考虑轴承剩余寿命预测的不确定性。
Description
技术领域
本发明涉及轴承剩余寿命预测领域,尤其涉及一种基于门控神经网络框架的轴承剩余寿命预测方法。
背景技术
轴承作为旋转机械中重要的组成部分,在电力、高铁、机械等各领域中广泛应用。但同时,轴承也是最容易损伤的部件之一。轴承的故障会导致机械系统的安全隐患,增加非计划停机的风险,甚至会导致重大的经济损失和灾难性的事故。因此对轴承进行剩余寿命预测一直是近年来的研究重点。随着机器学习的不断发展,基于门控神经网络的轴承剩余寿命预测方法得到了广泛的关注。传统的门控神经网络在预测精度上不尽如人意,通过引入注意力机制是提高其预测精度的有效手段。但是传统的注意力机制往往需要添加额外的神经网络层数,导致模型更加复杂,增加计算负担。另外,传统的门控神经网络仅仅能进行点预测,对于由传感器噪声、运行工况变化以及未知失效模式所带来的不确定性未曾考虑。
发明内容
为了克服现有的门控神经网络轴承剩余寿命预测方法的预测精度较低、无法处理预测不确定性的不足,本发明提供一种基于门控神经网络框架的轴承剩余寿命预测方法。
为了解决上述技术问题提供的技术方案为:
一种基于门控神经网络框架的轴承剩余寿命预测方法,所述方法包括以下步骤:
S1、获得轴承的全寿命周期振动信号,提取振动分布特征并创建门控神经网络训练集合;
S2、构建门控神经网络模型,引入直接计算权重的注意力机制,以提高提取时序信息的完整性;
S3、添加贝叶斯层,构建时序信息与剩余寿命之间的非线性映射关系,将传统点预测结果转化为区间预测结果,以考虑轴承剩余寿命预测的不确定性;
S4、将测试轴承的振动信号作为输入,门控神经网络模型的输出结果即为当前时刻测试轴承的剩余寿命。
本发明的基于门控神经网络框架的轴承剩余寿命预测方法,与现有技术相比,具有以下优点:
通过本发明的基于门控神经网络框架的轴承剩余寿命预测方法来进行轴承剩余寿命预测,为了提高门控神经网络提取输入特征时序有效信息的能力,提出一种直接计算注意力权重的方法,该方法无需添加额外的神经网络层数,避免了增加模型复杂度问题,通过将不同时刻提取的时序信息通过加权融合,以提高提取信息的完整性。同时,通过添加贝叶斯层,将传统点预测结果转化为区间预测,以考虑轴承剩余寿命预测的不确定性。
进一步地,在步骤S1中,具体包括以下步骤:S101、从轴承全寿命周期振动信号中提取与振动分布相关的特征;S102、对提取的描述分布的特征进行归一化;S103、采用时间窗构建时序输入数据并创建训练集合。
进一步地,在步骤S103中,利用时间窗构建时间序列,以符合门控神经网络的输入要求。采用时间窗对归一化后的特征进行处理,时间窗定义为:
TWt={Ct-L+1,Ct-L+1,…,Ct} (1)
其中L为时间窗的长度,C为归一化后的特征组成的集合。
时间窗每次向后推移一个时刻,最终创建的训练集合为{TWt,Rt},其中Rt为对应的剩余寿命。
进一步地,在步骤S2中,具体包括以下步骤:S201、用堆叠的门控神经网络提取输入特征中的时序特征;S202、引入直接计算权重的注意力机制,对每个时刻门控神经网络提取的时序特征赋予不同的权重,并加权得到最终的时序特征。
进一步地,在步骤S202中,引入直接计算权重的注意力机制,对每个时刻提取的时序特征赋予一定的权重,并通过加权融合以提高信息的完整性。权重通过动态时间规划(DTW)算法直接计算得到。
设两个矩阵分别为P=[p1,p2,…,pn]和Q=[q1,q2,…,qm],其中n和m分别为矩阵的长度。构建一个大小为n×m的矩阵MTa,b以衡量Pa和Qb之间的距离:
MTa,b=(Pa-Qb)2 (2)
则通过动态规划后的最小路径可以定义为:
Ea,b=(Pa-Qb)2+min{Ea,b-1,Ea-1,b,Ea-1,b-1} (3)
E1,1=(P1-Q1)2 (4)
最后的通过加权得到最终提取的时序信息:
进一步地,在步骤S3中,具体包括以下步骤:S301、添加贝叶斯层,构建时序信息与剩余寿命之间的非线性映射关系,并将传统点预测结果转化为区间预测结果。
贝叶斯层可以认为是一个简单的前馈神经网络:
贝叶斯层通过将前馈神经网络权重由一个固定参数转换为服从某一分布的参数,以处理不确定性。根据贝叶斯理论,需要计算的权重ω服从的后验概率为:
其中X为前馈神经网络的输入,Y为前馈神经网络的输出。
由于p(ω|X,Y)无法直接计算,因此通过一个简单的分布g(ω)对其进行近似。用Kullback-Leibler散度衡量两个分布之间的相似度。则直接计算p(ω|X,Y)的问题转换为优化参数φ使得Kullback-Leibler散度最小的优化问题,即贝叶斯层的损失函数为:
F=KL(q(ω)||p(ω))-Eq(ω)[logp(Y,X|ω)] (8)
进一步地,在步骤S4中,具体包括以下步骤:S401、对于测试样本,从测试样本振动信号中提取振动分布特征;S402、将提取测试样本的特征输入到训练好的神经网络中,则输出结果即为当前时刻测试样本的剩余寿命。
附图说明
图1为基于门控神经网络框架的轴承剩余寿命预测方法的流程图。
图2为轴承振动信号在不同退化时期分布图。
图3为基于门控神经网络框架的轴承剩余寿命预测方法的测试结果。
具体实施方式
本实施例利用PRONOSTIA平台轴承全周期寿命数据对基于门控神经网络框架的轴承剩余寿命预测方法。具体过程如下:
(1)获得轴承全寿命周期振动信号。通过加速度传感器采集水平方向和垂直方向的振动信号,信号每10s采集一次,每一次采集时长为0.1s。数据采样频率为25.6kHz;
(2)轴承在退化过程中,可以大致分为正常工作时期、退化初期、退化中期和退化末期四个时期。且轴承在退化过程中,不同退化阶段振动信号的分布有着明显的差别,如图2所示。因此可以通过提取与轴承振动信号分布相关的特征可以描述轴承的退化。在时刻t的振动信号定义为其中l为采样的时间长度,则所提取描述振动信号分布的特征为:
(3)图3为寿命预测的结果。利用时间窗构建时间序列,以符合门控神经网络的输入要求;采用时间窗对归一化后的特征进行处理,时间窗定义为:
TWt={Ct-L+1,Ct-L+1,…,Ct} (1)
其中L为时间窗的长度,C为归一化后的特征组成的集合;
时间窗每次向后推移一个时刻,最终创建的训练集合为{fWt,Rt},其中Rt为对应的剩余寿命。
引入直接计算权重的注意力机制,对每个时刻提取的时序特征赋予一定的权重,并通过加权融合以提高信息的完整性;权重通过动态时间规划(DTW)算法直接计算得到。
最后的通过加权得到最终提取的时序信息:
寿命预测结果中包含点预测和区间预测的结果。点预测的结果和真实的剩余寿命相差不大,说明引入的注意力机制可以有效的提高预测精度。通过贝叶斯层的添加,将传统的点预测结果转化为区间预测结果,以处理由于由传感器噪声、运行工况变化以及未知失效模式所带来的不确定性。经统计,有84.3%的真实剩余寿命在预测的95%置信区间之内,说明该方法在区间预测方面有较好的效果。
Claims (10)
1.一种基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,包括如下步骤:
S1、获得轴承的全寿命周期振动信号,提取振动分布特征并创建门控神经网络训练集合;
S2、构建门控神经网络模型,引入直接计算权重的注意力机制,以提高提取时序信息的完整性;
S3、添加贝叶斯层,构建时序信息与剩余寿命之间的非线性映射关系;
S4、将测试轴承的振动信号作为输入,门控神经网络模型的输出结果即为当前时刻测试轴承的剩余寿命。
2.根据权利要求1所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S1中,具体包括以下步骤:
S101、从轴承全寿命周期振动信号中提取与振动分布相关的特征;
S102、对提取的描述振动分布的特征进行归一化;
S103、采用时间窗构建时序输入数据并创建训练集合。
4.根据权利要求2所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S103中,利用时间窗构建时间序列,以符合门控神经网络的输入要求;采用时间窗对归一化后的特征进行处理,时间窗定义为:
TWt={Ct-L+1,Ct-L+1,…,Ct} (1)
其中L为时间窗的长度,C为归一化后的特征组成的集合;
时间窗每次向后推移一个时刻,最终创建的训练集合为{TWt,Rt},其中Rt为对应的剩余寿命。
5.根据权利要求1所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S2中,具体包括以下步骤:
S201、用堆叠的门控神经网络提取输入特征中的时序特征;
S202、引入直接计算权重的注意力机制,对每个时刻门控神经网络提取的时序特征赋予不同的权重,并加权得到最终的时序特征。
7.根据权利要求5所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S202中,引入直接计算权重的注意力机制,对每个时刻提取的时序特征赋予一定的权重,并通过加权融合以提高信息的完整性;权重通过动态时间规划(DTW)算法直接计算得到;
设两个矩阵分别为P=[p1,p2,…,pn]和Q=[q1,q2,…,qm],其中n和m分别为矩阵的长度;构建一个大小为n×m的矩阵MTa,b以衡量Pa和Qb之间的距离:
MTa,b=(Pa-Qb)2 (2)
则通过动态规划后的最小路径定义为:
Ea,b=(Pa-Qb)2+min{Ea,b-1,Ea-1,b,Ea-1,b-1} (3)
E1,1=(P1-Q1)2 (4)
最后的通过加权得到最终提取的时序信息:
8.根据权利要求1所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S3中,具体包括以下步骤:
S301、添加贝叶斯层,构建时序信息与剩余寿命之间的非线性映射关系,并将传统点预测结果转化为区间预测结果。
10.根据权利要求1所述的基于门控神经网络框架的轴承剩余寿命预测方法,其特征在于,在步骤S4中,具体包括以下步骤:
S401、对于测试样本,从测试样本振动信号中提取振动分布特征;
S402、将提取测试样本的特征输入到训练好的神经网络中,则输出结果即为当前时刻测试样本的剩余寿命。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110152592.9A CN112818870A (zh) | 2021-02-03 | 2021-02-03 | 一种基于门控神经网络框架的轴承剩余寿命预测方法 |
US17/591,170 US20220253697A1 (en) | 2021-02-03 | 2022-02-02 | Method for predicting remaining useful life of bearings based on a gated recurrent neural network |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110152592.9A CN112818870A (zh) | 2021-02-03 | 2021-02-03 | 一种基于门控神经网络框架的轴承剩余寿命预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112818870A true CN112818870A (zh) | 2021-05-18 |
Family
ID=75861261
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110152592.9A Pending CN112818870A (zh) | 2021-02-03 | 2021-02-03 | 一种基于门控神经网络框架的轴承剩余寿命预测方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20220253697A1 (zh) |
CN (1) | CN112818870A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115115037B (zh) * | 2022-08-30 | 2022-11-11 | 无锡沃尔德轴承有限公司 | 轴承故障概率分析装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111581892A (zh) * | 2020-05-29 | 2020-08-25 | 重庆大学 | 基于gdau神经网络的轴承剩余寿命的预测方法 |
CN111595583A (zh) * | 2020-05-29 | 2020-08-28 | 重庆大学 | 基于gau神经网络的轴承剩余寿命的预测方法 |
WO2020191800A1 (zh) * | 2019-03-27 | 2020-10-01 | 东北大学 | 基于wde优化lstm网络的锂离子电池剩余寿命预测方法 |
CN111931625A (zh) * | 2020-08-03 | 2020-11-13 | 浙江大学 | 基于非对称损失神经网络的产品关键零件剩余寿命预测方法 |
CN112115004A (zh) * | 2020-07-29 | 2020-12-22 | 西安交通大学 | 一种基于反向传播贝叶斯深度学习的硬盘寿命预测方法 |
CN112129534A (zh) * | 2020-09-17 | 2020-12-25 | 上海交通大学 | 一种机床主轴轴承寿命预测方法及系统 |
-
2021
- 2021-02-03 CN CN202110152592.9A patent/CN112818870A/zh active Pending
-
2022
- 2022-02-02 US US17/591,170 patent/US20220253697A1/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020191800A1 (zh) * | 2019-03-27 | 2020-10-01 | 东北大学 | 基于wde优化lstm网络的锂离子电池剩余寿命预测方法 |
CN111581892A (zh) * | 2020-05-29 | 2020-08-25 | 重庆大学 | 基于gdau神经网络的轴承剩余寿命的预测方法 |
CN111595583A (zh) * | 2020-05-29 | 2020-08-28 | 重庆大学 | 基于gau神经网络的轴承剩余寿命的预测方法 |
CN112115004A (zh) * | 2020-07-29 | 2020-12-22 | 西安交通大学 | 一种基于反向传播贝叶斯深度学习的硬盘寿命预测方法 |
CN111931625A (zh) * | 2020-08-03 | 2020-11-13 | 浙江大学 | 基于非对称损失神经网络的产品关键零件剩余寿命预测方法 |
CN112129534A (zh) * | 2020-09-17 | 2020-12-25 | 上海交通大学 | 一种机床主轴轴承寿命预测方法及系统 |
Non-Patent Citations (1)
Title |
---|
ZIJUN QUE 等: "Remaining Useful Life Prediction for Bearings Based on a Gated Recurrent Unit", IEEE, pages 1 - 11 * |
Also Published As
Publication number | Publication date |
---|---|
US20220253697A1 (en) | 2022-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109165664B (zh) | 一种基于生成对抗网络的属性缺失数据集补全与预测方法 | |
Shen et al. | Wind speed prediction of unmanned sailboat based on CNN and LSTM hybrid neural network | |
CN111209620B (zh) | 含裂纹结构剩余承载力及裂纹扩展路径的预测方法 | |
CN111289250A (zh) | 一种伺服电机滚动轴承剩余使用寿命预测方法 | |
CN108470095B (zh) | 基于数据驱动径向基函数模型的tbm推进力预测方法 | |
CN113051689B (zh) | 基于卷积门控循环网络的轴承剩余使用寿命预测方法 | |
CN114239718B (zh) | 基于多元时序数据分析的高精度长期时间序列预测方法 | |
Pan et al. | A meta network pruning framework for remaining useful life prediction of rocket engine bearings with temporal distribution discrepancy | |
CN113096722A (zh) | 基于内积自注意力神经网络的蛋白质磷酸化位点预测方法 | |
CN114036978A (zh) | 一种基于Transformer和数据增强的轴承故障诊断方法及系统 | |
CN112818870A (zh) | 一种基于门控神经网络框架的轴承剩余寿命预测方法 | |
Ren et al. | DLformer: A dynamic length transformer-based network for efficient feature representation in remaining useful life prediction | |
CN115841004A (zh) | 基于多维数据的带钢热轧过程力学性能软测量方法及装置 | |
Müller et al. | Prediction of the local buckling strength and load‐displacement behaviour of SHS and RHS members using Deep Neural Networks (DNN)–Introduction to the Deep Neural Network Direct Stiffness Method (DNN‐DSM) | |
CN117407770A (zh) | 基于神经网络的高压开关柜故障模式分类及预测方法 | |
CN117388709A (zh) | 一种基于鲸鱼优化核极限学习机的储能电池故障诊断方法 | |
CN116881685A (zh) | 一种混合注意力机制下改进tcn的轴承寿命预测方法 | |
CN113240098B (zh) | 基于混合门控神经网络的故障预测方法、装置和存储介质 | |
CN115392295A (zh) | 一种基于增量学习框架的轴承故障预测方法 | |
Ji et al. | Multi-indicators prediction in microservice using Granger causality test and Attention LSTM | |
CN112685900B (zh) | 一种表征冲击负荷功率特性的电力负荷模拟方法 | |
CN114925476A (zh) | 一种滚动轴承退化轨迹增广四元数预测方法及存储介质 | |
CN115753102A (zh) | 一种基于多尺度残差子域适应的轴承故障诊断方法 | |
He et al. | Remaining Useful Life Prediction and Uncertainty Quantification for Bearings Based on Cascaded Multi-scale Convolutional Neural Network | |
Zheng et al. | A Remaining Useful Life Prediction Method of Rolling Bearings Based on Deep Reinforcement Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |