CN112560327B - 一种基于深度梯度下降森林的轴承剩余寿命预测方法 - Google Patents
一种基于深度梯度下降森林的轴承剩余寿命预测方法 Download PDFInfo
- Publication number
- CN112560327B CN112560327B CN202011273446.3A CN202011273446A CN112560327B CN 112560327 B CN112560327 B CN 112560327B CN 202011273446 A CN202011273446 A CN 202011273446A CN 112560327 B CN112560327 B CN 112560327B
- Authority
- CN
- China
- Prior art keywords
- forest
- gradient descent
- residual life
- bearing
- mechanical bearing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 39
- 238000012549 training Methods 0.000 claims abstract description 29
- 230000015556 catabolic process Effects 0.000 claims abstract description 12
- 238000006731 degradation reaction Methods 0.000 claims abstract description 12
- 238000012360 testing method Methods 0.000 claims description 14
- 238000003745 diagnosis Methods 0.000 claims description 11
- 238000007637 random forest analysis Methods 0.000 claims description 11
- 230000006403 short-term memory Effects 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000000694 effects Effects 0.000 claims description 7
- 238000011176 pooling Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 6
- GNFTZDOKVXKIBK-UHFFFAOYSA-N 3-(2-methoxyethoxy)benzohydrazide Chemical compound COCCOC1=CC=CC(C(=O)NN)=C1 GNFTZDOKVXKIBK-UHFFFAOYSA-N 0.000 claims description 4
- FGUUSXIOTUKUDN-IBGZPJMESA-N C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 Chemical compound C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 FGUUSXIOTUKUDN-IBGZPJMESA-N 0.000 claims description 4
- 238000011156 evaluation Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- YTAHJIFKAKIKAV-XNMGPUDCSA-N [(1R)-3-morpholin-4-yl-1-phenylpropyl] N-[(3S)-2-oxo-5-phenyl-1,3-dihydro-1,4-benzodiazepin-3-yl]carbamate Chemical compound O=C1[C@H](N=C(C2=C(N1)C=CC=C2)C1=CC=CC=C1)NC(O[C@H](CCN1CCOCC1)C1=CC=CC=C1)=O YTAHJIFKAKIKAV-XNMGPUDCSA-N 0.000 claims description 2
- 239000002245 particle Substances 0.000 claims description 2
- 230000015654 memory Effects 0.000 abstract description 5
- 230000036541 health Effects 0.000 description 10
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000009439 industrial construction Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/04—Bearings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/14—Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
- G06F17/141—Discrete Fourier transforms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Artificial Intelligence (AREA)
- Computer Hardware Design (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Medical Informatics (AREA)
- Algebra (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Discrete Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，该方法将梯度下降算法集成至经典深度森林模型中，利用梯度下降算法具有降低模型损失、训练速度快和提高算法收敛速度等优点，提高了深度梯度下降森林模型的收敛速度并具有小样本预测性能；考虑到不同退化状态机械轴承的时间依赖性,采用长短时记忆网络(LSTM)作为前端提取轴承信号特征，挖掘轴承数据的时序性，深度梯度下降森林算法作为后端进行轴承剩余寿命预测，此方法降低了机械轴承剩余寿命预测的误差与预测花销，最大化利用轴承时序信息，其基于树的模型空间复杂度低，可解释性强、鲁棒性好，可以自动学习特征以及小样本预测，所需超参数少，便于操作人员理解与推广。
Description
技术领域
本发明属于机械轴承故障诊断与健康管理(Prognostics Health Management,PHM)人工智能技术领域，尤其涉及一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法。
背景技术
机械轴承是机械设备传动系统中的关键部件，轴承的运行状态正常与否对于保障机械设备安全运行发挥着重要的作用，据相关文献统计，约有30％-40％旋转机械总故障是由轴承故障引起，在感应电机故障中约40％电机故障由轴承故障引发，在齿轮箱这类齿轮故障频发的设备中也约有20％齿轮箱故障由轴承故障产生。然而在实际生产运作中常常会出现一部分超过使用寿命的轴承仍在机械设备中运转，如若不及时更换将引发大面积机械故障。如果能准确识别超过使用寿命的轴承，进行轴承更换，能有效节省维修资金最大力度的保障机械设备的正常运行，为企业的生产运营保驾护航，因此机械轴承剩余寿命预测研究对我国现阶段工业化建设起到重要作用。
随着机械大数据，人工智能，物联网的大规模兴起，机械轴承故障诊断与健康管理(Prognostics Health Management,PHM)进入了飞速的智能化发展时期。机械轴承故障诊断与健康管理(Prognostics Health Management,PHM)是一个集机械、电气、计算机、人工智能等多学科交叉技术。其进行机械轴承故障诊断与健康管理最主要的目的是利用诊断、剩余寿命预测结果指导机械轴承的维修与更换，保证大型机械正常运行，减少或消除机械故障或事故的发生，提高机械设备的利用率，为企业提供更高效的服务。
机械轴承剩余寿命预测是根据轴承当前的健康状态以及合适的状态退化模型，预测轴承的剩余使用寿命。现阶段常用的机械轴承剩余寿命预测主要是基于模型的预测方法、数据驱动的预测方法以及混合预测方法。基于模型的预测方法在实际应用中很难建立精准的数学模型，适用范围较窄而数据驱动的预测方法需要大量的数据去训练，混合预测方法的难度最高，工作量最大。深度梯度下降森林属于数据驱动方法类，具备深度学习模型高精准度的优点而且计算和优化开销成本低、泛化能力强、具有较少的超参数，不需要大量数据集就能达到极佳的诊断与剩余寿命预测效果。进而，深度梯度下降森林的出现为机械轴承故障诊断与健康管理(Prognostics Health Management,PHM)提供了新的方法途径。
深度梯度下降森林(Deep SGD-Forest)是一种有监督的机器学习集成算法，它基于深度森林模型改进而来，借鉴了深度神经网络(Deep Neural Networks,DNN)中Layer-by-Layer结构，用前一层输入的样本数据和输出结果数据做拼接以此作为下一层的输入数据。其模型是一种基于级联森林结构与长短时记忆网络(Long Short-Term Memory,LSTM)结构的深度学习模型。它模型简单，可解释性强，计算开销小，没有正向和反向传播过程，复杂度可以自适应伸缩，具有较强的鲁棒性能和比深度神经网络所需更少的超参数。由于深度梯度下降森林具有高精确度、计算和优化开销成本低、具有较少的超参数，不需要大量数据集就能达到极佳的分类效果，可以适用于不同的工程实际应用，如金融领域中的股票预测、商业领域中的保险购买预测、医学领域中的癌症分类研究、交通运输领域汽车牌照识别、军事领域中的军事目标识别等。
深度梯度下降森林模型的工作原理是：
深度梯度下降森林模型集成了梯度下降算法和深度森林模型且其级联森林的每一层都由5个完全随机森林和5个梯度下降算法组成。采用长短时记忆网络(Long Short-Term Memory,LSTM)提取时序特征的方式，不同时序信号为初始样本，使用长短时记忆网络(Long Short-Term Memory，LSTM)进行采样得到时序特征子样本向量，通过一系列特征转换之后产生一些时序表征向量，最后将这些产生的时序表征向量拼接在一起，得到最终的样本输出送入级联森林进行运算。当级联森林结构扩展到新的层后，之前所有级联结构的效果将通过验证集去评估运算，当评估结果无法得到进一步提升时则会自动结束训练过程，所以级联森林结构的层数个数及复杂度由训练过程自动确定，省去了大量调参的开销，提高了级联森林结构的收敛速度，使其保持在稳定收敛状态。同时深度梯度森林也完美地继承了经典深度森林模型诊断精准度高，模型空间复杂度低，自动学习特征，小样本训练、鲁棒性、可解释性好以及计算和优化开销小的优点。
梯度下降算法是一种广泛用于求解线性和非线性模型最优的迭代算法，它的中心思想是在梯度的负值所定义的最陡下降方向上不断的迭代从而达到最小化某些函数的作用。其算法相较其他主流算法而言具有计算速度快，在处理大规模训练数据的问题上具有明显效果，且该算法利用随机梯度进行迭代更新导致每一次迭代的代价很小，因此，不受训练集规模的影响，少量数据也能具有较高的诊断率。
梯度下降算法的工作原理是：
(αn表示第n次迭代学习率,α表示首次学习率，μ表示衰减率，λn表示第n次迭代学习步数，λ表示总学习步数)通过迭代次数的递增计算函数的梯度，判断该点的某一方向和目标之间的距离，最终求得最小的损失函数和相关参数。
长短时记忆网络是一种循环神经网络(Recurrent Neural Network,RNN)特殊的类型，解决了循环神经网络无法处理长距离的依赖问题，可以学习长期依赖信息，能够挖掘运行数据时间前后的联系。因此利用长短时记忆网络提取轴承信号特征能够最大程度的挖掘机械轴承时序信息与轴承不同退化状态的时间特性。
长短时记忆网络(Long Short-Term Memory,LSTM)的工作原理是：
在原始循环网络的隐藏层中增加一个细胞状态使其可以保存长期的状态，通过门开关进行控制模型如：输入门：it＝σ(Wi[ht-1,xt]+bi)、遗忘门：ft＝σ(Wf[ht-1,xt]+bf)、输出门：Ot＝σ(Wo[ht-1,xt]+bo)，控制记忆单元的信息输入和输出。Ct'＝tanh(Wc[ht-1,xt]+bc)，/>(Ct为细胞状态，ht为输出值，W为权重值，b为偏置，/>为追点相乘)。
发明内容
发明目的：本发明提出一种基于深度梯度下降森林模型的剩余寿命预测方法，主要适用于解决现有的机械轴承剩余寿命预测方法存在忽略时序信息特征、预测误差大、预测结果不确定性、无法小样本预测和经典深度森林模型级联结构收敛速度待提高容易等问题。相比于现有的人工智能型机械轴承剩余寿命预测方法，其特殊性和创新性在于，该方法可以小样本预测，考虑到不同退化状态机械轴承的时间依赖性，采用长短时记忆网络(LongShort-Term Memory,LSTM)作为前端提取轴承信号特征，挖掘轴承数据的时序性，深度梯度下降森林算法作为后端进行轴承剩余寿命预测，降低了机械轴承剩余寿命预测的误差与预测花销，最大化利用轴承时序信息，其基于树的模型空间复杂度低，鲁棒性好，解决了预测模型剩余寿命预测结果的不确定性，未考虑轴承不同退化状态的时间特性，预测模型不可解释性与无法小样本预测等弊端。
技术方案：一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，该方法将梯度下降算法集成至经典深度森林模型中，利用梯度下降算法具有降低模型损失、训练速度快和提高算法收敛速度等优点，提高了深度梯度下降森林模型的收敛速度并具有小样本预测性能；考虑到不同退化状态机械轴承的时间依赖性,采用长短时记忆网络(LongShort-Term Memory,LSTM)作为前端提取轴承信号特征，挖掘轴承数据的时序性，深度梯度下降森林算法作为后端进行轴承剩余寿命预测，此方法降低了机械轴承剩余寿命预测的误差与预测花销，最大化利用轴承时序信息，其基于树的模型空间复杂度低，可解释性强、鲁棒性好，可以自动学习特征以及小样本预测，所需超参数少，便于操作人员理解与推广，具体包括以下步骤：
步骤a.针对机械轴承原始时域信号进行预处理，根据公式对训练集，测试集进行快速傅里叶变换，其中，IFt:当前时刻t的迭代特征，l:一维时间序列的长度，i:次数，FFT：快速傅里叶变换；
步骤b.利用长短时记忆网络(LSTM)根据公式提取机械轴承时序特征，其中，pooling:池化操作，/>第l层第j个特征的权值，/>第l层第j个特征的偏置，/>输出特征维度；
步骤c.构建深度梯度下降森林预测模型，将提取的时序特征作为级联森林结构的输入；
步骤d.使用训练集训练子树；
步骤e.计算子树的机械轴承剩余寿命预测误差，以及当前子树所占森林的权重，即权重＝子树颗数/森林中子树总数；
步骤f.输入测试集至当前子树，并计算当前森林在训练集和测试集上的机械轴承剩余寿命预测误差；
步骤g.分别计算当前一层级联结构在训练集和测试集上的机械轴承剩余寿命预测误差；
步骤h.模型自动评估是否需要进入下一层级联结构进行诊断，若需要返回步骤d直至停止训练，若不需要立即停止训练；
步骤i.在所有扩展层中找出测试集上机械轴承剩余寿命预测误差最小的一层，并输出该层的预测结果为最终机械轴承剩余寿命预测误差；
步骤j.构建机械轴承剩余寿命性能退化指标其中，ActRUL:真实寿命，RUL:实际预测寿命，利用最终预测结果与真实值对比，得到性能退化指标N，完成模型的训练，机械轴承剩余寿命RUL＝Lq-Ld,Lq：全寿命，Ld：当前寿命。
进一步地，步骤e具体为：每颗完全森林子树的每一个节点通过随机选取一个特征作为判别条件，并根据所选取的判别条件生成子节点，一直待到每个叶子节点只包含同一类的实例才停止运算。每棵梯度下降算法子树通过(αn表示第n次迭代学习率,α表示首次学习率，μ表示衰减率，λn表示第n次迭代学习步数，λ表示总学习步数)为判别条件进行计算。
进一步地，步骤f具体为：在深度梯度下降森林的级联结构中每一层含有5个完全随机森林和5个梯度下降森林，每个完全随机森林、梯度下降森林内含500颗树，每棵子树计算方法同上，每棵树通过投票的方式选出预测误差最小的子树作为每个完全随机森林和梯度下降森林的预测误差。
进一步地，步骤g具体为：每一层级联结构包含5个完全随机森林、5个梯度下降森林，并行计算每个森林的预测误差，每一层级联结构通过投票选取预测误差最低的森林代表本层计算误差。
进一步地，步骤h中当级联森林结构扩展到新的层后，之前所有级联结构的效果将通过验证集去评估运算，当评估结果无法得到进一步提升时则会自动结束训练过程。
有益效果：本发明提出一种基于深度梯度下降森林模型的轴承剩余寿命预测方法，该方法具有如下优点：
(1)利用经典深度森林模型具有强大的集成性能以及梯度下降算法具有降低模型损失，在经典深度森林模型的基础上集成梯度下降算法，从而提高了级联森林结构的收敛速度与稳定性；
(2)可以使用小样本进行预测，其预测剩余寿命误差小，计算、优化花销低；
(3)将长短时记忆网络(Long Short-Term Memory,LSTM)作为前端提取轴承信号特征，挖掘轴承数据的时序性，深度梯度下降森林算法作为后端进行轴承剩余寿命预测，降低了机械轴承剩余寿命预测的误差，最大化利用轴承时序信息；
(4)该发明方法可以自动学习特征具备智能性、鲁棒性好、模型简单可解释性强易于操作人员理解及推广使用。
附图说明
图1是模型算法应用对比图；
图2是基于深度梯度下降森林模型的轴承剩余寿命预测总体算法流程图；；
图3是深度森林与深度梯度下降森林级联结构对比图；
图4是深度森林模型多粒度扫描与深度梯度下降森林模型LSTM扫描结构对比图；
图5是机械轴承剩余寿命预测流程图；
图6是机械轴承剩余寿命预测时序特征提取图；
图7是深度梯度下降森林模型机械轴承剩余寿命预测原理图。
具体实施方式
下面结合附图对本发明作进一步说明：
本发明的目的主要是针对经典深度森林的级联结构收敛速度慢，机械轴承剩余寿命预测存在忽略时序信息特征、无法小样本预测、预测误差大、预测结果不确定性和计算优化开销大等问题，提出一种基于深度梯度下降森林模型的轴承剩余寿命预测方法。如图2给出了基于深度梯度下降森林模型的轴承剩余寿命预测总体算法流程展示，图7给出了深度梯度下降森林模型对于轴承剩余寿命预测的原理展示。在算法改进方面：利用梯度下降算法具有降低模型损失、训练速度快和提高算法收敛速度等优点将其集成于经典深度森林模型之中，提高模型的收敛速度并具有小样本预测的性能。如图1给出了深度梯度下降森林与深度森林在算法应用上的对比示例，图3给出了深度梯度下降森林相比深度森林在级联结构上做出的改进示例。
在轴承剩余寿命预测方面：利用长短时记忆网络(Long Short-Term Memory,LSTM)作为前端提取轴承信号特征，挖掘轴承数据的时序性，如图6给出了机械轴承剩余寿命预测时序特征提取具体实施方法。图4给出了深度森林模型中的多粒度扫描与深度梯度下降森林模型长短时记忆网络(Long Short-Term Memory,LSTM)扫描结构对比示例。深度梯度下降森林算法作为后端进行轴承剩余寿命预测，降低了机械轴承剩余寿命预测的误差，最大化利用轴承时序信息，解决了现阶段轴承剩余寿命预测方法存在忽略时序信息特征、不可小样本预测、预测误差大、预测结果不确定性等问题。
本发明的基于深度梯度下降森林模型的轴承剩余寿命预测方法，集成经典深度森林算法与梯度下降算法，预测轴承剩余寿命数据采用西安交通大学轴承寿命数据集，如图5给出了机械轴承剩余寿命预测的主要流程。主要包括以下内容：
(1)西安交通大学轴承寿命数据集采用由交流电动机、电动机转速控制器，转轴、支撑轴承、液压加载系统和测试轴承LDK UER204为实验器械，采集有采样频率为25.6KHZ，采样间隔为1min，每次采样时长为1.28s的三种工况轴承寿命数据集，分别为工况1：转速2100(r/min)，径向力12(KN)，工况2：转速2250(r/min),径向力11(KN)，工况3：转速2400(r/min),径向力10(KN)。
(2)对轴承原始时域信号进行预处理并划分训练集和测试集，根据(IFt:当前时刻t的迭代特征，l:一维时间序列的长度，FFT：快速傅里叶变换i:次数)公式对训练集，测试集进行快速傅里叶变换，然后对数据集进行归一化处理。
(3)利用长短时记忆网络(Long Short-Term Memory,LSTM)根据(pooling:池化操作，/>第l层第j个特征的权值，/>第l层第j个特征的偏置，/>输出特征维度)公式提取机械轴承时序特征。构建深度梯度下降森林预测模型，将提取的时序特征作为级联森林结构的输入。
(4)搭建深度梯度下降森林模型，在级联森林结构中每层设置5个梯度下降算法森林与5个完全随机森林，其中每个梯度下降算法森林内含500颗梯度下降算法子树每颗子树根据(αn表示第n次迭代学习率,α表示首次学习率，μ表示衰减率，λn表示第n次迭代学习步数，λ表示总学习步数)为判别条件计算预测误差，每颗子树通过投票的方式选取最小预测误差作为每个梯度下降森林的预测误差，完全随机森林内存在500颗决策树，每一个节点通过随机选取一个特征作为判别条件，并根据所选取的判别条件生成子节点，一直等到每个叶子节点只包含同一类的实例才停止运算，在所有扩展层中找出测试集上机械轴承剩余寿命预测误差最小的一层，并输出该层的预测结果为最终机械轴承剩余寿命预测误差。
(5)构建机械轴承剩余寿命性能退化指标(ActRUL:真实寿命，RUL:实际预测寿命)，利用最终预测结果与真实值对比，得到性能退化指标N，完成模型的训练。机械轴承剩余寿命RUL＝Lq-Ld,Lq：全寿命，Ld：当前寿命
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (5)
1.一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，其特征在于，该方法包括以下步骤：
步骤a.针对机械轴承原始时域信号进行预处理，根据公式对训练集，测试集进行快速傅里叶变换，其中，IFt:当前时刻t的迭代特征，l:一维时间序列的长度，i:次数，FFT：快速傅里叶变换；
步骤b.利用长短时记忆网络(LSTM)根据公式提取机械轴承时序特征，其中，pooling:池化操作，/>第l层第j个特征的权值，/>第l层第j个特征的偏置，/>输出特征维度；
步骤c.构建深度梯度下降森林预测模型，该模型将梯度下降算法集成至经典深度森林模型中，将提取的时序特征作为级联森林结构的输入；
步骤d.使用训练集训练子树；
步骤e.计算子树的机械轴承剩余寿命预测误差，以及当前子树所占森林的权重，即权重＝子树颗数/森林中子树总数；
步骤f.输入测试集至当前子树，并计算当前森林在训练集和测试集上的机械轴承剩余寿命预测误差；
步骤g.分别计算当前一层级联结构在训练集和测试集上的机械轴承剩余寿命预测误差；
步骤h.模型自动评估是否需要进入下一层级联结构进行诊断，若需要返回步骤d直至停止训练，若不需要立即停止训练；
步骤i.在所有扩展层中找出测试集上机械轴承剩余寿命预测误差最小的一层，并输出该层的预测结果为最终机械轴承剩余寿命预测误差；
步骤j.构建机械轴承剩余寿命性能退化指标其中，ActRUL:真实寿命，RUL:实际预测寿命，利用最终预测结果与真实值对比，得到性能退化指标N，完成模型的训练，机械轴承剩余寿命RUL＝Lq-Ld,Lq：全寿命，Ld：当前寿命。
2.根据权利要求1所述的一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，其特征在于，步骤e具体为：每颗完全森林子树的每一个节点通过随机选取一个特征作为判别条件，并根据所选取的判别条件生成子节点，一直待到每个叶子节点只包含同一类的实例才停止运算；每棵梯度下降算法子树通过为判别条件进行计算；其中αn表示第n次迭代学习率,α表示首次学习率，μ表示衰减率，λn表示第n次迭代学习步数，λ表示总学习步数。
3.根据权利要求1所述的一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，其特征在于，步骤f具体为：在深度梯度下降森林的级联结构中每一层含有5个完全随机森林和5个梯度下降森林，每个完全随机森林、梯度下降森林内含500颗树，每棵梯度下降算法子树通过为判别条件进行计算；其中αn表示第n次迭代学习率,α表示首次学习率，μ表示衰减率，λn表示第n次迭代学习步数，λ表示总学习步数，每棵树通过投票的方式选出预测误差最小的子树作为每个完全随机森林和梯度下降森林的预测误差。
4.根据权利要求1所述的一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，其特征在于，步骤g具体为：每一层级联结构包含5个完全随机森林、5个梯度下降森林，并行计算每个森林的预测误差，每一层级联结构通过投票选取预测误差最低的森林代表本层计算误差。
5.根据权利要求1所述的一种基于深度梯度下降森林模型的机械轴承剩余寿命预测方法，其特征在于，步骤h中当级联森林结构扩展到新的层后，之前所有级联结构的效果将通过验证集去评估运算，当评估结果无法得到进一步提升时则会自动结束训练过程。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011273446.3A CN112560327B (zh) | 2020-11-13 | 2020-11-13 | 一种基于深度梯度下降森林的轴承剩余寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011273446.3A CN112560327B (zh) | 2020-11-13 | 2020-11-13 | 一种基于深度梯度下降森林的轴承剩余寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112560327A CN112560327A (zh) | 2021-03-26 |
| CN112560327B true CN112560327B (zh) | 2024-03-12 |
Family
ID=75042323
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011273446.3A Active CN112560327B (zh) | 2020-11-13 | 2020-11-13 | 一种基于深度梯度下降森林的轴承剩余寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112560327B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113327598B (zh) * | 2021-06-30 | 2023-11-14 | 北京有竹居网络技术有限公司 | 模型的训练方法、语音识别方法、装置、介质及设备 |
| CN114997549B (zh) * | 2022-08-08 | 2022-10-28 | 阿里巴巴（中国）有限公司 | 黑盒模型的解释方法、装置及设备 |
| CN117009861B (zh) * | 2023-10-08 | 2023-12-15 | 湖南国重智联工程机械研究院有限公司 | 一种基于深度学习的液压泵马达寿命预测方法和系统 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108681747A (zh) * | 2018-05-11 | 2018-10-19 | 武汉理工大学 | 基于深度学习的旋转机械故障诊断与状态监测系统及方法 |
| CN109187025A (zh) * | 2018-09-19 | 2019-01-11 | 哈尔滨理工大学 | 一种集成kelm的滚动轴承剩余使用寿命预测方法 |
| CN109543203A (zh) * | 2017-09-22 | 2019-03-29 | 山东建筑大学 | 一种基于随机森林的建筑冷热负荷预测方法 |
| CN111680446A (zh) * | 2020-01-11 | 2020-09-18 | 哈尔滨理工大学 | 一种基于改进多粒度级联森林的滚动轴承剩余寿命预测方法 |
| AU2020101854A4 (en) * | 2020-08-17 | 2020-09-24 | China Communications Construction Co., Ltd. | A method for predicting concrete durability based on data mining and artificial intelligence algorithm |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108388860B (zh) * | 2018-02-12 | 2020-04-28 | 大连理工大学 | 一种基于功率熵谱-随机森林的航空发动机滚动轴承故障诊断方法 |
| US11348813B2 (en) * | 2019-01-31 | 2022-05-31 | Applied Materials, Inc. | Correcting component failures in ion implant semiconductor manufacturing tool |
-
2020
- 2020-11-13 CN CN202011273446.3A patent/CN112560327B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109543203A (zh) * | 2017-09-22 | 2019-03-29 | 山东建筑大学 | 一种基于随机森林的建筑冷热负荷预测方法 |
| CN108681747A (zh) * | 2018-05-11 | 2018-10-19 | 武汉理工大学 | 基于深度学习的旋转机械故障诊断与状态监测系统及方法 |
| CN109187025A (zh) * | 2018-09-19 | 2019-01-11 | 哈尔滨理工大学 | 一种集成kelm的滚动轴承剩余使用寿命预测方法 |
| CN111680446A (zh) * | 2020-01-11 | 2020-09-18 | 哈尔滨理工大学 | 一种基于改进多粒度级联森林的滚动轴承剩余寿命预测方法 |
| AU2020101854A4 (en) * | 2020-08-17 | 2020-09-24 | China Communications Construction Co., Ltd. | A method for predicting concrete durability based on data mining and artificial intelligence algorithm |
Non-Patent Citations (3)
| Title |
|---|
| FS-CRF:基于特征切分与级联随机森林的异常点检测模型;刘振鹏;苏楠;秦益文;卢家欢;李小菲;;计算机科学;20200702(第08期);全文 * |
| 基于改进深度森林的滚动轴承剩余寿命预测方法;王玉静;王诗达;康守强;王庆岩;V.I.MIKULOVICH;;中国电机工程学报;20200401(第15期);全文 * |
| 改进的基于K均值聚类的SVDD学习算法;花小朋;李先锋;皋军;田明;;计算机工程;20090905(第17期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112560327A (zh) | 2021-03-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112560327B (zh) | 一种基于深度梯度下降森林的轴承剩余寿命预测方法 | |
| US20220076150A1 (en) | Method, apparatus and system for estimating causality among observed variables | |
| CN109062763B (zh) | 一种从svn日志事件流中动态实时挖掘软件过程活动的方法 | |
| CN110210169B (zh) | 一种基于lstm的盾构机故障预测方法 | |
| Xiao et al. | Prediction of shield machine posture using the GRU algorithm with adaptive boosting: A case study of Chengdu Subway project | |
| CN112132102B (zh) | 一种深度神经网络结合人工蜂群优化的智能故障诊断方法 | |
| Zhu et al. | Performance Evaluation Indicator (PEI): A new paradigm to evaluate the competence of machine learning classifiers in predicting rockmass conditions | |
| CN111275108A (zh) | 基于生成对抗网络对局部放电数据进行样本扩展的方法 | |
| CN110580213A (zh) | 一种基于循环标记时间点过程的数据库异常检测方法 | |
| CN115130375A (zh) | 一种岩爆烈度预测方法 | |
| CN112879024A (zh) | 一种盾构姿态动态预测方法、系统及设备 | |
| CN113609770A (zh) | 基于分段线性拟合hi及lstm的滚动轴承rul预测方法 | |
| CN113431635A (zh) | 半监督的盾构隧道掌子面地质类型预估方法及系统 | |
| CN115147645A (zh) | 基于多特征信息融合的膜组件膜污染检测方法 | |
| Kim et al. | EnvBERT: multi-label text classification for imbalanced, noisy environmental news data | |
| Cheng et al. | Hinnperf: Hierarchical interaction neural network for performance prediction of configurable systems | |
| CN117521063A (zh) | 基于残差神经网络并结合迁移学习的恶意软件检测方法及装置 | |
| CN117477544A (zh) | 融合时间模式特征的lstm超短期光伏功率预测方法及系统 | |
| CN116933860A (zh) | 暂态稳定评估模型更新方法、装置、电子设备及存储介质 | |
| CN117078035A (zh) | 基于lstm的电力系统暂态稳定性评估方法、系统及存储介质 | |
| CN115859826A (zh) | 一种基于集成学习的盾构设备故障融合预测方法 | |
| Gu et al. | A High-Robust Displacement Prediction Model for Super-High Arch Dams Integrating Wavelet De-Noising and Improved Random Forest. Water 2023; 15 (7): 1271 | |
| Sudjianto et al. | Single-index model tree | |
| CN113988083A (zh) | 一种用于航运新闻摘要生成的事实性信息编码与评估方法 | |
| CN112348275A (zh) | 一种基于在线增量学习的区域生态环境变化预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |