CN108984893B - 一种基于梯度提升方法的趋势预测方法 - Google Patents

Abstract

本发明提供一种基于梯度提升方法的趋势预测方法，步骤如下：一：设定梯度提升模型参数，对预测模型进行初始化；二：定期采集轴承振动信号，提取特征参数；三：对特征参数进行判断，判断是否有故障迹象；四：利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估；五：调整梯度提升模型参数；六：利用预测模型进行轴承趋势预测；通过以上步骤训练得到的最终模型即可实现对轴承的趋势预测，通过得到的预测结果可及时对轴承进行维护，降低因轴承损害而造成的危害，节约维修时间，提高装备的可靠性。

Description

一种基于梯度提升方法的趋势预测方法

技术领域：

本发明提出了一种基于梯度提升方法的趋势预测方法，属于趋势预测技术领域。

背景技术：

轴承是当代机械设备中一种重要的零部件。在支撑机械轴承降低其运动过程中的摩擦的同时保证其回旋精度。在运输车辆、舰船、动车、飞机等重要装备中，轴承都扮演着不可替代的角色。但由于其受工作状态、环境等的影响极易损坏导致装备产生故障，故能够实时监测轴承的健康状态，准确快速地进行故障诊断与定位，预测故障和剩余寿命，为维修人员提供辅助决策支持，从而减少维护和修理的停机时间，提高复杂装备的任务完好性和综合保障性具有非常重要的意义。

在进行趋势预测时，最重要的一步就是故障特征的提取。目前故障特征提取的方法主要有时域和频域特征参数提取、基于时频分析的能量特征参数提取和基于非线性参数的特征提取。对信号的幅域进行统计分析可以得到的参数指标有：均方根值、峰值、峰值因子、峭度、脉冲因子、裕度因子和波形因子等，这些指标对故障和缺陷足够敏感，对信号的幅值和频率不敏感，即与机器的运行工况无关，只依赖于信号的幅值概率密度函数，能直观的反应出机械设备的故障特征。

从目前主流的技术和应用研究工作综合来看，主要可以分为：基于模型的预测技术，基于数据驱动的预测技术，基于知识的预测技术。基于模型的预测技术以系统的数学模型为基础，需建立系统的状态方程和观测方程；基于知识的预测技术不需要对象系统的精确数学模型，同时能够有效表达对象系统相关领域专家的经验知识，适用于在实际工程应用中；基于数据的预测方法基本思想就是通过对历史数据进行学习得到一定数学模型关系，逼近对象数据中所隐含的映射机制，从而利用该数学模型进行预测。由于传统的灰色理论、神经网络在轴承趋势预测方面精度表现不尽如人意，所以急需寻找一种新的方法。

发明内容：

为弥补传统方法中的不足，本发明提出了一种基于梯度提升方法的趋势预测方法。本发明的目的是利用梯度提升方法进行趋势预测，可以有效的防止因零部件故障导致的装备故障，提高装备的可靠性。

本发明提出一种基于梯度提升方法的趋势预测方法，该方法的具体步骤如下：

步骤一：设定梯度提升模型参数(如判定是否出现故障迹象的阀值1和判定轴承故障的阀值2以及采样周期)，对预测模型进行初始化；

步骤二：定期采集轴承振动信号，提取特征参数；

根据设定的采样周期采集轴承的振动信号，并对采集的信号提取特征参数；对振动信号进行特征提取常用的有量纲指标包括均方根植和峰值，无量纲指标高扩波形因子、峰值因子、脉冲因子、裕度因子、峭度指标等；

步骤三：对特征参数进行判断，判断是否有故障迹象；

当轴承出现故障迹象后可以适当减小采样周期，运用梯度提升模型进行趋势预测，继续下一步；当轴承未出现故障迹象时可以保持当前状态返回上一步继续监控振动信号；

步骤四：将数据分为训练集和验证集，利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估；

将计算好的均方根值进行数据预处理，将处理好的特征参数分为训练数集和检验数集；

步骤五：调整梯度提升模型参数，通过不断训练模型，选取性能评估最优的预测模型；

步骤六：利用预测模型进行轴承趋势预测；

运用预测模型对均方根值进行趋势分析，得出趋势预测结果，不同参数表征不同类型的故障，所得的预测结果应以最小预测值为准。

其中，在步骤一中所述的“梯度提升模型”，其内容是：利用集成学习Boosting中的梯度提升方法，使用了前向分部方法的迭代过程；提升的目的就是连续对反复修改的数据应用弱分类方法，由此产生一个弱分类器序列f_m(x)，m＝1,2,…,M；然后，通过一个加权的多数表决来合并全部预测，以产生最终预测:

式中，α₁，α₂，...，α_M由提升方法计算，并对每个f_m(x)的贡献加权；

在梯度提升模型拟合的过程中，梯度提升模型利用损失函数的负梯度来拟合本轮损失的近似值，第t轮的第i个样本的损失函数的负梯度表示为

式中，x_i为第i个样本的目标值，

为定义的损失函数；利用(x_i,r_ti)(i＝1,2,…m)，可以拟合一颗CART回归树，即可得到了第t颗回归树f_t(x)。

其中，在步骤一中所述的“设定梯度提升模型参数(如判定是否出现故障迹象的阀值1和判定轴承故障的阀值2以及采样周期)，对预测模型进行初始化”，其具体作法如下：

建立初始化弱学习器：

阀值的设定可以通过自行研究并结合相关专家的经验设定；对于有量纲指标(如均方根值)因不同的轴承其数值也不同故应进行初步研究确定；偏离正常值5％可确定为阀值1，偏离20％可确定为阀值2.对于无量纲指标，如峭度指标，其只与信号的幅值概率密度函数相关，在健康状态下一般取3～4，超过5即表明存在冲击性振动，能设为阀值1；后期峭度指标出现剧烈变化时能认为轴承进入故障阶段，设为阀值2。

其中，在步骤二中所述的“均方根值”可以度量轴承的振动量，在衡量振动随时间变化的过程的同时可以表示出机械振动能量的大小；由于均方根值是对时间的平均，故可以对具有表面裂纹等磨损类故障作适当的评价；其计算公式如下：

式中，x(k)为信号序列，其中k＝1,2,3…K；K为所用信号序列数据点的个数；

其中，在步骤二中所述的“定期采集轴承振动信号，提取特征参数”，其具体作法如下：

设定的采样周期采集轴承的振动信号，将采集到的数据进型预处理；数据的预处理一般包括特征提取和标准化；

特征处理需根据预测的内容选择影响到预测结果的特征，对轴承趋势的预测可提取特征均方根值和峭度指标。

其中，在步骤三中所述的“判断是否出现故障迹象”可以通过比较振动信号的均方根值和判定阀值1，如果均方根值大于阀值1即可认为出现故障迹象。

其中，在步骤四中所述的“将数据分为训练集和验证集，利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估”，其具体作法如下：

将计算好的均方根值进行储存，将储存的特征参数分为训练数集和检验数集；一般情况下可将每个参数集20％的随即样本作为评估性能的检验数据集，而剩余的80％作为训练数集训练和建立梯度提升模型；

输入训练样本T＝{(x₁,y₁),(x₂,y₂),…,(x_m,y_m)}，最大迭代次数和损失函数；假设前一轮迭代得到的强学习器是f_t-1(x)，损失函数是L(y,f_t-1(x))，本轮的迭代目标就是找到一个CART回归树模型的弱学习器h_t(x)，使得本轮的损失函数L(y,f_t(x))＝L(y,f_t-1(x)+h_t(x))最小；利用训练集数据训练梯度提升模型实质就是通过迭代过程减小损失来实现模型的优化。

其中，在步骤五中所述的“调整梯度提升模型参数，通过不断训练模型，选取性能评估最优的预测模型”，其具体作法如下：

结合训练数据，利用步骤一中的初始化后的梯度提升模型进行训练。在第t次迭代训练过程中，首先计算损失函数的负梯度r_ti，然后利用r_ti拟合一颗CART回归树，回归树对应的叶节点区域R_tj，j＝1,2,…J；其中J为叶子节点的个数；

对叶子区域j＝1,2,…J，计算最佳拟合值

根据该拟合值更新强学习器

通过调整模型参数，如模型迭代次数，训练出多种模型；结合测试数据，选取测试误差最小的模型作为最优故障预测模型。

通过以上步骤训练得到的最终模型即可实现对轴承趋势的预测，通过得到的预测结果可及时对轴承进行维护，降低因轴承损害而造成的危害，节约维修时间，提高装备的可靠性。

本发明一种基于梯度提升方法的趋势预测方法，具有如下优点与积极效果：

(1)本发明使用的梯度提升方法是一种集成方法，具有很高的精度，在输出空间对于异常值的鲁棒性强。

(2)与现有方法相比，本发明所提出的基于梯度提升方法的趋势预测不仅考虑了时序因素的影响还综合考虑了其他相关因素的影响，使预测结果更具有代表性。

附图说明：

图1本发明所述趋势预测方法流程图。

图2基于梯度提升算法的轴承均方根值预测趋势。

具体实施方式：

下面结合附图，对本发明的技术方案做进一步说明。

见图1，本发明一种基于梯度提升方法的趋势预测方法，具体步骤如下：

步骤一：设定梯度提升模型参数，对预测模型进行初始化；

建立初始化弱学习器：

式中，计算得到的c为轴承数据选取目标值的均值，本实例以均方根值为例。设定预测系统的两个判定阀值用于判定轴承的状态：正常、出现故障迹象、故障。阀值的设定应通过自行研究并结合相关专家的经验设定。对于有量纲指标(如均方根值)因不同的轴承其数值也不同故应进行初步研究确定。偏离正常值5％可确定为阀值1，偏离20％可确定为阀值2.对于无量纲指标(如峭度指标)，其只与信号的幅值概率密度函数相关，在健康状态下一般取3～4，超过5即表明存在冲击性振动，可设为阀值1；后期峭度指标出现剧烈变化时可认为轴承进入故障阶段，设为阀值2.

步骤二：定期采集轴承振动信号，提取特征参数；

根据设定的采样周期采集轴承的振动信号，本实例以均方根值为例，将采集到的数据进型预处理，经过预处理的数据会变为可以分析的形式。数据的预处理一般包括特征提取和标准化。

特征处理需根据预测的内容选择影响到预测结果的特征，对轴承趋势的预测可提取特征均方根值。均方根值可以度量轴承的振动量，在衡量振动随时间变化的过程的同时可以表示出机械振动能量的大小。由于均方根值是对时间的平均，故可以对具有表面裂纹等磨损类故障作适当的评价。其计算公式如下：

式中，x(k)为信号序列，其中k＝1,2,3…K；K为所用信号序列数据点的个数。

步骤三：对特征参数进行判断，判断是否有故障迹象；

当确定轴承出现故障迹象后，减小采样周期，运用梯度提升模型进行趋势预测，继续下一步。当确定轴承未出现故障迹象后，保持当前状态返回上一步继续监控振动信号。

步骤四：将数据分为训练集和验证集，利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估；

寻找合适的步长，在梯度提升方法中需要用步长确定梯度提升的速度，步长由自己确定，将计算好的均方根值进行储存，将储存的特征参数分为训练数集和检验数集。一般情况下可将每个参数集20％的随即样本作为评估性能的检验数据集，而剩余的80％作为训练数集训练和建立梯度提升模型。

步骤五：调整梯度提升模型参数，通过不断训练模型，选取性能评估最优的预测模型。

结合训练数据，利用步骤一中的初始化后的梯度提升模型进行训练。在第t次迭代训练过程中，首先计算损失函数的负梯度r_ti，然后利用r_ti拟合一颗CART回归树，回归树对应的叶节点区域R_tj，j＝1,2,…J；其中J为叶子节点的个数；

针对每一个叶子节点里的样本，求出使损失函数最小，也就是拟合叶子节点最好的输出值c_tj如下

根据该拟合值更新强学习器

通过调整模型参数，如模型迭代次数，训练出多种模型。结合测试数据，选取测试误差最小的模型作为最优故障预测模型。预测模型在运行过程中当出现新的振动信号时，应将其整合为新的输入向量，输入模型中。

步骤六：利用预测模型进行轴承趋势预测。

经过训练的模型可用来预测轴承的趋势，一般可设定依据过去轴承运行情况预测下一时间段内的轴承状态，模型预测曲线如图2所示。

Claims (1)

1.一种基于梯度提升方法的趋势预测方法，其特征在于：该方法的具体步骤如下：

步骤一：设定梯度提升模型参数，对预测模型进行初始化；

步骤二：定期采集轴承振动信号，提取特征参数；

根据设定的采样周期采集轴承的振动信号，并对采集的信号提取特征参数；对振动信号进行特征提取常用的有量纲指标包括均方根植和峰值，无量纲指标高扩波形因子、峰值因子、脉冲因子、裕度因子和峭度指标；

步骤三：对特征参数进行判断，判断是否有故障迹象；

当轴承出现故障迹象后能减小采样周期，运用梯度提升模型进行趋势预测，继续下一步；当轴承未出现故障迹象时能保持当前状态返回上一步继续监控振动信号；

步骤四：将数据分为训练集和验证集，利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估；

将计算好的均方根值进行数据预处理，将处理好的特征参数分为训练数集和检验数集；

步骤五：调整梯度提升模型参数，通过不断训练模型，选取性能评估最优的预测模型；

步骤六：利用预测模型进行轴承趋势预测；

运用预测模型对均方根值进行趋势分析，得出趋势预测结果，不同参数表征不同类型的故障，所得的预测结果应以最小预测值为准；

在步骤一中所述的“梯度提升模型”，其内容是：利用集成学习Boosting中的梯度提升方法，使用了前向分部方法的迭代过程；提升的目的就是连续对反复修改的数据应用弱分类方法，由此产生一个弱分类器序列f_m(x)，m＝1,2,…,M；然后，通过一个加权的多数表决来合并全部预测，以产生最终预测：

式中，α₁，α₂，...，α_M由提升方法计算，并对每个f_m(x)的贡献加权；

在梯度提升模型拟合的过程中，梯度提升模型利用损失函数的负梯度来拟合本轮损失的近似值，第t轮的第i个样本的损失函数的负梯度表示为：

式中，x_i为第i个样本的目标值，L(y_i,f(x_i))为定义的损失函数；利用(x_i,r_ti)，其中，i＝1,2,…m，能拟合一棵CART回归树，即能得到了第t棵回归树f_t(x)；

在步骤一中所述的“设定梯度提升模型参数，对预测模型进行初始化”，其具体做法如下：

建立初始化弱学习器：

对于有量纲指标均方根值，因不同的轴承其数值也不同故应进行初步研究确定；偏离正常值5％能确定为阀值1，偏离20％能确定为阀值2；

在步骤二中所述的“均方根值”能度量轴承的振动量，在衡量振动随时间变化的过程的同时能表示出机械振动能量的大小；由于均方根值是对时间的平均，故能对具有表面裂纹的磨损类故障作评价；其计算公式如下：

式中，x(k)为信号序列，其中k＝1,2,3…K；K为所用信号序列数据点的个数；在步骤二中所述的“定期采集轴承振动信号，提取特征参数”，其具体做法如下：

设定的采样周期采集轴承的振动信号，将采集到的数据进行预处理；数据的预处理包括特征提取和标准化；

特征处理需根据预测的内容选择影响到预测结果的特征，对轴承趋势的预测能提取特征均方根值和峭度指标；

在步骤三中所述的“判断是否有故障迹象”，能通过比较振动信号的均方根值和判定阀值1，如果均方根值大于阀值1即认为出现故障迹象；

在步骤四中所述的“将数据分为训练集和验证集，利用训练集数据训练梯度提升模型，通过验证集数据对模型进行性能评估”，其具体做法如下：

将计算好的均方根值进行储存，将储存的特征参数分为训练数集和检验数集；将每个参数集20％的随即样本作为评估性能的检验数据集，而剩余的80％作为训练数集训练和建立梯度提升模型；

输入训练样本T＝{(x₁,y₁),(x₂,y₂),…,(x_m,y_m)}，最大迭代次数和损失函数；假设前一轮迭代得到的强学习器是f_t-1(x)，损失函数是L(y,f_t-1(x))，本轮的迭代目标就是找到一个CART回归树模型的弱学习器h_t(x)，使得本轮的损失函数L(y,f_t(x))＝L(y,f_t-1(x)+h_t(x))最小；利用训练集数据训练梯度提升模型实质就是通过迭代过程减小损失来实现模型的优化；

在步骤五中所述的“调整梯度提升模型参数，通过不断训练模型，选取性能评估最优的预测模型”，其具体做法如下：

结合训练数据，利用步骤一中的初始化后的梯度提升模型进行训练；在第t次迭代训练过程中，首先计算损失函数的负梯度r_ti，然后利用r_ti拟合一棵CART回归树，回归树对应的叶节点区域R_tj，j＝1,2,…J；其中J为叶子节点的个数；

对叶子区域j＝1,2,…J，计算最佳拟合值

根据该拟合值更新强学习器

通过调整模型参数和模型迭代次数，训练出多种模型；结合测试数据，选取测试误差最小的模型作为最优预测模型。

Images