CN113656915A - 一种基于深度注意力网络的轴承剩余寿命预测方法 - Google Patents

Abstract

本发明公开了一种基于深度注意力网络的轴承剩余寿命预测方法，属于轴承剩余寿命预测技术领域，包括以下步骤：设计并利用小波多尺度频带注意力模块，从原始信号中抽取时频信息，自动对轴承退化敏感频带进行筛选；通过混合膨胀卷积捕获不同频带间的空间特征和单一频带的时序特征；进一步构建特征注意力模块自动选择对轴承寿命预测贡献大的时空特征序列；利用回归层对轴承的剩余寿命进行预测。本发明通过小波多尺度频带注意力模块和混合膨胀卷积注意力网络结合，从包含大量噪声和干扰的原始数据中抽取时频信息并自动学习和选择时空特征，能够提高预测精度和模型鲁棒性，为轴承剩余寿命预测领域提供了新的途径。

Description

一种基于深度注意力网络的轴承剩余寿命预测方法

技术领域

本发明涉及轴承剩余寿命预测技术领域，尤其是一种基于深度注意力网络的轴承剩余寿命预测方法。

背景技术

轴承是机械设备中减少摩擦损失的核心关键部件，约70％的大型机械结构的损坏与轴承损伤有关。在设备的高速运行中，即使轴承润滑良好，安装正确，防尘防潮性能好，操作正常，最终也会由于接触表面疲劳，致使发生磨损和性能退化，甚至演化成严重故障直至失效，如果不能及时处理轴承故障，将可能引发连锁反应，导致整个系统停机，造成巨大的经济损失和恶劣的社会影响。因此，开展轴承健康监测与寿命预测方法研究，并准确预测轴承等关键部件的剩余使用寿命(Remaining Useful Life,RUL)，可以为预知维修决策提供依据，防止维护过度和维护不及时的情况，对于降低维护成本，提高生产效率有着重要的意义和社会价值。

目前，国内外相关研究机构和学者针对轴承的RUL预测问题开展了大量的研究工作，概括起来所研究的RUL预测方法主要分为三类：基于模型的预测方法，基于数据驱动的预测方法以及两者混合的方法。基于模型的预测方法需要大量的专家先验知识，且需要对特定设备的退化机理做简化假设，预测精度和模型泛化能力受到限制，在实际应用中也具有一定的局限性。同时，近年来随着传感设备和监测系统的发展，设备状态监测数据海量增长，基于数据驱动的RUL预测方法已成为当前学术界和工业界研究的热点。其中，基于深度学习的方法由于具有强大的特征提取能力和预测精度愈来愈受到研究人员的关注。

现有的基于深度学习的轴承RUL预测方法大多是直接将原始数据输入到深度学习模型当中进行训练，而轴承振动信号的原始数据中包含了大量的噪声和干扰信息，直接输入会降低预测精度并限制模型的泛化能力。

发明内容

本发明需要解决的技术问题是提供一种基于深度注意力网络的轴承剩余寿命预测方法，能够有效的提高轴承剩余寿命预测的准确率，从而及时对部件进行处理和维护，避免机械设备的深度伤害，延长轴承寿命。

为解决上述技术问题，本发明所采用的技术方案是：

一种基于深度注意力网络的轴承剩余寿命预测方法，包括以下步骤：

S1、获取轴承振动信号传感器采集的原始退化时间序列数据，并进行数据预处理；设计并利用小波多尺度频带注意力模块提取时频信息，并自动筛选轴承退化敏感频带；

S2、将S1筛选后的轴承退化敏感频带的加权时频信息输入到混合膨胀卷积网络中，提取轴承退化的时空特征；

S3、设计并利用特征残差注意力模块对S2获得的轴承退化的时空特征序列进行自动筛选加权，获得对轴承寿命预测贡献大的时空特征序列；

S4、构建回归层，通过S3获得的最终时空特征序列得到轴承剩余寿命预测结果。

本发明技术方案的进一步改进在于：S1具体包括以下步骤：

S11、获取轴承振动信号传感器采集的原始退化时间序列数据，并进行数据预处理，主要包括对数据中的异常点的剔除，以及对缺失点进行填充；

S12、采用n层“db1”小波包分解函数对原始数据进行处理，给定输入的原始数据样本大小为f_l∈R^d×c(l∈1,2,…,N)，其中d为每个数据样本的长度，c为传感器的数量；经过小波包分解后，共获得D＝2ⁿ个频带，每个频带的长度为L＝f_i/D；最终每个输入样本被分解为L×D的系数矩阵作为模型输入；

S13、频带注意力模块首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，计算公式如下：

其中，W_i,j为第i个样本、第j个点的小波包分解系数，

和

分别代表第l个样本、第i个频带经过全局平均池化层和全局最大值池化层；

S14、a^l和m^l进行加和后，输入到只含一个隐含层的多层感知机，隐含层神经元个数为D/r；通过hard_sigmoid激活函数σ_hs获得频带权重

计算公式如下：

其中，r为降维比，x为σ_hs激活函数的输入，W₀ ^l和W₁ ^l为多层感知机中的权重矩阵，

代表逐元素相加；

S15、将S14所得到的频带权重α₁与S12未经处理的多频带时频信息f相乘得到加权时频信息

本发明技术方案的进一步改进在于：S2具体包括以下步骤：

S21、将S15中获得的多频带加权时频信息

输入到由具有三个不同大小的膨胀率dr1、dr2和dr3循环堆叠而成的混合膨胀卷积网络自动学习不同频带之间的空间特征，提取频带间的关联关系；

S22、S21获得的空间特征序列仍具有时序关系，通过卷积神经网络模块提取时序特征，进行时空特征融合；其中所述卷积神经网络模块包括三层卷积层，所用的卷积核大小相同，并在每一层卷积后添加池化大小相同的最大值池化层以减少模型训练参数量，聚合信息，得到轴承退化的时空特征A。

本发明技术方案的进一步改进在于：S3具体包括以下步骤：

S31、采用特征注意力模块计算特征序列权重，首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，然后通过多层感知机求得特征序列权重α₂；

S32、设计残差连接将S22获得的轴承退化的时空特征A与加权后序列进行加和得到最终时空特征

其中α₂为所得特征序列权重。

本发明技术方案的进一步改进在于：S4具体包括以下步骤：

S41、定义轴承剩余寿命预测为一个回归预测问题；

S42、将S32获取的最终时空特征

转化为二维矩阵并输入到具有平均绝对误差损失函数的回归层中，对轴承的剩余可用寿命进行评估；其中平均绝对误差的计算公式如下：

其中，y_i表示真实值，

表示预测值，MAE为求平均值后得到预测值和真实值之间的平均绝对误差。

由于采用了上述技术方案，本发明取得的技术进步是：

1、本发明通过设计小波多尺度频带注意力模块，从存在大量噪声和干扰的轴承振动原始信号中提取并自动筛选时频信息作为模型输入。

2、本发明通过利用混合膨胀卷积网络自动提取频带间的空间特征，并保留特征序列的时序性。

3、本发明通过利用卷积神经网络学习时序特征，达到时空特征融合的目的。

4、本发明提高了轴承的剩余寿命预测精度，从而及时对其进行处理和维护，避免机械设备的深度伤害，延长轴承寿命，减少因轴承损坏带来的经济损失。

附图说明

图1是本发明的预测方法流程图；

图2是本发明中的小波多尺度频带注意力模块示意图；

图3是本发明中的混合膨胀卷积注意力时空特征提取示意图。

具体实施方式

下面结合附图和实施例对本发明做进一步详细说明：

如图1所示，一种基于深度注意力网络的轴承剩余寿命预测方法，包括以下步骤：

S1、获取轴承振动信号传感器采集的原始退化时间序列数据，并进行数据预处理以获取完整的轴承状态监测数据；如图2所示，通过小波包分解从原始数据中抽离时频信息，分割噪声干扰频带和轴承退化频带，得到多频带小波包系数矩阵；然后利用频带注意力模块对时频信息进行自动的对其中轴承退化敏感频带进行筛选加权，增强有用信息，抑制噪声和干扰，从存在大量噪声和干扰的轴承振动原始信号中提取并自动筛选时频信息作为模型输入。具体包括以下步骤：

S11、收集轴承振动信号传感器采集的原始数据，对原始数据进行预处理，剔除数据中的异常点并对缺失点进行填充。

S12、采用n层“db1”小波包分解函数对原始数据进行处理，给定输入的原始数据样本大小为f_l∈R^d×c(l∈1,2,…,N)，其中d为每个数据样本的长度，c为传感器的数量。经过小波包分解后，共获得D＝2ⁿ个频带，每个频带的长度为L＝f_i/D；最终每个输入样本被分解为L×D的系数矩阵作为模型输入。

S13、频带注意力模块首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，计算公式如下：

其中，W_i,j为第i个样本、第j个点的小波包分解系数，

和

分别代表第l个样本、第i个频带经过全局平均池化层和全局最大值池化层。

S14、a^l和m^l进行加和后，输入到只含一个隐含层的多层感知机，隐含层神经元个数为D/r；通过hard_sigmoid激活函数σ_hs获得频带权重

计算公式如下：

其中，r为降维比，x为σ_hs激活函数的输入，W₀ ^l和W₁ ^l为多层感知机中的权重矩阵，

代表逐元素相加。

S15、将S14所得到的频带权重α₁与S12未经处理的多频带时频信息f相乘得到加权时频信息

S2、如图3所示，利用混合膨胀卷积模块从筛选加权后的多频带时频信息中提取特征。首先通过三种具有不同的膨胀率的膨胀卷积层堆叠对频带进行滤波，聚合空间信息，然后串联卷积神经网络模块自动学习时序特征，达到时空特征融合的目的。具体包括以下步骤：

S21、将S15中获得的多频带加权时频信息

输入到由具有三个不同大小的膨胀率dr1、dr2和dr3循环堆叠而成的混合膨胀卷积网络自动学习不同频带之间的空间特征，提取频带间的关联关系。

S22、S21获得的空间特征序列仍具有时序关系，通过卷积神经网络模块提取时序特征，进行时空特征融合；其中所述卷积神经网络模块包括三层卷积层，所用的卷积核大小相同，并在每一层卷积后添加池化大小相同的最大值池化层以减少模型训练参数量，聚合信息，得到轴承退化的时空特征A。

S3、在完成时空特征融合之后，构建特征残差注意力模块，如图3所示，将时空融合特征输入进行筛选加权，进一步增强对寿命预测精度贡献大的特征序列作用。具体包括以下步骤：

S31、采用特征注意力模块对S2获得的时空特征序列计算特征序列权重，首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，然后通过多层感知机求得特征序列权重α₂。

S32、设计残差连接将轴承退化的时空特征A与加权后序列进行加和得到最终时空特征

避免特征的丢失，其中α₂为所得特征序列权重。

S4、构建回归层，通过S3获取的最终时空特征序列输入到回归层中得到轴承剩余寿命预测结果。具体步骤如下：

S41、定义轴承剩余寿命预测为一个回归预测问题。

S42、将S32获取的最终时空特征

转化为二维矩阵并输入到具有平均绝对误差损失函数的回归层中，对轴承的剩余可用寿命进行评估；其中平均绝对误差的计算公式如下：

其中，y_i表示真实值，

表示预测值，MAE为求平均值后得到预测值和真实值之间的平均绝对误差，用于评估预测精度。

实施例

一种基于深度注意力网络的轴承剩余寿命预测方法，采用的是由IEEE可靠性协会和FEMTO-ST研究所提供的轴承加速寿命公开数据集，实验采用用NSK6804RS型号轴承，包含三种不同的工况，数据采样频率为25.6kHz，每10s采样一次数据，每次采样时间持续0.1s，故每段采样序列的长度为2560。当轴承振动信号振幅值超过20g时认为轴承失效，寿命终止。本实施例使用工况为负载4000N，速度1850rpm下的7个轴承水平加速度振动传感器数据。

本实施例将公开数据集中工况为负载4000N，速度1850rpm下的7个轴承水平加速度振动传感器数据划分为训练集和测试集，其中轴承1_1和1_2作为模型的训练集，其余五个轴承1_3、1_4、1_5、1_6、1_7作为测试集验证模型的效果。为了对轴承的剩余寿命进行有效预测，本次实验采用十次重复运行的平均结果作为最终的预测结果。如表1所示，给出了本实放例及其他基于深度学习轴承寿命预测前沿方法的平均预测结果。

表1

从表1中可以看出从卷积神经网络的其他变体到本实施例，预测的平均绝对误差MAE、标准均方根误差NRMSE明显降低，Score分数明显提高，本实施例获得了增强的寿命预测性能。这主要是由于本实施例提出的方法针对轴承振动信号，首先利用小波多尺度频带注意力提取时频信息，并作出筛选，抑制噪声和干扰的影响，增强有用信息的权重，然后通过混合膨胀卷积模块学习轴承退化时空特征，同时串联特征残差注意力模块对特征序列作进一步筛选加权，所得到的最终轴承退化时空特征信息的完整性和针对性得到增强。此结果进一步说明本发明值得应用到实际轴承的寿命预测中。

综上所述，本发明通过小波多尺度频带注意力模块和混合膨胀卷积注意力网络结合，从包含大量噪声和干扰的原始数据中抽取时频信息并自动学习和选择时空特征，能够提高预测精度和模型鲁棒性，为轴承剩余寿命预测领域提供了新的途径。

Claims (5)

1.一种基于深度注意力网络的轴承剩余寿命预测方法，其特征在于：包括以下步骤：

S1、获取轴承振动信号传感器采集的原始退化时间序列数据，并进行数据预处理；设计并利用小波多尺度频带注意力模块提取时频信息，并自动筛选轴承退化敏感频带；

S2、将S1筛选后的轴承退化敏感频带的加权时频信息输入到混合膨胀卷积网络中，提取轴承退化的时空特征；

S3、设计并利用特征残差注意力模块对S2获得的轴承退化的时空特征序列进行自动筛选加权，获得对轴承寿命预测贡献大的时空特征序列；

S4、构建回归层，通过S3获得的最终时空特征序列得到轴承剩余寿命预测结果。

2.根据权利要求1所述的一种基于深度注意力网络的轴承剩余寿命预测方法，其特征在于：S1具体包括以下步骤：

S11、获取轴承振动信号传感器采集的原始退化时间序列数据，并进行数据预处理，主要包括对数据中的异常点的剔除，以及对缺失点进行填充；

S12、采用n层“db1”小波包分解函数对原始数据进行处理，给定输入的原始数据样本大小为f_l∈R^d×c(l∈1,2,…,N)，其中d为每个数据样本的长度，c为传感器的数量；经过小波包分解后，共获得D＝2ⁿ个频带，每个频带的长度为L＝f_i/D；最终每个输入样本被分解为L×D的系数矩阵作为模型输入；

S13、频带注意力模块首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，计算公式如下：

其中，W_i,j为第i个样本、第j个点的小波包分解系数，

和

分别代表第l个样本、第i个频带经过全局平均池化层和全局最大值池化层；

S14、a^l和m^l进行加和后，输入到只含一个隐含层的多层感知机，隐含层神经元个数为D/r；通过hard_sigmoid激活函数σ_hs获得频带权重

计算公式如下：

其中，r为降维比，x为σ_hs激活函数的输入，W₀ ^l和W₁ ^l为多层感知机中的权重矩阵，

代表逐元素相加；

S15、将S14所得到的频带权重α₁与S12未经处理的多频带时频信息f相乘得到加权时频信息

3.根据权利要求2所述的一种基于深度注意力网络的轴承剩余寿命预测方法，其特征在于：S2具体包括以下步骤：

S21、将S15中获得的多频带加权时频信息

输入到由具有三个不同大小的膨胀率dr1、dr2和dr3循环堆叠而成的混合膨胀卷积网络自动学习不同频带之间的空间特征，提取频带间的关联关系；

S22、S21获得的空间特征序列仍具有时序关系，通过卷积神经网络模块提取时序特征，进行时空特征融合；其中所述卷积神经网络模块包括三层卷积层，所用的卷积核大小相同，并在每一层卷积后添加池化大小相同的最大值池化层以减少模型训练参数量，聚合信息，得到轴承退化的时空特征A。

4.根据权利要求3所述的一种基于深度注意力网络的轴承剩余寿命预测方法，其特征在于：S3具体包括以下步骤：

S31、采用特征注意力模块计算特征序列权重，首先利用全局平均池化层和全局最大值池化层对输入进行信息聚合，然后通过多层感知机求得特征序列权重α₂；

S32、设计残差连接将S22获得的轴承退化的时空特征A与加权后序列进行加和得到最终时空特征

其中α₂为所得特征序列权重。

5.根据权利要求4所述的一种基于深度注意力网络的轴承剩余寿命预测方法，其特征在于：S4具体包括以下步骤：

S41、定义轴承剩余寿命预测为一个回归预测问题；

S42、将S32获取的最终时空特征

转化为二维矩阵并输入到具有平均绝对误差损失函数的回归层中，对轴承的剩余可用寿命进行评估；其中平均绝对误差的计算公式如下：

其中，y_i表示真实值，

表示预测值，MAE为求平均值后得到预测值和真实值之间的平均绝对误差。

Images