CN114048762A - 双注意力引导的旋转机械健康评估方法 - Google Patents

Abstract

本发明涉及一种双注意力引导的旋转机械健康评估方法，构建包括特征提取器，重构器和回归器的双注意力引导模型，通过将可变形卷积的思想引入到特征提取方法中，通过可变形卷积、时间卷积并巧妙地结合双注意力通道实现对细粒度特征的捕获；聚合局部关键信息，改善了全局特征学习的信息损失。采用回归损失和重构损失更新双注意力引导模型，并输出最佳的训练机械退化特征；将测试集输入至更新的特征提取器，获取测试机械退化特征，并用多核最大均值差异损失最小化最佳的训练和测试的机械退化特征之间的差异。本发明能够较好的解决传统方法预测精度较差的问题，同时可以约束数据的信息一致性，实现了对测试数据的较高精度的剩余寿命预测。

Description

双注意力引导的旋转机械健康评估方法

技术领域

本发明涉及基于机器学习方法的机械健康特征评估技术领域，尤其是一种双注意力引导的旋转机械健康评估方法。

背景技术

旋转机械在长期运行中由于负载、磨损和裂纹等因素易引发故障，进而导致设备运行出现问题。因此利用故障与健康管理(PHM)技术根据机械的行为，可对机械的健康状态进行诊断，提前制定维护计划，缩短不必要的停机时间，并降低生产成本。机械系统的剩余使用寿命预测是PHM技术的一项关键任务。目前机械健康评估方法可分为基于模型的和数据驱动的方法。基于模型的方法通常采用机械退化数据的统计模型来预测寿命退化趋势。这些方法需要专家知识来精确地对统计数据进行建模，但无法有效的评估复杂的机械系统。基于数据驱动方法旨在将传统器提供的数据转换成机械退化的参数或非参数模型。这些方法通常利用数据内可用的特征表示来准确映射剩余寿命值，并取得了令人满意的结果。

一般而言，数据驱动方法通常包括机器学习和深度学习模型。机器学习旨在从传感器提供的数据中提取各种退化特征，例如均值，偏度，峭度。采用学习算法，例如支持向量机，威布尔分布，回归支持向量机，对退化特征进行回归统计。然而，机器学习方法严重依赖于所提取的退化特征，这通常需要先验知识。

深度学习方法在处理时间序列回归上具有优势。采用多隐层结构实现数据特征的逐层非线性变换，以提取最佳的特征表示，例如自动编码器，深度信念网络，卷积神经网络和循环神经网络。但多数方法仅是通过下采样的方式进行非线性特征变换，进而实现寿命回归。但这个提取过程却忽视了对输入数据信息一致性的保持和特征分布差异。这个不足对于许多现实的应用来说回归性能往往是受限的，可能无法有效工作。通常而言，预训练模型能够在相似的工况下取得最佳的性能，但对于机械系统而言，尽管工况相似，故障类型是复合的，进而导致特征分布是具有差异。

发明内容

针对现有技术的不足，本发明提供一种双注意力引导的旋转机械健康评估方法，旨在实现较高精度的机械健康评估。

本发明采用的技术方案如下：

一种双注意力引导的旋转机械健康评估方法，包括以下步骤：

S1，采集旋转机械的水平振动信号，对所述水平振动信号进行处理以获取时频图数据，把所有时频图数据划分测试集和训练集，然后将测试集进行剩余寿命值标记；

S2，构建双注意力引导模型，其包括特征提取器，重构器和回归器；

S3，将训练集输入至双注意力引导模型，由所述特征提取器提取隐藏的机械退化特征；

S4，将所述机械退化特征分别输入到所述回归器和所述重构器中，输出剩余寿命值和重构信号；

S5，采用回归损失和重构损失更新双注意力引导模型，并输出最佳的训练机械退化特征；

S6，将测试集输入至更新的特征提取器，获取测试机械退化特征，并用多核最大均值差异损失最小化最佳的训练和测试的机械退化特征之间的差异；

S7，将训练好的特征提取器和回归器组合，并预测测试集的剩余寿命值，实现对旋转机械健康评估。

进一步技术方案为：

步骤S2中，所述双注意力引导模型由一个特征提取器，一个重构器和一个回归器组成；

所述特征提取器包括两层可变形卷积层、两层时间卷积层和一层并行的注意力通道；所述重构器由四层卷积层组成；所述回归器包括四层全连接层；

所述特征提取器的各层按以下顺序依次堆叠：第一层可变形卷积层、第一层时间卷积层、第二层可变形卷积层、第二层时间卷积层和并行的注意力通道。

步骤S3中，由所述特征提取器提取隐藏的机械退化特征，具体包括：

给定卷积核N×N的采样域

和可变形卷积层的输入x^l-1，并在采样位置处加入偏移量Δp_n＝{(x_offset，y_offset)|(0，0)，....，(N-1，N-1)}；

则对采样位置p₀的输出特征图

描述如下：

式中，p_n表示采样域中的采样点，n取值范围0，1，...，N×N；

为相应的权重；b₀ ^l为相应的偏值；上标l表示为第l层可变形卷积层，l＝1或2；

将上式通过双线性插值转换得到：

式中，q为插值的变换位置，G(q，p)为双线性插值核，p＝p₀+p_n+Δp_n。

所述并行的注意力通道包括两层并行的注意力层，每层的结构一致；

所述并行的注意力通道的数据处理具体包括：

首先，分别采用全局最大池化GMP通道和全局平均池化GAP通道，来聚集通道的多尺度全局信息，生成两个不同的特征图v^l∈R^c×h×w和m^l∈R^c×h×w，其中R^c×h×w为实数域，上标c为特征图通道数，h为特征图的高，w为特征图的宽；

然后，v^l和m^l被输入至所述两层并行的注意力层中，得到两个对应的输出；

对应GMP通道的注意力层的输出为：

式中，

分别为三个注意力矩阵，其中

分别表示Q₁矩阵、K₁矩阵、V₁矩阵中的权重，d_k表示K矩阵的维数、softmax()为SoftMax函数，下标1表示GMP通道；

对应GMP通道的注意力层的输出为：

式中，

分别为三个注意力矩阵，其中，

分别为Q₂矩阵、K₂矩阵、V₂矩阵中的权重，下标2表示GMP通道；

最终并行的注意力通道的输出即为经过特征提取器提取的机械退化特征f_S：

式中，

表示矩阵和。

步骤S4中，将所述机械退化特征f_S分别输入到所述回归器和所述重构器中，输出剩余寿命值和重构信号，具体包括：

经过特征提取器提取的机械退化特征f_S被输入回归器中，在回归器中生成相应的预测的剩余寿命值；回归器和特征提取器以端到端有均方误差损失方式进行训练，均方误差损失即为回归损失

经过特征提取器提取的机械退化特征f_S被输入至重构器中，采用四次标准卷积，输出重构信号，通过最小化重构误差来优化模型参数，重构误差即为重构损失

步骤S5中，采用回归损失

和重构损失

构建模型参数优化的目标函数，其中重构损失

作为目标函数的正则因子；采用回归损失

和重构损失

更新模型参数并保存最佳的模型参数，和当前该参数下模型的特征提取器所输出的最优机械退化特征f_T；

所述目标函数为：

式中，λ是用于平衡每项的贡献的正则系数。

步骤S6中，采用多核最大均值差异损失最小化特征提取器由测试数据所输出的测试机械退化特征f和最优机械退化特征f_T之间的最大均值，通过约束减少均值差异，对齐测试数据和训练数据的机械特征分布；其中，最大均值通过再生核希尔伯特空间中的平方距离来量化分布的差异，表达式如下：

式中：式中，

为再生核希尔伯特空间，φ(·)为核函数，

为特征样本数量。

本发明的有益效果如下：

本发明通过将可变形卷积的思想引入到特征提取方法中，通过可变形卷积和时间卷积的全局特征学习方式实现对全局机械退化特征的捕获；并巧妙地结合双注意力通道，聚合局部机械退化信息，改善了全局特征学习。

本发明采用双注意力通道采样方式来最小化度量误差，以保持输入数据的信息一致性。

本发明采用多核最大均值差异损失度量测试机械退化特征和最优机械退化特征之间误差，使模型学习不变的机械退化特征，从而最小化测试机械退化特征和最优机械退化特征之间的分布差异，提高旋转机械健康评估精度。

附图说明

图1为本发明实施例的流程图。

图2为本发明实施例的水平方向的振动信号。

图3为本发明实施例的水平方向的振动信号时频图。

图4为本发明实施例的双注意力引导模型结构图。

图5为本发明实施例的所获得的测试结果。

具体实施方式

以下结合附图说明本发明的具体实施方式。

本实施例的一种双注意力引导的旋转机械健康评估方法，可参考图1，包括以下步骤：

S1，采集旋转机械的水平振动信号，对水平振动信号进行处理以获取时频图数据，把所有时频图数据划分测试集和训练集，然后将测试集进行剩余寿命值标记；

作为具体实施形式，可采用三轴加速度传感器采集旋转机械的水平振动信号，图2为所采集的水平振动信号波形图，并利用同步压缩小波变换对振动信号进行处理以获取时频图，图3为转换后所获得的振动信号的时频图。

S2，构建双注意力引导模型，其包括特征提取器，重构器和回归器，可参考图4，双注意力引导模型由一个特征提取器，一个重构器和一个回归器组成；

作为具体实施形式，特征提取器包括两层可变形卷积层、两层时间卷积层和一层并行的注意力通道；特征提取器的各层按以下顺序依次堆叠：第一层可变形卷积层、第一层时间卷积层、第二层可变形卷积层、第二层时间卷积层和并行的注意力通道；

作为具体实施形式，重构器由四层卷积层组成；回归器包括四层全连接层。

作为具体实施形式，并行的注意力通道包括两层并行的注意力层，每层的结构一致。

S3，将训练集输入至双注意力引导模型，由特征提取器提取隐藏的机械退化特征，具体包括：

特征提取器的可变形卷积层通过在采样位置中加入x，y方向偏移量，以实现采样的自由变形和感受野的自适应调整，然后使用双线性插值来获得可变形特征图；

具体地，给定卷积核N×N的采样域

和可变形卷积层的输入x^l-1，

对采样位置p₀的输出特征图

描述如下：

在采样位置处加入偏移量Δp_n＝{(x_offset，y_offset)|(0，0)，....，(N-1，N-1)}，则式(1)的采样位置p₀的输出特征图

变为：

式(1)、(2)中，p_n表示采样域中的采样点，n属于0，1，...，N×N；

为相应的权重；b₀ ^l为相应的偏值；上标l表示为第l层可变形卷积层，l＝1或2；

由于Δp_n通常为分数，将式(2)通过双线性插值可转换成：

式(3)中，q为插值的变换位置，G(q，p)表示双线性插值核，p＝p₀+p_n+Δp_n；

G(q，p)＝g(q_x，p_x)·g(q_y，p_y) (4)

式(4)中，q_x，q_y表示差值变换后的x，y值，p_x，p_y表示原始的偏移量的x，y值，其中，g(q_x，p_x)＝max(o，1-|q_x-p_x|)；

上述并行的注意力通道的数据处理，具体包括：

首先分别采用全局最大池化GMP通道和全局平均池化GAP通道，来聚集通道的多尺度全局信息，生成两个不同的特征图v^l∈R^c×h×w和m^l∈R^c×h×w，其中R^c×h×w表示为实数域，c为特征图通道数，h为特征图的高，w为特征图的宽；

其中：

式(5)、(6)中，v^l表示最大池化通道的输出，

表示双注意力的输入向量值，m^l表示全局平均池化通道的输出，c表示输入向量的样本数，j表示第j个向量值，上标l表示第l层双注意力层，l＝1或2；

然后，v^l和m^l被输入至所述两层并行的注意力层中，得到两个对应的输出；

对应GMP通道的注意力层的输出为：

式(7)中，

分别为三个注意力矩阵，其中

表示Q₁矩阵中权重，

表示K₁矩阵中权重，

表示V₁矩阵中权重，下标1表示GMP通道，d_k表示K矩阵的维数、softmax()表示SoftMax函数；

对应GMP通道的注意力层的输出为：

式(8)中，

分别为三个注意力矩阵，其中

表示Q₂矩阵中矩阵，

表示K₂矩阵中权重，

表示V₂矩阵中权重，下标2表示GMP通道；

最终并行的注意力通道的输出即为经过特征提取器提取的机械退化特征f_S：

式(9)中，

表示矩阵和；

通过双注意力矩阵，可以进一步加权局部特征，从而聚合局部机械退化信息；

S4，将所述机械退化特征分别输入到所述回归器和所述重构器中，输出剩余寿命值和重构信号，具体包括：

作为具体实施形式，回归器的四层全连接层神经元可分别取值为64，32，16，1；

经过特征提取器提取的机械退化特征f_S被输入回归器中，在回归器中生成相应的预测的剩余寿命值；

回归器是一个多层全连接网络，回归器和特征提取器以端到端有均方误差损失方式进行训练，均方误差损失即为回归损失

其中，回归损失

为：

式(10)中，

是预测的剩余寿命值，y_i是实际剩余寿命值，i表示第i个寿命值，n是寿命值的样本数量；

经过特征提取器提取的机械退化特征f_S被输入至重构器中，采用四次标准卷积，输出重构信号，通过最小化重构误差来优化模型参数，重构误差即为重构损失

其中，重构损失

为：

式(11)中，

是重构信号，x_i是重构器的输入信号，i表示第i个输入，n是输入的样本数量。

S5，采用回归损失和重构损失更新双注意力引导模型，并输出最佳的训练机械退化特征，具体包括：

采用回归损失

和重构损失

更新模型参数，采用回归损失

和重构损失

构建模型参数优化目标函数，其中，将重构损失

作为优化目标函数的正则因子；

通过更新模型参数并保存最佳的模型参数，和此时该参数下模型的特征提取器所输出的最优机械退化特征f_T；

目标函数表达式如下：

式(12)中，λ是用于平衡每个项的贡献的正则系数。

S6，将测试集输入至更新的特征提取器，获取测试机械退化特征，并用多核最大均值差异损失最小化最佳的训练和测试的机械退化特征之间的差异，具体包括：

采用多核最大均值差异损失

最小化特征提取器由测试集数据所输出的测试机械退化特征f和最优机械退化特征f_T之间的最大均值，通过约束减少均值差异，以对齐测试数据和训练数据的机械特征分布；

具体地，测试机械退化特征f和最优机械退化特征f_T之间的最大均值，通过再生核希尔伯特空间(RKHS)中的平方距离来量化分布的差异，计算式如下：

式(13)中，

是再生核希尔伯特空间，φ(·)是核函数，

表示特征样本数量；

具体地，采用高斯核的多核最大均值差异损失

为：

式(14)中，i表示第i个测试机械退化特征，j表示第j个最优机械退化特征，k(，)表示是核技巧，通过核技巧对式(13)进行扩展，式(14)是式(13)的具体表示。

S7，将训练好的特征提取器和回归器组合，并预测测试集的剩余寿命值，从而完成对旋转机械健康评估。图5为所获得测试结果，本实施例的评估方法的预测值成功的拟合了实际的剩余寿命值，验证了本申请评估方法在旋转机械健康评估的有效性。

Claims (6)

1.一种双注意力引导的旋转机械健康评估方法，其特征在于，包括以下步骤：

S1，采集旋转机械的水平振动信号，对所述水平振动信号进行处理以获取时频图数据，把所有时频图数据划分测试集和训练集，然后将测试集进行剩余寿命值标记；

S2，构建双注意力引导模型，其包括特征提取器，重构器和回归器；

S3，将训练集输入至双注意力引导模型，由所述特征提取器提取隐藏的机械退化特征；

S4，将所述机械退化特征分别输入到所述回归器和所述重构器中，输出剩余寿命值和重构信号；

S5，采用回归损失和重构损失更新双注意力引导模型，并输出最佳的训练机械退化特征；

S6，将测试集输入至更新的特征提取器，获取测试机械退化特征，并用多核最大均值差异损失最小化最佳的训练和测试的机械退化特征之间的差异；

S7，将训练好的特征提取器和回归器组合，并预测测试集的剩余寿命值，实现对旋转机械健康评估。

2.根据权利要求1所述的方法，其特征在于，步骤S2中，所述双注意力引导模型由一个特征提取器，一个重构器和一个回归器组成；

所述特征提取器包括两层可变形卷积层、两层时间卷积层和一层并行的注意力通道；所述重构器由四层卷积层组成；所述回归器包括四层全连接层；

所述特征提取器的各层按以下顺序依次堆叠：第一层可变形卷积层、第一层时间卷积层、第二层可变形卷积层、第二层时间卷积层和并行的注意力通道。

3.根据权利要求2所述的方法，其特征在于，步骤S3中，由所述特征提取器提取隐藏的机械退化特征，具体包括：

给定卷积核N×N的采样域

和可变形卷积层的输入x^l-1，并在采样位置处加入偏移量Δp_n＝{(x_offset,y_offset)|(0,0),....,(N-1,N-1)}；

则对采样位置p₀的输出特征图

描述如下：

式中，p_n表示采样域中的采样点，n取值范围0，1，…，N×N；

为相应的权重；b₀ ^l为相应的偏值；上标l表示为第l层可变形卷积层，l＝1或2；

将上式通过双线性插值转换得到：

式中，q为插值的变换位置，G(q,p)为双线性插值核，p＝p₀+p_n+Δp_n。

4.根据权利要求2所述的方法，其特征在于，所述并行的注意力通道包括两层并行的注意力层，每层的结构一致；

所述并行的注意力通道的数据处理具体包括：

首先，分别采用全局最大池化GMP通道和全局平均池化GAP通道，来聚集通道的多尺度全局信息，生成两个不同的特征图v^l∈R^c×h×w和m^l∈R^c×h×w，其中R^c×h×w为实数域，上标c为特征图通道数，h为特征图的高，w为特征图的宽；

然后，v^l和m^l被输入至所述两层并行的注意力层中，得到两个对应的输出；

对应GMP通道的注意力层的输出为：

式中，

分别为三个注意力矩阵，其中

分别表示Q₁矩阵、K₁矩阵、V₁矩阵中的权重，d_k表示K矩阵的维数、softmax()为SoftMax函数，下标1表示GMP通道；

对应GMP通道的注意力层的输出为：

式中，

分别为三个注意力矩阵，其中，

分别为Q₂矩阵、K₂矩阵、V₂矩阵中的权重，下标2表示GMP通道；

最终并行的注意力通道的输出即为经过特征提取器提取的机械退化特征f_S：

式中，

表示矩阵和。

5.根据权利要求4所述的方法，其特征在于，步骤S4中，将所述机械退化特征f_S分别输入到所述回归器和所述重构器中，输出剩余寿命值和重构信号，具体包括：

经过特征提取器提取的机械退化特征f_S被输入回归器中，在回归器中生成相应的预测的剩余寿命值；回归器和特征提取器以端到端有均方误差损失方式进行训练，均方误差损失即为回归损失

经过特征提取器提取的机械退化特征f_S被输入至重构器中，采用四次标准卷积，输出重构信号，通过最小化重构误差来优化模型参数，重构误差即为重构损失

步骤S5中，采用回归损失

和重构损失

构建模型参数优化的目标函数，其中重构损失

作为目标函数的正则因子；采用回归损失

和重构损失

更新模型参数并保存最佳的模型参数，和当前该参数下模型的特征提取器所输出的最优机械退化特征f_T；

所述目标函数为：

式中，λ是用于平衡每项的贡献的正则系数。

6.根据权利要求5所述的方法，其特征在于，步骤S6中，采用多核最大均值差异损失最小化特征提取器由测试数据所输出的测试机械退化特征f和最优机械退化特征f_T之间的最大均值，通过约束减少均值差异，对齐测试数据和训练数据的机械特征分布；其中，最大均值通过再生核希尔伯特空间中的平方距离来量化分布的差异，表达式如下：

式中：式中，

为再生核希尔伯特空间，φ(·)为核函数，

为特征样本数量。

Images