CN115808312A - 基于可变形卷积和Transformer的滚动轴承故障诊断方法 - Google Patents

Abstract

本发明提供了一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，其包括：采集滚动轴承的振动信号，获取小波时频图像；基于小波时频图像获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集；基于可变形卷积和改进Transformer，构建故障诊断模型，在故障诊断模型中添加激活函数；基于子域适应损失和分类损失，对所述故障诊断模型进行参数优化；训练获得待诊断故障诊断模型，基于待诊断故障诊断模型对验证集输出故障诊断结果。本发明通过使用可变形卷积和改进的Transformer网络并结合子域适应方法，提取监测数据中的域不变特征，采用局部最大均值差异代替域对抗训练机制，使得滚动轴承的故障诊断更简单、高效与稳定，增强了模型的信息表示能力。

Description

基于可变形卷积和Transformer的滚动轴承故障诊断方法

技术领域

本发明属于机械设备状态监测和故障技术领域，特别是一种基于可变形卷积和Transformer的滚动轴承故障诊断方法。

背景技术

滚动轴承被广泛应用于汽车、飞机、风电机组等各种现代工业机械之中，是很多现代机械中必不可少的关键零件。但是由于滚动轴承所处的外部环境复杂，导致其故障原因、故障模式及故障特征多样，现有的滚动轴承故障诊断方法还难以满足实际需要。随着大数据技术的快速发展，以卷积神经网络为代表的深度学习技术在滚动轴承故障诊断领域的应用受到广泛重视。这种方法首先对原始振动信号进行特征提取，然后再利用卷积神经网络的分类能力进行故障诊断。目前，许多基于深度学习的故障诊断方法已经得到了研究，并取得了良好的诊断效果，准确率较高。

然而在实际工业应用中，虽然设备在长期运行过程中积累了大量的监测数据，但只有少数健康状况已知的监测数据可用于训练故障诊断模型，并且用于训练的监测数据大多是在正常条件下采集到的，在故障条件下获得的监测数据较少，导致监测数据的信息重复性较高，缺乏典型的故障信息。另外，大多数用于训练故障诊断模型的监测数据需要标记健康状态，为节省标注数据需要的大量人力、物力，监测数据的标记信息往往是缺失的。迁移学习针对上述问题提供了可行的解决方案，但现有的滚动轴承故障诊断方法仍有三个关键问题需要解决：其一为轴承具有时变速度的特性，当面临多种工况时，现有方法在某些工况下的性能可能会严重下降；其二为现有方法主要基于全局域移位和域对抗学习机制，全局域移位对齐全局源域和目标域分布，忽略了两个域内子域间的关系，而域对抗学习机制通常需要三个网络，结构复杂；其三大多数基于迁移学习的方法主要使用卷积神经网络作为诊断模型，但卷积神经网络缺乏针对性，无法捕捉目标间的关系，且卷积核的局部感受野必须依靠堆叠多层卷积才能获得全局信息。因此，为解决上述问题，借助可变形卷积在基于局部信息的特征提取方面的显著优势及视觉Transformer在表示基于全局信息的复杂关系方面的优异性能，寻求一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，以训练出能适应多种工况场景的故障诊断模型是十分迫切且必要的。

发明内容

本发明针对上述现有技术中的缺陷，提出一种基于可变形卷积和Transformer的滚动轴承故障诊断方法。该方法包括采集滚动轴承的振动信号，获取小波时频图像；基于小波时频图像获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集；基于可变形卷积和改进Transformer，构建故障诊断模型，在故障诊断模型中添加激活函数；基于子域适应损失和分类损失，对所述故障诊断模型进行参数优化；训练获得待诊断故障诊断模型，基于待诊断故障诊断模型对验证集输出故障诊断结果。本发明通过使用可变形卷积和改进的Transformer网络并结合子域适应方法，提取监测数据中的域不变特征，采用局部最大均值差异代替域对抗训练机制，使得滚动轴承的故障诊断更简单、高效与稳定，增强了模型的信息表示能力。

本发明提供一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，其包括以下步骤：

S1、采集滚动轴承的振动信号，获取小波时频图像；

S11、采集滚动轴承的振动信号，将所述振动信号划分为前后衔接的若干振动信号数据段；

S12、利用小波变换公式分别将每个所述振动信号数据段转换为小波时频图像；

S2、获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集；

S3、基于可变形卷积和改进Transformer，构建故障诊断模型，所述故障诊断模型包括可变形卷积层、改进Transformer层、全连接层和子域适应模块；所述可变形卷积层利用可变形卷积提取符合故障特征的特征信息，将所述特征信息分块处理，并作为所述改进Transformer层的输入；所述改进transformer层的输出输入所述全连接层中，得到每张所述小波时频图像的预测概率向量；所述改进transformer层的输出输入所述子域适应模块中，得到所述源域样本和目标域样本的局部最大均值差异；

S4、在故障诊断模型中添加激活函数；

S5、基于子域适应损失和分类损失，对所述故障诊断模型进行参数优化；所述子域适应损失为：

其中，

表示基于所述局部最大均值差异的分布差异；X^s,X^t分别表示所述源域样本和目标域样本；

分别表示第i个所述源域样本和第j个所述目标域样本的标签k；n_s,k和n_t,k分别表示所述源域样本和目标域样本中标签为k的样本数；K表示标签的个数；

表示2范数，H表示再生核希尔伯特空间；

所述分类损失L为：

其中，C表示故障类别数；p(x_i)是样本x_i的预测概率；q(x_i)表示样本x_i的真实分布；

S6、训练获得待诊断故障诊断模型：使用所述源域数据集和训练集对所述故障诊断模型进行训练，并使用所述测试集对所述故障诊断模型进行测试，得到所述测试集测试的故障诊断结果最优的故障诊断模型，并将其作为待诊断故障诊断模型；

S7、基于待诊断故障诊断模型对验证集输出故障诊断结果：将所述验证集作为所述待诊断故障诊断模型的输入，输出所述验证集对应的故障诊断结果。

进一步，所述步骤S12中所述小波变换公式为：

其中，a表示尺度因子；τ表示平移量；WT_x(a,τ)表示小波变换系数；x(t)表示采集到的振动信号；

表示小波函数；t表示采集振动信号的时间；

表示变换后的小波；所述小波基函数为Morlet小波，且中心频率和带宽均为3。

可优选的，所述步骤S2具体包括以下步骤：

S21、将所有所述小波时频图像作为样本，按照工况及设定的划分比例将所述样本划分为源域样本和目标域样本，并使用所述源域样本制作源域数据集；

S22、将所述目标域样本随机划分为训练样本、测试样本和验证样本，并分别制作训练集、测试集和验证集；

S23、对所述源域数据集、训练集、测试集和验证集分别进行归一化处理。

可优选的，所述步骤S4中所述激活函数f(x)的表达式为：

f(x)＝max(0,x) (4)

其中，max(0,x)表示取特征值x与0的最大值。

可优选的，所述步骤S1中滚动轴承的振动信号通过试验平台进行采集，所述试验平台包括电机、转矩传感器、功率计、电子控制设备和加速度传感器，所述电机、转矩传感器和功率计分别与所述电子控制设备通讯连接并受控于所述电子控制设备；所述加速度传感器沿滚动轴承旋转轴的轴向或者径向布置，用于采集滚动轴承运行过程中的加速度信号。

可优选的，所述步骤S6中所述故障诊断结果最优即测试指标最优，所述测试指标选择故障诊断的准确率。

与现有技术相比，本发明的技术效果为：

1、本发明设计的一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，在构建故障诊断模型的过程中通过使用可变形卷积和改进的Transformer网络并结合子域适应方法，提取监测数据中的域不变特征，在多种工况和时变转速条件下，仍可实现准确地故障诊断。

2、本发明设计的一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，在诊断模型中通过采用局部最大均值差异代替域对抗训练机制，简化了基于全局域移位和域对抗学习机制的故障诊断框架，使诊断模型更简单、更高效。

3、本发明设计的一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，通过采用循环神经网络自适应获取位置编码，减少了对先验知识的依赖，从而保证了故障诊断模型的稳定性，避免了手动添加位置信息可能对信号的固有特性造成的破坏，且这种自适应获取位置编码的方法不依赖专家经验，增强了模型的信息表示能力。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显。

图1是本发明的基于可变形卷积和Transformer的滚动轴承故障诊断方法流程图；

图2是本发明的具体实施例中滚动轴承故障诊断方法的流程图；

图3是本发明的具体实施例中滚动轴承的结构示意图；

图4是本发明的具体实施例中构建的故障诊断模型结构示意图；

图5是本发明的具体实施例中滚动轴承故障诊断方法中的自适应位置编码原理图；

图6是本发明的具体实施例中滚动轴承故障诊断方法中的子域适应原理图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了本发明的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其中Transformer是一种采用自注意力机制的深度学习模型，该方法包括以下步骤：

S1、采集滚动轴承的振动信号，获取小波时频图像。

滚动轴承的振动信号通过试验平台进行采集，试验平台包括电机、转矩传感器、功率计、电子控制设备和加速度传感器，电机、转矩传感器和功率计分别与电子控制设备通讯连接并受控于电子控制设备；加速度传感器沿滚动轴承旋转轴的轴向或者径向布置，用于采集滚动轴承运行过程中的加速度信号。

S11、采集滚动轴承的振动信号，将振动信号划分为前后衔接的若干振动信号数据段。

S12、利用小波变换公式分别将每个振动信号数据段转换为小波时频图像；其中，小波变换公式为：

其中，a表示尺度因子；τ表示平移量；WT_x(a,τ)表示小波变换系数；x(t)表示采集到的振动信号；

表示小波函数；t表示采集振动信号的时间；

表示变换后的小波；小波基函数为Morlet小波，且中心频率和带宽均为3。

S2、获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集。

S21、将所有小波时频图像作为样本，按照工况及设定的划分比例将样本划分为源域样本和目标域样本，并使用源域样本制作源域数据集。

S22、将目标域样本随机划分为训练样本、测试样本和验证样本，并分别制作训练集、测试集和验证集。

S23、对源域数据集、训练集、测试集和验证集分别进行归一化处理。

S3、基于可变形卷积和改进Transformer，构建故障诊断模型，故障诊断模型包括可变形卷积层、改进Transformer层、全连接层和子域适应模块；可变形卷积层利用可变形卷积提取符合故障特征的特征信息，将特征信息分块处理，并作为改进Transformer层的输入；改进transformer层的输出输入全连接层中，得到每张小波时频图像的预测概率向量；改进transformer层的输出输入子域适应模块中，得到源域样本和目标域样本的局部最大均值差异。

S4、在故障诊断模型中添加激活函数，激活函数f(x)的表达式为：

f(x)＝max(0,x) (4)

其中，max(0,x)表示取特征值x与0的最大值。

S5、基于子域适应损失和分类损失，对故障诊断模型进行参数优化；子域适应损失为：

其中，

表示基于局部最大均值差异的分布差异；X^s,X^t分别表示源域样本和目标域样本样本；

分别表示第i个所述源域样本和第j个所述目标域样本的标签k；n_s,k和n_t,k分别表示所述源域样本和目标域样本中标签为k的样本数；K表示标签的个数；

表示2范数，H表示再生核希尔伯特空间。

分类损失L为：

其中，C表示故障类别数；p(x_i)是样本x_i的预测概率；q(x_i)表示样本x_i的真实分布。

S6、训练获得待诊断故障诊断模型：使用源域数据集和训练集对故障诊断模型进行训练，并使用测试集对故障诊断模型进行测试，得到测试集测试的故障诊断结果最优的故障诊断模型，并将其作为待诊断故障诊断模型。故障诊断结果最优即测试指标最优，测试指标选择故障诊断的准确率。

S7、基于待诊断故障诊断模型对验证集输出故障诊断结果：将验证集作为待诊断故障诊断模型的输入，输出验证集对应的故障诊断结果。

在一个具体实施例中，选择美国凯斯西储大学轴承实验数据作为实施对象，开展基于可变形卷积和Transformer的滚动轴承故障诊断方法说明，如图2所示。该数据集在故障诊断领域被广泛使用，但是需要说明的是，本发明实施例的适用范围不限于该数据集。

S1、采集滚动轴承的振动信号，获取小波时频图像。

如图3所示，用于采集数据的实验平台，该实验平台主要包括一个2马力的电机1、一个转矩传感器2、一个功率计3和电子控制设备。电子控制设备与其他部件通讯连接并控制其他部件。上述部件均设置在底座4上。

使用电火花加工技术在轴承上布置单点故障，故障直径分别为0.007、0.014和0.021英寸(1英寸＝2.54厘米)，故障位置分别处于内圈、外圈和滚动体上，即总共10种故障模式，分别是：正常、滚动体0.007、滚动体0.014、滚动体0.021、内圈0.007、内圈0.014、内圈0.021、外圈0.007、外圈0.014和外圈0.021。

轴承运行过程中，向电机施加不同载荷，分别为0、1、2、3马力(1马力＝735.49875瓦)。

在滚动轴承的运行过程中，使用加速度传感器采集加速度信号，且加速度传感器沿滚动轴承5的旋转轴的轴向或者径向布置。例如，每秒钟采集12000个采样点。

以600个采样点为分段长度采集10秒钟，将每种故障模式采样点切分为200个数据段，即每个数据段均包含600个连续采样点，利用小波变换公式(4)将采集的振动信号转换成小波时频图像。

通过小波变换将振动信号转换成小波时频图像，以减少背景噪声的影响，提取出振动信号的故障特征，得到改进的深度残差网络的输入样本格式。

根据上述方法，分别对10种故障模式的每一段采样点的数据进行转换得到小波时频图像。

S2、获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集。

按照电机载荷的不同，将小波时频图像划分为源域样本和目标域样本，源域样本和目标域样本都包含上述10种故障模式，分别进行归一化处理。例如，以电机载荷0马力对应的小波时频图像作为源域样本，以电机载荷1、2、3马力为目标域样本，目标域样本以5:2:3的划分比例将每种故障模式的小波时频图像随机划分为训练集、测试集和验证集三部分，并将它们都归一化到[-1,1]，即对于每种故障模式，训练集包括100张小波时频图像(训练样本数)，测试集包括40张小波时频图像(验证样本数)、验证集包括60个小波时频图像(测试样本数)，每张小波时频图像均为一个样本，详细数据如表1所示。

表1

S3、基于可变形卷积和改进Transformer，构建故障诊断模型。

创建的故障诊断模型的方法包括：基于神经网络模型，设计特征提取网络的结构。

对传统的特征提取网络结构进行改进，包括使用可变形卷积替代传统卷积；使用循环神经网络替代传统Transformer中人工插入位置信息；使用子域适应策略代替全局域适应策略。

如图4所示，特征提取网络包括两个可变形卷积层、一个改进Transformer层以及全连接分类层，可变形卷积层用于提取小波时频图中不同尺度的特征，并构建可变形卷积层的输出作为改进Transformer的输入，将此矩阵分块处理后输入到后续模块中，全连接分类层用于计算改进Transformer的输出，最终得到每张小波时频图属于各类故障的概率向量，不仅挖掘出隐藏在原始诊断信号中的丰富信息，而且减少了对诊断经验和特征选择的依赖，这是本发明的一个重要发明点。

如图5所示，本实施例中用于为分块矩阵添加位置编码的循环神经网络示意图，传统的Transformer中是手动给分块矩阵添加位置信息，这可能会破坏信号的固有特性，这种基于绝对位置编码方法仅依靠专家经验，限制了模型的信息表示能力。基于循环神经网络的自适应位置编码通过每次迭代调整参数，可以减少对先验知识的依赖，还可以解决深度循环模型中普遍存在的梯度消失问题，这是本发明的又一个重要发明点。

如图6所示，本实施例中子域适应方法的示意图，传统的基于最大均值差异和域对抗的全局域使用技术在机械设备的迁移诊断中非常流行，然而，由于忽略了两个子域的关系和相当复杂的结构，其诊断结果并不理想。本发明的子域适应方法通过最小化相应子域之间的局部最大均值差异，实现诊断来自目标域的未标记故障样本，解决了不同工况间故障诊断效果差的问题，这是本发明的再一个重要发明点。

S4、在故障诊断模型中添加激活函数。

S5、基于子域适应损失和分类损失，对故障诊断模型进行参数优化。

S6、训练获得待诊断故障诊断模型：使用源域数据集和训练集对故障诊断模型进行训练，并使用测试集对故障诊断模型进行测试，得到测试集测试的故障诊断结果最优的故障诊断模型，并将其作为待诊断故障诊断模型。

S7、基于待诊断故障诊断模型对验证集输出故障诊断结果：将验证集作为待诊断故障诊断模型的输入，输出验证集对应的故障诊断结果。

为了验证本发明具有很强的泛化性，即本发明故障诊断时的准确率具有很强的稳定性，本实施例中做了5次重复实验，5次的验证集故障诊断的平均准确率如表3所示。

表2

为说明本发明的优势，本实施例中以西储大学轴承试验数据为基础，从平均准确率角度出发，将本实施例的故障诊断方法的诊断准确率结果与现有方法进行对比。这里，现有方法选取传统视觉Transformer网络-域对抗神经网络(Traditional visiontransformer neural network-domain adversarial training of neural network)、改进视觉Transformer网络-域对抗神经网络(Improvement vision transformer neuralnetwork-domain adversarial training of neural network)。

表3

从表3中可以看出，同现有方法对比，不同工况下，本发明故障诊断的准确率都极具竞争力，无论哪种工况，本发明故障诊断的准确率都达到了99.00％以上，由此证明了所提方法的有效性和稳定性。

综上所述，本发明实施例基于基于可变形卷积和Transformer的滚动轴承故障诊断方法，利用小波变换完成故障诊断所需的小波时频特征提取，不仅挖掘出隐藏在原始诊断信号中的丰富信息，而且减少了对诊断经验和特征选择的依赖，而后利用可变形卷积和改进的视觉Transformer网络实现多工况下滚动轴承的故障诊断。采用了循环神经网络替代原有的手动添加位置信息的方法，大大减少了对先验知识的依赖。使用子域适应方法解决了不同工况间故障诊断效果差的问题。本发明为解决滚动轴承故障诊断问题提供了一种新的切实可行的有效途径，可广泛应用于机械、化工和航空航天等领域的故障诊断中。

本发明设计的一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，在构建故障诊断模型的过程中通过使用可变形卷积和改进的Transformer网络并结合子域适应方法，提取监测数据中的域不变特征，在多种工况和时变转速条件下，仍可实现准确地故障诊断；在诊断模型中通过采用局部最大均值差异代替域对抗训练机制，简化了基于全局域移位和域对抗学习机制的故障诊断框架，使诊断模型更简单、更高效；通过采用循环神经网络自适应获取位置编码，减少了对先验知识的依赖，从而保证了故障诊断模型的稳定性，避免了手动添加位置信息可能对信号的固有特性造成的破坏，且这种自适应获取位置编码的方法不依赖专家经验，增强了模型的信息表示能力。

最后所应说明的是：以上实施例仅以说明而非限制本发明的技术方案，尽管参照上述实施例对本发明进行了详细说明，本领域的普通技术人员应当理解：依然可以对本发明进行修改或者等同替换，而不脱离本发明的精神和范围的任何修改或局部替换，其均应涵盖在本发明的权利要求范围当中。

Claims (6)

1.一种基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，其包括以下步骤：

S1、采集滚动轴承的振动信号，获取小波时频图像；

S11、采集滚动轴承的振动信号，将所述振动信号划分为前后衔接的若干振动信号数据段；

S12、利用小波变换公式分别将每个所述振动信号数据段转换为小波时频图像；

S2、获得源域样本和目标域样本，制作源域数据集、训练集、测试集和验证集；

S3、基于可变形卷积和改进Transformer，构建故障诊断模型，所述故障诊断模型包括可变形卷积层、改进Transformer层、全连接层和子域适应模块；所述可变形卷积层利用可变形卷积提取符合故障特征的特征信息，将所述特征信息分块处理，并作为所述改进Transformer层的输入；所述改进transformer层的输出输入所述全连接层中，得到每张所述小波时频图像的预测概率向量；所述改进transformer层的输出输入所述子域适应模块中，得到所述源域样本和目标域样本的局部最大均值差异；

S4、在故障诊断模型中添加激活函数；

S5、基于子域适应损失和分类损失，对所述故障诊断模型进行参数优化；所述子域适应损失为：

其中，

表示基于所述局部最大均值差异的分布差异；X^s,X^t分别表示所述源域样本和目标域样本；

分别表示第i个所述源域样本和第j个所述目标域样本的标签k；n_s,k和n_t,k分别表示所述源域样本和目标域样本中标签为k的样本数；K表示标签的个数；

表示2范数，H表示再生核希尔伯特空间；

所述分类损失L为：

其中，C表示故障类别数；p(x_i)是样本x_i的预测概率；q(x_i)表示样本x_i的真实分布；

S6、训练获得待诊断故障诊断模型：使用所述源域数据集和训练集对所述故障诊断模型进行训练，并使用所述测试集对所述故障诊断模型进行测试，得到所述测试集测试的故障诊断结果最优的故障诊断模型，并将其作为待诊断故障诊断模型；

S7、基于待诊断故障诊断模型对验证集输出故障诊断结果：将所述验证集作为所述待诊断故障诊断模型的输入，输出所述验证集对应的故障诊断结果。

2.根据权利要求1所述的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，所述步骤S12中所述小波变换公式为：

其中，a表示尺度因子；τ表示平移量；WT_x(a,τ)表示小波变换系数；x(t)表示采集到的振动信号；

表示小波函数；t表示采集振动信号的时间；

表示变换后的小波；所述小波基函数为Morlet小波，且中心频率和带宽均为3。

3.根据权利要求1所述的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，所述步骤S2具体包括以下步骤：

S21、将所有所述小波时频图像作为样本，按照工况及设定的划分比例将所述样本划分为源域样本和目标域样本，并使用所述源域样本制作源域数据集；

S22、将所述目标域样本随机划分为训练样本、测试样本和验证样本，并分别制作训练集、测试集和验证集；

S23、对所述源域数据集、训练集、测试集和验证集分别进行归一化处理。

4.根据权利要求1所述的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，所述步骤S4中所述激活函数f(x)的表达式为：

f(x)＝max(0，x) (4)

其中，max(0,x)表示取特征值x与0的最大值。

5.根据权利要求1所述的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，所述步骤S1中滚动轴承的振动信号通过试验平台进行采集，所述试验平台包括电机、转矩传感器、功率计、电子控制设备和加速度传感器，所述电机、转矩传感器和功率计分别与所述电子控制设备通讯连接并受控于所述电子控制设备；所述加速度传感器沿滚动轴承旋转轴的轴向或者径向布置，用于采集滚动轴承运行过程中的加速度信号。

6.根据权利要求1所述的基于可变形卷积和Transformer的滚动轴承故障诊断方法，其特征在于，所述步骤S6中所述故障诊断结果最优即测试指标最优，所述测试指标选择故障诊断的准确率。

Images