CN110608884B - 一种基于自注意力神经网络的滚动轴承状态诊断方法 - Google Patents

Abstract

本发明公开了一种基于自注意力神经网络的滚动轴承状态诊断方法，包括：使用振动加速传感器采集不同电机负载下不同状态的滚动轴承振动加速度的时序信号，得到振动加速度数据作为样本数据；对采集的样本数据进行数据增强处理；对数据增强处理后的样本数据按照滚动轴承状态类型贴上相应标签；利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征；构建自注意力网络诊断模型；用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，并将其应用于监测待诊断的滚动轴承。本发明使用数据增强技术、拓展特征方法，减少了该方法对数据量的需求，增加了本发明应对极端环境的能力。

Description

一种基于自注意力神经网络的滚动轴承状态诊断方法

技术领域

本发明涉及技术领域，尤其涉及一种基于自注意力神经网络的滚动轴承状态诊断方法。

背景技术

现代工业中，机械装置故障诊断是安全生产必不可少的环节，优秀的故障监测系统通常能有效的避免危险情况的发生。因此，健康监测技术是现代工业基本需求。滚动轴承是旋转机械装置中最为常用的部件，一旦轴承发生故障可能导致严重事故甚至造成巨大经济损失和人员伤亡。故障诊断方法对提高机械的安全性和可靠性具有十分重要的意义。过去二十年，轴承故障诊断技术一直是研究的热点。现主流方法是在轴承振动加速度时序信号进行振动分析与监测。

目前基于机器学习技术的算法在智能故障诊断领域取得巨大成功。智能故障诊断技术逐渐取代了并不可靠的人工分析，大大提高了故障诊断的效率。深度学习模型借助多层非线性映射能力更好的逼近复杂函数，从而提高轴承故障诊断的准确性。常见故障诊断算法分为三个部分:从原始信号中获取可用信息，在信息中提取特征，基于这些特征进行分类训练；以往的研究表明，分类结果的准确性在很大程度上取决于提取特征过程。因此，特征的抽取是近年来机器学习在故障诊断领域的一个重要研究方向。

申请号为CN107421741A的发明专利公开了“一种基于卷积神经网络的滚动轴承故障诊断方法”，通过卷积神经网络对振动信号卷积；该方法试图利用大量数据达到增加诊断精度效果，但是实际情况难以预测，极端环境可能存在数据量不足情况。

发明内容

有鉴于此，本发明的目的是提供一种基于自注意力神经网络的滚动轴承状态诊断方法，利用数据增强技术和特征扩充操作解决目前主流方法存在对大量数据依赖的问题。

本发明通过以下技术手段解决上述技术问题：

一种基于自注意力神经网络的滚动轴承状态诊断方法，包括：

使用振动加速传感器采集不同电机负载下不同状态的滚动轴承振动加速度的时序信号，得到振动加速度数据作为样本数据；

对采集的样本数据进行数据增强处理；

对数据增强处理后的样本数据按照滚动轴承状态类型贴上相应标签；

利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征；

构建自注意力网络诊断模型；

用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，并将其应用于监测待诊断的滚动轴承；

所述滚动轴承的状态分为正常状态、内圈故障、外圈故障和滚动体故障；

将贴上标签后的样本数据随机分为训练集(X^train，Y^train)和测试集 (X^text，Y^text)，其中X代表样本数据，Y代表数据标签，通过训练集和测试集对自注意力网络诊断模型进行训练和测试；

利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征，具体包括：

将每一段样本数据映射至一个n层的多元感知器，多元感知器包含多个隐藏层，每一层对前一层的输出执行非线性转换，以获取层特征矩阵 K(l₁，l₂，l₃，...l_n)；其中，定义输入数据为X＝(x₁，x₂，x₃，...x_m)，m为样本数据个数，则：

l₁＝ReLU(WS+b)

l_n＝ReLU(W_nl_n-1+b_n)

其中，l_n代表每第n个隐藏层。

进一步，构建自注意力网络诊断模型是具体步骤包括：

计算注意力分数；

确定自注意力网络的loss函数，loss函数的公式如下：

其中，p目标分布，q为预估分布；

引入drop-out，以减少自注意力网络的神经元。

进一步，用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，具体包括：

设定自注意力网络诊断模型的训练参数，输入训练集和测试集开始训练和测试；

依据诊断模型的诊断训练结果的准确率、精准率、召回率和F1-Measure，对训练后的诊断模型进行评估；

检查评估结果是否合理，以判断是否出现过拟合状态和需要调整诊断模型参数和训练样本数量。

进一步，所述训练参数包括全局学习速率、初始化参数、数值稳定量、衰减速率、梯度累积量和停止准则。

本发明的有益效果：

1、本发明是一种新的、简单的、易于实现的学习框架，本方法直接作用于原始的一维振动信号，相比传统算法省时省力。

2、本发明使用数据增强技术、拓展特征方法，减少了该方法对数据量的需求，增加了本发明应对极端环境的能力。

3、本发明使用自注意力网络做智能诊断，相对于其他算法，自注意力网络不仅拥有着更好的学习能力与运算速度，并且能提取出更具代表性的特征向量。

附图说明

图1是本发明一种基于自注意力神经网络的滚动轴承状态诊断方法的流程图；

图2为本发明实施例提供的数据增强处理的说明图；

图3为本发明实施例提供的特征扩充处理详细说明图本发明实施例提供的正常轴承振动信号示意图；

图4为本发明实施例提供注意力神经网络诊断模型的说明图的内圈故障轴承振动信号示意图；

图5为Drop-out详细说明图；

图6为本发明实施例提供的正常轴承振动信号示意图；

图7a-图7c为本发明实施例提供的内圈故障轴承振动信号示意图；

图8a-图8c为本发明实施例提供的外圈故障轴承振动信号示意图；

图9a-图9c为本发明实施例提供的滚动体故障轴承振动信号示意图；

图10为本发明实施例提供的美国西储大学的轴承数据集自注意力网络诊断模型训练集的准确率示意图；

图11为本发明实施例提供的美国西储大学的轴承数据集自注意力网络诊断模型的测试集的准确率示意图。

具体实施方式

以下将结合附图和具体实施例对本发明进行详细说明：

如图1所示，本发明的一种基于自注意力神经网络的滚动轴承状态诊断方法，包括：

S1:使用振动加速传感器采集不同电机负载下不同状态的滚动轴承振动加速度的时序信号，得到振动加速度数据作为样本数据；其中，所述样本数据应该包括滚动轴承在正常状态、内圈故障、外圈故障和滚动体故障下的振动加速度数据。

S2：对采集的样本数据进行数据增强处理；

在故障诊断领域，采集到的振动信号通常是一个很长的时间序列。长时间序列建模和挖掘特征几乎是不可能的。因此，对数据进行一定处理是很有必要的。

由于机器学习任务中必须有大量的训练数据作为支撑，而原始振动数据是一维时序信号，利用时间序列分割成若干个较短的时间序列来增加一维时序信号样本数量，这在计算机视觉领域被称为“数据增强”，使用数据增强技术对原始振动信号进行预处理后，得到数据向量组成该轴承数据库。具体数据增强技术如图2所示，采用合适的样本长度和样本数量，从而扩充数据样本，获取大量振动信号特征向量。

S3：对数据增强处理后的样本数据按照滚动轴承状态类型贴上相应标签；将贴上标签后的样本数据随机分为训练集(X^train，Y^train)和测试集(X^text，y^text)，其中X代表样本数据，Y代表数据标签。

S4：利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征，详细见图3；

在传统诊断算法中，很少体现对振动信号多样性的关注，本发明将每一段样本数据映射至一个n层的多元感知器，多元感知器包含多个隐藏层，每一层对前一层的输出执行非线性转换，以获取层特征矩阵K(l₁，l₂，l₃，...l_n)；其中，定义输入数据为X＝(x₁，x₂，x₃，...x_m)，m为样本数据个数，则：

l₁＝ReLU(WS+b)

l_n＝ReLU(W_nl_n-1+b_n)

其中，l_n代表每第n个隐藏层。

S5：构建自注意力网络诊断模型；

在步骤S4获取到特征矩阵K(l₁，l₂，l₃，...l_n)，自注意力网络就适用于本发明模型。自注意力网络可以快速分辨出振动信号的每一个特征向量所包含的信息量，给予不同注意力系数，从而提高了诊断精度。相比与传统CNN网络与RNN 网络，CNN网络与RNN网络的输入都是定长的，因此在训练时，短序列需要通过补0等padding操作来扩充到最大长度，这样就相当于在模型的输入出引入了噪声数据。本发明借助特征扩充扩大振动信号的特征向量，能够更好的挖掘振动信号的隐含振动信息，必然导致出现一些振动信息含量少甚至无用向量，这时利用自注意力网络很好的保留振动信号特征，消除不相干信息与噪声信息。具体操作如图4所示，具体如下：

S5.1：计算注意力分数，令Q＝K^T，则注意力分数矩阵公式如下：

A＝softmax(α(Q，K))

A中的每一行都是特征向量的注意力分数向量，运用softmax函数是为了保证注意力分数向量中的所有数累加为1；其中α(Q，K)是一个计算注意力分数的函数，目的是计算每一个振动特征具备的故障信息程度；

本发明采用的函数如下：

α(Q，K)＝K*WQ

其中W为权重矩阵；

因此注意力特征矩阵表示为：

V＝AK

S5.2：确定自注意力网络的loss函数；

本发明使用softmax输出概率分布与目标分别之间的交叉熵，设为p目标分布，q为预估分布，loss函数公式如下：

优化方法选择mini-batch随机下梯度降法训练，很多机器学习任务结果表明，采用小批处理方法计算梯度，更新参数，得到的模型泛化能力较好，即使用更小的batch，减少每次训练数据量，增加了模型的干扰能力同时也加强了模型提取诊断信号具有代表性的特征，从而提升模型的泛化能力。

S5.3：引入drop-out；

训练模型中加入drop-out。一是为了减少神经元训练提高精度，二是由于本模型输入为原始一维信号，通过减少原始输入增加噪声的方法以增加模型的鲁棒性。如图5所示，在深度网络中加入drop-out训练效果往往更加有效。

S6:用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，并将其应用于监测待诊断的滚动轴承；

S6.1:设定自注意力网络诊断模型的训练参数，输入训练集和测试集开始训练和测试；

S6.2:依据诊断模型的诊断训练结果的准确率、精准率、召回率和 F1-Measure，对训练后的诊断模型进行评估；

准确率是评价模型整体诊断性能指标，其数学公式为：

精确率是诊断数据集正确识别比例，对于故障类型k精确率公式为：

召回率是测试集中存在某一类样本总数中正确识别的样本所占的比例，对于类别k，召回率的计算式为：

Fl值是根据准确率和召回率的调和均值，是两者的综合的评价指标，其公式为：

S6.3:检查评估结果是否合理，以判断是否出现过拟合状态和需要调整诊断模型参数和训练样本数量；

若训练集上的准确度较高而验证集上的准确度较低，则模型处于过拟合状态，需要适当提高正则化系数和Dropout概率，加大对模型复杂度的限制或者增加训练样本，以减少过拟合；若训练集和验证集上的准确度都比较低，则需要重新调整模型结构，增加模型的复杂度以提高模型的拟合能力。

为对本发明的方法进行说明、验证，本实施例中使用美国西储大学实验室提供的正常轴承和故障轴承的测试数据作为样本数据集。测试试验台由一个电机，转矩传感器，功率计和控制器组成，该样本数据集共采集了正常轴承、单点驱动端和风扇端故障在0hp，1hp，2hp，3hp电机负载下的数据。实验数据由每秒12000个样本的加速度计电机驱动机械系统完成。对于故障轴承，使用电火花加工技术对轴承外圈、内圈、滚动体制造直径为0.007mils、0.014mils 和0.021mils的单点缺陷。下面实验选取0ph下十种不同状态信号数据作为实验数据。

从美国西储大学的轴承数据集描述中得到数据采集的频率和转速，推断出轴承每圈采集的数据数量，公式为:采样计数/圈数＝采样频率*60/转速＝ 12000*60/1797＝400。因此，每个样本的长度可以设定为400，可以保证每个样本都覆盖轴承一整圈测试数据并且可以根据振动信号的长度和样本的数量灵活调整滑动步幅。

标签等级按照故障等级分为0,1,2,3,4,5,6,7,8,9，分别对应正常状态， 7mils内圈故障，14mils内圈故障，21mils内圈故障，7mils外圈故障，14mils 外圈故障，21mils外圈故障，7mils滚动体故障，14mils滚动体故障，21mils 滚动体故障。图6为正常轴承振动信号示意图，图7a-图7c为内圈各等级故障轴承振动信号示意图，图8a-图8c为外圈各等级故障轴承振动信号示意图，图9a-图9c为滚动体各等级故障轴承振动信号示意图。

本发明用西储大学的轴承数据集训练集与测试集准确率分别如图10和图 11所示。每一故障类型取500个样本数据，在机器学习领域500个样本，相对与传统方法，500个样本数据确不算多。各指标精度如下表所示：

从测试集准确率略高于训练集，可以得出本发明在西储大学的轴承数据训练过程是可靠，并未出现过拟合现象。从各个指标结果来看，本发明的诊断精度几乎到达100％，由此证明本发明在少量数据的情况下也能得到不错的诊断结果。

以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。本发明未详细描述的技术、形状、构造部分均为公知技术。

Claims (4)

1.一种基于自注意力神经网络的滚动轴承状态诊断方法，其特征在于，包括：

使用振动加速传感器采集不同电机负载下不同状态的滚动轴承振动加速度的时序信号，得到振动加速度数据作为样本数据；

对采集的样本数据进行数据增强处理；

对数据增强处理后的样本数据按照滚动轴承状态类型贴上相应标签；

利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征；

构建自注意力网络诊断模型；

用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，并将其应用于监测待诊断的滚动轴承；

所述滚动轴承的状态分为正常状态、内圈故障、外圈故障和滚动体故障；

将贴上标签后的样本数据随机分为训练集(X^train，Y^train)和测试集(X^text，Y^text)，其中X代表样本数据，Y代表数据标签，通过训练集和测试集对自注意力网络诊断模型进行训练和测试；

利用多层映射扩展每一个样本数据的特征矢量，从一维特征变为多维特征，具体包括：

将每一段样本数据映射至一个n层的多元感知器，多元感知器包含多个隐藏层，每一层对前一层的输出执行非线性转换，以获取层特征矩阵K(l₁，l₂，l₃，...l_n)；其中，定义输入数据为X＝(x₁，x₂，x₃，…x_m)，m为样本数据个数，则：

l₁＝ReLU(WS+b)

l_n＝ReLU(W_nl_n-1+b_n)

其中，l_n代表每第n个隐藏层。

2.根据权利要求1所述的一种基于自注意力神经网络的滚动轴承状态诊断方法，其特征在于：构建自注意力网络诊断模型是具体步骤包括：

计算注意力分数；

确定自注意力网络的loss函数，loss函数的公式如下：

其中，p目标分布，q为预估分布；

引入drop-out，以减少自注意力网络的神经元。

3.根据权利要求2所述的一种基于自注意力神经网络的滚动轴承状态诊断方法，其特征在于：用处理后的样本数据对自注意力网络诊断模型进行训练，评估训练后的诊断模型，具体包括：

设定自注意力网络诊断模型的训练参数，输入训练集和测试集开始训练和测试；

依据诊断模型的诊断训练结果的准确率、精准率、召回率和F1-Measure，对训练后的诊断模型进行评估；

检查评估结果是否合理，以判断是否出现过拟合状态和需要调整诊断模型参数和训练样本数量。

4.根据权利要求3所述的一种基于自注意力神经网络的滚动轴承状态诊断方法，其特征在于：所述训练参数包括全局学习速率、初始化参数、数值稳定量、衰减速率、梯度累积量和停止准则。

Images