CN113673346A - 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法 - Google Patents

一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法 Download PDF

Info

Publication number
CN113673346A
CN113673346A CN202110818587.7A CN202110818587A CN113673346A CN 113673346 A CN113673346 A CN 113673346A CN 202110818587 A CN202110818587 A CN 202110818587A CN 113673346 A CN113673346 A CN 113673346A
Authority
CN
China
Prior art keywords
scale
resnet
training
input
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110818587.7A
Other languages
English (en)
Other versions
CN113673346B (zh
Inventor
俞啸
夏冰
杨书新
丁恩杰
任晓红
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Mining and Technology CUMT
Original Assignee
China University of Mining and Technology CUMT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Mining and Technology CUMT filed Critical China University of Mining and Technology CUMT
Priority to CN202110818587.7A priority Critical patent/CN113673346B/zh
Publication of CN113673346A publication Critical patent/CN113673346A/zh
Application granted granted Critical
Publication of CN113673346B publication Critical patent/CN113673346B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/24323—Tree-organised classifiers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)

Abstract

本发明提出了一种基于多尺度SE‑Resnet的电机振动数据处理与状态识别方法，涉及故障诊断领域，首先，利用变分自编码器VAE对输入原始振动信号的特征概率分布进行学习，通过采样重构隐含变量作为深度特征，其次，将深度特征输入多尺度注意力残差网络SE‑Resnet，通过对不同尺度核的卷积特征的融合，输出多尺度特征，来提升输出特征空间的抗噪能力；最后，采用随机森林RF作为电机故障分类器，将得到的多尺度特征输入RF分类器中，实现电机故障状态识别。本发明所提出的方法可以利用多尺度特征提升模型识别精度的，能够减少对专家知识的依赖，尤其是提升模型在电机变工况和噪声干扰情况下的识别准确率，符合现实生产过程中的实际需要。

Description

一种基于多尺度SE-Resnet的电机振动数据处理与状态识别 方法
技术领域
本发明涉及故障诊断领域，尤其涉及一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法。
背景技术
电机是提升机变频控制系统中关键部件，由于长期处于复杂工作环境中，不断受到载荷多变、散热条件差、零部件老化等影响，故障频繁发生，进而降低驱动装置的工作效率和稳定性。除此之外，电机故障种类繁多，传统电机故障诊断方法存在不确定性、诊断准确率低、诊断流程复杂问题，而深度学习的故障诊断方法在故障提取方面具有较强的特征学习能力、诊断流程简单以及分类能力强优势，已成为故障诊断领域的研究热点，常见的深度学习模型有循环神经网络(Recursive Neural Netword,RNN)、Convolutional NeuralNetword,CNN)、深度置信网络(Deep Belief Netword,DBN)、变分自编码器以及他们之间的组合网络。其中，对比传统提取特征的方法，自编码器方法采用无监督学习方法从数据中提取深度特征，且深度特征替代传统时频域特征、时域特征以频域特征，这避免了专业知识的依赖和人为因素影响。因此，自编码器在特征故障提取方面广泛应用。
自动编码器(Automatic Encoder AE)是无监督学习范畴中的一种生成模型。它通常使用深度神经网络对其组件进行建模，网络不需要标签数据，如编码器和解码器。它也属于深度学习的范畴，它被定义为一种使用多个处理层形成计算模型的方法，以便在多层抽象数据中学习复杂的结构特征。2013年，Diederik P.Kingma和Max Wells首次提出了VAE的概念，并成功地将其应用于大型数据集。解码器和编码器组是VAE中的重要组成部分。编码器的目的是将高维数据映射到一个低维特征空间，得到的低维表示，称为潜码。在接收到低维表示后，解码器从这些低维表示中恢复原始数据，避免训练网络时过拟合。VAE作为一种深度特征提取器，已在故障诊断领域中表现出优异的性能。潜码在特征空间中遵循特定的分布，这样物理空间中的相邻数据点在编码器定义的特征空间中仍然可以保持较近的距离，只有故障位置的数据点与大多数数据点保持相对较大的距离。另一方面，卷积神经网络具有强大的特征信息提取和模型拟合能力，输入数据分别经过CNN的卷积层、激活层、池化层，特征通道数不断增加而特征图尺寸不断减小，同时不同尺寸的卷积核提取的特征信息也有所不同，融合不同卷积核尺寸提取的特征能够从多种层面提升CNN的特征表达能力，且注意力机制使网络能够快速聚焦、获取高相关特征信息的特点。在此基础上，针对在电机故障诊断实际应用中，监测数据严重缺乏以及变工况下与强噪音干扰环境下传统故障诊断方法准确率低问题。
由于传统电机故障诊断方法存在不确定性、诊断准确率低、诊断流程复杂问题，且诊断模型对对变工况运行条件下的泛化能力弱。自编码器方法采用无监督学习方法从数据中提取深度特征，且深度特征替代传统时频域特征、时域特征以频域特征，这避免了专业知识的依赖和人为因素影响。另一方面，不同尺寸的卷积核提取的特征信息也有所不同，融合不同卷积核尺寸提取的特征是提升网络模型的自适应性、抗噪性能和识别精度的重要手段之一。
发明内容
为了满足目前实际工业生产中对电机故障诊断的需要，保证电机能安全可靠运行，以及减少其故障所带来的风险，本发明提供一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其可以明显提高诊断准确性，减少对专家知识的依赖以及融合多尺度特征提升网络识别精度的目的，尤其是提升了模型在电机变工况和噪声干扰情况下的识别准确率，符合现实生产过程中的实际情况。
本发明是以如下技术方案实现的：一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，如图1所示，具体如下：
步骤1，利用电机机械故障实验台采集电机振动原始数据，并将所述的原始数据集划分为测试集和训练集；
步骤2，将步骤1采集的电机振动原始数据作为变分自动编码器输入，利用变分自编码器自动提取深度特征，获得每种故障状态下的深度特征；
步骤3，将步骤2获得的每种故障状态下的深度特征输入多尺度SE-Resnet网络，提取多尺度特征；
步骤4，将步骤3提取的多尺度特征作为随机森林分类的输入，用于训练故障诊断识别模型；
步骤5，构建基于变分自动编码器和多尺度注意力残差网络的电机故障诊断模型，用于电机故障诊断与状态识别；使用训练数据集对模型进行训练，利用测试集对模型性能进行测试；
优选的，步骤1具体步骤如下：将电机振动原始数据振动信号样本分为训练阶段样本集和测试阶段样本集；训练阶段样本集代表诊断问题的已知空间，样本的状态标签是已知的；测试阶段样本集，代表未知空间，需要使用训练阶段样本对诊断模型进行训练，利用训练后的模型判断测试阶段振动信号样本的状态标签。优选的，步骤2具体步骤如下：通过编码器隐含层对输入原始振动信号的特征概率分布进行学习，学习高斯分布的对数方差向量和均值向量；然后通过采样重构隐含变量，实现深度特征提取。
优选的，在步骤2中，所述变分自编码器具体计算步骤如下：
步骤2.1，设X是振动信号训练集样本集合，第k个训练样本表示为
Figure BDA0003171164280000031
其中j为信号的维度；
则自编码器的编码过程表示公式如下：
Zk＝σ1(W1·Xk+b1)
式中，Zk是隐含层的输出矢量，σ1是输入层到隐含层的激活函数，b1是输入层到隐含层的偏置参数，W1是输入层到隐含层的权重向量；
步骤2.2，解码器的解码过程表示如下：
Figure BDA0003171164280000032
式中，
Figure BDA0003171164280000041
是输出层的输出矢量，σ2是隐含层到输出层的激活函数，b2是隐含层到输出层的偏置参数，W2是隐含层到输出层的权重向量；
AE自编码器训练目标可用如下表达式表示：
Figure BDA0003171164280000042
式中，Xk是输出层的输出矢量；
步骤2.3，更新模型参数，使其损失函数最小化，对于一个输入样本，损失函数可表示为：
Figure BDA0003171164280000043
其中，J(·)是损失函数，W为权重向量，b为偏执参数；
步骤2.4，对于整个训练样本集，其损失函数可用以下表达式表示：
Figure BDA0003171164280000044
式中，λ是权重衰减系数，
Figure BDA0003171164280000045
是权重衰减的正则化项，
Figure BDA0003171164280000046
是神经元节点之间的连接权重,m样本总数量；
步骤2.5，设有两个未知分布p(x)和q(x)，则通过以下方程可得到KL散度，其中，KL为Kullback–Leibler divergence：
Figure BDA0003171164280000051
DKL((p(x))||(q(x)))称为p(x)和q(x)之间的相对熵或KL散度；
步骤2.6，则变分自动编码器VAE的最终损失函数被表示为：
Figure BDA0003171164280000052
式中，x是原始数据，y是恢复数据，λ是权重参数，
Figure BDA0003171164280000053
是生成的潜码分布，p(z)是隐藏码要遵循的正态分布，Epdata(x)[·]是数学期望，MSE是均方误差函数；
步骤2.7经过对变分自动编码器VAE的训练，将隐含层的输出矢量Zk作为样本Xk的深度特征。
优选的，在步骤5中，建立以一维数据为输入的多尺度注意力残差网络SE-Resnet网络，具体构建过程如下：
步骤A，对残差网络Resnet进行改进，设计一维多尺度Resnet网络结构，设计不同尺度的卷积核，构建多尺度ResNet网络结构，采用包含3×1、5×1、7×1多种尺寸卷积核的卷积层构建多尺度框架；
步骤B，引入注意力机制，提升网络结构的抗噪声能力和目标相关特征快速聚焦能力，对卷积块注意力模块CBAM结构进行改进，在卷积块注意力模块CBAM算法流程的基础上实现其一维结构，从而充分发挥一维卷积网络结构在分析一维时序信号中的优势；在卷积块注意力模块CBAM中，所有的卷积层和池化层均为一维结构，并将其嵌入到一维残差网络中，前一个卷积块的输出特征图经过卷积后得到一维卷积块注意力模块(1D-CBAM)的输入，然后分别通过1D-CBAM中的通道注意力和空间注意力模块对输入特征图进行重标定，得到注意力特征图作为下一个卷积块的输入；
其中，CBAM的全拼为Convolutional Block Attention Module；1D-CBAM的全拼为one-Dimensional Convolutional Block Attention Module；
构建多尺度注意力残差网络的结构，第一部分为一个卷积层和池化层构成，通过64个32×1的大尺寸卷积核提取输入特征信号中的短时特征，得到多尺度残差模块的输入特征图；多尺度残差注意力模块每层由3组残差模块和注意力模块构成；其中，每个残差模块包含两个完全相同的卷积层，注意力模块连接在每个残差模块后，用于调整特征响应的权重分布，增加特征的表达能力，其中注意力模块将分别采用一维的SE模块和CBAM模块。
优选的，在所述步骤5，具体步骤如下：利用VAE提取训练集样本的深度特征，利用SE-Resnet进一步提取深度特征的多尺度特征，以训练集的多尺度特征作为输入，完成对随机森林(RF)分类器的训练，得到训练后的分类模型，将测试集样本的多尺度特征输入训练后的RF分类器，识别测试样本的故障状态。
有益技术效果：与现有技术相比，本发明的技术方案具有以下有益技术效果：
本发明在此基础上，提出了一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，提升故障诊断模型在变工况下电机状态下诊断的准确性。该方法首先通编码器隐含层对输入原始振动信号的特征概率分布进行学习，学习高斯分布的对数方差向量和均值向量，然后通过采样重构隐含变量；其次，将隐含变量输入多尺度注意力残差网络(SE-Resnet)，得到多尺度深度特征；最后，采用随机森林(Random forest,RF)作为电机故障分类器，将得到的多尺度深度特征输入随机森林RF分类器中，实现电机故障状态识别。综上，本发明所提出的方法可以明显提高诊断准确性，减少对专家知识的依赖以及融合多尺度特征提升网络识别精度的目的，尤其是提升了模型在电机变工况和噪声干扰情况下的识别准确率，符合现实生产过程中的实际情况。
附图说明
图1是本发明一种基于变分自动编码器和多尺度SE-Resnet的电机故障诊断模型结构框图；
图2是本发明多尺度ResNet网络结构框架图；
图3是本发明CBAM嵌入残差模块示意图；
图4是本发明多尺度注意力残差网络模型结构图；
图5是本发明VAE内部操作图；
图6是本发明VAE网络结构图；
图7是本发明三种特征提取方法的S指标图；
图8是本发明三种特征提取方法的AC指标图；
图9是本发明三种特征提取方法的F指标图；
图10是本发明VAE-RF十次实验平均准确率结果图；
图11是本发明VAE-RF一次实验结果的混淆矩阵图；
图12是本发明变工况模式下下4种模型诊断准确率对比图。
具体实施方式
一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，包括3个过程，具体过程如下：首先利用SQI-MFS机械故障实验台采集电机振动信号原始数据；其次，利用VAE提取原始数据样本的深度特征，再利用SE-Resnet进一步提取深度特征的多尺度特征，最后，将多尺度特征作为随机森林分类器输入，实现样本的故障状态识别。所提出的基于变分自动编码器和多尺度SE-Resnet的电机故障诊断模型框架结构图如图1所示。
一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，如图1所示，具体如下：
步骤1，利用电机机械故障实验台采集电机振动原始数据，2048个连续数据点构建一个样本，每种转速下采集800样本，得到原始数据集。每种转速分为训练集和测试集，训练集为200样本，测试集为600样本；
步骤2，将步骤1构建的原始数据作为变分自动编码器输入，利用变分自编码器自动提取深度特征，获得每种故障状态下的深度特征；
步骤3，将步骤2的深度特征输入多尺度SE-Resnet网络，提取多尺度特征，提高特征空间的状态表达能力。通过对不同尺度核的卷积特征的融合，来提升输出特征空间的抗噪能力、诊断精度和场景适应性；
步骤4，将步骤3提取的多尺度特征作为随机森林分类的输入，用于训练故障诊断识别模型；
步骤5，构建基于变分自动编码器和多尺度注意力残差网络的电机故障诊断模型，用于电机故障诊断与状态识别；使用训练数据集对模型进行训练，利用测试集对模型性能进行测试；
优选的，步骤1具体步骤如下：将电机振动原始数据信号样本分为训练阶段样本集和测试阶段样本集；训练阶段样本集代表诊断问题的已知空间，样本的状态标签是已知的；测试阶段样本集，代表未知空间，需要使用训练阶段样本对诊断模型进行训练，利用训练后的模型来判断测试阶段振动信号样本的状态标签。
优选的，步骤2中，通过编码器隐含层对输入原始振动信号的特征概率分布进行学习，学习高斯分布的对数方差向量和均值向量；通过采样重构隐含变量，实现深度特征提取。
优选的，对于步骤2中用到变分编码器方法具体计算步骤如下：
步骤2.1，假设X是振动信号训练集样本集合，第k个训练样本表示为
Figure BDA0003171164280000081
其中j为信号的维度。则自编码器的编码过程表示公式如下：
Zk＝σ1(W1·Xk+b1)
式中，Zk是隐含层的输出矢量，σ1是输入层到隐含层的激活函数，b1是输入层到隐含层的偏置参数，W1是输入层到隐含层的权重向量。
步骤2.2，解码器的解码过程表示如下：
Figure BDA0003171164280000091
式中，
Figure BDA0003171164280000092
是输出层的输出矢量，σ2是隐含层到输出层的激活函数，b2是隐含层到输出层的偏置参数，W2是隐含层到输出层的权重向量。
AE自编码器训练目标可用如下表达式表示：
Figure BDA0003171164280000093
步骤2.3，更新模型参数，使其损失函数最小化。对于一个输入样本，损失函数可表示为：
Figure BDA0003171164280000094
式中，J(·)是损失函数，W为权重向量，b为偏执参数；
步骤2.4，对于整个训练样本集，其损失函数可用以下表达式表示：
Figure BDA0003171164280000095
式中，λ是权重衰减系数，
Figure BDA0003171164280000096
是权重衰减的正则化项，
Figure BDA0003171164280000097
是神经元节点之间的连接权重，m是样本总数量；
步骤2.5，假设有两个未知分布p(x)和q(x)，则通过以下方程可以得到KL散度(Kullback–Leiblerdivergence,KL)：
Figure BDA0003171164280000101
DKL((p(x))||(q(x)))称为p(x)和q(x)之间的相对熵或Kullback-Leibler或KL散度；
步骤2.6，则变分自动编码器VAE的最终损失函数被表示为：
Figure BDA0003171164280000102
式中，x原始数据，y是恢复数据，λ是权重参数，
Figure BDA0003171164280000103
是生成的潜码的分布，p(z)是隐藏码要遵循的正态分布，Epdata(x)[·]是数学期望，MSE是均方误差函数；
步骤2.7，经过对变分自动编码器VAE的训练，将隐含层的输出矢量Zk作为样本Xk的深度特征。
优选的，在于步骤3立以一维数据为输入的多尺度注意力残差网络SE-Resnet网络。具体构建过程如下：
步骤A，对残差网络Resnet进行改进，设计一维多尺度Resnet网络结构，设计不同尺度的卷积核，构建多尺度ResNet网络结构，采用包含3×1、5×1、7×1多种尺寸卷积核的卷积层构建多尺度框架；
步骤B，引入注意力机制，提升网络结构的抗噪声能力和目标相关特征快速聚焦能力，对卷积块注意力模块CBAM结构进行改进，在卷积块注意力模块CBAM算法流程的基础上实现其一维结构，从而充分发挥一维卷积网络结构在分析一维时序信号中的优势；在卷积块注意力模块CBAM中，所有的卷积层和池化层均为一维结构，并将其嵌入到一维残差网络中，前一个卷积块的输出特征图经过卷积后得到一维卷积块注意力模块(1D-CBAM)的输入，然后分别通过1D-CBAM中的通道注意力和空间注意力模块对输入特征图进行重标定，得到注意力特征图作为下一个卷积块的输入；
其中，CBAM的全拼为Convolutional Block Attention Module；1D-CBAM的全拼为one-Dimensional Convolutional Block Attention Module；
构建多尺度注意力残差网络的结构，第一部分为一个卷积层和池化层构成，通过64个32×1的大尺寸卷积核提取输入特征信号中的短时特征，得到多尺度残差模块的输入特征图；多尺度残差注意力模块每层由3组残差模块和注意力模块构成；其中，每个残差模块包含两个完全相同的卷积层，注意力模块连接在每个残差模块后，用于调整特征响应的权重分布，增加特征的表达能力，其中注意力模块将分别采用一维的SE模块和CBAM模块。
优选的，在步骤5，具体步骤如下：利用变分自动编码器VAE提取训练集样本的深度特征，利用SE-Resnet进一步提取深度特征的多尺度特征，以训练集的多尺度特征作为输入，完成对随机森林(RF)分类器的训练，得到训练后的分类模型，将测试集样本的多尺度特征输入训练后的RF分类器，识别测试样本的故障状态。
具体实施例如下：
1实验数据介绍
利用SQI-MFS机械故障实验台采集电机振动原始数据。在采集电机振动数据过程中，利用三电平逆变器对电机的转速进行控制，采集到电机转速为1300rpm/min、1500rpm/min以及1700rpm/min三种转速下(A、B、C)的振动数据，三种转速代表了三种不同的工况。实验台的两个加速度传感器分别安装在电机的负载端和驱动端上方，并利用MSP140801采集卡，对电机5种不同状态下的振动信号进行了采集，采样频率设置为64kHz。采用2048个连续数据点构建一个样本，每种转速(A、B、|C)情况下采集800个样本，600个样本作为训练集，200个样本作为测试集，具体划分如表1所示。
表1
Figure BDA0003171164280000121
2实验步骤
2.1VAE深度特征提取能力分析
首先将振动信号样本输入VAE，提取样本的深度特征，变分自动编码器VAE模型继承了自动编码器的体系结构，是一种深度贝叶斯网络，它将神经网络与统计数据结合在一起。与传统的自动编码器相比，它还强制潜在代码遵循特定的分布，例如高斯分布、正态分布。这种修改使学习的功能更加满足了故障深度特征提取的目标需求。
VAE的内部操作如图5所示，整个神经网络的编码器部分旨在表示条件概率
Figure BDA0003171164280000122
X是原始数据，
Figure BDA0003171164280000123
是编码器的权重，z是潜在空间特征。与传统的自动编码器不同，VAE将潜在空间特征z分布强制到标准正态分布。因此，潜在空间特征z具有稳定的统计特性，其次，解码器尝试使用潜在空间特征z恢复原始数据。具体来说，解码器用有权重θ的神经网络表示条件概率qθ(x/z)。
为了保持网络内部的不确定性，从潜在空间特征z的分布中采样解码器的输入。然后设计编码器输出两个变量，即潜在空间特征z的均值和方差向量。图6中示出了VAE的整个结构。在VAE中，输入信号首先通隐含层对数据样本进行初步特征提取，再通过编码器学习高斯分布的对数方差向量和均值向量，然后通过采样重构隐含变量，实现对潜在特征空间的建模。VAE模型通过潜在特征构造和逐层的特征提取，把输入振动信号样本变换成概率分布描述，这样更能表征数据的本质。因此，该方法用在电机振动信号时，能够精确提取出蕴含电机健康状态信息的深度特征。
选取主成分分析PCA、自动编码器AE、变分自动编码器VAE三种特征提取方法进行实验，并将提取特征维数分别设置为20、40、60、80、100、120、140、160、180、200。将提取的特征输入到随机森林RF分类器，进而输出分类结果。采用内部评价标准和外部评价标准对提取的特征进行定性的性能评估。即轮廓系数S，准确率AC，精确率和召回率指标(F指标，F-Score)。三种特征提取方法的性能评估结果如图7至图9所示。
根据图7、图8以及图9可以看出，基于变分自编码器VAE的特征提取方法在S指标、AC指标以及F指标上的表现比PCA和AE这两种特征提取方法的性能好。对于S指标，VAE在不同特征维度上的值都比其他两种方法高，这表明采用VAE特征提取方法提取的特征对电机故障状态比较敏感，且具有挖掘数据内部本质特征的能力。同时表明同类故障特征之间聚集性高。不同故障特征类别之间有明显的差异性。有利于电机故障诊断。对于AC指标，基于变分自编码器VAE方法提取的特征在电机故障诊断上具有较高的故障分类准确率，特征维数取50时，故障识别率为96％。对于F指标，可以体现出特征提取模型在提取特征方面的综合表现能力。VAE模型在F指标上表现出最好的综合效果。这表明基于变分自编码器VAE模型在特征提取方法能够深层次的挖掘数据特征，且提取的深度特征在故障诊断时，能够识别电机绝大部分故障类型。
2.2基于VAE-SE-Resnet的故障诊断模型实验分析
首先，利用VAE提取的振动信号样本的深度特征，然后，利用多尺度SE-Resnet进一步提取深度特征的多尺度特征，最后，将多尺度特征输入RF分类器进行诊断模型的训练和测试。在Pytorch框架下展开，将采集的实验数据分为训练集和测试集，选择训练集训练本发明提出的变分自动编码器和多尺度SE-Resnet的电机故障诊断模型VAE-SE-Resnet-RF网络模型，采用迭代方法进行目标函数值的计算，同时在训练中对网络权重进行更新，最后将测试集数据输入已经训练好的VAE-SE-Resnet-RF网络模型，进而实现电机故障诊断与识别。训练集总样本数为3000，迭代周期为40，训练次数100次。针对测试集，将电机原始信号作为VAE网络的输入，提取其深度特征，再利用SE-Resnet进一步提取深度特征的多尺度特征，然后，将提取多尺度特征输入随机森林RF网络中，并进行电机故障诊断与模式识别。在此基础上，利用VAE-SE-Resnet-RF网络模型进行10次重复实验。10次实验准确率平均结果如图10所示。根据图可知，10次试验结果准确率都在96.5％以上，试验结果表明了VAE-SE-Resnet-RF模型有利于电机故障诊断与识别。如图11所示，VAE-SE-Resnet-RF一次实验结果的混淆矩阵图，根据图可知，转子断条故障诊断识别准确率最低，转子断条样本中有2.7％样本被错误分类到轴承故障且1.8％样本被错误分类到定子绕组。轴承故障被错误分类最多，有3.7％的样本被错误分类到转子断条，而正常状态和电压不平衡故障分类准确率都是100％。整体电机故障诊断的分类准确率为97.8％。
2.3故障识别方法对比实验分析
在对照试验中，为了验证所提出故障识别方法的有效性与可靠性，让VAE-SE-Resnet-RF与CNN-RF、LSTM、CNN三种深度网络模型分别对电机故障诊断与分类；其中，CNN-RF模型表示采用卷积神经网络对原始数据进行深度特征提取，再利用随机森林分类器进行电机故障诊断与识别；LSTM模型是长短期记忆人工神经网络模型；CNN模型表示卷积神经网络模型。4种模型对比实验诊断结果如表2所示。由表可知，VAE的深层网络可以直接从电机振动原始信号中提取用于电机故障诊断的深度特征，提取的深度特征能够更好的表征电机的健康状态，再结合RF网络进行故障分类。测试集最高故障识别准确率达到97.72％，表明VAE-SE-Resnet-RF模型比其他故障诊断方法具有更加卓越的性能。
表2
模型 训练准确率％ 测试准确率％
CNN 96.32％±0.20％ 94.15％±0.66％
CNN-RF 96.20％±0.48％ 94.28％±0.13％
LSTM 97.68％±0.80％ 95.33％±0.18％
VAE-SE-Resnet-RF 99.93％±0.06％ 97.72％±0.12％
2.4变工况实验分析
电机在实际工作运行中，电机常常处于变工况的环境下，为了验证所提出模型在变工况下的适应性、可靠性和有效性，将CNN、CNN-RF、LSTM模型与VAE-SE-Resnet-RF模型展开对比实验，工况设置和不同工况下4种模型实验结果如表3和图12所示。其中，A表示电机转速1300rpm/min，B表示电机转速1500rpm/min，C表示电机转速1700rpm/min，并设置A-A、A-B、A-C、B-C共4种工况，在4种工况下，VAE-CNN模型准确率均高于其他四种诊断模型。对于A-C工况，采用A工况的数据集进行模型训练，采用C工况的数据集进行测试。由于电机转速相差较大，致使模型诊断准确率低于A-B和A-C工况下的准确率。但是，即使在这种工况下，VAE-SE-Resnet-RF模型准确率仍比其他诊断模型准确率高。
表3
Figure BDA0003171164280000151
实验结果表明VAE-SE-Resnet-RF模型利用VAE模型能够从电机原始振动信号中提取表征信息本质的深度特征。在不同工况下，该特征用于电机故障诊断具有良好的有效性和适用性，与其他方法相比，该方法提取的深度特征更有利于电机故障识别分类。
综合上述实验分析结果，可以得出：
(1)变分自编码器VAE模型在特征提取方法能够深层次的挖掘数据特征，且提取的深度特征在故障诊断时，能够识别电机绝大部分故障类型。
(2)多尺度SE-Resnet网络具有强大的特征信息提取和模型拟合能力，不同尺寸的卷积核提取的特征信息也有所不同，融合不同卷积核尺寸提取的特征能够从多种层面提升SE-Resnet网络的特征表达能力。
(3)本发明首次构建了多尺度特征融合框架，其次在研究常用于图像领域的注意力机制实现原理的基础上，构建了用于一维振动信号的注意力模块，分别提出了基于SE和CBAM的多尺度残差网络模型。本发明所提的模型具有良好的变工况自适应性和抗噪性能。
(4)本发明提出的基于变分自动编码器和多尺度SE-Resnet的电机故障诊断模型，不仅在稳定工况下，具有良好的故障识别效果，并且在变工况下，其故障识别准确率均比其他方法有明显提高，具有良好的鲁棒性和可靠性。
采用SQI-MFS机械故障实验台进行多个对比试验，验证了所提出基于变分自动编码器和多尺度SE-Resnet的电机故障诊断模型可以提升变工况场景下电机故障诊断模型的识别准确率。以上内容是结合实际案例的具体实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只限于这些说明，在不脱离本发明构思的前提下，相关领域的技术人员对其做出若干简单推演或替换均应视为属于本发明的保护范围。

Claims (6)

1.一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于，具体包含如下步骤：
步骤1，利用电机机械故障实验台采集电机振动原始数据并将所述的原始数据集划分为测试集和训练集；
步骤2，将步骤1采集的电机振动原始数据作为变分自动编码器输入，利用变分自编码器自动提取深度特征，获得每种故障状态下的深度特征；
步骤3，将步骤2获得的每种故障状态下的深度特征输入多尺度SE-Resnet网络，提取多尺度特征；
步骤4，将步骤3提取的多尺度特征作为随机森林分类的输入，用于训练故障诊断识别模型；
步骤5，构建基于变分自动编码器和多尺度注意力残差网络的电机故障诊断模型，用于电机故障诊断与状态识别；使用训练数据集对模型进行训练，利用测试集对模型性能进行测试。
2.根据权利要求1所述的一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于：所述步骤1具体步骤如下：
将电机振动原始数据信号样本分为训练阶段样本集和测试阶段样本集；训练阶段样本集代表诊断问题的已知空间，样本的状态标签是已知的；测试阶段样本集，代表未知空间，需要使用训练阶段样本对诊断模型进行训练，利用训练后的模型判断测试阶段振动信号样本的状态标签。
3.根据权利要求1所述的一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于：所述步骤2具体步骤如下：
通过编码器隐含层对输入原始振动信号的特征概率分布进行学习，学习高斯分布的对数方差向量和均值向量；通过采样重构隐含变量，实现深度特征提取。
4.根据权利要求1所述的一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于：在步骤2中，所述变分自编码器具体计算步骤如下：
步骤2.1，设是振动信号训练集样本集合，第k个训练样本表示为
Figure FDA0003171164270000021
其中j为信号的维度；
则自编码器的编码过程表示公式如下：
Zk＝σ1(W1·Xk+b1)
式中，Zk是隐含层的输出矢量，σ1是输入层到隐含层的激活函数，b1是输入层到隐含层的偏置参数，W1是输入层到隐含层的权重向量；
步骤2.2，解码器的解码过程表示如下：
Figure FDA0003171164270000022
式中，
Figure FDA0003171164270000023
是输出层的输出矢量，σ2是隐含层到输出层的激活函数，b2是隐含层到输出层的偏置参数，W2是隐含层到输出层的权重向量；
AE自编码器训练目标可用如下表达式表示：
Figure FDA0003171164270000024
式中，Xk是输出层的输出矢量；
步骤23，更新模型参数，使其损失函数最小化，对于一个输入样本，损失函数可表示为：
Figure FDA0003171164270000031
式中，J(·)是损失函数，W为权重向量，b为偏执参数；
步骤2.5，对于整个训练样本集，其损失函数可用以下表达式表示：
Figure FDA0003171164270000032
式中，λ是权重衰减系数，
Figure FDA0003171164270000033
是权重衰减的正则化项，
Figure FDA0003171164270000034
是神经元节点之间的连接权重m样本总数量；
步骤2.6，设有两个未知分布p(x)和q(x)，则通过以下方程可得到KL散度,其中，KL为Kullback–Leiblerdivergence：
Figure FDA0003171164270000035
DKL((p(x))||(q(x)))称为p(x)和q(x)之间的相对熵或KL散度；
步骤2.7，则变分自动编码器VAE的最终损失函数被表示为：
Figure FDA0003171164270000036
式中，x是原始数据，y是恢复数据，λ是权重参数，
Figure FDA0003171164270000037
是生成的潜码的分布，p(z)是隐藏码要遵循的正态分布，Epdata(x)[·]是数学期望，MSE是均方误差函数；
步骤2.8经过对变分自动编码器VAE的训练，将隐含层的输出矢量Zk作为样本Xk的深度特征。
5.根据权利要求4所述的一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于：在步骤5中，建立以一维数据为输入的多尺度注意力残差网络SE-Resnet网络，具体构建过程如下：
步骤A，对残差网络Resnet进行改进，设计一维多尺度Resnet网络结构，设计不同尺度的卷积核，构建多尺度ResNet网络结构，采用包含3×1、5×1、7×1多种尺寸卷积核的卷积层构建多尺度框架；
步骤B，引入注意力机制，提升网络结构的抗噪声能力和目标相关特征快速聚焦能力，对卷积块注意力模块CBAM结构进行改进，在卷积块注意力模块CBAM算法流程的基础上实现其一维结构，从而充分发挥一维卷积网络结构在分析一维时序信号中的优势；在卷积块注意力模块CBAM中，所有的卷积层和池化层均为一维结构，并将其嵌入到一维残差网络中，前一个卷积块的输出特征图经过卷积后得到一维卷积块注意力模块(1D-CBAM)的输入，然后分别通过1D-CBAM中的通道注意力和空间注意力模块对输入特征图进行重标定，得到注意力特征图作为下一个卷积块的输入；其中，CBAM的全拼为Convolutional Block AttentionModule；
1D-CBAM的全拼为one-DimensionalConvolutional Block Attention Module；
构建多尺度注意力残差网络的结构，第一部分为一个卷积层和池化层构成，通过64个32×1的大尺寸卷积核提取输入特征信号中的短时特征，得到多尺度残差模块的输入特征图；多尺度残差注意力模块每层由3组残差模块和注意力模块构成；其中，每个残差模块包含两个完全相同的卷积层，注意力模块连接在每个残差模块后，用于调整特征响应的权重分布，增加特征的表达能力，其中注意力模块将分别采用一维的SE模块和CBAM模块。
6.根据权利要求5所述的一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法，其特征在于，所述步骤5，具体步骤如下：利用VAE提取训练集样本的深度特征，利用SE-Resnet进一步提取深度特征的多尺度特征，以训练集的多尺度特征作为输入，完成对随机森林RF分类器的训练，得到训练后的分类模型，将测试集样本的多尺度特征输入训练后的RF分类器，识别测试样本的故障状态。
CN202110818587.7A 2021-07-20 2021-07-20 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法 Active CN113673346B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110818587.7A CN113673346B (zh) 2021-07-20 2021-07-20 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110818587.7A CN113673346B (zh) 2021-07-20 2021-07-20 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法

Publications (2)

Publication Number Publication Date
CN113673346A true CN113673346A (zh) 2021-11-19
CN113673346B CN113673346B (zh) 2022-07-22

Family

ID=78539627

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110818587.7A Active CN113673346B (zh) 2021-07-20 2021-07-20 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法

Country Status (1)

Country Link
CN (1) CN113673346B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114858467A (zh) * 2022-05-26 2022-08-05 上海交通大学 柴油机抗噪和跨噪声域失火诊断方法及系统
CN114897292A (zh) * 2022-03-28 2022-08-12 南京林业大学 基于多尺度残差卷积变分网络故障诊断方法和诊断系统
CN115647933A (zh) * 2022-11-02 2023-01-31 富联裕展科技(深圳)有限公司 主轴偏摆异常检测方法、装置以及存储介质
CN115762558A (zh) * 2022-11-18 2023-03-07 沃克斯迅达电梯有限公司 自动扶梯生产用性能检测系统及其方法
CN115798516A (zh) * 2023-02-07 2023-03-14 海纳科德（湖北）科技有限公司 一种可迁移的端到端声信号诊断方法及系统
WO2023071217A1 (zh) * 2021-10-27 2023-05-04 中国华能集团清洁能源技术研究院有限公司 基于深度迁移学习的多工况流程工业故障检测诊断方法
CN116644377A (zh) * 2023-05-16 2023-08-25 华东理工大学 一种基于一维卷积-堆叠自编码器的软测量模型构建方法
CN116738339A (zh) * 2023-06-09 2023-09-12 北京航空航天大学 一种小样本电信号多分类深度学习识别检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109902399A (zh) * 2019-03-01 2019-06-18 哈尔滨理工大学 一种基于att-cnn的变工况下滚动轴承故障识别方法
CN112577748A (zh) * 2020-12-07 2021-03-30 东南大学 基于强化的轻量级多尺度cnn的滚动轴承故障诊断方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109902399A (zh) * 2019-03-01 2019-06-18 哈尔滨理工大学 一种基于att-cnn的变工况下滚动轴承故障识别方法
CN112577748A (zh) * 2020-12-07 2021-03-30 东南大学 基于强化的轻量级多尺度cnn的滚动轴承故障诊断方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
毛静怡等: "多尺度深度特征提取的肝脏肿瘤CT 图像分类", 《中国图象图形学报》 *
贾修一等: "基于变分自编码器的异构缺陷预测特征表示方法", 《软件学报》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023071217A1 (zh) * 2021-10-27 2023-05-04 中国华能集团清洁能源技术研究院有限公司 基于深度迁移学习的多工况流程工业故障检测诊断方法
CN114897292A (zh) * 2022-03-28 2022-08-12 南京林业大学 基于多尺度残差卷积变分网络故障诊断方法和诊断系统
CN114858467A (zh) * 2022-05-26 2022-08-05 上海交通大学 柴油机抗噪和跨噪声域失火诊断方法及系统
CN114858467B (zh) * 2022-05-26 2023-05-26 上海交通大学 柴油机抗噪和跨噪声域失火诊断方法及系统
CN115647933A (zh) * 2022-11-02 2023-01-31 富联裕展科技(深圳)有限公司 主轴偏摆异常检测方法、装置以及存储介质
CN115647933B (zh) * 2022-11-02 2023-10-27 富联裕展科技(深圳)有限公司 主轴偏摆异常检测方法、装置以及存储介质
CN115762558A (zh) * 2022-11-18 2023-03-07 沃克斯迅达电梯有限公司 自动扶梯生产用性能检测系统及其方法
CN115798516A (zh) * 2023-02-07 2023-03-14 海纳科德（湖北）科技有限公司 一种可迁移的端到端声信号诊断方法及系统
CN116644377A (zh) * 2023-05-16 2023-08-25 华东理工大学 一种基于一维卷积-堆叠自编码器的软测量模型构建方法
CN116738339A (zh) * 2023-06-09 2023-09-12 北京航空航天大学 一种小样本电信号多分类深度学习识别检测方法

Also Published As

Publication number Publication date
CN113673346B (zh) 2022-07-22

Similar Documents

Publication Publication Date Title
CN113673346B (zh) 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法
CN113378632B (zh) 一种基于伪标签优化的无监督域适应行人重识别方法
CN107564025B (zh) 一种基于深度神经网络的电力设备红外图像语义分割方法
CN111914873A (zh) 一种两阶段云服务器无监督异常预测方法
Xia et al. Multi-stage fault diagnosis framework for rolling bearing based on OHF Elman AdaBoost-Bagging algorithm
CN111914883B (zh) 一种基于深度融合网络的主轴轴承状态评估方法及装置
CN110516305B (zh) 基于注意机制元学习模型的小样本下故障智能诊断方法
CN114755745B (zh) 基于多通道深度残差收缩网络的冰雹天气识别与分类方法
Chen et al. Machine fault classification using deep belief network
CN111562108A (zh) 一种基于cnn和fcmc的滚动轴承智能故障诊断方法
CN111353373A (zh) 一种相关对齐域适应故障诊断方法
CN110726898B (zh) 一种配电网故障类型识别方法
Lee et al. Unsupervised anomaly detection of the gas turbine operation via convolutional auto-encoder
CN115290326A (zh) 一种滚动轴承故障智能诊断方法
CN112329536A (zh) 一种基于交替对抗迁移学习的单样本人脸识别方法
CN115659174A (zh) 基于图正则化CNN-BiLSTM的多传感器故障诊断方法、介质及设备
CN113887342A (zh) 基于多源信号和深度学习的设备故障诊断方法
CN117237733A (zh) 一种结合自监督和弱监督学习的乳腺癌全切片图像分类方法
CN115271063A (zh) 基于特征原型投影的类间相似性知识蒸馏方法与模型
Li et al. A robust fault diagnosis method for rolling bearings based on deep convolutional neural network
CN116738330A (zh) 一种半监督域自适应脑电信号的分类方法
CN111796173B (zh) 局部放电模式识别方法、计算机设备和存储介质
CN111797732B (zh) 一种对采样不敏感的视频动作识别对抗攻击方法
CN114997214A (zh) 一种残差密集网络故障诊断方法以及装置
CN113435321A (zh) 一种主轴轴承状态评估方法、系统、设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant