CN113887586A - 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法 - Google Patents

小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法 Download PDF

Info

Publication number
CN113887586A
CN113887586A CN202111089878.3A CN202111089878A CN113887586A CN 113887586 A CN113887586 A CN 113887586A CN 202111089878 A CN202111089878 A CN 202111089878A CN 113887586 A CN113887586 A CN 113887586A
Authority
CN
China
Prior art keywords
model
target domain
svm
layer
domain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111089878.3A
Other languages
English (en)
Inventor
叶力豪
王昕毅
文成林
张俊锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dianzi University
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN202111089878.3A priority Critical patent/CN113887586A/zh
Publication of CN113887586A publication Critical patent/CN113887586A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)

Abstract

本发明公开了一种小样本下基于特征融合的FFCNN‑SVM迁移学习故障诊断方法。本发明中通过迁移学习中模型迁移的方法，将源域中成熟模型迁移至目标域中，构成目标域的初步模型。之后利用卷积层能够提取图片特征的特性，在初步模型上增加卷积层，之后利用目标域所提供的少量稀缺样本数据训练这个初步模型，待拟合后构成目标域浅层模型。之后利用SVM来替代CNN的全连接层，起到分类的效果。通过轴承故障数据集，能够很好的验证该方法的故障诊断新能。通过实验结果表明，本专利所提出的方法与其他迁移学习方法相比具有较好的故障诊断效果。

Description

小样本下基于特征融合的FFCNN-SVM迁移学习故障诊断方法
技术领域
本发明属于故障诊断领域，具体涉及在小样本下基于特征融合的FFCNN-SVM迁移学习故障诊断方法。
背景技术
滚动轴承作为工业生产设备中的关键零部件，一旦发生故障，将直接影响整台机械设备的安全运行，并且导致较高的维护成本和经济损失。因此，早期准确地检测这些故障对现代制造系统的运行安全至关重要。此外，它还可以通过相应地维护，适当地维护策略等方式来保证控制系统的可靠性和安全性。由于故障类型的复杂、现场传感器的噪声信号和故障样本的缺乏，早期和准确的故障诊断仍然非常具有挑战性，是一个活跃的研究领域。
在过去的几年中，基于深度学习的方法在语音识别等许多研究领域都取得了显著的成功。虽然基于深度学习的方法可以实现很高的故障识别率，但他们的使用前提是需要大量的正确的带标注样本来训练网络参数。但往往在实际工况中，故障样品稀缺且难以采集。此外，即使采集到了故障样本，也需要经验丰富的专家来注释样本。深度神经网络的一些早期工作利用未标记数据以分层的方式预训练深度自编码器，然后用标记数据对其进行微调。例如，Jia等人提出，深度神经网络由无监督方式的级联自动编码器组成，然后由标记数据监督的方式进行微调，使旋转机械故障具有识别特征学习和分类能力。Sun等人，利用稀疏自动编码器学习特征，然后利用它们训练神经网络分类器进行运动故障诊断。然而，预训练的网络从大量未标记数据中学习的特征可能不那么容易区别，因为当故障样本如此稀缺且被正常样本淹没时，很难揭示故障样本的内在特征。
发明内容
本发明针对现有迁移学习方法上的不足，设计一种基于特征融合的FFCNN-SVM(Feature Fusion Convolutional Neural Network-Support Vector Machines)迁移学习故障诊断方法。本发明在利用迁移学习中模型迁移的思想，在源域目标域特征融合的基础上，提出了FFCNN-SVM迁移方法。本发明在相同负载下，滚动轴承的不通故障以及正常样本的故障诊断方法如说明书附图图1和图2所示。具体流程步骤为：
步骤(1)：利用迁移学习中，模型迁移的思想，将源域训练好的成熟模型迁移至目标域中，并且在源域模型的基础上，同比例增加卷积层与池化层，因为源域模型中的卷积层只单单提取了源域数据特征，而目标域与源域属异域迁移，只用源域所提取的卷积层是远远不够的，所以在此基础上增加卷积层与池化层用于提取目标域特征。
步骤(2)：在步骤(1)的基础上，冻结源域迁移过来的卷积层，利用目标域的小样本去训练步骤(1)中其余的卷积层、池化层和全连接层，这一步骤主要是为了训练其余的卷积层与池化层，用于提取目标域故障数据集特征。至此可以得到目标域的浅层模型。
步骤(3)：在步骤(2)的浅层模型基础上，浅层模型的CNN后添加的卷积池化层即使在小样本情况下，也能够利用源域模型得到到一个关于目标域提取特征的卷积池化层，把数据输入到该CNN网络，将最后一层卷积池化层的输出输入至SVM分类器，至此构成了所提出的FFCNN-SVM故障诊断方法。
本发明的有益效果：本发明通过轴承故障数据集，很好的验证该方法的故障诊断新能，通过实验结果表明，本发明所提出的方法与其他迁移学习方法相比具有较好的故障诊断效果。
附图说明
图1是本发明的源域模型训练流程图。
图2是本发明的目标域数据分类流程图。
图3是各种模型迁移方法的流程图
具体实施方式
为了评估所提方法的有效性，本发明在电机转子数据集与轴承数据集这两个数据集上进行实验的。
案例一：
电机转子实验中选用的设备是带有柔性转子的ZHS-2型多功能电机实验台。在底座垂直和水平方向一共安装8个传感器，用来采集转子的振动信号，这些振动信号由HG-8902数据采集箱所传输。实验中考虑了6种故障类型：转子不平衡I(RU1)，转子不平衡III(RU3)，转子不平衡V(RU5)，转子不平衡VII(RU7)，风机断叶(PPB)和基座松动(PL)。具体诊断时，会将正常状态(N)和这6种故障一同进行区分。前4种故障是通过转子上安装不同数量的螺钉模拟获得。例如，安装5个螺钉代表故障为转子不平衡V。风机断叶故障是通过在滚轴上安装一个含有断叶的风机实现的。
此外，为了说明源域目标域域的差异，将2100个样本进行二划分，其中风机断叶(PPB)，基座松动(PL)，转子不平衡I(RU1)与正常状态(N)共1200个样本构成源域原始数据集，转子不平衡III(RU3)，转子不平衡V(RU5)，转子不平衡VII(RU7)共900个样本构成目标域原始数据集。而在目标域中，为了说明小样本状态，目标域的训练样本容量为目标域总数据集样本容量的2％，共计18个，而18个中四个故障类别各有6个，剩余的882个样本共同构成目标域测试样本集。具体如表一所示:
表一 案例一源/目标域数据分类示意表
Figure BDA0003267011570000031
案例二：
在此案例中，使用的是西储大学(CRWU)公开提供的滚子轴承故障数据集。实验台分别安装了三个不同位置的传感器来收集不同的振动信号，传感器的位置分别安装于：驱动端、风扇端和底座。在本次实验中，使用的是马力电机负荷的数据，本次实验考虑了8种故障：球缺陷Ball007、球缺陷Ball014、球缺陷Ball021、内圈缺陷IR007、内圈缺陷IR014、内圈缺陷IR021、外圈缺陷OR007、外圈缺陷OR014。其中007、014以及021分别对于每个轴承引入故障的直径。电机转子的转速设置为1772r/min，采样频率为12KHz，每轴承可获得约400个信号，共收集2400个样本。
为了说明源域目标域迁移效果，源域数据集为：球缺陷Ball007、球缺陷Ball014、内圈缺陷IR007和内圈缺陷IR014，目标域数据集为：球缺陷Ball021、内圈缺陷IR021、外圈缺陷OR007、外圈缺陷OR014。具体如表二所示:
表二 案例二源/目标域数据分类示意表
Figure BDA0003267011570000032
本发明通过以下的技术方案实现：基于特征融合的FFCNN-SVM迁移学习故障诊断方法，其核心技术方法包括四个阶段：数据预处理阶段，源域模型训练阶段，目标域模型训练阶段，仿真测试阶段。
其中数据预处理阶段使用STFT的方法，该方法具体步骤如下：
用定长的窗口函数将时域信号进行截取，并用傅里叶变换分析截取的时域信号，得到时刻t附近非常小时间段上的局部频谱。在整个时间轴上不断平移窗函数最终得到一个局部频谱集合。数学表达式如下：
Figure BDA0003267011570000041
其中si(a)是第i个样本的通道波信号的，g*(·)是窗函数比如说汉明窗，Fi(m,n)是STFT的最终得到的二维图像，对每个样本的不同采集通道均进行STFT，最终，可以得到一个三维结构的样本。
源域模型训练阶段：将经过数据预处理后的大量源域数据时频图用于训练CNN网络。
目标域模型训练阶段：在源域模型的基础上，利用本发明所提出的FFCNN-SVM方法可以得到目标域最终模型。
所述的仿真测试阶段：
为了对比本发明方法和其他迁移学习的方法，分别在不同的方法中进行验证，各种方法的流程图可见例图3，采用了传统的CNN-FC迁移方法，FFCNN,CNN-SVM方法进行训练与验证。其中CNN-FC迁移方法是将源域中训练的模型的特征层全部迁移至目标域，在目标域模型中只训练其全连接层。FFCNN是在源域模型中提取源域特征，并在此基础上添加自己的特征层。而CNN-SVM是将源域模型的特征层全部迁移至目标域，而因为在小样本下SVM具有良好的分类效果，所以将目标域的分类器从全连接-Softmax改为SVM分类器。实验中性能指标是平均分类准确率，定义如下：
Figure BDA0003267011570000042
其中，Cij是实际属于第i类，但被模型预测为第j类的样本数量。C沿用前面定义代表需要区分的类别个数，在本实验中C＝4，表三给出了案例一使用不同的模型迁移方法的故障诊断准确率，表四给出了案例二使用不同的模型迁移方法的故障诊断准确率。
表三 案例一不同模型测试结果
方法 无标签准确率 目标域训练参数量
CNN-FC 71.00％ 18595
CNN-SVM 82.70％ -
FFCNN 72.53％ 9827
FFCNN-SVM 95.60％ -
表四 案例二不同模型测试结果
方法 无标签准确率 目标域训练参数量
CNN-FC 70.57％ 17556
CNN-SVM 98.46％ -
FFCNN 72.19％ 11380
FFCNN-SVM 99.49％ -

Claims (1)

1.小样本下基于特征融合的FFCNN-SVM迁移学习故障诊断方法，其特征在于该该方法具体包括以下各步骤：
步骤（1）：利用迁移学习中，模型迁移的思想，将源域训练好的成熟模型迁移至目标域中，并且在源域模型的基础上，同比例增加卷积层与池化层；
步骤（2）：在步骤（1）的基础上，冻结源域迁移过来的卷积层，利用目标域的小样本去训练步骤（1）中其余的卷积层、池化层和全连接层，用于提取目标域故障数据集特征，至此得到目标域的浅层模型；
步骤（3）：在步骤（2）的浅层模型基础上，浅层模型的CNN后添加的卷积池化层即使在小样本情况下，也能够利用源域模型得到一个关于目标域提取特征的卷积池化层，把数据输入到该CNN网络，将最后一层卷积池化层的输出输入至SVM分类器。
CN202111089878.3A 2021-09-17 2021-09-17 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法 Pending CN113887586A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111089878.3A CN113887586A (zh) 2021-09-17 2021-09-17 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111089878.3A CN113887586A (zh) 2021-09-17 2021-09-17 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法

Publications (1)

Publication Number Publication Date
CN113887586A true CN113887586A (zh) 2022-01-04

Family

ID=79009335

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111089878.3A Pending CN113887586A (zh) 2021-09-17 2021-09-17 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法

Country Status (1)

Country Link
CN (1) CN113887586A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114998893A (zh) * 2022-06-14 2022-09-02 江南大学 基于半监督迁移学习的食品品质无损检测模型构建方法
CN118013289A (zh) * 2024-04-09 2024-05-10 北京理工大学 一种基于信息融合元迁移学习的变工况小样本故障诊断方法、装置、介质及产品

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114998893A (zh) * 2022-06-14 2022-09-02 江南大学 基于半监督迁移学习的食品品质无损检测模型构建方法
CN118013289A (zh) * 2024-04-09 2024-05-10 北京理工大学 一种基于信息融合元迁移学习的变工况小样本故障诊断方法、装置、介质及产品

Similar Documents

Publication Publication Date Title
CN109186973B (zh) 一种无监督深度学习网络的机械故障诊断方法
CN111914883B (zh) 一种基于深度融合网络的主轴轴承状态评估方法及装置
CN111046945B (zh) 基于组合卷积神经网络的故障类型及损坏程度诊断方法
CN107631867B (zh) 一种基于深度学习的旋转机械故障智能分类方法
CN112257530B (zh) 基于盲信号分离和支持向量机的滚动轴承故障诊断方法
CN111506862B (zh) 一种基于多源加权集成迁移学习的滚动轴承故障诊断方法
CN112487890B (zh) 一种基于并行稀疏滤波的轴承声信号故障诊断方法
CN116793682A (zh) 基于iCORAL-MMD和对抗迁移学习的轴承故障诊断方法
CN113569990B (zh) 面向强噪声干扰环境的演艺装备故障诊断模型构建方法
CN113112000B (zh) 一种多层次卷积神经网络模型的构建方法及应用
KR102398046B1 (ko) 비지도 도메인 적응 기법을 통한 고장 진단 장치 및 이를 이용한 고장 진단 방법
CN113076834A (zh) 旋转机械故障信息处理方法、处理系统、处理终端、介质
CN114492642A (zh) 一种多尺度元深度残差收缩网络的机械故障在线诊断方法
CN113240022A (zh) 多尺度单分类卷积网络的风电齿轮箱故障检测方法
CN115876473A (zh) 基于PWVD和DenseNet的轴承故障诊断方法
CN113094978A (zh) 一种基于深度学习的电机轴承剩余寿命的模型的构建方法
CN113887586A (zh) 小样本下基于特征融合的ffcnn-svm迁移学习故障诊断方法
CN113916535B (zh) 基于时频和cnn的轴承诊断方法、系统、设备及介质
Wang et al. Fault diagnosis of industrial robots based on multi-sensor information fusion and 1D convolutional neural network
CN114459760A (zh) 一种强噪声环境下的滚动轴承故障诊断方法及系统
CN112395968B (zh) 基于神经网络的机械旋转部件故障诊断方法及装置
CN111783941B (zh) 一种基于概率置信度卷积神经网络的机械设备诊断分类方法
CN112816200A (zh) 一种基于深度学习的旋转机械轴心轨迹识别方法
CN117475191A (zh) 一种特征对齐域对抗神经网络的轴承故障诊断方法
Lu et al. An automated bearing fault diagnosis using a self-normalizing convolutional neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination