CN112396088A - 一种小样本下隐式激励对抗训练的机械故障智能诊断方法 - Google Patents

一种小样本下隐式激励对抗训练的机械故障智能诊断方法 Download PDF

Info

Publication number
CN112396088A
CN112396088A CN202011121236.2A CN202011121236A CN112396088A CN 112396088 A CN112396088 A CN 112396088A CN 202011121236 A CN202011121236 A CN 202011121236A CN 112396088 A CN112396088 A CN 112396088A
Authority
CN
China
Prior art keywords
sample
training
feature
intelligent diagnosis
generator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011121236.2A
Other languages
English (en)
Other versions
CN112396088B (zh
Inventor
陈景龙
刘莘
宋霄罡
訾艳阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN202011121236.2A priority Critical patent/CN112396088B/zh
Publication of CN112396088A publication Critical patent/CN112396088A/zh
Application granted granted Critical
Publication of CN112396088B publication Critical patent/CN112396088B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M13/00Testing of machine parts
    • G01M13/04Bearings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)

Abstract

本发明公开了一种小样本下隐式激励对抗训练的机械故障智能诊断方法,将机械设备不同工况下产生的一维信号划分为训练集和测试集;构建编码器、生成器以及判别器模型,通过生成对抗训练机制以及互信息最大化和特征匹配策略,以训练集训练模型;将训练集输入至训练好的编码器中获取对应的特征编码,然后构建并以特征编码训练智能诊断模型,最后将模型用于测试集的故障诊断,并对结果进行评估。本发明通过生成对抗训练机制以及互信息最大化和特征匹配策略,在小样本的条件下,建立并强化样本与特征编码的信息关联,挖掘数据最本质的类别特征信息,并用于智能诊断模型的训练,可以有效地提高模型的泛化能力以及故障诊断准确率和稳定性。

Description

一种小样本下隐式激励对抗训练的机械故障智能诊断方法
技术领域
本发明涉及机械设备故障智能诊断技术,具体涉及一种小样本下隐式激励对抗训练的机械故障智能诊断方法。
背景技术
机械设备故障诊断对于保障设备安全经济运行和人民生命财产安全意义重大,信号特征提取技术是实现故障诊断的重要手段。对于长期工作在高温、变载等复杂且严苛工况下的机械设备,基于信号处理技术的故障诊断方法难以建立与实际工况相匹配的机械物理模型,且高度依赖于专家经验和先验知识进行特征提取与人工选择,限制了其在高维、多源且含噪声信号的故障诊断任务中的准确性与适用性,难以满足未来机械设备故障诊断需求。
由于神经网络具备自适应学习能力和极强的非线性映射特性,能对复杂的信息进行自适应特征提取并进行模式识别,为故障诊断与状态监控提供了新的技术手段,作为一种新的知识处理方法,在设备故障诊断领域展示了极大的应用潜力,然而,基于数据驱动的智能故障诊断模型往往依赖于大量且高质量的原始数据样本以及标签信息,但在机械设备的实际生产运作中,故障信号的获取受到设备安装等诸多限制,可用于模型训练的数据量十分有限,将不可避免地导致模型训练不充分,带来过拟合问题,使得故障诊断模型检测准确率低且泛化能力差。
因此,鉴于机械设备故障数据量有限时基于数据驱动的机械故障智能诊断方法的局限性,研究小样本下的自适应特征提取技术,以实现机械设备故障模式识别,具有重要的研究意义与价值。
发明内容
本发明的目的在于提供一种小样本下隐式激励对抗训练的机械故障智能诊断方法,以克服智能故障诊断模型在数据量有限时的局限性,本发明以机械设备运作产生的原始一维信号作为输入,在小样本条件下,基于无监督学习,利用对抗训练来激励编码器最大化样本及其对应的特征编码之间的互信息以自适应提取小样本数据类别特征,通过编码特征匹配以进一步提高特征空间的类别域的划分精度以及类别辨识度,最终实现机械设备故障的智能诊断。
为达到上述目的,本发明采用如下技术方案:
一种小样本下隐式激励对抗训练的机械故障智能诊断方法,包括以下步骤:
步骤S1:获取机械设备各种工况下的一维信号数据,划分训练样本集与测试样本集并赋予各个训练样本以及测试样本类别标签信息;
步骤S2:伪样本生成与特征编码,将训练样本输入编码器中获得低维的特征编码,从先验概率分布中随机采样获得噪声信号并输入生成器中获得伪样本;
步骤S3:特征匹配,在无需标签信息情况下,基于聚类学习,利用相关性度量对训练样本的特征编码结果加以约束,获取类别辨识度明显的特征信息;
步骤S4:对抗训练,基于步骤S3的特征匹配约束,通过并联型神经网络结构的判别器对训练样本及其对应的特征编码之间的互信息以及样本对抗判别损失进行度量,计算判别器的目标函数以及生成器和编码器的目标函数,通过误差反向传播算法训练判别器、生成器以及编码器;
步骤S5:返回步骤S2进行迭代,直至生成器、判别器以及编码器目标函数值趋于稳定,输出编码器网络参数;
步骤S6:构建智能诊断模型,将训练样本集输入到步骤S5中得到的编码器中获得样本对应的特征编码,将特征编码输入智能诊断模型得到输出结果;
步骤S7:将输出结果与训练样本标签进行对比,计算总分类误差,并通过误差反向传播算法训练智能诊断模型;
步骤S8:返回步骤S6进行迭代,直到总分类误差达到预设值,输出智能诊断模型参数与测试样本集分类结果。
进一步地,所述的智能故障诊断方法是一种端到端的故障诊断方法,其输入为机械设备运作产生的原始一维信号,无需进行任何的信号预处理,且训练集与测试集中各个样本包含相同数量的数据点。
进一步地,步骤S3特征匹配中,样本特征编码在无标签信息情况下,基于类间距离最大化,类内距离最小化的聚类学习,建立特征信息相关性对比的损失项
Figure RE-GDA0002884638500000031
如下所示:
Figure RE-GDA0002884638500000032
其中,n为特征编码的数目,
Figure RE-GDA0002884638500000033
Figure RE-GDA0002884638500000034
分别表示编码器输出的特征编码
Figure RE-GDA0002884638500000035
中的第i个和第k个输出结果,(·)T表示向量转置;
此外,编码器特征编码结果应该满足先验分布的约束
Figure RE-GDA0002884638500000036
如下所示:
Figure RE-GDA0002884638500000037
其中,λ为一权重系数,d(·)表示输入向量的维度,KL(·)表示概率分布的 KL散度度量结果,
Figure RE-GDA0002884638500000038
为特征编码
Figure RE-GDA0002884638500000039
的概率分布,
Figure RE-GDA00028846385000000310
为先验概率分布,||·||2表示二范数计算。
进一步地,并联型神经网络结构的判别器目标函数
Figure RE-GDA0002884638500000041
包含样本对抗判别损失函数项
Figure RE-GDA0002884638500000042
与样本及其对应的特征编码之间的互信息度量
Figure RE-GDA0002884638500000043
如下所示:
Figure RE-GDA0002884638500000044
将训练样本x与生成器生成的伪样本
Figure RE-GDA0002884638500000045
输入判别器,对于判别器,样本对抗判别的损失函数
Figure RE-GDA0002884638500000046
如下所示:
Figure RE-GDA0002884638500000047
其中,x为训练样本,
Figure RE-GDA0002884638500000048
为先验噪声信号经生成器输出的伪样本,
Figure RE-GDA0002884638500000049
为训练样本x与伪样本
Figure RE-GDA00028846385000000410
线性插值结果,H为一非线性函数,D(·)表示基于并联型神经网络结构的判别器的输出结果,||·||2表示二范数计算,
Figure RE-GDA00028846385000000411
表示计算函数
Figure RE-GDA00028846385000000412
关于
Figure RE-GDA00028846385000000413
的梯度;
将训练样本及其对应的特征编码输入至判别器中,判别器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-GDA00028846385000000414
如下所示:
Figure RE-GDA00028846385000000415
其中,
Figure RE-GDA00028846385000000416
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
进一步地,生成器与编码器目标函数
Figure RE-GDA00028846385000000417
如下所示:
Figure RE-GDA00028846385000000418
其中,
Figure RE-GDA00028846385000000419
为生成器与编码器关于样本对抗判别的损失函数,
Figure RE-GDA00028846385000000420
为生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果;
将训练样本x与生成器生成的伪样本
Figure RE-GDA00028846385000000421
输入判别器,对于生成器与编码器,样本对抗判别的损失函数
Figure RE-GDA00028846385000000422
如下所示:
Figure RE-GDA00028846385000000423
其中,x为训练样本,
Figure RE-GDA0002884638500000051
为先验噪声信号经生成器输出的伪样本,D(·)表示基于并联型神经网络结构的判别器的输出结果;
将训练样本及其对应的特征编码输入至判别器中,生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-GDA0002884638500000052
如下所示:
Figure RE-GDA0002884638500000053
其中,
Figure RE-GDA0002884638500000054
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
进一步地,在步骤S5中采用误差反向传播算法,使得编码器、生成器的模型参数计算更新与判别器的模型参数计算更新交替进行,直至目标函数值趋于稳定。
进一步地,在步骤S6中,训练样本对应的特征编码输入智能诊断模型网络时,各层的输出结果如下:
Figure RE-GDA0002884638500000055
其中,
Figure RE-GDA0002884638500000056
为智能诊断模型的第i个输入,s表示sigmoid非线性函数,
Figure RE-GDA0002884638500000057
为智能诊断模型第i层的权值矩阵,
Figure RE-GDA0002884638500000058
为智能诊断模型第i层的偏置,l表示智能诊断模型的神经网络层数。
进一步地,步骤S7中总分类误差
Figure RE-GDA0002884638500000059
的计算式为:
Figure RE-GDA00028846385000000510
其中,N表示训练样本数,yi表示N个样本对应的智能诊断模型输出向量中的第i个,labeli表示输出向量yi对应的one-hot标签,m表示工况数,yi[k] 表示智能诊断模型输出向量yi的第k个元素。
与现有技术相比,本发明具有以下有益的技术效果:
本发明提出一种小样本下隐式激励对抗训练的机械故障智能诊断方法,以机械设备运作产生的原始一维信号作为输入,通过生成对抗训练机制以及互信息最大化和特征匹配策略,实现小样本条件下的特征信息的有效提取,从而实现故障模式识别,且具备高准确率和较强的泛化能力。
具体技术特点和有益效果为:
1)本发明以采集到的原始的机械设备一维信号作为输入,无需任何数据预处理,是一种端到端的机械故障智能诊断方法。
2)本发明所提出的隐式激励对抗训练方法,在无监督条件下通过并联型神经网络结构的判别器拟合样本与特征编码之间的互信息,使得生成器在样本重建的过程中能够建立并强化高维的数据样本与低维的特征信息之间的信息联系,来激励编码器挖掘数据最本质的类别信息,并通过特征匹配来进一步地提高特征空间类别域的划分精度以及类别辨识度,从而实现小样本条件下有效的特征自适应提取。
3)本发明所提出的数据特征提取阶段(特征编码过程)是一种无监督的训练方式,可以在小样本无标签信息的条件下提取有效的类别特征信息,且聚类效果显著,具备更为通用的应用范围和更多的可能性。
附图说明
图1为本发明一种小样本下隐式激励对抗训练的机械故障智能诊断方法流程图;
图2为不同故障类型、不同故障损伤程度下的基于本发明一种小样本下隐式激励对抗训练的机械故障智能诊断方法无监督训练阶段的特征提取结果,其中,每一类故障类型数据仅包含6个样本,内、外圈故障分别包含轻度、中度和重度三种故障损伤程度;
图3为本发明一种小样本下隐式激励对抗训练的机械故障智能诊断方法故障模式识别结果的数据分布图。
具体实施方式
为使本发明的目的、技术方案和技术特点更加清晰,以下结合具体实施案例,并参照附图,对本发明进一步详细说明。特别注意的是,此处所描述的具体实施案例仅用于解释相关发明,而非对本发明的限定。
一种小样本下隐式激励对抗训练的机械故障智能诊断方法,参见图1,包括以下步骤:
步骤S1:获取机械设备各种工况下的一维信号数据,划分训练样本集与测试样本集并赋予各个训练样本以及测试样本类别标签信息;
步骤S2:伪样本生成与特征编码,将训练样本输入编码器中获得低维的特征编码,从先验概率分布中随机采样获得噪声信号并输入生成器中获得伪样本;
步骤S3:特征匹配,在无需标签信息情况下,基于聚类学习,利用相关性度量对训练样本的特征编码结果加以约束,获取类别辨识度明显的特征信息;
样本特征编码在无标签信息情况下,基于类间距离最大化,类内距离最小化的聚类学习,建立特征信息相关性对比的损失项
Figure RE-GDA0002884638500000071
如下所示:
Figure RE-GDA0002884638500000072
其中,n为特征编码的数目,
Figure RE-GDA0002884638500000073
Figure RE-GDA0002884638500000074
分别表示编码器输出的特征编码
Figure RE-GDA0002884638500000075
中的第i个和第k个输出结果,(·)T表示向量转置;
此外,编码器特征编码结果应该满足先验分布的约束
Figure RE-GDA0002884638500000076
如下所示:
Figure RE-GDA0002884638500000081
其中,λ为一权重系数,d(·)表示输入向量的维度,KL(·)表示概率分布的KL散度度量结果,
Figure RE-GDA0002884638500000082
为特征编码
Figure RE-GDA0002884638500000083
的概率分布,
Figure RE-GDA0002884638500000084
为先验概率分布,||·||2表示二范数计算。
在没有引入额外参数的前提下,通过聚类的思想使得不同信息特征的提取更具辨别性。
步骤S4:对抗训练,基于步骤S3的特征匹配约束,通过并联型神经网络结构的判别器对训练样本及其对应的特征编码之间的互信息以及样本对抗判别损失进行度量,计算判别器的目标函数以及生成器和编码器的目标函数,通过误差反向传播算法训练判别器、生成器以及编码器;
并联型神经网络结构的判别器目标函数
Figure RE-GDA0002884638500000085
包含样本对抗判别损失函数项
Figure RE-GDA0002884638500000086
与样本及其对应的特征编码之间的互信息度量
Figure RE-GDA0002884638500000087
如下所示:
Figure RE-GDA0002884638500000088
将训练样本x与生成器生成的伪样本
Figure RE-GDA0002884638500000089
输入判别器,对于判别器,样本对抗判别的损失函数
Figure RE-GDA00028846385000000810
如下所示:
Figure RE-GDA00028846385000000811
其中,x为训练样本,
Figure RE-GDA00028846385000000812
为先验噪声信号经生成器输出的伪样本,
Figure RE-GDA00028846385000000813
为训练样本x与伪样本
Figure RE-GDA00028846385000000814
线性插值结果,H为一非线性函数,D(·)表示基于并联型神经网络结构的判别器的输出结果,||·||2表示二范数计算,
Figure RE-GDA00028846385000000815
表示计算函数
Figure RE-GDA00028846385000000816
关于
Figure RE-GDA00028846385000000817
的梯度。
将训练样本及其对应的特征编码输入至判别器中,判别器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-GDA00028846385000000818
如下所示:
Figure RE-GDA00028846385000000819
其中,
Figure RE-GDA0002884638500000091
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
生成器与编码器目标函数
Figure RE-GDA0002884638500000092
如下所示:
Figure RE-GDA0002884638500000093
其中,
Figure RE-GDA0002884638500000094
为生成器与编码器关于样本对抗判别的损失函数,
Figure RE-GDA0002884638500000095
为生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果。
将训练样本x与生成器生成的伪样本
Figure RE-GDA0002884638500000096
输入判别器,对于生成器与编码器,样本对抗判别的损失函数
Figure RE-GDA0002884638500000097
如下所示:
Figure RE-GDA0002884638500000098
其中,x为训练样本,
Figure RE-GDA0002884638500000099
为先验噪声信号经生成器输出的伪样本,D(·)表示基于并联型神经网络结构的判别器的输出结果。
将训练样本及其对应的特征编码输入至判别器中,生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-GDA00028846385000000910
如下所示:
Figure RE-GDA00028846385000000911
其中,
Figure RE-GDA00028846385000000912
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
步骤S5:返回步骤S2进行迭代,直至生成器、判别器以及编码器目标函数值趋于稳定,输出编码器网络参数;
利用并联型神经网络结构的判别器对样本及其对应的特征编码之间的互信息进行度量,使得生成器在样本重建的过程中能够建立高维的数据样本与低维的特征编码之间的信息联系,然后通过对抗训练的方式强化这种信息关联,使得编码器即使是在小样本且无标签信息的条件下,也能提取出该样本独特的类别信息,并以此来进行故障模式识别。
步骤S6:构建智能诊断模型,将训练样本集输入到步骤S5中得到的编码器中获得样本对应的特征编码,将特征编码输入智能诊断模型得到输出结果;
在步骤S6中,训练样本对应的特征编码输入智能诊断模型网络时,各层的输出结果如下:
Figure RE-GDA0002884638500000101
其中,
Figure RE-GDA0002884638500000102
为智能诊断模型的第i个输入,s表示sigmoid非线性函数,
Figure RE-GDA0002884638500000103
为智能诊断模型第i层的权值矩阵,
Figure RE-GDA0002884638500000104
为智能诊断模型第i层的偏置,l表示智能诊断模型的神经网络层数。
在训练样本集的特征编码的基础上进行有监督的智能诊断模型的训练时,由于特征编码包含充分的故障特征信息且数据复杂性较低,智能诊断模型仅用浅层网络结构即可,且模型能够在小样本的条件下得以充分训练从而实现故障模式识别。
步骤S7:将输出结果与训练样本标签进行对比,计算总分类误差,并通过误差反向传播算法训练智能诊断模型;
根据总分类误差计算智能诊断模型各层网络参数的偏导,并对网络中的权值矩阵和偏置进行更新,总分类误差
Figure RE-GDA0002884638500000105
的计算式为:
Figure RE-GDA0002884638500000106
其中,N表示训练样本数,yi表示N个样本对应的智能诊断模型输出向量中的第i个,labeli表示输出向量yi对应的one-hot标签,m表示工况数,yi[k] 表示智能诊断模型输出向量yi的第k个元素。
步骤S8:返回步骤S6进行迭代,直到总分类误差达到预设值,输出智能诊断模型参数与测试样本集分类结果。
下面结合具体实施案例对本发明做进一步详细描述:
以某电机轴承故障数据集为例,该数据集包含正常运行、内圈轻度故障、内圈中度故障、内圈重度故障,外圈轻度故障、外圈中度故障和外圈重度故障共七种不同的电机轴承工作状态数据,从各类运行状态数据中分别取6个样本组成训练集,另外取312个样本组成测试集。
将训练集输入网络中进行生成对抗以及信息匹配的训练,直至网络模型稳定。经过七类不同的轴承工作状况下各取6个无标签信息的样本组成的训练集的训练,将测试集样本输入训练好的编码器中,获取对应的特征编码信息,参见图2,可以发现测试集样本的特征信息在数据分布上表现出明显的聚类现象,直观地表明了特征编码的高度可区分性以及特征提取过程的有效性。
将测试集样本依次输入编码器和智能故障诊断模型,测试结果参见图3,可以明显观察到该电机轴承在不同工况下的一维信号都得以明显的区分,分类准确率高达99%以上,准确实现了该电机轴承七种健康状态的识别与分类。
以上所述的具体实施案例,是对本发明的目的、技术方法特点以及技术效果进行的详细描述,以便于本技术领域的技术人员更好地理解。所应清楚的是,以上所述仅为本发明的某一具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,包括以下步骤:
步骤S1:获取机械设备各种工况下的一维信号数据,划分训练样本集与测试样本集并赋予各个训练样本以及测试样本类别标签信息;
步骤S2:伪样本生成与特征编码,将训练样本输入编码器中获得低维的特征编码,从先验概率分布中随机采样获得噪声信号并输入生成器中获得伪样本;
步骤S3:特征匹配,在无需标签信息情况下,基于聚类学习,利用相关性度量对训练样本的特征编码结果加以约束,获取类别辨识度明显的特征信息;
步骤S4:对抗训练,基于步骤S3的特征匹配约束,通过并联型神经网络结构的判别器对训练样本及其对应的特征编码之间的互信息以及样本对抗判别损失进行度量,计算判别器的目标函数以及生成器和编码器的目标函数,通过误差反向传播算法训练判别器、生成器以及编码器;
步骤S5:返回步骤S2进行迭代,直至生成器、判别器以及编码器目标函数值趋于稳定,输出编码器网络参数;
步骤S6:构建智能诊断模型,将训练样本集输入到步骤S5中得到的编码器中获得样本对应的特征编码,将特征编码输入智能诊断模型得到输出结果;
步骤S7:将输出结果与训练样本标签进行对比,计算总分类误差,并通过误差反向传播算法训练智能诊断模型;
步骤S8:返回步骤S6进行迭代,直到总分类误差达到预设值,输出智能诊断模型参数与测试样本集分类结果。
2.根据权利要求1所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,所述的智能故障诊断方法是一种端到端的故障诊断方法,其输入为机械设备运作产生的原始一维信号,无需进行任何的信号预处理,且训练集与测试集中各个样本包含相同数量的数据点。
3.根据权利要求1所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,步骤S3特征匹配中,样本特征编码在无标签信息情况下,基于类间距离最大化,类内距离最小化的聚类学习,建立特征信息相关性对比的损失项
Figure RE-FDA0002884638490000021
如下所示:
Figure RE-FDA0002884638490000022
其中,n为特征编码的数目,
Figure RE-FDA0002884638490000023
Figure RE-FDA0002884638490000024
分别表示编码器输出的特征编码
Figure RE-FDA0002884638490000025
中的第i个和第k个输出结果,(·)T表示向量转置;
此外,编码器特征编码结果应该满足先验分布的约束
Figure RE-FDA0002884638490000026
如下所示:
Figure RE-FDA0002884638490000027
其中,λ为一权重系数,d(·)表示输入向量的维度,KL(·)表示概率分布的KL散度度量结果,
Figure RE-FDA0002884638490000028
为特征编码
Figure RE-FDA0002884638490000029
的概率分布,
Figure RE-FDA00028846384900000210
为先验概率分布,||·||2表示二范数计算。
4.根据权利要求3所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,并联型神经网络结构的判别器目标函数
Figure RE-FDA00028846384900000211
包含样本对抗判别损失函数项
Figure RE-FDA00028846384900000212
与样本及其对应的特征编码之间的互信息度量
Figure RE-FDA00028846384900000213
如下所示:
Figure RE-FDA00028846384900000214
将训练样本x与生成器生成的伪样本
Figure RE-FDA00028846384900000215
输入判别器,对于判别器,样本对抗判别的损失函数
Figure RE-FDA0002884638490000031
如下所示:
Figure RE-FDA0002884638490000032
其中,x为训练样本,
Figure RE-FDA0002884638490000033
为先验噪声信号经生成器输出的伪样本,
Figure RE-FDA0002884638490000034
为训练样本x与伪样本
Figure RE-FDA0002884638490000035
线性插值结果,H为一非线性函数,D(·)表示基于并联型神经网络结构的判别器的输出结果,||·||2表示二范数计算,
Figure RE-FDA0002884638490000036
表示计算函数
Figure RE-FDA0002884638490000037
关于
Figure RE-FDA0002884638490000038
的梯度;
将训练样本及其对应的特征编码输入至判别器中,判别器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-FDA0002884638490000039
如下所示:
Figure RE-FDA00028846384900000310
其中,
Figure RE-FDA00028846384900000311
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
5.根据权利要求4所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,生成器与编码器目标函数
Figure RE-FDA00028846384900000312
如下所示:
Figure RE-FDA00028846384900000313
其中,
Figure RE-FDA00028846384900000314
为生成器与编码器关于样本对抗判别的损失函数,
Figure RE-FDA00028846384900000315
为生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果;
将训练样本x与生成器生成的伪样本
Figure RE-FDA00028846384900000316
输入判别器,对于生成器与编码器,样本对抗判别的损失函数
Figure RE-FDA00028846384900000317
如下所示:
Figure RE-FDA00028846384900000318
其中,x为训练样本,
Figure RE-FDA00028846384900000319
为先验噪声信号经生成器输出的伪样本,D(·)表示基于并联型神经网络结构的判别器的输出结果;
将训练样本及其对应的特征编码输入至判别器中,生成器与编码器关于样本及其对应的特征编码之间的互信息度量结果
Figure RE-FDA00028846384900000320
如下所示:
Figure RE-FDA0002884638490000041
其中,
Figure RE-FDA0002884638490000042
为训练样本x经编码器输出的特征编码,z为满足于先验概率分布的噪声信号。
6.根据权利要求1所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,在步骤S5中采用误差反向传播算法,使得编码器、生成器的模型参数计算更新与判别器的模型参数计算更新交替进行,直至目标函数值趋于稳定。
7.根据权利要求1所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,在步骤S6中,训练样本对应的特征编码输入智能诊断模型网络时,各层的输出结果如下:
Figure RE-FDA0002884638490000043
其中,
Figure RE-FDA0002884638490000044
为智能诊断模型的第i个输入,s表示sigmoid非线性函数,
Figure RE-FDA0002884638490000045
为智能诊断模型第i层的权值矩阵,
Figure RE-FDA0002884638490000046
为智能诊断模型第i层的偏置,l表示智能诊断模型的神经网络层数。
8.根据权利要求1所述的一种小样本下隐式激励对抗训练的机械故障智能诊断方法,其特征在于,步骤S7中总分类误差
Figure RE-FDA0002884638490000047
的计算式为:
Figure RE-FDA0002884638490000048
其中,N表示训练样本数,yi表示N个样本对应的智能诊断模型输出向量中的第i个,labeli表示输出向量yi对应的one-hot标签,m表示工况数,yi[k]表示智能诊断模型输出向量yi的第k个元素。
CN202011121236.2A 2020-10-19 2020-10-19 一种小样本下隐式激励对抗训练的机械故障智能诊断方法 Active CN112396088B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011121236.2A CN112396088B (zh) 2020-10-19 2020-10-19 一种小样本下隐式激励对抗训练的机械故障智能诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011121236.2A CN112396088B (zh) 2020-10-19 2020-10-19 一种小样本下隐式激励对抗训练的机械故障智能诊断方法

Publications (2)

Publication Number Publication Date
CN112396088A true CN112396088A (zh) 2021-02-23
CN112396088B CN112396088B (zh) 2023-05-12

Family

ID=74596929

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011121236.2A Active CN112396088B (zh) 2020-10-19 2020-10-19 一种小样本下隐式激励对抗训练的机械故障智能诊断方法

Country Status (1)

Country Link
CN (1) CN112396088B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113159127A (zh) * 2021-03-23 2021-07-23 浙江大胜达包装股份有限公司 一种基于改进的生成对抗网络的凹版印刷机导向辊故障智能诊断方法
CN113191186A (zh) * 2021-03-11 2021-07-30 西安交通大学 故障敏感编码网络驱动的直升机传动系统轴承检测方法
CN114169396A (zh) * 2021-11-05 2022-03-11 华中科技大学 用于飞行器故障诊断的训练数据生成模型构建方法及应用
CN114895647A (zh) * 2022-04-13 2022-08-12 哈尔滨工程大学 一种面向小样本船舶零件故障数据的诊断方法及可读存储介质
WO2023044979A1 (zh) * 2021-09-27 2023-03-30 苏州大学 类不平衡数据集下的机械故障智能诊断方法
CN116010805A (zh) * 2023-03-24 2023-04-25 昆明理工大学 基于卷积神经网络的滚动轴承故障特征提取方法、装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533070A (zh) * 2019-07-26 2019-12-03 西安交通大学 一种小样本下基于迁移原形网络的机械故障智能诊断方法
CN110647923A (zh) * 2019-09-04 2020-01-03 西安交通大学 小样本下基于自我学习的变工况机械故障智能诊断方法
US20200202221A1 (en) * 2018-12-20 2020-06-25 Shandong University Of Science And Technology Fault detection method and system based on generative adversarial network and computer program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200202221A1 (en) * 2018-12-20 2020-06-25 Shandong University Of Science And Technology Fault detection method and system based on generative adversarial network and computer program
CN110533070A (zh) * 2019-07-26 2019-12-03 西安交通大学 一种小样本下基于迁移原形网络的机械故障智能诊断方法
CN110647923A (zh) * 2019-09-04 2020-01-03 西安交通大学 小样本下基于自我学习的变工况机械故障智能诊断方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
TIANCI ZHANG ET AL.: "A Small Sample Focused Intelligent Fault Diagnosis Scheme of Machines via Multimodules Learning With Gradient Penalized Generative Adversarial Networks", 《IEEE》 *
曹思灿: "基于生成对抗网络的轴承故障诊断方法研究", 《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113191186A (zh) * 2021-03-11 2021-07-30 西安交通大学 故障敏感编码网络驱动的直升机传动系统轴承检测方法
CN113159127A (zh) * 2021-03-23 2021-07-23 浙江大胜达包装股份有限公司 一种基于改进的生成对抗网络的凹版印刷机导向辊故障智能诊断方法
WO2023044979A1 (zh) * 2021-09-27 2023-03-30 苏州大学 类不平衡数据集下的机械故障智能诊断方法
CN114169396A (zh) * 2021-11-05 2022-03-11 华中科技大学 用于飞行器故障诊断的训练数据生成模型构建方法及应用
CN114169396B (zh) * 2021-11-05 2022-09-20 华中科技大学 用于飞行器故障诊断的训练数据生成模型构建方法及应用
CN114895647A (zh) * 2022-04-13 2022-08-12 哈尔滨工程大学 一种面向小样本船舶零件故障数据的诊断方法及可读存储介质
CN116010805A (zh) * 2023-03-24 2023-04-25 昆明理工大学 基于卷积神经网络的滚动轴承故障特征提取方法、装置

Also Published As

Publication number Publication date
CN112396088B (zh) 2023-05-12

Similar Documents

Publication Publication Date Title
CN112396088A (zh) 一种小样本下隐式激励对抗训练的机械故障智能诊断方法
CN108519768B (zh) 一种基于深度学习和信号分析的故障诊断方法
CN112906644B (zh) 基于深度迁移学习的机械故障智能诊断方法
CN109145706A (zh) 一种用于振动信号分析的敏感特征选取与降维方法
CN110490128A (zh) 一种基于加密神经网络的手写识别方法
CN114386521A (zh) 时间序列数据的异常检测方法、系统、设备和存储介质
CN114722952B (zh) 一种基于表示学习的轴承故障检测和分类的一体化方法
CN113420691A (zh) 一种基于皮尔逊相关系数的混合域特征轴承故障诊断方法
CN112257263B (zh) 基于自注意力机制的设备剩余寿命预测系统
CN112257862B (zh) 一种基于关系网络标记样本扩充的半监督辨识方法
CN111459144A (zh) 一种基于深度循环神经网络的飞机飞控系统故障预测方法
CN113822139A (zh) 一种基于改进1DCNN-BiLSTM的设备故障诊断方法
CN116465623B (zh) 一种基于稀疏Transformer的齿轮箱寿命预测方法
CN112560948B (zh) 数据偏差下的眼底图分类方法及成像方法
CN113642414A (zh) 一种基于Transformer模型的滚动轴承剩余使用寿命预测方法
CN117056874A (zh) 一种基于深度孪生自回归网络的无监督窃电检测方法
CN116796272A (zh) 一种基于Transformer的多变量时间序列异常检测方法
CN116756670A (zh) 一种基于专家反馈的广义孤立森林异常检测方法
CN115034504B (zh) 基于云边协同训练的刀具磨损状态预测系统及方法
CN116304849A (zh) 一种基于局部切空间排列及门控循环网络的二维活塞泵故障诊断方法
CN115184054A (zh) 机械设备半监督故障检测分析方法、装置、终端及介质
CN116007937A (zh) 一种机械设备传动部件智能故障诊断方法及装置
CN117235489A (zh) 传动系统多源监测数据的图变分自编码特征提取方法
CN114947801A (zh) 一种基于Transformer网络的生命体征状态识别方法及系统
CN111475986A (zh) 一种基于lstm-aon的齿轮剩余寿命的预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant