CN112257862A - 一种基于关系网络标记样本扩充的半监督辨识方法 - Google Patents

一种基于关系网络标记样本扩充的半监督辨识方法 Download PDF

Info

Publication number
CN112257862A
CN112257862A CN202011064873.0A CN202011064873A CN112257862A CN 112257862 A CN112257862 A CN 112257862A CN 202011064873 A CN202011064873 A CN 202011064873A CN 112257862 A CN112257862 A CN 112257862A
Authority
CN
China
Prior art keywords
deep neural
network
signal
fault
signal set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011064873.0A
Other languages
English (en)
Other versions
CN112257862B (zh
Inventor
王�义
阮胡林
孙浩然
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University
Original Assignee
Chongqing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University filed Critical Chongqing University
Priority to CN202011064873.0A priority Critical patent/CN112257862B/zh
Publication of CN112257862A publication Critical patent/CN112257862A/zh
Application granted granted Critical
Publication of CN112257862B publication Critical patent/CN112257862B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M13/00—Testing of machine parts
    • G01M13/02—Gearings; Transmission mechanisms
    • G01M13/021—Gearings
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M13/00—Testing of machine parts
    • G01M13/02—Gearings; Transmission mechanisms
    • G01M13/028—Acoustic or vibration analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)

Abstract

本发明公开一种基于关系网络标记样本扩充的半监督辨识方法，步骤为：1)获取有标签信号集和无标签信号集；2)对有标签信号集和无标签信号集进行预处理；3)对有标签信号集进行样本扩充；4)利用扩充后的有标签信号集建立深度神经网络故障分类模型；5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。本发明能充分利用少量样本的标签信息，精确实现样本之间的相似性衡量，降低了对标签信号样本数量上的依赖。

Description

一种基于关系网络标记样本扩充的半监督辨识方法
技术领域
本发明涉及齿轮箱部件状态监测和故障诊断领域，具体是一种基于关系网络标记样本扩充的半监督辨识方法。
背景技术
随着装备制造业的迅速发展，旋转机械设备被广泛的应用于各类工业场合，如风力发电、高速列车、航空航天等领域，齿轮箱作为常见传动部件是旋转机械中最重要的部件。但是，由于工业应用中复杂而严峻的运行环境，齿轮箱在长期运行期间经常会发生故障。齿轮箱部件的意外损坏可能会导致较长的停机时间，较高的维护成本，甚至会带来巨大的安全威胁。因此，对运行中的齿轮箱部件进行实时的状态监测和故障诊断，以便及时发现初期故障，对实际的工业生产极为重要。
就齿轮箱部件的故障诊断而言，大致分为三类方法：基于模型的、基于知识的和基于数据驱动的。前两种故障诊断方法极度地依赖于专家经验和先验知识，这严重的制约了该类方法在实际工业场合中的部署和应用。近年来，随着工业物联网和人工智能技术的兴起，基于数据驱动的故障诊断方法得到了广泛的研究和关注。得益于其强大的非线性建模和表征能力，深度学习方法被广泛的应用于旋转机械状态监测和故障诊断领域，该类方法通过构建深度神经网络能从原始输入信号中学习到利于故障分类的特征表达，进而精确实现设备运行状态的故障模式识别。
传统的基于深度学习的故障诊断方法需要引入大量的有标签信号进行监督训练，以获取具有高泛化能力的故障分类模型；否则，过拟合(over-fitting)问题会严重的制约所建立深度模型的表征能力和分类精度。然而，在实际的工业场合中，标记所有的故障振动信号需要耗费大量的时间和精力。因此，在真实的工况中，仅有很少部分振动信号带有标签信息，而其余振动信号不具有任何先验信息。上述的振动信号样本标签稀疏性给传统的深度学习故障诊断方法带来了巨大的挑战。
发明内容
本发明的目的是提供一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)获取若干有标签振动信号
Figure BDA0002713464610000011
并写入有标签信号集
Figure BDA0002713464610000021
m为有标签信号集元素数量。获取若干无标签振动信号
Figure BDA0002713464610000022
并写入无标签信号集
Figure BDA0002713464610000023
所述标签
Figure BDA0002713464610000024
为齿轮箱运行状态类别。上标i和上标j表示信号序号。n为无标签信号集元素数量。
所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障。其中齿尖磨损故障分为5种故障等级。
所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列。每个振动信号包括N个采样点的加速度幅值。
2)对有标签信号集和无标签信号集进行预处理。所述预处理为归一化处理。
3)对有标签信号集进行样本扩充。
对有标签信号集进行样本扩充的步骤包括：
3.1)建立深度神经关系网络。深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)。
3.2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络。
对深度神经关系网络进行训练的步骤包括：
3.2.1)生成学习任务Tl，即：
Figure BDA0002713464610000025
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。
3.2.2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
Figure BDA0002713464610000026
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块。
3.2.3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新。
深度神经关系网络参数更新如下：
Figure BDA0002713464610000027
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数。
Figure BDA0002713464610000031
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。
其中，真实关系分数
Figure BDA0002713464610000032
如下所示：
Figure BDA0002713464610000033
3.3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中。
3.4)重复步骤3.3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集。
3.5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性。
无标签信号的预测标签如下所示：
Figure BDA0002713464610000034
式中，
Figure BDA0002713464610000035
为无标签信号
Figure BDA0002713464610000036
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量。
Figure BDA0002713464610000037
式中，xl,k表示故障类型为k的有标签振动信号。
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络。
预测标签的确定性如下所示：
Figure BDA0002713464610000038
式中，
Figure BDA0002713464610000039
为预测标签的确定性。
3.6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型。
建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层。
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
Figure BDA0002713464610000041
式中，Lentropy为交叉熵损失函数。m′为扩充后有标签信号集的样本数量。fk(·；θs)表示深度神经网络故障分类模型。
Figure BDA0002713464610000042
式中，θs为深度神经网络故障分类模型的参数。
Figure BDA0002713464610000043
为深度神经网络故障分类模型更新后的参数。
5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；
6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。
本发明的技术效果良好，明具如下：
1)通过构建成对输入样本能生成大量的学习任务用于深度神经网络的训练，能够最大程度提高深度模型的泛化能力，防止因过拟合所带来的模型退化问题。并且，和传统的样本扩充方法不同(如生成式方法，添加噪声方法)，本发明所提出的样本扩充方式不改变原始数据分布，避免了因数据分布差异给深度模型带来的额外随机扰动；
2)构建了深度关系网络用于小样本训练数据下的特征提取和模式识别，与传统有监督深度分类模型相比，所提出的方法能充分利用少量样本的标签信息，精确实现样本之间的相似性衡量，降低了对标签信号样本数量上的依赖；
3)提出了新颖的半监督学习策略，以循环方式逐步实现有标签信号集的扩充，能够充分利用无标签信号集的数据信息，极大的提高了深度关系网络的泛化能力和最终深度分类模型的故障诊断准确率。
附图说明
图1为本发明的深度关系网络的结构图；
图2(a)为本发明的深度关系网络特征提取模块的结构图；
图2(b)为本发明的深度关系网络关系计算模块的结构图；
图3为本发明的深度神经网络故障分类模型结构图；
图4为本发明的基于关系网络的半监督齿轮箱故障监测与诊断方法的整体示意图；
图5为本发明提出的齿轮箱故障监测与诊断方法的故障识别混淆矩阵。
具体实施方式
下面结合实施例对本发明作进一步说明，但不应该理解为本发明上述主题范围仅限于下述实施例。在不脱离本发明上述技术思想的情况下，根据本领域普通技术知识和惯用手段，做出各种替换和变更，均应包括在本发明的保护范围内。
实施例1：
参见图1至图5，一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)获取若干有标签振动信号
Figure BDA0002713464610000051
并写入有标签信号集
Figure BDA0002713464610000052
m为元素数量。获取若干无标签振动信号
Figure BDA0002713464610000053
并写入无标签信号集
Figure BDA0002713464610000054
所述标签
Figure BDA0002713464610000055
为齿轮箱运行状态类别。上标i和上标j表示信号序号。有标签信号集元素数量远远少于无标签信号集元素数量。n为无标签信号集元素数量。
所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障。其中齿尖磨损故障分为5种故障等级。
所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列。每个振动信号包括N个采样点的加速度幅值。
2)对有标签信号集和无标签信号集进行预处理。所述预处理为归一化处理。
3)对有标签信号集进行样本扩充。
对有标签信号集进行样本扩充的步骤包括：
3.1)建立深度神经关系网络。深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)。所述特征提取模块包含输入层、卷积block1、池化层1、卷积block2、池化层2、卷积block3、卷积block4，该模块用于原始振动信号的故障特征提取。所述特征组合模块，将通过特征提取模块分别提取到的输入样本对的故障特征在深度方向上进行特征整合，最终生成一个统一的特征图，并输入到关系计算模块中。所述关系计算模块包含卷积block5、池化层5、卷积block6、池化层6、全连接层1、全连接层2，该模块可看作是一个回归模型，其接收上一模块组合的特征图，并最终生成一个介于0至1之间的实数，用于衡量输入样本对之间的关系或相似性，具体地，输出关系分数越接近于1，表示输入样本对具有越高的相似性。
3.2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络。
对深度神经关系网络进行训练的步骤包括：
3.2.1)生成学习任务Tl，即：
Figure BDA0002713464610000061
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。＝＝表示左右两边相等。
3.2.2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
Figure BDA0002713464610000062
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块。
3.2.3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新。
深度神经关系网络参数更新如下：
Figure BDA0002713464610000063
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数。
Figure BDA0002713464610000064
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。←表示左边项参数由右边项迭代更新得到。
其中，真实关系分数
Figure BDA0002713464610000065
如下所示：
Figure BDA0002713464610000066
3.3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中。
3.4)重复步骤3.3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集。
3.5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性。
无标签信号的预测标签如下所示：
Figure BDA0002713464610000071
式中，
Figure BDA0002713464610000072
为无标签信号
Figure BDA0002713464610000073
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量。k为故障类型。
Figure BDA0002713464610000074
式中，xl,k表示故障类型为k的有标签振动信号。
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络。
预测标签的确定性如下所示：
Figure BDA0002713464610000075
式中，
Figure BDA0002713464610000076
为预测标签的确定性。
3.6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型。
建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层。
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
Figure BDA0002713464610000081
式中，Lentropy为交叉熵损失函数。m′为扩充后有标签信号集的样本数量。fk(·；θs)表示深度神经网络故障分类模型。
Figure BDA0002713464610000082
式中，θs为深度神经网络故障分类模型的参数。
Figure BDA0002713464610000083
为深度神经网络故障分类模型更新后的参数。
实施例2：
一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)齿轮箱故障振动信号获取和预处理；
其中，所述齿轮箱故障振动信号获取和预处理过程包括以下步骤：
1.1)齿轮箱故障振动信号获取；
采用振动加速度传感器以20kHZ采样频率测量得到不同健康状态下齿轮箱部件的加速度振动信号，每个故障振动信号为包含1024个采样点的加速度幅值时间序列；所述齿轮箱故障类型包括健康状态、表面剥落、齿根故障、断齿故障、齿尖磨损故障1、齿尖磨损故障2、齿尖磨损故障3、齿尖磨损故障4、齿尖磨损故障5等共计9种故障类型，每种故障类型采集260个振动信号；将测得的故障振动信号进一步划分为有标签信号集和无标签信号集，对有标签信号集中的每个振动信号样本进行故障类别标注，其中有标签信号集包含10×9＝90个故障振动信号，无标签信号集包含250×9＝2250个故障振动信号。
1.2)齿轮箱故障振动信号预处理；
将有标签信号集和无标签信号集看作一个整体，计算总体信号集的均值和标准差；分别对有标签信号集和无标签信号集进行数据标准化，近似的将原数据集映射为标准正态分布，以便进行后续深度模型训练；具体的标准化方法为：每个故障振动信号减去总体均值并除以总体标准差；
通过上述步骤，获取包含9类齿轮箱故障类型的有标签信号集
Figure BDA0002713464610000084
和无标签信号集
Figure BDA0002713464610000085
其中，
Figure BDA0002713464610000086
和
Figure BDA0002713464610000087
表示采集到的故障振动信号，
Figure BDA0002713464610000088
为标注的齿轮箱的故障类型。
2)有标签振动信号样本集扩充。
2.1)有标签信号集输入样本对构建；
2.1.1)给定集合Dl表示包含90个振动信号的有标签信号集，从中以有放回的方式随机选择2个振动信号构成输入样本对，穷尽所有的组合方式得到如下的学习任务：
Figure BDA0002713464610000091
其中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。
2.1.2)深度关系网络的构建；
本发明所建立的深度关系网络主要基于卷积神经网络，其模型结构和网络参数如图1和图2所示；所提出的深度关系网络包含一个特征提取模块、特征组合模块和关系计算模块，上述模块依次连接形成深度网络结构；
所述特征提取模块包含输入层、卷积block1、池化层1、卷积block2、池化层2、卷积block3、卷积block4，该模块用于原始振动信号的故障特征提取；
所述特征组合模块，将通过特征提取模块分别提取到的输入样本对的故障特征在深度方向上进行特征整合，最终生成一个统一的特征图，并输入到关系计算模块中；
所述关系计算模块包含卷积block5、池化层5、卷积block6、池化层6、全连接层1、全连接层2，该模块可看作是一个回归模型，其接收上一模块组合的特征图，并最终生成一个介于0至1之间的实数，用于衡量输入样本对之间的关系或相似性，具体地，输出关系分数越接近于1，表示输入样本对具有越高的相似性。
2.1.3)深度关系网络的训练；
对深度关系网络进行随机初始化，使得网络参数近似服从均值为0标准差为0.01的正态分布；
将步骤2.1.1)构建的学习任务以32的batch size分批输入到深度关系网络中，进行前向传播，计算得到成对输入样本的关系分数，前向传播过程表述如下：
Figure BDA0002713464610000092
其中，rij为输入样本对的关系分数，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块；
选用Adam优化器以0.001学习率对深度关系网络进行后向传播，以实现深度模型参数优化，后向传播过程表述如下：
Figure BDA0002713464610000101
Figure BDA0002713464610000102
其中，θe和θr分别为特征提取模块和关系计算模块的网络参数。
2.2)无标签和有标签信号集样本对构建；
将有标签信号集和无标签信号集中的信号样本进行组合，生成如下的输入信号样本对：
Figure BDA0002713464610000103
嵌入关系空间建立；
将生成的样本对输入到训练好的深度关系网络中，建立起有标签样本和无标签信号的嵌入关系空间：
Figure BDA0002713464610000104
r(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr}
在建立的嵌入关系空间中，每个无标签信号包含两个要素，分别为预测标签和预测标签的确定性；
无标签信号的预测标签表述如下：
Figure BDA0002713464610000105
预测标签的确定性表述如下：
Figure BDA0002713464610000106
其中，xl,k表示来自故障类型k的有标签信号，r(·；·)为建立的深度关系网络，O(·)为独热编码操作。
2.3)有标签振动信号集样本扩充；
以建立的关系空间为参考，进行有标签振动信号集的样本扩充。具体的扩充方式为：针对齿轮箱每类故障类型，具有前50个最大预测确定性的无标签信号被选择出来，其预测标签被当作其真实标签。选择出来的无标签样本结合其预测标签添加到有标签信号集中，实现样本扩充。
2.4)循环训练；
重复步骤2.1)-2.3)若干次，逐步提高深度关系网络的泛化能力，并迭代进行无标签信号的标签标定，以实现有标签信号集的样本扩充。本实施例选择重复四次。
通过以上步骤得到扩充的有标签信号集表述如下：
Figure BDA0002713464610000111
3)深度神经网络故障分类模型的建立。
通过上述步骤扩充的有标签信号集De和初始有标签信号集Dl构成总的有标签训练集Dtotal＝De∪Dl，并用于训练深度神经网络故障分类模型。
3.1)深度神经网络故障分类模型的建立；
所建立的深度神经网络故障分类模型包含输入层、卷积层1、池化层1、卷积层2、池化层2、卷积层3、池化层3、全连接层1、全连接层2和softmax输出层，通过级联各层形成深度网络结构，其具体模型结构和网络参数如图3和图4所示。
3.2)深度神经网络故障分类模型的训练；
将扩充的有标签信号集Dtotal的故障振动信号以32的batch size分批次输入到深度神经网络故障分类模型中，采用交叉熵损失函数衡量网络预测输出与实际标签的差别，选用Adam优化器以0.0001学习率进行模型参数更新和优化，参数优化过程表述如下：
Figure BDA0002713464610000112
Figure BDA0002713464610000113
其中，Lentropy为交叉熵损失函数，f(·；θs)表示所建立的深度神经网络故障分类模型，θs为所建立模型的网络参数。
4)齿轮箱实时运行状态监测和故障诊断
4.1)故障振动信号预处理；
对采集到的齿轮箱运行数据进行标准化预处理。
齿轮箱实时运行状态监测和故障诊断；
4.2)将步骤4.1处理得到的齿轮箱运行数据输入到训练好的深度神经网络故障分类模型中，得到一个9维向量，分别表示齿轮箱每类故障发生的预测概率，其中具有最大预测概率的故障类型被认为是故障诊断结果，由此进行齿轮箱故障模式识别和健康状态预测。
为了验证所提出技术方案在半监督条件下齿轮箱故障诊断中的优越性能，本发明将传统故障诊断方法和所提出技术方案进行齿轮箱故障诊断对比试验，得到的实验结果如表1所示：
表1齿轮箱故障诊断识别准确率对比
Figure BDA0002713464610000121
此外，引入混淆矩阵进一步说明本技术方案在齿轮箱故障诊断中的识别情况，如图5所示。

Claims (9)

1.一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，包括以下步骤：
1)获取若干有标签振动信号
Figure FDA0002713464600000011
并写入所述有标签信号集
Figure FDA0002713464600000012
m为有标签信号集元素数量；获取若干无标签振动信号
Figure FDA0002713464600000013
并写入无标签信号集
Figure FDA0002713464600000014
所述标签
Figure FDA0002713464600000015
为齿轮箱运行状态类别；上标i和上标j表示信号序号；n为无标签信号集元素数量；
2)对有标签信号集和无标签信号集进行预处理。
3)对有标签信号集进行样本扩充；
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型；
5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；
6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。
2.根据权利要求1或2所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障；其中齿尖磨损故障分为5种故障等级。
3.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列；每个振动信号包括N个采样点的加速度幅值。
4.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述预处理为归一化处理。
5.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对有标签信号集进行样本扩充的步骤包括：
1)建立深度神经关系网络；深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)；
2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络；
3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中；
4)重复步骤3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集；
5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性；
6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
6.根据权利要求5所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对深度神经关系网络进行训练的步骤包括：
1)生成学习任务Tl，即：
Figure FDA0002713464600000021
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0；
2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
Figure FDA0002713464600000022
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块；θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数；
3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新；
深度神经关系网络参数更新如下：
Figure FDA0002713464600000023
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数；
Figure FDA0002713464600000024
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。
其中，真实关系分数
Figure FDA0002713464600000025
如下所示：
Figure FDA0002713464600000026
7.根据权利要求5所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，无标签信号的预测标签如下所示：
Figure FDA0002713464600000031
式中，
Figure FDA0002713464600000032
为无标签信号
Figure FDA0002713464600000033
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量；
Figure FDA0002713464600000034
式中，xl,k表示故障类型为k的有标签振动信号；
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络；
预测标签的确定性如下所示：
Figure FDA0002713464600000035
式中，
Figure FDA0002713464600000036
为预测标签的确定性。
8.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层；
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
9.根据权利要求8所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
Figure FDA0002713464600000037
式中，Lentropy为交叉熵损失函数；m′为扩充后有标签信号集的样本数量；fk(·；θs)表示深度神经网络故障分类模型；
Figure FDA0002713464600000038
式中，θs为深度神经网络故障分类模型的参数；
Figure FDA0002713464600000039
为深度神经网络故障分类模型更新后的参数。
CN202011064873.0A 2020-09-30 2020-09-30 一种基于关系网络标记样本扩充的半监督辨识方法 Active CN112257862B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011064873.0A CN112257862B (zh) 2020-09-30 2020-09-30 一种基于关系网络标记样本扩充的半监督辨识方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011064873.0A CN112257862B (zh) 2020-09-30 2020-09-30 一种基于关系网络标记样本扩充的半监督辨识方法

Publications (2)

Publication Number Publication Date
CN112257862A true CN112257862A (zh) 2021-01-22
CN112257862B CN112257862B (zh) 2023-12-05

Family

ID=74234841

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011064873.0A Active CN112257862B (zh) 2020-09-30 2020-09-30 一种基于关系网络标记样本扩充的半监督辨识方法

Country Status (1)

Country Link
CN (1) CN112257862B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112949823A (zh) * 2021-02-05 2021-06-11 杭州电子科技大学 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法
CN113222867A (zh) * 2021-04-16 2021-08-06 山东师范大学 基于多模板图像的图像数据增强方法及系统
CN113642465A (zh) * 2021-08-13 2021-11-12 石家庄铁道大学 基于关系网络的轴承健康评估方法
WO2023231374A1 (zh) * 2022-05-30 2023-12-07 深圳技术大学 机械设备半监督故障检测分析方法、装置、终端及介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104751191A (zh) * 2015-04-23 2015-07-01 重庆大学 一种稀疏自适应半监督多流形学习的高光谱影像分类方法
CN107194336A (zh) * 2017-05-11 2017-09-22 西安电子科技大学 基于半监督深度距离度量网络的极化sar图像分类方法
CN108364016A (zh) * 2018-01-12 2018-08-03 华南理工大学 基于多分类器的渐进式半监督分类方法
CN108460134A (zh) * 2018-03-06 2018-08-28 云南大学 基于多源域集成迁移学习的文本主题分类模型及分类方法
CN109522961A (zh) * 2018-11-23 2019-03-26 中山大学 一种基于字典深度学习的半监督图像分类方法
CN109582003A (zh) * 2018-12-03 2019-04-05 东北林业大学 基于伪标签半监督核局部费舍尔判别分析轴承故障诊断
CN110617966A (zh) * 2019-09-23 2019-12-27 江南大学 一种基于半监督生成对抗网络的轴承故障诊断方法
US20200125897A1 (en) * 2018-10-18 2020-04-23 Deepnorth Inc. Semi-Supervised Person Re-Identification Using Multi-View Clustering
CN111695612A (zh) * 2020-05-26 2020-09-22 东南大学 一种基于聚类的半监督识别方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104751191A (zh) * 2015-04-23 2015-07-01 重庆大学 一种稀疏自适应半监督多流形学习的高光谱影像分类方法
CN107194336A (zh) * 2017-05-11 2017-09-22 西安电子科技大学 基于半监督深度距离度量网络的极化sar图像分类方法
CN108364016A (zh) * 2018-01-12 2018-08-03 华南理工大学 基于多分类器的渐进式半监督分类方法
CN108460134A (zh) * 2018-03-06 2018-08-28 云南大学 基于多源域集成迁移学习的文本主题分类模型及分类方法
US20200125897A1 (en) * 2018-10-18 2020-04-23 Deepnorth Inc. Semi-Supervised Person Re-Identification Using Multi-View Clustering
CN109522961A (zh) * 2018-11-23 2019-03-26 中山大学 一种基于字典深度学习的半监督图像分类方法
CN109582003A (zh) * 2018-12-03 2019-04-05 东北林业大学 基于伪标签半监督核局部费舍尔判别分析轴承故障诊断
CN110617966A (zh) * 2019-09-23 2019-12-27 江南大学 一种基于半监督生成对抗网络的轴承故障诊断方法
CN111695612A (zh) * 2020-05-26 2020-09-22 东南大学 一种基于聚类的半监督识别方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
HAO WU等: "Semi-Supervised Deep Learning Using Pseudo Labels for Hyperspectral Image Classification", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》, vol. 27, no. 3, pages 1259, XP011675134, DOI: 10.1109/TIP.2017.2772836 *
ZHENYA WANG等: "Mahalanobis semi-supervised mapping and beetle antennae search based support vector machine for wind turbine rolling bearings fault diagnosis", 《RENEWABLE ENERGY》, vol. 155, pages 1312 - 1327, XP086162145, DOI: 10.1016/j.renene.2020.04.041 *
吕枫等: "深度嵌入关系空间下齿轮箱标记样本扩充及其半监督故障诊断方法", 《仪器仪表学报》, vol. 42, no. 2, pages 55 - 65 *
樊宏渊: "基于深度学习的半监督高光谱图像分类", 《中国优秀硕士学位论文全文数据链 (工程科技Ⅱ辑)》, no. 02, pages 028 - 185 *
陶新民;任超;徐朗;何庆;刘锐;邹俊荣;: "基于伪标签半监督核局部Fisher判别分析轴承故障诊断", 振动与冲击, no. 17, pages 1 - 9 *
韩嵩;韩秋弘;: "半监督学习研究的述评", 计算机工程与应用, no. 06, pages 19 - 27 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112949823A (zh) * 2021-02-05 2021-06-11 杭州电子科技大学 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法
CN113222867A (zh) * 2021-04-16 2021-08-06 山东师范大学 基于多模板图像的图像数据增强方法及系统
CN113222867B (zh) * 2021-04-16 2022-05-20 山东师范大学 基于多模板图像的图像数据增强方法及系统
CN113642465A (zh) * 2021-08-13 2021-11-12 石家庄铁道大学 基于关系网络的轴承健康评估方法
CN113642465B (zh) * 2021-08-13 2022-07-08 石家庄铁道大学 基于关系网络的轴承健康评估方法
WO2023231374A1 (zh) * 2022-05-30 2023-12-07 深圳技术大学 机械设备半监督故障检测分析方法、装置、终端及介质

Also Published As

Publication number Publication date
CN112257862B (zh) 2023-12-05

Similar Documents

Publication Publication Date Title
CN112257862B (zh) 一种基于关系网络标记样本扩充的半监督辨识方法
Zhao et al. Deep multi-scale convolutional transfer learning network: A novel method for intelligent fault diagnosis of rolling bearings under variable working conditions and domains
Han et al. An adaptive spatiotemporal feature learning approach for fault diagnosis in complex systems
Li et al. Fault diagnosis of rotating machinery based on combination of deep belief network and one-dimensional convolutional neural network
Feng et al. Similarity-based meta-learning network with adversarial domain adaptation for cross-domain fault identification
Xu et al. A novel multi-scale CNN and attention mechanism method with multi-sensor signal for remaining useful life prediction
CN112906644B (zh) 基于深度迁移学习的机械故障智能诊断方法
Wang et al. Self-supervised signal representation learning for machinery fault diagnosis under limited annotation data
CN108256556A (zh) 基于深度信念网络的风力发电机组齿轮箱故障诊断方法
CN115600150A (zh) 一种基于深度迁移学习的多模态齿轮箱故障诊断方法
Chen et al. Generalized open-set domain adaptation in mechanical fault diagnosis using multiple metric weighting learning network
CN110375987A (zh) 一种基于深度森林机械轴承故障检测方法
CN113505664B (zh) 一种风电机组行星齿轮箱故障诊断方法
Rahadian et al. Image encoding selection based on Pearson correlation coefficient for time series anomaly detection
CN110991471B (zh) 一种高速列车牵引系统故障诊断方法
CN114722952B (zh) 一种基于表示学习的轴承故障检测和分类的一体化方法
Dong et al. Dynamic normalization supervised contrastive network with multiscale compound attention mechanism for gearbox imbalanced fault diagnosis
CN116007937B (zh) 一种机械设备传动部件智能故障诊断方法及装置
Saberi et al. LightGBM-based fault diagnosis of rotating machinery under changing working conditions using modified recursive feature elimination
Wei et al. WSAFormer-DFFN: A model for rotating machinery fault diagnosis using 1D window-based multi-head self-attention and deep feature fusion network
CN116227586A (zh) 基于深度残差收缩原型网络的元学习故障诊断方法及装置
CN118094342B (zh) 旋转机械无监督域自适应故障诊断方法及系统
Ma et al. A collaborative central domain adaptation approach with multi-order graph embedding for bearing fault diagnosis under few-shot samples
van den Hoogen et al. An improved wide-kernel cnn for classifying multivariate signals in fault diagnosis
CN114548295A (zh) 基于多尺度领域自适应网络的轴承故障分类系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant