CN112860183B - 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法 - Google Patents

基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法 Download PDF

Info

Publication number
CN112860183B
CN112860183B CN202110020442.2A CN202110020442A CN112860183B CN 112860183 B CN112860183 B CN 112860183B CN 202110020442 A CN202110020442 A CN 202110020442A CN 112860183 B CN112860183 B CN 112860183B
Authority
CN
China
Prior art keywords
data set
source
training
domain
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110020442.2A
Other languages
English (en)
Other versions
CN112860183A (zh
Inventor
陈景龙
冯勇
宋霄罡
訾艳阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN202110020442.2A priority Critical patent/CN112860183B/zh
Publication of CN112860183A publication Critical patent/CN112860183A/zh
Application granted granted Critical
Publication of CN112860183B publication Critical patent/CN112860183B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/40—Bus structure
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • Other Investigation Or Analysis Of Materials By Electrical Means (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于高阶矩匹配的多源蒸馏‑迁移机械故障智能诊断方法，利用从多台机械设备采集的运行数据建立多源数据集，预处理后将其划分为源域数据集、目标域训练数据集和目标域测试数据集；构建基于高阶矩匹配的多源蒸馏‑迁移学习网络模型，使用源域数据集和目标域训练数据集进行高阶矩匹配、最大分类器差异以及多源蒸馏训练；将目标域测试数据集作为测试输入，使用自适应加权策略综合多个分类器的输出，完成跨域故障诊断。本发明利用多源数据，在域、类别层面对齐源域和目标域特征，通过多源蒸馏提高模型对目标样本的分类能力，并提出自适应加权以综合诊断结果，解决了传统方法在跨域诊断中性能下降的问题，大幅提升了深度模型的性能。

Description

基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法
技术领域
本发明涉及机械设备故障诊断领域，特别涉及一种基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法。
背景技术
大型旋转机械设备如风机、压缩机和燃气轮机等是国民经济领域中的关键生产设备，其运行中产生的严重机械故障会对操作人员生命安全及设备运行安全造成极大威胁。准确、及时识别该类机械设备运行过程中萌生和演变的故障，对保障机械设备安全运行，避免灾难性事故发生意义重大。
在传统的机械故障智能诊断方法中，基于机器学习的方法依赖于耗时的特征工程且因其浅层结构而泛化能力较弱；在工业大数据的背景下，基于深度学习的方法因其强大的特征自动提取能力，获得了广泛关注与研究。近年来，为解决在实际工况中设备故障数据量少、数据分布差异大而造成的模型性能下降的问题，提出了一系列基于深层神经网络的迁移学习方法，利用实验室数据和历史数据将模型迁移至特定诊断场景中，取得了较好的效果。但现有方法均基于单个源域的模型迁移，而在实际中，对于可能获得多个设备、多种工况下的历史数据而言是极大的浪费。同时，单源域中数据特征单一、样本质量的参差不齐容易造成负迁移，而多源域提供了更多数据及其分布。在同种设备故障特征具有内在联系的基础上，研究用于机械故障智能诊断的多源迁移学习与样本甄别方法，对于进一步提高深度学习模型在跨域机械故障诊断中的性能具有指导意义。
发明内容
本发明的目的在于提供一种基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法，以克服现有技术的缺陷，本发明利用多源域数据，通过高阶矩匹配在域层面实现域自适应以对齐源域、目标域特征，通过最大最小化分类器差异实现类别层面的特征对齐，基于样本高阶矩实现多源样本蒸馏，进一步提高模型对目标样本的分类能力，在测试阶段提出自适应加权策略以得到综合诊断结果，大幅提升了深度模型在跨域故障诊断中的性能。
为达到上述目的，本发明采用如下技术方案：
基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法，包括以下步骤：
步骤1：利用从多台机械设备采集的设备运行状态数据，建立多源数据集，对该多源数据集进行预处理，并将预处理后的数据集划分为包含多个设备数据的源域数据集和包含单设备数据的目标域数据集，将目标域数据集分为目标域训练数据集和目标域测试数据集；
步骤2：构建基于高阶矩匹配的多源蒸馏-迁移学习网络模型；
步骤3：使用步骤1中的源域数据集和目标域训练数据集对步骤2中构建的模型进行训练；
步骤4：以步骤1中的目标域测试数据集作为步骤3中训练模型的输入，使用自适应加权策略综合多个分类器的输出结果，完成跨域故障智能诊断。
进一步地，步骤1中的预处理具体包括，以固定长度将数据无重复地切分为不同样本，为样本赋予类别标签，并对样本进行标准化处理，公式如下：
Figure BDA0002888328450000021
式中，l表示样本包含的数据点个数，x0表示预处理前的样本，x表示预处理后的样本，x0(i)为x0的第i个分量。
进一步地，步骤2中所构建的基于高阶矩匹配的多源蒸馏-迁移学习网络模型，其结构包括一个特征提取器和三个分类器，特征提取器由5个卷积池化模块以及两个全连接层组成，每个分类器由两个全连接层组成。
进一步地，每个卷积池化模块由卷积层、批规范化层、激活函数、Dropout操作以及池化层构成，第一个卷积池化模块中的卷积层采用宽尺寸卷积核以抑制高频环境噪声，其余卷积池化模块中卷积核尺寸一致，且其余卷积池化模块中卷积核尺寸小于第一个卷积池化模块中的卷积核。
进一步地，步骤3中对模型进行的训练包含：高阶矩匹配训练，最大分类器差异训练以及多源蒸馏训练。
进一步地，所述高阶矩匹配训练以源域数据集和目标域训练数据集作为输入，分别计算每个域之间的高阶矩距离，将其加和作为模型该阶段训练的损失函数，该阶段训练目标及高阶矩距离公式如下：
Figure BDA0002888328450000031
Figure BDA0002888328450000032
式中，G、C1及C2分别代表特征提取器和两个分类器，Lm(XS,XT)表示高阶矩匹配训练的损失函数，AHMM表示高阶矩距离，Q表示高阶矩的阶数，q表示第q阶矩，XS与XT分别表示源域数据集样本、目标域训练数据集样本，
Figure BDA0002888328450000033
与
Figure BDA0002888328450000034
分别表示源域数据集第i个源域中第n个样本、源域数据集第j个源域中第n个样本、目标域训练数据集中第n个样本，NS与NT分别表示每个源域的样本数和目标域样本数，k代表源域数据集中源域个数，||·||2表示2-范数。
进一步地，所述最大分类器差异训练以源域数据集和目标域训练数据集作为输入，且分为三个训练子阶段：最小化分类损失、最大化分类器差异、最小化分类器差异，其训练目标分别表示如下：
Figure BDA0002888328450000041
Figure BDA0002888328450000042
Figure BDA0002888328450000043
式中，LC(XS,YS)表示分类损失，Ld(XT)为分类器差异，YS为源域数据集中XT对应的类别标签；LC(XS,YS)与Ld(XT)的计算公式分别为：
Figure BDA0002888328450000044
Figure BDA0002888328450000045
式中，Ci表示源域数据集第i个源域中样本的类别数，
Figure BDA0002888328450000046
为源域数据集第i个源域中的第j个样本及其标签，s为类别标签，pc为第c个分类器的输出，且c＝1,2，
Figure BDA0002888328450000047
为第m个线性映射，CT为目标域样本类别数，常数M为线性映射数量，(·)(i)代表第i个顺序统计量。
进一步地，所述多源蒸馏训练以源域数据集和目标域训练数据集作为输入，训练目标如下：
Figure BDA0002888328450000048
式中，C3为第三个分类器，Lc3(XS,YS)为多源蒸馏训练损失函数，其公式如下：
Figure BDA0002888328450000051
式中，
Figure BDA0002888328450000052
表示从源域数据集第i个源域蒸馏后得到的第j个样本，
Figure BDA0002888328450000053
为第三个分类器C3的输出，1[·]为指示函数，r为蒸馏样本残留系数，s为类别标签；
蒸馏样本
Figure BDA0002888328450000054
的筛选依据如下：
Figure BDA0002888328450000055
式中，
Figure BDA0002888328450000056
表示源域数据集中第i个源域中第j个样本
Figure BDA0002888328450000057
的温度，Q表示高阶矩的阶数，将每个源域中样本的温度
Figure BDA0002888328450000058
从小到大排序，选择其中最小的rNS个样本参与后续多源蒸馏训练。
进一步地，步骤4中所述自适应加权策略公式如下：
Figure BDA0002888328450000059
式中，p为综合输出，λ1、λ1、λ1分别为三个常系数，p1(y|x)、p2(y|x)、p3(y|x)分别为三个分类器C1、C2、C3的输出，d1,2、d2,3分别为C1与C3的差异、C2与C3的差异；
分类器Cc与C3的差异度量公式为：
Figure BDA00028883284500000510
式中，dc,3表示分类器Cc与C3的差异，
Figure BDA00028883284500000511
为第m个线性映射，常数M为线性映射数量，(·)(i)代表第i个顺序统计量，c取1或2。
与现有技术相比，本发明具有以下有益的技术效果：
1)本发明在同种机械设备故障之间具有内在联系的基础上，利用多台设备的运行状态信息，建立多源数据集，提出多源迁移方法，解决了一般深度学习方法在跨域诊断案例中性能退化的问题，克服了单源迁移方法在应用中存在的负迁移问题。
2)本发明构建的基于高阶矩匹配的多源蒸馏-迁移学习网络模型，可通过高阶矩匹配训练与最大分类器差异训练分别实现多源域特征与目标域特征在域层面和类别层面的对齐，通过多源蒸馏训练，进一步促进分类器对目标域样本的分类识别能力。
3)本发明提出在测试阶段利用基于分类器差异的自适应加权策略为不同分类器输出赋予权重，从而得到综合诊断结果，提高了模型在跨域故障诊断中的可靠性。
附图说明
图1为本发明方法的流程图；
图2为将本发明方法(ACMM)与其他方法应用于实施例的对比结果图；
图3为本发明方法(ACMM)与对比方法所提取特征的可视化展示，其中(a)为对比模型CNN-M所提取特征的可视化，(b)为本发明方法所构建的模型ACMM所提取特征的可视化。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明，以便本领域的技术人员更好地理解本发明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。为了便于描述，附图中仅示出了与有关发明相关的部分。还需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
一种基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法，参见图1，包括以下步骤：
步骤1：利用从多台机械设备采集的设备运行状态数据，建立多源数据集，对该数据集进行预处理，并将其划分为包含多个设备数据的源域数据集和包含单设备数据的目标域数据集，将目标域数据集分为目标域训练数据集和目标域测试数据集。
其中，对数据集进行的预处理具体包括，以固定长度将数据无重复地切分为不同样本，为样本赋予类别标签，并对样本进行标准化处理，公式如下：
Figure BDA0002888328450000071
式中，l表示样本包含的数据点个数，x0表示预处理前的样本，x表示预处理后的样本，x0(i)为x0的第i个分量。
该预处理操作将来自于不同设备的样本进行标准化，标准化后每个样本的分布均服从于标准正态分布N(0,1)，对于跨域诊断而言，消除了幅值等因素对模型性能的影响。
步骤2：构建基于高阶矩匹配的多源蒸馏-迁移学习网络模型。
该模型结构包括一个特征提取器和三个分类器，特征提取器由5个卷积池化模块以及两个全连接层组成，每个分类器由两个全连接层组成。
每个卷积池化模块由卷积层、批规范化层、激活函数、Dropout操作以及池化层构成，为抑制数据中的高频环境噪声，第一个卷积池化模块中的卷积层采用宽尺寸卷积核，其余模块中卷积核尺寸适当减小。
步骤3：使用步骤1中的源域数据集和目标域训练数据集对步骤2中构建的模型进行训练。
训练包含三个阶段：高阶矩匹配训练，最大分类器差异训练以及多源蒸馏训练。
在高阶矩匹配训练中，以源域数据集和目标域训练数据集作为输入，分别计算每个域之间的高阶矩距离，将其加和作为模型该阶段训练的损失函数。训练目的是在域层面对齐源域与源域、源域与目标域之间的特征。该阶段训练目标及高阶矩距离公式如下：
Figure BDA0002888328450000081
Figure BDA0002888328450000082
式中，G、C1及C2分别代表特征提取器和两个分类器，Lm(XS,XT)表示高阶矩匹配训练的损失函数，AHMM表示高阶矩距离，Q表示阶数，q表示第q阶矩，XS与XT分别表示源域数据集样本、目标域训练数据集样本，
Figure BDA0002888328450000083
Figure BDA0002888328450000084
与
Figure BDA0002888328450000085
分别表示源域数据集第i个源域中第n个样本、源域数据集第j个源域中第n个样本、目标域训练数据集中第n个样本，NS与NT分别表示每个源域的样本数和目标域样本数，k代表源域数据集中源域个数，||·||2表示2-范数。
在最大分类器差异训练中，以源域数据集和目标域训练数据集作为输入，分为三个训练子阶段：最小化分类损失、最大化分类器差异、最小化分类器差异。最小化分类损失保证了模型对于源域数据的基本分类能力，最大化分类器差异以探测分类决策边界之外且远离该边界的目标域样本，最小化分类器差异以将目标域样本映射到分类器相应边界之内。该阶段训练目标分别表示如下：
Figure BDA0002888328450000091
Figure BDA0002888328450000092
Figure BDA0002888328450000093
式中，LC(XS,YS)表示分类损失，Ld(XT)为分类器差异，YS为源域数据集中XT对应的类别标签。LC(XS,YS)与Ld(XT)的计算公式分别为：
Figure BDA0002888328450000094
Figure BDA0002888328450000095
式中，Ci表示源域数据集第i个源域中样本的类别数，
Figure BDA0002888328450000096
为源域数据集第i个源域中的第j个样本及其标签，s为类别标签，pc(c＝1,2)为第c个分类器的输出，
Figure BDA0002888328450000097
为第m个线性映射，CT为目标域样本类别数，常数M为线性映射数量，(·)(i)代表第i个顺序统计量。
多源蒸馏训练用于甄别源于数据集中质量较高的样本，该阶段以源域数据集和目标域训练数据集作为输入，训练目标如下：
Figure BDA0002888328450000098
式中，C3为第三个分类器，Lc3(XS,YS)为多源蒸馏训练损失函数，其公式如下：
Figure BDA0002888328450000099
式中，
Figure BDA00028883284500000910
表示从源域数据集第i个源域蒸馏后得到的第j个样本，
Figure BDA00028883284500000911
为第三个分类器C3的输出，1[·]为指示函数，r为蒸馏样本残留系数，s为类别标签。
蒸馏样本
Figure BDA0002888328450000101
的筛选依据如下：
Figure BDA0002888328450000102
式中，
Figure BDA0002888328450000103
表示源域数据集中第i个源域中第j个样本
Figure BDA0002888328450000104
的温度，Q表示高阶矩的阶数。将每个源域中样本的温度
Figure BDA0002888328450000105
从小到大排序，选择其中最小的rNS个样本参与后续多源蒸馏训练。
步骤4：以步骤1中的目标域测试数据集作为步骤3中训练模型的输入，使用自适应加权策略综合多个分类器的输出结果，完成跨域故障智能诊断。
其中，自适应加权策略基于分类器差异，分类器的输出与经过蒸馏训练的分类器输出(C3)越靠近，则认为该结果约可信。具体公式如下：
Figure BDA0002888328450000106
式中，p为综合输出，λ1、λ1、λ1分别为三个常系数，p1(y|x)、p2(y|x)、p3(y|x)分别为三个分类器C1、C2、C3的输出，d1,2、d2,3分别为C1与C3的差异、C2与C3的差异。
分类器Cc(c＝1,2)与C3的差异度量公式为：
Figure BDA0002888328450000107
式中，dc,3(c＝1,2)表示分类器Cc(c＝1,2)与C3的差异，
Figure BDA0002888328450000108
为第m个线性映射，常数M为线性映射数量，(·)(i)代表第i个顺序统计量。
下面结合具体实施例对本发明做进一步详细描述：
为了更好地说明本发明的技术效果，采用一个具体实施例对本发明进行试验验证。本实施例使用从四个不同设备上采集数据得到的四个轴承数据集开展轴承跨域诊断实验，数据集如下表所示，其中正常状态(NC)、内圈(IF)、外圈(OF)、滚动体故障(RoF)以及保持架故障(ReF)数据在各个数据集中不全存在，因此将NUAA数据集作为目标域数据集，其余三个作为源域数据集(包含三个源域)。
Figure BDA0002888328450000111
本实验还采用了其他四个对比模型，五个模型的细节如下：
1)ACMM：本发明所提出的基于高阶矩匹配的多源蒸馏-迁移学习网络模型；
2)DTLFD：基于对抗学习的多源迁移学习方法，其模型结构包含一个特征提取器、多个分类器以及一个域鉴别器，特征提取器由5个卷积层和两个全连接层组成，分类器和域鉴别器均由两个全连接层组成；
3)MSDA：基于对抗学习的多源域适应方法，其模型结构包含一个特征提取器、一个分类器和一个域鉴别器，特征提取器由三个卷积层、三个全连接层组成，分类器由三个全连接层组成，域鉴别器由两个全连接层组成；
4)M3SDA：基于矩匹配的多源域适应方法，其模型结构包含一个特征提取器、两个分类器，特征提取器由三个卷积层、两个全连接层组成，分类器由三个全连接层组成；
5)CNN-M：仅采用源域数据集训练的卷积神经网络，其模型结构包含一个特征提取器、一个分类器，特征提取器由五个卷积层、两个全连接层组成，分类器为一个全连接层。
使用每类状态包含200个源域样本的源域数据集和每类状态包含100个源域样本的无标签目标域数据集以及少量有标签目标样本，训练以上5个模型，在不同数量的有标签目标样本条件下，测试结果如图2所示。图中不同条件下，本发明所提出的方法均能达到最有效果，在完全无标签条件下，ACMM能达到80％以上准确率，有标签条件下能实现95％以上的诊断准确率，充分证明了本发明所提出方法在跨域故障诊断中的有效性。图3中(a)、(b)分别可视化了CNN-M与ACMM所提取的特征，可以看到CNN-M提取的不同类特征之间有重叠，而ACMM提取的不同类特征之间具有明显可区分性，且不同源域中的同类样本被ACMM映射后，其特征具有极高的相似性，也证明了本发明所提出方法在特征对齐方面具有优异性能。
尽管上面对本发明说明性的具体实施方式进行了描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

Claims (1)

1.基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法，其特征在于，包括以下步骤：
步骤1：利用从多台机械设备采集的设备运行状态数据，建立多源数据集，对该多源数据集进行预处理，并将预处理后的数据集划分为包含多个设备数据的源域数据集和包含单设备数据的目标域数据集，将目标域数据集分为目标域训练数据集和目标域测试数据集；
其中，预处理具体包括，以固定长度将数据无重复地切分为不同样本，为样本赋予类别标签，并对样本进行标准化处理，公式如下：
Figure FDA0004046263220000011
式中，l表示样本包含的数据点个数，x0表示预处理前的样本，x表示预处理后的样本，x0(i)为x0的第i个分量；
步骤2：构建基于高阶矩匹配的多源蒸馏-迁移学习网络模型；
基于高阶矩匹配的多源蒸馏-迁移学习网络模型的结构包括一个特征提取器和三个分类器，特征提取器由5个卷积池化模块以及两个全连接层组成，每个分类器由两个全连接层组成；
每个卷积池化模块由卷积层、批规范化层、激活函数、Dropout操作以及池化层构成，第一个卷积池化模块中的卷积层采用宽尺寸卷积核以抑制高频环境噪声，其余卷积池化模块中卷积核尺寸一致，且其余卷积池化模块中卷积核尺寸小于第一个卷积池化模块中的卷积核；
步骤3：使用步骤1中的源域数据集和目标域训练数据集对步骤2中构建的模型进行训练；
其中，对模型进行的训练包含：高阶矩匹配训练，最大分类器差异训练以及多源蒸馏训练；
所述高阶矩匹配训练以源域数据集和目标域训练数据集作为输入，分别计算每个域之间的高阶矩距离，将每个域之间的高阶矩距离相加作为模型该阶段训练的损失函数，该阶段训练目标及高阶矩距离公式如下：
Figure FDA0004046263220000021
Figure FDA0004046263220000022
式中，G、C1及C2分别代表特征提取器和两个分类器，Lm(XS，XT)表示高阶矩匹配训练的损失函数，AHMM表示高阶矩距离，Q表示高阶矩的阶数，q表示第q阶矩，Xs与XT分别表示源域数据集样本、目标域训练数据集样本，
Figure FDA0004046263220000023
与
Figure FDA0004046263220000024
分别表示源域数据集第i个源域中第n个样本、源域数据集第j个源域中第n个样本、目标域训练数据集中第n个样本，Ns与NT分别表示每个源域的样本数和目标域样本数，k代表源域数据集中源域个数，||·||2表示2-范数；
所述最大分类器差异训练以源域数据集和目标域训练数据集作为输入，且分为三个训练子阶段：最小化分类损失、最大化分类器差异、最小化分类器差异，其训练目标分别表示如下：
Figure FDA0004046263220000025
Figure FDA0004046263220000026
Figure FDA0004046263220000027
式中，LC(XS，YS)表示分类损失，Ld(XT)为分类器差异，YS为源域数据集中XT对应的类别标签；LC(XS，YS)与Ld(XT)的计算公式分别为：
Figure FDA0004046263220000031
Figure FDA0004046263220000032
式中，Ci表示源域数据集第i个源域中样本的类别数，
Figure FDA0004046263220000033
为源域数据集第i个源域中的第j个样本及其标签，s为类别标签，pc为第c个分类器的输出，且c＝1，2，
Figure FDA0004046263220000034
为第m个线性映射，CT为目标域样本类别数，常数M为线性映射数量，(·)(i)代表第i个顺序统计量；
所述多源蒸馏训练以源域数据集和目标域训练数据集作为输入，训练目标如下：
Figure FDA0004046263220000035
式中，C3为第三个分类器，Lc3(XS，YS)为多源蒸馏训练损失函数，其公式如下：
Figure FDA0004046263220000036
式中，
Figure FDA0004046263220000037
表示从源域数据集第i个源域蒸馏后得到的第j个样本，
Figure FDA0004046263220000038
为第三个分类器C3的输出，1[·]为指示函数，r为蒸馏样本残留系数，s为类别标签；
蒸馏样本
Figure FDA0004046263220000039
的筛选依据如下：
Figure FDA00040462632200000310
式中，
Figure FDA00040462632200000311
表示源域数据集中第i个源域中第j个样本
Figure FDA00040462632200000312
的温度，Q表示高阶矩的阶数，将每个源域中样本的温度
Figure FDA0004046263220000041
从小到大排序，选择其中最小的rNS个样本参与后续多源蒸馏训练；
步骤4：以步骤1中的目标域测试数据集作为步骤3中训练模型的输入，使用自适应加权策略综合多个分类器的输出结果，完成跨域故障智能诊断；
所述自适应加权策略公式如下：
Figure FDA0004046263220000042
式中，p为综合输出，λ1、λ1、λ1分别为三个常系数，p1(y|x)、p2(y|x)、p3(y|x)分别为三个分类器C1、C2、C3的输出，d1，2、d2，3分别为C1与C3的差异、C2与C3的差异；
分类器C2与C3的差异度量公式为：
Figure FDA0004046263220000043
式中，dc，3表示分类器C2与C3的差异，
Figure FDA0004046263220000044
为第m个线性映射，常数M为线性映射数量，(·)(i)代表第i个顺序统计量，c取1或2。
CN202110020442.2A 2021-01-07 2021-01-07 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法 Active CN112860183B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110020442.2A CN112860183B (zh) 2021-01-07 2021-01-07 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110020442.2A CN112860183B (zh) 2021-01-07 2021-01-07 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法

Publications (2)

Publication Number Publication Date
CN112860183A CN112860183A (zh) 2021-05-28
CN112860183B true CN112860183B (zh) 2023-04-14

Family

ID=76004997

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110020442.2A Active CN112860183B (zh) 2021-01-07 2021-01-07 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法

Country Status (1)

Country Link
CN (1) CN112860183B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114004252A (zh) * 2021-10-13 2022-02-01 苏州大学 一种轴承故障诊断的方法、装置以及设备
CN114359649B (zh) * 2021-11-22 2024-03-22 腾讯科技（深圳）有限公司 图像处理方法、装置、设备、存储介质及程序产品
CN116612378A (zh) * 2023-05-22 2023-08-18 河南大学 一种基于ssd改进的不平衡数据及复杂背景下水下小目标检测方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10345046B2 (en) * 2017-05-25 2019-07-09 Northeastern University Fault diagnosis device based on common information and special information of running video information for electric-arc furnace and method thereof
CN109214416A (zh) * 2018-07-23 2019-01-15 华南理工大学 一种基于深度学习的多维信息融合变压器故障诊断方法
CN110070183B (zh) * 2019-03-11 2021-08-20 中国科学院信息工程研究所 一种弱标注数据的神经网络模型训练方法及装置
CN109934206A (zh) * 2019-04-08 2019-06-25 中国矿业大学(北京) 一种非平稳工况下的旋转机械故障诊断方法
US11526808B2 (en) * 2019-05-29 2022-12-13 The Board Of Trustees Of The Leland Stanford Junior University Machine learning based generation of ontology for structural and functional mapping
CN110866365B (zh) * 2019-11-22 2021-06-01 北京航空航天大学 基于部分迁移卷积网络的机械设备智能故障诊断方法
CN111709448B (zh) * 2020-05-20 2023-05-12 西安交通大学 一种基于迁移关系网络的机械故障诊断方法
CN112183581A (zh) * 2020-09-07 2021-01-05 华南理工大学 基于自适应迁移神经网络的半监督机械故障诊断方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Liying Jiang ; Qianqian Li ; Jianguo Cui ; Jianhui Xi.Rolling bearing fault diagnosis based on higher-order cumulants and BP neural network.《The 27th Chinese Control and Decision Conference (2015 CCDC)》.2015,第2664-2667页. *

Also Published As

Publication number Publication date
CN112860183A (zh) 2021-05-28

Similar Documents

Publication Publication Date Title
CN112860183B (zh) 基于高阶矩匹配的多源蒸馏-迁移机械故障智能诊断方法
CN109186973B (zh) 一种无监督深度学习网络的机械故障诊断方法
CN110849626B (zh) 一种自适应稀疏压缩自编码的滚动轴承故障诊断系统
CN111914883B (zh) 一种基于深度融合网络的主轴轴承状态评估方法及装置
CN111562108A (zh) 一种基于cnn和fcmc的滚动轴承智能故障诊断方法
CN112257530B (zh) 基于盲信号分离和支持向量机的滚动轴承故障诊断方法
CN113505655B (zh) 面向数字孪生系统的轴承故障智能诊断方法
CN109086793A (zh) 一种风力发电机的异常识别方法
CN112819059B (zh) 一种基于流行保持迁移学习的滚动轴承故障诊断方法
CN114358124B (zh) 基于深度对抗卷积神经网络的旋转机械新故障诊断方法
CN110110768A (zh) 基于并行特征学习和多分类器的滚动轴承故障诊断方法
CN106326915B (zh) 一种基于改进核Fisher的化工过程故障诊断方法
CN116304820B (zh) 一种基于多源域迁移学习的轴承故障类型预测方法及系统
CN114429152A (zh) 基于动态指数对抗性自适应的滚动轴承故障诊断方法
CN115165366A (zh) 一种旋转机械变工况故障诊断方法及系统
CN114997211A (zh) 一种基于改进对抗网络和注意力机制的跨工况故障诊断方法
Du et al. Fault diagnosis of plunger pump in truck crane based on relevance vector machine with particle swarm optimization algorithm
CN115791174B (zh) 一种滚动轴承异常诊断方法、系统、电子设备及存储介质
CN116738338A (zh) 基于多尺度集成LightGBM的小样本故障诊断方法
CN114444544A (zh) 一种基于卷积神经网络和知识迁移的信号分类识别方法
CN114548295A (zh) 基于多尺度领域自适应网络的轴承故障分类系统及方法
CN110874088B (zh) 基于多维向量模型的船舶关键设备系统的监测方法
CN113030726A (zh) 基于数据驱动的电机状态监测方法及系统
Liu et al. Noisy labels co-detection and co-relabeling twin prototype networks for fault diagnosis of wind turbine gearboxes
Zhao et al. Fault Diagnosis of Rolling Bearings based on GA-SVM model

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant