CN114740726B - 基于深度最优特征传输的工业过程小样本故障诊断方法 - Google Patents

基于深度最优特征传输的工业过程小样本故障诊断方法 Download PDF

Info

Publication number
CN114740726B
CN114740726B CN202210437384.8A CN202210437384A CN114740726B CN 114740726 B CN114740726 B CN 114740726B CN 202210437384 A CN202210437384 A CN 202210437384A CN 114740726 B CN114740726 B CN 114740726B
Authority
CN
China
Prior art keywords
fault
domain
adaptation
matrix
target domain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210437384.8A
Other languages
English (en)
Other versions
CN114740726A (zh
Inventor
于歌
张玺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University filed Critical Peking University
Priority to CN202210437384.8A priority Critical patent/CN114740726B/zh
Publication of CN114740726A publication Critical patent/CN114740726A/zh
Application granted granted Critical
Publication of CN114740726B publication Critical patent/CN114740726B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • G05B13/042—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators in which a parameter or coefficient is automatically adjusted to optimise the performance
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Test And Diagnosis Of Digital Computers (AREA)

Abstract

本发明公布了一种基于深度最优特征传输的工业过程小样本故障诊断方法，构建基于域适配的缩小源域和目标域深度适配网络，对工业小样本故障数据进行分析并快速建立基于深度最优特征传输的工业小样本故障诊断量化模型；根据历史故障适配任务构造故障适配任务集合；将故障适配任务集合在嵌入空间进行表征；对嵌入空间学习到的范式进行模型辨识与参数估计，更新模型传输深度最优特征，从而获得未知故障任务下的故障分类结果。本发明可对不同工况下的稀疏异构工业信号精准地预测故障类型，算法复杂度低，计算周期短，可移植性高。

Description

基于深度最优特征传输的工业过程小样本故障诊断方法
技术领域
本发明属于工业过程故障诊断处理技术领域，涉及小样本机器学习技术，具体涉及一种基于深度最优特征传输的工业过程小样本故障诊断方法。
背景技术
工业是国民经济的命脉，随着传感器技术蓬勃发展，当今工业领域已经逐渐形成了工业过程数据信息和传感技术相适应的环境。因此，基于数据驱动的无模型智能诊断方法得到了空前的蓬勃发展。这些技术的成功依赖于有足够多的标记数据，然而，在实际应用中，工业过程标注数据的收集是很困难的。主要体现在工业数据分布的异构性与稀疏性，如工业设备差异、工业噪音干扰等多变的工况条件下数据的同构性无法保证，以及工业系统故障本身为一个小概率事件，模拟故障状态对机器是有害的，所以故障样本天然为稀疏样本。工业数据的异构型与稀疏性造成了工业数据驱动方法面临的小样本问题，小样本问题极大地降低了模型的泛化性。
目前针对工业过程故障小样本问题的一个解决策略是寻找合适的辅助数据，通过挖掘辅助数据中的潜在相关知识来完成目标领域的小样本故障诊断问题，这已成为一种合理且有前景的解决途径。域适配(Domain adaptation)方法便为其中一种方法，以辅助数据为源域，待解决的小样本数据为目标域，目的是学习到一个统一的与类别无关特征空间，以缩小源域和目标域之间的分布差异。域适配方法可以根据适配度量与适配位置分类，适配度量上，大多经典的非深度域适配采用最大平均差异(MMD)度量，如TCA，JDA和BDA，来拉近在再生核希尔伯特空间(RKHS)中两个分布之间的差异。生成性对抗网络(WGAN)和分布式鲁棒优化(DRO)采用Wasserstein度量，来进行数据对齐。适配位置上，除了非深度方法的数据及特征空间外，在深度方法上，适配逐渐嵌入到网络中。例如，深度域混淆(DDC)和深度自适应网络(DAN)在网络损失中加入适配函数并执行微调操作来获取域不变表示。最近，有几项域适配方法的研究进行了多个任务间的相似性学习，如孪生网络，原型网络提高网络泛化性与鲁棒性，给了小样本下故障诊断可期的未来。但由于工业故障信号无法提供大量可靠的可适配源域，同时目前域适配方法缺乏增量学习机制，相似性学习浅层，对于工业小样本故障诊断尚没有形成快速精准的诊断方法，因此亟待将智能化技术与工业故障数据分析有效结合一起，针对小样本问题，形成完备故障诊断方法。
发明内容
针对上述现有技术的不足，本发明提供一种基于深度最优特征传输的工业过程小样本故障诊断方法，对工业小样本下故障数据进行分析并快速建立量化模型，从增强样本角度构建基于域适配的缩小源域和目标域深度适配网络，从增量学习角度设计一种基于深度最优特征传输的工业小样本故障诊断方法，可对不同工况下的稀疏异构工业信号精准地预测故障类型，算法复杂度低，计算周期短以及可移植性高。
本发明的技术方案是：
一种基于深度最优特征传输的工业过程小样本故障诊断方法，通过构建小样本故障诊断网络模型：包括适配网络模型和非适配网络模型，根据历史故障适配任务构造故障适配任务集合；将故障适配任务集合在嵌入空间进行表征；对嵌入空间学习到的范式进行模型辨识与参数估计，更新模型传输深度最优特征，从而获得未知故障任务下的故障分类结果；包括如下步骤：
步骤1：构建小样本故障诊断网络模型，包括适配网络模型和非适配网络模型；再将包含两个工况的一对域的已知故障类型的故障样本的源域和目标域输入到适配网络模型中完成一次适配任务，并获得相应的适配信息的矩阵表示；
步骤2：记步骤1为一次任务T，采用不同工况域对，执行
Figure BDA0003609472070000021
次上述步骤1，可以构建历史故障“适配任务”集合
Figure BDA0003609472070000022
步骤3：将历史故障“适配任务”集合
Figure BDA0003609472070000023
映射到嵌入空间Γemb进行表征，表征为
Figure BDA0003609472070000024
其中ek为第k次任务的提升因子，即适配精度与非适配精度的比值；
步骤4：在表征空间
Figure BDA0003609472070000025
中，学习到一个可解释性的范式FΓ，目标是FΓ能够将前三项
Figure BDA0003609472070000026
作为自变量，
Figure BDA0003609472070000027
作为因变量，以此来学习到一个最优拟合超平面，即构建得到该超平面的代数表达范式FΓ，下面对范式FΓ学习的具体步骤进行阐述。
步骤4：在表征空间
Figure BDA0003609472070000028
中构建得到范式FΓ；
具体是，学习到一个可解释性的范式FΓ，将表征空间的前三项
Figure BDA0003609472070000031
作为自变量，最后一项
Figure BDA0003609472070000032
作为因变量，学习目标是得到一个最优拟合超平面，并得到该超平面代数表达范式FΓ。
步骤5：对于待诊断的未知任务
Figure BDA0003609472070000033
将
Figure BDA0003609472070000034
对应的源域和目标域输入到步骤4)得到的范式FΓ中，采用梯度下降法，求解范式FΓ，求得
Figure BDA0003609472070000035
下的最优传输特征
Figure BDA0003609472070000036
步骤6：将步骤5得到的最优传输特征
Figure BDA0003609472070000037
直接输入到非适配网络的softmax前一层位置，将测试任务的源域
Figure BDA0003609472070000038
与目标域
Figure BDA0003609472070000039
喂入到该非适配网络，可以得到网络输出的故障分类结果，就是故障诊断的结果。
与现有技术相比，本发明的有益效果是：
本发明提供一种基于深度最优特征传输的工业过程小样本故障诊断方法，对工业小样本下故障数据进行分析并快速建立量化模型，从增强样本角度，构建一种基于域适配的缩小源域和目标域深度适配网络；从增量学习角度设计一种基于深度最优特征传输的工业小样本故障诊断方法，可对不同工况下的稀疏异构工业信号精准地预测故障类型，其算法复杂度低，计算周期短以及可移植性高。
附图说明
图1为本发明实施例基于深度最优特征传输的小样本故障诊断方法的流程框图。
图2为本发明实施例的在两个样本集下的不同类别特征间的MMD距离。
图3为本发明实施例的在两个样本集下特征间平均MMD距离T-sne可视化图。
具体实施方式
下面结合附图和具体实施例对本发明做进一步说明，但不以任何方式限制本发明的范围。
如图1所示，本发明提供的基于深度最优特征传输的小样本故障诊断方法主要分为4个步骤：故障适配任务集合构造，任务集合在嵌入空间进行表征，对嵌入空间学习到的范式进行模型辨识与参数估计，更新模型传输深度最优特征，得到未知任务下的故障分类结果。
本发明构建小样本故障诊断网络模型：包括适配网络模型和非适配网络模型；适配网络模型可包括多层网络，分别用于通过源域的训练固定、通过目标域微调网络参数和设置适配损失函数；具体实施时，适配网络
Figure BDA0003609472070000041
网络层为8层，核尺寸为3*3，前7层为卷积层，第8层为全连接层，采用loss函数为步骤1.3所示函数，非适配网络
Figure BDA0003609472070000042
网络层为8层，核尺寸为3*3，前7层为卷积层，第8层为全连接层，采用loss函数为交叉熵函数。管道漏磁(MFL)数据集下，工况1参数条件为管道直径φ×壁厚P为1016×8.0，工况2参数条件为管道直径φ×壁厚P为377×5.6提离值为4cm；轴承(Bearing)数据集下，工况1参数条件为转速1730r/min，负载3HP，频率为12KHZ，工况2参数条件为转速1750r/min，负载2HP，频率为12KHZ。步骤4.3中结构风险函数Ω(Ψ)函数采用Frobenius函数。学习率为0.001，批量大小为16，最大训练迭代次数为80。初始化参数步骤4.3中的损失函数权衡因子设置为w＝τ＝0.1，核函数数量Nρ＝35，适配任务数量
Figure BDA0003609472070000043
源域样本数量ns＝200，目标域样本数量nt＝20。
以下实施例针对两个工业过程，海底输油管道漏磁数据(MFL)和轴承振动信号(Bearing)的工业过程小样本故障数据，构建小样本故障诊断网络模型：包括适配网络模型和非适配网络模型，实施本发明提供的基于深度最优特征传输的工业过程小样本故障诊断方法进行故障预测和诊断，得到前者为7分类，后者为4分类的故障分类。具体步骤如下：
步骤1：构建小样本故障诊断网络模型，包括适配网络模型和非适配网络模型；再将包含两个工况的一对域的已知故障类型的故障样本的源域和目标域输入到适配网络模型中完成一次适配任务，并获得相应的适配信息的矩阵表示；
已知故障类型应用场景的故障样本集，每次任务的故障样本包含两个工况的一对域，将其中工况1的数据记为源域
Figure BDA0003609472070000044
工况2的数据记为目标域
Figure BDA0003609472070000045
将源域和目标域输入到适配网络
Figure BDA0003609472070000046
中完成一次适配任务，其中Xs，i与Xt，i为故障样本，ys，i与yt，i为故障类别标签，下角标s/t分别代表故障来自源域/目标域，ns和nt为源域和目标域包含的样本个数，下角标i为样本索引。
步骤1.1：设定
Figure BDA0003609472070000047
为8层网络，前三层通过源域
Figure BDA0003609472070000048
的训练，网络参数被固定，接下来三层通过目标域
Figure BDA0003609472070000049
微调参数，将网络的有监督偏差损失用J(Ψ(xs，，)，ys，i)表示，其中Ψ是参数集。
步骤1.2设定：
Figure BDA0003609472070000051
最后两层采用能够拉近源域和目标域的多核
Figure BDA0003609472070000052
(Multi-kernel Maximum Mean Discrepancy)适配损失。
步骤1.3：结合步骤1.1和步骤1.2，
Figure BDA0003609472070000053
总的损失函数为：
Figure BDA0003609472070000054
其中ρ是平衡因子，c是适配的网络层；J代表步骤1.1中的有监督偏差损失，HT代表步骤1.2中的适配损失。
步骤1.4：通过步骤1.1-1.3得到训练好的适配网络
Figure BDA0003609472070000055
其在目标域分类准确率(适配精度)为accada，并通过一种矩阵运算方式获得相应的适配信息的矩阵表示V。
步骤1.4.1：记
Figure BDA0003609472070000056
网络的softmax函数前最后一层的特征图featuremap为W。
步骤1.4.2：采用矩阵运算计算目标域对W的映射，计算：
Figure BDA0003609472070000057
其中，
Figure BDA0003609472070000058
代表矩阵的Moore-Penrose逆。
步骤2：记步骤1为一次任务T，采用不同工况域对，执行
Figure BDA0003609472070000059
次上述步骤1，可以构建历史故障“适配任务”集合
Figure BDA00036094720700000510
步骤3：将历史故障“适配任务”集合
Figure BDA00036094720700000511
映射到嵌入空间Γemb进行表征，表征为
Figure BDA00036094720700000512
其中ek为第k次任务的提升因子。
步骤3.1：将第k次域对，源域
Figure BDA00036094720700000513
与目标域
Figure BDA00036094720700000514
通过非适配网络
Figure BDA00036094720700000515
进行训练，得到目标域上的精度
Figure BDA00036094720700000516
步骤3.2：计算第k次步骤1.4中的适配精度
Figure BDA00036094720700000517
与步骤3.1中的非适配精度
Figure BDA00036094720700000518
的比值为提升因子ek，
Figure BDA0003609472070000061
通常ek＞l。
步骤3.3：将第k次任务的源域
Figure BDA0003609472070000062
目标域
Figure BDA0003609472070000063
适配信息Vk，提升因子ek，组合为嵌入空间Γemb的一个元素，共有
Figure BDA0003609472070000064
个元素，表征为
Figure BDA0003609472070000065
步骤4：在表征空间
Figure BDA0003609472070000066
中，学习到一个可解释性的范式FΓ，目标是FΓ能够将前三项
Figure BDA0003609472070000067
作为自变量，
Figure BDA0003609472070000068
作为因变量，以此来学习到一个最优拟合超平面，即构建得到该超平面的代数表达范式FΓ，下面对范式FΓ学习的具体步骤进行阐述。
步骤4.1：学习范式FΓ的第一个部分，在目标域无监督情况下，求出一个新的投影判别，用
Figure BDA0003609472070000069
来表示，使得测试数据误差最小。
Figure BDA00036094720700000610
其中，
Figure BDA00036094720700000611
是非局部散度矩阵，
Figure BDA00036094720700000612
是局部散度矩阵，Vk是映射矩阵，角标k代表第k次任务。
步骤4.1.1：定义连接矩阵
Figure BDA00036094720700000613
和核矩阵
Figure BDA00036094720700000614
核矩阵
Figure BDA00036094720700000615
是一个严格单调的递减函数，两个矩阵中第i行第j列元素定义如下：
Figure BDA00036094720700000616
Figure BDA00036094720700000617
其中φ代表再生核希尔伯特空间中的核映射。
步骤4.1.2：通过均值嵌入
Figure BDA00036094720700000618
求得再生核希尔伯特空间下的全局散度矩阵
Figure BDA00036094720700000619
Figure BDA0003609472070000071
步骤4.1.3：通过矩阵分解变换求得全局散度核矩阵(GSK)
Figure BDA0003609472070000072
通过定义
Figure BDA0003609472070000073
将全局散度矩阵
Figure BDA0003609472070000074
变换为
Figure BDA0003609472070000075
可以通过下式计算得到全局散度核矩阵
Figure BDA0003609472070000076
Figure BDA0003609472070000077
步骤4.1.4：在小样本情况下重构目标域数据
Figure BDA0003609472070000078
其中矩阵
Figure BDA0003609472070000079
是由d个正交向量构成，
Figure BDA00036094720700000710
对正交向量计算公式为
Figure BDA00036094720700000711
分解
Figure BDA00036094720700000712
其中，
Figure BDA00036094720700000713
是由
Figure BDA00036094720700000714
的特征向量构成的满秩矩阵。求出正交向量之后代入
Figure BDA00036094720700000715
中，重构目标域数据。
步骤4.2：学习范式FΓ的第二个部分，在再生核希尔伯特空间中，使得源域和目标域之间的差异最小，用
Figure BDA00036094720700000716
来表示源域与目标域之间的差异，具体求解如下。
步骤4.2.1：源域
Figure BDA00036094720700000717
与目标域
Figure BDA00036094720700000718
之间的平均最大差异(MMD)距离可表示为，
Figure BDA00036094720700000719
其中
Figure BDA00036094720700000720
代表分布
Figure BDA00036094720700000721
下的期望，
Figure BDA00036094720700000722
代表分布
Figure BDA00036094720700000723
下的期望
Figure BDA00036094720700000724
代表联合分布的集合，
Figure BDA0003609472070000081
当且仅当
Figure BDA0003609472070000082
时，可以得到
Figure BDA0003609472070000083
步骤4.2.2：在小样本场景下，数据间非线性关系复杂，我们通过核嵌入方法构造复杂核函数φρ(x)，在基础
Figure BDA0003609472070000084
核函数的选取上，我们选取了线性核
Figure BDA0003609472070000085
其中Nρ是维度，N∈为线性核个数。
Figure BDA0003609472070000086
步骤4.2.3：利用嵌入核表征，用qρ∈表示单一嵌入核，则整体的核表示为，
Figure BDA0003609472070000087
其中系数bρ≥0，系数B′＞0，系数总和的约束需要一致性证明，通过引入定义，
Figure BDA0003609472070000088
和定义
Figure BDA0003609472070000089
将MMD经验估计可转化下式的简记，
Figure BDA00036094720700000810
步骤4.2.4：记
Figure BDA00036094720700000811
Nρ和N∈为维度，MMD经验估计可以表示为：
Figure BDA00036094720700000812
步骤4.3：通过在任务嵌入空间Γemb中寻找步骤4.1中最优的无监督判别
Figure BDA00036094720700000813
和步骤4.2中的域对齐
Figure BDA00036094720700000814
的最佳平衡，以此来构建范式FΓ，减少从头开始进行适配所需的时间，从而在未知的任务时获得具有可解释性和可学习性的深度最优适配特征，构建FΓ总的损失函数为：
Figure BDA0003609472070000091
wk，μk，τk为平衡因子，Ω(Ψk)为结构险η为源域与目标域之间的距离度量函数；
Figure BDA0003609472070000092
为损失函数。
步骤5：对于待诊断的未知任务
Figure BDA0003609472070000093
将
Figure BDA0003609472070000094
对应的源域和目标域输入到范式FΓ中，采用梯度下降法，求解范式FΓ，求得
Figure BDA0003609472070000095
下的最优传输特征
Figure BDA0003609472070000096
Figure BDA0003609472070000097
其中Θ*[B*，Q*，μ*，τ*]代表范式FΓ中的参数；
步骤5.1：代入步骤4中的无监督判别与域对齐两方面，可以写出范式FΓ的总优化目标为，
Figure BDA0003609472070000098
其中|| ||F代表矩阵的Frobenius函数，tr()代表矩阵的迹。
步骤5.2：结合步骤4.2.5，范式FΓ的优化目标函数可以进一步记为，
Figure BDA0003609472070000099
其中，
Figure BDA00036094720700000910
Θ代表待优化参数集。
步骤5.3：对FΓ的优化目标函数求对Vk的导数，可得
Figure BDA0003609472070000101
其中具体的式子表达为，
Figure BDA0003609472070000102
Figure BDA0003609472070000103
Figure BDA0003609472070000104
Figure BDA0003609472070000105
Figure BDA0003609472070000106
步骤5.4：利用梯度下降搜索方法，求解出待诊断的未知任务
Figure BDA0003609472070000107
下的深度最优传输特征
Figure BDA0003609472070000108
步骤6：将步骤5得到的最优传输特征
Figure BDA0003609472070000109
直接输入到非适配网络的softmax前一层位置，将测试任务的源域
Figure BDA00036094720700001010
与目标域
Figure BDA00036094720700001011
喂入到该非适配网络，可以得到网络输出的故障分类结果，就是故障诊断的结果。
采用本发明算法与现有传统非适配方法，分别在MFL数据集和轴承数据集上进行仿真试验，仿真结果如表1和表2：
表1：本发明算法与传统非适配方法在MFL数据集上仿真结果对比
平均误差 类别1 类别2 类别3 类别4 类别5 类别6 类别7
本发明算法 88.4 88.9 84.3 83.2 82.0 86.7 80.4
传统非适配方法 45.1 42.5 37.1 30.1 29.9 39.3 27.1
表2：本发明算法与传统非适配方法在轴承数据集上仿真结果对比
平均误差 类别1 类别2 类别3 类别4
本发明算法 95.3 98.5 100.0 100.0
传统非适配方法 78.9 77.9 76.1 80.4
表1和表2反映了本发明算法在漏磁信号(MFL)与轴承样本集中分类平均误差。其中本专利算法结果精度高，鲁棒性强。图2所示为本发明实施例在两个样本集下的不同类别特征间的MMD距离；在图2中，本发明算法在漏磁(MFL)数据集和轴承数据集中，不同类别间源域和目标域适配结果，其中MMD距离在0.8之内；在图3中，T-sne可视化单峰与双峰都可拟合。
以上实验结果验证了本发明方法泛化能力和鲁棒性较好，能够针对工业过程小样本数据完成缺陷故障诊断，方法复杂度低，计算周期短以及可移植性高，预测故障类型精准。
需要注意的是，公布实施例的目的在于帮助进一步理解本发明，但是本领域的技术人员可以理解：在不脱离本发明及所附权利要求的范围内，各种替换和修改都是可能的。因此，本发明不应局限于实施例所公开的内容，本发明要求保护的范围以权利要求书界定的范围为准。

Claims (9)

1.一种基于深度最优特征传输的工业过程小样本故障诊断方法，构建基于域适配的缩小源域和目标域深度适配网络，对工业小样本故障数据进行分析并快速建立基于深度最优特征传输的工业小样本故障诊断量化模型；根据历史故障适配任务构造故障适配任务集合；将故障适配任务集合在嵌入空间进行表征；对嵌入空间学习到的范式进行模型辨识与参数估计，更新模型传输深度最优特征，从而获得未知故障任务下的故障分类结果；包括如下步骤：
步骤1：构建小样本故障诊断网络模型并进行训练，包括适配网络模型和非适配网络模型，得到训练好的网络模型和对应的精度；所述适配网络模型可包括多层网络，分别用于通过源域的训练固定网络参数、通过目标域微调网络参数和设置适配损失函数进行训练；
再将已知故障类型的包含两个工况域对的故障样本的源域和目标域输入到适配网络模型中，获得相应的适配信息的矩阵表示，记为一次适配任务T；
一次适配任务包括如下过程：
步骤1.1：已知故障类型应用场景的故障样本集，每次任务的故障样本包含两个工况的一对域，将其中工况1的数据记为源域
Figure FDA0003843118480000011
工况2的数据记为目标域
Figure FDA0003843118480000012
将源域和目标域输入到适配网络模型中；其中Xs，i与Xt，i为故障样本，ys，i与yt，i为故障类别标签，下角标s/t分别代表故障来自源域/目标域，ns和nt为源域包含的样本个数和目标域包含的样本个数，下角标i为样本索引；
适配网络模型包括多层网络，用于通过源域的训练固定、通过目标域微调和设置损失函数适配；网络的有监督偏差损失为：
Figure FDA0003843118480000013
Ψk是任务Tk中的参数集；
步骤1.2适配网络模型的最后两层采用适配损失MK-MMD；
步骤1.3适配网络模型总的损失函数表示为：
Figure FDA0003843118480000014
其中，ρ是平衡因子，c是适配的网络层；ns为源域样本数量；J(Ψ(xs，i)，ys，i)为网络的有监督偏差损失；HT为适配损失；
通过步骤1.1～1.3得到训练好的适配网络模型，并得到在目标域的适配精度；
步骤1.4：通过训练好的适配网络模型，并通过矩阵运算方式获得相应的适配信息的矩阵表示；
步骤2：采用不同工况域对，执行
Figure FDA00038431184800000218
次任务，构建历史故障适配任务集合
Figure FDA0003843118480000021
Figure FDA0003843118480000022
步骤3：将
Figure FDA0003843118480000023
映射到嵌入空间Γemb进行表征，表征为
Figure FDA0003843118480000024
其中，源域
Figure FDA0003843118480000025
目标域
Figure FDA0003843118480000026
Vk为适配信息的矩阵；ek为第k次任务的提升因子；
步骤4：在Γemb中构建得到范式FΓ：将表征空间Γemb的前三项
Figure FDA0003843118480000027
作为自变量，最后一项
Figure FDA0003843118480000028
作为因变量，学习目标为得到一个最优拟合超平面，即学习到一个可解释性的范式FΓ；
步骤5：对于待诊断的未知任务
Figure FDA0003843118480000029
将
Figure FDA00038431184800000210
对应的源域和目标域输入到步骤4得到的范式FΓ中，采用梯度下降法，求解范式FΓ，求得
Figure FDA00038431184800000211
下的最优传输特征
Figure FDA00038431184800000212
步骤6：将步骤5得到的最优传输特征
Figure FDA00038431184800000213
自接输入到非适配网络的softmax前一层位置，将测试任务的源域
Figure FDA00038431184800000214
与目标域
Figure FDA00038431184800000215
喂入到该非适配网络，得到网络输出的故障分类结果，即故障诊断的结果。
2.如权利要求1所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤1.4具体是：通过下式采用矩阵运算计算目标域对W的映射：
Figure FDA00038431184800000216
其中，W为适配网络模型的softmax前最后一层的特征图；
Figure FDA00038431184800000217
代表矩阵的Moore-Penrose逆。
3.如权利要求1所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，适配网络模型包括8层网络；前三层通过源域的训练固定网络参数，接下来三层通过目标域微调网络参数。
4.如权利要求1所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤3进一步包括：
步骤3.1：将第k次域对：源域
Figure FDA0003843118480000031
与目标域
Figure FDA0003843118480000032
通过非适配网络模型进行训练，得到目标域上的非适配精度；
步骤3.2：计算得到提升因子ek：第k次的适配精度与非适配精度的比值；
步骤3.3：将第k次任务的源域
Figure FDA0003843118480000033
目标域
Figure FDA0003843118480000034
适配信息Vk，提升因子ek，组合为嵌入空间Γemb的一个元素；共有
Figure FDA00038431184800000311
个元素，嵌入空间表征为
Figure FDA0003843118480000035
5.如权利要求1所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤4进一步包括：
步骤4.1：学习范式FΓ的第一个部分，通过定义连接矩阵和核矩阵、获取再生核希尔伯特空间下的全局散度矩阵、在小样本情况下重构目标域，在目标域无监督情况下求出最优的无监督判别
Figure FDA0003843118480000036
使得测试数据误差最小；表示为：
Figure FDA0003843118480000037
其中，
Figure FDA0003843118480000038
是非局部散度矩阵，
Figure FDA0003843118480000039
是局部散度矩阵，Vk是映射矩阵；
步骤4.2：学习范式FΓ的第二个部分，通过核嵌入方法构造核函数，计算源域与目标域之间的最大平均差异MMD距离的经验估计，在再生核希尔伯特空间，使得源域和目标域之间的差异
Figure FDA00038431184800000310
最小；
步骤4.3：通过在任务嵌入空间Γemb中寻找步骤4.1得到的
Figure FDA0003843118480000041
和步骤4.2中的
Figure FDA0003843118480000042
的平衡，以此来构建范式FΓ，FΓ总的损失函数表示为：
Figure FDA0003843118480000043
其中，wk，μk，τk为平衡因子；Ω(Ψk)为结构风险；η为源域与目标域之间的距离度量函数；
Figure FDA0003843118480000044
为损失函数。
6.如权利要求5所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤4.1进一步包括：
步骤4.1.1：定义连接矩阵
Figure FDA0003843118480000045
和核矩阵
Figure FDA0003843118480000046
核矩阵
Figure FDA0003843118480000047
是一个严格单调的递减函数，两个矩阵中第i行第j列元素定义如下：
Figure FDA0003843118480000048
Figure FDA0003843118480000049
其中φ是再生核希尔伯特空间中的核映射；
步骤4.1.2：通过将全局散度矩阵的定义转化为均值嵌入
Figure FDA00038431184800000410
得到再生核希尔伯特空间下的全局散度矩阵
Figure FDA00038431184800000411
表示为：
Figure FDA00038431184800000412
步骤4.1.3：通过矩阵分解变换求得全局散度核矩阵
Figure FDA00038431184800000413
通过定义
Figure FDA00038431184800000414
将全局散度矩阵
Figure FDA00038431184800000415
变为
Figure FDA00038431184800000416
通过
Figure FDA0003843118480000051
计算得到
Figure FDA0003843118480000052
步骤4.1.4：在小样本情况下重构目标域数据
Figure FDA00038431184800000525
Figure FDA0003843118480000053
其中
Figure FDA0003843118480000054
Figure FDA0003843118480000055
为正交特征向量。
7.如权利要求6所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤4.1.4中，正交特征向量
Figure FDA0003843118480000056
具体是通过分解
Figure FDA0003843118480000057
后的
Figure FDA0003843118480000058
矩阵得到，表示为：
Figure FDA0003843118480000059
Figure FDA00038431184800000510
其中，
Figure FDA00038431184800000511
是由
Figure FDA00038431184800000512
的特征向量构成的满秩矩阵。
8.如权利要求5所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤4.2进一步包括：
步骤4.2.1：将源域
Figure FDA00038431184800000513
与目标域
Figure FDA00038431184800000514
之间的MMD距离表示为：
Figure FDA00038431184800000515
其中，
Figure FDA00038431184800000516
代表分布
Figure FDA00038431184800000517
下的期望，
Figure FDA00038431184800000518
代表分布
Figure FDA00038431184800000519
下的期望
Figure FDA00038431184800000520
代表联合分布的集合，
Figure FDA00038431184800000521
当且仅当
Figure FDA00038431184800000522
时，得到
Figure FDA00038431184800000523
步骤4.2.2：在小样本场景下，数据间非线性关系复杂，通过核嵌入方法构造复杂核函数φρ(x)；选取线性核
Figure FDA00038431184800000524
表示为：
Figure FDA0003843118480000061
其中，Nρ是维度，N∈为线性核个数；
步骤4.2.3：利用嵌入核表征，用qρ∈表示单一嵌入核，则整体的核表示为：
Figure FDA0003843118480000062
其中，系数bρ≥0，系数B′＞0；通过定义
Figure FDA0003843118480000063
和定义
Figure FDA0003843118480000064
，将MMD经验估计转化为下式：
Figure FDA0003843118480000065
步骤4.2.4：记
Figure FDA0003843118480000066
MMD经验估计表示为：
Figure FDA0003843118480000067
9.如权利要求8所述基于深度最优特征传输的工业过程小样本故障诊断方法，其特征是，步骤5进一步包括：
步骤5.1：将范式FΓ的优化目标表示为：
Figure FDA0003843118480000068
Figure FDA0003843118480000071
其中，|| ||F代表矩阵的Frobenius函数，tr()代表矩阵的迹；
步骤5.2：将范式FΓ的优化目标函数进一步记为，
Figure FDA0003843118480000072
其中，
Figure FDA0003843118480000073
Θ代表待优化参数集；
步骤5.3：对FΓ的优化目标函数求对Vk的导数，可得：
Figure FDA0003843118480000074
其中具体的式子表达为：
Figure FDA0003843118480000075
Figure FDA0003843118480000076
Figure FDA0003843118480000077
Figure FDA0003843118480000078
Figure FDA0003843118480000081
步骤5.4：利用梯度下降搜索方法，求解出待诊断的未知任务
Figure FDA0003843118480000082
下的深度最优传输特征
Figure FDA0003843118480000083
CN202210437384.8A 2022-04-22 2022-04-22 基于深度最优特征传输的工业过程小样本故障诊断方法 Active CN114740726B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210437384.8A CN114740726B (zh) 2022-04-22 2022-04-22 基于深度最优特征传输的工业过程小样本故障诊断方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210437384.8A CN114740726B (zh) 2022-04-22 2022-04-22 基于深度最优特征传输的工业过程小样本故障诊断方法

Publications (2)

Publication Number Publication Date
CN114740726A CN114740726A (zh) 2022-07-12
CN114740726B true CN114740726B (zh) 2022-10-21

Family

ID=82284193

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210437384.8A Active CN114740726B (zh) 2022-04-22 2022-04-22 基于深度最优特征传输的工业过程小样本故障诊断方法

Country Status (1)

Country Link
CN (1) CN114740726B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116028509B (zh) * 2023-03-27 2023-06-06 合肥工业大学 一种基于因果机制的最优工况索引生成方法
CN116051911B (zh) * 2023-03-29 2023-07-07 北京大学 基于不确定性学习的小样本轴承振动图像数据故障诊断方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109766921A (zh) * 2018-12-19 2019-05-17 合肥工业大学 一种基于深度领域自适应的振动数据故障分类方法
CN111829782A (zh) * 2020-07-16 2020-10-27 苏州大学 一种基于自适应流形嵌入动态分布对齐的故障诊断方法
CN113177448A (zh) * 2021-04-19 2021-07-27 西安交通大学 数模联合驱动的轴承混合工况无监督域适应诊断方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11113829B2 (en) * 2019-08-20 2021-09-07 GM Global Technology Operations LLC Domain adaptation for analysis of images

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109766921A (zh) * 2018-12-19 2019-05-17 合肥工业大学 一种基于深度领域自适应的振动数据故障分类方法
CN111829782A (zh) * 2020-07-16 2020-10-27 苏州大学 一种基于自适应流形嵌入动态分布对齐的故障诊断方法
CN113177448A (zh) * 2021-04-19 2021-07-27 西安交通大学 数模联合驱动的轴承混合工况无监督域适应诊断方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Classifier-Constrained Deep Adversarial Domain Adaptation for Cross-Domain Semisupervised Classification in Remote Sensing Images;Wenxiu Teng.etc;《IEEE Geoscience and Remote Sensing Letters 》;20190812;全文 *
大数据下机械装备故障的深度迁移诊断方法;雷亚国等;《机械工程学报》;20190125(第07期);全文 *
迁移学习在机械设备预测性维护领域的应用综述;王凯等;《中国仪器仪表》;20191225(第12期);全文 *

Also Published As

Publication number Publication date
CN114740726A (zh) 2022-07-12

Similar Documents

Publication Publication Date Title
Li et al. A systematic review of deep transfer learning for machinery fault diagnosis
CN111721536B (zh) 一种改进模型迁移策略的滚动轴承故障诊断方法
CN114740726B (zh) 基于深度最优特征传输的工业过程小样本故障诊断方法
Feng et al. Semi-supervised meta-learning networks with squeeze-and-excitation attention for few-shot fault diagnosis
CN111898095A (zh) 深度迁移学习智能故障诊断方法、装置、存储介质和设备
Zhang et al. CNN-FL: An effective approach for localizing faults using convolutional neural networks
Hainmueller et al. Kernel regularized least squares: Reducing misspecification bias with a flexible and interpretable machine learning approach
Zhu et al. Deep learning based soft sensor and its application on a pyrolysis reactor for compositions predictions of gas phase components
CN113298230B (zh) 一种基于生成对抗网络的不平衡数据集的预测方法
CN112883714B (zh) 基于依赖图卷积和迁移学习的absc任务句法约束方法
CN112557034B (zh) 一种基于pca_cnns的轴承故障诊断方法
Ayodeji et al. Causal augmented ConvNet: A temporal memory dilated convolution model for long-sequence time series prediction
CN111460101B (zh) 知识点类型的识别方法、装置及处理器
CN115601182A (zh) 一种基于改进型XGBoost类方法的数据分析方法、定价方法以及相关设备
CN115600138A (zh) 基于动态图残差卷积的流体动压密封环磨损故障检测方法
Zhou et al. Functional networks and applications: A survey
CN113269274B (zh) 一种基于循环一致性的零样本识别方法及系统
Wang et al. Bearing fault diagnosis algorithm based on granular computing
Fu et al. MCA-DTCN: A novel dual-task temporal convolutional network with multi-channel attention for first prediction time detection and remaining useful life prediction
CN117111464A (zh) 一种多工况下的自适应故障诊断方法
CN117408336A (zh) 一种结构与属性注意力机制的实体对齐方法
Aimen et al. Leveraging task variability in meta-learning
CN116739100A (zh) 量子神经网络的漏洞检测方法及自动驾驶漏洞检测方法
Aucejo et al. Identification and inference on regressions with missing covariate data
Fraccaroli et al. Symbolic dnn-tuner

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant