CN116070128A - 一种基于对比自监督学习的时间序列设备故障诊断方法 - Google Patents
一种基于对比自监督学习的时间序列设备故障诊断方法 Download PDFInfo
- Publication number
- CN116070128A CN116070128A CN202211568464.3A CN202211568464A CN116070128A CN 116070128 A CN116070128 A CN 116070128A CN 202211568464 A CN202211568464 A CN 202211568464A CN 116070128 A CN116070128 A CN 116070128A
- Authority
- CN
- China
- Prior art keywords
- time
- samples
- positive
- data
- instance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003745 diagnosis Methods 0.000 title claims abstract description 38
- 238000000034 method Methods 0.000 title claims abstract description 30
- 230000006870 function Effects 0.000 claims abstract description 20
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 238000012549 training Methods 0.000 claims description 14
- 230000009466 transformation Effects 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000000605 extraction Methods 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 6
- 238000001228 spectrum Methods 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000003190 augmentative effect Effects 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 230000000873 masking effect Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 2
- 230000000052 comparative effect Effects 0.000 claims 5
- 230000002708 enhancing effect Effects 0.000 abstract 1
- 238000002372 labelling Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000036541 health Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005272 metallurgy Methods 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于对比自监督学习的时间序列设备故障诊断方法，方法为：首先对无标签输入数据进行预处理，对提取的特征表示进行聚类，生成样本实例间正负样本对，并计算实例间聚类对比损失；其次对输入数据增强生成两个不同但相关的视图，根据时间对应关系生成正负样本对，并计算实例内时间对比损失；然后两个视图通过掩码预测任务生成正负样本对，并计算实例内上下文对比损失；最后计算实例间聚类对比损失、实例内时间对比损失以及实例内上下文对比损失的加权和作为模型的损失函数来训练模型，利用编码器和分类器得到最终的故障诊断结果。本发明解决了标签难获取、无标签、标签不足的问题，提高了设备故障诊断的精确度。
Description
技术领域
本发明涉及机器学习领域，特别是一种基于对比自监督学习的时间序列设备故障诊断方法。
背景技术
当前，机械设备已经广泛地应用于能源、交通、冶金、化工、航空等行业，在现代工业和生产中所起到的作用越来越大，并且机械设备的结构正朝重型化、大型化、高速化、精密化、复杂化等方向迅速地发展。机械设备的功能愈加完善，结构越来越复杂，这增加了机械系统发生故障的几率，并且导致对机械设备的健康状态进行监测愈发困难。机械设备一旦发生故障，不仅会导致严重的经济损失，并可能会造成严重的灾难性事故。因此为了避免经济损失，及时有效地对设备进行预测性维护，提高设备的安全性至关重要。
传统的机器学习方法通过精细的结构设计提取手工制作的特征，然后以数据驱动的方式构建特征与机械健康状态之间的映射关系。特征提取虽然可以取得良好的性能，但其过程仍然依赖于专家知识。深度学习作为机器学习的一个子领域，可以在不进行任何数据预处理的情况下匹配输入和输出之间的高非线性关系，从而获得更高的诊断精度。因此，它在故障诊断中得到了广泛的应用。然而，大多数基于深度学习的技术都遵循监督学习范式，有监督的模型通常需要大量的人工标记数据进行训练来保证模型的稳定收敛，因此将它们应用于具有少标签甚至无标签的时间序列数据是非常具有挑战性的。
发明内容
本发明的目的在于提供一种在保证模型精度的同时，减少数据标注量，解决标签难获取、无标签、标签不足的问题，提高设备故障诊断的精确度的设备故障诊断方法。
实现本发明目的的技术解决方案为：一种基于对比自监督学习的时间序列设备故障诊断方法，包括以下步骤：
步骤1、对无标签的输入数据进行预处理，然后进行特征提取并对提取的特征进行聚类，根据聚类结果选择样本实例间正负样本对，并计算实例间聚类对比损失；
步骤2、对无标签的输入数据进行数据增强，生成两个不同但相关的视图，根据两个视图的时间对应关系选择正负样本对，并计算实例内时间对比损失；
步骤3、基于步骤2的生成视图，通过掩码预测任务选择正负样本对，并计算实例内上下文对比损失；
步骤4、基于步骤1计算得到的实例间聚类对比损失、步骤2计算得到的实例内时间对比损失以及步骤3计算得到的实例内上下文对比损失进行求和作为整个模型的最终损失函数来训练模型；
步骤5、使用步骤4得到的预训练模型，利用编码器和分类器得到最终的故障诊断结果。
进一步地，步骤1中所述的对无标签的输入数据进行预处理，具体如下：
对数据进行时频域变换，如小波变换、短时傅里叶变换或经验模态分解。
进一步地，步骤1中所述的特征提取，具体如下：
特征提取分为基于信号处理的特征和基于模型的特征：
基于信号处理的特征包括时域特征和频域特征，其中时域特征包括有效值、峰峰值、直流量、峰值、峰值指标、脉冲指标、裕度指标、峭度指标、偏度系数、波形指标、中心频率、均方频率和均方根频率等，频域特征包括功率谱、包络谱、0.5倍～3倍的频率和4倍～12倍的幅值；
基于模型的特征是指数据输入神经网络得到的指定维度的特征表示。
进一步地，步骤1中所述的根据聚类结果选择样本实例间正负样本对，具体如下：
聚类后根据簇分配伪标签，一个簇内的样本具有相同的伪标签，不同的簇之间的样本具有不同的伪标签，因此对一个样本实例而言，与其伪标签相同的样本是正样本，与其伪标签不同的样本是负样本。
进一步地，步骤1中所述计算实例间聚类对比损失，具体如下：
采用聚类原型来计算对比损失，原型是聚类后每个簇的中心，即簇中所有样本的平均值，正对由一个实例与其相关的原型即实例所在簇的中心组成，负对由实例与不相关的原型即其他簇的中心组成，给定实例z的一个正对(z,p)，其聚类对比损失计算公式为：
其中，LC是指聚类对比损失，p是实例z所在簇的原型，NP是实例z的一组负对，pi是与实例z不相关的簇的原型，τp和
分别是与p、pi对应的温度系数。
进一步地，步骤2中所述的数据增强，具体如下：
数据增强是通过对数据进行时域变换来对数据进行扩充的方法，所述时域变换包括高斯噪声、采样、子序列调换顺序。
进一步地，步骤2中所述的根据两个视图的时间对应关系选择正负样本对，具体如下：
对于一个拥有N个时间段的输入样本，每个时间段有两个对应的上下文增强视图，因此该样本有2N个上下文增强视图；对于一个时间段的增强视图，把该时间段对应的另一个增强视图定义为这个增强视图的正样本对，因此一个时间段的两个增强视图互为对方的正样本对，由此可知一个时间段有2个正样本对，同时将剩余所有时间段不对应的增强样本对定义为负样本对，因此一个时间段的数据有2(N-1)个负样本对。
进一步地，步骤2中所述的计算实例内时间对比损失，具体如下：
通过计算样本对之间的余弦相似度，最小化正样本对之间的距离、最大化负样本对之间的距离，计算公式如下：
其中sim(x,y)＝xTy/||x||y||表示x和y之间的余弦相似度；
是指示函数，i＝j时取值为0，i≠j时取值为1；
是一个上下文样本；
是
的正样本；
代表一个正样本对；
是
的负样本；τ是温度系数。
进一步地，步骤3中所述的通过掩码预测任务选择正负样本对，具体如下：
对一个增强视图数据进行随机掩码，用增强视图未掩码时间段的数据预测掩码部分的数据；其中，相同样本的掩码预测值与掩码部分的真实值构成正样本对，不同样本的掩码预测值与掩码部分的真实值构成负样本对。
进一步地，步骤3中所述的计算实例内上下文对比损失，具体如下：
计算最小化正样本对之间点积、最大化负样本对之间的点积，计算公式如下：
其中，
是指上下文对比损失，
是增强1未掩码时间段的数据通过自回归函数生成的预测值；
是增强2未掩码时间段的数据通过自回归函数生成的预测值；
是增强1掩码时间段的真实值；
是增强2掩码时间段的真实值；Rk是线性映射函数，将预测值ct映射到与真实值zt+k相同的维度；K是样本个数，k是掩码的长度，1<k<K；
是指负样本的集合；
分别是两个增强的负样本集合中的元素；上标1和2分别代表不同的两个视图。
进一步地，步骤5中所述的编码器是卷积神经网络，由卷积层、激活函数、池化层和批量标准化层堆叠而成；所述的分类器是指通过连接层输出软标签进行分类。
本发明与现有技术相比，其显著优点为：(1)利用自监督对比学习，可以在未标记的数据上学习到有效的表示来训练模型，并可以获得和有监督学习相似的性能，甚至可以赶超有监督学习的性能，使得保证模型精度的同时，减少了数据标注量，可以有效解决标签难获取、无标签、标签不足的问题；(2)提高了模型精度，从而提高了设备故障诊断的准确性。
附图说明
图1是本发明一种基于对比自监督学习的时间序列设备故障诊断方法的流程示意图。
图2是本发明实施例中电机轴承故障诊断的流程示意图。
图3是本发明实施例中不同工况下电机轴承故障诊断的流程示意图。
具体实施方式
下面结合附图和具体实施例，对本发明做进一步的详细说明。
由于工业企业以往常采用有监督的深度学习方法来训练模型，有监督模型通常需要大量的人工标记数据来进行训练，然而人工标记往往昂贵且不易获取。针对工业场景中标签难获取、无标签、标签不足的问题，本发明提出一种基于对比自监督学习的时间序列设备故障诊断方法，结合图1～图3，具体包括以下步骤：
步骤1、对无标签的输入数据进行预处理，然后进行特征提取并对提取的特征进行聚类，根据聚类结果选择样本实例间正负样本对，并计算实例间聚类对比损失；
进一步地，所述的对无标签的输入数据进行预处理，具体如下：
对数据进行时频域变换，如小波变换、短时傅里叶变换或经验模态分解。
进一步地，所述的特征提取，具体如下：
特征提取分为基于信号处理的特征和基于模型的特征：
基于信号处理的特征包括时域特征和频域特征，其中时域特征包括有效值、峰峰值、直流量、峰值、峰值指标、脉冲指标、裕度指标、峭度指标、偏度系数、波形指标、中心频率、均方频率和均方根频率等，频域特征包括功率谱、包络谱、0.5倍～3倍的频率和4倍～12倍的幅值等；
基于模型的特征是指数据输入神经网络得到的指定维度的特征表示。
进一步地，所述的根据聚类结果选择样本实例间正负样本对，具体如下：
聚类后根据簇分配伪标签，一个簇内的样本具有相同的伪标签，不同的簇之间的样本具有不同的伪标签，因此对一个样本实例而言，与其伪标签相同的样本是正样本，与其伪标签不同的样本是负样本。
进一步地，所述计算实例间聚类对比损失，具体如下：
采用聚类原型来计算对比损失，原型是聚类后每个簇的中心，即簇中所有样本的平均值，正对由一个实例与其相关的原型即实例所在簇的中心组成，负对由实例与不相关的原型即其他簇的中心组成，给定实例z的一个正对(z,p)，其聚类对比损失计算公式为：
其中，LC是指聚类对比损失，p是实例z所在簇的原型，NP是实例z的一组负对，pi是与实例z不相关的簇的原型，
和
分别是与p、pi对应的温度系数。
步骤2、对无标签的输入数据进行数据增强，生成两个不同但相关的视图，根据两个视图的时间对应关系选择正负样本对，并计算实例内时间对比损失；
进一步地，所述的数据增强，具体如下：
数据增强是通过对数据进行时域变换来对数据进行扩充的方法，所述时域变换包括高斯噪声、采样、子序列调换顺序。
进一步地，所述的根据两个视图的时间对应关系选择正负样本对，具体如下：
对于一个拥有N个时间段的输入样本，每个时间段有两个对应的上下文增强视图，因此该样本有2N个上下文增强视图；对于一个时间段的增强视图，把该时间段对应的另一个增强视图定义为这个增强视图的正样本对，因此一个时间段的两个增强视图互为对方的正样本对，由此可知一个时间段有2个正样本对，同时将剩余所有时间段不对应的增强样本对定义为负样本对，因此一个时间段的数据有2(N-1)个负样本对。
进一步地，所述的计算实例内时间对比损失，具体如下：
通过计算样本对之间的余弦相似度，最小化正样本对之间的距离、最大化负样本对之间的距离，计算公式如下：
其中sim(x,y)＝xTy/||x||y||表示x和y之间的余弦相似度；
是指示函数，i＝j时取值为0，i≠j时取值为1；
是一个上下文样本；
是
的正样本；
代表一个正样本对；
是
的负样本；τ是温度系数。
步骤3、基于步骤2的生成视图，通过掩码预测任务选择正负样本对，并计算实例内上下文对比损失；
进一步地，所述的通过掩码预测任务选择正负样本对，具体如下：
对一个增强视图数据进行随机掩码，用增强视图未掩码时间段的数据预测掩码部分的数据；其中，相同样本的掩码预测值与掩码部分的真实值构成正样本对，不同样本的掩码预测值与掩码部分的真实值构成负样本对。
进一步地，所述的计算实例内上下文对比损失，具体如下：
计算最小化正样本对之间点积、最大化负样本对之间的点积，计算公式如下：
其中，
是指上下文对比损失，
是增强1未掩码时间段的数据通过自回归函数生成的预测值；
是增强2未掩码时间段的数据通过自回归函数生成的预测值；
是增强1掩码时间段的真实值；
是增强2掩码时间段的真实值；Rk是线性映射函数，将预测值ct映射到与真实值zt+k相同的维度；K是样本个数，k是掩码的长度，1<k<K；
是指负样本的集合；
分别是两个增强的负样本集合中的元素；上标1和2分别代表不同的两个视图。
步骤4、基于步骤1计算得到的实例间聚类对比损失、步骤2计算得到的实例内时间对比损失以及步骤3计算得到的实例内上下文对比损失进行求和作为整个模型的最终损失函数来训练模型；
步骤5、使用步骤4得到的预训练模型，利用编码器和分类器得到最终的故障诊断结果；
进一步地，所述的编码器是卷积神经网络，由卷积层、激活函数、池化层和批量标准化层堆叠而成；所述的分类器是指通过连接层输出软标签进行分类。
实施例1
本实施例提供一种电机轴承故障诊断方法：
机电设备作为现代工业中重要的一环，在国家支柱产业中发挥着关键性的作用。电机系统在长期运行中性能的退化易引发设备故障，长期的带病运行，可能会引发重大安全责任事故，造成巨额经济损失。作为电机系统的关键部件，轴承最易发生故障，其状态的好坏直接影响电机的运行效率和输出产能，严重的故障甚至会威胁系统安全。因此，开展电机轴承故障诊断研究，及时准确的发现运行中存在的安全隐患，对于保障机电设备安全运行、避免重大事故。本实施例的故障诊断框架如图2所示，在训练阶段，需采集电机不同状态下的信号构成样本库。将样本作为对比自监督学习算法的输入进行网络训练，直至得到训练好的网络参数。在应用阶段，将采集到的数据输入至已训练好的对比自监督学习算法中即可得到诊断结果。故障诊断过程快速、简便，不受人工知识和经验的影响，其诊断结果的可靠性和准确性受对比自监督学习算法训练质量的影响。基于对比自监督学习的智能故障诊断具有在无标签数据上自动特征提取和分类，降低人工知识需求，实现复杂诊断任务的能力，在电机智能故障诊断中具有广阔的应用前景。
实施例2
本实施例提供不同工况下电机轴承故障诊断方法：
在电机轴承故障诊断中，电机转速、负载、设备型号等差异的存在，会造成数据分布差异，从而制约基于单一模型的故障诊断方法在实际应用中的效果。当不满足数据分布相同假设时，已训练好的模型在新环境下的诊断精度会大打折扣甚至直接失效。面对这种情况，最直接的做法是对新工况或新电机重新进行数据采集并训练。然而，针对每一种工况进行针对性的模型训练费时费力极其不现实。因此可以将提出的对比自监督学习算法与迁移学习算法相结合，应用于变工况轴承故障诊断中。图3展示了不同工况轴承故障诊断框架。在训练阶段，可以采集不同工况下的无标签数据作为样本库，使用一种工况数据做自监督对比学习的模型训练来获取预训练模型。在应用阶段，将新工况下的待检测数据输入至训练好的预训练模型中去进行微调即可获得符合新工况数据分布的个性化模型，用个性化模型进行测试即可获得诊断结果。
Claims (10)
1.一种基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，包括以下步骤：
步骤1、对无标签的输入数据进行预处理，然后进行特征提取并对提取的特征进行聚类，根据聚类结果选择样本实例间正负样本对，并计算实例间聚类对比损失；
步骤2、对无标签的输入数据进行数据增强，生成两个不同但相关的视图，根据两个视图的时间对应关系选择正负样本对，并计算实例内时间对比损失；
步骤3、基于步骤2的生成视图，通过掩码预测任务选择正负样本对，并计算实例内上下文对比损失；
步骤4、基于步骤1计算得到的实例间聚类对比损失、步骤2计算得到的实例内时间对比损失以及步骤3计算得到的实例内上下文对比损失进行求和，作为整个模型的最终损失函数来训练模型；
步骤5、使用步骤4得到的预训练模型，利用编码器和分类器得到最终的故障诊断结果。
2.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤1中所述的对无标签的输入数据进行预处理，具体如下：
对数据进行时频域变换，时频域变换采用小波变换、短时傅里叶变换或经验模态分解的方式；
步骤1中所述的特征提取，具体如下：
特征提取分为基于信号处理的特征和基于模型的特征：
基于信号处理的特征包括时域特征和频域特征，其中时域特征包括有效值、峰峰值、直流量、峰值、峰值指标、脉冲指标、裕度指标、峭度指标、偏度系数、波形指标、中心频率、均方频率和均方根频率等，频域特征包括功率谱、包络谱、0.5倍～3倍的频率和4倍～12倍的幅值；
基于模型的特征是指数据输入神经网络得到的指定维度的特征表示。
3.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤1中所述的根据聚类结果选择样本实例间正负样本对，具体如下：
聚类后根据簇分配伪标签，一个簇内的样本具有相同的伪标签，不同的簇之间的样本具有不同的伪标签，因此对一个样本实例而言，与其伪标签相同的样本是正样本，与其伪标签不同的样本是负样本。
4.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤1中所述计算实例间聚类对比损失，具体如下：
采用聚类原型来计算对比损失，原型是聚类后每个簇的中心，即簇中所有样本的平均值，正对由一个实例与其相关的原型即实例所在簇的中心组成，负对由实例与不相关的原型即其他簇的中心组成，给定实例z的一个正对(z,p)，聚类对比损失计算公式为：
其中，LC是指聚类对比损失，p是实例z所在簇的原型，NP是实例z的一组负对，pi是与实例z不相关的簇的原型，τp和τpi分别是与p、pi对应的温度系数。
5.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤2中所述的数据增强，具体如下：
数据增强是通过对数据进行时域变换来对数据进行扩充的方法，所述时域变换包括高斯噪声、采样、子序列调换顺序。
6.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤2中所述的根据两个视图的时间对应关系选择正负样本对，具体如下：
对于一个拥有N个时间段的输入样本，每个时间段有两个对应的上下文增强视图，因此该样本有2N个上下文增强视图；对于一个时间段的增强视图，把该时间段对应的另一个增强视图定义为这个增强视图的正样本对，因此一个时间段的两个增强视图互为对方的正样本对，由此知一个时间段有2个正样本对，同时将剩余所有时间段不对应的增强样本对定义为负样本对，因此一个时间段的数据有2×(N-1)个负样本对。
7.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤2中所述的计算实例内时间对比损失，具体如下：
通过计算样本对之间的余弦相似度，最小化正样本对之间的距离、最大化负样本对之间的距离，计算公式如下：
其中sim(x,y)＝xTy/||x||||y||表示x和y之间的余弦相似度；
是指示函数，i＝j时取值为0，i≠j时取值为1；
是一个上下文样本；
是
的正样本；
代表一个正样本对；
是
的负样本；τ是温度系数。
8.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤3中所述的通过掩码预测任务选择正负样本对，具体如下：
对一个增强视图数据进行随机掩码，用增强视图未掩码时间段的数据预测掩码部分的数据；其中，相同样本的掩码预测值与掩码部分的真实值构成正样本对，不同样本的掩码预测值与掩码部分的真实值构成负样本对。
9.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤3中所述的计算实例内上下文对比损失，具体如下：
计算最小化正样本对之间点积、最大化负样本对之间的点积，计算公式如下：
其中，
是指上下文对比损失，
是增强1未掩码时间段的数据通过自回归函数生成的预测值；
是增强2未掩码时间段的数据通过自回归函数生成的预测值；
是增强1掩码时间段的真实值；
是增强2掩码时间段的真实值；Rk是线性映射函数，将预测值ct映射到与真实值zt+k相同的维度；K是样本个数，k是掩码的长度，1<k<K；
是指负样本的集合；
分别是两个增强的负样本集合中的元素；上标1和2分别代表不同的两个视图。
10.根据权利要求1所述的基于对比自监督学习的时间序列设备故障诊断方法，其特征在于，步骤5中所述的编码器是卷积神经网络，由卷积层、激活函数、池化层和批量标准化层堆叠而成；所述的分类器是指通过连接层输出软标签进行分类。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211568464.3A CN116070128A (zh) | 2022-12-08 | 2022-12-08 | 一种基于对比自监督学习的时间序列设备故障诊断方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211568464.3A CN116070128A (zh) | 2022-12-08 | 2022-12-08 | 一种基于对比自监督学习的时间序列设备故障诊断方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116070128A true CN116070128A (zh) | 2023-05-05 |
Family
ID=86170760
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211568464.3A Pending CN116070128A (zh) | 2022-12-08 | 2022-12-08 | 一种基于对比自监督学习的时间序列设备故障诊断方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116070128A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116383737A (zh) * | 2023-06-05 | 2023-07-04 | 四川大学 | 基于聚类对比学习的旋转机械故障诊断方法及系统 |
-
2022
- 2022-12-08 CN CN202211568464.3A patent/CN116070128A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116383737A (zh) * | 2023-06-05 | 2023-07-04 | 四川大学 | 基于聚类对比学习的旋转机械故障诊断方法及系统 |
| CN116383737B (zh) * | 2023-06-05 | 2023-08-11 | 四川大学 | 基于聚类对比学习的旋转机械故障诊断方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112629863B (zh) | 变工况下动态联合分布对齐网络的轴承故障诊断方法 | |
| CN111651937B (zh) | 变工况下类内自适应轴承故障诊断方法 | |
| Kong et al. | Attention recurrent autoencoder hybrid model for early fault diagnosis of rotating machinery | |
| Xie et al. | An end-to-end model based on improved adaptive deep belief network and its application to bearing fault diagnosis | |
| WO2023044978A1 (zh) | 基于对抗流模型的机械设备无监督故障诊断方法 | |
| CN112149316A (zh) | 基于改进的cnn模型的航空发动机剩余寿命预测方法 | |
| CN111538947B (zh) | 风力发电机轴承故障分类模型的构建方法 | |
| CN111523081B (zh) | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 | |
| Lu et al. | A novel feature extraction method using deep neural network for rolling bearing fault diagnosis | |
| Deng et al. | An improved deep residual network with multiscale feature fusion for rotating machinery fault diagnosis | |
| CN111352977B (zh) | 基于自注意力双向长短期记忆网络的时序数据监测方法 | |
| CN111459144A (zh) | 一种基于深度循环神经网络的飞机飞控系统故障预测方法 | |
| Liu et al. | Multi-feature fusion for fault diagnosis of rotating machinery based on convolutional neural network | |
| CN113639993B (zh) | 多模态多任务卷积神经网络的齿轮箱故障诊断方法 | |
| Cao et al. | Fault diagnosis of rolling bearing based on multiscale one-dimensional hybrid binary pattern | |
| CN116070128A (zh) | 一种基于对比自监督学习的时间序列设备故障诊断方法 | |
| CN110766215B (zh) | 基于特征自适应选择和wdnn的风电爬坡事件预测方法 | |
| CN113627685B (zh) | 一种考虑风电上网负荷限制的风力发电机功率预测方法 | |
| CN116429428A (zh) | 一种基于多特征融合和igwo-lssvm的滚动轴承故障诊断方法 | |
| CN117056849A (zh) | 一种无监督的复杂机械设备异常状态监测方法及系统 | |
| Xu et al. | Deep spiking residual shrinkage network for bearing fault diagnosis | |
| CN114897138A (zh) | 基于注意力机制和深度残差网络的系统故障诊断方法 | |
| CN110866840A (zh) | 基于知识图谱的电力负荷特征量训练的数据库建模方法 | |
| CN113758709A (zh) | 结合边缘计算和深度学习的滚动轴承故障诊断方法及系统 | |
| Zhao et al. | A novel feature extraction approach for mechanical fault diagnosis based on ESAX and BoW model |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |