CN113792758B - 一种基于自监督学习和聚类的滚动轴承故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于自监督学习和聚类的滚动轴承故障诊断方法，首先，基于自监督学习网络对轴承数据不同时频变换类型的识别，提取两域数据的底层无偏向特征，然后以监督学习的方式训练滚动轴承故障诊断数据集中的源域数据，并利用源域监督学习网络预测得到滚动轴承故障诊断数据集中的目标域数据的初始伪标签；其次，基于网络预测生成伪标签及其概率值，考虑目标域数据自身分布特点，利用K‑means算法对自监督网络提取的目标域数据特征进行聚类，依照强簇规则，对伪标签和概率值进行更新；最后，将更新后概率值设定为对应样本伪标签的置信度，整体的平均值作为该类的整体置信度，进一步提高伪标签可用性，实现无监督领域自适应的故障诊断。

Description

一种基于自监督学习和聚类的滚动轴承故障诊断方法

技术领域

本发明属于故障诊断领域，特别涉及了一种滚动轴承故障诊断方法。

背景技术

随着工业化的发展，智能故障诊断系统也愈发关键，滚动轴承是很多旋转机械设备传动装置的关键部件，由于其运行环境复杂多样，因此也是发生故障最多部件之一，在机械运转过程中，过载、疲劳、磨损、腐蚀等现象都有可能导致轴承损伤。一旦发生故障，轻则影响设备的正常运行，重则引起严重的安全事故，并造成巨大的经济损失及人员伤亡，因此为了提高滚动轴承的安全性，防范事故的发生，对滚动轴承的运行状态进行监测及诊断是十分有意义的。

当前针对像滚动轴承的故障诊断方法主要分为两类：基于模型和基于数据。基于模型的故障诊断系统在实际设备工作环境中的随机因素和噪声难以提前估测，导致难以构建精准有效的数学模型。而近年来基于数据驱动的故障诊断方法得到了充足的数据基础和理论支持，其主要分为两种发展路线，分别是传统的基于采集振动信号的时频分析和机器学习算法实现故障识别，和目前基于深度神经网络的端到端算法。而传统的故障诊断算法对于数据量大，数据维度更高，非线性关系更强的大数据，特征提取能力很有限，无法完全提取数据的本质特征。然而，深度神经网络在故障诊断上的良好表现需要以两项关键的前提条件：丰富的带标签数据，和训练与测试数据之间的独立同分布。然而在大多数工业场景，很难获取到足够的标签数据，为了解决这个问题，迁移学习被提出来，作为迁移学习的代表方法之一，领域自适应是通过挖掘域不偏移特征，弥合源域和目标域之间的分布差异，从而将知识从标记的源域迁移到未标记的目标域，辅助目标域完成分类任务。

迁移学习的出现，解决了深度神经网络无法大规模实际应用的核心问题，加快了智能故障诊断系统的落地实现。但是在目前的故障诊断算法中，当滚动轴承故障诊断中源域和目标域数据分布差异较大，依赖源域数据训练的网络往往更加偏向于源域，因此该网络提取的目标域特征存在一定的偏差，该种状态下适配两域的滚动轴承故障数据的特征分布难以提取出较好的自适应特征。且条件分布的精度依赖于伪标签，基于源域数据训练的预训练网络无法保证伪标签的可靠性，从而导致滚动轴承故障诊断精度不高。

发明内容

为了解决上述背景技术提到的技术问题，本发明提出了一种基于自监督学习和聚类的滚动轴承故障诊断方法。

为了实现上述技术目的，本发明的技术方案为：

一种基于自监督学习和聚类的滚动轴承故障诊断方法，包括以下步骤：

(1)将采集到的滚动轴承的驱动端和风扇端的振动信号分为源域数据和目标域数据，对两域的无标签数据进行时频变换，获取自监督学习的滚动轴承故障诊断数据集D_self，随机初始化自监督学习网络的模型参数，并基于数据集D_self训练自监督学习网络，重复最小化损失函数以更新自监督学习网络的模型参数θ₁，直至损失函数收敛；

(2)以锁定的形式迁移部分自监督学习网络的模型参数θ₁至源域监督学习网络，将数据集D_self中的源域数据及源域标签作为源域监督学习网络的输入，得到其初始化参数，重复最小化损失函数以更新源域监督学习网络的模型参数θ₂，直至损失函数收敛；

(3)通过源域监督学习网络预测滚动轴承故障诊断数据集中目标域数据的初始伪标签以及对应的置信度/>其中n_t表示目标域中不带标签的数据个数，/>表示目标域数据中第j个数据对应的标签，以锁定的形式迁移部分源域监督学习网络的模型参数θ₂至两域迁移学习网络，将数据集D_self中的源域数据、源域标签、目标域数据和目标域初始伪标签作为两域迁移网络的输入，得到其初始化参数θ₃；

(4)计算数据集D_self集中目标域与源域的边缘分布距离和条件分布距离以及条件分布的自适应权重因子，最小化损失函数以更新两域迁移网络的模型参数θ₃；

(5)通过优化后的两域迁移学习网络更新数据集D_self中目标域的伪标签并提取目标域数据的域不偏移特征，基于K-Means算法对提取的域不偏移特征进行聚类，并利用聚类结果和伪标签生成对应的字典映射，基于字典映射和强簇规则，生成对应的强簇，并利用强簇进一步更新滚动轴承数据集中伪标签/>根据伪标签的预测概率和聚类结果生成对应数据集D_self中目标域数据类别的置信度/>

(6)重复步骤(4)和(5)，直至损失函数收敛或者数据集D_self中目标域的伪标签不再更新；将目标域测试数据输入到更新后的两域迁移网络，得到滚动轴承故障识别的准确率。

进一步地，步骤(1)中的损失函数的表达式如下：

其中，loss(x_i,θ)为损失函数，K为采用的时频变换方法的个数，g(.|Y)表示滚动轴承故障诊断原始数据{x_i}对应的某种时频变换，F₁ ^Y(g(x_i|Y)|θ₁)是输出数据通过自监督学习网络F₁产生预测类别的概率值，θ₁代表自监督学习网络F₁的参数。

进一步地，步骤(2)中的损失函数的表达式如下：

其中，为损失函数，n_s为源域中数据个数，/>为源域数据中第i个数据对应的标签，/>为滚动轴承故障诊断数据集中的源域数据/>通过源域监督学习网络F₂产生预测类别的概率值，θ₂是源域监督学习网络F₂的参数。

进一步地，在步骤(3)中，置信度的表达式如下：

其中，是滚动轴承故障诊断数据集中目标域数据/>全部类别C^T中某一类k的样本总数，/>为样本属于相应类别的概率，/>的表达式如下：

其中，为滚动轴承故障诊断数据集中目标域数据/>通过两域迁移网络F₃产生预测类别的概率值θ₃是两域迁移网络F₃的参数，概率最高的类别被选为伪标签

进一步地，在步骤(4)中，计算滚动轴承故障诊断数据集中源域与目标域的边缘分布距离D_M和条件分布距离D_C：

其中，H_k指希尔伯特空间映射，是滚动轴承故障诊断数据集中源域数据/>全部类别C^T中某一类k的样本总数，σ^(k)为第k类样本的置信度，其初始值为步骤(3)得到的后续的σ^(k)为强簇规则更新后的置信度；

计算条件分布的自适应权重因子μ：

其中，为D_M的无偏估计，/>为D_C的无偏估计；

计算损失函数：

其中，L_total(x；θ₃)为损失函数，λ是正则化参数，为两域数据的联合分布适配距离：

进一步地，所述强簇规则为，将同一批次网络预测伪标签和聚类生成的伪标签生成字典映射，先设置字典映射的阈值α和最小样本数n＝batch/N·β，其中batch为批大小，N为类别数，β是决定最小样本大小的参数，若对于聚类生成伪标签的第i类与网络预测伪标签的第j类字典映射比例大于阈值α且字典映射的样本数量大于最小样本数n，则把聚类生成的伪标签i及置信度作为网络的伪标签及置信度，该置信度为步骤(5)中否则将网络预测的伪标签j及置信度作为网络的伪标签及置信度。

进一步地，在步骤(5)中，置信度的表达式如下：

其中，是预测为其他标签而不是聚类标签的样本数。

采用上述技术方案带来的有益效果：

本发明基于自监督学习的网络通过对轴承数据不同时频变换类型的识别，以无监督的形式更加公平纯粹地提取两域数据的底层“无偏向”特征。本发明利用聚类算法，对自监督网络提取的数据特征进行聚类，依照设定的“强簇”规则，更新伪标签及其置信度，提高了伪标签的准确性。

附图说明

图1是本发明的整体流程图；

图2是本发明中自监督学习数据集预处理的示意图；

图3是本发明中通过网络预测和聚类生成伪标签的示意图。

具体实施方式

以下将结合附图，对本发明的技术方案进行详细说明。

本发明设计了一种基于自监督学习和聚类的滚动轴承故障诊断方法，如图1所示，包括三个环节：1)数据采集；2)模型训练；3)故障诊断。

数据采集：采集不同的数据平台，并设置一个易采集数据平台为源域，采集带标签的数据。设置另一个条件不佳数据平台为目标域，采集不带标签的数据；本实施例采集了来自美国凯斯西储大学(CWRU)的传感器数据集和加拿大的渥太华大学(BV)的传感器数据集，其中CWRU数据集的感应电动机轴承型号为SKF-6205-2RS。轴承振动信号由加速度传感器采集，其分别安装在电动机外壳的驱动端和风扇端，信号的采样频率为12kHz。BV数据集的设备的部署和CWRU数据集设备类似，主要区别在于其测试轴承型号为MFS-PK5M，信号的采样频率为20kHz。为了模拟轴承故障，通过电火花加工的方式在轴承的内圈、滚动体及外圈上引入单点故障。本实施例从CWRU数据集和BV数据集中选择部分数据构建本次实验的数据集，实验测试了不同转速下健康、内圈损伤和外圈损伤的具体表现，并采集了相应的振动和加速度信号。为了进一步模拟现实场景，结合CWRU数据集的特点，将本平台不同负载的数据，与不同故障程度的数据进行混合，组成数据集G-J，其具体细节见表1。为了测试迁移学习算法跨平台的迁移性能，设置迁移任务为G→I、G→J、H→I、H→J、I→G、I→H、J→G、J→H，其中每组500样本中取400组作为训练集，其余的作为测试集，这里以G→I为例说明，数据集A(1HP下采集到的机械震动数据)作为源域，数据集G作为目标域，此时数据集I带标签，而数据集G则没有标签。训练过程中选用数据集G，I的训练数据，测试时选用对应的测试集做测试，以保证测试数据不参与训练。

表1多平台数据集的G-I设置

模型训练：其中包含三部分，第一，自监督网络学习：如图2所示，对两域无标签数据进行多种时频预处理，获取自监督学习的数据集D_self，随机初始化自监督学习网络的模型参数，并基于数据集训练自监督网络D_self，重复最小化损失函数以更新自监督学习网络的模型参数θ₁，直至损失函数收敛；第二，源域监督学习：以锁定(Frozen)的形式迁移部分自监督网络的模型参数θ₁至源域监督学习网络，得到其初始化参数θ₂，更新最小化损失函数以更新源域监督学习网络的模型参数θ₂，直至损失函数收敛；第三：两域迁移网络的训练：通过源域监督学习网络预测目标域数据的初始伪标签以及对应的置信度以锁定(Frozen)的形式迁移部分自监督网络的模型参数θ₂至两域迁移学习网络，得到其初始化参数θ₃，计算两域分布距离/>和/>以及条件分布的自适应权重因子μ，最小化损失函数以更新目标网络的模型参数θ₃。如图3所示，通过优化后的两域迁移学习网络更新伪标签/>并提取目标域数据的域不偏移特征,基于K-Means算法对提取的目标域特征进行聚类，并利用聚类结果和伪标签生成对应的字典映射，基于字典映射和“强簇”规则，生成对应的“强簇”。并利用其进一步更新伪标签/>根据伪标签的预测概率，和聚类结果生成对应类别的置信度/>更新最小化损失函数，直至损失函数收敛或者伪标签不再更新。故障诊断：通过对训练至收敛模型的测试，采用目标域数据进行测试，进一步验证算法的表现。

表2展示了本实施例提出的方法(DASSL-FC)与其他深度迁移学习算法之间的比较，虽然跨平台采集导致两域数据分布差异较大，但本发明提出的算法通过自监督学习，合理地利用了两域数据自身的特性进行特征提取，结合同时适配两域的联合概率分布，能更有效地提取域不偏移特征，且利用聚类和“强簇”规则提高了置信度，获取了最佳的预测表现，各迁移实验的平均预测精度可达85％左右。而CNN在面对两域数据分布差异较大，并不能获得较好的迁移性能。仅适配边缘分布的方法DAN和DDC皆表现不佳，而JAN虽然在部分迁移任务上表现得十分出色，但处理其他任务精度不高，显然其算法的泛化性不够好。DAFDM、DAFDM-A和DAFDM-AC算法忽视了目标域，导致训练的网络更偏向源域，其算法的泛化性较差。

表2跨平台迁移任务的分类精度

实施例仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明保护范围之内。

Claims (4)

1.一种基于自监督学习和聚类的滚动轴承故障诊断方法，其特征在于，包括以下步骤：

(1)将采集到的滚动轴承的驱动端和风扇端的振动信号分为源域数据和目标域数据，其中源域数据包括有标签的源域数据和无标签的源域数据，目标域数据为无标签的目标域数据，对两域的无标签数据进行时频变换，获取自监督学习的滚动轴承故障诊断数据集D_self，随机初始化自监督学习网络的模型参数，并基于数据集D_self训练自监督学习网络，重复最小化损失函数以更新自监督学习网络的模型参数θ₁，直至损失函数收敛；

(2)以锁定的形式迁移部分自监督学习网络的模型参数θ₁至源域监督学习网络，源域数据及源域标签作为源域监督学习网络的输入，得到其初始化参数，重复最小化损失函数以更新源域监督学习网络的模型参数θ₂，直至损失函数收敛；

(3)通过源域监督学习网络预测滚动轴承故障诊断数据集中目标域数据的初始伪标签以及对应的置信度/>其中n_t表示目标域中不带标签的数据个数，/>表示目标域数据中第j个数据对应的初始伪标签，以锁定的形式迁移部分源域监督学习网络的模型参数θ₂至两域迁移学习网络，将两域带标签数据集作为两域迁移网络的输入，得到其初始化参数θ₃；所述两域带标签数据集包括：源域数据、源域标签、目标域数据和目标域初始伪标签；

(4)计算两域带标签数据集中目标域与源域的边缘分布距离和条件分布距离以及条件分布的自适应权重因子，最小化损失函数以更新两域迁移网络的模型参数θ₃；

(5)通过优化后的两域迁移学习网络更新两域带标签数据集中目标域的伪标签并提取目标域数据的域不偏移特征，基于K-Means算法对提取的域不偏移特征进行聚类，并利用聚类结果和伪标签生成对应的字典映射，基于字典映射和强簇规则，生成对应的强簇，并利用强簇进一步更新滚动轴承数据集中伪标签/>根据伪标签的预测概率和聚类结果生成对应两域带标签数据集中目标域数据类别的置信度/>

(6)重复步骤(4)和(5)，直至损失函数收敛或者两域带标签数据集中目标域的伪标签不再更新；将目标域测试数据输入到更新后的两域迁移网络，得到滚动轴承故障识别的准确率；

在步骤(3)中，置信度的表达式如下：

其中，是滚动轴承故障诊断数据集中目标域数据/>全部类别C^T中某一类k的样本总数，/>为样本属于相应类别的概率，/>的表达式如下：

其中，为滚动轴承故障诊断数据集中目标域数据/>通过源域监督学习网络F₂产生预测类别的概率值，概率最高的类别被选为伪标签/>

所述强簇规则为，将同一批次网络预测伪标签和聚类生成的伪标签生成字典映射，先设置字典映射的阈值α和最小样本数n＝batch/N·β，其中batch为批大小，N为类别数，β是决定最小样本大小的参数，若对于聚类生成伪标签的第i类与网络预测伪标签的第j类字典映射比例大于阈值α且字典映射的样本数量大于最小样本数n，则把聚类生成的伪标签i及置信度作为网络的伪标签及置信度，该置信度为步骤(5)中否则将网络预测的伪标签j及置信度作为网络的伪标签及置信度；

在步骤(5)中，置信度的表达式如下：

其中，是预测为其他标签而不是聚类标签的样本数。

2.根据权利要求1所述基于自监督学习和聚类的滚动轴承故障诊断方法，其特征在于，步骤(1)中的损失函数的表达式如下：

其中，loss(x_i,θ)为损失函数，K为采用的时频变换方法的个数，表示滚动轴承故障诊断原始数据{x_i}对应的某种时频变换，F₁ ^Y(g(x_i|Y)θ₁)是输出数据通过自监督学习网络F₁产生预测类别的概率值，θ₁代表自监督学习网络F₁的参数。

3.根据权利要求1所述基于自监督学习和聚类的滚动轴承故障诊断方法，其特征在于，步骤(2)中的损失函数的表达式如下：

其中，为损失函数，n_s为源域中数据个数，/>为源域数据中第i个数据对应的标签，/>为滚动轴承故障诊断数据集中的源域数据/>通过源域监督学习网络F₂产生预测类别的概率值，θ₂是源域监督学习网络F₂的参数。

4.根据权利要求1所述基于自监督学习和聚类的滚动轴承故障诊断方法，其特征在于，在步骤(4)中，计算两域带标签数据集中源域与目标域的边缘分布距离D_M和条件分布距离D_C：

其中，指希尔伯特空间映射，/>是滚动轴承故障诊断数据集中源域数据/>全部类别C^T中某一类k的样本总数，σ^(k)为第k类样本的置信度，其初始值为步骤(3)得到的/>后续的σ^(k)为强簇规则更新后的置信度，/>为两域带标签数据集中目标域数据/>通过两域迁移网络F₃产生预测类别的概率值；

计算条件分布的自适应权重因子μ：

其中，为D_M的无偏估计，/>为D_C的无偏估计；

计算损失函数：

其中，为损失函数，λ是正则化参数，/>为两域数据的联合分布适配距离：