CN111860677A - 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 - Google Patents
一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 Download PDFInfo
- Publication number
- CN111860677A CN111860677A CN202010740816.3A CN202010740816A CN111860677A CN 111860677 A CN111860677 A CN 111860677A CN 202010740816 A CN202010740816 A CN 202010740816A CN 111860677 A CN111860677 A CN 111860677A
- Authority
- CN
- China
- Prior art keywords
- domain
- sample
- classifier
- label
- source
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000005096 rolling process Methods 0.000 title claims abstract description 37
- 238000003745 diagnosis Methods 0.000 title claims abstract description 35
- 238000013526 transfer learning Methods 0.000 title claims abstract description 12
- 238000013508 migration Methods 0.000 claims abstract description 17
- 230000005012 migration Effects 0.000 claims abstract description 17
- 238000012360 testing method Methods 0.000 claims abstract description 7
- 230000006870 function Effects 0.000 claims description 33
- 238000005457 optimization Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 12
- 239000013598 vector Substances 0.000 claims description 12
- 238000012549 training Methods 0.000 claims description 10
- 238000004422 calculation algorithm Methods 0.000 claims description 7
- 230000004913 activation Effects 0.000 claims description 6
- 239000011159 matrix material Substances 0.000 claims description 6
- 239000000126 substance Substances 0.000 claims description 6
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 6
- 230000002159 abnormal effect Effects 0.000 claims description 5
- 230000002547 anomalous effect Effects 0.000 claims description 3
- 230000006835 compression Effects 0.000 claims description 3
- 238000007906 compression Methods 0.000 claims description 3
- 238000009795 derivation Methods 0.000 claims description 3
- 239000004576 sand Substances 0.000 claims description 3
- 230000003044 adaptive effect Effects 0.000 abstract 1
- 230000006978 adaptation Effects 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 230000003042 antagnostic effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 235000014653 Carica parviflora Nutrition 0.000 description 1
- 241000243321 Cnidaria Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/04—Bearings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2431—Multiple classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Image Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于部分域对抗的滚动轴承迁移学习故障诊断方法，包括以下步骤：搭建滚动轴承故障数据样本库，划分源域和目标域故障数据；提取源域和目标域故障数据的隐含特征；构建标签预测器；构建加权域分类器，得到样本特征来自源域分布的概率和权值；将加权的源域样本特征和不加权的目标域样本特征，送入另一域分类器，判别样本特征来自源域还是目标域，构造梯度反转层；优化模型；将测试数据输入特征提取器获得样本特征，并将获得的样本特征输入标签预测器，获得预测标签，并计算分类精度。本发明将对抗思想融于部分迁移网络，提出了源域样本加权后再进行域分类的策略，提升了样本域自适应能力，解决了在目标域进行无监督标签预测的问题。
Description
技术领域
本发明涉及轴承故障诊断领域，特别涉及一种基于部分域对抗的滚动轴承迁移学习故障诊断方法。
背景技术
滚动轴承是各种机械化领域的高端部件，如高铁领域、风电领域、航空领域等，有着更精确的传动性能、更小的体积和更轻的重量。但是，滚动轴承的维修也将产生更多的花费。这主要是因为滚动轴承的工作环境一般都很恶劣，尤其是在一些重要领域，滚动轴承容易损坏。如果没有及时处理出现问题的轴承，就会出现很多事故，轻则停止运行，重则发生重大安全事故，从而产生无法预计的后果。因此，对滚动轴承故障进行更加精确的诊断有着重要意义。
域适应理论主要指的是在源域和目标域之间取得公共特征，使这些特征更加符合源域分布，通过迁移学习将该特征用于源域数据训练的分类器。浅层学习方法具有所需样本量小、训练快速等特点，因此与域适应理论结合进行故障诊断获得了发展。但浅层方法因为特征提取不充分、表达能力低下，使得用于故障诊断的域适应模型可移植性弱。
目前，深度学习因其层次深、计算力强等特点，被广泛应用于滚动轴承的故障诊断领域。利用深度学习来提取源域故障数据的深度特征，并应用于目标域数据，能提高诊断的精确度。深度学习结合域适应理论能针对不同工况建立更精确的诊断模型。源域数据的标签可以看做是包括所有故障类别，但目标域数据仅包含某些故障类别。在现有大多数方法中，只靠减少源域和目标域的分布之间的距离来减小域偏移是行不通的。一种可行的方法是通过构造源域样本的权值剔除异常类。然而，目标域样本一般是没有标签的，通过简单的深度学习方法没办法训练一个合适的加权模型。
发明内容
为了解决上述技术问题，本发明提供一种算法简单、诊断精度高的基于部分域对抗的滚动轴承迁移学习故障诊断方法。
本发明解决上述问题的技术方案是：一种基于部分域对抗的滚动轴承迁移学习故障诊断方法，包括以下步骤：
(1)搭建不同工况下滚动轴承故障数据样本库，划分源域和目标域故障数据，并将源域样本作为训练数据，将目标域样本作为测试数据；
(2)使用堆栈自动编码SAE网络作为特征提取器F，提取源域和目标域故障数据的隐含特征；
(3)使用源域样本特征训练softmax分类器作为标签预测器C；
(4)构建加权域分类器D，得到样本特征来自源域分布的概率，并计算样本特征的权值；
(5)将加权的源域样本特征和不加权的目标域样本特征，送入另一域分类器D0，判别样本特征来自源域还是目标域，构造梯度反转层用于实现特征提取器和域分类器的对抗学习；
(6)使用随机梯度下降算法SGD优化特征提取器F、标签预测器C、加权域分类器D和域分类器D0的总损失；
(7)将测试数据输入特征提取器获得样本特征，并将获得的样本特征输入标签预测器，获得预测标签，并计算分类精度。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(1)中，源域数据为
目标域数据为
其中x(i)(i＝1,2,…,ns)为源域带标签样本，y(i)(i＝1,2,…,ns)为源域样本的标签，x(j)(j＝1,2,…,nt)为目标域无标签样本；ns和nt分别为源域和目标域样本数量。样本标签种类
其中
表示目标域样本标签种类数，
表示源域样本标签种类数。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(2)中，堆栈自编码SAE网络由两个自编码器AE堆叠组成，AE网络由编码器和解码器组成；其中，编码器用来压缩输入数据为代表性特征：
Y＝f(W(1)X+b(1))
其中，X为输入数据，Y为代表性特征，W(1)为权重矩阵，b(1)为偏置向量，f为激活函数；
然后，解码器将得到的代表性特征重构回与输入数据相同维度的向量：
X′＝f(W(2)Y+b(2))
其中，X′为重构后的向量，W(2)为重构过程的权重矩阵，b(2)为重构过程的偏置向量，f为激活函数；
整个自编码过程的损失函数为：
其中，X′(i)为第i个重构数据，X(i)为第i个输入数据，m为输入数据的个数；W和b分别表示该损失中要更新的权重和偏置参数，最小化压缩损失函数得到优化后的AE网络；
SAE在AE的基础上，将AE得到的代表性特征作为输入数据，输入到第二个AE网络中，用同样的方法训练网络参数，最终得到所需代表性特征。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(3)中，softmax分类器是一种多标签分类器，用于得到多种标签的概率，概率最大的标签即为样本标签；
对于输入源域数据
对应k类标签y(i)＝{1,2,…k}，i＝1,2,…ns，则对于样本x(i)属于每种标签的概率hθ(x(i))为：
其中，θ＝{θ1,θ2,…θk}表示模型参数，T表示转置，
为假设函数；
损失函数Jθ为：
其中，1{真表达式}＝1，1{假表达式}＝0；
由于目标域样本没有标签，因此标签预测器由源域样本训练，并直接用于目标域样本。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(4)中，加权域分类器D的输出值给出了样本特征属于源域分布的概率；
加权域分类器的优化目标为：
其中，F(x)表示特征提取器F得到的样本特征，x为原样本，D(F(x))表示加权域分类器D中样本特征的概率；
指取期望，x～ps(x)表示样本x来自源域分布ps(x)，x～pt(x)表示样本x来自目标域分布pt(x)；
对于输入序列z，加权域分类器输出z属于源域的概率D(z)：
D(z)＝p(y＝1|z)＝σ(F(z))
其中，p(y＝1|z)表示在输入z的条件下，y＝1的概率，σ为sigmoid函数，F(z)为SAE网络提取的深度特征；
D*(z)表示域分类器最优化后的结果，当D*(z)＝1时，表示z来自源域分布的异常类，这些样本根本没有出现在目标域，因此这些样本被赋予更小的权重；当D*(z)＝0时，表示这些样本为源域和目标域共有的类别，因此这些样本被赋予更大的权重，从而减少样本在这些共有类上的域偏移；因此，权重函数
为：
其中，ps(z)表示源域分布的z，pt(z)表示目标域分布的z；
由权重函数可知，D*(z)越大，
越小，ps(z)/pt(z)越大；所以，源域的异常类样本的权重比共有类样本小；
然后，权重被归一化为：
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(5)中，域分类器D0与特征提取器F进行最小最大博弈，以抑制共有类的偏移；
域分类器D0优化目标如下：
其中，ω(z)独立于D0，被看作一个常数，D0(F(x))表示域分类器D0中样本特征的概率；
由上式可知，该优化目标首先实现域分类器损失的最大化，以判别来自源域分布的样本特征，然后实现特征提取器损失的最小化，使特征提取器提取的目标域样本特征更加接近于源域样本特征；两者进行对抗学习，使域分类器无法判别样本特征是来自源域分布还是目标域分布，从而目标域样本特征更适用于源域样本特征训练的标签预测器。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(5)中，梯度反转层GRL用于域分类器和特征提取器之间，在域分类器的误差反向传播过程乘以-λ实现梯度反转，λ是一个正数，使域分类器和特征提取器的学习目标相反，以达到域分类器和特征提取器的对抗学习的目的。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(6)中，优化目标函数为：
其中，
为损失，
表示特征提取器F的损失，
表示标签预测器C的损失，
表示加权域分类器D的损失，
表示域分类器D0的损失；LF(·,·)和LC(·,·)分别表示特征提取器和标签预测器的损失函数；θF和θC分别是特征提取器和标签预测器的参数；
为SAE解码器重构的第i个样本数据，y(i)表示x(i)对应的标签；F(x(i)；θF)表示特征提取器F提取的特征，C(F(x(i)；θF)；θC)表示标签预测器C的预测结果；γ为权衡参数；
该目标函数通过随机梯度下降SGD算法优化，具体更新规则为：
其中，θD和
分别表示加权域分类器和域分类器的参数；μ为学习率；Li C、
和Li D分别表示第i个样本的标签预测器、域分类器、加权域分类器的损失；
表示求偏导。
上述基于部分域对抗的滚动轴承迁移学习故障诊断方法，所述步骤(7)中，标签预测器的预测结果分类精度计算方式如下：
其中，
为样本x(i)预测的标签，y(i)为对应的真标签；当
等于y(i)时，
为1,；当
不等于y(i)时，
为0；
表示所有标签预测正确的总数目。
本发明的有益效果在于：
1、本发明通过在域分类器中结合加权思想，得到源域样本特征的重要性权值，使源域中异常类特征拥有更小的权值，从而把这些异常类从源域数据中除去，以保证目标域的故障类别更接近于源域的故障类别。
2、本发明将对抗思想和域自适应思想结合在一起，构造两种不同的域分类器，实现了源域样本空间和目标域样本空间的自动匹配，构造了一个能在不同工况环境中实现迁移学习的滚动轴承的故障诊断模型。
3、本发明将对抗思想融于部分迁移网络，提出了源域样本加权后再进行域分类的策略，提升了样本域自适应能力，解决了在目标域进行无监督标签预测的问题，提高了滚动轴承故障诊断的精度。
附图说明
图1为本发明的流程图。
图2为堆栈自编码结构示意图。
图3为加权域分类器结构示意图。
图4为本发明对比实验条形图。
具体实施方式
下面结合附图和实施例对本发明做进一步的说明。
如图1所示，一种基于部分域对抗的滚动轴承迁移学习故障诊断方法，包括以下步骤：
(1)搭建不同工况下滚动轴承故障数据样本库，划分源域和目标域故障数据，并将源域样本作为训练数据，将目标域样本作为测试数据。
源域数据为
目标域数据为
其中x(i)(i＝1,2,…,ns)为源域带标签样本，y(i)(i＝1,2,…,ns)为源域样本的标签，x(j)(j＝1,2,…,nt)为目标域无标签样本；ns和nt分别为源域和目标域样本数量。样本标签种类
其中
表示目标域样本标签种类数，
表示源域样本标签种类数。
(2)使用堆栈自动编码SAE网络作为特征提取器F，提取源域和目标域故障数据的隐含特征。
如图2所示，堆栈自编码SAE网络由两个自编码器AE堆叠组成，可以提取更深层次的代表性特征。AE网络由编码器和解码器组成；其中，编码器用来压缩输入数据为代表性特征：
Y＝f(W(1)X+b(1))
其中，X为输入数据，Y为代表性特征，W(1)为权重矩阵，b(1)为偏置向量，f为激活函数；
然后，解码器将得到的代表性特征重构回与输入数据相同维度的向量：
X′＝f(W(2)Y+b(2))
其中，X′为重构后的向量，W(2)为重构过程的权重矩阵，b(2)为重构过程的偏置向量，f为激活函数；
整个自编码过程的损失函数为：
其中，X′(i)为第i个重构数据，X(i)为第i个输入数据，m为输入数据的个数；W和b分别表示该损失中要更新的权重和偏置参数，最小化压缩损失函数得到优化后的AE网络；
SAE在AE的基础上，将AE得到的代表性特征作为输入数据，输入到第二个AE网络中，用同样的方法训练网络参数，最终得到所需代表性特征。
(3)使用源域样本特征训练softmax分类器作为标签预测器C。
softmax分类器是一种多标签分类器，用于得到多种标签的概率，概率最大的标签即为样本标签；
对于输入源域数据
对应k类标签y(i)＝{1,2,…k}，i＝1,2,…ns，则对于样本x(i)属于每种标签的概率hθ(x(i))为：
其中，θ＝{θ1,θ2,…θk}表示模型参数，T表示转置，
为假设函数；
损失函数Jθ为：
其中，1{真表达式}＝1，1{假表达式}＝0；
由于目标域样本没有标签，因此标签预测器由源域样本训练，并直接用于目标域样本。
(4)构建加权域分类器D，得到样本特征来自源域分布的概率，并计算样本特征的权值。
如图3所示，加权域分类器D的输出值给出了样本特征属于源域分布的概率；
加权域分类器的优化目标为：
其中，F(x)表示特征提取器F得到的样本特征，x为原样本，D(F(x))表示加权域分类器D中样本特征的概率；
指取期望，x～ps(x)表示样本x来自源域分布ps(x)，x～pt(x)表示样本x来自目标域分布pt(x)；
对于输入序列z，加权域分类器输出z属于源域的概率D(z)：
D(z)＝p(y＝1|z)＝σ(F(z))
其中，p(y＝1|z)表示在输入z的条件下，y＝1的概率，σ为sigmoid函数，F(z)为SAE网络提取的深度特征。
D*(z)表示域分类器最优化后的结果，当D*(z)＝1时，表示z来自源域分布的异常类，这些样本根本没有出现在目标域，因此这些样本被赋予更小的权重；当D*(z)＝0时，表示这些样本为源域和目标域共有的类别，因此这些样本被赋予更大的权重，从而减少样本在这些共有类上的域偏移；因此，权重函数
为：
其中，ps(z)表示源域分布的z，pt(z)表示目标域分布的z；
由权重函数可知，D*(z)越大，
越小，ps(z)/pt(z)越大；所以，源域的异常类样本的权重比共有类样本小；
然后，权重被归一化为：
(5)将加权的源域样本特征和不加权的目标域样本特征，送入另一域分类器D0，判别样本特征来自源域还是目标域，构造梯度反转层用于实现特征提取器和域分类器的对抗学习。
域分类器D0与特征提取器F进行最小最大博弈，以抑制共有类的偏移；
域分类器D0优化目标如下：
其中，ω(z)独立于D0，被看作一个常数，D0(F(x))表示域分类器D0中样本特征的概率；
由上式可知，该优化目标首先实现域分类器损失的最大化，以判别来自源域分布的样本特征，然后实现特征提取器损失的最小化，使特征提取器提取的目标域样本特征更加接近于源域样本特征；两者进行对抗学习，使域分类器无法判别样本特征是来自源域分布还是目标域分布，从而目标域样本特征更适用于源域样本特征训练的标签预测器。
梯度反转层GRL用于域分类器和特征提取器之间，在域分类器的误差反向传播过程乘以-λ实现梯度反转，λ是一个正数，使域分类器和特征提取器的学习目标相反，以达到域分类器和特征提取器的对抗学习的目的。
(6)使用随机梯度下降算法SGD优化特征提取器F、标签预测器C、加权域分类器D和域分类器D0的总损失。
优化目标函数为：
其中，
为损失，
表示特征提取器F的损失，
表示标签预测器C的损失，
表示加权域分类器D的损失，
表示域分类器D0的损失；LF(·,·)和LC(·,·)分别表示特征提取器和标签预测器的损失函数；θF和θC分别是特征提取器和标签预测器的参数；
为SAE解码器重构的第i个样本数据，y(i)表示x(i)对应的标签；F(x(i)；θF)表示特征提取器F提取的特征，C(F(x(i)；θF)；θC)表示标签预测器C的预测结果；γ为权衡参数；
该目标函数通过随机梯度下降SGD算法优化，具体更新规则为：
其中，θD和
分别表示加权域分类器和域分类器的参数；μ为学习率；Li C、
和Li D分别表示第i个样本的标签预测器、域分类器、加权域分类器的损失；
表示求偏导。
(7)将测试数据输入特征提取器获得样本特征，并将获得的样本特征输入标签预测器，获得预测标签，并计算分类精度。
标签预测器的预测结果分类精度计算方式如下：
其中，
为样本x(i)预测的标签，y(i)为对应的真标签；当
等于y(i)时，
为1,；当
不等于y(i)时，
为0；
表示所有标签预测正确的总数目。
为了验证本发明的有效性，本发明选择CORAL_softmax、BP、SVM、联合分布适配JDA和迁移成分分析TCA五种方法进行对比实验。实验的源域为带标签的正常和故障数据，目标域为不带标签的正常和故障数据，电机负载状态从0hp到3hp，并选择0.007和0.014两种故障直径。对比结果如图4所示，本发明所述方法对各种工况下的滚动轴承故障诊断精度都有明显提高。
综上所述，本发明所述基于部分域对抗的滚动轴承迁移学习故障诊断方法通过采用加权和对抗的策略，对只属于源域的样本添加更小的权值，从而训练特征提取器以获得更优的样本特征，使目标域的样本特征分布更接近于源域分布，并用源域数据训练的标签预测器来预测目标域的故障标签，实现了无监督学习，提高了故障诊断精度。
Claims (9)
1.一种基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于，包括以下步骤：
(1)搭建不同工况下滚动轴承故障数据样本库，划分源域和目标域故障数据，并将源域样本作为训练数据，将目标域样本作为测试数据；
(2)使用堆栈自动编码SAE网络作为特征提取器F，提取源域和目标域故障数据的隐含特征；
(3)使用源域样本特征训练softmax分类器作为标签预测器C；
(4)构建加权域分类器D，得到样本特征来自源域分布的概率，并计算样本特征的权值；
(5)将加权的源域样本特征和不加权的目标域样本特征，送入另一域分类器D0，判别样本特征来自源域还是目标域，构造梯度反转层用于实现特征提取器和域分类器的对抗学习；
(6)使用随机梯度下降算法SGD优化特征提取器F、标签预测器C、加权域分类器D和域分类器D0的总损失；
(7)将测试数据输入特征提取器获得样本特征，并将获得的样本特征输入标签预测器，获得预测标签，并计算分类精度。
2.根据权利要求1所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(1)中，源域数据为
目标域数据为
其中x(i)(i＝1,2,…,ns)为源域带标签样本，y(i)(i＝1,2,…,ns)为源域样本的标签，x(j)(j＝1,2,…,nt)为目标域无标签样本；ns和nt分别为源域和目标域样本数量。样本标签种类
其中
表示目标域样本标签种类数，
表示源域样本标签种类数。
3.根据权利要求2所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(2)中，堆栈自编码SAE网络由两个自编码器AE堆叠组成，AE网络由编码器和解码器组成；其中，编码器用来压缩输入数据为代表性特征：
Y＝f(W(1)X+b(1))
其中，X为输入数据，Y为代表性特征，W(1)为权重矩阵，b(1)为偏置向量，f为激活函数；
然后，解码器将得到的代表性特征重构回与输入数据相同维度的向量：
X′＝f(W(2)Y+b(2))
其中，X′为重构后的向量，W(2)为重构过程的权重矩阵，b(2)为重构过程的偏置向量，f为激活函数；
整个自编码过程的损失函数为：
其中，X′(i)为第i个重构数据，X(i)为第i个输入数据，m为输入数据的个数；W和b分别表示该损失中要更新的权重和偏置参数，最小化压缩损失函数得到优化后的AE网络；
SAE在AE的基础上，将AE得到的代表性特征作为输入数据，输入到第二个AE网络中，用同样的方法训练网络参数，最终得到所需代表性特征。
4.根据权利要求3所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(3)中，softmax分类器是一种多标签分类器，用于得到多种标签的概率，概率最大的标签即为样本标签；
对于输入源域数据
对应k类标签y(i)＝{1,2,…k}，i＝1,2,…ns，则对于样本x(i)属于每种标签的概率hθ(x(i))为：
其中，θ＝{θ1,θ2,…θk}表示模型参数，T表示转置，
为假设函数；
损失函数Jθ为：
其中，1{真表达式}＝1，1{假表达式}＝0；
由于目标域样本没有标签，因此标签预测器由源域样本训练，并直接用于目标域样本。
5.根据权利要求4所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(4)中，加权域分类器D的输出值给出了样本特征属于源域分布的概率；
加权域分类器的优化目标为：
其中，F(x)表示特征提取器F得到的样本特征，x为原样本，D(F(x))表示加权域分类器D中样本特征的概率；
指取期望，x～ps(x)表示样本x来自源域分布ps(x)，x～pt(x)表示样本x来自目标域分布pt(x)；
对于输入序列z，加权域分类器输出z属于源域的概率D(z)：
D(z)＝p(y＝1|z)＝σ(F(z))
其中，p(y＝1|z)表示在输入z的条件下，y＝1的概率，σ为sigmoid函数，F(z)为SAE网络提取的深度特征；
D*(z)表示域分类器最优化后的结果，当D*(z)＝1时，表示z来自源域分布的异常类，这些样本根本没有出现在目标域，因此这些样本被赋予更小的权重；当D*(z)＝0时，表示这些样本为源域和目标域共有的类别，因此这些样本被赋予更大的权重，从而减少样本在这些共有类上的域偏移；因此，权重函数
为：
其中，ps(z)表示源域分布的z，pt(z)表示目标域分布的z；
由权重函数可知，D*(z)越大，
越小，ps(z)/pt(z)越大；所以，源域的异常类样本的权重比共有类样本小；
然后，权重被归一化为：
6.根据权利要求5所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(5)中，域分类器D0与特征提取器F进行最小最大博弈，以抑制共有类的偏移；
域分类器D0优化目标如下：
其中，ω(z)独立于D0，被看作一个常数，D0(F(x))表示域分类器D0中样本特征的概率；
由上式可知，该优化目标首先实现域分类器损失的最大化，以判别来自源域分布的样本特征，然后实现特征提取器损失的最小化，使特征提取器提取的目标域样本特征更加接近于源域样本特征；两者进行对抗学习，使域分类器无法判别样本特征是来自源域分布还是目标域分布，从而目标域样本特征更适用于源域样本特征训练的标签预测器。
7.根据权利要求6所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(5)中，梯度反转层GRL用于域分类器和特征提取器之间，在域分类器的误差反向传播过程乘以-λ实现梯度反转，λ是一个正数，使域分类器和特征提取器的学习目标相反，以达到域分类器和特征提取器的对抗学习的目的。
8.根据权利要求7所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(6)中，优化目标函数为：
其中，
为损失，
表示特征提取器F的损失，
表示标签预测器C的损失，
表示加权域分类器D的损失，
表示域分类器D0的损失；LF(·,·)和LC(·,·)分别表示特征提取器和标签预测器的损失函数；θF和θC分别是特征提取器和标签预测器的参数；
为SAE解码器重构的第i个样本数据，y(i)表示x(i)对应的标签；F(x(i)；θF)表示特征提取器F提取的特征，C(F(x(i)；θF)；θC)表示标签预测器C的预测结果；γ为权衡参数；
该目标函数通过随机梯度下降SGD算法优化，具体更新规则为：
其中，θD和
分别表示加权域分类器和域分类器的参数；μ为学习率；Li C、
和Li D分别表示第i个样本的标签预测器、域分类器、加权域分类器的损失；
表示求偏导。
9.根据权利要求8所述的基于部分域对抗的滚动轴承迁移学习故障诊断方法，其特征在于：所述步骤(7)中，标签预测器的预测结果分类精度计算方式如下：
其中，
为样本x(i)预测的标签，y(i)为对应的真标签；当
等于y(i)时，
为1,；当
不等于y(i)时，
为0；
表示所有标签预测正确的总数目。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010740816.3A CN111860677B (zh) | 2020-07-29 | 2020-07-29 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010740816.3A CN111860677B (zh) | 2020-07-29 | 2020-07-29 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111860677A true CN111860677A (zh) | 2020-10-30 |
| CN111860677B CN111860677B (zh) | 2023-11-21 |
Family
ID=72948650
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010740816.3A Active CN111860677B (zh) | 2020-07-29 | 2020-07-29 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111860677B (zh) |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112330063A (zh) * | 2020-11-25 | 2021-02-05 | 新智数字科技有限公司 | 设备故障预测方法、装置以及计算机可读存储介质 |
| CN112784920A (zh) * | 2021-02-03 | 2021-05-11 | 湖南科技大学 | 云边端协同的旋转部件对抗域自适应故障诊断方法 |
| CN113011646A (zh) * | 2021-03-15 | 2021-06-22 | 腾讯科技（深圳）有限公司 | 一种数据处理方法、设备以及可读存储介质 |
| CN113159126A (zh) * | 2021-03-22 | 2021-07-23 | 河海大学 | 基于通用域适应的工业物联网设备故障诊断方法 |
| CN114021285A (zh) * | 2021-11-17 | 2022-02-08 | 上海大学 | 基于相互局部对抗迁移学习的旋转机械故障诊断方法 |
| CN114136619A (zh) * | 2021-10-27 | 2022-03-04 | 国家能源集团宿迁发电有限公司 | 一种基于卷积自编码的变工况下滚动轴承故障诊断方法 |
| CN114358125A (zh) * | 2021-12-03 | 2022-04-15 | 华南理工大学 | 一种基于多源信息深度融合的旋转机械故障自动识别方法 |
| WO2022095156A1 (zh) * | 2020-11-05 | 2022-05-12 | 苏州大学 | 基于自适应流形概率分布的轴承故障诊断方法 |
| CN114500325A (zh) * | 2022-01-27 | 2022-05-13 | 重庆邮电大学 | 一种基于无监督迁移学习的sdn控制器故障自适应智能检测方法 |
| CN115577245A (zh) * | 2022-12-05 | 2023-01-06 | 广东工业大学 | 一种旋转组件rul预测的数据分布平衡方法及系统 |
| CN115600134A (zh) * | 2022-03-30 | 2023-01-13 | 南京天洑软件有限公司（Cn） | 基于域动态对抗自适应的轴承迁移学习故障诊断方法 |
| CN116070146A (zh) * | 2023-01-10 | 2023-05-05 | 西南石油大学 | 融合迁移学习的孔隙结构分析方法 |
| CN117494584A (zh) * | 2023-12-28 | 2024-02-02 | 湖南大学 | 基于神经网络对抗迁移学习的高维可靠性设计优化方法 |
| CN117743855A (zh) * | 2023-12-25 | 2024-03-22 | 广东石油化工学院 | 一种基于pda-bls模型的部分域适配的故障诊断方法及系统 |
| CN117892183A (zh) * | 2024-03-14 | 2024-04-16 | 南京邮电大学 | 一种基于可靠迁移学习的脑电信号识别方法及系统 |
| CN117494584B (zh) * | 2023-12-28 | 2024-06-28 | 湖南大学 | 基于神经网络对抗迁移学习的高维可靠性设计优化方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108256561A (zh) * | 2017-12-29 | 2018-07-06 | 中山大学 | 一种基于对抗学习的多源域适应迁移方法及系统 |
| CN109710636A (zh) * | 2018-11-13 | 2019-05-03 | 广东工业大学 | 一种基于深度迁移学习的无监督工业系统异常检测方法 |
| CN110751207A (zh) * | 2019-10-18 | 2020-02-04 | 四川大学 | 基于深度卷积域对抗迁移学习的故障诊断方法 |
| CN111060318A (zh) * | 2020-01-09 | 2020-04-24 | 山东科技大学 | 一种基于深度对抗迁移网络的轴承故障诊断方法 |
| CN111442926A (zh) * | 2020-01-11 | 2020-07-24 | 哈尔滨理工大学 | 一种基于深层特征迁移的变负载下不同型号滚动轴承故障诊断方法 |
-
2020
- 2020-07-29 CN CN202010740816.3A patent/CN111860677B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108256561A (zh) * | 2017-12-29 | 2018-07-06 | 中山大学 | 一种基于对抗学习的多源域适应迁移方法及系统 |
| CN109710636A (zh) * | 2018-11-13 | 2019-05-03 | 广东工业大学 | 一种基于深度迁移学习的无监督工业系统异常检测方法 |
| CN110751207A (zh) * | 2019-10-18 | 2020-02-04 | 四川大学 | 基于深度卷积域对抗迁移学习的故障诊断方法 |
| CN111060318A (zh) * | 2020-01-09 | 2020-04-24 | 山东科技大学 | 一种基于深度对抗迁移网络的轴承故障诊断方法 |
| CN111442926A (zh) * | 2020-01-11 | 2020-07-24 | 哈尔滨理工大学 | 一种基于深层特征迁移的变负载下不同型号滚动轴承故障诊断方法 |
Non-Patent Citations (1)
| Title |
|---|
| ZHAO-HUA LIU 等: "Deep Adversarial Domain Adaptation Model for Bearing Fault Diagnosis", IEEE, vol. 51, no. 7, XP011860771, DOI: 10.1109/TSMC.2019.2932000 * |
Cited By (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11644383B2 (en) | 2020-11-05 | 2023-05-09 | Soochow University | Adaptive manifold probability distribution-based bearing fault diagnosis method |
| WO2022095156A1 (zh) * | 2020-11-05 | 2022-05-12 | 苏州大学 | 基于自适应流形概率分布的轴承故障诊断方法 |
| CN112330063B (zh) * | 2020-11-25 | 2024-03-26 | 新奥新智科技有限公司 | 设备故障预测方法、装置以及计算机可读存储介质 |
| CN112330063A (zh) * | 2020-11-25 | 2021-02-05 | 新智数字科技有限公司 | 设备故障预测方法、装置以及计算机可读存储介质 |
| CN112784920A (zh) * | 2021-02-03 | 2021-05-11 | 湖南科技大学 | 云边端协同的旋转部件对抗域自适应故障诊断方法 |
| CN112784920B (zh) * | 2021-02-03 | 2024-02-13 | 湖南科技大学 | 云边端协同的旋转部件对抗域自适应故障诊断方法 |
| CN113011646B (zh) * | 2021-03-15 | 2024-05-31 | 腾讯科技（深圳）有限公司 | 一种数据处理方法、设备以及可读存储介质 |
| CN113011646A (zh) * | 2021-03-15 | 2021-06-22 | 腾讯科技（深圳）有限公司 | 一种数据处理方法、设备以及可读存储介质 |
| CN113159126A (zh) * | 2021-03-22 | 2021-07-23 | 河海大学 | 基于通用域适应的工业物联网设备故障诊断方法 |
| CN113159126B (zh) * | 2021-03-22 | 2022-08-12 | 河海大学 | 基于通用域适应的工业物联网设备故障诊断方法 |
| CN114136619A (zh) * | 2021-10-27 | 2022-03-04 | 国家能源集团宿迁发电有限公司 | 一种基于卷积自编码的变工况下滚动轴承故障诊断方法 |
| CN114021285B (zh) * | 2021-11-17 | 2024-04-12 | 上海大学 | 基于相互局部对抗迁移学习的旋转机械故障诊断方法 |
| CN114021285A (zh) * | 2021-11-17 | 2022-02-08 | 上海大学 | 基于相互局部对抗迁移学习的旋转机械故障诊断方法 |
| CN114358125A (zh) * | 2021-12-03 | 2022-04-15 | 华南理工大学 | 一种基于多源信息深度融合的旋转机械故障自动识别方法 |
| CN114358125B (zh) * | 2021-12-03 | 2024-03-22 | 华南理工大学 | 一种基于多源信息深度融合的旋转机械故障自动识别方法 |
| CN114500325A (zh) * | 2022-01-27 | 2022-05-13 | 重庆邮电大学 | 一种基于无监督迁移学习的sdn控制器故障自适应智能检测方法 |
| CN114500325B (zh) * | 2022-01-27 | 2023-07-18 | 重庆邮电大学 | 一种基于无监督迁移学习的sdn控制器故障自适应智能检测方法 |
| CN115600134A (zh) * | 2022-03-30 | 2023-01-13 | 南京天洑软件有限公司（Cn） | 基于域动态对抗自适应的轴承迁移学习故障诊断方法 |
| CN115577245B (zh) * | 2022-12-05 | 2023-05-16 | 广东工业大学 | 一种旋转组件rul预测的数据分布平衡方法及系统 |
| CN115577245A (zh) * | 2022-12-05 | 2023-01-06 | 广东工业大学 | 一种旋转组件rul预测的数据分布平衡方法及系统 |
| CN116070146B (zh) * | 2023-01-10 | 2023-09-26 | 西南石油大学 | 融合迁移学习的孔隙结构分析方法 |
| CN116070146A (zh) * | 2023-01-10 | 2023-05-05 | 西南石油大学 | 融合迁移学习的孔隙结构分析方法 |
| CN117743855A (zh) * | 2023-12-25 | 2024-03-22 | 广东石油化工学院 | 一种基于pda-bls模型的部分域适配的故障诊断方法及系统 |
| CN117494584A (zh) * | 2023-12-28 | 2024-02-02 | 湖南大学 | 基于神经网络对抗迁移学习的高维可靠性设计优化方法 |
| CN117494584B (zh) * | 2023-12-28 | 2024-06-28 | 湖南大学 | 基于神经网络对抗迁移学习的高维可靠性设计优化方法 |
| CN117892183A (zh) * | 2024-03-14 | 2024-04-16 | 南京邮电大学 | 一种基于可靠迁移学习的脑电信号识别方法及系统 |
| CN117892183B (zh) * | 2024-03-14 | 2024-06-04 | 南京邮电大学 | 一种基于可靠迁移学习的脑电信号识别方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111860677B (zh) | 2023-11-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111860677A (zh) | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 | |
| Xu et al. | A survey on model compression and acceleration for pretrained language models | |
| CN108985335B (zh) | 核反应堆包壳材料辐照肿胀的集成学习预测方法 | |
| CN111242157A (zh) | 联合深度注意力特征和条件对抗的无监督域自适应方法 | |
| CN112232252B (zh) | 基于最优输运的传动链无监督域适应故障诊断方法 | |
| CN110941734A (zh) | 基于稀疏图结构的深度无监督图像检索方法 | |
| CN112784920B (zh) | 云边端协同的旋转部件对抗域自适应故障诊断方法 | |
| CN116304905B (zh) | 一种在多负载工况下的永磁同步电机退磁故障诊断方法 | |
| Li et al. | A novel generative model with bounded-GAN for reliability classification of gear safety | |
| CN115791174B (zh) | 一种滚动轴承异常诊断方法、系统、电子设备及存储介质 | |
| Dai et al. | Hybrid deep model for human behavior understanding on industrial internet of video things | |
| CN114675249A (zh) | 基于注意力机制的雷达信号调制方式识别方法 | |
| CN114972904A (zh) | 一种基于对抗三元组损失的零样本知识蒸馏方法及系统 | |
| Man et al. | Bearing remaining useful life prediction based on AdCNN and CWGAN under few samples | |
| CN113469013A (zh) | 一种基于迁移学习和时间序列的电机故障预测方法及系统 | |
| CN109978013B (zh) | 一种用于人物动作识别的深度聚类方法 | |
| CN117407665A (zh) | 一种基于生成对抗网络的退役电池时序数据缺失值填充方法 | |
| CN116861250A (zh) | 一种故障诊断模型训练方法及装置 | |
| CN112465184A (zh) | 一种少样本生成式对抗学习网络的云储能系统控制方法 | |
| CN116521863A (zh) | 一种基于半监督学习的标签抗噪文本分类方法 | |
| CN114357869A (zh) | 一种基于数据关系学习和预测的多目标优化代理模型设计方法及系统 | |
| CN114372618A (zh) | 一种学生成绩的预测方法、系统、计算机设备及存储介质 | |
| CN114595884A (zh) | 一种遗传智能优化的神经网络风力发电设备温度预测方法 | |
| CN113052497A (zh) | 一种基于动静态特征融合学习的服刑人员风险预测方法 | |
| CN117520802B (zh) | 一种电力工程现场轻量级审计事件识别方法、系统及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |