CN114202028B - 基于mamtl的滚动轴承寿命阶段识别方法 - Google Patents
基于mamtl的滚动轴承寿命阶段识别方法 Download PDFInfo
- Publication number
- CN114202028B CN114202028B CN202111515067.5A CN202111515067A CN114202028B CN 114202028 B CN114202028 B CN 114202028B CN 202111515067 A CN202111515067 A CN 202111515067A CN 114202028 B CN114202028 B CN 114202028B
- Authority
- CN
- China
- Prior art keywords
- network
- samples
- sample
- mamtl
- target domain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本发明公开了一种基于MAMTL的滚动轴承寿命阶段识别方法,包括以下步骤:S1、对滚动轴承的全寿命数据进行寿命阶段划分,将全寿命数据划分为正常阶段、早期退化阶段、中期退化阶段、完全失效阶段4个阶段;S2、采集已经完成寿命阶段划分的滚动轴承全寿命阶段的振动加速度作为源域样本集,采集待识别的滚动轴承的振动加速度作为目标域样本集;S3、训练MAMTL网络,MAMTL由内环平行网络、外环元学习网络和原型网络组成;S4、识别目标域待测样本的类标签:用训练好的MAMTL完成对目标域待测样本的分类,即完成对滚动轴承的寿命阶段识别。本发明可以利用滚动轴承历史工况下的少量、非均等寿命阶段样本来对当前工况待测样本进行较高精度的寿命阶段识别。
Description
技术领域
本发明属于滚动轴承寿命预测技术领域,特别涉及一种基于MAMTL的滚动轴承寿命阶段识别方法。
背景技术
滚动轴承广泛应用于燃气轮机、航空发动机、风力机等各种关键的设备中,其寿命和可靠性很大程度上决定了设备能否正常运转、实现预定功能和达到预期服役寿命。滚动轴承在整个服役的过程中,将经历一系列不同的寿命阶段。因此对滚动轴承的寿命阶段识别的研究有助于避免关键设备故障带来的灾难性事故,降低设备的维修成本,提高设备的效率,同时可以建立长寿命、高可靠滚动轴承基础数据库,实现从大量的候选滚动轴承中筛选出最优寿命轴承安装到设备中。
目前滚动轴承寿命阶段识别的研究刚刚起步,有为数不多的研究案例。如:陈仁祥等采用源域多样本集成测地线流式核方法(Source Domain Multi-sample IntegratedGeodesic Flow Kernel,SDMIGFK)来识别空间滚动轴承寿命阶段;Dong等使用改进抗干扰卷积神经网络(Improved Convolutional Neural Network with Anti-interference,ICNNA)进行空间滚动轴承寿命阶段识别;吴昊年等采用改进均衡分布适配(ImprovedBalanced Distribution Adaptation,IBDA)方法来完成空间滚动轴承寿命阶段识别。然而,改进抗干扰卷积神经网络是基于概率分布一致性假设的机器学习方法,而滚动轴承都是运行在变工况条件下(随着滚动轴承磨损加剧、轴承间隙改变,滚动轴承所受轴向或径向载荷会发生持续性变化,且轴承转速也越来越不稳定),变工况条件会使滚动轴承状态数据的分布特性产生差异、漂移,因此,基于分布一致性假设的机器学习方法在变工况条件下泛化能力较差,难以适用于变工况条件下的滚动轴承寿命阶段识别。另一方面,以上所有机器学习方法都需要大量的有类标签的历史工况(即源域)数据来进行训练且要求各类训练样本数量必须均等。然而变工况条件以及数据在线和离线采集成本的高昂性造成滚动轴承运行状态信息难以获取,往往仅能获得部分历史工况下的少量滚动轴承全寿命样本数据用于分类模型的训练,且滚动轴承不同寿命阶段的时间跨度的不均等往往造成各个寿命阶段的样本数量也不均等,以上滚动轴承运行工况和状态数据的复杂性也暴露了以上机器学习方法用于滚动轴承寿命阶段识别存在一定的局限性。
发明内容
本发明的目的在于克服现有技术在变工况下滚动轴承寿命阶段识别时因样本分布差异较大、可训练用寿命阶段样本较少以及不同寿命阶段样本数量不均等所造成的寿命阶段识别准确率较低问题,提供一种可以利用滚动轴承历史工况下的少量、非均等寿命阶段样本(即有类标签训练样本)来对当前待测样本进行较高精度的寿命阶段识别的基于MAMTL的滚动轴承寿命阶段识别方法。
本发明的目的是通过以下技术方案来实现的:基于MAMTL的滚动轴承寿命阶段识别方法,包括以下步骤:
S1、对滚动轴承的全寿命数据进行寿命阶段划分,将全寿命数据划分为正常阶段、早期退化阶段、中期退化阶段、完全失效阶段4个阶段;
S2、采集已经完成寿命阶段划分的滚动轴承全寿命阶段的振动加速度作为源域样本集SD,采集待识别的滚动轴承的振动加速度作为目标域样本集TD;
S3、训练MAMTL网络,MAMTL由内环平行网络、外环元学习网络和原型网络组成,内环平行网络和外环元学习网络均由相同的迁移学习网络构成,内环平行网络包括N个平行的迁移学习网络,用于完成N个训练任务;
训练MAMTL网络的具体方法为:
S31、训练内环平行网络参数:记内环平行网络的N个训练任务为T={Ti|i∈1,…,N};第i次训练任务开始时,随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域支持集和目标域支持集随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域查询集和目标域查询集将每个任务的支持集样本输入与任务对应的迁移学习网络提取到高维特征,然后构建支持集高维特征的损失函数,更新内环平行网络的参数;
S32、更新外环元学习网络参数:将每个任务的查询集输入更新参数后的内环平行网络的迁移学习网络中提取高维特征并计算高维特征损失函数,再将N个任务的高维特征损失函数的加权平均值作为外环元学习网络的总损失函数,优化外环元学习网络参数集,完成一次外环元学习网络的参数更新;
S33、重复S31~S32过程,直到外环元学习网络参数训练至收敛,完成外环元学习网络的预训练;
S34、计算目标域待测样本的伪标签:将源域有类标签样本和目标域待测样本输入预训练好的外环元学习网络得到各自的高维特征,然后由源域有类标签样本的高维特征得出每个类别的原型,最后计算目标域样本高维特征与每个原型的相似度以得到目标域样本的伪标签;
S35、外环元学习网络参数微调:由源域有类标签样本的高维特征和目标域待测样本的高维特征的分布差异度量函数与目标域待测样本的伪标签概率分布来共同构建MAMTL的总损失函数,将总损失函数训练至收敛,完成对外环元学习网络参数微调;
S4、识别目标域待测样本的类标签:用训练好的MAMTL完成对目标域待测样本的分类,即完成对滚动轴承的寿命阶段识别。
进一步地,所述步骤S31具体实现方法为:每个任务分别在具有相同初始值的内环平行网络中训练;每个内环平行网络由N个相同的迁移学习网络组成,令迁移学习网络的特征映射函数为F(·),参数集为θ,分布差异度量函数为G(·);
假设第m次训练时外环元学习网络的参数初始值集合为θm,将θm作为N个任务对应的迁移学习网络的参数初始值集合;在任务Ti中,先将支持集样本输入该任务所对应的迁移学习网络特征映射函数,以分别提取得到高维特征该过程表达如下:
提取到高维特征后,通过分布差异度量函数G(·)来构造如下支持集高维特征的损失函数:
得到支持集高维特征的损失函数后用随机梯度下降法对迁移学习网络的参数θm进行一次更新,该更新过程如下:
式中,α为内环平行网络参数的学习率;
接下来,再用分布差异度量函数来构建查询集高维特征的损失函数,得到:
将N个任务的查询集高维特征损失函数的加权平均值作为外环元学习网络的总损失函数L:
用得到的总损失函数来优化外环元学习网络的参数集θm,完成一次外环元学习网络的参数更新,该参数更新过程为:
式中,β为外环元学习网络参数的学习率;优化得到的参数集θm+1作为下一次训练时内环平行网络的参数初始值集。
进一步地,所述步骤S34具体实现方法为:得到预训练好的外环元学习网络参数集θn后,分别取K个有类标签的源域样本和K个无类标签目标域待测样本有类标签的源域样本对应的类标签为将有类标签的源域样本xS和无类标签目标域待测样本xT输入预训练好的外环元学习网络中得到高维特征分别为fS(θn)、fT(θn),该过程表达如下:
fS(θn)=F(xS,θn) (10)
fT(θn)=F(xT,θn) (11)
由以上两组高维特征值的分布差异度量函数来构造外环元学习网络的损失函数L(θn):
设源域和目标域全体样本一共有Q类,令Sq表示属于第q类标签的样本,其中q∈1,…,Q,nq表示属于第q类样本的数量;接下来,由源域有类标签样本的高维特征计算每一类的原型特征cq(θn):
接着,计算目标域待测样本的高维特征与式(13)所示原型特征的相似度,并选择相似度最大的那一类原型所对应的类标签作为目标域待测样本的预测伪标签,该过程表达如下:
式中,d(·)表示两个向量之间的相似度。
进一步地,所述步骤S35具体实现方法为:计算该目标域待测样本属于类标签qj的概率如下:
将所有目标域待测样本属于其对应的伪标签概率的负对数之和作为原型网络的损失函数,该损失函数推导如下:
整合外环元学习网络的损失函数L(θn)和原型网络的损失函数J(θn)来共同构建MAMTL的总损失函数如下:
式中,γ为外环元学习网络的平衡约束参数,用于约束外环元学习网络局部寻优行为。使用随机梯度下降法将MAMTL的总损失函数训练至收敛,完成对外环元学习网络的参数的微调,此时得到外环元学习网络对该任务的最优参数θ*,也即完成对MAMTL的训练。
本发明的有益效果是:
1、在本发明的MAMTL中,将与模型无关元学习和迁移学习相结合以实现多任务同步平行训练从而代替传统的迭代训练,以改善MAMTL的泛化性能。具体而言,MAMTL中的外环元学习网络每一次更新的参数都是由内环平行网络中多个任务的损失函数共同作用得到的全局最优解,所以以这个全局最优解作为外环元学习网络的起始点去学习新的任务时仅需要少量迭代次数就能使外环元学习网络达到收敛,即能又好又快地适应新的迁移学习任务,因此MAMTL具有良好泛化性和域适配性。
2、在MAMTL中构建了新型原型网络作为分类器,它将源域每一类别中所有的样本用一个原型表示,通过计算目标域待测样本与原型的相似度完成目标域待测样本的分类,这样避免了因源域不同类别样本数量的差异而造成对不同类别样本分类精度差别过大(即对少样本类别的样本的分类精度过低)问题;同时,在计算目标域待测样本与不同原型的相似度时没有参数学习的过程,所以在训练小样本情况下不会出现过拟合现象。
3、MAMTL在泛化能力、小样本跨域迁移(即跨域适配)性能、小样本和不均等样本条件下的分类性能等方面的优势使得它可以利用滚动轴承历史工况下的少量、非均等寿命阶段样本(即有类标签训练样本)来对当前待测样本进行较高精度的寿命阶段识别。
附图说明
图1是MAMTL的结构框架图;
图2是基于MAMTL的滚动轴承寿命阶段识别方法实现流程;
图3是空间滚动轴承振动监测平台,图3(a)是真空泵,图3(b)为真空泵内部实验台架;
图4是Cincinnati大学滚动轴承全寿命实验台;
图5是空间滚动轴承1的可靠度评估曲线;
图6是空间滚动轴承2的可靠度评估曲线;
图7是来自Cincinnati大学的第二组实验中1号滚动轴承的可靠度评估曲线;
图8是实验1对空间滚动轴承1寿命阶段的平均识别准确率的对比;
图9是实验1源域有类标签样本总数K=16时寿命阶段识别准确率;
图10是实验1对空间滚动轴承1寿命阶段的平均识别准确率的对比;
图11是实验1源域有类标签样本总数K=24时寿命阶段识别准确率;
图12是实验2对空间滚动轴承1寿命阶段的平均识别准确率的对比;
图13是实验2源域有类标签样本总数K=16时寿命阶段识别准确率;
图14是实验2对空间滚动轴承1寿命阶段的平均识别准确率的对比;
图15是实验2源域有类标签样本总数K=30时寿命阶段识别准确率。
具体实施方式
下面结合附图进一步说明本发明的技术方案。
本发明的MAMTL表示与模型无关元迁移学习(Model-Agnostic Meta-TransferLearning,MAMTL)。在MAMTL中,将与模型无关元学习和迁移学习相结合以实现多任务同步平行训练从而代替传统的迭代训练,多个任务损失函数利用不同工况下无类标签样本和历史工况下少量有类标签样本共同更新MAMTL网络参数,以寻求网络参数的全局最优解,这使MAMTL具有更好泛化能力,因此MAMTL在较少历史工况有类标签训练样本情况下比传统迁移学习具有更好的域适配性;在MAMTL中构建了新型原型网络以将历史工况每一类别的样本表示为一个原型,通过计算当前工况待测样本与原型的相似度完成当前工况待测样本分类,且该分类过程无需参数学习,因此可防止样本不均等情况下对于不同类别样本识别精度差距较大和在少有类标签训练样本情况下网络出现过拟合问题,从而更好提高分类精度。
MAMTL由内环平行网络、外环元学习网络和原型网络组成。内环平行网络和外环元学习网络都由相同的迁移学习网络构成。首先借助无类标签的源域和目标域样本来对内环平行网络进行同步训练得到多任务损失函数;然后通过多任务损失函数的共同作用来训练外环元学习网络得到该网络参数的全局最优解以作为该网络参数的初始值,这样使外环元学习网络具有更好的泛化能力;然后用目标域无类标签样本和少量的源域有类标签样本来参与训练外环元学习网络,以对外环元学习网络参数进行微调,使外环元学习网络具备小样本跨域迁移学习能力;最后用所构建的新型原型网络作为分类器,通过求目标域样本与每一类原型的相似度完成对目标域无类标签样本的类判别。MAMTL的结构框架如图1所示。
如图2所示,本发明的一种基于MAMTL的滚动轴承寿命阶段识别方法,包括以下步骤:
S1、对滚动轴承的全寿命数据进行寿命阶段划分,将全寿命数据划分为正常阶段、早期退化阶段、中期退化阶段、完全失效阶段4个阶段;
S2、采集已经完成寿命阶段划分的滚动轴承全寿命阶段的振动加速度作为源域样本集SD,采集待识别的滚动轴承的振动加速度作为目标域样本集TD;
有类标签就是已知寿命阶段的意思,无类标签就是寿命阶段未知的意思。已知寿命阶段的振动加速度样本就是有类标签样本,因此源域样本都是有类标签样本。而寿命阶段未知的振动加速度样本就是无类标签样本,目标域样本都是寿命阶段待识别(即寿命阶段未知)的样本,因此目标域样本都是无类标签样本。如果源域样本的类标签不被使用,那么源域样本也可以被视为无类标签样本。
S3、训练MAMTL网络,MAMTL由内环平行网络、外环元学习网络和原型网络组成,内环平行网络和外环元学习网络均由相同的迁移学习网络构成,内环平行网络包括N个平行的迁移学习网络,用于完成N个训练任务;
训练MAMTL网络的具体方法为:
S31、训练内环平行网络参数:记内环平行网络的N个训练任务为T={Ti|i∈1,…,N};第i次训练任务开始时,随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域支持集和目标域支持集随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域查询集和目标域查询集即 表示第i次循环任务中源域支持集中第j个无类标签样本,表示第i次循环任务中目标域支持集中第j个无类标签样本,表示第i次循环任务中源域查询集中第j个无类标签样本,表示第i次循环任务中目标域查询集中第j个无类标签样本;将每个任务的支持集样本输入与任务对应的迁移学习网络提取到高维特征,然后构建支持集高维特征的损失函数,更新内环平行网络的参数;
具体实现方法为:每个任务分别在具有相同初始值的内环平行网络中训练;每个内环平行网络由N个相同的迁移学习网络组成,令迁移学习网络的特征映射函数为F(·),参数集为θ,分布差异度量函数为G(·);
假设第m次训练时外环元学习网络的参数初始值集合为θm,将θm作为N个任务对应的迁移学习网络的参数初始值集合;在任务Ti中,先将支持集样本输入该任务所对应的迁移学习网络特征映射函数,以分别提取得到高维特征该过程表达如下:
提取到高维特征后,通过分布差异度量函数G(·)来构造如下支持集高维特征的损失函数:
通过该损失函数优化迁移学习网络参数以实现源域样本高维特征和目标域样本高维特征分布差异的最小化,实现从源域向目标域的跨域迁移;
得到支持集高维特征的损失函数后用随机梯度下降法对迁移学习网络的参数θm进行一次更新,该更新过程如下:
式中,α为内环平行网络参数的学习率;
S32、更新外环元学习网络参数:将每个任务的查询集输入更新参数后的内环平行网络的迁移学习网络中提取高维特征并计算高维特征损失函数,再将N个任务的高维特征损失函数的加权平均值作为外环元学习网络的总损失函数,优化外环元学习网络参数集,完成一次外环元学习网络的参数更新;具体实现方法为:将每个任务的查询集输入对应更新好参数的内环平行网络中以提取出高维特征,该过程表达如下:
接下来,再用分布差异度量函数来构建查询集高维特征的损失函数,得到:
将N个任务的查询集高维特征损失函数的加权平均值作为外环元学习网络的总损失函数L:
用得到的总损失函数来优化外环元学习网络的参数集θm,完成一次外环元学习网络的参数更新,该参数更新过程为:
式中,β为外环元学习网络参数的学习率;优化得到的参数集θm+1作为下一次训练时内环平行网络的参数初始值集。
S33、重复S31~S32过程,直到外环元学习网络参数训练至收敛,完成外环元学习网络的预训练;重复执行式(1)-式(9)的训练过程,直到将外环元学习网络参数训练至收敛,完成外环元学习网络的预训练。由于外环元学习网络每一次更新的参数都是由内环平行网络中多个任务的损失函数共同作用得到的全局最优解,所以以最后更新好的全局最优解(即预训练好的外环元学习网络参数集θn)作为外环元(迁移)学习网络的起始点(即初始值)去学习新的任务时仅需要少量迭代次数就能使外环元学习网络达到收敛,即又好又快地适应新的迁移学习任务,因此预训练好的外环元学习网络具有良好的泛化性能和域适配性。
S34、计算目标域待测样本的伪标签:将源域有类标签样本和目标域待测样本输入预训练好的外环元学习网络得到各自的高维特征,然后由源域有类标签样本的高维特征得出每个类别的原型,最后计算目标域样本高维特征与每个原型的相似度以得到目标域样本的伪标签;具体实现方法为:得到预训练好的外环元学习网络参数集θn后,分别取K个有类标签的源域样本和K个无类标签目标域待测样本有类标签的源域样本对应的类标签为将有类标签的源域样本xS和无类标签目标域待测样本xT输入预训练好的外环元学习网络中得到高维特征分别为fS(θn)、fT(θn),该过程表达如下:
fS(θn)=F(xS,θn) (10)
fT(θn)=F(xT,θn) (11)
由以上两组高维特征值的分布差异度量函数来构造外环元学习网络的损失函数L(θn):
设源域和目标域全体样本一共有Q类,令Sq表示属于第q类标签的样本,其中q∈1,…,Q,nq表示属于第q类样本的数量;接下来,由源域有类标签样本的高维特征计算每一类的原型特征cq(θn):
接着,计算目标域待测样本的高维特征与式(13)所示原型特征的相似度,并选择相似度最大的那一类原型所对应的类标签作为目标域待测样本的预测伪标签,该过程表达如下:
式中,d(·)表示两个向量之间的相似度。
S35、外环元学习网络参数微调:由源域有类标签样本的高维特征和目标域待测样本的高维特征的分布差异度量函数与目标域待测样本的伪标签概率分布来共同构建MAMTL的总损失函数,将总损失函数训练至收敛,完成对外环元学习网络参数微调;具体实现方法为:计算该目标域待测样本属于类标签qj的概率如下:
将所有目标域待测样本属于其对应的伪标签概率的负对数之和作为原型网络的损失函数,该损失函数推导如下:
整合外环元学习网络的损失函数L(θn)和原型网络的损失函数J(θn)来共同构建MAMTL的总损失函数如下:
式中,γ为外环元学习网络的平衡约束参数,用于约束外环元学习网络局部寻优行为。使用随机梯度下降法将MAMTL的总损失函数训练至收敛,完成对外环元学习网络的参数的微调,此时得到外环元学习网络对该任务的最优参数θ*,也即完成对MAMTL的训练。
S4、识别目标域待测样本的类标签:用训练好的MAMTL完成对目标域待测样本的分类,即完成对滚动轴承的寿命阶段识别。
为MAMTL构建的新型原型网络是将源域每一类别中所有的样本用一个原型表示,通过计算目标域待测样本与原型的相似度完成目标域待测样本的分类,这样可以避免因源域不同类别样本数量的差异而造成对不同类别样本分类精度差别过大(即对少样本类别的样本的分类精度过低)问题;同时,在计算目标域待测样本与不同原型的相似度时没有参数学习的过程,所以在训练小样本情况下不会出现过拟合现象。因此,MAMTL中的新型原型网络在源域有类标签训练样本很少情况下和不同类别训练样本不均等情况下对目标域待测样本仍有很高的分类精度。
下面通过实验进一步验证本发明的技术效果。
一、实验装置:实验数据主要来自自主搭建的空间滚动轴承振动监测平台上采集的地面模拟真空环境下空间滚动轴承寿命试验数据。该平台如图3所示,试验中对型号为C36018的空间滚动轴承1和2分别预加载大小为7kg的轴向载荷,并分别在1000rpm和3000rpm两种转速(即两种工况,如表1所示,这两种工况被标记为工况C1和工况C2)下运行至失效。采用压电式加速度传感器对这两个轴承进行振动监测并每隔2h采集一次它们的振动加速度信号,采样频率为25.6kHz。截取每1024个连续的振动加速度数据点作为一个样本,最终采集到这两个空间滚动轴承全寿命期的总样本个数均为744个。
实验中被标记为工况C3(如表1所示)的实验数据来自Cincinnati大学的滚动轴承全寿命试验数据。如图4所示,将四个型号为ZA-2115双列滚子轴承安装在轴承试验台的旋转轴上,使用转速为2000r/min的电机通过皮带驱动转轴,并通过弹簧机构在转轴和轴承上施加6000lbs的径向载荷,采样频率为20kHz,每10min采集一次轴承的振动加速度数据。对每次采集的加速度数据截取前1024个连续点作为一个样本,共获得984个样本。
表1实验工况表
在寿命阶段识别实验开始前需要对三个工况下的全寿命数据进行寿命阶段划分。首先对每个样本提取来自时域、频域和时频域的27个特征,然后用等度量映射(isomap)方法对提取的特征进行维数约简,获得1维的主特征,接着用威布尔分布(WeibullDistribution)模型对1维主特征构建可靠度评估曲线,得到三个工况下的(空间)滚动轴承的可靠度评估曲线分别如图5至图7所示,图5为空间滚动轴承1的可靠度评估曲线,图6为空间滚动轴承2的可靠度评估曲线,图7为来自Cincinnati大学的第二组实验中1号滚动轴承的可靠度评估曲线。根据可靠度评估曲线,将全寿命数据划分为正常阶段、早期退化阶段、中期退化阶段、完全失效阶段这4个阶段:由可靠度为0.9的时间点去划分正常阶段和早期退化阶段,该点也被视为空间滚动轴承精度失效阈值点;将可靠度为0.5的时间点作为划分早期退化阶段和中期退化阶段的分界点;将可靠度为0.1的时间点作为划分中期退化阶段和完全失效阶段的分界点。
二、MAMTL网络结构设计如下:内环平行网络和外环元学习网络的特征映射函数都采用五层的卷积神经网,分布差异度量函数采用联合概率分布函数,原型网络中的相似度函数采用余弦相似度。其中五层卷积神经网络具体配置如表2所示。
表2卷积神经网络结构表
层名 | 各层配置 |
卷积层1 | 卷积核尺寸为3×3 |
最大池化层1 | 核尺寸为2×2 |
卷积层2 | 卷积核尺寸为3×3 |
最大池化层2 | 核尺寸为2×2 |
卷积层3 | 卷积核尺寸为3×3 |
最大池化层3 | 核尺寸为2×2 |
卷积层4 | 卷积核尺寸为3×3 |
最大池化层4 | 核尺寸为2×2 |
卷积层5 | 卷积核尺寸为3×3 |
最大池化层5 | 核尺寸为2×2 |
MAMTL的参数设置如下:内环平行网络参数的学习率α=4e-2;外环元学习网络参数的学习率β=2e-4;外环元学习网络的平衡约束参数γ=0.5;每一次训练内环平行网络的任务数N=8。MAMTL的网络结构和参数设置好后,在以下所有实验中均维持不变。
三、实验1和分析对比:在本实验中,将工况C2下的正常状态阶段、早期退化阶段、中期退化阶段以及完全止动失效阶段的样本(即全寿命样本)作为源域样本来识别工况C1下的全寿命样本(即目标域样本)的寿命阶段(即:C2→C1)。实验之前,分别对空间轴承2和空间轴承1的每一寿命阶段各随机取80个样本作为用于实验的源域各寿命阶段的总样本和目标域各寿命阶段的总样本,即用于实验的源域总样本数和目标域总样本数分别为320个。
(1)在源域按照1:1:1:1的比例为每一寿命阶段取K/4个样本作为源域有类标签训练样本(即源域所有寿命阶段样本的总数为K,K≤320),目标域待测样本总数也为K。将每一个样本按其元素的先后顺序分段重组为相应的32×32的矩阵作为MAMTL的一个输入样本,然后依据第2节所示的空间滚动轴承寿命阶段识别实现流程来用所发明的基于MAMTL的寿命阶段识别方法进行(工况C1下)空间滚动轴承1的寿命阶段识别。这里将所发明的方法对当前目标域待测样本的四种寿命阶段识别准确率及平均识别准确率与其它三种迁移学习方法,即:深度领域自适应(DDC)、联合分布适配(JDA)、和改进迁移联合匹配(ETJM)进行了比较。为了降低随机性带来的误差,每种方法取20次实验结果的平均值作为其最后实验结果(下同)。随着源域有类标签训练样本总数的减少,寿命阶段平均识别准确率对比结果如图8所示;在源域有类标签样本总数K=16时,所发明的方法和三种被比较的方法的寿命阶段识别准确率如图9所示,图9中,每种方法从左到右五条柱状图分别为正常状态、早期退化阶段、中期退化阶段、完全失效阶段的识别准确率和平均准确率。
由对比结果可知,随着源域有类标签样本总数的减小,四种方法虽然由于训练都不充分导致它们的寿命阶段识别准确率都逐渐下降,但所发明的基于MAMTL的寿命阶段识别方法始终能得到比其他三种方法更高的寿命阶段识别精度。
(2)在源域中按照1:1:2:4的比例取正常阶段和早期退化阶段的样本数分别为K/8,取中期退化阶段样本数为2K/8,取完全失效阶段样本数为4K/8用作源域有标签样本(即源域所有寿命阶段样本的总数为K,K≤160),目标域待测样本总数也为K。将所发明的方法对当前目标域待测样本的四种寿命阶段识别准确率及平均识别准确率与其它三种迁移学习方法进行了比较。随着源域有类标签训练样本总数的减少,寿命阶段平均识别准确率对比结果如图10所示;在源域有类标签样本总数K=24时,本发明的方法和三种被比较的方法的寿命阶段识别准确率如图11所示。
由图10和11的对比结果可知,随着源域有类标签样本总数的减小以及源域不同类标签样本数变得不均等,四种方法由于训练都不充分、不均衡导致它们对四种寿命阶段的识别准确率及平均识别准确率都逐渐下降,但所发明的基于MAMTL的寿命阶段识别方法在源域少样本和非均等样本情况下得到的四种寿命阶段识别准确率及平均识别准确率分别总是比其他三种方法更高。
四、实验2和分析对比
在本实验中,将工况C3下的正常状态阶段、早期退化阶段、中期退化阶段以及完全止动失效阶段的样本(即全寿命样本)作为源域样本来识别工况C1下的全寿命样本(即目标域样本)的寿命阶段(即:C3→C1)。实验之前,分别对工况C3下的滚动轴承和工况C1下的空间轴承1的每一寿命阶段各随机取80个样本作为用于实验的源域各寿命阶段的总样本和目标域各寿命阶段的总样本,即用于实验的源域总样本数和目标域总样本数分别为320个。
(1)在源域按照1:1:1:1的比例为每一寿命阶段取K/4个样本作为源域有类标签训练样本(即源域所有寿命阶段样本的总数为K,K≤320),目标域待测样本总数也为K。将所发明的方法对当前目标域待测样本的四种寿命阶段识别准确率及平均识别准确率与其它三种迁移学习方法进行了比较。随着源域有类标签训练样本总数的减少,寿命阶段平均识别准确率对比结果如图12所示;在源域有类标签样本总数K=16时,所发明的方法和三种被比较的方法的寿命阶段识别准确率如图13所示。
对比结果表明即使源域有类标签样本总数逐渐减小,所发明的方法对四种寿命阶段的识别准确率及平均识别准确率也分别总是比其他三种被对比方法更高。
(2)在源域中按照4:3:2:1的比例取正常阶段的样本数为4K/10,取早期退化阶段的样本数为3K/10,取中期退化阶段为2K/10,取完全失效阶段样本数为K/10用作源域有类标签样本(即源域所有寿命阶段样本的总数为K,K≤200),目标域待测样本总数也为K。将所发明的方法对当前目标域待测样本的四种寿命阶段识别准确率及平均识别准确率与其它三种迁移学习方法进行了比较。随着源域有类标签训练样本总数的减少,寿命阶段平均识别准确率对比结果如图14所示;在源域有类标签样本总数K=30时,所发明的方法和三种被比较的方法的寿命阶段识别准确率如图15所示。
对比可知,即使源域有类标签样本总数逐渐减小以及源域不同类标签样本数变得不均等,所发明的方法对四种寿命阶段的识别准确率及平均识别准确率仍然分别比其他三种方法更高。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。
Claims (6)
1.基于MAMTL的滚动轴承寿命阶段识别方法,其特征在于,包括以下步骤:
S1、对滚动轴承的全寿命数据进行寿命阶段划分,将全寿命数据划分为正常阶段、早期退化阶段、中期退化阶段、完全失效阶段4个阶段;
S2、采集已经完成寿命阶段划分的滚动轴承全寿命阶段的振动加速度作为源域样本集SD,采集待识别的滚动轴承的振动加速度作为目标域样本集TD;
S3、训练MAMTL网络,MAMTL由内环平行网络、外环元学习网络和原型网络组成,内环平行网络和外环元学习网络均由相同的迁移学习网络构成,内环平行网络包括N个平行的迁移学习网络,用于完成N个训练任务;
训练MAMTL网络的具体方法为:
S31、训练内环平行网络参数:记内环平行网络的N个训练任务为T={Ti|i∈1,…,N};第i次训练任务开始时,随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域支持集和目标域支持集随机选取来自源域样本集SD的K个无类标签样本和来自目标域样本集TD的K个无类标签样本分别作为源域查询集和目标域查询集将每个任务的源域支持集和目标域支持集的样本输入与任务对应的迁移学习网络提取到高维特征,然后通过分布差异度量函数来构造源域支持集高维特征和目标域支持集高维特征的损失函数;更新内环平行网络的参数;
S32、更新外环元学习网络参数:将每个任务的源域查询集和目标域查询集的样本输入更新参数后的内环平行网络的迁移学习网络中提取高维特征,然后通过分布差异度量函数来计算源域查询集高维特征和目标域查询集高维特征的损失函数,再将N个任务的高维特征损失函数的加权平均值作为外环元学习网络的总损失函数,优化外环元学习网络参数集,完成一次外环元学习网络的参数更新;
S33、重复S31~S32过程,直到外环元学习网络参数训练至收敛,完成外环元学习网络的预训练;
S34、计算目标域待测样本的伪标签:分别取K个有类标签的源域样本和K个无类标签的目标域待检测样本,将源域有类标签样本和目标域待检测样本输入预训练好的外环元学习网络得到各自的高维特征,然后由源域有类标签样本的高维特征得出每个类别的原型,最后计算目标域样本高维特征与每个原型的相似度以得到目标域样本的伪标签;
S35、外环元学习网络参数微调:由源域有类标签样本的高维特征和目标域待测样本的高维特征的分布差异度量函数与目标域待测样本的伪标签概率分布来共同构建MAMTL的总损失函数,将总损失函数训练至收敛,完成对外环元学习网络参数的微调;
S4、识别目标域待测样本的类标签:用训练好的MAMTL完成对目标域待测样本的分类,即完成对滚动轴承的寿命阶段识别。
2.根据权利要求1所述的基于MAMTL的滚动轴承寿命阶段识别方法,其特征在于,所述步骤S31具体实现方法为:每个任务分别在具有相同初始值的内环平行网络中训练;每个内环平行网络由N个相同的迁移学习网络组成,令迁移学习网络的特征映射函数为F(·),参数集为θ,分布差异度量函数为G(·);
假设第m次训练时外环元学习网络的参数初始值集合为θm,将θm作为N个任务对应的迁移学习网络的参数初始值集合;在任务Ti中,先将支持集样本输入该任务所对应的迁移学习网络特征映射函数,以分别提取得到高维特征该过程表达如下:
提取到高维特征后,通过分布差异度量函数G(·)来构造如下支持集高维特征的损失函数:
得到支持集高维特征的损失函数后用随机梯度下降法对迁移学习网络的参数θm进行一次更新,该更新过程如下:
式中,α为内环平行网络参数的学习率;
接下来,再用分布差异度量函数来构建查询集高维特征的损失函数,得到:
将N个任务的查询集高维特征损失函数的加权平均值作为外环元学习网络的总损失函数L:
用得到的总损失函数来优化外环元学习网络的参数集θm,完成一次外环元学习网络的参数更新,该参数更新过程为:
式中,β为外环元学习网络参数的学习率;优化得到的参数集θm+1作为下一次训练时内环平行网络的参数初始值集。
4.根据权利要求3所述的基于MAMTL的滚动轴承寿命阶段识别方法,其特征在于,所述步骤S34具体实现方法为:得到预训练好的外环元学习网络参数集θn后,分别取K个有类标签的源域样本和K个无类标签目标域待测样本有类标签的源域样本对应的类标签为将有类标签的源域样本xS和无类标签目标域待测样本xT输入预训练好的外环元学习网络中得到高维特征分别为fS(θn)、fT(θn),该过程表达如下:
fS(θn)=F(xS,θn) (10)
fT(θn)=F(xT,θn) (11)
由以上两组高维特征值的分布差异度量函数来构造外环元学习网络的损失函数L(θn):
设源域和目标域全体样本一共有Q类,令Sq表示属于第q类标签的样本,其中q∈1,…,Q,nq表示属于第q类样本的数量;接下来,由源域有类标签样本的高维特征计算每一类的原型特征cq(θn):
接着,计算目标域待测样本的高维特征与式(13)所示原型特征的相似度,并选择相似度最大的那一类原型所对应的类标签作为目标域待测样本的预测伪标签,该过程表达如下:
式中,d(·)表示两个向量之间的相似度。
5.根据权利要求4所述的基于MAMTL的滚动轴承寿命阶段识别方法,其特征在于,所述步骤S35具体实现方法为:计算该目标域待测样本属于类标签qj的概率如下:
将所有目标域待测样本属于其对应的伪标签概率的负对数之和作为原型网络的损失函数,该损失函数推导如下:
整合外环元学习网络的损失函数L(θn)和原型网络的损失函数J(θn)来共同构建MAMTL的总损失函数如下:
式中,γ为外环元学习网络的平衡约束参数,用于约束外环元学习网络局部寻优行为;使用随机梯度下降法将MAMTL的总损失函数训练至收敛,完成对外环元学习网络的参数微调,此时得到外环元学习网络对该任务的最优参数θ*,也即完成对MAMTL的训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111515067.5A CN114202028B (zh) | 2021-12-13 | 2021-12-13 | 基于mamtl的滚动轴承寿命阶段识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111515067.5A CN114202028B (zh) | 2021-12-13 | 2021-12-13 | 基于mamtl的滚动轴承寿命阶段识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114202028A CN114202028A (zh) | 2022-03-18 |
CN114202028B true CN114202028B (zh) | 2023-04-28 |
Family
ID=80652782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111515067.5A Active CN114202028B (zh) | 2021-12-13 | 2021-12-13 | 基于mamtl的滚动轴承寿命阶段识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114202028B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116050613B (zh) * | 2023-01-06 | 2024-01-02 | 中国长江电力股份有限公司 | 水电机组顶盖排水泵剩余使用寿命预测方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019228358A1 (zh) * | 2018-05-31 | 2019-12-05 | 华为技术有限公司 | 深度神经网络的训练方法和装置 |
CN111639679A (zh) * | 2020-05-09 | 2020-09-08 | 西北工业大学 | 一种基于多尺度度量学习的小样本学习方法 |
CN111858991A (zh) * | 2020-08-06 | 2020-10-30 | 南京大学 | 一种基于协方差度量的小样本学习算法 |
CN112101220A (zh) * | 2020-09-15 | 2020-12-18 | 哈尔滨理工大学 | 一种无监督模型参数迁移的滚动轴承寿命预测方法 |
WO2021042935A1 (zh) * | 2019-09-05 | 2021-03-11 | 苏州大学 | 基于隐马尔科夫模型和迁移学习的轴承寿命预测方法 |
CN113095179A (zh) * | 2021-03-30 | 2021-07-09 | 西安交通大学 | 元度量学习驱动的直升机行星齿轮箱故障诊断方法 |
CN113139536A (zh) * | 2021-05-12 | 2021-07-20 | 哈尔滨工业大学(威海) | 一种基于跨域元学习的文本验证码识别方法、设备及存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107944049A (zh) * | 2017-12-19 | 2018-04-20 | 北京工业大学 | 一种基于深度学习的电影推荐方法 |
US11829869B2 (en) * | 2018-07-25 | 2023-11-28 | Servicenow Canada Inc. | Multiple task transfer learning |
US20210110306A1 (en) * | 2019-10-14 | 2021-04-15 | Visa International Service Association | Meta-transfer learning via contextual invariants for cross-domain recommendation |
CN110751207B (zh) * | 2019-10-18 | 2022-08-05 | 四川大学 | 基于深度卷积域对抗迁移学习的故障诊断方法 |
US20210174204A1 (en) * | 2019-12-09 | 2021-06-10 | Salesforce.Com, Inc. | System and method for natural language processing using neural network |
CN112215280B (zh) * | 2020-10-12 | 2022-03-15 | 西安交通大学 | 一种基于元骨干网络的小样本图像分类方法 |
CN112734049A (zh) * | 2020-11-23 | 2021-04-30 | 西湖大学 | 一种基于域自适应的多初始值元学习框架及方法 |
CN112754473A (zh) * | 2021-01-08 | 2021-05-07 | 华中科技大学鄂州工业技术研究院 | 一种融合迁移学习算法的跌倒检测的自发热下装及方法 |
CN112765890B (zh) * | 2021-01-26 | 2023-02-10 | 西安电子科技大学 | 基于动态域适应网络的多工况旋转机械剩余寿命预测方法 |
CN113205528B (zh) * | 2021-04-02 | 2023-07-07 | 上海慧虎信息科技有限公司 | 医学影像分割模型训练方法、分割方法及装置 |
CN113095575B (zh) * | 2021-04-16 | 2022-04-29 | 清华大学深圳国际研究生院 | 一种基于迁移学习的车流量预测方法和系统 |
CN113469219B (zh) * | 2021-06-08 | 2022-08-30 | 中国地质大学(武汉) | 基于元迁移学习的复杂工况下的旋转机械故障诊断方法 |
CN113567130A (zh) * | 2021-07-28 | 2021-10-29 | 江南大学 | 基于设备多工况的轴承故障诊断方法 |
CN113723489A (zh) * | 2021-08-24 | 2021-11-30 | 哈尔滨理工大学 | 一种改进关系网络的滚动轴承故障识别方法 |
-
2021
- 2021-12-13 CN CN202111515067.5A patent/CN114202028B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019228358A1 (zh) * | 2018-05-31 | 2019-12-05 | 华为技术有限公司 | 深度神经网络的训练方法和装置 |
WO2021042935A1 (zh) * | 2019-09-05 | 2021-03-11 | 苏州大学 | 基于隐马尔科夫模型和迁移学习的轴承寿命预测方法 |
CN111639679A (zh) * | 2020-05-09 | 2020-09-08 | 西北工业大学 | 一种基于多尺度度量学习的小样本学习方法 |
CN111858991A (zh) * | 2020-08-06 | 2020-10-30 | 南京大学 | 一种基于协方差度量的小样本学习算法 |
CN112101220A (zh) * | 2020-09-15 | 2020-12-18 | 哈尔滨理工大学 | 一种无监督模型参数迁移的滚动轴承寿命预测方法 |
CN113095179A (zh) * | 2021-03-30 | 2021-07-09 | 西安交通大学 | 元度量学习驱动的直升机行星齿轮箱故障诊断方法 |
CN113139536A (zh) * | 2021-05-12 | 2021-07-20 | 哈尔滨工业大学(威海) | 一种基于跨域元学习的文本验证码识别方法、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114202028A (zh) | 2022-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108344564B (zh) | 一种基于深度学习的主轴特性试验台状态识别及预测方法 | |
CN109918752B (zh) | 基于迁移卷积神经网络的机械故障诊断方法、设备及介质 | |
CN111458142B (zh) | 基于生成对抗网络和卷积神经网络的滑动轴承故障诊断方法 | |
CN112308147B (zh) | 基于多源域锚适配器集成迁移的旋转机械故障诊断方法 | |
Wang et al. | Conditionsensenet: A deep interpolatory convnet for bearing intelligent diagnosis under variational working conditions | |
CN113255432B (zh) | 基于深度神经网络与流形对齐的汽轮机振动故障诊断方法 | |
CN113008559B (zh) | 基于稀疏自编码器和Softmax的轴承故障诊断方法及系统 | |
CN115270956A (zh) | 基于持续学习的跨设备增量轴承故障诊断方法 | |
CN113268833B (zh) | 一种基于深度联合分布对齐的迁移故障诊断方法 | |
CN112132102B (zh) | 一种深度神经网络结合人工蜂群优化的智能故障诊断方法 | |
CN114202028B (zh) | 基于mamtl的滚动轴承寿命阶段识别方法 | |
CN111898686A (zh) | 基于门控循环单元网络的轴承故障识别方法 | |
CN114297918A (zh) | 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 | |
CN114548152A (zh) | 一种基于迁移学习的船用滑动轴承剩余寿命预测方法 | |
JP2024509741A (ja) | パーツ、センサ、および計測データ統合 | |
CN114216682A (zh) | 一种基于tcn和bls的滚动轴承的寿命预测方法及装置 | |
CN113887342A (zh) | 基于多源信号和深度学习的设备故障诊断方法 | |
Zhou et al. | Fault detection of rolling bearing based on FFT and classification | |
CN116108346A (zh) | 一种基于生成特征重放的轴承增量故障诊断终身学习方法 | |
Kamat et al. | Bearing fault detection using comparative analysis of random forest, ANN, and autoencoder methods | |
Wang et al. | Fault diagnosis of industrial robots based on multi-sensor information fusion and 1D convolutional neural network | |
Saufi et al. | Machinery fault diagnosis based on a modified hybrid deep sparse autoencoder using a raw vibration time-series signal | |
Huo et al. | A class-level matching unsupervised transfer learning network for rolling bearing fault diagnosis under various working conditions | |
CN114564987A (zh) | 一种基于图数据的旋转机械故障诊断方法及系统 | |
CN112200251A (zh) | 一种基于多尺度卷积神经网络的监测系统数据评估方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |