CN113705869A - 无监督元学习网络的机电设备少样本退化趋势预测方法 - Google Patents
无监督元学习网络的机电设备少样本退化趋势预测方法 Download PDFInfo
- Publication number
- CN113705869A CN113705869A CN202110942643.8A CN202110942643A CN113705869A CN 113705869 A CN113705869 A CN 113705869A CN 202110942643 A CN202110942643 A CN 202110942643A CN 113705869 A CN113705869 A CN 113705869A
- Authority
- CN
- China
- Prior art keywords
- degradation
- unsupervised
- training
- meta
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000006731 degradation reaction Methods 0.000 title claims abstract description 66
- 230000015556 catabolic process Effects 0.000 title claims abstract description 65
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000012549 training Methods 0.000 claims description 40
- 238000012360 testing method Methods 0.000 claims description 24
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 9
- 238000001228 spectrum Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 claims description 7
- 238000009826 distribution Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 238000007781 pre-processing Methods 0.000 claims description 4
- 238000012546 transfer Methods 0.000 claims description 4
- 230000004931 aggregating effect Effects 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000013213 extrapolation Methods 0.000 claims description 3
- 238000012847 principal component analysis method Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 2
- 230000001186 cumulative effect Effects 0.000 claims description 2
- 239000006185 dispersion Substances 0.000 claims description 2
- 238000012544 monitoring process Methods 0.000 claims description 2
- 238000005192 partition Methods 0.000 claims description 2
- 238000000513 principal component analysis Methods 0.000 claims description 2
- 230000009467 reduction Effects 0.000 claims description 2
- 238000011156 evaluation Methods 0.000 abstract description 6
- 230000005284 excitation Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000011160 research Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 230000003197 catalytic effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012733 comparative method Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000007850 degeneration Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000004821 distillation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000005461 lubrication Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003754 machining Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000002002 slurry Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Evolutionary Biology (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Probability & Statistics with Applications (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种无监督元学习网络的机电设备少样本退化趋势预测方法，涉及机电设备的服役性能评估及预测技术领域，解决了现有元学习方法普遍依靠有标签样本支撑而难以直接应用于标签稀缺的历史数据中的技术问题，其技术方案要点是通过聚合每一个内回路的训练过程，将每一个训练集的支撑集训练得到的模型参数再通过测试集的支撑集进行跨任务间的外回路优化、训练，最终生成无监督元学习代理模型；有效重构了经典深度循环网络，使其在少样本激励下具有显著泛化能力，在历史大样本数据与非充分的带预测样本间建立联接并有效解决了历史无标签数据标签化的难题。
Description
技术领域
本申请涉及机电设备的服役性能评估及预测技术领域，尤其涉及一种无监督元学习网络的机电设备少样本退化趋势预测方法。
背景技术
机电设备广泛存在于航空装备、卫星制造与应用、轨道交通设备制造、海洋工程装备制造、数控加工制造以及流程工业等高端智能制造应用场景，其故障导致的事故停机往往造成重大经济损失和恶劣社会影响甚至人员伤亡等，对其进行有效的退化趋势预测、健康评估能够规避未知风险，降低经济财产损失，具有重大科学研究价值。
近年来，基于数据驱动的方法(Data-driven methods)因其灵活的建模特性且无需先验知识的特点，已被广泛应用于机械系统在线监测、故障诊断以及健康评估研究及应用中。其中深度学习(Deep learning)方法凭借其出色的非线性特征提取以及数据挖掘能力，在数据量充足的情况下表现出强大的预测、评估能力，这种基于“训练样本—生成模型”的预测架构对于数据的质量以及规模具有严苛条件。工业现场中变转速、变负载等现象频发，采集完备退化样本库无疑需要消耗大量人力物力。因此，上述预测思路虽具有理论可行性，但实际应用中代价过大，且难以解决样本不充分情况下的高精度跨工况预测、评估问题。
元学习(meta learning)旨在抽象一种通用知识并高效适应新任务的能力，有望充分理解退化过程机制和该机制与具体适用背景间的相互作用关系，为少样本下快速迁移、适应提供可能。元学习方法的提出有效解决了机器学习领域中少样本学习问题(fewshots learning)，该难题也广泛存在于实际工程中，尤其是退化数据不充分且标签稀缺的高端装备行业。然而现有元学习方法普遍依靠有标签样本支撑，难以直接应用于标签稀缺的历史数据中。因此，深入研究元学习方法的无监督形式对于解决历史数据标签稀缺情况下的少样本退化趋势预测具有重要研究与实际应用价值。
发明内容
本申请提供了一种无监督元学习网络的机电设备少样本退化趋势预测方法，其技术目的是在历史数据标签稀缺情况下实现少样本退化趋势预测。
本申请的上述技术目的是通过以下技术方案得以实现的：
一种无监督元学习网络的机电设备少样本退化趋势预测方法，包括：
S1:通过压电式加速度计采集机电设备振动信号，对所述振动信号进行预处理；
S2:对预处理后的所述振动信号进行退化特征提取，包括：分别提取有量纲、无量纲的时域特征和频域特征，形成高维的时域特征、频域特征的退化特征矩阵；
S3:对所述退化特征矩阵进行归一化处理，通过主元分析法对归一化后的退化特征矩阵进行退化指标提取，所述退化指标即贡献率最大的主元分量；
S4:对训练集和测试集进行划分得到各自的子任务集，则所述训练集的每一个子任务集中都包括互不交叉的第一支撑集和第一查询集，所述测试集的每一个子任务集中都包括互不交叉的第二支撑集和第二查询集；所述训练集为无标签历史样本，所述测试集为待预测样本；
S5：将所述退化指标投入到嵌入自动聚类分配模块的基础网络模型，完成对所述退化指标的有监督化，监督化后的所述退化指标对所述第一支撑集进行有监督化，监督化后的所述第一支撑集进行基于误差反向传递的内回路训练；其中，所述基础网络模型为具有外推结构的门控循环单元；
S6:聚合每一个内回路的训练过程，将每一个所述第一支撑集训练得到的模型参数再通过所述第二支撑集进行跨任务间的外回路优化、训练，得到任务间元参数Ψ，最终生成易于泛化的第一无监督元学习代理模型；
S7:使用所述第一查询集对所述第一无监督元学习代理模型进行基于梯度反向传递的模型参数调整，得到参数调整后的第二无监督学习代理模型；最终将所述第二查询集投入到所述第二无监督学习代理模型进行退化趋势预测。
本申请的有益效果在于：
(1)本申请所述的无监督元学习网络的机电设备少样本退化趋势预测方法是首次在机电设备寿命预测、健康评估领域引入无监督元学习思想，为数据驱动健康评估研究提供了崭新的研究方向与解决思路；
(2)本申请能够高效整合无监督学习、迁移学习，以及少样本学习实现标签稀疏、且样本非充分条件下的跨工况高精度预测评估；
(3)有效重构了经典深度循环网络，使其在少样本激励下具有显著泛化能力，在历史大样本数据与非充分的带预测样本间建立联接并有效解决了历史无标签数据标签化的难题。
附图说明
图1是本申请方法的实施流程图；
图2是本申请中石油化工泵设备采集的两组振动原始信号；
图3是本申请中所提出的无监督元学习网络unsupervised meta GRU的结构逻辑图；
图4是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在石油化工泵设备P1021B数据集的多次预测结果示意图；
图5是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在石油化工泵设备P2209C数据集的多次预测结果示意图；
图6是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在不同容量的无监督历史样本下，预测P1021B数据退化趋势的误差图；
图7是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在不同容量的无监督历史样本下，预测P2209C数据退化趋势的误差图；
图8是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在不同子任务个数下，使用P1021B数据的计算时间与预测误差情况示意图；
图9是本申请提出的少样本退化趋势预测方法unsupervised meta GRU在不同子任务个数下，使用P2209C数据的计算时间与预测误差情况示意图。
具体实施方式
下面将结合附图对本申请技术方案进行详细说明。
图1为本申请所述无监督元学习网络的机电设备少样本退化趋势预测方法的流程图，作为具体实施例地，本申请包括如下步骤：
S1:通过压电式加速度计采集机电设备振动信号，对所述振动信号进行预处理。
本实例通过压电式加速度计采集两组石油化工泵运行至故障时的振动信号进行分析，其中P1021B属于蒸馏设备，P2209C属于催化装置。它们的原始信号及运行工况简介参见图2和表1。随后初步对采集的振动信号进行频域降噪剔除原始信号中的高频成分，并基于滑动窗3-σ方法剔除原始信号中的奇异值点、离群点等。
表1石油化工泵P1021B和P2209C的运行工况简介
| 参数 | 值 | 参数 | 值 |
| 转速 | 2980r/min | 介质 | 催化油浆 |
| 采样频率 | 2560Hz | 润滑 | 稀油 |
| 传感器位置 | 电机驱动端 | 待测轴承型号 | SKF6215 |
S2:对预处理后的所述振动信号进行退化特征提取，包括：分别提取有量纲、无量纲的时域特征和频域特征，形成高维的时域特征、频域特征的退化特征矩阵，计算公式如下：
平均值：
标准差：
平方根振幅：
绝对平均值：
偏度：
峰度：
方差：
最大值：DF8＝max|x(n)|；最小值：DF9＝min|x(n)|；峰均值：DF10＝DF8-DF9；均方根：
波形指数：
峰值指数：
脉冲指数：
裕度指数：
偏度指数：
峰度指数：
其中，x(n)表示预处理后的振动信号，n＝1,2,...,N；N表示信号长度。
有量纲、无量纲的频域特征的统计学参数包括：
其中，y(k)是给定信号的快速傅里叶频谱，fk则对应于第k个频谱的频率值，K表示总的频谱数量，DF18在频域上反映振动能量，DF19～DF21、DF23和DF27～DF30描述频谱的集中和离散程度，DF22和DF24～DF26表示主频带的位置变化。
则得到高维的时域特征、频域特征的特征矩阵为DF，即：
其中，M＝30；T表示时间总量。
S3:对所述退化特征矩阵进行归一化处理，通过主元分析法对归一化后的退化特征矩阵进行退化指标提取，所述退化指标即贡献率最大的主元分量。
具体包括：
S31：通过归一化函数将退化特征矩阵DF中的每一个退化特征归一化至(-1,1)之间，得到归一化后的退化特征矩阵DF*。
S32：对所述DF*进行主元分析提取主元分量[Y1，Y2，...,Yp]T，则有：
得到特征分量分别为[αj1,αj2,...,αjM]和λj,j∈[1,p]，则得到第i个主元分量的累计贡献量CCR(i)，并选择CCR(i)最大的主元分量为退化指标；
其中，
S4:对训练集和测试集进行划分得到各自的子任务集，则所述训练集的每一个子任务集中都包括互不交叉的第一支撑集和第一查询集，所述测试集的每一个子任务集中都包括互不交叉的第二支撑集和第二查询集；所述训练集为无标签历史样本，所述测试集为待预测样本。
训练集包括Q1组子任务集，测试集包括Q2组子任务集，则有
Dtrain表示训练集，Dtest表示测试集，
表示第一支撑集，
表示第一查询集，
表示第二支撑集，
表示第二查询集，则训练集的子任务集TQ1＝{Loss(θ,Dtrain),Q1}，测试集的子任务集TQ2＝{Loss(θ,Dtest),Q2}。其中，Q1和Q2的取值主要通过权衡预测精度与计算效率得到，这里取50，如表2所示。每一个子任务集中包含互不交叉的支撑集Dsupport和查询集Dquery，分别用以在双回路预测方法中实现训练、微调以及预测的功能。
表2本发明中无监督元学习网络的预设参数
S5：将所述退化指标投入到嵌入自动聚类分配模块的基础网络模型(其详细参数见表1)，完成对所述退化指标的有监督化，监督化后的所述退化指标对所述第一支撑集进行有监督化，监督化后的所述第一支撑集进行基于误差反向传递的内回路训练，如图3所示；其中，所述基础网络模型为具有外推结构的门控循环单元(GRU，gated recurrentunit)。
监督化的过程就是聚类的过程，整个内回路包含多个子任务，每个子任务都要进行基于基础网络模型的训练，而在训练之前，都要借助监督化的过程实现伪标签的生成，这样才有输入输出对投入到基础网络模型进行训练。
具体地，对划分的每一子任务，同时进行基于误差反向传递的内回路的训练如图3所示，并嵌入自动聚类分配模块：k均值聚类，实现无标签历史数据的有监督化，包含如下基本步骤如下：
S51：所述自动聚类分配模块对TQ1中的各子任务进行无标签历史数据的有监督化(训练集本身为无标签历史数据，所以需要对训练集中的子任务进行监督化)，即：
其中，x(t)表示待聚类数据，μ(m)表示聚类质心，μ*，(m)表示最终聚类质心，伪标签
是通过迭代更新后的最终聚类质心μ*，(m进行估计得到的。
S52：通过TQ1中监督化后的第一支撑集对内回路模型进行梯度寻优，并得到更新后的模型参数Φl，即：
其中，β表示内回路学习率；
表示第一支撑集中第l个子任务，l为正整数，且l∈(0，Q1]。
则内回路采用的损失函数Loss表示为：
其中，
即
和
分别为模型预测标签和自动聚类分配模块生成的伪标签，λ作为惩罚系数来协调有监督与无监督损失在Loss中的占比，S＝{S1,S2,…,Sk}为聚类模块中原始观察的k个分区，μi′则代表每一Si′中的聚类中心点。
S6:聚合每一个内回路的训练过程，将每一个所述第一支撑集训练得到的模型参数再通过所述第二支撑集进行跨任务间的外回路优化、训练，得到任务间元参数Ψ，最终生成易于泛化的第一无监督元学习代理模型。
则第一无监督元学习代理模型的损失函数为：
其中，
表示第二支撑集中第l′个子任务，l′为正整数，且l′∈(0，Q2]；Φl′表示通过所述第二支撑集进行跨任务间的外回路优化、训练后得到的模型参数。
S7:使用所述第一查询集对所述第一无监督元学习代理模型进行基于梯度反向传递的模型参数调整，得到参数调整后的第二无监督学习代理模型；最终将所述第二查询集投入到所述第二无监督学习代理模型进行退化趋势预测。
具体包括：
S71：通过第一查询集对所述第一无监督元学习代理模型进行基于梯度反向传递的模型参数调整，即：
其中，α表示在线微调学习率；θagent表示所述第一无监督元学习代理模型；
表示第一查询集中第l个子任务。
S72：通过第二查询集对参数调整后的第二无监督学习代理模型进行退化趋势预测。
为全面测试本申请提出的无监督元学习网络的有效性，分别对不同预测起始点q以及不同比例的在线微调数据量d进行了多次实验，其中q和d分别设置了3种和5类测试取值，分别如表2所示，跨工况交叉预测结果如图4，图5所示。不难发现，本申请提出的无监督元学习网络(unsupervised meta GRU)能够在无标签比例p＝80％(训练集)下，实现较高精度的退化趋势预测。
作为具体实施例地，为测试本申请所述方法在无监督特性的优势以及不同子任务个数M对于最终预测性能的影响，分别对P1021B以及P2209C数据集进行不同等级无标签比例p(p＝40％，60％和80％)和不同子任务个数M(M＝5，25，50，75，100和125)的预测对比实验。关于参数P的讨论详细预测误差如图6，图7所示。由此可见，无标签比例p值具有一定的参数稳健性，即三种不同取值对于最终预测性能影响弱于不同预测起始点q和不同比例的在线微调数据量d。关于参数M的讨论如图8，图9所示(其中q＝0.6，d＝1/50，p＝0.8)。不难发现，随着M的增大，训练时长不断增加且带来的预测精度提升甚微，介于此本申请最终选择M＝50作为图4和图5中的预设参数。
为进一步凸显本申请所述方法对比其他现有预测技术的优势，分别构造三种对比方法：ComparisonⅠ，整个退化评估依赖于标准GRU模型。伪标签分配与预后建模过程分开。它们是在训练GRU之前通过K均值独立生成的；ComparisonⅡ，整个退化评估取决于提出的双回路学习架构，而聚类分配模块与内循环学习分离，其中伪标签通过k均值在模型训练之前独立生成；ComparisonⅢ，整个退化评估还取决于提出的双回路学习架构，而这里使用的基本模型是多层全连接网络而非GRU。三种对比方法的详细参数设定如表3所示。其中包括退化指标的输入，预测时刻q，在线微调数据量d以及无监督样本比例p均与本发明提出的无监督元学习网络设定保持一致。
表3三种对比方法的详细参数设定
分别对ComparisonⅠ，ComparisonⅡ，ComparisonⅢ以及Unsupervised meta GRU(本发明提出的少样本退化趋势预测方法)进行20次重复测试以抵消预测结果的偶然性，实验结果如表4和表5所示。其中n1为输入聚类的数据维度，l为输入数据长度，n为输入基础模型数据的维度，n2为基础模型(GRU)的网络节点数，n3为多层网络节点数，l′为正整数，且l′∈(0，Q2]。本发明提出的少样本退化趋势预测方法在样本不充分的迁移预测实验中具有较高的预测精度，与此同时所消耗的计算资源也相对较大。
表4本发提出的少样本预测方法在预测误差上与对比方法的比较
表5本发提出的少样本预测方法在计算效率上与对比方法的比较
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围内。
Claims (8)
1.一种无监督元学习网络的机电设备少样本退化趋势预测方法，其特征在于，包括：
S1：通过压电式加速度计采集机电设备振动信号，对所述振动信号进行预处理；
S2：对预处理后的所述振动信号进行退化特征提取，包括：分别提取有量纲、无量纲的时域特征和频域特征，形成高维的时域特征、频域特征的退化特征矩阵；
S3：对所述退化特征矩阵进行归一化处理，通过主元分析法对归一化后的退化特征矩阵进行退化指标提取，所述退化指标即贡献率最大的主元分量；
S4：对训练集和测试集进行划分得到各自的子任务集，则所述训练集的每一个子任务集中都包括互不交叉的第一支撑集和第一查询集，所述测试集的每一个子任务集中都包括互不交叉的第二支撑集和第二查询集；所述训练集为无标签历史样本，所述测试集为待预测样本；
S5：将所述退化指标投入到嵌入自动聚类分配模块的基础网络模型，完成对所述退化指标的有监督化，监督化后的所述退化指标对所述第一支撑集进行有监督化，监督化后的所述第一支撑集进行基于误差反向传递的内回路训练；其中，所述基础网络模型为具有外推结构的门控循环单元；
S6：聚合每一个内回路的训练过程，将每一个所述第一支撑集训练得到的模型参数再通过所述第二支撑集进行跨任务间的外回路优化、训练，得到任务间元参数ψ，最终生成易于泛化的第一无监督元学习代理模型；
S7：使用所述第一查询集对所述第一无监督元学习代理模型进行基于梯度反向传递的模型参数调整，得到参数调整后的第二无监督学习代理模型；最终将所述第二查询集投入到所述第二无监督学习代理模型进行退化趋势预测。
2.如权利要求1所述的方法，其特征在于，步骤S1中，对所述振动信号进行预处理，包括：通过频域降噪剔除所述振动信号中的高频成分，并基于滑动窗3-σ方法剔除所述振动信号中的奇异值点和离群点。
3.如权利要求2所述的方法，其特征在于，步骤S2中，有量纲、无量纲的时域特征的统计学参数包括：
平均值：
标准差：
平方根振幅：
绝对平均值：
偏度：
峰度：
方差：
最大值：DF8＝max|x(n)|；最小值：DF9＝min|x(n)|；峰均值：DF10＝DF8-DF9；均方根：
波形指数：
峰值指数：
脉冲指数：
裕度指数：
偏度指数：
峰度指数：
其中，x(n)表示预处理后的振动信号，n＝1，2，...，N；N表示信号长度；
有量纲、无量纲的频域特征的统计学参数包括：
其中，y(k)是给定信号的快速傅里叶频谱，fk则对应于第k个频谱的频率值，K表示总的频谱数量，DF18在频域上反映振动能量，DF19～DF21、DF23和DF27～DF30描述频谱的集中和离散程度，DF22和DF24～DF26表示主频带的位置变化；
则得到高维的时域特征、频域特征的特征矩阵为DF，即：
其中，M＝30；T表示时间总量。
4.如权利要求3所述的方法，其特征在于，所述步骤S3包括：
S31：通过归一化函数将退化特征矩阵DF中的每一个退化特征归一化至(-1，1)之间，得到归一化后的退化特征矩阵DF*；
S32：对所述DF*进行主元分析提取主元分量[Y1，Y2，...，Yp]T，则有：
得到特征分量分别为[αj1，αj2，...，αjM]和λj，j∈[1，p]，则得到第i个主元分量的累计贡献量CCR(i)，并选择CCR(i)最大的主元分量为退化指标；
其中，
i∈[1，p]。
5.如权利要求4所述的方法，其特征在于，步骤S4中，训练集包括Q1组子任务集，测试集包括Q2组子任务集，则有
Dtrain表示训练集，Dtest表示测试集，
表示第一支撑集，
表示第一查询集，
表示第二支撑集，
表示第二查询集，则训练集的子任务集TQ1＝{Loss(e，Dtrain)，Q1}，测试集的子任务集TQ2＝{Loss(θ，Dtest)，Q2}。
6.如权利要求5所述的方法，其特征在于，步骤S5包括：
S51：所述自动聚类分配模块对TQ1中的各子任务进行无标签历史数据的有监督化，即：
其中，x(t)表示待聚类数据，μ(m)表示聚类质心，μ*’(m)表示最终聚类质心，伪标签
是通过迭代更新后的最终聚类质心μ*，(m)进行估计得到的；
S52：通过TQ1中的监督化后的第一支撑集对内回路模型进行梯度寻优，并得到更新后的模型参数Φl，即：
其中，β表示内回路学习率；
表示第一支撑集中第l个子任务，l为正整数，且l∈(0，Q1]；则内回路采用的损失函数Loss表示为：
其中，
即
和
分别为模型预测标签和自动聚类分配模块生成的伪标签，λ作为惩罚系数来协调有监督与无监督损失在Loss中的占比，S＝{S1，S2，…，Sk}为聚类模块中原始观察的k个分区，μi′则代表每一Si′中的聚类中心点。
7.如权利要求6所述的方法，其特征在于，步骤S6中，所述第一无监督元学习代理模型的损失函数为：
其中，
表示第二支撑集中第l′个子任务，l′为正整数，且l′∈(0，Q2]；Φl′表示通过所述第二支撑集进行跨任务间的外回路优化、训练后得到的模型参数。
8.如权利要求7所述的方法，其特征在于，步骤S7包括：
S71：通过第一查询集对所述第一无监督元学习代理模型进行基于梯度反向传递的模型参数调整，即：
S72：通过第二查询集对参数调整后的第二无监督学习代理模型进行退化趋势预测；
其中，α表示在线微调学习率；θagent表示所述第一无监督元学习代理模型；
表示第一查询集中第l个子任务。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110942643.8A CN113705869B (zh) | 2021-08-17 | 2021-08-17 | 无监督元学习网络的机电设备少样本退化趋势预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110942643.8A CN113705869B (zh) | 2021-08-17 | 2021-08-17 | 无监督元学习网络的机电设备少样本退化趋势预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113705869A true CN113705869A (zh) | 2021-11-26 |
| CN113705869B CN113705869B (zh) | 2022-11-04 |
Family
ID=78653006
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110942643.8A Active CN113705869B (zh) | 2021-08-17 | 2021-08-17 | 无监督元学习网络的机电设备少样本退化趋势预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113705869B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115868940A (zh) * | 2023-02-27 | 2023-03-31 | 安徽通灵仿生科技有限公司 | 一种基于iabp的生理信号质量评估方法及装置 |
| CN116680554A (zh) * | 2023-06-19 | 2023-09-01 | 扬州大学 | 一种基于概率化元学习模型的旋转机械寿命预测方法 |
| CN117671673A (zh) * | 2023-11-21 | 2024-03-08 | 江南大学 | 一种基于自适应张量子空间的小样本宫颈细胞分类方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111695209A (zh) * | 2020-05-13 | 2020-09-22 | 东南大学 | 元深度学习驱动的旋转机械小样本健康评估方法 |
| WO2021022572A1 (zh) * | 2019-08-07 | 2021-02-11 | 南京智谷人工智能研究院有限公司 | 一种基于元学习的主动采样方法 |
| CN112861995A (zh) * | 2021-03-15 | 2021-05-28 | 中山大学 | 基于模型无关元学习的无监督少样本图像分类方法、系统及存储介质 |
| US20210174262A1 (en) * | 2019-12-10 | 2021-06-10 | Beihang University | Deep unsupervised learning approach , device and storage medium for airspace complexity evaluation |
-
2021
- 2021-08-17 CN CN202110942643.8A patent/CN113705869B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021022572A1 (zh) * | 2019-08-07 | 2021-02-11 | 南京智谷人工智能研究院有限公司 | 一种基于元学习的主动采样方法 |
| US20210174262A1 (en) * | 2019-12-10 | 2021-06-10 | Beihang University | Deep unsupervised learning approach , device and storage medium for airspace complexity evaluation |
| CN111695209A (zh) * | 2020-05-13 | 2020-09-22 | 东南大学 | 元深度学习驱动的旋转机械小样本健康评估方法 |
| CN112861995A (zh) * | 2021-03-15 | 2021-05-28 | 中山大学 | 基于模型无关元学习的无监督少样本图像分类方法、系统及存储介质 |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115868940A (zh) * | 2023-02-27 | 2023-03-31 | 安徽通灵仿生科技有限公司 | 一种基于iabp的生理信号质量评估方法及装置 |
| CN115868940B (zh) * | 2023-02-27 | 2023-05-26 | 安徽通灵仿生科技有限公司 | 一种基于iabp的生理信号质量评估方法及装置 |
| CN116680554A (zh) * | 2023-06-19 | 2023-09-01 | 扬州大学 | 一种基于概率化元学习模型的旋转机械寿命预测方法 |
| CN116680554B (zh) * | 2023-06-19 | 2024-04-19 | 扬州大学 | 一种基于概率化元学习模型的旋转机械寿命预测方法 |
| CN117671673A (zh) * | 2023-11-21 | 2024-03-08 | 江南大学 | 一种基于自适应张量子空间的小样本宫颈细胞分类方法 |
| CN117671673B (zh) * | 2023-11-21 | 2024-05-28 | 江南大学 | 一种基于自适应张量子空间的小样本宫颈细胞分类方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113705869B (zh) | 2022-11-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113705869B (zh) | 无监督元学习网络的机电设备少样本退化趋势预测方法 | |
| Li et al. | A systematic review of deep transfer learning for machinery fault diagnosis | |
| CN115270956B (zh) | 基于持续学习的跨设备增量轴承故障诊断方法 | |
| CN110849626B (zh) | 一种自适应稀疏压缩自编码的滚动轴承故障诊断系统 | |
| Li et al. | Fault diagnosis of rotating machinery based on combination of deep belief network and one-dimensional convolutional neural network | |
| CN111695209B (zh) | 元深度学习驱动的旋转机械小样本健康评估方法 | |
| Vashishtha et al. | Pelton wheel bucket fault diagnosis using improved shannon entropy and expectation maximization principal component analysis | |
| CN112036042B (zh) | 一种基于变分模态分解的动力设备异常检测方法及系统 | |
| CN114218872A (zh) | 基于dbn-lstm半监督联合模型的剩余使用寿命预测方法 | |
| WO2023044770A1 (zh) | 干泵宕机的预警方法、装置、电子设备、存储介质及程序 | |
| CN114819315A (zh) | 基于多参数融合健康因子和时间卷积神经网络的轴承退化趋势预测方法 | |
| CN114091525A (zh) | 一种滚动轴承退化趋势预测方法 | |
| Imani et al. | A scalable spark-based fault diagnosis platform for gearbox fault diagnosis in wind farms | |
| CN117473411A (zh) | 基于改进Transformer模型的轴承寿命预测方法 | |
| CN110728377B (zh) | 一种面向机电设备的智能故障诊断方法及系统 | |
| Patil et al. | Health Monitoring of Milling Tool Inserts Using CNN Architectures Trained by Vibration Spectrograms. | |
| CN117060353A (zh) | 基于前馈神经网络高压直流输电系统故障诊断方法及系统 | |
| Yafei et al. | Fault Diagnosis of Axial Piston Pump Based on Extreme‐Point Symmetric Mode Decomposition and Random Forests | |
| Techane et al. | Rotating machinery prognostics and application of machine learning algorithms: Use of deep learning with similarity index measure for health status prediction | |
| Zhou et al. | Time-frequency Representation-enhanced Transfer Learning for Tool Condition Monitoring during milling of Inconel 718 | |
| Hu et al. | Fault diagnosis based on multi-scale redefined dimensionless indicators and density peak clustering with geodesic distances | |
| CN112925290A (zh) | 一种基于多变量本征chirp模态分解的厂级振荡检测方法 | |
| CN117473260A (zh) | 一种数模联动的航天轴承剩余寿命预测方法 | |
| CN113869266B (zh) | 基于大数据分析的离心压缩机旋转失速早期预警方法 | |
| CN116821828A (zh) | 一种基于工业数据的多维时序预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |