CN114048546B - 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 - Google Patents
一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 Download PDFInfo
- Publication number
- CN114048546B CN114048546B CN202111362020.XA CN202111362020A CN114048546B CN 114048546 B CN114048546 B CN 114048546B CN 202111362020 A CN202111362020 A CN 202111362020A CN 114048546 B CN114048546 B CN 114048546B
- Authority
- CN
- China
- Prior art keywords
- domain
- data
- graph
- node
- gcn
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000007781 pre-processing Methods 0.000 claims abstract description 4
- 230000006870 function Effects 0.000 claims description 44
- 238000000605 extraction Methods 0.000 claims description 31
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000002776 aggregation Effects 0.000 claims description 12
- 238000004220 aggregation Methods 0.000 claims description 12
- 238000006731 degradation reaction Methods 0.000 claims description 11
- 238000005096 rolling process Methods 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000015556 catabolic process Effects 0.000 claims description 9
- 230000006978 adaptation Effects 0.000 claims description 8
- 238000012360 testing method Methods 0.000 claims description 7
- 230000036962 time dependent Effects 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 7
- 235000008694 Humulus lupulus Nutrition 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 6
- 238000004458 analytical method Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 230000004931 aggregating effect Effects 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000005192 partition Methods 0.000 claims description 3
- 230000003313 weakening effect Effects 0.000 claims description 3
- 230000035605 chemotaxis Effects 0.000 claims 1
- 238000010606 normalization Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 claims 1
- 238000013135 deep learning Methods 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/15—Vehicle, aircraft or watercraft design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/17—Mechanical parametric or variational design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明属于航空发动机的剩余寿命预测领域，提出一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，首先对有标签的源域航空发动机传感器数据和没有标签的目标域航空发动机传感器数据进行预处理；其次，通过最大信息系数算法对不同传感器数据之间的相关性进行计算，获得航空发动机传感器数据的图数据集；然后，使用基于门控循环单元和改进的图卷积网络来提取传感器数据的局部特征和公共结构全局特征，并将特征进行融合；最后，通过设计的目标函数对模型参数进行更新，来训练获取域不变特征，对无标签的目标域航空发动机传感器数据的剩余使用寿命标签进行高准确度预测。本发明提高了航空发动机的无监督跨域预测准确性。
Description
技术领域
本发明属于航空发动机的剩余寿命预测领域，特别涉及一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法。
背景技术
近年来，随着工业技术的不断发展，工业设备的运行状态和维护手段等到了人们的重视。因此，故障预测与健康管理技术(PHM)被提出对工业系统中的设备的健康状态进行预测和管理。这种技术利用退化管理来对设备的功能性状态进行预测性的维护来提高工业设备的安全性和可靠性。剩余使用寿命(remaining useful life，RUL)预测作为故障预测与健康管理技术之一，目前也引起了广泛的关注并成为该领域的一个研究热点。
由于深度学习的不断发展，越来越多的深度学习方法被应用于工业故障预测和健康管理领域，并且取得了许多优秀的成果。鉴于深度学习技术可以对传感器信号上的退化信息进行充分的提取，因此可以对于收集到的数据进行分析和精确预测预测，同时降低维护的成本，提高可用及可靠性，避免发生严重的事故。
故障预测和健康管理技术有主要几个场景：故障诊断，异常检测，剩余使用寿命预测等。本发明主要针对航空发动机的剩余寿命预测场景，在该场景中，利用有标签的源域航空发动机传感器数据预测没有标签的目标域传感器数据的剩余使用寿命预测。
2021年，Mohamed Ragab等人在论文《Contrastive Adversarial DomainAdaptation for Machine Remaining Useful Life Prediction》中提出一种跨域剩余使用寿命预测方案，设计了一种对比对抗域自适应方法，不仅能学习不同域之间的不变特征，还能对保留目标特有的信息。该方案结构中除了一般的损失计算如剩余寿命预测损失和对抗损失外，还引入了InfoNCE损失，来最大化目标信息的编码与输入目标原始信号之间的互信息。但是，改论文提出的方案只考虑到了RUL标签和域标签的使用，没有对输入数据的数据结构进行准确的建模和使用，从而导致深度网络中提取出来的特征会有一些信息上的缺失。2021年，Mengqi Miao等人在论文《A Deep Domain Adaptative Network forRemaining Useful Life Prediction of Machines Under Different WorkingConditions and Fault Modes》提出了一种新的域自适应网络，可以同时提取时间和空间特征来处理不同工作条件下的跨域特征分布迁移。该论文提出的方法可以通过协同域对齐方法来训练特征提取器学习不同域之间的不变特征。但是，改论文提出的方案中，目标域数据和源域数据使用同一个特征提取器，这种强共享的特征提取层可能对特定领域的特征学习是没有帮助的。
综上所述，基于无监督域自适应方法的航空发动机剩余寿命预测方法主要有如下缺陷：(1)只考虑了输入数据的RUL标签和域标签，没有将输入数据的数据结构信息引入到航空发动机无监督域自适应模型中。(2)目前领域中已有的模型只考虑了如何提取域不变信息，而忽略了目标域中的特定特征对特征学习的影响，同时共享特征提取参数或共享特征提取层可能对特定领域的特征学习起反作用。(3)目前已有方法对航空发动机传感器数据之间相关性的建模还不够清晰，不能准确合理的表达传感器数据之间的信息相关性。
发明内容
本发明的目的是提出一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，以解决上述技术问题。
为实现上述目的，本发明提供了如下方案：
一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，步骤如下：
(1)数据预处理：
将获取到的某种工况和故障模式下的航空发动机全部寿命的传感器信号作为源域数据，另一种工况和故障模式下的未达到最终寿命的航空发动机传感器信号作为目标域数据；在NASA公开的航空发动机数据集CMAPSS数据集中，每个子数据集中有21个传感器的测量值，但是有部分传感器的数值是恒定的，无法表示航空发动机的退化过程，因此选取有一定变化趋势的，能为航空发动机的退化趋势的分析以及剩余使用寿命的预测提供帮助的传感器数据作为原始输入数据，并对航空发动机传感器信号做归一化处理；利用滑动时窗方法拆分航空发动机从开始使用到运行完全停止的传感器数据，获得相同时间长度下的传感器的子时间序列数据；采用分段线性退化模型来标记航空发动机数据每一时刻的标签，即将当前时刻到发动机运行到失败的时长作为该时刻的剩余使用寿命。该模型将超过130以上的剩余使用寿命标记为130，低于130的标签保持不变；
(2)生成传感器之间的图数据集：
使用最大信息系数来计算传感器之间的非线性相关性，并根据其相关性的大小确定不同传感器节点之间的图邻接矩阵；根据获得的图邻接矩阵生成以传感器数据为节点的图数据集；
基于最大信息系数的传感器邻接矩阵计算方法：
其中，
I(xi,xj)＝H(xi)-H(xj)-H(xi,xj)
式中，B(n)函数的取值以领域知识为基准，将其设置为B(n)＝n0.6；和/>分别代表两种数据轴方向上的分区数量，n代表所取的数据点的数量，xi和xj分别代表不同的传感器数据；
根据不同传感器之间的相关性系数作为其邻接矩阵的系数，表示不同传感器之间的关系，可以获得不同数据集的图结构A，其公式如下：
其中μ是根据先验知识设置的阈值。由此可以得到图数据集G(Xinput,A)，其中Xinput为传感器输入数据。
(3)深层特征提取：
(3.1)利用门控循环单元GRU提取航空发动机图数据集的时间依赖特征，并将其更新作为传感器的节点特征，从而得到更新之后的图数据集G(GRU(Xinput),A)；
(3.2)利用改进的基于无监督域自适应的图卷积网络GCN对不同工况和故障模式数据的领域特征进行提取，得到航空发动机深层领域特征；改进的基于GCN的特征提取结构分为三部分：源GCN模块、目标GCN模块以及全局GCN模块；源GCN模块和目标GCN模块分别用于提取和领域相关的特征，全局GCN模块根据两个领域的传感器在步骤(2)中计算的图结构，根据其相似性计算出一个公共结构，通过全局方法分别提取源域和目标域的特征；具体如下：
改进的基于GCN的特征提取结构使用了一个包含局部GCN和全局GCN的双通道空间信息提取模块，其构建过程为：
(3.2.1)改进的基于无监督域自适应的GCN结构分为以下两个模块：
源GCN模块和目标GCN模块：
在获得经步骤(2)和步骤(3.1)处理的图数据集之后，将得到的源域数据和目标域数据输入到图同构卷积层中，以更新节点特征：
其中，是第k次迭代后图的节点v的更新特征表示，/>为第k-1次迭代后图的节点v的特征表示，/>为第k-1次迭代后相邻节点u的特征表示，MLP为训练的多层感知器，N(v)表示节点v的邻接节点集，u表示节点v的邻接节点，θu表示不同传感器之间相关性的权值；
(3.2.2)全局GCN模块：
为了捕捉到和传感器数据结构相关的域不变全局信息，设计了一种根据不同域结构相似性的全局GCN模块；
首先对源域和目标域的图数据的邻接矩阵做相似性计算，得到一个共享的传感器数据数据结构：
AG＝f(AS,AT)
其中，AG表示经过计算获得的公共图邻接矩阵，AS和AT分别代表源域图数据和目标域图数据的图邻接矩阵，f(,)公式代表不同域数据邻接矩阵的计算函数。该函数计算两个图的最大公共子图，同时弱化只有一个图相连的传感器关系，忽略两个图都不相连的图结构，该函数表示为：
f(AS,AT)＝mcs(AS,AT)+w
w＝w1·abs(AS-AT)
其中，mcs(,)公式为计算最大公共子图的函数，AS和AT分别代表源域图数据和目标域图数据的图邻接矩阵，w为单连接矩阵，w1为设置的单连接矩阵参数，abs(,)公式为绝对值公式；
在获得共享图结构之后，更新数据的邻接矩阵，用于全局信息的提取；
与源域GCN模块和目标域GCN模块不同，全局GCN模块不仅通过相邻的节点进行更新，还考虑与它相聚多跳的节点的信息，通过增大范围来提升聚合能力，对于不同的节点跳数，先对与中心节点相距两条的节点特征进行聚合，更新相距一跳节点的特征，其公式如下：
其中，为第k次迭代后的节点u的聚合特征，u为和中心节点相距一跳的节点，AGGREGATE()表示聚合操作，这里使用的是平均聚合，N(u)为和中心节点相距两跳的节点集合，其中i为该集合中的节点；γ是一个值为1或0的随机参数，随机选择相邻的节点进行更新，CONCATENATE()表示拼接操作，/>是和中心节点相距一跳的节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示，/>为可训练的模型权值，σ(·)为激活函数，为最终更新的相距一跳的节点特征。
之后对中心节点的特征再做一次聚合，公式如下：
其中，为第k次迭代后的节点v聚合特征，N(v)为和中心节点相距一跳的节点集合，其中u为该集合中的节点，/>是中心节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示；/>为可训练的模型权值，σ(·)为激活函数，/>为最终更新的节点特征。
源域数据和目标域数据分别通过源GCN模块，目标GCN模块以及全局GCN模块之后，将源域特征和目标域特征分别融合起来，得到最终的特征HS和HT，通过RUL预测器获得最终的预测值，RUL预测器是一个多层网络，将d维特征映射成对应的RUL值；
提出针对无监督跨域RUL预测的目标函数：
该方法的目标函数由三个部分组成：RUL预测损失，域分类损失以及结构对齐损失；
1)RUL预测损失：为了确保减少RUL预测值和真实值之间的差距，样本的真实RUL标签和预测标签之间的RUL预测损失利用均方误差定义，其公式如下：
其中，是通过特征提取映射出的预测RUL值，/>是样本的真实RUL值，NS为源域样本的数量；
2)域分类损失：仅使用源域数据训练的标签分类器无法在目标域数据上表现良好；因此为了解决域差异问题，利用域鉴别器网络D来区分源域特征和目标域特征；对域鉴别器网络对抗性训练特征提取模块，以最小化源特征和目标特征之间的分布差异；当两个部分达到minmax平衡时，可捕获域不变特征；这里，采用二元交叉熵损失作为域分类损失，其公式如下：
其中，XS和XT代表源域样本和目标域样本，ES代表源域特征提取模块，ET代表目标域特征提取模块；
3)结构对齐损失：
为了对其对齐源域和目标域的特征结构，采用MMD度量作为结构差异对齐损失，其公式如下：
其中，Φ函数代表非线性映射函数，H代表提取的特征映射到RKHS中来测量MMD距离；
4)结合上述三种损失函数，总的目标函数表示为：
Ltotal＝LMSE+αLDA+βLMMD
其中，α和β都是预定的参数；
(4)模型的参数更新及剩余寿命预测：
在获取提取的源域特征和目标域特征之后，通过计算不同的损失函数来更新模型参数以训练模型；模型训练完成后，保持预测模型参数不变，对目标域测试数据进行剩余寿命的预测，得到回归预测结果；通过预测的剩余使用寿命与真实的剩余使用寿命的均方根误差来表示跨域剩余寿命预测模型的性能优劣，其公式如下所示：
其中，ri表示第i个航空发动机预测剩余使用寿命和真实剩余使用寿命之间的差值；Nt表示目标域测试样本的数量。
本发明的有益效果：本发明提出一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法。该方法引入最大信息系数对航空发动机不同传感器的数据之间的相关性进行度量，以生成航空发动机图数据结构。该方法使用门控循环单元提取数据的时间特征作为图数据集的节点数据，获得航空发动机数据的时间依赖特征。通过改进的基于图卷积网络GCN的双通道结构，分别提取图数据的局部特征和公共全局特征来实现图数据的空间特征表示。最后通过计算损失反向传播更新参数来实现无监督条件下不同操作条件和故障模式下的剩余寿命预测。
本发明将航空发动机的传感器数据的结构信息考虑到域迁移的过程中，可以将更多与领域相关的信息加入到域适应中以实现更好的跨域效果。本发明在提取特征时引入了对公共结构下的图数据的全局依赖的方法以及对于源域和目标域的局部依赖的提取的并行提取结构，在提取公共特征的时候保留一些域特有信息，在提高跨域预测效果的同时保留了部分域专属特征。
附图说明
图1是本发明所述的航空发动机传感器数据无监督域适应场景示意图。
图2是本发明一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法的流程图。
图3是本发明中改进GCN模块的流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，应用于对无标签的不同操作条件和故障模式下的航空发动机数据进行剩余使用寿命预测。如图1所示，目前大部分剩余寿命预测都假设训练集数据和测试集数据来自同一操作条件及故障模式，也就是拥有相同的域和分布，但是这在实际工业行业中是很难实现的。因此需要解决不同分布数据的域适应问题。而传统的域转移问题的解决方法是通过深度学习网络来提取不同领域数据之间的域不变特征，因此要考虑到不同域之间信息的利用以及对不同领域的专属特征的表示对跨域学习的帮助。本发明的流程如图2所示，首先，通过最大信息系数确定不同传感器之间的相关性以确定图结构。基于GRU和改进的GCN模型结构如图3所示，该模块通过门控循环单元提取不同传感器数据在固定时窗长度下的时间特征作为图的节点特征，得到图数据集。然后通过局部GCN和全局GCN分别提取图数据集的空间特征，最后得到航空发动机传感器数据的时空特征。最后通过最小化目标函数反向传播来更新模型参数，以得到域不变的特征表示，并利用训练好的模型对无标签的目标域数据进行预测。
一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，步骤如下：
(1)数据预处理：
将获取到的某种工况和故障模式下的航空发动机全部寿命的传感器信号作为源域数据，另一种工况和故障模式下的未达到最终寿命的航空发动机传感器信号作为目标域数据；在NASA公开的航空发动机数据集CMAPSS数据集中，每个子数据集中有21个传感器的测量值，但是有部分传感器的数值是恒定的，无法表示航空发动机的退化过程，因此选取有一定变化趋势的，能为航空发动机的退化趋势的分析以及剩余使用寿命的预测提供帮助的传感器数据作为原始输入数据，并对航空发动机传感器信号做归一化处理；利用滑动时窗方法拆分航空发动机从开始使用到运行完全停止的传感器数据，获得相同时间长度下的传感器的子时间序列数据；采用分段线性退化模型来标记航空发动机数据每一时刻的标签，即将当前时刻到发动机运行到失败的时长作为该时刻的剩余使用寿命。该模型将超过130以上的剩余使用寿命标记为130，低于130的标签保持不变；
(2)生成传感器之间的图数据集：
使用最大信息系数来计算传感器之间的非线性相关性，并根据其相关性的大小确定不同传感器节点之间的图邻接矩阵；根据获得的图邻接矩阵生成以传感器数据为节点的图数据集；
基于最大信息系数的传感器邻接矩阵计算方法：
其中，
I(xi,xj)＝H(xi)-H(xj)-H(xi,xj)
式中，B(n)函数的取值以领域知识为基准，将其设置为B(n)＝n0.6；和/>分别代表两种数据轴方向上的分区数量，n代表所取的数据点的数量，xi和xj分别代表不同的传感器数据；
根据不同传感器之间的相关性系数作为其邻接矩阵的系数，表示不同传感器之间的关系，可以获得不同数据集的图结构A，其公式如下：
其中μ是根据先验知识设置的阈值。由此可以得到图数据集G(Xinput,A)，其中Xinput为传感器输入数据。
(3)深层特征提取：
(3.1)利用门控循环单元GRU提取航空发动机图数据集的时间依赖特征，并将其更新作为传感器的节点特征，从而得到更新之后的图数据集G(GRU(Xinput),A)；
(3.2)利用改进的基于无监督域自适应的图卷积网络GCN对不同工况和故障模式数据的领域特征进行提取，得到航空发动机深层领域特征；改进的基于GCN的特征提取结构分为三部分：源GCN模块、目标GCN模块以及全局GCN模块；源GCN模块和目标GCN模块分别用于提取和领域相关的特征，全局GCN模块根据两个领域的传感器在步骤(2)中计算的图结构，根据其相似性计算出一个公共结构，通过全局方法分别提取源域和目标域的特征；具体如下：
改进的基于GCN的特征提取结构使用了一个包含局部GCN和全局GCN的双通道空间信息提取模块，其构建过程为：
(3.2.1)改进的基于无监督域自适应的GCN结构分为以下两个模块：
源GCN模块和目标GCN模块：
在获得经步骤(2)和步骤(3.1)处理的图数据集之后，将得到的源域数据和目标域数据输入到图同构卷积层中，以更新节点特征：
其中，是第k次迭代后图的节点v的更新特征表示，/>为第k-1次迭代后图的节点v的特征表示，/>为第k-1次迭代后相邻节点u的特征表示，MLP为训练的多层感知器，N(v)表示节点v的邻接节点集，u表示节点v的邻接节点，θu表示不同传感器之间相关性的权值；
(3.2.2)全局GCN模块：
为了捕捉到和传感器数据结构相关的域不变全局信息，设计了一种根据不同域结构相似性的全局GCN模块；
首先对源域和目标域的图数据的邻接矩阵做相似性计算，得到一个共享的传感器数据数据结构：
AG＝f(AS,AT)
其中，AG表示经过计算获得的公共图邻接矩阵，AS和AT分别代表源域图数据和目标域图数据的图邻接矩阵，f(,)公式代表不同域数据邻接矩阵的计算函数。该函数计算两个图的最大公共子图，同时弱化只有一个图相连的传感器关系，忽略两个图都不相连的图结构，该函数表示为：
f(AS,AT)＝mcs(AS,AT)+w
w＝w1·abs(AS-AT)
其中，mcs(,)公式为计算最大公共子图的函数，AS和AT分别代表源域图数据和目标域图数据的图邻接矩阵，w为单连接矩阵，w1为设置的单连接矩阵参数，abs(,)公式为绝对值公式；
在获得共享图结构之后，更新数据的邻接矩阵，用于全局信息的提取；
与源域GCN模块和目标域GCN模块不同，全局GCN模块不仅通过相邻的节点进行更新，还考虑与它相聚多跳的节点的信息，通过增大范围来提升聚合能力，对于不同的节点跳数，先对与中心节点相距两条的节点特征进行聚合，更新相距一跳节点的特征，其公式如下：
其中，为第k次迭代后的节点u的聚合特征，u为和中心节点相距一跳的节点，AGGREGATE()表示聚合操作，这里使用的是平均聚合，N(u)为和中心节点相距两跳的节点集合，其中i为该集合中的节点；γ是一个值为1或0的随机参数，随机选择相邻的节点进行更新，CONCATENATE()表示拼接操作，/>是和中心节点相距一跳的节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示，/>为可训练的模型权值，σ(·)为激活函数，为最终更新的相距一跳的节点特征。
之后对中心节点的特征再做一次聚合，公式如下：
其中，为第k次迭代后的节点v聚合特征，N(v)为和中心节点相距一跳的节点集合，其中u为该集合中的节点，/>是中心节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示；/>为可训练的模型权值，σ(·)为激活函数，/>为最终更新的节点特征。
源域数据和目标域数据分别通过源GCN模块，目标GCN模块以及全局GCN模块之后，将源域特征和目标域特征分别融合起来，得到最终的特征HS和HT，通过RUL预测器获得最终的预测值，RUL预测器是一个多层网络，将d维特征映射成对应的RUL值；
提出针对无监督跨域RUL预测的目标函数：
该方法的目标函数由三个部分组成：RUL预测损失，域分类损失以及结构对齐损失；
1)RUL预测损失：为了确保减少RUL预测值和真实值之间的差距，样本的真实RUL标签和预测标签之间的RUL预测损失利用均方误差定义，其公式如下：
其中，是通过特征提取映射出的预测RUL值，/>是样本的真实RUL值，NS为源域样本的数量；
2)域分类损失：仅使用源域数据训练的标签分类器无法在目标域数据上表现良好；因此为了解决域差异问题，利用域鉴别器网络D来区分源域特征和目标域特征；对域鉴别器网络对抗性训练特征提取模块，以最小化源特征和目标特征之间的分布差异；当两个部分达到minmax平衡时，可捕获域不变特征；这里，采用二元交叉熵损失作为域分类损失，其公式如下：
其中，XS和XT代表源域样本和目标域样本，ES代表源域特征提取模块，ET代表目标域特征提取模块；
3)结构对齐损失：
为了对其对齐源域和目标域的特征结构，采用MMD度量作为结构差异对齐损失，其公式如下：
其中，Φ函数代表非线性映射函数，H代表提取的特征映射到RKHS中来测量MMD距离；
4)结合上述三种损失函数，总的目标函数表示为：
Ltotal＝LMSE+αLDA+βLMMD
其中，α和β都是预定的参数；
(4)模型的参数更新及剩余寿命预测：
在获取提取的源域特征和目标域特征之后，通过计算不同的损失函数来更新模型参数以训练模型；模型训练完成后，保持预测模型参数不变，对目标域测试数据进行剩余寿命的预测，得到回归预测结果；通过预测的剩余使用寿命与真实的剩余使用寿命的均方根误差来表示跨域剩余寿命预测模型的性能优劣，其公式如下所示：
其中，ri表示第i个航空发动机预测剩余使用寿命和真实剩余使用寿命之间的差值；Nt表示目标域测试样本的数量。
综上所述：
本发明提出一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，通过最大信息系数确定不同传感器之间的相关性以确定图结构。其次通过门控循环单元提取不同传感器数据在固定时窗长度下的时间特征作为图的节点特征，得到图数据集。然后通过局部GCN和全局GCN分别提取图数据集的空间特征，最后得到航空发动机传感器数据的时空特征。最后通过最小化目标函数反向传播来更新模型参数，以得到域不变的特征表示，并利用训练好的模型对无标签的目标域数据进行高精度预测。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (1)
1.一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法，其特征在于，步骤如下：
(1)数据预处理：
将获取到的某种工况和故障模式下的航空发动机全部寿命的传感器信号作为源域数据，另一种工况和故障模式下的未达到最终寿命的航空发动机传感器信号作为目标域数据；在CMAPSS数据集中，选取有变化趋势能为航空发动机的退化趋势的分析以及剩余使用寿命的预测提供帮助的传感器数据作为原始输入数据，并对航空发动机传感器信号做归一化处理；利用滑动时窗方法拆分航空发动机从开始使用到运行完全停止的传感器数据，获得相同时间长度下的传感器的子时间序列数据；采用分段线性退化模型来标记航空发动机数据每一时刻的标签，即将当前时刻到发动机运行到失败的时长作为该时刻的剩余使用寿命；分段线性退化模型将超过130以上的剩余使用寿命标记为130，低于130的标签保持不变；
(2)生成传感器之间的图数据集：
使用最大信息系数来计算传感器之间的非线性相关性，并根据其相关性的大小确定不同传感器节点之间的图邻接矩阵；根据获得的图邻接矩阵生成以传感器数据为节点的图数据集；
基于最大信息系数的传感器邻接矩阵计算方法：
其中，
I(xi,xj)＝H(xi)-H(xj)-H(xi,xj)
式中，B(n)函数的取值以领域知识为基准，将其设置为B(n)＝n0.6；和nxj分别代表两种数据轴方向上的分区数量，n代表所取的数据点的数量，xi和xj分别代表不同的传感器数据；
根据不同传感器之间的相关性系数作为其邻接矩阵的系数，表示不同传感器之间的关系，获得不同数据集的图结构A，其公式如下：
其中，μ是根据先验知识设置的阈值；由此得到图数据集G(Xinput,A)，其中Xinput为传感器输入数据；
(3)深层特征提取：
(3.1)利用门控循环单元GRU提取航空发动机图数据集的时间依赖特征，并将其更新作为传感器的节点特征，从而得到更新之后的图数据集G(GRU(Xinput),A)；
(3.2)利用改进的基于无监督域自适应的图卷积网络GCN对不同工况和故障模式数据的领域特征进行提取，得到航空发动机深层领域特征；改进的基于GCN的特征提取结构分为三部分：源GCN模块、目标GCN模块以及全局GCN模块；源GCN模块和目标GCN模块分别用于提取和领域相关的特征，全局GCN模块根据两个领域的传感器在步骤(2)中计算的图结构，根据其相似性计算出一个公共结构，通过全局方法分别提取源域和目标域的特征；具体如下：
改进的基于GCN的特征提取结构使用了一个包含局部GCN和全局GCN的双通道空间信息提取模块，其构建过程为：
(3.2.1)改进的基于无监督域自适应的GCN结构分为以下两个模块：
源GCN模块和目标GCN模块：
在获得经步骤(2)和步骤(3.1)处理的图数据集之后，将得到的源域数据和目标域数据输入到图同构卷积层中，以更新节点特征：
其中，是第k次迭代后图的节点v的更新特征表示，/>为第k-1次迭代后图的节点v的特征表示，/>为第k-1次迭代后相邻节点u的特征表示，MLP为训练的多层感知器，N(v)表示节点v的邻接节点集，u表示节点v的邻接节点，θu表示不同传感器之间相关性的权值；
(3.2.2)全局GCN模块：
为了捕捉到和传感器数据结构相关的域不变全局信息，设计了一种根据不同域结构相似性的全局GCN模块；
首先对源域和目标域的图数据的邻接矩阵做相似性计算，得到一个共享的传感器数据数据结构：
AG＝f(AS,AT)
其中，AG表示经过计算获得的公共图邻接矩阵，AS和AT分别代表源域图数据和目标域图数据的图邻接矩阵，f(,)公式代表不同域数据邻接矩阵的计算函数；该函数计算两个图的最大公共子图，同时弱化只有一个图相连的传感器关系，忽略两个图都不相连的图结构，该函数表示为：
f(AS,AT)＝mcs(AS,AT)+w
w＝w1·abs(AS-AT)
其中，mcs(,)公式为计算最大公共子图的函数，w为单连接矩阵，w1为设置的单连接矩阵参数，abs(,)公式为绝对值公式；
在获得共享图结构之后，更新数据的邻接矩阵，用于全局信息的提取；
与源域GCN模块和目标域GCN模块不同，全局GCN模块不仅通过相邻的节点进行更新，还考虑与它相聚多跳的节点的信息，通过增大范围来提升聚合能力，对于不同的节点跳数，先对与中心节点相距两条的节点特征进行聚合，更新相距一跳节点的特征，其公式如下：
其中，为第k次迭代后的节点u的聚合特征，u为和中心节点相距一跳的节点，AGGREGATE()表示聚合操作，这里使用的是平均聚合；N(u)为和中心节点相距两跳的节点集合，其中i为该集合中的节点；γ是一个值为1或0的随机参数，随机选择相邻的节点进行更新；CONCATENATE()表示拼接操作，/>是和中心节点相距一跳的节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示，/>为可训练的模型权值，σ(·)为激活函数，/>为最终更新的相距一跳的节点特征；
之后对中心节点的特征再做一次聚合，公式如下：
其中，为第k次迭代后的节点v聚合特征，N(v)为和中心节点相距一跳的节点集合，其中u为该集合中的节点，/>是中心节点的拼接特征，α(k)是计算出来的AG中的节点之间的权值表示；/>为可训练的模型权值，σ(·)为激活函数，/>为最终更新的节点特征；
源域数据和目标域数据分别通过源GCN模块，目标GCN模块以及全局GCN模块之后，将源域特征和目标域特征分别融合起来，得到最终的特征HS和HT，通过RUL预测器获得最终的预测值，RUL预测器是一个多层网络，将d维特征映射成对应的RUL值；
提出针对无监督跨域RUL预测的目标函数：
该方法的目标函数由三个部分组成：RUL预测损失，域分类损失以及结构对齐损失；
1)RUL预测损失：为了确保减少RUL预测值和真实值之间的差距，样本的真实RUL标签和预测标签之间的RUL预测损失利用均方误差定义，其公式如下：
其中，是通过特征提取映射出的预测RUL值，/>是样本的真实RUL值，NS为源域样本的数量；
2)域分类损失：仅使用源域数据训练的标签分类器无法在目标域数据上表现良好；因此为了解决域差异问题，利用域鉴别器网络D来区分源域特征和目标域特征；对域鉴别器网络对抗性训练特征提取模块，以最小化源特征和目标特征之间的分布差异；当两个部分达到minmax平衡时，可捕获域不变特征；这里，采用二元交叉熵损失作为域分类损失，其公式如下：
其中，XS和XT代表源域样本和目标域样本，ES代表源域特征提取模块，ET代表目标域特征提取模块；
3)结构对齐损失：
为了对其对齐源域和目标域的特征结构，采用MMD度量作为结构差异对齐损失，其公式如下：
其中，Φ函数代表非线性映射函数，H代表提取的特征映射到RKHS中来测量MMD距离；
4)结合上述三种损失函数，总的目标函数表示为：
Ltotal＝LMSE+αLDA+βLMMD
其中，α和β都是预定的参数；
(4)模型的参数更新及剩余寿命预测：
在获取提取的源域特征和目标域特征之后，通过计算不同的损失函数来更新模型参数以训练模型；模型训练完成后，保持预测模型参数不变，对目标域测试数据进行剩余寿命的预测，得到回归预测结果；通过预测的剩余使用寿命与真实的剩余使用寿命的均方根误差来表示跨域剩余寿命预测模型的性能优劣，其公式如下所示：
其中，ri表示第i个航空发动机预测剩余使用寿命和真实剩余使用寿命之间的差值；Nt表示目标域测试样本的数量。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111362020.XA CN114048546B (zh) | 2021-11-17 | 2021-11-17 | 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111362020.XA CN114048546B (zh) | 2021-11-17 | 2021-11-17 | 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114048546A CN114048546A (zh) | 2022-02-15 |
| CN114048546B true CN114048546B (zh) | 2024-04-23 |
Family
ID=80209785
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111362020.XA Active CN114048546B (zh) | 2021-11-17 | 2021-11-17 | 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114048546B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114494804B (zh) * | 2022-04-18 | 2022-10-25 | 武汉明捷科技有限责任公司 | 一种基于域特有信息获取的无监督领域适应图像分类方法 |
| CN115017826B (zh) * | 2022-06-30 | 2023-08-25 | 安徽大学 | 一种装备剩余使用寿命预测方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110880019A (zh) * | 2019-10-30 | 2020-03-13 | 北京中科研究院 | 通过无监督域适应训练目标域分类模型的方法 |
| CN112101220A (zh) * | 2020-09-15 | 2020-12-18 | 哈尔滨理工大学 | 一种无监督模型参数迁移的滚动轴承寿命预测方法 |
| CN113298189A (zh) * | 2021-06-30 | 2021-08-24 | 广东工业大学 | 一种基于无监督域自适应的跨域图像分类方法 |
| CN113310689A (zh) * | 2021-05-27 | 2021-08-27 | 西安交通大学 | 基于域自适应图卷积网络的航发传动系统故障诊断方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20210051343A (ko) * | 2019-10-30 | 2021-05-10 | 삼성에스디에스 주식회사 | 비지도 도메인 적응 장치 및 방법 |
-
2021
- 2021-11-17 CN CN202111362020.XA patent/CN114048546B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110880019A (zh) * | 2019-10-30 | 2020-03-13 | 北京中科研究院 | 通过无监督域适应训练目标域分类模型的方法 |
| CN112101220A (zh) * | 2020-09-15 | 2020-12-18 | 哈尔滨理工大学 | 一种无监督模型参数迁移的滚动轴承寿命预测方法 |
| CN113310689A (zh) * | 2021-05-27 | 2021-08-27 | 西安交通大学 | 基于域自适应图卷积网络的航发传动系统故障诊断方法 |
| CN113298189A (zh) * | 2021-06-30 | 2021-08-24 | 广东工业大学 | 一种基于无监督域自适应的跨域图像分类方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于CAE与LSTM的航空发动机剩余寿命预测;王旭;艾红;;北京信息科技大学学报(自然科学版);20200815(第04期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114048546A (zh) | 2022-02-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111694879B (zh) | 一种多元时间序列异常模式预测方法及数据采集监控装置 | |
| CN114048546B (zh) | 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法 | |
| CN111368920B (zh) | 基于量子孪生神经网络的二分类方法及其人脸识别方法 | |
| Wu et al. | A weighted deep domain adaptation method for industrial fault prognostics according to prior distribution of complex working conditions | |
| Su et al. | Uncertainty quantification of collaborative detection for self-driving | |
| CN115618296A (zh) | 一种基于图注意力网络的大坝监测时序数据异常检测方法 | |
| CN110757510A (zh) | 一种机器人剩余寿命预测方法及系统 | |
| CN116684878B (zh) | 一种5g信息传输数据安全监测系统 | |
| Jiang et al. | A multisensor cycle-supervised convolutional neural network for anomaly detection on magnetic flux leakage signals | |
| CN112288034A (zh) | 一种无线传感器网络半监督在线异常检测方法 | |
| CN116340796A (zh) | 时序数据分析方法、装置、设备及存储介质 | |
| CN116306289A (zh) | 一种基于多源域自适应的机电设备跨域剩余寿命预测方法 | |
| CN116929815A (zh) | 基于物联网的设备工作状态监测系统及其方法 | |
| CN116557787A (zh) | 管网状态智能评估系统及其方法 | |
| CN117156442A (zh) | 基于5g网络的云数据安全保护方法及系统 | |
| CN116011507A (zh) | 融合元学习与图神经网络的稀有故障诊断方法 | |
| Yan et al. | TL-CNN-IDS: transfer learning-based intrusion detection system using convolutional neural network | |
| Qin et al. | Remaining useful life prediction using temporal deep degradation network for complex machinery with attention-based feature extraction | |
| CN116777183B (zh) | 无人船集群智能调度方法及系统 | |
| CN116402777B (zh) | 基于机器视觉的电力设备检测方法及系统 | |
| CN108846489A (zh) | 一种基于svm的大型设备健康状况评估方法 | |
| CN116502123A (zh) | 一种航空发动机剩余使用寿命无监督跨域预测方法 | |
| CN115761647A (zh) | 基于计算机视觉的变电站内物体运动轨迹检测方法及系统 | |
| CN115935814A (zh) | 一种基于arima-svm模型的变压器故障预测方法 | |
| CN117675230A (zh) | 基于知识图谱的油井数据完整性识别方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |