CN116011507A - 融合元学习与图神经网络的稀有故障诊断方法 - Google Patents

Abstract

融合元学习与图神经网络的稀有故障诊断方法，本发明涉及航空发附机匣标记监测数据有限，并且在实际应用中训练数据域与目标数据域存在差异导致模型诊断性能下降的问题。在实际工业环境中，同一机台可能出现新的故障类别，机台的运行状态也会随着工作场景做出切换，导致源域和目标域之间存在分布差异，这时训练好的模型就会失效。为了改善这一问题，本发明提出了一种基于元学习的融合图神经网络稀有故障诊断方法。实验表明，本文方法在公共数据集及航空发附机匣数据集上均优于传统的稀有故障诊断方法。本发明应用于航空发附机匣的小样本故障诊断。

Description

融合元学习与图神经网络的稀有故障诊断方法

技术领域

本发明设计融合元学习与图神经网络的稀有故障诊断方法

背景技术

航空发附机匣是飞机传动系统中的重要部件，随着机匣的服役时间延长，性能缓慢退化，发生事故风险逐渐增大，如何准确诊断航空发动机附件机匣故障对军用与民用飞机的运维至关重要。尽管状态监测系统可以不断地采集机器的运行监测数据，但由于故障较少发生，从航空发动机附件机匣系统采集到的标记监测数据有限、采集到的数据大部分是健康数据，故障数据较少，并且在实际应用中训练数据域与目标数据域存在差异，导致模型诊断性能下降。近年来迁移学习在解决样本不足的问题上逐渐受到重视，迁移学习的本质是建立网络模型，通过从任务相似的源数据域中学习信息，指导目标数据域的分类任务。目前流行的迁移学习方法大部分是假设来自不同域的任务数据分布相同，包括工况一致或标签空间分布一致等。在实际工业环境中，同一机台可能出现新的故障类别，机台的运行状态也会随着工作场景做出切换，导致源域和目标域之间存在分布差异，这时训练好的模型就会失效。为解决这个问题，本文使用元学习方法让网络模型从源域中学习通用元知识，快速适应新任务。

同时，图神经网络(Graph Neural Networks,GNN)正被广泛应用于小样本分类问题上。具体来说，图神经网络中的每个样本结点都会通过边与其他数据样本建立联系，这些信息能够用来捕获不同实例之间的相互依赖关系。所以，可以利用GNN学习未知样本与样本组之间的距离，增加类间距离，缩小类内距离，提高样本间的区分性。综上，本文提出基于元学习的融合图神经网络稀有故障诊断方法(Attention Graph TaskMeta Learning,AGTML)来有效解决样本不足以及不同类别的故障样本难以区分的问题。模型训练时采用元学习的训练策略，随机抽取一定数量的元任务，对每个任务中的支持集(已知样本)和查询集(未知样本)的故障特征向量构建局部任务图，图的节点为样本特征，边为样本特征之间的距离，利用GNN学习图节点的边权分布规律，将任务中的已知样本的标签信息传播到未知样本中并预测未知样本的故障类别。对比实验表明该方法在CWRU数据集和航空发附机匣数据集上均取得了较好的实验效果。

发明内容

本发明的目的是为了解决航空发附机匣标记监测数据有限且在实际应用中训练数据域与目标数据域存在差异导致模型诊断性能下降的问题，而提出的一种基于元学习的融合图神经网络的稀有故障诊断方法。

上述发明目的主要是通过以下技术方案实现的：

S1、通过短时傅里叶变换(Short-time Fourier Transform,STFT)将采集到的振动信号转换为时频图像，融合多通道图像数据；

S2、利用数据量充足的数据集作为源域，将来自源域的标记数据输入到编码器中，得到样本的特征表示，再利用解码器重构输入数据，通过优化损失函数L_ed，更新编码器的每层网络参数；

本方法利用自编码器进行预训练，上游网络模型包括卷积编码器和卷积解码器，通过重构后的数据和原始数据相比，让编码器不断学习，直到其最大可能的代表输入数据，然后迁移至下游网络。卷积编码器由卷积层和最大池化层组成，输入是二维时频图xⁱ，输出为提取的图像特征，特征向量是M _e，第l层卷积核是偏置是输出是其中e表示编码器输出，h表示隐藏层，具体计算见式(1)：

p_e ^l-1是第l-1层的最大池化层的输出，具体算式如下：

其中ρ是池化窗口的大小，设置为4，β是下采样因子，设置为2。

卷积解码器是由卷积层和上采样层组成。卷积解码器的输入是特征，输出是重构的样本x'⁽ⁱ⁾，特征向量是M _d，第l层卷积核是是偏置是输出是d表示解码器输出，具体计算见式(3)：

是第l-1层的最大池化层的输出，具体算式如下：

其中ε是上采样因子，设置为2。

在预训练过程中，通过优化损失函数L_ed重构输入信号样本，具体计算见式(5)：

其中C表示输入样本的总数，n表示输入数据维度。

S3、将源域划分为训练集和测试集，根据元学习协议随机抽取训练数据，形成100个元任务，每个元任务中的类别数为N；

元学习可以解决在有限的数据情况下的跨域故障诊断问题，具体来说，元学习是让模型从多个相关任务中学习元知识，在目标任务中表现出更强的泛化能力和更快的适应能力，根据N-way,K-shot,U-test协议组织元任务T，每次从总类别中随机抽取N个类别，每个类别中分别随机抽取K个标记样本组成支持集S，抽取U个未标记样本作为查询集Q。S用于训练故障分类模型并提供相应损失的反馈，Q用于评估训练后模型的性能，具体算式如下：

T＝S∪Q        (6)

其中x_i和y_i是第i个输入数据及标签，属于集合C，c_i是每个类别下的数据集的集合，C是训练或测试数据集的所有类的集合。训练集和查询集的标签是互斥的，即：

C_train∩C_test＝0          (10)

S4、上游网络使用源域训练样本训练加权自编码器，将其网络参数和权重传递到下游网络；

S5、利用注意力加权机制网络(Attention Weighted Encoder Network，AWEN)提取目标域样本特征并构建任务图；

使用少量标记样本微调网络权值，筛选并抑制无用的故障特征，以此来获得具有判别性的故障特征。首先将原始特征M_e输入到二维卷积中做卷积操作，得到特征的重要程度，Sigmoid函数调整生成的特征权重。具体计算见式(11)：

其中，σ代表Sigmoid函数，α为生成的特征调整权重。为了能够避免注意力过度的问题，进行特征重标定操作，如式(13)所示，这里直接使用特征权值α与输出特征M进行匹配相乘得到输出O。具体计算见式(12)和(13)：

最后在保留重标定特征O的同时，引入残差连接来提升特征提取方法的性能，如式(14)所示，用原始输入特征M_e与重标定特征O相加，得到注意力机制下最终学习到的新特征向量M_e′。

S6、利用基于局部任务的图学习方法(Graph Learning Methods for LocalTasks，LTGL)进行图学习并更新局部图的节点之间的边权，得到查询集的预测标签；

基于任务的图学习方法除了考虑到样本和样本之间的关系，还兼顾了样本组(包含所有故障类别的样本组)之间的全局相关性，减少模型误判，其利用CNN更新任务图结构的节点和边权，使支持集S中的已知样本之间更具区分性，查询集Q的预测标签更精准。

图中包含|T|＝N×K+U个特征节点。G＝(V_G,E_G；T)表示任务图的节点和边权结构。V_G＝{v_i}_{i＝1,...,|T|}表示图中节点集，其初始值来自于AWEN网络模型的输出特征E_G＝{e_ij}_{i,j＝1,...,|T|}表示图中节点间的边权集合，其初始值算式如下：

其中，y_i表示i的标签类别，[e₁||e₂]中的e₁代表相似性，e₂代表相异性，||是连接操作。

首先通过相邻节点之间的聚合更新节点特征信息利用l-1层的边缘特征对节点的更新进行加权，具体算式如下：

之后利用图神经网络计算下一层网络的输入节点之间的边权，具体算式如下：

其中表示l层的节点i和j之间的相似权重和相异权重，是参数的相似性度量网络，用于计算2个节点的相似程度，网络构成为一个简单的多层感知网络。

最终以边权重为主要分类依据，通过不断更新边权最终得到样本间的相关度，实现故障分类。损失函数具体算式如下：

其中E_T表示为每轮的任务数量，U表示查询集样本个数，表示第i个样本的预测标签，L_e定义为交叉熵损失。

S7、将任务中的已知样本的标签信息传播到未知样本中，保存训练好的网络模型并应用至目标域的数据集上。

发明效果

本发明提供了一种基于元学习的融合图神经网络的稀有故障诊断方法。首先，将原始信号转换为时频图像，对多通道的时频图像进行融合，作为网络模型的输入。然后，利用源数据域训练一个自编码器，并将编码器作为特征提取网络。接下来，以提取到的样本特征为节点，特征之间距离为边权，对已知样本和未知样本建图。最后，利用基于元任务的图学习方法，学习图节点的边权分布规律，将任务中的已知样本的标签信息传播到未知样本中。

附图说明

图1AGTML网络模型结构图；

图2AWEN网络模型结构图本文算法的实现过程图；

图3AGTML方法训练流程图。

具体实施方法

具体实施方式一：

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示本文提供的融合元学习与图神经网络的稀有故障诊断方法流程，包含源域模型训练和目标域模型迁移：

所述源域模型训练包含步骤：

S1、通过STFT将采集到的振动信号转换为时频图像，融合多通道图像数据；

S2、利用数据量充足的数据集作为源域，将来自源域的标记数据输入到编码器中，得到样本的特征表示，再利用解码器重构输入数据，通过优化损失函数，更新编码器的每层网络参数；

S3、将源域划分为训练集和测试集，根据元学习协议随机抽取训练数据，形成100个元任务，每个元任务中的类别数为N；

S4、上游网络使用源域训练样本训练加权自编码器，将其网络参数和权重传递到下游网络；

所述目标域模型迁移包含步骤：

S5、利用AWEN网络提取目标域样本特征并构建任务图；

S6、利用LTGL方法进行图学习并更新局部图的节点之间的边权，得到查询集的预测标签；

S7、将任务中的已知样本的标签信息传播到未知样本中，保存训练好的网络模型并应用至目标域的数据集上。

本发明实施例在源域模型训练阶段通过STFT将采集到的振动信号转换为时频图像，融合多通道图像数据。根据元学习协议随机抽取训练数据，形成元任务。上游网络使用源域训练样本训练自编码器，将其网络参数和权重传递到下游网络。在目标域模型迁移阶段提取目标域样本特征构建任务图，利用GNN学习和更新局部图的节点之间的边权，得到查询集的预测标签。

下面对本发明实施例进行详细的说明：

本发明实施例在自采的航空发附机匣(Aircraft Engine Accessories，AEA)数据集和公共的美国凯斯西储大学轴承(Case Western Reserve University,CWRU)数据集上进行验证，包括消融实验、变工况实验和未知故障识别实验和多通道对比实验。应用本发明算法实现的稀有故障诊断具体实现如下。

如图1所示源域模型训练包含步骤：

S1、通过STFT将采集到的振动信号转换为时频图像，融合多通道图像数据；

利用多个传感器，贴附在机匣的上下左右四个方位上，采集多通道数据。利用STFT将原始振动信号转换为二维时频图像，并将多通道图像融合后作为网络模型输入。

S2、利用数据量充足的数据集作为源域，将来自源域的标记数据输入到编码器中，得到样本的特征表示，再利用解码器重构输入数据，通过优化损失函数L_ed，更新编码器的每层网络参数；

本方法利用自编码器进行预训练，上游网络模型包括卷积编码器和卷积解码器，通过重构后的数据和原始数据相比，让编码器不断学习，直到其最大可能的代表输入数据，然后迁移至下游网络。卷积编码器由卷积层和最大池化层组成，输入是二维时频图xⁱ，输出为提取的图像特征，特征向量是M _e，第l层卷积核是偏置是输出是其中e表示编码器输出，h表示隐藏层，具体计算见式(1)：

是第l-1层的最大池化层的输出，具体算式如下：

其中ρ是池化窗口的大小，设置为4，β是下采样因子，设置为2。

卷积解码器是由卷积层和上采样层组成。卷积解码器的输入是特征，输出是重构的样本x'⁽ⁱ⁾，特征向量是M_d，第l层卷积核是是偏置是输出是d表示解码器输出，具体计算见式(3)：

是第l-1层的最大池化层的输出，具体算式如下：

其中ε是上采样因子，设置为2。

在预训练过程中，通过优化损失函数L_ed重构输入信号样本，具体计算见式(5)：

其中C表示输入样本的总数，n表示输入数据维度。

S3、将源域划分为训练集和测试集，根据元学习协议随机抽取训练数据，形成100个元任务，每个元任务中的类别数为N；

元学习可以解决在有限的数据情况下的跨域故障诊断问题，具体来说，元学习是让模型从多个相关任务中学习元知识，在目标任务中表现出更强的泛化能力和更快的适应能力，根据N-way,K-shot,U-test协议组织元任务T，每次从总类别中随机抽取N个类别，每个类别中分别随机抽取K个标记样本组成支持集S，抽取U个未标记样本作为查询集Q。S用于训练故障分类模型并提供相应损失的反馈，Q用于评估训练后模型的性能，具体算式如下：

T＝S∪Q                              (6)

其中x_i和y_i是第i个输入数据及标签，属于集合C，c_i是每个类别下的数据集的集合，C是训练或测试数据集的所有类的集合。训练集和查询集的标签是互斥的，即：

C_train∩C_test＝0                         (10)

S4、上游网络使用源域训练样本训练加权自编码器，将其网络参数和权重传递到下游网络；

考虑到上游网络学习的特征偏重全面，但是在实际应用中，不同信号段的振动信号对故障识别的影响不同，本发明在下游网络引入注意力加权机制网络，如图2所示。使用少量标记样本微调网络权值，筛选并抑制无用的故障特征，以此来获得具有判别性的故障特征。由于每个元任务的样本少，选取过深的网络会导致过拟合，本发明选择4层卷积。

所述目标域模型迁移包含步骤：

S5、利用AWEN网络提取目标域样本特征并构建任务图；

首先将原始特征M_e输入到二维卷积中做卷积操作，得到特征的重要程度，Sigmoid函数调整生成的特征权重。具体计算见式(11)：

其中，σ代表Sigmoid函数，α为生成的特征调整权重。为了能够避免注意力过度的问题，进行特征重标定操作，如式(13)所示，这里直接使用特征权值α与输出特征M进行匹配相乘得到输出O。具体计算见式(12)和(13)：

最后在保留重标定特征O的同时，引入残差连接来提升特征提取方法的性能，如式(14)所示，用原始输入特征M_e与重标定特征O相加，得到注意力机制下最终学习到的新特征向量M′_e。

S6、利用LTGL方法进行图学习并更新局部图的节点之间的边权，得到查询集的预测标签；

基于任务的图学习方法除了考虑到样本和样本之间的关系，还兼顾了样本组(包含所有故障类别的样本组)之间的全局相关性，减少模型误判，其利用卷积神经网络更新任务图结构的节点和边权，使支持集S中的已知样本之间更具区分性，查询集Q的预测标签更精准。

图中包含|T|＝N×K+U个特征节点。G＝(V_G,E_G；T)表示任务图的节点和边权结构。V_G＝{v_i}_{i＝1,...,|T|}表示图中节点集，其初始值来自于AWEN网络模型的输出特征E_G＝{e_ij}_{i,j＝1,...,|T|}表示图中节点间的边权集合，其初始值算式如下：

其中，y_i表示i的标签类别，[e₁||e₂]中的e₁代表相似性，e₂代表相异性，||是连接操作。

如图3所示，首先通过相邻节点之间的聚合更新节点特征信息利用l-1层的边缘特征对节点的更新进行加权，具体算式如下：

之后利用图神经网络计算下一层网络的输入节点之间的边权，具体算式如下：

其中表示l层的节点i和j之间的相似权重和相异权重，是参数的相似性度量网络，用于计算2个节点的相似程度，网络构成为一个简单的多层感知网络。

最终以边权重为主要分类依据，通过不断更新边权最终得到样本间的相关度，实现故障分类。损失函数具体算式如下：

其中E_T表示为每轮的任务数量，U表示查询集样本个数，表示第i个样本的预测标签，L_e定义为交叉熵损失。

S7、将任务中的已知样本的标签信息传播到未知样本中，保存训练好的网络模型并应用至目标域的数据集上。

最终的对比实验结果如图表所示，从表中可以看出本方法在CWRU数据集和航空发附机匣数据集上均取得了较好的实验效果。

本发明还可有其它多种实施例，在不背离本发明精神及其实质的情况下，本领域技术人员当可根据本发明做出各种相应的改变和变形，但这些相应的改变和变形都应属于本发明范围。

Claims (5)

1.融合元学习与图神经网络的稀有故障诊断方法，其特征在于，包含源域模型训练和目标域模型迁移：

所述源域模型训练包含步骤：

S1、通过STFT将采集到的振动信号转换为时频图像，融合多通道图像数据；

S2、利用数据量充足的数据集作为源域，将来自源域的标记数据输入到编码器中，得到样本的特征表示，再利用解码器重构输入数据，通过优化损失函数L_ed，更新编码器的每层网络参数；

S3、将源域划分为训练集和测试集，根据元学习协议随机抽取训练数据，形成100个元任务，每个元任务中的类别数为N；

S4、上游网络使用源域训练样本训练加权自编码器，将其网络参数和权重传递到下游网络；

所述目标域模型迁移包含步骤：

S5、利用注意力加权机制网络提取目标域样本特征并构建任务图；

S6、利用基于局部任务的图学习方法进行图学习并更新局部图的节点之间的边权，得到查询集的预测标签；

S7、将任务中的已知样本的标签信息传播到未知样本中，保存训练好的网络应用至目标域的数据集上。

2.如权利要求1所述的融合元学习与图神经网络的稀有故障诊断方法，其特征在于，步骤S2中所述的编码器和解码器的原理和损失函数L_ed的计算公式如下：

本方法利用自编码器进行预训练，上游网络模型包括卷积编码器和卷积解码器，通过重构后的数据和原始数据相比，让编码器不断学习，直到其最大可能的代表输入数据，然后迁移至下游网络；卷积编码器由卷积层和最大池化层组成，输入是二维时频图xⁱ，输出为提取的图像特征，特征向量是M_e，第l层卷积核是

偏置是

输出是

其中e表示编码器输出，h表示隐藏层，具体计算见式(1)：

是第l-1层的最大池化层的输出，具体算式如下：

其中ρ是池化窗口的大小，设置为4，β是下采样因子，设置为2；

卷积解码器是由卷积层和上采样层组成。卷积解码器的输入是特征，输出是重构的样本x'⁽ⁱ⁾，特征向量是M_d，第l层卷积核是是

偏置是

输出是

d表示解码器输出，具体计算见式(3)：

是第l-1层的最大池化层的输出，具体算式如下：

其中ε是上采样因子，设置为2；

在预训练过程中，通过优化损失函数L_ed重构输入信号样本，具体计算见式(5)：

其中C表示输入样本的总数，n表示输入数据维度。

3.如权利要求1所述的融合元学习与图神经网络的稀有故障诊断方法，其特征在于，步骤S3中所述的元学习协议原理如下：

元学习可以解决在有限的数据情况下的跨域故障诊断问题，具体来说，元学习是让模型从多个相关任务中学习元知识，在目标任务中表现出更强的泛化能力和更快的适应能力，根据N-way,K-shot,U-test协议组织元任务T，每次从总类别中随机抽取N个类别，每个类别中分别随机抽取K个标记样本组成支持集S，抽取U个未标记样本作为查询集Q，S用于训练故障分类模型并提供相应损失的反馈，Q用于评估训练后模型的性能，具体算式如下：

T＝S∪Q    (6)

其中x_i和y_i是第i个输入数据及标签，属于集合C，c_i是每个类别下的数据集的集合，C是训练或测试数据集的所有类的集合，训练集和查询集的标签是互斥的。

C_train∩C_test＝0        (10)

4.如权利要求1所述的融合元学习与图神经网络的稀有故障诊断方法，其特征在于，步骤S4中所述的引入注意力加权机制的自编码器计算方法以及步骤S5利用注意力加权机制网络提取目标域样本特征过程如下：

使用少量标记样本微调网络权值，筛选并抑制无用的故障特征，以此来获得具有判别性的故障特征；首先将原始特征M_e输入到二维卷积中做卷积操作，得到特征的重要程度，Sigmoid函数调整生成的特征权重。具体计算见式(11)：

其中，σ代表Sigmoid函数，α为生成的特征调整权重；为了能够避免注意力过度的问题，进行特征重标定操作，如式(13)所示，这里直接使用特征权值α与输出特征M进行匹配相乘得到输出O；具体计算见式(12)和(13)：

最后在保留重标定特征O的同时，引入残差连接来提升特征提取方法的性能，如式(14)所示，用原始输入特征M_e与重标定特征O相加，得到注意力机制下最终学习到的新特征向量M′_e。

5.如权利要求1所述的融合元学习与图神经网络的稀有故障诊断方法，其特征在于，步骤S6中所述的基于局部任务的图学习方法的计算方法如下：

基于任务的图学习方法除了考虑到样本和样本之间的关系，还兼顾了样本组(包含所有故障类别的样本组)之间的全局相关性，减少模型误判，其利用卷积神经网络更新任务图结构的节点和边权，使支持集S中的已知样本之间更具区分性，查询集Q的预测标签更精准；

图中包含|T|＝N×K+U个特征节点。G＝(V_G,E_G；T)表示任务图的节点和边权结构。V_G＝{v_i}_{i＝1,...,|T|}表示图中节点集，其初始值来自于AWEN网络模型的输出特征

E_G＝{e_ij}_{i,j＝1,...,|T|}表示图中节点间的边权集合，其初始值算式如下：

其中，y_i表示i的标签类别，[e₁||e₂]中的e₁代表相似性，e₂代表相异性，||是连接操作；

首先通过相邻节点之间的聚合更新节点特征信息

利用l-1层的边缘特征

对节点的更新进行加权，具体算式如下：

之后利用图神经网络计算下一层网络的输入节点之间的边权，具体算式如下：

其中

表示l层的节点i和j之间的相似权重和相异权重，

是参数

的相似性度量网络，用于计算2个节点的相似程度，网络构成为一个简单的多层感知网络；

最终以边权重为主要分类依据，通过不断更新边权最终得到样本间的相关度，实现故障分，损失函数具体算式如下：

其中E_T表示为每轮的任务数量，U表示查询集样本个数，

表示第i个样本的预测标签，L_e定义为交叉熵损失。

Images