CN118332291B - 一种飞行器多传感器数据故障预测方法 - Google Patents
一种飞行器多传感器数据故障预测方法 Download PDFInfo
- Publication number
- CN118332291B CN118332291B CN202410748477.1A CN202410748477A CN118332291B CN 118332291 B CN118332291 B CN 118332291B CN 202410748477 A CN202410748477 A CN 202410748477A CN 118332291 B CN118332291 B CN 118332291B
- Authority
- CN
- China
- Prior art keywords
- data
- layer
- time
- model
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 230000002159 abnormal effect Effects 0.000 claims abstract description 43
- 230000008569 process Effects 0.000 claims abstract description 25
- 238000009792 diffusion process Methods 0.000 claims abstract description 12
- 238000013528 artificial neural network Methods 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 claims description 37
- 238000004364 calculation method Methods 0.000 claims description 32
- 230000007246 mechanism Effects 0.000 claims description 19
- 238000009826 distribution Methods 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 12
- 238000010606 normalization Methods 0.000 claims description 10
- 238000013507 mapping Methods 0.000 claims description 8
- 230000015654 memory Effects 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 3
- 238000013461 design Methods 0.000 description 6
- XDLMVUHYZWKMMD-UHFFFAOYSA-N 3-trimethoxysilylpropyl 2-methylprop-2-enoate Chemical compound CO[Si](OC)(OC)CCCOC(=O)C(C)=C XDLMVUHYZWKMMD-UHFFFAOYSA-N 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- SHQNGLYXRFCPGZ-UHFFFAOYSA-N ethyl 2-(2-amino-1,3-thiazol-4-yl)acetate Chemical compound CCOC(=O)CC1=CSC(N)=N1 SHQNGLYXRFCPGZ-UHFFFAOYSA-N 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000007787 long-term memory Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及多传感器数据处理技术领域，具体为一种飞行器多传感器数据故障预测方法。包括多传感器异常数据增强模型和基于神经网络的故障预测模型；多传感器异常数据增强模型是基于扩散过程来生成新的时间序列数据，由编码器、数据生成网络、解码器组成；基于神经网络的故障预测模型包括深度孪生自注意力网络模型，深度孪生自注意力网络模型包含两个网络结构相似的子模型。该发明能够实现输入一个传感器异常数据类型，便可生成多个与实际飞行过程中传感器采集到的异常数据相似度高的数据，将生成的数据用于故障预测模型的模型参数更新，最终提高故障预测准确率。
Description
技术领域
本发明涉及多传感器数据处理技术领域，特别涉及一种飞行器多传感器数据故障预测方法。
背景技术
飞行器通常通过搭载多种传感器来检测各个部件的运行状态，为了加强飞行器的安全工作，需要基于上述传感器采集获得的数据进行故障预测。现有的飞行器多传感器数据的故障预测方法流程通常分为三个阶段。第一个阶段是为了通过无监督学习算法以改善传感器异常数据量较少的情况。第二个阶段是从机务质量控制系统中导出的故障记录中筛选与传感器数据有潜在关联的记录；人工标注典型故障模式及正常模式下的传感器数据（故障时间和类型等），构造带有标注的数据集。第三个阶段是利用第二阶段的有标注数据进行深层神经网络模型的有监督训练以进行参数更新，获得可以预测故障的模型，最终实现飞行器的运行故障预测。
经检索，现有专利（申请公布号：CN 114357372 A）公开了一种基于多传感器数据驱动的飞机故障诊断模型生成方法。其使用灵活、计算量小，通过利用时间窗口方法来进行样本数据准备，将经过标准化后的原始传感器采集数据作为卷积神经网络模型输入，可以根据标准化后的多传感器采集数据高效、精确地诊断系统中的复杂故障，对飞行器的完好率和出勤率提升具有重要的现实意义。
然而，现有的方法存在一定的缺陷，导致实际场景部署运用时的故障预测模型的准确度表现较差。首先，针对第一阶段，实际的故障数据的分布和预期相差大。具体表现在：1、故障本身会导致传感器的采集数值就存在异常；2、不同飞行器间的传感器采集数据存在误差。这导致异常数据和正常数据之间的关联性可能会大于正常数据间的关联性，进而造成无法识别其为异常数据。其次，针对第二个阶段，人工标注会消耗大量的时间和人力。最后针对第三阶段，采集自多传感器的数据呈现形式是多维度的时间序列数据，传统的深度神经网络模型在处理多维度的时间序列数据时无法较好地提取复杂的时序关系。这导致模型实际部署后，预测准确性较差。
为此通常需要结合领域知识、数据增强技术和模型正则化等方法改进性能。故此，提出一种飞行器多传感器数据故障预测方法，来有效解决上述技术问题。
发明内容
本发明的主要目的在于提供一种飞行器多传感器数据故障预测方法，旨在解决现有传感器异常数据量较少，以及模型实际部署后，预测准确性较差、泛化能力弱的问题。
为实现上述目的，本发明采取的技术方案为：一种飞行器多传感器数据故障预测方法，包括多传感器异常数据增强模型和基于神经网络的故障预测模型；
所述多传感器异常数据增强模型是一个时间序列生成模型，所述模型是基于扩散过程来生成新的多维时间序列数据，所述模型由编码器、数据生成网络、解码器组成；
所述编码器是将输入初始异常数据通过添加高斯噪声过程实现输入数据向隐空间的映射，在隐空间中对映射获得的向量进行数据生成网络计算；
所述数据生成网络是在隐空间中通过长短期记忆网络不断地预测下一个时刻的信号并输入至解码器；
所述解码器是高斯噪声去除的过程，通过对数据生成网络输出的预测信号和潜在向量更新时间序列数据不断地高斯去噪，最终生成了用于故障预测模型参数更新的异常多维时间序列数据；
所述基于神经网络的故障预测模型包括一个深度孪生自注意力网络模型，所述的深度孪生自注意力网络模型包含两个网络结构相似的子模型，所述子模型包含嵌入层、多头注意力机制层、标准化层、全连接层、基于距离相似度计算层和分类层；
所述多维时间序列数据通过嵌入层完成编码，输入至多头注意力机制层；
所述多头注意力机制层对编码数据进行特别特征的提取输入至标准化层；
所述标准化层完成对于数据的归一化，压缩数据的幅值至相应统一范围后输入至全连接层；
所述全连接层对数据进行进一步的权重加成计算，并将结果输入距离相似度计算层；
所述距离相似度计算层完成不同特征值的差值运算，并将结果输入至分类层；
所述分类层基于输入差值的大小，完成最终故障类型的判别。
进一步的，多传感器异常数据增强模型，用于生成异常数据，具体包括以下步骤：
提供需要的传感器异常数据类型，并生成出与飞行器实际飞行过程中传感器采集到的异常数据相似度高的数据，通过获得大量的异常数据用于故障预测模型的模型参数更新。如图2所示，具体步骤如下：
编码器(E)根据用户输入的传感器数据类型，随机生成初始时间序列数据和其
他用户自定义的条件，被处理为潜在表示：
（1）；
其中，当用户完成输入后，初始时间序列数据和即为已知量，编码器(E)计算
输出潜在向量的均值μ和对数方差，之后从高斯分布噪声中采样实现输入数据向隐
空间映射，获得潜在向量，表示为：
（2）；
其中，是已知的标准正态分布的噪声，是已知量，σ则根据上一步的对数
方差计算而来，σ=exp()；
之后通过数据生成网络进行数据生成，这个过程涉及多个时间步长，每个时间步
长，解码器(D)将当前的时间序列数据和潜在向量作为输入，预测下一步的时间序列数
据，而时刻从高斯分布中采样获得的噪声向量记为：
（3）；
通过长短期记忆网络来对每个时间步长的时间序列数据进行预测。设为当前
时间步的时间序列数据，为下一时间步的时间序列数据：
（4）；
此处通过最初的已知量不断迭代计算求得，表示每个时间步的特征维度集
合。
上述预测过程不断地重复，直到生成完整的时间序列数据。在每个时间步长，解
码器(D)都会根据当前的数据生成网络输出的预测值和潜在向量更新时间序列数据。经过
多个时间步长的预测和更新后，解码器最终生成一个完整的时间序列数据，
（5）；
进一步的，所述故障预测模型是将生成获得异常数据用于故障预测模型的模型参数更新以提高故障预测模型的准确性，之后用于故障预测具体步骤如下：
将步骤S1中生成获得异常数据用于故障预测模型的模型参数更新，以提高故障预测模型的准确性，之后用于故障预测具体步骤如下：
将生成获得的多个时间序列数据表示为，其中是时间步数，是每
个时间步的特征维度集合，这两个数据在获得时间序列数据后便可确定其具体数值，可作
已知量，之后通过嵌入层对序列顺序信息添加位置编码：
（6）；
是位置编码矩阵，为时间步的特征维度的子集表示，则嵌入层的输出可表示为
（7）；
之后进行多头注意力机制层的运算，分为时间维度和特征维度，时间维度表示为：
（8）；
其中，为时间维度上的投影矩阵，当用户确定输入后
即可获得，可作已知量。
时间维度注意力得分为：
（9）；
是键向量，通过时间步的输入通过查表获得，是已知量，表示的是键向量
的维度，当键向量确定后即可获得，可作已知量。
时间维度注意力输出为：
（10）；
特征维度表示为：
（11）；
其中，为特征维度上的投影矩阵，当用户确定输入后
即可获得，可作已知量。
特征维度注意力得分为：
（12）；
是键向量，通过特征的输入通过查表获得，是已知量，表示的是键向量的
维度，当键向量确定后即获得，作已知量；
特征维度注意力输出为：
（13）；
将时间和特征维度的多头注意力输出结果结合Concat起来，记作：
（14）；
其中，为输出投影矩阵是已知量，之后通过标准化层进行归一化，
结果记作：
(15);
来自于公式(5)-(7)的计算结果，可作为已知量，来自于公式(8)-(14)的计算
结果，同样可作已知量；
之后进行全连接层的计算：
(16);
其中,将计算结果输入至距离相似度H计算层，表示权重，表示偏置，这个过程类似于最邻近计算：
(17);
此处为上述过程的预测值，可作计算求得已知量，为已知的故障数值。
最后通过分类层完成分类计算：
(18);
其中,是分类的类别数。
与现有技术相比，本发明具有如下有益效果：
1、 本发明能够实现输入一个传感器异常数据类型，便可生成多个异常数据，可以很好地增加异常数据量；由于是基于扩散模型的设计，扩散模型擅长捕捉和复现复杂的高维度的数据特征分布，能有效地模拟这些复杂的依赖关系，从而极大提高了生成用于故障预测模型模型参数更新所需数据与真实数据的相似度。
2、 本发明是基于深度孪生自注意力网络模型的设计，深度孪生自注意力网络模型擅长捕捉和复现复杂的高维度的数据特征分布，并针对多维度时间序列数据可以提取出特定的特征信息，以实现准确度更高的故障类型分类。
附图说明
图1为本发明提出的飞行器多传感器数据故障预测方法的系统流程图；
图2为本发明的多传感器异常数据增强模型的工作流程图；
图3为本发明提出的故障预测模型的工作流程图。
具体实施方式
为使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解，下面结合具体实施方式，进一步阐述本发明。
实施例1
请参阅图1-3，本发明提供一种技术方案：图1展示了一种飞行器多传感器数据故障预测方法，包括多传感器异常数据增强模型和基于神经网络的故障预测模型，多传感器异常数据增强模型根据已有传感器异常数据生成多维时间序列，多维时间序列用于故障预测模型的参数更新，之后利用训练好的故障预测模型在新的真实飞行器传感器数据上进行故障类型的预测；
图2展示了多传感器异常数据增强模型是一个时间序列生成模型，模型是基于扩散过程来生成新的时间序列数据，模型由编码器、数据生成网络、解码器组成；
编码器是将输入异常数据生成需求通过添加高斯噪声过程实现输入数据向隐空间的映射，其具体过程如下：
编码器(E)根据用户输入的传感器数据类型，随机生成初始时间序列数据和其
他用户自定义的条件，被处理为潜在表示：
(1);
其中，当用户完成输入后，初始时间序列数据和即为已知量，编码器(E)计算
输出潜在向量的均值μ和对数方差，之后从高斯分布噪声中采样实现输入数据向隐
空间映射，获得潜在向量，表示为：
(2);
其中，ϵ~N(0,I)是已知的标准正态分布的噪声，是已知量，σ则根据上一步的对数
方差计算而来，σ=exp()
数据生成网络是在隐空间中通过长短期记忆网络不断地预测下一个时刻的信号
并输入至解码器，这个过程涉及多个时间步长，每个时间步长，解码器(D)将当前的时间
序列数据和潜在向量作为输入，预测下一步的时间序列数据，而时刻从高斯分布中采样
获得的噪声向量记为：
(3);
通过长短期记忆网络来对每个时间步长的时间序列数据进行预测。设为当前
时间步的时间序列数据，为下一时间步的时间序列数据：
(4);
此处通过最初的已知量不断迭代计算求得，表示每个时间步的特征维度集
合。
上述预测过程不断地重复，直到生成完整的时间序列数据。在每个时间步长，解
码器(D)都会根据当前的数据生成网络输出的预测值和潜在向量更新时间序列数据。经过
多个时间步长的预测和更新后，解码器最终生成一个完整的时间序列数据，
(5);
图3展示了基于神经网络的故障预测模型包括一个深度孪生自注意力网络模型，深度孪生自注意力网络模型包含两个网络结构相似的子模型，子模型包含嵌入层、多头注意力机制层、标准化层、全连接层、基于距离相似度计算层和分类层；
多维时间序列数据通过嵌入层完成编码，具体这一过程：
将生成获得的多个时间序列数据表示为，其中是时间步数，是每
个时间步的特征维度集合，这两个数据在获得时间序列数据后便可确定其具体数值，可作
已知量。之后通过嵌入层对序列顺序信息添加位置编码：
(6);
是位置编码矩阵，为时间步的特征维度的子集表示，则嵌入层的输出可表示为
（7）；
之后将完成编码的数据输入至多头注意力机制层；
多头注意力机制层分为时间维度和特征维度，时间维度表示为：
(8）；
其中，为时间维度上的投影矩阵，当用户确定输入后
即可获得，可作已知量。
时间维度注意力得分为：
（9）；
是键向量，通过时间步的输入通过查表获得，是已知量，表示的是键向量
的维度，当键向量确定后即可获得，可作已知量。
时间维度注意力输出为：
（10）；
特征维度表示为：
（11）；
其中，为特征维度上的投影矩阵，当用户确定输入后
即可获得，可作已知量。
特征维度注意力得分为：
（12）；
是键向量，通过特征的输入通过查表获得，是已知量，表示的是键向量的
维度，当键向量确定后即获得，作已知量；
特征维度注意力输出为：
（13）；
将时间和特征维度的多头注意力输出结果结合Concat起来，记作：
（14）；
其中，为输出投影矩阵是已知量，之后对编码数据进行特别特征的
提取输入至标准化层，结果记作；
（15）；
来自于公式(5)-(7)的计算结果，可作为已知量，来自于公式(8)-(14)的计算
结果，同样可作已知量；
标准化层完成对于数据的归一化，压缩数据的幅值至相应统一范围后输入至全连接层；
（16）；
其中,全连接层对数据进行进一步的权重加成计算，表示
权重，表示偏置，并将结果输入至距离相似度计算层；
（17）；
此处为上述过程的预测值，可作计算求得已知量，为已知的故障数值。距离
相似度计算层完成不同特征值的差值运算，并将结果输入至分类层；
分类层基于输入差值的大小，完成最终故障类型的判别。
（18）；
更进一步的，本发明提供的一种飞行器多传感器数据故障预测方法，具体包括以下步骤：
S1、多传感器异常数据增强模型：
提供需要的传感器异常数据类型，并生成出与飞行器实际飞行过程中传感器采集到的异常数据相似度高的数据，通过获得大量的异常数据用于故障预测模型的参数更新；
S2、故障预测模型：
将步骤S1中生成获得异常数据用于故障预测模型的模型参数更新，以提高故障预测模型的准确性。
表1：生成模型数据与真实数据相似度
| 方法 | 相似度 |
| TS-GAN | 0.309±.039 |
| TimeGAN | 0.365±.014 |
| TimeVAE | 0.414±.050 |
| 时间序列生成模型 | 0.485±.001 |
由表1可见：对抗生成网络为基础的模型（TS-GAN和TimeGAN）不是概率模型，容易造成生成的结果在极狭小的分布内,最终导致生成的结果不再有细节的变化，因此其生成的相似度，与实际传感器获得的数据相似度最低。
其中，差分自编码器为基础的模型(TimeVAE)在优化过程中使用了重构误差（如平方误差），这会导致生成的结果趋向于平均化，从而失去了一些高频细节。
本实施例中，本发明提出的时间序列生成模型，是基于扩散模型的设计。扩散模型擅长捕捉和复现复杂的高维度的数据特征分布。多维时序数据通常涉及维度间以及时间上的复杂相互作用，而扩散模型通过迭代细化过程，能有效地模拟这些复杂的依赖关系，从而极大提高了生成模型数据与真实数据的相似度。
表2：故障预测模型准确性
| 方法 | 预测准确性 |
| MEMO | 39.1% |
| DDA | 36.2% |
| EATA | 49.9% |
| 故障预测模型 | 66.6% |
由表2可见：MEMO模型设计有额外的记忆机制以增强模型的记忆能力，但这种记忆的容量可能有限，尤其是在处理非常长的时间序列或极其复杂的数据依赖时，会出现数据的遗忘，导致特征的丢失，进而降低了预测的准确性。
其中，DDA模型使用双重注意力机制（通常是时间和特征注意力）来处理多维时间序列。虽然这种方法在某些情况下有效，但在复杂的数据结构中，双重注意力可能导致关注点分散，从而可能漏掉关键特征信息，特别是在每个维度的重要性高度不均时，而这也是飞行器多传感器数据的特点之一，最终导致准确性最低。
另外，EATA模型旨在通过演化算法优化注意力机制，以适应不同的数据特性，但这种方法的适应性可能受限于演化策略的有效性。在某些复杂或变化快速的时间序列数据中，演化算法可能无法及时适应新的数据模式。具体表现在，飞行器的数据如果因为气流或其它突发情况发生数据值快速变化时，它的预测准确性就会下降。
本实施例中，本发明提出的故障预测模型，是基于transformer模型的设计，通过其自注意力机制，能够有效地捕捉时序数据中的长期依赖关系。并且它能够关注序列中任意两点之间的关系，这使得模型在理解复杂时序动态方面更为有效。通过调整自注意力机制中的头数（本申请中提到的多头注意力机制），transformer模型能够从不同的子空间学习信息，这使得模型可以同时捕捉数据中的多种关系（如趋势、周期性和异常值等）。这种多视角的学习对于理解复杂的多维时序数据特别有效。从而极大提高了故障预测模型的准确性。
需要说明的是：本发明为一种飞行器多传感器数据故障预测方法，该方法能够实现输入一个传感器异常数据类型，便可生成多个与实际飞行过程中传感器采集到的异常数据相似度高的数据，可以很好地增加异常数据量，相较于实际飞行过程中传感器采集到的异常数据，二者相似度极高，极大的提高了故障预测的准确率。
该方法包括多传感器异常数据增强模型和基于神经网络的故障预测模型，其提出的故障预测模型，是基于transformer模型的设计，通过其自注意力机制，能够有效地捕捉时序数据中的长期依赖关系。并且它能够关注序列中任意两点之间的关系，这使得模型在理解复杂时序动态方面更为有效。通过调整自注意力机制中的头数，transformer模型能够从不同的子空间学习信息，这使得模型可以同时捕捉数据中的多种关系（如趋势、周期性和异常值等）。这种多视角的学习对于理解复杂的多维时序数据特别有效。从而极大提高了故障预测模型的准确性；并且，该模型是基于扩散模型的设计。扩散模型擅长捕捉和复现复杂的高维度的数据特征分布。多维时序数据通常涉及维度间以及时间上的复杂相互作用，而扩散模型通过迭代细化过程，能有效地模拟这些复杂的依赖关系，从而极大提高了生成模型与真实数据的相似度。有效的解决了现有方法所存在的缺陷，利于推广使用。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (3)
1.一种飞行器多传感器数据故障预测方法，其特征在于：包括多传感器异常数据增强模型和基于神经网络的故障预测模型；
所述多传感器异常数据增强模型是一个时间序列生成模型，所述时间序列生成模型是基于扩散过程来生成新的多维时间序列数据，所述模型由编码器、数据生成网络、解码器组成；
所述编码器是将输入初始异常数据通过添加高斯噪声过程实现输入数据向隐空间的映射，在隐空间中对映射获得的向量进行数据生成网络计算；
所述数据生成网络是在隐空间中通过长短期记忆网络不断地预测下一个时刻的信号并输入至解码器；
所述解码器是高斯噪声去除的过程，通过对数据生成网络输出的预测信号和潜在向量更新时间序列数据不断地高斯去噪，最终生成了用于故障预测模型参数更新的异常多维时间序列数据；
所述基于神经网络的故障预测模型包括一个深度孪生自注意力网络模型，所述的深度孪生自注意力网络模型包含两个网络结构相似的子模型，所述子模型包含嵌入层、多头注意力机制层、标准化层、全连接层、基于距离相似度计算层和分类层；
所述多维时间序列数据通过嵌入层完成编码，输入至多头注意力机制层；
所述多头注意力机制层对编码数据进行特别特征的提取输入至标准化层；
所述标准化层完成对于数据的归一化，压缩数据的幅值至相应统一范围后输入至全连接层；
所述全连接层对数据进行进一步的权重加成计算，并将结果输入至距离相似度计算层；
所述距离相似度计算层完成不同特征值的差值运算，并将结果输入至分类层；
所述分类层基于输入差值的大小，完成最终故障类型的判别。
2.根据权利要求1所述的一种飞行器多传感器数据故障预测方法，其特征在于所述多传感器异常数据增强模型，用于生成异常数据，具体步骤如下：
输入传感器异常数据，数据增强模型生成出与飞行器实际使用过程中传感器采集到的异常数据相似度高的数据，通过获得的异常数据用于故障预测模型的模型参数更新，整个过程的具体步骤如下：
编码器根据用户输入的传感器数据类型，随机生成初始时间序列数据x0和其他用户自定义的条件c，被处理为潜在表示：
μ,logσ2＝E(x0,c) (1)
其中，当用户完成输入后，编码器计算输出潜在向量的均值μ和对数方差logσ2，之后从高斯分布噪声中采样实现输入数据向隐空间映射，获得潜在向量z，表示为：
z＝μ+σ·∈ (2)
其中，∈～N(0,1)是已知的标准正态分布的噪声，σ根据上一步的对数方差计算而来，σ＝exp(logσ2/2)；
之后通过数据生成网络进行数据生成，这个过程涉及多个时间步长t，每个时间步长t，解码器将当前的时间序列数据和潜在向量z作为输入，预测下一步的时间序列数据，而t时刻从高斯分布中采样获得的噪声向量记为∈t：
∈t～N(0,1) (3)
通过长短期记忆网络来对每个时间步长t的时间序列数据进行预测，设xt为当前时间步长的时间序列数据，xt+1为下一时间步长的时间序列数据：
xt+1＝D(xt,z,∈t) (4)
此处xt通过最初的已知量x0不断迭代计算求得，D表示每个时间步的特征维度集合；
上述预测过程不断地重复，直到生成完整的时间序列数据，在每个时间步长t，解码器都会根据当前的数据生成网络输出的预测值和潜在向量更新时间序列数据，经过多个时间步长的预测和更新后，解码器最终生成一个完整的时间序列数据如下：
3.根据权利要求2所述的一种飞行器多传感器数据故障预测方法，其特征在于所述故障预测模型是将生成获得异常数据用于故障预测模型的模型参数更新以提高故障预测模型的准确性，之后用于故障预测，具体步骤如下：
将生成获得的多个时间序列数据表示为X∈RB×D，其中B是时间步数，D是每个时间步的特征维度集合，这两个数据在获得时间序列数据后便确定其具体数值，作已知量，之后通过嵌入层对序列顺序信息添加位置编码：
P是位置编码矩阵，d为时间步的特征维度的子集表示，则嵌入层的输出表示为：
Z＝X+P (7)
之后进行多头注意力机制层的运算，分为时间维度和特征维度，时间维度表示为：
其中，为时间维度上的投影矩阵，当用户确定输入后即获得，作已知量；
时间维度注意力得分为At：
是键向量，通过时间步长t的输入通过查表获得，是已知量，dk表示的是键向量的维度，当键向量确定后即获得，是已知量；
时间维度注意力输出为：
Ot＝AtVt (10)
特征维度表示为：
其中，为特征维度上的投影矩阵，当用户确定输入后即获得，作已知量；
特征维度注意力得分为Af：
是键向量，通过特征f的输入通过查表获得，是已知量，dk表示的是键向量的维度，当键向量确定后即获得，是已知量；
特征维度注意力输出为Of：
Of＝AfVf (13)
将时间和特征维度的多头注意力输出结果结合起来，记作O：
O＝Concat(Ot,Of)WO (14)
其中，为输出投影矩阵是已知量，之后通过标准化层进行归一化，结果记作Z′：
Z′＝LayerNorm(Z+O) (15)
Z来自于公式(5)-(7)的计算结果，作为已知量，O来自于公式(8)-(14)的计算结果，作已知量；
之后进行全连接层的计算：
F(Z′)＝ReLU(Z′W1+b1)W2+b2 (16)
其中W1,W2∈Rd×D,将计算结果输入至距离相似度H计算层，W1,W2表示权重，b1，b2表示偏置，计算公式如下：w表示权重，b表示偏置
此处Fi为上述过程的预测值F，作计算求得已知量，yi为已知的故障数值；
最后通过分类层完成分类计算：
y＝softmax(HWc+bc) (18)
其中Wc∈RC×D,C是分类的类别数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410748477.1A CN118332291B (zh) | 2024-06-12 | 2024-06-12 | 一种飞行器多传感器数据故障预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410748477.1A CN118332291B (zh) | 2024-06-12 | 2024-06-12 | 一种飞行器多传感器数据故障预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN118332291A CN118332291A (zh) | 2024-07-12 |
| CN118332291B true CN118332291B (zh) | 2024-08-23 |
Family
ID=91782554
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410748477.1A Active CN118332291B (zh) | 2024-06-12 | 2024-06-12 | 一种飞行器多传感器数据故障预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118332291B (zh) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115018021A (zh) * | 2022-08-08 | 2022-09-06 | 广东电网有限责任公司肇庆供电局 | 基于图结构与异常注意力机制的机房异常检测方法及装置 |
| CA3177585A1 (en) * | 2021-04-16 | 2022-10-16 | Strong Force Vcn Portfolio 2019, Llc | Systems, methods, kits, and apparatuses for digital product network systems and biology-based value chain networks |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11029359B2 (en) * | 2018-03-09 | 2021-06-08 | Pdf Solutions, Inc. | Failure detection and classsification using sensor data and/or measurement data |
| US11579951B2 (en) * | 2018-09-27 | 2023-02-14 | Oracle International Corporation | Disk drive failure prediction with neural networks |
| CN117236460A (zh) * | 2022-06-06 | 2023-12-15 | 上海联麓半导体技术有限公司 | 一种模型训练方法、装置、可读存储介质及电子设备 |
| CN115935186A (zh) * | 2022-12-07 | 2023-04-07 | 上海工程技术大学 | 一种基于增强生成模型的工序异常检测方法 |
| CN116933197B (zh) * | 2023-09-19 | 2023-12-08 | 安徽融兆智能有限公司 | 一种基于大数据的用电信息采集系统故障判别方法及系统 |
| CN117574308B (zh) * | 2024-01-17 | 2024-03-26 | 江西金格信安云技术有限公司 | 基于人工智能的计量芯片异常检测方法及系统 |
| CN118133203A (zh) * | 2024-03-21 | 2024-06-04 | 合肥市厚全电子科技有限公司 | 一种电能计量检测信息故障诊断方法 |
-
2024
- 2024-06-12 CN CN202410748477.1A patent/CN118332291B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CA3177585A1 (en) * | 2021-04-16 | 2022-10-16 | Strong Force Vcn Portfolio 2019, Llc | Systems, methods, kits, and apparatuses for digital product network systems and biology-based value chain networks |
| CN115018021A (zh) * | 2022-08-08 | 2022-09-06 | 广东电网有限责任公司肇庆供电局 | 基于图结构与异常注意力机制的机房异常检测方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118332291A (zh) | 2024-07-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111914873B (zh) | 一种两阶段云服务器无监督异常预测方法 | |
| Zhu et al. | Estimation of bearing remaining useful life based on multiscale convolutional neural network | |
| Yin et al. | Wasserstein Generative Adversarial Network and Convolutional Neural Network (WG‐CNN) for Bearing Fault Diagnosis | |
| CN112036513B (zh) | 基于内存增强潜在空间自回归的图像异常检测方法 | |
| CN113673346B (zh) | 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法 | |
| CN114386521A (zh) | 时间序列数据的异常检测方法、系统、设备和存储介质 | |
| CN113255573B (zh) | 基于混合簇中心标签学习的行人重识别方法和存储介质 | |
| US20230085991A1 (en) | Anomaly detection and filtering of time-series data | |
| Tra et al. | Outlier detection via multiclass deep autoencoding Gaussian mixture model for building chiller diagnosis | |
| CN116451117A (zh) | 一种基于联邦学习的电力数据异常检测方法 | |
| CN114548199A (zh) | 一种基于深度迁移网络的多传感器数据融合方法 | |
| CN112257263A (zh) | 基于自注意力机制的设备剩余寿命预测系统 | |
| Kohlsdorf et al. | An auto encoder for audio dolphin communication | |
| Xiu et al. | Fault detection using structured joint sparse nonnegative matrix factorization | |
| Lee et al. | Semi-supervised learning for simultaneous location detection and classification of mixed-type defect patterns in wafer bin maps | |
| Xu et al. | Deep dynamic adaptation network: a deep transfer learning framework for rolling bearing fault diagnosis under variable working conditions | |
| Dangut et al. | Rescaled-LSTM for predicting aircraft component replacement under imbalanced dataset constraint | |
| CN117636477A (zh) | 一种基于径向基函数模糊神经网络的多目标跟踪匹配方法 | |
| CN117592543A (zh) | 一种基于自监督学习的航空发动机滚动轴承故障诊断方法 | |
| CN118332291B (zh) | 一种飞行器多传感器数据故障预测方法 | |
| Zhu et al. | Profile Abstract: an optimization-based subset selection and summarization method for profile data mining | |
| CN115356599B (zh) | 一种多模态城市电网故障诊断方法及系统 | |
| CN116680639A (zh) | 一种基于深度学习的深海潜水器传感器数据的异常检测方法 | |
| CN116361640A (zh) | 一种基于分层注意力网络的多变量时间序列异常检测方法 | |
| CN116522993A (zh) | 一种基于对抗自编码网络的化工过程故障检测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |