CN116127829A - 基于多模态自注意力的机电作动器寿命预测方法及装置 - Google Patents

基于多模态自注意力的机电作动器寿命预测方法及装置 Download PDF

Info

Publication number
CN116127829A
CN116127829A CN202211445102.5A CN202211445102A CN116127829A CN 116127829 A CN116127829 A CN 116127829A CN 202211445102 A CN202211445102 A CN 202211445102A CN 116127829 A CN116127829 A CN 116127829A
Authority
CN
China
Prior art keywords
sub
module
coding
neural network
attention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211445102.5A
Other languages
English (en)
Inventor
陈子涵
张萌
张晓萌
陈辰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Academy of Space Technology CAST
Original Assignee
China Academy of Space Technology CAST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Academy of Space Technology CAST filed Critical China Academy of Space Technology CAST
Priority to CN202211445102.5A priority Critical patent/CN116127829A/zh
Publication of CN116127829A publication Critical patent/CN116127829A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/04—Ageing analysis or optimisation against ageing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Geometry (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种基于多模态自注意力的机电作动器寿命预测方法及装置，所述方法包括：对机电作动器的多模态传感器数据分别标准化；建立多模态自注意力模型，编码模块包括多个并行的子编码模块；编码器模块包括多个并行的、结构相同的编码块，所述编码器模块将编码数据映射到编码空间，得到编码向量；所述剩余寿命映射模块输出机电作动器的剩余寿命；训练多模态自注意力模型，得到训练完毕的多模态自注意力模型；将标准化的机电作动器的多模态传感器数据输入训练完毕的多模态自注意力模型，得到机电作动器的剩余寿命。本方法提出的多模态自注意力模型能够更快捷和更有效地对机电作动器多模态传感器数据建模，更准确地实时预测剩余寿命。

Description

基于多模态自注意力的机电作动器寿命预测方法及装置
技术领域
本发明涉及机电作动器的故障预测与健康管理技术领域，具体涉及一种基于多模态自注意力的机电作动器寿命预测方法及装置。
背景技术
配备电传飞控系统的航天装备日益增加。机电作动器作为一种重要的电传飞控执行器，由于具有更高的可靠性、更低的总重量、更好的可维护性等优点，在航天工业中得到了越来越多的关注和应用。机电作动器是航天器上重要的安全部件之一，航天器机电作动器的工作环境复杂，可能会导致复杂的耦合故障。必须在灾难性故障发生之前留出足够的时间进行寿命预测及应急管理。
目前机电作动器的寿命预测技术可以分为两种方法：基于模型的方法和数据驱动的方法。
基于模型的方法需要建立一个准确的数学模型来模拟机电作动器的输入输出关系或内部状态量的变化规律。通过将模型估计的参数与真实测量的参数进行比较，可以识别机电作动器的性能状态或健康状态。这类方法能够实现非常具体的故障识别，并且能够实时查看特定组件的健康状态。但是需要大量准确的先验知识和预先设计的规则。基于模型的方法常用于机电作动器的故障诊断，难以直接预测机电作动器的剩余寿命，往往是预测电流电压等性能参数。
数据驱动的方法使用监测数据和信号处理技术，利用机电作动器的正常和故障数据建立数据模型，从而学习机电作动器的故障规律。数据驱动的方法可以直接使用传感器数据，随着监测技术和计算能力的提高，数据驱动方法比基于模型的方法更受欢迎。但是目前数据驱动的方法在机电作动器故障诊断方面应用较多，而在其寿命预测方面研究较少。部分研究基于高斯过程回归等传统方法实现寿命预测，但是这类方法在每次预测时均需对历史数据随机抽样，多工况时扩展使用能力较弱，预测准确度较低，并且预测起始点离机电作动器完全失效时刻太近，为后续维护操作留下的时间太少。
基于深度学习相关的研究多集中于机电作动器的故障诊断方面，在寿命预测方面研究较少。其原因是自动编码器、循环神经网络、卷积神经网络等经典深度学习方法在长时间序列特征表征、长时间序列建模、长时间序列预测方面能力较弱。近期发表的《基于多模态Transformer的机电作动器寿命预测技术研究》论文使用Transformer模型开展机电作动器的寿命预测研究，实现了比常规深度学习方法更准确的寿命预测。但是由于机电作动器寿命退化缓慢，该研究设计的Transformer模型无法记忆更长的历史数据，并且该研究使用的Transformer模型对于自注意力的设计不足，难以完全发挥自注意力机制的能力，导致全寿命周期的预测准确率不高。
综上所述，现有技术虽然已在机电作动器的故障预测与健康管理领域有一定研究，但是对其寿命预测方面研究较少，现有技术实施效率低、准确率较低，预测能力差。
发明内容
有鉴于此，本发明提供了一种基于多模态自注意力的机电作动器寿命预测方法及装置，通过重新设计自注意力机制和长时间序列数据建模方法，能够解决现有技术对机电作动器寿命预测的实施效率低、准确率低、预测能力差的技术问题。
为了解决上述技术问题，本发明是这样实现的。
一种基于多模态自注意力的机电作动器寿命预测方法，包括：
步骤S1：对机电作动器的多模态传感器数据分别标准化；
步骤S2：建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
步骤S3：训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
步骤S4：将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
优选地，所述子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；所述第一前馈神经网络组件用于整合该子编码器模块的输入，所述多头注意力组件用于识别该子编码器模块输入的多模态数据的内部特征、认知状态特征参数的寿命空间状态，所述第二前馈神经网络组件用于生成寿命退化规律的潜在表示，所述寿命退化规律的潜在表示为识别寿命退化状态特征和剩余寿命间的潜在关系提供基础。
优选地，所述步骤S1，包括：
步骤S11：基于所述多模态传感器数据建立原始测量数据矩阵Xo，Xo的每一行表示一种传感器数据，每一列表示一个时间步；
步骤S12：对Xo的每一行Xo(i)分别执行以下计算：
Figure BDA0003949402270000041
其中，i为原始测量数据矩阵Xo的行序号，X(i)表示标准化后的数据矩阵的第i行，μo(i)表示Xo(i)的均值，σo(i)表示Xo(i)的标准差；
得到标准化处理后的多模态传感器数据矩阵XS。
优选地，所述编码模块内的子编码模块的编码方式为：
设置每个子编码模块的编码函数相位相差90°；
将所述多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，分别记为XS,1,XS,2,XS,3,XS,4，XS,1,XS,2,XS,3,XS,4分别对应一个子编码模块，作为对应的子编码模块的输入数据；
获取当前子编码模块对应的输入数据XS,num，num为子编码模块编号；
计算待加的子编码模块的编码函数值，所述编码函数为：
Figure BDA0003949402270000042
其中，PE(i,2j)为在XS,num的第i行2j列待加的编码向量，PE(i,2j+1)为在XS,num的第i行2j+1列待加的编码向量，dmodel表示所述多模态自注意力模型的维度，j≥0；
将XS,num中的每个元素与该元素对应的所述待加的子编码模块的编码函数值相叠加，得到当前子编码模块对应的编码数据。
优选地，所述编码器模块包括多个并行的结构相同的编码块，每个编码块由一个或多个逐级相连的子编码器模块组成，子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；其中，第一前馈神经网络组件的输入为所述编码数据或前一级子编码器模块的输出；所述第一前馈神经网络组件的输入及所述第一前馈神经网络组件的输出的叠加作为所述多头注意力组件的输入；所述多头注意力组件的输入、输出的叠加作为所述第二前馈神经网络组件的输入；所述第二前馈神经网络组件的输入、输出的叠加，作为下一级子编码器模块或所述剩余寿命映射模块的输入。
优选地，所述第一前馈神经网络组件及第二前馈神经网络组件结构相同；所述第一前馈神经网络组件包括依次相连的第一层归一化层、第一前馈神经网络层、第二层归一化层；所述第二前馈神经网络组件包括依次相连的第五层归一化层、第二前馈神经网络层、第六层归一化层；所述多头注意力组件包括依次相连的第三层归一化层、多头注意力网络层、第四层归一化层；所述多头注意力是指同时使用多种注意力机制；
所述第一层归一化层、第二层归一化层、第三层归一化层、第四层归一化层、第五层归一化层、第六层归一化层均用于实现对接收到的输入向量映射到0-1之间；
所述第一前馈神经网络层、第二前馈神经网络层结构相同，均包括两个串行连接的全连接前馈神经网络，每个全连接前馈神经网络具有独立的权重、偏差和维度；第一个全连接前馈神经网络使用ReLU激活函数，第二个全连接前馈神经网络不使用激活函数；
所述多头注意力网络层获取所述第三层归一化层的输出，记为X，X为多头注意力的输入，进行以下计算：
Figure BDA0003949402270000051
式中：WQ,WK,WV是权重矩阵，Q、K、V分别为三个不同的注意力矩阵。
再计算注意力A：
Figure BDA0003949402270000061
所述剩余寿命映射模块包括依次相连的展平层、全连接层、Softmax层，其中：
展平层用于将各编码块输出的多维向量转为一维向量，并逐次连接各编码块对应的一维向量。
所述机电作动器的剩余寿命Y的计算过程为：
Y＝softmax(ReLu(ZWz+bz))  (5)
其中，Z为所述编码器模块的输出经展平层处理后的一维向量，Wz,bz分别为全连接层神经网络的权重和偏差。
本发明所提供的一种基于多模态自注意力的机电作动器寿命预测装置，包括：
标准化模块：配置为对机电作动器的多模态传感器数据分别标准化；
多模态自注意力模块：配置为建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
训练模块：配置为训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
剩余寿命输出模块：配置为将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
优选地，所述标准化模块，包括：
获取子模块：配置为基于所述多模态传感器数据建立原始测量数据矩阵Xo，Xo的每一行表示一种传感器数据，每一列表示一个时间步；
处理子模块：配置为对Xo的每一行Xo(i)分别执行以下计算：
Figure BDA0003949402270000071
其中，i为原始测量数据矩阵Xo的行序号，X(i)表示标准化后的数据矩阵的第i行，μo(i)表示Xo(i)的均值，σo(i)表示Xo(i)的标准差；
得到标准化处理后的多模态传感器数据矩阵XS。
优选地，所述编码模块内的子编码模块的编码方式为：
设置每个子编码模块的编码函数相位相差90°；
将所述多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，分别记为XS,1,XS,2,XS,3,XS,4，XS,1,XS,2,XS,3,XS,4分别对应一个子编码模块，作为对应的子编码模块的输入数据；
获取当前子编码模块对应的输入数据XS,num，num为子编码模块编号；
计算待加的子编码模块的编码函数值，所述编码函数为：
Figure BDA0003949402270000072
其中，PE(i,2j)为在XS,num的第i行2j列待加的编码向量，PE(i,2j+1)为在XS,num的第i行2j+1列待加的编码向量，dmodel表示所述多模态自注意力模型的维度，j≥0；
将XS,num中的每个元素与该元素对应的所述待加的子编码模块的编码函数值相叠加，得到当前子编码模块对应的编码数据。
优选地，所述编码器模块包括多个并行的结构相同的编码块，每个编码块由一个或多个逐级相连的子编码器模块组成，子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；其中，第一前馈神经网络组件的输入为所述编码数据或前一级子编码器模块的输出；所述第一前馈神经网络组件的输入及所述第一前馈神经网络组件的输出的叠加作为所述多头注意力组件的输入；所述多头注意力组件的输入、输出的叠加作为所述第二前馈神经网络组件的输入；所述第二前馈神经网络组件的输入、输出的叠加，作为下一级子编码器模块或所述剩余寿命映射模块的输入。
有益效果：
(1)相对于现有技术，本发明提出的多模态自注意力模型能够更快捷和更有效地对机电作动器多模态传感器数据建模，从而更准确地实时预测剩余寿命；
(2)本发明可以在机电作动器性能退化早期直观地预测剩余寿命，可为早期应急管理奠定基础。
(3)相比于现有技术，本发明以更高的效率和准确率预测机电作动器剩余寿命。
(4)本发明提出的多模态自注意力模型由于模型的本身特性，相比于现有技术，其训练速度更快，更容易进行大规模部署。
附图说明
图1为基于多模态自注意力的机电作动器寿命预测方法流程示意图；
图2为多模态自注意力模型架构示意图；
图3为直接剩余寿命预测示意图；
图4为基于多模态自注意力的机电作动器寿命预测装置结构框图。
具体实施方式
下面结合附图和实施例，对本发明进行详细描述。
本发明提出了一种基于多模态自注意力的机电作动器寿命预测方法。本发明综合考虑了机电作动器的设计特性和传感器特性，设计了适用于机电作动器多模态传感器数据的综合行为规律的多模态自注意力模型，从而可以准确地对机电作动器多模态时间序列数据建模，进而准确实时地预测机电作动器剩余寿命。
如图1-图2所示，本发明提供的基于多模态自注意力的机电作动器寿命预测方法，包括如下步骤：
步骤S1：对机电作动器的多模态传感器数据分别标准化；
步骤S2：建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
步骤S3：训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
步骤S4：将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
本发明由于采用了改进的自注意力机制、长时间序列数据分片、基于相位的差异定位方法，克服了现有技术中采用的基础自注意力机制、不处理长时间序列的方式带来的自注意力机制能力不足、难以记忆机电作动器缓慢寿命退化特征的缺陷。
进一步地，所述子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；所述第一前馈神经网络组件用于整合该子编码器模块的输入，所述多头注意力组件用于识别该子编码器模块输入的多模态数据的内部特征、认知状态特征参数的寿命空间状态，所述第二前馈神经网络组件用于生成寿命退化规律的潜在表示，所述寿命退化规律的潜在表示为识别寿命退化状态特征和剩余寿命间的潜在关系提供基础。
所述多模态传感器数据是指机电作动器的多种类型的传感器数据，所述传感器数据包括机电作动器的动态负载、电机电流、电机电压、螺母温度、电机温度。
所述步骤S1：对机电作动器的多模态传感器数据分别标准化，包括：
步骤S11：基于所述多模态传感器数据建立原始测量数据矩阵Xo，Xo的每一行表示一种传感器数据，每一列表示一个时间步；
步骤S12：对Xo的每一行Xo(i)分别执行以下计算：
Figure BDA0003949402270000101
其中，i为原始测量数据矩阵Xo的行序号，X(i)表示标准化后的数据矩阵的第i行，μo(i)表示Xo(i)的均值，σo(i)表示Xo(i)的标准差；
得到标准化处理后的多模态传感器数据矩阵XS。
本实施例中，标准化处理的目标是将各类型的传感器数据处理成均值等于0，标准差等于1的数据。XS的每一列表示该时刻的所有多模态传感器数据，XS的每一行表示不同传感器数据标准化后的时间序列。因此，所述标准化处理后的多模态传感器数据矩阵XS具有时间序列信息，表示多模态传感器数据时间序列矩阵。
进一步地，所述编码模块内的子编码模块的编码方式为：
设置每个子编码模块的编码函数相位相差90°；
将所述多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，分别记为XS,1,XS,2,XS,3,XS,4，XS,1,XS,2,XS,3,XS,4分别对应一个子编码模块，作为对应的子编码模块的输入数据；
获取当前子编码模块对应的输入数据XS,num，num为子编码模块编号(即对应的编码块编号)；
计算待加的子编码模块的编码函数值，所述编码函数为：
Figure BDA0003949402270000111
其中，PE(i,2j)为在XS,num的第i行2j列待加的编码向量，PE(i,2j+1)为在XS,num的第i行2j+1列待加的编码向量，dmodel表示所述多模态自注意力模型的维度，j≥0；
将XS,num中的每个元素与该元素对应的所述待加的子编码模块的编码函数值相叠加，得到当前子编码模块对应的编码数据。
本发明设计的编码模块包括4个子编码模块，每个子编码模块的sin或cos函数计算原理相同，函数相位相差90°。将多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，记为XS,1,XS,2,XS,3,XS,4，分别输入4个子编码器模块。
本实施例中，通过输入编码将序列的时间信息加入输入向量，为整合后的输入提供有意义的时间序列内的距离关系，即使用常规的正弦和余弦函数实现输入编码。处理后将标准化处理后的多模态传感器数据矩阵XS转换为编码数据。
进一步地，所述编码器模块包括多个并行的结构相同的改进编码器，每个改进编码器由一个或多个逐级相连的子编码器模块组成，子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；其中，第一前馈神经网络组件的输入为所述编码数据或前一级子编码器模块的输出；所述第一前馈神经网络组件的输入及所述第一前馈神经网络组件的输出的叠加作为所述多头注意力组件的输入；所述多头注意力组件的输入、输出的叠加作为所述第二前馈神经网络组件的输入；所述第二前馈神经网络组件的输入、输出的叠加，作为下一级子编码器模块或所述剩余寿命映射模块的输入，即组件之间采用残差连接。
进一步地，所述第一前馈神经网络组件及第二前馈神经网络组件结构相同。所述第一前馈神经网络组件包括依次相连的第一层归一化层、第一前馈神经网络层、第二层归一化层。所述第二前馈神经网络组件包括依次相连的第五层归一化层、第二前馈神经网络层、第六层归一化层。所述多头注意力组件包括依次相连的第三层归一化层、多头注意力网络层、第四层归一化层。所述多头注意力是指同时使用多种注意力机制。
所述第一层归一化层、第二层归一化层、第三层归一化层、第四层归一化层、第五层归一化层、第六层归一化层均用于实现对接收到的输入向量v映射到0-1之间，映射方式为：
Figure BDA0003949402270000121
其中，γ和β是调节参数，μv和σv是v的均值和标准差，LN(v)为映射后的向量。
所述第一前馈神经网络层、第二前馈神经网络层结构相同，均包括两个串行连接的全连接前馈神经网络，每个全连接前馈神经网络具有独立的权重、偏差和维度。第一个全连接前馈神经网络使用ReLU激活函数，第二个全连接前馈神经网络不使用激活函数。其中，所述第一前馈神经网络层、第二前馈神经网络层对接收到的输入向量u，执行以下操作：
FFN(u)＝ReLU(uW1+b1)W2+b2  (11)
其中：W1,b1分别为第一个全连接前馈神经网络的权重和偏差，W2,b2分别为第二个全连接前馈神经网络的权重和偏差。
所述多头注意力网络层获取所述第三层归一化层的输出，记为X，X为多头注意力的输入，进行以下计算：
Figure BDA0003949402270000131
式中：WQ,WK,WV是权重矩阵，Q、K、V分别为三个不同的注意力矩阵。
再计算注意力A：
Figure BDA0003949402270000132
本实施例中，多头注意力是指使用多个自注意力机制分别计算注意力，再将其融合的过程。多头注意力组件将Q、K、V通过投影矩阵进行线性映射，然后再分别计算r次注意力，最后将结果进行拼接。
单个注意力的计算过程如下所示。
headj＝A(QWj,Q,KWj,K,VWj,V)  (14)
式中：Wj,Q,Wj,K,Wj,V是第h个自注意力机制的映射矩阵。
本实施例中，多头注意力机制进行了r次参数不共享的自注意力计算，使得模型可以在不同的表示子空间里学习到不同的信息，提高模型的准确性。
将所有注意力的计算结果拼接。
M(X)＝Concat(head1,...,headr)WO               (15)
其中，M表示多头注意力，M(X)为第三归一化层的输出，M(X)为X的所述多头注意力网络层得到的多头注意力，Concat表示向量串联，WO是线性映射矩阵。
本实施例中，假设第l个子编码器模块内的三个组件的输入为别为xl,1,xl,2,xl,3，输出分别为hl,1,hl,2,hl,3，本发明设计的第l个子编码器模块中第一前馈神经网络组件的计算过程为：
Figure BDA0003949402270000149
其中，
Figure BDA0003949402270000141
表示第l个子编码器模块的第一全连接前馈神经网络，
Figure BDA0003949402270000142
分别表示第一前馈神经网络组件内的计算结果变量。
本发明设计的第l个子编码器模块中多头注意力组件的计算过程为：
Figure BDA0003949402270000143
其中，
Figure BDA0003949402270000144
分别表示多头注意力组件内的计算结果变量。
本发明设计的第l个子编码器模块中第二前馈神经网络组件的计算过程为：
Figure BDA0003949402270000145
其中，
Figure BDA0003949402270000146
表示第l个子编码器模块的第二全连接前馈神经网络，
Figure BDA0003949402270000151
分别表示第二前馈神经网络组件内的计算结果变量。
所述剩余寿命映射模块包括依次相连的展平层、全连接层、Softmax层，其中：
展平层用于将各编码块输出的多维向量转为一维向量，并逐次连接各编码块对应的一维向量。
所述机电作动器的剩余寿命Y的计算过程为：
Y＝softmax(ReLu(ZWz+bz))  (19)
其中，Z为所述编码器模块的输出经展平层处理后的一维向量，Wz,bz分别为全连接层神经网络的权重和偏差。
步骤S3：训练所述多模态自注意力模型，包括：
将原始测量数据矩阵Xo作为输入，将每一时间步对应的剩余寿命Y作为输出，训练所述多模态自注意力模型。训练完毕后，所述多模态自注意力模型得到了多模态时间序列数据的编码特征和对应的剩余寿命。
以下结合具体实施例说明本发明的基于多模态自注意力的机电作动器寿命预测方法。
本发明实施例采用美国航空航天局公开的机电作动器全寿命试验数据进行验证。
机电作动器由电气部分和机械部分组成，故障类型包括：传感器故障、电机故障、机械故障和电子故障。机械故障是航天应用中的关注焦点，机械结构中电机和减速器等可以通过余度设计提高可靠性，但是滚珠丝杠难以实现余度设计。滚珠丝杠作为机电作动器的关键功能部件，其故障成为机电作动器的单点故障，其中阻塞故障是滚珠丝杠的关键渐变故障之一。一般情况下，堵塞发生后机电作动器仍需要工作一段时间。因此早期阻塞故障发生后，预测机电作动器的剩余寿命对航天器非常重要，对保障航天器安全具有重要意义。因此，本发明以机电作动器堵塞故障发展过程的寿命预测为例说明。
1性能评价方法
在寿命预测相关的研究领域，常使用S分数作为寿命预测的评价指标。剩余寿命高估(剩余寿命预测值大于真实值)时，会造成后续预防策略的误判，甚至造成安全问题。因此在模型的评价过程中需要对高估的剩余寿命预测值施加更多的惩罚，在评价标准中产生更多的负面影响。S分数的非对称函数的特点满足上述要求。本发明使用S分数评估剩余寿命预测的精度。S分数的计算公式如下。
Figure BDA0003949402270000161
式中：
Figure BDA0003949402270000162
表示预测值，yi表示真实值，T表示测试样本数。
2寿命预测结果
本发明使用动态负载、电机电流、电机电压、螺母温度和电机温度作为多模态时间序列作为输入，预测剩余寿命。所用数据的试验工况如下表所示。
表1试验工况
Figure BDA0003949402270000163
本发明以最终电机温度达到100℃左右的机电作动器的寿命试验数据作为训练数据，以最终电机温度达到70℃左右的机电作动器的寿命试验数据作为测试数据，验证基于多模态自注意力模型的剩余寿命预测方法。
剩余寿命预测结果如图3所示，最终电机温度达到70℃左右的机电作动器在399秒时完全失效。本实施例中每秒取一次数据进行预测，图3中真实剩余寿命和预测剩余寿命均有398个数值，预测结果的S分数是374.01。
相对于现有技术，本发明提出的多模态自注意力模型可以更准确地预测机电作动器剩余寿命；由于模型的本身特性，相比于现有技术，其训练速度更快，更容易进行大规模部署。
本发明还提供了一种基于多模态自注意力的机电作动器寿命预测装置，如图4所示，该装置包括：
标准化模块：配置为对机电作动器的多模态传感器数据分别标准化；
多模态自注意力模块：配置为建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
训练模块：配置为训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
剩余寿命输出模块：配置为将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
本发明未详细阐述部分属于本领域技术人员的公知技术。
以上的具体实施例仅描述了本发明的设计原理，该描述中的部件形状，名称可以不同，不受限制。所以，本发明领域的技术人员可以对前述实施例记载的技术方案进行修改或等同替换；而这些修改和替换未脱离本发明创造宗旨和技术方案，均应属于本发明的保护范围。

Claims (10)

1.一种基于多模态自注意力的机电作动器寿命预测方法，其特征在于，包括如下步骤：
步骤S1：对机电作动器的多模态传感器数据分别标准化；
步骤S2：建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
步骤S3：训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
步骤S4：将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
2.如权利要求1所述的方法，其特征在于，所述子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；所述第一前馈神经网络组件用于整合该子编码器模块的输入，所述多头注意力组件用于识别该子编码器模块输入的多模态数据的内部特征、认知状态特征参数的寿命空间状态，所述第二前馈神经网络组件用于生成寿命退化规律的潜在表示，所述寿命退化规律的潜在表示为识别寿命退化状态特征和剩余寿命间的潜在关系提供基础。
3.如权利要求1-2中任一项所述的方法，其特征在于，所述步骤S1，包括：
步骤S11：基于所述多模态传感器数据建立原始测量数据矩阵Xo，Xo的每一行表示一种传感器数据，每一列表示一个时间步；
步骤S12：对Xo的每一行Xo(i)分别执行以下计算：
Figure FDA0003949402260000021
其中，i为原始测量数据矩阵Xo的行序号，X(i)表示标准化后的数据矩阵的第i行，μo(i)表示Xo(i)的均值，σo(i)表示Xo(i)的标准差；
得到标准化处理后的多模态传感器数据矩阵XS。
4.如权利要求3所述的方法，其特征在于，所述编码模块内的子编码模块的编码方式为：
设置每个子编码模块的编码函数相位相差90°；
将所述多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，分别记为XS,1,XS,2,XS,3,XS,4，XS,1,XS,2,XS,3,XS,4分别对应一个子编码模块，作为对应的子编码模块的输入数据；
获取当前子编码模块对应的输入数据XS,num，num为子编码模块编号；
计算待加的子编码模块的编码函数值，所述编码函数为：
Figure FDA0003949402260000022
其中，PE(i,2j)为在XS,num的第i行2j列待加的编码向量，PE(i,2j+1)为在XS,num的第i行2j+1列待加的编码向量，dmodel表示所述多模态自注意力模型的维度，j≥0；
将XS,num中的每个元素与该元素对应的所述待加的子编码模块的编码函数值相叠加，得到当前子编码模块对应的编码数据。
5.如权利要求1-2中任一项所述的方法，其特征在于，所述编码器模块包括多个并行的结构相同的编码块，每个编码块由一个或多个逐级相连的子编码器模块组成，子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；其中，第一前馈神经网络组件的输入为所述编码数据或前一级子编码器模块的输出；所述第一前馈神经网络组件的输入及所述第一前馈神经网络组件的输出的叠加作为所述多头注意力组件的输入；所述多头注意力组件的输入、输出的叠加作为所述第二前馈神经网络组件的输入；所述第二前馈神经网络组件的输入、输出的叠加，作为下一级子编码器模块或所述剩余寿命映射模块的输入。
6.如权利要求5所述的方法，其特征在于，所述第一前馈神经网络组件及第二前馈神经网络组件结构相同；所述第一前馈神经网络组件包括依次相连的第一层归一化层、第一前馈神经网络层、第二层归一化层；所述第二前馈神经网络组件包括依次相连的第五层归一化层、第二前馈神经网络层、第六层归一化层；所述多头注意力组件包括依次相连的第三层归一化层、多头注意力网络层、第四层归一化层；所述多头注意力是指同时使用多种注意力机制；
所述第一层归一化层、第二层归一化层、第三层归一化层、第四层归一化层、第五层归一化层、第六层归一化层均用于实现对接收到的输入向量映射到0-1之间；
所述第一前馈神经网络层、第二前馈神经网络层结构相同，均包括两个串行连接的全连接前馈神经网络，每个全连接前馈神经网络具有独立的权重、偏差和维度；第一个全连接前馈神经网络使用ReLU激活函数，第二个全连接前馈神经网络不使用激活函数；
所述多头注意力网络层获取所述第三层归一化层的输出，记为X，X为多头注意力的输入，进行以下计算：
Figure FDA0003949402260000041
式中：WQ,WK,WV是权重矩阵，Q、K、V分别为三个不同的注意力矩阵。
再计算注意力A：
Figure FDA0003949402260000042
所述剩余寿命映射模块包括依次相连的展平层、全连接层、Softmax层，其中：
展平层用于将各编码块输出的多维向量转为一维向量，并逐次连接各编码块对应的一维向量。
所述机电作动器的剩余寿命Y的计算过程为：
Y＝softmax(ReLu(ZWz+bz))           (5)
其中，Z为所述编码器模块的输出经展平层处理后的一维向量，Wz,bz分别为全连接层神经网络的权重和偏差。
7.一种基于多模态自注意力的机电作动器寿命预测装置，其特征在于，所述机电作动器寿命预测装置包括：
标准化模块：配置为对机电作动器的多模态传感器数据分别标准化；
多模态自注意力模块：配置为建立多模态自注意力模型，所述多模态自注意力模型包括依次相连的编码模块、编码器模块以及剩余寿命映射模块；
所述编码模块包括多个并行的子编码模块，各子编码模块分别基于标准化后的多模态传感器数据进行编码，得到相位不同的编码数据；所述编码器模块包括多个并行的、结构相同的编码块，每个编码块输入相位不同的编码数据；所述编码器模块将所述编码数据映射到编码空间，得到编码向量，所述编码向量作为寿命退化规律的潜在表示；每个编码块由一个或多个逐级相连的子编码器模块组成；所述剩余寿命映射模块用于基于所述编码器模块生成的寿命退化规律的潜在表示，生成寿命退化状态特征和剩余寿命间的关系，并输出所述机电作动器的剩余寿命；
训练模块：配置为训练所述多模态自注意力模型，得到训练完毕的多模态自注意力模型；
剩余寿命输出模块：配置为将标准化的机电作动器的多模态传感器数据输入所述训练完毕的多模态自注意力模型，得到所述机电作动器的剩余寿命。
8.如权利要求7所述的装置，其特征在于，所述标准化模块，包括：
获取子模块：配置为基于所述多模态传感器数据建立原始测量数据矩阵Xo，Xo的每一行表示一种传感器数据，每一列表示一个时间步；
处理子模块：配置为对Xo的每一行Xo(i)分别执行以下计算：
Figure FDA0003949402260000051
其中，i为原始测量数据矩阵Xo的行序号，X(i)表示标准化后的数据矩阵的第i行，μo(i)表示Xo(i)的均值，σo(i)表示Xo(i)的标准差；
得到标准化处理后的多模态传感器数据矩阵XS。
9.如权利要求8所述的装置，其特征在于，所述编码模块内的子编码模块的编码方式为：
设置每个子编码模块的编码函数相位相差90°；
将所述多模态传感器数据矩阵XS按时间先后顺序平均分割为4份，分别记为XS,1,XS,2,XS,3,XS,4，XS,1,XS,2,XS,3,XS,4分别对应一个子编码模块，作为对应的子编码模块的输入数据；
获取当前子编码模块对应的输入数据XS,num，num为子编码模块编号；
计算待加的子编码模块的编码函数值，所述编码函数为：
Figure FDA0003949402260000061
其中，PE(i,2j)为在XS,num的第i行2j列待加的编码向量，PE(i,2j+1)为在XS,num的第i行2j+1列待加的编码向量，dmodel表示所述多模态自注意力模型的维度，j≥0；
将XS,num中的每个元素与该元素对应的所述待加的子编码模块的编码函数值相叠加，得到当前子编码模块对应的编码数据。
10.如权利要求7所述的装置，其特征在于，所述编码器模块包括多个并行的结构相同的编码块，每个编码块由一个或多个逐级相连的子编码器模块组成，子编码器模块包括依次相连的第一前馈神经网络组件、多头注意力组件以及第二前馈神经网络组件；其中，第一前馈神经网络组件的输入为所述编码数据或前一级子编码器模块的输出；所述第一前馈神经网络组件的输入及所述第一前馈神经网络组件的输出的叠加作为所述多头注意力组件的输入；所述多头注意力组件的输入、输出的叠加作为所述第二前馈神经网络组件的输入；所述第二前馈神经网络组件的输入、输出的叠加，作为下一级子编码器模块或所述剩余寿命映射模块的输入。
CN202211445102.5A 2022-11-18 2022-11-18 基于多模态自注意力的机电作动器寿命预测方法及装置 Pending CN116127829A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211445102.5A CN116127829A (zh) 2022-11-18 2022-11-18 基于多模态自注意力的机电作动器寿命预测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211445102.5A CN116127829A (zh) 2022-11-18 2022-11-18 基于多模态自注意力的机电作动器寿命预测方法及装置

Publications (1)

Publication Number Publication Date
CN116127829A true CN116127829A (zh) 2023-05-16

Family

ID=86308851

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211445102.5A Pending CN116127829A (zh) 2022-11-18 2022-11-18 基于多模态自注意力的机电作动器寿命预测方法及装置

Country Status (1)

Country Link
CN (1) CN116127829A (zh)

Similar Documents

Publication Publication Date Title
Zhang et al. Dual-aspect self-attention based on transformer for remaining useful life prediction
CN111902781B (zh) 用于控制系统的设备和方法
Zhang et al. DeepHealth: A self-attention based method for instant intelligent predictive maintenance in industrial Internet of Things
Yao et al. A survey of transfer learning for machinery diagnostics and prognostics
Xu et al. PHM-oriented integrated fusion prognostics for aircraft engines based on sensor data
CN116300691B (zh) 一种多轴联动数控加工的状态监测方法及系统
CN111860839A (zh) 基于多信号融合及Adam优化算法的岸桥故障监测方法
Huang et al. An adversarial learning approach for machine prognostic health management
CN115510950A (zh) 基于时间卷积网络的飞行器遥测数据异常检测方法及系统
CN112947385A (zh) 一种基于改进Transformer模型的飞行器故障诊断方法和系统
Guo et al. Masked self-supervision for remaining useful lifetime prediction in machine tools
Wahid et al. Self-attention transformer-based architecture for remaining useful life estimation of complex machines
Liu et al. A novel health prognosis method for system based on improved degenerated Hidden Markov model
Vladov et al. Neural Network Modeling of Helicopters Turboshaft Engines at Flight Modes Using an Approach Based on" Black Box" Models.
CN116127829A (zh) 基于多模态自注意力的机电作动器寿命预测方法及装置
Sohaidan et al. Remaining useful life prediction of turbofan engine using long-short term memory
Hong et al. Intelligent anomaly detection of robot manipulator based on energy consumption auditing
KR20220144707A (ko) 고도화된 crnn 알고리즘을 적용한 고장 예측 및 사전정비 시스템
Gao et al. Fault prediction in electric power communication network based on improved DenseNet
Wen et al. Heterogeneous connection and process anomaly detection of industrial robot in intelligent factory
Xie et al. A long short term memory recurrent neural network approach for rotating machinery fault prognosis
Vladov et al. Modified method of identification potential defects in helicopters turboshaft engines units based on prediction its operational status
El Kihel et al. Maintenance 4.0 Model Development for Production Lines in Industry 4.0 Using a Deep Learning Approach and IoT Data in Real-Time: an Experimental Case Study
Ibrahima et al. Towards Hybrid Predictive Maintenance for Aircraft Engine: Embracing an Ontological-Data Approach
Chaudhuri et al. Predictive maintenance of vehicle fleets using LSTM autoencoders for industrial IoT datasets

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication