CN110175425A - 一种基于mmalstm的齿轮剩余寿命的预测方法 - Google Patents

Abstract

本发明涉及一种基于MMALSTM的齿轮剩余寿命的预测方法，属于大数据和智能制造领域。该方法首先对采集的齿轮振动信号的高维特征进行简化和融合；然后将降维后的融合特征信息用于MMALSTM的多步预测，针对不同特征信息所包含的信息量不同的特点，采用MMA对融合特征数据进行宏微观处理；最后，根据MMA的结果，放大输入数据和递归数据的权重，对融合特征数据进行自动、不同程度的处理。本发明能够在降低计算量的同时提高齿轮剩余寿命的预测速度与精度。

Description

一种基于MMALSTM的齿轮剩余寿命的预测方法

技术领域

本发明属于大数据和智能制造领域，涉及一种基于MMALSTM的齿轮剩余寿命的预测方法。

背景技术

齿轮广泛应用于机械设备中，是应用最广泛的机械零件之一。齿轮具有传动效率高、结构紧凑、传动平顺性好、承载能力大、使用寿命长等独特的优点，使其具有强大而持久的生命力。在复杂的工作条件和环境下，齿轮容易发生故障，可能导致机器运行的灾难，甚至危及人身安全。对于大型或超大型设备，如水轮发电机、矿山输送机械、直升机动力传动系统、重型机床等，更是如此。进行在役齿轮的寿命预测，能够有效地确定设备的维护时间，提高生产效率，保证生产的连续高效进行，降低事故发生率，防止突发性事故发生，对于工程生产意义重大。

常用机械设备寿命预测方法主要分为以下三类：1)基于模型的预测方法；2)数据驱动；3)前两种方法的混合。基于模型的方法构建描述组件退化过程的物理模型。这种方法需要特定的力学知识，因此适用性较低。数据驱动方法从常规收集的监测数据中派生出预测模型。它主要基于统计和机器学习方法，目的是发现系统的行为。因此，这些方法在精确性、复杂性和适用性之间提供了一种折衷。混合方法结合了基于模型和数据驱动技术。利用监测系统的物理知识建立模型，利用数据驱动技术对参数进行学习和更新。基于模型和数据驱动技术的结合使该方法准确，但仍然需要特定的物理知识而且计算上很昂贵。数据驱动方法中基于机器学习的方法能够克服退化模型未知的问题，同时构建模型的输入也不仅局限于状态监测数据，可以是多种不同类型的数据。其中基于RNN的剩余寿命预测方法能够融合原有学习样本与新的学习模式实现样本的重新训练，不仅能够提高剩余寿命预测的准确性，而且具有收敛速度快和稳定性高等特点，在可靠性评估和剩余寿命预测领域发挥着重要作用。但处理长期依赖型退化数据时，传统RNN方法会面临梯度消失或爆炸问题，剩余寿命预测精度会受到严重影响。

为解决这个问题长短期记忆(long short-term memory,LTSM)网络应运而生，然而LSTM虽然具有处理长期依赖型退化数据的能力，当其能力也有不足的时候。首先LSTM的长期信息的存储能力也是有限的，冗余信息的存储即不利于寿命预测也会白白浪费计算资源。并且不相关和/或冗余特征的存在会影响神经网络模型训练的速度和准确性。因此在神经网络训练之前，有必要把相关的信息和不必要的信息区分开来，对输入数据进行差异化处理，对预测结果贡献度大的数据着重学习，贡献度小的信息进行轻微的学习。这样就能够最优化的分配计算机资源，有目的的处理输入数据，从而实现准确快速的预测齿轮的剩余使用寿命。

发明内容

有鉴于此，本发明的目的在于提供一种基于MMALSTM的齿轮剩余寿命的预测方法，为了全面、准确地表达齿轮的退化过程，计算齿轮的所有特性，对高维特征进行简化和融合，从而减少神经网络的计算量，提高预测速度与精度。

为达到上述目的，本发明提供如下技术方案：

一种基于MMALSTM的齿轮剩余寿命的预测方法，首先对采集的齿轮振动信号的高维特征进行简化和融合；然后将降维后的融合特征信息用于基于宏微观注意力的长短期记忆网络(MMALSTM)的多步预测，针对不同特征信息所包含的信息量不同的特点，采用宏微观注意力机制(MMA)对融合特征数据进行宏微观处理；最后，根据MMA的结果，放大输入数据和递归数据的权重，对融合特征数据进行自动、不同程度的处理；

所述预测方法具体包括以下步骤：

S1：隔Δt时间采集时间长度为T的齿轮振动信号，直到齿轮失效，其采样的齿轮振动信号段数为n；

S2：分别计算采集的n段齿轮振动信号降噪之后的21种时频特征，则得到n×21维的特征值矩阵X；

S3：选取前面n1个采样点组成的特征值矩阵X1作为训练矩阵；

S4：通过ISOMAP算法处理训练矩阵X1和特征值矩阵X，分别选取利用最大特征值计算的结果V1＝(v1₁,v1₂,...,v1_n1)^T和V＝(v₁,v₂,...,v_n)^T作为其主要成分；

S5：由于矩阵X的采样点数比矩阵X1更多，而由于ISOMAP算法的性质向量V和V1的和为零，则向量V的趋势虽然和向量V1相同但是其起始值可能不同。因此需要将它们统一化，使用最小二乘法使目标函数最小，然后通过公式v'_i＝av_i+b将向量V里的所有元素与向量V1统一化，其中a、b分别表示向量V里的所有元素向向量V1统一化过程中所使用的函数的斜率与偏置，具体大小通过上述目标函数最小化确定；

S6：将向量V1归一化，得到归一化之后的向量W＝(w₁,w₂,...,w_n1)^T；

S7：重构矩阵其中p为神经网络输入层单元数；

S8：将矩阵U前面p行作为MMALSTM网络的输入，最后一行作为MMALSTM网络的输出来训练网络；

S9：将倒数p个输出作为网络输入，得到下一时刻的输出；

S10：重复步骤S9一定次数，将这些输出反归一化之后与实际特征值V'＝(v'_p+1,v'_p+2,...,v'_n)^T比较，以证明此方法的有效性。同时，当输出反归一化之后超过设定的阈值时，这时预测的采样点数乘以齿轮振动信号间隔时间与采样时间之和Δt+T即为齿轮的剩余寿命。

进一步，步骤S8中，所述MMALSTM网络是：根据宏微观注意力机制从宏观和微观两方面对特征值矩阵的注意系数进行评价，然后根据宏观和微观注意系数实时放大输入神经网络的输入权重和递归权重，使神经网络对贡献较大的数据更加关注。

进一步，所述宏微观注意力机制是注意力机制在整个时间维度和每个时间维度上对数据的操作，具体为：首先，对数据矩阵进行处理，利用MMA计算其宏微观注意系数；预测过程中，整个时间维度的输入数据集为X_t＝[x₁ x₂ ... x_t]，其中x_t＝[x_t,1 x_t,2 ... x_t,n]表示t时刻输入数据，h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]表示t-1时刻MMALSTM网络的递归数据；宏观注意力机制是通过注意力机制对整个时间维度内的数据进行处理；微观注意力机制是在每个时间维度利用注意力机制处理输入数据x_t＝[x_t,1 x_t,2 … x_t,n]和递归数据h_t-1＝[h_t-1,1 h_t-1,2 … h_t-1,m]。

进一步，所述MMALSTM网络的计算过程为：

1)计算宏微观注意力系数公式：

其中，α_i、λ_i分别为微观注意力机制中输入数据和递归数据的注意力系数，χ_i为整个时间维度上所得的宏观注意力系数，为x_i的均值，x_t,j为t时刻输入数据x_t＝[x_t,1 x_t,2… x_t,n]中第j个元素，h_t-1,p为t-1时刻递归数据h_t-1＝[h_t-1,1 h_t-1,2 … h_t-1,m]中第p个元素，t为输入数据集为X_t＝[x₁ x₂ … x_t]的维度，为输入数据集X_t中第k个向量的均值，q为查询向量，在MMALSTM网络训练过程中，设为宏观层面的查询向量q_M，x_t+1,n设为微观层面的查询向量q_m；在预测阶段，将x_t,n分别设为q_M、q_m；相关评分函数计算如下：

其中，n为t时刻输入数据x_t＝[x_t,1 x_t,2 … x_t,n]的维度，m为t-1时刻MMALSTM网络的递归数据h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]的维度；

2)根据相应的宏微观注意力系数对所关联的输入数据权重和递归数据权重进行实时的多层次的放大；

其中，w_ix表示LSTM神经网络输入数据与隐含层中输入门之间的权重，w_ox表示LSTM神经网络输入数据与隐含层中输出门之间的权重，w_fx表示LSTM神经网络输入数据与隐含层中遗忘门之间的权重，w_ih表示LSTM神经网络递归数据与隐含层中输入门之间的权重，w_oh表示LSTM神经网络递归数据与隐含层中输出门之间的权重，w_fh表示LSTM神经网络递归数据与隐含层中遗忘门之间的权重，表示w′_ix表示MMALSTM神经网络输入数据与隐含层中输入门之间的权重，w′_ox表示MMALSTM神经网络输入数据与隐含层中输出门之间的权重，w′_fx表示MMALSTM神经网络输入数据与隐含层中遗忘门之间的权重，w′_ih表示MMALSTM神经网络递归数据与隐含层中输入门之间的权重，w′_oh表示MMALSTM神经网络递归数据与隐含层中输出门之间的权重，w′_fh表示MMALSTM神经网络递归数据与隐含层中遗忘门之间的权重分别；

3)根据输入数据权重和递归数据权重的放大，得出相应计算结果：

其中，σ为sigmod激活函数，g为线性激活函数，b_i为MMALSTM隐含层输入门阈值，b_f为MMALSTM隐含层遗忘门阈值，b_c为MMALSTM隐含层存储细胞单元阈值，b_o为MMALSTM隐含层输出门阈值，b_y为MMALSTM输出层阈值，i_t为t时刻输入门输出，f_t为t时刻遗忘门输出，c_t-1为t-1时刻存储细胞单元输出，c_t为t时刻存储细胞单元输出，o_t为t时刻输出门输出，h_t为t时刻隐含层输出，y_t为t时刻输出层输出，w_cx表示MMALSTM神经网络输入数据与隐含层中存储细胞单元之间的权重，w_ch表示MMALSTM神经网络递归数据与隐含层中存储细胞单元之间的权重，w_yh表示MMALSTM神经网络递归层与输出层之间的权重。

本发明的有益效果在于：本发明采用了MMALTSMPP网络，该网络在隐含层引入了宏微观注意力处理过程，对输入数据进行多层次的差异化处理，从而使神经网络更加针对的学习数据，从而使计算量、预测速度、收敛速度及精度均比LTSM神经网络效果好。并且对数据的差异化处理更加全面有深度。

本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。

附图说明

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：

图1为本发明所述预测方法的流程图；

图2为MMALSTM神经网络结构图；

图3为宏微观注意力机制流程图；

图4为宏观处理流程图；

图5为微观处理流程图；

图6为已知380个采样点时的失效阈值、训练值、预测值与实际值的仿真图；

图7为本发明采用的MMALSTM神经网络与传统的LSTMs神经网络的性能比较仿真图。

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

如图1所示，一种基于MMALSTM的齿轮剩余寿命的预测方法，首先对采集的齿轮振动信号的高维特征进行简化和融合；然后将降维后的融合特征信息用于基于宏微观注意力的长短期记忆网络(MMALSTM)的多步预测，针对不同特征信息所包含的信息量不同的特点，采用宏微观注意力机制(MMA)对融合特征数据进行宏微观处理；最后，根据MMA的结果，放大输入数据和递归数据的权重，对融合特征数据进行自动、不同程度的处理；

所述预测方法具体包括以下步骤：

S1：隔Δt时间采集时间长度为T的齿轮振动信号，直到齿轮失效，其采样的齿轮振动信号段数为n；

S2：分别计算采集的n段齿轮振动信号降噪之后的21种时频特征，则得到n×21维的特征值矩阵X；

S3：选取前面n1个采样点组成的特征值矩阵X1作为训练矩阵；

S4：通过ISOMAP算法处理训练矩阵X1和特征值矩阵X，分别选取利用最大特征值计算的结果V1＝(v1₁,v1₂,...,v1_n1)^T和V＝(v₁,v₂,…,v_n)^T作为其主要成分；

S5：由于矩阵X的采样点数比矩阵X1更多，而由于ISOMAP算法的性质向量V和V1的和为零，则向量V的趋势虽然和向量V1相同但是其起始值可能不同。因此需要将它们统一化，使用最小二乘法使目标函数最小，然后通过公式v_i'＝av_i+b将向量V里的所有元素与向量V1统一化，其中a、b分别表示向量V里的所有元素向向量V1统一化过程中所使用的函数的斜率与偏置，具体大小通过上述目标函数最小化确定；

S6：将向量V1归一化，得到归一化之后的向量W＝(w₁,w₂,...,w_n1)^T；

S7：重构矩阵其中p为神经网络输入层单元数；

S8：将矩阵U前面p行作为MMALSTM网络的输入，最后一行作为MMALSTM网络的输出来训练网络；

S9：将倒数p个输出作为网络输入，得到下一时刻的输出；

S10：重复步骤S9一定次数，将这些输出反归一化之后与实际特征值V'＝(v'_p+1,v'_p+2,...,v'_n)^T比较，以证明此方法的有效性。同时，当输出反归一化之后超过设定的阈值时，这时预测的采样点数乘以齿轮振动信号间隔时间与采样时间之和Δt+T即为齿轮的剩余寿命。

如图2～5所示，本发明提出的预测方法基于传统LTSM神经网络进行改进得到的MMALSTM网络，对输入矩阵进行宏微观注意力机制处理，对递归矩阵进行微观注意力机制进行处理(整个时间维度的递归数据在输入神经网络之前是未知的，不能在宏观层面进行处理)。

MMALSTM网络是：根据宏微观注意力机制从宏观和微观两方面对特征值矩阵的注意系数进行评价，然后根据宏观和微观注意系数实时放大输入神经网络的输入权重和递归权重，使神经网络对贡献较大的数据更加关注。宏微观注意力机制是注意力机制在整个时间维度和每个时间维度上对数据的操作，具体为：首先，对数据矩阵进行处理，利用MMA计算其宏微观注意系数；预测过程中，整个时间维度的输入数据集为X_t＝[x₁ x₂ ... x_t]，其中x_t＝[x_t,1 x_t,2 ... x_t,n]表示t时刻输入数据，h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]表示t-1时刻MMALSTM网络的递归数据；宏观注意力机制是通过注意力机制对整个时间维度内的数据进行处理；微观注意力机制是在每个时间维度利用注意力机制处理输入数据x_t＝[x_t,1 x_t,2... x_t,n]和递归数据h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]。

MMALSTM网络的计算过程为：

1)计算宏微观注意力系数公式：

其中，α_i、λ_i分别为微观注意力机制中输入数据和递归数据的注意力系数，χ_i为整个时间维度上所得的宏观注意力系数，为x_i的均值，x_t,j为t时刻输入数据x_t＝[x_t,1 x_t,2… x_t,n]中第j个元素，h_t-1,p为t-1时刻递归数据h_t-1＝[h_t-1,1 h_t-1,2 … h_t-1,m]中第p个元素，t为输入数据集为X_t＝[x₁ x₂ … x_t]的维度，为输入数据集X_t中第k个向量的均值，q为查询向量，在MMALSTM网络训练过程中，设为宏观层面的查询向量q_M，x_t+1,n设为微观层面的查询向量q_m；在预测阶段，将x_t,n分别设为q_M、q_m；相关评分函数计算如下：

其中，n为t时刻输入数据x_t＝[x_t,1 x_t,2 … x_t,n]的维度，m为t-1时刻MMALSTM网络的递归数据h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]的维度；

2)根据相应的宏微观注意力系数对所关联的输入数据权重和递归数据权重进行实时的多层次的放大；

其中，w_ix表示LSTM神经网络输入数据与隐含层中输入门之间的权重，w_ox表示LSTM神经网络输入数据与隐含层中输出门之间的权重，w_fx表示LSTM神经网络输入数据与隐含层中遗忘门之间的权重，w_ih表示LSTM神经网络递归数据与隐含层中输入门之间的权重，w_oh表示LSTM神经网络递归数据与隐含层中输出门之间的权重，w_fh表示LSTM神经网络递归数据与隐含层中遗忘门之间的权重，表示w′_ix表示MMALSTM神经网络输入数据与隐含层中输入门之间的权重，w′_ox表示MMALSTM神经网络输入数据与隐含层中输出门之间的权重，w′_fx表示MMALSTM神经网络输入数据与隐含层中遗忘门之间的权重，w′_ih表示MMALSTM神经网络递归数据与隐含层中输入门之间的权重，w′_oh表示MMALSTM神经网络递归数据与隐含层中输出门之间的权重，w′_fh表示MMALSTM神经网络递归数据与隐含层中遗忘门之间的权重分别；

3)根据输入数据权重和递归数据权重的放大，得出相应计算结果：

其中，σ为sigmod激活函数，g为线性激活函数，b_i为MMALSTM隐含层输入门阈值，b_f为MMALSTM隐含层遗忘门阈值，b_c为MMALSTM隐含层存储细胞单元阈值，b_o为MMALSTM隐含层输出门阈值，b_y为MMALSTM输出层阈值，i_t为t时刻输入门输出，f_t为t时刻遗忘门输出，c_t-1为t-1时刻存储细胞单元输出，c_t为t时刻存储细胞单元输出，o_t为t时刻输出门输出，h_t为t时刻隐含层输出，y_t为t时刻输出层输出，w_cx表示MMALSTM神经网络输入数据与隐含层中存储细胞单元之间的权重，w_ch表示MMALSTM神经网络递归数据与隐含层中存储细胞单元之间的权重，w_yh表示MMALSTM神经网络递归层与输出层之间的权重。

实施例：

根据以上提出的LTSMPP神经网络模型及预测方法，下面对其进行实验。本实验采取第一级传动加速而第二级传动减速的模式，正好使实验齿轮箱的传动比为1:1。实验齿轮箱润滑油量为4L/h，冷却温度为70度。其中，使用了齿轮运行平台；扭转控制器，用于控制试验中对齿轮实施的扭矩；冷却与润滑控制器，用于控制实验中齿轮的冷却和润滑情况；实际操作平台，用于操作整个实验的开关和设定一些实验参数。实验齿轮使用的材料为40Cr，加工精度为5级，表面硬度为55HRC，模数为5。特别地，大齿轮齿数为31，小齿轮齿数为25，第一级传动齿轮宽度为21mm，如图7所示。对上述相同参数的齿轮进行三组实验，前两组实验工况，扭矩为1400N.m，大齿轮转速为500r/min，第三组实验公况，扭矩为1300N.m，大齿轮转速为1000r/min。由于扭矩很大，第一组实验中第一级传动大齿轮在运行814分钟之后就发生了断齿故障，第二组实验中第一级传动大齿轮在运行820分钟之后就发生了断齿故障，第三组实验中第一级传动大齿轮在运行789分钟之后就发生了断齿故障。采集数据的模式选择采集过程中所有数据，取各组数据最后400个特征融合点用于寿命预测研究。

对上述三组实验数据在已知380个融合特征点下进行齿轮剩余寿命预测，预测结果如图6所示。

为充分证明所本发明提出的MMALSTM神经网络的优越性，从MAE(平均绝对误差)、NRMSE(标准均方根误差)、Score(美国电气和电子工程师协会关于寿命预测性能的打分函数)三个评价标准出发，分别与其他注意力机制模型及传统LSTM及其变体模型进行比较。MMALSTM(宏微观注意力作用于输入数据及递归数据)为本发明所提出的神经网络，Mmalstm为宏微观注意力作用于LSTM(只作用于输入数据)，Malstm为宏观注意力作用于LSTM，malstm为微观注意力作用于LSTM(同时作用与递归数据与输入数据)，malstm1为微观注意力作用于LSTM(只作用于输入数据)，LSTM为传统长短期神经网络，DLSTM为其深度结构，LSTMP为LSTM加投影层。从图中可以看出MMALSTM具有优越性，对输入数据差异化处理能够提升神经网络的性能，并且对输入数据进行差异化处理的广度和深度对齿轮寿命预测的精准度的提升有一定的影响。故MMALSTM因其处理范围广(对输入数据及递归数据皆进行处理)、处理层度深(宏微观处理)，相较图中其他网络具有一定的优势。

最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (4)

1.一种基于MMALSTM的齿轮剩余寿命的预测方法，其特征在于，该方法首先对采集的齿轮振动信号的高维特征进行简化和融合；然后将降维后的融合特征信息用于基于宏微观注意力的长短期记忆网络(Macroscopic-microscopic attention in LSTM networks，MMALSTM)的多步预测，采用宏微观注意力机制(Macroscopic-microscopic attention，MMA)对融合特征数据进行宏微观处理；最后，根据MMA的结果，放大输入数据和递归数据的权重，对融合特征数据进行自动、不同程度的处理；

所述预测方法具体包括以下步骤：

S1：隔Δt时间采集时间长度为T的齿轮振动信号，直到齿轮失效，其采样的齿轮振动信号段数为n；

S2：分别计算采集的n段齿轮振动信号降噪之后的21种时频特征，则得到n×21维的特征值矩阵X；

S3：选取前面n1个采样点组成的特征值矩阵X1作为训练矩阵；

S4：通过ISOMAP算法处理训练矩阵X1和特征值矩阵X，分别选取利用最大特征值计算的结果V1＝(v1₁,v1₂,...,v1_n1)^T和V＝(v₁,v₂,...,v_n)^T作为其主要成分；

S5：使用最小二乘法使目标函数最小，然后通过公式v′_i＝av_i+b将向量V里的所有元素与向量V1统一化，其中a、b分别表示向量V里的所有元素向向量V1统一化过程中所使用的函数的斜率与偏置，具体大小通过上述目标函数最小化确定；

S6：将向量V1归一化，得到归一化之后的向量W＝(w₁,w₂,...,w_n1)^T；

S7：重构矩阵其中p为神经网络输入层单元数；

S8：将矩阵U前面p行作为MMALSTM网络的输入，最后一行作为MMALSTM网络的输出来训练网络；

S9：将倒数p个输出作为网络输入，得到下一时刻的输出；

S10：重复步骤S9一定次数，将这些输出反归一化之后与实际特征值V'＝(v'_p+1,v'_p+2,...,v'_n)^T比较，当输出反归一化之后超过设定的阈值时，这时预测的采样点数乘以齿轮振动信号间隔时间与采样时间之和Δt+T即为齿轮的剩余寿命。

2.根据权利要求1所述的一种基于MMALSTM的齿轮剩余寿命的预测方法，其特征在于，步骤S8中，所述MMALSTM网络是：根据宏微观注意力机制从宏观和微观两方面对特征值矩阵的注意系数进行评价，然后根据宏观和微观注意系数实时放大输入神经网络的输入权重和递归权重。

3.根据权利要求2所述的一种基于MMALSTM的齿轮剩余寿命的预测方法，其特征在于，所述宏微观注意力机制是注意力机制在整个时间维度和每个时间维度上对数据的操作，具体为：首先，对数据矩阵进行处理，利用MMA计算其宏微观注意系数；预测过程中，整个时间维度的输入数据集为X_t＝[x₁ x₂ ... x_t]，其中x_t＝[x_t,1 x_t,2 ... x_t,n]表示t时刻输入数据，h_t-1＝[h_t-1,1 h_t-1,2 ... h_t-1,m]表示t-1时刻MMALSTM网络的递归数据；宏观注意力机制是通过注意力机制对整个时间维度内的数据进行处理；微观注意力机制是在每个时间维度利用注意力机制处理输入数据x_t＝[x_t,1 x_t,2 … x_t,n]和递归数据h_t-1＝[h_t-1,1 h_t-1,2 …h_t-1,m]。

4.根据权利要求3所述的一种基于MMALSTM的齿轮剩余寿命的预测方法，其特征在于，所述MMALSTM网络的计算过程为：

1)计算宏微观注意力系数公式：

其中，α_i、λ_i分别为微观注意力机制中输入数据和递归数据的注意力系数，χ_i为整个时间维度上所得的宏观注意力系数，为x_i的均值，x_t,j为t时刻输入数据x_t＝[x_t,1 x_t,2 …x_t,n]中第j个元素，h_t-1,p为t-1时刻递归数据h_t-1＝[h_t-1,1 h_t-1,2 … h_t-1,m]中第p个元素，t为输入数据集为X_t＝[x₁ x₂ … x_t]的维度，为输入数据集X_t中第k个向量的均值，q为查询向量，在MMALSTM网络训练过程中，设为宏观层面的查询向量q_M，x_t+1,n设为微观层面的查询向量q_m；在预测阶段，将x_t,n分别设为q_M、q_m；相关评分函数计算如下：

其中，n为t时刻输入数据x_t＝[x_t,1 x_t,2 … x_t,n]的维度，m为t-1时刻MMALSTM网络的递归数据h_t-1＝[h_t-1,1 h_t-1,2 … h_t-1,m]的维度；

2)根据相应的宏微观注意力系数对所关联的输入数据权重和递归数据权重进行实时的多层次的放大；

其中，w_ix表示LSTM神经网络输入数据与隐含层中输入门之间的权重，w_ox表示LSTM神经网络输入数据与隐含层中输出门之间的权重，w_fx表示LSTM神经网络输入数据与隐含层中遗忘门之间的权重，w_ih表示LSTM神经网络递归数据与隐含层中输入门之间的权重，w_oh表示LSTM神经网络递归数据与隐含层中输出门之间的权重，w_fh表示LSTM神经网络递归数据与隐含层中遗忘门之间的权重，表示w_i′_x表示MMALSTM神经网络输入数据与隐含层中输入门之间的权重，w′_ox表示MMALSTM神经网络输入数据与隐含层中输出门之间的权重，w′_fx表示MMALSTM神经网络输入数据与隐含层中遗忘门之间的权重，w_i′_h表示MMALSTM神经网络递归数据与隐含层中输入门之间的权重，w′_oh表示MMALSTM神经网络递归数据与隐含层中输出门之间的权重，w′_fh表示MMALSTM神经网络递归数据与隐含层中遗忘门之间的权重分别；

3)根据输入数据权重和递归数据权重的放大，得出相应计算结果：

其中，σ为sigmod激活函数，g为线性激活函数，b_i为MMALSTM隐含层输入门阈值，b_f为MMALSTM隐含层遗忘门阈值，b_c为MMALSTM隐含层存储细胞单元阈值，b_o为MMALSTM隐含层输出门阈值，b_y为MMALSTM输出层阈值，i_t为t时刻输入门输出，f_t为t时刻遗忘门输出，c_t-1为t-1时刻存储细胞单元输出，c_t为t时刻存储细胞单元输出，o_t为t时刻输出门输出，h_t为t时刻隐含层输出，y_t为t时刻输出层输出，w_cx表示MMALSTM神经网络输入数据与隐含层中存储细胞单元之间的权重，w_ch表示MMALSTM神经网络递归数据与隐含层中存储细胞单元之间的权重，w_yh表示MMALSTM神经网络递归层与输出层之间的权重。