CN112000015B - 一种基于lstm和生物激励神经网络的重型燃机控制系统控制器模块智能bit设计方法 - Google Patents

Abstract

本发明公开了一种基于LSTM和生物激励神经网络的重型燃机控制器模块智能BIT设计方法，收集重型燃气轮机控制器模块在设定时间段内的时间序列历史数据；数据标准化处理，分为训练集、测试集；针对控制器的每一个状态特征参数类型设计并训练LSTM神经网络，使用改进的万有引力算法对其优化；将处理好的数据输入训练好的指定状态类型的LSTM神经网络并得到该指定状态类型的预测数据，取该预测值与实际状态数据的差值；通过生物激励神经网络，将差值与控制器模块状态信息相关联，训练得到可靠生物激励神经网络模型，完成控制器模块BIT自检。本发明有效提高了重型燃气轮机控制系统控制器模块的安全性和可靠性，提高了智能化水平。

Description

一种基于LSTM和生物激励神经网络的重型燃机控制系统控制 器模块智能BIT设计方法

技术领域

本发明涉及一种重型燃机控制系统控制器模块的智能BIT系统，具体涉及一种基于LSTM神经网络和生物激励神经网络的重型燃气轮机控制系统控制器模块自检方法。

背景技术

随着电子技术与计算机技术的发展，各领域内控制系统的功能也日渐完善，可靠性得到大大提高，但控制系统电子设备难免出现故障或参数漂移，为最大限度的提高控制系统的可靠性，及时发现故障，保证设备参数处于最佳状态，很多控制系统的电子元件内部嵌入了BIT设备，实现对控制系统的实时监测和故障预测。

随着国内电厂重型燃气轮机的占比越来越大，重型燃气轮机系统的核心技术显得日益重要，对其自身的检测也提出了更高的要求。目前重型燃气轮机的控制器模块BIT技术不够成熟，存在虚警率较高的问题，所以为尽最大限度提高重型燃气轮机控制系统的控制器模块的故障自检率，及时发现异常状态并故障定位，智能BIT成为当前针对重型燃气轮机控制系统研究的重点，探索更为有效的智能自检方法受到越来越多的关注和研究。

随着大数据和人工智能时代来临，基于数据驱动的方法越来越受到重视，该方法在很多领域取得了突破性进展。基于数据驱动的方法主要是利用各种传感器采集各种信号的历史数据，然后通过各种信号处理和数据挖掘方法自动获取海量数据中的隐含信息，从而建立可靠的模型来对控制器模块的状态进行检测。目前已经得到广泛关注并使用最多的方法为神经网络，将神经网络应用于智能BIT领域可以大大提高设备的自检率，有利于尽早发现控制器模块的早期故障，这对于改善重型燃气轮机控制系统整体性能，提高经济效益有着重大意义，可提高整个控制器模块的智能化水平，降低维护成本，提高其安全性和可靠性。

发明内容

本发明的目的在于提供了一种基于LSTM和生物激励神经网络的重型燃气轮机控制器模块的智能BIT设计方法。从数据驱动的角度实现了对重型燃气轮机的控制器模块的状态的实时监测，可以及时发现控制器模块的异常状态，提高了控制器模块的智能化自检水平，提高了控制器的可靠性，增加了控制器制造企业的市场竞争力。

为了实现上述目的，本发明的基于LSTM和生物激励神经网络的重型燃气轮机控制器模块的BIT设计方法，具体步骤如下：

步骤1：收集指定时间段内的控制器模块运行的特征状态参数的数据，形成历史数据矩阵集，所述特征状态参数选择网络状态、温度、CPU负荷、内层负荷，以代表重型燃气轮机控制器模块的运行状态；

步骤2：从所采集运行数据中筛选出控制器模块的历史正常数据和历史故障数据，将数据进行归一化处理，并将正常数据分为训练集和测试集；

步骤3：针对各个特征状态参数设计LSTM神经网络，预测下个单位时间的参数状态数据，利用历史正常数据对网络进行训练和测试，评估模型误差，误差大于预先设置的阈值时重新训练模型；

步骤4：在训练LSTM神经网络时采用改进的万有引力算法来优化神经网络的初始权重和阈值，提高模型的精确度和可靠性，减小预测误差；

步骤5：在步骤4的模型训练好之后，从采集的历史运行数据中筛选出控制器模块不同运行状态下的数据并分类，将归一化处理后的数据输入步骤4 训练好的LSTM神经网络模型；

步骤6：得到重型燃气轮机控制器模块不同运行状态下的模型输出数据，计算预测值和实际值之间的差值，形成残差矩阵；

步骤7：针对步骤6获得的差值和控制器模块的状态的对应关系，设计生物激励神经网络完成重型燃气轮机控制器模块的各特征状态参数的状态诊断，得到综合诊断结果。

进一步地，根据所选历史数据集训练好LSTM神经网络模型和生物激励神经网络模型之后，进行的步骤还包括:判断所述模型的诊断结果是否达到预设诊断准确率，若未达到预设的故障准确率，则应该重新获取特征状态参数的历史数据和控制器模块的状态数据，重复步骤1-7直至诊断结果达到预设诊断准确率。

进一步地，所述控制器模块的每个特征状态参数时间序列数据分别获取1000组，其中训练测试集与所述测试数据的数据比例为4:1。

进一步地，所述每一个特征状态参数的LSTM神经网络模型都利用改进的万有引力算法进行优化处理。

进一步地，所述残差矩阵的每一行表示在同一时刻，控制器模块不同特征状态参数对应的残差数据。

进一步地，所述控制器模块的不同状态在生物激励神经网络训练时采用不同的特征向量来表示。

本发明相对于传统BIT具有如下优点：

本发明利用实际重型燃气轮机控制器模块在运行过程中产生的大量历史数据建立神经网络非线性参数模型，建立基于LSTM和生物激励神经网络的拟合模型。首先利用LSTM神经网络训练控制器正常状态的模型，对控制器不同状态下的数据进行预测，产生残差，然后通过生物激励神经网络建立残差和控制器状态之间的对应关系，从而实现对重型燃气轮机控制器模块的智能自检。该方法基于神经网络的自学习，利用海量的数据建立模型，当模型训练完成即可实现对重型燃气轮机控制器模块的实时自检，运算速度快，使用简单，神经网络识别异常值的效果比较好，对控制器模块的自检具有重大意义，有效提高了燃气轮机控制器模块的安全性和可靠性，可以尽早发现异常状态，减少损失。

附图说明

为了更清楚地说明本发明的具体实施方式或现有技术的方法，下面将对具体实施方式或所述的现有技术中所需要的使用的附图简单的介绍。

图1为本发明的整体思想的流程示意图。

图2为本发明所研究的控制器模块的界面图。

图3为本发明中所述的数据流向示意图。

图4为本发明中所述的LSTM神经网络的输入和输出。

图5为本发明中所述LSTM神经网络数据处理示意图。

图6为本发明中所述生物激励神经网络数据处理示意图。

具体实施方式

下面结合附图对本发明的设计方法进行清楚、完整地描述，显然，所描述的案例是本发明的一部分案例，并不是全部的案例。本领域普通技术人员在没有创造性劳动前提下应用本发明设计方法的其他案例，都属于本发明的保护范围。

在本案例的描述中，需要说明的是，术语“步骤1”、“步骤2”、“步骤3”、“步骤4”、“步骤5”、“步骤6”、“步骤7”、“第一”、“第二”、“第三”、“第四”仅用于描述目的，不能理解为指示或暗示重要性。其中术语“RMSProp 算法”为一种有效且实用的常用深度神经网络优化算法，本发明所述中没有详细介绍。

本发明提出了一种基于LSTM和生物激励神经网络的重型燃气轮机控制系统控制器模块智能BIT的设计方法，利用控制器模块的特征状态数据训练神经网络。本发明描述了实际实施方式的所有特征，在便于开发人员实现具体目标，针对本领域的开发人员，该发明可以作为参考，实现突破和创新。本技术领域技术人员可以理解，除非单独定义，这里所使用的所有术语(包含技术术语和科学术语)具有与本发明所属领域的技术人员相同的理解。

如图1所示，为基于LSTM和生物激励神经网络的重型燃气轮机控制系统控制器模块智能BIT的设计方法的整体流程。具体步骤为：

步骤1：收集指定时间段内的控制器模块运行的特征状态参数的数据，形成历史矩阵集，所述参数选择网络状态、温度、CPU负荷、内层负荷，以代表重型燃气轮机控制器模块的运行状态。

步骤2：从所采集运行数据中筛选出控制器模块的历史正常数据和历史故障数据，将数据进行归一化处理，并将正常数据分为训练集和测试集。

步骤3：针对各个特征状态参数设计LSTM神经网络，预测下个单位时间的特征状态参数数据，利用历史健康数据对网络进行训练和测试，评估模型误差，误差大于预先设定的阈值时重新训练模型。

步骤4：在训练LSTM神经网络时采用改进的万有引力算法来优化神经网络的初始权重和阈值，从而提高模型的精确度和可靠性，减小预测误差。

步骤5：在步骤4的模型训练好之后，从采集的历史运行数据中筛选出控制器模块不同运行状态下的数据并分类，将归一化处理后的数据输入步骤4 训练好的模型。

步骤6：得到重型燃气轮机控制器模块不同运行状态下的模型输出数据，计算预测值和实际值之间的差值。

步骤7：针对步骤6获得的差值，结合差值和控制器模块状态的对应关系，设计生物激励神经网络实现重型燃气轮机控制器模块智能BIT综合诊断。

进一步地，所述控制器模块历史数据包括各特征状态参数数据，按照时间序列进行排序，且包含所有可反映控制器模块状态的特征状态参数历史数据。矩阵A代表数据集，则A的第i行表示第i个特征状态参数的历史数据集，

表示第n个特征状态参数数据的第m个单位时间的数据，即

进一步地，归一化处理方式采用a′＝(a-a_min)/(a_max-a_min)来处理历史数据， a′代表归一化处理后的数据，a代表归一化处理前的数据，a_min代表所预测的特征状态参数的最小值，a_max代表所预测的特征状态参数的最大值。

进一步地，利用历史数据的训练集对LSTM神经网络进行训练的具体方法为，以均方差作为损失函数，设置学习率α作为权值更新参数，采用改进的万有引力算法优化得出神经网络初始的权重和阈值，设置单次训练的数据批次及迭代次数，LSTM神经网络的训练过程如下：

第一，针对某一特征状态参数的正常数据，利用前5个时间序列预测下一个时间序列的值，即将

作为神经网络的输入，

作为神经网络的输出。

第二，若

作为神经网络的输入，

作为神经网络的输出，则下一组训练数据为

作为神经网络的输入，

作为神经网络的输出，依次类推训练神经网络达到反映动态特性的效果。

第三，将训练数据输入至LSTM的输入层后传递到隐含层，隐含层主要包括遗忘门、输入门和输出门。隐含层的主要计算过程为：

遗忘门：

f_t＝σ(W_f·[h_t-1,a_t]+b_f)

W_f代表遗忘门的权重参数，b_f代表遗忘门的偏差参数，h_t-1表示隐含层上一时刻的状态，a_t表示输入的时间序列数据，σ表示Sigmoid函数。

输入门：

i_t＝σ(W_i·[h_t-1,a_t]+b_i)

W_i代表输入门的权重参数，b_i代表输入门的偏差参数，h_t-1表示隐含层上一时刻的状态，a_t表示输入的时间序列数据，σ表示Sigmoid函数，tanh表示三角正切函数。

输出门：

o_t＝σ(W_o·[h_t-1,a_t]+b_o)

h_t＝o_t*tanh(C_t)

W_o代表输入门的权重参数，b_o代表输入门的偏差参数，h_t-1表示隐含层上一时刻的状态，σ表示Sigmoid函数，tanh表示三角正切函数。

第四，根据输出门得到的预测值

与实际值

的计算均方误差函数 MSE,

如果该误差大于给定误差，则采用RMSProp算法优化神经网络的权重参数W,如果误差小于给定误差，则获得可靠神经网络模型。

进一步地，采用改进的万有引力算法优化初始权重，初始化的主要过程为：

第一，采用Tent映射算法来混沌初始化粒子群的位置。

x_k+1＝1-2|x_k-0.5|,0≤x_k≤1

k是混沌迭代的次数，x_k是第k次迭代的初始值。当x_k＝0,0.25,0.5,0.75 或者x_k＝x_k-m时,m＝{0,1,2,3,4},则x_k的值按照以下过程重新分配，α表示0到1 之间的随机数。

x_k+1＝1-2|x_k+0.1α-0.5|

第二、确定所需优化的权重和阈值数量，默认LSTM神经网络为单隐含层结构，则输入节点m_i为5，输出节点m_o为1，其中隐含层的节点m_h根据经验公式来确定：

c为1到10之间的整数。用S代表所需要的优化的权重和阈值的数量，则

S＝4m_i·m_h+m_o·m_h+3m_h·m_h+3m_h

m_i表示输入层节点个数，m_h表示隐含层节点个数，m_o表示输出层节点个数。具体权重为输入层与隐含层之间的权重、隐含层与输出层之间的权重、输入门的权重、遗忘门的权重、输出门的权重。具体阈值为输入门、遗忘门和输出门的阈值。

第三，在万有引力算法优化过程中，粒子的质量M通过适应度值求出，具体方法为：

fit_i(n)表示第i个粒子在第n次迭代时的适应度值，worst(t)表示粒子在第n次迭代时的最差适应度值，N表示粒子群的大小。

根据万有引力定律，在第n次迭代时，粒子之间的引力为：

M_i(n)和M_j(n)表示在第n次迭代时两个粒子的惯性质量，由粒子质量来表示。G(n)表示在第n次迭代时的引力常量，R_i,j(n)表示两个粒子间的欧式距离。

R_i,j(n)＝||x_j(n),x_i(n)||₂

G₀表示引力常量初始值，n_max表示最大迭代次数，α表示衰减因子。

在优化过程中，采用随机方式计算粒子受到的所有外力作用，具体过程为：

r_j代表0至1之间的随机数。

第i个粒子在第n次迭代的加速度为：

每个粒子的速度和位置在每次迭代后都会进行更新，其速度更新过程如下：

v_i(n+1)＝λ·v_i(n)+a_i(n)

λ表示0至1之间的随机数，即λ∈[0,1]。

位置更新过程如下：

x_i(n+1)＝x_i(n)+v_i(n+1)

取LSTM的前向传播过程为对象，适应度函数取LSTM神经网络的预测结果与真实值的均方差的倒数，即

a_i(n)和

分别代表第n次迭代时LSTM神经网络的训练数据的实际值和神经网络模型预测值，M表示训练数据的样本个数。

当适应度函数fit(n)的值大于上一次迭代的值时，则根据粒子更新公式对各粒子进行更新，否则保持现现状继续迭代，最终取适应度函数值最大的一组粒子的位置来表示LSTM神经网络的初始权重和阈值。

进一步地，将控制器模块不同状态的历史数据输入至已训练好的各种特征状态参数的LSTM神经网络模型，得到模型预测值与实际值的相对残差时间序列，取同一时刻下的四个状态参数的残差形成残差矩阵E。

进一步地，利用残差矩阵E和重型燃气轮机控制器模块状态训练生物激励神经网络，采用生物激励神经网络对残差数据进行处理，，其分为F₀和F₁两层神经网络结构，具体过程为：

第一，其中F₀层采用简单的神经元模型，具体方法为：

I表示残差矩阵E的某一行；A⁰表示生物激励常量，一般选取0到100 间的常数；x表示第一层生物激励激活矩阵。

研究激活矩阵x(t)与激励残差矩阵I(t)之间的关系，其中拉普拉斯的初始条件为：

其中X(s)和I(s)分别是x(t)和I(t)的拉普拉斯变换，其中

根据上式可以得出第一层的神经元输出的激活等式，即

则F₀层的输出可以表示为：

第二，第一层神经元的输出传递至第二层神经元,该层建立了各特征状态参数的当前信号值与先前值的关系，并根据输入的一致性采用生物激励神经元结构实现F₀与F₁层之间的联系，具体方式如下：

W表示F₁层神经元的权重，I表示残差矩阵E的某一行，y表示第二层神经元的激活函数矩阵。

当遗忘因子A¹的初始状态为0时，则积分的等式可以换算成为

当遗忘因子A¹的初始状态不为0时，则过去累积的激活状态将逐渐消失，可以表示为一段时间内的激活状态被重新选择。具体方法为：

将生物激励神经网络的自相关函数可以定义为：

自相关函数受激励信号和延时激励信号的影响，一般和输出呈正比关系。数学公式表示为：

第三，采用不同的特征向量表示重型燃气轮机控制器模块的不同运行状态，将残差矩阵的每一行作为生物激励神经网络的输入，其对应的向量作为输出，设置循环迭代次数，根据实际数据设置F₀与F₁层的神经元个数，误差阈值，利用生物激励神经网络的向量输出和实际向量的均方差作为模型评判指标，当均方差大于给定误差，则采用RMSProp算法优化神经网络的权重参数，当均方差小于给定误差，则获得可靠生物激励神经网络模型。均方差计算过程为：

N表示特征向量中的元素个数，a_i表示神经网络向量的第i个元素，

表示实际特征向量的i个元素。

如图2所示，表示了重型燃机轮机的上位机控制器模块部分可监测到的特征状态参数数据，本发明采用了其中的部分监测数据，在实际运用时并不限于本发明实例中所运用的特征状态参数数据，可以自行进行选择。

如图3所示，体现了特征状态数据在本发明中的整体流向。首先利用不同特征状态历史数据，以每5个时间序列的数据预测下一时间序列数据，建立各自的LSTM神经网络模型，数据提取过程如图4所示，利用不同状态下的历史数据输入训练好的LSTM模型，得到控制器模块不用运行状态下的残差，根据该残差和对应的控制器状态，利用生物激励神经网络建立对应关系，实现控制器模块的智能BIT设计。

如图5所示，LSTM神经网络模型利用各特征状态参数的前5个时间序列的数据预测下一时间序列数据，训练神经网络至误差函数小于预先设置的阈值才能认定模型符合标准。其神经网络的隐含层可以根据实际需要进行选择，不同状态参数所对应的各LSTM神经网络模型相对独立。

如图6所示，利用不同控制器模块状态的对应的残差矩阵时间序列和控制器模块运行状态，采用两层生物激励神经网络对残差数据进行拟合处理， F₀层采用简单神经元结构，利用激活矩阵实现对残差时间序列的处理，并将本层输出数据传递至下一层。F₁层则利用权重和自身神经元结构实现对特定特征向量的拟合，最终根据生物激励神经网络的输出向量确定控制器模块的状态。

以上实施案例仅用于说明本发明的技术方案，并非对其进行限制；针对上述实例对本发明进行了详细的说明，本领域的普通技术人员即可理解；针对不同案例实施可根据实际情况对本发明提出方法的细节进行部分替换或全部替换，而这些修改和替换，并不使相应技术方案的本质脱离本发明设计的技术方案的范围。

以上发明所提供一种基于LSTM神经网络模型和生物激励神经网络的重型燃气轮机控制系统控制器模块的智能BIT的设计方法，本文介绍的具体案例对本发明的原理和实施进行了阐述，仅用于说明本发明的原理及实施方式；针对本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用上均会有所改变之处，综上所述，本说明书不应理解为对本发明的限制。

Claims (4)

1.一种基于LSTM和生物激励神经网络的重型燃机控制系统控制器模块智能BIT设计方法，其特征在于，具体步骤为：

步骤1：收集指定时间段内的控制器模块运行的特征状态参数的数据，形成历史数据矩阵集，所述特征参数选择网络状态、温度、CPU负荷、内层负荷，以代表重型燃机控制器模块的运行状态；

步骤2：从所采集运行数据中筛选出控制器模块的历史正常数据和历史故障数据，将数据进行归一化处理，并将正常数据分为训练集和测试集；

步骤3：针对各个特征状态参数设计LSTM神经网络，预测下个单位时间的参数状态数据，利用历史正常数据对网络进行训练和测试，评估模型误差，误差大于预先设定的阈值时重新训练模型；

步骤4：在训练LSTM神经网络时采用改进的万有引力算法来优化神经网络的初始权重和阈值，从而提高模型的精确度和可靠性，减小预测误差；

步骤5：在步骤4的模型训练好之后，从采集的历史运行数据中筛选出控制器模块不同运行状态下的数据并分类，将归一化处理后的数据输入步骤4训练好的LSTM神经网络模型；

步骤6：得到重型燃机控制器模块不同运行状态下的模型输出数据，计算预测值和实际值之间的差值，形成残差矩阵；

步骤7：针对步骤6获得的差值，结合差值和控制器模块状态的对应关系，设计生物激励神经网络实现重型燃机控制器模块智能BIT综合诊断；

根据所述步骤3中，LSTM神经网络包含输入层、隐含层和输出层，其中包含多个隐含层结构； LSTM神经网络的训练过程如下：

以均方差定义误差函数，误差反向传递降低损失，设置学习率α作为权值更新参数，采用改进的万有引力算法优化得出神经网络初始的权重和阈值，设置单次训练的数据批次及迭代次数，具体训练过程如下：

(1)针对某一特征状态参数的正常数据，利用前5个时间序列预测下一个时间序列的值，即将

作为神经网络的输入，

作为神经网络的输出；

(2)选定好数据训练批次后，

作为神经网络的输入，

作为神经网络的输出，则下一组训练数据为

作为神经网络的输入，

作为神经网络的输出，依次类推训练神经网络达到反映动态特性的效果；

(3)将训练数据输入至LSTM的输入层后传递到隐含层，隐含层结构主要包括遗忘门、输入门和输出门； 隐含层的主要计算过程为：

遗忘门：f_t＝σ(W_f·[h_t-1,a_t]+b_f)

W_f代表遗忘门的权重参数，b_f代表遗忘门的偏差参数，h_t-1表示隐含层上一时刻的状态，a_t表示输入的时间序列数据，σ表示Sigmoid函数；

输入门：

i_t＝σ(W_i·[h_t-1,a_t]+b_i)

W_c和W_i代表输入门的权重参数，b_c和b_i代表输入门的偏差参数，h_t-1表示隐含层上一时刻的状态，a_t表示输入的时间序列数据，σ表示Sigmoid函数，tanh表示三角正切函数；

输出门：o_t＝σ(W_o·[h_t-1,a_t]+b_o)

h_t＝o_t*tanh(C_t)

W_o代表输入门的权重参数，b_o代表输入门的偏差参数，h_t-1表示隐含层上一时刻的状态，σ表示Sigmoid函数，tanh表示三角正切函数；

(4)根据输出门得到的预测值

与实际值

的计算均方误差函数MSE,

如果该误差大于给定误差，则采用RMSProp算法优化神经网络的权重参数W,如果误差小于给定误差，则获得可靠神经网络模型；

根据所述步骤4中，采用改进的万有引力算法优化初始权重，初始化的主要过程为：

(1)采用Tent映射算法来混沌初始化粒子群的位置；

x_k+1＝1-2|x_k-0.5|,0≤x_k≤1

k是混沌迭代的次数，x_k是第k次迭代的初始值； 当x_k＝0,0.25,0.5,0.75或x_k＝x_k-m时,m＝{0,1,2,3,4},则x_k的值按照以下过程重新分配，α表示0到1之间的随机数；

x_k+1＝1-2|x_k+0.1α-0.5|

(2)确定所需优化的权重和阈值数量，默认LSTM神经网络为单隐含层结构，则输入节点m_i个数为5，输出节点m_o个数为1，其中隐含层的节点m_h根据经验公式来确定：

c为1到10之间的整数； 用S代表所需要的优化的权重和阈值的数量，则

S＝4m_i·m_h+m_o·m_h+3m_h·m_h+3m_h

m_i表示输入层节点个数，m_h表示隐含层节点个数，m_o表示输出层节点个数； 具体权重为输入层与隐含层之间的权重、隐含层与输出层之间的权重、输入门的权重、遗忘门的权重、输出门的权重； 具体阈值为输入门、遗忘门和输出门的阈值；

(3)在万有引力算法优化过程中，粒子的质量M通过适应度值求出，具体方法为：

fit_i(n)表示第i个粒子在第n次迭代时的适应度值，worst(n)表示粒子在第n次迭代时的最差适应度值，N表示粒子规模的大小；

根据万有引力定律，在第n次迭代时，粒子之间的引力为：

M_i(n)和M_j(n)表示在第n次迭代时两个粒子的惯性质量，由粒子质量来表示； G(n)表示在第n次迭代时的引力常量，R_i,j(n)表示两个粒子间的欧式距离；

R_i,j(n)＝||x_j(n),x_i(n)||₂

G₀表示引力常量初始值，n_max表示最大迭代次数，α表示衰减因子；

在优化过程中，采用随机方式计算粒子受到的所有外力作用，具体过程为：

r_j代表0至1之间的随机数；

第i个粒子在第n次迭代的加速度为：

每个粒子的位置和速度在每次迭代后都会进行更新，其速度更新过程如下：

v_i(n+1)＝λv_i(n)+a_i(n)

位置更新过程如下：

x_i(n+1)＝x_i(n)+v_i(n+1)

λ表示0至1之间的随机数，即λ∈[0,1]；

使用改进的万有引力算法优化LSTM神经网络的初始权重和阈值，取LSTM的前项传播过程为对象，适应度函数取LSTM神经网络的预测结果与真实值的均方差的倒数，即

a_i(n)和

分别代表第n次迭代时LSTM神经网络的训练数据的实际值和模型预测值，M表示训练数据的样本个数；

当适应度函数fit(n)的值大于上一次迭代的值时，则根据粒子更新公式对各粒子进行更新，否则保持现现状继续迭代，最终取适应度函数值最大的一组粒子的位置来表示LSTM神经网络的初始权重和阈值；

根据所述步骤7中，利用残差矩阵E和重型燃机控制器模块状态训练生物激励神经网络，采用生物激励神经网络对残差数据进行处理，其分为F₀和F₁两层神经网络结构，具体过程为：

(1)其中F₀层采用简单的神经元模型，具体方法为：

I表示残差矩阵E的某一行；A⁰表示生物激励常量，选取0到100间的常数；x表示第一层激活函数矩阵；

研究激活矩阵x(t)与激励残差矩阵E之间的关系，其中拉普拉斯的初始条件为：

其中X(s)和I(s)分别是x(t)和I(t)的拉普拉斯变换，其中

根据上式可以得出第一层的神经元输出的激活等式，即

则F₀层的输出可以表示为：

(2)第一层神经元的输出传递至第二层神经元,该层建立了各特征参数的当前信号值与先前值的关系，并根据输入的一致性采用生物激励结构实现F₀与F₁层之间的联系，具体方式如下：

W表示F₁层神经元的权重，I表示残差矩阵E的某一行，y表示第二层神经元的激活函数矩阵；

当遗忘因子A¹的初始状态为0时，则积分的等式可以换算成为

当遗忘因子A¹的初始状态不为0时，则过去累积的激活状态将逐渐消失，可以表示为一段时间内的激活状态被重新选择； 具体方法为：

将生物激励神经网络的自相关函数可以定义为：

自相关函数受激励信号和延时激励信号的影响，和输出呈正比关系； 数学公式表示为：

(3)采用不同的特征向量表示重型燃机控制器模块的不同运行状态，将残差矩阵的每一行作为生物激励神经网络的输入，其对应的向量作为输出，设置循环迭代次数，根据实际输入输出情况设置F₀与F₁层的神经元个数，利用生物激励神经网络的向量输出和实际向量的均方差作为模型评判指标，当均方差大于给定误差，则采用RMSProp算法优化神经网络的权重参数，当均方差小于给定误差，则获得生物激励神经网络模型； 均方差计算过程为：

N表示特征向量中的元素个数，a_i表示神经网络向量的第i个元素，

表示实际特征向量的i个元素。

2.根据权利要求1所述的基于LSTM和生物激励神经网络的重型燃机控制系统控制器模块智能BIT设计方法，其特征在于，所述控制器模块历史数据包括各特征参数数据，按照时间序列进行排序，且包含所有特征状态参数历史数据；矩阵A代表数据集，则A的第i行表示第i个特征参数的历史数据集，

表示第n个特征数据的第m个单位时间的数据，即

3.根据权利要求1所述的基于LSTM和生物激励神经网络的重型燃机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤2中，归一化处理方法具体为：

a′代表归一化处理后的数据，a代表归一化处理前的数据，a_min代表所预测的特征状态参数的最小值，a_max代表所预测的特征状态参数的最大值。

4.根据权利要求1所述的基于LSTM和生物激励神经网络的重型燃机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤6中，将控制器不同状态的历史数据输入至已训练好的各种特征状态参数的LSTM神经网络模型，得到模型预测值与实际值的相对残差时间序列，取同一时刻下的四个状态参数的残差值形成残差矩阵E；

I表示网络状态残差时间序列，T表示温度残差时间序列，C表示CPU负荷残差时间序列，F表示内层负荷残差时间序列。

Images