CN112000084B - 一种基于1d-cnn和gru-svm的控制器模块智能bit设计方法 - Google Patents

Abstract

本发明公开了一种基于1D‑CNN和GRU‑SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，属于重型燃气轮机控制系统智能BIT领域。针对智能BIT设计方法和常规BIT虚警率高的问题，提供了一种利用1D‑CNN模型和GRU‑SVM模型实现重型燃气轮机控制系统控制器模块智能BIT诊断、降虚警的方法。利用控制器模块中功能电路的历史数据训练1D‑CNN模型，根据1D‑CNN能够直接处理时间序列信号的特点，更高效率地对含有故障的信息进行特征提取以及故障分类和定位，并在1D‑CNN识别结果的基础上利用GRU对BIT智能诊断的结果进行预测，依据时间特征处理1D‑CNN输出的BIT信号并送入SVM进行分类，过滤虚警，从而有效解决了现有常规BIT虚警率高的问题。

Description

一种基于1D-CNN和GRU-SVM的控制器模块智能BIT设计方法

技术领域

本发明所述的技术领域为重型燃气轮机控制系统智能BIT领域，具体为一种基于一维卷积神经网络(1D-CNN)和门控循环单元(GRU)的重型燃气轮机控制系统控制器模块智能BIT设计方法。

背景技术

在现代高科技背景环境下，BIT技术是提高重型燃气轮机控制系统故障诊断能力的重要途径，在提高其测试性、维修性、提高测试维修效率、降低测试维修费用等方面发挥了重要作用。由于常规BIT技术故障诊断能力差，虚警率高，故提出智能BIT技术，主要涵盖了BIT智能设计、智能检测、智能诊断、智能决策4个方面。智能BIT技术是将专家系统、神经网络、模糊理论、信息融合等智能理论应用于常规BIT，主要以提高故障诊断率，降低虚警率为目的，将人工智能理论应用到BIT研究的全过程，从而达到提高重型燃气轮机控制系统综合效能的作用。然而，如何将常规BIT智能化以及如何降低虚警率仍是一个待解决的难题。

本发明针对重型燃气轮机控制系统智能BIT设计方法以及常规BIT虚警率高的问题，提出了一种基于一维卷积神经网络(1D-CNN)和门控循环单元(GRU)的智能BIT设计方法。所提模型将重型燃气轮机控制系统控制器模块的功能电路诊断信号经过归一化和EMD降噪处理，利用1D-CNN实现控制器模块中故障信息的定位和分类，并将分类结果输入GRU门控循环神经网络中进行预测，同时利用SVM实现正常/故障的二分类，从而达到降低虚警率的目的。

发明内容

本发明的目的是针对重型燃气轮机控制系统控制器模块智能BIT设计方法以及常规BIT虚警率高的问题，提出了一种基于一维卷积神经网络(1D-CNN)和门控循环单元(GRU)的智能BIT设计方法；利用1D-CNN对重型燃气轮机控制系统控制器模块的功能电路诊断信号进行BIT智能诊断与分类，提高BIT针对重型燃气轮机控制器模块信号的BIT智能诊断的精确度；同时又利用GRU的循环神经网络对BIT智能诊断结果进行预测，结合SVM分类方法降低虚警率。

本发明实现上述目的的具体方案是：

一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统智能BIT的设计方法，其特征在于，包括以下步骤：

1、利用重型燃气轮机控制器模块各功能电路CPU、ROM、RAM、时钟、电源、通信的检测信号作为输入。

2、对数据进行预处理：利用经验模式分解(EMD)判别信号分量和噪声分量后分离检测电路中所包含的噪声，重构去噪后的信号，之后每隔20s采集一个数据作为样本得到相同时间间隔下的数据集并对数据进行Z-score归一化处理。

3、将数据分为训练集和验证集，并标记数据集中每一个样本所对应的正常或故障标签。

4、建立1D-CNN的智能BIT神经网络，利用天牛须搜索算法(BAS)优化1D-CNN模型的网络权重，并将降噪、归一化处理后的数据训练集输入神经网络进行训练，在训练误差收敛后停止，得到训练好的神经网络模型。

5、将数据中的验证集输入训练好的神经网络中得到故障分类以及报警结果，从而评估计算智能BIT神经网络的精确度及各项指标。

6、采集重型燃气轮机控制器模块的实时数据并按照步骤2所述方法进行预处理，将预处理后得到的数据输入训练好的智能BIT神经网络中得到报警结果以及故障分类，从而实现故障定位，输出0/1序列数据，得到含有虚警的BIT信号。

7、将步骤6中得到的实现故障定位的0/1序列数据输入GRU循环门控神经网络中进行预测，通过调整GRU模型网络参数，预测输入的含有虚警的BIT信号的变化趋势，使其接近期望输出，之后使用SVM确定正常和虚警的分界线，减少不必要的报警，实现虚警的抑制。

进一步的，步骤2采用Z-score归一化处理和EMD经验模态分解法降噪，Z-score归一化公式具体如下：

其中x_i表示样本数据x中第i个点，mean(x)表示样本信号x的均值，std(x)表示样本信号x的标准差。

EMD经验模态分解法降噪具体步骤如下：

(1)找到信号x(t)所有极值点；

(2)用3次样条曲线拟合出上下极值点的包络线emax(t)和emin(t)，并求出上下包络线的平均值m(t)，在x(t)中减去它:h(t)＝x(t)-m(t)；

(3)根据预设判据判断h(t)是否为IMF，判断条件是：①函数在整个时间范围内，局部极值点和过零点的数目必须相等，或最多相差一个②在任意时刻点，局部最大值的包络(上包络线)和局部最小值的包络(下包络线)平均必须为零；

(4)如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足判据，则h(t)就是需要提取的IMF；

(5)每得到一阶IMF，就从原信号中扣除它，重复以上步骤，直到信号最后剩余部分就只是单调序列或者常值序列。这样，经过EMD方法分解就将原始信号x(t)分解成一系列IMF以及剩余部分的线性叠加，实现信号降噪。

进一步的，所述步骤4具体为：建立基于1D-CNN的BIT智能诊断神经网络，包括输入层、隐藏层、输出层；所述输入层以重型燃气轮机控制系统控制器模块的检测信息作为时域序列输入；所述隐藏层包括1D-CNN网络结构、批处理层、Dropout层，输入数据依次经过该网络结构后输出结果。利用天牛须搜索算法(BAS)优化1D-CNN模型网络权重，输入大量标记有样本标签的数据训练集对神经网络进行训练，并得到0/1的分类结果；调整1D-CNN模型网络和权重，在训练误差收敛后停止训练，得到训练好的神经网络模型。将1D-CNN进行BIT智能诊断的结果序列输入到GRU神经网络进行下一时刻输出结果的预测，并利用SVM实现正常/故障的二分类从而降低虚警率。

进一步的，所述步骤4中天牛须搜索算法(BAS)具体为利用天牛觅食时根据食物气味强度来判断移动方向的仿生原理来构建1D-CNN权重优化的算法，其基本步骤如下：

(1)在一个维度为k的空间寻优，质心位置为x，左须位置为x₁，右须为x₂，两须之间的距离为d；

(2)天牛每一步行动之前其朝向是随机的，所以生成一个k维的随机向量表示天牛的朝向；

其中，rnd(k,1)表示随机生成的k维随机向量。根据天牛的朝向可以表示出左须和右须的坐标:

其中，d^t表示天牛在t时刻两须之间的距离，根据迭代的进行变化，初始化时其长度要确保天牛足够大以便跳出局部最优值，后期要使搜索足够小，防止其跳过最优值点；

(3)在分别计算天牛的左右须的适应度值f(x_r)和f(x_r)后，比较左右须适应度的大小，决定下一步的走向

其中，sign为符号函数；δ为步长，与两须之间的距离类似，其长度是一个随t变化递减的函数值。d与δ的衰减表示为：

d^t＝eta_d·d^t-1+0.01 (6)

δ^t＝eta_δ·δ^t-1 (7)

其中，eta_d和eta_δ分别为两须之间的距离和步长的衰减系数，通常设为0.95，在某些场合也可设置为1；

(4)判断是否符合寻优的精度或者大于最大迭代次数，符合其一就寻优结束，否则重复(2)-(4)过程。

进一步的，所述步骤7中GRU网络结构进行预测的原理公式如下：

r_t＝σ(W_r·[h_t-1，]) (8)

z_t＝σ(W_z·[h_t-1，x_t]) (9)

y_t＝σ(W_σ·h_t) (12)

其中，x_t为当前的输入，h_t-1为上一节点传递下来的隐状态，h_t为下一节点的隐状态，r_t和z_t分别表示遗忘门和更新门，

为当前时刻的候选集，y_t为当前隐藏节点的输出。

进一步的，所述步骤7中GRU-SVM预测过程如下：

(1)将1D-CNN模型得到的含有虚警的BIT信号输入到GRU网络结构中依次计算相应隐藏层，得到含有BIT信号变化趋势的输出向量(y₁，y₂，...y_t-1，y_t)；

(2)将GRU的输出向量(y₁，y₂，...y_t-1，y_t)输入到SVM，完成SVM0/1分类，得到GRU-SVM预测模型，从而确定正常和故障的分界线，过滤1D-CNN模型输出信号中的虚警，降低虚警率。

进一步的，所述步骤7中的虚警率(FAR)定义如下：

虚警率(FAR)：发生的虚警数与同一时间内的故障指示总数之比，FAR的数学模型可表示为：

其中N_FA为测试中的虚警次数；N_F为真实故障指示次数；N为故障指示总次数。

附图说明

图2是本发明基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法中实现BIT智能诊断和BIT降虚警的具体流程图。

图1是本发明基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法中计算机执行的流程图。

图3是本发明基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法中1D-CNN模型的网络结构示意图。

图4是本发明基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法中GRU结构图。

具体实施方式

下面结合附图对本发明的实施进行详细的说明，以是本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定。

本发明基于一维卷积神经网络(1D-CNN)和门控循环单元(GRU)的重型燃气轮机控制系统控制器模块智能BIT设计方法，主要包括以下步骤：

S1.数据处理

1、采集重型燃气轮机控制系统控制器模块运行过程中CPU、ROM、RAM、时钟、电源、通信各功能电路的检测信号作为输入。

2、对数据进行预处理：利用经验模式分解(EMD)判别信号分量和噪声分量后分离检测电路中所包含的噪声，重构去噪后的信号，之后每隔20s采集一个数据作为样本得到相同时间间隔下的数据集并对数据进行Z-score归一化处理。

3、给每个采样数据制作对应的标签，其中引起重型燃气轮机控制系统控制器模块报警的数据统一用1来表示，未引起报警的数据统一用0来表示。

4、在得到1D-CNN模型实现BIT智能诊断得到初步的故障定位结果后，需要将所得一维时间序列排列为二维矩阵的格式，输入GRU神经网络得到初步预测值，并对其进行二次指数平滑处理及逆标准化处理，将预测数据值还原为一维原始数据类型，得到预测结果，实现降虚警。

S2.网络搭建

经过S1部分预处理后，数据被规整为统一维数，即可作为网络模型的输入数据。本方法所采用的深度学习网络是1D-CNN模型和GRU-SVM模型的连接，利用了1D-CNN模型处理时间序列数据的优势实现BIT智能诊断，利用GRU-SVM的预测功能实现了降虚警。两种神经网络首尾连接互相配合发挥优势，这是此前其他方法所不具备的。本方法提出的1D-CNN和GRU-SVM神经网络的搭建步骤及具体结构如下：

1、建立1D-CNN的智能BIT神经网络，利用天牛须搜索算法(BAS)优化1D-CNN模型网络权重，并将降噪、归一化处理后的数据训练集输入神经网络进行训练，在训练误差收敛后停止，得到训练好的神经网络模型。

2、将数据中的验证集输入训练好的神经网络中得到初步故障分类以及含有虚警的报警结果，从而评估计算智能BIT神经网络的精确度及各项指标。

3、将步骤2中得到的含有虚警的0/1序列数据输入GRU门控循环神经网络中进行预测，通过调整GRU网络结构参数，预测输入的含有虚警的BIT信号的变化趋势，使其接近期望输出，之后使用SVM确定正常和虚警的分界线，减少不必要的报警，实现虚警的抑制。本实例中采用的基于1D-CNN和GRU-SVM预测方法的具体结构如下：

(1)1D-CNN部分：

Layer1：1维卷积层，卷积核大小为16*1，步长为2，激活函数为relu；

Layer2：1维卷积层，卷积核大小为16*1，步长为2，激活函数为relu；

Layer3：最大值池化层，pool_size＝2；

Layer4：1维卷积层，卷积核大小为64*1，步长为2，激活函数为relu；

Layer5：1维卷积层，卷积核大小为64*1，步长为2，激活函数为relu；

Layer6：最大值池化层，pool_size＝2；

Layer7：1维卷积层，卷积核大小为128*1，步长为2，激活函数为relu；

Layer8：1维卷积层，卷积核大小为128*1，步长为2，激活函数为relu；

Layer8：最大值池化层，pool_size＝2；

Layer9：1维卷积层，卷积核大小为256*1，步长为2，激活函数为relu；

Layer10：1维卷积层，卷积核大小为256*1，步长为2，激活函数为relu；

Layer11：最大值池化层，pool_size＝2；

Layer12：全连接层，神经元个数为200，含BatchNormalization，激活函数为relu；

Layer13：Dropout层，解决过拟合问题，Dropout_rate＝0.3

Layer14：Softmax层，对结果进行故障分类；

(2)GRU-SVM部分：

Layer1：GRU层，神经元个数为100；

Layer2：全连接层，神经元个数为100；

Layer3：SVM，实现正常/故障的降虚警二分类；

S3.测试与结果

1、采集重型燃气轮机控制系统控制器模块的实时数据并按照S1所述方法进行预处理制作测试集。

2、载入得到的模型，将测试数据输入网络，得到测试报警结果，实现功能电路是否发生故障的判断，若报警结果与各功能电路实际正常/故障情况一致，则本实例提出的网络预测结果准确。

3、计算虚警率，本实例中预测结果的虚警率越低，则网络性能越好。

Claims (9)

1.一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，包括以下几个步骤：

(1)利用重型燃气轮机控制器模块各功能电路CPU、ROM、RAM、时钟、电源、通信的检测信号作为输入；

(2)对数据进行预处理：对功能电路检测信号进行降噪处理，之后每隔20s采集一个数据作为样本得到相同时间间隔下的数据集并对数据进行归一化处理；

(3)将数据分类为训练集和验证集，并标记数据集中每一个样本所对应的正常或故障标签；

(4)建立1D-CNN的智能BIT神经网络，利用天牛须搜索算法BAS优化1D-CNN模型网络权重，并将降噪、归一化处理后的数据训练集输入神经网络进行训练，在训练误差收敛后停止，得到训练好的神经网络模型；

(5)将数据中的验证集输入训练好的神经网络中得到故障分类以及报警结果，从而评估智能BIT神经网络的精确度及各项指标；

(6)采集重型燃气轮机控制器模块的实时数据并按照步骤(2)所述方法进行预处理，将预处理后得到的数据输入训练好的智能BIT神经网络中得到报警结果以及故障分类，从而实现故障定位，输出0/1序列数据，得到含有虚警的BIT信号；

(7)将步骤(6)中得到的实现故障定位的0/1序列数据输入GRU循环门控神经网络中进行预测，通过调整GRU模型网络参数，预测输入的含有虚警的BIT信号的变化趋势，使其接近期望输出，之后使用支持向量机SVM确定正常和虚警的分界线，减少不必要的报警，实现抑制虚警，降低虚警率。

2.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，步骤(2)对每种功能电路的信号采用EMD经验模态分解法进行降噪处理，所述EMD经验模态分解法降噪具体步骤如下：

(1)找到信号x(t)所有极值点；

(2)用3次样条曲线拟合出上下极值点的包络线emax(t)和emin(t)，并求出上下包络线的平均值m(t)，在x(t)中减去平均值，即h(t)＝x(t)-m(t)；

(3)根据预设判据判断h(t)是否为有效本征模函数IMF，判断条件是：①函数在整个时间范围内，局部极值点和过零点的数目必须相等，或最多相差一个；②在任意时刻点，局部最大值的包络和局部最小值的包络平均必须为零， 如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足判据，则h(t)就是需要提取的IMF；

(4)如果不是，则以h(t)代替x(t)，重复以上步骤直到h(t)满足判据，则h(t)就是需要提取的IMF；

(5)每得到一阶IMF，就从原信号中扣除它，重复以上步骤，直到信号最后剩余部分就只是单调序列或者常值序列， 这样，经过EMD方法分解就将原始信号x(t)分解成一系列IMF以及剩余部分的线性叠加，实现信号降噪。

3.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，步骤(2)对每种功能电路的采样数据进行Z-score归一化，所述Z-score归一化公式具体如下：

其中，x_i表示样本数据x中第i个点，mean(x)表示样本信号x的均值，std(x)表示样本信号x的标准差。

4.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤(4)具体为：

建立基于1D-CNN的BIT智能诊断神经网络，包括输入层、隐藏层、输出层；所述输入层以重型燃气轮机控制系统控制器模块的检测信息作为时域序列输入；所述隐藏层包括1D-CNN网络结构、批处理层、Dropout层，输入数据依次经过该网络结构后输出结果；利用BAS优化1D-CNN模型网络权重，输入大量标记有样本标签的数据训练集对神经网络进行训练，并得到0/1的分类结果；调整1D-CNN模型网络和权重，在训练误差收敛后停止训练，得到训练好的神经网络模型；将1D-CNN进行BIT智能诊断的结果序列输入到GRU神经网络进行下一时刻输出结果的预测，并利用SVM实现正常/故障的二分类从而降低虚警率。

5.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤(4)中BAS具体为利用天牛觅食时根据食物气味强度来判断移动方向的仿生原理来构建1D-CNN权重优化的算法，其基本步骤如下：

(1)在一个维度为k的空间寻优，质心位置为x，左须位置为x₁，右须为x₂，两须之间的距离为d；

(2)天牛每一步行动之前其朝向是随机的，所以生成一个k维的随机向量表示天牛的朝向；

其中，rnd(k,1)表示随机生成的k维随机向量， 根据天牛的朝向可以表示出左须和右须的坐标:

dt表示天牛在t时刻两须之间的距离,根据迭代的进行变化，初始化时其长度要确保天牛足够大以便跳出局部最优值，后期要使搜索足够小，防止其跳过最优值点；

(3)在分别计算天牛的左右须的适应度值f(x_r)和f(x_l)后，比较左右须适应度的大小，决定下一步的走向

其中，sign为符号函数；δ为步长，与两须之间的距离类似，其长度是一个随t变化递减的函数值， d与δ的衰减表示为：

d_t＝eta_d·d^t-1+0.01 (6)

δ^t＝eta_δ·δ^t-1 (7)

其中，eta_d和eta_δ分别为两须之间的距离和步长的衰减系数，设为0.95；

(4)判断是否符合寻优的精度或者大于最大迭代次数，符合其一就寻优结束，否则重复(2)-(4)过程。

6.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤(4)中1D-CNN神经网络的具体结构如下：

Layer0：输入层

Layer1：1维卷积层，卷积核大小为16*1，步长为2，激活函数为relu；

Layer2：1维卷积层，卷积核大小为16*1，步长为2，激活函数为relu；

Layer3：最大值池化层，pool_size＝2；

Layer4：1维卷积层，卷积核大小为64*1，步长为2，激活函数为relu；

Layer5：1维卷积层，卷积核大小为64*1，步长为2，激活函数为relu；

Layer6：最大值池化层，pool_size＝2；

Layer7：1维卷积层，卷积核大小为128*1，步长为2，激活函数为relu；

Layer8：1维卷积层，卷积核大小为128*1，步长为2，激活函数为relu；

Layer9：最大值池化层，pool_size＝2；

Layer10：1维卷积层，卷积核大小为256*1，步长为2，激活函数为relu；

Layer11：1维卷积层，卷积核大小为256*1，步长为2，激活函数为relu；

Layer12：最大值池化层，pool_size＝2；

Layer13：全连接层，神经元个数为200，含BatchNormalization批归一化层，激活函数为relu；

Layer14：Dropout层，解决过拟合问题，Dropout_rate＝0.3

Layer15：Softmax层，对结果进行故障分类。

7.根据权利要求5所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，所述GRU-SVM网络结构具体如下：

Layer1：GRU层，神经元个数为100；

Layer2：全连接层，神经元个数为100；

Layer3：SVM，实现正常/故障的降虚警二分类。

8.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，步骤(7)所述GRU-SVM预测过程如下：

(1)将1D-CNN模型得到的含有虚警的BIT信号输入到GRU网络结构中依次计算相应隐藏层，得到含有BIT信号变化趋势的输出向量(y₁,y₂,...y_t-1,y_t)；

(2)将GRU的输出向量(y₁,y₂,…y_t-1,y_t)输入到SVM，完成SVM分类，得到GRU-SVM预测模型，从而确定正常和故障的分界线，过滤1D-CNN模型输出信号中的虚警，降低虚警率。

9.根据权利要求1所述的一种基于1D-CNN和GRU-SVM的重型燃气轮机控制系统控制器模块智能BIT设计方法，其特征在于，所述步骤(7)中的虚警率FAR定义如下：

虚警率：发生的虚警数与同一时间内的故障指示总数之比，FAR的数学模型可表示为：

其中，N_FA为测试中的虚警次数；N_F为真实故障指示次数；N为故障指示总次数。

Images