CN116797204A - 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法 - Google Patents

一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法 Download PDF

Info

Publication number
CN116797204A
CN116797204A CN202310735498.5A CN202310735498A CN116797204A CN 116797204 A CN116797204 A CN 116797204A CN 202310735498 A CN202310735498 A CN 202310735498A CN 116797204 A CN116797204 A CN 116797204A
Authority
CN
China
Prior art keywords
tcn
gru
primary air
self
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310735498.5A
Other languages
English (en)
Inventor
黄从智
何佳璇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China Electric Power University
Original Assignee
North China Electric Power University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China Electric Power University filed Critical North China Electric Power University
Priority to CN202310735498.5A priority Critical patent/CN116797204A/zh
Publication of CN116797204A publication Critical patent/CN116797204A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/20—Administration of product repair or maintenance
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01F—MEASURING VOLUME, VOLUME FLOW, MASS FLOW OR LIQUID LEVEL; METERING BY VOLUME
    • G01F1/00—Measuring the volume flow or mass flow of fluid or fluent solid material wherein the fluid passes through a meter in a continuous flow
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M99/00—Subject matter not provided for in other groups of this subclass
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M99/00—Subject matter not provided for in other groups of this subclass
    • G01M99/005—Testing of complete machines, e.g. washing-machines or mobile phones
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M99/00—Subject matter not provided for in other groups of this subclass
    • G01M99/008—Subject matter not provided for in other groups of this subclass by doing functionality tests
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/10—Pre-processing; Data cleansing
    • G06F18/15—Statistical pre-processing, e.g. techniques for normalisation or restoring missing data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2131—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on a transform domain processing, e.g. wavelet transform
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Strategic Management (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Probability & Statistics with Applications (AREA)
  • Primary Health Care (AREA)
  • Water Supply & Treatment (AREA)
  • Public Health (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Fluid Mechanics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开一种基于小波分解与重构和TCN‑GRU‑Self‑Attention的磨煤机一次风量故障预警方法，首先获取某磨煤机一次风量信号数据并对数据进行预处理。对一次风量信号进行小波分解与重构。将重构后的数据进行标准化处理并使用滑动窗口划分标准化后的数据作为网络的输入。选用贝叶斯优化算法对TCN‑GRU‑Self‑Attention的参数进行优化，构建TCN‑GRU‑Self‑Attention网络拓扑结构。根据上述TCN‑GRU‑Self‑Attention网络，拟合某磨煤机的一次风量信号。计算模型的输出值与一次风量真实值的JS散度。根据过程量化指标中常用的指标函数建立健康度和JS散度之间的关系，得到一次风量当前时刻的健康度。根据健康度来判断一次风量是否出现异常趋势，若健康度低于设定值即认为一次风量开始出现异常，从而进行故障预警。本发明为解决磨煤机故障预警提供了一种方案和思路。

Description

一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤 机一次风量故障预警方法
技术领域
本发明涉及火电机组健康管理技术的故障预警技术领域，具体来讲涉及一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法。
背景技术
磨煤机作为燃煤电厂制粉系统中重要的辅机之一，长期处于恶劣的工作环境，其系统内部极易出现故障。磨煤机系统中一次风系统是保证煤粉输送和锅炉燃烧的重要系统，一次风量是一次风系统中最重要的参数，在磨煤机正常运行、机组稳定燃烧、风煤配比过程中起关键调节作用。因此，有必要对一次风量的故障进行预警，以保障一次风系统的正常运行。
目前，故障预警系统主要有基于机理模型的故障预警系统和基于数据驱动模型的故障预警系统。发电机组由于工况变化复杂，被控对象外界影响大，系统之间相互耦合导致机理建模的模型不能十分准确的匹配现场实际情况。随着大数据、人工智能等前沿技术不断进步，基于数据分析的设备故障诊断方法在燃煤机组故障预警与诊断方面取得良好效果，并得到快速发展。其主要有应用统计分析、神经网络、贝叶斯网络、聚类分析等方法对数据进行训练得到预测模型，实现故障预警。
发明内容
本发明的目的是提供一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法，可更为准确地预警磨煤机一次风量的故障，减少一次风量过高或过低对磨煤机运行产生的影响。根据某火电机组磨煤机的一次风量信号数据，对获取的一次风量信号数据进行预处理，并对数据进行归一化处理。采用小波分解与重构的快速算法Mallet算法对一次风量的原始信号进行分解与重构。对原始信号分解得到1组一次风量的基本时间序列信号和N组噪声信号，再将该N+1组一次风量时间序列信号分别重构到原尺度上，得到N+1组在原尺度上的经过分解与重构处理的一次风量时间序列信号。对小波分解与重构后的一次风量时间序列信号进行归一化处理。采用滑动窗口对归一化后的N+1组时间序列信号进行划分后作为TCN-GRU-Self-Attention网络的输入。选用贝叶斯优化算法对TCN-GRU-Self-Attention网络的参数进行优化，构建TCN-GRU-Self-Attention网络。采用构建完成的TCN-GRU-Self-Attention网络模型对划分后的时间序列信号进行拟合得到模型的输出，作为一次风量的拟合值。采用JS散度对TCN-GRU-Self-Attention网络模型的一次风量输出值和真实值进行计算，得到当前时刻的一次风量健康度，根据健康度判断一次风量是否出现异常的趋势，若健康度低于设定值，即认为一次风量开始出现异常，从而进行故障预警。
本发明所采用的技术是，一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法，具体按照以下步骤实施：
获取某火电机组磨煤机的一次风量信号数据。
对获取的一次风量信号数据进行预处理。
预处理的数据通常为缺失数据和异常数据。
对于异常数据和缺失数据均使用均值插补法进行补全，均值插补法如下：
其中x'i作为t时刻的期望平抑目标。其中，xi-1为需处理数据的前一个数据点，xi+1为需处理数据的后一个数据点，将需要处理数据的前后两个数据点取均值进行差补。
采用小波分解与重构的快速算法，即Mallet算法，对一次风量信号进行分解与重构。
小波分解与重构具体流程为：
将一次风量原始信号的集合记为V0，将第i组截止到采样周期k为止得到的一次风量原始时间序列信号记为其中上标表示分解尺度。
对进行分解得到低一级的基本时间序列信号/>和噪声信号/>即：
采用相同的步骤逐级分解，公式如下：
其中为第i组截止到采样周期k为止得到的经j级分解后的一次风量近似信号；/>为第i组截止到采样周期k为止得到的经j级分解后的小波信号；/>为小波分解时低通滤波器的系数；/>为小波分解时高通滤波器的系数；j为分解的层数；T为离散采样点数。
得到经过N级小波分解后的近似信号和N组干扰信号/>
将经过N级小波分解的近似信号和N组干扰信号/>j＝1,2,…,N，分别重构到原尺度上，公式如下：
其中为近似信号；/>为小波信号；h为小波重构时低通滤波器的系；g为小波分重构时高通滤波器的系数；j为分解的层数；T为离散采样点数。
对小波分解与重构后的一次风量信号数据进行归一化处理，归一化公式如下：
其中xmin，xmax分别表示样本的最小值和最大值，ymin＝-1，ymax＝1。
采用滑动窗口对归一化后的N+1组信号沿时间轴进行划分，作为TCN-GRU-Self-Attention网络的输入。
TCN网络是在卷积网络的基础上引入了膨胀卷积、因果卷积和残差块的跳跃连接三种特殊结构而构建的网络模型。其在训练时序数据过程中设置了严格的历史因果关系，有效解决了现有故障诊断算法存在的训练时序逻辑性不强的问题。
定义输入序列为{x0,x1,…,xt}，输出序列为{y0,y1,…,yt}，膨胀卷积的一般形式为：
其中f为卷积滤波器；k为卷积核大小；d为扩张因子，表示卷积核的区间数；s-di为过去时间状态的卷积。
在TCN内相邻的两级之间采用残差块的跳跃连接。TCN有两层扩张的因果卷积和ReLU激活函数，其中卷积滤波器采用批处理归一化。
跳跃连接可表示为：
o＝Activation(x+F(x))
此处Activation表示激活函数，其中包括ReLU和Sigmoid，此处设计的TCN中使用ReLU函数来连接残差块，计算公式如下：
fact(x)＝max(0,x)
GRU网络可以将较长时间之前的信息输送给后面时间步长的神经元，能够有效捕捉长序列之间的关联，GRU网络结构如下：
其中W是权重矩阵，Z表示更新门，r表示重置门，h表示状态，“*”表示按元素乘，σ表示Sigmoid激活函数。
自注意力机制(Self-Attention)是一种将各个输入特征关联输出特征，使得每个输出特征包含输入特征的上下文关系的内注意力机制，具体如下：
Self-Attention的输入为上一层得到的特征图x∈RC×N，将x转换到特征空间域q，k，v去计算注意力，其中q(x)＝Wqx，k(x)＝Wkx，v(x)＝Wvx，则：
其中表示特征在合成区域j，i位置的关注程度，C是通道特征数量，N是特征图尺寸H×W。
自注意力层的输出为：
其中Wq，Wk，Wv，Wɑ∈RC×N为权重矩阵。d为权重矩阵的维度。
将TCN、GRU和Self-Attention网络连接构成TCN-GRU-Self-Attention网络拓扑结构。
将TCN-GRU-Self-Attention网络中TCN的滤波器数目、卷积核大小，GRU的神经元数目作为贝叶斯优化算法的寻优对象。
通过贝叶斯优化器对网络超参数进行优化，具体流程如下：
初始化一个代理函数f(x)的先验分布，此处选择高斯过程作为先验。
选择若干组数据X＝{x1,x2,…,xn}，训练网络得到相应目标函数值Y＝{y1,y2,…,yn}。
用代理函数f(x)来拟合所选择的X，Y。
选择使得采集函数取最大值的数据点xt，即：
获取其目标函数值yt，即：
yt＝f(xt)+εt
在目标函数c(x)中评估数据xt是否符合要求。
整合新数据点D1:t＝{D1:t-1,(xt；yt)}，更新代理函数f(x)，得到一个后验分布，作为下一个的先验分布。
将寻优得到的TCN-GRU-Self-Attention网络中TCN层的滤波器数目、卷积核大小，GRU层的神经元数目，代入TCN-GRU-Self-Attention网络中，构建TCN-GRU-Self-Attention网络拓扑结构。
将划分后的重构信号输入TCN-GRU-Self-Attention网络模型中，得到模型拟合的一次风量值。
JS散度为衡量两种不同概率分布相似性的指标。若将一段时间内的一次风量真实值作为一个基准分布，模型输出值的数据分布与基准分布之间的相似度越高，代表其健康程度越高；反之，分布之间的差异越大，说明健康度越低。
计算一次风量的模型输出值和真实值的JS散度，JS散度的计算公式如下：
其中p(x)为分布P对应的概率密度函数；q(x)为分布Q对应的概率密度函数；
根据过程量化指标中常用的指标函数建立健康度和JS散度之间的关系。定义第l天一次风量的健康度指标HI是关于数据分布间相似度的指标函数，公式如下：
其中b为形状参数，b>0。
通过上述健康度判断一次风量是否出现异常趋势。当模型健康度低于设定值时，则认为一次风量信号开始出现异常趋势，此时应该进行故障预警。
附图说明
图1为本发明一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法流程图。
图2为小波分解过程图。
图3为小波重构过程图
图4为膨胀卷积拓扑结构。
图5为残差跳跃连接拓扑结构。
图6为GRU神经网络拓扑结构。
图7为贝叶斯优化算法流程图。
具体实施方法
下面结合附图对本发明做出进一步的阐述，但不能以此来限制本申请的保护范围。
在本实例中，参照图1所示，本发明提出了一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法，包括步骤：
获取某火电机组磨煤机的一次风量信号数据。
对获取的一次风量信号数据进行预处理。
预处理的数据通常为缺失数据和异常数据。
对于异常数据和缺失数据均使用均值插补法进行补全，均值插补法如下：
其中xi'作为t时刻的期望平抑目标。其中，xi-1为需处理数据的前一个数据点，xi+1为需处理数据的后一个数据点，将需要处理数据的前后两个数据点取均值进行差补。
采用小波分解与重构的快速算法，即Mallet算法，对一次风量信号进行分解与重构。
小波分解与重构具体流程为：
采用Daubench小波系n＝3，即db3作为尺度函数对一次风量信号进行三尺度(N＝3)分解。
将一次风量原始信号的集合记为V0，将第i组截止到采样周期k为止得到的一次风量原始时间序列信号记为其中上标表示分解尺度。
对进行分解得到低一级的基本时间序列信号/>和噪声信号/>即：
采用相同的步骤逐级分解，公式如下：
其中为第i组截止到采样周期k为止得到的经j级分解后的一次风量近似信号，反映了该时间序列的内在变化趋势；/>为第i组截止到采样周期k为止得到的经j级分解后的小波信号，反映了随机扰动带来的影响；/>为小波分解时低通滤波器的系数；/>为小波分解时高通滤波器的系数；j为分解的层数；T为离散采样点数。
得到经过N级小波分解后的近似信号和N组干扰信号/>
将经过N级小波分解的近似信号和N组干扰信号/> 分别重构到原尺度(即N＝0的尺度)上，公式如下：
其中为近似信号；/>为小波信号；h为小波重构时低通滤波器的系数；g为小波分重构时高通滤波器的系数；j为分解的层数；T为离散采样点数。
对小波分解与重构后的一次风量信号数据进行归一化处理，归一化公式如下：
其中xmin，xmax分别表示样本的最小值和最大值，ymin＝-1，ymax＝1。
采用大小为timesteps的滑动窗口对归一化后的N+1组信号沿时间轴进行划分，从而得到多组形状为(timesteps,input_dim＝N+1)的信号数据(每组数据中包含t-timestep～t时刻的数据)，作为TCN-GRU-Self-Attention网络的输入，将各组信号数据第t时刻对应的原始一次风量信号作为输出，以此训练TCN-GRU-Self-Attention网络。
将划分后的时间序列信号按照6:1:3的比例划分为训练集、验证集和测试集。
TCN网络是在卷积网络的基础上引入了膨胀卷积、因果卷积和残差块的跳跃连接三种特殊结构而构建的网络模型。其在训练时序数据过程中设置了严格的历史因果关系，有效解决了现有故障诊断算法存在的训练时序逻辑性不强的问题。
定义输入序列为{x0,x1,…,xt}，输出序列为{y0,y1,…,yt}，膨胀卷积的一般形式为：
其中f为卷积滤波器；k为卷积核大小；d为扩张因子，表示卷积核的区间数；s-di为过去时间状态的卷积。
在TCN内相邻的两级之间采用残差块的跳跃连接。TCN有两层扩张的因果卷积和ReLU激活函数，其中卷积滤波器采用批处理归一化。
跳跃连接可表示为：
o＝Activation(x+F(x))
此处Activation表示激活函数，其中包括ReLU和Sigmoid，此处设计的TCN中使用ReLU函数来连接残差块，计算公式如下：
fact(x)＝max(0,x)
GRU网络可以将较长时间之前的信息输送给后面时间步长的神经元，能够有效捕捉长序列之间的关联，GRU网络结构如下：
其中W是权重矩阵，Z表示更新门，r表示重置门，h表示状态，“*”表示按元素乘，σ表示Sigmoid激活函数。
自注意力机层(Self-Attention)是一种将各个输入特征关联输出特征，使得每个输出特征包含输入特征的上下文关系的内注意力机制，具体如下：
自注意力层的输入为上一层得到的特征图x∈RC×N，将x转换到特征空间域q，k，v去计算注意力，其中q(x)＝Wqx，k(x)＝Wkx，v(x)＝Wvx，则：
其中表示特征在合成区域j，i位置的关注程度，C为通道特征数量，N为特征图尺寸H×W。
自注意力层的输出为：
其中Wq，Wk，Wv，Wɑ∈RC×N为权重矩阵。d为权重矩阵的维度。
将TCN层设置为返回整个序列与GRU层连接，然后与Self-Attention层连接，最后连接一个带有Sigmoid激活函数的单输出全连接层，构成TCN-GRU-Self-Attention网络拓扑结构。
将TCN-GRU-Self-Attention网络中TCN层的滤波器数目、卷积核大小，GRU层的神经元数目作为贝叶斯优化算法的寻优对象。
选取验证集的平均绝对误差MAE作为贝叶斯优化算法的目标函数，其中目标函数的公式如下：
其中yi为验证集的原始轴承振动信号，为模型输出的原始轴承振动信号。
通过贝叶斯优化器对网络超参数进行优化，具体流程如下：
初始化一个代理函数f(x)的先验分布，此处选择高斯过程作为先验。
选择若干组数据X＝{x1,x2,…,xn}，训练网络得到相应目标函数值Y＝{y1,y2,…,yn}。
用代理函数f(x)来拟合所选择的X，Y。
选择使得采集函数取最大值的数据点xt，即：
获取其目标函数值yt，即：
yt＝f(xt)+εt
在目标函数c(x)中评估数据xt是否符合要求。
整合新数据点D1:t＝{D1:t-1,(xt；yt)}，更新代理函数f(x)，得到一个后验分布，作为下一个的先验分布。
将寻优得到的TCN-GRU-Self-Attention网络中TCN层的滤波器数目、卷积核大小，GRU层的神经元数目，代入TCN-GRU-Self-Attention网络中，构建TCN-GRU-Self-Attention网络拓扑结构。
将划分后的重构信号测试集输入TCN-GRU-Self-Attention网络模型中，得到模型拟合的一次风量值。
将一次风量模型输出值和风量值进行反归一化到原始量级。
JS散度作为衡量两种不同概率分布相似性的指标，倘若将一段时间内的一次风量真实值作为一个基准分布，模型输出值的数据分布与基准分布之间的相似度越高，代表其健康程度越高；反之，分布之间的差异越大，说明健康度越低。
采取当前时刻的前一小段时间内的模型输出值和该时间段对应的真实值进行JS散度计算，JS散度的计算公式如下：
其中p(x)为分布P对应的概率密度函数；q(x)为分布Q对应的概率密度函数；
根据过程量化指标中常用的指标函数建立健康度和JS散度之间的关系。定义第l天一次风量的健康度指标HI是关于数据分布间相似度的指标函数，公式如下：
其中b为形状参数，b>0。
通过上述健康度判断一次风量是否出现异常趋势。当模型健康度低于设定值时，则认为一次风量信号开始出现异常趋势，此时应该进行故障预警。
本发明申请人结合说明书附图对本发明的具体实施方式进行了描述，本行业的技术人员应当明白，上述具体实施和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都属于要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (7)

1.一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法，利用经贝叶斯算法优化得到的TCN-GRU-Self-Attention网络建立故障预警模型，其特征在于，按照以下步骤实施：
步骤1：获取某磨煤机一次风量信号数据。
步骤2：对获取的一次风量信号数据进行预处理。
步骤3：对一次风量信号进行小波分解与重构。
步骤4：将重构后的一次风量信号数据进行归一化处理，并采用滑动窗口重构分解后的模态数据，将其划分训练集、验证集和测试集。
步骤5：选用贝叶斯优化算法对TCN-GRU-Self-Attention的参数进行优化，构建TCN-GRU-Self-Attention网络拓扑结构。
步骤6：使用完成的TCN-GRU-Self-Attention网络模型对某磨煤机一次风量信号进行故障预警。
2.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所属步骤1中具体为，获取某磨煤机一次风量信号数据。
3.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所述步骤2中具体为，对获取的一次风机轴承振动信号数据进行预处理。具体过程如下：
步骤3.1、预处理的数据通常为缺失数据和异常数据。
步骤3.2、对于异常数据和缺失数据均使用均值插补法进行补全。
步骤3.3、均值插补法如下：
其中xi'作为t时刻的期望平抑目标。其中，xi-1为需处理数据的前一个数据点，xi+1为需处理数据的后一个数据点，取需要处理数据的前后两个数据点求取均值进行插补。
4.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所述步骤3中具体为，对一次风量信号进行小波分解与重构。具体过程如下：
步骤4.1、采用Daubench小波系n＝3，即db3作为尺度函数对一次风量信号进行三尺度(N＝3)分解。
步骤4.2、对一次风量信号进行逐级分解，公式如下：
其中为第i组截止到采样周期k为止得到的经j级分解后的一次风量近似信号；为第i组截止到采样周期k为止得到的经j级分解后的小波信号；/>为小波分解时低通滤波器的系数；/>为小波分解时高通滤波器的系数；j为分解的层数；T为离散采样点数。
步骤4.3、将经过N级小波分解的近似信号和N组干扰信号/>分别重构到原尺度(即N＝0的尺度)上，公式如下：
其中为近似信号；/>为小波信号；h为小波重构时低通滤波器的系数；g为小波分重构时高通滤波器的系数；j为分解的层数；T为采样周期。
5.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所述步骤4中具体为，将重构后的一次风量信号数据进行归一化处理，并采用滑动窗口重构分解后的模态数据，将其划分训练集、验证集和测试集。具体过程如下：
步骤5.1、将小波分解与重构后的一次风量信号数据进行归一化处理，公式如下：
其中xmin，xmax分别表示样本的最小值和最大值，ymin＝-1，ymax＝1。
步骤5.2、采用滑动窗口对归一化后的N+1组信号沿时间轴进行划分，将信号划分为(batch_size,timesteps,input_dim＝N+1)的形状，作为TCN-GRU-Self-Attention网络的输入。
步骤5.3、将划分后的数据集按照6:1:3的比例划分为训练集、验证集和测试集。
6.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所述步骤5中具体为，选用贝叶斯优化算法对TCN-GRU-Self-Attention网络的参数进行优化，构建TCN-GRU-Self-Attention网络拓扑结构。具体过程如下：
步骤6.1、TCN模块是在卷积网络的基础上引入了膨胀卷积、因果卷积和残差块的跳跃连接三种特殊结构而构建的网络模型。其在训练时序数据过程中设置了严格的历史因果关系，有效解决了现有故障诊断算法存在的训练时序逻辑性不强的问题。
步骤6.2、GRU网络可以将较长时间之前的信息输送给后面时间步长的神经元，能够有效捕捉长序列之间的关联，GRU网络结构如下：
rt＝σ(Wr·[ht-1,xt])
zt＝σ(Wz·[ht-1,xt])
其中W是权重矩阵，Z表示更新门，r表示重置门，h表示状态，“”表示按元素乘，表示Sigmoid激活函数。
步骤6.3、自注意力层的输入为上一层得到的特征图x∈RC×N，将x转换到特征空间域q，k，v去计算注意力，其中q(x)＝Wqx，k(x)＝Wkx，v(x)＝Wvx，则：
s.t.sij＝k(xi)Tq(xj)
其中表示特征在合成区域j，i位置的关注程度，C为通道特征数量，N为特征图尺寸H×W。
自注意力层的输出为：
att＝(att1,…,attj,…,attN)∈RC×N
其中Wq，Wk，Wv，Wɑ∈RC×N为权重矩阵。d为权重矩阵的维度。
步骤6.4、将TCN-GRU-Self-Attention网络中TCN层的滤波器数目、滤波器大小，GRU层的神经元数目作为贝叶斯优化算法的寻优对象。
步骤6.5、选取验证集的MAE作为贝叶斯优化算法的目标函数，其中目标函数的公式如下：
其中yi为验证集的原始轴承振动信号，为模型输出的原始轴承振动信号。
步骤6.6、初始化一个代理函数f(x)的先验分布，此处选择高斯过程作为先验。
步骤6.7、选择若干组数据X＝{x1,x2,…,xn}，训练网络得到相应目标函数值Y＝{y1,y2,…,yn}。
步骤6.8、用代理函数f(x)来拟合所选择的X、Y。
步骤6.9、选择使得采集函数取最大值的数据点xt，即：
步骤6.10、获取其目标函数值yt，即：
yt＝f(xt)+εt
其中εt为偏置，为自主设定的超参数。
步骤6.11、在目标函数c(x)中评估数据xt是否符合要求。
步骤6.12、整合新数据点D1:t＝{D1:t-1,(xt；yt)}，更新代理函数f(x)，得到一个后验分布，作为下一次的先验分布。
步骤6.13、将寻优得到的TCN-GRU-Self-Attention网络中TCN层的滤波器数目，滤波器大小、GRU层的隐藏层数目，带入TCN-GRU-Self-Attention网络，构建TCN-BiLSTM网络拓扑结构。
7.根据权利要求1所述中的一种基于TCN-GRU-Self-Attention神经网络的一次风机轴承振动故障预警方法，其特征在于，所述步骤6中具体为，使用完成的TCN-GRU-Self-Attention网络模型对某磨煤机一次风量信号进行故障预警。具体过程如下：
步骤7.1、将测试集输入构建完成的TCN-GRU-Self-Attention网络模型中，输出一次风量信号的模型拟合值。
步骤7.2、计算一次风量的模型输出值和真实值之间的JS散度，JS散度的计算公式如下：
其中p(x)为分布P对应的概率密度函数；q(x)为分布Q对应的概率密度函数；
步骤7.3、根据过程量化指标中常用的指标函数建立健康度和JS散度之间的关系。定义第l天一次风量的健康度指标HI是关于数据分布间相似度的指标函数，公式如下：
其中b为形状参数，b>0。
步骤7.4、根据上述定义计算健康度，当模型健康度低于可接受的值时，则认为一次风量信号开始出现异常趋势，此时应该进行故障预警。
CN202310735498.5A 2023-06-20 2023-06-20 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法 Pending CN116797204A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310735498.5A CN116797204A (zh) 2023-06-20 2023-06-20 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310735498.5A CN116797204A (zh) 2023-06-20 2023-06-20 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法

Publications (1)

Publication Number Publication Date
CN116797204A true CN116797204A (zh) 2023-09-22

Family

ID=88040946

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310735498.5A Pending CN116797204A (zh) 2023-06-20 2023-06-20 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法

Country Status (1)

Country Link
CN (1) CN116797204A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117804811A (zh) * 2024-03-01 2024-04-02 青岛理工大学 注意力机制深度神经网络港机装备健康诊断系统及方法
CN118094314A (zh) * 2024-01-31 2024-05-28 淮阴工学院 一种基于改进时空模型的化工过程故障诊断方法及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118094314A (zh) * 2024-01-31 2024-05-28 淮阴工学院 一种基于改进时空模型的化工过程故障诊断方法及系统
CN117804811A (zh) * 2024-03-01 2024-04-02 青岛理工大学 注意力机制深度神经网络港机装备健康诊断系统及方法

Similar Documents

Publication Publication Date Title
Zhang et al. Short-term offshore wind power forecasting-A hybrid model based on Discrete Wavelet Transform (DWT), Seasonal Autoregressive Integrated Moving Average (SARIMA), and deep-learning-based Long Short-Term Memory (LSTM)
CN112101480B (zh) 一种多变量聚类与融合的时间序列组合预测方法
CN116797204A (zh) 一种基于小波分解与重构和TCN-GRU-Self-Attention的磨煤机一次风量故障预警方法
CN110942194A (zh) 一种基于tcn的风电预测误差区间评估方法
CN112784920B (zh) 云边端协同的旋转部件对抗域自适应故障诊断方法
CN105117593A (zh) 基于小波变换和粒子群改进灰色模型的短期风速预测方法
CN107766968A (zh) 基于capso‑rvm组合模型的短期风速预测方法
CN117290800B (zh) 一种基于超图注意力网络的时序异常检测方法及系统
CN116010900A (zh) 基于自注意力机制的多尺度特征融合齿轮箱故障诊断方法
CN110175541B (zh) 一种海平面变化非线性趋势提取的方法
CN112633493A (zh) 一种面向工业设备数据的故障诊断方法及系统
CN116702831A (zh) 一种考虑数据大量丢失的混合短期风电功率预测方法
CN116522124A (zh) 一种基于环境因素影响的溶解氧含量预测方法和系统
CN115345222A (zh) 一种基于TimeGAN模型的故障分类方法
CN118296470A (zh) 一种多分类器融合的智能分类方法
CN116070669B (zh) 一种基于改进深度置信网络的车间能耗预测方法与管理系统
CN117909881A (zh) 多源数据融合的抽油机的故障诊断方法及装置
CN116776209A (zh) 一种关口计量装置运行状态辨识方法、系统、设备及介质
CN116205135A (zh) 基于数据分解和神经网络的so2排放预测方法及系统
CN116522993A (zh) 一种基于对抗自编码网络的化工过程故障检测方法
CN113515890A (zh) 一种基于联邦学习的可再生能源日前场景生成方法
CN114239402A (zh) 基于优化胶囊网络的核动力循环水泵故障诊断方法及系统
CN109840629B (zh) 基于小波变换-树突状神经元模型的光伏功率预测方法
CN112749807A (zh) 一种基于生成模型的量子态层析方法
CN118194028B (zh) 基于混合概率主成分分析的低轨卫星异常状态识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination