CN116050665B - 供热设备故障预测方法 - Google Patents

Abstract

本发明涉及供热设备检测技术领域，具体涉及一种供热设备故障预测方法。包括以下步骤：基于供热设备的历史运行数据进行归一化处理、划分数据集以及设定原始数据；构建训练预测模型；采集供热设备当前的运行数据作为待测样本，将待测样本输入训练预测模型，得到供热设备下一时刻的运行数据的预测值。本发明引入改进的注意力机制组件，自适应地选择与预测相关的供热设备性能参数并加权，然后利用循环神经网络捕获供热设备属性时间序列的长期依赖关系，利用向量自回归模块捕获供热多变量时间序列的线性关系，结合线性与非线性模型对供热设备实时状态数据进行稳健的预测。

Description

供热设备故障预测方法

技术领域

本发明涉及供热设备检测技术领域，具体涉及一种供热设备故障预测方法。

背景技术

目前，工业互联网正在进入快速成长期。由于技术成熟度和系统复杂的原因，目前供热系统往往重点监测一些关键功能子系统，例如动力系统、电力系统等，获得性能和状态关键参数，人工判断其健康和故障状态，并结合经验，进行定期维护。在这种现行的“定期计划维修”模式下，具有如下缺点：

(1)设备运行的安全性和可靠性难以得到保障：“定期计划维修”无法有效处理潜在或突发的异常故障，无法保证供热设备安全、可靠地运行；

(2)定期维修维护会造成诸多不必要的拆卸和安装，同时也会产生额外的磨合损耗，甚至导致新的故障；

(3)设备维护和维修费用过高:供热设备的使用和维护保障费用占全寿命周期费用的比例，已达到70％以上，已成为制约供热设备迅速发展的关键所在。

据麦肯锡测算，预测性维护可减少达50％的停机时间，也可节省设备维护成本10％到40％。对供热系统运行参数的采集与分析，及时发现供热系统中设备的健康状态和存在的问题，并预防潜在故障的发生，制定和执行相应的维修维护策略，已变得十分迫切。因此，开展供热系统设备的故障预测、寿命预测和健康管理(prognostic and healthmanagement，PHM)，对于防止突发事件，保证供热系统的安全运行，减小维修维护成本，实现供热系统维护方式从目前的“定期维修”升级到“视情维修(condition basedmaintenance，CBM)”，从而提高供热系统维护的效率和失效性，降低供热系统的维修维护成本非常有必要。

发明内容

本发明要解决的技术问题是：克服现有技术的不足，提供一种供热设备故障预测方法。

本发明为解决其技术问题所采用的技术方案为：供热设备故障预测方法，，包括以下步骤：

步骤一：基于供热设备的历史运行数据进行归一化处理、划分数据集以及设定原始数据；

步骤二：构建训练预测模型；

步骤三：采集供热设备当前的运行数据作为待测样本，将待测样本输入训练预测模型，得到供热设备下一时刻的运行数据的预测值。

所述步骤一中，供热设备的历史运行数据存储于供热历史数据库中，数据归一化处理是将供热设备的历史运行数据归一化，然后添加滑动窗口转为监督学习问题；

划分数据集是将历史运行数据随机划分为训练集和测试集，然后使用训练集来生成模型，再用测试集来测试模型的正确率和误差，以验证模型的有效性；

设给定窗口内供热所采集的原始数据X为：

X＝{x₁，x₂，…x_t…，x_n}；

n表示供热所监测的供热设备属性个数；

第i个时间序列在t时刻的观测值表示为：

x_t(t＝1，2，…，T)表示第t时刻的观测值，T表示滑动窗口的大小，xⁱ(i＝1，2，…，n)表示第i个时间序列在窗口内的观测值，n为自然数。

所述步骤二中包括以下子步骤：

2-1：构建和训练初始的预测模型，初始化模型参数；

2-2：获取新的数据集X′；

2-3：计算供热设备某时段t的最终预测值O_t；

2-4：基于最终预测值O_t与真实值的误差，更新模型参数，完成最终预测模型的构建及训练。

所述步骤2-3包括以下子步骤：

2-2-1：在t时刻第i个时间序列的重要性表示如下：

式中，W_m∈R^Tx2q，U_m∈R^T×T都是需要学习的参数，q是隐藏层的维度，h_t-1是上一时刻隐藏状态，s_t-1是上一个时刻的单元状态，m表示需要学习的参数，m为自然数；

2-2-2：通过一个softmax函数确保所有注意力之和为1；

表示t时刻第i个时间序列的注意力权值；

2-2-3：将原始数据X＝{x₁，x₂，…，x_n}转化为新的多变量时间序列X′＝{x′₁，x′₂，…，x′_T}，在t时刻的观测值

所述步骤2-3中，包括以下子步骤：

2-3-1：神经网络的隐藏状态h_t由上一时刻h_t-1和新的t时刻的观测值x′_t共同决定，即：

h_t＝o(h_t-₁，x′_t)；

其中，o(·)是GRU单元；

2-3-2：使用一个Dense层来连接GRU的输出，从而得到供热设备未来一段时间的预测值

2-3-3：计算供热设备t时段的第二预测值O_t ^V；

2-3-4：将和O_t ^V求均值，得到供热设备t时段最终预测值Ot。

所述步骤2-3-2中计算公式如下：

m_t表示t时刻GRU单元的隐藏状态。

所述步骤2-3-3中计算过程如下：

给定输入X′∈R^N×T，其在t时刻的观测值x′_t表示：

其中，t＝d+1，…，T；A_k∈R^N×N表示向量自回归模型的系数矩阵，k＝1，2，…，d；ε_t为高斯噪声，采用最小二乘法求解最优的系数矩阵A_k，则输出O_t ^V公式如下：

其中O_t-k ^V表示在t-k时刻向量自回归模块得到的到供热设备的预测值。

采用梯度下降发反向传播更新神经网络模块、注意力机制组件和向量自回归模块的参数；包括以下子步骤：

2-4-1：使用均方误差MSE作为目标函数，其计算公式如下：

其中，O_n代表第n个样本的真实值，O′_n代表第n个样本的预测值，N表示样本数目；

2-4-2：若当前误差小于设定的误差阈值，则判断迭代达到预设最大迭代次数则得到训练好的预测模型，并执行下一步，否则返回步骤2-2继续训练预测模型。

与现有技术相比，本发明具有以下有益效果：

1.本发明引入改进的注意力机制组件，自适应地选择与预测相关的供热设备性能参数并加权，然后利用循环神经网络捕获供热设备属性时间序列的长期依赖关系，利用向量自回归模块捕获供热多变量时间序列的线性关系，结合线性与非线性模型对供热设备实时状态数据进行稳健的预测。

2.本发明提出的方法简单且不需要人工参与，通过输入注意力自适应地选择相关的供热设备属性，同时通过线性与非线性相结合的方法对供热设备属性进行预测，故障预测的效果更好。

3.本发明提出的方法，既能够学习供热多个设备属性之间的相互依赖关系和时间序列的长期依赖关系，还有助于减轻传统神经网络预测时间序列的输入尺度不敏感性。

附图说明

图1是本发明方法的流程图。

图2为供热设备原始数据的注意力处理示意图。

图3为GRU内部结构图。

图4为本发明方法的训练损失。

图5为换热站出口温度预测值和真实值示意图。

图6为换热站出口温度预测值和真实值对比图。

图7为5种预测方法的均方根误差对比图。

具体实施方式

下面结合附图对本发明实施例做进一步描述：

实施例1

如图1至图5所示，供热设备故障预测方法包括，包括以下步骤：

步骤一：基于供热设备的历史运行数据进行归一化处理、划分数据集以及设定原始数据；参照图1，所述步骤一中，供热设备的历史运行数据存储于供热历史数据库中，数据归一化处理是将供热设备的历史运行数据归一化，然后添加滑动窗口转为监督学习问题；

划分数据集是将历史运行数据随机划分为训练集和测试集，然后使用训练集来生成模型，再用测试集来测试模型的正确率和误差，以验证模型的有效性；

设给定窗口内供热所采集的原始数据X为：

X＝{x₁，x₂，…x_t…，x_n}；

n表示供热所监测的供热设备属性个数；

第i个时间序列在t时刻的观测值表示为：

x_t(t＝1，2，…，T)表示第t时刻的观测值，T表示滑动窗口的大小，xⁱ(i＝1，2，…，n)表示第i个时间序列在窗口内的观测值，n为自然数。

步骤二：构建训练预测模型；包括以下子步骤：

2-1：构建和训练初始的预测模型，初始化模型参数；

所述预测模型包括注意力机制组件、神经网络模块、向量自回归模块和数据融合模块；

在时间序列预测中，典型的注意力机制常被用于在时间维度上选择相关时间步骤来帮助预测结果的输出，但是它无法捕获每个时刻的多个特征之间的相互关系。由于供热系统收集的数据是多变量时间序列(Multivariate time series，MTS)数据，不同的序列之间可能存在复杂的动态相关性，例如柴油机供油量不足可能会导致柴油机排气温度升高，也可能导致柴油机转速下降或转速不急，这些相关性非常重要，但是难于捕获和分析。因此，本发明提出一种改进的注意力机制，自适应地选择与预测相关的时间序列，而不是选择相关的时间步骤。

注意力机制处理，用于自适应地选择与预测相关的供热设备性能参数并加权，包含数据获取、数据归一化处理、划分数据集和数据注意力处理。注意力机制处理将改进的注意力机制(Attention Mechanism)作用于训练集上，并将生成的输出同时输入循环神经网络和向量自回归。

神经网络模块用于对供热设备故障进行预测是通过注意力组件得到的多变量时间序列的输入，得出设备故障预测结果。

向量自回归模块通过向量自回归组件的引入对供热设备故障预测，并使用输入注意力组件所得到的供热多变量时间序列作为输入，得出设备故障预测结果。

数据融合模块是将循环神经网络与向量自回归模型的输出平均值作为供热设备的最终预测结果，并进行验证分析。

初始化神经网络模块、注意力机制组件和向量自回归模块的参数；

2-2：获取新的数据集X′；具体地说，参照图2，使用注意力机制组件对X增加注意力机制得到新的数据集X′。本发明所提出的注意力机制只关注其时间序列(行向量xⁱ)，行上的注意力权重选择有助于预测的变量，所述步骤2-3包括以下子步骤：

2-2-1：在t时刻第i个时间序列的重要性表示如下：

式中，W_m∈R^Tx2q，U_m∈R^T×T都是需要学习的参数，q是隐藏层的维度，h_t-1是上一时刻隐藏状态，s_t-1是上一个时刻的单元状态，m表示需要学习的参数，m为自然数。

2-2-2：通过一个softmax函数确保所有注意力之和为1；

表示t时刻第i个时间序列的注意力权值。

2-2-3：通过注意力机制组件，将供热所采集的原始数据X＝{x₁，x₂，…，x_n}转化为新的多变量时间序列X′＝{x′₁，x′₂，…，x′_T}，在t时刻的观测值

2-3：计算供热设备某时段t的最终预测值O_t；将X′输入神经网络模块得到供热设备t时段的第一预测值包括以下子步骤：

2-3-1：神经网络的隐藏状态h_t由上一时刻h_t-1和新的t时刻的观测值x′_t共同决定，即：

h_t＝o(h_t-1，x′_t)；

其中，o(·)是GRU单元；

2-3-2：使用一个Dense层来连接GRU的输出，从而得到供热设备未来一段时间的预测值 计算公式如下：

所述GRU单元的内部结构如图3所示，本发明使用Gated Recurrent Unit(即GRU：门控循环单元)作为循环组件，捕获表示设备运行状态的多变量时间序列的时间依赖性以及长期模式，具体公式如下：

z_t＝σ(W_z·[m_t-1，x_t])；

r_t＝σ(W_r·[m_t-1，x_t])；

c_t＝tanh(W·[r_t*m_t-1，x_t])；

m_t＝(1-z_t)*h_t-1+z_t*c_t；

其中，m_t表示t时刻GRU单元的隐藏状态，c_t表示t时刻GRU单元的单元状态，W_z，W_r，W都为权重参数，σ(·)为sigmoid激活函数，表示矩阵相乘，·为点积。z_t、r_t均为第t时刻的观测值。

2-3-3：计算供热设备t时段的第二预测值O_t ^V；循环神经网络虽然能够捕获设备多变量时间序列的时间性，但是输出的规模对输入的规模并不敏感。为了解决这一问题，本发明引入向量自回归模块。将X′输入向量自回归模块得到供热设备t时段的第二预测值O_t ^V，第二预测值O_t ^V计算过程如下：

给定输入X′∈R^N×T，其在t时刻的观测值x′_t表示：

其中，t＝d+1，…，T；A_k∈R^N×N表示向量自回归模型的系数矩阵，k＝1，2，…，d；d为自然数，ε_t可视为高斯噪声，采用最小二乘法求解最优的系数矩阵A_k，则向量自回归模块的输出O_t ^V公式如下：

其中O_t-k ^V表示在t-k时刻向量自回归模块得到的到供热设备的预测值。

2-3-4：将和O_t ^V输入数据融合模块求均值，得到供热设备t时段最终预测值O_t。具体过程如下：

计算和O_t ^V的算数平均值，参见如下公式：

O_t＝(O_t ^R+O_t ^V)/2。

2-4：基于最终预测值O_t与真实值的误差，更新模型参数，完成最终预测模型的构建及训练。所述步骤2-4中，计算供热设备t时段最终预测值O_t与真实值之间的误差，并根据该误差采用梯度下降发反向传播更新神经网络模块、注意力机制组件和向量自回归模块的参数；包括以下子步骤：

2-4-1：使用均方误差MSE作为目标函数，即供热设备某属性的真实值与预测值差平方的期望，其计算公式如下：

其中，O_n代表第n个样本的真实值，O′_n代表第n个样本的预测值，N表示样本数目；

2-4-2：若当前误差小于设定的误差阈值，则判断迭代达到预设最大迭代次数则得到训练好的预测模型，并执行下一步，否则返回步骤2-2继续训练预测模型。

步骤三：采集供热设备当前的运行数据作为待测样本，将待测样本输入训练预测模型，得到供热设备下一时刻的运行数据的预测值。

本发明方法既能够学习供热多个设备属性之间的相互依赖关系和时间序列的长期依赖关系，还有助于减轻传统神经网络预测时间序列的输入尺度不敏感性，有效且先进，为实现智慧供热提供理论依据及辅助决策。

实施例2

参照图5-图7，下基于如下实例，对实施例1中的方法进行验证分析：

验证分析包含数据集构建、参数设定、结果与分析及有效性验证分析。

实验数据集为从某供热历史数据库中选取监测供热7种主要设备运行状态的28个属性的历史数据，并同时获取系统正常运行时该28个属性的正常运行范围。每个供热设备是否处于正常状态是由多个属性值决定的，设备之间相互影响。共选取2000000个数据点，每100000个数据点表示不同的运行期间。

首先供热原始数据的输入维度为(100000，28)，第一维表示数据点的个数，第二维表示属性的个数，将原始数据归一化后转化为监督学习问题的输入，窗口大小设置为10，则原始数据的维度变为(199990，560)。然后将第二维展开转为(199990，10，28)，表示共有199990个样本，每个样本表示28个属性在连续10个时间点的观测值。最后将70％的样本作为训练集，30％的样本作为测试集。

所述参数设定，步骤如下：为确定滑动窗口大小，对滑动窗口大小T进行了{5，10，15，20}的网格搜索(即T＝5，10，15，20)，分别进行20次训练，在训练集上T＝10时达到最佳性能，因此设T为10进行测试，本发明的训练损失如图4所示。由于供热数据量巨大且供热数据具有非稳态性，本发明使用Adam优化器作为优化方法。

所述结果与分析，图5是使用本发明预测换热站出口温度的结果与真实值的趋势图，可以看到预测值与真实值的运动趋势完全一致。图6是换热站出口温度的预测结果与真实值的对比，可以看出两者趋势几乎一致。当Time为5000左右时振幅波动大，是因为此时获取的供热数据处于换热站出口温度异常状态。在Python3.6环境下，将均方根误差(RootMean Square Error,RMSE)作为评价指标，使用本发明对换热站出口温度进行预测。由图6可知，本发明的RMSE＝1.19，预测值与真实值几乎重合，可以说明本发明适用于供热设备故障预测。

所述有效性验证分析，具体步骤如下：

为了验证本发明对供热故障预测的有效性和先进性，本发明将其与4种方法(门控循环神经网络(GRU)、向量自回归模型(VAR)、Seq2Seq模型以及LSTNet模型)预测换热站出口温度的结果进行对比，并用RMSE作为评估指标，对比结果如图7所示。

VAR是MST预测最著名的模型，但由于供热数据存在大量非线性特征，且供热历史数据库中包含大量故障数据，VAR对故障数据并不敏感，因此VAR并不能很好地预测供热数据。GRU是时间序列处理领域著名的神经网络，解决了循环神经网络的长范围依赖和梯度消失的问题，但是由于它只捕获供热时间序列的长期时间依赖模式，忽略了供热属性之间的复杂相关性，当数据处于转折点时，不能很好地预测，因此GRU在供热故障预测中的效果也不是很好。Seq2Seq实质上是一个编码和解码的过程，编码过程中会将供热信息进行压缩，由于供热历史数据库中的信息量大，将Seq2Seq用于供热状态预测会损失较多的信息，因此影响供热故障预测的准确性。虽然基于LSTNet方法预测得到的换热站出口温度结果和真实值的RMSE较小，但LSTNet中的递归跳跃层的跳跃长度需要人工参与手动调整。综上，说明本发明适用于供热设备故障预测的同时，具有较高的有效性及先进性。

Claims (2)

1.一种供热设备故障预测方法，其特征在于，包括以下步骤：

步骤一：基于供热设备的历史运行数据进行归一化处理、划分数据集以及设定原始数据；

步骤二：构建训练预测模型；

步骤三：采集供热设备当前的运行数据作为待测样本，将待测样本输入训练预测模型，得到供热设备下一时刻的运行数据的预测值；

所述步骤一中，供热设备的历史运行数据存储于供热历史数据库中，数据归一化处理是将供热设备的历史运行数据归一化，然后添加滑动窗口转为监督学习问题；

划分数据集是将历史运行数据随机划分为训练集和测试集，然后使用训练集来生成模型，再用测试集来测试模型的正确率和误差，以验证模型的有效性；

设给定窗口内供热所采集的原始数据X为：

X＝{x₁，x₂，…x_t…，x_n}；

n表示供热所监测的供热设备属性个数；

第i个时间序列在t时刻的观测值表示为：

x_t(t＝1，2，…，T)表示第t时刻的观测值，T表示滑动窗口的大小，xⁱ(i＝1，2，…，n)表示第i个时间序列在窗口内的观测值，n为自然数；

所述步骤二中包括以下子步骤：

2-1：构建和训练初始的预测模型，初始化模型参数；

2-2：获取新的数据集X′；

2-3：计算供热设备某时段t的最终预测值O_t；

2-4：基于最终预测值O_t与真实值的误差，更新模型参数，完成最终预测模型的构建及训练；

所述步骤2-3包括以下子步骤：

2-2-1：在t时刻第i个时间序列的重要性表示如下：

式中，W_m∈R^Tx2q，U_m∈R^T×T都是需要学习的参数，q是隐藏层的维度，h_t-1是上一时刻隐藏状态，s_t-1是上一个时刻的单元状态，m表示需要学习的参数，m为自然数；

2-2-2：通过一个softmax函数确保所有注意力之和为1，即

表示t时刻第i个时间序列的注意力权值；

2-2-3：将原始数据X＝{x₁，x₂，…，x_n}转化为新的多变量时间序列X′＝{x′₁，x′₂，…，x′_T}，在t时刻的观测值

所述步骤2-3中，包括以下子步骤：

2-3-1：神经网络的隐藏状态h_t由上一时刻h_t-1和新的t时刻的观测值x′_t共同决定，即：

h_t＝o(h_t-1，x′_t)；

其中，o(·)是GRU单元；

2-3-2：使用一个Dense层来连接GRU的输出，从而得到供热设备未来一段时间的预测值

2-3-3：计算供热设备t时段的第二预测值O_t ^V；

2-3-4：将和O_t ^V求均值，得到供热设备t时段最终预测值O_t；

所述步骤2-3-2中计算公式如下：

m_t表示t时刻GRU单元的隐藏状态；

所述步骤2-3-3中计算过程如下：

给定输入X′∈R^N×T，其在t时刻的观测值x′_t表示：

其中，t＝d+1，…，T；A_k∈R^N×N表示向量自回归模型的系数矩阵，k＝1，2，…，d；ε_t为高斯噪声，采用最小二乘法求解最优的系数矩阵A_k，则输出O_t ^V公式如下：

其中O_t-k ^V表示在t-k时刻向量自回归模块得到的到供热设备的预测值。

2.根据权利要求1所述的供热设备故障预测方法，其特征在于，所述步骤2-4中，采用梯度下降发反向传播更新神经网络模块、注意力机制组件和向量自回归模块的参数；包括以下子步骤：

2-4-1：使用均方误差MSE作为目标函数，其计算公式如下：

其中，O_n代表第n个样本的真实值，O’_n代表第n个样本的预测值，N表示样本数目；

2-4-2：若当前误差小于设定的误差阈值，则判断迭代达到预设最大迭代次数则得到训练好的预测模型，并执行下一步，否则返回步骤2-2继续训练预测模型。