CN109240264A

CN109240264A - 一种基于lstm神经网络的制浆过程能耗预测方法

Info

Publication number: CN109240264A
Application number: CN201811070989.8A
Authority: CN
Inventors: 杨春节; 李彦瑞
Original assignee: Zhejiang University ZJU
Current assignee: Zhejiang University ZJU
Priority date: 2018-09-14
Filing date: 2018-09-14
Publication date: 2019-01-18

Abstract

本发明公开了一种基于LSTM神经网络的制浆过程能耗预测方法。造纸制浆过程消耗大量的能量并且对后续造纸过程有很大的影响，而制浆过程的能耗与主要控制变量之间呈现出未知动态、大延迟、非线性和强耦合的关系，难以用简单的数理方法进行建模。针对这一问题，本发明步骤一：选取LSTM神经网络模型，用于对制浆过程能耗的预测；步骤二：通过行业知识和相关系数计算选取能耗预测有关的变量作为模型的输入，能耗作为输出；步骤三：将模型初始化后，数据集进行预处理，之后将数据集分为训练集和测试集，用训练集对模型进行训练之后在测试集上检测模型效果。本发明具较小的相对误差，能够为制浆过程提供准确的预测，降低制浆过程能耗，使制浆过程稳定顺行。

Description

一种基于LSTM神经网络的制浆过程能耗预测方法

技术领域

本发明属于工业过程监控、建模和仿真领域，特别涉及一种LSTM神经网络预测制浆过程能耗的方法。

背景技术

造纸过程由制浆和造纸两大环节串联组成。制浆环节的主要功能是从植物纤维原材料生产出具有特定形态的纤维；造纸环节的功能主要是采用特定形态的纤维为原料生产出各种纸制产品。制浆和造纸两大环节在运行过程中都需要消耗大量的能量，特别是制浆过程的能耗及其所产生的纤维形态分布的质量直接关系到后续造纸环节的能耗及产品质量。同时，磨浆过程中木片和水蒸汽由磨盘中心输入和磨盘表面的磨齿产生高速离心摩擦，在高温和高速摩擦中使纤维从木片中分解出来。因此，化学机械制浆生产线是制浆造纸过程电耗最高的生产环节，是化学制浆生产线和造纸生产线的两倍。对于典型化学机械制浆生产线来说，磨浆过程的装机容量约占整个生产线的70％。以300吨/天的APMP生产线为例，生产线装机容量约为43MWh，而磨浆过程装机容量为30MWh。因此对制浆过程进行优化控制就十分重要，为了能对其进行优化，建立制浆过程能耗的预测模型也就因此至关重要。

化学机械磨浆过程的主要控制变量包括磨盘间的间隙、磨盘的稀释水量、转速和给料量(流量和浓度)，制浆能耗和这些变量之间呈现出未知动态，大延迟，非线性和强耦合的关系，难以用简单的数理方法进行建模。并且多数制浆造纸企业发展的侧重点局限于产量的提升，现阶段制浆造纸生产过程控制分布式计算机控制系统(DCS)忽略了产品质量的提高和节能降耗，导致我国造纸工业普遍存在能耗高、产品质量波动大等问题。

如今，检测手段的发展使得大量的数据被精准的记录，而电脑技术的迅猛发展使得我们可以在短时间内进行大量的运算，这些技术进步使得基于数据驱动的建模变得更加容易，也成为解决上述问题的一个很好的方法。现阶段主要造纸企业采用多层次的DCS系统对造纸过程进行控制，但它的控制方法都是采用简单的逻辑单元，不能对多变量进行综合的考虑。同时，Harinath等通过数据建对热磨机械浆建立了非线性预测模型将能耗预测问题转化为一个带约束条件的非线性规划问题，该算法虽然有较好的适应性，但是对于预测的精度并不高，并且由于生产过程原材料不均匀，生产过程有各种间歇性操作，导致输入数据的突变会导致模型有很大失调。

发明内容

针对现有制浆过程对能耗不能准确预测的问题，我们提出了一种基于LSTM神经网络的制浆过程能耗预测方法。该方法选用LSTM神经网络模型建模，并选取变量参数作为模型的输入，将能耗值作为模型的输出。该方法具有较高的命中率和较小的均方误差，能够为制浆过程的操作人员提供准确的预测，帮助他们降低制浆过程能耗，使制浆过程稳定顺行。

一种基于LSTM神经网络的制浆过程能耗预测方法，步骤如下：

步骤一：选取LSTM神经网络模型，用于对制浆过程能耗的预测；

步骤二：通过行业知识和相关系数计算选取能耗预测有关的变量作为模型的输入，能耗作为输出；

步骤三：将模型初始化后，数据集进行预处理，之后将数据集分为训练集和测试集，用训练集对模型进行训练之后在测试集上检测模型效果。

步骤一所述的LSTM神经网络的结构如下：

LSTM算法全称为Long short-term memory，是一种特定形式的循环神经网络，网络的整体结构由输入层、隐状态层和输出层组成，输入层用于数据的输入，隐状态层对输入数据进行处理，由多个可以判断信息有用与否的LSTM单元组成，输出层输出预测数据。其中，LSTM单元主要由三个门构成，分别是遗忘门、输入门和输出门。

(1)遗忘门：

遗忘门会读取上一次时间的单元输出h_t-1和当前时间的输入x_t，输出一个在0到1之间的数值作为每个在细胞状态C_t-1中的数字，1表示“完全保留”，0表示“完全舍弃”，遗忘门用来控制神经网络的记忆能力，

具体方法如下式：

ft＝σ(W_f·[h_t-1,x_t]+b_f) (1)

其中中括号表示两个向量相连合并，W_f是遗忘门的权重矩阵，σ为sigmoid函数，b_f为遗忘门的偏置项，h_t-1是上一次时间的单元输出，xt表示当前时间的输入；

(2)输入门：

输入门对h_t-1和x_t读取，结合遗忘门的结果对单元的状态进行更新，更新方式如下所示

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (2)

W_i、W_c是输入门的权重矩阵，tanh为tanh函数，b_i、b_c为输入门的偏置项，最后得到输入门的输出为c_t；

(3)输出门：

输出门确定输出的值，具体方法如下式：

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t*tanh(c_t) (6)

W_o是输出门的权重矩阵，b_o为输出门的偏置项，h_t为输出门的输出。

步骤二所述的输入变量的选取如下：

工厂数据采集传入的数据有41维，包括了控制变量，中间变量，被控变量和一些无关的变量，共提取出与能耗预测有关的变量共25组如下表所示。该25组变量针对P-RC APMP工厂，可在类似的工厂中通用，但对不同的工厂需要重新对数据进行预处理，保证数据的完备性。

木片预整仓液位	木片预蒸仓温度	上一时MSD1功率	MSD1扭矩	1#反应仓温度
					1#反应仓液位	上一时MSD2功率	MSD2扭矩	2#反应仓温度	2#反应仓液位
PSF扭矩	稀释水NDE	稀释水DE	刀盘压力NDE	刀盘压力DE
					磨盘间隙NDE	磨盘间隙DE	震动加速度NDE	震动加速度DE	震动DE
旋风分离FC电流	PSD	PSD扭矩	1段浸渍吸液比	2段浸渍吸液比

步骤三所述的预处理方法如下：

(1)时间对齐：将造纸过程的每一个指标的数据的时间对齐到每20s一次，选取离间隔时间最近的数据，删除冗余数据；

(2)数据合并：把各个指标数据以时间作为标准合并在一起；

(3)删除变量列：删除某些变量列，包括：与要预测的变量重叠率较低的变量，与被预测变量同义的变量(如吨浆能耗与功率)；

(4)对每一行数据检验，如果有数据的缺失或者代表未启动设备而造成的能耗为0，那么就删除该行；

(5)将数据归一化处理后输入网络，归一化方法如下式：

其中y_max与y_min分别为该变量的最大值与最小值，为原始变量数列，y为经过归一化后的变量数列。

本发明的有益效果：

1、针对制浆过程中磨盘的时变、动态、非线性、强惯性和多尺度的特性，选用了具有很强自适应性的LSTM神经网络，它具有很强的学习能力，能够找出输入输出之间的潜在联系。

2、通过操作经验和相关系数的计算，选用了稀释水，磨盘间隙，上一时刻能耗值等25组对当前能耗影响较大的25个参数作为模型的输入变量，能够充分利用机理建模和数据驱动建模的各自优点。

附图说明

图1是LSTM神经网络模型图；

图2是LSTM单元示意图；

图3是训练过程；

图4是本方法对制浆过程能耗的预测结果。

具体实施方式

本发明提出了一种基于LSTM神经网络的制浆过程能耗预测方法。该方法选用LSTM神经网络模型建模，并选取25个主要参数作为模型的输入，将能耗值作为模型的输出。该方法具有较高的命中率和较小的均方误差，能够为制浆过程的操作人员提供准确的预测，帮助他们降低制浆过程能耗，使制浆过程稳定顺行。该方法由以下步骤组成：

步骤一：选取LSTM神经网络模型，用于对制浆过程能耗的预测；LSTM神经网络模型图如图1所示；

步骤一所述的LSTM神经网络的结构如下：

LSTM算法全称为Long short-term memory，是一种特定形式的循环神经网络。网络的整体结构由输入层、隐状态层和输出层组成。输入层用于数据的输入，隐状态层对输入数据进行处理，由多个可以判断信息有用与否的LSTM单元组成，输出层输出预测数据。其中，用于判断数据的LSTM单元主要由三个门构成，分别是遗忘门、输入门和输出门，其结构如图2所示。

(1)遗忘门：

具体方法如下式：

ft＝σ(W_f·[h_t-1,x_t]+b_f) (1)

其中中括号表示两个向量相连合并，W_f是遗忘门的权重矩阵，σ为sigmoid函数，b_f为遗忘门的偏置项，h_t-1是上一次时间的单元输出，xt表示当前时间的输入。

(2)输入门：

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (2)

W_iW_c是输入门的权重矩阵，tanh为tanh函数，b_ib_c为输入门的偏置项，最后得到输入门的输出为c_t。

(3)输出门：

输出门确定输出的值，具体方法如下式：

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t*tanh(c_t) (6)

步骤二所述的输入变量的选取如下：

步骤三所述的预处理方法如下：

(2)数据合并：把各个指标数据以时间作为标准合并在一起；

(5)将数据归一化处理后输入网络，归一化方法如下式：

实施例

造纸过程由制浆和造纸两大环节串联组成。制浆和造纸两大环节在运行过程中都需要消耗大量的能量，特别是制浆过程的能耗及其所产生的纤维形态分布的质量直接关系到后续造纸环节的能耗及产品质量。同时，磨浆过程中木片和水蒸汽由磨盘中心输入和磨盘表面的磨齿产生高速离心摩擦，在高温和高速摩擦中使纤维从木片中分解出来。因此，化学机械制浆生产线是制浆造纸过程电耗最高的生产环节，是化学制浆生产线和造纸生产线的两倍。对于典型化学机械制浆生产线来说，磨浆过程的装机容量约占整个生产线的70％。对制浆过程能耗的预测不仅能帮助操作人员合理的调节操作参数指导制浆过程稳定顺行并降低能耗，还能提高产品的质量。

我们通过研究从金东纸业(江苏)股份有限公司采集的2015/3/25-2015/3/28这段时间内的数据，验证了提出模型的效果。

步骤一所述的LSTM神经网络的结构如下：

LSTM算法全称为Long short-term memory，是一种特定形式的循环神经网络。网络的整体结构由输入层、隐状态层和输出层组成。输入层用于数据的输入，隐状态层对输入数据进行处理，由多个可以判断信息有用与否的LSTM单元组成，输出层输出预测数据。其中，用于判断数据的LSTM单元主要由三个门构成，分别是遗忘门、输入门和输出门：

(1)遗忘门：

具体方法如下式：

ft＝σ(W_f·[h_t-1,x_t]+b_f) (1)

其中中括号表示两个向量相连合并，W_f是遗忘门的权重矩阵，σ为sigmoid函数，b_f为遗忘门的偏置项，h_t-1是上一次时间的单元输出，x_t表示当前时间的输入。

(2)输入门：

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (2)

(3)输出门：

输出门确定输出的值，具体方法如下式：

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t*tanh(c_t) (6)

步骤二所述的输入变量的选取如下：

步骤三所述的预处理方法如下：

(2)数据合并：把各个指标数据以时间作为标准合并在一起；

(5)将数据归一化处理后输入网络，归一化方法如下式：

通过数据预处理得到的训练数据共22000条，测试数据1200条。

模型在训练过程中的损失函数值得变化如图3所示，最后得到的结果部分如图4所示，可以看出模型对能耗变化的趋势又很准确地判断，但在某些峰值处仍然有些误差，经过计算模型的均方误差为0.02，相对误差基本能保证在1％之内，可以满足实际需要。

上述实施例用来解释说明本发明，而不是对本发明进行限制，在本发明的精神和权利要求的保护范围内，对本发明做出的任何修改和改变，都属于本发明的保护范围。

Claims

1.一种基于LSTM神经网络的制浆过程能耗预测方法，其特征在于，步骤如下：

步骤三：将模型初始化后，数据集进行预处理，之后将数据集分为训练集和测试集，用训练集对模型进行训练之后在测试集上检测模型效果；

步骤一所述的LSTM神经网络模型的结构如下：

LSTM算法全称为Long short-term memory，是一种特定形式的循环神经网络，网络的整体结构由输入层、隐状态层和输出层组成，输入层用于数据的输入，隐状态层对输入数据进行处理，由多个判断信息有用与否的LSTM单元组成，输出层输出预测数据，其中，LSTM单元主要由三个门构成，分别是遗忘门、输入门和输出门，

1)遗忘门：

具体方法如下式：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (1)

(2)输入门：

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (2)

(3)输出门：

输出门确定输出的值，具体方法如下式：

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t*tanh(c_t) (6)

2.根据权利要求1所述的方法，其特征在于，步骤二所述的输入变量的选取如下：

所述的能耗预测有关的变量共25组如下表所示：

3.根据权利要求1所述的方法，其特征在于，步骤三所述的预处理方法如下：

(2)数据合并：把各个指标数据以时间作为标准合并在一起；

(3)删除某些变量列：删除某些变量列，包括：与要预测的变量重叠率较低的变量，与被预测变量同义的变量；

(5)将数据归一化处理后输入网络，归一化方法如下式：

4.根据权利要求1所述的方法，其特征在于，模型适合制浆过程中磨盘能耗的难预测、时变、动态、非线性、强惯性和多尺度的特性。