CN111838744B - 基于lstm的环境温湿度在烟丝生产过程中的水分连续实时预测方法 - Google Patents

Abstract

本发明公开了一种基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预测方法，为了保障多批次、连续生产环境下，加香后的烟丝出口水分的稳定性，实现基于LSTM的深度学习迭代预测方法，分析环境温湿度在烟丝过程中的水份分析和预测对加香后烟丝出口水分的影响，建立加香后烟丝含水率实时预测模型；通过模型求解，得出预测的环境温湿度对加香后烟丝出水率的影响趋势，最后采用模型预测值与实测值对比的方法进行检验。本发明能实现对制丝水分的预测，从而提高预测的准备性和效率。

Description

基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预 测方法

技术领域

本发明涉及智能制造实时预测领域，具体针对烟丝生产过程中，在连续、多批次、反馈滞后性的环境下，基于LSTM的环境温湿度实时预测方法。

背景技术

随着工业现代化和科学技术的进步，作为我国经济收入的重要组成部分，我国烟草行业也步入了一个新的发展阶段。卷烟生产是一个相对比较复杂的过程，其每一环节都对卷烟的品质与材料的消耗等具有重大的影响。而作为烟草加工工艺过程中的重要环节，烟草制丝加工由于具有较强的连续性和相关性，以及具备多种多样的工艺设备因素，使得其在加工过程中能够有效的保证卷烟质量的稳定性。

制丝过程作为卷烟生产的一个重要阶段，其过程控制对后段工序的生产乃至烟支成品的质量都有显著影响。在整个制丝过程，烟丝水分都伴随着烟丝生产的始终，因此对于制丝线烟丝水分的控制，显得尤为重要。烟丝水分的把握是否得当，直接影响着烟丝的柔韧性和耐加工性，从而关系到生产过程烟丝的消耗、烟支的感官舒适度，甚至对卷烟的生产成本和销售收益造成影响。烘丝和加香是制丝过程的关键环节，这一流程的烟丝含水率控制自然而然成为精准化管理的重点。

加香后环境温湿度数据具有时间序列特征。近年来，随着深度学习技术的不断发展，一些深度学习模型逐渐被应用到时序数据的研究中。在深度学习模型中，循环神经网络(Recurrent Neural Network，RNN)将时序的概念引入到网络结构设计中，使其在时序数据分析中表现出更强的适应性。长短期记忆(long short term memory，LSTM)模型弥补了梯度消失和梯度爆炸、长期记忆能力不足等问题。与传统的RNN相比，LSTM能够学习时间序列的隐在联系，并根据时间序列的相关性，从而得出最优化的模型。

传统LSTM模型的研究成果表明LSTM在时间序列数据预测中的可行性，并已经取得了显著的效果。但是在烟草制丝生产环节，多批次的烟叶，需要在连续生产环境下的实时预测，每个批次的控制参数，各个参数都在实时变化，同时，加香后烟丝含水率的控制研究主要集中在智能控制和PID控制以及两者相结合的方式，由于控制效果有一定的滞后性，无法考虑环境温湿度存在的潜在影响，容易导致加香后的烟丝含水率稳定率下降。因此传统LSTM算法，很难实现这种滞后性、连续、多批次下的实时准确预测。

发明内容

本发明为克服现有技术的不足之处，提出一种基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预测方法，以期能实现对制丝水分的预测，从而提高预测的准备性和效率。

本发明为达到上述发明目的，采用如下技术方案：

本发明一种基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预测方法的特点包括以下步骤：

S1:收集烟厂车间环境的温湿度数据，并对温湿度数据进行标准化处理后，划分为训练集T_tr和测试集T_te；

S2:构建基于环境温湿度对加香后烟丝出口水分的LSTM预测模型；

S3:基于所述训练集训练LSTM预测模型的隐藏层，并得到预测输出值；

S4:对比实际输出值和预测输出值的损失函数值，通过降低损失函数值不断优化训练后的LSTM预测模型，从而得到最优LSTM预测模型用于实现水分分析和预测。

本发明所述的基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预测方法的特点也在于，利用式(1)对S1中的温湿度数据进行标准化处理：

X_norm＝(X-X_min)(X_max-X_min) (1)

式(1)中：X_norm为标准化后的温湿度数据；X为原始的温湿度数据；X_max、X_min分别为原始的温湿度数据中的最大值和最小值。

S2中建立的LSTM预测模型的结构包括：输入层、隐藏层、输出层；

所述输入层的输入数据为：制丝车间环境温湿度和加香车间环境温湿度；所述输出层的输出数据为：加香机出口含水率。

利用式(2)得到所述LSTM预测模型中的隐藏层第t个时刻x_t的输出P_t：

P_t＝LSTM(x_t,c^＜t-1＞,h^＜t-1＞) (2)

式(2)中，c^＜t-1＞、h^＜t-1＞分别为第t-1个时刻的细胞状态和隐藏层状态。

S4中LSTM预测模型优化过程中，利用式(3)定义训练过程的损失函数loss：

式(3)中，Y_i表示第i个实际值，F_i表示第i个预测值，F_i-Y_i表示第i个误差；

应用Adam优化算法不断更新LSTM预测模型，从而降低损失函数loss的值，并得到最终的LSTM预测模型；

采用迭代预测的方法对最终的LSTM预测模型进行预测，得到L个理论输出数据Y_p＝(x′_m-L+1,x′_m-L+2,...,x′_m)，其中，x′_m-L+2表示前L+2个理论输出数据；

将L个理论输出数据Y_p输入最终的LSTM预测模型中，从而利用式(4)得到第m+1时刻的预测输出值

将第m+1时刻的输出值

输入最终的LSTM预测模型，从而得到m+2时刻的输出为

同理得到最终的预测序列

对预测序列

进行反归一化处理，得到与测试集对应的预测序列P_te；通过计算训练集T_tr与对应的拟合数据以及测试集T_te与对应的预测序列P_te的偏差，得到训练集T_tr的拟合精度和测试集T_te的预测精度。

与已有技术相比，本发明的有益效果体现在：

1、本发明通过构建多批次，连续生产环境下的数据模型，实现了多批次环境下的预测，解决了传统制丝预测不适应于分段预测的问题，实现了对批次的建模，且不需要中断。

2、本发明通过对LSTM算法的通过控制模型的层数和参数量，实现了对LSTM内含隐藏层的迭代训练，克服了该算法在连续性、多批次、滞后性和实时性上的缺陷，有效提高了预测精度和训练速度。

3、本发明能够连续性对多批次复杂环境下的持续实时预测，提高了方法的适用性和实时性。

4、本发明能够实现端到端的训练与预测，与传统的预测算法相比，训练部分能够实时进行，针对每个批次都能进行训练，使每个批次的模型都不一样，每个批次的预测都有不同的模型，所以可以大幅提升预测的精度。

5、本发明使用LSTM网络进行预测，其对时间序列有很好的表达能力，同时采用权重复用，拟合较好，从而能较好地应用在数据不稳定的场景。

附图说明

图1为本发明预测方法的流程图；

图2为本发明基于LSTM的环境变量预测模型图；

图3为本发明网络训练流程图；

图4为本发明LSTM模型参数量；

图5为本发明LSTM模型MAE和MSE值；

图6a为本发明LSTM模型的拟合曲线；

图6b为本发明LSTM模型的loss曲线。

具体实施方式

本实施中，一种基于LSTM的环境温湿度在烟丝过程中的水分连续实时预测方法，为了保障多批次、连续生产环境下，加香后的烟丝出口水分的稳定性，实现基于LSTM的深度学习迭代预测方法，分析环境温湿度在烟丝过程中的水分分析和预测对加香后烟丝出口水分的影响，建立加香后烟丝含水率实时预测模型；通过模型求解，得出预测的环境温湿度对加香后烟丝出水率的影响趋势，最后采用模型预测值与实测值对比的方法进行检验，具体的说，请参阅图1所示，具体包括以下步骤：

S1:收集烟厂车间环境的温湿度数据，所收集的数据来自烟厂车间加香后掺杂物水分，环境温湿度和烟丝含水率，数据采样间隔为一天。并对温湿度数据进行标准化处理后，划分为训练集T_tr和测试集T_te；比例分别为90％和10％；其中，利用式(1)对S1中的温湿度数据进行标准化处理：

X_norm＝(X-X_min)(X_max-X_min) (1)

式(1)中：X_norm为标准化后的温湿度数据；X为原始的温湿度数据；X_max、X_min分别为原始的温湿度数据中的最大值和最小值。对数据标准化可加快网络训练收敛速度，提高模型训练的精度，消除范围较大的特征值给梯度更新所带来的影响。

S2:构建基于环境温湿度对加香后烟丝出口水分的LSTM预测模型；

根据环境温湿度变量时间序列有限样本点的数据特点及循环神经网络从简的设计原则，如图2所示，所建立的LSTM预测模型的结构包括：输入层、隐藏层、输出层、网络训练及网络预测五个部分；

输入层的输入数据为：制丝车间环境温湿度和加香车间环境温湿度；输出层的输出数据为：加香机出口含水率。

利用式(2)得到LSTM预测模型中的隐藏层第t个时刻x_t的输出P_t：

P_t＝LSTM(x_t,c^＜t-1＞,h^＜t-1＞) (2)

式(2)中，c^＜t-1＞、h^＜t-1＞分别为第t-1个时刻的细胞状态和隐藏层状态。

S3:基于训练集训练LSTM预测模型的隐藏层，并得到预测输出值；

隐藏层的训练是整个模型最重要的部分。隐藏层由m-L个LSTM结构组成，每个LSTM结构内含L个LSTM单元，输入层中，定义原始的制丝间和加香间环境变量数据序列为：

a＝(a₁，a₂，…，a_n) (3)

其中a₁＝(a₁₁，a₁₂，a₁₃，a₁₄，a₁₅)，a₁₁代表加香间温度数据，a₁₂代表加香间湿度数据，a₁₃制丝间间温度数据，a₁₄代表制丝间温度数据，a₁₅烟丝出口含水率。按照9∶1的比例划分的训练集和测试集。可以表示为：

a_tr＝(a₁，a₂，…，a_m) (4)

a_te＝(a_m+1，a_m+2，…，a_n) (5)

满足约束条件m＜n和m，n∈N。

然后对训练集中数据按数据标准化的方法处理。采用min-max标准化公式，标准化后的训练集a′_tr和测试集a′_te可以表示为：

a′_tr＝(a′₁,a′₂,…,a′_m) (6)

a′_te＝(a′_m+1,a′_m+2,…,a′_n) (7)

满足：

1≤a≤m，a∈N (9)

构建短时间输入序列使其适应隐藏层的特点，通过固定步长来确定时间序列的长度，并对a_tr'进行处理，设固定步长取值为L，则模型输入为：

X＝{X₁,X₂,...X_m-L} (10)

X_t＝{x′_t,x′_t+1,...x′_m+L-1} (11)

1≤t≤m-L,L∈N (12)

对应的理论输出为：

Y＝(x′_L+1,x′_L+2,...,x′_m) (13)

将X输入隐藏层，经过隐藏层的输出为：

P＝(P₁,P₂,...,P_m-L) (14)

P_t＝LSTM(x_t,c^＜t-1＞,h^＜t-1＞) (15)

1≤L≤m,m∈N (16)

式(15)中c^<t-1>、h^<t-1>为上个时刻的细胞状态和隐藏层状态。

S4:对比实际输出值和预测输出值的损失函数值，通过降低损失函数值不断优化训练后的LSTM预测模型，从而得到最优LSTM预测模型用于实现水分分析和预测。

在LSTM预测模型优化过程中，选用均绝对值误差作为误差计算公式，利用式(17)定义训练过程的损失函数loss：

式(17)中，Y_i表示第i个实际值，F_i表示第i个预测值，F_i-Y表示第i个误差；

应用Adam优化算法不断更新LSTM预测模型，从而降低损失函数loss的值，并得到最终的LSTM预测模型，如图3所示；

采用迭代预测的方法对最终的LSTM预测模型进行预测，得到最后的L个理论输出数据Y_p＝(x′_m-L+1,x′_m-L+2,...,x′_m)，其中，x′_m-L+2表示前L+2个理论输出数据；

将L个理论输出数据Y_p输入最终的LSTM预测模型中，从而利用式(4)得到第m+1时刻的预测输出值

将最后的L-1个数据和测试集中的第m+1时刻的输出值

合并为新的数据，输入最终的LSTM预测模型，从而得到m+2时刻的输出为

同理得到最终的预测序列

对预测序列

进行反归一化处理，得到与测试集对应的预测序列P_te；通过计算训练集T_tr与对应的拟合数据以及测试集T_te与对应的预测序列P_te的偏差，得到训练集T_tr的拟合精度和测试集T_te的预测精度。

选择Rmse(均方根误差)和MAE(平均绝对误差)为模型的评价指标。其中MAE能更好地反映预测值误差的实际情况，MSE是用来衡量观测值同真实值之间的偏差。

式(19)和式(20)中：L(m-L)为训练的样本总数；P_i为预测值，Y_i为真实值。

通过Adam的优化方法更新网络权重，使得网络的损失最小。针对实际训练中常常存在过拟合的问题，采用Dropout方法来对神经网络进行正则化，随机丢弃网络中的一些神经元以及相互之间的权重连接，提升模型的泛化能力。

如图4所示，是LSTM模型的参数量，其中Param#是指参数的数量。TrainableParams是训练时网络的参数数量。如图5所示，是LSTM模型的训练集和测试集的MAE和MSE结果图，训练集MAE值为1.6009，MSE值为3.4669，测试集MAE值为1.7046，MSE值为4.4725。由此可知，训练集和测试集的MAE和MSE值较小，网络的预测精度值可以达到最高。图6a是预测值与真实值的拟合曲线，越接近越好；图6b是网络的损失函数LOSS曲线。train loss是训练时获得的损失曲线，validation loss是验证时的曲线，曲线很快就逼近0为最佳，说明模型可以很快获得满意的最佳性能。

Claims (1)

1.一种基于LSTM的环境温湿度在烟丝生产过程中的水分连续实时预测方法，其特征包括以下步骤：

S1:收集烟厂车间环境的温湿度数据，并利用式(1)对温湿度数据进行标准化处理后，划分为训练集T_tr和测试集T_te；

X_norm＝(X-X_min)(X_max-X_min) (1)

式(1)中：X_norm为标准化后的温湿度数据；X为原始的温湿度数据；X_max、X_min分别为原始的温湿度数据中的最大值和最小值；

S2:构建基于环境温湿度对加香后烟丝出口水分的LSTM预测模型；建立的LSTM预测模型的结构包括：输入层、隐藏层、输出层；

所述输入层的输入数据为：制丝车间环境温湿度和加香车间环境温湿度；所述输出层的输出数据为：加香机出口含水率；

S3:基于所述训练集训练LSTM预测模型的隐藏层，并利用式(2)得到第t个时刻x_t预测的输出值P_t：

P_t＝LSTM(x_t,c^＜t-1＞,h^＜t-1＞) (2)

式(2)中，c^＜t-1＞、h^＜t-1＞分别为第t-1个时刻的细胞状态和隐藏层状态；

S4:对比实际输出值和预测输出值的损失函数值，通过降低损失函数值不断优化训练后的LSTM预测模型，从而得到最优LSTM预测模型用于实现水分分析和预测；

S4中LSTM预测模型优化过程中，利用式(3)定义训练过程的损失函数loss：

式(3)中，Y_i表示第i个实际值，F_i表示第i个预测值，F_i-Y_i表示第i个误差；

应用Adam优化算法不断更新LSTM预测模型，从而降低损失函数loss的值，并得到最终的LSTM预测模型；

采用迭代预测的方法对最终的LSTM预测模型进行预测，得到L个理论输出数据Y_p＝(x′_m-L+1,x′_m-L+2,...,x′_m)，其中，x′_m-L+2表示前L+2个理论输出数据；

将L个理论输出数据Y_p输入最终的LSTM预测模型中，从而利用式(4)得到第m+1时刻的预测输出值

将第m+1时刻的输出值

输入最终的LSTM预测模型，从而得到m+2时刻的输出为

同理得到最终的预测序列

对预测序列

进行反归一化处理，得到与测试集对应的预测序列P_te；通过计算训练集T_tr与对应的拟合数据以及测试集T_te与对应的预测序列P_te的偏差，得到训练集T_tr的拟合精度和测试集T_te的预测精度。

Images