CN112365935B - 一种基于多尺度深度网络的水泥游离钙软测量方法 - Google Patents

Abstract

本发明公开了一种基于多尺度深度网络的水泥游离钙软测量方法，属于水泥熟料质量软测量检测技术领域，具体方法：分析水泥生产工艺，选取与水泥熟料中f‑CaO含量相关的过程变量，确定软测量模型所需的辅助变量；采用拉伊达准则标记每个辅助变量中的异常值，将每个辅助变量中的异常值和缺失值使用该辅助变量的均值代替；对辅助变量进行3层小波包分解并提取实时特征；将提取的实时特征送入LSTM模型并对模型进行训练，并通过误差反向传播算法对模型参数进行修正；用训练好的LSTM模型对f‑CaO含量进行预测。本申请方法可以提取更多的变量特征，能够更加准确的预测水泥熟料中的游离钙值，对水泥生产具有实际指导意义。

Description

一种基于多尺度深度网络的水泥游离钙软测量方法

技术领域

本发明涉及水泥熟料质量软测量检测技术领域，尤其是一种基于多尺度深度网络的水泥游离钙软测量方法。

背景技术

水泥熟料中的游离氧化钙(f-CaO)含量是衡量水泥质量状况的一项重要指标。f-CaO含量的高低与水泥产品的安定性、水泥熟料强度、生产能耗息息相关。f-CaO含量过高会导致水泥熟料质量下降，f-CaO含量过低则会导致能耗增加。在目前的水泥生产企业中，主要是采用现场采样然后进行人工化验的方法水泥熟料中f-CaO的含量值。但是离线化验获取的f-CaO含量结果对指导水泥生产具有严重的滞后性，难以实现对水泥生产过程的实时控制。同时在水泥生产过程中过程变量还存在大惯性、多耦合等特性，导致难以建立精确的f-CaO含量预测模型。随着软测量技术的发展，基于数据驱动的软测量建模技术被应用到f-CaO含量预测中。赵朋程等人提出了一种将最小二乘法与支持向量机结合的水泥熟料f-CaO含量软测量方法。但是由于只选择了5个过程变量作为辅助变量，当样本量过大时容易造成过拟合。WanC等人使用滑动窗口递推最小二乘法建立了水泥熟料f-CaO含量软测量模型。该方法虽然提高了f-CaO含量测量的实时性，但是当生产工况发生改变时预测精度大大降低。水泥熟料生产是一个复杂多变的过程，如果要获取高精度、抗干扰强的软测量模型，不仅要充分考虑生产流程中影响熟料质量的过程变量，也要充分提取过程变量数据中影响f-CaO含量的重要特征。

发明内容

针对上述存在的问题，本发明提供了一种基于多尺度深度网络的水泥游离钙软测量方法。

为实现上述目的，本发明通过以下技术方案来实现：

一种基于多尺度深度网络的水泥游离钙软测量方法包括以下步骤：

步骤1：选取与水泥熟料中f-CaO含量相关的辅助变量。

通过分析水泥熟料的生产流程以及f-CaO产生的机理，选取与f-CaO含量相关的10个过程变量作为软测量模型的辅助变量。

步骤2：辅助变量的数据预处理。

首先采用拉伊达准则对步骤1中的10个辅助变量中的异常值以及缺失值进行标记，并对每个辅助变量中的异常值以及缺失值使用该辅助变量的均值代替。为了避免辅助变量量纲的不统一对预测结果的影响，对这10个辅助变量的数据全部进行归一化处理。

步骤3：对辅助变量进行小波包分解并提取实时特征。

将每个辅助变量进行分段，然后每个变量中的每一段进行小波包分解，计算分解后的每个节点的能量，并将能量较大的节点作为该变量在该时间段内的特征。

步骤4：将步骤3中提取的实时特征送入LSTM模型并对模型进行训练。

LSTM模型训练中所采用的每个样本由步骤3中提取的特征以及f-CaO含量值组成。使用随机初始化的参数对网络进行前向训练，并使用反向传播算法对参数进行调整。

步骤5：用训练好的LSTM模型对f-CaO含量进行预测。

本发明相对于现有技术具有以下有益效果：

1、本发明采用软测量方式建立水泥熟料游离钙软测量方法，能够有效降低游离钙测量成本。

2、本发明使用辅助变量一段时间内的特征作为软测量模型的输入，能有有效的提高模型的抗干扰能力。

3、本发明建立的水泥熟料游离钙软测量模型可以实时对游离钙含量进行检测，能够为操作员控制水泥生产流程提供一定的指导。

附图说明

图1为本发明提供的水泥熟料f-CaO含量软测量方案图；

图2为本发明使用的三层小波包信号分解图；

图3为本发明实施例中循环神经网络结构图；

图4本发明实施例中长短期记忆神经网络的结构图；

图5为本发明提供的方法预测结果图。

具体实施方式

下面结合附图对本发明做进一步详细的描述：

本发明提出一种结合小波包分解和LSTM神经网络的水泥熟料f-CaO含量软测量模型建模方法，所设计的建模方案如附图1所示。首先根据生产工艺进行分析，选取与f-CaO含量相关的过程变量作为软测量建模所使用的辅助变量。根据拉伊达法则标记异常值，使用变量的均值代替变量中的异常值和缺失值。将每个辅助变量进行分段，并对每一段做3层小波包分解。小波包3层分解如图2所示。根据能量函数计算每个变量分解后的节点能量，并取能量较高的节点作为该变量在该时间段内的特征。将特征与f-CaO含量值构成的样本输入LSTM神经网络进行训练。最后将训练好的模型用于f-CaO含量预测。其内容包括以下步骤：

步骤1：分析水泥生产工艺，确定软测量模型所需的辅助变量。

根据水泥生产工艺可知，水泥熟料是由混合了石灰石、黏土等原料的生料经高温烧至融化并经过冷却和粉碎得到的固态颗粒物。其中在水泥熟料烧成过程中未化合的氧化钙称游离氧化钙(f-CaO)。f-CaO含量的高低都会影响水泥成品的稳定性。因此f-CaO含量通常作为水泥熟料质量的关键指标。水泥熟料生产过程中，首先是生料进入预热器进行预热，预热后的生料被送入高温分解炉进行碳酸盐的吸热分解，在该过程中主要有分解炉喂煤量、窑头喂煤量以及从篦冷机回收进回转窑的二次风提供高温。随后物料进入回转窑，在分解炉内未分解的碳酸盐将进一步在回转窑内进行分解。高温风机和EP风机使窑内产生巨大的气压差，保证水泥烧成系统气路畅通。为了保证回转窑内物料可以均匀受热发生反应，回转窑将在电机的带动下进行旋转，窑主机电流会随着窑内物料的粘度发生变化。最后从回转窑出来的高温熟料经过篦冷机的急速冷却之后下料口流出

由上述分析可知，选取与熟料f-CaO含量密切相关的10个变量：喂料量1反馈、分解炉喂煤量反馈、高温风机转速反馈、窑尾温度、分解炉出口温度、窑电流反馈、二室篦下压力反馈、二次风温反馈、窑头负压反馈、窑头煤反馈。

步骤2：采用拉伊达准则标记每个辅助变量中的异常值，将每个辅助变量中的异常值和缺失值使用该辅助变量的均值代替。

拉伊达准则如式(1)所示：

|x_i-μ|≥3σ (1)

式(1)中x代表一个辅助变量，x_i代表该辅助变量的第i个值，μ代表该辅助变量的均值，σ代表该辅助变量的标准差。

步骤3：对辅助变量进行3层小波包分解并提取实时特征。

由于辅助变量的采集频率相对于f-CaO含量的采集频率更快，因此根据f-CaO含量的采集频率将每个辅助变量的数据进行分段，最终形成每个辅助变量的一段时序数据对应一个f-CaO含量值。将每个辅助变量的一段时序作为原始信号进行3层小波包分解并结合图2解释小波包分解的特征提取过程。针对原始信号S(t)，设一组低、高通共轭正交滤波器系数{h_k}_k∈Z和

则每层小波包变换的系数可以通过式(2)递推得到。

式(2)中，n为频率指标，k为位置指标，j表示经过小波包分解的层数。P_s(n,j,k)表示原始信号经过小波包变换得到的系数序列。由图2可知，原始信号经过3层小波包分解后共得到8个系数序列，分别用SSS、dSS、SdS、ddS、SSd、dSd、Sdd、ddd表示。然后通过所构建的能量函数分别计算这8个系数序列的能量强度，提取能量强度较高的前4个系数序列作为原始信号在一段时间内的实时特征。构建的能量函数如式(3)所示：

其中x_i代表系数序列中的第i个元素值。对于每个辅助变量的时间序列段都进行3层小波包分解并提取特征，将每个变量在一个时间段内的特征作为软测量模型的输入。

步骤4：建立LSTM神经网络模型，并使用步骤3得到的特征进行训练。

LSTM神经网络全称长短期记忆神经网络。是循环神经网络的改进形式。附图中图3是循环神经网络(RNN)结构图，图4是LSTM神经网络的结构形式。以下内容根据图3和图4对LSTM神经网络的提出以及使用进行介绍。

RNN是神经网络的一种形式。RNN通过将隐藏层神经元连接，可以使信息持久化。这一特性使得RNN适合用来对时间序列进行建模。图3中，箭头表示神经元之间的连接，A表示隐藏层神经单元，X_t表示神经网络的输入，h_t表示隐藏层单元的输出。在标准的RNN结构中，A一般使用tanh函数，tanh函数形式如下所示：

RNN虽然可以使用过去的信息来预测当前信息，但是当相关信息和要预测的信息时间间隔变得非常大时，RNN的效果很不理想。由此提出LSTM神经网络模型，LSTM通过引进了门结构有效的弥补了RNN的这一缺点。LSTM没有改动RNN的链式结构，只是改变了RNN的隐层单元形式。LSTM通过在隐层单元中加入门控制单元和细胞状态(cell state)使整个网络具有选择保存或者遗忘信息的功能。通过图4图5解释建立的LSTM网络预测模型。在LSTM中，细胞状态相当于一条信息传递的途径，可以让信息在层神经元之间传递。而信息的增加和去除由遗忘门、输入门和输出门三种门控制单元同时控制。其中：

遗忘门用来判断删除或者保留哪些有用数据。该单元把上一个隐层的输出信息和当前的输入信息同时输入sigmoid函数来达到控制的目的。sigmoid函数表达式如式4所示：

遗忘门的控制表达式如式6所示：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (6)

其中W_f是遗忘门的权重矩阵，b_f是遗忘门的偏置项。

输入门的作用是用来更新细胞状态。当前的输入信息和上一隐层单元的输出信息同时输入到sigmoid函数和tanh函数中，然后把两个函数的输出值进行乘法运算。运算结果用来更新细胞状态。输入门的控制表达式如式7和式8所示：

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (7)

上式中W_i是输入门的权重矩阵，W_c是计算单元状态的权重矩阵，b_i是输入门的偏置项，

代表当前输入的单元状态。

输出门的作用是用来确定下一个隐藏状态的值。首先先把上一隐层单元的输出信息和当前的输入信息同时输入sigmoid函数，然后把新细胞状态输入tanh函数，最后将这俩函数的输出值做乘法运算，将最后的结果作为当前隐层状态，并和当前的细胞状态输入到下一个隐层单元。输入门的控制表达式如式9和式10所示：

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (9)

h_t＝o_t*tanh(C_t) (10)

上式中，W_o是输出矩阵，b_o是输出偏置项，h_t是LSTM单元的最终输出值，并且

LSTM网络的训练方式采用误差反向传播训练。选择均方误差函数(MSE)作为损失函数E，MES公式如式11所示：

其中y_i表示熟料游离钙的真实值，y_i′表示模型预测熟料游离钙输出，n表示训练样本的总数。

LSTM的误差反向传播包括两个方向：一个方向是时间上的反向传播，一个是将误差向上一层传播。LSTM要训练的参数分别为：W_f、b_f、W_i、b_i、W_c、b_c、W_o、b_o。其中由于各权重矩阵连接两个不同的神经单元，所以实际要更新的权重矩阵共8个。分别为：W_fx、W_fh、W_ix、W_ih、W_cx、W_ch、W_ox、W_oh。

误差向上一时刻的传播计算如下：

设在t时刻，LSTM输出值为h_t。那么定义在t时刻为误差项δ_t如下式12所示：

同时定义LSTM的四个加权输入f_t、i_t、

o_t以及它们对应的误差项分别如下式所示：

net_f,t＝W_fhh_t-1+W_fxx_t+b_f (13)

net_i,t＝W_ihh_t-1+W_ixx_t+b_i (14)

net_o,t＝W_ohh_t-1+W_oxx_t+b_o (16)

误差在时间上的反向传播过程就是要就计算误差项在t-1时刻的值δ_t-1。计算公式如下：

误差向上一层传播计算如下：

设当前层是L层，则上一层(L-1层)的误差项δ_t ^L-1是损失函数对L-1层的加权输入的倒数，计算公式如下：

LSTM中的参数更新计算公式分别如下所示：

W_fh梯度更新如下式：

其中

W_ih梯度更新如下式：

其中

W_ch梯度更新如下式：

其中

W_oh梯度更新如下式：

其中

b_f偏置项更新如下式：

b_i偏置项更新如下式：

b_c偏置项更新如下式：

b_o偏置项更新如下式：

W_fx梯度更新如下式：

W_ix梯度更新如下式：

W_cx梯度更新如下式：

W_ox梯度更新如下式：

将最后训练好的模型进行保存，用于步骤五的预测。

步骤5：用训练好的LSTM模型对f-CaO含量进行预测。

模型的预测结果如图5所示。

以上所述的实施例仅仅是对本发明的优选实施方式进行描述，并非对本发明的范围进行限定，在不脱离本发明设计精神的前提下，本领域普通技术人员对本发明的技术方案做出的各种变形和改进，均应落入本发明权利要求书确定的保护范围内。

Claims (3)

1.一种基于多尺度深度网络的水泥游离钙软测量方法，其特征在于：该方法包括以下步骤：

步骤1：分析水泥生产工艺，选取与水泥熟料中f-CaO含量相关的过程变量，以此确定软测量模型所需的辅助变量；

步骤2：采用拉伊达准则标记每个辅助变量中的异常值，将每个辅助变量中的异常值和缺失值使用该辅助变量的均值代替；

步骤3：对辅助变量进行3层小波包分解并提取实时特征，将每个辅助变量进行分段，然后每个变量中的每一段进行小波包分解，计算分解后的每个节点的能量，并将能量较大的几个节点作为该变量在该时间段内的特征；

由于辅助变量的采集频率相对于f-CaO含量的采集频率更快，因此根据f-CaO含量的采集频率将每个辅助变量的数据进行分段，最终形成每个辅助变量的一段时序数据对应一个f-CaO含量值；使用3层小波包分解对辅助变量进行分解，然后使用所构建的能量函数对特征进行提取；针对原始信号S(t)，设一组低、高通共轭正交滤波器系数{h_k}_k∈z和{g_k}_k∈z，则每层小波包变换的系数可以通过式(2)递推得到：

式(2)中，n为频率指标，k为位置指标，j表示经过小波包分解的层数，P_s(n,j,k)表示原始信号经过小波包变换得到的系数序列；原始信号经过3层小波包分解后共得到8个系数序列，分别用SSS、dSS、SdS、ddS、SSd、dSd、Sdd、ddd表示，然后通过所构建的能量函数分别计算这8个系数序列的能量强度，提取能量强度较高的前4个系数序列作为原始信号在一段时间内的实时特征；构建的能量函数如式(3)所示：

其中x_i代表系数序列中的第i个元素值；对于每个辅助变量的时间序列段都进行3层小波包分解并提取特征，将每个变量在一个时间段内的特征作为软测量模型的输入；

步骤4：将步骤3中提取的实时特征送入LSTM模型并对模型进行训练，并通过误差反向传播算法对模型参数进行修正；

步骤5：用训练好的LSTM模型对f-CaO含量进行预测。

2.根据权利要求1所述的基于多尺度深度网络的水泥游离钙软测量方法，其特征在于：在步骤1中，通过分析熟料中游离氧化钙产生的机理和相关影响因素，选择与游离氧化钙密切相关的10个过程变量作为游离钙软测量模型的辅助变量。

3.根据权利要求2所述的基于多尺度深度网络的水泥游离钙软测量方法，其特征在于：在步骤1中，选取的10个建模辅助变量为：喂料量1反馈、分解炉喂煤量反馈、高温风机转速反馈、窑尾温度、分解炉出口温度、窑电流反馈、二室篦下压力反馈、二次风温反馈、窑头负压反馈、窑头煤反馈。

Images