CN102033991A - 基于增量改进bp神经网络的微波干燥预测方法 - Google Patents

Abstract

本发明涉及一种基于增量改进BP神经网络的微波干燥预测方法，是一种用神经网络预测微波干燥富硒渣生产过程中相对脱水率和温度的方法，选用三层BP神经网络为原型，采用增量学习和L-M算法对网络进行改进，建立基于增量改进BP神经网络模型对微波干燥富硒渣的相对脱水率和温度进行预测。通过计算机仿真试验，可以准确、快速地预测微波干燥试验过程中富硒渣的相对脱水率和温度，减少探索性试验的数量，为后续生产提供理论依据。

Description

基于增量改进BP神经网络的微波干燥预测方法

技术领域

本发明涉及一种基于增量改进BP神经网络的微波干燥预测方法，一种用神经网络预测微波干燥富硒渣生产过程中相对脱水率和温度的方法。属于冶金工程计算机神经网络控制技术领域。

背景技术

在微波干燥富硒渣的生产过程中，影响微波干燥效果的因素包括微波输入功率、微波作用时间、物料转速等，其在干燥过程中影响程度不同，致使微波干燥过程试验周期长，试验量大且参数不易优化。为此，选择具有非线性映射能力的BP神经网络，对微波干燥过程建立仿真模型，预测分析试验过程。但是，公知的BP神经网络算法是基于梯度下降法，通过计算目标函数对网络权值和阈值的梯度修正网络权值，在训练过程中存在收敛速度慢和局部最小的问题；且对于复杂的问题，在训练过程中会陷入局部最小点，以致无法收敛，相对于公知的BP神经网络算法，采用Levenberg-Marquardt(L-M)算法对BP神经网络加以改进，提高了神经网络的收敛速度，同时针对在训练神经网络的过程中，无法一次性提供所需的训练样本且当训练样本规模较大时，系统内存的限制使得对所有样本的训练不可行等问题，提出基于增量学习的BP神经网络，建立了增量BP神经网络的非线性系统预测模型，用以预测微波干燥富硒渣的生产结果。此方法能够准确、快速地预测生产过程中富硒渣的相对脱水率和温度，为后续生产提供理论依据。

发明内容

本发明的目的在于提供一种基于增量改进BP神经网络预测微波干燥富硒渣生产过程中相对脱水率和温度的方法，选用三层BP神经网络为原型，采用增量学习和L-M算法对网络进行改进，建立基于增量改进BP神经网络模型对微波干燥富硒渣的相对脱水率和温度进行预测。通过计算机仿真试验，可以准确、快速地预测微波干燥试验过程中富硒渣的相对脱水率和温度，减少探索性试验的数量，为后续生产提供理论依据。

本发明按以下步骤完成，

(1)数据采集：选取实际生产数据作为训练样本，包括微波输入功率、微波作用时间、物料转速、物料相对脱水率和物料温度；

(2)建立增量改进BP神经网络模型，并对网络进行训练和测试：采用增量学习和L-M算法对神经网络进行改进，并将选取的训练样本输入到网络中，对网络进行训练，将网络的输出值与实测值进行对比，直到网络训练的均方误差达到要求，确定网络各层的权值和阈值；

(3)预测物料相对脱水率和温度：在生产过程的预测中，将选取的微波输入功率、微波作用时间、物料转速作为神经网络的输入，神经网络的输出即为物料相对脱水率和温度的预测值。

与公知技术相比的优点及积极效果

本发明所提出的基于增量改进BP神经网络预测微波干燥富硒渣的相对脱水率和温度的方法，其中，基于L-M算法的BP神经网络，避免了传统BP网络当训练到一定程度时SSE(误差平方和)不再更新，出现网络麻痹的现象，导致网络不能进行训练，它在调整网络参数时跳出局部最小，使网络迅速收敛。基于增量学习的BP神经网络，可以有效地解决训练样本无法一次性提供的问题，选取具有代表性的训练样本，在占用较小内存资源的情况下完成对网络的训练。

附图说明

图1BP神经网络拓扑结构图，图中N₁、N₂、N₃分别为输入层、隐含层、输出层节点的个数；x_i表示输入信号；y_h表示隐含层的输出信号；z_j表示输出层的输出信号；T_i表示目标信号；ω_ih表示输入层节点i到隐含层节点h的连接权值；ω_hj表示隐含层节点h到输出层节点j的连接权值；Δ为调整的连接权值。

图2训练样本中富硒渣相对脱水率的预测图，其预测值与实测值完全拟合。

图3检验样本中富硒渣相对脱水率的预测图，其预测值与实测值拟合程度较好。

图4训练样本中富硒渣温度的预测图，其预测值与实测值完全拟合。

图5检验样本中富硒渣温度的预测图，其预测值与实测值拟合程度较好。

具体实施方式

实施例：基于增量改进BP神经网络预测微波干燥富硒渣相对脱水率和温度的方法，主要分以下三个步骤：

(1)数据采集：选取实际生产过程记录的数据作为训练样本，包括微波输入功率、微波作用时间、物料转速、物料相对脱水率和物料温度，并将样本数据归一化到0和1之间；

(2)建立增量改进BP神经网络模型，并对网络进行训练和测试：本发明的神经网络包括一个输入层、一个隐含层和一个输出层，其中，输入层包含3个神经元，分别对应微波输入功率、微波作用时间和物料转速，输出层包含2个神经元，分别对应物料相对脱水率和物料温度，隐含层神经元数目由网络训练的均方误差和增量学习调整BP神经网络的权值确定。根据先验知识设定其权值表示知识的有效区间，权向量可以在保持所学知识准确性的情况下在该有效区间内移动，当有新样本到来时，通过固定网络结构，在权值变化有效区间内调整权值，使表示向量逼近目标向量，从而学习到新样本的知识，同时由于权值调整范围限制在有效区间内，网络不仅学习到了新样本的知识，而且保持了原有样本的知识。L-M算法是一种利用标准的数值优化技术的快速算法，具有二阶收敛速度，既有牛顿法的局部收敛特性，又有梯度下降算法的全局特性，能够解决BP神经网络学习收敛速度慢，容易陷入局部最小的问题，以此改善神经网络的收敛速度和收敛性能。经过网络运算，比较输出值和期望值之间的误差，若误差小于设定的精度，学习结束。否则，将误差信号反向传播，并逐步调整各层的权值，直至误差小于设定的精度为止。对网络进行反复训练，当误差达到设定精度时，停止训练，开始预测。

BP神经网络的学习过程分为信息的正向传播过程和误差的反向传播过程两个阶段。

正向传播：正向传播过程为输入层至隐含层至输出层，同一层间神经元不连接，每一层的神经元状态只影响下一层神经元。

隐含层某一节点的输出：

$y_h=f(\underset{i=1}{\overset{N_1}{\mathrm{\Σ}}}{\mathrm{\ω}}_{\mathrm{ih}}\·x_i+{\mathrm{\θ}}_h)$

输出层某一节点的输出：

$z_j=f(\underset{h=1}{\overset{N_2}{\mathrm{\Σ}}}{\mathrm{\ω}}_{\mathrm{hj}}\·y_h+{\mathrm{\γ}}_j)=f(\underset{h=1}{\overset{N_2}{\mathrm{\Σ}}}{\mathrm{\ω}}_{\mathrm{hj}}\·f(\underset{i=1}{\overset{N_1}{\mathrm{\Σ}}}{\mathrm{\ω}}_{\mathrm{ih}}\·x_i+{\mathrm{\θ}}_h)+{\mathrm{\γ}}_j)$

反向传播：若网络的输出值与期望值间的误差大于设定精度，则将误差信号反向传播，逐步修正各层的连接权值，直至误差小于设定精度。

对应节点的误差函数为：

$E=\frac{1}{2}\underset{j=1}{\overset{N_3}{\mathrm{\Σ}}}{(T_j-z_j)}^2$

权值调整量为：

$\mathrm{\Δ\ω}=-\mathrm{\η}\frac{\∂E}{\∂\mathrm{\ω}}$

权值修正量为：

ω＝ω+Δω

采用L-M算法改进的BP神经网络权值调整公式为：

Δω＝(J^T·J +μ·I)^-1·J^T·E

增量学习是通过调整BP神经网络的权值实现的。对于BP神经网络，根据先验知识设定其权值表示知识的有效区间，权向量可以在保持所学知识准确性的情况下在该有效区间内移动，当有新样本到来时，通过固定网络结构，在权值变化有效区间内调整权值，使表示空间逼近目标空间，从而学习到新样本的知识，同时由于权值调整限制在有效区间内，网络不仅学习到了新样本的知识，而且保持了原有的知识。采用增量学习调整网络权值时，需要引入一个比例因子s来调整权值：

Δω_ab(k)＝s(k)·λ·δ_b(k)·O_a(k)

其中，N₁、N₂、N₃分别为输入层、隐含层、输出层节点的个数；x_i表示输入信号；y_h表示隐含层的输出信号；z_j表示输出层的输出信号；T_j表示目标信号；ω_ih表示输入层节点i到隐含层节点h的连接权值；ω_hj表示隐含层节点h到输出层节点j的连接权值；f为转移函数；θ_h为隐含层节点h的阈值；γ_j为输出层节点j的阈值；η为学习步长。输入层与隐含层之间的传递函数为sigmoid函数：

隐含层与输出层之间的传递函数为线性函数：f(x)＝x；Δω为调整的连接权值；J为误差对权值微分的雅可比(Jacobian)矩阵；E为误差向量；μ为一个标量，当μ趋近于无穷大时，该算法趋近于最速梯度下降法；当μ趋近于0时，该算法趋近于Gauss-Newton法。Δω_ab为a节点和b节点间的连接权值；λ(0＜λ＜1)为学习速率；δ_b为b节点的误差梯度；O_a为a节点的激活水平；k为迭代次数。

(3)预测物料相对脱水率和温度：在生产预测时，将试验记录的微波输入功率、微波作用时间、物料转速的数据归一化到0和1之间后，作为神经网络的输入，并将神经网络的输出值进行反归一化处理，即为物料相对脱水率和温度的预测值。

所提出的增量改进BP神经网络算法利用MATLAB平台实现，输入微波输入功率、微波作用时间、物料转速三个参数，即可得到物料相对脱水率和物料温度，实现微波干燥过程富硒渣相对脱水率和温度的预测。

Claims (1)

1.一种基于增量改进BP神经网络的微波干燥预测方法，其特征在于，选取三层BP神经网络为原型，采用增量学习和Levenberg-Marquardt算法对BP神经网络进行改进，建立增量改进BP神经网络模型对微波干燥富硒渣相对脱水率和温度进行预测，包括如下三个步骤：

(1)数据采集：选取准确的试验数据作为样本数据，包括微波输入功率、微波作用时间、物料转速、物料相对脱水率和物料温度；

(2)建立增量改进BP神经网络模型，并对网络进行训练和测试：采用增量学习和L-M算法对神经网络进行改进，并将采集到的样本数据输入到网络中，对网络进行训练，将网络的输出值与实测值进行对比，直到网络训练的均方误差达到要求，确定网络各层的权值和阈值；

(3)预测物料相对脱水率和温度：在生产预测时，将采集的微波输入功率、微波作用时间、物料转速作为神经网络的输入，神经网络的输出即为物料相对脱水率和温度的预测值。

Images