CN109635337B - 一种基于块增量随机配置网络的工业过程软测量建模方法 - Google Patents

Abstract

本发明公开一种基于块增量随机配置网络的工业过程软测量建模方法，包括：初始化块增量随机配置网络学习所需要的参数；根据监督机制，将隐层节点按块配置，并找出满足约束条件的隐层节点块作为新增候选节点块；从新增候选节点块中找出最佳隐层参数，计算新增隐层输出并构建隐层输出矩阵；通过优化算法得到当前网络的输出权值，并根据相邻两次迭代中残差的差值，利用模拟退火来更新下一次迭代的块宽，在当前网络隐层节点数超过给定最大隐层节点数或当前迭代中的残差满足期望容差时，不再增加新节点块，建模完成，得到块增量随机配置网络。本发明不仅能有效提高建模速度，而且所建立网络具有良好的紧致性，能够很好地满足工业过程软测量的需求。

Description

一种基于块增量随机配置网络的工业过程软测量建模方法

技术领域

本发明涉及工业过程测量技术领域，特别涉及一种基于块增量随机配置网络的工业过程软测量建模方法。

背景技术

工业过程中通常采用在线检测仪对生产过程中的关键参数，如流量、压力、温度等，进行实时监视。随着市场经济全球化的增强与先进制造技术的发展，工业过程所关心的参数逐渐扩展到反映产品质量的运行指标，如洗选煤过程的灰分、高炉铁水中的硅含量、冶金磨矿中的粒度等。然而，这些运行指标的在线检测仪不仅造价昂贵，而且对其进行现场维护的工作量较大，实际工业现场多采用离线化验的人工测量方式，但耗时耗力，且往往因工人的技术水平层次不同，化验的结果差强人意。

解决上述问题的有效方法是软测量技术，就是通过建立可测或易测的过程变量(称为辅助变量)与难以直接检测的待测变量(称为主导变量)的数学关系，实现对难测变量的间接估计。采用软测量的间接估计方法，又分为机理模型与数据驱动模型。其中，机理建模方法均是在忽略或假设一些重要的物理变化后建立的，通常会产生较大的建模误差。因此，多采用数据驱动的方法建立软测量模型，其实质是利用生产过程中的产生的实时和历史数据，建立工业过程中变量之间的数学模型，实现对主导变量的估计。

近年来，神经网络算法被逐渐应用在工业过程软测量领域。尽管许多改进的算法被提出，但在实际的应用中仍存在训练耗时、精度不高、过多的人为干预等问题。作为一种随机化的前馈神经网络，点增量随机配置网络的输入权值和偏置在一个可调区间内快速随机生成，然后通过监督机制进行配置以确保网络的万能逼近特性；同时，该算法作为一种增量实现，每次增加一个节点，可以自动地完成网络的构建。然而，工业过程通常十分复杂，实现对主导变量的估计需要较多的节点来达到预期的结果。在这种情况下，由于点增量随机配置网络在一次迭代中只能增加一个节点，其构建过程往往需要较多的迭代，不可避免地增加了计算负荷、影响了建模效率。

发明内容

本发明旨在解决目前的工业过程变量测量存在的不足，以及目前的算法难以满足实际工业过程对于估计准确性与快速性的需求的技术问题。为此，本发明的目的在于提出一种基于块增量随机配置网络的工业过程软测量建模方法，不仅可以有效提高建模速度，而且所建立网络具有良好的紧致性，能够很好地满足工业过程软测量的需求。

本发明提出的一种基于块增量随机配置网络的工业过程软测量建模方法，包括以下步骤：S1，初始化块增量随机配置网络学习所需要的参数；S2，根据监督机制，将隐层节点按块配置，并找出满足约束条件的隐层节点块作为新增候选节点块；S3，从所述新增候选节点块中找出最佳隐层参数，计算新增隐层输出，并构建隐层输出矩阵；S4，通过优化算法得到当前网络的输出权值，并根据相邻两次迭代中残差的差值，利用模拟退火来更新下一次迭代的块宽，在当前网络隐层节点数超过给定最大隐层节点数或当前迭代中的残差满足期望容差时，不再增加新节点块，建模完成，得到块增量随机配置网络。

根据本发明实施例的基于块增量随机配置网络的工业过程软测量建模方法，从初始化的网络开始，通过引入用于配置隐层参数的监督机制来建立增量式网络模型，不仅确保了其万能逼近特性，而且网络的复杂度可以依工业过程而定，采用模拟退火策略来自适应调整每次迭代时所需的块宽，进一步保证了网络的紧致性；同时，针对过拟合问题，本发明采用提前结束建模的方法，即通过设定最大隐层节点数和期望容差，在网络尚未过拟合之前结束建模，由此，该建模方法不仅模型结构简单，训练速度快，准确率高，而且还具有良好的泛化性能。

另外，根据本发明上述实施例提出的基于块增量随机配置网络的工业过程软测量建模方法还可以具有如下附加的技术特征：

所述相关参数包括最大隐层节点数L_max、最大随机配置次数T_max、期望容差ε、隐层参数随机配置范围Υ:＝{λ_min:Δλ:λ_max}、学习参数r、第一次迭代中的块宽即初始隐层节点数Δ₁、第一次迭代中的残差e₀，令e₀为输出样本O，网络的隐层节点数从Δ₁开始增加。

当第k次迭代增加Δ_k个隐层节点时，所述步骤S2包括：

在可调对称区间[-λ,λ]^d和[-λ,λ]内分别随机生成隐层参数，包括输入权值

和偏置

将所述隐层参数依次代入激活函数，得到新增隐层输出块：

设定μ_L＝(1-r)/(L+Δ_k)，L为当前网络隐层节点总数；

找出满足以下不等式约束的隐层节点即为候选节点：

min{ξ_L,1,...,ξ_L,q,...,ξ_L,m}≥0

其中，

所述步骤S3包括：

将所述候选节点分别代入

得到

找出使得ξ_L最大的一组隐层参数，即为满足监督机制的最佳隐层参数

和

若找不到满足条件的隐层参数，则通过对r进行补偿：放宽条件重复以上寻找候选节点的步骤，即：r＝r+τ，其中，τ∈(0,1-r)；

此时，网络的隐层输出矩阵为：

其中，

所述步骤S4包括：

通过全局优化算法得到输出权值：

由此可得当前网络的残差为e_L＝O-H_Lβ^*；

基于模拟退火策略，更新下一次迭代的块宽：

Δ_k＝1+round((Δ₁-1)×(1-p))

其中，round(·)表示取整函数，p(dE)＝exp(dE/η)，

表示网络f_L和

残差的差值，η是一个与样本特性相关的可调参数，将η设置为一个合适的值，且在当前迭代中保持不变，dE越小，p越小，1-p越大，Δ_k越大，反之亦然；

当隐层节点数超过给定最大隐层节点数L_max或当前迭代中残差的模不大于给定期望容差ε时，不再增加新节点块，建模完成。

附图说明

图1为本发明实施例的基于块增量随机配置网络的工业过程软测量建模方法的流程图；

图2为本发明一个具体实施例的实际工业过程磨矿粒度大小的测试结果图。

具体实施方式

下面详细描述本发明的实施例，实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

实现本发明实施例的基于块增量随机配置网络的工业过程软测量建模方法，首先可对给定样本数的工业过程数据集进行预处理。具体地，在样本数为N的工业过程数据集{X,O}中，输入样本为X＝{x₁，x₂，…，x_N}，x_i＝[x_i，1，x_i，2，…，x_i，d]∈R^d，输出样本为O＝{o₁，o₂，…，o_N}，o_i＝[o_i，1，o_i，2，…，o_i，m]∈R^m，可对所有样本进行归一化处理。

进一步地，如图1所示，本发明实施例的基于块增量随机配置网络的工业过程软测量建模方法可包括以下步骤：

S1，初始化块增量随机配置网络学习所需要的参数。

块增量随机配置网络学习所需要的参数包括最大隐层节点数L_max、最大随机配置次数T_max、期望容差ε、隐层参数随机配置范围Υ:＝{λ_min:Δλ:λ_max}、学习参数r、第一次迭代中的块宽即初始隐层节点数Δ₁、第一次迭代中的残差e₀，令e₀为输出样本O，网络的隐层节点数从Δ₁开始增加。其中，本发明实施例所述的迭代指增加一个或多个节点的过程。

S2，根据监督机制，将隐层节点按块配置，并找出满足约束条件的隐层节点块作为新增候选节点块。

在可调对称区间[-λ,λ]内随机生成隐层参数，包括输入权值v、偏置b，存储满足监督机制的隐层参数即节点，其中，候选节点与隐层参数一一对应。

具体地，当第k次迭代增加Δ_k个隐层节点时，首先在可调对称区间[-λ,λ]^d和[-λ,λ]内分别随机生成隐层参数，包括输入权值

和偏置

然后将隐层参数依次代入激活函数(如S曲线函数sigmoid、径向基函数RBF等)，得到新增隐层输出块：

设定μ_L＝(-r1L+Δ_k)，L/为当前网络隐层节点总数；最后找出满足以下不等式约束的隐层节点即为候选节点：

min{ξ_L,1,...,ξ_L,q,...,ξ_L,m}≥0

其中，

需要说明的是，块增量随机配置网络用于配置隐层参数的监督机制为：

其中，

为上一次迭代网络的残差，

为第k次迭代时输出权值的中间值，

因此，上述不等式约束条件等价于该监督机制。

S3，从新增候选节点块中找出最佳隐层参数，计算新增隐层输出，并构建隐层输出矩阵。

找到最佳隐层参数(对应相邻两次迭代残差差值最大的情况)，代入激活函数得到新增隐层输出，用于构建隐层输出矩阵。若无候选节点块，则放宽监督机制的条件：更新r＝r+τ，其中τ∈(0,1-r)，然后重复步骤S3。

具体地，首先将步骤S3中满足不等式约束的结果，即候选节点分别代入

得到

然后找出使得ξ_L最大的一组隐层参数，即为满足监督机制的最佳隐层参数

和

若找不到满足条件的隐层参数，则通过对r进行补偿：放宽条件重复以上寻找候选节点的步骤，即：r＝r+τ，其中，τ∈(0,1-r)，一般情况下，为了更容易满足监督机制从而快速寻找候选节点可以直接将r设置为一个接近1(始终小于1)的数。此时，网络的隐层输出矩阵为：

其中，

S4，通过优化算法得到当前网络的输出权值，并根据相邻两次迭代中残差的差值，利用模拟退火来更新下一次迭代的块宽，在当前网络隐层节点数超过给定最大隐层节点数或当前迭代中的残差满足期望容差时，不再增加新节点块，建模完成，得到块增量随机配置网络。

具体地，通过全局优化算法得到输出权值：

由此可得当前网络的残差为e_L＝O-H_Lβ^*。

基于模拟退火策略，更新下一次迭代的块宽：

Δ_k＝1+round((Δ₁-1)×(1-p))

其中，round(·)表示取整函数，p(dE)＝exp(dEη)，

表示网络f_L和

残差的差值，η是一个与样本特性相关的可调参数，将η设置为一个合适的值，且在当前迭代中保持不变，dE越小，p越小，1-p越大，Δ_k越大，反之亦然。即相邻两次迭代中残差在数值上相差越大时，网络需要更大的Δ_k，即更多的节点来提高建模效率。

当隐层节点数超过给定最大隐层节点数L_max或当前迭代中残差的模不大于给定期望容差ε时，不再增加新节点块，建模完成，得到块增量随机配置网络，以便根据得到的块增量随机配置网络实现工业过程的软测量。

以下结合一个具体的实际工业磨矿过程的例子来说明本发明的方法。

首先，在研磨工艺过程中，选取与磨矿粒度相关性最高的五个过程变量作为输入变量，以实现对磨矿粒度的估计；初始化块增量随机配置网络学习所需要的参数；在不超过最大随机配置次数的情况下，寻找候选节点；从候选节点中找到最佳隐层参数，并计算隐层输出矩阵；通过全局优化算法得到当前网络的输出权值，引入模拟退火策略更新下一次迭代的块宽。建模完成后，根据实时采集的磨矿过程数据估计当前的磨矿粒度，从而得到其质量指标。

参考上述实施例，本发明实施例的块增量随机配置网络建模及磨矿粒度测量的步骤如下：

第一步：在磨矿过程变量中，选取与磨矿粒度相关性最高的五个过程变量作为输入变量，对磨矿粒度进行估计。其中，输入变量包括磨机给矿量y₁(t/h)、球磨机入口给水量y₂(m³/h)、螺旋分级机溢流浓度y₃(％)、球磨机电流c₁(A)以及螺旋分级机电流c₂(A)，输出变量为磨矿粒度。在实际磨矿过程中采集400个不同的样本，其中300个作为训练集，100个作为测试集，即：输入样本为X＝{x₁，x₂，…，x_i，…，x₃₀₀}，其中x_i＝[y₁(i),y₂(i),y₃(i),c₁(i),c₂(i)]∈R⁵；输出样本为O＝{o₁，o₂，…，o_i，…，o₃₀₀}，其中o_i∈R。然后，对样本数据进行归一化处理。

第二步：初始化块增量随机配置网络学习所需要的参数，设置第一次迭代中的块宽即初始隐层节点数Δ₁＝5、最大隐层节点数L_max＝50和最大随机配置次数T_max＝10、期望容差ε＝0.05、隐层参数随机配置范围Υ:＝{1:1:20}和学习参数r＝0.999，η＝0.2，令第一次迭代中的残差e₀＝O。激活函数取Sigmoid函数。

第三步：当第k次迭代增加Δ_k个隐层节点时，在给定的可调配置范围内，随机配置10次隐层参数(输入权值v和偏置b)，求出每次对应的隐层输出矩阵H_Δk，并存储满足监督机制

的隐层节点(参数)即候选节点块。其中，L为当前网络隐层节点总数。

第四步：找到最佳隐层参数(对应相邻两次迭代残差差值最大的情况)，即ξ_L最大时对应的一组隐层参数，并用于构建网络节点；同时求出当前节点对应的隐层输出矩阵

若没有找到候选节点，则通过调整r放宽条件，即：r＝r+τ，其中，τ∈(0,1-r)，然后重复第三步。

第五步：找到最佳参数后计算当前网络的隐层输出矩阵

用全局优化算法得到当前网络的输出权值

求出当前迭代残差e_L＝O-H_Lβ*。

下一次迭代的块宽Δ_k(隐层节点数)通过模拟退火策略来更新，即1+round(4×(1-p))，其中，p(dE)＝exp(dE/0.2)；dE为相邻两次迭代中残差的差值。

迭代后的隐层节点数超过50或残差的模不大于0.05时，不再增加新节点块，完成建模。剩下的100个样本集用于测试。图2为测试磨矿粒度实例的测试结果图，其中，(a)为训练残差曲线，(b)为粒度估计值。从图2中可以看出，随着迭代次数k的增加，残差快速收敛，且最终接近于0；块增量随机配置网络的估计值几乎都紧围绕着真实值，说明本发明所建立模型的速度快、精度高。

需要说明的是，本发明实施例的基于块增量随机配置网络软测量模型的建立方法对于复杂工业运行过程运行指标具有普遍适用性，所建立的模型不仅适用于上述具体实施例中对于磨矿质量指标的检测，还适用于其他多种工业过程运行指标的检测。

综上所述，根据本发明实施例的基于块增量随机配置网络的工业过程软测量建模方法，通过基于传统点增量随机配置网络：一方面采用隐层节点按块增加的方式构建网络，即一次迭代中增加多个节点，来提高学习速度；另一方面引入新的监督机制对隐层参数按块配置，来确保其万能逼近特性，而且增量式网络的复杂度可以依工业过程而定。同时，过大、过小(或固定)的块宽均不适合网络的构建。这是因为逼近特性在很大程度上取决于隐层的非线性特征映射，即：将低维样本数据映射到高维特征空间，而每个节点可以被认为是该空间里的一个特征。从特征学习的角度，每次迭代增加的节点越多，网络学到特征的可能性越大，相应地残差收敛率越高，这种情况下过小的块宽不利于特征的学习；然而随着残差的降低，网络所需(尚未学到的)特征减少，过大的块宽使得网络易于重复学习(已学到的)特征，造成特征的冗余，从而增加网络的复杂性，这种情况下过大的块宽将导致过拟合现象。因此，本发明在网络构建过程中引入模拟退火优化策略实现块宽的自适应调整来解决学习特征的问题，进一步保证了网络的紧致性。同时，针对过拟合问题，本发明采用提前结束建模的方法，即通过设定最大隐层节点数和期望容差，在网络尚未过拟合之前结束建模，由此，该建模方法不仅模型结构简单，训练速度快，准确率高，而且还具有良好的泛化性能。

在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (2)

1.一种基于块增量随机配置网络的工业过程软测量建模方法，其特征在于，包括以下步骤：

S1，初始化块增量随机配置网络学习所需要的参数；所述参数包括最大隐层节点数L_max、最大随机配置次数T_max、期望容差ε、隐层参数随机配置范围Υ、学习参数r、第一次迭代中的块宽即初始隐层节点数Δ₁、第一次迭代中的残差e₀，令e₀为输出样本O，输出样本O为磨矿粒度，网络的隐层节点数从Δ₁开始增加；

S2，根据监督机制，将隐层节点按块配置，并找出满足约束条件的隐层节点块作为新增候选节点块；

当第k次迭代增加Δ_k个隐层节点时，在可调对称区间[-λ,λ]^d和[-λ,λ]内分别随机生成隐层参数，包括输入权值

和偏置

d为维度；

将所述隐层参数依次代入激活函数，得到新增隐层输出块：

x_i为样本数据，每个样本数据包括磨机给矿量、球磨机入口给水量、螺旋分级机溢流浓度、球磨机电流、螺旋分级机电流；

设定μ_L＝(1-r)/(L+Δ_k)，L为当前网络隐层节点总数；

找出满足以下不等式约束的隐层节点块即为新增候选节点块：

min{ξ_L,1,...,ξ_L,q,...,ξ_L,m}≥0

其中，

为上一次迭代网络的残差，

为第k次迭代时输出权值的中间值；

S3，从所述新增候选节点块中找出最佳隐层参数，计算新增隐层输出，并构建隐层输出矩阵；

S4，通过优化算法得到当前网络的输出权值，并根据相邻两次迭代中残差的差值，利用模拟退火来更新下一次迭代的块宽，在当前网络隐层节点数超过给定最大隐层节点数或当前迭代中的残差满足期望容差时，不再增加新节点块，建模完成，得到块增量随机配置网络；

S5，根据得到的块增量随机配置网络实现工业过程的软测量。

2.根据权利要求1所述的基于块增量随机配置网络的工业过程软测量建模方法，其特征在于，所述步骤S3包括：

将所述新增候选节点块分别代入

得到

找出使得ξ_L最大的一组隐层参数，即为满足监督机制的最佳隐层参数

和

若找不到满足条件的隐层参数，则通过对r进行补偿：放宽条件重复以上寻找新增候选节点块的步骤，即：r＝r+τ，其中，τ∈(0,1-r)；

此时，网络的隐层输出矩阵为：

其中，

Images