CN106094786A - 基于集成型独立元回归模型的工业过程软测量方法 - Google Patents

Abstract

本发明涉及一种基于集成型独立元回归模型的工业过程软测量方法，应用于非高斯性工业过程数据。传统的非高斯性软测量回归建模方法需要选择一个的非二次函数，以度量非高斯性大小。然而，不同的工业过程数据或对象会造成实际应用中难以获取足够多的经验知识去指导非二次函数的选择。为此，本发明所涉及的方法通过全面而充分地利用不同的非二次函数来训练得到不同的软测量模型，有效的避免了非二次函数的选择问题。然后，通过加权系数累加得到最终的预测结果，使相应软测量模型的预测精度不再受到非二次函数选择的影响。这大大的提高了软测量模型的预测效果，从而能够对过程中的关键指标或质量指标进行更加精确而可靠的预测。

Description

基于集成型独立元回归模型的工业过程软测量方法

技术领域

本发明涉及一种工业过程软测量建模方法，尤其是涉及一种基于集成型独立元回归模型的工业过程软测量方法。

背景技术

在现代工业过程中，由于技术或经济因素的制约，许多能反映产品质量或生产状态的重要参数无法得到有效的在线测量。数据驱动的软测量方法就是为解决这类问题而产生的。软测量方法的基本思想是利用一些容易测量的过程变量和其他参数，建立起能够在线估计某些无法直接测量或难以测量的参数和变量的预测模型，从而实现对这些变量或参数的间接测量。近年来，软测量方法由于通用性强、实施方便、维护简单等优点，已经得到了工业界越来越多的重视。

当前，随着过程机理模型越来越难以获取，基于数据驱动的多元统计回归建模方法已经发展成为软测量方法领域的主流技术手段。其中，独立元回归(ICR)模型因能较好的处理过程数据的非高斯性，更适合于现代工业过程软测量建模。在现有的建立ICR模型的方法中，修正型独立元分析(MICA)逐步得到了广泛的应用，这主要因为MICA方法相比于传统方法而言，它所提取的独立元不会受到初始值的影响，即始终给出一致性的结果。本发明就是选择MICA方法作为基本建模手段。可是，MICA方法在建模过程中，需要选择一个非二次函数以度量非高斯性大小，而可选的非二次函数的形式却有3种。在实际应用中，是很难存在足够的经验知识去指导非二次函数的选择。因此，如何选择这个非二次函数是一个丞待解决的问题。

另一方面，考虑到实际生产对象的多样性与复杂性，选择固定单一的非二次函数建立相应的修正型独立元回归(MICR)模型所能取得预测精度往往不尽人意。相比之下，若能全面的利用这3种可选的非二次函数来训练MICR模型，相应软测量模型的预测精度就不会受到非二次函数选择的影响。

发明内容

本发明的目的在于针对现有方法的不足，提供一种基于集成型独立元回归模型的工业过程软测量方法。

本发明解决上述技术问题所采用的技术方案为：一种基于集成型独立元回归模型的工业过程软测量方法，主要包括以下几个步骤：

(1)利用集散控制系统收集工业生产过程中容易测量的数据组成软测量模型的输入训练数据矩阵X∈R^n×m，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵其中，n为训练样本数，m为过程测量变量数，R为实数集，R^n×m表示n×m维的实数矩阵。

(2)采用离线分析手段获取与输入训练数据X相对应的产品成分或质量数据组成输出训练数据Y∈R^n×1，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵

(3)按照如下所示步骤对数据矩阵进行白化处理得到数据矩阵Z∈R^n×M，其中，M≤m表示矩阵Z中变量个数：

①计算的协方差矩阵其中Φ∈R^m×m，上标号T表示矩阵转置；

②计算矩阵Φ的所有特征值和特征向量，并剔除小于0.0001的特征值及其对应的特征向量，得到特征向量矩阵P＝[p₁，p₂，…，p_M]∈R^m×M以及特征值对角矩阵D＝diag(λ₁，λ₂，…，λ_M)∈R^M×M；

③对进行白化处理，得到

(4)设置保留的独立元个数d，利用白化后的输入Z与输出选择不同的非二次函数建立起相应的MICR软测量模型，并保存各个模型参数Θ_k＝{W_k，B_k}以备用，其中，k＝1，2，3分别为三种非二次函数的标号，W_k∈R^d×m与B_k∈R^d×1分别为第k个MICR模型的分离矩阵和回归系数矩阵；

(5)利用各个MICR模型对输入训练数据进行预测得到相应的预测值其中， $Z_k=\stackrel{\‾}{X}{W_k}^T{B}_k.$

(6)采用最小二乘回归方法得到各个MICR模型预测值的权重比使平方预测误差最小化。

(7)收集新的过程容易测量的数据x∈R^m×1，并对其进行标准化处理得到

(8)利用各个MICR模型参数分别对进行预测得到相应的预测值其中，为第k个MICR软测量模型预测值。

(9)计算对应于当前输入数据的预测输出值

进一步地，所述步骤(4)具体为：首先，从下面三种可选形式中选择一种做为训练MICR软测量模型的所需的非二次函数G_k，即：

G₁(u)＝log cosh(u)，G₂(u)＝exp(-u²/2)，G₃(u)＝u⁴ (1)

其中，u为函数G_k的自变量；其次，调用MICA迭代算法求取d个独立元，具体的实施步骤如下所示：

①当提取第i(i＝1，2，…，d)个独立元时，选取m×m维单位矩阵中的第i列做为向量c_i的初始值；

②按照下式更新向量c_i：

c_i←E{Zgc_i ^TZ)}-E{g′(c_i ^TZ)}c_i (2)

其中，g和g′分别是非二次函数G_k的一阶和二阶导数，E{}表示求取期望值；

③更新后的向量c_i依次按照下式进行正交标准化处理：

$c_i\←c_i-{\Σ}_{j=1}^{i-1}\left({c_i}^T{c}_i\right)c_j---\left(3\right)$

c_i←c_i/||c_i|| (4)

④重复步骤②～③直至向量c_i收敛，并保存向量c_i；

⑤设置i＝i+1，重复上述步骤①～④直至得到所有d个向量C＝[c₁，c₂，…，c_d]∈R^m×d；

⑥计算对应于非二次函数G_k的MICA模型的分离矩阵W_k∈R^d×m和d个独立元组成的矩阵S_k∈R^n×d，即：

W_k＝C^TD^-1/2P^T (5)

$S_k=\stackrel{\‾}{X}{W_k}^T---\left(6\right)$

最后，利用最小二乘回归算法建立S_k与输出之间的回归模型，即：

$\begin{array}{c}\stackrel{\‾}{Y}=S_k{B}_k\\ B_k={\left({S_k}^T{S}_k\right)}^{-1}{S}_k\stackrel{\‾}{Y}\end{array}---\left(7\right)$

上式中，B_k∈R^d×1为回归系数。并保存对应于第k个MICR模型的模型参数Θ_k＝{W_k，B_k}。

进一步地，所述步骤(6)具体为：权重比的计算依据是使平方预测误差最小化，即按照如下方式求解权重比向量w＝[w₁，w₂，w₃]^T：

$w={\left({\hat{Z}}^T\hat{Z}\right)}^{-1}{\hat{Z}}^T\stackrel{\‾}{Y}---\left(8\right)$

其中，为三组预测值组成的矩阵。

与现有技术相比，本发明的优点在于：本发明方法针对每个非二次函数，都分别建立与之相对应的MICR软测量模型。全面地考虑了所有的模型可能性，从而巧妙的避免了如何选择非二次函数这一问题。而且，由于全面利用了每个非二次函数，不需要依赖过程对象的先验知识，所建立的软测量模型的通用性比较强。此外，本发明方法通过利用最小二乘回归方法来确立不同MICR模型的权重比，使最终的模型预测进一步得到了优化，预测结果的精度也就是进一步得到提升。因此，本发明方法可以有效地提升相应软测量模型的可靠性与准确性。

附图说明

图1为基于集成型独立元回归模型的工业过程软测量方法流程图。

具体实施方式

下面结合图1所示，对本发明做进一步的详述：本发明涉及一种基于集成型独立元回归模型的工业过程软测量方法，本发明的具体实施步骤如下：

步骤1：利用集散控制系统收集工业生产过程中容易测量的数据组成软测量模型的输入训练数据矩阵X∈R^n×m，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵

步骤2：采用离线分析手段获取与输入训练数据X相对应的产品成分或质量数据组成输出训练数据Y∈R^n×1，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵

步骤3：对数据矩阵进行白化处理得到数据矩阵Z∈R^n×M，具体的白化处理步骤如下所示：

①计算的协方差矩阵其中Φ∈R^m×m，上标号T表示矩阵转置；

②计算矩阵Φ的所有特征值和特征向量，并剔除小于0.0001的特征值及其对应的特征向量，得到特征向量矩阵P＝[p₁，p₂，…，p_M]∈R^m×M以及特征值对角矩阵D＝diag(λ₁，λ₂，…，λ_M)∈R^M×M；

③对进行白化处理，得到

步骤4：设置保留的独立元个数d，利用白化后的输入Z与输出选择不同的非二次函数建立起相应的MICR软测量模型，并保存各个模型参数以备用。

首先，从下面三种可选形式中选择一种做为训练MICR软测量模型的所需的非二次函数G_k，即：

G₁(u)＝log cosh(u)，G₂(u)＝exp(-u²/2)，G₃(u)＝u⁴ (10)

其中，u为函数G_k的自变量。

其次，调用MICA迭代算法求取d个独立元，具体的实施步骤如下所示：

①当提取第i(i＝1，2，…，d)个独立元时，选取m×m维单位矩阵中的第i列做为向量c_i的初始值；

②按照下式更新向量c_i：

c_i←E{Zg(c_i ^TZ)}-E{g′(c_i ^TZ)}c_i (11)

其中，g和g′分别是非二次函数G_k的一阶和二阶导数，E{}表示求取期望值；

③更新后的向量c_i依次按照下式进行正交标准化处理：

$c_i\←c_i-{\Σ}_{j=1}^{i-1}\left({c_i}^T{c}_i\right)c_j---\left(12\right)$

c_i←c_i/||c_i|| (13)

④重复步骤②～③直至向量c_i收敛，并保存向量c_i；

⑤设置i＝i+1，重复上述步骤①～④直至得到所有d个向量C＝[c₁，c₂，…，c_d]∈R^m×d；

⑥计算对应于非二次函数G_k的MICA模型的分离矩阵W_k∈R^d×m和d个独立元组成的矩阵S_k∈R^n×d，即：

W_k＝C^TD^-1/2P^T (14)

$S_k=\stackrel{\‾}{X}{W_k}^T---\left(15\right)$

最后，利用最小二乘回归算法建立S_k与输出之间的回归模型，即：

$\begin{array}{c}\stackrel{\‾}{Y}=S_k{B}_k\\ B_k={\left({S_k}^T{S}_k\right)}^{-1}{S}_k\stackrel{\‾}{Y}\end{array}---\left(16\right)$

其中，B_k∈R^d×1为回归系数。并保存对应于第k个MICR模型的模型参数Θ_k＝{W_k，B_k}。

步骤5：利用各个MICR模型对输入训练数据进行预测得到相应的预测值

针对每个MICR模型，使用相应的模型参数Θ_k计算得到的预测值Z_k，即：

$Z_k=\stackrel{\‾}{X}{W_k}^T{B}_k---\left(17\right)$

步骤6：采用最小二乘回归方法得到各个MICR模型预测值的权重比使平方预测误差最小化。

权重比的计算依据是使平方预测误差最小化，即按照如下方式求解权重比向量w＝[w₁，w₂，w₃]^T：

$w={\left({\hat{Z}}^T\hat{Z}\right)}^{-1}{\hat{Z}}^T\stackrel{\‾}{Y}---\left(18\right)$

其中，为三组预测值组成的矩阵。

步骤7：收集新的过程容易测量的数据x∈R^m×1，并对其进行标准化处理得到

步骤8：利用各个MICR模型参数分别对进行预测得到相应的预测值其中，为第k个MICR软测量模型预测值。

步骤9：计算对应于当前输入数据的预测输出值

上述实施例仅是本发明的优选实施方式，在本发明的精神和权利要求的保护范围内，对本发明做出的任何修改和改变，不应排除在本发明的保护范围之外。

Claims (3)

1.一种基于集成型独立元回归模型的工业过程软测量方法，其特征在于，该方法主要包括以下几个步骤：

(1)利用集散控制系统收集工业生产过程中容易测量的数据组成软测量模型的输入训练数据矩阵X∈R^n×m，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵其中，n为训练样本数，m为过程测量变量数，R为实数集，R^n×m表示n×m维的实数矩阵；

(2)采用离线分析手段获取与输入训练数据X相对应的产品成分或质量数据组成输出训练数据Y∈R^n×1，并对其进行标准化处理使各个过程变量的均值为0，标准差为1，得到新数据矩阵

(3)按照如下所示步骤对数据矩阵进行白化处理得到数据矩阵Z∈R^n×M，其中，M≤m表示矩阵Z中变量个数：

①计算的协方差矩阵其中Φ∈R^m×m，上标号T表示矩阵转置；

②计算矩阵Φ的所有特征值和特征向量，并剔除小于0.0001的特征值及其对应的特征向量，得到特征向量矩阵P＝[p₁，p₂，…，p_M]∈R^m×M以及特征值对角矩阵D＝diag(λ₁，λ₂，…，λ_M)∈R^M×M；

③对进行白化处理，得到

(4)设置保留的独立元个数d，利用白化后的输入Z与输出选择不同的非二次函数建立起相应的MICR软测量模型，并保存各个模型参数Θ_k＝{W_k，B_k}以备用，其中，k＝1，2，3分别为三种非二次函数的标号，W_k∈R^d×m与B_k∈R^d×1分别为第k个MICR模型的分离矩阵和回归系数矩阵；

(5)利用各个MICR模型对输入训练数据进行预测得到相应的预测值其中， $Z_k=\stackrel{\‾}{X}{W_k}^T{B}_k;$

(6)采用最小二乘回归方法得到各个MICR模型预测值的权重比使平方预测误差最小化；

(7)收集新的过程容易测量的数据x∈R^m×1，并对其进行标准化处理得到

(8)利用各个MICR模型参数分别对进行预测得到相应的预测值其中，为第k个MICR软测量模型预测值；

(9)计算对应于当前输入数据的预测输出值

2.根据权利要求1所述，一种基于集成型独立元回归模型的工业过程软测量方法，其特征在于，所述步骤(4)具体为：首先，从下面三种可选形式中选择一种做为训练MICR软测量模型的所需的非二次函数G_k，即：

G₁(u)＝log cosh(u)，G₂(u)＝exp(-u²/2)，G₃(u)＝u⁴ (1)

其中，u为函数G_k的自变量；其次，调用MICA迭代算法求取d个独立元，具体的实施步骤如下所示：

①当提取第i(i＝1，2，…，d)个独立元时，选取m×m维单位矩阵中的第i列做为向量c_i的初始值；

②按照下式更新向量c_i：

c_i←E{Zg(c_i ^TZ)}-E{g′(c_i ^TZ)}c_i (2)

其中，g和g′分别是非二次函数G_k的一阶和二阶导数，E{}表示求取期望值；

③更新后的向量c_i依次按照下式进行正交标准化处理：

$c_i\←c_i-{\mathrm{\Σ}}_{j=1}^{i-1}\left({c_i}^T{c}_i\right)c_j---\left(3\right)$

c_i←c_i/||c_i|| (4)

④重复步骤②～③直至向量c_i收敛，并保存向量c_i；

⑤设置i＝i+1，重复上述步骤①～④直至得到所有d个向量C＝[c₁，c₂，…，c_d]∈R^m×d；

⑥计算对应于非二次函数G_k的MICA模型的分离矩阵W_k∈R^d×m和d个独立元组成的矩阵S_k∈R^n×d，即：

W_k＝C^TD^-1/2P^T (5)

$S_k=\stackrel{\‾}{X}{W_k}^T---\left(6\right)$

最后，利用最小二乘回归算法建立S_k与输出之间的回归模型，即：

$\begin{array}{c}\stackrel{\‾}{Y}=S_k{B}_k\\ B_k={\left({S_k}^T{S}_k\right)}^{-1}{S}_k\stackrel{\‾}{Y}\end{array}---\left(7\right)$

上式中，B_k∈R^d×1为回归系数。并保存对应于第k个MICR模型的模型参数Θ_k＝{W_k，B_k}。

3.根据权利要求1所述，一种基于集成型独立元回归模型的工业过程软测量方法，其特征在于，所述步骤(6)具体为：权重比的计算依据是使平方预测误差最小化，即按照如下方式求解权重比向量w＝[w₁，w₂，w₃]^T：

$w={\left({\hat{Z}}^T\hat{Z}\right)}^{-1}{\hat{Z}}^T\stackrel{\‾}{Y}---\left(8\right)$

其中，为三组预测值组成的矩阵。