CN104123451A - 基于偏最小二乘回归的疏浚作业产量预测模型建立方法 - Google Patents

Abstract

本发明公开了一种基于偏最小二乘回归的疏浚作业产量预测模型建立方法，采取一种先进的多元回归分析方法，通过将自变量和因变量的高维数据空间投影到相应的低维特征空间，分别得到自变量与因变量的相互正交的特征向量，再建立自变量和因变量的特征向量间的线性回归关系。它在选取特征向量时强调自变量对因变量的解释和预测作用，去除了对回归无益的噪声的影响，使模型包含最小的变量数，因而其模型具有较好的鲁棒性和预测的稳定性。可为疏浚作业产量的优化研究打下理论基础，达到高效率、高产量、低能耗的目的，对挖泥船进行产量预测具有重要意义。

Description

基于偏最小二乘回归的疏浚作业产量预测模型建立方法

技术领域

本发明涉及基于偏最小二乘回归分析在疏浚作业产量预测模型中的应用，属于疏浚工程领域。

背景技术

疏浚工程是水利水运工程的重要项目。现代疏浚作业主要依靠挖泥船来进行，而产量是衡量挖泥船效率的重要标准。绞吸式挖泥船疏浚作业是一个多因素相互作用、相互影响的过程，产量的影响因素非常多且复杂。在现阶段疏浚施工中，主要还是以人工优化为基础，依靠以往经验判断疏浚施工的主要作业参数，施工效率较低。如何确保合理有效的工艺决策，减少调控参数，降低操作复杂性，成为疏浚低能耗、低排放、高效率的关键问题。因此，实现疏浚作业产量预测模型意义重大。

偏最小二乘法(Partial least squares， PLS)是一种先进的多元回归分析方法，通过将自变量和因变量的高维数据空间投影到相应的低维特征空间，分别得到自变量和因变量的相互正交特征向量，再建立自变量和因变量特征向量的一元线性回归关系。与主成分分析(Primary Component Analysis，PCA)相比较:PLS不仅可有效地克服普通最小二乘回归方法的共线性问题，它在选取特征向量时强调自变量对因变量的解释和预测作用，去除了对回归无益噪声的影响，是模型包含最少的变量数，因而PLS模型具有更好的鲁棒性和预测稳定性。PLS方法的良好性能使得它在工业过程的建模与控制中得到广泛的应用。

发明内容

本发明的目的在于克服上述缺陷，利用现有的偏最小二乘回归方法，提供基于偏最小二乘回归的疏浚作业产量预测模型建立方法，对挖泥船产量预测模型建立进行分析，为疏浚作业产量的优化研究打下理论基础，达到高效率、高产量、低能耗的目的，对挖泥船进行产量预测具有重要意义。

为了解决上述问题，本发明装置所采用的技术方案为：一种基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于包括以下步骤:

步骤(1)：收集影响疏浚作业产量因素变量的数据资料，确定p个分析变量，列出因变量与自变量样本矩阵；其中，p为正整数；

步骤(2)：对样本矩阵进行标准化处理；

步骤(3)：根据标准样本矩阵，提取主成分；

步骤(4)：根据提取主成分终止判断准则，依次计算出主成分对自变量、因变量信息的解释能力；

步骤(5)：确定主成分个数；

步骤(6)：根据主成分个数，建立回归预测方程。

上述步骤(1)中的样本矩阵如下：

设对p个自变量x₁，x₂，…x_p和q个因变量y₁，y₂，…y_q行了n次观测，分别记自变量与因变量的“样本点×变量”型的数据矩阵为：

X＝(x_ij)_n×p＝(x₁，x₂，...x_p)，i＝1，2...，n；j＝1，2，...P

Y＝(y_ij)_n×q＝(y₁，y₂，...y_q)，i＝1，２，...，n；j＝1，2，...q

上述步骤(2)中矩阵标准化处理如下：

记标准化后的数据矩阵为：

E₀＝(e_ij)_n×p和E₀＝(f_ij)_n×q

其中 $e_{\mathrm{ij}}=\frac{x_{\mathrm{ij}}-\stackrel{\‾}{x_j}}{{\mathrm{sx}}_j},i=\mathrm{1,2}...,n;j=\mathrm{1,2},...p,$

(1-1)

$f_{\mathrm{ij}}=\frac{y_{\mathrm{ij}}-\stackrel{\‾}{y_j}}{{\mathrm{sy}}_j},i=\mathrm{1,2}...,n;j=\mathrm{1,2},...q,---(1-2)$

式中(1-1)和式中(1-2)中，分别为矩阵X与Y的第j列数据的平均值，sx_j，sy_j为矩阵X与Y的第j列数据的标准差。

上述步骤(3)中主成分提取的计算步骤如下：

①第一轮主成分提取

求矩阵的最大特征值所对应单位特征向量w₁，得自变量的第一个主成分，t₁＝E₀w₁

求矩阵的最大特征值所对应单位特征向量c₁，得因变量的第一个主成分，u₁＝F₀c₁

求残差矩阵

$E_1=E_0-t_1{p}_1^T---(1-3)$

$F_1=F_0-t_1{r}_1^T---(1-4)$

式中(1-3)中式中(1-4)中

②新一轮主成分提取

令E₀＝E₁，F₀＝E₁，对残差矩阵进行新一轮的主成分提取

设第h步的计算结果为

t_h＝E_h-1w_h  (1-5)

u_h＝F_h-1c_h  (1-6)

$E_h=E_{h-1}-t_h{p}_h^T---(1-7)$

$F_h=F_{h-1}-t_h{r}_h^T---(1-8)$

式(1-5)～(1-8)中， $h=\mathrm{1,2},...,m,m<<\mathrm{rank}\left(E_0\right),p_1=\frac{E_h^T{t}_h}{{\left|\right|t_h\left|\right|}^2},r_1=\frac{F_h^T{t}_h}{{\left|{|t}_h\right||}^2}.$

上所述步骤(4)中的提取主成分终止判断准则采用复测定系数准则，由统计量

$R_h^2=\frac{{\mathrm{\&Sigma;}}_{k=1}^h{\left|\right|t_k\left|\right|}^2\&times;{\left|\right|r_k\left|\right|}^2}{{\left|\right|F_0\left|\right|}^2}---(1-9)$

评价自变量系统的前h个主成分是否对因变量Y系统有足够的解释能力。

复测定系数度量的是由前h个主成分构建的回归方程能够解释的变异信息量占总变异的百分比，当h＝m且复测定系数的值足够大时，可在第m步终止主成分提取计算，其中

在复测定系数的应用中，往往参考统计量

$Q_h^2=\frac{{\mathrm{\&Sigma;}}_{k=1}^h{\left|\right|t_k\left|\right|}^2\&times;{\left|\right|p_k\left|\right|}^2}{{\left|\right|E_0\left|\right|}^2}---(1-10)$

值的大小，度量的是自变量X系统被提取的变异信息量。

上所述步骤(4)中主成分对自变量、因变量信息的解释能力的计算过程如下：

记是主成分t_h与因变量y_j的简单相关系数的平方，t_h对因变量系统Y的解释能力:

Rd(y_j；t_h)＝ρ²(y_j；t_h)

(1-11)

$\mathrm{Rd}(Y;t_h)=\frac{1}{q}{\mathrm{\&Sigma;}}_{j=1}^q\mathrm{Rd}(y_j;t_h)---(1-12)$

t₁，t₂，...，t_m二对因变量系统Y的累计解释能力:

$\mathrm{Rd}(Y;t_1,t_2,...t_m)={\mathrm{\&Sigma;}}_{h=1}^m\mathrm{Rd}(Y;t_h)---(1-13)$

依据式(1-11)～(1-13)，计算各主成分对因变量Y的解释能力；

记ρ²(x_j；t_h)是主成分t_h与自变量x_j的简单相关系数的平方，t_h对自变量系统X的解释能力:

Rd(x_j；t_h)＝ρ²(x_j；t_h)

(1-14)

$\mathrm{Rd}(X;t_h)=\frac{1}{p}{\mathrm{\&Sigma;}}_{j=1}^p\mathrm{Rd}(x_j;t_h)---(1-15)$

t₁，t₂，...，t_m对自变量系统X的累计解释能力

$\mathrm{Rd}(X;t_1,t_2,...t_m)={\mathrm{\&Sigma;}}_{h=1}^m\mathrm{Rd}(X;t_h)---(1-16)$

依据式(1-14)～(1-16)计算各主成分对自变量X的解释能力。

上述步骤(5)中主成分个数的确定如下：

分别绘制主成分和主成分对因变量Y解释能力总信息及自变量X解释能力总信息柱状图，找出Rd_h(Cum)≥85％时，两者的主成分个数，然后对其两者取主成分个数交集，这样不仅保证了主成分对因变量Y有较好的解释能力，而且也保证了主成分对自变量X的具有较好的解释能力。

上述步骤(6)中根据主成分个数，建立回归预测方程如下：

①建立F₀关于主成分t₁，t₂，...，t_m的多元线性回归方程

$F_0=t_1{r}_1^T+t_2{r}_2^T+...t_m{r}_m^T+F_m---(1-17)$

②变换为关于标准化变量的PLS回归方程

将代入方程(1-17)，得F₀关于E₀的PLS回归方程

$F_0=E_0{w}_1^{*}{r}_1^T+E_0{w}_2^{*}{r}_2^T+...E_0{w}_m^{*}{r}_m^T+F_m---(1-18)$

其中， $w_i^{*}={\mathrm{\&Pi;}}_{k=1}^{i=1}(I-w_k{p}_k^T)w_i,i=\mathrm{1,2}...,m,I$ 为单位矩阵。

③还原为关于原始变量的PLS回归方程

将方程(1-18)还原成关于原始变量的PLS回归方程

其中，a_k是矩阵的第k个列向量，a_ki是a_k的第i个分量，i＝1，2，…，m，h＝，2，...q.

本发明的有益效果是：本发明公开了一种基于偏最小二乘回归的疏浚作业产量预测模型建立方法，采取一种先进的多元回归分析方法，通过将自变量和因变量的高维数据空间投影到相应的低维特征空间，分别得到自变量与因变量的相互正交的特征向量，再建立自变量和因变量的特征向量间的线性回归关系。它在选取特征向量时强调自变量对因变量的解释和预测作用，去除了对回归无益的噪声的影响，使模型包含最小的变量数，因而其模型具有较好的鲁棒性和预测的稳定性。可为疏浚作业产量的优化研究打下理论基础，达到高效率、高产量、低能耗的目的，对挖泥船进行产量预测具有重要意义。

附图说明

图1是本发明的基于偏最小二乘回归的疏浚作业产量预测模型建立流程图；

图2是本发明的偏最小二乘法提取主成分流程图。

具体实施方式

为使本发明实现的技术方案、技术特征、达成目的与功效易于明白了解，下面结合具体实施例和附图，进一步阐述本发明。

根据图1，本发明的模型建立方法步骤为：收集相关数据确定分析变量，获得样本数据，对样本矩阵进行标准化处理，对因变量与自变量高维数据进行降维(构建矩阵和)，提取自变量和因变量相互正交的的特征向量(即主成分)，最后建立因变量和自变量特征向量线性回归关系(回归预测方程)。

根据图2，本发明的偏最小二乘法提取主成分流程为：收集数据确定因变量与自变量，对因变量和自变量的样本矩阵进行标准化处理，构建矩阵和计算残差矩阵，依次求出其它主成分，求主成分对因变量和自变量解释能力，确定主成分个数，并赋予实际含义。

PLS建模准则是把主成分分析准则和主成分回归准则相结合而形成一个新的残差平方和指标。其被广泛应用的准则函数为：

$J=\underset{\left|\right|w\left|\right|=1,\left|\right|c\left|\right|=1}{\max }\mathrm{cov}(u_i,t_i)=\underset{\left|\right|w\left|\right|=1,\left|\right|c\left|\right|=1}{\max }\sqrt{\mathrm{Var}\left(u_i\right)\mathrm{Var}\left(t_i\right)}\mathrm{Corr}(u_i,t_i)$

注：式中称w为模型效应权重，c为因变量权重，u_i，t_i分别为因变量与自变量的主成分。(i＝1，2，...m)。

建立绞吸式挖泥船产量预测模型

(1)绞吸式挖泥船产量影响因素具有众多参数变量，首先收集数据资料，确定分析变量。绞吸式挖泥船产量影响因素如表1所示。产量为一维因变量Y。

表1绞吸式挖泥船产量影响因素

(2)对原始数据进行标准化

原始数据进行标准化的目的是为了消除由于量纲的不同可能带来的一些不合理的影响。

根据(1-1)和(1-2)式分别对产量因变量Y和产量影响因素X进行数据标准化后可得因变量为Y′，自变量为X′。其数据矩阵为：

$x^{\&prime;}={\left(x_{\mathrm{ij}}^{\&prime;}\right)}_{n\&times;13}=(x_1^{\&prime;},x_2^{\&prime;},...x_{13}^{\&prime;})$ 和 $Y^{\&prime;}={\left(y_{\mathrm{ij}}^{\&prime;}\right)}_{n\&times;1}=\left(y_1^{\&prime;}\right)$

(3)提取主成分

令求矩阵的最大特征值所对应单位特征向量w₁，得自变量的第1个主成分。

t₁＝E₀w₁

求矩阵的最大特征值所对应单位特征向量c₁，得因变量的第1个主成分。

u₁＝F₀c₁

再按照式(1-3)～(1-8)的方法，依次求出自变量及因变量的其他主成分t_h和u_h(h＝1，2，...，m，m＜＜rank(E₀))。

(4)分别计算主成分对因变量及自变量得解释能力

依据式(1-13)～(1-15)，计算各主成分对产量因变量Y的解释能力，其结果如表2所示。

表2主成分对产量变量Y的解释能力

依据式(1-16)～(1-18)计算各主成分对能产量响因素X的解释能力，其结果如表3所示。

表3主成分对产量影响因素X的解释能力

(5)确定主成分个数

分别绘制主成分和主成分对产量因变量Y解释能力总信息及产量影响因素X解释能力总信息柱状图。找出Rd_h(Cum)≥85％时，两者的主成分个数，然后对其两者取主成分个数交集，这样不仅保证了主成分对产量因变量Y有较好的解释能力，而且也保证了主成分对产量影响因素X的具有较好的解释能力。

(6)根据主成分个数，建立绞吸式挖泥船产量预测模型

其中，k为所确定主成分个数，X_i为所确定影响绞吸式挖泥船产量影响因素主成分，a_i为主成分系数，b为常数。

以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (8)

1.基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，包括以下步骤: 

步骤(1)：收集影响疏浚作业产量因素变量的数据资料，确定p个分析变量，列出因变量与自变量样本矩阵；其中，p为正整数； 

步骤(2)：对样本矩阵进行标准化处理； 

步骤(3)：根据标准样本矩阵，提取主成分； 

步骤(4)：根据提取主成分终止判断准则，依次计算出主成分对自变量、因变量信息的解释能力； 

步骤(5)：确定主成分个数； 

步骤(6)：根据主成分个数，建立回归预测方程。 

2.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，所述步骤(1)中的样本矩阵如下： 

设对p个自变量x₁，x₂，…x_p和q个因变量y₁，y₂，…y_q行了n次观测，分别记自变量与因变量的“样本点×变量”型的数据矩阵为： 

X＝(x_ij)_n×p＝(x₁，x₂，...x_p)，i＝1，２...，n；j＝１，２，...p 

Y＝(y_ij)_n×q＝(y₁，y₂，...y_q)，i＝１，２...，n；j＝１，２，...q。 

3.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，所述步骤(2)中矩阵标准化处理过程如下： 

记标准化后的数据矩阵为： 

Ｅ₀＝（e_ij)_n×p和F₀＝(f_ij)_n×q

其中

(1-1) 

(1-2) 

式中(1-1)和式中(1-2)中，分别为矩阵X与Y的第j列数据的平均值，sx_j，sy_j为矩阵X与Y的第j列数据的标准差。 

4.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，步骤(3)中主成分提取的计算步骤如下： 

①第一轮主成分提取 

求矩阵的最大特征值所对应单位特征向量w₁，得自变量的第一个主成分，i₁＝E₀w₁

求矩阵的最大特征值所对应单位特征向量c₁，得因变量的第一个主成分， 

u1＝F₀c₁

求残差矩阵 

式中(1-3)中式中(1-4)中

②新一轮主成分提取 

令E₀＝E₁，F₀＝F₁，对残差矩阵进行新一轮的主成分提取 

设第h步的计算结果为 

t_h＝E_h-1w_h  (1-5) 

u_h＝F_h-1c_h  (1-6) 

式(1-5)～(1-8)中，。

5.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，所述步骤(4)中的提取主成分终止判断准则采用复测定系数准则， 

由统计量 

评价自变量系统的前h个主成分是否对因变量Y系统有足够的解释能力； 

复测定系数度量的是由前h个主成分构建的回归方程能够解释的变异信息量占总变异的百分比，当h＝m且复测定系数的值足够大时，可在第m步终止主成分提取计算，其中

在复测定系数的应用中，参考统计量 

值的大小，度量的是自变量X系统被提取的变异信息量。 

6.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，所述步骤(4)中主成分对自变量、因变量信息的解释能力的计算过程如下： 

记ρ²(y_j；t_h)是主成分t_h与因变量y_j的简单相关系数的平方，t_h对因变量系统Y的解释能力: 

Rd(y_j；t_h)＝ρ²(y_j；t_h) 

(1-11) 

t₁，t₂，...，t_m对因变量系统Y的累计解释能力: 

依据式(1-11)～(1-13)，计算各主成分对因变量Y的解释能力； 

记ρ²(x_j；t_h)是主成分t_h与自变量x_j的简单相关系数的平方，t_h对自变量系统X的解释能力: 

Rd(x_j；t_h)＝ρ²(x_j；t_h) 

(1-14) 

t₁，t₂，...，t_m对自变量系统X的累计解释能力 

依据式(1-14)～(1-16)计算各主成分对自变量X的解释能力。 

7.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于所述步骤(5)中主成分个数的确定如下： 

分别绘制主成分和主成分对因变量Y解释能力总信息及自变量X解释能力总信息柱状图，找出Rd_h(Cum)≥85％时，两者的主成分个数，然后对其两者取主成分个数交集。 

8.根据权利要求1所述的基于偏最小二乘回归的疏浚作业产量预测模型建立方法，其特征在于，所述步骤(6)中根据主成分个数，建立回归预测方程过程如下： 

①建立F₀关于主成分t₁，t₂，...，t_m的多元线性回归方程 

②变换为关于标准化变量的PLS回归方程 

将代入方程(1-17)，得F₀关于E₀的PLS回归方程 

其中，为单位矩阵。 

③还原为关于原始变量的PLS回归方程 

将方程(1-18)还原成关于原始变量的PLS回归方程 

其中，a_k是矩阵的第k个列向量，a_ki是a_k的第i个分量，i＝1，2，…，m，k二1，2，...，q。