CN105786761A - 输入非线性有色噪声系统的极大似然牛顿迭代辨识算法 - Google Patents

Abstract

本发明公开了一种输入非线性有色噪声系统的极大似然牛顿迭代辨识算法，包括构建出极大似然牛顿迭代估计算法流程、根据极大似然牛顿迭代估计算法流程构建出极大似然牛顿迭代估计算法，本发明方法简便、可靠。

Description

输入非线性有色噪声系统的极大似然牛顿迭代辨识算法

技术领域

本发明涉及一种输入非线性有色噪声系统的极大似然牛顿迭代辨识算法。

背景技术

非线性特性在实际工业过程处处存在，非线性系统的建模和参数辨识受到广泛关注。输入非线性系统是一类典型的块结构非线性系统，它的结构由一个无记忆非线性环节串联一个线性动态环节构成。输入非线性系统是一类极其典型的非线性系统，广泛存在于石油、热工、化工等流程工业过程中，例如执行机构的饱和非线性特性：阀的开度与流量的关系等。

输入非线性有色噪声系统指系统中的噪声的参数辨识由于涉及到动态线性过程的未知参数、静态非线性过程的未知参数、以及噪声模型的未知参数，因此辨识存在很大困难。目前输入非线性有色系统的辨识方法可以大致分为两类：参数模型方法和非参数模型方法，其中非参数模型方法认为系统的线性环节是有限脉冲响应模型。

极大似然辨识方法是一类非常重要的参数辨识方法，与最小二乘法不同，它的基本思想是以观测数据和待辨识的未知参数为自变量构造似然函数，参数的估计值通过极大化这个似然函数获得。由于似然函数往往是非线性函数，必须采用非线性优化方法来求解。

牛顿优化方法是一种有用的非线性优化方法，其基本思想是利用目标函数的二次展开，并将其极小化。牛顿优化方法在求解非线性方程及非线性优化等方面具有重要作用。迭代辨识技术采用一批数据来获得参数估计，能够充分利用数据信息，辨识精度高，适用于辨识模型信息向量中含有未知项的辨识。

发明内容

本发明的目的在于提供一种方法简便、可靠的输入非线性有色噪声系统的极大似然牛顿迭代辨识算法。

本发明的技术解决方案是：

一种输入非线性有色噪声系统的极大似然牛顿迭代辨识算法，其特征是：包括下列步骤：

(1)构建出极大似然牛顿迭代估计算法流程：

第一步：启动算法对t进行初始化，初始值为1，并选取L值；

第二步：采集{u(i)，y(i)：i＝(t-1)L+1，…，tL}；

第三步：对迭代次数k初始化，初始值为1；

第四步：构造

第五步：刷新所估参数

第六步：计算和并构造

第七步：执行判断语句若不满足判断语句则k值加1，并返回至第四步继续算法，若满足判断语句则执行第八步；

第八步：得到估计值

第九步：t值加1，重复上述步骤；

上述各符号的含义：

噪声项：w(t)；零均值、方差为σ²且满足高斯分布的白噪声：υ(t)；参数向量：Θ和θ；信息向量：φ(t)，和ψ(t)；滤波信息向量：φ_f，k(t)；参数向量Θ和θ在第k次迭代时刻的参数估计：和信息向量φ(t)，和ψ(t)在第k次迭代时刻的估计值：和

(2)根据极大似然牛顿迭代估计算法流程构建出极大似然牛顿迭代估计算法如下：

$\begin{array}{c}{\widehat{\mathrm{\Θ}}}_k\left(t\right)={\widehat{\mathrm{\Θ}}}_{k-1}\left(t\right)+{\[{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)\]}^{-1}\\ \×{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\hat{V}}_{k-1}\left(t\right),\end{array}---\left(27\right)$

$\begin{array}{c}{\hat{V}}_k\left(t\right)=\[{\hat{v}}_k\left(\right(t-1)L+1),\\ {\hat{v}}_k\left(\right(t-1)L+2),\mathrm{...},{\hat{v}}_k\left(tL\right){\]}^T,\end{array}---\left(28\right)$

$\begin{array}{c}{\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)=\[{\widehat{\mathrm{\Φ}}}_{f,k}\left(\right(t-1)L+1),\\ {\widehat{\mathrm{\Φ}}}_{f,k}\left(\right(t-1)L+2),\mathrm{...},{\widehat{\mathrm{\Φ}}}_{f,k}\left(tL\right){\]}^T,\end{array}---\left(29\right)$

${\hat{v}}_k(t-i)={\hat{w}}_k(t-i)-{\widehat{\mathrm{\ψ}}}_k^T(t-i){\hat{c}}_k\left(t\right),---\left(30\right)$

$\begin{array}{c}{\widehat{\mathrm{\ψ}}}_k\left(t\right)=\[-{\hat{w}}_{k-1}(t-1),-{\hat{w}}_{k-1}(t-2),\\ \mathrm{...},-{\hat{w}}_{k-1}(t-n_c){\]}^T,\end{array}---\left(33\right)$

$\begin{array}{c}{\widehat{\mathrm{\ψ}}}_{f,k}\left(j\right)=\[-y(j-1)-\underset{i=1}{\overset{n_a}{\Σ}}{\hat{a}}_{i,k-1}\left(t\right)y(j-1-i)\]\\ -\underset{i=0}{\overset{n_b}{\Σ}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}(j-1-i),\mathrm{...},\\ -y(j-n_c)-\underset{i=1}{\overset{n_a}{\Σ}}{\hat{a}}_{i,k-1}\left(t\right)y(j-n_c-i)\\ +\underset{i=0}{\overset{n_b}{\Σ}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}(j-n_c-i){\]}^T,\end{array}---\left(36\right)$

$\begin{array}{c}{\widehat{\stackrel{\‾}{u}}}_k\left(t\right)={\widehat{\mathrm{\γ}}}_{1,k}\left(t\right)f_1\left(u\right(t\left)\right)+{\widehat{\mathrm{\γ}}}_{2,k}\left(t\right)f_2\left(u\right(t\left)\right)\\ +\mathrm{...}+{\widehat{\mathrm{\γ}}}_{m,k}\left(t\right)f_m\left(u\right(t\left)\right),\end{array}---\left(37\right)$

$\begin{array}{c}{\hat{C}}_k\left(z\right)=1+{\hat{c}}_{1,k}\left(t\right)z^{-1}+{\hat{c}}_{2,k}\left(t\right)z^{-2}\\ +\mathrm{...}+{\hat{c}}_{n_c,k}\left(t\right)z^{-n_c}.\end{array}---\left(38\right)$

上述算法符号的含义：

w(t)作为噪声项；

υ(t)是一个零均值、方差为σ²且满足高斯分布的白噪声；

Θ和θ作为参数向量；

φ(t)，和ψ(t)作为信息向量；

φ_f，k(t)作为滤波信息向量；

和分别作为参数向量Θ和θ在第k次迭代时刻的参数估计；

和分别作为信息向量φ(t)，和ψ(t)在第k次迭代时刻的估计值；

上述算法的具体步骤：

1)令t＝1，设置初始值p₀＝10⁶，设置一个极小的值ε＞0，令数据长度为L；

2)收集输入-输出数据{u(i)，y(i)：i＝(t-1)L+1，…，tL}；

3)令迭代次数为k＝1，并设置

${\widehat{\stackrel{\‾}{u}}}_0(t-i)=1/p_0,i=1,2,\mathrm{...},\max \[n_a,n_b,n_c\];$

4)分别通过式(35)、(36)计算和并分别通过式(34)、(29)、(28)构造以及

5)通过式(27)刷新参数估计

6)分别通过式(32)、(33)构造和再分别通过式(31)、(30)计算和

7)通过式(38)构造在通过式(37)计算

8)将与进行比较，如果那么k值加1，并返回步骤4)重新开始执行算法，反之，则得到第k次迭代时刻的估计并令

9)t值增加1，并重述上述算法。

本发明方法简便、可靠、便于应用。

附图说明

下面结合附图和实施例对本发明作进一步说明。

图1是极大似然牛顿迭代估计算法流程图(ml-ni流程图)。

具体实施方式

一种输入非线性有色噪声系统的极大似然牛顿迭代辨识算法，包括下列步骤：

(1)构建出极大似然牛顿迭代估计算法流程：

第一步：启动算法对t进行初始化，初始值为1，并选取L值；

第二步：采集{u(i)，y(i)：i＝(t-1)L＋1，…，tL}；

第三步：对迭代次数k初始化，初始值为1；

第四步：构造

第五步：刷新所估参数

第六步：计算和并构造

第七步：执行判断语句若不满足判断语句则k值加1，并返回至第四步继续算法，若满足判断语句则执行第八步；

第八步：得到估计值

第九步：t值加1，重复上述步骤；

上述各符号的含义：

噪声项：w(t)；零均值、方差为σ²且满足高斯分布的白噪声：υ(t)；参数向量：Θ和θ；信息向量：φ(t)，和ψ(t)；滤波信息向量：φ_f，k(t)；参数向量Θ和θ在第k次迭代时刻的参数估计：和信息向量φ(t)，和ψ(t)在第k次迭代时刻的估计值：和

(2)根据极大似然牛顿迭代估计算法流程构建出极大似然牛顿迭代估计算法如下：

$\begin{array}{c}{\widehat{\mathrm{\Θ}}}_k\left(t\right)={\widehat{\mathrm{\Θ}}}_{k-1}\left(t\right)+{\[{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)\]}^{-1}\\ \×{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\hat{V}}_{k-1}\left(t\right),\end{array}---\left(27\right)$

$\begin{array}{c}{\hat{V}}_k\left(t\right)=\[{\hat{v}}_k\left(\right(t-1)L+1),\\ {\hat{v}}_k\left(\right(t-1)L+2),\mathrm{...},{\hat{v}}_k\left(tL\right){\]}^T,\end{array}---\left(28\right)$

$\begin{array}{c}{\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)=\[{\widehat{\mathrm{\Φ}}}_{f,k}\left(\right(t-1)L+1),\\ {\widehat{\mathrm{\Φ}}}_{f,k}\left(\right(t-1)L+2),\mathrm{...},{\widehat{\mathrm{\Φ}}}_{f,k}\left(tL\right){\]}^T,\end{array}---\left(29\right)$

${\hat{v}}_k(t-i)={\hat{w}}_k(t-i)-{\widehat{\mathrm{\ψ}}}_k^T(t-i){\hat{c}}_k\left(t\right),---\left(30\right)$

$\begin{array}{c}{\widehat{\mathrm{\ψ}}}_k\left(t\right)=\[-{\hat{w}}_{k-1}(t-1),-{\hat{w}}_{k-1}(t-2),\\ \mathrm{...},-{\hat{w}}_{k-1}(t-n_c){\]}^T,\end{array}---\left(33\right)$

$\begin{array}{c}{\widehat{\mathrm{\ψ}}}_{f,k}\left(j\right)=\[-y(j-1)-\underset{i=1}{\overset{n_a}{\Σ}}{\hat{a}}_{i,k-1}\left(t\right)y(j-1-i)\]\\ -\underset{i=0}{\overset{n_b}{\Σ}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}(j-1-i),\mathrm{...},\\ -y(j-n_c)-\underset{i=1}{\overset{n_a}{\Σ}}{\hat{a}}_{i,k-1}\left(t\right)y(j-n_c-i)\\ +\underset{i=0}{\overset{n_b}{\Σ}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}(j-n_c-i){\]}^T,\end{array}---\left(36\right)$

$\begin{array}{c}{\widehat{\stackrel{\‾}{u}}}_k\left(t\right)={\widehat{\mathrm{\γ}}}_{1,k}\left(t\right)f_1\left(u\right(t\left)\right)+{\widehat{\mathrm{\γ}}}_{2,k}\left(t\right)f_2\left(u\right(t\left)\right)\\ +\mathrm{...}+{\widehat{\mathrm{\γ}}}_{m,k}\left(t\right)f_m\left(u\right(t\left)\right),\end{array}---\left(37\right)$

$\begin{array}{c}{\hat{C}}_k\left(z\right)=1+{\hat{c}}_{1,k}\left(t\right)z^{-1}+{\hat{c}}_{2,k}\left(t\right)z^{-2}\\ +\mathrm{...}+{\hat{c}}_{n_c,k}\left(t\right)z^{-n_c}.\end{array}---\left(38\right)$

上述算法符号的含义：

w(t)作为噪声项；

υ(t)是一个零均值、方差为σ²且满足高斯分布的白噪声；

Θ和θ作为参数向量；

φ(t)，和ψ(t)作为信息向量；

φ_f，k(t)作为滤波信息向量；

和分别作为参数向量Θ和θ在第k次迭代时刻的参数估计；

和分别作为信息向量φ(t)，和ψ(t)在第k次迭代时刻的估计值；

上述算法的具体步骤：

4)令t＝1，设置初始值p₀＝10⁶，设置一个极小的值ε＞0，令数据长度为L；

5)收集输入-输出数据{u(i)，y(i)：i＝(t-1)L+1，…，tL}；

6)令迭代次数为k＝1，并设置

${\widehat{\stackrel{\‾}{u}}}_0(t-i)=1/p_0,i=1,2,\mathrm{...},\max \[n_a,n_b,n_c\];$

4)分别通过式(35)、(36)计算和并分别通过式(34)、(29)、(28)构造以及

5)通过式(27)刷新参数估计

6)分别通过式(32)、(33)构造和再分别通过式(31)、(30)计算和

7)通过式(38)构造在通过式(37)计算

8)将与进行比较，如果那么k值加1，并返回步骤4)重新开始执行算法，反之，则得到第k次迭代时刻的估计并令

9)t值增加1，并重述上述算法。

Claims (1)

1.一种输入非线性有色噪声系统的极大似然牛顿迭代辨识算法，其特征是：包括下列步骤：

(1)构建出极大似然牛顿迭代估计算法流程：

第一步：启动算法对t进行初始化，初始值为1，并选取L值；

第二步：采集{u(i)，y(i)：i＝(t-1)L+1，…，tL}；

第三步：对迭代次数k初始化，初始值为1；

第四步：构造

第五步：刷新所估参数

第六步：计算和并构造

第七步：执行判断语句若不满足判断语句则k值加1，并返回至第四步继续算法，若满足判断语句则执行第八步；

第八步：得到估计值

第九步：t值加1，重复上述步骤；

上述各符号的含义：

噪声项：ω(t)；零均值、方差为σ²且满足高斯分布的白噪声：ν(t)；参数向量：Θ和θ；信息向量：φ(t)，和ψ(t)；滤波信息向量：φ_f，k参数向量Θ和θ在第k次迭代时刻的参数估计：和信息向量φ(t)和ψ(t)在第k次迭代时刻的估计值：

(2)根据极大似然牛顿迭代估计算法流程构建出极大似然牛顿迭代估计算法如下：

$\begin{array}{c}{\widehat{\mathrm{\Θ}}}_k\left(t\right)={\widehat{\mathrm{\Θ}}}_{k-1}\left(t\right)+{\[{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)\]}^{-1}\\ \×{\widehat{\mathrm{\Φ}}}_{f,k}^T\left(t\right){\hat{V}}_{k-1}\left(t\right),\end{array}---\left(27\right)$

$\begin{array}{c}{\hat{V}}_k\left(t\right)=\[{\hat{v}}_k\left(\right(t-1)L+1),\\ {\hat{v}}_k\left(\left(t-1\right)L+2\right),...,{\hat{v}}_k\left(tL\right){\]}^T,\end{array}---\left(28\right)$

$\begin{array}{c}{\widehat{\mathrm{\Φ}}}_{f,k}\left(t\right)=\[{\widehat{\mathrm{\φ}}}_{f,k}\left(\left(t-1\right)L+1\right),\\ {\widehat{\mathrm{\φ}}}_{f,k}\left(\left(t-1\right)L+2\right),...,{\widehat{\mathrm{\φ}}}_{f,k}\left(tL\right){\]}^T,\end{array}---\left(29\right)$

${\hat{v}}_k\left(t-i\right)={\hat{w}}_k\left(t-i\right)-{\widehat{\mathrm{\ψ}}}_k^T\left(t-i\right){\hat{c}}_k\left(t\right),---\left(30\right)$

$\begin{array}{c}{\widehat{\mathrm{\ψ}}}_k\left(t\right)=\[-{\hat{w}}_{k-1}\left(t-1\right),-{\hat{w}}_{k-1}\left(t-2\right),\\ ...,-{\hat{w}}_{k-1}\left(t-n_c\right){\]}^T,\end{array}---\left(33\right)$

${\widehat{\mathrm{\ψ}}}_{f,k}\left(j\right)=\[-y\left(j-1\right)-\underset{i=1}{\overset{n_a}{\Σ}}{\hat{a}}_{i,k-1}\left(t\right)y(j-1-i)$

$\begin{array}{c}+\underset{i=0}{\overset{n_b}{\mathrm{\Σ}}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}\left(j-1-i\right),...,\\ -y\left(j-n_c\right)-\underset{i=1}{\overset{n_a}{\mathrm{\Σ}}}{\hat{a}}_{i,k-1}\left(t\right)y\left(j-n_c-i\right)\\ +\underset{i=0}{\overset{n_b}{\mathrm{\Σ}}}{\hat{b}}_{i,k-1}\left(t\right){\widehat{\stackrel{\‾}{u}}}_{k-1}\left(j-n_c-i\right){\]}^T,\end{array}---\left(36\right)$

$\begin{array}{c}{\widehat{\stackrel{\‾}{u}}}_k\left(t\right)={\widehat{\mathrm{\γ}}}_{1,k}\left(t\right)f_1\left(u\left(t\right)\right)+{\widehat{\mathrm{\γ}}}_{2,k}\left(t\right)f_2\left(u\left(t\right)\right)\\ +...+{\widehat{\mathrm{\γ}}}_{m,k}\left(t\right)f_m\left(u\left(t\right)\right),\end{array}---\left(37\right)$

$\begin{array}{c}{\hat{C}}_k\left(z\right)=1+{\hat{c}}_{1,k}\left(t\right)z^{-1}+{\hat{c}}_{2,k}\left(t\right)z^{-2}\\ +...+{\hat{c}}_{n_c,k}\left(t\right)z^{-n_c}.\end{array}---\left(38\right)$

上述算法符号的含义：

w(t)作为噪声项；

u(t)是一个零均值、方差为σ²且满足高斯分布的白噪声；

Θ和θ作为参数向量；

φ(t)，和ψ(t)作为信息向量；

φ_f，k(t)作为滤波信息向量；

和分别作为参数向量Θ和θ在第k次迭代时刻的参数估计；

和分别作为信息向量φ(t)，和ψ(t)在第k次迭代时刻的估计值；

上述算法的具体步骤：

1)令t＝1，设置初始值p₀＝10⁶设置一个极小的值ε＞0令数据长度为L；

2)收集输入-输出数据{u(i)，y(i)：i＝(t-1)L+1，…，tL}；

3)令迭代次数为k＝1，并设置

${\widehat{\stackrel{\‾}{u}}}_0(t-i)=1/p_0,i=1,2,...,max\[n_a,n_b,n_c\];$

4)分别通过式(35)、(36)计算和并分别通过式(34)、(29)、(28)构造以及

5)通过式(27)刷新参数估计

6)分别通过式(32)、(33)构造和再分别通过式(31)、(30)计算和

7)通过式(38)构造在通过式(37)计算

8)将与进行比较，如果那么k值加1，并返回步骤4)重新开始执行算法，反之，则得到第k次迭代时刻的估计并令

9)t值增加1，并重述上述算法。