CN107967395A - 一种基于beta小波基函数展开的时变非线性系统快速辨识方法 - Google Patents

Abstract

本发明提出一种基于beta小波基函数展开的时变非线性系统快速辨识方法。如图1所示流程，该方法首先建立时变非线性模型，通过FPE定阶准则确定模型最优阶次；随后利用beta小波基函数对模型时变参数进行展开，得到基于beta小波展开的时不变参数模型；然后采用正交前向回归算法选取模型有效项，结合APRESS交叉验证标准确定模型有效项数量，并估计相应时不变参数，建立稀疏模型结构；最后逆向求解得到稀疏模型的时变参数。本发明提出的方法与现有的基于主B样条多小波基函数展开的时变参数辨识方法相比，能有效降低辨识过程的时间复杂度，提高稀疏模型的辨识精度，为时变非线性系统的快速辨识分析提供了新的思路与理论框架。

Description

一种基于beta小波基函数展开的时变非线性系统快速辨识 方法

技术领域

本发明提出一种基于beta小波基函数展开的时变非线性系统快速辨识算法，它为时变非线性系统参数建模提供了新的解决方案，属于信号分析与处理技术领域。

背景技术

时变系统在目前的科学研究和工程实践中广泛存在，通过对时变系统建立有效的数学模型可以解决时变系统的辨识问题。时变参数建模方法是非平稳系统分析的主要研究方法，具体可以分为以下三种建模思路：第一种思路是利用有限个一定长度的滑动时间区间将时变信号划分成若干个信号片段，在每个区间内将信号片段视为平稳信号进行处理，该类方法中，时变信号的辨识结果往往受到时间区间长度划分限制，而且对于不同时变系统很难给出一个统一的时间窗口划分标准，因此该方法在普适性上存在很大的局限；第二种思路是采用经典自适应算法，即将模型中时变参数作为随机变量进行处理，此类方法主要包括最小均方算法(least-mean squares,LMS)和递归最小二乘法(recursive leastsquares,RLS)等，虽然此类算法存在计算量小、稳定度高的优点，但对于参数变化快速的时变信号，此类方法因其收敛速度慢，往往无法准确捕捉快速时变信号的瞬时信号特征；第三种思路采用基函数扩展法建立时变参数模型，即将时变参数表示为一组已知基函数的线性加权组合，从而将时变参数求解问题转化为时不变参数系统的结构辨识及参数估计问题，并利用时不变参数模型稀疏算法得到系统的稀疏模型结构及相应时不变参数，进而通过逆向求解得到初始系统的时变参数。该类方法能够利用基函数良好的逼近能力，快速跟踪时变系统。

然而，在利用基函数扩展法建立时变系统模型过程中，往往需要根据不同基函数的逼近特性，针对不同的时变信号特点选择不同的基函数进行逼近，例如傅里叶基函数和勒让德多项式基函数适用于时变系统变化较为平缓的时变参数辨识问题，而小波基函数以其绝佳的线性及非线性逼近特性，可以同时辨识平滑及变化剧烈的时变系统，因而在非平稳系统辨识问题中得到广泛应用。以小波为基函数的扩展方法中，目前应用较多的是基于主B样条小波的多小波基函数扩展法，由于单阶次主B样条小波的波型结构较为单调，往往不能单独作为基函数对复杂时变参数进行扩展，因此实际应用时需要采用多个阶次的主B样条小波组成多小波族对复杂时变系统进行展开，一方面增加了基函数的数量，提高了模型的计算复杂度和结构复杂度，另一方面使得扩展后的模型中存在大量冗余项，对于后续的模型稀疏过程造成了极大的挑战，容易引起模型过拟合，进而影响稀疏模型的时变系统辨识精度。

本发明首次引入波形结构多元化的beta小波作为基函数进行时变参数展开，beta小波波形与神经脉冲信号波形相似，属单周期波形，其中半个周期内其波形类似于“钟形”，呈现出光滑陡峭的特征，另半个周期内波形则表现的更为平缓。同时beta小波具有一对特征控制参数(α,β)，从而可以根据不同时变信号特点设置不同的最优参数组合，对小波波形进行调节，因此beta小波对于辨识既平滑又变化剧烈的时变系统具有良好的优势。本发明提出的beta小波基函数扩展法不同于先前研究中的基于多阶主B样条小波的多小波基函数扩展法，引入的beta小波因其波形结构的固有特性，结合不同参数组合便可实现对复杂时变系统的快速辨识。因此利用本发明提出的beta小波基函数扩展法，可以一定程度上减少基函数数量，进而降低扩展模型中冗余项数量，提高模型稀疏算法的有效性与适用范围。相对于模型稀疏过程的优化算法，本发明从根本上解决了扩展后模型冗余项过多的问题，既降低了时变模型的结构复杂度与计算复杂度，又能有效缓解模型稀疏过程的过度拟合问题，提高稀疏模型的辨识精度。

本发明基于beta小波基函数扩展法和经典正交前向回归稀疏算法(OrthogonalForward Regression algorithm,OFR)，提出了一种新的时变非线性系统辨识方法，为简化模型结构，提高时变参数模型辨识精度与计算效率提供了新的解决思路。

发明内容

本发明提供了一种基于beta小波基函数展开的时变非线性系统构造方法，通过采用beta小波基函数的线性加权组合对模型中时变参数进行逼近，将初始模型中时变系统的快速辨识问题转化为展开式模型中有效项的选择和相应时不变参数的估计问题，并利用经典正交前向回归算法对扩展后的时不变参数模型进行有效的模型结构检测，从而得到有效的稀疏模型结构及相应的时不变参数估计，进而逆向求解得到有效的稀疏时变参数模型。其中，beta小波基函数作为一种新型单阶次小波基函数，相比于先前研究中基于多阶次主B样条小波组合的多小波基函数，主要优点为：一方面克服了多小波基函数扩展中由于基函数数量过多导致的冗余项量大问题，另一方面有效提高了模型的辨识精度。根据仿真验证结果显示，本发明提出的beta小波基函数扩展法不仅降低了模型的计算复杂度，而且提高了稀疏模型算法的辨识精度，为时变非线性系统的快速辨识提供了新的思路。

本发明提出的基于beta小波基函数展开的时变非线性系统快速辨识方法所包含的具体步骤如下：

1.时变非线性模型：将系统输出信号和输入信号的非线性组合作为系统模型的输入，构建时变非线性模型；

2.beta小波扩展模型：利用beta小波基函数对时变非线性模型中的时变参数进行线性加权展开，得到beta小波扩展的时不变非线性模型；

3.有效模型结构检测：利用经典正交前向回归算法对beta小波基函数扩展后的时不变参数模型进行有效项选择，去除扩展后时不变模型中的冗余项，建立有效的稀疏模型结构，同时估计相应的时不变参数；

4.模型重构：结合有效的稀疏模型结构及估计的时不变参数结果，通过逆向求解得到初始时变非线性模型的时变参数，并重构稀疏的时变非线性参数模型。

其中，在所述步骤1中，利用FPE(Final Prediction Error criterion)定阶准则确定时变非线性模型最佳阶数。

在所述步骤2中，利用beta小波基函数对非线性模型的时变参数进行扩展，将时变参数表示为一组基函数线性加权形式，进而将初始模型的时变参数辨识问题转化为关于基函数多项式的时不变参数辨识问题。

在所述步骤3中，利用经典OFR算法可以除去扩展后模型中的冗余项，在beta小波基函数扩展的基础上进一步简化模型结构，选取模型有效项，估计相应时不变参数，并利用可调预测误差平方和(adjustable prediction error sum of squares,APRESS)交叉验证准则确定稀疏模型有效项数量，从而建立有效的稀疏模型结构。如前所述，经beta小波基函数扩展后，扩展模型中冗余项数量已经得到降低，即需要稀疏处理的模型备选项已相对减少，但大量建模经验表明，此时扩展模型中仍存在大量的冗余项，需要进一步利用模型稀疏算法简化模型结构。值得注意的是，由于beta小波基函数扩展后的模型备选项相对于多小波基函数扩展明显减少，因此一定程度上缓解了稀疏过程中模型过度拟合的问题。

本发明所提出的基于beta小波基函数展开和正交前向回归算法的时变非线性系统快速辨识方法的优点包括：

1.beta小波波形由两个特征参数控制，其波形形式多样，可根据不同时变系统特点进行调节，适应性好，因而能有效跟踪不同类型的平滑及剧烈变化的复杂时变非线性系统；

2.beta小波基函数展开得到的模型结构简单，一定程度上大大减少了扩展后模型包含的冗余项数量，从而有效降低模型计算复杂度；

3.采用经典OFR算法得到的稀疏模型结构简单，参数估计准确，模型的辨识精度高；

4.模型构建过程简单，计算复杂度低，采用APRESS交叉验证标准，能够有效避免模型的过拟合问题。

附图说明

图1为本发明提出的时变非线性系统辨识方法流程示意图；

图2为针对仿真示例一：时变非线性系统快速辨识结果验证，根据本发明提出的beta小波基函数扩展法得到的时变非线性系统快速辨识结果与现有的主B样条多小波基函数扩展法得到的辨识结果对比；其中，图2(a)为两种基函数扩展法得到的时变参数辨识效果图，图2(b)为两种基函数扩展法所估计的非平稳信号预测输出效果比对图；

图3为针对仿真示例二：时变非线性系统快速辨识结果验证，根据上述两种基函数扩展法得到的辨识结果对比；其中，图3(a)为两种基函数扩展法得到的时变参数跟踪效果图，图3(b)为两种基函数扩展法所估计的非平稳信号预测输出效果比对图；

图4为应用本发明提出的基于beta小波基函数扩展的时变非线性参数建模方法对真实EEG信号的时变非线性系统建模预测输出与真实EEG信号跟踪效果比对图。

具体实施方式

为更好的阐述本发明的具体实施方式，下面结合附图对本发明作进一步的详细阐述。

本发明目的在于提供一种基于beta小波基函数展开的时变非线性系统快速辨识方法，以解决现有的基于主B样条多小波基函数展开方法造成的模型结构复杂及计算复杂度高等问题，即通过减少基函数数量，去除扩展模型中冗余项，提高稀疏模型算法有效性与计算速度，实现模型结构优化，进一步提高小波基函数扩展法的系统辨识精度。

图1展示了本发明提出的时变非线性系统辨识方法的流程示意图，包括：

首先对带外源输入的非平稳信号进行时变非线性系统建模，即用输出信号反馈和输入信号的非线性组合作为模型输入，建立相应的时变非线性模型，并依据FPE模型定阶准则确定模型最优阶次(步骤1)；然后用本发明引入的beta小波基函数对非线性模型的时变参数进行扩展，得到beta小波扩展时不变参数模型(步骤2)；接着利用经典OFR算法选取扩展后模型的有效项，估计相应时不变参数，并依据APRESS交叉验证准则确定有效项数量，从而建立有效的稀疏模型结构(步骤3)；最后通过对稀疏模型结构的逆向求解得到初始时变非线性模型及相应时变参数的基函数线性加权表达式(步骤4)。

下面具体阐述本发明提供的基于beta小波基函数扩展法和OFR算法的时变非线性系统快速辨识方法，其具体步骤包括：

1.时变非线性模型：将系统输出反馈信号和输入信号的非线性组合作为系统输入，构建时变非线性模型。时不变非线性模型表达式如下：

y(t)＝f(y(t-1),…,y(t-p),u(t-1),…,u(t-q))+e(t) (1)

其中，y(t)表示非线性系统输出；y(t-p)和u(t-q)表示输出、输入信号的延迟；p为输出信号的阶次，q为输入信号的阶次；e(t)表示均值为0，方差为的高斯白噪声序列；f(·)表示合适的非线性函数。

对于时变非线性系统可通过时变参数形式表达非线性函数f(·)，即：

其中，为输入、输出回归项的非线性组合向量，θ(t)为相应的时变参数。

记时变非线性模型输入项为x₁(t),x₂(t),…,x_M(t)，则θ(t)的具体表达式如下：

θ(t)＝[θ₁(t),θ₂(t),…,θ_M(t)] (4)

其中，M为时变非线性模型项数。

以二阶非线性时变系统为例，可表示为：

为确定正确的模型阶次(p,q)，本发明采用FPE定阶准则确定模型最优阶次。FPE定阶准则表达式如下：

其中，N为数据样本长度，m为模型项数量，γ为调节参数，(p,q)为模型阶次，为预测方差。

注意依据FPE定阶准则确定模型阶次(p,q)时应按照单一变量原则进行操作，如先取定p，确定q，然后取定q，确定p，如此反复最终确定模型最优阶次。

2.beta小波扩展模型：利用beta小波基函数对时变非线性模型中的时变参数进行线性加权展开，得到基于beta小波扩展的时不变模型；

正如上文所述，因beta小波波形与神经脉冲信号变化相似，既含有适应剧烈变化信号的峰值半波，又含有适应缓慢变化信号的平缓半波，相比于只含有一种波形特征的单阶次主B样条小波，beta小波波形特征更加多元化，能够准确跟踪时变非线性系统，因此本发明引入beta小波基函数代替B样条多小波基函数对非线性模型的时变参数进行扩展。

小波函数与概率分布函数有很强的相关性，beta小波是由beta分布函数转换衍生得到的一组新型紧支撑小波函数，由于beta分布函数的单峰性，其一阶导数生成的beta小波具有单周期的特点。由一组特征控制参数(α,β)得到的beta小波函数为：

其中，为特征常数，为beta小波函数支撑区间长度，为支撑区间。

beta小波函数经过平移转换，可以得到一组在勒贝格空间L²(R)内平方可积的beta小波基函数，如下式所示：

其中，x为定义在闭区间[0,1]上的函数变量，j为伸缩因子，可用来调节基函数尺度大小；k为平移因子，用来调节基函数的具体位置，表示正整数集。

对于给定的伸缩因子j₀，式(7)应满足条件：由此可进一步得到即平移因子k的取值范围。

按上述过程将beta小波函数经过平移变换，便可得到一组特征参数为(α,β)的beta小波基函数通过改变特性参数(α,β)的取值，可得到多组beta小波基函数。

根据小波理论，可将非线性模型中的时变参数表示为一组或多组beta小波基函数的线性加权组合，如下式所示：

其中，i＝1,2,…,M为时变参数个数，为线性加权组合的时不变参数，为beta小波基函数，和为平移因子位置集合,l为beta小波基函数组数。

记一组或多组beta小波基函数组成的集合为:

其中L为集合中基函数的总个数。

则式(8)可简化为：

将式(9)代入式(2)，得到：

记：

X(t)＝[π₁(t)x₁(t),π₂(t)x₁(t),…,π_L(t)x_M(t)]

c＝[c_1,1,c_1,2,…,c_M,L]

则式(10)可表示为：

y(t)＝X(t)c^T+e(t) (11)

该式即为利用beta小波基函数扩展得到的时不变参数模型。

由上述过程可知，利用beta小波基函数展开方法，可以将初始时变非线性系统快速辨识问题转化为时不变展开式模型的稀疏模型结构选择和相应时不变参数的准确估计问题。大量建模经验表明，实际建模过程中一般采用一组或两组beta小波基函数就能够达到很好的系统辨识精度，因此本发明中采用的beta小波基函数数量相对多小波基函数有所减少，进而有效减少了展开后模型中冗余项的数量，从根本上降低了后续稀疏步骤的计算复杂度。

3.有效模型结构检测：利用经典OFR算法对beta小波基函数扩展后的时不变参数模型进行有效项选择，去除时不变模型中的冗余项，建立有效的稀疏模型结构，同时估计相应的时不变模型参数；

如上述步骤2中所述，相对于多小波基函数展开方法得到的时不变参数模型，经beta小波基函数展开得到的时不变模型中，用于模型结构辨识的备选项数量已经减少，这对于提高OFR算法的辨识精度，降低模型稀疏运算复杂度，提高运算速度，同时有效避免模型过拟合和病态问题都具有十分重要的意义。经验表明，上述时不变展开式模型中仍存在大量的冗余项，需要进一步选取模型结构有效项，估计相应时不变参数，进而建立有效的稀疏模型结构。本发明利用经典OFR算法辨识模型有效项，同时估计相应时不变参数，以达到除去模型中的冗余项、建立有效的稀疏模型结构的目的。

OFR算法首先对模型中的备选项X_i(i＝1,2,…,M×L)作正交化处理，得到相应的正交化备选项wi(i＝1,2,…,M×L)。通过采用误差减少率标准(Error Reduction Ratio,ERR)依次挑选模型有效项。ERR表达式如下：

其中，Y为观测信号输出序列，wi为正交化的备选项序列，M_N＝M×L为备选项数，<·,·>表示向量内积。

在有效项选取过程中，每一步都通过比较该步骤中正交化后备选项序列对应的ERR_i值来确定挑选的有效项，例如在第1步挑选中，令wi＝X_i，由式(12)计算得到每一项对应的ERR_i，取{ERR_i}_max对应项为第1步挑选项p₁；在第k步挑选中，以之前选取得到的k-1项{p₁,p₂,…,p_k-1}作为正交基对余下的备选项{X_i:i＝1,2,…,M_N}\{p₁,p₂,…,p_k-1}进行正交化，并计算剩余备选项对应的ERR值，挑选{ERR}_max对应的备选项作为第k个有效项p_k。由式(12)可知，ERR标准是通过衡量正交后备选项与初始输出序列的相关程度选择有效项，即优先选择每一步中相关性最高的项为该步所得有效项。

本发明采用APRESS交叉验证标准确定OFR算法中选取的有效项数目。广义交叉验证因其在避免模型过拟合方面的有效性而被广泛采用，APRESS交叉验证标准是在PRESS标准的基础上加入可调节因子得到，其定义式如下：

其中，m为模型项数量，σ为调节因子，MSE[m]为平均误差平方和。

完成有效项的选取后，根据选取所得的模型有效项{p₁,p₂,…,p_m}(m<M_N)，利用广义线性拟合算法估计有效项对应时不变参数{η₁,η₂,…,η_m}。

4.模型重构：结合稀疏模型结构的有效项和估计得到的时不变参数，通过逆向求解得到初始非线性模型的时变参数，并重构稀疏的时变非线性参数模型。

根据步骤3中选取得到的有效项和对应时不变参数，分别与式(10)中的备选项{π_n(t)x_i(t)}和时不变参数{c_i,n}相匹配，逆向求解得到稀疏模型的时不变展开式参数。将估计出的时不变参数代入式(2)，即可得到时变非线性系统的稀疏模型。

为衡量时变非线性系统辨识效果，本发明采用三种衡量标准进行评价：平均绝对误差(Mean Absolute Error,MAE)，归一化根均方误差(normalized Root Mean SquaredError,RMSE)和标准偏差(Standard deviations,Std)。上述标准的具体表达式如下：

其中，为模型预测输出，y(t)为样本观测值，N为样本序列长度。

由上式可见，计算得出的MAE、RMSE、Std越小，说明模型辨识精度越高，所辨识的时变非线性模型性能越好。

下面基于两个非线性仿真算例验证本发明提出的基于beta小波基函数扩展法的时变非线性系统辨识精度，并与现有的B样条多小波基函数扩展法的辨识方法进行辨识效果对比：

仿真示例1构建时变非线性系统：

y(t)＝a₁(t)y(t-1)+a₂(t)y(t-1)y(t-2)+b₁(t)u(t-1)

+b₂(t)u(t-1)u(t-2)+e(t) (17)

时变参数为：

a₂(t)＝0.4cos(4πt/N),1≤t≤N

b₂(t)＝0.7,1≤t≤N

其中，样本序列长度N＝512，模型输入u(t)是伪随机二进制序列，e(t)是均值为0、方差为0.01的高斯白噪声。

按上述仿真模型所得信号声噪比约为20dB，分别采用本发明提出的beta小波基函数展开法和现有的B样条多小波基函数展开法构建时变非线性模型，大量建模实验表明，组合多小波B样条基函数的3、4、5阶能够取得较好的参数辨识结果，因而本发明中，根据模型性能评估标准式(13),(14)及式(15)，采用3～5阶B样条函数组合，对时变非线性系统进行辨识。beta小波基函数控制参数选择{(α₁＝3,β₁＝7),(α₂＝5,β₂＝6)}组合，取得较好的辨识结果。按照APRESS交叉验证标准得到有效模型项为80项，将两种方法得到的时变参数估计效果如图2(a)所示，将两种基函数辨识方法得到的预测输出与真实输出效果图展示在图2(b)中，并将时变参数辨识精度对比结果列示在表1中。

表1仿真算例1的时变非线性系统辨识精度对比

仿真示例2

为了进一步验证本发明中提出方法的有效性，考虑具有有色噪声的非线性时变系统：

时变参数分别为：

a₂(t)＝-0.05+0.5cos(4πt/N),1≤t≤N

输入u(t)为：

其中，样本序列长度N＝1000，v(t)是均值为0、方差为1的高斯分布序列；e(t)是均值为0、标准差为0.02的高斯白噪声。

类似仿真算例1，按照APRESS交叉验证标准得到有效模型项为70项，利用两种基函数展开得到的辨识结果如图3所示，时变参数辨识精度对比结果列示在表2中。

表2仿真算例2时变参数辨识精度对比

由仿真算例1，2的时变参数辨识精度对比结果可见，利用本发明提出的beta小波基函数扩展法得到的时变参数辨识效果明显优于同等条件下B样条展开方法的辨识效果。由图2和图3可见，对于时变参数中具有突变参数变化，beta小波基函数扩展法的辨识效果更加显著。另外，针对模型辨识的计算复杂度，beta小波基函数扩展法的运算时间也明显小于B样条展开法所需运算时间，时间运算复杂度更低。

将本发明提出的基于beta小波基函数展开的时变非线性系统辨识方法应用于真实EEG信号的时变非线性建模，其中本发明中采用的EEG信号数据来源于波恩大学的公开数据库，数据采样频率为173.61Hz，采样时间为23.6s，选择其中癫痫信号波段(6s)进行时变非线性参数建模。模型参数设置与上述仿真算例相同，按照APRESS交叉验证标准得到有效模型项为18项，根据构建的模型，得到模型预测输出与真实EEG信号跟踪效果比对如图4所示。可见，基于本发明提出的beta小波基函数展开的时变非线性快速辨识方法对于真实EEG信号同样具有很好的跟踪效果，验证本发明中提出方法的应用性。

Claims (3)

1.基于beta小波基函数展开的时变非线性系统的快速辨识方法，其特征在于包括：

步骤1.时变非线性模型：将系统输出反馈和输入信号的非线性组合作为系统输入，构建时变非线性模型；

步骤2.beta小波扩展模型：利用beta小波基函数对时变非线性模型中的时变参数进行线性加权展开，得到基于beta小波展开式的时不变模型；

步骤3.有效模型结构检测：利用经典正交前向回归算法对beta小波基函数扩展后的时不变参数模型进行有效项选取，去除扩展模型中的冗余项，建立有效的稀疏模型结构，同时估计相应的时不变参数；

步骤4.模型重构：结合稀疏模型结构的有效项和估计得到的时不变参数，通过逆向求解得到初始时变非线性模型的时变参数，从而重构稀疏的时变非线性参数模型。

2.如权利要求1所述的基于beta小波基函数展开的时变非线性系统的快速辨识方法，其特征在于：

所述步骤2包括：利用beta小波基函数对非线性模型的时变参数进行展开，将其表示为beta小波基函数的线性加权形式，进而建立基于beta小波扩展的时不变参数模型。即将与时间相关的时变参数θ(t)＝[θ₁(t),θ₂(t),…,θ_M(t)]，转化为beta小波基函数的多项式形式其中c_i,n相应的时不变参数，π_n(t)为beta小波基函数。

3.如权利要求1所述的基于beta小波基函数展开的时变非线性系统的快速辨识方法，其特征在于：

所述步骤3包括：利用经典前向回归算法建立有效的稀疏模型结构，即从beta小波扩展模型中剔除冗余项，选取有效的模型项；利用APRESS交叉验证标准确定有效项数量，即作为模型结构复杂度的判断标准。