CN111325308B

CN111325308B - 一种非线性系统辨识方法

Info

Publication number: CN111325308B
Application number: CN202010092266.9A
Authority: CN
Inventors: 王荣杰; 韩冉; 曾广淼; 林安辉; 王亦春
Original assignee: Jimei University
Current assignee: Jimei University
Priority date: 2020-02-14
Filing date: 2020-02-14
Publication date: 2023-03-28
Anticipated expiration: 2040-02-14
Also published as: CN111325308A

Abstract

本发明涉及一种非线性系统辨识方法，包括：S1：选取多个不同的非线性系统，针对每个非线性系统，采集其对应的多个离散样本，将所有非线性系统的所有离散样本组成训练集；S2：对训练集中的离散的样本进行升维处理；S3：构建宽度学习模型，通过升维处理后的训练集和粒子群优化算法对宽度学习模型的模型参数进行优化训练，使得训练后的宽度学习模型对应的误差函数的值最小；S4：通过训练后的宽度学习模型对非线性系统进行辨识。本发明提出了一种通过宽度学习与粒子群优化算法相结合的方法对非线性系统进行辨识，在预测精度和抗干扰方面都表现出明显的优势。

Description

一种非线性系统辨识方法

技术领域

本发明涉及系统辨识领域，尤其涉及一种非线性系统辨识方法。

背景技术

非线性动态系统广泛存在于诸如通信、控制、模式辨识等领域中，系统辨识的目的是要建立被控系统的逼近模型，可以用于分析系统的性能、动态或静态响应特性来改进系统的结构和参数，因此受到许多学者的广泛的关注。动态系统在不同的应用领域中，工程师会面临各种问题。比如在控制领域中，遇到最常见的问题是系统的辨识和控制，并不像静态系统那样简单。如今已有来自不同领域的研究人员已经开发出几种方法对系统辨识构建数学模型。

由于在现实生活中，大多数系统都是非线性的，因此在系统辨识的过程中的第一步就是如何选择一个实际有效的模型。为了处理非线性问题，许多智能的模型(例如神经网络)非常流行。通过基于模糊含义来建立系统的模糊模型，但由于系统的而出发点和性能指标的不同，容易产生较大的差异。现有的技术采用二阶Volterra模型，其可以有效的捕获输入-输出数据中的动态变化，但在辨识非线性系统时表现一般。(参考文献：R.K.Pearson,“Identification of structurally constrained second-order Volterra models,”IEEE Transactions on Signal Processing.,vol.44,no.11,pp.2837-2846,1996.)使用神经网络作为辨识非线性系统，已成为一种有效的工具(参考文献：K.S.Narendra,“Identification and control ofdynamical systems using neural networks,”IEEETrans Neural Netw.,vol.128,pp.56-63,Jun.2019.)。由于大多数网络都受到耗时的训练过程的影响，涉及复杂的结构，许多研究需要高性能计算和强大的设施。最近，Chen和Liu开发了一种非常快速有效的判别学习-广泛学习系统(BLS)(参考文献：C.L.P.Chen,Z.L.Liu,“Broad learning system:An effective and efficient incremental learning systemwithout the need for deep architecture,”EEE Transactions on Neural Networksand Learning Systems.,vol.29,no.1,pp.10-24,Jan.2018.)。在没有堆叠层结构的情况下，设计的神经网络广泛地扩展神经节点并且在需要附加节点时以及当输入数据连续地进入神经网络时递增地更新神经网络的权重。因此BLS结构非常适合在时变大数据环境中进行建模和学习。

在确定了逼近模型之后，接下来就是参数的辨识。虽然可以选择最小二乘法来估计参数，但是如果想要得到较为精准的模型参数，显然这种方法并不可取。常见的是通过动态反向传播算法对参数进行调整，但这种方法容易出现收敛速度慢，甚至无法收敛的情况。现有技术将基于深度学习的时变参数辨识模型用于ZIP负载和感应电动机的复合负载建模(参考文献：M.J.Cui,“Deep Learning Based Time-Varying Parameter Identificationfor System-Wide Load Modeling”IEEE Transactions on Smart Grid.,pp.1-13,2019.)。通过模式隔离参数辨识扩散系统，已证明该方法可用于非线性反应动力学，并适用于各种区域和表面(参考文献：L.Murphy,“Parameter identification through modeisolation for reaction–diffusion systems on arbitrary geometries,”International Journal of Biomathematics.,vol.11,no.4,pp.11-23,Mar.2018.)。但是，这两种方法不适用于非线性系统模型。

发明内容

为了解决上述问题，本发明提出了一种非线性系统辨识方法。

具体方案如下：

一种非线性系统辨识方法，包括以下步骤：

S1：选取多个不同的非线性系统，针对每个非线性系统，采集其对应的多个离散样本，将所有非线性系统的所有离散样本组成训练集；

S2：对训练集中的离散的样本进行升维处理；

S3：构建宽度学习模型，通过升维处理后的训练集和粒子群优化算法对宽度学习模型的模型参数进行优化训练，使得训练后的宽度学习模型对应的误差函数的值最小；

S4：通过训练后的宽度学习模型对非线性系统进行辨识。

进一步的，步骤S2中升维处理的方法为：设X(k)表示第k个离散样本的值，则将X(k)转化为：

X(k)＝[x₁,x₂,…,x_a]

其中，x₁＝1，x₂＝X(k)，x_a＝2x_a-1x_a-2,(a＞1)，a表示升维的维数。

进一步的，步骤S3中构建的宽度学习模型为：

S＝W₂·[X,C]

其中，W₂表示输出权重，X＝{x₁,x₂,…,x_a}表示模型的输入，C＝{c₁,c₂,...,c_a}表示针对模型的每个输入X增加的节点，c_i＝φ(W₁x_i+b₁)，i＝1,2,…a，c_i表示矩阵C中的第i个元素，W₁、b₁分别表示权重和偏置，φ表示激活函数，a表示维数。

进一步的，步骤S3中优化过程具体包括以下步骤：

S31：参数初始化：初始化设定学习因子c₁、c₂，最大迭代次数maxgen，迭代次数gen＝1，种群规模sizepop，粒子群搜索空间维数D＝2a；

S32：种群初始化，初始化种群中各粒子的位置和速度；

S33：计算种群中每个粒子的适应度：

其中，Fitness(i)表示第i个粒子的适应度，k表示训练集中样本的序号，n表示训练集中样本的总数，j表示样本维数的序号，S_k,j(i)表示第k个样本的第j个维数通过第i个粒子对应的宽度学习模型得到的输出值，y_k,j表示第k个样本的第j个维数在非线性系统中对应的实际输出值，||·||表示求模运算；

S34：根据种群中所有粒子的适应度，计算种群中每个粒子的局部最优位置和种群的全局最优位置Gbest，Pbest(i)表示第i个粒子的局部最优位置；

S35：判断迭代次数gen是否大于最大迭代次数maxgen，如果是，根据此时的全局最优位置Gbest得到宽度学习模型的输出权重W₂的最优解；否则，进入S36；

S36：对种群中每个粒子位置和速度进行更新，令迭代次数gen＝gen+1，返回S33；

V(i)＝V(i)+c₁*rand*(Pbest(i)-pop(i)+c₂*rand*(Gbest-pop(i))

pop(i)＝pop(i)+0.5*V(i)

其中，V(i)表示第i个粒子的速度，rand表示随机数，pop(i)表示种群中第i个粒子的位置。

本发明采用如上技术方案，提出了一种通过宽度学习与粒子群优化算法相结合的方法对非线性系统进行辨识，通过模拟不同的逼近模型和其它非线性系统辨识方法的仿真实验，结果表明本文提出的系统辨识方法在预测精度和抗干扰方面都表现出明显的优势。

附图说明

图1所示为本发明实施例的流程图。

图2所示为该实施例中宽度学习模型的结果示意图。

图3所示为该实施例中系统1采用本实施例方法的实验结果。

图4所示为该实施例中系统1采用PSO-X模型的实验结果。

图5所示为该实施例中系统1采用DE-X模型的实验结果。

图6所示为该实施例中系统1采用DE-BLS模型的实验结果。

图7所示为该实施例中系统1采用BLS模型的实验结果。

图8所示为该实施例中系统1采用GA-X和GA-BLS模型的实验结果。

图9所示为该实施例中系统1采用本实施例方法与其他方法的对比图。

具体实施方式

为进一步说明实施例，本发明提供有附图。这些附图为本发明揭露内容的一部分，其主要用以说明实施例，并可配合说明书的相关描述来解释实施例的运作原理。配合参考这些内容，本领域普通技术人员应能理解其他可能的实施方式以及本发明的优点。

现结合附图和具体实施方式对本发明进一步说明。

本发明实施例提供了一种非线性系统辨识方法，如图1所示，包括以下步骤：

S1：选取多个不同的非线性系统，针对每个非线性系统，采集其对应的多个离散样本，将所有非线性系统的所有离散样本组成训练集。

该实施例中选取的四个二阶非线性系统，分别为：

系统1：

系统2：

系统3：

/>

系统4：

S2：对训练集中的离散的样本进行升维处理。

该实施例中，采用下式进行升维处理，设X(k)表示第k个离散样本的值，则将X(k)转化为：

X(k)＝[x₁,x₂,…,x_a]

其中，x₁＝1，x₂＝X(k)，x_a＝2x_a-1x_a-2,(a＞1)，a表示升维的维数，其取值本领域技术人员可以根据经验值进行设定。

S3：构建宽度学习模型，通过升维处理后的训练集和粒子群优化算法对宽度学习模型的模型参数进行优化训练，使得训练后的宽度学习模型对应的误差函数的值最小。

该实施例中构建的宽度学习模型如图2所示，针对训练集中的每个输入样本X＝{x₁,x₂,…,x_a}，通过下式增加输入节点C＝{c₁,c₂,...,c_a}。

c_i＝φ(W₁x_i+b₁)，(i＝1,2,…a)

其中，W₁,b₁分别表示随机产生的权重和偏置，φ表示激活函数。

根据宽度学习模型得到模型的输出S为：

S＝W₂·[X,C]

其中，W₂为随机产生的输出权重矩阵，该矩阵中包含2a个元素，即：

W₂＝{w_2,1,w_2,2,…,w_2,2a}

为了减少网络训练过程中会出现过拟合、收敛速度慢的情况。该实施例中通过粒子群优化算法对输出权重W₂进行优化，以提高整个模型对非线性系统辨识的准确度。

该实施例中，具体优化过程为：

S31：参数初始化：初始化设定各参数的初始值，即学习因子c₁、c₂，迭代次数maxgen，迭代次数gen＝1，种群规模sizepop，粒子群搜索空间维数D＝2a。其中，学习因子c₁、c₂均为0-1之间的常数。

S32：种群初始化，初始化种群中各粒子的位置和速度。

S33：计算种群中每个粒子的适应度值：

其中，Fitness(i)表示第i个粒子的适应度，k表示训练集中样本的序号，n表示训练集中样本的总数，j表示样本维数的序号，S_k,j(i)表示第k个样本的第j个维数通过第i个粒子对应的宽度学习模型得到的输出值，y_k,j表示第k个样本的第j个维数在非线性系统中对应的实际输出值，||·||表示求模运算。

S34：根据种群中所有粒子的适应度，计算种群中每个粒子的局部最优位置，Pbest(i)表示第i个粒子的局部最优位置和种群的全局最优位置Gbest。

S35：判断迭代次数gen是否大于最大迭代次数maxgen，如果是，根据此时的全局最优位置Gbest得到宽度学习模型的输出权重W₂的最优解；否则，进入S36。

S36：对粒子位置和速度进行更新，返回S33。

V(i)＝V(i)+c₁*rand*(Pbest(i)-pop(i)+c₂*rand*(Gbest-pop(i))

pop(i)＝pop(i)+0.5*V(i)

S4：通过训练后的宽度学习模型对非线性系统进行辨识。

仿真实验

本实施例中设定如表1所示的参数值进行仿真实验，其中，粒子群和差分算法的最大迭代次数均设置成500，初始化参数(C₁,C₂)设置为(0-1)之间的随机数，粒子群的种群规模为100。为了证明本实施例中的模型具有较好的测试精度和较小的收敛误差，通过四种类型二阶系统进行仿真实验。

表1

为了验证本实施例模型的优越性，通过与其他六种模型进行比较，系统1的实验结果可参考附图3-8。比较的模型分别是PSO-X(粒子群)、DE-X(差分算法)、DE-BLS(差分算法加宽度学习)、GA-X(遗传算法)、GA-BLS(遗传算法加宽度学习)、BLS(宽度学习)。实验评价结果以及相关实验数据如表2所示。

表2

在上面四组实验中，本实施例中通过将宽度学习模型作为重点检验的对象。由于在识别过程中，通过对原始输入信号进行扩展，输入维度不高，所以需要训练的网络权重参数少。因此采用优化算法来优化权重参数可能更加符合的检验要求，仿真实验结果也更加验证了这一点。在预测精度方面，本实施例中采用的模型收敛误差更小，且收敛速度更快。DE-BLS模型表现效果较差，其原因主要是因为差分算法在处理非线性问题具有不稳定性。差分算法本质是一种多目标(连续变量)优化算法，用于求解多维空间中整体最优解，在变异过程中，种群随机选择个体，导致大量的信息丢失，加上宽度学习模型结构导致输入信息增多，不稳定性表现的更加明显。本实施例中模型的实验结果变现较为出色，是因为粒子群优化算法本质上是一种基于群体搜索优化算法，更适合处理连续或者离散空间内优化问题。并且，宽度学习模型结构增加了输入信息量，凸显了粒子群算法在处理非线性问题上的优势。

为了验证模型的抗干扰能力，通过对输入样本分别加入信噪比为35db、30db、25db、20db、15db噪音进行预测实验。如图9所示，实验结果验证了本实施例所提出的系统识别模型具有较强的抗干扰能力。

尽管结合优选实施方案具体展示和介绍了本发明，但所属领域的技术人员应该明白，在不脱离所附权利要求书所限定的本发明的精神和范围内，在形式上和细节上可以对本发明做出各种变化，均为本发明的保护范围。

Claims

1.一种非线性系统辨识方法，其特征在于，包括以下步骤：

S2：对训练集中的离散样本进行升维处理；

S3：构建宽度学习模型，通过升维处理后的训练集和粒子群优化算法对宽度学习模型的模型参数进行优化训练，使得训练后的宽度学习模型对应的误差函数的值最小；构建的宽度学习模型为：

S＝W₂·[X,C]

其中，W₂表示输出权重，X＝{x₁,x₂,…,x_a}表示模型的输入，C＝{c₁,c₂,...,c_a}表示针对模型的每个输入X增加的节点，c_i＝φ(W₁x_i+b₁)，i＝1,2,…a，c_i表示矩阵C中的第i个元素，W₁、b₁分别表示权重和偏置，φ表示激活函数，a表示维数；

优化过程具体包括以下步骤：

S32：种群初始化，初始化种群中各粒子的位置和速度；

S33：计算种群中每个粒子的适应度：

其中，Fitness(i)表示第i个粒子的适应度，k表示训练集中样本的序号，n表示训练集中样本的总数，j表示样本维数的序号，S_k,j(i)表示第k个样本的第j个维数通过第i个粒子对应的宽度学习模型得到的输出值，y_k,j表示第k个样本的第j个维数在非线性系统中对应的实际输出值，||.||表示求模运算；

V(i)＝V(i)+c₁*rand*(Pbest(i)-pop(i))+c₂*rand*(Gbest-pop(i))

pop(i)＝pop(i)+0.5*V(i)

其中，V(i)表示第i个粒子的速度，rand表示随机数，pop(i)表示种群中第i个粒子的位置；

S4：通过训练后的宽度学习模型对非线性系统进行辨识。

2.根据权利要求1所述的非线性系统辨识方法，其特征在于：步骤S2中升维处理的方法为：设X(k)表示第k个离散样本的值，则将X(k)转化为：

X(k)＝[x₁,x₂,…,x_a]

其中，x₁＝1，x₂＝X(k)，x_a＝2x_a-1x_a-2,(a>1)，a表示升维的维数。