CN108681241A - 一种基于神经网络的双容系统辨识方法 - Google Patents

Abstract

本发明涉及一种基于神经网络的双容系统辨识方法，所述神经网络模型采用LSTM模型；将双容系统的输入和当前的状态作为神经网络的输入值，神经网络的输出值为系统的预测输出值，将系统的预测输出值和双容系统的真实值进行比较，利用反向误差传播算法，调整神经网络模型的权值，使得神经模型达到系统要求的辨识精度。本发明减少系统建模的难度。

Description

一种基于神经网络的双容系统辨识方法

技术领域

本发明涉及自动控制系统技术领域，特别是涉及一种基于神经网络的双容系统辨识方法。

背景技术

如图1所示，双容系统是一种比较常见的工业现场液位系统，在实际生产中，双容水箱控制系统在石油、化工﹑环保﹑水处理﹑冶金等行业尤为常见。通过液位的检测与控制从而调节容器内的输入输出物料的平衡，以便保证生产过程中各环节的物料搭配得当。双容系统实验装置由上水箱、下水箱、储水槽、电机、传感器等组成。上下水箱各有一个压力传感器将液位转换为电压，同时可控制电机的电压来控制从储水箱到上水箱水流的流速。

系统辨识是对系统进行辨识与识别的简称。要对一个系统进行辨识与识别，有很多方法，其中一种是观察系统的行动，看它属于哪一个系统。在这之前，首先要知道被当作标准的系统是哪些。控制系统的基本做法是：事先知道若干标准的系统模型，通过对被测系统实施的一系列措施，看被测系统与哪个标准最接近。控制理论的实际应用都离不开被控制对象的数学模型，无论这种模型是有较高的可信度，还是离实际情况相差很远，总之在数理分析时，总得有一个模型。

人工神经网络是由大量而简单的神经元按某种方式连接形成的智能仿生动态网络。人工神经网络的研究始于上世纪40年代，1943年，心理学家W.S.McCulloch和数学逻辑学家W.Pitts在分析、综合神经元基本特征的基础上，第一次提出了神经计算模型(M-P模型)。他们通过模型提出了神经元的形式化数学描述和网络结构的方法，证明了单个神经元能执行逻辑功能。现在应用最多的神经网络主要有感知器网络、网络、网络、网络、CMAC(小脑模型神经网络)网络和模糊神经网络。经过多年的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的应用。

发明内容

本发明所要解决的技术问题是提供一种基于神经网络的双容系统辨识方法，减少系统建模的难度。

本发明解决其技术问题所采用的技术方案是：提供一种基于神经网络的双容系统辨识方法，所述神经网络模型采用LSTM模型；将双容系统的输入和当前的状态作为神经网络的输入值，神经网络的输出值为系统的预测输出值，将系统的预测输出值和双容系统的真实值进行比较，利用反向误差传播算法，调整神经网络模型的权值，使得神经模型达到系统要求的辨识精度。

所述LSTM模型用两个门来控制单元状态的内容，一个是遗忘门，其决定了上一时刻的单元状态有多少保留到当前时刻；另一个是输入门，其决定了当前时刻网络的输入有多少保存到单元状态；所述LSTM模型用输出门来控制单元状态有多少输出到LSTM模型的当前输出值。

所述的基于神经网络的双容系统辨识方法，包括以下步骤：采用y(k+1)＝f[y(k),...,y(k-m+1)；u(k),...,u(k-n+1)]来表示双容系统，其中，u(k)为加到伺服阀上的控制量，y(k)为液位高度，辨识采用串-并联结构，将被控对象的输入输出数据作为神经网络的输入，利用学习算法不断减小网络模型输出与被控对象输出的差值，最终实现对系统的逼近；液位模型输入和输出之间的非线性关系表示为y(k)＝f(y(k-1),u(k-1))，采用输入和输出的一阶延时{y(k-1),u(k-1)}作为网络输入，其中u(k-1)为系统控制量，y(k-1)为液位实际采样值；预处理模型辨识前数据；训练神经网络模型：-0.1—0.1之间的一个随机数对权值进行初始化；输入训练采样；计算误差；使用反向传播算法进行训练，修正权值和阈值；重新计算误差，若达到系统的要求，则停止训练并保存模型，否则重复训练步骤。

所述预处理模型辨识前数据包括去除趋势项、数据滤波和数据归一化。

有益效果

由于采用了上述的技术方案，本发明与现有技术相比，具有以下的优点和积极效果：本发明将基本循环神经网络设计了系统的辨识方法，这种方法只需要系统的输入输出数据，不需要对系统的机理进行数学分析，降低了系统的工作量。同时，神经网络模型可以很好地逼近非线性过程，有利于解决非线性系统建模难的问题。

附图说明

图1为双容系统原理图。

图2为循环神经网络的展开图。

图3为神经网络动态系统结构图。

图4为神经网络辨识框图。

具体实施方式

下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。

本发明的实施方式涉及一种基于神经网络的双容系统辨识方法，所述神经网络模型采用LSTM模型；将双容系统的输入和当前的状态作为神经网络的输入值，神经网络的输出值为系统的预测输出值，将系统的预测输出值和双容系统的真实值进行比较，利用反向误差传播算法，调整神经网络模型的权值，使得神经模型达到系统要求的辨识精度。

双容水箱供水系统由两个水箱和三个调节阀(S1、S2、S3)构成。Q1是上水箱的流入量，Q2是上水箱的流出量，也是下水箱的流入量，Q3是下水箱的流出量。H1和H2分别表示上、下水箱液位的高度，其中H2控制参数。若Q2与Q1相等时，上水箱液位将不在变动；若Q3与Q2相等时，下水箱液位将不在变动。容易得出，双容水箱系统要达到平衡就得Q1等于Q2等于Q3。当Q3等于Q2时，若上水箱H1发生变化，在阀门S2开度不变的情况下，那么Q2就会发生变化，从而系统变得不平衡。因此，只有上、下水箱液位同时达到平衡，整个系统才会达到平衡。

所述采用神经网络基于循环神经网络(RNN)设计，循环神经网络与传统的神经网络不同，RNN能利用上“序列信息”。从理论上讲，它可以利用任意长序列的信息，但由于该网络结构存在“消失梯度”问题，本发明中使用了循环神经网络中的一种性能较好的模型——LSTM模型，减少了“梯度消失”的影响。将系统的输入和当前的状态作为神经网络的输入值，神经网络的输出值为系统的预测输出值，将系统的预测输出值和系统的真实值进行比较，利用反向误差传播算法，调整神经网络模型的权值，使得神经模型达到系统要求的辨识精度。

循环神经网络(RNN)是一种对序列数据建模的神经网络，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中，即隐藏层之间的节点不再无连接而是有连接的，并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出。神经元的展开形式如图2所示，其中：

x_t是t时刻的输入。

s_t是t时刻的隐状态(memory)，基于上一时刻的隐状状态和当前输入得到：

s_t＝f(Ux_t+Ws_t-1)

其中f一般是非线性的激活函数，在计算s₀时，即第一个单词的隐藏层状态，需要用到s_t-1，但是其并不存在，在实现中一般置为0。

o_t表示t时刻的输出，需要注意的是：在传统神经网络中，每一个网络层的参数是不共享的。而在RNN中，所有层次均共享同样的参数(例如上式中U,W)。其反应出RNN中的每一步都在做相同的事，只是输入不同，因此大大地降低了网络中需要学习的参数。

本实施方式采用的是循环神经网络中的长短时记忆模型(LSTM)，LSTM用到了门(gate)的概念，门实际上就是个全连接层。它的输入是一个向量，输出是一个0到1之间的实数向量。假设W是门的权重向量，是偏置项，那么门可以表示为：

g(x)＝σ(Wx+b)

门的使用，就是用门的输出向量按元素乘以需要控制的那个向量。因为门的输出是0到1之间的实数向量，那么，当门输出为0时，任何向量与之相乘都会得到0向量，这就相当于什么都不能通过；输出为1时，任何向量与之相乘都不会有任何改变，这就相当于啥都可以通过。因为σ(也就是sigmoid函数)的值域是(0,1)，所以门的状态都是半开半闭的。

LSTM用两个门来控制单元状态c的内容，一个是遗忘门(forgetgate)，它决定了上一时刻的单元状态c_t-1有多少保留到当前时刻c_t；另一个是输入门(inputgate)，它决定了当前时刻网络的输入X_t有多少保存到单元状态。LSTM用输出门(outputgate)来控制单元状态c_t有多少输出到LSTM的当前输出值h_t。

遗忘门：

f_t＝σ(W_f·[h_t-1,x_t]+bf)

上式中，W_f是遗忘门的权重矩阵，[h_t-1,x_t]表示把两个向量连接成一个更长的向量，b_f是遗忘门的偏置项，σ是sigmoid函数。

输入门：

i_t＝σ(W_i·[h_t-1,x_t]+b_i)

上式中，W_i是输入门的权重矩阵，b_i是输入门的偏置项。

当前输入的单元状态

上式中，W_c是权重矩阵，b_c是偏置项。是根据上一次的输出和本次输入来计算的。

当前时刻的单元状态：

c_t是由上一次的单元状态c_t-1按元素乘以遗忘门f_t，再用当前输入的单元状态按元素乘以输入门i_t，再将两个积相加得到的。

输出门：

o_t＝σ(W_o·[h_t-1,x_t]+b_o)

上式中，W_o是输出门的权重矩阵，b_o是输出门的偏置项。

LSTM最终的输出，是由输出门和单元状态共同确定的：

本发明使用循环神经网络的一种模型——LSTM模型，解决了普通循环神经网络进行辨识时出现的梯度消失的问题，提升了系统辨识的精度。

如图4所示，辨识步骤如下：

(1)模型结构的建立

先选择非线性系统的描述方式以便确定神经网络的拓扑结构。Narendra基于神经网络建模，提出了以下四种NARMAX模型来描述SISO系统，本发明采用下式来表示SISO系统。

y(k+1)＝f[y(k),...,y(k-m+1)；u(k),...,u(k-n+1)] (9)

图3中u为加到伺服阀上的控制量，y为液位高度，辨识采用串-并联结构，将被控对象的输入输出数据作为神经网络的输入，利用学习算法不断减小网络模型输出与被控对象输出的差值，最终实现对系统的逼近。

(2)模型结构的确定

液位模型输入﹑输出之间的非线性关系可表示为：

y(k)＝f(y(k-1),u(k-1)) (10)

采用输入﹑输出的一阶延时{y(k-1),u(k-1)}作为网络输入，其中u(k-1)为系统控制量，y(k-1)为液位实际采样值。

(3)模型辨识前数据的预处理

用于训练的数据直接影响神经网络的性能，而采集数据过程中不可避免地又存在着随机干扰，因此需要对采集的数据进行处理。

①去除趋势项

进行模型辨识的输入﹑输出数据，必须是平稳的﹑正态的﹑零均值的，即数据的统计特性与统计时间起点无关。而实际采样得到的数据，是缓慢变化的随机时间序列，序列的均值不为零。因此必须对数据进行平稳化预处理，去除或提取趋势项，将量测的数据变成均值为零的平稳过程。

②数据滤波

对采样数据进行滤波，消除随机噪声引起的干扰对系统辨识的影响。

③数据归一化

采样数据的量纲一般不相同，若直接用于训练，会影响最终训练的效果，因此要实验数据进行归一化处理。本发明将数据中的液位高度0～100和伺服阀控制开度的电压值0～5V，全部映射在范围[0,1]之间。

(4)神经模型训练

a)用一个小的随机数初始化，例如-0.1—0.1之间的一个随机数对权值进行初始化。

b)输入训练采样。

c)计算误差：

e_k(t)＝t_k(t)-y_k(t) (11)

其中t_k(t)为前向计算的输出，y_k(t)为真实值。

d)修正权值和阈值

使用反向传播算法BPTT进行训练，修正权值和阈值。

重新计算误差，若达到系统的要求，则停止训练并保存模型，否则重复b)-e)步骤。

不难发现，本发明将基本循环神经网络设计了系统的辨识方法，这种方法只需要系统的输入输出数据，不需要对系统的机理进行数学分析，降低了系统的工作量。同时，神经网络模型可以很好地逼近非线性过程，有利于解决非线性系统建模难的问题。

Claims (4)

1.一种基于神经网络的双容系统辨识方法，其特征在于，所述神经网络模型采用LSTM模型；将双容系统的输入和当前的状态作为神经网络的输入值，神经网络的输出值为系统的预测输出值，将系统的预测输出值和双容系统的真实值进行比较，利用反向误差传播算法，调整神经网络模型的权值，使得神经模型达到系统要求的辨识精度。

2.根据权利要求1所述的基于神经网络的双容系统辨识方法，其特征在于，所述LSTM模型用两个门来控制单元状态的内容，一个是遗忘门，其决定了上一时刻的单元状态有多少保留到当前时刻；另一个是输入门，其决定了当前时刻网络的输入有多少保存到单元状态；所述LSTM模型用输出门来控制单元状态有多少输出到LSTM模型的当前输出值。

3.根据权利要求1所述的基于神经网络的双容系统辨识方法，其特征在于，包括以下步骤：采用y(k+1)＝f[y(k),...,y(k-m+1)；u(k),...,u(k-n+1)]来表示双容系统，其中，u(k)为加到伺服阀上的控制量，y(k)为液位高度，辨识采用串-并联结构，将被控对象的输入输出数据作为神经网络的输入，利用学习算法不断减小网络模型输出与被控对象输出的差值，最终实现对系统的逼近；液位模型输入和输出之间的非线性关系表示为y(k)＝f(y(k-1),u(k-1))，采用输入和输出的一阶延时{y(k-1),u(k-1)}作为网络输入，其中u(k-1)为系统控制量，y(k-1)为液位实际采样值；预处理模型辨识前数据；训练神经网络模型：-0.1—0.1之间的一个随机数对权值进行初始化；输入训练采样；计算误差；使用反向传播算法进行训练，修正权值和阈值；重新计算误差，若达到系统的要求，则停止训练并保存模型，否则重复训练步骤。

4.根据权利要求3所述的基于神经网络的双容系统辨识方法，其特征在于，所述预处理模型辨识前数据包括去除趋势项、数据滤波和数据归一化。