CN113536463B - 一种基于改进梯度下降法的神经网络船舶整体模型逼近方法 - Google Patents

Abstract

本发明公开了一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，包括：将风浪干扰当成船舶的一部分，视为一个整体模型；通过神经网络对这个整体模型进行逼近；采用改进的梯度下降法对权值进行在线更新，并根据所逼近的船舶模型对船舶进行仿真或用于船舶运动控制器设计。本发明通过将船舶的外界干扰和船舶视为一个时变的整体模型，通过神经网络逼近，采用改进的梯度下降法对权值进行在线更新，使其具有更好的逼近效果。解决了船舶在航行过程中由于装载量、吃水、外界干扰等变化引起的船舶模型的变化，对于只考虑输入输出的船舶模型，具有更好的普适性。

Description

一种基于改进梯度下降法的神经网络船舶整体模型逼近方法

技术领域

本发明涉及船舶运动控制及建模领域，具体地说，涉及一种基于改进梯度下降法的神经网络船舶整体模型逼近方法。

背景技术

船舶运动的研究是建立在模型的基础上的，但在实际应用中，模型的结构和参数是不会从天而降的，因此许多科学家将毕生精力投入到建立一个具体的数学模型上。建立基本理论机制清晰的模型并不容易，更不用说建立许多基本机制或深层机制不清晰的模型了。而且，机构建模需要许多简化的假设，需要忽略许多重要的事情，但如果做得不好，错误的假设就会被忽略。因此，用机理推导被控过程的数学模型并非不可能，对于日常的控制问题也不实用，于是许多科学家开始研究控制理论的另一个分支——辨识。

然而，大多数的辨识方法都是对模型中的参数进行辨识，并且每次航行的载荷状态都是变化的，这使得船舶的平均吃水和吃水差实时变化。随着船舶运行时间的增加和船外附着物的增加，水动力特性也发生变化。因此，仅仅依靠船舶参数的辨识和建模是远远不够的。

发明内容

本发明提供了一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，以克服上述技术问题。

本发明包括以下步骤：

S1、建立包含船舶的风、浪干扰和船舶非线性Nomoto模型在内的整体模型；

S2、通过神经网络对S1中的整体模型进行逼近；

S3、采用改进梯度下降法对神经网络进行优化，根据所述船舶模型进行船舶的仿真和控制器设计。

进一步地，S1包括以下步骤：

S101、建立输入输出响应关系的船舶内部模型；

S102、建立风的扰动模型，风的扰动模型加入到船舶内部模型的输入端；

S103、建立波浪的扰动模型，波浪的扰动模型加入到船舶内部模型的输出端。

进一步地，S3采用改进梯度下降法对神经网络权值进行优化的计算公式为：

w_j(t)＝w_j(t-1)+Δw_j(t)+k₂tank(k₃(w_j(t-1)-w_j(t-2))) (3)

b_j(t)＝b_j(t-1)+Δb_j(t)+k₂tanh(k₃(b_j(t-1)-b_j(t-2))) (5)

其中，E(t)为网络逼近误差指标，k₀、k₁、k₂、k₃为设计的正参数，k₀和k₂的物理意义是偏导数大时偏导数的最大衰减率，k₁和k₃的物理意义是偏导数小时，它拉伸或压缩坐标并以指数速率衰减，t表示时间；公式1表示艏向角误差，ψ(t)表示当前时刻的输出艏向角的值；ψ_m(t)表示当前时刻的输入艏向角的值；公式2和公式3表示对神经网络中的权重进行训练更新，w_j(t-1)表示前一时刻的权重值，w_j(t-2)表示前两时刻的权重值；公式4和公式5表示对高斯基函数的宽度进行训练更新，b_j(t-1)表示前一时刻的宽度，b_j(t-2)表示前一时刻的宽度；公式6和公式7表示对神经元的中心点矢量值进行训练更新，表示前一时刻的中心点，/>表示前两时刻的中心点。

进一步地，S102风的扰动模型为：

其中，σ_Y为风作用在Y轴的力矩，σ_N为风作用于绕重心的铅直轴的回转力矩，ρ_A为空气密度，C_Y(γ_R)和C_N(λ_R)分别为风力和风力矩的无量纲系数，L为船舶长度；

进一步地，S103波浪的扰动模型为：

y(s)＝h(s)ω(s) (9)

其中，y(s)为波浪扰动，ω(s)为零均值高斯白噪声，h(s)为波的二阶传递函数。

进一步地，S2采用神经网络对整体模型进行逼近的计算公式为：

其中，神经网络输入为x＝(x_i)^T，网络的隐含层输出为h＝(h_j)^T，h_j为隐含层第j个神经元的输出，c_ij为隐含层第j个神经元高斯基函数中心点的坐标向量，b_j为隐含层第j个神经元高斯基函数的宽度；神经网络的网络权值为w，神经网络的网络输出为y(t)＝w^Th。

进一步地，S101建立的船舶内部模型为：

建立船舶航向保持控制的非线性Nomoto模型为：

其中，ψ表示航向角，α以及β是转艏角速度的比例系数，K、T为船舶操纵性指标，K_E为舵机操纵增益，T_E为舵机时间常数，δ实际舵角，以及δ_r是指令舵角，f₁为船舶系统的内部不确定性，d为外部扰动，f为总扰动。

本申请将船舶模型和外界干扰相结合，将其视为一个整体的时变模型，从而解决船舶运动控制中模型不确定和外界干扰不确定的问题。通过改进梯度下降法，使用非线性函数改进梯度下降法，取代原来梯度下降法中的学习速率和动量因子，使其具有更好的逼近效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明基于神经网络逼近船舶模型的整体框架；

图2是“育鹏”轮的海上试验和非线性Nomoto模型模拟试验的比较；

图3是“育鲲”轮的海上试验和非线性Nomoto模型模拟试验的比较；

图4是当固定步长太小时，梯度下降法的收敛过程；

图5是当固定步长太大时，梯度下降法的收敛过程；

图6是变步长时，梯度下降法的收敛过程；

图7表示“育鹏”轮在6级风浪干扰下，改进算法和梯度下降法的逼近效果比较；

图8表示“育鹏”轮在6级风浪干扰下，两种算法的误差历时曲线；

图9表示“育鹏”轮在9级风浪干扰下，改进算法和梯度下降法的逼近效果比较；

图10表示“育鹏”轮在9级风浪干扰下，两种算法的误差历时曲线；

图11表示“育鲲”轮在6级风浪干扰下，改进算法和梯度下降法的逼近效果比较；

图12表示“育鲲”轮在6级风浪干扰下，两种算法的误差历时曲线；

图13表示“育鲲”轮在9级风浪干扰下，改进算法和梯度下降法的逼近效果比较；

图14表示“育鲲”轮在6级风浪干扰下，两种算法的误差历时曲线。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例1

图1是本发明基于神经网络逼近船舶模型的整体框架，如图1所示，本实施例的方法可以包括：

建立船舶的数学模型，与状态空间数学模型相比，响应数学模型参数较少，且各参数具有明显的物理意义。将船舶看成一个动态系统，舵角为系统输入，航向角为系统输出，建立输入输出响应关系的船舶内部模型为：

根据野本方程，考虑舵机的特性方程，船舶航向保持控制的非线性Nomoto模型可表示为：

其中，α以及β是转艏角速度的比例系数。K、T为船舶操纵性指标，K_E为舵机操纵增益，T_E为舵机时间常数，δ实际舵角，以及δ_r是指令舵角。f₁为船舶系统的内部不确定性，d为外部扰动，f为总扰动。

对非线性Nomoto模型进行验证。图2和图3显示了“玉鹏”轮和“育鲲”轮的海上试验，以及非线性Nomoto模型模拟试验的比较。为了符合航海实际，在模型仿真中增加了舵伺服系统，最大舵角控制在0±35°,最大舵速限制为±5°/s。平均风向是3°,相对风速10.1m/s，风速30°右舵旋转试验。为了量化模型的逼近程度，定义了符合度函数C为：

其中，D_s为仿真战术直径，D_t为实船战术直径。因此，在非线性Nomoto模型中，育鹏轮的精度为95％，育鲲轮的精度为80.2％。

建立风浪流的干扰模型。在船舶航行过程中，风浪干扰是引起船舶偏航的主要原因。风的扰动可分为平均风和随机风，平均风对船舶产生风压差。将平均风等效为作用在船体上的等效舵角。随机风是由大气湍流引起的，可以认为是某些白噪声的实现，其偏差与绝对风速的平方成正比。

ρ_A为空气密度，C_Y(γ_R)和C_N(λ_R)分别为风力和风力矩的无量纲系数，L为船舶长度。

波浪的扰动可以用线性二阶波模型来近似，而ITTC波谱密度函数的线性近似是

y(s)＝h(s)ω(s) (5)

ω(s)为零均值高斯白噪声，其功率谱密度为0.0001。h(s)是波的二阶传递函数。

其中，σ_ω为波浪的波浪强度系数，ζ为阻尼系数，ω₀为主导波频率。在ITTC谱中，ω₀＝4.82/T_ω是波的周期，是有效波高。下式计算了在6级浪和9级浪作用下的波浪传递函数。

改进梯度下降法。对于任何可微函数f(x),函数的值只会随着x的变化而变化。假设下一个x^t+1是从上一个沿某个方向移动小步Δx得到的，即f(x+Δx),通过一阶泰勒公式，可以得到如下结果：

等式左边是当前x移动一小步Δx后的下一个点，大约等于右边。正如我们之前所说，关键问题是找到一个方向，这样，根据上面的泰勒展开式，我们显然需要确保：

其中，η是步长，也称为学习因子。它是一个小的正数，把式(8)代入式(7)

它保证了因此/>能够保证f(x+Δx)＜f(x)然后根据更新方法得到，/>考虑到最近的趋势，由于/>变化剧烈会影响f(t)所以加上动量因子a来减小动量的变化，带动量因子的梯度下降法是：

但是，η和a都是固定常数。如果η和a的值太大，神经网络将错过函数的最小值。如果η和a太小，会增加神经网络的计算负担(如图4到图6)，特别是在在线辨识过程中，权值收敛太慢，会增加神经网络的误差。当梯度偏差较大时，为了避免神经网络漏掉最小值，控制增益应适当减小；当梯度偏差较小时，应适当增加控制增益，以尽快找到神经网络的最小值。线性函数不能满足上述要求，因此在饱和函数中引入非线性双曲正切函数，设计了梯度下降法。双曲正切函数的表达式如下：

其中，当x→0时，函数的斜率较大。随着x的增大，斜率非线性减小，直到接近0。而且双曲正切函数严格有界，满足设计要求和约束条件。考虑双曲正切函数而不是固定值η和a。我们选择使：

因此所以设置 能够把保证f(x+Δx)＜f(x)

继续考虑的变化，将动量因子a也改为双曲切线函数。改进的梯度下降法如下：

采用神经网络估计进行建模，通过RBF神经网络对整体模型进行逼近，根据公式

RBF神经网络输入x＝(x_i)^T，网络的隐含层输出为h＝(h_j)^T，h_j为隐含层第j个神经元的输出：其中，c_ij为隐含层第j个神经元高斯基函数中心点的坐标向量，b_j为隐含层第j个神经元高斯基函数的宽度。RBF的网络权值为w，RBF网络输出为y(t)＝w^Th。

进一步地，使用非线性函数改进梯度下降法，取代原来梯度下降法中的学习速率和动量因子，使其具有更好的逼近效果。包括：

w_j(t)＝w_j(t-1)+Δw_j(t)+k₂tanh(k₃(w_j(t-1)-w_j(t-2))) (19)

b_j(t)＝b_j(t-1)+Δb_j(t)+k₂tanh(k₃(b_j(t-1)-b_j(t-2))) (21)

其中，E(t)为网络逼近误差指标，k₀、k₁、k₂、k₃为设计的正参数，k₀和k₂的物理意义是偏导数大时偏导数的最大衰减率，k₁和k₃的物理意义是偏导数小时，它拉伸或压缩坐标并以指数速率衰减，t表示时间；公式1表示艏向角误差，ψ(t)表示当前时刻的输出艏向角的值；ψ_m(t)表示当前时刻的输入艏向角的值。公式2和公式3表示对神经网络中的权重进行训练更新，w_j(t-1)表示前一时刻的权重值，w_j(t-2)表示前两时刻的权重值，公式4和公式5表示对高斯基函数的宽度进行训练更新，b_j(t-1)表示前一时刻的宽度，b_j(t-2)表示前一时刻的宽度；公式6和公式7表示对神经元的中心点矢量值进行训练更新，表示前一时刻的中心点，/>表示前两时刻的中心点；为了解决原梯度下降法中由于学习速率和动量因子引起的权值收敛太慢，容易错过极值点的问题，使用可变的双曲正切函数代替神经网络中的学习速率和动量因子。

改进后的梯度下降法具有更快的收敛速度，且有着更高的估计精度。

采用所述神经网络系统辨识方法对船舶整体模型逼近，并根据所述船舶模型进行船舶的仿真和控制器设计。

实施例2

本实例以教学实习船“育鲲”轮和“育鹏”轮为仿真对象，输入信号为u(k)＝3*sin0.1x,k₀和k₂取0.1，k₁和k₃取0.5在对比仿真图中，取学习速率η＝0.5和动量因子a＝0.05作为对比仿真算法。定义总体逼近误差评价函数(Total Approximation Error)：

表1

图7显示了“育鹏”轮在6级风浪干扰下两种算法的逼近效果比较。从图7可以看出，改进后的算法具有更好的逼近效果。与未改进算法相比，改进算法的误差降低了68.9％。图8给出了两种算法误差的持续时间曲线，传统梯度下降法的最大逼近误差大于0.05，而改进算法的最大逼近误差小于0.03。

图9显示了“育鹏”轮在9级风浪干扰下两种算法的逼近效果比较。随着风浪扰动的增强，神经网络的逼近误差也在增大，但改进算法的逼近误差比传统的梯度下降法降低了65％。图10给出了两种算法误差的持续时间曲线，传统梯度下降法的最大逼近误差大于0.1，而改进算法的最大逼近误差小于0.1。

图11显示了“育鲲”轮在6级风浪干扰下两种算法的逼近效果比较。对于不同的船舶，改进算法同样有效，逼近误差降低了86.4％。结果表明，基于神经网络的船模逼近方法具有良好的适用性。但由于育鲲的体积比育鹏小，不足以抵御风浪的干扰。图12给出了两种算法误差的持续时间曲线，传统梯度下降法的最大逼近误差大于0.02，而改进算法的最大逼近误差小于0.01。

图13显示了“育鲲”轮在9级风浪干扰下两种算法的逼近效果比较。近似误差降低了86.1％。Matlab仿真结果表明，改进的RBF神经网络能够很好地逼近时变船舶的整体模型。图14给出了两种算法误差的持续时间曲线，传统梯度下降法的最大逼近误差大于0.05，而改进算法的最大逼近误差小于0.02。

本发明的有益效果：通过将船舶外界干扰和模型视为一个整体模型，通过神经网络对其进行逼近，采用改进的梯度下降法对神经网络参数进行更行，解决船舶仿真和运动控制中船舶模型不确定和外界干扰的问题。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (4)

1.一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，其特征在于包括以下步骤：

S1、建立包含船舶的风、浪干扰和船舶非线性Nomoto模型在内的整体模型；

所述S1包括以下步骤：

S101、建立输入输出响应关系的船舶内部模型；

S102、建立风的扰动模型，风的扰动模型加入到船舶内部模型的输入端；

S103、建立波浪的扰动模型，波浪的扰动模型加入到船舶内部模型的输出端；

S2、通过神经网络对S1中的整体模型进行逼近；

所述S2采用神经网络对整体模型进行逼近的计算公式为：

其中，神经网络输入为x＝(x_i)^T _，网络的隐含层输出为h＝(h_j)^T _，hj为隐含层第j个神经元的输出，c_ij为隐含层第j个神经元高斯基函数中心点的坐标向量，b_j为隐含层第j个神经元高斯基函数的宽度；神经网络的网络权值为w，神经网络的网络输出为y(t)＝w^Th；

S3、采用改进梯度下降法对神经网络进行优化，根据所述船舶模型进行船舶的仿真和控制器设计；

所述S3采用改进梯度下降法对神经网络权值进行优化的计算公式为：

其中，E(t)为网络逼近误差指标，k₀、k₁、k₂、k₃为设计的正参数，k₀和k₂的物理意义是偏导数大时偏导数的最大衰减率，k₁和k₃的物理意义是偏导数小时，它拉伸或压缩坐标并以指数速率衰减，t表示时间；公式1表示艏向角误差，ψ(t)表示当前时刻的输出艏向角的值；ψ_m(t)表示当前时刻的输入艏向角的值；公式2和公式3表示对神经网络中的权重进行训练更新，w_j(t-1)表示前一时刻的权重值，w_j(t-2)表示前两时刻的权重值；公式4和公式5表示对高斯基函数的宽度进行训练更新，b_j(t-1)表示前一时刻的宽度，b_j(t-2)表示前两时刻的宽度；公式6和公式7表示对神经元的中心点矢量值进行训练更新，表示前一时刻的中心点，/>表示前两时刻的中心点。

2.根据权利要求1所述的一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，其特征在于，所述S102风的扰动模型为：

其中，σ_Y为风作用在Y轴的力矩，σ_N为风作用于绕重心的铅直轴的回转力矩，ρ_A为空气密度，C_Y(γ_R)和C_N(λ_R)分别为风力和风力矩的无量纲系数，L为船舶长度。

3.根据权利要求2所述的一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，其特征在于，所述S103波浪的扰动模型为：

y(s)＝h(s)ω(s) (9)

其中，y(s)为波浪扰动，ω(s)为零均值高斯白噪声，h(s)为波的二阶传递函数。

4.根据权利要求2所述的一种基于改进梯度下降法的神经网络船舶整体模型逼近方法，其特征在于，所述S101建立的船舶内部模型为：

建立船舶航向保持控制的非线性Nomoto模型为：

其中，ψ表示航向角，α以及β是转艏角速度的比例系数，K、T为船舶操纵性指标，K_E为舵机操纵增益，T_E为舵机时间常数，δ实际舵角，以及δ_r是指令舵角，f₁为船舶系统的内部不确定性，d为外部扰动，f为总扰动。