CN111507530B - 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 - Google Patents

基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 Download PDF

Info

Publication number
CN111507530B
CN111507530B CN202010309180.7A CN202010309180A CN111507530B CN 111507530 B CN111507530 B CN 111507530B CN 202010309180 A CN202010309180 A CN 202010309180A CN 111507530 B CN111507530 B CN 111507530B
Authority
CN
China
Prior art keywords
neural network
traffic flow
rbf
gradient descent
fractional order
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010309180.7A
Other languages
English (en)
Other versions
CN111507530A (zh
Inventor
方琼林
薛晗
沈金城
郭志富
李文锋
伊富春
邵哲平
洪长华
赵强
张锋
马峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamen Aids To Navigation Department Of Dongguan Navigation Safety Administration Mot
Jimei University
Original Assignee
Xiamen Aids To Navigation Department Of Dongguan Navigation Safety Administration Mot
Jimei University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamen Aids To Navigation Department Of Dongguan Navigation Safety Administration Mot, Jimei University filed Critical Xiamen Aids To Navigation Department Of Dongguan Navigation Safety Administration Mot
Priority to CN202010309180.7A priority Critical patent/CN111507530B/zh
Publication of CN111507530A publication Critical patent/CN111507530A/zh
Application granted granted Critical
Publication of CN111507530B publication Critical patent/CN111507530B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/26—Government or public services

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Development Economics (AREA)
  • Biophysics (AREA)
  • General Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Educational Administration (AREA)
  • Primary Health Care (AREA)
  • Traffic Control Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提出一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于：以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入，输出是未来c分钟的船舶交通流量；所述神经网络采用FOGDM‑RBF神经网络。其能有效地加快梯度下降法的收敛速度，提高性能，具有较高的精度和有效性，避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点，并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。

Description

基于分数阶动量梯度下降的RBF神经网络船舶交通流预测 方法
技术领域
本发明属于船舶交通、机器学习领域，具体涉及一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法。
背景技术
随着世界航运业的日益繁忙，大型船舶交通流导致海上交通事故频发，造成巨大的经济损失。船舶交通流量是海上交通工程中的基本量，是衡量海上交通基础设施建设的重要指标。其预测结果可为制定科学的港口管理规划和船舶航行管理提供依据。因此，保证船舶交通流量预测的准确性和合理性，对完善港口基础设施建设，制定科学的港口管理策略具有重要意义。许多先进的人工智能优化算法已被用于船舶交通流预测，如人工神经网络(ZHAI Jiugang，TIAN Yanfei， YAN Xinpinga.(2013)Prediction of vessel trafficflow based on BP neural network and residual analysis.Journal of ShanghaiMaritime University,34(1):19-22.ZHANG Shukui,XIAO Yingjie(2015)Grey neuralnetwork model for ship traffic flow prediction.Journal of Shanghai MaritimeUniversity,36(1):46-49)。神经网络能够处理复杂的非线性问题，并取得了一定的效果。然而，神经网络本身存在学习速度慢、易陷入局部极值、学习记忆不稳定等缺点。
近年来，人工神经网络在模式识别、专家系统、机器人、复杂系统控制等领域得到了广泛的应用。神经网络的权值是通过训练得到的。梯度下降(GD)是更新和优化神经网络权值的基本方法(Yin,P.,Zhang,S.,Lyu,J.et al.Res Math Sci(2019)6:14.https://doi.org/10.1007/s40687-018-0177-6.； Kobayashi,Masaki(2017)Gradient descentlearning for quaternionic Hopfield neural networks.Neurocomputing 260:174-179.)。GD标准有两个主要缺点：训练速度慢，容易陷入局部最优解。得到收敛解需要很长时间，每一步都要计算和调整下一步的方向。当应用于大型数据集时，每个输入样本都需要更新其参数，每个迭代都需要遍历所有样本。一旦落入鞍点，梯度为零，模型参数不更新。
在GD的基础上，随机梯度下降(SGD)根据数据分布将总数据分为几个小批量，并用小批量数据更新参数。每个更新步骤的计算时间不取决于训练样本的数量。它可以收敛于大量的训练样本。对于足够大的数据集，SGD可以在处理整个训练集之前收敛到最终测试器错误的容错范围。然而，很难选择合适的学习率。
如果学习率设置得太大，学习曲线将剧烈振荡，代价函数值将明显增加。如果学习率设置得太小，学习过程将非常缓慢，学习可能会陷入相当高的成本价值。 SGD算法在随机选择梯度的同时也引入了噪声，使得权值更新的方向不是最优的。
为了避免SGD的高方差振荡，提出了动量法(Wu W,ZhangNM,LiZX,Li L, Liu Y(2008)Convergence of gradient method with momentum for back-propagationneural networks.Journal of computational mathematics 26(4):613-623.)。通过考虑运动目标的相关训练方向，弱化不相关方向，模拟运动目标的惯性。当梯度指向先前的实际运动方向时，动量项增大，当梯度与实际运动方向相反时，动量项减小。因此，动量可以加速相关方向的学习，抑制振荡，加速收敛，特别是在处理高曲率、小而一致的梯度或带噪声的梯度时。然而，很难选择一个更好的学习率。
发明内容
为了预防海上交通事故的发生，做出科学的决策，对交通流进行科学、准确的预测。同时为了改善通过神经网络预测船舶交通流量的效果，考虑到权值更新方法在提高神经网络性能方面发挥了重要作用。为了改善训练RBF神经网络时的振荡现象，本发明提出了一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其采用分数阶动量梯度下降法(FOGDM-RBF)来更新RBF神经网络的权值。，其采用新算法调整神经网络的权值，提高其学习速度和性能，用于船舶交通流预测。将分数阶微积分应用于梯度下降的动量算法训练神经网络，避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点，并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。
本发明具体采用以下技术方案：
一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于：以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入，输出是未来c分钟的船舶交通流量；所述神经网络采用FOGDM-RBF 神经网络。
优选地，所述FOGDM-RBF神经网络的激活函数采用径向基函数，并采用 RBF计算神经网络的输出：
Figure RE-GDA0002552855990000031
其中W(n)为神经网络的权重，
Figure RE-GDA0002552855990000032
为径向基函数，n为训练样本，x为训练向量，W(n)＝[w1(n),w2(n),…,wP(n)]，P为隐含层节点数量；所述FOGDM-RBF神经网络定义d(n)为神经网络的期望输出，则误差信号为:e(n)＝d(n)-y(n)，其中，y(n)为神经网络的输出；所述 FOGDM-RBF神经网络的目标函数为
Figure RE-GDA0002552855990000033
所述 FOGDM-RBF神经网络的梯度下降动量算法为：
Figure RE-GDA0002552855990000034
其中η＞0是学习因子，0＜α＜1，D 表示Riemann-Liouville积分，γn是动量系数，c表示时间起点，△表示差值或增量：
Figure RE-GDA0002552855990000035
0＜γ＜η，动量因子γ∈(0,η)；所述FOGDM-RBF神经网络采用公式：
Figure RE-GDA0002552855990000036
计算目标函数的Caputo分数阶导数，其中：N表示输入训练样本的数量，i表示第i个隐藏层。
优选地，所述FOGDM-RBF神经网络的训练过程包括以下步骤：
步骤S1：初始化神经网络模型；
步骤S2：初始化神经网络的权值；
步骤S3：重复执行步骤S4-步骤S10，直至误差小于预设的阈值；
步骤S4：计算神经网络的激活函数；
步骤S5：计算神经网络的输出；
步骤S6：计算神经网络的输出误差；如误差小于预设的阈值，则完成 FOGDM-RBF神经网络的训练；
步骤S7：计算目标函数；
步骤S8：计算目标函数的Caputo分数阶导数；
步骤S9：更新动量系数；
步骤S10：更新神经网络的权值；
优选地，利用训练完成的神经网络权值和输入的数据集，计算交通流预测结果。
优选地，神经网络的输入还包括季节数据和/或港口吞吐量数据和/或潮汐数据。
本发明及其优选方案证明FOGDM-RBF的收敛性，并提出利用该算法对船舶交通流进行预测的方案。随着迭代次数的增加，该算法表现稳定并收敛到零。其误差值下降曲线比梯度下降法和动量梯度下降法的误差值下降曲线平滑。误差分析表明，该算法能有效地加快梯度下降法的收敛速度，提高性能，具有较高的精度和有效性，避免了传统神经网络训练速度慢、容易陷入局部最优解、高方差振荡等缺点，并融入了分数阶运算所具有地更快的响应速度、更低的超调、更小的抖振效应和更好的预测控制性能。
附图说明
下面结合附图和具体实施方式对本发明进一步详细的说明：
图1为本发明实施例RBF神经网络结构示意图；
图2为本发明实施例比较用于训练RBF神经网络的不同算法的结果示意图 (包括梯度下降算法、带动量的梯度下降算法和本实施例提供的带动量的分数阶梯度下降算法)；
图3为本发明实施例不同分数阶的计算迭代次数示意图；
图4为本发明实施例不同隐层神经元节点数的计算迭代次数和误差标准差示意图。
具体实施方式
为让本专利的特征和优点能更明显易懂，下文特举实施例，作详细说明如下：
首先介绍本实施例所依据算法模型的数学基础：
1.RBF神经网络
1985年，鲍威尔提出了一种用于多元插值的径向基函数(RBF)方法。最常用的径向基函数是高斯函数：
Figure RE-GDA0002552855990000051
Figure RE-GDA0002552855990000052
式中x是输入向量；||x||表示欧拉范数x；
Figure RE-GDA0002552855990000053
表示径向基函数；xi表示其中心向量；σj表示径向基函数宽度；μi表示阈值向量；P表示隐含层节点数量；N表示输入训练样本的数量；y表示神经网络的输出：
Figure RE-GDA0002552855990000054
W(n)＝[w1(n),w2(n),…,wP(n)] (2.4)
RBF神经网络的结构图如图1所示。
2.FGD-RBF神经网络
2.1分数阶微积分
分数阶微积分的Riemann-Liouville定义如下:
定义1对在[t0,t]区间绝对可积x(t),其Riemann-Liouville积分定义如下:
Figure RE-GDA0002552855990000055
其中α的实部是正实数。伽马函数Γ(x)定义为：
Figure RE-GDA0002552855990000056
定义2.对在[t0,t]区间绝对可积x(t),其Riemann-Liouville微分定义如下:
Figure RE-GDA0002552855990000057
式中α∈[m-1,m)；m为正整数。
定义3.对函数f(x)＝(x-x0)v，当0≤m≤p＜m+1,下式成立:
Figure RE-GDA0002552855990000058
2.2 FOGDM-RBF
定义d(n)a为神经网络的期望输出，误差信号为:
Figure RE-GDA0002552855990000061
定义目标函数为:
Figure RE-GDA0002552855990000062
记：
Δw(n+1)＝w(n+1)-Δw(n) (3.7)
梯度下降动量算法定义如下：
Figure RE-GDA0002552855990000063
0＜α＜1(3.9)
式中η＞0是学习因子，γn是动量系数：
Figure RE-GDA0002552855990000064
0＜γ＜η (3.11)
γ∈(0,η)为动量因子，||·||是欧拉范数。根据Caputo分数阶微分定义可得:
Figure RE-GDA0002552855990000065
2.3 FOGAM-RBF收敛性分析
首先给出以下假设。
(A1)
Figure RE-GDA0002552855990000066
一致有界：
Figure RE-GDA0002552855990000067
(A2)w一致有界：
Figure RE-GDA0002552855990000068
由于最常见的高斯函数是一致有界可微的，所以这个条件很容易满足。
引理1(Sutherland,1975)每个有界单调实数序列收敛。
Theorem1.若(A1)与(A2)成立，且有
Figure RE-GDA0002552855990000071
则下式成立：
J(w(n+1))≤J(w(n)) (3.16)
Figure RE-GDA0002552855990000072
Figure RE-GDA0002552855990000073
证明.利用带Lagrange余项的Taylor中值定理，可以得到：
Figure RE-GDA0002552855990000074
由(3.12)可得如果
Figure RE-GDA0002552855990000075
下式成立:
Figure RE-GDA0002552855990000076
将(3.20)代入(3.19)第一项可得:
Figure RE-GDA0002552855990000077
由(3.8)可得：
Figure RE-GDA0002552855990000078
将(3.10)代入(3.22)可得:
Figure RE-GDA0002552855990000081
将(3.23)代入(3.21)可得:
Figure RE-GDA0002552855990000082
由(3.14)可得:
Figure RE-GDA0002552855990000083
将(3.25)代入(3.24)可得:
Figure RE-GDA0002552855990000084
如果
Figure RE-GDA0002552855990000085
不失一般性，假设(w1(n)-c)1-α＝0
由(3.12)可得：
Figure RE-GDA0002552855990000086
将(3.27)代入(3.24)可得：
Figure RE-GDA0002552855990000087
由(3.26)和(3.28)可得：
Figure RE-GDA0002552855990000088
由(3.8)可得：
Figure RE-GDA0002552855990000091
将(3.10)代入(3.30)可得:
Figure RE-GDA0002552855990000092
将(3.31)代入(3.19)第二项可得:
Figure RE-GDA0002552855990000093
由(3.13)可得
Figure RE-GDA0002552855990000094
将(3.33)代入(3.32)可得：
Figure RE-GDA0002552855990000095
将(3.13)代入(3.34)得:
Figure RE-GDA0002552855990000096
将(3.35)代入(3.19)可得:
Figure RE-GDA0002552855990000097
将(3.29)代入(3.36)可得:
Figure RE-GDA0002552855990000101
从(3.15)可得
J(w(n+1))-J(w(n))≤0(3.38)
式(3.16)得证。
由上式可知，单调下降序列J(w(n))有界且J(w(n))≥0.由引理1可得J(w(n))收敛，因此存在J*≥0使得：
Figure RE-GDA0002552855990000102
(3.17)得证。
记：
Figure RE-GDA0002552855990000103
将(3.40)代入(3.37)可得:
Figure RE-GDA0002552855990000104
因此可得：
Figure RE-GDA0002552855990000105
因为J(w(n+1))≥0,可得:
Figure RE-GDA0002552855990000106
当n→+∞,下式成立：
Figure RE-GDA0002552855990000107
因此可得：
Figure RE-GDA0002552855990000108
式(3.18)得证。
3 FOGDM-RBF预测流程
基于以上提出的FOGDM-RBF算法，本实施例将其应用于船舶交通流预测。
FOGDM-RBF预测交通流流程如下所示。
Figure RE-GDA0002552855990000111
其中，神经网络的输入是前10小时船舶交通流量与下一次涨潮前分钟的交通流量。神经网络的输出是未来10分钟的船舶交通流量。考虑到最大限度地遵循自然规律，本实施例进一步地可以以实时季节、港口吞吐量、潮汐数据等人为和自然因素作为神经网络的输入，已获得更为精确的预测结果。
4具体测试案例
在本实施例提供的的具体测试案例当中，采用厦门港2018年1月1日至2019 年1月11日的船舶交通流量数据。交通流量数据每10分钟计算一次。因此，每天有144条记录。数据量大到足以使神经网络得到足够的样本并产生准确的结果。用这种方法训练神经网络。
利用前10小时的船舶交通流量和下一次涨潮前1分钟的船舶交通流量预测未来10分钟的船舶交通流量。例如，利用2020年1月9日19:00至102020年 1月10日5:00的交通流量，以及下一次涨潮时间前的分钟，预测2020年1月 10日5:10的交通流量。通过这种方法，对神经网络进行了测试。神经网络的结构如表1所示。
表1神经网络结构
权重 [-1.0285,-1.4145,0.9107]
隐含层阈值 [1.7469,1.3322,3.3963]
输出层阈值 1.0453
输入层神经元数 4
隐含层神经元数 3
最大迭代次数 10000
评价方法 均方差
学习率 0.001
4.1实验数据
本实施例采用厦门港2018年1月1日至2019年1月11日的船舶交通流量数据。交通流量数据每10分钟计算一次。因此，每天有144条记录。数据量大到足以使神经网络得到足够的样本并产生准确的结果。
例如，用于预测的2020年1月11日厦门港船舶交通流量如表2所示。数据每10分钟计数一次。第二栏是在厦门港航行不到4小时的船舶数量。第三栏是在厦门港航行4至12小时的船舶数量。第四栏是在厦门港航行12至24小时的船舶数量。第五栏是在厦门港航行24小时以上的船舶数量。最后一栏是厦门港的船舶总数。
表2 2020.1.11厦门船舶交通流预测
Figure RE-GDA0002552855990000121
Figure RE-GDA0002552855990000131
4.2潮汐变化分析
考虑到船舶交通密度受周期性潮汐和日变化的影响明显。厦门市潮位表如表 3所示，包括日期、涨潮时间、潮高、平潮时间和落潮高度。
表3厦门潮汐表
日期 高潮 潮高/cm 低潮 潮高/cm
Jan.4,2020 18:42 485 12:21 194
Jan.5,2020 19:41 480 1:15 191
Jan.6,2020 20:39 486 2:19 171
Jan.7,2020 21:34 500 3:18 141
Jan.8,2020 22:22 517 4:10 107
实际船舶交通流量受潮汐、季节等因素影响，具有明显的周期性波动特征。利用历史数据分析船舶交通流中长期变化趋势的周期性波动规律，并将下一次涨潮前几分钟作为神经网络的输入变量之一。
利用前10小时的船舶交通流量和下一次涨潮前1分钟的船舶交通流量预测未来10分钟的船舶交通流量。例如，利用2020年1月9日19:00至102020年 1月10日5:00的交通流量，以及下一次涨潮时间前的分钟，预测2020年1月 10日5:10的交通流量。通过这种方法，对神经网络进行了测试。2020年1月5 日预测结果见表4。
表4 2020.1.5交通流预测
时间 预测 实际 误差
16:00 1570 1567 0.106％
16:10 1567 1564 0.192％
16:20 1566 1562 0.256％
16:30 1551 1556 0.321％
16:40 1555 1558 0.193％
16:50 1564 1560 0.256％
17:00 1565 1562 0.192％
17:10 1556 1553 0.193％
17:20 1546 1551 0.322％
17:30 1553 1557 0.257％
17:40 1573 1569 0.255％
17:50 1569 1572 0.191％
18:00 1573 1576 0.190％
由上表的结果进一步验证了模型和算法的有效性和正确性。神经网络可以从理论上逼近任何非线性系统，适用于船舶交通流的中短期预测。样本对模型的预测效果有重要影响。在小样本情况下，预测效果往往不理想。在样本足够的情况下，预测精度可以满足要求。
4.3 RBF神经网络不同训练算法的比较
图2比较了用于训练RBF神经网络的不同算法的结果，包括梯度下降、带动量的梯度下降和带动量的分数阶梯度下降。
结果表明，梯度下降法的误差最大。然后，动量梯度下降的误差值是第二大的。动量梯度下降法的误差最小，说明训练速度加快。FOGDM-RBF可以提高神经网络的学习速度和精度。它具有良好的泛化性能，不易陷入局部最优。该算法性能稳定，随着迭代次数的增加收敛到零。实验结果验证了算法的单调性和收敛性。
同时，分数阶动量梯度下降法的误差值下降曲线比梯度下降法和动量梯度下降法的误差值下降曲线更平滑。梯度下降法误差值的下降曲线振荡更明显，跳跃次数更多。动量梯度下降法误差值的下降曲线表明，引入动量可以在一定程度上改善这种振荡现象。
4.4分数阶的影响分析。
不同分数阶的计算迭代次数如图3所示。
图3示出随着分数阶的增加，准确率提高。当分数阶数超过某一阈值时，准确率开始下降。最佳分数阶应为0.7。由于整数阶微分是分数阶微积分的特例，分数阶微积分具有参数选择范围宽、灵活性强等优点。
4.5隐藏层节点数的影响分析。
不同隐层神经元节点数的计算迭代次数和误差标准差如图4所示。
图4显示如果隐层节点的数目太少，神经网络就不能具备必要的学习和信息处理能力。神经网络可能根本无法训练，或者网络性能很差。如果隐层节点数目过多，神经网络的系统误差就会减小。然而，神经网络在学习过程中容易陷入局部极小值。它不仅会增加神经网络结构的复杂性，而且会使神经网络的学习速度变慢。
本专利不局限于上述最佳实施方式，任何人在本专利的启示下都可以得出其它各种形式的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本专利的涵盖范围。

Claims (4)

1.一种基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于：以前a小时船舶交通流量与下一次涨潮前b分钟的交通流量作为神经网络的输入，输出未来c分钟的船舶交通流量；所述神经网络采用FOGDM-RBF神经网络；
所述FOGDM-RBF神经网络的激活函数采用径向基函数，并采用RBF计算神经网络的输出：
Figure FDA0003552981460000011
其中W(n)为神经网络的权重，
Figure FDA0003552981460000012
为径向基函数，n为训练样本，x为训练向量，W(n)＝[w1(n),w2(n),…,wP(n)]，P为隐含层节点数量；所述FOGDM-RBF神经网络定义d(n)为神经网络的期望输出，则误差信号为:e(n)＝d(n)-y(n)，其中，y(n)为神经网络的输出；所述FOGDM-RBF神经网络的目标函数为
Figure FDA0003552981460000013
所述FOGDM-RBF神经网络的梯度下降动量算法为：
Figure FDA0003552981460000014
其中η＞0是学习因子，0＜α＜1，D表示Riemann-Liouville积分，γn是动量系数，c表示时间起点，△表示差值或增量：
Figure FDA0003552981460000015
0＜γ＜η，动量因子γ∈(0,η)；所述FOGDM-RBF神经网络采用公式：
Figure FDA0003552981460000016
计算目标函数的Caputo分数阶导数，其中：N表示输入训练样本的数量，i表示第i个隐藏层。
2.根据权利要求1所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于，所述FOGDM-RBF神经网络的训练过程包括以下步骤：
步骤S1：初始化神经网络模型；
步骤S2：初始化神经网络的权值；
步骤S3：重复执行步骤S4-步骤S10，直至误差小于预设的阈值；
步骤S4：计算神经网络的激活函数；
步骤S5：计算神经网络的输出；
步骤S6：计算神经网络的输出误差；如误差小于预设的阈值，则完成FOGDM-RBF神经网络的训练；
步骤S7：计算目标函数；
步骤S8：计算目标函数的Caputo分数阶导数；
步骤S9：更新动量系数；
步骤S10：更新神经网络的权值。
3.根据权利要求2所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于：利用训练完成的神经网络权值和输入的数据集，计算交通流预测结果。
4.根据权利要求1所述的基于分数阶动量梯度下降的RBF神经网络船舶交通流预测方法，其特征在于：神经网络的输入还包括季节数据和/或港口吞吐量数据和/或潮汐数据。
CN202010309180.7A 2020-04-17 2020-04-17 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法 Active CN111507530B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010309180.7A CN111507530B (zh) 2020-04-17 2020-04-17 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010309180.7A CN111507530B (zh) 2020-04-17 2020-04-17 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法

Publications (2)

Publication Number Publication Date
CN111507530A CN111507530A (zh) 2020-08-07
CN111507530B true CN111507530B (zh) 2022-05-31

Family

ID=71869516

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010309180.7A Active CN111507530B (zh) 2020-04-17 2020-04-17 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法

Country Status (1)

Country Link
CN (1) CN111507530B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112083654B (zh) * 2020-09-16 2022-09-16 交通运输部东海航海保障中心连云港航标处 一种航标船抗干扰轨迹跟踪控制方法
CN112488183B (zh) * 2020-11-27 2024-05-10 平安科技（深圳）有限公司 一种模型优化方法、装置、计算机设备及存储介质
CN112929308B (zh) * 2021-01-22 2022-05-17 西安电子科技大学 基于最大相关熵和分数阶常模盲均衡的信道畸变消除方法
CN113408824A (zh) * 2021-07-15 2021-09-17 北京工业大学 一种基于rbf神经网络的生活垃圾收集过程氨气浓度智能预测方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0962979A (ja) * 1995-08-25 1997-03-07 Toshiba Corp 交通流予測装置
CN106295794A (zh) * 2016-07-27 2017-01-04 中国石油大学(华东) 基于光滑Group Lasso惩罚项的分数阶的神经网络建模方法
CN109165724A (zh) * 2018-08-06 2019-01-08 哈工大大数据（哈尔滨）智能科技有限公司 一种基于神经网络的梯度下降迭代次数预测方法及装置
CN109492814A (zh) * 2018-11-15 2019-03-19 中国科学院深圳先进技术研究院 一种城市交通流量预测方法、系统及电子设备
CN110111606A (zh) * 2019-03-18 2019-08-09 上海海事大学 一种基于eemd-iaga-bp神经网络的船舶交通流预测方法
CN110163433A (zh) * 2019-05-21 2019-08-23 上海海事大学 一种船舶流量预测方法
CN110222844A (zh) * 2019-05-30 2019-09-10 西安交通大学 一种基于人工神经网络的压缩机性能预测方法
CN110555560A (zh) * 2019-09-05 2019-12-10 浙江工商大学 内河船舶交通流预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10572800B2 (en) * 2016-02-05 2020-02-25 Nec Corporation Accelerating deep neural network training with inconsistent stochastic gradient descent

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0962979A (ja) * 1995-08-25 1997-03-07 Toshiba Corp 交通流予測装置
CN106295794A (zh) * 2016-07-27 2017-01-04 中国石油大学(华东) 基于光滑Group Lasso惩罚项的分数阶的神经网络建模方法
CN109165724A (zh) * 2018-08-06 2019-01-08 哈工大大数据（哈尔滨）智能科技有限公司 一种基于神经网络的梯度下降迭代次数预测方法及装置
CN109492814A (zh) * 2018-11-15 2019-03-19 中国科学院深圳先进技术研究院 一种城市交通流量预测方法、系统及电子设备
CN110111606A (zh) * 2019-03-18 2019-08-09 上海海事大学 一种基于eemd-iaga-bp神经网络的船舶交通流预测方法
CN110163433A (zh) * 2019-05-21 2019-08-23 上海海事大学 一种船舶流量预测方法
CN110222844A (zh) * 2019-05-30 2019-09-10 西安交通大学 一种基于人工神经网络的压缩机性能预测方法
CN110555560A (zh) * 2019-09-05 2019-12-10 浙江工商大学 内河船舶交通流预测方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
A New GA-based RBF Neural Network with Optimal Selection Clustering Algorithm for SINS Fault Diagnosis;刘志德 等;《International Conference on Industrial Engineering and Engineering Management IEEM》;20091231;第2348-2352页 *
Ship Traffic Flow Prediction Based on Fractional Order Gradient Descent with Momentum for RBF Neural Network;薛晗;《JOURNAL OF SHIP RESEARCH》;20210630;第65卷(第2期);第100-107页 *
分段学习的双隐层BPNN对交通流量预测的研究;毛玉明 等;《计算机工程与应用》;20080715;第44卷(第13期);第203-205页 *
智能船舶交通管理系统关键技术的研究与应用;杨鑫;《中国博士学位论文全文数据库 信息科技辑》;20130315(第3期);全文 *

Also Published As

Publication number Publication date
CN111507530A (zh) 2020-08-07

Similar Documents

Publication Publication Date Title
CN111507530B (zh) 基于分数阶动量梯度下降的rbf神经网络船舶交通流预测方法
CN108280551B (zh) 一种利用长短期记忆网络的光伏发电功率预测方法
CN110543929B (zh) 一种基于Lorenz系统的风速区间预测方法及系统
CN111310965A (zh) 一种基于lstm网络的飞行器航迹预测方法
CN111027732B (zh) 一种多风电场出力场景的生成方法及系统
CN113359448A (zh) 一种针对时变动力学的自主水下航行器轨迹跟踪控制方法
CN112381334B (zh) 基于多因素模糊时间序列的高陡边坡形变趋势预测的方法
CN112215412B (zh) 溶解氧预测方法及装置
CN111723523A (zh) 一种基于级联神经网络的河口余水位预测方法
Lubana et al. How do quadratic regularizers prevent catastrophic forgetting: The role of interpolation
CN115062528A (zh) 一种针对工业过程时序数据的预测方法
CN114740710A (zh) 一种随机非线性多智能体的强化学习优化编队控制方法
CN116976227B (zh) 一种基于lstm机器学习的风暴增水预报方法及系统
CN114330119A (zh) 一种基于深度学习的抽蓄机组调节系统辨识方法
Chi et al. Comparison of two multi-step ahead forecasting mechanisms for wind speed based on machine learning models
CN116880191A (zh) 一种基于时序预测的过程工业生产系统的智能控制方法
CN112464567A (zh) 基于变分同化框架的智能资料同化方法
CN116910534A (zh) 一种不同海域海洋环境要素时空智能预测方法和装置
Zhou et al. Application of PSO-LSTM for forecasting of ship traffic flow
WO2023151201A1 (zh) 一种快速灵活全纯嵌入式神经网络广域寻优训练方法
CN114995106A (zh) 基于改进小波神经网络的pid自整定方法、装置和设备
CN115167102A (zh) 一种基于并行优势动作评价的强化学习自适应pid控制方法
CN114202063A (zh) 一种基于遗传算法优化的模糊神经网络温室温度预测方法
EP3824412A1 (en) Method and apparatus for actively tuning a predictor to an input signal
Wu et al. The mobile robot GPS position based on neural network adaptive kalman filter

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant