CN112232493A

CN112232493A - 一种基于改进鲸鱼算法的rbf神经网络优化方法

Info

Publication number: CN112232493A
Application number: CN202011240024.6A
Authority: CN
Inventors: 尚尚; 何康宁; 王召斌; 杨童; 刘明
Original assignee: Jiangsu University of Science and Technology
Current assignee: Jiangsu University of Science and Technology
Priority date: 2020-11-09
Filing date: 2020-11-09
Publication date: 2021-01-15

Abstract

本发明属于神经网络优化的技术领域，具体地说，是一种基于改进鲸鱼算法的RBF神经网络优化方法，将改进的鲸鱼算法用于寻找RBF神经网络的最优初始参数，接着通过训练网络建立起海杂波的预测模型，对临近单元的海杂波进行预测和抑制，在鲸鱼算法迭代过程中动态的计算每一代种群的适应度均值，设置下一代种群的适应度阈值，将整个种群分为优质鲸鱼和非优质鲸鱼两个子种群，以不同的步长向全局最优靠近；另外，在执行收缩更新时，引入物质交换的思想，让新产生的粒子获得全局认知，能够稳定的向全局最优的方向搜索，改进的鲸鱼算法在迭代过程中兼具全局和局部的搜索能力，提高了收敛速度和精度。

Description

一种基于改进鲸鱼算法的RBF神经网络优化方法

技术领域

本发明属于神经网络优化技术领域，具体地说，是一种基于改进鲸鱼算法的RBF神经网络优化方法。

背景技术

高频雷达发射高频电磁波，短波能够沿着海洋表面绕射传播，实现对海洋的全天候、超视距监测。目前，高频雷达已经被广泛应用于海上预警、海上资源探测以及海上救援等诸多领域。欧盟海上交通监测项目RANGER在高频雷达体制方面的创新性研究，使得高频雷达在越来越多的领域实现了越来越好的应用。然而，高频雷达在对海上目标进行探测的时候，回波当中往往会掺杂着大量的干扰回波，其中主要干扰成分即为海杂波，海杂波在多普勒普当中呈现出较高的幅度特征，给目标的检测带来很大的干扰，对高频雷达回波当中的海杂波实现精准抑制成了精确检测海上目标的关键。

追溯学者们对海杂波的研究历程，最早是在海杂波统计特性模型方面的研究。学者们试图用一些标准的幅度模型来描述海杂波，但是没有任何一种模型可以精确的模拟海杂波的幅度特性，更重要的是，没有任何一种模型能够适用于各种海况下的海杂波。当学者们从其他角度探究海杂波特性时，发现海杂波具有混沌的诸多特性，是一种混沌的动力学系统，而混沌系统的内部是有着复杂的确定性规律的，如果能够学习海杂波内在的动力学规律，就有可能建立起精确的海杂波的预测模型，也就能更好的实现海杂波的精确抑制。近年来蓬勃发展的神经网络对学习复杂的动力学系统有着得天独厚的优势，径向基(RadialBasis Function,RBF)神经网络由于结构简单且具有强大的非线性映射能力，成为学习海杂波混沌特性的首选。由于RBF神经网络模型训练的精度很大程度上受到其初始参数的影响，引入鲸鱼优化算法，能够很好的找到最优的网络初始化参数，提高网络对海杂波混沌特性的学习能力。

鲸鱼优化算法(Whale OptimizationAlgorithm)是模仿自然界中鲸鱼群捕食行为而产生的一种优化模型。在捕食过程中，鲸鱼群会一起编制泡泡网，泡泡网呈现螺旋状收缩，收缩到最后鱼群就会被集中在一片很小的区域，鲸鱼就能够轻易的捕食。体现在算法中，粒子在寻优的过程中有两个更新的方式，即收缩更新方式和螺旋更新方式，两种更新方式在整个过程中各占一半。这种螺旋上升的更新方式，能够很好的考虑到粒子的周围信息，不容易陷入局部最优解，整个螺旋更新结束之后，鲸鱼粒子群就能找到问题的最优解。鲸鱼优化算法于2016年由S.Mirjalili提出，目前在电力系统、控制工程以及通信系统等领域得到很好的应用。将鲸鱼优化算法引入RBF神经网络中，很好的解决了RBF神经网络初始参数难以选取的问题，增强了网络模型的精确度和稳定性。

鲸鱼优化算法在寻优过程中也有诸多不足，在每一次的迭代更新中，每一个粒子都以同样的方式向全局最优解靠近。但事实上，在每一代中，每个粒子距离全局最优解的长度都是不相等的，远离全局最优的粒子应该加大更新的步长，而靠近全局最优解的粒子应该减小更新的步长，否则都会影响收敛速度和寻优精度。也就是说，在整个的更新过程中，粒子之间没有协同分工寻优的意识，更新的步长单一，缺乏搜索的灵活性。另一方面，粒子在执行收缩更新策略时，当|A|≥1，算法会从种群中随机选取一个粒子作为基准进行更新，此机制意在让粒子跳出局部最优，但是随机选取的这种策略只考虑到某一个粒子的信息，以单个粒子的信息作为更新的基准，无法让粒子向正确的方向更新，缺乏结合全局信息的能力。

发明内容

本发明的目的在于解决现有的鲸鱼算法缺乏灵活性、更新时忽略全局信息、收敛速度慢，易陷入局部最优的技术问题，在此基础上提出一种基于改进鲸鱼算法的RBF神经网络优化方法。

本发明设计了两个方面的改进机制。针对粒子协同分工搜索能力的缺乏问题，设计了一个动态的适应度阈值，将种群分为两类子种群，两类子种群可以灵活的调整自己更新步长的长短，提高算法的收敛速度和精度。针对粒子缺乏结合全局信息能力的问题，本发明引入多元宇宙算法的思想，替代了原来随机寻找粒子的方式，使得更新基准具备了全局信息，保障了粒子向全局最优方向更新。本发明的两项设计，使得鲸鱼优化算法有了更大的灵活性和方向性，将改进的鲸鱼优化算法运用到RBF神经网络的优化中，增强了网络的精确度和鲁棒性，对网络模型更加精确的学习海杂波的混沌特性以及精确抑制海杂波有着重要意义。

本发明为实现上述目的，采用以下技术方案：

一种基于改进鲸鱼算法的RBF神经网络优化方法，包括以下步骤：

步骤1：确定RBF神经网络的结构，由网络的数据中心、数据宽度以及权重三类初始参数确定鲸鱼个体的维数，并将参数编码生成鲸鱼个体的位置矢量；

步骤2：确定鲸鱼的种群规模，采用反向学习机制初始化鲸鱼种群的位置；

步骤3：归一化RBF神经网络的训练数据和测试数据；

步骤4：取出一部分训练数据输入网络，设置适应度函数计算当下每一条鲸鱼的适应度值；

步骤5：根据上一代适应度值设置动态阈值，将鲸鱼种群分为优质鲸鱼和非优质鲸鱼两个子种群；

步骤6：产生一个[0,1]之间的随机数ρ，若ρ＜0.5,则执行鲸鱼的螺旋更新策略，若ρ≥0.5，则执行鲸鱼的收缩更新策略；

步骤7：设置终止条件，迭代达到终止条件后，保存适应度值最小的鲸鱼对应位置适量，将位置矢量解码生成RBF神经网络的最优初始化参数，未达到终止条件，则返回步骤4。

具体地，步骤2中采用反向学习机制初始化种群，种群规模M设置在[25,30]之间，先随机初始化M/2个鲸鱼个体，对于剩下鲸鱼个体，第i个鲸鱼的第k维位置P_i，k(其中

)，采用反向学习机制生成：

P_i,k＝a+b-p_j,k (1)

其中a和b分别是随机生成那部分粒子的上下界，而p_j，k表示随机生成的第j个粒子的第k维位置数据。

具体地，步骤4中鲸鱼优化算法的适应度函数如下式给出：

式中n表示训练样本的个数，L表示网络的输出层节点数，Y和

分别表示数据的真实值和神经网络的输出值。

具体地，步骤5中设置动态的适应度阈值，阈值计算方式如下式给出：

式中ε表示适应度阈值的权重，用于控制优质鲸鱼占整个种群的比例。

具体地，步骤6中执行螺旋更新策略时，优质鲸鱼更靠近最优值，应当减小更新步长，而非优质鲸鱼因为远离全局最优值，应该加大更新的步长，更新方式如下式给出：

式中X(t+1)表示更新后的鲸鱼位置，l是[-1,1]之间的随机数，b是决定螺旋形状的参数，X^*(t)表示当前最优鲸鱼所在的位置，D′表示当前某一鲸鱼X(t)与当前最优鲸鱼之间的距离，表达式由下式给出。

D'＝|X^*(t)-X(t)| (5)

具体地，步骤6中执行收缩更新策略时，变量A控制鲸鱼执行不同的收缩更新策略，表达式如下式给出：

式中X_rand(t)和D_rand(t)分别表示生成的新鲸鱼位置以及其与当前鲸鱼之间的距离，A的表达式如下式所示：

A＝a·(2·r-1) (7)

其中r表示[0,1]之间的随机数矢量，a是随着迭代次数增加而线性递减的参数，D_rand和D的表达式如下式给出：

本发明采用以上技术方案，与现有技术相比的有益效果是：

1.现有的鲸鱼算法在迭代过程中，所有的鲸鱼个体均遵循同样的标准来控制更新的步长大小，局部探索和全局搜索的任务没有明确的分工，寻优缺乏灵活性，本发明通过设置动态的适应度阈值，将种群分为两个子种群，靠近全局最优解的子种群执行局部探索，而远离全局最优的子种群执行大范围搜索，加快了算法收敛的速度，且计算消耗的时间更短。

2.现有的鲸鱼优化算法在执行收缩更新时，当|A|≥1,算法会随机抽取一个鲸鱼个体作为基准，让当前鲸鱼个体向基准方向更新，但是随机选取鲸鱼个体的方法忽略了其他个体的信息，不利于算法的收敛，本发明引进多元宇宙优化算法中物质交换的思想，结合最优粒子和其他粒子的综合信息产生新的粒子作为基准，可以让鲸鱼个体在跳出局部最优的同时，也向全局最优的方向更新位置，进一步提高收敛速度和精度。

3.现有的寻找RBF神经网络数据中心的方法常为聚类算法，但是聚类算法难以适应高维数据的分类问题，本发明引入改进的鲸鱼优化算法，一方面避免了聚类算法的缺陷，另一方面可以同时对数据中心、数据宽度和网络权重三类参数进行寻优，弥补了RBF神经网络在工程应用当中的不足，增加了RBF神经网络模型的精度。

附图说明

图1为本发明提供的一种基于改进鲸鱼算法的RBF神经网络优化方法流程图.

图2为单个输出的RBF神经网络拓扑结构示意图。

图3为改进的鲸鱼优化算法及其对比算法在各类测试函数中的寻优结果表。

图4为改进鲸鱼算法对单峰函数的寻优结果图。

图5为改进鲸鱼算法对多峰函数的寻优结果图。

图6为改进鲸鱼算法对固定维数多峰函数寻优的结果图。

具体实施方式

以下将结合附图来描述本发明的示例性实施方式。应当理解，所展示的附图以及描述的具体实施方式只是示例性的，旨在阐述本发明的应用原理，并非限制本发明的应用范围。

本发明公开了一种基于改进鲸鱼算法的RBF神经网络优化方法，图2给出了RBF神经网络的拓扑结构，以RBF神经网络的海杂波预测模型为例进行说明，图1给出了该实例的具体实施步骤：

步骤1：确定RBF神经网络拓扑结构，将网络的初始化参数编码成鲸鱼个体的位置矢量，初始化参数包括网络的数据中心、数据宽度和网络权重，位置矢量的维度就是参数的总个数，RBF神经网络的输入层到隐含层采用以下的高斯核函数进行连接，

其中，x为输入数据，c为数据中心，σ是数据宽度，图3的神经网络模型是针对海杂波预测这一实例设计的，网络输出为1，输入层节点数为X_n,隐含层节点数为C,可以得到鲸鱼个体位置矢量的维数为：

N＝2·C+X_n·C

步骤2：设置鲸鱼的种群规模M在[25,30]之间，采用反向学习机制初始化鲸鱼种群，首先随机生成

个鲸鱼个体，对于剩下的鲸鱼个体，第i个鲸鱼的第k维位置P_i，k(其中

)，采用反向学习机制生成：

P_i,k＝a+b-p_j,k

步骤3：将网络的训练数据和测试数据进行归一化处理，归一化方式由下式给出：

式中，x表示原始数据，X_min表示原始数据当中的最小值，X_max表示原始数据当中的最小值，X_norm表示归一化后的数据。

步骤4：取出部分训练数据输入网络，将RBF神经网络的网络误差作为鲸鱼优化算法的适应度值，适应度函数由下式给出：

式中n表示训练样本的个数，L表示网络的输出层节点数，Y和

分别表示数据的真实值和神经网络的输出值。

步骤5：根据上一代鲸鱼种群的适应度均值，设置当前一代种群的适应度阈值，阈值大小会随着迭代次数的变化而动态变化，适应度阈值的计算方式如下式所示：

式中ε表示适应度阈值的权重，用于控制优质鲸鱼占整个种群的比例，根据具体问题调整阈值的权重，在本次实例当中取ε＝0.8。

步骤6：判断每个粒子的适应度值与当前适应度阈值的大小，当适应度值小于适应度阈值时，说明该鲸鱼个体属于优质鲸鱼，靠近全局最优的鲸鱼，此时a从1线性递减到0，反之，a从2线性递减到1，表达式如下给出：

式中t表示当前迭代步数，t_max表示最大迭代步数。

步骤7：产生一个[0,1]之间的随机数ρ，当ρ＜0.5时，鲸鱼执行螺旋更新策略，优质鲸鱼由于更靠近全局最优的鲸鱼个体，应当减小更新的步长，缓步靠近全局最优，而非优质鲸鱼因为远离全局最优值，应该加大更新的步长，快步接近全局最优，更新方式如下给出：

式中X(t+1)表示更新后的鲸鱼位置，l是[-1,1]之间的随机数，b是决定螺旋形状的参数，X^*(t)表示当前最优鲸鱼所在的位置，D′表示当前某一鲸鱼X(t)与当前最优鲸鱼之间的距离，表达式由下式给出：

D'＝|X^*(t)-X(t)|

当ρ≥0.5时，鲸鱼种群执行收缩更新策略，通过收缩包围圈，鲸鱼不断地靠近全局最优解，变量A控制鲸鱼执行不同的收缩更新策略，表达式如下给出：

A＝a·(2·r-1)

其中r表示[0,1]之间的随机数矢量，D_rand和D的表达式如下式给出：

D＝|2r·X^*(t)-X(t)|

D_rand＝|2r·X_rand(t)-X(t)|

X_rand(t)采用多元宇宙优化算法中物质交换的思想生成，对于生成的新的鲸鱼第j维的数据，有如下表达式给出生成方法：

式中

和

分别表示最优鲸鱼和随机选取的鲸鱼第j维上的数据，新生成的鲸鱼个体结合了最优位置以及其余鲸鱼的信息，更新方向更稳定。

步骤8：判断当前迭代是否满足迭代停止的条件，当满足条件时，输出当前种群中最优适应度值对应的鲸鱼位置矢量，并将位置矢量解码作为RBF神经网络的最优初始参数。

为检验改进鲸鱼算法的实际效果，采用6个不同种类的测试函数做测试，其中f₁和f₂是单峰测试函数，f₃和f₄是多峰测试函数，f₅和f₆是固定维数的多峰测试函数，各项函数的属性由下表1给出。

表1测试函数的属性

用粒子群优化(PSO)算法、多元宇宙优化(MOV)算法、灰狼优化(GWO)算法和标准鲸鱼算法(WOV)作为对比算法，每个算法均运行30次，取最优适应度值的均值和标准差均值，实验结果由附图中表1给出，从表中可以看出，改进的鲸鱼优化算法在寻找各种类型测试函数的最优值时，精度和稳定性都是最高的，为了更加直观的表现出改进算法寻优过程中的收敛情况，图3、图4和图5分别给出单峰测试函数、多峰测试函数和固定维数的多峰函数在寻优过程中的收敛曲线，改进的鲸鱼优化算法收敛速度更快，且在寻优精度上均高于其他4种对比算法。

为了检验改进鲸鱼算法在具体问题中的效果，以上述实施例为背景进行仿真实验，采用上述改进的鲸鱼优化算发(IWOV)以及其对比算法分别优化RBF神经网络，建立海杂波的预测模型，对海杂波实现预测，将不同算法优化后的网络预测模型用于同一组带背景噪声的海杂波预测，为消除随机性对实验的影响，每种算法均仿真30次取均值，实验结果由下表2给出：

表2不同优化算法优化RBF神经网络对海杂波的预测效果

根据以上实验结果，改进的鲸鱼优化算法寻优能力更强，在优化RBF神经网络的初始参数时，相对于比较算法来说，收敛速度更快、消耗时间更短、寻优的精度更高、优化后的网络模型稳定性更强，预测精度更高。

以上所述的具体实施方式，对本发明的目的、技术方案、实施方案以及有益效果做了进一步的详细说明，上述实施例仅为进一步阐述发明原理，帮助读者理解本发明的设计思路，应被理解为本发明的保护范围不仅限于这样的特别陈述和实施例，凡在本发明原理之内，所做的任何修改、同等替换，均应包含在本发明的保护范围之内。

Claims

1.一种基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，该方法包含下列步骤：

步骤1：确定RBF神经网络的结构，由RBF神经网络的数据中心、数据宽度以及权重三类初始参数确定鲸鱼个体的维数，并将参数编码生成鲸鱼个体的位置矢量；

步骤3：归一化RBF神经网络的训练数据和测试数据；

步骤6：产生一个[0，1]之间的随机数ρ，若ρ＜0.5，则执行鲸鱼的螺旋更新策略，若ρ≥0.5，则执行鲸鱼的收缩更新策略；

步骤7：设置最大迭代步数，迭代次数达到最大值后，算法循环结束，保存适应度值最小的鲸鱼对应位置适量，将位置矢量解码生成RBF神经网络的最优初始化参数，未达到终止条件，则返回步骤4。

2.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤1所述鲸鱼个体的维数N由数据中心、数据宽度以及网络权重的三类参数组成，网络输入个数为X_n，网络隐层数为C，即有：

N＝2·C+X_n·C (1)

编码操作即将三类网络参数按次序排列成一个一维位置矢量。

3.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤2中鲸鱼的种群规模M设置在[25，30]之间，先随机初始化M/2个鲸鱼个体，对于剩下的第i个鲸鱼的第k维位置P_i，k(其中

采用反向学习机制生成：

P_i，k＝a+b-p_j，k (2)

4.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤4中适应度函数的表达式如下：

式中n表示训练样本的个数，L表示网络的输出层节点数，Y和

分别表示数据的真实值和神经网络的输出值。

5.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤5中设置阈值，阈值大小由上一代适应度均值决定，故阈值大小随着迭代次数变化而动态变化，适应度阈值的计算方式如下式(4)给出：

6.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤6中执行螺旋更新策略时，更新方式如下(5)式给出：

式中X(t+1)表示更新后的鲸鱼位置，l是[-1，1]之间的随机数，b是决定螺旋形状的参数，X^*(t)表示当前最优鲸鱼所在的位置，D′表示当前某一鲸鱼X(t)与当前最优鲸鱼之间的距离，表达式由下(6)式给出：

D′＝|X^*(t)-X(t)| (6)。

7.根据权利要求1所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤6中执行收缩更新策略时，变量A控制鲸鱼执行不同的收缩更新策略，表达式如下(7)式给出：

式中X_rand(t)和D_rand(t)分别表示生成的新鲸鱼位置以及其与当前鲸鱼之间的距离，A的表达式如(8)式所示：

A＝a·(2·r-1) (8)

其中r表示[0，1]之间的随机数矢量，a是随着迭代次数增加而线性递减的参数，D_rand和D的表达式如下(9)式给出：

8.根据权利要求7所述的基于改进鲸鱼算法的RBF神经网络优化方法，其特征在于，步骤6中执行收缩更新策略时，采用多元宇宙优化算法中物质交换的思想生成新的鲸鱼位置，对于新的鲸鱼第j维的数据，有表达式(10)给出生成方法：

式中

和

分别表示最优鲸鱼和随机选取的鲸鱼第j维上的数据，a的表达式如式(11)所示：

式中t表示当前迭代步数，t_max表示最大迭代步数。