CN109067427B - 一种基于优化型小波神经网络的跳频序列预测方法 - Google Patents

Abstract

本发明公开了一种基于优化型小波神经网络的跳频序列预测方法，属于跳频序列预测方法领域；其包括步骤1：对跳频信号进行时域分析获取当前时刻的跳频序列；步骤2：将跳频序列进行预处理获取训练样本和测试样本；步骤3：将训练样本输入初始化后的神经网络依次进行DBSCAN聚类计算和权值优化完成训练；步骤4：将测试样本输入完成训练的神经网络进行预测，获取下一时刻的跳频序列；本发明解决了目前使用小波神经网络对不同的跳频序列进行预测时，网络训练过程中因无通用且有效的算法，导致无法自适应确定隐含层节点个数和小波平移因子初始值的问题，提高了相同隐含层节点网络的预测精度，加快了网络后续的学习速度，缩短了程序的运行时间。

Description

一种基于优化型小波神经网络的跳频序列预测方法

技术领域

本发明属于跳频序列预测方法领域，尤其是一种基于优化型小波神经网络的跳频序列预测方法。

背景技术

跳频通信属于扩频通信的一种方式，是一个“多频、选码、频移键控”系统，具有灵活多变、多址容量大、频带利用率高和抗干扰能力强等特点，在军事通信和民用移动通信中都得到广泛的应用。对跳频序列的预测研究不仅能够实现对跳频信号的对准式干扰，降低功耗成本，对跳频信号盲接收性能的改善也起着至关重要的作用；因而，对跳频序列估计方法的研究已成为当今国内外跳频通信领域的一个热点话题，有效的预测结果将节省大量的干扰带宽和功率，并能大幅度提高干扰效果。

由于跳频序列的非线性特性，普通的拟合精度不够，预测数据与真实数据存在较大偏差。小波神经网络具有强大的非线性映射能力，同时还具有自适应、收敛速度快、强鲁棒性和高容错性等性质，因此它非常适合于跳频序列预测。神经网络应用的关键问题是网络参数学习和网络结构设计；相对于网络参数学习而言，神经网络结构设计要困难得多，至今还没有确定的方法可循；神经网络结构设计的关键在于：如何确定网络中隐含层节点的个数；小波神经网络包括输入层、隐含层和输出层；隐含层节点的作用是从样本中提取并存储其内在规律，在利用小波神经网络进行跳频序列预测的时候，神经网络训练过程中需要确定隐含层节点个数以及小波平移因子的初始值，现有技术中没有通用的、被认可的算法可以用来确定隐含层节点个数以及小波平移因子的初始值，导致网络训练过程中无法自适应确定两个参数；现有技术中有采用遗传算法确定隐含层节点个数以及小波平移因子的初始值，但遗传算法的算法复杂，导致计算时间长；遗传算法属于随机性算法，需要多次运算，稳定性差；算法采用寻优策略，容易陷入局部极小值；因此需要一种算法确定隐含层节点个数以及小波平移因子的初始值，完成使用小波神经网络对不同的跳频序列进行预测。

发明内容

本发明的目的在于：本发明提供了一种基于优化型小波神经网络的跳频序列预测方法，解决目前使用小波神经网络对不同的跳频序列进行预测时，网络训练过程中因无通用且有效的算法，导致无法自适应确定隐含层节点个数和小波平移因子初始值的问题。

本发明采用的技术方案如下：

一种基于优化型小波神经网络的跳频序列预测方法，包括如下步骤：

步骤1：对跳频信号进行时域分析获取当前时刻的跳频序列；

步骤2：将跳频序列进行预处理获取训练样本和测试样本；

步骤3：将训练样本输入初始化后的神经网络依次进行DBSCAN聚类计算和权值优化完成训练；

步骤4：将测试样本输入完成训练的神经网络进行预测，获取下一时刻的跳频序列。

所述步骤3包括如下步骤：

步骤3.1：将训练样本输入初始化后的神经网络进行DBSCAN聚类计算获取隐含层的节点个数和小波平移因子的初始值；

步骤3.2：基于训练样本、隐含层的节点个数和小波平移因子的初始值以及初始化的网络权值计算隐含层输出，计算如下：

其中，h(j)表示隐含层第j个节点输出值，ω_ij表示输入层和隐含层的连接权值，b_j表示小波基函数f_j的平移因子，a_j表示小波基函数f_j的伸缩因子，f_j表示小波基函数；

步骤3.3：基于步骤3.2的结果计算小波神经网络预测输出，计算如下：

其中，ω_ik表示隐含层到输出层权值，h(i)表示第i个隐含层节点的输出，m表示输出层节点数，l为隐含层节点数；

步骤3.4：基于步骤3.3的结果采用梯度下降法进行训练，判断是否达到最大训练次数，若达到，则结束训练并保存隐含层到输出层权值和小波平移因子；若未达到，则继续训练。

优选地，所述步骤3.1包括如下步骤：

步骤3.1.1：基于训练样本确定DBSCAN聚类算法的初始参数，初始参数包括ε邻域和密度，并在训练样本中标记核心点、边界点和噪音点；

步骤3.1.2：将训练样本作为数据集合X，生成标记数组m_i(i＝1,2,…,N)，计算如下：

其中，j表示类的序号，x⁽ⁱ⁾表示第i个训练样本；

步骤3.1.3：删除噪音点，计算中互异的非负数的个数，记为K，将核心点分为K类；

步骤3.1.4：将每个边界点匹配到与之关联的核心点形成的类中，完成数据集合X的分类；

步骤3.1.5：基于步骤3.1.4获取类个数和从每类中随机选取一点获取长度为K'的频点序列k_j(j＝1,2,…K')(K'＝K)，将类个数作为神经网络中隐含层节点的个数，将频点序列作为小波平移因子的初始值。

优选地，所述步骤3.4中梯度下降法具体包括如下步骤：

步骤3.4.1：计算网络预测误差，计算如下：

其中，y(k)为小波神经网络期望输出，为小波神经网络预测输出；

步骤3.4.2：基于网络预测误差对小波神经网络的权值和小波基函数系数进行初步修正，初步修正计算公式如下：

其中，为权值修正量，和为小波因子修正量，和根据网络预测误差计算得到；η表示学习速率；

步骤3.4.3：基于步骤3.4.2在初步修正公式中添加动量项进行最后修正，最后修正的计算公式如下：

其中，α为动量因子，α∈[0,1]。

优选地，所述步骤1中时域分析采用组合谱图法。

优选地，所述步骤2中预处理包括采用留出法对跳频序列进行划分。

综上所述，由于采用了上述技术方案，本发明的有益效果是：

1.本发明采用DBSCAN聚类算法得到的参数确定小波神经网络隐含层的节点个数和小波平移因子的初始值，适应不同的输入数据，不会过大或过小，避免了网络训练时采用寻优策略陷入局部极小值的缺点；解决了目前使用小波神经网络对不同的跳频序列进行预测时，网络训练过程中因无通用且有效的算法，导致无法自适应确定隐含层节点个数和小波平移因子初始值的问题，提高了相同隐含层节点网络的预测精度，加快了网络后续的学习速度，缩短了程序的运行时间；

2.本发明采用加入动量项的方法对梯度下降算法进行改进，避免小波神经网络权值和小波因子在训练过程收敛速度慢的缺点，缩短了程序的运行时间；使小波神经网络预测输出不断逼近期望输出，利于提高预测精度；

3.本发明的DBSCAN聚类算法不需要提前确定类的个数即不需要对隐含层节点初始值进行估计，降低了算法的复杂度；输入训练样本的跳频点较为密集，而DBSCAN算法对密集数据点有较好的处理能力，可以提高聚类结果的精度；

4.本发明的通过DBSCAN聚类算法得到的参数确定适中的网络结构，加快了网络后续的学习速度和预测速度。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明的方法流程图；

图2为本发明的小波神经网络结构图；

图3为本发明的DBSCAN聚类算法流程图；

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明，即所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

技术问题：解决目前使用小波神经网络对不同的跳频序列进行预测时，网络训练过程中因无通用且有效的算法，导致无法自适应确定隐含层节点个数和小波平移因子初始值的问题；

技术手段：

步骤1：对跳频信号进行时域分析获取当前时刻的跳频序列；

步骤2：将跳频序列进行预处理获取训练样本和测试样本；

步骤3：将训练样本输入初始化后的神经网络依次进行DBSCAN聚类计算和权值优化完成训练；

步骤4：将测试样本输入完成训练的神经网络进行预测，获取下一时刻的跳频序列。

步骤3包括如下步骤：

步骤3.1：将训练样本输入初始化后的神经网络进行DBSCAN聚类计算获取隐含层的节点个数和小波平移因子的初始值；

步骤3.2：基于训练样本、隐含层的节点个数和小波平移因子的初始值以及初始化的网络权值计算隐含层输出，计算如下：

其中，h(j)表示隐含层第j个节点输出值，ω_ij表示输入层和隐含层的连接权值，b_j表示小波基函数f_j的平移因子，a_j表示小波基函数f_j的伸缩因子，f_j表示小波基函数；

步骤3.3：基于步骤3.2的结果计算小波神经网络预测输出，计算如下：

其中，ω_ik表示隐含层到输出层权值，h(i)表示第i个隐含层节点的输出，m表示输出层节点数，l为隐含层节点数；

步骤3.4：基于步骤3.3的结果采用梯度下降法进行训练，判断是否达到最大训练次数，若达到，则结束训练并保存隐含层到输出层权值和小波平移因子；若未达到，则继续训练。

步骤3.1包括如下步骤：

步骤3.1.1：基于训练样本确定DBSCAN聚类算法的初始参数，初始参数包括ε邻域和密度，并在训练样本中标记核心点、边界点和噪音点；

步骤3.1.2：将训练样本作为数据集合X，生成标记数组m_i(i＝1,2,…,N)，计算如下：

其中，j表示类的序号，x⁽ⁱ⁾表示第i个训练样本；

步骤3.1.3：删除噪音点，计算中互异的非负数的个数，记为K，将核心点分为K类；

步骤3.1.4：将每个边界点匹配到与之关联的核心点形成的类中，完成数据集合X的分类；

步骤3.1.5：基于步骤3.1.4获取类个数和从每类中随机选取一点获取长度为K'的频点序列k_j(j＝1,2,…K')(K'＝K)，将类个数作为神经网络中隐含层节点的个数，将频点序列作为小波平移因子的初始值。

步骤3.4中梯度下降法具体包括如下步骤：

步骤3.4.1：计算网络预测误差，计算如下：

其中，y(k)为小波神经网络期望输出，为小波神经网络预测输出；

步骤3.4.2：基于网络预测误差对小波神经网络的权值和小波基函数系数进行初步修正，初步修正计算公式如下：

其中，为权值修正量，和为小波因子修正量，和根据网络预测误差计算得到；η表示学习速率；

步骤3.4.3：基于步骤3.4.2在初步修正公式中添加动量项进行最后修正，最后修正的计算公式如下：

其中，α为动量因子，α∈[0,1]。

步骤1中时域分析采用组合谱图法。

步骤2中预处理包括采用留出法对跳频序列进行划分。

技术效果：本发明采用DBSCAN聚类算法得到的参数确定小波神经网络隐含层的节点个数和小波平移因子的初始值，适应不同的输入数据，不会过大或过小，避免了网络训练时采用寻优策略陷入局部极小值的缺点；解决了目前使用小波神经网络对不同的跳频序列进行预测时，网络训练过程中因无通用且有效的算法，导致无法自适应确定隐含层节点个数和小波平移因子初始值的问题，提高了相同隐含层节点网络的预测精度，加快了网络后续的学习速度，缩短了程序的运行时间。

以下结合实施例对本发明的特征和性能作进一步的详细描述。

实施例1

步骤1中时域分析采用组合谱图法：

步骤1.1：对接收到的跳频信号进行采样，得到长度为N的序列x(n)，求对应解析信号Z(n)，对Z(n)进行组合谱图法时频分析；组合谱图法将同一个信号分别采用宽窗函数和窄窗函数作两次谱图分析，得到分别具有高频率分辨率和高时间分辨率的两组结果，再将两种结果综合，就可以得到具有较好时频聚焦性的时频分析结果。

步骤1.2：信号经过组合谱图法进行处理后，其能量分布集中在瞬时频率处。因此，在每个跳频周期内，信号能量幅值最大值所对应的频率即为该周期内的跳频频率；利用得到的跳频周期T_h，计算跳频信号的在观测时间T内包含的完整的频率点数：

其中，符号为取整符号，T为观测时间，为跳频周期。

则跳频信号的跳频频率估计值f_k为：

其中，W_z(n,d)为信号的能量幅值，f_s为采样率，k为第k个跳变周期，为跳变时刻。

将得到的跳频频率估计值顺序写入矩阵，得到一维跳频序列D。

步骤2中预处理包括采用留出法对跳频序列进行划分：将跳频序列D划分为两个互斥的集合，其中一个集合作为训练序列S，另一个作为测试序列T，即D＝S∪T，细节：将数据集中2/3～4/5的样本用于训练，剩余样本用于测试；此处选择2/3作为分割依据，即2/3的数据点作为训练序列S，剩余1/3的数据点作为测试序列T。

步骤3：给定ε邻域和密度的情况下，计算聚类算法形成的类个数，以此作为隐含层节点的个数；每类中随机选取频点，得到频点序列，以此作为小波平移因子的初始值；采用梯度下降法训练网络的连接权值，多次迭代直至达到设定的训练误差目标。输入层的输入为当前频点的前n个历史频点；输出层的输出为当前频点；隐含层节点由小波基函数构成，它的个数和参数决定了网络结构的大小以及网络预测的精度。

步骤3.1：DBSCAN算法中有两个重要参数：ε(Eps)和M，ε表示定义密度时的邻域半径，M表示定义核心点时的阈值；考虑数据集合X＝{x⁽¹⁾,x⁽²⁾,…x^(N)}，引入以下概念与记号：

①核心点(core point)：设x∈X，若ρ(x)≥M，则称x为X的核心点。记由X中所有核心点构成的集合为X_c，并记X_nc＝X\X_c表示由X中的所有非核心点构成的集合。

②边界点(border point)：若x∈X_nc，且满足y∈N_ε(x)∩X_c。即x的ε邻域中存在核心点，则称x为X的边界点。记由X中所有边界点构成的集合为X_bd。此外，边界点也可以这么定义，若x∈X_nc，且x落在某个核心点的ε邻域内，则称x为X的一个边界点。一个边界点可能同时落入一个或多个核心点的ε邻域。

③噪音点(noise point)：记X_noi＝X\(X_c∪X_bd)，若x∈X_noi，则称x为噪音点。

首先，给定初始参数，将预处理后的训练序列S作为数据集合X，生成标记数组m_i(i＝1,2,…,N)

计算中互异的非负数的个数，记为K。

其次，为距离在Eps之内的所有核心点之间赋予一条边，每组连通的核心点形成一个类；

最后，删除噪音点，将每个边界点指派到一个与之关联的核心点的类中，至此，将数据集合X分成了K个类；每类中随机取一点，获取长度为K'的频点序列k_j(j＝1,2,…K')(K'＝K)。

步骤3.2：附图2中，X₁,X₂,…,X_k是小波神经网络的输入参数，Y₁,Y₂,…,Y_m是小波神经网络的预测输出，ω_ij和ω_jk为小波神经网络权值；在输入信号序列为x_i(i＝1,2,…,k)时，小波神经网络隐含层输出计算公式为：

其中，h(j)为隐含层第j个节点输出值，ω_ij为输入层和隐含层的连接权值，b_j为小波基函数f_j的平移因子，a_j为小波基函数f_j的伸缩因子，f_j为小波基函数。

采用的小波基函数为Morlet母小波基函数，数学公式为：

小波基函数的平移因子b_j的初始值设定为频点序列即令b_j＝k_j(j＝1,2,…K')，使网络训练时更快获取输入数据的特征，加快学习速度。

步骤3.3：小波神经网络预测输出计算公式为：

其中，ω_ik为隐含层到输出层权值，h(i)为第i个隐含层节点的输出，m为输出层节点数，l为隐含层节点数。

当l＜K时，网络结构过小，无法准确提取跳频序列的特征，预测精度低；

当l＞K时，网络结构过大，网络训练容易陷入局部极小值学习和预测速度慢，需要较大的存储空间；

因此，取l＝K时，网络结构适中，加快了网络后续的学习速度和预测速度。

DBSCAN聚类得到的参数来确定隐含层节点个数和小波平移因子的初始值，可以使生成的神经网络模型更符合输入数据的特点，不会过大或过小，避免了网络训练陷入局部极小值，同时也加快了网络后续的学习速度。

步骤3.4：采用梯度下降法修正网络的权值和小波基函数参数，从而使小波神经网络预测输出不断逼近期望输出；小波神经网络权值修正过程如下：

(1)计算网络预测误差

式中，y(k)为小波神经网络期望输出，为小波神经网络预测输出。

(2)根据预测误差e修正小波神经网络权值和小波基函数系数

其中，是根据网络预测误差计算得到：

其中，为权值修正量，和为小波因子修正量，η表示学习速率。

由于小波神经网络权值和小波因子在训练过程收敛速度慢的缺点，采用加入动量项的方法对梯度下降算法进行改进，改进后权值和小波因子计算公式为：

其中，α表示动量因子，α∈[0,1]。

步骤4：调用训练完成的网络对测试集的数据进行预测，得到下一时刻跳频频点的预测数据，为下一时刻跳频信号的截获与干扰提供依据。

本方法将DBSCAN聚类算法与梯度下降算法结合，先利用DBSCAN聚类算法为小波神经网络找到一组节点个数和小波平移因子初值，再通过梯度下降算法对权值和小波因子寻优，在梯度下降法中采用加入动量项的方法改善了训练过程中收敛速度慢的问题；本方法生成的小波神经网络可以适应不同的输入数据，生成的网络结构更加精简，避免了网络训练时陷入局部极小值，提高了相同隐含层节点对应网络的预测精度，同时缩短了程序的运行时间。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种基于优化型小波神经网络的跳频序列预测方法，其特征在于：包括如下步骤：

步骤1：对跳频信号进行时域分析获取当前时刻的跳频序列；

步骤2：将跳频序列进行预处理获取训练样本和测试样本；

步骤3：将训练样本输入初始化后的神经网络依次进行DBSCAN聚类计算和权值优化完成训练；

步骤4：将测试样本输入完成训练的神经网络进行预测，获取下一时刻的跳频序列；

所述步骤3包括如下步骤：

步骤3.1：将训练样本输入初始化后的神经网络进行DBSCAN聚类计算获取隐含层的节点个数和小波平移因子的初始值；

步骤3.2：基于训练样本、隐含层的节点个数和小波平移因子的初始值以及初始化的网络权值计算隐含层输出，计算如下：

其中，h(j)表示隐含层第j个节点输出值，ω_ij表示输入层和隐含层的连接权值，b_j表示小波基函数f_j的平移因子，a_j表示小波基函数f_j的伸缩因子，f_j表示小波基函数；

步骤3.3：基于步骤3.2的结果计算小波神经网络预测输出，计算如下：

其中，ω_ik表示隐含层到输出层权值，h(i)表示第i个隐含层节点的输出，m表示输出层节点数，l为隐含层节点数；

步骤3.4：基于步骤3.3的结果采用梯度下降法进行训练，判断是否达到最大训练次数，若达到，则结束训练并保存隐含层到输出层权值和小波平移因子；若未达到，则继续训练。

2.根据权利要求1所述的一种基于优化型小波神经网络的跳频序列预测方法，其特征在于：所述步骤3.1包括如下步骤：

步骤3.1.1：基于训练样本确定DBSCAN聚类算法的初始参数，初始参数包括ε邻域和密度，并在训练样本中标记核心点、边界点和噪音点；

步骤3.1.2：将训练样本作为数据集合X，生成标记数组m_i(i＝1,2,…,N)，计算如下：

其中，j表示类的序号，x⁽ⁱ⁾表示第i个训练样本；

步骤3.1.3：删除噪音点，计算中互异的非负数的个数，记为K，将核心点分为K类；

步骤3.1.4：将每个边界点匹配到与之关联的核心点形成的类中，完成数据集合X的分类；

步骤3.1.5：基于步骤3.1.4获取类个数和从每类中随机选取一点获取长度为K'的频点序列k_j(j＝1,2,…K')(K'＝K)，将类个数作为神经网络中隐含层节点的个数，将频点序列作为小波平移因子的初始值。

3.根据权利要求1所述的一种基于优化型小波神经网络的跳频序列预测方法，其特征在于：所述步骤3.4中梯度下降法具体包括如下步骤：

步骤3.4.1：计算网络预测误差，计算如下：

其中，y(k)为小波神经网络期望输出，为小波神经网络预测输出；

步骤3.4.2：基于网络预测误差对小波神经网络的权值和小波基函数系数进行初步修正，初步修正计算公式如下：

其中，为权值修正量，和为小波因子修正量，和根据网络预测误差计算得到；η表示学习速率；

步骤3.4.3：基于步骤3.4.2在初步修正公式中添加动量项进行最后修正，最后修正的计算公式如下：

其中，α为动量因子，α∈[0,1]。

4.根据权利要求1所述的一种基于优化型小波神经网络的跳频序列预测方法，其特征在于：所述步骤1中时域分析采用组合谱图法。

5.根据权利要求1所述的一种基于优化型小波神经网络的跳频序列预测方法，其特征在于：所述步骤2中预处理包括采用留出法对跳频序列进行划分。