CN112836569B - 基于序列卷积网络的水声通信信号识别方法、系统及设备 - Google Patents
基于序列卷积网络的水声通信信号识别方法、系统及设备 Download PDFInfo
- Publication number
- CN112836569B CN112836569B CN202011473099.9A CN202011473099A CN112836569B CN 112836569 B CN112836569 B CN 112836569B CN 202011473099 A CN202011473099 A CN 202011473099A CN 112836569 B CN112836569 B CN 112836569B
- Authority
- CN
- China
- Prior art keywords
- layer
- network
- sequence
- convolution
- residual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Abstract
本申请公开了一种基于序列卷积网络的水声通信信号识别方法、系统及设备,采用堆叠多个残差模块的方式构建序列卷积网络模型;对所述序列卷积网络模型进行训练;将水声信号输入训练后的序列卷积网络模型进行信号识别。采用堆叠多个残差模块的设计形式的网络结构可以有效地克服由多层网络叠加引起的网络模型退化问题。对网络进行训练后,提高了网络的信号类型识别能力,最后将水声信号输入到训练后的网络后,可以提高信号类别的识别能力,进而实现通信信号的识别。
Description
技术领域
本申请涉及信号识别技术领域,具体涉及一种基于序列卷积网络的水声通信信号识别方法、系统及设备。
背景技术
信号识别通常被视为通信信号自动调制识别任务主要涉及对调制方案的各个信号变量进行分类,以识别在应用场景中收发器之间应用的通信方式。信号识别在军事和民用环境中均有很多适用场景,根据不同的应用需求,信号识别工作可以广泛地用于非合作领域和网络安全领域。军事环境中包括对敌方通信潜在来源的未知信号调制的探测、分析和识别。
在低频声信号中水对声波的吸收率较低,这种情况在浅海环境中表现更明显。实际上,保障良好水下通信中的传输机制依赖于的声波,只有这种形式的传输方式可以在水下远距离传输。但是声波在水下传输过程中,会受到多种状态的影响,例如反射和散射多径效应,外部和内部环境噪声,盐度和温度变化等各种水下传输环境的干扰。声在水下的传播速度是大约1500m/s 的极低模式。水下声波通道具有两个方面的属性:一是物理链路的状况较差,相较地面移动无线电通信最坏情况的性能还要差。另一是无线波束的延迟较大,与卫星传输相比。尽管较低的频率更好地进行了声波传输过程,但通信资源受到可用带宽的极大限制,可用带宽通常可能在几十赫兹到几千赫兹之间,这些状态使得水下信号调制识别的工作极具挑战性,无法实现水声信号的快速识别。
发明内容
本申请为了解决上述技术问题,提出了如下技术方案:
第一方面,本申请实施例提供了一种基于序列卷积网络的水声通信信号识别方法,所述方法包括:采用堆叠多个残差模块的方式构建序列卷积网络模型;对所述序列卷积网络模型进行训练;将水声信号输入训练后的序列卷积网络模型进行信号识别。
采用上述实现方式,采用堆叠多个残差模块的设计形式的网络结构可以有效地克服由多层网络叠加引起的网络模型退化问题。对网络进行训练后,提高了网络的信号类型识别能力,最后将水声信号输入到训练后的网络后,可以提高信号类别的识别能力,进而实现通信信号的识别。
结合第一方面,在第一方面第一种可能的实现方式中,所述采用堆叠多个残差模块的方式构建序列卷积网络模型,包括:将Conv1D层、ReLU层和 Lambda层加上跨层连接组成残差模块,其中:Conv1D层代表一维卷积层,卷积运算后的权重全部由Lambda层处理,Lambda层是权重归一化层;在残差模块中的每个Lambda层之后,添加SpatianlDropout1D鞥以增强训练网络的泛化能力。
结合第一方面第一种可能的实现方式,在第一方面第二种可能的实现方式中,所述S序列卷积网络模型为
其中代表所用网络的输出,sm代表残差模块学习到的信号特性,m代表残差模块的数量,m=0,1,2,…,M,当m=0时,r0代表输入的原始信号数据,M代表残差模块的总数;sm=wm×rm-1+bm,wm表示权重,rm-1表示从顶层输入的信号,bm表示偏差;代表学习的残差部分,代表残差网络的跨层连接操作;∧n∈N(·)表示所用网络中Conv1D层或Add层的选择方法,Z(·)表示选择跨层方法,n=1,2,3表示对应的三种方式。
结合第一方面,在第一方面第三种可能的实现方式中,所述对所述序列卷积网络模型进行训练,包括:所述序列卷积网络模型每一层的神经元从上一层输入的特征向量进行采样,并将采样映射到新的向量空间中;所述序列卷积网络模型中网络层之间的学习特性进行交互;在所述序列卷积网络模型中不同一维序列卷积IDSC中采用可变卷积核范围CKR以实现提取信号特征的类型。
结合第一方面,在第一方面第四种可能的实现方式中,随着层数的增加,卷积核窗口在CKR中将变得越来越大,并且在卷积核窗口中将跳过更多的信号数据,通过可变CKR,卷积层的接收场范围覆盖更多信号序列。
结合第一方面或第一方面第四种可能的实现方式,在第一方面第五种可能的实现方式中,1DSC和CKR转换为公式表达式
其中:D(l)(·)表示在(l)会聚层中选择的神经元的第(l)层输出,μ表示输入序列,a表示根据网络层中神经元的时间序列号,是网络中第(l)层的选择函数,用于选择前一层中用于序列卷积运算的输入,e(l)是在第(l)层中选择的神经元的序列号,表示(l)层中的1DSC操作;可变CKR的每一层中的接收场为k(l),k(1)=1,k(2)=2,…,k(l)=K,K=3L,每层以乘3 的形式逐渐扩大感受野范围。
第二方面,本申请实施例提供了一种基于序列卷积网络的水声通信信号识别系统,所述系统包括:模型构建模块,用于采用堆叠多个残差模块的方式构建序列卷积网络模型;模型训练模块,用于对所述序列卷积网络模型进行训练;信号识别模块,用于将水声信号输入训练后的序列卷积网络模型进行信号识别。
结合第二方面,在第二方面第一种可能的实现方式,所述模型构建模块包括:第一模块构建单元,用于将Conv1D层、ReLU层和Lambda层加上跨层连接组成残差模块,其中:Conv1D层代表一维卷积层,卷积运算后的权重全部由Lambda层处理,Lambda层是权重归一化层;第二模块构建单元,用于在残差模块中的每个Lambda层之后,添加SpatianlDropout1D鞥以增强训练网络的泛化能力。
结合第二方面,在第二方面第二种可能的实现方式,所述模型训练模块,包括:采样单元,用于所述序列卷积网络模型每一层的神经元从上一层输入的特征向量进行采样,并将采样映射到新的向量空间中;交互单元,用于所述序列卷积网络模型中网络层之间的学习特性进行交互;优化单元,用于在所述序列卷积网络模型中不同一维序列卷积IDSC中采用可变卷积核范围 CKR以实现提取信号特征的类型。
第三方面,本申请实施例提供了一种设备,包括:处理器;存储器,用于存储计算机可执行指令;当所述处理器执行所述计算机可执行指令时,所述处理器执行第一方面或第一方面任一可能实现方式所述的基于序列卷积网络的水声通信信号识别方法。
附图说明
图1为本申请实施例提供的一种基于序列卷积网络的水声通信信号识别方法的流程示意图;
图2为本申请实施例提供的SCNet网络结构示意图;
图3为本申请实施例提供的一维序列卷积示意图;
图4为本申请实施例提供的可变卷积核范围示意图;
图5为本申请实施例提供的水声通信信道模型示意图;
图6为本申请实施例提供的不同数量的残差模块和跨层连接模式下的识别性能示意图;
图7为本申请实施例提供的多种数据包的调制识别精度示意图;
图8为本申请实施例提供的不同网络方法之间的识别效果对比示意图;
图9为本申请实施例提供的每个训练循环执行时间示意图;
图10为本申请实施例提供的一种基于深度时序神经网络的信号分类识别系统的示意图;
图11为本申请实施例提供的一种设备的示意图。
具体实施方式
下面结合附图与具体实施方式对本方案进行阐述。
深度学习(Deep Learning,DL)作为机器学习的一部分,在图像识别,语音识别和自然语言理解中具有多种应用。在许多无线通信领域,例如射频信号处理,无线电资源分配,无线电控制,MIMO检测,信道估计和IoT检测,DL已被认为是在通信领域具有潜在价值的必不可少的工具之一。在地面环境中,用于信号自动调制识别的DL主要是包括两大类网络方法,包括卷积神经网络(Convolutional Neural Network,CNN),递归神经网络(Recurrent Neural Network,RNN)以及使有CNN和RNN的复合结构构造的网络。深度的全连接前馈网络对衰落信道中的信号多种调制方案表现出令人满意的效果。与2层CNN和32层ResNet相比,改进的CNN可以实现更明显的分类效果。具有许多隐藏层的可扩展神经网络获得了更高准去率的多种信号调制识别效果。更新后的ResNet分析了受不同卷积核和层影响的结构设计,使用小卷积核和低层可获得出色的识别结果。在网络结构的两条分支中采用由 CNN和属于RNN变体形式的长期短期记忆(long-short term memory,LSTM) 网络组成的网络结构,对信号调制识别问题具有强大的识别能力。在水下声通信中,相关DL的自动信号调制识别的研究还很少。深度稀疏的自动编码器在随机信号干扰中有良好效果,并且能够识别四种调制方案。DL方法区分了五种水下信号调制方案,对比统计方法有更好的结果。由LSTM和CNN 组成的混合结构网络通过学习多维信号特征,它克服了脉冲噪声干扰,从而证明了这种网络形式在自动调制识别任务上的工作能力。
图1为本申请实施例提供的一种基于序列卷积网络的水声通信信号识别方法的流程示意图,参见图1,所述方法包括:
S101,采用堆叠多个残差模块的方式构建序列卷积网络模型。
本申请实施例采用堆叠多个残差模块的设计形式,这种网络结构形式如图1中所示串联连接。它可以有效地克服由多层网络叠加引起的网络模型退化问题。每个残差模块(虚线框图)由Conv1D,ReLU, Lambda和SpatianlDropout1D加上跨层连接组成。Conv1D代表一维卷积层,卷积运算后的权重全部由Lambda处理,Lambda是权重归一化层。另外,在残差模块中的每个Lambda层之后,添加 SpatianlDropout1D以增强训练网络的泛化能力。在SCNet结构中, ReLU和Add是中间衔接网络基本模块的连接层,如上面的基本残差网络模块。残差模块通过Add层连接以建立更深的网络架构。内部网络仅传递残差模块学习到的值,以获得更好的识别效果。为了更多地获取声学信号的隐藏特性,通过传递更多的中间层学习值,可以传输获得的更多信息。如图2中,Conv1D和Add(实线)的跨层连接。这种方式将有助于提升提取信号特性的高级表征。在最终输出中,Add,ReLU和Lambda作为最后处理层构成完整的网络,经过该层统一处理Conv1D和Add传递的跨层值。在输出层(Output)通过密集输出层(Dense)获得最终的识别结果。
SCNet结构的公式为:
其中代表所用网络的输出。sm代表残差模块学习到的信号特性,m代表残差模块的数量,m=0,1,2,…,M。当m=0时,r0代表输入的原始信号数据。M代表残差模块的总数。sm=wm×rm-1+bm, wm表示权重,rm-1表示从顶层输入的信号,bm表示偏差。代表学习的残差部分,这是残差网络的跨层连接操作。∧n∈N(·)表示所用网络中Conv1D层或Add层的选择方法。Z(·)表示选择跨层方法,n=1,2,3表示对应的三种方式。Conv1D层,Add层和Conv1D层与Add层的联盟的跨层连接模式分别对应于n=1,n=2, n=3。
S102,对所述序列卷积网络模型进行训练。
本发明考虑序列卷积网络(Sequence Convolutional Network, SCNet),利用1DSC中的跨层连接来构成基本的网络模块,从而减轻了参数量的负担,并加快了训练过程。它还通过与多个跨层网络模块连接,以传输网络中间层学习的信号特征,从而提取更多隐藏的信号信息,获得更好的识别性能。
从已有的应用在该领域的深度算法中可以看出,适当的网络结构可以提高调制方案的识别率。SCNet是一种一维序列卷积 (One-Dimensional Sequence Convolution,1DSC)的创新结构,用于水下声信号调制识别。在网络形式中,主要通过将一维卷积残差网络模块和可变卷积核范围(Convolution kernel Range,CKR)堆叠在1DSC中来提高声学信号调制的识别率。因为水下通信环境的复杂性,使得难以区分接收信号的多种调制方式。通过SCNet,可以获得时序信号更多的识别特性,从而提高调制识别效果。在通信过程中发送的信号包的长度在不断变化。SCNet可以适应各种长度信号包的影响,并实现有效的调制识别。在信号序列处理过程中,消耗了过多计算资源,同时训练好的网络参数量很大。这是普通RNN和深度网络的复杂结构通常遇到的两个主要障碍,这会导致整个系统效率低下。SCNet可以利用1DSC结构的并行操作来解决问题。本发明的主要创新点如下:
在多层深度学习网络中,每一层都充当特征提取器。一层中的神经元对从上一层输入的特征向量进行采样,并将其映射到新的向量空间中以供进一步学习,可以是一维(One Dimension,1D),二维(TwoDimension,2D)或三维(ThreeDimension,3D)卷积。一维卷积多用于自然语言处理(Natural Language Processing,NLP), 2D和3D卷积用于图像处理,具体来说2D用于单个图像,3D用于多个图像和视频。CNN层只有一个简单的叠加,很容易遇到退化现象。这表明,适当的网络规模可以更好地发挥提升识别效果的重要作用,但是不是盲目地无限制地扩大网络规模。当进一步加深网络层时,识别结果将变差。这主要是因为网络学习了训练数据集的过多特征导致的,这时识别精度逐渐降低并趋于饱和。然而,当网络层的数量有限时,无法提取更多的隐藏数据特征以提高识别效果,这种现象在受水下环境影响严重的水声通信中尤其明显。当网络退化时,表明浅层网络比深层网络可以获得更好的训练效果。通过分析在网络层之间传递的学习到的值,总是将从前层学到的值传递到后层,这说明在较深层中的效果至少应不比在浅层中的效果差。
通过在网络层之间将学习到的特性进行交互,可以在某种程度上克服由网络层加深引起的问题。从信息论的角度来看,信号分析存在数据处理不等的情况,并且信号特性图中包含的数据信息在前向传输过程中逐层减少。残差网络结构中的跨层连接确保网络的后层必须包含比前层更多的数据信息。基于使用跨层连接来连接网络中不同层的想法,可以更好的提高识别能力,层数得以被进一步添加。
由于水下声通信环境中特殊的传播载体,很难识别接收到的信号调制方案。为了获得信号数据集的更高级识别特性,深度网络结构的设计至关重要。但是,当网络层不断积累时,常见的难以克服的网络退化问题使训练深度网络变得非常困难,而本发明所采用的SCNet经过优化后的网络结构可以更好地解决这一问题。
SCNet在不同1DSC层中采用可变CKR的方法来丰富提取信号特征的类型,从而进一步提高识别精度,这在不增加额外计算量的情况下极大地提高了网络模型效率。
SCNet的卷积层将图3中的1DSC与图4中的变量CKR组合在一起,并且层中的每个正方形代表一个神经元,其中包含固定的卷积核大小。为了更好地描述,中间层的ReLU,Lambda,SpatianlDropout1D 和Add被暂时忽略。时间序列卷积运算要求t时刻yt的预测只能由x1到xt-1的输入来确定。可以通过限制卷积的滑动窗口来达到1DSC的这个要求,这可以通过在几个时间步上简单地移动卷积输出来实现。 1DSC的目的是确保前一个时间步的预测不会处理将来的数据信息。可以保证在t时间步长的输出只能通过t-1时间步长和卷积运算的前一个时间步长获得。与RNN不能直接预定义数据对象长度的情况相反,1DSC可以通过预先定义的长度信息来确定要训练的数据序列,从而确保并行处理效率。在训练过程中,可以使所有过去时间步长的卷积预测并行化,并且知道它们的输入和标记的真实值,这在执行速度上具有比RNN更具优势。同时,具有1DSC的SCNet简化结构网络比复杂的网络结构有更好的识别效果。
1DSC需要更大的卷积核来扩展网络能观测的接收场范围,以丰富信号调制识别区分信息。但是通过更广范围的卷积运算的方式,却增加了计算复杂度。在对信号调制方案进行分类时,较大的卷积核也将导致获取冗余的局部信号特征,从而导致最终识别结果不理想。因此,有必要在不添加用于覆盖1DSC中整个分析信号数据集的冗余信号信息的情况下,同时扩展CKR。可变CKR的最大优势是逐渐扩大了接收场范围,这不会在序列卷积之间插入空白数据,而是跳过了一些现有数据。这等效于保持输入不变,并向卷积核添加一些具有零值的权重。在计算量基本不变的情况下,网络观测到的信号序列范围将得到加强。如果一般卷积运算的步长被放大,也可以起到扩展观测的接收场范围的效果。当卷积步幅大于1时,将具有下采样的效果,并且输出序列范围将减小,从而无法覆盖先前序列的信号数据,导致无法完成时序分析。
从图4中可以看出,可变CKR的卷积形式与图3中的序列卷积非常相似,最大的区别在于卷积核范围的变化。序列卷积使用的卷积核窗口中没有空洞,卷积操作中涉及的数据紧密连接在一起。随着层数的增加,卷积核窗口在可变CKR中将变得越来越大,并且在卷积核窗口中将跳过更多的信号数据。通过可变CKR,卷积层的接收场范围可以覆盖更多信号序列,从而可以引入更多的信号历史信息。第二层的神经元可以在第一层看到3个神经元,而输出层的每个神经元可以在第一层看到9个神经元。如果输出层需要记住更长的长度,则网络层只需要增加相应的层号就可以完成需要观测的信号范围。变量CKR的优点是与池化操作相比没有信息丢失。随着接收场的扩大,每个卷积输出都包含各种丰富的历史信息。当深度卷积网络结构被建立时,它可以确保卷积核覆盖有效历史信息中的所有输入。
1DSC和变量CKR转换为公式表达式:
D(l)(·)表示在(l)会聚层中选择的神经元的第(l)层输出,μ表示输入序列,a表示根据网络层中神经元的时间序列号。是网络中第(l)层的选择函数,用于选择前一层中用于序列卷积运算的输入。 e(l)是在第(l)层中选择的神经元的序列号,e(l)=1,2,…,E(l),E(l)是第 (l)层中的总神经元数。表示(l)层中的1DSC操作。可变CKR的每一层中的接收场为k(l),k(1)=1,k(2)=2,…,k(l)=K,K=3L,每层以乘3的形式逐渐扩大感受野范围。如图4所示,k为1、3、9。假设第一层的9个神经元为μa,μa-1,μa-2,μa-3,μa-4,μa-5,μa-6,μa-7,μa-8, 第三层的最后一个输出是D3,第一层和第二层的对应1DSC操作输出是
等式(3)和等式(4)代入等式(2)有
S103,将水声信号输入训练后的序列卷积网络模型进行信号识别。
影响水下通信的主要因素包括多途效应,时延,多普勒频移和加性高斯白噪声等。如图5所示水下信道模型,这是最典型的水下通信模式。收到信号可以表示为:
其中x(t)是发射信号,n(t)是AWGN,h(t,θ)是包括多径和时延的水声信道参数,pi(t)是第i个路径信号衰减,表示信号卷积运算。θi(t)是第i个路径信号的时延,I是多径的数目,在所有路径上都有相似的多普勒缩放因子β,θi(t)=θi-βt。发射信号可以是数字调制模式或模拟调制模式。
通过使用水声信号数据集进行仿真实验,对所采用的网络方法进行评估,该信号数据集是由浅海下环境中的真实通道参数生成的。考虑了十种信号调制方案:二进制相移键控(Binary Phase-Shift Keying,BPSK),正交PSK(Quadrature PSK,QPSK)和8PSK,16 个正交幅度调制(16Quadrature Amplitude Modulation,16QAM), 32QAM,单边带(Single-SideBand,SSB),频率调制(Frequency Modulation,FM),脉冲幅度调制(Pulse AmplitudeModulation,PAM), 4个频移键控(4Frequency-Shift Keying,4FSK),8FSK。多普勒频移设置为5×10-3。载波频率为10kHz,符号传输速率为1000个符号 /秒。SNR为-20dB至20dB,数据包(packets)分别为81、243、729 和2187。采样率设置为32,最大采样率存在15Hz的偏差,在标准偏移漂移过程中,每个采样率的采样率为1Hz。时间衰落模型选择瑞利分布,而频率选择性衰落仿真为20个余弦数。假定加性噪声是带限的,平稳的高斯白噪声为零,并且将随机种子数将噪声生成器设置为14631。升余弦脉冲整形的滤波器的下降系数为0.35。
第一步,SCNet在不同网络形式下的识别效果对比。
在图6中是所采用的网络识别性能分析。M表示残差模块编号, n表示跨层连接模式。随着M的增长,Conv1D在残差模块中使用的 CKR以3为底指数增长。在SNR<-15时,相似的识别结果约为10%。随着SNR的增加,识别性能大大提高。从-15dB到0dB,M=6(n=3) 效果最佳,这比M=2(n=1)~(n=3),M=4(n=1)~(n=3)和 M=8(n=1)~(n=3)高出大约44.4%,27.2%和1.5%。在SNR≥0时,效果遵循几乎相同的趋势。残差模块的迭代次数越多,识别效果越好。主要的考虑因素是,更深的网络和层中更大的内核大小会获得高级的信号特性。当残差模块数在M=8时,继续增加叠加的模块数量,识别效果不会继续增长。主要原因是太深的网络会收到过拟合问题的影响,在(n=1),(n=2)和(n=3)的三种跨层连接模式之间存在相似的识别结果。在M=2和M=4的条件下,三种跨层连接模式在SNR≤0时的识别性能差异很小。在SNR≥0时,(n=3)大约比 (n=1),(n=2)分别平均高3.3%,2.9%。当在浅层网络中没有过多的信号特性从前层传输时,性能会一定程度的改善。从-15dB到5dB, M=6(n=3)具有更好的识别效果,比M=6(n=1)和M=6(n=2)的模式高约为10.7%。同时,当SNR≥5dB时,M=6(n=3)比这两种连接模式高约3.1%。结果表明,通过在SCNet的选择合适深度,可以从网络层传递更多信号特征,可以进一步提高识别效果。
第二步,SCNet在不同数据包输入下的识别效果对比。
图7示出了各种数据包中的调制识别精度。当SNR≥-16dB,随着数据包的扩展,识别精度也逐渐增加。243的数据包比81的数据包高出平均1.6%。729的数据包与243的数据包具有相似的识别效果,它们之间的差异不超过0.7%。2187数据包对729数据包有一定的改进,前者平均比后者高3.6%。所使用的网络可以在各种分组中实现有效的调制识别。通过各种不同数据包的对比,通过输入更多的信号数据在某种程度上有助于提高识别效果。更好的效果主要来自更多的信号数据包含更多的隐藏识别特性,这有利于所使用的网络学习到更精确的水声信号调制分类阈值以获得更好的结果。
第三步,SCNet通过对比不同的网络形式进一步说明本发明方法的识别效果优势。
在图8中,将所使用的网络与LSTM,GRU,DensenNet,SENet 和PnasNet在输入数据包=2187时进行了比较。LSTM和GRU是RNN 的常见形式,DensenNet和SENet是深度残差神经网络的复杂结构,具有更多的逐层连接,而PnasNet是通过强化学习方法生成的不规则结构。尽管SNR从-20dB到-11dB,SENet的识别效果比SCNet高约 2.7%,但它们的最大识别率均不超过25%,在低SNR时几乎不起作用。从-20dB到-14dB,LSTM,GRU,DenseNet和PnasNet对SCNet 的识别效果几乎相同。当SNR继续提高,对所有网络方法的识别效果会持续改善,尤其是在SCNet中效果最为明显。从-11dB到0dB, SCNet的识别率远远高于其他网络方法,它比LSTM,GRU,DenseNet, SENet和PnasNet的识别率分别平均高出约21.9%,16.7%,17.1%, 14.9%和30.7%。这是因为SCNet具有网络结构设计的优势,可以获取更多隐含的水声信号特性。当SNR≥0dB后,所有网络的识别效果都有了很大的提高,SCNet对其他五个网络也有更好的识别性能。 LSTM,GRU,DenseNet,SENet和PnasNet分别比SCNet分别平均低19.1%,17.4%,11.6%,21.3%和37.4%,它们的识别效果均不如 SCNet。这是因为SCNet具有更强的能力有通过可变CSK来提取大量的调制识别信息,其性能优于LSTM和GRU的RNN形式,DensenNet 和SENet的残差多连接网络,以及PnasNet的强化学习网络。
第四步,为了更好嵌入到资源有限的通信系统中使用,详细对比了SCNet和其他网络形式的参数量。
将SCNet参数数量与表1中的其他网络进行了比较。SCNet包括 1DSC,它具有减少参数数量的作用。SCNet的参数量是最小的,分别小于LSTM,GRU的1/15、1/29。DenseNet,SENet和PnasNet 的参数量分别是SCNet的207倍,274倍和551倍。复杂的网络不仅具有大量的参数,而且识别效果不如SCNet。在图9中,每次训练循环时间(Epochtime)的对比。SCNet拥有最短的时间,而LSTM,GRU, DenseNet,SENet和PnasNet分别约为SCNet的1.9倍,1.5倍,2倍, 2.9倍和5.8倍。Epochtime与参数数量有关。参数量越小,训练速度越快,时间越短。另一个主要因素是,SCNet采用的CNN结构可以执行并行操作,这比需要保存中间状态的LSTM和GRU更有效。与 DenseNet,SENet和PnasNet的复杂网络结构相比,SCNet中简短高效的网络结构设计也显示出更好的结果。使用的网络在较低的参数数量和较短的训练时间方面表现非常出色。
表1:不同网络的参数数量
与上述实施例提供的一种基于序列卷积网络的水声通信信号识别方法相对应,本申请还提供了一种基于序列卷积网络的水声通信信号识别系统的实施例。
参见图10,基于序列卷积网络的水声通信信号识别系统20包括:模型构建模块201、模型训练单元202和信号识别单元203。
模型构建模块201,用于采用堆叠多个残差模块的方式构建序列卷积网络模型。
所述模型构建模块201包括:第一模块构建单元和第二模块构建单元。第一模块构建单元,用于将Conv1D层、ReLU层和Lambda层加上跨层连接组成残差模块,其中:Conv1D层代表一维卷积层,卷积运算后的权重全部由 Lambda层处理,Lambda层是权重归一化层。第二模块构建单元,用于在残差模块中的每个Lambda层之后,添加SpatianlDropout1D鞥以增强训练网络的泛化能力。
所述S序列卷积网络模型为
其中代表所用网络的输出,sm代表残差模块学习到的信号特性,m代表残差模块的数量,m=0,1,2,…,M,当m=0时,r0代表输入的原始信号数据,M代表残差模块的总数;sm=wm×rm-1+bm,wm表示权重,rm-1表示从顶层输入的信号,bm表示偏差;代表学习的残差部分,代表残差网络的跨层连接操作;∧n∈N(·)表示所用网络中 Conv1D层或Add层的选择方法,Z(·)表示选择跨层方法,n=1,2,3表示对应的三种方式。
模型训练单元202,用于对所述序列卷积网络模型进行训练。
所述模型训练单元202包括:采样单元、交互单元和优化单元。
所述采样单元,用于所述序列卷积网络模型每一层的神经元从上一层输入的特征向量进行采样,并将采样映射到新的向量空间中。所述交互单元,用于所述序列卷积网络模型中网络层之间的学习特性进行交互。所述优化单元,用于在所述序列卷积网络模型中不同一维序列卷积IDSC中采用可变卷积核范围CKR以实现提取信号特征的类型。
信号识别单元203,用于将水声信号输入训练后的序列卷积网络模型进行信号识别。
随着层数的增加,卷积核窗口在CKR中将变得越来越大,并且在卷积核窗口中将跳过更多的信号数据,通过可变CKR,卷积层的接收场范围覆盖更多信号序列。
1DSC和CKR转换为公式表达式:
其中:D(l)(·)表示在(l)会聚层中选择的神经元的第(l)层输出,μ表示输入序列,a表示根据网络层中神经元的时间序列号,是网络中第(l)层的选择函数,用于选择前一层中用于序列卷积运算的输入,e(l)是在第(l)层中选择的神经元的序列号,表示(l)层中的1DSC操作;可变CKR的每一层中的接收场为k(l),k(1)=1,k(2)=2,…,k(l)=K,K=3L,每层以乘3 的形式逐渐扩大感受野范围。
本申请还提供了一种设备,参见图11,设备30包括:处理器301、存储器302和通信接口303。
在图11中,处理器301、存储器302和通信接口303可以通过总线相互连接;总线可以分为地址总线、数据总线、控制总线等。为便于表示,图11 中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
处理器301通常是控制设备30的整体功能,例如设备30的启动、以及设备启动后采用堆叠多个残差模块的方式构建序列卷积网络模型;对所述序列卷积网络模型进行训练;将水声信号输入训练后的序列卷积网络模型进行信号识别。
此外,处理器301可以是通用处理器,例如,中央处理器(英文:centralprocessing unit,缩写:CPU),网络处理器(英文:network processor,缩写: NP)或者CPU和NP的组合。处理器也可以是微处理器(MCU)。处理器还可以包括硬件芯片。上述硬件芯片可以是专用集成电路(ASIC),可编程逻辑器件(PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(CPLD),现场可编程逻辑门阵列(FPGA)等。
存储器302被配置为存储计算机可执行指令以支持设备30数据的操作。存储器301可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
启动设备30后,处理器301和存储器302上电,处理器301读取并执行存储在存储器302内的计算机可执行指令,以完成上述基于序列卷积网络的水声通信信号识别方法实施例中的全部或部分步骤。
通信接口303用于设备30传输数据,例如实现与用户之间的数据通信。通信接口303包括有线通信接口,还可以包括无线通信接口。其中,有线通信接口包括USB接口、MicroUSB接口,还可以包括以太网接口。无线通信接口可以为WLAN接口,蜂窝网络通信接口或其组合等。
在一个示意性实施例中,本申请实施例提供的设备30还包括电源组件,电源组件为设备30的各种组件提供电力。电源组件可以包括电源管理系统,一个或多个电源,及其他与为设备30生成、管理和分配电力相关联的组件。
通信组件,通信组件被配置为便于设备30和其他设备之间有线或无线方式的通信。设备30可以接入基于通信标准的无线网络,如WiFi,4G或5G,或它们的组合。通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。通信组件还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA) 技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
本申请说明书中各个实施例之间相同相似的部分互相参见即可。尤其,对于系统及设备实施例而言,由于其中的方法基本相似于方法的实施例,所以描述的比较简单,相关之处参见方法实施例中的说明即可。
需要说明的是,在本申请实施例中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
当然,上述说明也并不仅限于上述举例,本申请未经描述的技术特征可以通过或采用现有技术实现,在此不再赘述;以上实施例及附图仅用于说明本申请的技术方案并非是对本申请的限制,如来替代,本申请仅结合并参照优选的实施方式进行了详细说明,本领域的普通技术人员应当理解,本技术领域的普通技术人员在本申请的实质范围内所做出的变化、改型、添加或替换都不脱离本申请的宗旨,也应属于本申请的权利要求保护范围。
Claims (7)
1.一种基于序列卷积网络的水声通信信号识别方法,其特征在于,所述方法包括:
采用堆叠多个残差模块的方式构建序列卷积网络模型,序列卷积网络模型为:
其中代表所用网络的输出,sm代表残差模块学习到的信号特性,m代表残差模块的数量,m=0,1,2,…,M,当m=0时,r0代表输入的原始信号数据,M代表残差模块的总数;sm=wm×rm-1+bm,wm表示权重,rm-1表示从顶层输入的信号,bm表示偏差;代表学习的残差部分,代表残差网络的跨层连接操作;∧n∈N(·)表示所用网络中Conv1D层或Add层的选择方法,Z(·)表示选择跨层方法,n=1,2,3表示对应的三种方式;
所述采用堆叠多个残差模块的方式构建序列卷积网络模型,包括:
将Conv1D层、ReLU层和Lambda层加上跨层连接组成残差模块,其中:Conv1D层代表一维卷积层,卷积运算后的权重全部由Lambda层处理,Lambda层是权重归一化层;
在残差模块中的每个Lambda层之后,添加SpatianlDropout1D以增强训练网络的泛化能力;
对所述序列卷积网络模型进行训练;
将水声信号输入训练后的序列卷积网络模型进行信号识别。
2.根据权利要求1所述的基于序列卷积网络的水声通信信号识别方法,其特征在于,所述对所述序列卷积网络模型进行训练,包括:
所述序列卷积网络模型每一层的神经元从上一层输入的特征向量进行采样,并将采样映射到新的向量空间中;
所述序列卷积网络模型中网络层之间的学习特性进行交互;
在所述序列卷积网络模型中不同一维序列卷积IDSC中采用可变卷积核范围CKR以实现提取信号特征的类型。
3.根据权利要求1所述的基于序列卷积网络的水声通信信号识别方法,其特征在于,随着层数的增加,卷积核窗口在CKR中将变得越来越大,并且在卷积核窗口中将跳过更多的信号数据,通过可变CKR,卷积层的接收场范围覆盖更多信号序列。
5.一种基于序列卷积网络的水声通信信号识别系统,其特征在于,所述系统包括:
模型构建模块,用于采用堆叠多个残差模块的方式构建序列卷积网络模型,序列卷积网络模型为:
其中SM代表所用网络的输出,sm代表残差模块学习到的信号特性,m代表残差模块的数量,m=0,1,2,…,M,当m=0时,r0代表输入的原始信号数据,M代表残差模块的总数;sm=wm×rm-1+bm,wm表示权重,rm-1表示从顶层输入的信号,bm表示偏差;代表学习的残差部分,代表残差网络的跨层连接操作;∧n∈N(·)表示所用网络中Conv1D层或Add层的选择方法,Z(·)表示选择跨层方法,n=1,2,3表示对应的三种方式;
所述模型构建模块包括:
第一模块构建单元,用于将Conv1D层、ReLU层和Lambda层加上跨层连接组成残差模块,其中:Conv1D层代表一维卷积层,卷积运算后的权重全部由Lambda层处理,Lambda层是权重归一化层;
第二模块构建单元,用于在残差模块中的每个Lambda层之后,添加SpatianlDropout1D以增强训练网络的泛化能力;
模型训练模块,用于对所述序列卷积网络模型进行训练;
信号识别模块,用于将水声信号输入训练后的序列卷积网络模型进行信号识别。
6.根据权利要求5所述的基于序列卷积网络的水声通信信号识别系统,其特征在于,所述模型训练模块,包括:
采样单元,用于所述序列卷积网络模型每一层的神经元从上一层输入的特征向量进行采样,并将采样映射到新的向量空间中;
交互单元,用于所述序列卷积网络模型中网络层之间的学习特性进行交互;
优化单元,用于在所述序列卷积网络模型中不同一维序列卷积IDSC中采用可变卷积核范围CKR以实现提取信号特征的类型。
7.一种基于序列卷积网络的水声通信信号识别设备,其特征在于,包括:
处理器;
存储器,用于存储计算机可执行指令;
当所述处理器执行所述计算机可执行指令时,所述处理器执行权利要求1-4任一项所述的基于序列卷积网络的水声通信信号识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011473099.9A CN112836569B (zh) | 2020-12-15 | 2020-12-15 | 基于序列卷积网络的水声通信信号识别方法、系统及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011473099.9A CN112836569B (zh) | 2020-12-15 | 2020-12-15 | 基于序列卷积网络的水声通信信号识别方法、系统及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112836569A CN112836569A (zh) | 2021-05-25 |
CN112836569B true CN112836569B (zh) | 2023-01-03 |
Family
ID=75923565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011473099.9A Active CN112836569B (zh) | 2020-12-15 | 2020-12-15 | 基于序列卷积网络的水声通信信号识别方法、系统及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112836569B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114548201B (zh) * | 2021-11-15 | 2023-04-07 | 北京林业大学 | 无线信号的自动调制识别方法、装置、存储介质及设备 |
CN117131416A (zh) * | 2023-08-21 | 2023-11-28 | 四川轻化工大学 | 一种小样本调制识别方法、系统、电子设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107562784A (zh) * | 2017-07-25 | 2018-01-09 | 同济大学 | 基于ResLCNN模型的短文本分类方法 |
CN108282263A (zh) * | 2017-12-15 | 2018-07-13 | 西安电子科技大学 | 基于一维深度残差轻量网络的编码调制联合识别方法 |
CN110807365A (zh) * | 2019-09-29 | 2020-02-18 | 浙江大学 | 一种基于gru与一维cnn神经网络融合的水下目标识别方法 |
CN111329445A (zh) * | 2020-02-20 | 2020-06-26 | 广东工业大学 | 基于组卷积残差网络和长短期记忆网络的房颤识别方法 |
CN111431825A (zh) * | 2020-02-25 | 2020-07-17 | 泰山学院 | 一种基于深度多流神经网络的信号自动分类识别方法 |
CN111477221A (zh) * | 2020-05-28 | 2020-07-31 | 中国科学技术大学 | 采用双向时序卷积与自注意力机制网络的语音识别系统 |
CN111931820A (zh) * | 2020-07-15 | 2020-11-13 | 中国船舶重工集团公司第七一五研究所 | 一种基于卷积残差网络的水中目标辐射噪声lofar谱图线谱提取方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108710826A (zh) * | 2018-04-13 | 2018-10-26 | 燕山大学 | 一种交通标志深度学习模式识别方法 |
CN111460932B (zh) * | 2020-03-17 | 2022-06-21 | 哈尔滨工程大学 | 基于自适应卷积的水声信号分类识别方法 |
-
2020
- 2020-12-15 CN CN202011473099.9A patent/CN112836569B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107562784A (zh) * | 2017-07-25 | 2018-01-09 | 同济大学 | 基于ResLCNN模型的短文本分类方法 |
CN108282263A (zh) * | 2017-12-15 | 2018-07-13 | 西安电子科技大学 | 基于一维深度残差轻量网络的编码调制联合识别方法 |
CN110807365A (zh) * | 2019-09-29 | 2020-02-18 | 浙江大学 | 一种基于gru与一维cnn神经网络融合的水下目标识别方法 |
CN111329445A (zh) * | 2020-02-20 | 2020-06-26 | 广东工业大学 | 基于组卷积残差网络和长短期记忆网络的房颤识别方法 |
CN111431825A (zh) * | 2020-02-25 | 2020-07-17 | 泰山学院 | 一种基于深度多流神经网络的信号自动分类识别方法 |
CN111477221A (zh) * | 2020-05-28 | 2020-07-31 | 中国科学技术大学 | 采用双向时序卷积与自注意力机制网络的语音识别系统 |
CN111931820A (zh) * | 2020-07-15 | 2020-11-13 | 中国船舶重工集团公司第七一五研究所 | 一种基于卷积残差网络的水中目标辐射噪声lofar谱图线谱提取方法 |
Non-Patent Citations (3)
Title |
---|
Adoption of hybrid time series neural network in the underwater acoustic signal modulation identification;Yan Wang 等;《ELSEVIER》;20201013;第1-17页 * |
Temporal Convolutional Attention-based Network For Sequence Modeling;Hongyan Hao 等;《arXiv》;20200305;第1-7页 * |
基于深度残差网络的水下通信调制信号分类;王岩 等;《数字海洋与水下攻防》;20200630;第3卷(第3期);第242-249页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112836569A (zh) | 2021-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102165645B1 (ko) | 적응형 무선 통신의 학습 및 전개 | |
Jiang et al. | Deep neural networks for channel estimation in underwater acoustic OFDM systems | |
Nguyen et al. | Distributed deep deterministic policy gradient for power allocation control in D2D-based V2V communications | |
CN112836569B (zh) | 基于序列卷积网络的水声通信信号识别方法、系统及设备 | |
Leung et al. | Prediction of noisy chaotic time series using an optimal radial basis function neural network | |
Jiang et al. | Neural network-based channel prediction and its performance in multi-antenna systems | |
Liu et al. | Channel state information prediction for adaptive underwater acoustic downlink OFDMA system: Deep neural networks based approach | |
CN107135041B (zh) | 一种基于相空间重构的rbf神经网络信道预测方法 | |
CN111192211B (zh) | 一种基于单个深度神经网络的多噪声类型盲去噪方法 | |
Parrish et al. | System design considerations for undersea networks: Link and multiple access protocols | |
CN112769510B (zh) | 用于基于机器学习来估计干扰的装置及方法 | |
DE102014008347A1 (de) | Verfahren und vorrichtung zur kanalschätzung und ofdm-empfänger | |
KR20180080122A (ko) | 무선 전송 장치 | |
CN113613301B (zh) | 一种基于dqn的空天地一体化网络智能切换方法 | |
CN112307987B (zh) | 基于深度混合路由网络识别通信信号的方法 | |
CN108401254A (zh) | 一种基于强化学习的无线网络资源分配方法 | |
CN114745233B (zh) | 一种基于导频设计的联合信道估计方法及装置 | |
CN109547374B (zh) | 一种用于水下通信调制识别的深度残差网络及系统 | |
Madhubabu et al. | Long-short term memory based channel prediction for SISO system | |
CN115964653A (zh) | 一种水声信号分类方法、系统、设备及存储介质 | |
Onasami et al. | Underwater acoustic communication channel modeling using reservoir computing | |
Huang et al. | Machine learning for underwater acoustic communications | |
CN114528987A (zh) | 一种神经网络边缘-云协同计算分割部署方法 | |
Wang et al. | Residual learning based RF signal denoising | |
Ahrens et al. | A machine learning method for prediction of multipath channels |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |