CN112307987B - 基于深度混合路由网络识别通信信号的方法 - Google Patents

基于深度混合路由网络识别通信信号的方法 Download PDF

Info

Publication number
CN112307987B
CN112307987B CN202011207266.5A CN202011207266A CN112307987B CN 112307987 B CN112307987 B CN 112307987B CN 202011207266 A CN202011207266 A CN 202011207266A CN 112307987 B CN112307987 B CN 112307987B
Authority
CN
China
Prior art keywords
routing
network
signal
layer
hybrid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011207266.5A
Other languages
English (en)
Other versions
CN112307987A (zh
Inventor
王岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taishan University
Original Assignee
Taishan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taishan University filed Critical Taishan University
Priority to CN202011207266.5A priority Critical patent/CN112307987B/zh
Publication of CN112307987A publication Critical patent/CN112307987A/zh
Application granted granted Critical
Publication of CN112307987B publication Critical patent/CN112307987B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/04Network management architectures or arrangements
    • H04L41/044Network management architectures or arrangements comprising hierarchical management structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • H04L41/0823Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/145Network analysis or design involving simulating, designing, planning or modelling of a network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种基于深度混合路由网络识别通信信号的方法,该方法包括:获取信号数据,并提取相应信号特征;设计混合路由网络模型,该模型以CNN神经网络为基础模型,添加多路由单元,各个单元之间通过跨层连接网络方式相结合,设计不止一个混合多路由网络模型;利用获取的信号数据对网络模型进行训练,根据训练效果选择混合多路由单元的的网络模型;利用获取的混合多路由网络模型对信号数据进行识别,最终输出识别结果。本发明提供的混合路由网络结构为复杂的路由逻辑网络设计提供了一种简单的形式,所使用的网络可以生成多种路由模式,从而增强了提取信号特征的性能,并具有更快的训练速度。

Description

基于深度混合路由网络识别通信信号的方法
技术领域
本发明涉及深度学习算法技术领域,尤其是涉及到一种基于通信信号种类分类识别的方法。
背景技术
随着无线通信的发展,在发射机处识别某些发射参数已成为电信研究领域中的热点话题,具有广泛的用途。通常,信号的时频信息来自未知或部分已知的来源。如今,信号种类分类一直是军事和民用无线通信中采用的智能无线电的重要组成部分。
信号种类识别在军事领域具有重要地位。现代电子战(Electronic Warfare,EW)包括三个主要方面:电子支持(Electronic Support,ES),电子攻击(Electronic Attack,EA)和电子保护(Electronic Protect,EP)。ES的目标是从无线电信号发射中获取信息。成功的信号检测由信号种类识别算法确定,分类结果可以为EA提供有价值的支持,可以扩展到EW中的所有模块中。随着通信资源的拥挤和消费者的涌现,民用无线领域频谱稀缺的瓶颈问题变得更加严重。然而,对于最大容量和最佳服务质量的实际要求在通信过程中面临多重干扰的巨大困难。随着认知无线电(Cognitive Radio,CR)的出现,关注民用地区的信号分类系统越来越受到关注,认知无线电通过收发器的灵活功能来重建传输参数。CR收发器与传统收发器的显著不同之处在于对传输源的环境感知。因此,CR被认为民用地区信号分类系统的重要组成部分和最有吸引力的研究领域。在上述两个领域中,信号种类识别是实现智能无线电的基础。
在水下声通道中通常认为是最困难的通信信道之一。鉴于信号衰减低,声波是水下通信中最通用的传输方式,被认为是极低频率(只有几kHz)的宽带系统。以这种方式,在带宽的情况下中心频率不是不可感知的。多径干扰会对声传播产生巨大影响,并且众所周知,水中的声速非常慢,接近1500m/s。水下设备运动造成了过多的多普勒影响,并且延迟扩展有数十甚至数百毫秒,从而导致信号频率选择性衰落。这是水下无线通信的一个突出限制,特别是与光波和电磁波的传输性能相比尤其明显。
调制分类算法主要由基于似然(Likelihood-Based,LB)的方法和基于特征(Feature-Based,FB)的方法组成。当分类器需要掌握理想的信道参数时,LB算法可在分类精度上实现最佳性能。LB分类器的一般解决方案包括两部分。首先,每个信号种类假设都会评估接收信号的可能性,选择的通道模型源自概率函数,该概率函数可满足低复杂度要求或适应非合作环境;其次,多样化信号种类假设的概率与分类确定之间存在对比。实际上,最关键的追求是非合作策略中的多功能性和计算复杂性的进步。它主要由平均似然比检验(Average Likelihood Ratio Test,ALRT),广义似然比检验(Generalized LikelihoodRatio Test,GLRT)和混合似然比检验(Hybrid Likelihood Ratio Test,HLRT)组成。假设随后的ALRT,GLRT和HLRT分类器知道了理想的信道信息,或者在某些情况下,它们不知道一两个信道参数。在这些分类器中,最复杂的分类器是ALRT的似然函数,它可以使用指数运算和多积分计算。GLRT似然函数具有更容易表达的方法,但有偏差分类的结果。HLRT融合了ALRT和GLRT的优点,在复杂性和分类性能之间的两个因素是平等的。这些方法试图降低最大似然分类器的复杂度,这始终是主要问题。
LB提供了出色的分类精度,这主要基于决策理论的。LB算法的高复杂度带来了FB分类器的机会。FB具有次优的性能,并且计算量比LB低。通过FB研究信号的基于频谱的特征,并且调制分类的各种信号特征因子都利用频谱特性。FB分类器的通常结构包括小波函数捕获的基于小波的特征,检查信号类型和顺序的高阶统计特征,以及基于循环平稳分析的循环特征等。
机器学习算法(Machine Learning Algorithms,MLA)也广泛用于AMC,属于FB之一。一些达到的分类判断为多层决策树指定了一种基础类型,其中每个阶段都在可分辨的信号特征上进行处理。但是,对于各种判断阈值和决策树设计的优化存在一些不便。为了增强基于MLA的算法,已采用各种方法来完成信号种类分类中的两个主要方式。首先,MLA使分类决策阈值更易于实现。其次,MLA可以是一种改变信号模式数据尺寸的工具,这可以通过自动生成和自动选择的特征来实现。因此,为了满足分类器的计算需求,存在变化的特征。MLA分类器,即支持向量机,通常与信号特征相关联,以升至高维。此外,MLA在信号特征空间中实现降维,它选择k最近邻,遗传算法和线性回归等。
深度学习算法(Deep Learning Algorithms,DLA)属于MLA的一个分支,广泛用于计算机视觉(Computer Vision,CV),自然语言理解(Natural Language Understanding,NLU)和语音识别(Speech Recognition,SR)。信号种类识别的DLA主要涉及递归神经网络(Recurrent Neural Network,RNN),卷积神经网络(Convolutional Neural Network,CNN),以及地面通信中两种网络方法的合并使用。在现有研究中,重新设计的轻量级ResNet获得更好的分类结果,它包含较浅的层,而网络结构中没有较大的接收卷积核;网络是具有更多层的可扩展结构,可以更容易地捕获深层信号特征以提高信号种类识别效果;在衰落的通信环境中进行了分析,并且信号种类识别的问题已通过整个联合神经网络得到了适当处理;长期短期记忆(Long-Short Term Memory,LSTM)和CNN组成一个混合网络,成为具有两个流的新网络结构形式,它提取了各种不同的信号特征,以有助于提高分类性能;通过对比传统网络结构,对CNN的结构进行了调整,信号种类识别效果有了显著改善。
在水下通信中,在信号种类识别任务中对DLA的研究还很少;考虑到水下信号的随机干扰,有效的结果可以通过在自动模式下运行的外部深度编码器来执行识别;将创新的DLA与传统的统计方法进行比较,后者在信号种类识别任务中具有明显的优势。
由上述,DLA在信号识别中具有广阔的应用前景,但是目前仍缺乏性能好的深度识别方法。
发明内容
本发明的目的是提供一种基于深度混合路由网络识别通信信号的方法,以弥补现有技术的不足。
CNN类网络形式和RNN类网络形式仅在直接分层覆盖或它们之间的简单组合连接的情况下使用,在网络结构设计方面尚未进行深度优化。与地面通信相比,恶劣环境对水下声音信号通信的影响更大。
为实现本发明的目的,本发明采取的具体技术方案如下:
一种基于深度混合路由网络识别通信信号的方法,该方法包括以下步骤:
S1:获取信号数据,并提取相应信号特征;
S2:设计混合路由网络模型,该模型以CNN神经网络为基础模型,添加多路由单元,各个单元之间通过跨层连接网络方式相结合,设计不止一个混合多路由网络模型;
S3:利用S1获取的信号数据对S2的网络模型进行训练,根据训练效果选择混合多路由单元的的网络模型;
S4:利用S3获取的混合多路由网络模型对信号数据进行识别,最终输出识别结果。
进一步的,所述S1中,还包括将信号特征以可变数据组的形式输入至混合路由模型中;各种不同的信号数据组表示为
Figure BDA0002757475850000041
其中,M是分组总数,m是分组编号;φ(·)是与组号相对应的信号比特序列,Φ是信号的总数,信号位c(·)是当前检索组,h是获得的信号位号,
Figure BDA0002757475850000042
用作所使用网络中信号种类的输入序列,φ′是当前信号比特序列。
进一步的,所述混合路由网络模型的基本组成包括输入层、卷积层、maxPooling层、多路由单元层、轨道重组和连接层,全局映射池层和全连接层。
其中,所述输入层直接接收原始信号数据;所述卷积层和MaxPooling层对信号数据进行预处理,它们的卷积核为3×3。
所述一个多路由单元中,主分支l0由7个基本层组成,包括具有l1的卷积核的GroupConvolution(GConv),批量归一化(BN),relu激活函数(ReLU),具有卷积核的深度卷积(DepthConv_1),在2×2的二维卷积(Conv_2)中,卷积核为1×1;在辅助路径上可选择的三个分支分别对应于l1,l2,l3;其中,辅助分支l1由五个基本层组成,包括具有3×3卷积内核的DepthConv_2,两个BN,Conv_2和ReLU;辅助分支l2包括平均池(AveragePooling),辅助分支l3是直接连接的链接。
当然,多路由单元不仅仅包括上述多路由单元的层级结构形式,还包括其他形式和组合的多路由层。
所述轨道重组(TrackRestr)是不同分支之间的特征交换操作,而连接层(Concat)将来自不同分支的提取数据拼接起来,以便在下一个网络单元中继续学习。
进一步的,所述多个混合多路由单元的叠加来实现该结构,对应的公式如下:
Figure BDA0002757475850000051
其中j表示叠加单位,j=1,2,…,J,J表示最大叠加单元数,l0表示主分支,ζ(·)表示辅助分支的选择函数,u表示不同辅助分支的可选模式,u=1,2,…,U,U表示辅助分支的总数,j层可以选择从1到U所需的任何可选辅助分支,
Figure BDA0002757475850000052
代表最终的网络结构。
进一步的,所述多个混合路由单元之间能够进行信号特征的交换。数据分支表示从1到pth的多条路由路径,数据包(packet)代表信号特征,轨道(track,虚线线框)是每个分支以特定百分比进行特征交换的选定范围,一些packet组成一条track,每个packet只有一个特征图;采用DepthConv卷积方式,DepthConv等于增加了一个屏障,以删除不必要的数据,从而减少了计算量;另外,稀疏的分段网络带来的弊端,通过重构卷积track来解决,混合路由网络是track重组的稀疏连接。
更进一步的,在同一packet中,包含不同分支的信息可能相似,如果没有分支之间交换,则学习的特征将非常有限,如果在不同的分支之后交换了某些学习到的特征,则也可以交换学习到的信息,每个packet具有更多信息,并且可以提取更多特征;通过每个分支中所有其他packet的特征交换,该形式有利于获得更好的识别结果,因此,Xception,MobileNet配备了连续的1×1卷积,可确保在卷积操作后特征图的不同packet之间进行信息交换,称为重组转换,该解决方案确保下一个卷积输入来自不同的packet,以便可以在不同的packet之间传输信息;与每个分支对应的二维特征矩阵为W1,W2,Wp,所选特征范围百分比为δ;交换所涉及的特征是
V1=δW1 (2)
V2=δW2 (3)
Vn=δWn (4)
在第一网络单元学习之后,按比例选择的初始矩阵为:
[V1,V2,V3,…,Vp-1,Vp]
从1到(p-1)的旋转和变化操作为:
[Vp,V1,V2,…,Vp-2,Vp-1] (5)
[Vp-1,Vp,V1,…,Vp-3,Vp-2] (6)
[V2,V3,V4,…,Vp,V1] (7)
为了完成交换操作,这些特征由Concat连接到第一个多路由单元的特征序列中,然后可以传输到下一个多路由单元以进行进一步学习。
进一步的,数据特征经由混合路由单元处理后,全局映射池(GlobalMapPooling)将特征映射大小减小为1×1,最后,1全连接层(Dense)输出信号种类预测值。
进一步的,所述S3中,利用网络动态收敛速度评估,通过不同混合路由模型的收敛速度来选择识别信号的路由途径;所述网络动态收敛速度评估是利用已知信号数据,通过不同路由途径进行速度评估,选取组合收敛快和效果好的混合路由模型,然后再利用该模型进行信号识别训练。
上述方法优先应用于水声通信信号识别中。
本发明的优点和有益效果:
本发明提供的混合路由网络结构为复杂的路由逻辑网络设计提供了一种简单的形式,所使用的网络可以生成多种路由模式,从而增强了提取信号特征的性能,并具有更快的训练速度。且本方法还丰富了信号特征的提取类别,并且具有较少的参数数量;数据处理主分支保持不变时,辅助分支采用多个可选方向,通过在不同分支之间交换学习到的高级信号特征,进一步提高了所用网络的分类能力。
通过仿真实验,用真实的水下信道参数对本发明提供的混合路由网络进行了测试,证明了本方法在信号识别中具有更高的识别精度和有效性。
附图说明
图1所示为本发明的实施方案所涉及的传统卷积运算方式示意图;
图2所示为本发明的实施方案所涉及的可分离卷积示意图;
图3所示为本发明的实施方案所涉及的跨层连接网络结构示意图;
图4所示为本发明的实施方案所涉及的等效的多路由网络结构示意图;
图5所示为本发明的实施方案所涉及的混合路由网络结构示意图;
图6所示为本发明的实施方案所涉及的特征在不同的分支之间交换示意图;
图7所示为本发明的实施方案所涉及的水声通信信道模型示意图;
图8所示为本发明的实施方案所涉及的不同路由形式的数据组为32中的调制分类性能效果示意图;
图9所示为本发明的实施方案所涉及的不同路由形式的数据组为64中的调制分类性能效果示意图;
图10所示为本发明的实施方案所涉及的不同路由形式的数据组为128中的调制分类性能效果示意图;
图11所示为本发明的实施方案所涉及的不同路由形式的数据组为256中的调制分类性能效果示意图。
图12所示为本发明的实施方案所涉及的不同方法之间的调制分类性能效果对比图。
具体实施方式
以下通过具体实施例并结合附图对本发明进一步解释和说明。
实施例1:
一种基于深度混合路由网络识别通信信号的方法,该方法包括以下步骤:
S1:获取信号数据,并提取相应信号特征;
S2:设计混合路由网络模型,该模型以CNN神经网络为基础模型,添加多路由单元,各个单元之间通过跨层连接网络方式相结合,设计不止一个混合多路由网络模型;
S3:利用S1获取的信号数据对S2的网络模型进行训练,根据训练效果选择混合多路由单元的的网络模型;
S4:利用S3获取的混合多路由网络模型对信号数据进行识别,最终输出识别结果。
CNN网络形式中的一维卷积适用于NLU,而二维卷积和三维卷积在CV中具有更广泛的应用。二维卷积如图1所示,图像数据由16×16的二维数据组成,并且3表示图像数据的深度,中间的立方体表示在原始图像上进行卷积运算的范围,其中卷积核为3×3×3;遍历完整的图像数据后,结果由图像上的14×14×1图像数据获得。对可深度分离的卷积形式将传统的卷积运算分为两个步骤,如图2所示,首先是深度卷积过程,输入由3×3×1卷积内核进行卷积,而不会更改图像数据的深度,该深度对应于14×14×1的图像数据,这些图像数据堆叠在一起以创建14×14×3的图像数据.第二步是逐点卷积,1×1卷积核遍历14×14×3图像数据的每个点以检索14×14×1卷积结果。
深度学习网络通常会大量堆叠的网络层,以提高学习能力并获得更高的分类结果,当将训练后的网络模型推广到相似的数据集时,需要调整一些网络超参数,这导致稀疏网络结构的可伸缩性问题,从而阻碍了在信号种类分类任务中的应用。为了解决这个问题,通过多路由稀疏网络结构的形式来考虑平衡结构,该结构与跨层连接网络方式相结合,这等效于缩短网络深度,如图3所示,这不会影响网络的提取能力,且这消除了只能将每层的输出作为下一层输入的限制,并且允许将每层的输出作为下一个多层的输入进行更进一步的分离和提取;跨层连接网络模块形成了一个新的结构,如图4所示。
上述方法的具体组成和过程如下:
常见CNN类的输入信号数据都是固定长度,在信号种类识别中这种方式可能无法更好地工作。为了获取信号隐藏特征以增强信号种类识别的正确性,可以将信号组合为各种数据组。混合路由网络由可变数据组组输入。该方法将获得丰富的信号调制特性,从而进一步改善分类准确性。
各种不同的信号数据组表示为
Figure BDA0002757475850000081
其中,M是分组总数,m是分组编号。φ(·)是与组号相对应的信号比特序列,Φ是信号的总数。信号位c(·)是当前检索组,h是获得的信号位号。
Figure BDA0002757475850000082
用作所使用网络中信号种类的输入序列,φ′是当前信号比特序列。混合路由网络使用各种输入数据组产生最终分类结果。
本实施例提供的混合路由网络的基本组成如图5所示,其基本组成包括输入层、卷积层、maxPooling层、多路由单元层、轨道重组和连接层,全局映射池层和全连接层。混合路由网络可以达到稀疏分段网络提取各种信号特征的效果,并不像稀疏网络(例如ResNeXT,以及由AutoML自动生成的Nasnet)那样减少训练并行度。稀疏的碎片化网络倾向于采用复杂的结构,其中在层结构中存在各种各样的小卷积和池化操作,这会导致网络结构的复杂性,降低模型的效率,并降低训练速度。混合路由网络可以通过在分支中保留不变的结构来解决这些问题。
所述输入层直接接收原始信号数据,二维卷积(Conv_1)和MaxPooling层对信号数据进行预处理,它们的卷积核为3×3。通过叠加多路由单元(实线框中)来构建整体网络结构,在每个多路由单元的开始,网络输入均分为不同的分支;主分支l0由7个基本层组成,包括具有l1的卷积核的Group Convolution(GConv),批量归一化(BN),relu激活函数(ReLU),具有卷积核的深度卷积(DepthConv_1)。在2×2的二维卷积(Conv_2)中,卷积核为1×1。在辅助路径上可以选择的三个分支分别对应于l1,l2,l3(虚线框)。辅助分支l1由五个基本层组成,包括具有3×3卷积内核的DepthConv_2,两个BN,Conv_2和ReLU。辅助分支l2包括平均池(AveragePooling),辅助分支l3是直接连接的链接。
轨道重组(TrackRestr)是不同分支之间的特征交换操作,而连接层(Concat)将来自不同分支的提取数据拼接起来,以便在下一个网络单元中继续学习。通过多路由单元的叠加来实现该结构,对应的公式如下:
Figure BDA0002757475850000091
其中j表示叠加单位,j=1,2,…,J,J表示最大叠加单元数,l0表示主分支,ζ(·)表示辅助分支的选择函数,u表示不同辅助分支的可选模式,u=1,2,…,U,U表示辅助分支的总数;j层可以选择从1到U所需的任何可选辅助分支,
Figure BDA0002757475850000092
代表最终的网络结构。
所述多路由单元中,不同的分支交换信号特征,如图6所示。分支(黑色实线框)表示从1到pth的多条路由路径,数据包(packet)代表信号特征,轨道(track,虚线线框)是每个分支以特定百分比进行特征交换的选定范围。通过在不同分支之间轮换和改变一定比例的特征,将其提供给下一个单元,以供进一步学习,这可以避免不同分支的局限性来保证提取到丰富的信号区分特征。常规卷积在所有输入特征图上运行,即全track卷积,这是一种track密集连接,意味着在所有track上都执行卷积。实际上,ResNeXt中的1×1卷积基本上占据了90%的乘法加法运算。还有Xception,MobileNet也使用类似的卷积。它们还采用了DepthConv,这种方式是一种特殊的卷积,一些packet组成一条track,每个packet只有一个特征图。DepthConv等于增加了一个屏障,以删除不必要的数据,从而减少了计算量。稀疏的分段网络带来的弊端,通过重构卷积track来解决,这意味着混合路由网络是track重组的稀疏连接。当堆叠GConv层时,主要问题是在不同分支之间的特征图无法进行通信,就像划分相互不相关的分支一样。
在同一packet中,包含不同分支的信息可能相似,如果没有分支之间交换,则学习的特征将非常有限。如果在不同的分支之后交换了某些学习到的特征,则也可以交换学习到的信息。每个packet具有更多信息,并且可以提取更多特征,通过每个分支中所有其他packet的特征交换,该形式有利于获得更好的识别结果;因此,Xception,MobileNet配备了连续的1×1卷积,可确保在卷积操作后特征图的不同packet之间进行信息交换,称为重组转换。该解决方案确保下一个卷积输入来自不同的packet,以便可以在不同的packet之间传输信息。通常,重组转换不是随机的,而是平均地互换,这更有利于在不同分支之间共享学习到的特征。只需要简单的尺寸转换和转置就可以实现均匀的重组,这是简单且易于操作的。与每个分支对应的二维特征矩阵为W1,W2,Wp,所选特征范围百分比为δ。交换所涉及的特征是
V1=δW1 (2)
V2=δW2 (3)
Vn=δWn (4)
在第一网络单元学习之后,按比例选择的初始矩阵为:
[V1,V2,V3,…,Vp-1,Vp]
从1到(p-1)的旋转和变化操作为:
[Vp,V1,V2,…,Vp-2,Vp-1] (5)
[Vp-1,Vp,V1,…,Vp-3,Vp-2] (6)
[V2,V3,V4,…,Vp,V1] (7)
为了完成交换操作,这些特征由Concat连接到第一个多路由单元的特征序列中,然后可以传输到下一个多路由单元以进行进一步学习。当上述阶段完成时,全局映射池(GlobalMapPooling)将特征映射大小减小为1×1,最后,1全连接层(Dense)输出信号种类预测值。
实施例2:以水下水声通信信号为例具体验证本方法的有效性
水下无线通信过程主要受水下环境的影响,主要影响因素是水下声信道中的多径,多普勒效应,更多的时间延迟和加性高斯白噪声(additive white Gaussian noise,AWGN)。信道可以表示为图7,在接收端信号形式如下:
Figure BDA0002757475850000111
其中s(t)是发送信号,h(t,δ)是具有多径、多普勒效应和时间延迟的信道脉冲响应,n(t)是AWGN,ei(t)是第i条路径的衰减,
Figure BDA0002757475850000112
表示信号卷积,δi(t)是第i条路径时延,I是多径信号的总数,并且在所有路径中设置了相似的多普勒缩放因子。发送信号可以是模拟信号或数字信号。
以实施例1提供的方法和多混合路由网络模型为训练和识别模型。
所用网络的具体训练设置:批次大小(batch size)选择为128,优化器(optimizer)选择动量(Stochastic Gradient Descent,SGD)=0.85,衰减(decay)=5×e-4和学习率(learning rate)=0.01的SGD。为了提高训练网络的泛化能力,早期停止技术(early stopping technique)采用5次训练后没有进一步学习效果提升时,就终止训练。每种信号种类都有400个用于训练的向量,它们从信号数据集中随机50%选择。其余的是验证数据,对应也有400个向量。有10种信号类型用于训练,包括4频移键控(4Frequency-ShiftKeying,4FSK),8FSK,单边带(Single-SideBand,SSB),调频(Frequency Modulation,FM),脉冲幅度调制(Pulse Amplitude Modulation,PAM),二进制相移键控(Binary Phase-Shift Keying,BPSK),正交相移键控(Quadrature PSK,QPSK),8PSK,16正交调幅(16Quadrature Amplitude Modulation,16QAM),32QAM。
图8至图11表示了具有不同路由形式的各种数据组中的信号种类分类性能。网络结构中有三个单元的叠加。(X,X)表示与中间叠加单元相对应的辅助选择的方式。(X,X,X)的其他形式具有相似的含义,X有l1,l2或l3的不同选择。δ是所选数据包范围的百分比,作为辅助分支之间交换数据的覆盖范围。在12种不同的混合路由形式中,可以有效地识别具有32、64、128和256数据组的十种信号类型。
当数据组为32时,在-20dB和-16dB之间的低信噪比(Signal-to-Noise Ratio,SNR)时,在不同的路由形式中会有类似的识别分类结果。当SNR>-16dB时,(l1,l2,l3),δ=100%比(l1,l2,l3),δ=60%,(l1,l2,l3),δ=20%分别提升1.2%和3.2%左右。同时,这种结构形式的网络比其他路由形式在δ=100%,δ=60%,δ=20%时识别效果平均好4.8%,8.2%和13.6%。
在数据组为64处也有上述类似的趋势,但是进一步添加路由分支并不能持续提高分类精度,这是由于混合路由网络可以通过完全交换分支学习到特征的方式,更好地提取丰富的信号特征,并且在(l1,l2,l3),δ=100%的情况下可以实现最好的分类效果。
当数据组增加到128时,在SNR<-16dB时,使用不同的混合路由网络可获得几乎相同的分类结果。随着信噪比的提高,不同辅助分支的选择方式带来了不同分类能力。当-16dB<SNRs<5dB时,128数据组形式为(l1,l2,l3),δ=100%比(l1,l2,l3),δ=60%,(l1,l2,l3),δ=20%的形式上升大约6.9%和10.5%,对比其他路由形式也有明显的优势。
在256位的数据组中,在SNR小于-15dB的情况下,不同的路由形式的存在类似识别性能。当δ为100%时,在SNR>-15dB时,(l1,l2,l3)识别效果最佳,并且与其他分支形式(l1,l2),(l1,l3)和(l2,l3)相比,分别略微提高了1.3%,0.7%和1.1%。当信号数据的足够数据组提供给所使用的网络时,会提取到更多的信号高维特征,这有助于提高识别信号类型的能力。上述实验表明,混合路由网络是可适用于各种数据组长度,进行信号种类分类识别的有效方法。
在图12中,在数据组选取为256时,将本发明与ResNeXT,MobileNet,Xception和Nasnet进行比较。其中,HybirdRouteNet代表混合路由结构网络方法。ResNeXT是宽结构的网络,MobileNet和Xception是轻量级的神经网络,具有堆叠更多的小卷积核,而Nasnet是AutoML网络的复杂结构。在-20dB和-12dB的SNR范围内,ResNeXT具有比HybirdRouteNet更好的分类结果,并且这两个网络并不能在低SNR下进行有效识别。在这个SNR范围内,MobileNet和Xception的分类结果与HybirdRouteNet几乎相同。Nasnet和HybirdRouteNet从-20dB到-16dB具有相似的识别结果,并且随着SNR的提高,Nasnet的识别性能没有类似HybirdRouteNet那样显著增长。在-12dB到-4dB的范围内,HybirdRouteNet的分类效果大大高于其他网络,平均分别比ResNeXT,MobileNet和Nasnet高3%,7%和8%。结果表明,HybirdRouteNet具有结构上的优势,能够获得更高级的信号分类信息,实现理想的信号种类识别效果。在SNR>-4dB的范围,所有网络的分类效果都有明显的改善。HybirdRouteNet对比其他四种网络都有显著的识别优势。ResNeXT,MobileNet和Xception在分类效果中显示出近似趋势。它们的效率不如HybirdRouteNet,分别比ResNeXT和MobileNet平均提升11%,比Xception,Nasnet平均提升12%,43%。这是由于混合路由网络结构丰富了信号的特征提取,其性能优于ResNeXT的宽网络结构,MobileNet和Xception的轻量级网络,Nasnet的AutoML网络结构。
使用的网络将训练时间和参数大小与表1中的其他网络模型进行比较,这些模型是在ubuntu 18.04,tensorflow版本1.12,CPU i7和GPU 2080ti上获得的。ResNeXT和MobileNet的参数大小分别是HybridRouteNet的4倍和5倍。Xception和Nasnet具有复杂的结构样式,并且具有更大的参数量。在参数大小上,它们分别是HybridRouteNet的20倍和98倍。HybridRouteNet的单次训练时间最短,分别只有ResNeXT,MobileNet,Xception和Nasnet的时间为1/9、1/4、1/5、1/35。单次训练时间不仅与参数大小有关,而且与网络结构的复杂性有关。通过多路由结构网络的信号特征交换,所用网络的结构设计更加有效,它具有较小的参数大小和较短的训练时间。
表1:不同网络模型的参数大小和训练时间对比
Figure BDA0002757475850000141
由上述可得,本发明提供的多混合路由网络模型(HybridRouteNet)具有更好的信号识别性能,且更适合应用并嵌入到实际的水下通信系统中使用。

Claims (8)

1.一种基于深度混合多路由网络识别通信信号的方法,其特征在于,该方法包括以下步骤:
S1:获取信号数据,并提取相应信号特征;
S2:设计混合多路由网络模型,该模型以CNN神经网络为基础模型,添加多路由单元,各个单元之间通过跨层连接网络方式相结合,设计不止一个混合多路由网络模型;
S3:利用S1获取的信号数据对S2的网络模型进行训练,根据训练效果选择混合多路由单元的网络模型;所述混合多路由网络模型的基本组成包括输入层、卷积层、maxPooling层、多路由单元层、轨道重组和连接层,全局映射池层和全连接层;所述多路由单元层由多个所述多路由单元叠加而成;
S4:利用S3获取的混合多路由网络模型对信号数据进行识别,最终输出识别结果。
2.如权利要求1所述的方法,其特征在于,所述S1中,还包括将信号特征以可变数据组的形式输入至混合多路由网络模型中;各种不同的信号数据组表示为
Figure RE-FDA0003073200270000011
其中,M是分组总数,m是分组编号;
Figure RE-FDA0003073200270000012
是与组号相对应的信号比特序列,Φ是信号的总数,信号位
Figure RE-FDA0003073200270000013
是当前检索组,h是获得的信号位号,
Figure RE-FDA0003073200270000014
用作所使用网络中信号种类的输入序列,φ′是当前信号比特序列。
3.如权利要求1所述的方法,其特征在于,所述输入层直接接收原始信号数据;所述卷积层和MaxPooling层对信号数据进行预处理,它们的卷积核为3×3。
4.如权利要求1所述的方法,其特征在于,所述多路由单元中,主分支l0由7个基本层组成,包括具有l1的卷积核的GConv,批量归一化,relu激活函数,具有卷积核的深度卷积,在2×2的二维卷积中,卷积核为1×1;在辅助路径上可选择的三个分支分别对应于l1,l2,l3;其中,辅助分支l1由五个基本层组成,包括具有3×3卷积内核的DepthConv_2,两个BN,Conv_2和ReLU;辅助分支l2包括平均池,辅助分支l3是直接连接的链接层。
5.如权利要求1所述的方法,其特征在于,多个所述多路由单元的叠加来实现层级结构,对应的公式如下:
Figure RE-FDA0003073200270000021
其中j表示叠加单位,j=1,2,…,J,J表示最大叠加单元数,l0表示主分支,
Figure RE-FDA0003073200270000022
表示辅助分支的选择函数,u表示不同辅助分支的可选模式,u=1,2,…,U,U表示辅助分支的总数,j层可以选择从1到U所需的任何可选辅助分支,
Figure RE-FDA0003073200270000023
代表最终的网络结构。
6.如权利要求1所述的方法,其特征在于,所述多路由单元之间能够进行信号特征的交换;数据分支表示从1到pth的多条路由路径,与每个分支对应的二维特征矩阵为W1,W2,Wp,所选特征范围百分比为δ;交换所涉及的特征是
V1=δW1 (2)
V2=δW2 (3)
Vn=δWn (4)
在第一网络单元学习之后,按比例选择的初始矩阵为:
[V1,V2,V3,…,Vp-1,Vp]
从1到(p-1)的旋转和变化操作为:
[Vp,V1,V2,…,Vp-2,Vp-1] (5)
[Vp-1,Vp,V1,…,Vp-3,Vp-2] (6)
[V2,V3,V4,…,Vp,V1] (7)。
7.如权利要求1所述的方法,其特征在于,数据特征经由多路由单元处理后,全局映射池将特征映射大小减小为1×1,最后,1全连接层输出信号种类预测值。
8.如权利要求1-7任一项 所述的方法能够应用于水声通信信号识别技术领域。
CN202011207266.5A 2020-11-03 2020-11-03 基于深度混合路由网络识别通信信号的方法 Active CN112307987B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011207266.5A CN112307987B (zh) 2020-11-03 2020-11-03 基于深度混合路由网络识别通信信号的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011207266.5A CN112307987B (zh) 2020-11-03 2020-11-03 基于深度混合路由网络识别通信信号的方法

Publications (2)

Publication Number Publication Date
CN112307987A CN112307987A (zh) 2021-02-02
CN112307987B true CN112307987B (zh) 2021-06-29

Family

ID=74334101

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011207266.5A Active CN112307987B (zh) 2020-11-03 2020-11-03 基于深度混合路由网络识别通信信号的方法

Country Status (1)

Country Link
CN (1) CN112307987B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052255B (zh) * 2021-04-07 2022-04-22 浙江天铂云科光电股份有限公司 一种电抗器智能检测和定位的方法
CN113127927B (zh) * 2021-04-27 2022-03-18 泰山学院 一种许可链数据共享及监管的属性重构加密方法及系统
CN115426055B (zh) * 2022-11-07 2023-03-24 青岛科技大学 一种基于解耦卷积神经网络的含噪水声信号盲源分离方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102055673A (zh) * 2010-12-30 2011-05-11 上海顶竹通讯技术有限公司 多路由网络以及路由切换方法
CN109547374A (zh) * 2018-11-23 2019-03-29 泰山学院 一种用于水下通信调制识别的深度残差网络及系统
CN109618288A (zh) * 2019-01-28 2019-04-12 上海海事大学 基于深度卷积神经网络的无线传感网距离测量系统及方法
CN110546925A (zh) * 2016-12-13 2019-12-06 维尔塞特公司 混合网络中的返回链路路由

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9167471B2 (en) * 2009-05-07 2015-10-20 Jasper Technologies, Inc. System and method for responding to aggressive behavior associated with wireless devices
CN103945533B (zh) * 2014-05-15 2016-08-31 济南嘉科电子技术有限公司 基于大数据的无线实时位置定位方法
CN111614659B (zh) * 2020-05-19 2022-09-23 杭州英视信息科技有限公司 未知网络流量的分布式检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102055673A (zh) * 2010-12-30 2011-05-11 上海顶竹通讯技术有限公司 多路由网络以及路由切换方法
CN110546925A (zh) * 2016-12-13 2019-12-06 维尔塞特公司 混合网络中的返回链路路由
CN109547374A (zh) * 2018-11-23 2019-03-29 泰山学院 一种用于水下通信调制识别的深度残差网络及系统
CN109618288A (zh) * 2019-01-28 2019-04-12 上海海事大学 基于深度卷积神经网络的无线传感网距离测量系统及方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"A Hybrid CNN-LSTM Model for Aircraft";LAN MA.et al;《IEEE》;20200721;全文 *
"基于深度残差网络的水下通信调制信号分类";王岩等;《数字海洋与水下攻防》;20200630;第3卷(第3期);全文 *
"基于深度特征学习的振动状态识别方法";侯栋楠;《中国优秀硕士学位论文全文数据库(电子期刊)》;20200115(第01期);全文 *

Also Published As

Publication number Publication date
CN112307987A (zh) 2021-02-02

Similar Documents

Publication Publication Date Title
CN112307987B (zh) 基于深度混合路由网络识别通信信号的方法
Zhang et al. A data preprocessing method for automatic modulation classification based on CNN
CN113055107B (zh) 一种针对具有未知通信模式电台的干扰策略生成方法
Zhang et al. Modulated autocorrelation convolution networks for automatic modulation classification based on small sample set
Camelo et al. A semi-supervised learning approach towards automatic wireless technology recognition
CN111585925A (zh) 一种基于深度学习的稳健实时射频信号调制识别方法
Wang et al. Adoption of hybrid time series neural network in the underwater acoustic signal modulation identification
CN112836569B (zh) 基于序列卷积网络的水声通信信号识别方法、系统及设备
CN110659684A (zh) 一种基于卷积神经网络stbc信号识别方法
Hong et al. Convolutional neural network aided signal modulation recognition in OFDM systems
Lin et al. Modulation recognition using signal enhancement and multistage attention mechanism
CN115296759A (zh) 一种基于深度学习的干扰识别方法
CN114268388A (zh) 一种在大规模mimo中基于改进gan网络的信道估计方法
CN111431825B (zh) 一种基于深度多流神经网络的信号自动分类识别方法
CN115964653A (zh) 一种水声信号分类方法、系统、设备及存储介质
Wang et al. Residual learning based RF signal denoising
Liang et al. Attention mechanism based ResNeXt network for automatic modulation classification
Wang et al. Underwater communication signal recognition using sequence convolutional network
Zheng et al. A real-time constellation image classification method of wireless communication signals based on the lightweight network MobileViT
Sun et al. Automatic modulation classification of cochannel signals using deep learning
CN108566227B (zh) 一种多用户检测方法
CN113242201B (zh) 基于生成分类网络的无线信号增强解调方法及系统
CN111970218B (zh) 基于深度多跳网络进行通信自动调制识别的方法
Wang et al. Augmented convolutional neural networks with transformer for wireless interference identification
Gu et al. Exploiting ResNeXt with Convolutional Shortcut for Signal Modulation Classification at Low SNRs

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant