CN113657491A - 一种用于信号调制类型识别的神经网络设计方法 - Google Patents
一种用于信号调制类型识别的神经网络设计方法 Download PDFInfo
- Publication number
- CN113657491A CN113657491A CN202110940613.3A CN202110940613A CN113657491A CN 113657491 A CN113657491 A CN 113657491A CN 202110940613 A CN202110940613 A CN 202110940613A CN 113657491 A CN113657491 A CN 113657491A
- Authority
- CN
- China
- Prior art keywords
- network
- attention
- training
- layer
- unet3
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 17
- 238000013461 design Methods 0.000 title claims abstract description 9
- 238000012549 training Methods 0.000 claims abstract description 51
- 230000007246 mechanism Effects 0.000 claims abstract description 44
- 230000004927 fusion Effects 0.000 claims description 20
- 238000012360 testing method Methods 0.000 claims description 14
- 238000011176 pooling Methods 0.000 claims description 12
- 230000006870 function Effects 0.000 claims description 11
- 238000012795 verification Methods 0.000 claims description 11
- 238000013527 convolutional neural network Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 239000013598 vector Substances 0.000 claims description 5
- 238000010606 normalization Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 230000005855 radiation Effects 0.000 abstract description 17
- 238000002474 experimental method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000012847 principal component analysis method Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及雷达辐射源识别技术领域，公开的一种用于信号调制类型识别的神经网络设计方法，包括：基于U形体系结构的UNet3+网络、注意力机制，注意力机制是将训练的重点放到比较重要的信息之上机制；并且将5层级的UNet3+网络删减为3层级，降低网络的复杂度，并在unet3+结构后接注意力层，注意力层对需要关注的特征分配更多的注意力资源，忽略不重要的特征，进一步提高网络的识别能力。本发明能够改进模型的识别准确率达到96.63%，对比一些经典网络模型，训练总用时更短，在低信噪比条件下能更加有效识别辐射源信号,可以适应复杂的电磁环境。
Description
技术领域
本发明涉及雷达辐射源识别技术领域，尤其涉及一种用于信号调制类型识别的神经网络设计方法。
背景技术
辐射源信号识别是电子对抗侦察的一项重要内容，识别敌方雷达信号，获取战场态势信息，为战役指挥决策和战术打击提供了重要的判断依据。早期电磁环境相对简单，信号调制类型相对较少，传统的雷达辐射源识别方法往往需要人工提取特征，从时域、频域等角度的与雷达数据库对比，能够较为准确地识别雷达信号。如利用条件证据理论，提出了一种融合先验信息的雷达辐射源识别方法；提出了基于小波网络对不同脉冲重复间隔模式的雷达信号识别方法。这些方法能较为准确地识别不同类型的信号，识别速度相对较快，但是传统的雷达辐射源识别方法的特征选择依赖于人的专业知识，具有不完备性，且选取的特征大多数无法适应如今复杂的信号类型，识别能力较低。近年来，随着新体制雷达的不断增多，信号调制类型增加，给雷达辐射源识别带来巨大的困难，如何在复杂的电磁环境中准确的识别信号成为亟待解决的问题。
随着机器学习的快速发展，机器学习被广泛应用于雷达信号识别领域。如提出利用修正的Rife算法得到较精确的载频和频率偏移量，这两个参量作为支持向量机的两个特征向量，利用分类器识别出不同的辐射源个体。如提出一种向量神经网络并将其用于雷达辐射源识别，取得了很好的效果。然而机器学习在雷达辐射源型号识别中也存在一些问题：(1)对有交迭的不完整的数据，识别精度不高；(2)需要大量的训练样本才能具有较好的泛化能力。
深度学习(deep learning，DL)作为机器学习中的分支，近年来在计算机视觉、智能控制、自然语言处理等领域广泛应用，因其优异性能，许多学者将其引入到电子对抗领域中来。使用主成分分析方法对雷达信号的伪WVD和CWD时频图像进行特征提取，并分别用多层感知机、径向基函数神经网络、概率神经网络三种分类器对信号进行识别，但是在低信噪比条件下，部分信号的识别并不理想；如利用AlexNet网络模型对信号的时频图进行分类识别,通过对信号转化的二维图像的识别，在识别精度上有所提升，但不适合样本量较大的情况。
发明内容
针对以上传统辐射源信号识别方法往往需要进行人工特征提取、在低信噪比条件下难以准确识别信号的技术问题，本发明提供一种用于信号调制类型识别的神经网络设计方法。
为实现上述发明目的，本发明采用如下技术方案：
一种用于信号调制类型识别的神经网络设计方法，包括：
1)UNet3+网络，UNet3+网络是基于UNet网络设计的一种新的网络结构，UNet的整体结构是先编码，下采样；再解码，上采样；通过多尺度的方式提取信息进行识别，UNet3+网络的结构是一种基于U形的体系结构，有5个层级，通过全尺度跳过连接进行特征融合，以节点X2De，第2层级的解码层为基础，它的输入来自于两方面，一是比其更浅，包括同一层级的编码器，二是比其更深的解码器；解码层先对来自各个节点的信息进行各自的卷积，再对堆叠的特征通过卷积来进行信息的融合和提取，充分利用了多尺度特征；
2)注意力机制，注意力机制Attention mechanism是将训练的重点放到比较重要的信息之上，忽视掉不重要信息；注意力机制能筛选出重要信息，表现形式为信息越重要其分配的权重系数相对越大，越不重要其分配的权重系数相对越小，从而突出关键信息的影响；其具体实现步骤如下：
一是信息的输入：用x＝[x1，x2…xt-1，xt]表示t个输入信息；
二是计算注意力概率分布值a；三是根据注意力概率分布值a来计算输入信息的加权平均；注意力机制的权重系数计算公式为：
et＝u tanh(ωkt+b) (1)
上述公式中，et为输出向量kt所决定的注意力概率分布值；u和ω为权重系数；b为偏置系数；at为注意力机制对神经网络隐藏层输出的注意力概率分布值；mt为注意力机制在t时刻的输出；
3)改进UNet3+模型及训练流程，将5层级的UNet3+网络删减为3层级，降低网络的复杂度，并在unet3+结构后接注意力层，注意力层对需要关注的特征分配更多的注意力资源，忽略不重要的特征，进一步提高网络的识别能力；
3.1网络结构，改进UNet3+网络结构，包括：一维卷积神经网络(convolutionalneural network，CNN)，通过32个长度为5的卷积核对原始信号进行卷积处理，同时在每个CNN层后加最大池化层，最大池化层的大小都为2，组成“卷积—池化”结构，在每个“卷积—池化”结构后加正则化层，防止过拟合现象，3个正则化层的系数分别为0.2、0.1、0.1。
这些结构作为网络的特征提取器，进行特征提取；再经过卷积层4、5、6处理数据，他们通过8个长度为5的卷积核对数据进行卷积处理，再通过全尺度跳过连接的方式进行特征融合，
其中卷积层7、8、9是通过8个长度为7的卷积核对数据进行卷积处理，在第二个特征融合层后接绿色虚线框内的注意力层，批量归一化(Batch Normalization，BN)层后接的正则化层系数为0.4，最后使用softmax函数将特征映射到代表8类信号的离散空间里；
3.2训练流程，其具体实施步骤如下：
Step1数据预处理。将原始数据集截成长度为1024
Step2添加标签。对数据的标签进行独热编码。
Step3建立数据集。将数据按0.47：0.23：0.3的比例分为训练集、验证集、测试集，并将其随机打乱。
Step4训练网络。将训练样本输入到网络模型中。优化器采用Adam，损失函数采用交叉熵损失函数。初始学习率设置为0.0001，最大训练轮数为50轮。
Step5设置学习率动态调整机制。网络训练时，当验证集误差不再减小，学习率将会减少一半，设置学习率最多衰减为0.0000125。
Step6设置早停机制。当验证集损失不再减小，经过5轮训练后仍没有得到改善，则终止训练。
由于采用如上所述的技术方案，本发明具有如下优越性
本发明一种用于信号调制类型识别的神经网络设计方法，引入UNet3+[11]网络对辐射源信号进行识别。UNet3+网络能自主学习和提取信号特征，避免了人为选择特征的不完备性，能适应更多类型的信号，通过全尺度的跳过连接，将数据的深层特征和浅层特征进行融合[12]，拥有较高的识别准确率。
本发明在UNet3+的基础上，将5层级的UNet3+网络删减为3层级，保留特征融合能力的同时降低了网络的复杂度，并引入注意力机制，进一步提高网络的识别速度和识别准确率，在低信噪比的条件下可以较好识别信号。
本发明是基于改进UNet3+网络的辐射源信号识别方法。保留UNet3+网络特征融合能力的同时降低了网络的复杂度，并引入注意力机制优化模型性能，构建了一个新的网络模型。通过对8种常见的雷达信号进行仿真实验，实验结果表明，改进模型的识别准确率达到96.63％，对比一些经典网络模型，训练总用时更短，在低信噪比条件下能更加有效识别辐射源信号，可以适应复杂的电磁环境。
附图说明
图1 UNet3+网络的结构图；
图2注意力机制实现流程图；
图3本文模型的网络结构图；
图4注意力层的输入图；
图5注意力层的输出图；
图6注意力层的概率权重图；
图7不同深度学习模型在不同信噪比下准确率图；
图8 8类信号识别准确率图；
图9 8类信号混淆矩阵图。
具体实施方式
如图1至图9所示，一种用于信号调制类型识别的神经网络设计的方法，包括：
1 UNet3+网络，UNet3+网络是基于UNet网络设计的一种新的网络结构，UNet的整体结构是先编码(下采样)，再解码(上采样)，通过多尺度的方式提取信息进行识别，但是随着逐步的上采样和下采样，信息并没有被充分利用。UNet3+网络的结构如下图1所示，它是一种基于U形的体系结构，有5个层级，通过全尺度跳过连接进行特征融合，以图中的节点X2De(第2层级的解码层)为例，它的输入来自于两方面，一是比其更浅(包括同一层级)的编码器，二是比其更深的解码器。解码层先对来自各个节点的信息进行各自的卷积，再对堆叠的特征通过卷积来进行信息的融合和提取，充分利用了多尺度特征。
2注意力机制，注意力机制(Attention mechanism)最早是在视觉图像领域中提出的，本质来自于人类视觉的注意力机制。注意力机制就是将训练的重点放到比较重要的信息之上，忽视掉不重要信息。注意力机制能筛选出重要信息，表现形式为信息越重要其分配的权重系数相对越大，越不重要其分配的权重系数相对越小，从而突出关键信息的影响。其具体实现流程如下图2所示。
如图2所示，注意力机制可以分为三步：一是信息的输入：用x＝[x1,x2…xt-1，xt]表示t个输入信息；二是计算注意力概率分布值a；三是根据注意力概率分布值a来计算输入信息的加权平均。
注意力机制的权重系数计算公式为：
et＝u tanh(ωkt+b) (1)
上述公式中，et为输出向量kt所决定的注意力概率分布值；u和ω为权重系数；b为偏置系数；at为注意力机制对神经网络隐藏层输出的注意力概率分布值。mt为注意力机制在t时刻的输出。
3.改进UNet3+模型及训练流程，如1部分的分析所示，未改进的UNet3+网络模型虽然能充分的提取数据信息，但它也具有一定的局限性：如模型过于复杂，进行了过多的特征融合。以及模型的准确率还需要提升等。针对上述问题，本文将5层级的UNet3+网络删减为3层级，降低网络的复杂度，并在unet3+结构后接注意力层，注意力层对需要关注的特征分配更多的注意力资源，忽略不重要的特征，进一步提高网络的识别能力。
3.1网络结构，改进UNet3+网络结构如下图3所示。图3中黄色虚线框中的是3层一维卷积神经网络(convolutional neural network，CNN)，通过32个长度为5的卷积核对原始信号进行卷积处理，同时在每个CNN层后加最大池化层，最大池化层的大小都为2，组成“卷积—池化”结构，在每个“卷积—池化”结构后加正则化层，防止过拟合现象，3个正则化层的系数分别为0.2、0.1、0.1。这些结构作为网络的特征提取器，进行特征提取。再经过卷积层4、5、6处理数据，他们通过8个长度为5的卷积核对数据进行卷积处理，再通过全尺度跳过连接的方式进行特征融合，如蓝色虚框所示，其中卷积层7、8、9是通过8个长度为7的卷积核对数据进行卷积处理，在第二个特征融合层后接绿色虚线框内的注意力层，批量归一化(Batch Normalization，BN)层后接的正则化层系数为0.4，最后使用softmax函数将特征映射到代表8类信号的离散空间里。见图3。
3.2训练流程，其具体步骤如下：
Step1数据预处理。将原始数据集截成长度为1024
Step2添加标签。对数据的标签进行独热编码。
Step3建立数据集。将数据按0.47：0.23：0.3的比例分为训练集、验证集、测试集，并将其随机打乱。
Step4训练网络。将训练样本输入到网络模型中。优化器采用Adam，损失函数采用交叉熵损失函数。初始学习率设置为0.0001，最大训练轮数为50轮。
Step5设置学习率动态调整机制。网络训练时，当验证集误差不再减小，学习率将会减少一半，设置学习率最多衰减为0.0000125。
Step6设置早停机制。当验证集损失不再减小，经过5轮训练后仍没有得到改善，则终止训练。
4实验及结果分析，本文使用的是MATLAB仿真时域下雷达脉冲的幅度序列数据，仿真了八种信号：BPSK、Costas、FMCW、Frank、P1、P2、P3和P4。载频范围随机从1～1.2kHz之间取值，除Costas外采样频率均为7kHz。具体参数见表1。根据信噪比的相关定义[14],本文采用的是全频段功率信噪比，大小为-20～10dB，间隔为2dB。每类信号在每种信噪比情况下产生2000个样本，合计256000个样本。计算机配置见表2。
表1 信号的主要参数
表2计算机配置
实验1
为探究特征融合对网络识别能力的影响，将是否进行特征融合作为变量，用无特征融合的UNet3+模型与有特征融合的UNet3+模型做对比试验(二者都是3层级的网络模型)，其他参数保持不变，评价标准为测试集的准确率和损失、训练集的训练时间。实验结果如表3所示。
表3 特征融合对网络识别能力的影响
表3中可以看出，进行特征融合的UNet3+模型，训练时间较长，因为特征融合后需要处理的数据变多；在准确率、损失上效果更好，说明模型将浅层特征和深层特征融合，充分利用了原始数据集，分类输出时可以根据更多的特征进行选择，提高网络识别准确率。
实验2
为了探究注意力机制对网络识别能力的影响，以有无注意力机制为变量，以测试集的准确率、训练集的训练轮数和训练时间作为评价标准做对照试验，实验结果如下表4。
表4 注意力机制实验结果
表4中，在有注意力机制时训练时间更短、训练轮数更少，网络的识别能力约提高了0.9％，可以看出注意力机制可以在一定程度上提升测试准确率，训练速度大幅度提高，这是因为注意力机制将更多的注意力资源分配给需要关注的特征，忽略一些无需关注的特征，从而在一定程度上提高网络识别准确率和训练速度。
为进一步探究注意力机制提升网络识别准确率的原因，实验将注意力层的输入、输出和概率权重的数值画出来，实验步骤如下：
Step1：从P3信号中的中选取长度为1024数据作为输入。
Step2：将注意力层的输入、输出和概率权重通过get_layer函数获得。
Step3：将Step2中获得的三维张量的八分之一数据画出图像，如图4、5、6所示。
注意力机制通过对输入分配不同的概率权重，将权重和相应的数据进行加权得到注意力机制的处理结果。图6中大部分纵坐标为0，说明注意力层基本将对应的输入忽略，纵坐标数值越大，说明注意力层分配了更多的注意力资源。通过对比图4和图6，可以明显的看出注意力机制抑制了不重要特征，突出了关键信息的影响，进而提升网络的识别能力。
实验3
(1)为探究本文模型对比常见深度学习模型的优势。选择CLDNN[15]模型、GRU[16]模型、UNet3+模型、VGG16[17]、AlexNet[18]5种常用的网络模型进行对比试验。CLDNN网络模型广泛应用于语音识别领域，有些学者将其引入到信号识别领域里，具有优秀的性能；GRU神经网络是循环神经网络的一个变体,通过设置不同的门来控制信息的流通，解决长期记忆的问题。GRU在结构上更加简单，能够减少计算量，在训练数据很大的情况下能节省很多时间，是很好的对照模型。VGG16、AlexNet是2种常用的经典网络模型，具有较好的识别能力。以测试集的准确率、训练时间和训练轮数作为评价标准进行对比试验，实验结果如表5所示。
表5 6种模型训练情况
从表5可以看出，本文模型通过特征融合更好的提取了信号特征，又引入了注意力机制，和其模型相比，训练用时更短，准确率更高；GRU模型训练用时最长，识别精度也是最低的，这是由于单独使用GRU没有通过卷积层进行特征提取，没有提取到较高质量的信号特征；CLDNN模型由于网络较为复杂，训练用时比较长；UNet3+模型训练时间虽然接近本文模型，但准确率不高，因为本文模型引入了注意力机制，突出关键信息的影响；AlexNet和vgg16是两种经典模型可以作为评价基准线考虑，本文模型无论是在识别速度还是在识别准确率上都有一定的提升。
(2)为了探究本文模型在低信噪比条件下是否拥有较好的准确识别率，在-20～10dB信噪比的条件下，将上述五种模型与本文模型进行对比实验，以不同信噪比的8种信号进行验证，实验结果如下图7所示。
从图7中可以看出，本文模型的曲线全程在其他网络模型曲线的上方，说明本文模型在识别精度最高，尤其是在信噪比为-20dB的条件下，本文模型的准确率高于80％，在信噪比大于等于-16dB的条件下识别准确率也能够达到88％，可见，本文模型在低信噪比的情况下依然有较高的准确率，基本能够满足低信噪比条件下的辐射源信号的识别要求。
(2)为了测试本文模型在不同信噪比条件下分类不同信号的能力，利用训练得到的模型对8类信号进行识别，实验结果如图8所示。
由图8中可以看出，在信噪比高于-16dB的情况下识别准确率基本能达到90％，在噪声最严重的-20dB信噪比条件下，8类信号均有高于70％的准确率，其中识别FMCW信号概率最低，仅有72％的准确率，说明FMCW信号在低信噪比环境下最难区分。综上所述，可以认为本文模型基本能够满足低信噪比条件下的识别要求。
8类信号的混淆矩阵如图9所示。图中深蓝色对角线为正确识别出8类信号的概率，对角线外的区域是错误分类识别信号的概率，由图9可知，8类信号的分类识别准确率均能达到94％以上，其中Costas与BPSK、Costas与FMCW、FMCW与BPSK错误率比较高，说明分类识别他们的能力较低。其他错误区域错误率全部低于1％，说明本文网络基本能够满足辐射源信号的识别要求。
5结论，本文在UNet3+模型的基础上进行改进，在减少网络层级的同时，保留了UNet3+网络的特征融合能力，并引入了注意力机制，进一步优化了模型性能。实验表明，本文提出的网络能够较为准确的识别8种辐射源信号，尤其是在信噪比较低时，相较于经典网络模型，能够更加准确的识别信号。综上所述，本文提出的模型在低信噪比条件下能较好的识别雷达信号，更加适应战场上复杂的电磁环境。
Claims (1)
1.一种用于信号调制类型识别的神经网络设计方法，其特征是：包括：
1)UNet3+网络，UNet3+网络是基于UNet网络设计的一种新的网络结构，UNet的整体结构是先编码，下采样；再解码，上采样；通过多尺度的方式提取信息进行识别，UNet3+网络的结构是一种基于U形的体系结构，有5个层级，通过全尺度跳过连接进行特征融合，以节点X2De，第2层级的解码层为基础，它的输入来自于两方面，一是比其更浅，包括同一层级的编码器，二是比其更深的解码器；解码层先对来自各个节点的信息进行各自的卷积，再对堆叠的特征通过卷积来进行信息的融合和提取，充分利用了多尺度特征；
2)注意力机制，注意力机制Attention mechanism是将训练的重点放到比较重要的信息之上，忽视掉不重要信息；注意力机制能筛选出重要信息，表现形式为信息越重要其分配的权重系数相对越大，越不重要其分配的权重系数相对越小，从而突出关键信息的影响；其具体实现步骤如下：
一是信息的输入：用x＝[x1,x2…xt-1，xt]表示t个输入信息；
二是计算注意力概率分布值a；三是根据注意力概率分布值a来计算输入信息的加权平均；注意力机制的权重系数计算公式为：
et＝utanh(ωkt+b) (1)
上述公式中，et为输出向量kt所决定的注意力概率分布值；u和ω为权重系数；b为偏置系数；at为注意力机制对神经网络隐藏层输出的注意力概率分布值；mt为注意力机制在t时刻的输出；
3)改进UNet3+模型及训练流程，将5层级的UNet3+网络删减为3层级，降低网络的复杂度，并在unet3+结构后接注意力层，注意力层对需要关注的特征分配更多的注意力资源，忽略不重要的特征，进一步提高网络的识别能力；
3.1网络结构，改进UNet3+网络结构，包括：一维卷积神经网络(convolutional neuralnetwork，CNN)，通过32个长度为5的卷积核对原始信号进行卷积处理，同时在每个CNN层后加最大池化层，最大池化层的大小都为2，组成“卷积—池化”结构，在每个“卷积—池化”结构后加正则化层，防止过拟合现象，3个正则化层的系数分别为0.2、0.1、0.1；
这些结构作为网络的特征提取器，进行特征提取；再经过卷积层4、5、6处理数据，他们通过8个长度为5的卷积核对数据进行卷积处理，再通过全尺度跳过连接的方式进行特征融合，其中卷积层7、8、9是通过8个长度为7的卷积核对数据进行卷积处理，在第二个特征融合层后接绿色虚线框内的注意力层，批量归一化Batch Normalization，BN层后接的正则化层系数为0.4，最后使用softmax函数将特征映射到代表8类信号的离散空间里；
3.2训练流程，其具体实施步骤如下：
Step1数据预处理，将原始数据集截成长度为1024；
Step2添加标签，对数据的标签进行独热编码；
Step3建立数据集，将数据按0.47：0.23：0.3的比例分为训练集、验证集、测试集，并将其随机打乱；
Step4训练网络，将训练样本输入到网络模型中，优化器采用Adam，损失函数采用交叉熵损失函数，初始学习率设置为0.0001，最大训练轮数为50轮；
Step5设置学习率动态调整机制；网络训练时，当验证集误差不再减小，学习率将会减少一半，设置学习率最多衰减为0.0000125；
Step6设置早停机制；当验证集损失不再减小，经过5轮训练后仍没有得到改善，则终止训练。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110940613.3A CN113657491A (zh) | 2021-08-17 | 2021-08-17 | 一种用于信号调制类型识别的神经网络设计方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110940613.3A CN113657491A (zh) | 2021-08-17 | 2021-08-17 | 一种用于信号调制类型识别的神经网络设计方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113657491A true CN113657491A (zh) | 2021-11-16 |
Family
ID=78491666
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110940613.3A Pending CN113657491A (zh) | 2021-08-17 | 2021-08-17 | 一种用于信号调制类型识别的神经网络设计方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113657491A (zh) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114254680A (zh) * | 2022-02-28 | 2022-03-29 | 成都大公博创信息技术有限公司 | 基于多特征信息的深度学习网络调制识别方法 |
| CN114301498A (zh) * | 2021-12-30 | 2022-04-08 | 中国电子科技集团公司第五十四研究所 | 一种面向跳频通信辐射源的行为辨识方法及系统 |
| CN114465855A (zh) * | 2022-01-17 | 2022-05-10 | 武汉理工大学 | 一种基于注意力机制与多特征融合的自动调制识别方法 |
| CN114513394A (zh) * | 2022-01-13 | 2022-05-17 | 南京信息工程大学 | 一种基于注意力机制图神经网络的信号调制格式识别方法、系统、装置及存储介质 |
| CN114919581A (zh) * | 2022-05-11 | 2022-08-19 | 中南大学 | 智能车辆无序交叉路口的行为决策方法、计算机装置 |
| CN115604061A (zh) * | 2022-08-30 | 2023-01-13 | 电子科技大学（Cn） | 一种基于外部注意力机制的射频信号调制方式识别方法 |
| CN117081895A (zh) * | 2023-10-16 | 2023-11-17 | 电子科技大学 | 一种基于自适应降噪的自动调制识别方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106443588A (zh) * | 2016-05-23 | 2017-02-22 | 中国人民解放军63892部队 | 一种lfmcw信号快速检测和估计方法 |
| CN113050042A (zh) * | 2021-04-15 | 2021-06-29 | 中国人民解放军空军航空大学 | 基于改进UNet3+网络的雷达信号调制类型识别方法 |
-
2021
- 2021-08-17 CN CN202110940613.3A patent/CN113657491A/zh active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106443588A (zh) * | 2016-05-23 | 2017-02-22 | 中国人民解放军63892部队 | 一种lfmcw信号快速检测和估计方法 |
| CN113050042A (zh) * | 2021-04-15 | 2021-06-29 | 中国人民解放军空军航空大学 | 基于改进UNet3+网络的雷达信号调制类型识别方法 |
Non-Patent Citations (1)
| Title |
|---|
| 黄智;王俊杰;石国良;: "基于时频分析和CNN的雷达辐射源识别算法" * |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114301498A (zh) * | 2021-12-30 | 2022-04-08 | 中国电子科技集团公司第五十四研究所 | 一种面向跳频通信辐射源的行为辨识方法及系统 |
| CN114513394A (zh) * | 2022-01-13 | 2022-05-17 | 南京信息工程大学 | 一种基于注意力机制图神经网络的信号调制格式识别方法、系统、装置及存储介质 |
| CN114513394B (zh) * | 2022-01-13 | 2023-12-05 | 南京信息工程大学 | 一种基于注意力机制图神经网络的信号调制格式识别方法、系统、装置及存储介质 |
| CN114465855A (zh) * | 2022-01-17 | 2022-05-10 | 武汉理工大学 | 一种基于注意力机制与多特征融合的自动调制识别方法 |
| CN114465855B (zh) * | 2022-01-17 | 2023-09-01 | 武汉理工大学 | 一种基于注意力机制与多特征融合的自动调制识别方法 |
| CN114254680A (zh) * | 2022-02-28 | 2022-03-29 | 成都大公博创信息技术有限公司 | 基于多特征信息的深度学习网络调制识别方法 |
| CN114919581A (zh) * | 2022-05-11 | 2022-08-19 | 中南大学 | 智能车辆无序交叉路口的行为决策方法、计算机装置 |
| CN114919581B (zh) * | 2022-05-11 | 2024-04-26 | 中南大学 | 智能车辆无序交叉路口的行为决策方法、计算机装置 |
| CN115604061A (zh) * | 2022-08-30 | 2023-01-13 | 电子科技大学（Cn） | 一种基于外部注意力机制的射频信号调制方式识别方法 |
| CN115604061B (zh) * | 2022-08-30 | 2024-04-09 | 电子科技大学 | 一种基于外部注意力机制的射频信号调制方式识别方法 |
| CN117081895A (zh) * | 2023-10-16 | 2023-11-17 | 电子科技大学 | 一种基于自适应降噪的自动调制识别方法 |
| CN117081895B (zh) * | 2023-10-16 | 2023-12-19 | 电子科技大学 | 一种基于自适应降噪的自动调制识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113657491A (zh) | 一种用于信号调制类型识别的神经网络设计方法 | |
| CN113050042B (zh) | 基于改进UNet3+网络的雷达信号调制类型识别方法 | |
| CN110826630B (zh) | 基于深度卷积神经网络的雷达干扰信号特征级融合识别方法 | |
| CN113378632B (zh) | 一种基于伪标签优化的无监督域适应行人重识别方法 | |
| CN109684922B (zh) | 一种基于卷积神经网络的多模型对成品菜的识别方法 | |
| CN109934269B (zh) | 一种电磁信号的开集识别方法和装置 | |
| CN110109060A (zh) | 一种基于深度学习网络的雷达辐射源信号分选方法及系统 | |
| CN112001306A (zh) | 基于深度卷积对抗生成神经网络的脑电信号解码方法 | |
| CN114429156A (zh) | 雷达干扰多域特征对抗学习与检测识别方法 | |
| CN114595732B (zh) | 基于深度聚类的雷达辐射源分选方法 | |
| CN109002848B (zh) | 一种基于特征映射神经网络的弱小目标检测方法 | |
| CN110929842B (zh) | 非合作无线电信号突发时间区域精确智能检测方法 | |
| CN111222442A (zh) | 一种电磁信号分类方法和装置 | |
| CN114675249A (zh) | 基于注意力机制的雷达信号调制方式识别方法 | |
| CN113109782B (zh) | 一种直接应用于雷达辐射源幅度序列的分类方法 | |
| CN116030300A (zh) | 一种用于零样本sar目标识别的渐进式域自适应识别方法 | |
| CN109271902A (zh) | 复杂背景下基于时域经验模态分解的红外弱小目标检测方法 | |
| CN115270891A (zh) | 一种信号对抗样本的生成方法、装置、设备及存储介质 | |
| CN114139655A (zh) | 一种蒸馏式竞争学习的目标分类系统和方法 | |
| CN110555483B (zh) | 基于fw-dcgan特征生成的极化sar分类方法 | |
| CN114943286B (zh) | 一种基于时域特征与空域特征融合的未知目标判别方法 | |
| CN113359091B (zh) | 基于深度学习的多核函数混叠雷达辐射源识别方法和系统 | |
| CN114241263B (zh) | 基于生成对抗网络的雷达干扰半监督开集识别系统 | |
| CN113657448B (zh) | 一种基于生成对抗网络和梯度解释的对抗样本防御方法 | |
| CN116433909A (zh) | 基于相似度加权多教师网络模型的半监督图像语义分割方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211116 |