CN116388933B - 基于深度学习的通信信号盲识别系统 - Google Patents
基于深度学习的通信信号盲识别系统 Download PDFInfo
- Publication number
- CN116388933B CN116388933B CN202310470227.1A CN202310470227A CN116388933B CN 116388933 B CN116388933 B CN 116388933B CN 202310470227 A CN202310470227 A CN 202310470227A CN 116388933 B CN116388933 B CN 116388933B
- Authority
- CN
- China
- Prior art keywords
- communication signal
- feature
- layer
- module
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004891 communication Methods 0.000 title claims abstract description 225
- 238000013135 deep learning Methods 0.000 title claims abstract description 29
- 238000000605 extraction Methods 0.000 claims abstract description 70
- 230000007246 mechanism Effects 0.000 claims abstract description 33
- 238000007781 pre-processing Methods 0.000 claims abstract description 27
- 238000010276 construction Methods 0.000 claims abstract description 9
- 238000012549 training Methods 0.000 claims description 99
- 238000011176 pooling Methods 0.000 claims description 59
- 230000006870 function Effects 0.000 claims description 47
- 238000010586 diagram Methods 0.000 claims description 40
- 230000004927 fusion Effects 0.000 claims description 36
- 238000004458 analytical method Methods 0.000 claims description 16
- 230000004913 activation Effects 0.000 claims description 14
- 238000000034 method Methods 0.000 claims description 14
- 210000002569 neuron Anatomy 0.000 claims description 12
- 238000012935 Averaging Methods 0.000 claims description 6
- 238000009499 grossing Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/0001—Systems modifying transmission characteristics according to link quality, e.g. power backoff
- H04L1/0036—Systems modifying transmission characteristics according to link quality, e.g. power backoff arrangements specific to the receiver
- H04L1/0038—Blind format detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L27/00—Modulated-carrier systems
- H04L27/0012—Modulated-carrier systems arrangements for identifying the type of modulation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Signal Processing (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Mobile Radio Communication Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于深度学习的通信信号盲识别系统，涉及通信技术领域，通过构建包含深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块的通信信号盲识别模型，并对通信信号盲识别模型进行训练，从而通过训练完成的通信信号盲识别模型进行信号调制模式的精准识别。
Description
技术领域
本发明涉及通信技术领域，具体涉及一种基于深度学习的通信信号盲识别系统。
背景技术
在无线通信领域中，通信信号的调制模式识别是信号处理和模式识别领域中的一项关键技术，也是一项难点技术。该项技术广泛的应用于军用领域和民用领域，有着重要的应用价值和科学意义。在信息传输时，为了能够利用信道进行快速、有效地真实信息传递，通信系统中往往采用不同的信号调制模式，达到充分地利用信道容量的目的。随着电磁环境和调制模式复杂程度的增加，传统调制识别方法难以取得好的识别效果，这给调制识别技术带来了许多新的技术难题和新的挑战。因此，调制识别技术更多面对的是盲信号识别，调制模式是区分不同类型通信信号的关键特征之一。
在现有技术中，早期采用似然估计的方法进行盲信号识别，后来随着机器学习算法的兴起，越来越多的盲信号识别方法出现，但是这些盲信号识别方法常常采用时频或者时域信息进行识别，并且这些盲信号识别方法往往对特征直接进行分类，从而导致识别准确率较低。
发明内容
本发明的目的在于提供一种基于深度学习的通信信号盲识别系统，解决了现有技术中存在的问题。
本发明通过下述技术方案实现：
一种基于深度学习的通信信号盲识别系统，包括训练数据获取模块、识别模型构建及训练模块和盲信号识别模块；
所述训练数据获取模块用于获取训练数据，所述训练数据包括不同调制模式的通信信号特征图以及通信信号特征图对应的调制模式；
所述识别模型构建及训练模块用于，采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，并以所述通信信号特征图以及通信信号特征图对应的调制模式为基础，对所述通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型；
所述盲信号识别模块用于，获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，得到通信信号盲识别结果。
在一种可能的实施方式中，获取训练数据包括：
获取用于训练的通信信号以及通信信号对应的调制模式；
对所述通信信号进行归一化处理，得到归一化处理后的通信信号；
对归一化后的通信信号进行时频分析，得到时频分析图，并采用灰度图像生成算法对时频分析图进行分析，得到通信信号特征图；所述通信信号特征图对应的调制模式为通信信号对应的调制模式；
针对不同调制模式的通信信号，获取每种调制模式下的若干通信信号对应的通信信号特征图，并将通信信号特征图与调制模式组成训练数据。
在一种可能的实施方式中，采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，包括：
采用顺次连接的第一卷积层、第二卷积层以及第一池化层构建特征预处理子模块，以通过特征预处理子模块对通信信号特征图进行提取并减小特征尺度；
采用顺次连接的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层构建多尺度注意力机制特征提取子模块，以通过多尺度注意力机制特征提取子模块进行特征的提取；
采用顺次连接平均池化层、展平层、第一全连接层、Dropout层、第二全连接层以及Softmax输出层构建特征识别子模块，以通过特征识别子模块对多尺度注意力机制特征提取子模块输出的特征进行识别分类；
将特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块顺次连接，构建通信信号盲识别模型。
在一种可能的实施方式中，所述第一多尺度特征融合单元与第二多尺度特征融合单元的结构相同，且均包括：由第三卷积层构建的第一特征提取通道、由第四卷积层以及第五卷积层构建的第二特征提取通道、由第六卷积层以及第七卷积层构建的第三特征提取通道、由第四最大池化层以及第八卷积层构建的第四特征提取通道；
所述第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输入端共同作为多尺度特征融合单元的输入端，以共同接收输入的特征图；所述第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输出端均与特征融合层的输入端连接，以进行特征拼接，实现多尺度特征融合；
将所述特征融合层的输出端作为多尺度特征融合单元的输出端。
在一种可能的实施方式中，所述第一注意力单元与第二注意力单元的结构相同，均包括通道注意力子单元以及空间注意力子单元，所述通道注意力子单元的输入端作为注意力单元的输入端，所述通道注意力子单元的输出端与注意力单元的输入端均连接至第一元素乘法器的输入端，所述第一元素乘法器的的输出端与空间注意力子单元的输入端连接，且所述空间注意力子单元的输出端以及第一元素乘法器的的输出端均与第二元素乘法器的输入端连接，所述与第二元素乘法器的输出端作为注意力单元的输出端；所述第一元素乘法器与第二元素乘法器的作用相同，且均用于将输入的两个特征图中的对应元素相乘，并输出新的特征图；
所述通道注意力子单元包括第五最大池化层、第二平均池化层、第一MLP层、第二MLP层、第一元素求和层以及第一Sigmoid激活函数层；所述第五最大池化层以及第二平均池化层的输入端共同作为通道注意力子单元的输入端，所述第五最大池化层的输出端通过第一MLP层连接至第一元素求和层的输入端，所述第二平均池化层的输出端通过第二MLP层连接至第一元素求和层的输入端，所述第一元素求和层的输出端与第一Sigmoid激活函数层的输入端连接，所述第一Sigmoid激活函数层的输出端作为通道注意力子单元的输出端；所述第一元素求和层用于将输入的两个特征图中的对应元素相加，并输出新的特征图；
所述空间注意力子单元包括顺次连接的第六最大池化层、第三平均池化层、第九卷积层以及第二Sigmoid激活函数层。
在一种可能的实施方式中，以所述通信信号特征图以及通信信号特征图对应的调制模式为基础，对所述通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型，包括：
构建通信信号盲识别模型的损失函数，以所述通信信号特征图作为通信信号盲识别模型的输入，获取通信信号盲识别模型的实际输出，将通信信号特征图对应的调制模式作为期望输出，并根据所述实际输出、期望输出以及损失函数，获取通信信号盲识别模型对应的损失函数值；
判断所述损失函数值是否小于设定阈值，若是，则将此时的网络参数作为通信信号盲识别模型的最终网络参数，得到训练完成的通信信号盲识别模型，否则对通信信号盲识别模型的网络参数进行更新，并进入下一次训练。
在一种可能的实施方式中，构建通信信号盲识别模型的损失函数为：
其中，E表示损失函数值，k＝1,2,…,K，K表示每次训练采用的训练样本数量，h＝1,2,…,H，H表示Softmax输出层的输出总数，rkh表示第k个样本输入时Softmax输出层的第h个期望输出，ykh表示第k个样本输入时Softmax输出层的第h个实际输出，L表示惩罚因子，λ1表示正则化因子，l＝1,2,…,A，A表示通信信号盲识别模型中需要训练参数的总层数，j＝1,2,…,sl，sl表示第l层神经元总数，i＝1,2,…,sl+1，sl+1表示第l+1层神经元总数，表示第l层的第j个神经元与第l+1层的第i个神经元之间的连接权重。
在一种可能的实施方式中，对通信信号盲识别模型的网络参数进行更新为：
其中，θt表示第t次训练时的权重参数，θt-1表示第t-1次训练时的权重参数，ηt表示第t次训练时的学习率，mt表示第t次训练时的第一中间参数，vt表示第t次训练时的第二中间参数，ε表示平滑因子，β1表示第一指数衰减参数，β2表示第二指数衰减参数，mt-1表示第t-1次训练时的第一中间参数，表示第t-1次训练时误差函数值相对于权重参数的梯度，vt-1表示第t-2次训练时的第一中间参数。
在一种可能的实施方式中，所述第t次训练时的学习率为：
其中，ηt-1表示第t-1次训练时的学习率，ΔE＝Et-Et-1，Et表示第t次训练时的误差函数值，Et-1表示第t-1次训练时的误差函数值，λ2表示0～1之间的第一常数项，λ3表示0～1之间的第二常数项，且λ3小于λ2。
在一种可能的实施方式中，获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，包括：
获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图；
以所述待识别通信信号特征图为训练完成的通信信号盲识别模型的输入数据，通过特征预处理子模块中的第一卷积层、第二卷积层以及第一池化层对待识别通信信号特征图进行预提取以及特征尺度变换，得到第一特征图；
以所述第一特征图为多尺度注意力机制特征提取子模块的输入数据，通过多尺度注意力机制特征提取子模块中的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层对第一特征图中的信号特征进行提取，得到第二特征图；
以所述第二特征图为特征识别子模块的输入数据，通过特征识别子模块中的平均池化层、展平层、第一全连接层、Dropout层、第二全连接层以及Softmax输出层识别第二特征图的类别特征，得到通信信号盲识别结果。
本发明提供的一种基于深度学习的通信信号盲识别系统，通过构建包含深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块的通信信号盲识别模型，并对通信信号盲识别模型进行训练，从而通过训练完成的通信信号盲识别模型进行信号调制模式的精准识别。
附图说明
为了更清楚地说明本发明示例性实施方式的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。在附图中：
图1为本发明实施例提供的一种基于深度学习的通信信号盲识别系统的结构示意图。
图2为本发明实施例提供的通信信号盲识别模型的的结构示意图。
图3为本发明实施例提供的多尺度特征融合单元的的结构示意图。
图4为本发明实施例提供的注意力单元的的结构示意图。
图5为本发明实施例提供的通道注意力子单元的的结构示意图。
图6为本发明实施例提供的空间注意力子单元的的结构示意图。
其中，101-训练数据获取模块、102-识别模型构建及训练模块、103-盲信号识别模块。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。
如图1所示，本发明实施例提供一种基于深度学习的通信信号盲识别系统，包括训练数据获取模块101、识别模型构建及训练模块102和盲信号识别模块103。
训练数据获取模块101用于，获取训练数据，训练数据包括不同调制模式的通信信号特征图以及通信信号特征图对应的调制模式。
可选的，训练数据为人机交互所产生的数据或者预先存储于数据库中的数据，通过不同调制模式的通信信号特征图以及通信信号特征图对应的调制模式进行训练，可以寻找到通信信号特征图与调制模式之间的关联关系，从而实现盲信号的快速识别以及精准识别。
识别模型构建及训练模块102用于，采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，并以通信信号特征图以及通信信号特征图对应的调制模式为基础，对通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型。
值得说明的是，虽然本申请提出了一种新的深度学习模型作为通信信号盲识别模型，但是通信信号盲识别模型还可以设置为其他深度学习模块，例如，通信信号盲识别模型可以为支持向量机(Support Vector Machine，SVR)、决策树(Decision Tree，DTR)、BP(Back Propagation，反向传播)神经网络或者其他神经网络。
盲信号识别模块103用于，获取待识别通信信号，并提取待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，得到通信信号盲识别结果。
可选的，提取待识别通信信号对应的待识别通信信号特征图可以包括：对待识别通信信号进行归一化处理，对归一化后的待识别通信信号进行时频分析，得到待识别通信信号对应的时频分析图，并采用灰度图像生成算法对时频分析图进行分析，得到待识别通信信号特征图。
在一种可能的实施方式中，获取训练数据包括：
获取用于训练的通信信号以及通信信号对应的调制模式，训练的通信信号以及通信信号对应的调制模式均为人机交互产生的数据或者存储于数据库中的数据。
对通信信号进行归一化处理，得到归一化处理后的通信信号。
可选的，对通信信号进行归一化处理可以为：
其中，表示归一化后的值，x表示通信信号，minX表示输入向量的最小值，maxX表示输入向量的最大值。
对归一化后的通信信号进行时频分析，得到时频分析图，并采用灰度图像生成算法对时频分析图进行分析，得到通信信号特征图。通信信号特征图对应的调制模式为通信信号对应的调制模式。
时频分析方法可以把信号的时域和频率分析结合起来，既反映信号的时域信息，又反应信号的频域信息，达到了扩维的作用。
短时傅里叶变换(short-time Fourier transform，STFT)表示信号的频谱随时间变化的规律。进行STFT时，首先需要定义一个时间宽度很短的窗函数，并对通信信号进行加窗，然后将信号根据时间不同分成若干个小段，将每个小段进行傅里叶变换(FFT)，再令窗函数随时间轴移动。
由于对调制信号进行时频分析后得到的结果是调制信号在时频面上的一种表示形式，无法直接输入深度神经网络模型中进行处理，需要先将信号的时频图进行转换，生成数字图像，再利用深度学习算法进行通信信号的调制识别。因此，可以采用灰度图像生成算法对时频分析图进行分析，得到通信信号特征图。
针对不同调制模式的通信信号，获取每种调制模式下的若干通信信号对应的通信信号特征图，并将通信信号特征图与调制模式组成训练数据。
在一种可能的实施方式中，采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，包括：
采用顺次连接的第一卷积层、第二卷积层以及第一池化层构建特征预处理子模块，以通过特征预处理子模块对通信信号特征图进行提取并减小特征尺度。
可选的，第一卷积层以及第二卷积层的卷积核尺寸均设置为3×3。第一池化层的池化尺寸设置为2×2，步长为2。
通过适当减小通信信号特征图的特征尺度，可以使识别过程更快，但同时也不会损失信号特征。
采用顺次连接的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层构建多尺度注意力机制特征提取子模块，以通过多尺度注意力机制特征提取子模块进行特征的提取。
可选的，第二最大池化层以及第三最大池化层的池化尺寸设置为2×2，步长为2，并且第二最大池化层以及第三最大池化层后均设置有BN归一化层。
通过多尺度特征融合单元提取统一特征图中不同大小的局部结构信息，并将不同的局部结构信息进行拼接，实现多尺度融合，然后通过注意力单元中特征图中选择出感兴趣的特征，忽略不重要的信息，从而实现更准确的识别，以更好地识别通信信号特征图中关于调制模式的特征。
采用顺次连接平均池化层、展平层(Flatten层)、第一全连接层、Dropout层、第二全连接层以及Softmax输出层构建特征识别子模块，以通过特征识别子模块对多尺度注意力机制特征提取子模块输出的特征进行识别分类。
可选的，平均池化层的池化尺寸设置为2×2，步长为2。值得说明的是，本实施例中所有卷积层以及全连接层均采用ReLU激活函数进行激活。
可以将特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块顺次连接，构建如图2所示的通信信号盲识别模型。
在一种可能的实施方式中，第一多尺度特征融合单元与第二多尺度特征融合单元的结构相同，且均包括：由第三卷积层构建的第一特征提取通道、由第四卷积层以及第五卷积层构建的第二特征提取通道、由第六卷积层以及第七卷积层构建的第三特征提取通道、由第四最大池化层以及第八卷积层构建的第四特征提取通道。
如图3所示，第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输入端共同作为多尺度特征融合单元的输入端，以共同接收输入的特征图。第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输出端均与特征融合层的输入端连接，以进行特征拼接，实现多尺度特征融合。
将特征融合层的输出端作为多尺度特征融合单元的输出端。
可选的，第三卷积层、第四卷积层、第五卷积层、第六卷积层、第七卷积层以及第八卷积层后均设置有BN归一化层以及ReLU激活函数层。第五卷积层的卷积核尺寸设置为3×3，第七卷积层的卷积核尺寸设置为5×5，第三卷积层、第四卷积层、第六卷积层以及第八卷积层的卷积核尺寸设置为1×1，第四最大池化层的池化尺寸设置为2×2，步长为2。
如图4所示，第一注意力单元与第二注意力单元的结构相同，均包括通道注意力子单元以及空间注意力子单元，通道注意力子单元的输入端作为注意力单元的输入端，通道注意力子单元的输出端与注意力单元的输入端均连接至第一元素乘法器的输入端，第一元素乘法器的的输出端与空间注意力子单元的输入端连接，且空间注意力子单元的输出端以及第一元素乘法器的的输出端均与第二元素乘法器的输入端连接，与第二元素乘法器的输出端作为注意力单元的输出端。第一元素乘法器与第二元素乘法器的作用相同，且均用于将输入的两个特征图中的对应元素相乘，并输出新的特征图。
如图5所示，通道注意力子单元包括第五最大池化层、第二平均池化层、第一MLP(Multi-Layer Perceptron，多层感知机)层、第二MLP层、第一元素求和层以及第一Sigmoid激活函数层。第五最大池化层以及第二平均池化层的输入端共同作为通道注意力子单元的输入端，第五最大池化层的输出端通过第一MLP层连接至第一元素求和层的输入端，第二平均池化层的输出端通过第二MLP层连接至第一元素求和层的输入端，第一元素求和层的输出端与第一Sigmoid激活函数层的输入端连接，第一Sigmoid激活函数层的输出端作为通道注意力子单元的输出端。第一元素求和层用于将输入的两个特征图中的对应元素相加，并输出新的特征图。
通道注意力子单元利用特征的通道关系来生成通道注意力特征图，通道注意力更加关注对分类最有效的通道卷积特征，为其分配较大的权重值。
如图6所示，空间注意力子单元包括顺次连接的第六最大池化层、第三平均池化层、第九卷积层以及第二Sigmoid激活函数层。空间注意力子单元利用特征的空间关系来生成通道注意力特征图。
在一种可能的实施方式中，以通信信号特征图以及通信信号特征图对应的调制模式为基础，对通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型，包括：
构建通信信号盲识别模型的损失函数，以通信信号特征图作为通信信号盲识别模型的输入，获取通信信号盲识别模型的实际输出，将通信信号特征图对应的调制模式作为期望输出，并根据实际输出、期望输出以及损失函数，获取通信信号盲识别模型对应的损失函数值。
判断损失函数值是否小于设定阈值，若是，则将此时的网络参数作为通信信号盲识别模型的最终网络参数，得到训练完成的通信信号盲识别模型，否则对通信信号盲识别模型的网络参数进行更新，并进入下一次训练。
在一种可能的实施方式中，构建通信信号盲识别模型的损失函数为：
其中，E表示损失函数值，k＝1,2,…,K，K表示每次训练采用的训练样本数量，h＝1,2,…,H，H表示Softmax输出层的输出总数，rkh表示第k个样本输入时Softmax输出层的第h个期望输出，ykh表示第k个样本输入时Softmax输出层的第h个实际输出，L表示惩罚因子，λ1表示正则化因子，l＝1,2,…,A，A表示通信信号盲识别模型中需要训练参数的总层数，j＝1,2,…,sl，sl表示第l层神经元总数，i＝1,2,…,sl+1，sl+1表示第l+1层神经元总数，表示第l层的第j个神经元与第l+1层的第i个神经元之间的连接权重。
本发明实施例提供的损失函数设置有惩罚因子，可以有效地降低过拟合，保证了通信信号盲识别模型的训练效果。
在一种可能的实施方式中，对通信信号盲识别模型的网络参数进行更新为：
其中，θt表示第t次训练时的权重参数，θt-1表示第t-1次训练时的权重参数，ηt表示第t次训练时的学习率，mt表示第t次训练时的第一中间参数，vt表示第t次训练时的第二中间参数，ε表示平滑因子，β1表示第一指数衰减参数，β2表示第二指数衰减参数，mt-1表示第t-1次训练时的第一中间参数，表示第t-1次训练时误差函数值相对于权重参数的梯度，vt-1表示第t-2次训练时的第一中间参数。
可选的，初始的学习率可以设置为0.0001，初始的vt以及mt均可以设置为0，β1可以设置为0.9，β2可以设置为0.99，ε可以设置为10-8。
在一种可能的实施方式中，第t次训练时的学习率为：
其中，ηt-1表示第t-1次训练时的学习率，ΔE＝Et-Et-1，Et表示第t次训练时的误差函数值，Et-1表示第t-1次训练时的误差函数值，λ2表示0～1之间的第一常数项，λ3表示0～1之间的第二常数项，且λ3小于λ2。
通过学习率的自适应调整，可以保证通信信号盲识别模型的训练过程是以最佳学习速率进行的，而现有技术中主要依靠固定比例系数进行调整，会使学习率的调整幅度过大，导致网络出现振荡，无法保证最终训练模型的准确性，本发明提供的学习率调整算法，根据相对误差的大小适当减小学习率的调整幅度，以一个更为合理的学习速率进行训练，避免出现振荡的情形。
在一种可能的实施方式中，获取待识别通信信号，并提取待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，包括：
获取待识别通信信号，并提取待识别通信信号对应的待识别通信信号特征图。
以待识别通信信号特征图为训练完成的通信信号盲识别模型的输入数据，通过特征预处理子模块中的第一卷积层、第二卷积层以及第一池化层对待识别通信信号特征图进行预提取以及特征尺度变换，得到第一特征图。
以第一特征图为多尺度注意力机制特征提取子模块的输入数据，通过多尺度注意力机制特征提取子模块中的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层对第一特征图中的信号特征进行提取，得到第二特征图。
以第二特征图为特征识别子模块的输入数据，通过特征识别子模块中的平均池化层、展平层、第一全连接层、Dropout层、第二全连接层以及Softmax输出层识别第二特征图的类别特征，得到通信信号盲识别结果。
本发明提供的一种基于深度学习的通信信号盲识别系统，通过构建包含深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块的通信信号盲识别模型，并对通信信号盲识别模型进行训练，从而通过训练完成的通信信号盲识别模型进行信号调制模式的精准识别。
以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于深度学习的通信信号盲识别系统，其特征在于，包括训练数据获取模块、识别模型构建及训练模块和盲信号识别模块；
所述训练数据获取模块用于获取训练数据，所述训练数据包括不同调制模式的通信信号特征图以及通信信号特征图对应的调制模式；
所述识别模型构建及训练模块用于，采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，并以所述通信信号特征图以及通信信号特征图对应的调制模式为基础，对所述通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型；
所述盲信号识别模块用于，获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，得到通信信号盲识别结果；
获取训练数据包括：
获取用于训练的通信信号以及通信信号对应的调制模式；
对所述通信信号进行归一化处理，得到归一化处理后的通信信号；
对归一化后的通信信号进行时频分析，得到时频分析图，并采用灰度图像生成算法对时频分析图进行分析，得到通信信号特征图；所述通信信号特征图对应的调制模式为通信信号对应的调制模式；
针对不同调制模式的通信信号，获取每种调制模式下的若干通信信号对应的通信信号特征图，并将通信信号特征图与调制模式组成训练数据；
采用深度学习算法构建特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块，并根据特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块构建通信信号盲识别模型，包括：
采用顺次连接的第一卷积层、第二卷积层以及第一池化层构建特征预处理子模块，以通过特征预处理子模块对通信信号特征图进行提取并减小特征尺度；
采用顺次连接的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层构建多尺度注意力机制特征提取子模块，以通过多尺度注意力机制特征提取子模块进行特征的提取；
采用顺次连接平均池化层、展平层、第一全连接层、Dropout层、第二全连接层以及Softmax输出层构建特征识别子模块，以通过特征识别子模块对多尺度注意力机制特征提取子模块输出的特征进行识别分类；
将特征预处理子模块、多尺度注意力机制特征提取子模块以及特征识别子模块顺次连接，构建通信信号盲识别模型。
2.根据权利要求1所述的基于深度学习的通信信号盲识别系统，其特征在于，所述第一多尺度特征融合单元与第二多尺度特征融合单元的结构相同，且均包括：由第三卷积层构建的第一特征提取通道、由第四卷积层以及第五卷积层构建的第二特征提取通道、由第六卷积层以及第七卷积层构建的第三特征提取通道、由第四最大池化层以及第八卷积层构建的第四特征提取通道；
所述第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输入端共同作为多尺度特征融合单元的输入端，以共同接收输入的特征图；所述第一特征提取通道、第二特征提取通道、第三特征提取通道以及第四特征提取通道的输出端均与特征融合层的输入端连接，以进行特征拼接，实现多尺度特征融合；
将所述特征融合层的输出端作为多尺度特征融合单元的输出端。
3.根据权利要求1所述的基于深度学习的通信信号盲识别系统，其特征在于，所述第一注意力单元与第二注意力单元的结构相同，均包括通道注意力子单元以及空间注意力子单元，所述通道注意力子单元的输入端作为注意力单元的输入端，所述通道注意力子单元的输出端与注意力单元的输入端均连接至第一元素乘法器的输入端，所述第一元素乘法器的的输出端与空间注意力子单元的输入端连接，且所述空间注意力子单元的输出端以及第一元素乘法器的的输出端均与第二元素乘法器的输入端连接，所述与第二元素乘法器的输出端作为注意力单元的输出端；所述第一元素乘法器与第二元素乘法器的作用相同，且均用于将输入的两个特征图中的对应元素相乘，并输出新的特征图；
所述通道注意力子单元包括第五最大池化层、第二平均池化层、第一MLP层、第二MLP层、第一元素求和层以及第一Sigmoid激活函数层；所述第五最大池化层以及第二平均池化层的输入端共同作为通道注意力子单元的输入端，所述第五最大池化层的输出端通过第一MLP层连接至第一元素求和层的输入端，所述第二平均池化层的输出端通过第二MLP层连接至第一元素求和层的输入端，所述第一元素求和层的输出端与第一Sigmoid激活函数层的输入端连接，所述第一Sigmoid激活函数层的输出端作为通道注意力子单元的输出端；所述第一元素求和层用于将输入的两个特征图中的对应元素相加，并输出新的特征图；
所述空间注意力子单元包括顺次连接的第六最大池化层、第三平均池化层、第九卷积层以及第二Sigmoid激活函数层。
4.根据权利要求1-3任一所述的基于深度学习的通信信号盲识别系统，其特征在于，以所述通信信号特征图以及通信信号特征图对应的调制模式为基础，对所述通信信号盲识别模型进行训练，得到训练完成的通信信号盲识别模型，包括：
构建通信信号盲识别模型的损失函数，以所述通信信号特征图作为通信信号盲识别模型的输入，获取通信信号盲识别模型的实际输出，将通信信号特征图对应的调制模式作为期望输出，并根据所述实际输出、期望输出以及损失函数，获取通信信号盲识别模型对应的损失函数值；
判断所述损失函数值是否小于设定阈值，若是，则将此时的网络参数作为通信信号盲识别模型的最终网络参数，得到训练完成的通信信号盲识别模型，否则对通信信号盲识别模型的网络参数进行更新，并进入下一次训练。
5.根据权利要求4所述的基于深度学习的通信信号盲识别系统，其特征在于，构建通信信号盲识别模型的损失函数为：
其中，E表示损失函数值，k＝1,2,…,K，K表示每次训练采用的训练样本数量，h＝1,2,…,H，H表示Softmax输出层的输出总数，rkh表示第k个样本输入时Softmax输出层的第h个期望输出，ykh表示第k个样本输入时Softmax输出层的第h个实际输出，L表示惩罚因子，λ1表示正则化因子，l＝1,2,…,A，A表示通信信号盲识别模型中需要训练参数的总层数，j＝1,2,…,sl，sl表示第l层神经元总数，i＝1,2,…,sl+1，sl+1表示第l+1层神经元总数，表示第l层的第j个神经元与第l+1层的第i个神经元之间的连接权重。
6.根据权利要求5所述的基于深度学习的通信信号盲识别系统，其特征在于，对通信信号盲识别模型的网络参数进行更新为：
mt＝β1mt-1+(1-β1)▽E(θt-1)
vt＝β1vt-1+(1-β2)(▽E(θt-1))2
其中，θt表示第t次训练时的权重参数，θt-1表示第t-1次训练时的权重参数，ηt表示第t次训练时的学习率，mt表示第t次训练时的第一中间参数，vt表示第t次训练时的第二中间参数，ε表示平滑因子，β1表示第一指数衰减参数，β2表示第二指数衰减参数，mt-1表示第t-1次训练时的第一中间参数，▽E(θt-1)表示第t-1次训练时误差函数值相对于权重参数的梯度，vt-1表示第t-2次训练时的第一中间参数。
7.根据权利要求5所述的基于深度学习的通信信号盲识别系统，其特征在于，所述第t次训练时的学习率为：
其中，ηt-1表示第t-1次训练时的学习率，ΔE＝Et-Et-1，Et表示第t次训练时的误差函数值，Et-1表示第t-1次训练时的误差函数值，λ2表示0～1之间的第一常数项，λ3表示0～1之间的第二常数项，且λ3小于λ2。
8.根据权利要求1所述的基于深度学习的通信信号盲识别系统，其特征在于，获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图，采用训练完成的通信信号盲识别模型对待识别通信信号特征图进行识别，包括：
获取待识别通信信号，并提取所述待识别通信信号对应的待识别通信信号特征图；
以所述待识别通信信号特征图为训练完成的通信信号盲识别模型的输入数据，通过特征预处理子模块中的第一卷积层、第二卷积层以及第一池化层对待识别通信信号特征图进行预提取以及特征尺度变换，得到第一特征图；
以所述第一特征图为多尺度注意力机制特征提取子模块的输入数据，通过多尺度注意力机制特征提取子模块中的第一注意力单元、第一多尺度特征融合单元、第二最大池化层、第二注意力单元、第二多尺度特征融合单元以及第三最大池化层对第一特征图中的信号特征进行提取，得到第二特征图；
以所述第二特征图为特征识别子模块的输入数据，通过特征识别子模块中的平均池化层、展平层、第一全连接层、Dropout层、第二全连接层以及Softmax输出层识别第二特征图的类别特征，得到通信信号盲识别结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310470227.1A CN116388933B (zh) | 2023-04-27 | 2023-04-27 | 基于深度学习的通信信号盲识别系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310470227.1A CN116388933B (zh) | 2023-04-27 | 2023-04-27 | 基于深度学习的通信信号盲识别系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116388933A CN116388933A (zh) | 2023-07-04 |
| CN116388933B true CN116388933B (zh) | 2023-11-21 |
Family
ID=86963432
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310470227.1A Active CN116388933B (zh) | 2023-04-27 | 2023-04-27 | 基于深度学习的通信信号盲识别系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116388933B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111585922A (zh) * | 2020-03-23 | 2020-08-25 | 成都奥特为科技有限公司 | 一种基于卷积神经网络的调制方式识别方法 |
| CN114298086A (zh) * | 2021-11-30 | 2022-04-08 | 中国人民解放军海军航空大学航空作战勤务学院 | 基于深度学习和四阶滞后矩谱的stbc-ofdm信号盲识别方法和装置 |
| CN114997326A (zh) * | 2022-06-20 | 2022-09-02 | 电子科技大学 | 一种基于多特征融合的机载雷达工作模式识别方法 |
| CN115456018A (zh) * | 2022-09-06 | 2022-12-09 | 中山大学 | 一种大规模多天线通信系统调制方式盲识别方法及系统 |
| CN115510905A (zh) * | 2022-09-26 | 2022-12-23 | 电子科技大学 | 一种用于信道编码盲识别的多任务学习方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11477060B2 (en) * | 2019-04-16 | 2022-10-18 | Motorola Solutions, Inc. | Systems and methods for modulation classification of baseband signals using attention-based learned filters |
-
2023
- 2023-04-27 CN CN202310470227.1A patent/CN116388933B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111585922A (zh) * | 2020-03-23 | 2020-08-25 | 成都奥特为科技有限公司 | 一种基于卷积神经网络的调制方式识别方法 |
| CN114298086A (zh) * | 2021-11-30 | 2022-04-08 | 中国人民解放军海军航空大学航空作战勤务学院 | 基于深度学习和四阶滞后矩谱的stbc-ofdm信号盲识别方法和装置 |
| CN114997326A (zh) * | 2022-06-20 | 2022-09-02 | 电子科技大学 | 一种基于多特征融合的机载雷达工作模式识别方法 |
| CN115456018A (zh) * | 2022-09-06 | 2022-12-09 | 中山大学 | 一种大规模多天线通信系统调制方式盲识别方法及系统 |
| CN115510905A (zh) * | 2022-09-26 | 2022-12-23 | 电子科技大学 | 一种用于信道编码盲识别的多任务学习方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于深度学习的通信信号智能盲检测与识别技术研究;李润东;《中国博士学位论文全文数据库 信息科技辑》;全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116388933A (zh) | 2023-07-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110232341B (zh) | 基于卷积-堆叠降噪编码网络的半监督学习图像识别方法 | |
| CN111105008A (zh) | 模型训练方法、数据识别方法和数据识别装置 | |
| CN107977683B (zh) | 基于卷积特征提取和机器学习的联合sar目标识别方法 | |
| CN108171318B (zh) | 一种基于模拟退火—高斯函数的卷积神经网络集成方法 | |
| CN111079847B (zh) | 一种基于深度学习的遥感影像自动标注方法 | |
| CN110045356B (zh) | 一种双向长短时记忆神经网络水面目标识别方法 | |
| CN111126332B (zh) | 基于轮廓特征的跳频信号分类方法 | |
| CN111126361B (zh) | 基于半监督学习和特征约束的sar目标鉴别方法 | |
| CN111598167B (zh) | 基于图学习的小样本图像识别方法及系统 | |
| CN111783841A (zh) | 基于迁移学习和模型融合的垃圾分类方法、系统及介质 | |
| Wei et al. | A method of underwater acoustic signal classification based on deep neural network | |
| CN112232395B (zh) | 一种基于联合训练生成对抗网络的半监督图像分类方法 | |
| CN113780242A (zh) | 一种基于模型迁移学习的跨场景水声目标分类方法 | |
| CN111368648B (zh) | 雷达辐射源个体识别方法、装置、电子设备及其存储介质 | |
| CN115294615A (zh) | 一种基于机器学习的射频指纹识别方法 | |
| CN115438708A (zh) | 一种基于卷积神经网络和多模态融合的分类识别方法 | |
| CN113221758B (zh) | 一种基于gru-nin模型的水声目标识别方法 | |
| CN116388933B (zh) | 基于深度学习的通信信号盲识别系统 | |
| CN116741159A (zh) | 音频分类及模型的训练方法、装置、电子设备和存储介质 | |
| CN113160823B (zh) | 基于脉冲神经网络的语音唤醒方法、装置及电子设备 | |
| CN116047418A (zh) | 基于小样本的多模态雷达有源欺骗干扰识别方法 | |
| CN115329821A (zh) | 一种基于配对编码网络和对比学习的舰船噪声识别方法 | |
| CN114494152A (zh) | 基于关联学习模型的无监督变化检测方法 | |
| CN111401263B (zh) | 一种融合专家知识的优效组合式调制识别方法 | |
| CN114220145A (zh) | 人脸检测模型生成方法和装置、伪造人脸检测方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |