CN111666861A - 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 - Google Patents
一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 Download PDFInfo
- Publication number
- CN111666861A CN111666861A CN202010484170.7A CN202010484170A CN111666861A CN 111666861 A CN111666861 A CN 111666861A CN 202010484170 A CN202010484170 A CN 202010484170A CN 111666861 A CN111666861 A CN 111666861A
- Authority
- CN
- China
- Prior art keywords
- weight
- classifier
- points
- wireless signal
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 20
- 238000007794 visualization technique Methods 0.000 title abstract description 8
- 239000013598 vector Substances 0.000 claims abstract description 43
- 238000010586 diagram Methods 0.000 claims abstract description 26
- 238000000034 method Methods 0.000 claims abstract description 13
- 239000003086 colorant Substances 0.000 claims abstract description 7
- 238000012800 visualization Methods 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 2
- 239000000284 extract Substances 0.000 abstract description 2
- 238000005070 sampling Methods 0.000 abstract 1
- 238000013135 deep learning Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Monitoring And Testing Of Transmission In General (AREA)
Abstract
一种适用于基于卷积神经网络的无线信号调制分类器可视化方法,包括以下步骤：1)引入一组权值向量，衡量输入信号中各个信号点对于分类器输出结果的重要程度，通过叠加分类器的预测得分对于最后一层卷积层产生的各个特征图的平均梯度与对应层的特征图各元素乘积作为权值向量，将得到的权值向量归一化至[0,1]范围内；2)绘制输入信号的星座图，并根据步骤2)求得的权值将星座点赋予不同的颜色；3)设定权值阈值,如果连续的两个采样点的权值大于阈值，则将两点通过绿色的线段连接。本发明方法能够适用于基于CNN的无线信号调制分类器，可以直观地展现特征点分布状态，以及分类器在时序上提取特征点的变化规律。
Description
技术领域
本发明属于深度学习可视化与无线信号自动调制分类领域，涉及一种基于卷积神经网络(CNN)的无线信号调制分类器的可视化方法。
背景技术
无线信号自动调制识别技术是无线通信领域中一项非常关键的技术，无线信号调制方式的识别在军用领域和民用领域有着非常重要的意义。
随着深度学习的不断发展，基于深度学习的方法在各种分类任务中都取得了优异的性能。然而，基于深度学习的分类方法不同于可解释的传统的基于特征的调制识别方法，其分类器以端到端的方式预测调制类别，所以缺乏可解释性。
为了解决这一问题，利用基于深度学习在图像处理领域的可视化技术对调制识别领域里基于深度学习的分类器提取的特征进行可视化，获取特征分布和时序特征，以此解释模型作出的决策。确保实际部署中对基于深度学习的分类器的信任。因此，设计一种适用于基于深度学习的无线信号调制分类器的可视化方法是很有必要的。
发明内容
在基于深度学习的无线信号调制分类方法中，分类器的特征提取是不可见和缺乏可解释的。为了解决这一问题，引入一组权值向量，其形状大小和输入信号大小一致。其中每一权值反映了相同位置信号值对分类结果的重要程度。为了获得分类器在时序上提取特征的特点，进而引入一个权值阈值。当连续的两个及以上的信号点所对应的权值大于给定阈值时用线段连接。本发明针对基于深度学习的无线信号调制分类任务，研究基于CNN的分类器的特征提取的方法。
本发明解决其技术问题所采取的技术方案是：
一种适用于基于卷积神经网络的无线信号调制分类器的可视化方法，所述方法包括以下步骤：
1)给定一个已经训练好的基于CNN的无线信号调制分类器，由m个卷积层和n个全连接层组成，并通过“归一化指数函数”输出预测向量，调制分类器的输入信号记为
其中
Nx表示信号长度，每一个xi＝(Ii,Qi)由一组同相值和正交相值组成，输入信号x属于Ny个不同的调制类别之一，一组输入x通过分类器被映射为一组向量
其中
yj属于第j类，记概率最大的类别为
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器，权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度，获取权值向量的步骤如下：
步骤2.1：基于CNN的调制分类器在最后一个卷积层所产生的特征图表示为
其中Nf是最后一层卷积层生成的特征图的数量，fk表示第k层特征图，其宽度为U，长度为V；
步骤2.2：一组输入信号x的预测类别记为j*，预测得分为记为
预测得分
为归一化指数函数前的得分；
步骤2.3：计算预测得分
相对于每一层特征图的平均梯度
如下：
其中
表示特征图fk中位置(u,v)处的激活值；
步骤2.4：将平均梯度
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零，获得权重向量w。
步骤2.5：将优化后的权值向量w归一化至[0,1]，如下：
步骤2.6：将权值向量w'的形状resize为和输入信号x相同的形状，用于近似衡量输入x的各个元素对分类结果的重要性；
3)为了更好的可视化，在笛卡尔坐标系上绘制输入信号的星座图，根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色(黄色到红色)，以区分不同信号点对最终分类结果的重要程度，然后设定权值阈值过滤次要特征点，将重要且连续的特征点用线段连接起来，步骤如下：
步骤3.1：根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图，横坐标表示同相值，纵坐标表示正交相值；
步骤3.2：根据所获得的权值向量w'，将每个星座点xi的颜色根据对应的权值wi赋予从一种颜色到另一种颜色之间的颜色，具有较大权值wi(接近1)的采样点被赋予另一种颜色，表明它对分类结果是重要的；
步骤3.3：设定权值阈值ηw，如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw，则将两点通过第三种颜色的线段连接；
以上，是计算权值向量和特征可视化的完整过程。
本发明的技术构想为：首先，输入信号中各元素对分类结果的影响是不一样的，通过引入权值向量来衡量不同时刻信号点对分类结果的重要程度，在求得的权值向量的基础上，将不同时刻的星座点赋予从黄色到红色的不同颜色，这种方式可直观地表现不同星座点的重要程度，再引入一个权值阈值用于过滤权值较低的特征点，将高于阈值且连续的特征点连接起来，用于获取分类器提取的特征分布及时序特征。
本发明的有益效果主要表现在：通过引入权值向量并在此基础上对星座图中特征点的处理，可以直观地表现出特征点的分布状态，以及在时序上特征点变化的规律，进而对分类器分类结果进行解释，增加实际部署时对模型的信任。
附图说明
图1是获取权值向量的优化流程图。
图2是基于CNN的无线信号调制分类器的可视化方法框架示意图。
具体实施方式
下面结合附图对本发明作进一步详细描述。
参照图1和图2，一种适用于基于CNN的无线信号调制分类器的可视化方法，通过叠加分类器的预测得分对于最后一层卷积层产生的各个特征图的平均梯度与对应层的特征图各元素乘积作为权值向量。同时，根据获得的权值向量处理输入信号，可视化出输入信号中重要的特征点(如图2所示)，所述方法包括以下步骤：
1)给定一个已经训练好的基于CNN的无线信号调制分类器，由m个卷积层和n个全连接层组成，并通过“归一化指数函数”输出预测向量，调制分类器的输入信号记为
其中
Nx表示信号长度，每一个xi＝(Ii,Qi)由一组同相值和正交相值组成，输入信号x属于Ny个不同的调制类别之一，一组输入x通过分类器被映射为一组向量
其中
yj属于第j类，记概率最大的类别为
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器，权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度，获取权值向量的步骤如下：
步骤2.1：基于CNN的调制分类器在最后一个卷积层所产生的特征图表示为
其中Nf是最后一层卷积层生成的特征图的数量，fk表示第k层特征图，其宽度为U，长度为V；
步骤2.2：一组输入信号x的预测类别记为j*，预测得分为记为
预测得分
归一化指数函数前的得分；
步骤2.3：计算预测得分
相对于每一层特征图的平均梯度
如下：
其中
表示特征图fk中位置(u,v)处的激活值；
步骤2.4：将平均梯度
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零，获得权重向量w；
步骤2.5：将优化后的权值向量w归一化至[0,1]，如下：
步骤2.6：将权值向量w'的形状resize为和输入信号x相同的形状，用于近似衡量输入x的各个元素对分类结果的重要性；
3)为了更好的可视化，在笛卡尔坐标系上绘制输入信号的星座图，根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色(黄色到红色)，以区分不同信号点对最终分类结果的重要程度，然后设定权值阈值过滤次要特征点，将重要且连续的特征点用线段连接起来，步骤如下：
步骤3.1：根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图，横坐标表示同相值，纵坐标表示正交相值；
步骤3.2：根据所获得的权值向量w'，将每个星座点xi的颜色根据对应的权值wi赋予从黄色到红色之间的颜色；具有较大权值wi(接近1)的采样点被赋予红色，表明它对分类结果是重要的；
步骤3.3：设定权值阈值ηw，如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw，则将两点通过绿色的线段连接；
以上，是计算权值向量和特征可视化的完整过程。
Claims (1)
1.一种适用于基于卷积神经网络的无线信号调制分类器可视化方法，其特征在于，所述方法包括以下步骤：
1)给定一个已经训练好的基于卷积神经网络的无线信号调制分类器，由m个卷积层和n个全连接层组成，并通过“归一化指数函数”输出预测向量，调制分类器的输入信号记为
其中
Nx表示信号长度，每一个xi＝(Ii,Qi)由一组同相值和正交相值组成，输入信号x属于Ny个不同的调制类别之一，一组输入x通过分类器被映射为一组向量
其中
yj属于第j类，记概率最大的类别为
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器，权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度，获取权值向量的步骤如下：
步骤2.1：基于卷积神经网络的调制分类器在最后一个卷积层所产生的特征图表示为
其中Nf是最后一层卷积层生成的特征图的数量，fk表示第k层特征图，其宽度为U，长度为V；
步骤2.2：一组输入信号x的预测类别记为j*，预测得分为记为
预测得分
为归一化指数函数前的得分；
步骤2.3：计算预测得分
相对于每一层特征图的平均梯度
如下：
其中
表示特征图fk中位置(u,v)处的激活值；
步骤2.4：将平均梯度
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零，获得权重向量w；
步骤2.5：将优化后的权值向量w归一化至[0,1]，如下：
步骤2.6：将权值向量w'的形状resize为和输入信号x相同的形状，用于近似衡量输入x的各个元素对分类结果的重要性；
3)在笛卡尔坐标系上绘制输入信号的星座图，根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色，以区分不同信号点对最终分类结果的重要程度，然后设定权值阈值过滤次要特征点，将重要且连续的特征点用线段连接起来，步骤如下：
步骤3.1：根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图，横坐标表示同相值，纵坐标表示正交相值；
步骤3.2：根据所获得的权值向量w'，将每个星座点xi的颜色根据对应的权值wi赋予从一种颜色到另一种颜色之间的颜色，具有较大权值wi，即权值wi接近1的采样点被赋予另一种颜色，表明它对分类结果是重要的；
步骤3.3：设定权值阈值ηw，如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw，则将两点通过第三种颜色的线段连接；
以上，是计算权值向量和特征可视化的完整过程。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010484170.7A CN111666861A (zh) | 2020-06-01 | 2020-06-01 | 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010484170.7A CN111666861A (zh) | 2020-06-01 | 2020-06-01 | 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111666861A true CN111666861A (zh) | 2020-09-15 |
Family
ID=72385402
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010484170.7A Pending CN111666861A (zh) | 2020-06-01 | 2020-06-01 | 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111666861A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112884122A (zh) * | 2021-02-23 | 2021-06-01 | 杭州弈鸽科技有限责任公司 | 一种基于神经元激活的信号调制类型识别模型可解释方法及装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107358260A (zh) * | 2017-07-13 | 2017-11-17 | 西安电子科技大学 | 一种基于表面波cnn的多光谱图像分类方法 |
| CN109858506A (zh) * | 2018-05-28 | 2019-06-07 | 哈尔滨工程大学 | 一种面向卷积神经网络分类结果的可视化算法 |
| WO2019163985A1 (ja) * | 2018-02-23 | 2019-08-29 | 日本電信電話株式会社 | 特徴表現装置、特徴表現方法、およびプログラム |
-
2020
- 2020-06-01 CN CN202010484170.7A patent/CN111666861A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107358260A (zh) * | 2017-07-13 | 2017-11-17 | 西安电子科技大学 | 一种基于表面波cnn的多光谱图像分类方法 |
| WO2019163985A1 (ja) * | 2018-02-23 | 2019-08-29 | 日本電信電話株式会社 | 特徴表現装置、特徴表現方法、およびプログラム |
| CN109858506A (zh) * | 2018-05-28 | 2019-06-07 | 哈尔滨工程大学 | 一种面向卷积神经网络分类结果的可视化算法 |
Non-Patent Citations (3)
| Title |
|---|
| LIANG HUANG 等: "Visualizing Deep Learning-based Radio Modulation Classifier", 《ARXIV》 * |
| RAMPRASAATH R. SELVARAJU 等: "Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization", 《2017 IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION (ICCV)》 * |
| 赵银: "针对卷积神经网络的差异化可视分析研究与应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112884122A (zh) * | 2021-02-23 | 2021-06-01 | 杭州弈鸽科技有限责任公司 | 一种基于神经元激活的信号调制类型识别模型可解释方法及装置 |
| CN112884122B (zh) * | 2021-02-23 | 2022-07-05 | 杭州弈鸽科技有限责任公司 | 一种基于神经元激活的信号调制类型识别模型可解释方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108573225B (zh) | 一种局部放电信号模式识别方法及系统 | |
| CN111832417B (zh) | 基于cnn-lstm模型和迁移学习的信号调制样式识别方法 | |
| CN110175615B (zh) | 模型训练方法、域自适应的视觉位置识别方法及装置 | |
| CN107016405A (zh) | 一种基于分级预测卷积神经网络的害虫图像分类方法 | |
| CN111126332B (zh) | 基于轮廓特征的跳频信号分类方法 | |
| CN112766229B (zh) | 基于注意力机制的人脸点云图像智能识别系统及方法 | |
| CN109785344A (zh) | 基于特征重标定的双通路残差网络的遥感图像分割方法 | |
| CN111414954B (zh) | 一种岩石图像检索方法及其系统 | |
| CN110417694A (zh) | 一种通信信号调制方式识别方法 | |
| CN111898621A (zh) | 一种轮廓形状识别方法 | |
| CN110807485B (zh) | 基于高分遥感影像二分类语义分割图融合成多分类语义图的方法 | |
| CN113378883B (zh) | 一种基于通道分组注意力模型的细粒度车辆分类方法 | |
| CN112819096A (zh) | 一种基于复合卷积神经网络的化石图像分类模型的构建方法 | |
| CN113901448A (zh) | 基于卷积神经网络和轻量级梯度提升机的入侵检测方法 | |
| CN108363962B (zh) | 一种基于多层次特征深度学习的人脸检测方法及系统 | |
| CN104573701B (zh) | 一种玉米雄穗性状的自动检测方法 | |
| CN110516615B (zh) | 基于卷积神经网络的人车分流控制方法 | |
| CN111666861A (zh) | 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 | |
| CN114980122A (zh) | 一种小样本射频指纹智能识别系统与方法 | |
| CN111291818A (zh) | 一种面向云掩膜的非均匀类别的样本均衡化方法 | |
| CN111680601A (zh) | 一种适用于基于长短期记忆网络的无线信号调制分类器可视化方法 | |
| CN114205766A (zh) | 一种无线传感器网络异常节点检测与定位方法 | |
| CN106570514A (zh) | 一种基于词袋模型和支持向量机的汽车轮毂分类方法 | |
| CN113723558A (zh) | 基于注意力机制的遥感图像小样本舰船检测方法 | |
| CN112668421A (zh) | 一种基于注意力机制的无人机高光谱农作物快速分类方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200915 |
|
| WD01 | Invention patent application deemed withdrawn after publication |