CN111666861A - 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 - Google Patents

一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 Download PDF

Info

Publication number
CN111666861A
CN111666861A CN202010484170.7A CN202010484170A CN111666861A CN 111666861 A CN111666861 A CN 111666861A CN 202010484170 A CN202010484170 A CN 202010484170A CN 111666861 A CN111666861 A CN 111666861A
Authority
CN
China
Prior art keywords
weight
classifier
points
wireless signal
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010484170.7A
Other languages
English (en)
Inventor
黄亮
张友
潘伟建
陈晋音
钱丽萍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN202010484170.7A priority Critical patent/CN111666861A/zh
Publication of CN111666861A publication Critical patent/CN111666861A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Monitoring And Testing Of Transmission In General (AREA)

Abstract

一种适用于基于卷积神经网络的无线信号调制分类器可视化方法,包括以下步骤:1)引入一组权值向量,衡量输入信号中各个信号点对于分类器输出结果的重要程度,通过叠加分类器的预测得分对于最后一层卷积层产生的各个特征图的平均梯度与对应层的特征图各元素乘积作为权值向量,将得到的权值向量归一化至[0,1]范围内;2)绘制输入信号的星座图,并根据步骤2)求得的权值将星座点赋予不同的颜色;3)设定权值阈值,如果连续的两个采样点的权值大于阈值,则将两点通过绿色的线段连接。本发明方法能够适用于基于CNN的无线信号调制分类器,可以直观地展现特征点分布状态,以及分类器在时序上提取特征点的变化规律。

Description

一种适用于基于卷积神经网络的无线信号调制分类器可视化 方法
技术领域
本发明属于深度学习可视化与无线信号自动调制分类领域,涉及一种基于卷积神经网络(CNN)的无线信号调制分类器的可视化方法。
背景技术
无线信号自动调制识别技术是无线通信领域中一项非常关键的技术,无线信号调制方式的识别在军用领域和民用领域有着非常重要的意义。
随着深度学习的不断发展,基于深度学习的方法在各种分类任务中都取得了优异的性能。然而,基于深度学习的分类方法不同于可解释的传统的基于特征的调制识别方法,其分类器以端到端的方式预测调制类别,所以缺乏可解释性。
为了解决这一问题,利用基于深度学习在图像处理领域的可视化技术对调制识别领域里基于深度学习的分类器提取的特征进行可视化,获取特征分布和时序特征,以此解释模型作出的决策。确保实际部署中对基于深度学习的分类器的信任。因此,设计一种适用于基于深度学习的无线信号调制分类器的可视化方法是很有必要的。
发明内容
在基于深度学习的无线信号调制分类方法中,分类器的特征提取是不可见和缺乏可解释的。为了解决这一问题,引入一组权值向量,其形状大小和输入信号大小一致。其中每一权值反映了相同位置信号值对分类结果的重要程度。为了获得分类器在时序上提取特征的特点,进而引入一个权值阈值。当连续的两个及以上的信号点所对应的权值大于给定阈值时用线段连接。本发明针对基于深度学习的无线信号调制分类任务,研究基于CNN的分类器的特征提取的方法。
本发明解决其技术问题所采取的技术方案是:
一种适用于基于卷积神经网络的无线信号调制分类器的可视化方法,所述方法包括以下步骤:
1)给定一个已经训练好的基于CNN的无线信号调制分类器,由m个卷积层和n个全连接层组成,并通过“归一化指数函数”输出预测向量,调制分类器的输入信号记为
Figure BDA0002518520650000021
其中
Figure BDA0002518520650000022
Nx表示信号长度,每一个xi=(Ii,Qi)由一组同相值和正交相值组成,输入信号x属于Ny个不同的调制类别之一,一组输入x通过分类器被映射为一组向量
Figure BDA0002518520650000023
其中
Figure BDA0002518520650000024
yj属于第j类,记概率最大的类别为
Figure BDA0002518520650000025
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器,权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度,获取权值向量的步骤如下:
步骤2.1:基于CNN的调制分类器在最后一个卷积层所产生的特征图表示为
Figure BDA0002518520650000026
其中Nf是最后一层卷积层生成的特征图的数量,fk表示第k层特征图,其宽度为U,长度为V;
步骤2.2:一组输入信号x的预测类别记为j*,预测得分为记为
Figure BDA0002518520650000027
预测得分
Figure BDA0002518520650000028
为归一化指数函数前的得分;
步骤2.3:计算预测得分
Figure BDA0002518520650000029
相对于每一层特征图的平均梯度
Figure BDA00025185206500000210
如下:
Figure BDA0002518520650000031
其中
Figure BDA0002518520650000032
表示特征图fk中位置(u,v)处的激活值;
步骤2.4:将平均梯度
Figure BDA0002518520650000033
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零,获得权重向量w。
Figure BDA0002518520650000034
步骤2.5:将优化后的权值向量w归一化至[0,1],如下:
Figure BDA0002518520650000035
步骤2.6:将权值向量w'的形状resize为和输入信号x相同的形状,用于近似衡量输入x的各个元素对分类结果的重要性;
3)为了更好的可视化,在笛卡尔坐标系上绘制输入信号的星座图,根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色(黄色到红色),以区分不同信号点对最终分类结果的重要程度,然后设定权值阈值过滤次要特征点,将重要且连续的特征点用线段连接起来,步骤如下:
步骤3.1:根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图,横坐标表示同相值,纵坐标表示正交相值;
步骤3.2:根据所获得的权值向量w',将每个星座点xi的颜色根据对应的权值wi赋予从一种颜色到另一种颜色之间的颜色,具有较大权值wi(接近1)的采样点被赋予另一种颜色,表明它对分类结果是重要的;
步骤3.3:设定权值阈值ηw,如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw,则将两点通过第三种颜色的线段连接;
以上,是计算权值向量和特征可视化的完整过程。
本发明的技术构想为:首先,输入信号中各元素对分类结果的影响是不一样的,通过引入权值向量来衡量不同时刻信号点对分类结果的重要程度,在求得的权值向量的基础上,将不同时刻的星座点赋予从黄色到红色的不同颜色,这种方式可直观地表现不同星座点的重要程度,再引入一个权值阈值用于过滤权值较低的特征点,将高于阈值且连续的特征点连接起来,用于获取分类器提取的特征分布及时序特征。
本发明的有益效果主要表现在:通过引入权值向量并在此基础上对星座图中特征点的处理,可以直观地表现出特征点的分布状态,以及在时序上特征点变化的规律,进而对分类器分类结果进行解释,增加实际部署时对模型的信任。
附图说明
图1是获取权值向量的优化流程图。
图2是基于CNN的无线信号调制分类器的可视化方法框架示意图。
具体实施方式
下面结合附图对本发明作进一步详细描述。
参照图1和图2,一种适用于基于CNN的无线信号调制分类器的可视化方法,通过叠加分类器的预测得分对于最后一层卷积层产生的各个特征图的平均梯度与对应层的特征图各元素乘积作为权值向量。同时,根据获得的权值向量处理输入信号,可视化出输入信号中重要的特征点(如图2所示),所述方法包括以下步骤:
1)给定一个已经训练好的基于CNN的无线信号调制分类器,由m个卷积层和n个全连接层组成,并通过“归一化指数函数”输出预测向量,调制分类器的输入信号记为
Figure BDA0002518520650000051
其中
Figure BDA0002518520650000052
Nx表示信号长度,每一个xi=(Ii,Qi)由一组同相值和正交相值组成,输入信号x属于Ny个不同的调制类别之一,一组输入x通过分类器被映射为一组向量
Figure BDA0002518520650000053
其中
Figure BDA0002518520650000054
yj属于第j类,记概率最大的类别为
Figure BDA0002518520650000055
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器,权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度,获取权值向量的步骤如下:
步骤2.1:基于CNN的调制分类器在最后一个卷积层所产生的特征图表示为
Figure BDA0002518520650000056
其中Nf是最后一层卷积层生成的特征图的数量,fk表示第k层特征图,其宽度为U,长度为V;
步骤2.2:一组输入信号x的预测类别记为j*,预测得分为记为
Figure BDA0002518520650000057
预测得分
Figure BDA0002518520650000058
归一化指数函数前的得分;
步骤2.3:计算预测得分
Figure BDA0002518520650000059
相对于每一层特征图的平均梯度
Figure BDA00025185206500000510
如下:
Figure BDA00025185206500000511
其中
Figure BDA00025185206500000512
表示特征图fk中位置(u,v)处的激活值;
步骤2.4:将平均梯度
Figure BDA00025185206500000513
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零,获得权重向量w;
Figure BDA0002518520650000061
步骤2.5:将优化后的权值向量w归一化至[0,1],如下:
Figure BDA0002518520650000062
步骤2.6:将权值向量w'的形状resize为和输入信号x相同的形状,用于近似衡量输入x的各个元素对分类结果的重要性;
3)为了更好的可视化,在笛卡尔坐标系上绘制输入信号的星座图,根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色(黄色到红色),以区分不同信号点对最终分类结果的重要程度,然后设定权值阈值过滤次要特征点,将重要且连续的特征点用线段连接起来,步骤如下:
步骤3.1:根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图,横坐标表示同相值,纵坐标表示正交相值;
步骤3.2:根据所获得的权值向量w',将每个星座点xi的颜色根据对应的权值wi赋予从黄色到红色之间的颜色;具有较大权值wi(接近1)的采样点被赋予红色,表明它对分类结果是重要的;
步骤3.3:设定权值阈值ηw,如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw,则将两点通过绿色的线段连接;
以上,是计算权值向量和特征可视化的完整过程。

Claims (1)

1.一种适用于基于卷积神经网络的无线信号调制分类器可视化方法,其特征在于,所述方法包括以下步骤:
1)给定一个已经训练好的基于卷积神经网络的无线信号调制分类器,由m个卷积层和n个全连接层组成,并通过“归一化指数函数”输出预测向量,调制分类器的输入信号记为
Figure FDA0002518520640000011
其中
Figure FDA0002518520640000012
Nx表示信号长度,每一个xi=(Ii,Qi)由一组同相值和正交相值组成,输入信号x属于Ny个不同的调制类别之一,一组输入x通过分类器被映射为一组向量
Figure FDA0002518520640000013
其中
Figure FDA0002518520640000014
yj属于第j类,记概率最大的类别为
Figure FDA0002518520640000015
2)引入一组权值向量来可视化基于卷积神经网络的无线信号调制分类器,权值向量中每一个元素表示对应时刻下信号值对调制分类结果的重要程度,获取权值向量的步骤如下:
步骤2.1:基于卷积神经网络的调制分类器在最后一个卷积层所产生的特征图表示为
Figure FDA0002518520640000016
其中Nf是最后一层卷积层生成的特征图的数量,fk表示第k层特征图,其宽度为U,长度为V;
步骤2.2:一组输入信号x的预测类别记为j*,预测得分为记为
Figure FDA0002518520640000017
预测得分
Figure FDA0002518520640000018
为归一化指数函数前的得分;
步骤2.3:计算预测得分
Figure FDA0002518520640000019
相对于每一层特征图的平均梯度
Figure FDA00025185206400000110
如下:
Figure FDA00025185206400000111
其中
Figure FDA00025185206400000112
表示特征图fk中位置(u,v)处的激活值;
步骤2.4:将平均梯度
Figure FDA0002518520640000021
与对应层的特征图fk各元素相乘并累加并且将值为负的元素置零,获得权重向量w;
Figure FDA0002518520640000022
步骤2.5:将优化后的权值向量w归一化至[0,1],如下:
Figure FDA0002518520640000023
步骤2.6:将权值向量w'的形状resize为和输入信号x相同的形状,用于近似衡量输入x的各个元素对分类结果的重要性;
3)在笛卡尔坐标系上绘制输入信号的星座图,根据步骤2)求得的权值向量为每一个星座点赋予不同的颜色,以区分不同信号点对最终分类结果的重要程度,然后设定权值阈值过滤次要特征点,将重要且连续的特征点用线段连接起来,步骤如下:
步骤3.1:根据输入信号x每一时刻的(Ii,Qi)在笛卡尔坐标系中绘制出其星座图,横坐标表示同相值,纵坐标表示正交相值;
步骤3.2:根据所获得的权值向量w',将每个星座点xi的颜色根据对应的权值wi赋予从一种颜色到另一种颜色之间的颜色,具有较大权值wi,即权值wi接近1的采样点被赋予另一种颜色,表明它对分类结果是重要的;
步骤3.3:设定权值阈值ηw,如果连续的两个采样点xi和xi+1的权值wi和wi+1大于ηw,则将两点通过第三种颜色的线段连接;
以上,是计算权值向量和特征可视化的完整过程。
CN202010484170.7A 2020-06-01 2020-06-01 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法 Pending CN111666861A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010484170.7A CN111666861A (zh) 2020-06-01 2020-06-01 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010484170.7A CN111666861A (zh) 2020-06-01 2020-06-01 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法

Publications (1)

Publication Number Publication Date
CN111666861A true CN111666861A (zh) 2020-09-15

Family

ID=72385402

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010484170.7A Pending CN111666861A (zh) 2020-06-01 2020-06-01 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法

Country Status (1)

Country Link
CN (1) CN111666861A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112884122A (zh) * 2021-02-23 2021-06-01 杭州弈鸽科技有限责任公司 一种基于神经元激活的信号调制类型识别模型可解释方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107358260A (zh) * 2017-07-13 2017-11-17 西安电子科技大学 一种基于表面波cnn的多光谱图像分类方法
CN109858506A (zh) * 2018-05-28 2019-06-07 哈尔滨工程大学 一种面向卷积神经网络分类结果的可视化算法
WO2019163985A1 (ja) * 2018-02-23 2019-08-29 日本電信電話株式会社 特徴表現装置、特徴表現方法、およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107358260A (zh) * 2017-07-13 2017-11-17 西安电子科技大学 一种基于表面波cnn的多光谱图像分类方法
WO2019163985A1 (ja) * 2018-02-23 2019-08-29 日本電信電話株式会社 特徴表現装置、特徴表現方法、およびプログラム
CN109858506A (zh) * 2018-05-28 2019-06-07 哈尔滨工程大学 一种面向卷积神经网络分类结果的可视化算法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LIANG HUANG 等: "Visualizing Deep Learning-based Radio Modulation Classifier", 《ARXIV》 *
RAMPRASAATH R. SELVARAJU 等: "Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization", 《2017 IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION (ICCV)》 *
赵银: "针对卷积神经网络的差异化可视分析研究与应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112884122A (zh) * 2021-02-23 2021-06-01 杭州弈鸽科技有限责任公司 一种基于神经元激活的信号调制类型识别模型可解释方法及装置
CN112884122B (zh) * 2021-02-23 2022-07-05 杭州弈鸽科技有限责任公司 一种基于神经元激活的信号调制类型识别模型可解释方法及装置

Similar Documents

Publication Publication Date Title
CN106874840B (zh) 车辆信息识别方法及装置
CN108573225B (zh) 一种局部放电信号模式识别方法及系统
CN111832417B (zh) 基于cnn-lstm模型和迁移学习的信号调制样式识别方法
CN107016405A (zh) 一种基于分级预测卷积神经网络的害虫图像分类方法
CN110175615B (zh) 模型训练方法、域自适应的视觉位置识别方法及装置
CN111126332B (zh) 基于轮廓特征的跳频信号分类方法
CN109785344A (zh) 基于特征重标定的双通路残差网络的遥感图像分割方法
CN104484658A (zh) 一种基于多通道卷积神经网络的人脸性别识别方法及装置
CN111414954B (zh) 一种岩石图像检索方法及其系统
CN110417694A (zh) 一种通信信号调制方式识别方法
CN111898621A (zh) 一种轮廓形状识别方法
CN113378883B (zh) 一种基于通道分组注意力模型的细粒度车辆分类方法
CN112784757B (zh) 海上sar舰船目标显著性检测与识别方法
CN110991349A (zh) 一种基于度量学习的轻量级车辆属性识别方法
CN113901448A (zh) 基于卷积神经网络和轻量级梯度提升机的入侵检测方法
CN111291818B (zh) 一种面向云掩膜的非均匀类别的样本均衡化方法
CN108363962B (zh) 一种基于多层次特征深度学习的人脸检测方法及系统
CN110807485A (zh) 基于高分遥感影像二分类语义分割图融合成多分类语义图的方法
CN114330516A (zh) 基于多图引导神经网络模型的小样本徽景图像分类
CN114997211A (zh) 一种基于改进对抗网络和注意力机制的跨工况故障诊断方法
CN104573701B (zh) 一种玉米雄穗性状的自动检测方法
CN110516615B (zh) 基于卷积神经网络的人车分流控制方法
CN111666861A (zh) 一种适用于基于卷积神经网络的无线信号调制分类器可视化方法
CN111680601A (zh) 一种适用于基于长短期记忆网络的无线信号调制分类器可视化方法
CN114205766A (zh) 一种无线传感器网络异常节点检测与定位方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20200915

WD01 Invention patent application deemed withdrawn after publication