CN114692665A - 基于度量学习的辐射源开集个体识别方法 - Google Patents
基于度量学习的辐射源开集个体识别方法 Download PDFInfo
- Publication number
- CN114692665A CN114692665A CN202011563262.0A CN202011563262A CN114692665A CN 114692665 A CN114692665 A CN 114692665A CN 202011563262 A CN202011563262 A CN 202011563262A CN 114692665 A CN114692665 A CN 114692665A
- Authority
- CN
- China
- Prior art keywords
- feature
- radiation source
- module
- signal
- extraction module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005855 radiation Effects 0.000 title claims abstract description 134
- 238000000034 method Methods 0.000 title claims abstract description 54
- 239000013598 vector Substances 0.000 claims abstract description 41
- 238000012549 training Methods 0.000 claims abstract description 33
- 230000002146 bilateral effect Effects 0.000 claims abstract description 21
- 230000006870 function Effects 0.000 claims abstract description 20
- 230000000694 effects Effects 0.000 claims abstract description 13
- 238000012795 verification Methods 0.000 claims abstract description 11
- 238000012360 testing method Methods 0.000 claims abstract description 10
- 238000012216 screening Methods 0.000 claims abstract description 9
- 238000000605 extraction Methods 0.000 claims description 77
- 230000014509 gene expression Effects 0.000 claims description 33
- 238000010606 normalization Methods 0.000 claims description 17
- 238000000926 separation method Methods 0.000 claims description 16
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 14
- 238000010586 diagram Methods 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000009472 formulation Methods 0.000 claims description 2
- 239000000203 mixture Substances 0.000 claims description 2
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 claims 1
- 238000005259 measurement Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000002203 pretreatment Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种基于度量学习的辐射源开集个体识别方法,收敛速度快,识别准确率高。本发明通过下述技术方案予以实现:深层度量学习模型对接收到的辐射源信号做特征编码,基于度量学习判断其是否来自已知类辐射源,对于未知信号做筛分,对已知信号做分类识别;根据辐射源信号训练集对深层度量学习模型进行3段式监督训练;将辐射源信号测试集数据输入优化后的网络模型验证模型对已知类信号的分类效果;将未知信号输入优化后的网络模型验证模型对未知类信号的筛选效果,利用双边三元组损失将辐射源信号所属的特征编码向量最大、最小化类间距离;使用均方差损失函数、双边三元组损失函数优化网络模型,在每一个小批量梯度下降训练时更新卷积核权值。
Description
技术领域
本发明属于信号识别技术领域,涉及基于深度学习的辐射源个体识别领域,特别是涉及一种基于度量学习的辐射源开集个体识别方法。
背景技术
随着通信技术的飞速发展,通信体制和调制样式更加复杂多样,通信电台的配置数量不断增加,常规的采用的信号特征,如载波频率、调制样式和调制参数等在复杂多变的信号环境下,已经难以满足现代的需求。因此,在信号识别技术领域,出现了辐射源指纹识别的方法通过对接收信号进行特征测量,确定产生信号的辐射源个体。由于信号发射端I路、Q路信号调制的不平衡以及元器件安装、调试等方面的细微不同,导致了相同型号辐射源发射的信号内在特征的不同(即“指纹”),通过分析不同辐射源指纹可以识别特定辐射源。辐射源个体识别(specificemitteridentification,SEI)是通过提取接收信号表现出的某个或者多个指纹特征对目标个体进行识别,又称辐射源指纹识别或者特定辐射源识别。辐射源个体识别是利用观测信号的指纹特征,识别出发射该信号的特定辐射源个体的技术。辐射源指纹特征具备普遍性、可测性、稳定性、唯一性等特点,从信号提取的这些特征可以反应出辐射源设备的差异,从而识别出发射信号的辐射源个体。其传统思路是:从时域、频域、调制域、变换域等不同的“视角”来观察指纹,根据指纹在不同“视角”表现出的不同特点,再运用一些有效的数学工具来提取指纹。随着深度学习技术的兴起,利用神经网络提取辐射源指纹特征进而完成辐射源个体识别任务成为近年来的主流研究趋势。
辐射源开集个体识别技术是在实际开集个体条件下实现辐射源个体识别的关键技术。同型号的辐射源个体指纹特征的提取以及未知类信号的筛分技术是其中的两项关键技术,也是有待解决的重要难点。目前在辐射源个体指纹特征提取方面,一般从辐射源暂态过程出发提取特征,但暂态信号持续时间过短,与噪声相似度高,给非协作条件下的信号获取和识别带来很大难度。而稳态信号持续时间长,信号截获和监控较为容易,因此从稳态信号中提取所需特征具有更加实际和广泛的应用价值。但是从稳态信号中,尤其是调制信号中提取发射机硬件的指纹特征并非易事。未知的调制信息往往会掩盖指纹信息,外界环境(如信道的恶劣噪声、多径衰落等)则可能使指纹信息产生畸变,这进一步增大了个体特征提取的难度。
在未知类信号的筛分技术方面,目前国内外没有将开集识别问题引入到辐射源个体识别任务中的先例。但在辐射源个体识别任务的真实使用场景中,无法保证查询信号样本均来自已知类别辐射源个体,而以往的识别技术没有考虑未查询样本对分类结果的干扰,不具有真实使用场景的泛化能力。因此本发明首先将开集识别条件作为辐射源个体识别任务的基础条件,提出可以妥善解决辐射源个体识别任务中的开集问题。
辐射源特征提取方法种类众多,不同辐射源系统之间的个体非线性差异,是信号指纹特征产生的根源,提取细微的辐射源个体差异特征非常困难。不同频率源输出的频率跟标准的频率都是有一定程度的差距,或者高或者低,不尽相同。此外由于不同辐射源信号的脉冲幅值不同,即使相同的辐射源信号其幅值也会产生不同程度的失真。按照提取技术特点将其分为两类,分别是传统特征方法和深度特征方法,其中,传统特征方法又分为单一特征方法和组合特征方法。传统特征方法一般是将特征提取和分类器设计分别进行,从而识别辐射源个体。在现有技术公开的文献中提出了一种利用短时傅里叶变换(STFT)提取出信号的时间-频率分布情况作为指纹特征识别的方法,该方法对于线性调频信号等非平稳信号的处理较为适用,但对于复杂不规则信号的处理效果较差。为此有文献提出利用经验模态分解(empiricalmodedecomposition,EMD)的个体识别方法,但该方法存在模态混叠现象的问题。也有文献提出通过提取信号的分形维数、脉冲上升、下降时间、峭度等特征进行个体识别,但是该方法受噪声干扰比较严重。而基于魏格纳-威尔分布(Wigner-Villedistribution,WVD)的个体识别方法,可以同时描述时域和频域中的信号特征,但是却存在交叉干扰项的缺点。公开文献中的希尔伯特-黄变换(Hilbert-Huangtransform,HHT)将EMD与希尔伯特变换结合来提取瞬时频率和瞬时幅度的方法,但是HHT存在端点效应的问题。相关文献从无意调制特征产生的根源出发,对发射机内部噪声和器件建模来进行个体识别,由于无意调制特征是辐射源发射机所有内部器件和链路的综合表现,这种方法只能对局部器件和链路建模,具有很大的局限性。综上所述,基于信号波形提取特征的方法计算量小,但是受噪声影响大;基于变换域的特征提取方法在一定程度上能减少噪声的影响,但低信噪比过的情况下,识别效果不理想。深度特征方法则是分为训练和测试两部分,从训练集中学习到辐射源个体特征,在测试集上进行辐射源个体识别。这两种方法各有其优劣,在不同辐射源信号和场景下均取得过良好的识别效果。传统特征方法采用单一特征方法将信号单一某个域特征或对信号的片面度量方法称为单—特征方法,包括脉冲包络前沿特征匹配、脉冲包络前沿高阶矩特征、基于EMD(EmpiricalModeDecomposition,经验模态分解)方法的杂散特征提取、基于模糊函数特征优化,基于时频谱奇异值和奇异向量等。深度学习提出让计算机自动学习出提取特征的方法,并将特征学习融入到了建立模型的过程中,能够减少人为设计特征造成的不完备性。无监督学习策略使其直接从输入的数据中提取指纹特征,跨越人工设计指纹特征的阶段,能够节省大量科研成本;相比于有限的已知样本,深度学习方法可以很好地利用实际复杂电磁环境中的海量无标签通信辐射源样本,充分训练学习机模型,更好表征通信辐射源个体,有效改善“小样本”问题对指纹特征提取的影响;以逐层贪婪的方式对数据特征压缩,可使最终提取的指纹特征具备较低的维度,在以较低维度特征有效表征通信辐射源个体的同时,还可与传统分类器对接通用,解决通用分类器不能完整利用指纹特征信息的问题。但大部分基于深度学习方法的个体辐射源解决方案,只考虑所有待测对象已知的特殊情况。在现实使用场景中,待测对象的来源不确定性极大,因此辐射源个体识别本质上应该是开集识别问题。对于已知类及未知类信号样本,该任务是指使用已知类信号的个体特征提取技术,提取出反映已知类及未知类信号身份的信息(辐射源指纹),通过比对两类信号提取到的辐射源指纹,从而确定给定信号是否来自已知类别辐射源,针对其中的已知类信号进而确定辐射源个体,其中所有辐射源属同一类型。辐射源开集个体的智能识别技术,从接收信号的时间序列中提取表征特定辐射源个体信息的特征进行分类识别,本质上是一种聚类问题,处理流程是:首先通过射频接收子系统接收信号;然后经过信号处理环节,对接收到的信号时间序列进行滤波去噪、脉冲检测等多种预处理,并根据实际需求进行信号解调;再进行指纹特征地提取,获取包含辐射源个体信息的精细特征;再将所得到的特征数据转化为特殊编码数据,利用获得的编码数据判断所接收的信号是否为已知类,并对其中的已知类信号做聚类识别。辐射源开集个体的智能识别技术同时实现了对类别未知辐射源个体发送信号的筛分以及对类别已知辐射源个体发送信号的分类。目前,国内外没有相关文献针对辐射源个体识别中的开集识别问题作为专门研究方向,这也给该技术的真实场景落地造成极大阻碍。
发明内容
本发明针对传统的辐射源个体识别方法在低信噪比环境下识别性能不佳的问题,提出一种易于训练、收敛速度快,识别准确率高,能够大大缩短训练时间,在保证准确率的前提下有效减少用于度量学习模型,为个体辐射源识别技术落地提供新的解决方案。
为达到上述目的,本发明采用的技术方案是:一种基于度量学习的辐射源开集个体识别方法,其特征在于,包括如下步骤:
针对辐射源开集个体识别任务建立深层Cluster-SepNet度量学习模型,深层Cluster-SepNet度量学习模型对接收到的辐射源信号做特征编码,基于度量学习判断其是否来自已知类辐射源,首先对于未知信号做筛分,其次对已知信号做分类识别;根据辐射源信号训练集对深层Cluster-SepNet度量学习模型进行3段式监督训练;将辐射源信号测试集数据输入优化后的网络模型验证模型对已知类信号的分类效果;将未知信号输入优化后的网络模型验证模型对未知类信号的筛选效果,进一步建立所述建立深层Cluster-SepNet度量学习模型的残差块及最大池化层,设置跳跃连接的残差块,由残差块及最大池化层分别组成的公共特征提取模块、个体特征提取模块、内容特征提取模块,由全连接层及L2范数归一化层组成的特征表达模块;原始信号输入公共特征提取模块提取其共有特征,并将所得结果分别送入个体特征提取模块与内容特征提取模块;使用若干反卷积层组成信号重构模块,将个体特征提取模块及内容特征提取模块的中间层连接到信号重构模块,利用个体特征提取模块及内容特征提取模块不同维度的特征图重构出输入信号,计算与原始信号均方差损失,将个体特征提取模块输出的特征图输入特征表达模块,利用L2范数归一化算法将其转化为特征编码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离;然后使用均方差损失函数、双边三元组损失函数优化网络模型,利用反向传播,在每一个小批量梯度下降训练时更新卷积核权值。
本发明相比于现有技术具有如下有益效果:
易于训练。本发明针对辐射源开集个体识别任务建立融合了深层网络极强的特征编码能力以及重构能力的深层Cluster-SepNet度量学习模型。深层Cluster-SepNet度量学习模型对接收到的辐射源信号做特征编码,基于度量学习判断其是否来自已知类辐射源,并对未知信号做筛分。深层Cluster-SepNet度量学习模型充分利用各个模块各层的特征图的交互信息提取信号的指纹特征,并非一味的加深、拓宽网络。加上具有残差的跳跃连接结构,使得整体网络不仅结构设计思路符合辐射源开集个体识别的基本原理,还在显著提高辐射源个体识别性能的同时享有感知器算法的高效性,进一步消除了模糊函数特征的冗余性。可以解决在大规模或高维实际数据中不可避免的野值点问题,而且对接收序列样本的在线机制表现出很好的适应性,还易于训练、收敛速度较快。提取的特征能够反映辐射源个体的细微差异。与原始特征集相比,大大降低了特征向量的维数,简化了分类器的设计。
收敛速度较快。本发明针对传统依赖于人工经验提取辐射源个体特征的不足,以辐射源类别监督模型训练。通过卷积神经网络自动提取辐射源包络个体特征,根据辐射源信号训练集对深层Cluster-SepNet度量学习模型进行3段式监督训练;将辐射源信号测试集数据输入优化后的网络模型验证模型对已知类信号的分类效果;将未知信号输入优化后的网络模型验证模型对未知类信号的筛选,双边三元组损失更易收敛,优化能力更强,利用一定数量的样本进行特征提取和特征选择,选取的特征不仅能够体现辐射源个体之间的细微差异,挑选出最具分类意义的特征向量,然用根据这个特征向量对未知的样本进行分类,完成辐射源个体识别任务,收敛速度较快,而且受时间和外部环境的变换影响较小,具有较好的稳定性。
能够大大缩短训练时间。本发明针对单器件非线性参数特征不足以精细建模辐射源的个体差异设置跳跃连接的残差块。由残差块及最大池化层分别组成的公共特征提取模块、个体特征提取模块、内容特征提取模块,由全连接层及L2范数归一化层组成的特征表达模块,用极差对样本的特征信息进行归一化,避免各个特征参数的测量值相差悬殊,使特征参数集能够客观地反映样本之间的可分离程度;原始信号输入公共特征提取模块提取其共有特征,并将所得结果分别送入个体特征提取模块与内容特征提取模块;使用若干反卷积层组成信号重构模块,将个体特征提取模块及内容特征提取模块的中间层连接到信号重构模块,利用个体特征提取模块及内容特征提取模块不同维度的特征图重构出输入信号,与原始信号计算均方差损失。不仅能有效对信号做特征编码,还利用双边三元组损失加大特征编码的类间距离、减小类内距离。弥补了以往度量学习损失难收敛的关键问题。
本发明针对各种方法的优缺点、依赖的数据集、辐射源数量、算法性能等,总结辐射源特征提取方法的技术关键点和难点,利用个体特征提取模块及内容特征提取模块不同维度的特征图重构出输入信号,计算与原始信号均方差损失,将个体特征提取模块输出的特征图输入特征表达模块,兼顾了样本数据特征的充分挖掘、全局类间分离性和类内聚集性,提取的个体特征更适合于辐射源个体识别,而且具有更高未知查询信号样本拒绝率、已知样本分类准确率。基于深度学习的深层Cluster-SepNet度量学习模型在辐射源有效个体特征的提取上相比其它算法具有明显优势。提取的个体特征更适合于辐射源个体识别。并且在保证准确率的前提下有效减少用于度量学习模型的参数。
识别准确率高。本发明通过深层Cluster-SepNet度量学习模型利用L2范数归一化算法将其转化为特征编码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离;然后使用均方差损失函数、双边三元组损失函数优化网络模型,利用反向传播,在每一个小批量梯度下降训练时更新卷积核参数。通过最大化辐射源个体特征与类别的信息熵并最小化特征重构误差熵使得提取的降维特征能充分反映辐射源个体差异,避免了所提个体特征不适合于指定的分类器而导致分类识别率下降。在保证对已知类辐射源信号的分类效果、未知类信号筛分效果的前提下,有效减少Cluster-SepNet度量学习模型的参数量,明显优化模型训练时间及收敛速度,大大提高辐射源开集个体的识别准确率。
附图说明
图1为本发明基于度量学习的辐射源开集个体识别流程示意图;
图2是双边三元组损失原理图;
图3是图1深层Cluster-SepNet度量学习模型的结构示意图。
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图对本发明作进一步阐述。
具体实施方式
参阅图1、图2。根据本发明,针对辐射源开集个体识别任务建立深层Cluster-SepNet度量学习模型,深层Cluster-SepNet度量学习模型对接收到的辐射源信号做特征编码,基于度量学习判断其是否来自已知类辐射源,首先对于未知信号做筛分,其次对已知信号做分类识别;根据辐射源信号训练集对深层Cluster-SepNet度量学习模型进行3段式监督训练;将辐射源信号测试集数据输入优化后的网络模型验证模型对已知类信号的分类效果;将未知信号输入优化后的网络模型验证模型对未知类信号的筛选效果,进一步建立所述建立深层Cluster-SepNet度量学习模型的残差块及最大池化层,设置跳跃连接的残差块,由残差块及最大池化层分别组成的公共特征提取模块、个体特征提取模块、内容特征提取模块,由全连接层及L2范数归一化层组成的特征表达模块;原始信号输入公共特征提取模块提取其共有特征,并将所得结果分别送入个体特征提取模块与内容特征提取模块;使用若干反卷积层组成信号重构模块,将个体特征提取模块及内容特征提取模块的中间层连接到信号重构模块,利用个体特征提取模块及内容特征提取模块不同维度的特征图重构出输入信号,计算与原始信号均方差损失,将个体特征提取模块输出的特征图输入特征表达模块,利用L2范数归一化算法将其转化为特征编码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离;然后使用均方差损失函数、双边三元组损失函数优化网络模型,利用反向传播,在每一个小批量梯度下降训练时更新卷积核权值。
所述残差块包括四个卷积层,每个卷积层的输出特征图通过跳跃连接到该残差块的最终输出。因此第lth层的输出信号xl=H([xl-1,xl-2,...,x0]),(1)
其中,xl为第lth层的输出,H为映射函数,则使得每一个浅层都与深层直接关联。
特征表达模块根据L2范数归一化对向量X的每个维度数据x1,x2,…,xn除以||x||2得到一个新向量:
经过L2范数归一化后,一个向量X经过L2范数归一化得到向量X2,同时另一个向量Y经过L2范数归一化得到向量Y2,此时X2和Y2的欧式距离和余弦相似度是等价的。即一组向量的欧式距离和它们的余弦相似度可以等价。
由于经过L2范数归一化后的特征编码在理论上欧式距离和余弦相似度是等价的,并且结合数据信号的特点选择欧式距离作为评价特征编码相似度的计算方式,设向量X=(x1,x2,…,xn),向量Y=(y1,y2,…,yn),X2和Y2的欧式距离为:
X2和Y2的余弦相似度为:
其中T为转置。
双边三元组损失更易收敛,优化能力更强,其原理如图2所示。
如图2所示,双边三元组损失函数由两个三元组组成,样本选取方式如下:第一个三元组从训练数据集中随机选两个样本,称为Anchor1,Anchor2。再随机选取两个和Anchor1同类样本(记为Sample1,Sample2),第二个三元组随机选取两个和Anchor2同类的样本(记为Sample3,Sample4),由此构成双边三元组。
针对双边三元组中的每个样本,训练一个参数共享的网络,得到f(xi Anchor1),f(xi Sample1),f(xi Sample2),f(xi Anchor2),f(xi Sample3),f(xi Sample4)6个样本的特征编码。
双边三元组损失函数的目的是通过学习,让xAnchor和同类别的xSample特征表达之间的欧式距离尽可能小,而xAnchor和不同类别的xSample特征表达之间的欧式距离尽可能大,并且要让xAnchor和不同类别的xSample特征表达之间的欧式距离之间有一个最小的间隔α。
双边三元组损失函数的公式化表示为:
+表示[]内的值大于零的时候,取该值为损失,小于零的时候,损失为零。
进一步的是,所述特征表达模块采用欧式距离,利用双边三元组损失最大化类间距离和最小化类内距离,该距离衡量多维空间中各个点之间的绝对距离,用于度量稠密并且连续数据,欧式距离公式如下:
其中xi为第ith个数据样本,yi为第ith个数据样本,k表示样本总数。
如图3所示,深层Cluster-SepNet度量学习模型包括:顺次串联的第一公共特征提取模块、第一个体特征提取模块、第一内容特征提取模块和第一特征表达模块,串联在第一特征分离模块与第二特征分离模块之间的信号重构模块,第一特征分离模块相连的第二特征表达模块,第二特征分离模块相连的第三特征表达模块,第一特征表达模块、第二特征表达模块和第三特征表达模块分别利用L2范数归一化算法,将特征分离模块输出的特征图转化为双边三元组中的f(xi Sample3)、f(xi Anchor1)和f(xi Sample1)参数共享的网络的训练样本,得到f(xi Sample2)、f(xi Anchor2)和f(xi Sample4)样本的特征编码特征码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离。
第一特征分离模块包括:第二公共特征提取模块输出端相连的第二个体特征提取模块、第二内容特征提取模块,从训练数据集中随机选Anchor、与Anchor1两个样本之间的均方差损失通过第二公共特征提取模块输出到第二个体特征提取模块和第二内容特征提取模块,经第二特征表达模块完成L2范数归一化,得到f(xi Anchor1),
第二特征分离模块包括:第三公共特征提取模块输出端相连的第三个体特征提取模块、第三内容特征提取模块,第三公共特征提取模块通过第三个体特征提取模块将选取Anchor1同类样本Sample1,送入信号重构模块进行信号重构,信号重构模块根据第i个信号样本的真实值yi、模型对第i个信号的预测值yi’和批次信号个数n,计算均方差损失:
通过第三特征表达模块完成L2范数归一化,得到表示特征编码向量的f(xi Sample1)。
进一步的是,利用14类辐射源信号训练集对深层Cluster-SepNet度量学习模型进行三段式监督训练,使用超参α、β分别控制双边三元组损失及均方差损失在总体损失函数中所占比重,利用训练集输入网络进行训练,调整参数,直到总体损失不再下降。
进一步的是,将14类辐射源信号测试集数据输入优化后的网络模型,根据所得到的1024维特征编码,以欧氏距离为标准判断其所属辐射源类别,验证模型根据对已知类信号的分类效果,以此衡量深层Cluster-SepNet度量学习模型对类别已知信号的识别能力。
进一步的是,将3类未知信号输入优化后的网络模型,将个体辐射源信号映射为1024维度的高维特征编码并求得特征编码中心向量;将辐射源信号测试集数据输入优化后的网络模型,通过比较其特征编码与特征编码中心向量的欧氏距离确定待测信号所属辐射源个体,验证模型根据对未知类信号的筛选效果,将未知信号输入优化后的网络模型,比较其特征编码与特征编码中心向量的欧氏距离是否在设定的阈值范围内,判断所得到的特征编码是否在特征编码中心阈值范围内,以此衡量深层Cluster-SepNet度量学习模型对未知信号的筛选能力。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。
Claims (10)
1.一种基于度量学习的辐射源开集个体识别方法,其特征在于,包括如下步骤:
针对辐射源开集个体识别任务建立深层Cluster-SepNet度量学习模型,深层Cluster-SepNet度量学习模型对接收到的辐射源信号做特征编码,基于度量学习判断其是否来自已知类辐射源,首先对于未知信号做筛分,其次对已知信号做分类识别;根据辐射源信号训练集对深层Cluster-SepNet度量学习模型进行3段式监督训练;将辐射源信号测试集数据输入优化后的网络模型验证模型对已知类信号的分类效果;将未知信号输入优化后的网络模型验证模型对未知类信号的筛选效果,进一步建立所述建立深层Cluster-SepNet度量学习模型的残差块及最大池化层,设置跳跃连接的残差块,由残差块及最大池化层分别组成的公共特征提取模块、个体特征提取模块、内容特征提取模块,由全连接层及L2范数归一化层组成的特征表达模块;原始信号输入公共特征提取模块提取其共有特征,并将所得结果分别送入个体特征提取模块与内容特征提取模块;使用若干反卷积层组成信号重构模块,将个体特征提取模块及内容特征提取模块的中间层连接到信号重构模块,利用个体特征提取模块及内容特征提取模块不同维度的特征图重构出输入信号,计算与原始信号均方差损失,将个体特征提取模块输出的特征图输入特征表达模块,利用L2范数归一化算法将其转化为特征编码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离;然后使用均方差损失函数、双边三元组损失函数优化网络模型,利用反向传播,在每一个小批量梯度下降训练时更新卷积核权值。
2.如权利要求1所述的种基于度量学习的辐射源开集个体识别方法,其特征在于:所述残差块包括四个卷积层,每个卷积层的输出特征图通过跳跃连接到该残差块的最终输出,第lth层的输出信号xl=H([xl-1,xl-2,...,x0]), (1)
其中,xl为第lth层的输出,H为映射函数,则使得每一个浅层都与深层直接关联。
5.如权利要求1所述的种基于度量学习的辐射源开集个体识别方法,其特征在于:双边三元组损失函数由两个三元组组成,样本选取方式如下:第一个三元组从训练数据集中随机选Anchor1,Anchor2两个样本,再随机选取两个和Anchor1同类样本Sample1,Sample2,第二个三元组随机选取两个和Anchor2同类的样本Sample3,Sample4),构成双边三元组。
6.如权利要求1所述的种基于度量学习的辐射源开集个体识别方法,其特征在于:针对双边三元组中的每个样本,训练一个参数共享的网络,得到f(xi Anchor1),f(xi Sample1),f(xi Sample2),f(xi Anchor2),f(xi Sample3),f(xi Sample4)6个样本的特征编码。
9.如权利要求1所述的种基于度量学习的辐射源开集个体识别方法,其特征在于:深层Cluster-SepNet度量学习模型包括:顺次串联的第一公共特征提取模块、第一个体特征提取模块、第一内容特征提取模块和第一特征表达模块,串联在第一特征分离模块与第二特征分离模块之间的信号重构模块,第一特征分离模块相连的第二特征表达模块,第二特征分离模块相连的第三特征表达模块,第一特征表达模块、第二特征表达模块和第三特征表达模块分别利用L2范数归一化算法,将L2范数归一化转化为双边三元组中的f(xi Sample3)、f(xi Anchor1)和f(xi Sample1)参数共享的网络的训练样本,得到f(xi Sample2)、f(xi Anchor2)和f(xi Sample4)所属样本的特征码向量,利用双边三元组损失将辐射源信号所属的特征编码向量最大化类间距离,最小化类内距离。
10.如权利要求1所述的种基于度量学习的辐射源开集个体识别方法,其特征在于:第一特征分离模块包括:第二公共特征提取模块输出端相连的第二个体特征提取模块、第二内容特征提取模块,从训练数据集中随机选Anchor、与Anchor1两个样本之间的均方差损失通过第二公共特征提取模块输出到第二个体特征提取模块和第二内容特征提取模块,经第二特征表达模块完成L2范数归一化,得到表示Anchor1特征码向量的f(xi Anchor1);
第二特征分离模块包括:第三公共特征提取模块输出端相连的第三个体特征提取模块、第三内容特征提取模块,第三公共特征提取模块通过第三个体特征提取模块将选取Anchor1同类样本Sample1,送入信号重构模块进行信号重构,信号重构模块根据第i个信号样本的真实值yi、模型对第i个信号的预测值yi’和批次信号个数n,计算均方差损失:
通过第三特征表达模块完成L2范数归一化,得到表示Sample1特征码向量的f(xi Sample1)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011563262.0A CN114692665B (zh) | 2020-12-25 | 2020-12-25 | 基于度量学习的辐射源开集个体识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011563262.0A CN114692665B (zh) | 2020-12-25 | 2020-12-25 | 基于度量学习的辐射源开集个体识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114692665A true CN114692665A (zh) | 2022-07-01 |
CN114692665B CN114692665B (zh) | 2024-05-24 |
Family
ID=82130165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011563262.0A Active CN114692665B (zh) | 2020-12-25 | 2020-12-25 | 基于度量学习的辐射源开集个体识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114692665B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115913850A (zh) * | 2022-11-18 | 2023-04-04 | 中国电子科技集团公司第十研究所 | 一种基于残差网络的开集调制识别方法 |
CN116127298A (zh) * | 2023-02-22 | 2023-05-16 | 北京邮电大学 | 基于三元组损失的小样本射频指纹识别方法 |
CN117271969A (zh) * | 2023-09-28 | 2023-12-22 | 中国人民解放军国防科技大学 | 辐射源个体指纹特征在线学习方法、系统、设备及介质 |
CN117560098A (zh) * | 2024-01-11 | 2024-02-13 | 为准(北京)电子科技有限公司 | 预测射频通信设备的辐射性能参数的方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170100078A1 (en) * | 2015-10-13 | 2017-04-13 | IMPAC Medical Systems, Inc | Pseudo-ct generation from mr data using a feature regression model |
CN110717540A (zh) * | 2019-10-10 | 2020-01-21 | 中国电子科技集团公司第三十八研究所 | 一种对雷达新辐射源个体的识别方法及装置 |
US20200285896A1 (en) * | 2019-03-09 | 2020-09-10 | Tongji University | Method for person re-identification based on deep model with multi-loss fusion training strategy |
CN111914919A (zh) * | 2020-07-24 | 2020-11-10 | 天津大学 | 基于深度学习的开放集辐射源个体识别方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582320B (zh) * | 2020-04-17 | 2022-10-14 | 电子科技大学 | 一种基于半监督学习的动态个体识别方法 |
-
2020
- 2020-12-25 CN CN202011563262.0A patent/CN114692665B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170100078A1 (en) * | 2015-10-13 | 2017-04-13 | IMPAC Medical Systems, Inc | Pseudo-ct generation from mr data using a feature regression model |
US20200285896A1 (en) * | 2019-03-09 | 2020-09-10 | Tongji University | Method for person re-identification based on deep model with multi-loss fusion training strategy |
CN110717540A (zh) * | 2019-10-10 | 2020-01-21 | 中国电子科技集团公司第三十八研究所 | 一种对雷达新辐射源个体的识别方法及装置 |
CN111914919A (zh) * | 2020-07-24 | 2020-11-10 | 天津大学 | 基于深度学习的开放集辐射源个体识别方法 |
Non-Patent Citations (1)
Title |
---|
高欣宇;张文博;姬红兵;欧阳成;: "新型雷达辐射源识别", 中国图象图形学报, no. 06, 16 June 2020 (2020-06-16) * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115913850A (zh) * | 2022-11-18 | 2023-04-04 | 中国电子科技集团公司第十研究所 | 一种基于残差网络的开集调制识别方法 |
CN115913850B (zh) * | 2022-11-18 | 2024-04-05 | 中国电子科技集团公司第十研究所 | 一种基于残差网络的开集调制识别方法 |
CN116127298A (zh) * | 2023-02-22 | 2023-05-16 | 北京邮电大学 | 基于三元组损失的小样本射频指纹识别方法 |
CN116127298B (zh) * | 2023-02-22 | 2024-03-19 | 北京邮电大学 | 基于三元组损失的小样本射频指纹识别方法 |
CN117271969A (zh) * | 2023-09-28 | 2023-12-22 | 中国人民解放军国防科技大学 | 辐射源个体指纹特征在线学习方法、系统、设备及介质 |
CN117560098A (zh) * | 2024-01-11 | 2024-02-13 | 为准(北京)电子科技有限公司 | 预测射频通信设备的辐射性能参数的方法及装置 |
CN117560098B (zh) * | 2024-01-11 | 2024-04-02 | 为准(北京)电子科技有限公司 | 预测射频通信设备的辐射性能参数的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN114692665B (zh) | 2024-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114692665B (zh) | 基于度量学习的辐射源开集个体识别方法 | |
CN108696331B (zh) | 一种基于生成对抗网络的信号重构方法 | |
CN109993280B (zh) | 一种基于深度学习的水下声源定位方法 | |
CN110728360B (zh) | 一种基于bp神经网络的微能源器件能量识别方法 | |
CN114564982B (zh) | 雷达信号调制类型的自动识别方法 | |
CN109450834A (zh) | 基于多特征关联和贝叶斯网络的通信信号分类识别方法 | |
CN112749633B (zh) | 分离与重构的个体辐射源识别方法 | |
Zhang et al. | A cooperative spectrum sensing method based on information geometry and fuzzy c-means clustering algorithm | |
CN112036239B (zh) | 一种基于深度学习网络的雷达信号工作模式识别方法及系统 | |
CN108052863A (zh) | 基于最大方差展开法的电能质量扰动识别方法 | |
Li | A new robust signal recognition approach based on holder cloud features under varying SNR environment | |
CN114881093B (zh) | 一种信号分类识别方法 | |
WO2021088465A1 (zh) | 基于多分布测试数据融合的多层感知器快速调制识别方法 | |
CN112596016A (zh) | 基于多个一维卷积神经网络集成的互感器故障诊断方法 | |
CN115659254A (zh) | 一种双模态特征融合的配电网电能质量扰动分析方法 | |
CN111046896A (zh) | 一种跳频信号电台分选方法 | |
CN114757224A (zh) | 一种基于持续学习和联合特征提取的特定辐射源识别方法 | |
CN111817803A (zh) | 一种基于相关系数和k-均值聚类算法的频谱感知方法、系统及计算机可读存储介质 | |
CN114980122A (zh) | 一种小样本射频指纹智能识别系统与方法 | |
CN114500335A (zh) | 基于模糊c均值和混合核最小二乘支持向量机的sdn网络流程控制方法 | |
CN108108666B (zh) | 一种基于小波分析和时频单源检测的混合矩阵估计方法 | |
CN111859241B (zh) | 一种基于声传递函数学习的非监督声源定向方法 | |
CN116482618B (zh) | 基于多损失特征自校准网络的雷达有源干扰识别方法 | |
CN110365434B (zh) | 基于信息几何和差分进化聚类算法的多天线协作频谱感知方法 | |
Muthukannan et al. | Color image segmentation using k-means clustering and optimal fuzzy C-means clustering |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |