CN116127298B - 基于三元组损失的小样本射频指纹识别方法 - Google Patents
基于三元组损失的小样本射频指纹识别方法 Download PDFInfo
- Publication number
- CN116127298B CN116127298B CN202310167210.9A CN202310167210A CN116127298B CN 116127298 B CN116127298 B CN 116127298B CN 202310167210 A CN202310167210 A CN 202310167210A CN 116127298 B CN116127298 B CN 116127298B
- Authority
- CN
- China
- Prior art keywords
- sample
- signal
- radio frequency
- frequency fingerprint
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000012549 training Methods 0.000 claims abstract description 52
- 230000009467 reduction Effects 0.000 claims abstract description 47
- 230000006854 communication Effects 0.000 claims abstract description 18
- 238000004891 communication Methods 0.000 claims abstract description 17
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 15
- 238000007781 pre-processing Methods 0.000 claims abstract description 15
- 238000001514 detection method Methods 0.000 claims abstract description 14
- 239000013598 vector Substances 0.000 claims description 50
- 238000010606 normalization Methods 0.000 claims description 27
- 238000012360 testing method Methods 0.000 claims description 23
- 238000005070 sampling Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 17
- 230000006870 function Effects 0.000 claims description 14
- 238000013507 mapping Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 11
- 230000007246 mechanism Effects 0.000 claims description 7
- 108010076504 Protein Sorting Signals Proteins 0.000 claims description 5
- 230000009466 transformation Effects 0.000 claims description 5
- 101000860173 Myxococcus xanthus C-factor Proteins 0.000 claims description 3
- 238000003860 storage Methods 0.000 claims description 3
- 238000009826 distribution Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 238000013136 deep learning model Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000007786 learning performance Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000006735 deficit Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/06—Authentication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/60—Context-dependent security
- H04W12/69—Identity-dependent
- H04W12/79—Radio fingerprint
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Abstract
本发明提出一种基于三元组损失的小样本射频指纹识别方法,包括,通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;对所述信号样本集中的信号样本进行预处理;根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;通过预设的线性分类方法对降维后的射频指纹特征进行分类。通过本发明提出的方法,可以实现小样本场景下射频指纹识别。
Description
技术领域
本发明属于信号处理以及人工智能领域。
背景技术
随着无线通信的飞快发展,针对无线通信的攻击不断增多,无线通信的安全问题变得日益重要。射频指纹来源于通信设备的硬件在制造过程中不可避免的差错,具有唯一性并且会通过对发射信号造成独特的损伤而嵌入到发射信号中。信号的射频指纹作为物理层面的特征很难被模仿,因此可以用于设备的认证识别过程,确保通信过程的安全。射频指纹属于信号的内生属性,同传统的密码学方法相比,具有计算负担小、能耗低等优点。
传统的射频指纹识别方法利用射频领域的专家知识,通过提取手工设计的模式特征进行分类识别。这种方法不但流程复杂,而且提取的特征无法适用于所有类型的信号,无法避免大量的试错尝试。基于深度学习的射频指纹识别方法可以自动发现通信信号中更具分辨性的射频指纹特征,实现更优越的性能并提高开发效率。但是深度学习模型需要大量的带有标签的训练样本才可以确保模型中参数的收敛。而在实际的射频指纹识别应用场景中,收集大量的信号样本并对其进行标注需要耗费较多的时间成本以及人力成本,因此往往只能得到数量受限的标记信号样本,实际的射频指纹识别场景往往属于一个小样本学习的场景。
小样本学习主要包含3种方法,分别是基于优化的方法、基于生成式模型的方法以及基于度量的方法。基于优化的方法,通过已有数据为新任务训练一个良好的初始化参数,当新任务中出现新类别时,可以利用少量的新类别样本使模型的参数快速收敛至性能优秀的解。基于生成式模型的方法,利用GAN等生成式模型学习小样本的数据分布,进行数据增强,扩充样本数量。然而GAN等模型的训练较为困难并且存在生成样本代表性问题。基于度量的方法,其基本思想在于将样本映射到一个特征空间并在其中学习一个良好的特征表示,该特征表示可以用于分类任务中,通过非参数的分类方法实现分类识别任务,避免过拟合现象。本发明提出的方法基于度量学习的思想。虽然利用孪生网络的小样本方法同样基于这一思想,但前者可以将类内相似度与类间相似度进行比较而后者不可,前者可以学习到更优越的特征表示。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的目的在于提出一种基于三元组损失的小样本射频指纹识别方法,用于实现小样本场景下射频指纹识别。
为达上述目的,本发明第一方面实施例提出了一种基于三元组损失的小样本射频指纹识别方法,包括:
通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
对所述信号样本集中的信号样本进行预处理;
根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;
通过预设的线性分类方法对降维后的射频指纹特征进行分类。
另外,根据本发明上述实施例的一种基于三元组损失的小样本射频指纹识别方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集,包括:
使用能量检测算法检测并采集突发信号;
设置滑动窗口的长度为1,滑动窗口的滑动步长为k;控制所述滑动窗口在采集的原始突发信号采样点序列上按照预设的步长不断滑动,并不断将窗口内的采样点数据截取下来,形成一条条长度为1的信号样本,得到形状统一的信号样本集;
设置训练集中每类样本的数量为ntrain,测试集中每类样本的数量为ntest,将信号样本集划分为训练集以及测试集。
进一步地,在本发明的一个实施例中,所述对所述信号样本集中的信号样本进行预处理,包括:
使用希尔伯特变换将信号样本集中的每一条实信号样本转换为复信号样本,使用两路实信号序列分别表示复信号样本的实部与虚部;
按照HWC的维度顺序,改变所述信号样本集中复信号样本的形状以满足嵌入网络的输入要求。
进一步地,在本发明的一个实施例中,所述根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络,包括:
在嵌入网络中使用多尺寸卷积核以及通道注意力机制,按照随机采样的策略从训练集中抽样一组信号样本形成一组三元组triplet;其中嵌入网络的映射用f(.)表示;
经过所述嵌入网络的映射,提取所述三元组triplet中锚样本、正样本以及负样本的特征向量,计算三元组损失triplet loss,通过反向传播更新嵌入网络的相应模型参数;其中,在计算triplet loss的过程中,还包括使用余弦相似度表征triplet中锚样本与正样本的特征向量之间的相似性以及锚样本与负样本的特征向量之间的相似性;
根据如下所示的triplet loss公式计算损失函数值,并进行反向传播,
Losstriplet=max(S(f(A),f(N))-S(f(A),f(P))+m,0)
其中,m表示一个余量,代表锚样本与正样本之间的相似度至少比锚样本与负样本之间的相似度大m,f(.)表示嵌入网络的映射,S(.,.)表示余弦相似度。
进一步地,在本发明的一个实施例中,所述通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维,包括:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对所述特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
进一步地,在本发明的一个实施例中,所述通过预设的线性分类方法对降维后的射频指纹特征进行分类,包括:
计算各类别的原型向量,包括分别计算经过PCA降维以及模值归一化处理后的特征集中每个类别的特征向量均值,得到各类别的原型向量{P1,P2,...,PC};特征集中一共有C类信号,对于第i类信号:
其中,Vi表示特征集中第i类信号的特征子集,ni表示特征子集Vi中元素数量;
分别计算降维后的射频指纹特征向量与各类别的原型向量的余弦相似度;根据最大的余弦相似度所对应的原型向量的类别,确定测试信号样本的类别。
为达上述目的,本发明第二方面实施例提出了一种基于三元组损失的小样本射频指纹识别装置,包括以下模块:
采集模块,用于通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
预处理模块,用于对所述信号样本集中的信号样本进行预处理;
训练模块,用于根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
降维模块,用于通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;
分类模块,用于通过预设的线性分类方法对降维后的射频指纹特征进行分类。
进一步地,在本发明的一个实施例中,所述降维模块,还用于:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对所述特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
为达上述目的,本发明第三方面实施例提出了一种计算机设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如上所述的一种基于三元组损失的小样本射频指纹识别方法。
为达上述目的,本发明第四方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如上所述的一种基于三元组损失的小样本射频指纹识别方法。
本发明实施例提出的基于三元组损失的小样本射频指纹识别方法,该方法基于度量学习的思想,通过三元组triplet中不同类别的样本,实现类内相似度与类间相似度的比较,从而学习到一个良好的特征表示。在这个特征表示中,同类样本具有较高的相似性,不同类样本的相似性较低。从分布的角度,小样本场景对模型性能的影响可以看作是样本的小样本分布与整体分布存在差异造成的。同普通的深度学习模型相比,triplet network学习到的射频指纹特征的类间分布更加发散,类内分布更加集中。特征分布的类间距离相对于类内距离较大,对于射频指纹的小样本分布与整体分布的差异具有较高的鲁棒性,因此具有良好的小样本学习性能。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本发明实施例所提供的一种基于三元组损失的小样本射频指纹识别方法的流程示意图。
图2为本发明实施例所提供的一种基于triplet loss的训练示意图。
图3为本发明实施例所提供的一种神经网络模型示意图。
图4为本发明实施例所提供的分类识别算法框架示意图。
图5为本发明实施例所提供的一种基于三元组损失的小样本射频指纹识别方法的流程图。
图6为本发明实施例所提供的一种基于三元组损失的小样本射频指纹识别装置的流程示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的基于三元组损失的小样本射频指纹识别方法。
图1为本发明实施例所提供的一种基于三元组损失的小样本射频指纹识别方法的流程示意图。
如图1所示,该基于三元组损失的小样本射频指纹识别方法包括以下步骤:
S101:通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
S102:对信号样本集中的信号样本进行预处理;
S103:根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
S104:通过训练好的嵌入网络提取信号样本的射频指纹特征,并对射频指纹特征使用PCA进行降维;
S105:通过预设的线性分类方法对降维后的射频指纹特征进行分类。
进一步地,在本发明的一个实施例中,通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集,包括:
使用能量检测算法检测并采集突发信号;
设置滑动窗口的长度为1,滑动窗口的滑动步长为k;控制滑动窗口在采集的原始突发信号采样点序列上按照预设的步长不断滑动,并不断将窗口内的采样点数据截取下来,形成一条条长度为1的信号样本,得到形状统一的信号样本集;
设置训练集中每类样本的数量为ntrain,测试集中每类样本的数量为ntest,将信号样本集划分为训练集以及测试集。
具体的,本发明选取250Msps采样率下的8台不同的智能手机的蓝牙信号数据子集作为本实例的数据集;使用能量检测算法检测并采集突发信号;使用滑动窗口法处理采集的突发信号。设置滑动窗口的长度为1024,滑动窗口的滑动步长为1024。滑动窗口在采集的原始突发信号采样点序列上按照设置的步长不断滑动1024个采样点,并不断将窗口内的采样点数据截取下来,形成一条条长度为1024的信号样本。各信号突发的长度可能不同,但经过滑动窗口的处理变为形状统一的信号样本集。
设置训练集中每类样本的数量为ntrain∈{10,15,20,30,40,50},测试集中每类信号样本的数量为ntest=100,根据以上参数设置,将信号样本集划分为训练集以及测试集。为了后续的步骤中三元组triplet采样方便,在训练集以及测试集中,使用列表这一数据结构将各个类别的信号样本分开存储,列表中的每个元素表示一类蓝牙信号样本。训练集 表示训练集中的第i类数据,训练集中共包含8类信号样本。测试集/> 表示测试集中的第i类数据,测试集中同样含有8类信号样本。
进一步地,在本发明的一个实施例中,对信号样本集中的信号样本进行预处理,包括:
使用希尔伯特变换将信号样本集中的每一条实信号样本转换为复信号样本,使用两路实信号序列分别表示复信号样本的实部与虚部;
按照HWC的维度顺序,改变信号样本集中复信号样本的形状以满足嵌入网络的输入要求。
具体的,使用希尔伯特变换将训练集与测试集中的每一条实信号样本转换为复信号样本,使用两路实信号序列分别表示复信号样本的实部与虚部,其形状为(2,1024)。经过希尔伯特变换,复信号样本的实部序列与虚部序列之间相位相差π/2,因此与频率以及相位相关的射频指纹特征更容易被神经网络模型提取。
按照HWC的维度顺序,将训练集与测试集中复信号样本的形状变为(2,1024,1)以满足嵌入网络(以卷积神经网络作为嵌入网络)对输入样本的形状要求。由此,在训练集中第i类信号样本成为一个形状为(ntrain,2,1024,1)的数组,其中ntrain∈{10,15,20,30,40,50}表示训练集中第i类信号样本的样本数量。同样,在测试集中第i类信号样本成为一个形状为(100,2,1024,1)的数组。
进一步地,在本发明的一个实施例中,根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络,包括:
在嵌入网络中使用多尺寸卷积核以及通道注意力机制,按照随机采样的策略从训练集中抽样一组信号样本形成一组三元组triplet;其中嵌入网络的映射用f(.)表示;
经过嵌入网络的映射,提取三元组triplet中锚样本、正样本以及负样本的特征向量,计算三元组损失triplet loss,通过反向传播更新嵌入网络的相应模型参数;其中,在计算triplet loss的过程中,还包括使用余弦相似度表征triplet中锚样本与正样本的特征向量之间的相似性以及锚样本与负样本的特征向量之间的相似性;
根据如下所示的triplet loss公式计算损失函数值,并进行反向传播,
Losstriplet=max(S(f(A),f(N))-S(f(A),f(P))+m,0)
其中,m表示一个余量,代表锚样本与正样本之间的相似度至少比锚样本与负样本之间的相似度大m,f(.)表示嵌入网络的映射,S(.,.)表示余弦相似度。
使用训练集,采样triplet,在triplet loss的约束下训练嵌入网络。整个训练过程如图2所示。具体的,在嵌入网络中使用多尺寸卷积核以及通道注意力机制,嵌入网络的映射用f(.)表示,其结构如图3所示。嵌入网络由2个卷积栈以及两层全连接层组成。为了实现多尺寸卷积核,在每个卷积栈中可以使用并行的卷积层。其中并行的各个卷积层分别具有不同尺寸的卷积核,但是并行的各个卷积层具有的卷积核的数量是相同的。本发明的卷积栈采用3种具有不同尺寸卷积核的卷积层,其卷积核尺寸分别为1*7、1*14以及1*28(或者2*7、2*14以及2*28),各卷积层卷积核的数量均为20。各个并行的卷积层的输出在通道维度上进行连接,之后应用通道注意力机制。关于通道注意力机制,其对各通道的特征进行全局池化操作,再通过由两层全连接层构成的压缩激励网络得到各个通道的权重因子。将权重因子与输出的各个通道的特征相乘,得到最终的输出特征。其中,第一层全连接层具有10个神经元;第二层全连接层具有60个神经元,对应并行卷积层输出的60个通道。最后,对经过通道注意力机制处理的输出结果使用卷积核尺寸为1*5(或者2*5)的卷积层进行处理,完成一个卷积栈的操作。
按照随机采样的策略从训练集中抽样一组信号样本形成一组三元组triplet作为mini batch,用于嵌入网络的训练。Mini batch中的每一个triplet都由3条样本组成:锚样本(anchor)、正样本(positive)以及负样本(negative)。其中锚样本是指训练集中的某个信号样本,正样本是指具有与锚样本相同的射频指纹标签的信号样本,负样本是指射频指纹标签与锚样本不同的信号样本。
在每一个triplet三元组的采样过程中,首先从数据集所有的样本类别中随机选择两种不同的类别。其中第一个信号样本类别作为锚样本以及正样本的类别,第二个信号样本类别作为负样本的类别。之后,从锚样本以及正样本的类别所对应的数据子集中随机选取两条信号样本分别作为锚样本以及正样本,从选择的负样本类别所对应的数据子集中随机选取一条信号样本作为负样本,三者共同组成一个triplet三元组。当采样的triplet三元组的数量达到预先设定的mini batch的大小时,返回由采样的所有triplet三元组组成的mini batch。
经过嵌入网络的映射,提取三元组triplet中锚样本、正样本以及负样本的特征向量,计算triplet loss,通过反向传播更新嵌入网络的相应模型参数。在计算triplet loss的过程中,我们使用余弦相似度表征triplet中锚样本与正样本的特征向量之间的相似性以及锚样本与负样本的特征向量之间的相似性。之后根据如下triplet loss公式计算损失函数值,并进行反向传播。
Losstriplet=max(S(f(A),f(N))-S(f(A),f(P))+m,0)
其中,f(A)表示嵌入网络所提取的锚样本的特征向量,f(P)表示嵌入网络所提取的正样本的特征向量,f(N)表示嵌入网络所提取的负样本的特征向量。S(f(A),f(P))表示锚样本特征向量与正样本特征向量之间的余弦相似度,S(f(A),f(N))表示锚样本特征向量与负样本特征向量之间的余弦相似度。m表示一个人为规定的边界余量,用来度量正负样本与锚样本之间的相似度的差异的程度,在本实例中m=0.1。最小化triplet loss的训练目标是锚样本与正样本之间的相似度至少要比锚样本与负样本之间的相似度大m,即S(f(A),f(P))>S(f(A),f(N))+m。
在计算特征向量之间的余弦相似度时,先将特征向量进行模值归一化处理,之后通过乘法实现余弦相似度的计算。之所以选择余弦相似度作为相似性的度量,是因为与欧氏距离相比余弦相似度可以使得训练过程更加稳定。
在进行网络参数优化时,本实例使用Adam优化器,学习率设置为0.0006。
重复上述步骤,直至迭代次数达到预先设置的次数nbatch。
进一步地,在本发明的一个实施例中,通过训练好的嵌入网络提取信号样本的射频指纹特征,并对射频指纹特征使用PCA进行降维,包括:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
具体的,使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到相应特征集F={F1,F2,...,F8},其中Fi表示数据集中第i类信号样本经过嵌入网络的提取所得到的特征子集。
对特征集中的各个特征向量进行模值归一化操作,因为余弦相似度的计算与模值无关。通过模值归一化操作,可以避免无关因素的影响。
对模值归一化后的特征集进行PCA降维操作。嵌入网络输出的特征维度为128,PCA输出维度为DPCA=80。关于PCA降维处理,首先要计算要降维的特征集的协方差矩阵,并对该协方差矩阵进行特征值分解,求得一系列的特征值以及相应的特征向量。之后我们对各个特征值进行排序,选择最大的DPCA个特征值以及相应的特征向量。利用这些特征向量,实现对特征集的降维映射,完成降维处理。由于特征值表示了数据在相应特征向量方向上的方差,选择最大的DPCA个特征值所对应的特征向量对特征集进行降维处理,可以保留最具分辨性的特征,去除了无关因素的影响。
对PCA降维后的特征集进行模值归一化处理。
进一步地,在本发明的一个实施例中,通过预设的线性分类方法对降维后的射频指纹特征进行分类,包括:
计算各类别的原型向量,包括分别计算经过PCA降维以及模值归一化处理后的特征集中每个类别的特征向量均值,得到各类别的原型向量{P1,P2,...,PC};特征集中一共有C类信号,对于第i类信号:
其中,Vi表示特征集中第i类信号的特征子集,ni表示特征子集Vi中元素数量;
分别计算降维后的射频指纹特征向量与各类别的原型向量的余弦相似度;根据最大的余弦相似度所对应的原型向量的类别,确定测试信号样本的类别。
对于测试信号样本,通过嵌入网络得到其特征向量。该特征向量再经过PCA降维以及模值归一化等处理,分别计算与各类别的原型向量的余弦相似度。根据最大的余弦相似度所对应的原型向量的类别,确定测试信号样本的类别。整个分类流程如图4所示。
以上为完整的基于三元组损失的小样本射频指纹识别方法流程,图5为本发明的技术路线示意图。
本发明实施例提出的基于三元组损失的小样本射频指纹识别方法,该方法基于度量学习的思想,通过三元组triplet中不同类别的样本,实现类内相似度与类间相似度的比较,从而学习到一个良好的特征表示。在这个特征表示中,同类样本具有较高的相似性,不同类样本的相似性较低。从分布的角度,小样本场景对模型性能的影响可以看作是样本的小样本分布与整体分布存在差异造成的。同普通的深度学习模型相比,triplet network学习到的射频指纹特征的类间分布更加发散,类内分布更加集中。特征分布的类间距离相对于类内距离较大,对于射频指纹的小样本分布与整体分布的差异具有较高的鲁棒性,因此具有良好的小样本学习性能。同现有技术相比,本发明具有以下优点:
1)首次将triplet训练方式用于小样本场景的射频指纹识别问题。将两个来自同一台设备的信号样本与来自另一台设备的信号样本共同组成一个triplet三元组提取射频指纹特征,对嵌入网络进行训练。在特征空间中,来自同一台通信设备的信号样本的特征彼此接近,来自不同台通信设备的信号样本的特征彼此远离。
2)设计了一种基于原型向量以及余弦相似度的线性分类方法。该方法是一种非参数化的分类方法,分类过程不涉及任何需要训练的参数,可以在分类过程中最大程度地避免过拟合现象。
为了实现上述实施例,本发明还提出基于三元组损失的小样本射频指纹识别装置。
图6为本发明实施例提供的一种基于三元组损失的小样本射频指纹识别装置的结构示意图。
如图6所示,该基于三元组损失的小样本射频指纹识别装置包括:采集模块100,预处理模块200,训练模块300,降维模块400,分类模块500,其中,
采集模块,用于通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
预处理模块,用于对所述信号样本集中的信号样本进行预处理;
训练模块,用于根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
降维模块,用于通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;
分类模块,用于通过预设的线性分类方法对降维后的射频指纹特征进行分类。
进一步地,在本发明的一个实施例中,所述降维模块,还用于:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对所述特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
为达上述目的,本发明第三方面实施例提出了一种计算机设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如上所述的基于三元组损失的小样本射频指纹识别方法。
为达上述目的,本发明第四方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如上所述的基于三元组损失的小样本射频指纹识别方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (9)
1.一种基于三元组损失的小样本射频指纹识别方法,其特征在于,包括以下步骤:
通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
对所述信号样本集中的信号样本进行预处理;
根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;
通过预设的线性分类方法对降维后的射频指纹特征进行分类;
其中,所述对所述信号样本集中的信号样本进行预处理,包括:
使用希尔伯特变换将信号样本集中的每一条实信号样本转换为复信号样本,使用两路实信号序列分别表示复信号样本的实部与虚部;
按照HWC的维度顺序,改变所述信号样本集中复信号样本的形状以满足嵌入网络的输入要求。
2.根据权利要求1所述的方法,其特征在于,所述通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集,包括:
使用能量检测算法检测并采集突发信号;
设置滑动窗口的长度为l,滑动窗口的滑动步长为k;控制所述滑动窗口在采集的原始突发信号采样点序列上按照预设的步长不断滑动,并不断将窗口内的采样点数据截取下来,形成一条条长度为l的信号样本,得到形状统一的信号样本集;
设置训练集中每类样本的数量为ntrain,测试集中每类样本的数量为ntest,将信号样本集划分为训练集以及测试集。
3.根据权利要求1所述的方法,其特征在于,所述根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络,包括:
在嵌入网络中使用多尺寸卷积核以及通道注意力机制,按照随机采样的策略从训练集中抽样一组信号样本形成一组三元组triplet;其中嵌入网络的映射用f(.)表示;
经过所述嵌入网络的映射,提取所述三元组triplet中锚样本、正样本以及负样本的特征向量,计算三元组损失triplet loss,通过反向传播更新嵌入网络的相应模型参数;其中,在计算triplet loss的过程中,还包括使用余弦相似度表征triplet中锚样本与正样本的特征向量之间的相似性以及锚样本与负样本的特征向量之间的相似性;
根据如下所示的triplet loss公式计算损失函数值,并进行反向传播,
Losstriplet=max(S(f(A),f(N))-S(f(A),f(P))+m,0)
其中,m表示一个余量,代表锚样本与正样本之间的相似度至少比锚样本与负样本之间的相似度大m,f(.)表示嵌入网络的映射,S(.,.)表示余弦相似度。
4.根据权利要求1所述的方法,其特征在于,所述通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维,包括:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对所述特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
5.根据权利要求1所述的方法,其特征在于,所述通过预设的线性分类方法对降维后的射频指纹特征进行分类,包括:
计算各类别的原型向量,包括分别计算经过PCA降维以及模值归一化处理后的特征集中每个类别的特征向量均值,得到各类别的原型向量{P1,P2,...,PC};特征集中一共有C类信号,对于第i类信号:
其中,Vi表示特征集中第i类信号的特征子集,ni表示特征子集Vi中元素数量;
分别计算降维后的射频指纹特征向量与各类别的原型向量的余弦相似度;根据最大的余弦相似度所对应的原型向量的类别,确定测试信号样本的类别。
6.一种基于三元组损失的小样本射频指纹识别装置,其特征在于,包括以下模块:
采集模块,用于通过能量检测算法检测突发信号并采集,将采集到的通信信号转换为形状统一的信号样本集;
预处理模块,用于对所述信号样本集中的信号样本进行预处理;
训练模块,用于根据预处理后的信号样本集在三元组损失函数的约束下训练嵌入网络;
降维模块,用于通过训练好的嵌入网络提取信号样本的射频指纹特征,并对所述射频指纹特征使用PCA进行降维;
分类模块,用于通过预设的线性分类方法对降维后的射频指纹特征进行分类;
其中,所述预处理模块,还用于:
使用希尔伯特变换将信号样本集中的每一条实信号样本转换为复信号样本,使用两路实信号序列分别表示复信号样本的实部与虚部;
按照HWC的维度顺序,改变所述信号样本集中复信号样本的形状以满足嵌入网络的输入要求。
7.根据权利要求6所述的装置,其特征在于,所述降维模块,还用于:
使用嵌入网络对训练集中的信号样本,进行射频指纹特征提取,得到特征集;
对所述特征集中的各个特征向量进行模值归一化操作;
对模值归一化后的特征集进行PCA降维操作;
对PCA降维后的特征集进行模值归一化处理。
8.一种计算机设备,其特征在于,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-5中任一所述的基于三元组损失的小样本射频指纹识别方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-5任意一项所述的基于三元组损失的小样本射频指纹识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310167210.9A CN116127298B (zh) | 2023-02-22 | 2023-02-22 | 基于三元组损失的小样本射频指纹识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310167210.9A CN116127298B (zh) | 2023-02-22 | 2023-02-22 | 基于三元组损失的小样本射频指纹识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116127298A CN116127298A (zh) | 2023-05-16 |
CN116127298B true CN116127298B (zh) | 2024-03-19 |
Family
ID=86304621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310167210.9A Active CN116127298B (zh) | 2023-02-22 | 2023-02-22 | 基于三元组损失的小样本射频指纹识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116127298B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117312976A (zh) * | 2023-10-12 | 2023-12-29 | 国家电网有限公司华东分部 | 基于小样本学习的物联网设备指纹识别系统和方法 |
CN117496243A (zh) * | 2023-11-06 | 2024-02-02 | 南宁师范大学 | 基于对比学习的小样本分类方法及系统 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108009528A (zh) * | 2017-12-26 | 2018-05-08 | 广州广电运通金融电子股份有限公司 | 基于Triplet Loss的人脸认证方法、装置、计算机设备和存储介质 |
WO2019231105A1 (ko) * | 2018-05-31 | 2019-12-05 | 한국과학기술원 | 트리플릿 기반의 손실함수를 활용한 순서가 있는 분류문제를 위한 딥러닝 모델 학습 방법 및 장치 |
CN111738039A (zh) * | 2019-05-10 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 一种行人重识别方法、终端及存储介质 |
CN112491677A (zh) * | 2020-11-06 | 2021-03-12 | 厦门大学 | 基于物理层特征指纹的can总线识别方法及装置 |
WO2021142532A1 (en) * | 2020-01-14 | 2021-07-22 | Halterix Corporation | Activity recognition with deep embeddings |
CN114218984A (zh) * | 2021-12-07 | 2022-03-22 | 桂林电子科技大学 | 一种基于样本多视图学习的射频指纹识别方法 |
CN114387627A (zh) * | 2022-01-11 | 2022-04-22 | 厦门大学 | 基于深度度量学习的小样本无线设备射频指纹识别方法及装置 |
CN114417914A (zh) * | 2021-12-28 | 2022-04-29 | 东南大学 | 一种基于多通道卷积神经网络的射频指纹提取与识别方法 |
CN114692665A (zh) * | 2020-12-25 | 2022-07-01 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于度量学习的辐射源开集个体识别方法 |
CN114943253A (zh) * | 2022-05-20 | 2022-08-26 | 电子科技大学 | 一种基于元学习模型的射频指纹小样本识别方法 |
CN115270872A (zh) * | 2022-07-26 | 2022-11-01 | 中山大学 | 雷达辐射源个体小样本学习识别方法、系统、装置及介质 |
-
2023
- 2023-02-22 CN CN202310167210.9A patent/CN116127298B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108009528A (zh) * | 2017-12-26 | 2018-05-08 | 广州广电运通金融电子股份有限公司 | 基于Triplet Loss的人脸认证方法、装置、计算机设备和存储介质 |
WO2019231105A1 (ko) * | 2018-05-31 | 2019-12-05 | 한국과학기술원 | 트리플릿 기반의 손실함수를 활용한 순서가 있는 분류문제를 위한 딥러닝 모델 학습 방법 및 장치 |
CN111738039A (zh) * | 2019-05-10 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 一种行人重识别方法、终端及存储介质 |
WO2021142532A1 (en) * | 2020-01-14 | 2021-07-22 | Halterix Corporation | Activity recognition with deep embeddings |
CN112491677A (zh) * | 2020-11-06 | 2021-03-12 | 厦门大学 | 基于物理层特征指纹的can总线识别方法及装置 |
CN114692665A (zh) * | 2020-12-25 | 2022-07-01 | 西南电子技术研究所(中国电子科技集团公司第十研究所) | 基于度量学习的辐射源开集个体识别方法 |
CN114218984A (zh) * | 2021-12-07 | 2022-03-22 | 桂林电子科技大学 | 一种基于样本多视图学习的射频指纹识别方法 |
CN114417914A (zh) * | 2021-12-28 | 2022-04-29 | 东南大学 | 一种基于多通道卷积神经网络的射频指纹提取与识别方法 |
CN114387627A (zh) * | 2022-01-11 | 2022-04-22 | 厦门大学 | 基于深度度量学习的小样本无线设备射频指纹识别方法及装置 |
CN114943253A (zh) * | 2022-05-20 | 2022-08-26 | 电子科技大学 | 一种基于元学习模型的射频指纹小样本识别方法 |
CN115270872A (zh) * | 2022-07-26 | 2022-11-01 | 中山大学 | 雷达辐射源个体小样本学习识别方法、系统、装置及介质 |
Non-Patent Citations (2)
Title |
---|
Radio frequency fingerprint recognition based on deep learning;Chunyang Tang,Tianfeng Yan,Yupeng An;《 2021 International Conference on Intelligent Transportation, Big Data & Smart City (ICITBS)》;全文 * |
深度学习的视觉关系检测方法研究进展;丁文博,许玥;《科技创新导报》;第145-150页 * |
Also Published As
Publication number | Publication date |
---|---|
CN116127298A (zh) | 2023-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116127298B (zh) | 基于三元组损失的小样本射频指纹识别方法 | |
CN107316013B (zh) | 基于nsct变换和dcnn的高光谱图像分类方法 | |
JP6192010B2 (ja) | 重み設定装置および方法 | |
CN110348399B (zh) | 基于原型学习机制和多维残差网络的高光谱智能分类方法 | |
CN105760821A (zh) | 基于核空间的分类聚集稀疏表示的人脸识别方法 | |
CN107085704A (zh) | 基于elm自编码算法的快速人脸表情识别方法 | |
CN110942091B (zh) | 寻找可靠的异常数据中心的半监督少样本图像分类方法 | |
CN111696101A (zh) | 一种基于SE-Inception的轻量级茄科病害识别方法 | |
CN114157539B (zh) | 一种数据知识双驱动的调制智能识别方法 | |
Dong et al. | Finger vein verification based on a personalized best patches map | |
Dong et al. | Feature extraction through contourlet subband clustering for texture classification | |
CN109543637A (zh) | 一种人脸识别方法、装置、设备以及可读存储介质 | |
CN116628605A (zh) | 一种基于ResNet和DSCAttention机制的窃电分类的方法及装置 | |
CN104156628A (zh) | 一种基于多核学习判别分析的舰船辐射信号识别方法 | |
Chen et al. | A convolutional neural network with dynamic correlation pooling | |
CN113343801B (zh) | 基于轻量化卷积神经网络的无线信号自动调制识别方法 | |
CN114980122A (zh) | 一种小样本射频指纹智能识别系统与方法 | |
CN110991326A (zh) | 基于Gabor滤波器和改进极限学习机的步态识别方法及系统 | |
CN112329818B (zh) | 基于图卷积网络嵌入表征的高光谱图像非监督分类方法 | |
Fang et al. | Deep belief network based finger vein recognition using histograms of uniform local binary patterns of curvature gray images | |
CN112508183A (zh) | 用于图像分类的单纯形神经网络的构建方法及装置 | |
CN115481685A (zh) | 一种基于原型网络的辐射源个体开集识别方法 | |
CN115937910A (zh) | 一种基于小样本度量网络的掌纹图像识别方法 | |
CN113379779B (zh) | 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 | |
CN115496933A (zh) | 基于空间-光谱原型特征学习的高光谱分类方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Sun Zhuo Inventor after: Zhang Yucheng Inventor before: Sun Zhuo Inventor before: Zhang Yucheng Inventor before: Fang Mianjia Inventor before: Wang Xiaobo |
|
CB03 | Change of inventor or designer information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |