CN113095162B - 一种基于半监督深度学习的频谱感知方法 - Google Patents

Abstract

本发明提供了一种基于半监督深度学习的频谱感知方法，该方法包括以下步骤：S1、通过有标签样本训练半监督集成决策树模型以获得用于区分PU信号和噪声的分类器；S2、将无标签样本输入分类器，并将置信度高于预设值的无标签样本样本标记为伪标签；S3、通过所述的伪标签训练CNN网络以获得频谱感知预测模型。本方法的训练阶段基于半监督分类，只需要少量有标签样本，相比于传统基于完全监督学习的频谱感知算法，本方案能够大大降低对有标签样本的依赖。

Description

一种基于半监督深度学习的频谱感知方法

技术领域

本发明属于无线通信中认知无线电领域，尤其是涉及一种基于半监督深度学习的频谱感知方法。

背景技术

认知无线电(Cognit ive Radio，CR)技术可动态使用频谱空穴，又称为动态频谱接入，是一种自主、动态、高效的频谱使用方式，对于缓解频谱资源匮乏问题具有重要意义。

动态频谱接入首先要解决的问题便是频谱感知。

相比于传统的频谱感知算法，深度学习(deep learning，DL)是一种基于大规模数据的表征学习算法，它可以自动从大量数据寻找特征，同时它具有深层结构，因此有更强的特征提取能力。近来，许多基于DL的频谱感知方法被提出。

虽然基于深度学习的算法已经超越传统频谱感知方法，但是现有基于深度学习的频谱感知方法偏向于监督学习，而完全监督深度学习方法需要大量有标签样本作为支撑，如果可供训练的有标签样本不足，模型往往会出现欠拟合或无法收敛等问题，判别精度也不够理想。而且这些大量有标签的样本在频谱感知的场景中往往是很难获得的，这就使得深度学习方法在频谱感知领域面临由于缺乏标签数据而难以训练出泛化能力较强模型的问题，进而导致无法很好地完成学习任务。

发明内容

本发明的目的是针对上述问题，提供一种基于半监督深度学习的频谱感知方法。

为达到上述目的，本发明采用了下列技术方案：

一种基于半监督深度学习的频谱感知方法，该方法包括以下步骤：

S1、通过有标签样本训练半监督集成决策树模型以获得用于区分PU信号和噪声的分类器；

S2、将无标签样本输入分类器，并将置信度高于预设值的无标签样本样本标记为伪标签；

S3、通过所述的伪标签训练CNN网络以获得频谱感知预测模型。

在上述的基于半监督深度学习的频谱感知方法中，在步骤S1中，通过提取有标签样本的高阶累积量特征、时频特征和信息熵特征训练半监督集成决策树。

在上述的基于半监督深度学习的频谱感知方法中，通过混合矩定义M_pq获取各类高阶累积量：

M_pq＝E[r(n)^p-q(r^*(n))^q] (1)

提取高阶累积量C₄₀，

E(r(n))表示对r(n)求期望，r(n)表示接收机收到的复信号，利用采样点的平均值代替理论期望，且将接收信号r(n)的四阶累积量

作为训练半监督集成决策树的信号特征，高阶累积量/>

的计算方式为：

在上述的基于半监督深度学习的频谱感知方法中，所述的时频特征包括零中心归一化瞬时幅度谱密度最大值γ_max和零中心瞬时相位非线性分量标准偏差β_dp，其中，

零中心归一化瞬时幅度谱密度最大值γ_max用于表征信号瞬时幅度的变换情况；

零中心瞬时相位非线性分量标准偏差β_dp用于区分PU信号和噪声。

在上述的基于半监督深度学习的频谱感知方法中，零中心归一化瞬时幅度谱密度最大值γ_max被定义为：

γ_max＝max|DFT(A_cn(i))|²/N (4)

其中，A_cn(i)为零中心归一化瞬时幅度，由下式计算：

A_cn(i)＝A_n(i)-1 (5)

其中，A_n(i)＝A(i)/m_a，m_a为瞬时幅度的平均值,

零中心瞬时相位非线性分量标准偏差β_dp被定义为：

其中，φ_NL是经过零中心化处理后瞬时相位的非线性分量，t_a

用于判断信号段的一个幅度阈值。

在上述的基于半监督深度学习的频谱感知方法中，所述的信息熵特征包括频谱香农熵特征、奇异谱熵特征和能量谱熵特征。

在上述的基于半监督深度学习的频谱感知方法中，将频谱感知描述为如下二元假设检验问题：

其中，r(n)表示接收机收到的复信号，n＝0,1,2…,N-1,x(n)表示经过多径衰落的PU信号，v(n)为服从高斯分布N(0,σ²)的加性高斯白噪声，H₀表示信道当前未被占用，H₁表示信道被占用。

在上述的基于半监督深度学习的频谱感知方法中，对公式(7)进行傅里叶变换：

其中，k＝0,1,2…N-1，R(k)，S(k)和V(k)分别表示接收信号，PU信号和噪声频谱；

然后通过直方图计算信息熵，将接收信号R(k)幅度值按照大小分到L个箱子中，令K_i表示第i个箱子中的数量，有

定义p_i＝K_i/N，表示第i个箱子中的频率，有

香农熵、奇异谱熵、能量谱熵分别定义为：

将p_i＝K_i/N代入得到接收信号的信息熵，并由此构造特征向量

在上述的基于半监督深度学习的频谱感知方法中，在步骤S1之前中先构建半监督集成决策模型：

令X＝{X^L,X^U}表示由有标签样本集X^L和无标签样本集X^U构成的训练集，Y^L＝{y_i|y_i∈[0,1]}对应于X^L的标签，f_i＝f(x_i)∈R^J表示第i个接收信号x_i对应的特征向量，x_i∈X；

在步骤S1中，利用有标签训练集

学习M棵决策树，并使用该M棵决策树的组合预测输出：

在步骤S2中，输入无标签样本集X^U，将其中置信水平高于预设值的样本标记为伪标签；

第M棵决策树h^m(·)定义为：

其中，

为决策树结构，表示将一个样本映射到相应的叶节点索引，C^m＝|h^m(·)|为当前决策树中叶节点的数目，/>

为所有叶节点的响应值向量。

在上述的基于半监督深度学习的频谱感知方法中，为半监督集成决策树模型定义如下代价函数：

其中，

表示信号产生的二进制交叉熵损失，第一项和第二项分别为有标签信号和无标签信号产生的分类损失，μ∈[0,1]是一个平衡系数。

本发明的优点在于：

1、本方法的训练阶段基于半监督分类，只需要少量有标签样本，相比于传统基于完全监督学习的频谱感知算法，本方案能够大大降低对有标签样本的依赖；

2、建立半监督集成决策树学习的正则化分类模型，设计了损失函数，提高分类泛化性能；

3、选择高阶累积量、信息熵和时频分量作为特征区分PU信号和噪声，具备良好的区分能力；

4、能够充分利用少量有标签样本和大量无标签样本。

附图说明

图1为本发明的方法流程图；

图2为本发明的正则化分类模型图。

具体实施方式

下面结合附图和具体实施方式对本发明做进一步详细的说明。

如图1所示，本方案提出一种基于半监督深度学习的频谱感知方法，首先提取有限标签样本的高阶累积量特征、时频特征和信息熵特征训练半监督集成决策树模型，得到一个分类器，然后将无标签样本输入分类器，并将置信度高的无标签样本标记为伪标签样本，最后将这些归一化功率的样本的IQ双路数据直接输入到CNN网络中训练学习得到最终频谱感知预测模型，这里将置信度大于95％的样本视为置信度高的样本。具体实现方式如下：

(一)一般情况下，基于频谱感知的研究可以描述为如下二元假设检验问题：

其中，r(n)表示接收机收到的复信号，n＝0,1,2…,N-1,x(n)表示经过多径衰落的PU信号，v(n)为服从高斯分布N(0,σ²)的加性高斯白噪声(additional white gaussiannoise，AWGN)，H₀表示信道当前未被占用，H₁表示信道被占用。

(二)提取特征信号

1、提取高阶累积量特征C₄₀特征

由混合矩定义M_pq＝E[r(n)^p-q(r^*(n))^q]可以得到各类高阶累积量，本方案选择C40作为特征，其中，

E(r(n))表示对r(n)求期望，r(n)表示接收机收到的复信号，本实施例是从有限长的接收信号中估计信号的累积量，故利用采样点的平均值代替理论的期望，假设接收信号r(n),n＝1,2,…,N,则在实际情况下，接收信号的四阶累积量计算公式如下：

/>

2、提取信号零中心归一化瞬时幅度谱密度最大值γ_max，零中心归一化瞬时幅度谱的最大值γ_max表征了信号瞬时幅度的变换情况，其定义如下：

γ_max＝max|DFT(A_cn(i))|²/N (4)

其中A_cn(i)为零中心归一化瞬时幅度，由下式计算：

A_cn(i)＝A_n(i)-1 (5)

其中，A_n(i)＝A(i)/m_a，而

为瞬时幅度的平均值。

3、提取信号零中心瞬时相位非线性分量标准偏差β_dp，β_dp对噪声不敏感，因此β_dp可以有效区分PU信号和噪声，定义如下：

其中φ_NL是经过零中心化处理后瞬时相位的非线性分量，t_a是判断信号段的一个幅度阈值。

4、提取信号信息熵特征，包括频谱香农熵特征、奇异谱熵特征和能量谱熵特征。

对公式(1)进行傅里叶变换，得到：

其中，k＝0,1,2…N-1，R(k)，S(k)和V(k)分别表示接收信号，PU信号和噪声频谱；

利用直方图计算信息熵，即将接收信号R(k)幅度值按照大小分到L个箱子中，令K_i表示第i个箱子中的数量，有

定义p_i＝K_i/N，表示第i个箱子中的频率，有

香农熵、奇异谱熵、能量谱熵分别定义为：

将p_i＝K_i/N代入即可得到接收信号的信息熵，构造出了检验统计量，这些统计量能在某种程度上将PU信号存在与否两种状态分别开来，便可以由此构造出特征向量

(三)构建并训练半监督集成决策模型

令X＝{X^L,X^U}表示由有标签样本集X^L和无标签样本集合X^U构成的训练集，Y^L＝{y_i|y_i∈[0,1]}对应于X^L的标签，f_i＝f(x_i)∈R^J表示第i个接收信号x对应的特征向量，x∈X，首先利用有标签训练集i i

学习M棵决策树(见图2)，并使用这M棵决策树的组合来预测输出：

然后输入X^U，并将其中置信水平高的样本打上伪标签，其中，第m棵决策树h^m(·)定义为：

其中，

为决策树结构，表示将一个样本映射到相应的叶节点索引，C^m＝|h^m(·)|为当前决策树中叶节点的数目，/>

为所有叶节点的响应值向量。这样，每颗决策树对应一个独立的结构和一组叶节点响应值，那么给定一个输入样本，就可以利用不同决策树的结构将其划分到叶节点中，然后对相应叶节点的响应值进行累加求和和剪枝优化来计算最终输出。

优选地，为了提高决策树的分类泛化性能，本实施例为半监督集成决策树模型定义如下代价函数：

其中，

表示信号产生的二进制交叉熵损失，第一项和第二项分别为有标签信号和无标签信号产生的分类损失，定义为：

μ∈[0,1]是一个平衡系数，用以减少无标记数据对模型的影响，其值大小影响模型的收敛效果。最小化

有利于训练一个既有预测能力又相对简单的决策树。

(四)训练CNN网络模型

利用有标签样本和伪标签样本共同训练CNN网络，或直接利用伪标签样本训练CNN网络。为了提高感知准确度，这里使用如下检测准则：

h_θ ⁰表示样本属于H₀的概率，γ∈[0,1]，可以根据P_f设定。

具体地，本实施例使用的的CNN网络模型参数如下表，其中conv表示卷积层，maxpool和avgpool分表表示最大池化和平均池化，fc表示全连接层。

表1 CNN网络参数

Index	Layer	PatchSize/depth
			1	input	1x1024x2
2	conv	1x8x2/16
			3	maxpool	1x2
4	conv	1x8x16/24
			5	maxpool	1x2
6	conv	1x8x24/32
			7	maxpool	1x2
8	conv	1x8x32/48
			9	maxpool	1x2
10	conv	1x8x48/64
			11	maxpool	1x2
12	conv	1x8x64/96
			13	avgpool	1x32
14	fc,softmax	1x2

具体训练集可以为：PU信号采用AM、BFSK、QPSK、16QAM四种调制类型，载波频率为902MHz，经过3条平均路径增益为[0 -2-10]dB的莱斯多径衰落，采样长度为1024点长。噪声为加性高斯白噪声。训练集对信噪比从-20dB到20dB、间隔为2dB的每一信噪比不同调制信号均生成100个有标和1000个无标签标记的训练样本，且正负样本数量相同，共计8400个有标签样本和84000个无标签样本，另外每个信噪比下生成400个样本作为测试集。利用训练集和测试集训练步骤4设计的CNN网络，待训练结束输出频谱感知预测模型。

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

尽管本文较多地使用了半监督集成决策树模型、有标签样本、无标签样本、高阶累积量特征、时频特征和信息熵特征等术语，但并不排除使用其它术语的可能性。使用这些术语仅仅是为了更方便地描述和解释本发明的本质；把它们解释成任何一种附加的限制都是与本发明精神相违背的。

Claims (6)

1.一种基于半监督深度学习的频谱感知方法，其特征在于,该方法包括以下步骤：

S1、通过有标签样本训练半监督集成决策树模型以获得用于区分PU信号和噪声的分类器；

S2、将无标签样本输入分类器，并将置信度高于预设值的无标签样本标记为伪标签；

S3、通过所述的伪标签训练CNN网络以获得频谱感知预测模型；

在步骤S1之前先构建半监督集成决策模型：

令X＝{X^L,X^U}表示由有标签样本集X^L和无标签样本集X^U构成的训练集，Y^L＝{y_i|y_i∈[0,1]}对应于X^L的标签，f_i＝f(x_i)∈R^J表示第i个接收信号x_t对应的特征向量，x_t∈X；

在步骤S1中，通过提取有标签样本的高阶累积量特征、时频特征和信息熵特征训练半监督集成决策树；

通过混合矩定义M_pq获取各类高阶累积量：

M_pq＝E[r(n)^p-q(r^*(n))^q] (1)

提取高阶累积量C₄₀，

E(r(n))表示对r(n)求期望，r(n)表示接收机收到的复信号，利用采样点的平均值代替理论期望，且将接收信号r(n)的四阶累积量

作为训练半监督集成决策树的信号特征，高阶累积量/>

的计算方式为：

所述的时频特征包括零中心归一化瞬时幅度谱密度最大值γ_max和零中心瞬时相位非线性分量标准偏差β_dp，其中，

零中心归一化瞬时幅度谱密度最大值γ_max用于表征信号瞬时幅度的变换情况；

零中心瞬时相位非线性分量标准偏差β_dp用于区分PU信号和噪声；

所述的信息熵特征包括频谱香农熵特征、奇异谱熵特征和能量谱熵特征。

2.根据权利要求1所述的基于半监督深度学习的频谱感知方法，其特征在于，零中心归一化瞬时幅度谱密度最大值γ_max被定义为：

γ_max＝max|DFT(A_cn(i))|²/N (4)

其中，A_cn(i)为零中心归一化瞬时幅度，由下式计算：

A_cn(i)＝A_n(i)-1 (5)

其中，A_n(i)＝A(i)/m_a，m_a为瞬时幅度的平均值,

零中心瞬时相位非线性分量标准偏差β_dp被定义为：

其中，φ_NL是经过零中心化处理后瞬时相位的非线性分量，t_a用于判断信号段的一个幅度阈值。

3.根据权利要求2所述的基于半监督深度学习的频谱感知方法，其特征在于，将频谱感知描述为如下二元假设检验问题：

其中，r(n)表示接收机收到的复信号，n＝0,1,2…,N-1,x(n)表示经过多径衰落的PU信号，v(n)为服从高斯分布N(0,σ²)的加性高斯白噪声，H₀表示信道当前未被占用，H₁表示信道被占用。

4.根据权利要求3所述的基于半监督深度学习的频谱感知方法，其特征在于，对公式(7)进行傅里叶变换：

其中，k＝0,1,2…N-1，R(k)，S(k)和V(k)分别表示接收信号，PU信号和噪声频谱；

然后通过直方图计算信息熵，将接收信号R(k)幅度值按照大小分到L个箱子中，令K_i表示第i个箱子中的数量，有

定义p_i＝K_i/N，表示第i个箱子中的频率，有

香农熵、奇异谱熵、能量谱熵分别被定义为：

将p_i＝K_i/N代入得到接收信号的信息熵，并由此构造特征向量

5.根据权利要求4所述的基于半监督深度学习的频谱感知方法，其特征在于，在步骤S1中，利用有标签训练集

学习M棵决策树，并使用该M棵决策树的组合预测输出：

在步骤S2中，输入无标签样本集X^U，将其中置信水平高于预设值的样本标记为伪标签；

第M棵决策树h^m(·)定义为：

其中，

为决策树结构，表示将一个样本映射到相应的叶节点索引，C^m＝|h^m(·)|为当前决策树中叶节点的数目，/>

为所有叶节点的响应值向量。

6.根据权利要求5所述的基于半监督深度学习的频谱感知方法，其特征在于，为半监督集成决策树模型定义如下代价函数：

其中，

表示信号产生的二进制交叉熵损失，第一项和第二项分别为有标签信号和无标签信号产生的分类损失，μ∈[0,1]是一个平衡系数。/>

Images