CN108596204A - 一种基于改进型scdae的半监督调制方式分类模型的方法 - Google Patents

Abstract

本发明属于信息检索及其数据库结构技术领域，公开了一种基于改进型SCDAE的半监督调制方式分类模型的方法，归一化无线信号数据集；初始训练集与测试集；将训练集中未标记样本输入改进型SCDAE，计算各层的网络权值梯度；将训练集中标记样本输入有监督分类模型，计算各层的网络权值梯度；以减小半监督模型损失函数的值为目标，利用梯度下降法调整半监督模型的网络权值；将测试集数据样本输入有监督分类模型，得到调制方式分类准确率。本发明可直接从原始信号中提取有利于调制方式分类的特征，节省了大量的人力成本；能利用大量容易获取的未标记无线信号数据增强模型的泛化性能，提高调制方式分类准确率。

Description

一种基于改进型SCDAE的半监督调制方式分类模型的方法

技术领域

本发明属于信息检索及其数据库结构技术领域，尤其涉及一种基于改进型堆叠卷积降噪自编码器SCDAE的半监督调制方式分类模型的方法。

背景技术

目前，业内常用的现有技术是这样的：无线信号调制方式分类需要从接收到的信号中提取有用信息，而在实际的信道环境中存在大量的噪声干扰，即使知道调制方式的先验信息，该任务也具有挑战性。当调制方式先验信息无法获取时，传统的调制方式分类方法将不可行，因为这些方法依赖于调制方式的专家知识。自动调制分类(AMC)技术分为两类：基于似然(LB)的方法和基于特征(FB)的方法。基于似然(LB)的方法利用似然函数计算接收信号属于某个调制方式的似然比，再将其与预定的决定阈值进行比较。从贝叶斯理论来看，基于似然性(LB)的方法是最优的，因为它最大程度地减少了错误分类的概率。然而，这种方法往往计算复杂度高，而且需要仔细设计和选择信号和噪声模型，在实际应用中难以取得最佳效果。基于特征(FB)的方法需要依据调制方式的特性，使用专家知识设计信号滤波器来提取无线信号数据的特征，并根据提取到的特征判断无线信号属于何种调制方式。LB和FB方法都需要关于调制方式特性的专家知识，并对环境噪声做出具体的假设，这两种方法都需花费大量的人工成本，而且当某种调制方式的特性或者精确模型未知时，调制分类效果往往不好。而且传统方法需要大量的标记数据来训练网络。当标记数据不足时，网络训练会产生过拟合现象，导致网络的泛化性能较弱，调制方式分类准确率也随之下降。在实际情景中，收集未标记的无线信号数据是比较容易的，而获取有标签的无线信号数据则需花费大量的成本。这两种方法都需花费大量的人工成本，因为他们需要具备专业知识的人员手动提取特征和设计模型。LB和FB方法都属于有监督学习，在带调制方式标签的无线信号训练集数据样本充足时，能在无线信号调制方式分类领域取得良好的效果，这是由于训练集数据与测试集数据都来自同一无线信号数据集，两者服从同一分布，有监督学习从训练集中学习到的无线信号数据特征与调制方式标签之间的映射关系同样适用于测试集数据。当训练集中有标签数据很少时，可能学习到了许多这部分数据特有的特征，但这些特征并不存在于测试集数据中，这样一来有监督学习的训练误差会很低，但用测试集数据验证分类效果时分类误差却很高。即有标签数据不足会导致出现过拟合现象，使得泛化性能很差。

综上所述，现有技术存在的问题是：

(1)传统的调制分类方法需人工手动提取无线信号特征，需要花费大量人工成本，提取出来的特征质量稳定性往往不高，使得分类准确率受到影响。

(2)传统的调制分类方法无法利用大量的无标签信号数据来提高分类准确率，对数据资源的极大的浪费。

解决上述技术问题的难度和意义：

调制方式识别需要从原始的无线信号I/O值中提取高质量特征，与一般的数据相比，无线信号数据所蕴含的“信息密度”较大，所以需要更加在意细节特征，而传统的手工提取特征的方法很容易忽略这些细节特征。本发明中提出的改进型SCDAE能从无线信号数据中自动提取提取特征，并使抽象特征与细节特征达到平衡状态。

传统的人工手动提取特征的方法存在人工误差，提取出来的特征质量稳定性往往不高。而基于改进型的SCDAE特征提取方法能通过无监督学习的方式挖掘无线信号数据的隐藏结构，得到能有效代表原始数据的本质特征。

未标记的无线信号数据容易获取，但是未标记的数据由于缺乏标签信息，所以很难被利用。但本发明提出的半监督算法能利用未标记无线信号数据增强模型的泛化性能，提高调制方式分类准确率。

发明内容

针对现有技术存在的问题，本发明提供了一种基于改进型SCDAE的半监督调制方式分类模型的方法。

本发明是这样实现的，一种基于改进型SCDAE的半监督调制方式分类模型的方法，所述基于改进型SCDAE的半监督调制方式分类模型的方法包括：归一化无线信号数据集；初始训练集与测试集；将训练集中未标记样本输入改进型SCDAE，计算各层的网络权值梯度；将训练集中标记样本输入有监督分类模型，计算各层的网络权值梯度；利用梯度下降法调整半监督模型的网络权值；将测试集数据样本输入有监督分类模型，得到调制方式分类准确率。

进一步，所述基于改进型SCDAE的半监督调制方式分类模型的方法包括以下步骤：

步骤一，将一个无线信号数据集中的所有数据归一化到区间[0,1]；

步骤二，从无线信号数据集中构建训练集样本和测试集样本；无线信号数据集标记样本数量为n_l，未标记样本数量为n_u，且n_l:n_u＝1:10。从标记样本中随机选取50％的数据{x_i,y_i}^t作为测试集，其中x_i是标记样本，y_i是标记样本x_i属于何种调制方式的标记，t是测试集样本的个数。剩余的标记样本{x_i,y_i}^b与未标记样本{x_j}^u共同组成训练集，其中x_j是未标记样本，b为训练集中标记样本的个数，u为训练集中未标记样本的个数；

步骤三，将训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分，分别计算每个样本输入改进型SCDAE后编码器与解码器各层的网络权值梯度；

步骤四，将训练集中标记样本{x_i,y_i}^b输入有监督分类模型部分，分别计算每个样本输入有监督分类模型后各层的网络权值梯度；

步骤五，半监督模型的损失函数函数由改进型SCDAE的重构误差函数和有监督模型的分类误差函数构成，利用梯度下降法调整半监督模型的网络权值；网络权值的变化量小于特定的门限值或者达到最大的迭代次数，训练结束，否则执行步骤三；

步骤六，将测试集样本中{x_i}^t输入已训练完成的训练有监督分类模型部分，得到对应的预测值{y_i ^predict}^t，将预测值{y_i ^predict}^t与实际标记值{y_i}^t进行对比，计算得到调制方式分类准确率。

进一步，所述步骤三具体包括：

(1)训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分前需经过高斯噪声的破坏；

(2)从中随机选择与p₂数目相同的特征值，然后将额外经过一个池化区域较大的池化层的降维，编码器第三个卷积层的实际输入为α·p₂+(1-α)·p₄，α为加权和参数；解码器部分的第一个卷积层输出与第三个上池化层输出u₃的维度不一致，先将代表的向量进行补0操作，再通过一个池化区域较大的上池化层，使得u₃与u₄的维度一致；解码器第三个卷积层的实际输入为β·u₃+(1-β)·u₄，β为加权和参数；

(3)编码器网络权值为{W⁽¹⁾,b⁽¹⁾}，解码器网络权值为{W⁽²⁾,b⁽²⁾}，则改进型SCDAE的重构误差函数为其中，x_e为原始输入数据，为经过噪声“破坏”后输入改进型SCDAE的数据，σ为非线性激活函数；改进型SCDAE各层的网络权值梯度依据如下公式进行计算：

(4)b+u个样本的网络梯度都计算完成，则执行步骤四，否则返回执行(2)。

进一步，所述步骤四具体包括：

(1)将训练集标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中有监督分类网络部分；

(2)每个样本x_e都将在有监督分类网络中进行前向传播，从输出层得到调制方式的预测值y_e ^predict；有监督分类网络的分类误差函数为其中x_e的标记y_e为一个m维的向量，m为分类问题的类别数，y_e,k为y_e的一个元素；有监督分类网络的输出层的梯度按和进行计算，其中i为输出层预测值的对应的类别序号。有监督分类网络其他层的网络权值梯度计算方法与步骤3中编码器部分网络权值梯度计算方法相同；

(3)b个样本的网络梯度都计算完成，则执行步骤五，否则返回执行(2)。

进一步，所述步骤五具体包括：

(1)半监督模型的误差函数为：C(W,b)＝C₂(W,b)+κ·C₁(W,b)，半监督模型的训练过程就是以减小误差函数为目标，根据梯度下降法不断更新各层网络权值；改进型SCDAE的解码器部分按照更新网络权值，改进型SCDAE的编码器部分按照更新网络权值，有监督网络的输出层按照更新网络权值；

(2)网络权值的变化量小于特定的门限值或者达到最大的训练迭代次数，则执行步骤六，否则返回执行(1)。

本发明的另一目的在于提供一种应用所述于改进型SCDAE的半监督调制方式分类模型的方法的无线信号调制系统。

综上所述，本发明的优点及积极效果为：本发明不需要依赖专家知识，可直接从原始信号中提取有利于调制方式分类的特征，这些特征包含了等价于原始信号的本质信息，节省了大量的人力成本。而且能利用大量容易获取的未标记无线信号数据增强模型的泛化性能，提高调制方式分类准确率。

附图说明

图1是本发明实施例提供的基于改进型SCDAE的半监督调制方式分类模型的方法流程图。

图2是本发明实施例提供的基于改进型SCDAE的半监督调制方式分类模型的方法实现流程图。

图3是本发明实施例提供的基于改进型SCDAE的半监督调制方式分类模型结构图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明在标记数据不足时，利用未标记无线信号数据提高调制方式分类准确率。

如图1所示，本发明实施例提供的基于改进型SCDAE的半监督调制方式分类模型的方法包括以下步骤：

S101：归一化无线信号数据集；

S102：初始训练集与测试集；

S103：将训练集中未标记样本输入改进型SCDAE，计算各层的网络权值梯度；

S104：将训练集中标记样本输入有监督分类模型，计算各层的网络权值梯度；

S105：以减小半监督模型损失函数的值为目标，利用梯度下降法调整半监督模型的网络权值；

S106：将测试集数据样本输入有监督分类模型，得到调制方式分类准确率。

下面结合附图对本发明的应用原理作进一步的描述。

如图2所示，本发明实施例提供的基于改进型SCDAE的半监督调制方式分类模型的方法具体包括以下步骤：

步骤一，将一个无线信号数据集中的所有数据归一化到区间[0,1]；

步骤二，从无线信号数据集中构建训练集样本和测试集样本；

无线信号数据集标记样本数量为n_l，未标记样本数量为n_u，且n_l:n_u＝1:10。从标记样本中随机选取50％的数据{x_i,y_i}^t作为测试集，其中x_i是标记样本，y_i是标记样本x_i属于何种调制方式的标记，t是测试集样本的个数。剩余的标记样本{x_i,y_i}^b与未标记样本{x_j}^u共同组成训练集，其中x_j是未标记样本，b为训练集中标记样本的个数，u为训练集中未标记样本的个数。

步骤三，将训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分，分别计算每个样本输入改进型SCDAE后编码器与解码器各层的网络权值梯度；

3a)训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分前需经过高斯噪声的破坏。

3b)每个样本x_e都将在改进型SCDAE进行前向传播：改进型SCDAE第一个卷积层的输出与第二个池化层的输出p₂的维度不一致，所以不能直接进行加权求和。为此需要从中随机选择与p₂数目相同的特征值，然后将其额外经过一个池化区域较大的池化层的降维，使得p₄与p₂的维度一致，即编码器第三个卷积层的实际输入为α·p₂+(1-α)·p₄，α为加权和参数。同理，解码器部分的第一个卷积层输出与第三个上池化层输出u₃的维度不一致，需先将代表的向量进行补0操作，再通过一个池化区域较大的上池化层，使得u₃与u₄的维度一致。解码器第三个卷积层的实际输入为β·u₃+(1-β)·u₄，β为加权和参数。

3c)设编码器网络权值为{W⁽¹⁾,b⁽¹⁾}，解码器网络权值为{W⁽²⁾,b⁽²⁾}，则改进型SCDAE的重构误差函数为其中，x_e为原始输入数据，为经过噪声“破坏”后输入改进型SCDAE的数据，σ为非线性激活函数。则改进型SCDAE各层的网络权值梯度依据如下公式进行计算：

3d)如果b+u个样本的网络梯度都计算完成，则执行步骤四，否则返回执行(3b)。

步骤四，将训练集中标记样本{x_i,y_i}^b输入有监督分类模型部分，分别计算每个样本输入有监督分类模型后各层的网络权值梯度；

4a)将训练集标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中有监督分类网络部分。

4b)每个样本x_e都将在有监督分类网络中进行前向传播，从输出层得到调制方式的预测值y_e ^predict。有监督分类网络的分类误差函数为其中x_e的标记y_e为一个m维的向量，m为分类问题的类别数，y_e,k为y_e的一个元素。有监督分类网络的输出层的梯度按和进行计算，其中i为输出层预测值的对应的类别序号。有监督分类网络其他层的网络权值梯度计算方法与步骤三中编码器部分网络权值梯度计算方法相同。

4c)如果b个样本的网络梯度都计算完成，则执行步骤五，否则返回执行(4b)。

步骤五，半监督模型的损失函数函数由改进型SCDAE的重构误差函数和有监督模型的分类误差函数构成，以减小损失函数的值为目标，利用梯度下降法调整半监督模型的网络权值。若网络权值的变化量小于特定的门限值或者达到最大的迭代次数，训练结束，否则执行步骤三。

5a)半监督模型的误差函数为：C(W,b)＝C₂(W,b)+κ·C₁(W,b)，半监督模型的训练过程就是以减小误差函数为目标，根据梯度下降法不断更新各层网络权值。改进型SCDAE的解码器部分按照更新网络权值，改进型SCDAE的编码器部分按照更新网络权值，有监督网络的输出层按照更新网络权值。

5b)如果网络权值的变化量小于特定的门限值或者达到最大的训练迭代次数，则执行步骤六，否则返回执行(5a)。

步骤六，将测试集样本中{x_i}^t输入已训练完成的训练有监督分类模型部分，得到对应的预测值{y_i ^predict}^t，将预测值{y_i ^predict}^t与实际标记值{y_i}^t进行对比，计算得到调制方式分类准确率。

选取部分数据识别结果如下表

类型	BPSK	QPSK	8PSK	16QAM	BFSK	CPFSK
							准确率	88.4	87.5	84.7	89.2	86.4	89.1

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于改进型SCDAE的半监督调制方式分类模型的方法，其特征在于，所述基于改进型SCDAE的半监督调制方式分类模型的方法包括：归一化无线信号数据集；初始训练集与测试集；将训练集中未标记样本输入改进型SCDAE，计算各层的网络权值梯度；将训练集中标记样本输入有监督分类模型，计算各层的网络权值梯度；利用梯度下降法调整半监督模型的网络权值；将测试集数据样本输入有监督分类模型，得到调制方式分类准确率。

2.如权利要求1所述的基于改进型SCDAE的半监督调制方式分类模型的方法，其特征在于，所述基于改进型SCDAE的半监督调制方式分类模型的方法包括以下步骤：

步骤一，将一个无线信号数据集中的所有数据归一化到区间[0,1]；

步骤二，从无线信号数据集中构建训练集样本和测试集样本；无线信号数据集标记样本数量为n_l，未标记样本数量为n_u，且n_l:n_u＝1:10；从标记样本中随机选取50％的数据{x_i,y_i}^t作为测试集，其中x_i是标记样本，y_i是标记样本x_i属于何种调制方式的标记，t是测试集样本的个数；剩余的标记样本{x_i,y_i}^b与未标记样本{x_j}^u共同组成训练集，其中x_j是未标记样本，b为训练集中标记样本的个数，u为训练集中未标记样本的个数；

步骤三，将训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分，分别计算每个样本输入改进型SCDAE后编码器与解码器各层的网络权值梯度；

步骤四，将训练集中标记样本{x_i,y_i}^b输入有监督分类模型部分，分别计算每个样本输入有监督分类模型后各层的网络权值梯度；

步骤五，半监督模型的损失函数函数由改进型SCDAE的重构误差函数和有监督模型的分类误差函数构成，利用梯度下降法调整半监督模型的网络权值；网络权值的变化量小于特定的门限值或者达到最大的迭代次数，训练结束，否则执行步骤三；

步骤六，将测试集样本中{x_i}^t输入已训练完成的训练有监督分类模型部分，得到对应的预测值{y_i ^predict}^t，将预测值{y_i ^predict}^t与实际标记值{y_i}^t进行对比，计算得到调制方式分类准确率。

3.如权利要求2所述的基于改进型SCDAE的半监督调制方式分类模型的方法，其特征在于，所述步骤三具体包括：

(1)训练集中未标记样本{x_j}^u与标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中改进型SCDAE部分前需经过高斯噪声的破坏；

(2)从中随机选择与p₂数目相同的特征值，然后将额外经过一个池化区域较大的池化层的降维，编码器第三个卷积层的实际输入为α·p₂+(1-α)·p₄，α为加权和参数；解码器部分的第一个卷积层输出与第三个上池化层输出u₃的维度不一致，先将代表的向量进行补0操作，再通过一个池化区域较大的上池化层，使得u₃与u₄的维度一致；解码器第三个卷积层的实际输入为β·u₃+(1-β)·u₄，β为加权和参数；

(3)编码器网络权值为{W⁽¹⁾,b⁽¹⁾}，解码器网络权值为{W⁽²⁾,b⁽²⁾}，则改进型SCDAE的重构误差函数为其中，x_e为原始输入数据，为经过噪声“破坏”后输入改进型SCDAE的数据，σ为非线性激活函数；改进型SCDAE各层的网络权值梯度依据如下公式进行计算：

(4)b+u个样本的网络梯度都计算完成，则执行步骤四，否则返回执行(2)。

4.如权利要求2所述的基于改进型SCDAE的半监督调制方式分类模型的方法，其特征在于，所述步骤四具体包括：

(1)将训练集标记样本{x_i,y_i}^b中的{x_i}^b输入半监督模型中有监督分类网络部分；

(2)每个样本x_e都将在有监督分类网络中进行前向传播，从输出层得到调制方式的预测值y_e ^predict；有监督分类网络的分类误差函数为其中x_e的标记y_e为一个m维的向量，m为分类问题的类别数，y_e,k为y_e的一个元素；有监督分类网络的输出层的梯度按和进行计算，其中i为输出层预测值的对应的类别序号；有监督分类网络其他层的网络权值梯度计算方法与步骤3中编码器部分网络权值梯度计算方法相同；

(3)b个样本的网络梯度都计算完成，则执行步骤五，否则返回执行(2)。

5.如权利要求2所述的基于改进型SCDAE的半监督调制方式分类模型的方法，其特征在于，所述步骤五具体包括：

(1)半监督模型的误差函数为：C(W,b)＝C₂(W,b)+κ·C₁(W,b)，半监督模型的训练过程就是以减小误差函数为目标，根据梯度下降法不断更新各层网络权值；改进型SCDAE的解码器部分按照更新网络权值，改进型SCDAE的编码器部分按照更新网络权值，有监督网络的输出层按照更新网络权值；

(2)网络权值的变化量小于特定的门限值或者达到最大的训练迭代次数，则执行步骤六，否则返回执行(1)。

6.一种应用权利要求1～5任意一项所述于改进型SCDAE的半监督调制方式分类模型的方法的无线信号调制系统。