CN109034087B - 一种基于pca降维的混合型机器学习信号分类方法 - Google Patents

Abstract

本发明公开了一种基于PCA降维的混合型机器学习信号分类方法，包括以下步骤：步骤1、针对线性调频信号LFM、二相相移键控BPSK信号、二进制频移键控2FSK和四相相移键控QPSK信号，根据瞬时自相关分类方法，设置过零点个数阈值和标准差门限阈值，将LFM信号、QPSK信号与其它信号的分开；步骤2、二级分类中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差三个特征，并采用主成分分析PCA算法实现特征降维；步骤3、采用SVM分类器得到最优分类的目标函数，实现BPSK与2FSK信号的区分。本发明采用机器学习技术实现分类，自动化程度高，分类效果好。

Description

一种基于PCA降维的混合型机器学习信号分类方法

技术领域

本发明涉及通信技术领域，尤其涉及一种基于PCA降维的混合型机器学习信号分类方法。

背景技术

雷达与电子战系统需要自动学习识别所侦察得到的电磁信号。雷达信号的脉内特征是雷达与电子战系统中电磁信号分选和识别的重要参数，因此要可靠地分选和识别雷达信号，就必须对雷达信号进行脉内特征分析。常规的脉内分析方法采用基于人工经验的门限判断，自动化程度不高，对未知情况的适应能力不足，且由于训练样本有限，人工设置的经验门限存在分类效果较差的可能。

发明内容

有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是提供一种基于PCA降维的混合型机器学习信号分类方法，以解决现有技术的不足。

为实现上述目的，本发明的一种基于PCA降维的混合型机器学习信号分类方法，包括以下步骤：

步骤1、针对线性调频信号LFM、二相相移键控BPSK信号、二进制频移键控2FSK和四相相移键控QPSK信号，根据瞬时自相关方法，设置过零点个数阈值和标准差门限阈值，将LFM信号、QPSK信号与BPSK,2FSK两种信号区分开；

步骤2、二级分类中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差三个特征，并采用主成分分析PCA算法实现特征降维；

步骤3、采用SVM分类器得到最优分类的目标函数，实现BPSK与2FSK信号的区分。

步骤1中，所述瞬时自相关分类方法的表达式为：

B(t,τ)＝z(t)×z^*(t-τ) (1)

式中，B(t,τ)为瞬时自相关，z^*(t-τ)是共轭延迟，τ是延迟时间。

步骤1中，提取基于瞬时自相关过零点个数特征，并设定阈值，将所述LFM信号、QPSK信号与{BPSK,2FSK}两种信号分开后，再通过提取基于瞬时自相关标准差特征，并设置阈值γ，区分出LFM信号和QPSK信号。

特征1：过零点个数ρ₁

ρ₁＝Num{c(i)∈ε₁},i＝1,2,…N_s (2)

式中，N_s是总采样点数，Num表示计数,c(i)是第i点的瞬时自相关幅度值，ε₁表示属于零值的小范围。

特征2：标准差ρ₂

式中N_s是总采样点数，

是瞬时自相关的幅度均值。

步骤2中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、

归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差三个特征，具体为：

特征1：归一化幅值占空比τ_f

式中N是傅里叶变换的总采样点数，A＝Num{a(i)>a_t}，Num表示计数，a(i)是第i点的傅里叶变换幅值，a_t是设定的一个阈值，通过计算大于阈值的点数跟总点数的比值，也就是归一化幅度占空比；

特征2：归一化中心瞬时相位绝对值方差σ_p

式中N_s是采样点数，φ_NL(i)是信号的瞬时相位非线性分量，

其中

指的是瞬时相位；

特征3：归一化中心瞬时频率绝对值方差σ_f

式中，N_s是采样点数，

其中f_m(i)＝f(i)-m_f，

是瞬时频率的平均值，f(i)是瞬时频率。

步骤2中，采用主成分分析PCA算法实现特征降维具体步骤如下：

(1)将雷达与通信信号的样本数据按列排成矩阵X；

(2)对每种雷达与通信信号的样本特征进行处理，包括零均值化和归一化，得到

(3)对处理后的样本，计算它的协方差矩阵

m为样本个数；

(4)根据Ru＝λu，计算协方差矩阵的特征值λ与特征向量u，并将特征值按从大到小排列，对应的特征向量也按照从大到小排列；

(5)根据

即特征值所占比重，确定出降维后的维数k，贡献率根据实际情况设置，取前k个特征值对应的特征向量组成新的矩阵P，称为投影矩阵；

(6)计算原始样本数据在投影矩阵的投影数据，即主成分：x＝XP。

步骤3中，具体方法如下：

通过所述SVM分类器找到一条最优分界线使得它到BPSK信号和2FSK信号的间隔最大，实现SVM分类的判别函数为：

f(x)＝y_i(w^Tx+b) (7)

式中，x是经PCA降维后的训练样本输入，

w是权值向量，y_i是类别标签，b是偏置；

间隔：

δ_i＝y_i(w^Tx+b)＝|w^Tx_i+b|＝|f(x)| (8)

几何间隔：

支持向量机的目的就是找到最优的w₀和b₀，就是最大化几何间隔d，也就是最小化w，问题转化成：

利用拉格朗日乘法：

式中，a_i是拉格朗日乘子，为非负变量，N_d为训练样本个数；将上式分别对w和b求偏导并令为零得：

将其转换成对偶问题，得到目标信号为：

从而得到最优拉格朗日乘子α_0,i，代入得到最优权值w₀：

代入f(x)＝0得到最优偏置：

最终得到最优分类的目标函数：

式中，sign是符号函数。最优权值向量的确定仅由最优拉格朗日乘子和训练样本及其类别来决定，BPSK和2FSK信号的三维特征样本经PCA降维后构成二维训练样本，通过训练找到支持向量的位置，然后算出偏置，最后找到最优分类线，实现测试样本的正确分类。

本发明的有益效果是：

本发明首先通过瞬时自相关提取信号过零点个数和标准差这两个特征实现QPSK信号、LFM信号与{QPSK,2FSK}两种信号的区分，其次提取了归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差等三个特征，并采用主成分分析(PCA)算法求得上述三种特征的主成分，实现特征降维，从而构建了一种两维特征平面，该特征平面适合采用支持向量机(SVM)分类器实现上述信号的分类。本发明采用机器学习技术实现分类，自动化程度高，分类效果好，有效解决了现有技术不足。

附图说明

图1是本发明的几种雷达与通信信号分类算法流程图；

图2是本发明的四种信号的瞬时自相关处理波形图；

图3是本发明的PCA降维流程图；

图4是本发明的LFM信号的瞬时自相关处理结果图；

图5是本发明的BPSK信号的瞬时自相关处理结果图；

图6是本发明的2FSK信号的瞬时自相关处理结果图；

图7是本发明的QPSK信号的瞬时自相关处理结果图；

图8是本发明的四种信号基于瞬时自相关的过零点特征图；

图9是本发明的LFM和QPSK基于瞬时自相关的标准差图；

图10是本发明的BPSK信号和2FSK信号在SNR＝10dB时基于PCA特征降维的支持向量机的分类图；

图11是本发明的BPSK信号和2FSK信号在SNR＝15dB时基于PCA特征降维的支持向量机的分类图；

图12是本发明的BPSK信号和2FSK信号在SNR＝20dB时基于PCA特征降维的支持向量机的分类图；

图13是本发明的BPSK信号和2FSK信号在SNR＝25dB时基于PCA特征降维的支持向量机的分类图。

具体实施方式

参见图1，本发明主要针对四种常见的雷达与通信信号：线性调频信号(LFM)、二相相移键控(BPSK)信号、二进制频移键控(2FSK)、和四相相移键控(QPSK)信号。采用二级分类结构，第一级根据瞬时自相关方法，在提取过零点个数和标准差这两个特征基础上，设置过零点个数阈值和标准差阈值，将LFM信号、QPSK信号与{BPSK,2FSK}两种信号的分开。之后，在二级分类中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差等三个特征，并采用主成分分析(PCA)算法实现特征降维，采用SVM分类器实现BPSK与2FSK信号的区分。

该分类方法为基于样本训练的机器学习方法，需要采用大样本进行分类训练，之后，才可以针对测试样本进行应用。所以其应用分为训练阶段与测试阶段，在训练阶段需要构建较大的学习样本，完成分类方法的自动学习。

1.基于瞬时自相关特征的第一级分类

在第一级分类中采用瞬时自相关提取信号的特征。接收信号为z(t)的瞬时自相关：

B(t,τ)＝z(t)·z^*(t-τ) (1)

式中z^*(t-τ)是共轭延迟，τ是延迟时间。瞬时自相关B(t,τ)与一般自相关的最大不同是它没有时间积分，所以瞬时自相关的优点在于保留了信号相关处理的瞬时信息。

特征1：过零点个数ρ₁

ρ₁＝Num{c(i)∈ε₁},i＝1,2,…N_s (2)

式中，N_s是总采样点数，Num表示计数,c(i)是第i个点的瞬时自相关幅度值，ε₁表示属于零值的小范围。

特征2：标准差ρ₂

式中N_s是总采样点数，

是瞬时自相关的幅度均值。

图2给出了四种信号，即LFM、BPSK、QPSK与2FSK信号的瞬时自相关实部输出。由图可见，LFM信号的瞬时自相关是频率为恒定值的交流信号，因为LFM信号的频率是成线性变化。QPSK信号的瞬时自相关实部在码内为直流，在码间有三种相位跳转，因为其复平面有四种相位，在实部投影只有三种相位跳变，即三值跳变。2FSK信号和BPSK信号的码内相关包络为直流，在码元发生跳变的时候，BPSK信号的瞬时自相关实部波形产生两种相位的跳变，而2FSK信号的瞬时自相关实部波形是受频差调制的突变信号。所以可通过提取过零点个数特征和标准差特征，并设置过零点个数阈值ε和标准差阈值γ，将LFM信号和QPSK信号从四种信号中分离开来。

通过对以上四种雷达通信信号采用瞬时自相关，可以很好地分类出LFM信号和QPSK信号。但是基于瞬时自相关的两种特征对于BPSK和2FSK分类存在困难，下面将提取这两类信号的其他特征。

2.基于PCA的特征降维的SVM二级分类方法

在第二级分类中，主要针对剩余的BPSK信号与2FSK信号进行分类。

2.1初级特征提取

采用了三种特征如下：

特征1：归一化幅值占空比τ_f

式中N是傅里叶变换的总采样点数，A＝Num{a(i)>a_t}，a(i)是第i点的傅里叶变换幅值，a_t是设定的一个阈值，通过计算大于阈值的点数跟总点数的比值，也就是归一化幅度占空比。

特征2：归一化中心瞬时相位绝对值方差σ_p

式中N_s是采样点数，φ_NL(i)是信号的瞬时相位非线性分量，

其中

指的是瞬时相位。

特征3：归一化中心瞬时频率绝对值方差σ_f

式中，N_s是采样点数，

其中f_m(i)＝f(i)-m_f，

是瞬时频率的平均值，f(i)是瞬时频率。只有2FSK信号中有频率信息，BPSK中没有频率信息，可用来区分。

2.2基于PCA的特征降维

PCA通过线性变换将可能存在相关性的原始数据变换为一组各维度线性无关的新数据来表示，可用于提取数据的主要特征分量，从而达到降维的目的。其主要思想是：将n维特征映射到k维上(k<n)，这k维是全新的正交特征，被称为主成分(是重新构造的，而不是简单的从中剔除n-k维特征)。可以简单理解成：PCA就是要找出最有用的线性组合，也就是那些区分度比较大的新特征，来达到降维目的。

PCA降维有两个基本的要求：第一，要求样本点在主成分方向上的投影点尽可能大的分散，因为越分散，表明样本方差越大，携带有用信息越多；第二，要求样本点到主成分方向的距离尽可能小，也就是误差尽可能减小。数据从高维降到低维的这个过程肯定存在损失，我们要尽可能的减少的误差，同时这也有利于将新特征来重现原来的两个特征。

参见图3，PCA降维算法步骤如下：

(1)将雷达与通信信号的样本数据按列排成矩阵X；

(2)对每种雷达与通信信号的样本特征进行处理，包括零均值化和归一化，得到

(3)对处理后的样本，计算它的协方差矩阵

(m为样本个数)；

(4)根据Ru＝λu，计算协方差矩阵的特征值(λ)与特征向量(u)，并将特征值按从大到小排列，对应的特征向量也按照从大到小排列；

(5)根据

(即特征值所占比重)确定出k(降维后的维数)，贡献率可根据实际情况设置，取前k个特征值对应的特征向量的组成新的矩阵P，称为投影矩阵；

(6)计算原始样本数据在投影矩阵的投影数据，即主成分：x＝XP。

2.3SVM分类方法

支持向量机(SVM)是一种二分类算法，其基本模型定义为特征空间上的间隔最大的线性分类器。它的任务就是找到一条最优分界线使得它到BPSK信号和2FSK信号的间隔最大。实现SVM分类的判别函数为：

f(x)＝y_i(w^Tx+b) (7)

式中x是经PCA降维后的训练样本输入，

w是权值向量，y_i是类别标签(±1)，b是偏置。

间隔：

δ_i＝y_i(w^Tx+b)＝|w^Tx_i+b|＝|f(x)| (8)

几何间隔：

支持向量机的目的就是找到最优的w₀和b₀，就是最大化几何间隔d，也就是最小化w。问题转化成：

利用拉格朗日乘法：

式中，a_i是拉格朗日乘子，为非负变量，N_d为训练样本个数。将上式分别对w和b求偏导并令为零得：

将其转换成对偶问题，得到目标信号为：

从而得到最优拉格朗日乘子α_0,i，代入得到最优权值w₀：

代入f(x)＝0得到最优偏置：

最终得到最优分类的目标函数：

通过上述分析可以看出，最优权值向量的确定仅由最优拉格朗日乘子和训练样本及其类别来决定。BPSK和2FSK信号的三维特征样本经PCA降维后构成二维训练样本，通过训练找到支持向量的位置，然后算出偏置，最后找到最优分类线，从而实现测试样本的正确分类。

实施例

采用MATLAB仿真验证多类雷达与通信信号的分类识别性能，包括训练和测试两阶段。

在训练阶段，四种信号的信噪比均设置为20dB，码元宽度10^-6s，采样点数5000，采样频率100MHz，载频20MHz，线性调频带宽10MHz，时宽50us，2FSK的频率分别为10MHz和20MHz。

第一级训练中，采用基于瞬时自相关方法分别对四种信号进行训练，四种信号的瞬时自相关处理结果如图4、5、6、7所示。经瞬时自相关循环处理后，循环提取四种信号的过零点个数各50次，结果如图8所示，可以看出，2FSK信号和BPSK信号的过零点个数在1000以下，而LFM信号和QPSK信号的过零点个数在1000以上。在20dB的信噪比下，将过零点个数阈值ε设为1000，便能很好的将2FSK信号、BPSK信号和LFM信号、QPSK信号分开。其次，为了区分开LFM信号和QPSK信号，循环50次提取这两种信号的瞬时自相关下的标准差，其结果如图9所示，LFM信号的标准差小于1，而QPSK信号的标准差大于1。在20dB的信噪比下，可将标准差阈值γ设置为1，LFM信号和QPSK信号能得到准确的分类。

第二级训练中，采用基于PCA特征降维的SVM分类方法对剩余信号BPSK信号和2FSK信号进行训练。在不同信噪比分别为10dB、15dB、20dB和25dB的情况下，循环提取BPSK信号和2FSK信号的三维特征(归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差)各500次，并运用PCA将特征降成两维，构成二维空间，最后代入SVM进行训练。不同信噪比情况下的分类结果如图10、11、12、13所示，从图中可以看出，信噪比达到20dB以上时，几何间隔变大(也就是支持向量到分界线的距离增大)，分类的效果更好。

在测试阶段，保持训练阶段的各种参数不变。第一级测试中，分别在10dB、15dB、20dB和25dB的信噪比情况下，循环提取基于瞬时自相关方法下的过零点个数和标准差这两种特征值50次作为样本测试集，并用训练得到的两个阈值ε和γ分别对四种信号进行分类识别，统计出LFM和QPSK两种信号的正确识别率，其在不同信噪比情况下的正确识别率如表1和表2所示，可以看出，当信噪比降到10dB时，信号的识别正确率下降的很快，所以该级适用于10dB以上的信噪比的分类识别。

在第二级测试中，将剩余两种信号BPSK和2FSK在10dB、15dB、20dB和25dB信噪比下的归一化幅值占空比、归一化瞬时相位绝对值方差和归一化瞬时频率绝对值方差等三维特征作为测试集，均循环取500次。其次根据训练过程得到的PCA降维矩阵对测试集进行重构，构成二维特征向量，再代入训练得到的最优分界线进行分类识别，其正确识别率如表3所示，可以看出，在20dB及以上的信噪比情况下，信号的识别正确率得到更好地提高。通过综合分析表1、表2和表3的数据可知，本发明在20dB及以上的信噪比条件下能够达到很好的多信号分类识别效果。

表1不同信噪比(SNR)下LFM正确识别率

表2不同信噪比(SNR)下QPSK正确识别率

表3不同信噪比(SNR)下的BPSK和2FSK正确识别率情况

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (2)

1.一种基于PCA降维的混合型机器学习信号分类方法，其特征在于，包括以下步骤：

步骤1、针对线性调频信号LFM、二相相移键控BPSK信号、二进制频移键控2FSK和四相相移键控QPSK信号，根据瞬时自相关分类方法，设置过零点个数阈值和标准差门限阈值，将LFM信号、QPSK信号与BPSK、2FSK两种信号分开；

步骤2、二级分类中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差三个特征，并采用主成分分析PCA算法实现特征降维；

步骤3、采用SVM分类器得到最优分类的目标函数，实现BPSK与2FSK信号的区分；

步骤1中，所述瞬时自相关分类方法的表达式为：

B(t,τ)＝z(t)·z^*(t-τ) (1)

式中，B(t,τ)为瞬时自相关，z(t)表示接收信号，z^*(t-τ)是共轭延迟，τ是延迟时间；

特征1：过零点个数ρ₁

ρ₁＝Num{c(i)∈ε₁},i＝1,2,…N_s (2)

式中，N_s是总采样点数，Num表示计数,c(i)是第i点的瞬时自相关幅度值，ε₁表示属于零值的小范围；

特征2：标准差ρ₂

式中N_s是总采样点数，

是瞬时自相关的幅度均值；

步骤2中，针对剩余信号BPSK信号和2FSK信号采用归一化幅值占空比、归一化中心瞬时相位绝对值方差和归一化中心瞬时频率绝对值方差三个特征，具体为：

特征1：归一化幅值占空比τ_f

式中N_s是总采样点数，A＝Num{a(i)＞a_t}，Num表示计数，a(i)是第i点的傅里叶变换幅值，a_t是设定的一个阈值，通过计算大于阈值的点数跟总点数的比值，也就是归一化幅度占空比；

特征2：归一化中心瞬时相位绝对值方差σ_p

式中N_s是总采样点数，φ_NL(i)是信号的瞬时相位非线性分量，

其中

是瞬时相位；

特征3：归一化中心瞬时频率绝对值方差σ_f

式中，N_s是总采样点数，归一化中心瞬时频率

其中f_m(i)＝f(i)-m_f，

是瞬时频率的平均值，f(i)是瞬时频率；

步骤2中，采用主成分分析PCA算法实现特征降维具体步骤如下：

(1)将雷达与通信信号的样本数据按列排成矩阵X；

(2)对每种雷达与通信信号的样本特征进行处理，包括零均值化和归一化，得到

(3)对处理后的样本，计算它的协方差矩阵

m为样本个数；

(4)根据Ru＝λu，计算协方差矩阵的特征值λ与特征向量u，并将特征值按从大到小排列，对应的特征向量也按照从大到小排列；

(5)

即特征值所占比重，确定出降维后的维数k，其中，λ_i是第i个特征值、n是样本数据的原数据维度，贡献率根据实际情况设置，取前k个特征值对应的特征向量组成新的矩阵P，称为投影矩阵；

(6)计算原始样本数据在投影矩阵的投影数据，即主成分：x＝XP；

步骤3中，具体方法如下：

通过所述SVM分类器找到一条最优分界线使得它到BPSK信号和2FSK信号的间隔最大，实现SVM分类的判别函数为：

f(x)＝y_i(w^Tx+b) (7)

式中，x是经PCA降维后的训练样本输入，x＝[x_i,x₂,…x_Nd],w是权值向量，y_i是类别标签，b是偏置；

间隔：

δ_i＝y_i(w^Tx+b)＝|w^Tx+b|＝|f(x)| (8)

几何间隔：

支持向量机的目的就是找到最优的w₀和b₀，就是最大化几何间隔d，也就是最小化w，问题转化成：

利用拉格朗日乘法：

式中，a_i是拉格朗日乘子，为非负变量，N_d为训练样本个数；将上式分别对w和b求偏导并令为零得：

将其转换成对偶问题，得到目标信号为：

从而得到最优拉格朗日乘子α_0,i，代入得到最优权值w₀：

代入f(x)＝0得到最优偏置：

最终得到最优分类的目标函数：

式中，sign是符号函数；最优权值向量的确定仅由最优拉格朗日乘子和训练样本及其类别来决定，BPSK和2FSK信号的三维特征样本经PCA降维后构成二维训练样本，通过训练找到支持向量的位置，然后算出偏置，最后找到最优分类线，实现测试样本的正确分类。

2.如权利要求1所述的基于PCA降维的混合型机器学习信号分类方法，其特征在于，步骤1中，将所述LFM信号、QPSK信号与其它信号分开后，还通过设置瞬时自相关标准差γ，再分别区分出LFM信号、QPSK信号。

Images