CN106060834B - 一种提高频谱利用率的无线通信系统的设计方法 - Google Patents

Abstract

一种提高频谱利用率的无线通信系统的设计方法，由源信号、信道、DSP分离系统和输出信号组成。N路未知源信号通过无线信道后，由M个天线接收混合信号，混合信号由DSP分离系统进行分离，恢复出源信号，实现无线通信。DSP分离系统是此系统的核心部分，它通过时频分析估计出源信号的数目和信道矩阵，然后判断源信号数目N与接收天线数目M之间的关系，根据不同的关系选择不同的分离算法或者估计算法。本发明系统能进一步提高频谱利用率，放宽对信号时隙、频率、码字等的限制，实现系统对用户或目标的灵活接入。

Description

一种提高频谱利用率的无线通信系统的设计方法

技术领域

本发明属于无线通信技术领域，具体涉及线性均匀天线接收条件下，源信号数目未知的无线通信系统的设计，是一种适用面更广的高效频谱利用率的无线通信方法。

背景技术

在无线通信系统中，一般假设信号源的数目是已知的、固定的，然而在实际应用中，无线通信环境是复杂的，源信号数目是未知的，甚至是随时间变化的，例如移动通讯系统中，在某一个特定的区域内，用户接入或者断开的数目在不断的变化，因此在某一时间段内的用户数目是无法预知的；深海无源探测网络中，某一有效面积内的目标数目也是未知的。在这种实际情况下，传统的假设源信号数目已知的无线通信系统模型可能不再适用，本发明提出一种新的无线通信系统的设计，该系统适用于在线性均匀天线接收条件下，源信号未知的情况。

常用的无线通信系统模型一般假设信号源数目已知，且对信号的时间、频率、码字等加以一些限制，在接收端接收这些信号的混合信号，通过信号在时间、频率、码字等的特征下，提取或者恢复源信号，实现无线信道的复用，这样的系统采用的复用技术包括频分复用技术(FDM)、时分复用技术(TDM)和码分复用技术(CDM)等，它们能较好的解决频谱匮乏的问题，但在时隙上，或是在频率上，或是在码字上对信号有所限制，采用这些复用技术的无线通信系统对用户或目标的接入数量的灵活性有较严重的限制。2009年提出的统计复用无线通信系统(WSDM)能较好的解决传统复用技术在时间、频率、码字上的限制，提高频谱利用率，但是WSDM适用于源信号数目已知且与接收天线数目相同的情况，极大的限制了WSDM的应用环境。

发明内容

本发明要解决的问题是：现有无线通信系统如WSDM都是假设源信号数目已知的情况，而实际无线通信系统是复杂的，源信号数目往往是未知的，新的无线通信系统能较好的解决这一问题，且能进一步的提高无线频谱利用率，保证对源信号数目估计的准确性和对源信号恢复的精确性，实现无线通信信道复用。

本发明的技术方案为：一种提高频谱利用率的无线通信系统的设计方法，源信号数目N未知，接收天线线性均匀排列，设定A)源信号空间时频分布矩阵存在单源点；B)信道矩阵的任意两个列矢量线性独立；源信号通过无线信道后，由M个天线接收混合信号，混合信号由DSP分离系统进行分离，恢复出源信号，其中DSP分离系统进行时频分析，首先求取混合信号的空间时频分布STFD矩阵，筛选出特殊的时频点，所述特殊的时频点处的STFD矩阵仅有一个对角元素非零，其余元素均为零，这些时频点为单源点，单源点上的能量由一路源信号形成，其他的源信号的贡献为零，所有单源点对应的波达角呈现直线聚类特性，通过峰值检测和聚类算法估计出聚类中心的数量和方向，即为源信号的数目和波达角的值，由此得到源信号数目和信道矩阵，根据源信号的数目和接收天线的数目的关系选择相应的恢复算法，恢复出源信号，实现无线通信。

s(t)＝(s₁(t),s₂(t),,s_N(t))^T为N路源信号组成的矢量，x(t)＝(x₁(t),x₂(t),,x_M(t))^T为M路混合信号组成的矢量其中t＝1,2,,T_S，T_S为通信信号的持续时间，源信号矩阵S＝[s(1),s(2),,s(T_S)]，混合信号矩阵X＝[x(1),x(2),,x(T_S)]，接收天线为M个阵元组成的直线型线性均匀天线阵，设θ₁,θ₂,,θ_N分别为N路源信号的波达角，则天线阵接收的混合信号表示如下：

X＝AS (1)

其中为信道矩阵，具有范德蒙德结构，有如下形式：

采用线性时频变换和二次时频分布相结合的方法来进行时频分析，并根据通信环境的实际情况选择二次时频分布的类型，以保证源信号在时频域具有稀疏性，

DSP分离系统的处理具体步骤为：

1)根据二次时频分布类型，求混合信号的空间时频分布矩阵，即STFD矩阵，对噪声点进行去除：

对源信号矢量s(t)＝(s₁(t),s₂(t),,s_N(t))^T，其STFD矩阵W_s(t,f)为：

其中

混合信号的STFD矩阵：

降噪方法如下：

设时频点(t_α,f_β)为噪声点，则有：

其中||·||表示F-范数，ε₁为接近于0的正阈值，max_f||W_x(t_α,f)||表示对时间t_α选择混合矢量的STFD矩阵的F-范数在所有频点f中的最大值，如果时频点满足公式(3)噪声点的条件，则将其去除；

2)单源点筛选：

通过分析混合信号的STFD矩阵来间接的分析源信号的STFD矩阵，依次通过两个筛选定理来对单源点进行筛选：

定理1：如果时频点(t,f)属于单源点域，则满足：

其中|·|表示实数的绝对值或者复数的模值，ε₂为接近于零的正阈值，若此点(t,f)为第n个源信号的单源点，则此时第n个信号的波达角为：

其中m,k∈{1,2,,M}；

定理2：如果时频点(t,f)属于单源点域，则满足：

其中ε₃为接近于零的正阈值，为一种降低交叉项干扰的时频分布，为第i路混合信号x_i(t)的谱图，谱图指x_i(t)的短时傅里叶变换的模值的平方，即

其中*表示取共轭,γ(t)为窗函数；

对时频点先经定理1进行初选，初选结果再经定理2进行再选，得到单源点；

3)峰值检测和聚类算法：

筛选出单源点后，计算出波达角，所有单源点对应的波达角呈现直线聚类特性，通过峰值检测和聚类算法估计出聚类中心的数量和方向，即为源信号的数目和波达角的值，再通过波达角计算出信道矩阵；

4)通过上述步骤估计出源信号的数目N和信道矩阵A，根据源信号的数目N和接收天线的数目M的关系选择相应的恢复算法恢复源信号。

所述恢复算法分三种情况：

a)、当N<M时，即为超定的情况，设定了信道矩阵的任意两个列矢量线性独立，则信道矩阵A列满秩，根据关系式X＝AS，源信号的估计为：

b)、当N＝M时，即为适定的情况，信道矩阵A列满秩，源信号的估计为：

c)、当N>M时，即为欠定的情况，对信道矩阵A已知的欠定情况采用欠定盲源分离算法，包括基于最小均方误差的波束赋形法和基于活跃信源数估计的ISSR算法。

本发明提出一种新的无线通信系统的设计方案，先对源信号的数目进行检测，同时对信道矩阵进行估计，然后利用源信号数目和信道矩阵信息对源信号进行恢复，实现信道复用。本发明的设计方案对源信号只要求其空间时频分布矩阵存在单源点，由于只要源信号的频率之间有少量的不重合，即可保证单源点的存在，因此本发明方案允许源信号之间有大量的频率交叉，即该方案能同时传输多路频率交叠的源信号，相比于传统的复用方式如FDM、TDM、CDM，能进一步提高频谱利用率，放宽对信号时隙、频率、码字等的限制，实现系统对用户或目标的灵活接入。

附图说明

图1为本发明提出的无线通信系统设计方案的原理图。

图2为本发明接收天线的线性均匀阵列模型。

图3为本发明方法中源信号数目估计和信道矩阵估计的流程图。

图4为本发明实施例中对波达角的示意图，(a)为源信号的波达角；(b)为波达角的估计。

图5为本发明实施例中源信号和输出信号的时频分布图，(a)、(b)、(c)为3路源信号实部幅度值，(d)、(e)、(f)为源信号的wigner-ville分布，(g)为混合信号的wigner-ville分布，(h)为降低交叉项干扰后的混合信号的时频分布，(i)为筛选出的单源点的时频分布，(j)、(k)、(l)为输出信号的时频分布，(m)、(n)、(o)为分别为输出信号的实部幅度值。

图6为本发明设计的无线通信系统在不同信噪比环境下的信道矩阵估计的MSE(dB)。

具体实施方式

图1是本发明提出的无线通信系统设计方案示意图，无线通信系统由源信号、信道、DSP分离系统和输出信号组成。源信号未知，设有N路，N是事先不可知的，源信号通过无线信道后，由M个天线接收混合信号，混合信号由DSP分离系统进行分离，恢复出源信号，实现无线通信。DSP分离系统是此系统的核心部分，它首先通过时频分析估计出源信号的数目和信道矩阵，也就是混合矩阵，然后判断源信号数目N与接收天线数目M之间的关系，根据不同的关系选择不同的分离算法或者估计算法，来估计恢复出源信号。

设s(t)＝(s₁(t),s₂(t),,s_N(t))^T，x(t)＝(x₁(t),x₂(t),,x_M(t))^T，y(t)＝(y₁(t),y₂(t),,y_N(t))^T分别为N路源信号组成的矢量、M路混合信号组成的矢量、N路输出信号组成的矢量，输出信号即源信号的估计，其中t＝1,2,,T_S，T_S为信号的持续时间；源信号矩阵S＝[s(1),s(2),,s(T_S)]，混合信号矩阵X＝[x(1),x(2),,x(T_S)]，输出信号矩阵Y＝[y(1),y(2),,y(T_S)]。本发明的接收天线考虑线性均匀阵列(uniform linear array，ULA)，如图2所示，M个阵元组成直线型天线阵，相邻的两个阵元之间距离为d，源信号s_n(t)位于天线阵列的远场区域，则可认为源信号以平面波的形式到达天线阵列，此时不考虑接收信号间的幅度差异，仅考虑时延差，设θ₁,θ₂,,θ_N(θ_n∈[-π/2,π/2])分别为N路源信号的波达角(Direction of Arrival，DOA)，即源信号的入射方向，则天线阵列接收的混合信号可以表示如下：

X＝AS (1)

其中为信道矩阵(或混合矩阵)，具有范德蒙德(Vandermonde)结构，有如下形式：

由信道矩阵A的表示式可知，对源信号数目的估计和对信道矩阵的估计等价于估计波达角θ₁,θ₂,,θ_N的数目及其数值，由于本发明假设信道矩阵的任意两个列矢量线性独立，则有即达波角互不相等。

下面详细介绍本发明设计的DSP分离系统，DSP分离系统采用时频分析方法对信道矩阵及源信号数目进行估计，常用的时频分析有线性时频变换和二次时频分布，线性时频变换包括短时傅里叶变换(STFT)、小波变换等，二次时频分布包括Cohen类时频分布、wigner-ville分布等。二次时频分布较线性时频变换在时频域上具有更高的能量聚集性，使得一些非平稳信号在时频域上更加稀疏，但是二次时频分布存在交叉项的干扰会影响估计性能，而线性时频变换不存在交叉项的问题，本发明DSP分离系统采用线性时频变换和二次时频分布相结合的方法来进行时频分析，结合两者的优点，既保持了信号在时频域上能量聚集性，又消除了交叉项的干扰。

实际应用中应根据实际情况和场景合理的选择二次时频分布的类型，以保证源信号在时频域具有一定的稀疏性。本发明以wigner-ville分布为例进行说明。对第n个源信号s_n(t)，自wigner-ville分布为：

由上式易看出即s_n(t)的自wigner-ville分布一定是实值。对两个不同的源信号s_n(t)、s_w(t)，n≠w，它们的互wigner-ville分布为：

可以看出不同源信号的互wigner-ville分布满足结合式(3)和(4)，对源信号矢量s(t)＝(s₁(t),s₂(t),,s_N(t))^T，可以得到矩阵：

W_s(t,f)称为源信号的空间时频分布矩阵，空间时频分布矩阵简称STFD矩阵，它的对角线元素为源信号的自wigner-ville分布，非对角线元素为互wigner-ville分布。通过W_s(t,f)的结构，可以把W_s(t,f)对应的时频点分为三类：

1、自源点：

定义1：如果(t_θ,f_θ)称为自源点，则需满足W_s(t_θ,f_θ)对角元素不全为零且非对角元素为零，即W_s(t_θ,f_θ)为对角阵，此时W_s(t_θ,f_θ)反映出源信号自身的能量聚集性。此处为现有技术定义，不再详述。

2、互源点：

定义2：如果(t_σ,f_σ)称为互源点，则需满足W_s(t_σ,f_σ)对角元素为零且非对角元素不全为零，此时W_s(t_σ,f_σ)反映出源信号之间的能量聚集性。此处为现有技术定义，不再详述。

3、一般时频点：

定义3：若在(t_γ,f_γ)处，W_s(t_γ,f_γ)不满足上述两个性质，则称为一般时频点，即在(t_γ,f_γ)处源信号的自身能量和信号间的能量是重叠的。

进一步的，对于混合矢量x(t)＝(x₁(t),x₂(t),,x_M(t))^T，可以用同样的方式定义其STFD矩阵，得到混合信号的STFD矩阵W_x(t,f)：

则通过混合矢量与源信号矢量的关系和wigner-ville分布的定义可得：

W_x(t,f)＝AW_s(t,f)A^H (7)

由于在通信系统的接收端只有混合信号是已知的，因此唯一可以获取的是混合信号的STFD矩阵W_x(t,f)，由公式(6)结合公式(3)(4)得到。然而不是所有的时频点处的W_x(t,f)都可以直接使用，因为一些时频点处的能量太小对于估计信道矩阵没有明显的作用，甚至会对估计产生干扰，因此首先应该去除这些能量太小的时频点。为了简便，称这些能量太小的点为噪声点，一种常见的降噪方法如下：

如果时频点(t_α,f_β)为噪声点，则

其中||·||表示F-范数(Frobenius范数)，ε₁为接近于0的正阈值，仿真试验中通常设为0.1，max_f||W_x(t_α,f)||表示对时间点t_α，选择混合矢量的STFD矩阵的F-范数在所有频点f中的最大值。如果时频点满足噪声点的条件，则将其去除。

如前所述，W_x(t,f)是唯一可获取的STFD矩阵，需要通过分析混合矢量的STFD矩阵来间接的分析源信号的STFD矩阵，在一些特殊的时频点处能找出W_x(t,f)与W_s(t,f)的联系。

定义4：若自源点(t_α,f_α)满足在此点上的能量主要由一路源信号形成，其他的源信号的贡献为零，则称此点为单源点，否则称为多源点。本发明的单源点与在“盲源分离”领域中的“单源点”的含义一致，而与在其他领域例如“最短路径”中的“单源点”的含义不一致，特此用定义4标明。

容易得出，在单源点(t_α,f_α)处，W_s(t_α,f_α)的主对角线只有一个元素非零，非对角元素都为零，则可以得到如下等式：

其中源信号s_i(t)为能量的主要贡献者，a_i表示信道矩阵A的第i列矢量，Ω_i为所有满足上式的时频点组成的集合，为了简便，称之为第i个信号的单源点域。实际应用中很难有信号严格满足单源点的条件，因此只要有一个对角元素明显大于其他元素，则认为此时频点为单源点，式(9)可以近似成立。

下面为对单源点的筛选方法进行具体说明。

定理1：如果时频点(t,f)属于单源点域，则必须满足：

其中|·|表示实数的绝对值或者复数的模值，ε₂为接近于零的正阈值，例如0.1。公式(10)适用于所有二次时频分布。若此点(t,f)为第n个源信号的单源点，则此时第n个信号的波达角为：

其中m,k∈{1,2,,M}。

证明：假设(t,f)为第c个信号的单源点，设α_c＝-πsin(θ_c)，其中θ_c为第c个信号的波达角，则根据式(9)，有

观察对角元素易得：

上述等式即为时频点(t,f)成为单源点的一个必要条件，然而实际应用中无法严格满足上述等式，因此引入一个接近于零的正阈值ε₂，上述必要条件修改为式(10)。通过式(12)还可得：

其中m,k∈{1,2,,M}。由于假设α_c＝-πsin(θ_c)，则可得达波角如式(11)所示。

定理1证毕。

定理1可以作为筛选单源点的条件，由于只考虑了STFD矩阵对角元素，因此计算量较小，下面验证定理1的条件对非单源点的严格性。

设(t',f')非单源点，则由式(7)可得：

若(t',f')点处也满足定理1中单源点的必要条件，则

如果上式对任意的p,q∈{1,2,,N},p≠q都满足，则可得α_p＝α_q,由此可得θ_p＝θ_q,与前述的假设波达角互不相等相矛盾。一些特殊的非单源点也可能满足定理1中单源点的必要条件，例如一些非单源点(t',f')若满足

其中q∈{1,2,,N},p≠q，则(t',f')即可以满足定理1中单源点的必要条件，但是上述条件的满足等价于满足

式(17)对非单源点的要求是十分严格的，因此非单源点很难满足定理1的条件，定理1中条件可以很好的用作单源点的筛选。但由于此条件仅为必要条件，且选择精度受阈值的影响，所以可将定理1的条件作为单源点的一个粗筛选。

由于线性时频变换没有交叉项的干扰，因此本发明考虑线性时频变换与二次时频分布的结合，以短时傅里叶变换(STFT)为例，混合信号x_i(t)的短时傅里叶变换为：

其中*表示取共轭，γ(t)为窗函数。短时傅里叶变换模值的平方为谱图，记作 则线性时频变换与二次时频分布的结合得到的一种降低交叉项干扰的时频分布为 属于时频分布，此公式是现有的“减小交叉项干扰的分布(RID)”中的一个，易知在一定程度上保持了wigner-ville分布的能量聚集性，降低了交叉项的干扰。

下面构造基于短时傅里叶变换的空间时频分布矩阵，记为短时傅里叶变换不存在交叉项，因此可令非对角线元素为0，对角线元素为信号的短时傅里叶变换，即

其中表示矩阵的第i行第j列元素。降低交叉项干扰的时频分布的空间时频分布矩阵记为表示为

其中⊙为哈德蒙德(Hadamard)积。则矩阵的对角线元素为降低交叉项干扰的时频分布，非对角线元素为0。

定理2：如果时频点(t,f)属于单源点域，则必须满足：

其中ε₃为接近于零的正阈值。

证明：同定理1的证明，假设(t,f)为第c个信号的单源点，设α_c＝-πsin(θ_c)，则

由上述矩阵结构可得

式(23)即为单源点应满足的必要条件。在实际应用中，式(23)很难严格满足，因此引入一个接近于0的正阈值ε₃，将式(23)的条件修改为式(21)。

定理2证毕。

定理2同定理1，也只需考虑对角元素，因此计算量较小。下面验证定理2对非单源点的严格性。

设(t',f')非单源点，则由式(20)可得：

若(t',f')点处也满足定理2中单源点的必要条件，则等价于满足式(16)，由于前面已经验证了式(16)对非单源点的严格性，所以定理2的条件对非单源点也具有同样的严格性。

单源点的筛选结合定理1和定理2，先经定理1进行初选，初选结果再经定理2进行再选，确定单源点后通过式(11)，可以计算出波达角，所有单源点对应的波达角呈现直线聚类特性，通过峰值检测和聚类算法，如K-means可以估计出聚类中心的数量和方向，即为源信号的数目和波达角的值，通过波达角可以计算出信道矩阵。图3所示为源信号数目估计和信道矩阵估计的流程图。

通过上述流程，可以有效的估计出源信号的数目N和信道矩阵A，为了恢复出源信号，需要根据源信号的数目N和接收天线的数目M的关系选择相应的恢复算法，如图1，分三种情况。

1、当N<M时，即为超定的情况。由于假设信道矩阵的任意两个列矢量线性独立，则A列满秩，根据关系式X＝AS，可根据下式给出源信号的估计：

2、当N＝M时，即为适定的情况。同样，A列满秩，可由下式给出源信号的估计：

3、当N>M时，即为欠定的情况。对A已知的欠定问题通常为欠定盲源分离问题的第二步，已存在很多有效的算法，如基于最小均方误差的波束赋形法(MMSE Beamforming)、基于活跃信源数估计的ISSR算法等，本发明后续仿真分析以ISSR算法为例。

以上是本发明提出的无线通信系统的详细实施方法和步骤，下面通过仿真实验来验证本系统的有效性和可靠性。

考虑更复杂的欠定的情况，设定3个源信号，2个接收天线的情景，即N＝3，M＝2。源信号为线性调制(LFM)信号，其中两路为单分量LFM信号、一路为多分量LFM信号，三路源信号分别以波达角-15°、-45°、60°入射到天线阵列。在单源点的筛选中，设参数ε₁＝0.1、ε₂＝0.5、ε₃＝0.015。

将源信号波达角θ_n表示成复数则在复平面上形成的散点与原点的连线如图4(a)所示，这三条直线与实部正轴的夹角即为波达角，图4(b)表示波达角的估计构成的复数在复平面上的散点图，为了便于观察，每个点均乘以一个(0,3)上均匀分布的随机数。由图4可知看出，波达角的估计组成的散点图自然形成三组，每组对应一条直线，与左图原始波达角的方向基本一致，后续采用峰值检测及K-means聚类算法能准确的估计出波达角的数量以及达波角的值，并以此来确定源信号数目N和信道矩阵A。此时，可以确定源信号数目N＝3，则判断系统属于欠定的情况，采用ISSR算法对信号进行恢复。如图5所示，(a)、(b)、(c)分别为三路源信号实部幅度值，(d)、(e)、(f)为相应的wigner-ville分布，(g)为混合信号的wigner-ville分布(包括自源点、互源点和一般时频点处的时频分布)，(h)为采用式(20)进行降低交叉项干扰后的混合信号的时频分布，(i)为通过粗筛选和再筛选后单源点的时频分布，(j)、(k)、(l)分别为三路输出信号的时频分布，(m)、(n)、(o)分别为三路输出信号的实部幅度值。

比较图5中源信号和输出信号的时域和时频域可知，输出信号实现了对源信号的恢复，尽管幅值不一致，即存在幅度不确定性，但是不影响系统正常通信。观察(g)、(h)、(i)可以看到，(h)实现了对交叉项干扰的抑制，保证了系统的正确性和稳定性，(i)表示单源点筛选的两个相关定理能很好的提取出单源点，如图(i)所示，图中的点(除了少部分干扰点)均取自某一源信号的自源点处，且这些点处有且仅有一路源信号的wigner-ville分布非零。

在存在噪声的环境中，验证本发明系统的可行性和实用性。仿真试验中，选用高斯白噪声进行测试，仅考虑估计信道矩阵的准确性，采用原始信道矩阵与估计信道矩阵的均方误差作为评价指标，即：

其中为A的估计矩阵，此处假设中的列矢量排列已调整为与A一致(一种有效的调整方法可以分别计算的每一列矢量与A的第i列矢量的均方误差，均方误差最小对应的列矢量即为A的第i列矢量的估计)。设参数ε₁＝0.1、ε₂＝0.5，分别取ε₃＝0.01,0.015,0.02，进行100次蒙特卡洛实验，则在不同信噪比环境下信道矩阵估计的MSE(dB)如图6所示。

由图6可以看出当ε₃＝0.01,0.015,0.02时信道矩阵的估计准确度都很高，在信噪比比较低的时候也实现了信道矩阵的精确估计，因此验证了本系统在存在高斯白噪声环境下的可行性和实用性。从图6中还可以得出有关阈值选择的结论，由于ε₃是系统进行再筛选时使用的阈值，对系统的性能影响较大，因此固定ε₁、ε₂，考虑不同ε₃对信道矩阵估计性能的影响，图6反映出ε₃的取值可以在[0.01,0.02]区间选取，在低信噪比情况下，阈值越小越好；当信噪比较高时(大于36dB)，ε₃＝0.015是最佳选择，这也是前面仿真中取ε₃＝0.015的依据。

综上所述，本发明提出的无线通信系统设计方案是可行的、可靠的，而且是高效的，适用于在线性均匀天线接收条件下，源信号未知的情况。在系统实现过程中，放宽了对源信号的时隙、频率、码字等的限制，实现系统对用户或目标的灵活接入，进一步提高了频谱利用率。

Claims (2)

1.一种提高频谱利用率的无线通信系统的设计方法，其特征是源信号数目N未知，接收天线线性均匀排列，设定A)源信号空间时频分布矩阵存在单源点；B)信道矩阵的任意两个列矢量线性独立；源信号通过无线信道后，由M个天线接收混合信号，混合信号由DSP分离系统进行分离，恢复出源信号，其中DSP分离系统进行时频分析，首先求取混合信号的空间时频分布STFD矩阵，筛选出特殊的时频点，所述特殊的时频点处的STFD矩阵仅有一个对角元素非零，其余元素均为零，这些时频点为单源点，单源点上的能量由一路源信号形成，其他的源信号的贡献为零，所有单源点对应的波达角呈现直线聚类特性，通过峰值检测和聚类算法估计出聚类中心的数量和方向，即为源信号的数目和波达角的值，由此得到源信号数目和信道矩阵，根据源信号的数目和接收天线的数目的关系选择相应的恢复算法，恢复出源信号，实现无线通信；

具体为：s(t)＝(s₁(t),s₂(t),…,s_N(t))^T为N路源信号组成的矢量，x(t)＝(x₁(t),x₂(t),…,x_M(t))^T为M路混合信号组成的矢量，其中t＝1,2,…,T_S，T_S为通信信号的持续时间，源信号矩阵S＝[s(1),s(2),…,s(T_S)]，混合信号矩阵X＝[x(1),x(2),…,x(T_S)]，接收天线为M个阵元组成的直线型线性均匀天线阵，设θ₁,θ₂,…,θ_N分别为N路源信号的波达角，则天线阵接收的混合信号表示如下：

X＝AS (1)

其中为信道矩阵，具有范德蒙德结构，有如下形式：

$A=\left[\begin{array}{cccc}1& 1& \mathrm{...}& 1\\ e^{-j\mathrm{\&pi;}sin\left({\mathrm{\&theta;}}_1\right)}& e^{-j\mathrm{\&pi;}sin\left({\mathrm{\&theta;}}_2\right)}& \mathrm{...}& e^{-j\mathrm{\&pi;}\sin \left({\mathrm{\&theta;}}_N\right)}\\ .& .& .& .\\ .& .& .& .\\ .& .& .& .\\ e^{-j\mathrm{\&pi;}(M-1)\sin \left({\mathrm{\&theta;}}_1\right)}& e^{-j\mathrm{\&pi;}(M-1)\sin \left({\mathrm{\&theta;}}_2\right)}& \mathrm{...}& e^{-j\mathrm{\&pi;}(M-1)\sin \left({\mathrm{\&theta;}}_N\right)}\end{array}\right]---\left(2\right)$

采用线性时频变换和二次时频分布相结合的方法来进行时频分析，并根据通信环境的实际情况选择二次时频分布的类型，以保证源信号在时频域具有稀疏性，

DSP分离系统的处理具体步骤为：

1)根据二次时频分布类型，求混合信号的空间时频分布矩阵，即STFD矩阵，对噪声点进行去除：

对源信号矢量s(t)＝(s₁(t),s₂(t),…,s_N(t))^T，其STFD矩阵W_s(t,f)为：

$W_s(t,f)=\left[\begin{array}{cccc}{\mathrm{\&rho;}}_{s_1{s}_1}(t,f)& {\mathrm{\&rho;}}_{s_1{s}_2}(t,f)& \mathrm{...}& {\mathrm{\&rho;}}_{s_1{s}_N}(t,f)\\ {\mathrm{\&rho;}}_{s_2{s}_1}(t,f)& {\mathrm{\&rho;}}_{s_2{s}_2}(t,f)& \mathrm{...}& {\mathrm{\&rho;}}_{s_2{s}_N}(t,f)\\ .& .& & .\\ .& .& \mathrm{...}& .\\ .& .& & .\\ {\mathrm{\&rho;}}_{s_N{s}_1}(t,f)& {\mathrm{\&rho;}}_{s_N{s}_2}& \mathrm{...}& {\mathrm{\&rho;}}_{s_N{s}_N}(t,f)\end{array}\right]$

其中

${\mathrm{\&rho;}}_{s_n,s_n}(t,f)={\&Integral;}_{-\mathrm{\&infin;}}^{+\mathrm{\&infin;}}{s_n}^{*}(t-\frac{\mathrm{\&tau;}}{2})s_n(t+\frac{\mathrm{\&tau;}}{2})e^{-j2\mathrm{\&pi;}f\mathrm{\&tau;}}d\mathrm{\&tau;}$

$\begin{array}{cccc}{\mathrm{\&rho;}}_{s_n,s_w}(t,f)={\&Integral;}_{-\mathrm{\&infin;}}^{+\mathrm{\&infin;}}{s_n}^{*}(t-\frac{\mathrm{\&tau;}}{2})s_w(t+\frac{\mathrm{\&tau;}}{2})e^{-j2\mathrm{\&pi;}f\mathrm{\&tau;}}d\mathrm{\&tau;},& n=1,2,\mathrm{...},N,& w=1,2,\mathrm{...},N,& n\&NotEqual;w,\end{array}$

为源信号的自wigner-ville分布，为源信号的互wigner-ville分布,τ为积分变量；

混合信号的STFD矩阵：

$W_x(t,f)={\mathrm{AW}}_s(t,f)A^H=\left[\begin{array}{cccc}{\mathrm{\&rho;}}_{x_1{x}_1}(t,f)& {\mathrm{\&rho;}}_{x_1{x}_2}(t,f)& \mathrm{...}& {\mathrm{\&rho;}}_{x_1{x}_M}(t,f)\\ {\mathrm{\&rho;}}_{x_2{x}_1}(t,f)& {\mathrm{\&rho;}}_{x_2{x}_2}(t,f)& \mathrm{...}& {\mathrm{\&rho;}}_{x_2{x}_M}(t,f)\\ .& .& & .\\ .& .& \mathrm{...}& .\\ .& .& & .\\ {\mathrm{\&rho;}}_{x_M{x}_1}(t,f)& {\mathrm{\&rho;}}_{x_M{x}_2}(t,f)& \mathrm{...}& {\mathrm{\&rho;}}_{x_M{x}_M}(t,f)\end{array}\right]$

降噪方法如下：

设时频点(t_α,f_β)为噪声点，则有：

$\frac{\left|\right|W_x(t_{\mathrm{\&alpha;}},f_{\mathrm{\&beta;}})\left|\right|}{{\max }_f\left|\right|W_x(t_{\mathrm{\&alpha;}},f)\left|\right|}\&le;{\mathrm{\&epsiv;}}_1---\left(3\right)$

其中||.||表示F-范数，ε₁为接近于0的正阈值，max_f||W_x(t_α,f)||表示对时间t_α选择混合矢量的STFD矩阵的F-范数在所有频点f中的最大值，如果时频点满足公式(3)噪声点的条件，则将其去除；

2)单源点筛选：

通过分析混合信号的STFD矩阵来间接的分析源信号的STFD矩阵，依次通过两个筛选定理来对单源点进行筛选：

定理1：如果时频点(t,f)属于单源点域，则满足：

$\underset{i\&NotEqual;j}{\overset{M}{\underset{i,j=1}{\&Sigma;}}}|{\mathrm{\&rho;}}_{x_i{x}_i}(t,f)-{\mathrm{\&rho;}}_{x_j{x}_j}(t,f)|\&le;{\mathrm{\&epsiv;}}_2---\left(4\right)$

其中|·|表示实数的绝对值或者复数的模值，ε₂为接近于零的正阈值，若此点(t,f)为第n个源信号的单源点，则此时第n个信号的波达角为：

${\mathrm{\&theta;}}_n(t,f)=arcsin\left(\frac{1}{-\mathrm{\&pi;}(m-k)}angle\right({\mathrm{\&rho;}}_{x_m{x}_k}\left(t,f\right)\left)\right)---\left(5\right)$

其中m,k∈{1,2,…,M}；

定理2：如果时频点(t,f)属于单源点域，则满足：

$\underset{i\&NotEqual;j}{\overset{M}{\underset{i,j=1}{\&Sigma;}}}|\frac{{\mathrm{\&rho;}}_{x_i{x}_i}^{MWV}(t,f)}{{\mathrm{\&rho;}}_{x_j{x}_j}^{MWV}(t,f)}-\frac{{\mathrm{\&rho;}}_L^{SPEC}(t,f)}{{\mathrm{\&rho;}}_{x_j}^{SPEC}(t,f)}|\&le;{\mathrm{\&epsiv;}}_3---\left(6\right)$

其中ε₃为接近于零的正阈值，为一种降低交叉项干扰的时频分布，为第i路混合信号x_i(t)的谱图，谱图指x_i(t)的短时傅里叶变换的模值的平方，即

${\mathrm{\&rho;}}_{x_i}^{SPEC}(t,f)=|{\&Integral;}_{-\mathrm{\&infin;}}^{\mathrm{\&infin;}}{x}_i\left(\mathrm{\&tau;}\right){\mathrm{\&gamma;}}^{*}(\mathrm{\&tau;}-t)e^{-j2\mathrm{\&pi;}f\mathrm{\&tau;}}d\mathrm{\&tau;}{|}^2$

其中*表示取共轭,γ(t)为窗函数；

对时频点先经定理1进行初选，初选结果再经定理2进行再选，得到单源点；

3)峰值检测和聚类算法：

筛选出单源点后，计算出波达角，所有单源点对应的波达角呈现直线聚类特性，通过峰值检测和聚类算法估计出聚类中心的数量和方向，即为源信号的数目和波达角的值，再通过波达角计算出信道矩阵；

4)通过上述步骤估计出源信号的数目N和信道矩阵A，根据源信号的数目N和接收天线的数目M的关系选择相应的恢复算法恢复源信号。

2.根据权利要求1所述的一种提高频谱利用率的无线通信系统的设计方法，其特征是所述恢复算法分三种情况：

a)、当N<M时，即为超定的情况，设定了信道矩阵的任意两个列矢量线性独立，则信道矩阵A列满秩，根据关系式X＝AS，源信号的估计为：

$\hat{S}={\left(A^{H}A\right)}^{-1}{A}^{H}X---\left(7\right)$

b)、当N＝M时，即为适定的情况，信道矩阵A列满秩，源信号的估计为：

$\hat{S}=A^{-1}X---\left(8\right)$

c)、当N>M时，即为欠定的情况，对信道矩阵A已知的欠定情况采用欠定盲源分离算法，包括基于最小均方误差的波束赋形法和基于活跃信源数估计的ISSR算法。