CN103401824B - 基于修正牛顿法的频率选择性mimo系统空时盲均衡器方法 - Google Patents

Abstract

本发明公开了一种基于修正牛顿法的频率选择性MIMO系统空时盲均衡器方法。包括如下步骤：首先结合多模方法和软决策导向方法建立代价函数；然后采用批处理方式，选择训练序列长度，从已知发射数据和相应的观测数据由经典最小二乘法估计出盲均衡器初始值；利用新提出的修正牛顿法从观测样本中计算出最优均衡器；最后利用均衡器均衡接收信号，消除信号间干扰及码间干扰，恢复源信号。本发明方法克服了现有修正牛顿法应用于MIMO系统计算量大和现有盲均衡算法均衡精度低的缺点。并且与现有方法相比，MNM+MMA+SDD只需要很少的训练样本数据就能确保均衡器正确的收敛到最佳MMSE均衡器。

Description

基于修正牛顿法的频率选择性MIMO系统空时盲均衡器方法

技术领域

本发明属于通信对抗技术领域，具体说是一种基于新提出的修正牛顿法(modifiednewtonmethod，以下简称MNM)的采用正交幅度调制(quadratureamplitudemodulation，以下简称QAM)信号的由空分多址(space-divisionmultipleaccesses，以下简称SDMA)引起的频率选择性多输入多输出(multiple-transmitmultiple-receive，以下简称MIMO)系统空时盲均衡器方法，用于均衡接收信号，消除信号间干扰及码间干扰，恢复源信号。

背景技术

MIMO通信系统可以显著地增加数据传输效率和系统容量，有效地抑制信道衰落带来的影响。相对于单输入单输出(SISO)系统而言，其大大提高了服务质量以及系统容量和可靠性。另一方面，因为QAM信号具有较高的频谱利用率、较好的传输性能以及相对简单的调制和解调的优点，QAM调制方式被广泛应用于众多的无线网络中。基于上述优点，采用高吞吐率QAM信号的MIMO通信系统得到了广泛的应用。

然而，由于MIMO系统存在从多个发射天线到多个接收天线的多个脉冲响应，MIMO系统的均衡比SISO系统更复杂。特别是对于盲方法而言，均衡器收敛速度慢，最大的缺陷是均衡器可能会局部收敛。因此，有迫切的需求来设计一个高效的MIMO系统均衡器。在过去的几年里，涌现了多种MIMO系统均衡方法，其大致可分为三类，即基于训练序列的方法，半盲方法和盲方法。

由于训练序列的作用，基于训练序列的方法计算量较低，且相对于盲方法有更高的精度，尽管基于训练序列的方法具备上述优点，然而因为训练序列占用大量系统资源，很大程度上降低了通信系统传输的有效信息率。半盲均衡方法结合了基于训练序列的方法和盲方法的部分优点，比盲方法计算更简单，可以很大程度上解决相位模糊度和局部收敛的问题，但是现有的半盲均衡方法大多计算复杂度高，收敛速度慢且均衡精度较低。盲方法是一种在信道畸变相当严重的条件下，不借助训练序列，仅根据接收到的信号序列本身对信道进行均衡的方法。与普通的均衡器相比，盲方法具有收敛域大，应用范围广，传输信息效率高等特点。尤其是在不合作的环境下，盲方法是实现系统均衡的唯一途径。然而，如基于梯度牛顿(GN)的恒模算法(CMA)结合软决策导向(SDD)算法(GN-CMA+SDD)和基于梯度下降法的恒模算法结合软决策导向算法(SG-CMA+SDD))的盲方法也存在计算复杂度较高，均衡精确性差的缺点。

发明内容

针对现有均衡方法应用于MIMO系统时存在的不足，即需要较多的样本数和计算量大及均衡精度较低的缺陷，本发明新提出一种基于修正牛顿法(MNM)的频率选择性MIMO系统空时盲均衡器方法。在该盲均衡器方法的设计中，首先结合多模方法和软决策导向方法提出了代价函数，多模方法是一种根据发送信号的模值是已知的，建立代价函数的方法；软决策导向方法是根据有限字符性建立代价函数，求代价函数的最大值，并由此解出的最优w就是需要的均衡器。这两种方法的结合使用使得计算均衡器所需样本减少，并且提高了均衡精度；本发明新提出的修正牛顿法采用正定海森矩阵，使得本发明方法是稳定的，通过该MNM计算最优均衡器，从而大大提高了均衡器收敛稳定性及收敛速度，并且显著降低了计算量。

为了更好的介绍此方法，先描述一下MIMO通信系统模型，图1为MIMO系统模型方框图，其中包含N个发射天线，M个位于相同位置上的接收天线，一个均衡器和一个判决器。令s_n(t)(n＝1，2，…，N)和x_m(t)(m＝1，2，…，M)分别表示N个用户发送的离散的码元序列和经过信道传输后M个接收天线接收的序列。假设信道是准静态和频率选择性的，则接收天线接收到的基带信号可以表示为

$x_m\left(t\right)=\underset{n=1}{\overset{N}{\mathrm{\Σ}}}\underset{l=0}{\overset{L_{m,n}-1}{\mathrm{\Σ}}}{h}_{m,n}\left(l\right)s_n(t-l)+n_m\left(t\right)m=\mathrm{1,2},...,M---\left(1\right)$

式中h_m，n＝[h_m，n(0)，h_m，n(1)，...，h_m，n(L_m，n-1)]^T是从发射天线n到接收天线m的传输信道冲激响应(CIR)，常数L_m，n是h_m，n的阶数；序列n_m(t)是复高斯白噪声，其方差为E[|n_m(t)|²]＝σ_n ²，(m＝1，2，…，M)；s_n(t)是t时刻n个发射天线的发送序列，它的值取自4Q²-QAM符号集 $\mathrm{\Ω}=\{s_{\stackrel{\‾}{m},\stackrel{\‾}{n}}=a_{\stackrel{\‾}{m}}+{\mathrm{jb}}_{\stackrel{\‾}{n}}\},$ $a_{\stackrel{\‾}{m}}=\mathrm{Re}\left(s_{\stackrel{\‾}{m},\stackrel{\‾}{n}}\right)\∈\{\±1,\±3,...,\±(2Q-1)\},$ $b_{\stackrel{\‾}{n}}=\mathrm{Im}\left(s_{\stackrel{\‾}{m},\stackrel{\‾}{n}}\right)\∈\{\±1,\±3,...,\±(2Q-1)\}.$ 我们假设发送序列是独立同分布的，并且具有零均值，即，

$\left.\begin{array}{c}E\[{s_n}^2\left(t\right)\]=0\\ E\[|s_n\left(t\right){|}^2\]={{\mathrm{\σ}}_s}^2\\ E\[s_n\left(t\right)s_{\stackrel{\‾}{n}}^{*}(t-\mathrm{\τ})\]={{\mathrm{\σ}}_s}^2{\mathrm{\δ}}_{(n-\stackrel{\‾}{n})\mathrm{\τ}}\end{array}\right\}---\left(2\right)$

其中接收信号矢量 $\tilde{x}\left(t\right)={\[x_1\left(t\right),x_2\left(t\right),...,x_M\left(t\right)\]}^T,$ 则系统模型输出为

$\tilde{x}\left(t\right)=\mathrm{Hs}\left(t\right)+\tilde{n}\left(t\right)---\left(3\right)$

其中

是整个系统的CIR矩阵，L＝max{L_mn}，m＝1，2，…，M；n＝1，2，…，N

$s\left(t\right)={\[\stackrel{~T}{s}\left(t\right),\stackrel{~T}{s}(t-1),...,\stackrel{~T}{s}(t-L+1)\]}^T$ 和 $\tilde{n}\left(t\right)={\[n_1\left(t\right),n_2\left(t\right),...,n_M\left(t\right)\]}^{\text{T}}$ 分别为发射信号矢量和噪声矢量，其中 $\tilde{s}\left(t\right)={\[s_1\left(t\right),s_2\left(t\right),...,s_N\left(t\right)\]}^{\text{T}};$ $\mathrm{SNR}=E\[\left|\right|\mathrm{Hs}\left(t\right){\left|\right|}_2^2\]/E\[\left|\right|\tilde{n}\left(t\right){\left|\right|}_2^2\]$ 为整个系统的信噪比；如图1，我们可以表示信号发送序列在时间t时刻的估计值

$y\left(t\right)=\underset{l=0}{\overset{\stackrel{\‾}{L}-1}{\mathrm{\Σ}}}{\tilde{w}}_l^H\tilde{x}(t-l)=w^{H}x\left(t\right)---\left(4\right)$

式中 $x\left(t\right)={\[\stackrel{~T}{x}\left(t\right),\stackrel{~T}{x}(t-1),...,\stackrel{~T}{x}(t-\stackrel{\‾}{L}+1)\]}^T,$ 是均衡器的阶数， ${\tilde{w}}_l={\[w_{1,l},w_{2,l},...,w_{M,l}\]}^T,$ 其中上标^T和^H分别表示矩阵或向量的转置和共轭转置，||·||表示欧几里德范数，|·|表示求模，[·]表示期望。

基于以上对MIMO系统模型的描述，本发明的技术方案概括为：首先结合SDD和MMA建立代价函数；然后采用批处理方式，选择训练序列长度，从已知发射数据和相应的观测数据由经典最小二乘法估计出初始值；利用本发明新提出的修正牛顿法从观测数据中计算出最优均衡器；利用均衡器均衡接收信号，消除信号间干扰及码间干扰，恢复源信号。具体实现过程如下：

(1)结合SDD法和MMA法建立代价函数(MMA+SDD)；

(2)采用批处理方式，选择训练序列长度，从已知发射数据和相应的观测数据由经典最小二乘法估计出盲均衡器初值；

(3)运用步骤(2)所得的结果作为初值，对步骤(1)提出的代价函数利用本发明新提出的修正牛顿法计算最优均衡器；

(4)运用步骤(3)的均衡器均衡接收信号，消除信号间干扰及码间干扰，恢复源信号。

本发明与现有技术相比具有以下特点：

1、传统方法运算量大，收敛速度较慢。例如GN-CMA+SDD方法，它的计算复杂度为而本发明方法采用新提出的修正牛顿法，由于该方法采用正定的不变的修正海森矩阵，不仅保留了牛顿法的二阶收敛性，而且总是稳定的，因此如图13所示，本发明方法只需有限的几步迭代即可实现收敛，计算复杂度仅为与传统的MNM相比，大大降低了计算复杂度。

2、传统方法需要的样本数目较多，例如MIMO系统中N＝3，M＝10，图11和图12分别是4-QAM信号和16-QAM信号在SNR＝20dB，训练序列数为20经过30次试验，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最佳MMSE的平均最大失真随样本数的变化曲线图。可以看出，使用GN-CMA+SDD方法恢复原信号时，若要满足平均最大失真不超过0.3，则至少需要300个独立同分布的样本。本发明的方法结合SDD法和MMA法建立代价函数，并用本发明新提出的修正牛顿法计算最优均衡器，从而可以大大降低所需要的样本数，样本数只需大约200即可有效地工作。

3、较传统方法，例如GN-CMA+SDD，SG-CMA+SDD方法，采用本发明方法的性能更好。若含N＝3个用户和M＝10个接收天线的MIMO系统，从图7～10可以看出，本发明方法性能几乎接近最佳MMSE均衡器。这是因为本发明方法采用批处理模式以及没有采取硬决策而具有良好的抗噪声能力和更小的平均信道失真。

附图说明

图1是包含收发天线，均衡器和判决器的MIMO系统模型方框图；

图2是本发明的MNM+MMA+SDD方法流程图；

图3是本发明新提出的修正牛顿方法流程图；

图4是均衡器输入信号图；

图5是源信号恢复的理想信号图；

图6是均衡器输出信号图，其中(a)为用户1输入信号的恢复图，(b)为用户2输入信号的恢复图，(c)为用户3输入信号的恢复图；

图7是在4-QAM情况下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最优MMSE方法均方误差均值随信噪比的变化曲线图；

图8是在16-QAM情况下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最优MMSE方法均方误差均值随信噪比的变化曲线图；

图9是在4-QAM情况下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最优的MMSE方法的误码率均值随信噪比的变化曲线图；

图10是在16-QAM情况下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最优的MMSE方法的误码率均值随信噪比的变化曲线图；

图11是在4-QAM信号，SNR＝20dB，训练序列数为20经过30次试验的条件下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最佳MMSE的平均最大失真随样本数的变化曲线图；

图12是在16-QAM信号，SNR＝20dB，训练序列数为20经过30次试验的条件下，采用本发明方法，GN-CMA+SDD，SG-CMA+SDD和最佳MMSE的平均最大失真随样本数的变化曲线图；

图13是在采用4-QAM和16-QAM信号的情况下，应用本发明方法对给定的600个样本进行30次试验得到的平均收敛性能曲线。

具体实施方式

下面参照附图说明本发明的方法实施过程。

根据图2，本发明的MNM+MMA+SDD方法如下：

1.结合SDD方法和MMA方法建立代价函数。

把y(t)看作一个随机过程，令代价函数最小，即

结合SDD法和MMA(MMA+SDD)，定义

$g\left(y\left(t\right)\right)=\underset{n=1}{\overset{{4Z}^2}{\mathrm{\Σ}}}{\mathrm{\ρ}}_n\exp \[-\frac{1}{{2\mathrm{\σ}}^2}({\left(\right|\mathrm{Re}\left(y\left(t\right)\right)|-|\mathrm{Re}\left(s_n\right)\left|\right)}^2+{\left(\right|\mathrm{Im}\left(y\left(t\right)\right)|-|\mathrm{Im}\left(s_n\right)\left|\right)}^2)\]---\left(6\right)$

f(y(t))＝-lng(y(t))(7)式中ρ_n是和s_n相关的先验概率，σ是标准差，g(y(t))是包含4Q²个与s_n(s_n∈Ω)相关的混合高斯概率密度函数。最小化f(y(t))也就意味着最大化g(y(t))，因此MMA+SDD法本质上是一种最大似然方法。设不同的n对应的ρ_n相等，则关系式(6)可简化为

$g\left(y\left(t\right)\right)={\mathrm{\Σ}}_{m=1}^Z{\mathrm{\Σ}}_{n=1}^Z{g}_{m,n}\left(y\left(\text{t}\right)\right)---\left(8\right)$

式中 $g_{m,n}\left(y\left(t\right)\right)=\exp \[-\frac{1}{{2\mathrm{\σ}}^2}({\left(\right|\mathrm{Re}\left(y\left(t\right)\right)|-(2m-1))}^2+{\left(\right|\mathrm{Im}\left(y\left(t\right)\right)|-(2n-1))}^2)\].$

其中Re[·]和Im[·]分别表示实部的运算符和虚部的运算符；

用时间平均代替总体平均，即数学期望，则代价函数可表示为

2.采用批处理方式，选择训练序列长度根据已知的发射数据 ${\stackrel{\‾}{s}}_n=\[s_n(1-{\mathrm{\τ}}_n),s_n(2-{\mathrm{\τ}}_n),...,s_n\left(\tilde{T}-{\mathrm{\τ}}_n\right)\]$ 和相应的观测数掘 $\stackrel{\‾}{X}=\[x\left(1\right),x\left(2\right),...,x\left(\tilde{T}\right)\]$ 由经典最小二乘法估计出盲均衡器的初始权重向量上标^H和^-1分别表示矩阵或向量的共轭转置和逆，此外伪逆符号Re[·]和Im[·]分别表示实部的运算符和虚部的运算符。一个w只提取一个信号，不同的对应不同的初值，决定恢复哪个信号。

3.利用本发明新提出的MNM从观测数据X＝[x(1)，x(2)，…，x(T)]中计算出最优均衡器w，其中T表示观测样本的数目。该新MNM可以确保抽头系数快速稳定地收敛到最优值，下面介绍本发明新提出的MNM计算方法：

设一个目标函数f(x)，其中x是一个向量变量。如果f(x)的梯度可以写成如下形式

$\▿f\left(x\right)=A\left(x\right)x-c\left(x\right)---\left(10\right)$

式中A(x)和c(x)分别是关于x的正定矩阵函数和向量函数。定义搜索方向为

d_k＝x_k-1A^-1(x_k-1)c(x_k-1)(11)

式中，上标^-1分别表示矩阵或向量的逆，k是迭代索引。令步长为1，则该MNM的更新公式为

x_k＝x_k-1-d_k＝A^-1(x_k-1)c(x_k-1)(12)

根据以上修正牛顿法对式(5)求关于w的微分并化简，得到梯度表达式

$\▿J\left(w\right)=\frac{1}{T}\underset{t=1}{\overset{T}{\mathrm{\Σ}}}\frac{\underset{m=1}{\overset{Z}{\mathrm{\Σ}}}\underset{n=1}{\overset{Z}{\mathrm{\Σ}}}{g}_{m,n}\left(y\left(t\right)\right)\frac{1}{{\mathrm{\σ}}^2}x\left(t\right)x^H\left(t\right)w}{g\left(y\left(t\right)\right)}-\frac{1}{T}\underset{t=1}{\overset{T}{\mathrm{\Σ}}}\frac{\underset{m=1}{\overset{Z}{\mathrm{\Σ}}}\underset{n=1}{\overset{Z}{\mathrm{\Σ}}}{g}_{m,n}\left(y\left(t\right)\right)\frac{1}{{\mathrm{\σ}}^2}{\tilde{f}}_{m,n}\left(t\right)x\left(t\right)}{g\left(y\left(t\right)\right)}$

$=\frac{1}{T{\mathrm{\σ}}^2}\left({\mathrm{XX}}^H\right)w-\frac{1}{T{\mathrm{\σ}}^2}\underset{t=1}{\overset{T}{\mathrm{\Σ}}}\frac{\underset{m=1}{\overset{Z}{\mathrm{\Σ}}}\underset{n=1}{\overset{Z}{\mathrm{\Σ}}}{g}_{m,n}\left(y\left(t\right)\right){\tilde{f}}_{m,n}\left(t\right)x\left(t\right)}{g\left(y\left(t\right)\right)}$

$=\frac{1}{T{\mathrm{\σ}}^2}\left({\mathrm{XX}}^H\right)w-\frac{1}{T{\mathrm{\σ}}^2}\mathrm{Xg}---\left(13\right)$

式中 ${\tilde{f}}_{m,n}\left(t\right)=\[(2m-1)\mathrm{sign}(\mathrm{Re}\left(y\left(t\right)\right)-j\·(2n-1)\mathrm{sign}(\mathrm{Im}\left(y\left(t\right)\right)\],$ 其中，符号函数sign(x)在x≥0和x＜0时分别等于1和-1，这里，令

$\tilde{g}\left(t\right)\frac{\underset{m=1}{\overset{Z}{\mathrm{\Σ}}}\underset{n=1}{\overset{Z}{\mathrm{\Σ}}}{g}_{m,n}\left(y\left(t\right)\right){\tilde{f}}_{m,n}\left(t\right)}{g\left(y\left(t\right)\right)}---\left(14\right)$

$g={\[\tilde{g}\left(1\right),\tilde{g}\left(2\right),...,\tilde{g}\left(T\right)\]}^T---\left(15\right)$

当w＝w_k时，则和g_k分别由下式给出

${\tilde{g}}_k\left(t\right)=\tilde{g}\left(t\right){|}_{w=w_k}=\frac{\underset{m=1}{\overset{Z}{\mathrm{\Σ}}}\underset{n=1}{\overset{Z}{\mathrm{\Σ}}}{g}_{m,n}\left(y_k\left(t\right)\right){\tilde{f}}_{m,n}^k\left(t\right)}{g\left(y_k\left(t\right)\right)}---\left(16\right)$

$g_k={\[{\tilde{g}}_k\left(1\right),{\tilde{g}}_k\left(2\right),...,{\tilde{g}}_k\left(T\right)\]}^T---\left(17\right)$

式中， $y_k\left(t\right)=y\left(t\right){|}_{w=w_k}.$ 如果把式(14)中x_k，A(x_K-1)和c(x_k-1)分别替换为W_k+1，和得到以下的抽头权重更新过程

w_k+1＝(XX^H)^-1Xg_k(18)

其中上标^T表示矩阵或向量的转置，上标^H表示矩阵或向量的共轭转置。

本发明用新提出的修正牛顿方法求最优均衡器w，如图3所示，具体流程如下：

1)给定w一个初值，在此取w的初值为：令k＝0，其中 ${\stackrel{\‾}{s}}_n=\[s_n(1-{\mathrm{\τ}}_n),s_n(2-{\mathrm{\τ}}_n),...,s_n\left(\tilde{T}-{\mathrm{\τ}}_n\right)\]$ 为已知的发射数据； $\stackrel{\‾}{X}=\[x\left(1\right),x\left(2\right),...,x\left(\tilde{T}\right)\]$ 为相应的观测数据，其中表示训练序列长度，上标^H和^-1分别表示矩阵或向量的共轭转置和逆，此外伪逆符号表示

2)根据式(18)计算w_k+1，若不等式||w_k+1-w_k||＜ε，其中0＜ε≤1或者k≥20成立，则迭代运算完成，输出最优均衡器w＝w_k+1；否则转3)；

3)令k＝k+1，转2)；

此修正牛顿法的收敛曲线如图13所示。

4.利用求解出的最优均衡器均衡接收信号，图4为均衡器的输入信号图，经过最优均衡器的处理恢复源信号，如图6所示，与图5的理想信号图进行比较，可以看出利用求解出的最优均衡器使数字基带系统的综合响应成为单位冲激响应，达到消除信号间干扰及码间干扰的目的，即完成了源信号的恢复。

仿真试验对比：

为了进一步说明本发明的MNM+MMA+SDD方法较现有的方法(如GN-CMA+SDD，SG-CMA+SDD)的优越性，，做如下四个仿真实验。

仿真条件：

用户数为3，接收天线数为10，采用4-QAM和16-QAM两种调制方式，训练序列长度信噪比SNR＝20dB，信道脉冲响应h_mn的阶数L＝20。设不同信号的延迟时间τ_n＝3，均衡器的阶数参数σ²取0.25。

试验一：图4为3个用户的信号图，图6为最优均衡器输出信号图，即其中(a)为用户1输入信号的恢复图，(b)为用户2输入信号的恢复图，(c)为用户3输入信号的恢复图，与图5的理想信号图进行比较，可以看出利用求解出的最优均衡器使数字基带系统的综合响应近似成为单位冲激响应，达到消除信号间干扰及码间干扰的目的，即完成了源信号的恢复。

试验二：图7和图9分别显示4-QAM信号下平均均方误差和平均误码率随信噪比的变化情况。图8和图10分别是16-QAM信号下平均均方误差和平均误码率随信噪比的变化情况。本发明方法同时使用所有的样本，它避免了因为使用一个样本迭代一次的自适应方法所造成过大的误差，几乎接近最佳MMSE均衡器；GN-CMA+SDD和SG-CMA+SDD在使用软决策前，需要使用硬决策，而本发明提出的方法只使用软决策可以看出本发明方法具有更好的性能。

试验三：图11和图12描述的是四种方法分别采用4-QAM和16-QAM序列情况下的平均最大失真随样本数的变化情况。与GN-CMA+SDD和SG-CMA+SDD方法相比，本发明方法可以更快、更准确地收敛至最优MMSE均衡器。

试验四：图13是4-QAM和16-QAM信号采用本发明方法对给定的600个样本进行30次试验得到的平均收敛性能。本发明方法采用了我们新提出的拥有大步长(等于1)的MNM，它的一次迭代的收敛速度约相当于通过自适应方法计算所有样本的收敛速度，从图13可以看出，本发明方法仅需几次迭代就可收敛。

Claims (5)

1.基于修正牛顿法的频率选择性MIMO系统空时盲均衡器方法，包括如下步骤：

1)结合多模方法和软决策导向方法建立代价函数；

2)采用批处理方式，选择训练序列长度，从已知发射数据和相应的观测数据由经典最小二乘法估计出盲均衡器初始值；

3)运用步骤2)所得的结果作为初值，对步骤1)提出的代价函数利用修正牛顿法计算最优均衡器；

4)运用步骤3)中的均衡器均衡接收信号，消除信号间干扰及码间干扰，恢复源信号。

2.根据权利要求1所述的基于修正牛顿法的频率选择性MIMO系统空时盲均衡器方法，其特征是：结合多模方法和软决策导向方法建立代价函数的具体过程如下：

把表示信号发送序列在时间t时刻的估计值y(t)看作一个随机过程，令代价函数最小，即

$\underset{w\∈C^{\hat{L}\×1}}{\min }J\left(w\right)=E\[f\left(y\right(t\left)\right)\]---\left(1\right)$

E[·]表示期望，w表示均衡器，结合多模方法和软决策导向方法，定义

$g\left(y\right(t\left)\right)=\underset{n=1}{\overset{4Z^2}{\Σ}}{\mathrm{\ρ}}_n\exp \[-\frac{1}{2{\mathrm{\σ}}^2}({\left(\right|\mathrm{Re}\left(y\right(t\left)\right)|-|\mathrm{Re}\left(s_n\right)\left|\right)}^2+({\left(\right|\mathrm{Im}\left(y\right(t\left)\right)|-|\mathrm{Im}\left(s_n\right)\left|\right)}^2)\]---\left(2\right)$

和

f(y(t))＝-lng(y(t))(3)

式中ρ_n是和s_n相关的先验概率密度，σ是标准差，设不同的n对应的ρ_n是相等的，因此ρ_n可以被忽略掉，关系式(2)简化为：

$g\left(y\right(t\left)\right)={\mathrm{\Σ}}_{m=1}^Z{\mathrm{\Σ}}_{n=1}^Z{g}_{m,n}\left(y\right(t\left)\right)---\left(4\right)$

式中 $g_{m,n}\left(y\right(t\left)\right)=\exp \[-\frac{1}{2{\mathrm{\σ}}^2}({\left(\right|\mathrm{Re}\left(y\right(t\left)\right)|-(2m-1\left)\right)}^2+({\left(\right|\mathrm{Im}\left(y\right(t\left)\right)|-(2n-1\left)\right)}^2)\]$

其中Re[·]和Im[·]分别表示实部的运算符和虚部的运算符；

用时间平均代替总体平均，则代价函数表示为：

$\underset{w\∈C^{\hat{L}\×1}}{min}J\left(w\right)=E\[f\left(y\right(t\left)\right)\]=\frac{1}{T}\underset{t=1}{\overset{T}{\Σ}}f\left(y\right(t\left)\right)---\left(5\right)$

其中T表示观测样本的数目。

3.根据权利要求1所述基于修正牛顿法的频率选择性MIM0系统空时盲均衡器方法，其特征是：所述修正牛顿法的计算方法如下：

设一个目标函数f(x)，其中x是一个向量变量，将f(x)的梯度写成如下形式：

$\▿f\left(x\right)=A\left(x\right)x-c\left(x\right)---\left(6\right)$

式中A(x)和c(x)分别是关于x的正定矩阵函数和向量函数，定义搜索方向为：

d_k＝x_k-1-A^-1(x_k-1)c(x_k-1)(7)

式中上标^-1分别表示矩阵或向量的逆，k是迭代索引，令步长为1，则修正牛顿法的更新公式为：

x_k＝x_k-1-d_k＝A^-1(x_k-1)c(x_k-1)(8)

根据以上修正牛顿法对式(5)求关于w的微分并化简，得到梯度表达式

$\begin{array}{c}\▿J\left(w\right)=\frac{1}{T}\underset{t=1}{\overset{T}{\Σ}}\frac{\underset{m=1}{\overset{Z}{\Σ}}\underset{n=1}{\overset{Z}{\Σ}}{g}_{m,n}\left(y\right(t\left)\right)\frac{1}{{\mathrm{\σ}}^2}x\left(t\right)x^H\left(t\right)w}{g\left(y\right(t\left)\right)}-\frac{1}{T}\underset{t=1}{\overset{T}{\Σ}}\frac{\underset{m=1}{\overset{Z}{\Σ}}\underset{n=1}{\overset{Z}{\Σ}}{g}_{m,n}\left(y\right(t\left)\right)\frac{1}{{\mathrm{\σ}}^2}{\tilde{f}}_{m,n}\left(t\right)x\left(t\right)}{g\left(y\right(t\left)\right)}\\ =\frac{1}{{\mathrm{T\σ}}^2}\left({\mathrm{XX}}^H\right)w-\frac{1}{{\mathrm{T\σ}}^2}\underset{t=1}{\overset{T}{\Σ}}\frac{\underset{m=1}{\overset{Z}{\Σ}}\underset{n=1}{\overset{Z}{\Σ}}{g}_{m,n}\left(y\right(t\left)\right){\tilde{f}}_{m,n}\left(t\right)x\left(t\right)}{g\left(y\right(t\left)\right)}\\ =\frac{1}{{\mathrm{T\σ}}^2}\left({\mathrm{XX}}^H\right)w-\frac{1}{{\mathrm{T\σ}}^2}Xg\end{array}---\left(9\right)$

式中 ${\tilde{f}}_{m,n}\left(t\right)=\[(2m-1)sign\left(\mathrm{Re}\right(y\left(t\right))-j\·(2n-1)sign\left(\mathrm{Im}\right(y\left(t\right))\],$ X＝[x(1)，x(2)，…，x(T)]是观测数据，其中，符号函数sign(x)在x≥0和x＜0时分别等于1和-1，上标^H表示矩阵或向量的共轭转置，令：

$\tilde{g}\left(t\right)=\frac{\underset{m=1}{\overset{Z}{\Σ}}\underset{n=1}{\overset{Z}{\Σ}}{g}_{m,n}\left(y\right(t\left)\right){\tilde{f}}_{m,n}\left(t\right)}{g\left(y\right(t\left)\right)}---\left(10\right)$

$g={\[\tilde{g}\left(1\right),\tilde{g}\left(2\right),...,\tilde{g}\left(T\right)\]}^T---\left(11\right)$

其中上标^T表示矩阵或向量的转置，

根据式(8)得到均衡器抽头权重更新公式：

w_k+1＝(XX^H)^-1Xg_k(12)

其中和g_k分别由下式给出：

${\tilde{g}}_k\left(t\right)=\tilde{g}\left(t\right){|}_{w=w_k}=\frac{\underset{m=1}{\overset{Z}{\Σ}}\underset{n=1}{\overset{Z}{\Σ}}{g}_{m,n}\left(y_k\right(t\left)\right){\tilde{f}}_{m,n}^k\left(t\right)}{g\left(y_k\right(t\left)\right)}---\left(13\right)$

式中 $y_k\left(t\right)=y\left(t\right){|}_{w=w_k}$ 和

$g_k={\[{\tilde{g}}_k\left(1\right),{\tilde{g}}_k\left(2\right),...,{\tilde{g}}_k\left(T\right)\]}^T.---\left(14\right)$

4.根据权利要求1或3所述的基于修正牛顿法的频率选择性MIMO系统空时肓均衡器方法，其特征是：用修正牛顿法计算最优均衡器w的过程如下：

a)给定w的初值：令k＝0，其中 ${\stackrel{\‾}{s}}_n=\[s_n(1-{\mathrm{\τ}}_n),s_n(2-{\mathrm{\τ}}_n),...,s_n(\tilde{T}-{\mathrm{\τ}}_n)\]$ 为已知的发射数据； $\stackrel{\‾}{X}=\[x\left(1\right),x\left(2\right),...,x\left(\tilde{T}\right)\]$ 为相应的观测数据，其中表示训练序列长度，此外伪逆符号表示

b)根据式(12)计算w_k+1，若不等式||w_k+1-w_k||＜ε，其中0＜ε≤1或者k≥20成立，则迭代运算完成，输出最优均衡器w＝w_k+1；否则转步骤c)；

c)令k＝k+1，转步骤b)。

5.根据权利要求4所述的基于修正牛顿法的频率选择性MIMO系统空时盲均衡器方法，其特征是：利用求解出的最优均衡器使数字基带系统的综合响应成为单位冲激响应，消除信号间干扰及码间干扰，完成源信号的恢复。