CN103248460B - 非理想信道状态下mimo系统中基于干扰对齐的信号处理方法 - Google Patents

Abstract

非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法，涉及无线通信领域。它是为了提高非理想信道状态下MIMO系统的系统容量。它的发送端中心处理单元将编码矩阵和解码矩阵设计好，然后将编码矩阵和解码矩阵分配给各个基站，基站将对应的解码矩阵传输给相应的接收用户。即在每用户功率限制下，信道状态信息存在误差下寻求使用户总平均MSE(mean？square？error，均方误差)最小的线性编解码矩阵进行优化，首先初始化预编码矩阵，然后通过迭代的方式更新预编码矩阵和解码矩阵，可以有效提高系统吞吐量。

Description

非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法

技术领域

本发明涉及无线通信领域，具体涉及一种MIMO系统中信号处理方法。

背景技术

在"移动通信宽带化"和"宽带接入移动化"的趋势下，以LTE和LTE-Advanced为代表的第四代无线通信技术对通信速率提出了更高的要求。当前的移动通信系统是干扰受限系统，用户之间的干扰己经成为系统容量提升的最大阻碍。而干扰信道的容量问题至今没有普遍适用的明晰的结论。近年来出现的干扰对齐(IA，Interference Alignment)从自由度的角度对干扰信道进行了讨论，能够最大化干扰系统自由度。干扰对齐作为协作多点技术的一个分支，在不需要发送端共享数据信息的前提下提高系统容量，成为未来移动通信系统中具有前景的技术。然而，大多数关于干扰对齐的研究假设理想信道状态信息存在，这在实际系统中由于信道估计误差，量化误差，反馈时延等，信道状态信息会存在误差。因此，研究非理想信道状态信息下干扰对齐的性能以及相应的编解码矩阵求解具有重要实际意义。

发明内容

本发明是为了提高非理想信道状态下MIMO系统的系统容量，从而提供一种非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法。

非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法，它由以下步骤实现:

步骤一、对MMSE的非理想信道建模，获得非理想信道模型H_kl;

所述非理想信道模型H_kl的表达式为:

$H_{\mathrm{kl}}={\hat{H}}_{\mathrm{kl}}+E_{\mathrm{kl}},1\≤k\≤K,1\≤l\≤K$

其中为对H_kl的估计值;E_kl为H_kl和之间的误差;

步骤二、在步骤一获得的非理想信道模型H_kl下，采用均方误差法求取包含有K个用户的干扰网络的总MSE值ε;K为正整数;

所述总MSE值ε的表达式为:

其中:ε_k为第k个用户的MSE值。

所述ε_k表示为:

步骤三、对步骤二获得的干扰网络的总MSE值ε求平均，获得MMSE的非理想信道下的总MSE均值;

所述表示为:

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}$

$=\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\left\{G_k^H\right(\underset{l=1}{\overset{K}{\mathrm{\Σ}}}({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H+E_{\mathrm{kl}}{F}_l{F}_l^H{E}_{\mathrm{kl}}^H)\left)G_k\right\}$

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{\mathrm{Ekl}}^2\mathrm{tr}\left(F_l{F}_l^H\right)\mathrm{tr}\left(G_k{G}_k^H\right)$

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}$

步骤四、根据干扰网络中的每个用户的功率，获得预编码矩阵F_l;

具体为:

步骤四一、初始化预编码矩阵F_l;

步骤四二、根据公式:

$G_k\text{=}{[\underset{l=1}{\overset{K}{\mathrm{\Σ}}}\left({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H\right)+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I]}^{-1}{\hat{H}}_{\mathrm{kk}}{F}_k$

同已知预编码矩阵F_l的值求解接收解码矩阵G_k;

步骤四三、根据公式：

$F_l\text{=}{[\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\left({{\hat{H}}_{\mathrm{kl}}^{H}G}_k{G}_k^H{\hat{H}}_{\mathrm{kl}}\right)+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(G_k{G}_k^H\right)I+{\mathrm{\λ}}_{l}I]}^{-1}{\hat{H}}_{\mathrm{ll}}^H{G}_l$

由解码矩阵G_k求解预编码矩阵F_l;

式中:λ_l为拉格朗日乘数;

步骤四四、重复步骤四二和四三，直至收敛;

步骤五、将该预编码矩阵F_l作为干扰对齐结果，完成MMSE的非理想信道状态下MIMO系统中基于干扰对齐的信号处理。

步骤四三中λ_l的取值方法为

如果λ_l=0满足:

tr(F_l ^HF_l)≤p_l

则所有的KKT条件都将满足，此时令式:

$G_k\text{=}{[\underset{l=1}{\overset{K}{\mathrm{\Σ}}}\left({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H\right)+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I]}^{-1}{\hat{H}}_{\mathrm{kk}}{F}_k$

中的λ_l=0;

如果λ_l=0时:

tr(F_l ^HF_l)>P_l

则λ_l的唯一取值采用线性搜索等算法获得。

步骤四中所述根据干扰网络中的每个用户的功率，获得预编码矩阵F_l的具体方法为:

将求取预编码矩阵F_l的过程表示为表达式为:

$\min \stackrel{-}{\mathrm{\ϵ}}\{F_l,G_k\},s.t.{\left|\right|F_l\left|\right|}_F^2\≤p_l$ 的优化过程;

其中:在G_k，1≤k≤K确定后，是关于F_l，1≤l≤K的凸函数;反之，当F_l，1≤l≤K确定后，是关于G_k，1≤k≤K的凸函数;

求取优化过程的表达式的拉格朗日对偶函数，获得:

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{\mathrm{Ekl}}^2\mathrm{tr}\left(F_l{F}_l^H\right)\mathrm{tr}\left(G_k{G}_k^H\right)+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}$

$+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\λ}}_l(\mathrm{tr}{F}_l^H{F}_l-p_l)$

式中:λ_l为拉格朗日乘数，且该取值受F_l的功率限制;

其KKT条件方程表示为:

${\mathrm{\λ}}_l(\mathrm{tr}{F}_l^H{F}_l-p_l)=0,\∀l$

$\mathrm{tr}\left({F_1}^H{F}_l\right)\≤p_l,\∀l$

${\mathrm{\λ}}_l\≥0,\∀l$

其中，对于常数F_l，G_k通过求解获得;

所述G_k的解表示为:

$G_k\text{=}{[\underset{l=1}{\overset{K}{\mathrm{\Σ}}}\left({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H\right)+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I]}^{-1}{\hat{H}}_{\mathrm{kk}}{F}_k$

反之，对于求解F_l，则令，得到:

$F_l\text{=}{[\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\left({{\hat{H}}_{\mathrm{kl}}^{H}G}_k{G}_k^H{\hat{H}}_{\mathrm{kl}}\right)+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(G_k{G}_k^H\right)I+{\mathrm{\λ}}_{l}I]}^{-1}{\hat{H}}_{\mathrm{ll}}^H{G}_l;$

重复求取G_k和F_l直到收敛，获得最终的预编码矩阵F_l。

本发明在MMSE的非理想信道状态下，在MIMO系统通过对相应的编解码矩阵求解实现非理想信道状态信息下干扰对齐，从而大幅度提高了MIMO系统的系统容量，同时大幅度提高了系统的性能。

附图说明

图1是干扰对齐CSI反馈系统示意图。

图2是K用户MIMO干扰信道示意图。

具体实施方式

具体实施方式一、结合图1和图2说明本具体实施方式，MMSE的非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法，

本发明的具体步骤如下:

步骤1:对非理想信道建模，得到非理想信道模型H_kl;

步骤2:采用均方误差(MSE)作为系统线性接收机的衡量准则，给出K用户干扰网络的总MSE值ε;

步骤3:对ε求均值，得到存在高斯信道误差下的总MSE均值;

步骤4:在每用户功率限制下，得到信道状态信息存在误差下寻求使用户总平均MSE最小的线性编解码器设计方案，即优化过程

$\min \mathrm{imise}\stackrel{\‾}{\mathrm{\ϵ}}\{F_l,G_k\},s.t.{\left|\right|F_l\left|\right|}_F^2\≤p_l;$ 得到预编码矩阵F_l;

本发明针对大多数关于干扰对齐的研究假设理想信道状态信息存在,在实际系统中由于信道估计误差，量化误差，反馈时延等，信道状态信息会存在误差。因此，通过对相应的编解码矩阵求解实现非理想信道状态信息下干扰对齐的性能的提高。

基于MMSE的干扰对齐算法可以总结为

1)初始化预编码矩阵F_l;

2)利用式(8)，已知预编码矩阵F_l的值求解接收解码矩阵G_k;

3)依据式(9)，由解码矩阵G_k求解预编码矩阵F_l;

4)重复2)到4)直到收敛。

步骤1:误差的信道模型表示为

$H_{\mathrm{kl}}={\hat{H}}_{\mathrm{kl}}+E_{\mathrm{kl}},1\≤k\≤K,1\≤l\≤K---\left(1\right)$

其中:H_kl，1≤k≤K，1≤l≤K为信道状态矩阵的真实值，1≤k≤K，1≤l≤K表示对真实值H_kl的估计，E_kl表示真实值和估计值之间的误差。在统计误差信道模型中，考虑E_kl中的元素服从相互独立的零均值高斯分布，

步骤2:计算接收用户k的MSE。则接收用户k的MSE可以表示为

K个用户的总MSE可以表示为:

步骤3:对其求均值，得到存在高斯信道误差下的总MSE均值表示为

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}$

$=\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\left\{G_k^H\right(\underset{l=1}{\overset{K}{\mathrm{\Σ}}}({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H+E_{\mathrm{kl}}{F}_l{F}_l^H{E}_{\mathrm{kl}}^H)\left)G_k\right\}$

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{\mathrm{Ekl}}^2\mathrm{tr}\left(F_l{F}_l^H\right)\mathrm{tr}\left(G_k{G}_k^H\right)$

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}---\left(4\right)$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}$

步骤4:在每用户功率限制下，信道状态信息存在误差下寻求使用户总平均MMSE最小的线性编解码器设计方案可以表示为如下的优化过程:

$\min \stackrel{\‾}{\mathrm{\ϵ}}\{F_l,G_k\},s.t.{\left|\right|F_l\left|\right|}_F^2\≤p_l---\left(5\right)$

总平均并不足关于变量G_k,1≤k≤K和F_l,1≤l≤K的联合凸函数。然而，当G_k，1≤k≤K确定后，是关于F_l，1≤l≤K的凸函数。反之，当F_l，1≤l≤K确定后，是关于G_k，1≤k≤K的凸函数。

为了求解(5)，将其分解成两个凸优化的子问题:对于确定的预编码矩阵求解解码矩阵，以及对于确定的解码矩阵求解预编码矩阵，优化过程在两个子问题之间交替进行。

公式(5)的Lagrangian(拉格朗日)对偶函数为

$+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{\mathrm{Ekl}}^2\mathrm{tr}\left(F_l{F}_l^H\right)\mathrm{tr}\left(G_k{G}_k^H\right)+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{{\mathrm{\σ}}^2{G}_k^H{G}_k+I\}$

$-\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\mathrm{tr}\{G_k^H{\hat{H}}_{\mathrm{kk}}{F}_k+G_k^H{E}_{\mathrm{kk}}{F}_k+F_k^H{\hat{H}}_{\mathrm{kk}}^H{G}_k+F_k^H{E}_{\mathrm{kk}}^H{G}_k\}---\left(6\right)$

$+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\λ}}_l(\mathrm{tr}{F}_l^H{F}_l-p_l)$

其中:λ_l为Lagrangian(拉格朗日)乘数，其取值需要满足F_l的功率限制。

KKT条件(Karush-Kuhn-Tucker conditions，库恩-塔克条件)方程可以表示为:

${\mathrm{\λ}}_l(\mathrm{tr}{F}_l^H{F}_l-p_l)=0,\∀l$

$\mathrm{tr}\left({F_1}^H{F}_l\right)\≤p_l,\∀l---\left(7\right)$

${\mathrm{\λ}}_l\≥0,\∀l$

由(7)可得，对于常数值F_l，G_k可以通过求解得到。由于没有对G_k的限制条件，KKT方程自动满足。

G_k的解可以表示为:

$G_k\text{=}{[\underset{l=1}{\overset{K}{\mathrm{\Σ}}}\left({\hat{H}}_{\mathrm{kl}}{F}_l{F}_l^H{\hat{H}}_{\mathrm{kl}}^H\right)+\underset{l=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I]}^{-1}{\hat{H}}_{\mathrm{kk}}{F}_k---\left(8\right)$

同理，对于求解F_l，可以令得到:

$F_l\text{=}{[\underset{k=1}{\overset{K}{\mathrm{\Σ}}}\left({{\hat{H}}_{\mathrm{kl}}^{H}G}_k{G}_k^H{\hat{H}}_{\mathrm{kl}}\right)+\underset{k=1}{\overset{K}{\mathrm{\Σ}}}{\mathrm{\σ}}_{E_{\mathrm{kl}}}^2\mathrm{tr}\left(G_k{G}_k^H\right)I+{\mathrm{\λ}}_{l}I]}^{-1}{\hat{H}}_{\mathrm{ll}}^H{G}_l---\left(9\right)$

此时需要考虑Lagrangian乘数λ_l的取值，使得发送功率满足限制条件。λ_l值的选取可以采用如下方法:

1)如果λ_l=0满足:

tr(F₁ ^HF_l)≤p_l

那么所有的KKT条件都将满足，此时令式(8)中λ_l=0则可以得到F_l的解。

2)如果λ_l=0时:

tr(F_I ^HF_I)>P_l

则必须寻找适当的λ_l>0使得KKT条件成立。虽然没有λ_l的显式解，但是由于tr(F₁ ^HF_l)是凸函数，并丘随λ_l的增大而减小，因此λ_l存在唯一解，并凡可以利用线性搜索等算法有效的求解。

Claims (2)

1.非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法，它由以下步骤实现：

步骤一、对非理想信道建模，获得非理想信道模型H_kl；

所述非理想信道模型H_kl的表达式为：

$H_{kl}={\hat{H}}_{kl}+E_{kl},1\≤k\≤K,1\≤l\≤K$

其中：H_kl表示发送用户l到接收用户k的信道矩阵的真实值，k、l为取值1到K的任意整数；为H_kl的估计值；E_kl为H_kl和之间的误差；

步骤二、在步骤一获得的非理想信道模型H_kl下，求取包含有K个用户的干扰网络的总MSE值ε；K为正整数；

所述总MSE值ε的表达式为：

其中：ε_k为第k个用户的MSE值，F_l为发送用户l的预编码矩阵，G_k为接收用户k的解码矩阵，n_k为接收用户k的噪声，s_l和s_k分别为用户l和用户k的发送符号，l、k＝1、2、…K；表示x的数学期望，A^H表示矩阵A的共轭转置；||a||表示向量a的模；

所述ε_k表示为：

其中为接收用户k对发送信号s_k的估计值；

步骤三、对步骤二获得的系统总MSE值ε求数学期望，获得非理想信道下的总MSE均值

所述表示为：

其中tr{A}表示矩阵A的迹；σ²为噪声方差，即n_k为用户k的噪声；为信道误差的方差，定义为其中vec(A)表示矩阵A的向量化；H为转置符号；I为单位矩阵；

步骤四、根据干扰网络中的每个用户的功率，获得预编码矩阵F_l；

具体为：

步骤四一、初始化预编码矩阵F_l；

步骤四二、根据公式：

$G_k={\[\underset{l=1}{\overset{K}{\Σ}}\left({\hat{H}}_{kl}{F}_l{F}_l^H{\hat{H}}_{kl}^H\right)+\underset{l=1}{\overset{K}{\Σ}}{\mathrm{\σ}}_{E_{kl}}^{2}tr\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I\]}^{-1}{\hat{H}}_{kk}{F}_k$

由已知预编码矩阵F_l的值求解接收解码矩阵G_k；

步骤四三、根据公式：

$F_l={\[\underset{k=1}{\overset{K}{\Σ}}\left({\hat{H}}_{kl}^H{G}_k{G}_k^H{\hat{H}}_{kl}\right)+\underset{k=1}{\overset{K}{\Σ}}{\mathrm{\σ}}_{E_{kl}}^{2}tr\left(G_k{G}_k^H\right)I+{\mathrm{\λ}}_{l}I\]}^{-1}{\hat{H}}_{ll}^H{G}_l$

由解码矩阵G_k求解预编码矩阵F_l；

式中：λ_l为拉格朗日乘数；

步骤四四、重复步骤四二和四三，直至收敛；

步骤五、将该预编码矩阵F_l作为干扰对齐结果，完成非理想信道状态下MIMO系统中基于干扰对齐的信号处理；

其特征是：步骤四中根据干扰网络中的每个用户的功率，获得预编码矩阵F_l的具体方法为：

将求取预编码矩阵F_l的过程表示为表达式为：

$min\stackrel{\‾}{\mathrm{\ϵ}}\{F_l,G_k\},s.t.\left|\right|F_l|{|}_F^2\≤p_l$

的优化过程，min表示最小化，s.t.(subject to)表示约束条件，||A||_F表示矩阵A的Frobenius范数；其含义为满足功率约束条件下寻求预编码矩阵F_l和解码矩阵G_k使得平均MSE最小；

其中：在G_k,1≤k≤K确定后，是关于F_l,1≤l≤K的凸函数；反之，当F_l,1≤l≤K确定后，是关于G_k,1≤k≤K的凸函数；

求取优化过程的表达式的拉格朗日对偶函数表示为：

式中：λ_l为拉格朗日乘数，且该取值受F_l的功率限制；为信道误差的方差，定义为

其KKT条件方程表示为：

${\mathrm{\λ}}_l({\mathrm{trF}}_l^H{F}_l-p_l)=0,\∀l$

$tr\left(F_1^H{F}_l\right)\≤p_l,\∀l$

${\mathrm{\λ}}_l\≥0,\∀l$

其中为梯度算子，表示对拉格朗日对偶函数求梯度，表示对于所有的l；对于常数F_l，G_k通过求解拉格朗日对偶函数相对于自变量的梯度获得，表示G_k的复共轭；

由此获得的G_k的解表示为：

$G_k={\[\underset{l=1}{\overset{K}{\Σ}}\left({\hat{H}}_{kl}{F}_l{F}_l^H{\hat{H}}_{kl}^H\right)+\underset{l=1}{\overset{K}{\Σ}}{\mathrm{\σ}}_{E_{k1}}^{2}tr\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I\]}^{-1}{\hat{H}}_{kk}{F}_k$

对于已知G_k求解F_l，则令拉格朗日对偶函数相对于自变量的梯度为0，即得到：

$F_l={\[\underset{k=1}{\overset{K}{\Σ}}\left({\hat{H}}_{kl}^H{G}_k{G}_k^H{\hat{H}}_{kl}\right)+\underset{k=1}{\overset{K}{\Σ}}{\mathrm{\σ}}_{E_{k1}}^{2}tr\left(G_k{G}_k^H\right)I+{\mathrm{\λ}}_{l}I\]}^{-1}{\hat{H}}_{ll}^H{G}_l;$

重复求取G_k和F_l直到收敛，获得最终的预编码矩阵F_l和解码矩阵G_k。

2.根据权利要求1所述的非理想信道状态下MIMO系统中基于干扰对齐的信号处理方法，其特征在于步骤四三中λ_l的取值方法为：

如果λ_l＝0满足：

tr(F_l ^HF_l)≤p_l

其中p_l为用户l的发送功率约束；则所有的KKT条件都将满足，此时令式：

$G_k={\[\underset{l=1}{\overset{K}{\Σ}}\left({\hat{H}}_{kl}{F}_l{F}_l^H{\hat{H}}_{kl}^H\right)+\underset{l=1}{\overset{K}{\Σ}}{\mathrm{\σ}}_{E_{kl}}^{2}tr\left(F_l{F}_l^H\right)I+{\mathrm{\σ}}^{2}I\]}^{-1}{\hat{H}}_{kk}{F}_k$

中的λ_l＝0；

如果λ_l＝0时：

tr(F_l ^HF_l)>p_l

则λ_l的唯一取值采用线性搜索算法获得。