CN106972907A - 大规模天线系统信道训练及传输过程小区间干扰消除方法 - Google Patents

Abstract

大规模天线系统信道训练及传输过程小区间干扰消除方法，本方法分析和解决大规模多输入多输出天线系统中信道估计和数据传输过程中的小区间干扰问题。考虑到空间相关信道在角度域的系数特性，期望信道和干扰信道的多径很难具有相同的到达角，这使得在角度域期望信道的分量和干扰信道的分量可分辨。上行数据子帧中的符号数远多于导频序列的长度。通过抽取信道粗估计中相应位置上的信道系数可以得到信道的精估计，进而根据精估计信道进行下行数据传输的预编码。仿真结果表明，无论相邻小区采用同一组正交导频序列还是不同的导频序列，所提出的信道估计方法都有效地消除了导频污染。

Description

大规模天线系统信道训练及传输过程小区间干扰消除方法

技术领域

本发明公开了一种大规模天线系统信道训练及传输过程小区间干扰消除法，属于通讯技术领域。

背景技术

为了满足爆炸式增长的移动通信服务需求，迎接物联网、车联网、触觉网等新应用的到来，第五代移动通信系统(5G)正向“信息随心至，万物触手及”的远景目标发展。相比于第四代移动通信系统(4G)，5G预期传输速率达到10Gbps，是4G的100倍。与此同时，5G还要满足低延时高可靠、低功率大传输、以及热点高覆盖等需求。近年来，若干项关键技术被认为是实现5G预期指标的重要方法，已经引起了大量的关注，其中包括大规模多输入多输出(Massive Multi-input Multi-output，Massive MIMO)、超密集网络(Ultra-densenetwork，UDN)、全双工(Full Duplex，FD)以及设备间通信(Device2-Device，D2D)等。

Massive MIMO是满足5G蜂窝网高数据率需求的一项关键技术。在2010年T.L,Marzetta开始提出Massive MIMO时^[1]，他指出当基站天线数趋于无穷时，小区间干扰(Inter cell interference，ICI)不再是制约系统性能的主要因素。随着基站端天线数增多(远大于所服务的用户数，其典型值为128和256)，Massive MIMO的空间自由度很大，空间分辨率极高，在已知信道状态信息(Channel state information，CSI)的条件下有能力消除对邻小区用户的干扰，从而大大提高网络的吞吐量。

Massive MIMO系统是否能够达到很高的吞吐量依赖于准确的实时信道估计。在LTE帧结构中，导频被用来进行信道估计。以时分双工(Time division duplex，TDD)系统为例，用户在上行帧的末尾发送导频序列用于在基站进行信道估计。常用的信道估计方法有基于最小二乘(Least square，LS)的算法和基于最小均方误差(Minimum mean squareerror，MMSE)的算法。基站认为在一整帧的时间内信道保持不变，一旦获得信道估计，就利用估计的信道计算用于上行传输数据解调的检测器和下行传输时使用的预编码。

Massive MIMO系统能够达到性能潜力强烈依赖于获取事实信道状态信息的质量。在传统的多小区MIMO系统中，多个小区内的用户向基站发送相互正交的导频序列，基站根据接收信号估计出期望用户的信道向量。然而实际中正交序列的长度有限，因此只能保证同一小区中选取同一序列用作导频的用户将在信道估计的过程中互相干扰，从而严重影响信道估计的质量。在文献中，一般称由于正交序列复用而产生的信道估计误差为导频污染。如果相邻小区之间使用不同的正交序列集，正如目前LTE系统中所采用的，则此时不同小区的正交序列之间存在相关性，导致基站在对本小区用户进行信道估计时被相邻小区用户的信道干扰。由于训练序列不完全正交导致的信道估计误差，在本文中被称为交叉污染。

在实际的蜂窝系统中小区间干扰是制约Massive MIMO系统可达数据率的另一个问题。尽管理论上Massive MIMO巨大的天线数将干扰抑制在一个非常低的水平，在实际系统中天线数不可能趋于无穷，此时ICI仍然会成为制约系统性能的瓶颈。预测5G中单个小区的平均用户数为10～10⁴，假设激活用户比例式10％，则意味着每个基站需要同时服务的用户数为10～10³。即使最保守地假设每个用户用一个资源块(Resource block，RB)，如180kHz，对于20MHz的LTE系统，在每个资源块上仍然要空分服务至多10个用户；若为每个用户提供1MHz的带宽，即6个RB，则要空分至多60个用户。在这种条件下，Massive MIMO基站的天线数已经不再远远超过服务的用户数，此时ICI成为影响网络性能的一大问题。此时需要基站间的协作传输来回避干扰，这也是本方法要解决的问题。

在同构网中，小区边缘用户的服务质量一般不如中心用户，在宏小区中加入微小区对宏基站起到分流作用，并服务质量较差的用户(多为那些距离宏基站较远的)，从而提升网络的总吞吐量和边缘用户的性能。传统的易购网由于宏基站天线数较少(典型值8根)，微基站的分流作用对网络性能提升明显。在异构Massive MIMO系统中，尽管宏基站的空分能力很强，但经过合理设计微小区的分布，网络的整体性能预计会在同构Massive MIMO之上。异构Massive MIMO中存在跨层干扰，由于微基站的回传链路限制，层间采用正交时频资源传输以及小区间协调波束成形，可能成为在异构Massive MIMO系统中高效抑制跨层干扰的方法。

发明内容

本发明将检测得到的上行子帧中的数据符号当做导频序列来估计期望信道在角度域的位置和幅值。然后，利用这一信息对由上行导频序列训练得到的粗估计信道进行精估计以消除导频污染，并利用这个精估计信道设计用于下行数据传输的与编码器。最后，通过仿真结果评估所提出方法的性能。

粗体符号表示矩阵和向量。I_M表示M阶单位矩阵。E{·}表示取期望。|·|表示取模。diag{g}是以g的元素为对角元的对角阵。g[j]表示向量g的第j个元素。(·)^*，(·)^T和(·)^H分别表示共轭、转置和共轭转置。

考虑一个B小区时分双工全频复用蜂窝网络。在每个小区中，每个基站配备N_t根天线服务M个单天线用户。每一帧包含一个上行子帧和一个下行子帧，其中上行子帧由上行训练段和上行数据传输段组成。如图1所示为TDD帧结构示意图。

假设块衰落信道，在每帧中保持不变、帧间相互独立。

基站端天线阵列为均匀线阵。则第b个基站到第k小区第m个用户的单元域信道向量表示为：

其中L_mk,b是信道的可分辨多径数，是第l条径的幅值，为统计独立的零均值复数，是第l条多径的到达角，是阵列响应向量，表示为：

其中d是阵列天线间距，λ是波长。

许多场景下Massive MIMO的信道在角度域具有稀疏特性。对均匀线阵而言，其单元域信道和角度域信道互为傅里叶变换。用表示N_t点傅里叶变换矩阵，其第(n,m)个元素的值为1≤n，m≤N_t。第b个基站到第k小区第m个用户的角度域信道表示为

其中是第l条多径阵列响应向量的角度域表示。将公式(2.2)以及的表达式代入，则的第n个元素表示为：

其中

的模值是这是一个的周期函数，其峰值出现在处，其中k为整数。由于Massive MIMO的天线数很多，只有满足时模值才会较大。只有那些到达角满足的多径分量才对有显著地贡献。由于空间散射体的数量有限，多径分量数也是有限的，这由传播环境决定。如此，中只有少部分元素有较大的模值，而其他原色被看作零。因此，当N_t很大的时候被近似看作稀疏向量。

信道的角度域稀疏特性为分辨不同用户的信道提供了可能，如图2所示。采用角度域信道估计来消除导频污染。

在上行训阶段，所有用户向基站发送导频以协助基站进行信道估计。

令为第b个小区第m个用户分配到的导频序列，同一小区内不同用户分配到的导频序列相互正交。也就是说，以及j≠m。则第b个基站接收到的导频序列表示为：

其中p_U是发射功率，H_b,b是第b个基站到本小区所有用户的信道矩阵。是第b个基站到第k(k≠b)个小区所有用户的信道矩阵，是导频矩阵，其每一行是分配给第b个小区所有用户的导频序列。是加性高斯白噪声，其元素具有零均值，方差为

为了便于分析并把重点放在解决导频污染问题上，选用最小二乘信道估计，在第b个基站估计自己与第b个小区所有用户的单元域信道矩阵为：

其中是信道粗估计，是估计误差。

为了消除信道估计阶段的邻小区干扰，分配给网络中所有用户的导频序列应该相互正交。减小由此而来的巨大开销，相邻小区用户分配到的导频序列往往不相互正交。也就是说，S_kS_b≠0，或者相邻小区直接使用同一组导频序列，这就导致了导频污染。如果不加处理，导频污染会严重制约下行预编码的性能。

信道粗估计误差的自相关矩阵为：

其中，是第b个基站到第k小区第m个用户的大尺度信道增益。

利用上行传输数据和信道稀疏性进行信道估计的方法如下。在第一帧中，用户采用低阶的调制编码方式传输上行数据，此时利用上行导频进行信道粗估计，而后利用信道粗估计正确解调上行数据符号。其次，基站将解调得到的各用户发送的数据符号视作导频序列，用户估计角度域期望信道中远大于零的元素的位置。最后，利用这一位置信息来获取信道精估计，以设计下行传输的与编码器。在时变信道中，主到达角(对应于角度域信道模值远大于零的元素位置)由用户和基站的位置决定，它随时间的变化(通常在秒级)要比信道幅值的变化(通常在毫秒级)慢得多。因此，信道的角度域位置信息没有必要在每一帧都进行估计。一旦获得了信道的角度域位置信息，它就被用于对后续一系列帧的信道进行精估计，以支持较高阶的调制编码方式用于上下行数据传输。

A.基于最小二乘的方法

在上行传输阶段，第b个基站接收到的来自第b小区的所有用户的信号表示为：

其中X_b是第b个小区所有用户的发送数据符号，l_d是数据符号数，中的元素是均值为零方差为的加性高斯白噪声。

假设第b个基站正确解调X_b，通过将X_b视做导频序列并考虑公式(2.8)，得到估计角度域信道的角度域观测方程：

其中是第b个基站到第b个小区所有用户的角度域信道矩阵。

根据最小二乘准则，基于数据的角度域期望信道的估计为：

其中 是估计误差。

l_d→∞时，估计误差的自相关矩阵为：

通过比较公式(2.11)和公式(2.7)并考虑到l_d＞＞l_p，看出基于数据的信道估计性能远远优于基于导频的信道估计性能。通过利用上行数据，更精确地获得公式(2.10)中角度域信道非零分量的位置。然而这种方法的计算复杂度决定于上行帧的符号数l_d。在实际应用中，使用递推最小二乘算法来降低复杂度。

定义为表示位置信息的向量，它包含了中模值最大的N_Tap个元素的位置。若为中模值前N_Tap大的元素，则否则

B.基于时间平均的方法

在期望用户传输的上行子帧中，当接收到第n个符号时第b个基站的接收信号向量被表示为：

其中是的列向量。x_mb(n)是第b个小区第m个用户发送的上行数据帧中的第n个符号，是公式(2.10)中数据符号矩阵X_b的第m行第n列的元素。是加性高斯白噪声向量。

对上述接收信号向量进行傅里叶变换，再除以正确解调的上行传输符号x_mb(n)以及并乘上则由公式(2.12)得到：

其中是角度域粗估计信道。

令为角度域能量分布向量的估计。考虑到对于蜂窝系统中的大多数调制编码方式来说其星座图关于原点对称。为了达到最大熵率，星座图中的所有调制符号应该被等概率使用。因此，通过对传输符号x_mb(n)取期望，得到于是，由公式(2.13)得到：

假设传输符号具有各态历经性，则利用时间平均来近似集平均即期望。因此，角度域功率分布向量被估计为：

由此，通过相同的方法获得角度域位置向量

如果需要对多个上行帧的数据取平均以提高性能，利用递推算法对多个连续的上行子帧取时间平均，同样具有低复杂度。

利用由公式(2.6)中导频序列得到的单元域信道粗估计以及角度域模值远大于零的元素位置向量得到单元域信道精估计如下：

令表示第b个小区中第m个用户的预编码向量，则：

公式(2.17)说明单元域预编码和角度域预编码的等价性，为此只在角度域讨论预编码。

通过对单元域信道精估计进行傅里叶变换，得到角度域信道精估计利用它设计用于下行传输的与编码器。尽管迫零(Zero Forcing，ZF)或MMSE预编码能够提供更好的性能，但其计算复杂度较高。

尽管Massive MIMO系统大幅提高能效和谱效，然而由于信道维数高，在基站端获取、通过回传链路实时交换瞬时信道信息都非常困难。幸运的是，已有文献表明，大量的信道具有很强的空间相关性。如果已知信道的空间相关矩阵R，则利用统计信道信息R和瞬时信道信息来设计时间尺度不同的两级预编码，还被用来减小异构Massive MIMO系统空域协调波束成形时的回传链路开销。

另外，在异构Massive MIMO系统中，由于基站的天线数很多，采用空分的方式回避对微基站用户的跨层干扰；而由于微基站的天线数较少(通常为2～4根)，采用在时域或频域协调的方法回避对宏基站用户的跨层干扰。

考虑宏小区和毫微小区组成的异构蜂窝网络，令B和M分别表示基站和用户的总数。在每个宏小区中，宏基站配备N_t(N_t很大)根天线位于小区中心。微小区分布在宏小区内。由于宏小区和微小区使用共同的视频资源，故相互之间存在干扰。

令T表示所有基站组成的集合，所有基站包括宏基站和毫微基站。则在下行传输时，第m个用户的接收信号表示为：

其中，为第m个用户到第b个基站的信道向量，是第b个宏基站的预编码矩阵，M_b是基站b同时服务的用户数。是基站b的发送符号。n为加性高斯白噪声，其均值为零，方差为

最简单的、无需协调的跨层干扰处理方法就是异频组网，即小区间的频段正交。类似地，也采用时间资源正交。这种方法的基本思想是使相互邻近的基站采用正交的时频资源块进行数据传输。由于无需在基站间进行协调，这种策略实现起来很容易。这种思路最开始被提出时的目标在于提升小区边缘用户的数据率。

异频组网中，T₁表示宏基站的集合，T₂表示微基站的集合。假设用户m接入宏基站b，则下行传输时宏用户i的接收信号为：

其中第一项为宏用户的期望信号，第二项为来自于宏基站的小区间干扰。

假设用户m接入微基站b’，其下行传输时微用户m的接收信号为：

其中第一项为微用户的期望信号，第二项为来自于微基站的小区间干扰。

在异频组网时，所有宏基站和所有毫微基站分别组成两个子系统，完全独立工作。由于基站间无需交换任何信息，故其实现难度和成本均较低。在网络中，令p表示所有宏基站的频带使用率，ρ∈[0,1]，B_S表示整个异构系统的可用带宽。根据香农公式，此时网络的吞吐量表示为：

其中，Ψ₁、Ψ₂分别表示所有接入宏基站和毫微基站的用户集合。S_m为第m个用户接收到期望信号的能量，I_m为第m个用户接收到小区间干扰信号能量。

小区间协调波束赋形(Coordinated Multi-cell Processing CoordinatedBeamforming，CoMP-CB)

在异构Massive MIMO系统中，宏基站具有很高的空间自由度，使得其具有高度的空间指向性。如果能在基站端获取干扰用户的信道，则其通过预编码对干扰用户形成零陷。

假设第b个基站获得其本身到全部M个用户的信道，即基站b为其服务基站，则它对第m个用户的协作ZF与编码器表达为：

其中即，Q_mb是第b个基站到除第m个用户外所有用户的信道估计向量张成的零空间。P_m是分配给第m个用户的发射功率。

第m个用户的下行接收信号为：

其中，Θ_b为第b个基站服务用户的集合。公式(3.6)右端第一项为用户的期望信号，第二项为本小区的多用户干扰(Multiuser interference，MUI)，第三项为来自其他基站的小区间干扰。第二项和第三项的存在是由于信道估计误差导致。

附图说明

图1为TDD帧结构示意图。

图2角度域信道的稀疏性。

具体实施方式

下面以复杂度较低的角度域最大比合并(Maximum Rate Transmission，MRT)为例，则预编码向量为角度域信道精估计的共轭转置。由于的元素仅在期望用户角度域信道模值大于零的位置非零，在其他的角度上没有能力传输，因此降低了对相邻小区数据传输的干扰。

通过仿真评估所提出的方法的性能。

考虑一个七小区蜂窝网络，小区半径为250m。每个基站服务10个均匀分布的单天线用户。基站和用户的发射功率分别是45dBm和23dBm。信道模型采用空间信道模型，角度扩展取为8°(使用其他角度扩展得到的结果相似，这里不再给出)。下行传输使用MRT波束成形和等功率分配。系统性能用中间小区的和率来评估。仿真结果由300次随机撒用户、且每次生成100次小尺度信道进行平均得到。

用于训练的导频序列利用Zadoff-Chu序列生成，n＝0,…,N_ZC-1，其中N_ZC＝37，u＝mod(1+4(b-1),N_ZC)。分配给同一小区内所有用户的导频序列是某一Zadoff-Chu的循环移位。考虑信道粗估计中可能存在的两种干扰。一种为导频污染(Pilotcontamination，PC)，此时相邻小区使用同一组导频序列；另一种交叉污染(Crosscontamination，CC)，此时相邻小区之间使用不同的导频序列集(即不同Zadoff-Chu序列的循环移位)，LTE系统中正是这种情况，不同小区的序列集之间有互相关。

为了便于比较，同事给出了使用传统的基于导频的最小二乘信道估计(当考虑导频污染时图标为“Traditional PC”，当考虑交叉污染时图标为“Traditional CC”)的仿真性能。此外还给出已知真是信道信息时的性能作为参考基准。

为了同时满足移动数据服务的爆炸式增长并提高覆盖率，通过在宏小区内部署低功率小区、例如微基站(Micro-cell)和毫微基站(Pico-cell)，异构网被认为是一种灵活的、低成本的解决方案。密集部署半径小的低功率小区不但有效对抗无线链路的路径损耗，而且解决室内覆盖和热点问题^[17]。

然而，与此同时异构网又会带来复杂的干扰问题，尤其是宏基站和低功率基站(如果没有特别声明，以下统称为微基站)之间的跨层干扰^[19]。为了解决这个问题，各种时间、频率、或者空间干扰协调(又称协调波束成形)近年来被广泛研究。不过，现有的空间干扰协调方法需要在宏基站和微基站之间交换瞬时信道信息，而微基站在很多场景下由用户随机部署，其回传链路容量十分有限，使得经过回传链路交换的信道严重过时。随着信道矩阵维数的快速增加，这个问题在宏基站具有大规模天线阵列(即异构Massive MIMO系统)的时候更为严重。传统的微小区(Micro-cell)和配备大规模天线阵列的宏小区(Macro-cell)组成的异构网性能相对于同构网没有明显增益。在仿真中，采用配备大规模天线阵列的宏基站和4天线毫微基站(Pico-cell)组成异构网，观察宏基站天线数从传统8天线以指数增长到512天线的过程中网络性能的变化。

由相邻宏小区产生的干扰—小区间干扰，以及同一宏小区内宏基站对所有微用户和所有微基站对宏用户的干扰—跨层干扰。

考虑七小区蜂窝网络，每个宏小区中心为配有128天线阵列的宏基站，宏基站间距500m。在每个宏小区内随机均匀分布4个毫微小区(Pico-cell)，毫微小区中心为4天线毫微基站。宏小区内全部基站共同服务15个均匀分布的单天线用户。宏基站和微基站的发射功率分别为46dBm和24dBm。用户接收噪声为—95dBm。仿真中考虑了阴影衰落以及直视路径存在的可能性，路径损耗模型根据参考文献[18]的参数设置。空间信道模型和预编码方式与3.3.1节相同。系统性能采用中间小区和率描述。仿真结果由50次随机播撒用户，每次生成50次小尺度信道取平均得到。

在传统异构网中，微基站起到分流作用，以减轻宏基站的服务压力。设置小区选择偏置门限(Cell selection offset，CSO)是一种常用的异构网接入准则。在该准则下，用户选择信号最强法人基站接入。用户选择接入微基站的条件为：

R_Macro<R_Pico+cso

其中cso是偏置门限，表征了毫微基站相对宏基站的优先量，典型取值为0-20dB。R_Macro和R_Pico分别是宏基站和毫微基站到达用户时的信号功率(为基站发射功率和路径损耗的乘积)。

然而相比于宏基站采用8天线的传统情况，异构Massive MIMO中的宏基站具有很强的空分能力，这使得用户在选择接入基站时对毫微基站的优先级应有所降低。

传统异构网中毫微基站的加入有效地对抗了路径损耗，增强了对边缘用户的覆盖能力，其性能相对同构网有着显著提升。然而当宏小区为大规模天线阵时，其增大的空间自由度有效地减少了对邻小区用户的干扰，此时4天线毫微基站的存在对系统性能的提升不再明显。为了寻找在宏基站配有大规模天线阵列时异构网性能优于同构网的场景，本小节通过仿真观察在几种不同的参数设定下，宏基站的天线数对系统性能的影响。

在异构网中，当宏基站和毫微基站都是用全部20MHz带宽的时候，会存在严重的跨层干扰。频率资源分配是一种典型的干扰协调方式，本小节采用最简单的层间5:5分频，比较当前系统参数下异频组网性能相比全频带传输的优劣。

为了便于比较，同时给出七小区和单小区，即是否存在小区间干扰情况下的仿真结果，以及同构网和异构网下的仿真结果。具体情况在图中已有标注，下文会对仿真结果作进一步说明。

假设毫微基站在小区内随机分布，但所使用的毫微小区性能参数以及分布密度仍是传统异构网下的经验值。仿真过程中看到，在宏小区内用户数量较少，以及毫微基站距离宏基站较近时，用户接入毫微基站的概率很小，在这种情况下跨层干扰的作用不明显。

在本小节的一系列六组仿真中，为了进一步观察跨层干扰对网络性能带来的影响，固定小基站在宏小区中的相对位置分布为环形等间隔分布，改变小基站到宏小区中心的距离，观察性能随小基站距离宏基站中心的变化趋势。首先增加毫微小区的数量，并缓慢增加其发射功率以及服务半径，保证其小区边缘信噪比保持不变。通过仿真分析，找到导致跨层干扰的关键因素，并指导异构Massive MIMO的部署方式。

基本仿真参数如下：宏基站天线数为128，站间距为500m。毫微基站的天线数为4，位置分布相对于本小区宏基站分为中心、中部、边缘三种环状区域，距离中心分别为75m、140m和210m。当毫微基站的半径为40m时，其发射功率设定为24dBm，此时小区边缘信噪比为44.41dB。随着毫微基站的半径增加，保证毫微小区的边缘信噪比保持恒定。考虑阴影衰落和直视路径存在的可能性。仿真结果为500次随机播撒用户的仿真结果取算术平均值，对于每次试验，阴影衰落和小尺度信道实现都随机产生。

仿真过程中毫微基站之间可能会发生重叠(即产生毫微小区间干扰)，用户接入方式采取“信号最强基站接入”准则。

第一组仿真中，将毫微小区位置固定在中心、中部、边缘三种环形区域。

在宏小区和微小区组成的异构Massive MIMO系统中，由于宏基站具有很强的空分能力，异构网全频带传输的性能不及同构网。当用户数很大时，由于跨层干扰(此处为宏基站对微基站的干扰)的影响变得更明显，此时异频组网比全频带传输的性能更优。

在宏小区和毫微小区组成的异构Massive MIMO系统中，考虑小区间干扰的情况，异构网的性能在宏基站天线数较少时优于同构网。异构Massive MIMO用户接入时的最佳接入方式是直接选择信号最强的基站接入。跨层干扰对网络性能的影响不大，全频带传输的性能远优于5:5分频传输。

Claims (1)

1.大规模天线系统信道训练及传输过程小区间干扰消除方法，本方法将检测得到的上行子帧中的数据符号当做导频序列来估计期望信道在角度域的位置和幅值；然后，利用这一信息对由上行导频序列训练得到的粗估计信道进行精估计以消除导频污染，并利用这个精估计信道设计用于下行数据传输的与编码器；最后，通过仿真结果评估所提出方法的性能；

粗体符号表示矩阵和向量；I_M表示M阶单位矩阵；E{·}表示取期望；|·|表示取模；diag{g}是以g的元素为对角元的对角阵；g[j]表示向量g的第j个元素；(·)^*，(·)^T和(·)^H分别表示共轭、转置和共轭转置；

其特征在于：考虑一个B小区时分双工全频复用蜂窝网络；在每个小区中，每个基站配备N_t根天线服务M个单天线用户；每一帧包含一个上行子帧和一个下行子帧，其中上行子帧由上行训练段和上行数据传输段组成；

假设块衰落信道，在每帧中保持不变、帧间相互独立；

基站端天线阵列为均匀线阵；则第b个基站到第k小区第m个用户的单元域信道向量表示为：

$h_{mk,b}={\mathrm{\&Sigma;}}_{l=1}^{L_{mk,b}}{\mathrm{\&beta;}}_{mk,b}^{l}a\left({\mathrm{\&theta;}}_{mk,b}^l\right)\&Element;C^{l\&times;N_t}---\left(2.1\right)$

其中L_mk,b是信道的可分辨多径数，是第l条径的幅值，为统计独立的零均值复数，是第l条多径的到达角，是阵列响应向量，表示为：

$a\left({\mathrm{\&theta;}}_{mk,b}^l\right)=\&lsqb;{\mathrm{le}}^{-j2\mathrm{\&pi;}\frac{d}{\mathrm{\&lambda;}}{\mathrm{sin\&theta;}}_{mk,b}^l(N_t-l)}\&rsqb;---\left(2.2\right)$

其中d是阵列天线间距，λ是波长；

许多场景下Massive MIMO的信道在角度域具有稀疏特性；对均匀线阵而言，其单元域信道和角度域信道互为傅里叶变换；用表示N_t点傅里叶变换矩阵，其第(n,m)个元素的值为第b个基站到第k小区第m个用户的角度域信道表示为

$g_{mk,b}=h_{mk,b}{F}_{N_t}={\mathrm{\&Sigma;}}_{l=1}^{L_{mk,b}}{\mathrm{\&beta;}}_{mk,b}^{l}a\left({\mathrm{\&theta;}}_{mk,b}^l\right)F_{N_t}\stackrel{\mathrm{\&Delta;}}{=}{\mathrm{\&Sigma;}}_{l=1}^{L_{mk,b}}{\mathrm{\&beta;}}_{mk,b}^l{P}_{mk,b}^l---\left(2.3\right)$

其中是第l条多径阵列响应向量的角度域表示；将公式(2.2)以及的表达式代入，则的第n个元素表示为：

其中

的模值是这是一个的周期函数，其峰值出现在处，其中k为整数；由于Massive MIMO的天线数很多，只有满足时模值才会较大；只有那些到达角满足的多径分量才对有显著地贡献；由于空间散射体的数量有限，多径分量数也是有限的，这由传播环境决定；如此，中只有少部分元素有较大的模值，而其他原色被看作零；因此，当N_t很大的时候被近似看作稀疏向量；

信道的角度域稀疏特性为分辨不同用户的信道提供了可能；采用角度域信道估计来消除导频污染；

在上行训阶段，所有用户向基站发送导频以协助基站进行信道估计；

令为第b个小区第m个用户分配到的导频序列，同一小区内不同用户分配到的导频序列相互正交；也就是说，以及则第b个基站接收到的导频序列表示为：

$Y_b^p=\sqrt{p_U}{H}_{b,b}^T{S}_b+\sqrt{p_U}{\mathrm{\&Sigma;}}_{k=l,k\&NotEqual;b}^B{H}_{k,b}^T{S}_k+N_b^p---\left(2.5\right)$

其中p_U是发射功率，H_b,b是第b个基站到本小区所有用户的信道矩阵；是第b个基站到第k(k≠b)个小区所有用户的信道矩阵，是导频矩阵，其每一行是分配给第b个小区所有用户的导频序列；是加性高斯白噪声，其元素具有零均值，方差为

为了便于分析并把重点放在解决导频污染问题上，选用最小二乘信道估计，在第b个基站估计自己与第b个小区所有用户的单元域信道矩阵为：

$\begin{array}{c}{\hat{H}}_{b,b}^p=\frac{1}{l_p\sqrt{p_U}}{\left(Y_b^p{S}_b^H\right)}^T\\ =H_{b,b}+\underset{k=l,k\&NotEqual;b}{\overset{B}{\mathrm{\&Sigma;}}}{\left(\frac{S_k{S}_b^H}{l_p}\right)}^T{H}_{k,b}+\frac{{\left(N_b^p{S}_b^H\right)}^T}{l_p\sqrt{p_U}}\\ \stackrel{\mathrm{\&Delta;}}{=}{H}_{b,b}+W_b^p\end{array}---\left(2.6\right)$

其中是信道粗估计，是估计误差；

为了消除信道估计阶段的邻小区干扰，分配给网络中所有用户的导频序列应该相互正交；减小由此而来的巨大开销，相邻小区用户分配到的导频序列往往不相互正交；也就是说，S_kS_b≠0，或者相邻小区直接使用同一组导频序列，这就导致了导频污染；如果不加处理，导频污染会严重制约下行预编码的性能；

信道粗估计误差的自相关矩阵为：

$E\left\{W_b^p{W}_b^{pH}\right\}=\frac{N_t}{l_p}({\mathrm{\&Sigma;}}_{k=1,k\&NotEqual;b}^B{\mathrm{\&Sigma;}}_{m=1}^M{\mathrm{\&alpha;}}_{mk,b}+\frac{{\mathrm{\&sigma;}}_U^2}{p_U})I_M---\left(2.7\right)$

其中，是第b个基站到第k小区第m个用户的大尺度信道增益；

利用上行传输数据和信道稀疏性进行信道估计的方法如下；在第一帧中，用户采用低阶的调制编码方式传输上行数据，此时利用上行导频进行信道粗估计，而后利用信道粗估计正确解调上行数据符号；其次，基站将解调得到的各用户发送的数据符号视作导频序列，用户估计角度域期望信道中远大于零的元素的位置；最后，利用这一位置信息来获取信道精估计，以设计下行传输的与编码器；在时变信道中，主到达角由用户和基站的位置决定，它随时间的变化要比信道幅值的变化慢得多；因此，信道的角度域位置信息没有必要在每一帧都进行估计；一旦获得了信道的角度域位置信息，它就被用于对后续一系列帧的信道进行精估计，以支持较高阶的调制编码方式用于上下行数据传输；

A.基于最小二乘的方法

在上行传输阶段，第b个基站接收到的来自第b小区的所有用户的信号表示为：

$Y_b^d=\sqrt{p_U}{H}_{b,b}^T{X}_b+\sqrt{p_U}{\mathrm{\&Sigma;}}_{k=1,k\&NotEqual;b}^B{H}_{k,b}^T{X}_k+N_b^d---\left(2.8\right)$

其中X_b是第b个小区所有用户的发送数据符号，l_d是数据符号数，中的元素是均值为零方差为的加性高斯白噪声；

假设第b个基站正确解调X_b，通过将X_b视做导频序列并考虑公式(2.8)，得到估计角度域信道的角度域观测方程：

$\frac{Y_b^{dT}{F}_{N_t}}{\sqrt{p_U}}=X_b^T{G}_{b,b}+{\mathrm{\&Sigma;}}_{k=1,k\&NotEqual;b}^B{X}_k^T{G}_{k,b}+\frac{N_b^{dT}{F}_{N_t}}{\sqrt{p_U}}---\left(2.9\right)$

其中是第b个基站到第b个小区所有用户的角度域信道矩阵；

根据最小二乘准则，基于数据的角度域期望信道的估计为：

其中 是估计误差；

l_d→∞时，估计误差的自相关矩阵为：

$E\left\{W_b^d{W}_b^{dH}\right\}=\frac{N_t}{l_d}({\mathrm{\&Sigma;}}_{k=1,k\&NotEqual;b}^B{\mathrm{\&Sigma;}}_{m=1}^M{\mathrm{\&alpha;}}_{mk,b}+\frac{{\mathrm{\&sigma;}}_U^2}{p_U})I_M---\left(2.11\right)$

通过比较公式(2.11)和公式(2.7)并考虑到l_d＞＞l_p，看出基于数据的信道估计性能远远优于基于导频的信道估计性能；通过利用上行数据，更精确地获得公式(2.10)中角度域信道非零分量的位置；然而这种方法的计算复杂度决定于上行帧的符号数l_d；在实际应用中，使用递推最小二乘算法来降低复杂度；

定义为表示位置信息的向量，它包含了中模值最大的N_Tap个元素的位置；若为中模值前N_Tap大的元素，则否则

B.基于时间平均的方法

在期望用户传输的上行子帧中，当接收到第n个符号时第b个基站的接收信号向量被表示为：

$y_b^d\left(n\right)=\sqrt{p_U}{h}_{mb,b}{x}_{mb}\left(n\right)+\sqrt{p_U}{\mathrm{\&Sigma;}}_{(j,k)\&NotEqual;(m,b)}{h}_{jk,b}{x}_{jk}\left(n\right)+n_b^d\left(n\right)---\left(2.12\right)$

其中是的列向量；x_mb(n)是第b个小区第m个用户发送的上行数据帧中的第n个符号，是公式(2.10)中数据符号矩阵X_b的第m行第n列的元素；是加性高斯白噪声向量；

对上述接收信号向量进行傅里叶变换，再除以正确解调的上行传输符号x_mb(n)以及并乘上则由公式(2.12)得到：

$\begin{array}{c}\frac{y_b^d\left(n\right)F_{N_t}}{x_{mb}\left(n\right)\sqrt{p_U}}diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}=g_{mb,b}diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}\\ +({\mathrm{\&Sigma;}}_{(j,k)\&NotEqual;(m,b)}\frac{x_{jk}\left(n\right)}{x_{mb}\left(n\right)}{g}_{jk,b}+\frac{n_b^d\left(n\right)F_{N_t}}{x_{mb}\left(n\right)\sqrt{p_U}})diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}\end{array}---\left(2.13\right)$

其中是角度域粗估计信道；

令为角度域能量分布向量的估计；考虑到对于蜂窝系统中的大多数调制编码方式来说其星座图关于原点对称；为了达到最大熵率，星座图中的所有调制符号应该被等概率使用；因此，通过对传输符号x_mb(n)取期望，得到于是，由公式(2.13)得到：

$\begin{array}{c}E\left\{\frac{y_b^d\left(n\right)F_{N_t}}{x_{mb}\left(n\right)\sqrt{p_U}}\right\}diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}\\ ={\hat{P}}_{mb,b}+E\left\{\underset{\left(j,k\right)\&NotEqual;\left(m,b\right)}{\mathrm{\&Sigma;}}\frac{x_{jk}\left(n\right)}{x_{mb}\left(n\right)}{g}_{jk,b}+\frac{n_b^d\left(n\right)F_{N_t}}{x_{mb}\left(n\right)\sqrt{p_U}}\right\}diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}\\ ={\hat{P}}_{mb,b}\end{array}---\left(2.14\right)$

假设传输符号具有各态历经性，则利用时间平均来近似集平均即期望；因此，角度域功率分布向量被估计为：

${\hat{P}}_{mb,b}^{d_{AVE}}=\frac{1}{l_d}\underset{n=1}{\overset{l_d}{\mathrm{\&Sigma;}}}\frac{y_b^d\left(n\right)F_{N_t}}{x_{mb}\left(n\right)\sqrt{p_U}}diag\left\{{\hat{g}}_{mb,b}^{pH}\right\}---\left(2.15\right)$

由此，通过相同的方法获得角度域位置向量

如果需要对多个上行帧的数据取平均以提高性能，利用递推算法对多个连续的上行子帧取时间平均，同样具有低复杂度；

利用由公式(2.6)中导频序列得到的单元域信道粗估计以及角度域模值远大于零的元素位置向量得到单元域信道精估计如下：

${\hat{h}}_{mb,b}^f={\hat{h}}_{mb,b}^h{F}_{Nt}diag\left\{{\mathrm{\&Phi;}}_{mb,b}\right\}{F}_{N_t}^H---\left(2.16\right)$

令表示第b个小区中第m个用户的预编码向量，则：

${\hat{h}}_{mb,b}^f{W}_{mb}={\hat{h}}_{mb,b}^f{F}_{N_t}{F}_{N_t}^H{W}_{mb}={\hat{g}}_{mb,b}^f\left(F_{N_t}^H{W}_{mb}\right)---\left(2.17\right)$

公式(2.17)说明单元域预编码和角度域预编码的等价性，为此只在角度域讨论预编码；

通过对单元域信道精估计进行傅里叶变换，得到角度域信道精估计利用它设计用于下行传输的与编码器；尽管迫零或MMSE预编码能够提供更好的性能，但其计算复杂度较高；

尽管Massive MIMO系统大幅提高能效和谱效，然而由于信道维数高，在基站端获取、通过回传链路实时交换瞬时信道信息都非常困难；幸运的是，已有文献表明，大量的信道具有很强的空间相关性；如果已知信道的空间相关矩阵R，则利用统计信道信息R和瞬时信道信息来设计时间尺度不同的两级预编码，还被用来减小异构Massive MIMO系统空域协调波束成形时的回传链路开销；

另外，在异构Massive MIMO系统中，由于基站的天线数很多，采用空分的方式回避对微基站用户的跨层干扰；而由于微基站的天线数较少，采用在时域或频域协调的方法回避对宏基站用户的跨层干扰；

考虑宏小区和毫微小区组成的异构蜂窝网络，令B和M分别表示基站和用户的总数；在每个宏小区中，宏基站配备N_t(N_t很大)根天线位于小区中心；微小区分布在宏小区内；由于宏小区和微小区使用共同的视频资源，故相互之间存在干扰；

令T表示所有基站组成的集合，所有基站包括宏基站和毫微基站；则在下行传输时，第m个用户的接收信号表示为：

$y_m=h_{m,b}{W}_b{x}_b+\underset{j\&NotEqual;b}{\mathrm{\&Sigma;}}{h}_{m,j}{W}_j{x}_j+n---\left(3.1\right)$

其中，为第m个用户到第b个基站的信道向量，是第b个宏基站的预编码矩阵，M_b是基站b同时服务的用户数；是基站b的发送符号；n为加性高斯白噪声，其均值为零，方差为

最简单的、无需协调的跨层干扰处理方法就是异频组网，即小区间的频段正交；类似地，也采用时间资源正交；这种方法的基本思想是使相互邻近的基站采用正交的时频资源块进行数据传输；由于无需在基站间进行协调，这种策略实现起来很容易；这种思路最开始被提出时的目标在于提升小区边缘用户的数据率；

异频组网中，T₁表示宏基站的集合，T₂表示微基站的集合；假设用户m接入宏基站b，则下行传输时宏用户i的接收信号为：

$y_m=h_{m,b}{W}_b{x}_b+\underset{j\&NotEqual;b,j\&Element;T_1}{\mathrm{\&Sigma;}}{h}_{m,j}{W}_j{x}_j+n---\left(3.2\right)$

其中第一项为宏用户的期望信号，第二项为来自于宏基站的小区间干扰；

假设用户m接入微基站b’，其下行传输时微用户m的接收信号为：

$y_m=h_{m,b^{\&prime;}}{W}_{b^{\&prime;}}{x}_{b^{\&prime;}}+\underset{j\&NotEqual;b^{\&prime;},j\&Element;T_2}{\mathrm{\&Sigma;}}{h}_{m,j}{W}_j{x}_j+n---\left(3.3\right)$

其中第一项为微用户的期望信号，第二项为来自于微基站的小区间干扰；

在异频组网时，所有宏基站和所有毫微基站分别组成两个子系统，完全独立工作；由于基站间无需交换任何信息，故其实现难度和成本均较低；在网络中，令p表示所有宏基站的频带使用率，ρ∈[0,1]，B_S表示整个异构系统的可用带宽；根据香农公式，此时网络的吞吐量表示为：

$C={\mathrm{\&rho;B}}_s\underset{m\&Element;{\mathrm{\&Psi;}}_1}{\&Sigma;}{\log }_2(1+\frac{S_m}{I_m+n_m})+(1-\mathrm{\&rho;})B_s\underset{m\&Element;{\mathrm{\&Psi;}}_2}{\&Sigma;}{\log }_2(1+\frac{S_m}{I_m+n_m})---\left(3.4\right)$

其中，Ψ₁、Ψ₂分别表示所有接入宏基站和毫微基站的用户集合；S_m为第m个用户接收到期望信号的能量，I_m为第m个用户接收到小区间干扰信号能量；

在异构Massive MIMO系统中，宏基站具有很高的空间自由度，使得其具有高度的空间指向性；如果能在基站端获取干扰用户的信道，则其通过预编码对干扰用户形成零陷；

假设第b个基站获得其本身到全部M个用户的信道，即基站b为其服务基站，则它对第m个用户的协作ZF与编码器表达为：

$W_{mb}=\frac{\sqrt{p_m}{Q}_{mb}{\hat{h}}_{m,b}}{\left|\right|Q_{mb}{\hat{h}}_{m,b}\left|\right|}---\left(3.5\right)$

其中即，Q_mb是第b个基站到除第m个用户外所有用户的信道估计向量张成的零空间；P_m是分配给第m个用户的发射功率；

第m个用户的下行接收信号为：

$y_m=h_{m,b}{W}_{mb}{x}_m+\underset{j\&Element;{\mathrm{\&Theta;}}_b}{\underset{j\&NotEqual;m}{\mathrm{\&Sigma;}}}{h}_{m,b}{W}_j{x}_j+\underset{j\&Element;{\mathrm{\&Theta;}}_j}{\overset{B}{\underset{k=1,k\&NotEqual;b}{\mathrm{\&Sigma;}}}}{h}_{m,k}{W}_j{x}_j+m---\left(3.6\right)$

其中，Θ_b为第b个基站服务用户的集合；公式(3.6)右端第一项为用户的期望信号，第二项为本小区的多用户干扰(Multiuser interference，MUI)，第三项为来自其他基站的小区间干扰；第二项和第三项的存在是由于信道估计误差导致。