CN115051734B - 一种固定复杂度球形译码的改进方法 - Google Patents

Abstract

本发明公开了一种固定复杂度球形译码的改进方法，改善了现有技术中FSD算法的复杂度仍须降低的问题。该发明含有如下步骤：建立大规模MIMO系统模型；通过基于深度学习的SAMP‑FCNet算法，估计发送信号的初始解选择FE阶段层数P；对信道矩阵H进行排序处理，计算处理后的等效接收信号；根据初始解计算SE阶段剪枝阈值r；根据剪枝阈值对FSD算法进行剪枝搜索。本发明有效的提高了剪枝效率，大大减少了FSD算法中所需搜索的节点数目。能够在具有相似的检测性能的前提下大大降低算法复杂度，提高了FSD算法在大规模MIMO系统的适用性，可用于大规模MIMO系统中上行链路信号检测。

Description

一种固定复杂度球形译码的改进方法

技术领域

本发明涉及通信技术领域，特别是涉及一种固定复杂度球形译码的改进方法。

背景技术

近年来，为了满足移动通信系统中日益增长的超高数据速率需求，使用大量天线进行数据传输和接收的大规模多输入多输出(Multiple Input Multiple Output，MIMO)系统在学术界引起了极大的研究兴趣。为了在大规模MIMO系统中最大化可实现的数据速率，基站需要同时从多个终端接收尽可能多的符号，这提供了更大的复用增益。在这种情况下，接近最优的检测算法提高系统性能方面起着重要作用。由于最优算法复杂度随天线数目和调制阶数提升而增加，难以应用于大规模MIMO系统，因此如何有效降低算法在低信噪比下的复杂度也是当前检测算法的研究方向之一。

最优算法的复杂度和决策变量呈指数关系，并不适用于大规模MIMO系统，但在通过对最优检测算法的优化又衍生出诸多算法。其中被广泛研究的有球形译码(SphereDecoding，SD)算法和固定复杂度的球形译码算法(Fixed-complexity Sphere Decoder，FSD)算法等。SD算法的主要思想是将ML算法的搜索过程限定在预定半径的球体内的晶格点上，如果初始半径以及搜索顺序合适，则能在较低的复杂度中找到最优解。但其复杂度并非固定的，受到接收信号的信噪比，搜索顺序和初始半径的影响。但如果多次搜索后才检索到小半径叶子节点则会使得运算量增大，并且由于球形译码算法复杂度的具有不确定性，不利于信号的实时检测和硬件实现。FSD算法对搜索树中部分层进行完全扩展(FullExpansion，FE)其他层进行单扩展(Single Expansion，SE)，其搜索的支路数目不受信噪比的影响，因此FSD算法具有较低且固定的复杂度，并达到了接近FSD算法的检测性能。但由于FSD算法复杂度与信噪比无关，因此不能保证在高信噪比仍保持比SD算法更低的复杂度，同时FSD算法复杂度随调制阶数的增加呈指数上升，仍需要进一步降低该算法的复杂度。

发明内容

本发明改善了现有技术中FSD算法的复杂度仍须降低的问题，提供一种复杂度低且适应性强的固定复杂度球形译码的改进方法。

本发明的技术解决方案是，提供一种具有以下步骤的固定复杂度球形译码的改进方法：含有如下步骤：

步骤1、在给定的系统条件下，建立大规模MIMO系统模型；

步骤2、通过对MIMO系统发送信号进行估计得到初始解

步骤3、选择满足约束条件的FE阶段层数P；对信道矩阵H进行排序处理，得到排序后的信道矩阵以及排序交换矩阵B；对/>进行QR分解运算，得到上三角矩阵R和酉矩阵Q，计算R分解后的等效接收信号z，z＝Q^Hy；

步骤4、根据初始解计算SE阶段剪枝阈值r，依据性能选择阈值决定系数a，计算FE阶段剪枝阈值r₂＝ar；

步骤5、对搜索树中前P层进行FE扩展，并舍弃累计分支度量大于r₂的支路；对其余层进行SE扩展，舍弃路径中累计分支度量大于r的支路；

步骤6、如果有路径到达叶子节点，则将累计分支度量最小的路径对应的发送信号作为输出解；如果没有路径到达叶子节点，则将记为输出解。

优选地，所述步骤1中假设大规模MIMO系统基于V-BLAST结构，发送端具有N_T根发送天线，接收端具有N_R根接收天线，采用M阶QAM调制，系统上行链路用下式来表示：y＝Hx+n，其中x为发送端的发送信号，H为信道矩阵，表示信道衰落，其中元素服从n为N_R维的加性复高斯白噪声，/>x为发送信号，y为接收端接收信号，对于接收端噪声功率σ²以及信道衰落H已知，需要计算发送信号估计值/>

优选地，所述步骤2中设SAMP-FCNet在层数为T时，通过训练可以达到极限的检测性能，对于SAMP-FCNet中第t层神经网络，检测过程如下：

η^(t)＝f(σ²，η^(t-1))，

其中为第t次迭代过程中发送信号估计解；/>r⁽⁰⁾均初始化为零向量；μ^(t)为长度为N_T的列向量，v^(t)为长度为N_R的列向量，μ^(t)和v^(t)由深度学习训练获得；f(σ²，η^(t-1))为阈值函数，通过一个DNN神经网络拟合得到，用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置；阈值网络包含一个输入层、一层隐藏层和一个输出层；其中隐藏层由N个神经元组成，N为整数，激活函数选用ReLU函数。

优选地，所述步骤3含有以下步骤：

步骤3a，FE阶段层数P应满足以下约束条件，(N_R-N_T)(P+1)+(P+1)²≥N_R，同时要保证算法性能的前提下选择尽可能小的FE层数；

步骤3b，对信道矩阵H进行排序，并计算对应的交换矩阵B，其中排序过程包含N_T次迭代运算，不妨用H_(i)表示第i次迭代中的删除已排序列后的信道矩阵，其中H₍₁₎＝H，对于i＝1，…，N_T-1，N_T，有：选择/>中第k列作为排序后信道矩阵的第N_T-i+1列，其中：

表示/>中的第j行，之后更新i和H_(i)重复上述过程至迭代完毕，得到排序信道矩阵/>记录/>与信道矩阵H中每列的对应关系，生成对应的交换矩阵B，B满足/>

步骤3c，将排序后的信道矩阵进行QR分解：/>qr(·)表示QR分解函数；

步骤3d，计算等效的接收信号：z＝Q^Hy。

优选地，所述步骤4中初始解计算SE阶段剪枝阈值r，其实现如下：计算SE阶段剪枝阈值r具体方式为：/>计算FE阶段剪枝阈值r₂，其实现如下：首先依据性能以及算法复杂度需求，选择合适的阈值决定系数a，其中a一般选取P/N_T临近的值，以获得更好的算法性能，其中N_T为发送天线数目，随后计算FE阶段剪枝阈值r₂＝ar。

优选地，所述步骤5中对搜索树中前P层进行FE扩展，并舍弃累计分支度量大于r₂的支路，其具体实现如下：设某一路径中第i层中第m个可能的信号符号为 Ω^M表示M阶调制系统中发送符号星座点集合；设第i层中M个可能的分支度量为ci，/>对于给定第i层的信号符号为/>对应的分支度量记为c_i，前i层的分支度量之和记为累加欧式距离D_i，则有：

D_i＝c_i+D_i+1

其中z_i，r_i，j分别表示z，R中的对应位置元素，在FE阶段需要对搜索树中前P层进行完全扩展，得到M^P条分支路径，其中M为调制阶数，计算所有分支路径的累加欧氏距离当某条分支路径的/>时，则舍弃当前路径。

优选地，所述步骤5中对其余层进行SE扩展，舍弃路径中累计分支度量大于r的支路，其具体实现如下：在SE阶段，需要对FE阶段剩余的搜索路径进行单扩展，假设前i层路径给定，则计算该路径在i-1层中的M个分支节点对应的分支度量c_i，并在c_i中选择分支度量最小的节点作为该路径在i-1层的经过的分支节点，之后计算当前路径累加欧氏距离若则舍弃当前路径，对当前层中现存的所有分支路径均进行上述操作，完成后进入i-1层重复上述步骤，直至所有路径均被舍弃或达到叶子节点。

优选地，所述步骤6中如果有路径到达叶子节点则输出计算如下：计算到达叶子节点的所有路径的累计分支度量D₁，取其中D₁最小的路径对应的发送符号顺序记为s，FSD算法中对信道矩阵进行了排序，则输出也要进行相应的逆排序操作，将作为算法输出，如果所有路径均被舍弃则直接将初始解/>作为输出。

与现有技术相比，本发明固定复杂度球形译码的改进方法具有以下优点：基于固定复杂度的球形译码算法，通过基于初始解计算了合适的剪枝阈值，并分别为FSD算法中的FE阶段和SE阶段设计了不同的剪枝策略，同时对于舍弃所有的分支路径的情况采用初始解作为FSD算法的可行解，有效的提高了剪枝效率，大大减少了FSD算法中所需搜索的节点数目。较原始FSD算法，本发明能够在具有相似的检测性能的前提下大大降低算法复杂度，提高了FSD算法在大规模MIMO系统的适用性，可用于大规模MIMO系统中上行链路信号检测。

附图说明

图1为本发明的实现流程框图；

图2为本发明中大规模MIMO系统的检测过程示意图；

图3为本发明中的信号检测过程示意图；

图4为本发明在64×16MIMO和64QAM条件下的误码率图；

图5为本发明在64×16MIMO和64QAM条件下的复杂度对比图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

下面结合附图和具体实施方式对本发明固定复杂度球形译码的改进方法作进一步说明：参照图1，本实例的具体实现步骤如下：

S1、在给定的系统条件下，建立大规模MIMO系统模型；

S2、通过对MIMO系统发送信号进行估计得到初始解

S3、选择满足约束条件的FE阶段层数P；对信道矩阵H进行排序处理，得到排序后的信道矩阵以及排序交换矩阵B；对/>进行QR分解运算，得到上三角矩阵R和酉矩阵Q，计算R分解后的等效接收信号z，z＝Q^Hy；

S4、根据初始解计算SE阶段剪枝阈值r，并计算FE阶段剪枝阈值r₂；

S5、对搜索树中前P层进行FE扩展，并舍弃累计分支度量大于r₂的支路；对其余层进行SE扩展，舍弃路径中累计分支度量大于r的支路；

S6、如果有路径到达叶子节点，则将累计分支度量最小的路径对应的发送信号作为输出解；如果没有路径到达叶子节点，则将作为输出解；

参照图2，在本实例中将采用SAMP-FCNet作为初始解的生成算法，对图2所示的通信系统中基于本发明提出的检测算法实现对于发送信号的估计。在本实例中述本发明上6个步骤分别具体表示为：

(1)在给定的系统条件下，建立大规模MIMO系统模型。

假设大规模MIMO系统基于V-BLAST结构，发送端具有N_T根发送天线，接收端具有N_R根接收天线，采用M阶QAM调制，该系统上行链路可以用下式来表示：y＝Hx+n，其中x为发送端的发送信号，H为信道矩阵，表示信道衰落，其中元素服从n为N_R维的加性复高斯白噪声，/>x为发送信号，y为接收端接收信号，对于接收端噪声功率σ²以及信道衰落H已知，需要计算发送信号估计值/>

(2)通过基于深度学习的SAMP-FCNet算法，估计发送信号的初始解

SAMP-FCNet的训练数据和测试数据在给定的系统的条件且不同信噪比下生成，将接收信号y和噪声功率σ²作为SAMP-FCNet的输入，发送信号的估计值作为该网络的输出。通过损失函数来衡量发送信号和神经网络输出之间的差距，针对SAMP-FCNet，损失函数选择MSE损失函数，优化器选择Adam通过反向传播优化训练参数使得损失函数最小。

设SAMP-FCNet在层数为T时，通过训练可以达到极限的检测性能，对于SAMP-FCNet中第t层神经网络，检测过程如下：

η^(t)＝f(σ²，η^(t-1))

其中为第t次迭代过程中发送信号估计解；/>r⁽⁰⁾均初始化为零向量；μ^(t)为长度为N_T的列向量，v^(t)为长度为N_R的列向量，μ^(t)和v^(t)由深度学习训练获得；f(σ²，η^(t-1))为阈值函数，通过一个DNN神经网络拟合得到，用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置。阈值网络包含一个输入层、一层隐藏层和一个输出层；其中隐藏层由N个神经元组成，N为整数，激活函数选用ReLU函数。

(3)选择FE阶段层数P；对信道矩阵进行预处理，并计算处理后的等效接收信号。

(3a)FE阶段层数P应满足以下约束条件，同时要保证算法性能的前提下选择尽可能小的FE层数。(N_R-N_T)(P+1)+(P+1)²≥N_R

(3b)对信道矩阵H进行排序，并计算对应的交换矩阵B。其中排序过程包含N_T次迭代运算，不妨用H_(i)表示第i次迭代中的删除已排序列后的信道矩阵，其中H₍₁₎＝H。对于i＝1，…，N_T-1，N_T，有：选择/>中第k列作为排序后信道矩阵的第N_T-i+1列。其中：

表示/>中的第j行，之后更新i和H_(i)重复上述过程至迭代完毕。得到排序信道矩阵/>记录/>与信道矩阵H中每列的对应关系，生成对应的交换矩阵B，B满足/>

(3c)将排序后的信道矩阵进行QR分解：/>qr(·)表示QR分解函数。

(3d)计算等效的接收信号：z＝Q^Hy。

(4)根据初始解计算剪枝阈值。

SE阶段剪枝阈值r计算方式为：FE阶段剪枝阈值r2具体计算方式为：首先依据性能以及算法复杂度需求，选择合适的阈值决定系数a，其中a一般选取P/N_T临近的值，以获得更好的算法性能，其中N_T为发送天线数目，随后计算FE阶段剪枝阈值r₂＝ar。

(5)根据剪枝阈值，对FSD算法进行剪枝搜索。

设某一路径中第i层中第m个可能的信号符号为 Ω^M表示M阶调制系统中发送符号星座点集合；设第i层M个可能的分支度量为ci，/>对于给定第i层的信号符号为/>对应的分支度量记为c_i，前i层的分支度量之和记为累加欧式距离D_i，则有：

D_i＝c_i+D_i+1

其中z_i，r_i，j分别表示z，R中的对应位置元素。下面依据累计分支度量对FSD算法进行剪枝搜索，搜索过程如图3所示。

(5a)对FE层进行剪枝搜索。FE层需要对搜索树中前P层进行完全扩展，得到M^P条分支路径，其中M为调制阶数。计算所有分支路径的累加欧氏距离当某条分支路径的时，则舍弃当前路径。

(5b)对SE层进行剪枝搜索。在SE阶段，需要对FE阶段剩余的搜索路径进行单扩展，假设前i层路径给定，则计算该路径在i-1层中的M个分支节点对应的分支度量c_i，并在c_i中选择分支度量最小的节点作为该路径在i-1层的经过的分支节点，之后计算当前路径累加欧氏距离若/>则舍弃当前路径。对当前层中现存的所有分支路径均进行上述操作，完成后进入i-1层重复上述步骤，直至所有路径均被舍弃或达到叶子节点。

(6)获得输出，作为改进算法对发送信号估计值

如果有路径到达叶子节点则计算到达叶子节点的所有路径的累计分支度量D₁，取其中D₁最小的路径对应的发送符号顺序记为s，由于FSD算法中对信道矩阵进行了排序，因此输出也要进行相应的逆排序操作，所以应将作为输出解。如果所有路径均被舍弃则直接将初始解/>作为输出。

以下结合仿真实验，对本发明的技术效果进行说明：在收发天线数目为64×16的64QAM调制的大规模MIMO系统中，对本发明所提算法、FSD、SD的误码率进行了仿真，结果如图4所示。由图4可见FSD和SD算法具有相近的检测性能，当阈值决定系数a＝1时本发明提出的算法拥有与FSD相同的检测性能，当a＝0.025检测性能不佳，但随着a值增加算法性能显著提升，且在a＝0.075时达到了与FSD相近的检测性能。

在相同的系统条件下，对本发明所提算法、FSD、SD算法所需检测的分支节点数量进行仿真，结果如图5所示。由图5可见在中低信噪比条件下FSD算法拥有远低于SD算法的复杂度，之后随信噪比增加SD算法复杂度逐渐降低，而FSD算法复杂度不变，因此在高信噪比条件下FSD算法复杂度要高于SD算法；观察图中本发明算法对应曲线可见，随着信噪比的增大复杂度有所下降，且当阈值决定系数a＝1时，该算法相较于FSD算法便具有更低的复杂度，之后随着a的减小，该算法复杂度明显降低。其中当a＝0.075，该算法在保证较小的性能损失的前提下，大大降低了FSD算法的复杂度，并在高信噪比条件下较SD仍有一定的复杂度优势。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (6)

1.一种固定复杂度球形译码的改进方法，其特征在于：含有如下步骤：

步骤1、在给定的系统条件下，建立大规模MIMO系统模型；

步骤2、通过对MIMO系统发送信号进行估计得到初始解

步骤3、选择满足约束条件的FE阶段层数P；对信道矩阵H进行排序处理，得到排序后的信道矩阵以及排序交换矩阵B；对/>进行QR分解运算，得到上三角矩阵R和酉矩阵Q，计算R分解后的等效接收信号z，z＝Q^Hy；含有以下步骤：

步骤3a，FE阶段层数P应满足以下约束条件，(N_R-N_T)(P+1)+(P+1)²≥N_R，N_T表示发送天线数目，N_R表示接收天线数目，同时要保证算法性能的前提下选择尽可能小的FE层数；

步骤3b，对信道矩阵H进行排序，并计算对应的交换矩阵B，其中排序过程包含N_T次迭代运算，用H_(i)表示第i次迭代中的删除已排序列后的信道矩阵，其中H₍₁₎＝H，对于i＝1,…,N_T-1,N_T，有： 选择/>中第k列作为排序后信道矩阵的第N_T-i+1列，其中：

表示/>中的第j行，之后更新i和H_(i)重复上述过程至迭代完毕，得到排序信道矩阵/>记录/>与信道矩阵H中每列的对应关系，生成对应的交换矩阵B，B满足/>

步骤3c，将排序后的信道矩阵进行QR分解：/>qr(·)表示QR分解函数；

步骤3d，计算等效的接收信号：zQ^Hy

步骤4、根据初始解计算SE阶段剪枝阈值r，依据性能选择阈值决定系数a，计算FE阶段剪枝阈值r2＝ar；其中初始解/>计算SE阶段剪枝阈值r，其实现如下：计算SE阶段剪枝阈值r具体方式为：/>计算FE阶段剪枝阈值r₂，其实现如下：首先依据性能以及算法复杂度需求，选择合适的阈值决定系数a，其中a选取在P/N_T预设范围内的值，以获得更好的算法性能，其中N_T为发送天线数目，随后计算FE阶段剪枝阈值r₂＝ar；

步骤5、对搜索树中前P层进行FE扩展，并舍弃累计分支度量大于r₂的支路；对其余层进行SE扩展，舍弃路径中累计分支度量大于r的支路；

步骤6、如果有路径到达叶子节点，则将累计分支度量最小的路径对应的发送信号作为输出解；如果没有路径到达叶子节点，则将记为输出解。

2.根据权利要求1所述的固定复杂度球形译码的改进方法，其特征在于：所述步骤1中假设大规模MIMO系统基于V-BLAST结构，发送端具有N_T根发送天线，接收端具有N_R根接收天线，采用M阶QAM调制，系统上行链路用下式来表示：y＝Hx+n，其中x为发送端的发送信号，H为信道矩阵，其中元素服从n为N_R维的加性复高斯白噪声，/>y为接收端接收信号，对于接收端噪声功率σ²以及信道矩阵H已知，需要计算发送信号估计值/>

3.根据权利要求1所述的固定复杂度球形译码的改进方法，其特征在于：所述步骤2中设SAMP-FCNet在层数为T时，通过训练可以达到极限的检测性能，对于SAMP-FCNet中第t层神经网络，检测过程如下：

其中为第t次迭代过程中发送信号估计解；/>r⁽⁰⁾均初始化为零向量；μ^(t)为长度为N_T的列向量，ν(t)为长度为N_R的列向量，μ^(t)和ν^(t)由深度学习训练获得；f(σ2，η^(t-1))为阈值函数，通过一个DNN神经网络拟合得到，用w^(t)，b^(t)表示分别表示第t次迭代的阈值网络的待训练的偏移和转置；阈值网络包含一个输入层、一层隐藏层和一个输出层；其中隐藏层由N个神经元组成，N为整数，激活函数选用ReLU函数。

4.根据权利要求1所述的固定复杂度球形译码的改进方法，其特征在于：所述步骤5中对搜索树中前P层进行FE扩展，并舍弃累计分支度量大于r₂的支路，其具体实现如下：设某一路径中第i层中第m个可能的信号符号为Ω^M表示M阶调制系统中发送符号星座点集合；设第i层中M个可能的分支度量为ci，/>对于给定第i层的信号符号为/>对应的分支度量记为ci，前i层的分支度量之和记为累加欧式距离D_i，则有：

D_i＝c_i+D_i+1

其中z_i，r_i,j分别表示z，R中的对应位置元素，在FE阶段需要对搜索树中前P层进行完全扩展，得到M^P条分支路径，其中M为调制阶数，计算所有分支路径的累加欧氏距离当某条分支路径的/>r₂时，则舍弃当前路径。

5.根据权利要求1所述的固定复杂度球形译码的改进方法，其特征在于：所述步骤5中对其余层进行SE扩展，舍弃路径中累计分支度量大于r的支路，其具体实现如下：在SE阶段，需要对FE阶段剩余的搜索路径进行单扩展，假设前i层路径给定，则计算该路径在i-1层中的M个分支节点对应的分支度量c_i，并在c_i中选择分支度量最小的节点作为该路径在i-1层的经过的分支节点，之后计算当前路径累加欧氏距离若/>则舍弃当前路径，对当前层中现存的所有分支路径均进行上述操作，完成后进入i-1层重复上述步骤，直至所有路径均被舍弃或达到叶子节点。

6.根据权利要求1所述的固定复杂度球形译码的改进方法，其特征在于：所述步骤6中如果有路径到达叶子节点则输出计算如下：计算到达叶子节点的所有路径的累计分支度量D₁，取其中D₁最小的路径对应的发送符号顺序记为s，FSD算法中对信道矩阵进行了排序，则输出也要进行相应的逆排序操作，将作为算法输出,如果所有路径均被舍弃则直接将初始解/>作为输出。