CN105634545B - 一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法 - Google Patents

Abstract

一种超奈奎斯特通信系统中基于矩阵分解的干扰消除算法，基于超奈奎斯特传输方式，根据FTN系统的参数确定干扰矩阵G；将矩阵G、发送信号序列a和接收信号y分块，将分块矩阵看作上、下三角矩阵，采用串行干扰消除的方法，分别得到只有前半部分码元干扰的软值序列以及只有后半部分码元干扰的软值序列；将得到的两个软值序列相加，减去对应的接收信号，以消除前后码间串扰的影响，得到分块对应的发送符号；重复上述步骤，依次检测到所有发送符号。本发明设计了分块的方式降低干扰矩阵分解的复杂度，并巧妙地采用了两次串行干扰消除，将所有的干扰考虑在内进行消除，和其他基于矩阵分解的干扰消除算法相比，大大降低了计算复杂度。

Description

一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法

技术领域

本发明属于通信技术领域，涉及超奈奎斯特传输模式，为一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法。

背景技术

随着以太网、电子商务、移动通信等业务的迅速发展，人们迫切需要更高质量的通信，如何更好地利用有限的频率资源实现高速数据传输是当今通信关注和研究的核心问题之一。

奈奎斯特(Nyquist)准则认为在带宽受限信道，高速的数据传输在不引起码间串扰的情况下所达到的最大码元速率为信道带宽的两倍，若超过这个极限值，就会引起严重的码间串扰(ISI)，造成系统的误码性能急剧恶化。所以在给定通信频带的条件下，系统的带限特性很大程度上影响并制约了符号传输速率的提高。

早在1975年Mazo就已经提出了超Nyquist码元速率(FTN)理论，也即是以超过无码间串扰所允许的最大速率传输，FTN的提出最初是想利用过剩性能换取高速率的传输，即以可靠性的损失来换取有效性的提高。由于以超Nyquist码元速率传输所引起的码间串扰(ISI)长度是无限长的，若要完全消除此码间串扰，使得系统以FTN进行传输时误码性能不下降，只能使用最大似然检测(MLSE)，然而在ISI无限长的情况下使用MLSE算法其复杂度无穷大，这就为FTN传输系统的接收带来极大困难。也可将FTN的码间串扰视为卷积编码，因此检测a_n可以采用经典的Viterbi算法或BCJR算法。2012年，Anderson提出了一种M-BCJR算法，并将其应用到Turbo均衡中，M-BCJR算法是基于M算法的思想提出的新型BCJR算法，由于其在每个时刻只保留了m个最大的状态作为可能的状态，相当于是减少搜索的BCJR算法，故其复杂度要比原BCJR算法要低。同时也可以将FTN检测视为长ISI的消除，采用一些高级均衡算法来完成检测。当然，也可以采用适当的预编码方案，在减轻符号间干扰的同时还能减少接收端的复杂度。另外，也有人提出采用基于QR分解的串行干扰消除的方法检测信号，专利申请CN 201510405512.0《一种基于矩阵模型的信号检测方法》便是在前人提出的基于QR分解的串行干扰消除方法的基础上，提出了将干扰矩阵G直接分为上下三角的方法检测发送信号，该方法较基于QR分解的串行干扰消除检测方法相比，复杂度降低同时误码率性能提高，但上述方法均是针对维数较大的矩阵，降低矩阵分解的复杂度和提高系统误码率的效果并不非常明显。这些现有的检测方法都在一定程度上降低了接收端的复杂度，为FTN技术的实用化打下了坚实的基础，但它们对接收端复杂度的降低效果有限，FTN的实用性能受到影响，不能满足技术需求。

发明内容

本发明要解决的问题是：降低超奈奎斯特码元速率通信系统中信号接收端的复杂度，同时提高接收端误码率性能，从而为超奈奎斯特传输技术的实用化打下坚实的基础。

本发明的技术方案为：一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，基于超奈奎斯特传输模式，在通信系统的接收端实现信号检测，包括以下步骤：

1)根据FTN通信系统的参数确定干扰矩阵G，所述参数包括滚降系数β，加速因子ρ，以及块的长度N；

2)矩阵G为方阵，以第一行第一列的元素为顶点，沿矩阵G的对角线取[l/c]个方块阵：G⁽¹⁾，G⁽²⁾，...，G^([l/c])，并将发送信号序列a和接收信号y分别分为[l/c]个矢量：a＝[a⁽¹⁾a⁽²⁾...a^([l/c])]，y＝[y⁽¹⁾y⁽²⁾...y^([l/c])]，l为矩阵G的行列数，c为方块阵的行列数，[l/c]表示对l/c向下取整；

3)将方块阵G⁽¹⁾看作是上三角矩阵，采用串行干扰消除的方法，消除当前码元后面码元的串扰，同时得到只有前面码元干扰ISI_former的软值a^(1)'，即a^(1)'＝a⁽¹⁾+ISI_former；

4)将方块阵G⁽¹⁾看作是下三角矩阵，采用串行干扰消除的方法，消除当前码元前面码元的串扰，同时得到只有后面码元干扰ISI_latter的软值a^(1)”，即a^(1)”＝a⁽¹⁾+ISI_latter；

5)将得到的两个序列a^(1)'和a^(1)”相加，减去接收端的接收信号y⁽¹⁾，y⁽¹⁾包含了前后干扰，y⁽¹⁾＝a⁽¹⁾+ISI_former+ISI_latter，则a^(1)'+a^(1)”-y⁽¹⁾完成消除前后码间串扰的影响，得到发送信号序列矢量a⁽¹⁾；

6)对于方块阵G⁽ⁿ⁾，n＝2，...[l/c]，检测对应的a⁽ⁿ⁾时，先做先验干扰消除，表示为其中为对y⁽ⁿ⁾进行先验干扰消除得到的计算结果，为干扰矩阵G中，G⁽ⁿ⁾左侧且与G⁽ⁿ⁾同行的所有元素组成的矩阵，对方块阵G⁽ⁿ⁾重复上述步骤3)-5)，其中以作为接收端的接收信号用于计算，得到发送信号序列矢量a⁽ⁿ⁾；

7)根据得到的各分块阵对应的发送信号序列矢量，最终得到a＝[a⁽¹⁾a⁽²⁾...a^{([l /c])}]，完成信号检测。

步骤3)4)的次序交换进行不影响计算结果。

专利申请CN 201510405512.0针对前人提出的DFE(Decision FeedbackEqualization)发送信号检测方法，提出了一种将干扰矩阵G分解为上下三角矩阵的检测方法，基于对矩阵G进行QR分解，由于QR分解计算复杂度较高，CN 201510405512.0的方案是将干扰矩阵G直接分解为上下三角矩阵，避免复杂的QR分解，再利用串行干扰消除来消除串扰。DFE和CN 201510405512.0的方法均是针对整个干扰矩阵G进行的运算，矩阵运算的复杂度正比于干扰矩阵维数，随着矩阵维数逐渐增大，二者降低矩阵分解的复杂度和提高系统误码率的效果并不非常明显。现有技术也有提出的干扰消除的方法之一是对矩阵G分块后进行QR分解，然后采用PDFE的方法消除干扰，PDFE是对DFE检测方法的改进，其中QR是对分块后的矩阵分解，也称为正交-三角分解，PDFE(Partial Decision FeedbackEqualization)为部分判决反馈均衡，该方法的复杂度低于DFE以及CN 201510405512.0的复杂度，但仍然存在QR分解计算复杂度较高的问题。本发明由此受到的启发将分块处理应用CN 201510405512.0的方法中，但是针对CN 201510405512.0的方案具体如何分块，分块后在降低复杂度的基础上是否能进一步提高系统误码率性能？分块后预计能使每一块的计算复杂度降低，但所有块的复杂度之和是否比之前提出的不分块检测方法复杂度还要高？这些却都是无法预料的。本发明经研究设计得到的矩阵分块分解处理方案，经过严密的仿真实验，结果表明，本发明基于分块的上下三角分解的检测方法满足在大幅降低复杂度的同时显著提高系统的误码率性能，提高幅度可以达到二至三个数量级之多，这是超出预料的。

本发明以矩阵分解为基础，提出了一种新的信号检测方法，先将干扰矩阵、发送信号序列和接收信号按分块要求分块，再将分块后的干扰矩阵分为上下三角矩阵，巧妙地采用两次串行干扰消除，避免了复杂的QR分解。本发明巧妙地采用了两次串行干扰消除，将所有的干扰考虑在内进行消除，同时和其他基于矩阵QR分解后采用PDFE的干扰消除算法相比，大大降低了计算复杂度。由于PDFE干扰消除算法的复杂度优于CN 201510405512.0中提出的方法，因此，本发明方法复杂度也远远低于CN 201510405512.0中提出的方法。PDFE的计算复杂度为其中O(c³)为对一个分块干扰矩阵QR分解的复杂度，计算每一分块所需要的乘法和除法次数为加法运算后的c²为每两个分块干扰矩阵间做先验干扰消除的运算量。而本发明计算所需要的乘法和除法次数共为[l/c](c(c+1))+([l/c]-1)c²，如果把干扰矩阵G中为零的元素考虑在内，其复杂度会进一步降低，同时仿真结果表明，本发明的误码率性能优于PDFE算法的性能。

附图说明

图1为本发明方法的流程图。

图2为FTN系统的系统模型。

图3为在加速因子ρ为0.9、干扰矩阵分块大小分别为c＝6，c＝12，c＝24，c＝60时，本发明和传统的部分判决反馈均衡(PDFE)的性能对比，可以看出本发明优于PDFE，矩阵分块大小相同的情况下，随着分块大小的减小，两种方法误码率性能均变差，且本发明变差的更慢。

图4为在加速因子ρ分别为0.9和0.85、分块大小为c＝6，c＝12时，本发明和传统的部分判决反馈均衡PDFE的性能对比。可以看出，矩阵分块大小相同的情况下，随着ρ值的减小，符号间最小欧式距离减小，干扰越来越严重，本发明和PDFE方案的性能会越来越差，但采用本发明的方案性能始终要优于采用PDFE的检测方法，同时本发明的复杂度也更低。

具体实施方式

本发明提出了一种超奈奎斯特通信系统中基于矩阵分解的干扰消除算法，采用两次串扰消除，降低了计算复杂度。

下面结合附图1，对本发明提出的FTN系统中的基于矩阵分解的信号检测方法进行详细说明。

图2给出了FTN系统的系统模型，其主要由发送端的脉冲成形滤波器、信道、接收端的匹配滤波器组成，系统模型的参数包括滚降系数β，加速因子ρ，以及传输的块的长度N，其中信道为理想加性高斯白噪声信道。由此可得输出信号可表示为：

其中代表内积运算，*代表复共轭，r(t)代表接收信号，代表发送滤波器的脉冲波形，w(t)代表加性高斯白噪声，t表示时间,y_n为匹配滤波后的输出信号，也就是接收信号。(6)式写成矩阵形式即为：y＝Ga+w

其中y为接收信号矢量，G是Gram矩阵，也就是干扰矩阵，表示码间串扰；a是发送信号序列，a＝[a₁...a_N]^T，w是方差为Gσ²的有色噪声。

若发送端的脉冲成形滤波器采用根升余弦脉冲，其滚降系数为β，则可得到矩阵G的表达式为：

最后可得FTN模式下的接收信号表达式为：

矩阵的大小和接收信号的不同取决于不同的N值和β值，所以根据取的N和β的值，确定矩阵G以及接收信号的形式，然后按照本发明方法对接收信号进行检测，具体步骤为：

1)通信系统的接收信号的矩阵形式为：

y＝Ga+w

其中a为一码元序列，表示发送信号序列；y是矢量，表示接收信号；G是一Gram矩阵，即干扰矩阵，表示码间串扰；w是方差为Gσ²的有色噪声；

2)矩阵G为方阵，按分块大小要求将矩阵G分块，具体为以第一行第一列的元素为顶点，沿矩阵G的对角线取[l/c]个方块阵：G⁽¹⁾，G⁽²⁾，...，G^([l/c])，并将发送信号序列a和接收信号y分别分为[l/c]个矢量：a＝[a⁽¹⁾a⁽²⁾...a^([l/c])]，y＝[y⁽¹⁾y⁽²⁾...y^([l/c])]，l为矩阵G的行列数，l的大小等于N，c为方块阵的行列数，[l/c]表示对l/c向下取整。

即第一分块为

对应的

第二分块为

对应的以此类推，得到其他分块矩阵和向量。

3)把矩阵G⁽¹⁾看作是上三角矩阵，采用串行干扰消除的方法，消除当前码元后面码元的串扰，同时得到只有前面码元干扰ISI_former的软值a^(1)'，即a^(1)'＝a⁽¹⁾+ISI_former。

具体为根据接收信号矩阵形式把矩阵G⁽¹⁾看作是上三角矩阵：

然后采用串行干扰消除的方法消除当前码元后面码元的串扰，即：

为星座映射，得到只有前面码元干扰的软值a^(1)'，a^(1)'的计算为：

4)将方块阵G⁽¹⁾看作是下三角矩阵，采用串行干扰消除的方法，消除当前码元前面码元的串扰，同时得到只有后面码元干扰ISI_latter的软值a^(1)”，即a^(1)”＝a⁽¹⁾+ISI_latter；

具体为根据接收信号矩阵形式把矩阵G⁽¹⁾看作是下三角矩阵：

然后采用串行干扰消除的方法消除当前码元前面码元的串扰，即：

得到只有后面码元干扰的软值a^(1)”，a^(1)”的计算方法为：

5)将得到的两个序列a^(1)'和a^(1)”相加，减去接收端初始的接收信号y⁽¹⁾，

y⁽¹⁾＝a⁽¹⁾+ISI_former+ISI_latter，则a⁽¹⁾＝a^(1)'+a^(1)”-y⁽¹⁾，得到第一分块的发送信号序列矢量a⁽¹⁾；

6)对于方块阵G⁽ⁱ⁾，i＝2，...[l/c]，检测对应的a⁽ⁱ⁾时，先做先验干扰消除，表示为其中为对y⁽ⁱ⁾进行先验干扰消除得到的计算结果，为干扰矩阵G中，G⁽ⁱ⁾左侧且与G⁽ⁱ⁾同行的所有元素组成的矩阵，对方块阵G⁽ⁱ⁾重复上述步骤3)-5)，其中以作为接收端的接收信号用于计算，得到发送信号序列矢量a⁽ⁱ⁾；

以第二分块发送信号序列矢量a⁽²⁾为例，做先验干扰消除，即其中重复上述步骤3)-5)，以作为接收信号带入计算，得到发送信号序列矢量a⁽²⁾；

7)根据得到的各分块阵对应的发送信号序列矢量，最终得到a＝[a⁽¹⁾a⁽²⁾...a^{([l /c])}]，完成信号检测。

本发明方案中c一般从可以被l整除的最小数值开始取，按照步骤1)-7)进行仿真实验，从仿真结果得到c取值不同与误码率的变化趋势，得到选取分块大小不同对误码率所带来的影响结果。

为了进一步验证本发明的检测效果，对本发明和基于QR分解的PDFE做了对比仿真实验。仿真条件为在FTN的传输模式下，发送滤波器采用滚降系数为0.2的根升余弦脉冲，干扰矩阵的行列数l为120，对矩阵做c＝6，c＝12，c＝24，c＝60分块处理，比较两种方法的误码率性能。仿真结果如图3所示，其中横坐标代表信噪比，纵坐标代表误码率，虚线为PDEF，实线为本发明方法。结果表明本发明(newmethod)性能优于PDFE，并且矩阵分块大小相同的情况下，随着分块大小的减小，两种方法误码率性能均变差，且本发明变差的更慢。理论上讲，矩阵维数越大越好，但随着块的增加，计算复杂度迅速增加，须折中选择最合适的矩阵大小。

图4给出了在不同的ρ值(ρ＝0.9和ρ＝0.85)时，采用本发明和采用PDFE方案的对比图，其中横坐标代表信噪比，纵坐标代表误码率，虚线为PDEF，实线为本发明方法。可以看出，矩阵分块大小相同的情况下，随着ρ值的减小，符号间最小欧式距离减小，干扰越来越严重，本发明(newmethod)和PDFE方案的性能会越来越差，但采用本发明的方案性能始终要优于采用PDFE的检测方法，同时本发明的复杂度也更低。

Claims (5)

1.一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，其特征是基于超奈奎斯特(FTN)传输模式，在通信系统的接收端实现信号检测，包括以下步骤：

1)根据FTN通信系统的参数确定干扰矩阵G，所述参数包括滚降系数β，加速因子ρ，以及块的长度N；

2)干扰矩阵G为方阵，以第一行第一列的元素为顶点，沿干扰矩阵G的对角线取[l/c]个方块阵：G⁽¹⁾，G⁽²⁾，...，G^([l/c])，并将发送信号序列a和接收信号y分别分为[l/c]个矢量：a＝[a⁽¹⁾a⁽²⁾...a^([l/c])]，y＝[y⁽¹⁾y⁽²⁾...y^([l/c])]，l为干扰矩阵G的行列数，c为方块阵的行列数，[l/c]表示对l/c向下取整；

3)将方块阵G⁽¹⁾看作是上三角矩阵，采用串行干扰消除的方法，消除当前码元后面码元的串扰，同时得到只有前面码元干扰ISI_former的软值a^(1)'，即a^(1)'＝a⁽¹⁾+ISI_former；

4)将方块阵G⁽¹⁾看作是下三角矩阵，采用串行干扰消除的方法，消除当前码元前面码元的串扰，同时得到只有后面码元干扰ISI_latter的软值a^(1)”，即a^(1)”＝a⁽¹⁾+ISI_latter；

5)将得到的两个序列a^(1)'和a^(1)”相加，减去接收端的接收信号y⁽¹⁾，y⁽¹⁾包含了前后干扰，y⁽¹⁾＝a⁽¹⁾+ISI_former+ISI_latter，则a^(1)'+a^(1)”-y⁽¹⁾完成消除前后码间串扰的影响，得到发送信号序列矢量a⁽¹⁾；

6)对于方块阵G⁽ⁱ⁾，i＝2，...[l/c]，检测对应的a⁽ⁱ⁾时，先做先验干扰消除，表示为其中y^(i)*为对y⁽ⁱ⁾进行先验干扰消除得到的计算结果，为干扰矩阵G中，G⁽ⁱ⁾左侧且与G⁽ⁱ⁾同行的所有元素组成的矩阵，对方块阵G⁽ⁱ⁾重复上述步骤3)-5)，其中以y^(i)*作为接收端的接收信号用于计算，得到发送信号序列矢量a⁽ⁱ⁾；

7)根据得到的各分块阵对应的发送信号序列矢量，最终得到a＝[a⁽¹⁾a⁽²⁾...a^([l/c])]，完成信号检测。

2.根据权利要求1所述的一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，其特征是c从可以被l整除的最小整数开始选取，按照步骤1)-7)进行仿真实验，从仿真结果得到c取值不同与误码率的变化趋势，得到选取分块大小不同对误码率所带来的影响结果。

3.根据权利要求1所述的一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，其特征是步骤1)-2)中对干扰矩阵G、发送信号序列a和接收信号y分块，具体步骤为：

1)设通信系统的接收信号的矩阵形式为：

y＝Ga+w

其中a为一码元序列，表示发送信号序列；y是矢量，表示接收信号；干扰矩阵G是一Gram矩阵，表示码间串扰；w是方差为Gσ²的有色噪声；

2)沿干扰矩阵G对角线取[l/c]个方块，发送信号序列a和接收信号y分别分为[l/c]个矢量：

即第一分块为

对应的

第二分块为

对应的以此类推，得到其他分块阵和矢量。

4.根据权利要求1所述的一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，其特征是步骤3)-7)中将分块后的干扰矩阵看做上、下三角矩阵计算各分块发送信号序列，具体步骤为：

3)把矩阵G⁽¹⁾看作是上三角矩阵，对应的接收信号的矩阵形式为：

然后采用串行干扰消除的方法消除当前码元后面码元的串扰，即：

为星座映射，得到只有前面码元干扰的软值a^(1)'，a^(1)'的计算为：

$a_c^{{\left(1\right)}^{\′}}=y_c^{\left(1\right)},a_k^{{\left(1\right)}^{\′}}=y_k^{\left(1\right)}-{\mathrm{\Σ}}_{q=k+1}^c{g}_{k,q}^{\left(1\right)}{a}_q^{\left(1\right)},k=1,2,...,c-1.$

4)把矩阵G⁽¹⁾看作是下三角矩阵，对应的接收信号的矩阵形式为：

然后采用串行干扰消除的方法消除当前码元前面码元的串扰，即：

得到只有后面码元干扰的软值a^(1)”，a^(1)”的计算方法为：

$a_1^{{\left(1\right)}^{\′\′}}=y_1^{\left(1\right)},a_j^{{\left(1\right)}^{\′\′}}=y_j^{\left(1\right)}-{\mathrm{\Σ}}_{p=1}^{j-1}{g}_{j,p}^{\left(1\right)}{a}_p^{\left(1\right)},j=2,3,...,c.$

5)将得到的两个序列a^(1)'和a^(1)”相加，减去接收端初始的接收信号y⁽¹⁾，y⁽¹⁾＝a⁽¹⁾+ISI_former+ISI_latter，即a⁽¹⁾＝a^(1)'+a^(1)”-y⁽¹⁾，得到发送信号序列矢量a⁽¹⁾；

6)为检测第二分块发送信号序列矢量a⁽²⁾，必须做先验干扰消除，即重复上述步骤3)-5)，得到传输信号序列a⁽²⁾，其中

7)重复步骤3)-6)得到剩余分块发送信号序列，得到a＝[a⁽¹⁾a⁽²⁾...a^([l/c])]，完成信号检测。

5.根据权利要求1所述的一种超奈奎斯特通信系统中基于矩阵分解的干扰消除方法，其特征是步骤3)和4)的执行次序可以交换。