CN117201240A - 一种基于深度残差注意力网络的otfs信道估计方法 - Google Patents

Abstract

本发明公开了一种基于深度残差注意力网络的OTFS信道估计方法，包括：获取训练数据集，所述训练数据集包括多条训练数据，每条训练数据包括OTFS信号以及OTFS信号对应的CSI信息；构建深度残差注意力网络，并根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络；采集待估计OTFS信号，并采用训练完成的深度残差注意力网络对待估计OTFS信号进行识别，得到OTFS信道估计结果。本发明通过构建以及训练深度残差注意力网络，最终通过深度残差注意力网络识别待估计OTFS信号，实现了高精度的OTFS信道估计。

Description

一种基于深度残差注意力网络的OTFS信道估计方法

技术领域

本发明涉及信号处理技术领域，具体涉及一种基于深度残差注意力网络的OTFS信道估计方法。

背景技术

正交时频空间(OTFS)在处理高移动性场景下的快速时变信道方面展现了其潜力。嵌入导频帧可以节省导频开销，获得更高的频谱效率，但会引入数据与导频之间的干扰。下一代无线通信系统要求在高移动性条件下具有稳定的性能，例如在高速列车和无人机上的移动通信。目前的第五代正交频分复用(OFDM)具有抗多径和低复杂度均衡的优点。然而，在高移动性条件下，它在高多普勒信道情况下性能下降。

正交时频空间(OTFS)调制因其在高速移动环境下对时延和多普勒频移的鲁棒性而备受关注。OTFS与OFDM的一个关键区别在于信道状态信息(CSI)的获取方式。目前广泛使用的方案是嵌入式导频信道估计方法。将导频直接嵌入到数据帧中，并插入保护空间，避免导频与数据符号之间的干扰。并采用基于阈值的信道估计方法提取CSI。然而导频与数据之间的干扰难以很好的消除。为了获得更好的信道估计性能，最近，基于深度学习的神经网络在通信任务中表现出了它的潜力，其中残差收缩网络(DRSN)网络采用级联的去噪块上附加了自适应阈值方法，并进行了深度去噪为了提高估计精度。

DRSN网络前端采用了残差结构来对OTFS符号进行粗去噪，网络后端采用网络学习一个自适应阈值，通过阈值规范输出最终CSI结果。然而，网络并没有充分挖掘接收信号内部特定特征之间的相关性。实际上的信号是由3种信号叠加构成，即导频信号、数据信号和噪声信号。如果不加区分地处理这些信号，估计器的性能会下降。如何从混合数据中有效的提取出所需的OTFS导频信号，降低数据和噪声对导频的干扰成为了一个难点。

发明内容

本发明的目的在于提供一种基于深度残差注意力网络的OTFS信道估计方法，解决了现有技术中存在的问题。

本发明通过下述技术方案实现：

一种基于深度残差注意力网络的OTFS信道估计方法，包括：

获取训练数据集，所述训练数据集包括多条训练数据，每条训练数据包括OTFS信号以及OTFS信号对应的CSI信息；

构建深度残差注意力网络，并根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络；

采集待估计OTFS信号，并采用训练完成的深度残差注意力网络对待估计OTFS信号进行处理，以获取导频信息与数据信息分离的特征图，并通过注意力机制从所述特征图中提取导频特征，最终根据导频特征获取OTFS信道估计结果；

其中，所述OTFS信道估计结果用于表征待估计OTFS信号对应的CSI信息。

在一种可能的实施方式中，所述深度残差注意力网络包括残差模块、第一注意力模块、第二注意力模块以及注意力特征融合模块；

通过所述残差模块接收OTFS信号，并对OTFS信号中的导频信息与数据信息进行分离，得到导频信息与数据信息分离的特征图；

将所述导频信息与数据信息分离的特征图输入第一注意力模块以及第二注意力模块中之后，分别通过第一注意力模块以及第二注意力模块提取导频特征；

通过注意力特征融合模块对第一注意力模块输出的导频特征以及第二注意力模块的导频特征进行融合、识别之后，得到OTFS信道估计结果。

在一种可能的实施方式中，所述第一注意力模块设置为位置注意力模块或通道注意力模块，所述第二注意力模块设置为通道注意力模块。

在一种可能的实施方式中，所述残差模块包括至少一个的残差单元，当残差单元数量大于1时，多个残差单元串联；每个残差单元的结构相同，且均包括：至少一个卷积结构、第三卷积层以及第四卷积层；所述至少一个卷积结构的输入端作为残差单元的输入端，所述至少一个卷积结构包括顺次连接第一卷积层、第一批归一化层以及第一激活函数层，所述第一激活函数层的输出端作为残差单元的输出端；

所述卷积结构与第三卷积层共用残差模块的输入，即OTFS信号构成的第一数据特征进入残差模块之后，分别通过卷积结构以及第三卷积层进行处理，所述卷积结构的输出端与第四卷积层的输入端连接，所述第三卷积层的输出与第四卷积层的输出逐元素求差之后，得到C×H×W的第二数据特征，并将该第二数据特征作为残差模块的输出；

其中，C表示张量的通道数，每个通道包含一个H×W的矩阵，H表示矩阵的长，W表示矩阵的宽。

在一种可能的实施方式中，位置注意力模块包括至少一个第五卷积层、至少一个第六卷积层、至少一个第七卷积层、第一transpose层、第一reshape层、第二reshape层、第三reshape层、第二激活函数层、第四reshape层；

所述第五卷积层、第六卷积层以及第七卷积层共用位置注意力模块的输入，即将第二数据特征作为位置注意力模块的输入，当第二数据特征进入位置注意力模块之后，分别通过第五卷积层、第六卷积层以及第七卷积层进行处理；

所述C×H×W的第二数据特征经过依次连接的至少一个第五卷积层、第一transpose层以及第一reshape层的处理之后，变换为HW×C的第三数据特征；

所述C×H×W的第二数据特征依次经过至少一个第六卷积层以及第二reshape层的处理之后，变换为C×HW的第四数据特征；

所述C×H×W的第二数据特征依次经过至少一个第七卷积层以及第三reshape层的处理之后，变换为C×HW的第五数据特征；

将所述HW×C的第三数据特征经过第二激活函数层处理之后，再与C×HW的第四数据特征通过矩阵乘法相乘，变换为HW×HW的第六数据特征；

将所述C×HW的第五数据特征与HW×HW的第六数据特征通过矩阵乘法相乘之后，并经过第四reshape层处理之后，变换为C×H×W的第七数据特征；

将C×H×W的第二数据特征与C×H×W的第七数据特征逐元素求和之后，得到C×H×W的第八数据特征，并将该第八数据特征作为位置注意力模块的输出。

在一种可能的实施方式中，所述通道注意力模块包括第五reshape层、第六reshape层、第二transpose层、第七reshape层、第三激活函数层以及第八reshape层；

所述第五reshape层、第六reshape层以及第二transpose层共用输入，即将第二数据特征作为通道注意力模块的输入，当第二数据特征进入通道注意力模块之后，分别通过第五reshape层、第六reshape层以及第二transpose层进行处理；

所述C×H×W的第二数据特征经过第二transpose层以及第七reshape层的处理之后，变换为HW×C的第九数据特征；

所述C×H×W的第二数据特征经过第六reshape层的处理之后，变换为C×HW的第十数据特征；

所述C×H×W的第二数据特征经过第五reshape层的处理之后，变换为C×HW的第十一数据特征；

将所述HW×C的第九数据特征与C×HW的第十数据特征通过矩阵乘法相乘之后，并经过第三激活函数层的处理之后，得到C×C的第十二数据特征；

将所述C×HW的第十一数据特征与C×C的第十二数据特征通过矩阵乘法相乘之后，并经过第八reshape层的处理之后，得到C×H×W的第十三数据特征；

将C×H×W的第二数据特征与C×H×W的第十三数据特征逐元素求和之后，得到C×H×W的第十四数据特征。

在一种可能的实施方式中，所述注意力特征融合模块包括多尺度通道注意力单元以及至少一个第八卷积层；

所述位置注意力模块输出的C×H×W的第八数据特征以及通道注意力模块输出的C×H×W的第十四数据特征进入注意力特征融合模块之后，先将第八数据特征与第十四数据特征逐元素求和，得到C×H×W的初始融合特征；并将初始融合特征通过多尺度通道注意力单元进行处理，得到C×H×W的高精度融合特征；

采用与高精度融合特征维度相同的单位矩阵与高精度融合特征逐元素相减之后，得到C×H×W的第十五数据特征，并获取位置注意力模块输出的第八数据特征与第十五数据特征之间的哈达玛积，得到C×H×W的第十六数据特征；

获取通道注意力模块输出的第十四数据特征与高精度融合特征之间的哈达玛积，得到C×H×W的第十七数据特征；

将第十六数据特征与第十七数据特征逐元素求和，并通过至少一个第八卷积层处理之后，得到2×H×W的OTFS信道估计结果，即得到OTFS信号对应的CSI信息。

在一种可能的实施方式中，所述多尺度通道注意力单元包括全局平均池化层、第一点卷积层、第三批归一化层、第三RELU激活函数层、第二点卷积层、第三点卷积层、第四批归一化层、第四RELU激活函数层、第四点卷积层、第五批归一化层、第六批归一化层、broadcast层以及激活函数层；

所述全局平均池化层以及第一点卷积层共用输入，即初始融合特征输入多尺度通道注意力单元之后，分别输入全局平均池化层以及第一点卷积层中进行处理；

所述初始融合特征通过全局平均池化层、第三点卷积层、第三批归一化层、第三RELU激活函数层、第四点卷积层以及第五批归一化层的处理之后，得到C×1×1的第十八数据特征；

所述初始融合特征通过第一点卷积层、第四批归一化层、第四RELU激活函数层、第二点卷积层以及第六批归一化层的处理之后，得到C×H×W的第十九数据特征；

将第十八数据特征经过broadcast层处理之后得到的C×H×W的特征与第十九数据特征逐元素相加，并通过激活函数层的处理之后，得到C×H×W的第二十数据特征；

获取初始融合特征与第二十数据特征之间的哈达玛积，得到C×H×W的高精度融合特征。

在一种可能的实施方式中，根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络，包括：

以训练数据集中训练数据的OTFS信号作为深度残差注意力网络的输入，以训练数据集中训练数据的CSI信息作为深度残差注意力网络的期望输出，并采用反向传播算法以及Adam优化器对深度残差注意力网络进行训练，直至网络收敛，得到训练完成的深度残差注意力网络。

在一种可能的实施方式中，所述网络收敛的判断条件包括：

获取深度残差注意力网络的误差函数值；

若深度残差注意力网络的误差函数值从高到低下降至小于误差阈值时，且随着训练的增长，误差函数值一直稳定在误差阈值下以及波动范围小于设定的范围阈值内，则认为网络收敛。

本发明提供的一种基于深度残差注意力网络的OTFS信道估计方法，基于深度学习中的注意力机制，通过深度学习中的位置注意力模块、通道注意力模块和多尺度注意力融合模块实现了从混合了导频、数据、噪声的OTFS符号中精确的提取导频特征并进行信道估计的任务；该基于深度学习的残差注意力网络能够自适应的探索OTFS符号中不同数据的特征，从而实现精确的特征提取以及特征融合，有效的解决了混合OTFS符号中导频和数据相互干扰、噪声对数据和导频的干扰等问题。

附图说明

为了更清楚地说明本发明示例性实施方式的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。在附图中：

图1为本发明提供的一种基于深度残差注意力网络的OTFS信道估计方法的流程图。

图2为本发明提供的深度残差注意力网络的结构示意图。

图3为本发明提供的残差模块的结构示意图。

图4为本发明提供的位置注意力模块的结构示意图。

图5为本发明提供的通道注意力模块的结构示意图。

图6为本发明提供的注意力特征融合模块的结构示意图。

图7为本发明提供的多尺度通道注意力单元的结构示意图。

图8为本发明提供的第一实验对比结果示意图。

图9为本发明提供的第二实验对比结果示意图。

图10为本发明提供的时延-多普勒域的发送信号的示意图。

图11为本发明提供的残差模块输出热力图。

图12为本发明提供的通道注意力输出单个通道结果图。

图13为本发明提供的通道注意力输出总和热力图。

图14为本发明提供的位置注意力输出结果图。

图15为本发明提供的通道注意力输出与位置注意力输出逐元素相加之后的热力图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。

实施例

如图1所示，一种基于深度残差注意力网络的OTFS信道估计方法，包括：

S101、获取训练数据集，所述训练数据集包括多条训练数据，每条训练数据包括OTFS信号以及OTFS信号对应的CSI信息。

可选的，训练数据中OTFS信号的生成过程包括：

利用matlab生成所需信道数据，利用离线数据对提出的网络模型进行训练，得到训练好的网络。训练数据是在信道是双选择性的假设下产生的，载波频率为3GHz，子载波间隔为7.5kHz。采用N＝32，M＝32的OTFS帧，单个导频嵌入在OTFS帧的中心。信道增益根据分布CN(0,1P)产生，产生归一化的最大时延和最大多普勒频移分别为lmax＝5和kmax＝4。假设路径数为6。需要说明的是，实际估计阶段的实际信噪比是未知的。因此，训练阶段生成数据的信噪比在0～20d B之间是随机的，生成的OTFS符号数据进行实部虚部分离并堆叠构造一个双通道实数数据以备训练测试。

将导频及数据进行调制得到相对应的数据符号x[k,l]。k表示多普勒域的索引，l表示时延域的索引。对调制好的数据符号x[k,l]进行OTFS调制。其中，数据符号x[k,l]在时延多普勒平面中，时延方向上以1/(MΔf)为间隔，多普勒频移方向上以1/(NT)为间隔。M表示频域上的子载波数量，N表示时域上的OTFS符号数量，1/Δf表示通信数据流在时延多普勒域中时延方向的周期，1/T表示通信数据流在时延多普勒域中多普勒方向的周期。数据通过模拟的双选信道后得到经过提取的OTFS符号。将得到的复数OTFS符号y[k,l]分离实部虚部，将分离后的实部虚部添加维度，进行堆叠，得到维度为(B,C,H,W)的实数数据。其中，B为数据量大小，C为数据通道维度大小，H和W为数据矩阵大小。

更具体的，训练数据对应的OTFS信号为

其中，表示二维循环卷积，X_p表示单导频信号，X_d表示发送的数据，N表示噪声。H_dd表示信道矩阵。x[k,l]实际上就等于X_d+X_p，是表示在时延多普勒域的发送信号。其具体的表现形式如下：我们采用嵌入式导频的方式将单个导频和传输数据一起嵌入到N×M大小的矩阵中，得到时延-多普勒域的发送信号，如下公式：

上式中，x[k,l]表示时延多普勒域发送的OTFS信号，即X_d+X_p，其大小为N×M的矩阵，k∈{0,1,2,......,N-1}，l∈{0,1,2,......,M-1}，k_p以及l_p均表示位置索引。在k_p，l_p的位置放置单导频，单导频即位1+1j的复数信号。在k_p-2k_max到k_p+2k_max的范围内放置0，k_max为归一化最大多普勒频移的值。同理在l_p-l_max到l_p+l_max的位置放置0，形成保护间隔，l_max为归一化最大时延的值。x_d[k,l]代表N×M矩阵上除去导频和保护间隔后的其他位置放置的传输数据。其余位置放置传输的复数数据，具体如图10所示。

H_dd表示仿真产生的信道矩阵。得到的训练信号就是信道矩阵H_dd与发送的信号(X_d+X_p)经过二维循环卷积再加上噪声N得到。

训练数据对应的CSI信息为：标签数据就是产生的信道矩阵与单导频做二维循环卷积得到，而没有与数据操作，同时没有添加噪声。

S102、构建深度残差注意力网络，并根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络。

S103、采集待估计OTFS信号，并采用训练完成的深度残差注意力网络对待估计OTFS信号进行处理，以获取导频信息与数据信息分离的特征图，并通过注意力机制从所述特征图中提取导频特征，最终根据导频特征获取OTFS信道估计结果。其中，所述OTFS信道估计结果用于表征待估计OTFS信号对应的CSI信息。

将待估计OTFS信号，按照实部虚部堆叠的方式送入训练好的网络便可以得到精确估计的CSI信道矩阵。

为了减少数据与导频之间的干扰，本实施例提出了一种基于深度学习的残差注意力网络(DRAN)。DRAN由3个模块组成，即通道注意力模块(CAM)、位置注意力模块(PAM)和注意力特征融合(AFF)模块。这三个模块从接收信号中提取出导频特征，实现准确的信道估计。

DRAN主要应用于正交时频空间(OTFS)通信系统中的信道估计。在所有通信系统中，信号都会通过一种媒介(信道)，当信号通过信道时，信号会发生失真或各种噪声被添加到信号中。正确地解码接收到的信号而不产生太多的错误，就是要从接收信号中去除信道所施加的失真和噪声。要做到这一点，第一步是找出信号经过的信道的特性。这个过程称为“信道估计”。而DRAN适用于OTFS系统中信道估计的任务，DRAN能有效估计OTFS系统中信道增益、时延、多普勒等信道参数，从而可以利用信道估计的结果对接收到的OTFS符号数据进行补偿更正。

所述深度残差注意力网络包括残差模块、第一注意力模块、第二注意力模块以及注意力特征融合模块；通过所述残差模块接收OTFS信号，并对OTFS信号中的导频信息与数据信息进行分离，得到导频信息与数据信息分离的特征图；将所述导频信息与数据信息分离的特征图输入第一注意力模块以及第二注意力模块中之后，分别通过第一注意力模块以及第二注意力模块提取导频特征；通过注意力特征融合模块对第一注意力模块输出的导频特征以及第二注意力模块的导频特征进行融合、识别之后，得到OTFS信道估计结果。

如图2所示，本实施例的深度残差注意力网络优选包括残差模块、位置注意力模块、通道注意力模块以及注意力特征融合模块。所述残差模块的输入端接收OTFS信号，所述残差模块的输出端分别与位置注意力模块的输入端以及通道注意力模块的输入端连接，所述位置注意力模块的输出端以及通道注意力模块的输出端分别与注意力特征融合模块的第一输入端以及第二输入端连接，所述注意力特征融合模块的输出端输出OTFS信道估计结果。

所述残差模块包括至少一个的残差单元，当残差单元数量大于1时，多个残差单元串联；每个残差单元的结构相同，且均包括：至少一个卷积结构、第三卷积层以及第四卷积层；所述至少一个卷积结构的输入端作为残差单元的输入端，所述至少一个卷积结构包括顺次连接第一卷积层、第一批归一化层以及第一激活函数层，所述第一激活函数层的输出端作为残差单元的输出端；所述卷积结构与第三卷积层共用残差模块的输入，即OTFS信号构成的第一数据特征进入残差模块之后，分别通过卷积结构以及第三卷积层进行处理，所述卷积结构的输出端与第四卷积层的输入端连接，所述第三卷积层的输出与第四卷积层的输出逐元素求差之后，得到C×H×W的第二数据特征，并将该第二数据特征作为残差模块的输出；其中，C表示张量的通道数，每个通道包含一个H×W的矩阵，H表示矩阵的长，W表示矩阵的宽。第一激活函数层优选为RELU激活函数层。

如图3所示，在本实施例中，残差模块优选为三个残差单元，每个残差单元优选包括两个卷积结构，一个卷积结构包括第一卷积层、第一批归一化层以及第一RELU激活函数层，另一个卷积结构包括第二卷积层、第二批归一化层以及第二RELU激活函数层。即残差模块包括第一卷积层、第一批归一化层、第一RELU激活函数层、第二卷积层、第二批归一化层、第二RELU激活函数层、第三卷积层以及第四卷积层。

所述第一卷积层以及第三卷积层共用残差模块的输入，即OTFS信号构成的第一数据特征进入残差模块之后，分别通过第一卷积层以及第三卷积层进行处理。所述第一卷积层、第一批归一化层、第一RELU激活函数层、第二卷积层、第二批归一化层、第二RELU激活函数层以及第四卷积层顺次连接，且所述第三卷积层与第四卷积层逐元素求差之后，得到C×H×W的第二数据特征，并将该第二数据特征作为残差模块的输出。

其中，C表示张量的通道数，每个通道包含一个H×W的矩阵，H表示矩阵的长，W表示矩阵的宽。

如图4所示，位置注意力模块包括至少一个第五卷积层、至少一个第六卷积层、至少一个第七卷积层、第一transpose层、第一reshape层、第二reshape层、第三reshape层、第二激活函数层、第四reshape层。本实施例中第五卷积层、第六卷积层以及第七卷积层均优选为一个。第二激活函数层优选为softmax激活函数或者sigmoid激活函数层。

所述第五卷积层、第六卷积层以及第七卷积层共用位置注意力模块的输入，即将第二数据特征作为位置注意力模块的输入，当第二数据特征进入位置注意力模块之后，分别通过第五卷积层、第六卷积层以及第七卷积层进行处理。

所述C×H×W的第二数据特征经过第五卷积层、第一transpose(转置)层以及第一reshape(维度变换)层的处理之后，变换为HW×C的第三数据特征。

所述C×H×W的第二数据特征经过第六卷积层以及第二reshape层的处理之后，变换为C×HW的第四数据特征。

所述C×H×W的第二数据特征经过第七卷积层以及第三reshape层的处理之后，变换为C×HW的第五数据特征。

将所述HW×C的第三数据特征经过第二激活函数层处理之后，再与C×HW的第四数据特征通过矩阵乘法相乘，变换为HW×HW的第六数据特征。

将所述C×HW的第五数据特征与HW×HW的第六数据特征通过矩阵乘法相乘之后，并经过第四reshape层处理之后，变换为C×H×W的第七数据特征。

将C×H×W的第二数据特征与C×H×W的第七数据特征逐元素求和之后，得到C×H×W的第八数据特征，并将该第八数据特征作为位置注意力模块的输出。

如图5所示，所述通道注意力模块包括第五reshape层、第六reshape层、第二transpose层、第七reshape层、第三激活函数层以及第八reshape层。第三激活函数层优选为softmax激活函数或者sigmoid激活函数层。

所述第五reshape层、第六reshape层以及第二transpose层共用输入，即将第二数据特征作为通道注意力模块的输入，当第二数据特征进入通道注意力模块之后，分别通过第五reshape层、第六reshape层以及第二transpose层进行处理。

所述C×H×W的第二数据特征经过第二transpose层以及第七reshape层的处理之后，变换为HW×C的第九数据特征。

所述C×H×W的第二数据特征经过第六reshape层的处理之后，变换为C×HW的第十数据特征。

所述C×H×W的第二数据特征经过第五reshape层的处理之后，变换为C×HW的第十一数据特征。

将所述HW×C的第九数据特征与C×HW的第十数据特征通过矩阵乘法相乘之后，并经过第三激活函数层的处理之后，得到C×C的第十二数据特征。

将所述C×HW的第十一数据特征与C×C的第十二数据特征通过矩阵乘法相乘之后，并经过第八reshape层的处理之后，得到C×H×W的第十三数据特征。

将C×H×W的第二数据特征与C×H×W的第十三数据特征逐元素求和之后，得到C×H×W的第十四数据特征。

实际上的信号是由3种信号叠加构成，即导频信号、数据信号和噪声信号。在残差模块之前的信号这三类信号混在一起，难以区分提取所需的导频信号，

OTFS符号输入残差模块后，残差模块输出如图11所示。经过残差模块后，OTFS信号中的导频特征区域与数据和噪声区域的差异变得明显，在残差模块的输出数据中，充满了三种类型的数据以及他们的叠加，如图11(a)所示的数据加强的热力图，如图11(b)所示的导频特征加强的热力图。这三类信号在输出中所占的比例不同。图11显示了H×W的矩阵在不同通道C中的特征图。可以发现，数据和导频的区分在不同通道中变得更加明显。然而，特征图给出了数据和导频的模糊边缘，导频增强信号是模糊的。

此时，信号的维度变为C×H×W，H以及W为对应矩阵长宽，C为C个通道，也即C个这样的矩阵。在C个通道中，这三类信号可以区分了，一个通道只保留了前面提到的三种信号中的一种信号，要么是导频信号，要么是数据信号，要么是噪声信号。但是这三种类型的信号在C个通道中所占的比例不同。后面经过位置注意力模块和通道注意力模块，可以从C个通道中提取出需要的导频信息。

通过探索残差模块的输出数据中的这些通道中特征图的相互依赖关系，通道注意力模块可以提取导频特征。通道注意力模块实际上是通过对来自残差模块输出数据的通道进行加权来消除不相关的特征和噪声，得到了更加锐利的边缘。但是可以发现，导频特征区域的增强不够平坦，导致信道系数的幅度估计性能下降，而此处则引入位置注意力模块的补充。通道注意力模块中单个通道输出结果如图12所示，通道注意力模块输出总和热力图如图13所示。

残差模块的输出送进通道注意力模块后，通道注意力模块的输出结果维度为C×H×W，C个通道中充满了对导频特征的选取，提取出了大量的清晰的导频特征。通过探索残差模块的输出数据中的这些通道图的相互依赖关系，通道注意力模块可以提取导频特征。图12显示了一个通道中H×W矩阵的输出热图，图13显示了所有C个通道的总和。可以发现，通道注意力模块实际上是通过对来自残差模块输出数据的通道进行加权来消除不相关的特征和噪声。与图11相比，得到了更加锐利的边缘。但是可以发现，导频特征区域的增强不够平坦，导致信道系数的幅度估计性能下降，而此处则引入位置注意力模块的补充。

位置注意力模块实际上通过对残差模块的输出数据的H×W维度上的所有网格进行加权，在不同的通道C中提供增强。每个通道实际上都是位置注意力模块选择的一类特征，同时位置注意力模块表现出不同程度的通道重要性，从而在整个空间维度上产生权重。因此，位置注意力模块有助于通道注意力模块在导频特征区域平滑增强。位置注意力模块的输出如图14所示，位置注意力模块实际上通过对残差模块的输出数据的H×W维度上的所有网格进行加权，在不同的通道C中提供增强。图14显示了位置注意力模块的输出，图14上y轴为每个通道C的索引，x轴为对应通道H×W矩阵变换成一行的元素。可以发现，每个通道实际上都是位置注意力模块选择的一类特征。同时位置注意力模块表现出不同程度的通道重要性，从而在整个空间维度上产生权重。因此，位置注意力模块有助于通道注意力模块在导频特征区域平滑增强。如图15所示的通道注意力输出与位置注意力输出逐元素相加之后的热力图，在导频特征区域显示出更平滑的增强，这意味着得到了一个带内平坦度更好的滤波器用于导频特征的提取。

在本实施例中，特征A∈R^C×H×W被分别送入一个卷积层(1×1)以生成两个新的特征图{B,C}∈R^C×H×W。然后将其重塑为R^C×HW，其中HW是像素的个数。

其中，A∈R^C×H×W表示一个维度为(b,C,H,W)的张量，b为张量数量，C为张量的通道数，一个通道含有一个H×W大小的矩阵。H，W为矩阵的长和宽。一般情况下默认不写b的维度。因此A表示一个通道为C的H×W大小的张量。同理，{B,C}∈R^C×H×W表示两个维度为C的H×W大小的张量。然后将B、C转换成R^C×(HW)表示一个C×(HW)大小的矩阵，通过将H×W大小的矩阵压缩成为一个列得到。Softmax层也是神经网络中一个常用的归一化层。

对C和B的转置进行矩阵相乘来表示其相关性，并使用softmax层计算空间注意力图S∈R^HW×HW：

其中，exp()表示自然指数函数，B_i表示先前B张量中的第i列，C_j同理，表示先前C张量中的第j列。通过对B的转置和C的矩阵乘法，得到S，S_ji表示得到的S矩阵中第j行第i列的一个元素，S的大小则为(HW)×(HW)。

PAM的输出可以写为：

其中，α表示一个变量，S_ji如前所示为S矩阵中的元素，D_i表示DRAN结构图中信号D的第i列，D的大小为C×(HW)。A_j表示A中第j列，E_j表示E中第j列的元素，E的大小为C×(HW)，然后展开为C×H×W。

通过利用通道图之间的相互依赖关系，可以强调相互依赖的特征图，改善特定语义的特征表示。因此，利用CAM对特定渠道的信息进行选择和增强。输入A被重塑为R^C×(HW)，然后在A和A的转置之间执行矩阵乘法，最后应用softmax层得到通道注意力图X∈R^C×(HW)：

其中，A此时的维度被转换成C×(HW),A_i表示A中第i行，A_j表示A中第j行。通过A与A的转置矩阵乘法，得到X，大小为(C×C),X_ji表示X中第j行第i列的元素。

CAM的输出可以写为：

其中，X_ji为一个元素，β表示一个变量。A_i表示A中第i行，A_j表示A中第j行。F_j表示F中第j行的元素，F大小为C×(HW)，然后展开为C×H×W。

如图6所示，所述注意力特征融合模块包括多尺度通道注意力单元以及至少一个第八卷积层；本实施例中第八卷积层的数量优选为一个。

所述位置注意力模块输出的C×H×W的第八数据特征以及通道注意力模块输出的C×H×W的第十四数据特征进入注意力特征融合模块之后，先将第八数据特征与第十四数据特征逐元素求和，得到C×H×W的初始融合特征。并将初始融合特征通过多尺度通道注意力单元进行处理，得到C×H×W的高精度融合特征。

采用与高精度融合特征维度相同的单位矩阵与高精度融合特征逐元素相减之后，得到C×H×W的第十五数据特征，并获取位置注意力模块输出的第八数据特征与第十五数据特征之间的哈达玛积，得到C×H×W的第十六数据特征。

获取通道注意力模块输出的第十四数据特征与高精度融合特征之间的哈达玛积，得到C×H×W的第十七数据特征。

将第十六数据特征与第十七数据特征逐元素求和，并通过第八卷积层处理之后，得到2×H×W的OTFS信道估计结果，即得到OTFS信号对应的CSI信息。

可选的，注意力特征融合模块可以仅包括第八卷积层，将第八数据特征与第十四数据特征逐元素求和之后，并通过第八卷积层处理之后，得到2×H×W的OTFS信道估计结果。

如图7所示，所述多尺度通道注意力单元包括全局平均池化层、第一点卷积层、第三批归一化层、第三RELU激活函数层、第二点卷积层(point-wise conv)、第三点卷积层、第四批归一化层、第四RELU激活函数层、第四点卷积层、第五批归一化层、第六批归一化层、broadcast(广播)层以及激活函数层。

所述全局平均池化层以及第一点卷积层共用输入，即初始融合特征输入多尺度通道注意力单元之后，分别输入全局平均池化层以及第一点卷积层中进行处理。

所述初始融合特征通过全局平均池化层、第三点卷积层、第三批归一化层、第三RELU激活函数层、第四点卷积层以及第五批归一化层的处理之后，得到C×1×1的第十八数据特征。

所述初始融合特征通过第一点卷积层、第四批归一化层、第四RELU激活函数层、第二点卷积层以及第六批归一化层的处理之后，得到C×H×W的第十九数据特征。

将第十八数据特征经过broadcast层处理之后得到的C×H×W的特征与第十九数据特征逐元素相加，并通过激活函数层的处理之后，得到C×H×W的第二十数据特征。

获取初始融合特征与第二十数据特征之间的哈达玛积，得到C×H×W的高精度融合特征。

可选的，激活函数层可以为Sigmoid激活函数、relu激活函数或者leakyrelu激活函数。图7中的r表示缩减通道的值。

为了充分利用两条路径特征，采用如图7所示的基于多尺度通道注意力单元(MS-CAM)的AFF模块对两条路径特征进行选择性融合。与直接添加来自PAM和CAM的特征只提供特征图的固定线性聚合相比，MS-CAM通过两个不同尺度的分支提取注意力信息并聚合多尺度上下文信息。从而实现了一种非线性融合，提高了融合精度。如图5所示，输入X将经过两个不同的分支。上分支保持X的形状，并使用逐点卷积从空间维度提取特征。该分支可以看作是H×W维度上的特征选择滤波器。下分支将挤压输入X以获得C×1列中的全局视图。这可以看作是一种针对不同的特征通道选择滤波器。上、下分支的结果将通过直接的逐元素求和操作进行融合。最后，使用softmax层获取注意力矩阵，输出为注意力矩阵对输入X的逐元素加权。输出可以写成：

其中，表示逐元素求和，⊙表示哈达玛积，M表示MS-CAM的操作，Z是融合后的特征。AFF的输出实际上是E和F之间的加权平均。最后，将AFF的输出挤压到原始维度2×H×W，2个通道表示信道矩阵的实部和虚部。输出即为需要的信道矩阵CSI信息。

在一种可能的实施方式中，根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络，包括：

设置迭代次数为1500次，训练学习率为0.0003，批次大小为128，设置随机种子42，以训练数据集中训练数据的OTFS信号作为深度残差注意力网络的输入，以训练数据集中训练数据的CSI信息作为深度残差注意力网络的期望输出，并采用反向传播算法以及Adam优化器对深度残差注意力网络进行训练，直至网络收敛，得到训练完成的深度残差注意力网络。

在一种可能的实施方式中，所述网络收敛的判断条件包括：

获取深度残差注意力网络的误差函数值：

其中，NMSE表示误差函数值，H～表示估计信道矩阵，即训练数据中TFS信号输入深度残差注意力网络之后，得到的深度残差注意力网络的实际输出。H表示真实信道矩阵，即训练数据中OTFS信号对应的CSI信息。

若深度残差注意力网络的误差函数值从高到低下降至小于误差阈值时，且随着训练的增长，误差函数值一直稳定在误差阈值下以及波动范围小于设定的范围阈值内，则认为网络收敛。

如图8所示，将本实施例提出的网络结构与现有技术进行比较，可以发现，DRSN表现出良好的信道估计性能。在利用CAM、PAM和AFF方面，本实施例提出的DRAN优于DRSN。可以发现，所提出的DRAN，即行PAM+CAM+AFF，获得了最高的准确率，证明了PAM和CAM的有效性。本实施例还将AFF替换为直和运算，记为CAM+PAM+ADD，可以发现AFF表现出更好的融合能力。通过对比CAM+AFF和PAM+AFF可以得到一个有趣的观察，CAM+AFF可以给出相当不错的性能，验证了CAM的有效性，但是直接PAM的性能远不如CAM+AFF。这是因为单独的PAM+AFF会破坏数据间的空间结构信息。

残差模块输出的信号A由三类信号组成，即数据增强信号、导频增强信号及其叠加。并且在A的不同通道中，这三类信号所占的比例不同。数据和导频的区分在不同通道中变得更加明显。然而，特征图给出了数据和导频的模糊边缘，导频增强信号是模糊的。

通过探索A的这些通道图的相互依赖关系，CAM可以提取导频特征。CAM实际上是通过对来自粗去噪后的数据的通道进行加权来消除不相关的特征和噪声，得到更加锐利的边缘。但是导频特征区域的增强不够平坦，导致信道系数的幅度估计性能下降。

PAM实际上通过对A的H×W的所有网格进行加权，在不同的通道中提供增强。每个通道都表现出了PAM选择的同类特征，但失去了原有的空间结构。正如本实施例之前提到的，直接使用PAM会遇到显著的性能损失。这是因为空间结构信息(H×W)被丢弃，这对于信道估计问题至关重要。尽管如此，PAM表现出不同程度的通道重要性，从而在整个空间维度上产生权重。因此，PAM有助于CAM在导频特征区域平滑增强，使得结果在导频特征区域表现出更加平滑的增强，这意味着得到了一个带内平坦度更好的滤波器用于导频特征的提取。

如图9所示，考察了不同通道路径数对模型的影响。虽然本实施例提出的DRAN仅在P＝6信道数据下训练，但对各种信道路径情况表现出了较强的适应性。可以发现，性能主要与路径数量有关。从图8和图9可以发现，DRAN可以同时处理混合SNR和混合信道路径数据。

在一种可能的实施方式中，采集待估计OTFS信号，并采用训练完成的深度残差注意力网络对待估计OTFS信号进行识别，得到OTFS信道估计结果，包括：

采集待估计OTFS信号，并将待估计OTFS信号作为深度残差注意力网络中残差模块的输入。

通过残差模块对OTFS信号进行初步处理，然后将初步处理之后的信号通过位置注意力模块以及通道注意力模块分别提取特征，再通过注意力特征融合模块将位置注意力模块以及通道注意力模块提取的特征进行融合，得到CSI信息，即OTFS信道估计结果。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于深度残差注意力网络的OTFS信道估计方法，其特征在于，包括：

获取训练数据集，所述训练数据集包括多条训练数据，每条训练数据包括OTFS信号以及OTFS信号对应的CSI信息；

构建深度残差注意力网络，并根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络；

采集待估计OTFS信号，并采用训练完成的深度残差注意力网络对待估计OTFS信号进行处理，以获取导频信息与数据信息分离的特征图，并通过注意力机制从所述特征图中提取导频特征，最终根据导频特征获取OTFS信道估计结果；

其中，所述OTFS信道估计结果用于表征待估计OTFS信号对应的CSI信息。

2.根据权利要求1所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述深度残差注意力网络包括残差模块、第一注意力模块、第二注意力模块以及注意力特征融合模块；

通过所述残差模块接收OTFS信号，并对OTFS信号中的导频信息与数据信息进行分离，得到导频信息与数据信息分离的特征图；

将所述导频信息与数据信息分离的特征图输入第一注意力模块以及第二注意力模块中之后，分别通过第一注意力模块以及第二注意力模块提取导频特征；

通过注意力特征融合模块对第一注意力模块输出的导频特征以及第二注意力模块的导频特征进行融合、识别之后，得到OTFS信道估计结果。

3.根据权利要求2所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述第一注意力模块设置为位置注意力模块或通道注意力模块，所述第二注意力模块设置为通道注意力模块。

4.根据权利要求3所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，

所述残差模块包括至少一个的残差单元，当残差单元数量大于1时，多个残差单元串联；每个残差单元的结构相同，且均包括：至少一个卷积结构、第三卷积层以及第四卷积层；所述至少一个卷积结构的输入端作为残差单元的输入端，所述至少一个卷积结构包括顺次连接第一卷积层、第一批归一化层以及第一激活函数层，所述第一激活函数层的输出端作为残差单元的输出端；

所述卷积结构与第三卷积层共用残差模块的输入，即OTFS信号构成的第一数据特征进入残差模块之后，分别通过卷积结构以及第三卷积层进行处理，所述卷积结构的输出端与第四卷积层的输入端连接，所述第三卷积层的输出与第四卷积层的输出逐元素求差之后，得到C×H×W的第二数据特征，并将该第二数据特征作为残差模块的输出；

其中，C表示张量的通道数，每个通道包含一个H×W的矩阵，H表示矩阵的长，W表示矩阵的宽。

5.根据权利要求4所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，位置注意力模块包括至少一个第五卷积层、至少一个第六卷积层、至少一个第七卷积层、第一transpose层、第一reshape层、第二reshape层、第三reshape层、第二激活函数层、第四reshape层；

所述第五卷积层、第六卷积层以及第七卷积层共用位置注意力模块的输入，即将第二数据特征作为位置注意力模块的输入，当第二数据特征进入位置注意力模块之后，分别通过第五卷积层、第六卷积层以及第七卷积层进行处理；

所述C×H×W的第二数据特征经过依次连接的至少一个第五卷积层、第一transpose层以及第一reshape层的处理之后，变换为HW×C的第三数据特征；

所述C×H×W的第二数据特征依次经过至少一个第六卷积层以及第二reshape层的处理之后，变换为C×HW的第四数据特征；

所述C×H×W的第二数据特征依次经过至少一个第七卷积层以及第三reshape层的处理之后，变换为C×HW的第五数据特征；

将所述HW×C的第三数据特征经过第二激活函数层处理之后，再与C×HW的第四数据特征通过矩阵乘法相乘，变换为HW×HW的第六数据特征；

将所述C×HW的第五数据特征与HW×HW的第六数据特征通过矩阵乘法相乘之后，并经过第四reshape层处理之后，变换为C×H×W的第七数据特征；

将C×H×W的第二数据特征与C×H×W的第七数据特征逐元素求和之后，得到C×H×W的第八数据特征，并将该第八数据特征作为位置注意力模块的输出。

6.根据权利要求5所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述通道注意力模块包括第五reshape层、第六reshape层、第二transpose层、第七reshape层、第三激活函数层以及第八reshape层；

所述第五reshape层、第六reshape层以及第二transpose层共用输入，即将第二数据特征作为通道注意力模块的输入，当第二数据特征进入通道注意力模块之后，分别通过第五reshape层、第六reshape层以及第二transpose层进行处理；

所述C×H×W的第二数据特征经过第二transpose层以及第七reshape层的处理之后，变换为HW×C的第九数据特征；

所述C×H×W的第二数据特征经过第六reshape层的处理之后，变换为C×HW的第十数据特征；

所述C×H×W的第二数据特征经过第五reshape层的处理之后，变换为C×HW的第十一数据特征；

将所述HW×C的第九数据特征与C×HW的第十数据特征通过矩阵乘法相乘之后，并经过第三激活函数层的处理之后，得到C×C的第十二数据特征；

将所述C×HW的第十一数据特征与C×C的第十二数据特征通过矩阵乘法相乘之后，并经过第八reshape层的处理之后，得到C×H×W的第十三数据特征；

将C×H×W的第二数据特征与C×H×W的第十三数据特征逐元素求和之后，得到C×H×W的第十四数据特征。

7.根据权利要求6所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述注意力特征融合模块包括多尺度通道注意力单元以及至少一个第八卷积层；

所述位置注意力模块输出的C×H×W的第八数据特征以及通道注意力模块输出的C×H×W的第十四数据特征进入注意力特征融合模块之后，先将第八数据特征与第十四数据特征逐元素求和，得到C×H×W的初始融合特征；并将初始融合特征通过多尺度通道注意力单元进行处理，得到C×H×W的高精度融合特征；

采用与高精度融合特征维度相同的单位矩阵与高精度融合特征逐元素相减之后，得到C×H×W的第十五数据特征，并获取位置注意力模块输出的第八数据特征与第十五数据特征之间的哈达玛积，得到C×H×W的第十六数据特征；

获取通道注意力模块输出的第十四数据特征与高精度融合特征之间的哈达玛积，得到C×H×W的第十七数据特征；

将第十六数据特征与第十七数据特征逐元素求和，并通过至少一个第八卷积层处理之后，得到2×H×W的OTFS信道估计结果，即得到OTFS信号对应的CSI信息。

8.根据权利要求7所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述多尺度通道注意力单元包括全局平均池化层、第一点卷积层、第三批归一化层、第三RELU激活函数层、第二点卷积层、第三点卷积层、第四批归一化层、第四RELU激活函数层、第四点卷积层、第五批归一化层、第六批归一化层、broadcast层以及激活函数层；

所述全局平均池化层以及第一点卷积层共用输入，即初始融合特征输入多尺度通道注意力单元之后，分别输入全局平均池化层以及第一点卷积层中进行处理；

所述初始融合特征通过全局平均池化层、第三点卷积层、第三批归一化层、第三RELU激活函数层、第四点卷积层以及第五批归一化层的处理之后，得到C×1×1的第十八数据特征；

所述初始融合特征通过第一点卷积层、第四批归一化层、第四RELU激活函数层、第二点卷积层以及第六批归一化层的处理之后，得到C×H×W的第十九数据特征；

将第十八数据特征经过broadcast层处理之后得到的C×H×W的特征与第十九数据特征逐元素相加，并通过激活函数层的处理之后，得到C×H×W的第二十数据特征；

获取初始融合特征与第二十数据特征之间的哈达玛积，得到C×H×W的高精度融合特征。

9.根据权利要求1-8任一所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，根据训练数据集对深度残差注意力网络进行训练，得到训练完成的深度残差注意力网络，包括：

以训练数据集中训练数据的OTFS信号作为深度残差注意力网络的输入，以训练数据集中训练数据的CSI信息作为深度残差注意力网络的期望输出，并采用反向传播算法以及Adam优化器对深度残差注意力网络进行训练，直至网络收敛，得到训练完成的深度残差注意力网络。

10.根据权利要求9所述的基于深度残差注意力网络的OTFS信道估计方法，其特征在于，所述网络收敛的判断条件包括：

获取深度残差注意力网络的误差函数值；

若深度残差注意力网络的误差函数值从高到低下降至小于误差阈值时，且随着训练的增长，误差函数值一直稳定在误差阈值下以及波动范围小于设定的范围阈值内，则认为网络收敛。