CN113098805A - 基于二值化神经网络的高效mimo信道反馈方法及装置 - Google Patents

基于二值化神经网络的高效mimo信道反馈方法及装置 Download PDF

Info

Publication number
CN113098805A
CN113098805A CN202110356946.1A CN202110356946A CN113098805A CN 113098805 A CN113098805 A CN 113098805A CN 202110356946 A CN202110356946 A CN 202110356946A CN 113098805 A CN113098805 A CN 113098805A
Authority
CN
China
Prior art keywords
self
neural network
binarization
channel
downlink channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110356946.1A
Other languages
English (en)
Other versions
CN113098805B (zh
Inventor
王劲涛
陆智麟
张彧
阳辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN202110356946.1A priority Critical patent/CN113098805B/zh
Publication of CN113098805A publication Critical patent/CN113098805A/zh
Priority to PCT/CN2022/083630 priority patent/WO2022206747A1/zh
Application granted granted Critical
Publication of CN113098805B publication Critical patent/CN113098805B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/0202—Channel estimation
    • H04L25/024—Channel estimation channel estimation algorithms
    • H04L25/0242—Channel estimation channel estimation algorithms using matrix methods
    • H04L25/0244—Channel estimation channel estimation algorithms using matrix methods with inversion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B7/00—Radio transmission systems, i.e. using radiation field
    • H04B7/02—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
    • H04B7/04—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
    • H04B7/0413—MIMO systems
    • H04B7/0417—Feedback systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/0202—Channel estimation
    • H04L25/024—Channel estimation channel estimation algorithms
    • H04L25/0254—Channel estimation channel estimation algorithms using neural network algorithms
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Power Engineering (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Radio Transmission System (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开了一种基于二值化神经网络的高效MIMO信道反馈方法及装置，该方法包括：根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间‑频率域下行信道矩阵的维度；将空间‑频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将信道特征向量通过上行链路从用户端发送到基站端；通过基站端的基于神经网络的自解码器对接收到的信道特征向量进行解码，得到空间‑频率域下行信道矩阵。该方案可以在资源受限的用户端进行低开销的自编码器神经网络部署，实现更实际的信道压缩反馈方案。

Description

基于二值化神经网络的高效MIMO信道反馈方法及装置
技术领域
本发明涉及通信技术领域，特别涉及一种基于二值化神经网络的高效MIMO信道反馈方法及装置。
背景技术
传统基于码本的MIMO(Multiple-Input Multiple-Output，多输入多输出系统)系统信道反馈精度受限，尤其在MIMO规模扩展为大规模MIMO后，其反馈精度将进一步衰减。
MIMO系统的全信道反馈或亚全信道反馈需要反馈的信息量较大，带来难以承受的反馈开销。另外传统的压缩感知技术难以实现充分低的压缩率和充分低的压缩信息损耗。
基于深度学习的MIMO系统信道压缩反馈技术通过对信道特征的学习，在较低的压缩率下实现了较低的压缩信息损耗，但对于资源受限的用户端设备，已有的自编码器网络在储存和计算上都过于笨重。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此，本发明的一个目的在于提出一种基于二值化神经网络的高效MIMO信道反馈方法，该方法可以在资源受限的用户端进行低开销的自编码器神经网络部署，实现更实际的信道压缩反馈方案。
本发明的另一个目的在于提出一种基于二值化神经网络的高效MIMO信道反馈装置。
为达到上述目的，本发明一方面实施例提出了一种基于二值化神经网络的高效MIMO信道反馈方法，包括：
S1，根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度；
S2，将所述空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
S3，通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到所述空间-频率域下行信道矩阵。
为达到上述目的，本发明另一方面实施例提出了一种基于二值化神经网络的高效MIMO信道反馈装置，包括：
用户端前序模块，用于根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度；
第一压缩模块，用于将所述空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
第一解压缩模块，用于通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到所述空间-频率域下行信道矩阵。
本发明实施例的基于二值化神经网络的高效MIMO信道反馈方法及装置，通过引入网络二值化技术，将原本的自编码器中的浮点全连接层量化为二值化全连接层。在储存上，二值化自编码器是原始浮点自编码器的三十分之一；在计算速度上，二值化自编码器是原始浮点自编码器的两倍。通过上述网络二值化技术设计的超轻量级的MIMO信道压缩反馈自编码器，十分有利于在多样化的资源受限用户设备商进行网络部署。
本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本发明一个实施例的基于二值化神经网络的高效MIMO信道反馈方法流程图；
图2为根据本发明一个实施例的基于二值化神经网络的高效MIMO信道反馈方法示意图；
图3为根据本发明一个实施例的二值化自编码器端到端的训练示意图；
图4为根据本发明一个实施例的自编码器中的二值化维度压缩全连接层以及自解码器中的维度扩张全连接层的可视化示意图；
图5为根据本发明一个实施例的基于二值化神经网络的高效MIMO信道反馈装置结构示意图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的基于二值化神经网络的高效MIMO信道反馈方法及装置。
首先将参照附图描述根据本发明实施例提出的基于二值化神经网络的高效MIMO信道反馈方法。
图1为根据本发明一个实施例的基于二值化神经网络的高效MIMO信道反馈方法流程图。
如图1所示，该基于二值化神经网络的高效MIMO信道反馈方法包括以下步骤：
步骤S1，根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度。
根据预设通信需求或预设通信系统确定OFDM子载波个数Nc以及基站端天线数Nt，由此确定空间-频率域下行信道矩阵
Figure BDA0003003724550000031
的维度。
具体地，本发明的实施例主要应用于频分双工(FDD)系统中以降低资源受限的用户端的储存和计算开销，其中基站端是的多天线阵列，用户端是单天线。但在时分双工(TDD)系统中需要进行信道反馈时，也可以利用同样的系统结构进行压缩反馈，降低用户端的储存和计算开销。
进一步地，确定用户端信道的空间-频率域下行信道矩阵的维度之后，还可以对空间-频率域下行信道矩阵进行处理，通过两次离散傅里叶变换将空间-频率域下行信道矩阵变换为角度-时延域下行信道矩阵，通过非零子阵切割截取角度-时延域下行信道矩阵中的非零子阵。将非零子阵作为自编码器的输入。
可以理解的是，离散傅里叶变换操作针对任意OFDM子载波个数Nc以及基站端天线数Nt均可通用。截取非零子阵的方式由实际信道条件决定，当信道时延较高或较复杂时所截取的非零子阵较大，反之则只需要较小的非零子阵。
步骤S2，将空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将信道特征向量通过上行链路从用户端发送到基站端。
通过自编码器进行压缩后，用户端通过上行链路反馈该压缩后特征向量而非直接反馈原始信道矩阵，从而极大降低信道反馈的开销。
具体地，基于二值化神经网络的自编码器可以为未处理的空间-频率域下行信道矩阵，直接对空间-频率域下行信道矩阵进行压缩，得到信道特征向量。若对空间-频率域下行信道矩阵进行处理，则将非零子阵作为自编码器的输入进行压缩，得到信道特征向量。
可以理解的是，在本发明的实施例中，是否对空间-频率域下行信道矩阵采取离散傅里叶变换均是可行方案。
进一步地，基于二值化神经网络的自编码器由前序的卷积层和后序的全连接层级联组成，对基于二值化神经网络的自编码器中的全连接层进行二值化，卷积层二值化或不进行二值化。
作为一种实施方式，只将用于调整信道矩阵维度的全连接层进行二值化。前序的卷积层可二值化可不二值化，为保证性能一般推荐不进行二值化。实际上全连接层通常占据90％以上的自编码器网络参数量与计算量权重，故二值化全连接层基本意味着二值化全自编码器。
步骤S3，通过基站端的基于神经网络的自解码器对接收到的信道特征向量进行解码，得到空间-频率域下行信道矩阵，从而完成低开销的MIMO系统下行信道反馈。
具体地，若未对空间-频率域下行信道矩阵变换进行离散傅里叶变换，则直接通过自解码器对信道向量解码得到空间-频率域下行信道矩阵。若对空间-频率域下行信道矩阵进行了离散傅里叶变换以及非零子阵切割，则通过基站端的基于神经网络的自解码器对接收到的信道特征向量进行解码，得到非零角度-时延域下行信道子阵，再对非零角度-时延域下行信道子阵进行补零和两次离散傅里叶逆变换得到空间-频率域下行信道矩阵，完成完整的下行信道压缩反馈过程。
解压后角度-时延域非零信道子阵和真实角度-时延域非零信道子阵会有一定的差别。这样的差别即为压缩反馈的信息损失。本发明通过对自编码器和自解码器的充分恰当训练，可以使这样的信息损失足够小，也即使得恢复出的信道子阵充分精确和可用。另外，使用更加强大的自编码器和自解码器能够进一步降低这样的信息损失。
进一步地，基于神经网络的自解码器可以有各种不同的设计，如利用残差网络、利用多分辨率网络、利用注意力机制增强网络等。
发明对MIMO信道压缩网络二值化自编码器的几种扩展，主要针对对自编码器中已有卷积神经网络进行扩展强化，从而获取更好的反馈性能。如添加额外的卷积层、使用额外的残差链接、扩大卷积核的尺寸等。对MIMO信道压缩网络自解码器的扩展，主要针对自解码器添加冗余的解码单元，从而获取更好的反馈性能。
进一步地，在本发明的实施例中，需要对二值化自编码器和自解码器进行端到端训练。
首先获取训练数据集和测试数据集。可以利用已有的成熟信道模型批量生成信道数据，也可以利用设备专门从实际环境中采集信道数据。前者成本较低但部署时有可能性能降退；后者成本较高但训练后的网络在实际环境中表现更好。将得到的信道矩阵经过离散傅里叶变换和非零子阵切割等预处理后，生成可以用于端到端网络训练的数据集，获得数据后将其拆分成训练集和测试集，两个集合要求无重复数据。
后将自编码器和自解码器连接在一起进行端到端的训练，其中优化器可以使用ADAM、损失函数使用平均平方误差(MSE)。具体而言，将自编码器的输入直接作为自解码器的输入；而自解码器输出的角度-时延域非零信道子阵则和其真值计算平均平方误差(MSE)。因此网络前向传播最终会计算出损失函数MSE的值，然后通过该损失函数值进行反向传播，也即根据链式法则自动求导，获取每个层的梯度。在梯度获取后，利用ADAM优化器的初始化情况和优化法则给出自适应的学习率，然后对各个层的参数进行更新即可。
在端到端训练中，自编码器中的二值化模块(如二值化全连接层)不可导。为了实现正常的端到端训练和迭代，采用了梯度低通近似的方式，也即对于所有绝对值小于门限的参数原样反传其梯度，而对绝对值大于门限的参数进行梯度迫零。因此整个反馈网络可以实现完整的梯度反向传播，从而实现端到端训练。如图3所示，具体地流程如下：
a)找到自编码器中所有的二值化层，默认只有最后的全连接层属于二值化层。基于二值化层的当前浮点参数计算等效权重。
b)将二值化层的浮点参数二值化，二值化的方式为取其符号，也即正数和零二值化为1；负数二值化为-1。
c)基于上述二值化后的参数，对整个反馈网络(自编码器加级联解码器)做前向传播，求出损失函数MSE。
d)基于损失函数MSE进行反向传播，以自动求导获取各层梯度。
e)上一步中的反向传播经过自编码器中的二值化层时，无法再继续自动求导，需要手动给出二值化函数的导数。此处用梯度低通滤波器作为二值化函数的近似导数，具体来说当原始参数绝对值大于1时，认为该参数的梯度为0；当原始参数的绝对值小于1时，认为该参数的梯度和正常的浮点梯度一致。
f)由上一步中定义的操作可以获取反馈网络所有层的梯度；可以从二值化层的等效权重和二值化层的原始梯度中，计算出对二值化层浮点参数的更新梯度。
g)结合f)中计算出的二值化层更新梯度以及d)中得到的其他各层梯度，利用优化器(ADAM)和对应的学习率对整体反馈网络(自编码器级联自解码器)进行参数更新。
保持端到端训练，逐步下降学习率直到网络收敛，即可获取压缩反馈网络的自编码器设计和自解码器设计。
可以理解的是，不同的自解码器设计、不同的优化器设计、不同的学习率下降方式都可以通过梯度低通近似策略实现MIMO信道压缩二值化自编码器端到端训练。
本发明的实施例包含了一种对MIMO信道压缩网络(含自编码器和自解码器)有效的学习率下降策略。即学习率先从0快速上升到最高点，再从最高点以余弦曲线下降为0。其中学习率的最低点可以不是0而是某个接近零的小量；学习率上升的区间和下降的区间长度可以不同，通常前者短得多。
下面对本发明的基于二值化神经网络的高效MIMO信道反馈方法进行详细说明。
S101：对于FDD系统，根据已有通信系统硬件和系统软件的情况，确定OFDM子载波个数Nc以及基站端天线数Nt，从而给出合并各个子载波的整体下行信道
Figure BDA0003003724550000061
的维度，也即Nc×Nt。将其通过两次离散傅里叶变换将
Figure BDA0003003724550000062
变换到角度-时延域后得到矩阵
Figure BDA0003003724550000063
如下公式所示：
Figure BDA0003003724550000064
其中X和Y分别是对应维度的离散傅里叶变换矩阵。由于FDD的MIMO信道在时延域的稀疏性，
Figure BDA0003003724550000065
只有有限而且集中的几行非零。对于绝大部分近似为零的行没必要进行反馈，故此时截取其前Ns行组成的非零子阵H，作为信道反馈的对象，如下公式所示：
Figure BDA0003003724550000066
S102：在用户端，矩阵H将通过基于二值化神经网络的自编码器E。自编码器由前序的卷积层和后续的全连接层级联组成，分别负责信道空域特征抽象和信道维度压缩，最终将输入的矩阵H转化为压缩后的特征向量v，如下公式所示：
E(H)＝EFC(Econv(H))＝v
值得留意的是：特征向量v的维度是原本矩阵H的几分之一到几十分之一不等。因此用户端只需反馈v而无需反馈H将显著降低反馈开销。值得留意的是这里的卷积层可以有各种设计，其中一个设计见第一个具体实施例。而全连接层则被矩阵H和特征向量v的维度所约束。其中矩阵H的维度为2×Ns×Nt，其中2代表实部和虚部(信道矩阵H的每个位置上的元素均为一个复数)；而特征向量v的维度为
Figure BDA0003003724550000067
其中λ为压缩倍数，从几到几十不等。故而全连接层的维度为
Figure BDA0003003724550000068
特征向量v通过上行链路进行理想反馈后，在基站端将接收到无损的特征向量v。留意此处假设上行链路是无损数字传输，不考虑特征向量本身在传输中可能的信息损耗，而是专注于如何从压缩后的特征向量中恢复出尽可能精确的原始信道矩阵。
S103：在基站端将收到的特征向量v输入基于神经网络的自解码器D，自解码器的结构和自编码器是对偶的，由一个维度对偶的全连接层级联后续卷积层组成。维度对偶的全连接层将压缩得到的特征向量v还原到压缩前的维度；后续的卷积层提取和还原原始信道矩阵H的空域信息，如下公式所示：
Figure BDA0003003724550000069
经过恰当训练的自解码器可以恢复出原始非零角度-时延域子阵H，也即使得
Figure BDA00030037245500000610
和原始信道矩阵H充分接近。值得留意的是，此处的全连接层的维度和自编码器中的全连接层是相反的，也即
Figure BDA0003003724550000071
而由于基站端的储存和计算能力均比较强，后续的卷积层Dconv可以构建得相对复杂，从而更好地恢复信道矩阵的空域特征，实现更好的反馈性能。
S104：最后基站端通过补零和两次逆离散傅里叶变换，可以从非零角度-时延域子阵的恢复值
Figure BDA0003003724550000072
获取原始下行信道的恢复值
Figure BDA0003003724550000073
完成完整的下行信道压缩反馈过程，如下公式所示：
Figure BDA0003003724550000074
其中
Figure BDA0003003724550000075
为补零后的角度-时延域矩阵，是维度为Nt×Nc的复矩阵；而
Figure BDA0003003724550000076
和
Figure BDA0003003724550000077
则是对应的逆离散傅里叶变换矩阵。
而本发明的关键，就是对占据了自编码器绝大部分储存/计算复杂度的全连接层EFC进行二值化。通过将其中的32位浮点数参数简化为1位的二值化参数，该层的储存复杂度降低为原本的
Figure BDA0003003724550000078
而由于二值化后无需进行乘法运算，只需进行加法运算，其计算成本也大幅下降，保守估计运算速度提升2倍以上。值得留意的是，目前大多数自编码器设计中，卷积层所占的计算量和参数量相比于全连接层都很小。因此二值化自编码器卷积层的损失大于收益，故本发明的实例中不采用卷积层二值化(但这样的操作实质上也是可行的)。
用EBFC代表二值化的自编码器全连接层。则本发明提出的基于网络二值化的低复杂度MIMO信道压缩反馈方法可以由如下公式刻画：
Figure BDA0003003724550000079
通过上述的流程，本发明极大地降低了资源敏感的用户端自编码器部署的成本，提高了基于神经网络自编码器-自解码器的MIMO信道反馈方法在实际系统中的可行性。上述流程可以通过图2所刻画的基于网络二值化的低复杂度MIMO信道压缩反馈装置实现。
另外，上述网络均需要通过端到端训练的方式来获取信道压缩/解压缩的能力，需要训练的部分包括Econv、EBFC、DFC和Dconv。通过发明内容中所描述的端到端训练策略即可在采集/生成的数据上训练上述实施例刻画的网络，而其中的关键是对不可导的二值化自编码器全连接层EBFC进行端到端处理，按照图3所示获取其参数的等效权重，并计算出其更新梯度。
设EBFC层的浮点参数用FBFC表示，其二值化参数用BBFC表示，则二值化层参数等效权重β的一种实例化计算方式如下：
Figure BDA0003003724550000081
其浮点参数的更新梯度的对应计算方式如下：
Figure BDA0003003724550000082
其中flow_pass(FBFC)为前述梯度低通滤波器，用于处理二值化函数的近似求导。
下面将通过具体实施例的方式对基于网络二值化的低复杂度MIMO信道压缩反馈方法进行进一步阐述。
1)对于一个FDD大规模MIMO系统，其OFDM子载波个数为Nc＝1024，基站端天线阵列规模为Nt＝32。则其下行信道矩阵
Figure BDA0003003724550000083
的维度为1024×32。对下行信道矩阵
Figure BDA0003003724550000084
做两次离散傅里叶变换，可以将其从空间-频率域变换到角度-时延域获取角度-时延域信道矩阵
Figure BDA0003003724550000085
后，对其进行截取，取出前32行(一般16行即可，32行能进一步提高精度)作为需要反馈的复数子阵H，则其维度降为32×32，转为浮点数向量后维度即为2×32×32。
2)在用户端将子阵H输入自编码器E，其中自编码器E由一个卷积层和一个全连接层组成。设目标压缩倍数为8倍，将卷积层设为两个3×3卷积的级联，每个卷积后面跟随着批归一化层和激活函数层；而全连接层则实现信道维度的压缩，其参数维度为2048×256，因此自编码器E输出的特征向量v的维度为1×256。本发明中自编码器的全连接层是二值化的，因此实际上此处参数量仅为16K(原始浮点参数量为512K)，也即参数量降低为原本的
Figure BDA0003003724550000086
另外此处网络计算时不需要进行乘法运算，因为乘以±1等价于改变当前元素符号，最终退化为向量元素之间的加减法。而加法的运算速度在绝大多数硬件上都快于乘法，因此此处的二值化全连接层的前传速度是原始浮点参数全连接层的两倍以上。
3)将特征向量v进行理想的数字反馈，基站端接收到无损的特征向量v后将其输入基于神经网络的自解码器。自解码器由训练好的一个维度扩展全连接层和一个较强大的卷积神经网络构成。其中维度扩展全连接层的维度和自编码器中的维度压缩全连接层对偶，其参数维度为256×2048。值得留意的是本发明中的自解码器参数是正常的32位浮点数。通过维度扩展全连接层后，特征向量v的维度扩展回原本的2048＝2×32×32。后续的卷积子网络主要由简单卷积层和残差结构组成，每个残差结构中包括三个卷积层，其卷积核大小均为3；三个卷积核分别将通道数扩增到8、扩增到16和压缩回2，通过对通道的放缩实现特征的恢复。本实例中级联两个这样的残差结构，并在最后添加一个卷积核大小为3的简单卷积层形成最终的自解码器卷积网络。由上述结构可以看到，最终自解码器恢复出的矩阵
Figure BDA0003003724550000087
维度仍为2×32×32，以复数维度考虑即为32×32。
4)对矩阵
Figure BDA0003003724550000088
补零，将其维度从32×32恢复到1024×32。对恢复OFDM维度的矩阵进行两次逆离散傅里叶变换，从而得到最终的MIMO信道反馈结果。
在上述具体实例中，训练数据由实际环境采集，或者由信道模型(COST2100模型、3GPPTR.38.901UMiNLOS模型或简单Saleh-Valenzuela模型等)进行生成。以COST2100的高频室内场景为例，在基于ADAM优化器对批量数据进行训练后，可以通过上述二值化自编码器和自解码器的级联压缩反馈网络，获取-10dB以下的信道恢复归一化均方误差，给后续的波束成形提供足够精确的下行信道信息。
本具体实例中，经过训练得到的自编码器中的二值化维度压缩全连接层以及自解码器中的维度扩张全连接层的可视化如图4所示。可以看到经过训练学习后的全连接层参数刻画了信道的某些空域特征。
根据本发明实施例提出的基于二值化神经网络的高效MIMO信道反馈方法，通过引入网络二值化技术，将原本的自编码器中的浮点全连接层量化为二值化全连接层。在储存上，二值化自编码器是原始浮点自编码器的三十分之一；在计算速度上，二值化自编码器是原始浮点自编码器的两倍。通过上述网络二值化技术设计的超轻量级的MIMO信道压缩反馈自编码器，十分有利于在多样化的资源受限用户设备商进行网络部署。
其次参照附图描述根据本发明实施例提出的基于二值化神经网络的高效MIMO信道反馈装置。
图5为根据本发明一个实施例的基于二值化神经网络的高效MIMO信道反馈装置结构示意图。
如图5所示，该基于二值化神经网络的高效MIMO信道反馈装置包括：用户端前序模块501、第一压缩模块502和第一解压缩模块503。
用户端前序模块501，用于根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度。
第一压缩模块502，用于将空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将信道特征向量通过上行链路从用户端发送到基站端。
第一解压缩模块503，用于通过基站端的基于神经网络的自解码器对接收到的信道特征向量进行解码，得到空间-频率域下行信道矩阵。
进一步地，在本发明的实施例中，还包括：
变换模块504，用于通过两次离散傅里叶变换将空间-频率域下行信道矩阵变换为角度-时延域下行信道矩阵，通过非零子阵切割截取角度-时延域下行信道矩阵中的非零子阵。
第二压缩模块505，用于将非零子阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将信道特征向量通过上行链路从用户端发送到基站端。
第二解压缩模块506，用于通过基站端的基于神经网络的自解码器对接收到的信道特征向量进行解码，得到非零角度-时延域下行信道子阵，对非零角度-时延域下行信道子阵进行补零和两次离散傅里叶逆变换得到空间-频率域下行信道矩阵。
基站端最终获取到了空间-频率域MIMO系统下行信道
Figure BDA0003003724550000101
可以用做其他后续模块的输入，例如波束成形模块等。
需要说明的是，前述对方法实施例的解释说明也适用于该实施例的装置，此处不再赘述。
根据本发明实施例提出的基于二值化神经网络的高效MIMO信道反馈装置，通过引入网络二值化技术，将原本的自编码器中的浮点全连接层量化为二值化全连接层。在储存上，二值化自编码器是原始浮点自编码器的三十分之一；在计算速度上，二值化自编码器是原始浮点自编码器的两倍。通过上述网络二值化技术设计的超轻量级的MIMO信道压缩反馈自编码器，十分有利于在多样化的资源受限用户设备商进行网络部署。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于二值化神经网络的高效MIMO信道反馈方法，其特征在于，包括以下步骤：
S1，根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度；
S2，将所述空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
S3，通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到所述空间-频率域下行信道矩阵。
2.根据权利要求1所述的方法，其特征在于，还包括：
通过两次离散傅里叶变换将所述空间-频率域下行信道矩阵变换为角度-时延域下行信道矩阵，通过非零子阵切割截取所述角度-时延域下行信道矩阵中的非零子阵；
将所述非零子阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到非零角度-时延域下行信道子阵，对所述非零角度-时延域下行信道子阵进行补零和两次离散傅里叶逆变换得到所述空间-频率域下行信道矩阵。
3.根据权利要求1所述的方法，其特征在于，
所述通信系统为频分双工系统或时分双工系统。
4.根据权利要求1所述的方法，其特征在于，
所述基于二值化神经网络的自编码器由前序的卷积层和后序的全连接层级联组成，对所述基于二值化神经网络的自编码器中的全连接层进行二值化，所述卷积层二值化或不进行二值化。
5.根据权利要求1所述的方法，其特征在于，所述基于神经网络的自解码器包括残差网络、多分辨率网络和注意力机制增强网络。
6.根据权利要求1所述的方法，其特征在于，还包括：对所述基于二值化神经网络的自编码器和所述基于神经网络的自解码器进行端到端训练，具体为：
获取训练数据集和测试数据集；
将所述基于二值化神经网络的自编码器和所述基于神经网络的自解码器连接在一起利用训练数据集进行端到端的训练，训练中通过梯度低通滤波器采用梯度低通近似的方式保持端到端训练，逐步下降学习率直到网络收敛，通过测试数据集对训练后的所述基于二值化神经网络的自编码器和所述基于神经网络的自解码器进行测试。
7.根据权利要求6所述的方法，其特征在于，通过实际信道环境或描述实际信道环境的信道模型得到多个信道矩阵，将所述多个信道矩阵进行离散傅里叶变换和非零子阵切割生成训练数据集和测试数据集，所述训练数据集和测试数据集中数据不重复。
8.根据权利要求6所述的方法，其特征在于，所述端到端训练进一步包括：
确定自编码器中所有的二值化层，默认只有最后的全连接层属于二值化层，基于二值化层的当前浮点参数计算等效权重；
将二值化层的浮点参数二值化，二值化的方式为取其符号；
基于二值化后的参数，对整个反馈网络做前向传播，求出损失函数；
基于损失函数进行反向传播，以自动求导获取各层梯度，通过梯度低通滤波器作为自编码器中的二值化层的近似导数，获取反馈网络所有层的梯度；
从二值化层的等效权重和二值化层的原始梯度中，计算出对二值化层浮点参数的更新梯度；
结合二值化层更新梯度以及其他各层梯度，利用优化器和对应的学习率对整体反馈网络进行参数更新。
9.一种基于二值化神经网络的高效MIMO信道反馈装置，其特征在于，包括：
用户端前序模块，用于根据通信系统中OFDM的子载波个数和基站端天线数确定用户端信道的空间-频率域下行信道矩阵的维度；
第一压缩模块，用于将所述空间-频率域下行信道矩阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
第一解压缩模块，用于通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到所述空间-频率域下行信道矩阵。
10.根据权利要求9所述的装置，其特征在于，还包括：
变换模块，用于通过两次离散傅里叶变换将所述空间-频率域下行信道矩阵变换为角度-时延域下行信道矩阵，通过非零子阵切割截取所述角度-时延域下行信道矩阵中的非零子阵；
第二压缩模块，用于将所述非零子阵输入到基于二值化神经网络的自编码器进行压缩，得到信道特征向量，将所述信道特征向量通过上行链路从用户端发送到基站端；
第二解压缩模块，用于通过基站端的基于神经网络的自解码器对接收到的所述信道特征向量进行解码，得到非零角度-时延域下行信道子阵，对所述非零角度-时延域下行信道子阵进行补零和两次离散傅里叶逆变换得到所述空间-频率域下行信道矩阵。
CN202110356946.1A 2021-04-01 2021-04-01 基于二值化神经网络的高效mimo信道反馈方法及装置 Active CN113098805B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110356946.1A CN113098805B (zh) 2021-04-01 2021-04-01 基于二值化神经网络的高效mimo信道反馈方法及装置
PCT/CN2022/083630 WO2022206747A1 (zh) 2021-04-01 2022-03-29 基于二值化神经网络的高效mimo信道反馈方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110356946.1A CN113098805B (zh) 2021-04-01 2021-04-01 基于二值化神经网络的高效mimo信道反馈方法及装置

Publications (2)

Publication Number Publication Date
CN113098805A true CN113098805A (zh) 2021-07-09
CN113098805B CN113098805B (zh) 2022-09-27

Family

ID=76672686

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110356946.1A Active CN113098805B (zh) 2021-04-01 2021-04-01 基于二值化神经网络的高效mimo信道反馈方法及装置

Country Status (2)

Country Link
CN (1) CN113098805B (zh)
WO (1) WO2022206747A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113572709A (zh) * 2021-07-12 2021-10-29 华中科技大学 一种大规模mimo系统中基站端导频辅助信道估计方法和系统
CN115001629A (zh) * 2022-04-29 2022-09-02 清华大学 信道量化反馈方法、装置、电子设备及存储介质
WO2022206747A1 (zh) * 2021-04-01 2022-10-06 清华大学 基于二值化神经网络的高效mimo信道反馈方法及装置
WO2023011472A1 (zh) * 2021-08-04 2023-02-09 中兴通讯股份有限公司 信道状态信息的反馈方法及接收方法、终端、基站、计算机可读存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170279508A1 (en) * 2016-03-24 2017-09-28 Huawei Technologies Co., Ltd. System and Method for Downlink Channel Estimation in Massive Multiple-Input-Multiple-Output (MIMO)
CN107491787A (zh) * 2017-08-21 2017-12-19 珠海习悦信息技术有限公司 局部二值化cnn的处理方法、装置、存储介质及处理器
CN108259072A (zh) * 2018-01-10 2018-07-06 杭州电子科技大学 用于fdd大规模mimo下行系统减少训练序列开销的方法
CN109743683A (zh) * 2018-12-03 2019-05-10 北京航空航天大学 一种采用深度学习融合网络模型确定手机用户位置的方法
CN110289898A (zh) * 2019-07-18 2019-09-27 中国人民解放军空军预警学院 一种大规模mimo系统中基于1比特压缩感知的信道反馈方法
CN110311718A (zh) * 2019-07-05 2019-10-08 东南大学 一种大规模mimo信道状态信息反馈中的量化和逆量化方法
CN110322529A (zh) * 2019-07-12 2019-10-11 电子科技大学 一种基于深度学习辅助艺术绘画的方法
WO2019220008A1 (en) * 2018-05-15 2019-11-21 Nokia Technologies Oy A method for neural networks
CN110633668A (zh) * 2019-09-09 2019-12-31 合肥飞扬机电有限公司 基于二值化卷积神经网络的铁路调车信号灯检测方法及系统
US20200117863A1 (en) * 2018-10-13 2020-04-16 Massachusetts Institute Of Technology Methods and apparatus for radio frequency sensing in diverse environments
CN112529160A (zh) * 2020-12-09 2021-03-19 南京大学 一种摄像器材记录的视频图像数据的高维模仿学习方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017004546A1 (en) * 2015-07-02 2017-01-05 Interdigital Patent Holdings, Inc. Methods and apparatus for channel estimation and precoding based analog channel state information feedback
CN110350958B (zh) * 2019-06-13 2021-03-16 东南大学 一种基于神经网络的大规模mimo的csi多倍率压缩反馈方法
CN113098805B (zh) * 2021-04-01 2022-09-27 清华大学 基于二值化神经网络的高效mimo信道反馈方法及装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170279508A1 (en) * 2016-03-24 2017-09-28 Huawei Technologies Co., Ltd. System and Method for Downlink Channel Estimation in Massive Multiple-Input-Multiple-Output (MIMO)
CN107491787A (zh) * 2017-08-21 2017-12-19 珠海习悦信息技术有限公司 局部二值化cnn的处理方法、装置、存储介质及处理器
CN108259072A (zh) * 2018-01-10 2018-07-06 杭州电子科技大学 用于fdd大规模mimo下行系统减少训练序列开销的方法
WO2019220008A1 (en) * 2018-05-15 2019-11-21 Nokia Technologies Oy A method for neural networks
US20200117863A1 (en) * 2018-10-13 2020-04-16 Massachusetts Institute Of Technology Methods and apparatus for radio frequency sensing in diverse environments
CN109743683A (zh) * 2018-12-03 2019-05-10 北京航空航天大学 一种采用深度学习融合网络模型确定手机用户位置的方法
CN110311718A (zh) * 2019-07-05 2019-10-08 东南大学 一种大规模mimo信道状态信息反馈中的量化和逆量化方法
CN110322529A (zh) * 2019-07-12 2019-10-11 电子科技大学 一种基于深度学习辅助艺术绘画的方法
CN110289898A (zh) * 2019-07-18 2019-09-27 中国人民解放军空军预警学院 一种大规模mimo系统中基于1比特压缩感知的信道反馈方法
CN110633668A (zh) * 2019-09-09 2019-12-31 合肥飞扬机电有限公司 基于二值化卷积神经网络的铁路调车信号灯检测方法及系统
CN112529160A (zh) * 2020-12-09 2021-03-19 南京大学 一种摄像器材记录的视频图像数据的高维模仿学习方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
TANGWEI2014: "二值化神经网络系列一：二值化神经网络介绍", 《CSDN》 *
张梦莹等: "基于压缩感知的大规模MIMO分段信道反馈", 《计算机技术与发展》 *
梁煜等: "一种改进的卷积神经网络的室内深度估计方法", 《天津大学学报(自然科学与工程技术版)》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022206747A1 (zh) * 2021-04-01 2022-10-06 清华大学 基于二值化神经网络的高效mimo信道反馈方法及装置
CN113572709A (zh) * 2021-07-12 2021-10-29 华中科技大学 一种大规模mimo系统中基站端导频辅助信道估计方法和系统
WO2023011472A1 (zh) * 2021-08-04 2023-02-09 中兴通讯股份有限公司 信道状态信息的反馈方法及接收方法、终端、基站、计算机可读存储介质
CN115001629A (zh) * 2022-04-29 2022-09-02 清华大学 信道量化反馈方法、装置、电子设备及存储介质
CN115001629B (zh) * 2022-04-29 2024-03-12 清华大学 信道量化反馈方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN113098805B (zh) 2022-09-27
WO2022206747A1 (zh) 2022-10-06

Similar Documents

Publication Publication Date Title
CN113098805B (zh) 基于二值化神经网络的高效mimo信道反馈方法及装置
CN112737985B (zh) 基于深度学习的大规模mimo信道联合估计和反馈方法
CN108390706B (zh) 一种基于深度学习的大规模mimo信道状态信息反馈方法
CN111464220B (zh) 一种基于深度学习的信道状态信息重建方法
CN111698182B (zh) 一种基于压缩感知的时频分块稀疏的信道估计方法
CN109474316B (zh) 一种基于深度循环神经网络的信道信息压缩反馈方法
US11424853B2 (en) Device and method for compressing and/or decompressing channel state information
US20080019457A1 (en) Reduced feedback transmit beamforming
US20090121935A1 (en) System and method of weighted averaging in the estimation of antenna beamforming coefficients
CN113748614A (zh) 一种信道估计模型训练方法及设备
CN111555781B (zh) 一种基于深度学习注意力机制的大规模mimo信道状态信息压缩及重建方法
CN113381950B (zh) 基于网络聚合策略的高效mimo信道反馈方法及装置
KR20160146692A (ko) Ｍｉｍｏ 송신기의 전처리 필터를 이용한 전송 신호 생성 방법
CN115001629B (zh) 信道量化反馈方法、装置、电子设备及存储介质
CN115022134B (zh) 基于非迭代重构网络的毫米波大规模mimo系统信道估计方法及系统
CN113726395A (zh) 一种智能反射面增强云接入网多天线用户上行传输方法
KR20180042373A (ko) 수신기, 복수의 송신기들, 다수의 송신기들로부터 사용자 데이터를 수신하는 방법 및 사용자 데이터를 송신하는 방법
CN114884549A (zh) 基于深度学习的大规模mimo信道状态信息反馈方法
CN115865145A (zh) 一种基于Transformer的大规模MIMO信道状态信息反馈方法
TW201944745A (zh) 基於深度學習作為通道狀態資訊之回饋方法
CN107248876B (zh) 基于稀疏贝叶斯学习的广义空间调制符号检测方法
Chakma et al. Deep Decoder CsiNet for FDD Massive MIMO System
CN108736940B (zh) 一种空分复用的方法及装置
Wang et al. Frequency Division Sparse Neural Network for CSI Feedback in Massive MIMO Systems
Sheikh et al. Energy efficient image transmission through orthogonal frequency division multiplexing (OFDM) based multiple input multiple output (MIMO) systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant