CN113344187A - 一种单小区多用户mimo系统的机器学习预编码方法 - Google Patents

Abstract

本发明公开了一种单小区多用户MIMO系统的机器学习预编码方法，该方法首先建立权值和速率最大化模型，然后构造了一种具有特征提取能力和卷积核参数共享的卷积神经网络，并采用监督学习和非监督学习相结合的方法对神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练。采用本发明方法，获得了与WMMSE算法相当的和速率性能，并且能够降低预编码设计的计算复杂度。

Description

一种单小区多用户MIMO系统的机器学习预编码方法

技术领域

本发明涉及无线通信MIMO系统技术领域，特别是涉及一种单小区多用户MIMO系统的机器学习预编码方法。

背景技术

目前关于单小区多用户MIMO系统预编码的应用中，已有基于前反馈全连接神经网络的预编码设计，训练方式大多也是基于监督学习或者是非监督学习。因为网络的学习和提取特征能力有限，大多数文献处理的都是单用户MIMO或者是多小区MISO场景的问题。而关于基于卷积神经网络和非监督监督结合方法的多用户MIMO的预编码设计研究和应用较少。

发明内容

有鉴于此，本发明的目的在于提供一种单小区多用户MIMO系统的机器学习预编码方法，用以解决背景技术中提及的问题。本发明首先建立权值和速率最大化模型，然后构造了一种具有特征提取能力和卷积核参数共享的卷积神经网络，并采用监督学习和非监督学习相结合的方法对神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练。

为实现上述目的，本发明采用如下技术方案：

一种单小区多用户MIMO系统的机器学习预编码方法，包括如下步骤：

步骤S1、建立单小区多用户MIMO系统下的权值和速率最大化模型，所述权值和速率最大化模型为：

受限于：

公式中，k和i表示用户编号，W_k是发射端针对用户k的预编码矩阵；K是系统的用户数，M是基站侧发射天线数，N是每个用户具有的接收天线数；α_k是用户k的可达和速率权值因子；H_k是基站到用户k的信道矩阵；

是第k个接收机端的均值为0的加性高斯白噪声的方差；P_max为系统发射端最大发射功率限制；det(·)表示求矩阵的行列式，Tr(·)表示求矩阵的迹，(·)^-1表示矩阵的求逆操作，(·)^H表示对矩阵或向量进行共轭转置；

步骤S2、针对步骤S1中所述模型使用WMMSE方法进行求解，并以所述WMMSE方法的输入输出作为卷积神经网络的训练数据；

步骤S3、构造卷积神经网络，所述卷积神经网络具有特征提取能力，并且参数共享，采用监督学习和非监督学习相结合的方法对所述卷积神经网络进行训练，具体过程如下：

步骤S301、所述卷积神经网络包括输入层、卷积层、展平层、全连接层、输出层和功率限制层，具体结构如下：

步骤S3011、所述输入层，采用I/Q变换对多用户MIMO信道矩阵进行处理，得到信道矩阵H＝[H₁,H₂,…,H_K]，其中，实部矩阵为

虚部矩阵为

对矩阵H各元素取模得到幅度矩阵

表达式为：

H_real[i,j]＝Re{H[i,j]}

H_imag[i,j]＝Im{H[i,j]}

H_abs[i,j]＝abs{H[i,j]}

i＝0,…,M-1,j＝0,…,KN-1

公式中，H[i,j]表示矩阵H第i行第j列的元素，Re{·}表示取实数，Im{·}表示取虚数，abs{·}表示取模；输入层为三维矩阵，其维数为M×NK×c，其中c＝3表示输入层的通道数，这3个通道的输入分别是H_real、H_imag和H_abs，所述卷积神经网络的输入记为

其表达式为：

H_in[：,：,1]＝H_real

H_in[：,：,2]＝H_imag

H_in[：,：,3]＝H_abs

公式中，H_in[：,：,1]，H_in[：,：,2]，H_in[：,：,3]分别表示三维矩阵H_in第1,2,3页对应的二维矩阵；

步骤S3012、所述卷积层包括卷积核层、分批归一化层和激活函数层，卷积层为L层，卷积层l取值为1,…,L，卷积层l的卷积核层具有c_l个尺寸为a_l×a_l的卷积核，所述卷积核层的表达式为：

O_conv,l＝Conv(I_conv,l,Γ_l,θ_l)

公式中，

表示所述卷积核层的输出，

表示所述卷积核层的输入，

表示所述卷积层l的卷积核层输出维度，并且满足

和I_conv,1＝H_in，所述卷积核的参数包括权值

和偏置矢量

Conv(·)表示卷积运算；

所述卷积层l的分批归一化层采用减去批均值并除以批标准差来对卷积核层的输出进行归一化，具体处理如下：

公式中，O_con,l[i,j,c]表示O_conv,l第i行第j列与第c卷积核操作输出的元素，B_bn,l表示所述分批归一化层输出的三维矩阵，B_bn,l[i,j,c]表示B_bn,l第i行第j列第c页的元素，μ_l,c和σ_l,c分别表示批均值和批标准差；

所述卷积层l的激活函数层使用线性整流函数，具体表达式如下：

A_af,l[i,j,c]＝ReLU(B_bn,l[i,j,c])

其中，A_af,l表示所述激活函数层输出的三维矩阵，A_af,l[i,j,c]表示A_af,l第i行第j列第c页的元素，并且满足I_conv,l+1＝A_af,l，ReLU表示所使用的线性整流函数；

步骤S3013、所述展平层用于对所述卷积层L的输出数据进行处理，展平层激活函数使用的也是ReLU函数，具体表达记为：

A_f＝ReLU(Flat(A_af,L))

公式中，

表示所述展平层的输出，ReLU表示所使用的线性整流函数，Flat表示将三维数据转成一维数据的操作；

步骤S3014、所述全连接层的具体处理如下：

O_fc＝ReLU(W_fcA_f+b_fc)

公式中，O_fc,A_f,b_fc分别为输出、输入和偏置列向量，W_fc为权值矩阵，ReLU表示所使用的线性整流函数；

步骤S3015、所述输出层的表达式如下：

w_output＝ReLU(W_outO_fc+b_out)

公式中，

表示输出层的输出，b_out和W_fc分别为偏置列向量和权值矩阵，ReLU表示所使用的线性整流函数；

步骤S3016、所述功率限制处理的具体处理如下：

公式中，b表示增益因子，

表示所述功率限制层的输出；

步骤S302、采用监督学习和非监督学习相结合的方法对步骤S301中的所述卷积神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练，具体步骤如下：

步骤S3021、随机生成信道样本H^(t)，利用步骤S3011中的所述输入层公式得到

t表示样本索引，使用WMMSE算法进行预编码设计，得到预编码矩阵W₁(t),W₂(t),…,W_K(t)，定义矩阵：

W(t)＝[W₁(t),W₂(t),…,W_K(t)]_M×KL

将矩阵W(t)按行拉直成一个MKL维的列向量，记为

也即有：

上式中Vec_row表示把一个矩阵按行拉直成一个列向量的操作；

然后，获得用于监督学习的采样样本

以及用于非监督学习的采样样本

步骤S3022、所述监督学习使用基于均方误差标准的损失函数进行预训练，损失函数为：

公式中，T₁表示训练样本总数量，

表示运行WMMSE算法之后，获得的预编码标签矢量，

表示步骤C-1所述神经网络的输出预编码矢量；

步骤S3023、所述非监督学习是在监督学习的基础上进行再次训练，这里损失函数形式构造如下：

公式中，T₂表示训练样本数量，

表示使用步骤S301所述卷积神经网络的输入和输出计算的用户速率，λ表示正则化项因子。

本发明的有益效果是：

本发明首先建立权值和速率最大化模型，然后构造了一种具有特征提取能力和卷积核参数共享的卷积神经网络，并采用监督学习和非监督学习相结合的方法对神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练。采用本发明方法，获得了与WMMSE算法相当的和速率性能，并且能够降低预编码设计的计算复杂度。

附图说明

图1为实施例1中提供的卷积神经网络的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例1

参见图1，本实施例提供一种单小区多用户MIMO系统的机器学习预编码方法，该方法首先建立权值和速率最大化模型，然后构造了一种具有特征提取能力和卷积核参数共享的卷积神经网络，并采用监督学习和非监督学习相结合的方法对神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练。采用本发明方法，获得了与WMMSE算法相当的和速率性能，并且能够降低预编码设计的计算复杂度。

具体的说，在本实施例中，考虑一个服务K个用户的单小区多用户MIMO通信系统，每个用户具有N根天线，基站侧具有M根发射天线，同时也向K个用户发送数据，KN≤M。

发射端

首先，在基站侧对用户进行预编码，发送矢量

定义为数据矢量x₁,x₂,…,x_K分别经过线性滤波器后的合并，也即是：

然后，假设每个用户之间所接收到的数据流是互相独立的，也即数据矢量满足条件：

最后，发送矢量和预编码矩阵需要满足以下功率约束：

接收端

对于第k个用户，用户k接收到的信号

可以表示为：

其中

表示用户k收到噪声干扰影响的噪声矢量，并且满足条件：

这里

表示噪声功率。H_kW_kx_k表示用户k期望接收到的信号矢量，∑_i≠kH_kW_ix_i表示其它用户数据对用户k的干扰。

步骤A：建立单小区多用户MIMO系统下的权值和速率最大化模型，所述权值和速率最大化模型为：

受限于：

其中，W_k是发射端针对用户k的预编码矩阵；K是系统的用户数，M是基站侧发射天线数，N是每个用户具有的接收天线数；α_k是用户k的可达和速率权值因子；H_k是基站到用户k的信道矩阵；

是第k个接收机端的均值为0的加性高斯白噪声的方差；P_max为系统发射端最大发射功率限制；det(A)表示求矩阵A的行列式，Tr(A)表示求矩阵A的迹，上角标H表示对矩阵或向量进行共轭转置；

步骤B：针对步骤A中所述模型使用WMMSE方法进行求解，并以所述WMMSE方法的输入输出作为所述卷积神经网络的训练数据，构造如图1所示的卷积神经网络，所述卷积神经网络具有特征提取能力，并且参数共享，采用监督学习和非监督学习相结合的方法对所述神经网络进行训练，具体过程如下：

步骤1：所述卷积神经网络包括输入层、卷积层、展平层、全连接层、输出层和功率限制层，具体结构如下：

步骤1-1：所述输入层，采用I/Q变换对多用户MIMO信道矩阵进行处理，得到信道矩阵H＝[H₁,H₂,…,H_K]，其中，实部矩阵为

虚部矩阵为

对矩阵H各元素取模得到幅度矩阵

表达式为：

H_real[i,j]＝Re{H[i,j]}

H_imag[i,j]＝Im{H[i,j]}

H_abs[i,j]＝abs{H[i,j]}

i＝0,…,M-1,j＝0,…,KN-1

其中，Re{·}表示取实数，Im{·}表示取虚数，abs{·}表示取模；输入层为三维矩阵，其维数为M×NK×c，其中c＝3表示输入层的通道数，这3个通道的输入分别是H_real、H_imag和H_abs，所述卷积神经网络的输入记为

其表达式为

H_in[：,：,1]＝H_real

H_in[：,：,2]＝H_imag

H_in[：,：,3]＝H_abs

步骤1-2：所述卷积层包括卷积核层、分批归一化层和激活函数层，卷积层为L层，卷积层l取值为1，…，L，卷积层l的卷积核层具有c_l个尺寸为a_l×a_l的卷积核，所述卷积核层的表达式为：

O_conv，l＝Conv(I_conv，l，Γ_l,θ_l)

其中，

表示所述卷积核层的输出，

表示所述卷积核层的输入，

表示所述卷积核层的输出维度，并且满足

和I_conv,1＝H_in，所述卷积核的参数包括权值

和偏置矢量

Conv表示所述卷积核的卷积操作；

所述卷积层l的分批归一化层采用减去批均值并除以批标准差来对卷积核层的输出进行归一化，具体处理如下：

其中，O_con,l[i,j,c]表示O_conv,l第i行第j列与第c卷积核操作输出的元素，B_bn,l,c表示所述分批归一化层的输出，μ_l,c和σ_l,c分别表示批均值和批标准差；

所述卷积层l的激活函数层使用线性整流函数，具体表达式如下：

A_af,l[i,j，c]＝ReLU(B_bn，l[i，j，c])

其中，A_af,l[i,j,c]表示所述激活函数层的输出，并且满足I_conv,l+1＝A_af,l，ReLU表示所使用的线性整流函数；

步骤1-3：所述展平层用于对所述卷积层L的输出数据进行处理，展平层激活函数使用的也是ReLU函数，具体表达记为：

A_f＝ReLU(Flat(A_af,L))

其中，

表示所述展平层的输出，ReLU表示所使用的线性整流函数，Flat表示将三维数据转成一维数据的操作；

步骤1-4：所述全连接层的具体处理如下：

O_fc＝ReLU(W_fcA_f+b_fc)

其中，O_fc,A_f,b_fc分别为输出、输入和偏置列向量，W_fc为权值矩阵，ReLU表示所使用的线性整流函数；

步骤1-5：所述输出层的表达式如下：

w_output＝ReLU(W_outO_fc+b_out)

其中，

表示输出层的输出，b_out和W_fc分别为偏置列向量和权值矩阵，ReLU表示所使用的线性整流函数；

步骤1-6：所述功率限制处理的具体处理如下：

其中，b表示增益因子，

表示所述功率限制层的输出；

步骤2：采用监督学习和非监督学习相结合的方法对步骤1所述神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练；

步骤2-1：随机生成信道样本H^(t)，利用步骤C-1-1所述输入层公式得到

t表示样本索引，使用WMMSE算法进行预编码设计，得到预编码矩阵W₁(t),W₂(t),…，W_K(t)，定义矩阵：

W(t)＝[W₁(t)，W₂(t)，…，W_K(t)]_M×KL

将矩阵W(t)按行拉直成一个MKL维的列向量，记为

也即有：

上式中Vec_row表示把一个矩阵按行拉直成一个列向量的操作。

然后，获得用于监督学习的采样样本

以及用于非监督学习的采样样本

步骤2-2：所述监督学习使用基于均方误差标准的损失函数进行预训练，损失函数为：

其中T₁表示训练样本总数量，

表示运行WMMSE算法之后，获得的预编码标签矢量，

表示步骤C-1所述神经网络的输出预编码矢量；

步骤2-3：所述非监督学习是在监督学习的基础上进行再次训练，这里损失函数形式构造如下：

其中，T₂表示训练样本数量，

表示使用步骤C-1所述神经网络的输入和输出计算的用户速率，λ表示正则化项因子。

本发明未详述之处，均为本领域技术人员的公知技术。以上描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (1)

1.一种单小区多用户MIMO系统的机器学习预编码方法，其特征在于，包括如下步骤：

步骤S1、建立单小区多用户MIMO系统下的权值和速率最大化模型，所述权值和速率最大化模型为：

受限于：

公式中，k和i表示用户编号，W_k是发射端针对用户k的预编码矩阵；K是系统的用户数，M是基站侧发射天线数，N是每个用户具有的接收天线数；α_k是用户k的可达和速率权值因子；H_k是基站到用户k的信道矩阵；

是第k个接收机端的均值为0的加性高斯白噪声的方差；P_max为系统发射端最大发射功率限制；det(·)表示求矩阵的行列式，Tr(·)表示求矩阵的迹，(·)^-1表示矩阵的求逆操作，(·)^H表示对矩阵或向量进行共轭转置；

步骤S2、针对步骤S1中所述模型使用WMMSE方法进行求解，并以所述WMMSE方法的输入输出作为卷积神经网络的训练数据；

步骤S3、构造卷积神经网络，所述卷积神经网络具有特征提取能力，并且参数共享，采用监督学习和非监督学习相结合的方法对所述卷积神经网络进行训练，具体过程如下：

步骤S301、所述卷积神经网络包括输入层、卷积层、展平层、全连接层、输出层和功率限制层，具体结构如下：

步骤S3011、所述输入层，采用I/Q变换对多用户MIMO信道矩阵进行处理，得到信道矩阵H＝[H₁,H₂,…,H_K]，其中，实部矩阵为

虚部矩阵为

对矩阵H各元素取模得到幅度矩阵

表达式为：

H_real[i,j]＝Re{H[i,j]}

H_imag[i,j]＝Im{H[i,j]}

H_abs[i,j]＝abs{H[i,j]}

i＝0,…,M-1,j＝0，…，KN-1

公式中，H[i，j]表示矩阵H第i行第j列的元素，Re{·}表示取实数，Im{·}表示取虚数，abs{·}表示取模；输入层为三维矩阵，其维数为M×NK×c，其中c＝3表示输入层的通道数，这3个通道的输入分别是H_real、H_imag和H_abs，所述卷积神经网络的输入记为

其表达式为：

H_in[：，：，1]＝H_real

H_in[：，：，2]＝H_imag

H_in[：，：，3]＝H_abs

公式中，H_in[：，：，1]，H_in[：，：,2]，H_in[：，：，3]分别表示三维矩阵H_in第1,2,3页对应的二维矩阵；

步骤S3012、所述卷积层包括卷积核层、分批归一化层和激活函数层，卷积层为L层，卷积层l取值为1,…,L，卷积层l的卷积核层具有c_l个尺寸为a_l×a_l的卷积核，所述卷积核层的表达式为：

O_conv,l＝Conv(I_conv,l,Γ_l,θ_l)

公式中，

表示所述卷积核层的输出，

表示所述卷积核层的输入，

表示所述卷积层l的卷积核层输出维度，并且满足

c₀＝3和I_conv,1＝H_in，所述卷积核的参数包括权值

和偏置矢量

Conv(·)表示卷积运算；

所述卷积层l的分批归一化层采用减去批均值并除以批标准差来对卷积核层的输出进行归一化，具体处理如下：

公式中，O_con,l[i,j,c]表示O_conv,l第i行第j列与第c卷积核操作输出的元素，B_bn,l表示所述分批归一化层输出的三维矩阵，B_bn,l[i,j,c]表示B_bn,l第i行第j列第c页的元素，μ_l,c和σ_l,c分别表示批均值和批标准差；

所述卷积层l的激活函数层使用线性整流函数，具体表达式如下：

A_af,l[i,j,c]＝ReLU(B_bn,l[i,j,c])

其中，A_af，l表示所述激活函数层输出的三维矩阵，A_af，l[i，j，c]表示A_af，l第i行第j列第c页的元素，并且满足I_conv，l+1＝A_af，l，ReLU表示所使用的线性整流函数；

步骤S3013、所述展平层用于对所述卷积层L的输出数据进行处理，展平层激活函数使用的也是ReLU函数，具体表达记为：

A_f＝ReLU(Flat(A_af，L))

公式中，

表示所述展平层的输出，ReLU表示所使用的线性整流函数，Flat表示将三维数据转成一维数据的操作；

步骤S3014、所述全连接层的具体处理如下：

O_fc＝ReLU(W_fcA_f+b_fc)

公式中，O_fc，A_f，b_fc分别为输出、输入和偏置列向量，W_fc为权值矩阵，ReLU表示所使用的线性整流函数；

步骤S3015、所述输出层的表达式如下：

w_output＝ReLU(W_outO_fc+b_out)

公式中，

表示输出层的输出，b_out和W_fc分别为偏置列向量和权值矩阵，ReLU表示所使用的线性整流函数；

步骤S3016、所述功率限制处理的具体处理如下：

公式中，b表示增益因子，

表示所述功率限制层的输出；

步骤S302、采用监督学习和非监督学习相结合的方法对步骤S301中的所述卷积神经网络进行训练，所述监督学习利用WMMSE算法产生训练数据对卷积神经网络进行预训练，然后再使用非监督学习进行再训练，具体步骤如下：

步骤S3021、随机生成信道样本H^(t)，利用步骤S3011中的所述输入层公式得到

t表示样本索引，使用WMMSE算法进行预编码设计，得到预编码矩阵W₁(t),W₂(t),…,W_K(t)，定义矩阵：

W(t)＝[W₁(t),W₂(t),…,W_K(t)]_M×KL

将矩阵W(t)按行拉直成一个MKL维的列向量，记为

也即有：

上式中Vec_row表示把一个矩阵按行拉直成一个列向量的操作；

然后，获得用于监督学习的采样样本

以及用于非监督学习的采样样本

步骤S3022、所述监督学习使用基于均方误差标准的损失函数进行预训练，损失函数为：

公式中，T₁表示训练样本总数量，

表示运行WMMSE算法之后，获得的预编码标签矢量，

表示步骤C-1所述神经网络的输出预编码矢量；

步骤S3023、所述非监督学习是在监督学习的基础上进行再次训练，这里损失函数形式构造如下：

公式中，T₂表示训练样本数量，

表示使用步骤S301所述卷积神经网络的输入和输出计算的用户速率，λ表示正则化项因子。

Images