CN114487988A - 基于深度学习的到达角估计系统 - Google Patents

Abstract

本发明属于无线通信技术领域，具体为一种基于深度学习的到达角估计系统。本发明系统包括信号模型、数据预处理模块、双分支神经网络模型；信号模型用于对输入信号进行建模；数据预处理模块用于初步提取信号特征；双分支神经网络模型包括特征提取网络和并行预测网络，并行预测网络包括分类分支，回归分支和输出层；特征提取网络用于提取输入数据的深层特征，输出给分类分支和回归分支，分类分支给出DoA的大致范围即掩码，回归分支给出DoA相对网格点的误差，输出层结合两个分支的结果给出最终的DoA估计结果。仿真结果表明，与基于模型的深度学习方法和已有的深度学习方法相比，本发明在存在模型缺陷的情况下，能够达到更高的DoA估计精度，且大小仅为1.8MB。

Description

基于深度学习的到达角估计系统

技术领域

本发明属于无线通信技术领域，具体涉及一种基于深度学习的到达角(DoA)估计系统。

背景技术

近几十年来，到达角(Direction of Arrival，DoA)估计在声学、雷达、声纳和无线通信等领域得到了广泛的研究[1-14]。传统的DoA估计方法，如多信号分类(MUSIC)和基于旋转不变技术的信号参数估计(ESPIRIT)技术依赖于精确的信号模型，当模型存在缺陷时，它们的DoA估计精度会显著降低。

近年来，随着深度学习的快速发展，基于神经网络的DoA估计算法被提出。由于数据驱动的特点，这些方法针对模型缺陷具有鲁棒性。这些方法一般分为回归网络和分类网络两种。

在回归网络下，提出了不同的结构用于估计DoA值。例如，D.Hu等人提出了端到端算法，并且L.Wu等人使用深度卷积网络来恢复空间频谱。然而，网络结构严重依赖于源的数量，这使得扩展到源数量变化的场景比较困难。G.K.Papageorgiou等人使用神经网络进行信号去噪，A.Barthelme等人使用深度神经网络(DNN)重建协方差矩阵。A.M.Ahmed等人提出了一种DNN来将接收到的信号映射到更大的维度上，这可以等效地认为采用了更大尺寸的天线阵列，从而提高了DoA分辨率。

对于分类网络，最常见的架构是基于网格的模型，它将角域划分为几个扇区，然后对每个扇区，确定是否存在一个传入信号。Z.Liu等人提出了一种带有多层分类器的自动编码器来构建空间谱。H.Xiang等人提出了两个框架来分离相干信号。G.K.Papageorgiou等人提出了一种具有二维卷积层的深度卷积神经网络(CNN)，以提高低信噪比(SNR)下的DoA估计精度。基于网格的模型可以提高训练的稳定性，且该结构对源数变化的场景具有通用性，但由于网格数量有限，难以实现高分辨率。

发明内容

本发明的目的在于提供一种基于深度学习的到达角估计系统，在网络轻量化减少计算量的同时保证系统对模型缺陷的鲁棒性更强。

本发明结合当前深度学习在DoA估计中应用广泛的分类网络和回归网络结构，将两种结构并行使用，设计一种将分类和回归并行结合的双分支神经网络，记为TB-Net，并对C-Branch进行优化，从而提高C-Branch粗估计DoA的精度。

本发明提供的基于深度学习的到达角估计系统，其结构如图1所示，主要包括信号模型，数据预处理模块，双分支神经网络模型三部分；

信号模型对输入信号进行建模，方便后续处理，相比于一般的信号模型，本发明将增益和相位不一致、传感器间相互耦合和天线位置偏差三项模型缺陷考虑进来，从而对模型进行了优化，即在原有模型基础上增加四个参数，分别代表增益偏差、相位偏差、传感器相互耦合偏差和天线位置偏差；

数据预处理模块用于初步提取信号特征，供后续网络对数据的处理，主要是取输入数据的协方差矩阵的上三角区域，对其实部和虚部分别重新构建矩阵后拼接在一起，得到处理后的数据；

双分支神经网络模型包括特征提取网络和并行预测网络，并行预测网络包括分类分支，回归分支和输出层，特征提取网络用5层卷积层(均由卷积部分，归一化部分和ReLU激活函数部分组成)用于提取输入数据的深层特征，输出给分类分支和回归分支，分类分支给出DoA的大致范围即掩码(Mask)，回归分支给出DoA相对网格点的误差(Deviation)，输出层结合两个分支的结果给出最终的DoA估计结果。

本发明的网络结构中，通过特征提取网络的共享降低了计算复杂度，同时C-Branch和R-Branch的并行结构消除了网络之间的数据依赖，因此TB-Net可以在一次评估中给出DoA估计。具体网络结构如图2所示，包括特征提取网络和并行预测网络。特征提取网络由五层卷积层组成，每层卷积层包括卷积部分，归一化部分和ReLu激活函数部分，输入数据信道数为2，通过特征提取网络后得到的输出为128信道的特征值。分类分支和回归分支由卷积层和激活层构成，激活函数分别为Sigmoid函数和Tanh函数，给出的输出为含有121个元素的向量，分类分支给出的结果表示DoA的掩码，向量中的元素为1或0，表示该元素索引对应的角度的扇区内是否有目标DoA值，回归分支给出C-Branch每个为1的元素索引对应的网格点与DoA的误差值。最后，所述输出层将分类分支的结果中为1的元素索引与网格间距相乘再加上回归分支给出的误差值得到最终的DoA结果。训练时，分类分支用二值交叉熵作为损失函数，回归分支用l₂范数作为损失函数，将分类分支的损失函数乘以0.1后加上回归分支的损失函数得到总损失函数，并利用该损失函数来对整个网络进行训练优化。

该系统的具体操作步骤如下：

首先对输入信号进行建模，并考虑三种模型缺陷，包括增益和相位不一致、传感器间相互耦合和天线位置偏差，对模型进行修改，在原有模型基础上增加了四个参数，分别代表增益偏差，相位偏差，传感器相互耦合偏差和天线位置偏差。

对输入信号进行预处理，先取输入数据的协方差矩阵，再取协方差矩阵的上三角区域，对其实部和虚部分别重新构建矩阵后拼接在一起得到处理后的数据作为网络的输入。

建模后的输入信号进行预处理后输出到特征提取网络，由特征提取网络给出输入信号的协方差矩阵的特征，输出到C-Branch和R-Branch。

C-Branch输出一个掩码向量m＝[m₁，m₂，...，m_G]，每个元素的值属于{0，1}，表示粗略DoA估计，即DoA可能在为1的掩码索引对应的网格位置；R-Branch输出一个偏差向量d＝[d₁，d₂，...，d_G]，给出相对于元素索引对应网格的DoA偏差，用于对DoA估计的细化。

输出层结合C-Branch和R-Branch的输出结果，首先找到m中K个峰值的索引p＝[p₁，...，p_k]，与网格大小相乘得到粗略DoA估计，再加上d中对应的偏差值得到精确的DoA估计。

训练时，使用二值交叉熵(BCE)作为C-Branch的损失函数，使用l₂范数作为R-Branch的损失函数，总损失设为L＝0.1×l_BCE+l₂。

本系统使用具有半波长元素间距的16阵元均匀线性阵列生成数据集，在[-60°，60°]范围内随机产生两个源。用于培训、验证和测试的数据集规模分别为100000、20000和20000。

本发明在Pytorch中实现TB-Net。在训练过程中，将初始学习率设置为0.001，每隔30个epoch调整一次学习率为前一个学习率的0.9倍。在训练过程中，使用Adam优化器来更新网络参数。设置总训练epoch为300，选择DoA估计精度最高的候选模型作为最终模型。

本发明的特点

本发明构建的到达角估计系统，相比于传统的到达角估计系统，针对模型缺陷具有更高的鲁棒性，在输入信号模型有增益和相位不一致、传感器间相互耦合和天线位置偏差的缺陷时，依然可以保证DoA估计结果的精确度较高。

其次，本发明的网络模型比较轻量化，大大减少了计算量，具体表现在本系统的双分支神经网络模型只使用了卷积层，其中特征提取网络仅由5层卷积层组成，并且分类分支和回归分支共用一个特征提取网络，最终网络模型的大小仅为1.8MB。

附图说明

图1为提出的基于深度学习的到达角估计系统的结构。

图2为本发明提出的双分支神经网络的网络结构。

图3为使用l_BCE和l₂的分类分支的到达角估计结果的平均绝对误差(MAE)对比。

图4为引入回归分支和不引入对结果的影响。

具体实施方式

下面结合附图对本发明作进一步详细说明。

首先是对输入数据的准备工作。

输入信号建模过程如下：设s_k(t)为第k个输入信号，θ_k为DoA，接收到的信号表示为：

其中，n(t)～CN(0,σ²)，为高斯噪声，K为源数，a(θ_k)为阵列响应向量。假设采用均匀线性阵列(ULA)，因此有：

其中，M为ULA中的天线数，d为相邻天线之间的间距，λ为波长。

考虑三种模型缺陷，即增益和相位不一致(e_g，e_pha)，传感器间相互耦合(e_m)和天线位置的偏差(e_pos)，将a(θ_k)中的第i个(i＝1，……，M)元素重写为：

输入信号预处理过程如下：x(t)的协方差矩阵可以近似为：

其中，N表示快照的数量。然后，将所提神经网络的输入值表示如下：

u＝[Vec(Real(Triu(R)))，Vec(Imag(Triu(R))))]， (5)

其中，Triu(·)表示该矩阵的上三角形部分，Vec(·)将该矩阵重构为一个向量。

卷积层在神经网络中得到了广泛的应用，第i层的输出可以表示为：

其中，u_i为输入特征，W_i为卷积核，b_i为偏差，非线性函数f(·)(如ReLU、Sigmoid、Tanh等)用于空间映射。训练神经网络，W_i在一定的损失函数下通过反向传播进行更新。

为了减少内部协变量的位移，加速收敛速度，可以在激活前进行批处理归一化(BN)，其中y_i可以重写为：

其中v_i为式(6)中的W_i×u_i+b_i，E[]表示取平均值，Var[]表示取均方根，ε表示一个较小的尝试，可取ε＝10^-6。

本发明设计的TB-Net包括特征提取网络和并行预测网络，并行预测网络包括C-Branch、R-Branch和输出层，TB-Net的参数包括卷积核参数，步长，归一化和激活函数，卷积核由参数(C_IN，C_OUT，H，W)表示，其中C_IN表示输入信道数，C_OUT表示输出信道数，H表示核高度，W表示核宽度。

特征提取网络包括5个卷积层，卷积核参数分别为(2,8,1,5)，(8,32,1,5)，(32,64,1,5)，(64,128,1,5)，(128,128,1,3)，5个卷积层步长均为2，经过批处理归一化(BN)后由ReLU函数激活；C-Branch卷积核参数为(128,121,1,1)，步长为1，激活函数为Sigmoid函数；R-Branch卷积核参数为(128,121,1,1)，步长为1，激活函数为Tanh函数。

各层网络实现过程如下：

特征提取网络从协方差矩阵中提取特征，将其输出到C-Branch和R-Branch，实现特征重用，降低计算复杂度。通过实验确定了网络的参数。结果表明，由5个卷积层组成的网络性能最好。此外，利用BN加速收敛。实验表明，在前五层采用BN可以获得最好的稳定性和最高的精度。

并行预测网络中C-Branch和R-Branch并行工作。用G表示网格数，C-Branch的输出为掩码向量m＝[m₁，m₂，...，m_G]，其第i个元素表示DoA可能在第i个网格附近。R-Branch的输出是一个偏差向量d＝[d₁，d₂，...，d_G]，其中d_i表示相对于i网格的DoA偏差。

对于模型的优化，将总损失函数设为：

L＝0.1×l_c+l_r， (8)

其中，l_c为C-Branch损失函数，l_r为R-Branch损失函数，系数0.1为多次实验测试后得出的最佳系数。

C-Branch实现为：扇区[θ-0.5°，θ+0.5°](θ＝-60°，-59°，...，60°)的一个来源用网格θ近似，C-Branch的结果是一个具有121个元素的向量，其值属于{0,1}。并利用非零元素的下标对DoA进行粗略估计。

在C-Branch中，使用Sigmoid作为输出层的激活函数，它将结果映射到[0,1]。使用二值交叉熵(BCE)作为损失函数来优化神经网络，即：

其中，m_i是标签值，

是网络的输出。

R-Branch的实现为：R-Branch由一个包含121个输出通道的卷积层组成，这与C-Branch一致。对于第i个通道，输出是C-Branch中第i个网格上的偏差，这种偏差只有在m_i＝1时才有效。

由于C-Branch中的网格大小为Δθ，偏差被限制在[-0.5Δθ，0.5Δθ]内。因此，使用加权的Tanh作为激活函数，即：

d_i＝0.5Δθ×Tanh(υ_i). (10)

对于训练，我们采用l₂作为损失函数来优化神经网络，即：

式中，d_i表示实际偏差，

表示R-Branch的输出。

对于输出层，被设计为结合m和d得到DoA估计值。首先在

中找到K(源数)个峰值的索引p＝[p₁，...，p_k]，并通过与网格大小相乘得到粗略的DoA估计。然后，通过根据p添加在d中选择的偏差，得到最终的DoA估计值，即：

其中，

表示DoA估计值，Δθ表示网格大小。

以上就是本发明的全部实现过程，针对本发明，在测试过程中做了一下实验，可以说明本发明的优势。

实验中使用具有半波长阵元间距的16阵元均匀线性阵列生成数据集。在[-60°，60°]中随机生成两个功率相同的源。在用于训练、验证和测试的数据集规模分别为100000、20000和20000。

我们使用平均绝对误差(MAE)来衡量算法的性能，即：

其中，N_T表示测试样本的数量。

实验中将l₂和l_BCE分别优化的C-Branches进行比较，结果如图3所示。可以看出，l_BCE优化的网络比l₂优化的网络具有更好的精度。在信噪比(SNR)为10dB时，精度提高约44.7％。

图4显示了引入R-Branch的影响。可以看出，随着信噪比的提高，DoA估计的精度有所提高。当信噪比较低时，C-Branch的粗略估计会远离真实DoA值，从而显著降低MAE。随着信噪比的增加，由于C-Branch得到的粗糙DoA估计几乎没有误差，R-Branch给出的偏差逐渐占据估计精度的主导地位。当信噪比为>2dB时，这种现象很明显。与C-Branch相比，在信噪比为10dB时，TB-Net的精度提高了约36.4％。

Claims (5)

1.一种基于深度学习的到达角估计系统，其特征在于，包括信号模型，数据预处理模块，双分支神经网络模型三部分；其中：

所述信号模型用于对输入信号进行建模；其中，将考虑增益和相位不一致、传感器间相互耦合和天线位置偏差三项模型缺陷，对模型进行优化，在原有模型基础上增加四个参数，分别代表增益偏差、相位偏差、传感器相互耦合偏差和天线位置偏差；

所述数据预处理模块，用于初步提取信号特征，包括取输入数据的协方差矩阵的上三角区域，对其实部和虚部分别重新构建矩阵后拼接在一起，得到处理后的数据；

所述双分支神经网络模型，包括特征提取网络和并行预测网络，并行预测网络包括分类分支，回归分支和输出层；特征提取网络用于提取输入数据的深层特征，输出给分类分支和回归分支，分类分支给出DoA的大致范围即掩码，回归分支给出DoA相对网格点的误差，输出层结合两个分支的结果给出最终的DoA估计结果。

2.根据权利要求1所述的基于深度学习的到达角估计系统，其特征在于，所述双分支神经网络模型中：

所述特征提取网络由五层卷积层组成，每层卷积层包括卷积部分，归一化部分和ReLu激活函数部分，输入数据信道数为2，通过特征提取网络后得到的输出为128信道的特征值；

所述分类分支和回归分支均由卷积层和激活层构成，激活函数分别为Sigmoid函数和Tanh函数，给出的输出为含有121个元素的向量；分类分支给出的结果表示DoA的掩码，向量中的元素为1或0，表示该元素索引对应的角度的扇区内是否有目标DoA值；回归分支给出C-Branch每个为1的元素索引对应的网格点与DoA的误差值；

所述输出层将分类分支的结果中为1的元素索引与网格间距相乘再加上回归分支给出的误差值得到最终的DoA结果；

训练时，分类分支用二值交叉熵作为损失函数，回归分支用l₂范数作为损失函数，将分类分支的损失函数乘以0.1后加上回归分支的损失函数得到总损失函数，并利用该损失函数来对整个网络进行训练优化。

3.根据权利要求2所述的基于深度学习的到达角估计系统，其特征在于，系统工作如下：

(1)首先，对输入信号进行建模，并考虑三种模型缺陷，包括增益和相位不一致、传感器间相互耦合和天线位置偏差，对模型进行修改，在原有模型基础上增加四个参数，分别代表增益偏差、相位偏差、传感器相互耦合偏差和天线位置偏差；

(2)对输入信号进行预处理，先取输入数据的协方差矩阵，再取协方差矩阵的上三角区域，对其实部和虚部分别重新构建矩阵后拼接在一起得到处理后的数据；

(3)将经预处理后数据输出到特征提取网络，由特征提取网络给出输入信号的协方差矩阵的特征，输出到C-Branch和R-Branch；

C-Branch输出一个掩码向量m＝[m₁，m₂，...，m_G]，每个元素的值属于{0，1}，表示粗略DoA估计，即DoA可能在为1的掩码索引对应的网格位置；R-Branch输出一个偏差向量d＝[d₁，d₂，...，d_G]，给出相对于元素索引对应网格的DoA偏差，用于对DoA估计的细化；

输出层结合C-Branch和R-Branch的输出结果，首先找到m中K个峰值的索引p＝[p₁，...，p_k]，与网格大小相乘得到粗略DoA估计，再加上d中对应的偏差值得到精确的DoA估计；

训练时，使用二值交叉熵作为C-Branch的损失函数，使用l₂范数作为R-Branch的损失函数，总损失设为L＝0.1×l_BCE+l₂。

4.根据权利要求1所述的基于深度学习的到达角估计系统，其特征在于，所述输入信号建模的过程如下：

设s_k(t)为第k个输入信号，θ_k为DoA，接收到的信号表示为：

其中，n(t)～CN(0,σ²)，为高斯噪声，K为源数，a(θ_k)为阵列响应向量；假设采用均匀线性阵列(ULA)，有：

其中，M为ULA中的天线数，d为相邻天线之间的间距，λ为波长；

考虑三种模型缺陷，即增益和相位不一致(e_g，e_pha)，传感器间相互耦合(e_m)和天线位置的偏差(e_pos)，将a(θ_k)中的第i个(i＝1，……，M)元素重写为：

5.根据权利要求4所述的基于深度学习的到达角估计系统，其特征在于，所述输入信号预处理过程如下：x(t)的协方差矩阵近似为：

其中，N表示快照的数量；然后，将所提神经网络的输入值表示如下：

u＝[Vec(Real(Triu(R)))，Vec(Imag(Triu(R))))] (5)

其中，Triu(·)表示该矩阵的上三角形部分，Vec(·)将该矩阵重构为一个向量。

Images