CN115426063A - 一种排序编码模块的构建、变分编自码器的信道生成方法、系统 - Google Patents

一种排序编码模块的构建、变分编自码器的信道生成方法、系统 Download PDF

Info

Publication number
CN115426063A
CN115426063A CN202211046197.3A CN202211046197A CN115426063A CN 115426063 A CN115426063 A CN 115426063A CN 202211046197 A CN202211046197 A CN 202211046197A CN 115426063 A CN115426063 A CN 115426063A
Authority
CN
China
Prior art keywords
matrix
tensor
vector
shape
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211046197.3A
Other languages
English (en)
Inventor
欧阳滨滨
曾婷
陈益祥
高唯唯
林梓陆
邱述洪
柳子用
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Unicom Guangdong Industrial Internet Co Ltd
Original Assignee
China Unicom Guangdong Industrial Internet Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Unicom Guangdong Industrial Internet Co Ltd filed Critical China Unicom Guangdong Industrial Internet Co Ltd
Priority to CN202211046197.3A priority Critical patent/CN115426063A/zh
Publication of CN115426063A publication Critical patent/CN115426063A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B17/00Monitoring; Testing
    • H04B17/30Monitoring; Testing of propagation channels
    • H04B17/391Modelling the propagation channel
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B17/00Monitoring; Testing
    • H04B17/30Monitoring; Testing of propagation channels
    • H04B17/373Predicting channel quality or other radio frequency [RF] parameters

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明公开了一种排序编码模块的构建、变分编自码器的信道生成方法、系统,属于无线通信技术领域。本发明步骤如下:对获得的信道状态信息张量T的最后两阶进行展平形成张量L;抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X;对X进行处理,生成矩阵M,其中h为人为设定的维度大小;对矩阵X中的每一行均计算一个标准差,得到向量
Figure DDA0003822475350000011
对矩阵M的行向量进行倒序,得到矩阵M_RANKED;对矩阵M_RANKED前β行进行降维,形成向量
Figure DDA0003822475350000012
对向量
Figure DDA0003822475350000013
进行量化处理,生成隐向量
Figure DDA0003822475350000014
本发明针对信道数据的特点进行优化,提升模型生成的效果。

Description

一种排序编码模块的构建、变分编自码器的信道生成方法、 系统
技术领域
本发明涉及无线通信技术领域,更具体地,涉及一种排序编码模块的构建、变分编自码器的信道生成方法、系统。
背景技术
无线通信系统设计与性能评估需要用到大量真实或者接近真实的信道数据。获取信道数据通常有三种来源:一是实地测量,实地测量获得信道数据是真实的信道数据,数据质量最高,最有价值,但是需要在实地多次测量,成本过高。二是规则生成,通过预先设定一些典型场景,通过人为规则生成这些典型场景的信道数据。因为人为规则只能把握各个典型场景的大方向,并不能细节之处并不能面面俱到,所以这种方差生成的信道数据往往跟真实的信道数据有一定的差距,也就是生成的信道数据不够逼真,质量较差。三是通过神经网络生成,这种方案一般需要有若干真实场景中测量得到的信道数据作为训练集,然后用对抗生成网络(GAN)或者变分自编码器(VAE)进行训练,然后用训练好的模型生成信道数据,这种方案成本可控,而且生成的信道数据通常也较为接近真实信道。然而市面上的大部分方案只是简单地套用GAN、VAE的一般建模方案,没有针对信道数据的特点进行优化,没能达到最理想的效果。
发明内容
本发明旨在克服上述现有技术的至少一种不足,提供一种排序编码模块的构建、变分编自码器的信道生成方法、系统,用于提升模型生成的效果。
根据本发明的一个方面,提供了一种排序编码模块的构建方法。该排序编码模块的构建方法,包括以下步骤:
S1.对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];
S2.抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];
S3.对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
S4.对矩阵X中的每一行均计算一个标准差,得到向量
Figure BDA0003822475330000021
其中,
Figure BDA0003822475330000022
std是标准差计算函数,i:表示矩阵X中的第i行;
S5.对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
S6.对矩阵M_RANKED前β行进行降维,形成向量
Figure BDA0003822475330000023
S7.对向量
Figure BDA0003822475330000024
进行量化处理,生成隐向量
Figure BDA0003822475330000025
由于信道数据各个时延扩展的重要性是不一样的(体现在各个时延扩展的标准差差异很大,少数时延扩展标准差大,大部分时延扩展标准差很小)。基于这个特点,本发明提出了排序编码,排序编码主要亮点有两个:第一是根据标准差大小,保留重要时延扩展,剔除大部分无用时延扩展,大大提升了编码模块的压缩效果,使得用较低维度的隐向量即可储存信道数据的大部分信息,使得模型可以用较少的样本即可取得较好的生成效果;第二是根据时延扩展的重要性分配其在隐向量的储存空间,越重要的时延扩展分配越大的储存空间,提升了储存空间的使用效率,减小了隐变量的取值空间,同样使得模型可以用较少的样本即可取得较好的生成效果。
所述步骤S3.中使用神经网络对X进行处理,生成矩阵M,具体为:
用可训练的全连接层将矩阵X的维度由r*s*2降到h维,得到矩阵Xx
随机初始化可训练的位置矩阵P,P的形状为[t,h];
将矩阵Xx与矩阵P相加,输入神经网络,生成矩阵M。
仿照自然语言使用注意力机制进行处理的方案,将X中时延扩展的数量当成文本长度,使用神经网络对数据进行处理,使得各个时延扩展的信息充分交互。
所述步骤S5.中对M的行向量进行倒序,具体为:
设定矩阵M的行向量与σ的元素对应关系,所述对应关系具体为:任意第i个行向量Mi:
Figure BDA0003822475330000026
的第i元素
Figure BDA0003822475330000027
具有一一对应的关系;
按照σ的元素的倒序对M的行向量进行重新排序。
通过矩阵M的行向量与σ的元素设立对应关系,再根据对应关系对矩阵M进行降序。一般来说对于一个向量,其标准差越大代表其涵盖的信息越多,也就是越重要,越不可舍弃。按标准差大小对矩阵M中的行向量进行降序,就使得在排序后的矩阵中,重要行向量的在前,不重要的在后。方便直接通过保留前β这种方式来丢弃不重要的行向量。
所述步骤S6.中对M_RANKED矩阵前β行进行降维,具体为:
构建β个神经网络;
分别对矩阵M_RANKED的前β行进行降维,分别降到α123,…,αβ维;
将降维后的输出拼接起来,形成向量
Figure BDA0003822475330000031
记向量
Figure BDA0003822475330000032
的维度为d,所述
Figure BDA0003822475330000033
其中,α123,…,αβ是设定的超参数。
根据时延扩展的重要性分配其在隐向量的储存空间,典型
Figure BDA0003822475330000034
的元素由大到小排列,故只保留标准差最大的前β条时延扩展即可保留信道信息的大部分信息,所以,本发明只保留M_RANKED矩阵前β行。
根据本发明另一个方面,提供了一种变分编自码器的信道生成方法。该变分编自码器的信道生成方法,包括以下步骤:
F1.预设信道训练数据集;
F2.创建信道自编码器,所述信道自编码器包括排序编码模块和解码模块;
F3.基于预设的信道训练数据集对所述信道预测模型进行训练;
F4.基于预设的信道训练数据集和解码模块生成信道数据。
根据现有的数据(训练集),生成与现有的训练集类似的数据,评判的标准由两个,多样性(生成的数据差异大)和相似性(生成的数据用训练集数据接近)。这两个目标是冲突的。本发明通过种种技术手段都是为了在相同多样性的情况下提升相似性,或者在相同相似性的前提下提升多样性。
所述步骤F2中解码模块的构建,具体为:
将排序编码模块生成的隐向量
Figure BDA0003822475330000035
分成β个片段;
遍历β个片段,将其维度升到d维,得到β个向量;
将β个向量堆叠起来,形成堆叠矩阵B,形状为[β,h];
随机初始化向量
Figure BDA0003822475330000036
所述向量
Figure BDA0003822475330000037
为可训练的,维度为h维的填充向量;
在堆叠矩阵B后填充t-β行,得到形状为[t,h]的矩阵
Figure BDA0003822475330000038
根据标准差
Figure BDA0003822475330000039
Figure BDA00038224753300000310
进行位置还原,得到矩阵
Figure BDA00038224753300000311
形状为[t,h];
使用神经网络对矩阵
Figure BDA0003822475330000041
进行处理,生成矩阵
Figure BDA0003822475330000042
矩阵
Figure BDA0003822475330000043
形状为[t,r*s*2]。
神经网络有很多参数需要训练,初始化便是给这些参数一个随机值。
所述步骤F3.基于预设的信道训练数据集对所述信道预测模型进行训练具体为:
训练所述信道预测模型直到损失函数值收敛,所述损失函数值具体计算为:
损失函数值
Figure BDA0003822475330000044
第i个输入为Xi,对应的输出为
Figure BDA0003822475330000045
共有n个样本,其中,
Figure BDA0003822475330000046
[m,n]为A、B的形状。
通过损失函数是否趋于稳定判定信道预测模型是否收敛。
所述步骤F4.基于预设的信道训练数据集和解码模块生成信道数据具体为:
随机调用预设的信道训练数据集中得到的标准差向量
Figure BDA0003822475330000047
以及隐向量
Figure BDA0003822475330000048
调用训练好的解码模块,生成矩阵
Figure BDA0003822475330000049
其形状为[t,r*s*2];
对矩阵
Figure BDA00038224753300000410
进行变形,使其形状变为[t,2,r*s],变形得到的张量记为
Figure BDA00038224753300000411
生成的实部矩阵记为
Figure BDA00038224753300000412
Figure BDA00038224753300000413
生成的虚部矩阵记为
Figure BDA00038224753300000414
Figure BDA00038224753300000415
生成复数矩阵
Figure BDA00038224753300000416
Figure BDA00038224753300000417
Figure BDA00038224753300000418
的形状为[t,r*s];
Figure BDA00038224753300000419
变形为张量
Figure BDA00038224753300000420
形状为[t,r,s];
输出张量
Figure BDA00038224753300000421
所述张量
Figure BDA00038224753300000422
为最终生成的信道数据。
解码模块接收两个输入,一个是隐向量,一个是标准差向量。生成的时候隐向量是随机生成的,标准差向量需要从训练集里得到,在生成的过程中,训练集就起到了一个提供标准差向量的作用,由于标准差向量也是随机采样的,所以解码器的两个输入都是随机的。
所述随机生成隐向量
Figure BDA00038224753300000423
具体为:
从标准伯努利分布中进行d次采样,得到的d个0或1的数字构成隐向量
Figure BDA00038224753300000424
选择伯努利分布是因为在训练时,隐向量的分布是接近伯努利分布的,神经网络的使用一般要尽量保证网络输入的分布在训练时与在应用时是接近的。
根据本发明另一个方面,提供了一种排序编码模块的构建系统。该排序编码模块的构建系统,包括:
信道状态信息处理模块,用于对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
标准差计算模块,用于对矩阵X中的每一行均计算一个标准差,得到向量
Figure BDA0003822475330000051
其中,
Figure BDA0003822475330000052
std是标准差计算函数,i:表示矩阵X中的第i行;
倒序模块,用于对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
与现有技术相比,本发明的有益效果为:
用训练好的模型生成信道数据,这种方案成本可控,而且生成的信道数据通常也较为接近真实信道。本发明针对信道数据的特点进行优化,从而达到最理想的效果。
对于数据生成模型的好坏,一般综合考虑相似性与多样性。相似性指的是生成的数据要与训练数据相似;多样性指的是生成的数据两两之间要尽量不相似。一般而言这两个指标是冲突的。相似性高往往容易多样性低,同样,多样性高往往容易相似性低。本发明通过量化、排序压缩以及根据时延拓展的重要性分配储存空间大小等方案达到了减少隐向量的分布空间的目的,使得生成时随机生成的隐向量与通过训练集得到的隐向量更为接近,从而提升模型的生成效果。在同等相似性的情况下,有更高的多样性。在同等多样性的情况下有更高的相似性。
附图说明
图1为本发明的一种排序编码模块的构建方法的流程图。
图2为本发明的一种变分编自码器的信道生成方法的流程图。
图3为本发明的一种排序编码模块的构建系统的图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
如图1所示,根据本发明的实施例,提供了一种排序编码模块的构建方法。该排序编码模块的构建方法,包括以下步骤:
S1.对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];
S2.抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];
S3.对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
S4.对矩阵X中的每一行均计算一个标准差,得到向量
Figure BDA0003822475330000061
其中,
Figure BDA0003822475330000062
std是标准差计算函数,i:表示矩阵X中的第i行;
S5.对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
S6.对矩阵M_RANKED前β行进行降维,形成向量
Figure BDA0003822475330000063
S7.对向量
Figure BDA0003822475330000064
进行量化处理,生成隐向量
Figure BDA0003822475330000065
具体地,通过排序编码模块得到隐向量
Figure BDA0003822475330000066
和标准差向量
Figure BDA0003822475330000067
所述步骤S3.中使用神经网络对X进行处理,生成矩阵M,具体为:
用可训练的全连接层将矩阵X的维度由r*s*2降到h维,得到矩阵Xx;
随机初始化可训练的位置矩阵P,P的形状为[t,h];
将矩阵Xx与矩阵P相加,输入神经网络,生成矩阵M。
具体地,所用神经网络为多层注意力层,矩阵X的维度由4*32*2降到128维,随机初始化可训练的位置矩阵P的形状为[32,128];随机初始化可训练的位置矩阵P,既给矩阵P随机构建一些值。
所述步骤S5.中对M的行向量进行倒序,具体为:
设定矩阵M的行向量与σ的元素对应关系,按照σ的元素的倒序对M的行向量进行重新排序。
所述对应关系具体为:任意第i个行向量Mi:
Figure BDA0003822475330000068
的第i元素
Figure BDA0003822475330000069
具有一一对应的关系。
所述步骤S6.中对M_RANKED矩阵前β行进行降维,具体为:
构建β个神经网络;
分别对矩阵M_RANKED的前β行进行降维,分别降到α123,…,αβ维;
将降维后的输出拼接起来,形成向量
Figure BDA0003822475330000071
记向量
Figure BDA0003822475330000072
的维度为d,所述
Figure BDA0003822475330000073
其中,α123,…,αβ是设定的超参数。
所述神经网络为可训练全连接层。具体地,一般有α123>…>αβ。初始化4个可训练全连接层,分别对M_RANKED矩阵前4行进行降维,分别降到35、32、28、25维。然后将降维后的输出拼接起来,形成向量
Figure BDA0003822475330000074
记向量
Figure BDA0003822475330000075
的维度为d,显然d=35+32+28+25=120。
实施例2
如图2所示,根据本发明的实施例,提供了一种变分编自码器的信道生成方法。该变分编自码器的信道生成方法,包括以下步骤:
F1.预设信道训练数据集;
F2.创建信道预测模型,所述信道预测模型包括排序编码模块和解码模块;
F3.基于预设的信道训练数据集对所述信道预测模型进行训练;
F4.基于预设的信道训练数据集和解码模块生成信道数据。
具体地,所述解码模块与所述排序编码模块相对应,解码模块用于对排序编码模块编码的数据进行解码。
所述步骤F2中解码模块的构建,具体为:
将排序编码模块生成的隐向量
Figure BDA0003822475330000076
分成β个片段;
遍历β个片段,将其维度升到d维,得到β个向量;
将β个向量堆叠起来,形成堆叠矩阵B,形状为[β,h];
随机初始化向量
Figure BDA0003822475330000077
所述向量
Figure BDA0003822475330000078
为可训练的,维度为h维的填充向量;
在堆叠矩阵B后填充t-β行,得到形状为[t,h]的矩阵
Figure BDA0003822475330000079
根据标准差
Figure BDA00038224753300000710
Figure BDA00038224753300000711
进行位置还原,得到矩阵
Figure BDA00038224753300000712
形状为[t,h];
使用神经网络对矩阵
Figure BDA00038224753300000713
进行处理,生成矩阵
Figure BDA00038224753300000714
矩阵
Figure BDA00038224753300000715
形状为[t,r*s*2]。
具体地,β个片段,将其维度升到d维,具体为将β个片段都随机初始化一个全连接层,使用这个全连接层将这β个片段升到d维。
所述步骤F3.基于预设的信道训练数据集对所述信道预测模型进行训练具体为:
训练所述信道预测模型直到损失函数值收敛,所述损失函数值具体计算为:
损失函数值
Figure BDA0003822475330000081
第i个输入为Xi,对应的输出为
Figure BDA0003822475330000082
共有n个样本,其中,
Figure BDA0003822475330000083
[m,n]为A、B的形状。
具体的,迭代直到损失函数值loss值不再下降。
所述步骤F4.基于预设的信道训练数据集和解码模块生成信道数据具体为:
随机调用预设的信道训练数据集中得到的标准差向量
Figure BDA0003822475330000084
以及隐向量
Figure BDA0003822475330000085
调用训练好的解码模块,生成矩阵
Figure BDA0003822475330000086
其形状为[t,r*s*2];
对矩阵
Figure BDA0003822475330000087
进行变形,使其形状变为[t,2,r*s],变形得到的张量记为
Figure BDA0003822475330000088
生成的实部矩阵记为
Figure BDA0003822475330000089
Figure BDA00038224753300000810
生成的虚部矩阵记为
Figure BDA00038224753300000811
Figure BDA00038224753300000812
生成复数矩阵
Figure BDA00038224753300000813
Figure BDA00038224753300000814
Figure BDA00038224753300000815
的形状为[t,r*s];
Figure BDA00038224753300000816
变形为张量
Figure BDA00038224753300000817
形状为[t,r,s];
输出张量
Figure BDA00038224753300000818
所述张量
Figure BDA00038224753300000819
为最终生成的信道数据。
仿照自然语言使用注意力机制进行处理的方案,将M中行的数量当成文本长度,使用多层注意力层对数据进行处理,使得行向量的信息同分交互。
所述随机生成隐向量
Figure BDA00038224753300000820
具体为:
从标准伯努利分布中进行d次采样,得到的d个0或1的数字构成隐向量
Figure BDA00038224753300000821
利用标准伯努利分布随机生成隐向量
Figure BDA00038224753300000822
实施例3
如图3所示,根据本发明另一个方面,提供了一种排序编码模块的构建系统。该排序编码模块的构建系统,包括:
信道状态信息处理模块310,用于对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
标准差计算模块320,用于对矩阵X中的每一行均计算一个标准差,得到向量
Figure BDA0003822475330000091
其中,
Figure BDA0003822475330000092
std是标准差计算函数,i:表示矩阵X中的第i行;
倒序模块330,用于对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
实施例4
收集4000例实际场景的信道数据,每例数据的接收天线数量r为4、发送天线数量s为32,时延扩展数量t为32,即每例数据的形状为[32,4,32]。
对输入的信道状态信息张量的最后两阶进行展平,即将信道状态信息张量的形状由[32,4,32]展平为[32,4*32],然后抽取实部,形成实部矩阵R,抽取虚部,形成虚部矩阵I。将R与I在最后一阶进行拼接,得到最终的矩阵X,显然X的形状为[32,4*32*2]。
利用实施例1中一种排序编码模块的构建方法,仿照自然语言使用注意力机制进行处理的方案,将X中时延扩展的数量当成文本长度,使用多层注意力层对数据进行处理,具体方案为:
用可训练的全连接层将矩阵X的维度由4*32*2降到128维;
初始化可训练的位置矩阵P,P的形状为[32,128]。P矩阵用于使得多层注意力层能够感知到位置信息。
将降维后的X矩阵与P矩阵相加,然后输入多层注意力层,所生成的输出记为M,M形状为[32,128]。
遍历矩阵X的每一行,对于每一行都计算一个标准差,遍历完即可得到一个向量
Figure BDA0003822475330000093
显然有
Figure BDA0003822475330000094
其中std是标准差计算函数。
对M的行向量进行倒序。首先,先设定M的行向量与σ的元素对应关系,设定任意第i个行向量Mi:
Figure BDA0003822475330000095
的第i元素
Figure BDA0003822475330000096
具有一一对应的关系。然后按照σ元素的倒序对M的行向量进行重新排序,得到M_RANKED矩阵,显然M_RANKED矩阵的形状也为[t,h]。
只保留标准差最大的前4条时延扩展,既只保留M_RANKED矩阵前4行。
初始化4个可训练全连接模块,分别对M_RANKED矩阵前4行进行降维,分别降到35、32、28、25维。然后将降维后的输出拼接起来,形成向量
Figure BDA0003822475330000097
记向量
Figure BDA0003822475330000098
的维度为d,显然d=35+32+28+25=120。
每个对于每个矩阵X,都能计算出一个向量
Figure BDA0003822475330000099
在训练过程中,使用向量
Figure BDA00038224753300000910
作为
Figure BDA00038224753300000911
的均值的估计,
Figure BDA00038224753300000912
的更新方式为:
Figure BDA00038224753300000913
生成隐向量
Figure BDA0003822475330000101
其维度为120,并与
Figure BDA0003822475330000102
具有如下关系:
Figure BDA0003822475330000103
输出隐向量
Figure BDA0003822475330000104
和标准差
Figure BDA0003822475330000105
与排序编码模块的4个全连接模块对应,解码模块也有4个全连接模块进行逆变换。对于隐向量
Figure BDA0003822475330000106
按照35、32、28、25进行分段,分成4个片段,遍历这些片段,用各自对应的全连接层将其维度变为128维。遍历完即可得到4个128维向量,将这4个向量堆叠起来,形成堆叠矩阵,其形状为[4,128],然后初始化一个可训练的,维度为128维的填充向量
Figure BDA0003822475330000107
在堆叠矩阵后填充28行,得到一个形状为[32,128]的矩阵,记为
Figure BDA0003822475330000108
根据标准差
Figure BDA0003822475330000109
进行位置还原。在排序编码模块中,根据标准差
Figure BDA00038224753300001010
对矩阵M的行向量进行重新排序。在此,要执行相反操作,根据标准差
Figure BDA00038224753300001011
Figure BDA00038224753300001012
进行位置还原,得到矩阵
Figure BDA00038224753300001013
显然其形状也为[32,128]。
仿照自然语言使用注意力机制进行处理的方案,将M中行的数量当成文本长度,使用多层注意力层对数据进行处理,使得行向量的信息同分交互。生成的输出记为
Figure BDA00038224753300001014
Figure BDA00038224753300001015
形状为[32,4*32*2]。
计算损失:第i个样本为Xi,对应的输出为
Figure BDA00038224753300001016
则损失函数值
Figure BDA00038224753300001017
Figure BDA00038224753300001018
训练模型直到损失收敛
构建标准差向量集合:遍历训练集中的4000个样本,对训练集的每个样本用输入模块处理后再用排序编码模块处理,就可以得到各个样本对应的标准差向量
Figure BDA00038224753300001019
遍历完成后,所生成的所有标准差向量就构成标准差向量集合,集合大小为4000。
随机生成标准差向量:从标准差向量集合中进行一次随机抽样,得到一个标准差向量
Figure BDA00038224753300001020
随机生成隐向量:从标准伯努利分布中进行d次采样,得到的d个0或1的数字构成了隐向量
Figure BDA00038224753300001021
调用解码模块:根据上两步得到的标准差向量
Figure BDA00038224753300001022
以及隐向量
Figure BDA00038224753300001023
调用训练好的解码模块,生成输出
Figure BDA00038224753300001024
其形状为[32,4*32*2]。
输出后处理:对
Figure BDA00038224753300001025
进行变形,使其形状变为[32,2,4*32],变形得到的张量记为
Figure BDA00038224753300001026
生成的实部矩阵记为
Figure BDA0003822475330000111
生成的虚部矩阵记为
Figure BDA0003822475330000112
生成复数矩阵
Figure BDA0003822475330000113
Figure BDA0003822475330000114
的形状为[32,4*32]。对
Figure BDA0003822475330000115
进行变形,生成形状为[32,4,32]的张量,记为
Figure BDA0003822475330000116
Figure BDA0003822475330000117
为最终生成的信道数据。
显然,本发明的上述实施例仅仅是为清楚地说明本发明技术方案所作的举例,而并非是对本发明的具体实施方式的限定。凡在本发明权利要求书的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。

Claims (10)

1.一种排序编码模块的构建方法,其特征在于,包括如下步骤:
S1.对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];
S2.抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];
S3.对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
S4.对矩阵X中的每一行均计算一个标准差,得到向量
Figure FDA0003822475320000012
其中,
Figure FDA0003822475320000013
std是标准差计算函数,i:表示矩阵X中的第i行;
S5.对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
S6.对矩阵M_RANKED前β行进行降维,形成向量
Figure FDA0003822475320000014
S7.对向量
Figure FDA0003822475320000015
进行量化处理,生成隐向量
Figure FDA0003822475320000011
2.根据权利要求1所述的一种排序编码模块的构建方法,其特征在于,所述步骤S3.中使用神经网络对X进行处理,生成矩阵M,具体为:
用可训练的全连接层将矩阵X的维度由r*s*2降到h维,得到矩阵Xx
随机初始化可训练的位置矩阵P,P的形状为[t,h];
将矩阵Xx与矩阵P相加,输入神经网络,生成矩阵M。
3.根据权利要求1所述的一种排序编码模块的构建方法,其特征在于,所述步骤S5.中对M的行向量进行倒序,具体为:
设定矩阵M的行向量与σ的元素对应关系,所述对应关系具体为:任意第i个行向量Mi:
Figure FDA0003822475320000016
的第i元素
Figure FDA0003822475320000017
具有一一对应的关系;
按照σ的元素的倒序对M的行向量进行重新排序。
4.根据权利要求1所述的一种排序编码模块的构建方法,其特征在于,所述步骤S6.中对M_RANKED矩阵前β行进行降维,具体为:
构建β个神经网络;
分别对矩阵M_RANKED的前β行进行降维,分别降到α123,…,αβ维;
将降维后的输出拼接起来,形成向量
Figure FDA0003822475320000018
记向量
Figure FDA00038224753200000110
的维度为d,所述
Figure FDA0003822475320000019
其中,α123,…,αβ是设定的超参数。
5.一种变分编自码器的信道生成方法,其特征在于,包括如下步骤:
F1.预设信道训练数据集;
F2.创建信道预测模型,所述信道预测模型包括排序编码模块和解码模块,所述排序编码模块由权利要求1~4任一项所述一种排序编码模块的构建方法获得;
F3.基于预设的信道训练数据集对所述信道预测模型进行训练;
F4.基于预设的信道训练数据集和解码模块生成信道数据。
6.根据权利要求5所述的一种变分编自码器的信道生成方法,其特征在于,所述步骤F2中解码模块的构建具体为:
将排序编码模块生成的隐向量
Figure FDA00038224753200000221
分成β个片段;
遍历β个片段,将其维度升到d维,得到β个向量;
将β个向量堆叠起来,形成堆叠矩阵B,形状为[β,h];
随机初始化向量
Figure FDA00038224753200000213
所述向量
Figure FDA00038224753200000214
为可训练的,维度为h维的填充向量;
在堆叠矩阵B后填充t-β行,得到形状为[t,h]的矩阵
Figure FDA00038224753200000215
根据标准差
Figure FDA00038224753200000211
Figure FDA00038224753200000212
进行位置还原,得到矩阵
Figure FDA00038224753200000219
形状为[t,h],所述标准差
Figure FDA00038224753200000220
在权利要求1~4任一项所述一种排序编码模块的构建方法中获得;
使用神经网络对矩阵
Figure FDA00038224753200000218
进行处理,生成矩阵
Figure FDA00038224753200000216
矩阵
Figure FDA00038224753200000217
形状为[t,r*s*2]。
7.根据权利要求5所述的一种变分编自码器的信道生成方法,其特征在于,所述步骤F3.基于预设的信道训练数据集对所述信道预测模型进行训练具体为:
训练所述信道预测模型直到损失函数值收敛,所述损失函数值具体计算为:
损失函数值
Figure FDA0003822475320000029
第i个输入为Xi,对应的输出为
Figure FDA00038224753200000210
共有n个样本,其中,
Figure FDA0003822475320000028
[m,n]为A、B的形状。
8.根据权利要求5所述的一种变分编自码器的信道生成方法,其特征在于,所述步骤F4.基于预设的信道训练数据集和解码模块生成信道数据具体为:
随机调用预设的信道训练数据集中得到的标准差向量
Figure FDA0003822475320000026
以及隐向量
Figure FDA0003822475320000027
调用训练好的解码模块,生成矩阵
Figure FDA0003822475320000023
其形状为[t,r*s*2];
对矩阵
Figure FDA0003822475320000024
进行变形,使其形状变为[t,2,r*s],变形得到的张量记为
Figure FDA0003822475320000025
生成的实部矩阵记为
Figure FDA0003822475320000022
生成的虚部矩阵记为
Figure FDA0003822475320000021
生成复数矩阵
Figure FDA0003822475320000031
的形状为[t,r*s];
Figure FDA0003822475320000036
变形为张量
Figure FDA0003822475320000037
形状为[t,r,s];
输出张量
Figure FDA0003822475320000038
所述张量
Figure FDA0003822475320000039
为最终生成的信道数据。
9.根据权利要求8所述的一种变分编自码器的信道生成方法,其特征在于,所述随机生成隐向量
Figure FDA00038224753200000310
具体为:
从标准伯努利分布中进行d次采样,得到的d个0或1的数字构成隐向量
Figure FDA00038224753200000311
10.一种排序编码模块的构建系统,其特征在于,还包括:
信道状态信息处理模块,用于对获得的信道状态信息张量T的最后两阶进行展平形成张量L,所述张量T的形状为[t,r,s],其中t为时延扩展数量,r为接收天线数量,s为发送天线数量,且张量T=R+I*i,其中张量R表示所述张量T的实部,张量I表示所述张量T的虚部,则张量L的形状为[t,r*s];抽取张量L的实部,形成实部矩阵Rr,抽取张量L的虚部,形成虚部矩阵Ii,将Rr与Ii在最后一阶进行拼接,得到矩阵X,矩阵X的形状为[t,r*s*2];对X进行处理,生成矩阵M,矩阵M形状为[t,h],其中h为人为设定的维度大小;
标准差计算模块,用于对矩阵X中的每一行均计算一个标准差,得到向量
Figure FDA00038224753200000312
其中,
Figure FDA0003822475320000032
std是标准差计算函数,i:表示矩阵X中的第i行;
倒序模块,用于对矩阵M的行向量进行倒序,得到矩阵M_RANKED,矩阵M_RANKED的形状为[t,h];
降维模块,用于对矩阵M_RANKED前β行进行降维,形成向量
Figure FDA0003822475320000033
隐向量生成模块,用于对向量
Figure FDA0003822475320000034
进行量化处理,生成隐向量
Figure FDA0003822475320000035
CN202211046197.3A 2022-08-30 2022-08-30 一种排序编码模块的构建、变分编自码器的信道生成方法、系统 Pending CN115426063A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211046197.3A CN115426063A (zh) 2022-08-30 2022-08-30 一种排序编码模块的构建、变分编自码器的信道生成方法、系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211046197.3A CN115426063A (zh) 2022-08-30 2022-08-30 一种排序编码模块的构建、变分编自码器的信道生成方法、系统

Publications (1)

Publication Number Publication Date
CN115426063A true CN115426063A (zh) 2022-12-02

Family

ID=84199667

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211046197.3A Pending CN115426063A (zh) 2022-08-30 2022-08-30 一种排序编码模块的构建、变分编自码器的信道生成方法、系统

Country Status (1)

Country Link
CN (1) CN115426063A (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1960190A (zh) * 2006-10-20 2007-05-09 北京泰美世纪科技有限公司 Ldpc码校验矩阵构造方法及利用该方法的编码解码装置
US20160295014A1 (en) * 2015-03-31 2016-10-06 Futurewei Technologies, Inc. Channel Ordering for Multi-Channel Multi-Carrier Communication Systems
US20170187433A1 (en) * 2015-12-28 2017-06-29 Institut Mines-Telecom Reordered sub-block decoding
US20200295863A1 (en) * 2019-03-13 2020-09-17 Mitsubishi Electric Research Laboratories, Inc. Symbol Detection is Shared Wireless Channel Subject to Jamming Interference
CN112514334A (zh) * 2018-06-01 2021-03-16 弗劳恩霍夫应用研究促进协会 基于高阶pca分解或pca合成的显式信道信息反馈
CN112600596A (zh) * 2020-12-04 2021-04-02 南京邮电大学 基于张量并行压缩的毫米波系统信道反馈方法
CN113067652A (zh) * 2021-03-19 2021-07-02 东南大学 一种利用宽带大规模天线阵列空间特性的信道预测方法
CN114785641A (zh) * 2022-03-17 2022-07-22 复旦大学 一种基于张量分解的数据辅助时变信道估计方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1960190A (zh) * 2006-10-20 2007-05-09 北京泰美世纪科技有限公司 Ldpc码校验矩阵构造方法及利用该方法的编码解码装置
US20160295014A1 (en) * 2015-03-31 2016-10-06 Futurewei Technologies, Inc. Channel Ordering for Multi-Channel Multi-Carrier Communication Systems
US20170187433A1 (en) * 2015-12-28 2017-06-29 Institut Mines-Telecom Reordered sub-block decoding
CN112514334A (zh) * 2018-06-01 2021-03-16 弗劳恩霍夫应用研究促进协会 基于高阶pca分解或pca合成的显式信道信息反馈
US20210099210A1 (en) * 2018-06-01 2021-04-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Explicit channel information feedback based on high-order pca decomposition or pca composition
US20200295863A1 (en) * 2019-03-13 2020-09-17 Mitsubishi Electric Research Laboratories, Inc. Symbol Detection is Shared Wireless Channel Subject to Jamming Interference
CN112600596A (zh) * 2020-12-04 2021-04-02 南京邮电大学 基于张量并行压缩的毫米波系统信道反馈方法
CN113067652A (zh) * 2021-03-19 2021-07-02 东南大学 一种利用宽带大规模天线阵列空间特性的信道预测方法
CN114785641A (zh) * 2022-03-17 2022-07-22 复旦大学 一种基于张量分解的数据辅助时变信道估计方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
WENTAO ZHANG 等: "Stochastic Encoding based Distributed Blind Estimation for Deterministic Vector Signal", 2020 IEEE 91ST VEHICULAR TECHNOLOGY CONFERENCE (VTC2020-SPRING), 30 June 2020 (2020-06-30) *
于迎新: "多中继协作通信网络信道估计和资源分配算法研究", 中国博士学位论文全文数据库 信息科技辑, 15 December 2017 (2017-12-15), pages 136 - 2 *
周舟: "多天线毫米波系统中基于张量分解的信道估计方法研究", 中国博士学位论文全文数据库 信息科技辑, 15 January 2018 (2018-01-15), pages 136 - 48 *
张登越: "基于深度学习的信道估计与均衡技术研究", 中国优秀硕士学位论文全文数据库 信息科技辑, 15 April 2022 (2022-04-15), pages 136 - 219 *
王恒;王怀柱;刘艳青;: "基于联合二元映射机制的无线网络信道安全编码算法", 计算机工程与设计, no. 07, 16 July 2017 (2017-07-16) *

Similar Documents

Publication Publication Date Title
CN107516129B (zh) 基于维度自适应的Tucker分解的深度网络压缩方法
CN109996071B (zh) 基于深度学习的可变码率图像编码、解码系统及方法
CN109889839B (zh) 基于深度学习的感兴趣区域图像编码、解码系统及方法
WO2020155614A1 (zh) 图像处理方法及装置
CN111641832A (zh) 编码方法、解码方法、装置、电子设备及存储介质
CN113537456B (zh) 一种深度特征压缩方法
CN103188494A (zh) 跳过离散余弦变换对深度图像编码/解码的设备和方法
CN113570500A (zh) 一种基于全局信息引导网络实现真实图像风格迁移的方法
CN114742985A (zh) 一种高光谱特征提取方法、装置及存储介质
CN110475119A (zh) 基于flash存算阵列的图像压缩系统和方法
CN111104215B (zh) 一种基于分布式编码的随机梯度下降优化方法
CN115865145A (zh) 一种基于Transformer的大规模MIMO信道状态信息反馈方法
CN115426063A (zh) 一种排序编码模块的构建、变分编自码器的信道生成方法、系统
CN113239949A (zh) 一种基于1d分组卷积神经网络的数据重构方法
CN113379667B (zh) 脸部图像生成方法、装置、设备及介质
CN114245126B (zh) 一种纹理协同的深度特征图压缩方法
CN115471576A (zh) 基于深度学习的点云无损压缩方法和装置
CN113436094B (zh) 一种基于多视角注意力机制的灰度图像自动上色方法
CN112437300B (zh) 一种基于自适应区间重叠因子的分布式视频编码方法
CN112927159B (zh) 基于多尺度选择反馈网络的真实图像去噪方法
CN114553280A (zh) 一种基于深度学习大规模mimo系统的csi反馈方法
CN114332481A (zh) 一种基于非负稀疏自编码器的盲端元提取与光谱解混方法
CN110674335B (zh) 一种基于多生成多对抗的哈希码与图像双向转换方法
CN113590748A (zh) 基于迭代网络组合的情感分类持续学习方法及存储介质
CN111897995A (zh) 视频特征提取方法及应用该方法的视频量化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination