CN110912643B - 一种基于机器学习的amp检测改进方法 - Google Patents
一种基于机器学习的amp检测改进方法 Download PDFInfo
- Publication number
- CN110912643B CN110912643B CN201911002130.8A CN201911002130A CN110912643B CN 110912643 B CN110912643 B CN 110912643B CN 201911002130 A CN201911002130 A CN 201911002130A CN 110912643 B CN110912643 B CN 110912643B
- Authority
- CN
- China
- Prior art keywords
- learning
- coefficients
- message
- amp detection
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
- H04L1/0045—Arrangements at the receiver end
- H04L1/0047—Decoding adapted to other signal detection operation
- H04L1/0048—Decoding adapted to other signal detection operation in conjunction with detection of multiuser or interfering signals, e.g. iteration between CDMA or MIMO detector and FEC decoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B7/00—Radio transmission systems, i.e. using radiation field
- H04B7/02—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
- H04B7/04—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
- H04B7/0413—MIMO systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B7/00—Radio transmission systems, i.e. using radiation field
- H04B7/02—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas
- H04B7/04—Diversity systems; Multi-antenna system, i.e. transmission or reception using multiple antennas using two or more spaced independent antennas
- H04B7/0413—MIMO systems
- H04B7/0456—Selection of precoding matrices or codebooks, e.g. using matrices antenna weighting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
- H04L1/0045—Arrangements at the receiver end
- H04L1/0047—Decoding adapted to other signal detection operation
- H04L1/005—Iterative decoding, including iteration between signal detection and decoding operation
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
Description
技术领域
本发明涉及一种分布式消息传递信号检测方法,称为迫近消息传递(AMP,approximate message passing)检测方法,具体涉及一种基于机器学习的AMP检测的改进方法。该方法属于人工智能和大数据分析领域的研究内容。
背景技术
AMP检测的运算复杂度低,估计误差小,在压缩感知和MIMO无线传输领域都有巨大的潜在应用价值。压缩感知(Compressed sensing),亦称为压缩采样(Compressivesampling),是一种利用信号的稀疏性对信号进行压缩和重构的技术。压缩感知被广泛应用于电子工程领域的诸多应用之中,例如图像压缩、核磁共振等。多输入多输出技术(Multiple-Input Multiple-Output,MIMO)是指在发散端和接收端均使用多个天线,以改善通信质量和提高传输速度的技术。MIMO无线传输充分利用了空间资源,通过在多个天线之间实现多发多收,可以在不增加频谱资源和天线发射功率的情况下成倍的提高系统吞吐量,显示出了极大的性能优势,被视为未来移动通信的核心技术之一。
如何准确且快速的对经过信号处理,且受各种因素干扰而变形的数据进行还原和重构(即检测),是压缩感知和MIMO无线传输等领域均非常关心的问题。传统的运算方法大多计算复杂度极高,需要采用高能耗的大型计算器才能实时有效的还原和重构数据,难以在小型的且低耗能的移动终端上实现。作为一种消息传递信号检测方法,AMP运算复杂度低,且重构信号的估计误差小,是一种受到广泛关注的还原和重构信号的检测方法。AMP检测可用于压缩感知领域的线性求逆问题,也可用于MIMO无线传输领域的信号检测和预编码问题。
但是,虽然目前AMP检测以其优异的性能获得了广泛的关注和研究,但是仍然存在一些问题限制了其在实际系统中的应用。其最主要的问题是,不能在所有场景都保证收敛,即在某些特定场景中可以保持较好的收敛性,而在部分特定场景中无法收敛。具体什么情况下可以保证收敛,以及什么因素导致无法收敛,目前尚处于研究阶段,没有确切的结论。另外,既便在可以保持较好收敛的场景,AMP消息传递的收敛速度也存在很大差异,即部分场景收敛很快,而部分场景收敛很慢。具体什么因素决定了AMP检测消息传递收敛速度,也需要进一步进行研究。
发明内容
本发明的目的为了解决上述AMP检测不能在所有场景都保证收敛;以及在可以保持较好收敛的场景,收敛速度存在很大差异的问题;而提供的一种基于机器学习的AMP检测改进方法。本发明提供的改进方法是通过在AMP检测中设置能供学习的参数,并构建目标函数利用实际应用场景的大数据对能供学习参数进行训练,从而降低AMP检测发散概率,并提高收敛速度的方法。
我们考虑采用机器学习对AMP检测进行优化,从而降低其发散的概率并提高收敛速度。作为人工智能和模式识别等领域的研究热点,机器学习已经帮助许多依靠传统方法难以解决的问题找到了新的突破口。本发明所考虑的AMP检测在压缩感知和MIMO无线传输问题中的应用问题,均属于大数据分析领域的研究问题。通过机器学习从大数据中获取尚未发现的知识和找到尚不知晓的规律已成为当今计算机技术发展的一大推动力量。因此,在面对难以用理论推导解释什么因素导致AMP检测发散以及什么因素影响了AMP检测的收敛速度等问题的时候,机器学习从大数据分析的角度提供了新的研究思路和解决方法。
下面给出如何利用机器学习从复杂多样的压缩感知数据以及MIMO传输数据中获取所需的知识,找到影响AMP收敛性能以及收敛速度的因素,即本发明要求保护的方法。
本发明的具体方案为:
一种基于机器学习的AMP检测改进方法,其特征在于按以下步骤进行:
步骤A、将AMP检测迭代传递消息的过程构建为多层消息传递网络,并在传递消息过程中对AMP检测所传递的部分消息设置能供学习的参数。能供学习参数包括:在消息传递过程中带入运算的压缩矩阵的系数、在消息传递过程中带入运算的压缩数据的系数、软阈值函数的阈值系数和软阈值函数输出值的系数。
步骤B、构建目标函数:以使AMP检测的发散概率的对数最小为目标设计目标函数,表述为目标函数其中Ξt表示步骤A中所设置能供学习参数的集合,Rt表示发散概率;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξt进行训练;
或以使发散概率与消息传递收敛时的估计误差之和的对数最小,表述为目标函数其中Ξt表示步骤A中所设置能供学习参数的集合,Rt表示发散概率,Et表示消息传递收敛时的估计误差;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξt进行训练;实际应用场景的大数据为压缩感知场景的大数据或MIMO传输场景的大数据。构建目标函数的目的是使AMP检测的发散概率最低,并在此基础上使收敛速度尽可能提高。
步骤A中AMP检测构建的多层消息传递网络中,每一层带入运算的压缩矩阵和压缩数据分别设置能供学习的系数,且各层的系数相同。
步骤A中AMP检测构建的多层消息传递网络中,每一层的软阈值函数的阈值和软阈值函数输出值分别设置能供学习的系数,且各层的系数不同。
本发明具有如下有益效果:
1、通过用压缩感知场景的大数据或MIMO传输场景的大数据进行训练,极大降低了AMP检测方法在相应场景的发散概率,在信噪比确定的压缩感知和MIMO传输场景,均可使AMP检测发散的概率降低5个数量级以上。
2、在有效降低AMP检测发散概率的基础上,可以有效提高AMP检测的收敛速度,在保证达到相同估计误差的前提下,可以使迭代次数减少三分之一左右。
附图说明
图1为被估计信号后验概率分布因子图。在推导AMP检测的过程中需要将估计信号后验概率分布用因子图展开,以便于在理论上分析通过消息传递估计信号后验概率分布的方法。
图2为AMP检测展开为多层网络的结构图。为了方便理解用机器学习优化AMP检测的过程,可以将迭代传递消息的AMP检测展开为一个多层的网络结构,网络的层数即为消息迭代传递的次数。
图3为本发明设置能供学习参数后AMP检测网络结构图。在图2所示将AMP检测的消息展开为多层网络结构的基础上,对每层网络设置能供学习参数的位置。用网络结构图显示能供学习参数的位置,可以方便参数训练,避免参数设置错误导致训练效果不佳。
具体实施方式
结合附图和实施例对本发明作进一步描述。
一种基于机器学习的AMP检测改进方法,其特征在于按以下步骤进行:
步骤A、将AMP检测的过程构建为多层消息传递网络如图2所示,并在传递消息过程中对AMP检测中所传递的部分消息设置能供学习的参数,如图3所示,能供学习参数包括:在消息传递过程中带入运算的压缩矩阵的系数、在消息传递过程中带入运算的压缩数据的系数、软阈值函数的阈值系数和软阈值函数输出值的系数。AMP检测构建的多层消息传递网络中并为每一层带入运算的压缩矩阵、压缩数据、软阈值函数的阈值和软阈值函数输出值分别设置能供学习的系数,且各层的能供学习系数相同。
步骤B、构建目标函数:以使AMP检测发散概率的对数最小为目标设计目标函数,表述为目标函数其中Ξt表示步骤A中所设置能供学习参数的集合,Rt表示发散概率;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξt进行训练;
或以使发散概率与消息传递收敛时的估计误差之和的对数最小,表述为目标函数其中Ξt表示步骤A中所设置能供学习参数的集合,Rt表示发散概率,Et表示消息传递收敛时的估计误差;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξt进行训练;实际应用场景的大数据为压缩感知场景的大数据或MIMO传输场景的大数据。构建目标函数的目的是使AMP检测的发散概率最低,并在此基础上使收敛速度尽可能提高。
为了方便说明本发明,下面以一个典型的压缩感知场景线性求逆问题为例进行说明。在类似系统中使用本方法同样属于本发明保护范围。
利用因子图描述公式(4),如图1所示,并如图中所示,在变量节点和因子节点之前传递消息,可以达到求解公式(2)的目的。因子节点传递至变量节点的消息用下标m→n表示,变量节点传递至因子节点的消息用下标n→m表示,消息传递过程为:其中上标t表示迭代传递消息的次数,符号表示两边的函数经过归一化运算以后相同。假设的各个元素都服从高斯分布,用和表示其期望和方差,则可将表示为然后,利用公式(5)可以进一步计算可以得:其中和分别为:和其中hmn表示压缩矩阵H的第(m,n)个元素。将公式(7)和公式(8)带入公式(5)可以解得:
函数η'(z;λ)是软阈值函数η(z;λ)的导数,定义为:公式(10)中的符号〈z〉表示向量z的平均值,符号zj表示向量的第j个元素。将公式(10)迭代传递消息的过程展开为消息传递网络,如图2所示,其中网络层数即为消息迭代传递的次数。
在公式(10)所示消息传递的过程中中加入两个能供学习的参数(θ,ψ)如公式(11)所示,即获取一种能供学习的AMP消息传递检测方法,为:将其展开为消息传递网络后,每一层的供学习参数(θ,ψ)是相同的。
下面给出一种进一步优化以上方法的方法,同时采用能供学习的方法更新每次迭代的软阈值函数的阈值,可得:
将其展开为消息传递网络后,每一层的供学习参数(αt,βt)是不同的。
综合以上方法所给出的能供学习参数,即可得所提出的利用机器学习改进AMP检测的方法,如下式所示:
将其展开为消息传递网络如图3所示,其中每一层供学习参数(θ,ψ)是相同的,供学习参数(αt,βt)是不同的。
为了方便说明训练能供学习参数的目标函数,下面用Ξt=(αt,βt,θ,ψ)表示能供学习参数,{y,x}表示一组用于训练Ξt的数据,假设用于训练的数据集包含Nd组数据,则训练数据集表示为:训练Ξt的目标函数为:如果经过t次迭代后的输出值是收敛的,其估计误差为Et则表示所有收敛输出值的估计误差的统计平均,Rt表示迭代t次以后发散的概率。实际运算中将训练数据集的发散数据组在整个数据集中的比率视为发散概率。判决数据组是否发散的标准是看是否大于<x2>,如果大于<x2>则判决为该数据组发散,相反则判决为收敛。计算Et和Rt的程序如下所示。
Claims (4)
1.一种基于机器学习的AMP检测改进方法,其特征在于按以下步骤进行:
步骤A、将AMP检测迭代传递消息的过程构建为多层消息传递网络,并在传递消息过程中对AMP检测所传递的部分消息设置能供学习的参数;
步骤B、构建目标函数:以使AMP检测的发散概率的对数最小为目标设计目标函数,表述为目标函数 ,其中Ξ t 表示步骤A中所设置能供学习参数的集合,Rt 表示发散概率;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξ t 进行训练;
或以使发散概率与消息传递收敛时的估计误差之和的对数最小,表述为目标函数 ,其中Ξ t 表示步骤A中所设置能供学习参数的集合,Rt 表示发散概率,Ξ t 表示消息传递收敛时的估计误差;利用实际应用场景的大数据,对步骤A中所设置的能供学习参数集合Ξ t 进行训练;
实际应用场景的大数据为压缩感知场景的大数据或MIMO传输场景的大数据。
2.根据权利要求1所述的一种基于机器学习的AMP检测改进方法,其特征在于:所述能供学习参数包括:在消息传递过程中带入运算的压缩矩阵的系数、在消息传递过程中带入运算的压缩数据的系数、软阈值函数的阈值系数和软阈值函数输出值的系数。
3.根据权利要求1或2所述的一种基于机器学习的AMP检测改进方法,其特征在于:步骤A中AMP检测构建的多层消息传递网络中,每一层带入运算的压缩矩阵和压缩数据分别设置能供学习的系数,且各层的系数相同。
4.根据权利要求1或2所述的一种基于机器学习的AMP检测改进方法,其特征在于:步骤A中AMP检测构建的多层消息传递网络中,每一层的软阈值函数的阈值和软阈值函数输出值分别设置能供学习的系数,且各层的系数不同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911002130.8A CN110912643B (zh) | 2019-10-21 | 2019-10-21 | 一种基于机器学习的amp检测改进方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911002130.8A CN110912643B (zh) | 2019-10-21 | 2019-10-21 | 一种基于机器学习的amp检测改进方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110912643A CN110912643A (zh) | 2020-03-24 |
CN110912643B true CN110912643B (zh) | 2022-03-11 |
Family
ID=69816182
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911002130.8A Active CN110912643B (zh) | 2019-10-21 | 2019-10-21 | 一种基于机器学习的amp检测改进方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110912643B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103984416A (zh) * | 2014-06-10 | 2014-08-13 | 北京邮电大学 | 一种基于加速度传感器的手势识别方法 |
CN107276646A (zh) * | 2017-07-03 | 2017-10-20 | 东南大学 | 大规模mimo‑ofdm上行链路迭代检测方法 |
CN107864440A (zh) * | 2016-07-08 | 2018-03-30 | 奥迪康有限公司 | 包括eeg记录和分析系统的助听系统 |
CN107919895A (zh) * | 2017-11-16 | 2018-04-17 | 东南大学 | 一种大规模多用户mimo系统的分布式检测方法 |
CN108242946A (zh) * | 2018-01-05 | 2018-07-03 | 中国矿业大学 | 一种基于mimo-ofdm技术的煤矿井下巷道目标定位方法 |
CN108832976A (zh) * | 2018-06-14 | 2018-11-16 | 南京邮电大学 | 一种大规模mimo系统的上行链路信道估计方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190179647A1 (en) * | 2017-12-13 | 2019-06-13 | General Electric Company | Auto throttling of input data and data execution using machine learning and artificial intelligence |
-
2019
- 2019-10-21 CN CN201911002130.8A patent/CN110912643B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103984416A (zh) * | 2014-06-10 | 2014-08-13 | 北京邮电大学 | 一种基于加速度传感器的手势识别方法 |
CN107864440A (zh) * | 2016-07-08 | 2018-03-30 | 奥迪康有限公司 | 包括eeg记录和分析系统的助听系统 |
CN107276646A (zh) * | 2017-07-03 | 2017-10-20 | 东南大学 | 大规模mimo‑ofdm上行链路迭代检测方法 |
CN107919895A (zh) * | 2017-11-16 | 2018-04-17 | 东南大学 | 一种大规模多用户mimo系统的分布式检测方法 |
CN108242946A (zh) * | 2018-01-05 | 2018-07-03 | 中国矿业大学 | 一种基于mimo-ofdm技术的煤矿井下巷道目标定位方法 |
CN108832976A (zh) * | 2018-06-14 | 2018-11-16 | 南京邮电大学 | 一种大规模mimo系统的上行链路信道估计方法 |
Non-Patent Citations (1)
Title |
---|
"基于图像非局部结构稀疏模型的压缩感知重构";谢中华;《中国博士学位论文全文数据库(电子期刊)信息科技辑》;20181215;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110912643A (zh) | 2020-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111224906B (zh) | 基于深度神经网络的近似消息传递大规模mimo信号检测算法 | |
CN108566257B (zh) | 一种基于反向传播神经网络的信号恢复方法 | |
CN110855585B (zh) | 一种毫米波大规模mimo系统的信道估计方法 | |
CN111698182A (zh) | 一种基于压缩感知的时频分块稀疏的信道估计方法 | |
CN110336594B (zh) | 一种基于共轭梯度下降法的深度学习信号检测方法 | |
CN110289898B (zh) | 一种大规模mimo系统中基于1比特压缩感知的信道反馈方法 | |
CN107046433B (zh) | 一种大规模mimo系统上行链路低复杂度迭代检测算法 | |
CN109951214B (zh) | 一种适用于大规模mimo系统的信号检测方法 | |
Elbir et al. | Federated learning for physical layer design | |
Xu et al. | Transformer empowered CSI feedback for massive MIMO systems | |
CN111901069A (zh) | 一种基于神经网络与近似消息传递算法的多用户检测方法 | |
Wang et al. | Deep Transfer Learning for Model-Driven Signal Detection in MIMO-NOMA Systems | |
CN102215072A (zh) | 多天线通信系统中信号检测的方法和接收机 | |
CN118018367A (zh) | 面向大规模mimo的模型驱动s-csi估计方法、设备及基站 | |
CN110912643B (zh) | 一种基于机器学习的amp检测改进方法 | |
CN105119665A (zh) | 一种基于格基规约的mimo检测方法 | |
Li et al. | Jointly sparse signal recovery via deep auto-encoder and parallel coordinate descent unrolling | |
CN111865489B (zh) | 基于图神经网络的多输入多输出检测方法 | |
CN107248876B (zh) | 基于稀疏贝叶斯学习的广义空间调制符号检测方法 | |
Yaohua et al. | Signal detection algorithm based on SOR algorithm in massive MIMO system | |
Sant et al. | Insights into maximum likelihood detection for one-bit massive mimo communications | |
Bian et al. | Joint Activity-Delay Detection and Channel Estimation for Asynchronous Massive Random Access | |
CN118174994B (zh) | 一种超大规模mimo通信信道估计方法 | |
Zhang et al. | Denoising Neural Network Based Channel Estimation in mmWave Massive MIMO System | |
CN114584236B (zh) | 一种基于rigs算法的大规模mimo系统检测模型构建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |