CN112422462B - 复值信道均衡器的设计方法 - Google Patents

复值信道均衡器的设计方法 Download PDF

Info

Publication number
CN112422462B
CN112422462B CN202011311308.XA CN202011311308A CN112422462B CN 112422462 B CN112422462 B CN 112422462B CN 202011311308 A CN202011311308 A CN 202011311308A CN 112422462 B CN112422462 B CN 112422462B
Authority
CN
China
Prior art keywords
channel
complex
complex value
equalizer
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011311308.XA
Other languages
English (en)
Other versions
CN112422462A (zh
Inventor
黄鹤
张永亮
沈纲祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou University
Original Assignee
Suzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou University filed Critical Suzhou University
Priority to CN202011311308.XA priority Critical patent/CN112422462B/zh
Priority to US17/617,294 priority patent/US11909566B2/en
Priority to PCT/CN2021/074159 priority patent/WO2022105058A1/zh
Publication of CN112422462A publication Critical patent/CN112422462A/zh
Application granted granted Critical
Publication of CN112422462B publication Critical patent/CN112422462B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03165—Arrangements for removing intersymbol interference using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03012—Arrangements for removing intersymbol interference operating in the time domain
    • H04L25/03019—Arrangements for removing intersymbol interference operating in the time domain adaptive, i.e. capable of adjustment during data reception

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Power Engineering (AREA)
  • Computational Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Software Systems (AREA)
  • Mathematical Analysis (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Operations Research (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Filters That Use Time-Delay Elements (AREA)

Abstract

本发明公开了一种复值信道均衡器的设计方法，包括：首先采用复值神经网络构建信道均衡器，所述复值信道均衡器应用在数字通信系统；从所述数字通信系统的非线性信道中采集相关的输入y(n)＝[y(n),y(n‑1),…,y(n‑m+1)]T作为复值神经网络的输入，s(n‑τ)作为期望输出，通过均方误差构建损失函数；对损失函数进行优化，从而得到合适的复值神经网络模型，最终使用该复值神经网络模型实现信道均衡。本发明的有益效果：本发明提出使用多层前向复值神经网络构建一种复值信道均衡器，并设计自适应复值L‑BFGS算法用于实现复值神经网络的高效学习，最终实现信道均衡的目的。

Description

复值信道均衡器的设计方法
技术领域
本发明涉及通信、人工智能领域，具体涉及一种复值信道均衡器的设计方法。
背景技术
在信号处理领域中，高速通信信道常常会因为码间串扰和外部噪声而发生损坏。信道均衡是一种有效解决这一问题的抗衰弱措施。信道均衡器通过从观测信道输出的信号来重新恢复信道发送的数据，从而消除码间串扰和噪声干扰。它主要是为了消除宽带通信时的多径时延带来的码间串扰问题，其基本原理是对信道或这个传输系统的特性进行补偿。
发明内容
本发明要解决的技术问题是提供一种复值信道均衡器的设计方法，使用多层前向复值神经网络构建一种复值信道均衡器，并设计自适应复值L-BFGS算法用于实现复值神经网络的高效学习，最终实现信道均衡的目的。
为了解决上述技术问题，本发明提供了一种复值信道均衡器的设计方法，包括：
首先采用复值神经网络构建复值信道均衡器，所述复值信道均衡器应用在数字通信系统；从所述数字通信系统的非线性信道中采集相关的输入y(n)＝[y(n),y(n-1),…,y(n-l+1)]T作为复值神经网络的输入，s(n-τ)作为期望输出，通过均方误差构建损失函数J(z,z*)；对损失函数J(z,z*)进行优化，从而得到合适的复值神经网络模型，最终使用该复值神经网络实现信道均衡。
在其中一个实施例中，所述数字通信系统中，复数值数字序列为s(n)，信道阶数为h，信道映射为f(·)，无噪声时信道输出为
Figure GDA0003150635870000022
加性噪声为v(n)，实际信道输出y(n)为无噪声时信道输出和加性噪声的叠加结果，同时也为均衡器的输入数据，均衡器的阶数为l，均衡器的决策延迟时间为τ；信道的状态ns为有限字符集经过信道传输后产生的数据集，其大小由均衡器阶数和信道阶数决定；发送信号的调制阶数为L；信道的传输函数为
Figure GDA0003150635870000021
则信道状态数ns由下式确定：
ns＝Lh+l
那么，输入序列s(n)＝[s(n),…,s(n-l+1-h)]T就有ns个状态，经过无噪信道传输后，期望的信道输出
Figure GDA0003150635870000023
也是ns个状态；
均衡器是根据加入噪声后的信道输出观测向量y(n)＝[y(n),y(n-1),…,y(n-l+1)]T来重新构建发送端传输的序列，这里y(n)＝[y(n),y(n-1),…,y(n-l+1)]T是畸变信号的l个延迟。
在其中一个实施例中，“对损失函数J(z,z*)进行优化”，具体方法如下：使用复值L-BFGS算法对损失函数J(z,z*)进行优化，通过计算和比较沿特定方向的拟牛顿矩阵的逆矩阵与真实海塞矩阵的逆矩阵之间的近似程度，从中选择近似程度最好时所对应的记忆尺度值为当前迭代的最优记忆尺度。
在其中一个实施例中，“在复值L-BFGS算法中，通过计算和比较沿特定方向的拟牛顿矩阵的逆矩阵与真实海塞矩阵的逆矩阵之间的近似程度，从中选择近似程度最好时所对应的记忆尺度值为当前迭代的最优记忆尺度”，具体实现过程如下：
根据损失函数J(z,z*)，分别计算
Figure GDA0003150635870000031
和
Figure GDA0003150635870000032
其中
Figure GDA0003150635870000033
利用
Figure GDA0003150635870000034
和
Figure GDA0003150635870000035
分别计算多步拟牛顿公式中的
Figure GDA0003150635870000036
根据公式
Figure GDA0003150635870000037
计算矩阵
Figure GDA0003150635870000038
该矩阵将被用于刻画拟牛顿矩阵的逆矩阵与海塞矩阵的逆矩阵之间的近似程度；这里，上标H表示共轭转置，
Figure GDA0003150635870000039
Figure GDA00031506358700000310
Figure GDA00031506358700000311
给定一个上界M，根据公式
Figure GDA00031506358700000312
分别计算m＝1,2,…,M时
Figure GDA00031506358700000313
与真实海塞矩阵的逆矩阵之间的近似程度；
根据上述计算的em，选择使得em最小时相对应的m值作为复值L-BFGS算法的最优记忆尺度m*；
当最优记忆尺度确定后，计算当前迭代时的搜索方向，具体通过
Figure GDA0003150635870000041
计算搜索方向
Figure GDA0003150635870000042
然后，根据线性搜索条件
Figure GDA0003150635870000043
Figure GDA0003150635870000044
计算步长，其中，常数k1在(0,0.5)之间取值，k2在(k1,1)之间取值；从而得到参数更新公式
Figure GDA0003150635870000045
在其中一个实施例中，“根据前几步迭代过程中最优记忆尺度的变化趋势，合理地改变M的值”，具体过程为：
给定窗口大小W，根据公式
Figure GDA0003150635870000046
计算当前迭代时记忆尺度的预测值
Figure GDA0003150635870000047
其中
Figure GDA0003150635870000048
表示t时刻的最优记忆尺度；
给定常数c1和c2，如果
Figure GDA0003150635870000049
则M＝M-1；如果
Figure GDA00031506358700000410
则M＝M+1；否则，M保持不变。
在其中一个实施例中，在多个方向进行叠加的形式设计新的搜索方向，在第t次迭代时，选择多个记忆尺度，从而通过计算得到多个方向，然后将这些方向进行叠加得到当前迭代时的搜索方向。
在其中一个实施例中，“在多个方向进行叠加的形式设计新的搜索方向，在第t次迭代时，选择多个记忆尺度，从而通过计算得到多个方向，然后将这些方向进行叠加得到当前迭代时的搜索方向”，具体过程为：
给定正整数K，根据第w次迭代中选择的K个记忆尺度
Figure GDA0003150635870000051
计算其平均记忆尺度
Figure GDA0003150635870000052
利用前W次迭代中记忆尺度的平均值
Figure GDA0003150635870000053
计算当前迭代记忆尺度的预测值
Figure GDA0003150635870000054
根据预测值，利用前述的自适应调整方法修正M；
根据修正的M，计算得到第t次迭代的K个记忆尺度，从而得到K个方向，将这些方向进行叠加得到当前迭代时的搜索方向。
基于同样的发明构思，本申请还提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现任一项所述方法的步骤。
基于同样的发明构思，本申请还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现任一项所述方法的步骤。
基于同样的发明构思，本申请还提供一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行任一项所述的方法。
本发明的有益效果：
本发明提出使用多层前向复值神经网络构建一种复值信道均衡器，并设计自适应复值L-BFGS算法用于实现复值神经网络的高效学习，最终实现信道均衡的目的。对于设计的前向复值神经网络，首先通过前向传播和反向传播计算
Figure GDA0003150635870000055
和
Figure GDA0003150635870000056
采用前述方法计算得到合理的M和最优的记忆尺度m*，利用Wirtinger微分计算前向复值神经网络的权值和偏置的调整量，利用线性搜索方法得到步长，最后实现多层前向复值神经网络的高效学习，形成最终的信道均衡器。
附图说明
图1是本发明复值信道均衡器的设计方法中的数字通信模型示意图。
图2是本发明复值信道均衡器的设计方法的结构框架示意图。
图3是本发明复值信道均衡器的设计方法中的训练算法流程图。
图4是本发明复值信道均衡器的设计方法中的M调整的流程图。
图5是本发明复值信道均衡器的设计方法中的多方向构建流程图。
图6是本发明复值信道均衡器的设计方法中的效果对比示意图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定。
在均衡器的实现上，人工神经网络是较为常见的方法。而对于复数值信道均衡的处理，复值神经网络是一种高效的手段。复值神经网络由于快速学习以及能够直接处理复信号的能力备受学者的关注，与之相关的研究也越来越多。在一些应用领域如图像处理、复信号处理等，复值神经网络的表现已经被证实在许多方面都超过了相同结构的实值神经网络。
对于复值神经网络来说，复梯度类算法和复牛顿类算法是目前较为流行的训练算法。其中，由于计算复杂度低，复梯度下降算法被广泛应用。但是，由于复值神经网络的代价函数中存在着大量的鞍点，这就给梯度类算法的训练增加了难度。为了解决这一问题，一些改进的算法被提出。比如，通过使用复步长改变搜索方向，使得算法具备逃离鞍点的能力。除了使用复步长，其它的复梯度算法也被提出。复共轭梯度算法由于搜索方向的改变，很大程度上能克服鞍点对训练的影响。牛顿类算法相比于梯度类算法往往能获得更快的收敛速度和更高的精度。牛顿法需要计算海森矩阵的逆，因此计算复杂度非常高。为了解决这一问题，提出了所谓的拟牛顿法。拟牛顿法采用近似方式计算海森矩阵的逆，大大减少了计算量。较为常用的拟牛顿法是BFGS算法。由于需要存储大规模的矩阵，BFGS算法在实现过程中内存的消耗仍然很大。改进的L-BFGS算法只需要以向量形式保留有限次的信息，大大降低了对内存的需求，增强了算法的实用性。
复值L-BFGS算法是一种复数域的优化算法，能够用于求解复数域无约束优化问题。我们发现记忆尺度对复值L-BFGS算法的性能产生显著的影响。实验表明，选择太大或太小的记忆尺度并不能保证一定能取得较好的效果。因此，本发明将在复值信道均衡器的设计中提出一种记忆尺度自适应调整策略，使得在每一次迭代中都能找到最优的记忆尺度，从而实现高性能复值信道均衡器的设计，并有效地减少设计方法的计算复杂度。
首先采用复值神经网络构建复值均衡器，所述复值均衡器应用于数字通信系统模型，为了深入理解信道均衡，首先，参阅图1，本发明介绍一个完整的数字通信系统模型。其中s(n)为复数值数字序列，h为信道阶数，f(·)为信道映射，
Figure GDA0003150635870000072
为无噪声时信道输出，v(n)为加性噪声，y(n)为实际信道输出，也就是无噪声时信道输出和加性噪声的叠加结果，同时也为均衡器的输入数据，l为均衡器的阶数，τ为均衡器的决策延迟时间。信道的状态ns为有限字符集经过信道传输后产生的数据集，其大小通常由均衡器阶数和信道阶数决定。假设发送信号为s(n)，信道阶数为h，发送信号的调制阶数为L，若发送信道为4QAM信号，则调制阶数L＝4。信道的传输函数为
Figure GDA0003150635870000071
则信道状态数ns由下式确定：
ns＝Lh+l
那么，输入序列s(n)＝[s(n),…,s(n-l+1-h)]T就有ns个状态，经过无噪信道传输后，期望的信道输出
Figure GDA0003150635870000081
也是ns个状态。
均衡器是根据加入噪声后的信道输出观测向量y(n)＝[y(n),y(n-1),…,y(n-l+1)]T来重新构建发送端传输的序列。y(n)＝[y(n),y(n-1),…,y(n-l+1)]T是畸变信号的l个延迟，l为均衡器的阶数。
然后提出一种复值L-BFGS算法的记忆尺度自适应调整方法，并用于实现多层前向复值神经网络的高效学习，使得复值均衡器的性能得到很大的改善。从非线性信道中采集相关的输入y(n)＝[y(n),y(n-1),…,y(n-l+1)]T作为复值神经网络的输入，s(n-τ)作为期望输出，通过均方误差构建损失函数J(z,z*)。对损失函数J(z,z*)使用记忆尺度自适应调整的复值L-BFGS算法进行优化，从而得到合适的复值神经网络模型，最终使用该模型实现信道均衡。其整体框图如图2所示。
在自适应复值L-BFGS算法中，通过计算和比较沿特定方向的拟牛顿矩阵的逆矩阵与真实海塞矩阵的逆矩阵之间的近似程度，从中选择近似程度最好时所对应的记忆尺度值为当前迭代的最优记忆尺度。其具体实现过程如下：
根据损失函数J(z,z*)，分别计算
Figure GDA0003150635870000082
和
Figure GDA0003150635870000083
其中
Figure GDA0003150635870000084
利用
Figure GDA0003150635870000085
和
Figure GDA0003150635870000086
分别计算多步拟牛顿公式中的
Figure GDA0003150635870000087
根据公式
Figure GDA0003150635870000091
计算矩阵
Figure GDA0003150635870000092
该矩阵将被用于刻画拟牛顿矩阵的逆矩阵与海塞矩阵的逆矩阵之间的近似程度。这里，上标H表示共轭转置，
Figure GDA0003150635870000093
Figure GDA0003150635870000094
Figure GDA0003150635870000095
给定一个上界M，根据公式
Figure GDA0003150635870000096
分别计算m＝1,2,…,M时
Figure GDA0003150635870000097
与真实海塞矩阵的逆矩阵之间的近似程度。
根据上述计算的em，选择使得em最小时相对应的m值作为复值L-BFGS算法的最优记忆尺度m*。
当最优记忆尺度确定后，计算当前迭代时的搜索方向，具体通过
Figure GDA0003150635870000098
计算搜索方向
Figure GDA0003150635870000099
然后，根据线性搜索条件
Figure GDA0003150635870000101
Figure GDA0003150635870000102
计算步长，其中，常数k1在(0,0.5)之间取值，k2在(k1,1)之间取值。从而得到参数更新公式
Figure GDA0003150635870000103
流程图如图3所示。
为了有效降低自适应复值L-BFGS算法的计算复杂度，本发明进而提出了一种记忆尺度上界M的自适应调整策略，可以根据前几步迭代(比如前7步)过程中最优记忆尺度的变化趋势，合理地改变M的值。流程图如图4所示，具体过程为：
给定窗口大小W，根据公式
Figure GDA0003150635870000104
计算当前迭代时记忆尺度的预测值
Figure GDA0003150635870000105
其中
Figure GDA0003150635870000106
表示t时刻的最优记忆尺度。
给定常数c1和c2，如果
Figure GDA0003150635870000107
则M＝M-1。如果
Figure GDA0003150635870000108
则M＝M+1。否则，M保持不变。
为了进一步提升自适应复值L-BFGS算法的性能，本发明提出了多个方向进行叠加的形式设计新的搜索方向，在第t次迭代时，选择多个记忆尺度(比如
Figure GDA0003150635870000109
)，从而可以通过计算得到多个方向，然后将这些方向进行叠加得到当前迭代时的搜索方向。流程图如图5所示，具体过程为：
给定正整数K，根据第w次迭代中选择的K个记忆尺度
Figure GDA00031506358700001010
计算其平均记忆尺度
Figure GDA00031506358700001011
利用前W次迭代中记忆尺度的平均值
Figure GDA00031506358700001012
计算当前迭代记忆尺度的预测值
Figure GDA0003150635870000111
根据预测值，利用前述的自适应调整方法修正M。
根据修正的M，计算得到第t次迭代的K个记忆尺度，从而得到K个方向，将这些方向进行叠加得到当前迭代时的搜索方向。
本发明提出使用多层前向复值神经网络构建一种复值信道均衡器，并设计自适应复值L-BFGS算法用于实现模型的高效学习，最终实现信道均衡的目的。对于给定的前向复值神经网络，首先通过前向传播和反向传播计算
Figure GDA0003150635870000112
Figure GDA0003150635870000113
和
Figure GDA0003150635870000114
采用前述方法计算得到合理的M和最优的记忆尺度m*，利用Wirtinger微分计算前向复值神经网络的权值和偏置的调整量，利用线性搜索方法得到步长，最后实现多层前向复值神经网络的高效学习，形成最终的信道均衡器。
参阅图6，可以发现本发明通过构建复值神经网络实现信道均衡器的设计，本发明所提出的算法能够取得更好的效果。BP和CBBM是常见复值梯度类算法。CL-BFGS是传统的复值L-BFGS算法，ACL-BFGS是没有引入多个方向之前的自适应复值L-BFGS算法。在IACL-BFGS算法中，使用堆来选择最好的K个记忆尺度,并计算平均方向，最后达到更好的收敛效果。
本发明的关键构思如下：
结合拟牛顿矩阵与真实海塞矩阵的近似程度，建立了复值L-BFGS算法中最优记忆尺度的自适应调整方法。采用数据预测手段估计记忆尺度的变化上界，避免了无效的计算，降低了设计的计算复杂度。提出了多方向叠加的方式构造新的搜索方向，以便于提高自适应复值L-BFGS算法的性能。采用本发明提出的算法能够实现了多层前向复值神经网络的高效学习，并解决信道均衡的问题。
本发明提出的自适应复值L-BFGS算法解决了最优记忆尺度的选择问题，避免了算法性能的不稳定性；本发明提出的自适应复值L-BFGS算法相对于传统的复值L-BFGS算法在性能上有很大的提升，具有更快的收敛速度，并且能找到更加精确的解。本发明提出的自适应复值L-BFGS算法避免了无必要的计算，计算复杂度得到了很大程度的降低。在信道均衡中，该算法相对于原来的算法能够达到更好的效果。
以上所述实施例仅是为充分说明本发明而所举的较佳的实施例，本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换，均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。

Claims (6)

1.一种复值信道均衡器的设计方法，其特征在于，包括：
首先采用复值神经网络构建复值信道均衡器，所述复值信道均衡器应用在数字通信系统；从所述数字通信系统的非线性信道中采集相关的输入y(n)＝[y(n),y(n-1),…,y(n-l+1)]T作为复值神经网络的输入，s(n-τ)作为期望输出，通过均方误差构建损失函数J(z,z*)；对损失函数J(z,z*)进行优化，从而得到合适的复值神经网络模型，最终使用该复值神经网络实现信道均衡；
所述数字通信系统中，复数值数字序列为s(n)，信道阶数为h，信道映射为f(·)，无噪声时信道输出为
Figure FDA0003150635860000013
加性噪声为v(n)，实际信道输出y(n)为无噪声时信道输出和加性噪声的叠加结果，同时也为均衡器的输入数据，均衡器的阶数为l，均衡器的决策延迟时间为τ；信道的状态ns为有限字符集经过信道传输后产生的数据集，其大小由均衡器阶数和信道阶数决定；发送信号的调制阶数为L；信道的传输函数为
Figure FDA0003150635860000011
则信道状态数ns由下式确定：
ns＝Lh+l
那么，输入序列s(n)＝[s(n),…,s(n-l+1-h)]T就有ns个状态，经过无噪信道传输后，期望的信道输出
Figure FDA0003150635860000012
也是ns个状态；
均衡器是根据加入噪声后的信道输出观测向量y(n)＝[y(n),y(n-1),…,y(n-l+1)]T来重新构建发送端传输的序列，这里y(n)＝[y(n),y(n-1),…,y(n-l+1)]T是畸变信号的l个延迟，l为均衡器的阶数；
“对损失函数J(z,z*)进行优化”，具体方法如下：使用复值L-BFGS算法对损失函数J(z,z*)进行优化，在复值L-BFGS算法中，通过计算和比较沿特定方向的拟牛顿矩阵的逆矩阵与真实海塞矩阵的逆矩阵之间的近似程度，从中选择近似程度最好时所对应的记忆尺度值为当前迭代的最优记忆尺度；
“在复值L-BFGS算法中，通过计算和比较沿特定方向的拟牛顿矩阵的逆矩阵与真实海塞矩阵的逆矩阵之间的近似程度，从中选择近似程度最好时所对应的记忆尺度值为当前迭代的最优记忆尺度”，具体实现过程如下：
根据损失函数J(z,z*)，分别计算
Figure FDA0003150635860000021
Figure FDA0003150635860000022
和
Figure FDA0003150635860000023
其中
Figure FDA0003150635860000024
利用
Figure FDA0003150635860000025
和
Figure FDA0003150635860000026
分别计算多步拟牛顿公式中的
Figure FDA0003150635860000027
根据公式
Figure FDA0003150635860000028
计算矩阵
Figure FDA0003150635860000029
该矩阵将被用于刻画拟牛顿矩阵的逆矩阵与海塞矩阵的逆矩阵之间的近似程度；这里，上标H表示共轭转置，
Figure FDA00031506358600000210
Figure FDA00031506358600000211
Figure FDA00031506358600000212
给定一个上界M，根据公式
Figure FDA00031506358600000213
分别计算m＝1,2,…,M时
Figure FDA00031506358600000214
与真实海塞矩阵的逆矩阵之间的近似程度；
根据上述计算的em，选择使得em最小时相对应的m值作为复值L-BFGS算法的最优记忆尺度m*；
当最优记忆尺度确定后，计算当前迭代时的搜索方向，具体通过
Figure FDA0003150635860000031
计算搜索方向
Figure FDA0003150635860000032
然后，根据线性搜索条件
Figure FDA0003150635860000033
Figure FDA0003150635860000034
计算步长，其中，常数k1在(0,0.5)之间取值，k2在(k1,1)之间取值；从而得到参数更新公式
Figure FDA0003150635860000035
“根据前几步迭代过程中最优记忆尺度的变化趋势，合理地改变M的值”，具体过程为：
给定窗口大小W，根据公式
Figure FDA0003150635860000036
计算当前迭代时记忆尺度的预测值
Figure FDA0003150635860000037
其中
Figure FDA0003150635860000038
表示t时刻的最优记忆尺度；
给定常数c1和c2，如果
Figure FDA0003150635860000039
则M＝M-1；如果
Figure FDA00031506358600000310
则M＝M+1；否则，M保持不变。
2.如权利要求1所述的复值信道均衡器的设计方法，其特征在于，采用多个方向进行叠加的形式设计新的搜索方向，在第t次迭代时，选择多个记忆尺度，从而通过计算得到多个方向，然后将这些方向进行叠加得到当前迭代时的搜索方向。
3.如权利要求2所述的复值信道均衡器的设计方法，其特征在于，“采用多个方向进行叠加的形式设计新的搜索方向，在第t次迭代时，选择多个记忆尺度，从而通过计算得到多个方向，然后将这些方向进行叠加得到当前迭代时的搜索方向”，具体过程为：
给定正整数K，根据第w次迭代中选择的K个记忆尺度
Figure FDA0003150635860000041
计算其平均记忆尺度
Figure FDA0003150635860000042
利用前W次迭代中记忆尺度的平均值
Figure FDA0003150635860000043
其中，w＝t-W,t-W+1,…,t-1，计算当前迭代记忆尺度的预测值
Figure FDA0003150635860000044
根据预测值，利用前述的自适应调整方法修正M；
根据修正的M，计算得到第t次迭代的K个记忆尺度，从而得到K个方向，将这些方向进行叠加得到当前迭代时的搜索方向。
4.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1到3任一项所述方法的步骤。
5.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1到3任一项所述方法的步骤。
6.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1到3任一项所述的方法。
CN202011311308.XA 2020-11-20 2020-11-20 复值信道均衡器的设计方法 Active CN112422462B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202011311308.XA CN112422462B (zh) 2020-11-20 2020-11-20 复值信道均衡器的设计方法
US17/617,294 US11909566B2 (en) 2020-11-20 2021-01-28 Method for designing complex-valued channel equalizer
PCT/CN2021/074159 WO2022105058A1 (zh) 2020-11-20 2021-01-28 复值信道均衡器的设计方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011311308.XA CN112422462B (zh) 2020-11-20 2020-11-20 复值信道均衡器的设计方法

Publications (2)

Publication Number Publication Date
CN112422462A CN112422462A (zh) 2021-02-26
CN112422462B true CN112422462B (zh) 2021-08-31

Family

ID=74777074

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011311308.XA Active CN112422462B (zh) 2020-11-20 2020-11-20 复值信道均衡器的设计方法

Country Status (3)

Country Link
US (1) US11909566B2 (zh)
CN (1) CN112422462B (zh)
WO (1) WO2022105058A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887237B (zh) * 2021-03-12 2022-02-11 苏州大学 光纤通信系统的复信道均衡器设计方法
CN113408726B (zh) * 2021-06-30 2022-12-06 苏州大学 基于ap-nag算法的复值神经网络信道均衡器设计方法
CN115775017A (zh) * 2022-11-23 2023-03-10 苏州大学 基于复值树突神经模型的时间序列预测方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104486271A (zh) * 2014-11-04 2015-04-01 荆楚理工学院 基于激活函数可调的复值bp神经网络盲均衡方法
CN109347555A (zh) * 2018-09-19 2019-02-15 北京邮电大学 一种基于径向基函数神经网络的可见光通信均衡方法
CN111950711A (zh) * 2020-08-14 2020-11-17 苏州大学 复值前向神经网络的二阶混合构建方法及系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014205441A2 (en) * 2013-06-21 2014-12-24 Digital Compression Technology, Llc Use of neural network based matched filter for fast response time in high-speed communications channels
US20150249554A1 (en) * 2013-06-21 2015-09-03 Dhadesugoor Vaman Adaptive demodulation method and apparatus using an artificial neural network to improve data recovery in high speed channels
US9601109B2 (en) * 2013-12-06 2017-03-21 International Business Machines Corporation Systems and methods for accelerating hessian-free optimization for deep neural networks by implicit preconditioning and sampling
JP6801529B2 (ja) * 2017-03-09 2020-12-16 沖電気工業株式会社 情報処理装置、情報処理方法、およびプログラム
US10708094B2 (en) * 2017-10-09 2020-07-07 Nec Corporation Transmission filtering using machine learning
US11556799B2 (en) * 2018-01-02 2023-01-17 Nokia Technologies Oy Channel modelling in a data transmission system
DE112021005915T5 (de) * 2020-11-11 2023-08-24 Marvell Asia Pte, Ltd. Nichtlinearer Neuronales-Netzwerk-Equalizer für Hochgeschwindigkeits-Datenkanäle

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104486271A (zh) * 2014-11-04 2015-04-01 荆楚理工学院 基于激活函数可调的复值bp神经网络盲均衡方法
CN109347555A (zh) * 2018-09-19 2019-02-15 北京邮电大学 一种基于径向基函数神经网络的可见光通信均衡方法
CN111950711A (zh) * 2020-08-14 2020-11-17 苏州大学 复值前向神经网络的二阶混合构建方法及系统

Also Published As

Publication number Publication date
US20230254187A1 (en) 2023-08-10
CN112422462A (zh) 2021-02-26
WO2022105058A1 (zh) 2022-05-27
US11909566B2 (en) 2024-02-20

Similar Documents

Publication Publication Date Title
CN112422462B (zh) 复值信道均衡器的设计方法
CN111464465B (zh) 一种基于集成神经网络模型的信道估计方法
CN102123115B (zh) 基于粒子群优化的正交小波盲均衡方法
CN111224905B (zh) 一种大规模物联网中基于卷积残差网络的多用户检测方法
CN113676426A (zh) 面向动态传输的智能数字预失真系统及方法
CN113162665B (zh) 一种基于深度学习信道预测的预编码方法
CN112887237B (zh) 光纤通信系统的复信道均衡器设计方法
CN112598106A (zh) 基于复数值前向神经网络的复信道均衡器设计方法
CN102215072B (zh) 多天线通信系统中信号检测的方法和接收机
CN112836822A (zh) 基于宽度学习的联邦学习策略优化方法和装置
CN114499601B (zh) 一种基于深度学习的大规模mimo信号检测方法
Ingle et al. A new training scheme for neural network based non-linear channel equalizers in wireless communication system using Cuckoo Search Algorithm
CN113408726B (zh) 基于ap-nag算法的复值神经网络信道均衡器设计方法
CN102231720B (zh) 样条函数Renyi熵与时间分集融合的小波盲均衡方法
CN117060952A (zh) 多输入多输出系统中的信号检测方法及装置
CN101924718A (zh) 模糊神经网络控制的混合小波神经网络盲均衡方法
CN112565140B (zh) 一种采用三对角加权矩阵的ofdm系统抗时变信道干扰方法
CN113438190B (zh) 神经网络训练方法及装置、mimo均衡器与方法、可读介质
CN113824658B (zh) 一种ofdm系统中采用dnsp方案的深度迁移学习信道估计方法
CN113259284B (zh) 一种基于Bagging和长短期记忆网络的信道盲均衡方法及系统
CN115001911B (zh) 一种基于fpga的高速ftn信号迭代均衡方法及系统
Li et al. An efficient soft decision-directed algorithm for blind equalization of 4-QAM systems
CN112488309B (zh) 基于临界阻尼动量的深度神经网络的训练方法及系统
Gizzini et al. Deep Neural Network Augmented Wireless Channel Estimation for Preamble-based OFDM PHY on Zynq System on Chip
Ju et al. A comparative study of deep learning and iterative algorithms for joint channel estimation and signal detection in OFDM systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant