CN100583853C - 用于混合判决反馈均衡的方法和装置 - Google Patents

Abstract

一种用于判决反馈均衡器的方法和装置，其中使用一校正项来补偿限制器误差，从而避免了误差传播。选择均衡器的滤波器系数以便使均衡器的代价函数最小，包括校正项作为滤波器系数的能量的函数。均衡器包括响应于校正项的系数发生器。一个实施例根据接收采样的信号对干扰和噪声比(SNR)的函数从接收采样中估计出发射的码元。接收采样被量化并被映射到覆盖在所发送的码元集上的栅格区。区域可以对应于一码元估计值或者可被进一步处理以获得一码元估计值。

Description

用于混合判决反馈均衡的方法和装置

对待批专利申请的引用

本专利申请关于Srikant Jayaraman等人所著的“Soft Slicer in a HybridDecision Feedback Equalization”，代理人文献号为020330U2，与该申请同时提交，并被转让给本发明的受让人。

技术领域

本发明一般涉及接收信号的均衡，尤其涉及混合判决反馈均衡。

背景技术

数字信息的传输一般采用了把数字信息映射为模拟波形的调制器。一般对要发送的信息序列内包含的比特块执行映射。波形在幅度、相位、频率或其组合方面可能不同。然后发送信息作为相应的波形。从数字域到模拟域的映射过程称为调制。

在无线通信系统中，通过无线信道发送已调信号。然后，接收机对接收信号进行解调以提取原始的数字信息序列。在接收机处，所发送的信号受到信道所引入的线性失真、以及外部的加性噪声和干扰。信道的特征一般是时变的，因此对于接收机并非先验已知。接收机以多种方式补偿信道所引入的失真和干扰。一种补偿接收信号中的失真并降低干扰的方法是采用一均衡器。均衡一般包含用于减少通信信道中失真效应的方法。均衡器从接收信号产生原始数字信息的估计。

当前的均衡方法是基于有关接收信号的假设。这种假设在多种编码、调制和传输情况下一般不正确，因此这些均衡器在许多条件下不会执行的很好。此外，采用判决反馈的当前均衡器通常遭受误差传播效应，所述误差传播效应会放大单独的判决误差。此外，判决反馈过程包括与每个码元有关的硬判决，并且不考虑码元判决为正确的似然性。

因此，本领域中需要一种均衡方法，该方法减少了各种工作条件下接收信号内的线性失真。更进一步的是，需要减少判决反馈均衡器内的误差传播。此外，需要向判决反馈过程提供一种度量。

附图说明

图1A是通信系统内组件的框图。

图1B是如图1A所示的通信系统的详细部分。

图2是通信系统内判决反馈均衡器的概念模型。

图3是如图2所示的判决反馈均衡器的框图。

图4是码元电平限制器(slicer)的数学模型。

图5是用于优化判决反馈均衡器内的滤波器系数的算法。

图6是用于优化判决反馈均衡器内的滤波器系数的最小均方自适应滤波算法。

图7是用于为采用周期性突发导频的系统优化判决反馈均衡器内的滤波器系数的最小均方自适应滤波算法。

图8A是用于8相移键控(PSK)的星座映射。

图8B说明了用于覆盖在图8A的星座映射上的软限制器判决的栅格区。

图9A是二进制相移键控(BPSK)即2-PSK的星座映射。

图9B说明了用于覆盖在图9A的星座映射上的软限制器判决的栅格区。

图10是实现“软限制”判决过程的判决反馈均衡器。

图11是用于“软限制”判决过程的过程。

图12是应用了泰勒级数计算的“软限制”判决过程的过程。

图13是“软限制器”的框图。

图14是应用了泰勒级数计算的“软限制器”的框图。

具体实施方式

这里使用单词“示例性”意指“充当示例、实例或说明”。这里描述为“示例性”的任何实施例都不必被视为比其它实施例更为优选或有利。

图1A说明了通信系统100的一部分组件。除了所述那些方框以外，其它方框和模块也可以结合到通信系统中。由一信源(未示出)产生的比特被组成帧、编码、然后被映射到信号星座中的码元。由该信源所提供的二进制数字的序列称为信息序列。信息序列由输出一比特序列的编码器102进行编码。编码器102的输出被提供给映射单元104，后者充当到通信信道的接口。映射单元104把编码器输出序列映射到复值信号星座内的码元y(n)。部分120建模了进一步的发送处理，包括调制方框以及通信信道和模拟接收机处理。

图1B说明了图1A的部分120内包括的某些细节。如图1B所示，复码元y(n)被调制到模拟信号脉冲上，所产生的复基带波形被正弦调制到载波信号的同相和正交相位分量上。所产生的模拟信号由RF天线(未示出)通过通信信道发出。这样可以实现各种调制方案，比如M元相移键控(M-PSK)、2^M元正交幅度调制(2^MQAM)等等。

每个调制方案都有一相关的“信号星座”，该信号星座把一个或多个比特映射为一个唯一的复码元。例如，在4-PSK调制中，两个已编码比特被映射到四个可能的复数值{1，i，-1，-i}之一。因此，每个复码元y(n)可以采取四个可能的值。通常对于M-PSK而言，把log₂M个已编码比特映射到落在复单位圆上的M个可能复数值之一。

继续参照图1A，在接收机处，模拟波形经下变频、滤波和采样，比如以奈奎斯特速率的适当倍数。所产生的采样x(n)由均衡器110处理，均衡器110校正信道所引入的信号失真以及其它噪声和干扰，比如由部分120建模。均衡器110输出所发送码元

的估计。然后，解码器处理码元估计来确定原始的信息比特，即被输入编码器102的源比特。

图1A和图1B所示的接收机前端内脉冲滤波器、I-Q调制器、信道和模拟处理器的组合由一线性滤波器106建模，线性滤波器106具有脉冲响应{h_k}和z变换H(z)，其中信道所引入的干扰和噪声被建模为加性白高斯噪声(AWGN)。

图1B把处理部分120详细说明为包括一前端处理单元122，所述前端处理单元122与分别用于处理同相(I)和正交(Q)分量的基带滤波器126和128耦合。然后，每个基带滤波器126、128分别耦合到与相应载波相乘的乘法器130和132。所产生的波形然后在加法节点134处相加并通过通信信道被发送到接收机。在接收机处，模拟预处理单元142接收所发送的信号，所述信号被处理并被传递到匹配滤波器144。匹配滤波器144的输出然后被提供给模拟/数字(A/D)转换器146。注意到按照设计和操作准则可以实现其它模块。图1A和1B的组件和元件是为了理解以下讨论，并非是通信系统的完全描述。

如上面所讨论的，所发送的码元序列被标识为{y(n)}。对于本发明而言，假定码元{y(n)}被归一化以具有平均单位能量，即E|y_n|²＝1。如果信道输出以码元速率(可能是或可能不是奈奎斯特速率)被滤波和采样，则信道输出给出为：

$x_n=\underset{k}{\mathrm{\Σ}}{h}_k{y}_{n-k}+{\mathrm{\η}}_n---\left(0\right)$

其中η_n是方差为(E_s/N₀)^-1的白高斯噪声。均衡器通常用系数为{f_k}的线性滤波器来实现，并由z变换F(z)定义。令

表示均衡器的输出，其中

给出为：

${\hat{y}}_n=\underset{k}{\mathrm{\Σ}}{f}_k{x}_{n-k}---\left(1\right)$

$=g_o{y}_n+[\underset{k>0}{\mathrm{\Σ}}{g}_k{y}_{n-k}+\underset{k>0}{\mathrm{\Σ}}{g}_{-k}{y}_{n+k}+{{\mathrm{\η}}^{\′}}_n]---\left(2\right)$

其中G(z)＝F(z)H(z)且

${{\mathrm{\η}}^{\′}}_n=\underset{k}{\mathrm{\Σ}}{f}_k{\mathrm{\η}}_{n-k}---\left(2a\right)$

注意到公式(2)在方括号[...]内的第二项表示码元间串扰(ISI)和噪声。公式(2)的第一项对应于与过去码元相关的干扰，而第二项对应于与将来码元相关的干扰。第一项通常称为“因果”ISI，而第二项通常称为“反因果”ISI。如果设计者假定正确解码了过去的码元，则可以删除因果ISI项。在理想情况下，如果均衡器知道星座码元y_n-1，y_n-2，K，即时刻n以前发送的星座码元，则在确定估计时，均衡器能通过减去公式(2)[…]中的第一项而消除部分码元间干扰。然而在实际的系统中，均衡器仅仅知道前面生成的码元估计，比如

K。如果干扰和噪声足够小，则预期对估计

的码元判决会导出原始发送的星座码元y_n是合理的。作出这种码元判决的设备称为“限制器”，其操作由σ(.)表示。然后，接收机会用来自限制器的码元判决序列形成因果ISI的估计，并从均衡器的输出中减去该估计以导出：

${\hat{y}}_n=\underset{k}{\mathrm{\Σ}}{f}_k{x}_{n-k}-\underset{k>0}{\mathrm{\Σ}}{g}_k\mathrm{\σ}\left({\hat{y}}_{n-k}\right)---\left(2b\right)$

$=g_o{y}_n+[\underset{k>0}{\mathrm{\Σ}}{g}_k(y_{n-k}-\mathrm{\σ}\left({\hat{y}}_{n-k}\right))+\underset{k>0}{\mathrm{\Σ}}{g}_{-k}{y}_{n+k}+{{\mathrm{\η}}^{\′}}_n]---\left(2c\right)$

$=g_o{y}_n+[\underset{k>0}{\mathrm{\Σ}}{g}_{-k}{y}_{n+k}+{{\mathrm{\η}}^{\′}}_n]---\left(3\right)$

假定 $\mathrm{\σ}\left({\hat{y}}_{n-k}\right)\≈y_{n-k}.$ 这是判决反馈均衡的关键原理，其中通过对工作在均衡器输出上的码元电平限制器作出的码元判决进行因果滤波以消除因果ISI。

图3说明了采用判决反馈均衡器(DFE)340的通信系统350。通信系统350被建模为具有等价的线性信道352，该信道对码元序列y_n进行滤波。噪声和干扰η_n在加法节点354处相加，输出x_n表示在接收机处的前端处理和采样后接收到的信号采样。DFE 340处理x_n，对x_n滤波以产生估计

DFE 340被建模为具有一线性前馈滤波器356和一线性反馈滤波器358。前馈滤波器356的抽头系数被指定为{f_k}，并且实现z变换F(z)。DFE 340还包括与限制器360耦合的纯因果反馈滤波器358，形成一反馈回路，产生因果ISI的估计。换言之，反馈滤波器358从前面检测到的码元所引起的当前码元估计中删除该部分ISI。来自反馈滤波器358的因果ISI估计被提供给加法节点308，加法节点308从前馈滤波器356的输出中减去因果ISI估计。加法节点308所产生的输出是均衡器输出

均衡器输出也是发射码元y_n的估计，并被提供给解码器364用于确定原始的信息序列。

限制器360处理来自加法节点308的均衡器输出，响应于此作出关于原始码元y_n的判决。然后，限制器360的输出被提供给纯因果的反馈滤波器358。前馈滤波器356在此也称为向前馈送滤波器(FFF)。反馈滤波器358在此也称为向后反馈滤波器(FBF)。在DFE中，前馈滤波器356和反馈滤波器358的滤波器系数的优化直接影响了均衡器的性能。执行该优化的设备被设计为图3中的系数优化器362。有多种方法可用于优化滤波器系数。传统上，根据以下隐含的假设来优化FFF和FBF系数：假设限制器的码元判决完全是可靠的，并且FBF完全消除了因果ISI，即来自过去码元的干扰。在该假设下，优化FFF系数，使得公式(3)中残余的干扰和噪声项很小。更准确地说，优化FFF的z变换F(z)，使得公式(3)中的

在均方的意义上接近于y_n。

实践中，FFF和FBF通常由有限冲击响应(FIR)滤波器实现，在初始的训练/前导/自适应周期期间，通过假定最佳限制器性能，即 $\mathrm{\σ}\left({\hat{y}}_n\right)=y_n,$ 从而对导频码元“训练”FFF和FBF。这是通过旁路限制器并把本地生成的(因此是正确的)导频码元而不是经限制的(因此可能是错误的)导频码元判决反馈到FBF中而完成的。在训练期间可以为滤波器系数优化实现多种算法，包括自适应算法，比如最小均方(LMS)、递归最小平方(RLS)、直接矩阵反转等等。一旦训练周期完成，限制器360就工作，并且通过FBF反馈经限制的数据码元。

常规的DFE优化算法引入了多种潜在的问题。对于采用强编码的系统而言，限制器判决通常有很大的码元差错率(SER)。例如，在以1％的分组差错率点工作时，25％或更多的SER对于采用中间大小星座以及低速率turbo码的系统而言是常见的，所述中间大小的星座比如16-QAM，所述低速率turbo码比如1/3速率。另一方面，DFE的FFF和FBF系数通常根据不正确的假设来优化：即假设限制器的判决完全是可靠的。

此外，FFF和FBF系数是假定因果ISI被完全消除而优化的。结果，以较大因果ISI的代价减少了反因果ISI。根据这里提供的公式(尤其是公式(1)-(3))，常规的DFE优化算法导致的g_k值对于k＞0很大，但对于k＜0很小。然而，当限制器SER不可忽略时，错误的码元判决影响到FBF并且此后被不正确地减去。当对于k＞0的g_k值很大时，残余的干扰从而被放大，可能导致随后码元上的进一步限制器误差。这一现象称为误差传播。

减轻误差传播的尝试包括反馈训练期间经限制的导频码元，这与通过反馈本地生成的(因此是正确的)导频采样而训练FFF和FBF相反。经限制的导频码元偶尔出错，强制FFF和FBF进行相应的调节。该方法也不是没有问题的。经限制的导频码元和经限制的数据码元可能招致与一般经由BPSK发送的导频码元非常不同的差错率，所述BPSK即2-PSK(或其它较小的星座)，但是数据码元一般经由较大的星座发送。结果，导频码元和数据码元的SER可能很不同。在该情况下，由于FFF和FBF系数是基于经限制的导频码元而优化的，因此那些系数在处理数据码元时的效应导致次优的性能。

这些问题通过优化FFF和FBF系数以弥补图3的限制器360所引起的误差而解决。换言之，修改系数优化器362以认识到由于限制器误差，可能不能完全删除因果ISI。这一方法不同于以前的方法，以前的方法隐含地假定限制器是无误差的，因此能完全删除因果ISI。

一实施例背后的理论是用一独立的、同分布的(i.i.d)“信道”，标记为

来建模限制器操作。“信道”是独立于在公式(0)中被指定为{η_n}的噪声过程而假设的，所发送的码元序列被指定为{y_n}。“信道”完全由其条件密度

表征，其中

和y分别表示限制器的输出和实际发送的码元。假定这一信道是FBF中码元误差的原因。实践中，码元误差以突发形式出现，因为当前码元上的限制器误差意味着后续的码元被不正确划分的概率上升。在这里考虑的简化限制器模型中，限制器误差是被假定为i.i.d。

图2说明了具有判决反馈均衡器的通信系统的概念模型300。通过由传输函数H(z)建模的通信信道发送的码元在加法节点304处被加性噪声污染。所产生的信号被FFF 306滤波。通过在加法节点308减去一误差项而产生原始发送的码元的估计。原始发送码元的估计可供解码器316使用。误差项由因果反馈滤波器310生成，其传输函数为B(z)，对“信道”314的输出进行滤波。由反馈滤波器310所产生的误差项表示FFF 306的输出中存在的因果ISI的估计。“信道”

模仿图3中限制器360的统计行为，即信道314的输入和输出之间的统计关系等同于发送码元y_n和限制器360的相应输出 ${\tilde{y}}_n=\mathrm{\σ}\left({\hat{y}}_n\right)$ 之间的统计关系。系数优化器320负责优化FFF 306和FBF 310的滤波器系数。注意到图3和2之间的主要差异是用“信道”

314的概念模型代替了限制器360。

如上所述，限制器在图2中这样建模：通过选择“信道”以在忽略限制器误差在时上的统计相关性的同时、建模实际限制器的统计行为。由于实际的限制器工作在均衡器输出上，由之而来的是相关的边际统计量涉及残余干扰。令SINR表示均衡器输出处的信号对干扰和噪声比，即在图2中加法节点308的输出处。假定均衡器输出处的残余干扰和噪声可以被建模为零均值的复数高斯随机变量Z，其具有独立的实部和虚部，每个变量的方差为σ²，其中：

${\mathrm{\σ}}^2=\frac{1}{2\left(\mathrm{SINR}\right)}---\left(6\right)$

边际统计量由等价的信道

给出，其中：

$Q\left(\tilde{y}\right|y)=\mathrm{Pr}\{\mathrm{\σ}(y+Z)=\tilde{y}\}---\left(7\right)$

其中σ()表示最小距离限制函数，给出如下：

$\mathrm{\σ}\left(\hat{y}\right)=\arg$ $\underset{y\∈Y}{\min }{\left|\right|\hat{y}-y\left|\right|}^2---\left(8\right)$

公式(7)中的Z是零均值的复数高斯随机变量，表示具有上述属性的残余干扰。图4说明了按照上述假设和公式建模的信道

特别是，图2中

314的数学描述被说明为系统380。限制器384的输入由

表示，并被建模为受附加噪声和干扰破坏的发送码元y。噪声和干扰由复数高斯随机变量Z来建模。限制器384实现如公式(8)所述的最小距离限制函数，导致标记为

的限制器输出。连接y和

的联合统计量组成了“信道”

的模型的完整数学描述。图4所述信道的构成是新颖的，其不同于以前的方法，因为噪声Z具有非零值方差。以前的方差隐含地假定Z一致地等同于零。因此，与假定限制器是无误差的以前方法相反，假定这一限制器的模型作出判决误差。

返回图2，令f_Q和b_Q表示为使所发送的码元y_n(信道302的输入)和码元估计(加法节点308)之间的均方误差最小而选择的FFF和FBF系数。换言之，系数f_Q和b_Q是“维纳MMSE最优值”。为了下面将清楚了解的原因，这些系数称为“维纳合成DFE”系数。系数f_Q和b_Q可由标准的维纳-霍夫(Wiener-Hopf)最优来确定，并可由下列公式定义：

$\left[\begin{array}{c}{f}_Q\\ b_Q\end{array}\right]={\left[\begin{array}{cc}{R}_F& {\mathrm{\ρ}}_Q{R}_{F,B}\\ {\mathrm{\ρ}}_Q^{*}{R}_{F,B}^H& R_B\end{array}\right]}^{-1}\left[\begin{array}{c}{p}_F\\ 0\end{array}\right],---\left(4\right)$

其中R_F表示FFF内容的协方差，R_B表示FBF内容的协方差，R_F，B表示FFF和FBF内容的互协方差，p_F表示FFF的内容和所发送码元之间的互协方差。这些协方差和互协方差取决于H(z)所描述的线性信道302。假定以相等的概率使用Y内的码元，Y即发送星座，则ρ_Q被定义为：

${\mathrm{\ρ}}_Q=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}\left[{\tilde{y}}^{*}y\right]Q\left(\tilde{y}\right|y)---\left(5\right)$

其中|Y |表示Y的集的势，即发送星座内可能的码元数。这样，对于给定的以及具有z变换H(z)的信道而言，MMSE系数f_Q和b_Q通过应用公式(4)和(5)来确定。

考虑到通过假设均衡器输出处的SINR值而根据公式(6)和(7)定义

于是应用公式(4)和公式(5)导出MMSE系数f_Q和b_Q。当FFF和FBF系数的这些值用作图2内的FFF 306和FBF 310内时，均衡器输出处所产生的SINR可能不同于原始假设的SINR值。因此所假设的SINR值可能一致也可能不一致。然而，通过迭代，即通过使用最新找到的SINR值来定义新的“信道”找到相应的一组新的MMSE系数等等，可以找到一致的SINR值，因此找到一组一致的MMSE系数f_Q和b_Q。这一迭代过程如下数学地表示：

(SINR)⁰→(f₀，b₀)→(SINR)¹→(f₁，b₁)→(SINR)²...

特别是，迭代算法可用于计算维纳合成DFE。本实施例的算法在图5中说明。通过在步骤402设n＝0并任意地选择SINR⁰，过程400开始。通过在步骤404应用公式(5)、(6)和(7)来确定SINRⁿ和计算ρ(SINRⁿ)，过程继续。在步骤406中通过使用公式(4)来计算滤波器系数f_n、b_n。根据本实施例，该过程在步骤408计算SINRⁿ⁺¹＝SINR(f_n，b_n，SINRⁿ)。注意到SINR(f，b，x)表示均衡器输出处的SINR，FFF系数为f，FBF系数为b，且限制器信道为Q(.|.)具有SINR为x。限制器信道由公式(6)和公式(7)定义。如果过程在判决菱形410处收敛，则处理继续到步骤412以便设置滤波器系数。如果过程不收敛，则处理返回到步骤404。

注意到如图5迭代算法中所述，SINR⁰的值可以任意选择。两个极值SINR⁰＝0、SINR⁰＝∞分别对应于以总体上不可靠的限制器开始或以理想的限制器开始。

注意到ρ表示限制器的输出和实际发送的码元之间的相关，这样，ρ是均衡器的输出SINR的函数。如果均衡器的输出相当有噪声的，相关性很小。在该情况下，限制器的码元相当不可靠，不可能有因果ISI的精确估计。正如预期的，在该情况下，图5的算法收敛于与线性均衡器的系数很像的FFF和FBF系数，所述线性均衡器即FBF系数被强制为零的均衡器。另一方面，当均衡器的输出几乎无噪声时，限制器的相关ρ趋于1。在该情况下，图5的算法收敛于与“理想”DFE很像的FFF和FBF系数，所述DFE即完全可靠的限制器。在这两个极值之间，图5的算法收敛于为这两个极值的“混合”的FFF和FBF系数。这一“混合”是由迭代算法自动完成的。为此，这样获得的FFF和FBF系数被称为“混合DFE”系数。

此前描述的实施例要求明确知道信道H(z)以便构造公式(4)的各个协方差和互协方差。于是通过对公式(4)求解f_Q、b_Q而确定维纳混合FFF和FBF系数。然而，在实践中，H(z)一般在接收机处未知，因此另一种确定FFF和FBF的维纳混合DFE系数的方法是期望的。另一实施例，称为自适应混合DFE，不要求明确知道信道H(z)。首先，把均方误差(MSE)定义为：

$\mathrm{MSE}=E{|y_n-{\hat{y}}_n|}^2---\left(9\right)$

$=E{|y_n-f^H{X}_n-b^H(Z_n+{\mathrm{\Δ}}_n)|}^2$

其中X_n是FFF在时刻n的内容，Z_n是假定无误差反馈的FBF内容，Δ_n是“信道”

所引入的反馈码元误差。由于

所引入的误差假定是i.i.d并且是独立的，因此公式(9)可写为：

$\mathrm{MSE}=E{|y_n-f^H{X}_n-b^H{Z}_n|}^2+b^{H}E\left({\mathrm{\Δ}}_n{\mathrm{\Δ}}_n^H\right)b---\left(9a\right)$

$=E{|y_n-f^H{X}_n-b^H{Z}_n|}^2+{\left|\right|b\left|\right|}^2{E}_Q{\left|\right|\tilde{y}-y\left|\right|}^2$

其中E_Q表示关于

的“期望”。由于在公式(5)中发送星座被归一化为单位能量和ρ_Q的定义，因此导致：

$E_Q{\left|\right|\tilde{y}-y\left|\right|}^2=E_Q{\left|\right|y\left|\right|}^2+E_Q{\left|\right|\tilde{y}\left|\right|}^2-2E_Q{\tilde{y}}^{*}y$

$\≈1+{{\mathrm{\λ}}_Q}^2-2{\mathrm{\ρ}}_Q---\left(9b\right)$

其中

${{\mathrm{\λ}}_Q}^2=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\left|\tilde{y}\right|}^{2}Q\left(\tilde{y}\right|y)$

把公式(9b)与公式(9a)组合起来得到：

MSE＝E|y_n-f^HX_n-b^HZ_n|²+(1+λ_Q ²-2ρ_Q)||b||²   (9c)

注意到公式(9c)中出现的||b||²可以被解释为FBF系数中的“能量”。公式(9c)是用于导出各种自适应算法的起始点。例如，为了基于递归最小平方(RLS)方法而导出自适应算法，通过用简单的例如n＝1，...，N上的样本均值来替换统计期望，从而定义了新的代价函数。然后应用标准的技术来导出该代价函数的递归优化程序。一实施例实现了如下定义的代价函数的RLS优化程序：

$\mathrm{MSE}=\left[\frac{1}{N}\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{|y_n-f^H{X}_n-b^H{Z}_n|}^2\right]+{\mathrm{\α}}_Q{\left|\right|b\left|\right|}^2---\left(9d\right)$

其中：

α_Q＝1+λ_Q ²-2ρ_Q    (9e)

注意到α_Q可能被称为“反馈滤波器系数的经修改的能量度量”或“误差校正项”。可以对传输中存在的导频码元执行RLS优化。

最小均方算法：优化公式(9c)的另一实施例是基于最小均方(LMS)算法。最小均方(LMS)算法递归地调节混合DFE的FFF和FBF系数以便使公式(9c)中定义的MSE最小。对于固定的信道而言，最小均方(LMS)算法更新给出为：

$f_{n+1}=f_n-{\mathrm{\μE}}^{-}\left\{\frac{\∂\mathrm{MSE}}{\∂f_n}\right\}---\left(10a\right)$

$b_{n+1}=b_n-{\mathrm{\μE}}^{-}\left\{\frac{\∂\mathrm{MSE}}{\∂b_n}\right\}---\left(10b\right)$

其中MSE在公式(9c)中定义，μ是LMS步距，E^-表示丢掉公式(9c)定义中的统计期望。计算偏导数得到：

$f_{n+1}=f_n+\mathrm{\μ}{X}_n{e}_n^{*};---\left(11\right)$

$b_{n+1}=(1-\mathrm{\μ}(1+{{\mathrm{\λ}}_Q}^2-2{\mathrm{\ρ}}_Q))b_n+\mathrm{\μ}{Z}_n{e}_n^{*};---\left(12\right)$

$=(1-\mathrm{\μ}{\mathrm{\α}}_Q)b_n+\mathrm{\μ}{Z}_n{e}_n^{*}---\left(12a\right)$

$e_n=y_n-f_n^H{X}_n-b_n^H{Z}_n.---\left(13\right)$

当μ的值被选择为适当小时，公式(11)到公式(13)定义的迭代的顺序是稳定的，并收敛为能求解公式(4)的一组系数。注意到该迭代顺序不要求明确估计公式(4)中的协方差和互协方差。

图6说明了按照一实施例的LMS算法。算法500通过在步骤502中选择初始SINR⁰值开始。此外，索引k被初始化为k＝0。在步骤504中，估计SINR^k的值，并且计算或从预先计算的查找表(LUT)中确定ρ(SINR^k)。根据传输中的导频码元迭代地计算上面给出的公式(11)到(13)，直到在步骤510满足收敛标准为止。这种迭代的结果确定了(f_k，b_k)的值。在步骤508，该过程估计SINR^k+1，它是在FFF和FBF系数为(f_k，b_k)时在均衡器输出处的SINR。该估计可以使用传输中的导频码元来完成。然后，该过程递增索引k。当SINR^k在判决菱形510处收敛时，过程继续到步骤512以便应用滤波器系数。否则，处理返回步骤504。

具有周期导频脉冲的算法：按照另一实施例，通信系统结合了周期性发送的导频突发，接收机使用所述导频突发来调节接收机的均衡器内的滤波器系数。这种调节通常称为“训练均衡器”。这一系统的例子是支持高数据速率(HDR)的系统，所述HDR在“TIA/EIA-IS-856CDMA2000High Rate Packet Data Air InterfaceSpecification”(IS-856标准)中定义。在HDR系统中，每隔0.833ms发送96个导频码元。每一组96的导频码元被称为一“导频突发”。在导频突发之间，HDR系统发送指向接收机的数据码元。图7说明了在这一系统中应用基于LMS的混合DFE的算法。算法600最初在步骤602中把SINR⁰设为等于0或∞。SINR的最初选择没有指定且不是关键的，尽管对于最快的收敛而言，SINR°等于∞会是优选的。索引k还被初始化并被设为0。在步骤604，算法确定SINR^k，计算ρ(SINR^k)或通过查询预先计算的查找表来确定必要的值。在步骤606中，f和b的初始值被设为f₀＝0，b₀＝0。在步骤608，在第(k+1)个导频突发期间，该过程对于导频突发的所有码片迭代公式(11)到(13)。在当前的HDR例子中，算法600迭代导频突发的96个码片，并且保存f和b的最终值。在步骤610，该过程使用前一导频突发的96个码片来估计SINR^k+1。在(k+1)个导频突发后的数据部分期间，所保存的f和b值被加载到FFF和FBF内，并且以标准的判决-反馈方式使数据码元均衡(步骤612)。在步骤614，该过程计算ρ(SINR^k+1)的值并递增k。过程继续在解调操作期间实现该算法。

图7的算法对于缓慢时变的信道是自适应的，比如类稳态SINR^k，因此，并不预期ρ(SINR^k)在LMS算法的收敛时间上会改变很多。

软限制器：如上所述，误差传播大大限制了DFE在采用信道编码的通信系统中的使用。由于通过单独码元上的反馈判决消除了因果ISI，因此单独隔离的判决误差可能导致随后判决误差的突发，大大提高了均衡器输出处的残余干扰。如果信道编码很强，则码元判决误差的概率不可忽视(一般在25％的数量级上)，误差传播会对DFE的性能造成严重的效应。一种避免这种误差传输引入的效应的方法是认识到通常的“最小距离”限制器不向码元判决附着任何置信水平。换言之，常规的限制器判决不为码元判决的准确性或正确性提供任何度量。如果已知一判决具有令人怀疑的准确性，与通过减去不正确的判决来冒险复合残余干扰相比，最好是避免消除该码元对后光标尾部的作用。换言之，低准确度的码元判决不应被包括在消除因果ISI的反馈回路中。

把置信水平结合在判决过程内的限制器的一个实施例在此称为“软限制器”。下面讨论的数学模型描述了一种软限制器。首先，假定限制器的输入码元给出为：

$\hat{y}=y+n---\left(14\right)$

其中y是属于星座Ψ的已发送码元，n由残余噪声和码元间干扰组成。假定y在Ψ上均匀分布，使得所有星座点都以相等的概率被发送。令

是度量当限制器在已发送码元为y时决定

值时引起的损耗的损耗函数。由贝叶斯规则给出最优的限制器 $\mathrm{\σ}:\hat{y}\→\tilde{y},$ 其中“最优的”是指使期望损耗最小的限制器：

$\mathrm{\σ}\left(\hat{Y}\right)=\arg$ $\underset{\tilde{y}\∈\mathrm{\Ψ}}{\min }E\left\{L(Y,\tilde{y})\right|\hat{Y}\}---\left(15\right)$

对于最小误差概率(MEP)损耗函数给出为：

$L(y,\tilde{y})=\left[\begin{array}{c}0,y=\tilde{y}\\ 1,y\≠\tilde{y}\end{array}\right.---\left(16\right)$

期望的损耗导致：

$E\left\{L(Y,\tilde{y})\right|\hat{Y}\}=\mathrm{Pr}\{Y\≠\tilde{y}\left|\hat{Y}\right\}---\left(17\right)$

$=1-\mathrm{Pr}\{Y=\tilde{y}|\hat{Y}\}$

因此：

$\mathrm{\σ}\left(\hat{Y}\right)=\arg \underset{\tilde{y}\∈\mathrm{\Ψ}}{\max }\mathrm{Pr}\{Y=\tilde{y}|\hat{Y}\}---\left(18\right)$

此外，假定干扰n是具有零均值且方差为σ²的高斯随机变量，则：

$\mathrm{\σ}\left(\hat{Y}\right)=\arg \underset{\tilde{y}\∈\mathrm{\Ψ}}{\min }{\left|\right|\hat{Y}-\tilde{y}\left|\right|}^2---\left(19\right)$

独立于σ²。这是传统的“最小距离”限制器，尽管它对于公式(16)的损耗函数是“贝叶斯最优的”，然而由于上述原因，该限制器会导致误差传播。另一限制器设计考虑了平方损耗函数：

$L(y,\tilde{y})={\left|\right|y-\tilde{y}\left|\right|}^2---\left(20\right)$

它不像MEP损耗函数，而是会使较大的误差比较小的误差更为恶化。以下来自公式(15)：

$\mathrm{\σ}\left(\hat{Y}\right)=\arg \underset{\tilde{y}\∈\mathrm{\Ψ}}{\min }E\left\{{\left|\right|Y-\tilde{y}\left|\right|}^2\right|\hat{Y}\}---\left(21\right)$

$=E\left\{Y\right|\hat{Y}\}$

条件均值等于：

$\mathrm{\σ}\left(\hat{Y}\right)=\underset{y\∈\mathrm{\Ψ}}{\mathrm{\Σ}}y\left[\frac{e^{\frac{{\left|\right|\hat{Y}-y\left|\right|}^2}{2{\mathrm{\σ}}^2}}}{\underset{y\∈\mathrm{\Ψ}}{\mathrm{\Σ}}{e}^{\frac{{\left|\right|\hat{Y}-y\left|\right|}^2}{2{\mathrm{\σ}}^2}}}\right]---\left(22\right)$

一重要的观察在于，不像公式(19)的限制器，公式(22)的限制器要求干扰和噪声方差的估计(例如， ${\mathrm{\σ}}^2=\frac{1}{2\left(\mathrm{SINR}\right)}$ )。还注意到，公式(22)的限制器对应于星座码元上后验分布的矩心，即在公式(22)中方括号[...]中该项的矩心。因此，如果σ²很大，则假设对称星座上的均匀先验分布意味着几乎均匀的后验分布，因此矩心近似为零。另一方面，当σ²很小时，后验分布质量大部分集中在实际发送的码元及其相邻的星座点上；因此矩心接近于所发送的码元。公式(22)中的限制器因此被称为“软限制器”。

软限制器可用于具有最小量修改的自适应混合DFE中。选择FFF和FBF系数以便优化MSE的以下定义：

$\mathrm{MSE}=E{|y_n-f^H{X}_n-b^H{Z}_n|}^2+(1-2{\mathrm{\ρ}}_Q+{\mathrm{\λ}}_Q^2){\left|\right|b\left|\right|}^2---\left(23\right)$

其中

${\mathrm{\ρ}}_Q=E_Q\left\{{\tilde{Y}}^{*}Y\right\}---\left(24a\right)$

类似于公式(5)，λ_Q ²被定义为：

${\mathrm{\λ}}_Q^2=E_Q\left\{{\left|\tilde{Y}\right|}^2\right\}---\left(24b\right)$

“信道”

被定义为：

$Q\left(\tilde{y}\right|y)=\mathrm{Pr}\{\mathrm{\σ}(y+Z)=\tilde{y}\}---\left(25\right)$

其中σ(.)表示公式(22)中定义的软限制器，Z是以和公式(7)完全相同的方式定义的复数高斯噪声。在基于LMS算法上的优化方案的相似推导后，我们发现公式(11)、(12)和(13)不变，除了 ${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$ 是基于公式(24a)、(24b)和公式(25)中定义的软限制器而计算的以外。跟以前一样，泄漏因数(1-2ρ_Q+λ_Q ²)是SNR相关的，并且可由一查找表确定。

上述基于LMS的算法不要求其它变化。在时隙的导频/训练部分期间，像以前一样执行自适应；在时隙的数据部分期间，使用条件均值限制器来代替“硬的”、最小距离的限制器。

软限制器内涉及的计算，也就是公式(22)，对于某些实践实现来说可能过于复杂。一实施例简化了限制器设计以便将限制器输出限制为最多取N个值。等价地说，这个量将限制器输入限制为最多取N个值。换言之，使用由 $Q:\hat{Y}\→\{{\hat{Y}}_1,...,{\hat{Y}}_N\}$ 定义的量化器把限制器输入

量化为N个点之一。于是对于k＝1，...，N，被计算为：

$\mathrm{\σ}\left(\hat{Y}\right)={\mathrm{\σ}}_k,$ 如果 $Q=\left(\hat{Y}\right)={\hat{Y}}_k---\left(26\right)$

其中：

${\mathrm{\σ}}_k=E\left\{Y\right|\hat{Y}\∈Q^{-1}\left({\hat{Y}}_k\right)\}---\left(27\right)$

经量化的限制器的操作可以总结为：1)把

量化为N个可能值之一；以及2)使用该值和SINR作为查找表中的索引以确定 $\tilde{Y}=\mathrm{\σ}\left(\hat{Y}\right).$ 由于该设计内的复杂度取决于步骤1)，因此进一步的简化会把

限制为取决于一均匀平方栅格，然后通过使用“最接近的邻居”准则单独量化

的实部和虚部来量化。这一限制器功能可以用简单逻辑来实现，即通过首先根据

的实坐标来计算最接近的邻居集合、然后基于

的虚坐标计算该子集内最接近的邻居。此外，查找表按SINR相当粗糙，对于大多数实现来说1dB步距便足够。例如，给出SINR＝5dB和SINR＝6dB的{σ_k}查找表，例如5.4dB的中间SINR值的σ_k值可以通过在两个查找表间适当内插来确定。换言之，中间SINR值处的适当σ_k值可以在限制器设备内生成，从而减少了必要的内存/存储要求。

作为将软限制器应用于混合DFE(HDFE)的说明，考虑图8A和8B。图8A说明了8一PSK星座，其中8个复数码元表示为调制而映射的3个已编码比特。如图所示，圆周表示用于发射机处调制的星座点。“x”标记表示在接收机处接收到的采样，并且包括传输期间引入的噪声和干扰。注意到接收到的采样不必要与实际的星座码元相匹配。在该情况下，接收机决定实际发送了哪个星座码元。一般而言，接收点集中在实际发送的星座码元周围。

一种从接收采样确定发送码元的方法是把星座图分成多个块，如图8B所示。这里星座图被分成8块：702、704、706、708、710、712、714和716。这些块是按照例如最小距离度量确定的，所述最小距离度量使用两个星座点之间的欧几里德距离或间隔来选择边界。当接收到的采样在两个星座点之间近似等价(即近似在边界上)时存在一个问题。在该情况下，如果判决过程是选择错误的星座码元，该误差会在DFE的反馈回路中传播。为了避免这种误差和DFE中相关的放大，应用了一软限制器，其输出一个在星座码元处的不必要的值。软限制器从接收到的采样隐含地确定置信水平。置信水平向系统提供了评估采样的向导。如果置信水平很低，即可能有误差，在均衡器的反馈部分中未强调该采样。如果置信水平很高，则采样被认为是可靠的，因此从中导出的适当码元估计可用于均衡器的反馈部分中。

图9A说明了2-PSK的星座图。注意到基于来自星座码元的最小距离作出的判决会导致接收采样的误差，比如由“x”标记的采样。按照一实施例应用软限制器把星座图分成图9B所示的矩形。如图所示，诸如矩形720这样的矩形在y方向上是半无限的，不是所有矩形都包含星座码元。当限制器的输入采样落在半无限矩形之一内时，分配一条件均值。实际上矩形内的所有点都被映射到一公共值。该值表示已发送码元的条件均值，只要限制器的输入采样落在所关心的矩形内。每个矩形到相应的条件均值的映射都是信号对干扰和噪声比(SINR)的函数。例如，对于处在第一电平的SINR，例如SINR＝4dB，给定的矩形可以映射到σ。对于处在第二电平的SINR，例如SINR＝5dB，同一矩形可以映射到σ′。映射和相关的条件均值被保存在查找表内以便检取。另一实施例按照预定的算法计算条件均值。注意到正方形或矩形栅格能容易地实现，并可扩展到更为复杂的星座图。

图10说明了使用软限制器的均衡器800。均衡器800包括与加法节点804耦合的FFF 802。FFF 802由一自适应的均衡算法908控制。自适应的控制单元808响应于SINR估计单元816。在另一实施例中，SINR估计单元816可以用MSE估计单元来实现。SINR估计单元816向查找表(LUT)810提供SINR估计。SINR估计与查找表810内保存的值结合使用，来确定按照公式(24a)、(24b)和(25)定义的 ${\mathrm{\α}}_Q\left(\mathrm{SINR}\right)=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q.$ 通过迭代公式(11)、(12)和(13)，自适应均衡算法808使用从查找表810产生的α_Q值来更新FFF 802和FBF 806的系数。注意到公式(11)、(12)和(13)是基于LMS算法并被设计成优化公式(23)内定义的MSE代价函数。在另一实施例中，自适应均衡算法808可以实现另一自适应滤波算法，比如RLS，来优化公式(23)中定义的MSE代价函数。FBF 806输出一对FFF 802的输出中存在的因果ISI的估计。FBF 806输出与加法节点804耦合，其中它从FFF 802的输出中被减去。加法节点804的输出，即已发送码元的估计，然后被提供给解码器820、SINR/MSE估计单元816、并被提供给软限制器812。软限制器812从SINR/MSE估计单元816接收SINR/MSE估计，并且产生已发送码元的进一步估计，并输出该进一步的码元估计用于FBF 806中的滤波。

图11是按照一实施例结合软限制器的软限制器过程的流程图。在步骤902中，过程首先确定一区域，比如星座图上的栅格平方或矩形，其对应于限制器输入采样的量。在步骤904中，确定SINR值。在步骤906中，过程根据SINR值的函数来选择一适当的映射。按照一实施例，内存存储设备的单独部分保存单独的查找表。这些表格按照SINR值被处理。在步骤908中，从适当的映射中确定条件均值，这就是限制器输出。

另一软限制器实施例向星座图应用一平方栅格，并且使用泰勒展开来产生更为准确的条件均值。在该实施例中，多个较小的查找表保存与每个SINR值相对应的值。图12中说明了过程920。在步骤921中确定软限制器输入

的区域。在步骤922中，确定SINR值。在步骤924中，SINR值用于确定适当的映射σ₁(.)和σ₂(.)。步骤920的区域被映射为一值

其中i对应于该区域。然后在步骤926执行与SINR值和步骤920的区域相对应的第二映射以获得

在步骤928中把条件均值近似为 ${\mathrm{\σ}}_1\left({\hat{y}}_i\right)+(\hat{y}-{\hat{y}}_i){\mathrm{\σ}}_2\left({\hat{y}}_i\right).$ 映射σ₁(.)和σ₂(.)与公式(22)中定义的σ(.)的第0阶和第1阶数密切相关。

图13说明了按照一实施例的软限制器954。SINR估计器952接收一个或多个码元估计并且输出一SINR估计值SINR(n)。SINR(n)可以在可任选的量化器956内被量化，并被提供给内存存储器960，比如查找表。对应于软限制器输入的码元估计也被提供给量化器956，其中码元估计被量化，经量化的值与SINR估计结合使用，用来确定内存存储器960中保存的相应值。注意到在一实施例中，信息被保存在行和列中，其中行对应于SINR值，列对应于码元值。然而，其它实施例可以以多种方式的任一种来保存信息，其中信息可基于SINR值和码元值来检取。给出软限制器输入估计，比如公式(22)、(26)和(27)中定义的估计，内存存储器960中保存的值可以是实际星座码元的条件均值。图14说明了按照另一实施例的软限制器980，其实现一泰勒级数计算。如图所示，把一个或多个接收码元提供给SINR估计器982，并且把与软限制器输入相对应的一个码元估计也直接提供给软限制器980。注意到接收码元被传输信道破坏，因此这里也称为接收到的“采样”。SINR估计器982把SINR估计SINR(n)提供给软限制器980。SINR(n)可以被提供给可任选的量化器986。无论SINR(n)是否被量化，它都被提供给两个内存存储单元A 988和B 990。软限制器输入码元估计被提供给量化器984，量化器984的输出也被提供给内存存储单元A 988和B 990。内存存储单元A 988和B 990存储用于计算实际星座码元的条件均值的信息，给定软限制器输入码元估计。这些值可以是实际星座码元的条件估计的第0阶和第一阶导数，给定软限制器输入码元估计，比如在公式(22)、(26)和(27)中给出的估计。SINR(n)值和经量化的码元值用来标识内存存储器A 988和B 990中相应的值。加法单元992用来实现泰勒级数计算。软限制器输入码元估计以及经量化的值被提供给加法单元992。此外，内存存储单元A 988和B 990中存储的值也被提供给加法单元992。加法单元992使用这些输入来计算一输出，该输出是实际星座码元的条件平均估计。虽然已经参照无线通信系统描述了本发明，然而这一系统仅被提供作为一个例子。这里描述的概念可应用于各种通信系统中，包括、但不限于有线通信系统，比如在有线调制解调器等等内的实现。本发明可用于高数据速率通信系统中，并能通过提高接收机敏感度以及提高通信数据速率来优化数据通信系统中的资源和容量。本领域的技术人员可以理解，信息和信号可以用多种不同技术和工艺中的任一种来表示。例如，上述说明中可能涉及的数据、指令、命令、信息、信号、比特、码元和码片可以用电压、电流、电磁波、磁场或其粒子、光场或其粒子或它们的任意组合来表示。

本领域的技术人员能进一步理解，结合这里所公开的实施例所描述的各种说明性的逻辑框、模块和算法步骤可以作为电子硬件、计算机软件或两者的组合来实现。为了清楚说明硬件和软件间的互换性，各种说明性的组件、框图、模块、电路和步骤一般按照其功能性进行了阐述。这些功能性究竟作为硬件或软件来实现取决于整个系统所采用的特定的应用和设计约束。技术人员可能以对于每个特定应用不同的方式来实现所述功能，但这种实现决定不应被解释为造成背离本发明的范围。

结合这里所描述的实施例来描述的各种说明性的逻辑框、模块和算法步骤的实现或执行可以用：通用处理器、数字信号处理器(DSP)、应用专用集成电路(ASIC)、场可编程门阵列(FPGA)或其它可编程逻辑器件、离散门或晶体管逻辑、离散硬件组件或者为执行这里所述功能而设计的任意组合。通用处理器可能是微处理器，然而或者，处理器可以是任何常规的处理器、控制器、微控制器或状态机。处理器也可能用计算设备的组合来实现，如，DSP和微处理器的组合、多个微处理器、结合DSP内核的一个或多个微处理器或者任意其它这种配置。

结合这里所公开实施例描述的方法或算法的步骤可能直接包含在硬件中、由处理器执行的软件模块中或在两者当中。软件模块可能驻留在RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM或本领域中已知的任何其它形式的存储媒质中。示例性存储媒质与处理器耦合，使得处理器可以从存储媒质读取信息，或把信息写入存储媒质。或者，存储媒质可以与处理器整合。处理器和存储媒质可能驻留在ASIC中。ASIC可能驻留在用户终端中。或者，处理器和存储媒质可能作为离散组件驻留在用户终端中。

上述优选实施例的描述使本领域的技术人员能制造或使用本发明。这些实施例的各种修改对于本领域的技术人员来说是显而易见的，这里定义的一般原理可以被应用于其它实施例中而不使用创造能力。因此，本发明并不限于这里示出的实施例，而要符合与这里揭示的原理和新颖特征一致的最宽泛的范围。

Claims (22)

1.一种通过确定判决反馈均衡器内的滤波器系数而用于混合判决反馈均衡的方法，所述判决反馈均衡器具有一前馈滤波器和一反馈滤波器，每个滤波器都由多个系数来定义，所述方法包括：

选择用于所述判决反馈均衡器的代价函数，所述代价函数是假定无误差反馈的均衡器输出以及目标均衡器输出加上反馈滤波器系数的经修改的能量度量之间的均方误差MSE；以及

调节所述多个系数直到满足收敛条件为止，其中所述收敛条件是要使代价函数最小。

2.如权利要求1所述的方法，其特征在于，所述多个系数对应于多个滤波器抽头，其中经修改的能量度量是至少一个滤波器抽头的函数。

3.如权利要求1所述的方法，其特征在于，所述代价函数是给出如下的MSE：

$\mathrm{MSE}=\left[\frac{1}{N}\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{|y_n-f^H{X}_n-b^H{Z}_n|}^2\right]+{\mathrm{\α}}_Q{\left|\right|b\left|\right|}^2$

其中y_n是已发送码元，N对应于接收码元数，X_n是时刻n处前馈滤波器的内容，Z_n是假定无误差反馈的反馈滤波器内容，f是前馈滤波器的滤波器系数，b是反馈滤波器的滤波器系数，α_Q是经修改的度量，α_Q||b||²是反馈滤波器系数的经修改的能量度量。

4.如权利要求3所述的方法，其特征在于，经修改的度量α_Q给出为：

${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$

其中ρ_Q是限制器模型的输入和输出的互相关的度量，λ_Q ²是限制器模型的平均输出能量的度量。

5.如权利要求3所述的方法，其特征在于，使用最小均方算法使所述代价函数最小。

6.如权利要求3所述的方法，其特征在于还包括：

产生均衡器输出和目标均衡器输出间MSE的估计；以及

根据MSE的估计的函数选择α_Q。

7.如权利要求3所述的方法，其特征在于还包括：

产生在均衡器输出处的信号对干扰和噪声比SINR的估计；以及

根据SINR的估计的函数选择α_Q。

8.如权利要求3所述的方法，其特征在于，α_Q＝2^m，m＝整数。

9.如权利要求3所述的方法，其特征在于，所述经修改的度量α_Q被定义为：

${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$

其中：

${\mathrm{\ρ}}_Q=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\tilde{y}}^{*}Q\left(\tilde{y}\right|y)$ 以及

其中

${{\mathrm{\λ}}_Q}^2=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\left|\tilde{y}\right|}^{2}Q\left(\tilde{y}\right|y),$ 以及

其中

是限制器信道模型，是限制器输出，y是限制器输入，Y表示发送星座，而|Y|表示发送星座内可能的码元数。

10.如权利要求9所述的方法，其特征在于，所述限制器信道模型被定义为：

$Q\left(\tilde{y}\right|y)=\mathrm{Pr}\{\mathrm{\σ}(y+Z)=\tilde{y}\}$

其中σ(.)表示最小距离限制函数，Z是零均值高斯随机变量，y是限制器输入，

是限制器输出。

11.如权利要求9所述的方法，其特征在于包括：

估计在均衡器输出处的信号对干扰和噪声比SINR。

12.如权利要求3所述的方法，其特征在于，所述代价函数优化包括：

使用最小均方LMS算法来确定滤波器系数和误差项并迭代地计算公式：

$f_{n+1}=f_n+\mathrm{\μ}{X}_n{e}_n^{*};$

$b_{n+1}=(1-\mathrm{\μ}{\mathrm{\α}}_Q)b_n+\mathrm{\μ}{Z}_n{e}_n^{*};$ 以及

$e_n=y_n-f_n^H{X}_n-b_n^H{Z}_n$

其中f表示前馈滤波器的滤波器系数，b表示反馈滤波器的滤波器系数，X表示前馈滤波器内容，α_Q表示反馈滤波器系数的能量的修改的度量，e表示误差项，Z表示假定无误差反馈的反馈滤波器内容，y表示期望的码元，μ表示LMS步距。

13.如权利要求3所述的方法，其特征在于，使用递归最小平方算法使所述代价函数最小。

14.一种混合判决反馈均衡器，包括：

具有多个滤波器抽头的前馈滤波器，所述滤波器抽头具有相应的滤波器系数；

具有多个滤波器抽头的反馈滤波器，所述滤波器抽头具有相应的滤波器系数；

与前馈滤波器和反馈滤波器耦合的系数生成器，适用于更新前馈滤波器和反馈滤波器的滤波器系数以便使预定的代价函数最小，其中所述代价函数是假定无误差反馈的均衡器输出以及目标均衡器输出加上反馈滤波器系数的经修改的能量度量之间的均方误差MSE；

与前馈滤波器的输出和反馈滤波器的输出相耦合的加法节点，所述加法节点被配置成从前馈滤波器的输出中减去反馈滤波器的输出以产生原始发送码元的估计；以及

与加法节点耦合的限制器，所述限制器适用于接收所述估计并确定原始发送的码元。

15.如权利要求14所述的判决反馈均衡器，其特征在于，所述系数生成器适用于：

估计在判决反馈均衡器输出处的导频信号的信号对干扰和噪声比SINR；以及

确定定义如下的经修改的度量α_Q：

${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$

其中：

${\mathrm{\ρ}}_Q=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\tilde{y}}^{*}Q\left(\tilde{y}\right|y)$ 以及

其中：

${{\mathrm{\λ}}_Q}^2=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\left|\tilde{y}\right|}^{2}Q\left(\tilde{y}\right|y),$ 以及

其中

是限制器信道模型，

是限制器输出，限制器信道模型被定义为：

$Q\left(\tilde{y}\right|y)=\mathrm{Pr}\{\mathrm{\σ}(z+Z)=\tilde{y}\}$

其中σ(.)表示最小距离限制函数，Z是零均值高斯随机变量，y是限制器输入，

是限制器输出，Y表示发送星座，而|Y|表示发送星座内可能的码元数。

16.如权利要求15所述的判决反馈均衡器，其特征在于，所述系数生成器还适用于：

根据SINR使用内存存储设备来确定经修改的度量，所述内存存储设备存储经修改的度量。

17.如权利要求15所述的判决反馈均衡器，其特征在于，所述系数生成器适用于：

估计假定无误差反馈的均衡器输出和目标均衡器输出之间的均方误差MSE；以及

确定定义如下的经修改的度量α_Q：

${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$

其中：

${\mathrm{\ρ}}_Q=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\tilde{y}}^{*}Q\left(\tilde{y}\right|y)$ 以及

其中：

${{\mathrm{\λ}}_Q}^2=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\left|\tilde{y}\right|}^{2}Q\left(\tilde{y}\right|y)$

18.如权利要求17所述的判决反馈均衡器，其特征在于，所述系数生成器还适用于：

根据SINR使用内存存储设备来确定经修改的度量，所述内存存储设备存储经修改的度量。

19.一种用于确定判决反馈均衡器内的滤波器系数的方法，所述判决反馈均衡器具有一前馈滤波器和一反馈滤波器，每个滤波器都由多个系数来定义，所述方法包括：

选择所述判决反馈均衡器的代价函数，所述代价函数是假定无误差反馈的均衡器输出和目标均衡器输出加上反馈滤波器系数的经修改的能量度量之间的均方误差MSE；以及

按照递归最小平方RLS算法来调节所述多个系数。

20.一种混合判决反馈均衡器装置，包括：

用于通过为具有一前馈滤波器和一反馈滤波器的判决反馈均衡器选择代价函数，从而确定所述均衡器内的滤波器系数的装置，所述滤波器各自由多个系数定义，所述代价函数被定义为假定无误差反馈的均衡器输出和目标均衡器输出加上反馈滤波器系数的经修改的能量度量之间的均方误差MSE；以及

用于调节所述多个系数直到满足收敛条件的装置，其中所述收敛条件是使所述代价函数最小。

21.一种混合判决反馈均衡器装置，包括：

用于通过应用最小均方LMS算法来迭代地计算以下公式，从而确定具有一反馈滤波器和一前馈滤波器的差分反馈均衡器的滤波器系数以及一误差项的装置：

$f_{n+1}=f_n+\mathrm{\μ}{X}_n{e}_n^{*};$

$b_{n+1}=(1-2\mathrm{\μ}(1-{\mathrm{\ρ}}_Q))b_n+\mathrm{\μ}{Z}_n{e}_n^{*};$

$e_n=y_n-f_n^H{X}_n-b_n^H{Z}_n,$

其中f表示前馈滤波器的滤波器系数，b表示反馈滤波器的滤波器系数，X表示前馈滤波器内容，ρ表示差分反馈均衡器的限制器输出和已发送信号之间的相关，e表示误差项，Z表示假定无误差反馈的反馈滤波器内容，y表示接收到的采样，μ表示LMS步距。

22.一种用于确定判决反馈均衡器内的滤波器系数的方法，所述判决反馈均衡器具有一前馈滤波器和一反馈滤波器，每个滤波器都由多个系数定义，所述方法包括：

选择所述判决反馈均衡器的代价函数，所述代价函数是假定无误差反馈的均衡器输出和目标均衡器输出加上反馈滤波器系数的经修改的能量度量之间的均方误差MSE；以及

调节所述多个系数直到满足收敛条件，其中所述收敛条件是使所述代价函数最小，MSE给出为：

$\mathrm{MSE}=\left[\frac{1}{N}\underset{n=1}{\overset{N}{\mathrm{\Σ}}}{|y_n-f^H{X}_n-b^H{Z}_n|}^2\right]+{\mathrm{\α}}_Q{\left|\right|b\left|\right|}^2$

其中y_n是接收到的码元，N对应于星座图内的点的数目，Xn是在时刻n时前馈滤波器的内容，Zn是假定无误差反馈的反馈滤波器内容，f是前馈滤波器的滤波器系数，b是反馈滤波器的滤波器系数，α_Q是经修改的度量，α_Q||b||²是反馈滤波器系数的经修改的能量度量，

其中经修改的度量α被定义为：

${\mathrm{\α}}_Q=1+{\mathrm{\λ}}_Q^2-2{\mathrm{\ρ}}_Q$

其中：

${\mathrm{\ρ}}_Q=\frac{1}{\left|Y\right|}\underset{y\∈Y}{\mathrm{\Σ}}\underset{\tilde{y}\∈Y}{\mathrm{\Σ}}{\tilde{y}}^{*}Q\left(\tilde{y}\right|y)$ 以及

其中

是限制器信道模型，

是限制器输出，y是限制器输入，Y表示发送星座，而|Y|表示发送星座内可能的码元数，其中限制器信道模型被定义为：

$Q\left(\tilde{y}\right|y)=\mathrm{Pr}\{\mathrm{\σ}(y+Z)=\tilde{y}\}$

其中σ(.)表示软限制函数，Z是零均值高斯随机变量，方差由以下关系式定义：

${\mathrm{\σ}}^2=\frac{1}{2\left(\mathrm{SINR}\right)},$ 以及

其中残余干扰和噪声被建模为具有独立实部和虚部的零均值复数高斯随机变量Z，每个变量的方差都是σ²。

Images